Yapay zeka ajanlarının etiğiyle güreşmeye başlamalıyız

Prabhakar, teknoloji şirketlerinin yapay zekayı daha güvenli ve daha şeffaf hale getirmesi için kurallar belirleyen (gönüllü katılıma dayanmasına rağmen) başkanın 2023’te yapay zekaya ilişkin idari emrini geçirmesinde kilit bir oyuncuydu. Başkan Biden’ın kabinesinde görev yapmadan önce, yarı iletkenlerin yerli üretimi için mitinglerden Pentagon’un ünlü araştırma departmanı DARPA’ya başkanlık etmeye kadar çeşitli hükümet görevlerinde bulundu.

Bu ayın başlarında Prabhakar’la görüşme şansım oldu. Yapay zeka risklerini, göç politikalarını, CHIPS Yasasını, halkın bilime olan inancını ve bunların Trump yönetiminde nasıl değişebileceğini tartıştık.

Yönetim değişikliği yapay zeka için kaotik bir zamanda geliyor. Trump’ın ekibi yapay zekayı nasıl ele alacağına dair net bir tez sunmadı ancak ekipteki pek çok kişi bu kararnamenin yürürlükten kaldırıldığını görmek istiyor. Trump temmuz ayında aynı şeyi söyleyerek bunu onayladı Cumhuriyetçi Platform Kararnamenin “Yapay Zeka inovasyonunu engellediğini ve bu teknolojinin geliştirilmesine Radikal Solcu fikirleri empoze ettiğini” söylüyor. Risk sermayedarı Marc Andreessen gibi güçlü endüstri oyuncuları bu hamleyi desteklediklerini söylediler. Ancak bu anlatıyı karmaşıklaştıran Elon Musk olacak.Yıllardır yapay zekanın kıyamet senaryolarına ilişkin korkularını dile getiren ve yapay zeka güvenliğini artırmayı amaçlayan bazı düzenlemeleri destekleyen kişi. Kimse tam olarak bundan sonra ne olacağını bilmiyor ama Prabhakar’ın şu ana kadar olanlarla ilgili pek çok düşüncesi var.

Son yönetimin en önemli yapay zeka gelişmelerine ve bir sonraki yönetimde neler olabileceğine dair içgörüleri için, Arati Prabhakar ile konuşmamı oku.

Derin Öğrenme

Bu AI Minecraft karakterleri kendi başlarına tuhaf insani şeyler yaptı

Minecraft video oyunu, yapay zeka modelleri ve aracıları için bir test alanı olarak giderek daha popüler hale geliyor. Bu, Altera’nın yakın zamanda benimsediği bir trend girişimi. Birbirleriyle etkileşime geçmek için büyük dil modelleri (LLM’ler) tarafından desteklenen 1000’e kadar yazılım aracısını aynı anda serbest bıraktılar. Metin yönlendirmesi yoluyla sadece bir dürtükle, insan yaratıcılarından başka bir girdi almadan, dikkate değer bir dizi kişilik özelliği, tercihler ve uzman rolleri geliştirdiler. Dikkat çekici bir şekilde, kendiliğinden arkadaşlar edindiler, yeni işler icat ettiler ve hatta dini yaydılar.

Bu neden önemlidir: Yapay zeka aracıları, dijital ortamlarda inisiyatif alarak görevleri yerine getirebilir ve özerklik sergileyebilir. Bu, insanlardan çok az yönlendirmeyle bu tür ajanların davranışlarının nasıl hem etkileyici hem de düpedüz tuhaf olabileceğinin bir başka örneğidir. Ajanları dünyaya getirmek için çalışan insanların onlar için cesur hırsları var. Altera’nın kurucusu Robert Yang, Minecraft deneylerini, dijital alanlarda bir arada var olabilecek ve bizimle birlikte çalışabilecek ajanların yer aldığı büyük ölçekli “Yapay Zeka uygarlıklarına” doğru atılmış ilk adım olarak görüyor. Yang, “Yapay zekanın gerçek gücü, geniş ölçekte iş birliği yapabilen gerçek anlamda özerk ajanlara sahip olduğumuzda ortaya çıkacak” diyor. Niall Firth’ten daha fazlasını okuyun.

Bitler ve Baytlar

OpenAI reklamcılığı araştırıyor