İstenmeyen sonuçlar: ABD seçim sonuçları dikkatsiz yapay zeka gelişiminin habercisi

2024 ABD seçimleri ekonomi ve göç gibi geleneksel konulara odaklanırken, bunun Yapay zeka politikası daha da dönüştürücü olabilir. Yapay zekayla ilgili tek bir tartışma sorusu ya da büyük bir kampanya vaadi olmadan, seçmenler istemeden teraziyi hızlandırıcılar (asgari düzenleyici engellerle hızlı yapay zeka gelişimini savunanlar) lehine çevirdi. Bu hızlanmanın sonuçları çok derin; yeniliğe ihtiyattan ziyade öncelik veren yeni bir yapay zeka politikası çağının habercisi ve yapay zeka ile teknoloji arasındaki tartışmada kesin bir değişimin sinyalini veriyor. Yapay zekanın potansiyel riskleri ve ödülleri.

Başkan seçilen Donald Trump’ın iş dünyası yanlısı duruşu, birçok kişinin yönetiminin yapay zeka ve diğer ileri teknolojileri geliştiren ve pazarlayanları destekleyeceğini varsaymasına yol açıyor. Onun partisi platformu AI hakkında söylenecek çok az şey var. Bununla birlikte, özellikle görevden ayrılan yönetimin mevcut idari emirleri kapsamında “radikal sol fikirler” olarak tanımladıkları şeyleri hedef alarak, yapay zeka düzenlemelerini yürürlükten kaldırmaya odaklanan bir politika yaklaşımını vurguluyor. Buna karşılık platform, ifade özgürlüğünü ve “insan gelişimini” teşvik etmeyi amaçlayan yapay zeka gelişimini destekledi ve teknolojik ilerlemeyi engellediği düşünülen önlemlere karşı çıkarken yapay zekada yeniliği mümkün kılan politikalar çağrısında bulundu.

Önde gelen hükümet pozisyonlarına yapılan atamalara dayanan ilk göstergeler bu yönün altını çiziyor. Ancak daha büyük bir hikaye ortaya çıkıyor: Yoğun tartışmanın çözümü Yapay zekanın geleceği.

Yoğun bir tartışma

O zamandan beri SohbetGPT Kasım 2022’de ortaya çıkan yapay zeka alanında yapay zeka gelişimini hızlandırmak isteyenler ile yavaşlatmak isteyenler arasında şiddetli bir tartışma yaşandı.

Ünlü bir şekilde, Mart 2023’te ikinci grup, en gelişmiş sistemlerin geliştirilmesinde altı aylık bir yapay zeka duraklaması önermiş ve bu konuda uyarıda bulunmuştu. açık bir mektup Yapay zeka araçlarının “toplum ve insanlık için derin riskler” taşıdığını. Bu mektup, öncülüğünde Hayatın Geleceği EnstitüsüChatGPT’nin başlatılmasından birkaç ay sonra OpenAI’nin GPT-4 büyük dil modelini (LLM) piyasaya sürmesiyle harekete geçti.

Mektup başlangıçta aralarında Elon Musk, Apple Kurucu Ortağı Steve Wozniak, 2020 Başkan adayı Andrew Yang, podcast yayıncısı Lex Fridman ve yapay zeka öncüleri Yoshua Bengio ve Stuart Russell’ın da bulunduğu 1000’den fazla teknoloji lideri ve araştırmacı tarafından imzalandı. Mektubu imzalayanların sayısı sonunda 33.000’in üzerine çıktı. Toplu olarak, yapay zekadan kaynaklanan potansiyel varoluşsal riskler hakkındaki endişelerini ifade eden bir terim olan “felaket tellalı” olarak tanındılar.

Herkes aynı fikirde değildi. OpenAI CEO’su Sam Altman imzalamadı. Bill Gates ve diğerleri de bunu yapmadı. Bunu yapmama nedenleri çok çeşitli olsa da çoğu kişi yapay zekanın olası zararları konusundaki endişelerini dile getirdi. Bu, yapay zekanın kontrolden çıkıp felakete yol açma potansiyeli hakkında birçok konuşmaya yol açtı. AI alanındaki birçok kişi için kendi deneyimleri hakkında konuşmak moda oldu. kıyamet olasılığının değerlendirilmesigenellikle denklem olarak anılır: p(doom). Yine de yapay zeka geliştirme çalışmaları duraklamadı.

Kayıt için, Haziran 2023’teki p(doom)’um %5’ti. Bu düşük görünebilir ama sıfır değildi. Büyük AI laboratuvarlarının, yeni modelleri piyasaya sürülmeden önce sıkı bir şekilde test etme ve bunların kullanımı için önemli korkuluklar sağlama çabalarında samimi olduklarını hissettim.

Yapay zeka tehlikelerinden endişe duyan birçok gözlemci, varoluşsal riskleri %5’in üzerinde derecelendirdi, bazıları ise çok daha yüksek puan verdi. Yapay zeka güvenlik araştırmacısı Roman Yampolskiy, yapay zeka olasılığını değerlendirdi İnsanlığı %99’un üzerinde sona erdirmek. Bununla birlikte, bir çalışmak Bu yılın başlarında, seçimlerden çok önce yayınlanan ve 2.700’den fazla yapay zeka araştırmacısının görüşlerini temsil eden rapor, “insanlığın yok olması gibi son derece kötü sonuçlara ilişkin ortalama tahminin %5 olduğunu” gösterdi. Düşme ihtimali %5 olsa uçağa biner miydiniz? Bu, yapay zeka araştırmacılarının ve politika yapıcıların karşılaştığı ikilemdir.

Daha hızlı gitmeli

Diğerleri ise yapay zeka ile ilgili endişeleri açıkça görmezden gelerek, bunun yerine teknolojinin büyük avantajı olarak algıladıkları şeye işaret ettiler. Bunlar arasında Andrew Ng (Google Brain projesini kuran ve yöneten) ve Pedro Domingos (Washington Üniversitesi’nde bilgisayar bilimi ve mühendisliği profesörü ve şu kitabın yazarı) bulunmaktadır:Ana Algoritma”). Bunun yerine yapay zekanın çözümün bir parçası olduğunu savundular. Ng’nin öne sürdüğü gibi, iklim değişikliği ve gelecekteki salgın hastalıklar gibi gerçekten de varoluşsal tehlikeler mevcut ve yapay zeka, bunların ele alınıp hafifletilmesinin bir parçası olabilir.

Ng, yapay zeka gelişiminin duraklatılmaması, bunun yerine daha hızlı ilerlemesi gerektiğini savundu. Bu ütopik teknoloji görüşü, topluca “etkili hızlandırıcılar” veya kısaca “e/acc” olarak bilinen başkaları tarafından da tekrarlandı. Teknolojinin ve özellikle de yapay zekanın sorun değil, dünyadaki sorunların hepsi olmasa da çoğunun çözümü olduğunu savunuyorlar. Başlangıç ​​hızlandırıcı Y Birleştirici CEO Garry Tan, diğer önde gelen Silikon Vadisi liderleriyle birlikte, vizyona uyumu göstermek için X’teki kullanıcı adlarına “e/acc” terimini ekledi. New York Times muhabiri Kevin Roose özü yakaladı Bu hızlanmacıların “tamamen gaz, frensiz yaklaşımı” olduğunu söyleyerek.

Bir Alt Yığın haber bülteni Birkaç yıl önce etkili ivmelenmenin altında yatan ilkeleri tanımlamıştım. İşte makalenin sonunda sundukları özet ve OpenAI CEO’su Sam Altman’ın yorumu.

Yapay zeka ivmesi önde

2024 seçim sonucu, hızlandırmacı vizyonu önümüzdeki birkaç yıl için ABD yapay zeka politikasını şekillendirecek konuma getiren bir dönüm noktası olarak görülebilir. Örneğin, yeni seçilen Başkan yakın zamanda teknoloji girişimcisi ve risk sermayedarı David Sacks’ı “Yapay Zeka Çarı” olarak atadı.

Yapay zeka düzenlemelerinin sesli eleştirmeni ve pazar odaklı inovasyonun savunucusu olan Sacks, teknoloji yatırımcısı olarak deneyimini bu role taşıyor. Kendisi yapay zeka sektörünün önde gelen seslerinden biri ve yapay zeka hakkında söylediklerinin çoğu, gelen parti platformunun ifade ettiği hızlandırıcı bakış açılarıyla uyumlu.

Sacks, Biden yönetiminin 2023’te verdiği AI yönetici emrine yanıt olarak tweet attı: “ABD’nin siyasi ve mali durumu umutsuzca bozuldu, ancak ülke olarak eşsiz bir varlığımız var: Yazılım geliştirme için tamamen özgür ve düzenlenmemiş bir pazar tarafından yönlendirilen yapay zekadaki son teknoloji inovasyon. Bu daha yeni sona erdi. Sacks’ın yapay zeka politikası üzerindeki etkisinin miktarı henüz belli olmasa da, onun atanması endüstrinin kendi kendini düzenlemesini ve hızlı inovasyonu destekleyen politikalara doğru bir değişimin sinyalini veriyor.

Seçimlerin sonuçları var

Oy veren halkın çoğunun, oy verirken yapay zeka politikasının sonuçlarını çok fazla düşündüğünden şüpheliyim. Bununla birlikte, çok somut bir şekilde, hızlandırma yanlıları seçimin sonucunda kazandılar ve federal hükümetin yapay zekanın uzun vadeli risklerini azaltmak için daha temkinli bir yaklaşım sergilemesini savunanları potansiyel olarak kenara ittiler.

Hızlanma uzmanları ileriye giden yolu çizerken, riskler daha yüksek olamazdı. Bu çağın benzeri görülmemiş bir ilerlemeye mi yoksa istenmeyen bir felakete mi yol açacağını zaman gösterecek. Yapay zeka gelişimi hızlandıkça, bilinçli kamusal söylem ve dikkatli gözetim ihtiyacı her zamankinden daha önemli hale geliyor. Bu çağda nasıl ilerleyeceğimiz yalnızca teknolojik ilerlemeyi değil aynı zamanda kolektif geleceğimizi de tanımlayacak.

Federal düzeydeki eylem eksikliğini dengelemek için, bir veya daha fazla eyaletin çeşitli düzenlemeler benimsemesi mümkündür; bu, bir dereceye kadar halihazırda gerçekleşmiştir. Kaliforniya Ve Kolorado. Örneğin, Kaliforniya’nın yapay zeka güvenlik yasa tasarıları şeffaflık gerekliliklerine odaklanırken Colorado, işe alım uygulamalarında yapay zeka ayrımcılığını ele alarak eyalet düzeyinde yönetim modelleri sunuyor. Artık tüm gözler Anthropic, Google, OpenAI ve diğer AI model geliştiricilerinin gönüllü testlerinde ve kendi kendine uyguladığı korkuluklarda olacak.

Özetle, hızlandırıcı zafer, yapay zeka inovasyonunda daha az kısıtlama anlamına geliyor. Bu artan hız aslında daha hızlı inovasyona yol açabilir, ancak aynı zamanda istenmeyen sonuçların ortaya çıkması riskini de artırır. Şimdi p(doom)’umu %10’a revize ediyorum. Seninki ne?

Gary Grossman, teknoloji uygulamalarından sorumlu başkan yardımcısı Edelman ve Edelman Yapay Zeka Mükemmeliyet Merkezi’nin küresel lideri.