Yapay zekânın güvenliğini değerlendirmeye adanmış tek ABD devlet dairesinden biri, Kongre’nin buna izin vermemesi halinde dağıtılma tehlikesiyle karşı karşıya.
Yapay zeka sistemlerindeki riskleri inceleyen federal bir hükümet organı olan ABD Yapay Zeka Güvenliği Enstitüsü (AISI), Başkan Joe Biden’ın Yapay Zeka Yönetici Emri kapsamında Kasım 2023’te kuruldu. AISI, Ticaret Bakanlığı’nın çeşitli teknoloji kategorilerinin dağıtımına yönelik rehberlik geliştiren bir kurumu olan NIST bünyesinde faaliyet göstermektedir.
Ancak AISI’nin bir bütçesi, bir yöneticisi ve Birleşik Krallık’taki muadili Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü ile bir araştırma ortaklığı olmasına rağmen, Biden’ın idari emrinin basit bir şekilde yürürlükten kaldırılmasıyla sona erdirilebilir.
Bir yapay zeka lobi grubu olan Americans for Responsible Innovation’ın kıdemli iletişim direktörü Chris MacKenzie, TechCrunch’a “Başka bir başkan göreve gelip AI Yönetici Emri’ni yürürlükten kaldırırsa, AISI’yi dağıtırlar” dedi. “Ve [Donald] Trump, AI Yönetici Emri’ni yürürlükten kaldıracağına söz verdi. Dolayısıyla Kongre’nin Yapay Zeka Güvenlik Enstitüsü’ne resmi olarak yetki vermesi, Beyaz Saray’da kim olursa olsun kurumun varlığının devam etmesini sağlayacaktır.”
AISI’nin geleceğini güvence altına almanın ötesinde, ofise yetki verilmesi aynı zamanda girişiminin Kongre tarafından daha istikrarlı ve uzun vadeli olarak finanse edilmesine de yol açabilir. AISI’nin şu anda yaklaşık 10 milyon dolarlık bir bütçesi var; Silikon Vadisi’ndeki büyük yapay zeka laboratuvarlarının yoğunluğu göz önüne alındığında nispeten küçük bir miktar.
MacKenzie, “Kongre’deki tahsis sahipleri, Kongre tarafından resmi olarak yetkilendirilen kuruluşlara daha yüksek bütçeleme önceliği verme eğiliminde” dedi ve şöyle devam etti: “Bu kuruluşların yalnızca tek bir yönetimin tek seferlik kararları yerine geniş katılımlı ve uzun vadede burada oldukları anlayışıyla” öncelik.”
60’tan fazla şirket, kar amacı gütmeyen kuruluş ve üniversiteden oluşan bir koalisyon, bugün bir mektupta Kongre’ye, yıl sonundan önce AISI’yi kodlayan yasayı çıkarmaya çağrıda bulundu. İmzalayanlar arasında, her ikisi de AI araştırma, test ve değerlendirme konusunda işbirliği yapmak üzere AISI ile anlaşmalar imzalayan OpenAI ve Anthropic de yer alıyor.
Senato ve Meclis’in her biri, AISI’nin faaliyetlerine yetki vermek için iki partili yasa tasarıları hazırladı. Ancak teklifler, AISI tasarısının Senato versiyonunun çeşitlilik programlarından geri çekilmesi çağrısında bulunan Senatör Ted Cruz (R-Texas) da dahil olmak üzere muhafazakar milletvekillerinin bazı muhalefetiyle karşılaştı.
AISI’nin uygulama açısından nispeten zayıf bir organizasyon olduğu kabul edilir. Standartları isteğe bağlıdır. Ancak yukarıda belirtilen mektubu imzalayan düşünce kuruluşları ve endüstri koalisyonlarının yanı sıra Microsoft, Google, Amazon ve IBM gibi teknoloji devleri, AISI’yi gelecekteki politikaların temelini oluşturabilecek yapay zeka kıyaslamaları için en umut verici yol olarak görüyor.
Ayrıca bazı çıkar grupları arasında, AISI’nin kapanmasına izin verilmesinin, yapay zeka liderliğinin yabancı uluslara devredilmesi riski oluşturacağı yönünde endişeler var. Mayıs 2024’te Seul’de yapılan bir yapay zeka zirvesi sırasında uluslararası liderler, Birleşik Krallık’ın yanı sıra Japonya, Fransa, Almanya, İtalya, Singapur, Güney Kore, Avustralya, Kanada ve Avrupa Birliği’nden kuruluşlardan oluşan bir Yapay Zeka Güvenliği Enstitüleri ağı oluşturma konusunda anlaştılar. ve ABD
Jason, “Diğer hükümetler hızla ilerlerken, Kongre üyeleri, Yapay Zeka Güvenliği Enstitüsü’ne kalıcı yetki vererek ve onun ABD’deki yapay zeka yeniliklerini ve benimsenmesini ilerletmedeki kritik rolü için kesinlik sağlayarak, ABD’nin küresel yapay zeka yarışında geride kalmamasını sağlayabilir” dedi. Bir BT endüstrisi ticaret birliği olan Bilgi Teknolojileri Endüstrisi Konseyi’nin başkanı ve CEO’su Oxman, bir açıklamada şunları söyledi. “Kongreyi, sanayi, sivil toplum ve akademinin gerekli iki partili mevzuatı yıl sonundan önce geçirmesi yönündeki bugünkü eylem çağrısına kulak vermeye çağırıyoruz.”
TechCrunch’ın yapay zeka odaklı bir haber bülteni var! Buradan kaydolun Her Çarşamba gelen kutunuza almak için.
Kaynak: https://techcrunch.com/2024/10/22/the-u-s-ai-safety-institute-stands-on-shaky-ground/