NIST çalışanları, ‘etkili fedakar’ yapay zeka araştırmacısının ABD Yapay Zeka Güvenlik Enstitüsü’ne atanması beklenen atamasına karşı isyan etti

Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), personel ve bilim adamlarının beklenen atanma nedeniyle istifa etme tehdidinde bulunması nedeniyle bir iç krizle karşı karşıyadır. Paul Christiano Teşkilatın yeni kurulan yapısında önemli bir pozisyona ABD Yapay Zeka Güvenliği Enstitüsü (AISI), durumla ilgili doğrudan bilgisi olan ve isminin gizli kalmasını isteyen en az iki kaynağa göre.

Christiano kimdir? bağlarıyla tanınıyor etkili fedakarlık (EA) hareketine ve onun uzantısı olan uzun vadeliliğe (insanlığın uzun vadeli geleceğine öncelik veren bir görüş, Filozof William MacAskill tarafından popüler hale getirildiKaynaklardan biri, bugüne kadar kimsenin haberi olmadan işe alım sürecinin aceleye getirildiğini iddia etti.

Doğrudan Ticaret Bakanı Gina Raimondo’dan geldiği söylenen Christiano’nun atanması (NIST, ABD Ticaret Bakanlığı’nın bir parçasıdır), Christiano’nun EA ile olan ilişkisinin ve uzun vadeli yaklaşımın enstitünün tarafsızlığını ve dürüstlüğünü tehlikeye atabileceğinden korkan NIST çalışanları arasında öfkeye yol açtı. .

Pek çok kişi EA’nın şu şekilde tanımlandığını söylüyor: Etkili Fedakarlık Merkezi “Başkalarına mümkün olduğunca nasıl fayda sağlanabileceğini bulmak için kanıt ve mantığı kullanan entelektüel bir proje” olarak kültSon derece etkili ve zengin taraftarlardan oluşan bir grup (FTX’in kurucusu ve hapishane kuşu Sam Bankman-Fried tarafından ünlendi) en önemli endişe Gelecekteki bir yapay zeka felaketinin insanlığı yok etmesini önlemek etrafında dönüyor. EA’yı eleştirenler bu varoluşsal riske veya “x-riski”ne odaklanıyor bunun gerçekleştiğini söyle Önyargı, yanlış bilgilendirme, yüksek riskli uygulamalar ve geleneksel siber güvenlik dahil olmak üzere mevcut, ölçülebilir yapay zeka risklerine gerekli odaklanmanın zararına.

ABD Yapay Zeka Güvenliği Enstitüsü Kasım 2023’te kuruldu

AISI kurulmuş Kasım 2023’te “Ticaret Bakanlığı’na verilen sorumlulukları desteklemek” amacıyla Yapay Zeka Yönetici Emri. Bugün erken saatlerde, ABD Senatosu Çoğunluk Lideri Chuck Schumer (D-NY) duyuruldu NIST’in ABD Yapay Zeka Güvenlik Enstitüsü’nü kurması için 10 milyon dolara kadar destek alacağını söyledi.

Geçen ay VentureBeat rapor edildi NIST’in AISI konusunda şeffaflık eksikliğine ilişkin eleştiriler üzerine: Aralık ortasında, her iki partiden Temsilciler Meclisi Bilim Komitesi milletvekilleri NIST’e bir mektup gönderdi Politico’nun bildirdiği “azarlanmış ajansın şeffaflık eksikliği ve yeni ABD Yapay Zeka Güvenliği Enstitüsü ile ilgili planlanan araştırma hibeleri için rekabetçi bir süreç duyurmaması nedeniyle.” Bu şeffaflık eksikliği, “etkili bir düşünce kuruluşu olan RAND Corporation’a potansiyel bir hibe etrafında yoğunlaşıyordu. teknoloji milyarderlerine, yapay zeka endüstrisine ve etkili fedakarlığa bağlı.” (VentureBeat’in ayrıca rapor edildi RAND ve önde gelen LLM model şirketi Anthropic dahil olmak üzere yapay zeka ’emniyet’ ve güvenlik çevrelerinde etkili fedakarlık taraftarlarının “genişleyen ağı” hakkında).

‘NIST’in misyonunun etkilenmemesini sağlamak önemli’

Divyansh Kaushik, gelişen teknolojiler ve ulusal güvenlikten sorumlu direktör yardımcısı Amerikan Bilim Adamları FederasyonuVentureBeat’e, AISI rolüne kimin atandığına bakılmaksızın “NIST’in misyonunun bundan etkilenmemesini sağlamanın önemli olduğunu” söyledi.

NIST’in her zaman “sağlam temeli olan metodik ölçüm araştırması” yaptığını söyledi. “Genel amaçlı modellerden varsayımsal riskler için bir değerlendirme programı oluşturmaya çalışırken keşfedilmemiş bir bölgedeyiz. NIST bilim adamlarının sahip olabileceği endişeyi tamamen anlıyorum ve tüm atamaların bilime ve NIST’in misyonuna ve metodolojisine sadık kalmasını sağlamak Ticaret liderliğine düşüyor.”

Belirli atamalar NIST’in “süperstar bilim adamlarının” istifasına neden olursa, “bu çok yazık olur; bu durumda, Sekreterin bir kişiyi atamakla ne kaybedeceğine bakacağını ve seçimini yeniden düşüneceğini kesinlikle umuyorum.”

Kongre komitelerinin zaten AISI’nin çalışmalarına yakın ilgi gösterdiğine dikkat çekti. “Umarım en iyi ölçüm bilimcileri olan iyi insanlarla iyi işler yapabilirler ve bu işi NIST’in misyonunun ne olduğunu ve ne yaptığını yeniden yapmaya çalışmak yerine NIST’in güçlü yanlarına yaslanacak şekilde yapabilirler” dedi. .

VentureBeat, Ticaret Bakanı Gina Raimondo, AISI direktörü Elizabeth Kelly ve Paul Christiano’ya ulaştı. Geri bildirim aldığımızda güncelleyeceğiz.