Biden yönetimi açık ağırlık modellerini izlemeyi planlıyor

Biden yönetimi, gelecekteki düzenlemeler için daha fazla bilgi toplamak amacıyla açık ağırlıklı modellerin izlenmesi çağrısında bulundu. Ancak ABD hükümeti modelleri nasıl düzenlemeyi planladığını belirtmedi.

Bir rapordaUlusal Telekomünikasyon ve Bilgi İdaresi (NTIA) herhangi bir felaketin nasıl önleneceğini anlamak için mevcut sistemleri bozma yeteneğine sahip halka açık yapay zeka modellerinin tehlikelerine bakmanın önemli olduğunu söyledi.

Ancak NTIA, ABD’nin “şu anda temel modellerden kaynaklanan risklerin çoğunu izleme ve etkili bir şekilde yanıt verme kapasitesine sahip olmadığını” kabul etti. Bu NTIA’yı bilmek, odaklanılması gereken üç ana alan önerdi: modelin belirli riskleri izleme, göstergeleri değerlendirme ve karşılaştırma ve bu riskleri hedef alan politikaları benimseme yetenekleri hakkında kanıt toplamak.

NTIA, açık ağırlıklı modelleri temel modeller olarak tanımlar ağırlıkları veya parametreleri kamuya açıklanmış olan, ve kullanıcılar modelleri indirebilir. Bunlar, yapay zeka model geliştiricilerinin düşünmenizi istediklerine rağmen modellerin açık lisans altında olduğu ve kopyalanabildiği açık kaynaklı modellerden farklıdır.

NTIA, “Marjinal riskin dikkate alınması, benzer fayda ve risk dengesi oluşturan alternatif sistemlerden aşırı derecede katı kısıtlamalara sahip, yaygın olarak mevcut ağırlıklara sahip çift kullanımlı temel modellerini hedeflemekten kaçınmak için faydalıdır” dedi.

Ajans ayrıca, hem açık hem de kapalı modellerin yönetilmesi gereken risklere sahip olduğunun bilincinde olduğunu ancak açık modellerin “risklerin azaltılmasına yönelik benzersiz fırsatlar ve zorluklar ortaya çıkarabileceğini” de sözlerine ekledi.

Biden yönetiminin açık modellerin oluşturduğu riskleri incelemesi, Avrupa Birliği’nin Yapay Zeka Yasasını özetlemeye başlamasına benzer bir düzenleyici yaklaşıma işaret edebilir.

AB’nin Yapay Zeka Yasası, Mart ayında parlamento tarafından resmen kabul edildi, AI modellerini modellerin kendisinden ziyade kullanım durumlarının ne kadar riskli olduğuna göre düzenler. Örneğin AB, yüz tanıma için yapay zekayı kullanan şirketlere ağır para cezaları belirledi. AB, modelleri düzenlemeyi düşünmüştü; böylece ABD, kamuya açık yapay zeka modellerinin potansiyel tehlikelerini dikkatle değerlendirerek AB’nin izinden gidebilirdi.

Kevin Bankston, AI yönetişimi konusunda kıdemli danışman Demokrasi ve Teknoloji Merkezi, NTIA’yı yapay zeka modellerinin nasıl denetleneceği konusunda zaman ayırdığı için alkışladı. Bankston bir e-postada şunları söyledi: “NTIA, açık temel modellerinden kaynaklanan yeni risklere ilişkin, bunların dağıtımına yeni kısıtlamalar getirilmesini gerektirecek yeterli kanıtın bulunmadığı sonucuna doğru bir şekilde varmıştır.

Model geliştiricilerin hâlâ beklemesi gerekiyor

Biden yönetimi proaktif olarak yapay zeka kullanımıyla ilgili yönergeler oluşturdu. Yapay Zeka Yönetici Emri. Ancak bu düzen henüz düzenlenmemiştir. Bazı yasa yapıcılar ve eyaletler potansiyel politikalar önerdiler. Bir örnekte, OpenAI de dahil olmak üzere pek çok yapay zeka geliştiricisine ev sahipliği yapan Kaliforniya eyaleti senatörleri, birçok kişinin bunun gerçekleşebileceğine inandığı “Sınır Yapay Zeka Modelleri için Güvenli ve Güvenli Yenilik Yasası”nı tanıttı. Yapay zeka gelişimini engellemek temel modellerle çalışan küçük şirketleri cezalandırarak.

Yapay zeka modellerini geliştirenlerin şimdilik endişelenecek pek bir şeyi yok çünkü NTIA hâlâ gerçekleri bulma görevinde.

Assaf Melochna, AI şirketinin kurucusu miktarbir e-postada şunları söyledi: VentureBeat NTIA’nın gözlemleri model geliştiriciler için pek fazla değişmiyor.

Melochna, “Geliştiriciler yine de model ağırlıklarını kendi takdirlerine göre yayınlayabilirler ancak daha fazla inceleme altında olacaklar” dedi. “Sektör her gün değişiyor, bu nedenle federal kurumların esnek kalması ve bulduklarına göre uyum sağlaması gerekiyor.”