Kaliforniya, Anthropic’in tavsiyesini alarak, son oylamadan önce yapay zeka felaketlerini önlemeye yönelik yasa tasarısını zayıflattı

Kaliforniya’nın AI felaketlerini önlemeye yönelik yasa tasarısı SB 1047, Silikon Vadisi’ndeki birçok tarafın ciddi muhalefetiyle karşılaştı. Bugün Kaliforniya yasa koyucuları, yapay zeka firması Anthropic ve diğer muhaliflerin önerdiği çeşitli değişiklikleri ekleyerek bu baskıya biraz boyun eğdiler.

Senatör Wiener’in ofisi TechCrunch’a göre Perşembe günü yasa tasarısı Kaliforniya Tahsisat Komitesi’nden geçti; bu, birkaç önemli değişiklikle birlikte kanun olma yolunda büyük bir adımdı.

Senatör Wiener, TechCrunch’a yaptığı açıklamada, “Önerilen çok sayıda makul değişikliği kabul ettik ve Anthropic ve sektördeki diğer pek çok kişi tarafından ifade edilen temel endişeleri giderdiğimize inanıyorum” dedi. “Bu değişiklikler, önemli bir inovasyon kaynağı olan açık kaynak topluluğunun benzersiz ihtiyaçlarını karşılamak için daha önce yaptığım SB 1047’de yapılan önemli değişikliklere dayanıyor.”

SB 1047, geliştiricileri sorumlu tutarak büyük yapay zeka sistemlerinin çok sayıda insanı öldürmesini veya maliyeti 500 milyon doları aşan siber güvenlik olaylarına neden olmasını engellemeyi hedefliyor. Ancak tasarı artık Kaliforniya hükümetine yapay zeka laboratuvarlarından hesap sorma konusunda daha az yetki veriyor.

SB 1047 şimdi ne yapıyor?

En önemlisi, tasarı artık Kaliforniya başsavcısının, felaket niteliğinde bir olay meydana gelmeden önce yapay zeka şirketlerini ihmalkar güvenlik uygulamaları nedeniyle dava etmesine izin vermiyor. Bu Anthropic’in bir önerisiydi.

Bunun yerine Kaliforniya başsavcısı, bir şirketten tehlikeli bulduğu belirli bir operasyonu durdurmasını talep ederek ihtiyati tedbir talebinde bulunabilir ve modelinin felaketle sonuçlanacak bir olaya neden olması durumunda yine de bir yapay zeka geliştiricisine dava açabilir.

Ayrıca SB 1047, daha önce tasarıya dahil edilen yeni bir devlet kurumu olan Frontier Model Division’ı (FMD) artık oluşturmuyor. Ancak tasarı yine de Şap Hastalığı’nın çekirdeği olan Sınır Modelleri Kurulu’nu oluşturuyor ve bunları mevcut Devlet Operasyon Ajansı’nın içine yerleştiriyor. Aslında kurul artık daha büyük; beş yerine dokuz kişi var. Sınır Modelleri Kurulu, kapsanan modeller için bilgi işlem eşiklerini belirlemeye, güvenlik kılavuzlarını yayınlamaya ve denetçiler için düzenlemeler yayınlamaya devam edecek.

Senatör Wiener ayrıca SB 1047’yi değiştirerek yapay zeka laboratuvarlarının artık “yalancı şahitlik cezası altında” güvenlik testi sonuçları sertifikalarını sunmalarına gerek kalmamasını sağladı. Artık bu yapay zeka laboratuvarlarının güvenlik uygulamalarını özetleyen kamuya açık “bildirimler” sunmaları gerekiyor ancak yasa tasarısı artık herhangi bir cezai sorumluluk getirmiyor.

SB 1047 ayrıca geliştiricilerin yapay zeka modellerinin güvenli olmasını nasıl sağladığı konusunda artık daha yumuşak bir dil içeriyor. Artık tasarı, geliştiricilerin, daha önce tasarının gerektirdiği “makul güvence” yerine, yapay zeka modellerinin felakete neden olma konusunda önemli bir risk oluşturmaması için “makul bakım” sağlamasını gerektiriyor.

Ayrıca yasa koyucular, açık kaynaklı ince ayarlı modeller için bir koruma ekledi. Birisi kapsam dahilindeki bir modelin ince ayarına 10 milyon dolardan az para harcarsa, bu kişi SB 1047 tarafından açıkça geliştirici olarak kabul edilmez. Sorumluluk yine modelin orijinal, daha büyük geliştiricisinde olacaktır.

Neden şimdi tüm değişiklikler?

Tasarı ABD’li kongre üyelerinin, ünlü yapay zeka araştırmacılarının, büyük teknoloji şirketlerinin ve risk sermayedarlarının ciddi muhalefetiyle karşı karşıya kalsa da yasa tasarısı Kaliforniya yasama meclisinden nispeten kolaylıkla geçti. Bu değişikliklerin SB 1047 muhaliflerini yatıştırması ve Vali Newsom’a, yapay zeka sektörünün desteğini kaybetmeden yasalaştırabileceği daha az tartışmalı bir yasa tasarısı sunması muhtemel.

Newsom, SB 1047 hakkında kamuya açık bir yorumda bulunmasa da daha önce Kaliforniya’nın yapay zeka inovasyonuna olan bağlılığını belirtmişti.

Bununla birlikte, bu değişikliklerin SB 1047’ye yönelik sadık eleştirmenleri yatıştırması pek olası değil. Tasarı, bu değişikliklerden öncekine göre belirgin şekilde daha zayıf olsa da, SB 1047 hala geliştiricileri yapay zeka modellerinin tehlikelerinden sorumlu tutuyor. SB 1047 hakkındaki temel gerçek evrensel olarak desteklenmiyor ve bu değişiklikler bu konuyu ele almak için çok az şey yapıyor.

Sırada ne var?

SB 1047 şimdi son oylama için Kaliforniya Meclis salonuna gidiyor. Eğer yasa oradan geçerse, bu son değişiklikler nedeniyle oylanmak üzere Kaliforniya Senatosu’na geri gönderilmesi gerekecek. Her ikisini de geçerse, Vali Newsom’un masasına gidecek ve orada veto edilebilecek ya da kanunlaştırılacak.