Devletler yapay zeka düzenlemesine öncülük edecek mi?

2024, yapay zeka konusunda endişe duyan milletvekilleri (ve lobiciler) için yoğun bir yıldı; özellikle Gavin Newsom’un 18 yeni yapay zeka yasasını imzaladığı ve aynı zamanda yüksek profilli yapay zeka yasalarını veto ettiği Kaliforniya’da.

Mark Weatherford’a göre 2025’te de özellikle eyalet düzeyinde aynı derecede hareketlilik yaşanabilir. Weatherford, kendi sözleriyle, hem eyalet hem de federal düzeyde “politika ve mevzuatın sosis yapımını” gördü; Başkan Barack Obama döneminde Kaliforniya ve Colorado eyaletlerinde Bilgi Güvenliği Baş Sorumlusu ve Siber Güvenlikten Sorumlu Müsteşar Yardımcısı olarak görev yaptı.

Weatherford, son yıllarda farklı iş unvanlarına sahip olduğunu ancak görevinin genellikle “güvenlik ve mahremiyet hakkındaki konuşma seviyesini nasıl yükseltebiliriz, böylece politikanın nasıl oluşturulduğunu etkilemeye yardımcı olabiliriz” sorusunu çözmekten ibaret olduğunu söyledi. Geçtiğimiz sonbaharda sentetik veri şirketi Gretel’e politika ve standartlardan sorumlu başkan yardımcısı olarak katıldı.

Bu yüzden yapay zeka düzenlemesinde bundan sonra ne olacağını düşündüğü ve devletlerin neden yol gösterebileceğini düşündüğü hakkında onunla konuşmaktan heyecan duydum.

Bu röportaj uzunluk ve netlik açısından düzenlendi.

Konuşma seviyesini yükseltme hedefi, muhtemelen geçmişte sosyal medya veya ilgili konularla ilgili kongre oturumlarını izlemiş ve bazı seçilmiş yetkililerin ne bildiğini ve bilmediğini gören teknoloji endüstrisindeki birçok insanda yankı uyandıracaktır. . Kanun koyucuların düzenleme konusunda bilinçli kararlar alabilmeleri için ihtiyaç duydukları bağlamı elde edebilecekleri konusunda ne kadar iyimsersiniz?

Oraya varabilecekleri konusunda oldukça eminim. Oraya varma zaman çizelgesi konusunda daha az emin olduğum şey. Biliyorsunuz yapay zeka her gün değişiyor. Bir ay önce konuştuğumuz konuların artık başka bir şeye evrilmiş olması bana çok şaşırtıcı geliyor. Dolayısıyla hükümetin bu hedefe ulaşacağından eminim ama onlara rehberlik edecek, personel verecek, eğitecek insanlara ihtiyaçları var.

Bu haftanın başında, ABD Temsilciler Meclisi’nin yaklaşık bir yıl önce başlattığı bir görev gücü vardı, yapay zeka konusunda bir görev gücü ve raporlarını yayınladılar; bunu yapmaları bir yıl sürdü. 230 sayfalık bir rapor; Şu anda bunun üzerinden geçiyorum. [Weatherford and I first spoke in December.]

[When it comes to] politika ve mevzuatın sosis yapımı, oldukça partizan iki farklı organizasyonunuz var ve bir araya gelip herkesi mutlu edecek bir şey yaratmaya çalışıyorlar, bu da her şeyin biraz sulanması anlamına geliyor. Bu çok uzun zaman alıyor ve şimdi yeni bir yönetime geçerken, bazı şeylerin ne kadar dikkat çekip çekmeyeceği konusunda her şey belirsiz.

Görünüşe göre sizin bakış açınız, 2025’te eyalet düzeyinde federal düzeyden daha fazla düzenleyici eylem görebileceğimiz yönünde. Bu doğru mu?

Buna kesinlikle inanıyorum. Yani Kaliforniya’da sanırım Vali [Gavin] Newsom, sadece son birkaç ay içinde yapay zeka ile ilgili 12 yasayı imzaladı. [Again, it’s 18 by TechCrunch’s count.)] Yapay zeka şirketlerinin testlere daha fazla yatırım yapmasını ve işleri gerçekten yavaşlatmasını gerektirecek olan yapay zekaya ilişkin büyük yasa tasarısını veto etti.

Aslında, dün Sacramento’da Kaliforniya Siber Güvenlik Eğitim Zirvesi’nde bir konuşma yaptım ve tüm ABD’de ve tüm eyaletlerde yürürlükte olan mevzuattan biraz bahsettim ve bu, 400’den fazla farklı mevzuat gibi bir şey. eyalet düzeyindeki uygulama yalnızca son 12 ayda uygulamaya konuldu. Yani orada çok şey oluyor.

Ve bence en büyük endişelerden biri, genel olarak teknolojide ve siber güvenlikte büyük bir endişe, ancak bunu şu anda yapay zeka tarafında görüyoruz, bir uyumlaştırma gerekliliği var. Uyumlaştırma kelimedir [the Department of Homeland Security] ve Harry Coker [Biden] Beyaz Saray bunu kullanıyor [refer to]: Tüm bu kuralları ve düzenlemeleri bu farklı şeyler etrafında nasıl uyumlu hale getirebiliriz ki, bu duruma sahip olmayız? [situation] herkesin kendi işini yapması, bu da şirketleri çılgına çeviriyor. Çünkü o zaman farklı eyaletlerdeki tüm bu farklı yasa ve düzenlemelere nasıl uyum sağlayacaklarını bulmaları gerekiyor.

Devlet tarafında çok daha fazla faaliyet olacağını düşünüyorum ve umarım bunları biraz uyumlu hale getirebiliriz, böylece şirketlerin uymak zorunda olduğu çok çeşitli düzenlemeler olmaz.

Bu terimi duymamıştım ama bir sonraki sorum şu olacaktı: Çoğu insanın uyumlaştırmanın iyi bir hedef olduğu konusunda hemfikir olacağını tahmin ediyorum, ancak bunun gerçekleşmesini sağlayacak mekanizmalar var mı? Eyaletlerin yasa ve düzenlemelerinin birbirleriyle uyumlu olmasını sağlamak için hangi teşvikleri var?

Dürüst olmak gerekirse, düzenlemeleri uyumlu hale getirmek için çok fazla teşvik yok, ancak aynı tür dilin farklı eyaletlerde ortaya çıktığını görebiliyorum – ki bu bana göre hepsinin birbirlerinin ne yaptığına baktığını gösteriyor.

Ama tamamen “Bütün eyaletler arasında buna stratejik plan yaklaşımı uygulayalım” şeklinde bir yaklaşımla bu gerçekleşmeyecek, bunun olacağına dair pek umudum yok.

Diğer eyaletlerin genel yaklaşım açısından Kaliforniya’nın liderliğini takip edebileceğini düşünüyor musunuz?

Pek çok insan bunu duymaktan hoşlanmaz ama California sınırları biraz zorluyor [in tech legislation] Bu, insanların bir araya gelmesine yardımcı oluyor, çünkü tüm ağır işleri onlar yapıyor, bu mevzuatın bazılarıyla ilgili araştırma yapmak için işin çoğunu yapıyorlar.

Vali Newsom’un az önce geçirdiği 12 yasa tasarısı, pornografiden veri kullanımına, web sitelerini eğitmeye ve birçok farklı şeye kadar her şeyi kapsıyordu. Orada öne eğilme konusunda oldukça kapsamlı davrandılar.

Her ne kadar benim anladığım kadarıyla daha hedefe yönelik, spesifik tedbirler ve daha sonra en çok ilgiyi çeken daha büyük düzenleme geçirilmiş olsa da, Vali Newsom sonuçta bunu veto etti.

Her iki tarafını da görebiliyordum. Başlangıçta tasarıyı yönlendiren gizlilik bileşeni var, ancak daha sonra bunları yapmanın maliyetini ve yapay zeka şirketlerinin yenilikçi olma konusunda zorunlu kıldığı gereksinimleri göz önünde bulundurmalısınız. Yani orada bir denge var.

tam olarak beklerdim [in 2025] Kaliforniya’nın onların yaptıklarından biraz daha katı bir yasa çıkaracağını [in 2024].

Ve siz, federal düzeyde, bahsettiğiniz Temsilciler Meclisi raporunda olduğu gibi, kesinlikle ilginin olduğu, ancak bunun o kadar büyük bir öncelik olmayacağı veya gelecek yıl büyük bir mevzuat göreceğimiz yönünde olduğunu düşünüyorsunuz?

Bilmiyorum. Ne kadar vurgulandığına bağlı [new] Kongre devreye giriyor. Sanırım göreceğiz. Demek istediğim, siz de benim okuduklarımı okuyorsunuz ve benim okuduklarım, daha az düzenlemeye vurgu yapılacağı yönünde. Ancak teknoloji pek çok açıdan, özellikle gizlilik ve siber güvenlik konusunda, iki partiyi de ilgilendiren bir konu, herkes için iyi.

Ben düzenlemelerin büyük bir hayranı değilim, çok fazla kopya var ve çok farklı mevzuatlarda çok fazla kaynak israfı yaşanıyor. Ancak aynı zamanda, yapay zekada olduğu gibi toplumun emniyeti ve emniyeti tehlikede olduğunda, bence daha fazla düzenlemeye kesinlikle yer var.

Bunun iki partili bir mesele olduğunu söylemiştiniz. Benim düşünceme göre bir bölünme olduğunda, bu her zaman öngörülebilir değildir; mesele yalnızca Cumhuriyetçilerin oylarının tamamına karşı tüm Demokratların oyları değildir.

Bu harika bir nokta. Kabul etmek istesek de istemesek de coğrafya önemlidir ve bu nedenle Kaliforniya gibi yerler bazı mevzuatlarında diğer bazı eyaletlerle karşılaştırıldığında gerçekten öne eğilmektedir.

Açıkçası bu Gretel’in çalıştığı bir alan, ancak görünen o ki siz ya da şirket inanıyor ki, daha fazla düzenlemenin olması sektörü daha sentetik verilere doğru itiyor.

Belki. Burada olmamın nedenlerinden biri sentetik verilerin yapay zekanın geleceği olduğuna inanıyorum. Veri olmadan yapay zeka da olmaz ve veri havuzu tükendikçe ya da küçüldükçe veri kalitesi daha da büyük bir sorun haline geliyor. Gizliliği güvence altına alan, önyargıları ortadan kaldıran ve tüm bu tür teknik olmayan, yumuşak sorunlarla ilgilenen yüksek kaliteli sentetik verilere giderek daha fazla ihtiyaç duyulacak. Bunun cevabının sentetik veriler olduğuna inanıyoruz. Aslında buna %100 eminim.

Bu, politikayla daha az doğrudan ilgili, her ne kadar bunun politikayla ilgili çıkarımları olduğunu düşünsem de, sizi bu bakış açısına getiren şeyin ne olduğu hakkında daha fazla şey duymak isterim. Sanırım bahsettiğiniz sorunların farkında olan başka insanlar da var, ancak sentetik verilerin, sorunu çözmek yerine orijinal verilerdeki önyargıları veya sorunları potansiyel olarak güçlendirdiğini düşünüyorlar.

Tabii bu konuşmanın teknik kısmı. Müşterilerimiz bunu çözdüğümüzü düşünüyor ve veri üretiminin çarkı kavramı var; eğer kötü veriler üretirseniz, durum daha da kötüleşir, daha da kötüleşir, ancak bu çarkın içine, verilerin çözülmediğini doğrulayan kontroller eklenir. kötüleşiyor, eşit kalıyor ya da sinek her geldiğinde daha iyi oluyor. Gretel’in çözdüğü sorun bu.

Silikon Vadisi’ndeki Trump yanlısı birçok isim, şirketlerin üretken yapay zeka tarafından oluşturulan içeriğin etrafına koyduğu çeşitli ağırlıklar ve korkuluklar olan yapay zeka “sansürü” konusunda uyarıda bulunuyor. Bunun düzenlenebileceğini düşünüyor musunuz? Olmalı mı?

Yapay zeka sansürüyle ilgili endişelere gelince, hükümetin kullanabileceği bir dizi idari araç var ve toplum için algılanan bir risk olduğunda harekete geçecekleri neredeyse kesin.

Ancak makul içerik denetimi ile kısıtlayıcı sansür arasındaki hassas noktayı bulmak zor olacaktır. Yeni gelen yönetim, “daha az düzenlemenin daha iyi” olacağı konusunda oldukça açıktı; yani resmi mevzuat veya yürütme emri yoluyla ya da daha az resmi yöntemlerle [National Institute of Standards and Technology] Kılavuzlar ve çerçeveler veya kurumlar arası koordinasyon yoluyla ortak beyanlar aracılığıyla bir miktar rehberlik beklemeliyiz.

İyi bir yapay zeka düzenlemesinin nasıl olabileceği sorusuna geri dönmek istiyorum. İnsanların yapay zeka hakkında konuşma biçimleri arasında büyük bir fark var; yapay zeka ya dünyayı kurtaracak ya da yok edecek, en muhteşem teknoloji ya da aşırı abartılıyor gibi. Teknolojinin potansiyeli ve riskleri hakkında pek çok farklı görüş var. Tek bir parça, hatta birden fazla yapay zeka düzenlemesi bunu nasıl kapsayabilir?

Yapay zekanın yayılmasını yönetme konusunda çok dikkatli olmamız gerektiğini düşünüyorum. Deepfake’lerin ve gerçekten olumsuz bazı yönlerini zaten görmüştük; şu anda lisede olan ve hatta daha genç yaştaki çocukların, başlarını kanunla belaya sokan derin sahtekarlıklar ürettiğini görmek endişe verici. Bu nedenle, insanların mevcut bir yasayı ihlal etmeyen yapay zekayı nasıl kullanabileceğini kontrol eden mevzuat için bir yer olduğunu düşünüyorum; mevcut yasayı güçlendiren yeni bir yasa oluşturuyoruz, ancak bunun içine sadece AI bileşenini alıyoruz.

Sanırım biz, teknoloji alanında olan bizler, aile üyelerim ve bu alanda olmayan bazı arkadaşlarımla konuştuğumda, bizim için ikinci doğa olarak gördüğümüz bu şeylerin çoğunu hepimizin hatırlaması gerekiyor. teknoloji, kelimenin tam anlamıyla çoğu zaman neden bahsettiğim hakkında hiçbir fikirleri yok. İnsanların büyük hükümetin aşırı düzenleme yaptığını düşünmesini istemiyoruz, ancak bu konuları teknoloji uzmanı olmayanların anlayabileceği bir dille konuşmak önemlidir.

Ancak diğer yandan, muhtemelen benimle konuşarak, yapay zekanın geleceği konusunda başımın döndüğünü anlayabilirsiniz. Pek çok iyiliğin geldiğini görüyorum. İnsanların yapay zekaya daha fazla uyum sağlaması ve daha iyi anlaması nedeniyle birkaç inişli çıkışlı yıl geçireceğimizi düşünüyorum ve hem insanların yapay zekanın onlar için ne anlama geldiğini anlamalarına izin vermek hem de bazı korkuluklar koymak için mevzuatın orada bir yeri olacak. AI civarında.