AB Yapay Zeka Yasasına ilişkin anlaşma Avrupa Parlamentosu’ndan tam not aldı

Avrupa Parlamentosu Çarşamba günü, yapay zeka destekli yazılımların (ya da bölgesel yasa koyucuların “dünyanın ilk kapsamlı yapay zeka yasası” olarak adlandırdığı) geniş bir yelpazesi için kuralların belirlenmesinde bloğun birinci sıradaki yerini güvence altına alan Yapay Zeka Yasasını kabul etmek için oy kullandı.

Milletvekilleri, Aralık ayında Konsey ile yapılan üçlü görüşmelerde varılan geçici anlaşmayı ezici bir çoğunlukla destekledi; 523 lehte oy, sadece 46 aleyhte oy (ve 49 çekimser) vardı.

Dönüm noktası niteliğindeki mevzuat, yapay zeka için riske dayalı bir çerçeve ortaya koyuyor; kullanım senaryosuna bağlı risk düzeyine bağlı olarak çeşitli kural ve gereksinimlerin uygulanması.

Bugünkü parlamento oylamasının tamamı, olumlu komite oylarının ve geçen ay AB Üye Devletlerinin 27 büyükelçisinin tamamının desteğini alan geçici anlaşmanın ardından geldi. Genel kuruldan çıkan sonuç, Yapay Zeka Yasasının bölge genelinde yakında yasalaşma yolunda ilerlediği anlamına geliyor; Konsey’den yalnızca nihai bir onay bekleniyor.

Yapay Zeka Yasası önümüzdeki aylarda AB’nin Resmi Gazetesinde yayımlandıktan 20 gün sonra yürürlüğe girecek. Aşamalı bir uygulama olmasına rağmen, hükümlerin ilk alt kümesinin (yasaklı kullanım durumları) altı ay sonra devreye girmesiyle; diğerleri 12, 24 ve 36 ay sonra başvuruyor. Dolayısıyla tam uygulamanın 2027 ortasına kadar gerçekleşmesi beklenmiyor.

Uygulama tarafında, uyumsuzluk nedeniyle verilecek cezalar, yapay zekanın yasaklı kullanımlarına ilişkin yasağın ihlali nedeniyle küresel yıllık cironun %7’sine (veya daha yüksekse 35 milyon Euro’ya) kadar ölçeklenebilir. Yapay zeka sistemlerine ilişkin diğer hükümlerin ihlal edilmesi ise %3’e (veya 15 milyon Euro’ya) varan cezalarla sonuçlanabilir. Gözetim organlarıyla işbirliği yapılmaması halinde %1’e kadar para cezası riski söz konusudur.

Salı günü, genel kurul oylaması öncesinde yapılan bir tartışma sırasında konuşan Avrupa Parlamentosu Üyesi ve AI Yasası eş raportörü Dragoș Tudorache şunları söyledi: “Toplumlarımızın temelini oluşturan temel değerleri sonsuza kadar yapay zeka kavramına bağladık. Ve yalnızca bununla birlikte Yapay Zeka Yasası, yapay zekanın geleceğini insan merkezli bir yöne doğru itti. İnsanların teknolojiyi kontrol ettiği ve teknolojinin yeni keşiflerden, ekonomik büyümeden, toplumsal ilerlemeden yararlanmamıza ve insan potansiyelinin kilidini açmamıza yardımcı olduğu bir yönde.”

Risk temelli öneri ilk olarak Avrupa Komisyonu tarafından Nisan 2021’de sunuldu. Daha sonra, çok yıllı bir müzakere süreci boyunca parlamento ve Konsey’deki AB yasa koyucuları tarafından önemli ölçüde değiştirildi ve genişletildi ve siyasi bir anlaşmanın kesinleşmesiyle sonuçlandı. Aralık ayındaki maraton final görüşmelerinin ardından.

Yasa uyarınca, bir avuç potansiyel yapay zeka kullanım durumu “kabul edilemez risk” olarak değerlendiriliyor ve doğrudan yasaklanıyor (sosyal puanlama veya bilinçaltı manipülasyon gibi). Kanun aynı zamanda bir dizi “yüksek riskli” uygulamayı da tanımlamaktadır (eğitimde veya istihdamda kullanılan yapay zeka veya uzaktan biyometri gibi). Bu sistemlerin kayıt altına alınması ve geliştiricilerinin kanunda belirtilen risk ve kalite yönetimi hükümlerine uyması gerekmektedir.

AB’nin risk temelli yaklaşımı, pek çok yapay zeka uygulamasını yasanın dışında bırakıyor çünkü bunlar düşük riskli olarak kabul ediliyor ve hiçbir katı kural uygulanmıyor. Ancak mevzuat, yapay zeka sohbet robotları da dahil olmak üzere üçüncü bir uygulama alt kümesine de bazı (hafif dokunuşlu) şeffaflık yükümlülükleri getiriyor; sentetik medya (diğer adıyla deepfake) oluşturabilen üretken yapay zeka araçları; ve genel amaçlı AI modelleri (GPAI). En güçlü GPAI’ler, “sistemik risk” olarak sınıflandırılmaları durumunda ek kurallarla karşı karşıya kalır; risk yönetimi yükümlülüklerinin çıtası burada devreye girer.

GPAI’lere ilişkin kurallar, ilgili Avrupa Parlamentosu Üyeleri tarafından AI Yasasına sonradan eklenen bir düzenlemeydi. Geçtiğimiz yıl parlamentodaki milletvekilleri, üretken yapay zeka araçlarında son dönemde yaşanan patlamadan sorumlu olan gelişmiş model dalgasının düzenlemelerden kaçmamasını sağlamayı amaçlayan kademeli bir gereksinimler sistemi önerdiler.

Bununla birlikte, Fransa liderliğindeki bir avuç AB Üye Devleti, (Mistral gibi) yerli yapay zeka girişimlerinin lobi faaliyetlerinden güç alarak, Avrupa’nın ölçeklendirmeye odaklanması gerektiğini savunarak gelişmiş yapay zeka model üreticileri için düzenleyici bir düzenleme yapılması için baskı yaparak ters yöne doğru itildi. Küresel yapay zeka yarışında geride kalmamak için hızla gelişen alanda ulusal şampiyonlar.

Şiddetli lobi faaliyetleri karşısında, milletvekillerinin Aralık ayında vardığı siyasi uzlaşma, Avrupa Parlamentosu üyelerinin GPAI’leri düzenlemeye yönelik orijinal teklifini sulandırdı.

Kanundan tam bir çıkarım sağlamadı ancak bu modellerin çoğu yalnızca sınırlı şeffaflık gereklilikleriyle karşı karşıya kalacak. Yalnızca eğitimlerinde 10^25 FLOP’tan daha fazla bilgi işlem gücü kullanan GPAI’lerin modellerinde risk değerlendirmesi ve azaltma yapması muhtemeldir.

Uzlaşma anlaşmasından bu yana Mistral’ın Microsoft’tan yatırım aldığı da ortaya çıktı. ABD’li teknoloji devi, ChatGPT’nin ABD merkezli üreticisi OpenAI’de çok daha büyük bir hisseye sahip.

Bugün genel kurul oylaması öncesinde düzenlenen basın toplantısında, eş raportörlere Mistral’in lobi faaliyetleri ve girişimin AB’nin GPAI’lere ilişkin kurallarını zayıflatmada başarılı olup olmadığı soruldu. Brando Benifei, “Sonuçların kendini ifade ettiği konusunda hemfikir olabileceğimizi düşünüyorum” dedi. “Mevzuat, en güçlü modellerin güvenlik ihtiyaçlarını net kriterlerle açıkça tanımlıyor… Sanırım en güçlü modeller için şeffaflığı ve güvenlik gereksinimlerini sağlayacak net bir çerçeve sunduk.”

Tudorache ayrıca lobicilerin yasanın nihai şeklini olumsuz yönde etkilediği yönündeki iddiayı da reddetti. Sonucu “gerekli” bir denge olarak nitelendirerek, “Müzakere ettik ve makul olduğunu düşündüğümüz tavizleri verdik” dedi. “Şirketlerin davranışları ve yapmayı seçtikleri şeyler onların kararlarıdır ve hiçbir şekilde işi etkilememiştir.”

“Bu modelleri geliştirenlerin hepsinin, konu bu algoritmalara giren veriler olduğunda hala bir ‘kara kutu’ tutmak yönünde ilgileri vardı” diye ekledi. “Oysa biz, özellikle telif hakkıyla korunan materyaller için şeffaflık fikrini destekledik, çünkü yazarların haklarını yürürlüğe koymanın tek yolunun bu olduğunu düşündük.”

Benifei ayrıca bir başka kazanım olarak Yapay Zeka Yasasına çevresel raporlama gerekliliklerinin eklenmesine dikkat çekti.

Kanun yapıcılar, Yapay Zeka Yasasının AB’nin yapay zeka yönetimine yönelik bir yolculuğun başlangıcını temsil ettiğini ekledi; modelin gelişmesi ve gelecekte ek mevzuatla genişletilmesi gerektiğini vurguladı; Benifei, yapay zeka için kurallar belirlemek üzere bir direktif ihtiyacına işaret etti. Yapay zekanın işyerinde kullanımı.

Yapay zekaya yatırım koşullarının iyileştirilmesine yönelik çalışmaların da gerekli olduğunu söyledi. “Avrupa’nın yapay zekaya yatırım yapmasını istiyoruz. Ortak araştırmalar için daha fazlasını yapmak. Hesaplama yeteneğinin paylaşılmasında daha fazlasını yapmak. Süper bilgisayarların işi… Sermaye Piyasası Birliği’ni tamamlama ihtiyacının da altını çizmek önemli olacak; çünkü yapay zekaya daha fazla yatırım yapabilmemiz gerekiyor. [ease] bugünden daha. Bugün bazı yatırımcıların başka bir Avrupa ülkesine, başka bir Avrupalı ​​şirkete yatırım yapmak yerine ABD’ye yatırım yapmayı tercih etme riskiyle karşı karşıyayız.”

“Bu Kanun daha uzun bir yolculuğun yalnızca başlangıcıdır, çünkü yapay zekanın sadece bu Yapay Zeka Yasası aracılığıyla ölçemeyeceğimiz bir etkisi olacak; eğitim sistemleri üzerinde bir etkisi olacak, bizim üzerinde bir etkisi olacak.” İşgücü piyasasının savaş üzerinde etkisi olacak” diye ekledi Tudorache. “Dolayısıyla, yapay zekanın merkezi bir rol oynayacağı yepyeni bir dünya açılıyor ve bu noktadan itibaren Kanundan çıkan yönetişimi de inşa edeceğimiz için, Gelecekte teknolojinin bu evrimine karşı çok dikkatli olmak. Ve teknolojinin bu evriminden kaynaklanabilecek yeni zorluklara yanıt vermeye hazır olun.”

Tudorache ayrıca geçen yıl, benzer düşüncelere sahip hükümetler arasında ve daha geniş anlamda, anlaşmaların yapılabileceği her yerde yapay zeka yönetişimi konusunda ortak çalışma çağrısını yineledi.

“Mümkün olduğu kadar birlikte çalışılabilir olmaya çalışma, yani mümkün olduğu kadar çok sayıda demokrasi ve benzer düşüncelere sahip ortakların yer aldığı bir yönetim kurmaya açık olma görevimiz hâlâ devam ediyor. Çünkü teknoloji birDünyanın hangi çeyreğinde olursanız olun. Bu nedenle, bu yönetimi mantıklı bir çerçeveye oturtmak için yatırım yapmalıyız.”

Kaynak: https://techcrunch.com/2024/03/13/deal-on-eu-ai-act-gets-thumbs-up-from-european-parliament/