Yapay zeka laboratuvarı, sömürücü yapay zekaya karşı gerilla savaşı yürütüyor

Zhao, spam’e atıfta bulunarak, “Ortada gerçek bir güvenlik sorununuz varsa ve bir koruma aracı tasarlamaya çalışıyorsanız, cevabın ya mükemmel çalışması ya da onu dağıtmamanız gerektiğini düşünmek basit bir yaklaşımdır” diyor. filtreler ve güvenlik duvarları örnek olarak verilebilir. Savunma sürekli bir kedi-fare oyunudur. Ve çoğu sanatçının riski anlayacak kadar bilgili olduğuna inanıyor.

Umut sunmak

İçerik oluşturucular ve yapay zeka şirketleri arasındaki mücadele şiddetli. Yapay zekadaki mevcut paradigma, gittikçe daha büyük modeller oluşturmaktır ve en azından şu anda, bunların üzerinde eğitim almak için internetten alınan geniş veri kümelerine ihtiyaç duyduğu gerçeğini geçiştirmek mümkün değildir. Teknoloji şirketleri halka açık internetteki her şeyin adil bir oyun olduğunu ve bunun “gelişmiş yapay zeka araçları oluşturmak imkansız” telif hakkıyla korunan materyal olmadan; Birçok sanatçı teknoloji şirketlerinin fikri mülkiyet haklarını çaldığını iddia ediyor ve telif hakkı yasasını ihlal etti, ve bireysel çalışmalarını modellerin dışında tutmanın veya en azından kullanımları karşılığında uygun kredi ve tazminat almanın yollarına ihtiyaçları var.

Şu ana kadar yaratıcılar tam olarak kazanamıyor. Bir dizi şirket zaten değiştirildi AI sistemlerine sahip tasarımcılar, metin yazarları ve illüstratörler. Yüksek profilli bir vakada, Marvel Studios yapay zeka tarafından oluşturulan görüntüleri kullandı 2023 yapımı TV dizisinin başlık sekansında insan yapımı sanat yerine Gizli İstila. Diğerinde bir radyo istasyonu insan sunucularını kovdu ve bunların yerini yapay zeka aldı. Teknoloji, sendikalar ile film, TV ve yaratıcı stüdyolar arasında önemli bir çekişme konusu haline geldi ve yakın zamanda greve yol açtı. video oyunu sanatçıları. Yapay zeka şirketlerine karşı sanatçılar, yazarlar, yayıncılar ve plak şirketleri tarafından devam eden çok sayıda dava var. Net bir yasal çözüm bulunması muhtemelen yıllar alacak. Ancak bir mahkeme kararı bile üretken yapay zekanın yarattığı zor etik sorunları mutlaka çözmeyecektir. Gelecekteki herhangi bir hükümet düzenlemesinin de gerçekleşmesi muhtemel değildir.

Zhao ve Zheng’in Glaze ve Nightshade’i gerekli müdahaleler olarak görmelerinin nedeni budur; orijinal eseri savunmak, ona yardım etmek isteyenlere saldırmak ve en azından sanatçılara bir süre zaman satın almak için araçlar. Mükemmel bir çözüme sahip olmak aslında önemli değil. Araştırmacıların sunması gereken bir şey Zheng, artık yapay zeka sektörünün baş döndürücü bir hızla ilerlemesinin, şirketlerin insanlara yönelik gerçek zararları görmezden geldiği anlamına geldiğini söylüyor. “Muhtemelen tüm teknoloji kariyerimiz boyunca ilk kez bu kadar fazla çatışma görüyoruz” diye ekliyor.

Çok daha büyük bir ölçekte, o ve Zhao bana Glaze ve Nightshade’in eninde sonunda yapay zeka şirketlerinin sanatı kullanma ve ürünlerinin sanat üretme biçimini elden geçirme gücüne sahip olacağını umduklarını söylediler. Yapay zeka modellerini eğitmek göz yaşartıcı derecede pahalıdır ve mühendislerin milyarlarca görüntüden oluşan bir veri kümesindeki zehirli örnekleri bulup temizlemesi son derece zahmetlidir. Teorik olarak, internette yeterince Nightshaded görseli varsa ve teknoloji şirketleri bunun sonucunda modellerinin bozulduğunu görürse, bu durum geliştiricileri lisans ve adil tazminat konusunda pazarlık yapmak için müzakere masasına itebilir.

Bu elbette hala büyük bir “eğer”. MIT Teknoloji İncelemesi Yorum taleplerine yanıt vermeyen Midjourney ve Stability AI gibi çeşitli AI şirketlerine ulaştı. Bu arada OpenAI’nin bir sözcüsü, veri zehirlenmesiyle karşılaşmayla ilgili herhangi bir ayrıntıyı doğrulamadı ancak şirketin ürünlerinin güvenliğini ciddiye aldığını ve güvenlik önlemlerini sürekli olarak iyileştirdiğini söyledi: “Sistemlerimizi her zaman veri zehirlenmesine karşı nasıl daha dayanıklı hale getirebileceğimiz üzerinde çalışıyoruz. bu tür bir istismardır.”

Bu arada SAND Lab ilerleme kaydediyor ve projenin devam etmesi için vakıflardan ve kar amacı gütmeyen kuruluşlardan fon arıyor. Ayrıca fikri mülkiyetlerini korumaya çalışan büyük şirketlerin de ilgisini çektiğini (hangisi olduğunu söylemeyi reddetseler de) Zhao ve Zheng’in bu araçların oyun, video veya müzik gibi diğer endüstrilerde nasıl uygulanabileceğini araştırdıklarını söylüyorlar. . Bu arada, Glaze ve Nightshade’i mümkün olduğu kadar sağlam olacak şekilde güncellemeye devam etmeyi planlıyorlar ve Chicago laboratuvarındaki öğrencilerle yakın işbirliği içinde çalışıyorlar; burada başka bir duvarda Toorenent’in laboratuvarı asılı. Belladonna. Tablonun sağ alt köşesine yapıştırılmış kalp şeklinde bir not var: “Teşekkür ederim! Biz sanatçılara umut verdiniz.”