Gözetim Kurulu, Meta’nın yapay zeka tarafından oluşturulan müstehcen görsellerle ilgili politikalarını iyileştirmesini istiyor

Meta’nın yapay zeka tarafından oluşturulan müstehcen görüntüleri nasıl ele aldığına ilişkin araştırmaların ardından, şirketin yarı bağımsız gözlemci organı Gözetim Kurulu artık şirketi bu tür görüntülere ilişkin politikalarını iyileştirmeye çağırıyor. Kurul, Meta’nın kullandığı terminolojiyi “aşağılayıcı”dan “rızaya aykırı”ya değiştirmesini ve bu tür görüntülere ilişkin politikalarını “Zorbalık ve Taciz” bölümünden “Cinsel İstismar Topluluk Standartları” bölümüne taşımasını istiyor.

Şu anda Meta’nın yapay zeka tarafından oluşturulan müstehcen görsellerle ilgili politikaları, Zorbalık ve Taciz bölümündeki “aşağılayıcı cinselleştirilmiş photoshop” kuralından ayrılıyor. Kurul ayrıca Meta’ya “photoshop” kelimesini manipüle edilmiş medya için genelleştirilmiş bir terimle değiştirmesi konusunda çağrıda bulundu.

Ayrıca Meta, “ticari olmayan veya özel bir ortamda üretilmiş” rıza dışı görüntüleri yasaklar. Kurul, yapay zeka tarafından oluşturulan veya izinsiz olarak manipüle edilen görsellerin kaldırılması veya yasaklanması için bu maddenin zorunlu olmaması gerektiğini öne sürdü.

Bu öneriler, Instagram ve Facebook’ta yayınlanan kamuya mal olmuş kişilerin yapay zeka tarafından oluşturulan açık görsellerinin Meta’yı zor durumda bıraktığı iki yüksek profilli vakanın ardından geldi.

Bu vakalardan biri, Hindistan’da tanınmış bir kişinin Instagram’da yayınlanan, yapay zeka tarafından oluşturulan çıplak bir fotoğrafını içeriyordu. Birçok kullanıcı görseli bildirdi ancak Meta görseli kaldırmadı ve hatta daha fazla inceleme yapılmadan bildirimi 48 saat içinde kapattı. Kullanıcılar bu karara itiraz etti ancak bilet tekrar kapatıldı. Şirket ancak Gözetim Kurulu’nun davayı ele alması, içeriği kaldırması ve hesabı yasaklamasının ardından harekete geçti.

Yapay zeka tarafından oluşturulan diğer görüntü ABD’den tanınmış bir kişiye benziyordu ve Facebook’ta yayınlandı. Medya raporları nedeniyle Meta, görseli Medya Eşleştirme Hizmeti (MMS) deposunda (benzer görselleri tespit etmek için kullanılabilecek, hizmet şartlarını ihlal eden bir görsel bankası) zaten bulunduruyordu ve resmi başka bir kullanıcı yüklediğinde hızla kaldırdı. Facebook’ta.

Dikkat çekici bir şekilde Meta, Hint halk figürünün imajını MMS bankasına ancak Gözetim Kurulu’nun dürtmesinden sonra ekledi. Görünüşe göre şirket, Kurul’a, konuyla ilgili medyada herhangi bir haber bulunmadığı için arşivde o zamandan önce görselin bulunmadığını söyledi.

Kurul, notunda “Bu endişe verici çünkü derin sahte mahrem görüntülerin kurbanlarının çoğu kamuoyunun gözü önünde değil ve ya rıza dışı tasvirlerinin yayılmasını kabul etmek zorunda kalıyor ya da her vakayı rapor ediyor” dedi.

Çevrimiçi cinsiyete dayalı şiddeti azaltmak için kampanya yürüten Hintli bir kuruluş olan Breakthrough Trust, bu sorunların ve Meta’nın politikalarının kültürel etkileri olduğuna dikkat çekti. Gözetim Kurulu’na sunulan yorumlarda Breakthrough, rıza dışı görüntülerin genellikle cinsiyete dayalı şiddetten ziyade bir kimlik hırsızlığı sorunu olarak önemsizleştirildiğini söyledi.

“Mağdurlar bu tür vakaları karakollara/mahkemelere bildirirken sıklıkla ikincil mağduriyetle karşı karşıya kalıyorlar (“neden fotoğrafını yayınladın vs.” kendi deepfake gibi fotoğrafları olmasa bile). İnternete girdikten sonra, resim çok hızlı bir şekilde kaynak platformun ötesine geçiyor ve onu yalnızca kaynak platformdan indirmek yeterli olmuyor çünkü hızla diğer platformlara da yayılıyor.” Gözetim Kurulu.

Charkorborty, bir görüşme sırasında TechCrunch’a, kullanıcıların genellikle raporlarının 48 saat içinde otomatik olarak “çözüldü” olarak işaretlendiğini bilmediklerini ve Meta’nın tüm durumlar için aynı zaman çizelgesini uygulamaması gerektiğini söyledi. Ayrıca şirketin bu tür konularda daha fazla kullanıcı farkındalığı oluşturmak için de çalışması gerektiğini öne sürdü.

Daha önce Meta’nın Güney Asya politika ekibinde çalışmış bir platform politikası uzmanı olan Devika Malik, TechCrunch’a bu yılın başlarında platformların rıza dışı görüntüleri kaldırmak için büyük ölçüde kullanıcı raporlarına dayandığını ve bunun yapay zeka tarafından oluşturulan medyayla mücadelede güvenilir bir yaklaşım olmayabileceğini söyledi. .

“Bu, etkilenen kullanıcıya kimliğini ve rıza eksikliğini kanıtlama konusunda haksız bir sorumluluk yüklemektedir (Meta’nın politikasında olduğu gibi). Sentetik medya söz konusu olduğunda bu durum hataya daha açık hale gelebilir ve bu harici sinyalleri yakalamak ve doğrulamak için harcanan zaman, içeriğin zararlı bir ilgi görmesine olanak tanır,” dedi Malik.

Delhi merkezli düşünce kuruluşu The Quantum Hub’ın (TQH) Kurucu Ortağı Aparajita Bharti, Meta’nın, kullanıcıların Meta’nın politikası kapsamındaki farklı kural ihlali kategorilerinin farkında olmayabilecekleri için içerik bildirirken daha fazla bağlam sunmalarına izin vermesi gerektiğini söyledi.

“Meta’nın nihai kararın ötesine geçmesini umuyoruz [of the Oversight Board] esnek ve kullanıcı odaklı kanalların bu nitelikteki içerikleri raporlamasını sağlamak” dedi.

“Kullanıcılardan farklı raporlama yöneticileri arasındaki ince farkları mükemmel bir şekilde anlamalarının beklenemeyeceğini kabul ediyoruz ve Meta içerik denetleme politikalarının teknik özellikleri nedeniyle gerçek sorunların gözden kaçmasını önleyen sistemleri savunuyoruz.’