Meta’nın Gözetim Kurulu, Instagram ve Facebook’ta yayınlanan yapay zeka tarafından oluşturulan açık görselleri araştırıyor

Meta’nın yarı bağımsız politika konseyi olan Gözetim Kurulu, dikkatini şirketin sosyal platformlarının yapay zeka tarafından oluşturulan açık görselleri nasıl işlediğine çeviriyor. Salı günü, Meta’nın sistemlerinin müstehcen içeriği tespit etme ve yanıt verme konusunda yetersiz kalmasından sonra, Hindistan’da Instagram ve ABD’de Facebook’un yapay zeka tarafından oluşturulan kamuya mal olmuş kişilerin görüntülerini nasıl ele aldığına ilişkin iki ayrı vakaya ilişkin soruşturmaların başlatıldığı duyuruldu.

Her iki durumda da siteler artık medyayı yayından kaldırmıştır. TechCrunch’a gönderilen Meta e-postasına göre kurul, “cinsiyete dayalı tacizi önlemek için” AI görüntülerinin hedef aldığı kişilerin isimlerini vermiyor.

Kurul, Meta’nın moderasyon kararlarıyla ilgili davaları ele alıyor. Kullanıcıların, Gözetim Kurulu’na başvurmadan önce, bir moderasyon hamlesi konusunda Meta’ya itirazda bulunması gerekiyor. Kurulun gelecekte tüm bulgularını ve sonuçlarını yayınlaması bekleniyor.

vakalar

İlk vakayı açıklayan kurul, bir kullanıcının Hindistan’dan tanınmış bir şahsın AI tarafından oluşturulan çıplak fotoğrafını Instagram’da pornografi olarak bildirdiğini söyledi. Görüntü, yalnızca yapay zeka tarafından oluşturulan Hintli kadınların görüntülerini yayınlayan bir hesap tarafından yayınlandı ve bu görüntülere tepki veren kullanıcıların çoğunluğu Hindistan’da bulunuyor.

Meta, ilk raporun ardından görseli kaldırmayı başaramadı ve şirketin raporu daha fazla incelememesinin ardından rapora ilişkin destek kaydı 48 saat sonra otomatik olarak kapatıldı. İlk şikayetçi karara itiraz ettiğinde rapor, Meta’nın herhangi bir gözetimi olmadan yeniden otomatik olarak kapatıldı. Başka bir deyişle, iki rapordan sonra yapay zeka tarafından oluşturulan açık görsel Instagram’da kaldı.

Kullanıcı daha sonra en sonunda yönetim kuruluna başvurdu. Şirket ancak bu noktada sakıncalı içeriği kaldırmak için harekete geçti ve zorbalık ve tacize ilişkin topluluk standartlarını ihlal ettiği gerekçesiyle görseli kaldırdı.

İkinci vaka, bir kullanıcının, yapay zeka yaratımlarına odaklanan bir Gruptaki ABD’li tanınmış bir kişiye benzeyen açık, yapay zeka tarafından oluşturulmuş bir görsel paylaştığı Facebook ile ilgilidir. Bu durumda, sosyal ağ, daha önce başka bir kullanıcı tarafından paylaşılan görseli kaldırmış ve Meta, görseli “aşağılayıcı, cinselleştirilmiş photoshop veya çizimler” kategorisi altında Medya Eşleştirme Hizmet Bankası’na eklemişti.

TechCrunch, yönetim kurulunun neden şirketin AI tarafından oluşturulan açık bir görseli başarıyla kaldırdığı bir vakayı seçtiğini sorduğunda kurul, “Meta platformlarındaki daha geniş sorunların simgesi olan” vakaları seçtiğini söyledi. Bu vakaların, danışma kurulunun Meta’nın çeşitli konulardaki politika ve süreçlerinin küresel etkinliğine bakmasına yardımcı olduğunu ekledi.

“Meta’nın bazı pazarlarda ve dillerde içerik denetleme konusunda diğerlerinden daha hızlı ve etkili olduğunu biliyoruz. Gözetim Kurulu Eş Başkanı Helle Thorning-Schmidt yaptığı açıklamada, ABD’den ve Hindistan’dan birer vaka alarak Meta’nın dünya çapındaki tüm kadınları adil bir şekilde koruyup korumadığını görmek istiyoruz” dedi.

“Kurul, Meta’nın politikalarının ve uygulama uygulamalarının bu sorunu çözmede etkili olup olmadığını araştırmanın önemli olduğuna inanıyor.”

Derin sahte porno ve çevrimiçi cinsiyete dayalı şiddet sorunu

Son yıllarda üretken yapay zeka araçlarının tamamı olmasa da bazıları, kullanıcıların porno oluşturmasına izin verecek şekilde genişletildi. TechCrunch’ın daha önce bildirdiği gibi Unstable Diffusion gibi gruplar, verilerdeki belirsiz etik çizgiler ve önyargılarla AI pornosundan para kazanmaya çalışıyor.

Hindistan gibi bölgelerde deepfake’ler de endişe konusu haline geldi. Geçen yıl BBC’nin bir raporunda, Hintli aktrislerin deepfake videolarının sayısının son zamanlarda arttığı belirtildi. Veriler, kadınların daha çok deepfake videoların konusu olduğunu gösteriyor.

Bu yılın başlarında, BT Bakan Yardımcısı Rajeev Chandrasekhar, teknoloji şirketlerinin deepfake’lere karşı koyma yaklaşımından duyduğu memnuniyetsizliği dile getirdi.

Chandrasekhar, o dönemde düzenlediği basın toplantısında, “Eğer bir platform, derin sahte videoları kaldırmadan kaçabileceğini düşünüyorsa veya sadece sıradan bir yaklaşım sergiliyorsa, bu tür platformları engelleyerek vatandaşlarımızı koruma gücüne sahibiz” dedi.

Hindistan, deepfake ile ilgili belirli kuralları yasaya koymayı düşünse de henüz hiçbir şey kesinleşmedi.

Ülkede çevrimiçi cinsiyete dayalı şiddetin yasa kapsamında bildirilmesine ilişkin hükümler mevcut olsa da uzmanlar sürecin sıkıcı olabileceğini ve genellikle çok az destek verildiğini belirtiyor. Hintli savunuculuk grubu IT for Change, geçen yıl yayınlanan bir çalışmada, Hindistan’daki mahkemelerin çevrimiçi cinsiyete dayalı şiddeti ele almak ve bu davaları önemsizleştirmemek için sağlam süreçlere sahip olması gerektiğini kaydetti.

Hindistan merkezli bir kamu politikası danışmanlık firması olan The Quantum Hub’ın kurucu ortağı Aparajita Bharti, yapay zeka modellerinin zarara neden olan açık içerik oluşturmasını engellemek için sınırlamalar olması gerektiğini söyledi.

“Üretici yapay zekanın ana riski, bu tür içeriklerin hacminin artmasıdır çünkü bu tür içerikleri oluşturmak kolaydır ve yüksek düzeyde karmaşıklığa sahiptir. Bu nedenle, öncelikle birine zarar verme niyetinin zaten açık olması durumunda çıktıyı sınırlamak için yapay zeka modellerini eğiterek bu tür içeriklerin oluşturulmasını önlememiz gerekiyor. Ayrıca kolay tespit için varsayılan etiketlemeyi de tanıtmalıyız,” dedi Bharti TechCrunch’a bir e-posta yoluyla.

Şu anda dünya çapında yapay zeka araçları kullanılarak oluşturulan pornoların üretimi ve dağıtımını ele alan yalnızca birkaç yasa var. Bir avuç ABD eyaletinin deepfake’lere karşı yasaları var. Birleşik Krallık bu hafta cinsel içerikli yapay zeka destekli görüntülerin oluşturulmasını suç sayan bir yasa çıkardı.

Meta’nın yanıtı ve sonraki adımlar

Gözetim Kurulu’nun davalarına yanıt olarak Meta, her iki içeriği de kaldırdığını söyledi. Ancak sosyal medya şirketi, kullanıcılardan gelen ilk raporların ardından veya içeriğin platformda ne kadar süreyle kaldığı konusunda Instagram’daki içeriği kaldırma konusunda başarısız olduğu gerçeğini açıklamadı.

Meta, cinsel açıdan müstehcen içeriği tespit etmek için yapay zeka ve insan incelemesinin bir karışımını kullandığını söyledi. Sosyal medya devi, Instagram Keşfet veya Reels önerileri gibi yerlerde bu tür içerikleri önermediğini söyledi.

Gözetim Kurulu, derin sahte pornonun yol açtığı zararlar, ABD ve Hindistan gibi bölgelerde bu tür içeriğin yayılmasıyla ilgili bağlamsal bilgiler ve Meta’nın tespit etme konusundaki yaklaşımının olası tuzakları ile ilgili olarak – 30 Nisan’a kadar son tarihle – kamuoyunun görüşlerini talep etti. Yapay zeka tarafından oluşturulan müstehcen görüntüler.

Kurul, vakaları ve kamuoyunun yorumlarını inceleyecek ve kararı birkaç hafta içinde sitede yayınlayacak.

Bu vakalar, büyük platformların hala eski denetleme süreçleriyle boğuştuğunu, yapay zeka destekli araçların ise kullanıcıların farklı türde içerikleri hızlı ve kolay bir şekilde oluşturup dağıtmasına olanak sağladığını gösteriyor. Meta gibi şirketler, içerik oluşturmak için yapay zekayı kullanan araçları deniyor ve bu tür görüntüleri tespit etmeye yönelik bazı çabalar gösteriyor. Ancak failler sürekli olarak bu tespit sistemlerinden kaçmanın yollarını buluyor ve sosyal platformlarda sorunlu içerikler yayınlıyor.