Meta, Facebook, Instagram ve Threads’te yapay zeka tarafından oluşturulan içeriği etiketleyecek

İçinde yeni posta Bu sabah Meta, Facebook, Instagram ve Threads’te yapay zeka tarafından oluşturulan içeriği tanımlayacağını ve etiketleyeceğini duyurdu ancak “yapay zeka tarafından oluşturulan tüm içeriği tanımlamanın henüz mümkün olmadığı” konusunda uyardı.

Duyuru, yapay zeka tarafından oluşturulan pornografik içeriklerden iki hafta sonra geldi Şarkıcı Taylor Swift’in deepfake’leri Twitter’da viral hale geldi ve hayranlar ile yasa koyucuların kınamalarına ve küresel manşetlere yol açtı. Aynı zamanda Meta olarak da geliyor baskı altına giriyor 2024 ABD seçimleri öncesinde yapay zeka tarafından oluşturulan görüntüler ve üzerinde oynanmış videolarla uğraşmak.

Meta’nın küresel ilişkiler başkanı Nick Clegg, “bunlar yapay zeka tarafından oluşturulan içeriğin yayılması için ilk günler” diye yazdı ve daha yaygın hale geldikçe “toplumda neyin olması gerektiği ve olmaması gerektiği konusunda tartışmalar olacağını” ekledi. Hem sentetik hem de sentetik olmayan içeriği tanımlamak için yapıldı.” Şirket “izlemeye ve öğrenmeye devam edecek ve biz de yaklaşımımızı bu şekilde inceleme altında tutacağız. Sektördeki meslektaşlarımızla işbirliğimizi sürdüreceğiz. Hükümetler ve sivil toplumla diyalog içinde kalacağız.”

Gönderide Meta’nın endüstri kuruluşlarıyla birlikte çalıştığı vurgulandı. Yapay zeka konusunda ortaklık (PAI), yapay zeka tarafından oluşturulan içeriği tanımlamak için ortak standartlar geliştirmek. Meta AI görüntüleri için kullanılan görünmez işaretleyicilerin (IPTC meta verileri ve görünmez filigranlar) PAI’lerle uyumlu olduğu belirtildi. en iyi uygulamalar.

Meta, kullanıcıların Facebook, Instagram ve Threads’te paylaştığı görselleri “yapay zeka tarafından oluşturulduğunu gösteren endüstri standardı göstergeleri tespit edebildiğimizde” etiketleyeceğini söyledi. Gönderide, Meta Yapay Zeka kullanılarak oluşturulan fotogerçekçi görsellerin, hizmet başlatıldığından bu yana etiketlendiği ve böylece insanların bunların ‘Yapay Zeka ile Hayal Edildiğini’ bilmeleri için etiketlendiği belirtildi.

Clegg, Meta’nın yaklaşımının “şu anda teknik olarak mümkün olanın en son noktasını temsil ettiğini” yazdı ve şunları ekledi: “İçerikte görünmez işaretler olmasa bile yapay zeka tarafından oluşturulan içeriği otomatik olarak tespit etmemize yardımcı olabilecek sınıflandırıcılar geliştirmek için çok çalışıyoruz. Aynı zamanda görünmez filigranların kaldırılmasını veya değiştirilmesini zorlaştırmanın yollarını arıyoruz.”

Yapay zeka tarafından oluşturulan içeriğin etiketlenmesine yönelik en son çaba

Meta’nın duyurusu, yapay zeka tarafından oluşturulan içeriği görünmez filigranlar gibi tekniklerle tanımlama ve etiketlemeye yönelik en son çabadır. Temmuz 2023’te yedi şirketler, Başkan Biden’a filigran dahil olmak üzere yapay zeka güvenliğini artırmak için somut adımlar atacaklarına söz verdiAğustos ayında ise Google DeepMind beta sürümünü yayınladı Yeni bir filigran aracı olan SynthID, dijital filigranı doğrudan görüntünün piksellerine gömerek onu insan gözüyle algılanamaz, ancak tanımlama için tespit edilebilir hale getirir.

Ancak şu ana kadar dijital filigranlar (görünür veya görünmez) kötü aktörleri durdurmak için yeterli değil. Ekim ayında Kablolu alıntı Maryland Üniversitesi’nden bilgisayar bilimi profesörü Soheil Feizi, “şu anda güvenilir bir filigranımız yok; hepsini kırdık” dedi. Feizi ve araştırmacı arkadaşları, kötü aktörlerin filigranlama girişimlerinden kaçmasının ne kadar kolay olduğunu inceledi. Saldırganların filigranları nasıl kaldırabileceğini göstermenin yanı sıra, yanlış pozitifleri tetikleyerek insan yapımı görüntülere nasıl filigran ekleyeceğini de gösterdiler.

Uzmanlar, filigranların faydalı olduğunu ancak yapay zeka içeriği için “sihirli değnek” olmadığını söylüyor

Hugging Face’in baş etik bilimcisi Margaret Mitchell şunları söyledi: VentureBeat Ekim ayında bu görünmez dijital filigranların yararlı olduğunu ancak yapay zeka tarafından oluşturulan içeriği tanımlamak için “sihirli bir çözüm” olmadığını söyledi.

Bununla birlikte, dijital filigranların kötü aktörleri durduramasa da, yapay zeka içeriği için bir tür gömülü ‘beslenme etiketi’ isteyen iyi aktörleri mümkün kılmak ve desteklemek için bunların “gerçekten önemli” olduğunu vurguladı.

Yapay zeka tarafından oluşturulan görselleri ve metni çevreleyen etik ve değerler söz konusu olduğunda, bir dizi değerin menşe kavramıyla ilgili olduğunu açıkladı. “Her şeyin nereden geldiğine ve nasıl geliştiğine dair bir tür kökene sahip olmak istiyorsunuz” dedi. “Bu, izin kredisi ve tazminat için içeriği izlemek açısından kullanışlıdır. Modellere yönelik potansiyel girdilerin ne olduğunu anlamak açısından da önemlidir.”

Mitchell’in “gerçekten heyecanlandığını” söylediği şey, bu filigran kullanıcıları topluluğu. Yapay zeka teknolojisinin her zaman iyi çalışmadığı yolların olacağını açıklayarak, “Bunun son zamanlardaki bazı söylemlerde gerçekten kaybolduğunu düşünüyorum” dedi. Ancak bu, teknolojinin bir bütün olarak kötü olduğu anlamına gelmez.