Seçim sahtekarlıklarını takip eden UC Berkeley profesörüyle tanışın

Yakın tarihte topluma bu kadar zarar verme potansiyeli taşıyan bir teknoloji görülmemiştir. derin sahtekarlıklar.

Manipülatif, sinsi Yapay zeka tarafından oluşturulan İçerik halihazırda politikada silah haline getiriliyor ve yaklaşan ABD Başkanlık seçimlerinin yanı sıra Senato ve Temsilciler Meclisi’ndeki seçimlerde de yaygınlaşacak.

Düzenleyiciler teknolojiyi kontrol etmeye çalışırken, adayları karalamak, kamuoyunu etkilemek ve seçmen katılımını manipüle etmek için inanılmaz derecede gerçekçi deepfake’ler kullanılıyor. Öte yandan, geri tepen girişimlerde bulunan bazı adaylar, kampanyalarını desteklemek için üretken yapay zekaya yöneldiler.

Kaliforniya Üniversitesi, Berkeley Bilgi Okulu Profesörü Hany Farid tüm bunlardan bıktı. Konuyla ilgili bir proje başlattı deepfake’leri takip etmek 2024 başkanlık kampanyası boyunca.

Farid, VentureBeat’e şunları söyledi: “Umudum, bu içeriğe ışık tutarak medya ve halk arasında farkındalık yaratmamız ve bu içeriği oluşturanlara izlediğimizi ve sizi bulacağımızı işaret etmemizdir.”

Yorgun Biden’dan Trump’a meydan okuyan DeSantis’e kadar

Farid’in sitesi, en son girişinde (30 Ocak), Başkan Joe Biden’ın askeri komuta merkezi gibi görünen bir yerde otururken giydiği üç fotoğrafı sunuyor.

Ancak gönderi şunu belirtiyor: “Masanın üzerinde yanlış bilgilendirilmiş nesnelere dair işaretler var ve tavan döşemelerine ilişkin geometrik analizimiz, fiziksel olarak tutarsız bir ufuk noktasını ortaya çıkarıyor.”

“Yanlış bilgilendirilmiş nesneler” arasında rastgele yerleştirilmiş bilgisayar fareleri ve merkezdeki karmakarışık, ayırt edilemeyen ekipman yer alıyor.

Site ayrıca şu anda kötü şöhrete sahip olanlara da atıfta bulunuyor derin sahte New Hampshire ön seçimleri öncesinde Biden’ın kimliğine bürünen otomatik aramalar. Bunlar seçmenleri katılmamaya çağırdı ve şunları söyledi: “Bu Salı günü oy vermek yalnızca Cumhuriyetçilerin eski Başkan Donald Trump’ı yeniden seçme arayışlarına olanak tanıyor. Oyunuz bu Salı değil, Kasım ayında fark yaratacak.”

Aramaların arkasında kimin olduğu belirsizliğini koruyor ancak Farid, sesin kalitesinin “oldukça düşük” olduğuna ve tuhaf bir kadansa sahip olduğuna dikkat çekiyor.

Başka bir gönderide Ron DeSantis’in “Hayatımın en büyük başkanı olan Başkan Trump’a asla meydan okumamalıydım” dediği deepfake “oldukça kaba ağız hareketi” ve ses kalitesi dile getiriliyor.

Sitede ayrıca Trump’ın eski Baş Tıbbi Danışmanı Anthony Fauci’yi kucakladığı altı fotoğraflık montaj da yer alıyor. Bunlar, “saçma” bir Beyaz Saray logosu ve Amerikan bayrağındaki şekilsiz yıldızlar gibi fiziksel tutarsızlıklar içeriyordu. Ayrıca site, Trump’ın kulağının şeklinin birçok gerçek referans görselle tutarsız olduğuna dikkat çekiyor.

Farid şunları kaydetti: “ABD’deki seçimlerle ilgili olarak, ulusal bir seçimin tamamını sallamak çok fazla bir şey gerektirmez; birkaç hareketli eyaletteki belirli sayıda ilçedeki binlerce oy, tüm bir seçimi etkileyebilir.”

Her şey sahte olabilir; hiçbir şey gerçek olmak zorunda değil

Son aylarda, diğer birçok yaygın deepfake, Trump’ın yarım düzine polis memuru tarafından ele geçirildiğini tasvir etti; Ukraynalı Vladimir Zelenskiy askerlerini çağırıyor silahlarını bırakıp ailelerinin yanına dönmelerini; ve ABD Başkan Yardımcısı Kamala Harris, Howard Üniversitesi’ndeki bir etkinlikte görünüşte başıboş ve sarhoş görünüyor.

Zararlı teknoloji aynı zamanda seçimlere müdahale etmek için de kullanıldı. Türkiye Ve Bangladeş – ve gelecek sayısız aday – ve aralarında Minnesota Temsilcisi Dean Phillips ve Miami Belediye Başkanı Francis Suarez’in de bulunduğu bazı adaylar, seçmenlerle etkileşim kurmak için deepfake’leri kullandı.

Farid, “Geçtiğimiz birkaç yılda deepfake’lerin karmaşıklığının ve bunların kötüye kullanımının arttığını gördüm” dedi. “Bu yıl, dünya çapında milyarlarca kişinin oy vereceği ve gerçekliği manipüle edecek ve çarpıtacak teknolojinin emekleme aşamasından itibaren ortaya çıktığı bir dönüm noktası gibi geliyor.”

Seçmenler üzerindeki etkilerinin ötesinde, derin sahtekarlıklar Yasaları çiğneyen veya uygunsuz bir şey söyleyen veya yapan kişilerin kaydedildiği durumlarda kalkan olarak kullanılabilir.

“Sahte olduğunu iddia ederek gerçeği inkar edebilirler” dedi ve bu sözde “Yalancının Temettü” ifadesi zaten Trump ve Elon Musk tarafından kullanıldı.

Farid, “Her şeyin sahte olduğu bir dünyaya girdiğimizde hiçbir şeyin gerçek olması gerekmiyor” dedi.

Dur, düşün, önyargılarını kontrol et

Araştırmalar, insanların deepfake videoları yalnızca biraz daha fazla tespit edebildiğini gösterdi. zamanın yarısı ve sahte ses zamanın %73’ü.

Farid, yapay zeka tarafından oluşturulan görsellerin, seslerin ve videoların giderek daha gerçekçi hale gelmesi nedeniyle deepfake’lerin giderek daha tehlikeli hale geldiğini belirtti. Ayrıca üzerinde oynanmış materyaller sosyal medyada hızla yayılıyor ve dakikalar içinde viral hale gelebiliyor.

Farid, “Bir yıl önce, sahte olduğu oldukça açık olan, öncelikle görüntü tabanlı deepfake’ler gördük” dedi. “Bugün daha sofistike ve inandırıcı olan daha fazla ses/video deepfake’i görüyoruz.”

Farid, teknolojinin çok hızlı gelişmesi nedeniyle, zaman içinde deepfake’leri tespit etmede faydalı olmaya devam edecek “belirli eserleri” tanımlamanın zor olduğunu belirtti.

“En iyi tavsiyem, sosyal medyadan haber almayı bırakmanızdır; bunun için tasarlanmamıştır” dedi. “Sosyal medyada vakit geçirmeniz gerekiyorsa lütfen yavaşlayın, paylaşmadan/beğenmeden önce düşünün, önyargılarınızı ve onaylama önyargılarınızı kontrol edin ve yanlış bilgi paylaştığınızda sorunun bir parçası olduğunuzu anlayın.”

Telltale’de dikkat edilmesi gereken deepfake işaretleri

Diğerleri ise deepfake’leri tespit etmek için daha somut ve spesifik cihazlar sunuyor.

Northwestern Üniversitesi projesi Sahteleri AlgılaÖrneğin, kullanıcıların sahtekarlıkları tespit etme konusundaki ustalıklarını belirleyebilecekleri bir test sunuyor.

MIT Medya LaboratuvarıBu arada, aşağıdakiler de dahil olmak üzere çeşitli ipuçları sunuyor:

• Üst düzey manipülasyonlar “neredeyse her zaman yüz dönüşümleri” olduğundan yüzlere dikkat etmek.
• “Çok pürüzsüz veya çok kırışık” yanak ve alınlara dikkat edin ve “cildin yaşlılığının” saç ve gözlerinkine benzer olup olmadığına bakın, çünkü deepfake’ler “bazı boyutlarda uyumsuz” olabilir.
• Olmaması gereken yerde görünen gözleri, kaşları ve gölgeleri fark etmek. Deepfake’ler her zaman doğal fiziği temsil edemez.
• Gözlüklerin çok fazla parlamaya sahip olup olmadığına veya hiç parlamanın olup olmadığına ya da kişi hareket ettiğinde parlamanın değişip değişmediğine bakılır.
• Yüzdeki kıllara (veya yokluğuna) ve gerçek görünüp görünmediğine dikkat etmek. Deepfake’lerde bıyık, favori veya sakal eklenebilir veya çıkarılabilir ancak bu dönüşümler her zaman tamamen doğal değildir.
• Bazı deepfake’ler dudak senkronizasyonuna dayalı olduğundan, kişinin nasıl göz kırptığına (çok fazla ya da hiç) ve dudaklarının hareket şekline bakın.

ABD seçimleriyle ilgili bir deepfake gördüğünüzü mü düşünüyorsunuz? Farid’le iletişime geçin.