OpenAI, ChatGPT kullanarak seçim etkisi operasyonunu durduruyor

Cuma günkü bir blog gönderisine göre OpenAI, ABD başkanlık seçimleriyle ilgili içerik üreten İran nüfuz operasyonuyla bağlantılı bir grup ChatGPT hesabını yasakladı. Şirket, operasyonun yapay zeka tarafından oluşturulan makaleler ve sosyal medya gönderileri oluşturduğunu söylüyor ancak çok fazla izleyici kitlesine ulaşmış gibi görünmüyor.

Bu, OpenAI’nin ChatGPT’yi kötü niyetli olarak kullanan devlete bağlı aktörlerle bağlantılı hesapları ilk kez yasaklaması değil. Mayıs ayında şirket, kamuoyunu manipüle etmek için ChatGPT’yi kullanan beş kampanyayı kesintiye uğrattı.

Bu olaylar, önceki seçim döngülerini etkilemeye çalışmak için Facebook ve Twitter gibi sosyal medya platformlarını kullanan devlet aktörlerini anımsatıyor. Şimdi benzer gruplar (veya belki de aynı olanlar), sosyal kanalları yanlış bilgilerle doldurmak için üretken yapay zekayı kullanıyor. Sosyal medya şirketlerine benzer şekilde OpenAI, köstebek vurma yaklaşımını benimsiyor gibi görünüyor ve bu çabalarla ilişkili hesaplar ortaya çıktıkça yasaklanıyor.

OpenAI, bu hesap kümesine ilişkin araştırmasının, geçen hafta yayınlanan ve grubun (Storm-2035 olarak adlandırdığı) 2020’den bu yana yürütülen ABD seçimlerini etkilemeye yönelik daha geniş bir kampanyanın parçası olduğunu tanımlayan Microsoft Tehdit İstihbaratı raporundan yararlandığını söylüyor.

Microsoft, Storm-2035’in haber kaynaklarını taklit eden birden fazla siteye sahip İranlı bir ağ olduğunu ve “ABD başkan adayları, LGBTQ hakları ve İsrail-Hamas çatışması gibi konularda kutuplaştırıcı mesajlar vererek ABD’li seçmen gruplarını siyasi yelpazenin karşıt uçlarında aktif olarak meşgul ettiğini” söyledi. .” Diğer operasyonlarda da kanıtlandığı gibi, taktik kitabı mutlaka şu veya bu politikayı desteklemek değil, muhalefet ve çatışma tohumları ekmektir.

OpenAI, Storm-2035 için “evenpolitics.com” gibi ikna edici alan adlarıyla hem ilerici hem de muhafazakar haber kaynakları olarak sunulan beş web sitesi cephesi belirledi. Grup, ChatGPT’yi birkaç uzun biçimli makale taslağı hazırlamak için kullandı; bunlardan biri, Elon Musk’un platformunun kesinlikle yapmadığı “X’in Trump’ın tweet’lerini sansürlediği” iddiası da dahil (Musk, eski Başkan Donald Trump’ı X ile daha fazla ilgilenmeye teşvik ediyor).

OpenAI, sosyal medyada bu operasyon tarafından kontrol edilen bir düzine X hesabı ve bir Instagram hesabı tespit etti. Şirket, ChatGPT’nin çeşitli siyasi yorumları yeniden yazmak için kullanıldığını ve bunların daha sonra bu platformlarda yayınlandığını söylüyor. Bu tweetlerden biri yanlış ve kafa karıştırıcı bir şekilde, Kamala Harris’in “artan göç maliyetlerini” iklim değişikliğine bağladığını ve bunu “#DumpKamala”nın takip ettiğini iddia etti.

OpenAI, Storm-2035’in makalelerinin geniş çapta paylaşıldığına dair bir kanıt görmediğini ve sosyal medya gönderilerinin çoğunun çok az beğeni, paylaşım veya yorum aldığını veya hiç almadığını belirtti. ChatGPT gibi yapay zeka araçlarını kullanarak hızlı ve ucuz bir şekilde başlatılabilen bu işlemlerde genellikle durum böyledir. Seçim yaklaştıkça ve çevrimiçi partizan çekişmeler yoğunlaştıkça bunun gibi daha birçok bildirim görmeyi bekliyoruz.