İnsanlar nefret dolu şarkılar oluşturmak için yapay zeka müzik oluşturucularını kullanıyor

Kötü niyetli aktörler, homofobik, ırkçı ve propaganda şarkıları oluşturmak için üretken yapay zeka müzik araçlarını kötüye kullanıyor ve başkalarına bunu nasıl yapacaklarını öğreten kılavuzlar yayınlıyor.

Çevrimiçi platformlarda güven ve güvenlik operasyonlarını yönetmeye yönelik bir hizmet olan ActiveFence’e göre, Mart ayından bu yana “nefret söylemiyle ilgili” topluluklar arasında, azınlık gruplarını hedef alan saldırgan şarkılar yazmak için AI müzik oluşturma araçlarının kötüye kullanılmasına ilişkin sohbetlerde bir artış yaşandı. ActiveFence araştırmacıları bir raporda, bu forumlarda ve tartışma panolarında paylaşılan yapay zeka tarafından üretilen şarkıların etnik, cinsiyet, ırk ve dini gruplara karşı nefreti teşvik etmeyi amaçladığını ve aynı zamanda şehitlik, kendine zarar verme ve terörizm eylemlerini kutladığını söylüyor.

Nefret dolu ve zararlı şarkılar pek yeni bir olgu değil. Ancak korku şu ki, kullanımı kolay ücretsiz müzik oluşturma araçlarının ortaya çıkmasıyla birlikte, bunlar daha önce gerekli araçlara veya teknik bilgiye sahip olmayan kişiler tarafından geniş ölçekte (tıpkı görüntü, ses, video gibi) üretilecek. ve metin oluşturucular yanlış bilginin, dezenformasyonun ve nefret söyleminin yayılmasını hızlandırdı.

ActiveFence’in kurucu ortağı ve CEO’su Noam Schwartz, bir röportajda TechCrunch’a şunları söyledi: “Bunlar, daha fazla kullanıcının bu şarkıları nasıl oluşturacağını ve başkalarıyla paylaşacağını öğrendikçe yoğunlaşan trendler.” “Tehdit aktörleri, bu platformları farklı şekillerde kötüye kullanmak ve kötü amaçlı içerik oluşturmak için belirli güvenlik açıklarını hızlı bir şekilde tespit ediyor.”

“Nefret” şarkıları yaratmak

Udio ve Suno gibi üretken yapay zeka müzik araçları, kullanıcıların oluşturulan şarkılara özel sözler eklemesine olanak tanıyor. ActiveFence’e göre, platformlardaki korumalar yaygın hakaretleri ve aşağılayıcı ifadeleri filtreliyor ancak kullanıcılar geçici çözümler bulmuş durumda.

Raporda aktarılan bir örnekte, beyazların üstünlüğünü savunan forumlardaki kullanıcılar, içerik filtrelerini atlamak için kullandıkları azınlıkların fonetik yazılışlarını ve “Yahudiler” yerine “jooz” ve “Şeytan” yerine “tan deyin” gibi rahatsız edici terimleri paylaştılar. . Bazı kullanıcılar, şiddet eylemlerinden bahsederken “tecavüzüm” ifadesinin “mire ape” ile değiştirilmesi gibi boşlukların ve yazımların değiştirilmesini önerdi.

TechCrunch, bu geçici çözümlerden birkaçını, yapay zeka tarafından oluşturulan müzik oluşturmak ve paylaşmak için en popüler araçlardan ikisi olan Udio ve Suno üzerinde test etti. Suno hepsinin geçmesine izin verirken, Udio saldırgan sesteş sözcüklerin hepsini olmasa da bazılarını engelledi.

E-posta yoluyla ulaşılan bir Udio sözcüsü TechCrunch’a, şirketin platformunun nefret söylemi için kullanılmasını yasakladığını söyledi. Suno yorum talebimize yanıt vermedi.

ActiveFence, araştırdığı topluluklarda, Yahudi halkı hakkındaki komplo teorilerini papağan gibi tekrarlayan ve onların toplu katliamını savunan, yapay zeka tarafından üretilen şarkılarla bağlantılar buldu; terör grupları IŞİD ve El Kaide ile bağlantılı sloganlar içeren şarkılar; ve kadına yönelik cinsel şiddeti yücelten şarkılar.

Şarkının etkisi

Schwartz, şarkıların (örneğin metinlerin aksine) duygusal ağırlık taşıdığını ve bu durumun onları nefret grupları ve siyasi savaşlar için güçlü bir güç haline getirdiğini öne sürüyor. Kendisi, 70’lerin sonu ve 80’lerin başında Birleşik Krallık’ta antisemitik ve ırkçı “nefret” müziğinin tüm alt türlerini ortaya çıkaran beyaz power rock konserleri dizisi olan Komünizme Karşı Rock’a işaret ediyor.

“Yapay zeka, zararlı içeriği daha çekici hale getiriyor; birinin belirli bir nüfus hakkında zararlı bir anlatıyı vaaz ettiğini düşünün ve sonra birinin herkesin şarkı söylemesini ve hatırlamasını kolaylaştıran kafiyeli bir şarkı yarattığını hayal edin” dedi. “Grup dayanışmasını güçlendiriyorlar, çevredeki grup üyelerinin beyinlerini yıkıyorlar ve aynı zamanda bağlantısız internet kullanıcılarını şok etmek ve rahatsız etmek için de kullanılıyorlar.”

Schwartz, müzik üretme platformlarını önleme araçlarını uygulamaya ve daha kapsamlı güvenlik değerlendirmeleri yürütmeye çağırıyor. Schwartz, “Kırmızı ekip oluşturma potansiyel olarak bu güvenlik açıklarından bazılarını ortaya çıkarabilir ve tehdit aktörlerinin davranışlarını simüle ederek yapılabilir” dedi. “Giriş ve çıkışın daha iyi denetlenmesi de bu durumda yararlı olabilir, çünkü platformların içeriği kullanıcıyla paylaşılmadan önce engellemesine olanak tanıyacaktır.”

Ancak kullanıcılar, denetimi bozan yeni yöntemleri ortaya çıkardıkça düzeltmeler geçici olabilir. Örneğin, ActiveFence’in tespit ettiği yapay zeka tarafından üretilen terörist propaganda şarkılarından bazıları, Arapça örtmeceler ve transliterasyonlar kullanılarak oluşturuldu; müzik üreticilerinin muhtemelen filtreleri Arapça’da güçlü olmadığı için tespit edemediği örtmeceler.

Yapay zeka tarafından üretilen nefret dolu müzik, diğer yapay zeka tarafından üretilen medyanın ayak izlerini takip ederse çok uzaklara yayılmaya hazırlanıyor. Wired, bu yılın başlarında, Adolf Hitler’in yapay zeka tarafından manipüle edilmiş bir klibinin, aşırı sağcı bir komplo fenomeni tarafından paylaşıldıktan sonra X hakkında nasıl 15 milyondan fazla izlenme elde ettiğini belgeledi.

Diğer uzmanların yanı sıra bir BM danışma organı, ırkçı, antisemitik, İslamofobik ve yabancı düşmanı içeriğin üretken yapay zeka tarafından güçlendirilebileceği yönündeki endişelerini dile getirdi.

Schwartz, “Üretken yapay zeka hizmetleri, kaynaklara veya yaratıcı ve teknik becerilere sahip olmayan kullanıcıların ilgi çekici içerik oluşturmasına ve küresel fikir pazarında dikkat çekmek için rekabet edebilecek fikirleri yaymasına olanak tanıyor” dedi. “Ve bu yeni hizmetlerin sunduğu yaratıcı potansiyeli keşfeden tehdit aktörleri, denetimi atlatmak ve tespit edilmekten kaçınmak için çalışıyor ve başarılı oldular.”