Pindrop, AI ses sahtekarlıklarını %99 doğrulukla tespit ettiğini iddia ediyor

Bugün, PindropSes güvenliği, kimlik doğrulama ve sahtekarlık tespitine yönelik çözümler sunan şirket, tespite yönelik web tabanlı bir araç olan Pulse Inspect’in piyasaya sürüldüğünü duyurdu. Yapay zeka tarafından oluşturulan konuşma herhangi bir dijital ses veya video dosyasında oldukça yüksek bir doğruluk derecesi olduğunu iddia ediyor: %99.

Bu özellik, Pindrop’un Pulse ürün grubunun bir parçası olarak önizleme aşamasında mevcut ve sesin oluşturulduğu araç veya yapay zeka modelinden bağımsız olarak algılama sunuyor.

Bu, yapay zeka satıcılarının yapay zeka sınıflandırıcılarını yalnızca kendi araçlarından üretilen sentetik içeriği tespit etmek için piyasaya sürdüğü genel sektör uygulamalarının dikkate değer ve iddialı bir teklifidir.

Pindrop, derin ses sahtekarlığı riskiyle geniş ölçekte mücadele etmek isteyen kuruluşlara Pulse Inspect’i yıllık abonelikle sunuyor. Ancak CEO Vijay Balasubraniyan, VentureBeat’e tüketiciler için de sınırlı sayıda medya kontrolüyle daha uygun fiyatlı fiyatlandırma katmanları başlatabileceklerini söyledi.

“Fiyatlandırmamız, derin sahte tespitine sürekli ihtiyaç duyan kuruluşlar için tasarlandı. Ancak gelecekteki pazar talebine bağlı olarak sıradan kullanıcılar için daha uygun fiyatlandırma seçeneklerini gelecekte sunmayı düşünebiliriz” dedi.

Pindrop, sesli deepfake’lerin yükselişine değiniyor

Deepfake’ler uzun süredir ortalıkta olsa da, metin tabanlı üretken yapay zeka sistemlerinin yükselişi onları internette daha yaygın hale getirdi. Microsoft’unkiler gibi popüler nesil yapay zeka araçları ve Onbir Laboratuvarses ve videoyu taklit etmek için istismar edildi ünlüleriş adamları ve politikacılar Yaygın yanlış bilgi/dolandırıcılık yaymak ve kamu imajını etkilemek.

Pindrop’un iç bilgilerine göre rapor12 milyondan fazla Amerikalı yetişkin, kişisel olarak deepfake’leri rızası olmadan oluşturulmuş birini tanıyor. Bu kopyalar, görüntülerden videoya ve sese kadar her şey olabilir, ancak hepsinin ortak bir noktası var: virallik yoluyla gelişiyorlar ve sosyal medyada kontrol edilemeyen yangınlar gibi yayılıyorlar.

Bu gelişen sorunu çözmek için Pindrop, bu yılın başlarında Pulse ürün grubunu duyurdu. Portföydeki ilk teklif, işletmelerin çağrı merkezlerine gelen deepfake çağrıları tespit etmelerine yardımcı oldu. Artık şirket, Pulse Inspect ile çağrıların ötesine geçerek kuruluşların herhangi bir ses/video dosyasını yapay zeka tarafından oluşturulan sentetik eserler açısından kontrol etmesine yardımcı oluyor.

Analiz için şüpheli ses dosyalarını yükleyin

Temelde teklif, kurumsal bir kullanıcının şüpheli dosyayı analiz için yükleyebileceği bir web uygulaması olarak geliyor.

Daha önce, mevcut medya dosyalarındaki sentetik eserleri kontrol etme sürecinin tamamı, zaman alan adli tıp incelemesi gerektiriyordu. Ancak bu durumda araç, sesi birkaç saniye içinde işliyor ve yapay zeka tarafından oluşturulan konuşmayı içeren bölümlerle tamamlanan bir “derin sahte puan” ortaya çıkarıyor.

Bu hızlı yanıt, kuruluşların yanlış bilgilerin yayılmasını önlemek ve marka güvenilirliğini korumak için proaktif eylemler gerçekleştirmesine olanak tanıyabilir.

Eğitim ve analiz süreci

Pindrop, 350’den fazla deepfake oluşturma aracı, 20 milyondan fazla benzersiz ifade ve 40’tan fazla dil üzerinde özel bir deepfake tespit modeli eğittiğini ve bunun, şirketin yaklaşık 200 bin veri kümesi üzerinde yaptığı dahili analize göre %99 oranında deepfake ses tespit oranı sağladığını söylüyor. örnekler.

Model, her dört saniyede bir medya dosyalarını sentetik yapılar açısından kontrol ederek, özellikle hem yapay zeka tarafından oluşturulan hem de orijinal öğeler içeren karma medya durumunda, deepfake’leri doğru şekilde sınıflandırmasını sağlıyor.

Balasubraniyan, “Pindrop’un teknolojisi, çoklu yaklaşımlar kullanarak sentetik eserleri tanımlamak için derin sinir ağları (DNN) ve karmaşık spektro-zamansal analizlerdeki son buluşlardan yararlanıyor” dedi.

Satıcıya özel tespit limiti yok

Pindrop algılama modelini yüzlerce nesilden fazla araç üzerinde eğittiğinden, Pulse Inspect’in algılama için araca özel bir kısıtlaması yoktur.

“350’den fazla deepfake oluşturucu sistemi var ve sosyal medyadaki pek çok üretken deepfake muhtemelen ElevenLabs gibi ticari araçlardan ziyade açık kaynaklı araçlardan geliyor. Müşterilerin, tek bir sistemdeki deepfake’leri tespit etmekle sınırlı olmayan, aynı zamanda tüm nesil sistemlerde sentetik sesi tanımlayabilen Pindrop gibi kapsamlı araçlara ihtiyacı var,” diye ekledi Balasubramaniyan.

Ancak, özellikle dosyada iki saniyeden az net konuşma veya çok yüksek düzeyde arka plan gürültüsü varsa, aracın deepfake’leri tespit etmekte başarısız olabileceği durumların olabileceğini unutmamak önemlidir. CEO, şirketin bu boşlukları gidermek ve tespit doğruluğunu daha da artırmak için sürekli çalıştığını söyledi.

Şu anda Pindrop, Pulse Inspect’i medya şirketleri, kar amacı gütmeyen kuruluşlar, devlet kurumları, ünlü yönetim firmaları, hukuk firmaları ve sosyal medya ağları gibi kuruluşları hedef alıyor. Balasubraniyan, aracı kullanan müşterilerin kesin sayısını paylaşmadı ancak “bir dizi ortağın” ürünü hacim bazlı yıllık abonelik ödeyerek kullandığını söyledi. Buna, kritik seçim kitlelerinin derin sahtekarlıkları tespit etmesine olanak tanıyan ücretsiz kullanımlı bir ürün olan TrueMedia.org da dahildir.

Manuel yüklemeleri destekleyen web uygulamasına ek olarak Pulse Inspect, bir API aracılığıyla özel adli iş akışlarına da entegre edilebilir. Bu, bir sosyal medya ağının yapay zeka tarafından oluşturulan zararlı videoları işaretlemesi ve kaldırması gibi toplu kullanım durumlarını güçlendirebilir.

Balasubramaniyan, ileriye dönük olarak şirketin, derin sahte nesillerin kaynağına kadar takip etme özelliği ile araçların açıklanabilirlik yönünü iyileştirerek ve daha fazla yöntemi destekleyerek Pulse paketini desteklemeyi planladığını söyledi.