Google DeepMind, AI metin filigranını açık kaynak haline getiriyor

Kohli, SynthID’nin tokenlerin üretilme olasılığını değiştirerek üretim noktasında ek bilgiler sunduğunu açıklıyor.

Filigranı tespit etmek ve metnin bir AI aracı tarafından oluşturulup oluşturulmadığını belirlemek için SynthID, filigranlı ve filigransız metindeki kelimeler için beklenen olasılık puanlarını karşılaştırır.

Google DeepMind, SynthID filigranını kullanmanın, oluşturulan metnin kalitesinden, doğruluğundan, yaratıcılığından veya hızından ödün vermediğini buldu. Bu sonuç, filigranın Gemini ürünlerine yerleştirilmesinden ve milyonlarca kişi tarafından kullanılmasından sonra SynthID’nin performansına ilişkin devasa bir canlı deneyden çıkarıldı. Gemini, kullanıcıların yapay zeka modelinin yanıtlarının kalitesini beğenmeme veya beğenmeme şeklinde derecelendirmesine olanak tanır.

Kohli ve ekibi, yaklaşık 20 milyon filigranlı ve filigransız chatbot yanıtının puanlarını analiz etti. Kullanıcıların ikisi arasında kalite ve kullanışlılık açısından bir fark görmediklerini buldular. Bu deneyin sonuçları bir makalede ayrıntılı olarak açıklanmıştır. şurada yayınlandı Doğa Bugün. Şu anda metin için SynthID yalnızca Google’ın modelleri tarafından oluşturulan içerik üzerinde çalışıyor, ancak açık kaynak kullanımının uyumlu olduğu araç yelpazesini genişleteceği umut ediliyor.

SynthID’nin başka sınırlamaları da vardır. Filigran, metni kırpma, hafif düzenleme veya yeniden yazma gibi bazı müdahalelere karşı dayanıklıydı ancak yapay zeka tarafından oluşturulan metin yeniden yazıldığında veya bir dilden diğerine çevrildiğinde daha az güvenilirdi. Ayrıca Fransa’nın başkenti gibi gerçek bilgiler isteyen sorulara verilen yanıtlarda da daha az güvenilirdir. Bunun nedeni, gerçekleri değiştirmeden bir cümledeki bir sonraki olası kelimenin olasılığını ayarlama fırsatının daha az olmasıdır.