ABD hükümeti, şirketler ve daha geniş anlamda halk için teknoloji geliştiren ve test eden ABD Ticaret Bakanlığı kurumu olan Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), Pazartesi günü, üretkenliği değerlendirmek üzere NIST’in öncülüğünde yeni bir program olan NIST GenAI’nin başlatıldığını duyurdu. Metin ve görüntü üreten yapay zeka da dahil olmak üzere yapay zeka teknolojileri.
NIST, üretken yapay zeka teknolojisinin çeşitli biçimlerini değerlendirmek için tasarlanmış bir platform olan NIST GenAI’nin karşılaştırmalı değerlendirmeler yayınlayacağını, “içerik orijinalliği” tespit (ör. derin sahte kontrol) sistemleri oluşturulmasına yardımcı olacağını ve sahte veya yanıltıcı bilgilerin kaynağını tespit edecek yazılımların geliştirilmesini teşvik edeceğini açıklıyor NIST yeni başlatılan NIST GenAI sitesinde ve bir basın bülteninde.
Basın bülteninde, “NIST GenAI programı, üretken yapay zeka teknolojilerinin yeteneklerini ve sınırlamalarını değerlendirmek ve ölçmek için tasarlanmış bir dizi zorlu problem yayınlayacak” deniyor. “Bu değerlendirmeler, bilgi bütünlüğünü teşvik edecek ve dijital içeriğin güvenli ve sorumlu kullanımına rehberlik edecek stratejileri belirlemek için kullanılacak.”
NIST GenAI’nin ilk projesi, metinden başlayarak insan yapımı ve yapay zeka tarafından üretilen medya arasındaki farkı güvenilir bir şekilde söyleyebilecek sistemler oluşturmaya yönelik bir pilot çalışmadır. (Birçok hizmet deepfake’leri tespit etme iddiasında olsa da, çalışmalar – ve kendi testlerimiz – özellikle metin söz konusu olduğunda bunların güvenilmez olduğunu gösterdi.) NIST GenAI, akademiden, endüstriden ve araştırma laboratuvarlarından ekipleri “üreticileri” sunmaya davet ediyor: Yapay zeka tarafından oluşturulan içeriği tanımlamaya çalışan içerik veya “ayırıcı” sistemler üreten yapay zeka sistemleri.
Çalışmadaki üreticiler, bir konu ve bir dizi belge sağlanan özetler oluşturmalı, ayrımcılar ise belirli bir özetin yapay zeka tarafından yazılıp yazılmadığını tespit etmelidir. Adilliği sağlamak için NIST GenAI, yaratıcıları ve ayrımcıları eğitmek için gerekli verileri sağlayacaktır; Meta’nın Llama 3’ü gibi açık modeller dahil ancak bunlarla sınırlı olmamak üzere, kamuya açık verilerle eğitilmiş sistemler kabul edilmeyecektir.
Pilot kayıtlar 1 Mayıs’ta başlayacak ve sonuçların Şubat 2025’te yayınlanması planlanıyor.
NIST GenAI’nin lansmanı ve deepfake odaklı çalışması, deepfake’lerin katlanarak büyümesiyle birlikte geliyor.
Deepfake tespit firması Clarity’nin verilerine göre, bu yıl geçen yılın aynı zaman dilimine kıyasla %900 daha fazla deepfake oluşturuldu. Anlaşılır bir şekilde alarma neden oluyor. A son anket YouGov’dan yapılan bir araştırma, Amerikalıların %85’inin çevrimiçi ortamda yanıltıcı deepfake’lerin yayılmasından endişe duyduklarını söylediğini ortaya çıkardı.
NIST GenAI’nin lansmanı, NIST’in, Başkan Joe Biden’ın AI şirketlerinin modellerinin nasıl çalıştığı konusunda daha fazla şeffaflık gerektiren kuralları ortaya koyan ve AI tarafından oluşturulan içeriğin etiketlenmesi de dahil olmak üzere bir dizi yeni standart belirleyen idari emrine verdiği yanıtın bir parçasıdır. .
Bu aynı zamanda eski bir OpenAI araştırmacısı olan Paul Christiano’nun ajansın Yapay Zeka Güvenlik Enstitüsüne atanmasından sonra NIST’in yapay zeka ile ilgili ilk duyurusu.
Christiano, “kıyamet yanlısı” görüşleri nedeniyle tartışmalı bir seçimdi; bir keresinde “Yapay zeka gelişiminin %50 ihtimalle sonuçlanabileceği” tahmininde bulunmuştu. [humanity’s destruction]Bildirildiğine göre NIST içindeki bilim insanları da dahil olmak üzere eleştirmenler, Cristiano’nun Yapay Zeka Güvenlik Enstitüsü’nü yapay zekadan kaynaklanan gerçekçi, daha acil riskler yerine “fantezi senaryolara” odaklanmaya teşvik edebileceğinden korkuyor.
NIST, NIST GenAI’nin AI Güvenlik Enstitüsü’nün çalışmalarına bilgi vereceğini söylüyor.
Kaynak: https://techcrunch.com/2024/04/29/nist-launches-a-new-platform-to-assess-generative-ai/