OpenAI, ChatGPT’den ödevlerini yazmalarını isteyerek kopya çeken öğrencileri potansiyel olarak yakalayabilecek bir araç geliştirdi ancak The Wall Street Journal’a göre şirket, bu aracı gerçekten yayınlayıp yayınlamamayı tartışıyor.
TechCrunch’a yapılan açıklamada OpenAI sözcüsü, şirketin Journal’ın hikayesinde açıklanan metin filigranı yöntemini araştırdığını doğruladı ancak “karmaşıklıklar ve muhtemel olması” nedeniyle herhangi bir şeyi kamuya yayınlamak için “kasıtlı bir yaklaşım” benimsediğini söyledi. OpenAI’nin ötesindeki daha geniş ekosistem üzerindeki etkisi.”
Sözcü, “Geliştirmekte olduğumuz metin filigranı yöntemi teknik olarak umut verici, ancak alternatifleri araştırırken, kötü aktörlerin atlatılmasına duyarlılık ve İngilizce konuşamayanlar gibi grupları orantısız bir şekilde etkileme potansiyeli de dahil olmak üzere, tarttığımız önemli riskleri var” dedi. .
Bu, büyük ölçüde etkisiz olan, yapay zeka tarafından oluşturulan metni tespit etmeye yönelik önceki çabaların çoğundan farklı bir yaklaşım olacaktır. OpenAI bile “düşük doğruluk oranı” nedeniyle geçen yıl önceki AI metin dedektörünü kapatmıştı.
Metin filigranı ile OpenAI, diğer şirketlerin modellerinden değil, yalnızca ChatGPT’den gelen yazıları tespit etmeye odaklanacaktır. Bunu, ChatGPT’nin kelimeleri seçme biçiminde küçük değişiklikler yaparak, esasen yazıda daha sonra ayrı bir araç tarafından tespit edilebilecek görünmez bir filigran oluşturarak yapacaktır.
Journal’ın öyküsünün yayınlanmasının ardından OpenAI, yapay zeka tarafından oluşturulan içeriğin tespit edilmesine yönelik araştırmasıyla ilgili Mayıs ayındaki bir blog gönderisini de güncelledi. Güncelleme, metin filigranlamanın “başka sözcüklerle ifade etme gibi yerelleştirilmiş tahrifata karşı son derece doğru ve hatta etkili” olduğunu ancak “küresel tahrifata karşı daha az dayanıklı olduğunu” kanıtladığını söylüyor; Çeviri sistemlerini kullanmak, başka bir üretken modelle yeniden ifade etmek veya modelden her kelimenin arasına özel bir karakter eklemesini istemek ve ardından bu karakteri silmek gibi.”
Sonuç olarak OpenAI, bu yöntemin “kötü aktörler tarafından atlatılması açısından önemsiz” olduğunu yazıyor. OpenAI’nin güncellemesi aynı zamanda sözcünün İngilizce konuşmayan kişilerle ilgili görüşünü de tekrarlıyor ve metin filigranlamanın “anadili İngilizce olmayanlar için yapay zekanın yararlı bir yazma aracı olarak kullanımını damgalayabileceğini” yazıyor.
Kaynak: https://techcrunch.com/2024/08/04/openai-says-its-taking-a-deliberate-approach-to-releasing-tools-that-can-detect-writing-from-chatgpt/