Birleşik Krallık gazetesi The Guardian, bu ay yayına giren yapay zeka destekli arama motoru ChatGPT Search’ün tamamen yanıltıcı özetler üretme konusunda kandırılabileceğini ortaya çıkardı.
ChatGPT’nin arama özelliği, bir web sayfasının ürün incelemelerini özetlemek gibi şeyler yaparak gezinmeyi daha hızlı hale getirmeyi amaçlamaktadır. Ancak The Guardian, ChatGPT’nin oluşturduğu web sitelerine gizli metinler ekleyerek olumsuz yorumları görmezden gelmesini ve “tamamen olumlu” özetler oluşturmasını sağlayabileceğini buldu. ChatGPT Araması, bu yöntemi kullanarak kötü amaçlı kodları dağıtacak şekilde de yapılabilir.
Bu tür gizli metin saldırıları LLM’ler için iyi bilinen bir risktir ancak bu, yapay zeka destekli canlı bir arama ürününde ilk kez gösteriliyor gibi görünüyor. The Guardian, aramada lider Google’ın benzer sorunlarla baş etme konusunda daha fazla deneyime sahip olduğunu belirtti.
OpenAI, TechCrunch iletişime geçtiğinde bu özel olay hakkında yorum yapmadı ancak kötü amaçlı web sitelerini engellemek için çeşitli yöntemler kullandığını ve sürekli olarak geliştirildiğini söyledi.
Kaynak: https://techcrunch.com/2024/12/26/chatgpt-search-can-be-tricked-into-misleading-users-new-research-reveals/
Web sitemizde ziyaretçilerimize daha iyi hizmet sağlayabilmek adına bazı çerezler kullanıyoruz. Web sitemizi kullanmaya devam ederseniz çerezleri kabul etmiş sayılırsınız.
Gizlilik Politikası