OpenAI’nin en yeni GPT4-o modeli, örneğin sesinizi taklit ederek veya bir konuşma sırasında erotik bir şekilde bağırarak veya inleyerek oldukça tuhaf davranışlar sergileyebilir.
Bunu bilmemizin nedeni bazı bağımsız araştırmacıların ya da rastgele kullanıcıların bunu yakalaması değil. Bunlar aslında modelin risklerini ve bu risklerin ele alınma yollarını tanımlaması beklenen bir “kırmızı ekip” raporunda OpenAI’nin kendisinden gelen gözlemlerdir.
Açık olmak gerekirse, OpenAI bu riskleri tanımlama konusunda rahat görünüyor çünkü bunları azaltmanın yollarını buldu.
Dolayısıyla GPT-4o’nun halkın erişebildiği sürümü birdenbire onların seslerini kopyalamaya başlamamalı ve sözde erotik veya şiddet içeren sesler çıkarmayı veya bu tür konuşmalar üretmeyi reddetmemelidir. (Genel olarak ses efektleri yapmayı da reddetmesi gerekiyor.)
Daha fazlasını öğrenmek için oyuna basın, ardından yorumlarınızda ne düşündüğünüzü bize bildirin.
Kaynak: https://techcrunch.com/video/techcrunch-minute-openais-latest-gpt4-o-model-gets-weird/