Deepseek’in R1’in diğer AI modellerinden daha fazla jailbreaking’e ‘daha savunmasız’ olduğu bildirildi

Wall Street Journal’a göre, Silikon Vadisi ve Wall Street’i sarsılan Çinli AI şirketi olan en son model, Silikon Vadisi ve Wall Street’i sarsılan Çinli AI şirketi, bir biyo-ateş saldırısı planları ve gençler arasında kendine zarar verme kampanyası gibi zararlı içerikler üretmek için manipüle edilebilir. .

Palo Alto Networks’ün Tehdit İstihbaratı ve Olay Müdahale Bölümü Birimi 42’de kıdemli başkan yardımcısı Sam Rubin, Journal’a Deepseek’in “Jailbreaking’e karşı daha savunmasız olduğunu söyledi [i.e., being manipulated to produce illicit or dangerous content] diğer modellerden daha. “

Dergi ayrıca Deepseek’in R1 modelinin kendisini de test etti. Her ne kadar temel önlemler gibi görünse de, Journal, Deepseek’i sohbet botunun sözleriyle “gençlerin aidiyet arzusu, algoritmik amplifikasyon yoluyla silahlandırma arzusunu avlayan” bir sosyal medya kampanyası tasarlamaya başarılı bir şekilde ikna ettiğini söyledi.

Chatbot’un ayrıca bir bioWeap saldırısı için talimatlar vermeye, hatalı bir manifesto yazmaya ve kötü amaçlı yazılım kodu ile kimlik avı e-postası yazmaya ikna olduğu bildirildi. Dergi, Chatgpt’in aynı istemlerle sağlandığında, uymayı reddettiğini söyledi.

Daha önce Deepseek uygulamasının Tianamen Meydanı veya Tayvan özerkliği gibi konulardan kaçındığı bildirildi. Antropik CEO Dario Amodei son zamanlarda Deepseek’in bir bioweap güvenlik testinde “en kötü” yaptığını söyledi.