Sonia’nın AI sohbet robotu terapistler için devreye giriyor

Sohbet robotları insan terapistlerin yerini alabilir mi? Bazı startuplar ve hastalar bunu yapabileceklerini iddia ediyor. Ancak bu tam olarak yerleşmiş bir bilim değil.

Bir çalışma, OpenAI’nin ChatGPT’sini zihinsel sağlık tavsiyesi için kullanan kişilerin %80’inin, bunun düzenli terapiye iyi bir alternatif olduğunu düşündüğünü ortaya koyarken, ayrı bir rapor, sohbet robotlarının depresyon ve anksiyete ile ilgili belirli semptomları azaltmada etkili olabileceğini buldu. Öte yandan, terapist ile danışan arasındaki ilişkinin, diğer bir deyişle insani bağın, ruh sağlığı tedavisinde başarının en iyi belirleyicileri arasında olduğu iyice anlaşılmıştır.

Üç girişimci – Dustin Klebe, Lukas Wolf ve Chris Aeberli – chatbot yanlısı terapi kampında. Girişimleri Sonia, kullanıcıların bir iOS uygulaması aracılığıyla çeşitli konular hakkında konuşabileceği veya mesaj gönderebileceği bir “Yapay Zeka Terapisti” sunuyor.

Sonia’nın CEO’su Klebe, bir röportajda TechCrunch’a şunları söyledi: “Bir yapay zeka terapisti oluşturmak, bir dereceye kadar, mevcut teknolojiyi yeniden paketlemek yerine yeni bir teknoloji geliştirmemiz anlamında bir ilaç geliştirmeye benziyor.”

Üçlü, 2018 yılında ETH Zürih’te bilgisayar bilimi okurken tanıştı ve MIT’de yüksek lisans eğitimine devam etmek için birlikte ABD’ye taşındı. Mezun olduktan kısa bir süre sonra, ölçeklenebilir teknolojiye olan ortak tutkularını özetleyebilecek bir startup kurmak için yeniden bir araya geldiler.

Bu başlangıç ​​Sonia oldu.

Sonia, kullanıcıların uygulamadaki “terapi seansları” sırasında söylediklerini analiz etmek ve bunlara yanıt vermek için bir dizi üretken yapay zeka modelinden yararlanıyor. Bilişsel davranışçı terapi tekniklerini uygulayan ve kullanıcılardan ayda 20 ABD Doları veya yılda 200 ABD Doları ücret alan uygulama, en büyük stres faktörlerini belirlemeye yardımcı olmak için tasarlanmış konuşmalardan ve görselleştirmelerden eve içgörüler kazandırmayı amaçlayan “ev ödevi” veriyor.

Klebe, FDA onayı almayan Sonia’nın depresyon, stres ve kaygıdan ilişki sorunları ve yetersiz uykuya kadar çeşitli sorunlarla başa çıkabileceğini iddia ediyor. Klebe, insanların şiddet veya intiharı düşünmesi gibi daha ciddi senaryolar için Sonia’nın “acil durumları” tespit edecek ve kullanıcıları ulusal yardım hatlarına yönlendirecek “ek algoritmalara ve modellere” sahip olduğunu söylüyor.

Biraz endişe verici bir şekilde, Sonia’nın kurucularından hiçbirinin psikoloji geçmişi yok. Ancak Klebe, startup’ın psikologlara danıştığını, yakın zamanda bilişsel psikoloji mezunu bir kişiyi işe aldığını ve aktif olarak tam zamanlı bir klinik psikoloğu işe aldığını söylüyor.

Klebe, “İnsan terapistlerini veya insanlar tarafından yürütülen fiziksel veya sanal zihinsel sağlık hizmetleri sağlayan şirketleri rakibimiz olarak görmediğimizi vurgulamak önemlidir” dedi. “Sonia’nın ürettiği her yanıt için, Sonia’nın seçtiği terapötik yaklaşımı ayarlamak, optimize etmek ve kişiselleştirmek amacıyla durumu birkaç farklı terapötik perspektiften analiz etmek için arka planda gerçekleşen yaklaşık yedi ek dil modeli çağrısı var.”

Peki ya mahremiyet? Kullanıcılar, verilerinin savunmasız bir bulutta saklanmayacağından veya Sonia’nın modellerini kendi bilgileri olmadan eğitmek için kullanılmadığından emin olabilirler mi?

Klebe, Sonia’nın terapiyi yönetmek için yalnızca “mutlak minimum” miktarda kişisel bilgiyi saklamaya kararlı olduğunu söylüyor: kullanıcının yaşı ve adı. Ancak Sonia’nın konuşma verilerini nerede, nasıl ve ne kadar süreyle sakladığını belirtmedi.

Yaklaşık 8.000 kullanıcısı ve Y Combinator, Moonfire, Rebel Fund ve SBXi gibi yatırımcılardan 3,35 milyon dolarlık desteği bulunan Sonia, çevrimiçi portalları aracılığıyla Sonia’ya kaynak olarak sağlamak için isimsiz akıl sağlığı kuruluşlarıyla görüşmelerde bulunuyor. App Store’da Sonia için yapılan incelemeler şu ana kadar oldukça olumlu; birçok kullanıcı, sorunları hakkında sohbet robotuyla konuşmayı bir insan terapistten daha kolay bulduklarını belirtti.

Ama bu iyi bir şey mi?

Günümüzün chatbot teknolojisinin verebileceği tavsiyelerin kalitesi sınırlıdır ve anoreksik bir kişinin nasıl kilo verileceğini sorması gibi, bir sorunun göstergesi olan daha ince işaretleri algılayamayabilir. (Sonia kişinin kilosunu bile bilmiyordu.)

Chatbot’ların yanıtları da önyargılarla renkleniyor; genellikle eğitim verilerine yansıyan Batılı önyargılar. Sonuç olarak, kişinin zihinsel hastalıklarını ifade etme biçimindeki kültürel ve dilsel farklılıkları gözden kaçırma olasılıkları daha yüksektir, özellikle de kişinin ikinci dili İngilizce ise. (Sonia yalnızca İngilizceyi desteklemektedir.)

En kötü senaryoda, chatbotlar kontrolden çıkar. Geçtiğimiz yıl, Ulusal Yeme Bozuklukları Derneği, insanları, yeme bozukluğu olan insanlara tetikleyen kilo verme ipuçları veren bir sohbet robotu olan Tessa’yla değiştirdiği için eleştirilere maruz kalmıştı.

Klebe, Sonia’nın insan terapistlerin yerini almaya çalışmadığını vurguladı.

Klebe, “Akıl sağlığıyla mücadele eden ancak bir insan terapiste ulaşamayan (veya ulaşmak istemeyen) milyonlarca insan için bir çözüm geliştiriyoruz” dedi. “Arz ve talep arasındaki devasa boşluğu doldurmayı hedefliyoruz.”

Hem profesyonellerin hastalara oranı hem de tedavilerin maliyeti ile çoğu hastanın karşılayabileceği arasında kesinlikle bir boşluk var. Yakın tarihli bir hükümet raporuna göre, ABD’nin yarısından fazlasının zihinsel bakıma yeterli coğrafi erişimi yok. Yakın zamanda yapılan bir araştırma, zihinsel sağlık sorunu olan ABD’li yetişkinlerin %42’sinin, maddi güçleri yetmediği için bakım alamadığını ortaya çıkardı.

Scientific America’daki bir makale, en fazla risk altında olabilecek ancak nasıl yardım arayacağını bilmeyen izole bireylerden değil, “endişeli kişilere” veya terapi ve uygulama aboneliklerini karşılayabilen kişilere hitap eden terapi uygulamalarından bahsediyor. Aylık 20 dolardan başlayan Sonia pek de ucuz değil; ancak Klebe, bunun tipik bir terapi randevusundan daha ucuz olduğunu savunuyor.

“Sonia’yı kullanmaya başlamak, bir insan terapistiyle görüşmekten çok daha kolay; bu da bir terapist bulmayı, dört ay boyunca bekleme listesinde olmayı, belirli bir zamanda oraya gitmeyi ve 200 dolar ödemeyi gerektiriyor” dedi. “Sonia şimdiden bir insan terapistin tüm kariyeri boyunca görebileceğinden daha fazla hasta gördü.”

Yalnızca Sonia’nın kurucularının, uygulamayı geliştirirken çözebileceği ve çözemeyeceği sorunlar konusunda şeffaf kalmasını umuyorum.