Üretken yapay zeka sağlık hizmetleri için geliyor ve herkes bu durumdan memnun değil

Üretken yapay zeka Görüntüleri, metinleri, sesleri, videoları ve daha fazlasını oluşturup analiz edebilen bu teknoloji, hem Büyük Teknoloji firmaları hem de yeni kurulan girişimler tarafından giderek daha fazla sağlık hizmetleri alanına giriyor.

Google’ın bulut hizmetleri ve ürünleri bölümü olan Google Cloud, Pittsburgh merkezli kar amacı gütmeyen bir sağlık şirketi olan Highmark Health ile hasta alım deneyimini kişiselleştirmek için tasarlanmış üretken yapay zeka araçları konusunda işbirliği yapıyor. Amazon’un AWS bölümü, analiz etmek için üretken yapay zekayı kullanmanın bir yolu üzerinde isimsiz müşterilerle çalıştığını söylüyor “Sağlığın sosyal belirleyicileri” için tıbbi veritabanları. Microsoft Azure, kâr amacı gütmeyen sağlık hizmeti ağı Providence için hastalardan bakım sağlayıcılara gönderilen mesajların otomatik olarak önceliklendirilmesini sağlayacak üretken bir yapay zeka sisteminin oluşturulmasına yardımcı oluyor.

Sağlık hizmetlerinde önde gelen üretken yapay zeka girişimleri arasında klinisyenler için üretken bir yapay zeka uygulaması geliştiren Ambience Healthcare; Uygulayıcılara yönelik bir ortam yapay zeka asistanı olan Nabla; ve tıbbi dokümantasyon için analiz araçları oluşturan Abridge.

Üretken yapay zekaya yönelik yaygın coşku, sağlık hizmetlerini hedefleyen üretken yapay zeka çabalarına yapılan yatırımlara da yansıyor. Toplu olarak, sağlık hizmeti girişimlerinde üretken yapay zeka bugüne kadar risk sermayesinde on milyonlarca dolar topladı ve sağlık yatırımcılarının büyük çoğunluğu üretken yapay zekanın yatırım stratejilerini önemli ölçüde etkilediğini söylüyor.

Ancak hem profesyoneller hem de hastalar, sağlık hizmetleri odaklı üretken yapay zekanın prime time’a hazır olup olmadığı konusunda kafa karışıklığı yaşıyor.

Üretken yapay zeka insanların istediği şey olmayabilir

Yakın zamanda yapılan bir Deloitte anketinde, ABD’li tüketicilerin yalnızca yarısı (%53) üretken yapay zekanın sağlık hizmetlerini iyileştirebileceğini düşündüğünü söyledi; örneğin, daha erişilebilir hale getirerek veya randevu bekleme sürelerini kısaltarak. Yarıdan azı, üretken yapay zekanın tıbbi bakımı daha uygun fiyatlı hale getirmesini beklediklerini söyledi.

ABD Gaziler İşleri Bakanlığı’nın en büyük sağlık sistemi olan VA Sunshine Healthcare Network’ün yapay zeka şefi Andrew Borkowski, şüpheciliğin yersiz olduğunu düşünmüyor. Borkowski, üretken yapay zekanın konuşlandırılmasının, “önemli” sınırlamaları ve etkinliğine ilişkin endişeler nedeniyle erken olabileceği konusunda uyardı.

TechCrunch’a şunları söyledi: “Üretken yapay zekanın en önemli sorunlarından biri, karmaşık tıbbi sorguları veya acil durumları ele alamamasıdır.” “Bilgi tabanının sınırlı olması, yani güncel klinik bilgilerin bulunmaması ve insan uzmanlığının olmayışı, onu kapsamlı tıbbi tavsiye veya tedavi önerileri sağlamak için uygunsuz kılıyor.”

Çeşitli çalışmalar bu noktalara güven duyulduğunu ileri sürüyor.

JAMA Pediatrics dergisindeki bir makalede, bazı sağlık kuruluşlarının sınırlı kullanım durumları için pilotluk yaptığı OpenAI’nin üretken yapay zeka sohbet robotu ChatGPT’nin, yüzde 83 oranında pediatrik hastalıkların teşhisinde hata yaptığı tespit edildi. OpenAI’nin GPT-4’ünü teşhis asistanı olarak test ederken, Boston’daki Beth Israel Deaconess Tıp Merkezi’ndeki doktorlar, modelin neredeyse üçte iki kez yanlış teşhisi en iyi yanıt olarak sıraladığını gözlemledi.

Günümüzün üretken yapay zekası aynı zamanda klinisyenlerin günlük iş akışlarının bir parçası olan tıbbi idari görevlerle de mücadele ediyor. Üretken yapay zekanın hasta sağlık kayıtlarını özetleme ve notlar arasında arama yapma gibi şeyleri ne kadar iyi gerçekleştirebildiğini değerlendirmek için MedAlign kıyaslamasında, GPT-4 vakaların %35’inde başarısız oldu.

OpenAI ve diğer birçok üretken yapay zeka sağlayıcısı, tıbbi tavsiye için kendi modellerine güvenilmemesi konusunda uyarıda bulunuyor. Ancak Borkowski ve diğerleri daha fazlasını yapabileceklerini söylüyor. Borkowski, “Sağlık hizmetleri için yalnızca üretken yapay zekaya güvenmek yanlış teşhislere, uygunsuz tedavilere ve hatta yaşamı tehdit eden durumlara yol açabilir” dedi.

Duisburg-Essen Üniversitesi Tıpta Yapay Zeka Enstitüsü’nde yapay zeka destekli tedavilere liderlik eden ve gelişen teknolojinin hasta bakımına yönelik uygulamalarını inceleyen Jan Egger, Borkowski’nin endişelerini paylaşıyor. Üretken yapay zekayı sağlık hizmetlerinde kullanmanın tek güvenli yolunun şu anda bir doktorun yakın ve dikkatli gözetimi altında olduğuna inanıyor.

Egger, “Sonuçlar tamamen yanlış olabilir ve bu konudaki farkındalığı sürdürmek giderek zorlaşıyor” dedi. “Elbette, üretken yapay zeka örneğin terhis mektuplarının ön yazılması için kullanılabilir. Ancak hekimlerin bunu kontrol edip son kararı verme sorumluluğu var.”

Üretken yapay zeka stereotipleri sürdürebilir

Sağlık hizmetlerinde üretken yapay zekanın işleri yanlış anlamasının özellikle zararlı yollarından biri stereotipleri sürdürmektir.

Stanford Medicine tarafından 2023 yılında yapılan bir araştırmada, bir araştırmacı ekibi ChatGPT’yi ve diğer üretken yapay zeka destekli sohbet robotlarını böbrek fonksiyonu, akciğer kapasitesi ve cilt kalınlığı hakkındaki sorular üzerinde test etti. Ortak yazarlar, yalnızca ChatGPT’nin yanıtlarının sıklıkla yanlış olduğunu değil, aynı zamanda yanıtların, Siyah ve beyaz insanlar arasında biyolojik farklılıklar olduğuna dair uzun süredir kabul edilen bazı yanlış inançları da içerdiğini ve bunların tıbbi sağlayıcıların sağlık sorunlarına yanlış teşhis koymasına yol açtığı bilinen gerçek dışı inançları da içerdiğini buldu.

İşin ironik yanı, sağlık hizmetlerinde üretken yapay zeka nedeniyle ayrımcılığa uğrama olasılığı en yüksek olan hastaların aynı zamanda onu kullanma olasılığı da en yüksek olan hastalar olması.

Deloitte anketi, KFF araştırmasına göre sağlık güvencesinden yoksun kişilerin (genelde siyahi insanlar) doktor bulma veya zihinsel sağlık desteği gibi şeyler için üretken yapay zekayı denemeye daha istekli olduğunu gösterdi. Yapay zekanın tavsiyeleri önyargı nedeniyle gölgelenirse, bu durum tedavideki eşitsizlikleri daha da kötüleştirebilir.

Ancak bazı uzmanlar üretken yapay zekanın bu konuda geliştiğini savunuyor.

2023’ün sonlarında yayınlanan bir Microsoft araştırmasında araştırmacılar, GPT-4’ü kullanarak dört zorlu tıbbi kıyaslamada %90,2 doğruluk elde ettiklerini söyledi. Vanilla GPT-4 bu puana ulaşamadı. Ancak araştırmacılar, GPT-4’ün belirli çıktıları üretmesi için istemler tasarlayan hızlı mühendislik sayesinde modelin puanını yüzde 16,2’ye kadar artırabildiklerini söylüyor. (Microsoft’un OpenAI’nin büyük bir yatırımcısı olduğunu belirtmekte fayda var.)

Sohbet robotlarının ötesinde

Ancak bir chatbot’a soru sormak, üretken yapay zekanın işe yaradığı tek şey değil. Bazı araştırmacılar tıbbi görüntülemenin üretken yapay zekanın gücünden büyük ölçüde yararlanabileceğini söylüyor.

Temmuz ayında bir grup bilim insanı c adı verilen bir sistemi açıkladı.Nature’da yayınlanan bir çalışmada tamamlayıcılık odaklı klinik iş akışına erteleme (CoDoC). Sistem, tıbbi görüntüleme uzmanlarının teşhis için geleneksel tekniklere kıyasla ne zaman yapay zekaya güvenmesi gerektiğini anlamak için tasarlandı. Ortak yazarlara göre CoDoC, klinik iş akışlarını %66 oranında azaltırken uzmanlardan daha iyi performans gösterdi.

Kasım ayında bir Çinli araştırma ekibi demo yaptı PandaX ışınlarındaki potansiyel pankreas lezyonlarını tespit etmek için kullanılan bir AI modeli. Bir çalışma, Panda’nın genellikle cerrahi müdahale için çok geç tespit edilen bu lezyonları sınıflandırmada son derece doğru olduğunu gösterdi.

Gerçekten de Oxford Üniversitesi’nde klinik araştırma görevlisi olan Arun Thirunavukarasu, üretken yapay zekanın sağlık hizmeti ortamlarında kullanılmasını engelleyen “benzersiz hiçbir şeyin” olmadığını söyledi.

“Üretken yapay zeka teknolojisinin daha sıradan uygulamaları mümkün içinde kısa ve orta vadelidir ve metin düzeltmeyi, notların ve harflerin otomatik olarak belgelenmesini ve elektronik hasta kayıtlarını optimize etmek için geliştirilmiş arama özelliklerini içerir” dedi. “Üretken yapay zeka teknolojisinin (etkiliyse) uygulanamaması için hiçbir neden yok içinde bu tür roller hemen.

“Titiz bilim”

Ancak üretken yapay zeka, tıbbın belirli ve dar alanlarında umut vaat etse de Borkowski gibi uzmanlar, üretken yapay zekanın her yönüyle yardımcı bir sağlık hizmeti aracı olarak kullanışlı ve güvenilir olabilmesi için aşılması gereken teknik ve uyumluluk engellerine dikkat çekiyor.

Borkowski, “Sağlık hizmetlerinde üretken yapay zekanın kullanılmasıyla ilgili önemli gizlilik ve güvenlik endişeleri var” dedi. “Tıbbi verilerin hassas doğası ve kötüye kullanım veya yetkisiz erişim olasılığı, hastanın gizliliği ve sağlık sistemine duyulan güven açısından ciddi riskler oluşturmaktadır. Dahası, üretken yapay zekanın sağlık hizmetlerinde kullanımını çevreleyen düzenleyici ve yasal ortam hâlâ gelişiyor; sorumluluk, veri koruma ve insan olmayan varlıklar tarafından tıp uygulamalarına ilişkin soruların hâlâ çözülmesi gerekiyor.”

Sağlık hizmetlerinde üretken yapay zeka konusunda iyimser olan Thirunavukarasu bile, hastalara yönelik araçların arkasında “titiz bir bilim” olması gerektiğini söylüyor.

“Özellikle doğrudan klinisyen gözetimi olmadan, hastaya yönelik üretken yapay zekanın dağıtımını haklı çıkaracak klinik faydayı gösteren pragmatik, randomize kontrol denemeleri olmalıdır” dedi. “İleriye dönük doğru yönetişim, geniş ölçekte dağıtım sonrasında beklenmeyen zararları tespit etmek için çok önemlidir.”

Son zamanlarda Dünya Sağlık Örgütü, sağlık hizmetlerinde bu tür bilimi ve üretken yapay zekanın insan gözetimini ve bağımsız üçüncü taraflarca bu yapay zeka üzerinde denetim, şeffaflık ve etki değerlendirmelerinin başlatılmasını savunan kılavuzlar yayınladı. DSÖ’nün kılavuzlarında belirttiği amaç, sağlık hizmetleri için üretken yapay zekanın geliştirilmesine çeşitli insan gruplarının katılımını teşvik etmek ve süreç boyunca endişeleri dile getirme ve girdi sağlama fırsatı yaratmak olacaktır.

Borkowski, “Endişeler yeterince giderilene ve uygun önlemler alınana kadar tıbbi üretken yapay zekanın yaygın şekilde uygulanması, hastalar ve bir bütün olarak sağlık sektörü için potansiyel olarak zararlı olabilir” dedi.