Bu yapay zeka destekli “kara kutu” ameliyatı daha güvenli hale getirebilir

Çoğu algoritma kendi başına neredeyse mükemmel bir şekilde çalışsa da Peter Grantcharov, OR kara kutusunun hâlâ tam anlamıyla özerk olmadığını açıklıyor. Örneğin, tavan mikrofonlarından ses yakalamak ve dolayısıyla cerrahi güvenlik kontrol listesinin her unsurunun tamamlanıp tamamlanmadığını belgelemek için güvenilir bir transkript elde etmek zordur; bu algoritmanın %15 hata oranına sahip olduğunu tahmin ediyor. Dolayısıyla, her prosedürün çıktısı tamamlanmadan önce, Torontolu analistlerden biri ankete uygunluğu manuel olarak doğruluyor. Peter Grantcharov, “Döngüde bir insana ihtiyaç duyulacak” diyor ancak yapay zeka modelinin, kontrol listesi uyumluluğunu onaylama sürecini %80 ila %90 daha verimli hale getirdiğini düşünüyor. Ayrıca modellerin sürekli geliştirildiğini de vurguluyor.

Ameliyathane hemşiresi Janet Donovan’a göre, ameliyathane kara kutusunun kurulumu toplam 100.000 dolara mal olabiliyor ve analiz giderleri yıllık 25.000 doları buluyor. MIT Teknoloji İncelemesi Massachusetts’teki Brigham ve Kadın Faulkner Hastanesi personeline verilen bir tahmin. (Peter Grantcharov bu rakamlar hakkında yorum yapmayı reddetti ve bir e-postada şunları yazdı: “Belirli bir fiyat paylaşmıyoruz; ancak bunun ürün karışımına ve toplam oda sayısına dayalı olduğunu ve hacim bazlı indirimin yerleşik olduğunu söyleyebiliriz. fiyatlandırma modellerimize dahil edin.”)

“Büyük birader izliyor”

Northwell Sağlık sisteminin bir parçası olan New York’taki Long Island Yahudi Tıp Merkezi, ilk hastane Şubat 2019’da pilot VEYA kara kutulara geçiş. Teknolojiden kaynaklansa da, kullanıma sunma sorunsuz olmaktan çok uzaktı.

Northwell’in üroloji başkanı Louis Kavoussi, “Kolorektal odada kameralar sabote edildi” diye anımsıyor; kameralar ters çevrilmiş ve kasıtlı olarak fişleri çekilmişti. Kendi ameliyathanesindeki personel, yanlış bir şey söyleyeceklerinden endişe ederek çalışırken sessiz kaldı. O zamandan beri Cerrahi Güvenlik Teknolojileri bilimsel danışma kuruluna katılan Kavoussi, “Golf veya tenis dersi almıyorsanız, birisinin yaptığınız her şeyi oraya dikip izlemesini istemezsiniz” diyor.

Grantcharov’un sistemi bireyleri cezalandırmak için kullanmama yönündeki sözleri bazı ameliyathane personelini pek rahatlatmadı. Kasım 2023’te Faulkner Hastanesi’ne iki kara kutu yerleştirildiğinde cerrahi departmanını krize soktular. Kamuya açık konuşma yetkisi olmadığı için isminin açıklanmasını istemeyen bir cerrahi teknisyeni, “Herkes bu konuda oldukça korktu” diyor. “İzleniyorduk ve yanlış bir şey yaparsak işlerimizin tehlikeye gireceğini hissettik.”

Yasadışı bir şey yapması ya da nefret söylemi yayması değildi; sadece arkadaşlarıyla şakalaşmak, patronundan şikayet etmek ve omzunun üzerinden bakan yöneticilerin korkusu olmadan kendisi olmak istiyordu. “İzlendiğinin fazlasıyla farkındasın; hiç de incelikli değil” diyor. Cerrahların kara kutuyla donatılmış odalarda çalışmayı reddetmesi ve ameliyathane personelinin bu ameliyatları boykot etmesi nedeniyle ilk günler özellikle zorluydu: “Her sabah kesinlikle bir kavgaydı.”

Louis Kavoussi, “Kolorektal odada kameralar sabote edildi” diye anımsıyor. “Golf veya tenis dersi almıyorsanız, birinin oraya bakıp yaptığınız her şeyi izlemesini istemezsiniz.”

Bir düzeyde kimlik korumaları önlemlerin yalnızca yarısıdır. Grantcharov, 30 günlük kayıtların otomatik olarak silinmesinden önce hastane yöneticilerinin ameliyathane numarasını, ameliyat saatini ve hastanın tıbbi kayıt numarasını hâlâ görebildiğini, yani ameliyathane personelinin kimliği teknik olarak gizlenmiş olsa bile bu kişilerin kimlik bilgilerinin silinmediğini kabul ediyor. gerçekten anonim. Yedi ameliyathanede kara kutular bulunan Duke Üniversitesi Hastanesi’nin klinik operasyonlardan sorumlu başkan yardımcısı Christopher Mantyh, bunun sonucunda “Büyük Biraderin izlediği duygusu” diyor. Departman toplantılarında genel olarak kalite iyileştirme hakkında konuşmak için toplu verilerden yararlanacak, ancak kısırlıktaki bozulmalar veya bir dizi enfeksiyon gibi belirli sorunlar ortaya çıktığında kayıtlara bakacak ve “doğrudan cerrahlara gidecek.”

Faulkner Hastanesi hemşiresi Donovan’ı birçok açıdan endişelendiren de bu. Hastanenin, personelin kimliklerini koruyacağına inanmıyor ve bu kayıtların, ister dahili disiplin işlemleri yoluyla, ister hastanın yanlış tedavi davasında olsun, onlara karşı kullanılmasından endişe ediyor. Şubat 2023’te kendisi ve yaklaşık 60 kişi, hastanenin cerrahi şefine kara kutuya itiraz eden bir mektup gönderdi. O zamandan bu yana devlete şikayette bulundu ve tahkim davası Ekim ayında planlandı.