Doktor ve Yapay Zeka Birlikte Karar Verirse Sorumluluk Kimde?

Yapay zeka, hastanelerde ve kliniklerde giderek daha fazla yer buluyor; pasif veri asistanlarından, insan müdahalesi olmadan tanı koyan ve tedavi kararları alan sistemlere doğru evriliyor. Bu dönüşüm, klinisyen, kurum, üretici ve düzenleyici arasında net sorumluluk sınırları varsayan mevcut tıbbi sorumluluk çerçevelerindeki boşlukları ortaya çıkarıyor.

Araştırmacılar, uçak ve sürücüsüz araçlarda kullanılan otonomi derecelendirmesine benzer şekilde, tıbbi yapay zekayı üç faktöre göre yedi seviyede sınıflandırmayı öneriyor: otonomi (sistemin ne kadar bağımsız akıl yürüttüğü), otomasyon (insan denetimi olmadan hangi görevleri yerine getirebildiği) ve operasyonel kapsam (çalışabileceği sınırlar). Seviyeler, insan tarafından belirlenen kurallarla tamamen şeffaf çalışan bilgilendirici araçlardan, danışma amaçlı karar destek sistemlerine ve kapalı döngü insülin pompaları gibi denetimli otomasyona kadar uzanıyor.

Araçlar bu ölçekte yükseldikçe, kara kutu türü akıl yürütme çıktıların doğrulanmasını ve hasta zarar gördüğünde kusurun belirlenmesini zorlaştırıyor; bu da hiçbir tarafın açıkça bir standardı ihlal etmediği "sorumluluk boşlukları" yaratıyor. Bu belirsizlik, hastaneleri gerçekten faydalı yapay zeka araçlarını benimsemekten caydırabilirken, üreticilerin pazara sunulan ürünler için güvenlik izlemesi yükümlülüğünden kaçınmasına da zemin hazırlıyor.

Klinik yapay zeka geliştiren mühendisler için bu çerçeve, sistem tasarımını, dokümantasyonu ve insan denetim gereksinimlerini fiilen konuşlandırılan otonomi seviyesiyle uyumlu hale getirmek için pratik bir kelime dağarcığı sunuyor; açıklanabilirlik gereksinimlerinden düzenleyici ve hukuki inceleme için gereken denetim izlerine kadar her şeyi bilgilendiriyor.