Bir kadın rutin meme kanseri taraması için hastaneye geliyor. Mamografi görüntüleri çekiliyor ve henüz radyolog görüntüleri incelemeye başlamadan yazılımdan birkaç saniye içinde şüpheli alanlar sonuç olarak hazır oluyor. Sistem, olası bir kanser bulgusunu işaretliyor ve vakayı öncelikli inceleme listesine taşıyor. Bundan birkaç yıl önce bilim kurgu olarak değerlendirebileceğimiz bu senaryo artık dünyanın birçok ülkesinde sağlık hizmetinin bir parçası haline gelmeye başladı.

Yapay zeka, son on yılda tıbbi görüntüleme alanında önemli bir gelişme gösterdi. Derin öğrenme algoritmaları bugün mamografilerde meme kanserinin, retina görüntülerinde diyabetik retinopatinin, bilgisayarlı tomografilerde akciğer nodüllerinin ve röntgenlerde bazı kırıkların tespit edilmesinde insanlarla yarışan, hatta belirli ve dar görevlerde insan performansını aşabilen sonuçlar ortaya koyuyor. Peki, yapay zeka bazı görüntüleme görevlerinde radyologlardan daha başarılı olabiliyorsa, görüntülerin bir hekim tarafından yeniden incelenmesi hâlâ zorunlu olmalı mı?

Bence ve bir çok sağlık yöneticisine göre bugün bu soruya verilecek cevap halen “evet”. Birkaç yıl sonra bu yazı ve cevap doğru olmayabilir. Ancak burada önemli bir ayrım yapmak gerekiyor. İnsan incelemesinin devam etmesi söz konusu olsa bile, mevcut iş yapış biçimleri değişmelidir. Yapay zeka, doğruluğu bilimsel olarak kanıtlanmış ve uygun biçimde doğrulanmış tıbbi görüntüleme alanlarında ilk okuyucu olabilir. Radyolog ise yalnızca görüntüyü baştan sona inceleyen kişi olmaktan çıkıp, yapay zekanın bulgularını değerlendirecek, klinik bilgilerle ilişkilendirecek, belirsizliği yöneten ve son kararı veren uzman konumuna geçecektir. Asıl dönüşüm tam olarak burada başlayacak.

Modern yapay zeka sistemlerinin en güçlü olduğu alan örüntü tanımadır. Algoritmalar bir görüntünün içinde milyonlarca farklı özelliği aynı anda analiz edebilir. İnsan gözünün fark etmekte zorlanabileceği çok küçük yoğunluk farklılıklarını, şekilleri veya dokusal değişiklikleri tespit edebilir. Geniş ve doğru biçimde etiketlenmiş veri setleriyle eğitilen yapay zeka sistemleri, görüntü sınıflandırma görevlerinde yüksek duyarlılık ve özgüllük gösterebiliyor.

Meme kanseri taramalarında gerçekleştirilen MASAI çalışması bunun en güçlü örneklerinden biri oldu. İsveç’te 80 binden fazla kadının yer aldığı rastgele kontrollü araştırmada, yapay zeka destekli mamografi taraması standart çift radyolog değerlendirmesiyle karşılaştırıldı. Çalışmanın ilk sonuçları, yapay zeka desteği kullanılan taramalarda yaklaşık yüzde 20 daha fazla kanser vakasının tespit edildiğini ve radyologların görüntü okuma iş yükünün yaklaşık yüzde 44 oranında azaldığını gösterdi. Üstelik yanlış pozitif sonuçlarda belirgin bir artış görülmedi. Bu sonuçlar son derece önemli zira bize yapay zekanın yalnızca radyologların işini hızlandırmadığını, aynı zamanda doğru kullanıldığında tanı performansını ve sağlık sisteminin verimliliğini de artırabileceğini gösteriyor.

Unutmamak gerekir ki tıbbi bir görüntüyü yorumlamak, tanı koyma sürecinin yalnızca bir bölümüdür. Radyolog görüntüyü incelerken hastanın yaşı, öyküsü, önceki tetkikleri, kullandığı ilaçlar, geçirilmiş operasyonları, laboratuvar sonuçları, genetik riskleri ve diğer klinik bulguları da dikkate alır. Aynı görüntü, farklı hasta öykülerinde farklı anlamlar taşıyabilir. Nadir görülen vaka tiplerinde ya da yapay zekanı eğitildiği veri setinde olmayan genetik özelikleri olan insanlardaki tanı işin içine girdiğinde makine tanısı yeterli kalmayabilir.

Ayrıca yapay zeka bugün görüntüdeki örüntüyü çok iyi tanıyabilir. Ancak bugün için hastanın bütün hikâyesini, hastalığın sosyal ve psikolojik yönlerini ya da tedavi kararının yaratacağı sonuçları insan hekim kadar kapsamlı biçimde değerlendiremez. Neticede yapay zeka görüntüyü okur. İnsan hekim hastayı okur diye özetleyebilirim.

Yapay zeka pikseli analiz ederken, hekim bağlamı değerlendirir. Yapay zeka şüpheli alanı gösterirken, hekim bu bulgunun hasta açısından ne anlama geldiğine karar verir.

Bu nedenle yapay zekanın belirli görüntüleme görevlerinde insan performansını geçse de, bütüncül klinik karar verme kapasitesine varmasına daha zaman var. Bu nedenle, halen insan denetiminin devam etmesi gerektiğini düşünüyorum. Sağlıkta kullandığımız görüntüleme tekniklerinde her görüntü aynı yöntemle ve aynı yoğunlukta incelenemez. Özellikle mamografi, akciğer grafisi veya bazı bilgisayarlı tomografi taramaları gibi yüksek hacimli alanlarda yapay zeka ilk okuyucu olarak kullanılabilir. Sistem görüntüleri saniyeler içinde değerlendirebilir, belirgin şekilde normal olan incelemeleri ayırabilir ve şüpheli vakaları radyoloğun önüne öncelikli olarak getirebilir. Böyle bir modelde radyoloğun zamanı, kritik vakalara öncelikli olarak dağıtılır. Uzmanın dikkati, gerçekten uzmanlık ve klinik muhakeme gerektiren karmaşık vakalara yönelir. Bu yaklaşım özellikle radyolog sayısının yetersiz olduğu sağlık sistemleri ve bazı bölgeler için büyük bir fırsat sunuyor.

Bugün birçok ülkede tıbbi görüntüleme talebi hızla artarken radyolog sayısı aynı hızla artmıyor. Yaşlanan nüfus, kanser tarama programlarının yaygınlaşması, kronik hastalıkların artması ve görüntüleme teknolojilerine erişimin kolaylaşması radyoloji hizmetlerine olan talebi büyütüyor. Yetişmiş bir radyoloğun eğitim süreci uzun. Sağlık sistemleri yalnızca daha fazla uzman yetiştirerek bu açığı kısa sürede kapatamaz. Burada yapay zeka, radyoloğun yerine geçen bir teknoloji olmak yerine mevcut radyolog kapasitesini büyüten bir çalışma arkadaşı olabilir. Bir radyoloğun daha fazla incelemeyi daha kısa sürede ve daha güvenli biçimde değerlendirmesine yardımcı olabilir. Acil ve yüksek riskli vakaların bekleme listesinde kaybolmasını önleyebilir. Raporlama sürelerini kısaltabilir. Gece nöbetlerinde veya yoğun çalışma saatlerinde ikinci bir göz görevi görebilir.

Dolayısıyla mevcut radyologlarımızın uzmanlığını daha fazla hastaya, daha hızlı ve daha güvenli biçimde ulaştırmasa yol arkadaşımız var artık diyebiliriz.

Radyoloji iş akışı yeniden tasarlanacak

Yapay zekanın asıl etkisi belki de tanı doğruluğundan önce hastanelerin iş akışlarında görülecek. Geleneksel radyoloji sürecinde görüntü çekilir, inceleme radyoloğun iş listesine düşer, radyolog görüntüyü değerlendirir, rapor hazırlanır ve ilgili hekime gönderilir. Yapay zekanın ilk okuyucu olduğu sistemde ise süreç daha dinamik hale gelir.

Görüntüler çekilir çekilmez yapay zeka tarafından analiz edilebilir. Yüksek risk taşıyan görüntüler otomatik olarak listenin üst sıralarına alınabilir. Acil müdahale gerektiren bulgular için uyarı üretilebilir. Belirgin şekilde normal görünen tetkikler daha kısa bir insan kontrolüyle sonuçlandırılabilir. Karmaşık ve birden fazla hastalığı içeren görüntüler ise deneyimli radyologlara yönlendirilebilir. Böylece radyoloji bölümü, gelen görüntüleri yalnızca sırasına göre raporlayan bir yapı olmaktan çıkar. Klinik riske ve önceliğe göre çalışan akıllı bir tanı merkezine dönüşür.

Bu modelde yapay zeka yalnızca görüntü analiz etmez. İş listesini düzenler, önceliklendirir, eski görüntülerle yeni incelemeleri karşılaştırır ve raporla görüntü arasındaki olası uyumsuzlukları gösterebilir.

Hastaneler açısından bunun karşılığı daha kısa raporlama süresi, daha hızlı tanı, daha etkin insan kaynağı kullanımı ve daha iyi hasta deneyimidir.

Ancak burada önemli bir yönetim konusu ortaya çıkıyor: Yapay zekayı mevcut sisteme yalnızca bir yazılım olarak eklemek yeterli değildir. Eğer hastane aynı iş akışını korur, görevleri yeniden tanımlamaz ve yalnızca sisteme bir algoritma eklerse beklenen verimlilik artışı gerçekleşmeyebilir. Bu nedenle yapay zeka uygulaması bir bilgi teknolojileri projesi değil, aynı zamanda bir ‘’klinik ve organizasyonel dönüşüm projesi’’dir.

Yapay zeka hata yaptığında kim sorumlu olacak?

Yapay zekanın sağlıkta daha fazla sorumluluk üstlenmesiyle birlikte en zor sorulardan biri de hukuki sorumluluk olacak. Bir yapay zeka sistemi erken evredeki meme kanserini fark etmezse bundan kim sorumlu tutulacak? Radyolog mu, Hastane mi, Yapay zekayı geliştiren şirket mi, Yazılımı satan teknoloji firması mı, yoksa sistemin kullanımına izin veren düzenleyici kurumlar mı?

Bugünkü hukuki yaklaşımlar çoğunlukla yapay zekayı bağımsız bir karar verici olarak değil, klinik karar destek sistemi olarak değerlendiriyor. Bu nedenle nihai sorumluluk bugün hekimde kalıyor.

Ancak yapay zeka sistemleri daha özerk hale geldikçe bu yaklaşımın uzun süre sürdürülebilir olduğunu düşünmüyorum. Bir taraftan hekime, belirli görevlerde kendisinden daha başarılı olabileceği söylenen bir sistemi kullanması tavsiye ediliyor. Diğer taraftan sistem hata yaptığında bütün sorumluluğun yine hekimde olduğu kabul ediliyor. Üstelik bazı yapay zeka modellerinin nasıl sonuca ulaştığı tam olarak açıklanamayabiliyor. Hekimin karar mekanizmasını bütünüyle göremediği bir algoritmanın ürettiği sonuçtan tek başına sorumlu tutulması önemli bir etik ve hukuki gerilim yaratacaktır.

Gelecekte sağlık sektörünün paylaşılmış bir sorumluluk modeline yönelecektir. Sorumluluk yalnızca hekimde değil; hastanede, yapay zeka üreticisinde, yazılım sağlayıcısında, sistemi doğrulayan ekiplerde, düzenleyici kurumlarda ve kullanım koşullarını belirleyen yöneticilerde paylaşılacaktır. Havacılık sektöründe olduğu gibi çok katmanlı bir güvenlik ve sorumluluk sistemi kurulabilir. Bir uçuşun güvenliği yalnızca pilotun sorumluluğunda değildir. Uçak üreticisi, yazılım geliştiricileri, bakım ekipleri, hava trafik kontrolü ve düzenleyici kurumlar birlikte sorumluluk taşır. Sağlıkta yapay zeka için de benzer bir yaklaşım geliştirilmelidir.

Yapay zekanın ve insanın birbirlerine katkıları

Yapay zeka tartışmalarında genellikle teknolojinin yapacağı hatalardan söz ediyoruz. Oysa yapay zekanın en önemli güvenlik katkılarından biri insan hatalarını fark etmek olabilir. Radyologlar da bütün insanlar gibi yorulabilir. Uzun çalışma saatleri, gece nöbetleri, yüksek görüntüleme hacmi ve sürekli karar verme zorunluluğu dikkat kaybına yol açabilir. Bir görüntüde önemli bir bulgu bulunduğunda, ikinci bir anormalliğin gözden kaçırılması mümkündür. Buna literatürde aranan bulgunun bulunmasının ardından incelemenin erken sonlandırılması eğilimi adı veriliyor. Neyse ki yapay zeka yorulmaz. Dikkati dağılmaz. Gece ile gündüz arasında performans farkı yaşamaz. Aynı görüntüyü her seferinde aynı sistematik yaklaşımla inceleyebilir. Bir yapay zeka sistemi görüntüleri sürekli olarak tarayabilir, önceki tetkiklerle karşılaştırabilir, gözden kaçabilecek lezyonları işaretleyebilir ve raporla görüntü arasında tutarsızlık olup olmadığını gösterebilir.

Ancak bunun tersi de doğrudur. İnsanlar da yapay zekanın hatalarını fark edebilir. Yapay zeka bazen görüntüdeki bir artefaktı hastalık olarak yorumlayabilir. Anatomik olarak mümkün olmayan bir bulgu üretebilir. Daha önce hiç karşılaşmadığı nadir bir hastalıkta yanlış sonuca ulaşabilir. Bu nedenle en güvenli yapı, insanın veya yapay zekanın tek başına karar verdiği sistem değil; ikisinin birbirini kontrol ettiği sistemdir.

Yapay zeka insan hatasını yakalar. İnsan da yapay zeka hatasını yakalar. İki tarafın görüş ayrılığı bir başarısızlık olarak değil, daha ayrıntılı değerlendirme gerektiren bir güvenlik sinyali olarak ele alınabilir.

Yapay zekanın yüksek doğruluğu tek başına yeterli değil

Bir yapay zeka modelinin araştırma ortamında yüzde 90 veya yüzde 95 doğruluk gösterse de gerçek hastane ortamında aynı başarı olamayabilir. Çünkü algoritmalar sadece eğitildikleri verinin özelliklerini taşır. Avrupa’daki belirli bir hasta grubuyla ve belirli cihazlardan elde edilen görüntülerle eğitilen bir sistem, farklı etnik kökenlerin bulunduğu veya farklı görüntüleme cihazlarının kullanıldığı bir ülkede farklı sonuçlar sunabilir. Ayrıca hastalıkların toplumdaki görülme oranları bile yapay zeka performansını etkileyebilir. Nadir hastalıklar, operasyon sonrası değişiklikler, bir hastada birden fazla hastalığın bulunduğu karmaşık durumlarda ve düşük kaliteli görüntüler olması durumunda yapay zeka doğru sonuç vermekte zorlanabilir. Bu nedenle yapay zeka sistemleri bir kez satın alınıp yıllarca kontrol edilmeden kullanmak yerine düzenli olarak veri ile eğitmeye devam etmemiz gerekiyor. Her hastane, kullanacağı sistemi kendi hasta nüfusu ve kendi cihazları üzerinde doğrulamalıdır. Yanlış pozitif sonuçlar, yanlış negatif sonuçlar, insan ve yapay zeka arasındaki görüş ayrılıkları ve belirli hasta gruplarındaki performans değişiklikleri düzenli olarak sisteme aktarmalıdır.

Yapay zeka sistemlerinin tanısal doğruluğu veya iş akışını iyileştirdiğini gösteren çok sayıda çalışma bulunuyor. Ancak bu gelişmelerin hastaların yaşam süresini uzattığını, komplikasyonları azalttığını veya ölüm oranlarını düşürdüğünü gösteren randomize kontrollü çalışma sayısı hâlâ sınırlıdır. Daha fazla kanser bulmak önemli bir başarıdır. Ancak bulunan kanserlerin ne kadarının klinik olarak anlamlı olduğu, erken tanının tedavi sonuçlarını nasıl etkilediği ve sistemin hasta yaşamına gerçek katkısının ne olduğu günümüzde halen araştırılmaktadır. Sağlıkta yapay zekanın başarısını, hastaya sağladığı fayda ile ölçebiliriz.

Geleceğin radyoloğu görüntü okuyan uzman değil, tanısal zeka yöneticisi olacaktır. Yaklaşık otuz beş yıldır sağlık sektöründe çalışan ve hastanelerin kuruluş, büyüme ve dönüşüm süreçlerini yöneten biri olarak teknolojik gelişmelerin sağlık profesyonellerinin görevlerini ortadan kaldırmaktan çok yeniden tanımladığına defalarca tanık oluyorum.

Bilgisayarlı tomografi, manyetik rezonans, robotik cerrahi ve elektronik sağlık kayıtları ilk kullanılmaya başladığında da benzer endişeler yaşandı. Bu teknolojilerin hekimlerin yerini alacağı düşünüldü.

Ancak teknoloji hekimliği ortadan kaldırmadı. Hekimlerin yeteneklerini ve hizmet verebildikleri alanı genişletti.

Bugün yapay zeka ile karşı karşıya olduğumuz değişim belki de bunların hepsinden daha büyük. Çünkü bu kez değişen yalnızca kullandığımız cihazlar değil. Karar verme biçimimiz değişiyor.

Geleceğin radyologlarının zamanlarının daha küçük bir bölümünü görüntülerin içinde tek tek anormallik arayarak geçireceğini düşünüyorum. Bunun yerine radyologlar; yapay zeka sonuçlarını değerlendirecek, görüntüleri diğer klinik verilerle birleştirecek, karmaşık ve belirsiz vakaları yönetecek, multidisipliner konseylerde daha aktif rol alacak, hastalar ve klinisyenlerle daha fazla iletişim kuracak, yapay zeka sistemlerinin performansını denetleyecek ve kalite geliştirme süreçlerine liderlik edecekler.

Hastane yöneticileri bugünden ne yapmalı?

Yapay zekanın sağlık hizmetlerinde yaygınlaşması yalnızca hekimlerin değil, hastane yöneticilerinin de sorumluluğunu değiştiriyor. Yöneticiler yapay zekayı bir yazılım veya cihaz satın alma kararı olarak görmek yerine, klinik yönetişim, insan kaynağı, hukuk, etik, veri güvenliği ve hasta deneyimini birlikte içeren bir dönüşüm süreci olarak algılamaları ve yönetmeleri gerekiyor.

Her sağlık kuruluşunun yapay zeka için açık bir yönetişim modeli oluşturması gerekir. Hangi sistemlerin kullanılacağına karar verilmesi, hazırlanan sistemin hastanenin kendi verileriyle nasıl doğrulanacağını belirlenmesi, yapay zeka ile hekimin görüşü farklı olduğunda izlenecek sürecin tanımlanması, kullanılmaya başlanan algoritmanın performansının nasıl yönetileceği, hasta verilerinin güvenliğinin nasıl korunacağı, sorumlulukların nasıl paylaşılacağını hastane yönetimleri yeni dönemde tanımlamaları gerekiyor.

Son söz hâlâ insanda mı olacak?

Son sözü söyleyen hekim, yapay zekanın bulgularını sürekli değerlendirmesi gerekiyor. Yapay zekanın analizini hastanın klinik bilgileriyle birleştiren, belirsizliği yöneten ve kararın insani, etik ve hukuki sorumluluğunu taşıyan hekim ya da sağlık yöneticisi olacak.

Geleceğin sağlık sisteminde asıl mesele iki farklı zeka türünün güçlü yanlarını hasta yararı için nasıl bir araya getireceğimizi belirlemek. Yapay zeka tekrarlayan bilişsel görevleri büyük bir hızla ve tutarlılıkla yerine getirebilir. İnsan ise bağlamı, etik değerleri, empatiyi, sezgiyi ve sorumluluğu sürece dahil eder.

Geleceğin en başarılı hastaneleri, insan zekası ile yapay zekayı en doğru iş akışı içinde, en güvenli ve en etik şekilde birlikte çalıştırabilen kurumlar olacak. Bu kurumlarda oluşturulan kültür ile bilimsel kanıt, teknoloji, klinik deneyim, etik sorumluluk ve hastaya duyulan insani özen birlikte hareket edecektir. Ve sağlık hizmetinin geleceğinde asıl başarı, bu kararı insanla yapay zekanın birbirinin eksiklerini tamamladığı bir sistem içinde verebilmek olacaktır.