Belge okuma, veri çıkarma, karar destek süreçleri ve operasyonel raporlama gibi alanlarda yapay zekanın sunduğu hız ve ölçek önemli avantajlar sağlasa da, bu teknolojilerin hangi sınırlar içinde kullanılacağı ve insan denetiminin sürece nasıl dahil edileceği kritik bir konu olarak öne çıkıyor.

Çeşitli kurumlarda dijital projeler, ürün geliştirme ve mühendislik ekipleri yönetimi alanlarında deneyim kazanan, şu anda İstinye Üniversitesi’nde Dijital Çözümler ve Projeler Yöneticisi olarak görev yapan Cenk Kabahasanoğlu, yapay zekanın kurumlar açısından en büyük değerinin tek başına karar vermesinden değil, insan muhakemesiyle birlikte doğru kurgulanmasından geldiğini belirtiyor.

YAPAY ZEKA KUSURSUZ DOĞRULUK ÜRETMEZ; BELİRSİZLİĞİ YÖNETEBİLEN KURUMLAR AVANTAJ KAZANIR

Yapay zekanın bugün birçok kurumda hızlı sonuç üretmek için kullanıldığını ifade eden Kabahasanoğlu’na göre, asıl risk bu sistemlerin doğasını yanlış anlamaktan kaynaklanıyor.

“Yapay zekadan kusursuz doğruluk beklemek gerçekçi değil. Çünkü gerçeği bilen bir sistemle değil, tahmin üreten bir sistemle çalışıyoruz.”

Kabahasanoğlu, yapay zekanın bir kural motoru gibi çalışmadığını, elindeki verilerden yola çıkarak en olası sonucu ürettiğini vurguluyor. Bu nedenle tek bir sistemden çıkan sonucu sorgusuz biçimde doğru kabul etmek, özellikle operasyonel ve kritik süreçlerde ciddi riskler doğurabiliyor.

Kurumların karşılaştığı belgelerin çoğu zaman aynı kalitede, aynı düzende ve aynı açıklıkta olmadığını belirten Kabahasanoğlu, bozuk taramalar, eksik bilgiler, karışık tablolar ve yanlış yerleştirilmiş verilerin en gelişmiş sistemlerde bile hatalı yorumlara yol açabileceğini söylüyor. Bu durumun her zaman teknik bir arıza olarak görülmemesi gerektiğini ifade eden Kabahasanoğlu’na göre, mesele yapay zekanın doğasındaki belirsizliği doğru yönetebilmek.

Son dönemde bazı kurumların bu riski azaltmak için aynı işi birden fazla yapay zeka sistemine yaptırmayı tercih ettiğini aktaran Kabahasanoğlu, bunun da tek başına kesin çözüm olmadığını dile getiriyor.

“Birden fazla sistem kullanmak hatayı ortadan kaldırmaz. Sadece nerede belirsizlik olduğunu daha görünür hale getirir.”

Bu yaklaşım, kurumlar için önemli bir farkındalık yaratıyor. Çünkü birden fazla sistemin farklı sonuçlar üretmesi, çoğu zaman başarısızlık değil, karar verilmesi gereken noktanın işaretidir. Kabahasanoğlu’na göre bu aşamada asıl değer, sistemlerin ürettiği cevaplar arasındaki farkı okuyabilmek ve hangi durumda insan değerlendirmesine ihtiyaç olduğunu belirleyebilmektir.

Bu yaklaşımın sahadaki karşılığı, uluslararası inşaat ihalelerini analiz eden bir danışmanlık firması için geliştirilen projede somut biçimde görüldü. Projede yüzlerce ihale belgesinin baştan sona yapay zekaya okutulması yerine, iş parçalarına ayrıldı. Yapay zeka firma adları, ihale kimlikleri ve bağlam bilgisi gibi anlamsal yorum gerektiren alanlarda kullanılırken; adresler, lisans numaraları ve sayısal değerler gibi hata payının minimum olması gereken bilgiler deterministik kod katmanıyla işlendi.

Bu ayrım sayesinde sistemin maliyeti önemli ölçüde azaltıldı, çıktılar daha öngörülebilir hale getirildi ve yapay zekanın hangi alanlarda güçlü, hangi alanlarda sınırlı kaldığı daha net biçimde ortaya kondu. Kabahasanoğlu, bu deneyimin kurumlara önemli bir ders sunduğunu belirtiyor: Yapay zekayı her işi yapan genel bir çözüm gibi konumlandırmak yerine, güçlü olduğu alanlarda kullanmak ve sınırlı olduğu noktaları başka yöntemlerle desteklemek gerekiyor.

HER İŞİ YAPAY ZEKAYA BIRAKMAK YERİNE, DOĞRU İŞİ DOĞRU TEKNOLOJİYLE YÜRÜTMEK GÜVENİLİR SONUÇLARIN ANAHTARIDIR

İnsan denetimi de bu noktada devreye giriyor. Ancak Kabahasanoğlu’na göre insanın rolü her çıktıyı baştan sona kontrol eden bir onay makamı olmak değil. Doğru tasarlanmış sistemlerde insan, belirsizliğin yükseldiği ve bağlam bilgisinin kritik hale geldiği noktalarda sürece dahil olmalı.

“İnsan, yapay zekanın yerine geçmek için değil; onun göremediği bağlamı, çelişkiyi ve sağduyuyu değerlendirmek için sürecin içinde olmalı.”