Volga Kuşçuoğlu, Washington Üniversitesi'nden Dilbilim Profesörü Emilie M. Bender ve Kopenhag IT Üniversitesi'nden Doç. Dr. Nana Inie'nin Tech Policy Press'te yer alan yazılarını bianet okurları için Türkçeye çevirdi.

"YZ”, dostunuz değildir. O ne akıllı bir eğittmen, ne de empati kuran bir dinleyici ya da size yardımcı olan bir asistandır. "Uydurma" olgular üretmez ve “hatalar” yapmaz. Aslında sorularınızı yanıtlamaz. Ancak bu türden insanlaştırıcı bir dil, sözde yapay zeka teknolojileriyle ilgili kamusal tartışmalara yaygın bir şekilde nüfuz etmiştir. Antropomorfik tanımlamaların sorunu, olasılıksal otomasyon sistemlerinin önemli kısıtlarını gözlerden saklama riski taşımasıdır; bu sınırlamalar, bu sistemleri insan bilişinden temelden farklı kılar.

“YZ” teknolojilerini satan kişiler ve şirketler, sistemlerini insan benzeri olarak tasvir eden bir dil kullanır: “Akıl yürütme yetenekleri”, “halüsinasyon görme” ve yapay “zeka”. Medya, bu sistemlerle ilgili her türlü mülahazada kullanılan terminolojiye kadar, tartışmanın koşullarını büyük ölçüde onların belirlemesine izin vermiştir. Ancak, zeka ile tipik olarak ilişkilendirilen bir görevin en kusursuz şekilde yerine getirilmesi bile bir sistemi “zeki” yapmaz; sistemleri insan ya da insana benzer olarak çerçevelemek ise en iyi ihtimalle yanıltıcı, en kötü ihtimalle ise ölümcül sonuçlar doğurur.

İnsanlaştırıcı dil, insanların bu sistemleri algılama biçimini birçok düzeyde etkiliyor. Bu dil, beklentilerin altında kalması muhtemel bir sistemi abartılı bir şekilde pazarlıyor ve sistemlerin geliştirilmesinden sorumlu kişilerin, sistemin yanlış, uygunsuz ve bazen ölümcül sonuçlarından sorumlu tutulmadığı bir dünya görüşü ortaya koyuyor. Bu durum, yersiz güveni, aşırı bağımlılığı ve insandışılaştırmayı teşvik ediyor.

Antropomorfizasyonun sorunlu doğası — temenniye dayalı ezberleme teknikleri — bilgisayar bilimi alanında hiçbir şekilde yeni bir eleştiri değildir. Aslında bu konu, yarım asır önce, “yapay zeka”nın hâlâ nispeten yeni bir alan olduğu 1976 yılında bilgisayar bilimcisi Drew McDermott tarafından gündeme getirilmişti:

Eğer bir araştırmacı […] programının ana döngüsüne “ANLA” [UNDERSTAND] adını verirse, (aksi kanıtlanana kadar) sadece bir önvarsayımda bulunmuş olur. Bu kişi pek çok insanı, en başta da kendini yanıltabilir. […] Bunun yerine yapması gereken, bu ana döngüye “G0034” adını vermek ve G0034’ün anlama edimini kısmen gerçekleştirdiğine kendini ya da başkalarını ikna edip edemeyeceğini görmektir. [...] Bu noktayı anladığınızda, yapay zeka araştırmacılarının kullandığı, temelde bir “dilek” niteliğindeki hatırlatıcı isimlerin pek çok eğitsel örneği akla gelir.

Sözde yapay zeka hakkında daha bilinçli kararlar verebilmek için, onu tanımlamak için kullanılan dilin hangi farklı şekillerde antropomorfize edici ve dolayısıyla yanıltıcı olduğunu fark edebilmek yararlıdır. Antropomorfizasyonun en belirgin kategorisi, sistemleri biliş veya hatta duygular açısından tanımlayan terimleri içerir. Bu kelimeler, sistemin sözde ne yaptığını anlatan fiiller (“düşünmek”, “tanımak”, “anlamak”) veya bu eylemleri ya da eylemlerin sonucunu tanımlayan isimler (“düşünce zinciri”, “akıl yürütme”, “beceriler”) olabilir. “Göz ardı etmek” gibi bilişsel hataları tanımlayan kelimeler de buraya aittir; zira bunlar, “göz ardı eden” varlığı, tersine dikkatini verebilecek bir şey olarak tanımlamaktadır. Bazı araştırmaların, insanların bu terimi, örneğin “karar destek sistemleri”, “gelişmiş istatistiksel modeller” veya hatta “makine öğrenimi” ile karşılaştırıldığında, yüksek makine yetkinliğiyle ilişkilendirdiğini gösterdiği göz önüne alındığında, “yapay zeka” teriminin kendisi bile özellikle sorunlu olabilir.

Metaforlar yararlı kestirme yollardır, ancak aynı zamanda aldatıcıdırlar; çünkü bir anlama ulaşılmış izlenimi yaratırlar. Teknik açıklamalar ortalama bir kullanıcı için anlamlı olmadığında, “yapay zeka” sistemlerinin doğru zihinsel modellerini aktarmak zordur. Ancak bu zorluk, gazetecileri ve araştırmacıları sorumluluktan kurtarmaz. Bu teknoloji hakkında konuşmak için açık ve yanıltıcı olmayan yollar bulmak hâlâ bizim görevimizdir.

İnsanlaştırıcı dil içeren metaforun yanıltıcı olduğu bir başka nokta da otomatik sistemi sürücü koltuğuna oturtarak onu kendi başına bir aktörmüş gibi ele almasıdır. Bu durum yaygındır ve sistemleri geliştiren ve kullanan kişilerin eylemlerini ve hesap verebilirliğini gizlemeye hizmet eder. Örnekler arasında “ChatGPT öğrencilere yardımcı olur…”, “model gerçekçi videolar oluşturur” veya “YZ sistemleri her yıl daha fazla enerjiye ihtiyaç duyar” gibi ifadeler sayılabilir. Bunun bir varyantı ise, “birlikte yazmak”, “birlikte yaratmak” gibi kelimelerle modeli, kullanıcının kullandığı bir araç olarak değil, onun işbirlikçisi olarak konumlandırır.

Otomatik sistemleri iletişim eylemlerine katılanlar olarak tanımladığımızda da onları insanlaştırmış oluyoruz. Sisteme bir soru “sorduğunuzu”, sistemin size bir şey “söylediğini” veya “yalan söylediğini” söylerseniz, bu aslında olanları abartmak anlamına gelir. Bu kelimeler, iletişim becerisi ve niyetini, yani iletişim eylemlerini anlama yeteneğini ve iletişime karşılık verme arzusunu, ayrıca bunu belirli bir şekilde yapma seçimini ima eder. Bu etkileşimleri tanımlamak için kullandığımız dili yeniden ifade etmek, gerçekten de akıntıya karşı yüzmek gibidir; çünkü bu sistemleri satan şirketler, onları sadece iletişim kuran varlıklar olarak tanımlamakla kalmaz, aynı zamanda bu yanılsamayı desteklemek için birçok tasarım seçimi de yaparlar. Sohbet arayüzünden başlayarak bu tür sistemlerin çoğunda “ben” zamirlerinin kullanılmasına kadar, bu sistemler bir konuşma partneri yanılsaması yaratacak şekilde tasarlanmıştır. Ancak aslında hiç kimsenin sorumlu olmadığı metinler üretiyorlar ve tanıdık dillerimizdeki herhangi bir dilsel faaliyete anlam yükleme konusundaki son derece insani eğilimimizi kullanıyorlar.

Bir kişi bir sohbet robotuna karşı ne kadar güçlü bir rahatlık, rahatlama, hatta bağlılık hissederse hissetsin, bu durum sohbet robotunu bir arkadaş, bir terapist veya romantik bir partner yapmaz. İnsanlar cansız nesnelere veya teknolojiye karşı dostça duygular besleyebilir, ancak bu duygular tamamen tek yönlüdür: Şüphesiz, bir çocuğun peluş oyuncağını en azından “hayali” ön eki olmadan onun arkadaşı olarak nitelendirmeyiz. Çerçeveleme, neyi gerçek neyi gerçek dışı olarak algıladığımızı belirleyen son derece güçlü bir bilişsel araçtır. Örneğin, son zamanlarda görülen birçok “YZ” psikozu vakasını ve insanlar ile sohbet robotları arasındaki felaketle sonuçlanan “terapötik” etkileşimleri ele alalım; sanrılara yatkın kişiler için, sohbet robotlarını antropomorfize etme eğilimi daha da tehlikelidir. Romantik iletişimleri taklit eden “sohbetlerde” bu teknolojilerin sık kullanımı, daha yüksek düzeyde depresyon ve daha düşük yaşam memnuniyeti ile doğrudan ilişkilidir.

Hayali ezberleme yöntemlerinden doğru terminolojiye

“YZ” sistemlerini tanımlarken daha yüksek bir dilsel kesinlik hedeflememiz gerektiğini savunuyoruz. Bilimsel yazılar ve gazetecilikte, kamusal tartışmalarda ve günlük kullanımda... Bu, amaçlı bir yeniden ifadelendirme gerektirir ve ilk başta garip gelebilir. Ancak dil kullanım kalıplarının özelliği, bunları birbirimizden öğrenmemizdir — ve dünün tuhaflıkları, yeterince ısrarla kullanılırsa, dilsel ortamımızın bir parçası haline gelir.

Antropomorfik tanımlamaların yol açtığı yanlışlıklar, savunmasız nüfus grupları üzerinde orantısız bir etki yaratma eğilimindedir. 2025 tarihli bir makale, insanların “YZ” okuryazarlığı ile “YZ”ye karşı açık olma düzeyleri arasında negatif bir korelasyon olduğunu göstermektedir; insanlar “YZ”nin nasıl çalıştığı hakkında ne kadar çok bilgi sahibi olurlarsa, onu kullanmak isteme olasılıkları o kadar azalmaktadır: “YZ okuryazarlığı düşük olan kişiler, YZ’yı sihirli bir şey olarak algılama ve YZ’nın yalnızca insanlara özgü özellikler gerektirir gibi görünen görevleri yerine getirmesi karşısında hayranlık duygusu yaşama olasılıkları daha yüksektir.” Biraz absürt bir şekilde, yazarlar bu bulguyu halkı “YZ” konusunda eğitmeye karşı bir argüman olarak kullanıyor; zira bunun sonucunda halkın uyum yeteneği azalacaktır. Biz, dilin insanların “YZ” okuryazarlığını artıran ve teknolojiyi kabul etme konusunda bilinçli seçimler yapmalarına yardımcı olan bir araç olduğuna inanıyoruz.

Daha bilinçli ve düşünceli bir yaklaşım, “YZ” sistemlerinden, bu sistemleri ne için kullandığımız açısından bahsetmek ve genellikle girdi ve/veya çıktıyı belirtmektir. Yani, sistemin “yetenekleri” yerine, amaçlarımıza hizmet eden işlevlerden söz etmek. Bir modelin bir şeyde “iyi” olduğunu söylemek yerine (bu, modelin becerilere sahip olduğunu ima eder), modelin “ne için iyi” olduğundan bahsedebiliriz. Modeli kim bir şey yapmak için kullanıyor ve bunu ne için kullanıyor? (VK)