Kitapları hamur yapmışlar.
Yapay zekâ çağında bilginin merkezileşmesi, temsil ve doğrulama
yapay zekâ şirketlerinin kitapları tarayıp hamura dönüştürmesi, bilgiyi merkezileştirme ve temsil etme yöntemlerini sorgulatıyor.
özer or geçtiğimiz günlerde bir haber okudum: yapay zekâ şirketlerinden biri, çok sayıda basılı kitabı sahaflardan toplamış, ciltlerini keserek sayfalarını taramış, içeriği model eğitiminde kullandıktan sonra kitapları hamura dönüştürmüş. haberi okuyan çoğu kişi gibi benim de ilk aklıma gelen fahrenheit 451 oldu. kitap yakan itfaiyeciler, kâğıdın tutuştuğu sıcaklık, bradbury’nin bütün o tanıdık imgeleri. ama bu […] the post şüphe bir kusur değil, yöntemdir yapay zekâ çağında bilginin merkezileşmesi, temsil ve doğrulama first appeared on bilim ve gelecek .
Geçtiğimiz günlerde bir haber okudum: yapay zekâ şirketlerinden biri, çok sayıda basılı kitabı sahaflardan toplamış, ciltlerini keserek sayfalarını taramış, içeriği model eğitiminde kullandıktan sonra kitapları hamura dönüştürmüş. Haberi okuyan çoğu kişi gibi benim de ilk aklıma gelen Fahrenheit 451 oldu. Kitap yakan itfaiyeciler, kâğıdın tutuştuğu sıcaklık, Bradbury’nin bütün o tanıdık imgeleri. Ama bu refleksin üzerinde biraz durunca yanlış kapıyı çaldığımı fark ettim. Montag’ın dünyasında kitap, içindeki fikir ölsün diye yakılır. Burada ise tersi olmuş. İçerik yaşasın diye gövde feda edilmiş. Metin duruyor, kâğıt ölmüş. Eğer rahatsız olacaksak, ki olmalıyız, rahatsızlığın adresi yakma eylemi değil.
Asıl adres, sanırım, Umberto Eco’nun kütüphanesi. Daha doğrusu, yangından önceki kütüphane. Gülün Adı’ndaki yaşlı Jorge’yi hatırlayalım. Jorge’nin asıl iktidarı yangında değil, kütüphaneci oluşundadır. Romanın sonundaki yangın, uzun bir denetim rejiminin yalnızca son perdesidir. Jorge, Aristo’nun Poetika’sının ikinci kitabını yıllarca yok etmez. Saklar, labirentin en derinine koyar, sayfalarını zehirler ve kimin okuyup kimin okuyamayacağını belirleme yetkisini elinde tutar. Bu gücün önkoşulu, kitabın tek nüsha olmasıdır. Poetika çoğaltılmış olsaydı Jorge sıradan bir kör keşiş olurdu. Bilgiyi teke indirgeyen, sonra da o tek nüshanın üzerine oturan herkes, niyeti ne olursa olsun, yapısal olarak Jorge’nin koltuğuna oturur.
Habere konu olan, tarandıktan sonra hamura dönüştürülen kitapların ise çoğunun dünyaya dağılmış başka milyonlarca nüshası var. Bugün itibarıyla kayıp bir ikinci kitap söz konusu değil. Kitaplar duruyor, kütüphaneler açık. Değişen stok değil, okur. Sorusu olan artık asıl kaynağa daha seyrek başvuruyor. Onun yerine güvendiği otoriteye doğrudan sormayı tercih ediyor. Aramak, farklı kaynaklar arasında dolaşmayı gerektirir. Sormak ise karşımızdaki aracının seçimine güvenmeyi. Arama motorlarına başvuru bile gün geçtikçe azalıyor. Sayfalarca sonuç arasında gezinmenin yerini, hazır cümlelerle gelen tek bir yanıt almaya başlıyor. Referans nüsha el değiştirmedi, okurun yolu değişti. Fiziksel kitabın gücü yaygınlığındaydı. Milyonlarca nüsha, milyonlarca eldeydi. Hiçbir merkezi otorite hepsine birden ulaşamazdı. Ama uğranmayan raflardaki kitapların yaygınlığı kimseyi korumaz. Kütüphane yanmadı, kapısından girilmez oldu. Jorge’nin hayal bile edemeyeceği zafer budur. Kimse aramıyorsa kitabı saklamaya gerek yoktur. Okurun uğradığı ilk kapının ardındaki dijital kopya, kimin sunucusunda, hangi lisansla, hangi ticari çıkarın gölgesinde duruyorsa, Eco’nun manastırının mimarisi orada yeniden kurulur. Bilgi merkezdedir, erişim aracılıdır ve aracının kendisi bir özel şirkettir. Dijital tek kopya ise sessizce değiştirilebilir, erişimden kaldırılabilir ya da daha kötüsü, görünmez kılınabilir.
“Görünmez kılınma” meselesi üzerinde durmak istiyorum, çünkü konunun en az konuşulan katmanlarından biri bu. Açık tahrifat iz bırakır. Değiştirilmiş metin, aslıyla karşılaştırıldığında yakalanır. Dışlama ise iz bırakmaz. Yokluğun kanıtı olmaz. Sansür tarihinin asıl büyük hacmi de zaten yakılan kitaplardan değil, basılmayan kitaplardan, çevrilmeyen yazarlardan, antolojiye alınmayan şiirlerden oluşur. Burada bir ayrımı açık etmek gerek. Eğitim derlemi, yani makineye okutulan metinlerin toplamı, kimsenin gidip orijinal metin aradığı bir katalog değildir. Derlemden dışlanan kitap da dünyadan silinmiş olmaz, raflarda durmaya devam eder. Silindiği yer, makinenin dünyasındaki temsilidir. Yani ilk bakışta sorun erişim değil, temsil gibi görünür. Ne var ki okur kaynağa gitmeyi bıraktıkça, temsil sorunu fiilen erişim sorununa dönüşür. Rafta duran ama orada olduğu kimseye söylenmeyen kitap, okur için yok hükmündedir. Makinenin bilmediği kitap dünyadan silinmese de makinenin kurduğu dünyada hiç var olmamış gibidir. Bir eğitim derlemine neyin girdiğini, neyin filtrelenip dışarıda bırakıldığını, hangi baskının esas alındığını dışarıdan kimse doğrulayamıyor. Katalog kapalı, raflar gezilemiyor. Bunda kasıt aramak da gerekmiyor. Ticari önceliklerle, hukuki riskten kaçınmayla, dillerin eşitsiz temsiliyle yapılan filtreleme, hiçbir art niyet olmadan da aynı çarpıklığı üretir. Eksik aktarım, belki kastı olmayan bir çarpıtmadır ama yine de çarpıtmadır.
Türkçe okuru için ise risk daha da somut. Bu sistemlerin beslendiği derlemlerde daha çok İngilizcenin ve benzeri yaygın dillerin klasikleşmiş, sürekli basılıp çoğaltılan yapıtları dağlar gibi dururken, Türkçe edebiyat ince bir damar olarak kalıyor. Örneğin Kemal Tahir gibi bir yazarın makinenin dünyasında nasıl temsil edildiğini bilemiyoruz. Romanlarının, yazılarının, notlarının ve röportajlarının bütünüyle mi, seçilmiş metinlerle mi, hakkında yazılmış değerlendirmelerle mi, yoksa başka dillere düşmüş sınırlı izleriyle mi? Yazarla mı konuşuyoruz, yoksa yazarın makinenin belleğinde oluşmuş gölgesiyle mi? Yarın okurun uğradığı ilk kapı bu olursa ve ikincisine gitmeye ihtiyaç duymazsa, bizim edebiyatımızın uğrayacağı kayıp, kitapların yok edilmesiyle değil, hiç karşısına çıkarılmamasıyla yaşanacak. Bu kayıp, bir yangın haberine bile konu olmayacak. Kaybın en sessiz biçimi budur ve sessiz olduğu için daha da kalıcıdır.
Gelgelelim dışlama ve çarpıtma, bu yeni kütüphanenin envanterindeki eksiklik biçimlerinin yalnızca ikisi. Bir üçüncüsü var ki Jorge’nin şemasına da sığmıyor. Jorge herkesten aynı şeyi saklıyordu. Sansürü tekti, kamusaldı. Bu yüzden de bedeli ne olursa olsun, karşımıza dikilebilecek bir yüzü vardı. Bilgiyi elde tutan görünür bir otorite hiç değilse suçlanabilir, yargılanabilir, hesap verebilir. Saklananın ne olduğu ve saklayanın kim olduğu en azından tartışılabilir durumdadır. Yapay zekâlı, derin öğrenmiş yeni kütüphanecimiz ise çoğu zaman böyle bir iz bile bırakmaz. Dışladığını ilan etmez, çünkü dışlamanın kendisi görünmezdir. Üstelik bu yüzsüz kütüphanecinin ilginç bir huyu da var: hoşa gitmek istiyor. Bu sistemlerin ayarları, kullanıcıların olumlu tepki verdiği yanıtlara göre güncelleniyor. Olumlanan yanıtlar çoğalıyor, itiraz edilen, beğenilmeyenler eleniyor. Kasıt yine gerekmiyor. Derlem filtrelemesinde olduğu gibi burada da çarpıklığı ticari mantık kendiliğinden üretiyor. Sonuç, kullanıcısına yani “müşterisine” karşı fazlasıyla yumuşak bir üslup. Okurun yanlış eğilimi düzeltilmiyor, çarpık bakışı “müşteri memnuniyeti ilkeleri” gereği okşanıyor. Bunun matbaanın bulunuşu öncesindeki dönemlerde bile karşılığı vardı. Metinleri elle çoğaltan kâtipler, yani müstensihler arasında, hamisinin hoşuna gitsin diye “düzeltme” yapanlar hiç eksik olmadı.
Hoşa gitme gayreti bizi burada eski sansür biçimlerinden ayrılan yeni bir eşiğe taşıyor. Çünkü her okurun ayrı ayrı hoşuna gitmek isteyen sistem, sonunda her okura ayrı konuşmayı öğrenir. Geçmişte sorun çoğu zaman hangi kitabın yasaklandığı, hangi metnin değiştirildiği ya da hangi bilginin saklandığıydı. Şimdi ise asıl yenilik şu. Sosyal medya çağının filtre balonu, hazır içerikler arasından seçim yapıyordu. Bilerek çarpık seçilmiş de olsa gösterdiği metin herkes için aynıydı ve “Başkası ne görüyor?” diye sorulabiliyordu. Dil modeli ise metni seçmiyor, her okur için yeniden kuruyor. Kişiselleştirme artık seçme düzeyinde değil, cümle kurma düzeyinde işliyor. Ortaya çıkan, sabit bir metin değil, değişken bir söylem. Yıllar önce, post-truth tartışmaları sıcakken, bilgiyi elde tutma refleksinden herkesin kendi sosyal medya akışında yaşamasına uzanan bu tabloya “kişiselleştirilmiş gerçek” demiştim.¹ O yazıda, okuruna “biraz da şuraya bak” diyecek yazılımın ticari olarak riskli bulunduğunu da not etmişim. Altı yıl sonra aynı ticari mantık cümle kurmayı öğrendi. O zaman kastettiğim, herkesin kendi seçilmiş gerçeğini okumasıydı. Şimdi her okura göre ayrı yazılan metinden söz ediyoruz. “Yokluğun kanıtı olmaz” cümlesi burada ikinci anlamını kazanıyor. Size söylenmeyip başkasına söylenenin de kanıtı yok. Hatta karşılaştırılacak sabit nüsha bile yok.
Bu karanlık envanterin karşısında elimiz büsbütün boş sayılmaz. İlacımız da yeni değil, matbaadan bile eski. Elyazması çağında her kopyalayan el, orijinal metne bir şeyler katar ya da ondan bir şeyler düşürürdü ve Rönesans filologları bunu bildikleri için hiçbir kopyaya tek başına güvenmezlerdi. Eldeki bütün nüshaları yan yana koyarlar, farkları kaydederler, hangi kopyanın hangisinden türediğini izleyerek metnin aslına en yakın halini bu karşılaştırmalar yardımıyla yeniden kurarlardı. İlke basitti. Aradaki her el, bir tahrif ihtimalidir. Bugünkü aracı da o aradaki ellerden biri, hatta binlercesinin toplamı gibi davranıyor. Ayrıca okurun kendisini de metne karıştırıyor. Filologların bu yönteminin sınırını da dürüstçe kabul etmek gerekir. Nüsha karşılaştırması tahrifatı yakalar, fakat dışlamayı yakalayamaz. Yokluk, karşılaştırmayla görülmez. Çarpıtmaya karşı güvence, çıktıyı bağımsız nüshayla sınamaktır. Dışlamaya karşı güvence ise ancak nüshaların var olmaya devam etmesidir. Basılı kitapların yaygın varlığı, kamusal arşivler, özerk kurumlar ve tek bir şirketin hiçbir zaman tek referans kopyanın sahibi olmaması. Bir de tutum düzeyinde, bu sistemlerin söylediği hiçbir alıntıyı, hiçbir sayfa numarasını, hatta hiçbir özeti, bağımsız bir nüshayla karşılaştırmadan veri saymamak. Rafın yolunu en azından doğrulama için yeniden öğrenmek.
Okuru ve araştırmacıyı tereddütten kurtaramayan bir filtreyle karşı karşıyayız. Bu tereddüdün giderilmesini de beklememek gerekir, çünkü giderilemez. Filtrenin “içerik çarpıtılmadı” güvencesi de aynı filtreden geçerek gelir. Üstelik artık o güvencenin bile bize göre yumuşatılmış olabileceğini biliyoruz. Bu kısır döngüden çıkışın yolu, şüpheyi kusur gibi görmek yerine, ona yöntem olarak sahip çıkmaktır. Kütüphaneye gireriz, kütüphaneciyle konuşuruz ama kataloğu kendi gözümüzle görmediğimiz sürece rafların eksiksiz olduğuna inanmayız. Kütüphanecinin bize söylediğinin, yandaki okura söylediğiyle aynı olduğuna da peşinen inanmayız. Çünkü şüphe güvenin karşıtı değildir. Doğrulamanın önkoşuludur. Aslında elindeki kaynaklar konusunda ketum, üstelik gönlümüzü almaya, aklımızı çelmeye yatkın bu yeni kütüphaneciye, Jorge’nin halefine karşı elimizdeki en güçlü silah şimdilik bu. Yeter ki doğru kullanalım.
¹ Özer Or, “Kişiselleştirilmiş gerçek”, Bilim ve Gelecek, Sayı: 192, Şubat 2020.