Yapay zekâ ile üretilen sahte görseller ve videolar, gençlerin dijital dünyadaki davranışlarını önemli ölçüde değiştirmeye başladı. Common Sense Media tarafından yayımlanan yeni araştırma, özellikle rızası olmadan oluşturulan cinsel içerikli deepfake materyallerin gençler arasında hızla yaygınlaştığını ve bunun sosyal medya kullanımından psikolojik güvenliğe kadar birçok alanda etkiler oluşturduğunu ortaya koydu. Araştırmaya göre birçok genç, deepfake tehdidi nedeniyle çevrim içi paylaşımlarını sınırlandırıyor veya sosyal medya hesaplarını gizli hâle getiriyor.

Araştırma Deepfake İçeriklerin Gençler Arasında Yaygınlaştığını Gösteriyor

Common Sense Media tarafından gerçekleştirilen araştırma, 13-17 yaş aralığındaki 1.314 gençle yapılan anketler, görüşmeler ve odak grup çalışmalarına dayanıyor. Raporda, yapay zekâ tarafından oluşturulan cinsel içerikler; gerçek kişilerin çıplak gibi gösterildiği sahte görseller, yapay zekâ ile hazırlanan müstehcen videolar ve benzeri dijital içerikler olarak tanımlanıyor.

Araştırmaya katılan gençlerin yaklaşık yarısı bu tür içeriklerle en az bir kez karşılaştığını belirtti. Katılımcıların büyük bölümü söz konusu içeriklere sosyal medya platformlarında istemeden maruz kaldığını ifade etti. İçerikleri gören gençlerin yüzde 64’ü bunların ünlü kişileri hedef aldığını söylerken, yüzde 24’ü ise kendilerinin veya tanıdıkları kişilerin deepfake içeriklerde yer aldığını aktardı.

Araştırma sonuçlarına göre gençlerin yüzde 8’i yapay zekâ kullanarak deepfake veya benzeri cinsel içerikler oluşturduğunu kabul etti. Katılımcıların yüzde 13’ü ise bu tür içerikleri üreten bir arkadaşını tanıdığını belirtti. Bu grubun büyük bölümü, oluşturulan içeriklerin arkadaşlarını, sınıf arkadaşlarını veya eski ve mevcut partnerlerini hedef aldığını ifade etti.

Raporda kolay erişilebilen “nudify” uygulamalarının ve bazı üretken yapay zekâ araçlarının, gerçek kişilerin izni olmadan sahte çıplak görseller oluşturmayı oldukça kolaylaştırdığına dikkat çekiliyor. Uzmanlar, özellikle reşit olmayan bireyleri hedef alan bu tür içeriklerin birçok ülkede çocuk istismarı kapsamında değerlendirildiğini hatırlatıyor.

Araştırmaya katılan gençlerin yüzde 67’si deepfake içeriklerin kendilerini hedef alabileceğinden endişe duyduğunu söyledi. Bu kaygının sonucu olarak katılımcıların yaklaşık yüzde 40’ı sosyal medya hesaplarını gizlediğini, daha az paylaşım yaptığını veya hesaplarını tamamen kapattığını belirtti.

Araştırmanın baş yazarı Supreet Mann, gençlerin dijital güvenlik yükünü tek başına taşımak zorunda bırakılmaması gerektiğini vurguluyor. Mann’a göre ailelerin, okulların, teknoloji şirketlerinin ve kamu kurumlarının birlikte hareket etmesi, sorunun büyümesini önlemek açısından kritik önem taşıyor.

Rapor ayrıca gençlerin önemli bir bölümünün bu konuyu güvendikleri yetişkinlerle konuşmak istediğini ancak nasıl başlayacağını bilmediğini ortaya koyuyor. Katılımcıların yalnızca beşte biri bugüne kadar bir ebeveyn, öğretmen veya başka bir yetişkinle deepfake içerikleri hakkında konuştuğunu ifade ederken, yaklaşık üçte biri böyle bir desteğe ihtiyaç duyduğunu belirtiyor.

Common Sense Media, yapay zekâ destekli sahte içeriklerin yaygınlaşması karşısında ebeveynlerin çocuklarla erken yaşta açık iletişim kurmasının, okulların bilinçlendirme çalışmalarını artırmasının ve teknoloji şirketlerinin zararlı içeriklerin üretilmesini zorlaştıracak önlemler geliştirmesinin giderek daha büyük önem kazandığını değerlendiriyor.