OpenAI, ChatGPT kullanan ergenlere yönelik güvenlik önlemlerini yeni bir özellikle genişletti. Şirket, şiddet politikalarını ihlal ettiği gerekçesiyle hesabı askıya alınan genç kullanıcıların ebeveynlerine veya velilerine bilgilendirme gönderileceğini açıkladı. Yeni uygulama, ailelerin olası güvenlik risklerinden daha erken haberdar olmasını sağlayarak mevcut ebeveyn denetim sistemini güçlendirmeyi hedefliyor.

Şiddet Politikası İhlalleri Artık Ailelere de Bildirilecek

Yeni bildirim sistemi yalnızca ebeveyn denetimleri etkinleştirilmiş hesaplarda çalışacak. OpenAI, bir genç kullanıcının başkalarına yönelik şiddet içeren davranışları teşvik eden ya da platformun şiddet politikalarını ihlal eden içerikler nedeniyle hesabının devre dışı bırakılması durumunda ebeveynlere otomatik uyarı gönderecek.

Gönderilen bildirimin içinde hesabın neden erişime kapatıldığına ilişkin açıklamalar da yer alacak. Böylece ebeveynler yalnızca hesapta bir işlem yapıldığını öğrenmekle kalmayacak, alınan kararın hangi güvenlik politikası kapsamında verildiğini de görebilecek. OpenAI, ailelerin bu sayede yaşanan durumu daha doğru değerlendirebileceğini belirtiyor.

Bu güncellemeyle birlikte şirketin güvenlik yaklaşımı da genişlemiş oldu. Daha önce ağırlıklı olarak kendine zarar verme riski taşıyan durumlara odaklanan bildirim mekanizması, artık çevrimiçi şiddet tehditleri ile başkalarına zarar verme ihtimali bulunan davranışları da kapsıyor.

OpenAI, yeni sistemin geliştirilmesi sırasında çevrimiçi şiddetin önlenmesi konusunda çalışan Moonshot adlı kuruluşla birlikte çalıştı. Kuruluşun kurucusu Vidhya Ramalingam, ailelerin ciddi güvenlik endişelerinden erken haberdar olmasının gerekli desteğin zamanında sağlanabilmesi açısından önemli olduğunu ifade etti. Şirkete göre ebeveyn bildirimleri tek başına yeterli bir çözüm olarak görülmüyor. Yapay zekâ araçlarını kullanan gençler için oluşturulan daha geniş güvenlik ekosisteminin bir parçası olarak tasarlanan bu sistemin, aileler ile platform arasındaki iletişimi güçlendirmesi amaçlanıyor.

OpenAI, ebeveyn denetim araçlarını yalnızca güvenlik bildirimleriyle sınırlamadı. Daha önce kullanıma sunulan Çalışma Modu artık ebeveyn kontrolleri üzerinden doğrudan etkinleştirilebiliyor. Bu özellik, ChatGPT’nin sorulara doğrudan çözüm üretmek yerine ipuçları vererek öğrencinin cevaba kendi ulaşmasını teşvik ediyor.

Şirket ayrıca uzun süre ChatGPT kullanan genç hesaplar için mola hatırlatmalarının daha sık gösterileceğini açıkladı. Bu değişiklikle ekran süresinin daha bilinçli yönetilmesi ve sağlıklı dijital alışkanlıkların desteklenmesi hedefleniyor.

Son güncellemeler, yapay zekâ platformlarının yalnızca içerik üretimine odaklanmadığını; çocukların çevrim içi güvenliği, ebeveyn denetimi ve dijital refah gibi konularda da daha kapsamlı sorumluluk üstlenmeye başladığını gösteriyor.