Grok yüzünden başı yanmış.

Grok ile çocuk istismarı içerikleri ürettiği iddia edilen kullanıcıya xAI’dan dava

elon musk'ın xai şirketi, grok sohbet botunu kullanarak çocuk istismarı içerikli görseller ürettiği iddia edilen bir kullanıcıya dava açtı.

elon musk’ın sahibi olduğu yapay zekâ şirketi xai, grok sohbet botunu kullanarak çocukların cinsel istismarını içeren görseller ürettiği ve dağıttığı iddia edilen bir kullanıcı hakkında dava açtı. reuters’ın aktardığı bilgilere göre şirket, güney carolina’da yaşayan terry wayne harwood’un grok’un kullanım kurallarını bilinçli şekilde ihlal ettiğini, güvenlik önlemlerini aşarak rızası bulunmayan kişilere ait görüntüleri değiştirdiğini ve çocuk cinsel istismarı materyalleri (csam) oluşturup dağıttığını öne sürüyor. xai, bu eylemlerin hem şirket politikalarına aykırı olduğunu hem de hukuki ve itibari açıdan ciddi sonuçlar doğurduğunu savunuyor. harwood, şubat ayında çocuk cinsel istismarı materyali bulundurmak ve dağıtmak suçlamalarıyla gözaltına alınmıştı. hakkında sekiz ayrı ağır suçlamanın bulunduğu belirtilirken, xai tarafından açılan davada ceza dosyasındaki görsellerin en az bir bölümünün grok kullanılarak üretildiği veya değiştirildiği iddiasına yer veriliyor. şirket, harwood’un sistemdeki koruma mekanizmalarını çeşitli yöntemlerle devre dışı bıraktığını ve cinsel içerik taşımayan fotoğrafları, görüntülerde yer alan kişilerin açık rızası olmadan cinsel içerikli görsellere dönüştürdüğünü ileri sürüyor. xai grok’un görsel düzenleme özellikleri daha önce de tartışma yaratmıştı grok’a geçen yıl eklenen ve yetişkinlere yönelik içerik oluşturulmasına daha esnek yaklaşan “spicy” modu ile birlikte sohbet botuna görsel düzenleme yeteneklerinin kazandırılması, kısa süre içinde farklı tartışmaları da beraberinde getirmişti. özellikle yapay zekâ destekli sahte görsellerin sayısında dikkat çekici bir artış … grok ile çocuk istismarı içerikleri ürettiği iddia edilen kullanıcıya xai’dan dava haberi ilk önce teknoblog üzerinde yayımlandı.