xAI hakkında dava: Grok’un CSAM üzerinde eğitildiği iddiası.

Elon Musk’ın yapay zekâ girişimi xAI, Çarşamba günü açılan bir davada Grok adlı modelini çocuk cinsel istismarı materyali (CSAM) üzerinde eğitmekle suçlandı. Şikâyeti veren “Jane Doe” takma adlı mağdur, xAI üzerinde kendisini tasvir eden yapay zekâ üretimi CSAM tespit edildiğine dair uyarı aldığını belirtti.

Dava ne iddia ediyor

Şikâyet dilekçesinde, Doe’nun 2000’lerin başında okul öncesi yaşta olduğu dönemde yetişkin erkeklerce tekrar tekrar cinsel saldırıya uğradığı ve bu görüntülerin çevrimiçi olarak pedofillere satıldığı anlatılıyor. Dilekçe, xAI’nin Grok modellerini bu tür içeriklerle eğittiğini öne sürüyor ve mağdurun yapay zekâ yoluyla yeniden istismar edildiğini savunuyor. İddialar, şu an için mahkeme kararıyla doğrulanmış değil.

“Faillerin, davacı ve ‘benzer şekilde bilinen’ eski mağdurların yapay zekâ ile CSAM’ini üretmeyi konuştukları çevrimiçi mesajlar bulundu.” — Jane Doe’nun dilekçesi

Nasıl tespit edildi?

Doe, ABD Adalet Bakanlığı Mağdur Bildirim Sistemi’ne kayıtlı. Bu sistem, mağdur olabileceği yeni soruşturmalar başladığında bildirim yolluyor. Doe, yıllar içinde pek çok uyarı aldı; ancak Kanada Çocukları Koruma Merkezi’nin (Canadian Centre for Child Protection) kendisini tasvir eden yapay üretim CSAM’i xAI üzerinde belirlediğini bildirmesi onu yeniden travmatize etti.

Kurumlar ne yaptı, hangi iz sürülüyor?

Doe’nun geçmişteki görüntüleri, ABD Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi (NCMEC) ve Kanada’daki merkez tarafından “hash” adı verilen dijital parmak iziyle eşleştirilerek izleniyor. Bu yöntem, özgün dosyalar internette dolaştığında otomatik tespit etmeyi amaçlıyor. Dilekçe, faillerin çevrimiçi forumlarda yapay üretim CSAM planlarını konuştuğunu da öne sürüyor.

• CSAM (child sexual abuse material): Çocukların yer aldığı her tür cinsel istismar görüntüsü ve içerik için kullanılan hukuki-etik terimdir.

• Hash (dijital parmak izi): Bir dosyayı benzersiz biçimde temsil eden kısa sayısal özet; aynı içeriğin farklı kopyalarını otomatik yakalamaya yarar.

Kimi etkiliyor, şimdi ne olacak?

Düzenleyici kurumlar ve mahkemeler, iddiaların kapsamını araştırmayı sürdürüyor. Bu süreçte bazı Grok kullanıcıları tutuklandı. xAI veya Grok’un Türkiye’deki erişimine ilişkin yeni bir bilgi yok; dava ABD’de ilerliyor. Mahkeme süreci, yapay zekâ şirketlerinin eğitim verisi denetimine ve zararlı içerik üretimini önleme yükümlülüklerine dair emsal oluşturabilir.