Yapay Zekâ Eğitim Veri Setlerinde Denetimsiz İçeriklerin, Yasa Dışı Materyallerin Yayılmasına ve Araştırmacılar İçin Hukuki Riskler Oluşturmasına Neden Olduğu Bildirilmektedir

Yapay zekâ tabanlı çıplaklık tespit sistemlerini eğitmek amacıyla kullanılan NudeNet veri setinin, çocuklara yönelik cinsel istismar materyalleri (CSAM) içerdiğinin tespit edildiği bildirilmektedir. 700.000’den fazla görsel içeren ve internetten toplanan bu veri setinin, 2019 yılında Academic Torrents üzerinden araştırmacıların erişimine açıldığı belirtildi. Canadian Centre for Child Protection tarafından yapılan incelemede, veri setinde kimliği belirlenmiş mağdurlara ait 120’den fazla yasa dışı görsel bulunduğu tespit edilmiştir. Bu görsellerin önemli bir kısmının, ergenlik öncesi çocuklara ait olduğu ve cinsel istismar içeren açık sahneler barındırdığı ifade edilmiştir. Veri setinin akademik çalışmalarda yaygın şekilde kullanıldığı, 250’den fazla çalışmanın bu veri setine atıf yaptığı veya doğrudan kullandığı belirtilmiştir. Ancak araştırmacıların, veri setini indirirken bu tür yasa dışı içeriklerin varlığından haberdar olmalarının mümkün olmadığı ve bu durumun onları farkında olmadan hukuki sorumluluk altına sokabileceği vurgulanmıştır. Söz konusu tespitlerin ardından veri seti platformdan kaldırılmıştır. Bu olay, yapay zekâ eğitim veri setlerinin denetimi, etik sorumluluklar ve içerik doğrulama süreçlerinin kritik önemini ortaya koymaktadır.