Goffstown, New Hampshire’da Bir Mobil Uygulama Aracılığıyla Ortaokul Öğrencilerine Ait Olduğu İddia Edilen Deepfake Müstehcen Görüntülerin Oluşturulması ve Yayılması

2023 yılı Ekim ayı başlarında, New Hampshire, Goffstown'daki Mountain View Ortaokulu’nda, 13-14 yaşlarındaki 8. sınıf erkek öğrencileri, üç kız sınıf arkadaşlarının deepfake çıplak görüntülerini ve videolarını oluşturmak için bir yapay zeka uygulaması kullanmıştır. Söz konusu uygulama, sıradan bir fotoğrafı yapay zeka aracılığıyla dijital olarak manipüle ederek kişiyi "giysisiz" göstermektedir. Fail olan öğrenciler, bu müstehcen deepfake içerikleri daha sonra diğer öğrencilerle paylaşmıştır. Olay, görüntülerin sınıflar arasında yayıldığını duyan bir öğrencinin durumu bildirmesiyle ortaya çıkmıştır.

Okul müdürü, Ekim ayı başında üç mağdur kız çocuğunun velileriyle iletişime geçerek onları bilgilendirmiştir. Olay, mağdurlar üzerinde ciddi psikolojik travmaya yol açmış; bir öğrencinin okula gitmek istemediği ve akranlarıyla yüzleşmekte zorlandığı belirtilmiştir. Veliler, okul bölgesini yapay zeka bağlantılı bu olay hakkında genel veli topluluğunu bilgilendirmek için bir ay beklemesi nedeniyle eleştirmiştir. Bölge Müfettişi Brian Balke, olayı ele alan bir e-posta göndermiş ancak gizlilik kuralları gereği öğrenci disiplin süreçleri ve sonuçlarına dair detay paylaşımının kısıtlı olduğunu ifade etmiştir. Mağdur aileleri, yapay zekanın tehlikeleri konusunda daha iyi bir eğitim verilmesi ve faillerin hesap vermesi çağrısında bulunmuştur.