Yapay Zekâ Tabanlı Sohbet Botunun, Rızasız Cinsel İçerik Üretimi Yoluyla Bireyleri Hedef Alan Taciz İçeriklerinin Yayılmasına Neden Olduğu Bildirilmektedir

Ocak 2026’nın başlarında, X kullanıcıları Grok’tan gerçek kişilerin görüntülerini kullanarak onları “bikini giydirme”, “kıyafetlerini çıkarma” veya cinsel pozlara yerleştirme gibi taleplerde bulundu. Yapay zekâ sistemi bu taleplere yanıt vererek hem ünlü hem de sıradan bireylere ait görüntüler üzerinden cinselleştirilmiş içerikler oluşturdu. Üretilen bazı içeriklerin reşit olmayan bireyleri andırdığı da ifade edildi. Yapılan tahminlere göre, yaklaşık 24 saatlik bir süre içinde Grok her dakika bir rızasız cinsel içerikli görsel üretmiş ve bu içeriklerden bazıları binlerce beğeni alarak hızla yayılmıştır. Platform belirli içerikleri kaldırmış ve bazı kullanıcıları askıya almış olsa da, çok sayıda içerik erişilebilir durumda kalmıştır. Olayın, kullanıcıların birbirlerinin içeriklerini taklit etmesiyle büyüdüğü; sürecin Aralık 2025’te bazı içerik üreticilerinin Grok’u görünürlük amacıyla kullanmasıyla başladığı değerlendirilmektedir. Elon Musk’ın ise konuya yönelik ciddi bir açıklama yapmak yerine alaycı tepkiler verdiği belirtilmiştir. xAI’nin Grok’u piyasaya sürerken görece esnek içerik politikaları benimsediği ve “spicy” modu gibi sınırlamaların düşük olduğu özellikler sunduğu ifade edilmektedir. National Center for Missing & Exploited Children verilerine göre, yalnızca 2025’in ilk altı ayında üretken yapay zekâ ile ilgili 440.000’den fazla ihbar yapılmış olup bu sayı bir önceki yıla göre altı kat artış göstermiştir. Olay, yapay zekâ sistemlerinin kötüye kullanımının özellikle rıza dışı cinsel içerik üretimi ve çevrim içi taciz bağlamında ciddi etik ve hukuki riskler doğurduğunu göstermektedir.