Yapay zekâ ile oluşturulan sahte “kimlik tespiti” görselleri, yanlış hedef gösterme ve bireylere yönelik taciz risklerini ortaya koymuştur.

Minneapolis’te bir ICE ajanının gerçekleştirdiği ölümcül müdahalenin ardından, sosyal medya kullanıcıları görgü tanığı videolarında maskeli olan ajanı “deşifre etmek” amacıyla Grok’tan görüntüyü “maskesiz hale getirmesini” talep etti. Bunun üzerine yapay zekâ tarafından üretilen ve ajanın yüzünü gösterdiği iddia edilen görseller hızla dolaşıma girdi. Ancak uzmanlar, bu tür yapay zekâ “iyileştirmelerinin” gerçekte var olmayan yüz detayları ürettiğini ve biyometrik olarak güvenilir olmadığını vurgulamaktadır. Bu sahte görseller, “Steve Grove” ismiyle birlikte yayılmaya başladı ve hiçbir bağlantısı olmayan iki kişinin hedef alınmasına yol açtı. Bunlardan biri Missouri’de yaşayan bir silah dükkânı sahibi, diğeri ise Minnesota Star Tribune gazetesinin yayıncısıydı. Her iki kişi de sosyal medyada yoğun taciz ve suçlamalara maruz kaldı. Daha sonra gazeteciler ve resmi kaynaklar, olayla ilişkili gerçek ajanın farklı bir kişi olduğunu doğruladı. Bu süreç, yapay zekâ destekli içeriklerin hızlı şekilde yanlış kimliklendirme üretip yayabildiğini ve masum bireylerin hedef haline gelmesine neden olabildiğini gösterdi. Uzmanlar, özellikle eksik veya düşük kaliteli görüntülerden kimlik çıkarmaya çalışan yapay zekâ araçlarının gerçeği yeniden üretmek yerine “tahmin” ettiğini ve bu nedenle ciddi dezenformasyon riskleri taşıdığını belirtmektedir.