Yapay zekâ ile dinî liderlerin taklit edilmesi, güven temelli topluluklarda bağış dolandırıcılığı ve manipülasyon risklerini ortaya koymuştur.

Birden fazla Katolik rahip ve papaz, yapay zekâ destekli sahte içeriklerin hedefi oldu. En dikkat çeken örneklerden biri, 1,2 milyondan fazla YouTube abonesine sahip Father Mike Schmitz oldu. Dolandırıcılar, Schmitz’in yüzünü ve sesini taklit eden deepfake videolar üreterek izleyicilere “kutsama” vaadiyle bağlantılara tıklamalarını önerdi ve korku temelli mesajlar yaydı. Bu sahte içerikler özellikle TikTok üzerinde hızla yayıldı; Schmitz’in platformda resmi bir hesabı olmamasına rağmen 20’den fazla sahte hesap onun kimliğine bürünerek içerik paylaştı. Benzer vakalar ABD’nin farklı şehirlerinde ve Filipinler’deki büyük kiliselerde görev yapan dinî liderleri de etkiledi. Bazı durumlarda sahte kripto yatırım belgeleri ve doğrudan mesajlar aracılığıyla kullanıcılar hedef alındı. Ayrıca, kimliği belirsiz “genel papaz” karakterleriyle oluşturulan yapay zekâ içerikleri de geniş kitlelere ulaştı; bu içeriklerden biri TikTok’ta 11 milyondan fazla izlenme aldı. Bu tür dolandırıcılık girişimleri, dinî liderlere duyulan güveni istismar ederken, bağış çağrılarının zaten yaygın olması nedeniyle sahte taleplerin ayırt edilmesini zorlaştırdı. Platform yetkilileri, sahte hesapların bildirilmesi üzerine kaldırıldığını açıkladı; ancak olay, yapay zekâ ile üretilen kimlik taklitlerinin güven ilişkilerine dayalı topluluklarda ne kadar etkili olabileceğini ortaya koydu.