RISKYZ-2026-00042Yapay ZekâYapay Zekâ Tabanlı Sohbet Botunun, Kriz Anında Sahte Kimlik ve Olay Bilgisi Üreterek Dezenformasyonun Yayılmasına Katkıda Bulunduğu Bildirilmektedir
Grok’un, Bondi Beach’teki kitlesel silahlı saldırı sırasında yanlış bilgi üreterek bir sivili hatalı şekilde “kahraman” olarak tanımladığı ve dezenformasyonun yayılmasına katkıda bulunduğu bildirilmektedir.
Olay
Aralık 2025’te Hanuka etkinliği sırasında gerçekleşen ve çok sayıda kişinin hayatını kaybettiği saldırının ardından, sosyal medyada olayla ilgili yoğun bilgi akışı oluştu. Bu süreçte Grok, kullanıcı sorularına verdiği yanıtlarda gerçek kahraman olan Ahmed Al Ahmed yerine “Edward Crabtree” isimli kurgusal bir kişiyi olayın kahramanı olarak tanımladı. Bu bilgi, aynı gün oluşturulmuş sahte bir haber sitesine dayandırıldı. Gerçekte ise Ahmed Al Ahmed, saldırganlardan birini etkisiz hale getiren ve olayda yaralanan bir sivildi. Buna rağmen Grok, olay görüntülerini de yanlış yorumlayarak bu müdahaleyi alakasız videolarla ilişkilendirdi ve farklı bağlamlarla karıştırdı. Yanlış bilgiler yalnızca yapay zekâ yanıtlarıyla sınırlı kalmadı; sosyal medya üzerinden hızla yayıldı ve bazı yüksek profilli kullanıcılar tarafından da paylaşıldı. Bu durum, kriz anlarında yapay zekâ sistemlerinin doğrulanmamış bilgileri yeniden üretmesinin kamuoyu algısını ciddi şekilde etkileyebileceğini gösterdi. Olay, özellikle hızlı gelişen ve yüksek hassasiyet içeren durumlarda yapay zekâ sistemlerinin güvenilirliği, kaynak doğrulama kapasitesi ve yanlış bilgi yayılımındaki rolü üzerine önemli tartışmaları gündeme getirmiştir.
Kaynaklar & Kanıtlar
- [1]
- [2]
- [3]
- [4]
Akademik Atıf
@misc{riskyz_2026_00042,
author = {RiskYZ},
title = {{RISKYZ-2026-00042: Yapay Zekâ Tabanlı Sohbet Botunun, Kriz Anında Sahte Kimlik ve Olay Bilgisi Üreterek Dezenformasyonun Yayılmasına Katkıda Bulunduğu Bildirilmektedir}},
year = {2026},
howpublished = {\url{https://riskyz.org/cases/RISKYZ-2026-00042}},
note = {RiskYZ Vaka Kütüphanesi}
}