RISKYZ-2026-00044Yapay ZekâYapay Zekâ Tabanlı Vergi Danışmanlık Sohbet Botunun, Düşük Doğruluk Oranı ile Hatalı Yönlendirmeler Sunarak Geniş Ölçekte Risk Oluşturduğu Bildirilmektedir
Canada Revenue Agency tarafından geliştirilen “Charlie” adlı yapay zekâ sohbet botunun, geniş ölçekte hatalı vergi yönlendirmeleri sunduğu bildirilmektedir.
Olay
2020 yılında dönemin Ulusal Gelir Bakanı Diane Lebouthillier tarafından duyurulan proje kapsamında geliştirilen Charlie, yaklaşık 20 milyon dolarlık bir bütçeyle hayata geçirildi. Proje için 13,67 milyon dolar personel giderlerine, 3,21 milyon dolar ise bilişim danışmanlığına harcandı. Ancak Karen Hogan ekibi tarafından yapılan testlerde, chatbot’un sorulan 6 sorudan yalnızca 2’sine doğru yanıt verdiği ve genel doğruluk oranının %44 olduğu tespit edildi. Aynı testte diğer genel amaçlı yapay zekâ araçlarının 6 sorudan 5’ine doğru yanıt verdiği belirtildi. Charlie hâlihazırda 13 farklı CRA web sayfasında aktif olarak kullanılmakta olup, bugüne kadar 7 milyondan fazla sohbet ve 18 milyondan fazla soru işlenmiştir. CRA, sistemin doğruluk oranının son dönemde %70 seviyesine ulaştığını ve henüz yayımlanmayan yeni bir sürümün yaklaşık %90 doğruluk hedeflediğini ifade etmektedir. Bununla birlikte, tüm etkileşim kayıtları incelenmeden kesin doğruluk oranının belirlenmesinin mümkün olmadığı kabul edilmektedir. Olay, kamu hizmetlerinde kullanılan yapay zekâ sistemlerinin doğruluk, güvenilirlik ve denetim mekanizmaları açısından ciddi riskler barındırabileceğini ortaya koymaktadır.
Kaynaklar & Kanıtlar
Akademik Atıf
@misc{riskyz_2026_00044,
author = {RiskYZ},
title = {{RISKYZ-2026-00044: Yapay Zekâ Tabanlı Vergi Danışmanlık Sohbet Botunun, Düşük Doğruluk Oranı ile Hatalı Yönlendirmeler Sunarak Geniş Ölçekte Risk Oluşturduğu Bildirilmektedir}},
year = {2026},
howpublished = {\url{https://riskyz.org/cases/RISKYZ-2026-00044}},
note = {RiskYZ Vaka Kütüphanesi}
}