Yapay Zekâ Sohbet Botlarının, Birleşik Krallık’ta Finansal ve Hukuki Konularda Hatalı Yönlendirmeler Sunarak Kullanıcıları Yanlış Kararlara Sürüklediği Bildirilmektedir

Which? tarafından yapılan araştırmada, popüler yapay zekâ sistemlerine yöneltilen 40 farklı soru üzerinden ciddi doğruluk sorunları tespit edildi. Testlerde bazı sistemlerin, bireysel tasarruf hesapları (ISA) için belirlenen £20.000’lik yasal yatırım limitini yanlış şekilde £25.000 olarak kabul ettiği ve kullanıcıyı düzeltmediği görüldü. Ayrıca, bazı sistemlerin Avrupa ülkelerinde seyahat sigortasının zorunlu olduğunu yanlış şekilde ifade ettiği, uçuş gecikmelerine ilişkin tazminat hakları konusunda hatalı bilgi verdiği ve kullanıcıları sözleşme ihlaline yol açabilecek önerilerle yönlendirdiği belirlendi. Vergi iadesi konularında ise, ücretsiz devlet hizmetleri yerine ücretli aracılara yönlendirme yapıldığı tespit edildi. Kullanıcı deneyimleri de bu bulguları destekler nitelikte olup, bazı durumlarda yapay zekâ sistemlerinin güncel olmayan vergi kodlarına dayanarak tamamen yanlış yönlendirmeler yaptığı ifade edildi. Araştırmaya göre, Birleşik Krallık’ta nüfusun önemli bir kısmı finansal kararlar için bu tür sistemlere başvurmaktadır. Financial Conduct Authority, yapay zekâ tarafından sunulan bu tür bilgilerin düzenlenmiş finansal danışmanlık kapsamında olmadığını ve kullanıcıların herhangi bir koruma mekanizmasına sahip olmadığını vurgulamaktadır. Bu durum, yapay zekâ sistemlerinin finansal ve hukuki alanlarda güvenilirlik, güncellik ve sorumluluk açısından önemli riskler barındırdığını ortaya koymaktadır.