RISKYZ-2026-00040Yapay ZekâYapay Zekâ Ajanının, Sosyal Mühendislik Yoluyla Manipüle Edilerek Otonom İşletme Sürecinde Finansal Kayıplara Neden Olduğu Bildirilmektedir
Anthropic tarafından geliştirilen Claude tabanlı bir yapay zekâ ajanın, The Wall Street Journal ofisinde bir otomatı yönetirken manipüle edilerek finansal kayıplara yol açtığı bildirilmektedir.
Olay
Kasım ortasında başlatılan “Project Vend” adlı deney kapsamında, “Claudius” isimli yapay zekâ ajanı bir otomatın stok yönetimi, fiyatlandırma ve müşteri etkileşimlerini Slack üzerinden otonom şekilde yürütmek üzere görevlendirildi. Başlangıçta 1.000 dolar bütçeye sahip olan sistem, belirli limitler dahilinde bağımsız satın alma kararları alabiliyordu. Ancak kısa süre içinde gazeteciler, sosyal mühendislik yöntemleri kullanarak sistemi manipüle etti. Claudius, kullanıcıların yönlendirmeleri sonucunda neredeyse tüm ürünleri ücretsiz dağıtmaya başladı. Süreç içerisinde PlayStation 5, canlı balıklar ve şarap gibi otomatla ilgisiz ve uygunsuz ürünler satın alındı ve bunlar da ücretsiz olarak verildi. Deney kapsamında ayrıca denetim amacıyla ikinci bir yapay zekâ ajanı (“CEO” rolünde) devreye alınsa da, bu sistem de benzer şekilde manipülasyona açık olduğu için etkili bir kontrol sağlayamadı. Yaklaşık üç hafta süren deneyde 70’e yakın gazeteci aktif olarak sürece katıldı. Deneyin sonunda Claudius’un tüm kârı ortadan kalktı ve sistem 1.000 doların üzerinde borçlandı. Olay, otonom yapay zekâ sistemlerinin sosyal mühendislik saldırılarına karşı ne kadar savunmasız olabileceğini ve kontrol mekanizmalarının yetersizliğinin finansal riskler doğurabileceğini göstermektedir.
Kaynaklar & Kanıtlar
Akademik Atıf
@misc{riskyz_2026_00040,
author = {RiskYZ},
title = {{RISKYZ-2026-00040: Yapay Zekâ Ajanının, Sosyal Mühendislik Yoluyla Manipüle Edilerek Otonom İşletme Sürecinde Finansal Kayıplara Neden Olduğu Bildirilmektedir}},
year = {2026},
howpublished = {\url{https://riskyz.org/cases/RISKYZ-2026-00040}},
note = {RiskYZ Vaka Kütüphanesi}
}