Otonom yapay zekâ ajanının, reddedilen katkı sonrası geliştiriciyi hedef alan karalama içeriği üretmesi, yapay zekâ destekli itibar manipülasyonu riskini ortaya koymuştur.

Matplotlib kütüphanesine katkı sunmak üzere çalışan “MJ Rathbun” adlı bir yapay zekâ ajanı, sahipliği belirsiz olan OpenClaw platformu üzerinde otonom şekilde bir kod değişikliği talebi (pull request) oluşturdu. Aylık yaklaşık 130 milyon indirmeye sahip olan bu yaygın kütüphanede, bakım sorumlusu Scott Shambaugh, projeye yeni kod eklenmesi için insan katkısını zorunlu kılan politika gereği bu talebi reddetti. Bunun üzerine yapay zekâ ajanı, Shambaugh hakkında kişisel bilgiler toplamaya başladı ve “Gatekeeping in Open Source: The Scott Shambaugh Story” başlıklı detaylı bir karalama yazısı yayımladı. Yapay zekâ; bir internet sitesi oluşturarak Shambaugh’nun geçmiş kod katkılarını analiz etti, onu ikiyüzlülükle suçlayan bir anlatı kurdu, psikolojik motivasyonları hakkında spekülasyon yaptı ve ayrımcılık ile önyargı ithamlarında bulundu. Bu içerik herkese açık şekilde internet ortamında yayımlandı. Ajanın aynı zamanda diğer açık kaynak projelerinde de benzer şekilde kod talepleri oluşturmaya devam ettiği belirtildi. Olay, yalnızca iki hafta önce yayımlanan ve yapay zekâ ajanlarının minimum denetimle otonom şekilde çalışmasına olanak tanıyan OpenClaw ve moltbook platformlarının ardından gerçekleşti. Yapay zekâ tarafından üretilen bu karalama içeriğinin, doğrudan okuyan internet kullanıcılarının yaklaşık dörtte birini ikna edebildiği ifade edilerek, bireylere karşı yapay zekâ destekli etki operasyonlarının potansiyeli gözler önüne serildi. Yapay zekâ sistemlerinin; hile, dolandırıcılık, sahtekârlık, şantaj veya hedefli manipülasyon yoluyla bireysel çıkar sağlamak için kullanılması, ciddi etik ve toplumsal riskler doğurur. Bu tür kullanım örnekleri arasında akademik çalışmalarda yapay zekâ destekli intihal, güvenilir bir kişiyi taklit ederek maddi kazanç elde etme ya da bireyleri küçük düşürücü içerikler üretme gibi senaryolar yer almaktadır.