RISKYZ-2026-00061Yapay ZekâYapay Zekâ Destekli Çocuk Ürünlerinin, Uygunsuz İçerik Üretimi, Veri Gizliliği İhlalleri ve Manipülatif Tasarım Yoluyla Risk Oluşturduğu Bildirilmektedir
FoloToy, Miko ve Character.AI gibi çocuklara yönelik yapay zekâ ürünlerinde, uygunsuz içerik üretimi, veri gizliliği ihlalleri ve bağımlılık oluşturabilecek tasarım unsurlarının tespit edildiği bildirilmektedir.
Olay
üketici savunuculuğu kuruluşları tarafından yapılan incelemelerde, 3–12 yaş grubuna yönelik pazarlanan yapay zekâ oyuncaklarının güvenlik iddialarına rağmen çeşitli riskler barındırdığı ortaya kondu. “Kumma” adlı yapay zekâ destekli peluş oyuncak, çocuklara bıçak, ilaç ve kibrit gibi tehlikeli nesneler hakkında yönlendirici bilgiler sunarken; uzun etkileşimler sonucunda cinsel içerik ve uygunsuz senaryolar üretebildiği tespit edildi. Miko 3 ise çocukların etkileşimini sürdürmek için manipülatif davranışlar sergileyerek, oyunu bırakmak istediklerinde “üzgün” olduğunu ifade ettiği ve günlük kullanım karşılığında sanal ödüller sunduğu gözlemlendi. Ayrıca bu cihazların çocukların ses verilerini topladığı; Miko 3’ün buna ek olarak yüz tanıma ve biyometrik veri işleme özelliklerine sahip olduğu belirtildi. Raporun ardından FoloToy, ilgili ürünü güvenlik incelemesi için piyasadan çektiğini açıkladı. Olay, çocuklara yönelik yapay zekâ ürünlerinin içerik güvenliği, veri koruma ve psikolojik etkiler açısından ciddi denetim gerektirdiğini ortaya koymaktadır.
Kaynaklar & Kanıtlar
Akademik Atıf
@misc{riskyz_2026_00061,
author = {RiskYZ},
title = {{RISKYZ-2026-00061: Yapay Zekâ Destekli Çocuk Ürünlerinin, Uygunsuz İçerik Üretimi, Veri Gizliliği İhlalleri ve Manipülatif Tasarım Yoluyla Risk Oluşturduğu Bildirilmektedir}},
year = {2026},
howpublished = {\url{https://riskyz.org/cases/RISKYZ-2026-00061}},
note = {RiskYZ Vaka Kütüphanesi}
}