Yapay Zekâ Tabanlı Silah Tespit Sisteminin, Klarneti Silah Olarak Yanlış Tanımlayarak Okulda Acil Durum Protokolünü Tetiklediği Bildirilmektedir

Florida’nın Oviedo kentindeki Lawton Chiles Middle School’da meydana gelen olayda, sistem bir öğrenciyi kamuflaj kıyafetle koridorda tüfek tutuyormuş gibi algıladı. Bu değerlendirme üzerine polis birimlerine acil uyarı gönderildi ve okulda karantina (lockdown) uygulaması başlatıldı. Olay yerine gelen polis ekipleri sınıfları aradı ancak herhangi bir tehdit tespit edilemedi. Daha sonra yapılan incelemede, sistemin tüfek olarak algıladığı nesnenin aslında bir klarnet olduğu anlaşıldı. Söz konusu öğrencinin, yılbaşı temalı kostüm günü kapsamında asker temalı bir karakter olarak giyindiği ve müzik aletini bu şekilde tuttuğu belirtildi. Seminole County Public Schools bünyesinde kullanılan sistemin geliştiricisi ZeroEyes, olayın yapay zekâ modelinin klarneti silah olarak yanlış sınıflandırmasından kaynaklandığını kabul etti. Şirket yetkilileri, öğrencinin enstrümanı silah tutuşuna benzer şekilde taşımasının sistem tarafından tehdit olarak algılandığını ifade etti. Olayda öğrenciye yönelik herhangi bir yasal işlem uygulanmazken, sistemin yanlış alarm üretmesi okulda gereksiz panik ve güvenlik müdahalesine yol açtı. Benzer yanlış alarmların Maryland ve Texas gibi farklı bölgelerde de yaşandığı belirtilmektedir.