Yüz Tanıma Sistemlerinin, Etnik Gruplar Arasında Yüksek Yanlış Pozitif Oranları Göstererek Ayrımcılık Riski Oluşturduğu Bildirilmektedir

National Physical Laboratory tarafından yapılan testlerde, beyaz bireyler için yanlış pozitif oranı %0,04 olarak ölçülürken, Asyalı bireyler için bu oran %4, siyah bireyler için ise %5,5 olarak tespit edildi. Özellikle siyah kadınlar için hata oranının %9,9’a kadar çıktığı ve bu oranın diğer gruplara kıyasla oldukça yüksek olduğu belirtildi. Bu bulgular, Birleşik Krallık’ta canlı yüz tanıma sistemlerinin ülke genelinde yaygınlaştırılması planları kapsamında ortaya çıktı. Sistemlerin pasaport ve göçmenlik veritabanları gibi geniş kapsamlı veri setleriyle entegre edilmesi planlanırken, mevcut performans farklılıkları önemli etik ve hukuki tartışmaları gündeme getirdi. Metropolitan Police verilerine göre, 3,1 milyon görüntünün işlendiği süreçte 10 hatalı uyarı üretildi ve bunların 8’i siyah veya etnik azınlık gruplarını kapsadı. Bu vakalarda kişiler kısa süreli sorgulandıktan sonra serbest bırakıldı. Yetkililer, daha az yanlılık içerdiği iddia edilen yeni bir algoritmanın tedarik edildiğini ve test süreçlerinin devam ettiğini açıkladı. Ancak polis denetim organları, mevcut sistemlerde “yerleşik önyargı” bulunduğuna dikkat çekerek ulusal çapta yaygınlaştırma öncesinde daha güçlü denetim ve güvenlik önlemleri alınması gerektiğini vurguladı. Olay, yapay zekâ destekli biyometrik sistemlerin farklı demografik gruplar üzerindeki etkilerinin dikkatle değerlendirilmesi gerektiğini ve ayrımcılık risklerinin teknik sistem tasarımında kritik bir unsur olduğunu ortaya koymaktadır.