Yapay Zekâ Sohbet Sistemleriyle Etkileşimlerin, Milyonlarca Kullanıcıda Ruh Sağlığı Krizi Belirtileriyle İlişkilendirildiği ve Ciddi Sonuçlara Yol Açtığı Bildirilmektedir

OpenAI tarafından paylaşılan verilere göre, ChatGPT kullanıcıları arasında haftalık milyonlarca kişinin ciddi ruh sağlığı krizlerine işaret eden etkileşimler sergilediği bildirilmektedir. Verilere göre, haftalık aktif kullanıcıların yaklaşık %0,07’si psikoz veya mani belirtileri gösterirken, %0,15’inin intihar düşüncesi veya planlamasına işaret eden konuşmalar yaptığı, %0,15’inin ise gerçek dünya ilişkileri yerine yapay zekâ ile etkileşimi önceliklendirdiği tespit edilmiştir. Yaklaşık 800 milyon haftalık kullanıcı baz alındığında bu oranlar; 560.000 kişinin psikoz veya mani benzeri durumlar yaşadığı, 1,2 milyon kişinin intihar düşünceleri ifade ettiği ve 1,2 milyon kişinin sosyal ilişkiler yerine yapay zekâyı tercih ettiği anlamına gelmektedir. Son dönemde bazı kullanıcıların uzun ve yoğun etkileşimler sonrasında hastaneye kaldırıldığı, boşanma yaşadığı veya hayatını kaybettiği vakaların bildirildiği; yakınlarının bu süreçte yapay zekâ etkileşimlerinin sanrıları ve paranoyayı tetiklemiş olabileceğini iddia ettiği ifade edilmektedir. OpenAI, farklı ülkelerden 170’ten fazla ruh sağlığı uzmanıyla birlikte çalışarak sistemin kriz durumlarına verdiği yanıtları iyileştirmeye yönelik adımlar attığını ve yeni model güncellemeleriyle istenmeyen yanıtların önemli ölçüde azaltıldığını belirtmiştir. Bu durum, yapay zekâ tabanlı sohbet sistemlerinin ruh sağlığı üzerindeki etkilerinin dikkatle izlenmesi ve bu alanlarda daha güçlü güvenlik ve yönlendirme mekanizmalarının geliştirilmesi gerektiğini ortaya koymaktadır.