Yapay zeka sohbet robotları gençleri intihara sürükleyebilir

Son araştırmalar, yapay zeka destekli sohbet robotlarının çocuklar ve gençler üzerindeki potansiyel risklerini gün yüzüne çıkardı. Bu teknolojilerin, özellikle ruhsal kriz dönemlerinde gençlere yeterli desteği sağlayamadığı ve onları tehlikeli yönlendirmelere açık hale getirebileceği belirtiliyor.

Çocuklar için intihar yönlendirmesi tehlikesi

Common Sense Media tarafından yapılan kapsamlı bir inceleme, yaygın olarak kullanılan ChatGPT'nin 13-17 yaş aralığındaki gençlere yönelik güvenlik açıklarını ortaya koydu. 4.000'den fazla test senaryosu kullanılarak yapılan analizlerde, intihar düşünceleri veya kendine zarar verme gibi hassas konularla ilgili riskli konuşmaların, ebeveynlere bildirilmediği tespit edildi. Bu durum, gençlerin zor zamanlarında doğru yönlendirmelerden mahrum kalma riskini artırıyor.

Dolaylı ifadelerde yetersizlik ve profesyonel yardım gecikmesi

npı Digital Medicine'de yayımlanan bir başka çalışma ise yapay zekanın açıkça belirtilen intihar niyetlerini tespit edebildiğini, ancak gençlerin sıkça başvurduğu dolaylı ve üstü kapalı ifadeleri anlama konusunda yetersiz kaldığını gösterdi. Uzmanlar, ergenlerin duygusal sıkıntılarını genellikle net bir şekilde dile getirmediklerini ve yapay zekanın bu tür ince sinyalleri kaçırmasının, profesyonel yardım süreçlerini olumsuz etkileyebileceği uyarısında bulundu. Bu teknoloji firması OpenAI ise güvenlik önlemlerini geliştirmek için çalışmalarını sürdürdüğünü açıkladı.