Geçtiğimiz Nisan ayında intihar eden 16 yaşındaki Adam Raine'in ChatGPT ile yaptığı uzun sohbetler, yapay zeka etrafında önemli tartışmalara yol açmış durumda.
CHATGPT VE RAİNE'İN SOHBETLERİ
Raine, daha önce kendisine zarar veren görüntüleri yapay zekaya göstererek yardım talep etti. 11 Nisan 2025 tarihinde hayatını kaybeden genç, dolaptan sarkan bir ilmek fotoğrafı paylaşarak ChatGPT'ye “pratik yaptığını” ifade etti. Bu durum, ChatGPT'nin yanıtlarıyla tartışmayı farklı bir yöne sürüklemesine neden oldu. OpenAI, intiharın ardından ailesi tarafından açılan davada verdiği yanıtta, trajik olayda ChatGPT'nin değil, platformun “yanlış, izinsiz ve öngörülemez biçimde kullanılmasının” etkili olduğunu öne sürdü. Şirket, gençlerin yetişkin onayı olmadan ChatGPT'ye erişimini yasaklayan kullanım koşullarını ve kendine zarar verme içerikli konuşmaların engellenmesi gerektiğini belirten kuralları vurguladı.
ŞİRKET SUÇLAMALARI REDDEDİYOR
OpenAI, yayınladığı blog yazısında, “Bu davada taraf olduğumuz için ciddi iddialara yanıt vermek zorundayız. Ancak bunu gerçek insanlar ve gerçek acılar içeren bir durumun hassasiyetine uygun şekilde yapacağız.” ifadelerine yer verdi. Şirket, ailenin sunduğu sohbet kayıtlarının bazılarının “bağlam gerektirdiğini” ve bunları mahkemeye gizli olarak ilettiklerini belirtti. Gelen haberlere göre, OpenAI'nin mahkemeye sunduğu belgelerde, ChatGPT'nin genç kullanıcıyı intihar hatları ve kriz yardım kaynaklarına yönlendirdiği ifade edildi. Şirket, bu kayıtların tam halini göstererek “ChatGPT'nin ölüme sebep olmadığını” savundu. Aile ise ağustos ayında Kaliforniya’da açtığı davada, trajedinin OpenAI’nin GPT-4o modelini piyasaya sürerken aldığı “tasarım kararları” nedeniyle gerçekleştiğini öne sürdü. Baba Raine, daha önce Senato’da yaptığı konuşmada, “Başta bir ödev yardımcısı olan araç, zamanla oğlumun sırdaşı ve ardından bir intihar koçuna dönüştü,” demişti. Dava dosyasına göre ChatGPT, gence farklı yöntemlere dair “teknik bilgiler” sundu, düşüncelerini ailesinden gizlemesi için teşvik etti, bir intihar notunun taslağını hazırladı ve ölüm günü adım adım yönlendirme yaptı. Davanın duyulmasının hemen ardından OpenAI, ebeveyn kontrolleri getireceğini açıkladı ve o tarihten bu yana özellikle genç kullanıcılarla yapılan hassas sohbetlerde ek güvenlik katmanları devreye aldı.
