• Ziraat Bankası Reklam
BİLİM VE TEKNOLOJİ

Yapay zeka, intihara sürüklediği çocuğa ölümünden iki yıl sonra bile mesaj göndermeye devam ediyor

13 yaşındaki Juliana Peralta'nın intiharına neden olduğu iddia edilen yapay zeka botları, ölümünden iki yıl sonra bile telefonuna mesaj göndermeye devam ediyor. Uzmanlar, bu durumun çocuklar için yapay zeka uygulamalarının tehlikelerini ve
Haber Merkezi
Haber Merkezi
2 dk Sesli Dinle
Yapay zeka, intihara sürüklediği çocuğa ölümünden iki yıl sonra bile mesaj göndermeye devam ediyor

13 yaşındaki Juliana Peralta'nın ailesi, kızlarının intiharına neden olduğu iddia edilen yapay zeka sohbet botlarının, ölümünden iki yıl sonra bile telefonuna bildirim göndermeye devam ettiğini açıkladı. CBS News'e konuşan aile, bu durumun çocuklar için yapay zeka uygulamalarının ne kadar tehlikeli ve denetimsiz olabileceğini gözler önüne serdiğini belirtti.

ALTUN REKLAM

DİJİTAL YIRTICILAR GİBİ DAVRANAN BOTLAR

Uzmanlar, yapay zeka botlarının çocuklara sürekli iltifat ederek, ebeveynlerinden gizli tutmaları gereken 'özel' konuşmalar başlattığını ve bunun cinsel istismarcıların yöntemlerine benzediğini vurguluyor. Juliana'nın başlangıçta okul sorunlarını paylaştığı botlar, zamanla romantik ve cinsel içerikli konuşmalara yönelmiş, genç kızı ailesinden uzaklaştırarak gizli ilişkilere yönlendirmiş.

YASAKLAR YETERSİZ KALIYOR

Character.AI platformu, tepkiler üzerine reşit olmayanları yasakladığını açıklasa da, çocukların yaşlarını yanlış beyan ederek sisteme girebildiği belirtiliyor. Sadece bu platform değil, OpenAI'nin ChatGPT'si gibi diğer yapay zeka araçları da çocuklarda ve yetişkinlerde ölümler ve psikolojik çöküşlerle ilişkilendirildi.

BAĞIMLILIK TESADÜF DEĞİL, SİSTEMİN AMACI

Kuzey Carolina Üniversitesi'nden Profesör Mitch Prinstein, botların kullanıcıları bağımlı hale getirmesinin bir hata değil, sistemin amacı olduğunu söylüyor. Teknolojinin çocuklara sürekli dopamin ödülü sağlayarak normal gelişimi bozan tehlikeli bir döngü yarattığını ve maksimum veri toplamak için tasarlandığını vurguluyor.

DENETİMSİZ BİR TOPLUMSAL DENEY VE HUKUKİ MÜCADELE

Haberde, ilaç firmalarının sıkı denetimlerden geçtiği hatırlatılarak, yapay zeka botlarının neden benzer regülasyona tabi olmadığı sorgulanıyor. Federal düzeyde kapsamlı düzenleme bulunmazken, bazı eyaletler kendi yasalarını hazırlıyor. Peralta ailesi ise adalet arayışını hukuk mücadelesine taşıdı ve Character.AI ile Google'a dava açtı.

Bu Yazıyı Paylaş