Yapay zeka devi OpenAI, popüler sohbet botu ChatGPT için tartışma yaratan bir 'yetişkin modunu' hayata geçirmeyi planlıyor. Wall Street Journal'ın haberine göre, bu yeni özellik görsel pornografi yerine yalnızca metin tabanlı erotik sohbetlere odaklanacak.
GÖRSEL İÇERİK KESİNLİKLE YOK
OpenAI sözcüsünün belirttiğine göre, yeni sistemde görsel, sesli veya video üretimi kesinlikle desteklenmeyecek. Kullanıcılar sadece yetişkin temalı metin tabanlı sohbetler yapabilecek. Şirketin CEO'su Sam Altman, geçtiğimiz ekim ayında güvenlik kısıtlamalarını gevşeterek onaylanmış yetişkinler için böyle bir sistem getireceklerini duyurmuştu. Ancak bu çeyrekte çıkması beklenen özellik, öncelikli görevler ve çeşitli güvenlik endişeleri nedeniyle ileri bir tarihe ertelendi.
GÜVENLİK VE YAŞ DOĞRULAMA ENDİŞELERİ BÜYÜYOR
Bu ertelemenin temelinde, çocukları korumaya yönelik ciddi teknik ve etik zorluklar yatıyor. OpenAI'nin seçilmiş danışma kurulu, bu modun çocukların erişimine açık olabileceği ve sohbet botuna karşı sağlıksız bir duygusal bağımlılık yaratabileceği konusunda uyarıda bulunuyor. Hatta bir kurul üyesi, sistemin "seksi bir intihar koçu" yaratma riski taşıdığını belirtiyor. Geliştirilen yaş tahmin algoritmasının testlerde çocukları yüzde 12 oranında yetişkin olarak yanlış sınıflandırdığı ortaya çıktı. Her hafta 18 yaş altı yaklaşık 100 milyon kişinin ChatGPT kullandığı düşünüldüğünde, bu hata payı milyonlarca çocuğun cinsel içerikli sohbetlere erişmesine yol açabilir.
İÇERİK DENETİMİ VE YASAL STRATEJİLER
Geliştirici ekip, bir yandan yetişkin içerik (NSFW) kısıtlamalarını esnetirken diğer yandan çocuk istismarı ve rıza dışı senaryoları engellemek için yoğun çaba sarf ediyor. Sistemin sadece metin tabanlı kalması, markanın İngiltere'nin Çevrimiçi Güvenlik Yasası gibi katı kuralları daha kolay aşmasını sağlıyor. Bu yasalar görsel pornografide yaş doğrulaması şartı ararken, yazılı metinleri muaf tutuyor. Bu durum, Elon Musk'ın xAI şirketinin Grok yapay zekası ile görsel ve video üretimlerine açıkça izin vererek izlediği daha agresif stratejiden ayrışıyor. ChatGPT'nin yeni yetişkin modu hakkındaki düşüncelerinizi yorumlarda bizimle paylaşabilirsiniz.
