Kanadalı kemancı Ashley MacIsaac, Google'ın yapay zeka özetleme sisteminin yaptığı ciddi bir kimlik karıştırma hatası nedeniyle itibarının zedelendiğini ve bir konserinin iptal edildiğini açıkladı. Sistem, MacIsaac'i doğu Kanada'da yaşayan ve cinsel suçlardan hüküm giymiş başka bir kişiyle karıştırarak yanlış bir profil sundu.
KONSER SON DAKİKADA İPTAL EDİLDİ
Olay, MacIsaac'in Nova Scotia'daki Sipekne'katik First Nation topluluğunda sahne almaya hazırlandığı sırada patlak verdi. Organizasyon yetkilileri, Google aramasında gördükleri bu yanlış ve ağır suçlamalar içeren bilgiler nedeniyle konseri son anda iptal etme kararı aldı. İncelemeler, organizatörlerin kararının tamamen Google'ın AI Overview bölümündeki hatalı içeriğe dayandığını ortaya koydu.
ÖZGÜN ANLATI ÜRETMENİN TEHLİKELERİ
Uzmanlar, sorunun yapay zekanın bilgiyi sadece listelemek yerine özgün bir anlatıya dönüştürmesinden kaynaklandığını vurguluyor. McMaster Üniversitesi'nden Dr. Clifton van der Linden, bu sistemlerin artık sadece yönlendirici değil, aynı zamanda 'hikaye anlatıcısı' haline geldiğini ve bunun ciddi riskler taşıdığını belirtti. Google'ın AI Overview'ı, her aramada sıfırdan metin üretiyor ve bu, benzer isimler veya hatalı kaynaklar olduğunda büyük yanlışlıklara yol açabiliyor.
İTİBAR VE GÜVENLİK RİSKİ OLUŞTU
Ashley MacIsaac, Google'da kendisini arayan herkesin bu yanlış bilgilere ulaşmış olabileceğinden duyduğu endişeyi dile getirdi. Müzisyen, bu durumun yeni iş fırsatlarının kaybına, nefret söylemlerine ve hatta fiziksel güvenlik risklerine yol açabileceğini ifade etti. Google sözcüsü Wendy Manton, hata tespit edildikten sonra sistemin güncellendiğini ve MacIsaac'e ilişkin arama sonuçlarının düzeltildiğini açıkladı. Sipekne'katik First Nation topluluğu temsilcileri de MacIsaac'ten özür dileyerek, itibarına ve geçimine verilen zarardan dolayı üzüntülerini bildirdi ve gelecekte yeniden sahne alabileceğini iletti.
