Teknoloji devi Microsoft, Windows 11 işletim sistemine entegre etmeyi planladığı deneysel yapay zeka özelliklerinin potansiyel riskleri hakkında dikkat çekici bir bildiri yayımladı. Şirketin hedefi, Windows'u kullanıcılar adına otonom işlemler gerçekleştirebilen bir "ajan işletim sistemi" (agentic OS) haline getirmek.
YAPAY ZEKA AJANLARI NE YAPACAK?
Bu yeni yapıda, aracı yapay zekalar kullanıcıların talimatları doğrultusunda çeşitli görevleri kendi başlarına yerine getirebilecek. Ancak Microsoft, yayımladığı bildiride bu özelliklerin henüz fonksiyonel sınırlamalara sahip olduğunu ve zaman zaman öngörülemeyen sonuçlar doğurabileceğini açıkça ifade etti. Bu durum, özellikle siber güvenlik açısından yeni ve büyük endişelere yol açıyor.
GÜVENLİK RİSKLERİ VE 'HALÜSİNASYON' DURUMU
Windows 11'in yapay zeka bileşenlerini içeren son sürümünü (Build 26220.7262) yükleyen kullanıcılar, Ayarlar menüsünde "AI Bileşenleri" altında deneysel olarak işaretlenmiş bir seçeneği görüyor. Bu özellik varsayılan olarak kapalı gelse de, kullanıcıların manuel olarak etkinleştirmesi durumunda sistem, bu fonksiyonların henüz deneme aşamasında olduğunu ve cihazı olumsuz etkileyebileceği yönünde bir uyarı veriyor. Uzmanlar, bu otonom ajanlara yönelik geliştirilen yeni saldırı tekniklerinin en büyük güvenlik tehdidini oluşturduğunu vurguluyor. Bu tekniklerden biri olan "çapraz istem enjeksiyonu"nda, kötü niyetli komutlar normal belgelerin veya arayüz öğelerinin içine gizleniyor ve yapay zeka ajanı bunları bir görev olarak algılayıp uyguluyor. Microsoft'un "halüsinasyon durumu" olarak tanımladığı bu senaryo, yapay zeka ajanlarının zararlı yazılım indirmesi, hassas ödeme bilgilerini sızdırması veya diğer tehlikeli eylemleri gerçekleştirmesi gibi ciddi riskleri beraberinde getiriyor. Microsoft, yapay zeka ajanlarının güvenli bir şekilde çalışması için denetlenebilir bir alan tahsis ettiğini ve tüm eylemlerin kaydedilip incelenebildiğini belirtiyor. Şirket bu sistemi Windows Sandbox'a benzetse de, ajanların oturumlar arasında dosya işlemlerine devam edebilmesi nedeniyle saldırı yüzeyinin önemli ölçüde genişlediği düşünülüyor.
