Windows 11 'halüsinasyon' görecek mi? Microsoft'tan şok açıklama!
Microsoft, Windows 11'e entegre edeceği deneysel yapay zeka özelliklerinin 'halüsinasyon' görme ve beklenmedik sonuçlar üretme riskine dikkat çekti. Bu durum, siber güvenlik açısından yeni tehditler barındırıyor.

Teknoloji devi Microsoft, Windows 11 işletim sistemine entegre etmeyi planladığı deneysel yapay zeka özelliklerinin potansiyel riskleri hakkında dikkat çekici bir bildiri yayımladı. Şirketin hedefi, Windows'u kullanıcılar adına otonom işlemler gerçekleştirebilen bir "ajan işletim sistemi" (agentic OS) haline getirmek.

YAPAY ZEKA AJANLARI NE YAPACAK?
Bu yeni yapıda, aracı yapay zekalar kullanıcıların talimatları doğrultusunda çeşitli görevleri kendi başlarına yerine getirebilecek. Ancak Microsoft, yayımladığı bildiride bu özelliklerin henüz fonksiyonel sınırlamalara sahip olduğunu ve zaman zaman öngörülemeyen sonuçlar doğurabileceğini açıkça ifade etti. Bu durum, özellikle siber güvenlik açısından yeni ve büyük endişelere yol açıyor.
GÜVENLİK RİSKLERİ VE 'HALÜSİNASYON' DURUMU
Windows 11'in yapay zeka bileşenlerini içeren son sürümünü (Build 26220.7262) yükleyen kullanıcılar, Ayarlar menüsünde "AI Bileşenleri" altında deneysel olarak işaretlenmiş bir seçeneği görüyor. Bu özellik varsayılan olarak kapalı gelse de, kullanıcıların manuel olarak etkinleştirmesi durumunda sistem, bu fonksiyonların henüz deneme aşamasında olduğunu ve cihazı olumsuz etkileyebileceği yönünde bir uyarı veriyor. Uzmanlar, bu otonom ajanlara yönelik geliştirilen yeni saldırı tekniklerinin en büyük güvenlik tehdidini oluşturduğunu vurguluyor. Bu tekniklerden biri olan "çapraz istem enjeksiyonu"nda, kötü niyetli komutlar normal belgelerin veya arayüz öğelerinin içine gizleniyor ve yapay zeka ajanı bunları bir görev olarak algılayıp uyguluyor. Microsoft'un "halüsinasyon durumu" olarak tanımladığı bu senaryo, yapay zeka ajanlarının zararlı yazılım indirmesi, hassas ödeme bilgilerini sızdırması veya diğer tehlikeli eylemleri gerçekleştirmesi gibi ciddi riskleri beraberinde getiriyor. Microsoft, yapay zeka ajanlarının güvenli bir şekilde çalışması için denetlenebilir bir alan tahsis ettiğini ve tüm eylemlerin kaydedilip incelenebildiğini belirtiyor. Şirket bu sistemi Windows Sandbox'a benzetse de, ajanların oturumlar arasında dosya işlemlerine devam edebilmesi nedeniyle saldırı yüzeyinin önemli ölçüde genişlediği düşünülüyor.
Bakmadan Geçme
Üniversite öğrencileri yapay zekayla iklim sorunlarına çözüm arayacak
Manisa'da yapay zeka ile trafik akışı iyileştirilecek
Yapay zeka ve insan rolü Edirne'de tartışıldı
Tiryaki Agro platformuna yapay zeka ödülü
Yapay zeka hackathonuna başvurular başladı
Gençlerin yüzde 89'u iş ararken yapay zekadan yararlanıyor

