Microsoft uyardı: Otonom ajanlar içeriden tehdit sayılacak

Otonom yapay zeka ajanları neden içeriden tehdit görülüyor?

Otonom yapay zeka sistemleri şirket içi işleri yürütebilmek için geniş yetkilere ihtiyaç duyuyor; bu durum en küçük halüsinasyon veya dış müdahaleyi doğrudan bir güvenlik açığına dönüştürüyor.

Microsoft Kimlik ve Ağ Erişiminden Sorumlu Başkan Yardımcısı Nadim Abdo, şirket blogunda paylaştığı değerlendirmede temel sorunu net bir şekilde ortaya koydu: Olasılıksal mantıkla çalışan bir modele şirket araçlarına doğrudan kök erişimi vermek, kurum içinde istem dışı bir köstebek yaratmakla eşdeğer. Microsoft bu yeni riski doğrudan "ajan kaynaklı içeriden tehdit" (agentic insider) olarak tanımlıyor.

Satya Nadella'nın da işaret ettiği bu mimari ayrım, ham yapay zeka gücü sağlayan sistem ile bu zekanın hangi yetkileri kullanabileceğini belirleyen denetim mekanizmasının kesin çizgilerle ayrılmasını şart koşuyor. Bir modelin kendi kendini denetlemesi mümkün değil; zira sistem istemlerine veya ağırlıklarına eklenen filtreler manipülasyona ve saldırılara açık kalıyor.

Sektör genelinde üretken sistemlerin yol açtığı zafiyetler zaten ciddi bir baş ağrısı yaratmış durumda. Nitekim bağımsız araştırmalar da yapay zekanın yazdığı kodların %44'ü güvenlik testinden kaldı sonucunu ortaya koymuştu. Harici bir gözetim olmadan şirket sunucularında işlem yapan modeller, ufak bir komut hatasını saniyeler içinde devasa bir operasyonel krize dönüştürebilir.

Botlara karşı yapay zeka bekçileri: Guardian Agents

İnsan analistlerin işlemci hızında gerçekleşen otonom komutları gerçek zamanlı yakalaması imkansız. Microsoft bu sorunu aşmak için savunma katmanına doğrudan bağlı çalışan Guardian Agents sistemini geliştirdi.

Bu yapı, dijital savunmayı açıkları arayan kırmızı, tehditleri inceleyen mavi ve sistemleri yamayan yeşil ajanlar olarak bölen Project Perception projesine dayanıyor. Guardian Agents, Microsoft Agent 365 ve Entra altyapısıyla entegre çalışarak otonom botların yetkilerini sürekli sınıyor ve rotadan sapan ajanların yetkisini anında geri alıyor.

• Kimlik ve Keşif: Uç noktalarda koşan ajanların haritası çıkarılıyor; Claude Code, OpenAI Codex ve GitHub Copilot dahil 35 yerel çatı izleniyor.
• Dinamik İzinler: Botlara yalnızca yapacağı işe özel, görevin bitişiyle beraber süresi dolan anlık sistem erişimleri atanıyor.
• Koşullu Erişim: Şüpheli davranış sergileyen ajanların bant genişliği anında kısıtlanıyor, gerekirse insan onayı şart koşuluyor veya bot tamamen izole ediliyor.

Türkiye'de durum ne?

Microsoft'un yeni Guardian Agents korumaları, genişletilmiş Entra Agent ID desteği ve Claude Code gibi harici araçları tarayan keşif sensörleri, Microsoft 365 kurumsal yönetim panelleri üzerinden küresel ölçekte kademeli olarak dağıtılıyor. Türkiye'deki kurumsal müşteriler de mevcut Microsoft Entra ve Defender lisansları kapsamında bu güncellemeleri önümüzdeki dağıtım takviminde yönetim panellerinde görmeye başlayacak.

Özellikle Türk şirketlerinde yazılım geliştirme ekiplerinin yerel ajanları hızla iş akışlarına dahil ettiği bir dönemde, bu kontroller üçüncü taraf araçların kontrolsüzce şirket veritabanlarına erişmesini sınırlandırmak açısından doğrudan uygulanabilir hale gelecek.

Büyük dil modellerinin yanına koruma niyetine ayrı denetçi botlar koymak zorunda kalmamız, yerleşik yapay zeka güvenliği illüzyonunun bittiğini gösteriyor. Kendi kendine kod yazıp sunucu yöneten yazılımlara potansiyel birer şirket içi casus gibi yaklaşmak abartılı görünebilir ama kurumsal BT güvenliğinin yeni asgari standardı artık tam olarak bu.