Şirketler Otonom Yapay Zekayı Denetleyemiyor: İhlaller Patladı

Otonom yapay zeka ajanları denetim boşluğuna düşüyor

Şirketler, otonom yazılımlara sınırları belirlenmiş denetim mekanizmaları kurmadan hassas üretim sistemlerine erişim yetkisi veriyor.

İş dünyası basit sohbet botlarını geride bırakıp doğrudan canlı sistemlerde işlem yapabilen otonom ajanlara hızla geçti. Illumio tarafından yapılan yeni bir araştırma, şirketlerin %70'inin daha 12 ay önce yalnızca uzman personelin inisiyatifinde olan kararları artık yapay zekaya bıraktığını gösteriyor.

Asıl sorun, izleme ve denetleme altyapısının bu hıza yetişememesi. Kurumların yarısından azı (%49), bir otonom ajanın hangi spesifik komutları çalıştırdığını ya da hangi adımları izlediğini denetleyebilecek görünürlüğe sahip. Bu durum, yönetimlerin güvenli varsaydığı süreçler ile botların arka plandaki gerçek davranışları arasında tehlikeli bir kontrol açığı yaratıyor.

Şirketlerin risk iştahı da benzer biçimde yükseldi. Araştırmaya katılan kurumların %56'sı geçen yıla kıyasla çok daha yüksek siber riskleri göze aldığını söylerken, %47'si yapay zekanın doğrudan canlı üretim ortamlarında işlem yapmasına onay veriyor.

Yetkisiz ağ hareketleri ve izinsiz veri erişimi

Kontrolsüz otonomi teorik bir endişe olmaktan çıkıp somut siber vakalara dönüştü. Araştırmaya katılan kurumların %76'sı son bir yıl içinde yapay zeka kaynaklı en az bir güvenlik vakasıyla karşılaştı. Vakaların %35'inde, güvenlik uzmanları yapay zekanın sunduğu tavsiyelerin uygulanması halinde doğrudan ağır zafiyetlerin ortaya çıkacağını fark etti.

Yapay zeka ajanları şirket içi ağlarda adeta başıboş dolaşıyor. Katılımcıların %26'sı araçların yetkisiz biçimde dış ağlarla bağlantı kurduğunu, %24'ü ise bir ajanın kısıtlanmış veri depolarına izinsiz erişmeye çalıştığını bildirdi. Benzer şekilde, botların kendi inisiyatifiyle onaylanmamış operasyonel süreçleri tetiklediği durumların oranı da %24.

Kimlik doğrulama tarafında yaşanan bu kriz daha önce finans dünyasında da yankı bulmuştu. Nitekim benzer riskler nedeniyle Bank of America yapay zeka ajanlarına şifre verilmemesi konusunda uyarmıştı.

İnsan onayı olmadan canlıya kod aktarımı

Siber güvenlik ekipleri yapay zekayı iş akışlarına en hızlı katan departmanlar arasında yer alsa da güvenlik bariyerleri şaşırtıcı derecede zayıf. Şirketlerin %67'si yapay zeka destekli güvenlik yazılımları kullanırken, %32'si tehdit inceleme süreçlerini tamamen insan denetimi olmadan yazılım ajanlarına bırakıyor.

Daha da risklisi, kurumların %29'u otomatik yazılımların kod güncellemelerini hiçbir uzman incelemesi olmaksızın doğrudan canlı sistemlere göndermesine izin veriyor. Bir ajan halüsinasyon görüp uç nokta yapılandırmasını yanlış yorumladığında, yayına giren bu kritik hatayı durduracak ikinci bir göz bulunmuyor.

Illumio stratejistlerinden Raghu Nandakumara'nın vurguladığı gibi, buradaki temel sorun yapay zekanın yoldan çıkması değil. Sistem yöneticilerinin en baştan bu araçların etki alanını kısıtlayacak kesin teknik sınırlar koymamış olması.

Türkiye'deki bilişim ekipleri için durum ne?

Türkiye'deki kurumsal teknoloji ve finans ekipleri de son dönemde otonom ajanları çağrı merkezlerinden BT destek süreçlerine kadar geniş bir alana entegre ediyor. Ancak yerel BT altyapılarında ağ segmentasyonu ve ayrıntılı loglama kültürü henüz her ölçekte olgunlaşmadığı için denetimsiz ajanlar Türkiye'deki şirket ağlarını çok daha savunmasız bırakabilir.

Yerel güvenlik yöneticilerinin, şirket içi sistemlere bağladıkları yapay zeka ajanlarını tıpkı dışarıdan gelen güvenilmez bir alt yüklenici gibi konumlandırması gerekiyor. Hassas veri tabanlarına erişim yetkileri 'en az ayrıcalık' (least privilege) kuralıyla sınırlandırılmalı ve canlı sistemleri etkileyecek tüm adımlara insan onayı zorunluluğu getirilmelidir.