IBM: Şirketlerin %80'i Yapay Zeka Olayı Yaşadı, Kural Değişmiyor

Yapay zeka yönetişim boşluğu nedir ve neden büyüyor?

Yapay zeka yönetişim boşluğu, şirketlerin yapay zekayı devreye alma hızı ile bu teknolojiyi denetleyen kuralları güncelleme hızı arasındaki açıklıktır. IBM araştırmasına göre EMEA liderlerinin %80'i bir yapay zeka olayının yönetim kuruluna ulaştığını gördü, ancak yalnızca %40'ı yönetişimi değiştirmeyi planlıyor.

IBM, Avrupa, Orta Doğu ve Afrika (EMEA) genelinde 3.000'den fazla iş lideriyle anket yaptı. Katılımcıların beşte dördü son bir yılda bir yapay zeka ajanı arızası, veri sızıntısı, yapay zeka kaynaklı karar hatası veya güvenlik ihlalinin yönetim kuruluna ya da üst yönetime ulaştığını belirtti.

Buna rağmen bu şirketlerin yarısından azı olaylara yanıt olarak yapay zeka yönetişim politikasını veya çerçevesini değiştireceğini söyledi. Ortaya çıkan tablo, her ölçekten işletmede farkındalık ile eylem arasında giderek açılan bir boşluk.

Baskı artıyor çünkü yapay zeka artık yalnızca yardımcı değil, aktör konumunda. Katılımcıların dörtte üçü 2027'ye kadar yapay zeka ajanlarının bir düzeyde karar alma otonomisi kazanmasını bekliyor; ancak yalnızca %37'si mevcut yönetişiminin agentic AI ölçeğine uyum sağlayacak şekilde tasarlandığına inanıyor.

• %80: Son bir yılda yapay zeka olayının yönetim kuruluna ulaştığını gören liderler
• %40: Olaylara yanıt olarak yapay zeka yönetişimini değiştirecek şirketler
• %75: 2027'ye kadar otonom yapay zeka ajanı bekleyen liderler
• %37: Yönetişiminin agentic AI ölçeğine uyum sağlayacağına inanan liderler

Yapay zeka ajanı hata yaptığında sorumluluk kimde olmalı?

İş liderleri, bir yapay zeka ajanı başarısız olduğunda yasal sorumluluğun kimde olacağı konusunda bölünmüş durumda. IBM araştırmasına göre en yaygın koruma önlemi %33 ile sözleşmeye dayalı tedarikçi sorumluluğu; onu %32 ile insan devreye girme eşikleri ve %30 ile gerçek zamanlı izleme izliyor.

Ankete katılan yöneticilerin neredeyse tamamı (%98) yapay zeka riski sorumluluğunu yönetim kurulu düzeyinde resmen atamış durumda; %26'sında özel bir yönetim kurulu yapay zeka komitesi bulunuyor. Farkındalık açıkça mevcut, ancak hesap verebilirlik henüz netleşmiş değil.

Liderlere yapay zeka ajanı arızalarını karşılamak için ne inşa ettikleri sorulduğunda; tedarikçi sorumluluğunu tanımlayan resmi yasal veya sözleşmesel çerçeveler (%33), tanımlı insan devreye girme eşikleri (%32), gerçek zamanlı izleme ve denetim kayıtları (%30) ile ajan faaliyetini kurum genelinde anında durdurma yeteneği (%29) öne çıktı.

Bu oranlar genel olarak düşük. Şirketlerin üçte birinden azı herhangi bir tek kontrolü devreye almış durumda; bu da çoğu yapay zeka ajanının net bir sorumluluk zinciri veya güvenilir bir acil durdurma anahtarı olmadan çalıştığı anlamına geliyor. Acil durdurma anahtarının eksikliği ciddi bir risk: bir yapay zeka ajanı İsveç'te bir TV dizisinin tüm sezonunu sildiğinde bunun ne anlama geldiği görüldü.

1. Yapay zeka tedarikçisi arızaları için sözleşmesel sorumluluk tanımlayın
2. Ajan kararları için insan devreye girme eşikleri belirleyin
3. Gerçek zamanlı izleme ve denetim kayıtlarını devreye alın
4. Kurum genelinde anında durdurma yeteneği kurun

Yapay zeka yönetişimi neden artık bir uyumluluk işi değil, iş gereksinimi?

IBM'e göre yönetişim bir değer yaratıcısı haline geldi; çünkü yapay zekayı hesap verebilirlik ve güvenle ölçekleyen kurumlar en büyük iş değerini elde edecek. Yönetişimin ajanların çalışma biçimine net sınırlar, net sahiplik ve gerçek zamanlı kontrollerle yerleştirilmesi gerekiyor.

IBM Kıdemli Başkan Yardımcısı ve EMEA ile APAC Yönetim Kurulu Başkanı Ana Paula Assis, yapay zeka tartışmasının benimsemeden yönetişim ve hesap verebilirliğe kaydığını söyledi. Assis'e göre yönetişim artık bir uyumluluk egzersizi olarak görülemez.

Assis, yapay zekayı hesap verebilirlik ve güvenle ölçekleyen kurumların en büyük iş değerini elde edeceğini belirtti. Bunun ön koşulu ise ajanların neler yapabileceğine dair net sınırlar, işler ters gittiğinde net sahiplik ve gerçek zamanlı çalışan kontroller.

Araştırma, çoğu kurumun ilk katmanı — yönetim kurulu düzeyinde sahipliği — kurduğunu, ancak yönetişimi gerçek kılan operasyonel katmanları kurmadığını gösteriyor. Bu katmanlar olmadan yönetim kuruluna ulaşan bir yapay zeka olayının tekrarlanması kaçınılmaz.

Otonom yapay zeka ajanlarını devreye almadan önce İngiliz şirketler ne yapmalı?

İngiliz şirketler yapay zeka ajanı yönetişimini sonradan eklenen bir adım değil, ön koşul olarak ele almalı. IBM verileri; yönetim kurulu düzeyinde komite, sözleşmesel sorumluluk maddeleri, devreye girme eşikleri, denetim kayıtları ve test edilmiş durdurma yeteneğiyle başlamayı öneriyor.

İlk adım, yapay zeka riskini yönetim kurulu düzeyinde kimin sahipleneceğini netleştirmek. IBM, kurumların %98'inin bunu yaptığını buldu; yani çoğu İngiliz şirketinin elinde bir başlangıç noktası var. Zor olan kısım, bu sahipliği uygulanabilir kontrollere dönüştürmek.

İkinci adım, ajanlar devreye girmeden önce sorumluluğu tedarikçi sözleşmelerine yazmak. Liderlerin yalnızca üçte biri bunu yapmış durumda; bu da bir ajan maliyetli veya zararlı bir karar verdiğinde şirketleri açıkta bırakıyor.

Üçüncü adım, acil durdurma anahtarını test etmek. Gerçek zamanlı izleme, denetim kayıtları ve kurum genelinde durdurma yeteneği, otonomisi olan her ajan için asgari kontroller. IBM'in bulguları çoğu İngiliz şirketinin bu noktada olmadığını gösteriyor.

1. Yapay zeka riskinin yönetim kurulu düzeyindeki sahipliğini netleştirin
2. Yapay zeka sözleşmelerine tedarikçi sorumluluk maddeleri ekleyin
3. Ajan kararları için insan devreye girme eşikleri belirleyin
4. Gerçek zamanlı izleme ve denetim kayıtlarını açın
5. Kurum genelinde durdurma yeteneğini test edin

Sonuç

IBM araştırması, İngiltere ve EMEA'daki şirketlerin yapay zekaya hevesli olduğunu ama riskin sahibi konusunda tehlikeli biçimde bölündüğünü gösteriyor. Olayların %80 oranında yönetime ulaşmasına karşın yönetişimin yalnızca %40 oranında değişmesi, denetim boşluğunun gerçek olduğunu kanıtlıyor. İngiliz liderler için sıradaki adım, 2027'de otonom ajanlar gelmeden önce yönetim kurulu sahipliğini test edilmiş kontrollere dönüştürmek: sorumluluk maddeleri, devreye girme eşikleri, denetim kayıtları ve çalışan bir acil durdurma anahtarı.