Huang: OpenClaw Robotları 'Sıfır Güven' Olmadan Piyasaya Çıkmamalı

Jensen Huang Londra etkinliğinde OpenClaw hakkında ne söyledi?

Jensen Huang, OpenClaw'ı şimdiye kadar yapılmış en önemli modellerden biri olarak niteledi ve yapay zekanın gerçekten işe yarar hale geldiği bir kırılma noktası olduğunu söyledi. Londra'daki 'Build a claw' etkinliğinde OpenClaw'ı ilk inandırıcı ajan koşum takımı ve insansı robotik için büyük bir adım olarak tanımladı.

Huang, ajanların artık kodlama asistanı, pazarlama yardımcısı, araştırma asistanı ve laboratuvar asistanı olarak çalıştığı bir dünyayı anlattı. Bilim insanlarının ilaç keşfinde, mühendislerin deneylerde bu sistemleri kullandığını belirterek 'ajanlar artık her yerde' dedi.

Nvidia CEO'su, OpenClaw'ın en çok robotik alanında fark yaratabileceğini vurguladı. Nvidia ortağı Humanoid'in ürettiği bir robotu fark eden Huang, OpenClaw'ı bir tür dijital robotik sistem olarak tanımladı: büyük bir dil modelinin fiziksel koşum takımı; motorlar, eklemler, tekerlekler ve kollar bilgisayarın içindeki ajanın kullandığı araçlar.

Bu çerçeve zekayı gövdeden ayırıyor. Ajan beyin, robot gövdeyse, ajanı geliştirmek onu çalıştıran her robotu geliştirir. Huang'ın OpenClaw'ı tek bir ürün değil altyapı olarak görmesinin nedeni bu.

Huang ajan yapay zekayı neden ilk internet yıllarına benzetiyor?

Huang, bugünkü ajan sistemlerin tarayıcının bilgisayardan izole olmadığı ilk internet yıllarına benzediğini söyledi. O dönemde bir siteyi ziyaret etmek, makinenin tüm kontrolünü alan bir uygulama indirebiliyordu. Ajanlar aynı riski çok daha büyük ölçekte yaratıyor.

Karşılaştırma bilinçli. 1990'larda web'in faydası güvenlik modelinden hızlı geldi ve sektör yıllarca kum havuzları, izinler ve sisteme dokunamayan tarayıcılarla açığı kapatmaya çalıştı. Huang, ajan yapay zekanın tam da o korumasız aşamada olduğunu savunuyor.

Fark, ajanın erişebildiği alanda. Kötü niyetli bir web sitesi tek bir bilgisayara zarar verebilirdi. Geniş yetkili otonom bir ajan bulut hesapları, iç araçlar ve robotik söz konusu olduğunda fiziksel makineler üzerinde işlem yapabilir. Bu yüzden Huang izolasyon katmanının sonradan eklenmek yerine baştan tasarlanması gerektiğini söylüyor.

OpenShell nedir ve yapay zeka ajanlarını nasıl güvenli hale getiriyor?

OpenShell, Nvidia'nın ajan sistemler için geliştirdiği izolasyon katmanı; Huang bunu işletim sistemi içinde başka bir işletim sistemi olarak tanımlıyor. Ajanı doğrudan donanıma dokunamayacak şekilde kapsıyor, böylece üretime geçmeden önce sınırlı haklar verilip davranış izlenebiliyor.

Huang otonom sistemler için dört maddelik dağıtım kuralı koydu: sıfır güven, minimum yetki, sürekli izleme ve donanımdan ayrılmış bir izolasyon katmanı içinde kapsama. Omlet benzetmesinde, kahvaltı yapması istenen bir ajana testere değil tava gerektiğini söyledi.

Bir robot ya da ajan kendisine verilen yetkileri ihlal etmeye başlarsa sistem durumu bir insana bildiriyor ve o kişi kapatıp kapatmayacağına karar veriyor. Huang, otonom sistemler beklenmedik davrandığında ne olacağı sorusunun pratik yanıtı olarak bu yükseltme yolunu gösterdi.

Yaklaşım, sektörün yönetilen ajanlara yönelik genel eğilimiyle örtüşüyor. Kurumsal ekipler ajan iş akışlarının ancak izinler ve denetim kayıtları baştan tanımlandığında ölçeklendiğini görüyor; bu tema MCP'nin fatura maliyetini nasıl düşürdüğünde ve IBM'in yapay zeka yönetişim boşluğu bulgularında karşımıza çıkıyor.

1. İlk kod satırından itibaren sıfır güven varsay.
2. Ajana sadece o göreve özel minimum yetki ver.
3. Politika ihlallerini sürekli izle.
4. Ajanı donanımdan ayrılmış bir izolasyon katmanında kapsa.
5. İhlalleri, sistemi kapatabilecek bir insana bildir.

Bu yaklaşım insansı robotlar ve robotik sektörü için ne anlama geliyor?

Huang'ın mesajı şu: insansı robotlar ancak ajan yazılımı güvenli dağıtılırsa potansiyeline ulaşır. OpenClaw robotlara yetenekli bir beyin veriyor; OpenShell ve katı yetki sınırları bu beynin talimatların dışına çıkmasını engelliyor. Nvidia'nın robotik patlaması için öne sürdüğü koşul bu.

En yüksek risk robotikte çünkü yazılım hataları fiziksel olaylara dönüşebiliyor. Sınırı aşan bir kodlama ajanı hesaplama harcar; sınırı aşan bir robot birine zarar verebilir veya ekipmanı bozabilir. Bu asimetri, Huang'ın konuşmasının bu kadar büyük bölümünü yetenek yerine kapsamaya ayırmasını açıklıyor.

Nvidia'nın pozisyonu aynı zamanda stratejik. Hem ajan koşum takımını hem güvenlik katmanını sağlayarak otonom makine geliştiren herkes için varsayılan platform olmak istiyor. Aynı mantık, güç verimliliğinin yapay zeka ölçeklenmesinde darboğaz haline geldiği veri merkezi işlerini de yönlendiriyor; bu konuyu Nvidia'nın güç israfı sorunu ve Vertiv anlaşmasında ele almıştık.

Sonuç

Huang'ın Londra konuşması ajan çağı için net bir koşul koyuyor: kapsama olmadan yetenek ürün sayılmaz. OpenClaw robotlara beynini verebilir ama OpenShell, minimum yetki ve insana yükseltme dağıtımı kabul edilebilir kılan unsurlar. Ajanlarla geliştirme yapıyorsanız, ilk olay bu soruyu sormaya zorlamadan önce izinleri ve izlemeyi şimdi tanımlayın.