Arm'ın AGI CPU'su AMD'ye raf düzeyinde 1,99 kat fark atıyor

Arm aslında neyi ölçtü?

Manşet rakam 1,99 kat, ama bu doğrudan çip çip karşılaştırması değil.

Signal65, değerlendirmeyi Arm'ın işbirliğiyle yaptı: önce tek tek işlemcileri ölçtü, ardından sabit bir güç bütçesi içinde tam rafların nasıl performans göstereceğini tahmin etti. İş yükleri ajanlı yapay zekayı yansıtacak şekilde seçildi: yazılım aracı kullanımı, otonom görev yürütme, bilgi erişimi ve model sunumu; Terminal-Bench 2 ve SWE-bench dahil.

Yedi testte Arm'ın AGI CPU'su, AMD EPYC 9755'in raf düzeyi performansının ortalama 1,99 katına ulaştı. Bireysel sonuçlar 1,43 kat ile 3,19 kat arasında değişti. Kategorilere göre Arm, araç kullanımında ortalama 1,7 kat, ajan iş akışlarında 2,0 kat, akıl yürütme ve planlamada 2,2 kat avantaj sağladı.

Rapor ayrıca veritabanı ve vektör arama işlemlerinin eşdeğer iş için yüzde 30 ila 35 daha az raf gerektirebileceğini tahmin ediyor. Veri merkezi operatörlerinin baktığı tam da bu tür sayılar; çip bulmak, yer ve elektrik sözleşmesi bulmaktan genellikle daha kolay.

İşin çoğunu güç bütçesi yapıyor

Arm'ın avantajı çekirdek başına ham hızdan çok, rafa kaç sunucu sığdırabildiğinizle ilgili.

Değerlendirmedeki varsayımlara göre 24 kW'lık bir rafa 21 ila 23 Arm AGI CPU sunucusu sığıyor. Aynı rafa 13 çift soketli EPYC 9755 sistemi giriyor. Bu da 5.712 ila 5.888 fiziksel Arm çekirdeğine karşı 3.328 AMD çekirdeği anlamına geliyor.

Fark güç tüketiminden kaynaklanıyor. Arm'ın tek sunucuları 950-1.050 watt, AMD'nin çift soketli yapılandırmaları 1.700 watt olarak derecelendirilmiş. Raf başına daha fazla sunucu, her Arm çekirdeği bir AMD çekirdeğinden hızlı olmasa bile toplam işlem gücünü artırıyor.

Elektrik dağıtım şirketlerinin ve bina sahiplerinin yapay zeka kapasitesinin tavanını çip üreticilerinden daha fazla belirlediği bir dünyada bu gerçek bir avantaj. Ama kırılgan: güç varsayımlarını değiştirin, oran da değişir.

Ajan girişimleri asıl kıyas noktası

Ayrı Sandbench testi, yapay zeka ajanlarının sürekli yaptığı bir şeyi ölçüyor: izole çalışma ortamlarını ayağa kaldırmak.

AMD'nin EPYC 9965'ine karşı Arm soğuk başlatmaları yüzde 45, sıcak başlatmaları yüzde 27 daha hızlı tamamladı. Dört kat aşırı abonelik altında bile en kötü durumu yüzde 41 daha hızlıydı. Kod çalıştırmak, servislere sorgu atmak ve sonuçları işlemek için sürekli sandbox açan ajanlar için bu kurulum süresi binlerce görevde birikiyor.

Arm'ın Bulut AI'dan sorumlu başkan yardımcısı Mohamed Awad, sektörün sistemlerin ajanların gerçekte tamamladığı işleri ne kadar iyi yaptığını ölçmesi gerektiğini söyledi. Arm değerlendirme çerçevesini Fujitsu, Meta ve OpenAI'nin katkılarıyla geliştirdi; Signal65 ise işlemci sonuçlarını bağımsız olarak doğruladı.

Bu çerçeveleme bilinçli. Arm, x86'nın hâlâ hüküm sürdüğü genel amaçlı hesaplamada zafer ilan etmiyor; iş yükü şeklinin ve raf yoğunluğunun eski yazılım uyumluluğundan daha önemli olduğu ajanlı yapay zeka nişine talip oluyor. Microsoft da Maia 300 ile benzer mantıkla, yapay zeka maliyetlerini düşürmek için ham hesaplama yerine bellek bant genişliğine yatırım yapıyor.

Arm için ne ters gidebilir?

Başta şu var: bunların hiçbiri nihai üretim donanımında doğrulanmadı.

Arm, üretim sistemlerinde yapılacak ek testlerin daha fazla iş yükünü ve rakip karşılaştırmalarını kapsayacağını kabul etti. Modellenen raf performansı bir projeksiyon, teslim edilmiş bir sonuç değil. Bağımsız alıcılar bu iş yüklerini gerçek makinelerde çalıştırana kadar 1,99 kat rakamı, iyi hazırlanmış bir sunumla desteklenen bir hipotez.

Yazılım uyumluluğu diğer engel. Ajanlı yapay zeka yığınları genç ve dağınık; üstelik birçok kurum hâlâ x86'ya göre ayarlanmış araçlar kullanıyor. Mimari değiştirmek yeniden derleme, yeniden test ve ekipleri yeniden eğitme anlamına geliyor.

AMD ve Intel bu sunumu daha önce de duydu. Şimdi farklı olan, alıcının genellikle sıfırdan kapasite kuran bir yapay zeka laboratuvarı ya da bulut sağlayıcısı olması: korunacak eski bir altyapı yok ve darboğaz güç.

Türkiye'de durum ne?

Arm, AGI CPU için henüz perakende fiyat, genel satış tarihi veya belirli bulut ortakları açıklamadı. Değerlendirme mühendislik örnekleri ve modellenen yapılandırmalar üzerinden yapıldı; yani Türkiye'deki kurumlar da bu sistemleri şu an sipariş edemiyor.

Arm tabanlı sunucular piyasaya çıktığında büyük olasılıkla doğrudan satış yerine OEM'ler ve bulut sağlayıcıları üzerinden gelecek. Türkiye'de ajanlı yapay zeka altyapısı planlayan ekipler için 1,99 kat rakamı bir satın alma kararı değil, kendi kavram kanıtı testlerini çalıştırmak için bir sebep. Fiyatlar dolar bazında açıklandığında TL karşılığı yalnızca kur çevrimi olur; resmi Türkiye fiyatı vergiler ve yerel maliyetlerle farklılaşır.

Arm, ajanlı yapay zeka için önemli olan metriğin çekirdek hızı değil raf düzeyi güç verimliliği olduğuna dair inandırıcı bir sav ortaya koydu. 1,99 kat rakamı çarpıcı, ama Arm'ın belirlediği varsayımlara dayanan bir projeksiyon. Önümüzdeki on iki ayın üretim kıyaslamaları bunun x86 için bir dönüm noktası mı yoksa çok iyi bir pazarlama belgesi mi olduğunu gösterecek.