65B'lik model 975B'lik rakipleri geçti: maliyeti sadece 32 milyon dolar

Kağıt üzerinde şansı yoktu, sahada kazandı

65B parametreli bir modelin bu ligde işi olmaması gerekirdi. Ama Ripple-65B Preview sadece yarışmakla kalmıyor, öne geçiyor.

Ricursive, Ripple-65B Preview'ı 12 trilyon token üzerinde sıfırdan eğitti ve 1 milyon token'a kadar bağlam penceresi destekliyor. Ajan tabanlı kodlama testi TerminalBench 2.1'de 80.52 puan alan model, şirketin iddiasına göre ABD yapımı açık kaynak modeller arasında en iyi sonuç.

Karşılaştırma listesi işin en çarpıcı kısmı. Reflection Beam 501B 80.1'de kalıyor, Meta Muse Spark Open 816B 76.4'te. Thinking Machines Inkling 975B 63.8, NVIDIA Nemotron 3 Ultra 550B ise 56.4 alıyor. Yani 65B'lik yoğun bir model, kendinden kat kat büyük sistemlerle başa baş gidiyor.

Ricursive bunu, çoğu laboratuvarın tercih ettiği Mixture-of-Experts yaklaşımı yerine modernize edilmiş yoğun Transformer'a borçlu. Dar genişlik (d_model 5120), 80 katman, ekstra dikkat başlıkları, gated attention, global NoPE ve value residual mimarinin parçaları. Sonuç: ön eğitim ve sonrasında sabit %40 MFU, basit sharding, özel kernel yok, kuantizasyon yok.

Ripple-65B Preview: boyutu, bağlam penceresi ve erişilebilirliği

Asıl haber 32 milyon dolarlık fatura

Sınır modellerine yakın sistemleri eğitmek servet gerektirir diye bilinir. Ricursive bunun doğru olmadığını söylüyor.

Şirket, Ripple-65B Preview için toplam Ar-Ge maliyetini 32 milyon dolar olarak açıklıyor. Bu rakam ön eğitim denemelerinden veri karışımına, değerlendirmelerden hata ayıklamaya, sentetik veri üretiminden son eğitim tariflerine ve nihai eğitime kadar her şeyi kapsıyor. Ricursive'in kendi tahminine göre bu, ajan tabanlı kodlamadaki önceki açık kaynak liderin maliyetinin yaklaşık onda biri.

Kıyas için: Sam Altman 2023'te GPT-4'ün eğitiminin 100 milyon doları aştığını söylemişti. Dario Amodei ise 2026-2027 için sınır modellerde ön eğitim maliyetinin 10-100 milyar doları bulacağını öngörüyor. 32 milyon dolarlık toplam fatura bambaşka bir evrene işaret ediyor.

Ricursive son eğitim verisini satın almadı. Kendi sentetik veri hatlarını, kalite filtrelerini ve kapsam metriklerini kurdu; ardından hedefinde hesaplama verimliliği olan gözetimli ince ayar ve pekiştirmeli öğrenme tariflerini denedi. Sonuç, güçlü bir SFT kontrol noktasından sadece 1,4 milyon RL denemesiyle dik bir tırmanış oldu; Reflection Beam'in ihtiyaç duyduğunun yaklaşık 70 katı daha az.

Modeli nerede çalıştırabilirsiniz?

Ripple-65B Preview bir bekleme listesi hikayesi değil; bugün erişilebilir.

Model şu anda Hugging Face, Together AI, GMI Cloud ve OpenRouter üzerinden kullanılabiliyor; Fireworks ise gün içinde devreye girecek. Ricursive, modeli kendi yapay zekâ çipi tasarım platformunu besleyen tescilli modelin genel amaçlı bir sürümü olarak tanımlıyor.

Bu son detay benchmark'tan daha önemli. Ricursive, modeller ile üzerinde çalıştıkları silikon arasındaki döngüyü kapatmaya çalışan tam yığın bir laboratuvar ve Ripple bu çabanın kamuya açık yüzü. Şirkete göre yoğun mimari ve küçük parametre hacmi, modelin NVIDIA DGX Spark gibi yüksek hesaplama gücüne ama düşük bellek bant genişliğine sahip yerel cihazlarda verimli çalışmasını sağlıyor. Bu arada açık kaynak modellerin maliyet tarafındaki tartışmalar da sürüyor; Anthropic'in IPO dosyasındaki çalışan başına aylık maliyet rakamları laboratuvarların gerçek giderlerine farklı bir açıdan bakmak isteyenler için iyi bir referans.

Türkiye'de durum ne?

Ripple-65B Preview, Türkiye'den de Hugging Face ve listedeki çıkarım sağlayıcıları üzerinden erişilebilir durumda; bölgesel bir kısıtlama yok. Ancak Together AI, GMI Cloud ve OpenRouter'ın token başına fiyatlandırması dolar cinsinden ve Türkiye'deki kullanıcılar için kur farkı maliyeti artırıyor. 32 milyon dolarlık Ar-Ge maliyeti bugünkü kurla yaklaşık 1,6 milyar TL'ye denk geliyor; bu yalnızca kur çevrimi, vergiler ve resmi Türkiye fiyatlandırması dahil değil.

Türkiye'deki geliştiriciler için asıl fırsat yerel çalıştırma. Ricursive'in DGX Spark gibi cihazlarda verimli çalıştığını söylediği model, API faturası olmadan masaüstünde ajan tabanlı kodlama denemeleri yapmak isteyen ekipler için pratik bir seçenek olabilir. Yine de modelin lisansı henüz açıklanmadı; ticari kullanım koşulları netleşmeden üretim ortamına taşınmaması gerekiyor.

Ajan tabanlı kodlamada 500B'lik rakiplerle başa baş gelen 65B'lik bir model, mütevazı bir başlangıç turu bütçesiyle üretildi. Ricursive'in asıl sınavı şimdi başlıyor: aynı tarif ölçekleniyor mu ve bağımsız testler bu rakamları doğrulayacak mı?