OpenRouter, beta barındırılan bir kabuk yürütme aracı ve Dosya API ekleyerek geliştiricilere, araç çağırma modellerinin OpenRouter'ın yönlendirme katmanı aracılığıyla yalıtılmış Linux kapsayıcılarında komutları çalıştırmasına izin vermenin bir yolunu sunar. Sürüm, başka bir aracı özelliğinden daha fazlasıdır. Çok modelli yapay zeka altyapısı için muhasebe modelini değiştirir: bir istek artık model belirteçlerini, araç yürütme süresini, dosya işlemeyi ve birden fazla API stilinde uyumluluk davranışını içerebilir.

openrouter:shell adlı yeni sunucu aracı, desteklenen modellerin barındırılan kapsayıcılarda komutları yürütmesine ve stdout, stderr ve çıkış kodları dahil standart yürütme sonuçları döndürmesine olanak tanır. OpenRouter, aracın Yanıt API yolu ve Anthropic İleti API uyumluluk yolu aracılığıyla çalıştığını söylüyor; bu önemli çünkü geliştiriciler, her iş akışını tek bir satıcının yerel araç arayüzüne bağlamak yerine, aracı uygulamalarını model sağlayıcılar arasında taşınabilir tutmaya giderek daha fazla çalışıyor.

OpenRouter, korumalı alanı saniyede 0,0001 ABD doları olarak fiyatlandırır ve istek kapsamında faturalandırılır. Dosya API kullanımı beta sürümüne dahildir. Bu, sıradan giriş ve çıkış jetonlarından ayrı bir maliyet boyutu oluşturur ve ağ geçidi operatörlerine birleşik AI API faturalandırmanın neden model jeton ücretlerini toplamaktan daha zor hale geldiğine dair somut bir örnek verir.

Ne değişti

Yakın zamana kadar, barındırılan kod yürütme genellikle sağlayıcıya özel bir aracı yığınına bağlıydı veya geliştiricilerin kendi korumalı alan filosunu çalıştırması gerekiyordu. OpenRouter'ın beta sürümü, bu yeteneği halihazırda birçok modele erişmek için kullanılan bir yönlendirme platformuna ekler. Pratik anlamda, bir aracı, uygulama ekibinin her çalıştırma için doğrudan kapsayıcılar hazırlamasına gerek kalmadan bir modelden verileri incelemesini, komut dosyalarını çalıştırmasını, dosyaları işlemesini veya küçük kod parçalarını test etmesini isteyebilir.

Uyumluluk ayrıntısı önemlidir. OpenRouter, kabuk aracını tek bir model ailesinin bir yeteneği olarak değil, tanıdık API kalıpları aracılığıyla kullanılabilen platform düzeyinde bir araç yüzeyi olarak konumlandırıyor. OpenAI-tarzı Yanıtlar semantiğine veya Anthropic-tarzı Mesajlar semantiğine dayalı olarak oluşturulmuş ekipler için, barındırılan araç, model katmanından çok ağ geçidi katmanına daha yakın durabilir.

Bu, alet davranışını sihirli bir şekilde tekdüze yapmaz. Farklı modeller, araçları çağırma, arızalardan kurtarma, komut çıktısı nedenleri ve dosyaları yönetme biçimlerine göre farklılık gösterir. Ancak altyapı kararı değişiyor. Geliştiricilerin yalnızca hangi modelin kabuk komutunu yazabileceğini sormak yerine, artık hangi ağ geçidinin bunu güvenli bir şekilde yürütebileceğini, ölçebileceğini ve sonuçları müşterilerinin zaten anladığı API şeklinde döndürebileceğini sormaları gerekiyor.

Çalışma zamanı ölçümü neden önemlidir?

Jeton fiyatlandırması artık bir temsilci isteğinin maliyetini açıklamak için yeterli değil. Tek bir kullanıcı eylemi, bir istemi, birkaç model dönüşünü, dosya yüklemeyi, kabuk yürütmeyi, yeniden denemeleri ve son özetlemeyi içerebilir. Pahalı olan kısım model çıktısı olabilir veya çok az metin üreten uzun süreli bir komut olabilir. OpenRouter'ın saniye başına korumalı alan fiyatı bu ayrımı açıkça ortaya koyuyor.

Geliştiriciler için bunun doğrudan sonucu bütçe tasarımıdır. Aracı döngüleri, komut süresi, yeniden deneme davranışı ve dosya saklama varsayımları konusunda sınırlamalara ihtiyaç duyar. Tekrarlanan kabuk çağrılarına dönüşen zararsız görünen bir istek, jeton kullanımı az miktarda kalsa bile çalışma zamanı ücretleri biriktirebilir. Günlük kaydının yalnızca model, sağlayıcı ve belirteç sayımlarını değil aynı zamanda araç adını, yürütme süresini, çıkış durumunu ve modelin bir hatadan sonra yeniden denenip denenmediğini göstermesi gerekir.

Model ağ geçitleri üzerine inşa eden işletmeler için bu değişiklik marjları ve müşteri raporlamasını etkiliyor. Yapay zeka otomasyonu satan bir iş ortağı ürünü, her isteği işaretlemeli bir metin tamamlama olarak değerlendiremez. Model maliyetini ve barındırılan araç maliyetini doğru çalışma alanına, son müşteriye veya API anahtarına bağlayabilen bir kullanım defterine ihtiyaç duyar. Bu, alt müşterinin OpenRouter'ın ham faturasını hiçbir zaman göremeyebileceği ancak yine de tutarlı bir fatura beklediği iş ortağı API otomasyonu ile doğrudan ilgilidir.

Kimler etkilenir

Etkilenen ilk grup, tek bir model sağlayıcının tam aracı platformuna bağlı kalmadan kod yürütmek isteyen aracı geliştiricilerdir. OpenRouter'ın yaklaşımı, halihazırda trafiği modeller arasında yönlendiren ve model seçiminde bir miktar esnekliği korurken kabuk erişimi eklemek isteyen ekiplere hitap edebilir.

İkinci grup platform ve ağ geçidi ekipleridir. Artık barındırılan araçların birinci sınıf katalog öğeleri olup olmadığına, çalışma alanı başına etkinleştirilip etkinleştirilemeyeceğine ve maliyetlerinin kontrol panellerinde nasıl görüneceğine karar vermeleri gerekiyor. Bir model kataloğu satırının takım kullanılabilirliği, çalışma süresi sınırları ve uyumluluk notlarıyla eşleştirilmesi gerekebilir. Erişim kontrolünün, bir model çağrısına izin vermek ile bu çağrının bir kapsayıcıyı başlatmasına izin vermek arasında ayrım yapması gerekebilir.

Üçüncü grup, yapay zeka harcamalarını yöneten finans ve operasyon ekipleridir. Belirteçlerle sınırlı kalan kullanım analitiği, artan aracı altyapı maliyetleri sınıfını kaçıracaktır. Yararlı bir AI API kullanım analizi kontrol paneli, ani artışın model seçiminden mi, jeton hacminden, korumalı alan çalışma zamanından mı yoksa ekstra araç çağrılarına neden olan bir iş akışı tasarımı değişikliğinden mi kaynaklandığını göstermelidir.

Belirsiz kalan şey

Beta, birkaç pratik soruyu açık bırakıyor. OpenRouter, beta sırasında Dosya API kullanımının kabuk aracına dahil olduğunu ancak uzun vadeli dosya fiyatlandırmasının, saklama kurallarının ve operasyonel sınırların üretim iş yükleri için hala önemli olabileceğini söylüyor. Geliştiricilerin ayrıca desteklenen API uyumluluk yollarında kabuk aracıyla hangi modellerin güvenilir şekilde performans gösterdiğini test etmeleri gerekecektir.

Güvenlik, alıcılar için çözümlenmemiş başka bir uygulama sorusudur. OpenRouter, komutların izole edilmiş, barındırılan Linux kapsayıcılarında çalıştığını açıklamaktadır, ancak kuruluşlar, barındırılan bir yürütme ortamı aracılığıyla hassas iş yüklerini göndermeden önce yine de ağ erişimi, paket kurulumu, dosya kalıcılığı, denetim günlükleri ve veri işleme hakkında sorular soracaktır.

Ancak daha geniş anlamda yön açıktır: ağ geçitleri, aracı çalışma süresinin daha fazlasını emiyor. Model yönlendirme, bir istemin nereye gönderileceğini seçmek anlamına geliyordu. Artık araç anlambilimini, dosya durumunu, yürütme politikasını ve belirteçsiz ölçümü giderek daha fazla içeriyor. OpenRouter'ın kabuk betası yararlı bir işaretleyicidir çünkü birçok aracı oluşturucunun arka plan altyapısı olarak ele aldığı bir yeteneğe net bir fiyat verir. Faturada yürütme süresi göründüğünde ürün mimarisinin bir parçası haline gelir.