OpenRouter, beta barındırılan bir kabuk yürütme aracı ve Dosyalar API'si ekleyerek geliştiricilere, araç çağırma modellerinin OpenRouter'ın yönlendirme katmanı aracılığıyla yalıtılmış Linux kapsayıcılarında komutları çalıştırmasına izin vermenin bir yolunu sunar. Sürüm, başka bir aracı özelliğinden daha fazlasıdır. Çok modelli yapay zeka altyapısının muhasebe modelini değiştiriyor: Bir istek artık model belirteçlerini, araç yürütme süresini, dosya işlemeyi ve birden fazla API stilinde uyumluluk davranışını içerebiliyor.

openrouter:shell adlı yeni sunucu aracı, desteklenen modellerin barındırılan kapsayıcılarda komutları yürütmesine ve stdout, stderr ve çıkış kodları dahil standart yürütme sonuçları döndürmesine olanak tanır. OpenRouter, aracın Responses API yolu ve Antropik Mesajlar API uyumluluk yolu üzerinden çalıştığını söylüyor; bu önemli çünkü geliştiriciler, her iş akışını tek bir satıcının yerel araç arayüzüne bağlamak yerine, aracı uygulamalarını model sağlayıcılar arasında taşınabilir tutmaya giderek daha fazla çalışıyor.

OpenRouter, korumalı alanı isteğin bir parçası olarak faturalandırılan saniyede 0,0001 ABD doları olarak fiyatlandırır. Files API kullanımı beta sürümüne dahildir. Bu, sıradan giriş ve çıkış jetonlarından ayrı bir maliyet boyutu oluşturur ve ağ geçidi operatörlerine birleşik AI API faturalandırmasının model jeton ücretlerini toplamaktan neden daha zor hale geldiğine dair somut bir örnek verir.

Ne değişti

Yakın zamana kadar, barındırılan kod yürütme genellikle sağlayıcıya özel bir aracı yığınına bağlıydı veya geliştiricilerin kendi korumalı alan filosunu çalıştırması gerekiyordu. OpenRouter'ın beta sürümü, bu yeteneği halihazırda birçok modele erişmek için kullanılan bir yönlendirme platformuna ekler. Pratik anlamda, bir aracı, uygulama ekibinin her çalıştırma için doğrudan kapsayıcıların temel hazırlığını yapmasına gerek kalmadan bir modelden verileri incelemesini, komut dosyalarını çalıştırmasını, dosyaları işlemesini veya küçük kod parçalarını test etmesini isteyebilir.

Uyumluluk ayrıntısı önemlidir. OpenRouter, kabuk aracını tek bir model ailesinin bir yeteneği olarak değil, tanıdık API modelleri aracılığıyla kullanılabilen platform düzeyinde bir araç yüzeyi olarak konumlandırıyor. OpenAI tarzı Yanıtlar semantiğine veya Antropik tarzdaki Mesajlar semantiğine dayanan ekipler için barındırılan araç, model katmanından çok ağ geçidi katmanına daha yakın durabilir.

Bu, takım davranışını sihirli bir şekilde tekdüze yapmaz. Farklı modeller, araçları çağırma, arızalardan kurtarma, komut çıktısı nedenleri ve dosyaları yönetme biçimlerine göre farklılık gösterir. Ancak altyapı kararı değişiyor. Geliştiricilerin artık yalnızca hangi modelin kabuk komutu yazabileceğini sormak yerine, hangi ağ geçidinin bunu güvenli bir şekilde yürütebileceğini, ölçebileceğini ve sonuçları müşterilerinin zaten anladığı API şeklinde döndürebileceğini sorması gerekiyor.

Çalışma zamanı ölçümü neden önemlidir?

Token fiyatlandırması artık bir temsilci talebinin maliyetini açıklamak için yeterli değil. Tek bir kullanıcı eylemi, bir istemi, birkaç model dönüşünü, dosya yüklemeyi, kabuk yürütmeyi, yeniden denemeleri ve son özetlemeyi içerebilir. Pahalı olan kısım model çıktısı olabilir veya çok az metin üreten uzun süreli bir komut olabilir. OpenRouter'ın saniye başına korumalı alan fiyatı bu ayrımı açıkça ortaya koyuyor.

Geliştiriciler için bunun doğrudan sonucu bütçe tasarımıdır. Aracı döngüleri, komut süresi, yeniden deneme davranışı ve dosya saklama varsayımları konusunda sınırlamalara ihtiyaç duyar. Tekrarlanan kabuk çağrılarına dönüşen zararsız görünen bir istek, jeton kullanımı az miktarda kalsa bile çalışma zamanı ücretleri biriktirebilir. Günlük kaydının yalnızca model, sağlayıcı ve jeton sayımlarını değil aynı zamanda araç adını, yürütme süresini, çıkış durumunu ve modelin bir hatadan sonra yeniden denenip denenmediğini göstermesi gerekir.

Model ağ geçitlerini temel alan işletmeler için bu değişiklik marjları ve müşteri raporlamasını etkiliyor. Yapay zeka otomasyonu satan bir iş ortağı ürünü, her isteği işaretlemeli bir metin tamamlama olarak değerlendiremez. Model maliyetini ve barındırılan araç maliyetini doğru çalışma alanına, son müşteriye veya API anahtarına bağlayabilen bir kullanım defterine ihtiyaç duyar. Bu, alt müşterinin OpenRouter'ın ham faturasını hiçbir zaman göremeyebileceği ancak yine de tutarlı bir fatura beklediği iş ortağı API otomasyonu ile doğrudan ilgilidir.

Kimler etkilenir

Etkilenen ilk grup, tek bir model sağlayıcının aracı platformunun tamamını taahhüt etmeden kod yürütmek isteyen aracı geliştiricilerdir. OpenRouter'ın yaklaşımı, halihazırda trafiği modeller arasında yönlendiren ve model seçiminde bir miktar esnekliği korurken kabuk erişimi eklemek isteyen ekiplere hitap edebilir.

İkinci grup platform ve ağ geçidi ekipleridir. Artık barındırılan araçların birinci sınıf katalog öğeleri olup olmadığına, çalışma alanı başına etkinleştirilip etkinleştirilemeyeceğine ve maliyetlerinin kontrol panellerinde nasıl görüneceğine karar vermeleri gerekiyor. Bir model kataloğu satırının takım kullanılabilirliği, çalışma süresi sınırları ve uyumluluk notlarıyla eşleştirilmesi gerekebilir. Erişim kontrolünün, bir model çağrısına izin vermek ile bu çağrının bir kapsayıcıyı başlatmasına izin vermek arasında ayrım yapması gerekebilir.

Üçüncü grup, yapay zeka harcamalarını yöneten finans ve operasyon ekipleridir. Belirteçlerle sınırlı kalan kullanım analitiği, büyüyen aracı altyapı maliyetlerini kaçıracaktır. Yararlı bir AI API kullanım analizi kontrol paneli, ani artışın model seçiminden mi, jeton hacminden mi, korumalı alan çalışma zamanından mı yoksa fazladan araç çağrılarına neden olan bir iş akışı tasarımı değişikliğinden mi kaynaklandığını göstermelidir.

Belirsiz kalan şey

Beta birçok pratik soruyu açık bırakıyor. OpenRouter, beta sırasında Files API kullanımının kabuk aracına dahil edildiğini ancak uzun vadeli dosya fiyatlandırmasının, saklama kurallarının ve operasyonel sınırların üretim iş yükleri için hala önemli olabileceğini söylüyor. Geliştiricilerin ayrıca desteklenen API uyumluluk yollarında kabuk aracıyla hangi modellerin güvenilir şekilde performans gösterdiğini test etmeleri gerekecektir.

Güvenlik, alıcılar için çözümlenmemiş başka bir uygulama sorusudur. OpenRouter, komutların izole edilmiş, barındırılan Linux kapsayıcılarında çalıştığını açıklamaktadır, ancak kuruluşlar, hassas iş yüklerini barındırılan bir yürütme ortamı aracılığıyla göndermeden önce yine de ağ erişimi, paket kurulumu, dosya kalıcılığı, denetim günlükleri ve veri işleme hakkında sorular soracaktır.

Ancak genel gidişat net: Ağ geçitleri, aracı çalışma süresinin daha fazlasını alıyor. Model yönlendirme, bir istemin nereye gönderileceğini seçmek anlamına geliyordu. Artık araç anlambilimini, dosya durumunu, yürütme politikasını ve belirteçsiz ölçümü giderek daha fazla içeriyor. OpenRouter'ın kabuk betası yararlı bir işaretleyicidir çünkü birçok aracı oluşturucunun arka plan altyapısı olarak ele aldığı bir yeteneğe net bir fiyat verir. Faturada yürütme süresi göründüğünde ürün mimarisinin bir parçası haline gelir.