Το OpenRouter έχει προσθέσει ένα εργαλείο εκτέλεσης κελύφους που φιλοξενείται σε beta και το Files API, δίνοντας στους προγραμματιστές έναν τρόπο να επιτρέπουν στα μοντέλα που καλούν εργαλεία να εκτελούν εντολές σε απομονωμένα κοντέινερ Linux μέσω του επιπέδου δρομολόγησης του OpenRouter. Η έκδοση είναι κάτι περισσότερο από ένα άλλο χαρακτηριστικό πράκτορα. Αλλάζει το λογιστικό μοντέλο για την υποδομή τεχνητής νοημοσύνης πολλαπλών μοντέλων: ένα αίτημα μπορεί πλέον να περιλαμβάνει διακριτικά μοντέλων, χρόνο εκτέλεσης εργαλείου, χειρισμό αρχείων και συμπεριφορά συμβατότητας σε περισσότερα από ένα στυλ API.
Το νέο εργαλείο διακομιστή, που ονομάζεται openrouter:shell, επιτρέπει στα υποστηριζόμενα μοντέλα να εκτελούν εντολές σε φιλοξενούμενα κοντέινερ και να επιστρέφουν τυπικά αποτελέσματα εκτέλεσης, συμπεριλαμβανομένων των κωδικών stdout, stderr και εξόδου. Το OpenRouter λέει ότι το εργαλείο λειτουργεί μέσω της διαδρομής του Responses API και της διαδρομής συμβατότητας του API Anthropic Messages, κάτι που έχει σημασία επειδή οι προγραμματιστές προσπαθούν ολοένα και περισσότερο να διατηρήσουν τις υλοποιήσεις πρακτόρων φορητές σε παρόχους μοντέλων αντί να δεσμεύουν κάθε ροή εργασίας στη διεπαφή εγγενούς εργαλείου ενός προμηθευτή.
Το OpenRouter τιμολογεί το sandbox στα 0,0001 $ ανά δευτερόλεπτο, που χρεώνεται ως μέρος του αιτήματος. Η χρήση του Files API περιλαμβάνεται κατά τη διάρκεια της beta. Αυτό δημιουργεί μια ξεχωριστή διάσταση κόστους από τα συνηθισμένα διακριτικά εισόδου και εξόδου και δίνει στους χειριστές πύλης ένα συγκεκριμένο παράδειγμα για το γιατί η ενοποιημένη χρέωση API AI γίνεται πιο δύσκολη από το άθροισμα των χρεώσεων διακριτικών μοντέλων.
Τι άλλαξε
Μέχρι πρόσφατα, η εκτέλεση του φιλοξενούμενου κώδικα ήταν συνήθως συνδεδεμένη με μια στοίβα πρακτόρων για συγκεκριμένο πάροχο ή απαιτούσε από τους προγραμματιστές να λειτουργούν το δικό τους στόλο sandbox. Η beta του OpenRouter εισάγει αυτή τη δυνατότητα σε μια πλατφόρμα δρομολόγησης που χρησιμοποιείται ήδη για πρόσβαση σε πολλά μοντέλα. Σε πρακτικούς όρους, ένας πράκτορας μπορεί να ζητήσει από ένα μοντέλο να επιθεωρήσει δεδομένα, να εκτελέσει σενάρια, να χειριστεί αρχεία ή να δοκιμάσει μικρά κομμάτια κώδικα χωρίς η ομάδα εφαρμογής να παρέχει απευθείας κοντέινερ για κάθε εκτέλεση.
Η λεπτομέρεια συμβατότητας είναι σημαντική. Το OpenRouter τοποθετεί το εργαλείο κελύφους όχι ως δυνατότητα μιας οικογένειας μοντέλων, αλλά ως επιφάνεια εργαλείων σε επίπεδο πλατφόρμας διαθέσιμη μέσω γνωστών μοτίβων API. Για ομάδες που έχουν κατασκευαστεί με βάση τη σημασιολογία OpenAI Responses ή τη σημασιολογία Anthropic-style Messages, το φιλοξενούμενο εργαλείο μπορεί να βρίσκεται πιο κοντά στο επίπεδο πύλης παρά στο επίπεδο μοντέλου.
Αυτό δεν κάνει τη συμπεριφορά του εργαλείου ως δια μαγείας ομοιόμορφη. Τα διαφορετικά μοντέλα διαφέρουν ως προς τον τρόπο κλήσης των εργαλείων, την ανάκτηση από αποτυχίες, τον λόγο σχετικά με την έξοδο εντολών και τη διαχείριση αρχείων. Αλλά η απόφαση για τις υποδομές αλλάζει. Αντί να ρωτούν μόνο ποιο μοντέλο μπορεί να γράψει μια εντολή κελύφους, οι προγραμματιστές πρέπει τώρα να ρωτήσουν ποια πύλη μπορεί να την εκτελέσει με ασφάλεια, να τη μετρήσει και να επιστρέψει τα αποτελέσματα στο σχήμα API που καταλαβαίνει ήδη ο πελάτης τους.
Γιατί έχει σημασία η μέτρηση χρόνου εκτέλεσης
Η τιμολόγηση με διακριτικό δεν είναι πλέον αρκετή για να περιγράψει το κόστος ενός αιτήματος αντιπροσώπου. Μια ενέργεια μεμονωμένου χρήστη μπορεί να περιλαμβάνει μια προτροπή, πολλές στροφές μοντέλου, μεταφορτώσεις αρχείων, εκτέλεση φλοιού, επαναλήψεις και τελική σύνοψη. Το ακριβό μέρος μπορεί να είναι η έξοδος του μοντέλου ή μπορεί να είναι μια μακροχρόνια εντολή που παράγει λίγο κείμενο. Η τιμή περιβάλλοντος δοκιμών του OpenRouter ανά δευτερόλεπτο καθιστά σαφή αυτή τη διάκριση.
Για τους προγραμματιστές, η άμεση συνέπεια είναι ο σχεδιασμός του προϋπολογισμού. Οι βρόχοι πράκτορα χρειάζονται όρια στη διάρκεια εντολών, στη συμπεριφορά επανάληψης και στις παραδοχές διατήρησης αρχείων. Ένα αβλαβές αίτημα που επεκτείνεται σε επαναλαμβανόμενες κλήσεις κελύφους μπορεί να συσσωρεύσει χρεώσεις χρόνου εκτέλεσης ακόμα κι αν η χρήση διακριτικού παραμένει μέτρια. Η καταγραφή πρέπει να δείχνει όχι μόνο τον αριθμό μοντέλων, παρόχων και διακριτικών, αλλά και το όνομα εργαλείου, τη διάρκεια εκτέλεσης, την κατάσταση εξόδου και εάν το μοντέλο προσπάθησε ξανά μετά από σφάλμα.
Για επιχειρήσεις που αναπτύσσονται πάνω από πύλες μοντέλων, η αλλαγή αγγίζει τα περιθώρια και τις αναφορές πελατών. Ένα συνεργαζόμενο προϊόν που μεταπωλεί αυτοματισμό τεχνητής νοημοσύνης δεν μπορεί να αντιμετωπίζει κάθε αίτημα ως συμπλήρωση κειμένου με σήμανση. Χρειάζεται ένα καθολικό χρήσης που να μπορεί να αποδίδει το κόστος μοντέλου και το κόστος φιλοξενίας του εργαλείου στον κατάλληλο χώρο εργασίας, τον τελικό πελάτη ή το κλειδί API. Αυτό σχετίζεται άμεσα με την αυτοματοποίηση API συνεργατών, όπου ο μεταγενέστερος πελάτης μπορεί να μην δει ποτέ το ακατέργαστο τιμολόγιο του OpenRouter, αλλά εξακολουθεί να αναμένει έναν συνεκτικό λογαριασμό.
Ποιος επηρεάζεται
Η πρώτη ομάδα που επηρεάζεται είναι οι προγραμματιστές πρακτόρων που θέλουν την εκτέλεση κώδικα χωρίς να δεσμεύονται στην πλήρη πλατφόρμα αντιπροσώπων ενός παρόχου μοντέλου. Η προσέγγιση του OpenRouter μπορεί να απευθύνεται σε ομάδες που ήδη δρομολογούν την κυκλοφορία σε μοντέλα και θέλουν να προσθέσουν πρόσβαση στο φλοιό διατηρώντας παράλληλα κάποια ευελιξία στην επιλογή μοντέλου.
Η δεύτερη ομάδα είναι οι ομάδες πλατφόρμας και πύλης. Τώρα πρέπει να αποφασίσουν εάν τα φιλοξενούμενα εργαλεία είναι αντικείμενα καταλόγου πρώτης κατηγορίας, εάν μπορούν να ενεργοποιηθούν ανά χώρο εργασίας και πώς εμφανίζεται το κόστος τους στους πίνακες εργαλείων. Μια σειρά καταλόγου μοντέλου μπορεί να χρειαστεί να συνδυαστεί με τη διαθεσιμότητα του εργαλείου, τα όρια χρόνου εκτέλεσης και τις σημειώσεις συμβατότητας. Ο έλεγχος πρόσβασης μπορεί να χρειάζεται να κάνει διάκριση μεταξύ της επιτρεπόμενης κλήσης μοντέλου και της δυνατότητας αυτής της κλήσης να ξεκινήσει ένα κοντέινερ.
Η τρίτη ομάδα είναι οι ομάδες χρηματοδότησης και επιχειρήσεων που διαχειρίζονται δαπάνες τεχνητής νοημοσύνης. Τα αναλυτικά στοιχεία χρήσης που σταματούν στα διακριτικά θα χάσουν μια αυξανόμενη κατηγορία κόστους υποδομής πρακτόρων. Ένας χρήσιμος Πίνακας εργαλείων ανάλυσης χρήσης API AI θα πρέπει να δείχνει εάν μια ακμή προήλθε από επιλογή μοντέλου, όγκο διακριτικού, χρόνο εκτέλεσης sandbox ή αλλαγή σχεδίασης ροής εργασίας που προκάλεσε επιπλέον κλήσεις εργαλείων.
Τι παραμένει αβέβαιο
Η beta αφήνει ανοιχτές πολλές πρακτικές ερωτήσεις. Το OpenRouter λέει ότι η χρήση του Files API περιλαμβάνεται στο εργαλείο φλοιού κατά τη διάρκεια της beta, αλλά η μακροπρόθεσμη τιμολόγηση αρχείων, οι κανόνες διατήρησης και τα λειτουργικά όρια ενδέχεται να εξακολουθούν να έχουν σημασία για τον φόρτο εργασίας της παραγωγής. Οι προγραμματιστές θα πρέπει επίσης να δοκιμάσουν ποια μοντέλα έχουν αξιόπιστη απόδοση με το εργαλείο φλοιού στις υποστηριζόμενες διαδρομές συμβατότητας API.
Η ασφάλεια είναι ένα άλλο άλυτο ζήτημα εφαρμογής για τους αγοραστές. Το OpenRouter περιγράφει τις εντολές ότι εκτελούνται σε απομονωμένα κοντέινερ που φιλοξενούνται Linux, αλλά οι επιχειρήσεις θα εξακολουθούν να ρωτούν σχετικά με την πρόσβαση στο δίκτυο, την εγκατάσταση πακέτων, τη διατήρηση αρχείων, τα αρχεία καταγραφής ελέγχου και τον χειρισμό δεδομένων προτού στείλουν ευαίσθητους φόρτους εργασίας μέσω ενός φιλοξενούμενου περιβάλλοντος εκτέλεσης.
Η ευρύτερη κατεύθυνση είναι σαφής, ωστόσο: οι πύλες απορροφούν περισσότερο από το χρόνο εκτέλεσης του agent. Η δρομολόγηση μοντέλου σήμαινε την επιλογή του σημείου αποστολής ενός μηνύματος. Τώρα περιλαμβάνει όλο και περισσότερο σημασιολογία εργαλείων, κατάσταση αρχείου, πολιτική εκτέλεσης και μέτρηση χωρίς διακριτικό. Το κέλυφος beta του OpenRouter είναι ένας χρήσιμος δείκτης επειδή αποδίδει μια σαφή τιμή σε μια δυνατότητα που πολλοί κατασκευαστές πρακτόρων έχουν αντιμετωπίσει ως υποδομή παρασκηνίου. Μόλις εμφανιστεί ο χρόνος εκτέλεσης στο λογαριασμό, γίνεται μέρος της αρχιτεκτονικής του προϊόντος.