Anthropic παρουσίασε το Claude Haiku 5.5, ένα νέο μικρό μοντέλο Claude που στοχεύει σε μεγάλο όγκο και ευαίσθητο στο κόστος API φόρτο εργασίας. Η κυκλοφορία έχει μικρότερη σημασία επειδή έχει εμφανιστεί ένα άλλο μοντέλο στον κατάλογο και περισσότερο επειδή αλλάζει τα οικονομικά της συνήθους Claude επισκεψιμότητας: ταξινόμηση, σύνοψη, εργασία υποπράκτορα, βήματα χρήσης του προγράμματος περιήγησης, συμπύκνωση και άλλες κλήσεις που δεν χρειάζονται πάντα μεγαλύτερο μοντέλο.
Η τιμή του τίτλου είναι επιθετική. Το Anthropic παραθέτει το Claude Haiku 5.5 με 0,10 $ ανά εκατομμύριο διακριτικά εισόδου και 0,50 $ ανά εκατομμύριο διακριτικά εξόδου για προτροπές έως και 100.000 διακριτικά, με υψηλότερα ποσοστά για μηνύματα που υπερβαίνουν αυτό το όριο. Η εταιρεία λέει ότι το μοντέλο είναι διαθέσιμο στην πλατφόρμα Claude και μέσω των Υπηρεσιών Ιστού Amazon, Google Cloud και Microsoft Azure. Το OpenRouter παραθέτει επίσης το Claude Haiku 5.5 με παράθυρο περιβάλλοντος 1M-token και διαθεσιμότητα πολλών παρόχων.
Ταυτόχρονα, ο Anthropic μείωσε την Claude τιμολόγηση προσωρινής ανάγνωσης Sonnet 5.5 από 0,20 $ σε 0,10 $ ανά εκατομμύριο διακριτικά. Αυτή η δεύτερη αλλαγή είναι εύκολο να χαθεί, αλλά μπορεί να είναι εξίσου σημαντική για ομάδες που επαναχρησιμοποιούν εκτενείς προτροπές συστήματος, χώρους αποθήκευσης, τεκμηρίωση ή κατάσταση συνομιλίας σε πολλές κλήσεις.
Τι άλλαξε
Claude Το Haiku 5.5 προσφέρει στους προγραμματιστές μια φθηνότερη επιλογή Claude-οικογένειας για εργασία που είναι ευαίσθητη σε καθυστέρηση, επαναλαμβανόμενη ή υψηλή ένταση. Στην πράξη, αυτό ασκεί πίεση στις πολιτικές δρομολόγησης. Μια ομάδα μπορεί να θέλει Haiku για εξαγωγή, διαλογή που μοιάζει με μετριοπάθεια, σύντομες περιλήψεις και τήρηση λογιστικών αντιπροσώπων, ενώ διατηρεί το Sonnet ή ένα μεγαλύτερο μοντέλο Claude για πιο σκληρή λογική ή δημιουργία πελατείας.
Αυτή η διάσπαση δεν είναι μόνο θέμα κώδικα εφαρμογής. Μια πύλη πολλαπλών μοντέλων API για τις ομάδες πρέπει να γνωρίζει ποια upstreams φέρουν το μοντέλο, πώς το εκθέτει κάθε πάροχος, ποια όρια περιβάλλοντος ισχύουν και πώς θα πρέπει να συμπεριφέρεται η ανακατεύθυνση όταν μια διαδρομή cloud δεν είναι διαθέσιμη. Εάν μια πύλη αντιμετωπίζει το "Claude Haiku 5.5" ως μια επίπεδη σειρά καταλόγου, μπορεί να αποκρύψει σημαντικές διαφορές στην πρόσβαση παρόχου, τα όρια τιμών και τον χειρισμό περιβάλλοντος.
Η τιμολόγηση έχει επίσης μια μορφή που πρέπει να κατανοήσουν τα συστήματα χρέωσης. Η δημόσια τιμή του Anthropic δεν είναι μια καθολική τιμή διακριτικού εισόδου. το χαμηλό επιτόκιο που αναφέρεται ισχύει για προτροπές έως και 100.000 μάρκες, με υψηλότερα ποσοστά πέρα από αυτό. Αυτό σημαίνει ότι η μέτρηση χρήσης πρέπει να διατηρήσει το μήκος της εντολής και να εφαρμόσει τη σωστή ζώνη. Ο μέσος όρος του κόστους μετά το γεγονός μπορεί να είναι αποδεκτός για έναν πρόχειρο πίνακα ελέγχου, αλλά είναι αδύναμος για τιμολόγια πελατών, περιθώρια κέρδους μεταπωλητή ή εσωτερική αντιστροφή χρέωσης.
Γιατί έχει σημασία η αποκοπή της κρυφής μνήμης
Η μείωση της τιμής ανάγνωσης προσωρινής μνήμης Sonnet 5.5 δείχνει ένα ευρύτερο μοτίβο στα οικονομικά μοντέλα. Για πολλούς φόρτους εργασίας αντιπροσώπων και κωδικοποίησης, το φθηνότερο αίτημα δεν είναι πάντα αυτό που αποστέλλεται στο μικρότερο μοντέλο. Ένα μεγαλύτερο μοντέλο με πολύ επαναχρησιμοποιούμενο περιβάλλον προσωρινής αποθήκευσης μπορεί να είναι φθηνότερο ή τουλάχιστον πιο προβλέψιμο από την επανειλημμένη αποστολή πλήρους περιβάλλοντος σε ένα μικρότερο.
Αυτό είναι ιδιαίτερα σημαντικό για τους πράκτορες κωδικοποίησης και τους μακροχρόνιους βοηθούς. Συχνά φέρουν χάρτες αποθετηρίου, οδηγίες εργαλείων, προηγούμενες περιλήψεις και κείμενο πολιτικής σε πολλές στροφές. Εάν οι αναγνώσεις της κρυφής μνήμης γίνουν φθηνότερες, η ερώτηση δρομολόγησης αλλάζει από "ποιο μοντέλο έχει τη χαμηλότερη τιμή εισόδου;" σε "ποιος συνδυασμός μοντέλου, αποθηκευμένου περιβάλλοντος και τύπου εργασίας παράγει το καλύτερο αποτέλεσμα ποιότητας κόστους;"
Για τις ομάδες πλατφόρμας, η λειτουργική συνέπεια είναι ξεκάθαρη: η λογιστική διακριτικών πρέπει να διαχωρίζει τα συνηθισμένα διακριτικά εισόδου από τις αναγνώσεις της κρυφής μνήμης. Η ανάμειξή τους μπορεί να παραμορφώσει την ανάλυση περιθωρίων και να κάνει μια ροή εργασίας να φαίνεται πιο ακριβή από ό,τι είναι. Για μια ομάδα AI API reseller operations, αυτή η διάκριση μπορεί να αποφασίσει εάν ένας λογαριασμός πελάτη είναι κερδοφόρος, χαμηλότερη τιμή ή λανθασμένος περιορισμός.
Ποιος επηρεάζεται
Οι προγραμματιστές που δημιουργούν συστήματα αντιπροσώπων είναι το πιο άμεσο κοινό. Το Haiku 5.5 τους δίνει έναν άλλο υποψήφιο για υποπαράγοντες, συμπίεση, δομημένη εξαγωγή, καθαρισμό αποτελεσμάτων αναζήτησης, προεπεξεργασία εγγράφων και άλλες εργασίες που εκτελούνται πολλές φορές μέσα σε μια μεγαλύτερη ροή εργασίας. Εάν αυτές οι κλήσεις πραγματοποιούνται προς το παρόν στο Sonnet από προεπιλογή, το νέο μοντέλο ενδέχεται να μειώσει το κόστος χωρίς να αλλάξει η ορατή εμπειρία προϊόντος. Αυτό χρειάζεται ακόμα δοκιμή. Οι ισχυρισμοί προμηθευτών σχετικά με την απόδοση και τη μέση εξοικονόμηση πόρων δεν πρέπει να αντιμετωπίζονται ως υποκατάστατο για την αξιολόγηση του φόρτου εργασίας.
Οι επιχειρήσεις που χρησιμοποιούν πολλές διαδρομές πρόσβασης Claude έχουν επίσης εργασίες καθαρισμού. Η διαθεσιμότητα σε δρομολογητές τύπου Anthropic, AWS, Google Cloud, Azure και OpenRouter είναι χρήσιμη, αλλά δημιουργεί πρόβλημα χαρτογράφησης καταλόγου. Η προμήθεια μπορεί να προτιμά μια αγορά cloud, η μηχανική μπορεί να προτιμά την άμεση πρόσβαση Anthropic και μια πύλη μπορεί να χρειάζεται εναλλακτικές διαδρομές και στα δύο. Το όνομα του μοντέλου από μόνο του δεν αρκεί για να καθορίσει τη διαδρομή.
Οι μεταπωλητές και οι πλατφόρμες συνεργατών αντιμετωπίζουν μια πιο ευκρινή εκδοχή του ίδιου προβλήματος. Ένας πελάτης που αγοράζει πρόσβαση Claude μέσω μιας πύλης αναμένει μια απλή τιμή και ένα αξιόπιστο τελικό σημείο. Πίσω από αυτό, ο φορέας εκμετάλλευσης πρέπει να χειριστεί τη διαθεσιμότητα για συγκεκριμένο πάροχο, τις ζώνες τιμών μήκους άμεσης ενημέρωσης, τη λογιστική ανάγνωσης προσωρινής μνήμης, τις διαφορές στα όρια τιμών και πιθανώς τα συγκεκριμένα περιθώρια κέρδους για τον πελάτη. Εκεί ακριβώς η ενοποιημένη τεχνητή νοημοσύνη API χρέωση γίνεται κάτι περισσότερο από την ενοποίηση τιμολογίων. γίνεται ένα επίπεδο πολιτικής για να αποφασίσετε πώς εκτίθενται τα οικονομικά μοντέλα στους τελικούς χρήστες.
Τι παραμένει αβέβαιο
Το κύριο άγνωστο είναι η απόδοση σε πραγματικούς φόρτους εργασίας. Η τοποθέτηση του Haiku 5.5 από τον Anthropic ως ένα μικρό, γρήγορο μοντέλο για χρήση σε μεγάλο όγκο είναι εύλογη, αλλά η καθυστέρηση, η ποιότητα και η εξοικονόμηση κόστους μπορεί να διαφέρουν ανάλογα με τον πάροχο, την περιοχή, το μέγεθος περιβάλλοντος και το σχεδιασμό εργασίας. Η καταχώριση 1M-token του OpenRouter κάνει επίσης το μήκος του περιβάλλοντος μέρος της ιστορίας ενσωμάτωσης, αλλά οι ομάδες πρέπει ακόμα να επιβεβαιώσουν τα πρακτικά όρια και τη συμπεριφορά μέσω της επιλεγμένης διαδρομής του παρόχου τους.
Υπάρχει επίσης κίνδυνος μετανάστευσης. Εάν οι ομάδες κατευθύνουν αυτόματα όλη τη «φθηνή» εργασία στο Haiku 5.5, ενδέχεται να εξοικονομήσουν χρήματα ενώ υποβαθμίζουν λεπτές εργασίες, όπως η παρακολούθηση εντολών, η σύνθεση πολλών εγγράφων ή ο προγραμματισμός κλήσεων εργαλείων. Ένα καλύτερο μοτίβο είναι να μετακινήσετε πρώτα συγκεκριμένες κατηγορίες φόρτου εργασίας, να μετρήσετε την ποιότητα και το κόστος παραγωγής και, στη συνέχεια, να αποφασίσετε εάν δικαιολογείται η ευρύτερη δρομολόγηση.
Για πλατφόρμες τύπου Model Gate, η κυκλοφορία είναι μια υπενθύμιση ότι οι κατάλογοι μοντέλων γίνονται μηχανές τιμολόγησης. Η προσθήκη Claude Haiku 5.5 σημαίνει περισσότερα από την προσθήκη ενός αναγνωριστικού. Η πύλη πρέπει να εκθέτει τις σωστές διαδρομές παρόχου, να εμφανίζει ξεχωριστά το κόστος προσωρινής αποθήκευσης και μη κρυφής μνήμης, να υποστηρίζει κανόνες χρέωσης σε σύντομο χρονικό διάστημα και να παρέχει στις ομάδες αρκετά αναλυτικά στοιχεία για να δουν εάν η πολιτική δρομολόγησης τους λειτουργεί πραγματικά.