Το OpenAI μειώνει την τιμολόγηση του GPT-5.6 Luna κατά 80% και αντικαθιστά την επεξεργασία προτεραιότητας με τη λειτουργία Sol Fast

Το OpenAI έχει κάνει μια σημαντική αλλαγή στην τιμολόγηση και τον λανθάνοντα χρόνο στη σειρά GPT-5.6 API του, μειώνοντας τις τιμές GPT-5.6 Luna API κατά 80%, μειώνοντας τις τιμές GPT-5.6 Terra κατά 20% και αντικαθιστώντας την Προτεραιότητα Επεξεργασίας για το GPT-5.6 Sol με μια νέα ενημέρωση Γρήγορης λειτουργίας.

Οι βασικές αλλαγές του Ιουλίου, δημοσιεύτηκαν στις οικονομικές αλλαγές, Ιουλίου 2023, στις βασικές αλλαγές, Ιούλιος 2, 3, δημοσίευσε τις βασικές αλλαγές, 3 Ιουλίου 2006 για προγραμματιστές και επιχειρήσεις που εκτελούν φόρτους εργασίας συμπερασμάτων μεγάλου όγκου. Η τιμολόγηση του Terra API είναι πλέον 2 $ ανά εκατομμύριο διακριτικά εισόδου και 12 $ ανά εκατομμύριο μάρκες εξόδου. Η τιμολόγηση του Luna είναι τώρα 0,20 $ ανά εκατομμύριο μάρκες εισόδου και 1,20 $ ανά εκατομμύριο μάρκες εξόδου. Το OpenAI λέει ότι το Terra και το Luna παραμένουν διαθέσιμα στο ChatGPT Work, το Codex και το OpenAI API, ενώ οι αλλαγές τιμολόγησης αρχίζουν επίσης να κυκλοφορούν στο AWS αργότερα την ίδια μέρα.

Η αλλαγή δεν είναι απλώς μια έκπτωση. Αλλάζει τον τρόπο με τον οποίο οι ομάδες πρέπει να σκέφτονται για την επιλογή επιπέδου μοντέλου, τους εναλλακτικούς κανόνες, τους προϋπολογισμούς λανθάνοντος χρόνου και τον έλεγχο κόστους API AI. Το Luna τοποθετείται τώρα πολύ πιο επιθετικά για φόρτους εργασίας χαμηλότερου κόστους, ενώ το Terra γίνεται λιγότερο δαπανηρό για εργασίες που χρειάζονται ισχυρότερη ικανότητα, αλλά δεν δικαιολογούν τη βαθμίδα υψηλότερης καθυστέρησης ή υψηλότερου κόστους. Η Sol, εν τω μεταξύ, έχει τώρα μια πιο ξεκάθαρη επιλογή premium ταχύτητας μέσω της Γρήγορης λειτουργίας.

Τι άλλαξε στην τιμολόγηση API του OpenAI

Ο αριθμός επικεφαλίδας είναι η μείωση 80% για το GPT-5.6 Luna. Με 0,20 $ ανά εκατομμύριο διακριτικά εισόδου και 1,20 $ ανά εκατομμύριο διακριτικά εξόδου, το Luna γίνεται πολύ πιο σχετικός υποψήφιος για μεγάλης κλίμακας σύνοψη, ταξινόμηση, εξαγωγή, πρόχειρα υποστήριξης πελατών, ελαφριά βοήθεια κωδικοποίησης και εργασίες επεξεργασίας στο παρασκήνιο όπου το κόστος μονάδας έχει μεγαλύτερη σημασία από την κορυφαία ποιότητα συλλογιστικής.

Το GPT-5,20% σημαίνει ήδη μικρότερη χρήση για τα συστήματα παραγωγής, αλλά η χρήση Terra είναι ακόμα πιο μικρή, αλλά η χρήση του Terra είναι ήδη μικρότερη. Terra για πιο ικανές απαντήσεις. Η νέα τιμή API του είναι 2 $ ανά εκατομμύριο διακριτικά εισόδου και 12 $ ανά εκατομμύριο μάρκες εξόδου. Για εφαρμογές με βαριά παραγωγή αποτελεσμάτων, όπως η σύνταξη αναφορών, η δημιουργία κώδικα, η διδασκαλία ή ο προγραμματισμός πρακτόρων, η κύρια μεταβλητή παραμένει η πλευρά του λογαριασμού εξόδου. Ακόμη και μια μικρή περικοπή ποσοστού μπορεί να γίνει ουσιαστική σε κλίμακα.

Το OpenAI άλλαξε επίσης το προϊόν καθυστέρησης γύρω από το GPT-5.6 Sol. Η γρήγορη λειτουργία αντικαθιστά την επεξεργασία προτεραιότητας στο API, παραμένει συμβατή με αιτήματα που έχουν επισημανθεί ως προτεραιότητα και περιγράφεται από το OpenAI ως έως και 2,5 φορές ταχύτερη από την τυπική επεξεργασία σε διπλάσια τιμή. Αυτό δημιουργεί ένα πιο σαφές αντάλλαγμα: οι προγραμματιστές μπορούν να πληρώσουν περισσότερα για χαμηλότερο λανθάνοντα χρόνο σε επείγοντα αιτήματα, διατηρώντας παράλληλα φόρτο εργασίας ρουτίνας στην Τυπική επεξεργασία.

Για τις ομάδες που συγκρίνουν τις φθηνότερες επιλογές API μοντέλου τεχνητής νοημοσύνης, η περικοπή Luna είναι το μέρος που είναι πιο πιθανό να αναγκάσει έναν επανυπολογισμό. Φορτοί εργασίας ευαίσθητοι στην τιμή που μπορεί προηγουμένως να είχαν δρομολογηθεί σε μικρότερα μοντέλα από άλλους παρόχους, παλαιότερα μοντέλα OpenAI ή αναπτυγμένες ανοιχτού βάρους μπορεί τώρα να χρειάζονται άλλο ένα συγκριτικό πέρασμα έναντι του νέου προφίλ κόστους της Luna.

Γιατί αυτό έχει σημασία για τους προγραμματιστές και τις ομάδες προϊόντων

Το κόστος εφαρμογής AI σπάνια καθορίζεται από την τιμή ενός μοντέλου και μόνο. Ο πραγματικός λογαριασμός εξαρτάται από τη στρατηγική δρομολόγησης, το μέγεθος προτροπής, τη διάρκεια ολοκλήρωσης, τη συμπεριφορά επανάληψης δοκιμής, την προσωρινή αποθήκευση, τη συγχρονικότητα χρήστη και πόσο συχνά ένα σύστημα κλιμακώνεται από ένα φθηνότερο μοντέλο σε ένα πιο ικανό. Οι νέες τιμές του OpenAI καθιστούν αυτές τις αποφάσεις δρομολόγησης πιο σημαντικές, όχι λιγότερο.

Ένα κοινό μοτίβο παραγωγής είναι η χρήση ενός μοντέλου χαμηλότερου κόστους για τα περισσότερα αιτήματα και η κλιμάκωση μόνο όταν η εργασία απαιτεί βαθύτερη αιτιολογία, καλύτερη απόδοση κωδικοποίησης, ισχυρότερη παρακολούθηση εντολών ή μεγαλύτερη ακρίβεια. Με το Luna τώρα πολύ φθηνότερο, οι ομάδες μπορούν να επιλέξουν να στείλουν περισσότερη κίνηση στο πρώτο πέρασμα στο Luna, να δεσμεύσουν το Terra για εργασίες μέσης πολυπλοκότητας και να χρησιμοποιήσουν το Sol για τις πιο ευαίσθητες στον λανθάνοντα χρόνο ή στις δυνατότητες διαδρομές.

Η γρήγορη λειτουργία προσθέτει μια δεύτερη διάσταση σε αυτήν την απόφαση. Ένα chatbot υποστήριξης, για παράδειγμα, μπορεί να μην χρειάζεται premium latency για τη σύνοψη back-office, αλλά μπορεί να χρειάζεται ταχύτερους χρόνους απόκρισης όταν ένας πελάτης που πληρώνει περιμένει σε μια ζωντανή συνομιλία. Ένας βοηθός κωδικοποίησης μπορεί να εκτελεί τυπική επεξεργασία για αναδιατυπωτές παρασκηνίου, αλλά χρησιμοποιεί τη Γρήγορη λειτουργία όταν ένας προγραμματιστής έχει αποκλειστεί σε μια διαδραστική περίοδο λειτουργίας.

Σε αυτό το σημείο γίνεται λειτουργικά χρήσιμη μια πύλη API AI ή ένα επίπεδο API πολλαπλών μοντέλων. Αντί να κωδικοποιούν ονόματα μοντέλων και σημαίες προτεραιότητας σε μια εφαρμογή, οι ομάδες μπορούν να συγκεντρώνουν πολιτικές: να δρομολογούν αιτήματα ρουτίνας στο Luna, να κλιμακώνουν διφορούμενες περιπτώσεις στο Terra, να δεσμεύουν τη λειτουργία Sol Fast για διαδρομές υψηλής αξίας ή προς το χρήστη και να εφαρμόζουν ανώτατα όρια προϋπολογισμού ανά προϊόν, ομάδα ή πελάτη. Το Model Gate έχει μια πρακτική σύνδεση εδώ, επειδή η δρομολόγηση συμβατή με OpenAI, η ενοποιημένη χρέωση, η διαχείριση κλειδιού API και τα αναλυτικά στοιχεία χρήσης είναι ακριβώς τα σημεία ελέγχου που χρειάζονται οι ομάδες όταν ένας πάροχος αλλάζει τιμές ή λειτουργίες καθυστέρησης.

Η ευκαιρία ελέγχου κόστους είναι πραγματική, αλλά όχι αυτόματη

Οι χαμηλότερες τιμές μοντέλου δεν εγγυώνται χαμηλότερο λογαριασμό.Πολλές ομάδες ανταποκρίνονται σε φθηνότερα συμπεράσματα αυξάνοντας τη χρήση: μεγαλύτερες προτροπές, περισσότερα βήματα αντιπροσώπου, περισσότερες επαναλήψεις, περισσότερες εναλλακτικές λύσεις που δημιουργούνται ή ευρύτερες διαθέσεις λειτουργιών. Αυτή μπορεί να είναι η σωστή απόφαση προϊόντος, αλλά μπορεί να διαγράψει την αναμενόμενη εξοικονόμηση, εάν η χρήση δεν μετρηθεί προσεκτικά.

Το άμεσο καθήκον για τις ομάδες μηχανικών και χρηματοοικονομικών είναι να συγκρίνουν το παλιό και το νέο μικτό κόστος. Οι φόρτοι εργασίας με σύντομες εισόδους και μεγάλες εξόδους θα ωφεληθούν διαφορετικά από τους φόρτους εργασίας που κυριαρχούνται από το πλαίσιο ανάκτησης ή τα μεγάλα μηνύματα. Οι εφαρμογές που βασίζονται ήδη σε μεγάλο βαθμό στο Terra θα έχουν άμεση μείωση, ενώ οι εφαρμογές που μπορούν να μετακινήσουν με ασφάλεια την κυκλοφορία από πιο ακριβά επίπεδα στο Luna ενδέχεται να έχουν μεγαλύτερα κέρδη.

Οι προγραμματιστές θα πρέπει επίσης να δοκιμάσουν ξανά την ποιότητα, τον λανθάνοντα χρόνο και τη συμπεριφορά αποτυχίας κάτω από ρεαλιστικές προτροπές. Ένα φθηνότερο μοντέλο είναι φθηνότερο μόνο εάν λύνει την εργασία αξιόπιστα. Εάν το Luna απαιτεί περισσότερες επαναλήψεις, μεγαλύτερες προτροπές ή πρόσθετα βήματα επικύρωσης για μια συγκεκριμένη περίπτωση χρήσης, το πραγματικό πλεονέκτημα κόστους μπορεί να είναι μικρότερο από αυτό που υποδηλώνει η τιμή καταλόγου. Αντίθετα, εάν αποδίδει αρκετά καλά για μεγάλο μερίδιο εργασιών ρουτίνας, η νέα τιμή θα μπορούσε να αλλάξει ουσιαστικά την αρχιτεκτονική των ευαίσθητων στο κόστος προϊόντων τεχνητής νοημοσύνης.

Τα αναλυτικά στοιχεία χρήσης γίνονται ιδιαίτερα σημαντικά μετά από μια αλλαγή τιμολόγησης. Οι ομάδες πρέπει να δουν ποια μοντέλα χρησιμοποιούνται, ποιες διαδρομές δημιουργούν τα περισσότερα διακριτικά εξόδου, ποιες δαπάνες από πελάτες ή εσωτερικές ομάδες οδηγούν και πού ενεργοποιούνται οι λειτουργίες λανθάνοντος χρόνου υψηλής ποιότητας. Χωρίς αυτήν την ορατότητα, η γρήγορη λειτουργία θα μπορούσε να γίνει ένας απαρατήρητος πολλαπλασιαστής κόστους.

Αυτό που παραμένει αβέβαιο

Το OpenAI αποδίδει μέρος της βελτίωσης του κόστους εξυπηρέτησης στο GPT-5.6 Sol βοηθώντας στη βελτιστοποίηση της υποδομής παραγωγής. Αυτός είναι ένας επιχειρησιακός ισχυρισμός πρώτου μέρους και το δημόσιο υλικό δεν παρέχει ανεξάρτητο έλεγχο της εξοικονόμησης υποδομής πίσω από τις μειώσεις τιμών.

Είναι επίσης πολύ νωρίς για να γνωρίζουμε πώς θα αντιδράσουν οι ανταγωνιστές. Οι μεγάλες περικοπές στην τιμολόγηση της Luna ασκούν πίεση σε άλλους παρόχους φιλοξενούμενων μοντέλων, πλατφόρμες ανοιχτών μοντέλων και σελίδες τιμολόγησης πύλης. Η ευρύτερη αντίδραση της αγοράς θα εξαρτηθεί από τη συγκριτική ποιότητα, τον λανθάνοντα χρόνο, τα όρια διεκπεραίωσης, τους εταιρικούς όρους και το αν άλλοι πάροχοι ακολουθούν μειώσεις δικές τους.

Για τις επιχειρήσεις, η ασφαλέστερη απάντηση δεν είναι να αντιμετωπίζουν την ενημέρωση ως μια απλή νίκη προμήθειας. Θα πρέπει να ενεργοποιήσει μια αναθεώρηση δρομολόγησης. Ποιες εργασίες μπορούν να μετακινηθούν στο Luna; Ποιο πρέπει να μείνει στο Terra; Ποιοι χρειάζονται λειτουργία Sol Fast; Ποιοι πελάτες ή εσωτερικές ομάδες επιτρέπεται να χρησιμοποιούν premium latency; Αυτές οι αποφάσεις θα καθορίσουν εάν η νέα τιμολόγηση θα γίνει μια σταθερή βελτίωση του περιθωρίου ή απλώς ένας άλλος τρόπος για να επεκταθεί η ζήτηση συμπερασμάτων.