Το Cloudflare άλλαξε τον τρόπο με τον οποίο εμφανίζεται η χρήση της πύλης AI στα μηνιαία τιμολόγια και η προσαρμογή είναι πιο σημαντική λειτουργικά από ό,τι φαίνεται αρχικά. Σε μια καταχώριση καταγραφής αλλαγών την 1η Σεπτεμβρίου, η εταιρεία είπε ότι τα μηνιαία τιμολόγια χρήσης εμφανίζουν πλέον ένα στοιχείο γραμμής συνολικού κόστους ανά μοντέλο, αντί για ξεχωριστά στοιχεία γραμμής για τα διακριτικά εισόδου και τα διακριτικά εξόδου. Η Cloudflare είπε επίσης ότι έχει τυποποιημένα ονόματα μοντέλων σε τιμολόγια και αρχεία καταγραφής χρησιμοποιώντας ένα σταθερό αναγνωριστικό παρόχου/μοντέλου.

Η αλλαγή δεν ισχύει για τιμολόγια για αγορές πίστωσης AI Gateway. Πρόκειται για μηνιαία τιμολόγια χρήσης: τα αρχεία που χρησιμοποιούν οι ομάδες χρηματοδότησης, οι ομάδες πλατφόρμας και οι μεταπωλητές για να συμβιβάσουν την κατανάλωση αφού η κυκλοφορία έχει ήδη περάσει από την πύλη.

Για πελάτες που χρειάζονται μόνο έναν λογαριασμό υψηλού επιπέδου, η νέα μορφή μπορεί να είναι πιο ευανάγνωστη. Για ομάδες που υπολογίζουν τα περιθώρια κέρδους, κατανέμουν κόστος τεχνητής νοημοσύνης στους ενοικιαστές ή ελέγχουν το μείγμα διακριτικών ανά φόρτο εργασίας, αλλάζει πού πρέπει να διαμένει το λεπτομερές καθολικό. Το τιμολόγιο γίνεται λιγότερο τεχνούργημα λογιστικής διακριτικής και περισσότερο σύνοψη κόστους σε επίπεδο μοντέλου.

Τι άλλαξε στη χρέωση του Cloudflare AI Gateway

Μέχρι αυτήν την ενημέρωση, τα μηνιαία τιμολόγια χρήσης θα μπορούσαν να διαχωρίζουν τις χρεώσεις με διακριτικό εισόδου και διακριτικό εξόδου. Αυτή η διάκριση έχει σημασία επειδή πολλοί πάροχοι μοντέλων τιμολογούν διαφορετικά αυτές τις κατηγορίες διακριτικών. Ένας φόρτος εργασίας που στέλνει μεγάλα μηνύματα προτροπής και λαμβάνει σύντομες απαντήσεις έχει διαφορετικό προφίλ κόστους από εκείνο που στέλνει μικρά μηνύματα προτροπής και δημιουργεί μεγάλες αποκρίσεις, ακόμα κι αν και τα δύο σχετίζονται με το ίδιο μοντέλο.

Η νέα δομή τιμολογίων του Cloudflare συμπτύσσει αυτά τα ξεχωριστά στοιχεία γραμμής τύπου διακριτικού σε μια γραμμή συνολικού κόστους ανά μοντέλο. Το πρακτικό αποτέλεσμα είναι η καθαρότερη χρέωση σε επίπεδο μοντέλου, αλλά λιγότερες λεπτομέρειες σε επίπεδο τιμολογίου σχετικά με τον τρόπο παραγωγής αυτού του κόστους.

Ταυτόχρονα, η τυποποίηση των αναγνωριστικών μοντέλων στα τιμολόγια και τα αρχεία καταγραφής αντιμετωπίζει ένα διαφορετικό αλλά σχετικό πρόβλημα: το ψευδώνυμο drift. Σε συστήματα πολλαπλών μοντέλων, το ίδιο μοντέλο μπορεί να εμφανίζεται με ελαφρώς διαφορετικά ονόματα σε αρχεία καταγραφής, εξαγωγές χρέωσης, πίνακες εργαλείων, αναφορές πελατών και εσωτερικούς κανόνες δρομολόγησης. Μια συνεπής μορφή ονομασίας παρόχου/μοντέλου μειώνει τις πιθανότητες οι ομάδες χρηματοδότησης και μηχανικής να αντιστοιχίζουν μια συμβολοσειρά στα αρχεία καταγραφής χρήσης με μια ελαφρώς διαφορετική συμβολοσειρά στα τιμολόγια.

Αυτό το μέρος της αλλαγής είναι σαφώς χρήσιμο για οποιονδήποτε χρησιμοποιεί ενοποιημένο billing API. Εάν ο λογαριασμός λέει ένα πράγμα και η ροή καταγραφής λέει άλλο, η συμφωνία γίνεται μια χειροκίνητη άσκηση χαρτογράφησης. Τα τυπικά αναγνωριστικά διευκολύνουν την αξιοπιστία των αυτοματοποιημένων ενώσεων, πίνακες εργαλείων και δηλώσεων πελατών.

Γιατί έχει σημασία η ευκρίνεια των τιμολογίων

Η πιο δύσκολη αντιστάθμιση είναι η διακριτικότητα. Οι ομάδες υποδομής AI χρειάζονται συχνά περισσότερο από το συνολικό ποσό που χρεώνεται για ένα μοντέλο. Πρέπει να γνωρίζουν εάν η αύξηση του κόστους προήλθε από μεγαλύτερες προτροπές, πιο αναλυτικά αποτελέσματα, μια αλλαγή δρομολόγησης, ένα μοτίβο απώλειας προσωρινής μνήμης, έναν νέο βρόχο αντιπροσώπου ή μια ενσωμάτωση πελατών που άρχισε να στέλνει μεγάλα αρχεία ως πλαίσιο.

Μια γραμμή τιμολογίου σε επίπεδο μοντέλου μπορεί να επιβεβαιώσει το οφειλόμενο ποσό. Δεν μπορεί, από μόνο του, να εξηγήσει τη συμπεριφορά που δημιούργησε τη χρέωση. Αυτή η εξήγηση πρέπει να προέρχεται από αρχεία καταγραφής, εξαγωγές, τηλεμετρία πύλης ή ξεχωριστό καθολικό χρήσης.

Αυτό έχει μεγαλύτερη σημασία για τις επιχειρήσεις που βρίσκονται μεταξύ του παρόχου του μοντέλου και του τελικού πελάτη. Οι μεταπωλητές, οι ομάδες εσωτερικών πλατφορμών, τα προϊόντα SaaS με ενσωματωμένες λειτουργίες AI και οι εταιρείες που διαχειρίζονται τον φόρτο εργασίας των πελατών χρειάζονται όλα μια αξιόπιστη απόδοση κόστους. Εάν το τιμολόγιό τους δεν εκθέτει πλέον το κόστος εισόδου και εξόδου ως ξεχωριστές γραμμές, πρέπει να διατηρήσουν αυτήν τη διάκριση πριν από την ώρα του τιμολογίου.

Το ίδιο ζήτημα ισχύει για την αντιστροφή χρέωσης σε μεγαλύτερες εταιρείες. Μια οικονομική ομάδα μπορεί να είναι ικανοποιημένη με το "το μοντέλο X κοστίζει τόσο πολύ". Ένας υπεύθυνος μηχανικής μπορεί να χρειαστεί να γνωρίζει ότι ένας συγκεκριμένος βοηθός αποθετηρίου, ένα ρομπότ υποστήριξης ή μια ροή εργασίας εγγράφων δημιούργησε μια ασυνήθιστη ποσότητα διακριτικών εξόδου. Αυτά είναι διαφορετικά λογιστικά ερωτήματα.

Ποιος επηρεάζεται

Οι χρήστες του Direct Cloudflare AI Gateway είναι το άμεσο κοινό. Οποιαδήποτε ομάδα βασίζεται σε μηνιαία τιμολόγια ως την κύρια πηγή της αλήθειας χρέωσης θα πρέπει να ελέγξει εάν η νέα μορφή εξακολουθεί να υποστηρίζει τις εσωτερικές ανάγκες αναφορών της.

Οι χειριστές πυλών και οι μεταπωλητές API AI επηρεάζονται περισσότερο. Εάν μεταπωλούν πρόσβαση σε πολλά μοντέλα, εκδίδουν τιμολόγια πελατών ή εφαρμόζουν προσαρμοσμένες σημάνσεις, χρειάζονται τις δικές τους εγγραφές ανά αίτημα: αναγνωριστικό μοντέλου, πάροχος, διακριτικά εισόδου, διακριτικά εξόδου, αποθηκευμένα διακριτικά κατά περίπτωση, τιμή μονάδας, εφαρμοσμένη έκπτωση, κλειδί πελάτη, έργο, μισθωτής και χρονική σήμανση. Χωρίς αυτό το καθολικό, ένα απλοποιημένο ανοδικό τιμολόγιο μπορεί να καταστήσει πιο δύσκολη την επαλήθευση της κατάντη χρέωσης.

Οι προγραμματιστές που κατασκευάζουν πίνακες ελέγχου αντιμετωπίζουν παρόμοια προσαρμογή. Η τυποποίηση ονόματος μοντέλου θα πρέπει να μειώσει τα σφάλματα αντιστοίχισης, αλλά μόνο εάν τα εσωτερικά συστήματα υιοθετούν τα ίδια κανονικά αναγνωριστικά ή διατηρούν έναν σκόπιμα πίνακα ψευδωνύμων.Εδώ είναι που ένας Πίνακας εργαλείων αναλυτικών στοιχείων χρήσης API AI γίνεται κάτι περισσότερο από ευκολία αναφοράς. Γίνεται το μέρος όπου διατηρείται, ερωτάται και εξηγείται η λεπτομέρεια που αφαιρέθηκε από το τιμολόγιο.

Για τους χρήστες του Model Gate και παρόμοιους πελάτες πύλης πολλών παρόχων, το μάθημα είναι απλό: μην αντιμετωπίζετε ένα τιμολόγιο παρόχου ως τη μόνη πηγή αλήθειας. Η ενοποιημένη χρέωση είναι χρήσιμη ακριβώς επειδή οι πάροχοι μορφοποιούν, τιμολογούν και εκθέτουν διαφορετικά τη χρήση. Ένα καθολικό σε επίπεδο πύλης επιτρέπει στις ομάδες να κανονικοποιούν αυτές τις πληροφορίες προτού συμπιεστούν σε όποια μορφή τιμολογίου επιλέξει ο πάροχος.

Η αλλαγή ονόματος μοντέλου μπορεί να είναι το μεγαλύτερο μακροπρόθεσμο σήμα

Η τυποποιημένη ενημέρωση αναγνωριστικού μπορεί να διαρκέσει περισσότερο από τη συζήτηση για τη μορφή τιμολογίου. Η ονομασία μοντέλων γίνεται λειτουργικό πρόβλημα σε όλες τις στοίβες AI. Οι πάροχοι αναθεωρούν τα αναγνωριστικά μοντέλων, οι πλατφόρμες cloud τυλίγουν το ίδιο μοντέλο με ονόματα για συγκεκριμένα κανάλια, οι πύλες εισάγουν ψευδώνυμα για συμβατότητα και τα ονόματα εφαρμογών καρφιτσώνουν στα αρχεία διαμόρφωσης.

Όταν ονοματίζουν drift, πολλά πράγματα σπάνε αθόρυβα. Οι αναφορές κόστους χωρίζουν ένα μοντέλο σε πολλές σειρές. Οι έλεγχοι κατάργησης χάνουν την επισκεψιμότητα ακόμα χρησιμοποιώντας ένα παλαιότερο ψευδώνυμο. Οι πολιτικές δρομολόγησης ισχύουν για ένα όνομα αλλά όχι για ένα άλλο. Τα τιμολόγια πελατών εμφανίζουν μια ετικέτα που δεν ταιριάζει με τα αρχεία καταγραφής του προγραμματιστή.

Η κίνηση του Cloudflare προς σταθερά αναγνωριστικά παρόχου/μοντέλου αντικατοπτρίζει μια ευρύτερη ανάγκη για συστήματα Επιλογή μοντέλου τεχνητής νοημοσύνης που μπορούν να ελεγχθούν και όχι απλά. Ένα ψευδώνυμο φιλικό προς τον άνθρωπο μπορεί ακόμα να είναι χρήσιμο στο επίπεδο εφαρμογής, αλλά η χρέωση και τα αρχεία καταγραφής χρειάζονται σταθερά κανονικά ονόματα.

Η εναπομένουσα αβεβαιότητα είναι πόσα λεπτομερή δεδομένα χρήσης θα διατηρήσουν οι πελάτες του Cloudflare εκτός του τιμολογίου και πόσο εύκολα μπορούν να τα εξαγάγουν για μακροπρόθεσμη συμφωνία. Το αρχείο καταγραφής αλλαγών επιβεβαιώνει τις αλλαγές τιμολογίου και ονομασίας, αλλά δεν απαντά από μόνο του σε κάθε μεταγενέστερη λογιστική ερώτηση για μεταπωλητές ή επιχειρήσεις με προσαρμοσμένα μοντέλα αντιστροφής χρέωσης.

Η πρακτική απόκριση δεν είναι περίπλοκη, αλλά είναι επείγουσα: καταγράψτε τη χρήση σε επίπεδο διακριτικού πριν από την άφιξη του μηνιαίου τιμολογίου, κανονικοποιήστε τα αναγνωριστικά μοντέλου κατά την εσωτερική απορρόφηση και ρυθμίστε το κόστος για την εσωτερική απορρόφηση. Το τιμολόγιο του Cloudflare μπορεί τώρα να είναι πιο απλό. Οι επιχειρήσεις τεχνητής νοημοσύνης δεν πρέπει να αφήνουν τη δική τους λογιστική να γίνει λιγότερο ακριβής.