Cloudflare ha canviat com apareix l'ús d'AI Gateway a les factures mensuals, i l'ajust és més significatiu operacionalment del que sembla a primera vista. En una entrada del registre de canvis de l'1 de setembre, l'empresa va dir que les factures d'ús mensual ara mostren una línia de línia de cost total per model, en lloc de línies separades per a fitxes d'entrada i testimonis de sortida. Cloudflare també va dir que ha estandarditzat els noms dels models en les factures i els registres mitjançant un identificador coherent de proveïdor/model.
El canvi no s'aplica a les factures de compres de crèdit d'AI Gateway. Es tracta de factures d'ús mensual: els registres que fan servir els equips financers, els equips de la plataforma i els distribuïdors per conciliar el consum després que el trànsit ja hagi passat per la passarel·la.
Per als clients que només necessiten una factura d'alt nivell, el nou format pot ser més fàcil de llegir. Per als equips que calculen els marges, assignen costos d'IA als llogaters o auditen la combinació de testimonis per càrrega de treball, canvia on ha de viure el llibre major detallat. La factura s'està convertint en menys un artefacte de comptabilitat de testimonis i més en un resum de costos a nivell de model.
Què va canviar a la facturació de Cloudflare AI Gateway
Fins a aquesta actualització, les factures d'ús mensuals podrien separar els càrrecs dels testimonis d'entrada i dels testimonis de sortida. Aquesta distinció és important perquè molts proveïdors de models valoren aquestes classes de testimonis de manera diferent. Una càrrega de treball que envia sol·licituds grans i rep respostes breus té un perfil de cost diferent d'un que envia sol·licituds petites i genera respostes llargues, fins i tot si ambdues s'associen al mateix model.
La nova estructura de factura de Cloudflare col·lapsa aquestes línies de comanda separades de tipus testimoni en una línia de cost total per model. L'efecte pràctic és una facturació més neta a nivell de model, però menys detalls a nivell de factura sobre com es va produir aquest cost.
Al mateix temps, l'estandardització dels identificadors de models a través de factures i registres soluciona un problema diferent però relacionat: la deriva d'àlies. En sistemes multimodel, el mateix model pot aparèixer amb noms lleugerament diferents als registres, exportacions de facturació, taulers de control, informes de clients i regles d'encaminament intern. Un format coherent de nomenclatura del proveïdor/model redueix les possibilitats que els equips financers i d'enginyeria facin coincidir una cadena dels registres d'ús amb una cadena lleugerament diferent de les factures.
Aquesta part del canvi és clarament útil per a qualsevol persona que utilitzi facturació unificada de l'APIAI AI. Si la factura diu una cosa i el flux de registre en diu una altra, la conciliació es converteix en un exercici de mapeig manual. Els identificadors estàndard fan que les unions automatitzades, els taulers de control i les declaracions dels clients siguin més fàcils de confiar.
Per què és important la granularitat de les factures
La compensació més difícil és la granularitat del testimoni. Els equips d'infraestructura d'IA sovint necessiten més que l'import total cobrat per un model. Han de saber si un augment de costos prové de sol·licituds més llargues, sortides més detallades, un canvi d'encaminament, un patró de pèrdua de memòria cau, un nou bucle d'agent o una integració del client que va començar a enviar fitxers grans com a context.
Una línia de factura a nivell de model pot confirmar l'import degut. No pot, per si sol, explicar el comportament que va crear la càrrega. Aquesta explicació ha de provenir dels registres, les exportacions, la telemetria de la passarel·la o un registre d'ús independent.
Això és més important per a les empreses que se situen entre el proveïdor de models i el client final. Els distribuïdors, els equips de la plataforma interna, els productes SaaS amb funcions d'IA incrustades i les agències que gestionen les càrregues de treball dels clients necessiten una atribució de costos defensable. Si la seva factura amunt ja no exposa els costos dels testimonis d'entrada i sortida com a línies separades, han de conservar aquesta distinció abans de l'hora de facturació.
El mateix problema s'aplica a la devolució de càrrecs a empreses més grans. Un equip financer pot estar satisfet amb "el model X costa tant". És possible que un gestor d'enginyeria necessiti saber que un assistent de dipòsit, un bot de suport o un flux de treball de documents específics van generar una quantitat inusual de fitxes de sortida. Són preguntes de comptabilitat diferents.
Qui està afectat
Els usuaris directes de Cloudflare AI Gateway són el públic immediat. Qualsevol equip que confii en les factures mensuals com a font principal de veritat de facturació hauria de revisar si el nou format encara compleix les seves necessitats d'informes interns.
Els operadors de passarel·les i els distribuïdors d'API d'IA es veuen afectats més profundament. Si venen accés a diversos models, emeten factures de clients o apliquen marques personalitzades, necessiten els seus propis registres per sol·licitud: identificador de model, proveïdor, testimonis d'entrada, testimonis de sortida, testimonis en memòria cau si escau, preu unitari, descompte aplicat, clau de client, projecte, llogater i marca de temps. Sense aquest llibre major, una factura amunt simplificada pot fer que la facturació posterior sigui més difícil de verificar.
Els desenvolupadors que creen taulers de control s'enfronten a un ajust similar. L'estandardització del nom del model hauria de reduir els errors de mapatge, però només si els sistemes interns adopten els mateixos identificadors canònics o mantenen una taula d'àlies deliberada.Aquí és on un tauler d'anàlisi d'ús de l'API AI es converteix en més que una comoditat per a la generació d'informes. Es converteix en el lloc on es conserva, es consulta i s'explica el detall eliminat de la factura.
Per als usuaris de Model Gate i clients similars de passarel·la multiproveïdor, la lliçó és senzilla: no tracteu una factura de proveïdor com l'única font de veritat. La facturació unificada és útil precisament perquè els proveïdors formen, preus i exposen l'ús de manera diferent. Un registre a nivell de passarel·la permet als equips normalitzar aquesta informació abans de comprimir-la en el format de factura que triï un proveïdor.
El canvi de nom del model pot ser el senyal més gran a llarg termini
L'actualització d'identificador estandarditzat pot perdurar més que el debat sobre el format de la factura. La denominació de models s'està convertint en un problema operatiu a les piles d'IA. Els proveïdors revisen els identificadors de models, les plataformes en núvol embolcallen el mateix model amb noms específics del canal, les passarel·les introdueixen àlies per a la compatibilitat i les aplicacions fixen els noms als fitxers de configuració.
Quan es denominen derivacions, diverses coses es trenquen en silenci. Els informes de costos divideixen un model en diverses files. El desús comprova el trànsit perdut encara utilitzant un àlies anterior. Les polítiques d'encaminament s'apliquen a un nom però no a un altre. Les factures dels clients mostren una etiqueta que no coincideix amb els registres del desenvolupador.
El moviment de Cloudflare cap a identificadors de proveïdors/models coherents reflecteix una necessitat més àmplia de sistemes de selecció de models d'IA auditables, no només convenients. Un àlies amigable per a persones encara pot ser útil a la capa d'aplicació, però la facturació i els registres necessiten noms canònics estables.
La incertesa restant és quantes dades d'ús detallades conservaran els clients de Cloudflare fora de la factura i amb quina facilitat poden exportar-les per a una reconciliació a llarg termini. El registre de canvis confirma els canvis en la factura i els noms, però no respon per si mateix a totes les preguntes de comptabilitat posteriors per a distribuïdors o empreses amb models de devolució de càrrec personalitzats.
La resposta pràctica no és complicada, però és urgent: captureu l'ús a nivell de testimoni abans que arribi la factura mensual, normalitzeu els identificadors del model a la ingestió i feu que la facturació interna de l'anàlisi de costos i la facturació interna del client. La factura de Cloudflare ara pot ser més senzilla. Les empreses d'IA no haurien de deixar que la seva pròpia comptabilitat sigui menys precisa.