Anthropic je predstavil Claude Haiku 5.5, nov majhen Claude model, namenjen obsežnim in stroškovno občutljivim API delovnim obremenitvam. Lansiranje je manj pomembno, ker se je v katalogu pojavil drug model, in bolj, ker spremeni ekonomiko rutinskega Claude prometa: klasifikacija, seštevanje, delo podagentov, koraki uporabe brskalnika, zgoščevanje in drugi klici, ki ne potrebujejo vedno večjega modela.

Naslovna cena je agresivna. Anthropic navaja Claude Haiku 5.5 pri 0,10 USD na milijon vhodnih žetonov in 0,50 USD na milijon izhodnih žetonov za pozive do 100.000 žetonov, z višjimi stopnjami za pozive nad tem pragom. Podjetje pravi, da je model na voljo na Claude platformi in prek Amazon Web Services, Google Cloud in Microsoft Azure. OpenRouter navaja tudi Claude Haiku 5.5 s kontekstnim oknom z 1 milijonom žetonov in razpoložljivostjo pri več ponudnikih.

Hkrati je Anthropic znižal Claude ceno za branje predpomnilnika Sonnet 5.5 z 0,20 USD na 0,10 USD na milijon žetonov. To drugo spremembo je zlahka spregledati, vendar je morda prav tako pomembna za ekipe, ki znova uporabljajo dolge sistemske pozive, repozitorije, dokumentacijo ali stanje pogovorov v številnih klicih.

Kaj se je spremenilo

Claude Haiku 5.5 ponuja razvijalcem cenejšo Claude-družinsko možnost za delo, ki je občutljivo na zakasnitev, se ponavlja ali ima velik obseg. V praksi to povzroča pritisk na politike usmerjanja. Ekipa bo morda želela haiku za ekstrakcijo, moderiranje podobno triažo, kratke povzetke in agentsko knjigovodstvo, medtem ko bo obdržala Sonnet ali večji Claude model za težje razmišljanje ali ustvarjanje strank.

Ta delitev ne zadeva samo kode aplikacije. Večmodelni API prehod za ekipe mora vedeti, kateri navzgornji tokovi prenašajo model, kako ga vsak ponudnik izpostavi, katere kontekstne omejitve veljajo in kako naj se obnaša samodejni preklop, ko ena pot v oblaku ni na voljo. Če prehod obravnava »Claude Haiku 5.5« kot eno ravno kataloško vrstico, lahko skrije materialne razlike v dostopu ponudnika, omejitvah hitrosti in obravnavanju konteksta.

Cene imajo tudi obliko, ki jo morajo sistemi obračunavanja razumeti. Javna cena Anthropic ni enotna univerzalna stopnja vhodnega žetona; navedena nizka stopnja velja za pozive do 100.000 žetonov, z višjimi stopnjami nad tem. To pomeni, da mora merjenje uporabe ohraniti takojšnjo dolžino in uporabiti pravilen pas. Povprečenje stroškov po dejstvu je morda sprejemljivo za grobo nadzorno ploščo, vendar je slabo za račune strank, marže preprodajalcev ali notranje povratne bremenitve.

Zakaj je izrez predpomnilnika pomemben

Znižanje cene branja predpomnilnika Sonnet 5.5 kaže na širši vzorec v ekonomiji modela. Pri številnih delovnih obremenitvah posrednikov in kodiranja najcenejša zahteva ni vedno tista, poslana najmanjšemu modelu. Večji model s pogosto ponovno uporabljenim predpomnjenim kontekstom je lahko cenejši ali vsaj bolj predvidljiv kot večkratno pošiljanje celotnega konteksta manjšemu.

To je še posebej pomembno za agente za kodiranje in dolgotrajne pomočnike. Pogosto prenašajo zemljevide skladišč, navodila za orodja, predhodne povzetke in besedilo pravilnika na številnih zavojih. Če postane branje predpomnilnika cenejše, se vprašanje usmerjanja spremeni iz "kateri model ima najnižjo vhodno ceno?" na "katera kombinacija modela, predpomnjenega konteksta in vrste opravila daje najboljši rezultat stroškovne kakovosti?"

Za skupine platforme je operativna posledica jasna: računovodstvo žetonov mora ločiti običajne vhodne žetone od branja predpomnilnika. Njihovo mešanje lahko popači analizo marž in povzroči, da je en potek dela videti dražji, kot je. Za AI API operacijo preprodajalcev ekipo lahko ta razlika odloči, ali je račun stranke dobičkonosen, podcenjen ali nepravilno zadušen.

Koga to zadeva

Razvijalci, ki gradijo agentske sisteme, so najbolj neposredna publika. Haiku 5.5 jim daje še enega kandidata za podagente, stiskanje, strukturirano ekstrakcijo, čiščenje rezultatov iskanja, predobdelavo dokumentov in druga opravila, ki se večkrat izvajajo znotraj večjega delovnega toka. Če so ti klici trenutno privzeto namenjeni Sonnetu, lahko novi model zniža stroške, ne da bi spremenil vidno izkušnjo izdelka. To še vedno potrebuje testiranje; Trditev prodajalcev o zmogljivosti in povprečnih prihrankih ne bi smeli obravnavati kot nadomestek za vrednotenje glede na delovno obremenitev.

Podjetja, ki uporabljajo več Claude dostopnih poti, imajo prav tako čiščenje. Razpoložljivost v Anthropic, AWS, Google Cloud, Azure in usmerjevalnikih v slogu OpenRouter je uporabna, vendar povzroča težave pri preslikavi kataloga. Nabava bo morda raje izbrala eno tržnico v oblaku, inženiring ima raje neposredni Anthropic dostop, prehod pa bo morda potreboval nadomestne poti v obeh. Samo ime modela ni dovolj za določitev poti.

Prodajalni posredniki in partnerske platforme se soočajo z ostrejšo različico iste težave. Stranka, ki kupi Claude dostop prek portala, pričakuje preprosto ceno in zanesljivo končno točko. Za tem se mora operater ukvarjati z razpoložljivostjo, specifično za ponudnika, cenovnimi pasovi takojšnje dolžine, obračunavanjem branja predpomnilnika, razlikami v omejitvah hitrosti in morebitnimi maržami, specifičnimi za stranko. To je ravno tam, kjer poenoteno AI API obračunavanje postane več kot konsolidacija računov; postane plast politike za odločanje o tem, kako je ekonomija modela izpostavljena končnim uporabnikom.

Kaj ostaja negotovo

Glavna neznanka je zmogljivost pri dejanskih delovnih obremenitvah. Anthropic pozicioniranje Haiku 5.5 kot majhnega, hitrega modela za uporabo v velikem obsegu je verjetno, vendar se zakasnitev, kakovost in prihranki pri stroških lahko razlikujejo glede na ponudnika, regijo, velikost konteksta in zasnovo naloge. OpenRouterjev seznam 1M-žetonov prav tako vključuje dolžino konteksta v zgodbo o integraciji, vendar morajo ekipe še vedno potrditi praktične omejitve in vedenje prek izbrane poti ponudnika.

Obstaja tudi tveganje selitve. Če ekipe samodejno preusmerijo vse »poceni« delo v Haiku 5.5, lahko prihranijo denar, medtem ko zmanjšajo subtilne naloge, kot je sledenje navodilom, sinteza več dokumentov ali načrtovanje klicev orodij. Boljši vzorec je, da najprej premaknete določene razrede delovne obremenitve, izmerite kakovost in stroške izhoda, nato pa se odločite, ali je širše usmerjanje upravičeno.

Za platforme v slogu Model Gate je lansiranje opomnik, da katalogi modelov postajajo mehanizmi za oblikovanje cen. Dodajanje Claude Haiku 5.5 pomeni več kot dodajanje ID-ja. Prehod mora izpostaviti prave poti ponudnika, ločeno prikazati stroške predpomnilnika in nepredpomnilnika, podpirati pravila za zaračunavanje po dolžini poziva in dati ekipam dovolj analitike, da vidijo, ali njihova politika usmerjanja dejansko deluje.