Anthropic bemutatta a Claude Haiku 5.5-öt, egy új, kisméretű Claude modellt, amely a nagy volumenű és költségérzékeny API munkaterhelésekre irányul. Az indítás kevésbé számít, mert egy másik modell jelent meg a katalógusban, és inkább azért, mert megváltoztatja a rutin Claude forgalom gazdaságosságát: osztályozás, összegzés, segédügynöki munka, böngészőhasználati lépések, tömörítés és egyéb hívások, amelyekhez nem mindig van szükség nagyobb modellre.
A főoldali ár agresszív. A Anthropic a Claude Haiku 5.5-öt sorolja fel millió bemeneti tokenenként 0,10 USD-ért és millió kimeneti tokenenként 0,50 USD-ért 100 000 tokenig, a küszöbérték feletti promptok díja pedig magasabb. A vállalat szerint a modell elérhető a Claude Platformon, valamint az Amazon Web Services, a Google Cloud és a Microsoft Azure szolgáltatáson keresztül. Az OpenRouter a Claude Haiku 5.5-öt is felsorolja 1 millió token kontextusablakkal és több szolgáltató elérhetőségével.
Ugyanakkor a Anthropic Claude Sonnet 5.5 gyorsítótár-olvasási árat 0,20 dollárról 0,10 dollárra csökkentette millió tokenenként. A második változtatást könnyű kihagyni, de ugyanolyan fontos lehet azoknak a csapatoknak, akik sok hívás során újra felhasználják a hosszú rendszerparancsokat, adattárakat, dokumentációt vagy beszélgetési állapotot.
Mi változott
Claude A Haiku 5.5 olcsóbb Claudecsaládi lehetőséget kínál a fejlesztőknek a késleltetésre érzékeny, ismétlődő vagy nagy volumenű munkákhoz. A gyakorlatban ez nyomást gyakorol az útválasztási politikákra. Előfordulhat, hogy egy csapat a Haiku-t kivonatoláshoz, moderáláshoz hasonló triage-hez, rövid összefoglalókhoz és ügynöki könyveléshez kívánja, míg a Sonnet vagy egy nagyobb Claude modell megtartását a keményebb érveléshez vagy az ügyfelekkel való generáláshoz.
Ez a felosztás nem csak az alkalmazáskóddal kapcsolatos. A többmodell API átjárónak csapatok számára tudnia kell, hogy mely upstream-ek hordozzák a modellt, hogyan teszik közzé az egyes szolgáltatók, milyen kontextuskorlátozások vonatkoznak rájuk, és hogyan viselkedjen a feladatátvétel, ha egy felhőút nem érhető el. Ha egy átjáró a „Claude Haiku 5.5”-et egyetlen katalógussorként kezeli, elrejtheti a lényeges különbségeket a szolgáltatói hozzáférésben, a díjkorlátokban és a kontextuskezelésben.
Az árképzésnek olyan alakja is van, amelyet a számlázási rendszereknek meg kell érteniük. Anthropic nyilvános ára nem egyetlen univerzális input-token árfolyam; a felsorolt alacsony díj 100 000 tokenig terjedő promptokra vonatkozik, ezen felül magasabb árakkal. Ez azt jelenti, hogy a használati mérésnek meg kell őriznie az azonnali hosszt és a megfelelő sávot kell alkalmaznia. A költségek utólagos átlagolása elfogadható lehet egy durva irányítópulton, de gyenge az ügyfélszámlák, a viszonteladói árrések vagy a belső visszaterhelések esetében.
Miért fontos a gyorsítótár kivágása
A Sonnet 5.5 gyorsítótár-olvasási árcsökkentése a modellgazdaságtan szélesebb mintájára utal. Számos ügynöki és kódolási munkaterhelés esetén a legolcsóbb kérés nem mindig a legkisebb modellnek küldött kérés. Az erősen újrafelhasznált gyorsítótárazott kontextussal rendelkező nagyobb modell olcsóbb vagy legalábbis kiszámíthatóbb lehet, mint a teljes kontextus többszöri elküldése egy kisebbre.
Ez különösen fontos a kódoló ügynökök és a régóta működő asszisztensek esetében. Gyakran hordoznak tárolótérképeket, szerszám-utasításokat, előzetes összefoglalókat és szabályzatszövegeket sok fordulón keresztül. Ha a gyorsítótár olvasása olcsóbbá válik, az útválasztási kérdés „melyik modellnek a legalacsonyabb a bemeneti ára?” helyett megváltozik. a „modell, a gyorsítótárazott kontextus és a feladattípus melyik kombinációja hozza a legjobb költség-minőségű eredményt?”
A platformcsapatok számára a működési következmény egyértelmű: a token-elszámolásnak el kell választania a szokásos bemeneti tokeneket a gyorsítótár-olvasásoktól. Ezek összevonása torzíthatja az árrés elemzését, és egy munkafolyamat drágábbnak tűnik, mint amilyen. Az AI API viszonteladói műveletek csapata számára ez a megkülönböztetés eldöntheti, hogy egy ügyfélfiók nyereséges, alulárazott vagy helytelenül korlátozva van-e.
Kit érint
A fejlesztők az épületügynök-rendszerek jelentik a legközvetlenebb közönséget. A Haiku 5.5 újabb jelöltet ad a segédanyagokhoz, a tömörítéshez, a strukturált extraháláshoz, a keresési eredmények tisztításához, a dokumentumok előfeldolgozásához és más olyan feladatokhoz, amelyek sokszor lefutnak egy nagyobb munkafolyamatban. Ha ezek a hívások jelenleg alapértelmezés szerint a Sonnethez mennek, az új modell csökkentheti a költségeket a látható termékélmény megváltoztatása nélkül. Ez még tesztelésre szorul; A teljesítményre és az átlagos megtakarításokra vonatkozó szállítói állítások nem helyettesítik a munkaterhelés-specifikus értékelést.
Atöbb Claude hozzáférési útvonalat használó vállalkozásoknak is meg kell tisztítani. A Anthropic, AWS, Google Cloud, Azure és OpenRouter-stílusú útválasztók elérhetősége hasznos, de katalógus-leképezési problémát okoz. Előfordulhat, hogy a beszerzés előnyben részesít egy felhőpiacot, a mérnökök a közvetlen Anthropic hozzáférést részesíthetik előnyben, és egy átjárónak mindkettőn tartalék útvonalakra lehet szüksége. A modellnév önmagában nem elegendő az útvonal meghatározásához.
A viszonteladók és a partnerplatformok ugyanazon probléma élesebb változatával szembesülnek. Egy portálon keresztül Claude hozzáférést vásárló ügyfél egyszerű árat és megbízható végpontot vár el. E mögött az üzemeltetőnek kell kezelnie a szolgáltató-specifikus rendelkezésre állást, a prompt-hosszúságú ársávokat, a gyorsítótár-olvasási elszámolást, a díjlimit-különbségeket és esetleg az ügyfél-specifikus árréseket. Pontosan ez az, ahol az unified AI API billing több lesz, mint a számlakivonat; politikai réteggé válik annak eldöntésében, hogy a modell-gazdaságosság hogyan érhető el a végfelhasználók számára.
Ami még bizonytalan
A fő ismeretlen a valós terhelés melletti teljesítmény. A Anthropic szerint a Haiku 5.5 kicsi, gyors modellként nagy mennyiségben használható, elfogadható, de a késleltetés, a minőség és a költségmegtakarítás szolgáltatótól, régiótól, környezetmérettől és feladattervezéstől függően változhat. Az OpenRouter 1M-token listája a kontextushosszt is az integrációs történet részévé teszi, de a csapatoknak továbbra is meg kell erősíteniük a gyakorlati korlátokat és viselkedést a választott szolgáltatói útvonalon keresztül.
Van egy migrációs kockázat is. Ha a csapatok minden „olcsó” munkát automatikusan a Haiku 5.5-re irányítanak, pénzt takaríthatnak meg, miközben lerontják az olyan finom feladatokat, mint az utasítások követése, a több dokumentum szintézise vagy az eszközhívás-tervezés. Jobb minta, ha először meghatározott munkaterhelési osztályokat helyez át, méri a kimeneti minőséget és a költségeket, majd dönti el, hogy indokolt-e a szélesebb körű irányítás.
A Model Gate stílusú platformok esetében a bevezetés emlékeztet arra, hogy a modellkatalógusok árképzési motorokká válnak. A Claude Haiku 5.5 hozzáadása többet jelent, mint egy azonosító hozzáadása. Az átjárónak fel kell fednie a megfelelő szolgáltatói útvonalakat, külön kell mutatnia a gyorsítótár és a nem gyorsítótár költségeit, támogatnia kell az azonnali hosszúságú számlázási szabályokat, és elegendő elemzést kell adnia a csapatoknak ahhoz, hogy lássák, az útválasztási szabályzatuk valóban működik-e.