Folyó

Készlet "stream": true a kérelmező szervben. A streamelés mindkét következtetési formátumban működik, és nem változtatja meg az árakat.

Antropikus olyan eseményeket bocsát ki, mint pl message_start, content_block_delta, és message_stop. OpenAI bocsát ki data: {...} darabokra vágja és ezzel fejezi be data: [DONE].

from openai import OpenAI
client = OpenAI(api_key="mg_live_...", base_url="https://api.model-gate.com/v1")
stream = client.chat.completions.create(model="claude-opus-4.8", messages=[{"role":"user","content":"Hello"}], stream=True)
for chunk in stream:
    text = chunk.choices[0].delta.content
    if text:
        print(text, end="", flush=True)

Tartsa nyitva a kapcsolatot, és tiltsa le a fordított proxy pufferelést. Az ügyfélkapcsolat bezárása megszakítja az upstream generálást; a már generált használat számlázható marad. Lásd Hibák útmutatásért.

Befejezett és hiányzó használat

A HTTP 200 megerősíti, hogy az adatfolyam elkezdődött, nem pedig a következtetés befejeződött. A szolgáltatói hiba vagy a megszakított/csonka adatfolyam sikertelenként vagy befejezetlenként jelenik meg a Használat részben. A Chat Completions befejezése minden kért választás befejezési oka, ill [DONE]; A válaszok felhasználása response.completed; Antropikus felhasználások message_stop. Tartsa meg a kérésazonosítót, és kezelje a már beérkezett szöveg-/eszköz-argumentumokat részlegesként. Az átjáró nem ismétli meg csendben ezt a kérést.

A szolgáltató által jelentett használat, beleértve a nulla vagy részleges számlálókat is, mérvadó. A használat nélkül megerősített sikeres szövegfolyam kifejezetten címkézett becslést kaphat a dekódolt szöveg/okoskodás/eszköz-argument delta bájtok alapján, kivéve az SSE/JSON keretezést; explicit output limits cap becslések csak. Meghibásodott vagy nem támogatott adatfolyamok használat nélkül Használat ismeretlen · felülvizsgálat szükséges és nem kapnak automatikus byte-becslést. Az ismeretlen nem bizonyítja, hogy a szolgáltató végrehajtása ingyenes volt. Lásd Hibák.