Folyó

Készlet "stream": true a kérelmező szervben. A streamelés mindkét következtetési formátumban működik, és nem változtatja meg az árakat.

Antropikus olyan eseményeket bocsát ki, mint pl message_start, content_block_delta, és message_stop. OpenAI bocsát ki data: {...} darabokra vágja és ezzel fejezi be data: [DONE].

from openai import OpenAI
client = OpenAI(api_key="mg_live_...", base_url="https://api.model-gate.com/v1")
stream = client.chat.completions.create(model="claude-opus-4.8", messages=[{"role":"user","content":"Hello"}], stream=True)
for chunk in stream:
    text = chunk.choices[0].delta.content
    if text:
        print(text, end="", flush=True)

Tartsa nyitva a kapcsolatot, és tiltsa le a fordított proxy pufferelést. Az ügyfélkapcsolat bezárása megszakítja az upstream generálást; a már generált használat számlázható marad. Lásd Hibák útmutatásért.