Transmissió en directe

Set "stream": true al cos de la sol·licitud. La reproducció en temps real funciona en ambdós formats d'inferència i no canvia els preus.

Antròpic emet esdeveniments com ara message_start, content_block_delta, i message_stop. OpenAI emet data: {...} trossos i acaba amb data: [DONE].

from openai import OpenAI
client = OpenAI(api_key="mg_live_...", base_url="https://api.model-gate.com/v1")
stream = client.chat.completions.create(model="claude-opus-4.8", messages=[{"role":"user","content":"Hello"}], stream=True)
for chunk in stream:
    text = chunk.choices[0].delta.content
    if text:
        print(text, end="", flush=True)

Mantingueu la connexió oberta i desactiveu la memòria intermèdia del servidor intermediari invers. Tancar la connexió del client cancel·la la generació amunt; l'ús ja generat segueix sent facturable. Mireu Errors per tornar a intentar l'orientació.