流媒体

放 "stream": true 在请求正文中。流式传输适用于两种推理格式，并且不会改变定价。

Anthropic 会发出诸如 message_start, content_block_delta， 和 message_stop。 OpenAI 发出 data: {...} 块和结束 data: [DONE]。

from openai import OpenAI
client = OpenAI(api_key="mg_live_...", base_url="https://api.model-gate.com/v1")
stream = client.chat.completions.create(model="claude-opus-4.8", messages=[{"role":"user","content":"Hello"}], stream=True)
for chunk in stream:
    text = chunk.choices[0].delta.content
    if text:
        print(text, end="", flush=True)

保持连接打开并禁用反向代理缓冲。关闭客户端连接会取消上游生成；已产生的使用量仍需计费。看 错误 以获得重试指导。