Asynchrone Anfragen

Dieselben Inferenzendpunkte unterstützen die synchrone und asynchrone Ausführung. Hinzufügen "async": true Zu POST /v1/messages oder POST /v1/chat/completions An https://api.model-gate.com.

{"model":"claude-sonnet-4.6","messages":[{"role":"user","content":"Analyze this document"}],"async":true}

Das Gateway kehrt zurück 202 Accepted:

{
  "request_id":"01J...",
  "status":"queued",
  "result_url":"https://panel.model-gate.com/api/v1/requests/01J..."
}

Der request_id ist die öffentliche Anforderungskennung. Es wird auch retourniert X-Request-ID.

Rufen Sie das Ergebnis nur über die Panel-API mit dem API-SCHLÜSSEL auf Kontoebene aus dem Profil ab:

curl https://panel.model-gate.com/api/v1/requests/01J... 
  -H "Authorization: Bearer mg_partner_..."

Eine in der Warteschlange befindliche oder verarbeitete Anfrage gibt ihren aktuellen Status zurück. Eine abgeschlossene Anfrage wird zurückgegeben response_status, response_headers, Und response. Eine fehlgeschlagene Anfrage gibt auch eine zurück error Objekt. Es werden unbekannte, fremde und abgelaufene Anforderungs-IDs zurückgegeben 404.

Der für die Inferenz verwendete Modell-API-Schlüssel kann keine asynchronen Ergebnisse abrufen. Der API KEY auf Kontoebene kann keine Modelle aufrufen.

Wenn im Profil eine Rückruf-URL konfiguriert ist, wird das fertige Ergebnis auch dort geliefert. Die Abfrage über die Panel-API bleibt auch dann verfügbar, wenn Rückrufe aktiviert sind.

Lagerungswarnung: Die Anfrage und die Antwort werden vorübergehend in der Model Gate-Datenbank gespeichert. Asynchrone Datensätze werden nach 24 Stunden gelöscht. Verwenden Sie den asynchronen Modus nicht für Daten, die nicht vorübergehend gespeichert werden dürfen.

Verwendung von Rückrufsignaturen X-Model-Gate-Signature: t=<unix>,v1=<hmac_sha256>, Signieren der genauen Zeichenfolge <timestamp>.<raw_body> mit dem Callback-Geheimnis aus dem Profil.

Rückrufe

Abgeschlossene asynchrone Ergebnisse können an die im Profil konfigurierte Rückruf-URL übermittelt werden. Sehen Rückrufe für Signaturüberprüfung, Wiederholungsversuche, Sicherheit und Anleitung zur Idempotenz.