Requêtes asynchrones

Mettez en file d'attente une demande d'inférence et récupérez le résultat via l'API du panneau.

Requêtes asynchrones

Les mêmes points de terminaison d'inférence prennent en charge l'exécution synchrone et asynchrone. Ajouter "async": true à POST /v1/messages ou POST /v1/chat/completions sur https://api.model-gate.com.

{"model":"claude-sonnet-4.6","messages":[{"role":"user","content":"Analyze this document"}],"async":true}

La passerelle revient 202 Accepted:

{
  "request_id":"01J...",
  "status":"queued",
  "result_url":"https://panel.model-gate.com/api/v1/requests/01J..."
}

Le request_id est l'identifiant de la demande publique. Il est également restitué dans X-Request-ID.

Récupérez le résultat uniquement via l'API du panneau à l'aide de la CLÉ API au niveau du compte à partir du profil :

curl https://panel.model-gate.com/api/v1/requests/01J... 
  -H "Authorization: Bearer mg_partner_..."

Une demande en file d'attente ou en traitement renvoie son état actuel. Une demande complétée revient response_status, response_headers, et response. Une requête ayant échoué renvoie également un error objet. Les ID de demande inconnus, étrangers et expirés sont tous renvoyés 404.

La clé API Model utilisée pour l'inférence ne peut pas récupérer les résultats asynchrones. La clé API au niveau du compte ne peut pas appeler de modèles.

Lorsqu'une URL de rappel est configurée dans le profil, le résultat final y est également livré. L'interrogation via l'API du panneau reste disponible même lorsque les rappels sont activés.

Avertissement de stockage : la demande et la réponse sont temporairement stockées dans la base de données Model Gate. Les enregistrements asynchrones sont supprimés après 24 heures. N'utilisez pas le mode asynchrone pour les données qui ne doivent pas être stockées temporairement.

Utilisation des signatures de rappel X-Model-Gate-Signature: t=<unix>,v1=<hmac_sha256>, en signant la chaîne exacte <timestamp>.<raw_body> avec le secret de rappel du profil.

Rappels

Les résultats asynchrones terminés peuvent être envoyés à l'URL de rappel configurée dans le profil. Voir Rappels pour la vérification de la signature, les tentatives, la sécurité et les conseils d'idempotence.