Richieste asincrone
Accoda una richiesta di inferenza e recupera il risultato tramite l'API del pannello.
Richieste asincrone
Gli stessi endpoint di inferenza supportano l'esecuzione sincrona e asincrona. Aggiungere "async": true A POST /v1/messages O POST /v1/chat/completions SU https://api.model-gate.com.
{"model":"claude-sonnet-4.6","messages":[{"role":"user","content":"Analyze this document"}],"async":true}
Il gateway ritorna 202 Accepted:
{
"request_id":"01J...",
"status":"queued",
"result_url":"https://panel.model-gate.com/api/v1/requests/01J..."
}
IL request_id è l'identificatore della richiesta pubblica. Viene anche restituito X-Request-ID.
Recupera il risultato solo tramite il pannello API utilizzando la API KEY a livello di account dal profilo:
curl https://panel.model-gate.com/api/v1/requests/01J...
-H "Authorization: Bearer mg_partner_..."
Una richiesta in coda o in elaborazione restituisce il suo stato corrente. Viene restituita una richiesta completata response_status, response_headers, E response. Una richiesta non riuscita restituisce anche un file error oggetto. Vengono restituiti tutti gli ID di richiesta sconosciuti, stranieri e scaduti 404.
La chiave API del modello utilizzata per l'inferenza non può recuperare risultati asincroni. La chiave API a livello di account non può chiamare modelli.
Quando nel profilo viene configurato un URL di richiamata, anche il risultato completato viene consegnato lì. Il polling tramite l'API del pannello rimane disponibile anche quando i callback sono abilitati.
Avviso di archiviazione: la richiesta e la risposta vengono temporaneamente archiviate nel database Model Gate. I record asincroni vengono eliminati dopo 24 ore. Non utilizzare la modalità asincrona per i dati che non devono essere archiviati temporaneamente.
Utilizzo delle firme di richiamata X-Model-Gate-Signature: t=<unix>,v1=<hmac_sha256>, firmando la stringa esatta <timestamp>.<raw_body> con il segreto di richiamata dal profilo.
Richiamate
I risultati asincroni completati possono essere recapitati all'URL di richiamata configurato nel profilo. Vedere Richiamate per la verifica della firma, i nuovi tentativi, la sicurezza e le indicazioni sull'idempotenza.