Solicitări asincrone

Puneți în coadă o solicitare de inferență și preluați rezultatul prin API-ul panoului.

Solicitări asincrone

Aceleași puncte finale de inferență acceptă execuția sincronă și asincronă. Adăuga "async": true la POST /v1/messages sau POST /v1/chat/completions pe https://api.model-gate.com.

{"model":"claude-sonnet-4.6","messages":[{"role":"user","content":"Analyze this document"}],"async":true}

Poarta de acces se întoarce 202 Accepted:

{
  "request_id":"01J...",
  "status":"queued",
  "result_url":"https://panel.model-gate.com/api/v1/requests/01J..."
}

The request_id este identificatorul cererii publice. Se returneaza si in X-Request-ID.

Preluați rezultatul numai prin API-ul panoului folosind cheia API la nivel de cont din profil:

curl https://panel.model-gate.com/api/v1/requests/01J... 
  -H "Authorization: Bearer mg_partner_..."

O cerere aflată în coadă sau de procesare returnează starea sa actuală. Se întoarce o cerere completată response_status, response_headers, și response. O solicitare nereușită returnează și un error obiect. Toate ID-urile de solicitare necunoscute, străine și expirate revin 404.

Cheia Model API folosită pentru inferență nu poate prelua rezultate asincrone. Cheia API la nivel de cont nu poate apela modele.

Când o adresă URL de apel invers este configurată în profil, rezultatul finalizat este de asemenea livrat acolo. Sondajul prin API-ul panoului rămâne disponibil chiar și atunci când apelurile inverse sunt activate.

Avertisment de depozitare: cererea și răspunsul sunt stocate temporar în baza de date Model Gate. Înregistrările asincrone sunt șterse după 24 de ore. Nu utilizați modul asincron pentru datele care nu trebuie stocate temporar.

Se utilizează semnături de apel invers X-Model-Gate-Signature: t=<unix>,v1=<hmac_sha256>, semnând șirul exact <timestamp>.<raw_body> cu secretul de apel invers din profil.

Reapeluri

Rezultatele asincrone finalizate pot fi livrate la adresa URL de apel invers configurată în Profil. Vedea Reapeluri pentru verificarea semnăturii, reîncercări, îndrumare privind securitatea și idempotnța.