Solicitudes asíncronas

Ponga en cola una solicitud de inferencia y recupere el resultado a través de la API del panel.

Solicitudes asíncronas

Los mismos puntos finales de inferencia admiten la ejecución sincrónica y asincrónica. Agregar "async": true a POST /v1/messages o POST /v1/chat/completions en https://api.model-gate.com.

{"model":"claude-sonnet-4.6","messages":[{"role":"user","content":"Analyze this document"}],"async":true}

Vuelve la puerta de enlace 202 Accepted:

{
  "request_id":"01J...",
  "status":"queued",
  "result_url":"https://panel.model-gate.com/api/v1/requests/01J..."
}

El request_id es el identificador de solicitud pública. También se devuelve en X-Request-ID.

Recupere el resultado solo a través de la API del panel usando la CLAVE API a nivel de cuenta del perfil:

curl https://panel.model-gate.com/api/v1/requests/01J... 
  -H "Authorization: Bearer mg_partner_..."

Una solicitud en cola o en proceso devuelve su estado actual. Se devuelve una solicitud completa response_status, response_headers, y response. Una solicitud fallida también devuelve un error objeto. Se devuelven todos los ID de solicitud desconocidos, extranjeros y vencidos. 404.

La clave de API del modelo utilizada para la inferencia no puede recuperar resultados asincrónicos. La CLAVE API a nivel de cuenta no puede llamar a modelos.

Cuando se configura una URL de devolución de llamada en el perfil, el resultado completo también se entrega allí. El sondeo a través de la API del panel permanece disponible incluso cuando las devoluciones de llamada están habilitadas.

Advertencia de almacenamiento: la solicitud y la respuesta se almacenan temporalmente en la base de datos de Model Gate. Los registros asíncronos se eliminan después de 24 horas. No utilice el modo asíncrono para datos que no deben almacenarse temporalmente.

Uso de firmas de devolución de llamada X-Model-Gate-Signature: t=<unix>,v1=<hmac_sha256>, firmando la cadena exacta <timestamp>.<raw_body> con el secreto de devolución de llamada del perfil.

Devoluciones de llamada

Los resultados asincrónicos completos se pueden entregar a la URL de devolución de llamada configurada en Perfil. Ver Devoluciones de llamada para verificación de firmas, reintentos, seguridad y orientación sobre idempotencia.