LLM
Listar modelos de LLM y precios con la API
GET /llm/models devuelve, en el formato de GET /v1/models de OpenAI, los modelos activos y habilitados para tu cuenta, de OpenAI, Anthropic y Meta (Muse), con precio, ventana de contexto, límite de salida y soporte de tools y visión. El id de cada uno es lo que va en model en las llamadas.
La llamada
GET /api/llm/models Authorization: Bearer <merchant token>
Qué puedes hacer
- Descubrir qué modelos puede llamar tu cuenta, de OpenAI, Anthropic y Meta.
- Ver el precio de entrada y de salida por 1 millón de tokens de cada modelo.
- Ver context_window y max_output_tokens para dimensionar la llamada.
- Saber qué modelos tienen supports_tools y supports_vision antes de enviar tools o imágenes.
- Armar un selector de modelos en tu producto a partir de la lista.
Reglas y límites
- La lista trae solo los modelos activos y habilitados para la cuenta, y solo de los proveedores donde registraste tu clave en /merchants/credentials/{provider}.
- El id es siempre proveedor/modelo y es el valor de model y models en POST /llm/chat/completions.
- El precio es en dólares por 1 millón de tokens. Algunos modelos tienen pricing.long_context: por encima de above_input_tokens tokens de entrada, toda la llamada, entrada y salida, se cobra a esos precios.
- El max_tokens de una llamada no puede superar el max_output_tokens del modelo ni el tope de la cuenta.
- Solo se necesita el Bearer del merchant, sin x-customer-token.
Campos principales
| Campo | Tipo | Obligatorio | Descripción |
|---|---|---|---|
| id | string | Sí | El valor de model en las llamadas, siempre proveedor/modelo, como anthropic/claude-sonnet-5-5. |
| owned_by | string | Sí | El proveedor: openai, anthropic o meta. |
| context_window | integer | Sí | Tokens de entrada y salida que caben en una llamada. |
| max_output_tokens | integer | Sí | El mayor max_tokens que acepta el modelo. |
| supports_tools | boolean | Sí | Si el modelo atiende tools y devuelve tool_calls. |
| supports_vision | boolean | Sí | Si el modelo acepta image_url en los mensajes. |
| pricing.input_per_mtok | number | Sí | Precio de entrada en dólares por 1 millón de tokens. |
| pricing.long_context | object | Sí | Franja de prompt largo, cuando el proveedor cobra más por encima de un tamaño de entrada. null cuando hay un solo precio. |
Para quién
Selector de modelo en tu SaaS
Muestra a los usuarios los modelos disponibles con el costo de cada uno, leyendo directo de GET /llm/models.
Estimación de costos
Calcula el costo previsto de una tarea a partir de los precios de entrada y salida.
Agentes que eligen el modelo
Un agente consulta la lista y elige el modelo más barato con supports_tools para la tarea.
Preguntas frecuentes
¿Por qué un modelo no aparece en la lista?
La lista solo trae modelos activos, habilitados para tu cuenta y de proveedores donde registraste tu clave en /merchants/credentials/{provider}.
¿Quién cobra el uso?
El proveedor, en tu clave. Connect registra los tokens y el costo de cada llamada, con el precio de GET /llm/models en ese momento.
¿Qué es pricing.long_context?
Una franja de prompt largo: cuando la entrada supera above_input_tokens, toda la llamada se cobra con los precios de esa franja. Es null en los modelos con precio único.
Mira Connect aplicado a tu producto.
Pruébalo durante 15 días sin tarjeta, o cuéntale tu caso a nuestro equipo.
