LLM

Listar modelos de LLM y precios con la API

GET /llm/models devuelve, en el formato de GET /v1/models de OpenAI, los modelos activos y habilitados para tu cuenta, de OpenAI, Anthropic y Meta (Muse), con precio, ventana de contexto, límite de salida y soporte de tools y visión. El id de cada uno es lo que va en model en las llamadas.

La llamada

GET /api/llm/models
Authorization: Bearer <merchant token>

Qué puedes hacer

  • Descubrir qué modelos puede llamar tu cuenta, de OpenAI, Anthropic y Meta.
  • Ver el precio de entrada y de salida por 1 millón de tokens de cada modelo.
  • Ver context_window y max_output_tokens para dimensionar la llamada.
  • Saber qué modelos tienen supports_tools y supports_vision antes de enviar tools o imágenes.
  • Armar un selector de modelos en tu producto a partir de la lista.

Reglas y límites

  • La lista trae solo los modelos activos y habilitados para la cuenta, y solo de los proveedores donde registraste tu clave en /merchants/credentials/{provider}.
  • El id es siempre proveedor/modelo y es el valor de model y models en POST /llm/chat/completions.
  • El precio es en dólares por 1 millón de tokens. Algunos modelos tienen pricing.long_context: por encima de above_input_tokens tokens de entrada, toda la llamada, entrada y salida, se cobra a esos precios.
  • El max_tokens de una llamada no puede superar el max_output_tokens del modelo ni el tope de la cuenta.
  • Solo se necesita el Bearer del merchant, sin x-customer-token.

Campos principales

CampoTipoObligatorioDescripción
idstringSíEl valor de model en las llamadas, siempre proveedor/modelo, como anthropic/claude-sonnet-5-5.
owned_bystringSíEl proveedor: openai, anthropic o meta.
context_windowintegerSíTokens de entrada y salida que caben en una llamada.
max_output_tokensintegerSíEl mayor max_tokens que acepta el modelo.
supports_toolsbooleanSíSi el modelo atiende tools y devuelve tool_calls.
supports_visionbooleanSíSi el modelo acepta image_url en los mensajes.
pricing.input_per_mtoknumberSíPrecio de entrada en dólares por 1 millón de tokens.
pricing.long_contextobjectSíFranja de prompt largo, cuando el proveedor cobra más por encima de un tamaño de entrada. null cuando hay un solo precio.

Para quién

  • Selector de modelo en tu SaaS

    Muestra a los usuarios los modelos disponibles con el costo de cada uno, leyendo directo de GET /llm/models.

  • Estimación de costos

    Calcula el costo previsto de una tarea a partir de los precios de entrada y salida.

  • Agentes que eligen el modelo

    Un agente consulta la lista y elige el modelo más barato con supports_tools para la tarea.

Preguntas frecuentes

¿Por qué un modelo no aparece en la lista?

La lista solo trae modelos activos, habilitados para tu cuenta y de proveedores donde registraste tu clave en /merchants/credentials/{provider}.

¿Quién cobra el uso?

El proveedor, en tu clave. Connect registra los tokens y el costo de cada llamada, con el precio de GET /llm/models en ese momento.

¿Qué es pricing.long_context?

Una franja de prompt largo: cuando la entrada supera above_input_tokens, toda la llamada se cobra con los precios de esa franja. Es null en los modelos con precio único.

Relacionadas

Ver todo lo que puedes hacer con LLM

Mira Connect aplicado a tu producto.

Pruébalo durante 15 días sin tarjeta, o cuéntale tu caso a nuestro equipo.