LLM
OpenAI, Anthropic y Meta en una sola API, con tu clave
Un endpoint en el formato de chat completions de OpenAI para los modelos de los tres proveedores. Cada llamada usa la clave que registraste en cada proveedor, y cambiar de modelo es cambiar un texto.
POST /api/llm/chat/completions
Authorization: Bearer <merchant token>
{
"model": "anthropic/claude-sonnet-5-5",
"max_tokens": 1024,
"messages": [
{
"role": "system",
"content": "You summarize marketing data in English."
},
{
"role": "user",
"content": "Summarize the account's week."
}
]
}Qué puedes hacer
- Una API de LLM para OpenAI, Anthropic y MetaLlama a modelos de OpenAI, Anthropic y Meta (Muse) con el formato de chat completions de OpenAI, usando el SDK que ya tienes.
- Cambiar de proveedor de LLM sin cambiar el códigoCambia entre OpenAI, Anthropic y Meta modificando solo el campo model: mismo cuerpo, misma respuesta, mismo SDK.
- Fallback automático entre modelos de LLMEnvía hasta 3 modelos de respaldo en models y la llamada pasa al siguiente si el principal falla, incluso entre proveedores distintos.
- Streaming de respuestas de LLM por SSEUsa stream: true y recibe la respuesta del modelo poco a poco, en text/event-stream, con formato OpenAI y modelos de tres proveedores.
- Function calling con OpenAI, Anthropic y MetaEnvía tools en formato OpenAI y recibe tool_calls de los modelos que lo soportan, con el mismo código para OpenAI, Anthropic y Meta.
- Enviar imágenes a LLMs (visión)Envía partes image_url en los mensajes y pide al modelo analizar imágenes, con formato OpenAI y modelos de tres proveedores.
- Listar modelos de LLM y preciosGET /llm/models lista los modelos que puedes llamar, con precio por 1M de tokens, límites y si aceptan tools e imágenes.
Otras funcionalidades
Mira Connect aplicado a tu producto.
Pruébalo durante 15 días sin tarjeta, o cuéntale tu caso a nuestro equipo.
