LLM
OpenAI, Anthropic et Meta dans une seule API, avec vos clés
Un endpoint au format chat completions d'OpenAI pour les modèles des trois fournisseurs. Chaque appel utilise la clé enregistrée pour ce fournisseur, et changer de modèle revient à changer une chaîne.
POST /api/llm/chat/completions
Authorization: Bearer <merchant token>
{
"model": "anthropic/claude-sonnet-5-5",
"max_tokens": 1024,
"messages": [
{
"role": "system",
"content": "You summarize marketing data in English."
},
{
"role": "user",
"content": "Summarize the account's week."
}
]
}Ce que vous pouvez faire
- Une API LLM pour OpenAI, Anthropic et MetaAppelez des modèles OpenAI, Anthropic et Meta (Muse) au format chat completions d'OpenAI, avec le SDK que vous utilisez déjà.
- Changer de fournisseur LLM sans changer le codePassez d'OpenAI à Anthropic ou Meta en ne changeant que le champ model : même corps, même réponse, même SDK.
- Repli automatique entre modèles LLMEnvoyez jusqu'à 3 modèles de secours dans models et l'appel passe au suivant si le principal échoue, même entre fournisseurs différents.
- Streaming des réponses LLM en SSEUtilisez stream: true et recevez la réponse du modèle morceau par morceau, en text/event-stream, au format OpenAI avec trois fournisseurs.
- Function calling avec OpenAI, Anthropic et MetaEnvoyez des tools au format OpenAI et recevez des tool_calls des modèles compatibles, avec le même code pour OpenAI, Anthropic et Meta.
- Envoyer des images aux LLM (vision)Envoyez des parties image_url dans les messages et demandez au modèle d'analyser des images, au format OpenAI avec trois fournisseurs.
- Lister les modèles LLM et leurs prixGET /llm/models liste les modèles appelables, avec prix par million de tokens, limites et prise en charge de tools et d'images.
Autres fonctionnalités
Voyez Connect appliqué à votre produit.
Essayez-le pendant 15 jours sans carte, ou présentez votre cas à notre équipe.
