LLM

Lister les modèles LLM et leurs prix via l'API

GET /llm/models renvoie, au format du GET /v1/models d'OpenAI, les modèles actifs et activés pour votre compte, d'OpenAI, Anthropic et Meta (Muse), avec prix, fenêtre de contexte, limite de sortie et prise en charge de tools et de la vision. L'id de chacun est ce qui va dans model lors des appels.

L'appel

GET /api/llm/models
Authorization: Bearer <merchant token>

Ce que vous pouvez faire

  • Découvrir quels modèles votre compte peut appeler, d'OpenAI, Anthropic et Meta.
  • Voir le prix d'entrée et de sortie par million de tokens de chaque modèle.
  • Voir context_window et max_output_tokens pour dimensionner l'appel.
  • Savoir quels modèles ont supports_tools et supports_vision avant d'envoyer tools ou images.
  • Construire un sélecteur de modèles dans votre produit à partir de la liste.

Règles et limites

  • La liste ne contient que les modèles actifs et activés pour le compte, et seulement des fournisseurs pour lesquels vous avez enregistré votre clé dans /merchants/credentials/{provider}.
  • L'id est toujours fournisseur/modèle et c'est la valeur de model et models dans POST /llm/chat/completions.
  • Le prix est en dollars par million de tokens. Certains modèles ont pricing.long_context : au-delà de above_input_tokens tokens d'entrée, tout l'appel, entrée et sortie, est facturé à ces prix.
  • Le max_tokens d'un appel ne peut dépasser ni le max_output_tokens du modèle ni le plafond du compte.
  • Seul le Bearer du merchant est nécessaire, sans x-customer-token.

Champs principaux

ChampTypeObligatoireDescription
idstringOuiLa valeur de model dans les appels, toujours fournisseur/modèle, comme anthropic/claude-sonnet-5-5.
owned_bystringOuiLe fournisseur : openai, anthropic ou meta.
context_windowintegerOuiTokens d'entrée et de sortie qui tiennent dans un appel.
max_output_tokensintegerOuiLe plus grand max_tokens accepté par le modèle.
supports_toolsbooleanOuiSi le modèle gère tools et renvoie tool_calls.
supports_visionbooleanOuiSi le modèle accepte image_url dans les messages.
pricing.input_per_mtoknumberOuiPrix d'entrée en dollars par million de tokens.
pricing.long_contextobjectOuiPalier de long prompt, quand le fournisseur facture plus au-delà d'une taille d'entrée. null quand il n'y a qu'un prix.

Pour qui

  • Sélecteur de modèle dans votre SaaS

    Montrez aux utilisateurs les modèles disponibles avec le coût de chacun, en lisant directement GET /llm/models.

  • Estimation des coûts

    Calculez le coût prévu d'une tâche à partir des prix d'entrée et de sortie.

  • Agents qui choisissent le modèle

    Un agent consulte la liste et choisit le modèle le moins cher avec supports_tools pour la tâche.

Questions fréquentes

Pourquoi un modèle manque-t-il dans la liste ?

La liste ne contient que des modèles actifs, activés pour votre compte et de fournisseurs pour lesquels vous avez enregistré votre clé dans /merchants/credentials/{provider}.

Qui facture l'usage ?

Le fournisseur, sur votre clé. Connect enregistre les tokens et le coût de chaque appel, au prix de GET /llm/models à ce moment-là.

Qu'est-ce que pricing.long_context ?

Un palier de long prompt : quand l'entrée dépasse above_input_tokens, tout l'appel est facturé aux prix de ce palier. Il vaut null pour les modèles à prix unique.

Voir aussi

Voir tout ce que vous pouvez faire avec LLM

Voyez Connect appliqué à votre produit.

Essayez-le pendant 15 jours sans carte, ou présentez votre cas à notre équipe.