LLM

Function calling avec OpenAI, Anthropic et Meta via l'API

Dans POST /llm/chat/completions, tools et tool_choice suivent le format OpenAI. Le modèle renvoie des tool_calls, vous exécutez la fonction et envoyez le résultat dans un message avec role tool. Pour Anthropic, Connect traduit tools et tool_calls : le code est donc le même.

L'appel

POST /api/llm/chat/completions
Authorization: Bearer <merchant token>

{
  "model": "openai/gpt-5.4-mini",
  "models": [
    "anthropic/claude-haiku-5-5"
  ],
  "max_tokens": 512,
  "messages": [
    {
      "role": "user",
      "content": "What was yesterday's reach?"
    }
  ],
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_reach",
        "description": "Account reach on a given day",
        "parameters": {
          "type": "object",
          "properties": {
            "date": {
              "type": "string",
              "format": "date"
            }
          },
          "required": [
            "date"
          ]
        }
      }
    }
  ],
  "tool_choice": "auto"
}

Ce que vous pouvez faire

  • Déclarer des fonctions dans tools et laisser le modèle décider quand les appeler.
  • Renvoyer le résultat de la fonction avec un message role: tool et tool_call_id.
  • Utiliser tool_choice auto ou none sur tous les modèles.
  • Vérifier dans GET /llm/models quels modèles ont supports_tools.
  • Combiner tools avec le repli et stream.

Règles et limites

  • tools et tool_choice ne sont acceptés que si chaque modèle de l'appel (model et chaque élément de models) a supports_tools. Sinon : 400 llm_unsupported_field.
  • Tous les modèles ne gèrent pas tools : vérifiez supports_tools dans GET /llm/models avant de choisir.
  • tool_choice accepte auto et none sur tous les modèles.
  • Chez Anthropic, les tools qui ne sont pas de type function renvoient 400 llm_unsupported_field.
  • La réponse porte tool_calls dans choices[].message, avec finish_reason tool_calls quand le modèle demande une fonction.

Champs principaux

ChampTypeObligatoireDescription
modelstringOuiId du modèle, issu de GET /llm/models, au format fournisseur/modèle.
messagesarrayOuiLa conversation, comme chez OpenAI. role : system, developer, user, assistant ou tool.
max_tokensintegerOuiObligatoire (ou max_completion_tokens). Jusqu'au plafond du compte et au max_output_tokens de chaque modèle de l'appel.
toolsarrayNonFonctions que le modèle peut appeler, comme chez OpenAI. Seulement sur les modèles avec supports_tools.
tool_choicestringNonauto ou none sur tous les modèles.
tool_callsarrayNonDans la réponse : les appels de fonction demandés par le modèle, dans choices[].message.

Pour qui

  • Agent qui interroge les données du client

    Le modèle appelle une fonction à vous qui récupère les métriques du client via l'API Connect et répond avec les chiffres.

  • Assistant qui exécute des actions

    Déclarez des fonctions comme créer une tâche ou planifier une réunion dans votre SaaS et laissez le modèle choisir quand les utiliser.

  • Extraction structurée

    Utilisez une fonction à paramètres typés pour que le modèle renvoie des données structurées à partir de texte libre.

Questions fréquentes

Tous les modèles gèrent-ils tools ?

Non. Chaque modèle de GET /llm/models a un champ supports_tools. Envoyer tools à un modèle qui ne l'a pas renvoie 400 llm_unsupported_field.

Le format change-t-il selon le fournisseur ?

Non. Vous envoyez tools au format OpenAI et lisez tool_calls dans la réponse. Pour Anthropic, Connect traduit tools et tool_calls.

Cela marche-t-il avec le repli ?

Oui, tant que tous les modèles de l'appel ont supports_tools. Si l'un ne l'a pas, l'appel est refusé avant d'atteindre le modèle.

Voir aussi

Voir tout ce que vous pouvez faire avec LLM

Voyez Connect appliqué à votre produit.

Essayez-le pendant 15 jours sans carte, ou présentez votre cas à notre équipe.