LLM
Function calling avec OpenAI, Anthropic et Meta via l'API
Dans POST /llm/chat/completions, tools et tool_choice suivent le format OpenAI. Le modèle renvoie des tool_calls, vous exécutez la fonction et envoyez le résultat dans un message avec role tool. Pour Anthropic, Connect traduit tools et tool_calls : le code est donc le même.
L'appel
POST /api/llm/chat/completions
Authorization: Bearer <merchant token>
{
"model": "openai/gpt-5.4-mini",
"models": [
"anthropic/claude-haiku-5-5"
],
"max_tokens": 512,
"messages": [
{
"role": "user",
"content": "What was yesterday's reach?"
}
],
"tools": [
{
"type": "function",
"function": {
"name": "get_reach",
"description": "Account reach on a given day",
"parameters": {
"type": "object",
"properties": {
"date": {
"type": "string",
"format": "date"
}
},
"required": [
"date"
]
}
}
}
],
"tool_choice": "auto"
}Ce que vous pouvez faire
- Déclarer des fonctions dans tools et laisser le modèle décider quand les appeler.
- Renvoyer le résultat de la fonction avec un message role: tool et tool_call_id.
- Utiliser tool_choice auto ou none sur tous les modèles.
- Vérifier dans GET /llm/models quels modèles ont supports_tools.
- Combiner tools avec le repli et stream.
Règles et limites
- tools et tool_choice ne sont acceptés que si chaque modèle de l'appel (model et chaque élément de models) a supports_tools. Sinon : 400 llm_unsupported_field.
- Tous les modèles ne gèrent pas tools : vérifiez supports_tools dans GET /llm/models avant de choisir.
- tool_choice accepte auto et none sur tous les modèles.
- Chez Anthropic, les tools qui ne sont pas de type function renvoient 400 llm_unsupported_field.
- La réponse porte tool_calls dans choices[].message, avec finish_reason tool_calls quand le modèle demande une fonction.
Champs principaux
| Champ | Type | Obligatoire | Description |
|---|---|---|---|
| model | string | Oui | Id du modèle, issu de GET /llm/models, au format fournisseur/modèle. |
| messages | array | Oui | La conversation, comme chez OpenAI. role : system, developer, user, assistant ou tool. |
| max_tokens | integer | Oui | Obligatoire (ou max_completion_tokens). Jusqu'au plafond du compte et au max_output_tokens de chaque modèle de l'appel. |
| tools | array | Non | Fonctions que le modèle peut appeler, comme chez OpenAI. Seulement sur les modèles avec supports_tools. |
| tool_choice | string | Non | auto ou none sur tous les modèles. |
| tool_calls | array | Non | Dans la réponse : les appels de fonction demandés par le modèle, dans choices[].message. |
Pour qui
Agent qui interroge les données du client
Le modèle appelle une fonction à vous qui récupère les métriques du client via l'API Connect et répond avec les chiffres.
Assistant qui exécute des actions
Déclarez des fonctions comme créer une tâche ou planifier une réunion dans votre SaaS et laissez le modèle choisir quand les utiliser.
Extraction structurée
Utilisez une fonction à paramètres typés pour que le modèle renvoie des données structurées à partir de texte libre.
Questions fréquentes
Tous les modèles gèrent-ils tools ?
Non. Chaque modèle de GET /llm/models a un champ supports_tools. Envoyer tools à un modèle qui ne l'a pas renvoie 400 llm_unsupported_field.
Le format change-t-il selon le fournisseur ?
Non. Vous envoyez tools au format OpenAI et lisez tool_calls dans la réponse. Pour Anthropic, Connect traduit tools et tool_calls.
Cela marche-t-il avec le repli ?
Oui, tant que tous les modèles de l'appel ont supports_tools. Si l'un ne l'a pas, l'appel est refusé avant d'atteindre le modèle.
Voyez Connect appliqué à votre produit.
Essayez-le pendant 15 jours sans carte, ou présentez votre cas à notre équipe.
