Tool calling

Qui fait quoi

L'application décrit les outils disponibles et leurs paramètres. Le modèle peut demander un appel avec un nom d'outil et des arguments. C'est ensuite l'application qui exécute l'action.

1. Le modèle prépare la demande.
2. L'application vérifie les arguments et les permissions.
3. Elle exécute l'outil et renvoie le résultat.
4. Le modèle peut répondre ou demander une autre action.

Les risques

Un appel bien formé peut quand même être inutile ou dangereux. Le modèle peut choisir le mauvais outil ou suivre une instruction malveillante trouvée dans un document.

Les contrôles doivent donc porter sur ce que l'action va faire, pas seulement sur le format de la demande. Lire un fichier et le modifier sont deux permissions différentes.