Validation humaine des appels aux outils IA (Human-in-the-loop)
Vous pouvez exiger qu’un agent IA obtienne une approbation humaine avant d’exécuter un outil spécifique. Lorsqu’un outil nécessite une validation humaine, le flux de travail s’interrompt et attend qu’une personne autorisée effectue l’une des actions suivantes :
- Approuver (Approve) : l’outil s’exécute avec les paramètres déterminés par l’IA.
- Refuser (Deny) : l’opération est annulée et ne sera pas exécutée.
Cette fonctionnalité permet une supervision sélective des appels aux outils dans les flux de travail IA, facilitant ainsi l’ajout d’une validation humaine supplémentaire pour les outils à risque élevé (par exemple, l’envoi de messages, la modification d’enregistrements ou la suppression de données).
Quand utiliser la validation humaine
La validation humaine (HITL) est particulièrement utile dans les cas suivants :
- L’outil exécute une opération irréversible : suppression de données, envoi de communications externes ou réalisation d’achats.
- Des exigences de conformité existent : certains secteurs réglementés peuvent imposer une validation humaine pour certaines opérations automatisées.
- Des décisions à forte valeur sont impliquées : les actions ayant un impact significatif sur l’entreprise bénéficient d’une supervision humaine.
- Établir la confiance dans les flux de travail IA : commencez par activer la validation humaine, puis réduisez progressivement cette supervision à mesure que votre confiance augmente.
HITL peut être appliqué à tous les outils connectés à un nœud AI Agent, ou uniquement à certains outils sélectionnés, offrant ainsi un contrôle plus fin que les contrôles génériques appliqués à la sortie de l’agent.
Fonctionnement
- L’agent IA détermine qu’il doit utiliser un outil pour lequel la validation humaine est activée.
- Le flux de travail s’interrompt et une demande d’approbation est envoyée via le canal que vous avez configuré (par exemple Slack, Telegram ou l’interface de chat de n8n).
- Le validateur reçoit la demande, accompagnée du nom de l’outil que l’IA souhaite utiliser ainsi que ses paramètres.
- Le validateur approuve ou refuse la demande.
- En cas d’approbation, l’outil s’exécute avec les paramètres spécifiés par l’IA ; en cas de refus, l’opération est annulée et l’IA est informée du refus.
Canaux d’approbation différents
L’étape de validation peut se faire via un canal différent de celui utilisé pour l’interaction principale. Par exemple, un utilisateur peut interagir avec l’agent IA via l’interface de chat de n8n, tandis que la demande d’approbation est acheminée vers une personne spécifique sur Slack.
Configurer la validation humaine pour un outil
Étape 1 : Ouvrir le panneau des outils
Dans votre flux de travail, cliquez sur le connecteur Tools (Outils) du nœud AI Agent pour ouvrir le panneau des outils.
Étape 2 : Ajouter une étape de validation humaine
- Dans le panneau des outils, localisez la section Human review (Validation humaine).
- Sélectionnez le canal d’approbation souhaité parmi les options disponibles.
- Configurez ce canal avec les identifiants et les paramètres appropriés.
Étape 3 : Connecter les outils à l’étape de validation
- Ajoutez les outils nécessitant une approbation au connecteur d’outils de l’étape de validation humaine.
- Configurez chaque outil comme d’habitude.
Canaux d’approbation disponibles
Vous pouvez utiliser l’un des services suivants comme canal de validation humaine :
| Canal | Description |
|---|---|
| Chat | Interface de chat intégrée à n8n |
| Slack | Envoie une demande d’approbation dans un canal Slack ou en message privé |
| Discord | Envoie une demande d’approbation dans un canal Discord |
| Telegram | Envoie une demande d’approbation via Telegram |
| Microsoft Teams | Envoie une demande d’approbation dans un canal ou un chat Teams |
| Gmail | Envoie une demande d’approbation par e-mail via Gmail |
| WhatsApp Business Cloud | Envoie une demande d’approbation via WhatsApp |
| Google Chat | Envoie une demande d’approbation dans Google Chat |
| Microsoft Outlook | Envoie une demande d’approbation par e-mail via Outlook |
Utilisation d’expressions dans les outils avec validation humaine
Variable $tool
Lors de la configuration de l’étape de validation humaine, vous pouvez utiliser la variable $tool pour construire un message contextualisé destiné au validateur, expliquant ce que l’IA tente d’exécuter. Cette variable possède deux propriétés :
| Propriété | Description |
|---|---|
$tool.name | Nom de l’outil que l’agent IA tente d’appeler, tel qu’il apparaît sur le canevas n8n. |
$tool.parameters | Paramètres que l’agent IA tente d’utiliser lors de l’appel à l’outil, y compris tous les champs définis dans le schéma d’entrée de l’outil via l’expression $fromAI(). |
Exemple de configuration de message :
L’IA souhaite utiliser {{ $tool.name }} avec les paramètres suivants :
{{ $tool.parameters }}
Cela aide le validateur à comprendre clairement l’action que l’IA tente d’effectuer avant d’approuver ou de refuser la demande.
Utilisation de $fromAI() dans les outils avec validation humaine
La fonction $fromAI() est applicable aux outils connectés à une étape de validation humaine. Cela signifie que l’IA peut spécifier dynamiquement les paramètres de l’outil, et ce sont précisément ces valeurs déterminées par l’IA qui seront visibles et approuvées par le validateur.
Bonnes pratiques pour les invites système
Pour que l’agent IA comprenne correctement comment gérer les cas où un appel à un outil est refusé, incluez des informations sur la configuration de la validation humaine dans votre invite système.
Nécessité de configurer l’invite système
Assurez-vous que votre invite système contient des détails sur les outils configurés et les étapes de validation humaine. Cela permet à l’IA de savoir quels outils nécessitent une approbation et comment réagir de manière appropriée en cas de refus.
Il est recommandé d’inclure les éléments suivants :
- Quels outils nécessitent une approbation humaine
- Ce qui se produit en cas de refus d’approbation
- Comment l’IA doit réagir au refus (par exemple, informer l’utilisateur, proposer une alternative ou demander des précisions)
Appels enchaînés et sous-agents
Lorsqu’un agent IA est utilisé comme outil par un autre agent IA, les étapes de validation humaine configurées dans le sous-agent fonctionnent normalement.
Ressources associées
- Nœud AI Agent
- Tools Agent
- Qu’est-ce qu’un outil dans le contexte de l’IA ?
- Permettre à l’IA de spécifier les paramètres d’un outil via
$fromAI()