Revisión humana en llamadas a herramientas de IA (Human-in-the-loop, HITL)
Puedes hacer que un agente de IA solicite aprobación humana antes de ejecutar una herramienta específica. Cuando una herramienta requiere revisión humana, el flujo de trabajo se pausa y espera a que un revisor realice una de las siguientes acciones:
- Aprobar (Approve): la herramienta se ejecuta con los parámetros de entrada especificados por la IA.
- Rechazar (Deny): la operación se cancela y no se ejecuta.
Esta funcionalidad, conocida como revisión humana (Human-in-the-loop, HITL), permite supervisar selectivamente las llamadas a herramientas dentro de flujos de trabajo de IA, lo que facilita aplicar controles humanos adicionales en herramientas de alto riesgo, como enviar mensajes, modificar registros o eliminar datos.
Cuándo usar la revisión humana
La revisión humana (HITL) resulta útil en los siguientes casos:
- Operaciones irreversibles: eliminación de datos, envío de comunicaciones externas o realización de compras.
- Requisitos de cumplimiento normativo: sectores regulados pueden exigir aprobación humana para ciertas operaciones automatizadas.
- Decisiones de alto valor: operaciones que tienen un impacto significativo en el negocio se benefician de la supervisión humana.
- Construcción de confianza en flujos de trabajo de IA: comienza con revisión humana y reduce gradualmente la supervisión a medida que aumenta la confianza.
HITL se puede aplicar a todas las herramientas conectadas al nodo de agente de IA o únicamente a herramientas seleccionadas, ofreciendo un control más granular que los mecanismos generales de control de salida.
Cómo funciona
- El agente de IA determina que necesita utilizar una herramienta con revisión humana habilitada.
- El flujo de trabajo se pausa y envía una solicitud de aprobación a través del canal configurado (por ejemplo, Slack, Telegram o la interfaz de chat de n8n).
- El revisor humano recibe la solicitud, que incluye la herramienta que la IA desea usar y sus parámetros.
- El revisor aprueba o rechaza la solicitud.
- Si se aprueba, la herramienta se ejecuta con los parámetros especificados por la IA; si se rechaza, la operación se cancela y la IA recibe notificación del rechazo.
Aprobación en canales independientes
El paso de revisión puede realizarse a través de un canal distinto al de la interacción principal. Por ejemplo, un usuario interactúa con el agente de IA mediante la interfaz de chat de n8n, pero las solicitudes de aprobación se envían a personas específicas en Slack.
Configurar un paso de revisión humana para herramientas
Paso 1: Abrir el panel de herramientas
En tu flujo de trabajo, haz clic en el conector Tools (Herramientas) del nodo de agente de IA para abrir el panel de herramientas.
Paso 2: Añadir un paso de revisión humana
- En el panel de herramientas, busca la sección Human review (Revisión humana).
- Selecciona tu canal de aprobación preferido entre las opciones disponibles.
- Configura el canal de aprobación con las credenciales y ajustes adecuados.
Paso 3: Conectar herramientas al paso de revisión
- Añade las herramientas que requieran aprobación al conector de herramientas del paso de revisión humana.
- Configura cada herramienta como lo harías normalmente.
Canales de aprobación disponibles
Puedes utilizar cualquiera de los siguientes servicios como canal de revisión humana:
| Canal | Descripción |
|---|---|
| Chat | Interfaz de chat integrada en n8n |
| Slack | Envía solicitudes de aprobación a canales o mensajes directos de Slack |
| Discord | Envía solicitudes de aprobación a canales de Discord |
| Telegram | Envía solicitudes de aprobación mediante Telegram |
| Microsoft Teams | Envía solicitudes de aprobación a canales o chats de Teams |
| Gmail | Envía solicitudes de aprobación por correo electrónico |
| WhatsApp Business Cloud | Envía solicitudes de aprobación mediante WhatsApp |
| Google Chat | Envía solicitudes de aprobación a Google Chat |
| Microsoft Outlook | Envía solicitudes de aprobación mediante correo de Outlook |
Uso de expresiones en herramientas con revisión humana
Variable $tool
Al configurar un paso de revisión humana, puedes usar la variable $tool para construir un mensaje contextualizado dirigido al revisor, explicando qué operación intenta realizar la IA. Esta variable tiene dos propiedades:
| Propiedad | Descripción |
|---|---|
$tool.name | Nombre de la herramienta que el agente de IA intenta invocar (es decir, el nombre mostrado en el lienzo de n8n). |
$tool.parameters | Parámetros que la IA intenta usar en la llamada a la herramienta, incluidos todos los campos del esquema de entrada de la herramienta que han sido configurados con la expresión $fromAI(). |
Ejemplo de configuración de mensaje:
La IA quiere usar {{ $tool.name }} con los siguientes parámetros:
{{ $tool.parameters }}
Esto ayuda al revisor a comprender claramente qué operación intenta realizar la IA antes de aprobar o rechazar la solicitud.
Uso de $fromAI() en herramientas con revisión humana
La función $fromAI() es compatible con herramientas conectadas a un paso de revisión humana. Esto significa que la IA puede especificar dinámicamente los parámetros de la herramienta, y son precisamente estos valores determinados por la IA los que el revisor humano ve y aprueba.
Buenas prácticas para el prompt (mensaje) del sistema
Para que el agente de IA comprenda y gestione correctamente los casos en que una llamada a una herramienta sea rechazada, incluye información sobre la configuración de la revisión humana en tu prompt del sistema.
Importancia de configurar el prompt del sistema
Asegúrate de incluir en el prompt del sistema información sobre la configuración de las herramientas y los pasos de revisión humana. Esto ayuda a la IA a entender qué herramientas requieren aprobación y cómo responder adecuadamente cuando una llamada a una herramienta sea rechazada.
Se recomienda incluir lo siguiente:
- Qué herramientas requieren aprobación humana.
- Qué ocurre cuando se rechaza una aprobación.
- Cómo debe responder la IA ante un rechazo (por ejemplo, notificar al usuario, sugerir alternativas o solicitar aclaraciones).
Llamadas encadenadas y subagentes
Cuando se utiliza un agente de IA como herramienta de otro agente de IA, los pasos de revisión humana en el subagente funcionan correctamente.
Recursos relacionados
- Nodo de agente de IA
- Agente de herramientas
- ¿Qué son las herramientas en IA?
- Permitir que la IA especifique parámetros de herramientas mediante
$fromAI()