Manuelle Genehmigung für KI-Tool-Aufrufe (Human-in-the-Loop)
Du kannst festlegen, dass ein KI-Agent bestimmte Tools nur nach manueller Genehmigung ausführen darf. Sobald ein Tool mit aktivierter manueller Genehmigung aufgerufen werden soll, wird der Workflow angehalten und wartet darauf, dass eine Person eine der folgenden Aktionen durchführt:
- Genehmigen (Approve): Das Tool wird mit den von der KI festgelegten Eingabeparametern ausgeführt.
- Ablehnen (Deny): Die Aktion wird abgebrochen.
Diese Funktion ermöglicht eine selektive Überwachung von Tool-Aufrufen innerhalb von KI-Workflows und ist besonders nützlich für risikobehaftete Tools, beispielsweise solche, die Nachrichten versenden, Datensätze ändern oder Daten löschen.
Wann manuelle Genehmigung sinnvoll ist
Manuelle Genehmigung (Human-in-the-Loop, HITL) ist in folgenden Szenarien besonders hilfreich:
- Unwiderrufliche Aktionen: Löschen von Daten, Versand externer Kommunikation oder Durchführung von Bestellungen.
- Compliance-Anforderungen: Regulierte Branchen verlangen oft eine manuelle Freigabe bestimmter automatisierter Vorgänge.
- Entscheidungen mit hohem Geschäftswert: Operationen mit erheblichen Auswirkungen profitieren von menschlicher Aufsicht.
- Vertrauensaufbau in KI-Workflows: Zunächst mit manueller Genehmigung starten und die Überwachung schrittweise reduzieren, sobald das Vertrauen in die KI wächst.
HITL kann entweder auf alle Tools angewendet werden, die mit einem KI-Agent-Knoten verbunden sind, oder selektiv nur auf einzelne Tools – was eine feinere, tool-spezifische Kontrolle ermöglicht.
Funktionsweise
- Der KI-Agent entscheidet, dass ein Tool benötigt wird, für das manuelle Genehmigung aktiviert ist.
- Der Workflow wird pausiert und eine Anfrage wird über den von dir konfigurierten Kanal (z. B. Slack, Telegram oder die n8n-Chat-Oberfläche) gesendet.
- Die genehmigende Person erhält die Anfrage mit Informationen zum gewünschten Tool und dessen Parametern.
- Die Person genehmigt oder lehnt die Anfrage ab.
- Bei Genehmigung wird das Tool mit den von der KI festgelegten Parametern ausgeführt; bei Ablehnung wird die Aktion abgebrochen, und die KI erhält eine entsprechende Rückmeldung.
Unterschiedliche Genehmigungskanäle
Der Genehmigungsschritt kann über einen anderen Kanal erfolgen als die ursprüngliche Interaktion. Beispiel: Ein Nutzer interagiert über die n8n-Chat-Oberfläche mit dem KI-Agenten, während die Anfrage an eine bestimmte Person in Slack gesendet wird.
Manuelle Genehmigung für Tools einrichten
Schritt 1: Öffne das Tool-Panel
Klicke im Workflow auf den Tools-Anschluss des KI-Agent-Knotens, um das Tool-Panel zu öffnen.
Schritt 2: Füge einen Genehmigungsschritt hinzu
- Im Tool-Panel findest du den Abschnitt Manuelle Genehmigung.
- Wähle deinen bevorzugten Genehmigungskanal aus den verfügbaren Optionen aus.
- Konfiguriere den Kanal mit den entsprechenden Anmeldedaten und Einstellungen.
Schritt 3: Verbinde Tools mit dem Genehmigungsschritt
- Füge die Tools, die einer Genehmigung bedürfen, an den Tool-Anschluss des Genehmigungsschritts hinzu.
- Konfiguriere die Tools wie gewohnt.
Verfügbare Genehmigungskanäle
Du kannst folgende Dienste als Genehmigungskanal nutzen:
| Kanal | Beschreibung |
|---|---|
| Chat | Integrierte n8n-Chat-Oberfläche |
| Slack | Anfrage an Slack-Channel oder Direktnachricht |
| Discord | Anfrage an Discord-Channel |
| Telegram | Anfrage über Telegram |
| Microsoft Teams | Anfrage an Teams-Channel oder Chat |
| Gmail | Anfrage per E-Mail |
| WhatsApp Business Cloud | Anfrage über WhatsApp |
| Google Chat | Anfrage an Google Chat |
| Microsoft Outlook | Anfrage per Outlook-E-Mail |
Verwendung von Ausdrücken in Genehmigungsschritten
Die $tool-Variable
Beim Konfigurieren eines Genehmigungsschritts kannst du die $tool-Variable verwenden, um eine kontextreiche Nachricht für die genehmigende Person zu erstellen, die beschreibt, welche Aktion die KI ausführen möchte. Diese Variable hat zwei Eigenschaften:
| Eigenschaft | Beschreibung |
|---|---|
$tool.name | Der Name des Tools, das der KI-Agent aufrufen möchte – also der Name, der im n8n-Canvas angezeigt wird. |
$tool.parameters | Die Parameter, die die KI beim Tool-Aufruf verwenden möchte, einschließlich aller Felder aus dem Tool-Input-Schema, die über den $fromAI()-Ausdruck konfiguriert wurden. |
Beispiel für eine Nachrichtenkonfiguration:
Die KI möchte {{ $tool.name }} verwenden, mit folgenden Parametern:
{{ $tool.parameters }}
Dies hilft der genehmigenden Person, vor der Entscheidung genau zu verstehen, welche Aktion die KI durchführen möchte.
Verwendung von $fromAI() in Tools mit Genehmigung
Die Funktion $fromAI() kann in Tools verwendet werden, die mit einem Genehmigungsschritt verbunden sind. Dadurch kann die KI dynamisch Tool-Parameter festlegen – und genau diese von der KI bestimmten Werte werden der genehmigenden Person zur Freigabe vorgelegt.
Best Practices für den System-Prompt
Damit der KI-Agent korrekt versteht, wie mit abgelehnten Tool-Aufrufen umzugehen ist, solltest du Informationen zur manuellen Genehmigung in deinen System-Prompt aufnehmen.
Notwendigkeit der Prompt-Konfiguration
Stelle sicher, dass dein System-Prompt Informationen zu den Tool-Einstellungen und Genehmigungsschritten enthält. Dies hilft der KI zu verstehen, welche Tools einer Freigabe bedürfen und wie sie auf Ablehnungen reagieren soll.
Folgende Inhalte empfehlen wir:
- Welche Tools eine manuelle Genehmigung benötigen
- Was passiert, wenn eine Genehmigung abgelehnt wird
- Wie die KI auf Ablehnungen reagieren soll (z. B. Benutzer informieren, Alternativen vorschlagen oder um Klarstellung bitten)
Verschachtelte Agent-Aufrufe und Sub-Agents
Wenn ein KI-Agent als Tool eines anderen KI-Agents verwendet wird, funktionieren Genehmigungsschritte innerhalb des Sub-Agents wie gewohnt.
Weiterführende Ressourcen
- KI-Agent-Knoten
- Tools Agent
- Was sind Tools in der KI?
- Tool-Parameter durch die KI mit
$fromAI()festlegen lassen