So hältst du bei einem KI-Agenten einen Menschen im Prozess

Human in the Loop heißt: Ein KI-Agent erledigt die Arbeit, aber an den entscheidenden Stellen entscheidet ein Mensch – worauf der Agent zugreifen darf, welche Aktionen ein Ja brauchen, wann ein Gespräch ein Teammitglied braucht und ob die Ergebnisse stimmen. Es geht nicht darum, jeden Schritt zu beobachten. Es geht darum, Menschen an die wenigen Stellen zu setzen, an denen ein Fehler teuer wäre.

Machst du es in die eine Richtung falsch, nimmt der Agent Änderungen vor, die niemand freigegeben hätte. Machst du es in die andere Richtung falsch, gibt dein Team täglich fünfzig Routineaktionen frei und liest sie irgendwann nicht mehr. Dieser Leitfaden zeigt, wo ein Mensch hingehört, wie du Aktionen nach Risiko sortierst und wie Freigaben echte Entscheidungen bleiben, statt zum bloßen Durchwinken zu werden.

Die stärkste Kontrolle ist die, die eine Aktion unmöglich macht. Wenn ein Agent nie Abos kündigen soll, gib ihm die Möglichkeit gar nicht erst und verlass dich nicht auf Anweisungen; lass die Fähigkeit ausgeschaltet. Anweisungen nutzt du dann für Ermessensfragen.

• Fähigkeiten: Hake nur an, was die Aufgabe braucht. Ein Agent ohne eine Fähigkeit kann sie nicht nutzen, egal wie man ihn fragt.
• Kanäle: Jeder Agent antwortet nur in den Kanälen, die du ihm zuweist.
• Anweisungen: Schreib Listen wie „erst mit einem Menschen abklären“ und „übergeben, wenn“ in einfachen Worten auf, so wie für einen neuen Mitarbeiter.
• Rollen: Kundenagenten arbeiten mit Kunden, Operator-Agenten mit deinem Team. Halte sie getrennt.

Nicht jede Aktion verdient dieselbe Prüfung. Sortiere sie danach, was passiert, wenn der Agent etwas falsch macht:

In Concierge ist die Anfrage das Ja. Wenn ein Kunde per SMS schreibt, dass er sein Abo kündigen will, wird es gekündigt. Wenn ein Teammitglied im Admin-Chat einen Operator-Agenten bittet, eine Bestellung zu stornieren, wird sie storniert. Der Agent fragt nur bei dem zuerst, worauf er selbst gekommen ist, und formuliert es als Angebot: Ein Kunde bittet darum, seine letzte Bestellung zu stornieren, der Agent sieht, dass sie aus einem Abo stammt, und fragt, ob er auch das Abo kündigen soll. Bei einer geplanten Aufgabe ist es anders, weil niemand dabei ist, wenn sie läuft: Ihre Anweisung zählt nicht als Anfrage. Ein Schritt, der Schaden anrichten könnte, braucht deshalb die dauerhafte Erlaubnis oder die Freigabe eines Teammitglieds, und die Frage geht an das Teammitglied, dem die Aufgabe gehört, im Thread der Aufgabe. Niemand muss einen Freigabe-Bildschirm suchen; die Antwort kommt in eigenen Worten, etwa „ja, mach das“ oder „nur den Versand“.

Manche Gespräche brauchen einen Menschen, kein Ja. Eine gute Übergabe geht schnell, erreicht auch außerhalb der Geschäftszeiten jemanden und kommt mit Kontext an, damit der Kunde sich nicht wiederholen muss.

• Klare Auslöser: Der Kunde verlangt nach einem Menschen; der Fall liegt außerhalb der Richtlinien; der Kunde ist wegen eines wiederholten Problems verärgert; alles, was beschädigte Ware, verschwundene Pakete oder rechtliche Drohungen betrifft.
• Eine nützliche Notiz: Der Agent prüft zuerst, was er kann, und übergibt dann mit dem, was er gefunden hat.
• Ehrliches Warten: Der Agent sagt dem Kunden, dass Hilfe angefordert wurde, ohne zu versprechen, dass gerade jemand online ist.
• Eine zuständige Person: Sobald ein Teammitglied annimmt oder antwortet, tritt der Agent zurück. Ist das Teammitglied fertig, gibt es das Gespräch zurück.

Bei einem Telefonanruf kann ein Teammitglied über die Finn-Apps mithören und dazukommen. Mehr dazu in KI-Eskalation und Übergabe an Menschen und in der Dokumentation zur Übergabe.

• Den Verlauf lesen: Jede Anfrage, Freigabe, Tool-Nutzung und Antwort wird im Gespräch gespeichert. Überrascht dich eine Antwort, frag den Agenten nach dem Grund; er erklärt, was er sich angesehen und getan hat.
• Jede Woche eine Stichprobe prüfen: Lies Gespräche aus jedem Kanal von Anfang bis Ende, dazu jede Übergabe.
• Freigeben, was er lernt: Nachdem dein Team eine Übergabe bearbeitet hat, schlagen Concierge-Agenten vor, was sie gelernt haben, etwa die Antwort deines Teams. Du kannst verlangen, dass ein Mensch jeden Vorschlag freigibt, bevor Agenten ihn nutzen.
• Wartende E-Mails prüfen: Kann eine E-Mail nicht ohne das OK eines Menschen rausgehen, erscheint sie als Karte Email Approval im Gespräch, mit Approve & send oder Reject.

Eine Freigabe, die niemand liest, ist schlimmer als keine, weil sie nach Kontrolle aussieht. Ein paar Gewohnheiten sorgen dafür, dass sie echt bleiben:

• Beim Lesen nicht fragen: Abfragen sollten nie ein Ja brauchen. Spar dir die Aufmerksamkeit für Änderungen auf.
• Die Frage konkret stellen: Eine gute Freigabe sagt, was passieren wird, bei welcher Bestellung und welche Alternativen es gibt.
• Entfernen statt ewig freigeben: Wenn du zu etwas immer Nein sagst, schalte die Fähigkeit aus.
• Die richtige Person an die Entscheidung setzen: Ein Angebot geht an die Person, die gefragt hat; Erstattungen gehen an das Team, das für das Geld zuständig ist.
• Monatlich überprüfen: Bewährt sich der Agent bei einer Aufgabe, gib ihm mehr davon; läuft etwas schief, schränke ihn ein.

Concierge baut den Menschen in die Arbeit ein. Du legst mit Freigaben und Fähigkeiten fest, was jeder Agent darf; was jemand anfordert, wird ausgeführt, worauf der Agent selbst kommt, wird zuerst angeboten, Erstattungen bleiben bei deinem Team, Übergaben erreichen dein Team im Team-Posteingang und in der Finn-App, und jeder Schritt wird protokolliert. Concierge Starter kostet US$20 pro Monat mit 20.000 Credits. Pro kostet US$199 pro Monat oder US$1.990 pro Jahr mit 199.000 Credits. Weitere Credits kosten US$1 pro 1.000, Telefon- und SMS-Gebühren werden nach Verbrauch abgerechnet, und es gibt keine Gebühren pro Nutzer. Siehe Preise.

Glossar: Human in the Loop, Freigabeprozess, Protokoll, KI-Governance, Zugriff nach dem Minimalprinzip und Übergabe an Menschen. Lies als Nächstes: wie du einen KI-Support-Agenten in vier Phasen einführst, die Sicherheits-Checkliste für KI-Agenten, KI-Agent vs. Chatbot und Was ist ein KI-Mitarbeiter?

Human in the Loop bedeutet, dass der KI-Agent die Arbeit erledigt und ein Mensch an den entscheidenden Stellen entscheidet: was der Agent darf, welche Aktionen ein Ja brauchen, wann der Mensch übernimmt und ob das Ergebnis stimmt.

Alles, was Geld bewegt, und jede Änderung, die der Agent von sich aus beschließt. Daten lesen, Fragen beantworten und tun, was ein Mensch ausdrücklich angefordert hat, sollte keine separate Freigabe brauchen.

Nein. Ein Concierge-Agent nimmt Änderungen, die jemand ausdrücklich anfordert, ohne erneute Rückfrage vor und fragt nur bei dem zuerst, was er von sich aus vorschlägt. Erstattungen bleiben bei deinem Team. Wenn ein Agent eine Aktion nie ausführen soll, schalte diese Fähigkeit aus, dann kann er es nicht.

Nein. Sobald der Kunde sich mit einem Anmeldecode ausgewiesen hat, wird die angeforderte Änderung ohne weitere Frage ausgeführt. Erstattungen sind die Ausnahme: Der Agent eröffnet die Rücksendung, und dein Team gibt die Erstattung frei.