Das Freigabe-Dilemma
Jedes KI-System, das in echte Systeme schreibt, steht vor demselben Dilemma. Fragt es zu oft nach Freigabe, wird es zum Klick-Roboter, der den Menschen mehr Arbeit macht als abnimmt — jede Mail einzeln bestätigen ist schlimmer als sie selbst zu schreiben. Fragt es zu selten, verschickt es irgendwann eine peinliche oder teure Aktion an einen echten Kunden, und das Vertrauen ist weg.
Die Kunst von Human-in-the-Loop liegt nicht darin, ob man Freigaben einbaut, sondern wo genau. Dieses Playbook fasst zusammen, was wir beim Bau der Approval-Gates in ORCONIC gelernt haben.
Regel 1: Freigaben gehören an Irreversibilität, nicht an Wichtigkeit
Die häufigste Fehlkalibrierung: Man setzt Freigaben nach "wie wichtig fühlt sich das an". Das führt zu Willkür. Die bessere Achse ist Reversibilität.
- Reversibel und intern (Entwurf speichern, Notiz anlegen, Lead-Score aktualisieren): keine Freigabe. Ein Fehler ist in Sekunden korrigiert.
- Reversibel, aber extern sichtbar (interne Aufgabe an Kollegen, Kalendereintrag-Vorschlag): optionale Freigabe, standardmäßig aus.
- Irreversibel oder extern verbindlich (E-Mail an einen Kunden, Buchung in DATEV, Zahlung, Vertragsversand): immer Freigabe, nicht abschaltbar.
Diese eine Regel eliminiert 80 % der Freigabe-Müdigkeit, weil sie den Löwenanteil der internen, reversiblen Schritte durchlaufen lässt.
Regel 2: Freigabe heißt "Entwurf prüfen", nicht "Aktion auslösen"
Ein gutes Approval-Gate legt dem Menschen keine Ja/Nein-Frage vor, sondern ein fertiges Artefakt. Die E-Mail ist geschrieben, das Angebot kalkuliert, der Termin vorgeschlagen. Der Mensch liest, korrigiert bei Bedarf zwei Wörter und klickt frei.
Der Unterschied in der Praxis ist riesig. "Soll ich dem Kunden absagen? Ja/Nein" zwingt den Menschen, die Arbeit selbst zu machen. "Hier ist die Absage-Mail, bitte prüfen" nimmt sie ihm ab. Ersteres ist ein Dialogsystem. Letzteres ist ein Mitarbeiter.
Regel 3: Vertrauen wächst — die Gate-Schwelle darf mitwachsen
Am Anfang möchte niemand, dass die KI ohne Blick eine Kundenmail rausschickt. Nach drei Wochen und 200 fehlerfreien Entwürfen sieht das anders aus. Ein reifes System erlaubt, Freigabe-Schwellen pro Kategorie anzuheben:
- Woche 1: Jede Kundenmail wird freigegeben.
- Woche 4: Standardantworten aus der Wissensbasis (Öffnungszeiten, Statusanfragen) laufen ohne Freigabe, alles andere weiter mit.
- Woche 8: Nur noch verbindliche Angebote und Absagen brauchen Freigabe.
Wichtig: Diese Lockerung ist eine bewusste Entscheidung des Kunden, kein automatisches Nachlassen. Und sie ist jederzeit zurückdrehbar.
Regel 4: Jede freigegebene Aktion muss im Audit-Log landen
Freigabe ohne Protokoll ist wertlos. Wer hat wann was freigegeben? In ORCONIC schreibt jede Freigabe einen Eintrag ins revisionssichere Audit-Log — mit Nutzer, Zeitstempel, der vorgelegten und der finalen Version. Das schützt in zwei Richtungen: Es dokumentiert, dass ein Mensch die Verantwortung übernommen hat, und es macht nachvollziehbar, was die KI vorgeschlagen hatte, falls es später Streit gibt.
Regel 5: Die Warteschlange braucht ein Ablaufdatum
Freigaben, die ewig in einer Queue liegen, sind ein Prozess-Leck. Eine Anfrage, die auf Freigabe wartet, ist eine unbeantwortete Anfrage. Gute Approval-Gates haben deshalb ein Timeout-Verhalten:
- Nach X Stunden ohne Freigabe: Eskalation an eine zweite Person.
- Für rein interne, reversible Schritte: optionaler Auto-Freigabe-Fallback nach Timeout.
- Für verbindliche externe Aktionen: niemals Auto-Freigabe — stattdessen deutlichere Eskalation.
Anti-Pattern: Die Sammelfreigabe
Ein verbreiteter Fehler ist die "Freigabe von 40 Aktionen auf einmal" per Häkchen-Liste. Das fühlt sich effizient an, ist aber genau der Moment, in dem niemand mehr hinschaut und die eine peinliche Mail durchrutscht. Sammelfreigaben sind okay für gleichartige, reversible Massenaktionen — niemals für verbindliche Einzelfälle.
Zusammenfassung: die fünf Regeln
- Freigaben an Irreversibilität hängen, nicht an gefühlter Wichtigkeit.
- Immer ein fertiges Artefakt vorlegen, keine Ja/Nein-Frage.
- Schwellen mit wachsendem Vertrauen anheben — bewusst, umkehrbar.
- Jede Freigabe auditieren.
- Die Queue braucht Timeouts und Eskalation.
Human-in-the-Loop ist kein Kompromiss, den man eingeht, weil die KI noch nicht gut genug ist. Es ist die Architektur, die einen digitalen Mitarbeiter überhaupt erst in einem echten Unternehmen einsetzbar macht — heute und auch dann noch, wenn die Modelle noch besser geworden sind.