Was ist Human in the Loop?

Der Sinn liegt in der Verteilung der Arbeit, nicht in Misstrauen gegenüber der Technik. Ein System, das 90 % der Fälle sicher erledigt, spart genau diese 90 %, wenn die übrigen zuverlässig aussortiert werden. Ohne Prüfpunkt müsste jemand alle Fälle kontrollieren, und der Nutzen wäre dahin. Der Prüfpunkt ist damit der Mechanismus, der Automatisierung überhaupt wirtschaftlich macht.

In der Dokumentenverarbeitung wird er meist über einen Sicherheitswert gesteuert: Liegt die Erkennung eines Felds unter einer festgelegten Schwelle, geht der Beleg in die Sichtung. In der Textarbeit wird er über den Prozess gesetzt, etwa als Freigabe vor dem Versand an Kunden. In Automatisierungsabläufen ist er ein eigener Schritt mit Zuständigkeit und Frist. Alle drei Formen brauchen eine Regel, was passiert, wenn niemand prüft.

Der häufigste Fehler ist eine Schwelle, die niemand nachjustiert. Wird sie zu streng gesetzt, landet fast alles in der Sichtung, und die Belegschaft empfindet die Einführung als Mehrarbeit. Wird sie zu locker gesetzt, rutschen Fehler durch, und das Vertrauen ist nach dem zweiten Vorfall weg. Planen Sie deshalb von Anfang an ein, die Schwelle nach einigen Wochen anhand echter Zahlen anzupassen.

Sie brauchen einen Prüfpunkt immer dort, wo ein Fehler nach außen wirkt oder schwer zu korrigieren ist: bei Zahlungen, bei Kundenkommunikation, bei Entscheidungen über Personen. Bei internen Entwürfen, die ohnehin weiterbearbeitet werden, können Sie darauf verzichten. Halten Sie diese Zuordnung schriftlich fest, sonst entsteht sie im Alltag ungeplant.

Was zu einem Prüfpunkt gehört

• Eine benannte Rolle, die prüft, und eine Vertretung.
• Eine Schwelle oder Regel, die festlegt, welche Fälle vorgelegt werden.
• Eine Frist, innerhalb derer geprüft wird, und eine Regel bei Überschreitung.
• Eine Rückmeldung an das System, damit sich Fehlerquellen erkennen lassen.
• Eine regelmäßige Auswertung, ob die Schwelle noch passt.

Welche Begriffe hängen damit zusammen?

• Konfidenzwert: Der Wert, mit dem ein System angibt, wie sicher es sich bei einem Feld ist. Er steuert, ab wann ein Mensch prüft.
• Halluzination: Eine erfundene, aber überzeugend formulierte Antwort. Der wichtigste Grund, warum Ergebnisse geprüft werden müssen.
• Leitplanken: Regeln, die festlegen, was ein KI-System tun darf und was nicht, und wann es abgibt.

Wo wird Human in the Loop in der Auswahl konkret?

Begriffe helfen erst, wenn sie an einer Entscheidung hängen. Human in the Loop spielt vor allem in Dokumente & Verwaltung und Kundenservice & Voice eine Rolle. Dort sehen Sie, wie die geprüften Lösungen mit dem Punkt umgehen, jeweils mit Quelle und Stand-Datum.