Was bedeutet Human-in-the-Loop?

Human-in-the-Loop (HITL) bezeichnet KI-Systeme, in denen ein Mensch an festgelegten Stellen in den Ablauf eingebunden ist: Er prüft, korrigiert oder gibt frei, bevor das System weiterarbeitet. Bei KI-Agenten betrifft das vor allem Handlungen mit Außenwirkung oder hohem Risiko, etwa Buchungen, Zahlungen oder Änderungen an Stammdaten. Wo genau der Mensch eingreift, ist eine bewusste Designentscheidung zwischen Tempo und Kontrolle.

Warum ist das wichtig?

Autonomie ohne Eingriffspunkte ist in den meisten Unternehmensprozessen weder erlaubt noch sinnvoll; ständige Rückfragen machen einen Agenten dagegen nutzlos. Human-in-the-Loop legt fest, wo die Verantwortung beim Menschen bleibt – und der EU AI Act verlangt für Hochrisiko-Systeme ausdrücklich eine wirksame menschliche Aufsicht.

Wie sieht das konkret aus?

Ein Agent bereitet Gutschriften für Reklamationen vor. Bis 200 € bucht er selbst, darüber legt er der Teamleitung einen Entwurf mit Begründung und Fallhistorie vor. Nach drei Monaten zeigt die Auswertung, dass 96 % der Entwürfe unverändert freigegeben wurden — Anlass, die Grenze auf 500 € anzuheben und die menschliche Prüfung auf die schwierigen Fälle zu konzentrieren.

Nicht zu verwechseln mit

Nicht mit Human-on-the-Loop zu verwechseln: dort arbeitet das System selbstständig, und der Mensch überwacht und greift nur bei Bedarf ein, statt jede Entscheidung freizugeben. Und nicht mit manueller Nacharbeit: die korrigiert Fehler im Nachhinein, Human-in-the-Loop setzt die Prüfung vor die Wirkung.