„Human in the Loop“ stammt ursprünglich aus der Regelungstechnik und dem Militär. Gemeint ist ein Ablauf, in dem ein Mensch an bestimmten Stellen eingreifen oder zustimmen muss. Daneben gibt es „Human on the Loop“, bei dem der Mensch einen automatischen Ablauf überwacht und eingreifen kann, und „Human out of the Loop“, bei dem das System ganz ohne Menschen arbeitet.
Bei KI-Agenten ist Human in the Loop heute das übliche Muster: Der Agent arbeitet einen Ablauf ab und holt an festgelegten Punkten eine Freigabe ein. Das klingt nach Kontrolle, hat aber eine Schwäche. Der Mensch wird zur Station im Prozess des Agenten. Er sieht nur das Ergebnis, nicht den Weg, und wird schnell zum Stempel (siehe Automation Bias und Alert Fatigue).
AI in the Loop dreht das Verhältnis um. Der Prozess gehört dem Menschen, die KI ist ein Werkzeug, das er an einzelnen Stellen einsetzt: zum Recherchieren, Entwerfen oder Prüfen. Der Mensch behält das Bild der Lage und die Verantwortung. Dieses Muster ist robuster, aber langsamer und schwerer zu skalieren.
Welches Muster passt, ist keine Glaubensfrage. Es hängt davon ab, wie verlässlich die Rückmeldung aus der Realität ist (siehe kind und wicked Lernumgebungen) und wie leicht sich Fehler rückgängig machen lassen. Wo Fehler schnell sichtbar und billig zu korrigieren sind, kann ein Agent weitgehend selbstständig arbeiten. Wo die Rückmeldung spät kommt und Fehler teuer sind, sollte der Mensch den Prozess führen. Die Automatisierungsgrade helfen, das für jeden Schritt einzeln festzulegen.