Automatisierung ist kein Schalter mit zwei Stellungen. Der Ingenieur Thomas Sheridan und sein Kollege William Verplank beschrieben 1978 eine Skala mit zehn Stufen. Einige Beispiele daraus, vereinfacht:
- Der Computer bietet keine Hilfe, der Mensch entscheidet alles.
- Der Computer schlägt mehrere Alternativen vor.
- Der Computer schlägt eine Alternative vor.
- Der Computer führt seinen Vorschlag aus, wenn der Mensch zustimmt.
- Der Computer führt aus, der Mensch hat eine begrenzte Zeit, um einzuschreiten.
- Der Computer führt aus und informiert den Menschen danach.
- Der Computer entscheidet und handelt, ohne den Menschen einzubeziehen.
Raja Parasuraman, Sheridan und Christopher Wickens verfeinerten das Modell im Jahr 2000. Sie unterschieden vier Funktionen, die jeweils unterschiedlich stark automatisiert sein können: Informationen aufnehmen, sie auswerten, eine Entscheidung wählen und sie ausführen. Ein System kann also Daten vollautomatisch aufbereiten, die Entscheidung aber dem Menschen überlassen.
Bekannt ist heute vor allem die Einteilung für das autonome Fahren in die Stufen 0 bis 5 der Ingenieursvereinigung SAE. Die Stufen dazwischen sind besonders heikel: Das Auto fährt selbst, der Mensch soll aber jederzeit übernehmen können. Genau dort wirken Complacency und der Vigilanzabfall.
Für KI-Agenten ist die Skala ein nützliches Werkzeug: Statt pauschal über „Mensch im Loop“ zu reden, kann man für jeden Schritt festlegen, welche Stufe angemessen ist (siehe Human in the Loop).