Im Zweiten Weltkrieg fiel der britischen Luftwaffe auf, dass Radarbeobachter gegen Ende ihrer Schicht U-Boote übersahen, die sie zu Beginn erkannt hätten. Der Psychologe Norman Mackworth untersuchte das in den 1940er Jahren mit einem einfachen Gerät, das später als Mackworth-Uhr bekannt wurde: Ein Zeiger springt in regelmäßigen Schritten weiter, nur gelegentlich springt er doppelt so weit. Diese seltenen Sprünge sollen die Versuchspersonen melden.
Das Ergebnis: Schon innerhalb der ersten halben Stunde nahm die Trefferquote deutlich ab, und sie sank danach weiter. Spätere Forschung bestätigte den Befund vielfach und zeigte, dass Überwachung keineswegs eine entspannte, anspruchslose Tätigkeit ist. Sie ist geistig anstrengend, gerade weil fast nie etwas passiert.
Der Vigilanzabfall ist einer der Gründe, warum Menschen schlechte Überwacher von Automatik sind. Je seltener ein Fehler vorkommt, desto schwerer wird es, ihn zu bemerken, wenn er doch auftritt. Das gilt für Leitstände, für die Gepäckkontrolle am Flughafen und für jeden, der den ganzen Tag Vorschläge eines KI-Systems prüft.
Die Flughafenkontrolle in den USA nutzt deshalb seit Jahren ein Gegenmittel: In die Röntgenbilder werden gelegentlich fiktive gefährliche Gegenstände eingeblendet. Das hält die Aufmerksamkeit höher und misst gleichzeitig, wie gut die Kontrolle funktioniert. Übertragen auf KI-Agenten hieße das: bewusst Testfälle mit bekanntem Fehler einstreuen. Verwandt sind Complacency und Alert Fatigue.