Der Begriff stammt aus der Medizin. Krankenhäuser nutzen Software, die bei der Verordnung von Medikamenten vor Wechselwirkungen, Allergien oder Dosierungsfehlern warnt. Ein Überblick von Heleen van der Sijs und Kollegen aus dem Jahr 2006 fand, dass Ärztinnen und Ärzte je nach Studie zwischen 49 und 96 Prozent dieser Warnungen übergingen. Die meisten Warnungen waren im Einzelfall unwichtig, und genau deshalb wurden auch die wichtigen übersehen.
Dasselbe Muster zeigt sich bei Überwachungsmonitoren auf Intensivstationen, deren Alarme ständig piepen, bei Sicherheitswarnungen in Software und bei Cookie-Bannern, die fast alle Menschen reflexhaft wegklicken (siehe den Blogbeitrag über Cookie-Banner). Die Psychologie kennt dafür auch das Bild vom Hirtenjungen, der zu oft „Wolf!“ ruft: Irgendwann glaubt ihm niemand mehr.
Für KI-Agenten ist Alert Fatigue eine der größten Gefahren im Alltag. Ein Agent, der für jeden kleinen Schritt eine Bestätigung verlangt, erzieht Menschen dazu, reflexhaft zuzustimmen. Dann ist die Bestätigung eine Formalität, und im entscheidenden Moment fehlt die Aufmerksamkeit.
Gegenmittel setzen an der Menge an. Freigaben sollten wie ein knappes Budget behandelt werden: wenige, nach Risiko ausgewählt, und jede mit einer klaren Frage statt einer langen Zusammenfassung. Was sich leicht rückgängig machen lässt, braucht oft gar keine Freigabe. Und wo eine Bestätigung wirklich nötig ist, hilft gezielte Reibung, die sich vom Routineklick unterscheidet. Verwandt ist der Vigilanzabfall.