Begriff / BausteinErklärt einen einzelnen Begriff oder stellt eine Person vor, in wenigen Absätzen. Artikel greifen darauf zurück. Zum Nachschlagen.Baut auf: Wirtschaftspsychologie · Software & KI

Rationale Unaufmerksamkeit

Aufmerksamkeit ist knapp und hat Kosten. Nicht jede Information genau zu prüfen, ist deshalb oft keine Nachlässigkeit, sondern eine vernünftige Abwägung.

2 Min. Lesezeit
#Entscheidungspsychologie#Aufmerksamkeit#KI

Der Ökonom Christopher Sims beschrieb 2003, wie Menschen mit Informationen umgehen, wenn deren Verarbeitung Kapazität kostet. Sein Modell der rational inattention geht davon aus, dass Menschen ihre begrenzte Aufmerksamkeit dorthin lenken, wo sie den größten Nutzen verspricht, und andere Signale bewusst oder unbewusst grob behandeln. Wer nicht jeden Tag den Leitzins verfolgt, handelt also nicht dumm, sondern spart Aufmerksamkeit für Wichtigeres.

Für die Zusammenarbeit mit Automation und KI ist das eine unbequeme Einsicht. Angenommen, ein Mitarbeiter soll zwanzig Vorschläge eines KI-Agenten pro Tag freigeben. Eine gründliche Prüfung kostet jeweils zwanzig Minuten. Der Agent liegt in 97 von 100 Fällen richtig, und für einen übersehenen Fehler haftet niemand persönlich. Aus Sicht dieser Person ist es vernünftig, nur zu überfliegen und zuzustimmen. Das Abnicken ist dann kein Charakterfehler, sondern eine Antwort auf die Anreize.

Daraus folgt eine andere Gestaltungsfrage. Statt Menschen zu mehr Sorgfalt aufzufordern, sollte man fragen, was eine Prüfung kostet und was sie bringt: Wie viele Freigaben sind wirklich nötig? Lässt sich die Prüfung auf wenige, entscheidende Punkte verkürzen? Wird der Prüfprozess selbst bewertet (siehe Verantwortlichkeit)?

Rationale Unaufmerksamkeit ist eine moderne Fassung der begrenzten Rationalität und erklärt einen Teil dessen, was die Human-Factors-Forschung als Automation Bias und Complacency beschreibt.