Der Psychologe Philip Tetlock hat mit Jennifer Lerner 1999 zusammengefasst, was die Forschung über Verantwortlichkeit (accountability) weiß. Die wichtigste Unterscheidung ist die zwischen zwei Arten, Menschen zur Rechenschaft zu ziehen:
- Ergebnisverantwortung: Man wird daran gemessen, ob die Entscheidung gut ausging.
- Prozessverantwortung: Man wird daran gemessen, wie sorgfältig man zu der Entscheidung gekommen ist.
Prozessverantwortung führt in vielen Studien zu gründlicherem Nachdenken, mehr berücksichtigten Informationen und weniger Verzerrungen. Ergebnisverantwortung kann dagegen dazu führen, dass Menschen sich absichern, an Entscheidungen festhalten oder das tun, was die bewertende Person vermutlich hören will.
Für die Zusammenarbeit mit Automatik ist ein Befund besonders wichtig. Linda Skitka, Kathleen Mosier und Mark Burdick zeigten im Jahr 2000, dass Versuchspersonen, die wussten, dass sie ihre Überwachungsleistung später erklären mussten, deutlich seltener in den Automation Bias verfielen. Nicht die Angst vor einem schlechten Ergebnis half, sondern das Wissen, dass jemand fragen wird, wie man geprüft hat.
Für Organisationen, die KI-Agenten einführen, ist das eine praktische Stellschraube. Wer eine Freigabe erteilt, sollte kurz festhalten, was er geprüft hat. Das ist wenig Aufwand und macht aus dem Klick eine Entscheidung. Dazu gehört aber auch, dass sorgfältige Prüfung gewürdigt wird, selbst wenn sie gelegentlich nichts findet. Wo nur Tempo belohnt wird, hilft Verantwortlichkeit wenig.