Der Begriff kommt aus der Notfallmedizin. Der Arzt Pat Croskerry beschrieb Anfang der 2000er Jahre Strategien, mit denen Ärztinnen und Ärzte typische Diagnosefehler vermeiden können, etwa indem sie sich zwingen, vor der Entscheidung noch einmal alternative Erklärungen durchzugehen.
Für die Zusammenarbeit mit KI haben Zana Buçinca, Maja Malaya und Krzysztof Gajos von der Harvard University die Idee 2021 untersucht. Versuchspersonen trafen Entscheidungen mit Unterstützung einer KI, die manchmal falsch lag. In einigen Varianten mussten sie zuerst selbst urteilen, bevor sie die Empfehlung sahen, oder sie mussten aktiv anfordern, die Empfehlung überhaupt angezeigt zu bekommen. Diese Varianten senkten die Überabhängigkeit von falschen Empfehlungen deutlich im Vergleich zu einer KI, die einfach eine Empfehlung mit Erklärung anzeigte.
Der zweite Befund ist ebenso wichtig: Die Versuchspersonen bewerteten genau diese Varianten als unangenehmer und weniger hilfreich. Was die Entscheidungen verbessert, verkauft sich schlecht. Wer ein Produkt nach Zufriedenheit optimiert, wird solche Funktionen eher wieder entfernen.
Typische Formen sind:
- Erst urteilen, dann vergleichen: Die eigene Einschätzung wird festgehalten, bevor die KI-Empfehlung erscheint.
- Empfehlung auf Abruf: Die Empfehlung erscheint erst, wenn man sie anfordert.
- Warten: Die Empfehlung erscheint mit kurzer Verzögerung, in der man selbst nachdenkt.
Cognitive Forcing Functions sind ein Werkzeug gegen den Automation Bias und eine besondere Form gezielter Reibung.