Den Begriff machte der Kognitionswissenschaftler Don Norman in seinem Buch The Design of Everyday Things bekannt. Eine Forcing Function ist eine Einschränkung, die ein bestimmtes Verhalten erzwingt. Beispiele aus dem Alltag:
- Bei vielen Autos mit Automatikgetriebe lässt sich der Schlüssel nur abziehen, wenn der Wählhebel auf „Parken“ steht.
- Die Mikrowelle startet nicht, solange die Tür offen ist.
- Geldautomaten geben das Geld erst aus, nachdem man die Karte entnommen hat. Früher war es umgekehrt, und viele Menschen ließen ihre Karte stecken, weil ihr Ziel, das Geld, bereits erreicht war.
Norman unterschied mehrere Arten solcher Sperren: Verriegelungen, die eine falsche Reihenfolge verhindern, Sperren, die das vorzeitige Beenden verhindern, und Sperren, die den Zugang zu gefährlichen Bereichen blockieren.
Die Stärke einer Forcing Function liegt darin, dass sie nicht auf Aufmerksamkeit angewiesen ist. Sie funktioniert auch bei müden, abgelenkten oder unerfahrenen Menschen. Ihre Schwäche: Sie ist starr. Wenn sie an der falschen Stelle sitzt, suchen Menschen Wege, sie zu umgehen, und das ist oft gefährlicher als die ursprüngliche Lage.
Für KI-Agenten sind Forcing Functions vor allem technische Grenzen: Ein Agent kann keine Zahlung auslösen, ohne dass eine zweite Bedingung erfüllt ist, oder er kann Daten nur lesen, nicht löschen. Solche Grenzen sind oft wirksamer als jede Freigabe, weil sie nicht vom Urteil eines erschöpften Menschen abhängen. Die mildere Form ist die gezielte Reibung.