Der Begriff wird unterschiedlich verwendet. Viele Hochschulen und Unternehmen nutzen ihn als allgemeines Leitbild: KI soll Menschen unterstützen statt ersetzen. Das Stanford Institute for Human-Centered Artificial Intelligence, gegründet 2019, hat den Begriff in diesem Sinn bekannt gemacht.
Konkreter ist die Fassung des Informatikers Ben Shneiderman, einem Pionier der Mensch-Computer-Interaktion. In seinem Buch Human-Centered AI (2022) widerspricht er der verbreiteten Vorstellung einer eindimensionalen Skala, auf der mehr Automatisierung zwingend weniger menschliche Kontrolle bedeutet. Er schlägt stattdessen zwei Achsen vor: Wie stark ist ein System automatisiert, und wie viel Kontrolle behält der Mensch? Das Ziel liegt im Feld „hoch und hoch“. Als Beispiel nennt er Digitalkameras: Sie stellen Schärfe und Belichtung automatisch ein, und trotzdem entscheidet der Mensch, was er fotografiert und wann er auslöst.
Aus dieser Sicht ist die Frage nicht, ob ein Mensch eingebunden ist, sondern wie. Gut gestaltete Systeme machen sichtbar, was sie tun, lassen sich unterbrechen und korrigieren und geben dem Menschen Werkzeuge statt Freigabeknöpfe.
Als Schlagwort ist Human-Centered AI allerdings unscharf und wird oft ohne konkrete Folgen verwendet. Präziser sind die Begriffe der Human-Factors-Forschung, auf die der Ansatz zurückgreift: Automatisierungsgrade, Vertrauenskalibrierung, Situationsbewusstsein und die Frage nach Human in the Loop oder AI in the Loop.