Die Psychologen Rolf Reber und Norbert Schwarz zeigten 1999 in einem schlichten Experiment (siehe Reber & Schwarz): Dieselben Aussagen wurden häufiger als wahr eingestuft, wenn sie in gut lesbarem Kontrast auf dem Bildschirm standen, als wenn sie schwer zu lesen waren. Die Leichtigkeit der Verarbeitung, auf Englisch processing fluency, wird als Hinweis auf Wahrheit missverstanden.
Der Effekt zeigt sich in vielen Varianten. Aussagen, die man schon einmal gehört hat, wirken glaubwürdiger, auch wenn sie falsch sind. Man nennt das den Wahrheitseffekt durch Wiederholung. Gereimte Sprüche werden eher geglaubt als dieselbe Aussage ohne Reim. Firmennamen, die sich leicht aussprechen lassen, werden an der Börse anfangs besser bewertet.
Für Texte von Sprachmodellen ist das besonders relevant. Ihre Ausgaben sind grammatisch sauber, gut gegliedert und selbstsicher formuliert, also maximal flüssig. Das Gefühl „klingt richtig“ entsteht deshalb auch dann, wenn der Inhalt falsch ist. Wer eine lange, elegante Antwort eines Agenten freigeben soll, bekommt aus der Form ein Signal, das über den Inhalt nichts aussagt. Zusätzliche Erklärungen einer KI können die Zustimmung sogar erhöhen, ohne dass die Entscheidungen besser werden.
Ein Gegenmittel ist, die Prüfung vom Text zu lösen: nicht fragen, ob die Antwort überzeugend klingt, sondern ob die entscheidenden Annahmen stimmen, und diese einzeln gegen Quellen oder Daten prüfen. Die Verarbeitungsflüssigkeit gehört zu den kognitiven Verzerrungen, die System 1 begünstigt.