Wie der emotionale Zustand den Umgang mit KI-Empfehlungen beeinflusst

Wann übernehmen Menschen Empfehlungen von künstlicher Intelligenz (KI) – und wann ignorieren oder hinterfragen sie diese? Das haben Forschende der Universitäten Paderborn und Bielefeld untersucht. Dabei wurde deutlich: Besonders Menschen in einem mittleren emotionalen Zustand scheinen KI-Empfehlungen kritischer zu prüfen.

Die Ergebnisse der Studie werden im Paper „User Arousal and Advice Taking“ vorgestellt, das zur „4th World Conference on eXplainable Artificial Intelligence“ (XAI 2026) angenommen wurde, die vom 1. bis 3. Juli in Brasilien stattfindet.

Im Paper beschreiben die Forschenden Prof. Kirsten Thommes, Dr. Olesja Lammert und Maurice Pape eine U-förmige Beziehung zwischen emotionaler Erregtheit und der Akzeptanz von KI-Empfehlungen: Personen mit hoher oder niedriger emotionaler Erregtheit übernahmen die Empfehlungen der KI häufiger. Teilnehmende mit mittlerer Erregtheit folgten den Empfehlungen dagegen seltener. Zur Erläuterung: In der Beziehungspsychologie beschreibt eine U-förmige Beziehung den typischen Verlauf der Beziehungszufriedenheit über einen größeren gemeinsamen Zeitraum. Am Anfang ist sie sehr hoch, fällt dann in den ersten Jahren z. B. durch Alltag und Routine ab und steigt nach der kritischen Phase wieder an.

Experiment unter emotionalem Druck

Für die Studie führten die Forschenden ein Experiment mit 73 Teilnehmenden durch. Zunächst versetzten sich die Probandinnen und Probanden in unterschiedliche emotionale Zustände, indem sie bestimmte Situationen visualisierten und anschließend Aufgaben bearbeiteten. Während eine Gruppe eine lösbare Aufgabe erhielt, wurde die andere mit einer unlösbaren Aufgabe konfrontiert. Zusätzlich zum subjektiven Empfinden der Teilnehmenden maßen die Forschenden den Puls, um die emotionale Erregtheit objektiv zu erfassen. „Unsere Ergebnisse deuten darauf hin, dass Menschen in einem mittleren Erregungszustand Empfehlungen von KI-Systemen kritischer hinterfragen. Ob Personen mit hoher oder niedriger Erregtheit sich dagegen weniger für die Erklärungen der KI interessieren, untersuchen wir derzeit in weiteren Studien“, erklärt Pape. Er präsentiert die aktuellen Ergebnisse auf der XAI 2026.

Potenzial für medizinische Anwendungen

Die Erkenntnisse könnten künftig insbesondere für sogenannte „arousal-sensitive“ XAI-Systeme relevant werden, also erklärbare KI-Systeme, die den emotionalen Zustand oder den situativen Kontext von Nutzerinnen und Nutzern stärker berücksichtigen. Ziel ist es, besser zu verstehen, wann Menschen KI-Empfehlungen reflektiert prüfen und wann sie diese eher ungefragt übernehmen. In weiteren Studien wollen die Forschenden nun untersuchen, welchen Einfluss Faktoren wie z. B. Zeitdruck auf die emotionale Erregtheit haben und welche Auswirkungen das auf die Wahrnehmung und Akzeptanz von KI-Erklärungen hat. Langfristig sollen die Erkenntnisse auch in medizinischen Anwendungsszenarien genutzt werden, etwa in Situationen, in denen Menschen unter Stress stehen oder emotional belastet sind.

Das könnte Sie ebenfalls interessieren:

Erstmals im EEG sichtbar: Wie Vertrauen in KI entsteht

KI kann Gefühl von Nähe erzeugen