Wie der emotionale Zustand den Umgang mit KI-Empfehlungen beeinflusst29. Juni 2026 Wann übernehmen Menschen Empfehlungen von künstlicher Intelligenz (KI) – und wann ignorieren oder hinterfragen sie diese? Das haben Forschende der Universitäten Paderborn und Bielefeld untersucht. Dabei wurde deutlich: Besonders Menschen in einem mittleren emotionalen Zustand scheinen KI-Empfehlungen kritischer zu prüfen. Die Ergebnisse der Studie werden im Paper „User Arousal and Advice Taking“ vorgestellt, das zur „4th World Conference on eXplainable Artificial Intelligence“ (XAI 2026) angenommen wurde, die vom 1. bis 3. Juli in Brasilien stattfindet. Im Paper beschreiben die Forschenden Prof. Kirsten Thommes, Dr. Olesja Lammert und Maurice Pape eine U-förmige Beziehung zwischen emotionaler Erregtheit und der Akzeptanz von KI-Empfehlungen: Personen mit hoher oder niedriger emotionaler Erregtheit übernahmen die Empfehlungen der KI häufiger. Teilnehmende mit mittlerer Erregtheit folgten den Empfehlungen dagegen seltener. Zur Erläuterung: In der Beziehungspsychologie beschreibt eine U-förmige Beziehung den typischen Verlauf der Beziehungszufriedenheit über einen größeren gemeinsamen Zeitraum. Am Anfang ist sie sehr hoch, fällt dann in den ersten Jahren z. B. durch Alltag und Routine ab und steigt nach der kritischen Phase wieder an. Experiment unter emotionalem Druck Für die Studie führten die Forschenden ein Experiment mit 73 Teilnehmenden durch. Zunächst versetzten sich die Probandinnen und Probanden in unterschiedliche emotionale Zustände, indem sie bestimmte Situationen visualisierten und anschließend Aufgaben bearbeiteten. Während eine Gruppe eine lösbare Aufgabe erhielt, wurde die andere mit einer unlösbaren Aufgabe konfrontiert. Zusätzlich zum subjektiven Empfinden der Teilnehmenden maßen die Forschenden den Puls, um die emotionale Erregtheit objektiv zu erfassen. „Unsere Ergebnisse deuten darauf hin, dass Menschen in einem mittleren Erregungszustand Empfehlungen von KI-Systemen kritischer hinterfragen. Ob Personen mit hoher oder niedriger Erregtheit sich dagegen weniger für die Erklärungen der KI interessieren, untersuchen wir derzeit in weiteren Studien“, erklärt Pape. Er präsentiert die aktuellen Ergebnisse auf der XAI 2026. Potenzial für medizinische Anwendungen Die Erkenntnisse könnten künftig insbesondere für sogenannte „arousal-sensitive“ XAI-Systeme relevant werden, also erklärbare KI-Systeme, die den emotionalen Zustand oder den situativen Kontext von Nutzerinnen und Nutzern stärker berücksichtigen. Ziel ist es, besser zu verstehen, wann Menschen KI-Empfehlungen reflektiert prüfen und wann sie diese eher ungefragt übernehmen. In weiteren Studien wollen die Forschenden nun untersuchen, welchen Einfluss Faktoren wie z. B. Zeitdruck auf die emotionale Erregtheit haben und welche Auswirkungen das auf die Wahrnehmung und Akzeptanz von KI-Erklärungen hat. Langfristig sollen die Erkenntnisse auch in medizinischen Anwendungsszenarien genutzt werden, etwa in Situationen, in denen Menschen unter Stress stehen oder emotional belastet sind. Das könnte Sie ebenfalls interessieren: Erstmals im EEG sichtbar: Wie Vertrauen in KI entsteht KI kann Gefühl von Nähe erzeugen
Mehr erfahren zu: "Bundesrat billigt Reform der Notfallversorgung" Bundesrat billigt Reform der Notfallversorgung Patienten sollen bei dringenden Anliegen künftig gezielter an richtige Stellen gelotst werden, statt gleich ins Krankenhaus zu gehen. Die Länder haben Kritikpunkte, halten das Gesetz aber nicht auf.
Mehr erfahren zu: "Hippocampus-Konnektivität könnte negative Symptome bei Psychose-Risiko vorhersagen" Hippocampus-Konnektivität könnte negative Symptome bei Psychose-Risiko vorhersagen Eine abnehmende Konnektivität im Hippocampus könnte bei Menschen mit erhöhtem Psychose-Risiko auf eine spätere Verschlechterung negativer Symptome hinweisen. Eine longitudinale Studie liefert neue Erkenntnisse zur Rolle des Hippocampus in frühen […]
Mehr erfahren zu: "Myositis: Wenn Antikörper die Muskeln angreifen" Myositis: Wenn Antikörper die Muskeln angreifen Ein deutsch-französisches Forschungsteam untersucht die Rolle von Autoantikörpern bei entzündlichen Muskelerkrankungen. Langfristig sollen so Erkrankungen besser erkannt und gezielter behandelt werden können.