Der Chatbot als Therapeut: Neue Studie zeigt Risiken

Immer mehr Menschen nutzen KI-Chatbots, um über persönliche und psychische Probleme zu sprechen. Bei schweren psychischen Erkrankungen oder in Krisensituationen kann dies allerdings kritisch sein, wie eine aktuelle Metaanalyse zeigt.

In einer Übersichtsarbeit, die in „npj Digital Medicine“ veröffentlicht wurde, haben Forschende der Medizinischen Fakultät der Universität Duisburg-Essen untersucht, welche Risiken damit verbunden sind, wenn Menschen mit KI-Chatbots über persönliche und psychische Probleme sprechen. Dazu werteten sie 119 Arbeiten detailliert aus.

Dabei unterschieden sie fünf Risiko-Kategorien: Direkte psychische und psychiatrische Gefahren wie bei Suizidalität, Risiken für Verhalten und Beziehungen wie emotionale Bindungen, Risiken für Denkvermögen und Bildung wie kognitive Abhängigkeit, Sicherheitsrisiken durch das Fehlverhalten von Chatbots wie Fehlinformationen und strukturelle bzw. systemische Risiken wie Datenschutz. Besonders diskutiert werden in der Arbeit die Nutzung als Denk- und Lernhilfe, die die Fähigkeit zum kritischen Denken vermindert, die Gefahr einer emotionalen Abhängigkeit und KI-assoziierte Psychosen.

Grenzen zwischen Hilfe und Gefahr verschwimmen

„Besonders kritisch ist der Einsatz bei Menschen mit schweren psychischen Erkrankungen oder in Krisensituationen. Hier können die Grenzen zwischen hilfreicher Unterstützung und einer Verstärkung bestehender Probleme verschwimmen“, erklärt PD Dr. Alexander Bäuerle, Bereichsleitung klinische Forschung, digitale Gesundheit und Digitalisierung in der Klinik für Psychosomatische Medizin und Psychotherapie der LVR- Universitätsklinik Essen, Universität Duisburg-Essen.

„Gerade weil KI-Chatbots eine niedrigschwellige Unterstützung in vielen Lebenslagen bieten, müssen wir genau hinschauen, wo ihre Grenzen liegen und welche Risiken entstehen können“, so die Autoren der Studie. Weiterführende Forschung sei dringend notwendig, um KI-Anwendungen im Bereich der psychischen Gesundheit sicher weiterzuentwickeln.