Leitlinien: Potenzial Künstlicher Intelligenz nutzen, aber nicht blind

Künstliche Intelligenz (KI) gilt als schnelle Entscheidungshilfe in der Gesundheitsversorgung, einschließlich der Entwicklung und Anwendung von Leitlinienwissen ‒ allerdings unter bestimmten Voraussetzungen.

Im Rahmen der Leitlinienkonferenz der Arbeitsgemeinschaft der Wissenschaftlichen Medizinischen Fachgesellschaften (AWMF) wurde angemahnt, dass KI-Lösungen einer systematischen wissenschaftlichen Evaluierung zu unterwerfen sind – wie jede Innovation in der Medizin. „Generell gilt für alle KI-Anwendungen, dass sie nachvollziehbar und transparent sein müssen. Sie sind lediglich als Entscheidungshilfen zu verstehen und der Mensch muss die Hoheit behalten“, stellt Prof. Rolf-Detlef Treede, Präsident der AWMF fest.

Es sei wichtig, zwischen regelbasierten und generativen KI-Lösungen zu unterscheiden. „Regelbasierte KI birgt das Potenzial, die Entwicklung von Leitlinien zu beschleunigen – da deren Entwicklung schon relativ weit und leicht zu überwachen ist – beispielsweise zur Unterstützung von Literatursynthesen. Anders verhält es sich bei Generativer KI, die aktuell regelrecht gehypt wird als Möglichkeit, klinisch Tätigen und Laien schnell Antworten auf versorgungsrelevante Fragestellungen zu liefern. Hier muss die Medizinische Wissenschaft das Steuer übernehmen“, erklärt Prof. Ina Kopp, Leiterin des AWMF-Institutes für Medizinisches Wissensmanagement (AWMF-IMWi).

Als Anwendungsfall wurde ein Chat Bot für Leitlinien vorgestellt. Mit diesem Werkzeug sollen Leitlinieninhalte künftig schneller von medizinischem Fachpersonal, aber auch von Patienten abgerufen werden können. „Solche KI-Modelle sind systematischer Forschung, analog dem Zulassungsverfahren von neuen Arzneimitteln zu unterziehen. Es besteht Einiges an Forschungsbedarf, bis KI-Anwendungen so vertrauenswürdig sind, dass sie als Navigationshilfe eingesetzt werden können“, sagt Kopp. „Wir befinden uns aktuell erst in der präklinischen Phase 2. Künftige Forschung zu KI darf nicht nur von Effizienzgedanken getrieben sein, sondern muss auch potenzielle Auswirkungen auf Entscheidungsprozesse im Auge haben. Dies gilt insbesondere für ethische, kognitive und gesamtgesellschaftliche Auswirkungen“, ergänzt die Vertreterin des AWMF-IMWi.

„Gemeinsam mit den Fachgesellschaften in der AWMF werden wir die Forschung zu KI und deren Evaluation im Leitlinienbereich ausweiten – immer verbunden mit einem anwendungsbasierten Ansatz“, ergänzt Prof. Vera von Dossow, Leiterin der Kommission Leitlinien der AWMF.