AWMF-Arbeitskreis diskutiert über KI in der Medizin und daraus folgende Haftungsregeln

Der Arbeitskreis Ärzte und Juristen der Arbeitsgemeinschaft der Wissenschaftlichen Medizinischen Fachgesellschaften e.V. (AWMF) hat diskutiert, welche Voraussetzungen es für dem Einsatz von Künstlicher Intelligenz (KI) in der Medizin braucht und welche offenen Haftungsfragen zu klären sind.

Die Einsatzmöglichkeiten von KI in der Medizin sind vielfältig. Sie kann Ärztinnen und Ärzte darin unterstützen, die richtige Diagnose zu stellen, beispielsweise indem Algorithmen auf das Erkennen bestimmter Erkrankungen bei Computertomographie-Aufnahmen trainiert werden. Für Patientinnen und Patienten stehen bereits digitale Anwendungen in Form von Apps zur Verfügung, die auf Basis der eingegebenen Symptome und Befunde Ursachen und mögliche Lösungswege aufzeigen.

Auch für die medizinische Forschung bietet der Einsatz KI Chancen: „Durch die Anwendung von Algorithmen können verschiedene Forschungsdatensätze miteinander vernetzt und mit hoher Geschwindigkeit analysiert werden. Dies könnte helfen, zukünftig wesentlich rascher zu neuen wissenschaftlichen Erkenntnissen zu kommen. Heute vergeht eine viel zu lange Zeit, bis auf Basis einer Forschungshypothese Ergebnisse resultieren, die in geänderte Leitlinienempfehlungen münden“, sagt Prof. Martin Sedlmayr, Inhaber der Professur für Medizinische Informatik der Medizinischen Fakultät Carl Gustav Carus der Technischen Universität Dresden.

„Die Anwendungsgebiete von KI in der Medizin sind vielfältig. Klar ist, dass KI die Ärztin oder den Arzt nicht ersetzen kann. Vielmehr soll sie die Behandelnden bei der Entscheidungsfindung  unterstützen und dort eingesetzt werden, wo es den Kranken nützt“, so Sedlmayr. Vor diesem Hintergrund sei es aus Sicht des Experten notwendig, dass das Feld der KI auch stärker in die Ausbildung der Studierenden – sowohl der Informatik als auch der Medizin – integriert würde.

Voraussetzung für den erfolgreichen Einsatz von Algorithmen in der Medizin sind nach Ansicht der AWMF im System enthaltene Daten – ausreichend und in entsprechender Qualität. „Die Verfügbarkeit und Qualität der Daten, aus denen sich Algorithmen speisen, entscheiden über die Qualität der Ergebnisse von KI-Anwendungen“, betont Prof. Alexander Cavallaro vom Imaging Science Institute (ISI) in der Radiologie am Universitätsklinikum Erlangen.

Heute liegen Daten meist in unterschiedlicher Form vor, beispielsweise als Text-Dokumente in einer Patientenakte oder auch als Bilder wie Röntgenaufnahmen. „Bevor ein Algorithmus angewendet werden kann, müssen die Daten zuerst extrahiert und geordnet werden. Ziel ist es, beispielsweise unterschiedliche Inhalte wie Texte in Befunden, Bilder oder Laborwerte so aufzubereiten, dass sie – miteinander vernetzt – treffende Lösungen generieren können“, erläutert der Experte. Die AWMF hat dazu wiederholt Qualitätskriterien eingefordert: Transparenz und Vertrauenswürdigkeit der Datengrundlage. Dazu muss Wissen aus hochwertigen, evidenzbasierten Leitlinien als primäre Datenbasis in regelbasierte Algorithmen und KI-Anwendungen integriert und für Nutzende kenntlich gemacht werden.

Insgesamt sind sich Ärzte und Juristen einig, dass der Einsatz von Künstlicher Intelligenz zukünftig eine wichtige Rolle in der Medizin spielen wird. „Entscheidend ist, dass der Mensch die Kontrolle über die KI behält. Es ist wichtig, dass Ärztinnen und Ärzte immer in der Lage sind, mögliche Fehler und deren Quellen zu erkennen. Das setzt wiederum voraus, dass sie nachvollziehen können und verstehen, wie Künstliche Intelligenz entsteht und wie der angewendete Algorithmus zu Ergebnissen kommt“, betont Cavallaro.

Dem AWMF-Arbeitskreis Ärzte und Juristen ging es bei ihrer Tagung daher auch um die Klärung offener Haftungsfragen. Der Rechtswissenschaftler Prof. Oliver Brand, führte dazu aus: „Ärztinnen und Ärzte müssen immer in der Pflicht verbleiben, Ergebnisse der Künstlichen Intelligenz zu kontrollieren. Damit tragen sie weiterhin die Verantwortung für Diagnosen oder Therapiewege, auch wenn sie mithilfe von KI ermittelt wurden.“ Allerdings bereiten bei selbstlernenden Systemen die Zurechnung von Auswirkungen der KI auf die Ärztinnen und Ärzte Probleme: „Weil die zivilrechtlichen Institute bei der Frage der Haftungszuschreibung an ihre Grenzen geraten, braucht es eine gesetzliche Neuregelung. Die geltenden Regeln stellen bis dahin aber eine brauchbare Notlösung dar“, so Brand, Inhaber des Lehrstuhls für Bürgerliches Recht, Privatversicherungsrecht, Wirtschaftsrecht und Rechtsvergleichung der Universität Mannheim.