Potenzial agentischer KI für das Gesundheitssystem

Das Gesundheitssystem steht – nicht nur durch den demografischen Wandel – vor Herausforderungen. Wie agentische KI künftig helfen kann, diese zu bewältigen zeigt eine Publikation der Leopoldina auf.

Von Dr. Judith Amann

Warum es in Zukunft agentische KI im Klinikalltag braucht, machte Prof. Heyo K. Kroemer zu Beginn des Online-Pressegesprächs zum Fokus-Papier der Nationalen Akademie der Wissenschaften Leopoldina klar: „Wir unterschätzen vollkommen, welchen Einfluss der demografische Wandel auf unser Gesundheitssystem hat.“ Der Vorstandsvorsitzende der Charité – Universitätsmedizin Berlin ist einer der Autoren des Fokus-Papiers „Agentische KI im Gesundheitssystem: Chancen und Herausforderungen“.

Agentische KI im Gesundheitssystem: „Etwas, das wir machen müssen“

Dabei ist das Gesundheitssystem vom demografischen Wandel gleich doppelt betroffen: Zum einen, weil Gesundheitsfachkräfte in den Ruhestand gehen, und zum anderen, weil immer mehr alte Menschen versorgt werden müssen. In den nächsten zehn Jahren werde ein Drittel des Gesundheitspersonals in Rente gehen, schätzt Kroemer.

Neben Fachkräftemangel und demografischem Wandel sind auch steigende Anforderungen an eine flächendeckende Versorgung, hoher Verwaltungsaufwand und Defizite bei der Digitalisierung klinischer Daten und Prozesse Herausforderungen, vor denen das deutsche Gesundheitssystem steht. An dieser Stelle kommt man Kroemers Einschätzung nach an KI-Anwendungen und insbesondere an agentischer KI nicht mehr vorbei: „Das ist keine Option, sondern etwas, das wir machen müssen.“

Selbständiges Agieren im vorgegebenen Rahmen

Agentische KI unterscheidet sich von konventioneller KI. Sie unterstützt nicht nur einzelne Aufgaben, sondern stößt eigene Maßnahmen an. Agentische KI kann innerhalb eines vorgegebenen – und von Menschen verantworteten – Rahmens selbstständig agieren. Mögliche Einsatzfelder reichen von Diagnostik und Therapie über die Überwachung des Gesundheitszustands von Patientinnen und Patienten bis hin zu Terminplanung, Dokumentation und der Steuerung von Behandlungsschritten. Sogar bei der Versorgung chronisch kranker Menschen kann agentische KI künftig eine Rolle spielen, etwa als digitaler Co-Pilot.

Nach Einschätzung der Autorinnen und Autoren ist agentische KI insbesondere dafür geeignet, „wissensbasierte Prozesse“ zu automatisieren, also Abläufe, die sich aus medizinischem Wissen wie Leitlinien, Standard Operating Procedures, Medikamenten- und Interaktionsregeln ableiten. In Kombination mit KI-Sprachmodellen kann sie dieses Wissen mit unstrukturierten Patientendaten verbinden, nötige Schritte oder Werkzeuge zur Umsetzung koordinieren und bei Bedarf bestimmte Vorgänge an Fachpersonal weiterleiten.

„Agentische KI wird unser gesamtes Gesundheitssystem durchdringen“

In Disziplinen wie Pathologie und medizinischer Bildgebung könnten KI-gestützte Analysen die Konsistenz und Reproduzierbarkeit diagnostischer Prozesse erhöhen und Entscheidungsempfehlungen für mögliche Therapien geben. Wie Prof. Frederick Klauschen vom Pathologisches Institut der LMU München ausführte, könne KI vor allem dort zum Einsatz kommen, „wo es für den Computer einfacher ist“, etwa bei der Quantifizierung.

Auch einfache Diagnosen, wo es klare Differenzierungen und viele Trainingsdaten gebe, könne agentische KI in Zukunft übernehmen – dann bleibe dem Arzt mehr Zeit für komplexe Fälle, so Klauschen weiter. Ihm zufolge kann agentische KI schneller unterschiedliche Komponenten verknüpfen, etwa verschiedene Patientendaten. Bislang müsse er dafür immer noch einen Kollegen anrufen. Er ist überzeugt: „Agentische KI wird unser gesamtes Gesundheitssystem durchdringen.“

Voraussetzungen für verantwortungsvollen Einsatz schaffen

„Die Entwicklung in diesem Feld ist rasant“, hob der Informatiker Prof. Daniel Rückert vom TUM Universitätsklinikum und der Technischen Universität München hervor. Er zeigte sich davon überzeugt, dass sich das gesamte Gesundheitssystem mit KI optimieren lässt. Er geht davon aus, dass es keine Alternative zu KI und agentischer KI gibt. Es fehlten die Ressourcen, um das Niveau der Gesundheitsversorgung ohne die Technologie in Zukunft zu halten.

Die Experten betrachten die Integration agentischer KI in das Gesundheitswesen nicht als fernes Zukunftsszenario, sondern sie zeichnet sich bereits jetzt ab. Deshalb sollten aus Sicht der Autorinnen und Autoren schon jetzt die Voraussetzungen für einen verantwortungsvollen Einsatz geschaffen werden. Sie empfehlen, agentische KI, domänenspezifische KI-Systeme für die Medizin gezielt zu fördern, regionale Kompetenzzentren aufzubauen, rechtssichere Erprobungsräume zu schaffen und die digitale Infrastruktur im Gesundheitswesen auszubauen. Dabei müsse die Kontrolle über medizinische Prozesse beim Menschen bleiben: Die letzte Entscheidung und Kontrolle liege immer bei Ärzten, so Kroemer.

Regulatorische Rahmenbedingungen weiterentwickeln

Im Fokus-Papier führen die Autoren und Autorinnen aus, dass es pragmatische und verlässliche Rahmenbedingungen für den Einsatz agentischer KI im Gesundheitssystem brauche. Diese sollten Nutzung innovativer KI-Anwendungen ermöglichen und zugleich Nachvollziehbarkeit, Verantwortlichkeit, den Schutz sensibler Gesundheitsdaten sowie faire Entscheidungsprozesse sichern müssten. Aufsichtsbehörden sollten dabei nicht allein als Kontrollinstanzen auftreten, sondern ihre Beratungsfunktion stärker wahrnehmen und Innovatoren bei der rechtssicheren Implementierung von KI-Anwendungen begleiten.

Allerdings merkte Kroemer an, dass das Tempo der technologischen Entwicklung nicht zur Geschwindigkeit, mit der sich die Regulatorik entwickle, passe. Konventionelle Gesetzgebungs- und Verordnungsprozesse seien zu langsam. Hier sei „die Politik gefordert, innovative Wege zu finden“, so Kroemer.

Europäisches System für technologische Unabhängigkeit

Wie Rückert betonte, werde die Entwicklung agentischer KI für Medizin bereits von den US-Tech-Konzernen vorangetrieben. Die Tools seien aber in Europa nicht verfügbar. Das habe teils regulatorische Gründe oder die Firmen wollten die Tools nicht verfügbar machen. Rückert sprach sich klar für ein europäisches System aus.

Auch das Fokus-Papier macht die technologische Souveränität zum zentralen Thema. Die Grundlagenforschung im Bereich agentischer KI sei in Deutschland und Europa stark, doch gelinge es zu selten, deutsche oder europäische Produkte bis zur Marktreife zu entwickeln und entsprechend zu skalieren. Die Autorinnen und Autoren sprechen sich daher für Partnerschaften zwischen Universitätskliniken, Forschungseinrichtungen und Industrie aus.

Mit Blick auf die Umsetzung ist Kroemer „optimistisch gestimmt“, da KI in der Medizin Teil der Hightech-Agenda der Bundesregierung sei. Diese biete den „Rahmen, diese Schlüsseltechnologie schnell, verantwortungsvoll und flächendeckend zu entwickeln und einzusetzen“, heißt es im Fokus-Papier der Leopoldina.

Mehr zum Thema: KI in der Medizin: Wie Patienten darüber urteilen