KI-Systeme in Kliniken entwickeln? Neuer Leitfaden hilft weiter

Wie können Kliniken KI-Systeme so entwickeln und einsetzen, dass sie die Versorgung tatsächlich verbessern, anstatt medizinisches Fachpersonal zusätzlich zu belasten? Ein neuer Leitfaden gibt praxisnahe Empfehlungen.

Entwickelt hat den Leitfaden EURAID (European Responsible AI Development) ein multidisziplinäres Expertenteam. Die gemeinsame Leitung hatten Prof. Stephen Gilbert vom Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit an der Medizinischen Fakultät der Technischen Universität Dresden (MF-TUD) und dem Universitätsklinikum Carl Gustav Carus Dresden sowie Dr. Anke Diehl vom Universitätsklinikum Essen.

EURAID bietet Krankenhäusern eine strukturierte Anleitung zur gemeinsamen, menschenzentrierten „in-house“ Entwicklung, Validierung und Implementierung von KI-Systemen. Der Leitfaden zeigt, wie alle Interessengruppen einbezogen werden können. Außerdem definiert er deren Rollen im Prozess, skizziert Methoden für iteratives Design, Tests und klinische Bewertung und bietet Strategien zur Konsensbildung. EURAID basiert auf gemeinsamen Zielen, europäischen Werten, wie Achtung der Menschenwürde, Schutz von Grundrechten und Gleichheit, sowie europäischen Gesetzen. Einen raschen Einstieg in das Thema ermöglicht die deutschsprachige Kurzfassung, die in der Serie „baua: Bericht kompakt“ begleitend erschienen ist.

KI-Systeme sicher, menschenzentriert und verantwortungsvoll entwickeln

Der Leitfaden bietet klare, umsetzbare Empfehlungen für Krankenhäuser, die KI-Systeme menschenzentriert, verantwortungsvoll und sicher entwickeln und implementieren möchten – im Einklang mit den sich wandelnden regulatorischen Anforderungen und gemeinsamen europäischen Werten. Letztere meinen Patienten- und Mitarbeitersicherheit, Schutz von Grundrechten, Transparenz und Nachvollziehbarkeit von KI-Systemen, menschliche Aufsicht sowie Fairness und Nichtdiskriminierung.

KI-Technologien entwickeln sich rasch weiter, doch ihre Umsetzung in Krankenhäusern stockt
Trotz schneller Fortschritte bei KI-Technologien und jüngster politischer Bestrebungen zur Vereinfachung der Vorschriften für „in-house“ entwickelte KI-Systeme geht die Einführung von KI in der klinischen Praxis nur langsam voran. Vorschriften vereinfachen soll etwa der Vorschlag der Europäischen Kommission vom 16. Dezember 2025 zur Überarbeitung der Medizinprodukteverordnung (MDR) und der Verordnung über In-vitro-Diagnostika (IVDR). Viele Systeme haben Probleme bei der Integration in die Routineversorgung. Der Grund: Standortspezifische Arbeitsabläufe und Bedürfnisse von medizinischem Fachpersonal wurden nicht oder nur unzureichend während der Entwicklungs- und Testphase einbezogen. Dadurch werden die Systeme eher als zusätzliche Belastung denn als eine Erleichterung wahrgenommen.

Praxisnaher Leitfaden, der die digitale Transformation unterstützt

Wie können Krankenhäuser menschenzentrierte KI-Systeme entwickeln und implementieren, die innovativ und sicher zugleich sind? Um diese Balance zu finden, wurde EURAID entwickelt: ein praxisnaher Leitfaden zur Unterstützung der digitalen Transformation von Krankenhäusern, bei dem der Mensch im Mittelpunkt steht. EURAID zeigt, wie KI-Systeme gemeinsam und unter konsequenter Berücksichtigung nicht-technischer Kriterien entwickelt werden können.

Der Ansatz wird anhand eines „in-house“ entwickelten Systems veranschaulicht, da dies eine auf das Krankenhaus maßgeschneiderte Anwendung unter Nutzung krankenhauseigener Daten ermöglicht. Durch die systematische Einbeziehung aller relevanten Stakeholder entlang des gesamten KI-Lebenszyklus, die Klärung jeweiliger Rollen sowie Grad und Umfang der Beteiligung, die Darstellung realer Anwendungsfälle sowie Methoden zur Erreichung eines iterativen Konsenses bietet EURAID einen einzigartigen und praxisorientierten Ansatz, verschiedene Perspektiven und regulatorische Anforderungen in Einklang zu bringen.

„Mit EURAID wollen wir Krankenhäuser dabei unterstützen, innovative KI-Systeme sicher zu entwickeln und nachhaltig in den Klinikalltag zu integrieren. Damit kann die digitale Transformation im Gesundheitswesen beschleunigt werden“, erklärt Anett Schönfelder, Erstautorin der Publikation und Forscherin im Team von Prof. Stephen Gilbert vom EKFZ, der die Erstellung der Publikation co-geleitet hat und Professor für Medical Device Regulatory Science an der MF-TUD ist.

Medizinische Fachkräfte im Mittelpunkt der Entwicklung von KI-Systemen

Die Autorinnen und Autoren betonen, dass die erfolgreiche digitale Transformation einen Wandel von primär technologie-getriebenen hin zu kollaborativ-organisatorischem Denken erfordert. Erfolgreiche KI-Implementierung in Krankenhäusern könne nur dann gelingen, wenn die Menschen, die diese Systeme täglich nutzen und von ihnen betroffen sind, von Anfang an einbezogen werden. EURAID zeigt, wie dies auch in hochkomplexen, zeitkritischen Umgebungen möglich ist.

Der Leitfaden klärt transparent die Aufgaben der Stakeholder und zeigt, wie Hürden frühzeitig identifiziert und gemeinsame Lösungswege gefunden werden können. EURAID stellt dabei medizinische Fachkräfte in den Mittelpunkt – nicht nur als Anwenderinnen und Anwender, sondern als Mitgestaltende, Implementierende und Überwachende. So trägt EURAID dazu bei, dass KI im Gesundheitswesen einen echten Mehrwert für die Menschen schaffen kann.

EURAID berücksichtigt verschiedene Perspektiven

EURAID wurde von Akteuren entwickelt, die das gesamte Spektrum des Gesundheitswesens abbilden, darunter medizinisches und psychologisches Fachpersonal sowie Expertinnen und Experten für digitale Transformation von Krankenhäusern, Medizininformatik und Qualitätsmanagement. Darüber haben die Autoren Perspektiven von Patienten- und Arbeitnehmervertretern, aus Politik und Krankenversicherungen, der Regulatorik und Ethik sowie Wissen aus der Forschung einfließen lassen.

Die Empfehlungen stützen sich auf Impulse und Expertise aus deutschen Universitätskliniken in Dresden, Hamburg, Aachen und Essen. Außerdem wurden Anregungen des Bundesministeriums für Gesundheit, der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin, von Kranken- und Unfallversicherungen (AOK und DGUV), Gewerkschaften (ver.di), einer Anwaltskanzlei und mehreren Forschungseinrichtungen (u.a. Fraunhofer- Heinrich-Hertz-Institut und Karlsruher Institut für Technologie – KIT) berücksichtigt. Aus der TUD und dem Universitätsklinikum Dresden brachten mehrere Professoren und Forschende ihr Fachwissen aus Medizin, klinischer KI und Medizininformatik, Psychologie und Regulatorik ein.

Wie digitale Transformation gelingen kann

„Digitale Transformation im Krankenhaus gelingt nur, wenn sie gemeinsam mit den Menschen gestaltet wird, die täglich mit den Systemen arbeiten. EURAID zeigt praxisnah, wie sich die Einführung von KI auch in komplexen klinischen Strukturen verantwortungsvoll, sicher und wirksam umsetzen lässt“, erklärt Dr. Anke Diehl, Chief Transformation Officer an der Universitätsmedizin Essen und Leiterin der Abteilung für digitale Transformation, die gemeinsam mit Kolleginnen und Kollegen aus Aachen wertvolle praktische Einblicke aus ihrer eigenen Digitalisierungsinitiative lieferte.

Um EURAID in die Praxis zu überführen, sollten Krankenhäuser interne Reifegradbewertungen durchführen, übergreifende KI-Governance-Strukturen etablieren und rollenspezifische Verantwortlichkeiten definieren, die ethische, rechtliche, technische und klinische Aspekte abdecken.

KI-Systeme können medizinisches Personal entlasten

„Digitale Systeme und KI können einen spürbaren Beitrag zur Entlastung des medizinischen Personals und zur Verbesserung der Patientenversorgung leisten. Auch am Universitätsklinikum Dresden arbeiten wir daran, neue digitale Lösungen verantwortungsvoll zu etablieren und schrittweise in den Klinikalltag zu integrieren. EURAID bietet dafür eine wichtige und strukturierte Orientierung“, sagt Prof. Uwe Platzbecker, Medizinischer Vorstand des Universitätsklinikums Carl Gustav Carus Dresden.

„EURAID steht exemplarisch für den Anspruch unserer Fakultät, innovative Forschung interdisziplinär zu entwickeln und rasch in die Praxis zu überführen. So entstehen Lösungen, die medizinisch sinnvoll, technisch umsetzbar, regulatorisch durchdacht und gesellschaftlich tragfähig sind“, sagt Prof. Esther Troost, Dekanin MF-TUD.