Erwartungen, Realität und Risiken: Anwendung von KI in der Telemedizin

Die Entwicklung von Methoden der Künstlichen Intelligenz (KI) hat in den letzten zwei Jahren – analog zur generellen Bedeutung der KI für die Medizin – auch im Bereich der Telemedizin deutlich zugenommen. Dies wird unter anderem belegt durch die Anzahl der Publikationen zu diesem Stichwort, die sich gemäß einer Pubmed-Recherche von 346 Publikationen in 2024 auf 634 Publikationen in 2025 fast verdoppelte.

von Prof. em. Dr. Hans-Ulrich Prokosch

Anwendungsgebiete von KI in der Telemedizin sind breit gestreut. Wissenschaftler berichten von enormen Fortschritten in der Telemedizin- und KI-gestützten Früherkennung von Diabetes, beim anästhesiologischen, perioperativen Patienten-Management und auch von der Optimierung sektorübergreifender Prozesse zur Erkennung bösartiger Läsionen in der dermatologischen Versorgung.

Potenzial und Grenzen von KI-Anwendungen

Auch innerhalb der Augenheilkunde zeigen Deep-Learning-Modelle – auch im telemedizinischen Einsatz über größere Distanzen hinweg – eine hervorragende diagnostische Performanz bei der Untersuchung von Augen­erkrankungen wie Diabetischer Retino­pathie, Glaukom und Katarakt. Vom Einsatz großer Sprachmodelle (Large Language Models, LLMs) – zum Beispiel mittels multimodaler KI-Agenten, die einen kontinuierlichen Dialog mit Patienten unter Nutzung kontextbewusster klinischer Entscheidungsunterstützung ermöglichen – verspricht man sich, Patientenwege zu reduzieren und gleichzeitig die dia­gnostische Qualität beizubehalten.

So wurde ChatGPT beispielsweise auch eingesetzt, um Mitarbeiter in Arzt­praxen zu entlasten, indem ein darauf basierender Chatbot entwickelt wurde, der über das Internet Antworten auf häufig gestellte Fragen zur Glaukomversorgung beantworten sollte. Studien­ergebnisse zeigten zwar, dass dessen Antworten im Allgemeinen in Bezug auf Kohärenz, Richtigkeit, ­Vollständigkeit und Sicherheit positiv waren, dass aber trotzdem wesentliche Schwachstellen mit bemerkenswerten Informationslücken und einer sehr unbestimmten Natur der Antworten existierten, welche eine routine­mäßige Verwendung bei ­Patienten ausschlossen.

KI-Anwendungen noch nicht kliniktauglich

Dies ist nur ein Beispiel dafür, dass der Reifegrad vieler KI-Anwendungen offensichtlich in vielen Fällen noch nicht so hoch ist, dass eine routine­mäßige Nutzung dieser Systeme im klinischen Alltag möglich wäre. Eine weit verbreitete klinische Implementierung dieser KI-Technologien wird weiterhin durch Hindernisse wie ethische Bedenken, unklare Zuordnung von Verantwortung, Hürden bei der großflächigen Validierung und der regulatorischen Zulassung sowie durch mangelhafte Integration und fehlende gesundheitsökonomische Belege zur Kosteneffizienz erschwert.

Neben einer Vielzahl von Publikationen, die dem zukünftigen Einsatz von KI – kombiniert mit telemedizinischen Konzepten – revolutionäre Entwicklungen in der sektorübergreifenden Patientenversorgung zuschreiben, gibt es somit auch weiterhin ähnlich viele kritische und teils auch provokante Publikationen. So unter anderem solche mit Aussagen wie „All models are wrong and yours are useless“ oder Medienberichte zu „ChatGPT & Co. erzählen immer mehr Unsinn“ und „Große KI-Modelle greifen unter ,Stress‘ auf Erpressung zurück“.

Wo stehen wir wirklich? Fragen zum klinischen Einsatz

Wo stehen wir also wirklich in Bezug auf den klinischen Einsatz und einen nachgewiesenen Nutzen von KI-Anwendungen im Gesundheitswesen? Wie können wir umgehen mit ­Herausforderungen wie Halluzi­nationen, krimi­nellen Prompt-Injektionen, schlecht validierten KI-Algorithmen oder Modellen, deren Entwicklung gar auf „dubiosen Datenbeständen“ beruht? Welche Rolle spielt der sogenannte „Automation Bias“ für den langfristigen Einsatz von KI-Anwendungen? Wie können Kliniken und Arztpraxen die Vorgaben der euro­päischen KI-Verordnung berücksich­tigen? Welche Governance-Ansätze gibt es, um KI vertrauenswürdig im klinischen Umfeld zu etablieren und langfristig eine hohe Qualitätssicherung zu garantieren?
Diesen Fragen wird im Vortrag „Anwendung von KI in der Telemedizin – Erwartungen, Realität und Risiken“ nachgegangen.

Symposium „Telemedizin – pro & contra“
Donnerstag, 18.06., 17.00 bis 18.30 Uhr, Saal Krakau

Prof. em. Dr. Hans-Ulrich Prokosch ist Experte auf dem Gebiet der Medizinischen Informatik. Von 2002 bis zu einer Emeritierung im April 2025 hatte er den Lehrstuhl für Medizinische Informatik an der Universität Erlangen-Nürnberg inne. Prokosch ist unter anderem Vorstand der Deutschen Gesellschaft für Medizinische Informatik, Biometrie und Epidemiologie (GMDS) und Vorstand der Telematikplattform für Medizinische Forschungsnetze.