Wenn die KI zu halluzinieren beginnt…

Was gibt es bereits, was ist zu erwarten? Diesen Fragen ging das AAD-Symposium „Künstliche Intelligenz in Wissenschaft und Praxis“ nach. Die Zuhörer erlebten zwei informative Überblicke über KI-Anwendungen im Praxisablauf und in der ophthalmologischen Bilddatenanalyse.

„Ist der Augenarzt künftig umgeben von riesigen Datenmengen, die von KI ausgewertet werden und der Arzt gibt nur noch sein Ok? Ich hoffe nicht…“, eröffnete PD Dr. Michael Oeverhaus, niedergelassener Augenarzt in Rietberg, sein „kleines Potpourri“ zur KI-Nutzung in der täglichen Praxis. Stand heute sei KI die Anwendung von Algorithmen, kein „Denken“ im eigentlichen Sinne. Grundsätzlich empfahl Oeverhaus, weiterhin skeptisch zu sein, denn KI erfinde nicht selten Antworten – anders ausgedrückt: Auch Chatbots können „halluzinieren“. Dies sei darin begründet, dass statistisch richtige Antworten gesucht würden, es gehe nicht um inhaltliche, sachliche Kriterien. Teils würden „Informationen“ auch erfunden, das könnte sogar Quellenangaben und Studien betreffen.

Ausrufezeichen bei der KI-Nutzung

Weitere Ausrufezeichen bei der KI-Nutzung setzte Oeverhaus bei den Themen Urheberrecht, Haftungsfragen, Energieverbrauch großer Rechenzentren und Datenschutz. Hier bestehe insbesondere das Problem, dass Server zum Teil im Ausland stünden, daher verbreite sich in Krankenhäusern die Strategie, Server klinikbasiert aufzusetzen. Das schaffe auch Vertrauen bei den Patienten.

Angesichts des demografischen Wandels, der auch die Augenärzteschaft betreffe, und des Fachkräftemangels sieht Oeverhaus jedoch Potenziale, mittels KI die Patientenversorgung zu unterstützen. Das beginne bei Geräten wie Smartwatches und reiche über Screenings und Anamnesetools bis hin zur Patientennachverfolgung. Dafür aber müsse die KI tief in die Praxisverwaltungs- respektive Krankenhausinformationssysteme integriert sein.

Wo und wie ist KI in der Praxis einsetzbar?

Am Beispiel einer Praxis zeigte er auf, wo und wie KI einsetzbar wäre. Schritt 1 wäre die Entlastung der telefonischen Kontaktaufnahme und Terminbuchung durch Chatbots, die potenziell auch multilingual arbeiten könnten. In der Praxis werde der Patient dann an ein Selbstanmeldeterminal geführt und danach könnte durch einen Avatar eine Kurzanamnese erfolgen. Ein Leitsystem führe den Patienten weiter durch die Praxis. Im nächsten Schritt sei eine KI-gesteuerte spezifische Anamnese per Tablet möglich. Der Arzt erhalte eine Zusammenfassung von allem und sei dann gut auf den Patientenkontakt vorbereitet. Weitere Unterstützung könne daraufhin durch sprachbasierte Dokumentation, KI-unterstützte Erfassung von Arztbriefen und auch beim Arztbriefschreiben erfolgen.

Schwieriger werde der KI-Einsatz in den Bereichen Diagnose und Therapie, könne aber potenziell hilfreich sein beim Erkennen von selteneren Erkrankungen und Augenbeteiligungen. Bei Symptomkombinationen beziehungsweise Syndromen sei die elektronische Patientenakte eine mögliche Hilfe, um Parallelen zu anderen Fachrichtungen zu finden.

Schließlich, so Oeverhaus, biete di KI-gestützte Abrechnung mehrere Vorteile. Sie helfe beim Beachten von Abrechnungsregeln und Beziffern und trage so auch zur weiteren Zeiteinsparung bei.

Einblick in die Bilddatenanalyse

Einen umfassenden Einblick in die heute schon mögliche Bilddatenanalyse gab Prof. Focke Ziemssen, Direktor der Universitätsaugenklinik Leipzig. Anhand zahlreicher Projektionen stellte er dar, wie zum Beispiel Fundus- und OCT-Bildanalysen zu Vordiagnosen herangezogen werden können. Solche KI-unterstützten Einordnungen hätten sich in Pilotstudien später meistens verfestigt.

Wichtig für die Bildinterpretation durch KI, so betonte Ziemssen, sei die Bildqualität, aber auch die Frage, welche Datensatzinformationen zur Verfügung stünden. Europäische seien hier aufgrund der hohen Datenschutzstandards eher in der Minderzahl. In der Ophthalmologie seien zur KI-gestützten Bilddatenanalyse bisher meist nur „Ministudien“ verfügbar. Die Radiologie sei da einen Schritt voraus. Klinische Studien hätten im Vergleich KI versus menschliche Untersucher am Beispiel Mammographie gezeigt, dass die diagnostische Güte verbessert, der ärztliche Workload reduziert und Kosten aufgrund nicht nötiger Anschlussuntersuchungen vermieden werden konnten.

Nachteile des KI-Einsatzes blieben aber auch in der Bilddatenanalyse grundsätzlich die Datensicherheit, das „Deskilling“ von Fachkräften, Fehler und „Halluzinationen“ der KI, die Haftungsfrage und der Energieverbrauch.

Was kann KI-Bilddatenanalyse in der Augenheilkunde?

Speziell für die Augenheilkunde zeigte Ziemssen auf, dass sich aus Fundusbildern beispielsweise nicht invasive simulierte Angiographie-Bilder erstellen lassen. Bei Trabekulektomien lasse sich durch Deep-Learning-Modelle etwa das Risiko für Vernarbungen voraussagen. Fundusfotos könnten dank KI-Analyse sogar Nierenbiopsien ersetzen und im Eye2Gene-Projekt werde ein Deep-Learning-Algorithmus zur Früherkennung erblicher Netzhauterkrankungen eingesetzt. So lieferten beispielsweise Autofluoreszenzbilder Hinweise auf mögliche Mutationen, sodass daraufhin die Humangenetik ihren Fokus genauer ausrichten könne.

Hilfestellungen im Praxisalltag biete KI unter anderem bei der AMD-Therapie im Rahmen der Aktivitätsvorhersage. So würden eine gezieltere Intervall- und Injektionszahlplanung und damit wiederum eine bessere Patientenführung ermöglicht. Ebenso biete KI Hilfestellungen bei der Lokalisierung und Benennung von Läsionen im Fundusbereich.

Zuletzt richtete auch Ziemssen den Blick auf den Patienten und auf dessen Erwartungen. Zwar werde generell der Kontakt zum „menschlichen Untersucher“ gewünscht. Studien hätten aber auch gezeigt, dass Chatbots beim Erstkontakt im Bereich Empathie durchaus überlegen sein könnten. So sei KI heute in der Lage, Stimmungen und Erwartungen des Patienten gut aufzugreifen und darauf entsprechend zu reagieren. (dk/BIERMANN)