Ethische Leitlinien für KI in der Augenheilkunde: DOG und BVA fordern verantwortungsvollen Einsatz

Die Deutsche Ophthalmologische Gesellschaft e.V. (DOG) und der Berufsverband der Augenärzte Deutschlands e.V. (BVA) haben eine umfassende Stellungnahme zu ethischen Aspekten künstlicher Intelligenz (KI) in der Augenheilkunde vorgelegt.

Ziel ist es, Standards für die Entwicklung, Zulassung und Implementierung von KI-Anwendungen zu setzen, die ärztliche Entscheidungen unterstützen und gleichzeitig den Schutz der Patientenrechte sicherstellen. „Die rasante Entwicklung von KI-Systemen bietet großes Potential für die Augenheilkunde, sei es bei der Bildanalyse, der Diagnostik oder der Planung von Therapien“, erklärt Prof. Claus Cursiefen. „Um dieses Potential verantwortungsvoll auszuschöpfen, müssen technische, rechtliche und ethische Aspekte von Anfang an berücksichtigt werden“, fügt der Generalsekretär der DOG hinzu.

KI als Chance und Herausforderung

Konkret könne KI insbesondere bei der Analyse großer Bilddatenmengen unterstützen, die beispielsweise in der Diagnostik von Netzhauterkrankungen oder der Verlaufskontrolle von Glaukomen anfallen. „Damit dies gelingt, ist Qualität und Größe der Datengrundlage, auf deren Basis die Systeme lernen, entscheidend. Diese Bilder müssen zwingend eine hohe Qualität haben, damit die KI-Systeme kontrolliert und reproduzierbar angelernt werden können“, so Prof. Bernd Bertram, Ehrenvorsitzender des BVA und Mitglied des Redaktionskomitees.

Ärztliche Erfahrung bleibt unverzichtbar

Die Verantwortung für Diagnosen und Therapien, betonen DOG und BVA, müsse stets bei Ärztinnen und Ärzten liegen. Während KI-Systeme Muster erkennen und präzise Analysen liefern können, bleibe es Aufgabe der Behandelnden, diese Ergebnisse im Kontext der individuellen Patientensituation zu bewerten. „Das ärztliche Erfahrungswissen ist dabei unverzichtbar, auch im Zeitalter der KI“, betont DOG-Experte Prof. Nikolaos Bechrakis, der dem Redaktionskomitee ebenfalls angehörte.

Fehlerquellen und Risiken von KI-Systemen

Auch sind KI-Systeme nicht fehlerfrei. Systematische Verzerrungen in den Trainingsdaten wie die unzureichende Berücksichtigung bestimmter Altersgruppen oder ethnischer Hintergründe können zu falschen Ergebnissen führen. „Ebenso besteht das Risiko, dass Algorithmen seltene Krankheitsbilder übersehen oder aufgrund unvollständiger Daten falsche Diagnosen stellen“, sagt Bechrakis. Es liege in der ärztlichen Verantwortung, diese potenziellen Fehlerquellen zu erkennen und bei der Anwendung von KI-Systemen kritisch zu hinterfragen.

Ethische Prinzipien als Grundlage

Vor diesem Hintergrund formulieren DOG und BVA in ihrer Stellungnahme zentrale Prinzipien für den Einsatz von KI in der Augenheilkunde. Dazu zählen unter anderem:

• Gerechtigkeit: KI-Systeme dürfen keine Gruppen benachteiligen. Trainingsdaten müssen divers und repräsentativ sein.

• Transparenz: Es muss deutlich werden, wie und welche Daten ein KI-System verarbeitet und gegebenenfalls weiterleitet.

• Erklärbarkeit: KI-Entscheidungen müssen nachvollziehbar sein, insbesondere bei Therapieempfehlungen.

• Datenschutz: Patientenbezogene Daten müssen sicher verarbeitet werden; anonyme Datensätze sind zu bevorzugen.

• Ärztliche Autonomie: KI darf die Rolle des Arztes und der Ärztin nicht ersetzen, sondern nur unterstützen.

Sicherstellung der Patientenautonomie

Ein weiterer Schwerpunkt der Stellungnahme liegt auf der Wahrung der Patientenautonomie. „Patientinnen und Patienten müssen ausreichend informiert werden, wenn KI-basierte Systeme in ihrer Behandlung eingesetzt werden“, fordert Cursiefen. „Die Entscheidung für oder gegen den Einsatz von KI darf jedoch nicht auf den Patienten oder die Patientin abgewälzt werden, sondern muss immer im Dialog mit dem behandelnden Arzt und der behandelnden Ärztin erfolgen.“

Klare Regeln auch in Haftungsfragen

Zudem fordern DOG und BVA klare Regeln für die Zulassung und Implementierung von KI-Systemen. Diese müssen technische Robustheit im Sinne einer geringen Fehleranfälligkeit und eine vollständige Haftungsklärung umfassen. „Die Versorgung der Patientinnen und Patienten steht weiterhin an oberster Stelle. KI als innovative Technologie muss sowohl für Patientinnen und Patienten als auch für Ärztinnen und Ärzte Vorteile bringen“, stellt Daniel Pleger, 1. Vorsitzender des BVA fest. Er ergänzt: „Wenn solche teuren Systeme in den Alltag integriert werden, bedarf es einer vernünftigen Gegenfinanzierung der Krankenkassen.“

KI mildert Fachkräftemangel ab

Die gemeinsame Stellungnahme der DOG und des BVA zeigt, dass künstliche Intelligenz die Augenheilkunde nachhaltig verändern kann. „Mit klar definierten ethischen Leitlinien kann dieser Wandel eindeutig zum Wohle der Patientinnen und Patienten gestaltet werden“, so Cursiefen. Beispielsweise, indem mehr Zeit für die „sprechende Medizin“ bleibe und der Fachkräftemangel abgefedert werde.

Hier finden Sie die vollständige Stellungnahme.