Können wir der KI bei der Krebs-Diagnose vertrauen?

Künstliche Intelligenz (KI) soll das Gesundheitswesen effizienter und günstiger machen. Doch wie können Mediziner sicher sein, dass die Maschine keine Fehler macht? Unter anderem damit befasst sich Daniel Sauter am Fachbereich Informatik der Fachhochschule Dortmund.

Der Doktorand ist in seiner finalen Phase am Graduiertenkolleg „WisPerMed“. Forschende der Medizinischen Fakultät der Universität Duisburg-Essen, der Universitätsmedizin Essen und der FH Dortmund arbeiten dort interdisziplinär an Methoden des Maschinellen Lernens zur Diagnose und Therapie des Malignen Melanoms. Für seine Arbeit wurde der 29-Jährige bei der diesjährigen Clusterkonferenz „Innovative Medizin“ des Netzwerks Medizin.NRW mit einem Preis für Nachwuchswissenschaftler ausgezeichnet.

„Ich befasse mich hauptsächlich mit den technischen Herausforderungen bei KI-Anwendungen in der Medizin“, erklärt Sauter. In seiner Promotion untersucht er, wie Entscheidungen der KI transparent nachvollziehbar gemacht werden können. Er prüft dabei, ob bestehende Erklär-Methoden für KI-Anwendungen auch in der feingeweblichen Untersuchung zur Melanom-Diagnose, der Dermatohistopathologie, nutzbar sind.

„Bei sogenannten Black-Box-Algorithmen wie den Neuronalen Netzwerken ist die Entscheidung der KI nicht Teil des programmierten Codes“, erklärt Sauter. Vielmehr suche die KI eigenständig nach Zusammenhängen in den Daten und treffe daraufhin ihre Entscheidung. „Diese müssen wir verstehen und so die Black-Box knacken.“ Damit soll ausgeschlossen werden, dass es zu Fehldiagnosen kommt, weil die KI ein Muster erkannt hat, das mitunter gar nichts mit dem Krebs zu tun hat.

„Die Ergebnisse der Untersuchungen zeigen, dass wir die Entscheidungskriterien der KI konkret abbilden konnten und Fehler in den Parametern erkennbar dargestellt wurden“, fasst Sauter seine Arbeit zusammen. Dies ermögliche es, medizinisch nicht plausible Entscheidungen aus den Modellen herauszunehmen. Parallel dazu arbeitet Sauter an den Lerntechniken für KI-Modelle – speziell für die Krebs-Diagnose.

„Hier steht die Forschung vor der Herausforderung, dass ein gewisser Mangel an sauber aufbereiteten Trainingsdaten vorliegt“, sagt der Doktorand. Die digitale Aufbereitung der Gewebeproben als Lernvorlage für KI sei aufwendig. Darum werde auf bestehende KI-Modelle zurückgegriffen. „Die haben quasi schon eine Grundausbildung absolviert“, erklärt Sauter. Ein Teil seiner Doktorarbeit untersucht, wie vorhandene KI-Modelle auf die Besonderheiten in der Erkennung des Melanoms „umgeschult“ werden können.

Sauters Promotion wird von Prof. Markus Kukuk am Fachbereich Informatik betreut.