|
Liebe Leserinnen und Leser,
die Künstliche Intelligenz (KI) ist längst in unserem Alltag angekommen. Viele nutzen sie inzwischen bewusst, andere profitieren vielleicht noch unwissend von ihren Vorteilen. Zweifelsfrei muss der Einsatz von KI weiterhin kritisch beobachtet und stetig neu evaluiert werden. Auch sollten geeignete politische Rahmenbedingungen geschaffen werden. Dennoch ist klar: KI wird bleiben. Und sie wird auch unsere Gesundheitsversorgung nachhaltig verändern.
Ob alt oder jung, medizinisch tätig oder nicht – jedem sei geraten, sich frühzeitig mit KI auseinanderzusetzen. Welches Grundverständnis notwendig ist, um Nutzen und Zuverlässigkeit von bestimmten KI-Modellen, ihren Ergebnissen und Vorhersagen bewerten zu können, ist zugegeben nicht ganz einfach. Hier setzt die erklärbare KI (Explainable AI, XAI) an: Sie soll nachvollziehbar machen, wie und warum KI-Modelle zu einem bestimmten Ergebnis kommen.
Ein internationales Forschungsteam unter Beteiligung des Deutschen Zentrums für Diabetesforschung (DZD) verwendete diesen Ansatz jüngst bei einer Analyse von Pankreas-Gewebeschnitten. Zwar konnten Deep-Learning-Modelle präzise zwischen Gewebeproben von Menschen mit und ohne Typ-2-Diabetes unterscheiden. Doch erst durch XAI wurden auch die spezifischen Zellen und Gewebestrukturen offenbart, die im Krankheitsverlauf eine Rolle spielen. Müssen wir also nur die KI verstehen, die uns die KI erklärt?
Oder reicht es, ausgemachten Expertinnen und Experten das „Verstehen“ zu überlassen und auf die „idiotensichere“ Anwendung zu warten – sofern es sie gibt? KI-basierte Ansätze werden derzeit in zahlreichen Studien zu unterschiedlichen klinischen Fragestellungen erprobt, zum Beispiel bei der Diagnostik von Hirntumoren anhand von Flüssigbiopsien. Bevor sie in der klinischen Praxis verankert werden, müssen sie selbstverständlich validiert werden. Doch ist eine sichere Anwendung dadurch gewährleistet? Würden Sie ein Medikament verschreiben, dessen Wirkmechanismus Sie nicht kennen, nur weil klinische Studien einen Nutzen bescheinigen?
Und damit wünsche ich Ihnen viel Freude beim Lesen und Grübeln sowie eine sonnige, restliche Woche!
|
