Vertrauen durch Transparenz: KI in der Medizin

Das Projekt Ethyde will eine erklärbare Künstliche Intelligenz (KI) entwickeln, die Diagnose und Therapieentscheidungen unterstützt. Die KI soll Entscheidungsprozesse offengelegen und Fehlerkorrektur zulassen, mit Fokus auf ethischen Aspekten.

KI hat sich in vielen Bereichen des Lebens etabliert. Besonders in der Medizin, die von hoher Verantwortung und oft lebenswichtigen Entscheidungen geprägt ist, kann sie Ärztinnen und Ärzte bei datenintensiven Anwendungen entlasten und unterstützen. So können hybride Teams aus Mensch und Maschine Diagnosen und Therapieempfehlungen präziser und fundierter treffen.

Dabei steht immer eines im Vordergrund: Vertrauen. Damit Ärztinnen und Ärzte KI-Systeme aktiv in ihre Entscheidungsprozesse einbeziehen, könnte es wichtig sein, dass sie nachvollziehen können, wie diese zu ihren Ergebnissen gelangt. Im Verbundprojekt Ethyde, eine Kooperation der Universität Hohenheim und des Bayerischen Forschungsinstitut für Digitale Transformation (bidt), untersuchen Forschende, wie eine solche Transparenz erreicht werden kann und welchen Einfluss sie hat. Der Schlüssel dazu: Erklärbare Künstliche Intelligenz, die Entscheidungsprozesse der KI für ihre Nutzenden verständlich und nachvollziehbar aufbereitet.

Nachvollziehen, wie die KI zu ihren Ergebnissen gelangt

Die Forschenden befassen sich unter anderem mit der Frage, wie unterschiedliche Arten von Erklärungen, wie beispielsweise Merkmalsrelevanz, konzeptbasierte Erklärungen oder beispielbasierte Erklärungen, das Vertrauen in KI-Systeme beeinflussen. Gleichzeitig wollen sie Methoden entwickeln, die es ermöglichen, fehlerhafte KI-Ausgaben und Erklärungen zu korrigieren und somit die Interaktion weiter zu optimieren.

Die Erkenntnisse sollen in die Entwicklung eines Prototyps für eine Webanwendung einfließen. Er berücksichtigt nicht nur technische, sondern auch ethische Aspekte und zeigt so beispielhaft, wie die Mensch-KI-Kooperation gelingen kann.

Das Projekt „Ethische Implikationen hybrider Teams aus Mensch und KI-System“ (Ethyde) ist eine Kooperation zwischen dem Fachgebiet für Wirtschafts- und Sozialethik der Universität Hohenheim und dem Bayerischen Forschungsinstitut für Digitale Transformation (bidt) und kombiniert verschiedene wissenschaftliche Ansätze. Während in Hohenheim das Team um Prof. Matthias Uhl Experimente entwickelt, um die Ergebnisse mit konkreten Handlungsempfehlungen für ein ethikkonformes Design zu untermauern, beschäftigt sich das bidt mit technologischen Lösungen im Bereich interaktives Maschinelles Lernen.

Das Bundesministerium für Bildung und Forschung (BMBF) fördert das Vorhaben mit insgesamt circa 810.000 Euro, wovon das Fachgebiet für Wirtschafts- und Sozialethik der Universität Hohenheim etwas mehr als 435.000 Euro erhält.