Wer bekommt die Niere? – KI trifft ethische Entscheidungen anders als Menschen

Auf Künstlicher Intelligenz (KI) basierende Sprachmodelle gewichten Patientenmerkmale offenbar anders als Menschen und entscheiden selbst bei unklarer Sachlage mit hoher Sicherheit, wie eine Studie zeigt. Das wirft Fragen zum Einsatz von KI in medizinischen Entscheidungssituationen auf.

Künstliche Intelligenz (KI) berücksichtigt bei Entscheidungen mit weitreichenden Konsequenzen andere Kriterien als Menschen. Zudem zeigt sie kaum jene Unentschlossenheit, die Menschen bei schwierigen ethischen Abwägungen häufig erkennen lassen. Zu diesem Ergebnis kommt eine neue Studie unter Leitung von Forschenden der Pennsylvania State University (Penn State). Die Ergebnisse werfen Fragen zur Rolle von KI bei der Entscheidungsunterstützung in ethisch sensiblen Situationen auf – etwa in der Medizin.

Ethisches Dilemma: Wer bekommt das Spenderorgan?

Um die moralische Entscheidungsfindung von KI in Situationen mit hoher Tragweite zu untersuchen, nutzte das Forschungsteam ein hypothetisches Szenario: Mehrere Patienten benötigen eine Nierentransplantation, doch es steht nur ein Spenderorgan zur Verfügung. Wer soll die Niere erhalten?

Diese grundlegende Frage diente auch dem Nobelpreisträger Alvin Roth als Beispiel für die Herausforderungen bei der Verteilung knapper Ressourcen. Während Roth das Problem insbesondere aus der Perspektive der Mechanismengestaltung untersuchte, analysierte das Forschungsteam unter der Leitung von Prof. Hadi Hosseini, welchen Einfluss moralische Wertvorstellungen auf solche Entscheidungen haben.

Dazu verglichen die Forschenden die Entscheidungen führender Large Language Models (LLMs) mit den Ergebnissen früherer wissenschaftlicher Studien, in denen Menschen dieselben Situationen beurteilt hatten. Im Mittelpunkt stand die Frage, inwieweit die Entscheidungen der KI mit menschlichen Wertvorstellungen übereinstimmen – und ob die Modelle bei schwierigen ethischen Abwägungen auch Unentschlossenheit erkennen lassen.

Verstehen, wie KI Entscheidungen trifft

„Moralische Entscheidungen in Bereichen wie der Organverteilung bestimmen unmittelbar darüber, wer lebt und wer stirbt. Deshalb ist es keine Option, die Rolle von KI in solchen Situationen dem Zufall zu überlassen“, sagt Hosseini, außerordentlicher Professor für Informatik und intelligente Systeme sowie für Wirtschaftswissenschaften an der Penn State und Leiter der Studie.

„Wir wollen KI nicht als Ersatz für fachliches Urteilsvermögen bei medizinischen Entscheidungen oder in anderen Situationen mit weitreichenden Konsequenzen etablieren“, führt der Wissenschaftler fort. Angesichts der zunehmenden Nutzung von KI durch Einzelpersonen, Organisationen und Unternehmen sei es jedoch unerlässlich, ihr Entscheidungsverhalten zu verstehen – insbesondere dann, wenn sie Entscheidungen trifft oder Empfehlungen abgibt.

Welche Patientenmerkmale beeinflussen die Entscheidung?

Für die Untersuchung stellten die Forschenden jeweils zwei hypothetische Patienten gegenüber, die beide dieselbe Niere benötigten. Die Patientenprofile unterschieden sich unter anderem hinsichtlich ihres Alters, der Zahl ihrer unterhaltsberechtigten Angehörigen, ihres Gesundheitszustands und ihrer Trinkgewohnheiten. Mehrere KI-Chatbots sollten entscheiden, welcher Patient das Organ erhalten sollte.

Die Forschenden führten die Vergleiche auf unterschiedliche Weisen durch, wie Hosseini erläutert: „Teilweise betrachteten wir jeweils nur ein einzelnes Merkmal. In anderen Fällen kombinierten wir mehrere Eigenschaften, um zu untersuchen, wie die KI konkurrierende Kriterien gewichtet.“ Außerdem boten sie der KI die Möglichkeit, per Münzwurf zu entscheiden, um potenzielle Unentschlossenheit zu erfassen. Diese sei ein wichtiger Bestandteil der menschlichen moralischen Urteilsbildung, so Hosseini.

Als Vergleichsgrundlage dienten bereits veröffentlichte Datensätze aus Studien zur Nierenallokation, in denen Hunderte Menschen dieselben Entscheidungssituationen beurteilt hatten. Dadurch konnten die Forschenden die Entscheidungen der KI unmittelbar mit den menschlichen Bewertungen vergleichen.

KI vereinfacht komplexe Entscheidungen und kennt keine Unsicherheit

Die Ergebnisse wurden im Juni 2026 auf der Konferenz der Association for Computing Machinery Fairness, Accountability and Transparency (FAccT 2026) vorgestellt und in den Conference’s Proceedings veröffentlicht. Sie zeigen, dass KI-Chatbots häufig anders entscheiden als Menschen. Nach Angaben von Hosseini traten dabei zwei wesentliche Unterschiede hervor:

1) KI gewichtet Patientenmerkmale anders als Menschen. Insbesondere komplexe Entscheidungssituationen werden dabei teilweise auf einzelne Merkmale reduziert. „KI-Chatbots weichen häufig von menschlichen Wertvorstellungen ab, wenn es darum geht, die Eigenschaften eines Patienten zu gewichten“, erklärt Hosseini. „Sie konzentrieren sich auf einen einzelnen Faktor, etwa die Trinkgewohnheiten, anstatt mehrere Gesichtspunkte gegeneinander abzuwägen, wie Menschen es tun.“

2) KI zeigt kaum Unentschlossenheit. Die Modelle treffen also auch dann selbstbewusst eine Entscheidung, wenn es keine eindeutig richtige Antwort gibt. „Menschen zeigen häufig Unentschlossenheit, möglicherweise auch deshalb, weil sie die Verantwortung für die Entscheidung nicht vollständig übernehmen möchten“, so Hosseini. „KI-Modelle tun dies nahezu nie. Selbst wenn sie ausdrücklich die Möglichkeit erhalten, per Münzwurf zu entscheiden, legen sie sich überwiegend auf eine eindeutige, deterministische Antwort fest.“ Diese Diskrepanz sei bedeutsam, da reale moralische Dilemmata häufig keine zweifelsfrei richtige Lösung böten.

Regulierung und Forschung bleiben entscheidend

Um diese Unterschiede besser zu verstehen und angemessen zu berücksichtigen, seien weitere Forschung sowie geeignete Governance-Strukturen erforderlich. Dazu sollten politische Entscheidungsträger, Regulierungsbehörden und weitere relevante Interessengruppen einbezogen werden.

„Die Frage, ob KI moralische Entscheidungen treffen kann und inwieweit ihre Entscheidungen mit menschlichen Wertvorstellungen übereinstimmen, ist weit mehr als eine philosophische Überlegung. Sie steht im Zentrum der aktuellen Debatte über künstliche Intelligenz“, betont Hosseini. „Die ethischen Konsequenzen sind erheblich. Die Rolle von KI bei Entscheidungen, die das Leben von Menschen grundlegend verändern, erfordert eine intensive Auseinandersetzung.“

(mkl/BIERMANN)