Der moderne Arzt und die Maschine seines Vertrauens

Die Digitalisierung und Technisierung der Medizin bringen es mit sich, dass Ärzte sich zunehmend auf Entscheidungen maschineller Systeme verlassen müssen, deren Innenleben sie nicht vollständig verstehen können. Diese Entwicklung und ihre ethischen Implikationen wurden in einer Plenarsitzung auf dem 71. Kongress der Deutschen Gesellschaft für Urologie (DGU) im September in Hamburg kritisch diskutiert.

Arne Manzeschke, Professor für Anthropologie und Ethik für Gesundheitsberufe an der Evangelischen Hochschule Nürnberg, brachte die Problematik auf den Punkt: „Wir kommen in eine Situation, in der wir Maschinen vertrauen müssen, weil wir in einer vernünftigen Zeit nicht mehr nachvollziehen können, wie ihre Entscheidungen zustande kommen.“ Grund dafür ist, dass die vom Menschen entwickelten Maschinen den Menschen in ihrer Leistungsfähigkeit übertreffen, was die Philosophen „prometheische Scham“ nennen: „Wie gehen wir damit um, dass wir Maschinen schaffen, die besser sind als wir, aber gleichzeitig unter unserer Kontrolle bleiben sollen?“

In dieser Entwicklung sieht der Theologe und Ingenieur für Datentechnik erhebliche Gefahren. Zum einen erhöhe die zunehmende Vernetzung die Vulnerabilität des Systems. Bei Ausfall oder Angriffen von außen, etwa durch einen Computervirus, kommt es so zu einer hohen Schadensreichweite. Zum anderen bewirke die Übernahme von immer mehr Fähigkeiten durch Maschinen, dass diese Fähigkeiten beim Menschen abtrainiert werden, sodass dieser letztlich nicht mehr in der Lage wäre, im Notfall zu übernehmen, wie es derzeit im Bereich der Luftfahrt noch üblich ist.

Der Verlust des Leibes

Im Bereich von Medizin und Pflege gilt dies dem Ethiker zufolge in besonderer Weise, weil diese „auch Formen leiblicher Zuwendung sind, die einen wesentlichen Teil des Heilungserfolgs darstellt“. Auch auf der Ebene des einzelnen Menschen führt die Digitalisierung der Gesundheit zu Kollateralschäden: „Das menschliche Selbstverständnis und die menschliche Wahrnehmung reduzieren sich auf digitalisierbare Daten“, warnte der Anthropologe. „Das eigenleibliche Spüren gerät zunehmend in den Hintergrund, weil technische Daten dominieren“, sagte er mit Hinweis auf die verbreiteten „Fitness-Bänder“. „Durch die Selbstwahrnehmung über technisch erhobene Vitalparameter und die damit assoziierten potenziellen Risiken versteht sich der Mensch mehr und mehr als Risikoträger.“

Hier kommt noch ein politisches Problem hinzu, denn Firmen wie Google, Amazon, Facebook und Apple („GAFA“) haben kommerzielles Interesse an diesen Daten, entziehen sich aber weitgehend der politischen Kontrolle. „Digitale Souveränität, wie sie etwa vom Deutschen Ethikrat gefordert wird, liegt faktisch nicht vor“, so Manzeschke. „Wie gewinnen wir so etwas wie digitale Souveränität in einer Zeit, wo die Daten als Kapital frei flottieren und von ganz anderen gehalten werden als von denjenigen, von denen sie stammen?“

Mit dem Blick auf die Geschichte der Menschheit sieht der Theologe und Mediziner einen „Epochenbruch“ gekommen. In den vergangenen Jahrtausenden habe der Mensch versucht, die Natur mittels Technik für sich verfügbar und weniger bedrohlich zu machen. „Jetzt aber schaffen wir Technik, die uns ihrerseits gefährlich werden kann“, so Manzeschke. Nun ist es nicht mehr die Natur, die uns bedroht, sondern es sind die von uns geschaffenen Maschinen.“

Doppelte Abhängigkeit

Die den Menschen weit überragende Leistungsfähigkeit der technischen Systeme wird dem Ethiker zufolge den Menschen in eine doppelte Abhängigkeit bringen. „Erstens: Verstehe ich überhaupt noch, was da passiert? Zweitens: Wer handelt hier eigentlich? Das heißt, die Autonomie der technischen Systeme steht in Konkurrenz zur menschlichen Autonomie. Die Kardinalfrage lautet meines Erachtens: Wollen wir Menschen die Kontrolle über die Menschen behalten, dann müssen wir ihre Leistungsfähigkeit beschränken – aber anhand welcher Kriterien?“

Auf die Gesellschaft kommen hier große Aufgaben zu, schloss der Ethiker. „Letztendlich erfordert der Prozess der Digitalisierung eine Bürgerschaft, die die Aufgabe offensiv annimmt, sich selbst aufzuklären und den Prozess aktiv zu gestalten.“  

Wird der Arzt rechtlich angreifbar, wenn er gegen die Maschine entscheidet?

DGU-Präsident Prof. Oliver Hakenberg bekannte nach dem Vortrag: „Ich habe vieles mitgenommen, was mir Angst macht.“ Als Beispiel für Fälle, in denen Menschen aufgrund von Maschinen, die nicht mehr zu stoppen waren, ums Leben kamen, nannte er die beiden Abstürze von Flugzeugen des Typs Boeing 737 MAX 8 in Indonesien (29.10.2018) und Äthiopien (10.03.2019, die Publikumspresse berichtete jeweils). „Es wurde durch die Maschine verhindert, dass die Piloten effektiv eingreifen“, so Hakenberg. „Das ist der GAU.“ Für den Klinikbereich entwarf er das Szenario, „dass wir eines Tages auf der Intensivstation einen Computer haben werden, der alle Daten über den Verlauf der letzten zehn Tage des Patienten gespeichert hat und dann sagt: Prognose infaust, Beatmung abstellen. Das werden wir dann als Ärzte akzeptieren müssen, oder?“ Manzeschke entgegnete: „Technik trifft keine Entscheidungen, aber sie legt Strukturempfehlungen vor, an die sich die Ärzte im Allgemeinen halten werden – nicht zuletzt aus rechtlichen Gründen: Wenn das der State of the Art ist, dann ist er rechtlich auch bewehrt. Die Abweichung wird immer begründungspflichtig sein, und die Begründung aufzubieten gegen eine Maschine, die die Evidenz von vielen, vielen Datensätzen hat, wird immer schwieriger werden.“ „Die Herrschaft der Maschinen“, kommentierte Hakenberg, doch ganz so pessimistisch wollte es der eingeladene Referent nicht stehen lassen: „Die Maschine ist eigentlich ein ziemlich blödes Ding, es kommt darauf an, welchen Raum wir ihr im sozialen Leben geben. Es liegt an uns!“

Ständige Validierung und Integration erforderlich

Prof. Andreas Melzer, Direktor des Innovation Center Computer Assisted Surgery (ICCAS) an der Universität Leipzig, das sich laut Website als „Vorreiter bei der Entwicklung computergestützter Technologien, intelligenter Assistenzsysteme und bildgestützter Interventionen“ begreift, sieht die Chancen der Technisierung, insbesondere in der Chirurgie, naturgemäß positiver, doch auch er warnte in Hamburg vor Risiken. Die sogenannte „artifizielle Intelligenz“ sei vor allem in der Mustererkennung stark. Sie könne Wissen zusammenführen, das etwa ein Tumorboard niemals vollständig überblicken könne. Gewünscht sei „eine Maschine, die Entscheidungsunterstützung liefert, aber niemals die Entscheidung abnimmt oder sogar gegen die Entscheidung des Arztes handelt“. Doch auch Melzer erkennt „das Dilemma trotz all dieser Vorteile, dass wir uns immer mehr auf die Maschinen verlassen.“ Wichtig sei es daher vor allem, ein intelligentes System immer wieder zu validieren, damit es bestimmte Entscheidungen in festgelegten Situationen auch immer wieder gleich trifft und nicht „einen anderen Weg einschlägt und wie im Terminator-Film erkennt, dass der Mensch eigentlich das größte Problem auf der Welt ist, und ihn am besten abschaltet“.

„Maschinen können ein Segen sein, aber auch zum Fluch werden“, so Melzers Resümee: Sie optimieren die Entscheidungs- und Planungsprozesse und verbessern Effizienz, Effektivität und Sicherheit. Grund ist nach Melzer, dass Maschinen in Sachen Zuverlässigkeit dem Menschen weit voraus sind. Allerdings hapert es noch stark an der Integration der Komponenten, etwa im Operationssaal. Der Mediziner, der in Leipzig an der Integration der vielen Komponenten im OP forscht, berichtete in Hamburg von seiner Erfahrung: „Der OP mit den endoskopischen Systemen ist das reinste Chaos, so würde nie eine großindustrielle Anlage funktionieren.“ Während etwa ein Flugzeug circa 70 Entscheidungsknoten habe, damit es automatisch Computer geflogen werden kann, seien es im OP sind es 2000 bis 3000. „Alles muss miteinander integriert sein und sicher kommunizieren“, forderte Melzer. Wenn diese Integration nicht gelingt, dann könne die Maschine zum Fluch werden: Der Chirurg, der zusätzlich zu seinen medizinischen Aufgaben auch noch die Technik bewältigen muss, wird überlastet, Arzt gibt das Heft des Handelns aus der Hand, und letztlich leidet die Zuwendung zum Patienten. Durch fehlende Überwachung und Kontrolle kommt es schließlich zu maschineninduzierten Komplikationen, das heißt zu einer neuartigen Gefährdung durch Technik, welche die Situation eigentlich verbessern sollte; an dieser Stelle wies auch Melzer auf die von Hakenberg genannten Flugzeugabstürze hin.

Der Technik-Experte konstatierte in Hamburg mit einer Spur Fatalismus: „Aufhalten kann man das nicht“, doch er riet: „Wir sollten es vor allem noch aus der Kommerzialisierung heraushalten.“

(ms)