Täuschend echt: KI-generierte Histologiebilder17. Dezember 2024 Experiment am Uniklinikum Jena belegt: Selbst Experten können künstlich erzeugte Gewebeschnittbilder nicht zuverlässig identifiziere. Das stellt eine Herausforderung für die Beurteilung biomedizinischer Forschung dar. Foto: Universitätsklinikum Jena Eine Herausforderung für die Beurteilung biomedizinischer Forschung: Selbst Experten konnten in einem Versuch Gewebeschnittbilder, die mit Künstlicher Intelligenz erzeugt worden waren, nicht zuverlässig identifizieren. Sie hilft bei der Beurteilung von Röntgen- und MRT-Bildern, beim Schreiben von Arztbriefen und bei der Auswertung von Messdaten in der Forschung – die KI ist in der klinischen Praxis und in der biomedizinischen Forschung zu einem hilfreichen und mächtigen Instrument geworden. So mächtig, dass Hochschulen und Forschungsorganisationen Empfehlungen und Leitlinien zu ihrer Nutzung in der Wissenschaft formulieren. Wie berechtigt das ist, untermauert das Experiment einer Arbeitsgruppe am Universitätsklinikum Jena: Das Forschungsteam nutzte den öffentlich verfügbaren Deep-Learning-Algorithmus Stable Diffusion, um aus Trainingsdaten neue histologische Bilder zu erstellen. „Wir verwendeten als Trainingsbilder einmal drei und einmal 15 echte Schnittbilder von angefärbtem Gewebe aus Mäusenieren“, so Studienleiter Prof. Ralf Mrowka. „Bereits auf der Basis von drei Originalbildern entstanden schon recht überzeugende Bilder.“ In einer Online-Umfrage testete das Forschungsteam, ob diese KI-generierten Histologiebilder von echten zu unterscheiden waren. Die mehr als 800 Teilnehmenden der Umfrage wurden dafür in Experten oder Laien eingeteilt, je nachdem, ob sie Erfahrungen mit dem Beurteilen von histologischen Bildern hatten, wie etwa Medizinstudierende, oder nicht. Ihnen wurden nacheinander 16 einzelne Bilder – je acht echte und KI-generierte – gezeigt, jedes Bild sollte klassifiziert werden, bevor das nächste erschien. Neue Methoden zur Erkennung gefälschter Daten in wissenschaftlichen Arbeiten notwendig Die Expertengruppe ordnete gut zwei Drittel richtig ein. Der Laiengruppe gelang dies nur in gut der Hälfte der Fälle. Beide Gruppen konnten die auf weniger Trainingsdaten beruhenden KI-Bilder häufiger enttarnen. Zehn Teilnehmende der Expertengruppe erkannten alle Bilder korrekt. Über alle Bilder- und Teilnehmergruppen hinweg fielen die Entscheidungen zumeist innerhalb der ersten halben Minute. „Wir konnten auch feststellen, dass richtige Zuordnungen signifikant schneller getroffen wurden als falsche,“ stellt Erstautor Dr. Jan Hartung heraus, „eine Beobachtung, die mit gängigen Modellen der wahrnehmungsbasierten Entscheidungsfindung im Einklang steht“. Mrowka: „Unser Experiment zeigt, dass die Erfahrung hilft, gefälschte Bilder zu erkennen; dass aber auch dann ein nicht geringer Anteil künstlicher Bilder nicht zuverlässig identifiziert wird.“ „Dabei sind die technischen Hürden für jemanden mit der Absicht, Abbildungen zu fälschen, relativ gering“, betont Jan Hartung. „Man braucht nicht hunderte von Beispielen zum Trainieren eines Algorithmus, ein Dutzend kann bereits ausreichend sein.“ Das Autorenteam sieht darin eine Herausforderung für die Wissenschaft, derer diese sich bewusst sein muss und die neuer Methoden zur Erkennung gefälschter Daten in wissenschaftlichen Arbeiten bedarf.
Mehr erfahren zu: "KI-Modell sagt Zusammensetzung von Nierensteinen anhand von 24-Stunden-Urinprobe voraus" KI-Modell sagt Zusammensetzung von Nierensteinen anhand von 24-Stunden-Urinprobe voraus Ein KI-Modell der Mayo Clinic kann die Zusammensetzung von Nierensteinen anhand einer 24-Stunden-Urinprobe mit einer Genauigkeit von 73 Prozent vorhersagen. Damit ist es einem herkömmlichen Berechnungsverfahren deutlich überlegen. Das könnte […]
Mehr erfahren zu: "Neuer Bluttest könnte Vorstufen von Eierstockkrebs frühzeitig erkennen" Neuer Bluttest könnte Vorstufen von Eierstockkrebs frühzeitig erkennen Ein neuer Bluttest könnte die Früherkennung von Eierstockkrebs verbessern, indem er bereits mikroskopisch kleine, nicht invasive Vorstufen im Eileiter erkennt. Forschende identifizierten dafür ein RNA-Signalmolekül, das schon vor der Entwicklung […]
Mehr erfahren zu: "Drei Formen von Typ-1-Diabetes im Erwachsenenalter identifiziert" Drei Formen von Typ-1-Diabetes im Erwachsenenalter identifiziert Typ-1-Diabetes, der erst im Erwachsenenalter auftritt, verläuft offenbar nicht bei allen Betroffenen gleich. Deutsche Forschende haben nun drei Subtypen identifiziert. Die Einteilung könnte dazu beitragen, die Diagnostik zu präzisieren, das […]