KI-Tool durchsucht soziale Medien nach versteckten Gesundheitsrisiken

Ein neues Tool mit Künstlicher Intelligenz kann Daten aus sozialen Medien scannen, um unerwünschte Ereignisse im Zusammenhang mit Gesundheitsprodukten aufzudecken. Dies geht aus einer Studie hervor, die in „PLOS Digital Health“ veröffentlicht wurde.

Die derzeitigen Meldesysteme für unerwünschte Ereignisse (UEs) bei zugelassenen verschreibungspflichtigen Medikamenten und Medizinprodukten basieren auf freiwilligen Meldungen von Ärzten und Herstellern an die US-amerikanische Lebensmittel- und Arzneimittelbehörde (FDA). Das rasante Wachstum bei Gesundheitsprodukten für Verbraucher, wie Nahrungsergänzungsmitteln oder Produkten auf Cannabisbasis, erfordert jedoch neue Herangehensweisen zur Erkennung von UEs.

Open-Source-Tool findet unerwünschte Ereignisse

In der neuen Studie testeten die Forscher die Wirksamkeit eines automatisierten Machine-Learning-Tools namens „Waldo“, das Social-Media-Texte durchsuchen kann, um Beschreibungen von UEs durch Verbraucher zu finden. Das Tool wurde auf seine Fähigkeit getestet, Beiträge der Plattform Reddit zu scannen, um UEs von Produkten auf Cannabisbasis zu finden.

Im Vergleich zu menschlichen UE-Annotationen einer Reihe von Reddit-Beiträgen erzielte Waldo eine Genauigkeit von 99,7 Prozent und schnitt damit weit besser ab als ChatGPT, dem dieselben Beiträge vorgelegt worden waren. In einem größeren Datensatz von 437.132 Reddit-Beiträgen identifizierte Waldo 28.832 potenzielle Schadensmeldungen. Als die Forscher John Ayers von der University of California, San Diego (USA) eine Zufallsstichprobe dieser Beiträge manuell validierten, stellten sie fest, dass 86 Prozent davon echte UEs waren. Das Team hat Waldo als Open Source verfügbar gemacht, sodass jeder – Forscher, Kliniker oder Aufsichtsbehörden – es nutzen kann.

Bisher unbekannte Sicherheitssignale werden sichtbar

„Waldo stellt einen bedeutenden Fortschritt bei der Erkennung UEs in sozialen Medien dar und erzielt im Vergleich zu bestehenden Ansätzen eine überlegene Leistung“, sind die Autoren überzeugt. „Darüber hinaus ist der automatisierte Ansatz von Waldo über Cannabis-Produkte hinaus auch auf andere Gesundheitsprodukte für Verbraucher anwendbar, die ebenfalls keiner behördlichen Aufsicht unterliegen.“

Der Hauptautor Karan Desai sagt: „Waldo zeigt, dass die Gesundheitserfahrungen, die Menschen online teilen, nicht nur Lärm sind, sondern wertvolle Sicherheitssignale. Indem wir diese Stimmen erfassen, können wir reale Schäden aufdecken, die für herkömmliche Meldesysteme unsichtbar sind.“

Ayers fügt hinzu: „Dieses Projekt zeigt, wie digitale Gesundheitstools die Überwachung nach der Markteinführung verändern können. Indem wir Waldo als Open Source zur Verfügung stellen, stellen wir sicher, dass jeder, von Regulierungsbehörden bis hin zu Klinikern, es zum Schutz der Patienten nutzen kann.“