Fraunhofer HHI: Europaweite Testinfrastruktur für KI und Robotik im Gesundheitswesen entwickelt

Das Fraunhofer Heinrich-Hertz-Institut (HHI) arbeitet im EU-Projekt TEF-Health (Testing and Experimentation Facility for Health AI and Robotics) daran, eine Testinfrastruktur für Künstliche Intelligenz (KI) und Robotik im Gesundheitswesen aufzubauen. Diese soll innovative Ansätze umfassend sowie schnell prüfen und zur Marktreife bringen.

Unter der Leitung des Berlin Institute of Health (BIH) der Charité Berlin sind 51 Partner aus neun europäischen Ländern an TEF-Health beteiligt. Das Projekt ist im Januar 2023 gestartet und läuft bis Dezember 2027 für insgesamt fünf Jahre. Die Europäische Union und die im Projekt vertretenen Mitgliedsländer fördern das Projekt mit 60 Millionen Euro. Davon erhält das Fraunhofer HHI 1,2 Million Euro.

Um neue Technologien im Gesundheitssystem einzuführen, müssen ihre Sicherheit, Robustheit, und Zuverlässigkeit ausführlich geprüft werden. Speziell für die Bereiche KI und Robotik gibt es in der Europäischen Union hohe Qualitätsanforderungen, jedoch noch eine unzureichende Testinfrastruktur, mit der sich Standards entwickeln, Innovationen prüfen und neue Produkte zertifizieren lassen.

Das TEF-Health-Konsortium möchte diesen Prozess verbessern und die Validierung und Zertifizierung von KI und Robotik in medizinischen Geräten beschleunigen. Dafür entwickelt das Team eine (virtuelle und physische) Testinfrastruktur, die verschiedenen Technologien in realitätsgetreuen Umgebungen evaluieren kann, darunter unter anderem Krankenhäuser und Labore. Anwender können dann zum Beispiel sowohl Software zur Patientenbetreuung oder Diagnostik als auch Operations- oder Pflegeroboter testen.

Um diese Testinfrastruktur zu entwickeln, erarbeiten die Projektpartner neue regulatorische und ethische Anforderungen wie standardisierte Testprotokolle und Zertifizierungen für KI-basierte Technologien oder einen bestimmten Verhaltenskodex bei der Anwendung. Zusätzlich müssen die notwendigen technischen und administrativen Verfahren entwickelt werden. Mit an Bord bei TEF-Health sind daher neben führenden Krankenhäusern, Universitäten und klinischen Forschungseinrichtungen, auch staatliche Prüforganisationen wie der TÜV, die deutsche Physikalisch-Technische Bundesanstalt und ihr französisches Pendant, das “Laboratoire national de métrologie et d’essais“ mit denen das Fraunhofer HHI in diesem Projekt eng zusammenarbeitet.

Das Fraunhofer HHI ist mit seinen Forschungsgruppen „Erklärbare Künstliche Intelligenz“ und „Angewandtes Maschinelles Lernen“ aus der Abteilung für Künstliche Intelligenz an TEF-Health beteiligt. Die KI-Experten werden Methoden und Instrumente zur Qualitätssicherung von KI-Technologien entwickeln. Zusätzlich werden sie bei der Konzeption und Entwicklung der virtuelleren Testinfrastruktur mitarbeiten und hierbei Ihre Expertise beispielsweise im Bereich der Zeitreihenanalyse, Anwendung erklärbarer KI-Methoden und in der Normung und Standardisierung einbringen.

Das Fraunhofer HHI-Team konnte auf nationaler und internationaler Ebene bereits Erfahrung im Bereich KI-Standardisierung sammeln. Seit 2021 organisieren sie gemeinsam mit dem TÜV Verband und dem Bundesministerium für Sicherheit in der Informationstechnik die jährliche Workshop-Reihe „Towards Auditable AI Systems“, bei der wegweisende Whitepaper entstehen. International arbeiten die Fraunhofer HHI-Forschenden an der Entwicklung und Standardisierung von KI-Verfahren für den Gesundheitssektor in der ITU/WHO-Fokusgruppe „AI for Health“, die vom Institut geleitet wird.

Die im Projekt entwickelten Evaluierungsressourcen und Infrastrukturen werden der Industrie im Anschluss in Form von gebührenpflichtigen Diensten zur Verfügung stehen. Durch diese umfangreichen Test- und Bewertungswerkzeuge möchte das TEF-Health-Team auch das Vertrauen der Bevölkerung in innovative KI- und Robotik-Techniken stärken.