3-D-Gebärdensprach-Avatar

Künftig könnte ein 3-D-Gebärdensprach-Avatar bei der barrierefreien digtalen Kommunikation mit gehörlosen Menschen helfen. Der Avatar wird von einem Augsburger Forschungsteam gemeinsam mit weiteren Experten im Projekt „AVASAG“ entwickelt, das vom Bundesministerium für Bildung und Forschung (BMBF) gefördert wird.

Die Digitalisierung der Gesellschaft schreitet voran und eröffnet viele neue Möglichkeiten. Barrierefreie digitale Kommunikation für Menschen mit Behinderung vereinfacht deren Alltag und gewährleistet ihre gesellschaftliche Teilhabe. In dem vom BMBF geförderten Verbundprojekt AVASAG (steht für Avatar-basierter Sprachassistent zur automatisierten Gebärdenübersetzung) arbeiten sechs Partner aus Forschung und Entwicklung unter der Leitung der Firma Charamel (Spezialist für interaktive Avatar-basierte Assistenzsysteme) an einem echtzeitgesteuerten 3D-Gebärdensprach-Avatar zur automatischen Übersetzung deutscher Texte in Gebärdensprache. Denn: Für viele Gehörlose ist Textsprache eine Fremdsprache. 

Im Projekt entsteht eine völlig neuartige Gebärdenanimations-Methode für 3-D-Avatare: Sie kombiniert solche des maschinellen Lernens mit regel-basierten Synthesemethoden, die Text in Gebärden abbilden. Zeitliche und räumliche Abhängigkeiten der komplexen Gebärdenelemente werden dabei sehr genau aufgelöst. Damit wird der 3-D-Gebärdensprach-Avatar qualitativ hochwertig und realistisch dargestellt.

Entsprechende Angebote ermöglichen gehörlosen und hörbehinderten Menschen eine umfassendere gesellschaftliche Teilhabe und eine stärkere Integration in die „Digitale Gesellschaft“. Die Ergebnisse des Projektes werden gemeinsam mit der Gehörlosen-Zielgruppe evaluiert und im Anwendungsfeld Reiseinformation und -service mit assoziierenden Partnern erprobt.

In AVASAG werden neue maschinelle Lernverfahren entwickelt, um Texte automatisch in Gebärdensprache für den 3-D-Gebärdensprach-Avatar zu übersetzen. Als Trainingsmaterial für das maschinelle Lernverfahren werden schätzungsweise mehrere 10.000 Datenpaare bestehend aus einem Text und der dazu korrespondierenden Übersetzung in Gebärdensprache benötigt. Die Aufbereitung und Kodierung dieser Daten durch den Menschen ist mit einem immensen Zeitaufwand verbunden. In AVASAG wird dieser Aufwand durch eine teils automatische Kodierung mit dem am Augsburger Lehrstuhl für Human-Centered Multimedia entwickelten „NOVA“ Werkzeug erheblich reduziert. “Wir freuen uns sehr, dass wir mit unserer Technologie in Augsburg dazu beitragen können, digitale Medien für Gebärdensprachler schneller zugänglich zu machen“, meint die Augsburger Informatikerin Prof. Elisabeth André.

Die Partner im Konsortium: im Verbund stark für gesellschaftliche Teilhabe

Unter Leitung von Charamel arbeiten Forscher und Entwicklerinnen der folgenden Unternehmen und Forschungseinrichtungen aus Deutschland in den nächsten drei Jahren zusammen: yomma GmbH – Experten für Gebärdensprache in Hamburg; Ergosign GmbH, Pionier für User Experience Design in Saarbrücken; Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI) GmbH – Forschungsbereiche “Kognitive Assistenzsysteme”, “Sprachtechnologie und Multilingualität; Technische Hochschule Köln / Institut für Medien- und Phototechnik, Köln sowie die Universität Augsburg / Human Centered Multimedia (HCM) in Augsburg.

Das Projekt wird vom Bundesministerium für Bildung und Forschung im Rahmen von „KMU-innovativ“ mit Schwerpunkt Mensch-Technik-Interaktion gefördert. Das Projektvolumen beträgt 1,98 Mio. Euro, davon 74 Prozent Förderanteil durch das BMBF.

Alexander Stricker, Geschäftsführer Charamel GmbH und Projektleiter von AVASAG dazu: „Digitale Barrierefreiheit wird immer wichtiger, um Inhalte dynamisch und für alle Zielgruppen adäquat aufbereitet zu vermitteln. Automatisierte Instrumente helfen bei einer barrierefreien Kommunikation. Wir sind begeistert von der Idee, mithilfe unserer smarten, lernfähigen Avatare hierzu einen maßgeblichen Beitrag leisten zu dürfen“.