Forschungsprojekt: sichere KI für mobile und eingebettete Systeme

FORSCHUNG & ENTWICKLUNG

Wie lassen sich Angriffe auf KI-Systeme im mobilen und eingebetteten Kontext erschweren oder komplett verhindern? Das soll im BMWi-geförderten Projekt Sensible-KI erforscht werden.



Im Projekt Sensible-KI erforschen Partner aus Wirtschaft und Forschung unter der Leitung des Fraunhofer-Instituts für Angewandte und Integrierte Sicherheit AISEC Lösungen, um Systeme der Künstlichen Intelligenz (KI) in mobilen Anwendungen und eingebetteten Systemen sicher und vertrauenswürdig zu gestalten. Bisher stehen noch keine einheitlichen Herangehensweisen zur Absicherung der KI-Systeme in mobilen und eingebetteten Systemen zur Verfügung, was zu Sicherheitslücken führen kann.


Das Projekt ...

läuft seit 1. März 2021 und wird Bundesministerium für Wirtschaft und Energie BMWi gefördert. Es geht um Methoden zum Schutz von KI-Systemen und der von ihnen verarbeiteten Daten bei gleichzeitiger sicherer Übertragung der KI-Modelle auf mobile Endgeräte. Dafür werden Lösungen entwickelt, die Angriffe auf KI-Systeme im mobilen und eingebetteten Kontext erschweren oder verhindern.

Konkret kommen Hardware-basierte Trusted-Computing-Verfahren sowie Software-basierte Mechanismen zum Einsatz, die einerseits die Authentizität und Integrität, andererseits aber auch die Vertraulichkeit und Nachprüfbarkeit der Machine-Learning-(ML)-Modelle sicherstellen.

Das Fraunhofer-Institut für Angewandte und Integrierte Sicherheit AISEC verfügt als Projektleitung über Expertise in den Bereichen Künstliche Intelligenz, eingebettete Systeme und Hardware-basierte Kryptografie.


Zu den weiteren Partnern des Projekts ...

zählen die Bundesdruckerei, die Hochschule Darmstadt, sowie neXenio. Die Bundesdruckerei und neXenio unterstützen das Projekt mit ihrem großen Erfahrungsschatz im Bereich digitaler Identitäten und biometrischer Zugangssysteme. Die Hochschule Darmstadt kann wissenschaftliche Erkenntnisse in den Bereichen Biometrie und Maschinelles Lernen in das Projekt einbringen.

Das Projekt greift nicht nur auf das Expertenwissen aus der Cybersicherheitsforschung und der Industrie zurück, sondern setzt auch auf eine Entwickler-Community aus verschiedenen Branchen und Domänen.

Das Projekt wird vom Bundesministerium für Wirtschaft und Energie gefördert. Das Gesamtprojektvolumen beträgt ca. 850.000 Euro über 3 Jahre.
 

Fachartikel

Präzisions-Designs mit differenzieller Verstärker-Ansteuerung
Probleme und Lösungsansätze für IEEE 1588 Implementierungen
Kabellose Energieübertragung: Spulen als zentrale Bauelemente