Martin Schneider – Herausforderungen beim Einsatz von KI in sicherheitskritischen Produkten [DE]

Speaker: Martin Schneider

Language: German

Abstract:

Künstliche Intelligenz (KI) und insbesondere maschinelles Lernen (ML) haben im vergangenen Jahrzehnt einen bemerkenswerten Aufschwung durch die Verfügbarkeit von hinreichend großen Datenmengen und geeigneten Rechenkapazitäten, nicht nur in speziellen Rechenzentren, sondern auch in klassischen Computern und inzwischen sogar mobilen Endgeräten, erfahren. Dabei finden KI und ML in immer mehr Domänen ihren Weg in Produkte, und diese werden auch für sicherheitskritische Systeme entwickelt, um Innovationen wie bspw. das hoch-automatisierte Fahren zu ermöglichen. Diesem Einsatz stehen eine Reihe von Herausforderungen gegenüber, die sich aus der besonderen Funktionsweise von KI und ML ergeben, insbesondere aus der Abhängigkeit des Verhaltens einer KI-Komponenten von den verwendeten Daten. Am Fraunhofer-Institut für offene Kommunikationssysteme beschäftigen wir uns in verschiedenen Forschungsprojekten mit dem Einsatz von KI, dessen Absicherung und mit Fragestellungen, die sich für eine Zertifizierung von KI ergeben. Das fehlende oder zumindest größtenteils unvollständige Verständnis für die Entscheidungsfindung von Algorithmen des maschinellen Lernens, insbesondere Deep Learning, stellt den Einsatz in regulierten Domänen vor die Frage, unter welchen Bedingungen ein Einsatz, bspw. im Luftfahrtsektor, möglich ist, und wie eine Prüfung von KI im Rahmen einer Zertifizierung aussehen könnte. Im Vortrag möchten wir auf die Herausforderungen bei der Zulassung von KI, die sich aus der gänzlich anderen Funktionsweise, und neue Konzepte für eine Zertifizierung von KI, wie bspw. Overarching Properties, vorstellen. Zudem werden wir einen speziellen Blick auf Security von KI werfen, die sich durch die Abhängigkeit von Daten mit neuen Angriffsarten, bspw. Adversarial Samples, und Sicherheitsrisiken, bspw. für den Datenschutz, konfrontiert sehen. Die Detektion derartiger Schwachstellen sowie ihre Mitigation sind aktuelle Forschungsfragen.

 

Date

Apr 14 2021
Expired!

Time

10:00 - 11:00