KI-Absicherung

Im Rahmen des Projektes „KI Absicherung“ werden erstmalig industrieübergreifend Methoden und Maßnahmen für die Absicherung von KI-basierten Funktionen für das automatisierte Fahren entwickelt. Es wird ein initialer und standardisierungsfähiger Industriekonsens angestrebt, der eine einheitliche und breit akzeptierbare Absicherung von KI basierten Wahrnehmungsfunktionen in der Automobilindustrie etabliert.

VISION UND MISSION DES PROJEKTS KI ABSICHERUNG

1. Vision
Wir wollen erreichen, dass hochautomatisierte Fahrzeuge mit abgesicherten KI-basierten Systemen ausgestattet werden können.

2. Mission
Im Rahmen des Forschungsprojektes KI Absicherung haben wir das Ziel, beispielhaft eine stringente und nachweisbare Argumentationskette aufzubauen, mit der sich KI-basierte Funktionsmodule (KI-Module) für das hochautomatisierte Fahren prinzipiell absichern und freigeben lassen.
Am Beispiel einer KI-basierten Funktion zur Fußgängererkennung werden wir Methoden, Maßnahmen und Metriken entwickeln, die messbare Leistungs- und Sicherheitsmaße liefern, die dazu geeignet sind, die Argumentationskette zur generellen Absicherung zu stützen. In Kommunikation mit Standardisierungsgremien und Zertifizierungsstellen soll mit Hilfe der im Projekt gewonnenen Erkenntnisse ein Industriekonsens bezüglich einer KI-Teststrategie aufgebaut werden.

Wir werden eine Prozesskette mit offenen standardisierten Schnittstellen zur skalierbaren und systematischen Generierung von qualitativ hochwertigen synthetischen Daten entwickeln und damit reproduzierbare Trainings- und Testdatensätze für unsere Algorithmen erzeugen.
Am konkreten Use Case der KI-basierten Perzeption von Fußgängern wollen wir konsensfähige Vorgehensweisen zu den folgenden Schwerpunkten erarbeiten und damit zur vorwettbewerblichen Vernetzung der verschiedenen Experten beitragen:

• Entwicklung und Kombination von Methoden und Maßnahmen zur Bestimmung und Reduktion systematischer Unzulänglichkeiten der KI-Module.
• Systematischer Aufbau einer Argumentationskette und Testmethodik zum Nachweis der hinreichenden Mitigation von systematischen Unzulänglichkeiten eines KI-Moduls.
• Auswahl und Weiterentwicklung von KI-Algorithmen für die Fußgängerdetektion hinsichtlich ihrer Absicherbarkeit.
• Synthetische Erstellung von Trainings- und Testdatensätzen zur Analyse und Bewertung von systematischen Unzulänglichkeiten KI-basierter Verfahren.

In der Entwicklung dieser Methoden, Maßnahmen und Metriken arbeiten wir auf dem aktuellen Stand von Wissenschaft und Technik. Dabei bestimmen die Teilprojekte des Projekts, welche Ansätze, Verfahren und Methoden zielführend sind. Dieser Auswahlprozess wird zur kontinuierlichen Verbesserung im Projektverlauf regelmäßig wiederholt. Die zeitlichen Abstände dieser Iterationen können je nach Themenschwerpunkt variieren.

Wir arbeiten fachübergreifend eng zusammen und stellen mit fünf TP-übergreifenden Prozessen sicher, dass die Anforderungen und Potentiale aller Projektpartner zielführend ineinandergreifen. Hierbei beziehen wir soweit wie möglich und sinnvoll auch projektexterne Partner aus den Schwesterprojekten der VDA-Leitinitiative und darüber hinaus mit ein. Unser Konsortium steht dabei für eine möglichst offene und transparente Arbeitsweise und Kommunikation nach innen und nach außen.

3. Partner

Automobilhersteller:
Volkswagen AG (Konsortialführer), AUDI AG, BMW Group, Opel Automobile GmbH

Zulieferer:
Continental Automotive GmbH, Hella Aglaia Mobile Vision GmbH, Robert Bosch GmbH, Valeo Schalter und Sensoren GmbH, Visteon Electronics Germany GmbH, ZF Friedrichshafen AG

Technologieprovider:
AID Autonomous Intelligent Driving GmbH, Automotive Safety Technologies GmbH, Intel Deutschland GmbH, Mackevision Medien Design GmbH, Merantix AG, Luxoft GmbH, umlaut systems GmbH, QualityMinds GmbH

Forschungspartner:
Fraunhofer IAIS (Stellv. Konsortialführer und Wissenschaftlicher Koordinator), Bergische Universität Wuppertal, Deutsches Forschungszentrum für Künstliche Intelligenz, Deutsches Zentrum für Luft- und Raumfahrt, FZI Forschungszentrum Informatik, TU München, Universität Heidelberg

Externe Technologiepartner:
BIT Technology Solutions GmbH, neurocat GmbH, understand ai GmbH

Projektmanagement:
European Center for Information and Communication Technologies – EICT GmbH