KI Wissen Entwicklung von Methoden für die Einbindung von Wissen in maschinelles Lernen

Motivation

KI-Modelle wurden bereits sehr erfolgreich im Bereich des autonomen und vernetzten Fahrens eingesetzt. Allerdings sind KI-Modelle zum Einen in der Regel Black-Box-Modelle, die zwar meistens die richtigen Entscheidungen treffen, hier konkret das Fahrverhalten, aber nur unzureichenden Einblick in die Entscheidungsfindung liefern. Dies ist insbesondere beim autonomen Fahren problematisch, denn eventuellen Fehlentscheidungen kann nicht hinreichend auf den Grund gegangen werden und falls es zu einem Unfall durch ein autonom fahrendes Fahrzeug kommt, kann der Öffentlichkeit keine vernünftige Erklärung dafür geliefert werden. Eine weitere Schwäche der KI-Modelle ist die Voraussetzung von sehr großen und damit zeit- und kostenaufwändig zu beschaffenden Datenmengen, da sich herausgestellt hat, dass simulierte Daten oft nur unzureichend auf reale Daten verallgemeinerbar sind. Aufgrund der Komplexität des Straßenverkehrs ist selbst durch enorme Datenmengen nicht gewährleistet, dass alle relevanten Situationen abgedeckt sind. Mit den Daten wird implizit über das Fahrverhalten der jeweiligen Agenten in den zugrunde liegenden Fahrszenarien zwar vorhandenes Wissen, beispielsweise im Sinne Verkehrsregeln oder Verhaltensnormen, bereitgestellt, jedoch werden diese Wissensquellen bisher nicht explizit in die KI-Modelle integriert.

Ziele

Das Ziel von KI Wissen ist die explizite Einbindung von Wissen aus verschiedenen Arten von Wissensquellen (beispielsweise mathematisch-physikalisches Wissen, Verkehrsregeln, Verhaltensnormen) in bestehende KI-Modelle für autonomes und vernetztes Fahren, um die funktionale Güte der Modelle durch die Integration vorhandenen Wissens zu steigern und gleichzeitig eine Plausibilisierung und Absicherung der KI-Vorhersagen und -Entscheidungen zu ermöglichen. Ferner soll eine Steigerung der Dateneffizienz erreicht werden, sodass synthetische Daten effektiver genutzt werden können und die Anzahl an benötigten realen Daten verringert wird. Ein weiteres Ziel ist neben der Einspeisung von Wissen in die KI auch die Extraktion von bisher unbekanntem Wissen.

Technologien

OFFIS wird sich der Frage widmen, wie sich bereits formalisiertes Wissen in den Trainingsprozess der KI bzw. in die KI-Komponenten integrieren lässt und sich darüber hinaus mit der Identifikation sowie der Formalisierung von relevantem, mathematisch-physikalischem Wissen beschäftigen. OFFIS ist ebenso daran beteiligt, KI-Vorhersagen auf funktionaler Ebene zu plausibilisieren, d.h., mit Hilfe der Wissensquellen zu begründen, warum die entsprechenden Vorhersagen zustande kamen, sowie unzulässige Generalisierungen zu detektieren. Ferner ist OFFIS an der Identifikation und Verbesserung von Gütekriterien für die Bewertung von Fahrszenarien, beispielsweise der Bemessung der Kritikalität, sowie der simulativen Erzeugung kritischer Szenarien beteiligt.

Personen

Projektleitung Intern

Projektleitung Extern

Dr. Jörg Dietrich, Continental

Wissenschaftliche Leitung

Partner
Altran Deutschland S.A.S. & Co. KG
www.altran.com/de/de/
AVL Software and Functions GmbH
www.avl-functions.de
BTC Embedded Systems AG
www.btc-es.de
Bundesanstalt für Straßenwesen
www.bast.de
Continental Automotive GmbH
www.conti-online.com
Deutsches Forschungszentrum für Künstliche Intelligenz GmbH
www.dfki.de
Deutsches Zentrum für Luft- und Raumfahrt e.V.
www.dlr.de
Elektronische Fahrwerksysteme GmbH
www.efs-auto.com
Fortiss GmbH
www.fortiss.org
Fraunhofer Gesellschaft zur Förderung der Angewandten Forschung e.V.
www.fraunhofer.de
FZI Forschungszentrum Informatik
www.fzi.de
Robert Bosch GmbH
www.bosch.de
Universität des Saarlandes
www.uni-saarland.de
Valeo Schalter und Sensoren GmbH
www.valeo.de
KI Wissen

Laufzeit

Start: 01.01.2021
Ende: 31.12.2023

Website des Projekts

Fördermittelgeber

Verwandte Projekte

KI-Delta Learning

Erweiterung und Anpassung bestehender KI-Module autonomer Fahrzeuge