Sicherheit beim automatisierten Fahren: Gemeinsam aus Daten zu seltenen Verkehrssituationen lernen

München, 23. Februar 2021

Autos, Busse und LKW können sich mithilfe von Künstlicher Intelligenz in Testumgebungen zunehmend eigenständig fortbewegen. Im Straßenverkehr kann das automatisierte Fahren die Verkehrssicherheit erhöhen, Staus verhindern und Schadstoffemissionen reduzieren. Während die Technologie in nahezu allen Verkehrssituationen sicher funktioniert, verbleibt in seltenen Sonderfällen ein Restrisiko, dass sich das automatisierte Fahrzeug falsch verhält. Expertinnen und Experten der Plattform Lernende Systeme empfehlen in einem neuen Whitepaper eine KI-Mobilitätsdatenplattform für industrieübergreifendes Flottenlernen, auf der die wenigen verfügbarbaren Daten zu Ausnahmesituationen zusammengetragen werden. So soll die Plattform das Training von KI-Systemen im gesamten Mobilitätssektor verbessern und zur Sicherheit des automatisierten Fahrens beitragen.

Beim automatisierten Fahren kommen KI-Systeme zum Einsatz, die mit einer repräsentativen Menge an Daten darauf trainiert werden, selbstständig im Straßenverkehr zu agieren, etwa an einer roten Ampel zu halten. Obwohl in den letzten zwanzig Jahren mehrere Milliarden Euro in die Forschung und Entwicklung von selbstlernenden KI-Systemen im Mobilitätssektor investiert wurden, sind bislang auf Deutschlands Straßen kaum automatisierte Fahrzeuge unterwegs. Ein wichtiger Grund: Mangels verfügbarer Daten können die intelligenten Fahrzeuge nicht ausreichend für ein sicheres Verhalten in unwahrscheinlichen Situationen trainiert und getestet werden. So kann es zum Beispiel passieren, dass ein automatisiertes Auto eine Ampel bei schlechtem Wetter aus einem ganz ungewöhnlichen Blickwinkel nicht erkennt.

Diese sogenannten Grenz- und Übergangsfälle (engl. Corner Cases) sind so selten, dass sie in den von Fahrzeugsensoren gesammelten Trainingsdaten aus Millionen Straßenkilometern kaum vorkommen und somit auch nicht von den KI-Systemen erlernt werden können. Deshalb schlagen die Autorinnen und Autoren des Whitepapers „Potenziale für industrieübergreifendes Flottenlernen – KI-Mobilitätsdatenplattform zur Risikominimierung des automatisierten Fahrens“ eine gemeinschaftliche Datenplattform zu Ausnahmefällen vor, auf der Fahrzeughersteller und Zulieferer ihre Mobilitätsdaten austauschen und die Beispiele von Corner Cases sammeln. „Die KI-Plattform ermöglicht Fahrzeugherstellern und Zulieferern, die Sicherheit ihrer KI-Systeme in diesen Sonderfällen zu testen und zu verbessern“, sagt Mitautor Christoph Peylo, Leiter des Bosch Center for Artificial Intelligence (BCAI) und Leiter der Arbeitsgruppe „Mobilität, intelligente Verkehrssysteme“ der Plattform Lernende Systeme.

Zulassung für sichere KI-Systeme

Als wesentliche Erfolgsbedingung für den Datenaustausch auf der Mobilitätsplattform nennen die Autorinnen und Autoren Standards und Normen. Neben standardisierten Datenformaten, Schnittstellen und Protokollen müsse der Plattformbetreiber eindeutige Richtlinien für den Zugang und die Handhabung der Daten definieren, die auch rechtliche und ethische Aspekte berücksichtigen.

„Die KI-Datenplattform bietet die Chance, das Vertrauen in das automatisierte Fahren zu stärken. Sie unterstützt das herstellerübergreifende Lernen von Fahrzeugflotten und macht die Systeme dadurch besser und sicherer. Die Plattform sollte auch für Zulassungen sicherer KI-Systeme genutzt werden. Dazu muss sie von neutraler und allseits akzeptierter Kompetenz betrieben werden“, sagt Tobias Hesse, Abteilungsleiter Kooperative Systeme am Deutschen Zentrum für Luft- und Raumfahrt und ebenfalls Leiter der Arbeitsgruppe „Mobilität, intelligente Verkehrssysteme“ der Plattform Lernende Systeme.

Die Daten zu den seltenen Sonderfällen sollten auf der KI-Plattform Akteuren entlang der gesamten Wertschöpfungskette zur Verfügung stehen, so die Empfehlung des Whitepapers. KI-Modelle könnten hochgeladen werden, und das Verhalten der KI-Systeme hinsichtlich dieser Szenarien überprüft werden. Im Anschluss könnten die Fahrzeughersteller ihre Modelle aktualisieren und wiederum in ihren Flotten verteilen. Denkbar ist auch, ein Nachtraining der KI-Systeme direkt auf der Plattform durchzuführen und zertifizierte Updates über die Plattform zu verteilen, so die Autorinnen und Autoren. Die Plattform ermögliche damit den Austausch sowohl zwischen Akteuren, die ihre Modelle testen und verbessern möchten, etwa Fahrzeughersteller, als auch zwischen Akteuren, die über Corner Case-Szenarien oder Trainingsdaten verfügen, mit denen Modelle robuster gestaltet werden können.

Die Autorinnen und Autoren des Whitepapers empfehlen eine sich finanziell selbsttragende Plattform. Um Daten auf die Plattform hochladen und Modelle testen zu können, sollten die Akteure einen geringfügigen finanziellen Beitrag leisten. Dieser käme wiederum den Akteuren zugute, die die Modelle in ihrer Robustheit verbessern.

Über das Whitepaper

Das Whitepaper „Potenziale für industrieübergreifendes Flottenlernen – KI-Mobilitätsdatenplattform zur Risikominimierung des automatisierten Fahrens“ wurde von Expertinnen und Experten der Arbeitsgruppe „Mobilität, intelligente Verkehrssysteme“ der Plattform Lernende Systeme verfasst.

Wie KI-Systeme in Zukunft Individualverkehr und Gütertransport verändern, veranschaulicht das Umfeldszenario „Intelligent vernetzt unterwegs“ der Plattform Lernende Systeme.