Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
DESIGNING AN AUTOMATIC DRIVING CONTROL SYSTEM IN MASSIVELY PARALLEL SIMULATIONS
Document Type and Number:
WIPO Patent Application WO/2023/247092
Kind Code:
A1
Abstract:
The invention relates to a method for designing and validating an automatic driving control system. The steps are: providing (S0) data from road users observed in reality, with their trajectories, preparing (S1) the data and modelling the real road users as traffic agents, creating (S2) a hybrid simulation environment with the addition of synthetic data of virtual road users as the initial database, carrying out (S3) simulations in multiple parallelisation of the simulations with the involvement of the automatic driving system using simulation data instead of sensor data, wherein variations of the initial database are carried out in the simulation, generating (S4) a training data record and a validation data record from the varied initial database, and carrying out (S5) a process of adjusting parameters of a driving control function, and, on completion of all processes of adjusting the driving control function: executing (S6) a validation of the automatic driving control system on the basis of the validation data record, wherein at least one algorithm of the driving control function of the automatic driving control system is validated.

Inventors:
WEBER NICO (DE)
THIEM CHRISTOPH (DE)
EBERLE ULRICH (DE)
Application Number:
PCT/EP2023/060623
Publication Date:
December 28, 2023
Filing Date:
April 24, 2023
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
STELLANTIS AUTO SAS (FR)
International Classes:
G08G1/01; G06F30/15; G06F30/27; G06N3/092; G08G1/16
Domestic Patent References:
WO2021204983A12021-10-14
Foreign References:
US20210294944A12021-09-23
Other References:
BARBIER MATHIEU ET AL: "Classification of drivers manoeuvre for road intersection crossing with synthethic and real data", 2017 IEEE INTELLIGENT VEHICLES SYMPOSIUM (IV), IEEE, 11 June 2017 (2017-06-11), pages 224 - 230, XP033133712, DOI: 10.1109/IVS.2017.7995724
NICO WEBER ET AL: "A Needle in a Haystack -- How to Derive Relevant Scenarios for Testing Automated Driving Systems in Urban Areas", ARXIV.ORG, CORNELL UNIVERSITY LIBRARY, 201 OLIN LIBRARY CORNELL UNIVERSITY ITHACA, NY 14853, 8 September 2021 (2021-09-08), XP091052412
JASON BROWNLEE: "What is the Difference Between Test and Validation Datasets? - MachineLearningMastery.com", MACHINELEARNINGMASTERY.COM, 14 July 2017 (2017-07-14), pages 1 - 84, XP093063905, Retrieved from the Internet [retrieved on 20230713]
W. WACHENFELDH. WINNER: "Autonomous Driving: Technical, Legal and Social Aspects", 2016, SPRINGER, article "The release of autonomous vehicles", pages: 425 - 449
Attorney, Agent or Firm:
SPITZFADEN, Ralf (DE)
Download PDF:
Claims:
Patentansprüche

1. Verfahren zum Auslegen und Validieren eines automatischen Fahrsteuersystems eines Fahrzeugs, aufweisend die Schritte:

- Bereitstellen (SO) von Daten von in der Realität beobachteten Verkehrsteilnehmern unter Zuordnung zum vorherrschenden Szenario einschließlich der von den Verkehrsteilnehmern ausgeführten Trajektorien,

- Aufbereiten (S1) der Daten der realen Verkehrsteilnehmer zur Sicherstellung der Vollständigkeit der Daten, und Modellierung der realen Verkehrsteilnehmer als Verkehrsagenten,

- Erstellen (S2) einer hybriden Simulationsumgebung auf Basis der aufbereiteten Daten und der modellierten Verkehrsagenten unter Hinzufügung von synthetischen Daten virtueller Verkehrsteilnehmer als Ausgangsdatenbasis,

- Durchführung (S3) von Langzeit-Simulationen mit der hybriden Simulationsumgebung mit der Ausgangsdatenbasis in vielfacher Parallelisierung der Simulationen und mit einem zeitlichen Skalenfaktor größer als Eins zur Echtzeit unter Einbindung des automatischen Fahrsteuersystems mit Simulationsdaten anstelle von Sensordaten, wobei in den Simulationen Variationen der Ausgangsdatenbasis durchgeführt werden und die Reaktion des automatischen Fahrsteuersystems auf die hybride Simulationsumgebung ermittelt wird,

- Erzeugung (S4) eines Trainingsdatensatzes und eines Validierungsdatensatzes aus der variierten Ausgangsdatenbasis abhängig von Simulationsergebnissen zu kritischen und sicherheitsrelevanten Situationen,

- Durchführen (S5) eines Anpassungsvorgangs von Parametern einer Fahrsteuerungsfunktion des automatischen Fahrsteuersystems auf Basis des Trainingsdatensatzes, und nach Abschluss aller Anpassungsvorgänge der Fahrsteuerungsfunktion:

- Ausführen (S6) einer Validierung des automatischen Fahrsteuersystems auf Basis des Validierungsdatensatzes, wobei zumindest ein Algorithmus der Fahrsteuerungsfunktion des automatischen Fahrsteuersystems validiert wird.

2. Verfahren nach Anspruch 1 , wobei die synthetischen Daten der virtuellen Verkehrsteilnehmer teils durch Modifikation der Daten der realen Verkehrsteilnehmer erzeugt werden und teils durch vollständig synthetische Generierung erzeugt werden ohne Bezug zu den realen Verkehrsteilnehmern.

3. Verfahren nach einem der vorhergehenden Ansprüche, wobei die Variationen der Ausgangsdatenbasis ein variierendes Verhältnis zwischen modellierten menschlichen Verkehrsagenten zu virtuellen Verkehrsteilnehmern umfassen.

4. Verfahren nach einem der vorhergehenden Ansprüche, wobei in der Ausgangsdatenbasis die Zahl der virtuellen Verkehrsteilnehmer größer ist als die Zahl der verwendeten realen Verkehrsteilnehmer.

5. Verfahren nach einem der vorhergehenden Ansprüche, wobei im Trainingsdatensatz der Anteil der virtuellen Verkehrsteilnehmer größer ist als im Validierungsdatensatz.

6. Verfahren nach einem der vorhergehenden Ansprüche, wobei in den durchgeführten Simulationen strategische, taktische und operative Simulationselemente für das Fahrzeug ausgeführt werden.

7. Verfahren nach einem der vorhergehenden Ansprüche, wobei zum Durchführen des Anpassungsvorgangs von Parametern einer Fahrsteuerungsfunktion des automatischen Fahrsteuersystems eine Sensititvitätsanalyse über die Wirkung von Variationen der Ausgangsdatenbasis auf die jeweilige Reaktion des automatischen Fahrsteuersystems ermittelt wird und das Ergebnis der Sensititvitätsanalyse für einen zielgerichteten Anpassungsvorgang von Parametern einer Fahrsteuerungsfunktion des automatischen Fahrsteuersystems verwendet wird.

8. Verfahren nach einem der vorhergehenden Ansprüche, wobei bei der Validierung des automatischen Fahrsteuersystems eine Sensoreinheit des automatischen Fahrsteuersystems validiert wird, indem eine erneute Simulation durchgeführt wird und Ausgangsdaten der Simulation Eingangsdaten für die Sensoreinheit bilden.

9. Verfahren nach Anspruch 8, wobei in der Simulation optische Materialeigenschaften und/oder Reflexionen der Umgebung des Fahrzeugs simuliert werden.

10. Verfahren nach einem der vorhergehenden Ansprüche, wobei die Variationen der Ausgangsdatenbasis durch Aufprägung geänderter Wahrscheinlichkeitsverteilungen von Verkehrsagenten erfolgt.

Description:
AUSLEGEN EINES AUTOMATISCHEN FAHRSTEUERSYSTEMS IN MASSIV

PARALLELEN SIMULATIONEN

Die Erfindung betrifft ein Verfahren zum Auslegen und Validieren eines automatischen Fahrsteuersystems eines Fahrzeugs.

Automatisierte Fahrsteuerfunktionen können einerseits im Sinne eines Fahrerassistenzsystems einen menschlichen Fahrer eines Fahrzeugs unterstützen, in Zukunft werden sie jedoch erheblich an Bedeutung für hoch automatisierte und autonome Fahrzeuge gewinnen. Solche automatisierten Fahrsteuerfunktionen greifen je nach Autoritätsgrad minder oder mehr in die Fahrsteuerung eines Fahrzeugs ein und übernehmen die Fahrzeugführung insbesondere bei vollautomatisierten Fahrzeugen vollständig. Dies führt zu anspruchsvollen sicherheitstechnischen Anforderungen, da am Straßenverkehr teilnehmende Fahrzeuge ein grundsätzliches Risiko für andere Verkehrsteilnehmer bei Fehlverhalten darstellen. Fahrsteuerfunktionen erhalten hierbei von entsprechenden Sensoreinheiten Daten, um mit Perzeptionsverfahren die Umwelt, insbesondere andere Verkehrsteilnehmer und Objekte in der Umgebung einschließlich von Verkehrszeichen zu erfassen. Da dadurch hochkomplexe Softwarekomponenten zum Ausführen der automatisierten Fahrsteuerfunktionen notwendig sind, um die Fahrzeugführung zu übernehmen sowie entsprechende Entscheidungen im Straßenverkehr zu treffen, gestaltet sich der Nachweis der geforderten Sicherheit entsprechend schwierig und umfangreich. Um ausreichend viele reale Szenarien zur Entwicklung und abschließenden Validierung von automatisierten Fahrsteuersystemen in der Praxis zu testen, wären jedoch unvertretbar viele gefahrene Kilometer und entsprechend viele Fahrstunden eines mit einem automatisierten Fahrsteuersystems ausgerüsteten Fahrzeugs notwendig. Das Zurücklegen von beispielsweise Milliarden von Kilometern und die entsprechend zeitverzögerte Auswertung der dort erfahrenen Szenarien ist für Entwicklung und Validierung eines automatischen Fahrsteuersystems unverhältnismäßig lang und kann in der Praxis nicht durchgeführt werden. Ein rein streckenbasierter, statistischer Nachweis der Sicherheit der Fahrfunktion vor Markteinführung eines solchen Fahrzeugs ist daher technisch nicht umsetzbar. Dies wird auch in der folgenden Publikation erläutert: "W. Wachenfeld and H. Winner, “The release of autonomous vehicles,” in Autonomous Driving: Technical, Legal and Social Aspects, M. Maurer, J. C. Gerdes, B. Lenz, and H. Winner, Eds. Springer, 2016, pp. 425-449". Auch für die zukünftige Homologation z. B. nach NCAP wird eine immer aufwändigere Testprozedur vorgeschrieben, die nur mit Hilfe von realitätsnahen Simulationsumgebungen erfolgreich durchgeführt werden kann. Zudem ist es vor dem Hintergrund der Gefährdung dritter Personen nicht möglich, potenziell kritische Szenarien im Realverkehr zu testen. Gerade jedoch potenziell kritische Szenarien liefern diejenigen Daten, mit denen die Entwicklung eines automatischen Fahrsteuersystemen eines Fahrzeugs erfolgen muss, da gerade diese zu Unfällen führen. Auch für die Validierung eines fertig entwickelten automatischen Fahrsteuersystems sind diese kritischen Szenarien wichtig. In der Entwicklung und Validierung von automatischen Fahrsteuersystemen werden daher besonders die für die automatisierte Fahrsteuerfunktion kritischen Betriebsbereiche, wie z.B. beim Auftreffen auf ein Stauende oder in hochfrequentierten urbanen Verkehrsräumen, simulationsbasierte Methoden genutzt und geprüft. Durch z.B. szenarienbasiertes Entwickeln und Testen kann so schon durch Nutzung des digitalen Zwillings des automatisierten Fahrzeugs während früher Entwicklungsphasen eingeschätzt werden, wie sicher das spätere reale Fahrzeug im Einsatz in der offenen Welt (unter Umständen innerhalb eines beschränkten Betriebsbereichs) agieren wird.

Das simulationsbasierte Entwickeln und Testen automatisierter Fahrzeuge mit einem automatischen Fahrsteuersystem, insbesondere die Validierung einer Fahrsteuerungsfunktion eines automatischen Fahrsteuersystems für den automatischen Betrieb eines Fahrzeugs, ist jedoch nur mit Hilfe von Simulation möglich, wenn jeweilige Simulationsmodule nachweislich realitätsnahe Ergebnisse erzeugen. Dies betrifft unter anderem auch die Modellierung der Verkehrsdynamik, das heißt die Simulation des Verhaltens anderer Verkehrsteilnehmer. Eine realistische Abbildung der Umgebungsdynamik ist daher eine Schlüsselkomponente zum Auffinden potentiell kritischer Szenarien für ein automatisiertes Fahrzeug.

Für den zuverlässigen Einsatz dieser simulationsbasierten Methoden ist es eine notwendige Voraussetzung, alle für das jeweilige Szenario relevanten Entitäten hinreichend valide zu modellieren. Im Kontext der simulationsbasierten Absicherung automatisierter Fahrfunktionen wird die realistische Abbildung des Gesamtsystems, bestehend aus digitalem Zwilling und Umwelt, fortwährend wichtiger, da das automatisierte Fahrzeug in einem definierten Betriebsbereich die Verantwortung für die gesamte Fahraufgabe übernimmt. Dabei ist die valide Abbildung aller relevanten Eingangsgrößen für die Umfelderfassung des Ego-Fahrzeugs (System-under-Test) essenziell, wobei die Repräsentation einer realitätsnahen Verkehrsdynamik (Position, Verhalten und daraus resultierende Bewegung der umgebenden Verkehrsteilnehmer) eine herausragende Bedeutung für beispielsweise die Entscheidungsfindung des Ego-Fahrzeugs einnimmt. Im Stand der Technik ist es bekannt, neuronale Netze zu trainieren, um durch bekannte Zusammenhänge von Eingangswerten und Ausgangswerten im späteren Betrieb eines solchen künstlichen neuronalen Netzes auf Basis von Sensordaten aktuell gültige Ausgangswerte zu erzeugen. Neuronale Netze werden häufig dazu eingesetzt, um eine Steuereinrichtung eines technischen Systems zu betreiben.

Die WO 2021/204983 A1 betrifft hierzu ein Verfahren zum Konfigurieren einer Steuereinrichtung für ein technisches System, wobei a) ein Simulationsmodul bereitgestellt wird zum physikalischen Simulieren des technischen Systems anhand von als Simulationseingabedaten eingespeisten physikalischen Größen des technischen Systems, b) eine zeitliche Abfolge von Steuersignalen und eine zeitliche Abfolge von gemessenen Zustandsdaten des technischen Systems erfasst werden, c) die zeitliche Abfolge der Steuersignale in ein neuronales Netz eingespeist wird, d) Ausgabedaten des neuronalen Netzes in das Simulationsmodul als Simulationseingabedaten eingespeist werden, e) durch das Simulationsmodul eine physikalische Simulation anhand der Ausgabedaten des neuronalen Netzes durchgeführt wird und dabei simulierte Zustandsdaten des technischen Systems ermittelt werden, f) das neuronale Netz darauf trainiert wird, einen Abstand zwischen den gemessenen Zustandsdaten und den simulierten Zustandsdaten zu verringern, g) durch das derart trainierte neuronale Netz und das Simulationsmodul ein hybrider Simulator zum Simulieren des technischen Systems anhand von Steuersignalen des technischen Systems gebildet wird, h) eine Vielzahl von unterschiedlichen weiteren Steuersignalen generiert wird, i) die weiteren Steuersignale in den hybriden Simulator und in ein weiteres neuronales Netz eingespeist werden, j) mittels des hybriden Simulators daraus jeweils in Form von simulierten Zustandsdaten zugehörige simulierte Reaktionen des technischen Systems und von dem weiteren neuronalen Netz weitere Ausgabedaten ermittelt werden, k) das weitere neuronale Netz darauf trainiert wird, einen Abstand zwischen den von dem hybriden Simulator ermittelten simulierten Zustandsdaten und den weiteren Ausgabedaten zu verringern, I) die Steuereinrichtung dadurch konfiguriert wird, dass sie das derart trainierte weitere neuronale Netz umfasst.

Aufgabe der Erfindung ist es, das Auslegen und Validieren eines automatischen Fahrsteuersystems eines Fahrzeugs zu verbessern.

Die Erfindung ergibt sich aus den Merkmalen der unabhängigen Ansprüche. Vorteilhafte Weiterbildungen und Ausgestaltungen sind Gegenstand der abhängigen Ansprüche.

Ein erster Aspekt der Erfindung betrifft ein Verfahren zum Auslegen und Validieren eines automatischen Fahrsteuersystems eines Fahrzeugs, aufweisend die Schritte:

- Bereitstellen von Daten von in der Realität beobachteten Verkehrsteilnehmern unter Zuordnung zum vorherrschenden Szenario einschließlich der von den Verkehrsteilnehmern ausgeführten Trajektorien,

- Aufbereiten der Daten der realen Verkehrsteilnehmer zur Sicherstellung der Vollständigkeit der Daten, und Modellierung der realen Verkehrsteilnehmer als Verkehrsagenten,

- Erstellen einer hybriden Simulationsumgebung auf Basis der aufbereiteten Daten und der modellierten Verkehrsagenten unter Hinzufügung von synthetischen Daten virtueller Verkehrsteilnehmer als Ausgangsdatenbasis,

- Durchführung von Langzeit-Simulationen mit der hybriden Simulationsumgebung mit der Ausgangsdatenbasis in vielfacher Parallelisierung der Simulationen und mit einem zeitlichen Skalenfaktor größer als Eins zur Echtzeit unter Einbindung des automatischen Fahrsteuersystems mit Simulationsdaten anstelle von Sensordaten, wobei in den Simulationen Variationen der Ausgangsdatenbasis durchgeführt werden und die Reaktion des automatischen Fahrsteuersystems auf die hybride Simulationsumgebung ermittelt wird,

- Erzeugung eines Trainingsdatensatzes und eines Validierungsdatensatzes aus der variierten Ausgangsdatenbasis abhängig von Simulationsergebnissen zu kritischen und sicherheitsrelevanten Situationen, und

- Durchführen eines Anpassungsvorgangs von Parametern einer Fahrsteuerungsfunktion des automatischen Fahrsteuersystems auf Basis des Trainingsdatensatzes, und nach Abschluss aller Anpassungsvorgänge der Fahrsteuerungsfunktion:

- Ausführen einer Validierung des automatischen Fahrsteuersystems auf Basis des Validierungsdatensatzes, wobei zumindest ein Algorithmus der Fahrsteuerungsfunktion des automatischen Fahrsteuersystems validiert wird.

Die Daten der in der Realität beobachteten Verkehrsteilnehmer können einerseits mit stationären Sensoren insbesondere in besonders interessanten Bereichen wie städtische Kreuzungen erfasst werden, können andererseits aber auch aus der vorteilhaften Vogelperspektive beispielsweise mit einem Ballon, von einem Quadrocopter oder einem kleins- kaligen Flächenflugzeug oder einem anderen unbemannten Flugzeug erfasst werden. Somit sind reale Verhalten von realen Verkehrsteilnehmern bekannt und können einen realitätsnahen Ansatz für die Ausgangsdatenbasis für die Simulationen bilden. Das jeweilige zugehörige Szenario wird entsprechend miterfasst, beispielsweise um neben den realen Verkehrsteilnehmern auch das Hintergrundszenario wie Daten der Kreuzung für die Simulationen bereitzustellen. Dieses Szenario wird vorteilhaft in der jeweiligen Simulation mitabgebildet, um eine möglichst realitätsgetreue Simulation zu erzeugen. Zu dem jeweiligen zugehörigen Szenario können auch Wetterdaten gehören, beispielsweise die vorherrschende Lichtstärke, Windstärke, Niederschläge, Nebel, etc.; die Trajektorien der realen beobachtenden Verkehrsteilnehmer umfassen hierbei eine Bahnkurve sowie zugehörige Zeitinformationen, sodass die zeitlich relative Bewegung der Verkehrsteilnehmer untereinander in den Agentenmodellen der Simulationen abgespielt werden kann.

Das Aufbereiten der Daten der realen Verkehrsteilnehmer zur Sicherstellung der Vollständigkeit der Daten gewährleistet, dass die Gesamtheit der für das automatisierte Fahrzeug relevanten Verkehrsdynamik innerhalb der ermittelten Verkehrsabschnitte beobachtbar ist. Mit Vorhandensein der Realdaten-Basis der relevanten Verkehrsdynamik realer Verkehrsteilnehmer kann im Anschluss die Kalibrierung und Validierung der Simulationsumgebung erfolgen, die in der Lage ist, die Dynamik aller relevanten Verkehrsteilnehmer für den entsprechenden Verkehrsraum hinreichend valide zu modellieren und simulieren. Anschließend erfolgt eine Modellierung der realen Verkehrsteilnehmer als Verkehrsagenten, sodass das real beobachtete Verhalten der realen Verkehrsteilnehmer in der jeweiligen Simulation abgebildet werden kann und die jeweilige Simulation dynamische Szenarien abbilden kann. Die kalibrierte sowie validierte Simulationsumgebung ist Grundlage für den anschließenden Prozessschritt der massiv parallelen Langzeit-Simulation, in der die modellierten Verkehrsagenten unter Hinzufügung von synthetischen Daten virtueller Verkehrsteilnehmer als Ausgangsdatenbasis verwendet werden.

Auf Basis der validierten Simulationsumgebung folgt die Durchführung von Langzeit-Simulationen mit der Ausgangsdatenbasis in vielfacher Parallelisierung der Simulationen und mit einem zeitlichen Skalenfaktor größer als Eins zur Echtzeit unter Einbindung des automatischen Fahrsteuersystems mit Simulationsdaten anstelle von Sensordaten. Dass ein zeitlicher Skalenfaktor größer als Eins zur Echtzeit vorliegt bedeutet, dass die Simulationen erheblich schneller als die reale Zeit ausgeführt werden und somit gewaltige Datenmengen von sehr langen simulierten Fahrzeiten in relativ kurzer Zeit in Simulationen verarbeitet werden können - daher der Ausdruck „Langzeit-Simulation“. Dazu trägt auch die vielfache Parallelisierung bei, d.h., dass mehrere Simulationen zeitlich parallel ausgeführt werden. Bevorzugt wird mit jeder einzelnen der Simulationen eine jeweilige Variation der Ausgangsdatenbasis oder einem jeweiligen Satz von Variationen ausgeführt. Es können aber auch in zeitlicher Abfolge mehrere Variationen je Simulation ausgeführt werden. Die vielfache Parallelisierung zusammen mit der Komprimierung der Realzeit in einen deutlich schnelleren Ablauf ermöglicht eine massiv parallele Langzeit-Simulation, sodass vorteilhaft Szenarien von Verkehrsteilnehmern simuliert werden können und damit das automatische Fahrsteuersystemen ausgelegt und validiert werden kann, deren Zahl in der Realität anhand von praktisch vorliegenden Szenarien realistisch gesehen nicht mehr getestet werden könnte. Die entsprechende Skalierung in den Simulationsabläufen erlaubt jedoch eine signifikant hohe Zahl von Szenarien, realen und virtuellen Verkehrsteilnehmern und Variationen der Umgebungsvariablen auszunutzen, um das automatische Fahrsteuersystemen auszulegen und zu validieren, wobei insbesondere kritische und sicherheitsrelevante Szenarien und Verhalten von anderen Verkehrsteilnehmern somit geprüft werden können. Diese massiv parallele Langzeit-Simulation wird hierfür beispielsweise auf einer Cloud-Plattform durchgeführt. Dieser Schritt bietet die Möglichkeit, die vorhandene Datenbasis signifikant hinsichtlich Umfang, Komplexität und zukünftigen Mischverkehrsszenarien zu erweitern. Hierbei können beispielsweise gezielt Wahrscheinlichkeitsverteilungen relevanter Einflussparameter der Verkehrsdynamik variiert werden. Beispielhaft seien für die Einflussparameter an dieser Stelle die akzeptierte Zeitlücke einzelner Verkehrsteilnehmer arten) (aggressives/defensives Verhalten) oder die Reaktionszeit (menschliche Limitierungen) genannt. Des Weiteren kann innerhalb der Langzeit-Simulation durch Einsatz von Agenten-Modellen für automatisierte Fahrzeuge ein im aktuellen Straßenverkehr nicht beobachtbarer, zukünftiger Mischverkehrs-Zustand (in dem sich automatisierte Verkehrsteilnehmer und menschliche Verkehrsteilnehmer im Straßenverkehr begegnen) simuliert werden. Die Summe der exemplarisch genannten Einflussparameter sowie weitere Meta- Parameter wie der Parallelisierungsfaktor der Simulationen und die Simulationsdauer / zu simulierende Strecke bilden die Hyperparameter der Langzeit-Simulation. Mit dieser Vorgehensweise können gezielt ausreichend große Mengen synthetischer Daten hinsichtlich der für die Fahrfunktion relevanten Verkehrsdynamik erzeugt werden, beispielsweise durch Erzeugung eines im Vergleich zur Realität höheren und aggressiveren Verkehrsaufkommens.

Hierauf folgt die Erzeugung eines Trainingsdatensatzes und eines Validierungsdatensatzes aus der variierten Ausgangsdatenbasis abhängig von Simulationsergebnissen zu kritischen und sicherheitsrelevanten Situationen. Sowohl der Trainingsdatensatz als auch der Validierungsdatensatz bestehen vorteilhaft sowohl aus den beobachteten Daten realer Verkehrsteilnehmer sowie den synthetischen Daten virtueller Verkehrsteilnehmer. Innerhalb dieses Prozessschritts werden die reale und die synthetische Datenbasis zu einer gemeinsamen Datenbasis kombiniert, wobei der Anteil synthetischer Daten den Anteil realer Daten in der Regel erheblich übersteigt.

Unter Nutzung des Trainingsdatensatzes kann das automatische Fahrsteuersystem eine sichere Reaktion innerhalb enormer Mengen realistischer Verkehrssituationen erlernen, in denen das automatisierte Fahrzeug während des zukünftigen Betriebs erwartungsgemäß agieren wird. Hierbei können beispielsweise End-to-End Trainingsstrategien für Situationsverständnis, Entscheidungsfindung, Regelung und Aktorik des automatisierten Fahrsteuersystems aus dem Bereich des überwachten maschinellen Lernens vorteilhaft umgesetzt werden.

Im weiteren Prozessschritt wird der Validierungsdatensatz genutzt, um zu überprüfen, ob das automatische Fahrsteuersystem über eine sehr große Menge realistischer Szenarien hinweg sicher agiert. Hierbei definiert der erzeugte Validierungsdatensatz die gesamte, für das automatisierte Fahrzeug relevante, umgebende Verkehrsdynamik. Auch wenn sich diese Methodik besonders für die Validierung eines Algorithmus der Fahrsteuerungsfunktion des automatischen Fahrsteuersystems und damit für die Absicherung von Situationsverständnis, Entscheidungsfindung, Regelung und Aktorik des automatischen Fahrsteuersystems eignet, ist eine Nutzung der Datenbasis zur Unterstützung der Absicherung der Umfelderfassung / Perzeption des automatisierten Fahrzeugs ebenfalls möglich. Dies kann beispielsweise durch Kombination des Validierungsdatensatzes mit einem realistischen Visualisierungs- Simulator erfolgen. Hierbei wird die Modellierung von beispielsweise Materialeigenschaften und Reflexionen der relevanten statischen und dynamischen Objekte in der Umgebung der automatisierten Fahrfunktion vom Visualisierungs-Simulator übernommen, während die variierte Ausgangsdatenbasis die relevante Verkehrsdynamik (Art und Weise der Bewegung der dynamischen Objekte) im entsprechenden Szenario definiert.

Nach diesem Prozessschritt wird bevorzugt abschließend geprüft, ob die zuvor definierten Validitätskriterien erfüllt sind und das automatische Fahrsteuersystem für die entsprechenden Verkehrsbereiche als validiert gilt. Sollte dies nicht der Fall sein, müssen entweder die Hyperparameter der Simulation angepasst werden oder zusätzliche Realweltbeobachtungen erfolgen. Im Anschluss können die für den jeweiligen Fall nachfolgenden Prozessschritte wiederholt werden.

Es ist eine vorteilhafte Wirkung der Erfindung, dass die Validität von Realdaten mit der Flexibilität, Effizienz und Sicherheit einer Simulation verbunden wird. Dadurch wird es möglich, ein automatisches Fahrsteuersystem mit einem im Vergleich zum rein realdatenbasierten Ansatz um mehrere Größenordnungen gesteigerten Datenumfang zu trainieren und zu validieren. Dies erlaubt weitere Möglichkeiten der Auslegung und der Validierung, wie beispielsweise das weiter unten genannte Mischverkehrszenario aus menschlichen Verkehrsteilnehmern und automatisierten Verkehrsteilnehmern näher zu untersuchen. Bei Beibehaltung einer hinreichenden Validität des gesamten Datenaufkommens bildet ein rein realdatenbasierter Testansatz nämlich nicht die Möglichkeit, solche zukünftig zu erwartenden Mischverkehrsszenarien zu untersuchen, in denen das betrachtete Fahrzeug während seines Betriebs bei unterschiedlichen Durchdringungsgraden automatisierter Fahrzeuge unter menschlichen Verkehrsteilnehmern sicher agieren können muss. Die sinnvolle Kombination aus Realweltbeobachtung und synthetischer Datengenerierung führt zu großen Effizienz- und Effektivitätssteigerungen beim Entwickeln und Testen automatisierter Fahrfunktionen. Die Aufzeichnung von Trajektoriendaten realer Verkehrsteilnehmer bietet zudem eine effektive und effiziente Möglichkeit im Vergleich zu Realfahrten mit einem Prototypen - die Information über die an einem Szenario beteiligten Trajekto- rien verschiedener Verkehrsteilnehmer ist für die Auslegung und Validierung verschiedener Module einer Fahrfunktion häufig hinreichend. Eine kalibrierte und validierte Verkehrsflusssimulation bietet ferner die Möglichkeit, die Realdaten-Basis hinsichtlich Umfang, Komplexität und zukünftigen Mischverkehrs-Szenarien enorm zu erweitern. Es können sehr komplexe / kritische Verkehrszustände sicher dargestellt werden, sowie (noch) nicht beobachtbare Zustände dargestellt werden, um das automatischen Fahrsteuersystem zu testen.

Gemäß einer vorteilhaften Ausführungsform werden die synthetischen Daten der virtuellen Verkehrsteilnehmer durch Modifikation der Daten der realen Verkehrsteilnehmer erzeugt.

Gemäß einer weiteren vorteilhaften Ausführungsform werden die synthetischen Daten virtueller Verkehrsteilnehmer durch vollständig synthetische Generierung erzeugt ohne Bezug zu den realen Verkehrsteilnehmern.

Gemäß einer weiteren vorteilhaften Ausführungsform werden die synthetischen Daten der virtuellen Verkehrsteilnehmer teils durch Modifikation der Daten der realen Verkehrsteilnehmer und teils durch vollständig synthetische Generierung ohne Bezug zu den realen Verkehrsteilnehmern erzeugt.

Gemäß einer weiteren vorteilhaften Ausführungsform umfassen die Variationen der Ausgangsdatenbasis ein variierendes Verhältnis zwischen modellierten menschlichen Verkehrsagenten zu virtuellen Verkehrsteilnehmern.

Das Verhältnis zwischen den virtuellen Verkehrsteilnehmern und den modellierten menschlichen Verkehrsagenten zu variieren erlaubt eine Sensitivitätsanalyse bezüglich des Durchdringungsgrads automatisierter Verkehrsteilnehmer, insbesondere automatisierter Fahrzeuge. Die freie Variation dieses Verhältnis ist in einer physisch realen Situation nicht möglich. Vorteilhaft kann mithilfe dieser Ausführungsform die Sensitivität des automatischen Fahrsteuersystems auf den Anteil automatisch geführter Fahrzeuge im Verkehrsbereich um das eigene Fahrzeug ermittelt werden. Dies ist insofern von hohem Interesse, da automatisch geführte Fahrzeuge ein anderes Verhalten als menschlich geführte Fahrzeuge aufweisen. Der Anteil der automatisch geführten Fahrzeuge in Bezug auf sämtliche Verkehrsteilnehmer wird auch Durchdringungsgrad der automatisierten Fahrzeuge genannt.

Gemäß einer weiteren vorteilhaften Ausführungsform ist in der Ausgangsdatenbasis die Zahl der virtuellen Verkehrsteilnehmer größer als die Zahl der verwendeten realen Verkehrsteilnehmer.

Gemäß einer weiteren vorteilhaften Ausführungsform ist im Trainingsdatensatz der Anteil der virtuellen Verkehrsteilnehmer größer als im Validierungsdatensatz.

Gemäß einer weiteren vorteilhaften Ausführungsform werden in den durchgeführten Simulationen strategische und taktische, oder strategische, taktische und operative Simulationselemente für das Fahrzeug ausgeführt.

Die hybride, variierte Ausgangsdatenbasis dient insbesondere einem Training auf der strategischen, taktischen oder operativen Ebene. Ein Beispiel für die strategische Ebene ist die sinnvolle Routenwahl basierend auf definiertem Start- und Zielort. Ein Beispiel für die taktische Ebene ist die Ausführung des Manöverprädiktionsmoduls in Form der zukünftigen Trajektorien der das automatisierte Fahrzeug umgebenden Verkehrsteilnehmer in einer spezifischen Verkehrssituation. Hierbei kann jeweils beispielsweise das Verhalten / die Trajektorien der realen Verkehrsteilnehmer bei sicherem Passieren des jeweiligen Szenarios als Ground Truth herangezogen werden. Die operative Ebene betrifft insbesondere eine jeweilige Fahrzeugführungsfunktion. Ein weiteren naheliegenden Anwendungsfall stellt das Training eines Reinforcement-Learning-Agenten dar, der der entsprechenden Verkehrsdynamik ausgesetzt wird und abhängig von dessen Reaktion für sein Verhalten belohnt oder bestraft wird und so ein sicheres Verhalten über die relevanten Verkehrsszenarien hinweg erlernen kann.

Gemäß einer weiteren vorteilhaften Ausführungsform wird zum Durchführen des Anpassungsvorgangs von Parametern einer Fahrsteuerungsfunktion des automatischen Fahrsteuersystems eine Sensititvitätsanalyse über die Wirkung von Variationen der Ausgangsdatenbasis auf die jeweilige Reaktion des automatischen Fahrsteuersystems ermittelt und das Ergebnis der Sensititvitätsanalyse für einen zielgerichteten Anpassungsvorgang von Parametern einer Fahrsteuerungsfunktion des automatischen Fahrsteuersystems verwendet.

Mithilfe dieser Sensitivitätsanalyse wird nicht nur ein einzelner Datenpunkt im Simulationsraum betrachtet, sondern die Ausgangsdatenbasis um einen Datenpunkt herum variiert, um ein Gefühl für die Auswirkungen dieser Änderungen in mehreren Richtungen auf die Reaktion des automatischen Fahrsteuersystems zu bekommen. Dies betrifft insbesondere die Anzahl der modellierten automatisierten Verkehrsteilnehmer bezogen auf die gesamte Anzahl anderer in der Simulation simulierten Verkehrsteilnehmer. Dieser Durchdringungsgrad ist von besonderem Interesse bei der Sensitivitätsanalyse.

Gemäß einer weiteren vorteilhaften Ausführungsform wird bei der Validierung des automatischen Fahrsteuersystems eine Sensoreinheit des automatischen Fahrsteuersystems validiert, indem eine erneute Simulation durchgeführt wird und Ausgangsdaten der Simulation Eingangsdaten für die Sensoreinheit bilden.

Neben dem Algorithmus einer Fahrsteuerungsfunktion des automatischen Fahrsteuersystems wird mithilfe dieser Ausführungsform auch eine Umfelderfassung / Perzeption des automatisierten Fahrzeugs validiert. Bevorzugt wird zu diesem Zweck eine Sensoreinheit mit angeschlossenem Perzeptionsmodul betrachtet, wobei der Sensoreinheit künstlich Daten aus dem Simulator statt realen Daten zugespielt werden, um die Umfelderfassung und Perzeption des automatisierten Fahrzeugs zu validieren. Dies betrifft insbesondere Bilderkennungssoftware sowie Umgebungserfassungs-Algorithmen auf Basis von anderen Sensoreinheiten wie Radar und/oder Lidar. Es können vorteilhaft hierbei auch Materialeigenschaften und Reflexionen der relevanten statischen und dynamischen Objekte in der Umgebung der automatisierten Fahrfunktion von einem Visualisierungs-Modul in der Simulation angewendet werden, um realistische Zustände von erfassbaren Sensordaten zu erzeugen. Gemäß einer weiteren vorteilhaften Ausführungsform werden daher in der Simulation optische Materialeigenschaften und/oder Reflexionen der Umgebung des Fahrzeugs simuliert.

Gemäß einer weiteren vorteilhaften Ausführungsform erfolgen die Variationen der Ausgangsdatenbasis durch Aufprägung geänderter Wahrscheinlichkeitsverteilungen von Verkehrsagenten. Die Wahrscheinlichkeitsverteilungen (wie beispielsweise Normalverteilung, Binomialverteilung, weil Weibullverteilung) werden hierbei entsprechend variiert, um Szenarien unterschiedlich zu gestalten. Beispielsweise kann der Wert einer Standardabweichung von Zufallsgrößen wie dem Verhalten von Fußgängern erhöht werden, um differenziertere Szenarien zu erhalten.

Weitere Vorteile, Merkmale und Einzelheiten ergeben sich aus der nachfolgenden Beschreibung, in der - gegebenenfalls unter Bezug auf die Zeichnung - zumindest ein Ausführungsbeispiel im Einzelnen beschrieben ist. Gleiche, ähnliche und/oder funktionsgleiche Teile sind mit gleichen Bezugszeichen versehen.

Es zeigt:

Fig. 1 : Ein Verfahren zum Auslegen und Validieren eines automatischen Fahrsteuersystems eines Fahrzeugs gemäß einem Ausführungsbeispiel der Erfindung.

Fig. 1 zeigt ein Verfahren zum Auslegen und Validieren eines automatischen Fahrsteuersystems eines automatisierten Fahrzeugs. In einem ersten Schritt erfolgt ein Bereitstellen SO von Daten von in der Realität mit Hilfe einer Drohne beobachteten Verkehrsteilnehmern (Fußgängern, Fahrradfahrern, automatisierten und nicht automatisierten Personenkraftwagen, etc.) unter Zuordnung zum jeweiligen vorherrschenden Szenario, in dem die Verkehrsteilnehmer beobachtet wurden, insbesondere eine Kreuzung, eine Überlandstraße, eine Autobahnfahrt, etc.; die Daten der von der Drohne beobachteten Verkehrsteilnehmer umfassen ferner die Trajektorien der Verkehrsteilnehmer, d. h. deren Bahnkurven mit einer Zeitinformation. Außerdem wird die aktuelle Wetterlage im jeweils betrachteten Szenario von der Drohne registriert, um diese in den späteren Simulationen wieder abzubilden. Im folgenden Schritt S1 werden die von der Drohne erfassten Daten der realen Verkehrsteilnehmer zur Sicherstellung der Vollständigkeit der Daten aufbereitet, sodass für das automatische Fahrsteuersystem des Fahrzeugs einschließlich seiner Sensoreinheiten in der Simulationsumgebung die von ihm erfassbaren Daten auch tatsächlich zur Verfügung gestellt bekommt, ohne durch die Erfassung von der Drohne entstehenden Datenlücken zu übernehmen. Die durch die Drohne erfassten realen Verkehrsteilnehmer werden für die Simulationsumgebung als Verkehrsagenten modelliert. Bei dieser Erstellung S2 der hybriden Simulationsumgebung werden neben den aufbereiteten Daten aus der beobachteten Realität mit den modellierten Verkehrsagenten zusätzlich synthetische Daten virtueller Verkehrsteilnehmer hinzugefügt, wobei die synthetischen Daten vorteilhaft einen größeren Raum einnehmen als die realen Daten, d.h. dass zwar die real beobachteten Verkehrsteilnehmer mit ihren Trajektorien und mit ihrem Verhalten die Grundlage der Simulationen bilden, jedoch durch entsprechende Duplizierungen und Variationen der Duplizierungen erst die erhebliche Größe der Simulationen mit einer enorm großen Vielzahl von simulierten Szenarien ermöglichen. Diese hybride Datenbasis aus modellierten realen Verkehrsteilnehmern sowie vollständig synthetischen Verkehrsteilnehmern (jedoch auf den Daten der realen Verkehrsteilnehmern basieren können und lediglich weiter modifiziert sind, um beispielsweise ein noch aggressiveres Verhalten der anderen Verkehrsteilnehmer zu provozieren) wird als Ausgangsdatenbasis verwendet. Es erfolgt im weiteren Schritt S3 die Durchführung von mehreren Simulationen mit der erzeugten hybriden Simulationsumgebung mit der Ausgangsdatenbasis in vielfacher Parallelisierung der Simulationen und mit einem zeitlichen Skalenfaktor größer als Eins zur Echtzeit unter Einbindung des automatischen Fahrsteuersystems mit Simulationsdaten anstelle von Sensordaten. Dies bedeutet, dass eine große Vielzahl von Simulationen zum Erzeugen einer künstlichen Umgebung für das automatische Fahrsteuersystem zu gleicher Zeit parallel ausgeführt wird, beispielsweise auf einem Rechencluster mit einer Vielzahl von CPU-Kernen und/oder einem Verbund von Grafikkarten. Die Simulationsgeschwindigkeit ist dabei deutlich schneller als Echtzeit, sodass eine ungeheure Menge von Verkehrsteilnehmern, Szenarien, und gefahrenen Kilometern des automatisierten Fahrzeugs mit dem automatischen Fahrsteuersystem zum Auslegen und/oder Validieren des Fahrsteuersystems simuliert werden kann, um mit einer Datenmenge zu arbeiten, die durch Praxistests (d. h. einer realen Fahrt des Fahrzeugs) praktisch nicht erreichbar wäre. In den Simulationen werden Variationen der Ausgangsdatenbasis durchgeführt, um mit einer Sensititvitätsanalyse die jeweilige Reaktion des automatischen Fahrsteuersystems auf die Variationen in der hybriden Simulationsumgebung zu ermitteln. Auf Basis dieser Variationen und der Ergebnisse erfolgt die Erzeugung S4 eines Trainingsdatensatzes und eines Validierungsdatensatzes, um besonders kritische und sicherheitsrelevante Situationen herauszugreifen. So kann die Durchführung S5 eines Anpassungsvorgangs von Parametern einer Fahrsteuerungsfunktion des automatischen Fahrsteuersystems auf Basis des Trainingsdatensatzes erfolgen. Dies betrifft insbesondere Parameter eines künstlichen neuronalen Netzes, die durch Supervised Learning Methoden mehrfach angepasst werden können. Nach Abschluss aller Anpassungsvorgänge der Fahrsteuerungsfunktion erfolgt das Ausführen S6 einer Validierung des automatischen Fahrsteuersystems auf Basis des Validierungsdatensatzes, wobei zumindest ein Algorithmus der Fahrsteuerungsfunktion des automatischen Fahrsteuersystems validiert wird.

Obwohl die Erfindung im Detail durch bevorzugte Ausführungsbeispiele näher illustriert und erläutert wurde, so ist die Erfindung nicht durch die offenbarten Beispiele eingeschränkt und andere Variationen können vom Fachmann hieraus abgeleitet werden, ohne den Schutzumfang der Erfindung zu verlassen. Es ist daher klar, dass eine Vielzahl von Variationsmöglichkeiten existiert. Es ist ebenfalls klar, dass beispielhaft genannte Ausführungsformen wirklich nur Beispiele darstellen, die nicht in irgendeiner Weise als Begrenzung etwa des Schutzbereichs, der Anwendungsmöglichkeiten oder der Konfiguration der Erfindung aufzufassen sind. Vielmehr versetzen die vorhergehende Beschreibung und die Figurenbeschreibung den Fachmann in die Lage, die beispielhaften Ausführungs- formen konkret umzusetzen, wobei der Fachmann in Kenntnis des offenbarten Erfindungsgedankens vielfältige Änderungen, beispielsweise hinsichtlich der Funktion oder der Anordnung einzelner, in einer beispielhaften Ausführungsform genannter Elemente, vornehmen kann, ohne den Schutzbereich zu verlassen, der durch die Ansprüche und deren rechtliche Entsprechungen, wie etwa weitergehende Erläuterungen in der Beschreibung, definiert wird.

Bezugszeichenliste

50 Bereitstellen

51 Aufbereiten

52 Erstellen

53 Durchführung

54 Erzeugung

55 Durchführen

56 Ausführen