Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
METHOD AND APPARATUS FOR SENSOR DATA FUSION FOR A VEHICLE
Document Type and Number:
WIPO Patent Application WO/2020/160797
Kind Code:
A1
Abstract:
A method and an apparatus for sensor data fusion for a vehicle and a computer program and a computer-readable storage medium are specified. The vehicle (F) has at least one associated sensor apparatus (Sl), and the method involves: current sensor object data being provided that are representative of a sensor object s t ascertained at the time t; fusion object data being provided that are representative of fusion objects f t j ' intended for sensor data fusion at the time t; a sensor object data record H being provided comprising historical sensor object data that are representative of a sensor object s t i —k ascertained at a preceding time t—k; the sensor object data record H being taken as a basis for ascertaining a reduced sensor object data record H' = {S t-k α t-k | k= 1...n}, wherein s t α t denotes a sensor object associated with a fusion object f t at the time t; and the reduced sensor object data record H' being taken as a basis for associating the sensor object s t with a fusion object f t j and ascertaining an innovated fusion object.

Inventors:
HIMMELSBACH MICHAEL (DE)
BAUCH DOMINIK (DE)
BAUMGARTL MARCO (DE)
MEISSNER DANIEL (DE)
TRENTINAGLIA LUCA (DE)
MEHRINGER JOSEF (DE)
Application Number:
PCT/EP2019/079224
Publication Date:
August 13, 2020
Filing Date:
October 25, 2019
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
BAYERISCHE MOTOREN WERKE AG (DE)
International Classes:
G01S7/295; G01S15/931; G01S7/53; G01S7/539; G01S13/66; G01S13/86; G01S13/931
Domestic Patent References:
WO2003008995A12003-01-30
Foreign References:
US20080300787A12008-12-04
DE102008001672A12009-11-12
Other References:
AEBERHARD, M.RAUCH, A.RABIEGA, M.KAEMPCHEN, N.BERTRAM, T.: "Intelligent Vehicles Symposium (IV", June 2012, IEEE, article "Track-to-track fusion with asynchronous sensors and out-of-sequence tracks using information matrix fusion for advanced driver assistance systems", pages: 1 - 6
S. MATZKAR. ALTENDORFER: "A comparison of track-totrack fusion algorithms for automotive sensor fusion", 2008 IEEE INTERNATIONAL CONFERENCE ON MULTISENSOR FUSION AND INTEGRATION FOR INTELLIGENT SYSTEMS, SEOUL, 2008, pages 189 - 194, XP031346269
Download PDF:
Claims:
Patentansprüche

1. Verfahren zur Sensordatenfusion für ein Fahrzeug (F) , wobei dem Fahrzeug (F) eine Sensorvorrichtung (S1) zugeordnet ist, und bei dem Verfahren

- aktuelle Sensorobjektdaten bereitgestellt werden, die

repräsentativ sind für ein durch die Sensorvorrichtung (S1) in einer Umgebung des Fahrzeugs (F) zu einem

Zeitpunkt t ermitteltes Sensorobjekt st;

- ein Fusionsobjektdatensatz bereitgestellt wird, umfassend

Fusionsobjektdaten, die jeweils repräsentativ sind für eines aus j = 1...p in der Umgebung des Fahrzeugs (F) ermittelte Fusionsobjekte , die jeweils zur

Sensordatenfusion zu dem Zeitpunkt t vorgesehen sind;

- ein Sensorobjektdatensatz

bereitgestellt wird, umfassend historische

Sensorobjektdaten, die jeweils repräsentativ sind für eines aus i = 1...m durch die Sensorvorrichtung (Sl) in der Umgebung des Fahrzeugs (F) zu einem vorangegangen Zeitpunkt t— k ermittelte Sensorobjekte , wobei n,m ³

1;

- abhängig von dem Sensorobjektdatensatz H ein reduzierter

Sensorobjektdatensatz ermittelt wird,

wobei ein zum Zeitpunkt t zu einem Fusionsobjekt ft assoziiertes Sensorobjekt bezeichnet;

- abhängig von dem reduzierten Sensorobjektdatensatz H' das

Sensorobjekt st zu einem Fusionsobjekt assoziiert und ein innoviertes Fusionsobjekt ermittelt wird.

2. Verfahren nach Anspruch 1, bei dem gilt: 1£n £5,

bevorzugt n = 2.

3. Verfahren nach einem der vorstehenden Ansprüche, bei dem

- das Sensorobjekt st mittels des IMF, Information Matrix

Fusion, -Algorithmus zu einem Fusionsobjekt

assoziiert und das innovierte Fusionsobjekt ermittelt wird .

4. Verfahren nach einem der vorstehenden Ansprüche, bei dem

- der reduzierte Sensorobjektdatensatz H' jeweils den

Fusionsobjekten zugeordnet und in den

Fusionsobjektdaten hinterlegt wird, und

- abhängig von dem Fusionsobjektdatensatz das Sensorobjekt st zu einem Fusionsobjekt assoziiert und das innovierte

Fusionsobjekt ermittelt wird.

5. Verfahren nach Anspruch 4, bei dem

- im Falle, dass der einem jeweiligen Fusionsobjekt

zugeordnete, reduzierte Sensorobjektdatensatz H' zu keinem vorangegangenen Zeitpunkt t— k, k = 1...n, ein assoziiertes Sensorobjekt umfasst, das Sensorobjekt st mittels des use of cross covariance -Algorithmus zu einem Fusionsobjekt assoziiert und das innovierte Fusionsobjekt ermittelt wird.

6. Verfahren nach einem der vorstehenden Ansprüche, bei dem

- dem Sensorobjekt st-1, st Merkmalsdaten , die

repräsentativ sind für eine laterale Erstreckung,

Position und Orientierung des Sensorobjekts st-1, st und Indikatordaten , die repräsentativ sind für eine

Unsicherheit bei der Ermittlung der lateralen

Erstreckung, Position bzw. Orientierung, zugeordnet sind; - dem Fusionsobjekt Merkmalsdaten , die

repräsentativ sind für eine laterale Erstreckung,

Position und Orientierung des Fusionsobjekts und

Indikatordaten , die repräsentativ sind für eine

Unsicherheit bei der Ermittlung der lateralen

Erstreckung, Position bzw. Orientierung, zugeordnet sind;

- abhängig von den Merkmalsdaten ein

Merkmalsfusionszustand ermittelt wird, der

repräsentativ ist für die laterale Erstreckung, Position und Orientierung des Fusionsobjekts zu dem Zeitpunkt

t nach Sensordatenfusion mit

- abhängig von den Merkmalsdaten und von den

Indikatordaten ein innovierter

Merkmalsfusionszustand ermittelt wird, der

repräsentativ ist für die laterale Erstreckung, Position und Orientierung des Fusionsobjekts zu dem Zeitpunkt t nach Sensordatenfusion mit

- abhängig von dem Merkmalsfusionszustand , dem

innovierten Merkmalsfusionszustand und den

Merkmalsdaten geprüft wird, ob der innovierte

Merkmalsfusionszustand die Gleichung

erfüllt, wobei im Falle, dass die

Gleichung erfüllt ist, das innovierte Fusionsobjekt abhängig von dem innovierten Merkmalszustand

ermittelt wird, und anderenfalls, das Sensorobjekt st mittels des use of cross covariance -Algorithmus zu einem Fusionsobjekt assoziiert und das innovierte

Fusionsobjekt ermittelt wird.

7. Vorrichtung (V) zur Sensordatenfusion für ein Fahrzeug (F) , wobei die Vorrichtung (V) ausgebildet ist, ein Verfahren nach einem der vorstehenden Ansprüche 1 bis 6 auszuführen .

8. Computerprogramm zur Sensordatenfusion für ein Fahrzeug (F) , umfassend Befehle, die bei der Ausführung des Computerprogramms durch einen Computer diesen

veranlassen, das Verfahren nach einem der Ansprüche 1 bis 6 auszuführen.

9. Computerlesbares Speichermedium, auf dem das

Computerprogramm nach Anspruch 8 gespeichert ist.

Description:
Beschreibung

Verfahren und eine Vorrichtung zur Sensordatenfusion für ein Fahrzeug

Die Erfindung betrifft ein Verfahren und eine Vorrichtung zur Sensordatenfusion für ein Fahrzeug. Darüber hinaus betrifft die Erfindung ein Computerprogramm sowie ein computerlesbares Speichermedium.

Zur Erkennung von Objekten in Umgebung eines Fahrzeugs, insbesondere zur Erkennung anderer Verkehrsteilnehmer und relevanter Eigenschaften derer werden oftmals heterogene Sensorvorrichtungen eingesetzt. Erkannte Objekte im

Fahrzeugumfeld können zur sicheren Umsetzung von

Assistenzfunktionen herangezogen werden, insbesondere für längs regelnde Funktionen wie Active Cruise Control oder einen Kreuzungsassistent und für querregelnde Funktionen wie Lateral Collision Avoidance, Lenk- und Spurführungsassistent.

Bedingt durch unterschiedliche Messprinzipien der

eingesetzten Sensorvorrichtungen können die durch die

Sensorvorrichtungen erfassten Informationen über die Objekte unterschiedlich sein. Aufgrund beschränkter Rechenleistung in Fahrzeugen werden die durch die Sensorvorrichtungen

bereitgestellten Informationen üblicherweise auf High-Level- Ebene fusioniert. Das bedeutet, dass die Sensorvorrichtungen jeweils anhand der erfassten Informationen separat Objekte erkennen und diese in einer abstrakten, sensorunabhängigen Objektrepräsentation als Informationen bereitstellen

(sogenannte „Sensorobjekte") ; die bereitgestellten

Informationen werden dann durch eine separate

Sensordatenfusionseinheit zu jeweils einer Objektrepräsentation je tatsächlichem Objekt zusammengeführt bzw. fusioniert (sogenannte „Fusionsobjekte") .

Typischerweise werden hierzu „smarte" Sensorvorrichtungen verbaut, deren Erkennungsleistung neben der physikalischen Vermessung der Umgebung auch auf einer nachgelagerten, internen Informationsverarbeitung beruht. Ein wesentlicher Bestandteil dieser Informationsverarbeitung sind rekursive Schätzprozesse, die auch Objekteigenschaften über die Zeit beobachten können, die sich nicht direkt aus einer einzigen Messung bestimmen lassen. Neben einer Schätzung der

Objekteigenschaften anderer Verkehrsteilnehmer kann der rekursive Schätzprozess zudem auch ein Maß für deren

Unsicherheit liefern.

Aufgrund der rekursiven Formulierung des Schätzprozesses sind die von den Sensorvorrichtungen gelieferten Sensorobjektdaten eventuell statistisch nicht unabhängig von den

Sensorobjektdaten zu einem früheren Zeitpunkt. Da

verschiedene Sensorvorrichtungen zudem oft auf ähnlichen Schätzprozessen beruhen und teilweise sogar gleiche

Eingangsdaten, etwa zur Bewegung des eigenen Fahrzeugs, erhalten, kann es sein, dass auch die Sensorobjektdaten verschiedener Sensorvorrichtungen statistisch nicht

unabhängig voneinander sind. Zur Fusion derart korrelierter Sensorobjektdaten kann ein sogenannter Information Matrix Fusion-Algorithmus (IMF) eingesetzt werden, bei dem der rekursive Schätzprozess um eine Dekorrelation der

Sensorobjektdaten erweitert ist. In diesem Zusammenhang wird auf die Ausführungen von Aeberhard, M., Rauch, A., Rabiega, M., Kaempchen, N., & Bertram, T. (2012, June) in „Track-to- track fusion with asynchronous sensors and out-of-sequence tracks using Information matrix fusion for advanced driver assistance Systems", Intelligent Vehicles Symposium (IV) ,

2012 IEEE (pp. 1-6) verwiesen.

Zur Dekorrelation der Sensorobjektdaten erfordert der IMF- Algorithmus im theoretischen „worst case" allerdings eine unendlich lange Historie aller Sensorobjektdaten, die insbesondere aufgrund begrenzter Speicherressourcen auf in Fahrzeugen eingesetzten, eingebetteten Systemen nicht zur Verfügung steht. Ein weiterer Nachteil des IMF-Algorithmus sind den Sensorobjektdaten zugrunde liegende Annahmen, insbesondere hinsichtlich der berichteten Unsicherheiten, die in der Praxis oft verletzt werden. Der IMF-Algorithmus liefert dann teils inkonsistente Schätzungen mit grob

fehlerhaften Objekteigenschaften, wobei sich der Fehler nicht entsprechend in der bestimmten Unsicherheit widerspiegelt und hingegen zu kleine Unsicherheiten ausgegeben werden. Dies kann zu einem groben Fehlverhalten in den der Fusion

nachgelagerten Assistenzfunktionen führen.

Die Aufgabe, die der Erfindung zugrunde liegt, ist es, ein Verfahren zur Sensordatenfusion für ein Fahrzeug sowie eine entsprechende Vorrichtung, ein Computerprogramm sowie computerlesbares Speichermedium zu schaffen, das zu einer sicheren Zuordnung von Sensor- und Fusionsobjekten beiträgt und eine zuverlässige Sensordatenfusion ermöglicht.

Die Aufgabe wird gelöst durch die unabhängigen

Patentansprüche. Vorteilhafte Ausgestaltungen sind in den Unteransprüchen gekennzeichnet .

Gemäß einem ersten Aspekt betrifft die Erfindung ein

Verfahren zur Sensordatenfusion für ein Fahrzeug. Dem

Fahrzeug ist eine Sensorvorrichtung zugeordnet. Bei dem Verfahren werden aktuelle Sensorobjektdaten bereitgestellt. Die aktuellen Sensorobjektdaten sind

repräsentativ für ein durch die Sensorvorrichtung in einer Umgebung des Fahrzeugs zu einem Zeitpunkt t ermitteltes

Sensorobjekt s t .

Darüber hinaus wird ein Fusionsobjektdatensatz

bereitgestellt. Der Fusionsobjektdatensatz umfasst

Fusionsobjektdaten, die jeweils repräsentativ sind für eines aus j = 1...p in der Umgebung des Fahrzeugs ermittelte

Fusionsobjekte . Die Fusionsobjekte sind jeweils zur

Sensordatenfusion zu dem Zeitpunkt t vorgesehen.

Weiterhin wird ein Sensorobjektdatensatz

bereitgestellt. Der Sensorobjektdatensatz

H umfasst historische Sensorobjektdaten, die jeweils

repräsentativ sind für eines aus i = 1...q durch die

Sensorvorrichtung in der Umgebung des Fahrzeugs zu einem vorangegangen Zeitpunkt t— k ermittelte Sensorobjekte

wobei n,q ³ 1.

Bei dem Verfahren wird abhängig von dem Sensorobjektdatensatz H ein reduzierter Sensorobjektdatensatz

ermittelt. bezeichnet dabei ein zum Zeitpunkt t zu einem

Fusionsobjekt assoziiertes Sensorobjekt.

Ferner wird abhängig von dem reduzierten

Sensorobjektdatensatz H' das Sensorobjekt s t zu einem

Fusionsobjekt assoziiert und ein innoviertes Fusionsobjekt

ermittelt . In vorteilhafter Weise ermöglicht das vorgeschlagene

Verfahren eine sichere und effiziente Zuordnung von Sensor- und Fusionsobjekten. Insbesondere trägt das Verfahren zu einer zuverlässigen Fusion korrelierter Sensorobjektdaten bei .

Die Sensorvorrichtung ist dazu ausgebildet, die Umgebung des Fahrzeugs zu erfassen und ein Sensorobjekt in der Umgebung des Fahrzeugs zu ermitteln. Insbesondere kann die

Sensorvorrichtung ausgebildet sein, eine laterale Erstreckung und/oder Orientierung eines Objekts zu erfassen. Bei der Sensorvorrichtung handelt es sich beispielhaft um einen

Kamera-, LiDAR-, Light Detection And Ranging, LaDAR-, Laser Detection And Ranging, RaDAR, Radio Detection And Ranging, Ultraschall-, Punktlaser-, oder einen Infrarotsensor.

Der Sensorobjektdatensatz H umfasst historische

Sensorobjektdaten derselben Sensorvorrichtung. Im Falle, dass dem Fahrzeug m > 1 verschiedene Sensorvorrichtungen

zugeordnet sind, wird je Sensorvorrichtung ein

SensorobjektdatensatzH 1 ... H m bereitgestellt und die

entsprechenden Schritte des Verfahrens je Sensorvorrichtung einmal durchgeführt.

Der reduzierte Sensorobjektdatensatz

umfasst insbesondere nur mehr solche Sensorobjekte des

Sensorobjektdatensatzes H, die zuvor, zum entsprechenden Zeitpunkt t— k zu einem beliebigen Fusionsobjekt

assoziiert wurden. In vorteilhafter Weise werden so, statt alle q von der Sensorvorrichtung zum Zeitpunkt t ermittelten Sensorobjekte i = 1...q aufzuzeichnen, nur die p £ q

tatsächlich zu einem Fusions-Objekt assoziierten Objekte ί = 1...r in die Assoziationshistorie

aufgenommen. Dabei kann für jede Sensorvorrichtung eine eigene Assoziationshistorie unabhängig von den

Assoziationshistorien anderer Sensorvorrichtungen

aufgezeichnet werden.

Üblicherweise wird zu jedem Zeitpunkt t ferner maximal ein Sensorobjekt i = 1...p jeder Sensorvorrichtung zu demselben Fusionsobjekt assoziiert. Dann genügt es, dem jeweiligen Fusionsobjekt für jeden Zeitpunkt t je Sensorvorrichtung lediglich ein Sensorobjekt k = 1...n als reduzierten

Sensorobjektdatensatz H' zuzuordnen. Im Falle, dass dem

Fahrzeug m > 1 Sensorvorrichtungen zugeordnet sind, können folglich die wenigen jeweils zuletzt zu dem jeweiligen

Fusionsobjekt assoziierten Sensorobjekte

k = 1..n je

Fusionsobjekt vermerkt werden.

Der Schritt, in dem abhängig von dem reduzierten

Sensorobjektdatensatz H' das Sensorobjekt s t zu einem

Fusionsobjekt assoziiert und ein innoviertes Fusionsobjekt ermittelt wird, kann beispielhaft dem IMF-Algorithmus entsprechen, wobei statt auf eine unendlich lange bzw.

vollständige Historie auf den reduzierten

Sensorobjektdatensatz H' zurückgegriffen wird.

In einer vorteilhaften Ausgestaltung gemäß dem ersten Aspekt gilt: 1 £ n £ 5, bevorzugt n = 2.

In vorteilhafter Weise können so einmalige Mehrdeutigkeiten gehandhabt werden. Zugleich wird ein effizienter Einsatz auf Ressourcenbeschränkter Hardware ermöglicht. In einer weiteren vorteilhaften Ausgestaltung gemäß dem ersten Aspekt wird das Sensorobjekt s t mittels des IMF, Information Matrix Fusion, -Algorithmus zu einem

Fusionsobjekt assoziiert und das innovierte Fusionsobjekt

ermittelt .

In einer weiteren vorteilhaften Ausgestaltung gemäß dem ersten Aspekt wird der reduzierte Sensorobjektdatensatz H' jeweils den Fusionsobjekten zugeordnet und in den

Fusionsobjektdaten hinterlegt.

Daraufhin wird abhängig von dem Fusionsobjektdatensatz das Sensorobjekt s t zu einem Fusionsobjekt assoziiert und das

innovierte Fusionsobjekt ermittelt.

Das Sensorobjekt s t kann in dieser Ausgestaltung also insbesondere abhängig von den den Fusionsobjekten jeweils

zugeordneten reduzierten Sensorobjektdatensätzen H' zu einem

Fusionsobjekt assoziiert und das innovierte Fusionsobjekt entsprechend ermittelt werden.

In einer weiteren vorteilhaften Ausgestaltung gemäß dem ersten Aspekt wird im Falle, dass der einem jeweiligen

Fusionsobjekt zugeordnete, reduzierte

Sensorobjektdatensatz H' zu keinem vorangegangenen Zeitpunkt t—k, k = 1...n, ein assoziiertes Sensorobjekt umfasst,

das Sensorobjekt s t mittels des use of cross covariance -

Algorithmus zu einem Fusionsobjekt assoziiert und das innovierte Fusionsobjekt ermittelt. Bezüglich des use of cross covariance - Algorithmus wird auf die Ausführungen von S. Matzka und R. Altendorfer in "A comparison of track-to- track fusion algorithms for automotive sensor fusion", 2008 IEEE International Conference on Multisensor Fusion and

Integration for Intelligent Systems, Seoul, 2008, pp. 189-194 verwiesen. In anderen Worten kann im Falle einer

unzulänglichen Historie auf ein alternatives Fusionsverfahren statt des IMF-Algorithmus zurückgegriffen werden.

Insbesondere wird die Fusion dabei nur mit approximativer Berücksichtigung etwaiger Korrelationen durchgeführt.

In einer weiteren vorteilhaften Ausgestaltung gemäß dem ersten Aspekt sind dem Sensorobjekt s t-1 , s t Merkmalsdaten

zugeordnet. Die Merkmalsdaten sind

repräsentativ für eine laterale Erstreckung, Position und Orientierung des Sensorobjekts s t-1 , s t . Ferner sind dem

Sensorobjekt s t-1 , s t Indikatordaten zugeordnet. Die

Indikatordaten sind repräsentativ für eine

Unsicherheit bei der Ermittlung der lateralen Erstreckung, Position bzw. Orientierung.

Des Weiteren sind dem Fusionsobjekt Merkmalsdaten

zugeordnet. Die Merkmalsdaten sind

repräsentativ für eine laterale Erstreckung, Position und Orientierung des Fusionsobjekts . Ferner sind dem

Fusionsobjekt Indikatordaten zugeordnet. Die

Indikatordaten sind repräsentativ für eine

Unsicherheit bei der Ermittlung der lateralen Erstreckung, Position bzw. Orientierung.

Bei dem Verfahren wird abhängig von den Merkmalsdaten

ein Merkmalsfusionszustand ermittelt. Der

Merkmalsfusionszustand ist repräsentativ für die

laterale Erstreckung, Position und Orientierung des

Fusionsobjekts zu dem Zeitpunkt t nach Sensordatenfusion

mit .

Darüber hinaus wird abhängig von den Merkmalsdaten

und von den Indikatordaten ein innovierter

Merkmalsfusionszustand ermittelt. Der innovierte

Merkmalsfusionszustand ist repräsentativ für die laterale

Erstreckung, Position und Orientierung des Fusionsobjekts zu dem Zeitpunkt t nach Sensordatenfusion mit .

Hierauf wird abhängig von dem Merkmalsfusionszustand

dem innovierten Merkmalsfusionszustand und den

Merkmalsdaten geprüft, ob der innovierte

Merkmalsfusionszustand die Gleichung

erfüllt. Im Falle, dass die Gleichung erfüllt

ist, wird das innovierte Fusionsobjekt abhängig von dem innovierten Merkmalszustand ermittelt. Anderenfalls wird

das Sensorobjekt s t mittels des use of cross covariance -

Algorithmus zu einem Fusionsobjekt assoziiert und das

innovierte Fusionsobjekt ermittelt.

In vorteilhafter Weise können so insbesondere für den IMF- Algorithmus typische Fehlerfälle vermieden werden, bei denen die Merkmalsdaten des Fusionsobjekts grob von den Merkmalsdaten des Sensorobjekts s t abweichen. In diesem Fall kann wiederum auf ein alternatives Fusionsverfahren statt des IMF-Algorithmus zurückgegriffen werden. Der Merkmalsfusionszustand sowie der innovierte

Merkmalsfusionszustand ist insbesondere repräsentativ für ein zur Überprüfung temporär zwischengespeichertes Ergebnis einer Fusion von Fusionsobjekt und Sensorobjekt gemäß dem IMF-Algorithmus .

Die Gleichung ist insbesondere repräsentativ dafür, dass die aktualisierten Eigenschaften nach der Fusion zwischen den ursprünglichen Eigenschaften und den Eigenschaften des fusionierten Sensorobjekts liegen, verletzt ist. Wird die Gleichung verletzt, so wird das temporär zwischengespeicherte Ergebnis verworfen.

Die entsprechenden Merkmalsdaten können neben der lateralen Erstreckung, Position und Orientierung des jeweiligen Objekts auch weitere Eigenschaften des Objekts umfassen, wie dessen Geschwindigkeits- und Beschleunigungskomponenten sowie

Gierrate. Unter der lateralen Erstreckung wird dabei eine Ausdehnung des Objekts parallel sowie quer zur Mess- oder Fahrtrichtung bzw. Längsachse des Fahrzeugs verstanden. Die Orientierung bezeichnet insbesondere einen Winkel, den eine Längsachse des Objekts zu der Mess- oder Fahrtrichtung bzw. Längsachse des Fahrzeugs einschließt. Die Position des

Objekts kann beispielhaft einen Referenzpunkt des Objekts bezeichnen, bezüglich dem die weiteren Eigenschaften des Objekts angegeben werden.

Gemäß einem zweiten Aspekt betrifft die Erfindung eine

Vorrichtung zur Sensordatenfusion für ein Fahrzeug. Die

Vorrichtung ist ausgebildet, ein Verfahren gemäß dem ersten Aspekt auszuführen. Die Vorrichtung kann auch als

Sensordatenfusionseinheit bezeichnet werden. Gemäß einem dritten Aspekt betrifft die Erfindung ein

Computerprogramm zur Sensordatenfusion für ein Fahrzeug. Das Computerprogramm umfasst Befehle, die bei der Ausführung des Programms durch einen Computer diesen veranlassen, das

Verfahren gemäß dem ersten Aspekt auszuführen.

Gemäß einem vierten Aspekt betrifft die Erfindung ein computerlesbares Speichermedium, auf dem das Computerprogramm gemäß dem vierten Aspekt gespeichert ist.

Ausführungsbeispiele der Erfindung sind im Folgenden anhand der schematischen Zeichnungen näher erläutert.

Es zeigen:

Figur 1 ein beispielhaftes Fahrzeug mit einer Vorrichtung zur Sensordatenfusion;

Figur 2 ein beispielhaftes Ablaufdiagramm eines Verfahrens zur Sensordatenfusion; und

Figur 3 eine beispielhafte Zuordnung eines jeweiligen

reduzierten Sensorobjektdatensatzes zu

Fusionsobjekten.

Elemente gleicher Konstruktion oder Funktion sind

figurenübergreifend mit den gleichen Bezugszeichen versehen.

Im Folgenden wird ein Verfahren zur High-Level-Objektfusion auf Basis des Information Matrix Fusion-Algorithmus (IMF) vorgeschlagen, das einen zuverlässigen Einsatz auf

eingebetteten Systemen erlaubt. Anhand des

Ausführungsbeispiels der Figur 1 ist ein erfindungsgemäßes Fahrzeug F mit einer Vorrichtung V zur Sensordatenfusion sowie einer Sensorvorrichtung S1 dargestellt, die zur

Erfassung von Objekten, insbesondere anderer

Verkehrsteilnehmer und relevanter Eigenschaften derer, und zur Ermittlung eines entsprechenden Sensorobjekts s t eingerichtet ist. Dabei kann es sich z.B. um einen Kamera-, LiDAR-, Light Detection And Ranging, LaDAR-, Laser Detection And Ranging, RaDAR, Radio Detection And Ranging, Ultraschall- Punktlaser-, oder einen Infrarotsensor handeln. Unabhängig von der verwendeten Methode zur High-Level-Objektfusion wird im Automobilbereich als Ergebnis der Objektfusion

üblicherweise eine Liste von Rechtecken bzw. Quadern als Objektrepräsentation ausgegeben, welche erkannte,

insbesondere bewegliche, Objekte in der Umgebung des

Fahrzeugs F repräsentieren. Figur 1 zeigt ein solches

Fusionsobjekt , dem als relevante Eigenschaften

beispielhaft ein Referenzpunkt A, eine Länge und Breite bezüglich des Referenzpunkts A, eine Orientierung a f des

Fusionsobjekts bezüglich eines Referenzkoordinatensystems

R des Fahrzeugs F zugeordnet sind. Zudem können dem

Fusionsobjekt Indikatordaten zugeordnet sein, die

repräsentativ sind für eine Unsicherheit bei der Ermittlung der Länge, Breite und Orientierung a s . Die Unsicherheit kann beispielsweise durch eine Varianz ausgedrückt sein. Figur 1 zeigt ferner ein durch die Sensorvorrichtung S1 ermitteltes Sensorobjekt s t .

Das Fahrzeug F weist ferner beispielhaft eine weitere

Sensorvorrichtung S2 auf, die ebenfalls zur Erfassung der Umgebung des Fahrzeugs F eingerichtet ist. Die

Sensorvorrichtungen S1, S2 sind mit der Vorrichtung V zur Sensordatenfusion signaltechnisch gekoppelt. Durch die Sensorvorrichtungen S1, S2 bereitgestellte Sensorobjektdaten können durch die Vorrichtung V nach einem beliebigen

Verfahren zur High-Level-Objektfusion fusioniert und in einem Fusionsobjektdatensatz gespeichert werden.

Bei dem Verfahren zur High-Level-Objektfusion kann es sich um einen rekursiven Schätzprozess auf Basis des Information Matrix Fusion-Algorithmus (IMF) handeln.

Aus der formalen Beschreibung des IMF-Algorithmus ergibt sich, dass zu jedem Sensorobjekt mit Eigenschaften

und deren Unsicherheiten , das zum Zeitpunkt t zu einem aus j = 1...p Fusionsobjekten fusioniert werden soll, der

Zustand des Sensorobjekts s t-k zum letzten Fusionszeitpunkt bekannt sein muss. Da theoretisch sehr große k»1 möglich sind, ist es auf einem eingebetteten System mit geringen Speicherressourcen nicht ohne weiteres möglich, alle

benötigten Informationen für den IMF-Algorithmus zur

Verfügung zu stellen.

Der Vorrichtung V ist in diesem Zusammenhang insbesondere ein Daten- und Programmspeicher zugeordnet, in dem ein

Computerprogramm gespeichert ist, das anhand des

Ablaufdiagramms der Figur 2 im Folgenden näher erläutert wird .

In einem ersten Schritt P10 werden ein aktuelle

Sensorobjektdaten bereitgestellt, die repräsentativ sind für ein durch die Sensorvorrichtung S1 in einer Umgebung des Fahrzeugs F zu einem Zeitpunkt t ermitteltes Sensorobjekt s t . Insbesondere können in diesem Schritt mehrere

Sensorobjektdaten durch die Sensorvorrichtung S1 ermittelt werden, sodass insgesamt q > 1 verschiedene, durch die

Sensorvorrichtung S1 ermittelte Sensorobjekte , i = 1...q bereitgestellt werden. Beispielsweise werden in dem ersten Schritt P10 darüber hinaus auch aktuelle Sensorobjektdaten der weiteren Sensorvorrichtung S2 bereitgestellt.

Das Programm wird in einem Schritt P20 fortgesetzt, in dem ein Fusionsobjektdatensatz bereitgestellt wird. Der

Fusionsobjektdatensatz umfasst Fusionsobjektdaten, die jeweils repräsentativ sind für eines aus j = 1...p in der

Umgebung des Fahrzeugs F ermittelte Fusionsobjekte , die jeweils zur Sensordatenfusion zu dem Zeitpunkt t vorgesehen sind. Beispielsweise ist der Fusionsobjektdatensatz in einem Datenspeicher der Vorrichtung V hinterlegt und wurde in einem vorangegangenen Fusionsverfahren aus den Sensorobjektdaten der Sensorvorrichtungen S1, S2 ermittelt.

In einem darauffolgenden Schritt P30 wird ein

Sensorobjektdatensatz bereitgestellt.

Der Sensorobjektdatensatz H umfasst historische

Sensorobjektdaten, die jeweils repräsentativ sind für eines aus i = 1...m durch die Sensorvorrichtung Sl in der Umgebung des Fahrzeugs F zu einem vorangegangen Zeitpunkt t— k

ermittelte Sensorobjekte , wobei n,m ³1. Beispielsweise wird in dem ersten Schritt P30 darüber hinaus auch ein

Sensorobjektdatensatz der weiteren Sensorvorrichtung S2 bereitgestellt .

Der Sensorobjektdatensatz H kann auch als

Assoziationshistorie bezeichnet werden. Eine Fusion ergibt sich erst aus zuvor erfolgter Assoziation von Sensor- und Fusionsobjekt. Statt also alle q von der Sensorvorrichtung S1 zu dem Zeitpunkt t erkannten Sensorobjekte , i = 1...q

aufzuzeichnen, genügt es, nur die p £ q tatsächlich zu einem Fusionsobjekt assoziierten Sensorobjekte , i = 1...p in die Assoziationshistorie aufzunehmen. In anderen Worten kann in einem dem Schritt P30 vorausgehenden und einem dem Schritt P10, in dem die aktuellen Sensordaten ermittelt werden, nachfolgenden Schritt jeweils eine Auswahl getroffen werden, welche der ermittelten aktuellen Sensordaten in die

Assoziationshistorie aufgenommen werden. Dabei kann für jede Sensorvorrichtung S1, S2 eine eigene Assoziationshistorie unabhängig von den Assoziationshistorien anderer

Sensorvorrichtungen im Fusionssystem aufgezeichnet werden. Im Folgenden wird daher nur die Assoziationshistorie der

Sensorvorrichtung S1 betrachtet.

Das Verfahren wird im Anschluss an den Schritt P30 in einem Schritt P40 fortgesetzt, in dem abhängig von dem

Sensorobjektdatensatz H ein reduzierter

Sensorobjektdatensatz ermittelt wird, wobei ein zum Zeitpunkt t zu einem Fusionsobjekt f t assoziiertes Sensorobjekt bezeichnet. Der reduzierte Sensorobjektdatensatz

H' wird dann jeweils den Fusionsobjekten zugeordnet und in

den Fusionsobjektdaten hinterlegt.

Für den Sensorobjektdatensatz H ergibt sich die

Notwendigkeit von n > 1 erst aus einer möglichen Assoziation unterschiedlicher Sensorobjekte zu unterschiedlichen

Zeitpunkten zum selben Fusionsobjekt. In der Regel kann aber davon ausgegangen werden, dass die Sensorvorrichtung S1 die Objekte in der Umgebung des Fahrzeugs F durchgehend verfolgt und es allenfalls in dichten Verkehrssituationen zu

mehrdeutigen Objektbildungen kommen kann, wobei ein tatsächliches Objekt in der Umgebung zur Bildung mehrerer (räumlich oder zeitlich getrennter) Sensorobjekte führt.

Außerdem wird zu jedem Zeitpunkt maximal ein Objekt der Sensorvorrichtung S1 zu demselben Fusionsobjekt assoziiert.

Daher genügt es, die wenigen jeweils zuletzt zu einem

Fusionsobjekt assoziierten Sensorobjekte k = 1..n am

Fusionsobjekt zu vermerken. Die Historie enthält so nun unterschiedliche Sensorobjekte zu unterschiedlichen

Zeitpunkten, . In der Praxis hat sich ein

Wert von n = 2 bewährt, sodass einmalige Mehrdeutigkeiten gehandhabt werden können. Das resultierende Modell bei n = 2 für die Realisierung der Assoziationshistorie ist in Figur 3 gezeigt. Dabei ist jedem Fusionsobjekt jeweils ein

reduzierter Sensorobjektdatensatz H' S1 der Sensorvorrichtung S1 und ein reduzierter Sensorobjektdatensatz H' S2 der weiteren Sensorvorrichtung S2 zugeordnet. Der reduzierte

Sensorobjektdatensatz H' S1 umfasst dabei die zu den

Zeitpunkten t— 1 und t— 2 assoziierten Sensorobjekte und

der Sensorvorrichtung Sl, während der reduzierte

Sensorobjektdatensatz H' S2 die zu den Zeitpunkten t— 1 und t—

2 assoziierten Sensorobjekte und der weiteren

Sensorvorrichtung S2 umfasst.

In einem darauffolgenden Schritt P50 wird abhängig von dem reduzierten Sensorobjektdatensatz H' das Sensorobjekt s t zu einem Fusionsobjekt assoziiert und ein innoviertes

Fusionsobjekt ermittelt.

Hierzu wird zunächst geprüft, ob der dem jeweiligen

Fusionsobjekt zugeordnete, reduzierte

Sensorobjektdatensatz H' ein zu einem früheren Zeitpunkt t— k, k = 1...n, assoziiertes Sensorobjekt umfasst.

Im Falle, dass der reduzierte Sensorobjektdatensatz H' zu keinem vorangegangenen Zeitpunkt t— k, k = 1...n, ein

assoziiertes Sensorobjekt umfasst, wird das Sensorobjekt

s t in einem Schritt P60 mittels des use of cross covariance -

Algorithmus zu einem Fusionsobjekt assoziiert und das

innovierte Fusionsobjekt ermittelt. Anderenfalls wird das Sensorobjekt s t in einem Schritt P70 mittels des IMF,

Information Matrix Fusion, -Algorithmus basierend auf dem reduzierten Sensorobjektdatensatz H' zu einem Fusionsobjekt assoziiert und ein innoviertes Fusionsobjekt ermittelt.

Kann aus der wie oben erläutert begrenzten

Assoziationshistorie kein zu einem früheren Zeitpunkt

fusioniertes Sensorobjekt gefunden werden, beispielsweise bei erstmaliger Fusion des Sensorobjekts oder weil die Wahl von q die Mehrdeutigkeit der Sensorvorrichtung nicht auflösen kann, so findet die Fusion nur mit approximativer Berücksichtigung etwaiger Korrelationen unter Verwendung der „use of cross covariance"-Methode Anwendung.

Das Programm wird anschließend beendet oder gegebenenfalls nach einer vorgegebenen Unterbrechung in dem Schritt P10 mit aktualisiertem Objektdatensatz fortgesetzt.

In einer alternativen Ausführungsvariante ist der Schritt P70 um eine Plausibilisierung des innovierten Fusionsobjekts ergänzt . In der praktischen Anwendung des IMF Algorithmus zur Fusion der Sensorobjektdaten mehrerer Sensorvorrichtungen auf einem eingebetteten System kann es zu einem Fehlerfall kommen, der zur Bestimmung fusionierter Eigenschaften führt, die grob von den von der entsprechenden Sensorvorrichtung berichteten Eigenschaften abweichen.

Dem jeweiligen Sensorobjekt s t-1 , s t sind in dieser

Ausführungsvariante Merkmalsdaten zugeordnet, die

repräsentativ sind für die durch die Sensorvorrichtung berichteten Eigenschaften wie einer lateralen Erstreckung, Position und Orientierung des Sensorobjekts s t-1 , s t . Darüber hinaus sind dem jeweiligen Sensorobjekt s t-1 , s t

Indikatordaten zugeordnet, die repräsentativ sind

für eine Unsicherheit bei der Ermittlung der Eigenschaften.

Ebenso sind dem jeweiligen Fusionsobjekt

Merkmalsdaten , die repräsentativ sind für

Eigenschaften des entsprechenden Fusionsobjekts und

Indikatordaten , die repräsentativ sind für eine

Unsicherheit bei der Ermittlung der Eigenschaften,

zugeordnet .

In einem dem Schritt P50 nachfolgenden Schritt P72 wird abhängig von den Merkmalsdaten ein

Merkmalsfusionszustand ermittelt, der repräsentativ ist

für die Eigenschaften des Fusionsobjekts zu dem Zeitpunkt

t nach Sensordatenfusion mit ·

Daraufhin wird in einem Schritt P74 abhängig von den

Merkmalsdaten und von den Indikatordaten

ein innovierter Merkmalsfusionszustand ermittelt, der

repräsentativ ist für die Eigenschaften des Fusionsobjekts zu dem Zeitpunkt t nach der Sensordatenfusion mit .

Schließlich wird in einem Schritt P76 abhängig von dem

Merkmalsfusionszustand dem innovierten

Merkmalsfusionszustand und den Merkmalsdaten geprüft, ob der innovierte Merkmalsfusionszustand die Gleichung

erfüllt. In anderen Worten wird

in dem Schritt P76 geprüft, ob die intuitive Annahme, dass die aktualisierten Eigenschaften nach der Fusion zwischen den ursprünglichen Eigenschaften und den Eigenschaften des fusionierten Sensor-Objekts liegen, verletzt ist.

Im Falle, dass die Gleichung erfüllt ist, wird das innovierte Fusionsobjekt in dem Schritt P70 abhängig von dem innovierten

Merkmalszustand ermittelt. Anderenfalls wird das

Sensorobjekt s t in dem Schritt P60 mittels des use of cross covariance -Algorithmus zu einem Fusionsobjekt assoziiert

und das innovierte Fusionsobjekt ermittelt.

Zur Behandlung dieses Fehlerfalls wird die IMF-Fusion von Fusions- und Sensor-Objekt insbesondere wie gehabt ausgeführt und das Ergebnis zur Überprüfung temporär

zwischengespeichert. Verletzt das Ergebnis die oben

beschriebene intuitive Annahme, so wird das temporäre

Ergebnis verworfen. Es findet stattdessen eine Fusion nur mit approximativer Berücksichtigung etwaiger Korrelationen unter Verwendung der „use of cross covariance"-Methode statt.