Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
METHOD FOR DETERMINING WHETHER A VEHICLE CAN PASS THROUGH AN OBJECT BY MEANS OF A THREE-DIMENSIONAL CAMERA
Document Type and Number:
WIPO Patent Application WO/2013/034138
Kind Code:
A1
Abstract:
The invention relates to a method and to a device for determining whether a vehicle can pass through an object by means of a (spatially resolving) three-dimensional camera. At least one image of the surroundings of the vehicle is recorded by a three-dimensional camera. At least one path on which the vehicle is likely to move is ascertained. The image data of the three-dimensional camera is used to determine whether an object located on the path is recognised and whether said object has one or more connections to the ground. Upon determining a corresponding object, the dimensions and shape of the area or the space between object and roadway through which the vehicle is to pass according to the path are determined from the image data. By comparing the dimensions and the shape of the entry area or the space to be passed through with the dimensions and shape of the vehicle, it is determined whether and how the vehicle can pass through the object and further suitable actions can be taken.

Inventors:
HEGEMANN STEFAN (DE)
LUEKE STEFAN (DE)
HASSENPFLUG CHRISTOPH (DE)
Application Number:
PCT/DE2012/100203
Publication Date:
March 14, 2013
Filing Date:
July 06, 2012
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
CONTI TEMIC MICROELECTRONIC (DE)
HEGEMANN STEFAN (DE)
LUEKE STEFAN (DE)
HASSENPFLUG CHRISTOPH (DE)
CONTINENTAL TEVES AG & CO OHG (DE)
International Classes:
B60G17/0165; B60Q1/14; B60Q9/00; G01S17/48; G01S17/894; G01S17/931; G08G1/16
Foreign References:
EP1892688A12008-02-27
DE102009040170A12010-04-22
DE19743580A11999-04-29
US20090121852A12009-05-14
EP1209485A22002-05-29
DE10234645B42004-07-22
DE102004015749A12004-12-02
DE102009040170A12010-04-22
Other References:
U. FRANKE ET AL., 6D-VISION: FUSION OF STEREO AND MOTION FOR ROBUST ENVIRONMENT PERCEPTION IN PROCEEDINGS OF DAGM-SYMPOSIUM, 2005, pages 216 - 223
Attorney, Agent or Firm:
REUTER, ANDREAS (DE)
Download PDF:
Claims:
Patentansprüche

1. Verfahren zur Bestimmung einer Durchfahrbarkeit eines Objekts für ein Fahrzeug mittels einer 3D-Kamera, wo¬ bei

mit der 3D-Kamera mindestens ein Bild von der vor dem Fahrzeug liegenden Umgebung aufgenommen wird;

zumindest eine Trajektorie ermittelt wird, auf der sich das Fahrzeug wahrscheinlich bewegen wird;

aus den Bilddaten der 3D-Kamera ermittelt wird:

- ob ein über der Trajektorie befindliches Objekt vor¬ liegt und

- ob dieses eine oder mehrere Verbindung (en) zum Boden aufweist ;

und daraus ermittelt wird, ob eine Durchfahrt des Ob¬ jekts möglich ist, wobei Abmessungen und Form der Eintrittsfläche zwischen Objekt und Fahrbahn aus den Bilddaten ermittelt werden.

2. Verfahren nach Anspruch 1, wobei zusätzlich zur Fläche auch Abmessungen und Form des Raumes zwischen Objekt und Fahrbahnoberfläche, der durchfahren werden soll, aus den Bilddaten ermittelt oder abgeschätzt werden.

3. Verfahren nach Anspruch 1 oder 2, wobei die Ermittlung anhand einer Tiefenkarte aus den Bilddaten der 3D- Kamera erfolgt.

4. Verfahren nach Anspruch 3, wobei die Tiefenkarte eine Disparitätskarte ist.

5. Verfahren nach Anspruch 3 oder 4, wobei Kanten der Eintrittsfläche aus der Tiefenkarte bestimmt werden.

6. Verfahren nach einem der vorhergehenden Ansprüche, wobei die Kanten der Eintrittsfläche mittels eines Algo¬ rithmus zur Kantenerkennung aus den Bilddaten bestimmt werden .

7. Verfahren nach einem der vorhergehenden Ansprüche, wobei die Bestimmung von Abmessungen und Form der Eintrittsfläche aus der Tiefenkarte kombiniert wird mit denen aus der Kantenerkennung.

8. Verfahren nach einem der vorhergehenden Ansprüche, wobei Abmessungen und Form der Fläche oder des Raumes, die oder der durchfahren werden soll, über eine Folge mehrerer Bilder der 3D-Kamera ermittelt wird.

9. Verfahren nach Anspruch 8, wobei Abmessungen und Form der Fläche oder des Raumes, die oder der durchfahren werden soll, unter Berücksichtigung der Bewegung der 3D-Kamera ermittelt wird.

10. Verfahren nach Anspruch 9, wobei aus den Bilddaten der 3D-Kamera eine 3D-Szenen-Rekonstruktion durchgeführt wird.

11. Verfahren nach einem der vorhergehenden Ansprüche, wobei die 3D-Kamera eine Stereokamera ist.

12. Verfahren nach einem der Ansprüche 1 bis 10, wobei die 3D-Kamera eine Photomischdetektor-Kamera ist.

13. Vorrichtung zur Bestimmung einer Durchfahrbarkeit eines Objekts für ein Fahrzeug, umfassend eine 3D- Kamera zur Aufnahme mindestens eines Bildes von der vor dem Fahrzeug liegenden Umgebung;

Mittel zum Bestimmen mindestens einer Trajektorie, auf der sich das Fahrzeug wahrscheinlich bewegen wird; Mittel zur Bestimmung aus den Bilddaten der 3D-Kamera

- ob ein über der Trajektorie befindliches Objekt vor¬ liegt und

- ob dieses eine oder mehrere Verbindungen zum Boden aufweist ;

und Mittel zur Bestimmung, ob eine Durchfahrt des Ob¬ jekts möglich ist, durch Bestimmen von Abmessungen und Form der Eintrittsfläche zwischen Objekt und Fahrbahn aus den Bilddaten.

Description:
Verfahren zur Bestimmung einer Durchfahrbarkeit eines Objekts für ein Fahrzeug mittels einer 3D-Kamera

Die Erfindung betrifft ein Verfahren und eine Vorrichtung zur Bestimmung einer Durchfahrbarkeit eines Objekts für ein Fahrzeug mittels einer (räumlich auflösenden) 3D-Kamera.

Objekte, die über einer Fahrbahn verlaufen, wie z.B. Brücken, Tunnel, Schilderbrücken, werden insbesondere von Radarsensoren als Hindernis erkannt, ohne dass aus den Radar ¬ daten eine zuverlässige Einschätzung getroffen werden kann, ob das Hindernis durchfahren werden kann. Auch mittels Mo- nokameras gestaltet sich diese Einschätzung häufig schwie ¬ rig .

Die DE 10234645 B4 zeigt eine vertikale Stereokameraanord ¬ nung für ein Fahrzeug, mittels der eine Durchfahrtshöhe ei ¬ ner Brücke aus der Position der waagrechten Unterkante der Tunneleinfahrt und der Position einer waagrechten Kante zwischen Tunnelvorderseite und Fahrbahnniveau hinreichend exakt geschätzt werden kann. Es wird ferner angegeben, dass eine Kombination aus einer horizontalen und einer vertikalen Stereoanordnung die Erfassung und Vermessung sämtlicher horizontaler und vertikaler Infrastrukturkomponenten im Straßenverkehrt ermöglicht.

DE 10 2004 015 749 AI zeigt ebenfalls eine Vorrichtung zur Bestimmung einer Durchfahrtsmöglichkeit für ein Fahrzeug. Vor einem Hindernis wird die Durchfahrtsbreite und/oder Durchfahrtshöhe mittels einer Sensoreinheit gemessen. Zu ¬ sätzlich wird vorgeschlagen mittels eines Sensors der Sensoreinheit den Verlauf der vorausliegenden Fahrbahn zu überwachen, um gegebenenfalls eine Höhendifferenz zwischen einer ansteigenden Fahrbahn und der Position eines die Fahrbahn überspannenden Trägers bestimmen zu können.

DE 10 2009 040 170 AI schlägt vor, eine Sensoreinheit mit z.B. einer Stereokamera einzusetzen, um eine maximale Durchfahrtshöhe und/oder eine Mindestbodenfreiheit zu er ¬ mitteln und eine Fahrwerks-Aktoreinheit derart anzusteuern, dass die maximale Durchfahrtshöhe durch die Gesamthöhe des Fahrzeugs nicht überschritten wird und die Mindestbodenfreiheit eingehalten wird, sofern dies für den zu durchfah- renden Fahrbahnbereich möglich ist.

Einen Ansatz zur Objekterkennung bei der Stereobilddatenverarbeitung zeigen U. Franke et al . In 6D-Vision: Fusion of Stereo and Motion for Robust Environment Perception in Proceedings of DAGM-Symposium 2005, S. 216-223. Hierbei werden Positionen und Geschwindigkeiten vieler Bildpunkte in drei Dimensionen simultan geschätzt.

Es zeigt sich, dass die Verfahren und Vorrichtungen nach dem Stand der Technik Nachteile mit sich bringen und unter Umständen fehlerhafte Einschätzungen liefern, z.B. wenn Breite und Höhe des Eintrittsbereichs nicht ausreichen, um die Durchfahrbarkeit eines Hindernisses zu gewährleisten. Es ist Aufgabe der vorliegenden Erfindung diese Nachteile zu überwinden und eine zuverlässigere Einschätzung zu lie ¬ fern, ob und wie ein Objekt durchfahren werden kann. Die Aufgabe wird gelöst, indem mit einer 3D-Kamera mindes ¬ tens ein Bild von der Umgebung des Fahrzeugs aufgenommen wird, vorzugsweise in (möglicher) Fahrtrichtung. Es wird zumindest eine Trajektorie ermittelt, auf der sich das Fahrzeug wahrscheinlich bewegen wird. Die Trajektorie kann anhand von Bilddaten der 3D-Kamera ermittelt werden, sie könnte aber auch anderweitig ermittelt werden, in jedem Fall liegen dem Verfahren Positionsmerkmale der ermittelten Trajektorie vor, die einen Abgleich mit den Bilddaten der 3D-Kamera ermöglichen.

Aus den Bilddaten der 3D-Kamera wird ermittelt, ob ein über der Trajektorie befindliches Objekt erkannt wird und ob dieses eine oder mehrere Verbindungen zum Boden aufweist. Es können auch in oder nahe der Fahrzeug-Traj ektorie lie- gende Objekte als potenzielle Hindernisse ermittelt werden und ob sich diese Objekte über der Trajektorie verbinden. Auch über der Fahrbahn „hängende" Objekte, die im Bereich der Trajektorie keine Verbindung zum Boden haben können ermittelt werden.

Bei einem entsprechenden Objekt werden Abmessungen und Form der Fläche zwischen Objekt und Fahrbahn (im Folgenden auch als Eintrittsfläche bezeichnet) aus den Bilddaten ermit ¬ telt, die entsprechend der Trajektorie durchfahren werden soll. Eine Ermittlung der Form kann auf Objekt-, Freiraum-, Bild- und/oder Disparitätsdaten der 3D-Kamera aufsetzen und diese als Ausgangspunkt zur Bestimmung der genauen Abmes ¬ sungen der Fläche nutzen. Das Verfahren ist jedoch nicht beschränkt auf Objekte mit einer abgeschlossenen Eintrittsfläche im Bildbereich. Sofern z.B. ein über der Fahrbahn hängendes Objekt erkannt wird, das im Bildbereich keine Verbindung zum Boden aufweist, weil die Brückenpfeiler außerhalb des Sichtbereichs der 3D-Kamera liegen, wird nur die im Bild abgebildete (Teil-) Fläche zwischen hängendem Objekt und Fahrbahn vermessen und deren Form bestimmt. Dasselbe Vorgehen ist mög ¬ lich, falls z.B. bei einer sehr hohen Brücke nur die seitlichen Brückenpfeiler im Bild abgebildet sind.

Eine Präzisierung der Bestimmung von Abmessungen und Form der Eintrittsfläche kann vorteilhaft durch eine Sensorfusi ¬ on erfolgen, indem die Daten der 3D-Kamera mit den Daten weiterer Sensoren fusioniert werden, wie z.B. Ultraschall, Lidar, Radar etc.

Durch einen Vergleich der Abmessungen und Form der Eintrittsfläche mit denen des Fahrzeugs wird ermittelt, ob und wie das Objekt durchfahren werden kann. Es kann also auch eine genaue Durchfahrtstraj ektorie oder ein Durchfahrtskor ¬ ridor bestimmt werden, entlang der bzw. dem das Fahrzeug nicht mit dem Objekt kollidieren wird.

Diese Informationen können vorzugsweise dem Fahrer mitgeteilt werden. Der Fahrer kann auch bei der Einfahrt unter- stützt werden oder das Fahrzeug könnte automatisch in das Objekt gesteuert werden, wenn eine Durchfahrt möglich ist. Sofern eine Durchfahrt nicht möglich ist, kann eine Warnung des Fahrers oder sogar ein Eingriff in die Fahrzeugsteue- rung erfolgen.

Aufgrund der präzisen Ermittlung von Abmessungen und insbesondere der Form einer Durchfahrtsfläche, ermöglicht die Erfindung auch die Erkennung, dass ein Fahrzeug nicht durch eine Durchfahrtsform passt, obwohl die Gesamthöhe des Fahr ¬ zeugs unter der maximalen Durchfahrtshöhe des Objekts liegt. Das ist z.B. der Fall, wenn ein LKW mit eckigem Querschnitt durch einen abgerundeten Tunnel fahren will, weil die Seitenhöhen des Tunnels zu niedrig sind.

In einer vorteilhaften Ausführungsform werden zusätzlich zur Eintrittsfläche auch Abmessungen und Form des Raumes zwischen Objekt und Fahrbahnoberfläche, der durchfahren werden soll, aus den Bilddaten ermittelt oder abgeschätzt. Dies ist mittels der Bilddaten der 3D-Kamera möglich. So ¬ fern Teile des durchfahrbaren Raumes auf den Bilddaten verdeckt sind, können die Form und die Abmessungen des tat ¬ sächlichen Raumes aus den vorhandenen Daten abgeschätzt werden .

Die Ermittlung der Fläche oder des Raumes, die oder der durchfahren werden soll, kann bevorzugt anhand einer Tiefenkarte, insbesondere einer Disparitätskarte aus den Bild ¬ daten der 3D-Kamera erfolgen. Aus der Tiefenkarte bzw. Disparitätskarte können vorteil ¬ haft Kanten der Eintrittsfläche und/oder des durchfahrbaren Raumes bestimmt werden. Alternativ können die Kanten der Eintrittsfläche mittels eines Algorithmus zur Kantenerkennung aus den Bilddaten bestimmt werden, beispielsweise mittels eine Canny- oder So- bel-Operators . Gemäß einer vorteilhaften Weiterbildung der Erfindung können die Bestimmung von Abmessungen und Form der Eintrittsfläche bzw. des durchfahrbaren Raumes aus der Tiefenkarte kombiniert werden mit denen aus der Kantenerkennung anhand einer Intensitäts- bzw. Farbauswertung der Bildpunkte.

Abmessungen und Form der Fläche oder des Raumes, die oder der durchfahren werden soll, können bevorzugt über eine Folge mehrerer Bilder der 3D-Kamera ermittelt werden. Da ¬ durch kann beispielsweise eine anfangs teilweise verdeckte räumliche Gestalt eines Tunnels mit fortschreitender Ein ¬ fahrt in den Tunnel aktualisiert und hinsichtlich der Ab ¬ messungen vervollständigt werden.

Die Abmessungen und Form der Fläche oder des Raumes, die oder der durchfahren werden soll, können insbesondere unter Berücksichtigung der Bewegung der 3D-Kamera aufgrund der Bewegung des eigenen Fahrzeugs ermittelt werden. Hierzu kann vorteilhaft aus den Bilddaten der 3D-Kamera ei ¬ ne 3D-Szenen-Rekonstruktion durchgeführt werden, beispielsweise mit der Methode des Optischen Flusses.

Vorteilhaft erfolgt eine Bestimmung der Raumpunkte des Ob ¬ jekts, die dem Fahrzeug bzw. der 3D-Kamera am nächsten lie ¬ gen, in verschiedenen Höhensegmenten unter der Annahme, dass die Raumpunkte (z.B. bei rechteckigen Abschnitten von Eintrittsflächen senkrecht übereinander liegen.

Hierbei können bevorzugt die gemessenen Abstände in Längs ¬ und Quer-Richtung des Fahrzeugs bzw. der Trajektorie unter ¬ schiedlich gewichtet werden. Die 3D-Kamera ist bevorzugt eine Stereokamera oder eine Photomischdetektor-Kamera bzw. PDM-Sensor.

Die Erfindung umfasst ferner eine Vorrichtung zur Bestimmung einer Durchfahrbarkeit eines Objekts für ein Fahrzeug. Die Vorrichtung umfasst eine 3D-Kamera zur Aufnahme mindes ¬ tens eines Bildes von der vor dem Fahrzeug liegenden Umge ¬ bung. Außerdem umfasst die Vorrichtung Mittel zum Bestimmen mindestens einer Trajektorie, auf der sich das Fahrzeug wahrscheinlich bewegen wird. Zusätzlich sind Mittel vorge- sehen zur Bestimmung aus den Bilddaten der 3D-Kamera, ob ein über der Trajektorie befindliches Objekt vorliegt und ob dieses eine oder mehrere Verbindungen zum Boden auf ¬ weist. Schließlich sind Mittel zur Bestimmung vorgesehen, ob eine Durchfahrt des Objekts möglich ist, durch Bestimmen von Abmessungen und Form der Fläche oder des Raumes zwischen Objekt und Fahrbahn aus den Bilddaten.

Im Folgenden wird die Erfindung anhand von Figuren und Aus- führungsbeispielen näher erläutert.

Es zeigen:

Fig. 1 einen Tunnel, dessen Eintrittsfläche bogenförmig ist und in dem der Fahrbahnverlauf einer Kurve entspricht;

Fig. 2 eine Brücke über der Fahrbahn, auf der das eigene Fahrzeug fährt.

In Fig. 1 ist ein Tunnel dargestellt, der eine bogenförmige Eintrittsfläche aufweist. Dadurch hängt die maximale Durch- fahrtshöhe für ein Fahrzeug von mehreren Aspekten ab:

Neben der maximalen Höhe des Fahrzeugs auch von der Form (Höhenprofil) des Fahrzeugs, von der Breite des Fahrzeugs und von der lateralen Position des Fahrzeugs im Tunnel.

Die bogenförmige Eintrittsfläche des Tunnels wird definiert vom linken (a) und rechten Rand (b) des Tunneleingangs, die beide senkrecht verlaufen und der oberen Begrenzung (c) des Tunneleingangs, die gekrümmt ist.

Der Innenraum des Tunnels, d.h. der durchfahrbare Raum, ist definiert durch den linken (d) und rechten (f) Rand des Tunnelinneren, die man als Tunnelwände bezeichnen könnte, und durch die Tunneldecke (e) (bzw. oberer Rand des Tunnel ¬ inneren) . Die Fahrbahn (g) beschreibt im Tunnel eine Kurve. Daher ist der Tunnelinnenraum in Längsrichtung entsprechend gekrümmt. Die Form des Raumes (des Tunnels), die durchfah ¬ ren werden soll, ist vorgegeben durch den Innenraum des Tunnels und wird nach unten durch die Fahrbahnoberfläche (g) begrenzt.

Kanten der Eintrittsfläche liegen zwischen den Rändern des Tunneleingangs (a, b, c) und den Rändern des Tunnelinneren (d, f, e) . Die untere Kante der Eintrittsfläche befindet sich dort, wo die durch die zuvor beschriebenen Kanten des Tunneleingangs definierte Fläche die Fahrbahnoberfläche (g) schneidet .

Aus den Bilddaten einer 3D-Kamera können Form und Abmessungen sowohl der (Eintritts-) Fläche als auch des Raums, der durchfahren werden soll, bestimmt werden.

Durch diese Bestimmungen lassen sich beispielsweise folgende Funktionen realisieren:

Erkennung von Brücken oder Tunneln auf der Fahrbahn - Erkennung, dass sich das Fahrzeug aktuell in einem

Tunnel befindet (Durchfahrt ist von allen Seiten begrenzt)

Unterstützung beim Navigieren, Rangieren und Einfahren durch enge Gassen, Parkhäuser, Tore und Ga- ragen

Automatisiertes Einfahren in Engstellen wie z.B. Garagen, Einfahrten, Gassen, Tordurchfahrten, Brückendurchfahrten usw.

Durch eine Vermessung der Form einer Fläche bzw. eines Raumes zwischen einem oder mehreren Objekten und der Fahrbahn können Unfälle und Beschädigungen vermieden werden. Dazu kann eine Warnung des Fahrers oder ein Eingriff in die Fahrzeugsteuerung wie z.B. automatisches Bremsen erfolgen.

In Fig. 2 ist eine Brücke dargestellt, die über der Fahr ¬ bahn verläuft, auf der das eigene Fahrzeug fährt. Nahe der Fahrbahn weist die Brücke keine Verbindung zum Boden auf. Die beiden Brückenpfeiler sind aber über der Fahrbahn verbunden. Die Durchfahrtsbreite und -höhe kann mittels einer 3D-Kamera, z.B. einer Stereokamera bestimmt werden. Wenn der Sichtbereich der Stereokamera kleiner wäre, hätte die Brücke im Sichtbereich keine Verbindung zum Boden, weil die Brückenpfeiler nicht auf dem Bild enthalten wären. In diesem Fall kann ohne Schwierigkeiten die Durchfahrtshöhe un ¬ ter der Brücke aus den Bilddaten ermittelt werden.

Obwohl diese Bestimmung prinzipiell bereits nach dem Stand der Technik möglich und in der Regel ausreichend ist, kann es Situationen geben, die kritisch sind: z.B. eine lokale Bodenerhebung auf der Fahrbahn unter der Brücke, auch z.B. aufgrund eines Gegenstands auf der Fahrbahn (nicht darge ¬ stellt in Fig. 2) . Dies führt zu einer lokalen Verkürzung der maximal durchfahrbaren Höhe, was zu einem Unfall führen kann. Mittels der Stereokamera kann nach einem vorliegenden Verfahren der Raum zwischen Brückenunterseite und Fahrbahn präzise vermessen werden, wodurch auch lokale Erhebungen der Fahrbahn (oder Absenkungen der Brückenunterseite) berücksichtigt werden.