Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
DETECTION OF OBSTACLES IN THE ENVIRONMENT OF A MOTOR VEHICLE BY IMAGE PROCESSING
Document Type and Number:
WIPO Patent Application WO/2018/138064
Kind Code:
A1
Abstract:
The invention relates to a method for detecting obstacles in the environment of a motor vehicle, using images captured by a camera (2FR) onboard the vehicle, the method comprising the application of an algorithm (20) for detecting obstacles in which a plurality of image descriptors is generated (22) by at least partial scanning, by a sliding window (W), of a plurality of images from a pyramid (P) of images, each image from the pyramid (P) of images corresponding to a different scale of at least one area of interest in a captured image (ImFR), then, a classification (23) of the image descriptors is performed to determine possible candidates that are representative of a potential presence of obstacles. The method is characterized in that each image from the pyramid (P) is furthermore generated (21) using said at least one area of interest corrected at least according to one first homographic transformation (Thom(d1), Thom(d2)...Thom(dn)) as a function of the scale of the image, in order to correct deformations of perspective related to the position of the camera on the vehicle.

Inventors:
BEN HAMADOU ACHRAF (DE)
LAFON PHILIPE (FR)
Application Number:
PCT/EP2018/051500
Publication Date:
August 02, 2018
Filing Date:
January 23, 2018
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
VALEO SCHALTER & SENSOREN GMBH (DE)
International Classes:
G06K9/00; G06K9/36
Foreign References:
EP2924607A22015-09-30
EP2275971A12011-01-19
FR3014229A12015-06-05
Other References:
JIYOUNG JUNG ET AL: "Image Warping for View-invariant Object Matching using Stereo Cameras", 대한전자공학회 기타 간행물, February 2010 (2010-02-01), pages 165 - 168, XP055405554, Retrieved from the Internet [retrieved on 20170907]
CHRISTIAN WIEDEMANN ET AL: "Recognition and Tracking of 3D Objects", 10 June 2008, PATTERN RECOGNITION; [LECTURE NOTES IN COMPUTER SCIENCE], SPRINGER BERLIN HEIDELBERG, BERLIN, HEIDELBERG, PAGE(S) 132 - 141, ISBN: 978-3-540-69320-8, XP019090357
Download PDF:
Claims:
REVENDICATIONS

1. Procédé de détection d'obstacles dans l'environnement d'un véhicule automobile (1), à partir d'images capturées par une caméra (2FR) embarquée sur ledit véhicule automobile (1), le procédé comportant l'application d'un algorithme (20) de détection d'obstacles par reconnaissance de formes et apprentissage automatique dans lequel on génère (22) une pluralité de descripteurs d'images par le balayage au moins partiel, par une fenêtre glissante (W), d'une pluralité d'images d'une pyramide (P) d'images, chaque image de la pyramide (P) d'images correspondant à une échelle différente d'au moins une zone d'intérêt d'une image (ImFR) capturée, puis on effectue une classification (23) des descripteurs d'images en vue de déterminer des candidats possibles représentatifs d'une présence potentielle d'obstacles, le procédé étant caractérisé en ce que chaque image de la pyramide (P) d'images est en outre générée (21) à partir de ladite au moins une zone d'intérêt corrigée au moins selon une première transformation homographique (Thom(d i), h0m(d 2) - - - hom(dn)) fonction de l'échelle de l'image, pour corriger des déformations de perspectives liées au positionnement de la caméra sur ledit véhicule.

2. Procédé selon l'une quelconque des revendications précédentes, caractérisé en ce que chaque image de la pyramide (P) d'images est générée (21) à partir de ladite au moins une zone d'intérêt corrigée en outre selon une deuxième transformation (Topt) apte à supprimer des distorsions optiques intrinsèques à la caméra (2FR) .

3. Procédé selon la revendication 2, caractérisé en ce que la première transformation homographique (Thom(d i), h0m(d 2) - - - hom(dn)) et la deuxième transformation (2FR) sont appliquées simultanément à ladite au moins une zone d'intérêt au moment de la génération de ladite pyramide (P) d'images.

4. Procédé selon la revendication 2, caractérisé en ce que la deuxième transformation (Topt) est appliquée directement sur l'image (IrriFR) capturée par la caméra (2FR), avant la génération de ladite pyramide d'images.

5. Système de détection d'obstacles dans l'environnement d'un véhicule automobile (1), à partir d'images capturées par une caméra (2FR) embarquée sur ledit véhicule automobile (1), ledit système ledit système comportant un module (3) configuré pour implémenter un algorithme (20) de détection d'obstacles par reconnaissance de formes et apprentissage automatique dans lequel on génère (22) une pluralité de descripteurs d'images par le balayage au moins partiel, par une fenêtre glissante (W), d'une pluralité d'images d'une pyramide (P) d'images, chaque image de la pyramide (P) d'images correspondant à une échelle différente d'au moins une zone d'intérêt d'une image (IMFR) capturée, puis on effectue une classification (23) des descripteurs d'images en vue de déterminer des candidats possibles représentatifs d'une présence potentielle d'obstacles, caractérisé en ce que ledit module (3) est en outre apte à générer chaque image de la pyramide (P) d'images à partir de ladite au moins une zone d'intérêt corrigée au moins selon une première transformation homographique (T 0m(di), hom(d 2) - - - hom(dn)) fonction de l'échelle de l'image, pour corriger des déformations de perspectives liées au positionnement de la caméra sur ledit véhicule.

6. Système selon la revendication 5, caractérisé en ce les images sont capturées par une caméra de type « fisheye ».

Description:
DETECTION D'OBSTACLES DANS L'ENVIRONNEMENT D'UN VEHICULE AUTOMOBILE PAR TRAITEMENT D'IMAGES

La présente invention concerne de manière générale les véhicules automobiles, et plus précisément un procédé et un système de détection d'obstacles dans l'environnement d'un véhicule automobile, à partir d'images capturées par une caméra embarquée sur ledit véhicule automobile.

La détection d'obstacles dans l'environnement immédiat d'un véhicule automobile à conduite autonome ou équipé de systèmes d'assistance à la conduite (ou ADAS, initiales anglo-saxonnes mises pour Advanced Driver Assistance System) est cruciale pour prévenir des situations dangereuses. Les obstacles peuvent être notamment d'autres véhicules motorisés, statiques ou mobiles, pouvant présenter un danger particulier, ou bien des piétons. On comprend aisément que la détection de ces obstacles, incluant la détermination de leurs positions, voire de leurs vitesses relatives dans le cas de véhicules tiers, doit être non seulement précise mais menée en outre en temps réel pour que les systèmes d'assistance puissent réagir rapidement de façon adaptée.

On connaît déjà de nombreux systèmes réalisant des détections et classifications d'obstacles, tels que des véhicules motorisés ou des piétons, à partir d'images capturées par des caméras, en particulier soit une caméra frontale et une caméra arrière, soit des caméras latérales embarquées sur le véhicule automobile.

Parmi les algorithmes de vision connus permettant de détecter des objets dans des images, on connaît notamment ceux reposant sur la reconnaissance d'objets par apprentissage automatique, telles que les méthodes SVM (initiales anglo-saxonnes mises pour Support Vector machine) ou Adaboost. L'approche utilisée dans la reconnaissance consiste à apprendre puis à retrouver dans l'image, l'allure générale d'un objet déterminé, par exemple un piéton. Pour réaliser par exemple un module de détection de piéton, on utilise des algorithmes de reconnaissance de formes dont le but est de discriminer la forme des piétons par rapport au reste. Concrètement, une première phase consiste à la construction d'une base d'entraînement pour capturer la diversité d'apparence des piétons. La base d'entraînement doit être la plus grande et la plus variée possible pour correspondre au mieux au grand nombre de situations pouvant être rencontrées par le module de détection. Puis, un algorithme d'apprentissage va étudier et dégager des propriétés de cette base pour créer un modèle représentant une frontière permettant la classification piéton/reste. Un classifieur s'appuie ensuite sur ce modèle pour différencier les éléments des deux groupes. Une fois le classifieur construit, la phase de détection consiste à balayer l'image sur des zones de scan qui se recouvrent, puis à comparer leur contenu avec le modèle. Si en un point donné, l'image est suffisamment proche du modèle, alors le module de détection indique la présence d'un piéton.

Les algorithmes mis en œuvre dans une détection de piétons par reconnaissance de formes sont généralement très complexes compte tenu notamment de la très grande diversité entre les personnes (taille, poids, vêtements, postures...). Ces algorithmes de reconnaissance de formes sont souvent basés sur l'utilisation de descripteurs fournis en entrée du classifieur Une méthode classique, connue sous le nom de la méthode de Viola et Jones, consiste à tester la présence d'un piéton dans une fenêtre ou imagette de taille fixe, par exemple de 24 sur 48 pixels, à toutes les positions possibles dans l'image et pour plusieurs échelles de l'image. Le test consiste à générer un vecteur de descripteurs pour chaque position de la fenêtre et à les comparer avec les descripteurs appris sur la base d'entraînement. Plus précisément, pour chaque image capturée par une caméra, on génère une pyramide d'images, chaque étage ou image de la pyramide d'images correspondant à une échelle différente de l'image ou d'au moins une région d'intérêt dans l'image. La méthode consiste typiquement à balayer les images de la pyramide d'images, en déplaçant la fenêtre de taille fixe d'un certain nombre de pixels à la fois. Le classifieur, combiné à la base d'entraînement comportant des échantillons de piétons et des échantillons de fond, va traiter les différents vecteurs de descripteurs obtenus à chaque position de la fenêtre glissante pour identifier les zones correspondant effectivement à un piéton par rapport à un modèle appris. Le résultat est délivré par le classifieur sous forme d'une boîte englobante, généralement de forme rectangulaire, par piéton détecté. Les dimensions et/ou la position verticale de la boîte englobante relative à un piéton détecté sont alors utilisées pour estimer la distance à laquelle se situe le piéton par rapport au véhicule. Une telle méthode est par exemple implémentée par des détecteurs rapides de type Adaboost. Les résultats de la détection rapide sont ensuite généralement affinés et validés par des classifieur plus performants.

L'algorithme précédent, décrit dans le cadre de la détection de piétons, peut également être utilisé dans le cadre de la détection d'autres types d'obstacles tels que des véhicules tiers.

Pour résumer ce qui précède, un procédé classique de traitement d'images Im F R issues d'une caméra est représenté sur la figure 1. Le traitement comporte au préalable une étape 10 de correction d'image pour tenir compte d'une part, des distorsions optiques introduites par la caméra, et d'autre part, des déformations (défauts d'apparence) de l'obstacle à détecter dues à la position et l'orientation de la caméra sur le véhicule. La correction consiste à appliquer une transformation globale à chaque pixel d'une image Im F R capturée par une caméra en fonction des paramètres de distorsions optiques à la fois intrinsèques à la caméra et liés à sa position et orientation sur le véhicule. Une table de correction est ainsi définie et mémorisée pour une caméra donnée. La transformation globale consiste à déterminer un déplacement à deux dimensions de chaque pixel dans l'image, et résulte de la combinaison de deux transformations, une première transformation vouée à la seule correction des distorsions optiques introduites par la caméra, indépendante du positionnement de la caméra sur le véhicule, et une deuxième transformation dite homographique, pour corriger les défauts d'apparence liés au positionnement de la caméra sur le véhicule. Le procédé se poursuit alors en appliquant à l'image corrigée Im F R_ C or un algorithme classique (étape 20) comprenant :

- la génération (étape 21) d'une pyramide P d'images à partir d'au moins une région d'intérêt dans l'image corrigée IrriFR cor, chaque image de la pyramide P d'images correspond à une échelle différente de la zone d'intérêt; - le balayage (étape 22) par une fenêtre glissante W de l'ensemble des images de la pyramide P d'images pour générer, pour chaque position de la fenêtre glissante, un descripteur relatif à la pyramide P d'images ; et

- la classification (étape 23) de chaque descripteur obtenu à l'étape 22 pour déterminer des candidats possibles représentatifs d'une présence potentielle d'obstacles.

Un inconvénient lié au procédé de la figure 1 réside essentiellement dans la manière de corriger l'image. En effet, comme indiqué précédemment, une unique transformation globale est appliquée à l'image, combinant la première transformation et la deuxième transformation homographique. Or, la deuxième transformation homographique est déterminée de façon unique pour une distance moyenne entre un obstacle potentiel et la caméra. Il en résulte que la correction effectuée est insatisfaisante pour des obstacles qui se trouveraient à des distances en-deçà ou au-delà de cette distance moyenne, ce qui peut fausser les résultats de détections d'obstacles.

La présente invention a pour but de pallier l'inconvénient précédent. Pour ce faire, l'invention a pour objet un procédé de détection d'obstacles dans l'environnement d'un véhicule automobile, à partir d'images capturées par une caméra embarquée sur ledit véhicule automobile, le procédé comportant l'application d'un algorithme de détection d'obstacles par reconnaissance de formes et apprentissage automatique dans lequel on génère une pluralité de descripteurs d'images par le balayage au moins partiel, par une fenêtre glissante, d'une pluralité d'images d'une pyramide d'images, chaque image de la pyramide d'images correspondant à une échelle différente d'au moins une zone d'intérêt d'une image capturée, puis on effectue une classification des descripteurs d'images en vue de déterminer des candidats possibles représentatifs d'une présence potentielle d'obstacles, le procédé étant caractérisé en ce que chaque image de la pyramide d'images est en outre générée à partir de ladite au moins une zone d'intérêt corrigée au moins selon une première transformation homographique fonction de l'échelle de l'image, pour corriger des déformations de perspectives liées au positionnement de la caméra sur ledit véhicule. Outre les caractéristiques principales qui viennent d'être mentionnées dans le paragraphe précédent, le procédé selon l'invention peut présenter une ou plusieurs caractéristiques complémentaires parmi les suivantes :

- chaque image de la pyramide d'images peut être avantageusement générée à partir de ladite au moins une zone d'intérêt corrigée en outre selon une deuxième transformation apte à supprimer des distorsions optiques intrinsèques à la caméra ;

- la première transformation homographique et la deuxième transformation sont appliquées de préférence simultanément à ladite au moins une zone d'intérêt au moment de la génération de ladite pyramide d'images.

- en variante, la deuxième transformation est appliquée directement sur l'image capturée par la caméra, avant la génération de ladite pyramide d'images.

L'invention a également pour objet un système de détection d'obstacles dans l'environnement d'un véhicule automobile, à partir d'images capturées par une caméra embarquée sur ledit véhicule automobile, ledit système ledit système comportant un module configuré pour implémenter un algorithme de détection d'obstacles par reconnaissance de formes et apprentissage automatique dans lequel on génère une pluralité de descripteurs d'images par le balayage au moins partiel, par une fenêtre glissante, d'une pluralité d'images d'une pyramide d'images, chaque image de la pyramide d'images correspondant à une échelle différente d'au moins une zone d'intérêt d'une image capturée, puis on effectue une classification des descripteurs d'images en vue de déterminer des candidats possibles représentatifs d'une présence potentielle d'obstacles, caractérisé en ce que ledit module est en outre apte à générer chaque image de la pyramide d'images à partir de ladite au moins une zone d'intérêt corrigée au moins selon une première transformation homographique fonction de l'échelle de l'image, pour corriger des déformations de perspectives liées au positionnement de la caméra sur ledit véhicule

L'invention sera mieux comprise à la lecture de la description qui suit, faite en référence aux figures annexées, dans lesquelles : - la figure 1 donne les étapes d'un procédé classique de traitement d'images pour une classification et une détection d'obstacles ;

- la figure 2 illustre un exemple d'architecture d'un système embarqué sur un véhicule implémentant un procédé de détection d'obstacles présents à l'avant d'un véhicule, conforme à l'invention ;

- la figure 3 illustre un procédé de traitement mettant en œuvre la détection d'obstacles à partir d'images selon l'invention.

En référence à la figure 2, un exemple de système de détection conforme à l'invention utilise les images capturées par une caméra 2 F R embarquée sur un véhicule automobile 1. Dans cet exemple, la caméra 2 F R est située à l'avant du véhicule 1, de manière à capturer des images sur une zone avant Z FR . L'invention est applicable bien entendu pour d'autres positions et zones d'observation de caméra.

Dans un mode préférentiel de réalisation, on utilise une caméra de type « fisheye », avec un angle d'observation supérieur à 180°. Néanmoins, les principes de l'invention qui vont être exposés dans la suite sont valables quel que soit le type de caméra utilisée.

Les images Im F R capturées par la caméra 2 FR sont fournies pour traitement à un module 3 de détection d'obstacles embarqué dans le véhicule automobile 1 qui implémente notamment les étapes du procédé selon l'invention.

Comme cela a été explicité ci-avant, il est connu de détecter des obstacles par un traitement des images capturées, et plus précisément par l'application d'un algorithme de détection d'obstacles par reconnaissance de formes et apprentissage automatique dans lequel on génère, à partir d'une pyramide d'images, une pluralité de descripteurs d'images par le balayage au moins partiel de chaque image capturée par une fenêtre glissante, puis on effectue une classification des descripteurs d'images en vue de déterminer des candidats possibles représentatifs d'une présence potentielle d'obstacles.

Dans les systèmes connus, une correction de chaque image est en outre effectuée au préalable pour tenir compte des distorsions optiques introduites par la caméra ainsi que de la déformation de perspective liée au positionnement, en particulier à l'orientation, de la caméra sur le véhicule, en appliquant une unique transformation globale combinant une première transformation et une deuxième transformation homographique, cette dernière étant déterminée de façon unique pour une distance moyenne entre un obstacle potentiel et la caméra.

Ici, l'invention propose de tirer profit du fait la pyramide P d'images générée aux fins de classification d'objets comprend n étages, chaque étage i (i étant un entier variant de 1 à n) correspondant à une échelle prédéterminée Ej de l'image capturée Im F R (ou d'au moins une région d'intérêt dans cette image), échelle qui peut à son tour être mise en correspondance avec une distance d, par rapport à la caméra 2 F R.

L'invention propose en conséquence de déterminer au préalable, pour chaque échelle possible E,, et par suite pour chaque distance d, associée, une transformation homographique spécifique qui permette ainsi de corriger très précisément les déformations de perspective dues au positionnement de la caméra 2 sur le véhicule 1. Comme représenté schématiquement sur la figure 2, pour une caméra avant 2 FR ayant une portée maximum D MAX , on va identifier n distances notées di à d n (d n pouvant être confondu avec D M AX), et calculer à l'avance la transformation homographique T hom (di), T hom (d 2 ), ■■■T h om(dn) qu'il faut appliquer pour corriger les défauts de perspective à chacune de ces distances.

La figure 3 illustre, sous forme de synoptique simplifié, différentes étapes susceptibles d'être mises en œuvre dans un procédé de détection d'obstacle conforme à l'invention.

Sur la figure 3, les parties représentées à gauche de la ligne L correspondent à des étapes de pré-calcul et mémorisation dans le système 3 embarqué de différents paramètres et tables caractérisant le système, ces étapes pouvant être réalisées avant même que le système de détection n'équipe effectivement le véhicule automobile, alors que les parties à droite de la ligne L illustrent un exemple de traitement in situ d'images Im FR capturées par la caméra avant 2 FR .

L'étape 10 de la figure 3 regroupe le calcul d'au moins une table de correction T op t et sa mémorisation pour utilisation ultérieure dans le traitement des images. Cette table de correction T opt correspond à la première transformation, c'est-à-dire celle vouée à la seule correction des distorsions optiques propres aux paramètres optiques intrinsèques (focale, centre de projection, champ de vision...). Chaque valeur de cette table de correction T opt correspond au déplacement à deux dimensions qu'il convient d'appliquer à chaque pixel défini par ses coordonnées {x,y} dans une image pour obtenir de nouvelles coordonnées {x C or_opt,y∞r_opt} représentatives de la correction effectuée.

L'étape 15 de la figure 3 regroupe quant à elle l'établissement et la mémorisation de n tables de correction Thom(d i) , Th 0 m(d2), ...Th 0 m(d n ), correspondant aux transformations homographiques qu'il convient d'appliquer pour chaque distance d i à d n pour corriger les défauts de perspective liés exclusivement à la position et à l'orientation de la caméra sur le véhicule. Comme on l'a vu précédemment, chaque distance d, correspond à une échelle Ej de la pyramide d'images P. Ainsi :

- chaque valeur de la table de correction T hom (d i) correspond au déplacement à deux dimensions qu'il convient d'appliquer à chaque pixel défini par ses coordonnées {x,y} dans une image prise à l'échelle Ei pour obtenir de nouvelles coordonnées x C or_hom,ycor_hom} représentatives de la correction effectuée ;

- chaque valeur de la table de correction T hom (d 2 ) correspond au déplacement à deux dimensions qu'il convient d'appliquer à chaque pixel défini par ses coordonnées {x,y} dans une image prise à l'échelle E 2 pour obtenir de nouvelles coordonnées x C or_hom,ycor_hom} représentatives de la correction effectuée,

et ainsi de suite jusqu'à la table de correction T hom (d n ). Comme illustré par les étapes situées à droite de la ligne L sur la figure 3, correspondant au traitement in situ des images IrriFR capturées par la caméra 2 FR , on procède aux différentes étapes 21 à 23 déjà décrites en référence à la figure 1, dans le cadre de l'application d'un algorithme 20 de détection d'obstacles par reconnaissance de formes et apprentissage automatique. Cependant, à la différence des solutions déjà connues, on utilise ici les tables de correction T hom (d i), T h0 m(d 2) - - - hom(dn) pré établies à l'étape 15 pour générer, lors de l'étape 21, chaque image (étage) de la pyramide P d'image. En d'autres termes, chaque image de la pyramide P est directement générée avec une correction au moins selon la première transformation homographique (T hom (d i), h om(d2) - - - h0 m(dn)) fonction de l'échelle de l'image, pour corriger des déformations de perspectives liées au positionnement de la caméra sur ledit véhicule. Dans l'exemple de la figure 3, on combine également, de façon simultanée, la correction liée aux distorsions optiques, en utilisant la table T op t pré établie à l'étape 10.

Il convient de noter que la correction des distorsions optiques pourrait éventuellement être omise, dans le cas notamment où la caméra utilisée introduit de faibles distorsions optiques.

En variante, il n'est pas nécessaire d'effectuer la correction des distorsions optiques de manière simultanée avec la correction de perspectives. On pourrait notamment appliquer dans un premier temps la table T op t directement sur l'image IrriFR délivrée par la caméra 2FR.

Le fait de combiner les deux corrections au moment de la génération de la pyramide P d'images est néanmoins avantageux en termes de coûts de calcul. En effet, la pyramide d'images est souvent générée à partir de régions d'intérêt à l'intérieur d'une image de sorte que les calculs nécessaires peuvent se limiter à la taille de ces régions d'intérêt.

En sortie de l'étape 23 de classification, on obtient des candidats possibles représentatifs d'une présence potentielle d'obstacles dans chacune des zones indépendantes, sous forme d'une boite englobante par candidat possible, chaque boîte englobante subissant un traitement ultime (étape 30) permettant d'estimer la distance à laquelle se situe l'obstacle détecté par rapport au véhicule.