Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
VIEW SYNTHESIS
Document Type and Number:
WIPO Patent Application WO/2020/094942
Kind Code:
A1
Abstract:
The invention relates to a method for synthesizing an image (lsth) of a view from images of N (N>2) views (T1, D1; T2, D2;...; TN, DN), implemented by an image synthesis device comprising the following: - projecting (S1), to a position corresponding to the image of the view to be synthesized, N depth maps associated with the N views, respectively; - for at least one given pixel of at least one projected depth map (Dj v), for which a depth value has been associated on completion of projection, modifying (S2) the depth value of said at least one given pixel if an item of reliability information (Fij) associated with said depth value is at a certain value (V2), said modification using the depth value of a pixel whose position corresponds to that of said at least one given pixel, in at least one other projected depth map, which generates at least one modified projected depth map (Dj v).

Inventors:
BOISSONADE PATRICK (FR)
JUNG JOËL (FR)
Application Number:
PCT/FR2019/052509
Publication Date:
May 14, 2020
Filing Date:
October 22, 2019
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
ORANGE (FR)
International Classes:
H04N13/128; H04N13/111; H04N13/282
Domestic Patent References:
WO2013030452A12013-03-07
WO2016067541A12016-05-06
WO2014183787A12014-11-20
Other References:
ERHAN EKMEKCIOGLU ET AL: "Content Adaptive Enhancement of Multi-View Depth Maps for Free Viewpoint Video", IEEE JOURNAL OF SELECTED TOPICS IN SIGNAL PROCESSING, IEEE, US, vol. 5, no. 2, 1 April 2011 (2011-04-01), pages 352 - 361, XP011350690, ISSN: 1932-4553, DOI: 10.1109/JSTSP.2010.2052783
Download PDF:
Claims:
REVENDICATIONS

1. Procédé de synthèse d’une image (lsth) d’une vue à partir d’images de N (N>2) vues (T-i, D-i ; T2, D2 ;... ; TN, Dn), mis en oeuvre par un dispositif de synthèse d’images, caractérisé en ce qu’il comprend ce qui suit :

- projeter (S1 ), à une position correspondant à l’image de la vue à synthétiser, N cartes de profondeur associées respectivement aux N vues,

- pour au moins un pixel donné (pij) d’au moins une carte de profondeur projetée (Djv), pour lequel une valeur de profondeur (divj) a été associée à l’issue de la projection, modifier (S2) ladite valeur de profondeur dudit au moins un pixel donné si une information de fiabilité (Fij) associée à ladite valeur de profondeur est à une certaine valeur, ladite modification utilisant la valeur de profondeur d’un pixel de position correspondante à celle dudit au moins un pixel donné, dans au moins une autre carte de profondeur projetée, ce qui génère au moins une carte de profondeur projetée modifiée ( D ).

2. Procédé selon la revendication 1 , dans lequel ladite modification (S2) utilise une pondération de la valeur de profondeur du pixel de position correspondante audit au moins un pixel donné, dans ladite au moins une autre carte de profondeur projetée.

3. Procédé selon la revendication 2, dans lequel le niveau de confiance d’un pixel d’une carte de profondeur donnée est calculé (S12) comme une variation de la valeur de profondeur dudit pixel, ladite variation correspondant à une erreur de projection en nombre de pixels autorisé.

4. Procédé selon la revendication 3, dans lequel le niveau de confiance d’un pixel est pondéré par un paramètre de codage (parCoMp) de l’image de la vue à laquelle est associée la carte de profondeur qui contient ledit pixel.

5. Procédé selon l’une quelconque des revendications 1 à 4, dans lequel la modification de la valeur de profondeur du pixel donné consiste à remplacer (S23) ladite valeur de profondeur par une valeur qui est calculée à partir de ladite valeur de profondeur et de la valeur de profondeur du pixel de position correspondante à celle dudit au moins un pixel donné dans ladite au moins une autre carte de profondeur projetée, lesdites valeurs de profondeur étant pondérées chacune par leur niveau de confiance respectif.

6. Procédé selon l’une quelconque des revendications 1 à 5, dans lequel l’information de fiabilité est générée comme suit :

- déterminer (S101 , S102) dans l’ensemble des N cartes de profondeurs projetées, pour une même position que celle du pixel donné, quel est le pixel qui a la valeur de profondeur maximale et quel est le pixel qui a la valeur de profondeur minimale,

- calculer (S103) la différence entre les valeurs de profondeur maximale et minimale,

- comparer (S103) la différence calculée à un seuil (depthTH),

- générer (S104 ou S105) une information de fiabilité, dont la valeur est fonction du résultat de la comparaison.

7. Procédé selon l’une quelconque des revendications 1 à 5, dans lequel l’information de fiabilité est générée comme suit :

- déterminer dans l’ensemble des N cartes de profondeurs projetées, pour une même position que celle du pixel donné, quel est le pixel qui a la valeur de profondeur maximale et quel est le pixel qui a la valeur de profondeur minimale,

- calculer une différence entre la valeur de profondeur dudit pixel donné et la valeur de profondeur minimale déterminée,

- comparer la différence calculée à un seuil (depthTH),

- générer une information de fiabilité par rapport à la valeur de profondeur minimale déterminée, dont la valeur est fonction du résultat de la comparaison,

- calculer une autre différence entre la valeur de profondeur maximale déterminée et la valeur de profondeur du dudit pixel donné,

- comparer l’autre différence calculée audit seuil (depthTi-i),

- générer une information de fiabilité par rapport à la valeur de profondeur maximale déterminée, dont la valeur est fonction du résultat de la comparaison.

8. Procédé selon la revendication 6 ou la revendication 7, dans lequel le seuil de comparaison est égal à la moyenne des N variations de la valeur de profondeur de chaque pixel de position correspondante à celle dudit pixel donné dans leur carte de profondeur respective.

9. Procédé selon la revendication 6 ou la revendication 7, dans lequel le seuil de comparaison est égal à la moyenne des N variances de la valeur de profondeur de chaque pixel de position correspondante à celle dudit pixel donné dans leur carte de profondeur respective.

10. Dispositif de synthèse (SYNT) d’une image d’une vue à partir d’images de N (N>2) vues (T-i, D-, ; T2, D2 ;... ; TN, Dn), ledit dispositif de synthèse étant caractérisé en ce qu’il comprend un processeur qui est configuré pour mettre en oeuvre ce qui suit :

- projeter, à une position correspondant à l’image de la vue à synthétiser, N cartes de profondeur associées respectivement aux N vues,

- pour au moins un pixel donné (pij) d’au moins une carte de profondeur projetée (Djv), pour lequel une valeur de profondeur a été associée à l’issue de la projection, modifier la valeur de profondeur dudit au moins un pixel donné si une information de fiabilité (Fij) associée à ladite valeur de profondeur est à une certaine valeur (V2), ladite modification utilisant la valeur de profondeur d’un pixel de position correspondante à celle dudit au moins un pixel donné, dans au moins une autre carte de profondeur projetée, ce qui génère au moins une carte de profondeur projetée modifiée

11. Procédé de décodage d’un signal de données représentatif d’un ensemble d’images de N (N>2) vues codées, comprenant ce qui suit :

- décoder les images des N vues codées, produisant un ensemble d’images de N vues décodées,

- synthétiser une image d’une vue à partir dudit ensemble d’images de N vues décodées conformément au procédé de synthèse selon l’une quelconque des revendications 1 à 9.

12. Dispositif de décodage d’un signal de données représentatif d’un ensemble d’images de N (N>2) vues codées, ledit dispositif de décodage comprenant un processeur qui est configuré pour mettre en oeuvre ce qui suit :

- décoder les images des N vues codées, produisant un ensemble d’images de N vues décodées,

- synthétiser une image d’une vue à partir dudit ensemble d’images de N vues décodées conformément au procédé de synthèse selon l’une quelconque des revendications 1 à 9.

13. Programme d'ordinateur comportant des instructions comprenant des instructions de code de programme pour l’exécution des étapes du procédé de synthèse selon l’une quelconque des revendications 1 à 9 ou du procédé de décodage selon la revendication 1 1 , lorsqu'il est exécuté sur un ordinateur.

14. Support d'informations lisible par un ordinateur, et comportant des instructions d'un programme d'ordinateur selon la revendication 13.

Description:
SYNTHÈSE DE VUES

1. Domaine de l'invention

La présente invention se rapporte de manière générale au domaine de la synthèse d’images.

La présente invention s’applique plus particulièrement à la synthèse de points de vue intermédiaires non capturés, à partir d’images de plusieurs vues 2D (deux dimensions), 360°, 180°, etc, qui sont capturées ptnir générer une vidéo immersive, telle que notamment une vidéo 360°, 180° , etc.

L’invention peut notamment, mais non exclusivement, s’appliquer au décodage vidéo mis en oeuvre dans les décodeurs vidéo actuels AVC (abréviation anglaise de « Advanced Video Coding et leurs extensions MVC (abréviation anglaise de « Multiview Video Coding »), 3D-AVC, MV-HEVC, 3D-HEVC, etc.

2. Art antérieur

Dans un contexte de vidéo immersive, c’est à dire où le spectateur a la sensation d’être immergé dans une scène 3D (trois dimensions), la scène est classiquement capturée par un ensemble de caméras. Ces caméras peuvent être :

- de type 2D, pour capturer un angle particulier de la scène, et/ou

- de type 360° , 180°, ou autres, pour capturer tante la scène à 360 degrés, 180 degrés ou autres, autour de la caméra.

Les images de telles vues capturées sont traditionnellement codées, puis décodées par le terminal du spectateur. Néanmoins, afin de fournir une qualité d’expérience suffisante, et donc une qualité visuelle et une bonne immersion, afficher les vues capturées est insuffisant. Les images d’une multitude de vues, dites intermédiaires, doivent être calculées, à partir des images des vues décodées.

Le calcul d’images de ces vues intermédiaires est réalisé par un algorithme dit « de synthèse » de vue (view synthesis algorithm en anglais). Un algorithme de synthèse est capable, à partir d’images de N vues, avec N>2, de synthétiser une image d’un point de vue intermédiaire situé à n’importe quel endroit de l’espace. L’image d’une vue considérée parmi N comprend une composante de texture et une carte de profondeur qui indique la distance séparant les différents éléments de la scène de la caméra qui a capturé l’image de cette vue. Ainsi, l’image d’une vue intermédiaire obtenue par synthèse comprend elle aussi une composante de texture synthétisée à partir des N composantes de texture des images des N vues et une carte de profondeur synthétisée à partir des N cartes de profondeur des images des N vues.

Pour une vue considérée parmi N, la carte de profondeur est soit capturée, soit calculée à partir des N composantes de texture. Cependant, dans les deux cas, une telle carte de profondeur peut contenir de nombreuses erreurs qui sont soit liées à la capture, soit liées au calcul, soit liées à la compression des images des N vues.

De telles erreurs se répercutent donc inévitablement dans l’image d’une vue synthétisée à partir de l’image de chacune de ces N vues, ce qui réduit notablement les performances des algorithmes de synthèse actuels.

Un algorithme de synthèse bien connu du type précité est par exemple l’algorithme VSRS (en anglais « View Synthesis Reference Software »). Cet algorithme met en oeuvre une projection des N cartes de profondeur à une position correspondant à l’image de la vue à synthétiser dans la vidéo à générer, afin de déterminer une unique carte de profondeur synthétisée. Cette carte de profondeur est alors utilisée pour retrouver les informations de texture associées à chaque pixel des N composantes de texture.

Un inconvénient de cette projection réside dans le fait que certains pixels sont manquants dans les N cartes de profondeur projetées, car ne correspondant à aucun des pixels des N cartes de profondeur, avant projection. Cette absence de correspondance peut résulter soit d’un manque de précision sur les pixels contenus dans les N cartes de profondeur utilisées pour la projection, soit parce que les pixels manquants correspondent à des zones non visibles dans les images des N vues (occlusion) contenant les N cartes de profondeur.

De telles erreurs de projection se répercutent donc inévitablement dans l’image d’une vue qui est synthétisée à partir de l’image de chacune de ces N vues.

Les erreurs induites lors du calcul initial d’une carte profondeur, dépendant aussi de la quantification de cette information, c’est-à-dire du nombre de valeurs que cette carte de profondeur peut prendre, mais aussi du niveau de compression appliqué, se traduisent sur la carte de profondeur par deux types de défauts :

- du flou si les erreurs sont faibles,

- des défauts grossiers si ces erreurs sont importantes.

Lorsque l’écart entre ce que peut voir la caméra qui a capturé l’image d’une vue et ce que doit voir la caméra virtuelle augmente, les défauts de synthèse deviennent de plus en plus importants, et passent du flou à des défauts grossiers, ces derniers devant être absolument évités pour ne pas nuire à la sensation d’immersion du spectateur.

Les techniques de l’état de l’art ne prennent pas en compte le fait que les cartes de profondeurs disponibles, destinées à être projetées lors de la synthèse de l’image d’une vue intermédiaire, présentent des erreurs. Il en résulte que les cartes de profondeur obtenues à l’issue de la projection des cartes de profondeurs disponibles contiennent également des erreurs.

3. Objet et résumé de l'invention

Un des buts de l'invention est de remédier à des inconvénients de l'état de la technique précité.

A cet effet, un objet de la présente invention concerne un procédé de synthèse d’une image d’une vue à partir d’images de N (N>2) vues, mis en oeuvre par un dispositif de synthèse d’images, caractérisé en ce qu’il comprend ce qui suit :

- projeter, à une position correspondant à l’image de la vue à synthétiser, N cartes de profondeur associées respectivement aux N vues,

un tel procédé étant caractérisé en ce qu’il comprend ce qui suit :

- pour au moins un pixel donné d’au moins une carte de profondeur projetée, pour lequel une valeur de profondeur a été associée à l’issue de la projection, modifier la valeur de profondeur dudit au moins un pixel donné si une information de fiabilité associée à la valeur de profondeur est à une certaine valeur, la modification utilisant la valeur de profondeur d’un pixel de position correspondante à celle dudit au moins un pixel donné, dans au moins une autre carte de profondeur projetée, ce qui génère au moins une carte de profondeur projetée modifiée.

Compte tenu du fait qu’une modification conditionnelle est appliquée à un ou plusieurs pixels projetés d’au moins une des cartes de profondeur projetées, l’invention permet avantageusement de corriger des erreurs dans ladite au moins une carte de profondeur projetée. Pour un pixel donné d’une telle carte de profondeur projetée, ces erreurs de projection peuvent résulter :

- de bruits de quantification introduits lors de la quantification numérique sur une pluralité de bits de la valeur de profondeur de chaque pixel de la carte de profondeur de l’image d’une vue, à partir de laquelle a été obtenue la carte de profondeur projetée, - d’erreurs introduites lors de la compression de la carte de profondeur par un codeur de type HEVC, 3D-HEVC, etc.,

- d’erreurs introduites lors de la projection dans l’espace réel de la carte de profondeur de l’image de la vue.

Tous les pixels d’une carte de profondeur projetée ne sont pas obligatoirement modifiés. Ils le sont si une information de fiabilité, affectée à chacun de ces pixels, est à une certaine valeur.

En outre, une telle modification utilise la valeur de profondeur d’un pixel ayant une position correspondante à celle du pixel donné, dans une autre carte de profondeur projetée, une telle valeur de profondeur étant considérée comme pertinente pour corriger la valeur de profondeur erronée du pixel donné.

Ainsi, grâce à l’invention, une carte de profondeur projetée considérée est entachée de beaucoup moins d’erreurs qu’une carte de profondeur projetée de l’état de l’art. Il en résulte une très nette amélioration de la qualité de l’image d’une vue synthétisée à partir d’une pluralité d’images de vues, lorsque l’une au moins de ces images est associée à une carte de profondeur qui contient des erreurs avant et/ou après projection.

Selon un mode de réalisation de l’invention, la modification utilise une pondération de la valeur de profondeur du pixel de position correspondante audit au moins un pixel donné, dans ladite au moins une autre carte de profondeur projetée.

Un tel mode de réalisation permet d’attribuer une importance plus ou moins élevée à un pixel de position correspondante à celle du pixel donné, dans une autre carte de profondeur projetée, ce qui, de ce fait, impactera de manière plus ou moins élevée la modification de la valeur de profondeur du pixel donné.

Selon un mode de réalisation de l’invention, le niveau de confiance d’un pixel d’une carte de profondeur donnée est calculé comme une variation de la valeur de profondeur dudit pixel, ladite variation correspondant à une erreur de projection en nombre de pixels autorisé.

Un tel calcul du niveau de confiance permet avantageusement de prendre en compte la qualité réelle de projection de ladite au moins une autre carte de profondeur, en plus de la distance de positionnement entre la caméra qui a capté l’image de la vue, pour laquelle la projection de la carte de profondeur a généré la carte de profondeur projetée considérée, et la caméra qui a capté l’image de ladite au moins une autre vue, pour laquelle la projection de la carte de profondeur a généré l’autre carte de profondeur projetée.

Selon un mode de réalisation de l’invention, le niveau de confiance d’un pixel est pondéré par un paramètre de codage de l’image de la vue à laquelle est associée la carte de profondeur qui contient le pixel.

Un tel mode de réalisation permet d’affiner le calcul du niveau de confiance d’un pixel donné en prenant en compte le niveau de qualité de compression, tel que par exemple, la valeur du pas de quantification qui a été utilisé durant le codage de l’image de la vue à laquelle est associée la carte de profondeur qui contient ledit pixel, ou encore la position de cette image dans la hiérarchie de codage.

Selon un mode de réalisation de l’invention, la modification de la valeur de profondeur du pixel donné consiste à remplacer ladite valeur de profondeur par une valeur qui est calculée à partir de ladite valeur de profondeur et de la valeur de profondeur du pixel de position correspondante à celle dudit au moins un pixel donné dans ladite au moins une autre carte de profondeur projetée, lesdites valeurs de profondeur étant pondérées chacune par leur niveau de confiance respectif.

Selon un mode de réalisation de l’invention, l’information de fiabilité est générée comme suit :

- déterminer dans l’ensemble des N cartes de profondeurs projetées, pour une même position que celle du pixel donné, quel est le pixel qui a la valeur de profondeur maximale et quel est le pixel qui a la valeur de profondeur minimale,

- calculer la différence entre les valeurs de profondeur maximale et minimale,

- comparer la différence calculée à un seuil,

- générer une information de fiabilité, dont la valeur est fonction du résultat de la comparaison.

Selon un tel mode de réalisation, l’information de fiabilité est avantageusement calculée de manière à ce que la modification qui est appliquée à la valeur du pixel donné de la carte de profondeur considérée et qui est conditionnée par cette information de fiabilité n’entraîne que des artefacts de type flou dans l’image de la vue synthétisée.

Selon un mode de réalisation de l’invention, l’information de fiabilité est générée comme suit : - déterminer dans l’ensemble des N cartes de profondeurs projetées, pour une même position que celle du pixel donné, quel est le pixel qui a la valeur de profondeur maximale et quel est le pixel qui a la valeur de profondeur minimale,

- calculer une différence entre la valeur de profondeur dudit pixel donné et la valeur de profondeur minimale déterminée,

- comparer la différence calculée à un seuil,

- générer une information de fiabilité par rapport à la valeur de profondeur minimale déterminée, dont la valeur est fonction du résultat de la comparaison,

- calculer une autre différence entre la valeur de profondeur maximale déterminée et la valeur de profondeur du dudit pixel donné,

- comparer l’autre différence calculée audit seuil,

- générer une information de fiabilité par rapport à la valeur de profondeur maximale déterminée, dont la valeur est fonction du résultat de la comparaison.

Selon un tel mode de réalisation, l’information de fiabilité pour un pixel donné d’une carte de profondeur projetée considérée est avantageusement quantifiée sur deux niveaux :

- un premier niveau qui tient compte de la différence entre la valeur de profondeur du pixel donné dans la carte de profondeur projetée et la valeur de profondeur minimale déterminée pour les N cartes de profondeur projetées, pour les N pixels de position correspondante à celle du pixel donné,

- un deuxième niveau qui tient compte de la différence entre la valeur de profondeur maximale déterminée pour les N cartes de profondeur projetées, pour les N pixels de position correspondante à celle du pixel donné, et la valeur de profondeur du pixel donné dans la carte de profondeur projetée.

De cette manière, pour un pixel donné d’une carte de profondeur projetée, en fonction des deux informations de fiabilité associées au pixel donné, les valeurs de profondeur respectives des pixels de position correspondante à celle du pixel donné dans les N cartes de profondeur projetées peuvent être sélectionnées de deux manières différentes pour la modification de la valeur de profondeur du pixel donné. La modification de la valeur de profondeur du pixel donné est ainsi rendue plus précise. Selon un mode de réalisation de l’invention, le seuil de comparaison est égal à la moyenne des N variations de la valeur de profondeur de chaque pixel de position correspondante à celle dudit pixel donné dans leur carte de profondeur respective.

Un tel mode de réalisation de calcul du seuil de comparaison permet d’optimiser la réduction des artefacts de type flou dans l’image de la vue synthétisée.

Selon un mode de réalisation de l’invention, le seuil de comparaison est égal à la moyenne des N variances de la valeur de profondeur de chaque pixel de position correspondante à celle dudit pixel donné dans leur carte de profondeur respective.

Un tel mode de réalisation de calcul du seuil de comparaison permet d’optimiser la réduction des artefacts de type flou dans l’image de la vue synthétisée, tout en prenant en compte la qualité intrinsèque des N cartes de profondeur projetées.

Les différents modes ou caractéristiques de réalisation précités peuvent être ajoutés indépendamment ou en combinaison les uns avec les autres, au procédé de synthèse défini ci-dessus.

L'invention concerne également un dispositif de synthèse d’une image d’une vue à partir d’images de N (N>2) vues, un tel dispositif de synthèse étant caractérisé en ce qu’il comprend un processeur qui est configuré pour mettre en oeuvre ce qui suit :

- projeter, à une position correspondant à l’image de la vue à synthétiser, N cartes de profondeur associées respectivement aux N vues,

- pour au moins un pixel donné d’au moins une carte de profondeur projetée, pour lequel une valeur de profondeur a été associée à l’issue de la projection, modifier la valeur de profondeur dudit au moins un pixel donné si une information de fiabilité associée à ladite valeur de profondeur est à une certaine valeur, ladite modification utilisant la valeur de profondeur d’un pixel de position correspondante à celle dudit au moins un pixel donné, dans au moins une autre carte de profondeur projetée, ce qui génère au moins une carte de profondeur projetée modifiée.

Un tel dispositif de synthèse est notamment apte à mettre en oeuvre le procédé de synthèse précité, selon l’un quelconque de ses modes de réalisation précités. L’invention concerne également un procédé de décodage d’un signal de données représentatif d’un ensemble d’images de N (N>2) vues codées, comprenant ce qui suit :

- décoder les images des N vues codées, produisant un ensemble d’images de N vues décodées,

- synthétiser une image d’une vue à partir de l’ensemble d’images de N vues décodées conformément au procédé de synthèse précité, selon l’un quelconque de ses modes de réalisation précités.

L’invention concerne également un dispositif de décodage d’un signal de données représentatif d’un ensemble d’images de N (N>2) vues codées, un tel dispositif de décodage comprenant un processeur qui est configuré pour mettre en oeuvre ce qui suit :

- décoder les images des N vues codées, produisant un ensemble d’images de N vues décodées,

- synthétiser une image d’une vue à partir dudit ensemble d’images de N vues décodées conformément au procédé de synthèse précité, selon l’un quelconque de ses modes de réalisation précités.

L'invention concerne encore un programme d'ordinateur comportant des instructions pour la mise en oeuvre du procédé de synthèse ou du procédé de décodage intégrant le procédé de synthèse selon l'invention, selon l’un quelconque des modes particuliers de réalisation décrits précédemment, lorsque ledit programme est exécuté par un processeur.

Ce programme peut utiliser n’importe quel langage de programmation, et être sous la forme de code source, code objet, ou de code intermédiaire entre code source et code objet, tel que dans une forme partiellement compilée, ou dans n’importe quelle autre forme souhaitable.

L’invention vise également un support d’enregistrement ou support d’informations lisible par un ordinateur, et comportant des instructions d’un programme d’ordinateur tel que mentionné ci-dessus.

Le support d'enregistrement peut être n'importe quelle entité ou dispositif capable de stocker le programme. Par exemple, le support peut comporter un moyen de stockage, tel qu'une ROM, par exemple un CD ROM ou une ROM de circuit microélectronique, ou encore un moyen d'enregistrement magnétique, par exemple une clé USB ou un disque dur. D'autre part, le support d'enregistrement peut être un support transmissible tel qu'un signal électrique ou optique, qui peut être acheminé via un câble électrique ou optique, par radio ou par d'autres moyens. Le programme selon l'invention peut être en particulier téléchargé sur un réseau de type Internet.

Alternativement, le support d'enregistrement peut être un circuit intégré dans lequel le programme est incorporé, le circuit étant adapté pour exécuter ou pour être utilisé dans l'exécution du procédé de synthèse ou de décodage précité.

4. Brève description des dessins

D'autres caractéristiques et avantages apparaîtront plus clairement à la lecture de plusieurs modes de réalisation préférés, donnés à titre de simples exemples illustratifs et non limitatifs, et décrits ci-dessous en référence aux dessins annexés, dans lesquels:

- la figure 1 représente les principales actions exécutées par le procédé de synthèse selon un mode de réalisation de l’invention,

- la figure 2 représente un exemple d’image utilisée dans le procédé de synthèse de la figure 1 ,

- les figures 3A à 3C représentent un exemple de calcul d’un niveau de confiance utilisé dans le procédé de synthèse de la figure 1 ,

- la figure 4 représente un exemple de calcul d’une information de fiabilité utilisée dans le procédé de synthèse de la figure 1 ,

- la figure 5 représente un dispositif de synthèse mettant en oeuvre le procédé de synthèse de la figure 1 ,

- les figures 6A et 6B représentent des exemples d’agencement du dispositif de synthèse de la figure 5, dans le cas où les images servant à la synthèse d’images ont été préalablement décodées.

5. Description du principe général de l’invention

L’invention propose principalement un schéma de synthèse d’une image d’une vue intermédiaire à partir d’une pluralité d’images de respectivement une pluralité de vues, chaque vue représentant à l’instant courant une scène 3D selon une position donnée ou un angle de vue donné. Pour chaque image d’une vue dans la pluralité d’images, la carte de profondeur de l’image de la vue est projetée de façon classique à une position correspondant à l’image d’une vue à synthétiser.

L’invention se caractérise par l’application d’une modification conditionnelle de la valeur de profondeur de chaque pixel considéré dans une carte de profondeur projetée donnée. Une telle modification permet ainsi de compenser les erreurs sur les valeurs de profondeur qui peuvent provenir :

- d’erreurs introduites lors du calcul des valeurs de profondeur de la carte de profondeur de l’image d’une vue, à partir de laquelle a été obtenue la carte de profondeur projetée donnée,

- d’erreurs introduites lors de la compression de données de l’image de la vue,

- d’erreurs introduites lors de la projection dans l’espace réel de la carte de profondeur de l’image de la vue.

6. Exemples de mise en œuvre de schéma de synthèse

On décrit ci-après un procédé de synthèse d’une image d’une vue à partir d’images d’une pluralité de vues, un tel procédé pouvant être utilisé dans ou avec tout type de décodeurs vidéo actuels AVC et HEVC et leurs extensions (MVC, 3D- AVC, MV-HEVC, 3D-HEVC, etc.), ou autre.

En référence à la figure 1 , un tel procédé de synthèse utilise N images \^, l 2 ,..., Ij, . . . , I N de respectivement N vues, avec 1 <j£N et N>2, la pluralité de vues représentant une scène 3D selon respectivement une pluralité d’angles de vue ou une pluralité de positions/orientations. De façon classique :

- l’image \^ comprend une composante de texture Ti et une carte de profondeur D 1 ;

- l’image l 2 comprend une composante de texture T 2 et une carte de profondeur D 2 ,

- l’image I j comprend une composante de texture T j et une carte de profondeur Dj,

- l’image I N comprend une composante de texture T N et une carte de profondeur D N .

Pour une image l j donnée, comme représenté sur la figure 2 :

- sa composante de texture T j comprend Q (Q³1 ) points p1 j , p2 j ,.... , pQ j affectés chacun d’une valeur de texture correspondante t1 j , t2 j ,.... , tQ j,

. sa carte de profondeur D j comprend les Q points p1 j , p2 j , .... , pQ j affectés chacun d’une valeur de profondeur correspondante d1 j , d2 j ,.... , dQ j .

En S1 sur la figure 1 , les cartes de profondeur D 1 ; D2,..., D j ,..., D N sont projetées à une position correspondant à une image l sth d’un vue à synthétiser.

Une telle projection est mise en oeuvre par un algorithme de projection, par exemple du type DIBR (Abréviation anglaise de « Depth Image Based Rendering »).

A l’issue d’une telle projection, sont obtenues N cartes de profondeur projetées D , D 2 V ,..., D j v , ..., D N V . Une carte de profondeur D j considérée parmi N comprend les Q points p1 j , p2 j ,.... , pQ j affectés chacun d’une valeur de profondeur correspondante d1 v j , d2 v j ,.... , dQ v j .

De telles valeurs de profondeur ne sont pas systématiquement correctes compte tenu notamment :

- de bruit de quantification introduit lors de la quantification numérique sur une pluralité de bits de chacune des valeurs de profondeur d1 j , d2 j ,.... , dQ j , et/ou

- dans le cas où la carte de profondeur D j a subi une compression par un codeur de type HEVC, 3D-HEVC, etc., d’erreurs introduites lors de cette compression, et/ou

- d’erreurs introduites lors de la projection dans l’espace réel de la carte de profondeur D j .

De façon connue en soi, les N cartes de profondeur projetées D , D 2 V ,..., D j v , ... , D N V sont respectivement associées à N cartes d’attribut A 1 ; A 2 ,..., A j , ..., A N .

Pour toute carte de profondeur projetée considérée D j v (1 <j£N), une carte d’attribut indique pour chaque point/pixel p1 j à pQ j de la carte de profondeur D j , si leur projection est valide ou non.

S’agissant par exemple du point p1 j de la carte de profondeur D j :

- une valeur d’attribut A1 j= V1 est associée au point p1 j de la carte de profondeur projetée D j v pour indiquer qu’aucune valeur de profondeur n’a été affectée au point p1 j , - une valeur d’attribut A1 j =V2 est associée au point p1 j de la carte de profondeur projetée D j v pour indiquer qu’une valeur de profondeur a été affectée au point p1 j .

L’absence d’attribution d’une valeur de profondeur à un point/pixel d’une carte de profondeur projetée peut se produire lors de la projection S1 de cette carte de profondeur, à l’issue de laquelle aucune valeur de profondeur n’a pu être affectée au point résultant de la projection. Ce point sans valeur de profondeur associée constitue alors une zone de « trou » ou « hole » en anglais.

Dans cet exemple, chaque valeur d’attribut d’une carte d’attribut A 1 A 2 ,..., A j , ..., A N est binaire. A cet effet, V1 =0 et V2=1 ou inversement. Selon un autre exemple, les valeurs d’une carte d’attribut A 1 A 2 ,..., A j , ..., A N sont des entiers compris dans l’intervalle [0, +¥ ].

En S2, sur la figure 1 , pour au moins une carte de profondeur projetée considérée D j v , une modification conditionnelle est appliquée aux valeurs de profondeur d1 v j , d2 v j , ..., dQ v j .

Une telle modification conditionnelle se déroule comme suit.

En S21 , pour un pixel donné pi j (1 <i£Q) de la carte de profondeur projetée D j V , il est déterminé si l’attribut Ai j associé au pixel pi j est à une première valeur V1 ou à une deuxième valeur V2.

Si l’attribut Ai j a pour valeur V1 , le procédé de modification conditionnelle n’est pas mis en oeuvre et le pixel suivant de la carte de profondeur projetée D j v est alors considéré.

Si l’attribut Ai j a pour valeur V2, en S22, il est déterminé si une information de fiabilité Fi j , associée au pixel pi j , est à une première valeur V 3 ou à une deuxième valeur V4.

Selon un exemple de réalisation non exhaustif, V3=0 et V4=1 ou inversement.

Si l’information de fiabilité Fi j est à la première valeur V3, la valeur de profondeur di v j du pixel pi j de la carte de profondeur projetée D j v n’est pas modifiée.

Si l’information de fiabilité Fi j est à la deuxième valeur V4, la valeur de profondeur di V j du pixel pi j de la carte de profondeur projetée D j v est modifiée en S23. Selon l’invention, la valeur de profondeur di V j est modifiée en fonction d’une valeur de profondeur d’un pixel situé dans la même position que celle du pixel pi j , dans au moins une autre carte de profondeur projetée D , D 2 V , ..., D N V . Ainsi, la valeur de profondeur est modifiée en fonction : - de la valeur de profondeur di v 1 associée au pixel pi 1 de la carte de profondeur projetée D , et/ou,

- de la valeur de profondeur di v 2 associée au pixel pi 2 de la carte de profondeur projetée D 2 V , si la valeur de profondeur di v 2 existe (Ai 2 =V2) et/ou,

- de la valeur de profondeur di V N associée au pixel pÎ N de la carte de profondeur projetée D N V si la valeur de profondeur di V N existe (Ai N =V2).

Selon l’invention, la modification S23 utilise une pondération des valeurs de profondeur d1 V j , d2 V j , ..., dQ V j . Ainsi :

- la valeur de profondeur di v i est pondérée par un coefficient CH ,

- la valeur de profondeur di v 2 est pondérée par un coefficient Ci 2 ,

- la valeur de profondeur di v N est pondérée par un coefficient Ci N .

Comme cela sera décrit plus loin dans la description :

- le coefficient Ch correspond à un niveau de confiance qui a été attribué à la valeur de profondeur di v 1 du pixel pi 1 de la carte de profondeur projetée D v i ,

- le coefficient Ci 2 correspond à un niveau de confiance qui a été attribué à la valeur de profondeur di v 2 du pixel pi 2 de la carte de profondeur projetée

D v 2,

- le coefficient CÎN correspond à un niveau de confiance qui a été attribué à la valeur de profondeur di V N du pixel pÎ N de la carte de profondeur projetée

DV

Bien entendu, un niveau de confiance n’est attribué que si le pixel considéré dans une carte de profondeur projetée donnée a une valeur de profondeur qui correspond à celle du pixel de même position dans la carte de profondeur correspondante non encore projetée.

A l’issue de la modification S23, est obtenue une valeur de profondeur modifiée ddj du pixel pi j de la carte de profondeur projetée D j v selon la relation suivante :

sous réserve que Ai 1 =V2, Ai 2 =V2, ..., Ai N =V2. La modification conditionnelle S2 qui vient d’être décrite ci-dessus est appliquée à la valeur de profondeur de chacun des pixels p1 j , p2 j ,..., pQ j de la carte de profondeur projetée Dj v et est itérée pour l’ensemble des cartes de profondeur projetées D à D N V .

A l’issue de la modification conditionnelle S2 sont obtenues :

- au moins une carte de profondeur projetée modifiée Df,

- une carte de profondeur projetée D non modifiée ou une carte de profondeur projetée modifiée Df

- une carte de profondeur projetée D 2 V non modifiée ou une carte de profondeur projetée modifiée

- une carte de profondeur projetée D N V non modifiée ou une carte de profondeur projetée modifiée D„.

De façon connue en soi, en S3, les cartes de profondeur D ou Df D 2 V ou ..., Df, ..., D N V OU sont interpolées respectivement avec les composantes de texture T-i, T 2 ,..., T N , par exemple à l’aide d’un algorithme de déformation arrière des textures (en anglais « Texture Backward Warping »), délivrant une image l sth d’une vue synthétisée.

Le procédé de synthèse d’image s’applique aussi bien à des images l 1 à l N non codées, codées ou bien encore décodées. Dans le cas où les images l 1 à l N ont été décodées, le procédé de synthèse peut faire partie du procédé de décodage et être mis en oeuvre par le décodeur, sinon être mis en oeuvre dans un dispositif de synthèse placé en sortie du décodeur.

On va maintenant décrire, en référence aux figures 3A et 3B, un mode de réalisation du calcul du niveau de confiance précité.

L’ensemble des cartes de profondeur D 1 à D N est considéré.

En S10, une carte de profondeur est sélectionnée, par exemple la carte de profondeur D j .

En S1 1 , est sélectionné un pixel pi j de la carte de profondeur D j .

En S12, le pixel pi j est projeté sur la carte de profondeur projetée D j V , dans une position identique à celle du pixel pi j dans la carte de profondeur D j . Au cours de la projection S12, il est procédé à une variation de la valeur de profondeur di j du pixel pi j jusqu’à atteindre une valeur de profondeur maximale dijmax, tel que :

Adij= dijmax - dij< Ep r0 j

où E proj est une erreur de projection autorisée du pixel pi j sur la carte de profondeur projetée D j v .

Selon un exemple de réalisation, E pr0j est l’écart de projection du pixel pi j en nombre de pixels, par exemple 3 pixels.

En S13, le niveau de confiance Ci j est calculé selon la relation :

Ci j = g(Adi j )

où g représente une fonction mathématique prédéfinie, telle que par exemple une fonction puissance ou une fonction exponentielle.

L’application d’une fonction à Adi j permet ainsi de donner plus d’importance à la carte de profondeur située le plus près de la vue à synthétiser.

Les opérations S1 1 à S13 sont appliquées à tous les pixels de la carte de profondeur D j sélectionnée de façon à attribuer à chacun de ces pixels un niveau de confiance respectif C1 j , C2 j , ..., CQ j .

A l’issue de ces opérations, en référence à la figure 3C, une carte Ci j de niveaux de confiance est attribuée en relation avec la carte de profondeur projetée D j v .

L’ensemble des opérations S10 à S13 est ensuite appliqué à chacune des cartes de profondeur D 1 à D N .

Selon un mode de réalisation, dans le cas où les images \^ à I N ont été codées, le calcul d’un niveau de confiance Ci j est également fonction d’au moins un paramètre de codage par C o MP associé à l’image l j . Un tel paramètre de codage est par exemple la valeur du pas de quantification qui a été utilisé durant le codage de l’image l j , ou encore la position de cette image dans la hiérarchie de codage.

De façon plus générale, le calcul du niveau de confiance Ci j peut prendre en compte l’ensemble des paramètres de l’image l j (paramètres intrinsèques et extrinsèques), excepté la texture, à savoir :

- la qualité réelle de la projection et pas seulement la distance de positionnement entre deux caméras qui captent chacune une image donnée parmi les N images \^ à I N ,

- le niveau de quantification numérique : une carte de profondeur quantifiée sur 8 bits, dans laquelle seulement un quart de la dynamique est donc utilisé, présente un niveau de confiance plus faible que le niveau de confiance de cette carte de profondeur quantifiée sur 32 bits, car la variation de profondeur Adi j donnant un déplacement de 3 pixels sera plus petite,

- le/les paramètre(s) de compression de l’image l j (pas de quantification, structure temporelle),

- la qualité intrinsèque de la carte de profondeur D j , c'est-à-dire un faible écart entre la valeur de profondeur en chaque point/pixel de la carte de profondeur D j et la valeur de profondeur réelle en chaque point correspondant dans la scène 3D,

. l’importance donnée à la carte de profondeur D j , liée à la position de l’image l j par rapport à l’image l sth à synthétiser.

On va maintenant décrire, en référence à la figure 4, un mode de réalisation d’un calcul de l’information de fiabilité précitée.

L’ensemble des cartes de profondeur projetées D à D N V est considéré.

En S100, les pixels p1 1 ; p1 2 , - - -,p1 N situés dans la même position (le premier pixel de la première ligne en partant de la gauche), dans chacune des cartes de profondeur projetées D , D 2 V , ..., D j v , ..., D N v sont sélectionnés.

En S101 , est déterminé quel est le pixel, parmi les pixels p11 , p1 2 ,---,p1 N, qui a la valeur de profondeur maximale d1 v max .

En S102, est déterminé quel est le pixel, parmi les pixels p1 1 ; p1 2 ,---,p1 N, qui a la valeur de profondeur minimale d1 v min -

Durant les opérations S101 et S102, si aucune valeur de profondeur n’a été trouvée en relation avec un pixel considéré dans une carte de profondeur projetée, cette carte de profondeur projetée n’est pas considérée. Comme déjà expliqué plus haut, l’absence de valeur de profondeur peut se produire lors de la projection S1 (figure 1 ) de chaque carte de profondeur D 1 à D N , à l’issue de laquelle tous les pixels de l’image synthétisée l sth ne sont pas nécessairement associés à une valeur de profondeur. Ces pixels sans valeur de profondeur associée constituent des zones de « trou » ou « hole » en anglais.

En S103, la différence Ad1 v =d1 v max -d1 v min est comparée à un seuil prédéfini depth H .

Si Ad1 v =d1 v max -d1 v min ³depth TH , en S104, une information de fiabilité F1 est mise à une première valeur V3, telle que par exemple V3=0, pour indiquer que la valeur de profondeur des pixels p1 1 ; p1 2 ,-- -,p1 N qui ont été projetés à la même position, respectivement dans les cartes de profondeur projetées D/, D 2 V ,..., D j v ,..., D n v , n’est pas fiable.

En variante, la comparaison S104 est Ad1 v =d1 v max -d1 v min >depth TH ·

Si Ad1 v =d1 v ma x-d1 v mi n<depth TH , en S105, une information de fiabilité F1 est mise à une deuxième valeur V4, telle que par exemple V4=1 , pour indiquer que la valeur de profondeur des pixels p1 1 , p1 2 ,-- -,p1 N qui ont été projetés à la même position, respectivement dans les cartes de profondeur projetées D/, D 2 V ,..., D j v ,..., D n v , est fiable.

En variante, la comparaison S105 est Ad1 v =d1 v ma x-d1 v min£depth TH .

Le seuil depth TH est un seuil de différenciation entre le premier plan et l’arrière-plan de la scène 3D. Le seuil depth TH dépend par exemple des variations de valeur de profondeur Ad1 1 ; Ad1 2 , ..., Ad1 j , ..., Ad1 N qui ont été calculées en S12 (figure 3A) pour générer le niveau de confiance C1 i du pixel p1 1 , le niveau de confiance C1 2 du pixel pl 2, · · ·, le niveau de confiance C1 j du pixel p1 j , ..., le niveau de confiance C1 N du pixel p1 N .

Selon un exemple particulier, depth TH = ^ — -

Selon un autre exemple particulier,

avec D v (x, y) où (x, y) sont les coordonnées des pixels/points de chaque carte de profondeur.

Les opérations S100 à S103 et S104 ou S105 sont itérées pour les pixels p2 1 ; p2 2 , ...,p2 N situés dans la même position (par exemple le deuxième pixel de la première ligne en partant de la gauche), dans chacune des cartes de profondeur projetées D/, D 2 V ,..., D j v ,..., D N V , et ainsi de suite jusqu’aux pixels pQi, pQ 2 , ...,pQ N situés dans la même position (par exemple le dernier pixel de la dernière ligne en partant de la gauche), dans chacune des cartes de profondeur projetées D/, D 2 V ,...,

7. Modes de réalisation particulier du procédé de synthèse

On va maintenant décrire trois modes de réalisation du procédé de synthèse qui vient d’être décrit ci-dessus. Selon ces trois modes de réalisation, une image l sth d’une vue synthétisée est obtenue à partir d’images h, l 2 , h, U de respectivement quatre vues.

En référence à la figure 1 , les cartes de profondeur D-i, D 2 , D 3 , D 4 de respectivement chaque image h , l 2 , l 3 , l 4 sont projetées en S1 , à une position correspondant à une image l sth d’un vue à synthétiser. Quatre cartes de profondeur projetées D/, D 2 V , D 3 V , D 4 V sont alors obtenues.

Sont fournis en entrée du procédé de synthèse :

- les quatre cartes de profondeur projetées D/, D 2 V , D 3 V , D 4 V obtenues en S1 ,

- les quatre cartes d’attribut A 1 ; A 2 , A 3 , A 4 correspondantes obtenues en S1 ,

- le seuil prédéfini depth TH -

7.1 Premier mode de réalisation

Afin de mettre en oeuvre l’opération de modification conditionnelle S2 de la figure 1 , il est procédé au calcul, en chaque pixel de chacune des cartes de profondeur projetées D/, D 2 V , D 3 V , D 4 V , de son niveau de confiance respectif, comme illustré en figure 3A.

L’ensemble des cartes de profondeur D 1 à D 4 est considéré.

En S10, une carte de profondeur est sélectionnée, par exemple la carte de profondeur D-i .

En S1 1 , est sélectionné un pixel ph de la carte de profondeur D-i.

En S12, le pixel ph est projeté sur la carte de profondeur projetée D/, dans une position identique à celle du pixel ph de la carte de profondeur D-i . Au cours de la projection S12, il est procédé à une variation de la valeur de profondeur di 1 du pixel pii jusqu’à atteindre une valeur de profondeur maximale dh max , te! que :

Adii= dhmax dii<E pr0j

où E proj est une erreur de projection autorisée du pixel ph sur la carte de profondeur projetée D/.

Selon un exemple de réalisation préféré, E pr0j est l’écart de projection du pixel ph en nombre de pixels, par exemple 3 pixels. Il est considéré que 3 pixels au maximum d’erreur entraîne essentiellement des artefacts de type flou. Le calcul de Adh est itératif. A cet effet, la valeur de profondeur dh est augmentée jusqu'à la valeur de profondeur di -imax, pour laquelle est obtenu un écart de projection E pr0 j de 3 pixels.

En S13, le niveau de confiance Ch est calculé selon la relation Ch= (Adh) 2 pour donner plus d’importance à l’image de la vue la plus proche de l’image l sth de la vue à synthétiser.

Les opérations S1 1 à S13 sont appliquées à tous les pixels de la carte de profondeur D 1 sélectionnée de façon à attribuer à chacun de ces pixels un niveau de confiance respectif C1 1 ; C2-i,..., CQ 1 .

L’ensemble des opérations S10 à S13 est ensuite appliqué à chacune des cartes de profondeur D 2 , D 3 , D 4 .

Le calcul d’un tel niveau de confiance prend donc en compte l’ensemble des paramètres d’une image d’une vue (hors texture), c'est-à-dire la qualité réelle de la projection de sa carte de profondeur, le niveau de quantification de cette image, et pas seulement la distance de positionnement entre deux caméras qui ont capté deux images parmi les images h à l 4 .

Le calcul d’un tel niveau de confiance peut également prendre en entrée des données issues d’un codeur vidéo, comme par exemple un pas de quantification.

Afin de mettre en oeuvre l’opération de modification conditionnelle S2 de la figure 1 , il est également procédé au calcul de l’information de fiabilité, en chaque pixel de chacune des cartes de profondeur projetées D , D 2 V , D 3 V , D 4 V , comme illustré en figure 4.

L’ensemble des cartes de profondeur projetées D à D 4 V est considéré.

En S100, les pixels p1 1 ; p1 2 ,..., P1 N situés dans la même position (le premier pixel de la première ligne en partant de la gauche), dans chacune des cartes de profondeur projetées D , D 2 V , D 3 V , D 4 V sont sélectionnés.

En S101 , est déterminé quel est le pixel, parmi les quatre pixels p1 , p1 2 , p1 3 , p1 4 , qui a la valeur de profondeur maximale d1 v max .

Selon le premier mode de réalisation :

d1 v max =Max ((Ah, DS), (A1 2 , D 2 V ), (A1 3 , D 3 V ), (A1 4 , D 4 V ))

En S102, est déterminé quel est le pixel, parmi les quatre pixels p1 , p1 2 , p1 3 , p1 4 , qui a la valeur de profondeur minimale d1 v m in-

Selon le premier mode de réalisation :

d1 v min =Min ((A1 D/), (A1 2 , D 2 v ), (A1 3 , D 3 v ), (A1 4 , D 4 v )) Dans les opérations S101 et S102, A1 -, est l’attribut relatif à la projection du pixel p1 dans la carte de profondeur projetée D/, A1 2 est l’attribut relatif à la projection du pixel p1 2 dans la carte de profondeur projetée D 2 V , A1 3 est l’attribut relatif à la projection du pixel p1 3 dans la carte de profondeur projetée D 3 V , A1 4 est l’attribut relatif à la projection du pixel p1 4 dans la carte de profondeur projetée D 4 V , et en considérant que :

- A1 -i=V1 ou A1 i=V2, et/ou

- A1 2 =V1 OU A1 2 =V2, et/ou

- A1 3 =V1 ou A1 3 =V2 et/ou

- A1 4 =V1 OU A1 4 =V2,

sachant que si A1 1 = V1 (resp. A1 2 =V1 , A1 3 =V1 , A1 4 =V1 ), aucune valeur de profondeur du pixel pl i (resp. p1 2 , p1 3 , p1 4 ) n’a été projetée sur la carte de profondeur projetée D/ (resp D 2 V , D 3 V , D 4 V ) et que donc cette valeur n’intervient pas dans le calcul de la valeur de profondeur maximale d1 v ma x ou de la valeur de profondeur minimale d1 v mi n-

En S103, la différence Ad1 v =d1 v ma x-d 1 v mi n est comparée à un seuil prédéfini depth H , selon la relation suivante :

Ad1 v =d1 v max-d1 v min<depth TH

Si Ad1 v =d1 v max -d1 v min ³depth TH en S104, une information de fiabilité F 1 est mise à une première valeur V3, telle que par exemple V 3=0, pour indiquer que la valeur de profondeur des pixels p1 , p1 2 , p1 3 , p1 4 qui ont été projetés à la même position, respectivement dans les 4 cartes de profondeur projetées D/, D 2 V , D 3 V , D 4 V , n’est pas fiable.

Si Ad1 v =d1 v max -d1 v min <depth TH , en S105, une information de fiabilité F 1 est mise à une deuxième valeur V4, telle que par exemple V4=1 , pour indiquer que la valeur de profondeur des pixels p1 1 ; p1 2 , p1 3 , p1 4 qui ont été projetés à la même position, respectivement dans les 4 cartes de profondeur projetées D/, D 2 V , D 3 V , D 4 V est fiable.

Les opérations S100 à S103 et S104 ou S105 sont itérées pour les pixels p2-i, p2 2 , ...,p2 N situés dans la même position (par exemple le deuxième pixel de la première ligne en partant de la gauche), dans chacune des cartes de profondeur projetées D/, D 2 V , D 3 V , D 4 V , et ainsi de suite jusqu’aux pixels pQi, pQ 2 ,...,pQ N situés dans la même position (par exemple le dernier pixel de la dernière ligne en partant de la gauche), dans chacune des cartes de profondeur projetées D/, D 2 V , D 3 V , D 4 V .

En référence à la figure 1 , pour au moins une carte de profondeur projetée considérée D j v , une modification conditionnelle S2 est appliquée aux valeurs de profondeur d1 V j , d2 V j ,..., dQ V j .

Une telle modification conditionnelle S2 se déroule comme suit.

En S21 , pour un pixel donné ph (1 <i£Q) de la carte de profondeur projetée D/, il est déterminé si l’attribut Ai 1 associé au pixel pi 1 est à une première valeur V1 ou à une deuxième valeur V2.

Si l’attribut Ai 1 a pour valeur V1 , le procédé de modification conditionnelle n’est pas mis en oeuvre et le pixel suivant de la carte de profondeur projetée D/ est alors considéré.

Si l’attribut Ai 1 a pour valeur V2, en S22, il est déterminé si une information de fiabilité Fi-i, associée au pixel ph, est à une première valeur V 3 ou à une deuxième valeur V4.

Si Fh=V3, la valeur de profondeur di v 1 du pixel ph de la carte de profondeur projetée D/ n’est pas modifiée.

Si Fh=V4, la valeur de profondeur di v i du pixel ph de la carte de profondeur projetée D/ est modifiée en S23.

Selon le premier mode de réalisation, à l’issue de la modification S23, est obtenue une valeur de profondeur modifiée άi du pixel ph de la carte de profondeur projetée D/ selon la relation suivante :

La modification conditionnelle S2 qui vient d’être décrite ci-dessus est appliquée à la valeur de profondeur de chacun des pixels p1 j , p2 j ,..., pQ j de la carte de profondeur projetée D/ et est itérée pour chaque pixel de chacune des autres cartes de profondeur projetées D 2 V , D 3 V , D 4 V .

7.2 Deuxième mode de réalisation

Selon ce deuxième mode de réalisation, le calcul du niveau de confiance se déroule de la même façon que dans le premier mode de réalisation.

Le calcul de l’information de fiabilité se déroule de la même façon que dans le premier mode de réalisation jusqu’en S102 inclus. Il est alors procédé au calcul suivant :

On considère les pixels p1 1 , p1 2 ,-- -,p1 N situés dans la même position (le premier pixel de la première ligne en partant de la gauche), dans chacune des cartes de profondeur projetées D , D 2 V , D 3 V , D 4 V .

Il est procédé au calcul de la variance moyenne Var moy des valeurs de profondeur projetées correspondantes d1 v i, d1 v 2 , d1 v 3 , d1 v 4 .

Si Var moy >depth TH , en S103, la différence Ad1 v =d1 v ma x-d 1 v min est comparée à un seuil prédéfini, selon la relation suivante :

Ad 1 v =d 1 v max-d 1 V min<Var moy

Les opérations S104 ou S105 de la figure 4 se déroulent de la même manière que dans le premier mode de réalisation.

Les opérations S100 à S103 et S104 ou S105 sont itérées pour les pixels p2 1 ; p2 2 , ...,p2 N situés dans la même position (par exemple le deuxième pixel de la première ligne en partant de la gauche), dans chacune des cartes de profondeur projetées D , D 2 V , D 3 V , D 4 V , et ainsi de suite jusqu’aux pixels pQi, pQ 2 ,...,pQ N situés dans la même position (par exemple le dernier pixel de la dernière ligne en partant de la gauche), dans chacune des cartes de profondeur projetées D , D 2 V , D 3 V , D 4 V .

La modification conditionnelle S2 est mise en oeuvre de la même manière que dans le premier mode de réalisation.

7.3 Troisième mode de réalisation

Selon ce troisième mode de réalisation, le calcul du niveau de confiance se déroule de la même façon que dans le premier mode de réalisation.

Le calcul de l’information de fiabilité se déroule de la même façon que dans le premier mode de réalisation jusqu’en S102 inclus. Les opérations S103 à S104 ou S105 sont remplacées par ce qui suit :

S’agissant du pixel pl i de la carte de profondeur projetée D , les différences dl Yd1 v min et d 1 v m ax- d1 v 1 sont chacune comparées à un seuil prédéfini depth TH , tel que

Si d1 v rd1 v min³depth T H, une information de fiabilité F1 i est mise à une première valeur V3, telle que par exemple V3=0, pour indiquer que la valeur de profondeur du pixel pl i dans la carte de profondeur projetée D n’est pas fiable par rapport à la valeur de profondeur minimale d1 v min · En variante, la comparaison est d1 Yd1 v min >depth TH -

Si d1 v rd1 v min<depth T H, une information de fiabilité F1 i est mise à une deuxième valeur V4, telle que par exemple V4=1 , pour indiquer que la valeur de profondeur du pixel pl i dans la carte de profondeur projetée D/ est fiable par rapport à la valeur de profondeur minimale d1 v min .

En variante, la comparaison est d1 Yd1 Yn £depth TH .

Si d1 v max-d1 v i³depth TH , une information de fiabilité F1 1min est mise à une première valeur V3, telle que par exemple V3=0, pour indiquer que la valeur de profondeur du pixel pl i dans la carte de profondeur projetée D/ n’est pas fiable par rapport à la valeur de profondeur maximale d1 Y ax .

En variante, la comparaison est d1 v ma x- d1 v i>depth TH .

Si d 1 v max -d 1 v -i<depth TH , une information de fiabilité F1 1max est mise à une deuxième valeur V4, telle que par exemple V4=1 , pour indiquer que la valeur de profondeur du pixel p1 1 dans la carte de profondeur projetée D/ est fiable par rapport à la valeur de profondeur maximale d1 v max .

En variante, la comparaison est d1 v max - d1 v 1 £depth TH -

Le calcul qui vient d’être décrit est itéré pour le pixel p1 2 de la carte de profondeur projetée D 2 V , et ainsi de suite jusqu’au pixel p1 4 de la carte de profondeur projetée D 4 V .

Le calcul est ensuite itéré pour chaque pixel suivant p2 1 à pQ 1 de la carte de profondeur projetée D/, pour chaque pixel suivant p2 2 à pQ 2 de la carte de profondeur projetée D 2 V , pour chaque pixel suivant p2 3 à pQ 3 de la carte de profondeur projetée D 3 V , pour chaque pixel suivant p2 4 à pQ 4 de la carte de profondeur projetée D 4 V .

La modification conditionnelle S2 est alors mise en oeuvre de la manière suivante.

Pour un pixel donné ph (1 <i£Q) de la carte de profondeur projetée D/, il est déterminé si :

- l’information de fiabilité Fi 1 min , associée au pixel ph , est à 0 ou 1 ,

- l’information de fiabilité Fi 1 max , associée au pixel ph , est à 0 ou 1 .

Si Fi 1 mi n=0 et Fi 1max =0, la valeur de profondeur di v i du pixel ph de la carte de profondeur projetée D/ n’est pas modifiée.

Si Fi 1min =1 et Fi 1 max =0, la valeur de profondeur di v 1 min du pixel ph de la carte de profondeur projetée D/ est modifiée en S23 selon la relation suivante : d i mm= moyenne((Aii , Ch , di v i) et/ou (Ai 2 , Ci 2 , di v 2 ) et/ou (Ai 3 , Ci 3 , di v 3 ) et/ou (Ai 4 , Ci 4 , di v 4 )), selon que Ai 2 =V1 ou Ai 2 =V2, Ai 3 =V1 ou Ai 3 =V2, Ai 4 =V1 ou Ai 4 =V2.

Selon un exemple particulier, seules les valeurs de profondeur di v i et di v 2 sont prises en compte dans la modification de di v 1 mi n. La valeur de profondeur di v 1mi n du pixel ph de la carte de profondeur projetée D/ est alors modifiée selon la relation suivante :

Si Fi 1 mi n=0 et Fi 1 m ax=1 , la valeur de profondeur di v 1 ma x du pixel ph de la carte de profondeur projetée D/ est modifiée selon la relation suivante :

moyenne((Ah, Ch , di v i) et/ou (Ai 2 , Ci 2 , di v 2 ) et/ou (Ai 3 , Ci 3 , di v 3 ) et/ou selon que Ai 2 =V1 ou Ai 2 =V2, Ai 3 =V1 ou Ai 3 =V2, Ai 4 =V1 ou Ai 4 =V2.

Selon un exemple particulier, seules les valeurs de profondeur di v 1 ; di v 3 et di v 4 sont prises en compte dans la modification de di v i ma x- La valeur de profondeur di v i ma x du pixel ph de la carte de profondeur projetée D/ est alors modifiée selon la relation suivante :

Si Fï -| mj n— 1 St Fiimax-1

- la valeur de profondeur di v 1min du pixel pi 1 de la carte de profondeur projetée D/ est modifiée selon la relation suivante :

- la valeur de profondeur di v i ma x du pixel ph de la carte de profondeur projetée D/ est modifiée selon la relation suivante :

La modification conditionnelle S2 qui vient d’être décrite ci-dessus est appliquée à la valeur de profondeur maximale et/ou minimale de chacun des pixels p1 j , p2 j , ... , pQ j de la carte de profondeur projetée D/ et est itérée pour chaque pixel de chacune des autres cartes de profondeur projetées D 2 V , D 3 V , D 4 V .

A l’issue de la modification conditionnelle S2 sont obtenues, en fonction de la valeur des informations de fiabilité Fi j m in et Fi jmax : - une carte de profondeur projetée D non modifiée ou bien une carte de profondeur projetée modifiée D” min et/ou une carte de profondeur projetée modifiée D^ max ,

- une carte de profondeur projetée D 2 V non modifiée ou bien une carte de profondeur projetée modifiée D% min et/ou une carte de profondeur projetée modifiée D Z v max ,

- une carte de profondeur projetée D 3 V non modifiée ou bien une carte de profondeur projetée modifiée D% min et/ou une carte de profondeur projetée modifiée D% max ,

- une carte de profondeur projetée D 4 V non modifiée ou bien une carte de profondeur projetée modifiée D% min et/ou une carte de profondeur projetée modifiée D v rnax .

8. Exemple de mise en œuvre de dispositif de synthèse

La figure 5 présente la structure simplifiée d’un dispositif de synthèse SYNT adapté pour mettre en œuvre le procédé de synthèse selon l'un quelconque des modes particuliers de réalisation de l'invention.

Selon un mode particulier de réalisation de l'invention, les actions exécutées par le procédé de synthèse sont mises en œuvre par des instructions de programme d'ordinateur. Pour cela, le dispositif de synthèse SYNT a l'architecture classique d'un ordinateur et comprend notamment une mémoire MEM, une unité de traitement UT, équipée par exemple d'un processeur PROC, et pilotée par le programme d'ordinateur PG stocké en mémoire MEM. Le programme d'ordinateur PG comprend des instructions pour mettre en œuvre les actions du procédé de synthèse tel que décrit ci-dessus, lorsque le programme est exécuté par le processeur PROC.

A l'initialisation, les instructions de code du programme d'ordinateur PG sont par exemple chargées dans une mémoire RAM (non représentée) avant d'être exécutées par le processeur PROC. Le processeur PROC de l'unité de traitement UT met notamment en œuvre les actions du procédé de synthèse décrit ci-dessus, selon les instructions du programme d'ordinateur PG.

Dans le cas où les images l 1 à l N ont été préalablement décodées par un décodeur DEC, selon un procédé de décodage adapté : - le dispositif de synthèse SYNT est agencé en sortie du décodeur DEC, comme illustré sur la figure 6A, ou

- le dispositif de synthèse SYNT fait partie du décodeur DEC, comme illustré sur la figure 6B.

II va de soi que les modes de réalisation qui ont été décrits ci-dessus ont été donnés à titre purement indicatif et nullement limitatif, et que de nombreuses modifications peuvent être facilement apportées par l’homme de l’art sans pour autant sortir du cadre de l’invention.