Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
IMAGE CORRECTION METHOD, IMAGE CORRECTION DEVICE, AND PROGRAM
Document Type and Number:
WIPO Patent Application WO/2009/054326
Kind Code:
A1
Abstract:
An image correction device capable of properly correcting an image including a plurality of objects without increasing processing cost is provided. The image correction device comprises a scene belonging ratio calculating means for obtaining a plurality of scene belonging ratios to define the probability belonging to the scene of each category from the feature amount of an input image, an unknown scene belonging ratio specifying means for specifying an unknown scene belonging ratio to define the probability belonging to an unknown scene, a scene-by-scene correction parameter storage means for storing a scene-by-scene correction parameter, a correction parameter generating means for calculating a generated correction parameter which is the weighted average of the correction parameter by using the scene belonging ratios and the unknown scene belonging ratio, and an image correction means for applying an image correction processing to the input image by using the generated correction parameter.

Inventors:
KATOH SATOSHI (JP)
INOUE AKIRA (JP)
Application Number:
PCT/JP2008/068888
Publication Date:
April 30, 2009
Filing Date:
October 17, 2008
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
NEC CORP (JP)
KATOH SATOSHI (JP)
INOUE AKIRA (JP)
International Classes:
G06T5/00; G06T1/00; G06T7/00; H04N1/46; H04N1/60; H04N9/68
Domestic Patent References:
WO2006036027A12006-04-06
Foreign References:
JPH0832838A1996-02-02
JP2007278992A2007-10-25
Other References:
See also references of EP 2214134A4
Attorney, Agent or Firm:
KATO, Asamichi (20-12 Shin-Yokohama 3-chome Kohoku-ku, Yokohama-sh, Kanagawa 33, JP)
Download PDF:
Claims:
 入力画像の特徴量から、各カテゴリのシーンに属する確率を規定する複数のシーン帰属率を求めるシーン帰属率算出工程と、
 前記複数のシーン帰属率と未知のシーンに属する確率を規定する未知シーン帰属率とを用いて、シーン別の補正パラメータの加重平均である合成補正パラメータを算出する補正パラメータ算出工程と、
 前記合成補正パラメータを用いて、前記入力画像に画像補正処理を施す画像補正工程と、を含むことを特徴とする画像補正方法。
 前記補正パラメータ算出工程において、前記合成補正パラメータを、さらにシーン別の誤分類に対する重み値を用いて算出することを特徴とする、請求項1に記載の画像補正方法。
 前記補正パラメータは、彩度強調量であることを特徴とする、請求項1又は2に記載の画像補正方法。
 前記重み値は、誤認識による画質に対する影響が大きいものほど大きい値をとることを特徴とする、請求項1ないし3のいずれか1項に記載の画像補正方法。
 入力画像の特徴量から、各カテゴリのシーンに属する確率を規定する複数のシーン帰属率を求めるシーン帰属率算出手段と、
 未知のシーンに属する確率を規定する未知シーン帰属率を指定する未知シーン帰属率指定手段と、
 シーン別の補正パラメータを保存するシーン別補正パラメータ保存手段と、
 前記複数のシーン帰属率と前記未知シーン帰属率とを用いて、前記補正パラメータの加重平均である合成補正パラメータを算出する補正パラメータ合成手段と、
 前記合成補正パラメータを用いて、前記入力画像に画像補正処理を施す画像補正手段と、を備えることを特徴とする画像補正装置。
 シーン別の誤分類に対する重み値を保存するシーン別誤分類重み保存手段をさらに備え、
 前記補正パラメータ合成手段は、前記合成補正パラメータを、さらに前記重み値を用いて算出することを特徴とする、請求項5に記載の画像補正装置。
 入力画像の特徴量から、各カテゴリのシーンに属する確率を規定する複数のシーン帰属率を求めるシーン帰属率算出手段とするとともに、
 前記複数のシーン帰属率と未知のシーンに属する確率を規定する未知シーン帰属率とを用いて、シーン別の補正パラメータの加重平均である合成補正パラメータを算出する補正パラメータ合成手段として、コンピュータを機能させることを特徴とするプログラム。
 前記補正パラメータ合成手段において、前記合成補正パラメータを、さらにシーン別の誤分類に対する重み値を用いて算出するようコンピュータを機能させることを特徴とする、請求項7に記載のプログラム。
Description:
画像補正方法及び画像補正装置 びにプログラム

[関連出願の記載]
 本発明は、日本国特許出願:特願2007-278992号( 2007年10月26日出願)の優先権主張に基づくもの であり、同出願の全記載内容は引用をもって 本書に組み込み記載されているものとする。
 本発明は、画像品質を向上させるために色 階調を補正する画像補正方法及び画像補正 置並びにプログラムに関する。

 近年、デジタルカメラ機能を備えた携帯 話機が普及しており、撮影した画像を携帯 話機の画面で鑑賞したり、パーソナルコン ュータなどのコンピュータ機器に転送して 示したり、写真プリントを作成するなど、 々な形態で利用されている。ここで、デジ ルカメラで撮影された画像は撮影時の露出 整の不備等により鑑賞画像として適してい い場合があり、そのような場合には、携帯 話機やコンピュータ機器、プリンタなどの 器に設けられた画像補正装置を用いて、色 正や階調補正などの画像補正が行われる。

 この色補正や階調補正などの画像補正に ける補正量は、画像に応じて最適な値に設 する必要があり、この最適値は、画像内容 依存するし、見る人の好みにも依存する。 って、理想的な画像補正を行うためにはユ ザが1枚1枚手動で補正量を調整する必要が るが、手動で大量の画像補正を行うには莫 な工数を必要とする。そこで、機器側で自 的に画像補正を制御する方法が提案されて り、例えば、下記非特許文献1には、ヒスト ラム解析を利用した自動画像補正方法が提 されている。

 しかしながら、上記画像補正方法では、 ートレート(人物写真)、風景、花、夜景の うな対象物を認識してこれらを自動的に分 することができないため、シーンによって 過度の補正が行われる場合があった。例え 、ポートレートにもかかわらず、彩度を強 しすぎて肌色が赤くなりすぎるといった場 があった。そこで、近年、シーンを認識す ことにより、画像補正量を動的に変更する 法が提案されている。例えば、下記特許文 1、2には、画像中から顔領域を認識し、その 部分の色分布を解析することによってポート レートに適切な補正量を算出し、算出した補 正量に従って画像を補正する方法が開示され ている。

 ここで、シーンの認識処理は、通常、入 画像中からエッジや色などの特徴量を算出 、それらの特徴量に基づいてパタン認識処 を行うことで実行されるが、パタン認識処 においては誤認識の確率は0ではない。しか しながら、特許文献1、2に記載の画像補正方 は、シーン認識が誤る場合を考慮していな ため、シーン認識処理が間違った場合には 補正量が不適切になって画質の破綻を招く いう問題があった。

 また、撮影された画像中の対象物は一つ は限らず、複数の対象物が混在する場合が い。例えば、人物と芝生、人物と花、人物 夜景などの場合である。このように複数の 象が混在する場合には、一つの対象物に適 た補正を行うと、他の対象物の画像に悪影 を及ぼす可能性がある。

 そこで、下記特許文献3では、複数の対象 物が混在する場合の問題を解決するため、撮 影された複数の対象物のそれぞれに応じた補 正画像を複数枚作成し、この複数枚の補正画 像を対象物の位置に応じて合成する方法を開 示している。しかしながら、補正画像を複数 枚作成するためには大量のワークメモリを必 要とするため、処理コストが増大するという 問題があった。さらに、対象物の誤認識に対 する考慮もないため、誤認識の場合には、同 様に画質の破綻を招くという問題があった。

特開平11-283025号公報

特開2000-182043号公報

特開平11-205583号公報 A.Inoue and J.Tajima, “Adaptive Quality Improve ment Method     for Color Images,” Proc. of SPI E, Vol.2179, pp.429-439, 1994.

 なお、上記特許文献及び非特許文献の全開 内容はその引用をもって本書に繰込み記載 る。以下の分析は、本発明によって与えら たものである。
 このように、上述した画像補正方法では以 に示す問題がある。

 第1の問題点は、複数の対象物が混在する 画像を適切に補正することができないという 点である。その理由は、ある一つの対象物に 適した補正を実行すると、他方の対象物の画 質が劣化してしまう場合があるからである。

 第2の問題点は、複数の対象物の位置を認 識してそれぞれの対象物に応じた補正画像を 作成しこれらを対象物の位置に応じて合成す るという方法を採用すると、処理コストが増 大するという点である。その理由は、それぞ れの対象物に応じた補正画像を保存するため のワークメモリが必要になるからである。

 第3の問題点は、シーン認識処理において 誤認識を起こした場合に、画質の破綻を招く 点である。その理由は、誤認識が起こる場合 を想定していないからである。

 本発明は、上記問題点に鑑みてなされた のであって、その主たる目的は、複数の対 物を含む画像を、処理コストを増大させる となく適切に補正することができる画像補 方法及び画像補正装置並びにプログラムを 供することにある。

 本発明の第1の視点に係る画像補正方法は、 入力画像の特徴量から、各カテゴリのシーン に属する確率を規定する複数のシーン帰属率 を求めるシーン帰属率算出工程と、前記複数 のシーン帰属率と未知のシーンに属する確率 を規定する未知シーン帰属率とを用いて、シ ーン別の補正パラメータの加重平均である合 成補正パラメータを算出する補正パラメータ 算出工程と、前記合成補正パラメータを用い て、前記入力画像に画像補正処理を施す画像 補正工程と、を含むことを特徴とする。
 本発明の第2の視点に係る画像補正装置は、 入力画像の特徴量から、各カテゴリのシーン に属する確率を規定する複数のシーン帰属率 を求めるシーン帰属率算出手段と、未知のシ ーンに属する確率を規定する未知シーン帰属 率を指定する未知シーン帰属率指定手段と、 シーン別の補正パラメータを保存するシーン 別補正パラメータ保存手段と、前記複数のシ ーン帰属率と前記未知シーン帰属率とを用い て、前記補正パラメータの加重平均である合 成補正パラメータを算出する補正パラメータ 合成手段と、前記合成補正パラメータを用い て、前記入力画像に画像補正処理を施す画像 補正手段と、を備えることを特徴とする。
 本発明の第3の視点に係るプログラムは、入 力画像の特徴量から、各カテゴリのシーンに 属する確率を規定する複数のシーン帰属率を 求めるシーン帰属率算出手段とするとともに 、前記複数のシーン帰属率と未知のシーンに 属する確率を規定する未知シーン帰属率とを 用いて、シーン別の補正パラメータの加重平 均である合成補正パラメータを算出する補正 パラメータ合成手段として、コンピュータを 機能させることを特徴とする。
 第1の展開形態の画像補正方法は、前記補正 パラメータ算出工程において、前記合成補正 パラメータを、さらにシーン別の誤分類に対 する重み値を用いて算出することが好ましい 。
 第2の展開形態の画像補正方法は、前記補正 パラメータが、彩度強調量であることが好ま しい。
 第3の展開形態の画像補正方法は、前記重み 値が、誤認識による画質に対する影響が大き いものほど大きい値をとることが好ましい。
 第4の展開形態の画像補正装置は、シーン別 の誤分類に対する重み値を保存するシーン別 誤分類重み保存手段をさらに備え、前記補正 パラメータ合成手段が、前記合成補正パラメ ータを、さらに前記重み値を用いて算出する ことが好ましい。
 第5の展開形態のプログラムは、前記補正パ ラメータ合成手段において、前記合成補正パ ラメータを、さらにシーン別の誤分類に対す る重み値を用いて算出するようコンピュータ を機能させることが好ましい。

 本発明の画像補正方法及び画像補正装置 びにプログラムによれば、下記記載の効果 奏する。

 本発明の第1の効果は、複数のシーン帰属 率算出手段を設けて、複数のシーンカテゴリ に対するシーン帰属率に基づいて補正パラメ ータを制御することにより、複数の対象物が 混在する画像を適切に補正することができる ということである。

 また、本発明の第2の効果は、補正画像自 体を合成するのではなく、補正パラメータを シーン帰属率に応じて合成することにより、 ワークメモリの消費を抑え、処理コストを低 減することができるということである。

 また、本発明の第3の効果は、複数のシー ン帰属率算出手段を設けて、複数のシーンカ テゴリに対するシーン帰属率を求めることに より、特定のシーンに対する分類誤りの影響 を分散させることができるということである 。

 また、本発明の第4の効果は、複数のシー ン帰属率算出手段に加えて未知シーン帰属率 指定手段を設けて、どのカテゴリにも属さな い確率を考慮して補正パラメータを制御する ことにより、未知のカテゴリの対象物が混在 する画像に対しても、破綻のない適切な画像 補正を行うことができるということである。

本発明の第1の実施の形態に係る画像補 正装置の構成を示すブロック図である。 シーン別補正パラメータの例を示す図 ある。 本発明の第2の実施の形態に係る画像補 正装置の構成を示すブロック図である。

符号の説明

 1 シーン帰属率算出手段
 2 未知シーン帰属率指定手段
 3 シーン別補正パラメータ保存手段
 4、7 補正パラメータ合成手段
 5 画像補正手段
 6 シーン別補正パラメータ
 8 シーン別誤分類重み保存手段

 背景技術で示した画像補正方法では、複 の対象物が混在する画像を適切に補正する とができず、複数の対象物の各々に応じた 正画像を生成して合成する方法を採用する 、処理コストが増大し、また、シーン認識 理において誤認識を起こした場合に画質の 綻を招くという問題があった。

 そこで、本発明では、画像補正装置に、 数の対象物が混在する画像を適切に補正す ために、様々なシーンカテゴリに対応した 数のシーン帰属率算出手段を設ける。また 処理コストを低減するために、補正画像を 成するのではなく補正パラメータを合成す 補正パラメータ合成手段を設ける。更に、 ーンの誤認識を防止するために、上記複数 シーン帰属率算出手段に加えて未知シーン 属率指定手段を設ける。以下、図面を参照 て詳細に説明する。

 なお、本実施形態の画像補正装置は、携 電話機やデジタルカメラ、コンピュータ機 、プリンタなどの画像補正を行う任意の機 に組み込まれて動作するものであるが、以 では本発明の特徴部分である画像補正装置 みについて説明する。

 [実施形態1]
 まず、本発明の第1の実施形態に係る画像補 正方法及び画像補正装置並びにプログラムに ついて、図1及び図2を参照して説明する。図1 は、本実施形態の画像補正装置の構成を示す ブロック図であり、図2は、シーン別補正パ メータの例を示すテーブルである。

 図1を参照すると、本実施形態の画像補正 装置は、入力画像を解析して各カテゴリのシ ーンに属する確率を規定する値(シーン帰属 と呼ぶ。)を算出するシーン帰属率算出手段1 と、未知のシーンに属する確率を規定する値 (未知シーン帰属率と呼ぶ。)を指定する未知 ーン帰属率指定手段2と、シーンカテゴリ別 の補正パラメータを保存するシーン別補正パ ラメータ保存手段3と、シーン別補正パラメ タを合成する補正パラメータ合成手段4と、 成した補正パラメータに基づいて画像補正 実行する画像補正手段5を備える。また、シ ーン帰属率算出手段1は、n個のシーン帰属率 出手段1aを含む。以下、各々の手段につい 詳述する。

 シーン帰属率算出手段1は、複数のシーン カテゴリに対するシーン帰属率pc(c=1,2,…n)を 出する。このシーン帰属率算出手段1の例と して、例えば、線形判別式を用いたシーン分 類方法がある。入力画像をn個のカテゴリに 類するための線形判別式は、式(1)の通りで る。

 xiはm次元の特徴量であり、yは任意のシーン カテゴリcに属するときに1、そうでないとき -1と定義する。まず、複数の教師画像を用 して手動でy値を与え、式(1)を最小二乗法に って解くことにより、最適な係数aiを求め 。次に、入力画像に対して特徴量xiを算出し 、係数aiと特徴量xiを式(1)に当てはめること より、入力画像に対するy値を得ることがで る。このy値が1に近ければ入力画像はシー カテゴリcに属し、-1に近ければ、シーンカ ゴリcに属さないと判定することができる。
このシーン帰属率は、例えばy値が1のときに1 .0、y値が-1のときに0.0となるように正規化す こともできる。判別式がyc(-1≦yc≦1)である 合の、シーン帰属率pcの算出法の一例を式(2 )に示す。

 そして、係数aiを複数のシーンカテゴリc( c=1,2,…n)について算出しておくことにより、 数のシーンカテゴリに対するシーン帰属率 計算することができる。このようにして、 ーン帰属率算出手段1は、n個のシーンカテ リに対するシーン帰属率pc(c=1,2,…n)を算出す る。

 未知シーン帰属率指定手段2は、入力画像 が想定するどのシーンカテゴリにも属さない 確率(未知シーン帰属率)を指定する手段であ 。この未知シーン帰属率は、シーン帰属率 出手段1の誤認識を補償するために用いるも のであり、ユーザが手動で指定することもで きるし、あらかじめ固定値を指定しておくこ とも可能である。

 シーン別補正パラメータ保存手段3は、ROM (Read Only Memory)やRAM(Random Access Memory)などの モリ、HDD(Hard Disk Drive)などからなり、シー ンカテゴリ別の、最適な補正パラメータを保 存する。

 図2にシーン別補正パラメータ保存手段3 保存するデータの一例を示す。図2は、シー 別補正パラメータ6として、未知シーンを含 む、0から4までの5つのシーンカテゴリにおけ る彩度強調量kを保存している例である。こ 彩度強調量kは、式(3)によって補正される色 彩度を強調するパラメータである。

 

 行列Mは、YCbCr座標系への変換行列であり 式(4)で表される。

 補正パラメータ合成手段4は、入力画像の 複数のシーン帰属率pcと未知シーン帰属率と 用いて、シーン別補正パラメータ6を合成し て、入力画像に適した補正パラメータを算出 する。ここで、未知シーンを含めたシーン帰 属率ベクトルを式(5)で表す。p0は未知シーン 属率指定手段2によって指定された未知シー ン帰属率であり、p1~pnは、シーン帰属率算出 段1によって算出されたn個のシーンカテゴ に対するシーン帰属率である。

 

 シーンカテゴリcに対する補正パラメータ をkcとすると、新たな合成後の補正パラメー k’は、式(6)によって算出される。これを合 成補正パラメータと呼ぶ。

 画像補正手段5は、補正パラメータ合成手 段4によって算出された合成補正パラメータk を用いて、画像補正処理を行う。画像補正 段5の一例として、式(3)を実行する画像処理 手段がある。

 このように、入力画像の複数のシーン帰 率pcと未知シーン帰属率とを用いて、シー 別補正パラメータの加重平均である合成補 パラメータを求め、この合成補正パラメー に基づいて画像補正処理を実行することに り、複数の対象物が混在する画像であって 適切に補正することができ、中間処理画像 保存する必要がないため余分なワークメモ の消費を抑えて処理コストを低減すること でき、シーン認識処理の誤認識を防止する とができる。

 なお、シーン帰属率算出手段1及び補正パ ラメータ合成手段4はハードウェアとして構 してもよい。また、コンピュータを、シー 帰属率算出手段1及び補正パラメータ合成手 4として機能させるプログラムとして構成し 、該プログラムをCPU(Central Processing Unit)及び メモリで構成される制御手段上で動作させる 構成としてもよい。

 以下、具体例を挙げて説明する。

 今、シーンカテゴリA、B、Cの3つに対する シーン分類を行うものと仮定する。シーンカ テゴリAへの分類が正しい場合には、Aに対す シーン帰属率のみが高く、シーンカテゴリB 、Cに対するシーン帰属率は相対的に低くな のが一般的である。このような場合には、 ーンカテゴリAへの分類は正しいと考えられ ので、補正パラメータもシーンカテゴリAの ものを用いればよい。

 ところが、シーンカテゴリAへの帰属率が 高く、かつシーンカテゴリBへの帰属率も高 という場合には、入力画像がシーンカテゴ Aである信頼性は低くなる。このような結果 なる場合として、画像中にシーンカテゴリA とBの両方の対象物が混在している場合が考 られる。このような場合の補正量は、シー カテゴリAだけでなく、シーンカテゴリBの補 正パラメータを考慮するほうが望ましい。こ のような場合において、本実施形態の画像補 正装置では他のシーンカテゴリのシーン帰属 率を利用しているため、単一のシーン帰属率 への過信を防止することができる。

 また、シーンカテゴリA、B、Cのいずれも 中程度、あるいはすべてが低い値というケ スがある。これはシーンカテゴリA、B、Cの れにも属さない入力画像の場合にしばしば こる。このような画像の場合には、未知シ ンの補正パラメータ、あるいは、シーンカ ゴリA、B、Cの補正パラメータの中庸に抑え のが望ましい。このような場合において、 実施形態の画像補正装置では未知シーン帰 率を利用しているため、破綻のない適切な 像補正を行うことができる。

 [実施形態2]
 次に、本発明の第2の実施形態に係る画像補 正方法及び画像補正装置並びにプログラムに ついて、図3を参照して説明する。図3は、本 施形態の画像補正装置の構成を示すブロッ 図である。

 前記した第1の実施形態では、複数のシー ン帰属率を同等に扱う場合を示したが、入力 画像によっては、シーン帰属率を重み付けし た方が誤認識に対する悪影響を抑制すること ができる。そこで、本実施形態では、図3に すように、画像補正装置を、入力画像を解 して複数のシーン帰属率を算出する、シー 帰属率算出手段1と、入力画像が未知シーン ある確率値(未知シーン帰属率)を指定する 知シーン帰属率指定手段2と、シーン別の補 パラメータを保存するシーン別補正パラメ タ保存手段3と、シーン別の誤分類に対する 重み値(シーン別誤分類重みと呼ぶ。)を保存 るシーン別誤分類重み保存手段7と、シーン 別補正パラメータを合成する補正パラメータ 合成手段8と、合成した補正パラメータに基 いて画像補正を実行する画像補正手段5を備 る。

 そして、補正パラメータ合成手段8は、入 力画像の各シーンカテゴリのシーン帰属率pc 、未知シーン帰属率と、シーン別補正パラ ータと、シーン別誤分類重みとに基づいて 入力画像に適した補正パラメータを算出す 。

 具体的に説明すると、未知シーンを含め シーン帰属率ベクトルを式(5)で表し、シー 別誤分類重みを式(7)で表す。式(7)において w0は未知シーンにおける誤分類重みである w1~wnは、n個のシーン別の誤分類重みである

 シーンcに対する補正パラメータをkc、誤 類係数をrcとすると、合成補正パラメータ 、式(8)を用いて算出される。

 誤分類係数rcは、シーンカテゴリ別の、 認識に対する悪影響を反映する係数である 誤分類係数rcの算出方法の一例を式(9)に示す 。


 具体的に説明すると、例えば、風景を夜景 間違えると出力画質が極端に悪くなるが、 景を風景と間違えたときにはあまり影響が い、といった設定であったとする。この場 には夜景シーンに対する分類誤りのほうが 質への影響が大きいので、夜景分類の誤認 の影響をなるべく低減する必要がある。こ ような場合には夜景シーンに対する誤分類 みwcを大きくしておくことにより、シーン 属率が低い場合にはrcが小さくなって、合成 パラメータ算出への影響を低減させることが できる。

 このように、画像補正装置にシーン別誤 類重みを保存し、シーン帰属率pcと未知シ ン帰属率とシーン別誤分類重みとを用いて シーン別補正パラメータを合成することに り、シーンカテゴリの誤分類による悪影響 、誤分類重み値を用いて低減することがで る。

 なお、本発明は上記記載に限定されるも ではなく、本発明の趣旨を逸脱しない限り おいて適宜変更可能である。

 本発明は、入力した画像を補正して出力 る任意の機器、例えば、カメラ機能付き携 電話機、デジタルカメラ、コンピュータ機 、プリンタなどに利用可能である。

 本発明の全開示(請求の範囲を含む)の枠 において、さらにその基本的技術思想に基 いて、実施例ないし実施例の変更・調整が 能である。また、本発明の請求の範囲の枠 において種々の開示要素の多様な組み合わ ないし選択が可能である。すなわち、本発 は、請求の範囲を含む全開示、技術的思想 したがって当業者であればなし得るであろ 各種変形、修正を含むことは勿論である。