Login| Sign Up| Help| Contact|

Patent Searching and Data


Title:
IMAGE DISPLAY DEVICE AND IMAGE DISPLAY PROGRAM
Document Type and Number:
WIPO Patent Application WO/2008/155861
Kind Code:
A1
Abstract:
An image acquisition unit (710) reads out and acquires time-series images captured by an encapsulated endoscope and accumulated in a portable recording medium (50). An image display condition setting unit (761) receives via an input unit (720), an input which decides a display condition including the minimum display rate R_min corresponding to the maximum display time associated with display of one image and sets the display condition based on the received user operation. An importance coefficient calculation unit (751) calculates an importance coefficient indicating the importance of each image. A display time calculation unit (753) calculates the display time of each of the images and generates display time data (745). An image display control unit (763) references the display time data (745) and controls display of each image on a display unit (730) in the time series order according to the display time of each image.

Inventors:
KANDA YAMATO (JP)
Application Number:
PCT/JP2007/062540
Publication Date:
December 24, 2008
Filing Date:
June 21, 2007
Export Citation:
Click for automatic bibliography generation   Help
Assignee:
OLYMPUS CORP (JP)
KANDA YAMATO (JP)
International Classes:
A61B1/00; H04N5/93; H04N5/66; H04N5/915; H04N7/18
Foreign References:
JP2005252372A2005-09-15
JP2005193066A2005-07-21
JP2004247817A2004-09-02
JPH0884319A1996-03-26
JP2007243699A2007-09-20
Other References:
See also references of EP 2157790A4
Attorney, Agent or Firm:
SAKAI, Hiroaki (Kasumigaseki Building2-5, Kasumigaseki 3-chom, Chiyoda-ku Tokyo 20, JP)
Download PDF:
Claims:
 時系列画像を表示する画像表示装置において、
 前記時系列画像を構成する各画像を表示する際の表示条件として、少なくとも最低表示レートを定める入力を受付ける表示条件受付手段と、
 前記各画像それぞれの重要性の度合いを示す重要度係数を算出する重要度算出手段と、
 前記表示条件受付手段によって入力を受付けた前記表示条件と前記重要度算出手段によって算出された重要度係数とをもとに、前記各画像それぞれの表示時間を算出する表示時間算出手段と、
 前記表示時間算出手段によって算出された表示時間に従って、前記各画像を時系列順に順次表示部に表示する制御を行う表示制御手段と、
 を備えることを特徴とする画像表示装置。
 前記表示条件受付手段は、前記表示条件として、さらに、前記時系列画像全体の表示に要する全体表示時間を定める入力を受付け、
 前記表示時間算出手段は、前記表示条件受付手段によって入力を受付けた前記全体表示時間を加味して前記各画像それぞれの表示時間を算出することを特徴とする請求項1に記載の画像表示装置。
 前記重要度算出手段は、前記各画像それぞれについて、時系列的に近傍する他の画像との間の画像間変化量を算出する画像間変化量算出手段を有し、前記画像間変化量算出手段によって算出された画像間変化量に従って、前記各画像の重要度係数を算出することを特徴とする請求項1または請求項2に記載の画像表示装置。
 前記画像間変化量算出手段は、画像間の類似度、オプティカルフローおよび統計量変化のうち、いずれか一つをもとに前記画像間変化量を算出することを特徴とする請求項3に記載の画像表示装置。
 前記重要度算出手段は、前記各画像から注目対象物領域を抽出する注目対象物抽出手段を有し、前記注目対象物抽出手段による前記注目対象物領域の抽出結果に従って、前記各画像の重要度係数を算出することを特徴とする請求項1に記載の画像表示装置。
 前記表示時間算出手段は、前記重要度算出手段によって算出された重要度係数が予め設定された所定の閾値を超える画像の表示時間を、前記最低表示レートに従って算出することを特徴とする請求項1に記載の画像表示装置。
 前記表示時間算出手段は、前記重要度係数と前記表示時間とを関連付ける非線形関数に従って、前記各画像の表示時間を算出することを特徴とする請求項1に記載の画像表示装置。
 前記表示条件受付手段は、前記表示条件として、さらに、前記各画像のうちの表示対象とする画像の時系列範囲を定める入力を受付け、
 前記表示制御手段は、前記各画像のうち、前記表示条件受付手段によって入力を受付けた時系列範囲に属する画像の表示制御を行うことを特徴とする請求項1から7のいずれか一つに記載の画像表示装置。
 時系列画像を表示する表示部を備えたコンピュータに、
 前記時系列画像を構成する各画像を表示する際の表示条件として、少なくとも最低表示レートを定める入力を受付ける表示条件受付ステップと、
 前記各画像それぞれの重要性の度合いを示す重要度係数を算出する重要度算出ステップと、
 前記表示条件受付ステップによって入力を受付けた前記表示条件と前記重要度算出ステップによって算出された重要度係数とをもとに、前記各画像それぞれの表示時間を算出する表示時間算出ステップと、
 前記表示時間算出ステップによって算出された表示時間に従って、前記各画像を時系列順に順次表示部に表示する制御を行う表示制御ステップと、
 を実行させることを特徴とする画像表示プログラム。
Description:
画像表示装置および画像表示プ グラム

 本発明は、時系列画像を順次表示する画 表示装置および画像表示プログラムに関す ものである。

 動画映像のような時系列に並ぶ複数の画 列である時系列画像の中身を短時間で把握 るための技術として、各フレームの表示時 を、フレーム間の輝度変化量データから算 した各フレームの表示重要性に基づいて早 映像時間長に収まるように設定する技術が られている(特許文献1参照)。早見映像時間 は、映像全体を早見するのに要する時間で り、例えばユーザが指定する。

 具体的には、先ず、全フレーム数Nに1フレ ムの標準表示時間tを乗じて全フレームの表 に要する標準時間Std_Tを算出する。1フレー の標準表示時間tは、例えばNTSC信号の場合 1/30(sec)である。続いて、算出した標準時間St d_Tの値を、指定された早見映像時間長Set_Tで ることにより、平均再生速度Ave_V(倍速)を算 出する。そして、フレーム間の画素単位の変 化量データDP i (i=1,2,・・・,N)とフレーム間のフレーム単位 変化量データDF i (i=1,2,・・・,N)とを用い、次式(1)に従って各 レームの表示重要性A i (i=1,2,・・・,N)を算出する。
  A i =DP i ×α+DF i ×β ・・・(1)
 変化量データDP i ,DF i を重み付けする係数α,βは、例えばユーザが 定する。映像内の物体の動きや場面の変化 、注目して見たい部分、すなわち表示重要 が高い部分に相当する。式(1)によれば、変 量データが大きい程算出される表示重要性 高くなる。

 次に、表示重要性の全フレーム和σA i を、早見映像時間長に相当するフレーム数で 割ることにより、平均再生速度に相当する表 示重要性Ave_Aを算出する。早見映像時間長に 当するフレーム数については、全フレーム Nを平均再生速度Ave_Vで割ることにより算出 る。そして、各フレームの表示重要性A i を、平均再生速度に相当する表示重要性Ave_A 割ることにより、各フレームの表示時間T i (i=1,2,・・・,N)を算出する。この算出過程を 式(2)に示す。

 特許文献1の技術では、早見映像時間長を 、表示重要性の映像全体での総和に対する個 々のフレームの表示重要性の比率に応じて分 割し、標準表示時間を単位とした数値に変換 して各フレームに割り当てることにより、各 フレームの表示時間を設定している。

 一方で、内視鏡の分野において、被検体 ある患者の口から飲込まれて被検体内部に 入される飲込み型のカプセル型内視鏡が提 されている。カプセル型内視鏡は、体腔内 その蠕動運動に従って移動しながら、例え 食道や胃、小腸、大腸等の臓器内部の画像 順次撮像し、撮像した画像を体外の受信装 に無線送信するものである。このカプセル 内視鏡によって撮像されて体外の受信装置 受信された体腔内の画像は、診断用のワー ステーション等で例えば時系列順に順次表 され、医師等の観察者(ユーザ)によって確 される。

特許第2980387号

 カプセル型内視鏡で撮像される体腔内の 像のような長時間の時系列画像を表示する 合に、特許文献1の技術を適用すれば、表示 重要性が高い画像を確認し易いように時間を かけて表示することができる。

 ところで、表示重要性の高い画像を確認 る際に最適と感じる表示時間は、ユーザ毎 異なる場合がある。例えば、カプセル型内 鏡によって撮像された画像を確認する場合 あれば、ユーザが熟練者の場合には表示重 性の高い画像が比較的短い表示時間で表示 れても重要な情報を見逃すことはないが、 心者の場合には見逃す可能性がある。逆に 初心者が各画像を十分に確認するために必 な表示時間は、熟練者にとっては長すぎ、 率が悪い場合がある。このような事情は、 プセル型内視鏡によって撮像された時系列 像を観察する場合に限らず、監視カメラの 像や、その他の時系列画像を観察する場合 も生じる。しかしながら、特許文献1の技術 によって算出される表示時間は、早見映像時 間長と、映像全体での表示重要性の総和に対 する対象フレームの表示重要性との比率から 固定的に算出される値であり、ユーザが設定 することはできなかった。このため、ユーザ によっては表示時間が長すぎたり短すぎたり する事態が発生し、表示内容の見逃しや観察 効率の低下を招くという問題があった。

 本発明は、上記に鑑みてなされたもので って、時系列画像を表示する場合のユーザ よる表示内容の見逃しの防止を図るととも 、観察効率を向上させることができる画像 示装置および画像表示プログラムを提供す ことを目的とする。

 上述した課題を解決し、目的を達成する め、この発明にかかる画像表示装置は、時 列画像を表示する画像表示装置において、 記時系列画像を構成する各画像を表示する の表示条件として、少なくとも最低表示レ トを定める入力を受付ける表示条件受付手 と、前記各画像それぞれの重要性の度合い 示す重要度係数を算出する重要度算出手段 、前記表示条件受付手段によって入力を受 けた前記表示条件と前記重要度算出手段に って算出された重要度係数とをもとに、前 各画像それぞれの表示時間を算出する表示 間算出手段と、前記表示時間算出手段によ て算出された表示時間に従って、前記各画 を時系列順に順次表示部に表示する制御を う表示制御手段と、を備えることを特徴と る。

 また、この発明にかかる画像表示プログ ムは、時系列画像を表示する表示部を備え コンピュータに、前記時系列画像を構成す 各画像を表示する際の表示条件として、少 くとも最低表示レートを定める入力を受付 る表示条件受付ステップと、前記各画像そ ぞれの重要性の度合いを示す重要度係数を 出する重要度算出ステップと、前記表示条 受付ステップによって入力を受付けた前記 示条件と前記重要度算出ステップによって 出された重要度係数とをもとに、前記各画 それぞれの表示時間を算出する表示時間算 ステップと、前記表示時間算出ステップに って算出された表示時間に従って、前記各 像を時系列順に順次表示部に表示する制御 行う表示制御ステップと、を実行させるこ を特徴とする。

 本発明に係る画像表示装置によれば、重 性の高い画像を確認する際の表示時間であ 最低表示レートを定める条件をユーザが入 することができるので、時系列画像を観察 るユーザに応じた最低表示レートの条件で 表示時間を設定することができる。したが て、ユーザによる表示内容の見逃しを防止 きるとともに観察効率を向上させることが き、ユーザが時系列画像の内容を効率よく 握することができるという効果を奏する。

図1は、画像表示装置を含む画像表示シ ステムの全体構成を示す概略模式図である。 図2は、生体内画像の一例を示す図であ る。 図3は、画像表示装置の機能構成を説明 するブロック図である。 図4は、画像表示装置が行う処理手順を 示す全体フローチャートである。 図5は、表示条件の指定依頼の通知画面 の一例を示す図である。 図6は、重要度係数算出処理の詳細な処 理手順を示すフローチャートである。 図7は、表示時間算出処理の詳細な処理 手順を示すフローチャートである。 図8は、重要度係数Kと表示時間Tとの関 図を示す図である。 図9は、オプティカルフローの模式図を 示す図である。

符号の説明

 10    カプセル型内視鏡
 30    受信装置
 A1~An 受信アンテナ
 50    可搬型記録媒体
 70    画像表示装置
 710   画像取得部
 720   入力部
 730   表示部
 740   記憶部
 741   表示条件設定データ
 743   重要度係数データ
 745   表示時間データ
 747   画像表示プログラム
 750   演算部
 751   重要度係数算出部
 751a  画像間変化量算出部
 751b  注目対象物抽出部
 753   表示時間算出部
 760   制御部
 761   画像表示条件設定部
 763   画像表示制御部
 1     被検体

 以下、図面を参照し、本発明の好適な実 の形態について詳細に説明する。

 図1は、本発明の実施の形態である画像表 示装置を含む画像表示システムの全体構成を 示す概略模式図である。なお、本実施の形態 の画像表示装置は、カプセル型内視鏡によっ て撮像された体腔内の画像を表示する画像表 示装置である。すなわち、画像表示システム は、図1に示すように、被検体1内部の画像(生 体内画像)を撮像するカプセル型内視鏡10、カ プセル型内視鏡10から無線送信される生体内 像を受信する受信装置30、受信装置30によっ て受信された生体内画像をもとに、カプセル 型内視鏡10によって撮像された生体内画像を 示する画像表示装置70等で構成される。受 装置30と画像表示装置70との間の画像データ 受け渡しには、例えば可搬型の記録媒体(可 搬型記録媒体)50が使用される。

 カプセル型内視鏡10は、撮像機能や無線 能等を具備するものであって、被検体1の口 ら飲み込まれて被検体1内部に導入され、体 腔内を移動しながら逐次生体内画像を撮像す る。そして、撮像した生体内画像を体外に無 線送信する。撮像される生体内画像の撮像レ ートは2~4(frame/sec)であり、約8時間(8×60×60sec) 体内滞在時間の間に数万枚以上の生体内画 が撮像される。また、体腔内におけるカプ ル型内視鏡10の移動速度が一定でないため 撮像される時系列の像の変化は様々であり 全く像が変化しない画像が数百枚以上連続 る場合もあれば、1枚毎に像が変化する場合 ある。

 受信装置30は、複数の受信用アンテナA1~An を備え、各受信用アンテナA1~Anを介してカプ ル型内視鏡10から無線送信される生体内画 を受信する。この受信装置30は、可搬型記録 媒体50の着脱が自在に構成されており、受信 た生体内画像の画像データを可搬型記録媒 50に逐次保存する。このようにして、受信 置30は、カプセル型内視鏡10が撮像した被検 1内部の生体内画像を時系列順に可搬型記録 媒体50に蓄積する。

 受信アンテナA1~Anは、例えばループアン ナで構成され、図1に示すように、被検体1の 体表上の所定位置に分散配置される。具体的 には、例えば、被検体1内におけるカプセル 内視鏡10の通過経路に対応する位置に分散配 置される。なお、受信アンテナA1~Anは、被検 1に着用させるジャケットに分散配置される ものであってもよい。この場合には、受信ア ンテナA1~Anは、被検体1がこのジャケットを着 用することによって、被検体1内におけるカ セル型内視鏡10の通過経路に対応する被検体 1の体表上の所定位置に配置される。なお、 信アンテナは、被検体1に対して1つ以上配置 されればよく、その数は限定されない。

 画像表示装置70は、ワークステーション パソコン等の汎用コンピュータで実現され ものであり、可搬型記録媒体50の着脱が自在 に構成される。この画像表示装置70は、可搬 記録媒体50に蓄積された時系列の生体内画 を取得し、LCDやELD等のディスプレイに取得 た時系列の生体内画像を順次切り替えて連 的に表示する。図2は、カプセル型内視鏡10 よって撮像され、画像表示装置70によって表 示される生体内画像の一例を示す図である。 生体内画像には、粘膜P11や、体腔内を浮遊す る内容物P13、泡P15等が映るとともに、時とし て病変等の重要箇所が映る。なお、カプセル 型内視鏡10によって撮像される生体内画像は 各画素位置においてR(赤),G(緑),B(青)の各色 分に対する画素レベル(画素値)を持つカラー 画像である。

 図3は、画像表示装置70の機能構成を説明 るブロック図である。本実施の形態では、 像表示装置70は、画像取得部710と、入力部72 0と、表示部730と、記憶部740と、演算部750と 装置各部を制御する制御部760とを備える。

 画像取得部710は、カプセル型内視鏡10に って撮像された時系列の生体内画像を取得 る画像取得手段に相当する機能部であり、 えば、可搬型記録媒体50を着脱自在に装着し 、装着した可搬型記録媒体50に蓄積された時 列の生体内画像のうち、表示対象の生体内 像の画像データを読み出して取得する。こ 画像取得部710は、例えば、可搬型記録媒体5 0の種類に応じた読み書き装置によって実現 れる。なお、可搬型記録媒体50及び画像取得 部710の代わりにハードディスクを備える構成 として、ハードディスク内に時系列画像(本 施形態の場合は時系列の生体内画像)を予め 存しておく構成としてもよい。あるいは、 搬型記録媒体50の代わりに別途サーバーを 置して、サーバーに時系列画像を予め保存 ておいて、画像取得部を介してサーバーに 続して、サーバーから時系列画像を取得す 構成としてもよい。この場合には、画像取 部を、サーバーと接続するための通信装置 で構成する。

 入力部720は、例えば、キーボードやマウ 、タッチパネル、各種スイッチ等によって 現されるものであり、操作入力に応じた操 信号を制御部760に出力する。表示部730は、L CDやELD等の表示装置によって実現されるもの あり、制御部760の制御によって、時系列の 体内画像の表示画面を含む各種画面を表示 る。

 記憶部740は、更新記憶可能なフラッシュ モリ等のROMやRAMといった各種ICメモリ、内 或いはデータ通信端子で接続されたハード ィスク、CD-ROM等の情報記録媒体及びその読 装置等によって実現されるものであり、画 表示装置70の動作に係るプログラムや、画像 表示装置70の備える種々の機能を実現するた のプログラム、これらプログラムの実行に るデータ等が格納される。また、後述する 像表示条件設定部761によって設定される生 内画像の表示に係る表示条件を記憶する表 条件設定データ741と、重要度係数算出部751 よって算出される各生体内画像それぞれの 要度係数を記憶する重要度係数データ743と 表示時間算出部753によって算出される各生 内画像それぞれの表示時間を記憶する表示 間データ745と、時系列の生体内画像を順次 示部730に表示させるための画像表示プログ ム747とが格納される。

 演算部750は、CPU等のハードウェアによっ 実現され、画像取得部710によって取得され 表示対象の時系列の生体内画像をその重要 に応じた表示時間で表示部730に表示させる めの種々の演算処理を行う。この演算部750 、表示対象の各生体内画像の重要性の度合 を示す重要度係数を算出する重要度係数算 部751と、各生体内画像それぞれの表示時間 算出する表示時間算出部753とを含む。また 重要度係数算出部751は、時系列的に連続す 生体内画像間の画像間変化量を算出する画 間変化量算出部751aと、各生体内画像の中か ら注目対象物領域を抽出する注目対象物抽出 部751bとを含む。

 制御部760は、CPU等のハードウェアによっ 実現される。この制御部760は、画像取得部7 10から入力される画像データや入力部720から 力される操作信号、記憶部740に格納される ログラムやデータ等に基づいて画像表示装 70を構成する各部への指示やデータの転送 を行い、画像表示装置70全体の動作を統括的 に制御する。また、この制御部760は、画像取 得部710によって取得された時系列の生体内画 像の表示条件を、入力部720で受付けたユーザ 操作に従って設定する画像表示条件設定部761 と、表示時間算出部753の算出結果をもとに、 各生体内画像をそれぞれその表示時間に従っ て時系列順に順次表示部730に表示する制御を 行う画像表示制御部763とを含む。

 図4は、画像表示装置70が行う処理手順を す全体フローチャートである。なお、ここ 説明する処理は、記憶部740に格納された画 表示プログラム747に従って画像表示装置70 各部が動作することによって実現される。

 図4に示すように、先ず、画像表示条件設 定部761が表示条件設定処理を行い、表示の際 の最低表示レートR_min、表示対象の全ての生 内画像の表示に要する全体表示時間T_all、 よび表示対象の生体内画像の時系列範囲i_sta rt~i_endをそれぞれ表示条件として設定する(ス テップS10)。i_startは表示する生体内画像の時 列範囲の先頭の画像番号を示し、i_endは時 列範囲の最後尾の画像番号を示す。生体内 像の画像番号は、各生体内画像の時系列順 示すものであり、例えば、受信装置30が受信 した生体内画像を可搬型記録媒体50に保存す 際に受信順に従って割り当てることとして よいし、画像表示装置70が可搬型記録媒体50 から生体内画像を取得した際にその蓄積順に 従って各生体内画像に画像番号を割り当てる こととしてもよい。

 続いて、演算部750が、処理対象の生体内 像の時系列順序を示す画像番号iを「i_start に初期化する(ステップS20)。そして、演算部 750は、画像取得部710および制御部760を介して 、処理対象の生体内画像である生体内画像I(i )およびこの生体内画像と時系列的に連続す 生体内画像である生体内画像I(i+1)を取得す (ステップS30)。

 続いて、重要度係数算出部751が重要度係 算出処理を実行する(ステップS40)。そして ステップS40の重要度係数算出処理の後、演 部750が、時系列順序を示す画像番号iをイン リメントしてi=i+1とし(ステップS50)、次に処 理対象とする生体内画像I(i)の有無をi≦i_end より判定する。i≦i_endの場合には(ステップS 60:Yes)、ステップS30~ステップS50の処理を再度 行する。一方、i>i_endの場合には(ステッ S60:No)、ステップS70に移行し、表示時間算出 753が表示時間算出処理を実行する。そして 画像表示制御部763が、表示時間算出処理の 果をもとに、時系列範囲i_start~i_endに属する 表示対象の各生体内画像を、それぞれその表 示時間に従って時系列順に順次表示部730に連 続表示する制御を行う(ステップS80)。

 ここで、図4のステップS10による表示条件 設定処理について説明する。画像表示条件設 定部761は、例えば、最低表示レートR_min、全 表示時間T_all、および表示する生体内画像 時系列範囲i_start~i_endの各表示条件を、ユー 操作に従って設定する。具体的には、画像 示条件設定部761は、各表示条件の入力依頼 通知を表示部730に表示する制御を行い、入 部720を介して各表示条件を定める入力を受 付ける。画像表示条件設定部761は、表示部7 30への表示条件の入力依頼の通知の表示と、 力部720を介した表示条件の入力の受付けと よって、表示条件受付手段として機能する

 図5は、表示条件の入力依頼の通知画面W20 の一例を示す図である。通知画面W20には、最 低表示レートR_minの入力操作を受け付ける入 ボックスI21およびスライドバーB21と、全体 示時間T_allの入力操作を受け付ける入力ボ クスI23と、表示する生体内画像の時系列範 i_start~i_endの入力操作を受け付ける入力ボッ スI25,I27およびスライドバーB23とが配置され ている。ユーザは、入力部720を介して所望の 最低表示レートR_minの値を入力ボックスI21に 力し、あるいはスライドバーB21の操作によ て入力ボックスI21に入力する。また、所望 全体表示時間T_allの値を入力ボックスI23に 力する。また、所望の時系列範囲の先頭の 像番号i_startを入力ボックスI25に入力すると もに最後尾の画像番号i_endを入力ボックスI2 7に入力し、あるいはスライドバーB23の操作 よって入力ボックスI25,I27に入力する。画像 示条件設定部761は、この入力依頼の通知に する応答内容に従って各表示条件を設定す 。設定された表示条件のデータは、表示条 設定データ741として記憶部740に保存される なお、最低表示レートR_minの値や全体表示 間T_allの値を直接的に定める入力を受付ける 構成に限らず、間接的に定める入力を受付け るように構成してもよい。例えば、最低表示 レートR_minの値を間接的に定める入力として 「早め」,「普通」,「ゆっくり」といった 目の選択を受付けるようにする。各項目に じた最低表示レートR_minの値を予め定義して おくことで、ユーザは最低表示レートR_minの を間接的に入力することができる。

 このように、本実施の形態では、ユーザ 作に従って、最低表示レートR_min等の条件 含む表示条件を設定することができる。こ でいう表示レートは、1枚の生体内画像の表 時間に相当するものであり、表示レートを くすればその表示に係る時間は長くなり、 示レートを高くすれば表示に係る時間は短 なる。すなわち、ユーザ操作に従って設定 る最低表示レートR_minは、1枚の生体内画像 表示に係る最大の表示時間(最大表示時間) ある。したがって、ユーザは、最低表示レ トR_minの設定によって生体内画像の最大表示 時間を指定することができる。これによれば 、例えば、熟練者は最大表示時間を短く指定 することができ、一方初心者は最大表示時間 を長く指定することができ、ユーザは、最大 表示時間の調整を必要に応じて適宜行うこと が可能となる。

 次に、図4のステップS40による重要度係数 算出処理について説明する。図6は、重要度 数算出処理の詳細な処理手順を示すフロー ャートである。

 先ず、画像間変化量算出部751aが、生体内画 像I(i)および生体内画像I(i+1)の画像間変化量 算出する(ステップS401)。例えば、画像間変 量算出部751aは、各生体内画像I(i),I(i+1)間の 似度をもとに画像間変化量を算出する。具 的には、先ず、各生体内画像I(i),I(i+1)を構成 する各画素の画素値の差の2乗和SSDを、次式(3 )に従って算出する。
 P I(i) (x,y),P I(i+1) (x,y)はそれぞれ生体内画像I(i),I(i+1)の座標(x,y) の画素値である。X,Yはそれぞれ画像のx方向 イズ,y方向サイズである。ここで、生体内画 像はRGBの各色成分に対応する画素値を持つた め、SSDの値も色成分毎に算出する。そして、 各色成分のSSDの合計値あるいは平均値を算出 し、得られた値を画像間変化量とする。なお 、時系列範囲の最後尾の生体内画像に関して は、時系列の前方の連続する生体内画像を用 いて画像間変化量を算出すればよい。

 続いて、注目対象物抽出部751bが、生体内 画像I(i)から注目対象物領域を抽出する(ステ プS403)。生体内画像における注目対象物と 、例えば患部である。これら患部が映る領 (注目対象物領域)の抽出方法には様々な方法 があるが、例えば、各画素の色情報をもとに 患部が映る注目対象物領域を抽出する。この 手法は、例えば特開2005-192880号公報で開示さ ている。具体的には、先ず、生体内画像I(i) を構成する各画素または平均化した画素値を その色情報に基づく特徴空間に写像する。そ して、各画素または平均化した画素値を特徴 空間内でクラスタリングして正常粘膜クラス タと患部クラスタとを特定し、患部クラスタ に属する画素領域を患部が移る注目対象物領 域として抽出する。また、体腔の粘膜を注目 対象物とすることもできる。生体内画像には 、体腔内の内容物や泡等も映るが、検査にお いて確認したいのは主に粘膜である。このた め生体内画像中の粘膜の領域を注目対象物領 域として抽出してもよい。例えば、各画素の 色情報をもとに抽出してもよいし、生体内画 像の中から粘膜、内容物、泡等の各領域を判 定し、粘膜と判定された領域を抽出すること としてもよい。なお、注目対象物を抽出する 手法は、これに限定されるものではなく、何 を注目対象物とするかに応じた手法を用いて 適宜抽出することとしてよい。

 続いて、重要度係数算出部751が、ステップS 401で算出した画像間変化量とステップS403で 出した注目対象物領域とをもとに生体内画 I(i)の重要度係数K(i)を算出する(ステップS405) 。例えば、重要度係数算出部751は、次式(4)に 示す線形結合式を用いて重要度係数K(i)を算 する。
  K(i)=coeff1×Diff+cieff2×Detect ・・・(4)
 Diffは画像間変化量である。また、Detectは注 目対象物領域の抽出結果をもとに決定する注 目対象物情報である。例えば、注目対象物情 報として注目対象物領域の有無を用いる場合 、生体内画像I(i)から注目対象物領域が抽出 れた場合にはDetectの値は「0(無)」、注目対 物領域が抽出されなかった場合にはDetectの は「1(有り)」となる。また、注目対象物情 として、生体内画像I(i)内に対する注目対象 領域の存在比率を用いることとしてもよい coeff1,coeff2は重み係数であり、予め所定値に 設定しておく。通常、時系列的に連続または 近傍する他の画像との変化が大きい場合や注 目対象物が映る画像は重要度が高いため、coe ff1,coeff2は正の係数である。

 そして、重要度係数算出部751は、算出し 重要度係数K(i)を生体内画像I(i)の画像番号i 対応付けて重要度係数データ743に設定して 憶部740に保存し(ステップS407)、図4のステッ プS40にリターンする。

 次に、図4のステップS70による表示時間算 出処理について説明する。図7は、表示時間 出処理の詳細な処理手順を示すフローチャ トである。

 先ず、表示時間算出部753は、生体内画像 最小表示時間T_min、最大表示時間T_maxおよび 正規化された重要度係数K’(i)を算出する(ス ップS701)。

 生体内画像の最小表示時間T_minは、表示部73 0の表示速度の上限値である最高表示レートR_ maxの値をもとに算出する。なお、この最高表 示レートR_maxの値は、ハードウェア性能等か 定まる値であるが、この上限値を超えない 囲でユーザ操作に従って設定することとし もよい。具体的には、次式(5)に従って生体 画像の最小表示時間T_minを算出する。

 生体内画像の最大表示時間T_maxは、表示条 設定処理においてユーザ操作に従って設定 た最低表示レートR_minの値をもとに算出する 。具体的には、次式(6)に従って生体内画像の 最大表示時間T_maxを算出する。

 また、次式(7)に従って、各生体内画像I(i)の 重要度係数K(i)(i=i_start~i_end)を0~1の範囲で正規 化した重要度係数K’(i)を算出する。K_maxは、 予め定められた重要度係数の最大値である。
 すなわち、このK_maxの値を閾値とし、K(i)が の閾値以上の場合には、K’(i)の値を「1」 する。このように、K’(i)の値に「1」が設定 された生体内画像I(i)の表示時間は、後述の (8)によって、最大表示時間T_maxとなる。この 結果、重要性の度合いが高い生体内画像の表 示時間は、最大表示時間T_maxとされる。

 続いて、表示時間算出部753は、表示時間算 パラメータparamを初期化する(ステップS703) 例えば、初期値を「1」として表示時間算出 ラメータparamを初期化する。そして、表示 間算出部753は、各生体内画像I(i)それぞれの 示時間T(i)(i=i_start~i_end)を、次式(8)に従って 出する(ステップS705)。
 なお、表示時間T(i)の算出に係る関数式(8)は 一例であって、これに限定されるものではな い。

 続いて、表示時間算出部753は、ステップS705 で算出した各生体内画像I(i)それぞれの表示 間T(i)の総和と、表示条件設定処理において ーザ操作に従って設定した全体表示時間T_al lとの差分値Eを、次式(9)に従って算出する(ス テップS707)。

 そして、表示時間算出部753は、ステップS 707で算出した差分値Eと、予め閾値として設 される基準差分値とを比較し、各生体内画 I(i)の表示時間T(i)の総和と全体表示時間T_all の差が許容できる程度に小さいかを判定す 。そして、表示時間算出部753は、算出した 分値Eの絶対値が基準差分値以下ならば、各 生体内画像I(i)の表示時間T(i)の総和と全体表 時間T_allとの差を許容できると判定し(ステ プS709:Yes)、算出した各生体内画像I(i)の表示 時間T(i)を、それぞれ対応する生体内画像I(i) 画像番号iと対応付けた表示時間データ745を 生成して記憶部740に保存し(ステップS711)、図 4のステップS70にリターンする。

 一方、表示時間算出部753は、算出した差 値Eの絶対値が基準差分値より大きい場合に は許容できないと判定し(ステップS709:No)、表 示時間算出パラメータparamの値を変更し(ステ ップS713)、再度ステップS705~S709の処理を実行 る。

 ここで、算出した差分値Eの絶対値が基準差 分値より大きい場合の表示時間算出パラメー タparamは、次式(10)に従って変更する。dpは、 の値で定義される更新係数である。
  param=param×(1-dp×E) ・・・(10)

 ここで、式(8)で表される重要度係数Kに基 づく正規化された重要度係数K’と表示時間T の関係について説明する。図8は、重要度係 数K’と表示時間Tとの関係図を示す図である 図8に示すように、表示時間算出パラメータ param=1の場合、重要度係数K’と表示時間Tとの 関係は実線で示す線形の増加関数として表さ れる。この関係から算出された各生体内画像 I(i)の表示時間T(i)の総和が最大表示時間T_all り小さい場合(E>0)、各生体内画像I(i)の表 時間T(i)を全体的に長くする必要がある。こ で、param<1とすると、重要度係数K’と表 時間Tとの関係は、図8中に破線で示す左上に 凸の増加関数として表される。すなわち、こ の関係によって各生体内画像I(i)の表示時間T( i)を算出すれば、param=1の場合と比較して各生 体内画像I(i)の表示時間T(i)を全体的に長くす ことができる。一方、param=1の場合の重要度 係数K’と表示時間Tとの関係から算出された 生体内画像I(i)の表示時間T(i)の総和が最大 示時間T_allより大きい場合(E<0)、各生体内 像I(i)の表示時間T(i)を全体的に短くする必 がある。ここで、param>1とすると、重要度 数K’と表示時間Tとの関係は、図8中に一点 線で示す右下に凸の増加関数として表され 。すなわち、この関係によって各生体内画 I(i)の表示時間T(i)を算出すれば、param=1の場 と比較して各生体内画像I(i)の表示時間T(i) 全体的に短くすることができる。このよう して各生体内画像I(i)の表示時間T(i)を再度算 出し、各生体内画像I(i)それぞれの表示時間T( i)の総和と全体表示時間T_allとの差分値Eに応 て表示時間算出パラメータparamの値を調整( 更)することにより、その総和が数値解析的 に全体表示時間T_allに近似した値となるよう 各生体内画像I(i)の表示時間T(i)を算出する とができる。

 なお、この方法でparamを変更しても各生 内画像I(i)の表示時間T(i)の総和を全体表示時 間T_allに近づけることができず、各生体内画 I(i)の表示時間T(i)が定まらない場合がある 例えば、重要度係数=0の生体内画像I(i)の表 時間T(i)を最小表示時間T_minとし、重要度係 ≠0の生体内画像I(i)の表示時間T(i)を最大表 時間T_maxとして得た表示時間T(i)の総和より 大きな全体表示時間T_allが設定された場合、 paramの値を十分に小さくしても表示時間T(i)の 総和を全体表示時間T_allに近づけることがで ない場合がある。あるいは、重要度係数=1 生体内画像I(i)の表示時間T(i)を最大値T_maxと 、重要度係数≠1の生体内画像I(i)の表示時 T(i)を最小値T_minとして得た表示時間T(i)の総 よりも小さなT_allが設定された場合、paramの 値を十分に大きくしても表示時間T(i)の総和 全体表示時間T_allに近づけることができない 場合がある。後者の場合には、重要度係数K(i )が小さく重要性が低い生体内画像I(i)の表示 間を所定の時間間隔で「0」とする間引き処 理を行い、表示画像枚数を減らした後で、再 度表示対象の各生体内画像I(i)の表示時間T(i) 算出してもよい。この結果からも各生体内 像I(i)の表示時間T(i)が定まらない場合には 画像表示条件設定部761が表示部730に全体表 時間T_allが小さい旨の警告メッセージを表示 し、修正を促すこととしてもよい。また、前 者のように全体表示時間T_allが大きすぎる場 も同様に、画像表示条件設定部761が表示部7 30に警告メッセージを表示し、修正を促すこ としてもよい。

 そして、図4のステップS80において、画像 表示制御部763が、表示時間算出処理の結果生 成された表示時間データ745を参照し、時系列 範囲に属する各生体内画像をその表示時間に 従って時系列順に順次表示部730に連続表示す る制御を行う。すなわち、画像表示制御部763 は、先ず画像番号i_startの生体内画像I(i_start) その表示時間T(i_start)の間表示させ、次いで 次順の生体内画像I(i_start+1)をその表示時間T(i _start+1)の間表示させるという制御を順に繰り 返す。そして、生体内画像I(i_end)までの表示 象の生体内画像を、全体表示時間T_allに応 た全体表示時間で時系列順に順次表示部730 連続表示させる。なお、可搬型記録媒体50か らの表示対象の生体内画像の読み出しは一括 で行ってもよいし、所定の枚数毎に行っても 構わない。

 このように、本実施の形態によれば、カ セル型内視鏡10によって撮像された時系列 の複数の生体内画像を表示する際の表示条 として、1枚の生体内画像の表示に係る最大 示時間に相当する最低表示レート、表示対 の全ての生体内画像の表示に要する全体表 時間、および表示対象の生体内画像の時系 範囲とを設定することができる。ユーザは 画像を観察するユーザが所望の最大表示時 を設定することができるので、ユーザによ 表示内容の見逃しを防止できるとともに観 効率を向上させることができ、時系列的に 続する複数の画像の内容を効率よく把握す ことができる。

 そして、時系列的に連続する生体内画像 の画像間変化量を算出するとともに、各生 内画像の中から注目対象物領域を抽出し、 出した画像間変化量と注目対照物領域の抽 結果とをもとに、各生体内画像それぞれの 要度係数を算出することができる。背景技 で示した特許文献1では、画像の重要性を輝 度変化から算出していたが、輝度変化が大き くても注目対象物が表示されない限り重要性 は低いため、輝度変化による重要性に基づい た表示が必ずしも適切でない場合がある。本 実施の形態によれば、注目対象物が映る画像 か否かによって重要度係数を算出することが できるので、各生体内画像の重要性を適切に 判断することができる。

 そして、設定した表示条件と算出した重 度係数とをもとに、各生体内画像それぞれ 表示時間を算出し、この表示時間に従って 画像を時系列順に順次表示部に連続表示す ことができる。これによれば、重要性の高 画像の表示時間である最大表示時間を設定 つつ、所望の全体表示時間に合わせて、各 体内画像をその重要性に応じて表示するこ が可能な画像表示装置を提供することがで る。

 なお、本実施の形態では、画像間変化量算 部751aは、各生体内画像I(i),I(i+1)を構成する 画素の画素値の差の2乗和SSDを式(3)によって 算出し、得られたSSDの値を用いて画像間変化 量を算出することとしたが、各生体内画像I(i ),I(i+1)を構成する各画素の画素値の差の絶対 和SADを次式(11)に従って算出し、得られたSAD の値を用いて画像間変化量を算出することと してもよい。

 あるいは、各生体内画像I(i),I(i+1)の正規化 互相関値NCCを次式(12)に従って算出し、得ら たNCCの値を用いて画像間変化量を算出する ととしてもよい。なお、NCCの値は-1から1の 囲内となり、画像間の変化が少ない程値が きくなる。このため、符号を反転させる等 処理が必要である。

 また、画像間変化量の算出手法は、画像 の類似度をもとに算出する手法に限定され ものではない。例えば、オプティカルフロ をもとに画像間変化量を算出することとし もよい。ここで、オプティカルフローとは 異なる時刻に撮像された2枚の画像間で各画 像に映る同一の対象物の対応付けを行い、そ の移動量をベクトルデータとして表したもの である。本手法により画像間変化量を算出す る場合には、先ず、画像間変化量の算出対象 の生体内画像I(i)を所定サイズの格子状に分 する。そして、各分割領域を順次テンプレ トに設定し、公知のテンプレートマッチン 処理を行って、生体内画像I(i+1)から各テン レートに類似する対応領域を検出する。テ プレートマッチングの手法としては、例え 、“CG-ARTS協会,ディジタル画像処理,202p,テン プレートマッチング”で開示された手法を用 いることができる。なお、マッチングの探索 範囲は各テンプレートの中心座標を中心に、 撮像対象の移動量等を考慮して設定すればよ い。また高速化のために、疎密探索法、残差 逐次検討法等を用いても良い。例えば、“CG- ARTS協会,ディジタル画像処理,206p,高速探索法 で開示された手法を用いることができる。

 結果的に、各分割領域それぞれに対応す テンプレート毎に、生体内画像I(i+1)の中か 最も類似する対応領域の座標と、その類似 とが得られる。得られた対応領域の座標と 似度とに基づいて、生体内画像I(i)の各分割 領域におけるオプティカルフローを得る。す なわち、生体内画像I(i)の各分割領域の中心 標から対応領域の中心座標までのベクトル それぞれ求め、オプティカルフローを算出 る。図9は、オプティカルフローの模式図を す図である。図9に示すように、各分割領域 A30それぞれについて、中心座標からのオプテ ィカルフローのベクトルを算出する。そして 、このようにして分割領域毎に求まった中心 座標からのオプティカルフローのベクトルの 長さの最大値あるいは平均値を求め、この値 を画像間変化量とする。なお、マッチング時 の類似度が低いテンプレートに関しては、同 一の対象物の対応付けがされていない可能性 が高いため、画像間変化量の算出対象から除 外してもよい。また、分割領域内の全領域を テンプレートとするのではなく部分的な領域 のみをテンプレートに設定してもよい。また 、全ての分割領域をテンプレートにして対応 領域を検出する必要はなく、幾つかの分割領 域を選択してテンプレートとし、対応領域を 検出してもよい。また、カプセル型内視鏡10 管空内を移動する場合には、生体内画像I(i) において縁部に映る対象物は、画像I(i+1)では 視野外となる場合が多い。このため、画像I(i )中の縁部を除いてテンプレートとする領域 決定してもよい。

 あるいは、統計量変化をもとに画像間変化 を算出することとしてもよい。画像の統計 としては、画像を構成する各画素の画素値 平均,分散,ヒストグラム等が挙げられる。 の場合には、先ず、生体内画像I(i)と生体内 像I(i+1)との間の統計量の値Statを求める。そ して、画像間での統計量の差D_Euclidを次式(13) に従って算出し、得られた値を画像間変化量 とする。なお、統計量の値Statは、画素値の 均や分散を求める場合には、RGBの色成分毎 算出し、3次元の情報として得る。また、ヒ トグラムを求める場合には、RGBの各色成分 れぞれについて、ヒストグラム分割数n_edge に算出し、3×n_edge次元の情報として得る。

 なお、平均,分散,ヒストグラム等の統計 を複数組み合わせた多次元特徴ベクトルを め、これを用いて生体内画像I(i)と生体内画 I(i+1)との間の統計量の差を算出してもよい またこの際、各統計量の数値を正規化した 、各統計量の数値に所定の重み係数を乗じ 重み付けを行うこととしてもよい。

 また、画像間変化量の算出に際して、RGB 各色成分の全てを用いることとしたが、画 の変化が明確となる色成分のみを用いて画 間変化量を算出してもよい。例えば、カプ ル型内視鏡10が撮像する生体内画像では、RG Bの各成分のうちG値が、血液中のヘモグロビ の吸収帯域(波長)に近く、感度や解像度が いため、画像間の変化をよく表す傾向があ 。このため、G値を用いて画像間変化量を算 してもよい。

 また、公知の変換技術によって各画素値 ら2次元的に算出される情報を用いて画像間 変化量を算出してもよい。例えば、YCbCr変換 よって算出した輝度や色差、HSI変換によっ 算出した色相、彩度、明度等を用いて画像 変化量を算出してもよい。

 また、生体内画像I(i)と生体内画像I(i+1)と の間の画像間変化量を算出することとしたが 、必ずしも連続した画像との間の画像間変化 量を算出する必要はなく、時系列的に近傍す る他の画像を適宜選択して画像間変化量を求 めてもよい。また、生体内画像I(i)と、この 体内画像I(i)と時系列的に近傍する複数の生 内画像との間での変化量を算出し、得られ 値の平均値を生体内画像I(i)の画像間変化量 としてもよい。

 また、画像間変化量を算出する方法に限 ず、生体内画像I(i)と生体内画像I(i+1)との間 の変化に応じた数値が得られればよい。

 また、重要度係数算出部751によって算出さ る重要度係数K(i)の算出式は、式(4)に示す線 形結合式に限定されるものではなく、他の関 数式によって算出することとしてもよい。例 えば、次式(14)に従って、重要度係数K(i)を算 することとしてもよい。すなわち、注目対 物情報Detectが所定の閾値Th_Detect以上の場合 は、重要度係数K(i)に、予め定められた最大 値K_maxを用いて処理することを指示するフラ 情報を設定する。この場合には、重要度係 K(i)は、予め定められた最大値K_maxとなる。 方、注目対象物情報DetectがTh_Detect未満の場 には、画像間変化量Diffに基づいてK(i)を算 する。

 また、上記した実施の形態では、生体内 像I(i),I(i+1)の画像間変化量と、生体内画像I( i)から抽出した注目対象物領域とをもとに生 内画像I(i)の重要度係数K(i)を算出すること したが、画像間変化量または注目対象物領 のいずれか一方をもとに重要度係数K(i)を算 することとしてもよい。

 また、上記の実施形態では、カプセル型 視鏡10により撮像された時系列の生体内画 を表示する場合について説明したが、これ 限定されるものではなく、時系列画像の中 ら重要な画像(あるいは場面)を探す場合であ れば、その他の時系列画像を観察する場合に も同様に適用することで、時系列画像の内容 を効率よく確認することができる。例えば、 監視カメラ等による時系列画像に対して、そ の内容を目視確認する場合や、動画像におい て重要な人物や物が現れる場面をゆっくり表 示したい場合に適用することができる。

 以上のように、本発明にかかる画像表示 置は、時系列画像を順次表示する場合に有 である。