(58)【調査した分野】(Int.Cl.,DB名)
前記連結領域重要度算出手段は、前記検出すべき領域の重要度を前記検査すべき領域の重要度よりも高く、且つ、前記検査すべき領域の重要度を前記検査に不要な領域の重要度よりも高く設定して、前記重要度を算出することを特徴とする請求項6に記載の画像処理装置。
前記要約指標値算出手段は、前記各画像内に含まれる連結領域の特徴量の総和を画像毎に算出する特徴量和算出手段を備えることを特徴とする請求項1に記載の画像処理装置。
前記繰返し制御手段は、検出された要約画像内に存在する連結領域の特徴量をゼロに設定して、前記処理の繰返しを制御することを特徴とする請求項10に記載の画像処理装置。
時系列順に撮像された一連の画像間において同一の対象が映る領域同士を対応づけ、前記対応づけられた領域全体を1つの連結領域として設定する対応領域連結ステップと、
前記連結領域の特徴量を算出する連結領域特徴量算出ステップと、
前記一連の画像内の画像に含まれる複数の前記連結領域についてそれぞれ算出された特徴量に基づいて、前記一連の画像に映された複数の対象が前記画像に集約されている度合いに対応する要約指標値を算出する要約指標値算出ステップと、
前記要約指標値をもとに要約画像を検出する要約画像検出ステップと、
を含むことを特徴とする画像処理方法。
時系列順に撮像された一連の画像間において同一の対象が映る領域同士を対応づけ、前記対応づけられた領域全体を1つの連結領域として設定する対応領域連結ステップと、
前記連結領域の特徴量を算出する連結領域特徴量算出ステップと、
前記一連の画像内の画像に含まれる複数の前記連結領域についてそれぞれ算出された特徴量に基づいて、前記一連の画像に映された複数の対象が前記画像に集約されている度合いに対応する要約指標値を算出する要約指標値算出ステップと、
前記要約指標値をもとに要約画像を検出する要約画像検出ステップと、
をコンピュータに実行させることを特徴とする画像処理プログラム。
【発明を実施するための形態】
【0012】
以下、本発明の実施の形態に係る画像処理装置について、図面を参照しながら説明する。なお、これら実施の形態によって本発明が限定されるものではない。また、各図面の記載において、同一部分には同一の符号を付して示している。
【0013】
以下の実施の形態においては、一例として、カプセル内視鏡等の医用観察装置によって被検体の管腔内を時系列順に撮像することにより取得された一連の管腔内画像に対する処理について説明する。なお、以下の実施の形態において画像処理を施される画像は、例えば、各画素位置においてR(赤)、G(緑)、B(青)の各色成分に対する画素レベル(画素値)を持つカラー画像である。また、本発明は、管腔内画像に限定されることなく、他の一般的な画像取得装置によって取得された一連の画像から要約画像を検出する場合にも広く適用することができる。
【0014】
(実施の形態1)
図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。
図1に示す画像処理装置1は、画像処理装置1全体の動作を制御する制御部10と、カプセル内視鏡等の医用観察装置によって時系列順に撮像された一連の画像(以下、時系列画像ともいう)に対応する画像データを取得する画像取得部20と、外部から入力される入力信号を受け付ける入力部30と、各種表示を行う表示部40と、画像取得部20によって取得された画像データや種々のプログラムを格納する記録部50と、画像データに対して所定の画像処理を実行する演算部100とを備える。
【0015】
制御部10は、CPU等のハードウェアによって実現され、記録部50に格納された各種プログラムを読み込むことにより、画像取得部20から入力される画像データや入力部30から入力される操作信号等に従って、画像処理装置1を構成する各部への指示やデータの転送等を行い、画像処理装置1全体の動作を統括的に制御する。
【0016】
画像取得部20は、医用観察装置を含むシステムの態様に応じて適宜構成される。例えば、医用観察装置がカプセル内視鏡であり、医用観察装置との間の画像データの受け渡しに可搬型の記録媒体が使用される場合、画像取得部20は、この記録媒体を着脱自在に装着し、保存された管腔内画像の画像データを読み出すリーダ装置で構成される。また、医用観察装置によって撮像された管腔内画像の画像データを保存しておくサーバを設置する場合、画像取得部20は、サーバと接続される通信装置等で構成され、サーバとデータ通信を行って管腔内画像の画像データを取得する。或いは、画像取得部20を、内視鏡等の医用観察装置から、ケーブルを介して画像信号を入力するインターフェース装置等で構成しても良い。
【0017】
入力部30は、例えばキーボードやマウス、タッチパネル、各種スイッチ等の入力デバイスによって実現され、受け付けた入力信号を制御部10に出力する。
表示部40は、LCDやELディスプレイ等の表示装置によって実現され、制御部10の制御の下で、管腔内画像を含む各種画面を表示する。
【0018】
記録部50は、更新記録可能なフラッシュメモリ等のROMやRAMといった各種ICメモリ、内蔵若しくはデータ通信端子で接続されたハードディスク、又は、CD−ROM等の情報記録媒体及びその読取装置等によって実現される。記録部50は、画像取得部20によって取得された管腔内画像の画像データの他、画像処理装置1を動作させると共に、種々の機能を画像処理装置1に実行させるためのプログラムや、このプログラムの実行中に使用されるデータ等を格納する。具体的には、記録部50は、時系列画像から要約画像を検出する処理を実行するための画像処理プログラム51を格納する。
【0019】
演算部100は、CPU等のハードウェアによって実現され、画像処理プログラム51を読み込むことによって時系列画像に対応する画像データに画像処理を施し、時系列画像から要約画像を検出するための種々の演算処理を行う。
【0020】
次に、演算部100の詳細な構成について説明する。
図1に示すように、演算部100は、一連の時系列画像間において同一の対象が映る領域同士を対応づけ、該対応づけられた領域を1つの連結領域として設定する対応領域連結部110と、各連結領域の特徴量を算出する連結領域特徴量算出部120と、上記特徴量をもとに要約指標値を算出する要約指標値算出部130と、要約指標値をもとに要約画像を検出する要約画像検出部140と、要約指標値算出部130及び要約画像検出部140における処理の繰返しを制御する繰返し制御部150とを備える。なお、上記時系列画像において複数の対象が映っている場合には、複数の連結領域が設定され得る。
【0021】
対応領域連結部110は、時系列に連続する画像間において、各画像内に含まれる領域の対応付けを行う領域対応付け部111を有し、この対応付けの結果をもとに、同一の対象が映る領域を各画像内及び画像間で連結する。より詳細には、領域対応付け部111は時系列で連続する画像間におけるオプティカルフローを算出するオプティカルフロー算出部111aを含み、オプティカルフローをもとに画像間における領域の対応付けを行う。
【0022】
連結領域特徴量算出部120は、各連結領域内に含まれる画素数の総和である連結領域体積を算出する連結領域体積算出部121を有し、この連結領域体積を特徴量とする。
【0023】
要約指標値算出部130が算出する要約指標値は、時系列画像に映された対象が時系列画像内の各画像に集約されている度合いに対応する。要約指標値算出部130は、各画像内に含まれる各連結領域の特徴量の総和を画像毎に算出する特徴量和算出部131を有し、この特徴量の総和を要約指標値とする。
【0024】
繰返し制御部150は、検出された要約画像の枚数を算出する要約画像枚数算出部151を有し、要約画像の枚数に応じて、要約指標値算出部130及び要約画像検出部140における処理の繰返しを制御する。
【0025】
次に、画像処理装置1が実行する処理について説明する。
図2は、画像処理装置1が実行する処理を示すフローチャートである。
まず、ステップS101において、画像取得部20は、被検体の管腔内を時系列に撮像した一連の管腔内画像(以下、単に画像という)を取得して記録部50に格納する。演算部100は、画像処理を施す画像を記録部50から順次読み込む。
【0026】
続くステップS102において、対応領域連結部110は、複数画像に渡って同一の対象が映る画素を連結する。
図3は、同一の対象が映る画素を連結する処理(ステップS102)の詳細を示すフローチャートである。
まず、ステップS111において、オプティカルフロー算出部111aは、時系列で連続する画像間のオプティカルフローを算出する。ここで、オプティカルフローとは、異なる時間に撮影された2枚の画像間において同じ対象の対応付けを行い、その移動量をベクトルデータとして表現したものである。実施の形態1においては、管腔内画像の画素値の内のG成分に対して、公知のオプティカルフロー算出法(より詳細には、ブロックマッチング法又は勾配法)を用いてオプティカルフローを算出する(参考:CG−ARTS協会、ディジタル画像処理、第243〜245頁))。或いは、Lucas-Kanadeトラッキング(参考:B. D. Lucas and T. Kanade, “An Iterative Image Registration Technique with an Application to Stereo Vision,” Proceedings of the 7th International Joint Conference on Artificial Intelligence, pages 674-679, 1981)等の公知技術を用いてオプティカルフローを算出しても良い。
【0027】
ここで、G成分を用いるのは、G成分は血液の吸光帯域に近いことから、病変、粘膜、内容物の境界等の管腔内画像の構造情報をよく表すためである。もちろん、G成分の代わりに、画素値の他の色成分(R成分又はB成分)や、公知の変換により画素値から2次的に算出される値、具体的には、輝度、色差(YCbCr変換)、色相、彩度、明度(HSI変換)、色比等を用いてもよい。
【0028】
続くステップS112において、領域対応付け部111は、オプティカルフローをもとに、連続する画像間における画素の対応付けを行う。詳細には、次のような処理が行われる。即ち、領域対応付け部111は、オプティカルフローに基づき、時系列における前画像内の画素座標(x
t0,y
t0)(ここで、x
t0及びy
t0は自然数)に対し、時系列における後画像内の対応する座標(x
t1,y
t1)(ここで、x
t1及びy
t1は実数)を求めると共に、時系列における後画像内の画素座標(x
t1’,y
t1’)(ここで、x
t1’,y
t1’は自然数)に対し、時系列における前画像内の対応する座標(x
t0’,y
t0’)(ここで、x
t0’,y
t0’は実数)を求める。そして、時系列の前後の画像内において互いに対応する画素を決定して、連続する画像間の画素対応情報を作成する。
【0029】
このとき、領域対応付け部111は、一方の画像内の複数画素に対応する他方の画像内の座標(実数)が1つの画素座標(自然数)付近に集中する場合、この画素座標に対して座標がより近い一方の画像内の所定数の画素を当該画素座標に対応付ける。そして、それ以外の画素については、一方の画像に映りながらも、他方の画像には映らない対象部分の画素とみなし、対応関係を取らないこととする。
【0030】
なお、対応付けられる座標同士が必ずしも1対1とならないのは、カプセル内視鏡と撮像対象(例えば粘膜表面等)との距離や角度によって、画像が拡大又は縮小する場合があるからである。
【0031】
また、時系列の順方向(前画像の画素に対応する後画像の座標)及び逆方向(後画像の画素に対応する前画像の座標)双方における対応関係を検出するのは、対応座標の信頼性をより高めるためである。なお、実施の形態1においては、時系列の順方向又は逆方向の一方における対応関係のみを検出することとしても良い。
【0032】
図4は、連続する画像間の画素対応情報の一例を示す表である。この画素対応情報は、時系列における前画像I
n及び後画像I
n+1(n=0、1、2、…)にそれぞれ含まれる画素同士の対応関係を示す。なお、P(x,y)は各画像内の座標(x,y)における画素を示す。この画素対応情報では、隣接する列において、隣り合う行に記載された画素同士(例えば、画像I
0の画素P(0,1)と、画像I
1のP(0,1)及びP(0,2))が、互いに対応する画素を示している。なお、隣接する列において隣り合う行の一方が空欄の場合、対応する画素が存在しないことを示す。
【0033】
続くステップS113において、対応領域連結部110は、対応する画素同士が同一のラベルとなるようにラベリングを行う。より詳細には、まず、対応領域連結部110は、画素対応情報をもとに、ある画素に設定されたラベル値を対応する全ての画素に設定する。次いで、ラベル値が未設定の画素に対して新たなラベル値を設定し、上記と同様の処理を行う。このような処理を順次繰返すことにより、全ての画素に対してラベリングを行う。さらに、対応領域連結部110は、同一のラベル値が設定された画素の集合を、同一の対象が映る画素の連結領域とする。
【0034】
図5は、
図4に示す画素対応情報に基づくラベリングの結果(連結領域ラベリング情報)の一例を示す表である。
図5において、各画素P(x,y)に続くコロンの後に示された数値が、当該画素P(x,y)に設定されたラベル値を示す。
【0035】
また、
図6は、時系列に連続する4枚の画像I
0〜I
3において、ラベリング処理の結果連結された画素の領域を示すモデル図である。
図6においては、各画像I
0〜I
3にそれぞれ含まれる画素P
00〜P
07、P
10〜P
17、P
20〜P
27、P
30〜P
37を、模擬的に1次元の画素列によって示している。これらの画素の内、線分によって結ばれた画素同士(例えば、画素P
01と画素P
10)が、1つの連結領域を構成する画素である。
【0036】
なお、ステップS111〜S113においては、1画素単位で処理(画素の対応付け処理及び連結処理)を実行する場合を説明したが、複数画素をまとめた小領域単位で同様の処理を行っても良い。この場合、各画像をエッジ強度等に基づいて予め小領域に分割しておく。画像の分割方法としては、エッジ強度の尾根を境界とする手法(例えば国際公開第2006/080239号参照)、分水嶺(watershed)アルゴリズム(参考:Luc Vincent and Pierre Soille,“Watersheds in Digital Spaces: An Efficient Algorithm Based on Immersion Simulations”,IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol.13,No.6, pp.583−598,June 1991)等を利用することができる。
この後、処理はメインルーチンに戻る。
【0037】
ステップS103において、連結領域特徴量算出部120は、各連結領域の特徴量を算出する。より詳細には、連結領域体積算出部121が、各連結領域内に含まれる画素数の総和を連結領域体積として算出する。連結領域特徴量算出部120は、この連結領域体積を各連結領域の特徴量として用いる。
【0038】
図7は、
図6に示す各連結領域に対して特徴量を算出した結果を示すモデル図である。
図7に示す丸印内の数値は、各連結領域(丸印が配置された線分によって結ばれる画素を含む連結領域)の特徴量(本実施の形態1においては連結領域体積)を示す。例えば、画像I
0の画素P
07、画像I
1の画素P
14、並びに画像I
2の画素P
20及びP
21を含む連結領域の体積(画素数)は「4」となる。
【0039】
続くステップS104において、要約指標値算出部130は、連結領域の特徴量をもとに、各画像の要約指標値を算出する。より詳細には、特徴量和算出部131が、各画像内に含まれる連結領域の特徴量の総和を、画像毎に算出する。この連結領域の特徴量の総和が、要約指標値として用いられる。
【0040】
具体的には、画像I
nの要約指標値E(I
n)は、次式(1)によって与えられる。
E(I
n)=ΣF(L
i) …(1)
式(1)において、右辺は、画像I
nに含まれるラベル値iが設定された連結領域L
iの特徴量F(L
i)(実施の形態1においては連結領域体積)の総和を示す。
【0041】
従って、
図5に示す画像I
0〜I
3の場合、要約指標値E(I
n)は次式によって与えられる。
E(I
0)=F(L
1)+F(L
2)+F(L
3)+F(L
5)+…
E(I
1)=F(L
1)+F(L
2)+F(L
4)+F(L
5)+…
E(I
2)=F(L
1)+F(L
2)+F(L
4)+…
E(I
3)=F(L
2)+F(L
4)+F(L
6)+…
【0042】
これは、
図7に示すモデル図においては、各画像I
0〜I
3に含まれる連結領域の特徴量(丸印内の数値)の総和を取ることに相当する。即ち、以下のとおりである。
E(I
0)=1+2+2+3+3+4=15
E(I
1)=2+2+3+3+4+3+3=24
E(I
2)=4+3+3+4+2+3=19
E(I
3)=4+3+2+3+1+1=14
【0043】
ステップS105において、要約画像検出部140は、要約指標値が最大となる1枚の画像を要約画像として検出する。これは、上記算出法により得られる要約指標値が大きいほど、時系列画像に映された対象がより多く集約された画像であると考えることができるからである。例えば、
図7に示す画像I
0〜I
3の内からは、要約指標値E(I
n)が4画像の内で最大(24)である画像I
1が要約画像として検出される。
【0044】
図8は、要約指標値と時系列画像の集約の関係を示すモデル図である。
図8においては、画像I
1内に含まれる画素、及びこれらの画素に対応する他の画像I
0、I
2、I
3内の画素を網掛け表示している。このモデル図において、各画素の対応関係に着目すると、画像I
1内の画素は、画像I
0及びI
2の大半の画素と対応していることがわかる。即ち、画像I
1は、画像I
0及びI
2に映された対象の大半を含んでおり、これら時系列の画像I
0〜I
3に映された対象を最も集約しているといえる。
従って、要約指標値が最大である画像(画像I
1)が最も適切な要約画像であることは、
図8に示すモデル図からも確認することができる。
【0045】
ステップS106において、繰返し制御部150の要約画像枚数算出部151は、検出済みの要約画像枚数(検出枚数)を算出する。
続くステップS107において、繰返し制御部150は、要約画像枚数が所定値に至ったか否かを判定する。この所定値としては、予めユーザが所望の枚数を設定することができる。
【0046】
所定値に至っていない場合(ステップS107:No)、繰返し制御部150は、検出済みの要約画像内に含まれる連結領域に対応する対象を既に検出済みの対象であるとみなし、当該要約画像内に含まれる連結領域の特徴量をゼロに設定する(ステップS108)。その後、処理はステップS104に戻る。この場合、要約指標値算出部130及び要約画像検出部140における未検出の対象に対する処理(ステップS104、S105〜)が繰り返し実行される。
【0047】
ここで、このような繰返し処理により、時系列画像に映された対象に対して網羅性の高い要約画像を検出できる理由を、
図9を参照しながら説明する。
図9においては、要約画像として検出された画像I
1内に含まれる連結領域の特徴量がゼロに設定されている。また、画像I
1内の画素に対応する全ての画素、即ち、要約画像に集約された対象が映る画素は、網掛け表示されている。これより、次に検出すべき要約画像として望ましいのは、まだ網羅されていない対象が多く映された画像I
3であることがわかる。
【0048】
繰り返し後のステップS104の処理により、各画像I
n(n=0、2、3)の要約指標値E(I
n)として、E(I
0)=1、E(I
2)=2+3=5、E(I
3)=2+3+1+1=7が算出される。これより、次に検出すべき要約画像は、要約指標値E(I
n)の値が最も大きい(7)画像I
3であると判定される(繰り返し後のステップS105)。これは、
図9のモデル図に示す概念とも一致する。このような処理をさらに繰り返すことにより、時系列画像に映された対象に対して網羅性の高い要約画像を検出することができる。
【0049】
一方、ステップS107において、要約画像枚数が所定値に至った場合(ステップS107:Yes)、処理はステップS109に移行する。この場合、演算部100は、要約画像の検出結果を表示部40に出力すると共に、記録部50に記録する。その後、画像処理装置1における処理は終了する。
【0050】
以上説明したように、実施の形態1によれば、時系列画像において同一対象が映る領域を連結した連結領域を求め、各画像内に含まれる連結領域の体積の総和に基づき、時系列画像に映された対象が集約した要約画像を順次検出するので、診断対象に対して網羅性の高い要約画像を検出することが可能となる。
【0051】
なお、上記実施の形態1においては、繰返し制御部150により、要約指標値算出部130及び要約画像検出部140における処理を繰り返し実行することとしたが、要約指標値算出部130及び要約画像検出部140における少なくとも1回の処理によっても、網羅性の高い要約画像を検出することが可能である。
【0052】
(変形例1)
次に、実施の形態1の変形例1について、
図10を参照しながら説明する。
変形例1に係る画像処理装置は、
図1に示す繰返し制御部150の代わりに、網羅率算出部161を有する繰返し制御部160を備える。網羅率算出部161は、検出済みの要約画像によって網羅される時系列画像に映された対象の網羅率を算出する。繰返し制御部160は、この網羅率に応じて、要約指標値算出部130及び要約画像検出部140における処理の繰り返しを制御する。
【0053】
図11は、変形例1に係る画像処理装置が実行する処理を示すフローチャートである。この内、ステップS101〜S105、S108、S109における処理は、実施の形態1と同様である。
【0054】
ステップS105に続くステップS126において、網羅率算出部161は、検出済みの要約画像による網羅率C
Rを、次式(2)を用いて算出する。
【数1】
【0055】
例えば、
図8において、画像I
1を要約画像として検出した場合、画像I
1による網羅率C
R(I
1)は次のようになる。
C
R(I
1)=24/32=0.75
【0056】
また、
図9において、画像I
1に続いて画像I
3を要約画像として検出した場合、画像I
1及びI
3による網羅率C
R(I
1、I
3)は次のようになる。
C
R(I
1、I
3)=(24+7)/32=0.96875
【0057】
ステップS127において、繰返し制御部160は、このようにして算出した網羅率C
Rが所定値以上となったか否かを判定する。この網羅率としては、予めユーザが所望の値を設定することができる。
【0058】
網羅率が所定値未満である場合(ステップS127:No)、繰返し制御部160は、検出済みの要約画像内に含まれる連結領域の特徴量をゼロに設定し(ステップS108)、その後、処理はステップS104に戻る。この場合、要約指標値算出部130及び要約画像検出部140における処理(ステップS104、S105〜)が繰り返し実行される。
一方、網羅率が所定値以上となった場合(ステップS127:Yes)、処理はステップS109に移行する。
【0059】
以上説明したように、変形例1によれば、要約画像の検出と共に、検出済みの要約画像による網羅率を算出し、網羅率に応じた処理の繰返し制御を実行するので、所定以上の網羅率となる要約画像を検出することが可能となる。
【0060】
(実施の形態2)
次に、本発明の実施の形態2について説明する。
図12は、実施の形態2に係る画像処理装置が備える演算部の構成を示すブロック図である。なお、実施の形態2に係る画像処理装置の演算部以外の構成及び動作については、
図1に示すものと同様である。
【0061】
図12に示す演算部200は、
図1に示す連結領域特徴量算出部120の代わりに、連結領域重要度算出部211を有する連結領域特徴量算出部210を備える。その他の各部の構成及び動作については、実施の形態1と同様である。
【0062】
連結領域重要度算出部211は、一連の時系列画像の各画像内の領域を、例えば診断における重要度に応じたカテゴリに分類すべく判定を行う領域判定部211aを含み、この判定結果に基づいて、各連結領域の重要度を算出する。連結領域特徴量算出部210は、算出された重要度を連結領域の特徴量として用いる。
【0063】
より詳細には、領域判定部211aは、各画像内の領域を、検出すべき領域(検出対象領域)、検査すべき領域(検査対象領域)、及び検査に不要な領域(非検査対象領域)の何れかに判定する。具体的には、検出すべき領域には病変部が相当し、検査すべき領域には粘膜領域が相当し、検査が不要な領域には非粘膜領域が相当する。
【0064】
次に、実施の形態2に係る画像処理装置が実行する処理について説明する。本実施の形態2に係る画像処理装置が実行する処理は全体として
図2に示すものと同様であり、各連結領域の特徴量を算出する処理(ステップS103)が実施の形態1とは異なる。
図13は、連結領域特徴量算出部210が実行する各連結領域の特徴量を算出する処理を示すフローチャートである。
【0065】
対応領域連結部110により、同一の対象が映る画素が連結された後(
図2のステップS102)、領域判定部211aは、各画素の色情報をもとに、各画素を病変、粘膜、非粘膜の何れかのカテゴリに判定する(ステップS201)。なお、色情報をもとに管腔内画像の画素のカテゴリ(病変、粘膜、非粘膜など)を判定する方法としては、公知の種々の方法を用いて良い。一例として、管腔内画像内の各画素の特定波長成分(例えばR成分)の値をもとに管腔内画像を階層分類することにより当該画像を領域分割し、各領域内の各画素の画素特徴量(例えば、画素のR、G、B成分の値や、これらの成分をもとに2次的に計算される輝度、色差、色相、彩度、明度、色比等の値)を算出して画素特徴量の分布をクラスタリングし、各クラスタを所定のクラスタ判別基準と比較することにより、病変部クラスタを判別し、この病変部クラスタに属する画素を病変画素として特定するといった方法が挙げられる(特開2010−113616号公報参照)。
【0066】
続くステップS202において、連結領域重要度算出部211は、各画素に対してカテゴリごとに重み付けを行う。この重みは、病変画素の重みが最も高く、粘膜画素、非粘膜画素の順に重みが下がるように設定される。これは、要約画像において網羅すべき画素の重要度は、高い順から、病変画素、粘膜画素、非粘膜画素となるからである。具体例として、病変画素には重み2が設定され、粘膜画素には重み1が設定され、非粘膜画素には重み0が設定される。
【0067】
さらに、ステップS203において、連結領域重要度算出部211は、各連結領域に含まれる画素の重みの総和を連結領域重要度として算出する。この連結領域重要度が、各画像の要約指標値を算出(ステップS104)する際の特徴量として用いられる。
この後、処理はメインルーチンに戻る。
【0068】
以上説明したように、実施の形態2によれば、各画像内の画素が属する領域(検出対象領域、検査対象領域、非検査対象領域)の判別結果に基づく重要度を考慮するので、時系列画像に映された重要な診断対象に対して網羅性の高い要約画像を検出することが可能となる。
【0069】
なお、実施の形態2においては、1画素単位の処理により画素の判別を行ったが、複数画素をまとめた小領域単位で同様の処理を行っても良い。
【0070】
(実施の形態3)
次に、本発明の実施の形態3について説明する。
図14は、実施の形態3に係る画像処理装置が備える演算部の構成を示すブロック図である。なお、実施の形態3に係る画像処理装置の演算部以外の構成及び動作については、
図1に示すものと同様である。
【0071】
図14に示す演算部300は、
図1に示す演算部100に対して、領域優先度算出部310をさらに備え、また、
図1に示す要約指標値算出部130の代わりに、要約指標値算出部320を備える。その他の各部の構成及び動作については、実施の形態1と同様である。
【0072】
領域優先度算出部310は、一連の時系列画像の各画像内の領域に対し、視認性に基づく要約画像検出の優先度を算出する。より詳細には、領域優先度算出部310は、互いに異なる画像間において、同一の連結領域に属する領域を比較する対応領域比較部311を有し、対応領域比較部311による比較結果をもとに上記優先度を算出する。
【0073】
要約指標値算出部320は、領域優先度算出部310によって算出された優先度と、連結領域特徴量算出部120によって算出された領域特徴量とに基づいて、要約指標値を算出する。
【0074】
図15は、実施の形態3に係る画像処理装置が実行する処理を示すフローチャートである。この内、ステップS101〜S103及びS105〜S109における処理については、実施の形態1と同様である。
【0075】
ステップS103に続くステップS301において、領域優先度算出部310は、各画像内の領域に対して視認性に基づく優先度を算出する。
図16は、視認性に基づく優先度を算出する(ステップS301)処理の詳細を示すフローチャートである。
まず、ステップS311において、対応領域比較部311は、互いに異なる画像間において、同一の連結領域に含まれる領域(以下、比較対象領域という)の面積を比較する。
図17は、比較対象領域の面積を比較する例を示すモデル図である。
図17においては、互いに異なる画像I
0〜I
2に含まれる1つの連結領域に注目し、該連結領域に含まれる比較対象領域(画素)を網掛け表示している。
【0076】
図17に示すように、各画像I
0〜I
2における比較対象領域の面積(画素数)S(I
n)は、それぞれ、S(I
0)=1、S(I
1)=1、S(I
2)=2である。これらの面積S(I
n)を比較対象領域の最大面積が1となるように正規化すると、正規化された値(以下、面積指標値という)S’(I
n)は、S’(I
0)=0.5、S’(I
1)=0.5、S’(I
2)=1となる。この面積指標値が1に近いほど、同一の対象が大きく映り、視認性が良いと言える。対応領域比較部311は、このような面積指標値の算出を、全ての連結領域を対象として行うことにより、各画像内において、同一の連結領域に含まれる領域毎の面積指標値を取得する。
【0077】
続くステップS312において、対応領域比較部311は、各画像内における比較対象領域の位置を、互いに異なる画像間で比較する。ここで、比較対象領域は、画像の中心に近い程、視認性が良いと言える。そこで、対応領域比較部311は、比較対象領域の重心座標(x
g,y
g)と、画像の中心座標(x
c,y
c)をもとに、次式(3)を用いて、比較対象領域が画像の中心に近い程、値が1に近くなる位置指標値を算出する。
【数2】
【0078】
対応領域比較部311は、このような位置指標値の算出を、全ての連結領域を対象として行うことにより、各画像内において、同一の連結領域に含まれる領域毎の位置指標値を取得する。
【0079】
ステップS313において、対応領域比較部311は、各画像内における比較対象領域のノイズ量を、互いに異なる画像間で比較する。ここで、比較対象領域は、ノイズ量が少ない程、視認性が良いと言える。また、視認性を低下させるノイズには、所定の周波数以上の高周波成分ノイズが含まれる。そこで、対応領域比較部311は、比較対象領域内の各画素に対して公知のハイパスフィルタ(参考:CG−ARTS協会、ディジタル画像処理、第133〜136頁)処理を施し、ハイパスフィルタ処理後の出力値(画素値)の比較対象領域内における平均値をノイズ量として算出する。
【0080】
さらに、対応領域比較部311は、次式(4)を用いて、比較対象領域のノイズ量が少ない程、値が1に近くなるノイズ量指標値を算出する。
【数3】
式(4)において、Nはノイズ量指標値の算出対象である比較対象領域のノイズ量、max(N)は同一の連結領域に含まれる比較対象領域の最大ノイズ量、min(N)は同一の連結領域に含まれる比較対象領域の最小ノイズ量を示す。
【0081】
対応領域比較部311は、このようなノイズ量指標値の算出を、全ての連結領域を対象として行うことにより、各画像内において、同一の連結領域に含まれる領域毎のノイズ量指標値を取得する。
【0082】
ステップS314において、対応領域比較部311は、各画像内における比較対象領域の解像度を、互いに異なる画像間で比較する。ここで、比較対象領域は、解像度が高い程、視認性が良いと言える。また、一般に、解像度は、ノイズに相当する高周波成分を除き、より高い周波数成分が含まれるほど、即ち、中程度の周波数成分が多いほど、解像度は高いと言える。そこで、対応領域比較部311は、比較対象領域内の各画素に対して公知のバンドパスフィルタ(参考:CG−ARTS協会、ディジタル画像処理、第136頁)処理を施し、バンドパスフィルタ処理後の出力値(画素値)の比較対象領域内における平均値を解像度評価量として算出する。なお、バンドパスフィルタによって抽出する中程度の周波数成分については、ユーザ所望の値を予め設定しておく。
【0083】
さらに、対応領域比較部311は、次式(5)を用いて、比較対象領域の解像度評価量が多い程、値が1に近くなる解像度指標値を算出する。
【数4】
式(5)において、Rは解像度指標値の算出対象である比較対象領域の解像度評価量、max(R)は同一の連結領域に含まれる比較対象領域の最大解像度評価量、min(R)は同一の連結領域に含まれる比較対象領域の最小解像度評価量を示す。
【0084】
対応領域比較部311は、このような解像度指標値の算出を、全ての連結領域を対象として行うことにより、各画像内において、同一の連結領域に含まれる領域毎の解像度指標値を取得する。
【0085】
ステップS315において、対応領域比較部311は、各画像内における比較対象領域の明るさを比較する。ここで、比較対象領域は、明るすぎたり暗すぎたりしない程、視認性が良いと言える。そこで、対応領域比較部311は、比較対象領域の平均輝度値を算出する。
【0086】
さらに、次式(6)を用いて、比較対象領域の明るさが所定の範囲に近い程、値が1に近くなる明るさ指標値を算出する。なお、明るさの範囲については、ユーザ所望の範囲を予め設定しておく。
【数5】
式(6)において、Vは明るさ指標値の算出対象である比較対象領域の平均輝度値、min_thは視認性を考慮した場合における下限輝度値、max_thは視認性を考慮した場合における上限輝度値、maxVは取り得る輝度値の上限値を示す。
【0087】
対応領域比較部311は、このような明るさ指標値の算出を、全ての連結領域を対象として行うことにより、各画像内において、同一の連結領域に含まれる領域毎に明るさ指標値を取得する。
【0088】
ステップS316において、領域優先度算出部310は、面積、位置、ノイズ量、解像度、及び明るさの比較結果をもとに、各比較対象領域の優先度を算出する。この優先度は、次式(7)によって与えられる。
優先度=w
A×面積指標値+w
P×位置指標値+w
N×ノイズ量指標値
+w
R×解像度指標値+w
V×明るさ指標値 …(7)
式(7)において、w
A、w
P、w
N、w
R、及びw
Vは、それぞれ、面積、位置、ノイズ量、解像度、及び明るさの各指標値に対する重みを示し、次式(8)を満たす。
w
A+w
P+w
N+w
R+w
V=1 …(8)
その後、処理はメインルーチンに戻る。
【0089】
ステップS302において、要約指標値算出部320は、優先度及び連結領域の特徴量に基づき、各画像の要約指標値を算出する。具体的には、特徴量がゼロではない連結領域内に含まれる画素の優先度の平均値を、画像毎に算出する。これより、画像内に優先度が高い領域が多く存在する程、要約指標値は高くなる。
この後、処理はステップS105に移行する。
【0090】
以上説明したように、実施の形態3によれば、画像内の領域の視認性に基づく優先度を考慮した要約指標値を算出し、この要約指標値に基づいて要約画像を検出するので、時系列画像に映された診断対象に対して視認性の良い、かつ網羅性を考慮した要約画像を検出することが可能となる。
【0091】
(変形例2)
次に、実施の形態3の変形例2について、
図18を参照しながら説明する。
変形例2に係る画像処理装置は、
図14に示す要約指標値算出部320の代わりに、重み付け優先度平均算出部331を有する要約指標値算出部330を備える。
【0092】
重み付け優先度平均算出部331は、
図15に示すステップS301において各画像内の比較対象領域に対して視認性に基づく優先度が算出された後、各画像内に含まれる画素について算出された優先度に対して、当該画素を含む連結領域の特徴量を乗じることにより、重み付け優先度を算出する。さらに、重み付け優先度平均算出部331は、各画像内に含まれる画素の重み付け優先度の平均値を、画像毎に算出する。この重み付け優先度の平均値が要約指標値として用いられる。
【0093】
このような変形例2によれば、画像内の領域の視認性に基づく優先度に対し、連結領域の特徴量を乗じた重み付けをするので、時系列画像に映された診断対象に対する視認性が良く、且つ、網羅性がさらに向上した要約画像を検出することが可能となる。
【0094】
なお、実施の形態3及びその変形例2においては、1画素単位の処理により画素の判別を行ったが、複数画素をまとめた小領域単位で同様の処理を行っても良い。
【0095】
以上説明した実施の形態1〜3及びこれらの変形例に係る画像処理装置は、記録媒体に記録された画像処理プログラムをパーソナルコンピュータやワークステーション等のコンピュータシステムで実行することによって実現することができる。また、このようなコンピュータシステムを、ローカルエリアネットワーク、広域エリアネットワーク(LAN/WAN)、又は、インターネット等の公衆回線を介して、他のコンピュータシステムやサーバ等の機器に接続して使用しても良い。この場合、実施の形態1〜3に係る画像処理装置は、これらのネットワークを介して管腔内画像の画像データを取得したり、これらのネットワークを介して接続された種々の出力機器(ビュアーやプリンタ等)に画像処理結果を出力したり、これらのネットワークを介して接続された記憶装置(記録媒体及びその読取装置等)に画像処理結果を格納するようにしても良い。
【0096】
なお、本発明は、実施の形態1〜3及びこれらの変形例に限定されるものではなく、各実施の形態や変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成できる。例えば、各実施の形態や変形例に示される全構成要素からいくつかの構成要素を除外して形成しても良いし、異なる実施の形態や変形例に示した構成要素を適宜組み合わせて形成しても良い。