(58)【調査した分野】(Int.Cl.,DB名)
前記管腔内画像の輝度成分のエッジをもとに前記管腔内画像を分割した小領域単位で色特徴量を算出する色特徴量算出部をさらに備えることを特徴とする請求項1に記載の画像処理装置。
前記第1のヒストグラム作成部は、前記管腔内画像から泡領域、暗部領域、及び赤色病変領域との内の少なくとも1つを検出し、前記粘膜分布と前記残渣候補分布との判別に不要な領域と判定して除外する不要領域除外部を含むことを特徴とする請求項2に記載の画像処理装置。
前記第1の判定閾値設定部は、予め複数の管腔内画像から取得した粘膜領域内の色特徴量を前記候補判定軸に対して累積した粘膜の頻度分布を作成し、前記粘膜の頻度分布において、頻度が最大となる色特徴量から赤みの弱い側を見たときに、頻度が最初に最小又は極小となるときの色特徴量を前記判定閾値として保持することを特徴とする請求項2に記載の画像処理装置。
前記第1の判定閾値設定部は、前記頻度分布の双峰性の形状を評価し、該評価の結果をもとに前記頻度分布における境界位置を算出し、該境界位置を前記判定閾値に設定することを特徴とする請求項2に記載の画像処理装置。
前記第1の判定閾値設定部は、前記管腔内画像を所定サイズの複数の矩形領域に分割し、前記複数の矩形領域毎に、前記色特徴量の頻度分布を作成し、前記複数の矩形領域間の色特徴量の頻度の最大値又は最頻値を抽出して合成する合成ヒストグラム作成部を含むことを特徴とする請求項2に記載の画像処理装置。
前記第2の判定閾値設定部は、前記色特徴量の頻度分布を1つ又は2つの正規分布で近似し、前記1つの正規分布の代表値又は前記2つの正規分布の境界位置と、前記粘膜分布の代表値とをもとに、判定閾値を設定することを特徴とする請求項3に記載の画像処理装置。
前記候補判定部は、前記色特徴量の分布をクラスタリングすることにより取得したクラスタの各々に対し、各クラスタの代表値を用いて判定を行うことを特徴とする請求項19に記載の画像処理装置。
前記閾値処理部は、前記1つ以上の分布モデルのうち、前記残渣候補分布判定部により前記残渣候補として判定されなかった色特徴量の分布を粘膜分布とし、前記第2の判定軸における該粘膜分布の代表値を算出する粘膜基準閾値設定部を備えることを特徴とする請求項27に記載の画像処理装置。
前記判定部は、前記色特徴量の分布をクラスタリングすることにより取得した各クラスタに対し、当該クラスタの代表値を用いて判定を行うことを特徴とする請求項17に記載の画像処理装置。
【発明を実施するための形態】
【0017】
以下、本発明の実施の形態に係る画像処理装置、画像処理方法、及び画像処理プログラムについて、図面を参照しながら説明する。なお、これらの実施の形態によって本発明が限定されるものではない。また、各図面の記載において、同一部分には同一の符号を付して示している。
【0018】
以下の実施の形態においては、一例として、カプセル内視鏡等の医用観察装置によって被検体の管腔内を撮像することにより取得された管腔内画像(以下、単に画像ともいう)から残渣領域を判別する画像処理について説明する。なお、以下の実施の形態において画像処理の対象となる管腔内画像は、各画素位置においてR(赤)、G(緑)、B(青)の各色成分(波長成分)に対する画素レベル(画素値)を持つカラー画像である。
【0019】
(実施の形態1)
図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。
図1において、画像信号等のデータを伝送するラインは実線で示し、制御信号を伝送するラインは破線で示している。
【0020】
図1に示すように、実施の形態1に係る画像処理装置1は、画像処理装置1全体の動作を制御する制御部10と、カプセル内視鏡等の医用観察装置によって撮像された画像に対応する画像データを取得する画像取得部としての外部インタフェース(I/F)部20と、外部からの操作により入力信号を発生させる操作入力部30と、各種情報の表示を行う表示部40と、種々のプログラムや外部インタフェース部20を介して取得された画像データを記録する記録部50と、画像データに対して所定の画像処理を実行する演算部100とを備える。
【0021】
制御部10は、CPU等のハードウェアによって実現され、記録部50に記録された各種プログラムを読み込むことにより、外部インタフェース部20から入力される画像データや操作入力部30から入力される操作信号等に従って、画像処理装置1を構成する各部への指示やデータの転送等を行い、画像処理装置1全体の動作を統括的に制御する。
【0022】
外部インタフェース部20は、外部機器や記録媒体から画像処理装置に画像データを取り込む画像取得部である。外部インタフェース部20には、医用観察装置を含むシステムの態様に応じて、種々の外部機器が接続される。例えば、医用観察装置がカプセル内視鏡であり、医用観察装置との間の画像データの受け渡しに可搬型の記録媒体が使用される場合、この記録媒体を着脱自在に装着し、記録媒体に記録された管腔内画像の画像データを読み出すリーダ装置が外部インタフェース部20に接続される。また、医用観察装置によって撮像された管腔内画像の画像データを保存しておくサーバを設置する場合、サーバとの間でデータ通信を行う通信装置等が外部インタフェース部20に接続され、データ通信により画像データを画像処理装置1に取り込む。或いは、内視鏡等の医用観察装置を、ケーブルを介して外部インタフェース部20に接続し、画像信号を医用観察装置から画像処理装置1に直接取り込んでも良い。
【0023】
操作入力部30は、例えばキーボードやマウス、タッチパネル、各種スイッチ等の入力デバイスによって実現され、受け付けた入力信号を制御部10に出力する。
表示部40は、LCDやELディスプレイ等の表示装置によって実現され、制御部10の制御の下で、管腔内画像を含む各種画面を表示する。
【0024】
記録部50は、更新記録可能なフラッシュメモリ等のROMやRAMといった各種ICメモリ、内蔵若しくはデータ通信端子で接続されたハードディスク、又は、CD−ROM等の情報記録媒体及びその読取装置等によって実現される。記録部50は、外部インタフェース部20を介して取得された管腔内画像の画像データの他、画像処理装置1を動作させると共に、種々の機能を画像処理装置1に実行させるためのプログラムや、このプログラムの実行中に使用されるデータ等を記録する。具体的には、記録部50は、管腔内画像から残渣領域を判別する画像処理を当該画像処理装置1に実行させるための画像処理プログラム51と、当該画像処理プログラムの実行中に用いられる判定閾値等を記録する。
【0025】
演算部100は、CPU等のハードウェアによって実現され、画像処理プログラム51を読み込むことによって管腔内画像に対応する画像データに画像処理を施し、管腔内画像から残渣領域を判別するための種々の演算処理を行う。
【0026】
次に、演算部100の詳細な構成について説明する。
演算部100は、管腔内画像内の各画素の色特徴量を算出して分布を作成する色特徴量算出部110と、色特徴量の分布のうち、相対的に赤みの強い側に分布する色特徴量を粘膜分布と判定し、相対的に赤みが弱い側に分布する色特徴量を残渣候補分布として判定する残渣候補分布判定部120と、残渣候補分布のうち、粘膜分布を基準として黄みの強い側に分布する残渣候補分布を残渣分布として判定する残渣分布判定部130とを備える。
【0027】
この内、残渣候補分布判定部120は、粘膜分布と残渣候補分布とを判別して各分布が残渣候補分布か否かを判定する判定軸を候補判定軸として設定する候補判定軸設定部121と、各画素が有する色特徴量の頻度分布を表すヒストグラムを上記候補判定軸に対して作成する第1ヒストグラム作成部122と、粘膜領域に対応する色特徴量の範囲を抽出するための判定閾値(以下、候補判定閾値ともいう)を候補判定軸上に設定する第1判定閾値設定部123と、この判定閾値をもとに、粘膜分布と残渣候補分布とを判定する候補判定部124とを有する。
【0028】
この内、候補判定軸設定部121は、少なくとも赤みの強さが変化する色特徴量に対応する軸を候補判定軸に設定する。
また、第1ヒストグラム作成部122は、管腔内画像から泡領域、暗部領域、及び赤色病変領域との内の少なくとも1つを検出し、残渣領域の判別に不要な領域と判定して除外する不要領域除外部122aを含む。より詳細には、不要領域除外部122aは、暗部領域判定部122a−1と、泡領域判定部122a−2と、赤色病変領域判定部122a−3とを含む。
【0029】
第1判定閾値設定部123は、第1ヒストグラム作成部122が作成したヒストグラムに基づいて、上記候補判定閾値を設定する。より詳細には、第1判定閾値設定部123は、ヒストグラムの双
峰性の形状を評価して、この評価結果をもとにヒストグラムを1つ又は2つの正規分布で近似し、近似した正規分布と粘膜分布及び残渣分布との関係に基づいて候補判定閾値を設定する。或いは、第1判定閾値設定部123は、ヒストグラムが双
峰性を有しないと評価される場合には、ヒストグラムを正規分布で近似することなく、ヒストグラムそのものに基づいて候補判定閾値を設定しても良い。
【0030】
一方、残渣分布判定部130は、残渣候補分布が残渣分布に相当するか否かを判定する際に用いられる判定軸を設定する判定軸設定部131と、残渣候補分布に含まれる色特徴量の頻度分布を表すヒストグラムを上記判定軸に対して作成する第2ヒストグラム作成部132と、残渣候補分布が残渣分布に相当するか否かを判定する際の判定閾値を判定軸上に設定する第2判定閾値設定部133と、判定閾値よりも黄みの強い側に存在する残渣候補分布を残渣分布として判定する判定部134とを有する。
【0031】
この内、判定軸設定部131は、黄みの強さが変化する色特徴量に対応する軸を判定軸に設定する。
また、第2判定閾値設定部133は、第2ヒストグラム作成部132が作成したヒストグラムに基づいて、上記判定閾値を設定する。より詳細には、第2判定閾値設定部133は、ヒストグラムの双
峰性の形状を評価して、この評価結果をもとにヒストグラムを1つ又は2つの正規分布で近似し、近似した正規分布と粘膜分布との関係に基づいて判定閾値を設定する。或いは、第2判定閾値設定部133は、ヒストグラムが双
峰性を有しないと評価される場合には、ヒストグラムを正規分布で近似することなく、ヒストグラムそのものに基づいて判定閾値を設定しても良い。
【0032】
次に、画像処理装置1の動作について説明する。
図2は、画像処理装置1の動作を示すフローチャートである。また、
図3は、画像処理装置1の処理対象である管腔内画像の一例を示す模式図である。
図3に例示する画像M1には、管腔内の粘膜領域m1と、この粘膜領域m1の手前側に写った残渣領域m2と、粘膜の一部が白色化した白色病変領域m3とが表示されている。
【0033】
まず、ステップS11において、画像処理装置1は、外部インタフェース部20を介して被検体の管腔内画像を取得し、記録部50に記録する。演算部100は、処理対象の画像(例えば、
図3に示す画像M1)を記録部50から順次読み込む。
【0034】
続くステップS12において、色特徴量算出部110は、管腔内画像内の各画素の画素値(R成分、G成分、B成分)から色特徴量を算出する。実施の形態1においては、第1の色特徴量として、G成分とR成分の比であるG/R値を算出し、第2の色特徴量として、B成分とG成分の比であるB/G値とを算出する。
【0035】
ステップS13において、残渣候補分布判定部120は、例えば
図4に示すような管腔内画像の色特徴量の分布のうち、粘膜分布よりも赤みの弱い分布を残渣候補分布として判定する。
図5は、候補分布判定部の詳細な動作を示すフローチャートである。
【0036】
ステップS131において、候補判定軸設定部121は、色特徴量を粘膜分布と残渣候補分布とに判別する際に用いられる候補判定軸として、G/R値に対応する軸(G/R軸)を設定する。ここで、R、G、Bの各成分がいずれも0〜255の間の画素レベルで輝度飽和せずに安定して得られる管腔内画像において、粘膜分布の変動は、G/R値において十分に小さい。このため、候補判定軸をG/R値に対応して設定することにより、後段の閾値処理において、粘膜領域と、該粘膜領域に対して赤みが弱い色特徴量の分布である残渣候補分布とを分離し易くすることができる。
【0037】
ステップS132において、第1ヒストグラム作成部122は、候補判定軸に対して、管腔内画像の各画素の色特徴量の頻度分布を表すヒストグラムを作成する。
そのために、まず、不要領域除外部122aは、粘膜分布と残渣候補分布との判別に不要な領域を除外する。不要領域としては、例えば、被写体の観察が困難な暗部領域や、管腔内において消化液等が泡となった泡領域や、残渣ではないことが確定的な赤色病変領域等が挙げられる。
【0038】
より詳細には、暗部領域判定部122a−1は、輝度値Y(参考:CG−ARTS協会、「ディジタル画像処理」、第299頁)又は所定の画素値(例えば、R値)が所定の閾値よりも低い画素の領域を暗部領域として判定する。ここで、R値を用いるのは、Rの色成分は、管腔内画像においては最も吸光が少なく、被写体の表面でほとんど反射されるので、粘膜の構造情報を最もよく反映するからである。
【0039】
また、泡領域判定部122a−2は、輝度値Yの周波数成分が所定の閾値よりも高く、且つ、彩度(参考:CG−ARTS協会、「ディジタル画像処理」、第64頁)が所定の閾値よりも低い画素の領域を泡領域として判定する。周波数成分は、管腔内画像にDCT変換(離散コサイン変換)を施した後に得られる係数や、元の管腔内画像とその平均画像との差分値を算出することにより求めることができる。また、彩度に基づく判定は、例えば、色比情報(G/R値及びB/G値)を閾値処理することにより行うことができる。
【0040】
また、赤色病変領域判定部122a−3は、色特徴量空間における色特徴量の頻度分布を、該頻度分布の山ごとに分水嶺等の処理を施すことによりクラスタリングし、頻度が多い主要な分布(例えば最大クラスタ)から外れた分布(クラスタ)を抽出し、この外れたクラスタのうち、絶対位置や相対位置が上記主要な分布よりも赤みの強い側に位置するクラスタ内の色特徴量に対応する画素の領域を赤色病変領域として判定する。
【0041】
不要領域除外部122aは、これらの不要領域が検出された場合、各不要領域に含まれる画素にフラグ(例えば、0:その他、1:暗部領域、2:泡領域、3:赤色病変領域)を付加したフラグ画像を作成する。
【0042】
第1ヒストグラム作成部122は、このフラグ画像をもとに、管腔内画像から暗部領域、泡領域、及び赤色病変領域といった不要領域を除外し、その結果残った領域の画素の色特徴量の頻度分布を表すヒストグラムを候補判定軸に対して作成する。第1ヒストグラム作成部122は、さらに、作成したヒストグラムに対し、頻度が所定値以下となる分布をノイズとして除外する。或いは、ヒストグラムの和(積分値)が1となるように当該ヒストグラムを正規化した後、所定の割合以下となる分布をノイズとして除外しても良い。
図6に示す分布D10は、管腔内画像から不要領域を除いた後の管腔内画像における色特徴量の頻度分布を示している。なお、上述したノイズの除外処理は必須ではなく、省略しても良い。
【0043】
ステップS133において、第1判定閾値設定部123は、粘膜分布と残渣候補分布とを判別するための判定閾値(候補判定閾値)を設定する。より詳細には、第1判定閾値設定部123は、後述するステップS134において候補判定部124が判定に用いる各クラスタの代表値が最小値である場合、教師データによる粘膜分布及び残渣分布の各クラスタの最小値の分布を各々作成し、両分布の境界付近を候補判定閾値として予め算出して持っておく。また、候補判定部124が判定に用いる各クラスタの代表値が重心位置の場合、粘膜分布及び残渣分布の各々の重心の分布から、両分布の境界付近を候補判定閾値として持っておく。
【0044】
ステップS134において、候補判定部124は、判定閾値をもとに粘膜分布と残渣候補分布とを判別する。より詳細には、候補判定部124は、色特徴量空間における色特徴量の分布をクラスタリングすると共に、各クラスタの代表値(例えば、重心位置)を算出し、この代表値を候補判定閾値Th0と比較することにより、クラスタごとに粘膜分布であるか残渣候補分布であるかの判定を行う。具体的には、
図6に示すように、重心位置g10が候補判定閾値Th0よりも赤みの強い側(G/R値の小さい側)にあるクラスタC10は粘膜分布と判定され、重心位置g21、g22が候補判定閾値Th0よりも赤みの弱い側(G/R値の大きい側)にあるクラスタC21、C22は残渣候補分布と判定される。なお、クラスタリングの手法としては、分水嶺処理、階層法、k-means法(参考:CG−ARTS協会、「ディジタル画像処理」、第231〜232頁)、期待値最大化アルゴリズム(EMアルゴリズム)、自己組織化マップ等の公知の手法を用いることができる。また、クラスタの代表値としては、重心位置の他にも、平均値、最頻値、最小値等を用いても良い。また、
図6には粘膜分布に相当するクラスタとして、クラスタC10のみが示されているが、粘膜分布に相当するクラスタが複数生成される場合もあり得る。
【0045】
或いは、候補判定部124は、各色特徴量c
nを候補判定閾値Th0と比較することにより、色特徴量c
nごとに粘膜分布と残渣候補分布とのうちのいずれに含まれるかの判定を行っても良い。
この後、画像処理装置1の動作はメインルーチンに戻る。
【0046】
ステップS13に続くステップS14において、残渣分布判定部130は、残渣候補分布判定部120から粘膜分布及び残渣候補分布にそれぞれ属する色特徴量c
nの情報を受取り、残渣分布を判別する。具体的には、粘膜分布を基準として黄みの強い側に分布する残渣候補分布を残渣分布と判定する。
図7は、残渣分布判定部130の詳細な動作を示すフローチャートである。
【0047】
ステップS141において、判定軸設定部131は、残渣候補分布が残渣分布に相当するか否かを判定する際に用いられる判定軸として、B/G値に対応する軸(B/G軸)を設定する。B/G値は、黄みが強いほど値が小さくなる。
【0048】
ステップS142において、第2ヒストグラム作成部132は、判定軸に対して、残渣候補分布に属する色特徴量c
nの頻度分布を表すヒストグラムを作成し、さらに、作成したヒストグラムに対し、頻度が所定値以下となる分布をノイズとして除外する。或いは、ヒストグラムの和(積分値)が1となるように当該ヒストグラムを正規化した後、所定の割合以下となる分布をノイズとして除外しても良い。例えば、
図8に示す分布D20は、残渣候補分布と判定されたクラスタC21、C22に含まれる色特徴量c
nの分布を表す。なお、上述したノイズの除外処理は必須ではなく、省略しても良い。
【0049】
ステップS143において、第2判定閾値設定部133は、残渣候補分布が残渣分布に相当するか否かを判定するための判定閾値を設定する。
図9は、第2判定閾値設定部133の詳細な動作を示すフローチャートである。以下、
図8及び
図10〜
図13に具体例を示しつつ説明する。なお、以下の説明においては、各分布の代表値として重心位置を用いるが、代表値としては、この他にも、平均値、最頻値等を用いても良い。
【0050】
まず、ステップs1において、第2判定閾値設定部133は、粘膜分布(クラスタC10)の重心位置g10を判定軸(B/G軸)上に射影した重心位置k
G10を取得する。
【0051】
続くステップs2において、第2判定閾値設定部133は、ステップS142において作成したヒストグラム(分布D20)の幅Wが所定値以上であるか否かを判定する。
【0052】
幅Wが所定値以上である場合(ステップs2:Yes)、第2判定閾値設定部133は、分布D20を2つの正規分布に近似する(ステップs3)。2つの正規分布への近似法としては、例えば、期待値最大化アルゴリズム(EMアルゴリズム)を用いることができる。それにより、
図10に示すように、分布D20の境界位置k
BORDERと、2つの正規分布D21及びD22とが得られる。
【0053】
続くステップs4において、第2判定閾値設定部133は、2つの正規分布D21、D22それぞれの重心位置k
G21、k
G22を取得する。
【0054】
ステップs5において、第2判定閾値設定部133は、粘膜分布の重心位置k
G10が2つの正規分布D21、D22の重心位置k
G21、k
G22の間にあるか否かを判定する。
【0055】
図10に示すように、粘膜分布の重心位置k
G10が2つの正規分布D21、D22の重心位置k
G21、k
G22の間にある場合(ステップs5:Yes)、第2判定閾値設定部133は、境界位置k
BORDERを判定閾値に設定する(ステップs6)。
【0056】
一方、粘膜分布の重心位置k
G10が2つの正規分布D21、D22の重心位置k
G21、k
G22の間にない場合(ステップs5:No)、続いて、第2判定閾値設定部133は、粘膜分布の重心位置k
G10が2つの正規分布D21、D22の重心位置k
G21、k
G22よりも黄みの強い側(B/G値が小さい側)にあるか否かを判定する(ステップs7)。
【0057】
図11に示すように、粘膜分布の重心位置k
G10が重心位置k
G21、k
G22よりも黄みの強い側(B/G値が小さい側)にある場合(ステップs7:Yes)、第2判定閾値設定部133は、2つの正規分布D21、D22の分布範囲の最小値k
Minを取得し、該最小値k
Minを判定閾値に設定する(ステップs8)。
【0058】
一方、
図12に示すように、正規分布D21、D22の重心位置k
G21、k
G22の方が粘膜分布の重心位置k
G10よりも黄みの強い側(B/G値が小さい側)にある場合(ステップs7:No)、第2判定閾値設定部133は、2つの正規分布D21、D22の分布範囲の最大値k
Maxを取得し、該最大値k
Maxを判定閾値に設定する(ステップs9)。
【0059】
また、ステップs2において、
図13に示すようにヒストグラム(分布D20)の幅Wが所定値よりも小さいと判定された場合(ステップs2:No)、第2判定閾値設定部133は、ヒストグラムを1つの正規分布D30に近似する(ステップs10)。なお、特徴量空間内に示す分布C30は、正規分布D30に対応する色特徴量c
nの分布である。
【0060】
ステップs11において、第2判定閾値設定部133は、正規分布D30の分布範囲の最大値k
MAX、最小値k
MIN、及び重心位置k
30を取得する。なお、この際、第2判定閾値設定部133は、正規分布D30ではなく、元のヒストグラム(
図13に示す分布D20)から直接、分布範囲の最大値k
MAX、最小値k
MIN、及び重心位置k
30を取得しても良い。この場合、ステップs10は省略しても良い。
【0061】
ステップs12において、第2判定閾値設定部133は、粘膜分布の重心位置k
G10が正規分布D30の重心位置k
G30よりも黄みの強い側にあるか否かを判定する。
【0062】
粘膜分布の重心位置k
G10が正規分布D30の重心位置k
G30よりも黄みの強い側(B/G値が小さい側)にある場合(ステップs12:Yes)、第2判定閾値設定部133は、正規分布D30の分布範囲の最小値k
Minを判定閾値に設定する(ステップs13)。
【0063】
一方、
図13に示すように、粘膜分布の重心位置k
G10が正規分布D30の重心位置k
G30よりも黄みの弱い側(B/G値が大きい側)にある場合(ステップs12:No、
図13に示す場合)、第2判定閾値設定部133は、正規分布D30の分布範囲の最大値k
Maxを判定閾値に設定する(ステップs14)。
その後、残渣分布判定部130の動作は
図7に示すサブルーチンに戻る。
【0064】
ステップS143に続くステップS144において、判定部134は、判定閾値をもとに、残渣候補分布が残渣分布に相当するか否かを判定する。より詳細には、判定部134は、残渣候補である各分布の代表値(例えば、重心位置)を判定閾値と比較し、代表値が判定閾値よりも黄みの強い側にある分布は残渣分布であると判定し、代表値が判定閾値よりも黄みの弱い側にある分布は残渣分布ではないと判定する。例えば、
図10の場合、判定閾値として設定された境界位置k
BORDERよりも重心位置k
G21における黄みが強い(B/G値が小さい)クラスタC21は残渣分布であると判定され、境界位置k
BORDERよりも重心位置k
G22における黄みが弱い(B/G値が大きい)クラスタC22は残渣分布ではないと判定される。このようにして残渣分布と判定された色特徴量を有する画素が、残渣領域の画素であると判定される。
【0065】
なお、判定部134は、残渣候補分布に含まれる各色特徴量c
nを判定閾値と比較することにより、色特徴量c
nごとに残渣分布に含まれるか否かの判定を行っても良い。
この後、画像処理装置1の動作はメインルーチンに戻る。
【0066】
ステップS14に続くステップS15において、演算部100は、ステップS14における判定結果を出力する。これに応じて、制御部10は、この判定結果を記録部50に記録させると共に、表示部40に表示させる。
【0067】
以上説明したように、実施の形態1においては、赤みの強さが変化する色特徴量を表す候補判定軸において、粘膜分布と残渣候補分布とを判別し、次に、黄みの強さが変化する色特徴量を表す判定軸において、残渣候補分布と粘膜分布との相対的な関係に応じて残渣分布を判別する。即ち、実施の形態1によれば、学習によって予め設定された閾値ではなく、処理対象の管腔内画像内の色特徴量の相対的な関係に基づいて適応的に設定された閾値を用いて、残渣分布を判別するので、残渣領域を従来よりも高精度で検出することが可能となる。
【0068】
特に、残渣領域は、管腔内画像間における色特徴量の分布の変動が大きいので、処理対象の管腔内画像ごとに判定閾値を適応的に設定することにより、各管腔内画像における残渣領域の検出精度を向上させることができる。
【0069】
(変形例1−1)
次に、変形例1−1について説明する。
上述した実施の形態において、色特徴量算出部110は、管腔内画像内の各画素の色特徴量を算出して、色特徴量の分布を作成した。しかしながら、色特徴量算出部110は、管腔内画像を複数の小領域に分割し、小領域単位で色特徴量を算出しても良い。管腔内画像を分割する小領域は、予め設定されたサイズの矩形領域であっても良い。或いは、管腔内画像の画素値(R値若しくはG値)又は画素値から算出される輝度値Yに対して分水嶺処理(参考:Luc Vincent and Pierre Soille,“Watersheds in Digital Spaces: An Efficient Algorithm Based on Immersion Simulations”,IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol.13,No.6, pp.583−598,June 1991)等を施すことにより、管腔内画像を複数の小領域に分割しても良い。小領域単位の色特徴量としては、例えば各小領域に含まれる画素の色特徴量の平均値が用いられる。
【0070】
この場合、残渣候補分布判定部120及び残渣分布判定部130は、小領域単位で算出された色特徴量の分布に基づいて、上述した処理を行う。
変形例1−1によれば、色特徴量を小領域単位で算出することによりノイズの影響を抑制することができるので、不要領域の判定精度を向上させることが可能となる。
【0071】
(変形例1−2)
次に、変形例1−2について説明する。
候補判定軸設定部121は、粘膜領域と残渣候補領域とを判別する際に用いられる候補判定軸を、複数の管腔内画像間における粘膜分布の変動が小さい色特徴量に対応して設定しても良い。それにより、粘膜領域の検出誤差を低減できるからである。この場合、候補判定軸設定部121は、予め複数の管腔内画像から取得した粘膜領域内の色特徴量をプロットした色特徴量空間において、例えば、1次関数による最小二乗法、回帰法、固有値法等を実行することにより、分散が最小となる方向を検出して、該方向に対応する色特徴量を候補判定軸として設定する。
【0072】
(変形例1−3)
次に、変形例1−3について説明する。
判定軸設定部131は、残渣候補分布が残渣分布に相当するか否かを判定する際に用いられる判定軸を、管腔内画像間において残渣候補領域の変動幅が大きい色特徴量に対応して設定しても良い。これは、残渣候補分布には、白色病変領域に対応する分布やハレーション領域に対応する分布のように、残渣分布以外の複数の分布が含まれるため、これらの分布を明確に分離できるようにするためである。この場合、判定軸設定部131は、予め複数の管腔内画像から取得した残渣領域内の色特徴量をプロットした色特徴量空間において、分散が最大となる方向を検出して、該方向に対応する色特徴量に関する座標軸を判定軸として設定する。
【0073】
図14は、残渣候補分布において分散の大きい色特徴量に対応して設定された判定軸を、処理対象の管腔内画像内の画素の色特徴量がプロットされた色特徴量空間に重ねて表示した例を示している。
図14に示すように、設定された判定軸が色特徴量空間の軸と平行にならない場合(即ち、判定軸に対応する色特徴量が、G/R値、B/R値のいずれとも異なる場合)には、処理対象の管腔内画像の色特徴量を、G/R値及びB/G値を成分とする色特徴量空間に一旦プロットした上で、設定した判定軸に対して色特徴量の頻度分布を累積すると良い。
【0074】
或いは、別の変形例として、簡易的には、色特徴量空間において候補判定軸と直交する軸に対応する色特徴量を表す判定軸を設定しても良い。
【0075】
(変形例1−4)
次に、変形例1−4について説明する。
第1判定閾値設定部123は、粘膜領域と残渣候補領域とを判別する際に用いられる候補判定閾値を、予め複数の管腔内画像から取得した色特徴量の分布に基づいて設定しても良い。そのために、まず、第1判定閾値設定部123は、各管腔内画像に対し、粘膜領域内の画素の色特徴量(例えば、G/R値)の頻度分布を作成し、分水嶺処理により頻度分布を山毎に分割する。そして、山毎に分割した各分布の重心位置を算出する。続いて、第1判定閾値設定部123は、複数の管腔内画像から取得した重心位置の頻度分布を作成する。この重心位置の頻度分布において、頻度が最大となる色特徴量から赤みの弱い側(例えばG/R値が大きい側)を見たときに、頻度が最初に最小又は極小となるときの候補判定軸の値を候補判定閾値とする。
【0076】
(変形例1−5)
次に、変形例1−5について説明する。
候補判定部124は、処理対象の管腔内画像の色特徴量をクラスタリングしたクラスタごとに、残渣候補分布に相当するか否かを判定しても良い。なお、クラスタリングの手法としては、上述したように、分水嶺処理、階層法、k-means法、EMアルゴリズム、自己組織化マップ等の公知の手法を用いることができる。
【0077】
この場合、候補判定部124は、例えば
図15に示すように、色特徴量空間における色特徴量の分布をクラスタリングして得られた各クラスタC41〜C43の重心位置g41(x
41、y
41)、g42(x
42、y
42)、g43(x
43、y
43)を取得する。なお、値x
41、x
42、x
43は、重心位置g41、g42、g43の候補判定軸(G/R軸)における重心成分であり、値y
41、y
42、y
43は、重心位置g41、g42、g43の判定軸(B/G軸)における重心成分である。
【0078】
候補判定部124は、重心成分x
41、x
42、x
43と候補判定閾値Th0とを比較し、候補判定閾値Th0よりも重心位置が赤みの強い側(G/R値が小さい側)にあるクラスタC41を粘膜分布と判定し、候補判定閾値Th0よりも赤みの弱い側(G/R値が大きい側)に重心位置があるクラスタC42、C43を残渣候補分布と判定する。
【0079】
また、判定部134は、残渣候補分布に対し、クラスタごとに残渣分布に相当するか否かを判定しても良い。この場合、判定部134は、例えば
図15に示すように、残渣候補分布として判定されたクラスタC42、C43の重心成分y
42、y
43を、粘膜分布として判定されたクラスタC41の重心成分y
41と比較し、重心位置が粘膜分布のクラスタC41の重心位置よりも黄みの強い側(B/G値が小さい側)にあるクラスタC42を残渣分布と判定し、重心位置が粘膜分布のクラスタC41の重心位置よりも黄みの弱い側(B/G値が大きい側)にあるクラスタC43を残渣分布ではないと判定する。
【0080】
或いは、判定部134は、実施の形態において説明した方法により残渣候補分布が残渣分布に相当するか否かを判定する際に用いられる判定閾値が取得されている場合には、クラスタC42、C43の重心成分y
42、y
43をこの判定閾値と比較することにより判定を行っても良い。
【0081】
(変形例1−6)
次に、変形例1−6について説明する。
第1判定閾値設定部123は、第2判定閾値設定部133と同様に、ヒストグラムの双
峰性の形状を評価し、この評価結果をもとにヒストグラムの境界位置を算出して、この境界位置を判定閾値に設定しても良い。
【0082】
即ち、第1判定閾値設定部123は、候補判定軸に対して作成された特徴量のヒストグラムが所定値以上の幅を有する場合、EMアルゴリズム等の手法により、このヒストグラムに2つの正規分布に近似する。続いて、第1判定閾値設定部123は、候補判定軸において、各正規分布の代表値(例えば重心位置)をもとに、例えば教師データから取得された粘膜ヒストグラムの重心位置と比較して、各正規分布が粘膜分布と残渣候補分布とのいずれに対応するかを判定する。ここで、2つの正規分布が共に粘膜分布に対応すると判定された場合、第1判定閾値設定部123は、2つの正規分布の範囲の最大値を判定閾値に設定する。また、2つの正規分布が共に残渣候補分布に対応すると判定された場合、第1判定閾値設定部123は、2つの正規分布の範囲の最小値を判定閾値に設定する。さらに、2つの正規分布の内の一方が粘膜分布で、他方が残渣候補分布に対応すると判定された場合、第1判定閾値設定部123は、2つの正規分布の境界位置を判定閾値に設定する。
【0083】
また、ヒストグラムの幅が所定値以下の場合、第1判定閾値設定部123は、ヒストグラムを1つの正規分布に近似する。続いて、第1判定閾値設定部123は、候補判定軸における正規分布の代表値(例えば重心位置)をもとに、例えば教師データから取得された粘膜ヒストグラムの重心位置と比較して、その正規分布が粘膜分布と残渣候補分布との内のいずれに対応するかを判定する。そして、正規分布が粘膜分布に対応すると判定された場合、第1判定閾値設定部123は、正規分布の範囲の最大値を判定閾値に設定する。一方、正規分
布が残渣候補分布に対応すると判定された場合、第1判定閾値設定部123は、正規分布の範囲の最小値を判定閾値に設定する。
【0084】
(変形例1−7)
次に、変形例1−7について説明する。
変形例1−7においては、
図1に示す第1判定閾値設定部123の代わりに、
図16に示すように、合成ヒストグラム作成部125aを含む第1判定閾値設定部125を適用しても良い。
【0085】
ここで、例えば
図17の画像M2として例示するように、管腔内画像の大部分に判定対象の一方の領域(例えば粘膜領域m4)が写っており、判定対象の他方の領域(例えば残渣領域m5)が僅かしか写っていない場合、管腔内画像全体の画素の色特徴量を用いて1つのヒストグラムを作成すると、僅かな領域に対応する頻度がノイズに埋もれてしまい、両領域に対応する粘度分布及び残渣分布を適切に判別できなくなるおそれがある。
【0086】
このような場合、合成ヒストグラム作成部125aは、まず、管腔内画像を所定のサイズの複数の矩形領域に分割し、矩形領域毎に、画素の色特徴量の頻度分布を表すヒストグラムを候補判定軸に対して作成する。例えば、
図17の場合、1つの画像M2が16個の矩形領域A
01〜A
16に分割され、各矩形領域A
01〜A
16に対して、
図18に示す16個のヒストグラムa
01〜a
16が作成される。続いて、合成ヒストグラム作成部125aは、これらのヒストグラムを合成した合成ヒストグラムを作成する。
図18に示すように、合成ヒストグラムD40は、各色特徴量において、ヒストグラムa
01〜a
16間の頻度の最大値を抽出して合成したものである。或いは、最大値の代わりに最頻値を抽出して合成ヒストグラムを作成しても良い。
【0087】
この変形例1−7によれば、粘膜領域又は残渣領域のいずれかが極端に小さい場合においても、候補判定軸に対して作成される合成ヒストグラムには、各矩形領域内における粘膜領域と残渣領域との割合に応じた分布の特徴が現れる。従って、適切な判定閾値を設定して粘膜領域と残渣候補領域とを判別することが可能となる。
【0088】
(実施の形態2)
次に、本発明の実施の形態2について説明する。
図19は、本発明の実施の形態2に係る画像処理装置の構成を示すブロック図である。
図19に示すように、実施の形態2に係る画像処理装置2は、
図1に示す演算部100の代わりに、演算部200を備える。なお、演算部200以外の各部の構成及び動作については、実施の形態1と同様である。
【0089】
演算部200は、管腔内画像内の各画素又は小領域ごとの色特徴量を算出して分布を作成する色特徴量算出部210と、管腔内画像から残渣領域の判別に不要な領域を除外する不要領域除外部220と、管腔内画像内の色特徴量の赤みの度合いに基づき、残渣候補を表す色特徴量を判定する残渣候補分布判定部230と、残渣候補として判定された色特徴量の黄みの度合いに基づき、残渣を表す色特徴量を判定する残渣分布判定部240とを備える。このうち、色特徴量算出部210の動作は、
図1に示す色特徴量算出部110と同様である。
【0090】
不要領域除外部220は、暗部領域判定部221と、泡領域判定部222と、赤色病変領域判定部223とを備え、これらの各部により泡領域、暗部領域、及び赤色病変領域としてそれぞれ判定された領域を不要領域として除外する。なお、暗部領域判定部221、泡領域判定部222、及び赤色病変領域判定部223の動作は、
図1に示す暗部領域判定部122a−1、泡領域判定部122a−2、及び赤色病変領域判定部122a−3とそれぞれ同様である。
【0091】
残渣候補分布判定部230は、分布モデル当てはめ部231と、分布モデル判定部232と、候補閾値設定部233と、候補判定部234とを備え、相対的に赤みが弱い側に分布する色特徴量を残渣候補分布として判定する。このうち、分布モデル当てはめ部231は、赤みの度合いを判定するための候補判定軸(第1の判定軸)において、管腔内画像内の色特徴量の分布に対して1つ以上の分布モデルを当てはめる。分布モデル判定部232は、1つ以上の分布モデルを予め設定されている所定の閾値(固定値)と比較することにより、該1つ以上の分布モデルの赤みの度合いに基づいて、各分布モデルが残渣候補であるか否か判定する。候補閾値設定部233は、分布モデル判定部232による判定結果をもとに、残渣候補を表す色特徴量を判定するための候補閾値を設定する。候補判定部234は、設定された候補閾値をもとに、残渣候補を表す色特徴量を判定する。
【0092】
分布モデル判定部232は、候補判定軸における上記1つ以上の分布モデルの代表値を算出する代表値算出部232aと、該代表値に対応して候補判定軸に予め設定された閾値をもとに、赤みの弱い分布モデルを残渣候補分布として判定する閾値処理部232bとを備える。
【0093】
また、候補閾値設定部233は、分布モデル判定部232による判定の結果、複数の分布モデルに対して互いに異なる結果となる判定がなされた場合に、候補判定軸における複数の分布モデルの間の値を候補閾値として設定する分布モデル間候補閾値設定部233aと、複数の分布モデルに対して互いに同一の結果となる判定がなされた場合、又は色特徴量に対して1つしか分布モデルの当てはめが行われなかった場合に、候補判定軸における1つ又は複数の分布モデルの外側の値を候補閾値として設定する分布モデル間外候補閾値設定部233bとを備える。
【0094】
残渣分布判定部240は、分布モデル当てはめ部241と、分布モデル判定部242と、閾値設定部243と、判定部244とを備え、残渣候補と判定された色特徴量のうち、相対的に黄みが強い側に分布する色特徴量を残渣分布として判定する。このうち、分布モデル当てはめ部241は、黄みの度合いを判定するための色特徴量の判定軸(第2の判定軸)において、残渣候補と判定された色特徴量の分布に対して1つ以上の分布モデルを当てはめる。分布モデル判定部242は、1つ以上の分布モデルを予め設定されている所定の閾値(固定値)と比較することにより、該1つ以上の分布モデルの黄みの度合いに基づいて、各分布モデルが残渣であるか否かを判定する。閾値設定部243は、分布モデル判定部242による判定結果をもとに、残渣を表す色特徴量を判定するための閾値を設定する。判定部244は、閾値設定部243により設定された閾値をもとに、残渣を表す色特徴量を判定する。
【0095】
分布モデル判定部242は、判定軸における上記1つ以上の分布モデル代表値を算出する代表値算出部242aと、該代表値に対応して判定軸に予め設定された閾値をもとに、黄みの強い分布モデルを残渣分布として判定する閾値処理部242bとを備える。
【0096】
図20は、
図19に示す分布モデル間外候補閾値設定部233bの詳細な構成を示すブロック図である。
図20に示すように、分布モデル間外候補閾値設定部233bは、候補判定軸における分布モデルの代表値を候補閾値として設定する代表値候補閾値設定部233b−1を備える。
【0097】
図21は、
図19に示す分布モデル間外閾値設定部243bの詳細な構成を示すブロック図である。
図21に示すように、分布モデル間外閾値設定部243bは、判定軸における分布モデルの代表値を閾値として設定する代表値閾値設定部243b−1を備える。
【0098】
次に、画像処理装置2の動作について説明する。
図22は、画像処理装置2の動作を示すフローチャートである。なお、
図22に示すステップS21及びS26は、
図2に示すステップS11及びS15にそれぞれ対応している。
【0099】
ステップS21に続くステップS22において、色特徴量算出部210は、管腔内画像内の各画素の画素値(R成分、G成分、B成分)から色特徴量を算出する。実施の形態2においては、赤みを示す色特徴量として、G成分とR成分のと比であるG/R値を算出し、黄みを示す色特徴量として、B成分とG成分のと比であるB/G値を算出する。なお、実施の形態2においても、変形例1−1と同様に、各画素の色特徴量を取得する代わりに、管腔内画像を複数の小領域に分割した小領域単位で色特徴量を算出しても良い。
【0100】
続くステップS23において、不要領域除外部220は、管腔内画像から残渣領域の判定に不要な領域を除外する。
図23は、不要領域除外部220の動作を示すフローチャートである。
【0101】
まず、ステップS231において、暗部領域判定部221は、輝度値が所定の閾値よりも低い領域(画素又は小領域)を暗部領域として判定する。例えば、管腔内画像の赤色成分の強さが所定の閾値以下の領域が暗部領域として判定される。暗部領域判定部221は、暗部領域を検出すると、当該領域に暗部領域を示すフラグ(1:暗部領域)を付加する。ここで、赤色成分に基づいて判定を行うのは、管腔内において赤色成分はもっとも吸収されにくく、被検体(粘膜)表面においてほとんど反射されるため、粘膜の構造情報をよく表すためである。
【0102】
続くステップS232において、泡領域判定部222は、輝度値の周波数成分が高く、且つ彩度が低い領域(画素又は小領域)を泡領域として判定する。泡領域判定部222は、泡領域を検出すると、当該領域に泡領域を示すフラグ(2:泡領域)を付加する。ここで、周波数成分は、管腔内画像にDCT変換(離散コサイン変換)を施した後に得られる係数や、原画像と平均画像との差分値等を算出することにより求めることができる。また、彩度は、G/B値及びB/G値が共に所定の範囲に分布しているか否かの判定、若しくは、輝度値及び赤色成分に対する閾値処理により判断することができる。
【0103】
続くステップS233において、赤色病変領域判定部223は、G/R値及びB/G値を成分とする色特徴量空間において、色特徴量の分布をクラスタリングし、主要なクラスタ(頻度が多いクラスタ、例えば最大クラスタ)に対して相対的に赤色の方向に外れたクラスタを赤色病変領域として判定する。クラスタリングは、色特徴量空間における色特徴量の頻度分布を、該頻度分布の山ごとに分水嶺等の処理を施すことによりことにより行う。赤色病変領域判定部223は、主要なクラスタから外れたクラスタの絶対位置及び主要なクラスタに対する相対位置が赤色方向にある場合、そのクラスタに対応する管腔内画像の領域に赤色病変領域を示すフラグ(3:赤色病変領域)を付加する。
【0104】
なお、ステップS231〜S233においてフラグ1〜3のいずれも附されていない領域には、その他のフラグ(0:その他)が付加される。ステップS234において、不要領域除外部220は、管腔内画像内の画素又は小領域のうち、フラグ1〜3が付加された画素又は小領域を不要領域として除外する。その後、演算部200の動作はメインルーチンに戻る。
【0105】
ステップS23に続くステップS24において、残渣候補分布判定部230は、色特徴量のうち、赤みの弱い色特徴量を残渣候補として判定する。
図24は、残渣候補分布判定部230の動作を示すフローチャートである。
【0106】
まず、ステップS241において、分布モデル当てはめ部231は、赤みの度合いを判定する候補判定軸において、色特徴量の分布に対して所定の分布モデルを当てはめることにより、1つ以上の分布モデルを作成する。実施の形態2においては、候補判定軸として、0に近づくほど赤みが強くなるG/R値を設定する。また、実施の形態2においては、色特徴量の分布に対して1つ又は2つの正規分布を当てはめることとする。
【0107】
ここで、正規分布f
k(i)は、次式(1)によって与えられる。
【数1】
式(1)において、色特徴量の分布に対して当てはめられるk番目の正規分布を表し、実施の形態2において、k=1又は2である。また、符号iは色特徴量G/R値を示す。
【0108】
この正規分布f
k(i)は、色特徴量をもとに、パラメータである平均μ
k、分散σ
k2、混合比率ω
kを更新して最適解を求めるEMアルゴリズムの手法により求めることができる(参考:J. A. Bilmes, “A Gentle Tutorial of the EM Algorithm and its Application to Parameter Estimation for Gaussian Mixture and Hidden Markov Models,” Technical Report TR-97-021, International Computer Science Institute and Computer Science Division, University of California at Berkeley, April 1998)。
【0109】
以下、
図25〜
図28Bを参照しながらEMアルゴリズムの概要を説明する。
EMアルゴリズムとは、あるデータ軸(例えば、候補判定軸)に対する有限個数のデータ(例えば、色特徴量G/R値)に対し、以下に説明するEステップ(expectation)及びMステップ(maximization)を繰り返し、繰り返し回数又は対数尤度が最大値付近となったときに処理を終了するアルゴリズムである。
【0110】
<Eステップ>
(i)ステップ1
例えば
図25に示すように、あるデータ軸におけるN(Nは自然数)個のデータX={x
i}(i=1、2、…、N)の密度関数Fに対し、データXが分布A、Bのいずれに属するかを示す確率モデルを、2つの正規分布で定義する(
図26参照)。ここで、2つの正規分布の各種パラメータを、以下のように定義する。
平均:μ
A、μ
B
分散:σ
A2、σ
B2
分布Aと分布Bの混合比率(事前確率):ω
A、ω
B
【0111】
データXが分布A、Bに属する確率モデル(確率密度)ω
AP(X|A)、ω
BP(X|B)は、それぞれ、次式(2)、(3)によって与えられる。
【数2】
【0112】
なお、
図26は、式(2)、(3)における各パラメータの初期値を以下のように設定した場合を示している。
平均μ
A:密度関数Fの最小値
平均μ
B:密度関数Fの最大値
分散σ
A2:1.0
分散σ
B2:1.0
混合比率ω
A:0.5
混合比率ω
B:0.5(=1−ω
A)
【0113】
(ii)ステップ2
式(2)、(3)に示す確率密度から、G/R軸におけるあるデータの位置が、分布A、Bのいずれに属しているかを示す事後確率P(A|X)、P(B|X)を、式(4)及び(5)を用いて算出する(
図27参照)。
【数3】
ここで、データXは、分布A、Bのいずれかに属するため、次式のとおり、確率の和は1となる。
P(A|X)+P(B|X)=1
【0114】
(iii)ステップ3
次式(6)に示す尤度Q(X|ω,μ,σ
2)を用い、密度関数Fに対して確率モデルが当てはめられているか否かを評価する。ここで、評価には、対数尤度が用いられる。対数尤度は尤もらしい状態において最大値を取る。
【数4】
【0115】
<Mステップ>
(iv)ステップ4
確率モデルのパラメータを更新する。平均μ
A、μ
Bの更新は、式(7)、(8)により、分散σ
A2、σ
B2の更新は式(9)、(10)により、混合比率ω
A、ω
Bの更新は(11)、(12)によりそれぞれ行われる。
【数5】
【数6】
【数7】
ここで、式(7)〜(12)に示す符号(0)は、各パラメータが初期値であることを示し、符号(1)は各パラメータが1回目の更新後の値であることを示す。この符号(j)(j=0、1、2、…)は、更新回数に応じてインクリメントされる。
【0116】
例えば、
図28Aに示すように、分布Aの初期パラメータである平均μ
A(0)、分散σ
A(0)2、混合比率ω
A(0)を1回更新すると、
図28Bに示すように、更新パラメータである平均μ
A(1)、分散σ
A(1)2、混合比率ω
A(1)が得られる。分布Bに関しても同様である。
このようなEステップ及びMステップを繰り返すことにより、分布A、Bの最適なパラメータを求めることができる。
【0117】
ステップS241に続くステップS242において(
図24参照)、分布モデル判定部232の代表値算出部232aは、分布モデル当てはめ部231が作成した1つ以上の分布モデルの候補判定軸における代表値を算出する。具体的には、
図29に示すように、代表値として、分布モデルの分布範囲の最大値g
max及び最小値g
minを算出する。
【0118】
より詳細には、代表値算出部232aは、まず、
図30に示すように、各正規分布f
kのパラメータである平均μ
k及び分散σ
k2を取得する。そして、平均μ
kから±2σ
kだけ離れた色特徴量の値を、当該正規分布f
kの分布範囲の最大値g
max(fk)(=μ
k+2σ
k)及び最小値g
min(fk)(=μ
k−2σ
k)とする。
【0119】
続いて、代表値算出部232aは、1つ以上の正規分布f
kの最大値g
max(fk)の間における最大値max(g
max(fk))を取得する。例えば
図31に示す正規分布f
1、f
2が得られた場合、正規分布f
2の最大値g
max(f2)が最大値max(g
max(fk))として取得される。
【0120】
続いて、代表値算出部232aは、色特徴量の分布範囲の最大値g
max(F)を取得し、正規分布f
kの最大値max(g
max(fk))と比較して小さい方の値を、分布モデルの分布範囲の最大値g
maxとして設定する。例えば
図31の場合、正規分布f
2の最大値g
max(f2)が実際の密度関数Fの最大値g
max(F)を超えて大きくなっているので、密度関数Fの最大値g
max(F)が分布モデルの分布範囲の最大値g
maxとして設定される(g
max=g
max(F))。一方、
図32の場合、正規分布f
2の最大値g
max(f2)の方が密度関数Fの最大値g
max(F)よりも小さいため、正規分布f
2の最大値g
max(f2)が分布モデルの分布範囲の最大値g
maxとして設定される(g
max=g
max(f2))。
【0121】
また、代表値算出部232aは、1つ以上の正規分布f
kの最小値g
min(fk)の間における最小値min(g
min(fk))を取得する。例えば
図33の場合、正規分布f
1、f
2の間においては、正規分布f
1の最小値g
min(f1)が最小値min(g
min(fk))として取得される。
【0122】
続いて、代表値算出部232aは、色特徴量の分布範囲の最小値g
min(F)を取得し、正規分布f
kの最小値min(g
min(fk))と比較して大きい方の値を、分布モデルの分布範囲の最小値g
minとして設定する。例えば
図33の場合、正規分布f
1の最小値g
min(f1)が実際の密度関数Fの最小値g
min(F)を超えて小さくなっているので、密度関数Fの最小値g
min(F)が分布モデルの分布範囲の最小値g
minとして設定される(g
min=g
min(F))。一方、
図34の場合、正規分布f
1の最小値g
min(f1)の方が密度関数Fの最小値g
min(F)よりも大きいため、正規分布f
1の最小値g
min(f1)が分布モデルの分布範囲の最小値g
minとして設定される(g
min=g
min(f1))。
【0123】
なお、ステップS241において色特徴量の分布に当てはめられた正規分布が1つである場合、当該正規分布の最大値μ+2σ及び最小値μ−2σが、それぞれ、色特徴量の分布範囲の最大値g
max(F)及び最
小値g
min(F)と比較され、当該比較の結果に基づいて分布モデルの分布範囲の最大値g
max、最小値g
minが設定される。
【0124】
続くステップS243において、閾値処理部232bは、候補判定軸において予め設定された閾値をもとに、赤みの弱い分布モデルを残渣候補分布として判定する。ここで、候補判定軸においては、粘膜の有無を判定するための粘膜閾値Th(M)と、残渣候補の有無を判定するための残渣候補閾値Th(R)(Th(R)>Th(M))とが予め設定されている。
【0125】
ここで、
図35及び
図36は、ステップS241において作成された1つ以上の分布モデルに基づいて色特徴量をクラスタリングすることにより作成されたクラスタを示している。なお、クラスタリングは、例えば、色特徴量空間において管腔内画像の色特徴量の頻度分布を作成し、該頻度分布に対して分水嶺等の処理を施すことにより行うことができる。
【0126】
このうち、
図35は、色特徴量の分布に2つの分布モデルを当てはめた場合に対応する2つのクラスタC(1)、C(2)を示し、色特徴量(G/R)が小さい方のクラスタをクラスタC(1)とし、色特徴量が大きい方のクラスタをクラスタC(2)としている。一方、
図36は、色特徴量の分布に2つの分布モデルを当てはめた際に、一方の分布の内部に他方の分布が内包された場合に対応するクラスタC(3)を示している。以下においては、分布モデルの一例として、これらのクラスタC(1)〜C(3)が残渣候補分布(残渣候補クラスタ)であるか否かを判定する方法を説明する。
【0127】
図35(a)に示すように、分布モデルの分布範囲の最大値(即ち、クラスタ内の色特徴量の最大値、以下、クラスタの最大値という)g
maxが残渣候補閾値Th(R)よりも小さく(g
max<Th(R))、且つ、分布モデルの分布範囲の最小値(即ち、クラスタ内の色特徴量の最小値、以下、クラスタの最小値という)g
minが粘膜閾値Th(M)以下である場合(g
min≦Th(M))、閾値処理部232bは、クラスタC(1)、C(2)を共に粘膜分布と判定する。
【0128】
図35(b)に示すように、クラスタの最大値g
maxが残渣候補閾値Th(R)以上であり(g
max≧Th(R))、且つ、クラスタの最小値g
minが粘膜閾値Th(M)以下である場合(g
min≦Th(M))、閾値処理部232bは、クラスタC(1)を粘膜分布、クラスタC(2)を残渣候補分布と判定する。
【0129】
図35(c)に示すように、クラスタの最大値g
maxが残渣候補閾値Th(R)よりも小さく(g
max<Th(R))、且つ、クラスタの最小値g
minが粘膜閾値Th(M)よりも大きい場合(g
min>Th(M))、閾値処理部232bは、クラスタC(1)、C(2)を共に残渣候補分布と判定する。
【0130】
図35(d)に示すように、クラスタの最大値g
maxが残渣候補閾値Th(R)以上であり(g
max≧Th(R))、且つ、クラスタの最小値g
minが粘膜閾値Th(M)よりも大きい場合(g
min>Th(M))、閾値処理部232bは、クラスタC(1)、C(2)を共に残渣候補分布と判定する。
【0131】
また、
図36(a)に示すように、クラスタの最大値g
maxが残渣候補閾値Th(R)よりも小さく(g
max<Th(R))、且つ、クラスタの最小値g
minが粘膜閾値Th(M)以下である場合(g
min≦Th(M))、閾値処理部232bは、クラスタC(3)を粘膜分布と判定する。
【0132】
図36(b)に示すように、クラスタの最大値g
maxが残渣候補閾値Th(R)以上であり(g
max≧Th(R))、且つ、クラスタの最小値g
minが粘膜閾値Th(M)以下である場合(g
min≦Th(M))、閾値処理部232bは、クラスタC(3)を粘膜分布と判定する。
【0133】
図36(c)に示すように、クラスタの最大値g
maxが残渣候補閾値Th(R)よりも小さく(g
max<Th(R))、且つ、クラスタの最小値g
minが粘膜閾値Th(M)よりも大きい場合(g
min>Th(M))、閾値処理部232bは、クラスタC(3)を残渣候補分布と判定する。
【0134】
図36(d)に示すように、クラスタの最大値g
maxが残渣候補閾値Th(R)以上であり(g
max≧Th(R))、且つ、クラスタの最小値g
minが粘膜閾値Th(M)よりも大きい場合(g
min>Th(M))、閾値処理部232bは、クラスタC(3)を残渣候補分布と判定する。
【0135】
続くステップS244において、候補閾値設定部233は、ステップS243における判定結果をもとに、残渣候補を表す色特徴量を判定する候補閾値を設定する。より詳細には、複数のクラスタに対して互いに異なる判定結果が得られた場合、分布モデル間候補閾値設定部233aは、候補判定軸(G/R軸)における複数のクラスタの間の値を候補閾値として設定する。一方、複数のクラスタに対して互いに同一の判定結果が得られた場合、分布モデル間外候補閾値設定部233bは、候補判定軸におけるクラスタの外側の値を候補閾値として設定する。
【0136】
具体的には、
図35(a)に示すように、2つのクラスタC(1)、C(2)が共に粘膜分布と判定された場合、分布モデル間候補閾値設定部233aは、
図37(a)に示すように、候補判定軸の赤みが弱い側(G/R値が大きい側)におけるクラスタC(1)、C(2)の外側の値である最大値g
maxを、候補閾値Th(N)として設定する。
【0137】
また、
図35(b)に示すように、クラスタC(1)が粘膜分布、クラスタC(2)が残渣候補分布と判定された場合、分布モデル間外候補閾値設定部233bは、
図37(b)に示すように、候補判定軸におけるクラスタC(1)、C(2)の境界位置の色特徴量(即ち、正規分布f
1、f
2(
図29参照)の境界位置の値)を、候補閾値Th(N)として設定する。
【0138】
さらに、
図35(c)及び(d)に示すように、2つのクラスタC(1)、C(2)が共に残渣候補分布と判定された場合、分布モデル間外候補閾値設定部233bは、
図37(c)及び(d)に示すように、候補判定軸の赤みが強い側(G/R値が小さい側)におけるクラスタC(1)、C(2)の外側の値である最小値g
minを、候補閾値Th(N)として設定する。
【0139】
一方、候補閾値設定部233は、ステップS243において1つのクラスタに対する判定がなされた場合、以下のようにして候補閾値を設定する。
即ち、
図36(a)及び(b)に示すように、クラスタC(3)が粘膜分布と判定された場合、分布モデル間外候補閾値設定部233bは、
図38(a)及び(b)に示すように、候補判定軸の赤みが弱い側(G/R値が大きい側)の値である最大値g
maxを、候補閾値Th(N)として設定する。
【0140】
また、
図36(c)及び(d)に示すように、クラスタC(3)が残渣候補領域と判定された場合、分布モデル間外候補閾値設定部233bは、
図38(c)及び(d)に示すように、候補判定軸の赤みが強い側(G/R値が小さい側)の値である最小値g
minを、候補閾値Th(N)として設定する。
【0141】
続くステップS245において、候補判定部234は、候補閾値Th(N)をもとに、管腔内画像内の各色特徴量のうち、残渣候補を表す色特徴量を判定する。具体的には、候補判定部234は、候補判定軸において、候補閾値Th(N)よりも赤みの強い(即ち、G/R値が小さい)側に存在する色特徴量は粘膜を表すものと判定し、赤みの弱い(即ち、G/R値が大きい)側に存在する色特徴量は残渣候補を表すものと判定する。
【0142】
なお、この際、候補判定部234は、管腔内画像内の色特徴量をクラスタリングすることにより作成したクラスタごとに、上記判定を行っても良い。この場合、各クラスタの重心位置を算出し、重心位置が候補閾値Th(N)に対して赤みの強い側に存在するクラスタを粘膜分布と判定し、赤みの弱い側に存在するクラスタを残渣候補分布と判定する。その後、演算部200の動作はメインルーチンに戻る。
【0143】
ステップS24に続くステップS25(
図22参照)において、残渣分布判定部240は、残渣候補として判定された色特徴量のうち、黄みの強い色特徴量を残渣として判定する。
図39は、残渣分布判定部240の動作を示すフローチャートである。
【0144】
まず、ステップS251において、分布モデル当てはめ部241は、黄みの度合いを判定する判定軸において、残渣候補と判定された色特徴量の分布に対して所定の分布モデルを当てはめることにより、1つ以上の分布モデルを作成する。実施の形態2においては、判定軸として、0に近づくほど黄みが強くなるB/G軸を設定する。また、実施の形態2においては、残渣候補と判定された色特徴量の分布に対し、1つ又は2つの正規分布を当てはめる。なお、色特徴量の分布に対して正規分布を当てはめる処理の詳細は、ステップS241(
図24参照)と同様である。
【0145】
続くステップS252において、分布モデル判定部242の代表値算出部242aは、分布モデル当てはめ部241が作成した1つ以上の分布モデルの判定軸における代表値を算出する。より詳細には、ステップS242(
図24参照)と同様にして、残渣候補と判定された色特徴量の分布に当てはめられた分布モデルの分布範囲の最大値g
max’及び最小値g
min’を算出する。
【0146】
続くステップS253において、閾値処理部242bは、判定軸において予め設定された閾値をもとに、黄みの強い分布モデルを残渣分布として判定する。ここで、判定軸には、残渣の有無を判定するための残渣閾値Th(R’)と、ハレーション領域、褪色調病変等の白色領域の有無を判定するための白色領域閾値Th(W)(Th(W)>Th(R’))とが予め設定されている。
【0147】
ここで、
図40及び
図41は、ステップS251において作成された1つ以上の分布モデルに基づいて、残渣候補である色特徴量をクラスタリングすることにより作成されたクラスタを示している。このうち、
図40は、色特徴量の分布に2つの分布モデルを当てはめた場合に対応する2つのクラスタC(4)、C(5)を示し、色特徴量(B/G)が小さい方のクラスタをクラスタC(4)とし、色特徴量が大きい方のクラスタをクラスタC(5)としている。一方、
図41は、色特徴量の分布に2つの分布モデルを当てはめた際に、一方の分布の内部に他方の分布が内包された場合に対応するクラスタC(6)を示している。以下においては、分布モデルの一例として、これらのクラスタC(4)〜C(6)が残渣分布(残渣クラスタ)であるか否かを判定する方法を説明する。
【0148】
図40(a)に示すように、分布モデルの分布範囲の最大値(即ち、クラスタ内の色特徴量の最大値、以下、クラスタの最大値という)g
max’が白色領域閾値Th(W)よりも小さく(g
max’<Th(W))、且つ、分布モデルの分布範囲の最小値(即ち、クラスタ内の色特徴量の最小値、以下、クラスタの最小値という)g
min’が残渣閾値Th(R’)以下である場合(g
min’≦Th(R’))、閾値処理部242bは、クラスタC(4)、C(5)を共に残渣分布と判定する。
【0149】
図40(b)に示すように、クラスタの最大値g
max’が白色領域閾値Th(W)以上であり(g
max’≧Th(W))、且つ、クラスタの最小値g
min’が残渣閾値Th(R’)以下である場合(g
min’≦Th(R’))、閾値処理部242bは、クラスタC(4)を残渣分布、クラスタC(5)を白色領域分布と判定する。
【0150】
図40(c)に示すように、クラスタの最大値g
max’が白色領域閾値Th(W)よりも小さく(g
max’<Th(W))、且つ、クラスタの最小値g
min’が残渣閾値Th(R’)よりも大きい場合(g
min’>Th(R’))、閾値処理部242bは、クラスタC(4)、C(5)を共に白色領域分布と判定する。
【0151】
図40(d)に示すように、クラスタの最大値g
max’が白色領域閾値Th(W)以上であり(g
max’≧Th(W))、且つ、クラスタの最小値g
minが残渣閾値Th(R’)よりも大きい場合(g
min’>Th(R’))、閾値処理部242bは、クラスタC(4)、C(5)を共に白色領域分布と判定する。
【0152】
また、
図41(a)に示すように、クラスタの最大値g
max’が白色領域閾値Th(W)よりも小さく(g
max’<Th(W))、且つ、クラスタの最小値g
min’が残渣閾値Th(R’)以下である場合(g
min’≦Th(R’))、閾値処理部242bは、クラスタC(6)を残渣分布と判定する。
【0153】
図41(b)に示すように、クラスタの最大値g
max’が白色領域閾値Th(W)以上であり(g
max’≧Th(W))、且つ、クラスタの最小値g
min’が残渣閾値Th(R’)以下である場合(g
min’≦Th(R’))、閾値処理部242bは、クラスタC(6)を残渣分布と判定する。
【0154】
図41(c)に示すように、クラスタの最大値g
max’が白色領域閾値Th(W)よりも小さく(g
max’<Th(W))、且つ、クラスタの最小値g
min’が残渣閾値Th(R’)よりも大きい場合(g
min’>Th(R’))、閾値処理部242bは、クラスタC(6)を白色領域分布と判定する。
【0155】
図41(d)に示すように、クラスタの最大値g
max’が白色領域閾値Th(W)以上であり(g
max’≧Th(W))、且つ、クラスタの最小値g
min’が残渣閾値Th(R’)よりも大きい場合(g
min’>Th(R’))、閾値処理部242bは、クラスタC(6)を白色領域分布と判定する。
【0156】
続くステップS254において、閾値設定部243は、ステップS253における判定結果をもとに、残渣を表す色特徴量を判定する閾値を設定する。より詳細には、複数のクラスタに対して互いに異なる判定結果が得られた場合、分布モデル間閾値設定部243aは、判定軸(B/G軸)における複数のクラスタの間の値を閾値として設定する。一方、複数のクラスタに対して互いに同一の判定結果が得られた場合、分布モデル間外閾値設定部243bは、判定軸におけるクラスタの外側の値を閾値として設定する。
【0157】
具体的には、
図40(a)に示すように、2つのクラスタC(4)、C(5)が共に残渣分布と判定された場合、分布モデル間
外閾値設定部243
bは、
図42(a)に示すように、判定軸の黄みが弱い側(B/G値が大きい側)におけるクラスタC(4)、C(5)の外側の値である最大値g
max’を、閾値Thとして設定する。
【0158】
また、
図40(b)に示すように、クラスタC(4)が残渣分布、クラスタC(5)が白色領域分布と判定された場合、分布モデル
間閾値設定部243
aは、
図42(b)に示すように、判定軸におけるクラスタC(4)、C(5)の境界位置の色特徴量(即ち、正規分布f
1、f
2(
図29参照)の境界位置の値)を、閾値Thとして設定する。
【0159】
さらに、
図40(c)及び(d)に示すように、2つのクラスタC(4)、C(5)が共に白色領域分布と判定された場合、分布モデル間外閾値設定部243bは、
図42(c)及び(d)に示すように、判定軸の黄みが強い側(B/G値が小さい側)におけるクラスタC(4)、C(5)の外側の値である最小値g
min’を閾値Thとして設定する。
【0160】
一方、閾値設定部243は、ステップS253において1つのクラスタに対する判定がなされた場合、以下のようにして候補閾値を設定する。
即ち、
図41(a)及び(b)に示すように、クラスタC(6)が残渣分布と判定された場合、分布モデル間外閾値設定部243bは、
図43(a)及び(b)に示すように、判定軸の黄みが弱い側(B/G値が大きい側)の値である最大値g
max’を閾値Thとして設定する。
【0161】
また、
図41(c)及び(d)に示すように、クラスタC(6)が白色領域分布と判定された場合、分布モデル間外閾値設定部243bは、
図43(c)及び(d)に示すように、判定軸の黄みが強い側(B/G値が小さい側)の値である最小値g
min’を閾値Thとして設定する。
【0162】
続くステップS255において、判定部244は、閾値Thをもとに、残渣を表す色特徴量を判定する。具体的には、判定部244は、判定軸において、残渣候補と判定された色特徴量のうち、閾値Thよりも黄みの強い(即ち、B/G値が小さい)側に存在する色特徴量は残渣を表すものと判定し、黄みの弱い(即ち、B/G値が大きい)側に存在する色特徴量は白色領域を表すものと判定する。
【0163】
なお、この際、判定部244は、残渣候補と判定された色特徴量をクラスタリングすることにより作成したクラスタごとに、上記判定を行っても良い。この場合、各クラスタの重心位置を算出し、重心位置が閾値Thに対して黄みの強い側に存在するクラスタを残渣分布と判定し、黄みの弱い側に存在するクラスタを白色領域分布と判定する。その後、演算部200の動作はメインルーチンに戻る。
【0164】
ステップS25に続くステップS26(
図22参照)において、演算部200は、ステップS24における判定結果を出力する。これに応じて、制御部10は、この判定結果を記録部50に記録させると共に、表示部40に表示させる。
【0165】
以上説明したように、実施の形態2によれば、管腔内画像における色特徴量の分布が揺らいだ場合であっても、適応的に設定される基準である候補閾値Th(N)及び閾値Thに基づいて、残渣領域を精度良く判定することが可能となる。
【0166】
ここで、色特徴量の頻度分布に基づいて管腔内画像内の残渣領域を判別する処理部を実際の画像処理装置に実装する場合、頻度が所定値以下である色特徴量を予めノイズとして除去しておくことがある。この際、ノイズを除去するための閾値が適切でない場合に、時系列の前後で撮像され、実際には被写体に大きな変化がないはずの管腔内画像の間で判別結果が大きく異なってしまうことがあった。
【0167】
しかしながら、実施の形態2においては、色特徴量の分布に所定の分布モデル(例えば正規分布)を当てはめることにより、色特徴量の分布を主要な分布とそれ以外の分布とに分け、当該分布モデルに対する残渣候補分布の判定結果に応じ、当該分布モデルの代表値(最大値、最小値、境界位置の値)を用いて残渣候補を判定するための閾値を適応的に設定する。また、残渣領域を判定するための閾値についても同様である。従って、実施の形態2によれば、従来よりも高精度な残渣領域の判別が可能となる。
【0168】
(変形例2−1)
次に、実施の形態2の変形例2−1について説明する。
変形例2−1に係る画像処理装置は、
図19に示す画像処理装置2に対し、分布モデル間外候補閾値設定部233b、
分布モデル間外閾値設定部243bの代わりに、
図44に示す分布モデル間外候補閾値設定部233cと、
図45に示す分布モデル間外閾値設定部243cとを備える。なお、変形例2−1に係る画像処理装置のうち、分布モデル間外候補閾値設定部233c及び分布モデル間外閾値設定部243c以外の各部の構成及び動作は、実施の形態2と同様である。
【0169】
図44に示すように、分布モデル間外候補閾値設定部233cは、固定候補閾値設定部233c−1及び代表値候補閾値設定部233c−2を備える。固定候補閾値設定部233c−1は、候補判定軸において予め定められた固定値を候補閾値として設定する。一方、代表値候補閾値設定部233c−2は、1つ以上の分布モデルの代表値を候補閾値として設定する。これらの各部は、1つ以上の分布モデルの分布範囲に応じていずれかが動作する。
【0170】
図45に示すように、分布モデル間外閾値設定部243cは、固定閾値設定部243c−1及び代表値閾値設定部243c−2を備える。固定閾値設定部243c−1は、判定軸において予め定められた固定値を閾値として設定する。一方、代表値閾値設定部243c−2は、1つ以上の分布モデルの代表値
を閾値として設定する。これらの各部は、1つ以上の分布モデルの分布範囲に応じていずれかが動作する。
【0171】
以下、分布モデル間外候補閾値設定部233c及び分布モデル間外閾値設定部243cの具体的な動作を、
図35、
図36、
図40、
図41、
図46〜
図49を参照しながら説明する。
【0172】
固定候補閾値設定部233c−1は、
図35(a)及び
図36(a)に示すように、クラスタC(2)、C(3)の最大値g
maxが残渣候補閾値Th(R)よりも小さい場合、
図46(a)、
図47(a)に示すように、閾値Th(R)を候補閾値Th(N)として設定する。
【0173】
また、固定候補閾値設定部233c−1は、
図35(c)及び(d)、
図36(c)及び(d)に示すように、クラスタC(1)、C(3)の最小値g
minが粘膜閾値Th(M)よりも大きい場合、
図46(c)及び(d)、
図47(c)及び(d)に示すように、閾値Th(M)を候補閾値Th(N)として設定する。
【0174】
一方、代表値候補閾値設定部233c−2は、
図36(b)に示すように、クラスタC(3)の最小値g
minが閾値Th(M)以下であり、且つ、最大値g
maxが閾値Th(R)以上である場合、クラスタC(3)の最大値g
maxを候補閾値Th(N)として設定する。
【0175】
なお、
図35(b)に示すように、2つのクラスタC(1)、C(2)の最小値g
minが閾値Th(M)以下であり、且つ、最大値g
maxが閾値Th(R)以上である場合には、実施の形態2と同様に、分布モデル間候補閾値設定部233aが、2つのクラスタC(1)、C(2)の境界位置の値を候補閾値Th(N)に設定する(
図46(b)参照)。
【0176】
固定閾値設定部243c−1は、
図40(a)、
図41(a)に示すように、1つ以上の分布モデルに対応するクラスタC(5)、C(6)の最大値g
max’が白色領域閾値Th(W)よりも小さい場合、
図48(a)、
図49(a)に示すように、閾値Th(W)を閾値Thとして設定する。
【0177】
また、固定閾値設定部243c−1は、
図40(c)及び(d)、
図41(c)及び(d)に示すように、クラスタC(4)、C(6)の最小値g
min’が残渣閾値Th(R’)よりも大きい場合、
図48(c)及び(d)、
図49(c)及び(d)に示すように、閾値Th(R’)を閾値Thとして設定する。
【0178】
一方、代表値閾値設定部243c−2は、
図41(b)に示すように、クラスタC(6)の最小値g
min’が閾値Th(R’)以下であり、且つ、最大値g
max’が閾値Th(W)以上である場合、クラスタC(6)の最大値g
max’を閾値Thとして設定する。
【0179】
なお、
図40(b)に示すように、2つのクラスタC(4),C(5)の最小値g
min’が閾値Th(R’)以下であり、且つ、最大値g
max’が閾値Th(W)以上である場合には、実施の形態2と同様に、分布モデル間閾値設定部243aが、2つのクラスタC(4)、C(5)の境界位置の値を閾値Thに設定する(
図48(b)参照)。
【0180】
(変形例2−2)
次に、実施の形態2の変形例2−2について説明する。
変形例2−2に係る画像処理装置は、
図19に示す画像処理装置2に対し、閾値処理部242bの代わりに、
図50に示す閾値処理部242cを備える。なお、変形例2−2に係る画像処理装置のうち、閾値処理部242c以外の各部の構成及び動作は、実施の形態2と同様である。
【0181】
図50に示すように、閾値処理部242cは、残渣候補分布判定部230により残渣候補として判定されなかった色特徴量の分布を粘膜分布とみなし、判定軸における粘膜分布の代表値を算出する粘膜基準閾値
設定部242c−1を備える。
【0182】
より詳細には、粘膜基準閾値
設定部242c−1は、残渣候補分布判定部230により残渣候補分布と判定された分布以外の色特徴量の分布を粘膜分布に設定する。そして、判定軸(B/G軸)における当該粘膜分布の重心g
Mを算出し、これを粘膜分布の代表値とする。
【0183】
続いて、粘膜基準閾値
設定部242c−1は、
図51及び
図52に示すように、判定軸において、残渣の有無を判定する残渣閾値Th(R
M)と、白色領域を判定する白色領域閾値Th(W
M)とを、粘膜分布の重心g
Mを基準として設定する。このうち、残渣閾値Th(R
M)は、重心g
Mに対し、教師データから取得した所定値αを減算することにより算出される。一方、閾値Th(W
M)は、重心g
Mに対し、教師データから取得した所定値βを加算することにより算出される。
【0184】
閾値処理部242cは、このようにして設定された残渣閾値Th(R
M)、白色領域閾値Th(W
M)に基づいて、各色特徴量の分布が残渣であるか白色領域であるかを判定する。具体的には、
図51(a)に示すように、クラスタの最大値g
max’が白色領域閾値Th(W
M)よりも小さく(g
max’<Th(W
M))、且つ、クラスタの最小値g
min’が残渣閾値Th(R
M)以下である場合(g
min’≦Th(R
M))、閾値処理部242cは、クラスタC(4)、C(5)を共に残渣分布と判定する。
【0185】
図51(b)に示すように、クラスタの最大値g
max’が白色領域閾値Th(W
M)以上であり(g
max’≧Th(W
M))、且つ、クラスタの最小値g
min’が残渣閾値Th(R
M)以下である場合(g
min’≦Th(R
M))、閾値処理部242cは、クラスタC(4)を残渣分布、クラスタC(5)を白色領域と判定する。
【0186】
図51(c)に示すように、クラスタの最大値g
max’が白色領域閾値Th(W
M)よりも小さく(g
max’<Th(W
M))、且つ、クラスタの最小値g
min’
が残
渣閾値Th(R
M)よりも大きい場合(g
min’>Th(R
M))、閾値処理部242cは、クラスタC(4)、C(5)を共に白色領域と判定する。
【0187】
図51(d)に示すように、クラスタの最大値g
max’が白色領域閾値Th(W
M)以上であり(g
max’≧Th(W
M))、且つ、クラスタの最小値g
minが残渣閾値Th(R
M)よりも大きい場合(g
min’>Th(R
M))、閾値処理部242cは、クラスタC(4)、C(5)を共に白色領域と判定する。
【0188】
また、
図52(a)に示すように、クラスタの最大値g
max’が白色領域閾値Th(W
M)よりも小さく(g
max’<Th(W
M))、且つ、クラスタの最小値g
min’が残渣閾値Th(R
M)以下である場合(g
min’≦Th(R
M))、閾値処理部242cは、クラスタC(6)を残渣分布と判定する。
【0189】
図52(b)に示すように、クラスタの最大値g
max’が白色領域閾値Th(W
M)以上であり(g
max’≧Th(W
M))、且つ、クラスタの最小値g
min’が残渣閾値Th(R
M)以下である場合(g
min’≦Th(R
M))、閾値処理部242cは、クラスタC(6)を残渣分布と判定する。
【0190】
図52(c)に示すように、クラスタの最大値g
max’が白色領域閾値Th(W
M)よりも小さく(g
max’<Th(W
M))、且つ、クラスタの最小値g
min’が残渣閾値Th(R
M)よりも大きい場合(g
min’>Th(R
M))、閾値処理部242cは、クラスタC(6)を白色領域と判定する。
【0191】
図52(d)に示すように、クラスタの最大値g
max’が白色領域閾値Th(W
M)以上であり(g
max’≧Th(W
M))、且つ、クラスタの最小値g
min’が残渣閾値Th(R
M)よりも大きい場合(g
min’>Th(R
M))、閾値処理部242cは、クラスタC(6)を白色領域と判定する。
【0192】
なお、本変形例2−2は、単独で実行しても良いし、実施の形態2における閾値処理部242bが実行する処理と組み合わせても良い。後者の場合、
図40(c)及び
図41(b)に示すように、色特徴量の最大値g
max’が閾値Th(W)よりも小さく、且つ、クラスタの最小値g
min’が閾値Th(R’)よりも大きい場合に、変形例2−2において設定した閾値Th(W
M)、Th(R
M)を用いて再度判定を行うと良い。
【0193】
(実施の形態3)
次に、本発明の実施の形態3について説明する。
実施の形態3に係る画像処理装置は、
図19に示す画像処理装置2に対し、分布モデル当てはめ部231、241の代わりに、
図53に示す分布モデル当てはめ部331、341をそれぞれ備える。なお、実施の形態3に係る画像処理装置のうち、分布モデル当てはめ部331、341以外の各部の構成及び動作は、実施の形態2と同様である。
【0194】
図53に示すように、分布モデル当てはめ部331、341は、概要分布モデル当てはめ部331a、341aと、概要分布モデル範囲取得部331b、341bと、分布モデル修正部331c、341cとをそれぞれ備える。
【0195】
このうち、概要分布モデル当てはめ部331aは、赤みの度合いを判定する色特徴量の候補判定軸(例えばG/R軸)において、管腔内画像内の色特徴量の分布に対して当てはめ可能な分布モデルよりも少ない数の分布モデル(以下、概要分布モデルという)を当てはめる。概要分布モデル範囲取得部331bは、候補判定軸における概要分布モデルの分布範囲を取得する。分布モデル修正部331cは、概要分布モデルの分布範囲において、色特徴量の分布に対して1つ以上の分布モデルを当てはめる。
【0196】
また、概要分布モデル当てはめ部341aは、黄みの度合いを判定する色特徴量の判定軸(例えばB/G軸)において、残渣候補と判定された色特徴量の分布に対して当てはめ可能な分布モデルよりも少ない数の分布モデル(以下、概要分布分布モデルという)を当てはめる。概要分布モデル範囲取得部341bは、判定軸における概要分布モデルの分布範囲を取得する。分布モデル修正部341cは、概要分布モデルの分布範囲において、残渣候補と判定された色特徴量の分布に対して1つ以上の分布モデルを当てはめる。
【0197】
次に、実施の形態3に係る画像処理装置の動作について説明する。実施の形態3に係る画像処理装置の動作は、全体として
図22、
図24、
図39に示すものと同様であり、
図24に示すステップS241及び
図39に示すステップS251における詳細な動作が異なる。
【0198】
図54は、
図24に示すステップS241において、管腔内画像内の色特徴量の分布に対して分布モデルの当てはめを行う分布モデル当てはめ部331の動作を示すフローチャートである。また、
図55〜
図58は、分布モデル当てはめ部331の動作を説明するための模式図である。
【0199】
まず、ステップs311において、概要分布モデル当てはめ部331aは、候補判定軸(G/R軸)において、色特徴量の分布に対し、当てはめ可能な分布モデルの数より少ない分布モデルを概要分布モデルとして当てはめる。例えば、
図55(a)に示すように、色特徴量の分布に対応する密度関数Fに対して2つの正規分布f
3及びf
4が当てはめ可能である場合、
図56に示すように、密度関数Fに対し、概要分布モデルとして1つの正規分布f
5を当てはめる。なお、正規分布f
5の当てはめは、例えば、実施の形態2において説明したEMアルゴリズムにより行うことができる。
【0200】
続くステップs312において、概要分布モデル範囲取得部331bは、候補判定軸における概要分布モデルの分布範囲を取得する。具体的には、
図57に示すように、正規分布f
5のパラメータである平均μ及び分散σ
2を取得し、色特徴量の95.7%が含まれるμ±2σの範囲を概要分布モデルの分布範囲Δ
1とする。
【0201】
続くステップs313において、分布モデル修正部331cは、概要分布モデルの分布範囲において、色特徴量の分布に対して1つ以上の分布モデルを当てはめる。具体的には、
図58に示すように、分布範囲Δ
1内の色特徴量の分布に対し、例えばEMアルゴリズムにより2つの正規分布f
3’、f
4’を当てはめる。その後、動作はメインルーチンに戻る。
【0202】
図59は、
図39に示すステップS251において、残渣候補と判定された色特徴量の分布に対して分布モデルの当てはめを行う分布モデル当てはめ部341の動作を示すフローチャートである。なお、以下においては、
図56〜
図58に示す候補判定軸(G/R軸)を判定軸(B/G軸)に読み替えた上で、これらの図を援用して説明を行う。
【0203】
まず、ステップs321において、概要分布モデル当てはめ部341aは、判定軸(B/G軸)において、残渣候補と判定された色特徴量の分布に対し、当てはめ可能な分布モデルの数より少ない分布モデルを概要分布モデルとして当てはめる。例えば、
図56に示すように、残渣候補と判定された色特徴量の分布に対応する密度関数Fに対し、2つの正規分布の当てはめが可能である場合、1つの正規分布f
5を当てはめる。
【0204】
続くステップs322において、概要分布モデル範囲取得部341bは、判定軸における概要分布モデルの分布範囲を取得する。例えば、
図57に示すように、正規分布f
5のパラメータである平均μ及び分散σ
2を取得し、μ±2σの範囲を概要分布モデルの分布範囲Δ
1とする。
【0205】
続くステップs323において、分布モデル修正部341cは、概要分布モデルの分布範囲Δ
1において、残渣候補と判定された色特徴量の分布に対して1つ以上の分布モデルを当てはめる。例えば、
図58に示すように、分布範囲Δ
1内の色特徴量の分布に対して2つの正規分布f
3’、f
4’を当てはめる。その後、動作はメインルーチンに戻る。
【0206】
以上説明した実施の形態3によれば、色特徴量の分布に複数のピークが存在する場合であっても、適切に分布モデルを当てはめることができる。従って、残渣領域を精度良く識別することが可能となる。
【0207】
ここで、EMアルゴリズムにおいては、初期値に依存して局所解に陥ってしまう場合がある。そのため、例えば
図55(a)に示すように、3つのピークP1〜P3が存在する密度関数Fに対し、
図55(b)に示すように、2つの正規分布f
3、f
4を当てはめようとすると、正規分布f
3、f
4の境界Th1が、実際の色特徴量の分布に含まれる複数の分布の境界Th2からずれてしまうおそれがある。この場合、後段における候補閾値(又は閾値)を適切に設定することができなくなってしまう。
【0208】
そこで、実施の形態3においては、密度関数Fに対して1つの正規分布f
5を当てはめた後、当該正規分布f
5の分布範囲Δ
1に限定して2つの正規分布f
3’、f
4’を当てはめるという段階的な処理を行っている。それにより、実際の色特徴量の分布に、より適合した境界Th2’を得ることができ、適切な候補閾値(又は閾値)を設定することが可能となる。
【0209】
(実施の形態4)
次に、本発明の実施の形態4について説明する。
実施の形態4に係る画像処理装置は、
図19に示す画像処理装置2に対し、分布モデル当てはめ部231、241の代わりに、
図60に示す分布モデル当てはめ部431、441をそれぞれ備える。なお、実施の形態4に係る画像処理装置のうち、分布モデル当てはめ部431、441以外の各部の構成及び動作は、実施の形態2と同様である。
【0210】
図60に示すように、分布モデル当てはめ部431、441は、低比率分布モデル判定部431a、441aと、高比率分布モデル取得部431b、441bと、分布モデル修正部431c、441cとをそれぞれ備える。
【0211】
このうち、低比率分布モデル判定部431aは、赤みの度合いを判定する色特徴量の候補判定軸(例えばG/R軸)において、管腔内画像内の色特徴量の分布に対して当てはめられた1つ以上の分布モデルに、該1つ以上の分布モデル間の混合比率が所定値以下である低比率分布モデルが含まれるか否かを判定する。高比率分布モデル取得部431bは、上記1つ以上の分布モデルに低比率分布モデルが含まれる場合に、低比率分布モデルを除外した残りの分布モデルが候補判定軸に分布する分布範囲を取得する。分布モデル修正部431cは、高比率分布モデル取得部431bによって取得された分布範囲において、色特徴量の分布に対し、再度、1つ以上の分布モデルの当てはめを行う。
【0212】
また、低比率分布モデル判定部441aは、黄みの度合いを判定する色特徴量の判定軸(例えばB/G軸)において、残渣候補と判定された色特徴量の分布に対して当てはめられた1つ以上の分布モデルに対し、該1つ以上の分布モデル間の混合比率が所定値以下である低比率分布モデルが含まれるか否かを判定する。高比率分布モデル取得部441bは、上記1つ以上の分布モデルに低比率分布モデルが含まれる場合に、低比率分布モデルを除外した残りの分布モデルが判定軸に分布する分布範囲を取得する。分布モデル修正部441cは、高比率分布モデル取得部431bによって取得された分布範囲において、残渣候補と判定された色特徴量の分布に対し、再度、1つ以上の分布モデルの当てはめを行う。
【0213】
次に、実施の形態4に係る画像処理装置の動作について説明する。実施の形態4に係る画像処理装置の動作は、全体として
図22、
図24、
図39に示すものと同様であり、
図24に示すステップS241及び
図39に示すステップS251における詳細な動作が異なる。
【0214】
図61は、
図24に示すステップS241において、管腔内画像内の色特徴量の分布に対して分布モデルの当てはめを行う分布モデル当てはめ部431の動作を示すフローチャートである。また、
図62〜
図64は、分布モデル当てはめ部431の動作を説明するための模式図である。
【0215】
まず、ステップs411において、低比率分布モデル判定部431aは、候補判定軸(G/R軸)において、色特徴量の分布に対して1つ以上の分布モデルを当てはめ、当てはめられた分布モデルの中に、混合比率が所定値以下である低比率分布モデルが含まれるか否かを判定する。例えば、色特徴量の分布に対応する密度関数Fに対し(
図62(a)参照)、2つの正規分布f
6、f
7を当てはめたときの正規分布f
6、f
7の混合比率をそれぞれω
6、ω
7とする(
図62(b)参照)。なお、正規分布f
6、f
7の当てはめは、例えば、実施の形態2において説明したEMアルゴリズムにより行うことができる。
【0216】
低比率分布モデル判定部431aは、混合比率ω
6、ω
7に基づき、正規分布f
6、f
7が低比率分布モデルであるか否かを判定する。例えば、
図62(b)において、混合比率ω
7が所定値以下である場合、正規分布f
7が低比率分布モデルであると判定される。
【0217】
低比率分布モデルが含まれる場合(ステップs412:Yes)、高比率分布モデル取得部441bは、色特徴量の分布に当てはめた分布モデルから低比率分布モデルを除外し、それ以外の分布モデル(高比率分布モデル)が候補判定軸に分布する分布範囲を取得する(ステップs413)。例えば、正規分布f
7が低比率分布モデルである場合、高比率分布モデル取得部431bは、
図63に示すように、残りの正規分布f
6のパラメータである平均μ及び分散σ
2を取得し、色特徴量の95.45%が含まれるμ±2σの範囲を分布範囲Δ
2とする。
【0218】
続くステップs414において、分布モデル修正部431cは、高比率分布モデルの分布範囲において、色特徴量の分布に対し、再度、1つ以上の分布モデルを当てはめる。具体的には、
図64に示すように、分布範囲Δ
2内の色特徴量の分布に対し、例えばEMアルゴリズムにより2つの正規分布f
8、f
9を当てはめる。その後、動作はメインルーチンに戻る。
【0219】
なお、ステップs412において、低比率分布モデルが含まれない場合(ステップs412:No)、動作はそのままメインルーチンに戻る。
【0220】
図65は、
図39に示すステップS251において、残渣候補と判定された色特徴量の分布に対して分布モデルの当てはめを行う分布モデル当てはめ部441の動作を示すフローチャートである。なお、以下においては、
図62〜
図64に示す候補判定軸(G/R軸)を判定軸(B/G軸)に読み替えた上で、これらの図を援用して説明を行う。
【0221】
まず、ステップs421において、低比率分布モデル判定部441aは、判定軸(B/G軸)において、残渣候補と判定された色特徴量の分布に対して1つ以上の分布モデルを当てはめ、当てはめられた分布モデルの中に、混合比率が所定値以下である低比率分布モデルが含まれるか否かを判定する(
図62参照)。
【0222】
低比率分布モデルが含まれる場合(ステップs422:Yes)、高比率分布モデル取得部441bは、色特徴量の分布に当てはめた分布モデルから低比率分布モデルを除外し、それ以外の分布モデル(高比率分布モデル)が判定軸に分布する分布範囲を取得する(ステップs423)。例えば、正規分布f
7が低比率分布モデルである場合、
図63に示すように、高比率分布モデル取得部441bは、高比率分布モデルである残りの正規分布f
6のμ±2σの範囲を分布範囲Δ
2とする。
【0223】
続くステップs424において、分布モデル修正部441cは、高比率分布モデルの分布範囲において、残渣候補と判定された色特徴量の分布に対し、再度、1つ以上の分布モデルを当てはめる(
図64参照)。その後、動作はメインルーチンに戻る。
なお、ステップs422において、低比率分布モデルが含まれない場合(ステップs422:No)、動作はそのままメインルーチンに戻る。
【0224】
以上説明した実施の形態4によれば、色特徴量の分布に低いピークが存在する場合であっても、適切に分布モデルを当てはめることができる。従って、残渣領域を精度良く識別することが可能となる。
【0225】
ここで、例えば
図62(a)に示すように、3つのピークP4〜P6が存在する密度関数に対して2つの正規分布を当てはめようとすると、
図62(b)に示すように、ピークP6に引きずられて低比率の正規分布f
7が作成され、正規分布f
6、f
7の境界Th3が設定される。このような境界Th3に基づいて、後段の候補閾値(又は閾値)設定処理を行うと、残渣領域の判定処理において、ピークP5に表される色特徴量の分布が全く反映されない結果が得られてしまう。
【0226】
そこで、実施の形態4においては、低比率分布モデルを除外した残りの分布モデルの分布範囲Δ
2に限定して、再度、2つの正規分布f
6’、f
7’の当てはめを行っている。それにより、実際の色特徴量の分布により適合した境界Th4を得ることができ、適切な候補閾値(又は閾値)を設定することが可能となる。
【0227】
以上説明した実施の形態1〜4及びそれらの変形例に係る画像処理装置は、記録媒体に記録された画像処理プログラムをパーソナルコンピュータやワークステーション等のコンピュータシステムで実行することによって実現することができる。また、このようなコンピュータシステムを、ローカルエリアネットワーク、広域エリアネットワーク(LAN/WAN)、又は、インターネット等の公衆回線を介して、他のコンピュータシステムやサーバ等の機器に接続して使用しても良い。この場合、実施の形態及び変形例に係る画像処理装置は、これらのネットワークを介して管腔内画像の画像データを取得したり、これらのネットワークを介して接続された種々の出力機器(ビュアーやプリンタ等)に画像処理結果を出力したり、これらのネットワークを介して接続された記憶装置(記録媒体及びその読取装置等)に画像処理結果を格納するようにしても良い。
【0228】
なお、本発明は、実施の形態1〜4及びそれらの変形例に限定されるものではなく、実施の形態や各変形例に開示されている複数の構成要素を適宜組み合わせることによって、種々の発明を形成できる。例えば、各実施の形態や変形例に示される全構成要素からいくつかの構成要素を除外して形成しても良いし、異なる実施の形態や変形例に示した構成要素を適宜組み合わせて形成しても良い。