(58)【調査した分野】(Int.Cl.,DB名)
同一の被写体に対応する第1の被写体像および第2の被写体像を撮像して生成された画像データに基づく画像の前記第1の被写体像上で設定された計測点に対応する前記第2の被写体像上の点である対応点の候補を、複数のマッチング手法を用いて複数算出するステップと、
前記複数のマッチング手法のそれぞれに対応する前記対応点の候補に基づいてマッチングの信頼度を算出するステップと、
前記信頼度が所定値未満である場合に、前記計測点と、前記複数のマッチング手法のそれぞれに対応する複数の前記対応点の候補とを前記画像に表示する処理を行うステップと、
前記信頼度が所定値未満である場合に、前記複数のマッチング手法のそれぞれに対応する複数の前記対応点の候補のうち指定された前記対応点の候補を対応点に決定するステップと、
前記計測点と、決定された前記対応点とに基づいて前記被写体の大きさを計測するステップと、
をコンピュータに実行させるためのプログラム。
【発明を実施するための形態】
【0024】
以下、図面を参照し、本発明の実施形態を説明する。
図1は、本発明の一実施形態による内視鏡装置の全体構成を示している。
図1に示すように、内視鏡装置1は、内視鏡2と、この内視鏡2に接続された装置本体3とを備えている。内視鏡2は、細長な挿入部20と、装置全体の各種動作制御を実行する際に必要な操作を行うための操作部6とを備えている。装置本体3は、内視鏡2で撮像された被写体の画像や操作制御内容(例えば処理メニュー)等を表示するモニタ4と、内部に制御ユニット10(
図2参照)を有する筐体5とを備えている。
【0025】
挿入部20は、硬質な先端部21と、例えば上下左右に湾曲可能な湾曲部22と、柔軟性を有する可撓管部23とを先端側から順に連設して構成されている。先端部21には、観察視野を2つ有するステレオ光学アダプタや観察視野が1つの通常観察光学アダプタ等、各種光学アダプタが着脱自在になっている。
【0026】
図2に示すように筐体5内には、内視鏡ユニット8、CCU9(カメラコントロールユニット)、および制御ユニット10が設けられている。挿入部20の基端部は内視鏡ユニット8に接続されている。内視鏡ユニット8は、観察時に必要な照明光を供給する光源装置(不図示)と、挿入部20を構成する湾曲部22を湾曲させる湾曲装置(不図示)とを備えて構成されている。CCU9は、撮像素子28を駆動する駆動装置(不図示)を備えて構成されている。
【0027】
先端部21には撮像素子28が内蔵されている。撮像素子28は、光学アダプタを介して結像された被写体像を光電変換し、撮像信号を生成する。この撮像信号は、CCU9内で例えばNTSC信号等の映像信号(画像データ)に変換されて、制御ユニット10へ供給される。
【0028】
制御ユニット10内には、映像信号が入力される映像信号処理回路12、ROM13、RAM14、カードI/F15(カードインターフェイス)、USB I/F16(USBインターフェイス)、RS−232C I/F17(RS−232Cインターフェイス)、およびCPU18が設けられている。
【0029】
RS−232C I/F17には、CCU9および内視鏡ユニット8が接続されると共に、これらCCU9や内視鏡ユニット8等の制御および動作指示を行う操作部6が接続されている。ユーザが操作部6を操作すると、その操作内容に基づいて、CCU9および内視鏡ユニット8を動作制御する際に必要な通信が行われる。
【0030】
USB I/F16は、制御ユニット10とパーソナルコンピュータ31とを電気的に接続するためのインターフェイスである。このUSB I/F16を介して制御ユニット10とパーソナルコンピュータ31とを接続することによって、パーソナルコンピュータ31側で内視鏡画像の表示指示や、計測時における画像処理等の各種の指示に基づく制御を行うことが可能になると共に、制御ユニット10とパーソナルコンピュータ31との間での各種の処理に必要な制御情報やデータ等の入出力を行うことが可能になる。
【0031】
また、カードI/F15には、メモリカード32を自由に着脱することができるようになっている。メモリカード32をカードI/F15に装着することにより、CPU18による制御に従って、このメモリカード32に記憶されている制御処理情報や画像情報等のデータの制御ユニット10への取り込み、あるいは制御処理情報や画像情報等のデータのメモリカード32への記録を行うことが可能になる。
【0032】
映像信号処理回路12は、CCU9から供給された映像信号に基づく内視鏡画像と、グラフィックによる操作メニューとを合成した合成画像を表示するため、CPU18により生成される、操作メニューに基づくグラフィック画像信号とCCU9からの映像信号を合成する処理や、モニタ4の画面上に表示するのに必要な処理等を行い、表示信号をモニタ4に供給する。また、この映像信号処理回路12は、単に内視鏡画像、あるいは操作メニュー等の画像を単独で表示するための処理を行うことも可能である。したがって、モニタ4の画面上には、内視鏡画像、操作メニュー画像、内視鏡画像と操作メニュー画像との合成画像等が表示される。
【0033】
CPU18は、ROM13に格納されているプログラムを実行することによって、目的に応じた処理を行うように各種回路部等を制御して、内視鏡装置1全体の動作制御を行う。RAM14は、CPU18によって、データの一時格納用の作業領域として使用される。
【0034】
CPU18が実行するプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムを内視鏡装置1以外のコンピュータに読み込ませ、実行させてもよい。例えば、パーソナルコンピュータ31がプログラムを読み込んで実行し、プログラムに従って、内視鏡装置1を制御するための制御情報を内視鏡装置1に送信して内視鏡装置1を制御し、内視鏡装置1から映像信号を取得して、取得した映像信号を用いて計測を行ってもよい。
【0035】
ここで、「コンピュータ」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM、DVD−ROM、フラッシュメモリ等の可搬媒体、コンピュータに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。
【0036】
また、上述したプログラムは、このプログラムを記憶装置等に格納したコンピュータから、伝送媒体を介して、あるいは伝送媒体中の伝送波により他のコンピュータに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように、情報を伝送する機能を有する媒体のことをいう。また、上述したプログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、前述した機能を、コンピュータに既に記録されているプログラムとの組合せで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
【0037】
本実施形態では、左右の2つの観察視野を有するステレオ光学アダプタが先端部21に装着された状態で画像が取得される。被写体からの光がステレオ光学アダプタに入射し、ステレオ光学アダプタによって、同一の被写体に対応する左右の2つの被写体像(第1の被写体像および第2の被写体像)が形成される。2つの被写体像は撮像素子28に入射し、撮像素子28によって撮像される。取得された画像は、2つの被写体像を含む画像となる。本実施形態では、取得された画像のうち、2つの被写体像に対応する領域の画像を左画像、右画像と定義する。
【0038】
図3は、CPU18のうち、本実施形態の説明の中心となる部分の機能構成を示している。制御部180、計測点設定部181、対応点候補算出部182、信頼度算出部183、表示処理部184、対応点決定部185、および計測処理部186によってCPU18の機能が構成されている。
【0039】
制御部180は各部が行う処理を制御する。計測点設定部181は、ユーザが操作部6を操作して、画像データに基づく左画像上で指定した計測位置に計測点を設定する。対応点候補算出部182は、複数のマッチング手法を用いて、画像データに基づく右画像において、左画像上で設定された計測点に対応する対応点の候補(以下、対応点候補と記載)を算出する。信頼度算出部183は、複数のマッチング手法のそれぞれに対応する対応点候補に基づいてマッチングの信頼度を算出する。
【0040】
表示処理部184は、対応点候補の位置をユーザに確認させるため、画像データに基づく画像に対して、計測点と、複数のマッチング手法のそれぞれに対応する対応点候補とのグラフィック(マーク)を重畳するための処理を行う。対応点決定部185は、算出された対応点候補に基づいて、計測処理に用いる対応点を決定する。計測処理部186は、計測点と、決定された対応点との画像上の2次元座標に基づいて空間上の3次元座標を算出し、複数の計測点に対応する3次元座標に基づいて、被写体の大きさを計測する。
【0041】
次に、本実施形態におけるステレオ計測の原理を説明する。ステレオ光学アダプタを使用し、被写体像を左右の光学系で捉えたときの左右の光学測距点の座標に基づいて、三角測量の原理を使用して被写体の3次元空間座標を求めることで、各種計測(ステレオ計測)が可能となる。以下、
図13を参照しながら、ステレオ計測による計測点の3次元座標の求め方を説明する。左側および右側の光学系で撮像された画像に対して、三角測量の方法により、左側と右側の光学中心63,64を結ぶ線分の中点を原点Oとして右方向を正にx軸、下方向を正にy軸、光軸と平行に光学系から遠ざかる方向を正にz軸を定義した時の計測点60の3次元座標(X,Y,Z)が以下の(1)式〜(3)式で計算される。
ただし、歪み補正が施された左右の画像面上での計測点61,対応点62の2次元座標を、左右それぞれの光学系の光軸と画像面との交点OL、ORを原点として(XL,YL)、(XR,YR)とし、左側と右側の光学中心63,64の距離をDとし、焦点距離をFとし、t=D/(XR−XL)とする。
X=t×XR+D/2 ・・・(1)
Y=−t×YR ・・・(2)
Z=t×F ・・・(3)
【0042】
上記のように元画像上の画像面上での計測点61、対応点62の座標が決定されると、パラメータDおよびFを用いて計測点60の3次元座標が求まる。いくつかの点の3次元
座標を求めることによって、2点間の距離、2点を結ぶ線と1点の距離、面積、深さ、表
面形状等の様々な計測が可能である。また、左側の光学中心63または右側の光学中心6
4から被写体までの距離(物体距離)を求めることも可能となる。物体距離は、先端部2
1から被写体までの距離であって、例えば撮像素子28または観察光学系から被写体まで
の距離である。上記のステレオ計測を行うためには、先端部21とステレオ光学アダプタ
を含む光学系の特性を示す光学データが必要である。なお、マッチング処理および光学デ
ータの詳細は、例えば特開2004−49638号公報に記載されているので、その説明
を省略する。
【0043】
次に、本実施形態における計測処理の詳細を説明する。
図4は、計測時の内視鏡装置1の動作の手順を示している。内視鏡2で取得された画像(静止画像)がモニタ4に表示された後、ユーザが操作部6を介して、画像データに基づく左画像上の計測位置を指定すると、計測点設定部181は、指定された計測位置の2次元座標を算出し、その位置に計測点を設定する(ステップS1)。続いて、マッチング処理(ステップS2)が行われ、画像データに基づく右画像上の対応点が決定される。マッチング処理の詳細については後述する。
【0044】
マッチング処理が終了した後、計測処理部186は、計測点と対応点の画像上の2次元座標に基づいて空間上の3次元座標を算出する(ステップS3)。続いて、制御部180は、計測点の設定が終了したか否かを判定する(ステップS4)。ユーザによる計測位置の指定が継続する場合には、ステップS1で次の計測点が設定される。また、ユーザによる計測位置の指定が終了した場合には、計測処理部186は、ステップS3で算出した3次元座標に基づいて、2点間距離等を算出する3次元計測を行う(ステップS5)。続いて、表示処理部184は、画像データに基づく画像に対して、計測処理部186が算出した計測結果がグラフィック(文字)で重畳された画像をモニタ4に表示させる処理を行う(ステップS6)。これによって、モニタ4に計測結果が表示される。計測結果が表示されると、計測処理が終了する。
【0045】
図5は、マッチング処理(ステップS2)の手順を示している。まず、マッチング処理の概要を説明する。マッチング処理では複数のマッチング手法により複数の対応点候補が算出される。複数の対応点候補の信頼性が高い場合には、ユーザの指示に無関係な所定の基準に従って自動で対応点が決定される。また、複数の対応点候補の信頼性が低い場合には、複数の対応点候補の中から対応点に適した対応点候補をユーザが選択し、選択された対応点候補が対応点に決定される。
【0046】
以下、マッチング処理の詳細を説明する。制御部180は、対応点の算出に用いるマッチング手法に対応する変数iの値を0に設定する(ステップS200)。続いて、対応点候補算出部182は、変数iの値に対応するマッチング手法を用いて、左画像上で設定された計測点に対応する右画像上の対応点候補の2次元座標を算出する(ステップS205)。
【0047】
本実施形態では、一例として、3種類のマッチング手法を用いる。例えば、テンプレートマッチングを行うマッチング手法A、濃淡のエッジ部分などの特徴点でマッチングを行うマッチング手法B、画像をフーリエ変換した位相成分の相関を計算する位相限定相関法(POC:Phase Only Correlation)を用いたマッチング手法Cを用いる。上記のマッチング手法の他に、テンプレートマッチングで使用する相関関数が異なる手法(例えば、NCC(Normalized Cross-Correlation)、SSD(Sum of Squared Difference)、SAD(Sum of Absolute Difference)など)を用いてもよい。その他、テンプレートのサイズや形状が異なる手法を用いてもよい。さらに、テンプレートマッチングを行う画像の解像度が異なる手法や、画像処理(二値化、ノイズ除去、各種フィルタリング)が異なる手法を用いてもよいし、画像の輝度情報だけでなく色情報を使用する手法を用いてもよい。
対応点候補の算出に用いるマッチング手法は予め設定されているが、ユーザがマッチング手法を変更できるようにしてもよい。
【0048】
本実施形態では、それぞれのマッチング手法に対応する優先度係数が設けられている。例えば、マッチング手法Aの優先度係数は1.0、マッチング手法Bの優先度係数は0.8、マッチング手法Cの優先度係数は0.6である。優先度係数は、マッチングの信頼度を算出する処理や、複数の対応点候補の中から対応点を決定する処理に対して各対応点候補が与える影響の大きさ(優先度)を示している。優先度係数が大きいほど優先度が高い。各マッチング手法の優先度係数は予め設定されているが、ユーザがその値を変更できるようにしてもよい。
【0049】
対応点候補が算出された後、制御部180は、変数iの値が所定値と等しいか否かを判定することにより、全てのマッチング手法を用いて対応点候補を算出したか否かを判定する(ステップS210)。3種類のマッチング手法を用いる場合、所定値は2である。対応点候補の算出を行っていないマッチング手法がある場合、制御部180は変数iの値を1だけ増加させる(ステップS215)。続いて、ステップS205で対応点候補の算出が再度行われる。
【0050】
全てのマッチング手法を用いて対応点候補を算出した場合、信頼度算出部183は、複数のマッチング手法のそれぞれに対応する対応点候補の2次元座標に基づいてマッチングの信頼度を算出する(ステップS215)。この信頼度は、それぞれのマッチング手法毎のマッチングの信頼性を示すのではなく、複数のマッチング手法を用いて行ったマッチング全体の信頼性を示している。
【0051】
ステップS215では、以下のようにしてマッチングの信頼度が算出される。例えば、マッチングの信頼度は、それぞれの対応点候補間の画像上の距離に基づいて算出される。それぞれの対応点候補間の画像上の距離が近いほど、マッチングの信頼度は高くなりやすい。より具体的には、マッチングの信頼度は、算出された対応点候補のうち、視差量が中央値である対応点候補を中心とする所定距離R(例えば3ピクセル)内に入っている対応点候補の優先度係数の和として算出される。計測点の2次元座標を(XL,YL)、対応点候補の2次元座標を(XR,YR)とすると、視差量はXR−XLである。所定距離Rの値は予め設定されているが、ユーザがその値を変更できるようにしてもよい。
【0052】
マッチングの信頼度を優先度係数の和として算出することで、マッチングの信頼度に閾値を設けて判定を行う場合に、対応点候補の優先度に応じた判定を行うことができ、より正確に判定を行うことができる。例えば、マッチング手法A,B,Cを用いて算出した対応点候補の優先度係数の和は2.4であり、マッチング手法A,Bを用いて算出した対応点候補の優先度係数の和は1.8であり、マッチング手法A,Cを用いて算出した対応点候補の優先度係数の和は1.6であり、マッチング手法B,Cを用いて算出した対応点候補の優先度係数の和は1.4である。閾値が1.5である場合には、マッチング手法A,B,Cを用いた場合、マッチング手法A,Bを用いた場合、およびマッチング手法A,Cを用いた場合の優先度係数の和は閾値を超えるが、優先度係数が低いマッチング手法B,Cを用いた場合の優先度係数の和は閾値を超えないこととなる。
【0053】
算出された対応点候補のうち、優先度係数が最も高い対応点候補を中心とする所定距離R内に入っている対応点候補の優先度係数の和をマッチングの信頼度としてもよい。上記のように、距離が近い対応点候補のみを使用してマッチングの信頼度を算出することによって、距離が遠い対応点候補、すなわち真の対応点ではない可能性が高い対応点候補の影響を排除することができる。
【0054】
マッチングの信頼度の算出に優先度係数を使用しなくてもよい。例えば、視差量が中央値である対応点候補を中心とする所定距離R内に入っている対応点候補の数nと、対応点候補の算出に使用したマッチング手法の数Nとの比n/Nをマッチングの信頼度としてもよい。
【0055】
マッチングの信頼度が所定値以上であった場合、対応点決定部185は、複数の対応点候補に基づいて所定の基準で対応点を決定する(ステップS225)。ステップS225では、以下のようにして対応点が決定される。例えば、ステップS215でマッチングの信頼度を算出した際に求めた、視差量が中央値である対応点候補を中心とする所定距離R内に入っている全ての対応点候補の2次元座標が一致する場合には、その2次元座標の点が対応点に決定される。
【0056】
また、視差量が中央値である対応点候補を中心とする所定距離R内に入っている全ての対応点候補の2次元座標が完全には一致しない場合には、それらの対応点候補の2次元座標を平均化した2次元座標の点が対応点に決定される。対応点候補の2次元座標を平均化することで、対応点の位置が1ピクセル以下の精度で求まり、より計測精度の高い結果が得られる。
【0057】
視差量が中央値である対応点候補を中心とする所定距離R内に入っている全ての対応点候補の2次元座標に対して、優先度係数による重み付けを行い、重み付け後の2次元座標を平均化した2次元座標の点を対応点としてもよい。あるいは、それぞれのマッチング手法を用いてマッチングを行った結果の信頼性を示す値(例えば、テンプレートマッチングであれば相関係数)を優先度係数の代わりに用いて上記の重み付けを行ってもよい。
【0058】
優先度係数が最も高いマッチング手法を用いて得られた対応点候補を対応点としてもよい。あるいは、それぞれのマッチング手法を用いてマッチングを行った結果の信頼性を示す値(例えば、テンプレートマッチングであれば相関係数)が最も高い対応点候補を対応点としてもよい。
【0059】
マッチングの信頼度が所定値未満であった場合、表示処理部184は、計測点と複数の対応点候補を表示するためのグラフィック画像信号を生成し、映像信号処理回路12に出力する。映像信号処理回路12は、このグラフィック画像信号とCCU9からの映像信号を合成した表示信号をモニタ4に出力する。モニタ4は、表示信号に基づく画像を表示することにより、計測点と複数の対応点候補が重畳された画像を表示する(ステップS235)。
【0060】
図6は、計測点と複数の対応点候補が重畳された画像の一例を示している。モニタ4の画面に表示された画像600において、左画像600Lには、ユーザが指定した計測点PLが表示され、右画像600Rには、マッチング手法Aに対応した対応点候補PR1、マッチング手法Bに対応した対応点候補PR2、マッチング手法Cに対応した対応点候補PR3が表示されている。それぞれの対応点候補は、その対応点候補の算出に用いたマッチング手法毎に異なる表示形態で表示される。
図6に示す例では、それぞれの対応点候補は、マッチング手法毎に異なる形状で表示されている。それぞれの対応点候補を、その対応点候補の算出に用いたマッチング手法毎に異なる色で表示してもよい。
【0061】
また、それぞれの対応点候補を、その対応点候補の算出に用いたマッチング手法の優先度係数毎に異なる表示形態で表示してもよい。例えば、優先度係数が大きいほど対応点候補が大きく表示されるように、優先度係数に応じた大きさで対応点候補を表示してもよい。あるいは、優先度係数が大きい対応点候補だけを異なる色で表示する、優先度係数が大きい対応点候補だけを点滅させるなど強調して表示してもよい。
【0062】
テンプレートマッチングを用いて対応点候補を算出した場合、相関係数に応じた表示形態でそれぞれの対応点候補を表示してもよい。あるいは、それぞれの対応点候補のエピポーララインからのズレ量に応じた表示形態でそれぞれの対応点候補を表示してもよい。
【0063】
マッチング手法の特性に応じた表示形態でそれぞれの対応点候補を表示してもよい。例えばテンプレートマッチングでは、光学系の光軸に平行な方向に段差がある被写体に対するマッチングの信頼性が相対的に低く、周期性の低い模様を有する被写体に対するマッチングの信頼性が相対的に高いという特性がある。また、濃淡のエッジ部分などの特徴点によるマッチングでは、光学系の光軸に平行な方向に段差がある被写体に対するマッチングの信頼性が相対的に高く、明確な特徴のある模様を有していない被写体に対するマッチングの信頼性が相対的に低いという特性がある。例えば、ユーザの指示に応じて、テンプレートマッチングを用いて算出された対応点候補のみを強調して表示し、あるいは特徴点によるマッチングを用いて算出された対応点候補のみを強調して表示してもよい。
【0064】
複数の対応点候補が表示された後、ユーザは、操作部6を介して、正しいと思う対応点候補を選択する。いずれかの対応点候補が選択されると、対応点決定部185は、選択された対応点候補を対応点に決定する(ステップS240)。上記のように各種の表示形態で対応点候補を表示することによって、ユーザは多角的な指標で対応点の確からしさを確認することができ、より正確に対応点候補を選択することができる。
【0065】
ステップS225,S240で対応点が決定された後、表示処理部184は、決定された対応点を表示するためのグラフィック画像信号を生成し、映像信号処理回路12に出力する。映像信号処理回路12は、このグラフィック画像信号とCCU9からの映像信号を合成した表示信号をモニタ4に出力する。モニタ4は、表示信号に基づく画像を表示することにより、計測点と対応点が重畳された画像を表示する(ステップS230)。
【0066】
図7は、計測点と対応点が重畳された画像の一例を示している。モニタ4の画面に表示された画像600において、左画像600Lには、ユーザが指定した計測点PLが表示され、右画像600Rには、決定された対応点PRが表示される。対応点が表示されると、マッチング処理が終了する。
【0067】
本実施形態では、複数のマッチング手法を用いることで、マッチングの誤対応が起きないマッチング結果が得られやすくなる。マッチング手法によってはマッチングの誤対応が発生しやすい画像が取得された場合でも、その画像に適したマッチング手法を用いてマッチングの誤対応が起きなければ、画像の取り直しを行わなくてよい。また、マッチングの信頼度が高い場合には、自動で対応点が決定されるため、ユーザの手間が増えない。また、マッチングの信頼度が低い場合には、複数のマッチング手法のそれぞれに対応する対応点候補のうちユーザが指定した対応点候補が対応点に決定されるため、手動による対応点の修正に比べて、ユーザの手間が減る。したがって、マッチングの誤対応を減らし、ユーザの手間を軽減することができる。
【0068】
次に、本実施形態の変形例を説明する。
【0069】
(第1の変形例)
第1の変形例は、ステップS235で複数の対応点候補を表示する方法に関する。第1の変形例では、3種類のマッチング手法を用いて3つの対応点候補を算出し、ステップS235で3つの対応点候補を表示した後の処理を説明する。
図8は、ステップS235で表示される画像の一例を示している。計測点PLと3つの対応点候補PR1,PR2,PR3が表示されている。いずれの対応点候補も、計測点PLの位置に正確に対応する位置にない。ユーザは、操作部6を介して指示を入力することにより、対応点候補を増やすことができる。
【0070】
新たな対応点候補を算出する指示が入力されると、対応点候補算出部182は、既に用いたマッチング手法とは異なるマッチング手法を用いて、新たな対応点候補を算出する。このとき、複数のマッチング手法を用いて複数の対応点候補を新たに算出してもよい。表示処理部184は、新たに算出された対応点候補を表示するためのグラフィック画像信号を生成し、映像信号処理回路12に出力する。以降、前述した処理と同様にして、画像がモニタ4の画面に表示される。
【0071】
図9は、新たに算出された対応点候補を含む画像の一例を示している。
図8に示す画像と比べて、対応点候補PR4,PR5,PR6が追加されている。新たに算出された対応点候補PR4が、計測点PLに対応する位置にあることが分かる。この場合、ユーザが対応点候補PR4を選択すると、対応点決定部185は、選択された対応点候補PR4を対応点に決定する。
【0072】
以下のようにして新たな対応点候補を算出してもよい。テンプレートマッチングを行うマッチング手法では、相関係数が最も高い点が対応点候補となる。対応点候補算出部182は、ステップS205でテンプレートマッチングにより対応点候補を算出した場合、そのときに算出した相関係数が上位の1または複数の点を新たな対応点候補とする。
【0073】
上記のように対応点候補を増やすことで、計測点の位置に正確に対応する位置にある対応点候補が算出される可能性が高くなり、画像の取り直しや手動による対応点の修正などのユーザの手間が発生しにくくなる。ステップS235で複数の対応点候補を表示した後、ユーザによって新たな対応点候補の算出が指示されたときに対応点候補を新たに算出してもよいし、ステップS205において、ステップS235で表示する対応点候補以外の対応点候補についても予め算出しておき、ステップS235で複数の対応点候補を表示した後、ユーザによって新たな対応点候補の表示が指示されたときに新たな対応点候補を表示してもよい。また、ユーザの指示に基づいて新たな対応点候補の算出と表示を繰り返し行えるようにしてもよい。
【0074】
上記のように対応点候補を増やした結果、対応点候補の数が増えすぎると、ユーザが対応点候補の選択を行うのが面倒になる。このため、以下のようにしてもよい。
【0075】
複数の対応点候補が重複する場合(複数の対応点候補の2次元座標が一致する、または画像上の距離が所定距離以下である場合)、それらの対応点候補の信頼性が高いことをユーザに知らせるため、重複する対応点候補を強調して表示してもよい。例えば、対応点候補算出部182は、ステップS235で表示された複数の対応点候補および新たな対応点候補を含む全ての対応点候補同士の距離を算出し、重複する対応点候補があるか否かを判定する。複数の対応点候補が重複する場合、表示処理部184は、重複する対応点候補を強調して表示するためのグラフィック画像信号を生成し、映像信号処理回路12に出力する。以降、前述した処理と同様にして、画像がモニタ4の画面に表示される。
【0076】
図10は、新たに算出された対応点候補を含む画像の一例を示している。
図8に示す画像と比べて、対応点候補PR4,PR5,PR6が追加されており、対応点候補PR4,PR5が重なり、他の対応点候補よりも大きく表示されている。重なった複数の対応点候補を強調して表示する方法は他の方法でもよく、異なる色で表示する、点滅させるなどの方法を用いてもよい。
【0077】
上記のように、重複する対応点候補が強調されるので、ユーザは信頼性の高い対応点候補を識別しやすくなる。したがって、対応点候補の数が増えてもユーザが対応点候補を選択しやすくなる。
【0078】
上記のように新たに算出された対応点候補のうち、ステップS235で表示された複数の対応点候補および新たに算出された他の対応点候補のいずれかと重複する対応点候補(2次元座標が一致する対応点候補、または画像上の距離が所定距離以下である対応点候補)だけを表示し、そうでない対応点候補を表示しないようにしてもよい。すなわち、ステップS235で表示された複数の対応点候補はそのまま表示され続けるが、新たに算出された対応点候補は、いずれかの対応点候補と重複する場合のみ表示される。
【0079】
例えば、対応点候補算出部182は、新たに算出された対応点候補と、ステップS235で表示された複数の対応点候補および新たに算出された他の対応点候補との間の距離を算出し、新たに算出された対応点候補がいずれかの対応点候補と重複するか否かを判定する。新たに算出された対応点候補がいずれかの対応点候補と重複する場合、表示処理部184は、重複する対応点候補を表示するためのグラフィック画像信号を生成し、映像信号処理回路12に出力する。以降、前述した処理と同様にして、画像がモニタ4の画面に表示される。
【0080】
上記のように、新たに算出された対応点候補については、いずれかの対応点候補と重複する場合のみ表示することによって、対応点候補の数が増えてもユーザが対応点候補を選択しやすくなる。新たな対応点候補の算出と表示を繰り返し行う場合には、新たに算出された対応点候補を表示する際、新たに算出された対応点候補と、表示中の対応点候補および新たに算出された他の対応点候補との間の距離を算出し、新たに算出された対応点候補がいずれかの対応点候補と重複するか否かを判定すればよい。
【0081】
表示する対応点候補の数に上限を設定し、一定数の対応点候補が表示されるようにしてもよい。例えば、対応点候補算出部182は、ステップS235で表示された複数の対応点候補と、新たに算出された対応点候補との数の合計が所定の数以上であるか否かを判定する。合計が所定の数未満であった場合、新たに算出された対応点候補を含む全ての対応点候補が表示される。また、合計が所定の数以上であった場合、表示処理部184は、ステップS235で表示された複数の対応点候補のうち、上記の合計と所定の数との差分に等しい数の対応点候補を非表示とし、新たに算出された対応点候補を表示するためのグラフィック画像信号を生成し、映像信号処理回路12に出力する。以降、前述した処理と同様にして、画像がモニタ4の画面に表示される。表示する対応点候補の数の上限をユーザが設定できるようにしてもよい。
【0082】
上記のように、表示される対応点候補の数を一定に保つことによって、対応点候補の数が増えても、画像の視認性の低下を防止することができ、ユーザが対応点候補を選択しやすくなる。新たな対応点候補の算出と表示を繰り返し行う場合には、新たに算出された対応点候補を表示する際、表示される対応点候補の数が一定となるように、表示中の対応点候補のうちのいずれか(例えば、最も古い対応点候補や、相関係数が最も小さい対応点候補、エピポーララインからのズレ量が大きい候補など)を非表示とすればよい。
【0083】
(第2の変形例)
第2の変形例は、ステップS235で複数の対応点候補を表示する方法に関する。第2の変形例では、5種類のマッチング手法を用いて5つの対応点候補を算出し、ステップS235で5つの対応点候補を表示した後の処理を説明する。
図11は、ステップS235で表示される画像の一例を示している。計測点PLと5つの対応点候補PR1,PR2,PR3,PR4,PR5が表示されている。3つの対応点候補PR1,PR2,PR4は同一の位置にある。
図11では3つの対応点候補が重複するため、画像の視認性が低下する。このため、複数の対応点候補が重複する場合(複数の対応点候補の2次元座標が一致する、または画像上の距離が所定距離以下である場合)、それらの対応点候補を同一の表示形態で表示してもよい。
【0084】
例えば、対応点候補算出部182は、複数の対応点候補同士の画像上の距離を算出し、対応点候補が重複するか否かを判定する。重複する複数の対応点候補がある場合、表示処理部184は、重複する対応点候補を同一のグラフィック(マーク)で表示するためのグラフィック画像信号を生成し、映像信号処理回路12に出力する。以降、前述した処理と同様にして、画像がモニタ4の画面に表示される。
【0085】
図12は、重複する対応点候補を含む画像の一例を示している。
図12では、重複する3つの対応点候補を示すマークM1と、
図11の対応点候補PR3を示すマークM2と、
図11の対応点候補PR5を示すマークM3とが表示されている。重複する3つの対応点候補は同一のマークM1として表示され、マークM1は、マークM2,M3を構成する線よりも太い線で表示され、強調されている。また、それぞれのマークの近傍には、そのマークに対応する対応点候補の数が表示されている。例えば、3つの対応点候補を示すマークM1の近傍には「3」が表示され、1つの対応点候補を示すマークM2,M3の近傍には「1」が表示されている。
【0086】
上記のように、重複する対応点候補が同一のマークで表示されるので、画像の視認性の低下を低減することができる。また、対応点候補の数がマークの近傍に表示されるので、対応点候補が重複しているか否か、すなわちどの対応点候補の信頼性が高いのかをユーザに分かりやすく知らせることができる。
【0087】
(第3の変形例)
第3の変形例はマッチング手法の優先度係数の算出方法に関する。過去の対応点候補の算出結果に基づいて優先度係数を算出してもよい。例えば、信頼度算出部183は、複数のマッチング手法を用いて対応点候補を算出した際、算出された対応点候補のうち、視差量が中央値である対応点候補を中心とする所定距離R(例えば3ピクセル)内に入っている対応点候補についてはマッチングが成功したとみなし、その他の対応点候補についてはマッチングが失敗したとみなす。信頼度算出部183は、複数のマッチング手法のそれぞれに対して、マッチングの成功・失敗の結果を保持しておき、複数の計測点に対する対応点候補の算出結果に基づいて、複数のマッチング手法のそれぞれの優先度係数を算出する。
【0088】
例えば、10点以上の計測点に対する対応点候補が算出されたら、信頼度算出部183はマッチング手法毎に優先度係数を算出する。優先度係数は、対応点候補を算出した回数に対する、マッチングが成功した回数の割合であるマッチングの成功率として算出される。
【0089】
上記のように、過去の対応点候補の算出結果に基づいて優先度係数を算出することによって、過去のマッチング結果を信頼度の算出や対応点の決定に反映させ、マッチングの信頼性を向上させることができる。
【0090】
上記の方法を用いて、マッチングの成功率に影響する条件毎に優先度係数を算出してもよい。マッチングの成功率に影響する条件は、計測対象や、画像データに基づく条件などである。計測対象は、特定の被写体であってもよいし、被写体中の特定の領域などであってもよい。画像データに基づく条件は、物体距離、テクスチャ値、輝度値などである。画像データに基づく条件は、画像にハレーションが含まれるか否かという条件であってもよい。信頼度算出部183は、複数のマッチング手法のそれぞれについて、上記の条件毎に優先度係数を算出して管理する。つまり、複数のマッチング手法のそれぞれについて、計測対象毎の優先度係数、物体距離毎の優先度係数、テクスチャ値毎の優先度係数、輝度値毎の優先度係数が算出される。
【0091】
例えば、信頼度算出部183は、複数のマッチング手法を用いて対応点候補を算出した際、上記のようにして、マッチング手法毎にマッチングが成功したか失敗したかを判定する。信頼度算出部183は、マッチング手法毎に、そのときの計測対象の情報と関連付けてマッチングの成功・失敗の結果を保持する。あるいは、信頼度算出部183は、そのとき対応点候補の算出に用いた画像データに基づいて物体距離、テクスチャ値、輝度値のいずれかを算出し、マッチング手法毎に、算出した値(あるいは算出した値を含む所定の範囲)と関連付けてマッチングの成功・失敗の結果を保持する。物体距離を算出する場合、3次元座標の算出が必要となるので、
図4のステップS3で行われる処理がステップS2のマッチング処理内で行われる。
【0092】
信頼度算出部183は、それぞれのマッチング手法の優先度係数を算出する際、同一の計測対象について、あるいは同一の物体距離、テクスチャ値、輝度値について(あるいはそれらに関する同一の範囲について)のマッチングの成功・失敗の結果に基づいて、条件毎に優先度係数を算出する。例えば、ユーザは、特定の計測対象の計測を行う場合に、事前に同一の計測対象に対して繰り返し計測点を設定して対応点候補の算出を行い、複数のマッチング手法のそれぞれの優先度係数の算出を行う。
【0093】
上記のように、条件毎に優先度係数を設けることで、マッチングの信頼性を向上させることができる。
【0094】
上述したように、本実施形態によれば、複数のマッチング手法を用いて複数の対応点候補を算出し、マッチングの信頼度が低い場合には、ユーザが選択した対応点候補を対応点に決定し、マッチングの信頼度が高い場合には、複数の対応点候補から自動で選択した対応点候補を対応点に決定することによって、マッチングの誤対応を減らし、ユーザの手間を軽減することができる。
【0095】
また、マッチング手法の優先度係数を用いて、マッチングの信頼度の算出あるいは対応点の決定を行うことによって、マッチングの信頼度あるいは対応点に対して、特定のマッチング手法によるマッチングの結果をより大きく反映させることができる。例えば、特定の計測対象を撮影した画像を用いる場合に、マッチングの信頼度あるいは対応点に対して、特定の計測対象に適したマッチングの結果をより大きく反映させることができる。
【0096】
また、過去の対応点候補の算出結果に基づいて、マッチング手法の優先度係数を算出することによって、過去のマッチング結果をマッチングの信頼度の算出や対応点の決定に反映させ、マッチングの信頼性を向上させることができる。さらに、対応点候補を算出したときの計測対象、物体距離、テクスチャ値、輝度値などの条件毎に優先度係数を設けることによって、マッチングの信頼性を向上させることができる。
【0097】
また、複数のマッチング手法を用いて算出した複数の対応点候補を表示する際、重複する対応点候補を同一の表示形態で表示することによって、画像の視認性の低下を低減することができる。さらに、重複する対応点候補の数を対応点候補の近傍に表示することによって、対応点候補が重複しているか否か、すなわちどの対応点候補の信頼性が高いのかをユーザに分かりやすく知らせることができる。
【0098】
また、複数のマッチング手法を用いて算出した複数の対応点候補を表示する際、複数のマッチング手法のそれぞれに対応する優先度係数に応じた表示形態で対応点候補を表示することによって、ユーザに対して、特定のマッチング手法によるマッチングの結果をより明確に知らせることができる。例えば、特定の計測対象を撮影した画像を用いる場合に、特定の計測対象に適したマッチング手法を用いて算出された対応点候補をより大きく表示することによって、ユーザがより信頼性の高い対応点候補を選択しやすくなる。
【0099】
また、複数のマッチング手法を用いて複数の対応点候補を算出した後、新たな対応点候補の算出がユーザから指示された場合に、複数のマッチング手法とは異なるマッチング手法を用いて、新たな対応点候補を算出することによって、画像の取り直しや手動による対応点の修正などのユーザの手間を軽減することができる。
【0100】
また、新たに算出された対応点候補を表示する際、新たに算出された対応点候補のうち、他の対応点候補と重複する対応点候補のみを表示することによって、対応点候補の数が増えても、ユーザが対応点候補を選択しやすくなる。
【0101】
また、新たに算出された対応点候補を表示する際、表示される対応点候補の数を一定に保つことによって、画像の視認性の低下を防止することができ、ユーザが対応点候補を選択しやすくなる。
【0102】
以上、図面を参照して本発明の実施形態について詳述してきたが、具体的な構成は上記の実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。