IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

7045963計測装置の作動方法、計測装置、およびプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-03-24
(45)【発行日】2022-04-01
(54)【発明の名称】計測装置の作動方法、計測装置、およびプログラム
(51)【国際特許分類】
   G01B 11/24 20060101AFI20220325BHJP
   G02B 23/24 20060101ALN20220325BHJP
【FI】
G01B11/24 K
G02B23/24 B
【請求項の数】 25
(21)【出願番号】P 2018161851
(22)【出願日】2018-08-30
(65)【公開番号】P2020034442
(43)【公開日】2020-03-05
【審査請求日】2021-03-11
(73)【特許権者】
【識別番号】000000376
【氏名又は名称】オリンパス株式会社
(74)【代理人】
【識別番号】100106909
【弁理士】
【氏名又は名称】棚井 澄雄
(74)【代理人】
【識別番号】100094400
【氏名又は名称】鈴木 三義
(74)【代理人】
【識別番号】100086379
【弁理士】
【氏名又は名称】高柴 忠夫
(74)【代理人】
【識別番号】100139686
【弁理士】
【氏名又は名称】鈴木 史朗
(72)【発明者】
【氏名】山本 直樹
【審査官】山▲崎▼ 和子
(56)【参考文献】
【文献】国際公開第2015/056471(WO,A1)
【文献】米国特許出願公開第2016/0356889(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01B 11/00-11/30
G02B 23/24-23/26
(57)【特許請求の範囲】
【請求項1】
画像取得部が被写体の第1の画像を取得する画像取得ステップと、
前記第1の画像または前記第1の画像に関連する第2の画像を表示制御部がディスプレイに表示する第1の表示ステップと、
読み出し部が1つ以上の基準情報を記憶媒体から読み出す読み出しステップであって、前記基準情報は前記被写体上の2点の基準位置を示し、前記2点の前記基準位置は前記被写体の大きさの基準値を規定し、前記記憶媒体は1つ以上の前記基準情報を記憶する読み出しステップと、
前記表示制御部が1つ以上の前記基準情報を前記ディスプレイに表示する第2の表示ステップと、
前記第1の画像または前記第2の画像が前記ディスプレイに表示され、かつ前記基準情報が前記ディスプレイに表示された後、設定部が前記第1の画像または前記第2の画像に前記2点の前記基準位置を設定する設定ステップと、
設定された前記2点の前記基準位置と、前記2点の前記基準位置が設定された画像に設定された2点以上の計測位置と、前記基準値とに基づいて、計測部が前記被写体の前記大きさを計測する計測ステップと、
を有することを特徴とする計測装置の作動方法。
【請求項2】
前記基準値は前記基準情報に関連付けられ、
前記表示制御部は、前記第2の表示ステップにおいて、前記基準情報および前記基準値を前記ディスプレイに表示する
ことを特徴とする請求項1に記載の計測装置の作動方法。
【請求項3】
前記基準値は前記基準情報に関連付けられ、
前記ディスプレイに表示された前記基準情報のうちユーザーによって指定された1つの前記基準情報を選択部が選択する選択ステップをさらに有し、
前記計測部は、前記計測ステップにおいて、前記選択部によって選択された前記基準情報に関連付けられた前記基準値を使用する
ことを特徴とする請求項1に記載の計測装置の作動方法。
【請求項4】
前記記憶媒体は、複数の被写体の各々に対する1つ以上の前記基準情報を記憶し、
前記読み出し部は、前記読み出しステップにおいて、前記複数の被写体に含まれる1つの被写体の情報に基づいて、前記1つの被写体に対する1つ以上の前記基準情報を前記記憶媒体から読み出す
ことを特徴とする請求項1に記載の計測装置の作動方法。
【請求項5】
前記第1の画像または前記第2の画像において前記2点の前記基準位置を特定部が特定する特定ステップをさらに有することを特徴とする請求項1に記載の計測装置の作動方法。
【請求項6】
前記特定部によって特定された前記2点の前記基準位置を示す基準位置情報を前記表示制御部が前記ディスプレイに表示する第3の表示ステップをさらに有することを特徴とする請求項5に記載の計測装置の作動方法。
【請求項7】
前記基準情報は、前記2点の前記基準位置を含む基準対象の画像であることを特徴とする請求項5に記載の計測装置の作動方法。
【請求項8】
前記特定部は、前記特定ステップにおいて、前記基準対象の前記画像と最も類似する類似領域を前記第1の画像または前記第2の画像において特定し、かつ前記基準対象の前記画像の前記2点の前記基準位置に基づいて前記類似領域の前記2点の前記基準位置を特定することを特徴とする請求項7に記載の計測装置の作動方法。
【請求項9】
前記ディスプレイに表示された前記基準情報のうちユーザーによって指定された1つの前記基準情報を選択部が選択する選択ステップをさらに有し、
前記類似領域は、前記選択部によって選択された前記基準情報に対応する前記基準対象の前記画像と最も類似する
ことを特徴とする請求項8に記載の計測装置の作動方法。
【請求項10】
復元部が前記被写体の3次元形状を復元する復元ステップをさらに有し、
前記基準情報は、前記2点の前記基準位置を含む基準対象の3次元形状に関連付けられ、
前記特定部は、前記特定ステップにおいて、前記基準対象の前記3次元形状と最も類似する類似領域を前記被写体の前記3次元形状において特定し、かつ前記基準対象の前記3次元形状の前記2点の前記基準位置に基づいて前記類似領域の前記2点の前記基準位置を特定する
ことを特徴とする請求項5に記載の計測装置の作動方法。
【請求項11】
前記ディスプレイに表示された前記基準情報のうちユーザーによって指定された1つの前記基準情報を選択部が選択する選択ステップをさらに有し、
前記類似領域は、前記選択部によって選択された前記基準情報に関連付けられた前記基準対象の前記3次元形状と最も類似する
ことを特徴とする請求項10に記載の計測装置の作動方法。
【請求項12】
前記ディスプレイに表示された前記第1の画像または前記第2の画像においてユーザーによって指定された領域を指定領域として選択部が選択する選択ステップをさらに有し、
前記特定部は、前記特定ステップにおいて、前記指定領域と最も類似する前記基準対象の前記画像を特定し、かつ特定された前記画像の前記2点の前記基準位置に基づいて前記指定領域の前記2点の前記基準位置を特定する
ことを特徴とする請求項7に記載の計測装置の作動方法。
【請求項13】
被写体の第1の画像を取得する画像取得部と、
1つ以上の基準情報を記憶媒体から読み出す読み出し部であって、前記基準情報は前記被写体上の2点の基準位置を示し、前記2点の前記基準位置は前記被写体の大きさの基準値を規定し、前記記憶媒体は1つ以上の前記基準情報を記憶する読み出し部と、
前記第1の画像または前記第1の画像に関連する第2の画像をディスプレイに表示し、かつ1つ以上の前記基準情報を前記ディスプレイに表示する表示制御部と、
前記第1の画像または前記第2の画像が前記ディスプレイに表示され、かつ前記基準情報が前記ディスプレイに表示された後、前記第1の画像または前記第2の画像に前記2点の前記基準位置を設定する設定部と、
設定された前記2点の前記基準位置と、前記2点の前記基準位置が設定された画像に設定された2点以上の計測位置と、前記基準値とに基づいて、前記被写体の前記大きさを計測する計測部と、
を有することを特徴とする計測装置。
【請求項14】
前記基準値は前記基準情報に関連付けられ、
前記表示制御部は、前記基準情報および前記基準値を前記ディスプレイに表示する
ことを特徴とする請求項13に記載の計測装置。
【請求項15】
前記基準値は前記基準情報に関連付けられ、
前記ディスプレイに表示された前記基準情報のうちユーザーによって指定された1つの前記基準情報を選択する選択部をさらに有し、
前記計測部は、前記選択部によって選択された前記基準情報に関連付けられた前記基準値を使用する
ことを特徴とする請求項13に記載の計測装置。
【請求項16】
前記記憶媒体は、複数の被写体の各々に対する1つ以上の前記基準情報を記憶し、
前記読み出し部は、前記複数の被写体に含まれる1つの被写体の情報に基づいて、前記1つの被写体に対する1つ以上の前記基準情報を前記記憶媒体から読み出す
ことを特徴とする請求項13に記載の計測装置。
【請求項17】
前記第1の画像または前記第2の画像において前記2点の前記基準位置を特定する特定部をさらに有する
ことを特徴とする請求項13に記載の計測装置。
【請求項18】
前記表示制御部は、前記特定部によって特定された前記2点の前記基準位置を示す基準位置情報を前記ディスプレイに表示する
ことを特徴とする請求項17に記載の計測装置。
【請求項19】
前記基準情報は、前記2点の前記基準位置を含む基準対象の画像であることを特徴とする請求項17に記載の計測装置。
【請求項20】
前記特定部は、前記基準対象の前記画像と最も類似する類似領域を前記第1の画像または前記第2の画像において特定し、かつ前記基準対象の前記画像の前記2点の前記基準位置に基づいて前記類似領域の前記2点の前記基準位置を特定することを特徴とする請求項19に記載の計測装置。
【請求項21】
前記ディスプレイに表示された前記基準情報のうちユーザーによって指定された1つの前記基準情報を選択する選択部をさらに有し、
前記類似領域は、前記選択部によって選択された前記基準情報に対応する前記基準対象の前記画像と最も類似する
ことを特徴とする請求項20に記載の計測装置。
【請求項22】
前記被写体の3次元形状を復元する復元部をさらに有し、
前記基準情報は、前記2点の前記基準位置を含む基準対象の3次元形状に関連付けられ、
前記特定部は、前記基準対象の前記3次元形状と最も類似する類似領域を前記被写体の前記3次元形状において特定し、かつ前記基準対象の前記3次元形状の前記2点の前記基準位置に基づいて前記類似領域の前記2点の前記基準位置を特定する
ことを特徴とする請求項17に記載の計測装置。
【請求項23】
前記ディスプレイに表示された前記基準情報のうちユーザーによって指定された1つの前記基準情報を選択する選択部をさらに有し、
前記類似領域は、前記選択部によって選択された前記基準情報に関連付けられた前記基準対象の前記3次元形状と最も類似する
ことを特徴とする請求項22に記載の計測装置。
【請求項24】
前記ディスプレイに表示された前記第1の画像または前記第2の画像においてユーザーによって指定された領域を指定領域として選択する選択部をさらに有し、
前記特定部は、前記指定領域と最も類似する前記基準対象の前記画像を特定し、かつ特定された前記画像の前記2点の前記基準位置に基づいて前記指定領域の前記2点の前記基準位置を特定する
ことを特徴とする請求項19に記載の計測装置。
【請求項25】
被写体の第1の画像を取得する画像取得ステップと、
前記第1の画像または前記第1の画像に関連する第2の画像をディスプレイに表示する第1の表示ステップと、
1つ以上の基準情報を記憶媒体から読み出す読み出しステップであって、前記基準情報は前記被写体上の2点の基準位置を示し、前記2点の前記基準位置は前記被写体の大きさの基準値を規定し、前記記憶媒体は1つ以上の前記基準情報を記憶する読み出しステップと、
1つ以上の前記基準情報を前記ディスプレイに表示する第2の表示ステップと、
前記第1の画像または前記第2の画像が前記ディスプレイに表示され、かつ前記基準情報が前記ディスプレイに表示された後、前記第1の画像または前記第2の画像に前記2点の前記基準位置を設定する設定ステップと、
設定された前記2点の前記基準位置と、前記2点の前記基準位置が設定された画像に設定された2点以上の計測位置と、前記基準値とに基づいて、前記被写体の前記大きさを計測する計測ステップと、
をコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、計測装置の作動方法、計測装置、およびプログラムに関する。
【背景技術】
【0002】
ボイラー、パイプ、および航空機エンジン等の内部の傷および腐食等の観察および検査に工業用の内視鏡装置が使用されている。この内視鏡装置では、多様な観察物を観察および検査するための複数種類の光学アダプターが用意されている。光学アダプターは、内視鏡の先端部分に装着され、かつ交換可能である。このような内視鏡装置を使用した検査において、被写体の欠陥および傷の大きさを定量的に計測したいという要望がある。この要望に応えるために、3次元計測機能が搭載された内視鏡装置が存在する。
【0003】
従来の製品では、スケーラー計測または基準測長と呼ばれる方法で計測を実行する機能が搭載されている。その方法では、観察画面内で長さが既知である基準対象の2点が基準位置(基準位置)として設定され、かつ2点間の長さが基準値(基準寸法)として設定される。その後、計測位置が設定され、基準値に基づいて計測対象の長さが計測される。
【0004】
スケーラー計測または基準測長では、基準対象と計測対象とが、光軸に垂直な共通の平面上に存在する場合に計測精度が高い。しかしながら、奥行きがある対象の画像を使用する場合には計測精度が低い。Structure from Motionと呼ばれる技術と、基準値の入力とを組み合わせた計測方法(3Dスケーラー計測)が開示されている。この計測方法を使用することにより、単眼で撮影された画像に基づく3次元計測が可能になる。
【0005】
3Dスケーラー計測を使用して対象の3次元形状を復元するシステムが特許文献1に開示されている。特許文献1に開示されたシステムにおいて、以下の方法により3次元形状が復元される。互いに異なる角度での撮影により複数枚の画像が取得される。複数枚の画像の各々から特徴点が抽出される。複数の特徴点は互いに対応付けられる。画像中の1箇所の長さのデータが与えられる。3次元空間における物体表面上の点の位置関係と1箇所の長さとに基づいて、3次元形状が復元される。
【先行技術文献】
【特許文献】
【0006】
【文献】特許第4372328号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
基準位置となるべき対象が検査のマニュアルに記載されている。しかしながら、ユーザーには、画面に表示された画像上の基準位置が容易には分からない場合がある。そのため、正確な基準位置を設定することが難しい場合がある。
【0008】
本発明は、基準位置をユーザーに知らせることができる計測装置の作動方法、計測装置、およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明は、画像取得部が被写体の第1の画像を取得する画像取得ステップと、前記第1の画像または前記第1の画像に関連する第2の画像を表示制御部がディスプレイに表示する第1の表示ステップと、読み出し部が1つ以上の基準情報を記憶媒体から読み出す読み出しステップであって、前記基準情報は前記被写体上の2点の基準位置を示し、前記2点の前記基準位置は前記被写体の大きさの基準値を規定し、前記記憶媒体は1つ以上の前記基準情報を記憶する読み出しステップと、前記表示制御部が1つ以上の前記基準情報を前記ディスプレイに表示する第2の表示ステップと、前記第1の画像または前記第2の画像が前記ディスプレイに表示され、かつ前記基準情報が前記ディスプレイに表示された後、設定部が前記第1の画像または前記第2の画像に前記2点の前記基準位置を設定する設定ステップと、設定された前記2点の前記基準位置と、前記2点の前記基準位置が設定された画像に設定された2点以上の計測位置と、前記基準値とに基づいて、計測部が前記被写体の前記大きさを計測する計測ステップと、を有することを特徴とする計測装置の作動方法である。
【0010】
本発明の計測装置の作動方法において、前記基準値は前記基準情報に関連付けられ、前記表示制御部は、前記第2の表示ステップにおいて、前記基準情報および前記基準値を前記ディスプレイに表示することを特徴とする。
【0011】
本発明の計測装置の作動方法において、前記基準値は前記基準情報に関連付けられ、前記ディスプレイに表示された前記基準情報のうちユーザーによって指定された1つの前記基準情報を選択部が選択する選択ステップをさらに有し、前記計測部は、前記計測ステップにおいて、前記選択部によって選択された前記基準情報に関連付けられた前記基準値を使用することを特徴とする。
【0012】
本発明の計測装置の作動方法において、前記記憶媒体は、複数の被写体の各々に対する1つ以上の前記基準情報を記憶し、前記読み出し部は、前記読み出しステップにおいて、前記複数の被写体に含まれる1つの被写体の情報に基づいて、前記1つの被写体に対する1つ以上の前記基準情報を前記記憶媒体から読み出すことを特徴とする。
【0013】
本発明の計測装置の作動方法は、前記第1の画像または前記第2の画像において前記2点の前記基準位置を特定部が特定する特定ステップをさらに有することを特徴とする。
【0014】
本発明の計測装置の作動方法は、前記特定部によって特定された前記2点の前記基準位置を示す基準位置情報を前記表示制御部が前記ディスプレイに表示する第3の表示ステップをさらに有することを特徴とする。
【0015】
本発明の計測装置の作動方法において、前記基準情報は、前記2点の前記基準位置を含む基準対象の画像であることを特徴とする。
【0016】
本発明の計測装置の作動方法において、前記特定部は、前記特定ステップにおいて、前記基準対象の前記画像と最も類似する類似領域を前記第1の画像または前記第2の画像において特定し、かつ前記基準対象の前記画像の前記2点の前記基準位置に基づいて前記類似領域の前記2点の前記基準位置を特定することを特徴とする。
【0017】
本発明の計測装置の作動方法は、前記ディスプレイに表示された前記基準情報のうちユーザーによって指定された1つの前記基準情報を選択部が選択する選択ステップをさらに有し、前記類似領域は、前記選択部によって選択された前記基準情報に対応する前記基準対象の前記画像と最も類似することを特徴とする。
【0018】
本発明の計測装置の作動方法は、復元部が前記被写体の3次元形状を復元する復元ステップをさらに有し、前記基準情報は、前記2点の前記基準位置を含む基準対象の3次元形状に関連付けられ、前記特定部は、前記特定ステップにおいて、前記基準対象の前記3次元形状と最も類似する類似領域を前記被写体の前記3次元形状において特定し、かつ前記基準対象の前記3次元形状の前記2点の前記基準位置に基づいて前記類似領域の前記2点の前記基準位置を特定することを特徴とする。
【0019】
本発明の計測装置の作動方法は、前記ディスプレイに表示された前記基準情報のうちユーザーによって指定された1つの前記基準情報を選択部が選択する選択ステップをさらに有し、前記類似領域は、前記選択部によって選択された前記基準情報に関連付けられた前記基準対象の前記3次元形状と最も類似することを特徴とする。
【0020】
本発明の計測装置の作動方法は、前記ディスプレイに表示された前記第1の画像または前記第2の画像においてユーザーによって指定された領域を指定領域として選択部が選択する選択ステップをさらに有し、前記特定部は、前記特定ステップにおいて、前記指定領域と最も類似する前記基準対象の前記画像を特定し、かつ特定された前記画像の前記2点の前記基準位置に基づいて前記指定領域の前記2点の前記基準位置を特定することを特徴とする。
【0021】
本発明は、被写体の第1の画像を取得する画像取得部と、1つ以上の基準情報を記憶媒体から読み出す読み出し部であって、前記基準情報は前記被写体上の2点の基準位置を示し、前記2点の前記基準位置は前記被写体の大きさの基準値を規定し、前記記憶媒体は1つ以上の前記基準情報を記憶する読み出し部と、前記第1の画像または前記第1の画像に関連する第2の画像をディスプレイに表示し、かつ1つ以上の前記基準情報を前記ディスプレイに表示する表示制御部と、前記第1の画像または前記第2の画像が前記ディスプレイに表示され、かつ前記基準情報が前記ディスプレイに表示された後、前記第1の画像または前記第2の画像に前記2点の前記基準位置を設定する設定部と、設定された前記2点の前記基準位置と、前記2点の前記基準位置が設定された画像に設定された2点以上の計測位置と、前記基準値とに基づいて、前記被写体の前記大きさを計測する計測部と、を有することを特徴とする計測装置である。
【0022】
本発明の計測装置において、前記基準値は前記基準情報に関連付けられ、前記表示制御部は、前記基準情報および前記基準値を前記ディスプレイに表示することを特徴とする。
【0023】
本発明の計測装置において、前記基準値は前記基準情報に関連付けられ、前記ディスプレイに表示された前記基準情報のうちユーザーによって指定された1つの前記基準情報を選択する選択部をさらに有し、前記計測部は、前記選択部によって選択された前記基準情報に関連付けられた前記基準値を使用することを特徴とする。
【0024】
本発明の計測装置において、前記記憶媒体は、複数の被写体の各々に対する1つ以上の前記基準情報を記憶し、前記読み出し部は、前記複数の被写体に含まれる1つの被写体の情報に基づいて、前記1つの被写体に対する1つ以上の前記基準情報を前記記憶媒体から読み出すことを特徴とする。
【0025】
本発明の計測装置は、前記第1の画像または前記第2の画像において前記2点の前記基準位置を特定する特定部をさらに有することを特徴とする。
【0026】
本発明の計測装置において、前記表示制御部は、前記特定部によって特定された前記2点の前記基準位置を示す基準位置情報を前記ディスプレイに表示することを特徴とする。
【0027】
本発明の計測装置において、前記基準情報は、前記2点の前記基準位置を含む基準対象の画像であることを特徴とする。
【0028】
本発明の計測装置において、前記特定部は、前記基準対象の前記画像と最も類似する類似領域を前記第1の画像または前記第2の画像において特定し、かつ前記基準対象の前記画像の前記2点の前記基準位置に基づいて前記類似領域の前記2点の前記基準位置を特定することを特徴とする。
【0029】
本発明の計測装置は、前記ディスプレイに表示された前記基準情報のうちユーザーによって指定された1つの前記基準情報を選択する選択部をさらに有し、前記類似領域は、前記選択部によって選択された前記基準情報に対応する前記基準対象の前記画像と最も類似することを特徴とする。
【0030】
本発明の計測装置は、前記被写体の3次元形状を復元する復元部をさらに有し、前記基準情報は、前記2点の前記基準位置を含む基準対象の3次元形状に関連付けられ、前記特定部は、前記基準対象の前記3次元形状と最も類似する類似領域を前記被写体の前記3次元形状において特定し、かつ前記基準対象の前記3次元形状の前記2点の前記基準位置に基づいて前記類似領域の前記2点の前記基準位置を特定することを特徴とする。
【0031】
本発明の計測装置は、前記ディスプレイに表示された前記基準情報のうちユーザーが指定した1つの前記基準情報を選択する選択部をさらに有し、前記類似領域は、前記選択部によって選択された前記基準情報に関連付けられた前記基準対象の前記3次元形状と最も類似することを特徴とする。
【0032】
本発明の計測装置は、前記ディスプレイに表示された前記第1の画像または前記第2の画像においてユーザーによって指定された領域を指定領域として選択する選択部をさらに有し、前記特定部は、前記指定領域と最も類似する前記基準対象の前記画像を特定し、かつ特定された前記画像の前記2点の前記基準位置に基づいて前記指定領域の前記2点の前記基準位置を特定することを特徴とする。
【0033】
本発明は、被写体の第1の画像を取得する画像取得ステップと、前記第1の画像または前記第1の画像に関連する第2の画像をディスプレイに表示する第1の表示ステップと、1つ以上の基準情報を記憶媒体から読み出す読み出しステップであって、前記基準情報は前記被写体上の2点の基準位置を示し、前記2点の前記基準位置は前記被写体の大きさの基準値を規定し、前記記憶媒体は1つ以上の前記基準情報を記憶する読み出しステップと、1つ以上の前記基準情報を前記ディスプレイに表示する第2の表示ステップと、前記第1の画像または前記第2の画像が前記ディスプレイに表示され、かつ前記基準情報が前記ディスプレイに表示された後、前記第1の画像または前記第2の画像に前記2点の前記基準位置を設定する設定ステップと、設定された前記2点の前記基準位置と、前記2点の前記基準位置が設定された画像に設定された2点以上の計測位置と、前記基準値とに基づいて、前記被写体の前記大きさを計測する計測ステップと、をコンピュータに実行させるためのプログラムである。
【発明の効果】
【0034】
本発明によれば、計測装置の作動方法、計測装置、およびプログラムは、基準位置をユーザーに知らせることができる。
【図面の簡単な説明】
【0035】
図1】本発明の第1の実施形態による内視鏡装置の全体構成を示す斜視図である。
図2】本発明の第1の実施形態による内視鏡装置の内部構成を示すブロック図である。
図3】本発明の第1の実施形態によるCPUの機能構成を示すブロック図である。
図4】本発明の第1の実施形態における3次元計測の手順を示すフローチャートである。
図5】本発明の第1の実施形態による表示部に表示される画像の例を示す図である。
図6】本発明の第1の実施形態による表示部に表示される基準情報の例を示す図である。
図7】本発明の第2の実施形態における3次元計測の手順を示すフローチャートである。
図8】本発明の第2の実施形態による表示部に表示される画像の例を示す図である。
図9】本発明の第2の実施形態による表示部に表示される画像の例を示す図である。
図10】本発明の第3の実施形態によるCPUの機能構成を示すブロック図である。
図11】本発明の第3の実施形態における3次元計測の手順を示すフローチャートである。
図12】本発明の第3の実施形態による表示部に表示される画像の例を示す図である。
図13】本発明の第4の実施形態による記憶部が記憶する検査情報の例を示す図である。
図14】本発明の第4の実施形態における3次元計測の手順を示すフローチャートである。
図15】本発明の第4の実施形態による表示部に表示される画像の例を示す図である。
図16】本発明の第5の実施形態によるCPUの機能構成を示すブロック図である。
図17】本発明の第5の実施形態における3次元計測の手順を示すフローチャートである。
図18】本発明の第5の実施形態による表示部に表示される画像の例を示す図である。
図19】本発明の第5の実施形態による表示部に表示される画像の例を示す図である。
図20】本発明の第5の実施形態による表示部に表示される画像の例を示す図である。
図21】本発明の第5の実施形態による表示部に表示される画像の例を示す図である。
図22】本発明の第5の実施形態による表示部に表示される画像の例を示す図である。
図23】本発明の第6の実施形態によるCPUの機能構成を示すブロック図である。
図24】本発明の第6の実施形態における3次元計測の手順を示すフローチャートである。
図25】本発明の第6の実施形態における被写体の3次元データを示す図である。
図26】本発明の第6の実施形態における基準対象を含む物体の3次元データを示す図である。
図27】本発明の第6の実施形態における位置合わせの結果を示す図である。
図28】本発明の第6の実施形態による表示部に表示される画像の例を示す図である。
図29】本発明の第6の実施形態による表示部に表示される画像の例を示す図である。
図30】本発明の第6の実施形態の変形例における3次元計測の手順を示すフローチャートである。
図31】本発明の第6の実施形態の変形例による表示部に表示される被写体の3次元画像の例を示す図である。
図32】本発明の第6の実施形態の変形例による表示部に表示される被写体の3次元画像の例を示す図である。
図33】本発明の第6の実施形態の変形例による表示部に表示される被写体の3次元画像の例を示す図である。
図34】本発明の第6の実施形態の変形例による表示部に表示される被写体の3次元画像の例を示す図である。
図35】本発明の第6の実施形態の変形例による表示部に表示される被写体の3次元画像の例を示す図である。
図36】本発明の第7の実施形態における3次元計測の手順を示すフローチャートである。
図37】本発明の第8の実施形態によるCPUの機能構成を示すブロック図である。
図38】本発明の第8の実施形態における3次元計測の手順を示すフローチャートである。
図39】本発明の第8の実施形態による表示部に表示される画像の例を示す図である。
図40】本発明の第8の実施形態による表示部に表示される画像の例を示す図である。
【発明を実施するための形態】
【0036】
以下、図面を参照し、本発明の実施形態を説明する。以下では、計測装置が内視鏡装置である例を説明する。計測装置は、計測機能を有する装置でありさえすればよく、内視鏡装置に限らない。計測対象は、工業製品である。
【0037】
(第1の実施形態)
図1は、本発明の第1の実施形態の内視鏡装置1(計測装置)の全体構成を示す。図2は、内視鏡装置1の内部構成を示す。内視鏡装置1は、被写体を撮像し、画像を使用して被写体の幾何学的特徴を計測する。検査者は、種々の被写体の観察と計測とを行うために、挿入部2の先端20に装着される光学アダプターの交換と、内蔵された計測処理プログラムの選択と、計測処理プログラムの追加とを行うことが可能である。
【0038】
図1に示す内視鏡装置1は、挿入部2、本体3、操作部4、および表示部5を有する。
【0039】
挿入部2は、被写体の内部に挿入される。挿入部2は、先端20から基端部にわたって屈曲可能な細長い管状である。挿入部2は、計測部分を撮像し、かつ撮像信号を本体3に出力する。挿入部2の先端20には、光学アダプターが装着される。本体3は、挿入部2を収納する収納部を備えた制御装置である。操作部4は、内視鏡装置1に対するユーザーの操作を受ける。表示部5は、表示画面を有し、かつ挿入部2によって取得された被写体の画像および操作メニュー等を表示画面に表示する。
【0040】
操作部4は、ユーザーインタフェースである。例えば、操作部4は、ボタン、スイッチ、キー、マウス、ジョイスティック、タッチパッド、トラックボール、およびタッチパネルの少なくとも1つである。表示部5は、LCD(Liquid Crystal Display)等のモニタ(ディスプレイ)である。表示部5は、タッチパネルであってもよい。その場合、操作部4および表示部5は一体化される。
【0041】
図2に示す本体3は、内視鏡ユニット8、CCU(Camera Control Unit)9、および制御装置10を有する。内視鏡ユニット8は、図示していない光源装置および湾曲装置を有する。光源装置は、観察に必要な照明光を供給する。湾曲装置は、図示していない湾曲機構を湾曲させる。挿入部2の先端20には撮像素子28が内蔵されている。撮像素子28は、イメージセンサである。撮像素子28は、光学アダプターによって形成された被写体像を光電変換し、かつ撮像信号を生成する。CCU9は、撮像素子28を駆動する。撮像素子28から出力された撮像信号がCCU9に入力される。CCU9は、撮像素子28により取得された撮像信号に対して、増幅およびノイズ除去等を含む前処理を行う。CCU9は、処理された撮像信号をNTSC信号等の映像信号に変換する。
【0042】
制御装置10は、映像信号処理回路12、ROM(Read Only Memory)13、RAM(Random Access Memory)14、カードインタフェース15、外部機器インタフェース16、制御インタフェース17、およびCPU(Central Processing Unit)18aを有する。
【0043】
映像信号処理回路12は、CCU9から出力された映像信号に対して、所定の映像処理を施す。例えば、映像信号処理回路12は、視認性向上に関わる映像処理を行う。例えば、その映像処理は、色再現、階調補正、ノイズ抑制、および輪郭強調などである。映像信号処理回路12は、計測実行時には、計測性能を向上させるための処理も行う。また、映像信号処理回路12は、CCU9から出力された映像信号と、CPU18aによって生成されたグラフィック画像信号とを合成する。グラフィック画像信号は、操作画面の画像および計測情報等を含む。計測情報は、計測結果等を含む。映像信号処理回路12は、合成された映像信号を表示部5に出力する。また、映像信号処理回路12は、CCU9から出力された映像信号に基づく画像データをCPU18aに出力する。
【0044】
ROM13は、CPU18aが内視鏡装置1の動作を制御するためのプログラムが記録された不揮発性の記録媒体である。RAM14は、CPU18aが内視鏡装置1の制御のために使用する情報を一時的に記憶する揮発性の記録媒体である。CPU18aは、ROM13に記録されたプログラムに基づいて内視鏡装置1の動作を制御する。
【0045】
着脱可能な記録媒体であるメモリカード42がカードインタフェース15に接続される。カードインタフェース15は、メモリカード42に記憶されている制御処理情報および画像情報等を制御装置10に取り込む。また、カードインタフェース15は、内視鏡装置1によって生成された制御処理情報および画像情報等をメモリカード42に記録する。
【0046】
USB機器等の外部機器が外部機器インタフェース16に接続される。例えば、パーソナルコンピュータ41が外部機器インタフェース16に接続される。外部機器インタフェース16は、パーソナルコンピュータ41へ情報を送信し、かつパーソナルコンピュータ41から情報を受信する。これによって、パーソナルコンピュータ41のモニタが情報を表示することができる。また、ユーザーは、パーソナルコンピュータ41に指示を入力することにより、内視鏡装置1の制御に関する操作を行うことができる。
【0047】
制御インタフェース17は、操作部4、内視鏡ユニット8、およびCCU9と動作制御のための通信を行う。制御インタフェース17は、ユーザーによって操作部4に入力された指示をCPU18aに通知する。制御インタフェース17は、光源装置および湾曲装置を制御するための制御信号を内視鏡ユニット8に出力する。制御インタフェース17は、撮像素子28を制御するための制御信号をCCU9に出力する。
【0048】
CPU18aが実行するプログラムは、コンピュータ読み取り可能な記録媒体に記録されてもよい。この記録媒体に記録されたプログラムを内視鏡装置1以外のコンピュータが読み込み、かつ実行してもよい。例えば、パーソナルコンピュータ41がプログラムを読み込んで実行してもよい。パーソナルコンピュータ41は、プログラムに従って、内視鏡装置1を制御するための制御情報を内視鏡装置1に送信することにより内視鏡装置1を制御してもよい。あるいは、パーソナルコンピュータ41は、内視鏡装置1から映像信号を取得し、かつ取得された映像信号を使用して計測を実行してもよい。
【0049】
上述したプログラムは、そのプログラムを保持するコンピュータから、伝送媒体を経由して、あるいは伝送媒体中の伝送波により内視鏡装置1に伝送されてもよい。プログラムを伝送する「伝送媒体」は、情報を伝送する機能を有する媒体である。情報を伝送する機能を有する媒体は、インターネット等のネットワーク(通信網)および電話回線等の通信回線(通信線)を含む。上述したプログラムは、前述した機能の一部を実現してもよい。さらに、上述したプログラムは、差分ファイル(差分プログラム)であってもよい。コンピュータに既に記録されているプログラムと差分プログラムとの組合せが、前述した機能を実現してもよい。
【0050】
上記のように、内視鏡装置1は、撮像素子28(画像取得部)およびCPU18aを有する。撮像素子28は、被写体を撮像し、かつ撮像信号を生成する。撮像信号は、被写体の画像を含む。したがって、撮像素子28は、被写体を撮像することにより生成された、その被写体の画像を取得する。撮像素子28により取得された画像は映像信号処理回路12を経由してCPU18aに入力される。
【0051】
撮像素子28は、被写体の画像を取得する画像取得部の機能を有する。画像取得部は、画像入力装置であってもよい。例えば、パーソナルコンピュータ41が計測装置として動作する場合、画像取得部は、内視鏡装置1と通信を実行する通信インタフェース(通信機)である。画像取得部は無線通信機であってもよい。画像取得部は、画像が記録された記録媒体から画像を読み出す読み出し回路であってもよい。
【0052】
図3は、CPU18aの機能構成を示す。制御部180、表示制御部181、基準位置設定部182、計測位置設定部183、基準値設定部184、計測部185、および読み出し部186によってCPU18aの機能が構成されている。図3に示すブロックの少なくとも1つがCPU18aとは別の回路で構成されてもよい。
【0053】
図3に示す各部は、プロセッサおよび論理回路の少なくとも1つで構成されてもよい。例えば、プロセッサは、CPU、DSP(Digital Signal Processor)、およびGPU(Graphics Processing Unit)の少なくとも1つである。例えば、論理回路は、ASIC(Application Specific Integrated Circuit)およびFPGA(Field-Programmable Gate Array)の少なくとも1つである。図3に示す各部は、1つまたは複数のプロセッサを含むことができる。図3に示す各部は、1つまたは複数の論理回路を含むことができる。
【0054】
図3に示す構成の概略を説明する。読み出し部186は、1つ以上の基準情報を記憶媒体から読み出す。基準情報は、被写体上の2点の基準位置を示す。2点の基準位置は被写体の大きさの基準値を規定する。記憶媒体は1つ以上の基準情報を記憶する。表示制御部181は、被写体の第1の画像または第1の画像に関連する第2の画像を表示部5に表示し、かつ1つ以上の基準情報を表示部5に表示する。第1の画像または第2の画像が表示部5に表示され、かつ基準情報が表示部5に表示された後、基準位置設定部182は、第1の画像または第2の画像に2点の基準位置を設定する。計測部185は、第1の画像または第2の画像に設定された2点の基準位置と、2点の基準位置が設定された画像に設定された2点以上の計測位置と、基準値とに基づいて、被写体の大きさを計測する。
【0055】
例えば、第1の画像は、撮像素子28によって取得され、かつ表示部5に表示された画像である。例えば、第2の画像は、第1の画像から生成された被写体の3次元形状の画像である。後述する第6の実施形態において、第2の画像を使用する例を説明する。
【0056】
図3に示す構成の詳細を説明する。制御部180は、各部が実行する処理を制御する。表示制御部181は、撮像素子28によって取得された画像を表示部5に表示する。例えば、表示制御部181は、映像信号処理回路12によって実行される処理を制御する。表示制御部181は、映像信号処理回路12に、処理された画像を表示部5へ出力させる。表示部5は、映像信号処理回路12から出力された画像を表示する。
【0057】
表示制御部181は、各種情報を表示部5に表示する。つまり、表示制御部181は、画像上に各種情報を表示する。各種情報は、基準情報、カーソル、およびマーク等を含む。カーソルは、ユーザーが画像上の特定の位置を指定するためのポインターである。マークは、ユーザーが画像上で指定した位置を示す。例えば、表示制御部181は、各種情報のグラフィック画像信号を生成する。表示制御部181は、生成されたグラフィック画像信号を映像信号処理回路12に出力する。映像信号処理回路12は、CCU9から出力された映像信号と、CPU18aから出力されたグラフィック画像信号とを合成する。これにより、各種情報が画像に重畳される。映像信号処理回路12は、合成された映像信号を表示部5に出力する。表示部5は、各種情報が重畳された画像を表示する。
【0058】
例えば、基準情報は、2点の基準位置を含む基準対象の画像である。例えば、基準情報は、標準的な製品において基準対象となる所定領域の画像である。検査に使用された画像の所定領域が基準情報として登録されてもよい。2点の基準位置は、既知の長さを規定する。2点の基準位置間の3次元距離は、基準値を示す。ユーザーが基準対象の画像上の2点の基準位置を視認できさえすればよい。基準情報が2点の基準位置の座標情報を含む必要はない。2点の基準位置を示す矢印等のマークが基準対象の画像に重畳されてもよい。
【0059】
ユーザーは、操作部4を操作することにより、カーソルの位置情報を操作部4に入力する。操作部4は、ユーザーが操作部4に入力した位置情報を受け付け、その位置情報を出力する。操作部4に入力された位置情報は、入力部である制御インタフェース17に入力される。制御インタフェース17に入力された位置情報は、CPU18aに入力される。表示制御部181は、操作部4に入力された位置情報が示す位置を検出する。表示制御部181は、操作部4に入力された位置情報が示す位置にカーソルを表示する。表示部5がタッチパネルである場合、つまり表示部5および操作部4が一体化されている場合、ユーザーは表示部5の画面をタッチすることによりカーソルの位置情報を操作部4に入力する。
【0060】
ユーザーは、操作部4を操作することにより、基準位置の位置情報を操作部4に入力する。操作部4は、ユーザーが操作部4に入力した位置情報を受け付け、その位置情報を出力する。操作部4に入力された位置情報は、制御インタフェース17を経由してCPU18aに入力される。基準位置設定部182は、撮像素子28により取得され、かつ表示部5に表示された画像において位置情報が示す位置に基準位置を設定する。基準位置設定部182によって設定された基準位置の位置情報は、RAM14に保持される。基準位置が特定の画像に関連付けられることにより、基準位置が設定される。
【0061】
第1の画像または第2の画像が表示部5に表示され、かつ基準情報が表示部5に表示された後、計測位置設定部183は、第1の画像または第2の画像に2点以上の計測位置を設定する。ユーザーは、操作部4を操作することにより、計測位置の位置情報を操作部4に入力する。操作部4は、ユーザーが操作部4に入力した位置情報を受け付け、その位置情報を出力する。操作部4に入力された位置情報は、制御インタフェース17を経由してCPU18aに入力される。計測位置設定部183は、撮像素子28により取得され、かつ表示部5に表示された画像において位置情報が示す位置に計測位置を設定する。計測位置設定部183によって設定された計測位置の位置情報は、RAM14に保持される。計測位置が特定の画像に関連付けられることにより、計測位置が設定される。
【0062】
基準位置(基準点)および計測位置(計測点)は、ユーザーの指示によって決定された注目位置の座標情報である。基準位置または計測位置の指定は、ユーザーが基準位置または計測位置を内視鏡装置1に指示することを意味する。ユーザーは、基準位置または計測位置をカーソルで指定することにより基準位置または計測位置を指定する。あるいは、ユーザーは、表示部5の画面において基準位置または計測位置をタッチすることにより基準位置または計測位置を指定する。基準位置の設定は、基準位置設定部182が基準位置を画像に関連付けることを意味する。計測位置の設定は、計測位置設定部183が計測位置を画像に関連付けることを意味する。
【0063】
ユーザーは、操作部4を操作することにより、基準値を操作部4に入力する。操作部4は、ユーザーが操作部4に入力した基準値を受け付け、その基準値を出力する。操作部4に入力された基準値は、制御インタフェース17を経由してCPU18aに入力される。基準値が操作部4に入力されたとき、基準値設定部184は、撮像素子28により取得され、かつ表示部5に表示された画像に関連付けて基準値を内視鏡装置1に設定する。基準値設定部184によって設定された基準値は、RAM14に保持される。基準値が特定の画像に関連付けられることにより、基準値が設定される。基準値の指定は、ユーザーが基準値を内視鏡装置1に指示することを意味する。基準値の設定は、基準値設定部184が基準値を画像に関連付けることを意味する。
【0064】
計測部185は、撮像素子28によって取得された画像を使用して被写体の3次元計測を実行する。例えば、計測部185は、Structure from Motionに基づいて被写体の3次元形状を復元する。以下では、Structure from MotionはSfMと略される。計測部185は、2点の基準位置と、基準値とに基づいて、2点以上の計測位置で規定される被写体の大きさを計測する。被写体の大きさは、2点間の距離または3点以上で囲まれた領域の面積等である。計測部185は、SfMを使用しないスケーラー計測を実行してもよい。
【0065】
読み出し部186は、基準情報を記憶する記憶媒体から基準情報を読み出す。具体的には、読み出し部186は、基準情報をRAM14から読み出す。例えば、メモリカード42は基準情報を記憶する。カードインタフェース15を経由してメモリカード42からRAM14に基準情報が転送される。パーソナルコンピュータ41が基準情報を記憶してもよい。外部機器インタフェース16を経由してパーソナルコンピュータ41からRAM14に基準情報が転送されてもよい。ネットワーク上のサーバー(クラウドサーバー等)が基準情報を記憶してもよい。外部機器インタフェース16を経由してサーバーからRAM14に基準情報が転送されてもよい。
【0066】
図4を使用して、第1の実施形態における3次元計測について説明する。図4は、3次元計測の手順を示す。
【0067】
撮像素子28は、被写体を撮像し、かつ撮像信号を生成することにより、被写体の画像を取得する(ステップS101)。CPU18aは、映像信号処理回路12を経由して被写体の画像をCCU9から取得する。
【0068】
CCU9から出力された映像信号は映像信号処理回路12によって処理され、かつ表示部5に出力される。表示制御部181は、映像信号処理回路12を制御することにより、映像信号に基づく被写体の画像を表示部5に表示する(ステップS102)。
【0069】
ステップS102の後、読み出し部186は1つ以上の基準情報をRAM14から読み出す(ステップS103)。表示制御部181は、1つ以上の基準情報を表示部5に表示する。このとき、ステップS102において表示された画像上に基準情報が表示される(ステップS104)。読み出し部186が複数の基準情報をRAM14から読み出し、かつ表示制御部181が複数の基準情報を表示部5に表示してもよい。
【0070】
ステップS104の後、基準位置設定部182は、操作部4の操作結果に基づいて、ユーザーが画像上で基準位置として指定した位置を判断し、かつその位置に基準位置を設定する。基準位置設定部182は、2点の基準位置を画像に設定する(ステップS105)。ステップS105の後、基準値設定部184は、操作部4の操作結果に基づいて、ユーザーによって指定された基準値を画像に関連付けて内視鏡装置1に設定し、かつその基準値をRAM14に保持する(ステップS106)。
【0071】
ステップS106の後、計測位置設定部183は、操作部4の操作結果に基づいて、ユーザーが画像上で計測位置として指定した位置を判断し、かつその位置に計測位置を設定する。計測位置設定部183は、2点以上の計測位置を画像に設定する(ステップS107)。ステップS107の後、計測部185は、2点以上の計測位置と、2点の基準位置と、基準値とに基づいて、被写体の画像を使用することにより、被写体の大きさを計測する(ステップS108)。ステップS108における処理が実行されたとき、3次元計測が終了する。
【0072】
ステップS106における処理は、ステップS104における処理と、ステップS105における処理との間に実行されてもよい。ステップS106における処理は、ステップS107における処理と、ステップS108における処理との間に実行されてもよい。
【0073】
本発明の各態様の内視鏡装置の作動方法は、画像取得ステップ、第1の表示ステップ、読み出しステップ、第2の表示ステップ、設定ステップ、および計測ステップを有する。撮像素子28は、画像取得ステップ(ステップS101)において、被写体の第1の画像を取得する。表示制御部181は、第1の表示ステップ(ステップS102)において、第1の画像または第1の画像に関連する第2の画像を表示部5に表示する。読み出し部186は、読み出しステップ(ステップS103)において、1つ以上の基準情報をRAM14から読み出す。表示制御部181は、第2の表示ステップ(ステップS104)において、1つ以上の基準情報を表示部5に表示する。第1の画像または第2の画像が表示部5に表示され、かつ基準情報が表示部5に表示された後、基準位置設定部182は、設定ステップ(ステップS105)において、第1の画像または第2の画像に2点の基準位置を設定する。計測部185は、計測ステップ(ステップS108)において、第1の画像または第2の画像に設定された2点の基準位置と、2点の基準位置が設定された画像に設定された2点以上の計測位置と、基準値とに基づいて、被写体の大きさを計測する。本発明の各態様の内視鏡装置の作動方法は、上記の各ステップ以外のステップを有する必要はない。
【0074】
図5は、表示部5に表示される画像の例を示す。ステップS102において、画像G11が表示される。ステップS104において、基準候補R11が画像G11上に表示される。基準候補R11は、2点の基準位置を含む基準対象の候補を示す。基準候補R11は、基準情報R11a、基準情報R11b、および基準情報R11cを含む。各基準情報は、基準対象の画像である。各基準情報において、2点の基準位置は矢印によって示唆されている。各基準情報は、基準対象の画像を拡大した画像または基準対象の画像を縮小した画像であってもよい。
【0075】
ユーザーは、基準候補R11を参照して、2点の基準位置を設定する箇所を画像G11において探す。ステップS105において、ユーザーによって画像G11上の2点の基準位置が指定され、かつその基準位置が画像G11に設定される。例えば、ユーザーは、基準情報R11bが示す2点の基準位置と同じ基準位置を画像G11上で指定する。矢印A11は、画像G11に設定された2点の基準位置を示す。
【0076】
図5において、3種類の基準情報が表示される。1種類のみの基準情報が表示されてもよい。基準情報は、画像G11と重ならない位置に表示されてもよい。
【0077】
図6は、表示部5に表示される基準情報の他の例を示す。図6に示す基準候補R12は、基準情報R12a、基準情報R12b、および基準情報R12cを含む。基準情報R12aは、検査部位の全体にわたる基準位置を示す。通常、1つの検査物において複数の検査部位が存在し、かつ1つの検査部位において複数の基準対象が存在する。基準情報R12bおよび基準情報R12cは、検査部位の局所領域における基準位置を示す。基準情報R12bおよび基準情報R12cは、基準情報R12aが示す検査部位内の位置に関連付けられている。
【0078】
互いに似ている複数のパターンが画像内に含まれる場合、ユーザーが基準位置を見つけることが困難かもしれない。図6に示す基準候補R12において、基準情報R12bおよび基準情報R12cの各々が示す2点の基準位置と、基準情報R12aが示す検査部位内の位置との関係が示されている。そのため、ユーザーが2点の基準位置を容易に探すことができる。
【0079】
上記の例では、基準情報は、被写体の2次元画像である。基準情報の形態は、これ以外であってもよい。例えば、基準情報は、被写体の3次元画像、簡易的なアイコン、またはイラスト等であってもよい。基準情報は、基準対象の画像に加えて、検査部位の名称などのテキストの情報を含んでもよい。ユーザーは、テキストを参照することにより、基準位置を探しやすくなる。基準情報は、基準対象および基準位置の両方を示すテキストの情報であってもよい。
【0080】
第1の実施形態において、被写体上の2点の基準位置を示す基準情報が表示部5に表示される。そのため、内視鏡装置1は、2点の基準位置をユーザーに知らせることができる。ユーザーは、表示された基準情報に基づいて2点の基準位置を画像上で容易に探すことができる。
【0081】
基準位置として採用すべきではない位置に基準位置が設定されることを回避することができる。例えば、設計された寸法との誤差が大きい寸法を持つ構造に基準位置が設定されることを回避することができる。あるいは、個体毎に寸法のばらつきが大きい構造に基準位置が設定されることを回避することができる。
【0082】
(第2の実施形態)
本発明の第2の実施形態の内視鏡装置1は、図3に示すCPU18aを有する。航空機エンジンの検査において、部品の数および検査部位の数が膨大であるため、多数の基準位置および多数の基準値が存在する。そのため、ユーザーが各基準値を覚えていることは現実的ではない。ユーザーは、マニュアルを参照して検査を行う。数百ページもあるマニュアルからユーザーが基準値を見つけることは面倒である。第2の実施形態の内視鏡装置1は、ユーザーが基準値を調べる手間を省くための機能を有する。
【0083】
第2の実施形態において、基準値は基準情報に関連付けられている。表示制御部181は、基準情報および基準値を表示部5に表示する。
【0084】
例えば、基準情報および基準値はRAM14に記憶されている。基準情報および基準値は、互いに関連付けられている。例えば、基準情報は基準対象の画像であり、かつ基準対象の画像は2点の基準位置を含む。基準情報は、基準対象の画像と、基準値とを含んでもよい。
【0085】
図7を使用して、第2の実施形態における3次元計測について説明する。図7は、3次元計測の手順を示す。図4に示す処理と同じ処理の説明を省略する。
【0086】
ステップS102の後、読み出し部186は1つ以上の基準情報および1つ以上の基準値をRAM14から読み出す(ステップS103a)。表示制御部181は、1つ以上の基準情報および1つ以上の基準値を表示部5に表示する。このとき、ステップS102において表示された画像上に基準情報および基準値が表示される(ステップS104a)。読み出し部186が複数の基準情報および複数の基準値をRAM14から読み出してもよい。表示制御部181が複数の基準情報および複数の基準値を表示部5に表示してもよい。ステップS104aの後、ステップS105における処理が実行される。
【0087】
ステップS106における処理は、ステップS104aにおける処理と、ステップS105における処理との間に実行されてもよい。ステップS106における処理は、ステップS107における処理と、ステップS108における処理との間に実行されてもよい。
【0088】
図8は、表示部5に表示される画像の例を示す。ステップS102において、画像G11が表示される。ステップS104aにおいて、基準候補R13が画像G11上に表示される。基準候補R13は、2点の基準位置を含む基準対象の候補を示す。基準候補R13は、基準情報R13a、基準情報R13b、基準情報R13c、基準値R13d、基準値R13e、および基準値R13fを含む。各基準情報は、基準対象の画像である。各基準情報において、2点の基準位置は矢印等のマークによって示唆されてもよい。各基準情報は、基準対象の画像を拡大した画像または基準対象の画像を縮小した画像であってもよい。
【0089】
各基準値は、2点の基準位置間の長さ(3次元距離)を示す。基準値R13dは、基準情報R13aに関連付けられている。基準値R13eは、基準情報R13bに関連付けられている。基準値R13fは、基準情報R13cに関連付けられている。
【0090】
ユーザーは、基準候補R13を参照して、2点の基準位置を設定する箇所を画像G11において探す。ステップS105において、ユーザーによって画像G11上の2点の基準位置が指定され、かつその基準位置が画像G11に設定される。例えば、ユーザーは、基準情報R13bが示す2点の基準位置と同じ基準位置を画像G11上で指定する。矢印A11は、画像G11に設定された2点の基準位置を示す。
【0091】
ステップS106において、ユーザーによって基準値が指定される。例えば、ユーザーは、基準情報R13bに関連付けられた基準値R13eを指定する。ユーザーは、操作部4を操作することにより、基準値R13eを操作部4に入力する。基準値R13eが画像G11に関連付けられる。
【0092】
図9は、表示部5に表示される画像の他の例を示す。図9に示す基準候補R14は、基準情報R14a、基準情報R14b、基準情報R14c、基準値R14d、基準値R14e、および基準値R14fを含む。各基準情報は、基準対象および基準位置の両方のテキスト情報である。基準情報R14aは、基準対象がクーリングホールであること、かつ基準位置がその直径を規定する点であることを示す。基準情報R14bは、基準対象がクーリングホールであること、かつ基準位置がそのピッチを規定する点であることを示す。基準情報R14cは、基準対象がブレードであること、かつ基準位置がその高さを規定する点であることを示す。各基準値は、2点の基準位置間の長さ(3次元距離)を示す。
【0093】
第2の実施形態において、基準情報および基準値が表示部5に表示される。そのため、内視鏡装置1は、2点の基準位置および基準値をユーザーに知らせることができる。ユーザーは、表示された基準情報に基づいて2点の基準位置を画像上で容易に探すことができる。基準値が表示されるため、ユーザーが基準値を調べる手間が省ける。
【0094】
基準情報および基準値は、固定された箇所以外の箇所の情報であってもよい。例えば、ユーザーが検査を行った後、検査された任意の箇所の画像が基準情報として登録されてもよい。検査された任意の箇所の寸法が基準値として登録されてもよい。ユーザーは、次回の検査において、検査したことがある箇所の情報を使用することができる。マニュアルに予め記録されていない箇所の検査をユーザーが繰り返し行う場合、ユーザーは、自分のための基準値を容易に使用することができる。
【0095】
予め登録されている基準情報または基準値をユーザーが修正できてもよい。焼けなどのような、経年的に変化する被写体の画像をユーザーが更新する場合、基準位置の特定が容易になる。経年的な変化等の理由で寸法の設計値と寸法の実際の値とが異なる場合でも、基準位置の特定が容易になる。
【0096】
(第3の実施形態)
数百ページもあるマニュアルからユーザーが基準値を見つけることは面倒である。また、ユーザーが基準値を入力するのも面倒である。第3の実施形態の内視鏡装置1は、ユーザーが基準値を調べる手間を省くための機能を有する。さらに、第3の実施形態の内視鏡装置1は、ユーザーが基準値を入力する手間を省くための機能を有する。
【0097】
本発明の第3の実施形態において、図3に示すCPU18aは、図10に示すCPU18bに変更される。図10は、CPU18bの機能構成を示す。図3に示す構成と同じ構成の説明を省略する。
【0098】
CPU18bは、図3に示す構成に加えて、基準選択部187を有する。基準値は基準情報に関連付けられている。基準情報が表示部5に表示された後、基準選択部187は、表示部5に表示された基準情報のうちユーザーによって指定された1つの基準情報を選択する。計測部185は、基準選択部187によって選択された基準情報に関連付けられた基準値を使用して計測を実行する。
【0099】
図11を使用して、第3の実施形態における3次元計測について説明する。図11は、3次元計測の手順を示す。図7に示す処理と同じ処理の説明を省略する。
【0100】
ステップS105の後、基準選択部187は、操作部4の操作結果に基づいて、ユーザーによって指定された基準情報を判断する。基準選択部187は、表示部5に表示された1つ以上の基準情報のうちユーザーによって指定された基準情報を選択する(ステップS111)。ステップS111は、選択ステップに対応する。
【0101】
ユーザーは、操作部4を操作することにより、1つの基準情報を指定する情報を操作部4に入力する。例えば、ユーザーは、表示部5に表示された1つ以上の基準対象のうち自身が指定したい基準対象をタッチする。操作部4は、ユーザーが操作部4に入力した情報を受け付け、かつその情報を出力する。操作部4に入力された情報は、制御インタフェース17に入力される。制御インタフェース17に入力された情報は、CPU18bに入力される。基準選択部187は、ステップS111において、CPU18bに入力された情報が示す基準情報を選択する。
【0102】
ステップS111の後、基準値設定部184は、基準選択部187によって選択された基準情報に関連付けられた基準値を画像に関連付けて内視鏡装置1に設定し、かつその基準値をRAM14に保持する(ステップS106b)。ステップS106bの後、ステップS107における処理が実行される。
【0103】
ステップS106bにおいて、ユーザーによって指定された基準情報に関連付けられた基準値が自動で設定される。計測部185は、ステップS108において、その基準値に基づいて3次元計測を実行する。
【0104】
ステップS111における処理は、ステップS104aにおける処理とステップS105における処理との間に実行されてもよい。基準情報および基準値が互いに関連付けられているが、基準値は表示されなくてもよい。つまり、ステップS104aにおいて基準値が表示されなくてもよい。ステップS103aにおいて基準値が読み出されなくてもよい。ステップS106bにおける処理は、ステップS107における処理と、ステップS108における処理との間に実行されてもよい。
【0105】
図12は、表示部5に表示される画像の例を示す。ステップS102において、画像G11が表示される。ステップS104aにおいて、基準候補R13が画像G11上に表示される。基準候補R13は、図8に示す基準候補R13と同じである。
【0106】
ステップS111において、ユーザーは基準候補R13に含まれる3種類の基準情報のうちの1つを指定する。例えば、ユーザーは基準情報R13bを指F11でタッチする。基準選択部187は、基準情報R13bを選択する。基準情報R13bに関連付けられた基準値R13eをユーザーに知らせるためのテキストT11が基準位置の近くに表示される。
【0107】
第3の実施形態において、基準情報および基準値が表示部5に表示される。そのため、内視鏡装置1は、2点の基準位置および基準値をユーザーに知らせることができる。ユーザーは、表示された基準情報に基づいて2点の基準位置を画像上で容易に探すことができる。基準値が表示されるため、ユーザーが基準値を調べる手間が省ける。
【0108】
ユーザーによって指定された基準情報に関連付けられた基準値が計測に使用される。そのため、ユーザーが基準値を調べる手間と、ユーザーが基準値を入力する手間とが省ける。誤った基準値が入力されることにより正しくない計測結果が得られることを回避することができる。
【0109】
(第4の実施形態)
本発明の第4の実施形態の内視鏡装置1は、図3に示すCPU18aを有する。
【0110】
RAM14は、複数の被写体の各々に対する1つ以上の基準情報を記憶する。読み出し部186は、複数の被写体に含まれる1つの被写体の情報に基づいて、1つの被写体に対する1つ以上の基準情報をRAM14から読み出す。例えば、読み出し部186は、複数の被写体(検査部位)のうちユーザーによって指定された1つの被写体に対する1つ以上の基準情報をRAM14から読み出す。
【0111】
図13は、RAM14が記憶する検査情報K11を示す。検査情報K11は、航空機エンジンにおける検査のための計測に使用される情報を含む。検査情報K11は、検査物K12、検査部位K13、基準対象K14、基準値K15、および基準情報K16を含む。各情報は互いに関連付けられている。
【0112】
航空機エンジンにおける3つの検査物K12が検査情報K11に含まれる。複数の検査部位K13が各検査物K12に関連付けられている。複数の基準対象K14が各検査部位K13に関連付けられている。検査部位K13であるHPT1に関連付けられた基準対象K14のみが図13に示されている。HPT1以外の検査部位K13に関連付けられた基準対象K14は省略されている。2つの基準対象K14がHPT1に関連付けられている。1つまたは2つの基準値K15がHPT1の各基準対象K14に関連付けられている。基準情報K16がHPT1の各基準値K15に関連付けられている。基準情報K16は、基準対象K14の画像である。
【0113】
図14を使用して、第4の実施形態における3次元計測について説明する。図14は、3次元計測の手順を示す。図7に示す処理と同じ処理の説明を省略する。
【0114】
ステップS102の後、読み出し部186は、操作部4の操作結果に基づいて、ユーザーによって指定された検査部位を判断する(ステップS121)。
【0115】
ユーザーは、操作部4を操作することにより、1つの検査部位を指定する情報を操作部4に入力する。例えば、複数の基準情報と関連する複数の検査部位が表示部5に表示される。ユーザーは、表示部5に表示された複数の検査部位のうち自身が指定したい検査部位をタッチする。ユーザーは、検査部位のテキスト情報を操作部4に入力してもよい。操作部4は、ユーザーが操作部4に入力した情報を受け付け、かつその情報を出力する。操作部4に入力された情報は、制御インタフェース17に入力される。制御インタフェース17に入力された情報は、CPU18aに入力される。読み出し部186は、ステップS121において、CPU18aに入力された情報が示す検査部位が指定されたと判断する。
【0116】
ステップS121の後、読み出し部186は、ユーザーによって指定された検査部位の1つ以上の基準情報と、ユーザーによって指定された検査部位の1つ以上の基準値とをRAM14から読み出す(ステップS103c)。ステップS103cの後、ステップS104aにおける処理が実行される。
【0117】
ステップS121において、表示制御部181は、ユーザーによって指定された検査部位の情報を表示部5に表示してもよい。ステップS101における処理またはステップS102における処理が実行される前にステップS121における処理が実行されてもよい。
【0118】
ステップS103cにおいて基準値が読み出されなくてもよい。ステップS104aにおいて基準値が表示されなくてもよい。ステップS106における処理の代わりに図11に示すステップS106bにおける処理が実行されてもよい。
【0119】
ステップS106における処理は、ステップS104aにおける処理と、ステップS105における処理との間に実行されてもよい。ステップS106における処理は、ステップS107における処理と、ステップS108における処理との間に実行されてもよい。
【0120】
図15は、表示部5に表示される画像の例を示す。ステップS102において、画像G11が表示される。ステップS121において、ユーザーによって指定された検査部位の情報P11が画像G11上に表示される。例えば、ユーザーは検査部位としてHPT1を指定する。図13に示す検査情報K11において、基準値K15および基準情報K16がHPT1の基準対象K14に関連付けられている。ステップS103cにおいて、基準値K15および基準情報K16がRAM14から読み出される。ステップS104aにおいて、基準候補R13が画像G11上に表示される。基準候補R13は、図8に示す基準候補R13と同じである。基準候補R13は、HPT1の基準対象K14に関連付けられた基準値K15および基準情報K16を含む。
【0121】
第4の実施形態において、ユーザーによって選択された検査部位の基準情報が表示部5に表示される。そのため、内視鏡装置1は、2点の基準位置をユーザーに知らせることができる。非常に多くの種類の基準情報が登録されている場合、あるいは互いに似ている複数種類の基準情報が登録されている場合であっても、必要な基準情報のみが表示される。そのため、ユーザーは、表示された基準情報に基づいて2点の基準位置を画像上で容易に探すことができる。
【0122】
基準値が表示部5に表示される。そのため、内視鏡装置1は、基準値をユーザーに知らせることができる。基準値が表示されるため、ユーザーが基準値を調べる手間が省ける。
【0123】
CPU18aは、被写体の画像に基づいて検査部位を判断してもよい。例えば、CPU18aは、被写体の画像の一部と、予め用意された検査部位の画像とを比較する。被写体の画像の一部と検査部位の画像との類似度が高い場合、読み出し部186はその検査部位の基準情報をRAM14から読み出してもよい。
【0124】
CPU18aは、湾曲機構の制御結果に基づいて挿入部2の先端20の位置を検出してもよい。CPU18aは、その位置に基づいて検査部位を判断してもよい。内視鏡装置1が検査部位を自動で認識する場合、正確な検査を簡易に実現することができる。
【0125】
(第5の実施形態)
本発明の第5の実施形態において、図10に示すCPU18bは、図16に示すCPU18cに変更される。図16は、CPU18cの機能構成を示す。図10に示す構成と同じ構成の説明を省略する。
【0126】
CPU18cは、図10に示す構成に加えて、基準位置特定部188を有する。基準位置特定部188は、被写体の第1の画像または第1の画像に関連する第2の画像において2点の基準位置を特定する。表示制御部181は、基準位置特定部188によって特定された2点の基準位置を示す基準位置情報を表示部5に表示する。
【0127】
基準情報は、2点の基準位置を含む基準対象の画像である。例えば、基準位置特定部188は、基準対象の画像と最も類似する類似領域を第1の画像または第2の画像において特定し、かつ基準対象の画像の2点の基準位置に基づいて類似領域の2点の基準位置を特定する。
【0128】
類似領域を検出する方法として、例えばテンプレートマッチングを使用できる。例えば、基準位置特定部188は、第1の画像または第2の画像における複数の領域の各々と基準対象の画像との類似度を算出する。基準位置特定部188は、拡大縮小および回転を考慮し、かつ視線の角度による変形を考慮してテンプレートにアフィン変換を行うことにより類似度を算出する。基準位置特定部188は、類似度が最大である類似領域を検出し、かつその類似領域において2点の基準位置を特定する。
【0129】
基準情報は、2点の基準位置に関連付けられている。例えば、基準情報および2点の基準位置がRAM14に記憶されている。基準情報および2点の基準位置は、互いに関連付けられている。例えば、基準情報は、基準対象の画像と、その画像における2点の基準位置の座標情報とを含む。基準位置特定部188は、検出された類似領域と基準対象の画像との位置合わせを行う。基準位置特定部188は、位置合わせを行った後、基準対象の画像における2点の基準位置の座標情報に基づいて、検出された類似領域における2点の基準位置を特定する。
【0130】
類似領域を検出する方法はテンプレートマッチングに限らない。基準位置特定部188は、Haar-Like、HOG(Histograms of Oriented Gradients)、またはSIFT(Scale-Invariant Feature Transform)等により得られる特徴量を使用して類似領域を検出してもよい。基準位置特定部188は、Deep Learning等を使用する機械学習を実行することにより類似領域を検出してもよい。
【0131】
基準情報が表示部5に表示された後、基準選択部187は、表示部5に表示された基準情報のうちユーザーによって指定された1つの基準情報を選択する。基準位置特定部188によって特定された類似領域は、基準選択部187によって選択された基準対象の画像と最も類似する。
【0132】
図17を使用して、第5の実施形態における3次元計測について説明する。図17は、3次元計測の手順を示す。図11に示す処理と同じ処理の説明を省略する。
【0133】
ステップS104aの後、基準選択部187は、操作部4の操作結果に基づいて、ユーザーによって指定された基準情報を判断する。基準選択部187は、表示部5に表示された1つ以上の基準情報のうちユーザーによって指定された基準情報を選択する(ステップS131)。ステップS131における処理は、図11におけるステップS111における処理と同様である。
【0134】
ステップS131の後、基準位置特定部188は、表示部5に表示された画像において基準位置を特定する。例えば、基準位置特定部188は、表示部5に表示された画像における複数の領域の各々と基準対象の画像との類似度を算出する。基準対象の画像は、基準選択部187によって選択された基準情報に含まれる。基準位置特定部188は、類似度が最大である類似領域を検出し、かつその類似領域において2点の基準位置を特定する(ステップS132)。ステップS132は、特定ステップに対応する。
【0135】
ステップS132の後、表示制御部181は、基準位置特定部188によって特定された2点の基準位置を示す基準位置情報を表示部5に表示する(ステップS133)。例えば、基準位置情報は、線、枠、矢印、マーク、図形、またはテキストである。例えば、表示制御部181は、基準位置情報のグラフィック画像信号を生成する。その後、基準情報を表示するための処理と同様の処理が実行される。表示部5は、基準位置情報が重畳された画像を表示する。例えば、表示制御部181は、画像上の基準位置に基準位置情報を表示する。ステップS133は、第3の表示ステップに対応する。
【0136】
ステップS133の後、ユーザーは、基準位置情報が示す2点の基準位置を指定するか否かを判断する。つまり、ユーザーは、基準位置特定部188によって特定された2点の基準位置を指定するか否かを判断する。ユーザーは、判断結果を操作部4に入力する。例えば、基準位置情報が示す2点の基準位置をユーザーが指定すると判断した場合、基準位置設定部182は、その基準位置を画像に設定する。つまり、基準位置設定部182は、基準位置特定部188によって特定された2点の基準位置を画像に設定する。ユーザーが他の位置を基準位置として指定したい場合、ユーザーは操作部4を操作することにより新たな2点の基準位置を入力する。基準位置設定部182は、操作部4の操作結果に基づいて、ユーザーが画像上で基準位置として指定した位置を判断し、かつその位置に基準位置を設定する(ステップS105d)。ステップS105dの後、ステップS106bにおける処理が実行される。
【0137】
ステップS103aにおいて基準値が読み出されなくてもよい。ステップS104aにおいて基準値が表示されなくてもよい。ステップS106bにおける処理の代わりに図4に示すステップS106における処理が実行されてもよい。ステップS106bにおける処理は、ステップS131における処理と、ステップS105dにおける処理との間に実行されてもよい。ステップS106bにおける処理は、ステップS107における処理と、ステップS108における処理との間に実行されてもよい。
【0138】
図18から図22は、表示部5に表示される画像の例を示す。ステップS102において、図18に示す画像G11が表示される。ステップS104aにおいて、図18に示す基準候補R13が画像G11上に表示される。基準候補R13は、図8に示す基準候補R13と同じである。
【0139】
ステップS131において、ユーザーは基準候補R13に含まれる3種類の基準情報のうちの1つを指定する。例えば、ユーザーは基準情報R13bを指F11でタッチする(図19)。基準選択部187は、基準情報R13bを選択する。
【0140】
ステップS132において、基準位置特定部188は、画像G11の基準位置を特定する。つまり、基準位置特定部188は、画像G11において基準情報R13bとの類似度が最大である類似領域を特定する。ステップS133において、図20に示す基準位置情報RI11が画像G11上に表示される。基準位置情報RI11は、基準対象を示す枠と、2点の基準位置を示す矢印とを含む。基準候補R13において、ユーザーによって指定された基準情報R13bと、基準情報R13bに関連付けられた基準値R13eとのみが表示される。
【0141】
ステップS105dにおいて、ユーザーは、基準位置情報RI11が示す2点の基準位置を指定するか否かを判断する。例えば、ユーザーが判断結果を入力するための操作インタフェースIF11が画像G11上に表示される(図21)。例えば、操作インタフェースIF11は、ボタンB11およびボタンB12を含む。ユーザーは、基準位置情報RI11が示す2点の基準位置を指定するためにボタンB11を指F11でタッチする。あるいは、ユーザーは、基準位置情報RI11が示す基準位置以外の位置を基準位置として指定するためにボタンB12を指F11でタッチする。ユーザーがボタンB12を操作した場合、図4に示すステップS105と同様にユーザーは新たな2点の基準位置を指定する。
【0142】
ユーザーがボタンB11を操作した場合、基準位置情報RI11が示す2点の基準位置が画像G11に設定される。基準情報R13bに関連付けられた基準値R13eをユーザーに知らせるためのテキストT11が基準位置情報RI11の近くに表示される(図22)。
【0143】
第5の実施形態において、基準情報および基準値が表示部5に表示される。そのため、内視鏡装置1は、2点の基準位置および基準値をユーザーに知らせることができる。ユーザーは、表示された基準情報に基づいて2点の基準位置を画像上で容易に探すことができる。基準値が表示されるため、ユーザーが基準値を調べる手間が省ける。
【0144】
基準位置特定部188は、画像における2点の基準位置を特定する。そのため、ユーザーが2点の基準位置を指定する手間が省ける。画像処理により2点の基準位置が特定されるため、基準位置設定部182は2点の基準位置を正確に設定することができる。例えば、基準位置設定部182は2点の基準位置をサブピクセルレベルで設定することができる。基準位置特定部188によって特定された2点の基準位置をユーザーが修正できてもよい。
【0145】
表示制御部181は、基準位置特定部188によって特定された2点の基準位置を示す基準位置情報を表示部5に表示する。そのため、内視鏡装置1は、2点の基準位置をユーザーに知らせることができる。ユーザーは、表示された基準位置情報に基づいて2点の基準位置を容易に知ることができる。
【0146】
(第6の実施形態)
本発明の第6の実施形態において、図16に示すCPU18cは、図23に示すCPU18dに変更される。図23は、CPU18dの機能構成を示す。図16に示す構成と同じ構成の説明を省略する。
【0147】
CPU18dは、図16に示す構成に加えて、3次元形状復元部189を有する。撮像素子28は被写体の複数枚の画像を取得する。3次元形状復元部189は、複数枚の画像に基づいて、例えばSfMを使用することにより被写体の3次元形状を復元する。3次元形状復元部189は、復元された3次元形状を示す3次元データを生成する。
【0148】
3次元データは、3次元空間における被写体上の複数の点の位置関係を示す。3次元データは、複数の点間の長さ(3次元距離)のデータを含まない。3次元形状復元部189によって復元された3次元データにおける点の位置と、撮像素子28によって取得された画像における点の位置とは、互いに関連付けられている。3次元形状復元部189によって復元された3次元データは、被写体の3次元画像(第2の画像)を形成する。3次元形状復元部189は、計測部185に含まれてもよい。表示制御部181は、被写体の2次元画像(第1の画像)または被写体の3次元画像(第2の画像)を表示部5に表示する。
【0149】
基準情報は、2点の基準位置を含む基準対象の3次元形状に関連付けられている。例えば、基準情報は、撮像素子によって取得された基準対象の画像である。基準情報は、簡易的なアイコン、イラスト、CAD(Computer-aided Design)図、またはテキスト等であってもよい。基準情報は、基準対象の3次元形状を示す3次元データと関連付けられている。基準位置特定部188は、基準対象の3次元形状と最も類似する類似領域を被写体の3次元形状において特定し、かつ基準対象の3次元形状の2点の基準位置に基づいて類似領域の2点の基準位置を特定する。
【0150】
基準情報が表示部5に表示された後、基準選択部187は、表示部5に表示された基準情報のうちユーザーによって指定された1つの基準情報を選択する。類似領域は、基準選択部187によって選択された基準情報に関連付けられた基準対象の3次元形状と最も類似する。
【0151】
被写体の2次元画像または被写体の3次元画像が表示部5に表示され、かつ基準情報が表示部5に表示された後、基準位置設定部182は被写体の3次元画像に2点の基準位置を設定する。被写体の2次元画像または被写体の3次元画像が表示部5に表示され、かつ基準情報が表示部5に表示された後、計測位置設定部183は、被写体の3次元画像に2点以上の計測位置を設定する。計測部185は、被写体の3次元画像に設定された2点の基準位置と、被写体の3次元画像に設定された2点以上の計測位置と、基準値とに基づいて、被写体の大きさを計測する。計測部185は、3次元形状復元部189によって復元された被写体の3次元形状を使用して被写体の3次元計測を実行する。
【0152】
図24を使用して、第6の実施形態における3次元計測について説明する。図24は、3次元計測の手順を示す。図17に示す処理と同じ処理の説明を省略する。
【0153】
撮像素子28は、被写体の撮像を複数回実行することにより、複数枚の被写体の画像を取得する(ステップS101e)。複数回の撮像において、撮像素子28の位置および撮像素子28の姿勢の少なくとも1つが互いに異なる。例えば、複数回の撮像において、撮像素子28の位置が互いに異なる、あるいは撮像素子28の姿勢が互いに異なる。複数回の撮像において、撮像素子28の位置および撮像素子28の姿勢が互いに異なってもよい。CPU18dは、映像信号処理回路12を経由して複数枚の被写体の画像をCCU9から取得する。
【0154】
CCU9から出力された複数枚の画像のうち1枚の画像に対応する映像信号が映像信号処理回路12によって処理され、かつ表示部5に出力される。表示制御部181は、映像信号に基づく被写体の画像を表示部5に表示する(ステップS102e)。ステップS101eにおいて複数枚の画像が取得され、ステップS102eにおいて複数枚の画像のいずれか1枚が表示される。
【0155】
ステップS102eの後、3次元形状復元部189は、複数枚の画像に基づいて、SfMを使用することにより被写体の3次元形状を復元し、かつその3次元形状を示す3次元データを生成する(ステップS141)。ステップS141は、復元ステップに対応する。ステップS141の後、ステップS103aにおける処理が実行される。
【0156】
ステップS131の後、基準位置特定部188は、被写体の3次元形状において基準位置を特定する。例えば、基準位置特定部188は、被写体の3次元形状と基準対象の3次元形状との位置合わせを行う。基準対象の3次元形状は、基準選択部187によって選択された基準情報に関連付けられている。基準対象の3次元形状を示す3次元データは、RAM14に保持されている。被写体の3次元形状と基準対象の3次元形状との一致の度合いが最も高い場合、被写体の3次元形状の各位置と基準対象の3次元形状の各位置とが互いに関連付けられる。このとき、基準対象の3次元形状と最も類似する類似領域が被写体の3次元形状において特定される。基準位置特定部188は、類似領域の2点の基準位置を特定する。さらに、基準位置特定部188は、類似領域の2点の基準位置に対応する被写体の2次元画像の2点の基準位置を特定する(ステップS132e)。ステップS132eの後、ステップS133における処理が実行される。
【0157】
被写体の3次元形状における点の位置と、被写体の2次元画像における点の位置とは、互いに関連付けられている。基準位置特定部188は、表示部5に表示された2次元画像において、被写体の3次元形状の2点の基準位置に対応する2点の基準位置を特定する。
【0158】
基準位置特定部188は、被写体の2次元画像と基準対象の2次元画像との粗い位置合わせを行った後、被写体の3次元形状と基準対象の3次元形状との詳細な位置合わせを行ってもよい。これにより、基準位置特定部188は、頑健で高速な位置合わせを行うことができる。
【0159】
ステップS105dにおいて、基準位置設定部182は、基準位置特定部188によって特定された2点の基準位置を被写体の3次元形状(3次元画像)に設定する。あるいは、ステップS105dにおいて、基準位置設定部182は、ユーザーによって指定された2点の基準位置を被写体の3次元形状に設定する。ステップS106bにおいて、基準値設定部184は、基準選択部187によって選択された基準情報に関連付けられた基準値を被写体の3次元形状に設定する。
【0160】
ステップS107において、計測位置設定部183は、ユーザーによって指定された2点以上の計測位置を被写体の3次元形状に設定する。ステップS108において、計測部185は、2点以上の計測位置と、2点の基準位置と、基準値とに基づいて、被写体の3次元形状を使用することにより、被写体の大きさを計測する。
【0161】
ステップS103aにおいて基準値が読み出されなくてもよい。ステップS104aにおいて基準値が表示されなくてもよい。ステップS106bにおける処理の代わりに図4に示すステップS106における処理が実行されてもよい。ステップS106bにおける処理は、ステップS131における処理と、ステップS105dにおける処理との間に実行されてもよい。ステップS106bにおける処理は、ステップS107における処理と、ステップS108における処理との間に実行されてもよい。
【0162】
被写体がパイプである例を説明する。被写体および基準対象の形状は円筒であり、かつ基準位置は、円筒の内部の直径を表す2点である。基準対象の2点の基準位置を示す情報は基準対象の3次元データに関連付けられている。基準位置特定部188は、位置合わせを行った後、基準対象の2点の基準位置に対応する被写体の2点の基準位置を被写体の3次元データ上で特定する。
【0163】
被写体の形状が複雑な曲面等である場合、基準位置特定部188は上記のような位置合わせを行う。被写体の形状が単純な幾何形状である場合、基準位置特定部188はフィッティングにより、被写体の形状を表す数式の係数を算出する。例えば、被写体および基準対象の形状が円筒である場合、基準位置特定部188は、被写体の円筒を表す数式の係数を算出する。基準対象の3次元データは、円筒を表す数式である。基準位置特定部188は、複数の基準対象の数式のうち被写体の数式と最も類似する数式を特定する。
【0164】
例えば、基準位置特定部188は、図25に示す3次元データと図26に示す3次元データとの位置合わせを行う。図25は、3次元形状復元部189によって生成された被写体の3次元データである。図26は、基準対象を含む物体の3次元データである。例えば、基準位置特定部188は、反復最近接点法(Interactive Closest Point:ICP)を使用することにより位置合わせを行う。図27は、位置合わせの結果を示す。この位置合わせの結果、被写体の3次元データと基準対象の3次元データとの差が小さくなる。3次元データの位置合わせに使用するアルゴリズムはICPに限らない。位置合わせが行われた後、基準位置特定部188は、基準対象の2点の基準位置に最も近い被写体の2点の基準位置を特定する。
【0165】
図28は、表示部5に表示される画像の例を示す。ステップS102eにおいて、画像G12が表示される。ステップS104aにおいて、基準候補R15が表示される。基準候補R15は、基準情報R15a、基準情報R15b、基準情報R15c、基準値R15d、基準値R15e、および基準値R15fを含む。各基準情報は、基準対象のイラストである。各基準情報において、2点の基準位置は矢印によって示唆されている。
【0166】
各基準値は、2点の基準位置間の長さ(3次元距離)を示す。基準値R15dは、基準情報R15aに関連付けられている。基準値R15eは、基準情報R15bに関連付けられている。基準値R15fは、基準情報R15cに関連付けられている。
【0167】
ステップS131において、ユーザーは基準候補R15に含まれる3種類の基準情報のうちの1つを指定する。例えば、ユーザーは基準情報R15bを指定する。基準選択部187は、基準情報R15bを選択する。ステップS132eにおいて、基準位置特定部188は、画像G12の基準位置を特定する。つまり、基準位置特定部188は、画像G12に対応する3次元データと、基準情報R15bに関連付けられている基準対象の3次元データとの位置合わせを行う。位置合わせが行われた後、基準位置特定部188は、基準対象の2点の基準位置に最も近い被写体の2点の基準位置を特定する。
【0168】
さらに、基準位置特定部188は、3次元データの2点の基準位置に対応する2次元画像の2点の基準位置を特定する。ステップS133において、基準位置情報RI12が画像G12上に表示される。基準位置情報RI12は、基準対象である円筒を示す円と、2点の基準位置を示す矢印とを含む。基準位置は、直径を規定する2点である。基準情報R15bに関連付けられた基準値R15eをユーザーに知らせるためのテキストT12が基準位置の近くに表示される。
【0169】
図29は、表示部5に表示される画像の他の例を示す。図28に示す部分と同じ部分の説明を省略する。
【0170】
画像G12の代わりに画像G13が表示される。基準位置情報RI12の代わりに基準位置情報RI13が表示される。基準位置情報RI13は、基準対象である円筒を示す円の一部と、2点の基準位置を示す矢印の一部とを含む。円筒である被写体の一部のみが画像G13に映っている。3次元形状復元部189によって生成された被写体の3次元データは、被写体の一部のみのデータを含む。円筒の一部のみが欠けている場合であっても、被写体の3次元データと基準対象の3次元データとの位置合わせは可能である。そのため、基準位置特定部188は、直径を規定する2点の基準位置を推定することができる。円筒の内周の全体が画像に映っている必要はない。そのため、画像が取得されるときの制約が少ない。
【0171】
第6の実施形態において、基準情報および基準値が表示部5に表示される。そのため、内視鏡装置1は、2点の基準位置および基準値をユーザーに知らせることができる。ユーザーは、表示された基準情報に基づいて2点の基準位置を画像上で容易に探すことができる。基準値が表示されるため、ユーザーが基準値を調べる手間が省ける。
【0172】
基準位置特定部188は、被写体の3次元形状における2点の基準位置を特定する。例えば、基準位置特定部188が2次元画像に基づいて円筒の内部の直径を検出することは難しい。被写体の3次元形状を使用することにより、基準位置特定部188は2点の基準位置を正確に特定することができる。基準位置特定部188によって特定された2点の基準位置をユーザーが修正できてもよい。
【0173】
例えば、3次元データは、SfMまたはステレオ計測法に基づく計測によって取得される。3次元データは、他の方法に基づく計測によって取得されてもよい。例えば、3次元データは、位相シフト法またはランダムパターン投影法に基づく計測によって取得されてもよい。位相シフト法に基づく計測では、空間的な位相が互いに異なる複数の縞パターンが投影された被写体の画像が使用される。ランダムパターン投影法に基づく計測では、ランダムパターンが投影された被写体の画像が使用される。位相シフト法またはランダムパターン投影法に基づく計測では、第1の画像と3次元データ生成用の画像とがそれぞれ取得される。パターンが投影されていない被写体の画像が第1の画像または第2の画像として利用される。
【0174】
(第6の実施形態の変形例)
図30を使用して、本発明の第6の実施形態の変形例における3次元計測について説明する。図30は、3次元計測の手順を示す。図24に示す処理と同じ処理の説明を省略する。
【0175】
ステップS101eの後、ステップS141における処理が実行される。ステップS141の後、表示制御部181は、3次元形状復元部189によって生成された被写体の3次元形状を表示部5に表示する。つまり、表示制御部181は、被写体の3次元データに基づく画像(3次元画像)を表示部5に表示する(ステップS102e)。ステップS102eの後、ステップS103aにおける処理が実行される。
【0176】
ステップS104aにおいて、3次元画像上に基準情報および基準値が表示される。ステップS133において、2点の基準位置を示す基準位置情報が3次元画像上に表示される。
【0177】
ステップS103aにおいて基準値が読み出されなくてもよい。ステップS104aにおいて基準値が表示されなくてもよい。ステップS106bにおける処理の代わりに図4に示すステップS106における処理が実行されてもよい。ステップS106bにおける処理は、ステップS131における処理と、ステップS105dにおける処理との間に実行されてもよい。ステップS106bにおける処理は、ステップS107における処理と、ステップS108における処理との間に実行されてもよい。
【0178】
図31から図35は、ステップS107において表示部5に表示される3次元画像の例を示す。図31から図35に示す画像は、被写体の3次元画像である。基準位置情報RI14およびテキストT13が画像上に表示される。
【0179】
ユーザーは、タッチパネル上のスワイプ操作等を行うことにより、3次元画像の視点を変えることができる。例えば、視点の変更により、図31に示す画像G14は図32に示す画像G14aに変更される。視点を変えることにより、ユーザーが被写体の形状を確認しやすくなる。さらなる視点の変更により、図32に示す画像G14aは図33に示す画像G14bに変更される。ユーザーは、画像G14bにおいて2点の計測位置を指定する。例えば、ユーザーは、2点の計測位置の各々を指F11でタッチする。2点の計測位置を示す矢印A12が画像G14b上に表示され、かつ計測結果を示すテキストT14が画像G14b上に表示される。
【0180】
図34に示す画像G14cが表示されてもよい。画像G14cにおいて、3次元画像の一部が透過的に表示される。視点の変更により、図34に示す画像G14cは図35に示す画像G14dに変更される。画像G14dは、被写体を図34に示す方向Dr11に見た状態を示す。3次元画像の一部が透過的に表示されるため、ユーザーが観察したい箇所が見えている。表示制御部181は、3次元画像の一部を透過的に表示する代わりに3次元画像の一部を非表示にしてもよい。
【0181】
(第7の実施形態)
本発明の第7の実施形態の内視鏡装置1は、図16に示すCPU18cを有する。
【0182】
図36を使用して、第7の実施形態における3次元計測について説明する。図36は、3次元計測の手順を示す。図17に示す処理と同じ処理の説明を省略する。
【0183】
図17に示すステップS105dはステップS105fに変更される。図17に示すステップS133における処理は実行されない。ステップS132の後、基準位置設定部182は、基準位置特定部188によって特定された2点の基準位置を画像に設定する(ステップS105f)。ステップS105fの後、ステップS106bにおける処理が実行される。図17に示すステップS105dにおいてユーザーは、基準位置特定部188によって特定された2点の基準位置を指定するか否かを判断する。図36に示すステップS105fにおいてユーザーの判断は必要ない。
【0184】
ステップS103aにおいて基準値が読み出されなくてもよい。ステップS104aにおいて基準値が表示されなくてもよい。ステップS106bにおける処理の代わりに図4に示すステップS106における処理が実行されてもよい。ステップS106bにおける処理は、ステップS131における処理と、ステップS105fにおける処理との間に実行されてもよい。ステップS106bにおける処理は、ステップS107における処理と、ステップS108における処理との間に実行されてもよい。
【0185】
図24または図30に示すステップS133およびステップS105dがステップS105fに変更されてもよい。
【0186】
第7の実施形態において、基準情報および基準値が表示部5に表示される。そのため、内視鏡装置1は、2点の基準位置および基準値をユーザーに知らせることができる。ユーザーは、表示された基準情報に基づいて2点の基準位置を画像上で容易に探すことができる。基準値が表示されるため、ユーザーが基準値を調べる手間が省ける。
【0187】
基準位置特定部188は、画像における基準位置を特定する。そのため、ユーザーが2点の基準位置を指定する手間が省ける。画像処理により基準位置が特定されるため、基準位置設定部182は2点の基準位置を正確に設定することができる。例えば、基準位置設定部182は2点の基準位置をサブピクセルレベルで設定することができる。基準位置特定部188によって特定された2点の基準位置をユーザーが修正できてもよい。
【0188】
表示制御部181は、基準位置特定部188によって特定された2点の基準位置を示す基準位置情報を表示部5に表示する。そのため、内視鏡装置1は、2点の基準位置をユーザーに知らせることができる。ユーザーは、表示された基準位置情報に基づいて2点の基準位置を容易に知ることができる。
【0189】
(第8の実施形態)
本発明の第8の実施形態において、図23に示すCPU18dは、図37に示すCPU18eに変更される。図37は、CPU18eの機能構成を示す。図23に示す構成と同じ構成の説明を省略する。
【0190】
CPU18eは、図23に示す構成に加えて、領域選択部190を有する。基準情報は、2点の基準位置を含む基準対象の画像である。領域選択部190は、表示部5に表示された第1の画像または第2の画像においてユーザーによって指定された領域を指定領域として選択する。基準位置特定部188は、指定領域と最も類似する基準対象の画像を特定し、かつ特定された画像の2点の基準位置に基づいて指定領域の2点の基準位置を特定する。
【0191】
図38を使用して、第8の実施形態における3次元計測について説明する。図38は、3次元計測の手順を示す。図36に示す処理と同じ処理の説明を省略する。
【0192】
ステップS104aの後、領域選択部190は、操作部4の操作結果に基づいて、ユーザーによって指定された領域を判断する。領域選択部190は、表示部5に表示された画像においてユーザーによって指定された領域を指定領域として選択する(ステップS151)。ステップS151は、選択ステップに対応する。
【0193】
ステップS104aにおいて、基準対象の画像が基準情報として表示される。ユーザーは、表示部5に表示された基準対象の画像を参考にすることにより、被写体の画像上の基準対象の大まかな位置を指定する。ユーザーは、操作部4を操作することにより、画像上の領域を指定する情報を操作部4に入力する。例えば、ユーザーは、表示部5に表示された画像において自身が指定したい領域の位置をタッチする。操作部4は、ユーザーが操作部4に入力した情報を受け付け、かつその情報を出力する。操作部4に入力された情報は、制御インタフェース17に入力される。制御インタフェース17に入力された情報は、CPU18eに入力される。ステップS151において、領域選択部190は、CPU18eに入力された情報が示す指定領域を選択する。例えば、領域選択部190は、ユーザーによって指定された位置を中心とする所定の大きさの領域を選択する。
【0194】
ステップS151の後、基準位置特定部188は、表示部5に表示された画像から指定領域を切り出す(ステップS152)。
【0195】
ステップS152の後、基準位置特定部188は、表示部5に表示された1つ以上の基準情報のうち指定領域と最も類似する基準情報を特定する。具体的には、基準位置特定部188は、表示部5に表示された1つ以上の基準対象の画像のうち指定領域と最も類似する画像を特定する。(ステップS153)。ステップS153は、特定ステップに対応する。
【0196】
指定領域と最も類似する画像を特定する方法として、テンプレートマッチング等を使用できる。例えば、基準位置特定部188は、指定領域と複数の基準対象の画像の各々との類似度を算出する。基準位置特定部188は、類似度が最大である基準対象の画像を特定する。類似度が予め設定された閾値以下である場合、内視鏡装置1は、適切な基準対象の画像を特定できなかった旨をユーザーに報知してもよい。これにより、誤った基準対象が使用されることを防ぐことができる。
【0197】
ステップS153の後、基準位置特定部188は、指定領域において2点の基準位置を特定する。例えば、基準位置特定部188は、指定領域と、ステップS153において特定された基準対象の画像とのマッチング処理を実行する。これにより、指定領域と基準対象の画像との位置合わせが行われる。位置合わせが行われた後、基準位置特定部188は、指定領域において2点の基準位置を特定する(ステップS132g)。ステップS132gの後、ステップS105fにおける処理が実行される。
【0198】
ステップS103aにおいて基準値が読み出されなくてもよい。ステップS104aにおいて基準値が表示されなくてもよい。ステップS106bにおける処理の代わりに図4に示すステップS106における処理が実行されてもよい。ステップS106bにおける処理は、ステップS104aにおける処理と、ステップS105fにおける処理との間に実行されてもよい。ステップS106bにおける処理は、ステップS107における処理と、ステップS108における処理との間に実行されてもよい。ステップS153において特定された基準情報が強調表示されてもよい。
【0199】
図30に示すステップS131、ステップS132e、ステップS133、およびステップS105dがステップS151、ステップS152、ステップS153、ステップS132g、およびステップS105fに変更されてもよい。
【0200】
図18図39、および図40は、表示部5に表示される画像の例を示す。ステップS102において、図18に示す画像G11が表示される。ステップS104aにおいて、図18に示す基準候補R13が画像G11上に表示される。基準候補R13は、図8に示す基準候補R13と同じである。
【0201】
ステップS151において、ユーザーは画像G11上の基準対象の大まかな位置を指定する。例えば、ユーザーはその位置を指F11でタッチする(図39)。ステップS152において、領域選択部190は、ユーザーによって指定された位置の指定領域D11を選択する。
【0202】
ステップS153において、基準位置特定部188は、指定領域D11に基づいて基準情報を特定する。つまり、基準位置特定部188は、指定領域D11との類似度が最大である基準情報R13bを特定する。
【0203】
ステップS132gにおいて、基準位置特定部188は、基準情報R13bに基づいて指定領域D11の2点の基準位置を特定する。ステップS105fにおいて、基準位置設定部182は、基準位置特定部188によって特定された2点の基準位置を画像G11に設定する。
【0204】
ステップS106bにおいて、基準位置特定部188によって特定された基準情報に関連付けられた基準値が画像G11に自動で設定される。矢印A12が画像G11上に表示される。矢印A12は、画像G11に設定された2点の基準位置を示す。基準情報R13bに関連付けられた基準値R13eをユーザーに知らせるためのテキストT11が2点の基準位置の近くに表示される(図40)。
【0205】
第8の実施形態において、基準情報および基準値が表示部5に表示される。そのため、内視鏡装置1は、2点の基準位置および基準値をユーザーに知らせることができる。ユーザーは、表示された基準情報に基づいて2点の基準位置を画像上で容易に探すことができる。基準値が表示されるため、ユーザーが基準値を調べる手間が省ける。
【0206】
基準位置特定部188は、ユーザーによって指定された指定領域と最も類似する基準対象の画像を特定し、かつ特定された画像の2点の基準位置に基づいて指定領域の2点の基準位置を特定する。そのため、ユーザーが2点の基準位置を指定する手間が省ける。基準位置特定部188は、指定領域においてのみ2点の基準位置を探索すればよい。そのため、ミスマッチングの発生確率がかなり低く抑えられる。画像処理により基準位置が特定されるため、基準位置設定部182は2点の基準位置を正確に設定することができる。例えば、基準位置設定部182は2点の基準位置をサブピクセルレベルで設定することができる。基準位置特定部188によって特定された2点の基準位置をユーザーが修正できてもよい。
【0207】
以上、本発明の好ましい実施形態を説明したが、本発明はこれら実施形態およびその変形例に限定されることはない。本発明の趣旨を逸脱しない範囲で、構成の付加、省略、置換、およびその他の変更が可能である。また、本発明は前述した説明によって限定されることはなく、添付のクレームの範囲によってのみ限定される。
【符号の説明】
【0208】
1 内視鏡装置
2 挿入部
3 本体
4 操作部
5 表示部
8 内視鏡ユニット
9 CCU
10 制御装置
12 映像信号処理回路
13 ROM
14 RAM
15 カードインタフェース
16 外部機器インタフェース
17 制御インタフェース
18a,18b,18c,18d,18e CPU
20 先端
28 撮像素子
180 制御部
181 表示制御部
182 基準位置設定部
183 計測位置設定部
184 基準値設定部
185 計測部
186 読み出し部
187 基準選択部
188 基準位置特定部
189 3次元形状復元部
190 領域選択部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30
図31
図32
図33
図34
図35
図36
図37
図38
図39
図40