(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024098943
(43)【公開日】2024-07-24
(54)【発明の名称】画像処理装置、画像処理方法および画像処理プログラム
(51)【国際特許分類】
A61B 1/045 20060101AFI20240717BHJP
G06T 7/00 20170101ALI20240717BHJP
G06T 7/32 20170101ALI20240717BHJP
【FI】
A61B1/045 610
G06T7/00 612
G06T7/32
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2023099490
(22)【出願日】2023-06-16
(31)【優先権主張番号】18/095,783
(32)【優先日】2023-01-11
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】304050923
【氏名又は名称】オリンパスメディカルシステムズ株式会社
(74)【代理人】
【識別番号】100118913
【弁理士】
【氏名又は名称】上田 邦生
(74)【代理人】
【識別番号】100142789
【弁理士】
【氏名又は名称】柳 順一郎
(74)【代理人】
【識別番号】100201466
【弁理士】
【氏名又は名称】竹内 邦彦
(72)【発明者】
【氏名】若菜 和明
【テーマコード(参考)】
4C161
5L096
【Fターム(参考)】
4C161CC06
4C161DD03
4C161HH51
4C161LL02
4C161NN05
4C161QQ02
4C161QQ04
4C161QQ07
4C161SS21
4C161WW04
4C161WW07
4C161WW17
5L096AA02
5L096AA06
5L096BA06
5L096CA04
5L096DA01
5L096DA02
5L096EA14
5L096FA10
5L096FA34
5L096FA69
5L096GA10
5L096JA09
(57)【要約】 (修正有)
【課題】被写体全体の高精度な位置合わせを画像レジストレーションを行い、視野の移動および被写体の変形をさらに正確に補正する。
【解決手段】画像処理装置は、プロセッサを備える。プロセッサは、一様に配列する複数の追跡点を時系列の画像の中の1つである第1画像内に設定し、各追跡点を第1画像と第2画像との間で追跡し、各追跡点の追跡の成否を判定し、第2画像は、時系列の画像の中の第1画像とは異なる時刻の画像であり、追跡に成功した追跡点を用いた透視投影変換によって第2画像の画像平面を推定し、追跡に失敗した追跡点の第2画像上の位置を、画像平面への逆投影によって補正し、画像レジストレーションを複数の追跡点に基づいて第2画像に行うことによってレジストレーション画像を生成する。
【選択図】
図3
【特許請求の範囲】
【請求項1】
被写体の時系列の画像を処理する画像処理装置であって、
プロセッサを備え、
該プロセッサは、
一様に配列する複数の追跡点を前記時系列の画像の中の1つである第1画像内に設定し、
各前記追跡点を前記第1画像と第2画像との間で追跡し、各前記追跡点の追跡の成否を判定し、前記第2画像は、前記時系列の画像の中の前記第1画像とは異なる時刻の画像であり、
追跡に成功した前記追跡点を用いた透視投影変換によって前記第2画像の画像平面を推定し、
追跡に失敗した前記追跡点の前記第2画像上の位置を、前記画像平面への逆投影によって補正し、
前記第2画像を前記第1画像に位置合わせする画像レジストレーションを前記複数の追跡点に基づいて前記第2画像に行うことによって、レジストレーション画像を生成する、画像処理装置。
【請求項2】
前記プロセッサは、さらに、
前記被写体または術式に関する情報を取得し、
前記情報に応じて前記追跡点の追跡の条件を設定し、該条件は、前記追跡の成否判定の閾値、前記追跡に使用されるテンプレートの更新の閾値、および、前記複数の追跡点の配置の内、少なくとも1つを含む、請求項1に記載の画像処理装置。
【請求項3】
前記時系列の画像が、前記被写体の時系列の白色光画像を含み、
前記プロセッサが、前記第1画像および前記第2画像として前記白色光画像を用いて、前記複数の追跡点を追跡し、前記画像平面を推定し、前記追跡に失敗した前記追跡点の位置を補正する、請求項1に記載の画像処理装置。
【請求項4】
前記時系列の画像が、前記被写体の時系列の蛍光画像をさらに含み、
前記プロセッサが、
前記第2画像として前記蛍光画像を用いて前記画像レジストレーションを行い、
時系列の前記レジストレーション画像の蛍光強度に基づいて前記被写体の血流を分析する、請求項3に記載の画像処理装置。
【請求項5】
前記プロセッサが、さらに、
前記第1画像に血流の分析結果が重ね合わされたオーバレイ画像を生成し、
前記オーバレイ画像を表示装置に表示させる、請求項4に記載の画像処理装置。
【請求項6】
前記プロセッサが、前記第1画像内のマスク領域を検出し、該マスク領域を除いた領域に前記複数の追跡点を設定する、請求項3に記載の画像処理装置。
【請求項7】
被写体の時系列の画像を処理する画像処理方法であって、
一様に配列する複数の追跡点を前記時系列の画像の中の1つである第1画像内に設定し、
各前記追跡点を前記第1画像と第2画像との間で追跡し、各前記追跡点の追跡の成否を判定し、前記第2画像は、前記時系列の画像の中の前記第1画像とは異なる時刻の画像であり、
追跡に成功した前記追跡点を用いた透視投影変換によって前記第2画像の画像平面を推定し、
追跡に失敗した前記追跡点の前記第2画像上の位置を、前記画像平面への逆投影によって補正し、
前記第2画像を前記第1画像に位置合わせする画像レジストレーションを前記複数の追跡点に基づいて前記第2画像に行うことによって、レジストレーション画像を生成する、ことを含む画像処理方法。
【請求項8】
被写体の時系列の画像を処理する画像処理プログラムであって、
一様に配列する複数の追跡点を前記時系列の画像の中の1つである第1画像内に設定し、
各前記追跡点を前記第1画像と第2画像との間で追跡し、各前記追跡点の追跡の成否を判定し、前記第2画像は、前記時系列の画像の中の前記第1画像とは異なる時刻の画像であり、
追跡に成功した前記追跡点を用いた透視投影変換によって前記第2画像の画像平面を推定し、
追跡に失敗した前記追跡点の前記第2画像上の位置を、前記画像平面への逆投影によって補正し、
前記第2画像を前記第1画像に位置合わせする画像レジストレーションを前記複数の追跡点に基づいて前記第2画像に行うことによって、レジストレーション画像を生成する、ことをコンピュータに実行させる、画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法および画像処理プログラムに関するものである。
【背景技術】
【0002】
従来、ICG(indocyanine
Green)等の蛍光造影剤を使用した血流評価が広く知られ実施されている(例えば、特許文献1参照。)。臓器において、蛍光造影剤からの蛍光強度は血流によって次第に強まる。血流は、蛍光強度の立ち上がりから最高強度までの時間Tmaxに基づいて評価される。
【0003】
一方、画像内の非剛体の物体を追跡する技術が知られている(例えば、特許文献2参照。)。特許文献2には、薄板スプライン(TPS)変換を用いてオブジェクトの非剛体運動をモデル化するシステムおよび方法が記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】米国特許第10219742号明細書
【特許文献2】特表2008-544404号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
血流評価において、臓器の同一位置の蛍光強度が一定時間(例えば1分~2分)にわたって計測される。しかし、生体の臓器は、拍動等によって変形する。また、手持ち式の内視鏡によって臓器を観察する場合、内視鏡と臓器との間の距離および角度の変動によって内視鏡の視野が移動する。したがって、同一位置の蛍光強度を計測し続けることが困難である。
【0006】
被写体の同一位置を計測する1つの技術として、画像内に設定された注目領域(ROI)を追跡する方法がある。この方法において、ROIを設定することができる領域は、処置具および臓器等の特徴を有する領域に限られ、任意の位置の追跡は困難である。また、追跡時間が長い程、追跡が失敗する可能性が高くなり、例えば1分~2分という長時間にわたってROIを追跡し続けることは難しい。
被写体を追跡する他の技術として、特許文献2のような画像を変形させる方法がある。この方法において、画像内に設定された複数の制御点が追跡され、制御点に基づいて画像の変形が行われる。しかし、ROIと同様、制御点を長時間にわたって追跡し続けることは難しい。
【課題を解決するための手段】
【0007】
本発明の一態様は、被写体の時系列の画像を処理する画像処理装置であって、プロセッサを備え、該プロセッサは、一様に配列する複数の追跡点を前記時系列の画像の中の1つである第1画像内に設定し、各前記追跡点を前記第1画像と第2画像との間で追跡し、各前記追跡点の追跡の成否を判定し、前記第2画像は、前記時系列の画像の中の前記第1画像とは異なる時刻の画像であり、追跡に成功した前記追跡点を用いた透視投影変換によって前記第2画像の画像平面を推定し、追跡に失敗した前記追跡点の前記第2画像上の位置を、前記画像平面への逆投影によって補正し、前記第2画像を前記第1画像に位置合わせする画像レジストレーションを前記複数の追跡点に基づいて前記第2画像に行うことによって、レジストレーション画像を生成する、画像処理装置である。
【0008】
本発明の他の態様は、被写体の時系列の画像を処理する画像処理方法であって、一様に配列する複数の追跡点を前記時系列の画像の中の1つである第1画像内に設定し、各前記追跡点を前記第1画像と第2画像との間で追跡し、各前記追跡点の追跡の成否を判定し、前記第2画像は、前記時系列の画像の中の前記第1画像とは異なる時刻の画像であり、追跡に成功した前記追跡点を用いた透視投影変換によって前記第2画像の画像平面を推定し、追跡に失敗した前記追跡点の前記第2画像上の位置を、前記画像平面への逆投影によって補正し、前記第2画像を前記第1画像に位置合わせする画像レジストレーションを前記複数の追跡点に基づいて前記第2画像に行うことによって、レジストレーション画像を生成する、ことを含む画像処理方法である。
【0009】
本発明の他の態様は、被写体の時系列の画像を処理する画像処理プログラムであって、一様に配列する複数の追跡点を前記時系列の画像の中の1つである第1画像内に設定し、各前記追跡点を前記第1画像と第2画像との間で追跡し、各前記追跡点の追跡の成否を判定し、前記第2画像は、前記時系列の画像の中の前記第1画像とは異なる時刻の画像であり、追跡に成功した前記追跡点を用いた透視投影変換によって前記第2画像の画像平面を推定し、追跡に失敗した前記追跡点の前記第2画像上の位置を、前記画像平面への逆投影によって補正し、前記第2画像を前記第1画像に位置合わせする画像レジストレーションを前記複数の追跡点に基づいて前記第2画像に行うことによって、レジストレーション画像を生成する、ことをコンピュータに実行させる、画像処理プログラムである。
【図面の簡単な説明】
【0010】
【
図1】本発明の一実施形態に係るシステムの全体構成図である。
【
図2】本発明の一実施形態に係る画像処理装置のブロック図である。
【
図3】画像処理装置が実行する画像処理方法のフローチャートである。
【
図4A】追跡点を設定するステップS1のフローチャートである。
【
図4B】追跡点を追跡するステップS2のフローチャートである。
【
図4C】時系列のレジストレーション画像を分析するステップS9のフローチャートである。
【
図5A】複数の追跡点が設定されたターゲット画像を示す図である。
【
図5B】ターゲット画像から時間が経過したソース画を示す図である。
【
図5C】
図5Bのソース画像とペアを成す蛍光画像のレジストレーション画像を示す図である。
【
図6B】追跡に失敗した追跡点の位置を補正した後のソース画像上の追跡点を示す図である。
【
図8】時系列のレジストレーション画像から得られる蛍光強度の時間変化のデータの一例を示す図である。
【
図9】被写体および術式と、追跡の条件との間の関係の一例を示すテーブルである。
【発明を実施するための形態】
【0011】
以下に、本発明の一実施形態に係る画像処理装置、画像処理方法および画像処理プログラムについて図面を参照して説明する。
図1は、本実施形態に係る画像処理装置1が適用されるシステム100の一例を示している。システム100は、内視鏡2、観察装置3、計測装置4および表示装置5を備える内視鏡システムであり、画像処理装置1は、計測装置4に搭載される。観察装置3および計測装置4は、映像信号および制御信号等の信号を相互に送受信する。計測装置4は、物理サーバ6およびクラウドサーバ7等のサーバに接続され、計測装置4および画像処理装置1によって生成された分析結果がサーバ6,7に保存されてもよい。計測装置4は、観察装置3と一体であってもよい。
【0012】
内視鏡2は、生体内の被写体に白色光および励起光を同時にまたは交互に照射し、白色光で照明された被写体および励起光で照明された被写体を同時にまたは交互に撮影する。これにより、内視鏡2は、同時刻または略同時刻の白色光画像および蛍光画像のペアを時系列的に取得し出力する。被写体は、血流評価のためにICGのような蛍光造影剤が投与された生体内の臓器である。白色光画像は、被写体からの白色光の反射光を撮像した画像であり、蛍光画像は、励起光によって励起された蛍光造影剤からの蛍光を撮像した画像である。
【0013】
図2は、画像処理装置1のブロック図を示している。
画像処理装置1は、入力部11と、中央演算処理装置のようなプロセッサ12と、メモリ13と、記憶部14と、出力部15とを備える。
入力部11は、公知の入力インタフェースを有し、観察装置3と接続される。内視鏡2から出力された白色光画像および蛍光画像のペアは、入力部11を通って画像処理装置1に時系列的に入力される。
出力部15は、公知の出力インタフェースを有し、表示装置5と接続される。白色光画像および蛍光画像のペアは、出力部15から表示装置5に時系列的に出力され、表示装置5に表示される。
【0014】
メモリ13は、RAMのような揮発性の記憶装置からなり、プロセッサ12の作業領域として使用される。
記憶部14は、例えばROM、フラッシュメモリまたはハードディスクドライブのような、コンピュータ読み取り可能な非一時的な記録媒体からなる。記憶部14は、画像処理方法をプロセッサ12に実行させるための画像処理プログラム14aを記憶している。プロセッサ12は、画像処理装置1に時系列的に入力される白色光画像および蛍光画像のペアを画像処理プログラム14aに従って処理し、被写体Sの血流を分析する。
【0015】
次に、プロセッサ12が実行する画像処理方法について説明する。
プロセッサ12は、開始トリガに応答して画像処理方法を実行する。開始トリガは、例えば、計測装置4に設けられたスイッチ等の入力デバイス8をユーザが操作することによって、画像処理装置1に入力される。ユーザは、蛍光造影剤を生体に投与後、開始トリガを画像処理装置1に入力する。
【0016】
図3に示されるように、本実施形態に係る画像処理方法は、ターゲット画像A内に追跡点P1,P2,….Pnを設定するステップS1と、ターゲット画像Aとソース画像Bとの間で各追跡点Pi(i=1,2,…,n)を追跡するステップS2と、各追跡点Piの追跡の成否を判定するステップS3と、ソース画像Bの画像平面を推定するステップS4と、追跡に失敗した追跡点Piの位置を補正するステップS5と、ソース画像Bのレジストレーション画像を生成するステップS6と、追跡に失敗した追跡点Piの追跡用のテンプレートを更新するステップS7と、レジストレーション画像Cを記憶するステップS8と、レジストレーション画像Cを用いて血流を分析するステップS9と、分析結果を作成するステップS10と、分析結果を出力するステップS11と、を含む。
【0017】
図5Aに示されるように、ターゲット画像(第1画像)Aは、画像処理装置1に時系列に入力される被写体Sの画像の1つであり、本実施形態において白色光画像である。
図5Bに示されるように、ソース画像(第2画像)Bは、画像処理装置1に時系列に入力される被写体Sの画像の内、ターゲット画像Aとは異なる時刻における画像であり、本実施形態において白色光画像および蛍光画像である。
【0018】
プロセッサ12は、所定の配列パターンで一様に配列する複数の追跡点P1,P2,…,Pnをターゲット画像A内に設定する(ステップS1)。
具体的には、
図4Aに示されるように、プロセッサ12は、例えば開始トリガの入力後の最初の白色光画像を、ターゲット画像Aに決定する(ステップS101)。そして、
図5Aに示されるように、プロセッサ12は、複数の追跡点P1,P2,…,Pnの位置を、ターゲット画像Aの縦方向および横方向に等間隔で配列するグリッド線の交点に決定する(ステップS103)。したがって、複数の追跡点P1,P2,…,Pnは、縦方向および横方向に等間隔で正方配列する。
【0019】
白色光画像は、被写体Sを含む内視鏡2の視野Dの外側に、黒一色のマスク領域Eを含む。好ましくは、プロセッサ12は、例えば色に基づいて、ターゲット画像A内のマスク領域Eを検出し(ステップS102)、マスク領域Eを除いた他の領域の全体または略全体に複数の追跡点P1,P2,…,Pnを設定する(ステップS103)。
図5Aにおいて、小さい白丸は、追跡点を示す。
プロセッサ12は、ターゲット画像A内に設定された計測領域F内に複数の追跡点P1,P2,…,Pnを一様に設定してもよい。計測領域Fは、ターゲット画像A内の被写体Sの全体または広範囲を含むことが好ましく、ユーザによって設定されてもよい。
【0020】
ステップS1の後、プロセッサ12は、テンプレートマッチングによってターゲット画像Aとソース画像Bとの間で各追跡点Piを追跡する(ステップS2)。
追跡に使用されるソース画像Bは、ターゲット画像Aから時間が経過した白色光画像である。内視鏡2が手持ち式の場合、被写体Sに対して内視鏡2を長時間にわたって一定の位置に保持することは困難であり、内視鏡2の視野が被写体Sに対して3次元的に移動する。また、生体内の臓器である被写体Sは拍動等によって変形する。したがって、
図5Bに示されるように、ソース画像B内の被写体Sは、ターゲット画像A内の被写体Sに対して位置ずれし得る。
【0021】
具体例には、
図4Bに示されるように、プロセッサ12は、ターゲット画像Aから各追跡点Pi用のテンプレートを作成する(ステップS22)。各テンプレートは、ターゲット画像A内の小領域であり、1つの追跡点Piを含む。
次に、プロセッサ12は、テンプレートを使用したテンプレートマッチングによって、ソース画像B内の追跡点P1,P2,…,Pnを決定する(ステップS24)。具体的には、プロセッサ12は、各テンプレートと最も類似するマッチング領域をソース画像B内で探索し、各テンプレート内の追跡点Piと対応するマッチング領域内の位置をソース画像B内の追跡点Piに決定する。
【0022】
プロセッサ12は、ステップS22,S24の前に、構造強調およびノイズ除去等の画像処理をターゲット画像Aおよびソース画像Bに施してもよい(ステップS21,S23)。画像処理が施されたターゲット画像Aおよびソース画像BをステップS22,S24において使用することによって、追跡の精度を向上することができる。
ステップS24において、プロセッサ12は、テンプレートマッチング以外の手法、例えばオプティカルフローを用いて各追跡点Piを追跡してもよい。
【0023】
上述した視野の移動、被写体Sの変形およびオクルージョン等が原因で、追跡点Piの追跡が失敗することがある。特に、長時間、例えば1分~2分にわたって追跡する場合、追跡の失敗の可能性が高くなる
ステップS2の後、プロセッサ12は、テンプレートとソース画像B内のマッチング領域との間の類似度に基づいて、各追跡点Piの追跡の成否を判定する。具体的には、
図6Aに示されるように、プロセッサ12は、類似度が所定の第1閾値Th1以上である場合、追跡に成功したと判定し、類似度が閾値Th1未満である場合、追跡に失敗したと判定する。
図6Aおよび
図6Bにおいて、白丸は、追跡に成功した追跡点である成功点を示し、黒丸は、追跡に失敗した追跡点である失敗点を示す。
【0024】
類似度として、下式のZNCC(Zero means Normalized Cross Correlation)が使用されてもよい。ZNCCは、正規化相互相関を使用して算出される画像の類似度の評価値である。ZNCCは、類似度が高い程、1に近づく。閾値Th1は、例えば、0.8である。
【数1】
上式において、I(x,y)はマッチング領域の画素値、T(x,y)は、テンプレートの画素値、μIは、マッチング領域の画素値の平均、μTは、テンプレートの画素値の平均である。
【0025】
ステップS3の後、
図7に示されるように、プロセッサ12は、成功点のみを用いた透視投影変換によって、ソース画像Bの画像平面αを推定する(ステップS4)。透視投影変換は、内視鏡2のカメラの内部パラメータおよび外部パラメータを用いた下式に基づいて行われる。
【数2】
【0026】
(X,Y,Z)は、ワールド座標系Σwでの3次元座標であり、(u,v)は、ソース画像の画像平面α上の座標である。cx,cyは、カメラ主点(通常は、画像の中心)であり、fx,fyは、ピクセル単位で表される焦点距離である。
内部パラメータcx,cy,fx,fyを含む行列は、内部パラメータ行列またはカメラ行列であり、焦点距離fy,fyが不変である場合、カメラ行列は変化しない。
外部パラメータr,tを含む行列は、並進回転行列である外部パラメータ行列であり、座標(X,Y,Z)をカメラ座標系Σcameraに変換する。外部パラメータ行列は、静的環境に対するカメラの動き、または、カメラに対する被写体の剛体運動を表す。
ソース画像Bの画像平面αを推定することは、すなわち、外部パラメータ行列を決定し、それにより、ソース画像Bの取得時のカメラの位置および姿勢を決定することである。
【0027】
ステップS4の後、
図6Bに示されるように、プロセッサ12は、失敗点を推定された画像平面αへ逆投影することによって、ソース画像B上の失敗点の位置を補正する(ステップS5)。具体的には、プロセッサ12は、ステップS4において推定された行列およびカメラ位置を用いて、ターゲット画像A内の失敗点を画像平面α上に逆投影し、ソース画像B上の失敗点の位置を、逆投影された位置に補正する。これにより、追跡に失敗した追跡点Piが、ソース画像B上の適切な位置に、具体的にはグリッド線の交点に、復帰する。
【0028】
ステップS5の後、プロセッサ12は、類似度が所定の第2閾値Th2を下回る場合、失敗点用のテンプレートを、補正された位置の追跡点Piを含むターゲット画像A内の小領域にテンプレートを更新する(ステップS7)。第2閾値Th2は、第1閾値Th1以下の値である。例えば、第1閾値Th1が0.9である場合、第2閾値Th2は0.8~0.9の範囲内の値である。したがって、追跡が成功した場合、プロセッサ12は、次の追跡においても同一のテンプレートを使用する。一方、追跡が失敗した場合、プロセッサ12は、次の追跡において更新されたテンプレートを使用する。これにより、被写体Sの色の変化やテクスチャの変化に応じてテンプレートが更新され、追跡に失敗した後もなお、更新されたテンプレートを使用して追跡点Piを追跡することができる。
【0029】
ステップS5の後、プロセッサ12は、複数の追跡点P1,P2,…,Pnに基づく画像レジストレーションをソース画像Bに行うことによって、ソース画像Bのレジストレーション画像Cを生成する(ステップS6)。画像レジストレーションが行われるソース画像Bは、ステップS2~S5においてソース画像Bとして使用された白色光画像とペアを成す蛍光画像である。画像レジストレーションは、ソース画像Bを変形させることによってソース画像B内の被写体Sをターゲット画像A内の被写体Sに位置合わせする処理である。
図5Cに示されるように、画像レジストレーションによって、視野の移動および被写体Sの変形に因るターゲット画像Aに対するソース画像B内の被写体Sの位置ずれが補正または低減されたレジストレーション画像Cが生成される。
図5Cにおいて、ハッチング領域は、蛍光領域を示している。
【0030】
画像レジストレーションは、追跡点P1,P2,…,Pnを制御点とするTPS(Thin Plate Spline)変換を用いて行われる。具体的には、プロセッサ12は、蛍光画像内に複数の追跡点P1,P2,…,Pnを設定する。蛍光画像内の追跡点P1,P2,…,Pnの位置は、失敗点の位置が補正された後の白色光画像内の追跡点P1,P2,…,Pnの位置とそれぞれ同一である。次に、プロセッサ12は、蛍光画像内の追跡点Piがターゲット画像A内の対応する追跡点Piと一致するように蛍光画像を非線形的に歪めることによって、レジストレーション画像Cを生成する。
ステップS6の後、プロセッサ12は、生成されたレジストレーション画像Cをメモリ13または記憶部14に記憶する(ステップS8)。
【0031】
TPS変換は計算量が多いので、他の手法、例えば透視投影を用いた画像レジストレーションが用いられてもよい。
また、プロセッサ12は、面積ゲイン補正、シェーディング補正、RGBからIRへの変換等の各種の画像処理を各ソース画像Bである蛍光画像に施し、画像処理が施された蛍光画像に画像レジストレーションを行ってもよい。
【0032】
プロセッサ12は、白色光画像および蛍光画像の新しいペアが画像処理装置1に入力される度にステップS1~S8を繰り返し、それにより、時系列のレジストレーション画像Cがメモリ13または記憶部14に蓄積される。
プロセッサ12は、終了トリガに応答してステップS1~S8の処理を終了し(ステップS12のYES)、次のステップS9に進む。例えば、終了トリガは、ユーザが入力デバイス8を操作することによって画像処理装置1に入力されるか、または、開始トリガから所定の計測時間が経過したことが終了トリガとして用いられる。
【0033】
プロセッサ12は、蓄積された時系列のレジストレーション画像Cを用いて血流を分析する(ステップS9)。
具体的には、
図4Cに示されるように、プロセッサ12は、時系列のレジストレーション画像C内の各位置の蛍光強度をサンプリングする(ステップS91)。プロセッサ12は、レジストレーション画像C内の各領域(例えば8画素×8画素)の蛍光強度の平均をサンプリングしてもよい。これにより、
図8に示されるように、ターゲット画像A内の被写体Sの各位置または各領域について、蛍光強度の時間変化のデータが得られる。
【0034】
次に、プロセッサ12は、ターゲット画像A内の被写体Sの各位置について、蛍光強度のデータを使用して血流の評価値を算出する(ステップS93)。評価値の一例は、開始時刻T1から最大時刻T2までの時間の長さTmaxである。開始時刻T1は、蛍光強度が立ち上がる時刻であり、最大時刻T2は、蛍光強度が最大になる時刻である。評価値の他の例は、計測時間にわたる蛍光強度の積分値Iである。
プロセッサ12は、ノイズ除去、移動平均等を用いた平滑化、蛍光強度の正規化等の各種のデータ処理を蛍光強度のデータに施し(ステップS92)、処理が施されたデータをステップS93において使用してもよい。
次に、プロセッサ12は、ターゲット画像A内の被写体Sの各位置または各領域の評価値の大きさを色を用いて表現したカラーマップを作成する(ステップS94)。
【0035】
、
ステップS9の後、プロセッサ12は、表示装置5に表示するための少なくとも1つの分析結果を作成する(ステップS10)。分析結果は、例えば、カラーマップをターゲット画像Aに重ね合わせたオーバレイ画像である。分析結果は、カラーマップのみであってもよく、ターゲット画像A内の任意の位置における蛍光強度の時間変化を表わすグラフであってもよい。分析結果は、被写体Sの各位置における血流の情報を表わす画像であってもよい。血流の情報は、例えば、時間Tmax、または、積分値Iから算出される時間平均血流量である。
ステップS10の後、プロセッサ12は、分析結果を表示装置5に出力し、表示装置5に表示させる(ステップS11)。ユーザは、分析結果に基づいて、被写体Sの各位置の血流を認識することができる。
【0036】
このように、本実施形態によれば、ターゲット画像Aの後に取得された時系列のソース画像Bから時系列のレジストレーション画像Cが生成される。各レジストレーション画像Cは、ターゲット画像Aに対して被写体Sの位置の誤差が無い、または少ない画像である。このような時系列のレジストレーション画像Cを使用することによって、被写体Sの同一位置の蛍光強度を一定時間にわたって計測することができ、被写体Sの各位置の血流を正確に分析することができる。
【0037】
また、本実施形態によれば、画像レジストレーションに使用される複数の追跡点P1,P2,…,Pnは、プロセッサ12によってターゲット画像A内に自動的に設定される。すなわち、ユーザがROI(region of interest)のような追跡点を設定する必要がない。
【0038】
また、本実施形態によれば、追跡点Piの追跡が失敗した後、追跡点Piのソース画像B上の位置が逆投影によって補正され、その後、位置が補正された追跡点Piが更新されたテンプレートを使用して追跡される。これにより、追跡が途中で破綻することなく、全ての追跡点P1,P2,…,Pnを長時間(例えば、1分から2分)にわたって追跡することができる。
画像レジストレーションによってソース画像Bをターゲット画像Aに対して正確に位置合わせするためには、ターゲット画像A内の被写体Sの全体にわたって追跡点P1,P2,…,Pnを正確に追跡することが必要である。仮に、失敗点Piの位置の補正が行われない場合、追跡に一度失敗した追跡点Piをその後正確に追跡することができず、その結果、画像レジストレーションの精度が低下する。
【0039】
また、追跡点として特徴点を追跡する従来の追跡方法において、追跡点を設定することができる位置は、処置具9および被写体Sの特徴的な構造等の位置に限られ、画像内の任意の位置に追跡点を設定することができない。したがって、血流を分析することができる位置も特徴点を設定することができる位置に限られる。
これに対し、本実施形態によれば、複数の追跡点P1,P2,…,Pnは、特徴の有無に関係なく、ターゲット画像A内に一様に設定される。これにより、ターゲット画像A内の被写体S全体を追跡することができ、被写体S全体の高精度な位置合わせを画像レジストレーションによって行うことができる。また、それにより、ターゲット画像A内の被写体S全体の血流を分析することができる。
【0040】
また、本実施形態によれば、位置が補正される追跡点は、追跡に失敗した追跡点のみであり、追跡に成功したソース画像B上の追跡点は、位置が補正されることなく画像レジストレーションに使用される。したがって、
図6Bに示されるように、追跡に成功した追跡点は、視野の移動および被写体Sの変形等に因る微細な位置ずれを有する。このような追跡点を用いて画像レジストレーションを行うことによって、視野の移動および被写体Sの変形をさらに正確に補正することができる。
【0041】
また、内視鏡2は、光軸に垂直な方向の移動および光軸回りの回転のみならず、光軸に沿う前後方向にも移動し得、前後方向の移動によって視野が大きく拡大縮小し得る。デジタルカメラ等に搭載される5軸手ぶれ補正は、光軸に垂直な方向の移動および光軸回りの回転による視野の移動および回転を補正することはできるが、被写体Sの拡大縮小を補正することはできない。
本実施形態によれば、透視投影変換によって、ソース画像Bの画像平面αの該画像平面αに沿う方向の移動および回転のみならず、カメラ位置から画像平面αまでの距離も推定される。したがって、被写体Sの拡大縮小に因るソース画像B上の追跡点Piの位置ずれも補正することができる。
【0042】
また、マスク領域E内の追跡点の追跡は不要であり、かつ、マスク領域Eのサイズおよび形状は内視鏡2によって異なる。本実施形態によれば、ターゲット画像A内のマスク領域Eを自動的に検出し、マスク領域Eを除いた領域に追跡点P1,P2,…,Pnを設定することによって、追跡に係る計算量および時間を低減することができる。
【0043】
上記実施形態において、プロセッサ12は、被写体Sまたは術式に関する情報を取得し、情報に基づいて追跡点の追跡の条件を変更してもよい。追跡の条件は、追跡の成否判定の閾値Th1(成功値)、テンプレートの更新の閾値Th2(更新判定値)および追跡点の配置の内、少なくとも1つを含む。追跡点の配置は、ターゲット画像Aの横方向および縦方向の各々における追跡点の間隔または数、およびテンプレートのサイズの内、少なくとも1つを含む。
図9は、被写体Sおよび術式と、条件との関係の一例を示している。
この場合、画像処理装置1は、前記情報を取得する取得部を備えていてもよい。取得部は、例えば、入力デバイス8であり、ユーザは、入力デバイス8を使用して被写体Sの種類および術式の少なくとも一方を画像処理装置1に入力することができる。
【0044】
上記実施形態において、画像処理装置1は、当該画像処理装置1にリアルタイムで入力される時系列の白色光画像および蛍光画像を処理することとしたが、これに代えて、過去に取得された時系列の白色光画像および蛍光画像を処理してもよい。例えば、画像処理装置1は、メモリ13または記憶部14に記録された被写体Sの動画を処理してもよい。
【0045】
上記実施形態において、ソース画像が、ターゲット画像の後に取得された画像であることとしたが、これに代えて、ターゲット画像の前に取得された画像であってもよい。
例えば、録画された動画を用いて時系列のレジストレーション画像Cを生成する場合、任意の時刻の1つの白色光画像をターゲット画像に決定し、他の時刻の白色光画像および蛍光画像をソース画像として用いてもよい。
【0046】
上記実施形態において、画像処理装置1は、蛍光画像のレジストレーション画像Cを用いて血流を分析することとしたが、ステップS9~S10を行わなくてもよい。この場合、画像処理装置1は、分析結果に代えて、時系列のレジストレーション画像Cを表示装置5に表示させてもよい。ユーザは、時系列のレジストレーション画像Cを見ることによって被写体Sの各位置における蛍光強度の正確な時間変化を認識することができ、各位置の血流を正確に評価することができる。
【0047】
上記実施形態において、プロセッサ12は、蛍光画像のレジストレーション画像Cを生成することとしたが、これに代えて、またはこれに加えて、白色光画像のレジストレーション画像を生成してもよい。この場合、プロセッサ12は、ステップS9~S11に代えて、またはこれに加えて、白色光画像のレジストレーション画像を用いて被写体Sの分析を行ってもよい。
【0048】
上記実施形態において、プロセッサ12は、正方配列する複数の追跡点P1,P2,…,Pnをターゲット画像A内に設定することとしたが、ターゲット画像A内の複数の追跡点P1,P2,…,Pnの配列はこれに限定されるものではなく、他の配列であってもよい。例えば、複数の追跡点P1,P2,…,Pnは、任意の多角形の各頂点に幾何学的に配列されてもよい。また、複数の追跡点P1,P2,…,Pnは、等間隔で規則的に配列することが好ましいが、不等間隔で不規則に配列してもよい。
【0049】
以上、本発明の実施形態および変形例について説明したが、本発明の範囲はこれに限定されるものではなく、本発明の趣旨を逸脱しない範囲において種々の改良が可能である。例えば、ターゲット画像およびソース画像は、白色光画像および蛍光画像以外の種類の画像であってもよい。また、ターゲット画像およびソース画像は、内視鏡画像以外の画像であってもよく、画像処理装置1は、内視鏡システム100以外のシステムに適用されてもよい。
【符号の説明】
【0050】
1 画像処理装置
5 表示装置
12 プロセッサ
14 記憶部(記録媒体)
Pi 追跡点
S 被写体
A ターゲット画像(第1画像)
B ソース画像(第2画像)
C レジストレーション画像
E マスク領域
α 画像平面