【課題】右目用の医療用撮像画像および左目用の医療用撮像画像それぞれにおいてより深い被写界深度とより高い解像度との両立を図ることが可能な、医療用画像処理装置、医療用観察装置、および画像処理方法を提供する。
【解決手段】合焦位置と合焦範囲との一方または双方が異なる撮像デバイスを含む複数の撮像デバイスそれぞれにより観察対象が撮像された、複数の医療用撮像画像を対応付ける対応付け処理部と、複数の医療用撮像画像のうちの右目用の医療用撮像画像および左目用の医療用撮像画像それぞれを、対応付けられた他の医療用撮像画像を用いて深度合成する合成処理部とを備える、医療用画像処理装置が、提供される。
合焦位置と合焦範囲との一方または双方が異なる撮像デバイスを含む複数の撮像デバイスそれぞれにより観察対象が撮像された、複数の医療用撮像画像を対応付ける対応付け処理部と、
複数の前記医療用撮像画像のうちの右目用の医療用撮像画像および左目用の医療用撮像画像それぞれを、対応付けられた他の前記医療用撮像画像を用いて深度合成する合成処理部と、
を備える、医療用画像処理装置。
前記合成処理部は、前記右目用の医療用撮像画像および前記左目用の医療用撮像画像それぞれを、より解像度が高い他の前記医療用撮像画像で補完して深度合成する、請求項1に記載の医療用画像処理装置。
前記対応付け処理部は、複数の前記医療用撮像画像それぞれから特徴部分を抽出し、抽出された特徴部分をマッチングすることにより、複数の前記医療用撮像画像を対応付ける、請求項1に記載の医療用画像処理装置。
前記対応付け処理部は、複数の前記撮像デバイスそれぞれの設定を示す設定情報に基づいて、複数の前記医療用撮像画像それぞれに含まれる同一の被写体を推定することにより、複数の前記医療用撮像画像を対応付ける、請求項1に記載の医療用画像処理装置。
複数の前記撮像デバイスは、前記右目用の医療用撮像画像を撮像する撮像デバイスと、前記左目用の医療用撮像画像を撮像する撮像デバイスとの2つの撮像デバイスであり、
前記対応付け処理部は、前記右目用の医療用撮像画像と前記左目用の医療用撮像画像とを対応付け
前記合成処理部は、前記右目用の医療用撮像画像および前記左目用の医療用撮像画像それぞれを、対応付けられた他方の医療用撮像画像を用いて深度合成する、請求項1に記載の医療用画像処理装置。
複数の前記撮像デバイスは、前記右目用の医療用撮像画像を撮像する第1の撮像デバイス、前記左目用の医療用撮像画像を撮像する第2の撮像デバイス、および深度合成に用いるための医療用撮像画像を撮像する、1または2以上の第3の撮像デバイスである、請求項1に記載の医療用画像処理装置。
前記第1の撮像デバイス、前記第2の撮像デバイス、および前記第3の撮像デバイスそれぞれは、合焦位置と合焦範囲との一方または双方が異なっている、請求項6に記載の医療用画像処理装置。
深度合成された前記右目用の医療用撮像画像、および深度合成された前記左目用の医療用撮像画像それぞれを、表示画面に表示させる表示制御部をさらに備える、請求項1に記載の医療用画像処理装置。
合焦位置と合焦範囲との一方または双方が異なる撮像デバイスを含む複数の撮像デバイスそれぞれにより観察対象が撮像された、複数の医療用撮像画像を対応付けるステップと、
複数の前記医療用撮像画像のうちの右目用の医療用撮像画像および左目用の医療用撮像画像それぞれを、対応付けられた他の前記医療用撮像画像を用いて深度合成するステップと、
を有する、医療用画像処理装置により実行される画像処理方法。
【発明を実施するための形態】
【0016】
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書および図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0017】
また、以下では、下記に示す順序で説明を行う。
1.本実施形態に係る医療用観察システム、および本実施形態に係る画像処理方法
[1]医療用観察システムの構成
[1−1]第1の例に係る医療用観察システム
[1−2]第2の例に係る医療用観察システム
[1−3]他の例に係る医療用観察システム
[1−4]医療用観察装置の機能構成
[2]本実施形態に係る画像処理方法
[2−1]本実施形態に係る画像処理方法に係る処理
[2−2]本実施形態に係る画像処理方法に係る処理の例
[3]本実施形態に係る画像処理方法が用いられることにより奏される効果の一例
2.本実施形態に係るプログラム
【0018】
(本実施形態に係る医療用観察システム、および本実施形態に係る画像処理方法)
以下、本実施形態に係る医療用観察システムの一例を説明しつつ、本実施形態に係る画像処理方法について説明する。
【0019】
以下では、本実施形態に係る医療用観察装置が本実施形態に係る画像処理方法に係る処理を行う場合、すなわち、本実施形態に係る医療用観察装置が医療用画像処理装置として機能する場合について、主に説明する。なお、本実施形態に係る医療用観察システムにおいて、医療用画像処理装置として機能する装置は、本実施形態に係る医療用観察装置に限られない。例えば、本実施形態に係る医療用観察システムでは、後述する表示装置が、本実施形態に係る画像処理方法に係る処理を行う医療用画像処理装置として機能してもよい。また、本実施形態に係る医療用観察システムでは、メディカルコントローラなどの本実施形態に係る画像処理方法に係る処理を行うことが可能な任意の装置が、医療用画像処理装置として機能しうる。
【0020】
[1]医療用観察システムの構成
[1−1]第1の例に係る医療用観察システム
図1は、本実施形態に係る医療用観察システム1000の構成の第1の例を示す説明図である。
図1に示す医療用観察システム1000は、例えば、医療用観察装置100と、表示装置200とを有する。
【0021】
なお、第1の例に係る医療用観察システムは、
図1に示す例に限られない。
【0022】
例えば、第1の例に係る医療用観察システムは、医療用観察装置100における各種動作を制御する医療用制御装置(図示せず)を、さらに有していてもよい。
図1に示す医療用観察システム1000では、後述するように、医療用観察装置100が制御部(後述する)を備えることにより、医療用観察装置100が医療用制御装置(図示せず)の機能を有している例を示している。
【0023】
医療用制御装置(図示せず)としては、例えば、“メディカルコントローラ”や、“サーバなどのコンピュータ”などが、挙げられる。また、医療用制御装置(図示せず)は、例えば、上記のような機器に組み込むことが可能な、IC(Integrated Circuit)であってもよい。
【0024】
また、第1の例に係る医療用観察システムは、医療用観察装置100と表示装置200との一方または双方を複数有する構成であってもよい。医療用観察装置100を複数有する場合、医療用観察装置100それぞれにおいて、後述する画像処理方法に係る処理が行われる。また、第1の例に係る医療用観察システムが医療用観察装置100と表示装置200とを複数有する構成である場合、医療用観察装置100と表示装置200とが一対一に対応付けられていてもよいし、複数の医療用観察装置100が1つの表示装置200に対応付けられていてもよい。複数の医療用観察装置100が1つの表示装置200に対応付けられている場合、表示装置200では、例えば切り替え操作などが行われることによって、どの医療用観察装置100において撮像された医療用撮像画像を表示画面に表示させるのかが、切り替えられる。
【0025】
以下、
図1に示す第1の例に係る医療用観察システム1000を構成する各装置について、説明する。
【0026】
[1−1−1]表示装置200
表示装置200は、第1の例に係る医療用観察システム1000における表示手段であり、医療用観察装置100からみて外部の表示デバイスに該当する。表示装置200は、例えば、医療用観察装置100において撮像された医療用撮像画像や、UI(User Interface)に係る画像などの、様々な画像を表示画面に表示する。また、表示装置200は、任意の方式により3D表示が可能な構成を有していてもよい。表示装置200における表示は、例えば、医療用観察装置100、または、医療用制御装置(図示せず)によって制御される。
【0027】
医療用観察システム1000において表示装置200は、手術室の壁面や天井、床面などの、手術室内において術者などの手術に関わる者により視認されうる任意の場所に設置される。
【0028】
表示装置200としては、例えば、液晶ディスプレイや有機EL(Electro-Luminescence)ディスプレイ、CRT(Cathode Ray Tube)ディスプレイなどが挙げられる。
【0029】
なお、表示装置200は、上記に示す例に限られない。例えば、表示装置200は、ヘッドマウントディスプレイやアイウェア型の装置などのような、術者などが身体に装着して用いる任意のウェアラブル装置であってもよい。
【0030】
表示装置200は、例えば、表示装置200が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。
【0031】
[1−1−2]医療用観察装置100
図1に示す医療用観察装置100は、電子撮像式の医療用観察装置である。例えば手術時に
図1に示す医療用観察装置100が用いられる場合、術者(医療用観察装置100の使用者の一例)は、医療用観察装置100により撮像されて、表示装置200の表示画面に表示された医療用撮像画像を参照しながら術部(患部)を観察し、当該術部に対して、術式に応じた手技などの各種処置を行う。
【0032】
図1に示すように、医療用観察装置100は、例えば、ベース102と、アーム104と、撮像デバイス106とを備える。
【0033】
また、
図1では示していないが、医療用観察装置100は、例えば、MPU(Micro Processing Unit)などの演算回路で構成される、1または2以上のプロセッサ(図示せず)と、ROM(Read Only Memory。図示せず)と、RAM(Random Access Memory。図示せず)と、記録媒体(図示せず)と、通信デバイス(図示せず)とを、備えていてもよい。医療用観察装置100は、例えば、医療用観察装置100が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。
【0034】
プロセッサ(図示せず)は、医療用観察装置100における制御部(後述する)として機能する。ROM(図示せず)は、プロセッサ(図示せず)が使用するプログラムや演算パラメータなどの制御用データを記憶する。RAM(図示せず)は、プロセッサ(図示せず)により実行されるプログラムなどを一時的に記憶する。
【0035】
記録媒体(図示せず)は、医療用観察装置100における記憶部(図示せず)として機能する。記録媒体(図示せず)には、例えば、本実施形態に係る画像処理方法に係るデータや、各種アプリケーションなどの、様々なデータが記憶される。ここで、記録媒体(図示せず)としては、例えば、ハードディスクなどの磁気記録媒体や、フラッシュメモリなどの不揮発性メモリなどが挙げられる。また、記録媒体(図示せず)は、医療用観察装置100から着脱可能であってもよい。
【0036】
通信デバイス(図示せず)は、医療用観察装置100が備える通信手段であり、表示装置200などの外部装置と、無線または有線で通信を行う役目を果たす。ここで、通信デバイス(図示せず)としては、例えば、IEEE802.15.1ポートおよび送受信回路(無線通信)や、IEEE802.11ポートおよび送受信回路(無線通信)、通信アンテナおよびRF回路(無線通信)、あるいはLAN端子および送受信回路(有線通信)などが挙げられる。
【0037】
[1−1−2−1]ベース102
ベース102は、医療用観察装置100の基台であり、アーム104の一端が接続されて、アーム104と撮像デバイス106とを支持する。
【0038】
また、ベース102には例えばキャスタが設けられ、医療用観察装置100は、キャスタを介して床面と接地する。キャスタが設けられることにより、医療用観察装置100は、キャスタによって床面上を容易に移動することが可能である。
【0039】
[1−1−2−2]アーム104
アーム104は、複数のリンクが関節部によって互いに連結されて構成される。
【0040】
また、アーム104は、撮像デバイス106を支持する。アーム104により支持された撮像デバイス106は3次元的に移動可能であり、移動後の撮像デバイス106は、アーム104によって、位置および姿勢が保持される。
【0041】
より具体的には、アーム104は、例えば、複数の関節部110a、110b、110c、110d、110e、110fと、関節部110a、110b、110c、110d、110e、110fによって互いに回動可能に連結される複数のリンク112a、112b、112c、112d、112e、112fとから構成される。関節部110a、110b、110c、110d、110e、110fそれぞれの回転可能範囲は、アーム104の所望の動きが実現されるように、設計段階や製造段階などにおいて任意に設定される。
【0042】
つまり、
図1に示す医療用観察装置100では、アーム104を構成する6つの関節部110a、110b、110c、110d、110e、110fに対応する6つの回転軸(第1軸O1、第2軸O2、第3軸O3、第4軸O4、第5軸O5、および第6軸O6)によって、撮像デバイス106の移動に関して6自由度が実現されている。より具体的には、
図1に示す医療用観察装置100では、並進3自由度、および回転3自由度の6自由度の動きが実現される。
【0043】
関節部110a、110b、110c、110d、110e、110fそれぞれには、アクチュエータ(図示せず)が設けられ、関節部110a、110b、110c、110d、110e、110fそれぞれは、アクチュエータ(図示せず)の駆動によって、対応する回転軸で回転する。アクチュエータ(図示せず)の駆動は、例えば、後述する制御部として機能するプロセッサ、または、外部の医療用制御装置(図示せず)によって制御される。
【0044】
関節部110a、110b、110c、110d、110e、110fそれぞれには、6つの回転軸における回転角度をそれぞれ検出することが可能な角度センサ(図示せず)が、設けられうる。角度センサとしては、例えば、ロータリエンコーダや角速度センサなどの、6つの回転軸それぞれにおける回転角度を得ることが可能な任意のセンサが、挙げられる。
【0045】
関節部110a、110b、110c、110d、110e、110fそれぞれが、アクチュエータ(図示せず)の駆動により対応する回転軸で回転することによって、例えばアーム104を伸ばす、縮める(折り畳む)などの、様々なアーム104の動作が、実現される。
【0046】
関節部110aは、略円柱形状を有し、関節部110aの先端部分(
図1における下端部分)で、撮像デバイス106(
図1における撮像デバイス106の上端部分)を、撮像デバイス106の中心軸と平行な回転軸(第1軸O1)まわりに回動可能なように支持する。ここで、医療用観察装置100は、第1軸O1が撮像デバイス106における光軸と一致するように構成される。つまり、
図1に示す第1軸O1まわりに撮像デバイス106を回動させることによって、撮像デバイス106により撮像された医療用撮像画像は、視野が回転するように変更される画像となる。
【0047】
リンク112aは、略棒状の部材であり、関節部110aを固定的に支持する。リンク112aは、例えば、第1軸O1と直交する方向に延伸され、関節部110bに接続される。
【0048】
関節部110bは、略円柱形状を有し、リンク112aを、第1軸O1と直交する回転軸(第2軸O2)まわりに回動可能なように支持する。また、関節部110bには、リンク112bが固定的に接続される。
【0049】
リンク112bは、略棒状の部材であり、第2軸O2と直交する方向に延伸される。また、リンク112bには、関節部110bと関節部110cとがそれぞれ接続される。
【0050】
関節部110cは、略円柱形状を有し、リンク112bを、第1軸O1および第2軸O2それぞれと互いに直交する回転軸(第3軸O3)まわりに回動可能なように支持する。また、関節部110cには、リンク112cの一端が固定的に接続される。
【0051】
ここで、第2軸O2および第3軸O3まわりにアーム104の先端側(撮像デバイス106が設けられる側)が回動することによって、水平面内での撮像デバイス106の位置が変更されるように、撮像デバイス106を移動させることができる。つまり、医療用観察装置100では、第2軸O2および第3軸O3まわりの回転が制御されることにより、医療用撮像画像の視野を平面内で移動させることが可能になる。
【0052】
リンク112cは、一端が略円柱形状を有し、他端が略棒状を有する部材である。リンク112cの一端側には、関節部110cの中心軸と略円柱形状の中心軸とが同一となるように、関節部110cが固定的に接続される。また、リンク112cの他端側には、関節部110dが接続される。
【0053】
関節部110dは、略円柱形状を有し、リンク112cを、第3軸O3と直交する回転軸(第4軸O4)まわりに回動可能なように支持する。関節部110dには、リンク112dが固定的に接続される。
【0054】
リンク112dは、略棒状の部材であり、第4軸O4と直交するように延伸される。リンク112dの一端は、関節部110dの略円柱形状の側面に当接するように、関節部110dに固定的に接続される。また、リンク112dの他端(関節部110dが接続される側とは反対側の端)には、関節部110eが接続される。
【0055】
関節部110eは、略円柱形状を有し、リンク112dの一端を、第4軸O4と平行な回転軸(第5軸O5)まわりに回動可能なように支持する。また、関節部110eには、リンク112eの一端が固定的に接続される。
【0056】
ここで、第4軸O4および第5軸O5は、撮像デバイス106を垂直方向に移動させうる回転軸である。第4軸O4および第5軸O5まわりにアーム104の先端側(撮像デバイス106が設けられる側)が回動することによって、撮像デバイス106の垂直方向の位置が変わる。よって、第4軸O4および第5軸O5まわりにアーム104の先端側(撮像デバイス106が設けられる側)が回動することによって、撮像デバイス106と、患者の術部などの観察対象との距離を変えることが、可能となる。
【0057】
リンク112eは、一辺が鉛直方向に延伸するとともに他辺が水平方向に延伸する略L字形状を有する第1の部材と、当該第1の部材の水平方向に延伸する部位から鉛直下向きに延伸する棒状の第2の部材とが、組み合わされて構成される部材である。リンク112eの第1の部材の鉛直方向に延伸する部位には、関節部110eが固定的に接続される。また、リンク112eの第2の部材には、関節部110fが接続される。
【0058】
関節部110fは、略円柱形状を有し、リンク112eを、鉛直方向と平行な回転軸(第6軸O6)まわりに回動可能なように支持する。また、関節部110fには、リンク112fが固定的に接続される。
【0059】
リンク112fは、略棒状の部材であり、鉛直方向に延伸される。リンク112fの一端は、関節部110fが接続される。また、リンク112fの他端(関節部110fが接続される側とは反対側の端)は、ベース102に固定的に接続される。
【0060】
アーム104が上記に示す構成を有することによって、医療用観察装置100では、撮像デバイス106の移動に関して6自由度が実現される。
【0061】
なお、アーム104の構成は、上記に示す例に限られない。
【0062】
例えば、アーム104の関節部110a、110b、110c、110d、110e、110fそれぞれには、関節部110a、110b、110c、110d、110e、110fそれぞれにおける回転を規制するブレーキが設けられていてもよい。本実施形態に係るブレーキとしては、例えば、機械的に駆動するブレーキや、電気的に駆動する電磁ブレーキなど、任意の方式のブレーキが挙げられる。
【0063】
上記ブレーキの駆動は、例えば、後述する制御部として機能するプロセッサ、または、外部の医療用制御装置(図示せず)によって制御される。上記ブレーキの駆動が制御されることにより、医療用観察装置100では、アーム104の動作モードが設定される。アーム104の動作モードとしては、例えば、固定モードとフリーモードとが挙げられる。
【0064】
ここで、本実施形態に係る固定モードとは、例えば、アーム104に設けられる各回転軸における回転がブレーキにより規制されることにより、撮像デバイス106の位置および姿勢が固定される動作モードである。アーム104が固定モードとなることによって、医療用観察装置100の動作状態は、撮像デバイス106の位置および姿勢が固定される固定状態となる。
【0065】
また、本実施形態に係るフリーモードとは、上記ブレーキが解除されることにより、アーム104に設けられる各回転軸が自由に回転可能となる動作モードである。例えば、フリーモードでは、術者による直接的な操作によって撮像デバイス106の位置および姿勢を調整することが可能となる。ここで、本実施形態に係る直接的な操作とは、例えば、術者が手で撮像デバイス106を把持し、当該撮像デバイス106を直接移動させる操作のことを意味する。
【0066】
[1−1−2−3]撮像デバイス106
撮像デバイス106は、アーム104により支持され、例えば患者の術部などの観察対象を撮像する。撮像デバイス106における撮像は、例えば、後述する制御部として機能するプロセッサ、または、外部の医療用制御装置(図示せず)によって制御される。
【0067】
撮像デバイス106は、例えば電子撮像式の顕微鏡に対応する構成を有する。
【0068】
図2は、本実施形態に係る医療用観察装置100が備える撮像デバイス106の構成の一例を説明するための説明図である。
【0069】
撮像デバイス106は、例えば、撮像部材120と、略円筒形状を有する筒状部材122とを有し、撮像部材120は、筒状部材122内に設けられる。
【0070】
筒状部材122の下端(
図2における下側の端)の開口面には、例えば、撮像部材120を保護するためのカバーガラス(図示せず)が設けられる。
【0071】
また、例えば筒状部材122の内部には光源(図示せず)が設けられ、撮像時には、当該光源からカバーガラス越しに被写体に対して照明光が照射される。照明光が照射された被写体からの反射光(観察光)が、カバーガラス(図示せず)を介して撮像部材120に入射することにより、撮像部材120によって被写体を示す画像信号(医療用撮像画像を示す画像信号)が得られる。
【0072】
撮像部材120としては、各種の公知の電子撮像式の顕微鏡部に用いられている構成を適用することが可能である。
【0073】
一例を挙げると、撮像部材120は、例えば、光学系120aと、光学系120aを通過した光により観察対象の像を撮像する撮像素子を含むイメージセンサ120bとで構成される。光学系120aは、例えば、対物レンズ、ズームレンズおよびフォーカスレンズなどの1または2以上のレンズとミラーなどの光学素子で構成される。イメージセンサ120bとしては、例えば、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)などの撮像素子を複数用いたイメージセンサが、挙げられる。
【0074】
撮像部材120は、例えば、光学系120aおよびイメージセンサ120bで構成される撮像デバイスを、2つ以上有することなどにより、いわゆるステレオカメラとして機能する。ステレオカメラとして機能する撮像デバイス106の構成において、光学系は、ガリレオ式光学系であってもよいし、グリノー式光学系であってもよい。
【0075】
図3〜
図6は、ステレオカメラとして機能する撮像デバイスの一例を示す説明図である。
図3のA、
図4のA、
図5のA、および
図6のAそれぞれは、ステレオカメラとして機能する撮像デバイスが備える光学系の例を示しており、光学系がガリレオ式光学系である例を示している。
図3のB、
図4のB、
図5のB、および
図6のBそれぞれは、対応する各図における特徴をテーブルの形式で表している。
【0076】
以下では、後述する第2の例に係る医療用観察システムを構成する医療用観察装置100を含む本実施形態に係る医療用観察装置100が、
図3〜
図6に示すようなガリレオ式光学系を有する構成により複数の撮像デバイスを備え、複数の撮像デバイスそれぞれの撮像によって、右目用の医療用撮像画像および左目用の医療用撮像画像を含む複数の医療用撮像画像が得られる場合を例に挙げる。また、以下では、
図3〜
図6に示すように、複数の撮像デバイスには、合焦位置と合焦範囲との一方または双方が異なる撮像デバイスが含まれる場合を例に挙げる。なお、複数の撮像デバイスを備える構成が、
図3〜
図6に示すようなガリレオ式光学系を有する構成に限られないことは、言うまでもない。
【0077】
撮像部材120を構成する撮像デバイスには、ズーム機能(光学ズーム機能と電子ズーム機能との一方または双方)、AF(Auto Focus)機能などの、一般的に電子撮像式の顕微鏡部に備えられる1または2以上の機能が搭載される。
【0078】
また、撮像部材120は、例えば4K、8Kなどの、いわゆる高解像度での撮像が可能な構成であってもよい。撮像部材120が高解像度での撮像が可能に構成されることにより、所定の解像度(例えば、Full HD画質など)を確保しつつ、例えば50インチ以上などの大画面の表示画面を有する表示装置200に画像を表示させることが可能となるので、当該表示画面を見る術者の視認性が向上する。また、撮像部材120が高解像度での撮像が可能に構成されることにより、撮像画像が電子ズーム機能によって拡大されて表示装置200の表示画面に表示されたとしても、所定の解像度を確保することが可能となる。さらに、電子ズーム機能を用いて所定の解像度が確保される場合には、撮像デバイス106における光学ズーム機能の性能を抑えることが可能となるので、撮像デバイス106の光学系をより簡易にすることができ、撮像デバイス106をより小型に構成することができる。
【0079】
撮像デバイス106には、例えば、撮像デバイス106の動作を制御するための各種の操作デバイスが設けられる。例えば
図2では、ズームスイッチ124と、フォーカススイッチ126と、動作モード変更スイッチ128とが、撮像デバイス106に設けられている。なお、ズームスイッチ124、フォーカススイッチ126、および動作モード変更スイッチ128が設けられる位置と形状とが、
図2に示す例に限られないことは、言うまでもない。
【0080】
ズームスイッチ124とフォーカススイッチ126とは、撮像デバイス106における撮像条件を調整するための操作デバイスの一例である。
【0081】
ズームスイッチ124は、例えば、ズーム倍率(拡大率)を大きくするズームインスイッチ124aと、ズーム倍率を小さくするズームアウトスイッチ124bとで構成される。ズームスイッチ124に対する操作が行われることによりズーム倍率が調整されて、ズームが調整される。
【0082】
フォーカススイッチ126は、例えば、観察対象(被写体)までの焦点距離を遠くする遠景フォーカススイッチ126aと、観察対象までの焦点距離を近くする近景フォーカススイッチ126bとで構成される。フォーカススイッチ126に対する操作が行われることにより焦点距離が調整されて、フォーカスが調整される。
【0083】
動作モード変更スイッチ128は、撮像デバイス106におけるアーム104の動作モードを変更するための操作デバイスの一例である。動作モード変更スイッチ128に対する操作が行われることにより、アーム104の動作モードが変更される。アーム104の動作モードとしては、例えば上述したように、固定モードとフリーモードとが挙げられる。
【0084】
動作モード変更スイッチ128に対する操作の一例としては、動作モード変更スイッチ128を押下する操作が、挙げられる。例えば、術者が動作モード変更スイッチ128を押下している間、アーム104の動作モードがフリーモードとなり、術者が動作モード変更スイッチ128を押下していないときには、アーム104の動作モードが固定モードとなる。
【0085】
また、撮像デバイス106には、各種操作デバイスに対する操作を行う操作者が操作を行う際の操作性や利便性などをより高めるために、例えば、滑り止め部材130と、突起部材132とが設けられる。
【0086】
滑り止め部材130は、例えば操作者が筒状部材122を手などの操作体で操作を行う際に、操作体の滑りを防止するために設けられる部材である。滑り止め部材130は、例えば、摩擦係数が大きい材料で形成され、凹凸などのより滑りにくい構造を有する。
【0087】
突起部材132は、操作者が筒状部材122を手などの操作体で操作を行う際に、当該操作体が光学系120aの視野を遮ってしまうことや、当該操作体で操作を行う際に、カバーガラス(図示せず)に当該操作体が触れることにより当該カバーガラスが汚れることなどを、防止するために設けられる部材である。
【0088】
なお、滑り止め部材130および突起部材132それぞれが設けられる位置と形状とが、
図2に示す例に限られないことは、言うまでもない。また、撮像デバイス106には、滑り止め部材130と突起部材132との一方または双方が設けれられていなくてもよい。
【0089】
撮像デバイス106における撮像により生成された画像信号(画像データ)は、例えば後述する制御部として機能するプロセッサにおいて、画像処理が行われる。本実施形態に係る画像処理としては、例えば、ガンマ補正、ホワイトバランスの調整、電子ズーム機能に係る画像の拡大または縮小、または、画素間補正などの各種処理のうちの、1または2以上の処理が、挙げられる。また、本実施形態に係る画像処理には、例えば後述する画像処理方法に係る処理が含まれうる。
【0090】
なお、本実施形態に係る医療用観察システムが、医療用観察装置100における各種動作を制御する医療用制御装置(図示せず)を有する場合には、本実施形態に係る画像処理は、当該医療用制御装置(図示せず)において行われてもよい。この場合、医療用制御装置(図示せず)は、本実施形態に係る画像処理方法に係る処理を行うことが可能な医療用画像処理装置として機能する
【0091】
医療用観察装置100は、例えば、表示制御信号と、上記のような画像処理が行われた画像信号とを、表示装置200に送信する。
【0092】
表示制御信号と画像信号とが表示装置200に送信されることによって、表示装置200の表示画面には、観察対象が撮像された医療用撮像画像(例えば、術部が撮像された撮像画像)が、光学ズーム機能と電子ズーム機能との一方または双方によって所望の倍率に拡大または縮小されて表示される。
【0093】
図1に示す医療用観察装置100は、例えば
図1、
図2を参照して示したハードウェア構成を有する。
【0094】
なお、本実施形態に係る医療用観察装置のハードウェア構成は、
図1、
図2を参照して示した構成に限られない。
【0095】
例えば、本実施形態に係る医療用観察装置は、ベース102を備えず、手術室などの天井や壁面などにアーム104が直接取り付けられる構成であってもよい。例えば、天井にアーム104が取り付けられる場合には、本実施形態に係る医療用観察装置は、アーム104が天井から吊り下げられる構成となる。
【0096】
また、
図1では、アーム104が、撮像デバイス106の駆動に関して6自由度が実現されるように構成されている例を示しているが、アーム104の構成は、撮像デバイス106の駆動に関する自由度が6自由度となる構成に限られない。例えば、アーム104は、用途に応じて撮像デバイス106を適宜移動しうるように構成されればよく、関節部およびリンクの数や配置、関節部の駆動軸の方向などは、アーム104が所望の自由度を有するように適宜設定することが可能である。
【0097】
また、
図1、
図2では、撮像デバイス106の動作を制御するための各種の操作デバイスが、撮像デバイス106に設けられる例を示しているが、
図1、
図2に示す操作デバイスのうちの一部または全部は、撮像デバイス106に設けられなくてもよい。一例を挙げると、撮像デバイス106の動作を制御するための各種の操作デバイスは、本実施形態に係る医療用観察装置を構成する撮像デバイス106以外の他の部位に設けられていてもよい。また、他の例を挙げると、撮像デバイス106の動作を制御するための各種の操作デバイスは、フットスイッチやリモートコントローラなどの、外部の操作デバイスであってもよい。
【0098】
また、撮像デバイス106は、複数の観察モードを切り替えることが可能な構成であってもよい。本実施形態に係る観察モードとしては、例えば、自然光で撮像を行う観察モード、特殊光で撮像を行う観察モード、NBI(Narrow Band Imaging)などの画像強調観察技術を利用して撮像を行う観察モードなどが、挙げられる。本実施形態に係る特殊光とは、例えば、近赤外線の波長帯域の光や、5−ALA(5-Aminolevulinic Acid)を用いた蛍光観察の蛍光波長帯域の光など、特定の波長帯域の光である。
【0099】
複数の観察モードを切り替えることが可能な撮像デバイス106の構成の一例としては、例えば、“特定の波長帯域の光を透過させ、他の波長帯域の光を透過させないフィルタと、当該フィルタを光路上に選択的に配置する移動機構と、を備える構成”が、挙げられる。本実施形態に係るフィルタが透過させる特定の波長帯域としては、例えば、近赤外線の波長帯域(例えば、約0.7[マイクロメートル]〜2.5[マイクロメートル]の波長帯域)や、5−ALAを用いた蛍光観察による蛍光波長帯域(例えば、約0.6[マイクロメートル]〜0.65[マイクロメートル]の波長帯域)、ICG(Indocyanine Green)の蛍光波長帯域(例えば、約0.82[マイクロメートル]〜0.85[マイクロメートル]の波長帯域)などが、挙げられる。
【0100】
なお、撮像デバイス106には、透過させる波長帯域が異なる複数のフィルタが設けられていてもよい。また、上記では、フィルタが光路上に配置されることにより、特定の波長帯域の光で撮像が行われる例を示したが、特定の波長帯域の光で撮像を行うための撮像デバイス106の構成が、上記に示す例に限られないことは、言うまでもない。
【0101】
[1−2]第2の例に係る医療用観察システム
本実施形態に係る医療用観察システム1000は、
図1に示す第1の例に示す構成に限られない。次に、医療用観察システム1000の他の例として、内視鏡装置として機能する医療用観察装置100を有する医療用観察システム1000の構成の一例を説明する。
【0102】
図7は、本実施形態に係る医療用観察システム1000の構成の第2の例を示す説明図である。
図7に示す医療用観察システム1000は、例えば、医療用観察装置100と、表示装置200とを有する。例えば
図7に示す医療用観察装置100が手術時に用いられる場合、術者は、医療用観察装置100により撮像されて、表示装置200の表示画面に表示された医療用撮像画像を参照しながら術部を観察し、当該術部に対して、術式に応じた手技などの各種処置を行う。
【0103】
なお、第2の例に係る医療用観察システムは、
図7に示す例に限られない。
【0104】
例えば、第2の例に係る医療用観察システムは、第1の例に係る医療用観察システムと同様に、医療用観察装置100における各種動作を制御する医療用制御装置(図示せず)を、さらに有していてもよい。
【0105】
また、第2の例に係る医療用観察システムは、第1の例に係る医療用観察システムと同様に、医療用観察装置100と表示装置200との一方または双方を複数有する構成であってもよい。
【0106】
以下、
図7に示す第2の例に係る医療用観察システム1000を構成する各装置について、説明する。
【0107】
[1−2−1]表示装置200
表示装置200は、第2の例に係る医療用観察システム1000における表示手段であり、医療用観察装置100からみて外部の表示デバイスに該当する。第2の例に係る医療用観察システム1000を構成する表示装置200は、第1の例に係る医療用観察システム1000を構成する表示装置200と同様である。
【0108】
[1−2−2]医療用観察装置100
図7に示す医療用観察装置100は、例えば、挿入部材134と、光源ユニット136と、ライトガイド138と、カメラヘッド140と、ケーブル142と、制御ユニット144とを備える。医療用観察装置100は、例えば、医療用観察装置100が備えているバッテリなどの内部電源から供給される電力、または、接続されている外部電源から供給される電力などによって、駆動する。
【0109】
挿入部材134は、細長形状を有し、入射光を集光する光学系を内部に備える。挿入部材134の先端は、例えば、患者の体腔内に挿入される。挿入部材134の後端はカメラヘッド140の先端と着脱可能に接続される。また、挿入部材134は、ライトガイド138を介して光源ユニット136と接続され、光源ユニット136から光が供給される。
【0110】
挿入部材134は、例えば、可撓性を有さない素材で形成されてもよいし、可撓性を有する素材で形成されてもよい。挿入部材134を形成する素材によって、医療用観察装置100は、硬性鏡または軟性鏡と呼ばれうる。
【0111】
光源ユニット136は、ライトガイド138を介して挿入部材134と接続される。光源ユニット136は、ライトガイド138を介して挿入部材134に光を供給する。
【0112】
光源ユニット136は、例えば、波長が異なる光を発光する複数の光源を有する。光源ユニット136が有する複数の光源としては、例えば、赤色の光を発光する光源、緑色の光を発光する光源、および青色の光を発光する光源が挙げられる。赤色の光を発光する光源としては、例えば、1または2以上の赤色発光ダイオードが挙げられる。緑色の光を発光する光源としては、例えば、1または2以上の緑色発光ダイオードが挙げられる。青色の光を発光する光源としては、例えば、1または2以上の青色発光ダイオードが挙げられる。なお、光源ユニット136が有する複数の光源が、上記に示す例に限られないことは、言うまでもない。光源ユニット136は、例えば、複数の光源を単一チップで有し、または、複数の光源を複数のチップで有する。
【0113】
光源ユニット136は、制御ユニット144と有線または無線で接続され、光源ユニット136における発光は、制御ユニット144により制御される。
【0114】
挿入部材134に供給された光は、挿入部材134の先端から出射され、患者の体腔内組織などの観察対象に照射される。そして、観察対象からの反射光は、挿入部材134内の光学系によって集光される。
【0115】
カメラヘッド140は、観察対象を撮像する機能を有する。カメラヘッド140は、信号伝送部材であるケーブル142を介して制御ユニット144と接続される。
【0116】
カメラヘッド140は、イメージセンサを有し、挿入部材134によって集光された観察対象からの反射光を光電変換することにより観察対象を撮像し、撮像によって得られた画像信号(医療用撮像画像を示す信号)を制御ユニット144へケーブル142を介して出力する。カメラヘッド140が有するイメージセンサとしては、例えば、CMOSやCCDなどの撮像素子を複数用いたイメージセンサが、挙げられる。
【0117】
内視鏡装置として機能する医療用観察装置100では、例えば、挿入部材134、光源ユニット136、およびカメラヘッド140が、“患者の体内に挿入されて、体内を撮像する撮像デバイス”の役目を果たす。
【0118】
なお、内視鏡装置として機能する医療用観察装置100は、例えば、いわゆるステレオカメラとして機能する複数の撮像デバイスを備える構成であってもよい。ステレオカメラとして機能する撮像デバイスの構成において、光学系は、第1の例に係る医療用観察システムを構成する医療用観察装置100と同様に、ガリレオ式光学系であってもよいし、グリノー式光学系であってもよい。
【0119】
制御ユニット144は、撮像デバイスを制御する。より具体的には、制御ユニット144は、光源ユニット136およびカメラヘッド140それぞれを制御する。
【0120】
また、制御ユニット144は、通信デバイス(図示せず)を含み、カメラヘッド140から出力された画像信号を任意の無線通信または任意の有線通信で、表示装置200へ送信する。制御ユニット144は、画像信号と表示制御信号とを表示装置200へ送信してもよい。
【0121】
制御ユニット144が含む通信デバイス(図示せず)としては、例えば、IEEE802.15.1ポートおよび送受信回路(無線通信)や、IEEE802.11ポートおよび送受信回路(無線通信)、通信アンテナおよびRF回路(無線通信)、光通信用デバイス(有線通信または無線通信)、あるいはLAN端子および送受信回路(有線通信)などが挙げられる。通信デバイス(図示せず)は、複数の通信方式によって、1または2以上の外部装置と通信を行うことが可能な構成であってもよい。
【0122】
また、制御ユニット144は、カメラヘッド140から出力された画像信号に対して所定の処理を行い、所定の処理が行われた画像信号を表示装置200へ送信してもよい。画像信号に対する所定の処理としては、例えば、ホワイトバランスの調整や、電子ズーム機能に係る画像の拡大または縮小、画素間補正などが、挙げられる。画像信号に対する所定の処理には、例えば後述する画像処理方法に係る処理が含まれうる。
【0123】
なお、制御ユニット144は、画像信号に基づく医療用撮像画像を記憶してもよい。
【0124】
制御ユニット144としては、例えばCCU(Camera Control Unit)が挙げられる。
【0125】
内視鏡装置として機能する医療用観察装置100は、例えば
図7を参照して示したハードウェア構成を有する。内視鏡装置として機能する医療用観察装置100では、例えば、挿入部材134、光源ユニット136、およびカメラヘッド140が、撮像デバイスの役目を果たし、制御ユニット144により撮像デバイスにおける撮像が制御される。
【0126】
[1−3]他の例に係る医療用観察システム
本実施形態に係る医療用観察システムは、
図1に示す第1の例に示す構成、
図7に示す第2の例に示す構成に限られない。例えば、本実施形態に係る医療用観察システムを構成する医療用観察装置は、光学式の医療用観察装置に対して複数の撮像デバイスが設けられる構成であってもよい。複数の撮像デバイスが設けられる光学式の医療用観察装置においても、後述する画像処理方法を適用することが可能である。以下では、本実施形態に係る医療用観察システムを構成する医療用観察装置が、
図1、
図7に示す医療用観察装置100である場合を例に挙げる。
【0127】
[1−4]医療用観察装置100の機能構成
次に、
図1、
図7に示す医療用観察装置100を、機能ブロックを用いて説明する。
図8は、本実施形態に係る医療用観察装置100の構成の一例を示す機能ブロック図である。
【0128】
医療用観察装置100は、例えば、撮像部150と、通信部152と、制御部154とを備える。
【0129】
撮像部150は、観察対象を撮像する。撮像部150は、例えば、“撮像デバイス106”(
図1に示す医療用観察装置100の場合)や、“挿入部材134、光源ユニット136、およびカメラヘッド140”
(
図7に示す医療用観察装置100の場合)で構成される。撮像部150における撮像は、例えば制御部154によって制御される。
【0130】
通信部152は、医療用観察装置100が備える通信手段であり、表示装置200などの外部装置と無線または有線で通信を行う役目を果たす。通信部152は、例えば上述した通信デバイス(図示せず)で構成される。通信部152における通信は、例えば制御部154によって制御される。
【0131】
制御部154は、例えば上述したプロセッサ(図示せず)で構成され、医療用観察装置100全体を制御する役目を果たす。また、制御部154は、後述する画像処理方法に係る処理を主導的に行う役目を果たす。なお、制御部154における画像処理方法に係る処理は、複数の処理回路(例えば、複数のプロセッサなど)で分散して行われてもよい。
【0132】
より具体的には、制御部154は、例えば、撮像制御部156と、画像処理部158と、表示制御部160とを有する。
【0133】
撮像制御部156は、撮像部150を構成する撮像デバイスを制御する。撮像デバイスの制御としては、例えば、少なくともズーム機能(光学ズーム機能および電子ズーム機能)を含む、AF機能の制御などの一般的に電子撮像式の顕微鏡部に備えられる1または2以上の機能の制御が、挙げられる。
【0134】
画像処理部158は、複数の撮像デバイスそれぞれにより観察対象が撮像された複数の医療用撮像画像に対して、本実施形態に係る画像処理方法に係る処理を行う。本実施形態に係る画像処理方法に係る処理の一例については、後述する。
【0135】
表示制御部160は、例えば、表示制御信号と画像信号とを通信部152を構成する通信デバイス(図示せず)に伝達し、表示制御信号と画像信号とを表示装置200に対して送信させることによって、表示装置200における表示を制御する。表示制御部160が送信させる画像信号には、画像処理部158において画像処理方法に係る処理が行われた後の画像信号が含まれうる。なお、通信部152における通信の制御は、制御部154を構成する通信制御部(図示せず)により行われてもよい。
【0136】
制御部154は、例えば、画像処理部158を有することにより、本実施形態に係る画像処理方法に係る処理を主導的に行う役目を果たす。また、制御部154は、例えば、撮像制御部156、および表示制御部160を有することによって、医療用観察装置100全体を制御する役目を果たす。
【0137】
なお、制御部154の機能構成は、
図8に示す例に限られない。
【0138】
例えば、制御部154は、本実施形態に係る画像処理方法に係る処理の切り分け方に応じた構成など、医療用観察装置100が有する機能の切り分け方に応じた、任意の構成を有することが可能である。
【0139】
一例を挙げると、医療用観察装置100が
図1に示す構成である場合、制御部154は、アーム104の駆動を制御するアーム制御部(図示せず)をさらに有していてもよい。アーム104の駆動の制御の一例としては、例えば、“関節部110a、110b、110c、110d、110e、110fそれぞれに対応するアクチュエータ(図示せず)に対して、駆動を制御する制御信号を印加すること”などが挙げられる。
【0140】
医療用観察装置100は、例えば
図8に示す機能構成によって、後述する本実施形態に係る画像処理方法に係る処理を行う。
【0141】
なお、本実施形態に係る医療用観察装置の機能構成は、
図8に示す構成に限られない。
【0142】
例えば、本実施形態に係る医療用観察装置は、
図8に示す撮像制御部156、画像処理部158、および表示制御部160のうちの一部または全部を、制御部154とは個別に備える(例えば、別の処理回路で実現する)ことができる。
【0143】
また、本実施形態に係る医療用観察装置において本実施形態に係る画像処理方法に係る処理を実行することが可能な機能構成は、
図8に示す構成に限られず、例えば、本実施形態に係る医療用観察装置は、本実施形態に係る画像処理方法に係る処理の切り分け方に応じた機能構成をとることが可能である。
【0144】
また、本実施形態に係る医療用観察装置が
図1に示す構成である場合、本実施形態に係る医療用観察装置は、アーム104で構成されるアーム部(図示せず)を有する。アーム部(図示せず)を構成するアーム104は、撮像部150を構成する撮像デバイス106を支持する。
【0145】
また、例えば、通信部152と同様の機能、構成を有する外部の通信デバイスを介して外部装置と通信を行う場合には、本実施形態に係る医療用観察装置は、通信部152を備えていなくてもよい。
【0146】
また、本実施形態に係る医療用観察システムが、医療用制御装置(図示せず)を有する構成であり、本実施形態に係る医療用観察装置が当該医療用制御装置(図示せず)により制御される場合、本実施形態に係る医療用観察装置は、制御部154を備えていなくてもよい。
【0147】
ここで、医療用制御装置(図示せず)は、例えば、制御部154と同様の機能、構成を有する制御部を備えることによって、後述する本実施形態に係る画像処理方法に係る処理を行い、また、本実施形態に係る医療用観察装置が備える撮像部150などの各構成要素における動作を制御する。医療用制御装置(図示せず)は、備えている通信デバイス、または、接続されている外部の通信デバイスを介して、本実施形態に係る医療用観察装置と通信を行うことによって、本実施形態に係る医療用観察装置が備える各構成要素における動作を制御する。
【0148】
さらに、本実施形態に係る医療用観察システムが、医療用制御装置(図示せず)を有する構成であり、本実施形態に係る医療用観察装置が当該医療用制御装置(図示せず)により制御される場合、本実施形態に係る医療用観察装置は、制御部154の一部の機能を有さない構成をとることも可能である。
【0149】
[2]本実施形態に係る画像処理方法
次に、本実施形態に係る画像処理方法について、説明する。以下では、本実施形態に係る画像処理方法に係る処理を医療用観察装置100(より具体的には、例えば医療用観察装置100を構成する制御部154が有する画像処理部158)が行う場合を例に挙げる。なお、上述したように、本実施形態に係る医療用観察システムにおいて、本実施形態に係る画像処理方法に係る処理は、表示装置200や、医療用制御装置(図示せず)などにより行われてもよい。
【0150】
[2−1]本実施形態に係る画像処理方法に係る処理
より深い被写界深度とより高い解像度との両立を図る方法としては、上述した一の方法と他の方法とが考えられる。しかしながら、上述した一の方法では、機器の大型化を招いてしまう。また、上述した他の方法では、観察者が疲労を覚える可能性があり、また、上述した他の方法は撮像画像を処理する方法ではないので、撮像画像を保存活用する観点からみると望ましい方法ではない。
【0151】
そこで、医療用観察装置100は、“例えば
図3〜
図6に示す構成のような、合焦位置と合焦範囲との一方または双方が異なる撮像デバイスを含む複数の撮像デバイス”それぞれにより観察対象が撮像された、複数の医療用撮像画像を処理することによって、より深い被写界深度とより高い解像度との両立を図る。より具体的には、医療用観察装置100は、“複数の医療用撮像画像のうちの右目用の医療用撮像画像および左目用の医療用撮像画像それぞれを他の医療用撮像画像で補完して、それぞれの医療用撮像画像の被写界深度を拡大する深度合成処理”を行うことによって、より深い被写界深度とより高い解像度との両立を図る。
【0152】
ここで、右目用の医療用撮像画像および左目用の医療用撮像画像それぞれを他の医療用撮像画像で補完しようとする場合、複数の撮像デバイスの視差により、同一の観察対象が撮像されているとしても複数の医療用撮像画像は同一の画像とはならない。
【0153】
そのため、医療用観察装置100は、複数の医療用撮像画像を対応付ける(対応付け処理)。
【0154】
医療用観察装置100は、例えば、複数の医療用撮像画像それぞれから特徴部分を抽出し、抽出された特徴部分をマッチングすることにより、複数の医療用撮像画像を対応付ける。医療用撮像画像における特徴部分は、例えば、任意のエッジ検出処理により検出されたエッジと任意の外周調査処理の結果との一方または双方など、画像から特徴部分を抽出することが可能な任意の技術を用いて抽出される。また、医療用観察装置100は、例えばパターンマッチングなど、抽出された特徴部分を比較して同一の被写体を同定することが可能な任意の技術を用いて、複数の医療用撮像画像を対応付ける。
【0155】
また、医療用観察装置100は、例えば、複数の撮像デバイスそれぞれの設定を示す設定情報に基づいて、複数の医療用撮像画像それぞれに含まれる同一の被写体を推定することにより、複数の医療用撮像画像を対応付けてもよい。
【0156】
本実施形態に係る設定情報としては、例えば、合焦点距離、画角などの、撮像デバイスにおける撮像を制御することが可能な任意のパラメータを示すデータが、挙げられる。また、本実施形態に係る設定情報には、複数の撮像デバイス間の基線長を示すデータが含まれていてもよい。
【0157】
複数の撮像デバイスにより観察対象が撮像される場合、設定情報から各撮像デバイスがどのような条件で観察対象を撮像しているかを特定することが可能であるので、複数の医療用撮像画像それぞれにおいて被写体が含まれる領域を推定することが可能である。医療用観察装置100は、例えばパターンマッチングなど、推定された領域を比較して同一の被写体を同定することが可能な任意の技術を用いて、複数の医療用撮像画像を対応付ける。
【0158】
なお、本実施形態に係る対応付け処理の例は、上記に示す例に限られず、医療用観察装置100は、複数の画像を比較して対応付けることが可能な任意の技術を用いて複数の医療用撮像画像を対応付けてもよい。
【0159】
複数の医療用撮像画像を対応付けられると、医療用観察装置100は、複数の医療用撮像画像のうちの右目用の医療用撮像画像および左目用の医療用撮像画像それぞれを、対応付けられた他の医療用撮像画像を用いて深度合成する(合成処理)。医療用観察装置100は、右目用の医療用撮像画像および左目用の医療用撮像画像それぞれを、より解像度が高い他の医療用撮像画像で補完して深度合成する。右目用の医療用撮像画像および左目用の医療用撮像画像それぞれが、より解像度が高い他の医療用撮像画像で補完されることによって、それぞれの医療用撮像画像の被写界深度は、拡大する。本実施形態に係る合成処理の具体例については、後述する。
【0160】
本実施形態に係る画像処理方法に係る処理が行われることによって、右目用の医療用撮像画像および左目用の医療用撮像画像それぞれは、より解像度が高い他の医療用撮像画像で補完された医療用撮像画像となる。よって、本実施形態に係る画像処理方法に係る処理が行われることによって、右目用の医療用撮像画像および左目用の医療用撮像画像それぞれにおいてより深い被写界深度とより高い解像度との両立を図ることができる。
【0161】
[2−2]本実施形態に係る画像処理方法に係る処理の例
次に、本実施形態に係る画像処理方法に係る処理の例を示す。
【0162】
(1)画像処理方法に係る処理の第1の例
まず、画像処理方法に係る処理の第1の例として、“複数の撮像デバイスが、右目用の医療用撮像画像を撮像する撮像デバイスと、左目用の医療用撮像画像を撮像する撮像デバイスとの2つの撮像デバイスである場合”における画像処理方法に係る処理の一例を、説明する。2つの撮像デバイスは、例えば、
図3に示す例のように合焦範囲が異なり、
図4に示す例のように合焦位置が異なり、あるいは、合焦位置と合焦範囲との双方が異なる。
【0163】
図9は、本実施形態に係る画像処理方法に係る処理の一例を説明するための説明図であり、
図8に示す画像処理部158における処理を機能ブロックで表している。
【0164】
画像処理部158は、対応付け処理部162と、合成処理部164とを有する。
【0165】
対応付け処理部162は、本実施形態に係る対応付け処理を行う役目を果たし、右目用の医療用撮像画像と左目用の医療用撮像画像とを対応付ける。対応付け処理部162は、例えば、複数の医療用撮像画像それぞれから特徴部分を抽出してマッチングする処理など、複数の画像を比較して対応付けることが可能な任意の技術を用いて、右目用の医療用撮像画像と左目用の医療用撮像画像とを対応付ける。
【0166】
対応付け処理部162は、例えば、右目用の医療用撮像画像に対する左目用の医療用撮像画像の対応付け結果と、左目用の医療用撮像画像に対する右目用の医療用撮像画像の対応付け結果とを、合成処理部164に伝達する。右目用の医療用撮像画像に対する左目用の医療用撮像画像の対応付け結果は、例えば、対応付け後の左目用の医療用撮像画像を示す画像信号であってもよいし、左目用の医療用撮像画像における右目用の医療用撮像画像とマッチングされた領域を示すデータであってもよい。また、左目用の医療用撮像画像に対する右目用の医療用撮像画像の対応付け結果は、例えば、対応付け後の右目用の医療用撮像画像を示す画像信号であってもよいし、右目用の医療用撮像画像における左目用の医療用撮像画像とマッチングされた領域を示すデータであってもよい。なお、本実施形態に係る対応付け結果は、上記に示す例に限られず、複数の医療用撮像画像の対応関係を特定することが可能な、任意の形式のデータであればよい。
【0167】
合成処理部164は、例えば、第1深度合成処理部166と、第2深度合成処理部168と、3D合成処理部170とを有する。合成処理部164では、第1深度合成処理部166および第2深度合成処理部168が、本実施形態に係る画像処理方法に係る合成処理を行う役目を果たす。
【0168】
第1深度合成処理部166は、左目用の医療用撮像画像を、対応付けられた右目用の医療用撮像画像(他の医療用撮像画像の一例)を用いて深度合成する。
【0169】
図10は、本実施形態に係る画像処理方法に係る深度合成処理の一例を説明するための説明図である。
図10のAは、
図3のAに示す左目光学系の撮像デバイスにより撮像された左目用の医療用撮像画像における被写界深度と解像度との関係の一例を示している。
図10のBは、
図3のAに示す右目光学系の撮像デバイスにより撮像された右目用の医療用撮像画像における被写界深度と解像度との関係の一例を示している。
図10のCは、
図10のAに示す左目用の医療用撮像画像と
図10のBに示す右目用の医療用撮像画像とに対して深度合成処理を行った結果の一例を、示している。
【0170】
図10のAに示すように、左目用の医療用撮像画像では、被写界深度は狭いが、解像力は高い。一方、
図10のBに示すように、右目用の医療用撮像画像では、被写界深度は広いが、解像力は低い。
【0171】
第1深度合成処理部166は、右目用の医療用撮像画像と左目用の医療用撮像画像とが対応する部分ごとに、左目用の医療用撮像画像を、より解像度が高い右目用の医療用撮像画像で補完する。よって、第1深度合成処理部166が深度合成処理を行った結果得られる、深度合成処理後の左目用の医療用撮像画像は、
図10のCに示すように、深い被写体深度と高い解像力とが両立する画像となる。
【0172】
第2深度合成処理部168は、右目用の医療用撮像画像を、対応付けられた左目用の医療用撮像画像(他の医療用撮像画像の一例)を用いて深度合成する。第2深度合成処理部168における深度合成処理は、
図10を参照して説明した第1深度合成処理部166における深度合成処理と同様である。よって、第2深度合成処理部168が深度合成処理を行った結果得られる、深度合成処理後の右目用の医療用撮像画像は、
図10のCに示すように、深い被写体深度と高い解像力とが両立する画像となる。
【0173】
3D合成処理部170は、第1深度合成処理部166および第2深度合成処理部168それぞれにおける深度合成処理により得られた、深度合成処理後の右目用の医療用撮像画像および深度合成処理後の左目用の医療用撮像画像を、3D合成する。3D合成処理部170における3D合成処理としては、例えば、“Line by Line”や“Side by Side”などの任意の3D方式実現方式に対応するように画像信号を加工する処理が、挙げられる。
【0174】
合成処理部164は、例えば
図9に示す機能構成により、より深い被写界深度とより高い解像度との両立が図られた右目用の医療用撮像画像、およびより深い被写界深度とより高い解像度との両立が図られた左目用の医療用撮像画像を得ることができる。
【0175】
画像処理部158は、例えば
図9に示す機能構成を有することによって、画像処理方法に係る対応付け処理および合成処理を行う。
【0176】
なお、画像処理部158の機能構成は、
図9に示す例に限られない。
【0177】
上述したように、合成処理部164では、第1深度合成処理部166および第2深度合成処理部168が合成処理を行う役目を果たす。よって、画像処理部158が有する合成処理部164は、3D合成処理部170を有していなくてもよい。
【0178】
また、上記では、本実施形態に係る画像処理方法に係る処理を、対応付け処理と合成処理という2つの処理で表したが、本実施形態に係る画像処理方法に係る処理の切り分け方は、上記に示す例に限られない。つまり、画像処理部158は、本実施形態に係る画像処理方法に係る処理の切り分け方に応じた構成を有していてもよい。
【0179】
(2)画像処理方法に係る処理の第2の例
次に、画像処理方法に係る処理の第2の例として、“複数の撮像デバイスが3つ以上の撮像デバイスである場合”における画像処理方法に係る処理の一例を、説明する。
【0180】
3つ以上の撮像デバイスとは、“右目用の医療用撮像画像を撮像する撮像デバイス”、“左目用の医療用撮像画像を撮像する撮像デバイス”、および“深度合成に用いるための医療用撮像画像を撮像する、1または2以上の撮像デバイス”である。以下では、“右目用の医療用撮像画像を撮像する撮像デバイス”を「第1の撮像デバイス」と示し、“左目用の医療用撮像画像を撮像する撮像デバイス”を「第2の撮像デバイス」と示す場合がある。また、以下では、“深度合成に用いるための医療用撮像画像を撮像する、1または2以上の撮像デバイス”それぞれを「第3の撮像デバイス」と示す場合がある。
【0181】
3つ以上の撮像デバイスのうち、第1の撮像デバイスおよび第2の撮像デバイスは、固定であってもよいし、医療用観察システム1000を用いる使用者の操作などによって任意に設定されてもよい。3つ以上の撮像デバイスのうち、第1の撮像デバイスおよび第2の撮像デバイスに該当しない撮像デバイスが、第3の撮像デバイスとして機能する。
【0182】
3つ以上の撮像デバイスの組み合わせとしては、例えば下記に示す例が挙げられる。なお、3つ以上の撮像デバイスの組み合わせの例が、下記に示す例に限られないことは、言うまでもない。
・第1の撮像デバイスの合焦位置および合焦範囲と、第2の撮像デバイスの合焦位置および合焦範囲とが同一であり、かつ、第3の撮像デバイスの合焦位置と合焦範囲との一方または双方が、第1の撮像デバイスおよび第2の撮像デバイスと異なっている(例えば
図5に示す組み合わせ)。第3の撮像デバイスが複数存在する場合、複数の第3の撮像デバイスのうちの一部または全部は、合焦位置および合焦範囲が同一であってもよい。
・第1の撮像デバイス、第2の撮像デバイス、および第3の撮像デバイスそれぞれは、合焦位置と合焦範囲との一方または双方が異なっている(例えば
図6に示す組み合わせ)。第3の撮像デバイスが複数存在する場合、複数の第3の撮像デバイスのうちの一部または全部は、合焦位置および合焦範囲が同一であってもよい。
【0183】
複数の撮像デバイスが3つ以上の撮像デバイスである場合であっても、画像処理部158は、
図9に示す機能構成(変形例も含む)と同様の機能構成によって、“より深い被写界深度とより高い解像度との両立が図られた右目用の医療用撮像画像と、より深い被写界深度とより高い解像度との両立が図られた左目用の医療用撮像画像を得ること”が、できる。
【0184】
具体的には、第2の例に係る対応付け処理部162は、第1の例に係る対応付け処理部162と同様に、第1の撮像デバイスにより撮像された右目用の医療用撮像画像、第2の撮像デバイスにより撮像された左目用の医療用撮像画像、および第3の撮像デバイスにより撮像された医療用撮像画像それぞれを、対応付ける。
【0185】
第2の例に係る合成処理部164が有する第1深度合成処理部166は、第1の例に係る第1深度合成処理部166と同様に、左目用の医療用撮像画像を、対応付けられた他の医療用撮像画像(第1の撮像デバイスにより撮像された右目用の医療用撮像画像および第3の撮像デバイスにより撮像された医療用撮像画像)を用いて深度合成する。
【0186】
第2の例に係る合成処理部164が有する第2深度合成処理部168は、第1の例に係る第2深度合成処理部168と同様に、右目用の医療用撮像画像を、対応付けられた他の医療用撮像画像(第2の撮像デバイスにより撮像された左目用の医療用撮像画像および第3の撮像デバイスにより撮像された医療用撮像画像)を用いて深度合成する。
【0187】
したがって、第2の例に係る合成処理部164は、第1の例に係る合成処理部164と同様に、より深い被写界深度とより高い解像度との両立が図られた右目用の医療用撮像画像、およびより深い被写界深度とより高い解像度との両立が図られた左目用の医療用撮像画像を得ることができる。
【0188】
また、第2の例に係る合成処理部164は、第3の撮像デバイスにより撮像された医療用撮像画像をさらに用いて深度合成処理を行う。よって、第2の例に係る画像処理方法に係る処理が行われる場合、第3の撮像デバイスの数が増える程、手前から奥まで全域においてより高い解像度の医療用撮像画像を得ることが可能である。
【0189】
[3]本実施形態に係る画像処理方法が用いられることにより奏される効果の一例
本実施形態に係る画像処理方法が用いられることによって、例えば下記に示す効果が奏される。なお、本実施形態に係る画像処理方法が用いられることにより奏される効果が、下記に示す例に限られないことは、言うまでもない。
・右目用の医療用撮像画像と左目用の医療用撮像画像との双方を、高い解像力と深い被写界深度を両立した画像とすることができる。換言すると、高い解像力を保ったまま深度を拡大した医療用撮像画像とすることを、右目用の医療用撮像画像と左目用の医療用撮像画像との双方で実現することができる。
・深度合成処理が行われた後の右目用の医療用撮像画像および左目用の医療用撮像画像が表示される表示画面を見る観察者は、左右で同じ解像度の画像を見ることができる。よって、本実施形態に係る画像処理方法が用いられることによって、上記観察者の眼精疲労を低減する効果が期待される。
・撮像デバイスの光学系に別の光路を持つ構成とする必要がないので、当該構成とすることにより撮像デバイスの小型化を図ることができる。
【0190】
(本実施形態に係るプログラム)
コンピュータシステムを、本実施形態に係る医療用観察装置(または、本実施形態に係る医療用画像処理装置)として機能させるためのプログラム(例えば、本実施形態に係る画像処理方法に係る処理を実行することが可能なプログラム)が、コンピュータシステムにおいてプロセッサなどにより実行されることによって、右目用の医療用撮像画像および左目用の医療用撮像画像それぞれにおいてより深い被写界深度とより高い解像度との両立を図ることができる。ここで、本実施形態に係るコンピュータシステムとしては、単体のコンピュータ、または、複数のコンピュータが挙げられる。本実施形態に係るコンピュータシステムによって、本実施形態に係る画像処理方法に係る一連の処理が行われる。
【0191】
また、コンピュータシステムを、本実施形態に係る医療用観察装置(または、本実施形態に係る医療用画像処理装置)として機能させるためのプログラムが、コンピュータシステムにおいてプロセッサなどにより実行されることによって、上述した本実施形態に係る画像処理方法に係る処理によって実現される表示によって奏される効果を、奏することができる。
【0192】
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到しうることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
【0193】
例えば、上記では、コンピュータシステムを、本実施形態に係る医療用観察装置(または、本実施形態に係る医療用画像処理装置)として機能させるためのプログラム(コンピュータプログラム)が提供されることを示したが、本実施形態は、さらに、上記プログラムを記憶させた記録媒体も、併せて提供することができる。
【0194】
上述した構成は、本実施形態の一例を示すものであり、当然に、本開示の技術的範囲に属するものである。
【0195】
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
【0196】
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
合焦位置と合焦範囲との一方または双方が異なる撮像デバイスを含む複数の撮像デバイスそれぞれにより観察対象が撮像された、複数の医療用撮像画像を対応付ける対応付け処理部と、
複数の前記医療用撮像画像のうちの右目用の医療用撮像画像および左目用の医療用撮像画像それぞれを、対応付けられた他の前記医療用撮像画像を用いて深度合成する合成処理部と、
を備える、医療用画像処理装置。
(2)
前記合成処理部は、前記右目用の医療用撮像画像および前記左目用の医療用撮像画像それぞれを、より解像度が高い他の前記医療用撮像画像で補完して深度合成する、(1)に記載の医療用画像処理装置。
(3)
前記対応付け処理部は、複数の前記医療用撮像画像それぞれから特徴部分を抽出し、抽出された特徴部分をマッチングすることにより、複数の前記医療用撮像画像を対応付ける、(1)または(2)に記載の医療用画像処理装置。
(4)
前記対応付け処理部は、複数の前記撮像デバイスそれぞれの設定を示す設定情報に基づいて、複数の前記医療用撮像画像それぞれに含まれる同一の被写体を推定することにより、複数の前記医療用撮像画像を対応付ける、(1)または(2)に記載の医療用画像処理装置。
(5)
複数の前記撮像デバイスは、前記右目用の医療用撮像画像を撮像する撮像デバイスと、前記左目用の医療用撮像画像を撮像する撮像デバイスとの2つの撮像デバイスであり、
前記対応付け処理部は、前記右目用の医療用撮像画像と前記左目用の医療用撮像画像とを対応付け
前記合成処理部は、前記右目用の医療用撮像画像および前記左目用の医療用撮像画像それぞれを、対応付けられた他方の医療用撮像画像を用いて深度合成する、(1)〜(4)のいずれか1つに記載の医療用画像処理装置。
(6)
複数の前記撮像デバイスは、前記右目用の医療用撮像画像を撮像する第1の撮像デバイス、前記左目用の医療用撮像画像を撮像する第2の撮像デバイス、および深度合成に用いるための医療用撮像画像を撮像する、1または2以上の第3の撮像デバイスである、(1)〜(4)のいずれか1つに記載の医療用画像処理装置。
(7)
前記第1の撮像デバイスと前記第2の撮像デバイスとは、合焦位置および合焦範囲が同一であり、
深度合成に用いられる他の前記医療用撮像画像は、前記第3の撮像デバイスにより撮像された医療用撮像画像である、(6)に記載の医療用画像処理装置。
(8)
前記第1の撮像デバイス、前記第2の撮像デバイス、および前記第3の撮像デバイスそれぞれは、合焦位置と合焦範囲との一方または双方が異なっている、(6)に記載の医療用画像処理装置。
(9)
深度合成された前記右目用の医療用撮像画像、および深度合成された前記左目用の医療用撮像画像それぞれを、表示画面に表示させる表示制御部をさらに備える、請求項1に記載の医療用画像処理装置。
(10)
合焦位置と合焦範囲との一方または双方が異なる撮像デバイスを含み、観察対象をそれぞれ撮像する複数の撮像デバイスと、
複数の前記撮像デバイスそれぞれにより撮像された複数の医療用撮像画像を対応付ける対応付け処理部と、
複数の前記医療用撮像画像のうちの右目用の医療用撮像画像および左目用の医療用撮像画像それぞれを、対応付けられた他の前記医療用撮像画像を用いて深度合成する合成処理部と、
を備える、医療用観察装置。
(11)
複数のリンクが関節部によって互いに連結されて構成されるアームをさらに備え、
複数の前記撮像デバイスは、前記アームにより支持される、(10)に記載の医療用観察装置。
(12)
複数の前記撮像デバイスは、患者の体内に挿入され、前記体内を前記観察対象として撮像する、(10)に記載の医療用観察装置。
(13)
合焦位置と合焦範囲との一方または双方が異なる撮像デバイスを含む複数の撮像デバイスそれぞれにより観察対象が撮像された、複数の医療用撮像画像を対応付けるステップと、
複数の前記医療用撮像画像のうちの右目用の医療用撮像画像および左目用の医療用撮像画像それぞれを、対応付けられた他の前記医療用撮像画像を用いて深度合成するステップと、
を有する、医療用画像処理装置により実行される画像処理方法。