(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0008】
以下、図面を参照して本発明の実施形態を説明する。
(第1の実施形態)
図1に示すように本発明の第1の実施形態の画像記録装置を備えた内視鏡装置1は、手術室内の手術台2に横たわる患者3に対して、立体観察(3D観察)のために使用される立体内視鏡(3D内視鏡と略記)4と、トロリー5に搭載された複数の医療機器とを備える。
トロリー5には、複数の医療機器として、照明光を発生する光源装置6と、3D内視鏡4に対する画像処理を行い、3次元内視鏡画像信号(3D内視鏡画像信号)を生成する画像生成装置としての3Dプロセッサ7と、3Dプロセッサ7により生成された3D内視鏡画像信号を3D内視鏡画像として表示する術中モニタとしての3D観察モニタ(観察モニタ又は再生モニタと略記)8と、3Dプロセッサ7から出力される3D内視鏡画像信号を記録する第1の実施形態の画像記録装置9と、高周波電源装置(電気メス電源装置)10とが搭載されている。本実施形態においては、3D内視鏡画像または3D内視鏡画像信号を単に3D画像又は3D画像信号と略記する。なお、本明細書においては、後述するように画像記録装置9に記録(録画)された3D画像を再生する再生環境において使用される3Dモニタを外部モニタ又は再生モニタと言う。
【0009】
図1に示す観察モニタ8は、3D内視鏡4により取得した3D画像を、術者Dが観察する際に表示される観察モニタ(又は表示モニタ)であり、また画像記録装置9に記録される際の表示環境の3D画像の表示手段になる。
患者3の例えば腹部には、図示しないトラカールを介して3D内視鏡4が挿入され、この3D内視鏡4は、ライトガイドケーブル11を介して光源装置6と接続される。また、3D内視鏡4は、ライトガイドケーブル11内を挿通された信号ケーブル12a,12b、12c(
図2参照)を介して、3Dプロセッサ7に接続される。
また、高周波電源装置10は、高周波による処置を行うための電気メス13に対して電気メスケーブル14を介して高周波信号を供給する。
図2は、
図1における主要な医療機器の内部構成を示す。
3D内視鏡4は、体内に挿入される挿入部21と、挿入部21の後端(基端)に設けられ、術者D等により把持される把持部22とを有し、把持部22から延出されたライトガイドケーブル11の端部は光源装置6に着脱自在に接続される。
【0010】
光源装置6は、白色の照明光を発生するランプ23aと、照明光を集光してライトガイドケーブル11の端部に入射(供給)する集光レンズ23bとを有する。ライトガイドケーブル11に入射された照明光は、挿入部21内を挿通されたライトガイド24の基端側端部に入射される。このライトガイド24は、基端側端部に入射された照明光をこのライトガイド24の先端側の端部に伝送し、ライトガイド24の先端面が配置された照明窓から照明光を出射し、体内の病変部等の被写体を照明する。
挿入部21の先端部には、左右方向に(両光軸間)距離dだけ離間して、左目用対物レンズ25aと右目用対物レンズ25bとが配置され、体内の患部等の被写体の光学像を視差を有する状態で結像する。左目用対物レンズ25aと右目用対物レンズ25bそれぞれの結像位置には、左目用撮像素子としての左目用電荷結合素子(CCDと略記)26aの撮像面と、右目用撮像素子としての右目用CCD26bの撮像面とが配置されている。
【0011】
なお、本明細書においては、左の撮像素子は左目用撮像素子と同じ意味であり、同様に右の撮像素子は右目用撮像素子と同じ意味であり、撮像素子以外においても同様の意味で用いる。例えば左目用画像信号と右目用画像信号は、左右の画像信号と同じ意味となる。
左右のCCD26a、26bは、結像された光学像を光電変換した出力信号としての撮像信号を出力する。左目用対物レンズ25aと左目用CCD26aとにより左目用撮像部又は左撮像部27aが形成され、右目用対物レンズ25aと右目用CCD26bとにより右目用撮像部又は右撮像部27bが形成される。上記距離dを有し、同じ被写体を、視線方向が異なる両撮像部27a,27bにより撮像して、表示装置としての観察モニタ8に3D観察用画像を表示することにより、3D観察用画像を観察する(観察者又はユーザとなる)術者Dは、被写体を立体感又は奥行き感を知覚して観察することができるようにしている。
【0012】
CCD26aにより撮像された左の撮像信号は、3D内視鏡4内を挿通され、外部に延出された信号ケーブル12aを介して、3Dプロセッサ7内の左目用の2D画像生成回路31Lに入力される。
また、CCD26bにより撮像された右の撮像信号は、3D内視鏡4内を挿通され、外部に延出された信号ケーブル12bを介して、3Dプロセッサ7内の右目用の2D画像生成回路31Rに入力される。
2D画像生成回路31Lにより生成された左の2D画像信号と2D画像生成回路31Rにより生成された右の2D画像信号とは、3D画像生成回路32に入力され、3D画像生成回路32は、3D画像信号を生成する。
図3Aは、対物レンズ25a,25bから距離Lの位置にある被写体Obを左右の対物レンズ25a,25bによりCCD26a,26bの撮像面28a,28bに左右の光学像Il,Irを結像する様子を示す。
【0013】
被写体Obにおける中央部Scは、左右の対物レンズ25a,25aを経て左右の撮像領域30a,30bにそれぞれ共通の光学像部分Icとして結像され、また被写体Obにおける左部分Saは、撮像領域30aのみに(共通でない)非共通の光学像部分Iaとして結像され、被写体Obにおける右部分Saは、撮像領域30bのみに(共通でない)非共通の光学像部分Ibとして結像される。なお、左右の対物レンズ25a,25bの光軸方向は互いに異なるために、両撮像面28a,28bにおける共通の光学像部分Icは実際には、凹凸に応じて異なる光学像となる。
このように左右のCCD26a,26bは、同じ被写体Obに対して、左右に結像された共通の光学像部分Icと、非共通の光学像部分Ia,Ibとを有する光学像Il,Irを光電変換した撮像信号を生成し、3Dプロセッサ7は、共通の光学像部分Icと、非共通の光学像部分Ia,Ibとを反映した左右の2D画像信号を有する3D画像信号を生成し、観察モニタ8は、そのような3D画像を表示することになる。
本実施形態においては、CCD26a,26bは、
図3Bの最上段部分に示すように視差調整を行わない場合の通常用の撮像領域30a,30bの他に、撮像領域30a,30bの各左右両側に、視差調整用の撮像領域30a′、30b′を備えるようにしている。
【0014】
図3Bにおける最上段の下に、
図3Aの視差状態のままで撮像した場合の光学像(視差調整無しと記載)、その下に
図3Aの状態から視差を強調した光学像(視差強調と記載)、その下に
図3Aの状態から視差を低減した光学像(視差低減と記載)、を模式的に示す。
左右の視差を大きくすることを望む場合には、
図3Bの視差強調の光学像として示すように、撮像領域を左右方向にシフトすることにより、共通の光学像部分Icの割合を小さくし、共通でない非共通の光学像部分Ia、Ibの割合を大きくすることにより、実際には距離dを(大きく)変化させることをしない状態において、距離dを大きくした場合と類似した視差を大きく調整した左右の光学像を取得(生成)できるようにしている。
また、撮像領域を、視差強調の場合と反対方向にシフトすることにより、視差量を低減した光学像を取得(生成)することもできるようにしている。
【0015】
つまり、CCD26a,26bから実際に撮像信号として出力する場合の撮像領域を、
図3Bに示すように撮像面上において左右方向に移動することにより、視差量が異なる左右の撮像信号を出力でき、左右の撮像信号は2D画像生成回路31L,31Rにより視差量が異なる左右の2D画像に変換される。
なお、CCD26a,26bの撮像面28a,28b(の画素)全体から出力される撮像信号から、実際に抽出する撮像信号の範囲を制限することにより、
図3B等において説明した視差量が異なる左右の2D画像信号を生成することができる。このように、撮像面28a,28bの画素全体から一定のサイズを保った状態で撮像信号を抽出する場合の撮像範囲を左右方向にシフトすることにより、簡単に視差量を増減した左右の2D画像信号を生成することができる。
これに対して、視差量を増減するために抽出する場合の撮像範囲の大きさを変更すると、視差量の増減に伴って左右の2D画像の画像サイズが変化してしまい、変化しないようにするためには更に拡大や縮小の処理が必要になってしまう。本実施形態においては、3D画像を形成する左右の2D画像における視差量を、該視差量に対応したアライメントの値で反映する。
具体的には、
図5Bに示すように3D画像を形成する左右の2D画像(
図5Bでは単に左画像、右画像と表記)における表示画像位置を左右方向に離間して表示し、視差量が大きい程、左右方向に離間する距離(
図5Bでは+15ドット、−15ドット)を大きくするアライメントにしている。そのため、左右の画像における左右方向に離間する距離が大きいアライメントの場合程、観察する術者等のユーザは、立体感が大きいと知覚(視認)する。
【0016】
図2に示す3D内視鏡4は、該3D内視鏡4に固有の識別情報(IDと略記)を発生するROM(リードオンリーメモリ)等から構成されるID発生器(
図2では単にIDと表記)29を有する。
このID発生器29のIDは、信号ケーブル12cを介して3Dプロセッサ7内のID読取回路33に入力され、3D画像生成回路32はIDを読み取り、3Dプロセッサ7を制御する制御回路34に出力する。制御回路34は、入力されたIDから、左右のCCD26a,26bの画素数、左右の対物レンズ25a,25aの焦点距離f、左右の撮像部27a,27bの画角、光軸間距離dにより生成される視差量に関する情報を取得することができるようにしている。
図3Aにおいて示したように、距離Lが決まると、光軸間距離dの場合に撮像面28a,28bに結像される左右の光学像Il,Irにおけるは、撮像部27a,27bの視差量を反映した光学像となっている。そして、視差量に関する情報となる共通の光学像部分Icと非共通の光学像部分Ia又はIbとの比率を取得することができる。
【0017】
このため、3D内視鏡4の撮像部27a,27bから取得し、生成する視差量に関する情報(視差量パラメータとも言う)として、光軸間距離d、距離L、共通の光学像部分Icと非共通の光学像部分Ia(Ib)の比率、又はサイズの情報としても良い。なお、距離Lを3D内視鏡4の撮像部27a,27bの既知の特性を利用して算出しても良い。同じ被写体上の位置が左右の撮像面上において結像される位置を検出することにより距離Lを算出することができる。
3Dプロセッサ7は、3D画像生成部を形成する3D画像生成回路32により生成した3D画像信号を、出力端から観察モニタ8と画像記録装置9とに出力する。
また、3Dプロセッサ7の制御回路34は、3D内視鏡4の光軸間距離d、距離L、共通の光学像部分Icと非共通の光学像部分Ia(Ib)の比率、又はサイズの情報を視差量パラメータの情報として通信回路35を介して画像記録装置9に出力し、視差量を補正する際に利用できるようにしても良い。或いは、両撮像部27a,27bにおけるCCD26a,26bの画素数、左右の対物レンズ25a,25aの焦点距離f、画角、光軸間距離d、距離Lの情報を、視差量に関する情報として通信回路35を介して画像記録装置9に出力するようにしても良い。
【0018】
以下の説明においては、3Dプロセッサ7は、主に表示環境の情報として、視差量を反映した情報として、アライメントの値を画像記録装置9に出力する場合を説明する。
また、3Dプロセッサ7には視差量増減スイッチ37を設けた操作パネル36が設けてある。術者等のユーザにより操作される視差量増減スイッチ37の操作信号は、制御回路34に入力され、制御回路34は、操作信号に応じて2D画像生成回路31L,31Rにより生成される左右の2D画像の視差量を大きくしたり、小さくするように制御する。
また、制御回路34は、(通常の)視差量パラメータの他に、視差量増減スイッチ37により、増減される視差量調整パラメータの情報も通信回路35を介して画像記録装置9に出力することができる。
図3Bにおいて説明した方法で視差量を増減する場合、増減量が大きく無い範囲においては光軸間距離dを増減した場合と等価であると近似できる。このため、視差量増減スイッチ37により、増減される視差量調整パラメータの情報を、光軸間距離dの値を増減した情報として、アライメントの値に含めるようにしても良い。
【0019】
なお、上記操作パネル36から3D画像生成回路32が生成する3D画像の再生方式(又は表示方式)を設定することができる。観察モニタ8の3D画像を表示する再生方式に合わせて、3D画像生成回路32が3D画像信号を生成することができるように、3D画像生成回路32は、複数種類の再生方式(又は表示方式)で3D画像信号を生成する機能を有する。
術者等のユーザは、観察モニタ8の再生方式が対応する再生方式の3D画像信号を生成するように設定する。なお、3Dプロセッサ7と、観察モニタ8とを通信回路を介して接続し、3Dプロセッサ7が通信回路を介して接続された観察モニタ8の再生方式の情報を取得し、取得した情報に応じて、自動的に観察モニタ8の再生方式と同じ再生方式の3D画像信号を生成するようにしても良い。
このために、画像記録装置9に入力される3D画像信号は、通常、観察モニタ8の再生方式と同じ再生方式の3D画像信号が入力される。従って、
図1に示すように手術等の際に使用される観察モニタ8として、異なる種類の再生方式の観察モニタが使用されると、画像記録装置9に入力される3D画像信号の再生方式(表示方式)も異なる場合がある。
【0020】
観察モニタ8は、3D画像生成回路32により生成された3D画像信号に対して、3D表示画像を生成する画像処理を行う表示画像生成回路41と、表示画像生成回路41により生成された3D表示画像信号を表示する3D表示パネル42と、画像記録装置9と通信を行う通信回路43と、表示画像生成回路41及び通信回路の動作を制御する制御回路44と、を有する。
制御回路44は、3D画像を表示する3D表示パネル42の表示サイズ(例えばインチサイズ)の情報を通信回路43を介して、画像記録装置9に送信する。
図2及び
図4に示す画像記録装置9は、3Dプロセッサ7から3D画像信号が入力される画像入力回路50と、画像入力回路50に入力された3D画像信号の3D画像(データ)から記録装置に記録する記録データを生成する記録データ生成回路51と、記録データ生成回路51により生成された記録データを記録する記録部を形成する、例えばハードディスク装置(HDDと略記)により構成される記録装置52aと、記録データを再生して、外部の再生機器に出力画像を出力する場合における再生機器に適合する出力画像に調整又は設定するための調整情報又は設定情報を形成する調整パラメータ(単にパラメータとも言う)を格納する出力画像設定情報格納部を形成するパラメータ格納装置52bと、を有する。より具体的には、パラメータ格納装置52bは、調整パラメータとして、視差量パラメータを算出又は決定するテーブルデータを格納する。
【0021】
図4においては、パラメータ格納装置52bは、記録装置52aと別体に設けているが、記録装置52aの内部にパラメータ格納装置52bを設けるようにしても良い。なお、
図4の画像記録装置9においては、点線が画像信号の流れ、実線が制御信号の流れを表している。
また、この画像記録装置9は、記録装置52aに記録された記録データを再生した3D再生画像(3D画像)の視差量を調整する視差調整回路54と、視差調整回路54を経て出力される3D画像信号に対して再生方式を変換する再生方式変換回路55と、再生方式変換回路55を経た3D画像信号を再生用の外部モニタ71に出力する画像出力回路56と、外部モニタ71と通信を行う通信回路57を有する。
記録装置52aに記録(録画)された3D画像は、再生時には視差調整回路54に入力され、視差調整回路54と再生方式変換回路55とを経て、再生環境を形成する再生機器に適合した再生画像(又は出力画像)となり、複数種類の再生機器を構成する外部モニタ71等に出力される。
【0022】
なお、再生機器として、外部モニタ71のみの場合においても、外部モニタ71は再生方式が異なる複数種類が存在するため、外部モニタ71は、複数種類の再生機器を構成する。
上記通信回路57は、外部モニタ71にて3D画像を再生する場合における再生環境を形成する外部モニタ71の再生方式、外部モニタ71の画面サイズ(インチサイズ)の情報を再生環境の情報として取得する。この通信回路57は、外部モニタ71から取得した再生環境の情報を例えば制御回路59に送り、制御回路59は取得した再生環境の情報を、例えば制御回路59内部のメモリ59aに格納する。このため、通信回路57又は制御回路59は、再生環境情報取得部を形成し、メモリ59aは、取得した再生環境の情報を格納する再生環境情報格納部を形成する。なお、メモリ59aを、制御回路59の外部に設けるようにしても良い。
また、この画像記録装置9は、3Dプロセッサ7の通信回路35及び観察モニタ8の通信回路43と通信を行う通信回路58と、画像記録装置9の動作を制御する制御回路59と、術者等のユーザがデータの入力や指示操作等を行う操作/表示部60と、外部のストリーミングクライアントPC72にストリーミング信号を出力するストリーミング出力回路61と、外部メディア73に外部メディア書出を行う外部メディア書出回路62とを有する。なお、外部メディア73は、USBメディア、光学メディア、PC(パーソナルコンピュータ)/サーバなどから構成される。
【0023】
図4に示す外部モニタ71、ストリーミングクライアントPC72、外部メディア73は、画像記録装置9に着脱自在に接続され、記録装置52aに記録された3D画像(データ)を再生する、画像記録装置9外部の複数種類の再生機器を形成する。
画像記録装置9にストリーミングクライアントPC72が接続された場合には、上記再生方式変換回路55の出力信号は、ストリーミング出力回路61を経てストリーミングクライアントPC72に出力される。
また、画像記録装置9に外部メディア73が接続された場合には、上記再生方式変換回路55の出力信号は、外部メディア73に出力される。
また、視差調整回路54と、再生方式変換回路55は、外部の再生機器における外部モニタ71とストリーミングクライアントPC72とに対しては、双方向の通信を行うことができるように接続される。例えば視差調整回路54と再生方式変換回路55は、通信回路57を介して外部モニタ71と双方向の通信を行うことができる。また、視差調整回路54と再生方式変換回路55は、ストリーミング出力回路61を経てストリーミングクライアントPC72と双方向の通信を行うことができる。また、視差調整回路54と、再生方式変換回路55は、外部メディア書出回路62を介して外部メディア73に3D画像信号を書き込むことができる。
【0024】
ストリーミング出力回路61も、内部にストリーミングクライアントPC72の再生環境の情報を取得し、取得した情報を制御回路59に送り、メモリ59aに格納することができる。
一方、外部メディア書出回路62は、操作/表示部60から、外部メディア73を用いて再生しようとする場合の再生環境の情報を入力することにより、表示環境に基づいて生成される出力画像を前記再生環境の情報に整合するように視差調整回路54により視差量が調整され、さらに前記再生環境に整合する再生方式となるように再生方式を変換した後、外部メディア73に出力する。このため、操作/表示部60は、(出力画像設定値情報格納部を構成するパラメータ格納装置52bに格納された)出力画像の設定情報としての調整パラメータを可変する操作部を構成する。
上記通信回路58は、3Dプロセッサ7の通信回路35及び観察モニタ8の通信回路43と通信を行うことにより、観察モニタ8に3D画像が表示される表示環境の情報を取得する表示環境取得部を形成し、3Dプロセッサ7の通信回路35と通信を行い、3D内視鏡4の撮像部27a,27bの視差量に関する情報(アライメントの情報)、3Dプロセッサ7の3D画像の再生方式の情報を取得すると共に、観察モニタ8の画面サイズの情報を取得し、例えば通信回路58内のメモリ58aに格納する。このメモリ58aは、表示環境の情報を格納する表示環境情報格納部(又は表示環境情報格納装置)を形成する。
【0025】
上記操作/表示部60は、例えばタッチパネルにより、構成されており、術者等のユーザは、タッチパネルにおける画像記録と表示されている部分をタッチする操作を行うことにより、画像の記録の指示入力を行ったり、画像再生と表示されている部分をタッチする操作を行うことにより再生の指示入力等を行うことができる。
画像入力回路50に入力される3D画像信号は、記録データ生成回路51に入力され、記録データ生成回路51は、3D画像信号の記録データを生成する。また、記録データ生成回路51は、制御回路59を介して、操作/表示部60から記録指示が入力された場合には、通信回路58のメモリ58a内に格納された表示環境の情報を、3D画像信号に関連する情報としてのメタ情報を付加して、3D画像信号の記録データを生成する。そして、記録装置52aは、メタ情報が付加された3D画像信号の記録データを記録する。
上記視差調整回路54は、記録装置52aから読み出した記録データにおけるメタ情報から表示環境の情報を取得(又は参照)する。
【0026】
また、視差調整回路54は、通信回路57を介して外部モニタ71の通信回路71aと接続され、通信回路57が取得した再生環境を取得(又は参照)することができる。なお、制御回路59も双方向の通信が可能となるように通信回路57と通信回路58と視差調整回路54と電気的に接続されている。そして、後述するように制御回路59は、表示環境と再生環境とが異なる場合には、出力画像設定用のパラメータ格納装置52bに格納されている調整パラメータを参照して、表示環境においての立体感を再生環境の場合に再現できるように、調整した出力画像を出力することができるようにしている。
例えば、観察モニタ8と外部モニタ71の画面サイズが異なる場合には、ユーザが観察モニタ8の表示サイズで観察した場合の立体感が、外部モニタ71の表示サイズで観察した場合の立体感において再現できるように、制御回路59は、記録データを再生した場合の出力画像(再生画像)における視差量に関係する調整パラメータ(視差量パラメータとも言う)としてのアライメントの値を調整する。
【0027】
また、記録データに記録された場合における3D画像の記録方式と、3D画像を表示する例えば外部モニタ71の3D画像の再生方式が異なる場合には、制御回路59は、記録データを(その記録方式と同じ再生方式で)再生した場合の出力画像(再生画像)の再生方式を、外部モニタ71の再生方式に変換して3D画像信号を出力するように制御する。
図4に示す構成例においては、制御回路59は、通信回路58と表示環境の情報を取得可能に接続され、また、通信回路57,ストリーミング出力回路61,外部メディア書出回路62とも再生環境の情報を取得可能に接続され、更に視差調整回路54と、再生方式変換回路55の動作を制御可能に接続されている。
また、制御回路59は、パラメータ格納装置52bに、出力画像設定用の調整パラメータを格納する動作を制御したり、新たにより適切な調整パラメータが算出された場合には、パラメータ格納装置52bに格納されている調整パラメータを、より適切な調整パラメータに更新する。
【0028】
また、制御回路59は、再生環境の情報の取得結果と表示環境の情報の取得結果と、パラメータ格納装置52bに格納された調整パラメータと、に応じて再生方式変換回路55による再生方式と、視差調整回路54による視差量と、を調整する制御部を形成する。
より具体的には、再生環境の情報と、表示環境の情報とが等しい場合には、制御回路59は、表示環境の情報のままで再生を行うように制御する。つまり、この場合には、記録装置52aに記録した場合と同じ表示環境のままを再生環境として、再生を行い出力画像を設定する。
これに対して、再生環境の情報と、表示環境の情報とが等しくない場合(異なる場合)には、制御回路59は、前記表示環境の情報における3D画像を表示するのに使用された観察モニタ8の画面サイズと再生環境の情報における前記再生機器に使用される再生モニタ(外部モニタ71)の画面サイズとが異なるか否かを判定し、両画面サイズが異なる場合には設定情報としての調整パラメータに応じて、観察モニタ8と再生モニタとの画面サイズの差異の値に応じた視差量となるように視差調整回路54を制御する。更に、制御回路59は、表示環境の情報における再生方式と前記再生環境の情報における前記再生機器の再生方式とが異なるか否かを判定し、両再生方式が異なる場合には再生方式変換回路55が前記再生機器の再生方式の3D画像を生成するように制御する。
【0029】
なお、視差調整回路54が制御回路59の(一部又は全部の)機能を兼ねたり、再生方式変換回路55が制御回路59の(一部又は全部の)機能を兼ねる構成にしても良い。例えば、視差調整回路54が制御回路59(の例えば一部)を含む構成にしたり、再生方式変換回路55が制御回路59の(例えば一部)を含む構成にしても良い。
図5Aは、表示環境から取得される情報と、再生環境から取得される情報とにより、表示環境の立体感を、再生環境において再現できるように補正する調整パラメータ補正値として出力アライメント補正値を算出する内容をルックアップテーブル形式で示す。
換言すると、
図5Aは、表示環境の情報と、再生環境の情報とから、表示環境の視差量を再現する出力アライメント補正値を算出する調整テーブル(又は補正テーブル)を示し、表示環境の情報から取得したアライメントを出力アライメント補正値で補正したものが、表示環境のアライメントを再現する出力画像又は再生環境の再生モニタでのアライメントになる。この調整テーブルは、例えばパラメータ格納装置52bに格納されている。
【0030】
なお、
図5Aでは、表示環境の情報と、再生環境の情報とから出力アライメント補正値を算出(決定)できるようにしているが、出力アライメント補正値の代わりに、表示環境のアライメントを再現する出力画像又は再生環境の再生モニタでのアライメントを算出(決定)するようにしても良い。
図5Aにおいて、観察モニタ情報としての画面サイズを表すインチサイズと、3Dプロセッサ情報としてのアライメント(値)は、表示環境の情報として通信回路58を介して取得される。また、外部モニタ情報としての画面サイズを表すインチサイズは、再生環境の情報として通信回路57を介して取得される。
なお、
図5Aにおいては、再生環境の情報として、アライメントが取得されることは明示していないが、標準的なアライメントの値が設定されていると見なすことができる。後述する
図7において、再生動作を説明する場合、再生環境の情報と表示環境の情報に差異が有るか否かを判定する場合、(表示環境においてはアライメントの情報を有することは明らかであるが、)再生環境の情報がアライメントの情報を含むか否かにより処理が異なる。このために、以下の説明においては、まず、再生環境の情報がアライメントの情報を含む場合として説明する。
【0031】
図5Aにおいて、3Dプロセッサ情報としてのアライメント(値)として、例えば±15未満や、±15〜±20未満に設定されている。
アライメントが、例えば±15とは、
図5Bに示すように(3D画像を構成する)右画像の左端の表示位置を基準位置Oから右側に+15ドットだけシフトした位置、左画像の左端の表示位置を基準位置Oから右側を+とすると反対となる左側(−)に15ドットだけシフトした位置に設定して表示する状態を表す。なお、+15ドットは、例えば高品位のテレビジョン(HD−TV)規格の水平方向のドット数等を基準としている。
図5Bは、例えばラインバイライン(Line by Line)又はフレームパッキングの3D再生方式の3D画像を表示した場合で示す。図示しないが、トップアンドボトムの場合も、ラインバイライン等の場合と同様にアライメントが設定される。
一方、サイドバイサイド(Side by Side)の3D再生方式の3D画像の左右の画像においては、
図9に示すように表示前の画像状態では左右方向にそれぞれ半分に圧縮されているので、表示される場合には、左右方向に2倍に伸張されるので、(同じ画面サイズの場合には)ラインバイライン等の場合の半分のアライメントに設定される。
【0032】
図5Aに記載されているようにアライメントが±15〜±20は、左右の画像の表示位置が、左右方向に±15ドット離間した場合よりも、更に左右方向に離間して表示されることになる。アライメントの値±IにおけるIの値が大きい程、大きな視差量の左右の画像となる。
また、
図5Aにおける最も右側の欄の出力アライメント補正値は、表示環境のアライメント値を補正する補正値であり、例えば±0は、補正しないことと等しいことを示し、(出力アライメント)補正値における±1は、補正前のアライメント±Jをそれぞれ±1補正すること、つまり補正前のアライメント±Jを±(J+1)に補正することを表す。この場合にはアライメント値(又は視差量)を大きく、又は広げることを表す。一方、(出力アライメント)補正値における−+1(±1における+と−の位置を入れ替えたものを表す。)は、補正前のアライメント±Jをそれぞれ−+1補正すること、つまり補正前のアライメント±Jを±(J−1)に補正することを表す。この場合にはアライメント値(又は視差量)を小さく、又は狭くすることを表す。
【0033】
図5Aは、一部の画面サイズの場合での補正値を具体的に示しているが、以下のような特徴を持つように設定されている。
本実施形態は、表示環境における観察モニタの画面サイズと再生環境における再生モニタの画面サイズとが異なる場合には、基本的に表示環境の立体感を再現できるように再生環境の視差量としてのアライメントを設定する。このために、両画面サイズ(インチサイズ)が等しい場合には、表示環境におけるアライメントをそのまま使用する(換言すると、補正値を0にする)。
これに対して、両画面サイズが異なる場合には、以下のように調整又は補正する。
再生モニタの画面サイズが観察モニタの画面サイズよりも大きい程、表示環境で取得したアライメントを小さくする、換言すると、再生モニタで表示する左右画像の左右方向の配置位置における左右方向の離間量を前記観察モニタの場合よりも小さくする。
【0034】
逆に、再生モニタの画面サイズが観察モニタの画面サイズよりも小さい程、表示環境で取得したアライメントを大きくする、換言すると、再生モニタで表示する左右画像の左右方向の配置位置における左右方向の離間量を前記観察モニタの場合よりも大きくする。また、表示環境の視差量(アライメント)が大きい程、上記の特徴が顕著となるように設定されている。制御回路59がこのような調整の制御動作を行う。
なお、
図5Aにおいては、視差量に関するデータ例を示し、観察モニタ8の再生方式と外部モニタ71の再生方式の情報もパラメータ格納装置52bに格納するようにしても良い。例えば、観察モニタの再生方式と外部モニタの再生方式が異なる場合、観察モニタの再生方式から外部モニタの再生方式に変換するために必要となるパラメータを格納するようにしても良い。換言すると、パラメータ格納装置52bが複数種類の調整用パラメータを格納するようにしても良い。
本実施形態においては、表示環境と再生環境の情報が、再生方式以外において異なるような場合、調整テーブルを参照することにより、上記のように表示環境での立体感を再現するように再生環境で同等の立体感が得られるように、3D画像を表示する場合のアライメントを調整する。
【0035】
本実施形態の画像記録装置9は、複数の3D内視鏡画像における1つの3D内視鏡画像が選択的に入力される内視鏡画像入力部を形成する画像入力回路50と、前記内視鏡画像入力部に入力される前記3D内視鏡画像の表示環境の情報を取得する表示環境情報取得部を形成する通信回路58(のメモリ58a)と、前記内視鏡画像入力部へ入力される前記3D内視鏡画像の画像データに前記表示環境情報取得部の取得結果の情報をメタ補情報として付加した記録データを生成する記録データ生成部を形成する記録データ生成回路51と、前記記録データ生成部により生成された前記記録データを記録する記録部を形成する記録装置52aと、前記記録部に記録された前記記録データに基づいて、再生された際の前記3D内視鏡画像の左右画像の視差を調整する視差調整部を形成する視差調整回路54と、前記記録部に記録された前記3D内視鏡画像を複数種類の再生方式の3D画像に変換可能とする再生方式変換部を形成する再生方式変換回路55と、前記記録データを再生して、外部の再生機器に出力画像を出力する場合に参照される設定情報を格納する出力画像設定情報格納部を形成するパラメータ格納装置52bと、前記記録部に記録された前記画像データを再生する複数種類の再生機器における実際に接続して使用される再生機器の再生環境の情報を取得する再生環境情報取得部を形成する制御回路59(又は通信回路57、ストリーミング出力回路61)と、前記再生環境情報取得部の取得結果の情報と前記表示環境情報取得部の取得結果の情報とが異なる場合、前記再生環境の再生機器で再生可能な再生方式で変換するように前記再生方式変換部を制御すると共に、前記出力画像設定情報格納部に格納された前記設定情報に応じて前記視差調整部による視差量を調整するように制御する制御部を形成する制御回路59と、を備えることを特徴とする。
【0036】
次に本実施形態の動作を説明する。まず、
図6のフローチャートを参照して記録時の動作を説明する。例えば
図1に示すように複数の医療機器を接続して内視鏡装置1の電源を投入し、動作状態にする。この場合には、3D内視鏡4、光源装置6、3Dプロセッサ7、観察モニタ8、画像記録装置9は、
図2に示すような接続状態となる。
最初のステップS1において、3Dプロセッサ7は、観察モニタ8の表示方式(再生方式)と同じ方式の3D画像信号を生成するように手動又は自動で設定される。そして、3Dプロセッサ7は、3D画像信号を生成する。
ステップS2に示すように観察モニタ8は、3D画像を表示する。また、ステップS3に示すように画像記録装置9の通信回路58は、3Dプロセッサ7側から表示環境を形成する情報を取得し、取得した情報をメモリ58aに記憶する。この場合、通信回路58は、表示方式の情報と、3D内視鏡4における視差量に相当するアライメントの情報を取得する。
【0037】
また、ステップS4に示すように画像記録装置9の通信回路58は、観察モニタ8の画面サイズの情報を取得する。
次のステップS5において画像記録装置9の制御回路59は、画像記録装置9に接続された接続機器の情報の変更有りか否かを、例えば通信回路58による通信により取得した情報から判定する。接続機器の情報の変更が有る場合には、ステップS3の処理に戻り、変更された接続機器の表示環境において、再度、上述した情報の取得及び取得した情報を記憶する。
一方、接続機器の情報の変更が無い場合には次のステップS6において制御回路59は、操作/表示部60から録画開始の操作が有ったか否かを判定する。録画開始の操作が無い場合には、ステップS5の処理に戻る。
術者は、観察モニタ8の3D画像を観察しながら、手術等を行う場合、3D画像を録画するために録画開始の操作を行う。録画開始の操作が有った場合には、次のステップS7において制御回路59は、記録データ生成回路51に対して、録画を開始させるように制御信号で制御する。
【0038】
制御信号が送られた記録データ生成回路51は、画像入力回路50を経て入力される3D画像信号の3D画像データの録画を開始し、また通信回路58のメモリ58aに記憶した視差量に関係する情報等を、メタ情報として録画データに付加する。そして、ステップS8に示すように記録データ生成回路51は、メタ情報が付加された録画データ(記録データ)を生成し、生成された録画データ(記録データ)は記録装置52aに記憶される。
次のステップS9において制御回路59は、録画停止の操作がされたか否かをモニタし、録画停止の操作がされない場合には、ステップS8の処理に戻り、録画停止の操作がされた場合には、
図6の処理を終了、又はステップS3の処理に戻る。
次に、
図7のフローチャートを参照して記録装置52aに記録された画像データを再生する場合の動作を説明する。以下の説明においては、再生機器として、外部モニタ71が画像記録装置9に接続された状態において再生する場合の動作を説明する。
【0039】
この場合には、
図4に示した画像記録装置9は、
図8Aに示すような画像信号と制御信号がその動作に関与し、画像信号、制御信号が入力も出力もされないストリーミング出力回路61,外部メディア書出回路62は、本動作には無関係となる。
再生操作が行われると、
図7における最初のステップS11において通信回路57(又は制御回路59)は、接続された外部モニタ71から、この外部モニタ71の表示方式(再生方式)と、画面サイズ(インチサイズ)の情報を再生環境の情報として取得し、取得した再生環境の情報を制御回路59に送り、制御回路59は、再生環境の情報を例えばメモリ59aに記憶する。なお、再生環境の情報は、視差に関する情報として、予め標準的な視差量の情報(アライメントの値)が設定されるものとする。再生環境の情報が、視差に関する情報を含まない場合に関しては後述する。
次のステップS12において制御回路59は、記録装置52aの記録データを再生した再生データにおける表示環境の情報を取得し、例えばメモリ59aに格納する。
【0040】
次のステップS13において制御回路59は、再生環境の情報と表示環境の情報とを比較し、差異があるか否かを判定する。
差異がない場合には、ステップS19の処理に移り、記録データ(録画データ)から再生した再生画像を、視差調整回路54,再生方式変換回路55をスルーして画像出力回路56から外部モニタ71に出力する。
このように表示環境の情報と再生環境の情報とが差異がなく、一致している場合には、表示環境で表示した3D画像と同じ3G画像を外部モニタ71に出力し、術者その他のユーザは、表示環境の3D画像を再現性の良い状態で観察することができる。
ステップS13の判定処理において表示環境の情報と再生環境の情報とが差異がある場合には、ステップS14において制御回路59は、再生方式のみの情報に差異があるか否かを判定する。再生方式のみの情報に差異がある判定結果の場合には、ステップS18の処理に移り、再生方式のみの情報に差異がない判定結果(つまり、少なくとも再生方式以外の情報において、差異がある判定結果)の場合には、次のステップS15の処理に進む。
【0041】
ステップS15において制御回路59は、パラメータ格納装置52bに格納された調整パラメータから、情報の差異を解消する補正値を取得(又は算出)する。次のステップS16において視差調整回路54は、表示環境の情報を再生環境の情報に整合するように視差量となるアライメントを補正する。
次のステップS17において制御回路59は、再生方式の情報に差異が有るか否かを判定し、再生方式の情報に差異が有る判定結果の場合には次のステップS18において再生方式変換回路55は、該再生方式変換回路55に入力される画像データを外部モニタ71の再生方式に合わせるようにフォーマットを変換し、次のステップS19に進む。
例えば、観察モニタ8の再生方式がフレームパッキングの設定に対して、外部モニタ71の再生方式がラインバイラインの場合には、再生方式変換回路55は、外部モニタ71のラインバイラインの再生方式にフォーマットを変換する。このように外部モニタ71を再生機器として画像記録装置9に接続した場合、外部モニタ71の再生方式として、複数種類が存在するために、再生方式変換回路55は、実際に接続された外部モニタ71の再生方式で再生できるようにフォーマット変換を行う。
【0042】
一方、再生方式の情報に差異が無い判定結果の場合には、ステップS18の処理を行うこと無くステップS19の処理に移る。ステップS19において、再生環境と表示環境とに差異がある場合においても、表示環境の状態で術者等が観察する場合の視差量を再現するように、再生環境に対応した3D画像を生成するように録画データを再生した出力画像を生成する。
次のステップS20において制御回路59は、再生終了の操作が行われたか否かをモニタし、再生終了の操作が行われない場合にはステップS19の処理に戻り、録画データを再生する処理を続行し、再生終了の操作が行われた場合には
図7の再生の処理を終了する。
図7の動作を再生機器が外部モニタ71の場合において説明したが、再生機器がストリーミングクライアントPCの場合には、
図8Bに示すような信号の流れとなる。この場合には、上述した動作における外部モニタ71をストリーミングクライアントPC72に置換した場合の動作となる。
【0043】
この場合には、再生方式変換回路55は、ストリーミングクライアントPC72の再生環境の情報の取得結果に応じて、ストリーミングクライアントPC72に適合した再生方式の3D画像を生成すると共に、視差調整回路54は、表示環境における立体感を再現するような視差量となるアライメントの補正を行う。
また、再生機器が外部メディア73の場合には、
図8Cに示すような信号の流れとなる。この場合には、再生する場合の再生環境が不明(又は未定)となるために例えば
図9に示すように手動により、外部メディア73が使用される(予定の再生機器の)再生環境を設定できるようにしている。ユーザは操作/表示部60から、外部メディア73を用いて再生しようとする再生環境の情報に合わせた3D画像データとなるように設定することができる。
図9に示すように外部メディア73を用いて再生しようとする外部モニタの画面サイズ(インチサイズ)を選択的に設定することと、再生方式を選択的に設定することができる。このように再生環境を設定して、記録装置52aから再生した画像データを外部メディア73に書き出すことができる。
【0044】
そして、このように書き出された外部メディア73を、再生しようとする外部モニタに接続して3D画像を表示することにより、その外部モニタにより表示される3D画像は、表示環境の状態でユーザが観察した場合の立体感を再現する状態にすることができる。
なお、上述した
図7の再生動作の説明においては、再生環境の情報が、視差に関する情報を含む場合を説明したが、視差に関する情報を含まない場合の動作を
図10を参照して説明する。
図10の処理は、
図7の処理と類似するために、異なる部分のみを説明する。
図10におけるステップS11,S12は
図7と同様である。但し、ステップS11においては、再生環境の情報が取得された場合、視差に関する情報が含まれない。
また、
図10におけるステップS12の次のステップS31において制御回路59は、表示環境の情報を構成する観察モニタ8の画面サイズと、再生環境の情報を構成する外部モニタ71の画面サイズが等しいか否かの判定を行う。
【0045】
画面サイズが等しい場合には、次のステップS32において制御回路59は、表示環境の視差量に関する情報をそのまま用いる。換言すると、表示環境における左右の画像をそのまま用いる。また、次のステップS33において制御回路59は、ユーザから視差調整の指示操作がされるか否かを判定する。視差調整の指示操作が行われた場合には、次のステップS34において視差調整回路54は、指示された視差量の調整値だけ、左右の画像を補正(又は調整)し、次のステップS35の処理に進む。
視差調整の指示操作は、例えば
図2の操作/表示部60から行うことができるようにしても良い。視差調整の指示操作が行われない場合には、ステップS34の処理を行うこと無く、ステップS35の処理に移る。視差調整回路54が視差量を調整した左右の画像を生成する処理としては、アライメントの値を調整することで行うようにしても良いし、
図3A,
図3Bにおいて説明したように撮像領域を左右方向にシフトして、光軸間距離を可変した場合に近い左右の画像を生成するようにしても良い。
ユーザは、表示環境における立体感を忠実に再現しようとする場合には、視差調整の指示操作を行わないようにすれば良い。このために、
図10におけるステップS33,S34の処理を省くようにしても良い。
【0046】
一方、ステップS31の判定処理において画面サイズが等しくない場合には、ステップS36において制御回路59は、パラメータ格納装置52bに格納されている調整パラメータから、画面サイズに応じた補正値を取得する。
調整パラメータは、表示環境の観察モニタ8の画面サイズと再生環境の外部モニタ71の画面サイズが異なる場合、表示環境における立体感を再現できるような補正値としての出力アライメント補正値を予めテーブルデータ等として設定されている。
そして、次のステップS37において視差調整回路54は、取得して補正値により記録装置52aから再生した3D画像を構成する左右の2D画像を補正した後、ステップS35の処理に移る。
ステップS35において制御回路59は、再生環境と表示環境との両情報における再生方式が等しいか否かの判定を行う。再生方式が等しく無い場合には、ステップS38において再生方式変換回路55は、この再生方式変換回路55に入力される3D画像データの再生方式を再生環境の外部モニタ71の再生方式に変換した後、ステップS19の処理に移る。ステップS35の判定処理において、両再生方式が等しい場合には、ステップS38の処理を行うこと無く、ステップS19の処理に移る。ステップS19とS20は、
図7と同様である。
【0047】
図10に示すように外部モニタ71側から再生環境の情報を取得した場合、再生環境における視差量に関する情報を取得すること無く、視差量に関する調整パラメータを参照して、表示環境における画面サイズと再生環境における画面サイズの情報から、表示環境と同じ立体感が得られる補正値を取得することができるようにしても良い。
なお、
図10の処理において、ステップS37の処理を行った後に、ステップS35の処理に移るように説明したが、ステップS37の処理を行った後に、ステップS33の処理に移るようしても良い。つまり、ユーザは、表示環境の場合と同等の立体感で3D画像を観察できるようにする機能の他に、ユーザの好みにより、より立体感を持たせて観察したり、立体感の機能を低くして3D画像を再生できるようにしても良い。
【0048】
このように動作する本実施形態によれば、記録時における内視鏡画像の表示環境と、記録画像を再生する再生方式が異なる再生機器による再生環境とが異なる場合においても、表示環境と同等の立体感のある3D内視鏡画像を再現できる。
また、
図10の処理を行うようにした場合、ユーザは表示環境と同等の立体感が得られる状態で3D内視鏡画像を再生して観察できると共に、ユーザの好みで表示環境の立体感からより立体感を強くしたり、弱くして観察することもできる。例えば、ユーザが、長時間、3D内視鏡画像を再生して観察するような場合には、(表示環境の立体感を再現する状態から)立体感の機能を弱くして、長時間再生する場合には、目が疲れないような状態にして観察することもできる。また、手術の状態を短い時間、再生して観察するような場合には、立体感の機能を増大して、より立体感のある状態で観察することもできる。
【0049】
上述した実施形態を部分的に組み合わせる等して構成される実施形態に本発明に属する。例えば、
図5Aの調整テーブルを用いて視差量を調整(補正)する場合、視差量を大きくするように補正する場合には、左右画像の出力アライメントを±Iだけ補正するが、更に
図3Bに示すように撮像領域をシフトする補正も行うようにしても良い。
具体的には、左右画像の出力アライメントを±Iだけ補正すると共に、その場合の左右画像として
図3Bの視差強調に対応した撮像領域のもの(共通部分の割合が低減された左右の画像)を用いるようにしても良い。このようにすると、左右画像は、実質的に視差強調に対応した左右画像になる。この場合においても、±IにおけるIの値が大きい程、共通部分の割合をより低減するようにしても良い。
同様に、視差量を小さくするように補正する場合には、左右画像の出力アライメントを−+I(前述のように±Iにおける+と−の位置を入れ替えたもの)だけ補正すると共に、更に
図3Bの視差低減に示すように撮像領域を(視差強調と反対側に)シフトする補正も行うようにしても良い。このようにすると、左右画像は、実質的に視差低減に対応した左右画像になる。この場合においても、−+IにおけるIの値が大きい程、共通部分の割合をより大きくするようにしても良い。
【0050】
また、このようにアライメントと撮像領域のシフトと組み合わせる場合、組み合わせの重み係数を設定できるようにしても良い。換言すると±I、又は−+IにおけるIの値に対する撮像領域のシフト量を設定できるようにしても良い。なお、撮像領域のシフトを行うことができるように3Dプロセッサ7は、画像記録装置9に対して、観察モニタ8で表示される左右の画像範囲の両側にそれぞれ視差量調整のマージンとなる画像範囲を持つ左右の画像からなる3D画像を出力して、記録装置52aはマージンとなる画像範囲を持つ左右の画像からなる3D画像を記録するようにしても良い。
また、ユーザにより、アライメントの補正のみを行う場合と、アライメントの補正と共に撮像領域のシフト(による視差強調又は視差低減)を行う場合と、撮像領域のシフト(による視差強調又は視差低減)のみを行う場合と、を選択することができるようにしても良い。ユーザは、例えば、操作/表示部60から、上記3つの場合の1つを選択することができるようにしても良い。このようにすると、より広範囲のユーザの要望に対応できる。なお、上述した説明において、表示環境の情報を取得する場合、記録装置52aに実際に記録されたメタ情報から表示環境の情報を取得するようにしても良い。この場合、例えば制御回路59が記録装置52aから直接的に(又は視差調整回路54を介して)表示環境の情報を取得するようにしても良い。このように記録装置52aに実際に記録された情報から表示環境の情報を取得するようにすると、表示環境に使用されている観察モニタ8が、例えば複数の異なる再生方式に対応しているような場合等においても、再生環境の再生機器の再生方式と差異があるか否かをより確実に判定できる。