IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニー株式会社の特許一覧

特許7517339手術画像表示システム、画像処理装置、及び画像処理方法
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-08
(45)【発行日】2024-07-17
(54)【発明の名称】手術画像表示システム、画像処理装置、及び画像処理方法
(51)【国際特許分類】
   H04N 13/361 20180101AFI20240709BHJP
   H04N 13/239 20180101ALI20240709BHJP
   H04N 13/344 20180101ALI20240709BHJP
   H04N 13/128 20180101ALI20240709BHJP
   H04N 17/00 20060101ALI20240709BHJP
   G06T 19/00 20110101ALI20240709BHJP
【FI】
H04N13/361
H04N13/239
H04N13/344
H04N13/128
H04N17/00 Z
G06T19/00 F
【請求項の数】 16
(21)【出願番号】P 2021537227
(86)(22)【出願日】2020-07-27
(86)【国際出願番号】 JP2020028636
(87)【国際公開番号】W WO2021024827
(87)【国際公開日】2021-02-11
【審査請求日】2023-06-07
(31)【優先権主張番号】P 2019146399
(32)【優先日】2019-08-08
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(74)【代理人】
【識別番号】100121131
【弁理士】
【氏名又は名称】西川 孝
(74)【代理人】
【氏名又は名称】稲本 義雄
(74)【代理人】
【識別番号】100168686
【弁理士】
【氏名又は名称】三浦 勇介
(72)【発明者】
【氏名】勝木 信二
(72)【発明者】
【氏名】武 昌宏
(72)【発明者】
【氏名】小林 素明
(72)【発明者】
【氏名】中村 卓也
【審査官】益戸 宏
(56)【参考文献】
【文献】特開2014-027391(JP,A)
【文献】特開2005-026756(JP,A)
【文献】特開2018-152789(JP,A)
【文献】国際公開第2016/063620(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 13/00
H04N 17/00
G06T 19/00
(57)【特許請求の範囲】
【請求項1】
生体を異なる2つの視点から撮影し、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像を取得する撮影部と、
前記撮影部により取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像を生成する出力画像生成部と
を含み、
前記奥行歪み情報は、前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記立体像空間における点の前記表示面までの距離と、前記奥行歪みが生じていないと仮定した場合の前記立体像空間における前記点の前記表示面までの本来の距離との比率を奥行歪み率として表した情報である
手術画像表示システム。
【請求項2】
前記出力画像生成部は、前記三次元画像に前記奥行歪み情報を重畳した出力画像を生成する
請求項1に記載の手術画像表示システム。
【請求項3】
前記奥行歪み情報は、前記立体像空間における前記奥行方向の複数の点についての前記奥行歪み率を表した情報である
請求項に記載の手術画像表示システム。
【請求項4】
前記観察領域を撮影する撮影空間において前記右眼画像と前記左眼画像との同一位置の像点として撮影される物点の位置を基準面の位置として、前記撮影空間における第1の物点の前記基準面までの距離と、前記基準面上の第2の物点と第3の物点との間の距離とが等しい場合に、前記立体像空間において、前記第2の物点が再現される点と前記第3の物点が再現される点との間の距離を前記第1の物点が再現される点の前記表示面までの前記本来の距離とする
請求項に記載の手術画像表示システム。
【請求項5】
前記奥行歪み情報は、観察者の眼から前記表示面までの距離である視距離に対する前記奥行歪み率を表した情報である
請求項に記載の手術画像表示システム。
【請求項6】
前記奥行歪み情報は、実際の視距離に対応する前記奥行歪み率を強調して表した情報である
請求項に記載の手術画像表示システム。
【請求項7】
前記奥行歪み情報は、前記立体像空間における位置が前記表示面に対して奥側及び手前側から近づくに従って前記奥行歪み率が1に近づく視距離が最適な視距離であることを表す情報を含む
請求項1に記載の手術画像表示システム。
【請求項8】
前記奥行歪み情報を生成する奥行歪み情報生成部
を更に含む
請求項1に記載の手術画像表示システム。
【請求項9】
前記三次元画像における注目対象の範囲を指定する注目対象指定部
をさらに含み、
前記奥行歪み情報は、前記注目対象指定部により指定された前記注目対象の範囲の大きさに相当する距離を前記表示面までの本来の距離とした場合における前記奥行歪み率を表した情報である
請求項1に記載の手術画像表示システム。
【請求項10】
前記三次元画像における注目対象の位置を指定する注目対象指定部と、
前記注目対象指定部により指定された位置の臓器の範囲を前記三次元画像に対して設定する注目対象設定部と
をさらに含み、
前記奥行歪み情報は、前記注目対象設定部により設定された前記臓器の範囲の大きさに相当する距離を前記表示面までの本来の距離とした場合における前記奥行歪み率を表した情報である
請求項1に記載の手術画像表示システム。
【請求項11】
生体を異なる2つの視点から撮影して得られた三次元画像であって、前記2つの視点から撮影された観察領域の立体像を再現する前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報と、を提示する出力画像を生成する出力画像生成部
を含み、
前記奥行歪み情報は、前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記立体像空間における点の前記表示面までの距離と、前記奥行歪みが生じていないと仮定した場合の前記立体像空間における前記点の前記表示面までの本来の距離との比率を奥行歪み率として表した情報である
画像処理装置。
【請求項12】
画像処理装置は、
出力画像生成部
を含み、
前記出力画像生成部が、生体を異なる2つの視点から撮影して得られた三次元画像であって、前記2つの視点から撮影された観察領域の立体像を再現する前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像を生成し、
前記奥行歪み情報は、前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記立体像空間における点の前記表示面までの距離と、前記奥行歪みが生じていないと仮定した場合の前記立体像空間における前記点の前記表示面までの本来の距離との比率を奥行歪み率として表した情報である
画像処理方法。
【請求項13】
生体を異なる2つの視点から撮影し、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像を取得する撮影部と、
前記撮影部により取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像を生成する出力画像生成部と
を含み、
前記奥行歪み情報は、前記立体像空間において、前記奥行歪みが生じていないと仮定した場合に想定した真円が前記奥行歪みによって変形した形状を表す情報である
手術画像表示システム。
【請求項14】
生体を異なる2つの視点から撮影し、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像を取得する撮影部と、
前記撮影部により取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像を生成する出力画像生成部と
を含み、
前記奥行歪み情報は、前記観察領域を撮影する撮影空間において前記三次元画像を構成する右眼画像と左眼画像との同一位置の像点として撮影される物点の位置を基準面の位置とし、前記右眼画像と前記左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を前記三次元画像が表示される表示面の位置として、前記撮影空間における前記撮影部の前記基準面までの撮影距離と、前記撮影部の2つの視点の間の距離である基線長と、前記撮影部の前記基準面における撮影範囲の対角の長さである対角画角サイズと、前記三次元画像を立体視する観察者の眼幅と、前記観察者の眼から前記表示面までの距離である視距離と、前記表示面に表示される前記三次元画像の対角の長さである対角画面サイズとに基づいて生成された情報である
手術画像表示システム。
【請求項15】
生体を異なる2つの視点から撮影し、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像を取得する撮影部と、
前記撮影部により取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像を生成する出力画像生成部と、
前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記出力画像を立体視可能に表示し、かつ、外部信号に基づいて前記表示面の前記奥行方向の位置を変更することにより観察者の眼から前記表示面までの距離である視距離を変更する三次元表示部と、
前記三次元表示部に対して前記外部信号を与えて前記視距離を設定させる視距離制御部と
を含み、
前記視距離制御部は、前記観察領域を撮影する撮影空間において前記三次元画像を構成する右眼画像と左眼画像との同一位置の像点として撮影される物点の位置を基準面の位置として、前記撮影空間における前記撮影部の前記基準面までの撮影距離WD0と、前記撮影部の2つの視点の間の距離である基線長2・E0と、前記三次元画像を立体視する観察者の眼幅2・Eとに基づいて、前記三次元表示部における前記視距離をWD0・E/E0に設定させる
手術画像表示システム。
【請求項16】
生体を異なる2つの視点から撮影し、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像を取得する撮影部と、
前記撮影部により取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像を生成する出力画像生成部と、
前記観察領域を撮影する撮影空間において前記三次元画像を構成する右眼画像と左眼画像との同一位置の像点として撮影される物点の位置を基準面の位置として、前記撮影空間における前記撮影部の前記基準面までの撮影距離、前記撮影部の2つの視点の間の距離である基線長、及び、前記撮影部の前記基準面における撮影範囲の対角の長さである対角画角サイズのうちの少なくとも2つの要素を制御対象として制御する撮影条件制御部と、
前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記表示面に表示される前記三次元画像の拡大倍率を指定する操作部と
を含み、
前記撮影条件制御部は、前記三次元画像を立体視する観察者の眼幅と、前記観察者の眼から前記表示面までの距離である視距離と、前記表示面に表示される前記三次元画像の対角の長さである対角画面サイズとに基づいて、かつ、前記撮影距離、前記基線長、及び、前記対角画角サイズのうちの前記制御対象以外の要素に基づいて、前記表示面に表示される前記三次元画像が前記操作部により指定された前記拡大倍率となり、かつ、前記撮影距離WD0、前記基線長2・E0、及び、前記眼幅2・Eに対して、前記視距離がWD0・E/E0となるように前記制御対象を制御する
手術画像表示システム。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は、手術画像表示システム、画像処理装置、及び画像処理方法に関し、特に、観察領域の三次元画像を立体視可能に表示させる手術画像表示システム、画像処理装置、及び画像処理方法に関する。
【背景技術】
【0002】
特許文献1、2には、腹壁にトラカールを差し込み、トラカールの孔内に腹腔鏡を挿入して腹腔鏡により撮影された腹腔内の観察画像をモニタに表示する技術が記載されている。また、特許文献1には、観察画像を三次元画像としてモニタに表示することが記載されている。
【0003】
特許文献3にはCT装置などで得たボリュームデータを立体表示することが記載されている。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2018-161377号公報
【文献】特開2018-29980号公報
【文献】特開2014-236340号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
観察者が三次元画像を立体視した際に、立体像が再現される空間には奥行方向の歪みが生じているため、奥行方向の距離の把握が難しいことがある。
【0006】
本技術は、このような状況に鑑みてなされたものであり、特に、三次元画像を立体視した際に、立体像が再現される空間における奥行方向の距離の把握を支援できるようにするものである。
【課題を解決するための手段】
【0007】
本技術の第1の側面の手術画像表示システムは、生体を異なる2つの視点から撮影し、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像を取得する撮影部と、前記撮影部により取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像を生成する出力画像生成部とを含み、前記奥行歪み情報は、前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記立体像空間における点の前記表示面までの距離と、前記奥行歪みが生じていないと仮定した場合の前記立体像空間における前記点の前記表示面までの本来の距離との比率を奥行歪み率として表した情報である手術画像表示システムである。
【0008】
本技術の第1の側面の手術画像表示システムにおいては、生体が異なる2つの視点から撮影され、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像が取得される。そして、取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の歪みの大きさを表す奥行歪み情報とを出力する出力画像が生成される。前記奥行歪み情報は、前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記立体像空間における点の前記表示面までの距離と、前記奥行歪みが生じていないと仮定した場合の前記立体像空間における前記点の前記表示面までの本来の距離との比率を奥行歪み率として表した情報である。
【0009】
本技術の第2の側面の画像処理装置は、生体を異なる2つの視点から撮影して得られた三次元画像であって、前記2つの視点から撮影された観察領域の立体像を再現する前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報と、を提示する出力画像を生成する出力画像生成部を含み、前記奥行歪み情報は、前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記立体像空間における点の前記表示面までの距離と、前記奥行歪みが生じていないと仮定した場合の前記立体像空間における前記点の前記表示面までの本来の距離との比率を奥行歪み率として表した情報である画像処理装置である。
【0010】
本技術の第2の側面の画像処理装置においては、生体を異なる2つの視点から撮影して得られた三次元画像であって、前記2つの視点から撮影された観察領域の立体像を再現する前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報と、を提示する出力画像が生成される。前記奥行歪み情報は、前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記立体像空間における点の前記表示面までの距離と、前記奥行歪みが生じていないと仮定した場合の前記立体像空間における前記点の前記表示面までの本来の距離との比率を奥行歪み率として表した情報である
【0011】
本技術の第3の側面の画像処理方法は、画像処理装置は、出力画像生成部を含み、前記出力画像生成部が、生体を異なる2つの視点から撮影して得られた三次元画像であって、前記2つの視点から撮影された観察領域の立体像を再現する前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像を生成し、前記奥行歪み情報は、前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記立体像空間における点の前記表示面までの距離と、前記奥行歪みが生じていないと仮定した場合の前記立体像空間における前記点の前記表示面までの本来の距離との比率を奥行歪み率として表した情報である
【0012】
本技術の第3の側面の画像処理方法においては、生体を異なる2つの視点から撮影して得られた三次元画像であって、前記2つの視点から撮影された観察領域の立体像を再現する前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像が生成される。前記奥行歪み情報は、前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記立体像空間における点の前記表示面までの距離と、前記奥行歪みが生じていないと仮定した場合の前記立体像空間における前記点の前記表示面までの本来の距離との比率を奥行歪み率として表した情報である
本技術の第4の側面の手術画像表示システムは、生体を異なる2つの視点から撮影し、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像を取得する撮影部と、前記撮影部により取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像を生成する出力画像生成部とを含み、前記奥行歪み情報は、前記立体像空間において、前記奥行歪みが生じていないと仮定した場合に想定した真円が前記奥行歪みによって変形した形状を表す情報である手術画像表示システムである。
本技術の第4の側面の手術画像表示システムにおいては、生体が異なる2つの視点から撮影され、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像が取得される。そして、取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像が生成される。前記奥行歪み情報は、前記立体像空間において、前記奥行歪みが生じていないと仮定した場合に想定した真円が前記奥行歪みによって変形した形状を表す情報である。
本技術の第5の側面の手術画像表示システムは、生体を異なる2つの視点から撮影し、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像を取得する撮影部と、前記撮影部により取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像を生成する出力画像生成部とを含み、前記奥行歪み情報は、前記観察領域を撮影する撮影空間において前記三次元画像を構成する右眼画像と左眼画像との同一位置の像点として撮影される物点の位置を基準面の位置とし、前記右眼画像と前記左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を前記三次元画像が表示される表示面の位置として、前記撮影空間における前記撮影部の前記基準面までの撮影距離と、前記撮影部の2つの視点の間の距離である基線長と、前記撮影部の前記基準面における撮影範囲の対角の長さである対角画角サイズと、前記三次元画像を立体視する観察者の眼幅と、前記観察者の眼から前記表示面までの距離である視距離と、前記表示面に表示される前記三次元画像の対角の長さである対角画面サイズとに基づいて生成された情報である手術画像表示システムである。
本技術の第5の側面の手術画像表示システムにおいては、生体が異なる2つの視点から撮影され、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像が取得される。そして、取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像が生成される。前記奥行歪み情報は、前記観察領域を撮影する撮影空間において前記三次元画像を構成する右眼画像と左眼画像との同一位置の像点として撮影される物点の位置を基準面の位置とし、前記右眼画像と前記左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を前記三次元画像が表示される表示面の位置として、前記撮影空間における前記基準面までの撮影距離と、前記2つの視点の間の距離である基線長と、前記基準面における撮影範囲の対角の長さである対角画角サイズと、前記三次元画像を立体視する観察者の眼幅と、前記観察者の眼から前記表示面までの距離である視距離と、前記表示面に表示される前記三次元画像の対角の長さである対角画面サイズとに基づいて生成された情報である。
本技術の第6の手術画像表示システムは、生体を異なる2つの視点から撮影し、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像を取得する撮影部と、前記撮影部により取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像を生成する出力画像生成部と、前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記出力画像を立体視可能に表示し、かつ、外部信号に基づいて前記表示面の前記奥行方向の位置を変更することにより観察者の眼から前記表示面までの距離である視距離を変更する三次元表示部と、前記三次元表示部に対して前記外部信号を与えて前記視距離を設定させる視距離制御部とを含み、前記視距離制御部は、前記観察領域を撮影する撮影空間において前記三次元画像を構成する右眼画像と左眼画像との同一位置の像点として撮影される物点の位置を基準面の位置として、前記撮影空間における前記撮影部の前記基準面までの撮影距離WD0と、前記撮影部の2つの視点の間の距離である基線長2・E0と、前記三次元画像を立体視する観察者の眼幅2・Eとに基づいて、前記三次元表示部における前記視距離をWD0・E/E0に設定させる手術画像表示システムである。
本技術の第6の側面の手術画像表示システムにおいては、生体が異なる2つの視点から撮影され、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像が取得される。そして、取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像が生成される。前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記出力画像を立体視可能に表示し、かつ、外部信号に基づいて前記表示面の前記奥行方向の位置を変更することにより観察者の眼から前記表示面までの距離である視距離を変更する三次元表示部が設けられる。前記三次元表示部に対して前記外部信号が与えられて前記視距離が設定される。具体的には、前記観察領域を撮影する撮影空間において前記三次元画像を構成する右眼画像と左眼画像との同一位置の像点として撮影される物点の位置を基準面の位置として、前記撮影空間における前記撮影部の前記基準面までの撮影距離WD0と、前記撮影部の2つの視点の間の距離である基線長2・E0と、前記三次元画像を立体視する観察者の眼幅2・Eとに基づいて、前記三次元表示部における前記視距離がWD0・E/E0に設定される。
本技術の第7の側面の手術画像表示システムは、生体を異なる2つの視点から撮影し、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像を取得する撮影部と、前記撮影部により取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像を生成する出力画像生成部と、前記観察領域を撮影する撮影空間において前記三次元画像を構成する右眼画像と左眼画像との同一位置の像点として撮影される物点の位置を基準面の位置として、前記撮影空間における前記撮影部の前記基準面までの撮影距離、前記撮影部の2つの視点の間の距離である基線長、及び、前記撮影部の前記基準面における撮影範囲の対角の長さである対角画角サイズのうちの少なくとも2つの要素を制御対象として制御する撮影条件制御部と、前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記表示面に表示される前記三次元画像の拡大倍率を指定する操作部とを含み、前記撮影条件制御部は、前記三次元画像を立体視する観察者の眼幅と、前記観察者の眼から前記表示面までの距離である視距離と、前記表示面に表示される前記三次元画像の対角の長さである対角画面サイズとに基づいて、かつ、前記撮影距離、前記基線長、及び、前記対角画角サイズのうちの前記制御対象以外の要素に基づいて、前記表示面に表示される前記三次元画像が前記操作部により指定された前記拡大倍率となり、かつ、前記撮影距離WD0、前記基線長2・E0、及び、前記眼幅2・Eに対して、前記視距離がWD0・E/E0となるように前記制御対象を制御する手術画像表示システムである。
本技術の第7の側面の手術画像表示システムにおいては、生体が異なる2つの視点から撮影され、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像が取得される。そして、取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像が生成される。前記観察領域を撮影する撮影空間において前記三次元画像を構成する右眼画像と左眼画像との同一位置の像点として撮影される物点の位置を基準面の位置として、前記撮影空間における前記基準面までの撮影距離、前記2つの視点の間の距離である基線長、及び、前記基準面における撮影範囲の対角の長さである対角画角サイズのうちの少なくとも2つの要素が制御対象として制御される。前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記表示面に表示される前記三次元画像の拡大倍率が指定される。前記制御対象の制御は、具体的には、前記三次元画像を立体視する観察者の眼幅と、前記観察者の眼から前記表示面までの距離である視距離と、前記表示面に表示される前記三次元画像の対角の長さである対角画面サイズとに基づいて、かつ、前記撮影距離、前記基線長、及び、前記対角画角サイズのうちの前記制御対象以外の要素に基づいて、前記表示面に表示される前記三次元画像が前記拡大倍率となり、かつ、前記撮影距離WD0、前記基線長2・E0、及び、前記眼幅2・Eに対して、前記視距離がWD0・E/E0となるように行われる。
【図面の簡単な説明】
【0013】
図1】本技術を適用した手術画像表示システムの第1の実施の形態の構成例を示したブロック図である。
図2】画像処理部の構成例を示したブロック図である。
図3】出力画像の形態を説明した図である。
図4】出力画像の形態を説明した図である。
図5】出力画像の形態を説明した図である。
図6】撮影空間を上側から示した図である。
図7図6において撮影部により得られた右眼画像及び左眼画像を示した図である。
図8】右眼画像及び左眼画像を立体視により観察者が観察している状態を上側から示した図である。
図9】撮影空間を上側から示した図である。
図10図9において撮影部により得られた右眼画像及び左眼画像を示した図である。
図11図10の右眼画像及び左眼画像を立体視により観察者が観察している状態を上側から示した図である。
図12】奥行歪みマップを例示した図である。
図13】奥行歪みマップを例示した図である。
図14】奥行歪み情報を例示した図である。
図15図1の手術画像表示システムが行う処理の例を説明するフローチャートである。
図16】観察領域の三次元画像に奥行歪み情報が重畳された例を示した図である。
図17】奥行歪み情報生成部が行う奥行歪み情報生成の処理の例を説明するフローチャートである。
図18】奥行歪み情報の第2形態を示した図である。
図19】奥行歪み情報の第2形態を示した図である。
図20】奥行歪み情報の第2形態を生成する場合に奥行歪み情報生成部が行う処理を説明するフローチャートである。
図21】観察領域の三次元画像に奥行歪み情報の第2の実施の形態が重畳された例を示した図である。
図22】手術画像表示システムの第2の実施の形態における画像処理部の構成例を示したブロック図である。
図23】奥行歪み情報に最適視距離通知情報を追加した形態を示した図である。
図24】手術画像表示システムの第2の実施の形態における画像処理部の奥行歪み情報生成部及び最適視距離判断部が行う奥行歪み情報生成の処理の例を示したフローチャートである。
図25】観察領域の三次元画像に図23の奥行歪み情報が重畳された例を示した図である。
図26】手術画像表示システムの第3の実施の形態の構成例を示したブロック図である。
図27】手術画像表示システムの第3の実施の形態における画像処理部の構成例を示したブロック図である。
図28】手術画像表示システムの第3の実施の形態における画像処理部の奥行歪み情報生成部及び最適視距離判断部が行う奥行歪み情報生成の処理の例を示したフローチャートである。
図29】手術画像表示システムの第4の実施の形態の構成例を示したブロックである。
図30】撮影部の動作を説明する図である。
図31】撮影部の一形態を説明する図である。
図32】撮影部の一形態を説明する図である。
図33】手術画像表示システムの第4の実施の形態における画像処理部の構成例を示したブロック図である。
図34】手術画像表示システムの第4の実施の形態における画像処理部の奥行歪み情報生成部及び撮影条件制御部が行う処理の例を示したフローチャートである。
図35】手術画像表示システムの第5の実施の形態における画像処理部の構成例を示したブロック図である。
図36】手術画像表示システムの第5の実施の形態における奥行歪み情報が重畳された三次元画像を例示した図である。
図37】手術画像表示システムの第5の実施の形態における奥行歪み情報が重畳された三次元画像を例示した図である。
図38】手術画像表示システムの第5の実施の形態における奥行歪み情報生成部及び注目対象設定部が行う奥行歪み情報生成の処理の例を示したフローチャートである。
図39】手術画像表示システムの第6の実施の形態の構成例を示したブロック図である。
図40】手術画像表示システムの第5の実施の形態における画像処理部の構成例を示したブロック図である。
図41】三次元表示部に表示される奥行歪み情報が重畳された三次元画像を例示した図である。
図42】三次元表示部に表示される奥行歪み情報が重畳された三次元画像を例示した図である。
図43】手術画像表示システムの第6の実施の形態における奥行歪み情報生成部及び注目対象設定部が行う奥行歪み情報生成の処理の例を示したフローチャートである。
図44】コンピュータのハードウェアの構成例を示すブロック図である。
【発明を実施するための形態】
【0014】
以下、図面を参照しながら本技術の実施の形態について説明する。
【0015】
<<手術画像表示システムの第1の実施の形態>>
本技術を適用した手術画像表示システムは、生体を異なる2つの視点から撮影し、2つの視点から撮影された観察領域の立体像を再現する三次元画像を表示するとともに、三次元画像を立体視した際に立体像が再現される空間(立体像空間という)の奥行方向の距離の把握を支援する奥行歪み情報を表示する。
【0016】
図1は、本技術を適用した手術画像表示システムの第1の実施の形態の構成例を示したブロック図である。
【0017】
図1の手術画像表示システム11は、撮影部21、右カメラ制御部22、左カメラ制御部23、画像処理部24、三次元表示部25、及び、視点検出センサ26を有する。
【0018】
撮影部21は、生体を異なる2つの視点から撮影するカメラを有し、例えば手術室に設置され、患者に対して手術が施されている領域(手術箇所)等の観察領域を撮影する。なお、撮影部21により撮影が行われる空間を撮影空間という。
【0019】
また、撮影部21は、観察領域の三次元画像を構成する右眼画像と左眼画像を取得するための右カメラ31Rと左カメラ31Lとを有する。
【0020】
右カメラ31Rは、撮影空間における左右の2つの視点のうちの右側の視点の位置から観察領域を撮影し、撮影により得られる右眼画像を右カメラ制御部22に供給する。
【0021】
左カメラ31Lは、撮影空間における前記左右の2つの視点のうちの左側の視点の位置から観察領域を撮影し、撮影により得られる左眼画像を左カメラ制御部23に供給する。
【0022】
なお、撮影部21において得られる三次元画像(右眼画像及び左眼画像)はカラー画像と白黒画像のいずれでも良いし、動画像と静止画像のいずれでも良い。
【0023】
右カメラ制御部22は、右カメラ31Rからの右眼画像に対してホワイトバランス、明るさ調整、色調調整などの処理を施し、処理を施した後の右眼画像を画像処理部24に供給する。
【0024】
左カメラ制御部23は、左カメラ31Lからの左眼画像に対してホワイトバランス、明るさ調整、色調調整などの処理を施し、処理を施した後の左眼画像を画像処理部24に供給する。
【0025】
画像処理部24は、右カメラ制御部22からの右眼画像と左カメラ制御部23からの左眼画像とからなる観察領域の三次元画像に対して、詳細を後述する奥行歪み情報を例えば重畳した出力画像を生成して三次元表示部25に供給する。
【0026】
また、画像処理部24は、撮影部21による撮影に関する撮影条件と、三次元画像の表示及び三次元画像を観察する観察者(手術を行う術者等)に関する観察条件とに基づいて奥行歪み情報を生成する。
【0027】
三次元表示部25は、画像処理部24からの出力画像を表示する。三次元表示部25は、三次元画像を構成する右眼画像及び左眼画像のうち、右眼画像を観察者27の右眼に視認させ、左眼画像を観察者27の左眼に視認させる。三次元表示部25としては、レンチキュラーレンズ方式ディスプレイやヘッドマウントディスプレイ(HMD)を採用してもよいし、観察者が偏光めがねや液晶シャッターめがねを装着する方式のディスプレイを採用してもよい。図1の三次元表示部25の表示面には観察領域の三次元画像25Aと、三次元画像25Aに重畳された奥行歪み情報25Bが例示されている。
【0028】
視点検出センサ26は、例えば、三次元表示部25の画像を表示する表示面(表示パネル)の下部に設置され、観察者27の右眼及び左眼の位置を検出する。視点検出センサ26は、検出した右眼及び左眼の位置を画像処理部24に供給する。画像処理部24では視点検出センサ26からの右眼及び左眼の位置に基づいて観察者27の眼幅と、観察者27の眼から三次元表示部25の表示面まで距離である視距離を観察条件として算出する。
【0029】
<画像処理部24の構成例>
図2は、画像処理部24の構成例を示したブロック図である。
【0030】
画像処理部24は、画像取込部41、奥行歪み情報生成部42、撮影条件取得部43、観察条件取得部44、出力画像生成部45、出力部46、及び、操作部47を有する。
【0031】
画像取込部41は、図1の右カメラ制御部22及び左カメラ制御部23からの右眼画像及び左眼画像を取り込み、最新の右眼画像及び左眼画像を1フレーム分ずつ記憶する。画像取込部41は、記憶している右眼画像及び左眼画像を一定周期で出力画像生成部45に供給する。
【0032】
奥行歪み情報生成部42は、撮影条件取得部43からの撮影条件と観察条件取得部44からの観察条件とに基づいて立体像空間の奥行方向の歪み(奥行歪み)の大きさを求め、求めた奥行歪みの大きさを三次元表示部25に表示するための奥行歪み情報を生成する。そして、奥行歪み情報生成部42は、生成した奥行歪み情報を出力画像生成部45に供給する。なお、奥行歪み情報は、手術箇所等の観察領域の三次元画像の立体像と観察領域の物理的な三次元空間の奥行方向との違いの大きさを表す情報であり、必ずしも奥行方向の歪みの大きさを直接的に表した情報に限定されない。
【0033】
撮影条件取得部43は、撮影部21の基線長と撮影距離と撮影範囲対角画角サイズとを撮影条件として取得し、奥行歪み情報生成部42に供給する。
【0034】
撮影部21の基線長は、右カメラ31Rの視点(光学系の主点)と左カメラ31Lの視点(光学系の主点)との間の距離を表す。
【0035】
撮影距離は右カメラ31R及び左カメラ31Lから基準面までの距離を表し、通常では基準面に焦点が合わせられることから焦点が合わせられた位置までの距離に相当する。なお、基準面は、右眼画像と左眼画像との同一位置の像点として撮影される撮影空間における物点の位置を示す。
【0036】
撮影範囲対角画角サイズは、右カメラ31R及び左カメラ31Lの基準面における撮影範囲の対角の長さを表す。
【0037】
これらの基線長、撮影距離、及び、撮影範囲対角画角サイズの情報は、撮影部21と右カメラ制御部22と左カメラ制御部23のうちの少なくとも1つの構成部から供給される。ただし、基線長、撮影距離、及び、撮影範囲対角画角サイズのうちの一部又は全ての情報は、操作部47の操作によりユーザが入力し、操作部47から撮影条件取得部43に与えるようにしてもよい。
【0038】
また、撮影条件取得部43は、撮影範囲対角画角サイズを取得する代わりに、右カメラ31R及び左カメラ31Lの焦点距離と撮像素子の撮像面の対角サイズとを取得し、これらの焦点距離と対角サイズと撮影距離とに基づいて撮影範囲対角画角サイズを算出してもよい。
【0039】
観察条件取得部44は、観察条件として三次元表示部25の対角画面サイズを三次元表示部25から取得し、奥行歪み情報生成部42に供給する。なお、三次元表示部25の画面に対して三次元画像が一部の領域に表示される場合には対角画面サイズは三次元画像が表示される領域の対角の長さを示す。
【0040】
また、観察条件取得部44は、視点検出センサ26により検出される観察者27の右眼及び左眼の位置に基づいて、三次元表示部25の三次元画像を立体視している観察者27の眼幅と、観察者27の眼から三次元表示部25の表示面まで距離である視距離とを観察条件として取得する。そして、観察条件取得部44は、取得した眼幅と視距離とを奥行歪み情報生成部42に供給する。
【0041】
ただし、視点検出センサ26は必ずしも設けられていなくてもよく、眼幅と視距離の情報は、操作部47のユーザ操作によりユーザが入力して観察条件取得部44に与えるようにしてもよい。
【0042】
また、三次元表示部25の対角画面サイズについても操作部47のユーザ操作によりユーザが入力して観察条件取得部44に与えるようにしてもよい。
【0043】
出力画像生成部45は、画像取込部41からの三次元画像(右眼画像及び左眼画像)と奥行歪み情報生成部42からの奥行歪み情報とを提示する出力画像を生成し、出力部46に供給する。
【0044】
具体的には、出力画像生成部45は、図3の出力画像53、図4の出力画像54、または、図5の出力画像55を生成する。図3の出力画像53は、三次元画像52の一部の領域に奥行歪み情報51が重畳された画像を示す。なお、三次元画像52の一部の領域に奥行歪み情報51が重畳された出力画像53としては、奥行歪み情報51を表す画像の全ての領域が三次元画像に重畳される場合だけでなく、奥行歪み情報51を表す画像の一部の領域が三次元画像に重畳される場合も含む。
【0045】
図4の出力画像54は、三次元画像52と奥行歪み情報51とが個別の領域に配置された画像を示す。図5の出力画像55は、三次元画像52と奥行歪み情報51とのうち例えば操作部47の操作によりユーザによって選択された画像を示す。すなわち、図5の形態は、三次元画像52のみの出力画像55と奥行歪み情報51のみの出力画像55に切り替えられる。
【0046】
出力画像生成部45は、これらの出力画像53、54、55の形態のうち、いずれか一つの形態の出力画像を生成してもよいし、出力画像53、54、55の形態のうちのいずれか2つ又は全ての形態の中から操作部47の操作によりユーザが選択した形態の出力画像を生成してもよい。
【0047】
ただし、以下において、出力画像生成部45は、図3の出力画像53のように三次元画像に奥行歪み情報を重畳させた出力画像を生成することとする。
【0048】
出力部46は、出力画像生成部45からの右眼画像及び左眼画像を三次元表示部25に表示させるための信号形式の画像信号に変換して三次元表示部25に供給する。
【0049】
<奥行歪み情報>
次に、奥行歪み情報生成部42において生成される奥行歪み情報について説明する。まず、奥行歪みについて詳説する。
【0050】
<表示面より手前側の奥行歪み>
図6は、図1の撮影部21が配置された撮影空間を上側から示した図である。なお、撮影部21の右カメラ31Rの光軸と左カメラ31Lの光軸とを含む平面に垂直な方向を上下方向とする。
【0051】
図6において、基準面SBは、右眼画像と左眼画像との同一位置の像点として撮影される物点の位置を示す。基準面SBは撮影部21の焦点が合わせられる面でもある。
【0052】
撮影距離WD0は、撮影部21から基準面SBまでの距離であって、より詳細には、右カメラ31R及び左カメラ31L(光学系の主点)から基準面SBまでの距離を表す。
【0053】
基線長2・E0は、右カメラ31Rの視点(光学系の主点)と左カメラ31Lの視点(光学系の主点)との間の距離を表す。
【0054】
物点PR、PLは、距離L0の間隔を有する基準面SB上の物点を表す。
【0055】
物点PCは、基準面SBよりも手前側(撮影部21側)に飛び出した点であって、基準面SBまでの距離がL0となる点を表す。また、物点PCは、物点PR、PLを結ぶ線分を底辺とした高さL0の二等辺三角形の頂点に相当する点である。
【0056】
内向角θ0は、右カメラ31Rの視点から物点PCに向かう視線と左カメラ31Lの視点から物点PCに向かう視線とが交差する角度である。
【0057】
この撮影条件下において右カメラ31Rと左カメラ31Lで物点PR、PL、PCを撮影し、右眼画像と左眼画像とからなる三次元画像を取得したとする。
【0058】
図7は、物点PR、PL、及び、PCを撮影したときに右カメラ31Rから得られた右眼画像と、左カメラ31Lから得られた左眼画像を例示している。右眼画像において、像点IRRは物点PRの像点を示し、像点ILRは物点PLの像点を示し、像点ICRは物点PCの像点を示す。左眼画像において、像点IRLは物点PRの像点を示し、像点ILLは物点PLの像点を示し、像点ICLは物点PCの像点を示す。
【0059】
右眼画像における像点IRRと左眼画像における像点IRLとは、基準面SB上の物点PRに対する像点であり、右眼画像と左眼画像とで同一位置となる像点である。右眼画像における像点ILRと左眼画像における像点ILLとは、基準面SB上の物点PLに対する像点であり、右眼画像と左眼画像とで同一位置となる像点である。
【0060】
図8は、図7の右眼画像及び左眼画像を異なる観察条件で観察している状態を上側から示した図である。
【0061】
図8のA、B、及び、Cにおいて、眼幅2・Eは、観察者の右眼Reと左眼Leとの間の距離を示す。
【0062】
また、図8のA、B、及び、Cにおいて、表示面SMは、右眼画像及び左眼画像が表示される表示面であって、右眼画像と左眼画像との同一位置に表示された像点が立体像空間において再現(知覚)される位置を示す。
【0063】
表示面SMにおける像点IRは、図6の物点PRに対する像点であり、表示面SMの同一位置に表示される右眼画像の像点IRRと左眼画像の像点IRLとを表す。表示面SMにおける像点ILは、図6の物点PLに対する像点であり、表示面SMの同一位置に表示される右眼画像の像点ILRと左眼画像の像点ILLとを表す。
【0064】
また、像点IR及び像点ILは、観察者が三次元画像(右眼画像及び左眼画像)を立体視することにより立体像空間に再現される物点PR及び物点PLに対する像点を表す。
【0065】
図6の物点PCの右眼画像における像点ICRと左眼画像における像点ICLとは、表示面SMにおいて異なる位置に表示される。
【0066】
図8のA、B、及び、Cにおいて、像点ICは、観察者が三次元画像を立体視することにより立体像空間に再現(融像)される物点PCに対する像点を表す。すなわち、像点ICは、観察者の右眼Reから表示面SMにおける右眼画像の像点ICRに向かう視線と、観察者の左眼Leから表示面SMにおける左眼画像の像点ICLに向かう視線とが交差する位置に再現される。
【0067】
ここで、図8のAは、図7の右眼画像と左眼画像とを表示面SMに表示した場合に、奥行歪みが生じない観察条件となる場合を示す。
【0068】
図8のAでは、図6の物点PRと物点PLとの間の距離L0に対して像点IRと像点ILとの間の距離がE/E0倍となるように右眼画像及び左眼画像の大きさが拡大されて表示面SMに表示される。
【0069】
また、観察者の眼Re、Leから表示面SMまでの距離である視距離Wが撮影距離WD0をE/E0倍としたときのWD0・E/E0に設定される。
【0070】
このとき、像点ICを注視したときの輻輳角θ0は、図6の内向角θ0と等しく、表示面SM上の像点IRと像点ILとの間の距離L0・E/E0と、像点ICから表示面SMまでの距離L0・E/E0とが一致する。
【0071】
また、図8のAの観察条件においては、任意の値のL0に対して、表示面SM上の像点IRと像点ILとの間の距離L0・E/E0と像点ICから表示面SMまでの距離L0・E/E0とが一致する。したがって、図8のAの観察条件における立体像空間は、撮影空間と同様に奥行歪みが生じない立体像空間であり、図8のAの観察条件による立体視を撮影等価視という。
【0072】
図8のBは、撮影等価視の観察条件での視距離WD0・E/E0に対して実際の視距離Wが異なる場合の像点ICの位置を示した図である。この場合、像点IRと像点ILとの間の距離が変化しない。一方、視距離Wが撮影等価視の場合と異なるため、像点ICから表示面SMまでの距離が撮影等価視のときの距離L0・E/E0とは異なる。したがって、図8のBでは奥行歪みが発生する。
【0073】
図8のCは、図8のBの視距離Wでの観察において、三次元表示部25の表示面SMに表示される実際の右眼画像及び左眼画像の大きさが、撮影等価視での大きさに対してA倍(拡大倍率A)となる場合の像点ICの位置を示す。
【0074】
この場合、表示面SM上の像点IRと像点ILとの間の距離はA・L0・E/E0となる。また、像点ICRと像点ICLとの間の距離も撮影等価視の場合よりもA倍に拡大される。したがって、像点ICの奥行方向の位置も図8のBの場合と異なる。
【0075】
ここで、像点ICから表示面SMまでの距離(飛出量)をDxとすると、奥行歪みが生じていないと仮定した場合の飛出量Dxの値Dx0(本来の飛出量Dx0という)は、像点IRと像点ILとの間の距離A・L0・E/E0である。
【0076】
なお、立体像空間における像点の本来の飛出量Dx0(表示面SMまでの本来の距離)とは、その像点として再現される撮影空間における物点の基準面SBまでの距離と、基準面SB上の2つの物点の間の距離とが等しい場合に、立体像空間において、その基準面SB上の2つの物点が表示面SM上に再現される2つの像点の間の距離であると定義することができる。
【0077】
そして、奥行方向の本来の飛出量Dx0の位置における奥行歪み率αをDx/Dx0として定義すると、奥行歪み率αは次式(1)により表される。
【0078】
【数1】
【0079】
ただし、Px0は、次式(2)により表される視差量であって図8のAの撮影等価視における像点ICRと像点ICLとの間の距離の2分の1の値を示す。
【0080】
【数2】
【0081】
なお、像点ICの本来の飛出量A・L0・E/E0において奥行歪みが生じていないときは奥行歪み率α=1である。式(1)において、奥行歪み率α=1として視距離Wを求めると次式(3)が導き出される。
【0082】
W={WD0+(A-1)・L0}・E/E0
・・・(3)
【0083】
これによれば、拡大倍率Aが1ではないとき、奥行歪み率αが1になる視距離Wは、物点PCから基準面SBまでの距離L0の値に依存し、かつ、像点ICの本来の飛出量A・L0・E/E0にも依存する。
【0084】
一方、拡大倍率Aが1のとき、奥行歪み率αが1になる視距離Wは、WD0・E/E0となり、物点PCから基準面SBまでの距離L0の値に依存しない。したがって、拡大倍率A=1、視距離W=WD0・E/E0の場合に該当する撮影等価視は、任意の飛出量の像点ICの位置に対して奥行歪みが生じない観察条件であることがわかる。
【0085】
<表示面より奥側の奥行歪み>
次に、表示面SMよりも奥側の奥行歪みについて説明する。
【0086】
図9は、図1の撮影部21が配置された撮影空間を上側から示した図である。なお、以下、図9乃至図11の説明において図6乃至図8の説明と重複する内容については適宜説明を省略する。
【0087】
図9において、物点PR、PLは、距離L0の間隔を有する基準面SB上の物点を表す。
【0088】
物点PCは、基準面SBよりも奥側(撮影部21と反対側)に引っ込んだ点であって、基準面SBまでの距離がL0となる点を表す。また、物点PCは、物点PR、PLを結ぶ線分を底辺とした高さL0の二等辺三角形の頂点に相当する点である。
【0089】
撮影距離WD0及び基線長2・E0,内向角θ0については図6の場合と同様である。
【0090】
この撮影条件下において右カメラ31Rと左カメラ31Lで物点PR、PL、PCを撮影し、右眼画像と左眼画像からなる三次元画像を取得したとする。
【0091】
図10は、物点PR、PL、及び、PCを撮影したときに右カメラ31Rから得られた右眼画像と、左カメラ31Lから得られた左眼画像を例示している。右眼画像において、像点IRRは物点PRの像点を示し、像点ILRは物点PLの像点を示し、像点ICRは物点PCの像点を示す。左眼画像において、像点IRLは物点PRの像点を示し、像点ILLは物点PLの像点を示し、像点ICLは物点PCの像点を示す。
【0092】
右眼画像における像点IRRと左眼画像における像点IRLとは、基準面SB上の物点PRに対する像点であり、右眼画像と左眼画像とで同一位置となる像点である。右眼画像における像点ILRと左眼画像における像点ILLとは、基準面SB上の物点PLに対する像点であり、右眼画像と左眼画像とで同一位置となる像点である。
【0093】
図11は、図10の右眼画像及び左眼画像を異なる観察条件で観察している状態を上側から示した図である。
【0094】
また、図11のA、B、及び、Cにおいて、表示面SMにおける像点IRは、図9の物点PRに対する像点であり、表示面SMの同一位置に表示される右眼画像の像点IRRと左眼画像の像点IRLとを表す。表示面SMにおける像点ILは、図9の物点PLに対する像点であり、表示面SMの同一位置に表示される右眼画像の像点ILRと左眼画像の像点ILLとを表す。
【0095】
また、像点IR及び像点ILは、観察者が三次元画像(右眼画像及び左眼画像)を立体視することにより立体像空間に再現される物点PR及び物点PLに対する像点を表す。
【0096】
図9の物点PCの右眼画像における像点ICRと左眼画像における像点ICLとは、表示面SMにおいて異なる位置に表示される。
【0097】
図11のA、B、及び、Cにおいて、像点ICは、観察者が三次元画像を立体視することにより立体像空間に再現(融像)される物点PCに対する像点を表す。すなわち、像点ICは、観察者の右眼Reから表示面SMにおける右眼画像の像点ICRに向かう視線と、観察者の左眼Leから表示面SMにおける左眼画像の像点ICLに向かう視線とが交差する位置に再現される。図11のA、B、及び、Cにおいては像点ICが表示面SMよりも奥側に引っ込んだ位置に再現される。
【0098】
ここで、図11のAは、図10の右眼画像と左眼画像とを表示面SMに表示した場合に、奥行歪みが生じない観察条件となる場合を示す。
【0099】
図11のAでは、図9の物点PRと物点PLとの間の距離L0に対して像点IRと像点ILとの間の距離がE/E0倍となるように右眼画像及び左眼画像の大きさが拡大されて表示面SMに表示される。
【0100】
また、観察者の眼Re、Leから表示面SMまでの距離である視距離Wが撮影距離WD0をE/E0倍としたときのWD0・E/E0に設定される。
【0101】
このとき、像点ICを注視したときの輻輳角θ0は、図9の内向角θ0と等しく、表示面SM上の像点IRと像点ILとの間の距離L0・E/E0と、像点ICから表示面SMまでの距離L0・E/E0とが一致する。
【0102】
また、図11のAの観察条件においては、任意の値のL0に対して、表示面SM上の像点IRと像点ILとの間の距離L0・E/E0と像点ICから表示面SMまでの距離L0・E/E0とが一致する。したがって、図11のAの観察条件における立体像空間は、撮影空間と同様に奥行歪みが生じない立体像空間であり、図11のAの観察条件による立体視を図8のAと同様に撮影等価視という。
【0103】
図11のBは、撮影等価視の観察条件での視距離WD0・E/E0に対して実際の視距離Wが異なる場合の像点ICの位置を示した図である。この場合、像点IRと像点ILとの間の距離が変化しない。一方、視距離Wが撮影等価視の場合と異なるため、像点ICから表示面SMまでの距離が撮影等価視のときの距離L0・E/E0とは異なる。したがって、図11のBでは奥行歪みが発生する。
【0104】
図11のCは、図11のBの視距離Wでの観察において、三次元表示部25の表示面SMに表示される実際の右眼画像及び左眼画像の大きさが、撮影等価視での大きさに対してA倍(拡大倍率A)となる場合の像点ICの位置を示す。
【0105】
この場合、表示面SM上の像点IRと像点ILとの間の距離はA・L0・E/E0となる。また、像点ICRと像点ICLとの間の距離も撮影等価視の場合よりもA倍に拡大される。したがって、像点ICの奥行方向の位置も図11のBの場合と異なる。
【0106】
ここで、像点ICから表示面SMまでの距離(引込量)をDyとすると、奥行歪みが生じていないと仮定した場合の引込量Dyの値Dy0(本来の引込量Dy0という)は、像点IRと像点ILとの間の距離A・L0・E/E0である。
【0107】
なお、立体像空間における像点の本来の引込量Dy0(表示面SMまでの本来の距離)とは、本来の飛出量Dx0と同様に、その像点として再現される撮影空間における物点の基準面SBまでの距離と、基準面SB上の2つの物点の間の距離とが等しい場合に、立体像空間において、その基準面SB上の2つの物点が表示面SM上に再現される2つの像点の間の距離であると定義することができる。
【0108】
そして、奥行方向の本来の引込量Dy0の位置における奥行歪み率αをDy/Dy0として定義すると、奥行歪み率αは次式(4)により表される。
【0109】
【数3】
【0110】
ただし、Py0は、次式(5)により表される視差量であって図11のAの撮影等価視における像点ICRと像点ICLとの間の距離の2分の1の値を示す。
【0111】
【数4】
【0112】
なお、基準面SB及び表示面SMよりも手前側の距離を正の値、奥側の距離を負の値とするか、又は、その逆とすることで、表示面SMよりも手前側か奥側かに関係なく、式(1)(及び式(2))と、式(4)(及び式(5))のうちのいずれか一方のみを用いて奥行歪み率αを算出することができる。ただし、表示面SM上(L0=0)における奥行歪み率αは式(1)又は式(4)により求まる値ではなく、1とする。
【0113】
また、奥行歪み情報生成部42は、奥行歪み情報として奥行方向の歪みの大きさを表す情報として、上記の奥行歪み率α以外の奥行歪み情報を生成してもよい。例えば、奥行歪み情報生成部42は、奥行歪み率αを算出する代わりに奥行歪み率αの逆数(1/α)を奥行歪み率として算出してもよい。また、奥行歪み情報生成部42は、奥行歪み率αの代わりに飛出量Dxと本来の飛出量Dx0との差分及び引込量Dyと本来の引込量Dy0との差分を算出してもよい。
【0114】
<奥行歪み情報の第1形態(マップ方式)>
続いて、奥行歪み情報生成部42において生成される奥行歪み情報の第1形態(マップ方式)について説明する。
【0115】
図2において、奥行歪み情報生成部42は、撮影条件取得部43からの基線長2・E0、撮影距離WD0、及び、撮影範囲対角画角サイズLB、観察条件取得部44からの眼幅2・E、対角画面サイズLMに基づいて次のような処理を行って図12図13のような奥行歪みマップを生成する。
【0116】
なお、図12の奥行歪みマップは、基線長2・E0が20mm、撮影距離WD0が500mm、撮影範囲対角画角サイズLBが70mm、眼幅2・Eが65mm、対角画面サイズLMが1397mmの場合を示す。図13の奥行歪みマップは、基線長2・E0が55mm、撮影距離WD0が500mm、撮影範囲対角画角サイズLBが170mm、眼幅2・Eが65mm、対角画面サイズLMが787.4mmの場合を示す。
【0117】
まず、奥行歪み情報生成部42は、上式(1)及び上式(4)における拡大倍率Aを、次式(6)により求める。
【0118】
A=LM/(LB・E/E0)
・・・(6)
【0119】
また、奥行歪み情報生成部42は、撮影空間の物点の基準面SBまでの距離L0に関して、所定の最小値(例えば1mm)から所定の最大値(例えば65mm)までの一定間隔(例えば2mm間隔)の値を距離L0に代入する距離代入値L0[n]とする。ただし、nは、距離代入値の小さい順に1から順に付した要素番号である。
【0120】
図12の奥行歪みマップにおいて、左側の指標列60の中央よりも上側の範囲(以下、引込範囲70Uという)には、基準面SBよりも奥側の物点を想定した場合の距離代入値L0[n]が示される。指標列60の中央よりも下側の範囲(以下、飛出範囲70Dという)には、基準面SBよりも手前側の物点を想定した場合の距離代入値L0[n]が示される。
【0121】
また、奥行歪み情報生成部42は、物点の基準面SBまでの距離L0を距離代入値L0[n]としたときの撮影等価視における像点の飛出量L0[n]・E/E0及び引込量L0[n]・E/E0と、視差量Px0及びPy0を算出する。
【0122】
図12の奥行歪みマップにおいて、指標列60の右隣の列61の引込範囲70Uには、指標列60の距離代入値L0[n]に対応した引込量L0[n]・E/E0が示される。列61の飛出範囲70Dには、指標列60の距離代入値L0[n]に対応した飛出量L0[n]・E/E0が示される。
【0123】
また、図12の奥行歪みマップにおいて、列61の右隣の列62の引込範囲70Uには、指標列60の距離代入値L0[n]に対応した視差量Py0が示される。列62の飛出範囲70Dには、指標列60の距離代入値L0[n]に対応した視差量Px0が示される。
【0124】
また、奥行歪み情報生成部42は、視距離Wに関して、所定の最小値(例えば35cm)から所定の最大値(例えば2000cm)までの一定間隔(例えば50mm間隔)の値を視距離Wに代入する視距離代入値W[m]とする。ただし、mは、視距離代入値の小さい順に1から順に付した要素番号である。
【0125】
図12の奥行歪みマップにおいて、中央の指標行63には視距離Wの視距離代入値W[m]が示される。
【0126】
図2において、奥行歪み情報生成部42は、撮影条件取得部43からの基線長2・E0、撮影距離WD0、及び、撮影範囲対角画角サイズLB、観察条件取得部44からの眼幅2・E、対角画面サイズLMを用いて、視距離Wが各視距離代入値W[m]の場合において、各距離代入値L0[n]のときの奥行歪み率αを式(1)及び式(4)から算出する。
【0127】
ここで、視距離代入値W[m]、かつ、距離代入値L0[n]の場合の奥行歪み率αをα[n][m]で表す。また、奥行歪み率α[n][m]は、距離L0を距離代入値L0[n]としたときの立体像空間における像点の本来の飛出量Dx0及び引込量Dy0(表示面SMまでの本来の距離)の位置における奥行歪み率αを表す。本来の飛出量Dx0及び引込量Dy0はDx0=Dy0=A・L0[n]・E/E0である。拡大倍率Aは、A=LM/(LB・E/E0)により算出される。
【0128】
図12の奥行歪みマップの奥行歪み表示範囲64において引込範囲70Uには、視距離Wが視距離代入値W[m]を示す列の距離L0[n]の行に式(4)により算出された奥行歪み率α[n][m]が示される。
【0129】
同様に、奥行歪みマップの奥行歪み表示範囲64において飛出範囲70Dには、視距離Wが視距離代入値W[m]を示す列の距離L0[n]の行に式(1)により算出された奥行歪み率α[n][m]が示される。
【0130】
なお、図12の奥行歪みマップにおいては奥行歪み率α[n][m]は百分率(パーセント)で示されるが、これに限らない。
【0131】
また、奥行歪み情報生成部42は、図12の奥行歪みマップの奥行歪み表示範囲64において、奥行歪み率αが1となる数値表示領域の背景を例えば黄色とする。そして、奥行歪み情報生成部42は、奥行歪み率αが1から増加するにつれて、数値表示領域の背景を例えば赤色に遷移させ、奥行歪み率αが1から減少するにつれて、数値表示領域の背景を例えば青色に遷移させる。これにより奥行歪み率αの大きさを色により視覚的に把握することができる。
【0132】
更に、奥行歪み情報生成部42は、観察条件取得部44から現在の視距離Wを読み込み、現在の視距離Wに最も値が近い視距離代入値W[m]の列を中央に含む例えば合計3列を図14のように色付き枠や高輝度枠等の強調枠65で囲み、奥行歪み情報(情報表示画像)を完成させる。これにより、現在の視距離Wに対応する奥行歪み率の表示部分が強調される。なお、奥行歪み情報生成部42は、強調表示する列の数字を他の列と数字と異なる色、太さ、又は大きさで表示してもよい。
【0133】
<手術画像表示システム全体の処理手順>
図15は、図1の手術画像表示システム11が行う処理の例を説明するフローチャートである。
【0134】
ステップS10では、撮影部21の右カメラ31R及び左カメラ31Lは、観察領域を撮影し、観察領域の三次元画像(右眼画像及び左眼画像)を取得する。そして、画像処理部24の画像取込部41は、右眼画像を右カメラ制御部22を介して、左眼画像を左カメラ制御部23を介して取り込む。処理はステップS10からステップS11に進む。
【0135】
ステップS11では、画像処理部24の撮影条件取得部43は、撮影条件の情報として基線長2・E0、撮影距離WD0、撮影範囲対角画角サイズLBを取得する。処理はステップS11からステップS12に進む。
【0136】
ステップS12では、画像処理部24の観察条件取得部44は、観察条件の情報として対角画面サイズLMを取得する。また、観察条件取得部44は、観察条件の情報として、視点検出センサ26により検出された観察者の両眼の位置に基づいて眼幅2・Eと視距離Wを測定(算出)する。処理はステップS12からステップS13に進む。
【0137】
ステップS13では、画像処理部24の奥行歪み情報生成部42は、撮影条件取得部43により取得された撮影条件と観察条件取得部44により取得された観察条件とに基づいて、奥行歪み情報を生成する。処理はステップS13からステップS14に進む。
【0138】
ステップS14では、画像処理部24の出力画像生成部45は、ステップS10において画像取込部41に取り込まれた観察領域の三次元画像の所定領域範囲に対して、奥行歪み情報生成部42により生成された奥行歪み情報を重畳する。処理はステップS14からステップS15に進む。
【0139】
ステップS15では、画像処理部24の出力部46は、ステップS14において奥行歪み情報が重畳された三次元画像を三次元表示部25に対応した信号形式の画像信号に変換して三次元表示部25に供給する。処理はステップS15からステップS16に進む。
【0140】
ステップS16では、三次元表示部25は、供給された画像信号により奥行歪み情報が重畳された三次元画像を表示面に表示させる。これにより、図16に示すように三次元表示部25の表示面には、奥行歪み情報81が重畳された観察領域の三次元画像80が表示される。処理はステップS16からステップS10に戻り、ステップS10乃至ステップS16の処理が繰り返される。
【0141】
<奥行歪み情報生成部の処理手順>
図17は、図15のステップS13において図2の奥行歪み情報生成部42が行う奥行歪み情報生成の処理の例を説明するフローチャートである。
【0142】
画像処理部24における処理が図15のステップS12からステップS13に進むと、図17のステップS20において、奥行歪み情報生成部42は、撮影条件取得部43から基線長2・E0、撮影距離WD0、及び、撮影範囲対角画角サイズLBを読み込み、観察条件取得部44から眼幅2・E、視距離W、及び、対角画面サイズLMを読み込む。処理はステップS20からステップS21に進む。
【0143】
ステップS21では、奥行歪み情報生成部42は、ステップS20で読み込んだ基線長2・E0、撮影距離WD0、撮影範囲対角画角サイズLB、眼幅2・E、及び、対角画面サイズLMに基づいて図12に示したような奥行歪みマップを生成する。処理はステップS21からステップS22に進む。
【0144】
ステップS22では、奥行歪み情報生成部42は、ステップS20で読み込んだ視距離W(現在の視距離W)に基づいて、奥行歪みマップ上の視距離Wに対応する奥行歪み率の表示部分を強調した奥行歪み情報(図14参照)を生成する。そして、奥行歪み情報生成部42は生成した奥行歪み情報を出力画像生成部45に供給する。処理はステップS22から図15のステップS14に進む。
【0145】
以上の手術画像表示システムの第1の実施の形態によれば、三次元表示部25に表示されている三次元画像を立体視している観察者は、奥行歪み情報により、立体像空間において生じている奥行歪みの大きさを把握することができ、観察者における奥行方向の距離の把握が支援(容易化)される。なお、奥行歪み情報として、現在の視距離に対応する奥行歪み率のみを生成、表示させるようにしてもよい。
【0146】
<奥行歪み情報の第2形態(図形方式)>
図18は、奥行歪み情報の第2形態を示した図である。
【0147】
図2の奥行歪み情報生成部42は、奥行歪み情報の第2形態として、撮影空間における右カメラ31Rの光軸及び左カメラ31Lの光軸を含む平面に所定半径の真円を想定し、その想定した真円の円周が立体像空間において再現(融像)される像の形状(曲線)を視覚的に表す。
【0148】
図18は、奥行歪み情報の第2形態を示した図である。図中、横軸は三次元表示部25の表示面SM上の任意の位置を基準点としたときの三次元表示部25の表示面SMに沿った方向の基準点からの距離を表し、縦軸は、観察者の眼からの距離を示す。
【0149】
奥行歪み情報生成部42は、立体像空間において表示面SMの上下方向に直交する水平面上に、奥行歪みが生じていないと仮定して図18の破線で示す真円92を想定する。
【0150】
そして、奥行歪み情報生成部42は、想定した真円92の円周上の各点の表示面SMまでの距離に対してその距離における奥行歪み率α(現在の視距離Wに対する奥行歪み率α)を乗じて、奥行歪みが生じている場合の立体像空間において真円92の円周上の各点が再現される位置を通る曲線(歪み円)91を描画した奥行歪み情報を生成する。この歪み円91が奥行歪み情報をとして三次元表示部25に表示されることで観察者は真円92に対する歪み円91の歪み具合から立体像空間の奥行歪みの状態を把握することができる。
【0151】
奥行歪み情報生成部42は、立体像空間において想定する真円の中心位置を、例えば図18の真円92のように表示面SM上の点とすることで、表示面SMよりも奥側と手前側の両方の奥行歪みを同時に視認できるようにしてもよい。また、奥行歪み情報生成部42は、表示面SMよりも手前側と奥側の各々の領域のみに含まれる真円を想定することで、図19のA、Bのように表示面SMよりも奥側と手前側の歪み円93、94を別々に描画した奥行歪み情報を生成してもよい。また、奥行歪み情報生成部42は、図19のA、Bの歪み円93、94を1つの座標面上に描画した奥行歪み情報を生成してもよい。さらに、奥行歪み情報生成部42は、想定する真円の中心位置や大きさが異なる奥行歪み情報を、ユーザの指示にしたがって切り替えるようにしてもよい。
【0152】
<奥行歪み情報生成部の処理手順(第2形態)>
図20は、奥行歪み情報の第2形態を生成する場合に図15のステップS13において奥行歪み情報生成部42が行う処理を説明するフローチャートである。
【0153】
図15のステップS12からステップS13に進むと、図20のステップS30において、奥行歪み情報生成部42は、撮影条件取得部43から基線長2・E0、撮影距離WD0、及び、撮影範囲対角画角サイズLBを読み込み、観察条件取得部44から眼幅2・E、視距離W、及び、対角画面サイズLMを読み込む。処理はステップS30からステップS31に進む。
【0154】
ステップS31では、奥行歪み情報生成部42は、基線長2・E0、撮影距離WD0、撮影範囲対角画角サイズLB、眼幅2・E、視距離W、及び、対角画面サイズLMに基づいて、立体像空間に想定した真円の円周が通過する位置(表示面SMからの距離)の奥行歪み率αを算出する。処理はステップS31からステップS32に進む。
【0155】
ステップS32では、奥行歪み情報生成部42は、立体像空間において想定した真円の円周が通過する位置の表示面SMまでの距離を本来の飛出量Dx0又は引込量Dy0とする。そして、奥行歪み情報生成部42は、奥行歪み率αに基づいて、立体像空間において想定した真円の円周上の点が像点として知覚される飛出量Dx又は引込量Dyの位置を通過する曲線(歪み円)を描画した奥行歪み情報を生成する。奥行歪み情報生成部42は生成した奥行歪み情報を出力画像生成部45に供給する。処理はステップS32から図15のステップS14に進む。
【0156】
これにより、図21に示すように三次元表示部25の表示面SMには、観察領域を撮影した三次元画像80と奥行歪み情報85とが重畳表示される。
【0157】
なお、奥行歪み情報生成部42は、奥行歪みが生じていないと仮定した場合の立体像空間において真円を想定し、その真円が奥行歪みにより変形した形状(歪み円)を表した奥行歪み情報を生成した。奥行歪み情報生成部42は、奥行歪みが生じていないと仮定した場合の立体像空間において真円以外の形状の想定し、奥行歪みによって変形した形状を表した奥行歪み情報を生成してもよい。
【0158】
以上の奥行歪み情報の第2形態によれば、三次元表示部25に表示されている三次元画像を立体視している観察者は、立体像空間において生じている奥行歪みの大きさを視覚的に把握することができ、観察者における奥行方向の距離の把握が支援(容易化)される。
【0159】
<<手術画像表示システムの第2の実施の形態>>
手術画像表示システムの第2の実施の形態は、三次元表示部25の表示面に表示された三次元画像を立体視する観察者が視距離Wを変更することによって、又は、撮影部21の基線長2・E0、又は撮影距離WD0を変更することによって、最適な視距離Wとなった場合に、最適な視距離Wであることを奥行歪み情報として表示する。
【0160】
図22は、手術画像表示システムの第2の実施の形態における画像処理部101の構成例を示したブロック図である。なお、図中、図2の画像処理部24と対応する部分には、同じ符号を付しており、その説明は適宜省略する。
【0161】
図22の画像処理部101は、図1の手術画像表示システムの画像処理部24の代わりに設けられ、画像取込部41、奥行歪み情報生成部102、撮影条件取得部43、観察条件取得部44、出力画像生成部45、出力部46、操作部47、及び、最適視距離判断部103を有する。したがって、図22の画像処理部101は、画像取込部41、撮影条件取得部43、観察条件取得部44、出力画像生成部45、出力部46、及び、操作部47を有する点で、図2の画像処理部24と共通する。ただし、図22の画像処理部101は、奥行歪み情報生成部102が図2の奥行歪み情報生成部42の代わりに設けられている点、及び、最適視距離判断部103が新たに設けられている点で、図2の画像処理部24と相違する。
【0162】
奥行歪み情報生成部102は、撮影条件取得部43からの基線長2・E0、撮影距離WD0、及び、撮影範囲対角画角サイズLBと、観察条件取得部44からの眼幅2・E、視距離W、及び、対角画面サイズLMとに基づいて図2の奥行歪み情報生成部42と同様に奥行歪みマップを生成する。
【0163】
また、奥行歪み情報生成部102は、現在の視距離Wに対応する奥行歪み率αの表示部分を強調して表した図14のような奥行歪み情報を生成する。
【0164】
最適視距離判断部103は、撮影条件取得部43から基線長2・E0、及び、撮影距離WD0を取得するとともに、観察条件取得部44から眼幅2・Eを取得し、取得した基線長2・E0、撮影距離WD0、及び、眼幅2・E0に基づいて、最適な視距離Wcを求める。
【0165】
ここで、上式(3)において、表示面SM上の位置において奥行歪み率αが1となるときの視距離Wは、L0=0とおいたときの視距離Wの値WD0・E/E0であり、拡大倍率Aに依存しない。
【0166】
一方、最適な視距離Wcは、表示面SM付近での奥行歪みが小さくなる視距離Wであるとすると、立体像空間における位置(像点)が表示面SMに対して奥側及び手前側から近づくに従って奥行歪み率が1に近づく視距離Wと定義することができる。
【0167】
このとき、最適な視距離Wcは、表示面SM上の位置(L0=0)において上式(3)がα=1を示す視距離WD0・E/E0となる。すなわち、最適な視距離Wcは、次式(7)により算出される。
【0168】
Wc=WD0・E/E0
・・・(7)
【0169】
そこで、最適視距離判断部103は、最適な視距離WcとしてWD0・E/E0を求める。
【0170】
また、最適視距離判断部103は、観察条件取得部44から所定時間おきに現在の視距離Wを取得し、取得した現在の視距離Wが最適な視距離Wcであるか否かを判定する。具体的には、最適視距離判断部103は、現在の視距離Wと最適な視距離Wcとの差の絶対値が所定の閾値以下となったかを否かを判定する。閾値は、例えば、最適な視距離Wcと、最適な視距離Wcに一致したとみなせる値との差の絶対値の最大値に設定される。
【0171】
最適視距離判断部103は、現在の視距離Wが最適な視距離Wcであると判定したときに最適視距離通知を奥行歪み情報生成部102に与える。
【0172】
なお、観察者が移動して視距離Wを変更した場合に限らず、撮影部21の基線長2・E0、又は、撮影距離WD0をユーザ等が変更することによって現在の視距離Wが最適な視距離Wcになった場合も最適視距離判断部103は最適視距離通知を奥行歪み情報生成部102に与える。
【0173】
奥行歪み情報生成部102は、最適視距離判断部103から最適視距離通知が与えられると、現在の視距離Wが最適であることを観察者に通知する最適視距離通知情報を奥行歪みマップ(奥行歪み情報)に追加する。奥行歪み情報生成部102は、最適視距離通知情報として、例えば、図23のように現在の視距離Wの列を囲む枠110を、現在の視距離Wが最適な視距離Wcになっていない場合に表示される強調枠65とは異なる形態に切り替える。枠110は、太さや色等の表示形態が通常の強調枠65と異なる。
【0174】
また、奥行歪み情報生成部102は、”最適視距離”のような文字情報を最適視距離通知情報として奥行歪み情報に加えてもよい。
【0175】
また、奥行歪み情報生成部102は、現在の視距離Wに対して最適な視距離Wcの方向を示す図23の矢印111のような案内画像を奥行歪み情報に加えてもよい。
【0176】
また、奥行歪み情報生成部102は、図18等に示した奥行歪み情報の第2形態を生成してもよい。この場合の最適視距離通知情報として、奥行歪み情報生成部102は、奥行歪み情報の画像全体を通常と異なる色に切り替えてもよいし、”最適視距離”のような文字情報を最適視距離通知情報として奥行歪み情報に加えてもよい。
【0177】
<手術画像表示システムの第2の実施の形態における奥行歪み情報生成部及び最適視距離判断部の処理手順>
図24は、手術画像表示システムの第2の実施の形態における画像処理部101の奥行歪み情報生成部102及び最適視距離判断部103が行う奥行歪み情報生成の処理の例を示したフローチャートである。
【0178】
なお、手術画像表示システムの第2の実施の形態における処理は、図15のフローチャートと同じ手順で行われ、図24のフローチャートは、図15のステップS13において行われる処理である。
【0179】
図15のステップS12からステップS13に進むと、図24のステップS40において、奥行歪み情報生成部102は、撮影条件取得部43から基線長2・E0、撮影距離WD0、及び、撮影範囲対角画角サイズLBを読み込み、観察条件取得部44から眼幅2・E、視距離W、及び、対角画面サイズLMを読み込む。処理はステップS40からステップS41に進む。
【0180】
ステップS41では、奥行歪み情報生成部102は、ステップS40で読み込んだ基線長2・E0、撮影距離WD0、撮影範囲対角画角サイズLB、眼幅2・E、及び、対角画面サイズLMに基づいて奥行歪みマップ(図12参照)を生成する。処理はステップS41からステップS42に進む。
【0181】
ステップS42では、奥行歪み情報生成部102は、ステップS40で読み込んだ視距離Wに基づいて、奥行歪みマップ上の視距離Wに対応する奥行歪み率の表示部分を強調した奥行歪み情報(図14参照)を生成する。処理はステップS42からステップS43に進む。
【0182】
ステップS43では、最適視距離判断部103は、撮影条件取得部43から基線長2・E0、撮影距離WD0を取得するとともに、観察条件取得部44から眼幅2・Eを取得し、取得した基線長2・E0、撮影距離WD0、眼幅2・Eに基づいて、最適な視距離Wcを上式(7)を用いて求める。処理はステップS43からステップS44に進む。
【0183】
ステップS44では、最適視距離判断部103は、観察条件取得部44から現在の視距離Wを読み込み、現在の視距離WがステップS43で求めた最適な視距離Wcであるか否かを判定する。
【0184】
ステップS44において、現在の視距離Wが最適な視距離Wcであると判定された場合、最適視距離判断部103から奥行歪み情報生成部102に最適視距離通知が与えられる。そして、処理はステップS45に進み、奥行歪み情報生成部102は、図23の枠110のように奥行歪みマップに最適視距離通知情報を追加した奥行歪み情報を生成する。処理はステップS46に進む。
【0185】
また、ステップS44において、現在の視距離Wが最適な視距離ではないと判定された場合、処理はステップS45をスキップして、ステップS46に進む。
【0186】
ステップS46では、奥行歪み情報生成部102は、ステップS42で生成された奥行歪み情報又はステップS45で最適通知情報が追加された奥行歪み情報を出力画像生成部45に供給する。処理はステップS46から図15のステップS14に進む。
【0187】
これにより、三次元表示部25の表示面SMには図25に示すように観察領域を撮影した三次元画像80と最適視距離通常情報が追加された奥行歪み情報112とが表示される。
【0188】
以上の手術画像表示システムの第2の実施の形態によれば、三次元表示部25に表示されている三次元画像を立体視している観察者は、奥行歪み情報により、立体像空間において生じている奥行歪みの大きさを把握することができ、観察者における奥行方向の距離の把握が支援(容易化)される。また、観察者は、自身の位置や三次元表示部25の位置を調整し、または、撮影部21の基線長2・E0や撮影距離WD0を調整して最適な視距離に設定することが容易となる。
【0189】
<<手術画像表示システムの第3の実施の形態>>
図26は、手術画像表示システムの第3の実施の形態の構成例を示したブロックである。
【0190】
なお、図中、図1の手術画像表示システム11と対応する部分には、同じ符号を付しており、その説明は適宜省略する。
【0191】
図26の手術画像表示システム120は、撮影部21、右カメラ制御部22、左カメラ制御部23、画像処理部121、及び、HMD(Head Mounted Display:ヘッドマウントディスプレイ)122を有する。したがって、図23の手術画像表示システム120は、撮影部21、右カメラ制御部22、及び、左カメラ制御部23を有する点で図1の手術画像表示システム11と共通する。だたし、図26の手術画像表示システム120は、画像処理部121及びHMD122が図1の手術画像表示システム11の画像処理部24及び三次元表示部25の代わりに設けられている点、及び、図1の視点検出センサ26が設けられていない点で、図1の手術画像表示システム11と相違する。
【0192】
図26において、HMD122は、図1の三次元表示部25の一形態であり、観察者の頭部に装着され、画像処理部121から供給された観察領域の三次元画像(右眼画像及び左眼画像)を立体視可能に表示する。
【0193】
また、HMD122は、立体像空間における観察者の眼から表示面(仮想画面)まで視距離Wを外部信号に基づいて変更する機能を有する。なお、HMD122に限らず、三次元画像を立体視可能に表示し、かつ、外部信号に基づいて表示面の奥行方向の位置を変更することにより観察者の眼から表示面までの視距離を変更することができる三次元表示部を、手術画像表示システムの第3の実施の形態において採用することできる。
【0194】
<手術画像表示システムの第3の実施の形態における画像処理部の構成>
図27は、図26の画像処理部121の構成例を示したブロック図である。なお、図中、図2の画像処理部24と対応する部分には、同じ符号を付しており、その説明は適宜省略する。
【0195】
図27の画像処理部121は、画像取込部41、奥行歪み情報生成部42、撮影条件取得部43、観察条件取得部124、出力画像生成部45、出力部46、操作部47、及び、最適視距離制御部125を有する。したがって、図27の画像処理部121は、画像取込部41、奥行歪み情報生成部42、撮影条件取得部43、出力画像生成部45、出力部46、及び、操作部47を有する点で、図2の画像処理部24と共通する。ただし、図27の画像処理部121は、観察条件取得部124が図2の観察条件取得部44の代わりに設けられている点、及び、最適視距離制御部125が新たに設けられている点で、図2の画像処理部24と相違する。
【0196】
観察条件取得部124は、観察者の視距離Wと、表示面SM(仮想画面)の対角画面サイズLMとをHMD122から取得するとともに、操作部47の操作によりユーザが入力した観察者の眼幅2・Eを取得する。なお、観察条件取得部124は眼幅2・EもHMD122から取得してもよい。
【0197】
最適視距離制御部125は、撮影条件取得部43から基線長2・E0、及び、撮影距離WD0を取得するとともに、観察条件取得部124から眼幅2・Eを取得する。最適視距離制御部125は、手術画像表示システムの第2の実施の形態における最適視距離判断部103(図22参照)と同様に、取得した基線長2・E0、撮影距離WD0、及び、眼幅2・Eに基づいて、最適な視距離WcをWD0・E/E0により算出する。
【0198】
そして、最適視距離制御部125は、算出した最適な視距離Wcを外部信号(視距離目標値)としてHMD122に与えて、HMD122の視距離Wを最適な視距離Wcに設定する。
【0199】
ただし、最適視距離制御部125は、最適な視距離WcがHMD122において調整可能な視距離Wの範囲内の値でない場合には、調整可能な視距離Wの範囲の下限値及び上限値のうち、最適な視距離Wcに近い方の値を最適な視距離Wcとする。
【0200】
<手術画像表示システムの第3の実施の形態における奥行歪み情報生成部及び最適視距離制御部の処理手順>
図28は、手術画像表示システムの第3の実施の形態における画像処理部121の奥行歪み情報生成部42及び最適視距離制御部125が行う奥行歪み情報生成及び視距離制御の処理の例を示したフローチャートである。
【0201】
なお、手術画像表示システムの第2の実施の形態における処理は、図15のフローチャートと同じ手順で行われ、図28のフローチャートは、図15のステップS13において行われる処理である。図15のステップS12では、観察条件取得部124は、観察者の視距離Wと、表示面SM(仮想画面)の対角画面サイズLM(三次元画像が表示される領域の対角の長さ)とをHMD122から取得するとともに、操作部47の操作によりユーザが入力した観察者の眼幅2・Eを取得する。
【0202】
図15のステップS12からステップS13に進むと、図28のステップS60において、最適視距離制御部125は、撮影条件取得部43から基線長2・E0、及び、撮影距離WD0を読み込み、観察条件取得部124から眼幅2・Eを読み込む。処理はステップS60からステップS61に進む。
【0203】
ステップS61では、最適視距離制御部125は、ステップS61で読み込んだ基線長2・E0、撮影距離WD0、及び、眼幅2・Eに基づいて、最適な視距離Wcを上式(7)を用いて求める。処理はステップS61からステップS62に進む。
【0204】
ステップS62では、最適視距離制御部125は、ステップS61で求めた最適な視距離Wcを視距離目標値(外部信号)としてHMD122に与える。これによって、HMD122において視距離が最適な視距離Wcに設定される。処理はステップS62からステップS63に進む。
【0205】
ステップS63では、奥行歪み情報生成部42は、撮影条件取得部43から基線長2・E0、撮影距離WD0、及び、撮影範囲対角画角サイズLBを読み込み、観察条件取得部124から眼幅2・E、視距離W、及び、対角画面サイズLMを読み込む。処理はステップS63からステップS64に進む。
【0206】
ステップS64では、奥行歪み情報生成部42は、ステップS63で読み込んだ基線長2・E0、撮影距離WD0、撮影範囲対角画角サイズLB、眼幅E、及び、対角画面サイズLMに基づいて奥行歪みマップ(図12参照)を生成する。処理はステップS64からステップS65に進む。
【0207】
ステップS65では、奥行歪み情報生成部42は、ステップS63で読み込んだ視距離Wに対応する奥行歪みマップ上の奥行歪み率の表示部分を強調した奥行歪み情報(図14参照)を生成する。生成された奥行歪み情報は、奥行歪み情報生成部42から出力画像生成部45に供給される。処理はステップS64から図15のステップS14に進む。
【0208】
なお、手術画像表示システムの第3の実施の形態においてHMD122に表示される三次元画像及び奥行歪み情報は手術画像表示システムの第1の実施の形態の場合の図16に示した表示画像と同じである。また、奥行歪み情報生成部42は、図18等に示した奥行歪み情報の第2形態を生成してもよい。
【0209】
以上の手術画像表示システムの第3の実施の形態によれば、HMD122に表示されている三次元画像を立体視している観察者は、奥行歪み情報により、立体像空間において生じている奥行歪みの大きさを把握することができ、観察者における奥行方向の距離の把握が支援(容易化)される。また、HMD122における表示面(仮想画面)が最適な視距離となる位置に自動的に設定される。
【0210】
<<手術画像表示システムの第4の実施の形態>>
図29は、手術画像表示システムの第4の実施の形態の構成例を示したブロックである。
【0211】
なお、図中、図1の手術画像表示システム11と対応する部分には、同じ符号を付しており、その説明は適宜省略する。
【0212】
図29の手術画像表示システム130は、撮影部131、右カメラ制御部22、左カメラ制御部23、画像処理部132、三次元表示部25、及び、視点検出センサ26を有する。したがって、図29の手術画像表示システム130は、右カメラ制御部22、左カメラ制御部23、三次元表示部25、及び、視点検出センサ26を有する点で図1の手術画像表示システム11と共通する。だたし、図29の手術画像表示システム130は、撮影部131及び画像処理部132が図1の手術画像表示システム11の撮影部21及び画像処理部24の代わりにそれぞれ設けられている点で、図1の手術画像表示システム11と相違する。
【0213】
図30は、撮影部131の一形態を説明する図である。図30に示すように撮影部131は右カメラ31R及び左カメラ31Lを有する。また、撮影部131は、基線長2・E0、撮影距離WD0、及び、撮影範囲対角画角サイズLB(焦点距離f)を画像処理部132からの外部信号に従って変更する。
【0214】
図31は、撮影部131の他の形態を示す図である。図31の撮影部131は、手術室に配置される複数の球体状のカメラ140を有する。各カメラ140は、ワイヤ141により天井から吊り下げられ、または、手術台等から上方に延設されたアーム142に支持されている。
【0215】
ワイヤ141に吊り下げられた各カメラ140は、ワイヤ141が天井のレールに沿って移動することにより、また、ワイヤ141の巻き上げと繰り出しとにより、空間を移動する。アーム142に支持された各カメラ140は、アーム142が手術台等のレールに沿って移動することにより、また、アーム142の伸縮又は上下動により、空間を移動する。
【0216】
なお、各カメラ140はドローンのように飛行によって空間を移動し、所望の位置で静止できるようにしてもよい。
【0217】
また、各カメラ140は、撮影方向と焦点距離(ズーム倍率)の変更が可能である。所望の2つのカメラ140を選択し、選択した2つのカメラ140の視線を同一平面に沿った方向に設定して撮影を行うことで、三次元画像を取得することができる。
【0218】
また、図32のように、選択した2つのカメラ140の位置を変更することで基線長2・E0、撮影距離WD0を変更することができ、カメラ140の焦点距離fを変更することで、撮影範囲対角画角サイズLBを変更することができる。
【0219】
<手術画像表示システムの第4の実施の形態における画像処理部の構成例>
図33は、図29の手術画像表示システム130における画像処理部132の構成例を示したブロック図である。なお、図中、図2の画像処理部24と対応する部分には、同じ符号を付しており、その説明は適宜省略する。
【0220】
図33の画像処理部132は、図1の手術画像表示システム11の画像処理部24の代わりに設けられ、画像取込部41、奥行歪み情報生成部42、撮影条件取得部43、観察条件取得部44、出力画像生成部45、出力部46、操作部47、及び、撮影条件制御部135を有する。したがって、図33の画像処理部132は、画像取込部41、奥行歪み情報生成部42、撮影条件取得部43、観察条件取得部44、出力画像生成部45、出力部46、及び、操作部47を有する点で、図2の画像処理部24と共通する。ただし、図33の画像処理部132は、撮影条件制御部135が新たに設けられている点で、図2の画像処理部24と相違する。
【0221】
撮影条件制御部135は、操作部47からユーザが指定する所望の拡大倍率Aを取得する。
【0222】
拡大倍率Aは上式(6)により表され、撮影条件の要素である撮影範囲対角画角サイズLBは上式(6)を変形することにより次式(8)により表される。なお、式中のAcはユーザにより指定された拡大倍率Aである。
【0223】
LB=LM/(Ac・E/E0)
・・・(8)
【0224】
撮影範囲対角画角サイズLBは、一般に撮影部131の焦点距離f(ズーム倍率)と撮影距離WD0を変数とする関数G(f,WD0)により表されることから、上式(8)は次式(9)で表される。
【0225】
LM/(Ac・E)=G(f,WD0)/E0
・・・(9)
【0226】
式(9)は、撮影条件の要素である撮影部131の焦点距離f、撮影距離WD0、及び、基線長2・E0のうちの少なくとも一つを調整することで拡大倍率Aをユーザ指定の拡大倍率Acに設定できることを示す。
【0227】
また、撮影条件制御部135は、観察条件取得部44から眼幅2・E、及び、視距離Wを読み込む。そして、撮影条件制御部135は、拡大倍率Aをユーザ指定の拡大倍率Acにするための撮影条件を求めると同時に、現在の視距離Wが最適な視距離Wcになるための撮影条件を求める。
【0228】
即ち、上式(7)において視距離Wを最適な視距離Wcとした場合に撮影距離WD0及び基線長2・E0は次式(10)により表される。
【0229】
WD0/E0=W/E
・・・(10)
【0230】
撮影条件制御部135は、撮影部131の焦点距離f、撮影距離WD0、及び、基線長2・E0のうちの少なくとも2つの要素を制御対象とし、制御対象の要素について式(9)及び式(10)を満たす目標値を設定する。
【0231】
例えば、撮影条件制御部135は、撮影部131の焦点距離f、撮影距離WD0、及び基線長2・E0のうちの焦点距離fと基線長2・E0を制御対象とする場合、式(10)に基づいて2・E・WD0/Wを算出し、算出した値を基線長2・E0の目標値として設定する。基線長2・E0の目標値の算出において、撮影距離WD0は撮影条件取得部43から読み込んだ値であり、眼幅E及び視距離Wは観察条件取得部44から読み込んだ値である。
【0232】
一方、撮影条件制御部135は、式(9)を用いて焦点距離fを算出し、算出した値を焦点距離fの目標値として設定する。この焦点距離fの目標値の算出において、基線長2・E0は、式(10)から求められた目標値、撮影距離WD0は撮影条件取得部43から読み込んだ値、眼幅2・E、視距離W、及び、対角画面サイズLMは観察条件取得部44から読み込んだ値である。
【0233】
撮影条件制御部135は、撮影部131の焦点距離f、撮影距離WD0、及び基線長2・E0のうちの制御対象とした要素の目標値を外部信号として撮影部131に与え、制御対象を目標値の状態に変更させる。
【0234】
<手術画像表示システムの第4の実施の形態における奥行歪み情報生成部及び撮影条件制御部の処理手順>
図34は、手術画像表示システムの第4の実施の形態における奥行歪み情報生成部42及び撮影条件制御部135が行う奥行歪み情報生成及び撮影条件制御の処理の例を示したフローチャートである。
【0235】
なお、手術画像表示システムの第4の実施の形態の全体としての処理は、図15のフローチャートと同じ手順で行われ、図34のフローチャートは、図15のステップS13において行われる処理である。
【0236】
図15のステップS12からステップS13に進むと、図34のステップS70において、撮影条件制御部135は、観察条件取得部44から眼幅2・E、視距離W、及び、対角画面サイズLMを読み込む。処理はステップS70からステップ71に進む。
【0237】
ステップS71では、撮影条件制御部135は、ユーザ指定の拡大倍率A(Ac)を取得する。処理はステップS71からステップS72に進む。
【0238】
ステップS72では、撮影条件制御部135は、ステップS70で読み込んだ眼幅2・E、視距離W、及び、対角画面サイズLMと、ステップS71で取得したユーザ指定の拡大倍率Acとに基づいて、拡大倍率AがAcとなり、かつ、現在の視距離Wが最適な視距離Wcとなるように焦点距離f、撮影距離WD0、及び基線長2・E0の目標値を求める。
【0239】
なお、撮影条件制御部135は、焦点距離f、撮影距離WD0、及び、基線長2・E0のうちのいずれか2つの要素のみを制御対象として目標値を求めてもよい。この場合には、撮影条件制御部135は、ステップS70において制御対象以外の要素の現在値も撮影条件取得部43から取得し、その要素の現在値と、眼幅2・E、視距離W、対角画面サイズLM、及び、拡大倍率Acとに基づいて制御対象の目標値を求める。
【0240】
そして、撮影条件制御部135は、求めた目標値を撮影部131に与える。これによって撮影部131において焦点距離f、撮影距離WD0、及び、基線長2・E0が撮影条件制御部135から与えられた目標値の状態に設定される。処理はステップS72からステップS73に進む。
【0241】
なお、撮影条件制御部135は焦点距離fの代わりに撮影範囲対角画角サイズLBの目標値を撮影部131に与えてもよい。
【0242】
ステップS73では、奥行歪み情報生成部42は、撮影条件取得部43から基線長2・E0、撮影距離WD0、及び、撮影範囲対角画角サイズLBを読み込み、観察条件取得部44から眼幅2・E、及び、対角画面サイズLMを読み込む。処理はステップS73からステップS74に進む。
【0243】
ステップS74では、奥行歪み情報生成部42は、ステップS73で読み込んだ基線長2・E0、撮影距離WD0、撮影範囲対角画角サイズLB、眼幅2・E、及び、対角画面サイズLMに基づいて奥行歪みマップ(図12参照)を生成する。処理はステップS74からステップS75に進む。
【0244】
ステップS75では、奥行歪み情報生成部42は、観察条件取得部44から視距離Wを読み込み、奥行歪みマップ上の視距離Wに対応する奥行歪み率の表示部分を強調した奥行歪み情報(図14参照)を生成する。生成された奥行歪み情報は出力画像生成部45に供給される。処理はステップS75から図15のステップS14に進む。
【0245】
なお、手術画像表示システムの第4の実施の形態において三次元表示部25に表示される三次元画像及び奥行歪み情報は手術画像表示システムの第1の実施の形態の場合の図16に示した表示画像と同じである。また、奥行歪み情報生成部42は、図18等に示した奥行歪み情報の第2形態を生成してもよい。
【0246】
以上の手術画像表示システムの第4の実施の形態によれば、三次元表示部25に表示されている三次元画像を立体視している観察者は、奥行歪み情報により、立体像空間において生じている奥行歪みの大きさを把握することができ、観察者における奥行方向の距離の把握が支援(容易化)される。また、撮影部131における撮影条件が、ユーザ指定の三次元画像の拡大倍率で、かつ、最適な視距離となるように自動的に設定される。
【0247】
<<手術画像表示システムの第5の実施の形態>>
図35は、手術画像表示システムの第5の実施の形態における画像処理部150の構成例を示したブロック図である。なお、図中、図2の画像処理部24と対応する部分には、同じ符号を付しており、その説明は適宜省略する。
【0248】
図35の画像処理部150は、図1の手術画像表示システム11の画像処理部24の代わりに設けられ、画像取込部41、奥行歪み情報生成部151、撮影条件取得部43、観察条件取得部44、出力画像生成部45、出力部46、操作部47、及び、注目対象設定部152を有する。したがって、図35の画像処理部150は、画像取込部41、撮影条件取得部43、観察条件取得部44、出力画像生成部45、出力部46、操作部47を有する点で、図2の画像処理部24と共通する。ただし、図35の画像処理部150は、奥行歪み情報生成部151が図2の奥行歪み情報生成部42の代わりに設けられている点、及び、注目対象設定部152が新たに設けられている点で、図2の画像処理部24と相違する。
【0249】
注目対象設定部152は、マウス(ポインディングデバイス)の操作等のユーザの所定の入力操作を操作部47から取得し、ユーザの入力操作に基づいて、三次元表示部25に表示されている三次元画像に対してユーザが指定する注目対象の領域を設定する。
【0250】
図36は、三次元表示部25に表示される奥行歪み情報25Bが重畳された三次元画像25Aを例示した図である。図36において、マーカー円160は、注目対象の領域の位置及び範囲を示し、注目対象の領域の範囲は円形範囲として設定される。
【0251】
ユーザが操作部47の操作により注目対象の領域の中心位置を指定する操作(例えば、マウスのクリック操作)を行うと、図35の注目対象設定部152は、指定された位置を中心とする既定の直径の円形範囲を注目対象の領域として設定する。
【0252】
また、ユーザが注目対象の領域の大きさ(直径)を指定する操作(例えば、マーカー円160の円周に対するマウスのドラッグ&ドロップ操作)を行うと、注目対象設定部152は、注目対象の領域を、指定された大きさに変更する。図37は、注目対象の領域の大きさが図36の場合から大きく変更された場合のマーカー円160を示す。
【0253】
なお、ユーザは注目対象の領域の中心位置の指定に続けて円形範囲の直径を指定する操作(例えば、マーカー円160の円周以外の部分のマウスのドラッグ&ドロップ操作)を行うこともできる。
【0254】
注目対象設定部152は、注目対象の領域の中心位置及び直径を奥行歪み情報生成部151に与える。
【0255】
奥行歪み情報生成部151は、撮影条件取得部43からの基線長2・E0、撮影距離WD0、及び、撮影範囲対角画角サイズLBと、観察条件取得部44からの眼幅2・E、視距離W、及び、対角画面サイズLMに基づいて図2の奥行歪み情報生成部42と同様に奥行歪みマップを生成する。
【0256】
また、奥行歪み情報生成部151は、注目対象設定部152から与えられた注目対象の領域の中心位置及び直径に基づいて、三次元画像上の注目対象の領域に重畳するマーカー円160の画像を生成し、出力画像生成部45に供給する。これにより、図36及び図37のように観察領域の三次元画像25Aに対して注目対象の領域にマーカー円160の画像が重畳される。
【0257】
また、図35の奥行歪み情報生成部151は、マーカー円160の直径をMとすると、立体像空間において本来の飛出量Dx0及び引込量Dy0がMとなる位置の奥行歪み率の奥行歪みマップ上の表示部分を強調する図36及び図37のような奥行歪み情報を生成する。
【0258】
すなわち、奥行歪み情報生成部151は、本来の飛出量Dx0及び引込量Dy0がMとなる像点に対応する物点の基準面SBまでの距離L0を算出する。
【0259】
具体的には、Dx0=Dy0=A・L0・E/E0=Mであることから、奥行歪み情報生成部151は、撮影条件取得部43からの基線長2・E0、撮影距離WD0、及び、撮影範囲対角画角サイズLBと、観察条件取得部44からの眼幅E、及び、対角画面サイズLMに基づいて、距離L0を次式(11)により算出する。
【0260】
L0=E0・M/(E・A)
・・・(11)
【0261】
ただし、拡大倍率Aは、式(6)を用いて算出する。
【0262】
奥行歪み情報生成部151は、奥行歪みマップにおいて、式(11)により算出した距離L0の行を含む複数行(例えば5行程度)の範囲であって、かつ、観察条件取得部44からの視距離Wに対応する列を含む複数行(5列程度)の範囲の奥行歪み率の表示部分を図36及び図37の奥行歪み情報25Bのように枠161で囲む。これによって奥行歪み情報生成部151は、枠161の範囲内の奥行歪み率を強調した奥行歪み情報を生成し、生成した奥行歪み情報を出力画像生成部45に供給する。なお、奥行歪み率の一部の表示部分を強調する方法としては任意の方法が採用できる。
【0263】
<手術画像表示システムの第5の実施の形態における奥行歪み情報生成部及び注目対象設定部の処理手順>
図38は、手術画像表示システムの第5の実施の形態における画像処理部150の奥行歪み情報生成部151及び注目対象設定部152が行う奥行歪み情報生成の処理の例を示したフローチャートである。
【0264】
なお、手術画像表示システムの第5の実施の形態における処理は、図15のフローチャートと同じ手順で行われ、図38のフローチャートは、図15のステップS13において行われる処理である。
【0265】
図15のステップS12からステップS13に進むと、図38のステップS90において、奥行歪み情報生成部151は、撮影条件取得部43から基線長2・E0、撮影距離WD0、及び、撮影範囲対角画角サイズLBを読み込み、観察条件取得部44から眼幅2・E、視距離W、及び、対角画面サイズLMを読み込む。処理はステップS90からステップS91に進む。
【0266】
ステップS91では、奥行歪み情報生成部151は、ステップS90で読み込んだ基線長2・E0、撮影距離WD0、撮影範囲対角画角サイズLB、眼幅2・E、及び、対角画面サイズLMに基づいて奥行歪みマップ(図12参照)を生成する。処理はステップS91からステップS92に進む。
【0267】
ステップS92では、注目対象設定部152は、ユーザの操作部47の操作により注目対象の位置を指定する操作が行われたか否かを判定する。
【0268】
ステップS92において、注目対象の位置を指定する操作が行われたと判定された場合、処理はステップS93に進み、注目対象設定部152は、ユーザの操作部47の操作により注目対象の領域の大きさ(直径)を指定する操作が行われたか否かを判定する。
【0269】
ステップS93において、注目対象の領域の大きさ(直径)を指定する操作が行われたと判定された場合、処理はステップS94に進み、注目対象設定部152は、ステップS92で指定された位置が既に設定されている注目対象の領域のマーカー円160上の位置か否かを判定する。
【0270】
ステップS94において、ステップS92で指定された位置が既に設定されている注目対象の領域のマーカー円160上の位置であると判定された場合、処理はステップS95に進み、注目対象設定部152は、ステップS92で指定された位置のマーカー円160の注目対象の領域をステップS93で指定された大きさ(直径)に変更する。そして、注目対象設定部152は、変更した注目対象の領域の中心位置及び直径を奥行歪み情報生成部151に与える。処理はステップS95からステップS98に進む。
【0271】
また、ステップS94において、ステップS92で指定された位置が既に設定されている注目対象の領域のマーカー円160上の位置ではないと判定された場合、処理はステップS96に進み、注目対象設定部152は、ステップS92で指定された位置を中心位置とし、ステップS93で指定された大きさ(直径)の円形範囲を注目対象の領域として設定する。そして、注目対象設定部152は、設定した注目対象の領域の中心位置及び直径を奥行歪み情報生成部151に与える。処理はステップS96からステップS98に進む。
【0272】
また、ステップS93において、注目対象の領域の大きさ(直径)を指定する操作が行われていないと判定された場合、処理はステップS97に進み、注目対象設定部152は、ステップS92で指定された位置を中心位置とした既定の直径の円形範囲を注目対象の領域として設定する。そして、注目対象設定部152は、設定した注目対象の領域の中心位置及び直径を奥行歪み情報生成部151に与える。処理はステップS97からステップS98に進む。
【0273】
また、ステップS92において、注目対象の位置を指定する操作が行われていないと判定された場合、処理はステップS93乃至ステップS97をスキップしてステップS98に進む。
【0274】
ステップS98では、奥行歪み情報生成部151は、ステップS95、ステップS96、又は、ステップS97で注目対象設定部152から与えられた注目対象の領域の中心位置及び直径に基づいて、三次元画像上の注目対象の領域に重畳するマーカー円160の画像を生成し、出力画像生成部45に供給する。なお、ステップS92において注目対象の位置を指定する操作が行われていないと判定された場合には、繰り返し行われた図15のフローチャートの前回までの処理において設定された注目対象の領域の中心位置及び直径に基づいてマーカー円160の画像が生成される。処理はステップS98からステップS99に進む。
【0275】
ステップS99では、奥行歪み情報生成部151は、注目対象の領域の直径M(マーカー円160の直径M)が本来の飛出量Dx0及び引込量Dy0となる像点に対応する物点の基準面までの距離L0を算出する。処理はステップS99からステップS100に進む。
【0276】
ステップS100では、奥行歪み情報生成部151は、ステップS91で生成した奥行歪みマップにおいて、ステップS99で算出した距離L0の行を含む複数行(例えば5行程度)の範囲であって、観察条件取得部44からの視距離Wに対応する列を含む複数行(5列程度)の範囲の奥行歪み率の奥行歪みマップ上の表示部分を強調した奥行歪み情報を生成する。そして、奥行歪み情報生成部151は、生成した奥行歪み情報を出力画像生成部45に供給する。処理はステップS100から図15のステップS14に進む。
【0277】
以上の手術画像表示システムの第5の実施の形態によれば、三次元表示部25に表示されている三次元画像を立体視している観察者は、奥行歪み情報により、立体像空間において生じている奥行歪みの大きさを把握することができ、観察者における奥行方向の距離の把握が支援(容易化)される。また、観察者が指定した注目対象の領域の大きさに対応した奥行方向の飛出量及び引込量となる位置付近の奥行歪みの大きさを迅速に把握できるようになる。なお、手術画像表示システムの第5の実施の形態は、第1乃至第4の実施の形態において適用できる。
【0278】
<<手術画像表示システムの第6の実施の形態>>
図39は、手術画像表示システムの第6の実施の形態の構成例を示したブロック図である。なお、図中、図1の手術画像表示システムと対応する部分には、同じ符号を付しており、その説明は適宜省略する。
【0279】
図39の手術画像表示システム180は、撮影部21、右カメラ制御部22、左カメラ制御部23、画像処理部181、三次元表示部25、視点検出センサ26、及び、視線検出センサ182を有する。したがって、図39の手術画像表示システム180は、撮影部21、右カメラ制御部22、左カメラ制御部23、三次元表示部25、及び、視点検出センサ26を有する点で図1の手術画像表示システム11と共通する。だたし、図39の手術画像表示システム180は、画像処理部181が図1の手術画像表示システム11の画像処理部24の代わりに設けられている点、視線検出センサ182が新たに設けられている点で、図1の手術画像表示システム11と相違する。
【0280】
図39において、視線検出センサ182は、観察者の視線方向を検出し、三次元表示部25の表示面に対して観察者が注視している位置(表示面上の注視位置)を検出する。視線検出センサ182は、検出した観察者の注視位置を画像処理部181に供給する。
【0281】
<手術画像表示システムの第6の実施の形態における画像処理部の構成例>
図40は、手術画像表示システムの第5の実施の形態における画像処理部の構成例を示したブロック図である。なお、図中、図35の画像処理部150と対応する部分には、同じ符号を付しており、その説明は適宜省略する。
【0282】
図40の画像処理部181は、画像取込部41、奥行歪み情報生成部151、撮影条件取得部43、観察条件取得部44、出力画像生成部45、出力部46、操作部47、及び、注目対象設定部184を有する。したがって、図40の画像処理部181は、画像取込部41、撮影条件取得部43、観察条件取得部44、奥行歪み情報生成部151、出力画像生成部45、出力部46、及び、操作部47を有する点で、図35の画像処理部150と共通する。ただし、図40の画像処理部181は、注目対象設定部184が図35の注目対象設定部152の代わりに設けられている点で、図35の画像処理部150と相違する。
【0283】
注目対象設定部184は、視線検出センサ182から与えられる三次元表示部25の表示面に対する観察者の注視位置に基づいて、または、操作部47から与えられるマウス(ポインディングデバイス)の操作等のユーザの所定の入力操作に基づいて、三次元画像においてユーザが指定する注目対象の臓器の範囲を設定する。なお、本開示において臓器とは、生体内の器官、及び、1つのかたまりとして認識される組織を含む。
【0284】
図41は、三次元表示部25に表示される奥行歪み情報25Bが重畳された三次元画像25Aを例示した図である。図41において、マーカー円190は、三次元画像25Aにおける注目対象とする臓器の範囲を示し、臓器の範囲は臓器を内包する円形範囲として設定される。
【0285】
注目対象とする臓器を指定する操作として観察者が注目対象とする臓器の任意の部分を注視すると、図40の注目対象設定部184は、視線検出センサ182から与えられる観察者の注視位置を注目対象の臓器の位置とする。また、ユーザが操作部47の操作により注目対象の臓器の任意の位置を指定する操作(例えば、マウスのクリック操作)を行うと、注目対象設定部184は、指定された位置を注目対象の臓器の位置とする。
【0286】
一方、注目対象設定部184は、画像取込部41から観察領域の三次元画像を取り込み、観察者の注視位置又は操作部47の操作により指定された位置の臓器の領域を、三次元画像に対する画像処理により色や輪郭などに基づいて抽出する。そして、注目対象設定部184は、抽出した臓器の領域を内包する円形範囲を注目対象の臓器の範囲として設定し、設定した円形範囲の中心位置及び直径を奥行歪み情報生成部151に与える。
【0287】
図42は、三次元表示部25に表示される奥行歪み情報25Bが重畳された三次元画像25Aを例示した図である。図42のように観察者が図41において注視していた臓器とは異なる位置の臓器を注視すると、注目対象設定部184は観察者が新たに注視した位置の臓器の領域を抽出し、抽出した臓器の領域を内包する円形範囲(マーカー円190の範囲)を注目対象の臓器の範囲として設定する。
【0288】
奥行歪み情報生成部151は、撮影条件取得部43からの基線長2・E0、撮影距離WD0、撮影範囲対角画角サイズLBと、観察条件取得部44からの眼幅2・E、視距離W、対角画面サイズLMに基づいて図2の奥行歪み情報生成部42と同様に奥行歪みマップを生成する。
【0289】
また、奥行歪み情報生成部151は、注目対象設定部184から与えられた注目対象の臓器の範囲の中心位置及び直径に基づいて、三次元画像上の注目対象の臓器の範囲に重畳するマーカー円190の画像を生成し、出力画像生成部45に供給する。これにより、図41及び図42のように観察領域の三次元画像25Aに対して注目対象の臓器の範囲を示すマーカー円190が重畳表示される。
【0290】
また、奥行歪み情報生成部151は、手術画像表示システムの第5の実施の形態の奥行歪み情報生成部151と同様に、マーカー円190の直径をMとすると、立体像空間において本来の飛出量Dx0及び引込量Dy0がMとなる位置の奥行歪み率の奥行歪みマップ上の表示部分を図41及び図42の奥行歪み情報25Bの枠194のように囲む。これによって奥行歪み情報生成部151は、枠194の範囲内の奥行歪み率を強調した奥行歪み情報を生成し、出力画像生成部45に供給する。なお、奥行歪み率の一部の表示部分を強調する方法としては任意の方法が採用できる。
【0291】
<手術画像表示システムの第6の実施の形態における奥行歪み情報生成部及び注目対象設定部の処理手順>
図43は、手術画像表示システムの第6の実施の形態における奥行歪み情報生成部151及び注目対象設定部184が行う奥行歪み情報生成の処理の例を示したフローチャートである。
【0292】
なお、手術画像表示システムの第6の実施の形態における処理は、図15のフローチャートと同じ手順で行われ、図43のフローチャートは、図15のステップS13において行われる処理である。
【0293】
図15のステップS12からステップS13に進むと、図43のステップS120において、奥行歪み情報生成部151は、撮影条件取得部43から基線長2・E0、撮影距離WD0、及び、撮影範囲対角画角サイズLBを読み込み、観察条件取得部44から眼幅2・E、視距離W、及び、対角画面サイズLMを読み込む。処理はステップS120からステップS121に進む。
【0294】
ステップS121では、奥行歪み情報生成部151は、ステップS120で読み込んだ基線長2・E0、撮影距離WD0、撮影範囲対角画角サイズLB、眼幅2・E、及び、対角画面サイズLMに基づいて奥行歪みマップ(図12参照)を生成する。処理はステップS121からステップS122に進む。
【0295】
ステップS122では、注目対象設定部184は、視線検出センサ182からの観察者の注視位置又はユーザの操作部47の操作に基づいて注目対象の臓器の位置を指定する操作が行われたか否かを判定する。なお、注目対象設定部184は、視線検出センサ182からの観察者の注視位置に変化が生じた場合に注目対象の臓器の位置を指定する操作が行われたと判定する。
【0296】
ステップS122において、注目対象の臓器の位置を指定する操作が行われたと判定された場合、処理はステップS123に進み、注目対象設定部184は、画像取込部41から観察領域の三次元画像を取り込む。処理はステップS123からステップS124に進む。
【0297】
また、ステップS122において、注目対象の臓器の位置を指定する操作が行われていないと判定された場合、処理はステップS123乃至ステップS125をスキップしてステップS126に進む。
【0298】
ステップS124では、注目対象設定部184は、ステップS122で検出された観察者の注視位置又は操作部47の操作により指定された位置の臓器の領域を、三次元画像に対する画像処理により色や輪郭などに基づいて抽出する。処理はステップS124からステップS125に進む。
【0299】
ステップS125では、注目対象設定部184は、ステップS124で抽出した臓器の領域を内包する円形範囲を注目対象の臓器の範囲として設定し、円形範囲の中心位置及び直径を奥行歪み情報生成部151に与える。処理はステップS125からステップS126に進む。
【0300】
ステップS126では、奥行歪み情報生成部151は、ステップS125で注目対象設定部184から与えられた注目対象の臓器の中心位置及び直径に基づいて、三次元画像上の注目対象の臓器の範囲に重畳するマーカー円190の画像を生成し、出力画像生成部45に供給する。なお、ステップS122において注目対象の位置を指定する操作が行われていないと判定された場合には、前回までの注目対象の臓器の円形範囲の中心位置及び直径に基づいてマーカー円190の画像が生成される。処理はステップS126からステップS127に進む。
【0301】
ステップS127では、奥行歪み情報生成部151は、注目対象の臓器の範囲の直径M(マーカー円190の直径M)が本来の飛出量Dx0及び引込量Dy0となる像点に対応する物点の基準面までの距離L0を算出する。処理はステップS127からステップS128に進む。
【0302】
ステップS128では、奥行歪み情報生成部151は、ステップS121で生成した奥行歪みマップにおいて、ステップS127で算出した距離L0の行を含む複数行(例えば5行程度)の範囲であって、観察条件取得部44からの視距離Wに対応する列を含む複数行(5列程度)の範囲の奥行歪み率の奥行歪みマップ上の表示部分を強調した奥行歪み情報を生成する。そして、奥行歪み情報生成部151は、生成した奥行歪み情報を出力画像生成部45に供給する。処理はステップS128から図15のステップS14に進む。
【0303】
以上の手術画像表示システムの第6の実施の形態によれば、三次元表示部25に表示されている三次元画像を立体視している観察者は、奥行歪み情報により、立体像空間において生じている奥行歪みの大きさを把握することができ、観察者における奥行方向の距離の把握が支援(容易化)される。また、観察者が指定した注目対象の臓器の大きさに対応した奥行方向の飛出量及び引込量となる位置付近の奥行歪みの大きさを迅速に把握できるようになる。なお、手術画像表示システムの第6の実施の形態は、第1乃至第4の実施の形態において適用できる。
【0304】
以上の本技術を適用した手術画像表示システムは、手術部位の視野(術野)を撮影する医療施設向け術野カメラシステムに適用できる。また、本技術は、生体の手術領域等に限らず任意の観察領域の三次元画像を取得するシステムや画像処理装置に適用できる。
【0305】
<プログラム>
図1の画像処理部24、図22の画像処理部101、図27の画像処理部121、図33の画像処理部132、図35の画像処理部150、図40の画像処理部181等の一連の処理の一部及び全ては、ハードウェアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウェアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
【0306】
図44は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
【0307】
コンピュータにおいて、CPU(Central Processing Unit)201,ROM(Read Only Memory)202,RAM(Random Access Memory)203は、バス204により相互に接続されている。
【0308】
バス204には、さらに、入出力インタフェース205が接続されている。入出力インタフェース205には、入力部206、出力部207、記憶部208、通信部209、及びドライブ210が接続されている。
【0309】
入力部206は、キーボード、マウス、マイクロフォンなどよりなる。出力部207は、ディスプレイ、スピーカなどよりなる。記憶部208は、ハードディスクや不揮発性のメモリなどよりなる。通信部209は、ネットワークインタフェースなどよりなる。ドライブ210は、磁気ディスク、光ディスク、光磁気ディスク、又は半導体メモリなどのリムーバブルメディア211を駆動する。
【0310】
以上のように構成されるコンピュータでは、CPU201が、例えば、記憶部208に記憶されているプログラムを、入出力インタフェース205及びバス204を介して、RAM203にロードして実行することにより、上述した一連の処理が行われる。
【0311】
コンピュータ(CPU201)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア211に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線又は無線の伝送媒体を介して提供することができる。
【0312】
コンピュータでは、プログラムは、リムーバブルメディア211をドライブ210に装着することにより、入出力インタフェース205を介して、記憶部208にインストールすることができる。また、プログラムは、有線又は無線の伝送媒体を介して、通信部209で受信し、記憶部208にインストールすることができる。その他、プログラムは、ROM202や記憶部208に、あらかじめインストールしておくことができる。
【0313】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【0314】
なお、本技術は、以下のような構成も取ることができる。
<1> 生体を異なる2つの視点から撮影し、前記2つの視点から撮影された観察領域の立体像を再現する三次元画像を取得する撮影部と、
前記撮影部により取得された前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像を生成する出力画像生成部と
を含む手術画像表示システム。
<2> 前記出力画像生成部は、前記三次元画像に前記奥行歪み情報を重畳した出力画像を生成する
<1>に記載の手術画像表示システム。
<3> 前記奥行歪み情報は、前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記立体像空間における点の前記表示面までの距離と、前記奥行歪みが生じていないと仮定した場合の前記立体像空間における前記点の前記表示面までの本来の距離との比率を奥行歪み率として表した情報である
<1>又は<2>に記載の手術画像表示システム。
<4> 前記奥行歪み情報は、前記立体像空間における前記奥行方向の複数の点についての前記奥行歪み率を表した情報である
<3>に記載の手術画像表示システム。
<5> 前記観察領域を撮影する撮影空間において前記右眼画像と前記左眼画像との同一位置の像点として撮影される物点の位置を基準面の位置として、前記撮影空間における第1の物点の前記基準面までの距離と、前記基準面上の第2の物点と第3の物点との間の距離とが等しい場合に、前記立体像空間において、前記第2の物点が再現される点と前記第3の物点が再現される点との間の距離を前記第1の物点が再現される点の前記表示面までの前記本来の距離とする
<3>又は<4>に記載の手術画像表示システム。
<6> 前記奥行歪み情報は、観察者の眼から前記表示面までの距離である視距離に対する前記奥行歪み率を表した情報である
<3>乃至<5>のいずれかに記載の手術画像表示システム。
<7>前記奥行歪み情報は、実際の視距離に対応する前記奥行歪み率を強調して表した情報である
<6>に記載の手術画像表示システム。
<8> 前記奥行歪み情報は、前記立体像空間において、前記奥行歪みが生じていないと仮定した場合に想定した真円が前記奥行歪みによって変形した形状を表す情報である
<1>乃至<5>のいずれかに記載の手術画像表示システム。
<9> 前記奥行歪み情報は、前記立体像空間における位置が前記表示面に対して奥側及び手前側から近づくに従って前記奥行歪み率が1に近づく視距離が最適な視距離であることを表す情報を含む
<3>乃至<8>のいずれかに記載の手術画像表示システム。
<10> 前記奥行歪み情報は、前記観察領域を撮影する撮影空間において前記三次元画像を構成する右眼画像と左眼画像との同一位置の像点として撮影される物点の位置を基準面の位置とし、前記右眼画像と前記左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を前記三次元画像が表示される表示面の位置として、前記撮影空間における前記撮影部の前記基準面までの撮影距離と、前記撮影部の2つの視点の間の距離である基線長と、前記撮影部の前記基準面における撮影範囲の対角の長さである対角画角サイズと、前記三次元画像を立体視する観察者の眼幅と、前記観察者の眼から前記表示面までの距離である視距離と、前記表示面に表示される前記三次元画像の対角の長さである対角画面サイズとに基づいて生成された情報である
<1>乃至<9>のいずかに記載の手術画像表示システム。
<11> 前記奥行歪み情報を生成する奥行歪み情報生成部
を更に含む
<1>乃至<10>のいずれかに記載の手術画像表示システム。
<12> 前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記出力画像を立体視可能に表示し、かつ、外部信号に基づいて前記表示面の前記奥行方向の位置を変更することにより観察者の眼から前記表示面までの距離である視距離を変更する三次元表示部と、
前記三次元表示部に対して前記外部信号を与えて前記視距離を設定させる視距離制御部と
をさらに含み、
前記視距離制御部は、前記観察領域を撮影する撮影空間において前記三次元画像を構成する右眼画像と左眼画像との同一位置の像点として撮影される物点の位置を基準面の位置として、前記撮影空間における前記撮影部の前記基準面までの撮影距離WD0と、前記撮影部の2つの視点の間の距離である基線長2・E0と、前記三次元画像を立体視する観察者の眼幅2・Eとに基づいて、前記三次元表示部における前記視距離をWD0・E/E0に設定させる
<1>乃至<11>のいずれかに記載の手術画像表示システム。
<13> 前記観察領域を撮影する撮影空間において前記三次元画像を構成する右眼画像と左眼画像との同一位置の像点として撮影される物点の位置を基準面の位置として、前記撮影空間における前記撮影部の前記基準面までの撮影距離、前記撮影部の2つの視点の間の距離である基線長、及び、前記撮影部の前記基準面における撮影範囲の対角の長さである対角画角サイズのうちの少なくとも2つの要素を制御対象として制御する撮影条件制御部と、
前記三次元画像を構成する右眼画像と左眼画像との同一位置に表示された像点が前記立体像空間において再現される位置を表示面の位置として、前記表示面に表示される前記三次元画像の拡大倍率を指定する操作部と
を更に含み、
前記撮影条件制御部は、前記三次元画像を立体視する観察者の眼幅と、前記観察者の眼から前記表示面までの距離である視距離と、前記表示面に表示される前記三次元画像の対角の長さである対角画面サイズとに基づいて、かつ、前記撮影距離、前記基線長、及び、前記対角画角サイズのうちの前記制御対象以外の要素に基づいて、前記表示面に表示される前記三次元画像が前記操作部により指定された前記拡大倍率となり、かつ、前記撮影距離WD0、前記基線長2・E0、及び、前記眼幅2・Eに対して、前記視距離がWD0・E/E0となるように前記制御対象を制御する
<1>乃至<11>のいずれかに記載の手術画像表示システム。
<14> 前記三次元画像における注目対象の範囲を指定する注目対象指定部
をさらに含み、
前記奥行歪み情報は、前記注目対象指定部により指定された前記注目対象の範囲の大きさに相当する距離を前記表示面までの本来の距離とした場合における前記奥行歪み率を表した情報である
<3>乃至<7>のいずれかに記載の手術画像表示システム。
<15> 前記三次元画像における注目対象の位置を指定する注目対象指定部と、
前記注目対象指定部により指定された位置の臓器の範囲を前記三次元画像に対して設定する注目対象設定部と
をさらに含み、
前記奥行歪み情報は、前記注目対象設定部により設定された前記臓器の範囲の大きさに相当する距離を前記表示面までの本来の距離を前記表示面までの前記本来の距離とした場合における前記奥行歪み率を表した情報である
<3>乃至<7>のいずれかに記載の手術画像表示システム。
<16> 手術箇所を異なる2つの視点から撮影して得られた三次元画像と、前記三次元画像の立体像と前記手術箇所の物理的な三次元空間の奥行方向との違いの大きさを表す情報と、を提示する出力画像を生成する出力画像生成部
を含む画像処理装置。
<17> 画像処理装置は、
出力画像生成部
を含み、
生体を異なる2つの視点から撮影して得られた三次元画像であって、前記2つの視点から撮影された観察領域の立体像を再現する前記三次元画像と、前記三次元画像を立体視することにより前記観察領域の立体像が再現される立体像空間の奥行方向の奥行歪みの大きさを表す奥行歪み情報とを提示する出力画像を生成する
画像処理方法。
【符号の説明】
【0315】
11, 手術画像表示システム, 21 撮影部, 22 右カメラ制御部, 23 左カメラ制御部, 24 画像処理部, 25 三次元表示部、 26 視点検出センサ, 31L 左カメラ, 31R 右カメラ, 41 画像取込部, 42 奥行歪み情報生成部, 43 撮影条件取得部, 44 観察条件取得部, 45 出力画像生成部, 46 出力部, 47 操作部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30
図31
図32
図33
図34
図35
図36
図37
図38
図39
図40
図41
図42
図43
図44