特許第6252631号(P6252631)IP Force 特許公報掲載プロジェクト 2015.5.11 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニー株式会社の特許一覧
特許6252631医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム
<>
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000002
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000003
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000004
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000005
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000006
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000007
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000008
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000009
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000010
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000011
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000012
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000013
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000014
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000015
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000016
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000017
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000018
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000019
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000020
  • 特許6252631-医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム 図000021
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6252631
(24)【登録日】2017年12月8日
(45)【発行日】2017年12月27日
(54)【発明の名称】医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラム
(51)【国際特許分類】
   A61B 1/00 20060101AFI20171218BHJP
【FI】
   A61B1/00 522
   A61B1/00 C
【請求項の数】13
【全頁数】27
(21)【出願番号】特願2016-127507(P2016-127507)
(22)【出願日】2016年6月28日
(62)【分割の表示】特願2012-59736(P2012-59736)の分割
【原出願日】2012年3月16日
(65)【公開番号】特開2016-202934(P2016-202934A)
(43)【公開日】2016年12月8日
【審査請求日】2016年7月13日
(73)【特許権者】
【識別番号】000002185
【氏名又は名称】ソニー株式会社
(74)【代理人】
【識別番号】100093241
【弁理士】
【氏名又は名称】宮田 正昭
(74)【代理人】
【識別番号】100101801
【弁理士】
【氏名又は名称】山田 英治
(74)【代理人】
【識別番号】100095496
【弁理士】
【氏名又は名称】佐々木 榮二
(74)【代理人】
【識別番号】100086531
【弁理士】
【氏名又は名称】澤田 俊夫
(74)【代理人】
【識別番号】110000763
【氏名又は名称】特許業務法人大同特許事務所
(72)【発明者】
【氏名】林 恒生
【審査官】 伊藤 昭治
(56)【参考文献】
【文献】 特開平09−021962(JP,A)
【文献】 特開2012−015818(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 1/00 − 1/32
G02B 23/24 − 23/26
(57)【特許請求の範囲】
【請求項1】
視点の異なる複数の視点画像から視点情報に応じて左眼画像の視点領域と右眼画像の視点領域を設定して、該設定した視点領域に基づいて視点画像を領域毎に選択する画像選択部と、
前記画像選択部で選択した視点画像を加算して、左眼画像と右眼画像を生成する加算処理部と
を備え、
前記画像選択部は、前記左眼画像の視点領域と前記右眼画像の視点領域の間隔を制御して、前記加算処理部で生成される前記左眼画像と前記右眼画像の視差量を調整する医療用画像処理装置。
【請求項2】
視点の異なる複数の視点画像から視点情報に応じて左眼画像の視点領域と右眼画像の視点領域を設定して、該設定した視点領域に基づいて視点画像を選択する画像選択部と、
前記画像選択部で選択した視点画像を加算して、新たな視点の視点画像を生成する加算処理部と
を備え、
前記画像選択部は、全ての視点画像を選択し、または前記左眼画像と前記右眼画像の視点領域に含まれる視点の視点画像を選択し、
前記加算処理部は、前記画像選択部で選択された視点画像を加算して平面画像を生成する医療用画像処理装置。
【請求項3】
視点の異なる複数の視点画像から視点情報に応じて視点画像の選択を行う画像選択部と、
前記画像選択部で選択した視点画像を加算して、新たな視点の視点画像を生成する加算処理部と、
前記新たな視点の視点画像に対して、前記加算した視点画像の数に応じたゲイン調整を行うゲイン調整部と
を備える医療用画像処理装置。
【請求項4】
前記ゲイン調整部は、前記加算した視点画像の数が少なくなるに応じてゲインを高く設定する請求項3記載の医療用画像処理装置。
【請求項5】
視点の異なる複数の視点画像から視点情報に応じて視点画像の選択を行う画像選択部と、
前記画像選択部で選択した視点画像を加算して、新たな視点の視点画像を生成する加算処理部と、
前記新たな視点の視点画像に対して、前記視点情報に応じて画像回転処理を行う回転処理部と
を備える医療用画像処理装置。
【請求項6】
撮像光学系を介して入射する光線の経路情報と光量情報とを含む光線情報の生成を行う撮像部と、
前記撮像部で生成された光線情報から視点の異なる複数の視点画像を生成する画像分割部と、
前記視点の異なる複数の視点画像から視点情報に応じて視点画像の選択を行う画像選択部と、
前記画像選択部で選択した視点画像を加算して、新たな視点の視点画像を生成する加算処理部と
を備える医療用画像処理装置。
【請求項7】
前記視点情報として視点回転角の設定を行う視点回転角設定部を備え、
前記視点回転角設定部は、初期方向に対する前記撮像部の角度、または前記撮像部で撮像された画像を回転したときに基準画像と最も類似する画像となる角度、またはユーザが指定した角度を前記視点回転角として設定する請求項6記載の医療用画像処理装置。
【請求項8】
前記視点情報として視点回転角の設定を行う視点回転角設定部を備え、
前記視点回転角設定部は、重力方向に対する前記撮像部の角度を前記視点回転角として設定する請求項6記載の医療用画像処理装置。
【請求項9】
撮像光学系を介して入射する光線の経路情報と光量情報とを含む光線情報の生成を行う内視鏡と、
前記内視鏡で生成された光線情報から視点の異なる複数の視点画像を生成する画像分割部と、前記画像分割部で生成された視点の異なる複数の視点画像から視点情報に応じて視点画像の選択を行う画像選択部と、前記画像選択部で選択した視点画像を加算して、新たな視点の視点画像を生成する加算処理部とを有する医療用画像処理装置と
を備える内視鏡システム。
【請求項10】
前記内視鏡はカプセル型内視鏡である、
請求項9に記載の内視鏡システム。
【請求項11】
医療用画像処理をコンピュータで行わせるプログラムであって、
視点の異なる複数の視点画像から視点情報に応じて左眼画像の視点領域と右眼画像の視点領域を設定して、該設定した視点領域に基づいて視点画像を領域毎に選択する手順と、
前記選択した視点画像を加算して、左眼画像と右眼画像を生成する手順と、
前記左眼画像の視点領域と前記右眼画像の視点領域の間隔を制御して、前記生成される左眼画像と右眼画像の視差量を調整する手順と
を前記コンピュータで実行させるプログラム。
【請求項12】
医療用画像処理をコンピュータで行わせるプログラムであって、
視点の異なる複数の視点画像から視点情報に応じて視点画像の選択を行う手順と、
前記選択した視点画像を加算して、新たな視点の視点画像を生成する手順と、
前記新たな視点の視点画像に対して、前記視点情報に応じて画像回転処理を行う手順と
を前記コンピュータで実行させるプログラム。
【請求項13】
医療用画像処理をコンピュータで行わせるプログラムであって、
撮像光学系を介して入射する光線の経路情報と光量情報とを含む光線情報の生成を行う内視鏡から前記生成された光線情報を取得する手順と、
前記取得した光線情報から視点の異なる複数の視点画像を生成する手順と、
前記生成された視点の異なる複数の視点画像から視点情報に応じて視点画像の選択を行う手順と、
前記選択した視点画像を加算して、新たな視点の視点画像を生成する手順と
を前記コンピュータで実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
この技術は、医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラムに関し、容易に立体視の方向を自由に変えることができるようにする。
【背景技術】
【0002】
従来、配管内や体腔内を観察するために内視鏡が広く用いられている。内視鏡は、可撓性を有する挿入部を屈曲した配管内や体腔内等に挿入することで内部を観察できる軟性内視鏡、硬性の挿入部を目的部位に向けて直線的に挿入することで内部を観察できる硬性内視鏡がある。
【0003】
軟性内視鏡は、例えば先端の撮像光学系でとらえた光学像を光ファイバで接眼部に伝達する光学式内視鏡や、先端に撮像光学系と撮像素子を設けて撮像光学系でとらえた被写体光学像を撮像素子で電気信号に変換して外部モニタに伝達する電子内視鏡がある。硬性内視鏡は、先端からレンズ系を繋いで構成されているリレー光学系によって被写体光学像が接眼部に伝達される。
【0004】
さらに、内視鏡では、配管内や体腔内等の内壁表面の微細な凹凸の観察を容易とするため立体視内視鏡が実用化されている。例えば引用文献1では、リレー光学系により伝達された被写体光学像を、リレー光学系の光軸を中心に、瞳分割プリズムで左被写体光学像および右被写体光学像に分割する。さらに、瞳分割プリズムで分割された左被写体光学像および右被写体光学像を、それぞれ撮像素子で画像信号に変換する。また、回転機構によって、リレー光学系の光軸を中心として瞳分割プリズムおよび二つの撮像素子を回転させる。このように内視鏡を構成することで、内視鏡を動かさなくとも立体視の方向を自由に変えることができる。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平06−059199号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、リレー光学系の光軸を中心に瞳分割プリズムで左被写体光学像および右被写体光学像に分割する構成や、リレー光学系の光軸を中心として瞳分割プリズムおよび二つの撮像素子を回転させる構成を用いた場合、内視鏡の光学系等が大きく小型化が困難である。また、機械的に瞳分割プリズムおよび二つの撮像素子を回転させることから、画像の回転で故障等が生じやくなってしまうおそれがある。また、機械的な回転機構を用いることから、簡単に精度よく調整を行うことができない。さらに、組立誤差、経年変化、温度変化等の影響を補償するために、キャリブレーションが必要となる。
【0007】
そこで、この技術では、容易に立体視の方向を自由に変えることができる医療用画像処理装置と内視鏡システム、医療用画像処理方法およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0008】
この技術の第1の側面は、視点の異なる複数の視点画像から視点情報に応じて左眼画像の視点領域と右眼画像の視点領域を設定して、該設定した視点領域に基づいて視点画像を領域毎に選択する画像選択部と、前記画像選択部で選択した視点画像を加算して、左眼画像と右眼画像を生成する加算処理部とを備え、前記画像選択部は、前記左眼画像の視点領域と前記右眼画像の視点領域の間隔を制御して、前記加算処理部で生成される前記左眼画像と前記右眼画像の視差量を調整する医療用画像処理装置にある。
この技術の第2の側面は、視点の異なる複数の視点画像から視点情報に応じて左眼画像の視点領域と右眼画像の視点領域を設定して、該設定した視点領域に基づいて視点画像を選択する画像選択部と、前記画像選択部で選択した視点画像を加算して、新たな視点の視点画像を生成する加算処理部とを備え、前記画像選択部は、全ての視点画像を選択し、または前記左眼画像と前記右眼画像の視点領域に含まれる視点の視点画像を選択し、前記加算処理部は、前記画像選択部で選択された視点画像を加算して平面画像を生成する医療用画像処理装置にある。
この技術の第3の側面は、視点の異なる複数の視点画像から視点情報に応じて視点画像の選択を行う画像選択部と、前記画像選択部で選択した視点画像を加算して、新たな視点の視点画像を生成する加算処理部と、前記新たな視点の視点画像に対して、前記加算した視点画像の数に応じたゲイン調整を行うゲイン調整部とを備える医療用画像処理装置にある。
この技術の第4の側面は、視点の異なる複数の視点画像から視点情報に応じて視点画像の選択を行う画像選択部と、前記画像選択部で選択した視点画像を加算して、新たな視点の視点画像を生成する加算処理部と、前記新たな視点の視点画像に対して、前記視点情報に応じて画像回転処理を行う回転処理部とを備える医療用画像処理装置にある。
この技術の第5の側面は、撮像光学系を介して入射する光線の経路情報と光量情報とを含む光線情報の生成を行う撮像部と、前記撮像部で生成された光線情報から前記視点の異なる複数の視点画像を生成する画像分割部と、前記視点の異なる複数の視点画像から視点情報に応じて視点画像の選択を行う画像選択部と、前記画像選択部で選択した視点画像を加算して、新たな視点の視点画像を生成する加算処理部とを備える医療用画像処理装置にある。
【0009】
この技術においては、視点の異なる複数の視点画像、例えば撮像部の撮像光学系を介して入射する光線の経路情報と光量情報とを含む光線情報から視点の異なる複数の視点画像か生成される。また、この視点の異なる複数の視点画像から、視点情報に応じて設定された複数の視点領域、例えば左眼画像の視点領域と右眼画像の視点領域に含まれる視点の視点画像が領域毎に画像選択部で選択される。領域毎に選択された視点画像は、加算処理部で領域毎に加算されて、新たな視点の視点画像例えば左眼画像と右眼画像が生成される。また、全ての視点画像が選択されて、または左眼画像と右眼画像の視点領域に含まれる視点の視点画像が選択されて、選択された視点画像を加算することで平面画像が生成される。さらに、左眼画像の視点領域と右眼画像の視点領域の間隔を制御することで、左眼画像と右眼画像の視差量の調整が行われる。
【0010】
視点画像を加算して生成された新たな視点の視点画像に対しては、加算した視点画像の数に応じたゲイン調整、すなわち加算した視点画像の数が少なくなるに応じてゲインを高く設定するゲイン調整が行われて、加算した視点画像の数の相違による影響が排除される。さらに、新たな視点の視点画像に対して、視点情報に応じて画像回転処理を行うことで、新たな視点の視点画像が視点情報に応じた向きとされる。
【0011】
視点情報として視点回転角を設定する場合、例えば初期方向に対する撮像部の角度、または重力方向に対する撮像部の角度、または撮像部で撮像された画像を回転したときに基準画像と最も類似する画像となる角度、またはユーザが指定した角度が視点回転角として設定される。また、視点の異なる複数の視点画像の符号化処理を行うことにより生成されている符号化信号の復号処理を行う画像復号部が設けられて、符号化信号の復号処理を行うことにより得られた視点の異なる複数の視点画像の画像信号を用いて、新たな視点の視点画像の生成も行われる。
【0012】
この技術の第6の側面は、撮像光学系を介して入射する光線の経路情報と光量情報とを含む光線情報の生成を行う内視鏡と、前記内視鏡で生成された光線情報から視点の異なる複数の視点画像を生成する画像分割部と、前記画像分割部で生成された視点の異なる複数の視点画像から視点情報に応じて視点画像の選択を行う画像選択部と、前記画像選択部で選択した視点画像を加算して、新たな視点の視点画像を生成する加算処理部とを有する医療用画像処理装置とを備える内視鏡システムにある。
【0013】
この技術の第7の側面は、医療用画像処理をコンピュータで行わせるプログラムであって、視点の異なる複数の視点画像から視点情報に応じて左眼画像の視点領域と右眼画像の視点領域を設定して、該設定した視点領域に基づいて視点画像を領域毎に選択する手順と、前記選択した視点画像を加算して、左眼画像と右眼画像を生成する手順と、前記左眼画像の視点領域と前記右眼画像の視点領域の間隔を制御して、前記生成される左眼画像と右眼画像の視差量を調整する手順とを前記コンピュータで実行させるプログラムにある。
この技術の第8の側面は、医療用画像処理をコンピュータで行わせるプログラムであって、視点の異なる複数の視点画像から視点情報に応じて視点画像の選択を行う手順と、前記選択した視点画像を加算して、新たな視点の視点画像を生成する手順と、前記新たな視点の視点画像に対して、前記視点情報に応じて画像回転処理を行う手順とを前記コンピュータで実行させるプログラムにある。
【0014】
この技術の第9の側面は、医療用画像処理をコンピュータで行わせるプログラムであって、撮像光学系を介して入射する光線の経路情報と光量情報とを含む光線情報の生成を行う内視鏡から前記生成された光線情報を取得する手順と、前記取得した光線情報から視点の異なる複数の視点画像を生成する手順と、前記生成された視点の異なる複数の視点画像から視点情報に応じて視点画像の選択を行う手順と、前記選択した視点画像を加算して、新たな視点の視点画像を生成する手順とを前記コンピュータで実行させるプログラムにある。

【発明の効果】
【0015】
この技術によれば、視点の異なる複数の視点画像から視点情報に応じて視点画像の選択が行われて、選択された視点画像を加算することで、新たな視点の視点画像が生成される。したがって、視点情報を変化させれば、視点情報に応じて選択された視点画像を加算して左眼画像と右眼画像を生成することで、容易に立体視の方向を自由に変えることができるようになる。
【図面の簡単な説明】
【0016】
図1】内視鏡を示した図である。
図2】画像処理装置を適用した内視鏡装置の構成を例示した図である。
図3】ライトフィールドカメラの構成を例示した図である。
図4】複数の視点画像についての説明図である。
図5】視点の配置を例示した図である。
図6】視点1画像処理部の構成を例示した図である。
図7】画像選択部の構成を例示した図である。
図8】視点回転角設定部の構成を例示した図である。
図9】内視鏡における画像処理動作の一部を示すフローチャートである。
図10】回転角と画像選択部で選択される視点画像の関係(視点数「256」の場合)を例示した図である。
図11】回転角と画像選択部で選択される視点画像の関係(視点数「16」の場合)を例示した図である。
図12】内視鏡の構成を例示した図である。
図13】内視鏡の動作の一部を示すフローチャートである。
図14】画像処理装置の構成を例示した図である。
図15】画像処理装置の動作を例示したフローチャートである。
図16】視点を左右方向に回転させる場合の動作を例示した図である。
図17】視差調整を行う場合の動作を例示した図である。
図18】視点を4つのグループとする場合の図である。
図19】視点を8つのグループとする場合の図である。
図20】2D加算処理部を示す図である。
【発明を実施するための形態】
【0017】
以下、本技術を実施するための形態について説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態
2.第2の実施の形態
3.他の実施の形態
【0018】
<1.第1の実施の形態>
[1−1.内視鏡の外観]
図1は、内視鏡を示している。図1の(A)は硬性内視鏡の外観、図1の(B)は軟性内視鏡の外観、図1の(C)はカプセル内視鏡の内部構成を示している。
【0019】
硬性内視鏡は、観察対象内に挿入される挿入部11aとユーザが把持する把持部12および撮像部23を備えている。挿入部11aはイメージガイドシャフトと照明導光用ファイバを備えている。後述する光源部から出射された光は照明導光用ファイバおよび挿入部11aの先端に設けられた撮像レンズを介して観察対象に照射される。また、観察対象からの被写体光は、撮像レンズおよびイメージガイドシャフト内のリレー光学系を介して撮像部23に入射される。
【0020】
軟性内視鏡も硬性内視鏡と同様に、観察対象内に挿入される挿入部11bとユーザが把持する把持部12および撮像部23を備えている。軟性内視鏡の挿入部11bは、可撓性を有しており先端に撮像光学系22や撮像部23が設けられている。
【0021】
カプセル内視鏡は、例えば筐体13の内部に、光源部21、撮像光学系22、撮像部23、後述する種々の信号処理を行う処理部91、処理後の画像信号の送信等を行うための無線通信部92、電源部93等が設けられている。
【0022】
[1−1.内視鏡装置の構成]
図2は、本技術の医療用画像処理装置(以下単に「画像処理装置」という)を適用した内視鏡装置の構成を例示している。内視鏡装置10は、光源部21、撮像光学系22、撮像部23、画像分割部24、視点1〜視点n画像処理部30-1〜30-n、画像選択部61を有している。さらに、内視鏡装置10は、加算処理部71L,71R、ゲイン調整部72L,72R、画質向上処理部73L,73R、回転処理部74L,74R、ガンマ補正部75L,75R、視点回転角設定部81を有している。
【0023】
光源部21は、照明光を観察対象に出射する。撮像光学系22は、フォーカスレンズやズームレンズ等で構成されており、照明光が照射された観察対象の光学像(被写体光学像)を撮像部23に結像させる。
【0024】
撮像部23は、入射光の光量情報だけでなく入射光の経路情報(入射光の方向)を含む光線情報(ライトフィールドデータ)を記録できるライトフィールドカメラが用いられている。
【0025】
図3は、ライトフィールドカメラの構成を例示している。ライトフィールドカメラは、CCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の画像センサ231の直前に、マイクロレンズアレイ230が設けられている。
【0026】
マイクロレンズアレイ230は、撮像光学系22の焦点面FPの位置に設置されている。また、撮像光学系22の位置は、マイクロレンズアレイ230のマイクロレンズに対して無限遠とみなせる距離とされている。画像センサ231は、センサ面がマイクロレンズアレイ230からマイクロレンズの焦点距離fmcだけ後方側(撮像光学系22とは逆側)の位置となるように設置されている。画像センサ231とマイクロレンズアレイ230の各マイクロレンズ2301は、各マイクロレンズ2301に対して画像センサ231の複数画素が含まれるように構成されている。
【0027】
このような構成のライトフィールドカメラでは、マイクロレンズ2301を介して画素に入射する入射光は、入射方向に応じて画素位置が変化する。したがって、ライトフィールドカメラを用いることにより、入射光の光量情報と経路情報を含む光線情報を生成できる。
【0028】
また、ライトフィールドカメラでは、各マイクロレンズ2301に対して画像センサ231の複数画素が含まれるように構成されていることから、視点の位置が異なる複数の視点画像を得ることができる。
【0029】
図4は、複数の視点画像についての説明図である。光線情報を利用して視点画像を生成する場合、マイクロレンズ毎に視点と画素の関係を予め算出しておく。例えば、撮像光学系22における視点VPを介してマイクロレンズ2301-aに入射した入射光が、いずれの画素に入射するか算出しておく(図4では、画素231-avpに入射する場合を示している)。同様に、視点VPを介してマイクロレンズ2301-bに入射した入射光についても、いずれの画素に入射するか算出しておく(図4では、画素231-bvpに入射する場合を示している)。また、他のマイクロレンズ2301についても、視点VPを通過した入射光が入射する画素位置を予め算出しておく。このように、視点VPを介してマイクロレンズに入射した入射光がいずれの画素位置に入射するか算出しておけば、視点VPに対応する画素の画素信号をマイクロレンズ2301毎に読み出すことで、視点VPの視点画像を生成できる。
【0030】
ここで、マイクロレンズあたり16×16画素が含まれると、1つのマイクロレンズについて視点の位置が異なる「256」の視点画像の画素信号を得ることができる。また、マイクロレンズの数は、各視点画像の画素数に等しく、例えば、1024×1024のマイクロレンズアレイの場合、各視点画像は1024×1024画素の画素となり、撮像素子の全画素数は、16k×16k=256Mとなる。
【0031】
同様に、マイクロレンズあたり8×8画素が含まれると、1つのマイクロレンズについて視点の位置が異なる「64」の視点画像の画素信号を得ることができる。また、マイクロレンズの数は、各視点画像の画素数に等しく、例えば、1024×1024のマイクロレンズアレイの場合、各視点画像は1024×1024画素の画素となり、撮像素子の全画素数は、8k×8k=64Mとなる。
【0032】
マイクロレンズあたり4×4画素が含まれると、1つのマイクロレンズについて視点の位置が異なる「16」の視点画像が得られる。また、マイクロレンズの数は、各視点画像の画素数に等しく、例えば、1024×1024のマイクロレンズアレイの場合、各視点画像は1024×1024画素の画素となり、撮像素子の全画素数は、4k×4k=16Mとなる。
【0033】
なお、後述する内視鏡における画像処理動作では、図5の(A)に示すように16×16視点(視点1〜視点256)の場合、および図5の(B)に示すように4×4視点(視点1〜視点4)の場合について説明する。
【0034】
画像分割部24は、撮像部23で生成された光線情報を視点毎に分割して複数の視点画像の画像信号を生成する。画像分割部24は、例えば視点1画像〜視点n画像の画像信号を生成する。画像分割部24は、視点1画像の画像信号を視点1画像処理部30-1に出力する。同様に、画像分割部24は、視点2(〜n)画像の画像信号を、視点2(〜n)画像処理部30-2(〜n)に出力する。
【0035】
視点1画像処理部30-1〜視点n画像処理部30-nは、画像分割部24から供給された視点画像の画像信号に対して画像処理を行う。
【0036】
図6は、視点1画像処理部の構成を例示している。なお、視点2画像処理部30-2〜視点n画像処理部30-nも視点1画像処理部と同様に構成される。
【0037】
視点1画像処理部30-1は、欠陥補正部31、黒レベル補正部32、ホワイトバランス調整部33、シェーディング補正部34、デモザイク処理部35、レンズ歪補正部36を有している。
【0038】
欠陥補正部31は、撮像素子の欠陥画素に対して信号補正処理を行い、補正後の画像信号を黒レベル補正部32に出力する。黒レベル補正部32は、画像信号の黒レベルを合わせるクランプ処理を行い、クランプ処理後の画像信号をホワイトバランス調整部33に出力する。ホワイトバランス調整部33は、入力画像上における白い被写体の赤,緑,青の各色成分が、白色の成分と等しくなるように画像信号のゲイン調整を行う。ホワイトバランス調整部33は、ホワイトバランス調整後の画像信号をシェーディング補正部34に出力する。
【0039】
シェーディング補正部34は、レンズの周辺光量落ちを補正して、補正後の画像信号をデモザイク処理部35に出力する。デモザイク処理部35は、撮像部23で用いられている色フィルタの色配列に応じて、間欠配列で欠けている画素の色成分の信号を、その周囲の画素すなわち空間位相の異なる画素の信号を用いた補間によって作り出す。デモザイク処理部35は、デモザイク処理後の画像信号をレンズ歪補正部36に出力する。レンズ歪補正部36は、撮像光学系22で生じたディストーション等の補正を行う。
【0040】
このように、視点1画像処理部30-1は、視点1画像の画像信号に対して種々の補正処理や調整処理等を行い、処理後の画像信号を画像選択部61に出力する。なお、視点1画像処理部30-1〜視点n画像処理部30-nは、図6に示す構成順に処理を行う場合に限らす他の順序、他の処理の追加、または一部の処理を削除した構成であってもよい。
【0041】
画像選択部61は、視点の異なる複数の視点画像から視点情報例えば視点回転角に応じて視点画像の選択を行う。画像選択部61は、視点回転角設定部81で設定された回転角に基づき、複数の視点領域、例えば左眼画像の視点領域と右眼画像の視点領域を設定して、設定した視点領域に含まれる視点の視点画像を領域毎に選択する。画像選択部61は、左眼画像の視点領域に含まれる視点の視点画像を加算処理部71L、右眼画像の視点領域に含まれる視点の視点画像を加算処理部71Rに出力する。画像選択部61は、図7に示すように、画像選択テーブル611とマトリクススイッチ部612を有している。画像選択テーブル611は、回転角に対応する画像選択情報をテーブル化して記憶している。画像選択情報は、回転角に応じた左眼画像と右眼画像の画像信号を加算処理部71L,71Rで生成するために、加算処理部71L,71Rで加算する視点画像の画像信号をマトリクススイッチ部612で選択するための情報である。画像選択テーブル611は、視点回転角設定部81で設定された回転角に対応する画像選択情報をマトリクススイッチ部612に出力する。なお、画像選択部61は、画像選択テーブル611に用いることなく、画像選択情報を回転角の設定毎に算出してマトリクススイッチ部612に出力するようにしてもよい。
【0042】
マトリクススイッチ部612は、画像選択情報に基づきスイッチ切り替えを行い、視点1画像〜視点n画像の画像信号から、回転角に応じた左眼画像を生成するための視点画像の画像信号を選択して加算処理部71Lに出力する。また、マトリクススイッチ部612は、画像選択情報に基づきスイッチ切り替えを行い、視点1画像〜視点n画像の画像信号から、回転角に応じた右眼画像を生成するための視点画像の画像信号を選択して加算処理部71Rに出力する。
【0043】
図2に戻り、加算処理部71Lは、画像選択部61から供給された視点画像を加算して左眼画像の画像信号を生成する。加算処理部71Lは、生成した左眼画像の画像信号をゲイン調整部72Lに出力する。加算処理部71Rは、画像選択部61から供給された視点画像を加算して右眼画像の画像信号を生成する。加算処理部71Rは、生成した右眼画像の画像信号をゲイン調整部72Rに出力する。
【0044】
ゲイン調整部72Lは、左眼画像の画像信号に対して回転角に応じたゲイン調整を行う。左眼画像の画像信号は、画像選択部61で選択された画像信号を加算処理部71Lで加算して生成されている。したがって、画像選択部61で選択される視点画像の数が少ないと、画像信号の信号レベルが小さくなってしまう。したがって、ゲイン調整部72Lは、左眼画像の画像信号の生成において加算される視点画像の数に応じてゲイン調整を行い、加算される視点画像の数の相違による影響を排除する。ゲイン調整部72Lは、ゲイン調整後の画像信号を画質向上処理部73Lに出力する。
【0045】
ゲイン調整部72Rは、右眼画像の画像信号に対して回転角に応じたゲイン調整をゲイン調整部72Lと同様に行い、加算される視点画像の数に応じてゲイン調整を行い、加算される視点画像の数の相違による影響を排除する。ゲイン調整部72Rは、ゲイン調整後の画像信号を画質向上処理部73Rに出力する。
【0046】
画質向上処理部73Lは、クラス分類適応処理等によって画像の高画質化を行う。例えば、画質向上処理部73Lは、鮮鋭度の改善やコントラストの改善、色の改善等を行うことで高画質の画像信号を生成する。画質向上処理部73Lは、画質向上処理後の画像信号を回転処理部74Lに出力する。
【0047】
画質向上処理部73Rは、画質向上処理部73Lと同様にクラス分類適応処理等によって画像の高画質化を行い、画質向上処理後の画像信号を回転処理部74Rに出力する。
【0048】
回転処理部74Lは、左眼画像の回転を行う。回転処理部74Lは、回転角に基づき回転処理を行い、生成された左眼画像の向きを回転させる。回転処理部74Lは、回転後の左眼画像の画像信号をガンマ補正部75Lに出力する。回転処理部74Rは、右眼画像の回転を行う。回転処理部74Rは、回転角に基づき回転処理を行い、生成された右眼画像の向きを回転させる。回転処理部74Rは、回転後の右眼画像の画像信号をガンマ補正部75Rに出力する。
【0049】
ガンマ補正部75Lは、撮像画の画像表示を行う表示装置のガンマ特性に基づいた補正処理を左眼画像に対して行い、ガンマ補正された左眼画像の画像信号を表示装置等に出力する。ガンマ補正部75Rは、撮像画の画像表示を行う表示装置のガンマ特性に基づいた補正処理を右眼画像に対して行い、ガンマ補正された右眼画像の画像信号を表示装置等に出力する。
【0050】
視点回転角設定部81は、左眼画像と右眼画像の生成時の視点回転角を設定する。図8は、視点回転角設定部の構成を例示している。視点回転角設定部81は、ユーザI/F部811、回転角検出部812、重力方向検出部813、画像マッチング処理部814、回転角選択部815を有している。
【0051】
ユーザインタフェース(I/F)部811は、操作スイッチ等を用いて構成されておりユーザ操作によって設定された回転角を回転角選択部815に出力する。
【0052】
回転角検出部812は、初期位置に対する回転角を検出する。回転角検出部812は、例えばジャイロセンサ等の角度センサを備えており、撮像部23の初期位置からの回転角を角度センサによって検出して、検出した回転角を回転角選択部815に出力する。
【0053】
重力方向検出部813は、重力方向を検出する。重力方向検出部813は、例えば傾斜計や加速度センサ等を用いて構成されており、重力方向を検出する。また、重力方向検出部813は、重力方向に対する撮像部23の角度を回転角として回転角選択部815に出力する。
【0054】
画像マッチング処理部814は、撮像部23で生成された光線情報を用いて2次元の撮像画像を生成する。また、画像マッチング処理部814は、生成した撮像画像と外部機器等から供給された基準画像に対して被写体検出を行う。さらに、画像マッチング処理部814は、撮像画像を回転させて、撮像画像から検出した所望の被写体が基準画像から検出した所望の被写体の位置に最も近くなる回転角を回転角選択部815に出力する。
【0055】
回転角選択部815は、供給された回転角から例えばユーザ操作に応じてまたは内視鏡の動作設定に応じて回転角を選択することで回転角の設定を行う。視点回転角設定部81は、設定した回転角を画像選択部61と回転処理部74L,74Rに通知する。
【0056】
なお、内視鏡装置の構成は図2に示す構成に限らず、例えば、画質向上処理部が設けられていない構成であってもよい。また、処理順序についても図2に示す構成に限らず、例えばゲイン調整の前に回転処理を行うことも可能である。また、後述する画像処理装置50についても同様である。
【0057】
[1−2.内視鏡装置における画像処理動作]
次に内視鏡装置における画像処理動作について説明する。図9は、内視鏡装置における画像処理動作の一部を示すフローチャートである。
【0058】
光線情報を生成すると、ステップST1で内視鏡装置10は、画像分割処理を行う。内視鏡装置10は、マイクロレンズ毎に光線情報を視点毎に分割する処理を行うことで、視点毎に視点画像の画像信号を生成してステップST2に進む。
【0059】
ステップST2で内視鏡装置10は、視点画像処理を行う。内視鏡装置10は、視点画像毎に画像信号の信号処理を行いステップST3に進む。
【0060】
ステップST3で内視鏡装置10は、回転角を設定する。内視鏡装置10は、ユーザ操作に応じて設定された回転角、初期位置に対する回転角、重力方向に対する回転角、画像マッチングより検出された回転角等のいずれかを選択することで、回転角の設定を行いステップST4に進む。
【0061】
ステップST4で内視鏡装置10は、視点画像の選択を行う。内視鏡装置10は、設定された回転角に応じた画像選択情報をテーブルから読み出して、または回転角の設定毎に画像選択情報を算出して、この画像選択情報に基づき、左眼画像の画像信号の生成に用いる視点画像と、右眼画像の画像信号の生成に用いる視点画像を選択する。
【0062】
ステップST5で内視鏡装置10は、加算処理を行う。内視鏡装置10は、左眼画像を生成するために選択した視点画像を加算して、左眼画像の画像信号を生成する。また、内視鏡装置10は、右眼画像を生成するために選択した視点画像を加算して、右眼画像の画像信号を生成して、ステップST6に進む。
【0063】
ステップST6で内視鏡装置10は、ゲイン調整を行う。内視鏡装置10は、左眼画像と右眼画像を生成する場合に、加算する視点画像の数に応じて左眼画像や右眼画像の画像信号のゲイン調整を行う。すなわち、内視鏡装置10は、加算する視点画像の数が少なくなるに伴いゲインを高くすることで、加算される視点画像の数の相違による影響を排除してステップST7に進む。
【0064】
ステップST7で内視鏡装置10は、画像回転処理を行う。内視鏡装置10は、生成した左眼画像と右眼画像を回転角に応じた向きに回転させる。
【0065】
次に、内視鏡装置における画像処理動作を具体的に説明する。図10は、回転角と画像選択部で選択される視点画像の関係を例示している。なお、画像選択部61の画像選択テーブル611は、回転角に応じて選択する視点画像を示す画像選択情報が記憶されている。また、図10では、視点の数が「256」である場合を例示している。
【0066】
回転角が「0度」の場合、画像選択部61は、図10の(A)に示すように、領域AL-0に含まれる視点の視点画像を選択して加算処理部71Lに出力し、領域AR-0に含まれる視点の視点画像を選択して加算処理部71Rに出力する。
【0067】
回転角が「90度」の場合、画像選択部61は、図10の(B)に示すように、領域AL-90に含まれる視点の視点画像を選択して加算処理部71Lに出力し、領域AR-90に含まれる視点の視点画像を選択して加算処理部71Rに出力する。
【0068】
回転角が「45度」の場合、画像選択部61は、図10の(C)に示すように、領域AL-45に含まれる視点の視点画像を選択して加算処理部71Lに出力し、領域AR-45に含まれる視点の視点画像を選択して加算処理部71Rに出力する。
【0069】
回転角が「53度」の場合、画像選択部61は、図10の(D)に示すように、領域AL-53に含まれる視点の視点画像を選択して加算処理部71Lに出力し、領域AR-53に含まれる視点の視点画像を選択して加算処理部71Rに出力する。
【0070】
なお、図10の(C)および(D)において、ハッチングのない視点は、左眼画像と右眼画像の生成に用いていない視点画像を示している。
【0071】
図11は、視点の数が「16」である場合を例示している。回転角が「0度」の場合、画像選択部61は、図11の(A)に示すように、領域AL-0に含まれる視点の視点画像を選択して加算処理部71Lに出力し、領域AR-0に含まれる視点の視点画像を選択して加算処理部71Rに出力する。
【0072】
回転角が「90度」の場合、画像選択部61は、図11の(B)に示すように、領域AL-90に含まれる視点の視点画像を選択して加算処理部71Lに出力し、領域AR-90に含まれる視点の視点画像を選択して加算処理部71Rに出力する。
【0073】
回転角が「45度」の場合、画像選択部61は、図11の(C)に示すように、領域AL-45に含まれる視点の視点画像を選択して加算処理部71Lに出力し、領域AR-45に含まれる視点の視点画像を選択して加算処理部71Rに出力する。
【0074】
回転角が「53度」の場合、画像選択部61は、図11の(D)に示すように、領域AL-53に含まれる視点の視点画像を選択して加算処理部71Lに出力し、領域AR-53に含まれる視点の視点画像を選択して加算処理部71Rに出力する。
【0075】
このように、回転角に応じて視点画像の選択を行うと、選択された視点画像を加算して生成された左眼画像と右眼画像は、回転角に応じて視点が撮像光学系22の光軸を中心として回転されている画像となる。
【0076】
また、回転角に応じて視点画像を選択して加算する場合、加算する視点画像が少ないと、加算後の画像の信号レベルは小さい。そこで、ゲイン調整部72L,72Rは、加算する視点画像の数に応じてゲイン調整を行う。ここで、図10の(A),(B)に示す場合、領域AL-0,AR-0,AL-90,AR-90に含まれる視点数は「128」である。この場合、全視点数が「256」であるから、ゲイン調整部72Lは左眼画像の画像信号を(256/128)倍とし、ゲイン調整部72Rは右眼画像の画像信号を例えば(256/128)倍する。
【0077】
また、図10の(C)に示す場合、領域AL-45,AR-45に含まれる視点数は「120」である。したがって、ゲイン調整部72Lは左眼画像の画像信号を(256/120)倍とし、ゲイン調整部72Rは右眼画像の画像信号を(256/120)倍する。
【0078】
さらに、図10の(D)に示す場合、領域AL-53,AR-53に含まれる視点数は「125」である。したがって、ゲイン調整部72Lは左眼画像の画像信号を(256/125)倍とし、ゲイン調整部72Rは右眼画像の画像信号を(256/125)倍する。
【0079】
このようなゲイン調整を行うことで、左眼画像と右眼画像の画像信号は、加算される視点画像数の相違による影響が排除された画像信号となる。
【0080】
ところで、加算処理部71L,71Rで生成された左眼画像と右眼画像は、回転角に応じて視点が撮像光学系22の光軸を中心として回転されている画像であるが、左眼画像と右眼画像における被写体像は回転されていな状態である。したがって、回転処理部74L,74Rは、被写体像が回転角に応じて回転された画像となるように、回転角に応じて左眼画像と右眼画像の向きを回転させる。
【0081】
例えば、図10の(B)に示すように、回転角が「90度」の場合、左眼画像と右眼画像を、それぞれ光軸を中心として「90度」回転させることで、左眼画像と右眼画像は、視点および被写体像が回転角に応じて回転された画像となる。
【0082】
したがって、第1の実施の形態によれば、機械的に瞳分割プリズムや二つの撮像素子を回転させることなく、回転角に応じた左眼画像と右眼画像を生成できる。このため、内視鏡の小型化が可能となる。また、機械的に撮像素子等を回転させる必要がないので、故障が少なく高精度の調整も不要となる。さらに、機構部分の組立誤差や経年変化および温度変化等の影響を補償するためのキャリブレーションも不要となる。
【0083】
なお、視点画像の生成や左眼画像と右眼画像の生成および調整を行う構成は、例えば硬性内視鏡や軟性内視鏡では把持部等に設けるようにすればよく、カプセル内視鏡では処理部91に設けるようにすればよい。
【0084】
<2.第2の実施の形態>
ところで、第1の実施の形態では、本技術の画像処理装置が内視鏡に組み込まれている場合について説明した。しかし、本技術の画像処理装置は、内視鏡と別個に設けられていてもよい。次に、第2の実施の形態では、画像処理装置が内視鏡と別個に設けられている場合について説明する。
【0085】
[2−1.内視鏡の構成]
図12は、本技術の画像処理装置が設けられていない内視鏡の構成を例示している。内視鏡20は、光源部21、撮像光学系22、撮像部23、画像分割部24、視点1画像処理部30-1〜視点n画像処理部30-n、画像圧縮部41、記録部42、通信部43を備えている。
【0086】
光源部21は、照明光を観察対象に出射する。撮像光学系22は、フォーカスレンズやズームレンズ等で構成されており、照明光が照射された観察対象の光学像(被写体光学像)を撮像部23に結像させる。
【0087】
撮像部23は、入射光の光量情報だけでなく入射光の経路情報(入射光の方向)を含む光線情報(ライトフィールドデータ)を記録できるライトフィールドカメラが用いられている。ライトフィールドカメラは、上述のようにCCDやCMOS等の画像センサ231の直前にマイクロレンズアレイ230が設けられており、入射光の光量情報と経路情報を含む光線情報を生成して画像分割部24に出力する。
【0088】
画像分割部24は、撮像部23で生成された光線情報を視点毎に分割して複数の視点画像の画像信号を生成する。例えば視点1画像の画像信号を生成して視点1画像処理部30-1に出力する。同様に、視点2(〜n)画像の画像信号を生成して視点2(〜n)画像処理部30-2(〜n)に出力する。
【0089】
視点1画像処理部30-1〜視点n画像処理部30-nは、画像分割部24から供給された視点画像の画像信号に対して、第1の実施の形態と同様に画像処理を行い、画像処理後の視点画像の画像信号を画像圧縮部41に出力する。
【0090】
画像圧縮部41は、各視点画像の画像信号の符号化処理を行い信号量を圧縮する。画像圧縮部41は、符号化処理を行うことにより得られた符号化信号を記録部42や通信部43に供給する。記録部42は、画像圧縮部41から供給された符号化信号を記録媒体に記録する。記録媒体は、内視鏡20の内部に設けられている記録媒体でもよく、着脱可能な記録媒体でもよい。通信部43は、画像圧縮部41から供給された符号化信号を用いて通信信号を生成して、有線または無線伝送路を介して外部機器に送信する。外部機器は本技術の医療用画像処理装置でもよく、サーバ装置等であってもよい。
【0091】
[2−2.内視鏡の動作]
次に内視鏡における動作について説明する。図13は、内視鏡の動作の一部を示すフローチャートである。
【0092】
内視鏡20で光線情報が生成されると、ステップST11で内視鏡20は、画像分割処理を行う。内視鏡20は、マイクロレンズ毎に光線情報を視点毎に分割する処理を行うことで、視点毎に視点画像の画像信号を生成してステップST12に進む。
【0093】
ステップST12で内視鏡20は、視点画像処理を行う。内視鏡20は、視点画像毎に画像信号の信号処理を行いステップST13に進む。
【0094】
ステップST13で内視鏡20は、画像圧縮処理を行う。内視鏡20は、複数の視点画像の画像信号に対して符号化処理を行い、信号量が圧縮された符号化信号を生成してステップST14に進む。
【0095】
ステップST14で内視鏡20は、出力処理を行う。内視鏡20は、ステップST13で生成された符号化信号の出力処理、例えば生成された符号化信号を記録媒体に記録する処理、または符号化信号を通信信号として外部の機器等に送信する処理を行う。
【0096】
内視鏡20は、以上のような処理を行い、第1の実施の形態における画像選択部61に入力される視点画像の画像信号を符号化された状態で、記録媒体に記録または外部機器に送信する。
【0097】
[2−3.画像処理装置の構成]
図14は、画像処理装置の構成を例示している。画像処理装置50は、再生部51、通信部52、画像伸張部53を有している。また、画像処理装置50は、画像選択部61、加算処理部71L,71R、ゲイン調整部72L,72R、画質向上処理部73L,73R、回転処理部74L,74R、ガンマ補正部75L,75R、視点回転角設定部81を有している。
【0098】
再生部51は、記録媒体から視点画像の符号化信号を読み出して画像伸張部53に出力する。
【0099】
通信部52は、内視鏡20またはサーバ等の外部機器から有線または無線伝送路を介して送信された通信信号を受信する。また、通信部52は、通信信号によって送信された符号化信号を画像伸張部53に出力する。
【0100】
画像伸張部53は、再生部51や通信部52から供給された符号化信号の復号処理を行う。画像伸張部53は、復号処理を行うことにより得られた複数の視点画像の画像信号を画像選択部61に出力する。
【0101】
画像選択部61は、視点の異なる複数の視点画像から視点回転角に応じて視点画像の選択を行う。画像選択部61は、視点回転角設定部81で設定された回転角に基づき、複数の視点領域、例えば左眼画像の視点領域と右眼画像の視点領域を設定して、設定した視点領域に含まれる視点の視点画像を領域毎に選択する。画像選択部61は、左眼画像の視点領域に含まれる視点の視点画像を加算処理部71L、右眼画像の視点領域に含まれる視点の視点画像を加算処理部71Rに出力する。
【0102】
加算処理部71Lは、画像選択部61から供給された視点画像を加算して左眼画像の画像信号を生成する。加算処理部71Lは加算処理を行うことにより得られた左眼画像の画像信号をゲイン調整部72Lに出力する。加算処理部71Rは、画像選択部61から供給された視点画像を加算して右眼画像の画像信号を生成する。加算処理部71Rは加算処理を行うことにより得られた右眼画像の画像信号をゲイン調整部72Rに出力する。
【0103】
ゲイン調整部72Lは、左眼画像の画像信号に対して回転角に応じたゲイン調整を行う。左眼画像の画像信号は、上述のように、画像選択部61で選択された視点画像の画像信号を加算処理部71Lで加算して生成されている。したがって、画像選択部61で選択される視点画像の数が少ないと、画像信号の信号レベルが小さくなってしまう。このため、ゲイン調整部72Lは、画像選択部61で選択される視点画像の数に応じてゲインを調整して、加算する視点画像の数の相違に影響を排除する。ゲイン調整部72Lは、ゲイン調整後の画像信号を画質向上処理部73Lに出力する。
【0104】
ゲイン調整部72Rは、右眼画像の画像信号に対して回転に応じたゲイン調整を行う。ゲイン調整部72Rは、ゲイン調整部72Lと同様に画像選択部61で選択される視点画像の数に応じてゲインを調整して、加算する視点画像の数の相違に影響を排除する。ゲイン調整部72Rは、ゲイン調整後の画像信号を画質向上処理部73Rに出力する。
【0105】
画質向上処理部73Lは、クラス分類適応処理等によって画像の高画質化を行う。例えば、画質向上処理部73Lは、鮮鋭度の改善やコントラストの改善、色の改善等を行うことで高画質の画像信号を生成する。画質向上処理部73Lは、画質向上処理後の画像信号を回転処理部74Lに出力する。画質向上処理部73Rは、画質向上処理部73Lと同様にクラス分類適応処理等によって画像の高画質化を行う。画質向上処理部73Rは、画質向上処理後の画像信号を回転処理部74Rに出力する。
【0106】
回転処理部74Lは、左眼画像の回転を行う。回転処理部74Lは、加算処理部71Lで生成されたのちゲイン調整や画質向上処理が行われた左眼画像に対して、回転角に基づいた回転処理を行い、左眼画像の向きを回転させる。回転処理部74Lは、回転後の左眼画像の画像信号をガンマ補正部75Lに出力する。回転処理部74Rは、右眼画像の回転を行う。回転処理部74Rは、右眼画像に対して回転角に基づいた回転処理を行い、右眼画像の向きを回転させる。回転処理部74Rは、回転後の右眼画像の画像信号をガンマ補正部75Rに出力する。
【0107】
ガンマ補正部75Lは、撮像画の画像表示を行う表示装置のガンマ特性に基づいた補正処理を左眼画像に対して行い、ガンマ補正された左眼画像の画像信号を外部の表示装置等に出力する。ガンマ補正部75Rは、撮像画の画像表示を行う表示装置のガンマ特性に基づいた補正処理を右眼画像に対して行い、ガンマ補正された右眼画像の画像信号を外部の表示装置等に出力する。
【0108】
視点回転角設定部81は、ユーザ操作等に応じて回転角を設定して画像選択部61と回転処理部74L,74Rに通知する。
【0109】
[2−4.画像処理装置の動作]
図15は、画像処理装置の動作を例示したフローチャートである。ステップST21で画像処理装置50は、入力処理を行う。画像処理装置50は、記録媒体から内視鏡20で生成された符号化信号を読み出す。また、画像処理装置50は、内視鏡20で生成された符号化信号を有線または無線の伝送路を介して内視鏡20やサーバ等の外部機器から取得してステップST22に進む。
【0110】
ステップST22で画像処理装置50は、画像伸張処理を行う。画像処理装置50は、記録媒体から読み出した符号化信号や内視鏡20等から受信した符号化信号の復号処理を行い、複数の視点画像の画像信号を生成してステップST23に進む。
【0111】
ステップST23で画像処理装置50は、回転角を設定する。画像処理装置50は、例えばユーザ操作等に応じて回転角を設定してステップST24に進む。
【0112】
ステップST24で画像処理装置50は、視点画像の選択を行う。画像処理装置50は、回転角に応じた画像選択情報をテーブルから読み出して、読み出した画像選択情報に基づき、左眼画像の画像信号の生成に用いる視点画像と、右眼画像の画像信号の生成に用いる視点画像を選択する。
【0113】
ステップST25で画像処理装置50は、加算処理を行う。画像処理装置50は、左眼画像を生成するために選択した視点画像を加算して、左眼画像の画像信号を生成する。また、画像処理装置50は、右眼画像を生成するために選択した視点画像を加算して、右眼画像の画像信号を生成して、ステップST26に進む。
【0114】
ステップST26で画像処理装置50は、ゲイン調整を行う。画像処理装置50は、左眼画像と右眼画像を生成する場合に、加算する視点画像の数に応じて左眼画像や右眼画像の画像信号のゲイン調整を行う。すなわち、画像処理装置50は、加算する視点画像の数が少なくなるに伴いゲインを高く設定して、加算する視点画像の数の違いによる影響を排除してステップST27に進む。
【0115】
ステップST27で画像処理装置50は、画像回転処理を行う。画像処理装置50は、生成した左眼画像と右眼画像を回転角に応じた向きに回転させる。
【0116】
このような第2の実施の形態では、内視鏡と画像処理装置が別個に構成されて、記録媒体や伝送路を介して複数の視点画像の画像信号が内視鏡から画像処理装置に供給される。したがって、観察者は、画像処理装置に対して回転角を指示するだけで、指示した回転角で撮像を行った場合と同等の左視点画像と右視点画像を得ることが可能となる。また、観察者は、内視鏡で回転角を制御しながら被写体を撮像しなくとも、容易に被写体の観察を行うことができるようになる。さらに、観察者は、画像処理装置に対して操作を行うことで視点を回転させることができるので、内視鏡の操作者は、撮像時に被写体をどのような角度から撮像するか考慮する必要がなく、所望の被写体が良好に撮像できるように操作を行えばよい。したがって、内視鏡の操作者の負担を軽減できる。
【0117】
<3.他の実施の形態>
ところで、上述の第1および第2の実施の形態では、光軸を中心として視点を回転する場合について説明したが、新たな視点の画像を生成するために選択する視点画像の領域を制御すれば、さらに多様な画像を生成することが可能となる。なお、他の実施の形態では、第1の実施の形態で構成を示した内視鏡装置10を用いてもよく、第2の実施の形態で構成を示した画像処理装置50を用いてもよい。
【0118】
次に、他の実施の形態として、視点を左右方向に移動させる場合(撮像された例えば中央の被写体から見て、視点の位置が左右方向に回転される場合に相当)ついて説明する。図16は、視点を左右方向に移動させる場合の動作を例示している。例えば、画像選択部61は、図16の(A)に示すように、中央から左側に所定範囲の領域ALを設定して、この領域ALに含まれる視点の視点画像を選択して、選択した視点画像の画像信号を加算処理部71Lに出力する。また、画像選択部61は、中央から右側に所定範囲の領域ARを設定して、この領域ARに含まれる視点の視点画像を選択して、選択した視点画像の画像信号を加算処理部71Rに出力する。
【0119】
視点を左方向に移動させる場合、画像選択部61は、回転角(左右方向)に基づき図16の(B)に示すように、所定範囲の領域AL,ARを左方向にシフトする。また、画像選択部61は、領域ALに含まれる視点の視点画像を選択して、選択した視点画像の画像信号を加算処理部71Lに出力する。また、画像選択部61は、領域ARに含まれる視点の視点画像を選択して、選択した視点画像の画像信号を加算処理部71Rに出力する。
【0120】
視点を右方向に移動させる場合、画像選択部61は、回転角に基づき図16の(C)に示すように、所定範囲の領域AL,ARを右方向にシフトする。また、画像選択部61は、領域ALに含まれる視点の視点画像を選択して、選択した視点画像の画像信号を加算処理部71Lに出力する。また、画像選択部61は、領域ARに含まれる視点の視点画像を選択して、選択した視点画像の画像信号を加算処理部71Rに出力する。
【0121】
このように、画像選択部61は、回転角(左右方向)に応じて領域AL,ARをシフトして視点画像の選択を行うことで、立体視において視点を左右方向に移動させることができる。また、図10に示すように、回転角(光軸を中心とした回転角)に基づいて視点画像を選択する動作を組み合わせて行うようにすれば、視点を左右方向だけでなく、上下方向や斜め方向に移動させることも可能となる。
【0122】
さらに、回転角だけでなく他の情報に基づいて視点画像の選択を行うようにしてもよい。図17は、視差調整を行う場合の動作を例示している。画像選択部61の画像選択テーブル611は、視差調整情報に対応する画像選択情報をマトリクススイッチ部612に出力する。例えば、視差調整情報で最大視差とする指示がなされた場合、画像選択部61は、図17の(A)に示すように、左端から所定範囲の領域AL-PAに含まれる視点の視点画像を選択して、選択した視点画像の画像信号を加算処理部71Lに出力する。また、画像選択部61は、右端から所定範囲の領域AR-PAに含まれる視点の視点画像を選択して、選択した視点画像の画像信号を加算処理部71Rに出力する。
【0123】
視差調整情報に基づき最大視差より少ない視差とする場合、画像選択部61は、図17の(B)に示すように、左端より中央側にシフトした所定範囲の領域AL-PBに含まれる視点の視点画像を選択して、選択した視点画像の画像信号を加算処理部71Lに出力する。また、画像選択部61は、右端より中央側にシフトした所定範囲の領域AR-PBに含まれる視点の視点画像を選択して、選択した視点画像の画像信号を加算処理部71Rに出力する。
【0124】
視差調整情報に基づき最小視差とする場合、画像選択部61は、図17の(C)に示すように、中央から所定範囲の領域AL-PCに含まれる視点の視点画像を選択して、選択した視点画像の画像信号を加算処理部71Lに出力する。また、画像選択部61は、中央から所定範囲の領域AR-PCに含まれる視点の視点画像を選択して、選択した視点画像の画像信号を加算処理部71Rに出力する。
【0125】
このように視差調整情報に基づき二つの領域の間隔を調整すると、視差を大きくする場合には中央から離れた視点の視点画像を加算して左眼画像と右眼画像が生成されるので、左眼画像と右眼画像の視差が大きくなる。また、視差を小さくする場合には中央に近い視点の視点画像を加算して左眼画像と右眼画像が生成されるので、左眼画像と右眼画像の視差が小さくなる。このように、二つの領域の間隔を調整することで、左眼画像と右眼画像の視差を所望の視差量とすることができる。
【0126】
図18は視点を4つのグループ、図19は視点を8つのグループとする場合を示している。図18に示すようにグループの境界を垂直方向に設けて、4つのグループGP1〜GP4に分けた場合、グループGP1に含まれる視点の視点画像を加算した画像は、グループGP1の右側に隣接するグループGP2に含まれる視点の視点画像を加算した画像よりも、視点が左側に位置する画像となる。同様に、グループGP4に含まれる視点の視点画像を加算した画像は、グループGP4の左側に隣接するグループGP3に含まれる視点の視点画像を加算した画像よりも、視点が右側に位置する画像となる。また、グループGP2に含まれる視点の視点画像を加算した画像は、グループGP2が中央より左側に位置することから、視点が中央よりも左側に移動している画像となる。さらに、グループGP3に含まれる視点の視点画像を加算した画像は、グループGP3が中央より右側に位置することから、視点が中央よりも右側に移動している画像となる。したがって、図18のように視点を4つにグループ化した場合には、視点位置が左右方向に異なる4つ画像を生成できる。
【0127】
また、図19のように視点を8つのグループGP1〜GP8にグループ化した場合、視点位置が左右方向に異なる8つ画像を生成できる。したがって、視点画像を加算するグループの切り替えを行えば、視点の異なる左眼画像や右眼画像を容易に生成できる。
【0128】
なお、図18,19では、グループの境界を垂直方向に設けた場合を例示しているが、グループの境界を水平方向に設ければ、視点位置が上下方向に異なる画像を生成できる。また、グループの境界を斜め方向に設けるようにしてもよい。このように、視点を複数グループ化すれば、裸眼立体視表示等に利用可能となる。
【0129】
さらに、内視鏡装置10や画像処理装置50は、全ての視点画像を加算した画像を生成するようにしてもよい。すなわち、全ての視点画像を加算することは、各マイクロレンズに入射した光線に基づく画像、マイクロレンズの位置に撮像素子が設けられている従来の撮像装置で生成される画像と同等の2D画像となる。したがって、図20に示す2D加算処理部71Cを内視鏡装置10や画像処理装置50に設ければ、左眼画像と右眼画像の画像信号だけでなく、2D画像の画像信号も生成できるようになる。
【0130】
なお、2D画像の画像信号の生成は、全ての視点画像を加算する場合に限られない。例えば、分割点から等距離にある全ての視点の視点画像を加算しても2D画像の画像信号を生成できる。具体的には、分割点から等距離にある全ての視点の視点画像として図17の(A)に示す領域AL-PAと領域AR-PAに含まれる視点の視点画像を加算しても2D画像を生成できる。また、図17の(C)に示す領域AL-PCと領域AR-PCに含まれる視点の視点画像を加算しても2D画像を生成できる。この場合、領域AL-PAと領域AR-PAに含まれる視点の視点画像を加算する場合に比べて、視差の少ない視点画像が加算されることから、2D画像は視差の影響の少ない画像となる。さらに、領域AL-PCと領域AR-PCを組として回転角に応じて移動させれば、回転角に応じて視点が移動された2D画像を生成できる。
【0131】
また、上述の一連の画像処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
【0132】
例えば、プログラムは記録媒体としてのハードディスクやROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD−ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリカード等のリムーバブル記録媒体に、一時的または永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
【0133】
また、プログラムは、リムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトからLAN(Local Area Network)やインターネット等のネットワークを介して、コンピュータに無線または有線で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
【0134】
なお、本技術は、上述した技術の実施の形態に限定して解釈されるべきではない。この技術の実施の形態は、例示という形態で本技術を開示しており、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、特許請求の範囲を参酌すべきである。
【0135】
また、本技術の医療用画像処理装置は以下のような構成も取ることができる。
(1) 視点の異なる複数の視点画像から視点情報に応じて視点画像の選択を行う画像選択部と、
前記画像選択部で選択した視点画像を加算して、新たな視点の視点画像を生成する加算処理部と
を備える医療用画像処理装置。
(2) 前記画像選択部は、前記視点情報に応じて複数の視点領域を設定して、該設定した視点領域に基づいて視点画像を領域毎に選択し、
前記加算処理部は、前記視点領域毎に視点画像を加算する(1)に記載の医療用画像処理装置。
(3) 前記画像選択部は、前記視点情報に応じて左眼画像の視点領域と右眼画像の視点領域を設定して、
前記加算処理部は、前記視点領域毎に視点画像を加算して左眼画像と右眼画像を生成する(2)に記載の医療用画像処理装置。
(4) 前記画像選択部は、前記左眼画像の視点領域と前記右眼画像の視点領域の間隔を制御して、前記左眼画像と前記右眼画像の視差量を調整する(3)に記載の医療用画像処理装置。
(5) 前記画像選択部は、全ての視点画像を選択し、または前記左眼画像と右眼画像の視点領域に含まれる視点の視点画像を選択し、
前記加算処理部は、前記画像選択部で選択された視点画像を加算して平面画像を生成する(3)または(4)に記載の医療用画像処理装置。
(6) 前記新たな視点の視点画像に対して、前記加算した視点画像の数に応じたゲイン調整を行うゲイン調整部をさらに備える(1)乃至(5)のいずれかに記載の医療用画像処理装置。
(7) 前記ゲイン調整部は、前記加算した視点画像の数が少なくなるに応じてゲインを高く設定する(6)に記載の医療用画像処理装置。
(8) 前記新たな視点の視点画像に対して、前記視点情報に応じて画像回転処理を行う回転処理部をさらに備える(1)乃至(7)のいずれかに記載の医療用画像処理装置。
(9) 撮像光学系を介して入射する光線の経路情報と光量情報とを含む光線情報の生成を行う撮像部と、
前記撮像部で生成された光線情報から前記視点の異なる複数の視点画像を生成する画像分割部をさらに備える(1)乃至(8)のいずれかに記載の医療用画像処理装置。
(10) 前記視点情報として視点回転角の設定を行う視点回転角設定部を備え、
前記視点回転角設定部は、初期方向に対する前記撮像部の角度、または前記撮像部で撮像された画像を回転したときに基準画像と最も類似する画像となる角度、またはユーザが指定した角度を前記視点回転角として設定する(9)に記載の医療用画像処理装置。
(11) 前記視点情報として視点回転角の設定を行う視点回転角設定部を備え、
前記視点回転角設定部は、重力方向に対する前記撮像部の角度、または前記撮像部で撮像された画像を回転したときに基準画像と最も類似する画像となる角度、またはユーザが指定した角度を前記視点回転角として設定する(9)に記載の医療用画像処理装置。
(12) 前記視点の異なる複数の視点画像の符号化処理を行うことにより生成されている符号化信号の復号処理を行う画像復号部を備え、
前記画像復号部は、符号化信号の復号処理を行うことにより得られた前記視点の異なる複数の視点画像の画像信号を前記画像選択部に出力する(1)乃至(11)のいずれかに記載の医療用画像処理装置。
【産業上の利用可能性】
【0136】
この技術の画像処理装置と内視鏡システム、画像処理方法およびプログラムによれば、視点の異なる複数の視点画像から視点情報に応じて視点画像の選択が行われて、選択された視点画像を加算することで、新たな視点の視点画像が生成される。したがって、視点情報を変化させれば、視点情報に応じた新たな視点の視点画像が生成されるので、容易に立体視の方向を自由に変えることができるようになる。このため、医療分野や工業分野等で用いられている内視鏡等に適用すれば、観察面を容易に所望の方向で立体視することができるようになる。
【符号の説明】
【0137】
10・・・内視鏡装置、11a,11b・・・挿入部、12・・・操作部、13・・・筐体、20・・・内視鏡、21・・・光源部、22・・・撮像光学系、23・・・撮像部、24・・・画像分割部、30-1〜30-n・・・画像処理部、31・・・欠陥補正部、32・・・黒レベル補正部、33・・・ホワイトバランス調整部、34・・・シェーディング補正部、35・・・デモザイク処理部、36・・・レンズ歪補正部、41・・・画像圧縮部、42・・・記録部、43・・・通信部、50・・・画像処理装置、51・・・再生部、52・・・通信部、53・・・画像伸張部、61・・・画像選択部、71L,71R・・・加算処理部、71C・・・2D加算処理部、72L,72R・・・ゲイン調整部、73L,73R・・・画質向上処理部、74L,74R・・・回転処理部、75L,75R・・・ガンマ補正部、81・・・視点回転角設定部、91・・・処理部、92・・・無線通信部、93・・・電源部、230・・・マイクロレンズアレイ、2301,2301-a,2301-b・・・マイクロレンズ、231・・・画像センサ、231-avp,231-bvp・・・画素、611・・・画像選択テーブル、612・・・マトリクススイッチ部、811・・・ユーザインタフェース部、812・・・視点回転角検出部、813・・・重力方向検出部、814・・・画像マッチング処理部、815・・・視点回転角情報選択部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20