【課題】撮像素子の受光面の前方に向いた前方窓を通して得られる生体組織の直視像と、前方窓に比べて側方の側に向いた側方窓を通して得られる生体組織の側視像とを、撮像画像として同時に撮像する際に、死角領域および重複領域を抑える。
【解決手段】体腔内の生体組織を撮像する内視鏡は、生体組織の像を撮像するように構成された撮像素子と、前記撮像素子の受光面の前方に向いた前方窓を通して得られる生体組織の直視像と、前記前方窓に比べて側方の側に向いた側方窓を通して得られる生体組織の側視像とを、撮像画像として同時に前記受光面に結像させる対物レンズと、前記前方窓及び前記側方窓の少なくともいずれか一方に設けられ、制御信号で入射光の偏向特性を調整することにより、前記直視像と前記側視像の少なくともいずれか一方の視野範囲を変化させる光学素子と、を備える。
前記制御ユニットは、前記撮像画像の画素値から、前記直視像と前記側視像との間の前記重複領域を抽出し、前記重複領域の大きさに応じて前記入射光の偏向特性を定めることにより、前記制御信号を生成する、請求項2に記載の内視鏡。
前記制御ユニットは、前記直視像及び前記側視像を含む前記撮像画像と、前記重複領域の大きさとの間の関係を事前に機械学習した予測モデルを備え、前記予測モデルを用いて、前記撮像素子で撮像した生体組織の前記撮像画像の画素値から、前記重複領域の有無と大きさを求めることにより、前記入射光の偏向特性を定める、請求項3に記載の内視鏡。
前記制御ユニットは、前記撮像素子で撮像した生体組織の前記直視像中の線状に延びる部分の像と前記側視像中の前記線状に延びる部分の像の、前記直視像あるいは前記側視像の端における位置ずれ量から、前記直視像と前記側視像との間の前記死角領域の大きさを求め、前記大きさに応じて前記入射光の偏向特性を定めることにより、前記制御信号を生成する、請求項2〜4のいずれか1項に記載の内視鏡。
前記制御ユニットは、前記撮像画像内の前記線状に延びる部分の位置ずれ位置及び位置ずれ量と、前記死角領域の大きさとの間の関係を事前に機械学習した予測モデルを備え、前記予測モデルを用いて、前記撮像素子で撮像した生体組織の前記撮像画像の画素値から求めた前記線状に延びる部分の位置ずれ位置と位置ずれ量から、前記死角領域の有無と大きさを求めることにより、前記変化量を定める、請求項5に記載の内視鏡。
【発明の概要】
【発明が解決しようとする課題】
【0005】
上記内視鏡システムでは、直視観察画像と側視観察画像とを同時に取得するので、広い範囲の観察対象を表示部に表示させることができる。
しかし、直視観察画像と側視観察画像との間には、両方の画像に映らない死角領域が発生する場合がある。すなわち、側視観察画像に表示されていた病変部が、内視鏡の移動に伴って消え、その後、直視観察画像に突然現れる場合がある。また、直視観察画像と側視観察画像との間には、両方の画像に映る重複領域が発生する場合がある。すなわち、重複領域に病変部があり、側視観察画像と直視観察画像に同時に病変部が存在する場合がある。
このような視野範囲が不連続な画像を同時に画像表示することは、内視鏡操作者にとって違和感を与える。また、死角領域にある病変部を見落とし、重複領域にある病変部の箇所数を誤ってカウントして、誤診断を招きやすい。
【0006】
そこで、本発明は、撮像素子の受光面の前方に向いた前方窓を通して得られる生体組織の直視像と、前方窓に比べて側方の側に向いた側方窓を通して得られる生体組織の側視像とを、撮像画像として同時に撮像する際に、死角領域および重複領域を抑えて滑らかな視野範囲を実現することができる内視鏡及び内視鏡システムを提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の一態様は、体腔内の生体組織を撮像する内視鏡であって、
生体組織の像を撮像するように構成された撮像素子と、
前記撮像素子の受光面の前方に向いた前方窓を通して得られる生体組織の直視像と、前記前方窓に比べて側方の側に向いた側方窓を通して得られる生体組織の側視像とを、撮像画像として同時に前記受光面に結像させる対物レンズと、
前記前方窓及び前記側方窓の少なくともいずれか一方に設けられ、制御信号で入射光の偏向特性を調整することにより、前記直視像と前記側視像の少なくともいずれか一方の視野範囲を変化させる光学素子と、を備えることを特徴とする。
【0008】
前記制御信号を生成する制御ユニットを備え、
前記制御ユニットは、前記直視像と前記側視像を含む前記撮像画像において、前記直視像と前記側視像の間で互いに重複する重複領域が小さくなること、及び、前記撮像画像の視野において死角領域が小さくなることの少なくともいずれか一方を実現するように、前記制御信号を生成する、ことが好ましい。
【0009】
前記制御ユニットは、前記撮像画像の画素値から、前記直視像と前記側視像との間の前記重複領域を抽出し、前記重複領域の大きさに応じて前記入射光の偏向特性を定めることにより、前記制御信号を生成する、ことが好ましい。
【0010】
前記制御ユニットは、前記直視像及び前記側視像を含む前記撮像画像と、前記重複領域の大きさとの間の関係を事前に機械学習した予測モデルを備え、前記予測モデルを用いて、前記撮像素子で撮像した生体組織の前記撮像画像の画素値から、前記重複領域の有無と大きさを求めることにより、前記入射光の偏向特性を定める、ことが好ましい。
【0011】
前記制御ユニットは、前記撮像素子で撮像した生体組織の前記直視像中の線状に延びる部分の像と前記側視像中の前記線状に延びる部分の像の、前記直視像あるいは前記側視像の端における位置ずれ量から、前記直視像と前記側視像との間の前記死角領域の大きさを求め、前記大きさに応じて前記入射光の偏向特性を定めることにより、前記制御信号を生成する、ことが好ましい。
【0012】
前記制御ユニットは、前記撮像画像内の前記線状に延びる部分の位置ずれ位置及び位置ずれ量と、前記死角領域の大きさとの間の関係を事前に機械学習した予測モデルを備え、前記予測モデルを用いて、前記撮像素子で撮像した生体組織の前記撮像画像の画素値から求めた前記線状に延びる部分の位置ずれ位置と位置ずれ量から、前記死角領域の有無と大きさを求めることにより、前記変化量を定める、ことが好ましい。
【0013】
前記側視窓は、前記撮像素子を囲む筒部材の周方向に沿って一周するように設けられ、
前記光学素子は、前記偏向特性が前記周方向で分布を持つように、前記周方向に沿った複数の場所それぞれに設けられている、ことが好ましい。
【0014】
前記対物レンズの最大半画角は、90度以上である、ことが好ましい。
【0015】
本発明の他の一態様は、体腔内の生体組織を撮像する内視鏡と、前記内視鏡により撮像された生体組織の画像を画像処理する内視鏡用プロセッサと、を備える内視鏡システムであって、
前記内視鏡は、
生体組織の像を撮像するように構成された撮像素子と、
前記撮像素子の受光面の前方に設けられる前方窓を通して得られる生体組織の直視像と、前記前方窓に比べて側方の側に向いた側方窓を通して得られる生体組織の側視像とを、撮像画像として同時に前記受光面に結像させる対物レンズと、
前記前方窓及び前記側方窓の少なくともいずれか一方に設けられ、制御信号で入射光の偏向特性を調整することにより、前記直視像と前記側視像の少なくともいずれか一方の視野範囲を変化させる光学素子と、を備え、
前記内視鏡用プロセッサは、生体組織の画像を画像処理し、さらに、前記入射光の偏向特性を制御するための制御信号を生成する画像処理ユニットを備え、
前記画像処理ユニットは、前記直視像と前記側視像を含む前記撮像画像において、前記直視像と前記側視像の間で互いに重複する重複領域が小さくなること、及び、前記撮像画像の視野において死角領域が小さくなることの少なくともいずれか一方を満足するように、前記制御信号を生成する、ことを特徴とする。
【発明の効果】
【0016】
上述の内視鏡及び内視鏡システムによれば、生体組織の直視像と側視像とを、撮像画像として同時に撮像する際に、死角領域および重複領域を抑えて滑らかな視野範囲を実現することができる。
【発明を実施するための形態】
【0018】
以下、本発明の実施形態の内視鏡及び内視鏡システムについて図面を参照しながら説明する。
図1は、一実施形態の内視鏡の外観斜視図である。
図2は、一実施形態の内視鏡システムの構成を示すブロック図である。
図3は、一実施形態の内視鏡の先端部の構成の一例を示す図である。
【0019】
図1に示す内視鏡(以降、電子スコープという)100は、
図2に示す電子内視鏡用のプロセッサ200に接続されて内視鏡システム1を形成する。内視鏡システム1は、医療用に特化されたシステムであり、
図2に示すように、電子スコープ100、電子内視鏡用のプロセッサ200、及びモニタ300、を主に備える。電子スコープ100及びモニタ300は、それぞれプロセッサ200に接続される。
【0020】
電子スコープ100は、
図1に示すように、コネクタ110、操作部120、及び先端部132を主に備え、さらに、操作部120から前方の先端部132に向かって延びかつ可撓性を有する可撓性ケーブル130と、可撓性ケーブル130の前方に連結部を介して連結され、自在に湾曲する湾曲管134と、操作部120から後方に延びるユニバーサルチューブ128とを備える。コネクタ110は、ユニバーサルチューブ128の後端に固定され、プロセッサ200と接続されるように構成されている。
操作部120、可撓性ケーブル130及び湾曲管134内には、複数の湾曲操作ワイヤが挿通され、各湾曲操作ワイヤの先端は、湾曲管134の後端に連結され、各湾曲操作ワイヤの後端は、操作部120の湾曲操作ノブ122に連結されている。湾曲管134は、湾曲操作ノブ122の操作に応じて任意の方向に任意の角度だけ湾曲する。
【0021】
さらに、操作部120は、複数の操作ボタン124を備える。操作ボタン124は、内視鏡操作者(術者又は補助者)が操作ボタン124を押すことにより、先端部132の先端面に設けられた図示されない送気送水口からの水や気体の吐出、吸引口による生体組織にある液体や気体の吸引、及び対物レンズの洗浄のための洗浄液吐出ノズルからの洗浄液の吐出等の各機能を指示することができる。
【0022】
湾曲管134の先端にある先端部132は実質的に弾性変形しない硬質樹脂材料(例えば、ABS、変性PPO、PSUなど)によって構成されている。
先端部132の内部には、LED光源102と、対物レンズ106の直後に位置する撮像素子108と、が設けられている。すなわち、長尺状の可撓性ケーブル130の先端に設けられた先端部132は、LED光源102、対物レンズ106、及び撮像素子108を備える。対物レンズ106は、撮像素子108の前面に設けられ、撮像素子108の受光面に生体組織の像を、視野角180度以上、好ましくは180度超の視野範囲で結像させる。先端部132には、後述するように、撮像素子108の受光面の前方に向いた前方窓と、前方窓に比べて側方の側に向いた側方窓が設けられ、前方窓及び側方窓を通して、対物レンズ106により受光面に結像した像を、撮像素子108は撮像するように構成されている。前方窓及び側方窓には、後述する入射光の偏向方向(偏向特性)を可変に調整できる光学素子が設けられている。ここで、前方に向いた前方窓とは、前方窓から見える視野範囲の中心の向きが前方である窓をいう。前方とは、先端部132の先端面の向く向きをいう。側方窓の向きは、側方窓から見える視野範囲の中心の向きである。側方窓は、この視野範囲が、前方窓の視野範囲に対して側方の領域を多く含むように向いていればよく、前方窓の向きに対して、例えば30度〜90度の範囲で傾いていればよい。下記説明では、側方窓の向きは、前方に対して直交する横方向に向いている形態を用いて説明する。
【0023】
可撓性ケーブル130、湾曲管134、及び先端部132は、体腔内に挿入される挿入部135を形成する。先端部132に設けられた撮像素子108から延びる画像信号用ケーブルは、先端部132から、湾曲管134、可撓性ケーブル130、さらに、操作部120及びユニバーサルチューブ128の内部を通ってコネクタ110の内部まで延びている。コネクタ110は、プロセッサ200に接続される。プロセッサ200は、撮像素子から送られてくる画像信号を処理して、撮像素子108で撮像した被写体の画像をモニタ300に表示するように制御している。
【0024】
図2に示すように内視鏡システム1のプロセッサ200は、システムコントローラ202及びタイミングコントローラ206を備えている。システムコントローラ202は、メモリ204に記憶された各種プログラムを実行し、電子内視鏡システム1の全体を統括的に制御する。また、システムコントローラ202は、操作パネル208に入力される内視鏡操作者(術者又は補助者)による指示に応じて電子内視鏡システム1の各種設定を変更する。タイミングコントローラ206は、各部の動作のタイミングを調整するクロックパルスを電子内視鏡システム1内の各回路に出力する。
【0025】
内視鏡100の先端部132には、撮像素子108の他にLED光源102が設けられている。LED光源102は、撮像素子108による撮像のために、生体組織を照明する照明光を出射する。
LED光源102は、コネクタ110に設けられた光源制御回路116で生成される駆動信号により駆動されて光を出射する。LED光源102の替わりに、レーザ素子を用いてもよく、また、高輝度ランプ、例えば、キセノンランプ、メタルハライドランプ、水銀ランプ又はハロゲンランプを用いてもよい。
図2に示す例では、LED光源102が、先端部132に設けられるが、コネクタ110あるいはプロセッサ200に光源装置として設けられてもよい。この場合、光源装置から先端部132まで、照明光は、ファイバケーブルを複数本束ねたライトガイドを通して先端部132に導かれる。
【0026】
LED光源102から出射した光は、照明光として、配光レンズ104を介して被写体である生体組織に照射される。生体組織からの反射光は、前方窓140及び側方窓150(
図3参照)及び対物レンズ106を通して撮像素子108の受光面上で光学像を結ぶ。
【0027】
撮像素子108は、例えば、IR(Infrared)カットフィルタ108a、ベイヤ配列のカラーフィルタ108bの各種フィルタが受光面に配置された単板式カラーCCD(Charge-Coupled Device)イメージセンサであり、受光面上で結像した光学像に応じたR(Red)、G(Green)、B(Blue)の各原色信号を生成する。単板式カラーCCDイメージセンサの代わりに、単板式カラーCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを用いることもできる。このように、電子スコープ100は、撮像素子108を用いて、器官内部の生体組織を撮像し、動画を生成する。
【0028】
電子スコープ100のコネクタ110の内部には、ドライバ信号処理回路112が備えられている。ドライバ信号処理回路112は、撮像素子108より入力される原色信号に対して色補間、マトリックス演算等の所定の信号処理を施して画像信号(輝度信号Y、色差信号Cb,Cr)を生成し、生成された画像信号を電子内視鏡用プロセッサ200の画像処理ユニット220に出力する。また、ドライバ信号処理回路112は、メモリ114にアクセスして電子スコープ100の固有情報を読み出す。メモリ114に記録される電子スコープ100の固有情報には、例えば撮像素子108の画素数や感度、動作可能なフレームレート、型番等が含まれる。ドライバ信号処理回路112は、メモリ114より読み出された固有情報をシステムコントローラ202に出力する。
【0029】
システムコントローラ202は、メモリ204に記憶された情報及び電子スコープ100の固有情報に基づいて各種演算を行い、制御信号を生成する。システムコントローラ202は、生成された制御信号を用いて、電子内視鏡用プロセッサ200に接続中の電子スコープ100に適した処理がなされるように電子内視鏡用プロセッサ200内の各回路の動作やタイミングを制御する。
【0030】
タイミングコントローラ206は、システムコントローラ202によるタイミング制御に従って、ドライバ信号処理回路112、画像処理ユニット220、及び光源部230にクロックパルスを供給する。ドライバ信号処理回路112は、タイミングコントローラ206から供給されるクロックパルスに従って、撮像素子108を電子内視鏡用プロセッサ200側で処理される映像のフレームレートに同期したタイミングで駆動制御する。
【0031】
画像処理ユニット220は、システムコントローラ202による制御の下、ドライバ信号処理回路112より入力した画像信号に基づいて画像等をモニタ表示するためのビデオ信号を生成し、モニタ300に出力する。さらに、画像処理ユニット220は、先端部132に設けられた
図3に示す前方窓140及び側方窓150に設けられた光学素子に入射する入射光の偏向方向を調整するための制御信号を、撮像した画像の内容に応じて生成し、入射光の偏向方向を調整するように構成される。
また、画像処理ユニット220は、電子スコープ100で得られた生体組織の画像に対して、病変部を健常部と区別できる画像の各画素の特徴量を数値化する数値化処理を行い、画像の病変部の進行の程度を評価し、さらに、数値化処理によって得られた各画素の数値を色に置換したカラーマップ画像を生成してもよい。この場合、画像処理ユニット220は、数値化処理の結果の情報とカラーマップ画像をモニタ表示するためのビデオ信号を生成し、モニタ300に出力する。これにより、内視鏡操作者は、モニタ300の表示画面に表示された画像を通じて検査を精度よく行うことができる。画像処理ユニット220は、必要に応じてプリンタ400に画像、数値化処理の結果の情報、及びカラーマップ画像を出力する。
【0032】
プロセッサ200は、NIC(Network Interface Card)210及びネットワーク500を介してサーバ600に接続されている。プロセッサ200は、内視鏡による検査に関する情報(例えば、患者の電子カルテ情報や術者の情報)をサーバ600からダウンロードすることができる。ダウンロードされた情報は、例えばモニタ300の表示画面や操作パネル208に表示される。また、プロセッサ200は、内視鏡100による検査結果をサーバ600にアップロードすることにより、検査結果をサーバ600に保存させることができる。
【0033】
このような電子スコープ100において、前方窓140(
図3参照)を通して撮像される生体組織の直視像と側方窓150(
図3参照)を通して撮像される生体組織の側視像とを、撮像画像として同時に撮像して、モニタ300に表示するとき、両方の画像に映る重複領域によって、側視像と直視像に同時に同じ病変部が映ることは好ましくない。また、直視像と側視像とが不連続となった撮像画像をモニタ300に表示することは、内視鏡操作者にとって違和感を与える。さらに、側視像と直視像との間に、死角領域がある場合、死角領域にある病変部を見落とすことは好ましくない。
このため、電子スコープ100の先端部132の前方窓140(
図3参照)及び側方窓150(
図3参照)には、
図3に示すように、制御信号で入射光の偏向特性を調整することにより、直視像と側視像の少なくともいずれか一方の視野範囲を変化させる光学素子142,152が設けられる。以下、この点を説明する。
【0034】
先端部132は、対物レンズ106、撮像素子108、前方窓140、及び側方窓150を備える。対物レンズ106及び撮像素子108は、先端部132の硬質樹脂材料で形成された筒部材133内に配置されている。前方窓140及び側方窓150には、光学素子142,152が設けられている。
前方窓140は、撮像素子108の受光面108cの前方に向いている。側方窓150は、前方に対して直交する方向に向いている。
対物レンズ106は、メニスカスレンズ、凸レンズ、及び凹レンズを含むレンズ106a〜106eのレンズ群で構成されて、半画角は90度以上、好ましくは90度超、さらに好ましくは110度以上となっている。したがって、対物レンズ106は、前方窓140を通して得られる生体組織の直視像と、側方窓150を通して得られる生体組織の側視像とを、撮像画像として同時に受光面108cに結像させる。前方窓140は、レンズ106aの被写体側の表面が兼ねている。
【0035】
光学素子142,152は、制御信号で光学素子142,152に入射した入射光の偏向方向を調整することにより、直視像と側視像の少なくともいずれか一方の視野範囲を変化させる、例えば薄膜素子である。
光学素子142,152として、例えば、液晶レンズが用いられる。液晶レンズは、例えば、特許第特許5156999号公報、特許第6128719号公報等に知られた周知のものを用いることができる。液晶レンズは、例えば、ガラス基板同士を非平行に傾けて配置した隙間にネマティック液晶を封入した液晶セルを作り、液晶セルに電圧を印加し、電圧を調整して液晶の配列を制御することにより屈折率が連続的に変わり、入射光の偏向方向を連続的に変えることができる素子である。光学素子142,152は、印加電圧により屈折率が変化する電気光学結晶、例えばタンタル酸ニオブ酸カリウム等を用いた可変焦点レンズを用いてもよい。また、光学素子142,152は、曲率半径を変えることで入射光の偏向方向を変える液体レンズを用いてもよい。
【0036】
図4は、光学素子142,152に入射した入射光の偏向方向の一例を説明する図である。
図4に示すように入射光L
inは、制御信号Vの付与により、制御前の出射光L
outを、L
out*に変える。すなわち、光学素子142,152は、制御信号Vにより、入射光L
inの偏向方向を変える。
したがって、対物レンズ106の前面に光学素子142,152を設けることにより、対物レンズ106及び光学素子142,152を通して受光面108cに結像する像の視野範囲は、制御信号Vの付与により、狭くすることも、広くすることもできる。
【0037】
図5は、一実施形態の電子スコープ100の前方窓140を通した視野範囲R
1と、側方窓150を通した視野範囲R
2を模式的に示す図である。
図5に示す例では、光学素子142,152の偏向特性を調整していないときの視野範囲を示している。
図5に示すように、受光面108cに結像される画像の視野範囲には、視野範囲R
1と視野範囲R
2の双方に重複する重複領域R
3が含まれる。また、この視野範囲R
1と視野範囲R
2の双方に含まれない死角領域R
4が存在する。このため、生体組織を撮像したとき、病変部が死角領域R
4にある場合もあれば、重複領域R
3にある場合もある。
【0038】
図6は、電子スコープ100の先端部132の器官内の挿入状態の一例を示す図である。
図6では、先端部132が、器官内の右側に偏って位置するため、病変部Xの一部分が重複領域R
3に位置し、残りの部分が視野範囲R
1にある。
図7は、
図6に示す先端部132の挿入状態でのモニタ300に表示される画像の一例を示す図である。モニタ300には、視野範囲R
1の周りに視野範囲R
2が配置されて1つの画像となって表示される。視野範囲R
1と視野範囲R
2の重複領域R
3に病変部があると、
図7に示すように、病変部Xが不連続になって重複して表示される。
図7中の円形状の点線は、前方窓140から見える視野範囲の端と側方窓150から見える視野範囲の端の境目を示している。
図7では、前方窓140から見える視野範囲の端と側方窓150から見える視野範囲の端とがモニタ300の画面上で重なっている。したがって、
図7では、重複領域R
3が点線の内側と外側に存在する。
このように、注目する病変部Xが不連続に、しかも重複して表示されることは、画像を見ながら病変部Xの大きさ、病変の進行の程度を判断する上で好ましくない。また、不連続で、重複部分を有する病変部Xの表示は、内視鏡操作者に不都合であり、違和感を与える。
【0039】
図8は、電子スコープ100の先端部132の器官内の挿入状態の他の一例を示す図である。
図8では、先端部132が、
図6に示す例よりもさらに器官内で右側に偏って位置するため、病変部Xの一部分が死角領域R
4に位置する。
図9は、
図8に示す先端部132の挿入状態でモニタ300に表示される画像の一例を示す図である。モニタ300には、視野範囲R
1の周りに視野範囲R
2が配置されて1つの画像となって表示される。
図9中の2つの円形状の点線は、前方窓140から見える視野範囲の端と側方窓150から見える視野範囲の端を示している。したがって、この2つの点線の間は、死角領域R
4に対応する。この場合、病変部Xが死角領域R
4にある部分は、
図9に示すように消滅して、不連続に表示される。このような場合、内視鏡操作者は、病変部Xが2か所あると誤判断をする場合があるので、病変部Xが部分的に消滅するような死角領域R
4をつくることは好ましくない。
【0040】
図10は、光学素子142,152に入射した入射光の偏向方向を調整することにより、光学素子142,152及び対物レンズを通して得られる視野範囲の変化を説明する図である。
光学素子142を制御信号Vにより調整することにより、受光面108cに結像する直視像の範囲は、視野範囲R
1から視野範囲R
1*になり(狭くなり)、あるいは視野範囲R
1**になる(広がる)。同様に、光学素子152を制御信号Vにより調整することにより、受光面108cに結像する側視像の範囲は、視野範囲R
2から視野範囲R
2*になり(狭くなり)、あるいは視野範囲R
2**になる(広がる)。
したがって、器官内に先端部132を挿入して生体組織を撮像するときに重複領域R
3がある場合、視野範囲R
1及び視野範囲R
2の少なくとも一方を狭くするように、光学素子142及び光学素子152の少なくとも一方の偏向特性を調整する。また、器官内に先端部132を挿入して生体組織を撮像するときに死角領域R
4がある場合、視野範囲R
1及び視野範囲R
2の少なくとも一方を広くするように、光学素子142及び光学素子152の少なくとも一方の偏向特性を調整する。これにより、病変部Xの画像に、重複部分あるいは消滅部分を無くすることができる。
図11は、一実施形態の電子スコープ100で用いる光学素子142,152の偏向特性の調整により得られるモニタ300に表示される画像の一例を示す図である。病変部Xの表示の不連続は解消され、また、消滅もない。
【0041】
このように、先端部132の前方窓140及び側方窓150に、入射した入射光の偏向特性(偏向方向)を調整する光学素子142,152を設け、制御信号Vで入射光の偏向特性を調整することにより、直視像と側視像の少なくともいずれか一方の視野範囲を変化させるので、生体組織の直視像と側視像とを、撮像画像として同時に撮像する際に、死角領域および重複領域を抑えて滑らかな視野範囲を実現することができる。
【0042】
なお、先端部132の前方窓140及び側方窓150の両方に、光学素子142,152を設けるが、前方窓140及び側方窓150の少なくとも一方に光学素子を設けて、制御信号で入射光の偏向特性を調整することにより、直視像と側視像の少なくともいずれか一方の視野範囲を変化させてもよい。
【0043】
このような光学素子142,152に入射した入射光の偏向方向の調整は、一実施形態によれば、プロセッサ200の画像処理ユニット220で生成された制御信号Vで行われる。制御信号Vは、一実施形態によれば、電子スコープ100に設けられる制御ユニットで生成される。
図12は、一実施形態の電子スコープ100の制御ユニットを備えるコネクタ110の構成の一例を示す図である。
図12に示す例では、コネクタ110に制御ユニット115が設けられる。ドライバ信号処理回路112で生成された画像信号を用いて重複領域R
3あるいは死角領域R
4の有無を判定し、複領域R3あるいは死角領域R4がある場合は、その大きさを求める。
また、画像処理ユニット220で制御信号Vを生成する場合も、画像処理ユニット220で得られた画像信号を用いて重複領域R
3あるいは死角領域R4の有無を判定し、複領域R
3あるいは死角領域R
4がある場合は、その大きさを求める。
この場合、制御ユニット115あるいは画像処理ユニット220は、直視像と側視像を含む撮像画像において、直視像と側視像の間で互いに重複する重複領域が小さくなること、及び、撮像画像の視野において死角領域が小さくなることの少なくともいずれか一方を実現するように、制御信号Vを生成することが好ましい。
【0044】
一実施形態によれば、モニタ300に表示される撮像画像内に病変部Xの存在を見出した場合、内視鏡操作者が、表示された病変部Xの像を見ながら操作ボタン124を操作することにより、光学素子142,152の偏向特性を調整してもよい。この場合、内視鏡操作者が操作ボタン124を押すことにより、光学素子142,152の偏向特性を調整する指示信号が
図12に示す制御ユニット115に送られる。制御ユニット115は、指示信号に従って制御信号Vを生成して、光学素子142,152の偏向特性を調整する。内視鏡操作者は、偏向特性の調整後の撮像画像がモニタ300に表示され、さらに、偏向特性の調整のために操作ボタン12による操作を繰り返す。
【0045】
一実施形態によれば、制御ユニット115あるいは画像処理ユニット220は、撮像画像の画素値から、直視像と側視像との間の重複領域R
3を抽出し、重複領域R
3の大きさに応じて入射光の偏向特性を定めることにより、制御信号Vを生成することが好ましい。重複領域R
3の有無は、例えば、病変部Xが存在しない場合でも、被写体である生体組織表面の凹凸により輝度が変化した表面の像、あるいは、生体組織の表面に現れる色彩の変化や被写体上の血管等の特徴部分の他の部分と区別できる像を用いて、重複領域R
3の有無と重複領域R
3の大きさを求めることができる。光学素子142,152に現在印加している制御信号Vは既知であり、視野範囲R
1、視野範囲R
1*あるいは視野範囲R
1**、及び視野範囲R
2、視野範囲R
2*あるいは視野範囲R
2**の、撮像画像内における場所は既知であるので、重複領域R
3が生じ得る範囲を凡そ事前に特定することができる。このため、予め特定できる範囲内の撮像画像の画素値を調べることにより、重複領域R
3の有無と重複領域R
3の大きさを効率よく求めることができる。
【0046】
一実施形態によれば、制御ユニット115あるいは画像処理ユニット220は、撮像素子108で撮像した生体組織の直視像中の線状に延びる部分の像と、側視像中の同じ線状に延びる部分の像の、直視像あるいは側視像の端における位置ずれ量から、直視像と側視像との間の死角領域の大きさを求め、大きさに応じて、光学素子142,152に入射した入射光の偏向方向を定めることにより、制御信号Vを生成することが好ましい。現在印加している制御信号Vは既知であるので、直視像の端と側視像の端の場所を凡そ知ることはできる。線状に延びる部分は、例えば、大腸内の襞の先端エッジ、あるいは、生体組織の表面に現れる血管、また病変部Xと健常部とを区切る線状に延びる境界部分等が挙げられる。線状に延びる部分は、ほぼ直線に延びることが好ましいが、滑らかに向きが変化する曲線であってもよい。滑らかに変化する曲線の場合、死角領域R
4により途切れた部分について、一方の線状に延びる部分から滑らかに変化する曲線の像を延長することにより、直視像あるいは側視像の端における他方の線状の像に対する位置ずれ量を求めることができる。
【0047】
一実施形態によれば、先端部132に設けられる側視窓150は、撮像素子108を囲む筒部材133の周方向に沿って一周するように設けられる。この場合、光学素子152は、偏向特性、すなわち、入射光の偏向方向が、筒部材133の周方向で分布を持つように、周方向に沿った複数の場所それぞれに設けられていることが好ましい。先端部132の位置が器官の管内の中心からオフセットすることにより、重複領域R
3及び死角領域R
4の有無が周上で変わり、また、先端部132の位置のオフセット量に応じて、重複領域R
3及び死角領域R
4の大きさも周上で分布する。光学素子152が、側方窓150の周方向に沿った複数の場所それぞれに設けられることにより、モニタ300に表示される画像において、重複領域R
3及び死角領域R
4を低減し、さらには無くすことができる。
【0048】
一実施形態によれば、対物レンズ106の最大半画角は、90度以上、さらには、90度超である、ことが好ましい。最大半画角は、100度以上であることがより好ましく、110度以上であることがより一層好ましく、112度以上であることが特に好ましい。このように電子スコープ100が広い視野範囲で撮像することで、例えば、大腸等にある襞の基部にあり、襞が倒れることで遮られる病変部Xの存在を、襞が倒れる前に、側視像において効率よく撮像することができる。
【0049】
制御ユニット115あるいは画像処理ユニット220は、撮像画像を用いて重複領域R
3あるいは死角領域R
4の有無及び大きさを求めるが、重複領域R
3あるいは死角領域R
4の有無及びその大きさは、事前に機械学習した予測モデルを用いて求めてもよい。制御ユニット115あるいは画像処理ユニット220は、直視像及び側視像を含む撮像画像と、重複領域R
3あるいは死角領域R
4の大きさとの間の関係を事前に機械学習した予測モデル(AIモデル)を備える。制御ユニット115あるいは画像処理ユニット220は、この予測モデルを用いて、撮像素子108で撮像した生体組織の撮像画像の画素値から、重複領域R
3あるいは死角領域R
4の有無およびその大きさを求めることにより、光学素子142,152に入射した入射光の偏向特性(偏向方向)を定める。予測モデルは、撮像画像と死角領域R
4の大きさとの間の関係を機械学習する場合、例えば、撮像画像内の線状に延びる部分の、直視像と側視像との間の位置ずれ位置(位置ずれのある位置)及び位置ずれ量と、死角領域R
4の大きさとの間の関係を事前に機械学習する。
予測モデルは、ニューラルネットワークを利用する場合、深層学習により予測可能に形成されたディープニューラルネットワーク(DNN)のモデル、木構造を利用したランダムフォレスト法によるモデル、LASSO回帰を利用したモデル、あるいは、多項式、クリギング、RBFネットワーク(Radial Basis Function Network:RBFN)等を利用した非線形関数を含む。
予測モデルを用いる場合、制御信号Vの情報も、直視像及び側視像を含む撮像画像とともに用いて、重複領域R
3あるいは死角領域R
4との間の関係を事前に機械学習させてもよい。この場合、予測モデルが重複領域R
3あるいは死角領域R
4の大きさを予測して求めるとき、入力データとして撮像画像に加えて、制御信号Vの情報も予測モデルに入力される。
【0050】
以上、本発明の内視鏡及び内視鏡システムについて詳細に説明したが、本発明は上記実施形態に限定されず、本発明の主旨を逸脱しない範囲において、種々の改良や変更をしてもよいのはもちろんである。