(58)【調査した分野】(Int.Cl.,DB名)
前記光源が、400〜430nmの波長帯域を含む照明光と、450〜480nmの波長帯域を含む照明光とを選択的に切り替えて照射する請求項10記載の内視鏡システム。
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところが、特許文献1及び特許文献2の技術では、偏光解消板やλ/4波長板の具体的な構成が明らかにされておらず、偏光解消板や1/4λ波長板を単に配置するのみで、波長依存性や斜入射特性を考慮しなければ、効果的に明るさを均一にすることができない。
また、特許文献2では、明るさの均一化のために位相差板の回転補正機構を用いたり、偏光板を配置したりしているが、内視鏡先端部にこのような機構を適用すると、部品点数が増大しコストが嵩むと共に大型化してしまう。
また、特許文献3の技術は、被写体が非剛体である場合には画像のマッチングに高速な演算速度が必要となる上、被写体が平坦領域である場合には、平坦領域自体が特徴の少ない領域であるためマッチングに適していない。また、被写体をマッチングせずに合成すると、あるフレームで平坦領域だった場所にその次のフレームでテクスチャのある被写体が移動してきた場合にテクスチャのコントラストが落ちてしまう。
【0007】
本発明は、上述した事情に鑑みてなされたものであって、チラつきや明るさムラを抑制しつつ被写界深度を拡大させた画像を取得することができる内視鏡システムを提供することを目的とする。
【課題を解決するための手段】
【0008】
上記目的を達成するため、本発明は以下の手段を提供する。
本発明の一態様は、挿入部先端に設けられ、光源からの照明光が照射された被写体の像を取得する対物光学系と、前記被写体の像をピントの異なる2つの光学像に分割する光路分割手段と、前記ピントの異なる2つの光学像を同時に撮像して一対の画像を取得する撮像素子と、該撮像素子により取得した一対の前記画像について、夫々画素毎にコントラストを算出するコントラスト算出手段と、該コントラスト算出手段により算出されたコントラストの比率に基づいて、一対の前記画像間の対応する画素同士の合成比率である合成マスクを生成するマスク生成手段と、前記撮像素子により時系列に取得された複数対の画像に対して、前記マスク生成手段によって時系列に生成された複数の前記合成マスクを画素毎に加重平均して補正マスクを生成するマスク補正手段と、該マスク補正手段により生成された前記補正マスクに従って2つの前記画像を合成する画像合成手段と、を備え、前記マスク補正手段が、一対の前記画像のうち静止領域かつ所定の閾値未満のコントラストを有する領域を構成する画素については、一対の前記画像のうち動体領域又は所定の閾値以上のコントラストを有する領域を構成する画素についてよりも、過去の前記合成マスクの割合が高くなるように重み付けして複数の前記合成マスクを加重平均する内視鏡システムを提供する。
【0009】
上記態様によれば、ピントの異なる2つの光学像を同時に撮像した一対の画像から合成画像を生成する際に、コントラスト算出手段により一対の画像について夫々画素毎にコントラストが算出される。ここで、コントラストは、ある画素が合焦しているかを示す評価値として用いられ、コントラストが高ければ合焦していると判断することができる。このため、一対の画像夫々のコントラストを算出することによって、当該画素が遠点ピント又は近点ピント、若しくはその中間ピントであるのかを判断することができる。
したがって、画素毎のコントラストの比率に基づいてマスク生成手段によって生成された合成マスクは、一対の前記画像間の対応する画素同士を、コントラストの高い方の画素の比率が高くなるように合成比率を設定する。
【0010】
この場合において、画像に動体領域が含まれる場合など、経時的に合成マスクが変動する場合を考慮して、マスク生成手段により時系列に生成された複数の合成マスクがマスク補正手段によって加重平均されて補正マスクが生成される。具体的には、マスク補正手段では、一対の画像に存在する静止領域かつ所定の閾値未満のコントラストを有する領域については、動体領域又は所定の閾値以上のコントラストを有する領域についてよりも、過去の新たな合成マスクの割合が高くなる補正マスクが生成される。
【0011】
このようにすることで、動画など時系列に画像を取得する場合であって、特に低コントラストの領域などにおいてフレーム毎に適用される合成比率が変動することを防止することができる。すなわち、同一画素位置であるにもかかわらず、フレーム毎に遠点画像の画素を適用した画像と近点画像の画素を適用した画像とが入れ替わる等によってチラついたり明るさムラが生じたりすることを防止することができる。
【0012】
上記態様において、前記対物光学系と前記光路分割手段との間に配置された少なくとも一枚の波長板からなる偏光解消板と、2つの前記光学像のうち一方の光学像の光路中に配置されたλ/4波長板及び反射ミラーと、を備えるが好ましい。
このようにすることで、偏光解消板によりブリュースター角による偏光を解消し、光路分割手段を透過させるために位相を回転させることができる。
【0013】
上記態様において、前記λ/4波長板が、逆分散特性を有することが好ましい。
このようにすることで、観察波長において強度が異なることによってムラになることを防止することができる。
【0014】
上記態様において、前記λ/4波長板が、高分子フィルムであることが好ましい。
このようにすることで、内視鏡システムの小型化に寄与すると共にコストを低減することができる。
【0015】
上記態様において、前記λ/4波長板が、1枚のゼロオーダー波長板であることが好ましい。
このようにすることで、角度依存性が低く性能の高い偏光解消板とすることができ、内視鏡システムの小型化に寄与することができる。
【0016】
上記態様において、前記偏光解消板が、ガラス又は石英基板と接着又はオプティカルコンタクトされたゼロオーダーのλ/4波長板であることが好ましい。
このようにすることで、角度依存性が低く性能の高い偏光解消板とすることができ、内視鏡システムの小型化に寄与することができる。
【0017】
上記態様において、前記偏光解消板が、光学軸が互いに直交する2枚の無機波長板からなり、2枚の該無機波長板のうち少なくとも一枚の厚みt(mm)が、以下の条件式を満たすことが好ましい。
0.135≦t≦0.3 ・・・(1)
t=
(k*0.25λ/Δn
)*10^−6 ・・・(2)
9≦k≦19.5 ・・・(3)
但し、t(mm)は1枚の無機波長板の厚み、kは任意の係数、λ(nm)は設計中心波長、Δnは常光と異常光との屈折率差である。
このようにすることで、コストを低減させながら、角度依存性が低く性能の高い偏光解消板とすることができる。
【0018】
上記態様において、2枚の前記無機波長板の屈折率が互いに異なることが好ましい。
このようにすることで、波長依存特性を考慮しながら直線偏光相当の偏光を円偏光にすることができる。
【0019】
上記態様において、前記偏光解消板が、ガラス又は石英基板により挟持された高分子フィルムであることが好ましい。
このようにすることで、角度依存性が低く、容易に偏光を解消することができる。
【0020】
一対の前記画像の明るさ差異を所定の補正パラメータに基づいて補正する画像補正手段を備え、前記光源が、互いに異なる波長帯域の照明光を選択的に切り替えて被写体に照射し、前記撮像素子が、前記選択された波長帯域の照明光による被写体の像に基づく一対の画像を取得した場合に、前記画像補正手段による補正の際に、前記照明光の波長帯域に応じて補正パラメータを切替えることが好ましい。
このようにすることで、光源から発せられる照明光の波長帯域によって一対の画像間に明るさ差異が生じても、照明光の波長帯域に応じた補正を行うことで合成画像に不自然な明るさムラや色ムラが生じることを抑制することができる。
【0021】
前記光源が、400〜430nmの波長帯域を含む照明光と、450〜480nmの波長帯域を含む照明光とを選択的に切り替えて照射することとしてもよい。
また、前記光源が、510〜580nmの波長帯域を含まない照明光を選択的に切り替えて照射することとしてもよい。
このようにすることで、明るさムラが生じやすい波長帯域を含む照明光に基づく画像について、波長帯域に応じた補正を行うことで不自然な明るさムラや色ムラを抑制することができる。
【発明の効果】
【0022】
本発明によれば、チラつきや明るさムラを抑制しつつ被写界深度を拡大させた画像を取得することができるという効果を奏する。
【発明を実施するための形態】
【0024】
以下、図面を参照して本発明の実施形態を説明する。
図1に示すように本発明の実施形態の内視鏡システム1は、内視鏡2と、この内視鏡2に照明光を供給する光源装置3と、内視鏡2に設けられた撮像素子により取得された画像信号に対する画像処理を行うプロセッサ装置4と、プロセッサ装置4により所定の画像処理がなされた画像信号を内視鏡画像として表示する画像表示装置5とを有する。
【0025】
内視鏡2は、被検体内に挿入される細長の挿入部6と、この挿入部6の後端に設けられた操作部7と、操作部7から延びる第1ケーブル8とを有し、第1ケーブル8には、照明光を伝送するライトガイド9が挿通されている。内視鏡2の挿入部6の先端部6aには、ライトガイド9から出射された照明光を拡散する照明レンズ15、被写体像を取得する対物光学系16、被写体像を撮像する撮像ユニット19が設けられている。第1ケーブル8の端部のライトガイドコネクタ8aは、第1ケーブル8に挿通されたライトガイド9の後端部が照明光の入射端となるように光源装置3に着脱自在に接続されている。
【0026】
光源装置3は、光源として例えばキセノンランプ等のランプ11を内蔵する。なお、光源として、キセノンランプ等のランプ11に限定されるものでなく、発光ダイオード(以下、「LED」)を用いても良い。ランプ11により発生した白色光は絞り12により通過光量が調整された後、コンデンサレンズ13により集光されてライトガイド9の入射端面に入射(供給)される。なお、絞り12は、絞り駆動部14により、開口量が可変される。
【0027】
ライトガイド9は、光源装置3から入射端(後端側)に入射された照明光を挿入部6の先端部6a側に導光する。先端部6aに導光された照明光は、ライトガイド9の出射端(先端側)から先端部6aの先端面に配置された照明レンズ15により拡散されて照明窓15aを介して出射され、被検体内部の観察対象部位を照明する。
照明光が照明された観察対象部位からの光は、先端部6aの照明窓15aに隣接して設けられた観察窓20に取り付けられた対物光学系16により集光されるようになっている。
【0028】
対物光学系16は、複数の光学素子からなる光学素子群16a、遠方観察と近接観察の2つの観察領域にピント又は焦点を選択的に合わせられるように焦点切替機構としてのフォーカスレンズ21及びフォーカスレンズ21を駆動するアクチュエータ22を備えている。
撮像ユニット19は、対物光学系16の挿入部6後端部側に設けられ、被写体像をピントの異なる2つの光学像に分割する偏光ビームスプリッタ18(光路分割手段)、2つの光学像を撮像して2つの画像を取得する撮像素子17を備えている。
【0029】
偏光ビームスプリッタ18は、
図2に示すように、偏光解消板28、第1プリズム18a、第2プリズム18b、ミラー18c、及びλ/4波長板18dを備えている。
偏光解消板28には、λ/4波長板を適用している。偏光状態を無偏光状態にするために、一般的な偏光解消板(スクランブルして無偏光にする)を用いるとサイズが大き過ぎ、また構成が複雑なので内視鏡先端に配置するのに適さない。このため、偏光解消板28としてλ/4波長板を用いることで、偏光ビームスプリッタ18に入射する偏光を略円偏光に変換して強度の均一化を図ることができる。
【0030】
通常、λ/4波長板はゼロオーダーで考える必要があり、例えば、水晶を使った波長板では設計波長550nmで1/4λの位相差を与える場合、水晶の肉厚を約15μmまで薄くする必要がある。しかしながら、このような極薄フィルタを直接扱うのは現実的でない。マルチオーダーの波長板は、板厚を実用的なレベルにまで厚くする目的のため、高次で所定の位相差が得られるよう設計する。例えば、550nmの波長において2.5波長分の位相差を生じさせた場合、水晶であれば板厚を150μm程度にまで厚くできる。
【0031】
2.5波長分の位相差というのは、実質0.25波長分(=1/4)の位相差とみなすことができる。ただし、板厚が厚くなる分、わずかな波長シフトや斜入射光線に対しても無視できない位相差ずれが生じるため、後述する画像合成処理部33によって一対の画像を合成する際の合成比率(マスク)を適切に設定することで、より明るさムラの少ない良好な画像とすることができる。
【0032】
第1プリズム18a及び第2プリズム18bは共に光軸に対して45度の斜度であるビームスプリット面を有し、第1プリズム18aのビームスプリット面には偏光分離膜18eが設けられている。そして、第1プリズム18a及び第2プリズム18bは、互いのビームスプリット面を偏光分離膜18eを介して当接させて偏光ビームスプリッタ18を構成している。また、ミラー18cは、第1プリズム18aの端面近傍にλ/4波長板18dを介して設けられ、第2プリズム18bの端面には撮像素子17が取り付けられている。なお、λ/4波長板18dは、逆分散特性を有している。
【0033】
λ/4波長板18dに逆分散特性を持たせることで、可視波長帯域で消光比の変動を小さくして、明るさムラを抑制した内視鏡を提供する事ができる。
これは以下の理由による。すなわち、偏光ビームスプリッタ18で偏光分離された2つの像は、明るさ強度に大きな差異が無いことが望ましい。折り返し光路はλ/4波長板とミラーを介して、偏光方向が90°回転してP偏光となる。P偏光となった光は偏光ビームスプリッタ18を透過して撮像素子に受光される。つまり、λ/4波長板に従来から使用されている正常分散系の波長板を使うと、本来90°回転してP偏光になる光が、波長によって回転不足や回転しすぎてしまい、偏光ビームスプリッタ18を透過する際に消光比が変動してしまい、明るさムラが生じてしまう。
ピックアップ光学系やレーザを対象とした装置では、使用する波長帯に適した波長板を選べば問題ないが、内視鏡のように可視波長帯、且つ狭帯域観察を併用する場合は致命的になる。
【0034】
対物光学系16からの被写体像は、偏光解消板28に入射し、偏光解消板28によってブリュースター角による偏光が解消され、第1プリズム18aにおいてそのビームスプリット面に設けられた偏光分離膜18eによりP成分(透過光)とS成分(反射光)とに分離され、反射光側の光学像と透過光側の光学像との2つの光学像に分離される。
【0035】
S成分の光学像は、偏光分離膜18eで撮像素子17に対して対面側に反射されA光路を通り、λ/4波長板18dを透過後、ミラー18cで撮像素子17側に折り返される。折り返された光学像はλ/4波長板18dを再び透過する事で偏光方向が90°回転し、偏光分離膜18eを透過して撮像素子17に結像される。
【0036】
P成分の光学像は、偏光分離膜18eを透過してB光路を通り、撮像素子17に向かって垂直に折り返す第2プリズム18bのビームスプリット面と反対側に設けられたミラー面によって反射され、撮像素子17に結像される。この際、A光路とB光路で、例えば、数十μm程度の所定の光路差を生じさせるようにプリズム硝路を設定しておき、ピントが異なる2つの光学像を撮像素子17の受光面に結像させる。これにより、一対の画像として、A光路によって近点画像(A画像)が得られ、B光路によって遠点画像(B画像)が得られる。
【0037】
すなわち、第1プリズム18a及び第2プリズム18bを、被写体像をピント位置が異なる2つの光学像に分離できるように、第1プリズム18aにおける撮像素子17に至る透過光側の光路長(硝路長)に対して反射光側の光路長が短く(小さく)なるように配置する。
【0038】
撮像素子17は、
図3に示すように、ピント位置が異なる2つの光学像を夫々個別に受光して撮像するために、撮像素子17の全画素領域の中に、2つの受光領域(有効画素領域)17a,17bが設けられている。受光領域17a,17bは、2つの光学像を撮像するために、これらの光学像の結像面と夫々一致するように配置されている。そして、撮像素子17において、受光領域17aは受光領域17bに対してそのピント位置が相対的に近点側にシフトしており(ずれており)、受光領域17bは受光領域17aに対してそのピント位置が相対的に遠点側にシフトしている。これにより、ピントが異なる2つの光学像を撮像素子17の受光面に結像させるようになっている。
【0039】
また、受光領域17a,17bの周囲には、2つに分割された光学像の幾何的なズレを補正するための補正画素領域17cが設けられている。補正画素領域17c内において製造上の誤差を補正し、後述する画像補正処理部32にて画像処理による補正を行なうことで、上記した光学像の幾何学的なズレを解消するようになっている。
【0040】
なお、偏光解消板28として、λ/4波長板を適用した例を示したが、これに限らず、
図4(A)に示す、ガラス又は石英基板と接着又はオプティカルコンタクトされたゼロオーダーのλ/4波長板を適用することもできる。単体では厚みが薄すぎて適用できないゼロオーダーのλ/4波長板であっても、ガラス基板又は石英基板と接合させることで所望の強度を維持することができる。例えば、偏光解消板28として、水晶を適用する場合、設計波長550nmでは、厚みが15μmと極めて薄くなってしまうので、取り扱いが極めて困難となる。そこで、ガラス基板又は石英基板と接合させることで所望の強度を保ち、取り扱いを容易とする。
【0041】
また、
図4(B)に示すように、偏光解消板28として、光学軸が互いに直交する2枚の無機波長板を適用し、2枚の無機波長板のうち少なくとも1枚の厚みt(mm)が、以下の条件式を満たすように構成することもできる。
0.135≦t≦0.3 ・・・(1)
t=
(k*0.25λ/Δn
)*10
−6 ・・・(2)
9≦k≦19.5 ・・・(3)
但し、t(mm)は1枚の無機波長板の厚み、kは任意の係数、λ(nm)は設計中心波長、Δnは常光と異常光との屈折率差である。
【0042】
ゼロオーダーの波長板を適用するとコストが嵩むところ、このように同素材のマルチオーダー波長板を適用することで、コストを低減させながら、実質的にゼロオーダー波長板と同等の機能を実現することができる。すなわち、角度依存性が低く性能の高い偏光解消板とすることができる。
【0043】
上記条件式は、1枚当たりの波長板として、取り扱いが容易で、かつ内視鏡先端部が大型化しない厚みを規定している。また、同素材の波長板を適用する場合、その厚みの差Δtが、得たい位相差となるように構成する。2枚の波長板からなる偏光解消板とする場合、内視鏡先端部が大型化せず、且つ衝撃や応力に耐性のあるように構成するには、偏光解消板としての総厚が、0.3〜0.6mmの範囲となることが好ましい。
【0044】
無機波長板の具体例としては、2枚の無機波長板を何れも水晶とする構成や、異素材同士の組み合わせとして水晶とMgF2とを適用する構成などが考えられる。
また、
図4(C)に示すように、偏光解消板28を、高分子フィルムをガラスもしくは石英基板で挟持した構成とすることもできる。
【0045】
図5(A)に、厚さt=0.15mmの波長板を適用した偏光解消板を適用した場合の一対の画像の強度を示すグラフを示す。また、
図5(B)に、厚さt=0.27mmの波長板を適用した偏光解消板を適用した場合の一対の画像の強度を示すグラフを示す。
図6に、偏光解消板28と、λ/4波長板18dとが逆分散特性を有している場合の波長分散特性を示す。なお、
図6において、2点鎖線は異素材同士を組み合わせた無機波長板を使用した偏光解消板、破線は高分子フィルムからなるλ/4波長板である。
【0046】
また、λ/4波長板18dとして、高分子フィルムを適用することができ、この場合には、内視鏡システムの小型化に寄与すると共にコストを低減することができる。さらに、上述したλ/4波長板18dが、逆分散特性を有することとしたが、例えば、λ/4波長板18dとしてゼロオーダー波長板を適用することで、必ずしも逆分散特性を有しなくてもよい。
図7に、例として550nmの波長でλ/4となる、ゼロオーダー波長板における一対の画像の強度の分布図を示す。
【0047】
フォーカスレンズ21は、光軸の方向における2つの位置に移動可能となっており、アクチュエータ22により2つの位置間で一方の位置から他方の位置、他方の位置から一方の位置に移動するように駆動される。フォーカスレンズ21を前方側(物体側)の位置に設定した状態においては遠方観察する場合の観察領域の被写体にピントが合うように設定され、フォーカスレンズ21を後方側の位置に設定した状態においては近接観察する場合の観察領域の被写体にピントが合うように設定されている。
【0048】
なお、アクチュエータ22は、挿入部6内を挿通された信号線23と接続され、この信号線23はさらに操作部7から延びる第2のケーブル24内を挿通される。この第2のケーブル24の端部の信号コネクタ24aは、プロセッサ装置4に着脱自在に接続され、上記信号線23は、プロセッサ装置4内に設けたアクチュエータ制御部25に接続される。
【0049】
このアクチュエータ制御部25は、例えば内視鏡2の操作部7に設けた切替操作スイッチ26からの切替操作信号も入力される。アクチュエータ制御部25は、切替操作スイッチ26の操作に応じてアクチュエータ22を電気的に駆動する駆動信号を印加して、フォーカスレンズ21を移動する。
【0050】
なお、切替操作信号を発生する切替操作手段は、切替操作スイッチ26に限らず、切替操作レバー等でも良い。上記フォーカスレンズ21と、アクチュエータ22と、アクチュエータ制御部25とにより、焦点切替機構が形成される。ところで、本願におけるフォーカス手段は、前述の光軸方向にフォーカスレンズを移動させる手段に限定するものではない。例えば、レンズやフィルタを対物光学系に挿脱してフォーカスを切替える手段でも構わない。
【0051】
撮像素子17は挿入部6、操作部7、第2のケーブル24内を挿通された信号線27a,27bと接続され、信号コネクタ24aがプロセッサ装置4に接続されることにより、プロセッサ装置4内に設けた画像処理部としての画像プロセッサ30と接続される。
【0052】
画像プロセッサ30は、撮像素子17により撮像されたピント位置が異なる2つの光学像に係る画像を夫々読み出す画像読出部31と、画像読出部31により読み出された2つの画像に対する画像補正を行う画像補正処理部32と、補正された2つの画像を合成する画像合成処理を行う画像合成処理部33とを有する。
【0053】
画像補正処理部32は、撮像素子17の受光領域17a,17bにそれぞれ結像される2つの光学像に係る画像に対し、互いのピント以外の差異が略同一となるように補正する。すなわち、2つの画像の各光学像における相対的な位置、角度及び倍率が略同一となるように2つの画像に対して補正を行う。すなわち、画像補正処理部32は、補正画素領域17cを使って、例えば受光領域17bを基準に17aの相対的な位置、角度及び倍率が略同一になるように補正する。
【0054】
被写体像を2つに分離して撮像素子17に夫々結像させる場合、幾何的な差異が生じる場合がある。すなわち、撮像素子17の受光領域17a,17bにそれぞれ結像される夫々の光学像は、相対的に倍率ズレ、位置ズレ、角度すなわち回転方向のズレ等が発生する場合がある。これらの差異を製造時などにおいて、完全に解消することは困難であるが、それらのズレ量が大きくなると、合成画像が2重画像となったり、不自然な明るさムラ等を生じたりする。このため、画像補正処理部32にて上述した幾何的な差異、明るさ差異を補正する。
【0055】
2つの画像間における明るさの差異を補正する場合、2つの像または画像のうち輝度の高い方の像または画像、もしくは2つの像または画像の相対的に同一位置における輝度の高い方を基準にして補正を行うことが望ましい。
【0056】
つまり、相対的に明るい方、つまり輝度信号(例えばG信号)の強度(信号レベル)が高い画像に合わせる様に明るさ補正を行なう。仮に、明るい画像にマイナスゲインを掛けて補正すると、色飽和ノイズが生じやすい。特に、ハレーションが生じて飽和している領域がある画像では、ハレーション領域において色ムラが生じてしまうという課題がある。これはセンサーの画素におけるRGB感度が異なるためである。ハレーションもしくはそれに近い高輝度の状態の場合、ゲインを下げようとしても既に飽和している、例えば、Rは補正できずにGとBだけゲインを下げることになり、結果ハレーション部がマゼンタ色に着色してしまう。
【0057】
画像合成処理部33は、画像補正処理部32により補正された一対の画像間の対応する画素同士を合成することにより合成画像を生成するものであり、
図8に示すように、コントラスト算出部41、合成マスク生成部42、マスク記憶部43、マスク補正部44及び画像合成部45を備えている。
【0058】
コントラスト算出部41は、撮像素子17により取得され、画像補正処理部32により補正された一対の画像について、夫々画素毎にコントラストを算出する。つまり、一対の画像の夫々において、周波数成分を算出し、この周波数成分からを各画素が合焦している度合いを示す評価値としてコントラストを算出する。周波数成分の算出には、既知の微分フィルタを適用することができる他、被写体に合せて設計したバンドパスフィルタなどを適用することもできる。
【0059】
合成マスク生成部42は、コントラスト算出部41において算出されたコントラストから、その比率であるコントラスト比を算出し、算出されたコントラスト比に基づいて、一対の画像間の対応する画素同士の合成比率である合成マスクを生成する。生成した合成マスクは、マスク記憶部43に記憶される。また、マスク記憶部43では、撮像素子17により時系列に取得された複数対の画像に対してマスク生成部42によって時系列に生成された複数の合成マスクを記憶している。なお、後述するマスク補正部44によりマスクが補正された場合には、合成マスクに代えて補正マスクをマスク記憶部43に記憶することが好ましい。
【0060】
マスク補正部44は、マスク記憶部43に記憶されている既に生成された過去の画像に対する複数の合成マスクを参照し、合成マスクを補正して補正マスクを生成する。すなわち、マスク補正部44は、一対の画像のうち静止領域かつ所定の閾値未満のコントラストを有する領域を構成する画素については、一対の画像のうち動体領域又は所定の閾値以上のコントラストを有する領域を構成する画素についてよりも、過去の合成マスクの割合が高くなるように重み付けして複数の前記合成マスクを加重平均することにより、補正マスクを生成する。なお、動体領域であるか否かは以下のように判定する。つまり、マスク記憶部43に記憶されている過去のマスクと算出した合成マスクとを比較した結果、差分が大きい領域について、過去のマスクとの変動が大きい領域、すなわち、動体領域と判定する。
画像合成部45は、補正マスクに従って一対の画像を合成して合成画像を生成する。
【0061】
また、画像プロセッサ30は、画像合成処理部33により生成された合成画像に対して、色マトリクス処理、輪郭強調、ガンマ補正等の後段画像処理を行う後段画像処理部34と、後段画像処理された画像を出力する画像出力部35とを有し、画像出力部35から出力される画像は画像表示装置5に出力される。
【0062】
さらに、この画像プロセッサ30は、画像読出部31により読み出された画像から基準の明るさに調光するための調光信号を生成する調光部36を有し、調光部36により生成した調光信号を光源装置3の絞り駆動部14に出力する。絞り駆動部14は、調光信号に従って、基準の明るさを維持するように絞り12の開口量を調整する。
【0063】
また、本実施形態においては、画像補正処理部32において、画像を補正する場合に使用する補正パラメータ(の情報)を格納した補正パラメータ格納部37を設けている。
ここで、補正パラメータとは、光路分割素子や撮像素子、λ/4板の特性を考慮して決定されたものである。例えば、光路分割素子や撮像素子のシェーディング特性、λ/4波長板の波長特性によって2つの光学像にかかる画像には上述した幾何学的な差異や明るさの差異、もしくは色の差異が生じることがある。
【0064】
また、光源装置から発せられる照明光の波長帯域が選択的に切り替えられる場合、例えば、内視鏡システムが通常観察モードや狭帯域観察モード等の複数の観察モードを有しており、観察モードによって照明光の波長帯域が異なる場合にも2画像間に明るさの差異が生じることがある。2画像間に明るさの差異があると、合成画像に不自然な明るさムラや色ムラが生じてしまう。
【0065】
このため、例えば、光路分割素子や撮像素子、λ/4板の特性を考慮して、観察モードに応じた、すなわち照明光の波長帯域に応じた明るさ補正パラメータを前述した補正パラメータ格納部37に観察モード毎のIDとして格納しておき、制御部39により観察モードに応じて補正パラメータを切替えて、画像補正処理部32において、切替えられた補正パラメータに基づいて画像補正を行う。
【0066】
より具体的には、例えば、1/4λ波長板、偏光解消板の波長依存性が大きい場合(アクロマートでない場合)、又は偏光ビームスプリッタの偏光分離膜に大きな波長依存性がある場合には、被写体を観察する照明光の波長帯域によっては、明るさ補正値が必ずしも最適にならずに明るさムラが生じてしまうことがある。
【0067】
図9〜
図11は、偏光ビームスプリッタに用いられる偏光分離コーティングの分光特性グラフであり、いずれも実線グラフは遠点光路の分光グラフ(Tp)、破線は近点光路の分光グラフ(Tp*Rs/100)を示している。
図9は、光軸に対して45度傾いた偏光ビームスプリッタ面に対して0度で入射する光線、すなわち、光軸の分光特性を示している。
図10は光軸に対して−7°傾いた光線が偏光分離コーティングに入射した際の分光特性を示している。
図11は+7°傾いた光線が偏光分離コーティングに入射した際の分光特性を示している。尚、角度の符号は時計回りを正としている。
【0068】
以下、例として、本実施形態の光源装置3として面順次方式の光源を適用し、通常観察モード、狭帯域観察モード1及び狭帯域観察モード2の3つの観察モードを有する場合について説明する。この場合、通常観察モードのRGBの波長帯域として、夫々Rに600〜650nm、Gに510〜580nm、Bに450〜480nmを使用する。一方、短波長側を主とした狭帯域観察モード1では、Gに525〜550nm、Bに400〜430nmを使用する。
【0069】
図10、
図11に示すように、特に、斜入射時の両観察モードにおけるB強度に大きな差があることがわかる。つまり、通常観察モードの画像と狭帯域観察モード1の画像とに同一の補正パラメータを用いると、狭帯域観察モード1の画像において明るさムラが生じてしまう。従って、通常観察モードにおいて取得された画像に対する明るさ補正のパラメータと、狭帯域モード1において取得された画像に対する明るさ補正のパラメータとを異ならせ、夫々に応じた補正パラメータを適用する必要がある。
【0070】
そこで、通常観察モードB450〜480nmを使用する場合と、狭帯域モード1のB400〜430nmを使用する場合で、補正パラメータを切り替える。
【0071】
また、狭帯域観察モード2では、R1として590〜610nm、R2として620〜640nm、Bとして450〜470nmを使用する。すなわち、狭帯域観察モード2は、510nm〜580nmを使用しない観察モードである。
この場合、通常観察モードではGである525〜550nmも考慮した補正パラメータとなるため、通常観察モードから狭帯域観察モード2に切り替えると明るさ補正パラメータに乖離が生じて明るさムラが生じてしまう。
そこで、狭帯域観察モード2では使用せず、通常観察モードで使用するGの525〜550nmの波長帯域が使用される場合に、補正パラメータを切替えることとする。
【0072】
補正パラメータの切替えは、観察モードの切替えに連動させる、すなわち、内視鏡本体の観察モード切替SWや図示しないフットSWなどに連動させることができる。
例えば、観察モード切替SWを押して観察モードを切り替えると、切替信号を受け取った光源装置においてフィルタが切り替わることで切替えた観察モードに対応した波長帯域の光が照射される。そして、観察モードの切替えに連動して補正パラメータ格納部37から選択された観察モードに対応する補正パラメータを呼び出して、画像補正処理部32において最適な補正処理を行う。尚、光源がLED光源の場合は、切替えられた観察モードに対応するLEDに切替を行い、これに連動するようにパラメータを切替えても良い。
【0073】
次に本実施形態において、一対の光学像を合成する場合の流れを
図12のフローチャートに従って説明する。なお、以下の説明においては、合成マスクの補正の際に、過去の合成マスク3枚を用いる例について説明する。
【0074】
合成マスク補正のために必要となる過去のマスクを生成されたかを計数するため、ステップS1で計数を開始し、ステップS2で、撮像素子17により、一の被写体についてピントの異なる遠点像に係る遠点画像と近点像に係る近点画像とを取得する。ステップS3では、ステップS2において取得された遠点画像及び近点画像に対し、画像補正処理部32において補正処理が行なわれる。すなわち、予め設定された補正パラメータに従って、各画像における相対的な位置、角度及び倍率が略同一となるように2つの画像に対して補正を行い、補正後の画像を画像合成処理部33に出力する。なお、必要に応じて2画像の明るさや色の差異を補正してもよい。
【0075】
ステップS4では、補正処理が行なわれた2つの画像の各画素について画像合成処理部33のコントラスト算出部41において、コントラスト値が夫々算出される。算出されたコントラスト値は、合成マスク生成部42に出力され、ステップS5で、コントラスト算出部41において算出されたコントラストから、その比率であるコントラスト比を算出し、算出されたコントラスト比に基づいて、一対の画像間の対応する画素同士の合成比率である合成マスクを生成し、マスク記憶部43に記憶する。
【0076】
ステップS6では、撮像素子17による一対の画像の取得、所定の補正処理、コントラスト算出及び合成マスクの生成・記憶までの処理が4回行われているか否かを判定し、4回行われていない場合には、ステップS2に戻り、4回行われている場合には、次のステップS7に進む。
【0077】
ステップS7では、マスク補正部44において、一対の画像のうち静止領域かつ所定の閾値未満のコントラストを有する領域を構成する画素については、一対の画像のうち動体領域又は所定の閾値以上のコントラストを有する領域を構成する画素についてよりも、過去の合成マスクの割合が高くなるように重みを決定する。ここで、重みは、例えば、所定の条件式に従って逐次算出したり、
図13に示すように予め定めておいたりすることができる。
【0078】
ステップS8では、ステップS7で決定した重みに従って合成マスクを補正した補正マスクを生成し、画像合成部45に出力し、ステップS9で、補正マスクに従って1対の遠点画像と近点画像とを合成して合成画像を生成する。次のステップS10では、画像合成処理が終了したかを判定し、終了していない場合には、ステップS11で、マスク記憶部43に記憶されている合成マスクのカウント数を順次ずらし(
図14参照)、n=4として、ステップS2〜ステップS5の処理を行う。
なお、上述の説明では、4つの合成マスクを加重平均する例について示したが、これに限られるものでなく、加重平均するマスクの数やその重みは適宜決定することができる。
【0079】
このように、本実施形態によれば、ノイズ等によって合成画像において不連続領域が発生ずることを防止し、更に偏光解消板やλ/4波長板を最適化することで分光強度に起因する明るさムラを抑制しながら、被写界深度を拡大させた画像を取得することができる。また、画像に動体領域が含まれる場合など、経時的に合成マスクが変動する場合を考慮して、時系列に生成された複数の合成マスクを加重平均して補正マスクを生成するので、動画など時系列に画像を取得する場合であって、特に低コントラストの領域などにおいてフレーム毎に適用される合成比率が変動することを防止することができる。すなわち、同一画素位置であるにもかかわらず、フレーム毎に遠点画像の画素を適用した画像と近点画像の画素を適用した画像とが入れ替わる等によってチラついたり明るさムラが生じたりすることを防止することができる。