(58)【調査した分野】(Int.Cl.,DB名)
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1に記載の画像処理装置では、画像信号に対してノイズ低減処理を行うために、画像信号が骨格成分と残差成分とに分離される。画像信号の成分の分離は、計算式が複雑であり計算負荷が大きい。また、ノイズ低減処理パラメータを補正するために、注目画素およびその周辺画素に対して画素信号の色成分間の相関係数が計算される。この相関係数の計算は周辺画素の数が増えるにつれて計算量が著しく増大する。計算式が複雑な成分分離や相関係数を用いたノイズ低減処理をハードウェア上に実装するためには、多くのハードウェアリソースが必要であり、製品化が困難であった。
【0006】
本発明は上記の事情を鑑みてなされたものであり、その目的とするところは、少ないハードウェアリソースで画素信号のノイズを低減(SN比を改善)するのに好適な内視鏡用画像処理装置および内視鏡システムを提供することである。
【課題を解決するための手段】
【0007】
上記の目的を達成するために、本発明の実施形態の内視鏡用画像処理装置は、所定の撮像素子により撮像された被写体の各画素の画素信号を処理する装置であり、撮像素子内の注目画素の画素信号を輝度成分と色成分とに分離する成分分離手段と、分離された輝度成分および色成分の少なくとも一方に基づいて注目画素に関する所定のパラメータを決定するパラメータ決定手段と、決定されたパラメータに基づいて注目画素に対して所定の空間フィルタ処理を施すことにより、注目画素のノイズを低減するノイズ低減手段とを備える。
【0008】
このような構成によれば、注目画素の画素信号に基づいて空間フィルタ処理に用いられるパラメータが決定される。そのため、パラメータを決定するために周辺画素を用いた複雑な計算を行う必要がなく、少ないハードウェアリソースで画素信号のノイズを低減(SN比を改善)することができる。
【0009】
また、ノイズ低減手段は、パラメータ決定手段により決定されたパラメータに基づいて、注目画素と注目画素の周辺の周辺画素について、色成分ごとに画素信号の加重平均を取ることにより、注目画素の画素信号に対して空間フィルタ処理を施してもよい。
【0010】
また、パラメータは、画素信号の加重平均が取られる周辺画素の数および周辺画素の注目画素に対する位置を示すサイズパラメータと、加重平均が取られる各画素信号の重みを示す強度パラメータとを含んでもよい。
【0011】
また、パラメータ決定手段は、色成分ごとに、全ての画素信号の平均値を計算し、計算された平均値に基づいてパラメータを決定してもよい。
【0012】
また、パラメータ決定手段は、各画素について、輝度成分と色成分との差を計算し、計算された差に基づいてパラメータを決定してもよい。
【0013】
また、パラメータ決定手段は、色成分ごとに、全ての画素信号の平均値を計算し、計算された平均値のみに基づいてサイズパラメータと強度パラメータのうちの一方を決定してもよい。
【0014】
このような構成によれば、色成分ごとに、全画素の画素信号の平均値のみに基づいて、空間フィルタ処理に用いられるパラメータのうちの一つが決定される。そのため、パラメータを決定するために周辺画素を用いた複雑な計算を行う必要がなく、少ないハードウェアリソースで画素信号のノイズを低減(SN比を改善)することができる。
【0015】
また、パラメータ決定手段は、各画素について、輝度成分と色成分との差を計算し、計算された差のみに基づいてサイズパラメータと強度パラメータのうちの他方を決定してもよい。
【0016】
このような構成によれば、各画素について、注目画素の画素信号のみに基づいて空間フィルタ処理に用いられるパラメータのうちの一つが決定される。そのため、パラメータを決定するために周辺画素を用いた複雑な計算を行う必要がなく、少ないハードウェアリソースで画素信号のノイズを低減(SN比を改善)することができる。
【0017】
本発明の実施形態の内視鏡システムは、上記の内視鏡用画像処理装置と、所定の撮像素子を有する電子スコープとを備える。
【発明の効果】
【0018】
本発明の実施形態によれば、少ないハードウェアリソースで画素信号のノイズを低減(SN比を改善)するのに好適な内視鏡用画像処理装置および内視鏡システムが提供される。
【発明を実施するための形態】
【0020】
以下、本発明の実施形態にかかる内視鏡システムについて説明する。
【0021】
図1は、本実施形態の内視鏡システム1の構成を示すブロック図である。
図1に示されるように、内視鏡システム1は、医療用の撮像システムであり、電子スコープ100、内視鏡プロセッサ200およびモニタ300を有している。
【0022】
電子スコープ100は、対物光学系101、撮像素子102、撮像素子ドライバ103、AFE(Analog Front End)104、照明光学系105およびライトガイド106を備えている。対物光学系101、撮像素子102および照明光学系105は、電子スコープ100の先端部100a内に設けられている。
【0023】
内視鏡プロセッサ200は、内視鏡用の画像処理装置が組み込まれており、システムコントローラ201、タイミングコントローラ202、光源203、光源ドライバ204、画像処理ユニット205、画像メモリ206、映像信号生成回路207およびフロントパネル208を備えている。画像処理ユニット205は、デモザイク処理回路205A、色調整回路205Bおよびノイズ除去回路205Cを含んでいる。内視鏡プロセッサ200は、特定の色成分が支配的となる被写体(例えば赤色が支配的な人の体腔内)を撮影するのに好適に構成されている。
【0024】
システムコントローラ201は、内視鏡システム1を構成する各要素を制御する。タイミングコントローラ202は、信号の処理タイミングを調整するクロックパルスを内視鏡システム1内の各回路に送信する。
【0025】
光源203は、光源ドライバ204によって駆動制御され、白色光を放射する。光源203には、キセノンランプ、ハロゲンランプ、水銀ランプ、メタルハライドランプ等の高輝度ランプが用いられる。光源203から放射された照明光はライトガイド106に入射され、電子スコープ100の先端部100aに向けてライトガイド106内を導波される。
【0026】
ライトガイド106内を導波された照明光は、先端部100a内に配置されたライトガイド106の端面より射出される。ライトガイド106の端面より射出された照明光は、照明光学系105を介して先端部100aから射出され、被写体を照明する。被写体で反射された照明光(反射光)は、対物光学系101を介して撮像素子102に入射され、撮像素子102が備える各画素の受光面上で被写体像を結ぶ。
【0027】
撮像素子102は、それぞれ赤(R)、緑(G)、青(B)のカラーフィルタを有する、R、G、Bの画素を備えている。各画素は、結像した被写体像を光量に応じた電荷として蓄積して、R、G、Bの各色に対応した画素信号(R画素信号、G画素信号、B画素信号)に変換する。変換された各画素信号は、AFE104によって信号増幅処理やA/D変換処理が施されて、内視鏡プロセッサ200の画像処理ユニット205に送信される。撮像素子102には、例えば、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサが用いられる。
【0028】
画像処理ユニット205で受信されたR、G、Bの画素信号は画像メモリ206に記憶される。画像処理ユニット205は、画像メモリ206内のワークスペース上で、各画素信号に対して画像処理を施す。画像処理には、デモザイク処理回路205Aによるデモザイク処理、色調整回路205Bによる色調整処理およびノイズ除去回路205Cによるノイズ除去処理が含まれる。
【0029】
デモザイク処理回路205Aは、各画素信号に対してデモザイク処理を施す。デモザイク処理回路205Aに入力される各画素の画素信号は、R、G、Bのうち、いずれか一つの色の情報しか有していない。デモザイク処理では、各画素の画素信号にR、G、Bの全ての色の情報を持たせる処理が行われる。
【0030】
デモザイク処理について、
図2を用いて説明する。
図2は、撮像素子102の受光面の一部を模式的に表したものである。
図2中、「R」、「G」、「B」はそれぞれ、R、G、Bの画素を示す。画素G1に対するデモザイク処理では、画素G1の周囲に配置されたRの画素(例えば、画素R1、画素R2)から出力される画素信号を用いた補間処理が行われる。また、画素G1の周囲に配置されたBの画素(例えば、画素B1、画素B2)から出力される画素信号を用いた補間処理が行われる。この補間処理によって求められたRの画素信号およびBの画素信号が画素G1の画素信号に加えられることにより、画素Gの画素信号にR、G、Bの全ての色の情報を持たせられる。これと同様に、全ての画素について、その周囲の画素の画素信号を用いた補間処理を行うことにより、全ての画素にR、G、Bの全ての色の情報を持たせられる。デモザイク処理が施された画素信号は、色調整回路205Bに送信される。
【0031】
色調整回路205Bは、デモザイク処理回路205Aから送信された画素信号に対し色調整処理を施す。色調整処理には、例えば、周知のマトリクス演算処理、ホワイトバランス調整処理、ガンマ補正処理などが含まれる。色調整処理が施された画素信号は、ノイズ除去回路205Cに送信される。ノイズ除去回路205Cは、色調整回路205Bから受信した画素信号に対して後述するノイズ除去処理(SN比改善処理)を施す。ノイズ除去処理が施された画素信号は、映像信号生成回路207に送信される。
【0032】
映像信号生成回路207は、画像処理ユニット205(ノイズ除去回路205C)から受信した画素信号を所定の形式(例えば、NTSC形式)の映像信号に変換し、モニタ300に送信する。モニタ300は、映像信号生成回路207から受信した映像信号に基づいて観察画像を表示する。
【0033】
次に、ノイズ除去回路205Cによるノイズ除去処理について詳細に説明する。ノイズ除去処理では、各画素の画素信号に対して空間フィルタ処理が施される。
図3は、撮像素子102の受光面の一部を模式的に表したものであり、空間フィルタ処理の一例を説明するための図である。
図3において、太実線で囲われた注目画素P1の画素信号に対して空間フィルタ処理を施す場合について説明する。注目画素P1の画素信号に対する空間フィルタ処理では、注目画素P1およびその周辺画素の画素信号の加重平均値が計算される。
図3に示される例では、注目画素P1を中心とする3×3の9個の周辺画素の画素信号の加重平均値が計算される。
図3の各画素に記載されている数値は、加重平均値における重みを表している。注目画素P1の画素信号の重みが最も大きく、次いで注目画素P1と上下左右のいずれかで接する周辺画素の画素信号の重みが大きい。また、9個の画素のうち、4隅に配置される周辺画素の画素信号の重みが最も小さい。なお、数値が記載されていない画素の画素信号は、加重平均値の計算には使用されない。以下では、説明の便宜上、加重平均値が計算される画素の範囲と各画素の画素信号の重みとを合わせて「空間フィルタ」と記す。注目画素P1の画素信号に対して空間フィルタ処理が施されると、空間フィルタによって規定される画素の範囲および重みに基づいて加重平均値が計算され、注目画素P1の画素信号が加重平均値に置き換えられる。
【0034】
各画素の画素信号には、デモザイク処理回路205Aによるデモザイク処理により、3つの色成分(R成分、G成分、B成分)が含まれている。そのため、空間フィルタ処理は、各色成分に対してそれぞれ独立に実行される。また、空間フィルタ処理は、全ての画素の画素信号に対してそれぞれ独立に実行される。
【0035】
空間フィルタによって規定される画素の数および配置(以下、「サイズパラメータ」と記す。)と、画素信号の重み(以下、「強度パラメータ」と記す。)は、各注目画素の画素信号に基づいて決定される。
図4に、空間フィルタのサイズパラメータおよび強度パラメータを決定するノイズ除去回路205Cの動作フローの一例をフローチャートで示す。
【0036】
ノイズ除去回路205Cによるノイズ除去処理が開始されると(S101)、全ての画素の画素信号が色成分と輝度成分に分離される(S102)。
【0037】
処理ステップS103では、分離された複数の色成分のうちの一つ(ここでは、R成分とする)について、平均値(全画素の平均値)が計算される。全画素のR成分の平均値が計算されると、予め所定の記憶領域に記憶されている複数のサイズパラメータの中から、平均値に応じたサイズパラメータが選択される(S104)。本実施形態では、R成分の平均値が所定の第1の閾値よりも大きいか否かによって2つのサイズパラメータの中から1つのサイズパラメータが選択される。
【0038】
サイズパラメータの選択について具体的に説明する。前提として、画素信号には、受光した光量に応じたレベルを有する信号成分と、信号成分に重畳されるノイズ成分とが含まれる。この種のノイズ成分には、例えば、撮像素子102に搭載されたアンプで生じるランダムノイズや暗電流に起因するショットノイズなどが含まれる。R成分の平均値が所定の第1の閾値よりも大きい場合、ノイズ成分に対してR成分のレベルが相対的に高くなりやすいことから、R成分のSN比は高いものと推定される。一方、R成分の平均値が所定の第1の閾値以下の場合、R成分に対するノイズ成分の割合が(前者よりも)高くなりやすいことから、R成分のSN比は(前者の場合と比べて)低いものと推定される。
【0039】
また、空間フィルタ処理では、サイズパラメータが大きいほど、加重平均値が取られる画素の数が増えるためSN比の改善効果は高くなる。しかし、サイズパラメータが大きいほど、空間フィルタ処理が施された画素信号に基づく被写体像のエッジが不鮮明となる。
【0040】
そこで、処理ステップS104では、R成分の平均値が所定の第1の閾値よりも大きい場合、小さいサイズパラメータが選択される。すなわち、SN比が高いと推定される画素に対しては、被写体像のエッジの低下を抑えるのに適したサイズパラメータが選択される。R成分の平均値が所定の第1の閾値以下の場合は、大きいサイズパラメータが選択される。すなわち、SN比が低いと推定される画素に対しては、SN比の改善効果の高いサイズパラメータが選択される。
【0041】
小さいサイズパラメータが選択された場合、例えば、注目画素を中心とした3×3の9個の画素の画素信号に基づいて注目画素の画素信号に対する空間フィルタ処理が施される。また、大きいサイズパラメータが選択された場合、例えば、注目画素を中心とした5×5の25個の画素の画素信号に基づいて注目画素の画素信号に対する空間フィルタ処理が施される。
【0042】
処理ステップS104において、各画素のR成分に対する空間フィルタのサイズパラメータが選択されると、全ての色成分に対して空間フィルタのサイズパラメータが選択されたか否かが判定される(S105)。サイズパラメータが選択されていない色成分が残っている場合(S105:NO)は、処理ステップS103に戻る。ここでは、R成分に次いで、残りの色成分(B成分、G成分)について、順次、処理ステップS103およびS104が実行される。
【0043】
このように、本実施形態の内視鏡システム1では、各注目画素の空間フィルタ処理のサイズパラメータは、画素毎ではなく、全画素の色成分の平均値に基づいて決定される。ここで、内視鏡システム1の主な観察対象は人の管腔内である。人の管腔内の色は、血液の色である赤が支配的であるため、いずれの注目画素においても、画素信号はR成分の割合が比較的大きくなる。また、当然のことながら、全画素のR成分の平均値も他の色成分よりも比較的大きくなる。そのため、各画素の空間フィルタ処理のサイズパラメータが全画素の平均値に基づいて決定されたとしても、色成分ごとに適したサイズパラメータが選択される。このように、全画素の色成分の平均値に基づいてサイズパラメータを決定することにより、サイズパラメータを決定するための計算負荷を小さくすることができる。
【0044】
全ての色成分に対して空間フィルタのサイズパラメータが選択されると(S105:YES)、本フローチャートの処理は、処理ステップS106に進む。処理ステップS106では、複数の画素の内の一つの画素について、画素信号の輝度成分と複数の色成分のうちの一つ(ここでは、R成分とする)との差(以下、「R成分差」と記す。)が計算される。R成分差が計算されると、予め所定の記憶領域に記憶されている複数の強度パラメータの中から、計算されたR成分差に応じた強度パラメータが選択される(S107)。本実施形態では、R成分差が所定の第2の閾値よりも大きいか否かによって2つの強度パラメータの中から1つの強度パラメータが選択される。なお、選択候補となる2つの強度パラメータは、処理ステップS104で選択されたサイズパラメータに応じて適宜変更される。
【0045】
強度パラメータは、サイズパラメータによって定義される画素群(注目画素およびその周辺画素)の各画素信号の重みを示すものである。強度パラメータが小さいほど注目画素の画素信号の重みが大きくなると共に注目画素に近い周辺画素ほど重みが大きくなる。一方、強度パラメータが大きいほど注目画素の画素信号の重みが小さくなり且つ注目画素から遠い周辺画素の重みが大きくなる。これにより、各画素の画素信号間の重みの差が小さくなる。空間フィルタ処理では、強度パラメータが大きいほど周辺画素による補間効果が高くなるため、SN比の改善効果が高い。しかし、強度パラメータが大きいほど、空間フィルタ処理が施された画素信号に基づく被写体像のエッジが不鮮明となる。
【0046】
ここで、輝度成分は、各色成分を所定の割合で足し合わせたものである。そのため、R成分差が大きい場合、画素信号におけるR成分の割合が低い。そこで、処理ステップS107では、R成分差が所定の第2の閾値よりも大きい場合、大きい強度パラメータが選択される。すなわち、画素信号内の割合が低いR成分に対しては、SN比の改善効果の高い強度パラメータが選択される。このとき、R成分の割合が低いことから、R成分に基づく被写体像のエッジが不鮮明となっても、R、G、Bの全ての画素信号に基づく被写体像のエッジの鮮明さに与える影響は小さい。
【0047】
一方、R成分差が小さい場合、画素信号におけるR成分の割合が高い。そこで、処理ステップS107では、R成分差が所定の第2の閾値以下の場合、小さい強度パラメータが選択される。すなわち、画素信号内の割合が高いR成分に対しては、被写体像のエッジの鮮明さの低下を抑えるのに適した強度パラメータが選択される。
【0048】
図5(a)〜
図5(d)は、空間フィルタの具体例を説明するための図である。
図5(a)〜
図5(d)には、太実線で囲われた注目画素P2に対する空間フィルタが示されている。
図5(a)には、サイズパラメータが小さく、強度パラメータが小さい場合の空間フィルタが示されている。
図5(b)には、サイズパラメータが小さく、強度パラメータが大きい場合の空間フィルタが示されている。
図5(c)には、サイズパラメータが大きく、強度パラメータが小さい場合の空間フィルタが示されている。
図5(d)には、サイズパラメータが大きく、強度パラメータが大きい場合の空間フィルタが示されている。
【0049】
図5(a)〜
図5(d)に示されるように、サイズパラメータが大きいほど、画素信号の加重平均値が計算される画素の数が増加する。また、強度パラメータが大きいほど、注目画素P2の画素信号の重みが小さくなり、その周辺画素の画素信号の重みが相対的に大きくなる。また、サイズパラメータが大きくなるほど又は強度パラメータが大きくなるほど、周辺画素による補間効果が高くなるため、SN比が改善される。なお、
図5(a)〜
図5(d)に示される各画素の画素信号の重みは一例であってこれに限定されない。例えば、各画素の画素信号の重みは周知のガウシアンフィルタを用いて決定されてもよい。
【0050】
処理ステップS107において、R成分に対する空間フィルタの強度パラメータが選択されると、全ての色成分に対して空間フィルタの強度パラメータが選択されたか否かが判定される(S108)。強度パラメータが選択されていない色成分が残っている場合(S108:NO)は、処理ステップS106に戻る。ここでは、R成分に次いで、残りの色成分(B成分、G成分)について、順次、処理ステップS106およびS107が実行される。全ての色成分に対して空間フィルタの強度パラメータが選択されると(S108:YES)、全ての画素について強度パラメータが選択されたか否かが判定される(S109)。
【0051】
強度パラメータが選択されていない画素が残っている場合(S109:NO)は、処理ステップS106に戻り、次の画素に対して処理ステップS106およびS107が実行される。一方、全ての画素について強度パラメータが選択されると(S109:YES)、各画素のR成分、G成分、B成分に対して、選択された空間フィルタ(サイズパラメータおよび強度パラメータ)を用いた空間フィルタ処理が施される(S110)。空間フィルタ処理が施されると、ノイズ除去回路205Cによるノイズ除去処理(SN比改善処理)が終了する。
【0052】
このように、本実施形態では、各画素に対する空間フィルタのサイズパラメータおよび強度パラメータは、その画素の画素信号および全画素の画素信号の平均値のみに基づいて決定(選択)される。
【0053】
本実施形態の内視鏡システム1を用いて人の管腔内を観察する場合、画素信号の各色成分のうち、R成分の平均値は所定の第1の閾値よりも大きくなりやすく、B成分およびG成分の平均値は所定の第1の閾値以下になりやすい。また、R成分差は所定の第2の閾値以下になりやすく、B成分差およびG成分差は所定の第2の閾値よりも大きくなりやすい。そのため、R成分に対しては小さなサイズパラメータおよび小さな強度パラメータが選択され、ノイズ除去処理による画素信号のR成分に基づく被写体像のエッジの鮮明さの低下が抑えられる。また、B成分およびG成分に対しては大きなサイズパラメータおよび大きな強度パラメータが選択され、ノイズ除去処理により画素信号のB成分およびG成分に基づく被写体像のSN比が改善される。これにより、ノイズ除去処理が施された画素信号は、支配的な色(体腔内の場合は赤色)のエッジの鮮明さが維持されると共に、SN比が改善される。
【0054】
また、全画素の平均値の計算は、計算方法が簡素であるため計算負荷が小さい。また、本実施形態では、従来技術のように、計算負荷が比較的大きい画素信号の骨格成分と残差成分への成分分離処理や各画素と周辺画素との相関処理を行っていない。そのため、本実施形態によれば、画素信号に対して少ないハードウェアリソースでノイズ低減処理を実行することができる。
【0055】
以上が本発明の実施形態の説明である。本発明は、上記の構成に限定されるものではなく、本発明の技術的思想の範囲において様々な変形が可能である。
【0056】
例えば、本実施形態では、サイズパラメータ、強度パラメータはそれぞれ、
図5(a)〜
図5(b)に示されるように、2つのパターンのいずれかから選択されるが、本発明はこれに限定されない。サイズパラメータ、強度パラメータはそれぞれ、3パターン以上の中から選択されてもよい。
【0057】
また、本実施形態では、サイズパラメータは画素信号の平均値に基づいて選択され、強度パラメータは画素信号の輝度成分と色成分との差に基づいて選択されるが、本発明はこれに限定されない。サイズパラメータは画素信号の輝度成分と色成分との差に基づいて選択されてもよい。また、強度パラメータは画素信号の平均値に基づいて選択されてもよい。また、サイズパラメータは一定で、強度パラメータのみが複数の強度パラメータの中から選択されてもよい。また、強度パラメータは一定で、サイズパラメータのみが複数のサイズパラメータの中から選択されてもよい。
【0058】
また、本実施形態では、サイズパラメータおよび強度パラメータは、予め記憶されているが、本発明はこれに限定されない。サイズパラメータは画素信号の平均値を用いた計算によって算出されてもよい。また、強度パラメータは画素信号の輝度成分と色成分との差を用いた計算によって算出されてもよい。
【0059】
また、
図4に示されるフローチャートの処理ステップS102では、画素信号は、色成分と輝度成分に分離されるが、本発明はこれに限定されない。例えば、画素信号は、色成分と輝度成分に分離される代わりに、色差成分と輝度成分に分離されてもよい。内視鏡プロセッサ200とモニタ300との間の信号伝送方式によっては、映像信号は色差信号と輝度成分を含む場合がある。この場合、画像処理ユニット205は、ノイズ除去回路205Cでノイズ除去処理が行われる前に、R、G、Bの画素信号を所定の色空間(例えば、YUV色空間、YCbCr色空間など)に従って色差信号と輝度信号とに分離する。空間フィルタのサイズパラメータや強度パラメータは、この色差成分と輝度成分を用いて決定されてもよい。
【0060】
また、撮像素子102は、それぞれ赤(R)、緑(G)、青(B)のカラーフィルタを有する、R、G、Bの画素を備えているが、本発明はこれに限定されない。例えば、撮像素子102は、それぞれ緑(G)、シアン(Cy)、マゼンタ(Mg)、イエロー(Ye)のカラーフィルタを有する、G、Cy、Mg、Yeの画素を備えていてもよい。この場合、各画素信号に対してデモザイク処理が施された後、色変換処理が施されてR、G、Bの色の情報を有する画素信号が生成される。