(58)【調査した分野】(Int.Cl.,DB名)
前記報知部は、前記比較処理の結果、前記第1診断時の位置情報と前記第2診断時の位置情報とがマッチングせず、且つ、前記第1診断時の検出対象の画像的特徴量と前記第2診断時の検出対象の画像的特徴量とがマッチングしないと判定された場合に、前記検出対象の見落としの報知を行う請求項1または2記載の内視鏡システム。
前記識別情報取得部による識別情報の取得を、前記第1診断時識別情報としての取得から、前記第2診断時識別情報としての取得に切り替える識別情報切替部を有する請求項1ないし5いずれか1項記載の内視鏡システム。
【発明を実施するための形態】
【0018】
[第1実施形態]
図1に示すように、内視鏡システム10は、内視鏡12と、光源装置14と、プロセッサ装置16と、モニタ18(表示部)と、コンソール19とを有する。内視鏡12は、光源装置14と光学的に接続し、かつ、プロセッサ装置16と電気的に接続する。内視鏡12は、被検体内に挿入する挿入部12aと、挿入部12aの基端部分に設けた操作部12bと、挿入部12aの先端側に設けた湾曲部12c及び先端部12dを有している。操作部12bのアングルノブ13aを操作することにより、湾曲部12cが湾曲動作する。この湾曲動作によって、先端部12dが所望の方向に向けられる。
【0019】
また、操作部12bには、アングルノブ13aの他、静止画像の取得操作に用いる静止画像取得部13b、観察モードの切り替え操作に用いるモード切替部13c、ズーム倍率の変更操作に用いるズーム操作部13d、識別情報切替部13eを設けている。静止画像取得部13bは、モニタ18に観察対象の静止画像を表示するフリーズ操作と、ストレージに静止画像を保存するレリーズ操作が可能である。
【0020】
内視鏡システム10は、観察モードとして、通常モードと、特殊モードと、検出対象見落とし防止モードとを有している。観察モードが通常モードである場合、複数色の光を通常モード用の光量比Lcで合波した通常光を発光するとともに、この通常光で照明中の観察対象を撮像して得られた画像信号に基づき、通常画像をモニタ18に表示する。また、観察モードが特殊モードである場合、複数色の光を特殊モード用の光量比Lsで合波した特殊光を発光するとともに、この特殊光で照明中の観察対象を撮像して得られた画像信号に基づき、特殊画像をモニタ18に表示する。
【0021】
また、観察モードが検出対象見落とし防止モードである場合、通常光と特殊光を交互に発光する。そして、通常光で照明中の観察対象を撮像して得られる通常画像を、主要表示画像として、モニタ18に表示するとともに、特殊光で照明中の観察対象を撮像して得られる特殊画像を、副表示画像として、モニタ18に表示する。また、検出対象見落とし防止モードでは、検出対象の見落としが有るかどうかの判定を行い、その判定結果を主要表示画像又は副表示画像中に表示する。なお、主要表示画像の表示又は非表示、副表示画像の表示又は非表示は、適宜設定可能である。
【0022】
プロセッサ装置16は、モニタ18及びコンソール19と電気的に接続する。モニタ18は、観察対象の画像や、画像に付帯する情報等を出力表示する。コンソール19は、関心領域(ROI : Region Of Interest)の指定等や機能設定等の入力操作を受け付けるユーザインタフェースとして機能する。
【0023】
図2に示すように、光源装置14は、観察対象の照明に用いる照明光を発する光源部20と、光源部20を制御する光源制御部22とを備えている。光源部20は、複数色のLED(Light Emitting Diode)等の半導体光源である。光源制御部22は、LED等のオン/オフや、LED等の駆動電流や駆動電圧の調整によって、照明光の発光量を制御する。また、光源制御部22は、光学フィルタの変更等によって、照明光の波長帯域を制御する。
【0024】
第1実施形態では、光源部20は、V−LED(Violet Light Emitting Diode)20a、B−LED(Blue Light Emitting Diode)20b、G−LED(Green Light Emitting Diode)20c、及びR−LED(Red Light Emitting Diode)20dの4色のLEDと、波長カットフィルタ23とを有している。
図3に示すように、V−LED20aは、波長帯域380nm〜420nmの紫色光Vを発する。
【0025】
B−LED20bは、波長帯域420nm〜500nmの青色光Bを発する。B−LED23bから出射した青色光Bのうち少なくともピーク波長の450nmよりも長波長側は、波長カットフィルタ23によりカットされる。これにより、波長カットフィルタ23を透過した後の青色光Bxは、420〜460nmの波長範囲になる。このように、460nmよりも長波長側の波長域の光をカットしているのは、この460nmよりも長波長側の波長域の光は、観察対象である血管の血管コントラストを低下させる要因であるためである。なお、波長カットフィルタ23は、460nmよりも長波長側の波長域の光をカットする代わりに、460nmよりも長波長側の波長域の光を減光させてもよい。
【0026】
G−LED20cは、波長帯域が480nm〜600nmに及ぶ緑色光Gを発する。R−LED20dは、波長帯域が600nm〜650nmに及び赤色光Rを発する。なお、各LED20a〜20dから発せられる光は、それぞれの中心波長とピーク波長とが同じであっても良いし、異なっていても良い。
【0027】
光源制御部22は、各LED20a〜20dの点灯や消灯、及び点灯時の発光量等を独立に制御することによって、照明光の発光タイミング、発光期間、光量、及び分光スペクトルの調節を行う。光源制御部22における点灯及び消灯の制御は、観察モードごとに異なっている。なお、基準の明るさは光源装置14の明るさ設定部又はコンソール19等によって設定可能である。
【0028】
通常モードの場合、光源制御部22は、V−LED20a、B−LED20b、G−LED20c、及びR−LED20dを全て点灯させる。その際、
図4に示すように、紫色光V、青色光B、緑色光G、及び赤色光R間の光量比Lcは、青色光Bxの光強度のピークが、紫色光V、緑色光G、及び赤色光Rのいずれの光強度のピークよりも大きくなるように、設定されている。これにより、通常モードでは、光源装置14から、紫色光V、青色光Bx、緑色光G、及び赤色光Rを含む通常モード用の多色光が、通常光として発せられる。通常光は、青色帯域から赤色帯域まで一定以上の強度を有しているため、ほぼ白色となっている。
【0029】
特殊モードの場合、光源制御部22は、V−LED20a、B−LED20b、G−LED20c、及びR−LED20dを全て点灯させる。その際、
図5に示すように、紫色光V、青色光B、緑色光G、及び赤色光R間の光量比Lsは、紫色光Vの光強度のピークが、青色光Bx、緑色光G、及び赤色光Rのいずれの光強度のピークよりも大きくなるように、設定されている。また、緑色光G及び赤色光Rの光強度のピークは、紫色光V及び青色光Bxの光強度のピークよりも小さくなるように、設定されている。これにより、特殊モードでは、光源装置14から、紫色光V、青色光Bx、緑色光G、及び赤色光Rを含む特殊モード用の多色光が、特殊光として発せられる。特殊光は、紫色光Vが占める割合が大きいことから、青みを帯びた光となっている。なお、特殊光は、4色全ての光が含まれていなくてもよく、4色のLED20a〜20dのうち少なくとも1色のLEDからの光が含まれていればよい。
【0030】
検出対象見落とし防止モードの場合、光源制御部22は、通常光と特殊光が、1フレームごとに交互に発光されるように、V−LED20a、B−LED20b、G−LED20c、及びR−LED20dを制御する。即ち、光源制御部22は、紫色光V、青色光B、緑色光G、及び赤色光R間の光量比を光量比Lcと光量比Lsを、1フレームごとに交互に切り替える制御を行う。
【0031】
図2に示すように、光源部20が発した照明光は、ミラーやレンズ等で形成される光路結合部(図示しない)を介して、挿入部12a内に挿通したライトガイド24に入射する。ライトガイド24は、内視鏡12及びユニバーサルコードに内蔵され、照明光を内視鏡12の先端部12dまで伝搬する。ユニバーサルコードは、内視鏡12と光源装置14及びプロセッサ装置16とを接続するコードである。なお、ライトガイド24としては、マルチモードファイバを使用することができる。一例として、ライトガイド24には、コア径105μm、クラッド径125μm、外皮となる保護層を含めた径がφ0.3mm〜φ0.5mmの細径なファイバケーブルを使用することができる。
【0032】
内視鏡12の先端部12dには、照明光学系30aと撮像光学系30bとを設けている。照明光学系30aは、照明レンズ32を有している。この照明レンズ32を介して、ライトガイド24を伝搬した照明光によって観察対象を照明する。撮像光学系30bは、対物レンズ34と、拡大光学系36と、撮像センサ38とを有している。これら対物レンズ34及び拡大光学系36を介して、観察対象からの反射光、散乱光、及び蛍光等の各種の光が撮像センサ38に入射する。これにより、撮像センサ38に観察対象の像が結像する。
【0033】
拡大光学系36は、観察対象を拡大するズームレンズ36aと、ズームレンズ36aを光軸方向CLに移動させるレンズ駆動部36bとを備えている。ズームレンズ36aは、レンズ駆動部36bによるズーム制御に従って、テレ端とワイド端の間で自在に移動させることで、撮像センサ38に結像する観察対象を拡大又は縮小させる。
【0034】
撮像センサ38は、照明光が照射された観察対象を撮像するカラー撮像センサである。撮像センサ38の各画素には、R(赤色)カラーフィルタ、G(緑色)カラーフィルタ、B(青色)カラーフィルタのいずれかが設けられている。撮像センサ38は、Bカラーフィルタが設けられているB画素で紫色から青色の光を受光し、Gカラーフィルタが設けられているG画素で緑色の光を受光し、Rカラーフィルタが設けられているR画素で赤色の光を受光する。そして、各色の画素から、RGB各色の画像信号を出力する。撮像センサ38は、出力した画像信号を、CDS回路40に送信する。
【0035】
通常モードにおいては、撮像センサ38は、通常光が照明された観察対象を撮像することにより、B画素からBc画像信号を出力し、G画素からGc画像信号を出力し、R画素からRc画像信号を出力する。また、特殊モードにおいては、撮像センサ38は、特殊光が照明された観察対象を撮像することにより、B画素からBs画像信号を出力し、G画素からGs画像信号を出力し、R画素からRs画像信号を出力する。また、検出対象見落とし防止モードにおいては、撮像センサ38は、通常光が照明された観察対象を撮像したときに、B画素、G画素、R画素からBc画像信号、Gc画像信号、Rc画像信号を出力し、特殊光が照明された観察対象を撮像したときに、B画素、G画素、R画素からBs画像信号、Gs画像信号、Rs画像信号を出力する。
【0036】
撮像センサ38としては、CCD(Charge Coupled Device)撮像センサやCMOS(Complementary Metal-Oxide Semiconductor)撮像センサ等を利用可能である。また、RGBの原色のカラーフィルタを設けた撮像センサ38の代わりに、C(シアン)、M(マゼンタ)、Y(イエロー)及びG(緑)の補色フィルタを備えた補色撮像センサを用いても良い。補色撮像センサを用いる場合には、CMYGの4色の画像信号を出力する。このため、補色−原色色変換によって、CMYGの4色の画像信号をRGBの3色の画像信号に変換することにより、撮像センサ38と同様のRGB各色の画像信号を得ることができる。また、撮像センサ38の代わりに、カラーフィルタを設けていないモノクロセンサを用いても良い。
【0037】
CDS回路40は、撮像センサ38から受信したアナログの画像信号に、相関二重サンプリング(CDS:Correlated Double Sampling)を行う。CDS回路40を経た画像信号はAGC回路42に入力される。AGC回路40は、入力された画像信号に対して、自動利得制御(AGC:Automatic Gain Control)を行う。A/D(Analog to Digital)変換回路44は、AGC回路42を経たアナログ画像信号を、デジタルの画像信号に変換する。A/D変換回路44は、A/D変換後のデジタル画像信号を、プロセッサ装置16に入力する。
【0038】
また、
図6に示すように、内視鏡12の挿入部12aの外周面には、体内への挿入部12aの挿入長を測定するための測定用目盛り46が設けられている。この測定用目盛り46は、挿入部12aの長手方向に沿って所定ピッチ(例えば、1cm刻み)で設けられた点から構成される。この測定用目盛り46は、患者の口(上部内視鏡の場合)や肛門(下部内視鏡の場合)に設けられた目盛り検出センサ48で検出され、目盛り検出センサ48はプロセッサ装置16と有線又は無線で接続されており、目盛り検出センサ48での検出情報は、プロセッサ装置16に送信される。プロセッサ装置16の位置情報算出部70aでは、目盛り検出センサ48での検出結果に基づいて、体腔内における挿入部12aの位置情報を算出する。
【0039】
なお、
図6では、目盛り検出センサ48が、患者が口に咥えているマウスピースMPに設けられていることを示している。また、測定用目盛り46、目盛り検出センサ48を用いて、位置情報を算出しているが、挿入部の先端部12dに磁気センサ(図示しない)を設け、この磁気センサで得た情報に基づいて、位置情報算出部70aにより位置情報を算出するようにしてもよい。
【0040】
図2に示すように、プロセッサ装置16は、画像信号取得部50と、DSP(Digital Signal Processor)52と、ノイズ低減部54と、画像処理部56と、表示制御部58とを備えている。
【0041】
画像信号取得部50は、内視鏡12から、観察モードに対応したデジタル画像信号を取得する。通常モードの場合には、Bc画像信号、Gc画像信号、Rc画像信号を取得する。特殊モードの場合には、Bs画像信号、Gs画像信号、Rs画像信号を取得する。検出対象見落とし防止モードの場合には、通常光の照明時に1フレーム分のBc画像信号、Gc画像信号、Rc画像信号を取得し、特殊光の照明時に1フレーム分のBs画像信号、Gs画像信号、Rs画像信号を取得する。
【0042】
DSP52は、画像信号取得部50が取得した画像信号に対して、欠陥補正処理、オフセット処理、DSP用ゲイン補正処理、リニアマトリクス処理、ガンマ変換処理、及びデモザイク処理等の各種信号処理を施す。欠陥補正処理は、撮像センサ38の欠陥画素の信号を補正する。オフセット処理は、欠陥補正処理した画像信号から暗電流成分を除き、正確なゼロレベルを設定する。DSP用ゲイン補正処理は、オフセット処理した画像信号に特定のDSP用ゲインを乗じることにより信号レベルを整える。
【0043】
リニアマトリクス処理は、DSP用ゲイン補正処理した画像信号の色再現性を高める。ガンマ変換処理は、リニアマトリクス処理した画像信号の明るさや彩度を整える。ガンマ変換処理した画像信号には、デモザイク処理(等方化処理、又は同時化処理とも言う)を施すことによって、各画素で不足した色の信号を補間によって生成する。このデモザイク処理によって、全画素がRGB各色の信号を有するようになる。ノイズ低減部54は、DSP52でデモザイク処理等を施した画像信号に対して、例えば、移動平均法やメディアンフィルタ法等によるノイズ低減処理を施し、ノイズを低減する。ノイズ低減後の画像信号は画像処理部56に入力される。
【0044】
画像処理部56は、通常モード用処理部60と、特殊モード用処理部62と、検出対象見落とし防止モード用処理部64を備えている。通常モード用処理部60は、通常モードに設定されている場合に作動し、受信したBc画像信号、Gc画像信号、Rc画像信号に対して、色変換処理、色彩強調処理、及び構造強調処理を行う。色変換処理では、RGB画像信号に対して3×3のマトリックス処理、階調変換処理、及び3次元LUT(Look Up Table)処理などにより色変換処理を行う。
【0045】
色彩強調処理は、色変換処理済みのRGB画像信号に対して行われる。構造強調処理は、観察対象の構造を強調する処理であり、色彩強調処理後のRGB画像信号に対して行われる。上記のような各種画像処理等を行うことによって、通常画像が得られる。通常画像は、紫色光V、青色光Bx、緑色光G、赤色光Rがバランス良く発せられた通常光に基づいて得られた画像であるため、自然な色合いの画像となっている。通常画像は、表示制御部58に入力される。
【0046】
特殊モード用処理部62は、特殊モードに設定されている場合に作動する。特殊モード用処理部62では、受信したBs画像信号、Gs画像信号、Rs画像信号に対して、色変換処理、色彩強調処理、及び構造強調処理を行う。色変換処理、色彩強調処理、及び構造強調処理の処理内容は、通常モード用処理部60と同様である。上記のような各種画像処理を行うことによって、特殊画像が得られる。特殊画像は、血管のヘモグロビンの吸収係数が高い紫色光Vが、他の色の青色光Bx、緑色光G、赤色光Rよりも大きい発光量となっている特殊光に基づいて得られた画像であるため、血管構造や腺管構造の解像度が他の構造よりも高くなっている。特殊画像は表示制御部58に入力される。
【0047】
検出対象見落とし防止モード用処理部64は、検出対象見落とし防止モードに設定されている場合に作動する。検出対象見落とし防止モード用処理部64では、受信したBs画像信号、Gs画像信号、Rs画像信号に基づく画像から画像的特徴量を検出する処理を自動で行うとともに、管腔内における位置情報を取得する処理を行う。これら画像的特徴量と位置情報は、検出対象の検出に用いられる識別情報であり、識別情報としては、第1診断時に得られる第1診断時識別情報と、第1診断時と異なる第2診断時に得られる第2診断時識別情報とがある。第1診断時識別情報又は第2診断時識別情報のいずれで取得するかの切替操作は、識別情報切替部13eにより行われる。
【0048】
検出対象見落とし防止モード用処理部64は、第1診断時識別情報と前記第2診断時識別情報との比較処理を行い、その比較処理の結果、第1診断時と第2診断時において検出対象の見落としがあると判定された場合に、その旨を報知する。また、検出対象見落とし防止モード用処理部64は、Bc画像信号、Gc画像信号、Rc画像信号から主要表示画像を生成するとともに、Bs画像信号、Gs画像信号、Rs画像信号から副表示画像を生成する。なお、検出対象見落とし防止モード用処理部64の詳細については、後述する。
【0049】
表示制御部58は、画像処理部56からの画像やデータをモニタ18に表示するための表示制御を行う。通常モードに設定されている場合には、表示制御部58は、通常画像をモニタ18に表示する制御を行う。特殊モードに設定されている場合には、表示制御部58は、特殊画像をモニタ18に表示する制御を行う。検出対象見落とし防止モードに設定されている場合には、表示制御部58は、主要表示画像又は副表示画像をモニタ18に表示する制御を行うとともに、検出対象の見落としに関するガイダンスを主要表示画像又は副表示画像をモニタ18に表示し、又はモニタ18から音声を発する制御を行う。
【0050】
図7に示すように、検出対象見落とし防止モード用処理部64は、識別情報取得部70と、識別情報記憶部72と、比較処理部74と、報知制御部76とを備えている。識別情報取得部70は、目盛り検出センサ48での検出結果に基づいて位置情報を算出する位置情報算出部70aと、Bs画像信号、Gs画像信号、Rs画像信号のうち少なくとも1つの画像信号から画像的特徴量を自動で検出する画像的特徴量検出部70bと、検出した画像的特徴量が検出対象特有の画像的特徴量に該当するか否かの判定を行う病変判定部70cとを備えている。なお、病変判定部70cでは、例えば、検出対象特有の画像的情報として、検出対象のテンプレート画像特徴量を複数予め記憶させておき、人工知能(AI(Artificial Intelligence))などを用いて、抽出した画像的特徴量がテンプレート画像特徴量とマッチングするか否かの判定を行う。ここで、「マッチング」とは、比較する画像的特徴量がそれぞれ一致する他、比較する画像的特徴量の差分が一定の範囲内に収まっていることも含まれる。
【0051】
識別情報取得部70は、識別情報切替部13eにより「第1診断時識別情報の取得」に設定されており、且つ病変判定部70cにおいて検出した画像的特徴量が検出対象特有の画像的特徴量に該当すると判定した場合に、その画像的特徴量とその時点での位置情報を、第1診断時識別情報として識別情報記憶部72に記憶する。
【0052】
一方、識別情報取得部70は、識別情報切替部13eにより「第2診断時識別情報の取得」に設定されており、病変判定部70cにおいて検出した画像的特徴量が検出対象特有の画像的特徴量に該当しないと判定した場合であっても、位置情報算出部70aに位置情報を算出する毎に、その算出した位置情報を第2診断時識別情報として、比較処理部74に送信する。また、識別情報取得部70は、識別情報切替部13eにより「第2診断時識別情報の取得」に設定されており、且つ、病変判定部70cにおいて検出した画像的特徴量が検出対象特有の画像的特徴量に該当すると判定した場合には、その画像的特徴量とその時点での位置情報を、第2診断時識別情報として比較処理部74に送信する。
【0053】
比較処理部74では、識別情報切替部13eにより「第2診断時識別情報の取得」に設定されている場合に、識別情報記憶部72に記憶された第1診断時識別情報と、第2診断時識別情報との比較処理を行う。比較処理においては、第1診断時識別情報に含まれる第1診断時の位置情報と、第2診断時識別情報に含まれる第2診断時の位置情報とを比較処理する位置情報比較処理と、第1診断時識別情報に含まれる第1診断時の画像的特徴量と第2診断時識別情報に含まれる第2診断時の画像的特徴量とを比較処理する画像的特徴量比較処理の2つの処理が行われる。
【0054】
図8に示すように、位置情報比較処理において、第1診断時の位置情報と第2診断時の位置情報とがマッチングし、且つ画像的特徴量比較処理において、第1診断時の画像的特徴量と第2診断時の画像的特徴量とがマッチングした場合には、「検出対象の見落とし無し」との判定がなされる。一方、第1診断時の位置情報と第2診断時の位置情報とがマッチングする一方で、画像的特徴量比較処理において、第1診断時の画像的特徴量と第2診断時の画像的特徴量とがマッチングしなかった場合には、「第2診断時に検出対象の見落としの可能性有り」との判定がなされる。なお、「画像的特徴量がマッチングする」とは、比較する画像的特徴量がそれぞれ一致する他、比較する画像的特徴量の差分が一定の範囲内に収まっていることも含まれる。また、「位置情報がマッチングする」とは、比較する位置がそれぞれ一致する他、比較する位置の差分が一定の範囲内に収まっていることも含まれる。
【0055】
また、第1診断時の位置情報と第2診断時の位置情報とがマッチングせず、且つ画像的特徴量比較処理において、第1診断時の画像的特徴量と第2診断時の画像的特徴量とがマッチングしない場合には、「第1診断時に検出対象の見落とし無し」との判定がなされる。
【0056】
図9に示すように、内視鏡12の挿入部12aが胃、食道、大腸などの管腔内の同一経路を往復する場合において、往路を第1診断時とし、復路を第2診断時とした場合の比較処理の具体例について説明する。往路の第1診断時では、識別情報切替部13eにより「第1診断時識別情報の取得」に設定する。そして、この往路の第1診断時において、例えば、識別情報取得部70が、検出対象K、検出対象L、検出対象M、検出対象Nの4つの検出対象の識別情報を取得し、それぞれの識別情報を識別情報記憶部72に記憶する。ここで、検出対象Kは、第1診断時識別情報として、位置情報XK、画像的特徴量YKを有している。検出対象Lは、第1診断時識別情報として、位置情報XL、画像的特徴量YLを有している。検出対象Mは、第1診断時識別情報として、位置情報XM、画像的特徴量YMを有している。検出対象Nは、第1診断時識別情報として、位置情報XN、画像的特徴量YNを有している。
【0057】
挿入部の先端部12dが往路の終端まで達したら、識別情報切替部13eを操作して、識別情報切替部13eにより「第2診断時識別情報の取得」に切り替える。そして、復路の第2診断時において、往路と同じ経路に沿って、挿入部の先端部12dを引き返させる。第2診断時においては、識別情報取得部70にて検出対象の画像的特徴量を検出したときだけでなく、位置情報算出部70aで位置情報を算出する毎に、比較処理部74にて第1診断時識別情報と第2診断時識別情報の比較処理を行う。
【0058】
例えば、復路の第2診断時に位置情報XMを取得し、且つ、その位置において検出対象Mの画像的特徴量YMが検出されたときには、比較処理において、第1診断時と第2診断時に取得した位置情報XMと画像的特徴量YMの両方がマッチングする。この場合には、「検出対象の見落とし無し」との判定を行う。同様にして、復路の第2診断時に位置情報XKを取得し、且つその位置において検出対象Kの画像的特徴量YKが検出されたときにも、「検出対象の見落とし無し」との判定を行う。
【0059】
これに対して、復路の第2診断時に位置情報XNを取得し、その位置において検出対象Nの画像的特徴量が検出されなかった場合には、比較処理において、位置情報がマッチングし、画像的特徴量がマッチングしないことになる。この場合には、第1診断時に検出した検出対象Nを第2診断時に見落としていることから、「第2診断時に検出対象の見落とし有り」との判定を行う。また、復路の第2診断時に位置情報XLを取得し、その位置において検出対象Lの画像的特徴量が検出されなかった場合には、第1診断時に検出した検出対象Lを第2診断時に見落としていることから、「第2診断時に検出対象の見落とし有り」との判定を行う。
【0060】
また、復路の第2診断時に位置情報Xpを取得し、その位置において検出対象Pの画像的特徴量Ypが検出された場合には、比較処理において、位置情報と画像的特徴量のいずれもマッチングしないことになる。この場合には、第1診断時において検出対象Pを見落としていることから、「第1診断時に検出対象の見落とし有り」との判定を行う。また、復路の第2診断時に位置情報Xqを取得し、その位置において検出対象Qの画像的特徴量Yqが検出された場合には、第1診断時において検出対象Qを見落としていることから、「第1診断時に検出対象の見落とし有り」との判定を行う。
【0061】
報知制御部76は、表示制御部58を介して、検出対象の検出や検出対象の見落としなどの検出対象に関する情報を報知する制御を行う。報知制御部76は、Bc画像信号、Gc画像信号、Rc画像信号から主要表示画像を生成するとともに、Bs画像信号、Gs画像信号、Rs画像信号から副表示画像を生成する。生成された主要表示画像と副表示画像は、
図10に示すように、表示制御部58を介して、モニタ18に表示される。なお、
図10では、主要表示画像を副表示画像よりも大きく表示しているが、反対に副表示画像を主要表示画像よりも大きく表示してもよい。また、主要表示画像と副表示画像のうちいずれか一方の画像のみを表示するようにしてもよい。また、副表示画像を2つ並べて表示しているが、これに限らず、1又は3以上の副表示画像を表示するようにしてもよい。
【0062】
報知制御部76は、病変判定部70cにおいて検出対象の画像的特徴量を検出した場合には、副表示画像において検出対象の位置に、□、○、矢印などのインジケータ(
図10では、インジケータとして□を表示)を重ねて表示する制御を行う。これにより、ユーザーは、検出対象の位置を認識することが可能である。なお、インジケータは、副表示画像に代えて又は加えて、主要表示画像に重ねて表示してもよい。また、インジケータに代えて又は加えて、検出対象を検出したことを報知するための警告音をモニタ18のスピーカーから発するようにしてもよい。
【0063】
また、インジケータによる表示は静止画上のみではなく、動画表示時にも、一度検出した病変の画像的特徴を頼りとして、移動中の病変を自動追従し、それに合わせてインジケータを表示するようにしてもよい。さらに、診断を容易にするためのインジゴカルミンやメチレンブルーなど各種の色素材が散布される際には、病変本来の色情報は失われるが、所定の検出対象の表面構造や血管構造を頼りに自動検出を行って、インジケータによる表示を行うことが好ましい。また、病変など検出対象が検出されたときには、その都度、検出対象の静止画を自動で撮像し、ログ情報として自動保存してもよい。
【0064】
また、報知制御部76は、比較処理部74にて「第1診断時に検出対象の見落とし有り」又は「第2診断時に検出対象の見落とし有り」との判定が行われた場合には、それら半径結果を、警告メッセージとしてモニタ18に表示する制御を行う。なお、
図10では、警告メッセージとして、「第1診断時に検出対象の見落とし有り」を表示している。また、報知制御部76は、「検出対象の見落とし無し」の判定が行われた場合には、その旨のガイダンスをモニタ18に表示するようにしてもよい。なお、本発明の「報知部」は、報知制御部76とモニタ18(表示部)を少なくとも含む構成に対応している。
【0065】
また、報知制御部は、病変判定部70cにおいて検出対象の画像的特徴量を検出した場合には、その検出対象の関連情報を合わせて表示する。検出対象の関連情報は、その検出対象に付されたインジケータと線などで関連付けて表示される。検出対象の関連情報としては、検出対象が検出された際にその検出対象と周辺領域を含む一帯領域を自動で電子ズームで拡大し、該一帯領域拡大画像を表示することが好ましい。また、病変領域らしさを評価した総合スコアや、それら総合スコアを算出するための材料となるパラメータスコアなど検出対象の鑑別結果を表示することが好ましい。総合スコアとして、例えばガンの悪性度やステージの進行度を表示してもよい。また、パラメータスコアとして。例えばガン表面の血管の走行パターンの規則性や表面の凹凸パターンの規則性を表示してもよい。
【0066】
このような検出対象の鑑別結果は、検出対象の画像的特徴量に基づいて、人工知能(AI(Artificial Intelligence))などを用いて得ることが好ましい。なお、鑑別を行うために、医師が病変など検出対象に一定の距離にして観察する、あるいは電子ズームによって一定の拡大率で観察する場合には、一定の距離まで近づいた時点、あるいは一定の拡大率までズームされた時点で、鑑別が容易に行える光源モード、例えば特殊光に自動で切り替わるようにしてもよい。
【0067】
また、検出対象の関連情報として、検出対象の範囲を検出し、その検出した病変の範囲を曲線などの輪郭線LAで表示することが好ましい。なお、鑑別の結果、総合スコアあるいはパラメータスコアが一定値以上であり特に注意して観察することが必要と判断された検出対象については、その病変が極めて要注意であることを意識させるために、黄色や赤色等のインジケータ等で、その検出対象を含む所定領域を囲って表示することが好ましい。また、一つの検出対象が領域ごとに異なった性状を有する場合には、総合スコアあるいはパラメータスコアをカラーマップに割り当てる形で領域ごとのスコアを表示してもよいし、領域ごとに総合スコアやパラメータスコアを表示してもよい。また、検出対象の関連情報として、検出対象の深度を検出し、その検出した検出対象の深度を表示することが好ましい。また、検出対象の関連情報として、検出対象に関する主観的なレポート(「この領域は、所定の理由によりガンに相当する」など)を表示するようにしてもよい。
【0068】
なお、上記で示した人工知能等を用いた鑑別は100%の精度で病変鑑別を保証するものとは限らない。したがって、鑑別結果の確信度を表示してもよいし、鑑別結果に対して医師が同意するかを確認するための「同意ボタン」をモニタ18に表示し、鑑別結果に対する最終的な承認は医師に任せる形をとってもよい。この場合には、「同意ボタン」に対する操作は、コンソール19により行うことが好ましい。
【0069】
また、検出対象の関連情報として、位置情報算出部70aで算出した位置情報を用いて、管腔内における検出対象の検出位置、又は内視鏡の先端部12dの現在位置を表示するようにしてもよい。
図10では、大腸全体における検出対象の検出位置や先端部12dの現在位置を表示している。また、検出対象の関連情報として、往路や過去診断時などに検出された検出対象の過去画像を表示したり、検出した検出対象に似た類似症例の画像を1又は複数表示するようにしてもよい。
【0070】
また、
図10で示したような病変など検出対象の画像、総合スコア、パラメータスコア、レポート、検出位置などの各種の情報はログとして自動で記憶することが好ましい。さらに、類似症例画像や過去画像など過去にログとして記録した各種の情報を検査時に呼び出し活用する際には、類似症例画像、過去画像の同定手段として機械学習、人工知能等の認識手段を用いてもよい。
【0071】
次に、検出対象見落とし防止モードの一連の流れについて、
図11のフローチャートに沿って、説明する。まず、検出対象見落とし防止モードに設定するとともに、識別情報切替部13eによって「第1診断時識別情報の取得」に切り替える。そして、内視鏡12の先端部12dの管腔内への挿入を開始し、先端部12dを管腔内において押し込んでいく方向に徐々に移動させる。このように、管腔内の挿入口から管腔内の観察可能範囲の終端まで先端部12dを移動させて検出対象を検出することを、第1診断時の検出対象の検出とする。
【0072】
検出対象見落とし防止モードでは、通常光と特殊光が交互に観察対象に照明される。通常光の照明時に得られるBc画像信号、Gc画像信号、Rc画像信号から主要表示画像を生成するとともに、特殊光の照明時に得られるBs画像信号、Gs画像信号、Rs画像信号から副表示画像を生成する。これら主要表示画像と副表示画像は、モニタ18上に表示される。
【0073】
第1診断時において、特殊光の照明時に得られる画像信号から画像的特徴量を検出し、検出した画像的特徴量が検出対象の画像的特徴量に該当するか否かの判定を行う。検出対象の画像的特徴量であるとの判定が行われた場合(検出対象の検出)には、検出した画像的特徴量とその時点での位置情報を第1診断時識別情報として識別情報記憶部72に記憶させる。そして、内視鏡の先端部12dが管腔の観察可能範囲の終端位置に達したら、識別情報切替部13eを操作して、「第2診断時識別情報の取得」に切り替える。そして、第1診断時と同じ経路を引き返すように、先端部12dを管腔内から抜き出す方向に徐々に移動させる。このように、管腔内の観察可能範囲の終端から管腔内の挿入口まで先端部12dを移動させて検出対象を検出することを、第2診断時の検出対象の検出とする。
【0074】
第2診断時では、特殊光の照明時に得られる画像信号から第2診断時の画像的特徴量を検出するとともに、その時点での位置情報を第2診断時識別情報として取得する。比較処理部74は、第2診断時識別情報を取得する毎に、第1診断時識別情報と第2診断時識別情報とを比較する比較処理を行う。比較処理の結果によって、「検出対象の見落とし無し」、「第1診断時に検出対象の見落とし有り」、「第2診断時に検出対象の見落とし有り」の判定が行われる。そして、報知制御部76は、判定結果に応じた報知を行う。報知制御部76では、「第1診断時に検出対象の見落とし有り」または「第2診断時に検出対象の見落とし有り」の判定が行われた場合に、警告メッセージや警告音によって「検出対象の見落とし」を気付かせる報知を行う。
【0075】
なお、上記実施形態において、比較処理部74にて第1診断時の画像的特徴量と第2診断の画像的特徴量との画像的特徴量比較処理を行う際には、画像的特徴量として、画像の平行移動、回転、スケール拡縮に不変なGernika momentやHu momentを用いたり、画像の平行移動、回転、スケール拡縮、照明変化に不変なSHIFT、SURFを用いることが好ましい。
【0076】
一例として、比較処理部74において、Hu momentsを用いたマッチング手法に基づいて類似度判定し、この類似度判定に基づいて、「検出対象の見落とし」の判定を行う。ここでは、
図12に示すように、第1診断時に検出された検出対象Aと第2診断時で検出された検出対象Bの類似度判定の他に、第1診断時に検出された検出対象Aと第2診断時に検出された検出対象Cの類似度判定を示す。なお、検出対象については、検出対象そのものだけでなく、検出対象の周囲の正常部を含む領域を、検出対象とすることが好ましい。
【0077】
検出対象A、検出対象Bの類似度判定にあたっては、それら検出対象A,Bについて、それぞれ次の式(1)により画像中の中心モーメントを算出する。
【数1】
ここで、x、yは画素の座標、p、q=0、1、2、3であり、
【数2】
である。ただし、
【数3】
【0078】
次に、正規化中心モーメントを式(2)により算出する。
【数4】
ここで、
【数5】
である。最後に7つの不変量であるHu momentsを式(3)により算出する。
【数6】
【0079】
検出対象A、検出対象Bについてそれぞれ算出されたHu momentsをh
iA、h
jBとする。最後に、検出対象A、検出対象Bの類似度を式(4)により算出する。
【数7】
ここで、
【数8】
である。上記を基に検出対象Aと検出対象Bの類似度I(A,B)を算出した結果は、
【数9】
であった。
【0080】
ここで、類似度が小さいほど類似度が高くなることから、比較処理部74は、検出対象αと検出対象βの類似度I(α、β)について
【数10】
を満足する場合、検出対象αと検出対象βは同一病変である(マッチングする)と判定する。
したがって、比較処理部74は、検出対象Aと検出対象Bの類似度I(A、B)は、
【数11】
であることから、検出対象Aと検出対象Bは同一病変であり、第1診断時に検出対象の見落としが無かったと判定される。この場合には、「検出対象の見落とし無し」と判定され、その旨がモニタ18上に表示される。
【0081】
次に、検出対象Aと検出対象Cの類似度判定についても、検出対象A、Bの類似度判定と同様の手順に従って、類似度I(A,C)を算出する。この類似度I(A,C)を算出した結果、
【数12】
であることから、検出対象Aと検出対象Cは互いに異なる病変であり、検出対象Cが第1診断時に見落としていたと判定される。この場合には、「第1診断時に検出対象の見落とし有り」との表示がモニタ18上に行われる。
【0082】
なお、上記実施形態では、1つのモニタ18に、主要表示画像と副表示画像を並べて表示しているが、複数のモニタ18を使って、主要表示画像と副表示画像を表示するようにしてもよい。具体的には、複数のモニタ18のうちのいくつかのモニタに主要表示画像を表示させ、残りのモニタに副表示画像を表示するようにすることが好ましい。例えば、
図13に示すように、2つのモニタ18aとモニタ18bを用いる場合には、モニタ18aの画面全体に主要表示画像のみを表示させる一方で、モニタ18bには、副表示画像と検出対象の関連情報だけを表示させる。モニタ18aとモニタ18bとは連結アーム等で互いを連結させてもよい。
【0083】
なお、上記実施形態では、検出対象が検出されたときに、インジケータなどで報知を行っているが、これに加えて、検出対象を含む画像全体(主要表示画像全体、又は副表示画像全体)について、病変領域らしさを病変スコアで評価し、この病変スコアをカラーマップに割り当てて表示するようにしてもよい。例えば、
図14の場合であれば、検出対象及びその周囲の色C1(例えば、赤)と、それら検出対象から離れた領域の色C2(例えば、青)とはかけ離れた色となっている。
【0084】
なお、上記実施形態において、病変判定部70cにおいて検出対象の画像的特徴量であるとの判定が行われた場合(以下、「検出対象が検出されたとき」とする)、自動で、電子ズームや拡大光学系36による光学ズームによって、検出対象を拡大するようにしてもよい。また、検出対象が検出されたときには、ユーザーに対して、光学ズームで検出対象を拡大するように促す表示を行ってもよい。拡大した検出対象は、主要表示画像や副表示画像で表示することが好ましい。
【0085】
また、上記実施形態において、検出対象が検出されたときに、自動で静止画を保存するようにしてもよい。このように自動で静止画を保存する場合には、複数フレーム分の画像を静止画保存候補画像として取得し、それら複数フレーム分の静止画保存候補画像の中から、最もピントが合った画像を静止画として保存を行うことが好ましい。ピントが合っている画像を選び出す方法としては、例えば、各静止画保存候補画像の周波数解析を行い、高周波成分が最も多く含まれる画像を静止画保存画像として選択する。
【0086】
なお、上記実施形態では、1回の病変診断において、内視鏡12の先端部12dを、胃、大腸、食道など管腔内に沿って、往復させる場合を想定し、往路を第1診断時とし、往路と同一経路を引き返す復路を、第2診断時としている。第1診断時と第2診断時については、1回の病変診断の往路、復路に限られず、第2診断時は第1診断時よりも時間的に後のタイミングであって、第1診断時と第2診断時において同一経路で病変検出を行う場合であれば、その他のケースにも適用可能である。例えば、第1診断時と第2診断時は、日を跨いで病変診断を行う場合にも適用できる。この場合、初期診断など第1の診断日を第1診断時とし、経過観察などの第1の診断日よりも後の第2の診断日を第2診断時とすることが考えられる。このような場合には、識別情報切替部13eを操作することなく、「第1診断時識別情報の取得」から「第2診断時識別情報の取得」に自動的に切り替えることが好ましい。
【0087】
なお、上記実施形態では、位置情報と画像的特徴量の両方を用いて、第1診断時と第2診断時で検出対象の見落としがあったか否かの判定を行っているが、画像的特徴量のみを用いて、検出対象の見落とし判定を行ってもよい。この場合には、第1診断時の検出対象の画像的特徴量と第2診断時の検出対象の画像的特徴量の比較処理を行い、その比較処理の結果に従って、検出対象の見落とし判定を行うことになる。
【0088】
[第2実施形態]
第2実施形態では、上記第1実施形態で示した4色のLED20a〜20dの代わりに、レーザ光源と蛍光体を用いて観察対象の照明を行う。以下においては、第1実施形態と異なる部分のみ説明を行い、第1実施形態と略同様の部分については、説明を省略する。
【0089】
図15に示すように、第2実施形態の内視鏡システム100では、光源装置14の光源部20において、4色のLED20a〜20dの代わりに、中心波長445±10nmの青色レーザ光を発する青色レーザ光源(「445LD」と表記。LDは「Laser Diode」を表す)104と、中心波長405±10nmの青紫色レーザ光を発する青紫色レーザ光源(「405LD」と表記)106とが設けられている。これら各光源104、106の半導体発光素子からの発光は、光源制御部108により個別に制御されており、青色レーザ光源104の出射光と、青紫色レーザ光源106の出射光の光量比は変更自在になっている。
【0090】
光源制御部108は、通常モードの場合には、青色レーザ光源104を点灯させる。これに対して、特殊モードの場合には、青色レーザ光源104と青紫色レーザ光源106の両方を点灯させるとともに、青色レーザ光の発光比率を青紫色レーザ光の発光比率よりも大きくなるように制御している。検出対象見落とし防止モードの場合には、青色レーザ光源104のみを点灯させる制御と、青色レーザ光源104と青紫色レーザ光源106の両方を点灯させる制御とを交互に行う。
【0091】
なお、青色レーザ光又は青紫色レーザ光の半値幅は±10nm程度にすることが好ましい。また、青色レーザ光源104及び青紫色レーザ光源106は、ブロードエリア型のInGaN系レーザダイオードが利用でき、また、InGaNAs系レーザダイオードやGaNAs系レーザダイオードを用いることもできる。また、上記光源として、発光ダイオードなどの発光体を用いた構成としてもよい。
【0092】
照明光学系30aには、照明レンズ32の他に、ライトガイド24からの青色レーザ光又は青紫色レーザ光が入射する蛍光体110が設けられている。蛍光体110は、青色レーザ光によって励起され、蛍光を発する。また、青色レーザ光の一部は、蛍光体110を励起させることなく透過する。青紫色レーザ光は、蛍光体110を励起させることなく透過する。蛍光体110を出射した光は、照明レンズ32を介して、観察対象の体内を照明する。
【0093】
ここで、通常モードにおいては、主として青色レーザ光が蛍光体110に入射するため、
図16に示すような、青色レーザ光、及び青色レーザ光により蛍光体110から励起発光する蛍光を合波した通常モード用の広帯域光が、通常光として、観察対象に照明される。この通常光で照明された観察対象を撮像センサ38で撮像することによって、Bc画像信号、Gc画像信号、Rc画像信号からなる通常画像が得られる。
【0094】
一方、特殊モードにおいては、青紫色レーザ光と青色レーザ光の両方が蛍光体110に入射するため、
図17に示すような、青紫色レーザ光、青色レーザ光、及び青色レーザ光により蛍光体110から励起発光する蛍光を合波した特殊モード用の広帯域光が、特殊光として、観察対象に照明される。この特殊光で照明された観察対象を撮像センサ38で撮像することによって、Bs画像信号、Gs画像信号、Rs画像信号からなる特殊画像が得られる。
【0095】
また、検出対象見落とし防止モードにおいては、
図16に示す通常光と、
図17に示す特殊光が観察対象に交互に照明される。そして、通常光照明時に得られるBc画像信号、Gc画像信号、Rc画像信号から主要表示画像を生成し、特殊光照明時に得られるBs画像信号、Gs画像信号、Rs画像信号から副表示画像を生成する。また、特殊光照明時に得られるBs画像信号、Gs画像信号、Rs画像信号から、検出対象の識別情報の検出を行う。
【0096】
なお、蛍光体110は、青色レーザ光の一部を吸収して、緑色〜黄色に励起発光する複数種の蛍光体(例えばYKG系蛍光体、或いはBAM(BaMgAl
10O
17)などの蛍光体)を含んで構成されるものを使用することが好ましい。本構成例のように、半導体発光素子を蛍光体110の励起光源として用いれば、高い発光効率で高強度の白色光が得られ、白色光の強度を容易に調整できる上に、白色光の色温度、色度の変化を小さく抑えることができる。
【0097】
[第3実施形態]
第3実施形態では、4色のLED20a〜20dの代わりに、キセノンランプ等の白色光光源と回転フィルタを用いて観察対象の照明を行う。また、カラーの撮像センサ38に代えて、モノクロの撮像センサで観察対象の撮像を行っても良い。以下においては、第1実施形態と異なる部分のみ説明を行い、第1実施形態と略同様の部分については、説明を省略する。
【0098】
図18に示す内視鏡システム200では、光源装置14において、内視鏡システム10の各LED20a〜20dに代えて、白色光光源部202と、回転フィルタ204と、フィルタ切替部206とが設けられている。また、撮像光学系30bには、カラーの撮像センサ38の代わりに、カラーフィルタが設けられていないモノクロの撮像センサ208が設けられている。また、白色光光源部202と回転フィルタ204との間には絞り203が設けられており、この絞り203は絞り制御部205によって開口部の面積が調整される。
【0099】
白色光光源部202はキセノンランプや白色LED等であり、波長域が青色から赤色に及ぶ白色光を発する。回転フィルタ204は、回転軸に近い一番近い内側に設けた通常モード用フィルタ210と、この通常モード用フィルタ210の外側に設けた特殊モード用フィルタ212、検出対象見落とし防止モード用フィルタ214とを備えている(
図19参照)。
【0100】
フィルタ切替部206は、回転フィルタ204を径方向に移動する。具体的には、フィルタ切替部206は、モード切替部13cにより通常モードにセットした場合に、通常モード用フィルタ210を白色光の光路に挿入する。フィルタ切替部206は、特殊モードにセットした場合に、特殊モード用フィルタ212を白色光の光路に挿入する。フィルタ切替部206は、検出対象見落とし防止モードにセットした場合に、検出対象見落とし防止モード用フィルタ214を白色光の光路に挿入する。
【0101】
図19に示すように、通常モード用フィルタ210には、周方向に沿って、Bbフィルタ210aと、Gフィルタ210bと、Rフィルタ210cとが設けられている。Bbフィルタ210aは、白色光のうち400〜500nmの波長範囲を持つ広帯域の青色光Bbを透過する。Gフィルタ210bは、白色光のうち緑色光Gを透過する。Rフィルタ210cは、白色光のうち赤色光Rを透過する。したがって、通常モード時には、回転フィルタ204が回転することで、通常光として、広帯域の青色光Bb、緑色光G、赤色光Rが、観察対象に向けて、順次照射される。
【0102】
特殊モード用フィルタ212には、周方向に沿って、Bnフィルタ212aと、Gnフィルタ212bとが設けられている。Bnフィルタ212aは、白色光のうち400〜450nmの青色狭帯域光Bnを透過する。Gnフィルタ212bは、白色光のうち530〜570nmの緑色狭帯域光Gnを透過する。したがって、特殊モード時には、回転フィルタ204が回転することで、特殊光として、青色狭帯域光、緑色狭帯域光が、観察対象に向けて、順次照射される。
【0103】
検出対象見落とし防止モード用フィルタ214には、周方向に沿って、Bbフィルタ214a、Gフィルタ214b、Rフィルタ214c、Bnフィルタ214d、Gnフィルタ214eが設けられている。Bbフィルタ214aは、白色光のうち広帯域の青色光Bbを透過する。Gフィルタ214bは、白色光のうち緑色光Gを透過する。Rフィルタ214cは、白色光のうち赤色光Rを透過する。Bnフィルタ214dは、白色光のうち青色狭帯域光Bnを透過する。Gnフィルタ214eは、白色光のうち緑色狭帯域光Gnを透過する。したがって、検出対象見落とし防止モード時には、回転フィルタ204が回転することで、通常光として、広帯域の青色光Bb、緑色光G、赤色光Rが観察対象に順次照射されるとともに、特殊光として、青色狭帯域光、緑色狭帯域光が観察対象に順次照射される。
【0104】
内視鏡システム200では、通常モード時には、広帯域の青色光Bb、緑色光G、赤色光Rで観察対象を照明する毎にモノクロの撮像センサ208で観察対象を撮像する。これにより、広帯域の青色光Bbの照明時にBc画像信号が得られ、緑色光Gの照明時にGc画像信号が得られ、赤色光Rの照明時にRc画像信号が得られる。これらBn画像信号、Gc画像信号とRc画像信号によって、通常画像が構成される。
【0105】
特殊モード時には、青色狭帯域光Bn、緑色狭帯域光Gnで観察対象を照明する毎にモノクロの撮像センサ208で観察対象を撮像する。これにより、青色狭帯域光Bnの照明時にBn画像信号が得られ、緑色狭帯域光Gnの照射時にGn画像信号が得られる。これらBn画像信号とGn画像信号によって、特殊画像が構成される。
【0106】
検出対象見落とし防止モードの場合には、広帯域の青色光Bbの照明時に得られるBc画像信号、緑色光Gの照明時に得られるGc画像信号、赤色光Rの照明時に得られるRc画像信号に基づいて、主要表示画像を生成する。また、青色狭帯域光Bnの照明時に得られるBn画像信号と、緑色狭帯域光Gnの照射時に得られるGn画像信号とに基づいて、副表示画像を生成するとともに、Bn画像信号及びGn画像信号から検出対象の検出を行う。
【0107】
上記実施形態において、画像処理部56のような各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウエア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA (Field Programmable Gate Array) などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、各種の処理を実行するために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
【0108】
1つの処理部は、これら各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合せ(例えば、複数のFPGAや、CPUとFPGAの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウエアの組み合わせで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
【0109】
さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた形態の電気回路(circuitry)である。