IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ パナソニックi−PROセンシングソリューションズ株式会社の特許一覧

<>
  • 特許-3板式カメラ 図1A
  • 特許-3板式カメラ 図1B
  • 特許-3板式カメラ 図2
  • 特許-3板式カメラ 図3A
  • 特許-3板式カメラ 図3B
  • 特許-3板式カメラ 図4A
  • 特許-3板式カメラ 図4B
  • 特許-3板式カメラ 図5
  • 特許-3板式カメラ 図6
  • 特許-3板式カメラ 図7
  • 特許-3板式カメラ 図8
  • 特許-3板式カメラ 図9
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-04-22
(45)【発行日】2024-05-01
(54)【発明の名称】3板式カメラ
(51)【国際特許分類】
   A61B 1/00 20060101AFI20240423BHJP
【FI】
A61B1/00 731
【請求項の数】 4
(21)【出願番号】P 2020131042
(22)【出願日】2020-07-31
(65)【公開番号】P2022027195
(43)【公開日】2022-02-10
【審査請求日】2023-07-06
(73)【特許権者】
【識別番号】320008672
【氏名又は名称】i-PRO株式会社
(74)【代理人】
【識別番号】110002000
【氏名又は名称】弁理士法人栄光事務所
(72)【発明者】
【氏名】木庭 優治
(72)【発明者】
【氏名】橋本 洋太
(72)【発明者】
【氏名】竹永 祐一
【審査官】▲高▼木 尚哉
(56)【参考文献】
【文献】国際公開第2018/221041(WO,A1)
【文献】特開2015-033032(JP,A)
【文献】特開2007-135951(JP,A)
【文献】特開2018-027272(JP,A)
【文献】特表2013-534083(JP,A)
【文献】米国特許第06046772(US,A)
【文献】特開2019-080114(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 1/00-1/32
H04N 5/222-5/257
H04N 23/00
H04N 23/40-23/76
H04N 23/90-23/959
(57)【特許請求の範囲】
【請求項1】
観察部位からの光のうちIR光を第1イメージセンサに受光させる第1プリズムと、
前記観察部位からの光のうちA%(A:既定の実数)の可視光を第2イメージセンサに受光させる第2プリズムと、
残りの(100-A)%の可視光を第3イメージセンサに受光させる第3プリズムと、
光学的に略1画素分ずれた位置にそれぞれ接着された前記第2イメージセンサおよび前記第3イメージセンサの撮像出力に基づくカラー映像信号と、前記第1イメージセンサの撮像出力に基づくIR映像信号とを合成してモニタに出力する映像信号処理部と、を備え
前記第2イメージセンサの赤色、緑色、青色を有するカラーフィルタと前記第3イメージセンサの赤色、緑色、青色を有するカラーフィルタとが各画素に緑色のカラーフィルタが位置するように配置され、
前記映像信号処理部は、前記各画素の緑色のカラーフィルタに基づく画素値を選択して前記カラー映像信号を生成する、
3板式カメラ。
【請求項2】
前記第1プリズムには、前記IR光を反射する第1反射膜が形成され、
前記第2プリズムには、前記第1反射膜を透過した可視光のうち前記A%の可視光を反射しかつ前記(100-A)%の可視光を透過する第2反射膜が形成され、
前記第3プリズムには、前記第2反射膜を透過した前記(100-A)%の可視光が入射する、
請求項1に記載の3板式カメラ。
【請求項3】
前記A%の値と前記(100-A)%の値とは略等しい、
請求項1に記載の3板式カメラ。
【請求項4】
前記第3イメージセンサは、前記第2イメージセンサに対して水平方向および垂直方向のうち少なくとも一方向に光学的に1画素ずれて配置される、
請求項に記載の3板式カメラ。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、3板式カメラに関する。
【背景技術】
【0002】
近年、手術あるいは検査時に、被検体内に蛍光試薬としてICG(インドシアニングリーン)が投与され、励起光の照射等によりICGを励起させ、ICGが発する近赤外の蛍光像を被写体像とともに撮像し、観察することにより診断を行う方法が注目されている。例えば特許文献1には、入射光の青色成分の光および特定の波長領域の近赤外光の一部を反射させてその他の光を透過させる青色分解プリズムと、赤色成分の光および特定の波長領域の近赤外光の一部を反射させてその他の光を透過させる赤色分解プリズムと、赤色分解プリズムを透過した光が入射する緑色分解プリズムとを有する撮像装置が開示されている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2016-75825号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1の構成では、患部等からの光のうち近赤外光の一部の光量が複数の色分解プリズムのそれぞれに分担されるように入射されて撮像される。このため、例えば近赤外光の波長領域に特化した光を対応する撮像素子に受光させることはできないという課題があった。したがって、上述した手術あるいは検査時に、蛍光試薬が投与された観察部位のより鮮明な蛍光画像の出力が困難であり、医師等が患部の把握をより簡易にする点において改善の余地があった。また、青色、赤色、緑色の各光がそれぞれ特化して撮像されるので、可視光の撮像による映像の解像度の向上について改善の余地があった。
【0005】
本開示は、上述した従来の事情に鑑みて案出され、蛍光試薬が投与された観察部位のより鮮明な蛍光映像の生成と観察部位のカラー映像の高解像度化とを両立し、医師等による患部の容易な把握を支援する3板式カメラを提供することを目的とする。
【課題を解決するための手段】
【0006】
本開示は、観察部位からの光のうちIR光を第1イメージセンサに受光させる第1プリズムと、前記観察部位からの光のうちA%(A:既定の実数)の可視光を第2イメージセンサに受光させる第2プリズムと、残りの(100-A)%の可視光を第3イメージセンサに受光させる第3プリズムと、光学的に略1画素分ずれた位置にそれぞれ接着された前記第2イメージセンサおよび前記第3イメージセンサの撮像出力に基づくカラー映像信号と、前記第1イメージセンサの撮像出力に基づくIR映像信号とを合成してモニタに出力する映像信号処理部と、を備え、前記第2イメージセンサの赤色、緑色、青色を有するカラーフィルタと前記第3イメージセンサの赤色、緑色、青色を有するカラーフィルタとが各画素に緑色のカラーフィルタが位置するように配置され、前記映像信号処理部は、前記各画素の緑色のカラーフィルタに基づく画素値を選択して前記カラー映像信号を生成する、3板式カメラを提供する。
【発明の効果】
【0007】
本開示によれば、蛍光試薬が投与された観察部位のより鮮明な蛍光映像の生成と観察部位のカラー映像の高解像度化とを両立でき、医師等による患部の容易な把握を支援できる。
【図面の簡単な説明】
【0008】
図1A】実施の形態1に係る3板式カメラの内部構成例を示すブロック図
図1B】実施の形態1に係る3板式カメラの内部構成の他の一例を示すブロック図
図2図1に示す分光プリズムの構造例を示す図
図3A】撮像素子151,152のカラーフィルタの配列例を示す図
図3B】撮像素子151,152のカラーフィルタがベイヤ配列で構成されかつ半画素ずらしで配置された場合の課題の説明図
図4A】ダイクロイックミラーの分光特性例を示すグラフ
図4B】ビームスプリッタの分光特性例を示すグラフ
図5】第2可視光および第1可視光のそれぞれの露光時間が同一となる場合の、可視光分割比率と感度、ダイナミックレンジ、解像度との関係例を示すグラフ
図6】第2可視光および第1可視光のそれぞれの露光時間が10:1となる場合の、可視光分割比率と感度、ダイナミックレンジ、解像度との関係例を示すグラフ
図7】第2可視光および第1可視光のそれぞれの露光時間が100:1となる場合の、可視光分割比率と感度、ダイナミックレンジ、解像度との関係例を示すグラフ
図8】第2可視光および第1可視光のそれぞれの露光時間が1:10となる場合の、可視光分割比率と感度、ダイナミックレンジ、解像度との関係例を示すグラフ
図9】実施の形態1に係る3板式カメラにより生成された可視・IR合成映像信号のモニタでの表示例を示す図
【発明を実施するための形態】
【0009】
以下、適宜図面を参照しながら、本開示に係る3板式カメラを具体的に開示した実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明および実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面および以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
【0010】
図1Aは、実施の形態1に係る3板式カメラ1の内部構成例を示すブロック図である。図1Bは、実施の形態1に係る3板式カメラ1の内部構成の他の一例を示すブロック図である。3板式カメラ1は、レンズ11と、分光プリズム13と、撮像素子151,152,153と、映像信号処理部17とを含む構成である。映像信号処理部17は、カメラ信号処理部191,192,193と、画素ずらし合成・高解像度化処理部21と、可視・IR合成処理部23とを有する。なお、図1Bに示すように、3板式カメラ1は、映像信号処理部17(図1A参照)の代わりに、長短露光合成・広ダイナミックレンジ処理部21Aを有する映像信号処理部17A(図1B参照)を有してもよい。また図示は省略するが、3板式カメラ1は、映像信号処理部17(図1A参照)および映像信号処理部17A(図1B参照)の両方を有してもよい。それぞれの構成について詳細に説明する。
【0011】
3板式カメラ1は、例えば手術あるいは検査時に、患者等の被検体内の観察部位(例えば患部)に予め投与された蛍光試薬(例えばインドシアニングリーン。以下「ICG」と略記する。)に所定の波長帯(例えば760nm~800nm)の励起光を照射し、その励起光に基づいて長波長側(例えば820~860nm)に蛍光発光した観察部位を撮像する医療観察システムで使用される。3板式カメラ1により撮像された画像(例えば観察部位の映像)は、モニタMN1により表示され(図9参照)、医師等のユーザによる医療行為の実行を支援する。分光プリズム13は、例えば上述した医療観察システムで使用される例を説明するが、使用は医療用途に限定されず工業用途でもよい。
【0012】
図1では図示を省略しているが、3板式カメラ1のレンズ11よりも対物側(言い換えると、先端側)は観察部位(例えば患部。以下同様。)に挿通されるスコープにより構成されている。このスコープは、例えば観察部位に挿通される硬性内視鏡等の医療器具の主要部であり、観察部位からの光L1をレンズ11まで導光可能な導光部材である。
【0013】
レンズ11は、分光プリズム13の対物側(言い換えると、先端側)に取り付けられ、観察部位からの光L1(例えば観察部位での反射光)を集光する。集光された光L2は、分光プリズム13に入射する。
【0014】
分光プリズム13は、観察部位からの光L2を入射して第1可視光V1と第2可視光V2とIR光N1とに分光する。分光プリズム13は、IRプリズム31と可視プリズム32,33とを有する構成である(図2参照)。第1可視光V1は、可視プリズム32に対向するように配置された撮像素子151に入射する。第2可視光V2は、可視プリズム33に対向するように配置された撮像素子152に入射する。IR光N1は、IRプリズム31に対向するように配置された撮像素子153に入射する。分光プリズム13の詳細な構造例については、図2を参照して後述する。
【0015】
第2イメージセンサの一例としての撮像素子151は、例えば可視光の撮像に適した複数の画素が配列されたCCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)と、電子シャッタによる露光制御回路(図示略)とを含む。撮像素子151を構成するCCDまたはCMOSには、例えばそれぞれの画素ごとに対応して、マイクロレンズとカラーフィルタと受光素子とが少なくとも配置されている。マイクロレンズは、入射光(可視光)を集光する。カラーフィルタは、マイクロレンズを透過した特定の色成分(波長)の可視光を透過する。なお、撮像素子151のカラーフィルタは、例えば赤(R),緑(G),緑(G),青(B)等のベイヤ配列(図8参照)によって配置される。特定の色成分は、例えば赤(R)、緑(G)、青(B)を示す。受光素子は、カラーフィルタを透過した特定の色成分(波長)の光を受光する。撮像素子151は、可視プリズム32と対向するように配置される(図2参照)。撮像素子151は、カメラ信号処理部191からの露光制御信号CSH1に基づいて露光制御回路により定められる第1露光時間にわたって入射した第1可視光V1に基づいて撮像する。撮像素子151は、撮像により観察部位の映像信号V1Vを生成して映像信号処理部17に出力する。
【0016】
第3イメージセンサの一例としての撮像素子152は、例えば可視光の撮像に適した複数の画素が配列されたCCDまたはCMOSと、電子シャッタによる露光制御回路(図示略)とを含む。撮像素子152を構成するCCDまたはCMOSには、例えばそれぞれの画素ごとに対応して、マイクロレンズとカラーフィルタと受光素子とが少なくとも配置されている。マイクロレンズは、入射光(可視光)を集光する。カラーフィルタは、マイクロレンズを透過した特定の色成分(波長)の可視光を透過する。なお、撮像素子152のカラーフィルタは、例えば赤(R),緑(G),緑(G),青(B)等のベイヤ配列(図8参照)によって配置される。特定の色成分は、例えば赤(R)、緑(G)、青(B)を示す。受光素子は、カラーフィルタを透過した特定の色成分(波長)の光を受光する。撮像素子152は、可視プリズム33と対向するように配置される(図2参照)。撮像素子152は、カメラ信号処理部192からの露光制御信号CSH2に基づいて露光制御回路により定められる第2露光時間にわたって入射した第2可視光V2に基づいて撮像する。撮像素子152は、撮像により観察部位の映像信号V2Vを生成して映像信号処理部17に出力する。
【0017】
第1イメージセンサの一例としての撮像素子153は、例えばIR光の撮像に適した複数の画素が配列されたCCDまたはCMOSを含む。撮像素子153は、IRプリズム31と対向するように配置される(図2参照)。撮像素子153は、入射したIR光N1に基づいて撮像する。撮像素子153は、撮像により観察部位の映像信号N1Vを生成して映像信号処理部17に出力する。
【0018】
映像信号処理部17は、例えばDSP(Digital Signal Processor)あるいはFPGA(Field Programmable Gate Array)等のプロセッサにより構成される。カメラ信号処理部191~193、画素ずらし合成・高解像度化処理部21および可視・IR合成処理部23は、前述したプロセッサにより実行される。
【0019】
カメラ信号処理部191は、撮像素子151からの映像信号V1Vを用いて各種のカメラ信号処理を施して観察部位の第1可視映像信号V1VDを生成し、画素ずらし合成・高解像度化処理部21あるいは長短露光合成・広ダイナミックレンジ処理部21Aに出力する。また、カメラ信号処理部191は、撮像素子151の第1露光時間を定めるための露光制御信号CSH1を生成して撮像素子151に出力する。撮像素子151は、この露光制御信号CSH1に基づいて第1可視光V1の露光時間を制御する。
【0020】
カメラ信号処理部192は、撮像素子152からの映像信号V2Vを用いて各種のカメラ信号処理を施して観察部位の第2可視映像信号V2VDを生成し、画素ずらし合成・高解像度化処理部21あるいは長短露光合成・広ダイナミックレンジ処理部21Aに出力する。詳細は後述するが、第1可視映像信号V1VDと第2可視映像信号V2VDとは明るさ(感度)が略同一(同一を含む)でもよいし、異なってもよい。特に、第1可視映像信号V1VDと第2可視映像信号V2VDとは明るさ(感度)が略同一(同一を含む)に近いほど高解像度化の効果が高くなる。また、カメラ信号処理部192は、撮像素子152の露光時間を定めるための露光制御信号CSH2を生成して撮像素子152に出力する。撮像素子152は、この露光制御信号CSH2に基づいて第2可視光V2の第2露光時間を制御する。詳細は後述するが、第1露光時間と第2露光時間とは同一でもよいし(図5参照)、異なってもよく(図6図8参照)、以下同様である。
【0021】
カメラ信号処理部193は、撮像素子153からの映像信号N1Vを用いて各種のカメラ信号処理を施して観察部位のIR映像信号N1VDを生成し、可視・IR合成処理部23に出力する。
【0022】
画素ずらし合成・高解像度化処理部21は、2つの映像信号(具体的には、カメラ信号処理部191からの第1可視映像信号V1VDとカメラ信号処理部192からの第2可視映像信号V2VD)を入力する。第1可視映像信号V1VDおよび第2可視映像信号V2VDの明るさが等しいほど、画素ずらし合成・高解像度化処理部21による高解像度化の効果が最も高くなる。第1可視映像信号V1VDおよび第2可視映像信号V2VDの空間位置関係を考慮した合成・画素補間処理を行うことで、高解像度化が図られた高解像度映像信号VVDが生成可能となる。
【0023】
画素ずらし合成・高解像度化処理部21は、入力された2つの映像信号を合成処理(つまり、可視プリズム32に接着された撮像素子151の撮像に基づいてカメラ信号処理部191により生成された第1可視映像信号V1VDと、可視プリズム33に接着された撮像素子152の撮像に基づいてカメラ信号処理部192により生成された第2可視映像信号V2VDとの合成)を行い、高解像度映像信号VVDを生成する。画素ずらし合成・高解像度化処理部21は、入力された2つの映像信号の合成処理(上述参照)を行うことで、第1可視映像信号V1VDあるいは第2可視映像信号V2VDよりも高解像度を有する高解像度映像信号VVDを生成できる。画素ずらし合成・高解像度化処理部21は、高解像度映像信号VVDを可視・IR合成処理部23に出力する。画素ずらし合成・高解像度化処理部21による高解像度映像信号VVDの生成については、図3Aを参照して後述する。
【0024】
なお、3板式カメラ1では、映像信号処理部17において画素ずらしによる高解像度映像信号VVDが生成される。このため、分光プリズム13(図2参照)において、第1可視光V1が入射する撮像素子151,第2可視光V2が入射する撮像素子152のそれぞれを、対応する可視プリズム32,33に接着するにあたり、撮像素子151と撮像素子152との位置を光学的に略1画素程度(例えば、水平方向にあるいは垂直方向に、または両方の方向に)ずらして接着する必要がある(図3A参照)。これにより、光学的に略1画素程度(上述参照)ずらして配置された撮像素子151,152の撮像に基づいて、画素ずらし合成・高解像度化処理部21において、画素ずらしによる高解像度映像信号VVDが生成可能となる。なお、略1画素程度には、1画素を含むが、1画素ちょうどでなくてもよく、例えば1画素プラスマイナス0.25画素分の距離のずれを含んでもよい。画素ずらし量が1画素に近いほど、画素ずらし合成・高解像度化処理部21による高解像度化の効果が高くなる。
【0025】
長短露光合成・広ダイナミックレンジ処理部21Aは、明るさ(感度)の異なる2つの映像信号(具体的には、カメラ信号処理部191からの第1可視映像信号V1VDとカメラ信号処理部192からの第2可視映像信号V2VD)を入力して重ね合わせることで合成し、広ダイナミックレンジ映像信号VVDAを生成する。長短露光合成・広ダイナミックレンジ処理部21Aは、明るさ(感度)の異なる2つの映像信号を重ね合わせて合成することで、第1可視映像信号V1VDあるいは第2可視映像信号V2VDよりもダイナミックレンジを見かけ上広げた広ダイナミックレンジ映像信号VVDAを生成できる。長短露光合成・広ダイナミックレンジ処理部21Aは、広ダイナミックレンジ映像信号VVDAを可視・IR合成処理部23に出力する。
【0026】
可視・IR合成処理部23は、画素ずらし合成・高解像度化処理部21から高解像度映像信号VVDとカメラ信号処理部193からのIR映像信号N1VDとを入力して重ね合わせることで合成し、可視・IR合成映像信号IMVVDを生成する。可視・IR合成映像信号IMVVDによれば、画素ずらし後の合成処理によって高解像度化されているので観察部位(例えば術野)の周囲の状態が視覚的に明瞭になるだけでなく、ICG等の蛍光試薬の蛍光発光により患部の状態を詳細に判明可能となる(図9参照)。可視・IR合成処理部23は、可視・IR合成映像信号IMVVDを、モニタMN1に出力したり録画機器(図示略)に送信して蓄積させたりしてよい。
【0027】
モニタMN1は、例えば手術あるいは検査時に手術室に配置される画像コンソール(図示略)を構成し、3板式カメラ1により生成された観察部位の可視・IR合成映像信号IMVVDを表示する。これにより、医師等のユーザは、モニタMN1に表示された可視・IR合成映像信号IMVVDを目視で視認することで、観察部位中の蛍光発光した部位を詳細に把握できる。録画機器は、例えば3板式カメラ1により生成された可視・IR合成映像信号IMVVDのデータを録画可能なレコーダである。
【0028】
図2は、図1に示す分光プリズム13の構造例を示す図である。以下、図1に示す分光プリズム13の構造例として図2を参照して主に説明する。分光プリズム13は、IRプリズム31(第1プリズムの一例)と、可視プリズム32(第2プリズムの一例)と、可視プリズム33(第3プリズムの一例)とを有する。IRプリズム31、可視プリズム32および可視プリズム33が、レンズ11により集光された光L2の光軸方向に順に組み付けられる。
【0029】
第1プリズムの一例としてのIRプリズム31は、光L2が入射する入射面31aと、光L2のうちIR光を反射させるダイクロイックミラーDYM1が形成される反射面31bと、IR光が出射する出射面31cとを有する。ダイクロイックミラーDYM1(第1反射膜の一例)は、蒸着等により反射面31bに形成され、光L2のうちIR光(例えば800nm以上の波長帯のIR光)を反射させるとともに、光L2のうちIR光でない光(例えば400nm~800nm程度の光)を透過させる(図4A参照)。具体的には、IRプリズム31の入射面31aに入射した光L2のうちIR光(上述参照)が反射面31bで反射する。このIR光は、反射面31bで反射した後にIRプリズム31の入射面31aで全反射し、出射面31cを介して撮像素子153に入射する。
【0030】
図4Aは、ダイクロイックミラーDYM1の分光特性例を示すグラフである。図4Aの横軸は波長[nm:ナノメートル(以下同様)]を示し、縦軸は反射率あるいは透過率を示す。特性TP1はダイクロイックミラーDYM1の透過率を示し、特性TP1によれば、ダイクロイックミラーDYM1は400nm~800nm程度の光を透過させることができる。特性RF1はダイクロイックミラーDYM1の反射率を示し、特性RF1によれば、ダイクロイックミラーDYM1は800nm以上のIR光を反射させることができる。したがって、撮像素子153には、面積AR1で示される光量のIR光(言い換えると、光L2のうちIR光)が全て入射できる。
【0031】
第2プリズムの一例としての可視プリズム32は、ダイクロイックミラーDYM1を透過した光(第1透過光の一例)が入射する入射面32aと、その透過した光(具体的には可視光)の一部の光量を反射させるビームスプリッタBSP1が形成される反射面32bと、その一部の光量の反射した可視光が出射する出射面32cとを有する。ビームスプリッタBSP1(第2反射膜の一例)は、蒸着等により反射面32bに形成され、入射面32aに入射した可視光の一部(例えば入射面32aに入射した光のA%前後、Aは既定の実数であり例えば50)の光量を有する可視光を反射させ、残りの(100-A)%(例えば入射面32aに入射した光の50%前後)の光量を有する可視光を透過させる(図4B参照)。具体的には、可視プリズム32の入射面32aに入射した可視光のうち一部(例えば50%)の光量の可視光が反射面32bで反射する。この一部の可視光は、反射面32bで反射した後に可視プリズム32の入射面32aで全反射し、出射面32cを介して撮像素子151に入射する。なお、図1に示す分光プリズム13において、ビームスプリッタBSP1が反射する可視光の割合は50%に限定されず、例えば30~50%程度の範囲でもよい。
【0032】
第3プリズムの一例としての可視プリズム33は、ビームスプリッタBSP1を透過した残りの光量の可視光が入射する入射面33aと、その残りの光量の可視光が出射する出射面33cとを有する。具体的には、可視プリズム33では、ビームスプリッタBSP1を透過した残りの光量の可視光が入射してそのまま出射して撮像素子152に入射する(図4B参照)。
【0033】
図4Bは、ビームスプリッタBSP1の分光特性例を示すグラフである。図4Bの横軸は波長[nm]を示し、縦軸は反射率あるいは透過率を示す。特性TP2は図2に示す分光プリズム13におけるビームスプリッタBSP1の透過率あるいは反射率(400nm~800nmにおいて約50%)を示す。特性TP2によれば、第2反射膜の一例としてのビームスプリッタBSP1は400nm~800nm程度の光のうち約50%の光量の光(主に可視光)を反射させ、残りの約50%の光量の光(主に可視光)を透過させることができる。したがって、撮像素子151には、面積AR2で示される光量の可視光(例えば約50%程度の光量の可視光)が入射できる。また、撮像素子152には、面積AR2で示される光量の可視光(例えば約50%程度の光量の可視光)が入射できる。
【0034】
次に、撮像素子151,152のカラーフィルタBYR1,BYR2の配列について、図3Aを参照して説明する。図3Aは、撮像素子151,152のカラーフィルタBYR1,BYR2の配列例を示す図である。カラーフィルタBYR1は、撮像素子151を構成するカラーフィルタであり、例えば水平方向かつ垂直方向において隣り合う任意の4画素において赤(R),緑(G),緑(G),青(B)のカラーフィルタから構成されるベイヤ配列で配置されている。ベイヤ配列では、任意の4赤(R)および青(B)に比べて緑(G)が多く配置されている。これは、人間の視覚は緑(G)に最も敏感に反応することが知られているためである。同様にカラーフィルタBYR2は、撮像素子152を構成するカラーフィルタであり、例えば水平方向かつ垂直方向において隣り合う任意の4画素において赤(R),緑(G),緑(G),青(B)のカラーフィルタから構成されるベイヤ配列で配置されている。
【0035】
図3Aに示すように、撮像素子151,152を1画素分オフセットが付与された配置にすることで、カラーフィルタBYR1,BYR2は、1画素分オフセットされた配置になる。図3Aでは1画素分のオフセットが付与された例が示されているが、カラーフィルタBYR1,BYR2は、略1画素分(上述参照)のオフセットが付与されて配置されても構わない。したがって、略1画素分(上述参照)のオフセットの画素ずらしにより、一方のベイヤ配列(例えばカラーフィルタBYR1)の緑(G)画素が他方のベイヤ配列(例えばカラーフィルタBYR2)の青(B)画素あるいは赤(R)画素の上に配置されることになる。言い換えると、全ての画素に対して緑(G)のカラーフィルタが配置される。これにより、第1可視映像信号V1VDおよび第2可視映像信号V2VDを入力する画素ずらし合成・高解像度化処理部21は、2層で積層されたベイヤ配列のカラーフィルタBYR1,BYR2(図3A参照)のうち各画素において輝度信号の解像度に寄与する割合が最も高い緑(G)のカラーフィルタを透過した光を選択的に用いることで、略1画素分の画素ずらしが行われていない場合の映像信号に比べて高い高解像度を有する高解像度映像信号VVDを生成できる。
【0036】
ここで、仮に撮像素子151,152の各カラーフィルタが半画素分の画素ずらしのオフセットが付与されて配置された場合の問題について、図3Bを参照して説明する。図3Bは、撮像素子151,152のカラーフィルタBYR1,BYR2がベイヤ配列で構成されかつ半画素ずらしで配置された場合の課題の説明図である。図3Bの横軸および縦軸はともに周波数であり、fsはサンプリング周波数、fs/2はナイキスト周波数をそれぞれ示す。
【0037】
仮に撮像素子151,152の各カラーフィルタが半画素分の画素ずらしのオフセットが付与されて積層配置された場合、図3Bに示すように、ナイキスト周波数(fs/2)の近傍で被写体に存在しない擬色あるいはモアレが検知されることが分かった。このような擬色あるいはモアレが検知されると、カラー映像信号の画質が劣化してしまう。一方、このような問題を解決するため、実施の形態1では図3Aに示すように、カラーフィルタBYR1,BYR2は、光学的に1画素分のオフセットが付与されて配置された。これにより、画素ずらし合成・高解像度化処理部21により生成される高解像度映像信号VVDは、ナイキスト周波数(fs/2)の近傍で図3Bに示す擬色あるいはモアレの検知が無く、画質の向上が的確に図られることになった。
【0038】
図5は、第2可視光V2および第1可視光V1のそれぞれの露光時間が同一となる場合の、可視光分割比率と感度GAN1、ダイナミックレンジDRG1、解像度RSO1との関係例を示すグラフである。図5の横軸は可視光分割比率であり、言い換えると、これはビームスプリッタBSP1がダイクロイックミラーDYM1を透過した可視光を反射する割合である。例えば、可視光分割比率が10%(つまり90:10)である場合、ビームスプリッタBSP1はダイクロイックミラーDYM1を透過した光のうち10%の可視光を反射し、90%の可視光を透過する。つまり、第2可視光V2の光量:第1可視光V1の光量が90:10となる。他の可視光分割比率についても上述した具体例と同様に考えることができる。図5の縦軸は映像信号処理部17において生成される高解像度映像信号VVDの感度GAN1、ダイナミックレンジDRG1、解像度RSO1を示す。
【0039】
図5では電子シャッタによる撮像素子152,151のそれぞれへの露光時間が同一となるように制御された例が示されている。したがって、感度GAN1については、可視光分割比率が小さければ小さい程最大(例えば0%の時に最大(100%)で最も明るくなる)となり、50%の時に最小(50%で最も暗くなる)となるような特性(例えば一次関数)に従って推移すると考えられる。これは、第1可視光V1に基づく第1可視映像信号V1VDの明るさと第2可視光V2に基づく第2可視映像信号V2VDの明るさとのうち、より明るい第2可視光V2の明るさによって感度が決まるためである。
【0040】
ダイナミックレンジDRG1については、同様に可視光分割比率が0より大きい範囲で小さければ小さい程大きく(例えば0.01%の時に+約80dB)となり、50%の時に最小(例えば0dB)となるような特性に従って推移すると考えられる。これは、高解像度映像信号VVDにおいて、可視光分割比率が小さければ小さい程、暗い部分と明るい部分の差が広がり易くなるためである。
【0041】
解像度RSO1については、反対に可視光分割比率が小さければ小さい程最小(例えば0%の時に最小で1倍)となり、50%の時に最大(例えば1.1倍)となるような特性に従って推移すると考えられる。これは、可視光分割比率が大きければ大きい程、隣接する画素間での画素値の差分が小さくなり画素ずらしによって高解像度化を実現し易くなるためである。
【0042】
図6は、第2可視光V2および第1可視光V1のそれぞれの露光時間が10:1となる場合の、可視光分割比率と感度GAN2、ダイナミックレンジDRG2、解像度RSO2との関係例を示すグラフである。図6の横軸は可視光分割比率であり、図5の説明と同様であるため説明を省略する。図6の縦軸は映像信号処理部17において生成される高解像度映像信号VVDの感度GAN2、ダイナミックレンジDRG2、解像度RSO2を示す。
【0043】
図6では電子シャッタによる撮像素子152,151のそれぞれへの露光時間が10:1の比率となるように差が設けられた例が示されている。感度GAN2については、図5に示す感度GAN1と同様に、可視光分割比率が小さければ小さい程最大(例えば0%の時に最大(100%)で最も明るくなる)となり、50%の時に最小(50%で最も暗くなる)となるような特性(例えば一次関数)に従って推移すると考えられる。これは、撮像素子152,151のそれぞれへの露光時間の比率10:1に、第2可視光V2と第1可視光V1との光量比率を掛け合わせたものが、第2可視映像信号V2VDと第1可視映像信号V1VDの明るさの比率となり、そのうち明るい方の第2可視映像信号V2VDの明るさにより感度が決まるためである。
【0044】
撮像素子152,151のそれぞれへの露光時間が同一の時に比べて例えば10:1の比率となるように差が設けられると、高解像度映像信号VVDにおいて、明るい部分と暗い部分との差がより鮮明に現れやすくなりダイナミックレンジをより稼ぐことができると考えられる。したがって、ダイナミックレンジDRG2については、可視光分割比率が0より大きい範囲で小さければ小さい程大きく(例えば0.1%の時に+約80dB)となり、50%の時に最小(例えば+20dB)となるような特性に従って推移すると考えられる。つまり、図6の例であれば、最小値であっても+20dBを稼ぐことができる。
【0045】
電子シャッタによる撮像素子152,151のそれぞれへの露光時間が10:1の比率となるように差が設けられると、例えば可視光分割比率が10%(第2可視光V2:第1可視光V1=90:10)となる場合、撮像素子151に入射する光量:撮像素子152に入射する光量=100:1程度となると考えられる。つまり、第1可視光V1では暗いところはほぼ映らず、第2可視光V2では明るいところはほぼ映らないので重ね合わせた時に解像度を稼ぐことはほぼ難しいと考えることができる。したがって、解像度RSO2については、可視光分割比率に拘わらず、小さい値(例えば0%の時に最小で1倍であって、50%でも1.02倍程度)を推移すると考えられる。
【0046】
図7は、第2可視光V2および第1可視光V1のそれぞれの露光時間が100:1となる場合の、可視光分割比率と感度GAN2、ダイナミックレンジDRG3、解像度RSO3との関係例を示すグラフである。図7の横軸は可視光分割比率であり、図5の説明と同様であるため説明を省略する。図7の縦軸は映像信号処理部17において生成される高解像度映像信号VVDの感度GAN2、ダイナミックレンジDRG3、解像度RSO3を示す。
【0047】
図7では電子シャッタによる撮像素子152,151のそれぞれへの露光時間が100:1の比率となるようにかなりの差が設けられた例が示されている。感度GAN2については、図6に示す感度GAN2と同様に、可視光分割比率が小さければ小さい程最大(例えば0%の時に最大(100%)で最も明るくなる)となり、50%の時に最小(50%で最も暗くなる)となるような特性(例えば一次関数)に従って推移すると考えられる。これは、撮像素子152,151のそれぞれへの露光時間の比率100:1に、第2可視光V2と第1可視光V1との光量比率を掛け合わせたものが、第2可視映像信号V2VDと第1可視映像信号V1VDの明るさの比率となり、そのうち明るい方の第2可視映像信号V2VDの明るさにより感度が決まるためである。
【0048】
撮像素子152,151のそれぞれへの露光時間が同一の時に比べて例えば100:1の比率となるようにかなりの差が設けられると、高解像度映像信号VVDにおいて、明るい部分と暗い部分との差がより一層に鮮明に現れやすくなりダイナミックレンジをより多く稼ぐことができると考えられる。したがって、ダイナミックレンジDRG3については、可視光分割比率が0より大きい範囲で小さければ小さい程大きく(例えば1%の時に+約80dB)となり、50%の時に最小(例えば+40dB)となるような特性に従って推移すると考えられる。つまり、図7の例であれば、最小値であっても+40dBを稼ぐことができる。
【0049】
電子シャッタによる撮像素子152,151のそれぞれへの露光時間が100:1の比率となるようにかなりの差が設けられると、例えば可視光分割比率が10%(第2可視光V2:第1可視光V1=90:10)となる場合、撮像素子152に入射する光量:撮像素子151に入射する光量=1000:1程度となると考えられる。つまり、第2可視光V2では明るすぎて暗いところはほぼ映らず、第1可視光V1では暗すぎて明るいところはほぼ映らないので図6の例に比べて重ね合わせた時に解像度を稼ぐことはほぼ難しいと考えることができる。したがって、解像度RSO3については、可視光分割比率に拘わらず、小さい値(例えば0%の時に最小で1倍であって、50%でも1.001倍程度)を推移すると考えられる。
【0050】
図8は、第2可視光V2および第1可視光V1のそれぞれの露光時間が1:10となる場合の、可視光分割比率と感度GAN3、ダイナミックレンジDRG4、解像度RSO4との関係例を示すグラフである。図8の横軸は可視光分割比率であり、図5の説明と同様であるため説明を省略する。図8の縦軸は映像信号処理部17において生成される高解像度映像信号VVDの感度GAN3、ダイナミックレンジDRG4、解像度RSO4を示す。
【0051】
図8では電子シャッタによる撮像素子152,151のそれぞれへの露光時間が1:10の比率となるように差が設けられた例が示されている。図6の例と反対に、撮像素子152,151のそれぞれへの露光時間が例えば1:10の比率となるように差が設けられると、例えば可視光分割比率が10%(第2可視光V2:第1可視光V1=90:10)となる場合、撮像素子152に入射する光量と撮像素子151に入射する光量とは可視光分割比率と露光時間比との相殺によってほぼ同等になると考えられる。したがって、感度GAN3については、可視光分割比率が0%から10%まで(言い換えると、撮像素子152,151にそれぞれ入射する光量があまり変わらない場合)は最小となるように略一定に推移し、可視光分割比率が10%より大きくなり50%になるまでは一次関数的に単調増加する特性として推移する。例えば50%の時に最大(50%、つまり-6dB)に明るくなる。これは、撮像素子152,151のそれぞれへの露光時間の比率1:10に、第2可視光V2と第1可視光V1との光量比率を掛け合わせたものが、第2可視映像信号V2VDと第1可視映像信号V1VDの明るさの比率となり、そのうち明るい方の映像信号の明るさにより感度が決まるためである。
【0052】
撮像素子152,151のそれぞれへの露光時間が同一の時に比べて例えば1:10の比率となるように差が設けられると、高解像度映像信号VVDにおいて、可視光分割比率が0%より大きい範囲で小さければ小さい程明るさの差分が得られ易いが、可視光分割比率が高くなるにつれて明るい部分と暗い部分との差が現れにくくなりダイナミックレンジをより稼ぐことが難しくなると考えられる。したがって、ダイナミックレンジDRG4については、可視光分割比率が0%より大きい範囲で小さければ小さい程大きくなる(例えば、0.001%の時に約+80dB)となるが、可視光分割比率が10%の時に、撮像素子152,151の露光時間の比率1:10と相殺されて、第2可視映像信号V2VDと第1可視映像信号V1VDとの明るさがほぼ同等となり、ダイナミックレンジDRG4は最小となる。可視光分割比率が10%を超えると再び第2可視映像信号V2VDと第1可視映像信号V1VDとの明るさに差ができるため、ダイナミックレンジDRG4が大きくなり、可視光分割比率50%の場合は、撮像素子152,151の露光時間の比率1:10と掛け合わせて、第2可視映像信号V2VDと第1可視映像信号V1VDの明るさの比率が1:10となるため、ダイナミックレンジは+20dBとなる。
【0053】
電子シャッタによる撮像素子152,151のそれぞれへの露光時間が1:10の比率となるように差が設けられると、例えば可視光分割比率が10%(第2可視光V2:第1可視光V1=90:10)となる場合、撮像素子152に入射する光量と撮像素子151に入射する光量とがほぼ同等になると考えられる(上述参照)。つまり、可視光分割比率と露光時間比(1:10)との相殺が起きる時(例えば可視光分割比率が10%)の時に第1可視光V1に基づく第1可視映像信号V1VDと第2可視光V2に基づく第2可視映像信号V2VDとが同等の明るさとなるので、解像度RSO4としては最大となり、相殺が起きにくくなるような可視光分割比率の時に最大値から低下するような特性で推移すると考えられる。
【0054】
図9は、実施の形態1に係る3板式カメラ1により生成された可視・IR合成映像信号IMVVDのモニタMN1での表示例を示す図である。図9に示す可視・IR合成映像信号IMVVDは、被検体である患者の観察部位(例えば肝臓および膵臓の周囲)での撮像に基づいて生成されてモニタMN1に表示されている。図9では、手術あるいは検査の前に予め患者体内の患部に投与されたICGの蛍光試薬が発光し、可視・IR合成映像信号IMVVDではその箇所(例えば患部FL1)が分かるように示されている。また、画素ずらし合成・高解像度化処理部21によって高解像度を有する高解像度映像信号VVDが生成されているので、可視・IR合成映像信号IMVVDでは観察対象等の術野の鮮明な映像が得られる。このように、3板式カメラ1は、例えば手術あるいは検査時に、医師等のユーザによる観察部位の詳細を把握可能な高画質であって患部の位置を容易に特定可能な可視・IR合成映像信号IMVVDを生成してモニタMN1に表示できる。
【0055】
以上により、実施の形態1に係る3板式カメラ1は、観察部位(例えば被検体内の患部)からの光L2のうちIR光を撮像素子153に受光させる第1プリズム(例えばIRプリズム31)と、観察部位(例えば被検体内の患部)からの光L2A%の可視光を反射しかつ残りの(100-A)%の可視光を撮像素子151に受光させる第2プリズム(例えば可視プリズム32)と、残りの(100-A)%の可視光を撮像素子152に受光させる第3プリズム(例えば可視プリズム33)と、を備える。また、3板式カメラ1は、光学的に略1画素分ずれた位置にそれぞれ接着された撮像素子151および撮像素子152の撮像出力に基づくカラー映像信号と、撮像素子153の撮像出力に基づくIR映像信号とを合成してモニタMN1に出力する映像信号処理部17を備える。
【0056】
これにより、3板式カメラ1は、例えば手術あるいは検査時に予め患者等の被検体内に蛍光試薬(例えばICG)が投与された観察部位(例えば患部)からの光のうち蛍光試薬の蛍光領域に特化したIR光を分光プリズム13により分離(分光)することができる。さらに、3板式カメラ1は、観察部位からの光のうち上述した可視光の一部をビームスプリッタBSP1において反射するとともに残りの可視光を透過して光学的に略1画素分ずれた撮像素子151,152の撮像出力に基づいて高解像度を有するRGBのカラー映像信号を生成できる。また、3板式カメラ1は、撮像素子151,152の撮像出力を合成することで、ダイナミックレンジを拡大したRGBのカラー映像信号を生成できる。したがって、3板式カメラ1は、IR光および可視光の両方においてより鮮明な蛍光画像を生成して出力できるので、蛍光試薬が投与された観察部位のより鮮明な蛍光映像の生成と観察部位のカラー映像の高解像度化とを両立でき、医師等による患部の容易な把握を支援できる。
【0057】
また、第1プリズムには、IR光を反射する第1反射膜(例えばダイクロイックミラーDYM1)が形成される。第2プリズムには、第1反射膜を透過した可視光のうちA%の可視光を反射しかつ(100-A)%の可視光を透過する第2反射膜(例えばビームスプリッタBSP1)が形成される。第3プリズムには、第2反射膜を透過した(100-A)%の可視光が入射する。これにより、観察部位(例えば患部)からの光のうちIR光をダイクロイックミラーDYM1が最初に分光し、ダイクロイックミラーDYM1を透過した可視光をビームスプリッタBSP1において分光するので、ダイクロイックミラーDYM1およびビームスプリッタBSP1における分光を効率化できる。
【0058】
また、A%の値と残りの(100-A)%の値とが略等しい。これにより、Aが略50となり、光学的に略1画素分ずれた配置を有するカラーフィルタBYR1,BYR2のそれぞれに均等な明るさを有する光が入射するので、3板式カメラ1は、最も高解像度なRGBのカラー映像信号を効率的に生成できる。
【0059】
また、撮像素子151の赤色(R)、緑色(G)、青色(B)を有するカラーフィルタBYR1と撮像素子152の赤色(R)、緑色(G)、青色(B)を有するカラーフィルタBYR2とが、各画素において緑色(G)のカラーフィルタが位置するように配置される。映像信号処理部17は、各画素に位置するように配置された緑色(G)のカラーフィルタに基づく画素値を選択し、この選択された画素値をカラー映像信号のうちの輝度信号の生成に主として用いる。これにより、映像信号処理部17は、2層で積層されたベイヤ配列のカラーフィルタBYR1,BYR2(図3A参照)のうち各画素において輝度信号の解像度に寄与する割合が最も高い(G)のカラーフィルタを透過した光を選択的に用いることで、略1画素分の画素ずらしが行われていない場合の映像信号に比べて高い高解像度を有する高解像度映像信号VVDを生成できる。これは、人間の視覚は緑(G)に最も敏感に反応するため、輝度信号の解像度へ寄与する割合が最も高いことが知られていることを利用したものである。
【0060】
また、撮像素子152は、撮像素子151に対して水平方向および垂直方向のうち少なくとも一方向に光学的に1画素ずれて配置される。これにより、光学的に略1画素程度(上述参照)ずらして配置された撮像素子151,152の撮像に基づいて、映像信号処理部において、画素ずらしによる高解像度映像信号VVDが生成可能となる。
【0061】
また、3板式カメラ1は、撮像素子151の露光時間と撮像素子152の露光時間との比率を同一あるいは異なるように制御する。これにより、3板式カメラ1は、撮像素子151の露光時間と撮像素子152の露光時間との比率とビームスプリッタBSP1による可視光の反射率とに応じて、ユーザの嗜好に沿う感度、ダイナミックレンジおよび解像度をそれぞれ適応的に実現した高画質な映像信号を生成できる(図5図8参照)。
【0062】
以上、図面を参照しながら各種の実施の形態について説明したが、本開示はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例、修正例、置換例、付加例、削除例、均等例に想到し得ることは明らかであり、それらについても当然に本開示の技術的範囲に属するものと了解される。また、発明の趣旨を逸脱しない範囲において、上述した各種の実施の形態における各構成要素を任意に組み合わせてもよい。
【0063】
例えば、上述した実施の形態1では、第1プリズムの一例としてIRプリズム31を例示したが、第1プリズムはIRプリズム31に限定されなくてもよい。例えば、第1プリズムは可視光を反射する可視プリズムでなければ、光L2のうちIR光および可視光でない他の波長帯域(例えば紫外線の波長帯域)の光を反射するプリズムであってもよい。これにより、IR映像信号の代わりに例えば紫外線の撮像に基づく映像信号と高解像度化およびダイナミックレンジが拡充したRGBのカラー映像信号とが合成された映像がモニタMN1等に出力可能となる。
【0064】
また、図2に示す分光プリズム13において、IRプリズム31が最も対物側に配置されている例として説明したが、IRプリズム31は最も対物側に配置されなくても構わない。例えばIRプリズム31は、可視プリズム32,33のいずれのプリズムの位置に配置されても構わない。IRプリズム31が分光プリズム13においていずれのプリズムの位置に配置されたとしても、撮像素子151,152が光学的に略1画素(上述参照)分ずれて可視プリズム32,33に接着されることで、上述した実施の形態1に係る3板式カメラ1と同様の効果が得られる。
【産業上の利用可能性】
【0065】
本開示は、蛍光試薬が投与された観察部位のより鮮明な蛍光映像の生成と観察部位のカラー映像の高解像度化とを両立し、医師等による患部の容易な把握を支援する3板式カメラとして有用である。
【符号の説明】
【0066】
1 3板式カメラ
11 レンズ
13 分光プリズム
17 映像信号処理部
21 画素ずらし合成・高解像度化処理部
21A 長短露光合成・広ダイナミックレンジ処理部
23 可視・IR合成処理部
31 IRプリズム
31a、32a、33a 入射面
31b、32b 反射面
31c、32c、33c 出射面
32、33 可視プリズム
151、152、153 撮像素子
191、192、193 カメラ信号処理部
BSP1 ビームスプリッタ
DYM1 ダイクロイックミラー
MN1 モニタ
図1A
図1B
図2
図3A
図3B
図4A
図4B
図5
図6
図7
図8
図9