特許第5888416号(P5888416)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社ニコンの特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】5888416
(24)【登録日】2016年2月26日
(45)【発行日】2016年3月22日
(54)【発明の名称】構造化照明顕微鏡装置
(51)【国際特許分類】
   G02B 21/06 20060101AFI20160308BHJP
【FI】
   G02B21/06
【請求項の数】14
【全頁数】44
(21)【出願番号】特願2014-525717(P2014-525717)
(86)(22)【出願日】2013年7月16日
(86)【国際出願番号】JP2013004338
(87)【国際公開番号】WO2014013720
(87)【国際公開日】20140123
【審査請求日】2014年11月21日
(31)【優先権主張番号】特願2012-160805(P2012-160805)
(32)【優先日】2012年7月19日
(33)【優先権主張国】JP
(73)【特許権者】
【識別番号】000004112
【氏名又は名称】株式会社ニコン
(74)【代理人】
【識別番号】100072718
【弁理士】
【氏名又は名称】古谷 史旺
(74)【代理人】
【識別番号】100116001
【弁理士】
【氏名又は名称】森 俊秀
(72)【発明者】
【氏名】大木 裕史
(72)【発明者】
【氏名】埜田 友也
(72)【発明者】
【氏名】奥平 陽介
【審査官】 堀井 康司
(56)【参考文献】
【文献】 特開2009−157084(JP,A)
【文献】 特開2009−098215(JP,A)
【文献】 特表2012−504252(JP,A)
【文献】 米国特許出願公開第2012/0026311(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G02B 19/00−21/00
G02B 21/06−21/36
(57)【特許請求の範囲】
【請求項1】
縞で標本を空間変調する照明光学系と、
空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、
前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、
前記取得手段で取得した前記変調画像に基づいて前記標本の画像を生成する演算手段とを備え、
前記取得手段は、
前記波数ベクトルが同じであって前記位相が異なる少なくとも2つの前記変調画像を取得し、
前記演算手段は、
前記取得手段で取得した少なくとも2つの前記変調画像の各々の空間周波数スペクトルにおいて、前記波数ベクトルの分だけ互いにずれた任意の2つの観測点に関する少なくとも4つの観測値に基づいて、前記2つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。
【請求項2】
縞で標本を空間変調する照明光学系と、
空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、
前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、
前記取得手段で取得した前記変調画像に基づいて前記標本の画像を生成する演算手段とを備え、
前記取得手段は、
互いに閉じた関係の3つの前記波数ベクトルのうち、2つの波数ベクトルの各々で1つの前記変調画像を取得し、他の1つの波数ベクトルで前記位相の異なる少なくとも2つの前記変調画像を取得し、
前記演算手段は、
前記取得手段で取得した少なくとも4つの前記変調画像の各々の空間周波数スペクトルにおいて、前記3つの波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。
【請求項3】
請求項2に記載の構造化照明顕微鏡装置において、
前記取得手段は、
前記位相の異なる少なくとも2つの変調画像間の位相差を、πに設定する
ことを特徴とする構造化照明顕微鏡装置。
【請求項4】
縞で標本を空間変調する照明光学系と、
空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、
前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、
前記取得手段で取得した前記変調画像に基づいて前記標本の画像を生成する演算手段とを備え、
前記取得手段は、
互いに閉じた関係の3つの前記波数ベクトルの各々で1つの前記変調画像を取得すると共に、1つの無変調画像を取得し、
前記演算手段は、
前記取得手段で取得した3つの前記変調画像及び1つの前記無変調画像の各々の空間周波数スペクトルにおいて、前記3つの波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。
【請求項5】
縞で標本を空間変調する照明光学系と、
空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、
前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、
前記取得手段で取得した前記変調画像に基づいて前記標本の画像を生成する演算手段とを備え、
前記取得手段は、
互いに閉じた関係の3つの前記波数ベクトルを同時に有した前記縞で、前記位相の異なる4つの前記変調画像を取得し、
前記演算手段は、
前記取得手段で取得した4つの前記変調画像の各々の空間周波数スペクトルにおいて、前記3つの波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。
【請求項6】
で標本を空間変調する照明光学系と、
空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、
前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、
前記取得手段で取得した前記変調画像に基づいて前記標本の画像を生成する演算手段とを備え、
前記取得手段は、
前記波数ベクトルが同じであって前記位相が異なる3つの前記変調画像を取得し、
前記演算手段は、
前記取得手段で取得した3つの前記変調画像の各々の空間周波数スペクトルにおいて、前記波数ベクトルの分だけ互いにずれた任意の2つの観測点に関する6つの観測値に基づいて、前記2つの観測点に重畳された前記観察光束の0次変調成分、±1次変調成分及び±2次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。
【請求項7】
請求項6に記載の構造化照明顕微鏡装置において、
前記取得手段は、
前記3つの変調画像間の位相差を、2π/3に設定する
ことを特徴とする構造化照明顕微鏡装置。
【請求項8】
請求項6に記載の構造化照明顕微鏡装置において、
前記取得手段は、
方向の異なる3つの前記波数ベクトルの各々で、前記位相の異なる3つの前記変調画像を取得し、
前記演算手段は、
前記3つの波数ベクトルの各々について前記分離を行う
ことを特徴とする構造化照明顕微鏡装置。
【請求項9】
で標本を空間変調する照明光学系と、
空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、
前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、
前記取得手段で取得した変調画像に基づいて前記標本の画像を生成する演算手段とを備え、
前記取得手段は、
互いに閉じた関係の3つの前記波数ベクトルの各々で前記位相の異なる2つの前記変調画像を取得すると共に、1つの無変調画像を取得し、
前記演算手段は、
前記取得手段で取得した6つの前記変調画像及び1つの前記無変調画像の各々の空間周波数スペクトルにおいて、前記3つの波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記3つの波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。
【請求項10】
請求項9に記載の構造化照明顕微鏡装置において、
前記取得手段は、
少なくとも1つの前記波数ベクトルで取得される2つの前記変調画像間の位相差を、πに設定する
ことを特徴とする構造化照明顕微鏡装置。
【請求項11】
で標本を空間変調する照明光学系と、
空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、
前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、
前記取得手段で取得した変調画像に基づいて前記標本の画像を生成する演算手段とを備え、
前記取得手段は、
互いに閉じた関係の3つの前記波数ベクトルの各々で前記位相の異なる4つの変調画像を取得し、
前記演算手段は、
前記取得手段で取得した12の前記変調画像の各々の空間周波数スペクトルにおいて、前記3つの波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する36の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記3つの波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する36の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。
【請求項12】
で標本を空間変調する照明光学系と、
空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、
前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、
前記取得手段で取得した変調画像に基づいて前記標本の画像を生成する演算手段とを備え、
前記取得手段は、
互いに閉じた関係の3つの前記波数ベクトルのうち、2つの波数ベクトルの各々で前記位相の異なる2つの前記変調画像を取得し、他の1つの波数ベクトルで前記位相の異なる4つの前記変調画像を取得し、
前記演算手段は、
前記取得手段が取得した8つの前記変調画像の各々の空間周波数スペクトルにおいて、前記3つの波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する24の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記3つの波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する24の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離する
ことを特徴とする構造化照明顕微鏡装置。
【請求項13】
請求項12に記載の構造化照明顕微鏡装置において、
前記取得手段は、
前記位相の異なる4つの変調画像間の位相差を、π/2に設定する
ことを特徴とする構造化照明顕微鏡装置。
【請求項14】
請求項2〜5、請求項9〜13の何れか一項に記載の構造化照明顕微鏡装置において、
前記3つの波数ベクトルは、大きさが同じであって、方向が120°ずつずれたベクトルである
ことを特徴とする構造化照明顕微鏡装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、構造化照明顕微鏡装置に関する。
【背景技術】
【0002】
生体標本などの被観察物を超解像観察するための手法に、被観察物の構造の空間周波数を照明光で変調する手法がある(特許文献1を参照)。
【0003】
この手法では、空間変調された照明光で被観察物を照明し、被観察物の構造に含まれる解像限界を超える高い空間周波数の情報を、顕微鏡光学系の結像に寄与させる。また、空間照明の位相を切り替え、互いに異なる位相の下で得られた複数の変調像のデータ(以下、「変調画像」と称す。)へ演算を施すことにより、復調像のデータ(以下、「復調画像」又は「超解像画像」と称す。)を取得する。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】米国再発行特許発明第38307号明細書
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかし、1枚の超解像画像を観察するためには、複数枚の変調画像を取得し、それら変調画像の各々のスペクトルを生成する必要があるため、高速に観察することが難しい。
【0006】
そこで本発明は、変調画像から超解像画像(復調画像)を取得するための復調演算を効率化することを目的とする。
【課題を解決するための手段】
【0007】
本発明の構造化照明顕微鏡装置の一例は、縞で標本を空間変調する照明光学系と、空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、前記取得手段で取得した前記変調画像に基づいて前記標本の画像を生成する演算手段とを備え、前記取得手段は、前記波数ベクトルが同じであって前記位相が異なる少なくとも2つの前記変調画像を取得し、前記演算手段は、前記取得手段で取得した少なくとも2つの前記変調画像の各々の空間周波数スペクトルにおいて、前記波数ベクトルの分だけ互いにずれた任意の2つの観測点に関する少なくとも4つの観測値に基づいて、前記2つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離する。
【0008】
また、本発明の構造化照明顕微鏡装置の一例は、縞で標本を空間変調する照明光学系と、空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、前記取得手段で取得した前記変調画像に基づいて前記標本の画像を生成する演算手段とを備え、前記取得手段は、互いに閉じた関係の3つの前記波数ベクトルのうち、2つの波数ベクトルの各々で1つの前記変調画像を取得し、他の1つの波数ベクトルで前記位相の異なる少なくとも2つの前記変調画像を取得し、前記演算手段は、前記取得手段で取得した少なくとも4つの前記変調画像の各々の空間周波数スペクトルにおいて、前記3つの波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離する。
【0009】
なお、前記取得手段は、前記位相の異なる少なくとも2つの変調画像間の位相差を、πに設定してもよい。
【0010】
また、本発明の構造化照明顕微鏡装置の一例は、縞で標本を空間変調する照明光学系と、空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、前記取得手段で取得した前記変調画像に基づいて前記標本の画像を生成する演算手段とを備え、前記取得手段は、互いに閉じた関係の3つの前記波数ベクトルの各々で1つの前記変調画像を取得すると共に、1つの無変調画像を取得し、前記演算手段は、前記取得手段で取得した3つの前記変調画像及び1つの前記無変調画像の各々の空間周波数スペクトルにおいて、前記3つの波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離する。
【0011】
また、本発明の構造化照明顕微鏡装置の一例は、縞で標本を空間変調する照明光学系と、空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、前記取得手段で取得した前記変調画像に基づいて前記標本の画像を生成する演算手段とを備え、前記取得手段は、互いに閉じた関係の3つの前記波数ベクトルを同時に有した前記縞で、前記位相の異なる4つの前記変調画像を取得し、前記演算手段は、前記取得手段で取得した4つの前記変調画像の各々の空間周波数スペクトルにおいて、前記3つの波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±1次変調成分を互いに分離する。
【0012】
また、本発明の構造化照明顕微鏡装置の一例は、縞で標本を空間変調する照明光学系と、空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、前記取得手段で取得した前記変調画像に基づいて前記標本の画像を生成する演算手段とを備え、前記取得手段は、前記波数ベクトルが同じであって前記位相が異なる3つの前記変調画像を取得し、前記演算手段は、前記取得手段で取得した3つの前記変調画像の各々の空間周波数スペクトルにおいて、前記波数ベクトルの分だけ互いにずれた任意の2つの観測点に関する6つの観測値に基づいて、前記2つの観測点に重畳された前記観察光束の0次変調成分、±1次変調成分及び±2次変調成分を互いに分離する。
【0013】
なお、前記取得手段は、前記3つの変調画像間の位相差を、2π/3に設定してもよい。
【0014】
また、前記取得手段は、方向の異なる3つの前記波数ベクトルの各々で、前記位相の異なる3つの前記変調画像を取得し、前記演算手段は、前記3つの波数ベクトルの各々について前記分離を行ってもよい。
【0015】
また、本発明の構造化照明顕微鏡装置の一例は、縞で標本を空間変調する照明光学系と、空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、前記取得手段で取得した変調画像に基づいて前記標本の画像を生成する演算手段とを備え、前記取得手段は、互いに閉じた関係の3つの前記波数ベクトルの各々で前記位相の異なる2つの前記変調画像を取得すると共に、1つの無変調画像を取得し、前記演算手段は、前記取得手段で取得した6つの前記変調画像及び1つの前記無変調画像の各々の空間周波数スペクトルにおいて、前記3つの波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記3つの波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する21の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離する。
【0016】
なお、前記取得手段は、少なくとも1つの前記波数ベクトルで取得される2つの前記変調画像間の位相差を、πに設定してもよい。
【0017】
また、本発明の構造化照明顕微鏡装置の一例は、縞で標本を空間変調する照明光学系と、空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、前記取得手段で取得した変調画像に基づいて前記標本の画像を生成する演算手段とを備え、前記取得手段は、互いに閉じた関係の3つの前記波数ベクトルの各々で前記位相の異なる4つの変調画像を取得し、前記演算手段は、前記取得手段で取得した12の前記変調画像の各々の空間周波数スペクトルにおいて、前記3つの波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する36の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記3つの波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する36の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離する。
【0018】
また、本発明の構造化照明顕微鏡装置の一例は、縞で標本を空間変調する照明光学系と、空間変調された前記標本からの観察光束を結像することにより前記標本の変調像を形成する結像光学系と、前記縞の波数ベクトル及び前記縞の位相の少なくとも一方を制御すると共に、前記変調像を撮像して前記標本の変調画像を取得する取得手段と、前記取得手段で取得した変調画像に基づいて前記標本の画像を生成する演算手段とを備え、前記取得手段は、互いに閉じた関係の3つの前記波数ベクトルのうち、2つの波数ベクトルの各々で前記位相の異なる2つの前記変調画像を取得し、他の1つの波数ベクトルで前記位相の異なる4つの前記変調画像を取得し、前記演算手段は、前記取得手段が取得した8つの前記変調画像の各々の空間周波数スペクトルにおいて、前記3つの波数ベクトルの分だけ互いにずれた任意の3つの観測点に関する24の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の±1次変調成分を互いに分離し、前記3つの波数ベクトルの2倍分だけ互いにずれた任意の3つの観測点に関する24の観測値に基づいて、前記3つの観測点に重畳された前記観察光束の0次変調成分及び±2次変調成分を互いに分離する。
【0019】
なお、前記取得手段は、前記位相の異なる4つの変調画像間の位相差を、π/2に設定してもよい。
【0020】
また、前記3つの波数ベクトルは、大きさが同じであって、方向が120°ずつずれたベクトルであってもよい。
【図面の簡単な説明】
【0021】
図1】第1実施形態の構造化照明顕微鏡装置1の構成図である。
図2】光束分岐部14を説明する図である。
図3】光束選択部18の1/2波長板19の機能を説明する図である。
図4】光束選択部18の光束選択部材20の機能を説明する図である。
図5】光束選択部18の機能を説明する図である。
図6】光束選択部18の回動機構18Aを説明する図である。
図7】光束分岐部14の並進機構15の動作を説明する図である。
図8】3D−SIMモード用の光束選択部材20’を説明する図である。
図9】従来の2D−SIMモードの復調演算を説明する図である。
図10】従来の2D−SIMで使用される行列Mの条件数の逆数の分布である。
図11】第1.3節の復調演算を説明する図である。
図12】(A)は、Δφ≠πのときに復元可能な範囲を示し、(B)は、Δφ=πのときに復元可能な範囲を示す。
図13】第1.3節において干渉縞の方向数を3とした場合に復元可能な範囲を示す。
図14】(A)は、第1.4節の第1ステップで復元可能な領域であり、(B)は、第2ステップで復元可能な領域である。
図15】(A)は、第1.4節の第3ステップで復元可能な領域であり、(B)は、第4ステップで復元可能な領域である。
図16】(A)は、第1.4節の式1.27の図解であり、(B)は、式1.27の変形版の図解である。
図17】第1.5節の第1の例による復元領域である。
図18】第1.5節の第2の例による復元領域である。
図19】第1.6節における式1.33の図解である。
図20】第1.6節で復元される領域である。
図21】第1.6節の式1.33を詳細に説明する図である。
図22】第1.9節における式1.63の図解である。
図23】3方向干渉縞の格子構造と、格子の基本ベクトルa、aとの関係を示す図である。
図24】4枚の変調画像の間における干渉縞強度分布の関係を示す図である。
図25】3方向干渉縞の投影方法を説明する図である。
図26】3方向干渉縞の別の投影方法を説明する図である。
図27】従来の3D−SIMの復調画像の周波数域を示す図である。(A)はxy断面、(B)は、zx断面である。
図28】第2.4節における復調画像の周波数域を示す図である。(A)はxy断面、(B)は、zx断面である。
【発明を実施するための形態】
【0022】
以下、本発明の実施形態として構造化照明顕微鏡装置を説明する。
【0023】
[装置の説明]
先ず、構造化照明顕微鏡装置の構成を説明する。
【0024】
図1は、構造化照明顕微鏡装置1の構成図である。図1に示すとおり構造化照明顕微鏡装置1には、レーザユニット100と、光ファイバ11と、照明光学系10と、結像光学系30と、撮像素子42と、制御装置43と、画像記憶・演算装置44と、画像表示装置45とが備えられる。なお、照明光学系10は落射型であり、結像光学系30の対物レンズ31及びダイクロイックミラー33を利用して標本2の照明を行う。
【0025】
レーザユニット100には、第1レーザ光源101、第2レーザ光源102、シャッタ103、104、ミラー105、ダイクロイックミラー106、レンズ107が備えられる。第1レーザ光源101及び第2レーザ光源102の各々は可干渉光源であって、互いの出射波長は異なる。ここでは、第1レーザ光源101の波長λ1は、第2レーザ光源102の波長λ2よりも長いと仮定する(λ1>λ2)。これらの第1レーザ光源101、第2レーザ光源102、シャッタ103、104は、それぞれ制御装置43によって駆動される。
【0026】
光ファイバ11は、レーザユニット100から射出したレーザ光を導光するために、例えば、偏波面保存型のシングルモードファイバによって構成される。この光ファイバ11の出射端の光軸方向の位置は、位置調節機構11Aによって調節可能である。この位置調整機構11Aは、制御装置43によって駆動される。
【0027】
照明光学系10には、光ファイバ11の出射端側から順に、コレクタレンズ12と、偏光板13と、光束分岐部14と、集光レンズ17と、光束選択部18と、レンズ21と、視野絞り22と、フィールドレンズ23と、励起フィルタ24と、ダイクロイックミラー33と、対物レンズ31とが配置される。
【0028】
光束分岐部14には、並進機構15と、回折光学素子(回折格子)16とが備えられ、光束選択部18には、1/2波長板19と、光束選択部材20と、回動機構18Aとが備えられる。これらの光束分岐部14、光束選択部18の各々は、制御装置43によって駆動される。
【0029】
結像光学系30には、標本2の側から順に、対物レンズ31と、ダイクロイックミラー33と、吸収フィルタ34と、第2対物レンズ35とが配置される。
【0030】
標本2は、例えば、平行平板状のガラス表面に滴下された培養液であって、その培養液におけるガラス界面の近傍には、蛍光性を有した細胞が存在している。この細胞には、波長λ1の光によって励起される第1蛍光領域と、波長λ2の光によって励起される第2蛍光領域との双方が発現している。
【0031】
撮像素子42は、CCDやCMOS等からなる二次元の撮像素子である。撮像素子42は、制御装置43によって駆動されると、その撮像面41に形成された像を撮像し、画像を生成する。この画像は、制御装置43を介して画像記憶・演算装置44へと取り込まれる。
【0032】
制御装置43は、レーザユニット100、位置調整機構11A、光束分岐部14、光束選択部18、撮像素子42を駆動制御する。
【0033】
画像記憶・演算装置44は、制御装置43を介して与えられた画像に対して演算を施し、演算後の画像を不図示の内部メモリに格納すると共に、画像表示装置45へ送出する。
【0034】
次に、構造化照明顕微鏡装置1におけるレーザ光の振る舞いを説明する。
【0035】
第1レーザ光源101から射出した波長λ1のレーザ光(第1レーザ光)は、シャッタ103を介してミラー105へ入射すると、ミラー105を反射し、ダイクロイックミラー106へ入射する。一方、第2レーザ光源102から射出した波長λ2のレーザ光(第2レーザ光)は、シャッタ104を介してビームスプリッタ106へ入射し、第1レーザ光と統合される。ダイクロイックミラー106から射出した第1レーザ光及び第2レーザ光は、レンズ107を介して光ファイバ11の入射端に入射する。なお、制御装置43がレーザユニット100を制御すると、光ファイバ11の入射端に入射するレーザ光の波長(=使用波長λ)は、長い波長λ1と短い波長λ2との間で切り替わる。
【0036】
光ファイバ11の入射端に入射したレーザ光は、光ファイバ11の内部を伝搬して光ファイバ11の出射端に点光源を生成する。その点光源から射出したレーザ光は、コレクタレンズ12によって平行光束に変換され、偏光板13を介して光束分岐部14の回折格子16へ入射すると、各次数の回折光束に分岐される。これら各次数の回折光束は、集光レンズ17によって瞳共役面25の互いに異なる位置に集光される。
【0037】
ここで、瞳共役面25は、レンズ17の焦点位置(後ろ側焦点位置)であって、対物レンズ31の瞳32(±1次回折光が集光する位置)に対してレンズ23、レンズ21を介して共役な位置のことである(なお、「共役な位置」の概念には、当業者が対物レンズ17、レンズ21、23の収差、ビネッティング等、設計上必要な事項を考慮して決定した位置も含まれる。)。
【0038】
なお、光ファイバ11から射出したレーザ光は基本的に直線偏光しているので、偏光板13は、省略することも可能であるが、余分な偏光成分を確実にカットするために有効である。また、レーザ光の利用効率を高めるため、偏光板13の軸は、光ファイバ11から射出したレーザ光の偏光方向に一致していることが望ましい。
【0039】
瞳共役面25に向かった各次数の回折光束は、瞳共役面25の近傍に配置された光束選択部18へ入射する。
【0040】
光束選択部18は、入射した各次数の回折光束のうち、1対の回折光束のみ(ここでは±1次回折光束のみ)を選択的に通過させる。
【0041】
光束選択部18を通過した±1次回折光束は、レンズ21によって視野絞り22付近で回折格子16と共役な面を形成した後に、フィールドレンズ23により平行光に変換され、さらに励起フィルタ24を経てからダイクロイックミラー33で反射し、対物レンズ31の瞳面32上の互いに異なる位置に集光される。
【0042】
瞳面32上に集光した±1次回折光束の各々は、対物レンズ31の先端から射出される際には平行光束となり、標本2の表面で互いに重なり合い、干渉縞を形成する。この干渉縞が、構造化照明光として使用される。
【0043】
このような構造化照明光により標本2を照明すると、構造化照明光の周期構造と標本2の(蛍光領域の)周期構造との差に相当するモアレ縞が現れるが、このモアレ縞においては、標本2の高周波数の構造が元の周波数より低周波数側にシフトしているため、この構造を示す光(蛍光)は、元の角度よりも小さい角度で対物レンズ31へ向かうことになる。よって、構造化照明光により標本2を照明すると、標本2の(蛍光領域の)高周波数の構造情報までもが対物レンズ31によって伝達される。
【0044】
標本2で発生した蛍光は、対物レンズ31に入射すると、対物レンズ31で平行光に変換された後、ダイクロイックミラー33とバリアフィルタ34を透過し、第2対物レンズ35を介して撮像素子42の撮像面41上に標本2の変調像を形成する。
【0045】
この変調像は、撮像素子42により画像化され、制御装置43を介して画像記憶・演算装置44へと取り込まれる。さらに、取り込まれた変調画像には、画像記憶・演算装置44において復調演算(詳細は後述)が施され、復調画像(超解像画像)が生成される。そして、この超解像画像は、画像記憶・演算装置44の内部メモリ(図示せず)に記憶されるとともに、画像表示装置45へと送出される。
【0046】
次に、光束分岐部14を詳しく説明する。
【0047】
図2は、光束分岐部14を説明する図であり、図2(A)は、光束分岐部14の回折格子16を光軸方向から見た図であり、図2(B)は、±1次回折光束が瞳共役面に形成する集光点の位置関係を示す図である。なお、図2(A)は模式図であるため、図2(A)に示した回折格子16の構造周期は実際の構造周期と同じとは限らない。
【0048】
図2(A)に示すように、回折格子16は、照明光学系10の光軸と垂直な互いに異なる複数方向にかけて周期構造を有した2次元回折格子である。ここでは、回折格子16は、120°ずつ異なる第1方向V1、第2方向V2、第3方向V3の各々にかけて周期構造を有しており、それら周期構造の周期(ピッチ)は共通であると仮定する。
【0049】
なお、回折格子16の周期構造は、濃度(透過率)を利用して形成された濃度型の周期構造、または段差(位相差)を利用して形成された位相型の周期構造の何れであってもよいが、位相差型の周期構造の方が+1次回折光の回折効率が高いという点で好ましい。
【0050】
このような回折格子16に入射した平行光束は、第1方向V1にかけて分岐した第1回折光束群と、第2方向V2にかけて分岐した第2回折光束群と、第3方向V3にかけて分岐した第3回折光束群とに変換される。
【0051】
第1回折光束群には、0次回折光束及び±1次回折光束が含まれ、このうち互いの次数が共通である±1次回折光束は、光軸に関して対称な方向に進行する。
【0052】
同様に、第2回折光束群には、0次回折光束及び±1次回折光束が含まれ、このうち互いの次数が共通である±1次回折光束は、光軸に関して対称な方向に進行する。
【0053】
同様に、第3回折光束群には、0次回折光束及び±1次回折光束が含まれ、このうち互いの次数が共通である±1次回折光束は、光軸に関して対称な方向に進行する。
【0054】
これら第1回折光束群の±1次回折光束、第2回折光束群の±1次回折光束、第3回折光束群の±1次回折光束は、前述した集光レンズ17により、瞳共役面内の互いに異なる位置に集光される。
【0055】
そして、図2(B)に示すように、第1回折光束群の±1次回折光束の集光点25d、25gは、光軸に関して対称であり、集光点25d、25gの配列方向は第1方向V1に対応している。
【0056】
また、第2回折光束群の±1次回折光束の集光点25c、25fは、光軸に関して対称であり、集光点25c、25fの配列方向は、第2方向V2に対応している。なお、第2回折光束群の集光点25c、25fのズレ量は、第1回折光束群の集光点25d、25gのズレ量と同じである。
【0057】
また、第3回折光束群の±1次回折光束の集光点25b、25eは、光軸に関して対称であり、集光点25b、25eの配列方向は、第3方向V3に対応している。なお、第3光束群の集光点25b、25eのズレ量は、第1回折光束群の集光点25d、25gのズレ量と同じである。
【0058】
以上の光束分岐部14において、並進機構15は、ピエゾモータ等からなる。並進機構15は、照明光学系10の光軸と垂直な方向であって、前述した第1方向V1、第2方向V2、第3方向V3の各々に対して非垂直な方向にかけて、回折格子16を並進移動させる。この方向に回折格子16を並進移動させると、構造化照明光の縞の位相がシフトする(詳細は後述。)。
【0059】
次に、光束選択部18を詳しく説明する。
【0060】
図3図4は、光束選択部18を説明する図である。図3に示すとおり、光束選択部18の1/2波長板19は、入射した各次数の回折光束の偏光方向を設定し、図4に示すとおり、光束選択部18の光束選択部材20は、第1〜第3回折光束群のうち何れか1群の±1次回折光束のみを選択的に通過させるマスクである。
【0061】
そして、光束選択部18の不図示の回動機構は、光束選択部材20を光軸の周りに回動させることにより、選択される±1次回折光束を第1〜第3回折光束群の間で切り替えると共に、光束選択部材20に連動して1/2波長板19を光軸の周りに回動させることにより、選択された±1次回折光束が標本2に入射するときの偏光方向をS偏光に保つ。
【0062】
つまり、光束選択部18は、構造化照明光の縞の状態を保ちつつ、構造化照明光の縞方向を切り替える。以下、縞の状態を保つための条件を具体的に説明する。
【0063】
先ず、1/2波長板19の速い軸(進相軸)の向きは、選択される±1次回折光束の分岐方向(第1方向V1〜第3方向V3のいずれか)に対して、±1次回折光束の偏光方向が垂直となるように設定される必要がある。なお、ここでいう1/2波長板19の進相軸とは、その軸の方向に偏光した光が1/2波長板19を通過するときの位相遅延量が最小となるような方向のことである。
【0064】
また、光束選択部材20の開口パターンは、同一の回折光束群に属する±1次回折光束の一方及び他方を個別に通過させる第1の開口部20A及び第2の開口部20Bからなり、これら第1の開口部20Aと第2の開口部20Bとの各々の光軸周りの長さは、前述した方向に直線偏光した回折光束が通過できるような長さに設定されている。よって、第1の開口部20A及び第2の開口部20Bの各々の形状は、部分輪帯状に近い形状である。
【0065】
ここで、図3(A)に示すように、1/2波長板19の進相軸の方向が偏光板13の軸の方向と平行になるときの1/2波長板19の回転位置を、1/2波長板19の回転位置の基準とする(以下、「第1の基準位置」と称する。)。
【0066】
また、光束選択部材20の光束選択方向(=選択される±1次回折光束の分岐方向)が、偏光板13の軸の方向と垂直になるときの光束選択部材20の回転位置を、光束選択部材20の回転位置の基準とする(以下、「第2の基準位置」と称する。)。
【0067】
このとき、図3(B)に示すように、1/2波長板19の第1基準位置からの回転量は、光束選択部材20の第2基準位置からの回転量の2分の1に制御されるべきである。
【0068】
すなわち、1/2波長板19の第1基準位置からの回転量がθ/2であるときには、光束選択部材20の第2基準位置からの回転量は、θに設定される。
【0069】
したがって、光束選択部18の回動機構18Aは、第1回折光束群の±1次回折光束(分岐方向は第1方向V1)を選択するために、図4(A)に示すように、光束選択部材20の光束選択方向を第2の基準位置から右方に回転角θ1だけ回転させた場合、1/2波長板19の進相軸の方向を、第1の基準位置から右方に回転角θ1/2だけ回転させる。
【0070】
このとき、1/2波長板19を通過する前における各次数の回折光束の偏光方向は、図4(A)中に破線両矢印で示すとおり、偏光板13の軸の方向と平行となっているのに対し、1/2波長板19を通過した後における各次数の回折光束の偏光方向は、右方に回転角θ1だけ回転するので、選択された±1次回折光束の偏光方向は、図4(A)に実線両矢印で示すとおり、それら±1次回折光束の分岐方向(第1方向V1)に対して垂直となる。
【0071】
また、光束選択部18の回動機構18Aは、第2回折光束群の±1次回折光束(分岐方向は第2方向V2)を選択するために、図4(B)に示すように、光束選択部材20の光束選択方向を第2の基準位置から右方に回転角θ2だけ回転させた場合、1/2波長板19の進相軸の方向を、第1の基準位置から右方に回転角θ2/2だけ回転させる。
【0072】
このとき、1/2波長板19を通過する前における各次数の回折光束の偏光方向は、図4(B)中に破線両矢線で示すとおり、偏光板13の軸の方向と平行となっているのに対し、1/2波長板19を通過した後における各次数の回折光束の偏光方向は、右方に回転角θ2だけ回転するので、選択された±1次回折光束の偏光方向は、図4(B)に実線両矢印で示すとおり、それら±1次回折光束の分岐方向(第2方向V2)に対して垂直となる。
【0073】
また、光束選択部18の回動機構18Aは、第3回折光束群の±1次回折光束(分岐方向は第3方向V3)を選択するために、図4(C)に示すように、光束選択部材20の光束選択方向を第2の基準位置から左方(標本側から見て。以下同じ)に回転角θ3だけ回転させた場合、1/2波長板19の進相軸の方向を、第1の基準位置から左方に回転角θ3/2だけ回転させる。
【0074】
このとき、1/2波長板19を通過する前における各次数の回折光束の偏光方向は、図4(C)中に破線両矢線で示すとおり、偏光板13の軸の方向と平行となっているのに対し、1/2波長板19を通過した後における各次数の回折光束の偏光方向は、左方に回転角θ3だけ回転するので、選択された±1次回折光束の偏光方向は、図4(C)に実両矢印で示すとおり、それら±1次回折光束の分岐方向(第3方向V3)に対して垂直となる。
【0075】
したがって、光束選択部18の回動機構18Aは、1/2波長板19及び光束選択部材20をギア比2:1で連動すればよい。
【0076】
図5は、以上説明した光束選択部18の機能を説明する図である。なお、図5において円形枠で囲まれた両矢線は、光束の偏光方向を示し、四角枠で囲まれた両矢線は、光学素子の軸方向を示している。
【0077】
また、図6に示すように、光束選択部材20の外周部には、複数の(図6に示す例では6個の)切り欠き20Cが形成されており、回動機構18Aには、これらの切り欠き20Cを検出するためのタイミングセンサ20Dが備えられている。これによって、回動機構18Aは、光束選択部18の回動位置、ひいては1/2波長板19の回動位置を検知することができる。
【0078】
次に、光束分岐部14の並進機構15を詳しく説明する。
【0079】
図7は、光束分岐部14の並進機構15の動作を説明する図である。
【0080】
先ず、復調演算(詳細は後述)を可能とするためには、同一の標本2に関する変調画像であって、干渉縞の方向が共通で位相の異なる少なくとも2つの変調画像が必要である。なぜなら、構造化照明顕微鏡装置1が生成する変調画像には、標本2の構造のうち、構造化照明光により空間周波数の変調された構造情報である0次変調成分、+1次変調成分、−1次変調成分が重畳されており、互いに重畳した3つの未知パラメータを復調演算(詳細は後述)で既知とする必要がある。
【0081】
そこで、光束分岐部14の並進機構15は、干渉縞の位相をシフトするために、図7(A)に示すように、照明光学系10の光軸と垂直な方向であって、前述した第1方向V1、第2方向V2、第3方向V3の全てに対して非垂直な方向(x方向)にかけて回折格子16をシフトさせる。
【0082】
但し、干渉縞の位相を所望のシフト量φだけシフトさせるのに必要な回折格子16のシフト量Lは、光束選択部18による光束選択方向が第1方向V1であるときと、第2方向V2であるときと、第3方向V3であるときとでは、同じとは限らない。
【0083】
図7(B)に示すとおり、回折格子16の第1方向V1、第2方向V2、第3方向V3の各々の構造周期(ピッチ)をPとおき、回折格子13のシフト方向(x方向)と第1方向V1とのなす角をθ1とおき、回折格子16のシフト方向(x方向)と第2方向V2とのなす角をθ2とおき、回折格子16のシフト方向(x方向)と第3方向V3とのなす角をθ3とおくと、光束選択方向が第1方向V1であるときに必要な回折格子16のx方向のシフト量L1は、L1=φ×P/(4π×|cosθ1|)で表され、光束選択方向が第2方向V2であるときに必要な回折格子16のx方向のシフト量L2は、L2=φ×P/(4π×|cosθ2|)で表され、光束選択方向が第3方向V3であるときに必要な回折格子16のx方向のシフト量L3は、L3=φ×P/(4π×|cosθ3|)で表される。
【0084】
すなわち、干渉縞の位相シフト量を所望の値φとするために必要な回折格子16のx方向のシフト量Lは、波長選択方向(第1方向V1、第2方向V2、第3方向V3の何れか)とx方向とのなす角θにより式(1)のとおり表される。
【0085】
L=φ×P/(4π×|cosθ|) …(1)
因みに、干渉縞の位相シフト量φを2πとするために必要な回折格子16のx方向のシフト量Lは、P/(2×|cosθ|)となる。これは、回折格子16の半周期に相当する量である。つまり、回折格子16を半周期分シフトさせるだけで、構造化照明光の位相を1周期分シフトできる(なぜなら、±1次回折光からなる干渉縞の縞ピッチは、回折格子16の構造周期の2倍に相当する。)。
【0086】
[画像記憶・演算装置44の基本動作]
上述した画像記憶・演算装置44は、演算用のプログラムを実行することで演算を行う計算機、演算処理を行う演算回路、或いは、両者の組み合わせによって構成される。また、計算機は、記憶媒体又は通信網経由で演算用のプログラムをインストールした汎用の計算機であってもよい。
【0087】
以下、画像記憶・演算装置44による復調演算の基本手順を説明する。基本手順は、以下の4つのステップからなる。
【0088】
第1ステップ:複数の変調画像の各々をフーリエ変換し、複数の空間周波数スペクトルを生成する。
【0089】
第2ステップ:個々の空間周波数スペクトルに重畳されている、蛍光の0次変調成分、蛍光の+1次変調成分、蛍光の−1次変調成分を、フーリエ空間上で互いに分離する。
【0090】
第3ステップ:互いに分離された蛍光の0次変調成分、蛍光の+1次変調成分、蛍光の−1次変調成分を、フーリエ空間上で再配置することにより、復調画像の空間周波数スペクトルを生成する。
【0091】
第4ステップ:復調画像の空間周波数スペクトルを逆フーリエ変換することにより、復調画像(=超解像画像)を取得する。
【0092】
なお、これらステップの少なくとも2つは、1つの演算式によって一括で実行されてもよい。
【0093】
[2D/3D切り替え]
以下、上述した構造化照明顕微鏡装置の2D/3D切り替えについて説明する。
【0094】
上述した説明では、標本2へ投影する干渉縞を2光束干渉縞とした(すなわち、構造化照明顕微鏡装置1を2D−SIMモードで使用する例を説明した)が、標本2へ投影する干渉縞を3光束干渉縞とすること(すなわち、構造化照明顕微鏡装置1を3D−SIMモードで使用すること)も可能である。
【0095】
この3D−SIMモードでは、図6に示した光束選択部材20の代わりに、図8に示すような光束選択部材20’が使用される。この光束選択部材20’は、図6に示した光束選択部材20において、0次回折光束を通過するための開口部20Eを設けたものである。なお、この開口部20Eの形成先は、光軸の近傍であって、この開口部20Eの形状は、例えば円形である。このような光束選択部材20’によると、±1次回折光束だけでなく0次回折光束をも干渉縞に寄与させることができる。
【0096】
このように、3つの回折光束の干渉(3光束干渉)によって生成される干渉縞は、標本2の表面方向だけでなく、標本2の深さ方向にも空間変調されている。よって、この干渉縞によると、標本2の深さ方向にも超解像効果を得ることができる。
【0097】
但し、2D−SIMモードと3D−SIMモードとの間では、画像記憶・演算装置44が実行すべき復調演算の内容が異なる。なぜなら、2D−SIMモードで生成される変調画像には、蛍光の0次変調成分、蛍光の+1次変調成分、蛍光の−1次変調成分の3成分が重畳されているのに対して、3D−SIMモードで生成される変調画像には、蛍光の0次変調成分、蛍光の+1次変調成分、蛍光の−1次変調成分、蛍光の+2次変調成分、蛍光の−2次変調成分の5成分が重畳されているからである。
【0098】
また、2D−SIMモードと3D−SIMモードとの間では、変調画像に重畳する変調成分の数が異なるので、制御装置43が取得すべき変調画像のフレーム数なども異なる。以下、詳しく説明する。
【0099】
[第1.1節(2D−SIMの前提)]
本節では、2D−SIMの前提を説明する。
【0100】
ここでは、2D−SIMモードにおける干渉縞強度分布を、以下のとおり定義する。
【0101】
標本の蛍光物質密度をI(x)とし、標本面上の干渉縞強度分布をK(x)とおく。また、標本で発生する蛍光が照明強度に比例すると仮定する。この場合、蛍光強度分布Ifl(x) は、以下のとおり表される。
【0102】
【数1】
【0103】
また、標本の各点で発生した蛍光はインコヒーレントなので、この蛍光強度分布Ifl(x)を対物レンズで捉えた像、すなわち、変調画像I(x)は、インコヒーレント結像の式により、以下のとおり表される。
【0104】
【数2】
【0105】
以下、各関数のFourier 変換を以下のとおり表す。
【0106】
【数3】
【0107】
この場合、変調画像をフーリエ空間で表したもの(すなわち変調画像の空間周波数スペクトル)は、以下のとおり表される。
【0108】
【数4】
【0109】
OTFは|ξ|>2NAでゼロとなるので、変調画像の空間周波数スペクトルも|ξ|>2NAでゼロとなる。なお、ここでは、以下の関係を用いた。
【0110】
【数5】
【0111】
また、フーリエ空間上の蛍光強度分布は、以下のとおり表される。
【0112】
【数6】
【0113】
以下、復調演算の説明に必要の無い係数を無視する。
【0114】
[第1.2節(従来の2D−SIM)]
本節では、比較のため、従来の2D−SIMの復調演算を説明する。
【0115】
先ず、2D−SIMの干渉縞強度分布は、以下のとおり表される(縞は正弦波状の強度分布を有する)。
【0116】
【数7】
【0117】
但し、ξは、干渉縞の空間周波数(変調周波数)である。
【0118】
よって、フーリエ空間上の干渉縞強度は、以下のとおり表される。
【0119】
【数8】
【0120】
なお、ξは、フーリエ空間上の座標である。
【0121】
この式1.6と、式1.3、式1.4とによると、フーリエ空間上の変調画像は、以下のとおり表されることがわかる。
【0122】
【数9】
【0123】
以下、フーリエ空間上の空間周波数スペクトルを単に「スペクトル」と称す。また、干渉縞の位相がφであるときに取得された変調画像には、対応する添字「φ」を付す。
【0124】
ここで、前述したとおり、2D−SIMで取得される変調画像のスペクトルの観測点ξには、蛍光の−1次変調成分、蛍光の+1次変調成分、蛍光の0次変調成分の3成分が重畳している。式1.7の右辺における3つの項がこれらの各変調成分に対応する。つまり、正弦波の強度分布を有する縞で標本(蛍光)を空間変調したので、変調画像のスペクトルは、蛍光の3つの変調成分(0次変調成分、±1次変調成分)で表現することができる。観測点ξに重畳された+1次変調成分は、復調画像のスペクトルにおける復元点(ξ−ξ)が有するべき値(復元値)であり、観測点ξに重畳された−1次変調成分は、復調画像のスペクトルにおける復元点(ξ+ξ)が有するべき値(復元値)であり、観測点ξに重畳された0次変調成分は、復調画像のスペクトルにおける復元点ξが有するべき値(復元値)である。このことは、変調画像のスペクトルの各観測点について当てはまる。図9における大きな1つの黒点は、或る観測点に対応し、大きな黒点及びその両側の小さな2つの黒点は、その観測点から復元される3つの復元点に対応している。
【0125】
そこで、従来の2D−SIMの復調演算では、変調画像のスペクトルの各観測点に重畳された3つの変調成分を互いに分離するために、縞の位相の異なる3つの変調画像を取得し、それらの変調画像の各々のスペクトルを生成し、それらのスペクトルを3つの式(以下の式1.8、式1.9、式1.10)へ当てはめることで、3つの方程式を取得していた。従来は、この3つの方程式を解くことで、図9における塗りつぶし領域(通常解像範囲及び超解像範囲)の復元値を求めていた。
【0126】
【数10】
【0127】
因みに、簡単のため、τ=OTF(ξ) と書くと、式1.8、式1.9、式1.10は、以下のとおりに書き換えることができる。
【0128】
【数11】
【0129】
なお、この式の行列(以下、Mとおく)の行列式がゼロでなければ、3つの変調画像のスペクトルにおける或る観測点の3つの観測値(左辺)から、その観測点に対応する3つの復元点の復元値(右辺)を求めることができる。
【0130】
ここで、従来の2D−SIMにおける縞の空間周波数(変調周波数)ξは、|ξ|<2NAが成り立つように設定され、通常解像領域|ξ|<2NAから得られる観測値によって、|ξ±ξ|>2NAとなる復元点の復元値を求めることができる。よって、従来の2D−SIMでは、通常解像領域外(超解像領域)の復元値を復元すること、つまり復調画像として超解像画像を得ることができる。
【0131】
なお、上記の行列Mは、ξに依存しない。すなわち、フーリエ空間上の座標(=空間周波数)に依存しない。そこで、位相φをパラメータとして行列Mの条件数をプロットすると、図10 のとおりとなった。
【0132】
図10は、行列Mの条件数の逆数の分布である。但し、ここでは、第1の変調画像の位相φ=0°とおき、第2の変調画像の位相φ及び第3の変調画像の位相φを変数とした。図10の横軸がφであり、図10の縦軸がφである。
【0133】
図10からは、φ=120°、φ=240°のとき、条件数の逆数が最大値0.5となり、最も条件が良いことがわかる。このため、従来の2D−SIMでは、3フレーム間の位相差を、120°に設定することが一般的であった。
【0134】
[第1.3節(2D−SIMの2画像2点復元)]
本節では、本実施形態の2D−SIMの復調演算として、「2画像2点復元」を説明する。本節における変調画像の取得は、上述した制御装置43が各部を制御して行うものとし、本節における演算は、上述した画像記憶・演算装置44が実行するものとする(他の節においても同様。)。
【0135】
本節では、2D−SIMで取得される1枚の変調画像のスペクトルにおいて、変調方向にかけて変調周波数ξだけ離れた2つの観測点ξ、(ξ+ξ)には、互いに値の共通する変調成分が重畳されていることに着目する。
【0136】
具体的には、観測点ξに重畳した蛍光の−1次変調成分と、観測点(ξ+ξ)に重畳した蛍光の0次変調成分とは、何れも復元点(ξ+ξ)の復元値に相当し、観測点(ξ+ξ)に重畳した蛍光の+1次変調成分と、観測点ξに重畳した蛍光の0次変調成分とは、何れも復元点ξの復元値に相当する。つまり、これら2つの観測点ξ、(ξ+ξ)には、互いに共通する2つの復元点ξ、(ξ+ξ)の復元値が含まれている。本節の2画像2点復元では、この関係を利用する。以下、具体的に説明する。
【0137】
先ず、干渉縞強度分布を従来の2D−SIMと同様に仮定すると、対物レンズのNAにより、変調画像のスペクトルの観測範囲は、|ξ|<2NAで表される。
【0138】
本節の縞の空間周波数(変調周波数)ξは、|ξ|<2NAが成り立つように設定される。なお、縞の空間周波数(変調周波数)ξは回折格子16の格子ピッチ(標本上に形成される縞ピッチ)により設定される。
【0139】
この場合、1枚の変調画像のスペクトルから、ξだけ離れた2つの観測点ξ、(ξ+ξ)の観測値を得ることができる。ただし、(ξ+ξ)の観測値を得ることができるのは、ξが|ξ+ξ|<2NAを満たす範囲に限られる。
【0140】
ここで、1枚の変調画像のスペクトルにおける、観測点ξの観測値と、観測点(ξ+ξ)の観測値とは、以下の式で表される。
【0141】
【数12】
【0142】
これらの式1.12、式1.13の右辺には、4つの復元点の復元値(未知数)が登場している。これら4つの復元値を既知とするためには、更に2つの式が必要である。
【0143】
そこで、本節では、互いに位相φの異なる2枚の変調画像の各々のスペクトルを生成し、それら2つのスペクトルの各々から、2つの観測点ξ、(ξ+ξ)に関する合計4つの観測値を参照し、それら4つの観測値を、式1.12、式1.13へ当てはめることにより、4つの復元値(未知数)を含んだ合計4つの式を取得する。
【0144】
ここで、簡単のため、τ =OTF(ξ)、 τ=OTF(ξ+ξ)とおき、第1の変調画像の位相φをφとおき、第2の変調画像の位相φをφとおくと、4つの式は、次のような行列で表わされる。
【0145】
【数13】
【0146】
よって、本節では、この行列(以下Mとおく)の行列式がゼロでなければ、2枚の変調画像のスペクトルにおける4つの観測値(左辺)から、4つの復元値(右辺)を求めることができる。
【0147】
ここで、図11における2つの円枠のうち、内側の円枠は、通常解像範囲の外縁(|ξ|=2NA)である。また、外側の円枠は、超解像範囲の外縁(|ξ|=4NA)である。
【0148】
図11における2つの大きな黒点は、縞の空間周波数(変調周波数)ξの分だけずれた或る2つの観測点を示しており、図11における2つの大きな黒点及び2つの小さな黒点は、それら2つの観測点から復元される4つの復元点を示している。
【0149】
本節では、干渉縞の位相の異なる2枚分の変調画像のスペクトルが取得されるので、それら2つのスペクトルの各々における2つの観測点から、合計4つの観測値が取得される。そして、これら4つの観測値を上述した式1.14へ当てはめることで、4つの復元点の各々の復元値を求める。
【0150】
そして、本節では、2つの観測点を通常解像範囲内で移動させながら、4つの復元値の算出を繰り返すことで、図11における塗りつぶし領域全域の復元値を求める。
【0151】
したがって、本節では、取得される変調画像の枚数(生成されるスペクトルの数)が2のみであるにも拘わらず、通常解像範囲の少なくとも一部の復元値と、超解像範囲の少なくとも一部の復元値とを求めることができる。
【0152】
[第1.3.1節(復元可能条件)]
本節では、第1.3節の復調演算に必要な条件を説明する。
【0153】
上述した式1.14が一意的な解を持つためには、行列Mの行列式がゼロ以外の値をとればよい。ここで、行列Mの行列式は、以下のとおり表される。
【0154】
【数14】
【0155】
したがって、第1の変調画像の位相φと、第2の変調画像の位相φとの位相差Δφが、Δφ≠0でありさえすれば、detM≠0となり、式1.14は一意的な解を持つ。以上の結果、第1.3節の復調演算に必要な条件は、Δφ≠0であることがわかる。
【0156】
[第1.3.4節(Δφ=πの特徴)]
本節では、Δφ=πの特徴を説明する。
【0157】
Δφ=πのときには、以下の式が成り立つ。
【0158】
【数15】
【0159】
この場合、
【0160】
【数16】
【0161】
に掛かる位相が等しくなるので、I(ξ)については簡単に解けて、
【0162】
【数17】
【0163】
となる。したがって、Δφ=πとすれば、通常解像領域において復元できない領域を無くすことができる。
【0164】
図12(A)の塗りつぶし領域は、Δφ≠πのときに復元可能な範囲であるのに対して、図12(B)の塗りつぶし領域は、Δφ=πのときに復元可能な範囲である(何れも、|ξ|=2NAの場合。)。図12における2つの円のうち、内側の円は、通常解像範囲の外縁(|ξ|=2NA)であり、外側の円は、超解像範囲の外縁(|ξ|=4NA)である。
【0165】
なお、ここでは干渉縞の方向数を1と仮定したが、干渉縞の方向数を3とし、各方向について第1.3節と同様の復調演算を適用したならば、図13に示すような広い領域を復元することができる。
【0166】
[第1.4節(2D−SIMのTwo-pass 復元)]
本節では、本実施形態の2D−SIMの復調演算として、「Two-pass 復元」を説明する。Two-pass 復元では、干渉縞の方向数は2に設定される。
【0167】
以下、互いに方向及び周期(ピッチ)の異なる複数の干渉縞を区別するために、個々の干渉縞を波数ベクトルで表す。この波数ベクトルの大きさは、干渉縞の空間周波数の大きさを示し、波数ベクトルの方向は、干渉縞の方向を示す。
【0168】
本節では、以下の4つのステップが実行される。
【0169】
第1ステップ:波数ベクトルがξであり、かつ、位相の異なる2枚の変調画像が取得され、それら2枚の変調画像の各々のスペクトルが生成される。これら2枚の変調画像の各々を、以下のとおり表す。
【0170】
【数18】
【0171】
さらに、これら2枚の変調画像の各々のスペクトルに対して第1.3節と同様の復調演算を施すことにより、図14(A)に示す領域の復元値を求める。
【0172】
第2ステップ:波数ベクトルがξであり、かつ、位相の異なる2枚の変調画像が取得され、それら2枚の変調画像の各々のスペクトルが生成される。これら2枚の変調画像の各々を、以下のとおり表す。
【0173】
【数19】
【0174】
さらに、これら2枚の変調画像の各々のスペクトルに対して第1.3節と同様の復調演算を施すことにより、図14(B)に示す領域の復元値を求める。
【0175】
第3ステップ:以上のステップで求めた復元値と、以下の式とに基づき、図15(A)に示す領域の復元値を求める。
【0176】
【数20】
【0177】
すなわち、以上のステップで求めた復元値、すなわち、
【0178】
【数21】
【0179】
を式1.26へ当てはめることで、図15(A)に示す領域の復元値を求める。なお、式1.26は、式1.24と式1.25とを、
【0180】
【数22】
【0181】
について解いた式である。
【0182】
【数23】
【0183】
ただし、本ステップを可能とするために、少なくとも第2ステップでは、Δφ≠πn(n は整数)とする。
【0184】
第4ステップ:第2ステップで求めた通常解像範囲の復元値(=図14(B)の塗りつぶし領域のうち|ξ|<2NAの部分)に基づき同様に、図15(B)に示す領域の復元値を求める。
【0185】
ただし、本ステップを可能とするために、第1ステップでは、Δφ≠πn(n は整数)とする。
【0186】
第1ステップと第3ステップをまとめて、図16(B)のように表すこともできる。すなわち、図16(B)の横線において横方向に連なる4つの黒点は、第1ステップで解く式1.14と同等の連立方程式から求まる4つの復元値(未知数)のフーリエ空間(波数空間)における位置を表している。
【0187】
図16(B)にある2本の縦線の各々において、縦方向に連なる3つの黒点のうち、中央の大きい黒点は、第1ステップの式から求まる1つの既知数のフーリエ空間(波数空間)における位置を示しており、両端の小さな黒点は、第3ステップで解く連立方程式1.26の2つの復元値(未知数)のフーリエ空間(波数空間)における位置を示している。
【0188】
これらの8つの黒点の相互の位置関係は、どの例を選んでも同一である。フーリエ空間(波数空間)において黒点の取りうる位置の範囲は、フーリエ空間(波数空間)において2つの大きな黒点(中央)の取りうる位置の範囲によって制限される。2つの大きな黒点が取りうる位置の範囲は|ξ|<2NAであるので、第1ステップ及び第3ステップの計算によって求めることができる復元値(未知数)の位置の範囲は、図16(B)の塗りつぶし領域の範囲となる。
【0189】
なお、図16(A)は、第2ステップ及び第4ステップを、図16(B)と同様に示したものである。
【0190】
したがって、本節では、図17に示す塗りつぶし領域の全域を復元することができる。
【0191】
[第1.5節(2D−SIMの超解像の例)]
本節では、前節までの結果を踏まえ、超解像の例を2つ説明する。
【0192】
先ず、第1の例では、変調画像の枚数(スペクトルの数)を抑えることを重視し、Two-pass 復元を行う。そのために、第1の例では、波数ベクトルの方向数を2とし、互いに異なる2つの波数ベクトルξ、ξの各々で、位相の異なる2枚の変調画像を取得し(合計4枚の変調画像を取得し)、それら4枚の変調画像の各々のスペクトルを生成する(合計4つのスペクトルを生成する)。そして、Two-pass 復元を可能とするため、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ≠πに設定する。また、波数ベクトルの大きさ|ξ|を、|ξ|=2NAに設定する(i=1、2)。この場合、図17に示す塗りつぶし領域が復元される。
【0193】
次に、第2の例では、演算精度を重視し、Two-pass 復元ではなく「2画像2点復元」を行う。そのために、第2の例では、波数ベクトルの方向数を3とし、互いに異なる3つの波数ベクトルξ、ξ、ξの各々で、位相の異なる2枚の変調画像を取得し(合計6枚の変調画像を取得し)、それら6枚の変調画像の各々のスペクトルを生成する(合計6つのスペクトルを生成する)。そして、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ=πとする。また、復元領域に隙間が生じるのを避けるために、|ξ|を2NAより意図的に小さくする。具体的には、復元領域に隙間が生じない範囲内で|ξ|を最大にするために、波数ベクトルの大きさ|ξ|を、|ξ| =(√3)×NAに設定する(i=1、2)。この場合、図18に示す領域が復元される。
【0194】
[第1.6節(2D−SIMの4画像3点復元)]
本節では、本実施形態の2D−SIMの復調演算として、2D−SIMの「4画像3点復元」を説明する。
【0195】
本節では、波数ベクトルの方向数を3とする(3つの波数ベクトルξ、ξ、ξの各々で変調画像を取得し、それら変調画像の各々のスペクトルを生成する。)。
【0196】
また、3つの波数ベクトルξ、ξ、ξを閉じた関係(ξ=ξ−ξ)に設定する。
【0197】
そして、3つの方向のうち何れか1つの方向(波数ベクトルξ)では、位相数を2とする(縞方向が同じであり位相の異なる2枚の変調画像I(0)、I(1)を得る)が、他の2つの方向(波数ベクトルξ、ξ)の各々では、位相数を1に抑える(縞方向の異なる2枚の変調画像I(2)、I(3)を得る)。
【0198】
また、縞方向が同じである2枚の変調画像間の位相差Δφは、Δφ=πに設定する。
【0199】
また、本節では、個々の波数ベクトルの大きさを、|ξ| =2NAに設定する(i=1、2、3)。
【0200】
このとき、4枚の変調画像I(0)、I(1)、I(2)、I(3)の各々の干渉縞強度分布は、
【0201】
【数24】
【0202】
と表される。
【0203】
ここで、これら4枚の変調画像I(0)、I(1)、I(2)、I(3)の各々のスペクトルにおいて、3つの波数ベクトルξ、ξ、ξが描く三角形を想定し、その三角形の頂点(大きな黒点)に位置する3つの観測点ξ、(ξ+ξ)、(ξ+ξ)に着目する。
【0204】
本節で取得した4枚の変調画像I(0)、I(1)、I(2)、I(3)の各々のスペクトルにおける3つの観測点ξ、(ξ+ξ)、(ξ+ξ)からは、合計12個の観測値が得られるので、それら12個の観測値に対応する式1.7相当の式を、12個分、取得することができる。本節では、これら12式からなる連立方程式を解くために、以下の条件が必要となる。
【0205】
【数25】
【0206】
図19は、計算の図解である。ただし、|ξ|=|ξ|、ξ・ξ=|ξ||ξ|/2とした。
【0207】
図19(A)における3つの大きな黒点は、変調画像のスペクトルにおいて3つの波数ベクトルξ、ξ、ξによって描かれる三角形の頂点に位置する3つの観測点を示しており、図19(A)における3つの大きな黒点及び9つの小さな黒点は、それら3つの観測点から復元される復元点(合計12個の復元点)を示している。
【0208】
上記したとおり本節において変調画像の枚数(スペクトルの数)は4であるので、3つの観測点から合計12個の観測値が取得される。これら12個の観測値に関する12個の式を連立させて解くことによって、12個の復元点の復元値が個別に求まる。
【0209】
そして、本節では、3つの観測点を移動させながら、12個の復元値の算出を繰り返すことで、図19(A)に示す塗りつぶし領域全域の復元値を求める。
【0210】
なお、図19(B)は、三角形の方向を反転させて同様の復元を行った場合の図解である。図19(A)の復元と、図19(B)の復元とは、並行して行うことが可能である。本節では、これら2通りの復元を行い、図20に示した塗りつぶし領域の全域を復元する。
【0211】
図20は、図19(A)に示した復元領域と、図19(B)に示した復元領域と合成したものである。
【0212】
以下、本節で述べた12式から成る連立方程式を解く計算の一例を詳しく説明する。
【0213】
図21は、本節の計算を3つのステップに分けて説明した図である。
【0214】
図21(A)は、第1ステップで復元される4つの復元点1〜4を示している。
【0215】
図21(B)は、第2ステップで復元される4つの復元点5〜8を示している。
【0216】
図21(C)は、第3ステップで復元される4つの復元点9〜12を示している
図21(D)は、図中の番号1〜12と復元値との対応関係を示している。
【0217】
第1ステップ:波数ベクトルξの方向に間隔|ξ|で並ぶ2つの観測点1、2に関する4つの観測値を、2画像2点復元の式へ当てはめることにより、復元点1、2、3、4の各々の復元値を求める。
【0218】
第2ステップ:復元点1、2の各々の復元値を使用して、それら復元点1、2から波数ベクトルξ、ξの分だけずれた4つの復元点5、6、7、8 の各々の復元値を求める。この際に使用される式は、波数ベクトルξの方向に関する2つの式(2位相分)と、波数ベクトルξの方向に関する1つの式と、波数ベクトルξの方向に関する1つの式と、の合計4つの式である。
【0219】
第3ステップ:復元点1、2、5の各々の復元値を使用して、それら復元点1、2、5から波数ベクトルξ、ξの分だけずれた残りの復元点9、10、11、12の各々の復元値を求める。この際に使用される式は、波数ベクトルξの方向に関する2つの式(観測点2つ分)と、波数ベクトルξの方向に関する2つの式(観測点2つ分)と、の合計4つの式である。
【0220】
もちろん、本節で述べた12式から成る連立方程式の解法は、上記の手順に限られるものではない。
【0221】
[第1.7節(2D−SIMの4画像3点復元の変形例)]
本節では、4画像3点復元の変形例を説明する。
【0222】
本節では、3つの方向の全ての位相数を1に抑え、その代わりに、1枚の無変調画像を取得し、その無変調画像のスペクトルを生成する。
【0223】
無変調画像は、K(0)=1で取得された画像のことであって、例えば上述した回折格子16及び光束選択部18を光路から外した状態で取得することができる。また、無変調画像のスペクトルは、その無変調画像をフーリエ変換したものである。
【0224】
上記したとおり本節において変調画像の枚数(変調画像のスペクトルの数)は3、無変調画像の枚数(無変調画像のスペクトルの数)は1であるので、3つの観測点から合計12個の観測値が取得される。これら12個の観測値に関する12個の式(変調画像のスペクトルに関する式1.7を9つと、無変調画像のスペクトルに関する式1.53を3つと)を連立させて解くことによって、12個の復元点の復元値が個別に求まる。
【0225】
なお、本節では、以下の条件が必要となる。
【0226】
【数26】
【0227】
[第1.9節(2D−SIMの同時3方向4画像3点復元)]
本節では、4画像3点復元の変形例として、「同時3方向4画像3点復元」を説明する。
【0228】
先ず、本節では、標本へ投影する干渉縞は、以下のとおり方向の異なる3つの干渉縞の足しあわせ(3方向干渉縞)とされる。なお、3方向干渉縞の投影方法は後述する。
【0229】
【数27】
【0230】
つまり、本節では、3つの波数ベクトルξ、ξ、ξを同時に有する3方向干渉縞を採用し、この3方向干渉縞で、位相の互いに異なる4枚の変調画像を取得し、それら4枚の変調画像の各々のスペクトルを生成する。
【0231】
ただし、|ξ|≦2NAとし(i=1、2、3)、3つの波数ベクトルξ、ξ、ξを閉じた関係(ξ=ξ−ξ)とする。
【0232】
また、3方向干渉縞の振幅を規定するaの値は、以下の式を満たすように選択されるものとする。
【0233】
【数28】
【0234】
先ず、本節で取得された或る1枚の変調画像のスペクトルにおける或る観測点ξには、復調画像のスペクトルにおける復元点ξに与えるべき復元値と、復調画像のスペクトルにおける復元点(ξ±ξ)に与えるべき復元値(i=1、2、3)と、の合計7つの復元点の復元値が重畳されている。
【0235】
言い換えると、変調画像のスペクトルにおける或る観測点ξには、蛍光の0次変調成分と、波数ベクトルξによる蛍光の±1次変調成分と、波数ベクトルξによる蛍光の±1次変調成分と、波数ベクトルξによる蛍光の±1次変調成分と、の合計7成分が重畳されている。
【0236】
ここで、変調画像のスペクトルにおいて3つの波数ベクトルξ、ξ、ξが描く三角形を想定し、その三角形の頂点に位置する3つの観測点ξ、(ξ+ξ)、(ξ+ξ)に着目する。
【0237】
これら3つの観測点ξ、(ξ+ξ)、(ξ+ξ)の全体には、12個の復元点の復元値が含まれている。
【0238】
図22は、その図解である。ただし、|ξ|=|ξ|、ξ・ξ=|ξ||ξ|/2とした。
【0239】
図22(A)における3つの大きな黒点は、変調画像のスペクトルにおいて3つの波数ベクトルξ、ξ、ξによって描かれる三角形の頂点に位置する3つの観測点を示しており、図22(A)における3つの大きな黒点及び9つの小さな黒点は、それら3つの観測点から復元される復元点(合計12個の復元点)を示している。
【0240】
上記したとおり本節において変調画像の枚数(スペクトルの数)は4であるので、3つの観測点から合計12個の観測値が取得される。これら12個の観測値に関する12個の式を連立させて解くことにより、12個の復元点の復元値が個別に求まる。
【0241】
そして、本節では、3つの観測点を移動させながら、12個の復元値の算出を繰り返せば、図22(A)に示す塗りつぶし領域全域の復元値を求める。
【0242】
なお、図22(B)は、三角形の方向を反転させて同様の復元を行った場合の図解である。図22(A)の復元と、図22(B)の復元とは、並行して行うことが可能である。本節では、これら2通りの復元を行い、図20に示した塗りつぶし領域と同じ領域を復元する。
【0243】
ここで、4枚の変調画像I(1)、I(2)、I(3)、I(4)の各々に反映されている3方向干渉縞の位相(3成分からなる)は、例えば、
【0244】
【数29】
【0245】
すなわち、4枚の変調画像I(1)、I(2)、I(3)、I(4)の各々における干渉縞強度分布は、以下のとおり。
【0246】
【数30】
【0247】
因みに、4枚の変調画像における干渉縞強度分布の和は、以下の通りである。
【0248】
【数31】
【0249】
つまり、このような干渉強度分布及び位相の組み合わせの下で4枚の変調画像を取得したならば、標本の各部が互いに等しい光量で照明されることになる。4枚の変調画像間で、3方向干渉縞のパターンは共通、かつ、パターンの位置のみがシフトした関係になっている。よって、次の関係が成り立つ。
【0250】
【数32】
【0251】
ただし、a、aは、干渉縞の周期構造を結晶格子に見立てたときの格子の基本ベクトルであって、逆格子ベクトル(波数ベクトル)kを、k=(2π/λ)ξ、k=(2π/λ)ξ、k=eとおくと(e:z方向の単位ベクトル)、以下の式で与えられる。
【0252】
【数33】
【0253】
図23は、3方向干渉縞の格子構造と、格子の基本ベクトルa、aとの関係を示す図である。
【0254】
図24は、4枚の変調画像の間における干渉縞強度分布の関係を示す図である。
【0255】
図24に示すとおり、4枚の変調画像の間では、格子パターンが互いに重ならないように平行移動している。また、その移動量の単位は、格子の基本ベクトルの半分となっている。
【0256】
[第1.9.2節(3方向干渉縞の投影方法)]
ここで、3方向干渉縞の投影方法を説明する。
【0257】
3方向干渉縞を上述した構造化照明顕微鏡装置1で生起させる際には、他の干渉縞(1方向干渉縞)を生起させる場合と同様、上述した回折格子16(図2(A))を使用することができる。
【0258】
但し、光束選択部材20の開口パターンは、回折格子16において生成する3群の回折光のうち、各群の0次回折光と各群の2次以降の高次回折光と各群の+1次回折光とをカットし、かつ、各群の−1次回折光のみを透過するように設定される。これによって、瞳面上に形成される集光点は、3つの−1次回折光による集光点のみとなる。図25(A)は、光束選択部材20によって余分な回折光がカットされなかった場合の集光点の配置を示しており、図25(B)は、光束選択部材20によって余分な回折光がカットされた場合の集光点の配置を示している。この場合、120°ずつずれた位置に3つの集光点が形成される。これら3つの集光点から射出した3つの回折光(ここでは3つの−1次回折光)は、3方向から標本の照明エリアへ入射し、標本上に3方向干渉縞を形成する。なお、ここでは、干渉縞に寄与する回折光を3つの−1次回折光としたが、3つの+1次回折光としてもよいことは言うまでもない。
【0259】
但し、この場合、3方向干渉縞として、3通りの2光束干渉縞の重ね合わせではなく、3光束干渉縞が生起してしまうので、超解像効果が低くなってしまう。また、±1次回折光の一方をカットするので、レーザ光の利用効率が低くなってしまう。
【0260】
そこで、次のとおりにしてもよい。すなわち、独立した3つのレーザ光源A、B、Cを用意し、レーザ光源Aから射出したレーザ光、レーザ光源Bから射出したレーザ光、レーザ光源Cから射出したレーザ光の各々を、2分岐ファイバで分岐し、6つの点光源a、a’、b、b’、c、c’を形成する。なお、点光源a、a’は、レーザ光源Aから生成された可干渉な光源であり、点光源b、b’は、レーザ光源Bから生成された可干渉な光源であり、点光源c、c’は、レーザ光源Cから生成された可干渉な光源である。そして、ファイバを適切に配線することにより、それら6つの点光源a、a’、b、b’、c、c’を、図26に示すような位置関係で瞳共役面へ配置する。つまり、点光源a、a’の配列方向と、点光源b、b’の配列方向と、点光源c、c’の配列方向とは、120°ずつ異なる互いに異なる方向に設定される。これら6つの点光源から射出した6つのレーザ光は、6方向から標本の照明エリアへ入射し、標本上に3方向干渉縞を形成する。
【0261】
ここで、点光源a、a’から射出したレーザ光La、La’と、点光源b、b’から射出したレーザ光Lb、Lb’と 、点光源c、c’から射出したレーザ光Lc、Lc’とは、互いに干渉しない。したがって、標本上に形成される干渉縞は、3通りの2光束干渉縞の重ね合わせとなる。よって、超解像効果が低くなることはなく、レーザ光の利用効率も高い。
【0262】
なお、このように、光の分岐手段として回折格子16の代わりに2分岐ファイバが使用された場合は、3方向干渉縞の位相(3成分からなる)を変化させるために、回折格子16を並進移動させる代わりに、レーザ光La、a’の位相差と、レーザ光Lb、Lb’の位相差と、レーザ光Lc、Lcの位相差とをそれぞれ変化させればよい。
【0263】
[第2.1節(3D−SIMの前提)]
本節では、3D−SIMの復調演算の前提を説明する。
【0264】
ここでは、3D−SIMにおける干渉縞強度分布を、以下のとおり仮定する。
【0265】
3光束干渉の波長をλとおくと、3D−SIMにおける干渉縞強度分布K(r) は、以下のとおり表される。
【0266】
【数34】
【0267】
ただし、k= 2π/λ、j=−1、0、+1として、ベクトルkを以下の通り定義する。
【0268】
【数35】
【0269】
ここで、ξ・e=0とした。
【0270】
簡単のため、a=1、a=a=|a|eiφ、a=a=|a|e−iφと仮定すると、
【0271】
【数36】
【0272】
となるので、干渉縞強度分布Kは、以下のとおり表される。縞は、正弦波状の強度分布を有する第1の周期の縞(中央光とその左右の光からなる3光束のうち、左右の光による干渉縞)と、正弦波状の強度分布を有する第2の周期(第1の周期の2倍)の縞(中央光とその左右の光からなる3光束のうち、中央光と右光(又は左光)による干渉縞)とが重畳したものからなる。
【0273】
【数37】
【0274】
ここで、ζ=√[1−ξ]−1とおくと、
【0275】
【数38】
【0276】
と表せる。これを、zに依存する成分とxに依存する成分とに分離して、
【0277】
【数39】
【0278】
とおく。ただし、
【0279】
【数40】
【0280】
【数41】
【0281】
となる。ただし、J−1=J、J−2=Jとする。
【0282】
さて、標本の蛍光物質密度をI(x)とし、以上の干渉縞強度分布Kの干渉縞を標本へ投影したときに、標本の蛍光強度分布は、I(r)K(r)で表されると仮定し、標本の各点で発生した蛍光は他の点の蛍光物質を励起しないという近似(Born 近似)を採用する。
【0283】
このとき、3D−SIMモードで取得される変調画像I(x、z)は、次のように表される。
【0284】
【数42】
【0285】
すなわち、
【0286】
【数43】
【0287】
ここで、干渉縞のz方向(光軸方向)の起点を、観測点のz座標(z’)が常に中心となるように設定したならば、
【0288】
【数44】
【0289】
3次元OTFを、
【0290】
【数45】
【0291】
とおくと、
【0292】
【数46】
【0293】
そして、変調画像をフーリエ空間で表したもの(すなわち変調画像の空間周波数スペクトル)は、以下のとおり表される。
【0294】
【数47】
【0295】
これを書き下すと、以下のとおりとなる。
【0296】
【数48】
【0297】
ただし、第一項の係数が1 となるように、
【0298】
【数49】
【0299】
とした。なお、a、b、cは、3D−SIMの干渉縞に寄与する3光束(±1次回折光及び0次回折光)の強度バランスによって決まる値である。
【0300】
以下、フーリエ空間上の空間周波数スペクトルを単に「スペクトル」と称す。また、以下では、この式に現れるφを「位相」と称す。
【0301】
[第2.2節(従来の3D−SIM)]
本節では、比較のため、従来の3D−SIMの復調演算を説明する。
【0302】
先ず、3D−SIMモードで取得される変調画像のスペクトルにおける観測点ξには、蛍光の−1次変調成分、蛍光の+1次変調成分、蛍光の+2次変調成分、蛍光の+2次変調成分、蛍光の0次変調成分の5成分が重畳されている。観測点ξに重畳された±1次変調成分は、復調画像のスペクトルにおける復元点(ξ±ξ)が有するべき値(復元値)であり、観測点ξに重畳された±2次変調成分は、復調画像のスペクトルにおける復元点(ξ±2ξ)が有するべき値(復元値)であり、観測点ξに重畳された0次変調成分は、復調画像のスペクトルにおける復元点ξが有するべき値(復元値)である。
【0303】
つまり、観測点ξに重畳された±1次変調成分は、正弦波状の強度分布を有する第2の周期(第1の周期の2倍)の縞(中央光とその左右の光からなる3光束のうち、中央光と右光(又は左光)による干渉縞)によって変調された成分であり、観測点ξに重畳された±2次変調成分は正弦波状の強度分布を有する第1の周期の縞(中央光とその左右の光からなる3光束のうち、左右の光による干渉縞)によって変調された成分である。
【0304】
このことは、変調画像のスペクトルの各観測点について当てはまる。図27における大きな黒点は、或る観測点に対応し、大きな黒点及びその両側の小さな4つの黒点は、その観測点から復元される5つの復元点に対応している。
【0305】
そこで、従来の3D−SIMの復調演算では、変調画像のスペクトルの各観測点に重畳された5つの変調成分を互いに分離するために、位相の異なる5枚の変調画像を取得し、それらの変調画像の各々のスペクトルを生成していた。従来は、これらのスペクトルが満たす5つの方程式を連立させて解くことで、図27における塗りつぶし領域(通常解像範囲及び超解像範囲)の復元値を求めていた。
【0306】
[第2.4節(3D−SIMの9画像2点復元)]
本節では、本実施形態の3D−SIMの復調演算として、「9画像2点復元」を説明する。本節における変調画像の取得は、上述した制御装置43が各部を制御して行うものとし、本節における演算は、上述した画像記憶・演算装置44が実行するものとする(他の節においても同様。)。
【0307】
本節では、3D−SIMで取得される1枚の変調画像のスペクトルにおいて、変調方向にかけて変調周波数ξだけ離れた2つの観測点ξ、(ξ+ξ)には、互いに値の共通する変調成分が重畳されていることに着目する。
【0308】
具体的には、観測点ξに重畳した蛍光の−1次変調成分と、観測点(ξ+ξ)に重畳した蛍光の0次変調成分とは、何れも復元点(ξ+ξ)の復元値に相当し、観測点ξに重畳した蛍光の−2次変調成分と、観測点(ξ+ξ)に重畳した蛍光の−1変調成分とは、何れも復元点(ξ+2ξ)の復元値に相当し、観測点(ξ+ξ)に重畳した蛍光の+1次変調成分と、観測点ξに重畳した蛍光の0次変調成分とは、復元点ξの復元値に相当し、観測点(ξ+ξ)に重畳した蛍光の+2次変調成分と、観測点ξに重畳した蛍光の1次変調成分とは、何れも(ξ−ξ)の復元値に相当する。つまり、これら2つの観測点ξ、(ξ+ξ)には、互いに共通する4つの復元点(ξ−ξ)、ξ、(ξ+ξ)、(ξ+2ξ)の復元値が含まれている。
【0309】
本節の9画像2点復元では、この関係を利用する。以下、具体的に説明する。
【0310】
1枚の変調画像のスペクトルにおいて、観測点ξの観測値と、観測点(ξ+ξ)の観測値とは、以下の式で表される。
【0311】
【数50】
【0312】
そこで、本節では、同一の波数ベクトルξで互いに位相φの異なる3枚の変調画像を取得し、それら3枚の変調画像の各々のスペクトルを生成し、それら3つのスペクトルの各々から、2つの観測点ξ、(ξ+ξ)に関する合計6個の観測値を参照し、それら6つの観測値を、これらの式へ当てはめることにより、6個の復元値(未知数)を含んだ合計6個の式を取得する。
【0313】
図28は、本節の3D−SIMの復調画像の周波数域を示す図である。図28(A)はxy断面、図28(B)は、zx断面である。
【0314】
図28における大きな黒点は、ξだけずれた或る2つの観測点ξ、(ξ+ξ)を示しており、図28における2つの大きな黒点及び4つの小さな黒点は、それらの観測点ξ、(ξ+ξ)から復元される復元点(合計6つの復元点)を示している。
【0315】
以上の説明は、或る波数ベクトル(1方向)に関する復元の説明である。
【0316】
よって、本節では、互いに方向の異なる3つの波数ベクトルの各々で位相の異なる3枚の変調画像を取得し、それら変調画像の各々のスペクトルを生成し、それらのスペクトルに対して方向毎に上記と同様の復元処理を施す。これによって、周波数範囲の広い復調画像を得ることができる。
【0317】
なお、本節では、同一の波数ベクトルで取得される3枚の変調画像間の位相差Δφは、2π/3に設定されることが望ましい。
【0318】
[第2.5節(3D−SIMの7画像3点復元)]
本節では、3D−SIMの7画像3点復元を説明する。本節は、無変調画像のスペクトルを利用した第1.7節を3D−SIMに応用したものである。
【0319】
先ず、本節では、方向数(波数ベクトルの数)を3とする。
【0320】
つまり、本節では、3つの波数ベクトルξ、ξ、ξを閉じた関係(ξ=ξ−ξ)にし、かつ、1枚の無変調画像を取得する代わりに、3つの方向の各々の位相数を、1ずつ抑える(2ずつとする。)。
【0321】
また、本節では、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ=πに設定する。
【0322】
また、ここでは3つの波数ベクトルの番号をk(k=1、2、3) とおき、k番目の波数ベクトルで取得された、互いに位相の異なる2枚の変調画像を、以下の通り表す。
【0323】
【数51】
【0324】
また、無変調画像を、I(0)と表す。
【0325】
式2.23より、以下の式が成り立つ。
【0326】
【数52】
【0327】
ただし、±1次変調成分と±2次変調成分とをそれぞれまとめて、次のように表した。
【0328】
【数53】
【0329】
また、τ=OTF(ξ,ζ)、τ’=OTF(ξ,ζ)とおいた。
【0330】
ここで、同一の波数ベクトルで取得される2枚の変調画像間の位相差Δφを、Δφ=πに設定したので、式2.35より、以下の式が成り立つ。
【0331】
【数54】
【0332】
よって、式2.34より、以下の式が得られる。
【0333】
【数55】
【0334】
なお、簡単のため、右辺では添字φkを省略した。
【0335】
また、0次変調成分(通常解像成分)は、次のように表せる。
【0336】
【数56】
【0337】
以上の式2.39、式2.40、式2.41をまとめて行列で書くと、以下のとおりである。
【0338】
【数57】
【0339】
そこで、本節では、先ず、7枚分の変調画像の各々のスペクトルにおける観測点ξに関する7つの観測値を式2.42へ当てはめることで、式2.42の右辺における7つの復元値、すなわち以下の復元値(±1次変調成分と±2次変調成分および0次変調成分)をそれぞれ求める。
【0340】
【数58】
【0341】
ここからの先の計算は、第1.7節の計算と同様である。すなわち、スペクトル
【0342】
【数59】
【0343】
において、3つの波数ベクトルξk(k=1,2,3)の分だけ互いにずれた任意の3つの観測点に関する12の観測値に基づけば、3つの観測点に重畳された蛍光の+1次変調成分と−1次変調成分とを分離することができる。
【0344】
また、スペクトル
【0345】
【数60】
【0346】
において、3つの波数ベクトルの2倍分2ξk(k=1,2,3)だけ互いにずれた任意の3つの観測点に関する12の観測値に基づけば、3つの観測点に重畳された蛍光の+2次変調成分と−2次変調成分とを分離することができる。
【0347】
[第2.6節(3D−SIMの12画像3点復元)]
本節では、画像の枚数(スペクトルの数)の削減よりも演算精度の維持を目的として、方向数(波数ベクトルの数)を3とし、各方向の位相数を4とすることで、合計12枚の変調画像を取得する(合計12個のスペクトルを生成する)。
【0348】
また、本節では、同一の波数ベクトルで取得される4枚の変調画像間の位相差Δφを、Δφ=π/2に設定する。
【0349】
また、ここでは方向番号をk(k=1、2、3) とおき、位相番号をl(l=0、1、2、3)とおく。
【0350】
先ず、±1次変調成分は、式2.35より、
【0351】
【数61】
【0352】
また、±2次変調成分は、式2.36より、
【0353】
【数62】
【0354】
と表される。そして、
【0355】
【数63】
【0356】
が成り立つ。
【0357】
よって、本節の復調演算を行列で書くと、
【0358】
【数64】
【0359】
となる。
【0360】
したがって、本節では、12枚の変調画像のスペクトル(12のスペクトル)の観測値をこの式へ当てはめることにより、0次変調成分と±1次変調成分とを分離する。
【0361】
そして、残る±2次変調成分については、第1.7節と同様の手順で分離する。
【0362】
このように、本節では、第2.5節の手順を踏まずに±1次変調成分を分離することができるので、高いセクショニング効果が期待できる。
【0363】
[第2.7節(3D−SIMの8画像3点復元)]
なお、上述した第1.6節を以下の通り3D−SIMに応用してもよい。
【0364】
本節では、方向数(波数ベクトルの数)を3とする。
【0365】
また、3つの波数ベクトルξ、ξ、ξを閉じた関係(ξ=ξ−ξ)に設定する。
【0366】
そして、3つの方向のうち何れか1つの方向(波数ベクトルξ)については、位相数を4とするが、他の2つの方向の各々の位相数を2に抑える。
【0367】
つまり、本節では、3つの波数ベクトルξ、ξ、ξを閉じた関係(ξ=ξ−ξ)にする代わりに、2つの方向の各々の変調画像数を、1ずつ抑える。よって、変調画像の合計数(スペクトルの合計数)は、8となる。
【0368】
ただし、本節では、第1方向(k=1)の変調画像間の位相差は、Δφ=π/2、第2方向(k=2)の変調画像間の位相差は、Δφ=π、第3方向(k=3)の変調画像間の位相差は、Δφ=πに設定される。
【0369】
このようにして取得された8枚の変調画像のスペクトルによると、各変調成分を分離することが可能である。すなわち、第1ステップにおいて、第1方向(k=1)に関する4枚の変調画像のスペクトルで0次変調成分を求めてから、第2ステップにおいて、±1次変調成分、±2次変調成分の分離を行えばよい。
【符号の説明】
【0370】
1…構造化照明顕微鏡装置、100…レーザユニット、11…光ファイバ、10…照明光学系、30…結像光学系、42…撮像素子、43…制御装置、44…画像記憶・演算装置、45…画像表示装置、12…コレクタレンズ、13…偏光板、14…光束分岐部、17…集光レンズ、18…光束選択部、21…レンズ、22…視野絞り、23…フィールドレンズ、24…励起フィルタ、33…ダイクロイックミラー、31…対物レンズ、34…吸収フィルタ、35…第2対物レンズ、2…標本
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28