(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023181737
(43)【公開日】2023-12-25
(54)【発明の名称】レーザ走査型顕微鏡、画像処理装置、レーザ走査型顕微鏡の動作方法、及び、プログラム
(51)【国際特許分類】
G02B 21/00 20060101AFI20231218BHJP
G02B 21/36 20060101ALI20231218BHJP
G01N 21/64 20060101ALN20231218BHJP
【FI】
G02B21/00
G02B21/36
G01N21/64 E
【審査請求】未請求
【請求項の数】20
【出願形態】OL
(21)【出願番号】P 2022095043
(22)【出願日】2022-06-13
(71)【出願人】
【識別番号】322004393
【氏名又は名称】株式会社エビデント
(74)【代理人】
【識別番号】110004185
【氏名又は名称】インフォート弁理士法人
(74)【代理人】
【識別番号】100121083
【弁理士】
【氏名又は名称】青木 宏義
(74)【代理人】
【識別番号】100138391
【弁理士】
【氏名又は名称】天田 昌行
(74)【代理人】
【識別番号】100074099
【弁理士】
【氏名又は名称】大菅 義之
(74)【代理人】
【識別番号】100182936
【弁理士】
【氏名又は名称】矢野 直樹
(72)【発明者】
【氏名】鈴木 伸吾
【テーマコード(参考)】
2G043
2H052
【Fターム(参考)】
2G043AA01
2G043EA01
2G043FA01
2G043FA02
2G043FA06
2G043HA01
2G043HA02
2G043HA05
2G043HA09
2G043JA03
2G043KA02
2G043KA05
2G043KA09
2G043LA03
2G043MA12
2G043NA12
2H052AA07
2H052AA09
2H052AC14
2H052AC15
2H052AC26
2H052AC34
2H052AF14
2H052AF25
(57)【要約】
【課題】SiPMを用いて取得した画像からノイズを除去する新たな技術を提供する。
【解決手段】レーザ走査型顕微鏡は、レーザ光で試料を走査するスキャナと、Silicon Photomultiplier(SiPM)を有する検出器と、走査画像に対してSiPMにおけるダークカウントノイズの出現頻度に基づいてダークカウントノイズを除去する画像処理を実行する制御装置6と、を備える。
【選択図】
図2
【特許請求の範囲】
【請求項1】
レーザ光で試料を走査するスキャナと、
Silicon Photomultiplier(SiPM)を有する検出器と、
前記スキャナが走査した前記試料の走査画像であって前記検出器から出力された信号に基づいて生成された前記走査画像に対して、前記SiPMにおけるダークカウントノイズの出現頻度に基づいて、前記ダークカウントノイズを除去する画像処理を実行する制御装置と、を備える
ことを特徴とするレーザ走査型顕微鏡。
【請求項2】
請求項1に記載のレーザ走査型顕微鏡において、
前記制御装置は、
前記SiPMにおける前記ダークカウントノイズの前記出現頻度と、前記レーザ走査型顕微鏡の設定と、に基づいて、前記走査画像に含まれる前記ダークカウントノイズの量をノイズ量として推定する推定部と、
前記推定部で推定した前記ノイズ量に応じて、前記走査画像から前記ダークカウントノイズを除去する除去部と、を含む
ことを特徴とするレーザ走査型顕微鏡。
【請求項3】
請求項2に記載のレーザ走査型顕微鏡において、
前記レーザ走査型顕微鏡の前記設定は、前記SiPMの設定と、前記レーザ走査型顕微鏡のスキャン設定と、を含み、
前記推定部は、
前記SiPMの前記設定に基づいて、前記SiPMにおける前記ダークカウントノイズの前記出現頻度に関する情報を取得する取得部と、
前記取得部で取得した前記情報から特定される前記ダークカウントノイズの前記出現頻度と、前記スキャン設定とに、基づいて、前記ノイズ量を統計的に算出する算出部と、を備える
ことを特徴とするレーザ走査型顕微鏡。
【請求項4】
請求項3に記載のレーザ走査型顕微鏡において、
前記算出部は、前記走査画像に含まれる前記ダークカウントノイズを含む画素の数を、前記ノイズ量として算出し、
前記除去部は、前記走査画像の前記数の画素の画素値から所定の値を差し引く
ことを特徴とするレーザ走査型顕微鏡。
【請求項5】
請求項3に記載のレーザ走査型顕微鏡において、
前記算出部は、前記取得部で取得した前記情報から特定される前記ダークカウントノイズの強度毎の前記出現頻度と、前記スキャン設定とに、基づいて、前記強度毎に前記ノイズ量を統計的に算出する
ことを特徴とするレーザ走査型顕微鏡。
【請求項6】
請求項5に記載のレーザ走査型顕微鏡において、
前記算出部は、前記走査画像に含まれる前記ダークカウントノイズを含む画素の数を、前記強度毎に前記ノイズ量として算出し、
前記除去部は、前記走査画像の前記強度毎に算出した前記数の画素の画素値から前記強度に応じた値を差し引く
ことを特徴とするレーザ走査型顕微鏡。
【請求項7】
請求項2乃至請求項6のいずれか1項に記載のレーザ走査型顕微鏡において、
前記推定部は、前記走査画像と推定した前記ノイズ量とに基づいて、前記走査画像上における前記ダークカウントノイズの出現位置を推定し、
前記除去部は、前記推定部で推定した前記ノイズ量だけ、前記走査画像上の前記推定部で推定した前記出現位置から前記ダークカウントノイズを除去する
ことを特徴とするレーザ走査型顕微鏡。
【請求項8】
請求項7に記載のレーザ走査型顕微鏡において、
前記推定部は、さらに、
前記走査画像に基づいて前記走査画像の各画素に含まれる前記ダークカウントノイズに関するスコアからなるノイズ画像を生成するノイズ画像生成部と、
前記ノイズ画像と、推定した前記ノイズ量とに基づいて、前記出現位置を決定する決定部と、を備える
ことを特徴とするレーザ走査型顕微鏡。
【請求項9】
請求項8に記載のレーザ走査型顕微鏡において、
前記ノイズ画像生成部は、前記走査画像と前記走査画像にノイズ除去フィルタを適用した画像との差分に基づいて、前記ノイズ画像を生成する
ことを特徴とするレーザ走査型顕微鏡。
【請求項10】
請求項8に記載のレーザ走査型顕微鏡において、
前記ノイズ画像生成部は、ダークカウントノイズを付加した画像と前記画像に付加した前記ダークカウントノイズの空間強度分布の関係を学習した学習済みモデルと、前記走査画像と、に基づいて、前記走査画像に含まれる前記ダークカウントノイズの出現確率の空間分布を前記ノイズ画像として生成する
ことを特徴とするレーザ走査型顕微鏡。
【請求項11】
請求項1に記載のレーザ走査型顕微鏡において、さらに、
前記制御装置は、
前記SiPMにおける前記ダークカウントノイズの前記出現頻度に関する情報を記憶するメモリを備え、
前記メモリから取得した前記情報から前記出現頻度を特定する
ことを特徴とするレーザ走査型顕微鏡。
【請求項12】
請求項11に記載のレーザ走査型顕微鏡において、
前記メモリは、前記検出器に含まれる前記SiPMの個体毎に、前記ダークカウントノイズの前記出現頻度に関する前記情報を記憶し、
前記制御装置は、前記走査画像の生成に用いられた前記SiPMの前記個体に対応する前記情報であって前記メモリから取得した前記情報から前記出現頻度を特定する
ことを特徴とするレーザ走査型顕微鏡。
【請求項13】
請求項11に記載のレーザ走査型顕微鏡において、
前記メモリは、前記SiPMの前記設定毎に、前記ダークカウントノイズの前記出現頻度に関する前記情報を記憶し、
前記制御装置は、前記走査画像の生成に用いられた前記SiPMの前記設定に対応する前記情報であって前記メモリから取得した前記情報から前記出現頻度を特定する
ことを特徴とするレーザ走査型顕微鏡。
【請求項14】
請求項13に記載のレーザ走査型顕微鏡において、
前記SiPMの前記設定は、前記SiPMへの印加電圧に関する設定を含む
ことを特徴とするレーザ走査型顕微鏡。
【請求項15】
請求項13に記載のレーザ走査型顕微鏡において、
前記SiPMの前記設定は、前記SiPMが恒温化された温度に関する設定を含む
ことを特徴とするレーザ走査型顕微鏡。
【請求項16】
請求項1に記載のレーザ走査型顕微鏡において、さらに、
前記SiPMへの光の入射を遮断する遮断部を備え、
前記制御装置は、前記遮断部が前記SiPMへの光の入射を遮断している状態で、前記走査画像を生成するときと同じ前記SiPMの設定で生成された画像に基づいて前記出現頻度を特定する
ことを特徴とするレーザ走査型顕微鏡。
【請求項17】
請求項1に記載のレーザ走査型顕微鏡において、
前記制御装置は、さらに、前記走査画像に対して前記画像処理を実行することで生成された補正画像を表示装置へ出力する出力部を備える
ことを特徴とするレーザ走査型顕微鏡。
【請求項18】
プロセッサを備え、
前記プロセッサは、レーザ走査型顕微鏡に含まれるスキャナが走査した試料の走査画像であって前記レーザ走査型顕微鏡に含まれるSilicon Photomultiplier(SiPM)を有する検出器から出力された信号に基づいて生成された前記走査画像に対して、前記SiPMにおけるダークカウントノイズの出現頻度に基づいて、前記ダークカウントノイズを除去する画像処理を実行する
ことを特徴とする画像処理装置。
【請求項19】
レーザ走査型顕微鏡の動作方法であって、
前記レーザ走査型顕微鏡に含まれるSilicon Photomultiplier(SiPM)を有する検出器から出力された信号に基づいて前記レーザ走査型顕微鏡に含まれるスキャナが走査した試料の走査画像を生成し、
前記走査画像に対して、前記SiPMにおけるダークカウントノイズの出現頻度に基づいて、前記ダークカウントノイズを除去する画像処理を実行する
ことを特徴とする動作方法。
【請求項20】
レーザ走査型顕微鏡のコンピュータに、
前記レーザ走査型顕微鏡に含まれるSilicon Photomultiplier(SiPM)を有する検出器から出力された信号に基づいて前記レーザ走査型顕微鏡に含まれるスキャナが走査した試料の走査画像を生成し、
前記走査画像に対して、前記SiPMにおけるダークカウントノイズの出現頻度に基づいて、前記ダークカウントノイズを除去する画像処理を実行する
処理を実行させることを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本明細書の開示は、レーザ走査型顕微鏡、画像処理装置、レーザ走査型顕微鏡の動作方法、及び、プログラムに関する。
【背景技術】
【0002】
近年、レーザ走査型顕微鏡の検出素子として、Silicon Photomultiplier(以降、SiPMと記す。)が注目されている。SiPMを用いて取得した画像の輝度値は、SiPMへ入射した光子数に一定の係数を乗じた値となる。このため、光子数と輝度値の比例関係に基づいて画像から光子数の定量的な測定が可能であり、光子数を計数するフォトンカウンティングデバイスとしてのSiPMの利用が多いに期待されている。
【0003】
一方で、SiPMを使用すると、ダークカウントノイズが発生するという課題がある。SiPMで発生するダークカウントノイズは、ランダムに発生し、且つ、光子の整数個分の信号として出力される。この特徴のため、ダークカウントノイズは、光子を検出することで出力される信号と区別することは容易ではなく、光子数を誤って計数する原因となり得る。このような技術的な課題に関連する技術は、例えば、特許文献1に記載されている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1に記載の技術によれば、光が入射するピクセルだけをアクティブ化することで、ダークカウントノイズの影響を軽減することができる。しかしながら、アクティブ化したピクセルで発生するダークカウントノイズの影響については避けることができない。
【0006】
以上のような実情を踏まえ、本発明の一側面に係る目的は、SiPMを用いて取得した画像からノイズを除去する新たな技術を提供することである。
【課題を解決するための手段】
【0007】
本発明の一態様に係るレーザ走査型顕微鏡は、レーザ光で試料を走査するスキャナと、Silicon Photomultiplier(SiPM)を有する検出器と、前記スキャナが走査した前記試料の走査画像であって前記検出器から出力された信号に基づいて生成された前記走査画像に対して、前記SiPMにおけるダークカウントノイズの出現頻度に基づいて、前記ダークカウントノイズを除去する画像処理を実行する制御装置と、を備える。
【0008】
本発明の一態様に係る画像処理装置は、プロセッサを備え、プロセッサは、レーザ走査型顕微鏡に含まれるスキャナが走査した試料の走査画像であって前記レーザ走査型顕微鏡に含まれるSilicon Photomultiplier(SiPM)を有する検出器から出力された信号に基づいて生成された前記走査画像に対して、前記SiPMにおけるダークカウントノイズの出現頻度に基づいて、前記ダークカウントノイズを除去する画像処理を実行する。
【0009】
本発明の一態様に係る動作方法は、レーザ走査型顕微鏡の動作方法であって、前記レーザ走査型顕微鏡に含まれるSilicon Photomultiplier(SiPM)を有する検出器から出力された信号に基づいて前記レーザ走査型顕微鏡に含まれるスキャナが走査した試料の走査画像を生成し、前記走査画像に対して、前記SiPMにおけるダークカウントノイズの出現頻度に基づいて、前記ダークカウントノイズを除去する画像処理を実行する。
【0010】
本発明の一態様に係るプログラムは、レーザ走査型顕微鏡のコンピュータに、前記レーザ走査型顕微鏡に含まれるSilicon Photomultiplier(SiPM)を有する検出器から出力された信号に基づいて前記レーザ走査型顕微鏡に含まれるスキャナが走査した試料の走査画像を生成し、前記走査画像に対して、前記SiPMにおけるダークカウントノイズの出現頻度に基づいて、前記ダークカウントノイズを除去する画像処理を実行する処理を実行させる。
【発明の効果】
【0011】
上記の態様によれば、SiPMを用いて取得した画像からノイズを除去する新たな技術を提供することができる。
【図面の簡単な説明】
【0012】
【
図1】第1の実施形態に係るレーザ走査型顕微鏡の構成を例示する図である。
【
図2】
図1に示す制御装置の機能的構成を例示する図である。
【
図3】
図2に示す推定部のさらに詳細な構成を例示する図である。
【
図4】第1の実施形態に係るレーザ走査型顕微鏡が行う処理のフローチャートの一例である。
【
図5】ダークカウントノイズ推定処理のフローチャートの一例である。
【
図6】出現頻度取得処理のフローチャートの一例である。
【
図8】ダークカウントノイズの出現頻度に関する情報を含むテーブルの一例である。
【
図9】ダークカウントノイズの出現頻度に関する情報を含む別のテーブルの一例である。
【
図10】出現量推定処理のフローチャートの一例である。
【
図12】出現位置推定処理のフローチャートの一例である。
【
図13】ダークカウントノイズ除去処理のフローチャートの一例である。
【
図14】走査画像と補正画像のヒストグラムを比較した図である。
【
図15】走査画像と平滑化処理した画像のヒストグラムを比較した図である。
【
図16】第2の実施形態に係るレーザ走査型顕微鏡が行う処理のフローチャートの一例である。
【
図17】レーザ走査型顕微鏡の変形例について説明するための図である。
【発明を実施するための形態】
【0013】
(第1の実施形態)
図1は、本実施形態に係るレーザ走査型顕微鏡の構成を例示する図である。蛍光顕微鏡100は、レーザ走査型顕微鏡の一例であり、レーザ光で試料を走査するスキャナと、SiPMを有する検出器と、スキャナが走査した試料の画像(以降、走査画像と記す。)を検出器から出力された信号に基づいて生成する制御装置と、を備えている。以下、
図1を参照しながら、蛍光顕微鏡100の構成について詳細に説明する。
【0014】
蛍光顕微鏡100は、
図1に例示したように、レーザ光で試料Aを2次元的に走査するスキャンユニット1と、レーザ光が照射されることにより試料Aにおいて発生してスキャンユニット1を介して入射する蛍光を検出する第1検出ユニット2及び第2検出ユニット3とを備えている。
【0015】
スキャンユニット1は、レーザ光を出射するレーザ光源11と、レーザ光源11からのレーザ光を試料Aに導く照明光学系12とを備えている。レーザ光源11は、例えば405nm、488nm、543nmといった発振波長の異なるものが複数種備えられ、それぞれの発振波長のレーザ光を出射制御可能なAOTF(Acousto―Optics tunable Filter)を備えている。照明光学系12は、レーザ光源11からのレーザ光を導光する光ファイバ13と、コリメートレンズ14とを備えている。
【0016】
また、スキャンユニット1は、試料Aからの蛍光を集光する対物レンズ15と、対物レンズ15により集光された蛍光を結像させる結像レンズ16と、レーザ光で試料Aを走査するスキャナ17と、結像レンズ16により結像された蛍光を略平行光にする瞳投影レンズ18と、略平行光にされた蛍光をレーザ光の光路から分岐する励起ダイクロイックミラー19と、分岐された蛍光を集光する共焦点レンズ20と、集光された蛍光のうち、対物レンズ15の焦点位置から発生した蛍光のみを通過させる共焦点ピンホール21とを備えている。
【0017】
スキャナ17は、例えば、互いに直交する方向に試料Aを走査する2つのガルバノミラーを含んでいる。なお、スキャナは、ガルバノミラーの代わりに又は加えて、レゾナントミラーなどの他のスキャンデバイスを含んでもよい。
【0018】
励起ダイクロイックミラー19は、回転可能な励起ターレット22に分光透過率又は反射率の異なるものが複数固定されている。励起ターレット22の回転により、光路に挿入する励起ダイクロイックミラー19は変更可能である。
【0019】
第1検出ユニット2は、スキャンユニット1から入射する蛍光(共焦点ピンホール21を通過した蛍光)を波長域に応じて2つの光路に分解(分光)する2つの測光ダイクロイックミラー31A、31Bと、測光ダイクロイックミラー31Bにより分解された一方の光路の蛍光から検出する光の波長を選択する波長選択機構32Aと、波長選択機構32Aにより選択された波長の光を検出する光検出器33Aと、測光ダイクロイックミラー31Bにより分解された他方の光路の蛍光から検出する光の波長を選択する波長選択機構32Bと、波長選択機構32Bにより選択された波長の光を検出する光検出器33Bを備えている。
【0020】
測光ダイクロイックミラー31A、31Bは、それぞれ回転可能な測光ターレット34A、34Bに分光透過率又は反射率の異なるものが複数固定されている。測光ターレット34A、34Bの回転により、光路に挿入する測光ダイクロイックミラー31A、31Bは変更可能である。
【0021】
測光ダイクロイックミラー31Aは、スキャンユニット1からの蛍光を波長域に応じて第2検出ユニット3に向けて透過または測光ダイクロイックミラー31Bに向けて反射させる。測光ダイクロイックミラー31Bは、測光ダイクロイックミラー31Aからの蛍光を波長域に応じて波長選択機構32Aに向けて透過または波長選択機構32Bに向けて反射させる。
【0022】
波長選択機構32Aは、蛍光をスペクトル成分に分光する回折格子(VPH(Volume Phase Holographic))35Aと、回折格子35Aにより分光された蛍光を反射する搖動ミラー36Aと、搖動ミラー36Aにより反射された蛍光を光検出器33Aの受光面上に集光させる結像レンズ37Aと、結像レンズ37Aにより集光された蛍光を部分的に遮断するスリット(遮光スリット)38Aとを備えている。
【0023】
回折格子35Aは、測光ダイクロイックミラー31Bを透過した蛍光のスペクトル成分を一方向に分光するようになっている。搖動ミラー36Aは、回折格子35Aにより分光されたスペクトル列の配列方向に直交する搖動軸回りに揺動可能に設けられている。この搖動ミラー36Aは、搖動角度に応じて、スリット38Aを通過させるスペクトル成分を変更することができるようになっている。
【0024】
スリット38Aは、固定部材39Aと、固定部材39Aに対してスペクトル列の配列方向に隙間をあけて配される可動部材40Aとを備えている。可動部材40Aは、固定部材39Aに対してスペクトル列の配列方向に移動可能に設けられており、固定部材39Aとの間の隙間、すなわち、蛍光を通過させる開口を広げたり狭めたりすることができるようになっている。光検出器33Aは、後述する光検出器33C及び光検出器33Dとは異なる波長感度特性を有し、例えば、短波長側で感度が光検出器33C及び光検出器33Dよりも高い波長感度特性を有している。
【0025】
波長選択機構32Bは、波長選択機構32Aと同様の構成を有している。すなわち、波長選択機構32Bは、回折格子(VPH)35Bと、搖動ミラー36Bと、結像レンズ37Bと、スリット(遮光スリット)38Bとを備えている。
【0026】
回折格子35Bは、測光ダイクロイックミラー31Bにより反射された蛍光のスペクトル成分を一方向に分光するようになっている。搖動ミラー36Bは、回折格子35Bにより分光されたスペクトル列の配列方向に直交する搖動軸回りに揺動可能に設けられており、搖動角度に応じて、スリット38Bを通過させるスペクトル成分を変更することができるようになっている。スリット38Bは、固定部材39Bと、可動部材40Bとを備えている。光検出器33Bは、光検出器33Aと同一の波長感度特性を有している。
【0027】
第2検出ユニット3は、第1検出ユニット2と同様の構成を有している。すなわち、第2検出ユニット3は、2つの測光ダイクロイックミラー31C、31Dと、波長選択機構32Cと、光検出器33Cと、波長選択機構32Dと、光検出器33Dとを備えている。
【0028】
測光ダイクロイックミラー31C、31Dは、測光ダイクロイックミラー31A、31Bと同様に、それぞれ回転可能な測光ターレット34C、34Dに分光透過率又は反射率の異なるものが複数固定されている。測光ターレット34C、34Dの回転により、光路に挿入する測光ダイクロイックミラー31C、31Dは変更可能である。
【0029】
測光ダイクロイックミラー31Cは、第1検出ユニット2の測光ダイクロイックミラー31Aからの蛍光を波長域に応じて透過または測光ダイクロイックミラー31Dに向けて反射させるようになっている。測光ダイクロイックミラー31Dは、測光ダイクロイックミラー31Cからの蛍光を波長域に応じて波長選択機構32Cに向けて透過または波長選択機構32Dに向けて反射させるようになっている。
【0030】
波長選択機構32Cは、測光ダイクロイックミラー31Dを通過した蛍光から検出する光の波長を選択するようになっている。この波長選択機構32Cは、回折格子(VPH)35Cと、搖動ミラー36Cと、結像レンズ37Cと、スリット(遮光スリット)38Cとを備えている。
【0031】
回折格子35Cは、測光ダイクロイックミラー31Dからの蛍光のスペクトル成分を一方向に分光するようになっている。搖動ミラー36Cは、回折格子35Cにより分光されたスペクトル列の配列方向に直交する搖動軸回りに揺動可能に設けられており、搖動角度に応じて、スリット38Cを通過させるスペクトル成分を変更することができるようになっている。
【0032】
スリット38Cは、固定部材39Cと、可動部材40Cとを備えている。光検出器33Cは、波長選択機構32Cにより選択された波長の光を検出するようになっている。この光検出器33Cは、光検出器33A及び光検出器33Bとは異なる波長感度特性を有し、例えば、長波長側で感度が光検出器33A及び光検出器33Bよりも高い波長感度特性を有している。
【0033】
波長選択機構32Dは、測光ダイクロイックミラー31Dにより反射された蛍光から検出する光の波長を選択するようになっている。この波長選択機構32Dは、回折格子(VPH)35Dと、搖動ミラー36Dと、結像レンズ37Dと、スリット(遮光スリット)38Dとを備えている。
【0034】
回折格子35Dは、測光ダイクロイックミラー31Dからの蛍光のスペクトル成分を一方向に分光するようになっている。搖動ミラー36Dは、回折格子35Dにより分光されたスペクトル列の配列方向に直交する搖動軸回りに揺動可能に設けられており、搖動角度に応じて、スリット38Dを通過させるスペクトル成分を変更することができるようになっている。
【0035】
スリット38Dは、固定部材39Dと、可動部材40Dとを備えている。光検出器33Dは、波長選択機構32Dにより選択された波長の光を検出するようになっている。この光検出器33Dは、光検出器33Cと同一の波長感度特性を有している。
【0036】
光検出器33A、光検出器33B、光検出器33C、及び光検出器33Dの検出素子にはSiPMが用いられていて、そのSiPMはペルチェ素子で恒温化されている。即ち、光検出器33A、光検出器33B、光検出器33C、及び光検出器33Dは、SiPMと、冷却機構としてのペルチェ素子を有している。SiPMは、マルチピクセル化したアバランシェフォトダイオード(APD:Avalanche Photodiode)を含み、ガイガーモードで動作することで1光子に対して感度を有し、且つ、光子数に比例した強度の信号を出力する。
【0037】
光検出器33A、光検出器33Bに含まれるSiPMは、光検出器33C、光検出器33Dに含まれるSiPMとは、タイプの異なるSiPMである。これらのタイプの違いに起因して、光検出器33A及び光検出器33Bと光検出器33C及び光検出器33Dの感度特性の違いが生じている。なお、以降では、光検出器33A、光検出器33B、光検出器33C、及び光検出器33Dを特に区別しない場合には、これらのそれぞれを、又はこれらを総称して光検出器33として参照する。
【0038】
蛍光顕微鏡100は、さらに、入力装置4、表示装置5、及び制御装置6を備えている。入力装置4は、ユーザの入力操作に応じて、例えば、観察対象とする蛍光色素又は波長範囲の入力、画像取得に使用する光検出器33(SiPM)の設定の入力、スキャン設定の入力など、蛍光顕微鏡100の各種設定の入力を行う。入力装置4は、例えば、キーボード、マウス、タッチパネルである。
【0039】
表示装置5は、蛍光顕微鏡100の設定の入力を可能にする設定入力画面の表示や、画像の表示など、各種の表示を行う。表示装置5は、例えば、LCD(Liquid Crystal Display)である。
【0040】
制御装置6は、蛍光顕微鏡100の各部を制御する。例えば、制御装置6は、蛍光顕微鏡100の設定に応じて、スキャナ17がレーザ光で試料Aを走査し、且つ、試料Aからの蛍光を検出する、ように蛍光顕微鏡100を制御する。さらに、制御装置6は、蛍光顕微鏡100の光検出器33から出力された信号に基づいて試料Aの走査画像を生成する。より詳細には、走査画像は、光検出器33から出力された蛍光強度に関する信号とスキャナ17の走査位置に関する信号に基づいて、構築される。
【0041】
制御装置6は、例えば、PC(Personal Computer)であり、プロセッサ6a及びメモリ6bを含む。制御装置6が行う各種制御は、例えば、プロセッサ6aがメモリ6bに記憶されたプログラムを実行すること(所謂ソフトウェア処理)により実現されてもよいし、ハードウェア処理により実現されてもよいし、ソフトウェア処理及びハードウェア処理の組み合わせにより実現されてもよい。プロセッサ6aは、例えば、1つ又は複数の集積回路を含む。集積回路は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、DSP(Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)などであってもよい。
【0042】
メモリ6bは、プロセッサ6aが実行するプログラムを記憶する。メモリ6bは、プロセッサ6aが実行するプログラムを格納した非一時的なコンピュータ可読媒体を含んでいる。メモリ6bは、例えば、1つ又は複数の任意の半導体メモリ、1つ又は複数のその他の記憶装置、を含むことができる。半導体メモリは、例えば、RAM(Random Access Memory)などの揮発性メモリ、ROM(Read Only Memory)、プログラマブルROM、フラッシュメモリなどの不揮発性メモリを含んでいる。RAMには、例えば、DRAM(Dynamic Random Access Memory)、SRAM(Static Random Access Memory)などが含まれてもよい。その他の記憶装置には、例えば、コンピュータ可読媒体として例えば磁気ディスクを含む磁気記憶装置、コンピュータ可読媒体として例えば光ディスクを含む光学記憶装置などが含まれてもよい。
【0043】
以上のように構成された蛍光顕微鏡100では、光検出器としてSiPMが用いられているため、制御装置6で生成された走査画像には、ダークカウントノイズと呼ばれるランダムに発生するノイズが含まれてしまう。そこで、蛍光顕微鏡100では、制御装置6が、生成された走査画像に対して、SiPMで発生したダークカウントノイズを除去する画像処理を実行する。より詳細には、制御装置6は、走査画像に対して、SiPMにおけるダークカウントノイズの出現頻度に基づいて、ダークカウントノイズを除去する画像処理を実行する。即ち、制御装置6は、ダークカウントノイズを除去する画像処理を実行する画像処理装置の一例である。このような出現頻度という統計情報を用いた画像処理を行うことで、従来から行われている典型的なノイズ除去のための画像処理よりも、ダークカウントノイズを良好に除去することができる。
【0044】
図2は、
図1に示す制御装置の機能的構成を例示する図であり、主に上述した画像処理に関連する構成を示している。
図3は、
図2に示す推定部のさらに詳細な構成を例示する図である。以下では、
図2及び
図3を参照しながら、ダークカウントノイズ対策として制御装置6で行われる画像処理に関連する構成について説明する。
【0045】
制御装置6は、
図2に示すように、走査画像生成部50と、推定部60と、記憶部70と、除去部80と、出力部90を備えている。さらに、推定部60は、
図3に示すように、取得部61と、算出部62と、ノイズ画像生成部63と、決定部64を備えている。なお、これらの機能的構成のうち、走査画像生成部50、推定部60、除去部80、及び、出力部90は、例えば、メモリ6bに記憶されたプログラムを実行することでプロセッサ6aによって実現され、記憶部70は、例えば、メモリ6bによって実現される。
【0046】
走査画像生成部50は、試料Aの走査画像を生成する。推定部60は、走査画像生成部50で生成された走査画像に含まれるダークカウントノイズの量(以降、単にノイズ量と記す。)を推定する。除去部80は、推定部60で推定したノイズ量に応じて、走査画像からダークカウントノイズを除去する。出力部90は、以上の画像処理によって生成された補正画像を表示装置5へ出力する。
【0047】
詳細には、推定部60は、SiPMにおけるダークカウントノイズの出現頻度と蛍光顕微鏡100の設定に基づいてノイズ量を推定する。推定部60は、蛍光顕微鏡100の設定から1走査画像当たりの測光時間を算出し、出現頻度と算出した測光時間との組み合わせでノイズ量を推定する。なお、1走査画像当たりの測光時間とは、画像を取得するための走査開始から走査終了までの走査時間のうち、実際に測光している時間、つまり、ダークカウントノイズが発生し得る期間の時間をいう。走査時間には、スキャナが画像を取得する走査範囲に対してオーバースイングしたり、次のラインに移動したりする期間の時間も含むが、これらの期間中は、測光されず信号も検出されないため、ダークカウントノイズを検出することもない。1走査画像当たりの測光時間とは、走査時間からダークカウントノイズが検出されないこの期間分の時間を差し引いた時間に相当し、その画像を構成する全画素における測光時間の合計時間である。また、蛍光顕微鏡100の設定には、SiPMの設定(例えば、印加電圧に関する設定、恒温化された温度)と、蛍光顕微鏡100のスキャン設定(例えば、スキャンスピード、スキャンサイズ、画像当たりのスキャン回数など)が含まれている。
【0048】
より詳細には、推定部60では、取得部61と算出部62がノイズ量を推定する。取得部61は、蛍光顕微鏡100の設定に含まれているSiPMの設定に基づいて、SiPMにおけるダークカウントノイズの出現頻度の情報(以降、単に頻度情報)を取得する。これは、SiPMの設定に応じてSiPMでの出現頻度が異なり得るからである。
【0049】
なお、記憶部70には、頻度情報が記憶されていて、取得部61は、記憶部70から頻度情報を取得してもよい。記憶部70は、SiPMの設定毎に頻度情報を記憶する。記憶部70は、例えば、SiPMへの印加電圧に関する設定毎に頻度情報を記憶してもよく、SiPMが恒温化された温度に関する設定毎に頻度情報を記憶してもよい。
【0050】
また、記憶部70は、光検出器33に含まれるSiPMの個体毎に頻度情報を記憶してもよく、光検出器33に含まれるSiPMのタイプ毎に頻度情報を記憶してもよい。SiPMの設定と同様に、個体やタイプ毎にSiPMの出現頻度が異なり得るからである。そのため、取得部61は、走査画像の生成に用いられたSiPMの個体やタイプに対応する頻度情報を取得してもよい。
【0051】
取得部61が頻度情報を取得すると、算出部62は、頻度情報から特定されるダークカウントノイズの出現頻度と、蛍光顕微鏡100の設定に含まれているスキャン設定と、に基づいて、ノイズ量を統計的に算出する。具体的には、算出部62は、出現頻度とスキャン設定から特定される測光時間であって画像を構成する全画素における測光時間の合計時間から、1走査画像当たりのダークカウントノイズの出現回数(つまり、ダークカウントノイズが含まれる画素の数)をノイズ量として算出する。
【0052】
なお、算出部62は、取得部61で取得した頻度情報からダークカウントノイズの出現頻度をダークカウントノイズの強度毎に特定してもよい。つまり、算出部62は、1光子分として誤検出されたダークカウントノイズ、2光子分として誤検出されたダークカウントノイズ、・・・、N光子分として誤検出されたダークカウントノイズのそれぞれの出現頻度を特定してもよい。その場合、算出部62は、ダークカウントノイズの強度毎にノイズ量を算出してもよい。
【0053】
推定部60がノイズ量を画素の数として算出すると、除去部80は、算出部62がノイズ量として算出した数の画素の画素値から所定の値を差し引く。ここで、所定の値は、光子を検出することでSiPMから出力される信号強度に対応していればよい。
【0054】
なお、算出部62が強度毎にノイズ量を算出した場合には、除去部80は、算出部62が強度毎にノイズ量として算出した数の画素の画素値からその強度に応じた値を差し引く。ここで、強度に応じた値は、光子数に比例していればよい。
【0055】
以上の様に、蛍光顕微鏡100では、制御装置6が出現頻度と蛍光顕微鏡100の設定を用いてノイズ量を推定するため、精度良くダークカウントノイズの量を推定することが可能であり、過不足なくダークカウントノイズを除去することができる。また、制御装置6がノイズ量を画素の数として算出して、算出した数の画素に対して光子の検出に対応する値だけ画素値を調整する。これにより、画素値が入射光子数に比例するというSiPMを用いて得られる画像の特徴を失うことなく、走査画像からダークカウントノイズを除去することができる。従って、蛍光顕微鏡100によれば、ダークカウントノイズが抑制された良好な補正画像が得られるとともに、より正確なフォトンカウンティングが可能となる。
【0056】
推定部60は、ノイズ量に加えて、ダークカウントノイズの出現位置を推定してもよい。詳細には、推定部60は、推定したノイズ量に基づいてダークカウントノイズの出現位置を推定してもよく、除去部80は、推定部60が推定したノイズ量だけ、推定部60が推定した走査画像上の出現位置からダークカウントノイズを除去してもよい。
【0057】
より詳細には、推定部60では、ノイズ画像生成部63と決定部64が出現位置を推定する。ノイズ画像生成部63は、走査画像に基づいて走査画像の各画素に含まれるダークカウントノイズに関するスコアを算出し、そのスコアからなるノイズ画像を生成する。ノイズ画像はダークカウントノイズの発生が疑われる位置(候補位置)を特定するために使用される。ダークカウントノイズに関するスコアは、ダークカウントノイズと相関があればよい。具体的には、そのスコアは、ダークカウントノイズの強度と相関があってもよく、ダークカウントノイズの発生確率と相関があってもよい。これは、どちらの場合も候補位置を特定可能だからである。
【0058】
ノイズ画像生成部63がノイズ画像を生成すると、決定部64は、ノイズ画像と推定したノイズ量とに基づいて、ダークカウントノイズの出現位置を決定する。具体的には、決定部64は、ノイズ画像のスコアに基づいて、有力な候補位置から順にノイズ量分だけ候補位置を出現位置に決定する。
【0059】
以上の様に、蛍光顕微鏡100では、制御装置6がダークカウントノイズの出現位置を画素単位で特定し、特定された各画素から光子の検出に対応する値だけ画素値を調整する。これにより、空間方向にも時間方向にもランダムに発生するダークカウントノイズを良好に除去することができる。従って、蛍光顕微鏡100によれば、ダークカウントノイズが抑制された良好な補正画像が得られるとともに、より正確なフォトンカウンティングが可能となる。
【0060】
図4は、本実施形態に係るレーザ走査型顕微鏡が行う処理のフローチャートの一例である。
図5は、ダークカウントノイズ推定処理のフローチャートの一例である。
図6は、出現頻度取得処理のフローチャートの一例である。
図7は、SiPMの設定に関する画面例である。
図8は、ダークカウントノイズの出現頻度に関する情報を含むテーブルの一例である。
図9は、ダークカウントノイズの出現頻度に関する情報を含む別のテーブルの一例である。
図10は、出現量推定処理のフローチャートの一例である。
図11は、スキャン設定に関する画面例である。
図12は、出現位置推定処理のフローチャートの一例である。
図13は、ダークカウントノイズ除去処理のフローチャートの一例である。
図14は、走査画像と補正画像のヒストグラムを比較した図である。
図15は、走査画像と平滑化処理した画像のヒストグラムを比較した図である。
【0061】
以下、
図4から
図15を参照しながら、蛍光顕微鏡100が走査画像生成時に行うダークカウントノイズを除去するための画像処理の具体例について詳細に説明する。なお、
図4の処理は、例えば、制御装置6のプロセッサ6aがメモリ6bに記憶されているプログラムを実行することで、開始される。
【0062】
まず、蛍光顕微鏡100は、例えば、入力装置4を用いたユーザからの指示の入力に応答して、試料Aをレーザ光で走査して、試料Aの走査画像を生成する(ステップS1)。ここでは、制御装置6が光検出器33からの出力信号とスキャナ17の走査位置に関する信号に基づいて走査画像を構築する。
【0063】
その後、蛍光顕微鏡100は、ダークカウントノイズ推定処理とダークカウントノイズ除去処理を行う(ステップS2、ステップS3)。これらの処理は、制御装置6で行われる。制御装置6は、ステップS1で生成した走査画像に対して、ダークカウントノイズ推定処理とダークカウントノイズ除去処理を含む画像処理を実行することで、走査画像からダークカウントノイズが抑制された補正画像を生成する。
【0064】
ダークカウントノイズ推定処理では、制御装置6は、
図5に示すように、出現頻度取得処理(ステップS11)でダークカウントノイズの出現頻度を取得し、出現量推定処理(ステップS12)でダークカウントノイズの出現量を推定し、出現位置推定処理(ステップS13)でダークカウントノイズの出現位置を推定する。
【0065】
出現頻度取得処理では、
図6に示すように、制御装置6は、まず、ステップS1において走査画像の生成に用いられたSiPMの個体を特定する(ステップS21)。走査画像の生成に用いられたSiPMの個体は、例えば、
図7に示すような設定画面のチャンネル設定領域R1を参照することで特定してもよい。この例では、走査画像の生成に用いられたチャンネル“CH1”は光検出器“SiPM(A)”を示している。このため、制御装置6は、光検出器“SiPM(A)”を走査画像の生成に用いられたSiPMの個体として特定する。なお、“SiPM(A)”は、
図1に示す光検出器33Aに含まれるSiPMである。
【0066】
次に、制御装置6は、まず、ステップS1において走査画像の生成時に使用したSiPMへの印加電圧を特定する(ステップS22)。SiPMへの印加電圧は、例えば、
図7に示すような設定画面のチャンネル設定領域R1を参照することで特定してもよい。この例では、走査画像の生成に使用した印加電圧は“5V”であるため、制御装置6は、“5V”をSiPMへの印加電圧として特定する。
【0067】
SiPMの個体と印加電圧が特定されると、制御装置6は、SiPMにおけるダークカウントノイズの出現頻度を取得する(ステップS23)。ここでは、制御装置6は、メモリ6bに記憶されている、SiPMの個体毎で且つ印加電圧毎のダークカウントノイズの出現頻度を格納した
図8に示すテーブルT1を参照して、個体“SiPM(A)”と印加電圧“5V”の組み合わせに対応する出現頻度をテーブルT1から取得する。この例では、制御装置6は、“4.00”(回/msec)を出現頻度として取得する。
【0068】
なお、
図8に示すテーブルT1に格納されている情報は、予め実験等により測定した情報であり、例えば、以下の手順で生成可能である。まず、蛍光顕微鏡100の各SiPMに光が入射しない状態にする。その後、0℃に恒温化されたこれらのSiPMを用いて印加電圧5Vと8Vのそれぞれの設定で画像を取得する。そして、それらの画像中でダークカウントノイズが出現している画素の数をカウントする。最後にカウントした画素の数を、画像を構成する全画素における測光時間の合計時間で割って出現頻度を算出する。
【0069】
ダークカウントノイズの出現頻度を取得すると、制御装置6は、SiPMの恒温化温度を特定する(ステップS24)。SiPMの恒温化温度は、蛍光顕微鏡100において特定の温度に固定されている場合には、その固定値を取得する。また、恒温化温度を利用者が設定可能な場合には、個体や印加電圧を特定した場合と同様に設定画面の情報を参照して、恒温化温度を特定してもよい。なお、この例では、制御装置6は、例えば、0℃を恒温化温度として取得する。
【0070】
恒温化温度を特定すると、制御装置6は、出現頻度の補正係数を取得する(ステップS25)。ここでは、制御装置6は、メモリ6bに記憶されている、恒温化温度毎の出現頻度の補正係数を格納した
図9に示すテーブルT2を参照して、恒温化温度“0℃”に対応する補正係数をテーブルT2から取得する。この例では、制御装置6は、“1.00”を補正係数として取得する。
【0071】
なお、
図9に示すテーブルT2に格納されている情報は、予め実験等により測定した情報であり、例えば、以下の手順で生成可能である。
図8に示すテーブルT1に格納されている情報を生成するときと同じ手順でSiPMの恒温化温度毎に出現頻度を算出する。算出した出現頻度を恒温化温度毎にグループ化する。そして、恒温化温度0℃のグループを基準として各グループに対応する補正係数を算出する。具体的には、各グループの代表値(平均値、中央値など)を、恒温化温度0℃のグループの代表値で割ることで、補正係数を算出する。
【0072】
制御装置6は、ステップS23で取得した出現頻度をステップS25で取得した補正係数で補正する(ステップS26)。ここでは、制御装置6は、ステップS23で取得した出現頻度“4.00”(回/msec)にステップS25で取得した補正係数“1.00”を乗じることで、走査画像の生成に使用したSiPMにおけるダークカウントノイズの出現頻度を算出する。これにより、ダークカウントノイズの強度に拠らない出現頻度が決定される。
【0073】
最後に、制御装置6は、ダークカウントノイズの強度毎の出現頻度を決定し(ステップS27)、出現頻度取得処理を終了する。ここでは、制御装置6は、ポアソン分布を用いて、光子数に対応するダークカウントノイズの出現頻度を決定する。この例では、制御装置6は、1光子に対応するダークカウントノイズの出現頻度を“3.96”(回/msec)に、2光子に対応するダークカウントノイズの出現頻度を“0.00797”(回/msec)に決定する。
【0074】
出現頻度取得処理に続いて行われる出現量推定処理では、
図10に示すように、制御装置6は、まず、走査画像の生成に用いられたスキャン設定を特定する(ステップS31)。走査画像の生成に用いられたスキャン設定は、例えば、
図11に示すような設定画面のスキャン設定領域R2を参照することで特定してもよい。スキャン設定は、画像を構成する全画素における測光時間の合計時間がわかるものであればよく、
図11に示すように、スキャンスピード(1μsec/画素)やスキャンサイズ(512×512画素)などを含んでいればよい。
【0075】
スキャン設定を特定すると、制御装置6は、スキャン設定と出現頻度取得処理で取得した出現頻度とに基づいて、走査画像におけるダークカウントノイズの出現量を画素数で算出し(ステップS32)、出現量推定処理を終了する。ここでは、制御装置6は、光子数に対応するダークカウントノイズの強度毎に、ダークカウントノイズの出現量を画素数で算出する。この例では、制御装置6は、1光子に対応するダークカウントノイズの出現量を、出現頻度“3.96”(回/msec)と画像を構成する全画素における測光時間の合計時間“1×512×512”(μsec)を用いて1038回、つまり、走査画像中の1038画素として算出する。さらに、制御装置6は、2光子に対応するダークカウントノイズの出現量を、出現頻度“0.00797”(回/msec)と画像を構成する全画素における測光時間の合計時間“1×512×512”(μsec)を用いて2回、つまり、走査画像中の2画素として算出する。
【0076】
出現量推定処理に続いて行われる出現位置推定処理では、
図12に示すように、制御装置6は、まず、走査画像に平滑化フィルタを適用し(ステップS41)、平滑化画像を生成する。平滑化処理は、ローパスフィルタ処理に相当し、平滑化フィルタは、画像処理の分野で良く用いられるノイズ除去フィルタの一例である。平滑化フィルタは、具体的には、例えば、メディアンフィルタ、平均化フィルタ、ガウシアンフィルタ、リカーシブフィルタなどである。
【0077】
次に、制御装置6は、走査画像と平滑化画像の差分を取ってノイズ画像を生成する(ステップS42)。ここでは、制御装置6は、走査画像の各画素の画素値から平滑化画像の対応する画素の画素値を引くことでノイズ画像を生成する。平滑化画像は、ダークカウントノイズが除去された、主にシグナル成分からなる画像である。このため、走査画像から平滑化画像を引くことで、主にノイズ成分(ダークカウントノイズ)からなるノイズ画像を生成することができる。
【0078】
最後に、制御装置6は、ノイズ画像と出現量推定処理で推定したノイズ量に基づいて、ノイズが出現する画素位置を特定し(ステップS43)、出現位置推定処理を終了する。ここでは、制御装置6は、ノイズ量として算出された画素数だけノイズ画像に含まれる画素値の大きな画素から順に選択し、選択した画素の位置をダークカウントノイズが出現する画素位置として特定する。この例では、制御装置6は、ノイズ画像に含まれる、画素値の上位2画素を、2光子分のダークカウントノイズが出現する画素位置として特定し、ノイズ画像に含まれる残りの画素のうち、画素値の上位1038画素を、1光子分のダークカウントノイズが出現する画素位置として特定する。
【0079】
出現頻度取得処理と出現量推定処理と出現位置推定処理を含むダークカウントノイズ推定処理が終了すると、制御装置6は、ダークカウントノイズ除去処理を行う(ステップS3)。
【0080】
ダークカウントノイズ除去処理では、制御装置6は、
図13に示すように、走査画像から光子数毎にダークカウントノイズを除去する処理を繰り返す(ステップS51からステップS53)。この例では、制御装置6は、まず、走査画像中の、出現位置推定処理で特定した2光子分のダークカウントノイズが出現する画素位置の画素値から、2光子分のダークカウントノイズに対応する画素値を減算する。例えば、1光子分のダークカウントノイズに対応する画素値が16であるならば、2光子分のダークカウントノイズに対応する画素値は32である。その後、制御装置6は、走査画像中の、出現位置推定処理で特定した1光子分のダークカウントノイズが出現する画素位置の画素値から、1光子分のダークカウントノイズに対応する画素値を減算する。これにより、走査画像からダークカウントノイズを除去した補正画像が生成される。
【0081】
最後に、制御装置6は、補正画像を出力し(ステップS54)、
図4に示す処理を終了する。ここでは、制御装置6は、補正画像をメモリ6bに記憶するためにメモリ6bへ出力してもよく、補正画像を表示装置5に表示するために表示装置5へ出力してもよい。
【0082】
以上の様に、
図3の処理を実行することで、蛍光顕微鏡100は、統計的に算出したノイズ量だけ走査画像からダークカウントノイズを除去することができる。このため、ダークカウントノイズを過剰に除去してしまうことや、除去不足によりノイズが過剰に残ってしまうことを回避することができる。さらに、走査画像が有するフォトンカウンティングに適した画像特性を維持しながらダークカウントノイズを除去することができる。この点について、
図14及び
図15を参照しながら説明する。
【0083】
図14には、走査画像に含まれる画素値(強度)のヒストグラムが破線で、また、補正画像に含まれる画素値(強度)のヒストグラムが実線で、描かれている。また、
図15には、走査画像に含まれる画素値(強度)のヒストグラムが破線で、また、平滑化画像に含まれる画素値(強度)のヒストグラムが実線で、描かれている。
【0084】
SiPMが有する入射光子数に比例した強度の信号を出力する特性によって、走査画像のヒストグラムでは、
図14及び
図15の破線に示すように、バッググラウンドを示すピークを含む山と、1光子を示すピークを含む山と、2光子を示すピークを含む山を、しっかりと区別して検出することができる。このため、光子数を定量的に計数可能である。
【0085】
走査画像に対する上述した画像処理は、走査画像に含まれているダークカウントノイズが出現した画素の画素値から、ヒストグラムの山と山の間の距離に相当する値(1光子分の値、2光子分の値など)を引くことによってダークカウントノイズを除去するものである。この処理は、ヒストグラム上では、1光子の山や2光子の山からバッググラウンドの山への移動に相当する。そのため、
図14の実線に示すように、上述した画像処理で得られる補正画像のヒストグラムでも、バッググラウンドを示すピークを含む山と、1光子を示すピークを含む山と、2光子を示すピークを含む山は維持され、しっかりと区別して検出する可能である。
【0086】
これに対して、平滑化処理は、ヒストグラムの山を押しつぶしてすそ野を広げる作用を有しているため、
図15の実線に示すように、平滑化画像のヒストグラムでは、バッググラウンドを示すピークを含む山と、1光子を示すピークを含む山と、2光子を示すピークを含む山の境目があいまいになり、バッググラウンドに対応する画素、1光子に対応する画素、2光子に対応する画素を区別することができなくなってしまう。
【0087】
このように、蛍光顕微鏡100では、従来はノイズ除去と同時に実現することが困難であったフォトンカウンティングに適した画像特性の維持が可能である。従って、蛍光顕微鏡100によれば、ダークカウントノイズを抑制した補正画像を用いて正確なフォトンカウンティングが可能である。
【0088】
(第2の実施形態)
本実施形態に係るレーザ走査型顕微鏡は、
図1に示す蛍光顕微鏡100と同様の構成を有する。このため、本実施形態に係るレーザ走査型顕微鏡の構成要素については、蛍光顕微鏡100の構成要素と同様の符号で参照する。
【0089】
図16は、本実施形態に係るレーザ走査型顕微鏡が行う処理のフローチャートの一例である。本実施形態に係るレーザ走査型顕微鏡は、
図4に示す処理の代わりに
図16に示す処理を行う点が、蛍光顕微鏡100とは異なっている。以下、
図16を参照しながら、本実施形態に係るレーザ走査型顕微鏡が走査画像生成時に行うダークカウントノイズを除去するための画像処理の具体例について説明する。なお、
図16の処理も、
図4の処理と同様に、例えば、制御装置6のプロセッサ6aがメモリ6bに記憶されているプログラムを実行することで、開始される。
【0090】
図16に示す処理は、ダークカウントノイズに対応する光子数毎に、走査画像の生成、ダークカウントノイズの推定、ダークカウントノイズの除去を行う点が、
図4に示す処理とは異なっている。レーザ走査型顕微鏡は、低い光子数から順番に注目する。具体的には、レーザ走査型顕微鏡は、まず、注目する光子数を表すNをN=1に初期化する(ステップS61)。その後、レーザ走査型顕微鏡は、走査画像生成処理と、ダークカウントノイズ推定処理と、ダークカウントノイズ除去処理とを、注目する光子数を繰り返し毎に1つずつインクリメントしながら、走査画像に含まれるダークカウントノイズの最大強度に対応する光子数分だけ繰り返す(ステップS62からステップS66)。
【0091】
ステップS62の処理は、
図4のステップS1の処理と同様である。ステップS63のダークカウントノイズ推定処理は、平滑化フィルタの代わりに、機械学習によって構築された学習済みモデルを用いてノイズ画像を生成する点が、
図4に示すダークカウントノイズ推定処理とは異なっている。
【0092】
具体的には、制御装置6は、ダークカウントノイズを付加した画像とその画像に付加したダークカウントノイズの空間分布の関係を学習した学習済みモデルと、走査画像と、に基づいて、走査画像内におけるダークカウントノイズの発生確率の空間分布をノイズ画像として生成する。つまり、ノイズ画像は、確率画像であり、ノイズ画像の画素値は、その画素にダークカウントノイズを含む確率を示している。なお、ノイズ画像の画素値を実数で表すことで確率を連続的に表現することが可能となるため、後述するダークカウントノイズが出現する画素位置の特定精度が向上する。
【0093】
なお、ノイズ画像の生成に使用される学習済みモデルは、例えば、以下の手順で構築可能である。まず、ダークカウントノイズが無い元画像に対して人為的にダークカウントノイズを付加した画像と、付加したダークカウントノイズだけの画像を生成する。このような画像セットを、元画像、付加するダークカウントノイズのパターン(空間強度分布)、付加するダークカウントノイズの出現頻度などを変更しながら、何セットも生成する。そして、全ての画像セットを用いて、ダークカウントノイズを付加した画像とその画像に付加したダークカウントノイズの空間分布の関係について機械学習を行うことで、ダークカウントノイズを付加した画像からダークカウントノイズだけの画像を生成する学習済みモデルを構築する。
【0094】
ノイズ画像からダークカウントノイズが出現する画素位置を特定する方法と走査画像からノイズを除去する方法については、基本的には、第1の実施形態と同様である。具体的には、制御装置6は、ノイズ量として算出された画素数だけノイズ画像に含まれる画素値(出現確率)の大きな画素から順に選択し、選択した画素の位置をダークカウントノイズが出現する画素位置として特定する。そして、ダークカウントノイズを含む画像(例えば、走査画像)の特定した画素位置の画素値からダークカウントノイズに対応する値だけ減算する。
【0095】
ただし、本実施形態では、1回目の繰り返しでは、1光子分のダークカウントノイズを除去し、2回目の繰り返しでは、2光子分のダークカウントノイズを除去する。これをダークカウントノイズの最大強度に対応する光子数分繰り返す。より詳細には、1回目の繰り返しでは、走査画像に含まれる全ノイズ量(ダークカウントノイズを含む画素数)だけ、ノイズ画像からダークカウントノイズが出現する画素位置を特定し、走査画像の特定した画素位置の画素値から1光子分のダークカウントノイズに対応する値だけ減算する。これにより、走査画像のダークカウントノイズが含まれるすべての画素に対して、1光子分に相当する値だけ画素値が調整される。
【0096】
その後、走査画像から1光子分のダークカウントノイズを除去することで生成された画像(更新画像と記す。)を上述した学習済みモデルに入力して改めてノイズ画像を生成する。そして、2回目の繰り返しでは、走査画像に含まれる全ノイズ量(ダークカウントノイズを含む画素数)から1光子分のダークカウントノイズのノイズ量(画素数)を除いたノイズ量(画素数)だけ、新たに生成されたノイズ画像からダークカウントノイズが出現する画素位置を特定し、更新画像の特定した画素位置の画素値からさらに1光子分のダークカウントノイズに対応する値だけ減算する。これにより、走査画像の2光子分以上のダークカウントノイズが含まれるすべての画素に対して、さらに1光子分に相当する値だけ画素値が調整され、合計2光子分に相当する値だけ画素値が調整される。
【0097】
走査画像に含まれるダークカウントノイズの最大強度が2光子分であれば、以上の様に2回繰り返し処理を行えばよい。走査画像に含まれるダークカウントノイズの最大強度が3光子分であれば3回繰り返し処理を行えばよく、4光子分であれば4回繰り返し処理を行えばよい。
【0098】
本実施形態に係るレーザ走査型顕微鏡によっても、第1の実施形態に係る蛍光顕微鏡100と同様に、ダークカウントノイズを除去することが可能であり、ダークカウントノイズを抑制した補正画像を用いて正確なフォトンカウンティングを行うことができる。
【0099】
上述した実施形態は、発明の理解を容易にするために具体例を示したものであり、本発明はこれらの実施形態に限定されるものではない。上述の実施形態を変形した変形形態および上述した実施形態に代替する代替形態が包含され得る。つまり、各実施形態は、その趣旨および範囲を逸脱しない範囲で構成要素を変形することが可能である。また、1つ以上の実施形態に開示されている複数の構成要素を適宜組み合わせることにより、新たな実施形態を実施することができる。また、各実施形態に示される構成要素からいくつかの構成要素を削除してもよく、または実施形態に示される構成要素にいくつかの構成要素を追加してもよい。さらに、各実施形態に示す処理手順は、矛盾しない限り順序を入れ替えて行われてもよい。即ち、本発明のレーザ走査型顕微鏡、画像処理装置、レーザ走査型顕微鏡の動作方法、及び、プログラムは、特許請求の範囲の記載を逸脱しない範囲において、さまざまな変形、変更が可能である。
【0100】
上述した実施形態では、
図8及び
図9に示すように、メモリ6bは、SiPMの個体と印加電圧の組み合わせ毎に出現頻度を記憶し、さらに、恒温化温度毎に補正係数を記憶する例を示したが、出現頻度に関するこれらの情報はメモリ6bに別の形式で記憶されてもよい。例えば、SiPMの個体と印加電圧と恒温化温度の組み合わせ毎に出現頻度を記憶してもよい。即ち、テーブルの構造は2次元構造に限らず、3次元以上の構造を有してもよい。
【0101】
上述した実施形態では、SiPMの個体と印加電圧の組み合わせ毎に出現頻度を記憶する例を示したが、印加電圧に依存した出現頻度の変化がSiPMの個体や電気回路に寄らずほぼ一定である場合には、印加電圧に依存した出現頻度の変化を補正係数として管理してもよい。その場合、出現頻度は、SiPM毎に管理するだけでもよい。
【0102】
また、同タイプのSiPMでは個体差による出現頻度の違いが無視できる程度に小さい場合には、メモリ6bは、SiPMの個体毎ではなく、タイプ毎に出現頻度を記憶してもよい。また、出現頻度について個体差もタイプ差もほとんどない場合には、メモリ6bは、出現頻度は単一の固定値として記憶してもよい。
【0103】
また、使用した設定に対応する出現頻度がメモリ6bに記憶されていない場合には、別の設定の出現頻度を補間して、使用した設定に対応する出現頻度を算出してもよい。例えば、メモリ6bに記憶されているテーブルに使用する印加電圧に対応する出現頻度が記憶されていない場合には、異なる印加電圧に対応する出現頻度から補間により使用する印加電圧に対応する出現頻度を算出してもよい。
【0104】
また、メモリ6bは、
図8及ぶ
図9に示すような出現頻度そのものをテーブル形式(表形式)で記憶する代わりに、出現頻度を算出するための関数やパラメータを出現頻度に関する情報として記憶してもよい。例えば、SiPMを構成するAPDの数と、APD1つ当たりのダークカウントノイズの出現頻度をパラメータとして記憶してもよく、SiPMにおけるダークカウントノイズの出現頻度は、これらを用いて算出してもよい。
【0105】
上述した実施形態では、SiPMの設定やスキャン設定を蛍光顕微鏡100の現在の設定から取得する例を示したが、これらの情報は、走査画像とともに記憶されてもよく、走査画像とともに記憶されたこれらの情報を用いて、ダークカウントノイズを除去する画像処理を実行してもよい。この場合、画像処理は、必ずしも走査画像の生成時に行う必要がなく、走査画像に対して任意のタイミングで実行されてもよい。
【0106】
また、画像処理の実行主体は、走査画像を生成する制御装置とは異なる装置であってもよい。制御装置とは別の画像処理装置で、走査画像からダークカウントノイズを除去する画像処理が行われてもよく、その画像処理装置は、レーザ走査型顕微鏡に含まれない外部装置であってもよい。
【0107】
上述した実施形態では、出現頻度に関する情報を制御装置6のメモリ6bから読み出す例を示したが、出現頻度に関する情報は、例えば、クラウド上に置かれたサーバ装置などの、レーザ走査型顕微鏡に含まれる制御装置とは異なる装置に記憶されてもよい。レーザ走査型顕微鏡は、クラウド上に置かれたサーバ装置から出現頻度に関する情報を取得して、走査画像からダークカウントノイズを除去してもよい。
【0108】
上述した実施形態では、予め記憶されている出現頻度に関する情報を読み出して画像処理に使用する例を示したが、出現頻度に関する情報は、必要なタイミングで作成してもよい。例えば、
図17に示すように、第1検出ユニット2及び第2検出ユニット3内に、光検出器33のSiPMへの光の入射を遮断する遮断部(遮光部41A、遮光部41B、遮光部41C、遮光部41D)を設けてもよい。制御装置6は、遮断部がSiPMへの光の入射を遮断している状態で、画像処理の対象となる走査画像を生成するときと同じSiPMの設定で生成された別の走査画像に基づいて発生頻度に関する情報を生成してもよい。このような条件で取得された走査画像からオフセット成分等を取り除くことで、ダークカウントノイズ成分だけの画像を得ることができる。ダークカウントノイズ成分だけの画像の輝度値を光子数に変換することで、ダークカウントノイズを含んだ画素の数と、各画素に何光子分のダークカウントノイズが含まれているのかを特定することができる。これらの情報から画像処理に用いられる発生頻度を特定してもよい。
【0109】
本明細書において、“Aに基づいて”という表現は、“Aのみに基づいて”を意味するものではなく、“少なくともAに基づいて”を意味し、さらに、“少なくともAに部分的に基づいて”をも意味している。即ち、“Aに基づいて”はAに加えてBに基づいてもよく、Aの一部に基づいてよい。
【符号の説明】
【0110】
4 入力装置
5 表示装置
6 制御装置
6a プロセッサ
6b メモリ
11 レーザ光源
17 スキャナ
33A、33B、33C、33D 光検出器
44A、44B、44C、44D 遮光部
50 走査画像生成部
60 推定部
61 取得部
62 算出部
63 ノイズ画像生成部
64 決定部
70 記憶部
80 除去部
90 出力部
100 蛍光顕微鏡