IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 浜松ホトニクス株式会社の特許一覧

特開2024-163162蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム
<>
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図1
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図2
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図3
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図4
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図5
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図6
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図7
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図8
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図9
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図10
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図11
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図12
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図13
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図14
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図15
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図16
  • 特開-蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム 図17
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024163162
(43)【公開日】2024-11-21
(54)【発明の名称】蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラム
(51)【国際特許分類】
   G01N 21/64 20060101AFI20241114BHJP
【FI】
G01N21/64 E
【審査請求】未請求
【請求項の数】3
【出願形態】OL
(21)【出願番号】P 2024148540
(22)【出願日】2024-08-30
(62)【分割の表示】P 2024539324の分割
【原出願日】2023-12-26
(31)【優先権主張番号】P 2023027521
(32)【優先日】2023-02-24
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000236436
【氏名又は名称】浜松ホトニクス株式会社
(74)【代理人】
【識別番号】100088155
【弁理士】
【氏名又は名称】長谷川 芳樹
(74)【代理人】
【識別番号】100113435
【弁理士】
【氏名又は名称】黒木 義樹
(74)【代理人】
【識別番号】100140442
【弁理士】
【氏名又は名称】柴山 健一
(74)【代理人】
【識別番号】100124800
【弁理士】
【氏名又は名称】諏澤 勇司
(72)【発明者】
【氏名】樋口 貴文
(72)【発明者】
【氏名】池村 賢一郎
(72)【発明者】
【氏名】加茂 航
(72)【発明者】
【氏名】加藤 なつみ
(57)【要約】
【課題】蛍光画像における単色画素を判別すること。
【解決手段】蛍光画像取得システム1は、複数の波長分布の励起光のそれぞれを試料に照射する照射装置2と、複数の励起光のそれぞれに対応する複数の蛍光のそれぞれについて、複数の反射波長域及び複数の透過波長域を有する蛍光フィルタ部を介して、第1光学状態における第1蛍光画像、及び、第1光学状態とは異なる波長特性で蛍光を測定する第2光学状態における第2蛍光画像を取得する画像取得装置3と、複数の第1蛍光画像及び複数の第2蛍光画像を処理する画像処理装置4と、を備え、画像処理装置4は、第1蛍光画像及び第2蛍光画像について、第1蛍光画像の画素の強度値、及び、画素に対応する第2蛍光画像の画素の強度値の比である強度比を算出し、複数の励起光毎の強度比を算出し、複数の励起光毎の強度比に基づき、画素が単色画素であるかを判別する。
【選択図】図1
【特許請求の範囲】
【請求項1】
複数の波長分布の励起光のそれぞれを試料に照射する照射ステップと、
前記複数の励起光のそれぞれに対応する複数の蛍光のそれぞれについて、複数の反射波長域及び複数の透過波長域を有する蛍光フィルタ部を介して、第1光学状態における第1蛍光画像、及び、前記第1光学状態とは異なる波長特性で前記蛍光を測定する第2光学状態における第2蛍光画像を取得する取得ステップと、
前記第1蛍光画像及び前記第2蛍光画像について、前記第1蛍光画像の画素の強度値、及び、前記画素に対応する前記第2蛍光画像の画素の強度値の比である強度比を算出し、前記複数の励起光毎の強度比を算出する算出ステップと、
前記複数の励起光毎の強度比に基づき、前記画素が単色画素であるかを判別する判別ステップと、
を備える、蛍光画像取得方法。
【請求項2】
複数の波長分布の励起光のそれぞれを試料に照射する照射装置と、
前記複数の励起光のそれぞれに対応する複数の蛍光のそれぞれについて、複数の反射波長域及び複数の透過波長域を有する蛍光フィルタ部を介して、第1光学状態における第1蛍光画像、及び、前記第1光学状態とは異なる波長特性で前記蛍光を測定する第2光学状態における第2蛍光画像を取得する画像取得装置と、
複数の前記第1蛍光画像及び複数の前記第2蛍光画像を処理する画像処理装置と、を備え、
前記画像処理装置は、
前記第1蛍光画像及び前記第2蛍光画像について、前記第1蛍光画像の画素の強度値、及び、前記画素に対応する前記第2蛍光画像の画素の強度値の比である強度比を算出し、前記複数の励起光毎の強度比を算出し、
前記複数の励起光毎の強度比に基づき、前記画素が単色画素であるかを判別する、
蛍光画像取得装置。
【請求項3】
複数の波長分布の励起光のそれぞれを試料に照射することにより、前記複数の励起光のそれぞれに対応する複数の蛍光のそれぞれについて、複数の反射波長域及び複数の透過波長域を有する蛍光フィルタ部を介して取得される、第1光学状態における第1蛍光画像、及び、前記第1光学状態とは異なる波長特性で前記蛍光を測定する第2光学状態における第2蛍光画像を基に、画素が単色画素であるかを判別するための蛍光画像取得プログラムであって、
コンピュータを、
前記第1蛍光画像及び前記第2蛍光画像について、前記第1蛍光画像の画素の強度値、及び、前記画素に対応する前記第2蛍光画像の画素の強度値の比である強度比を算出し、前記複数の励起光毎の強度比を算出する強度比算出部、及び、
前記複数の励起光毎の強度比に基づき、前記画素が単色画素であるかを判別する単色画素判別部、として機能させる蛍光画像取得プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
実施形態の一側面は、蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラムに関する。
【背景技術】
【0002】
従来から、生体組織等の試料を対象に複数の試料内物質を同時に染色する多重染色の手法が用いられている。そして、多重染色が行われた試料内の物質を観察するために、試料に励起光を照射して蛍光画像を取得することも行われている。例えば、下記非特許文献1には、複数の波長域の蛍光を観察した蛍光画像をブラインドアンミキシングして試料内物質ごとの分離画像を得るために、非負値行列因子分解(NMF: Nonnegative Matrix Factorization)の手法を適用することが開示されている。また、下記非特許文献2には、蛍光画像をアンミキシングする手法として、蛍光画像をクラスタリングして、クラスタリングされた各画素群で蛍光強度の最大値を抽出し、その最大値を基に分離画像を生成することが開示されている。
【先行技術文献】
【非特許文献】
【0003】
【非特許文献1】Binjie Qin et al.,“Target/Background ClassificationRegularized Nonnegative Matrix Factorization for Fluorescence Unmixing”, IEEE TRANSACTIONS ON INSTRUMENTATION AND MEASUREMENT, VOL.65, NO.4, APRIL2016
【非特許文献2】Tristan D. McRae et al.,“Robust blind spectral unmixing forfluorescence microscopy using unsupervised learning”, PLOSONE, December 2,2019
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、従来の技術では、蛍光画像を観察する際に蛍光画像における単色画素を判別することは困難な傾向にある。そのため、蛍光画像を効率よく観察するために蛍光画像における単色画素を判別することが望まれている。
【0005】
そこで、実施形態の一側面は、かかる課題に鑑みてなされたものであり、蛍光画素における単色画素を判別することが可能な蛍光画像取得方法、蛍光画像取得装置、及び蛍光画像取得プログラムを提供することを課題とする。
【課題を解決するための手段】
【0006】
実施形態の第一の側面に係る蛍光画像取得方法は、複数の波長分布の励起光のそれぞれを試料に照射する照射ステップと、複数の励起光のそれぞれに対応する複数の蛍光のそれぞれについて、複数の反射波長域及び複数の透過波長域を有する蛍光フィルタ部を介して、第1光学状態における第1蛍光画像、及び、第1光学状態とは異なる波長特性で蛍光を測定する第2光学状態における第2蛍光画像を取得する取得ステップと、第1蛍光画像及び第2蛍光画像について、第1蛍光画像の画素の強度値、及び、画素に対応する第2蛍光画像の画素の強度値の比である強度比を算出し、複数の励起光毎の強度比を算出する算出ステップと、複数の励起光毎の強度比に基づき、画素が単色画素であるかを判別する判別ステップと、を備える。
【0007】
あるいは、実施形態の第二の側面に係る蛍光画像取得装置は、複数の波長分布の励起光のそれぞれを試料に照射する照射装置と、複数の励起光のそれぞれに対応する複数の蛍光のそれぞれについて、複数の反射波長域及び複数の透過波長域を有する蛍光フィルタ部を介して、第1光学状態における第1蛍光画像、及び、第1光学状態とは異なる波長特性で蛍光を測定する第2光学状態における第2蛍光画像を取得する画像取得装置と、複数の第1蛍光画像及び複数の第2蛍光画像を処理する画像処理装置と、を備え、画像処理装置は、第1蛍光画像及び第2蛍光画像について、第1蛍光画像の画素の強度値、及び、当該画素に対応する第2蛍光画像の画素の強度値の比である強度比を算出し、複数の励起光毎の強度比を算出し、複数の励起光毎の強度比に基づき、画素が単色画素であるかを判別する。
【0008】
あるいは、実施形態の第三の側面に係る蛍光画像取得プログラムは、複数の波長分布の励起光のそれぞれを試料に照射することにより、複数の励起光のそれぞれに対応する複数の蛍光のそれぞれについて、複数の反射波長域及び複数の透過波長域を有する蛍光フィルタ部を介して取得される、第1光学状態における第1蛍光画像、及び、第1光学状態とは異なる波長特性で蛍光を測定する第2光学状態における第2蛍光画像を基に、画素が単色画素であるかを判別するための蛍光画像取得プログラムであって、コンピュータを、第1蛍光画像及び第2蛍光画像について、第1蛍光画像の画素の強度値、及び、当該画素に対応する第2蛍光画像の画素の強度値の比である強度比を算出し、複数の励起光毎の強度比を算出する強度比算出部、及び、複数の励起光毎の強度比に基づき、画素が単色画素であるかを判別する単色画素判別部、として機能させる。
【0009】
上記第一の側面、上記第二の側面、あるいは上記第三の側面によれば、複数の励起光のそれぞれに対応する複数の蛍光のそれぞれについて、第1光学状態における第1蛍光画像、及び、第1光学状態とは異なる波長特性で蛍光を測定する第2光学状態における第2蛍光画像が取得される。さらに、第1蛍光画像の画素の強度値、及び、第2蛍光画像の画素の強度値の比である強度比が算出され、複数の励起光毎の強度比が算出される。加えて、複数の励起光毎の強度比に基づき、画素が単色画素であるか判別される。これにより、複数の色素からの蛍光が混ざって反映される画素、及び、単一の色素からの単色の蛍光が反映される単色画素を含む蛍光画像においても、蛍光画像の複数の画素から単色画素を判別することができる。すなわち、蛍光画像における単色画素を判別することができる。
【発明の効果】
【0010】
本開示の一側面によれば、蛍光画像における単色画素を判別することができる。
【図面の簡単な説明】
【0011】
図1】第1実施形態にかかる蛍光画像取得システム1の概略構成図である。
図2図1の蛍光画像取得システム1の構成を示す斜視図である。
図3図1の画像処理装置4のハードウェア構成の一例を示すブロック図である。
図4図1の画像処理装置4の機能構成を示すブロック図である。
図5】第1蛍光画像及び第2蛍光画像の蛍光強度を説明するための図である。
図6】第1励起光に対する第1画素における強度比、及び、第2励起光に対する第1画素における強度比の特徴を説明するための図である。
図7】強度比の特徴を模式的に示す図である。
図8】クラスタリング部204によってクラスタリングされた画素群のイメージを示す図である。
図9】統計値計算部205によって再生成される行列データY’、及びそれに対応する色素行列データX’のイメージを示している。
図10】第1実施形態にかかる蛍光画像取得方法の手順を示すフローチャートである。
図11】第2実施形態にかかる蛍光画像取得システム1Aの概略構成図である。
図12】カラーカメラを用いた場合の各画素の強度比を説明するための図である。
図13】ハイパースペクトルカメラを用いた場合の各画素の強度比を説明するための図である。
図14】第3実施形態にかかる蛍光画像取得システム1Bの概略構成図である。
図15】第4実施形態にかかる蛍光画像取得システム1Cの概略構成図である。
図16】蛍光画像の生成例においてクラスタリングの結果を示す図である。
図17】蛍光画像の生成例において各色素からの蛍光画像を生成した結果を示す図である。
【発明を実施するための形態】
【0012】
以下、添付図面を参照して、本開示の実施形態について詳細に説明する。なお、説明において、同一要素又は同一機能を有する要素には、同一符号を用いることとし、重複する説明は省略する。
【0013】
[第1実施形態]
図1は、第1実施形態にかかる蛍光画像取得装置である蛍光画像取得システム1の概略構成図である。蛍光画像取得システム1は、観察対象である生体組織等の試料内の色素の分布を特定するための蛍光画像を生成するための装置である。蛍光画像取得システム1によって生成される画像は、その画像の解析を通じた、薬剤の開発、治療法の検討等の目的に用いられる。蛍光画像取得システム1は、試料Sに励起光を照射するように構成される照射装置2と、試料Sに励起光を照射してそれに応じて生じた蛍光の画像を取得する画像取得装置3と、画像取得装置3によって取得された画像をデータ処理する画像処理装置4とを備えている。画像取得装置3と画像処理装置4とは、それらの間で有線通信あるいは無線通信を用いて画像データが送受信可能に構成されていてもよいし、記録媒体を介して画像データが入出力可能に構成されていてもよい。
【0014】
図2は、図1の蛍光画像取得システム1の構成を示す斜視図である。図2においては、励起光の光路を矢印付きの点線で示し、蛍光の光路を矢印付きの実線で示す。照射装置2は、励起光源2a及び励起光フィルタ部2bを含んで構成される。画像取得装置3は、ダイクロイックミラー11、蛍光フィルタ部3a、第1光学フィルタ13、及び第1カメラ15を含んで構成される。
【0015】
励起光源2aは、複数の波長帯(波長分布)の励起光を切り替えて照射可能な光源であり、例えば、LED(Light Emitting Diode)光源、複数の単色レーザ光源からなる光源、あるいは白色光源と波長選択光学素子とを組み合わせた光源などである。励起光フィルタ部2bは、励起光源2aの励起光の光路上に設けられ、所定の複数の波長域の光を透過させる性質を有するマルチバンドパスフィルタである。この励起光フィルタ部2bの透過波長帯は、使用されうる励起光の複数の波長帯に応じて設定される。ダイクロイックミラー11は、励起光フィルタ部2bと試料Sとの間に設けられ、励起光を試料Sに向けて反射し、それに応じて試料Sから発せられる蛍光を透過する性質を有する光学部材である。第1実施形態では、照射装置2は、M個(Mは2以上の整数)の波長帯の励起光を照射する。以下、M個の波長帯の励起光のそれぞれを、第1励起光、第2励起光、…、及び第M励起光と言う。
【0016】
蛍光フィルタ部3aは、ダイクロイックミラー11によって透過される蛍光の光路上に設けられ、所定の複数の波長域の光を透過させる性質を有するマルチバンドパスフィルタである。蛍光フィルタ部3aは、複数の反射波長域及び複数の透過波長域を有する。反射波長域と透過波長域とは、互いに交互に並んでいる。反射波長域は、例えば、各透過波長域の間の波長域である。この蛍光フィルタ部3aの透過波長域は、観察対象の試料Sに含まれうる色素において生じる蛍光の波長帯に応じて設定される。
【0017】
第1光学フィルタ13は、蛍光フィルタ部3aによって透過される蛍光の光路上に設けられ、蛍光の波長情報を取得するための光学系である。この第1光学フィルタ13は、蛍光フィルタ部3aからの蛍光の光路上の位置と当該光路上から外れた位置との間をスライドさせるように、第1光学フィルタ13の位置を切替可能とする切替機構(図示せず)を含んでいる。第1実施形態では、第1光学フィルタ13を蛍光の光路上に設けることで第1光学フィルタ13を介して蛍光の波長情報を取得できる状態を第1光学状態と記し、第1光学フィルタ13を蛍光の光路上に設けないことで第1光学フィルタ13を介さずに蛍光の波長情報を取得できる状態を第2光学状態と記す。画像取得装置3は、第1光学状態と、第1光学状態とは異なる波長特性で蛍光を測定する第2光学状態において、蛍光を測定することができる。
【0018】
第1光学フィルタ13は、蛍光フィルタ部3aの各反射波長域又は各透過波長域において透過率が異なるフィルタである。第1実施形態では、第1光学フィルタ13は、波長が大きくなるに従って透過率が線形的に大きくなるような透過率の波長特性を有する傾斜フィルタである。すなわち、第1光学フィルタ13の透過率は、蛍光フィルタ部3aの各透過波長域にわたって単調に増加している。以降の第1実施形態の説明では、このような傾斜フィルタである第1光学フィルタ13を第1傾斜フィルタ13とも記す。第1光学フィルタ13は、波長が大きくなるに従って透過率が線形的に小さくなるような透過率の波長特性を有する傾斜フィルタであってもよい。第1光学フィルタ13は、蛍光フィルタ部3aの各反射波長域にわたって透過率が単調に変化する傾斜フィルタであってもよい。
【0019】
第1カメラ15は、N個(Nは2以上の整数、例えば、2048×2048)の画素によって構成される二次元画像を撮像する撮像装置であり、第1傾斜フィルタ13が蛍光の光路上に設けられた際に、第1傾斜フィルタ13を透過する蛍光を撮像して第1蛍光画像を取得するカメラである。すなわち、第1蛍光画像は、第1光学状態において取得された蛍光画像である。また、第1カメラ15は、第1傾斜フィルタ13が蛍光の光路上から外された際に、蛍光を撮像し、第2蛍光画像を取得する。すなわち、第2蛍光画像は、第2光学状態において取得された蛍光画像である。第1カメラ15は、取得した第1蛍光画像及び第2蛍光画像を、通信を用いて、あるいは記録媒体を介して、画像処理装置4に出力する。第1実施形態では、N個の画素のそれぞれを、第1画素、第2画素、…、及び第N画素とする。
【0020】
次に、図3および図4を参照して、画像処理装置4の構成を説明する。図3は、画像処理装置4のハードウェア構成の一例を示すブロック図であり、図4は、画像処理装置4の機能構成を示すブロック図である。
【0021】
図3に示すように、画像処理装置4は、物理的には、プロセッサであるCPU(Central Processing Unit)101、記録媒体であるRAM(Random Access Memory)102又はROM(Read Only Memory)103、通信モジュール104、及び入出力モジュール106等を含んだコンピュータ等であり、各々は電気的に接続されている。なお、画像処理装置4は、入出力デバイスとして、ディスプレイ、キーボード、マウス、タッチパネルディスプレイ等を含んでいてもよいし、ハードディスクドライブ、半導体メモリ等のデータ記録装置を含んでいてもよい。また、画像処理装置4は、複数のコンピュータによって構成されていてもよい。
【0022】
図4に示すように、画像処理装置4は、機能的な構成要素として、画像取得部201、強度比算出部202、単色画素判別部203、クラスタリング部204、統計値計算部205及び画像生成部206を備えている。図4に示す画像処理装置4の各機能部は、CPU101及びRAM102等のハードウェア上にプログラム(実施形態にかかる蛍光画像取得プログラム)を読み込ませることにより、CPU101の制御のもとで、通信モジュール104、及び入出力モジュール106等を動作させるとともに、RAM102におけるデータの読み出し及び書き込みを行うことで実現される。画像処理装置4のCPU101は、このコンピュータプログラムを実行することによって図4の各機能部を機能させ、後述する蛍光画像取得方法に対応する処理を順次実行する。なお、CPU101は、単体のハードウェアでもよく、ソフトプロセッサのようにFPGAのようなプログラマブルロジックの中に実装されたものでもよい。RAMやROMについても単体のハードウェアでもよく、FPGAのようなプログラマブルロジックの中に内蔵されたものでもよい。このコンピュータプログラムの実行に必要な各種データ、及び、このコンピュータプログラムの実行によって生成された各種データは、全て、ROM103、RAM102等の内蔵メモリ、又は、ハードディスクドライブなどの記憶媒体に格納される。以下、画像処理装置4の機能的な構成要素の機能について詳細に説明する。
【0023】
画像取得部201は、第1~第M励起光毎に第1蛍光画像及び第2蛍光画像を画像取得装置3から取得する。第1蛍光画像は、照射装置2から照射される第1~第M励起光のそれぞれに対応する複数の蛍光について、第1光学状態において取得される蛍光画像である。第2蛍光画像は、照射装置2から照射される第1~第M励起光のそれぞれに対応する複数の蛍光について、第2光学状態において取得される蛍光画像である。
【0024】
図5を参照しつつ、第1蛍光画像及び第2蛍光画像の蛍光強度の一例を説明する。図5において、(a)部には第1光学状態において取得された第1蛍光画像の蛍光強度の波長特性を示し、(b)部には第2光学状態において取得された第2蛍光画像の蛍光強度の波長特性を示している。ここでは、3種類の蛍光である第1蛍光、第2蛍光及び第3蛍光を撮像した場合を想定している。図5の(a)部において、FI1、FI2及びFI3のそれぞれは、第1傾斜フィルタ13を透過した第1蛍光、第2蛍光及び第3蛍光のそれぞれの蛍光強度を示している。図5の(b)部において、FI4、FI5及びFI6のそれぞれは、第1傾斜フィルタを透過していない第1蛍光、第2蛍光及び第3蛍光のそれぞれの蛍光強度を示している。また、T1は蛍光フィルタ部3aの透過波長域における透過率を模式的に示している。図5の(b)部に示すように、第2光学状態では各蛍光強度の大きさは同程度であるが、図5の(a)部に示すように、第1光学状態では、第1蛍光の蛍光強度FI1、第2蛍光の蛍光強度FI2、及び第3蛍光の蛍光強度FI3の順で大きくなっている。これは、第1傾斜フィルタ13の透過率が、波長が大きくなるに従って線形的に大きくなっているためである。
【0025】
強度比算出部202は、第1~第M励起光毎に取得された第1蛍光画像及び第2蛍光画像を対象にして、第1蛍光画像の画素の強度値、及び、当該画素に対応する第2蛍光画像の画素の強度値の比である強度比を算出し、第1~第M励起光毎の強度比を算出する。ここで、第m励起光(mは1以上M以下の整数)に対して、第1蛍光画像の第n画素(nは1以上N以下の整数)における強度値、及び、第2蛍光画像の第n画素における強度値の比である強度比をRmnとすると、強度比算出部202は、測定された強度値に基づき、強度比Rmnを算出する。第1実施形態では、強度比は、第2蛍光画像の画素の強度値に対する第1蛍光画像の画素の強度値の比である。強度比は、第1蛍光画像の画素の強度値に対する第2蛍光画像の画素の強度値の比であってもよい。
【0026】
図6を参照しつつ、一例として第1励起光に対する第1画素における強度比R11、及び、第2励起光に対する第1画素における強度比R21の特徴を説明する。図6においては、一例として1種類の第1色素に対して第1励起光及び第2励起光を照射した場合を想定している。
【0027】
図6の(a)部には、第1色素の吸収スペクトルASに対して、第1励起光及び第2励起光の励起光スペクトルES1,ES2が模式的に示されている。図6の(b)部には、第1色素の蛍光スペクトルFSに対して、蛍光フィルタ部3aの透過波長域における透過率T1、及び、透過率T1を加味した第1傾斜フィルタ13の透過率T2が模式的に示されている。ここで、波長をλ、吸収スペクトルASをfAS(λ)、励起光スペクトルES1をfES1(λ)、励起光スペクトルES2をfES2(λ)、蛍光スペクトルFSをfFS(λ)、透過率T1をST1(λ)、透過率T2をST2(λ)とすると、第1励起光を照射した際に、第1光学状態において取得される第1画素の強度値I11は、下記式(1)のように算出することができる。一方、第1励起光を照射した際に、第2光学状態において取得される第1画素の強度値I12は、下記式(2)のように算出することができる。
【0028】
【数1】
【0029】
第2励起光を照射した際に、第1光学状態において取得される第1画素の強度値I21は、下記式(3)のように算出することができる。一方、第2励起光を照射した際に、第2光学状態において取得される第1画素の強度値I22は、下記式(4)のように算出することができる。
【0030】
【数2】
【0031】
上記式(1)及び(2)から、第1励起光に対応する第1画素における強度比R11は下記式(5)のように算出される。上記式(3)及び(4)から、第2励起光に対応する第1画素における強度比R21は下記式(6)のように算出される。
【0032】
【数3】
【0033】
上記式(5)では、分母及び分子に共通している第1励起光に依存する値である∫fAS(λ)fES1(λ)dλがキャンセルされるため、強度比R11は第1励起光に依存しない。同様に、強度比R21は第2励起光に依存しない。このため、上記式(5)及び(6)に示されるように、強度比R11及び強度比R21が同じ値となっている。ただし、強度比R11及び強度比R21は、実際には測定された強度値に基づいて算出されるため、測定誤差等の影響により強度比R11及び強度比R21が必ずしも同じ値になるとは限らないことに留意されたい。
【0034】
ここで、第1画素が第1色素に加えて第2色素からの蛍光が混ざって反映される画素である場合、第1励起光に対応する第1画素における強度比R’11、及び、第2励起光に対応する第1画素における強度比R’21について説明する。第2色素の吸収スペクトルをf’AS(λ)、第2色素の蛍光スペクトルをf’FS(λ)とする。強度比R’11及びR’21は下記式(7)及び(8)のように算出される。
【0035】
【数4】
【0036】
上記式(7)では、分母及び分子における第1励起光に依存する値がキャンセルされないため、強度比R’11は第1励起光に依存している。同様に、強度比R’21は第2励起光に依存している。すなわち、強度比R’11及び強度比R’21が同じ値とはならない。
【0037】
上述した強度比の特徴について説明する。図7は、第1画素が第1色素からの蛍光が反映される場合の強度比RX1、第1画素が第2色素からの蛍光が反映される場合の強度比RX2、及び、第1画素が第1色素と第2色素とからの蛍光が混ざって反映される場合の強度比RX3を模式的に示すグラフである。図7では、第1~第3励起光毎の強度比が示されている。図7に示されるように、強度比RX1及び強度比RX2は励起光毎に同じ値となっているのに対し、強度比RX3は励起光毎に異なった値となっている。さらに、図7に示されるように、強度比RX1及び強度比RX2は、互いに異なった値となっている。これは、上記式(5)及び(6)に示されるように、透過率T1を加味した第1傾斜フィルタ13の透過率T2(すなわち、ST2)が波長λに依存した値であるからであり、また、蛍光フィルタ部3aの透過波長域における透過率T1(すなわち、ST1)が波長λに依存した値であるからである。仮に、ST1及びST2が波長λに依存せず定数である場合、強度比は定数となり、強度比RX1及び強度比RX2は、同じ値となる。後述する単色画素判別部203では、このような強度比の特徴に基づき、画素が単色画素であるかを判別できる。
【0038】
単色画素判別部203は、第1~第M励起光毎の強度比に基づき、各画素が単色画素であるかを判別する。単色画素判別部203は、第1~第N画素のそれぞれにおいて第1~第M励起光毎の強度比のばらつきの指標であるV~Vのそれぞれを算出し、当該指標に基づき各画素が単色であるかを判別する。以下では、単色画素判別部203による第1画素における指標Vの算出方法を説明する。単色画素判別部203は、指標Vと同様に、指標V~Vを算出する。
【0039】
単色画素判別部203は、一例として、指標Vを下記式(9)により算出する。ここで、Rave1は、第1画素における第1~第M励起光の強度比R11~RM1の平均値である。この場合、単色画素判別部203は、指標Vを容易に算出することができる。Rave1は、例えば下記式(10)もしくは(11)により算出される。ここで、y1iは、第i励起光を照射した際の第1光学状態おける第1画素の強度、y2iは、第i励起光を照射した際の第2光学状態おける第1画素の強度である。Rave1は下記式(10)及び(11)に限られず、Rave1は重み付き平均或いはR11~RM1の中間値であってもよい。
【0040】
【数5】
【0041】
あるいは、単色画素判別部203は、指標Vを下記式(12)により算出する。ここで、σi1はRi1のノイズである。例えば、ノイズσi1は、第1カメラ15がCMOS(Complementary Metal-Oxide Semiconductor)カメラである場合、下記式(13)により算出される。ここで、y’1iは、y1iを電子数に変換した際の強度、y’2iは、y2iを電子数に変換した際の強度、εは、CMOSカメラの読み出しノイズである。なお、ショットノイズが支配的であれば、読み出しノイズεを無視することができる。下記式(12)の場合、単色画素判別部203は、自由度M-1のカイ二乗分布に従うため、試料Sによらずに後述する閾値を設定することができる。
【0042】
【数6】
【0043】
あるいは、単色画素判別部203は、指標Vを下記式(14)により算出する。ここで、pは1以上の定数であり、wは第i励起光に対応した重みであり、RFは、例えば、Rave1、色素リファレンス情報から算出した強度比、複数の画素から求めた強度比の統計値である。RFは、励起光ごとの測定条件やノイズ、背景光の影響等を考慮して励起光ごとに変えてもよい。あるいは、任意の値でもよい。下記式(14)において、Ri1をRi1に関する関数G(Ri1)に置き換えてもよい。
【0044】
【数7】
【0045】
指標V~Vは上記式(9)~(14)の指標に限定されず、強度比のばらつきを評価できるものであれば、上記式(9)~(14)以外の指標であってもよい。
【0046】
単色画素判別部203は、上述のように算出した指標V~Vに基づき、第1~第N画素のそれぞれが単色画素であるか判別する。単色画素判別部203は、一例として、ばらつきの指標が閾値以下である画素を単色画素と判別し、ばらつきの指標が閾値より大きい画素を単色画素ではないと判別する。閾値は、ユーザによって予め設定された値であってもよく、単色画素判別部203により決定されてもよい。なお、単色画素判別部203により閾値が決定される場合は、単色画素判別部203により自動的に決定される場合に限らず、ユーザから入力されたパラメータに応じて単色画素判別部203が閾値を決定してもよい。
【0047】
クラスタリング部204は、単色画素判別部203によって単色画素であると判別された複数の画素(以下、「複数の単色画素」と記す。)を対象にクラスタリングを実行する。クラスタリングの処理に先立って、クラスタリング部204は、C個(Cは2以上の整数)の波長分布の励起光のそれぞれを試料に照射することで取得されるC個の蛍光画像であって、それぞれがN個の画素によって構成されるC個の蛍光画像のそれぞれを構成するN個の画素の蛍光強度の値を並列に一次元に配列した行列データYを生成する。C個の蛍光画像は、第1~第M励起光を照射することで画像取得装置3により取得されたM個の第1蛍光画像及びM個の第2蛍光画像をまとめたものであってもよいし、M個の第2蛍光画像であってもよい。もしくは、第1~第M励起光とは別にC個の励起光を照射し、第2光学状態において撮像されたC個の蛍光画像であってもよい。
【0048】
クラスタリング部204は、一例として、複数の単色画素のそれぞれの強度比の平均値を基に、複数の単色画素を、L個(Lは2以上N-1以下の整数)の画素群にクラスタリングする。ここで、クラスタリングする画素群の数Lは、例えば試料Sに存在しうる色素の種類の数に対応させて、画像処理装置4内に記憶されるパラメータとして予め設定される。画素群の数Lは、励起光の種類や励起光の波長分布の数Cに応じて決められてもよいし、励起光の種類や励起光の波長分布の数Cとは無関係に決められてもよい。同色の単色画素同士の強度比の平均値は、同じ、あるいは互いに近い値である。クラスタリング部204は、複数の単色画素毎の強度比の平均値の間の距離(値の近さ)を判断することにより、複数の単色画素をL個の画素群にクラスタリングする。クラスタリング部204は、C個の蛍光画像の画素の蛍光強度の値を一次元に並列に配列した行列データYを、L個の画素群毎のクラスタ行列に分割して再生成する。複数の単色画素のそれぞれの強度比の平均値は、例えば単純平均、重み付き平均である。当該平均値は、他の演算方法を用いて算出されてもよい。クラスタリング部204は、複数の単色画素のそれぞれの強度比の中間値を基に、クラスタリングしてもよい。クラスタリング部204は、複数の単色画素のそれぞれのC個の励起光ごとの強度に基づいて、クラスタリングしてもよい。
【0049】
図8には、クラスタリング部204によってクラスタリングされた画素群のイメージが示されている。図8に示すように、試料Sに含まれる色素が、色素C、色素C、色素Cの3種類であり、クラスタリング部204は、複数の単色画素を3個の画素群PGr~PGrにクラスタリングする。
【0050】
統計値計算部205は、試料Sを対象にして得られたL個のクラスタ行列を基に、C個の蛍光画像からK個(Kは2以上C以下の整数)の色素のそれぞれの分布を示すK個の色素画像を生成するためのミキシング行列Aを求める。一般に、非負値行列因子分解(NMF)の演算方式によれば、観測値行列である行列データYと、K個の色素画像を画素毎に一次元に並列に配列した色素行列データXとの関係は、ミキシング行列Aを用いて、下記式;
Y=AX
で表わされる。ここで、Yは、C行N列の行列データであり、Aは、C行K列の行列データであり、Xは、K行N列の行列データである。逆に、ミキシング行列Aの値が求まれば、色素行列データXは、ミキシング行列Aの逆行列A-1と行列データYとを用いて、下記式;
X=A-1
によって導き出すことができる。この処理をアンミキシングと言う。
【0051】
ここで、統計値計算部205は、クラスタリング部204によって生成された行列データYを、クラスタリング部204によってクラスタリングされた画素群単位で圧縮することによって、行列データY’を再生成する。詳細には、統計値計算部205は、行列データYの各行の蛍光強度を対象に、クラスタリングされたクラスタ行列の画素群毎に統計値を計算し、各行の画素群を、計算した統計値を有する1つの画素に圧縮する。これにより、統計値計算部205は、C行L列の行列データである行列データY’を再生成する。統計値計算部205は、統計値として、蛍光強度の積算値に基づいた平均値を計算してもよいし、蛍光強度の最頻値を計算してもよいし、蛍光強度の中間値を計算してもよい。
【0052】
さらに、統計値計算部205は、再生した行列データY’、及び、色素行列データXから同様にして圧縮される色素行列データX’にも、ミキシング行列Aを含む下記式;
Y’=AX’
が成立する性質を利用して、行列データY’を基にミキシング行列Aを導出する。図9には、統計値計算部205によって再生成される行列データY’、及びそれに対応する色素行列データX’のイメージを示している。図9に図示される1つの升目は行列データの1つの要素を表している。このように、3つの画素群PGr~PGrに分割された色素行列データX及び行列データYは、画素群PGr~PGr毎の統計値を代表値として、3列の色素行列データX’及び行列データY’に圧縮されたデータである。
【0053】
統計値計算部205は、次のようにして、行列データY’を基にミキシング行列Aを導出する。すなわち、統計値計算部205は、ミキシング行列Aに初期値を設定し、ミキシング行列Aの値を順次変更しながら下記式(15)のロス関数(損失値)Losを計算し、ロス関数Losの値を低減させるようなミキシング行列Aを導出する。なお、このロス関数には、L1ノルムλ|A|(λは正則化項を重視する度合いを示す係数)等の正則化項が追加されてもよい。
【0054】
【数8】

上記式(15)中、jは行列データの行の位置(励起光の波長帯に対応)を示すパラメータであり、行列の添え字1jは、1番目のクラスタ行列のj番目の行の行列データを示し、行列の添え字2jは、2番目のクラスタ行列のj番目の行の行列データを示し、行列の添え字3jは、3番目のクラスタ行列のj番目の行の行列データを示す。また、パラメータa、b、cは、行列データY’の各列の統計値の平均値を示している。
【0055】
上記のように、統計値計算部205は、クラスタリング部204によって分割されたL個のクラスタ行列毎に、C個の行列データY’の統計値を参照してロス関数を計算し、L個のロス関数の和を基にロス関数Losを計算し、そのロス関数Losを基にミキシング行列Aを求める。この際、統計値計算部205は、L個のクラスタ行列毎に計算したロス関数を、C個の行列データY’の統計値の平均値a,b,cで除算することによって補正してから、補正したロス関数の和を計算することによってロス関数Losを求めている。なお、統計値計算部205は、L個のクラスタ行列毎のロス関数を、差分値Y’-AX’の励起光の波長帯毎の行成分を励起光の各波長帯に対応するC個の統計値を用いて除算して補正することによって、計算してもよい。
【0056】
あるいは、統計値計算部205は、次のようにミキシング行列Aを生成してもよい。統計値計算部205は、C個の蛍光画像のそれぞれについて、クラスタリングされたL個の画素群毎に上記統計値を計算し、そして計算された統計値をC個の蛍光画像ごとに並べてC行L列のミキシング行列Aを生成してもよい。すなわち、ミキシング行列Aは、行列データY’と同じであってもよい。この場合、クラスタ数と色素の数は等しくなり、ミキシング行列Aをより容易に生成することができる。
【0057】
画像生成部206は、観察対象の試料Sを対象にして得られたC個の蛍光画像に対して、統計値計算部205によって導出されたミキシング行列Aを用いてアンミキシングすることによって、K個の色素画像を取得する。具体的には、画像生成部206は、クラスタリング部204によってC個の蛍光画像を基に生成された行列データYに、ミキシング行列Aの逆行列A-1を適用することにより、色素行列データXを計算する。そして、画像生成部206は、色素行列データXからK個の色素画像を再生し、再生したK個の色素画像を出力する。このときの出力先は、ディスプレイ、タッチパネルディスプレイ等の画像処理装置4の出力デバイスであってもよいし、画像処理装置にデータ通信可能に接続された外部の装置であってもよい。
【0058】
次に、第1実施形態に係る蛍光画像取得システム1を用いた試料Sを対象にした観察処理の手順、すなわち、第1実施形態に係る蛍光画像取得方法の流れについて説明する。図10は、蛍光画像取得システム1による観察処理の手順を示すフローチャートである。
【0059】
まず、照射装置2によって、複数の波長分布の励起光のそれぞれが試料Sに照射される(ステップS1;照射ステップ)。次に、画像処理装置4の画像取得部201によって、複数の励起光のそれぞれに対応する複数の蛍光のそれぞれについて、蛍光フィルタ部3aを介して、第1光学状態における第1蛍光画像、及び、第1光学状態とは異なる波長特性で蛍光を測定する第2光学状態における第2蛍光画像が取得される(ステップS2;取得ステップ)。第1実施形態では、ステップS2は、第1光学状態において蛍光を撮像し、第1蛍光画像を取得する第1取得ステップと、第2光学状態において蛍光を撮像し、第2蛍光画像を取得する第2取得ステップと、を含んでいる。なお、ステップS1及びステップS2は交互に繰り返されてもよい。例えば、照射ステップにおいて第1励起光を照射し、第1取得ステップにおいて第1蛍光画像を取得した後、照射ステップに戻って第1励起光を照射し、第2取得ステップにおいて第2蛍光画像を取得してもよいし、この後さらに照射ステップに戻って第2励起光を照射してもよい。
【0060】
さらに、画像処理装置4の強度比算出部202によって、第1蛍光画像及び第2蛍光画像について、第1蛍光画像の画素の強度値、及び、当該画素に対応する第2蛍光画像の画素の強度値の比である強度比が算出され、複数の励起光毎の強度比が算出される(ステップS3;算出ステップ)。次に、画像処理装置4の単色画素判別部203によって、複数の励起光毎の強度比に基づき、画素が単色画素であるかが判別される(ステップS4;判別ステップ)。
【0061】
さらに、画像処理装置4のクラスタリング部204によって、C個の波長分布の励起光のそれぞれを試料に照射することで取得されるC個の蛍光画像であって、それぞれがN個の画素によって構成されるC個の蛍光画像を対象に、判別ステップによって単色画素であると判別された複数の画素が、L個の画素群にクラスタリングされる(ステップS5;クラスタリングステップ)。次に、画像処理装置4のクラスタリング部204によって、C個の蛍光画像のN個の画素を並列に配列した行列データYが生成される(ステップS6;クラスタリングステップ)。
【0062】
さらに、画像処理装置4の統計値計算部205により、L個の画素群の統計値を計算することにより、クラスタリング部204によって生成された行列データYを基に行列データY’が再生成される(ステップS7;計算ステップ)。次に、画像処理装置4の統計値計算部205により、行列データY’を基にミキシング行列Aが導出される(ステップS8;画像生成ステップ)。次に、画像処理装置4の画像生成部206により、試料Sを対象にしたC個の蛍光画像を基に生成された行列データYがミキシング行列Aを用いてアンミキシングされることにより、K個の色素画像が再生される(ステップS9;画像生成ステップ)。最後に、画像処理装置4の画像生成部206によって、再生されたK個の色素画像が出力される(ステップS10)。以上により、試料Sを対象にした観察処理が完了する。
【0063】
以上説明した第1実施形態に係る蛍光画像取得システム1によれば、複数の励起光のそれぞれに対応する複数の蛍光のそれぞれについて、第1光学状態における第1蛍光画像、及び、第1光学状態とは異なる波長特性で蛍光を測定する第2光学状態における第2蛍光画像が取得される。さらに、第1蛍光画像の画素の強度値、及び、第2蛍光画像の画素の強度値の比である強度比が算出され、複数の励起光毎の強度比が算出される。加えて、複数の励起光毎の強度比に基づき、画素が単色画素であるか判別される。これにより、複数の色素からの蛍光が混ざって反映される画素、及び、単一の色素からの単色の蛍光が反映される単色画素を含む蛍光画像においても、蛍光画像の複数の画素から単色画素を判別することができる。すなわち、蛍光画像における単色画素を判別することができる。
【0064】
上記作用効果を具体的に説明する。第1実施形態に係る蛍光画像取得システム1によれば、強度比算出部202により第n画素における強度値の比である強度比Rmnが算出される。第n画素が単色画素である場合、強度比R1n~RMnが同じ値、もしくは、第n画素が単色画素でない場合と比較して、強度比R1n~RMnが互いに近い値となる。このような特徴に基づき、単色画素判別部203が、強度比R1n~RMnに対してばらつきの指標を算出し、且つ、当該指標が閾値以下であるかを判定することにより、第n画素が単色画素であるか判別することができる。
【0065】
また、第1実施形態においては、取得ステップ(ステップS2)は、複数の蛍光のそれぞれについて、蛍光フィルタ部3aの各反射波長域又は各透過波長域において透過率が異なる第1光学フィルタ13を用いた第1光学状態において蛍光を撮像し、第1蛍光画像を取得する第1取得ステップと、複数の蛍光のそれぞれについて、第2光学状態において蛍光を撮像し、第2蛍光画像を取得する第2取得ステップと、を含んでいる。これにより、単色画素の判別の精度を向上させることができる。さらに、第1光学フィルタ13を用いることで複数の波長域間で複数の蛍光の透過特性あるいは反射特性を変えることができ、複数色の単色画像をさらに判別することができる。加えて、第1光学フィルタ13を用いることで容易に第1光学状態とすることができ、第1蛍光画像を容易に取得することができる。
【0066】
また、第1実施形態においては、第1光学フィルタ13は、各透過波長域にわたって透過率が単調に変化する第1傾斜フィルタ13である。第1傾斜フィルタ13を用いることで各透過波長域にわたって透過率を単調に変化させることができ、複数色の単色画像をさらに精度よく判別することができる。さらに、第1傾斜フィルタ13を用いることで容易に第1光学状態とすることができ、第1蛍光画像を容易に取得することができる。
【0067】
また、第1実施形態においては、第2取得ステップでは、第1光学フィルタ13を取り外した状態である第2光学状態において蛍光を撮像する。第1光学フィルタ13を取り外すことにより第2光学状態とすることができるため、より容易に第2光学状態とすることができる。よって、第2蛍光画像をより容易に取得することができる。
【0068】
また、第1実施形態においては、画像処理装置4は、C個(Cは2以上の整数)の波長分布の励起光のそれぞれを試料に照射することで取得されるC個の蛍光画像であって、それぞれがN個(Nは2以上の整数)の画素によって構成されるC個の蛍光画像を対象に、単色画素であると判別された複数の画素を、L個(Lは2以上N-1以下の整数)の画素群にクラスタリングし、C個の蛍光画像をクラスタリングした画素群毎に配列したL個のクラスタ行列を生成し、L個のクラスタ行列ごとにC個の蛍光画像を構成する画素群の強度値の統計値を計算し、L個のクラスタ行列ごとのC個の蛍光画像の統計値を用いて、C個の蛍光画像を対象にアンミキシングを行い、K個(Kは2以上C以下の整数)の色素毎の分布を示すK個の蛍光画像を生成する。この場合、単色画素であると判別された複数の画素が、L個の画素群にクラスタリングされ、C個の波長分布の励起光のそれぞれを試料に照射することで取得されるC個の蛍光画像をクラスタリングした画素群毎に配列したL個のクラスタ行列が生成される。加えて、L個のクラスタ行列ごとにC個の蛍光画像を構成する画素群の強度値の統計値が計算され、それぞれのC個の蛍光画像の統計値を用いてC個の蛍光画像がアンミキシングされてK個の蛍光画像が生成される。これにより、色素ごとの分離画像を精度よく得ることができる。
【0069】
上記作用効果を具体的に説明する。第1実施形態では、第1傾斜フィルタ13が波長λに依存した透過率を有しているため、同じ単色を示す単色画素同士の強度比は同じ値、もしくは互いに近い値となる。このような特徴に基づき、クラスタリング部204は、例えば複数の単色画素毎の強度比の平均値の間の距離(値の近さ)を判断することにより、複数の単色画素をL個の画素群にクラスタリングすることができる。複数の単色画素毎の強度比の平均値は、例えば単純平均、重み付き平均である。当該平均値は、他の演算方法を用いて算出されてもよい。クラスタリング部204は、複数の単色画素毎の強度比の中間値の間の距離を判断することにより、クラスタリングしてもよい。クラスタリング部204は、複数の単色画素毎のC個の励起光ごとの強度に基づいて、クラスタリングしてもよい。
【0070】
[第2実施形態]
本開示の第2実施形態について説明する。図11は、第2実施形態にかかる蛍光画像取得装置である蛍光画像取得システム1Aの概略構成図である。蛍光画像取得システム1Aでは、画像取得装置3Aの構成が、蛍光画像取得システム1の画像取得装置3の構成と異なる。画像取得装置3Aは、第1光学フィルタ13を含んでいない。画像取得装置3Aは、第1カメラ15と構成が異なる第1カメラ15Aを含んでいる。
【0071】
第1カメラ15Aは、試料Sからの蛍光を異なる波長特性で測定した少なくとも2つ以上の蛍光画像を取得するカメラである。第1カメラ15Aは、複数の蛍光のそれぞれを撮像し、少なくとも第1蛍光画像及び第2蛍光画像を含む複数の蛍光画像を取得することができる。第2実施形態では、このような第1カメラ15Aとして、例えばカラーカメラあるいはハイパースペクトルカメラを用いることができる。
【0072】
第1カメラ15Aとしてカラーカメラを用いた場合、複数の蛍光のそれぞれを1回撮像することにより、例えばRGB成分ごとに分離された複数の画像を取得することができる。一例として、カラーカメラは次のようにRGB成分ごとに分離された複数の画像を取得する。カラーカメラには、固体撮像素子上の各画素に対応して特定の色フィルタ、たとえば赤、緑、及び青の色フィルタが設けられている。赤色のフィルタが設けられた素子をR素子、緑色のフィルタが設けられた素子をG素子、青色のフィルタが設けられた素子をB素子、と記す。カラーカメラでは、R素子、G素子、及びB素子がモザイク状に並んでいる。B素子は、蛍光のB成分(青色成分)のみを取得し、B素子における蛍光のR成分(赤色成分)及びG成分(緑色成分)はベイヤー変換処理により補間される。同様の処理をR素子及びG素子でも行うことにより、カラーカメラはRGB成分ごとに分離された複数の画像を取得することができる。ベイヤー変換処理とは、周りの素子から足りない色を一定のアルゴリズムで補う処理のことをいう。画像取得部201は、RGB成分ごとに分離された複数の画像から、第1蛍光画像及び第2蛍光画像を取得することができる。以降の説明では、G成分の画像を第1蛍光画像、B成分の画像を第2蛍光画像とする。
【0073】
図12を参照しつつ、上記カラーカメラを用いた場合の各画素の強度比について説明する。図12は、蛍光スペクトルに対して、各フィルタの分光特性を模式的に示す図である。SC1は赤色フィルタの分光特性、SC2は緑色フィルタの分光特性、SC3は青色フィルタの分光特性である。第1励起光を試料Sに照射した際に、G成分の画像である第1蛍光画像の画素の強度IA11と、B成分の画像である第2蛍光画像の当該画素の強度IA12と、強度比RA11とが、例えば下記式(16)~(18)のように算出される。ここで、緑色フィルタの分光特性をS(λ)、青色フィルタの分光特性をS(λ)とする。第1実施形態と同様に、単色画素である場合、強度比が第1励起光に依存しない。このため、第2実施形態においても、複数の励起光毎の強度比を算出することにより、各画素が単色画素であるか判別することができる。なお、各画素の強度には、ベイヤー変換処理の際に生じる係数が掛かっていてもよい。当該係数は励起光に依存しないため、当該係数が掛かっている場合であっても、単色画素の強度比は励起光に依存しない。
【0074】
【数9】
【0075】
第1カメラ15Aとしてハイパースペクトルカメラを用いた場合、複数の蛍光のそれぞれを1回撮像することにより、異なる波長特性ごとに分離された複数の画像を取得することができる。一例として、ハイパースペクトルカメラは次のように異なる波長特性ごとに分離された複数の画像を取得する。ハイパースペクトルカメラでは、固体撮像素子上の各画素に様々な波長バンドのフィルタがモザイク状に構成されている。例えば、各画素では4×4=16個の波長バンドのフィルタが構成されており、各画素は16個の波長バンドの情報を持つ。これにより、ハイパースペクトルカメラは、例えば16個の異なる波長特性ごとに分離された複数の画像を取得することができる。画像取得部201は、異なる波長特性ごとに分離された複数の画像から、第1蛍光画像及び第2蛍光画像を取得する。以降の説明では、ハイパースペクトルカメラの16個の波長バンドのそれぞれが、一例として、465nm、474nm、485nm、496nm、510nm、522nm、534nm、546nm、548nm、562nm、578nm、586nm、600nm、608nm、624nm、630mの波長のそれぞれに対応するとし、474nmに対応する波長バンドのフィルタにより取得された画像を第1蛍光画像、630nmに対応する波長バンドのフィルタにより取得された画像を第2蛍光画像とする。
【0076】
図13を参照しつつ、上記ハイパースペクトルカメラを用いた場合の各画素の強度比について説明する。図13は、蛍光スペクトルに対して、各フィルタの分光特性を模式的に示す図である。SC4は474nmに対応する波長バンドのフィルタの分光特性、SC5は630nmに対応する波長バンドのフィルタの分光特性である。第1励起光を試料Sに照射した際に、第1蛍光画像の画素の強度IB11と、第2蛍光画像の当該画素の強度IB12と、強度比RB11とが、例えば下記式(19)~(21)のように算出される。ここで、474nmに対応する波長バンドのフィルタの分光特性をS474(λ)、630nmに対応する波長バンドのフィルタの分光特性をS630(λ)とする。第1実施形態と同様に、単色画素である場合、強度比が第1励起光に依存しない。このため、第2実施形態においても、複数の励起光毎の強度比を算出することにより、各画素が単色画素であるか判別することができる。
【0077】
【数10】
【0078】
あるいは、ハイパースペクトルカメラは、固体撮像素子上のフィルタにより蛍光を分光するのではなく、分光器により蛍光を分光してもよい。このようなハイパースペクトルカメラでは、例えば、レンズを介して蛍光を分光器に入射させることで、当該蛍光を複数の波長バンドに分光し、波長バンドごとの蛍光を撮像素子に受光させることにより、各画素が複数の波長バンドの情報を持つ。このようなハイパースペクトルカメラであっても、異なる波長特性ごとに分離された複数の画像を取得することができる。よって、画像取得部201は、異なる波長特性ごとに分離された複数の画像から、第1蛍光画像及び第2蛍光画像を取得することができる。
【0079】
上記の第2実施形態に係る蛍光画像取得システム1Aでも、画像取得装置3Aが複数の蛍光のそれぞれを撮像することにより、第1蛍光画像、及び、第2蛍光画像が取得される。したがって、蛍光画像取得システム1Aによっても、第1実施形態に係る蛍光画像取得システム1と同様の作用効果が奏される。さらに、複数の蛍光のそれぞれを1回撮像することにより、第1蛍光画像及び第2蛍光画像の双方を取得することができる。よって、第1蛍光画像及び第2蛍光画像を効率的に取得することができる。
【0080】
また、第2実施形態においては、画像取得装置3Aは、例えばカラーカメラを用いて複数の蛍光のそれぞれを撮像する。カラーカメラを用いて複数の蛍光のそれぞれを1回撮像することにより、例えばRGB成分ごとに分離された複数の画像を取得することができる。これら複数の画像から、第1蛍光画像及び第2蛍光画像を取得することができる。
【0081】
また、第2実施形態においては、画像取得装置3Aは、例えばハイパースペクトルカメラを用いて複数の蛍光のそれぞれを撮像する。ハイパースペクトルカメラを用いて複数の蛍光のそれぞれを1回撮像することにより、異なる波長特性ごとに分離された複数の画像を取得することができる。これら複数の画像から、第1蛍光画像及び第2蛍光画像を取得することができる。
【0082】
[第3実施形態]
本開示の第3実施形態について説明する。図14は、第3実施形態にかかる蛍光画像取得装置である蛍光画像取得システム1Bの概略構成図である。蛍光画像取得システム1Bの画像取得装置3Bは、蛍光画像取得システム1の画像取得装置3の構成に加えて、第2カメラ17をさらに備える。
【0083】
第2カメラ17は、例えば第1カメラ15と同じ構成を備えるカメラである。第2カメラ17は、第1傾斜フィルタ13が蛍光の光路上に設けられた際に、第1傾斜フィルタ13を反射する蛍光を撮像して第2蛍光画像を取得するカメラである。すなわち、蛍光画像取得システム1Bでは、第1傾斜フィルタ13を透過する蛍光を第1カメラ15により撮像して第1蛍光画像を取得し、第1傾斜フィルタ13を反射する蛍光を第2カメラ17により撮像して第2蛍光画像を取得する。
【0084】
上記の第3実施形態に係る蛍光画像取得システム1Bでも、第1傾斜フィルタ13を透過する蛍光を第1カメラ15により撮像し、第1傾斜フィルタ13を反射する蛍光を第2カメラ17により撮像することにより、第1蛍光画像、及び、第2蛍光画像が取得される。したがって、蛍光画像取得システム1Bによっても、第1実施形態に係る蛍光画像取得システム1と同様の作用効果が奏される。
【0085】
[第4実施形態]
本開示の第4実施形態について説明する。図15は、第4実施形態にかかる蛍光画像取得装置である蛍光画像取得システム1Cの概略構成図である。蛍光画像取得システム1Cの画像取得装置3Cは、蛍光画像取得システム1の画像取得装置3の構成に加えて、第2光学フィルタ19をさらに備える。画像取得装置3Cには、第1光学フィルタ13が蛍光フィルタ部3aからの蛍光の光路上に設けられている状態から、第2光学フィルタ19が蛍光フィルタ部3aからの蛍光の光路上に設けられている状態に切り替えるように、第1光学フィルタ13と第2光学フィルタ19とを切替可能とする切替機構(図示せず)が設けられる。
【0086】
第2光学フィルタ19は、第1光学フィルタ13とは異なる透過率を有し、蛍光フィルタ部3aの各反射波長域又は各透過波長域において透過率が異なるフィルタである。第4実施形態では、第2光学フィルタ19は、波長が大きくなるに従って透過率が線形的に小さくなるような透過率の波長特性を有する傾斜フィルタである。すなわち、第2光学フィルタ19の透過率は、蛍光フィルタ部3aの各透過波長域にわたって単調に減少している。以降の第4実施形態の説明では、このような傾斜フィルタである第2光学フィルタ19を第2傾斜フィルタ19とも記す。第2傾斜フィルタ19は、第1傾斜フィルタ13とは異なる透過率の変化を示す。第2光学フィルタ19は、波長が大きくなるに従って透過率が線形的に大きくなるような透過率の波長特性を有する傾斜フィルタであってもよい。第2光学フィルタ19は、蛍光フィルタ部3aの各反射波長域にわたって透過率が単調に変化する傾斜フィルタであってもよい。
【0087】
第1カメラ15は、第1傾斜フィルタ13が蛍光の光路上に設けられている際に、蛍光を撮像し、第1蛍光画像を取得する。また、第1カメラ15は、第2傾斜フィルタ19が蛍光の光路上に設けられている際に、蛍光を撮像し、第2蛍光画像を取得する。
【0088】
上記の第4実施形態に係る蛍光画像取得システム1Cでも、第1傾斜フィルタ13が蛍光の光路上に設けられている際に、蛍光を撮像し、第2傾斜フィルタ19が蛍光の光路上に設けられている際に、蛍光を撮像することにより、第1蛍光画像及び第2蛍光画像が取得される。したがって、蛍光画像取得システム1Cによっても、第1実施形態に係る蛍光画像取得システム1と同様の作用効果が奏される。
【0089】
また、第4実施形態においては、画像取得装置3Cは、第1傾斜フィルタ13とは異なる透過率の変化を示す第2傾斜フィルタ19を用いた第2光学状態において蛍光を撮像する。第2傾斜フィルタ19を用いることで各透過波長域にわたって透過率を単調に変化させることができ、複数色の単色画像をさらに精度よく判別することができる。さらに、第2傾斜フィルタ19を用いることで容易に第2光学状態とすることができ、第2蛍光画像を容易に取得することができる。
【0090】
また、第4実施形態においては、画像取得装置3Cは、第1光学フィルタ13とは異なる透過率を有する第2光学フィルタ19を用いた第2光学状態において蛍光を撮像する。第2光学フィルタ19を用いることで容易に第2光学状態とすることができ、第2蛍光画像を容易に取得することができる。
【0091】
[蛍光画像の生成例]
第1実施形態に係る蛍光画像取得システム1による蛍光画像の生成例を説明する。本生成例では、赤色の蛍光テープである試料S11,S21、橙色の蛍光テープである試料S12,S22、緑色の蛍光テープである試料S13,S23、青色の蛍光テープである試料S14,S24を準備し、これら蛍光テープをスライド上に十字状に配置した。図16の(a)部は、これら蛍光テープをモノクロカメラにより撮像して取得される蛍光画像である。図16の(b)部は、クラスタリング部204によってクラスタリングされた画素群のうち、青色の単色画素から構成される画素群を示している。図16の(b)部に示されるように、本生成例では、単色画素が精度よくクラスタリングされている。
【0092】
図17の(a)部は、画像生成部206によって生成される色素画像のうち青色の色素(試料S14,S24)からの蛍光画像を示し、図17の(b)部は、緑色の色素(試料S13,S23)からの蛍光画像を示し、図17の(c)部は、橙色の色素(試料S12,S22)からの蛍光画像を示し、図17の(d)部は、赤色の色素(試料S11,S21)からの蛍光画像を示している。図17の(a)部~(d)部に示されるように、本生成例では、各色素からの蛍光画像が精度よく生成されている。
【0093】
以上、本開示の種々の実施形態について説明したが、本開示は上記実施形態に限定されるものではなく、各請求項に記載した要旨を変更しない範囲で変形し、又は他のものに適用したものであってもよい。
【0094】
第2実施形態においては、第1カメラは、透過波長域或いは反射波長域を任意に切り替えられるフィルタを固体撮像素子上に設けていてもよい。このようなフィルタとして、バリアブルフィルタとバンドパスフィルタとの機能を備えたバリアブルバンドパスフィルタ、液晶チューナブルフィルタ、AOTF(Acousto-Optic Tunable Filter)が挙げられる。もしくは、第1カメラは、プリズム等の分光器によって蛍光を異なる波長特性ごとに分離してもよい。
【0095】
各実施形態に係る画像処理装置4は、クラスタリングされる前の行列データYを生成する際には、画像を構成するN個の画素を規定の規則で行方向に並べたデータとして生成してもよいし、ランダムな規則で行方向に並べたデータとして生成してもよい。ただし、1つの行列データYを構成するC行の蛍光画像のデータは同じ規則でN個の画素を並べたデータとして設定される。ランダムに配列することによって生成された行列データYを用いてもクラスタリングによって同じ行列データY’を再生成することができる。
【0096】
また、各実施形態に係る画像処理装置4は、クラスタリングされる前の行列データYを生成する際には、蛍光画像に含まれるバックグラウンド画素(色素の存在しない画素)は除外して生成してもよい。
【0097】
画像処理装置4における画素群のクラスタリングの手法としては、K-means法のような機械学習を用いた手法、ディープラーニングを用いた手法等が採用されてもよい。
【0098】
各実施形態に係る画像取得装置は、第1蛍光画像及び第2蛍光画像に加えて、第1光学状態及び第2光学状態とは異なる波長特性で蛍光を測定する第3光学状態、…、第Q光学状態(Qは3以上の整数)における第3蛍光画像、…、第Q蛍光画像を取得してもよい。第3~第Q光学状態では互いに異なる波長特性で蛍光が測定される。この場合、第1~第Q蛍光画像のうち2つの蛍光画像の組合せから励起光毎の強度比及びばらつきの指標を算出し、全ての組合せでのばらつきの指標の平均を算出して、単色画素であるか判別してもよい。
【0099】
また、上記第1、第3及び第4実施形態においては、取得ステップは、複数の蛍光のそれぞれについて、蛍光フィルタ部の各反射波長域又は各透過波長域において透過率が異なる第1光学フィルタを用いた第1光学状態において蛍光を撮像し、第1蛍光画像を取得する第1取得ステップと、複数の蛍光のそれぞれについて、第2光学状態において蛍光を撮像し、第2蛍光画像を取得する第2取得ステップと、を含む、ことが好適である。また、上記第1、第3及び第4実施形態においては、画像取得装置は、複数の蛍光のそれぞれについて、蛍光フィルタ部の各反射波長域又は各透過波長域において透過率が異なる第1光学フィルタを用いた第1光学状態において蛍光を撮像し、第1蛍光画像を取得し、複数の蛍光のそれぞれについて、第2光学状態において蛍光を撮像し、第2蛍光画像を取得する、ことが好適である。この場合、単色画素の判別の精度を向上させることができる。さらに、第1光学フィルタを用いることで複数の波長域間で複数の蛍光の透過特性あるいは反射特性を変えることができ、複数色の単色画素をさらに判別することができる。加えて、第1光学フィルタを用いることで容易に第1光学状態とすることができ、第1蛍光画像を容易に取得することができる。
【0100】
また、上記第1、第3及び第4実施形態においては、第1光学フィルタは、各反射波長域にわたって透過率が単調に変化する、又は、各透過波長域にわたって透過率が単調に変化する第1傾斜フィルタである、ことが好適である。この場合、第1傾斜フィルタを用いることで各反射波長域にわたって透過率、又は、各透過波長域にわたって透過率を単調に変化させることができ、複数色の単色画素をさらに精度よく判別することができる。さらに、第1傾斜フィルタを用いることで容易に第1光学状態とすることができ、第1蛍光画像を容易に取得することができる。
【0101】
また、上記第4実施形態においては、第2取得ステップでは、第1傾斜フィルタとは異なる透過率の変化を示す第2傾斜フィルタを用いた第2光学状態において蛍光を撮像する、ことが好適である。また、上記第4実施形態においては、画像取得装置は、第1傾斜フィルタとは異なる透過率の変化を示す第2傾斜フィルタを用いた第2光学状態において蛍光を撮像する、ことが好適である。この場合も、第2傾斜フィルタを用いることで各反射波長域にわたって透過率、又は、各透過波長域にわたって透過率を単調に変化させることができ、複数色の単色画像をさらに精度よく判別することができる。さらに、第2傾斜フィルタを用いることで容易に第2光学状態とすることができ、第2蛍光画像を容易に取得することができる。
【0102】
また、上記第4実施形態においては、第2取得ステップでは、第1光学フィルタとは異なる透過率を有する第2光学フィルタを用いた第2光学状態において蛍光を撮像する、ことが好適である。また、上記第4実施形態においては、画像取得装置は、第1光学フィルタとは異なる透過率を有する第2光学フィルタを用いた第2光学状態において蛍光を撮像する、ことが好適である。この場合、第2光学フィルタを用いることで容易に第2光学状態とすることができ、第2蛍光画像を容易に取得することができる。
【0103】
また、上記第1実施形態においては、第2取得ステップでは、第1光学フィルタを取り外した状態である第2光学状態において蛍光を撮像する、ことが好適である。また、上記第1実施形態においては、画像取得装置は、第1光学フィルタを取り外した状態である第2光学状態において蛍光を撮像する、ことが好適である。この場合、第1光学フィルタを取り外すことにより第2光学状態とすることができるため、より容易に第2光学状態とすることができる。よって、第2蛍光画像をより容易に取得することができる。
【0104】
また、上記第2実施形態においては、取得ステップでは、複数の蛍光のそれぞれを撮像し、第1蛍光画像、及び、第2蛍光画像を取得する、ことが好適である。また、上記第2実施形態においては、画像取得装置は、複数の蛍光のそれぞれを撮像し、第1蛍光画像、及び、第2蛍光画像を取得する、ことが好適である。この場合、複数の蛍光のそれぞれを1回撮像することにより、第1蛍光画像及び第2蛍光画像の双方を取得することができる。よって、第1蛍光画像及び第2蛍光画像を効率的に取得することができる。
【0105】
また、上記第2実施形態においては、取得ステップでは、カラーカメラを用いて複数の蛍光のそれぞれを撮像する、ことが好適である。また、上記第2実施形態においては、画像取得装置は、カラーカメラを用いて複数の蛍光のそれぞれを撮像する、ことが好適である。カラーカメラを用いて複数の蛍光のそれぞれを1回撮像することにより、例えばRGB成分ごとに分離された複数の画像を取得することができる。これら複数の画像から、第1蛍光画像及び第2蛍光画像を取得することができる。
【0106】
また、上記第2実施形態においては、取得ステップでは、ハイパースペクトルカメラを用いて複数の蛍光のそれぞれを撮像する、ことが好適である。また、上記第2実施形態においては、画像取得装置は、ハイパースペクトルカメラを用いて複数の蛍光のそれぞれを撮像する、ことが好適である。ハイパースペクトルカメラを用いて複数の蛍光のそれぞれを1回撮像することにより、異なる波長特性ごとに分離された複数の画像を取得することができる。これら複数の画像から、第1蛍光画像及び第2蛍光画像を取得することができる。
【0107】
また、上記第1~第4実施形態においては、C個(Cは2以上の整数)の波長分布の励起光のそれぞれを試料に照射することで取得されるC個の蛍光画像であって、それぞれがN個(Nは2以上の整数)の画素によって構成されるC個の蛍光画像を対象に、判別ステップによって単色画素であると判別された複数の画素を、L個(Lは2以上N-1以下の整数)の画素群にクラスタリングし、C個の蛍光画像をクラスタリングした画素群毎に配列したL個のクラスタ行列を生成するクラスタリングステップと、L個のクラスタ行列ごとにC個の蛍光画像を構成する画素群の強度値の統計値を計算する計算ステップと、L個のクラスタ行列ごとのC個の蛍光画像の統計値を用いて、C個の蛍光画像を対象にアンミキシングを行い、K個(Kは2以上C以下の整数)の色素毎の分布を示すK個の蛍光画像を生成する画像生成ステップと、をさらに備える、ことも好適である。また、上記第1~第4実施形態においては、画像処理装置は、C個(Cは2以上の整数)の波長分布の励起光のそれぞれを試料に照射することで取得されるC個の蛍光画像であって、それぞれがN個(Nは2以上の整数)の画素によって構成されるC個の蛍光画像を対象に、単色画素であると判別された複数の画素を、L個(Lは2以上N-1以下の整数)の画素群にクラスタリングし、C個の蛍光画像をクラスタリングした画素群毎に配列したL個のクラスタ行列を生成し、L個のクラスタ行列ごとにC個の蛍光画像を構成する画素群の強度値の統計値を計算し、L個のクラスタ行列ごとのC個の蛍光画像の統計値を用いて、C個の蛍光画像を対象にアンミキシングを行い、K個(Kは2以上C以下の整数)の色素毎の分布を示すK個の蛍光画像を生成する、ことも好適である。この場合、単色画素であると判別された複数の画素が、L個の画素群にクラスタリングされ、C個の波長分布の励起光のそれぞれを試料に照射することで取得されるC個の蛍光画像をクラスタリングした画素群毎に配列したL個のクラスタ行列が生成される。加えて、L個のクラスタ行列ごとにC個の蛍光画像を構成する画素群の強度値の統計値が計算され、それぞれのC個の蛍光画像の統計値を用いてC個の蛍光画像がアンミキシングされてK個の蛍光画像が生成される。これにより、色素ごとの分離画像を精度よく得ることができる。
【0108】
実施形態の蛍光画像取得方法は、[1]「複数の波長分布の励起光のそれぞれを試料に照射する照射ステップと、複数の励起光のそれぞれに対応する複数の蛍光のそれぞれについて、複数の反射波長域及び複数の透過波長域を有する蛍光フィルタ部を介して、第1光学状態における第1蛍光画像、及び、第1光学状態とは異なる波長特性で蛍光を測定する第2光学状態における第2蛍光画像を取得する取得ステップと、第1蛍光画像及び第2蛍光画像について、第1蛍光画像の画素の強度値、及び、画素に対応する第2蛍光画像の画素の強度値の比である強度比を算出し、複数の励起光毎の強度比を算出する算出ステップと、複数の励起光毎の強度比に基づき、画素が単色画素であるかを判別する判別ステップと、を備える、蛍光画像取得方法」である。
【0109】
実施形態の蛍光画像取得方法は、[2]「取得ステップは、複数の蛍光のそれぞれについて、蛍光フィルタ部の各反射波長域又は各透過波長域において透過率が異なる第1光学フィルタを用いた第1光学状態において蛍光を撮像し、第1蛍光画像を取得する第1取得ステップと、複数の蛍光のそれぞれについて、第2光学状態において蛍光を撮像し、第2蛍光画像を取得する第2取得ステップと、を含む、上記[1]に記載の蛍光画像取得方法」であってもよい。
【0110】
実施形態の蛍光画像取得方法は、[3]「第1光学フィルタは、各反射波長域にわたって透過率が単調に変化する、又は、各透過波長域にわたって透過率が単調に変化する第1傾斜フィルタである、上記[2]に記載の蛍光画像取得方法」であってもよい。
【0111】
実施形態の蛍光画像取得方法は、[4]「第2取得ステップでは、第1傾斜フィルタとは異なる透過率の変化を示す第2傾斜フィルタを用いた第2光学状態において蛍光を撮像する、上記[3]に記載の蛍光画像取得方法」であってもよい。
【0112】
実施形態の蛍光画像取得方法は、[5]「第2取得ステップでは、第1光学フィルタとは異なる透過率を有する第2光学フィルタを用いた第2光学状態において蛍光を撮像する、上記[2]又は[3]に記載の蛍光画像取得方法」であってもよい。
【0113】
実施形態の蛍光画像取得方法は、[6]「第2取得ステップでは、第1光学フィルタを取り外した状態である第2光学状態において蛍光を撮像する、上記[2]又は[3]に記載の蛍光画像取得方法」であってもよい。
【0114】
実施形態の蛍光画像取得方法は、[7]「取得ステップでは、複数の蛍光のそれぞれを撮像し、第1蛍光画像、及び、第2蛍光画像を取得する、上記[1]に記載の蛍光画像取得方法」であってもよい。
【0115】
実施形態の蛍光画像取得方法は、[8]「取得ステップでは、カラーカメラを用いて複数の蛍光のそれぞれを撮像する、上記[7]に記載の蛍光画像取得方法」であってもよい。
【0116】
実施形態の蛍光画像取得方法は、[9]「取得ステップでは、ハイパースペクトルカメラを用いて複数の蛍光のそれぞれを撮像する、上記[7]に記載の蛍光画像取得方法」であってもよい。
【0117】
実施形態の蛍光画像取得方法は、[10]「C個(Cは2以上の整数)の波長分布の励起光のそれぞれを試料に照射することで取得されるC個の蛍光画像であって、それぞれがN個(Nは2以上の整数)の画素によって構成されるC個の蛍光画像を対象に、判別ステップによって単色画素であると判別された複数の画素を、L個(Lは2以上N-1以下の整数)の画素群にクラスタリングし、C個の蛍光画像をクラスタリングした画素群毎に配列したL個のクラスタ行列を生成するクラスタリングステップと、L個のクラスタ行列ごとにC個の蛍光画像を構成する画素群の強度値の統計値を計算する計算ステップと、L個のクラスタ行列ごとのC個の蛍光画像の統計値を用いて、C個の蛍光画像を対象にアンミキシングを行い、K個(Kは2以上C以下の整数)の色素毎の分布を示すK個の蛍光画像を生成する画像生成ステップと、をさらに備える、上記[2]~[9]の何れかに記載の蛍光画像取得方法」であってもよい。
【0118】
実施形態の蛍光画像取得装置は、[11]「複数の波長分布の励起光のそれぞれを試料に照射する照射装置と、複数の励起光のそれぞれに対応する複数の蛍光のそれぞれについて、複数の反射波長域及び複数の透過波長域を有する蛍光フィルタ部を介して、第1光学状態における第1蛍光画像、及び、第1光学状態とは異なる波長特性で蛍光を測定する第2光学状態における第2蛍光画像を取得する画像取得装置と、複数の第1蛍光画像及び複数の第2蛍光画像を処理する画像処理装置と、を備え、画像処理装置は、第1蛍光画像及び第2蛍光画像について、第1蛍光画像の画素の強度値、及び、画素に対応する第2蛍光画像の画素の強度値の比である強度比を算出し、複数の励起光毎の強度比を算出し、複数の励起光毎の強度比に基づき、画素が単色画素であるかを判別する、蛍光画像取得装置」である。
【0119】
実施形態の蛍光画像取得装置は、[12]「画像取得装置は、複数の蛍光のそれぞれについて、蛍光フィルタ部の各反射波長域又は各透過波長域において透過率が異なる第1光学フィルタを用いた第1光学状態において蛍光を撮像し、第1蛍光画像を取得し、複数の蛍光のそれぞれについて、第2光学状態において蛍光を撮像し、第2蛍光画像を取得する、上記[11]に記載の蛍光画像取得装置」であってもよい。
【0120】
実施形態の蛍光画像取得装置は、[13]「第1光学フィルタは、各反射波長域にわたって透過率が単調に変化する、又は、各透過波長域にわたって透過率が単調に変化する第1傾斜フィルタである、上記[12]に記載の蛍光画像取得装置」であってもよい。
【0121】
実施形態の蛍光画像取得装置は、[14]「画像取得装置は、第1傾斜フィルタとは異なる透過率の変化を示す第2傾斜フィルタを用いた第2光学状態において蛍光を撮像する、上記[13]に記載の蛍光画像取得装置」であってもよい。
【0122】
実施形態の蛍光画像取得装置は、[15]「画像取得装置は、第1光学フィルタとは異なる透過率を有する第2光学フィルタを用いた第2光学状態において蛍光を撮像する、上記[12]又は[13]に記載の蛍光画像取得装置」であってもよい。
【0123】
実施形態の蛍光画像取得装置は、[16]「画像取得装置は、第1光学フィルタを取り外した状態である第2光学状態において蛍光を撮像する、上記[12]又は[13]に記載の蛍光画像取得装置」であってもよい。
【0124】
実施形態の蛍光画像取得装置は、[17]「画像取得装置は、複数の蛍光のそれぞれを撮像し、第1蛍光画像、及び、第2蛍光画像を取得する、上記[11]に記載の蛍光画像取得装置」であってもよい。
【0125】
実施形態の蛍光画像取得装置は、[18]「画像取得装置は、カラーカメラを用いて複数の蛍光のそれぞれを撮像する、上記[17]に記載の蛍光画像取得装置」であってもよい。
【0126】
実施形態の蛍光画像取得装置は、[19]「画像取得装置は、ハイパースペクトルカメラを用いて複数の蛍光のそれぞれを撮像する、上記[17]に記載の蛍光画像取得装置」であってもよい。
【0127】
実施形態の蛍光画像取得装置は、[20]「画像処理装置は、C個(Cは2以上の整数)の波長分布の励起光のそれぞれを試料に照射することで取得されるC個の蛍光画像であって、それぞれがN個(Nは2以上の整数)の画素によって構成されるC個の蛍光画像を対象に、単色画素であると判別された複数の画素を、L個(Lは2以上N-1以下の整数)の画素群にクラスタリングし、C個の蛍光画像をクラスタリングした画素群毎に配列したL個のクラスタ行列を生成し、L個のクラスタ行列ごとにC個の蛍光画像を構成する画素群の強度値の統計値を計算し、L個のクラスタ行列ごとのC個の蛍光画像の統計値を用いて、C個の蛍光画像を対象にアンミキシングを行い、K個(Kは2以上C以下の整数)の色素毎の分布を示すK個の蛍光画像を生成する、上記[12]~[19]の何れかに記載の蛍光画像取得装置」であってもよい。
【0128】
実施形態の蛍光画像取得プログラムは、「複数の波長分布の励起光のそれぞれを試料に照射することにより、複数の励起光のそれぞれに対応する複数の蛍光のそれぞれについて、複数の反射波長域及び複数の透過波長域を有する蛍光フィルタ部を介して取得される、第1光学状態における第1蛍光画像、及び、第1光学状態とは異なる波長特性で蛍光を測定する第2光学状態における第2蛍光画像を基に、画素が単色画素であるかを判別するための蛍光画像取得プログラムであって、コンピュータを、第1蛍光画像及び第2蛍光画像について、第1蛍光画像の画素の強度値、及び、画素に対応する第2蛍光画像の画素の強度値の比である強度比を算出し、複数の励起光毎の強度比を算出する強度比算出部、及び、複数の励起光毎の強度比に基づき、画素が単色画素であるかを判別する単色画素判別部、として機能させる蛍光画像取得プログラム」である。
【符号の説明】
【0129】
1,1A,1B,1C…蛍光画像取得システム、2…照射装置、2a…励起光源、2b…励起光フィルタ部、3,3A,3B,3C…画像取得装置、3a…蛍光フィルタ部、4…画像処理装置、11…ダイクロイックミラー、13…第1光学フィルタ(第1傾斜フィルタ)、15,15A…第1カメラ、17…第2カメラ、19…第2光学フィルタ(第2傾斜フィルタ)、201…画像取得部、202…強度比算出部、203…単色画素判別部、204…クラスタリング部、205…統計値計算部、206…画像生成部、C~C…色素、PGr~PGr…画素群、S,S11,S12,S13,S14,S21,S22,S23,S24…試料。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17