IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社ニコンの特許一覧

特許7375815細胞トラッキング方法、画像処理装置、及びプログラム
<>
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図1
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図2
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図3
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図4
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図5
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図6
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図7
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図8
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図9
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図10
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図11
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図12
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図13
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図14
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図15
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図16
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図17
  • 特許-細胞トラッキング方法、画像処理装置、及びプログラム 図18
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-10-30
(45)【発行日】2023-11-08
(54)【発明の名称】細胞トラッキング方法、画像処理装置、及びプログラム
(51)【国際特許分類】
   C12Q 1/02 20060101AFI20231031BHJP
   C12M 1/34 20060101ALI20231031BHJP
   G01N 33/483 20060101ALI20231031BHJP
   G06T 7/00 20170101ALI20231031BHJP
   G06T 7/254 20170101ALI20231031BHJP
【FI】
C12Q1/02
C12M1/34 D
G01N33/483 C
G06T7/00 630
G06T7/254 A
【請求項の数】 12
(21)【出願番号】P 2021516190
(86)(22)【出願日】2020-04-23
(86)【国際出願番号】 JP2020017426
(87)【国際公開番号】W WO2020218393
(87)【国際公開日】2020-10-29
【審査請求日】2021-10-22
(31)【優先権主張番号】P 2019085323
(32)【優先日】2019-04-26
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000004112
【氏名又は名称】株式会社ニコン
(74)【代理人】
【識別番号】100161207
【弁理士】
【氏名又は名称】西澤 和純
(74)【代理人】
【識別番号】100140774
【弁理士】
【氏名又は名称】大浪 一徳
(74)【代理人】
【識別番号】100175824
【弁理士】
【氏名又は名称】小林 淳一
(72)【発明者】
【氏名】市橋 徹
(72)【発明者】
【氏名】紀伊 宏昭
(72)【発明者】
【氏名】高崎 哲臣
(72)【発明者】
【氏名】魚住 孝之
(72)【発明者】
【氏名】山嵜 洋一
(72)【発明者】
【氏名】木根原 匡希
【審査官】上村 直子
(56)【参考文献】
【文献】特表2015-535593(JP,A)
【文献】特開2009-089630(JP,A)
【文献】特開2014-016666(JP,A)
【文献】特開2017-023055(JP,A)
【文献】米国特許出願公開第2018/0365841(US,A1)
【文献】国際公開第2019/069446(WO,A1)
【文献】特開2012-163538(JP,A)
【文献】特開2014-082957(JP,A)
【文献】2010 IEEE International Conference on Imaging Systems and Techniques,2010年,Accession No.11478414,<https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=5548533>
(58)【調査した分野】(Int.Cl.,DB名)
C12Q 1/02
C12M 1/34
G01N 33/483
G06T 7/00
G06T 7/254
JSTPlus/JMEDPlus/JST7580(JDreamIII)
(57)【特許請求の範囲】
【請求項1】
時系列に撮像された複数の細胞画像に基づき細胞のトラッキングを行う細胞トラッキング方法であって、
前記複数の細胞画像の各々につき、前記細胞画像の輝度情報に基づき前記細胞に対応する追跡領域を抽出する抽出工程と、
前記抽出工程で抽出された前記追跡領域の位置の時間変化を前記複数の細胞画像に基づいて算出し、前記時間変化に基づいて前記細胞をトラッキングするトラッキング工程と、
前記細胞画像に基づいて、前記追跡領域の前記輝度情報が示す輝度の状態が移動状態に対応する第1状態であるかまたは細胞分裂状態に対応する第2状態であるかを判定することによって、トラッキングの対象である前記細胞が移動状態であるかまたは細胞分裂状態にあるかを判定する判定工程と、
前記トラッキング工程で算出された前記時間変化と前記判定工程の判定結果とに基づき前記細胞のトラッキングの停止及び再開を制御しながら、前記細胞の移動状態を解析する解析工程と
を有し、
前記解析工程は、
前記判定工程で前記追跡領域の前記輝度情報が示す輝度の状態が前記第1状態であると判定されると、前記トラッキング工程で算出された前記時間変化に基づき前記細胞の移動状態を解析し、また、
前記判定工程で前記追跡領域の前記輝度情報が示す輝度の状態が前記第1状態から前記第2状態に変化したと判定されると、前記トラッキング工程での前記時間変化の算出を停止することによって前記細胞のトラッキングを停止し、また、
前記細胞のトラッキングを停止した後、前記判定工程で前記追跡領域の前記輝度情報が示す輝度の状態が前記第2状態から前記第1状態に変化したと判定されると、前記トラッキング工程での前記時間変化の算出を再開することによって前記細胞のトラッキングを再開し、再開した前記トラッキング工程で算出された前記時間変化に基づき前記細胞の移動状態を解析する
細胞トラッキング方法。
【請求項2】
前記判定工程にて前記追跡領域の前記輝度情報が示す輝度の状態が前記第2状態から前記第1状態に変化したと判定されると、前記抽出工程にて、前記複数の細胞画像から前記細胞のトラッキングを開始するために細胞分裂後の複数の細胞に対して新たな追跡領域を抽出し、
前記トラッキング工程にて、前記新たな追跡領域に対して、前記細胞分裂後の複数の細胞それぞれに新たなトラッキングを実行する
請求項1に記載の細胞トラッキング方法。
【請求項3】
さらに、前記解析工程にて、前記トラッキング工程にてトラッキングされた複数の細胞の解析結果として、基準となる培養条件における前記細胞の前記時間変化のデータ分布状況を比較することで前記細胞の遊走能を解析する
請求項2に記載の細胞トラッキング方法。
【請求項4】
前記抽出工程で抽出された前記追跡領域の重心位置、前記トラッキング工程の算出結果、前記判定工程の判定結果、及び前記解析工程の解析結果のいずれかを前記細胞のトラッキング情報として、前記細胞ごとに記憶させる記憶工程、
をさらに有する請求項1に記載の細胞トラッキング方法。
【請求項5】
さらに、前記解析工程にて、前記判定工程で前記細胞分裂状態にあると判定されると、前記細胞分裂状態の期間の前記時間変化に基づき前記細胞が分裂に要した分裂時間を計測する
請求項1に記載の細胞トラッキング方法。
【請求項6】
さらに、前記解析工程にて、前記判定工程で前記細胞分裂状態にあると判定された複数の細胞の解析結果として、基準となる培養条件における前記細胞の前記分裂時間のデータ分布状況を比較することで前記細胞の細胞周期を解析する
請求項5に記載の細胞トラッキング方法。
【請求項7】
前記抽出工程により抽出された前記追跡領域を識別するラベルを付与するラベル付与工程をさらに有し、
前記ラベル付与工程にて、前記トラッキングの対象である細胞の細胞分裂前後で異なる撮像時刻の前記細胞画像のフレーム間において、領域対応づけ処理により同一のラベルを前記追跡領域に付与する
請求項1に記載の細胞トラッキング方法。
【請求項8】
時系列に撮像された複数の細胞画像に基づき細胞のトラッキング処理を行う画像処理装置であって、
前記複数の細胞画像の各々につき、前記細胞画像の輝度情報に基づき前記細胞に対応する追跡領域を抽出する領域抽出部と、
前記領域抽出部で抽出された前記追跡領域の位置の時間変化を前記複数の細胞画像に基づいて算出し、前記時間変化に基づいて前記細胞をトラッキングする位置算出部と、
前記細胞画像に基づいて、前記追跡領域の前記輝度情報が示す輝度の状態が移動状態に対応する第1状態であるかまたは細胞分裂状態に対応する第2状態であるかを判定することによって、前記トラッキングの対象である細胞が移動状態であるかまたは細胞分裂状態にあるかを判定する状態判定部と、
前記位置算出部によって算出された前記時間変化と前記状態判定部の判定結果とに基づき前記細胞のトラッキングの停止及び再開を制御しながら、前記細胞の移動状態を解析する移動状態算出部と、
を備え、
前記移動状態算出部は、
前記状態判定部で前記追跡領域の前記輝度情報が示す輝度の状態が前記第1状態であると判定されると、前記位置算出部によって算出された前記時間変化に基づき前記細胞の移動状態を解析し、また、
前記状態判定部によって前記追跡領域の前記輝度情報が示す輝度の状態が前記第1状態から前記第2状態に変化したと判定されると、前記位置算出部による前記時間変化の算出を停止することによって前記細胞のトラッキングを停止し、また、
前記細胞のトラッキングを停止した後、前記状態判定部によって前記追跡領域の前記輝度情報が示す輝度の状態が前記第2状態から前記第1状態に変化したと判定されると、前記位置算出部による前記時間変化の算出を再開することによって前記細胞のトラッキングを再開し、再開した前記位置算出部によって算出された前記時間変化に基づき前記細胞の移動状態を解析する
画像処理装置。
【請求項9】
前記状態判定部にて前記追跡領域の前記輝度情報が示す輝度の状態が前記第2状態から前記第1状態に変化したと判定されると、前記領域抽出部にて、前記複数の細胞画像から前記細胞のトラッキングを開始するために細胞分裂後の複数の細胞に対して新たな追跡領域を抽出し、
前記位置算出部にて、前記新たな追跡領域に対して、前記細胞分裂後の複数の細胞それぞれに新たなトラッキングを実行する
請求項8に記載の画像処理装置。
【請求項10】
前記領域抽出部により抽出された前記追跡領域を識別するラベルを付与するラベル付与部をさらに備え、
前記ラベル付与部は前記トラッキングの対象である細胞の細胞分裂前後で異なる撮像時刻のフレーム間での領域対応づけ処理により同一のラベルを前記追跡領域に付与する
請求項9に記載の画像処理装置。
【請求項11】
時系列に撮像された複数の細胞画像に基づき細胞のトラッキングを実行するコンピュータに、
前記複数の細胞画像の各々につき、前記細胞画像の輝度情報に基づき前記細胞に対応する追跡領域を抽出する抽出ステップと、
前記抽出ステップで抽出された前記追跡領域の位置の時間変化を前記複数の細胞画像に基づいて算出し、前記時間変化に基づいて前記細胞をトラッキングするトラッキングステップと、
前記細胞画像に基づいて、前記追跡領域の前記輝度情報が示す輝度の状態が移動状態に対応する第1状態であるかまたは細胞分裂状態に対応する第2状態であるかを判定することによって、前記トラッキングの対象である細胞が移動状態であるかまたは細胞分裂状態にあるか否かを判定する判定ステップと、
前記トラッキングステップで算出された前記時間変化と前記判定ステップの判定結果とに基づき前記細胞のトラッキングの停止及び再開を制御しながら、前記細胞の移動状態を解析する解析ステップと
を実行させるためのプログラムであって、
前記解析ステップは、
前記判定ステップで前記追跡領域の前記輝度情報が示す輝度の状態が前記第1状態であると判定されると、前記トラッキングステップで算出された前記時間変化に基づき前記細胞の移動状態を解析し、また、
前記判定ステップで前記追跡領域の前記輝度情報が示す輝度の状態が前記第1状態から前記第2状態に変化したと判定されると、前記トラッキングステップでの前記時間変化の算出を停止することによって前記細胞のトラッキングを停止し、また、
前記細胞のトラッキングを停止した後、前記判定ステップで前記追跡領域の前記輝度情報が示す輝度の状態が前記第2状態から前記第1状態に変化したと判定されると、前記トラッキングステップでの前記時間変化の算出を再開することによって前記細胞のトラッキングを再開し、再開した前記トラッキングステップで算出された前記時間変化に基づき前記細胞の移動状態を解析する
プログラム。
【請求項12】
前記判定ステップにて前記追跡領域の前記輝度情報が示す輝度の状態が前記第2状態から前記第1状態に変化したと判定されると、前記抽出ステップにて、前記複数の細胞画像から前記細胞のトラッキングを開始するために細胞分裂後の複数の細胞に対して新たな追跡領域を抽出し、
前記トラッキングステップにて、前記新たな追跡領域に対して、前記細胞分裂後の複数の細胞それぞれに新たなトラッキングを実行する
請求項11に記載のプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、細胞トラッキング方法、画像処理装置、及びプログラムに関する。
本願は、2019年4月26日に、日本に出願された特願2019-85323号に基づき優先権を主張し、その内容をここに援用する。
【背景技術】
【0002】
細胞が撮像された画像の画像解析において、撮像された細胞の位置を時刻毎に測定する細胞トラッキング技術が知られている(特許文献1)。例えば、細胞トラッキング技術において、分裂を伴う細胞のトラッキングをした場合、従来では細胞分裂後にどちらか一方の細胞にトラッキングが継続し、もう一方の細胞は新たにトラッキングが開始される場合があった。このような場合、細胞分裂時には重心移動が瞬時に生じるために、例えばトラッキングによる細胞の移動状態の解析等においてノイズとなり得る。細胞の移動状態の解析等の精度を高めることが求められている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2006-238802号公報
【発明の概要】
【0004】
本発明の一態様は、時系列に撮像された複数の細胞画像に基づき細胞のトラッキングを行う細胞トラッキング方法であって、前記複数の細胞画像の各々につき、前記細胞画像の輝度情報に基づき前記細胞に対応する追跡領域を抽出する抽出工程と、前記抽出工程で抽出された前記追跡領域の位置の時間変化を前記複数の細胞画像に基づいて算出し、前記時間変化に基づいて前記細胞をトラッキングするトラッキング工程と、前記細胞画像に基づいて、前記追跡領域の前記輝度情報が示す輝度の状態が移動状態に対応する第1状態であるかまたは細胞分裂状態に対応する第2状態であるかを判定することによって、トラッキングの対象である前記細胞が移動状態であるかまたは細胞分裂状態にあるかを判定する判定工程と、前記トラッキング工程で算出された前記時間変化と前記判定工程の判定結果とに基づき前記細胞のトラッキングの停止及び再開を制御しながら、前記細胞の移動状態を解析する解析工程とを有し、前記解析工程は、前記判定工程で前記追跡領域の前記輝度情報が示す輝度の状態が前記第1状態であると判定されると、前記トラッキング工程で算出された前記時間変化に基づき前記細胞の移動状態を解析し、また、前記判定工程で前記追跡領域の前記輝度情報が示す輝度の状態が前記第1状態から前記第2状態に変化したと判定されると、前記トラッキング工程での前記時間変化の算出を停止することによって前記細胞のトラッキングを停止し、また、前記細胞のトラッキングを停止した後、前記判定工程で前記追跡領域の前記輝度情報が示す輝度の状態が前記第2状態から前記第1状態に変化したと判定されると、前記トラッキング工程での前記時間変化の算出を再開することによって前記細胞のトラッキングを再開し、再開した前記トラッキング工程で算出された前記時間変化に基づき前記細胞の移動状態を解析する細胞トラッキング方法である。
【0005】
また、本発明の一態様は、時系列に撮像された複数の細胞画像に基づき細胞のトラッキング処理を行う画像処理装置であって、前記複数の細胞画像の各々につき、前記細胞画像の輝度情報に基づき前記細胞に対応する追跡領域を抽出する領域抽出部と、前記領域抽出部で抽出された前記追跡領域の位置の時間変化を前記複数の細胞画像に基づいて算出し、前記時間変化に基づいて前記細胞をトラッキングする位置算出部と、前記細胞画像に基づいて、前記追跡領域の前記輝度情報が示す輝度の状態が移動状態に対応する第1状態であるかまたは細胞分裂状態に対応する第2状態であるかを判定することによって、前記トラッキングの対象である細胞が移動状態であるかまたは細胞分裂状態にあるかを判定する状態判定部と、前記位置算出部によって算出された前記時間変化と前記状態判定部の判定結果とに基づき前記細胞のトラッキングの停止及び再開を制御しながら、前記細胞の移動状態を解析する移動状態算出部と、を備え、前記移動状態算出部は、前記状態判定部で前記追跡領域の前記輝度情報が示す輝度の状態が前記第1状態であると判定されると、前記位置算出部によって算出された前記時間変化に基づき前記細胞の移動状態を解析し、また、前記状態判定部によって前記追跡領域の前記輝度情報が示す輝度の状態が前記第1状態から前記第2状態に変化したと判定されると、前記位置算出部による前記時間変化の算出を停止することによって前記細胞のトラッキングを停止し、また、前記細胞のトラッキングを停止した後、前記状態判定部によって前記追跡領域の前記輝度情報が示す輝度の状態が前記第2状態から前記第1状態に変化したと判定されると、前記位置算出部による前記時間変化の算出を再開することによって前記細胞のトラッキングを再開し、再開した前記位置算出部によって算出された前記時間変化に基づき前記細胞の移動状態を解析する画像処理装置である。
【0006】
本発明の一態様は、時系列に撮像された複数の細胞画像に基づき細胞のトラッキングを実行するコンピュータに、前記複数の細胞画像の各々につき、前記細胞画像の輝度情報に基づき前記細胞に対応する追跡領域を抽出する抽出ステップと、前記抽出ステップで抽出された前記追跡領域の位置の時間変化を前記複数の細胞画像に基づいて算出し、前記時間変化に基づいて前記細胞をトラッキングするトラッキングステップと、前記細胞画像に基づいて、前記追跡領域の前記輝度情報が示す輝度の状態が移動状態に対応する第1状態であるかまたは細胞分裂状態に対応する第2状態であるかを判定することによって、前記トラッキングの対象である細胞が移動状態であるかまたは細胞分裂状態にあるか否かを判定する判定ステップと、前記トラッキングステップで算出された前記時間変化と前記判定ステップの判定結果とに基づき前記細胞のトラッキングの停止及び再開を制御しながら、前記細胞の移動状態を解析する解析ステップとを実行させるためのプログラムであって、前記解析ステップは、前記判定ステップで前記追跡領域の前記輝度情報が示す輝度の状態が前記第1状態であると判定されると、前記トラッキングステップで算出された前記時間変化に基づき前記細胞の移動状態を解析し、また、前記判定ステップで前記追跡領域の前記輝度情報が示す輝度の状態が前記第1状態から前記第2状態に変化したと判定されると、前記トラッキングステップでの前記時間変化の算出を停止することによって前記細胞のトラッキングを停止し、また、前記細胞のトラッキングを停止した後、前記判定ステップで前記追跡領域の前記輝度情報が示す輝度の状態が前記第2状態から前記第1状態に変化したと判定されると、前記トラッキングステップでの前記時間変化の算出を再開することによって前記細胞のトラッキングを再開し、再開した前記トラッキングステップで算出された前記時間変化に基づき前記細胞の移動状態を解析するプログラムである。
【図面の簡単な説明】
【0007】
図1】第1の実施形態に係る画像処理装置の構成の一例を示す図である。
図2】第1の実施形態に係る画像解析の画像の一例を示す図である。
図3図2に示した画像を分かりやすくするために、図2の画像を模式的に表した図である。
図4】第1の実施形態に係る細胞のトラッキングの一例を示す図である。
図5】第1の実施形態に係る画像処理の一例を示す図である。
図6】第1の実施形態に係る移動状態算出処理の一例を示す図である。
図7】第1の実施形態に係る細胞の移動速度のヒストグラムの一例を示す図である。
図8】第1の実施形態に係る移動速度が大きい細胞の割合の評価結果の一例を示す図である。
図9】第1の実施形態に係る細胞の移動速度のばらつきの評価結果の一例を示す図である。
図10】第2の実施形態に係る画像処理装置の構成の一例を示す図である。
図11】第2の実施形態に係る移動状態算出処理の一例を示す図である。
図12】第2の実施形態に係る浮遊時間の計測に用いられる画像の一例を示す図である。
図13】第2の実施形態に係る図12に示した画像を分かりやすくするために、図12の画像を模式的に表した図である。
図14】第2の実施形態に係る浮遊時間のヒストグラムの一例を示す図である。
図15】第3の実施形態に係る画像処理装置の構成の一例を示す図である。
図16】第3の実施形態に係る移動状態算出処理の一例を示す図である。
図17】第3の実施形態に係る領域対応づけ処理の一例を示す図である。
図18】従来の細胞のトラッキングの一例を示す図である。
【発明を実施するための形態】
【0008】
(第1の実施形態)
以下、図面を参照しながら第1の実施形態について詳しく説明する。図1は、本実施形態に係る画像処理装置1の構成の一例を示す図である。画像処理装置1は、複数の時刻(例、後述の時刻T1から時刻T7など)において細胞Cがそれぞれ検出された複数の画像である画像Pを、細胞Cのトラッキングによって解析する。細胞Cのトラッキングとは、一例として、特定の条件に基づいて画像Pにおいて細胞Cの軌跡を算出して得ることを含む。細胞Cは、一例として、接着細胞(例、間葉系幹細胞、神経細胞、上皮細胞など)である。なお、画像処理装置1による本実施形態におけるトラッキング処理は、1つの細胞Cに対して時間ごとに実行されてもよいし、複数の細胞C(例、第1の細胞、第2の細胞、第3の細胞など)に対して時間ごとに並列に実行されてもよい。
【0009】
本実施形態における自動培養観察装置200は、顕微鏡2と培養室(培養装置)20とを備える。顕微鏡2は光学顕微鏡であり、一例として、位相差顕微鏡である。顕微鏡2は、一例として、ダークコントラストにおいて位相差観察を行い、1以上の細胞を検出する。顕微鏡2は、検出した細胞を画像Pとして撮像する。培養室20は、容器に格納された細胞Cを培養するために、制御部等によって内部の温度や湿度が管理されたチャンバーを含む。また、本実施形態における自動培養観察装置200は、顕微鏡2と培養室20とが別々に配置されてもよいし、顕微鏡2が培養室20の内部に配置されてもよい。なお、本実施形態において、顕微鏡2は、培養室20と別体に分離した装置構成であってもよい。
画像Pは、一例として、複数のフレームからなる動画である。以下では、画像Pのi番目のフレームを画像Piなどということがある。なお、画像Pは、複数の撮影時刻において撮影されるタイムラプス画像であってもよい。
【0010】
画像処理装置1は、画像取得部10と、制御部11と、出力部12と、記憶部13とを備える。画像処理装置1は、例えばコンピュータである。なお、本実施形態では、一例として、画像処理装置1は、顕微鏡2とは独立して備えられる場合について説明するが、これに限らない。画像処理装置1は、顕微鏡2に一体となって備えられてもよい。
【0011】
画像取得部10は、顕微鏡2から出力される画像Pを受信して取得する。
制御部11は、追跡領域抽出部(領域抽出部)110と、位置算出部111と、状態判定部112と、停止制御部113と、移動状態算出部114とを備える。
【0012】
制御部11はCPU(Central Processing Unit)により実現され、追跡領域抽出部110と、位置算出部111と、状態判定部112と、停止制御部113と、移動状態算出部114とはそれぞれ、CPUがROM(Read Only Memory)からプログラムを読み込んで処理を実行することにより実現されるモジュールである。
【0013】
追跡領域抽出部110は、輝度情報を用いて、細胞が撮像された画像Pから細胞の領域R(例、領域R1、領域R2など)を抽出する。領域Rには、輝度情報が示す輝度の状態が第1状態Xである追跡領域TRと、輝度情報が示す輝度の状態が第2状態Yである追跡停止領域SRとの少なくとも1つが含まれる。ここで輝度情報とは、一例として、位相差顕微鏡における細胞の観察光の位相差に基づく輝度値であり、輝度情報が示す輝度の状態とは、一例として、この輝度値によって示される状態(例、値が大きい状態、値が小さい状態など)である。輝度情報は、輝度値以外の輝度を示す値であってもよく、例えば、コントラストや、輝度(例、明るさ)に変換される前の位相差であってもよい。例えば、画像Pの所定領域(例、領域R)は、画像Pを構成している全ての画素のうち1つの画素又は複数の画素によって規定されている。また、例えば、画像Pにおける所定領域(例、領域R)の輝度情報は、該複数の画素の各輝度値又は平均輝度値であってもよい。
【0014】
第1状態Xとは、一例として、画像Pにおける特定部分(例、追跡領域など)の輝度値が所定の値と比較(例、演算)して該所定の値より小さい状態である。本実施形態において、輝度値が所定の値より小さい第1状態Xである例は、ダークコントラストの場合の一例である。第1状態Xは、例えば、所定の値に対する該特定部分の輝度値が相対的に又は絶対的に低い状態を含む。所定の値としては、一例として、画像Pの1番目のフレームの背景BG(例、後述の背景BG1など)の輝度値や、予め設定された輝度値に関する閾値が用いられる。背景BGの輝度値は、背景BGの全体から取得された輝度値の平均値であってもよいし、背景BGの特定部分から取得された輝度値であってもよい。本実施形態では、所定の値として、画像Pの1番目のフレームの背景BGの全体から取得された輝度値の平均値が、画像Pに含まれる全てのフレームに共通して用いられる場合の一例について説明する。
【0015】
また、上記の通り、第1状態Xとは、一例として、ダークコントラストにおいてコントラストが所定の値より小さい状態を含む。コントラストとは、一例として、画像における、観察光の位相差に基づく輝度値の差、明暗の差、又は濃淡である。本実施形態では、第1状態Xは、一例として、位相差に基づく輝度値が画像Pの背景BGの輝度値よりも小さい状態である。また、追跡領域TRは、画像Pにおいてトラッキングの対象である細胞Cが撮像された領域を含む。
【0016】
追跡領域抽出部110は、輝度情報が示す輝度に基づいて領域Rを抽出する。追跡領域抽出部110は、領域Rとして例えば追跡領域TRを抽出する場合、まず、画像Pから輝度値が背景BGの輝度値より小さい画素を抽出する。追跡領域抽出部110は、抽出した画素に基づいて境界(エッジ)を検出する。追跡領域抽出部110は、検出した境界(エッジ)に基づいて、追跡領域TRの境界を示す連続する曲線を判定することによって追跡領域TRを抽出する。
【0017】
本実施形態における領域Rは、1つの細胞Cに対応する領域である。上述したように細胞Cとは、一例として、接着細胞であり、また、細胞Cは分裂時には浮遊細胞となる。輝度情報が示す輝度の状態が第1状態Xである追跡領域TRは、一例として接着細胞に対応する領域である。一方、輝度情報が示す輝度の状態が第2状態Yである追跡停止領域SRは、一例として浮遊細胞に対応する領域である。
【0018】
位置算出部111は、追跡領域抽出部110が抽出した追跡領域TRの位置の時間変化TCを画像Pの複数のフレームに基づいて算出する。位置算出部111は、追跡領域TRの代表点Gに基づいて追跡領域TRの位置を算出する。ここで代表点Gは、追跡領域TRに含まれる点のうち、追跡領域TRの画像Pにおける位置を代表して示す1点である。代表点Gは、一例として細胞を含む追跡領域TRの重心G1である。なお、点とは、画像Pの1画素を含む。
【0019】
状態判定部112は、追跡領域抽出部110が抽出した追跡領域TRの輝度情報が示す輝度の状態が第1状態Xとは異なる第2状態Yであること、つまりトラッキングの対象である追跡領域TRの輝度の状態が第1状態Xから第2状態Yへ変化したか、あるいは変化していないかを判定する。ここで第2状態Yとは、一例として、画像Pにおける特定部分(例、追跡領域など)の輝度値が所定の値より大きい状態である。本実施形態において、輝度値が所定の値より大きい第2状態Yである例は、ダークコントラストの場合の一例である。第2状態Yは、例えば、所定の値に対する該特定部分の輝度値が相対的に又は絶対的に高い状態を含む。また、第2状態Yとは、一例として、ダークコントラストにおいてコントラストが所定の値より大きい状態を含む。本実施形態では、第2状態Yとは、一例として、位相差に基づく輝度値が背景BGの輝度値よりも大きい状態である。
【0020】
停止制御部113は、状態判定部112の判定結果に基づいて位置算出部111に時間変化TCの算出を停止させる。この場合、例えば、停止制御部113は、追跡領域TRの輝度情報が示す輝度の状態が第2状態Yになったことを示す該判定結果に基づいて、位置算出部111に時間変化TCの算出を停止させる。また、ここで、輝度情報が示す輝度の状態が第2状態Yであると状態判定部112によって判定された領域を、追跡停止領域SRという。
【0021】
移動状態算出部114は、位置算出部111の算出結果と、状態判定部112の判定結果とに基づいて追跡領域TRの移動状態Mを算出する。ここで移動状態Mとは、追跡領域TRの移動度を含む。移動度には、一例として、追跡領域TRの代表点Gが移動した距離である移動距離、代表点Gの速度である移動速度、代表点Gの加速度である移動加速度、平均の移動速度、および平均の移動加速度などが含まれる。
このように、状態判定部112は、追跡領域TRにおける輝度値の大小関係を用いて輝度の状態(第1状態、第2状態など)を判定し、移動状態算出部114は、状態判定部112が判定した輝度の状態に基づいて追跡領域TRの移動状態Mを算出する。
【0022】
出力部12は、移動状態算出部114が算出した移動状態Mを解析結果Aに含めて提示部3に出力する。
記憶部13は、制御部11が処理に用いる各種の情報を記憶する。また、記憶部13は、上記した算出結果、判定結果、及び/又は移動状態Mを細胞ごとに記憶する。この場合、記憶部13は、記憶した細胞のトラッキング情報(例、位置算出部111の算出結果、状態判定部112の判定結果、及び/又は追跡領域TRの移動状態Mなど)を格納して管理されたデータベースである。
提示部3は、画像処理装置1から出力される解析結果Aを提示する。提示部3は、一例として、ディスプレイである。
【0023】
ここで図2から図4を参照し、画像処理装置1の細胞のトラッキング処理について説明する。
図2は、本実施形態に係る画像解析の画像Pの一例を示す図である。図3は、本実施形態に係る画像解析の一例であり、図2に示した画像を分かりやすくするために、図2の各図(例、図2(A)など)に対応させて、図2の画像を模式的に描画した図である。図2及び図3に示す画像P1から画像P7はそれぞれ、画像Pの時刻T1から時刻T7におけるフレームである。
【0024】
追跡領域抽出部110は、追跡領域TRとして追跡領域TR1を画像P1から抽出する。画像P1における追跡領域TR1の輝度値は、所定の値(閾値)として用いる画像P1における背景BG1(以後、背景BGともいう)の輝度値よりも小さく、追跡領域TR1の輝度は第1状態Xにある。位置算出部111は、追跡領域TR1の重心G1の時間変化TCとして、軌跡TC1を画像Pの複数のフレームに基づいて算出する。図3(A)では、軌跡TC1は、画像P1を含む時刻T1以前の画像Pの複数のフレームに基づいて算出されている。このように、位置算出部111は、追跡領域抽出部110によって特定された追跡領域TR1を、複数のフレーム(例、画像P1、時刻T1以前の画像など)を含む画像Pを用いて算出する。
【0025】
図3(B)の画像P2では、画像P1における追跡領域TR1が追跡領域TR2へと変化し、これに伴い重心G1は重心G2へと移動している。また、時間変化TCとして軌跡TC2が位置算出部111によって算出されている。
【0026】
図3(C)の画像P3では、画像P2における追跡領域TR2が、追跡領域TR3へと変化している。画像P3における追跡領域TR3の輝度値は、背景BGの輝度値よりも大きい。この場合、状態判定部112は、追跡領域TR3の輝度情報が示す輝度の状態を第2状態Yであると判定する。そして、停止制御部113は、追跡領域TR3の輝度情報が示す輝度の状態が第2状態Yであるとの判定結果に基づいて位置算出部111に時間変化TCの算出を停止させる。
【0027】
図3(D)から図3(G)の画像P4から画像P7における追跡領域TR4から追跡領域TR7は、それぞれ画像P3の追跡領域TR3が変化したものである。追跡領域TR4から追跡領域TR5の輝度値は、背景BGの輝度値よりも大きい。追跡領域TR4から追跡領域TR5は、ダークコントラストにおいては背景BGに比べて明るい領域として撮像されている。また、追跡領域TR6から追跡領域TR7の輝度値は、背景BGの輝度値よりも小さい。追跡領域TR6から追跡領域TR7は、ダークコントラストにおいては背景BGに比べて暗い領域として撮像されている。
【0028】
図4は、本実施形態に係る細胞Cのトラッキング処理の一例を示す図である。細胞C1と細胞C2とは、例えば図3における画像P1の追跡領域TR1と画像P2の追跡領域TR2とに相当し、細胞Cのトラッキングを開始した最初のフレームである1番目のフレームから2番目のフレームにおいてトラッキングが行われている。細胞C3は、例えば図3における画像P3の追跡領域TR3に相当し、細胞分裂の直前に浮遊している細胞である。ここで接着細胞の分裂時には浮遊細胞が出現する。浮遊している細胞は画像Pにおいて背景BGに比べて明るい領域として撮像される。本実施形態に係る細胞のトラッキング処理では、浮遊していると判定された細胞については、トラッキングが停止される。
【0029】
そして、細胞C41と細胞C42とは、例えば図3における画像P6の追跡領域TR6に相当し、細胞C3から分裂した細胞である。細胞C41と細胞C42とについて、それぞれ独立に新たに本実施形態のトラッキング処理が開始される。細胞C41と細胞C51とは、新たにトラッキング処理が開始されてから数えて1番目のフレームから2番目のフレームにおいてトラッキングが行われている。一方で、細胞C42と細胞C52とは、新たにトラッキング処理が開始されてから数えて1番目のフレームから2番目のフレームにおいてトラッキングが行われている。
本実施形態に係る細胞のトラッキング処理では、1つの細胞の移動の解析の精度を高めるために、細胞移動と細胞分裂とが区別される。
【0030】
ここで比較のために、図18を参照し、従来の細胞のトラッキング処理について説明する。図18は、従来の細胞のトラッキング処理の一例を示す図である。細胞C11、細胞C12、細胞C13、細胞C141、細胞C151、細胞C142、及び細胞C152は、それぞれ図4の細胞C1、細胞C2、細胞C3、細胞C41、細胞C51、細胞C42、及び細胞C52と同一の細胞である。
【0031】
図18に示す通り、従来の細胞のトラッキング処理では、細胞C11、細胞C12、細胞C13、細胞C141、及び細胞C151は、1番目のフレームから5番目のフレームにおいてトラッキングが行われている。従来の細胞のトラッキング処理では、分裂の直前に浮遊している細胞である細胞C13について、細胞移動の状態である細胞C11、及び細胞C12とは区別されずに継続的にトラッキングが行われている。
【0032】
さらに分裂後の細胞である細胞C141、及び細胞C151について、細胞C11、細胞C12、及び細胞C13から継続してトラッキングが行われている。また、分裂後の細胞である細胞C142、及び細胞C152について、新たにトラッキング処理が開始されている。
【0033】
上述したように、従来の細胞のトラッキング処理では、細胞移動と細胞分裂とが区別されておらず、細胞が分裂しているにもかかわらずトラッキングが継続したり、継続すべきトラッキングが途切れてしまったりしていた。トラッキングの結果が場合によって異なっており、解析条件が一律化できていなかった。
【0034】
次に図5及び図6を参照し、画像処理装置1の画像処理について説明する。図5は、本実施形態に係る画像処理の一例を示す図である。
ステップS10:画像取得部10は、顕微鏡2から出力される画像Pを取得する。画像取得部10は、取得した画像Pを制御部11に供給する。画像Pは、サンプル(例、細胞)の動画撮影又は静止画の連続撮影(例、タイムラプス撮影)によって得られる、1番目からn番目までのn枚のフレームからなるとする。
【0035】
ステップS20:制御部11は、移動状態算出処理を実行する。例えば、移動状態算出処理とは、画像Pに撮像されている細胞Cの移動状態Mを算出する処理である。
移動状態算出処理は画像Pの各フレーム(例、上記の1番目のフレーム、2番目のフレームなど)を単位として実行される。制御部11は、1回のステップS20の移動状態算出処理において1枚のフレームに対して移動状態算出処理を行う。制御部11は、初回のステップS20の移動状態算出処理においては、画像Pの1番目のフレームを処理の対象とする。
【0036】
以下の説明では、現在の移動状態算出処理において処理の対象となっているフレームをi番目のフレームという。現在の移動状態算出処理の直前の移動状態算出処理において処理の対象となっているフレームをi-1番目のフレームなどという。
【0037】
ここで図6を参照し、移動状態算出処理について説明する。図6は、本実施形態に係る移動状態算出処理の一例を示す図である。図6のステップS110からステップS160は、図5のステップS20として実行される。
【0038】
ステップS110:追跡領域抽出部110は、画像Pから輝度値が画像Pの背景BGの輝度値より小さい状態である領域Rを追跡領域TRとして抽出する。例えば、追跡領域抽出部110は、画像Pから輝度情報が示す輝度の状態が第1状態Xである追跡領域TRを抽出する。
【0039】
また、追跡領域抽出部110は、画像Pから輝度値が画像Pの背景BGの輝度値より大きい状態(第2状態Y)である領域を追跡停止領域SRとして抽出する。ここで追跡領域抽出部110は、1つの追跡領域TR、及び1つの追跡停止領域SRを抽出する。なお、追跡領域抽出部110は、上記した輝度値に基づき、複数の追跡領域TR、及び複数の追跡停止領域SRを抽出してもよい。
なお、追跡領域抽出部110は、画像Pから輝度値が背景BGの輝度値より大きい状態である領域Rまたは背景BGの輝度値より小さい状態である領域Rのいずれも画像Pに存在しない場合には、いずれの領域も抽出しなくてよい。
【0040】
画像Pはダークコントラストにおいて撮像された位相差画像であるため、追跡領域TRは背景BGよりも低い輝度をもつ領域であり、追跡停止領域SRは背景BGよりも高い輝度をもつ領域である。
【0041】
ステップS120:位置算出部111は、追跡領域抽出部110が抽出した追跡領域TRの代表点Gとして、追跡領域TRの重心G1を抽出する。追跡領域TRが複数ある場合、位置算出部111は、複数の追跡領域TRのそれぞれについて重心G1を抽出する。位置算出部111は、抽出した重心G1の位置を示す情報である重心位置情報GI1を記憶部13に記憶させる。
【0042】
なお、位置算出部111は、代表点Gとして重心G1の代わりに、代表点Gとして追跡領域TRから所定の基準に基づいて選択した点を抽出してもよい。所定の基準とは、一例として、追跡領域TRのうち輝度値が所定の値より大きい、または小さいことである。また、位置算出部111は、事前に決められた位置又はユーザからの入力指示等に基づいて、追跡領域TRの内側の領域の任意の1点を代表点Gとして抽出してもよい。
【0043】
ステップS130:位置算出部111は、ステップS120において抽出した追跡領域TRの重心G1の時間変化TCを画像Pの複数のフレームに基づいて算出する。位置算出部111は、重心G1の時間変化TCの一例として、重心G1の軌跡TC1を算出する。追跡領域TRが複数ある場合、位置算出部111は、複数の追跡領域TRのそれぞれについて、重心G1の時間変化TCを画像Pの複数のフレームに基づいて算出する。
【0044】
ここで現在のi番目のフレームにおいて抽出された重心G1を重心G1iとし、i-1番目のフレームにおいて抽出された重心G1を重心G1i-1とする。位置算出部111は、重心G1iと、重心G1i-1とを直線または曲線によって接続することによって重心G1の軌跡TC1を算出する。
つまり、位置算出部111は、追跡領域抽出部110が抽出した追跡領域TRの重心G1を画像Pの複数のフレームごとに算出することによって軌跡TC1を算出する。
【0045】
ステップS110において複数の追跡領域TRが抽出されている場合、位置算出部111は、現在のi番目のフレームにおいて抽出された複数の追跡領域TRiと、i-1番目のフレームにおいて抽出された複数の追跡領域TRi-1とを対応づける。以下、この対応づけの処理を、領域対応づけ処理という。
例えば、位置算出部111は、i-1番目のフレームにおいて抽出された複数の追跡領域TRi-1のうちk番目の追跡領域TRである追跡領域TRi-1,kとi番目のフレームにおいて抽出された複数の追跡領域TRiのうちj番目の追跡領域TRである追跡領域TRi,jとを、領域対応づけ処理によって対応づける。
【0046】
ここで領域対応づけ処理には、異なるフレーム間においてフレーム内の複数の領域を対応づける画像処理技術が用いられる。領域対応づけ処理では、一例として、異なるフレーム間において最も近くに位置する追跡領域TR同士(例、追跡領域TR間の距離が小さい領域同士)を対応づける。
位置算出部111は、i-1番目のフレームにおいて抽出された追跡領域TRi-1,kに対応する領域を、i番目のフレームにおいて抽出された追跡領域TRiのなかから選択する。位置算出部111は、この選択の処理をi-1番目のフレームにおいて抽出された追跡領域TRi-1の全てについて実行する。
【0047】
i番目のフレームにおいて抽出された複数の追跡領域TRiの数の方が、i-1番目のフレームにおいて抽出された複数の追跡領域TRi-1の数よりも多い場合、複数の追跡領域TRiのなかにはi-1番目のフレームにおいて抽出された複数の追跡領域TRi-1のいずれにも対応づけられない追跡領域TRiが存在する。この複数の追跡領域TRi-1のいずれにも対応づけられない追跡領域TRiを、追跡領域TRi、uとする。位置算出部111は、追跡領域TRi、uの軌跡TC1の始点を、追跡領域TRi、uの重心G1とする。
【0048】
追跡領域TR間の距離の算出には、例えば、追跡領域TRの位置が用いられる。領域対応づけ処理において、追跡領域TRの位置には、一例として、ステップS120において算出された重心G1が用いられる。
【0049】
ここでステップS130の処理を開始する前に、位置算出部111は、記憶部13から重心位置情報GI1を読み出し、読み出した重心位置情報GI1に基づいて、上述した軌跡TC1を算出する処理を行う。また、位置算出部111は、算出した軌跡TC1を記憶部13に記憶させる。
【0050】
ステップS140:状態判定部112は、追跡領域抽出部110が抽出した追跡領域TRの輝度値が画像Pの背景BGの輝度値より大きい状態であることを判定する。追跡領域TRが複数ある場合、状態判定部112は、追跡領域抽出部110が抽出した追跡領域TRの輝度値が画像Pの背景BGの輝度値より大きい状態であることを複数の追跡領域TR毎に判定する。
【0051】
ここで現在のi番目のフレームにおいて抽出された追跡領域TRを追跡領域TRiとする。現在のi番目のフレームにおいて抽出された追跡停止領域SRを追跡停止領域SRiとする。i-1番目のフレームにおいて抽出された追跡領域TRを追跡領域TRi-1とする。i-1番目のフレームにおいて抽出された追跡停止領域SRを追跡停止領域SRi-1とする。
【0052】
状態判定部112は、i番目のフレームにおいて抽出された追跡停止領域SRiと、i-1番目のフレームにおいて抽出された追跡領域TRi-1または追跡停止領域SRi-1とを、上述した領域対応づけ処理によって対応づける。ここで状態判定部112は、算出した軌跡TC1に基づいて追跡停止領域SRiと、追跡領域TRi-1または追跡停止領域SRi-1とを対応づける。
【0053】
状態判定部112は、例えば、追跡停止領域SRiの重心G1iの位置と、追跡領域TRi-1または追跡停止領域SRi-1の重心G1i-1の位置とが同じ軌跡TC1に含まれる場合、追跡停止領域SRiと、追跡領域TRi-1または追跡停止領域SRi-1とを対応づける。対応づけられた領域同士は、同じ細胞に対応している。
なお追跡停止領域SRの重心G1については、ステップS140において状態判定部112が位置算出部111に算出させる。
【0054】
状態判定部112は、i-1番目のフレームにおける追跡領域TRi-1と、i番目のフレームにおける追跡停止領域SRiとを対応づける場合、追跡領域TRi-1が追跡停止領域SRiに変化したと判定する。つまり、状態判定部112は、i-1番目のフレームにおける追跡領域TRi-1の輝度値が画像Pの背景BGの輝度値より大きい状態へi番目のフレームにおいて変化したと判定する。
【0055】
ステップS150:停止制御部113は、状態判定部112の判定結果に基づいて位置算出部111に時間変化TCの算出を停止させて、追跡している細胞Cのトラッキングを終了する。つまり、位置算出部111は、輝度情報が示す輝度の状態が画像Pの背景BGの輝度値より大きい状態である追跡領域TRについて時間変化TCの算出を停止する。
【0056】
なお、停止制御部113は、状態判定部112の判定結果と、以下の補助条件のいずれか1つ以上とを組み合わせた結果に基づいて位置算出部111に時間変化TCの算出を停止させてもよい。
1番目の補助条件は、一例として、追跡領域TRの面積が所定の値以下であることである。2番目の補助条件は、一例として、i番目のフレームにおける追跡領域TRiと、i-1番目のフレームにおける追跡領域TRi-1との画像Pにおける距離が所定の値以上であることである。3番目の補助条件は、一例として、軌跡TC1を算出するのに用いられたフレームの数が所定の値以下であることである。3番目の補助条件において、フレームの数についての所定の値は、一例として2フレームである。
【0057】
ステップS160:移動状態算出部114は、位置算出部111の算出結果に基づいて追跡領域TRの移動状態Mを算出する。ここで位置算出部111の算出結果は、状態判定部112の判定結果に基づいて停止制御部113によって時間変化TCの算出が停止させられるまでの結果であるため、状態判定部112の判定結果に基づいている。
移動状態算出部114は、移動状態Mとして、例えば、重心G1の移動距離、及び重心G1の移動速度を算出する。移動状態算出部114は、算出した移動状態Mを出力部12に供給する。
以上で制御部11は、細胞Cを含む追跡領域TRの移動状態算出処理を終了する。
【0058】
次に、図5に戻って画像処理装置1の画像処理の説明を続ける。
ステップS30:制御部11は、終了条件が満たされた否かを判定する。ここで終了条件とは、ステップS20の移動状態算出処理を繰り返すことを終了するための条件である。終了条件は、一例として、画像Pの所定の数のフレームに対して移動状態算出処理が実行されることである。所定の数とは、例えば、画像Pを構成する全てのフレームの枚数(n枚)である。所定の数は、画像Pを構成する全てのフレームの枚数未満の数であってもよい。
【0059】
制御部11は、終了条件が満たされたと判定する場合(ステップS30;YES)、ステップS40の処理を実行する。一方、制御部11は、終了条件が満たされていないと判定する場合(ステップS30;NO)、画像Pのフレームのうち移動状態算出処理の対象となるフレームを現在のフレームから次のフレームへと変更する。例えば、制御部11は、直前の移動状態算出処理においてi番目のフレームを処理の対象としていた場合、次回の処理の対象をi+1番目のフレームへと変更する。その後、制御部11は、ステップS20に戻って移動状態算出処理を再び実行する。
【0060】
ステップS40:出力部12は、追跡領域TRの代表点Gが移動した距離である移動距離、代表点Gの速度である移動速度、代表点Gの加速度である移動加速度、平均の移動速度、および平均の移動加速度などの少なくとも1つを含む解析結果Aを提示部3に出力する。ここで出力部12は、移動状態算出部114が算出した移動状態Mを解析結果Aに含めて提示部3に出力する。
以上で、画像処理装置1は、画像処理(移動状態算出処理)を終了する。
【0061】
上述したようにステップS30において終了条件が満たされていない場合、制御部11は、ステップS20に戻って移動状態算出処理を再び実行するため、ステップS110の追跡領域TRを抽出する処理と、ステップS130の時間変化TCを算出する処理とを再度実行する。
【0062】
つまり、追跡領域抽出部110は、停止制御部113が位置算出部111に時間変化TCの算出を停止させた後、画像Pの複数のフレームから第1状態Xである追跡領域TRを再度抽出する。位置算出部111は、停止制御部113が位置算出部111に時間変化TCの算出を停止させた後、追跡領域抽出部110が再度抽出した追跡領域TRの位置の時間変化TCを複数の画像Pに基づいて算出する。
【0063】
図6の移動状態算出処理では、位置算出部111は、輝度情報が示す輝度の状態が画像Pの背景BGの輝度値より大きい状態である追跡領域TRについて時間変化TCの算出を停止するため、位置算出部111によって算出される時間変化TCから、輝度情報が示す輝度の状態が画像Pの背景BGの輝度値より大きい状態である追跡領域TRの重心G1は除外されている。
つまり、位置算出部111は、追跡領域TRの輝度情報が示す輝度の状態が第2状態Yである場合の重心G1を除外して時間変化TCを算出する。本実施形態に係る画像処理装置1では、細胞Cの移動状態Mの解析において、移動状態算出処理によって細胞Cが移動していない状態の時間を除外できるため、細胞Cが移動していない状態の時間を除外しない場合に比べて細胞Cの移動状態Mの解析の精度を高めることができる。ここで細胞Cが移動していない状態とは、細胞Cが細胞分裂の直前に浮遊している状態を含む。
【0064】
ここで図7から図9を参照し、上記した画像処理装置1の画像処理を用いて画像Pに撮像された複数の細胞Cの移動速度が解析された場合の解析結果Aについて説明する。図7から図9では、解析結果Aの一例として、細胞Cの遊走能に関する指標を用いて、コーティング剤や培地に含まれる栄養因子などの培養環境が遊走能に与える影響が評価されている。
【0065】
図7は、本実施形態に係る細胞Cの移動速度のヒストグラムの一例を示す図である。図7では、解析結果Aとして、移動速度の複数の細胞Cについての分布がヒストグラムH1a、ヒストグラムH1b、及びヒストグラムH1cとして示されている。これのヒストグラムでは、移動速度毎に複数の細胞Cの数Zが示されている。
【0066】
図7(A)は、基準となる培養条件における複数の細胞Cの移動速度のヒストグラムH1aを示す。図7(B)は、基準となる培養条件から変更された第1の培養条件において培養された複数の細胞Cの移動速度のヒストグラムH1bを示す。図7(C)は、基準となる培養条件から変更された第2の培養条件において培養された複数の細胞Cの移動速度のヒストグラムH1cを示す。
【0067】
図8は、本実施形態に係る移動速度が大きい細胞Cの割合の評価結果の一例を示す図である。図8では、解析結果Aとして、図7のヒストグラムH1a、ヒストグラムH1b、及びヒストグラムH1cのそれぞれに対して、移動速度が所定の値(例、評価指標となる閾値)より大きい細胞Cの割合が、割合RAa、割合RAb、及び割合RAcとして示されている。
【0068】
図9は、本実施形態に係る細胞Cの移動速度のばらつきの評価結果の一例を示す図である。図9では、解析結果Aとして、図7のヒストグラムH1a、ヒストグラムH1b、及びヒストグラムH1cのそれぞれに対して、移動速度のばらつきDSa、ばらつきDSb、及びばらつきDScとして示されている。
【0069】
本実施形態においては、顕微鏡2が位相差画像である画像Pをダークコントラストにおいて撮像する場合の一例について説明したが、これに限らない。顕微鏡2は、画像Pをブライトコントラストにおいて撮像してもよい。画像Pがブライトコントラストにおいて撮像される場合、例えば、第1状態Xとは輝度値が所定の値より大きい状態であり、第2状態Yとは、輝度値が所定の値より小さい状態である。
【0070】
本実施形態においては、第1状態Xと第2状態Yとを判定するために1種類の所定の値(例、背景BGの輝度値)が用いられる場合の一例について説明したが、これに限らない。第1状態Xと第2状態Yとを判定するために2種類の所定の値が用いられてもよい。
2種類の所定の値が用いられる場合、ダークコントラストの一例では、第1状態Xとは、例えば、輝度値が第1の所定の値よりも小さい状態であり、第2状態Yとは、例えば、輝度値が第2の所定の値よりも大きい状態である。ここで第1の所定の値は、第2の所定の値よりも小さい。第1の所定の値は、例えば、背景BGの輝度値である。第2の所定の値は、例えば、ユーザ等によって予め設定された輝度値や事前の実験結果などに基づいて予め設定された輝度値である。
なお、2種類の所定の値が用いられる場合、領域Rの輝度値が第1の所定の値と第2の所定の値との中間の値である場合、領域Rは、例えば、第1状態Xと第2状態Yとのいずれの状態とも判定されないか、もしくは第1状態Xと判定される。
【0071】
本実施形態においては、第1状態Xや第2状態Yが判定される場合に輝度値の所定の値として、画像Pの1番目のフレームの背景BGの全体から取得された輝度値の平均値が、画像Pに含まれる全てのフレームに共通して用いられる場合の一例について説明したが、これに限らない。
上述したように、画像Pに含まれる全てのフレームに共通して用いられる所定の値として、背景BGの特定部分から取得された輝度値が用いられてもよい。また、画像Pに含まれる全てのフレームに共通して用いられる所定の値として、画像Pの1番目のフレーム以外のフレーム(例、1番目以外のi番目のフレームや最後のフレーム)の背景BGから取得される輝度値が用いられてもよい。画像Pに含まれる全てのフレームに共通して用いられる所定の値として、画像Pに含まれる1以上のフレームの背景BGから取得される輝度値の平均値が、画像Pに含まれる全てのフレームに共通して用いられてもよい。
また、画像Pに含まれる全てのフレームに共通して用いられる所定の値は、ユーザ等によって予め設定された値であってもよい。予め設定された値は、画像Pに基づかずに設定されてよいし、事前の実験結果などに基づいて設定されてもよい。
【0072】
また、所定の値は、画像Pに含まれるフレーム毎に異なっていてもよい。例えば、画像Pに含まれるフレーム毎に異なる所定の値は、画像Pの各フレームの背景BGから取得された輝度値がフレーム毎に用いられてもよい。また、例えば、画像Pに含まれるフレーム毎に異なる所定の値は、予め設定された複数の値がフレーム毎に用いられてもよい。
【0073】
以上に説明したように、本実施形態に係る画像処理装置1は、領域抽出部(この一例において、追跡領域抽出部110)と、位置算出部111と、状態判定部112と、移動状態算出部114とを備える。
領域抽出部(この一例において、追跡領域抽出部110)は、複数の時刻において細胞Cがそれぞれ検出された複数の画像(この一例において、画像Pの複数のフレーム)から輝度情報が示す輝度(この一例において、輝度値)の状態が第1状態X(この一例において、ダークコントラストにおいて輝度値が画像Pの背景BGの輝度値より小さい状態)である追跡領域TRを抽出する。
位置算出部111は、領域抽出部(この一例において、追跡領域抽出部110)が抽出した追跡領域TRの位置の時間変化TCを複数の画像(この一例において、画像Pの複数のフレーム)に基づいて算出する。
状態判定部112は、領域抽出部(この一例において、追跡領域抽出部110)が抽出した追跡領域TRの輝度情報が示す輝度(この一例において、輝度値)の状態が第1状態X(この一例において、ダークコントラストにおいて輝度値が画像Pの背景BGの輝度値より小さい状態)とは異なる第2状態Y(この一例において、ダークコントラストにおいて輝度値が画像Pの背景BGの輝度値より大きい状態)であることを判定する。
移動状態算出部114は、位置算出部111の算出結果と、状態判定部112の判定結果とに基づいて追跡領域TRの移動状態M(この一例において、移動速度)を算出する。ここで位置算出部111の算出結果とは、一例として、追跡領域TRの重心G1の時間変化TCが算出された結果を含む。また、状態判定部112の判定結果とは、一例として、追跡領域TRの輝度値が背景BGの輝度値より大きい状態であることが判定された結果を含む。
【0074】
この構成により、本実施形態に係る画像処理装置1は、細胞分裂の直前に単一の細胞が浮遊しているか否かの判定結果を用いて該単一の細胞のトラッキングを行うことによって細胞のトラッキングの精度を高めることができるため、細胞が細胞分裂の直前に浮遊しているか否かの判定結果に基づかない場合に比べて、細胞の移動状態Mの解析の精度を高めることができる。
【0075】
また、本実施形態に係る画像処理装置1では、位置算出部111は、領域抽出部(この一例において、追跡領域抽出部110)が抽出した追跡領域TRの位置(この一例において、重心G1)を複数の画像(この一例において、画像Pの複数のフレーム)ごとに算出することによって時間変化TCを算出する。
この構成により、本実施形態に係る画像処理装置1では、時間変化TCに基づいて細胞の移動状態Mの解析を実行できるため、時間変化TCに基づかない場合に比べて細胞の移動状態Mの解析の精度を高めることができる。
【0076】
また、本実施形態に係る画像処理装置1では、位置算出部111は、追跡領域TRの輝度情報が示す輝度(この一例において、輝度値)の状態が第2状態Y(この一例において、ダークコントラストにおいて輝度値が画像Pの背景BGの輝度値より大きい状態)である場合の追跡領域TRの位置(この一例において、重心G1)を除外して時間変化TCを算出する。
この構成により、本実施形態に係る画像処理装置1では、細胞分裂の直前に浮遊している細胞を移動状態Mの解析対象から除外してトラッキングができるため、細胞分裂の直前に浮遊している細胞を除外しない場合に比べて細胞の移動状態Mの解析の精度を高めることができる。
【0077】
細胞は細胞分裂時には細胞の重心の移動が瞬時に生じる。このため、トラッキング処理による遊走能解析において細胞分裂時の細胞に対してトラッキングを行ってしまうと、平均速度が過大評価されてしまうなどして、遊走能解析の解析結果に対するノイズとなり得る。また、上述したように、従来の細胞のトラッキング処理では、解析条件が一律化できておらず、遊走能解析の結果の数値にばらつきが生じる場合があった。
本実施形態に係る画像処理装置1では、トラッキング処理において細胞の移動距離と分裂とを区別することによって、遊走能解析の解析結果に対するノイズを除去できるため、細胞の移動状態Mの解析の精度を高めることができる。
【0078】
また、本実施形態に係る画像処理装置1では、移動状態Mとは追跡領域TRの移動度を含む。
この構成により、本実施形態に係る画像処理装置1では、追跡領域TRの移動度を算出できるため、細胞の移動度の解析の精度を、細胞が細胞分裂の直前に浮遊しているか否かの判定結果に基づかない場合に比べて高めることができる。
【0079】
また、本実施形態に係る画像処理装置1では、移動状態Mとは追跡領域TRの移動度(この一例において、移動速度)を含む。
この構成により、本実施形態に係る画像処理装置1では、画像Pに撮像された複数の細胞のトラッキングの精度を高めることができるため、細胞が細胞分裂の直前に浮遊しているか否かの判定結果に基づかない場合に比べて、複数の細胞の移動状態Mの解析の精度を高めることができる。
【0080】
また、例えば、本実施形態に係る画像処理装置1では、観察手法(例、位相差観察法、微分干渉観察法)が位相差観察法であり観察条件がダークコントラストの場合、第1状態Xとは輝度情報が示す輝度(この一例において、輝度値)が所定の値(この一例において、背景BGの輝度値)より小さい状態でありかつ第2状態Yとは輝度情報が示す輝度(この一例において、輝度値)が所定の値(この一例において、背景BGの輝度値)より大きい状態である。例えば、観察手法が位相差観察法であり観察条件がブライトコントラストの場合、第1状態Xとは輝度情報が示す輝度(この一例において、輝度値)が所定の値(この一例において、背景BGの輝度値)より大きい状態でありかつ第2状態Yとは輝度情報が示す輝度(この一例において、輝度値)が所定の値(この一例において、背景BGの輝度値)より小さい状態である。
この構成により、本実施形態に画像処理装置1では、輝度情報が示す輝度(この一例において、輝度値)と所定の値(この一例において、背景BGの輝度値)との大小に基づいて細胞のトラッキングができるため、輝度情報が示す輝度(この一例において、輝度値)と所定の値(この一例において、背景BGの輝度値)との大小に基づいて細胞のトラッキングを行わない場合に比べて、細胞の移動状態Mの解析の精度を高めることができる。
【0081】
また、本実施形態に係る画像処理装置1では、所定の値は画像Pの背景BGの輝度情報が示す輝度(この一例において、輝度値)を含む。
この構成により、本実施形態に係る画像処理装置1では、上述した画像処理の実行において、所定の値を設定する必要がない。複数の画像処理装置1を用いて上述した画像処理を実行させる場合に、複数の画像処理装置1毎に所定の値を設定しなくてもよいため複数の画像処理装置1間において、解析結果Aを共有したり統合したりする場合などに汎用性が向上する。
【0082】
また、本実施形態に係る画像処理装置1では、位置算出部111は追跡領域TRの代表点Gに基づいて追跡領域TRの位置を算出する。
この構成により、本実施形態に係る画像処理装置1では、追跡領域TRの代表点Gに基づいて細胞のトラッキングを実行できるため、代表点Gに基づかない場合に比べて細胞の移動状態Mの解析の精度を高めることができる。細胞のトラッキングを追跡領域TRの代表点Gに基づかず行う場合、例えば、フレーム毎に追跡領域TRの適当な点を選択して、選択した点に基づいて軌跡を算出することが考えられる。この場合、算出した軌跡は実際の細胞の軌跡よりも余計に細かく折れ曲がってしまう可能性がある。
【0083】
また、本実施形態に係る画像処理装置1では、代表点Gは追跡領域TRの重心G1である。
この構成により、本実施形態に係る画像処理装置1では、細胞の重心に基づいてトラッキング処理を実行できるため、細胞の重心に基づいて細胞の移動状態Mの解析ができる。
【0084】
また、本実施形態に係る画像処理装置1は、領域抽出部(この一例において、追跡領域抽出部110)と、位置算出部111と、状態判定部112と、停止制御部113とを備える。停止制御部113は、状態判定部112の判定結果に基づいて位置算出部111に時間変化TCの算出を停止させる。
この構成により、本実施形態に係る画像処理装置1では、追跡領域TRの輝度情報が示す輝度(この一例において、輝度値)の状態が第2状態Y(この一例において、ダークコントラストにおいて輝度値が画像Pの背景BGの輝度値より大きい状態)であるか否かの判定結果に基づいて、分裂している細胞のトラッキングを停止できるため、分裂している細胞のトラッキングを停止しない場合に比べて細胞の移動状態Mの解析の精度を高めることができる。
【0085】
また、本実施形態に係る画像処理装置1では、領域抽出部(この一例において、追跡領域抽出部110)は、停止制御部113が位置算出部111に時間変化TCの算出を停止させた後、複数の画像(この一例において、画像Pの複数のフレーム)から第1状態X(この一例において、ダークコントラストにおいて輝度値が画像Pの背景BGの輝度値より小さい状態)である追跡領域TRを再度抽出する。位置算出部111は、停止制御部113が位置算出部111に時間変化TCの算出を停止させた後、領域抽出部(この一例において、追跡領域抽出部110)が再度抽出した追跡領域TRの位置の時間変化TCを複数の画像(この一例において、画像Pの複数のフレーム)に基づいて算出する。
この構成により、本実施形態に係る画像処理装置1では、トラッキングを停止した細胞についてトラッキング処理を再開できるため、トラッキング処理を再開しない場合に比べて細胞の移動状態Mの解析の精度を高めることができる。また、上記した画像処理を用いる本実施形態に係る画像処理装置1は、細胞分裂後において第1状態Xである追跡領域TRを再度抽出することによって、分裂後の新たな細胞のトラッキングを開始できる。
【0086】
(第2の実施形態)
以下、図面を参照しながら第2の実施形態について詳しく説明する。
上記第1の実施形態では、画像処理装置が、第1状態である追跡領域の移動状態を算出する場合について説明をした。本実施形態では、画像処理装置が、追跡領域の輝度情報が示す輝度の状態が第2状態である時間を計測する場合について説明をする。
本実施形態に係る画像処理装置を画像処理装置1aという。
【0087】
図10は、本実施形態に係る画像処理装置1aの構成の一例を示す図である。本実施形態に係る画像処理装置1a(図10)と第1の実施形態に係る画像処理装置1(図1)とを比較すると、制御部11aが異なる。ここで、他の構成要素(画像取得部10、出力部12、及び記憶部13)が備える機能は第1の実施形態と同じである。第1の実施形態と同じ機能の説明は省略し、第2の実施形態では、第1の実施形態と異なる部分を中心に説明する。
【0088】
制御部11aは、追跡領域抽出部110と、位置算出部111と、状態判定部112と、停止制御部113と、移動状態算出部114と、分裂時間計測部(時間計測部)115aとを備える。追跡領域抽出部110、位置算出部111、状態判定部112、停止制御部113、及び移動状態算出部114が備える機能は第1の実施形態と同じである。
【0089】
分裂時間計測部115aは、状態判定部112の判定結果に基づいて浮遊時間TDを計測する。ここで浮遊時間TDとは、追跡領域TRの輝度情報が示す輝度の状態が第2状態Yである時間の長さを含む。分裂時間計測部115aは、一例として、第2状態Yと判定された画像Pのフレームの数によって浮遊時間TDを計測する。ここで、分裂時間計測部115aは、一例として、輝度値が高い追跡領域TRを含む画像Pのフレームの数を、フレームレート間隔に基づいて換算することによって浮遊時間TDを計測する。
【0090】
次に図11を参照し、浮遊時間TDの計測を伴う移動状態算出処理について説明する。図11は、本実施形態に係る移動状態算出処理の一例を示す図である。図11の移動状態算出処理は、図5の画像処理のステップS20において実行される。
なお、ステップS210、ステップS220、ステップS230、ステップS240、ステップS260、及びステップS270の各処理は、図6におけるステップS110、ステップS120、ステップS130、ステップS140、ステップS150、及びステップS160の各処理と同様であるため、説明を省略する。
【0091】
ステップS250:分裂時間計測部115aは、状態判定部112の判定結果に基づいて浮遊時間TDを計測する。ここで分裂時間計測部115aは、追跡領域抽出部110が抽出した追跡領域TRの輝度値が画像Pの背景BGの輝度値より大きい状態であると判定された場合に、複数のフレームを用いて追跡領域TRの浮遊時間TDを計測する。
【0092】
図6のステップS140において説明したように、状態判定部112は、i-1番目のフレームにおける追跡領域TRi-1と、i番目のフレームにおける追跡停止領域SRiとを対応づける場合、追跡領域TRi-1が追跡停止領域SRiに変化したと判定する。分裂時間計測部115aは、状態判定部112の判定結果に基づいて、追跡停止領域SRに対して、上述した領域対応づけ処理(この場合、分裂細胞対応づけ処理ともいう)を開始する。
【0093】
分裂時間計測部115aは、領域対応づけ処理によって、i番目のフレームにおける追跡停止領域SRiと、i+1番目のフレームにおける追跡停止領域SRi+1とを対応づける。分裂時間計測部115aは、領域対応づけ処理を、追跡停止領域SRi+1と対応づけられるi+2番目のフレームにおける追跡停止領域SRi+2が存在しない場合に終了する。
【0094】
分裂時間計測部115aは、領域対応づけ処理において互いに対応づけをした追跡停止領域SRiが抽出されたフレームの数を、浮遊時間TDとして計測する。
【0095】
ここで図12を参照し、浮遊時間TDの計測の一例について説明する。図12は、本実施形態に係る浮遊時間TDの計測に用いる画像の一例を示す図である。図13は、図12に示した画像を分かりやすくするために、図12の画像を模式的に描画した図である。本実施形態の画像Pは、第1の実施形態と同様に、複数の時刻において細胞Cがそれぞれ検出された複数の画像(例、画像Pi-1、画像Pi)である。図12及び図13に示す画像Pi-1、画像Pi、画像Pi+1、及び画像Pi+2のそれぞれは、画像Pにおけるi-1番目のフレーム、i番目のフレーム、i+1番目のフレーム、及びi+2番目のフレームである。追跡領域抽出部110は、画像Pi-1、画像Pi、画像Pi+1、及び画像Pi+2のそれぞれから、追跡領域TRi-1、追跡停止領域SRi、追跡停止領域SRi+1、及び追跡領域TRi+2を抽出する。
【0096】
状態判定部112は、追跡領域TRi-1と追跡停止領域SRiとを対応づけ、追跡領域TRi-1が追跡停止領域SRiに変化したと判定する。分裂時間計測部115aは、状態判定部112の判定結果に基づいて、領域対応づけ処理を開始する。分裂時間計測部115aは、追跡停止領域SRiと、追跡停止領域SRi+1とを対応づける。画像Pi+2からは追跡停止領域SRは抽出されていないため、分裂時間計測部115aは、領域対応づけ処理を終了する。
【0097】
分裂時間計測部115aは、領域対応づけ処理において対応づけした追跡停止領域SRiと、追跡停止領域SRi+1とが抽出されたフレームの数を計測する。状態判定部112は、画像Pi、及び画像Pi+1の数である2を浮遊時間TDとして計測する。
なお、分裂時間計測部115aは、計測した浮遊時間TDを、画像Pの撮像におけるフレーム間隔に基づいて、フレームの数(例、上記の画像Pi、及び画像Pi+1の数である2)から時間に換算してもよい。
【0098】
なお、図5に示したステップS40において出力部12は、浮遊時間TDに基づく解析結果Aaを提示部3に出力する。また、該出力部12は、追跡領域TRの移動状態Mと浮遊時間TDとを含む解析結果を提示部3に出力するようにしてもよい。
ここで浮遊時間TDは、細胞周期におけるM期(分裂期)の長さに相当していると考えられる。分裂時間計測部115aは、接着細胞の分裂時に出現する浮遊細胞をトラッキングすることによって、細胞周期のM期の長さを推定して測定する。制御部11aは、M期の長さを測定することにより、M期チェックポイントの期間を間接的に測定し、細胞に与える影響を評価することができる。
【0099】
ここで図14を参照し、浮遊時間の解析結果Aaの具体例について説明する。図14は、本実施形態に係る浮遊時間TDのヒストグラムの一例を示す図である。図14では、解析結果Aaとして、浮遊時間TDの複数の細胞Cについての分布がヒストグラムH2a、及びヒストグラムH2bとして示されている。これのヒストグラムでは、浮遊時間TD毎に複数の細胞Cの数Zが示されている。
【0100】
図14(A)は、基準となる培養条件における複数の細胞Cの浮遊時間TDのヒストグラムH2aを示す。図14(B)は、基準となる培養条件から変更された第1の培養条件において培養された複数の細胞Cの浮遊時間TDのヒストグラムH2bを示す。
ヒストグラムH2bのピークPKbは、ヒストグラムH2aのピークPKaよりも浮遊時間TDが長い位置にあり、第1の培養条件では浮遊時間TDが、基準となる培養条件よりも長い傾向がある。
【0101】
例えば、第1の培養条件では細胞Cが浮遊状態にある期間が基準となる培養条件よりも長く、基準となる培養条件に比べてM期チェックポイントが正常に作動していない可能性がある。したがって、本実施形態に係る画像処理装置1aは、上記の解析結果Aaに基づいて、がん細胞化の影響などを評価可能である。
【0102】
以上に説明したように、本実施形態に係る画像処理装置1aは、時間計測部(この一例において、分裂時間計測部115a)を備える。時間計測部(この一例において、分裂時間計測部115a)は、状態判定部112の判定結果に基づいて追跡領域TRの輝度情報が示す輝度の状態が第2状態Yである時間(浮遊時間TD)を計測する。
この構成により、本実施形態に係る画像処理装置1aでは、浮遊時間TDを用いて細胞周期におけるM期の長さを推定して測定できるため、M期の長さに基づいて細胞の状態を解析することができる。
【0103】
(第3の実施形態)
以下、図面を参照しながら第3の実施形態について詳しく説明する。
本実施形態では、画像処理装置が、画像内の領域が複数の領域に分かれた場合に、分かれる前の領域と、分かれた後の複数の領域とを対応づける場合について説明をする。
本実施形態に係る画像処理装置を画像処理装置1bという。
【0104】
図15は、本実施形態に係る画像処理装置1bの構成の一例を示す図である。本実施形態に係る画像処理装置1b(図15)と第1の実施形態に係る画像処理装置1(図1)とを比較すると、制御部11bが異なる。ここで、他の構成要素(画像取得部10、出力部12、及び記憶部13)が持つ機能は第1の実施形態と同じである。第1の実施形態と同じ機能の説明は省略し、第3の実施形態では、第1の実施形態と異なる部分を中心に説明する。
【0105】
制御部11bは、追跡領域抽出部110と、位置算出部111と、状態判定部112と、停止制御部113と、移動状態算出部114と、ラベル付与部116bとを備える。追跡領域抽出部110、位置算出部111、状態判定部112、停止制御部113、及び移動状態算出部114が備える機能は第1の実施形態と同じである。
【0106】
ラベル付与部116bは、上述の異なるフレーム間において領域R同士を対応づけ、対応づけた領域Rを識別するラベル(例、グループ番号、識別子など)Lを、対応づけた領域Rに付与する。ここでラベル付与部116bがラベルLを付与する領域Rには、追跡領域TRと、追跡停止領域SRとが含まれる。
【0107】
ここで図16を参照し、領域RにラベルLが付与される処理であるラベル付与処理を伴う移動状態算出処理について説明する。図16は、本実施形態に係る移動状態算出処理の一例を示す図である。図16の移動状態算出処理は、図5の画像処理のステップS20において実行される。
なお、ステップS310、ステップS320、ステップS330、ステップS360、及びステップS370の各処理は、図6におけるステップS110、ステップS120、ステップS130、ステップS150、及びステップS160の各処理と同様であるため、説明を省略する。
【0108】
ステップS340:ラベル付与部116bは、対応づけた領域Rに対してラベルLを付与するラベル付与処理を行う。ラベル付与部116bは、上述した領域対応づけ処理によって、i-1番目のフレームにおいて抽出された領域Ri-1と、i番目のフレームにおいて抽出された領域Riとを対応づける。
【0109】
ここで図17を参照し、領域対応づけ処理の詳細について説明する。図17は、本実施形態に係る領域対応づけ処理の一例を示す図である。
図17では、i-1番目のフレームである画像Pi-1と、i番目のフレームである画像Piと、i+1番目のフレームである画像Pi+1と、i+2番目のフレームである画像Pi+2とが示されている。
【0110】
ラベル付与部116bは、領域対応づけ処理によって、i+2番目のフレームにおいて抽出された領域R1i+2と、i+1番目のフレームにおいて抽出された領域R1i+1とを対応づける。また、同様に、ラベル付与部116bは、領域対応づけ処理によって、i+2番目のフレームにおいて抽出された領域R2i+1と、i+1番目のフレームにおいて抽出された領域R2i+1とを対応づける。
【0111】
更に、ラベル付与部116bは、領域対応づけ処理によって、i+1番目のフレームにおいて抽出された領域R1i+1と、i番目のフレームにおいて抽出された領域Riとを対応づける。また、同様に、ラベル付与部116bは、領域対応づけ処理によって、i+1番目のフレームにおいて抽出された領域R2i+1と、i番目のフレームにおいて抽出された領域Riとを対応づける。ここで領域Riと領域R1i+1とは既に対応づけられているが、ラベル付与部116bは、領域Riに対してさらに領域R2i+1を対応づける。
つまり、ラベル付与部116bは、i番目のフレームにおいて抽出された1つの領域Riに対してi+1番目のフレームにおいて抽出された領域Ri+1のなから複数の領域を対応づけてよい。
【0112】
ラベル付与部116bは、領域対応づけ処理によって、i番目のフレームにおいて抽出された領域Riと、i-1番目のフレームにおいて抽出された領域Ri-1とを対応づける。
【0113】
ラベル付与部116bは、対応づけた領域Ri-1と、領域Riと、領域R1i+1と、領域R2i+1と、領域R1i+2と、領域R2i+2とに、同一のラベルLを付与する。つまり、ラベル付与部116bは、対応づけた領域Rの全てに対して、同一のラベル(例、第1のラベルL1)Lを付与し1つのグループとする。ここで領域RにラベルLを付与するとは、領域RとラベルLとを対応づけることである。
【0114】
なお、ラベル付与部116bは、さらに、領域R1i+1と、領域R1i+2とに同一のラベル(例、第2のラベルL21)Lを付与し1つのグループとし、領域R2i+1と、領域R2i+2とに同一のラベル(例、第2のラベルL22)Lを付与し1つのグループとしてもよい。第2のラベル(例、第2のラベルL21、及び第2のラベルL22)が付与されることによって、細胞Cが分裂する度に何世代目かが識別できる。このように、第2のラベルは、細胞Cの世代を識別するラベルとして用いることができる。
【0115】
なお、ラベル付与部116bは、領域Rが追跡領域TRである場合には、ラベル付与処理において、ステップS330において位置算出部111によって実行される領域対応づけ処理の結果を用いてもよい。
【0116】
ステップS350:状態判定部112は、追跡領域抽出部110が抽出した追跡領域TRの輝度値が画像Pの背景BGの輝度値より大きい状態であることを、ステップS340のラベル付与処理の結果と組み合わせて判定する。
状態判定部112は、例えば、ラベルLによって、追跡領域TRiが領域R1i+1と、領域R2i+1とに分かれたことを判定する。状態判定部112は、追跡領域TRiが2つの領域に分かれて、かつ輝度値が画像Pの背景BGの輝度値より大きい場合に、判定した追跡領域TRiを追跡停止領域SRiとする。
【0117】
ラベル付与部116bは、付与したラベルLを示す情報を、解析結果Abに含めてよい。つまり、解析結果Abには、細胞の系譜解析の情報が含まれる。
図5のステップS40において出力部12は、ラベルLを含む解析結果Abを提示部3に出力する。
【0118】
本実施形態に係る画像処理装置1bでは、細胞のトラッキングにおいて、ラベルLに基づいて細胞が分裂したことを判定できるため、ラベルLに基づかない場合に比べて細胞の移動状態Mの解析の精度を高めることができる。また、本実施形態に係る画像処理装置1bでは、i番目のフレームにおいて抽出された追跡領域TRiが、i+1番目のフレームにおいて抽出された領域R1i+1と、領域R2i+1とに分かれたことをラベルLに基づいて判定できるため、細胞の系譜解析を行うことができる。
【0119】
なお、上述した各実施形態においては、顕微鏡2が位相差顕微鏡である場合の一例について説明したが、これに限らない。顕微鏡2は、微分干渉顕微鏡であってもよい。微分干渉顕微鏡では、細胞Cを透過する光(観察光)の光路差(例、光路長の差)がコントラストに変換されて画像の輝度値が得られる。したがって、顕微鏡2が微分干渉顕微鏡である場合には、追跡領域TRの輝度情報が示す輝度とは観察光の光路差に基づく輝度値である。この場合、一例として、第1状態Xとは、光路差が所定の値より小さく、輝度値が所定の値より小さい状態であり、第2状態Yとは光路差が所定の値より大きく、輝度値が所定の値より大きい状態である。
【0120】
したがって、追跡領域TRの輝度情報が示す輝度とは、位相差、または光路差に基づく輝度値である。追跡領域TRのコントラストが位相差、または光路差であるため、上述した各実施形態の画像処理装置1では、コントラストとして、位相差、または光路差を用いて、追跡領域TRの状態を判定できるため、位相差画像や、微分干渉顕微鏡によって撮像された画像を解析の対象にできる。
【0121】
なお、上述した実施形態における画像処理装置1、1a、1bの一部、例えば、追跡領域抽出部110、位置算出部111、状態判定部112、停止制御部113、移動状態算出部114、分裂時間計測部115a、及びラベル付与部116bをサーバやクライアントのようなコンピュータで実現するようにしてもよい。その場合、この制御機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、画像処理装置1、1a、1bに内蔵されたコンピュータシステムであって、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
【0122】
なお、例えば本実施形態は、コンピュータに、細胞が撮像された画像から輝度情報が示す輝度の状態が第1状態Xである追跡領域TRを抽出する領域抽出ステップと、前記領域抽出ステップにおいて抽出された前記追跡領域TRの位置の時間変化を複数の前記画像に基づいて算出する位置算出部ステップと、前記領域抽出ステップにおいて抽出された前記追跡領域TRの輝度情報が示す輝度の状態が前記第1状態Xとは異なる第2状態Yであることを判定する状態判定ステップと、前記位置算出部ステップの算出結果と、前記状態判定ステップの判定結果とに基づいて前記追跡領域TRの移動状態を算出する移動状態算出ステップとを実行させるためのプログラムである。
【0123】
また、例えば、本実施形態は、コンピュータに、細胞が撮像された画像から輝度情報が示す輝度の状態が第1状態Xである追跡領域TRを抽出する領域抽出ステップと、前記領域抽出ステップにおいて抽出された前記追跡領域TRの位置の時間変化を複数の前記画像に基づいて算出する位置算出ステップと、前記領域抽出ステップにおいて抽出された前記追跡領域TRの輝度情報が示す輝度の状態が前記第1状態Xとは異なる第2状態Yであることを判定する状態判定ステップと、前記状態判定ステップの判定結果に基づいて前記時間変化の算出を停止させる停止制御ステップとを実行させるためのプログラムである。
【0124】
また、上述した実施形態における画像処理装置1、1a、1bの一部、または全部を、LSI(Large Scale Integration)等の集積回路として実現してもよい。画像処理装置1、1a、1bの各機能ブロックは個別にプロセッサ化してもよいし、一部、または全部を集積してプロセッサ化してもよい。また、集積回路化の手法はLSIに限らず専用回路、または汎用プロセッサで実現してもよい。また、半導体技術の進歩によりLSIに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いてもよい。
【0125】
以上、図面を参照してこの発明の一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、この発明の要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。
【符号の説明】
【0126】
1、1a、1b…画像処理装置1、2…顕微鏡、110…追跡領域抽出部、111…位置算出部111、112…状態判定部、113…停止制御部113、114…移動状態算出部、115a…分裂時間計測部、116b…ラベル付与部116b、X…第1状態、Y…第2状態、R…領域、TR…追跡領域、SR…追跡停止領域
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18