(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022187196
(43)【公開日】2022-12-19
(54)【発明の名称】細胞画像解析方法
(51)【国際特許分類】
C12Q 1/04 20060101AFI20221212BHJP
C12M 1/34 20060101ALN20221212BHJP
【FI】
C12Q1/04
C12M1/34 A
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2021095081
(22)【出願日】2021-06-07
(71)【出願人】
【識別番号】000001993
【氏名又は名称】株式会社島津製作所
(74)【代理人】
【識別番号】100104433
【弁理士】
【氏名又は名称】宮園 博一
(74)【代理人】
【識別番号】100155608
【弁理士】
【氏名又は名称】大日方 崇
(72)【発明者】
【氏名】澤田 隆二
(72)【発明者】
【氏名】山本 周平
【テーマコード(参考)】
4B029
4B063
【Fターム(参考)】
4B029AA07
4B029BB01
4B029FA01
4B063QA18
4B063QQ05
4B063QX01
(57)【要約】
【課題】解析に適さない細胞画像が含まれた状態で細胞画像の解析が行われることを抑制することにより、細胞画像の解析精度が低下することを抑制することが可能な細胞画像解析方法を提供する。
【解決手段】この細胞画像解析方法は、細胞画像10を取得するステップと、細胞画像10が、細胞90のボケ、異物80の映り込み、迷光の映り込み、培地に起因する細胞画像10の画質の低下、画素値が飽和した領域83、および、境界84が明確でない細胞90aのうちの少なくとも1つを含むか否かを判定するステップと、細胞画像10が、細胞90のボケ、異物80の映り込み、迷光の映り込み、培地に起因する細胞画像10の画質の低下、画素値が飽和した領域83、および、境界84が明確でない細胞90aを含まない場合に、細胞画像10を適切細胞画像11に分類し、含む場合には、細胞画像10を不適切細胞画像12に分類するステップと、を備える。
【選択図】
図5
【特許請求の範囲】
【請求項1】
細胞画像を取得するステップと、
前記細胞画像が、前記細胞画像に写る細胞のボケ、前記細胞画像における異物の映り込み、前記細胞画像における迷光の映り込み、前記細胞を培養する際の培地に起因する前記細胞画像の画質の低下、前記細胞画像における画素値が飽和した領域、および、前記細胞と前記細胞以外の領域との境界が明確でない前記細胞のうちの少なくとも1つを含むか否かを判定するステップと、
前記細胞画像が、前記細胞のボケ、前記異物の映り込み、前記迷光の映り込み、前記培地に起因する前記細胞画像の画質の低下、前記画素値が飽和した領域、および、前記境界が明確でない前記細胞を含まない場合に、前記細胞画像を適切細胞画像に分類し、前記細胞のボケ、前記異物の映り込み、前記迷光の映り込み、前記培地に起因する前記細胞画像の画質の低下、前記画素値が飽和した領域、および、前記境界が明確でない前記細胞のうちの少なくとも1つを含む場合には、前記細胞画像を不適切細胞画像に分類するステップと、を備える、細胞画像解析方法。
【請求項2】
前記細胞画像は、容器によって培養される培養細胞を撮影した画像であり、
前記判定するステップにおいて、前記細胞画像の解析を行うために前記細胞画像を分類する際に、前記細胞画像の画質が前記細胞画像の前記解析に適しているか否かの判定、および、前記細胞画像を解析するための学習モデルの学習に用いる前記細胞画像を分類する際に、前記細胞画像の画質が前記学習モデルに対する前記解析の学習に適しているか否かの判定の少なくともいずれかのための判定基準を満たしている否かを判定する、請求項1に記載の細胞画像解析方法。
【請求項3】
前記判定基準は、前記細胞のボケの有無、前記異物の映り込みの有無、前記迷光の映り込みの有無、前記培地に起因する前記細胞画像の画質の低下の有無、前記画素値が飽和した領域の有無、および、前記境界が明確でない前記細胞の有無を含む、請求項2に記載の細胞画像解析方法。
【請求項4】
前記適切細胞画像と前記不適切細胞画像とを学習させることにより、前記細胞画像が前記判定基準を満たしているか否かを判定することを学習させた第1学習済みモデルを作成するステップをさらに備え、
前記判定するステップにおいて、前記第1学習済みモデルを用いて、前記細胞画像が前記適切細胞画像であるか前記不適切細胞画像であるかの判定を行う、請求項2または3に記載の細胞画像解析方法。
【請求項5】
前記適切細胞画像の画質を劣化させる画像処理を行うことにより、前記不適切細胞画像を生成するステップをさらに備え、
前記第1学習済みモデルを作成するステップにおいて、前記適切細胞画像と、前記適切細胞画像から生成された前記不適切細胞画像とに基づいて、前記第1学習済みモデルを作成する、請求項4に記載の細胞画像解析方法。
【請求項6】
前記不適切細胞画像を生成するステップにおいて、前記適切細胞画像の画質を劣化させる画像処理のパラメータを変更し、前記適切細胞画像としての許容範囲に入る画像と、前記許容範囲に入らない画像とを作成する、請求項5に記載の細胞画像解析方法。
【請求項7】
前記判定するステップにおいて、前記細胞画像に対して画像処理を行うことにより、前記細胞画像が、前記細胞のボケ、前記異物の映り込み、前記迷光の映り込み、前記培地に起因する前記細胞画像の画質の低下、前記画素値が飽和した領域、および、前記境界が明確でない前記細胞のうちの少なくとも1つを含むか否かを判定する、請求項1~6のいずれか1項に記載の細胞画像解析方法。
【請求項8】
前記判定するステップにおいて、前記細胞画像のコントラストに基づいて前記細胞のボケの有無を判定するとともに、前記細胞画像の輝度値の分布に基づいて、前記異物の映り込みの有無、前記迷光の映り込みの有無、前記培地に起因する前記細胞画像の画質の低下の有無、前記画素値が飽和した領域の有無、および前記境界が明確でない前記細胞の有無を判定する、請求項7に記載の細胞画像解析方法。
【請求項9】
前記細胞画像が前記不適切細胞画像であると分類された場合に、前記細胞画像を解析から除外するステップと、
前記適切細胞画像に分類された前記細胞画像を用いて前記解析を行うステップと、をさらに備える、請求項1~8のいずれか1項に記載の細胞画像解析方法。
【請求項10】
前記細胞画像が前記不適切細胞画像に分類された場合に、前記細胞画像の前記解析を行う際に、前記細胞画像が解析に適していない旨、または、前記細胞画像を解析するための前記学習モデルを学習させる際に、前記学習モデルに対する前記解析の学習に適していない旨を報知するステップ、をさらに備える、請求項1~8のいずれか1項に記載の細胞画像解析方法。
【請求項11】
前記細胞画像が前記不適切細胞画像に分類された場合に、前記細胞画像を、学習モデルに対する前記細胞画像の解析の学習から除外するステップと、
前記適切細胞画像に分類された前記細胞画像を用いて、前記学習モデルに前記解析を学習させるステップ、をさらに備える、請求項1~8のいずれか1項に記載の細胞画像解析方法。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、細胞画像解析方法に関する。
【背景技術】
【0002】
従来、細胞画像解析方法が知られている(たとえば、特許文献1参照)。
【0003】
上記特許文献1には、撮像装置によって撮像された細胞の画像を解析する細胞画像解析方法が開示されている。具体的には、上記特許文献1には、第1細胞画像と第2細胞画像とを取得し、第1細胞画像と第2細胞画像とにおける細胞の特徴量の相関値または差分を取得する。上記特許文献1に開示されている構成は、第1細胞画像と第2細胞画像とにおける細胞の特徴量の相関値または差分の時系列変化に基づいて、細胞画像を解析している。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
ここで、上記特許文献1には開示されていないが、細胞画像を撮影する際の撮影条件などによっては、たとえば、細胞がボケた状態で写るなど、解析に適さない細胞画像が取得される場合がある。また、細胞画像を解析する際には、細胞を培養する容器内の複数個所を撮影するなど、複数の細胞画像を取得し、取得した複数の細胞画像をバッチ処理によりまとめて解析する場合がある。このように、複数の細胞画像を取得する場合、解析に適さない画像が含まれても、ユーザが気づきにくいという不都合がある。この場合、解析に適さない細胞画像が含まれた状態で細胞画像の解析が行われるため、解析結果の精度が低下するという問題点がある。
【0006】
この発明は、上記のような課題を解決するためになされたものであり、この発明の1つの目的は、解析に適さない細胞画像が含まれた状態で細胞画像の解析が行われることを抑制することにより、細胞画像の解析精度が低下することを抑制することが可能な細胞画像解析方法を提供することである。
【課題を解決するための手段】
【0007】
上記目的を達成するために、この発明の一の局面による細胞画像解析方法は、細胞画像を取得するステップと、細胞画像が、細胞画像に写る細胞のボケ、細胞画像における異物の映り込み、細胞画像における迷光の映り込み、細胞を培養する際の培地に起因する細胞画像の画質の低下、細胞画像における画素値が飽和した領域、および、細胞の領域と細胞以外の領域との境界が明確でない細胞のうちの少なくとも1つを含むか否かを判定するステップと、細胞画像が、細胞のボケ、異物の映り込み、迷光の映り込み、培地に起因する細胞画像の画質の低下、画素値が飽和した領域、および、境界が明確でない細胞を含まない場合に、細胞画像を適切細胞画像に分類し、細胞のボケ、異物の映り込み、迷光の映り込み、培地に起因する細胞画像の画質の低下、画素値が飽和した領域、および、境界が明確でない細胞のうちの少なくとも1つを含む場合には、細胞画像を不適切細胞画像に分類するステップと、を備える。
【発明の効果】
【0008】
上記一の局面における細胞画像解析方法では、上記のように、細胞画像が、細胞画像に写る細胞のボケ、細胞画像における異物の映り込み、細胞画像における迷光の映り込み、細胞を培養する際の培地に起因する細胞画像の画質の低下、細胞画像における画素値が飽和した領域、および、細胞の領域と細胞以外の領域との境界が明確でない細胞のうちの少なくとも1つを含むか否かを判定するステップと、細胞画像が細胞のボケ、異物の映り込み、迷光の映り込み、培地に起因する細胞画像の画質の低下、画素値が飽和した領域、および、境界が明確でない細胞を含まない場合に、細胞画像を適切細胞画像に分類し、細胞のボケ、異物の映り込み、迷光の映り込み、培地に起因する細胞画像の画質の低下、画素値が飽和した領域、および、境界が明確でない細胞のうちの少なくとも1つを含む場合には、細胞画像を不適切細胞画像に分類するステップと、を備える。これにより、細胞のボケ、異物の映り込み、迷光の映り込み、培地に起因する細胞画像の画質の低下、画素値が飽和した領域、および、境界が明確でない細胞を含まない適切細胞画像のみを解析に用いることができる。その結果、不適切細胞画像が含まれた細胞画像を用いて解析が行われることを抑制することが可能となるので、細胞画像の解析の精度が低下することを抑制することができる。
【図面の簡単な説明】
【0009】
【
図1】一実施形態による細胞画像解析装置の全体構成を示した模式図である。
【
図2】適切細胞画像および不適切細胞画像を説明するための模式図(A)~模式図(G)である。
【
図3】一実施形態による第1学習モデルの学習方法と、第1学習済み学習モデルを用いて細胞画像を分類する方法とを説明するための模式図である。
【
図4】一実施形態による第1学習済みモデルを作成する処理を説明するためのフローチャートである。
【
図5】一実施形態による画像解析部が、細胞画像を解析する処理を説明するためのフローチャートである。
【
図6】一実施形態による細胞画像解析装置が、細胞画像を撮影する際において細胞画像を解析する構成を説明するための模式図である。
【
図7】一実施形態による細胞画像解析装置が、不適切細胞画像が撮影されたことを報知する構成を説明するための模式図である。
【
図8】一実施形態における細胞画像解析装置が、細胞画像の撮影時における解析処理を説明するためのフローチャートである。
【
図9】一実施形態による細胞画像解析装置が、第2学習済みモデルを生成する構成を説明するための模式図である。
【
図10】一実施形態による細胞画像解析装置が、第2学習済みモデルの生成が完了したことを報知する構成を説明するための模式である。
【
図11】一実施形態による細胞画像解析装置が、第2学習済みモデルを生成する処理を説明するためのフローチャートである。
【
図12】一実施形態による細胞画像解析装置が、細胞画像を解析する構成を説明するための模式図である。
【
図13】一実施形態による細胞画像解析装置が、細胞画像の解析が完了したことを報知する構成を説明するための模式である。
【
図14】一実施形態による細胞画像解析装置が、細胞画像を解析する処理を説明するためのフローチャートである。
【発明を実施するための形態】
【0010】
以下、本発明を具体化した実施形態を図面に基づいて説明する。
【0011】
図1を参照して、一実施形態による細胞画像解析装置100の構成について説明する。
【0012】
(細胞画像解析装置の構成)
細胞画像解析装置100は、
図1に示すように、画像取得部1と、プロセッサ2と、記憶部3と、表示部4と、入力受付部5と、を備える。
【0013】
画像取得部1は、細胞画像10を取得するように構成されている。細胞画像10は、容器によって培養される培養細胞90(
図2(A)参照)を撮影した画像である。本実施形態では、画像取得部1は、たとえば、撮像装置が取り付けられた顕微鏡20などの細胞画像10を撮影する装置から細胞画像10を取得するように構成されている。画像取得部1は、たとえば、入出力インターフェースを含む。
【0014】
プロセッサ2は、取得した細胞画像10を解析するように構成されている。プロセッサ2は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、GPU(Graphics Processing Unit)、または、画像処理用に構成されたFPGA(Field-Programmable Gate Array)などを含んでいる。また、ハードウェアとしてのCPUなどからなるプロセッサ2は、ソフトウェア(プログラム)の機能ブロックとして、制御部2aと、画像判定部2bと、画像解析部2cと、学習済みモデル生成部2dと、不適切細胞画像生成部2eと、を含む。プロセッサ2は、記憶部3に記憶されたプログラムを実行することにより、制御部2a、画像判定部2b、画像解析部2c、学習済みモデル生成部2d、および、不適切細胞画像生成部2eとして機能する。制御部2a、画像判定部2b、画像解析部2c、学習済みモデル生成部2d、および、不適切細胞画像生成部2eは、専用のプロセッサ(処理回路)を設けてハードウェアにより個別に構成されていてもよい。
【0015】
制御部2aは、細胞画像解析装置100の制御を行うように構成されている。また、制御部2aは、解析結果50を表示部4に表示させる制御を行うように構成されている。
【0016】
画像判定部2bは、細胞画像10の画質が、判定基準を満たしているか否かを判定するように構成されている。本実施形態では、画像判定部2bは、第1学習済みモデル6による判定、および、画像処理(ルールベース処理)による判定を併用することにより、細胞画像10の画質が、判定基準を満たしているか否かを判定するように構成されている。判定基準は、細胞画像10の解析を行うために細胞画像10を分類する際に、細胞画像10の画質が細胞画像10の解析に適しているか否かの判定、および、細胞画像10を解析するための第2学習モデル7a(
図9参照)の学習に用いる細胞画像10を分類する際に、細胞画像10の画質が第2学習モデル7aに対する解析の学習に適しているか否かの判定の少なくともいずれかのための基準である。具体的には、判定基準は、細胞90(
図2(A)参照)のボケの有無、異物80(
図2(C)参照)の映り込みの有無、迷光の映り込みの有無、培地に起因する細胞画像10の画質の低下の有無、細胞画像10における画素値が飽和した領域83(
図2(F)参照)の有無、および、細胞90の領域と細胞90以外の領域91(
図2(G)参照)との境界84が明確でない細胞90a(
図2(G)参照)の有無を含む。本実施形態では、画像判定部2bは、細胞画像10が、細胞画像10に写る細胞90のボケ、細胞画像10における異物80の映り込み、細胞画像10における迷光の映り込み、細胞90を培養する際の培地に起因する細胞画像10の画質の低下、細胞画像10における画素値が飽和した領域83、および、細胞90の領域と細胞90以外の領域91との境界84が明確でない細胞90aのうちの少なくとも1つを含むか否かを判定する。なお、本実施形態では、細胞画像10は、分化能を有する細胞90を撮影した画像である。たとえば、細胞90は、iPS細胞(induced Pluripotent Stem Cell)、ES細胞(Embryonic Stem Cell)などを含む。
【0017】
画像解析部2cは、細胞画像10を解析するように構成されている。本実施形態では、画像解析部2cは、たとえば、細胞画像10に写る細胞90(
図2参照)が、未分化細胞であるか、未分化逸脱細胞であるかを解析するように構成されている。なお、未分化細胞とは、分化能を有している細胞である。また、未分化逸脱細胞とは、分化能を有していない細胞である。
【0018】
学習済みモデル生成部2dは、第1学習モデル6a(
図5参照)を学習させることにより、第1学習済みモデル6を生成するように構成されている。また、学習済みモデル生成部2dは、第2学習モデル7a(
図9参照)を学習させることにより、第2学習済みモデル7を生成するように構成されている。学習済みモデル生成部2dが第1学習済みモデル6および第2学習済みモデル7を生成する構成の詳細については、後述する。
【0019】
不適切細胞画像生成部2eは、適切細胞画像11から不適切細胞画像12を生成するように構成されている。不適切細胞画像生成部2eが不適切細胞画像12を生成する構成の詳細については、後述する。
【0020】
記憶部3は、細胞画像10、第1学習済みモデル6、および、第2学習済みモデル7を記憶するように構成されている。また、記憶部3は、プロセッサ2が実行する各種プログラムを記憶するように構成されている。記憶部3は、たとえば、HDD(Hard Disk Drive)、または、SSD(Solid State Drive)などの記憶装置を含む。
【0021】
表示部4は、画像解析部2cによって解析された解析結果50などを表示するように構成されている。表示部4は、たとえば、液晶モニタなどの表示装置を含む。
【0022】
入力受付部5は、操作者による操作入力を受け付け可能に構成されている。入力受付部5は、たとえば、マウス、キーボードなどの、入力デバイスを含む。
【0023】
(適切細胞画像および不適切細胞画像)
図2(A)~
図2(G)を参照して、適切細胞画像11および不適切細胞画像12について説明する。
【0024】
図2(A)は、適切細胞画像11の模式図である。適切細胞画像11は、判定基準を満たしている画像である。具体的には、適切細胞画像11は、細胞90のボケがなく、異物80(
図2(C)参照)の映り込みがなく、迷光の映り込みがなく、培地に起因する画質の低下が生じておらず、画素値が飽和した領域83(
図2(F)参照)がなく、細胞90の領域と細胞90以外の領域91(
図2(G)参照)の境界84(
図2(G)参照)が鮮明でない細胞90aが含まれない画像である。
【0025】
図2(B)は、不適切細胞画像12aの模式図である。
図2(B)に示す不適切細胞画像12aは、細胞90がボケた状態で写っている。言い換えると、不適切細胞画像12aは、細胞画像10を撮影する際のピントが合っておらず、細胞90の内部が不鮮明な画像である。すなわち、
図2(B)に示す不適切細胞画像12aは、細胞画像10に写る細胞90のボケの有無の判定基準を満たしていない画像である。なお、
図2(B)に示す例では、便宜上、細胞90と背景との境界線を破線で図示することにより、細胞90がボケた状態を表している。また、
図2(B)に示す例では、便宜上、細胞90に対して、
図2(A)に示す細胞90と異なるハッチングを付すことにより、細胞90の内部が不鮮明であることを表している。
【0026】
図2(C)は、不適切細胞画像12bの模式図である。
図2(C)に示す不適切細胞画像12bは、異物80が映り込んだ画像である。すなわち、
図2(C)に示す不適切細胞画像12は、細胞画像10における異物80の映り込みの有無の判定基準を満たしていない画像である。なお、異物80とは、細胞90以外のものであり、外部から混入した物体、および、培地に含まれる不溶性の物質などを含む。
【0027】
図2(D)は、不適切細胞画像12cの模式図である。
図2(D)に示す不適切細胞画像12cは、迷光が映り込んだ画像である。すなわち、
図2(D)に示す不適切細胞画像12cは、細胞画像10における迷光の映り込みの有無の判定基準を満たしていない画像である。なお、
図2(D)に示す不適切細胞画像12cは、容器などによって反射した迷光が輝線81として映り込んだ画像である。
【0028】
図2(E)は、不適切細胞画像12dの模式図である。
図2(E)に示す不適切細胞画像12dは、細胞90を培養する際の培地に起因して、細胞画像10の画質が低下した画像である。すなわち、
図2(E)に示す不適切細胞画像12dは、培地に起因する細胞画像10の画質の低下の有無の判定基準を満たしていない画像である。ここで、細胞90を培養する容器の内周面と培地とが接触する位置では、表面張力により、培地の液面が屈曲する。これをメニスカスという。メニスカスが生じている部分と、メニスカスが生じていない部分とでは、顕微鏡20の光学部材の光軸方向における培地の厚みが異なる。培地の液面が凹型となる場合のメニスカスでは、メニスカスの部分の培地の厚みが大きくなる。そのため、凹型のメニスカスが生じた場合、メニスカスの部分が暗くなる。また、培地の液面が凸型となる場合のメニスカスでは、メニスカスの部分の培地の厚みが小さくなる。そのため、凸型のメニスカスが生じた場合、メニスカスの部分が明るくなる。
図2(E)に示す例は、凹型のメニスカスが生じた場合の模式図である。すなわち、細胞90を培養する際の培地に起因する画質の低下とは、メニスカスによって細胞画像10中において輝度値が低い領域、または、輝度値が高い領域が生じていることを意味する。
【0029】
図2(F)は、不適切細胞画像12eの模式図である。
図2(F)に示す不適切細胞画像12eは、細胞画像10における画素値が飽和した領域83を含む画像である。すなわち、
図2(F)に示す不適切細胞画像12eは、細胞画像10における画素値が飽和した領域83の有無の判定基準を満たしていない画像である。なお、
図2(F)に示す不適切細胞画像12eは、迷光などによって、細胞画像10に画素値が飽和した領域83が生じた画像である。
【0030】
図2(G)は、不適切細胞画像12fの模式図である。
図2(G)に示す不適切細胞画像12fは、細胞90の領域と細胞90以外の領域91との境界84が明確でない細胞90aを含む画像である。言い換えると、不適切細胞画像12fは、細胞画像10を撮影する際のピントはあっており、細胞90aの内部が鮮明に写っているが、迷光などに起因して、境界84が不明確となった画像である。なお、細胞90以外の領域91は、たとえば、細胞画像10の背景部分を含む。また、
図2(G)に示す例では、便宜上、境界84が明確でないことを、境界84を破線で図示することにより表している。また、
図2(G)に示す例では、便宜上、細胞90aの内部が鮮明に写っていることを、細胞90aに対して
図2(A)に示す細胞90と同様のハッチングを付すことにより表している。
【0031】
(画像解析方法)
次に、
図3を参照して、本実施形態による細胞画像解析方法によって、細胞画像10を解析する方法について説明する。なお、本実施形態では、細胞画像解析装置100が、細胞画像10を解析することにより、細胞画像10を適切細胞画像11と不適切細胞画像12とに分類する構成について説明する。本実施形態では、細胞画像解析装置100は、第1学習済みモデル6を用いて細胞画像10を解析することにより、細胞画像10が適切細胞画像11であるか不適切細胞画像12であるかを判定する。第1学習済みモデル6は、細胞画像10が入力されることにより、細胞画像分類ラベル13を出力する。細胞画像分類ラベル13は、0と1とを含む。細胞画像分類ラベル13が1の場合、細胞画像10が適切細胞画像11に分類されたことを意味する。また、細胞画像分類ラベル13が0の場合、細胞画像10が不適切細胞画像12に分類されたことを意味する。
【0032】
また、細胞画像解析装置100は、第2学習済みモデル7を用いて適切細胞画像11を解析することにより、適切細胞画像11に写る細胞90が未分化細胞であるか未分化逸脱細胞であるかを判定する。
【0033】
図3は、本実施形態による画像処理の流れを示したブロック図である。
図3に示すように、本実施形態では、細胞画像解析方法は、大きく分けて、画像解析方法101と、第1学習済みモデル6の生成方法102と、を含む。
【0034】
(第1学習モデル生成)
本実施形態による第1学習済みモデル6の生成方法102は、教師用細胞画像30と、教師用細胞画像分類ラベル31と、を用いて、細胞画像10を適切細胞画像11と不適切細胞画像12とに分類することを第1学習モデル6aに学習させることにより、第1学習済みモデル6を生成する。すなわち、教師用細胞画像30としての適切細胞画像11を入力データとし、教師用細胞画像分類ラベル31としての1を出力データとすることにより、入力された画像が適切細胞画像11であることを学習させる。また、教師用細胞画像30としての不適切細胞画像12を入力データとし、教師用細胞画像分類ラベル31としての0を出力データとすることにより、入力された画像が不適切細胞画像12であることを学習させる。第1学習済みモデル6は、たとえば、
図3に示す畳み込みニューラルネットワーク(Convolutional neural network;CNN)であるか、畳み込みニューラルネットワークを一部に含む。第1学習モデル6aを学習させることにより生成された第1学習済みモデル6は、細胞画像解析装置100の記憶部3(
図1)に記憶される。
【0035】
(画像解析方法)
本実施形態による画像解析方法101は、画像取得部1が顕微鏡20などから取得した細胞画像10を、適切細胞画像11と不適切細胞画像12とに分類する画像解析方法である。本実施形態による画像解析方法101は、細胞画像10を取得するステップと、細胞画像10の画質が判定基準を満たしているか否かを判定するステップと、細胞画像10を適切細胞画像11と不適切細胞画像12とに分類するステップと、を含む。画像解析方法101の各ステップの詳細な処理については、後述する。
【0036】
本実施形態では、
図3に示すように、細胞画像10を取得するステップは、画像取得部1によって行われる。画像取得部1は、顕微鏡20などの画像撮影装置から細胞画像10を取得する。また、画像取得部1は、画像判定部2bに対して取得した細胞画像10を出力する。
【0037】
また、本実施形態では、
図3に示すように、細胞画像10を分類するステップは、画像判定部2bによって行われる。画像判定部2bは、第1学習済みモデル6に細胞画像10を入力することにより、入力された細胞画像10に対する細胞画像分類ラベル13を出力する。すなわち、画像判定部2bは、細胞画像10を適切細胞画像11と不適切細胞画像12とに分類する。
【0038】
(第1学習済みモデル生成処理)
次に、
図4を参照して、学習済みモデル生成部2dが、第1学習済みモデル6を生成する処理について説明する。
【0039】
ステップ200において、画像取得部1は、細胞画像10を取得する。
【0040】
ステップ201において、不適切細胞画像生成部2eは、細胞画像10に基づいて、不適切細胞画像12を生成する。具体的には、不適切細胞画像生成部2eは、適切細胞画像11の画質を劣化させる画像処理を行うことにより、不適切細胞画像12を生成する。ステップ201において用いられる適切細胞画像11は、操作者によって予め適切細胞画像11であると分類された細胞画像10である。
【0041】
不適切細胞画像生成部2eは、適切細胞画像11の画質を劣化させる画像処理のパラメータを変更し、適切細胞画像11としての許容範囲に入る画像と、許容範囲に入らない画像とを作成する。本実施形態では、ステップ201の処理において、不適切細胞画像生成部2eは、適切細胞画像11に対してフィルタ処理(たとえば、ガウシアンフィルタなどによる処理)を行うことにより、適切細胞画像11のコントラストを低下させ、細胞90がボケた状態で写る不適切細胞画像12a(
図2(B)参照)、または、細胞90の領域と細胞90以外の領域91との境界84が明確でない細胞90aを含む不適切細胞画像12f(
図2(G)参照)を生成する。また、不適切細胞画像生成部2eは、適切細胞画像11の一部の画素の画素値を閾値以下にすることにより、異物80が映り込んだ不適切細胞画像12b(
図2(C)参照)、または、培地に起因する画質の低下が生じた不適切細胞画像12d(
図2(E)参照)を生成する。また、不適切細胞画像生成部2eは、適切細胞画像11の一部の画素(数画素~数十画素)の画素値を閾値以上にすることにより、迷光が映り込んだ不適切細胞画像12c(
図2(D)参照)、または、培地に起因する画質の低下が生じた不適切細胞画像12を生成する。また、不適切細胞画像生成部2eは、適切細胞画像11の一部の画素(数画素~数十画素)の画素値を飽和させることにより、画素値が飽和した領域83を含む不適切細胞画像12e(
図2(F)参照)を生成する。なお、許容範囲とは、操作者によって設定された画質の範囲である。
【0042】
ステップ202において、学習済みモデル生成部2dは、適切細胞画像11と不適切細胞画像12とを学習させることにより、細胞画像10が判定基準を満たしているか否かを判定することを学習させた第1学習済みモデル6を作成する。具体的には、学習済みモデル生成部2dは、第1学習済みモデル6を作成するステップにおいて、適切細胞画像11と、適切細胞画像11から生成された不適切細胞画像12とに基づいて、第1学習済みモデル6を作成する。
【0043】
(画像解析処理)
次に、
図5を参照して、プロセッサ2が、細胞画像10を解析する処理について説明する。本実施形態による細胞画像解析方法は、細胞画像10を取得するステップ300と、細胞画像10の画質が判定基準を満たしているか否かを判定するステップ301と、細胞画像10の画質が判定基準を満たしている場合に、細胞画像10を適切細胞画像11に分類するステップ302と、判定基準を満たしていない場合に、細胞画像10を不適切細胞画像12に分類するステップ303と、を備える。
【0044】
ステップ300において、画像取得部1は、細胞画像10を取得する。
【0045】
ステップ301において、画像判定部2bは、細胞画像10が、異物80の映り込み、迷光の映り込み、培地に起因する細胞画像10の画質の低下、画素値が飽和した領域83、および、境界84が明確でない細胞90aのうちの少なくとも1つを含むか否かを判定する。言い換えると、画像判定部2bは、ステップ301において、細胞画像10の解析を行うために細胞画像10を分類する際に、細胞画像10の画質が細胞画像10の解析に適しているか否かの判定、および、細胞画像10を解析するための第2学習モデル7aの学習に用いる細胞画像10を分類する際に、細胞画像10の画質が第2学習モデル7aに対する解析の学習に適しているか否かの判定の少なくともいずれかのための判定基準を満たすか否かを判定する。細胞画像10が、異物80の映り込み、迷光の映り込み、培地に起因する細胞画像10の画質、画素値が飽和した領域83、および、境界84が明確でない細胞90aを含まない場合、処理は、ステップ302へ進む。細胞画像10が、異物80の映り込み、迷光の映り込み、培地に起因する細胞画像10の画質の低下、画素値が飽和した領域83、および、境界84が明確でない細胞90aのうちの少なくとも1つを含む場合、処理は、ステップ303へ進む。
【0046】
ステップ302において、画像判定部2bは、細胞画像10を適切細胞画像11に分類する。具体的には、画像判定部2bは、細胞画像10が、異物80の映り込み、迷光の映り込み、培地に起因する細胞画像10の画質の低下、画素値が飽和した領域83、および、境界84が明確でない細胞90aを含まない場合に、細胞画像10を適切細胞画像11に分類する。また、画像判定部2bは、適切細胞画像11を記憶部3に記憶する。その後、処理は、終了する。
【0047】
また、ステップ301からステップ303へ処理が進んだ場合、ステップ303において、画像判定部2bは、細胞画像10を不適切細胞画像12に分類する。具体的には、画像判定部2bは、異物80の映り込み、迷光の映り込み、培地に起因する細胞画像10の画質の低下、画素値が飽和した領域83、および、境界84が明確でない細胞90aのうちの少なくとも1つを含む場合に、細胞画像10を不適切細胞画像12に分類する。その後、処理は、終了する。
【0048】
本実施形態では、画像判定部2bは、ステップ301の処理として、細胞画像10が、細胞画像10に写る細胞90のボケ、細胞画像10における異物80の映り込み、細胞画像10における迷光の映り込み、細胞90を培養する際の培地に起因する細胞画像10の画質の低下、細胞画像10における画素値が飽和した領域83、および、細胞90の領域と細胞90以外の領域91との境界84が明確でない細胞90aのうちの少なくとも1つを含むかを判定する。具体的には、画像判定部2bは、ステップ301の処理において、第1学習済みモデル6(
図1参照)を用いて、細胞画像10が適切細胞画像11であるか不適切細胞画像12であるかの判定を行う。また、画像判定部2bは、ステップ301の処理において、細胞画像10に対して画像処理を行うことにより、細胞画像10が、異物80の映り込み、迷光の映り込み、培地に起因する細胞画像10の画質の低下、画素値が飽和した領域83、および、境界84が明確でない細胞90aのうちの少なくとも1つを含むか否かを判定する。すなわち、画像判定部2bは、学習済みモデル6による判定と、画像処理による判定とを併用する。なお、画像判定部2bは、ステップ301の処理において、画像処理によって細胞画像10を判定する場合には、細胞画像10のコントラストに基づいて細胞90のボケの有無、および、境界84が明確でない細胞90aの有無を判定するとともに、細胞画像10の輝度値の分布に基づいて、異物80の映り込みの有無、迷光の映り込みの有無、培地に起因する細胞画像10の画質の低下の有無、および、画素値が飽和した領域83の有無を判定する。
【0049】
細胞画像10のコントラストに基づいて判定する場合、画像判定部2bは、細胞画像10における所定の画素の画素値と、所定の画素と隣接する画素の画素値との差分を求める。また、画像判定部2bは、細胞画像10の横方向において各画素の画素値と隣接する画素の画素値との差分を求め、細胞画像10の横方向において、求めた差分を積算する。また、画像判定部2bは、積算された横方向の画素値の差分を縦方向に積算することにより、細胞画像10全体のコントラストを数値化する。そして、画像判定部2bは、数値化したコントラストが閾値以上であるか否かにより、細胞画像10の細胞90のボケの有無を判定する。すなわち、画像判定部2bは、数値化したコントラストが閾値以上の場合、細胞画像10に写る細胞90にボケはないとし、細胞画像10が判定基準を満たしていると判定する。また、画像判定部2bは、数値化したコントラストが閾値よりも小さい場合、細胞画像10に写る細胞90がボケている、または、境界84が明確でない細胞90aを含むとし、細胞画像10が判定基準を満たしていないと判定する。
【0050】
また、細胞画像10の輝度値の分布に基づいて判定する場合、画像判定部2bは、細胞画像10のうち、一定以下の輝度値を持つ画素が、全体に占める割合を数値化し、数値化した割合が閾値以上であるか否かにより、異物80の映り込み、または、培地に起因する細胞画像10の画質の低下の有無を判定する。すなわち、画像判定部2bは、輝度値が最小値となる画素の割合が閾値以上の場合、異物80の映り込みがあるとし、細胞画像10が判定基準を満たしていないと判定する。また、画像判定部2bは、一定以下の輝度値であり、かつ、最小値でない輝度値を持つ画素の割合が、閾値以上の場合、培地に起因する細胞画像10の画質の低下があるとし、細胞画像10が判定基準を満たしていないと判定する。また、画像判定部2bは、一定以下の輝度値を持つ画素の割合が、閾値よりも小さい場合、異物80の映り込み、または、培地に起因する細胞画像10の画質の低下がないとし、細胞画像10が判定基準を満たしていると判定する。
【0051】
また、画像判定部2bは、細胞画像10のうち、一定以上の輝度値を持つ画素が、全体に占める割合を数値化し、数値化した割合が閾値以上であるか否かにより、迷光の映り込みの有無、培地に起因する細胞画像10の画質の低下の有無、または、画素値が飽和した領域83の有無を判定する。すなわち、画像判定部2bは、輝度値が最大値となる(輝度値が飽和する)画素の割合が、閾値以上の場合、迷光の映り込み、または、画素値が飽和した領域83があるとし、細胞画像10が判定基準を満たしていないと判定する。また、画像判定部2bは、一定以上の輝度値であり、かつ、輝度値が飽和していない画素の割合が閾値以上の場合に、培地に起因する細胞画像10の画質の低下があるとし、細胞画像10が判定基準を満たしていないと判定する。また、画像判定部2bは、一定以上の輝度値を持つ画素の割合が、閾値よりも小さい場合、迷光の映り込み、培地に起因する細胞画像10の画質の低下、または、画素値が飽和した領域83がないとし、細胞画像10が判定基準を満たしていると判定する。
【0052】
本実施形態では、画像判定部2bは、第1学習済みモデル6による解析結果50と、画像処理による解析結果50が異なる場合には、後述する確認ダイアログ44(
図7参照)を表示部4に表示させるか、または、不適切細胞画像12に分類する。
【0053】
なお、第1学習済みモデル6を用いた細胞画像10の解析は、主に、細胞画像10の撮影時、第2学習済みモデル7の生成時、および、第2学習済みモデル7を用いた細胞画像10の解析時に行われる。
【0054】
(細胞画像撮影時における解析処理)
次に、
図6および
図7を参照して、細胞画像解析装置100が、細胞画像10を撮影する際における細胞画像10の解析を行う構成について説明する。
【0055】
図6は、細胞画像10を撮影する際における表示部4に表示される画面を示している。
図6に示すように、細胞画像10を撮影する際における表示部4に表示される画面には、第1表示領域40において、顕微鏡20(
図1参照)で観察している細胞90の画像が表示される。この状態において、操作者が、撮影ボタン41を押下した場合、細胞画像10の撮影が開始される。すなわち、撮影ボタン41が押下された場合、予め設定された撮影位置において、複数の細胞画像10が撮影される。なお、
図6に示すように、画像品質の自動チェック欄42にチェックが入っている場合に、画像判定部2bは、細胞画像10の解析を行う。画像品質の自動チェック欄42にチェックが入っていない場合、画像判定部2bによる細胞画像10の解析は行われない。なお、
図6に示すように、表示部4には、第2表示領域43において、撮影された細胞画像10のイメージが表示される。
【0056】
撮影された細胞画像10に、判定基準を満たしていない画像が含まれる場合、
図7に示すように、判定基準を満たしていない画像とともに、細胞画像10を登録するか否かの確認ダイアログ44が表示部4に表示される。確認ダイアログ44には、破棄ボタン45と、登録ボタン46とが表示されている。破棄ボタン45が押下された場合、制御部2aは、表示された細胞画像10を破棄する。登録ボタン46が押下された場合、制御部2aは、細胞画像10を登録する。すなわち、細胞画像10が不適切細胞画像12と判定された場合でも、操作者が登録ボタン46を押下した場合には、不適切細胞画像12と判定された細胞画像10を適切細胞画像11として記憶部3に記憶する。
【0057】
次に、
図8を参照して、細胞画像10の撮影時における画像解析処理について説明する。
【0058】
ステップ400において、画像取得部1は、細胞画像10を取得する。
【0059】
ステップ401において、画像判定部2bは、細胞画像10の画質が判定基準を満たしているか否かを判定する。細胞画像10の画質が判定基準を満たしている場合、処理は、ステップ402へ進む。細胞画像10の画質が判定基準を満たしていない場合、処理は、ステップ404へ進む。なお、ステップ401の処理は、ステップ301の処理と同様の処理であるため、詳細な説明は省略する。
【0060】
ステップ402において、画像判定部2bは、細胞画像10を適切細胞画像11に分類する。
【0061】
ステップ403において、画像判定部2bは、適切細胞画像11を記憶部3に記憶する。その後、処理は、終了する。
【0062】
ステップ401からステップ404へ処理が進んだ場合、ステップ404において、制御部2aは、細胞画像10が判定基準を満たしていない旨を報知する。具体的には、細胞画像10が不適切細胞画像12に分類された場合に、制御部2aは、
図7に示すように、確認ダイアログ44を表示部4に表示することにより、細胞画像10の解析を行う際に、細胞画像10が解析に適していない旨、または、細胞画像10を解析するための第2学習モデル7aを学習させる際に、第2学習モデル7aに対する解析の学習に適していない旨を報知する。
【0063】
ステップ405において、画像判定部2bは、不適切細胞画像12に分類された細胞画像10を記憶する操作入力を受け付けたか否かを判定する。不適切細胞画像12に分類された細胞画像10を記憶する操作入力を受け付けた場合、処理は、ステップ402へ進む。不適切細胞画像12に分類された細胞画像10を記憶する操作入力を受け付けていない場合、処理は、ステップ406へ進む。
【0064】
ステップ406において、画像判定部2bは、細胞画像10を破棄する操作入力があったか否かを判定する。細胞画像10を破棄する操作入力があった場合、処理は、ステップ407へ進む。細胞画像10を破棄する操作入力がない場合、処理は、ステップ405へ戻る。
【0065】
ステップ407において、画像判定部2bは、細胞画像10を不適切細胞画像12に分類する。その後、処理は、終了する。
【0066】
(第2学習済みモデル生成時における解析処理)
次に、
図9および
図10を参照して、細胞画像解析装置100が、第2学習モデル7aを学習させることにより、第2学習済みモデル7を生成する際における、細胞画像10の解析を行う構成について説明する。なお、第2学習モデル7aは、たとえば、畳み込みニューラルネットワークであるか、畳み込みニューラルネットワークを一部に含む。
【0067】
図9に示すように、本実施形態による学習済みモデル生成部2dは、第2学習モデル7aに対して、細胞画像10を解析させ、解析結果50を出力することを学習させることにより、第2学習済みモデル7を生成するように構成されている。具体的には、画像取得部1は、細胞画像10を取得し、取得した細胞画像10を画像判定部2bへ出力する。解析結果50は、細胞画像10に写る細胞90がどのような細胞であるかのラベルを含む。すなわち、第2学習済みモデル7は、細胞画像10を入力データとし、入力された細胞画像10に写る細胞90が未分化細胞であるか未分化逸脱細胞であるかのラベルを出力データとして学習される。
【0068】
細胞画像10が入力された画像判定部2bは、細胞画像10が適切細胞画像11であるか、不適切細胞画像12であるかの判定を行う。本実施形態では、画像判定部2bは、第1学習済みモデル6、または、画像処理により、細胞画像10の分類を行う。
【0069】
学習済みモデル生成部2dは、画像判定部2bによって分類された適切細胞画像11を用いて、第2学習モデル7aに対して解析結果50を出力させることを学習させる。本実施形態では、学習済みモデル生成部2dは、適切細胞画像11に写る細胞90が、未分化細胞であるか未分化逸脱細胞であるかを、解析結果50として出力させることを第2学習モデル7aに学習させる。また、生成された第2学習済みモデル7は、記憶部3に記憶される。
【0070】
図10は、第2学習モデル7aの学習が完了し、第2学習済みモデル7の生成が完了した際に表示部4に表示される画面の模式図である。
【0071】
制御部2aは、第2学習済みモデル7の生成が完了した旨のメッセージ51を、表示部4に表示させる。また、制御部2aは、学習結果一覧52を表示部4に表示させる。
【0072】
本実施形態では、制御部2aは、学習結果一覧52として、学習結果の性能52a、学習対象画像の一覧52b、および、学習から除外した画像の一覧52cを表示部4に表示させる。なお、
図10に示す例では、制御部2aは、Accuracy(正確さ)、Precision(精度)、Recall(再現率)、IoU(Intersection over Union)を学習結果の性能52aとして表示させている。
【0073】
次に、
図11を参照して、第2学習済みモデル7の生成処理について説明する。
【0074】
ステップ500において、画像判定部2bは、学習対象の候補となる細胞画像10を取得する。
【0075】
ステップ501において、画像判定部2bは、細胞画像10の画質が判定基準を満たしているか否かを判定する。細胞画像10の画質が判定基準を満たしている場合、処理は、ステップ502へ進む。細胞画像10の画質が判定基準を満たしていない場合、処理は、ステップ503へ進む。なお、ステップ501の処理を行う際に、細胞画像10に対して細胞画像分類ラベル13が付されている場合には、細胞画像分類ラベル13を優先して細胞画像10の判定を行う。すなわち、予め細胞画像分類ラベル13の0が付されている場合には、判定基準を満たしていないとしても、適切細胞画像11に分類する。
【0076】
ステップ502において、画像判定部2bは、細胞画像10を適切細胞画像11に分類する。
【0077】
ステップ501からステップ503へ処理が進んだ場合、ステップ503において、画像判定部2bは、細胞画像10を不適切細胞画像12に分類する。
【0078】
ステップ504において、画像判定部2bは、不適切細胞画像12を学習から除外する。すなわち、画像判定部2bは、細胞画像10が不適切細胞画像12に分類された場合に、細胞画像10を、第2学習モデル7aに対する細胞画像10の解析の学習から除外する。
【0079】
ステップ505において、画像判定部2bは、学習対象の候補となる全ての画像が判定基準を満たしているか否かを確認したかを判定する。画像判定部2bが学習対象の候補となる全ての画像が判定基準を満たしているか否かを確認した場合、処理は、ステップ506へ進む。画像判定部2bが学習対象の候補となる全ての画像が判定基準を満たしているか否かを確認していない場合、処理は、ステップ500へ進む。
【0080】
ステップ506において、学習済みモデル生成部2dは。第2学習モデル7aを学習させる。本実施形態では、学習済みモデル生成部2dは、適切細胞画像11に分類された細胞画像10を用いて、第2学習モデル7aに解析を学習させることにより、第2学習済みモデル7を生成する。
【0081】
ステップ507において、制御部2aは、学習対象画像の一覧52bおよび学習から除外した画像の一覧52cを表示部4に表示させる。なお、本実施形態では、制御部2aは、第2学習済みモデル7の生成が完了した旨のメッセージ51、および、学習結果の性能52aも、表示部4に表示させる。その後、処理は、終了する。
【0082】
(細胞画像の解析処理)
次に、
図12および
図13を参照して、画像解析部2cが、細胞画像10を解析する構成について説明する。
【0083】
図12に示すように、本実施形態による画像解析部2cは、細胞画像10を解析することにより、解析結果50を出力するように構成されている。具体的には、画像取得部1は、細胞画像10を取得し、取得した細胞画像10を画像判定部2bへ出力する。
【0084】
画像判定部2bは、細胞画像10が適切細胞画像11であるか不適切細胞画像12であるかの判定を行う。本実施形態では、画像判定部2bは、第1学習済みモデル6、および、画像処理により、細胞画像10の分類を行う。
【0085】
画像解析部2cは、適切細胞画像11を用いて、画像の解析を行う。画像解析部2cは、適切細胞画像11を解析した解析結果50を出力する。本実施形態では、制御部2aは、解析結果50を表示部4に表示させる。
【0086】
図13は、細胞画像10の解析が完了し、解析結果50を表示部4に表示させた際の模式図である。
【0087】
制御部2aは、細胞画像10の解析が完了した旨のメッセージ60を、表示部4に表示させる。また、制御部2aは、解析結果50の一覧を表示部4に表示させる。
【0088】
本実施形態では、制御部2aは、解析結果50の一覧として、解析項目50a、解析対象画像の一覧50b、および、解析から除外した画像の一覧50cを表示部4に表示させる。なお、
図13に示す例では、制御部2aは、細胞画像10に写る細胞がどのような細胞であるかのラベルを解析項目50aとして表示させている。すなわち、制御部2aは、解析項目50aとして、細胞画像10に写る細胞90が、Aである確率と、Bである確率と、Cである確率とを表示させる。
【0089】
次に、
図14を参照して、細胞画像10の解析処理について説明する。
【0090】
ステップ600において、画像判定部2bは、解析対象の候補となる細胞画像10を取得する。
【0091】
ステップ601において、画像判定部2bは、細胞画像10の画質が判定基準を満たしているか否かを判定する。細胞画像10の画質が判定基準を満たしている場合、処理は、ステップ602へ進む。細胞画像10の画質が判定基準を満たしていない場合、処理は、ステップ603へ進む。なお、ステップ601の処理を行う際に、細胞画像10に対して細胞画像分類ラベル13が付されている場合には、細胞画像分類ラベル13を優先して細胞画像10の判定を行う。すなわち、予め細胞画像分類ラベル13の0が付されている場合には、判定基準を満たしていないとしても、適切細胞画像11に分類する。
【0092】
ステップ602において、画像判定部2bは、細胞画像10を適切細胞画像11に分類する。
【0093】
ステップ601からステップ603へ処理が進んだ場合、ステップ603において、画像判定部2bは、細胞画像10を不適切細胞画像12に分類する。
【0094】
ステップ604において、画像判定部2bは、不適切細胞画像12を解析から除外する。すなわち、画像判定部2bは、細胞画像10が不適切細胞画像12であると分類された場合に、細胞画像10を解析から除外する。
【0095】
ステップ605において、画像判定部2bは、解析対象の候補となる全ての画像が判定基準を満たしているか否かを確認したかを判定する。画像判定部2bが解析対象の候補となる全ての細胞画像10が判定基準を満たしているか否かを確認した場合、処理は、ステップ606へ進む。画像判定部2bが解析対象の候補となる全ての細胞画像10が判定基準を満たしているか否かを確認していない場合、処理は、ステップ600へ進む。
【0096】
ステップ606において、画像解析部2cは、細胞画像10の解析を行う。本実施形態では、画像解析部2cは、適切細胞画像11に分類された細胞画像10を用いて解析を行う。
【0097】
ステップ607において、制御部2aは、解析対処画像の一覧61bおよび解析から除外した画像の一覧50cを表示部4に表示させる。なお、本実施形態では、制御部2aは、細胞画像10の解析が完了した旨のメッセージ60、および、解析項目50aも、表示部4に表示させる。その後、処理は、終了する。
【0098】
(本実施形態の効果)
本実施形態では、以下のような効果を得ることができる。
【0099】
本実施形態では、上記のように、細胞画像解析方法は、細胞画像10を取得するステップと、細胞画像10が、細胞画像10に写る細胞90のボケ、細胞画像10における異物80の映り込み、細胞画像10における迷光の映り込み、細胞90を培養する際の培地に起因する細胞画像10の画質の低下、細胞画像10における画素値が飽和した領域83、および、細胞90の領域と細胞90以外の領域91との境界84が明確でない細胞90aのうちの少なくとも1つを含むかを判定するステップと、細胞画像10が、細胞90のボケ、異物80の映り込み、迷光の映り込み、培地に起因する細胞画像10の画質の低下、画素値が飽和した領域83、および、境界84が明確でない細胞90aを含まない場合に、細胞画像10を適切細胞画像11に分類し、細胞90のボケ、異物80の映り込み、迷光の映り込み、培地に起因する細胞画像10の画質の低下、画素値が飽和した領域83、および、境界84が明確でない細胞90aのうちの少なくとも1つを含む場合には、細胞画像10を不適切細胞画像12に分類するステップと、を備える。これにより、細胞90のボケ、異物80の映り込み、迷光の映り込み、培地に起因する細胞画像10の画質の低下、画素値が飽和した領域83、および、境界84が明確でない細胞90aを含まない適切細胞画像11のみを解析に用いることができる。その結果、不適切細胞画像12が含まれた細胞画像10を用いて解析が行われることを抑制することが可能となるので、細胞画像10の解析の精度が低下することを抑制することができる。
【0100】
また、上記実施形態では、以下のように構成したことによって、下記のような更なる効果が得られる。
【0101】
すなわち、本実施形態では、上記のように、細胞画像10は、容器によって培養される培養細胞90を撮影した画像であり、判定するステップは、細胞画像10の解析を行うために細胞画像10を分類する際に、細胞画像10の画質が細胞画像10の解析に適しているか否かの判定、および、細胞画像10を解析するための第2学習モデル7aの学習に用いる細胞画像10を分類する際に、細胞画像10の画質が第2学習モデル7aに対する解析の学習に適しているか否かの判定の少なくともいずれかのための判定基準を満たしているか否かを判定する。これにより、上記判定基準によって細胞画像10を判定することにより、細胞画像10の解析に適する画像であるか否か、および、第2学習モデル7aに対する解析の学習に適しているか否かを容易に判定することができる。
【0102】
また、本実施形態では、上記のように、判定基準は、細胞90のボケの有無、異物80の映り込みの有無、迷光の映り込みの有無、培地に起因する細胞画像10の画質の低下の有無、画素値が飽和した領域83の有無、および、境界84が明確でない細胞90aの有無を含む。これにより、細胞90がボケた状態で写る細胞画像10、異物80が映り込む細胞画像10、迷光が映り込む細胞画像10、培地に起因して画質が低下した細胞画像10、画素値が飽和した領域83を含む細胞画像10、および、境界84が明確でない細胞90aを含む細胞画像10を不適切細胞画像12に分類することができる。その結果、細胞90がボケた状態で写る細胞画像10、異物80が映り込む細胞画像10、迷光が映り込む細胞画像10、培地に起因して画質が低下した細胞画像10、画素値が飽和した領域83を含む細胞画像10、および、境界84が明確でない細胞90aを含む細胞画像10に起因して、細胞画像10の解析、または、第2学習モデル7aの学習の精度が低下することを抑制することができる。
【0103】
また、本実施形態では、上記のように、適切細胞画像11と不適切細胞画像12とを学習させることにより、細胞画像10が判定基準を満たしているか否かを判定することを学習させた第1学習済みモデル6を作成するステップをさらに備え、判定するステップにおいて、第1学習済みモデル6を用いて、細胞画像10が適切細胞画像11であるか不適切細胞画像12であるかの判定を行う。これにより、画像処理によって判定することが困難な場合でも、細胞画像10が適切細胞画像11であるか不適切細胞画像12であるかを判定することができる。
【0104】
また、本実施形態では、上記のように、適切細胞画像11の画質を劣化させる画像処理を行うことにより、不適切細胞画像12を生成するステップをさらに備え、第1学習済みモデル6を作成するステップにおいて、適切細胞画像11と、適切細胞画像11から生成された不適切細胞画像12とに基づいて、第1学習済みモデル6を作成する。これにより、第1学習済みモデル6を作成する際に、充分な数の不適切細胞画像12を撮影などにより取得することで困難な場合でも、適切細胞画像11から不適切細胞画像12を生成することにより、充分な数の不適切細胞画像12を取得することができる。その結果、第1学習済みモデル6を生成する際に充分な数の適切細胞画像11および不適切細胞画像12を用いることが可能となるので、第1学習済みモデル6の学習精度を向上させることができる。
【0105】
また、本実施形態では、上記のように、不適切細胞画像12を生成するステップにおいて、適切細胞画像11の画質を劣化させる画像処理のパラメータを変更し、適切細胞画像11としての許容範囲に入る画像と、許容範囲に入らない画像とを作成する。これにより、適切細胞画像11から不適切細胞画像12を生成する際に、適切細胞画像11の許容範囲に入る画像を生成することにより、不適切細胞画像12のみならず、適切細胞画像11の数を増加させることができる。その結果、第1学習済みモデル6の生成に用いる画像の数をさらに増加させることが可能となるので、第1学習済みモデル6の学習精度をさらに向上させることができる。
【0106】
また、本実施形態では、上記のように、判定するステップにおいて、細胞画像10に対して画像処理を行うことにより、細胞画像10が、細胞90のボケ、異物80の映り込み、迷光の映り込み、培地に起因する細胞画像10の画質の低下、画素値が飽和した領域83、および、境界84が明確でない細胞90aのうちの少なくとも1つを含むか否かを判定する。これにより、異物80の映り込みなど、画像処理によって容易に判定することが可能な場合に、学習済みモデルを用いることなく、細胞画像10が適切細胞画像11であるか不適切細胞画像12であるかを判定することができる。
【0107】
また、本実施形態では、上記のように、判定するステップにおいて、細胞画像10のコントラストに基づいて細胞90のボケの有無を判定するとともに、細胞画像10の輝度値の分布に基づいて、異物80の映り込みの有無、迷光の映り込みの有無、培地に起因する細胞画像10の画質の低下の有無、画素値が飽和した領域83の有無、および、境界84が明確でない細胞90aの有無を判定する。これにより、細胞画像10のコントラスト、および、輝度値の分布を取得することにより、細胞画像10が適切細胞画像11であるか不適切細胞画像12であるかを容易に判定することができる。
【0108】
また、本実施形態では、上記のように、細胞画像10が不適切細胞画像12であると分類された場合に、細胞画像10を解析から除外するステップと、適切細胞画像11に分類された細胞画像10を用いて解析を行うステップと、をさらに備える。これにより、細胞画像10の解析に不適切細胞画像12が含まれることを抑制することができる。その結果、細胞画像10の解析の精度を向上させることができる。
【0109】
また、本実施形態では、上記のように、細胞画像10が不適切細胞画像12に分類された場合に、細胞画像10の解析を行う際に細胞画像10が解析に適していない旨、または、細胞画像10を解析するための第2学習モデル7aを学習させる際に、第2学習モデル7aに対する解析の学習に適していない旨を報知するステップ、をさらに備える。これにより、たとえば、細胞画像10を撮影する際に、撮影した画像が適切細胞画像11であるか不適切細胞画像12であるかをユーザに把握させることができる。その結果、ユーザの利便性を向上させることができる。また、不適切細胞画像12が含まれていることを、細胞画像10の撮影時にユーザに把握させることが可能となるので、細胞画像10を再撮影することを抑制することができる。その結果、再撮影を行うことによる操作者の負担を軽減することができる。
【0110】
また、本実施形態では、上記のように、細胞画像10が不適切細胞画像12に分類された場合に、細胞画像10を、第2学習モデル7aに対する細胞画像10の解析の学習から除外するステップと、適切細胞画像11に分類された細胞画像10を用いて、第2学習モデル7aに解析を学習させるステップ、をさらに備える。これにより、第2学習モデル7aに対して細胞画像10を解析させることを学習させる際に、不適切細胞画像12を用いて学習させることを抑制することができる。その結果、第2学習モデル7aの学習精度を向上させることが可能となるので、第2学習済みモデル7の解析制度を向上させることができる。
【0111】
[変形例]
今回開示された実施形態は、全ての点で例示であり制限的なものではないと考えられるべきである。本発明の範囲は上記実施形態の説明ではなく特許請求の範囲によって示され、さらに特許請求の範囲と均等の意味および範囲内での全ての変更(変形例)が含まれる。
【0112】
たとえば、上記実施形態では、画像判定部2bが、第1学習済みモデル6、および、画像処理を併用することにより、細胞画像10が適切細胞画像11であるか不適切細胞画像12であるかを判定する構成の例を示したが、本発明がこれに限られない。たとえば、画像判定部2bは、第1学習済みモデル6、または、画像処理のいずれかにより、細胞画像10を分類するように構成されていてもよい。
【0113】
また、上記実施形態では、画像判定部2bが、操作者の操作入力に基づいて、不適切細胞画像12を適切細胞画像11に分類する構成の例を示したが、本発明はこれに限られない。たとえば、画像判定部2bが不適切細胞画像12に分類した場合には、操作者の操作入力によらず、適切細胞画像11に分類しないように構成されていてもよい。すなわち、画像判定部2bが一旦不適切細胞画像12に分類した場合、その後に適切細胞画像11に分類しないように構成されていてもよい。
【0114】
また、上記実施形態では、学習済みモデル生成部2dが、第1学習済みモデル6、および、第2学習済みモデル7を生成する構成の例を示したが、本発明はこれに限られない。たとえば、第1学習済みモデル6、および、第2学習モデル7aは、細胞画像解析装置100とは異なる装置によって生成されてもよい。
【0115】
また、上記実施形態では、不適切細胞画像生成部2eが、適切細胞画像11に対して画像処理を行うことにより、不適切細胞画像12を生成する構成の例を示したが、本発明はこれに限られない。たとえば、細胞画像解析装置100は、細胞画像解析装置100とは異なる装置によって生成された不適切細胞画像12を取得するように構成されていてもよい。
【0116】
また、上記実施形態では、不適切細胞画像生成部2eが、適切細胞画像11の許容範囲に入る画像を生成する構成の例を示したが、本発明はこれに限られない。たとえば、不適切細胞画像生成部2eは、不適切細胞画像12のみを生成するように構成されていてもよい。
【0117】
また、上記実施形態では、細胞画像解析装置100が、細胞画像10の撮影時、第1学習済みモデル6の生成時、および、細胞画像10の解析時にいずれにも用いられる構成の例を示したが、本発明はこれに限られない。たとえば、細胞画像解析装置100は、細胞画像10の撮影時、第1学習済みモデル6の生成時、および、細胞画像10の解析時のうちのいずれか1つにおいて用いられてもよい。また、細胞画像解析装置100は、細胞画像10の撮影時、第1学習済みモデル6の生成時、および、細胞画像10の解析時のうちのいずれか2つにおいて用いられてもよい。
【0118】
[態様]
上記した例示的な実施形態は、以下の態様の具体例であることが当業者により理解される。
【0119】
(項目1)
細胞画像を取得するステップと、
前記細胞画像が、前記細胞画像に写る細胞のボケ、前記細胞画像における異物の映り込み、前記細胞画像における迷光の映り込み、前記細胞を培養する際の培地に起因する前記細胞画像の画質の低下、前記細胞画像における画素値が飽和した領域、および、前記細胞と前記細胞以外の領域との境界が明確でない前記細胞のうちの少なくとも1つを含むか否かを判定するステップと、
前記細胞画像が、前記細胞のボケ、前記異物の映り込み、前記迷光の映り込み、前記培地に起因する前記細胞画像の画質の低下、前記画素値が飽和した領域、および、前記境界が明確でない前記細胞を含まない場合に、前記細胞画像を適切細胞画像に分類し、前記細胞のボケ、前記異物の映り込み、前記迷光の映り込み、前記培地に起因する前記細胞画像の画質の低下、前記画素値が飽和した領域、および、前記境界が明確でない前記細胞のうちの少なくとも1つを含む場合には、前記細胞画像を不適切細胞画像に分類するステップと、を備える、細胞画像解析方法。
【0120】
(項目2)
前記細胞画像は、容器によって培養される培養細胞を撮影した画像であり、
前記判定するステップにおいて、前記細胞画像の解析を行うために前記細胞画像を分類する際に、前記細胞画像の画質が前記細胞画像の前記解析に適しているか否かの判定、および、前記細胞画像を解析するための学習モデルの学習に用いる前記細胞画像を分類する際に、前記細胞画像の画質が前記学習モデルに対する前記解析の学習に適しているか否かの判定の少なくともいずれかのための判定基準を満たしている否かを判定する、項目1に記載の細胞画像解析方法。
【0121】
(項目3)
前記判定基準は、前記細胞のボケの有無、前記異物の映り込みの有無、前記迷光の映り込みの有無、前記培地に起因する前記細胞画像の画質の低下の有無、前記画素値が飽和した領域の有無、および、前記境界が明確でない前記細胞の有無を含む、項目2に記載の細胞画像解析方法。
【0122】
(項目4)
前記適切細胞画像と前記不適切細胞画像とを学習させることにより、前記細胞画像が前記判定基準を満たしているか否かを判定することを学習させた第1学習済みモデルを作成するステップをさらに備え、
前記判定するステップにおいて、前記第1学習済みモデルを用いて、前記細胞画像が前記適切細胞画像であるか前記不適切細胞画像であるかの判定を行う、項目2または3に記載の細胞画像解析方法。
【0123】
(項目5)
前記適切細胞画像の画質を劣化させる画像処理を行うことにより、前記不適切細胞画像を生成するステップをさらに備え、
前記第1学習済みモデルを作成するステップにおいて、前記適切細胞画像と、前記適切細胞画像から生成された前記不適切細胞画像とに基づいて、前記第1学習済みモデルを作成する、項目4に記載の細胞画像解析方法。
【0124】
(項目6)
前記不適切細胞画像を生成するステップにおいて、前記適切細胞画像の画質を劣化させる画像処理のパラメータを変更し、前記適切細胞画像としての許容範囲に入る画像と、前記許容範囲に入らない画像とを作成する、項目5に記載の細胞画像解析方法。
【0125】
(項目7)
前記判定するステップにおいて、前記細胞画像に対して画像処理を行うことにより、前記細胞画像が、前記細胞のボケ、前記異物の映り込み、前記迷光の映り込み、前記培地に起因する前記細胞画像の画質の低下、前記画素値が飽和した領域、および、前記境界が明確でない前記細胞のうちの少なくとも1つを含むか否かを判定する、項目1~6のいずれか1項に記載の細胞画像解析方法。
【0126】
(項目8)
前記判定するステップにおいて、前記細胞画像のコントラストに基づいて前記細胞のボケの有無を判定するとともに、前記細胞画像の輝度値の分布に基づいて、前記異物の映り込みの有無、前記迷光の映り込みの有無、前記培地に起因する前記細胞画像の画質の低下の有無、前記画素値が飽和した領域の有無、および前記境界が明確でない前記細胞の有無を判定する、項目7に記載の細胞画像解析方法。
【0127】
(項目9)
前記細胞画像が前記不適切細胞画像であると分類された場合に、前記細胞画像を解析から除外するステップと、
前記適切細胞画像に分類された前記細胞画像を用いて前記解析を行うステップと、をさらに備える、項目1~8のいずれか1項に記載の細胞画像解析方法。
【0128】
(項目10)
前記細胞画像が前記不適切細胞画像に分類された場合に、前記細胞画像の前記解析を行う際に、前記細胞画像が解析に適していない旨、または、前記細胞画像を解析するための前記学習モデルを学習させる際に、前記学習モデルに対する前記解析の学習に適していない旨を報知するステップ、をさらに備える、項目1~8のいずれか1項に記載の細胞画像解析方法。
【0129】
(項目11)
前記細胞画像が前記不適切細胞画像に分類された場合に、前記細胞画像を、学習モデルに対する前記細胞画像の解析の学習から除外するステップと、
前記適切細胞画像に分類された前記細胞画像を用いて、前記学習モデルに前記解析を学習させるステップ、をさらに備える、項目1~8のいずれか1項に記載の細胞画像解析方法。
【符号の説明】
【0130】
6 第1学習済みモデル
7 第2学習済みモデル
7a 第2学習モデル(学習モデル)
10 細胞画像
11 適切細胞画像
12、12a、12b、12c、12d 不適切細胞画像
80 異物
83 画素値が飽和した領域
84 境界(細胞の領域と細胞以外の領域との境界)
90 細胞(培養細胞)
90a 細胞(境界が明確でない細胞)