IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 合同会社みらか中央研究所の特許一覧

特開2022-46265菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム
<>
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図1
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図2
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図3
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図4
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図5
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図6
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図7
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図8
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図9
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図10
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図11
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図12
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図13
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図14
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図15
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図16
  • 特開-菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム 図17
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022046265
(43)【公開日】2022-03-23
(54)【発明の名称】菌種同定支援方法、マルチコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラム
(51)【国際特許分類】
   G01N 21/17 20060101AFI20220315BHJP
   G06N 20/00 20190101ALI20220315BHJP
   C12M 1/34 20060101ALN20220315BHJP
   C12Q 1/04 20060101ALN20220315BHJP
【FI】
G01N21/17 A
G06N20/00
C12M1/34 B
C12Q1/04
【審査請求】未請求
【請求項の数】18
【出願形態】OL
(21)【出願番号】P 2020152208
(22)【出願日】2020-09-10
(71)【出願人】
【識別番号】517448489
【氏名又は名称】合同会社H.U.グループ中央研究所
(74)【代理人】
【識別番号】100114557
【弁理士】
【氏名又は名称】河野 英仁
(74)【代理人】
【識別番号】100078868
【弁理士】
【氏名又は名称】河野 登夫
(72)【発明者】
【氏名】山下 英俊
(72)【発明者】
【氏名】竹中 福太
(72)【発明者】
【氏名】植松 昭彦
(72)【発明者】
【氏名】森 邦義
【テーマコード(参考)】
2G059
4B029
4B063
【Fターム(参考)】
2G059AA05
2G059AA06
2G059BB12
2G059CC16
2G059DD17
2G059FF01
2G059MM01
2G059MM02
4B029AA07
4B029AA27
4B029BB02
4B029CC02
4B029CC07
4B029FA01
4B029GA01
4B063QA01
4B063QA18
4B063QQ06
4B063QR66
4B063QR90
4B063QS39
4B063QX01
4B063QX10
(57)【要約】
【課題】マルチコロニーに含まれる複数の菌種を特定することができる菌種同定支援方法を提供する。
【解決手段】培養された複数種類の細菌によって形成された複数のコロニーが集まってなるマルチコロニーを含む培地の画像を取得し、マルチコロニーを含む画像が入力された場合、画像認識を行い、該マルチコロニーを形成する細菌の種類を示す情報を出力するマルチコロニー学習モデルに、取得した画像を入力することによって、マルチコロニーに含まれる複数の菌種を特定する。
【選択図】図2
【特許請求の範囲】
【請求項1】
培養された複数種類の細菌によって形成された複数のコロニーが集まってなるマルチコロニーを含む培地の画像を取得し、
マルチコロニーを含む画像が入力された場合、画像認識を行い、該マルチコロニーを形成する細菌の種類を示す情報を出力するマルチコロニー学習モデルに、取得した画像を入力することによって、マルチコロニーに含まれる複数の菌種を特定する
菌種同定支援方法。
【請求項2】
培養された細菌によって形成されたシングルコロニーと、培養された複数種類の細菌によって形成された複数のコロニーが集まってなるマルチコロニーとを含む培地の画像を取得し、
シングルコロニーを含む画像が入力された場合、該シングルコロニーの位置及び該シングルコロニーを形成する菌種を示す情報を出力するシングルコロニー学習モデルに、取得した画像を入力することによって、シングルコロニーの位置及び菌種を特定し、
前記マルチコロニー学習モデルに、取得した画像を入力することによって、マルチコロニーに含まれる複数の菌種を特定する
請求項1に記載の菌種同定支援方法。
【請求項3】
前記マルチコロニー学習モデルは、マルチコロニーを構成する複数の菌種のコロニーの位置を認識せず、マルチコロニーに含まれる複数の菌種を示す情報を出力する
請求項2に記載の菌種同定支援方法。
【請求項4】
取得した培地の画像を複数の小画像に分割し、
分割された小画像を前記シングルコロニー学習モデルに入力することによって、シングルコロニーの位置及び菌種を特定する
請求項2又は請求項3に記載の菌種同定支援方法。
【請求項5】
前記シングルコロニー学習モデルは、
物体検出モデルを用いてシングルコロニーの位置及び大きさを検出し、
単一のシングルコロニーを含む画像を切り出し、
切り出された画像を画像認識モデルに入力することによって、シングルコロニーの菌種を特定する
請求項2から請求項4のいずれか1項に記載の菌種同定支援方法。
【請求項6】
取得した培地の画像を単一のシングルコロニーを含む複数の小画像に分割し、
分割された小画像を前記シングルコロニー学習モデルに入力することによって、シングルコロニーの位置及び菌種を特定する
請求項2又は請求項3に記載の菌種同定支援方法。
【請求項7】
特定されたシングルコロニーよりも大きなコロニーをマルチコロニーとして特定し、
特定されたマルチコロニーの画像を前記マルチコロニー学習モデルに入力することによって、マルチコロニーに含まれる複数の菌種を特定する
請求項6に記載の菌種同定支援方法。
【請求項8】
前記シングルコロニー学習モデルが出力する菌種を示す情報は、特定の菌種のグループを示す情報である
請求項2から請求項7のいずれか1項に記載の菌種同定支援方法。
【請求項9】
シングルコロニーを形成するものとして特定された菌種が、該シングルコロニーを形成している確率を特定する
請求項2から請求項8のいずれか1項に記載の菌種同定支援方法。
【請求項10】
特定された菌種及び前記確率を表示する
請求項9に記載の菌種同定支援方法。
【請求項11】
指定確率を受け付け、
培地の画像と共に、受け付けた指定確率以上若しくは指定確率以下の前記確率を有するシングルコロニーをマークする画像、指定確率以上若しくは指定確率以下の前記確率を有するシングルコロニー以外の画像をマスクする画像、又は指定確率以上若しくは指定確率以下の前記確率を有するシングルコロニーをマスクする画像を表示する
請求項10に記載の菌種同定支援方法。
【請求項12】
マルチコロニーを形成するものとして特定された前記複数の菌種が、該マルチコロニーを形成している確率を算出する
請求項1から請求項11のいずれか1項に記載の菌種同定支援方法。
【請求項13】
特定された菌種の種類の修正を受け付け、
修正を受け付けた場合、特定された菌種の種類を変更する
請求項1から請求項12のいずれか1項に記載の菌種同定支援方法。
【請求項14】
培養された複数種類の細菌によって形成された複数のコロニーが集まってなるマルチコロニーを含む培地の画像が入力された場合、該マルチコロニーを形成する細菌の種類を示す情報を出力するマルチコロニー学習モデルの生成方法であって、
培養された複数の細菌によって形成されたマルチコロニーを含む画像を取得し、
取得した画像に、前記複数の細菌の菌種を示す教師データを付与することによって学習用データを作成し、
マルチコロニーを含む培地の画像が入力された場合、該画像の教師データが示す複数の菌種が出力されるように、学習モデルを機械学習させる
マルチコロニー学習モデルの生成方法。
【請求項15】
取得した画像に含まれる複数のシングルコロニーの菌種を特定し、
マルチコロニーを含む画像に、特定された複数の菌種を示す教師データを付与することによって学習用データを作成する
請求項14に記載のマルチコロニー学習モデルの生成方法。
【請求項16】
培養された複数の細菌によって形成された複数のシングルコロニーを含む第1の時点における培養中画像と、前記複数のシングルコロニーが成長してなるマルチコロニーを含む第2の時点における画像とを取得し、
第1の時点における培養中画像に基づいて、複数の菌種を特定し、
第2の時点におけるマルチコロニーを含む画像に、特定された複数の菌種を示す教師データを付与することによって、学習用データを作成する
請求項14に記載のマルチコロニー学習モデルの生成方法。
【請求項17】
培養された複数種類の細菌によって形成された複数のコロニーが集まってなるマルチコロニーを含む培地の画像を取得する取得部と、
マルチコロニーを含む画像が入力された場合、画像認識を行い、該マルチコロニーを形成する細菌の種類を示す情報を出力するマルチコロニー学習モデルと
を備え、前記取得部が取得した画像を入力することによって、マルチコロニーに含まれる複数の菌種を特定する
菌種同定支援装置。
【請求項18】
培養された複数種類の細菌によって形成された複数のコロニーが集まってなるマルチコロニーを含む培地の画像を取得し、
マルチコロニーを含む画像が入力された場合、画像認識を行い、該マルチコロニーを形成する細菌の種類を示す情報を出力するマルチコロニー学習モデルに、取得した画像を入力することによって、マルチコロニーに含まれる複数の菌種を特定する
処理をコンピュータに実行させるためのコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、菌種同定支援方法、マルチコロニー学習モデルの生成方法、シングルコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラムに関する。
【背景技術】
【0002】
感染症は、細菌等が身体に侵入することにより引き起こされる。感染した細菌を同定することにより、感染症が特定され、治療又は感染拡大の防止等の対処が可能となる。病院等の医療施設では、患者の診察を行い、感染症の疑いがある場合は、患者から検体を採取し、検査機関に検査の依頼をする。検査機関では、検体に含まれる細菌を同定する検査を行う。細菌の同定検査では、多くの同定キットが開発されているが、同定キットに使用できる検体は、純分離株だけである。そのため、細菌の同定検査では、まず細菌を分離培養することが必要となる。また分離培養後に、どの同定キットを使用するのが適切か、おおよその推定が可能である。具体的には、分離株の培養時の発育性や培養条件、コロニーの性状(色、臭い、溶血性、自己融解、培地への食い込み、遊走、滑走、等)やグラム染色所見、等を検査技師が観察することにより、菌種のおおよその推定が可能である。細菌同定検査では、正確性、簡便性、迅速性、経済効率が求められることから、このような分離株の菌種推定結果に従い、その株の判定に適した同定キットを推定し、その推定が正しかった場合だけ適切に細菌の同定ができる。しかし推定が正しくない場合は細菌を同定することができず、再度推定が必要となる。菌種の推定は、推定回数に合わせて、1次判読(1次読影)、2次判読(2次読影)、等と呼ばれる。このような検査手順は一般的な細菌同定法である。一方、近年、ゲノム塩基配列を同定するシーケンサーや質量分析装置により、細菌の同定が可能になったが、正確な菌種同定に分離培養が必要な点は変わらない。
なお細菌は1つの細胞が2分裂することで増殖し、1細胞は肉眼で見えないが、例えば1千万個以上に増殖すれば、平板培地(寒天培地)上で集落(コロニー)を形成し、肉眼で確認できる。そして1つのコロニーは1細胞に由来することから、コロニー数を数えることで、培養前における検体中の菌量(菌数)を特定できる。
【0003】
特許文献1には、培地に形成された細菌のコロニーに対して可視光が照射された状態でコロニーを撮影した画像である可視光照射画像を取得する可視光照射画像取得部と、コロニーに対して非可視光が照射された状態でコロニーを撮影した画像である非可視光照射画像を取得する非可視光照射画像取得部と、可視光照射画像と非可視光照射画像とに基づいて、コロニーを形成している細菌を識別するコロニー識別部と、を備えるコロニー識別システムが開示されている。
【0004】
特許文献2には、光学的に透明な容器に収納された培地上に培養した細菌コロニーを照明する照明手段と、照明光を光学的に透明な容器と培地を透過させて該細菌コロニーを照明する透過照明手段と、各照明手段で照明された細菌コロニーを撮像する撮像手段と、複数の細菌種について複数の培養時間における細菌コロニーの画像及びスペクトルデータを格納したデータベースと、撮像手段で撮像された該細菌コロニーの撮像画像をデータベースに格納された情報と比較して、該細菌コロニーの種類を識別する信号処理部と、を備える細菌コロニーの同定装置が開示されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2012-135240号公報
【特許文献2】特開2020-18249号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明の目的は、マルチコロニーに含まれる複数の菌種を特定することができる菌種同定支援方法、マルチコロニー学習モデルの生成方法、シングルコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラムを提供することにある。
【課題を解決するための手段】
【0007】
本態様に係る菌種同定支援方法は、培養された複数種類の細菌によって形成された複数のコロニーが集まってなるマルチコロニーを含む培地の画像を取得し、マルチコロニーを含む画像が入力された場合、画像認識を行い、該マルチコロニーを形成する細菌の種類を示す情報を出力するマルチコロニー学習モデルに、取得した画像を入力することによって、マルチコロニーに含まれる複数の菌種を特定する。
【0008】
本態様に係るマルチコロニー学習モデルの生成方法は、培養された複数種類の細菌によって形成された複数のコロニーが集まってなるマルチコロニーを含む培地の画像が入力された場合、該マルチコロニーを形成する細菌の種類を示す情報を出力するマルチコロニー学習モデルの生成方法であって、培養された複数の細菌によって形成されたマルチコロニーを含む画像を取得し、取得した画像に、前記複数の細菌の菌種を示す教師データを付与することによって学習用データを作成し、マルチコロニーを含む培地の画像が入力された場合、該画像の教師データが示す複数の菌種が出力されるように、学習モデルを機械学習させる。
【0009】
本態様に係るシングルコロニー学習モデルの生成方法は、培養された細菌によって形成されたシングルコロニーを含む培地の画像が入力された場合、該シングルコロニーの位置及び該シングルコロニーを形成する菌種を示す情報を出力するシングルコロニー学習モデルの生成方法であって、培養された第1菌種の細菌によって形成されたシングルコロニーを含む第1画像と、培養された第2菌種の細菌によって形成されたシングルコロニーを含む第2画像とを取得し、取得した第1画像及び第2画像を一つのシングルコロニーが含まれる小画像に分割し、第1画像及び第2画像の小画像それぞれに第1菌種を示す教師データ及び第2菌種を示す教師データを付与することによって学習用データを作成し、第1画像の小画像が入力された場合、教師データが示す第1菌種を示す情報を出力し、第2画像の小画像が入力された場合、教師データが示す第2菌種を示す情報を出力するように、学習モデルを機械学習させる。
【0010】
本態様に係る菌種同定支援装置は、培養された複数種類の細菌によって形成された複数のコロニーが集まってなるマルチコロニーを含む培地の画像を取得する取得部と、マルチコロニーを含む画像が入力された場合、画像認識を行い、該マルチコロニーを形成する細菌の種類を示す情報を出力するマルチコロニー学習モデルとを備え、前記取得部が取得した画像を入力することによって、マルチコロニーに含まれる複数の菌種を特定する。
【0011】
本態様に係るコンピュータプログラムは、培養された複数種類の細菌によって形成された複数のコロニーが集まってなるマルチコロニーを含む培地の画像を取得し、マルチコロニーを含む画像が入力された場合、画像認識を行い、該マルチコロニーを形成する細菌の種類を示す情報を出力するマルチコロニー学習モデルに、取得した画像を入力することによって、マルチコロニーに含まれる複数の菌種を特定する処理をコンピュータに実行させる。
【発明の効果】
【0012】
上記によれば、マルチコロニーに含まれる複数の菌種を特定することができる。
【図面の簡単な説明】
【0013】
図1】実施形態1に係る菌種同定支援装置の構成例を示すブロック図である。
図2】実施形態1に係る菌種同定支援方法を示す概念図である。
図3】マルチコロニー学習モデルの構成例を示す概念図である。
図4】シングルコロニー学習モデルの構成例を示すブロック図である。
図5】シングルコロニー学習モデルの生成処理手順を示すフローチャートである。
図6】シングルコロニー学習モデル用の学習用データの作成方法を示す概念図である。
図7】マルチコロニー学習モデルの生成処理手順を示すフローチャートである。
図8】マルチコロニー学習モデル用の学習用データの作成方法を示す概念図である。
図9】菌種、その菌種を含む確信度、その菌量の同定の工程概要を示すフローチャートである。
図10】実施形態1に係る菌種同定支援方法に係る画像診断の処理手順を示すフローチャートである。
図11】実施形態1に係る表示処理手順を示すフローチャートである。
図12】結果表示画面の一例を示す模式図である。
図13】所属確率等表示画面の一例を示す模式図である。
図14】マーカ及びマスクの一例を示す模式図である。
図15】実施形態2に係る学習用データの作成方法を示すフローチャートである。
図16】実施形態3に係る菌種同定支援装置の構成例を示すブロック図である。
図17】実施形態3に係る菌種同定支援方法に係る画像診断の処理手順を示すフローチャートである。
【発明を実施するための形態】
【0014】
本発明の実施形態に係る菌種同定支援方法、マルチコロニー学習モデルの生成方法、シングルコロニー学習モデルの生成方法、菌種同定支援装置及びコンピュータプログラムの具体例を、以下に図面を参照しつつ説明する。なお、本発明はこれらの例示に限定されるものではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。また、以下に記載する実施形態の少なくとも一部を任意に組み合わせてもよい。
【0015】
(実施形態1)
図1は、実施形態1に係る菌種同定支援装置1の構成例を示すブロック図である。菌種同定支援装置1は、医療機関等で患者から採取された検体に含まれる菌種の同定処理を支援する装置である。検査機関では、検体に含まれる細菌の分離培養が行われる。培養後の培地には、一又は複数の細菌によってシングルコロニー及びマルチコロニーが形成される。シングルコロニーは、培養された一の細菌によって形成される略円形又は棒状のコロニーである。マルチコロニーは、培養された一又は複数種類の細菌によって形成された複数のコロニーが集まってなるコロニーである。本実施形態1に係る菌種同定支援装置1は、少なくともマルチコロニーを含む培地の画像(以下、「培地画像」と呼ぶ。)から、培地上の細菌を精度良く同定するものである。
【0016】
<菌種同定支援装置1の構成>
菌種同定支援装置1は、パーソナルコンピュータ又はサーバ装置等のコンピュータである。菌種同定支援装置1は、演算部11と、メモリ12と、記憶部13と、操作部14と、表示部15とを備える。なお、菌種同定支援装置1は、複数のコンピュータを含んで構成されるマルチコンピュータであってよい。また。サーバクライアントシステムや、クラウドサーバ、ソフトウェアによって仮想的に構築された仮想マシンであってもよい。以下の説明では、細菌同定支援装置が1台のコンピュータであるものとして説明する。
【0017】
演算部11は、例えばCPU(Central Processing Unit)、MPU(Micro-Processing Unit)、GPU(Graphics Processing Unit)、GPGPU(General-purpose computing on graphics processing units)、TPU(Tensor Processing Unit)等の演算処理装置である。なお、演算部11は、量子コンピュータを用いて構成してもよい。演算部11は、記憶部13に記憶されたコンピュータプログラム131を読み出して実行することにより、マルチコロニーに含まれる菌種、その菌種を含む確信度、所属確率、その菌量を特定する等、本実施形態1に係る菌種同定方法を実施する。
【0018】
メモリ12は、例えばDRAM(Dynamic RAM)、SRAM(Static RAM)等の揮発性メモリであり、演算部11の演算処理を実行する際に記憶部13から読み出されたコンピュータプログラム131、又は演算部11の演算処理によって生ずる各種データを一時記憶する。
【0019】
記憶部13は、例えば、ハードディスク、EEPROM(Electrically Erasable Programmable ROM)、フラッシュメモリ等の記憶装置である。記憶部13は、演算部11が実行する各種のプログラム、及び、演算部11の処理に必要な各種のデータを記憶する。本実施形態1において記憶部13は、演算部11が実行するコンピュータプログラム131と、培養画像から検体に含まれる細菌の同定を支援するためのシングルコロニー学習モデル2と、マルチコロニー学習モデル3とを記憶する。
【0020】
コンピュータプログラム131は、例えば記録媒体10にコンピュータ読み取り可能に記録されている。記憶部13は、図示しない読出装置によって記録媒体10から読み出されたコンピュータプログラム131を記憶する。記録媒体10はフラッシュメモリ等の半導体メモリ、光ディスク、磁気ディスク、磁気光ディスク等である。また、コンピュータプログラム131は、菌種同定支援装置1の製造段階において記憶部13が記憶する態様でもよい。更に、通信網に接続されている図示しない外部サーバから本実施形態1に係るコンピュータプログラム131をダウンロードし、記憶部13に記憶させる態様であってもよい。
【0021】
シングルコロニー学習モデル2は、物体検出モデルであり、シングルコロニーを含む培地画像が入力された場合、当該シングルコロニーの位置及び当該シングルコロニーを形成する菌種グループを示す情報を出力する学習済みのモデルである。
マルチコロニー学習モデル3は、画像認識モデルであり、マルチコロニーを含む培地画像が入力された場合、当該マルチコロニーを形成する一又は複数の細菌グループを示す情報を出力する学習済みのモデルである。マルチコロニー学習モデル3は、菌種グループの種類を認識するのみで、マルチコロニーを構成する各コロニーの位置を検出しない。シングルコロニー学習モデル2及びマルチコロニー学習モデル3、並びに菌種グループの詳細は後述する。
【0022】
操作部14は、技師等の作業者からの操作を受け付ける入力装置である。入力装置は、例えばキーボード又はポインティングデバイスである。
【0023】
表示部15は、培養画像、細菌の同定結果等の情報を出力する出力装置である。出力装置は、例えば液晶ディスプレイ又はELディスプレイである。
【0024】
<菌種同定支援方法の概要と学習モデル>
図2は、実施形態1に係る菌種同定支援方法を示す概念図である。図2中、分割処理部1a、形態分類部1b、シングルコロニー学習モデル2、及びマルチコロニー学習モデル3、第1菌量算出部2a、第2菌量算出部3a、表示処理部4及び修正処理部5は、演算部11がコンピュータプログラム131を実行することによって実現される。
【0025】
画像処理対象である培地画像は、シングルコロニー及びマルチコロニーが形成された培地の画像であるものとして説明する。
【0026】
分割処理部1aは、培地画像を複数の小画像に分割する。分割処理部1aは、例えば、培地画像を縦横4×4=16枚の小画像に分割する。小画像のサイズはGPUのメモリサイズ等の計算機の処理能力の範囲内であれば特に限定されるものでは無いが、1~3個のシングルコロニーが含まれ得るようなサイズが望ましい。各小画像は、例えば矩形の培地画像を格子状に分割したものである。複数の小画像は後段のシングルコロニー学習モデル2及びマルチコロニー学習モデル3に入力可能なサイズの画像である。つまり、小画像のサイズは、小画像を更に縮小処理すること無く、各学習モデルに入力可能な大きさである。各小画像のサイズは異なっていてもよいが、同サイズである方が解析は容易である。
【0027】
形態分類部1bは、複数の小画像を、シングルコロニーを含む小画像と、マルチコロニーを含む小画像とに分類する機能部である。例えば、形態分類部1bは、小画像に対して、二値化処理及びエッジ検出及びモルフォロジー処理及びハフ変換等による円検出等の画像処理を施すことによってコロニー部分を抽出し、コロニーに該当する領域の画素数が所定サイズ以上のコロニーが抽出された場合、マルチコロニーを含む小画像に分類し、所定サイズ未満のコロニーのみが抽出された場合、シングルコロニーを含む小画像に分類する。なお、画像処理によるルールベースの形態分類は一例であり、コロニー部分を抽出するように学習されたU-Net、Faster RCNN(Regions with Convolutional Neural Network)、SSD(Single Shot Multibox Detector)、YOLO(You Only Look Once)等の学習モデル等を用いて、コロニーを検出し、小画像を分類してもよい。形態分類部1bでは、菌種を特定する必要は無く、コロニーの検出精度も高精度である必要はない。
分類されたシングルコロニーを含む小画像は、シングルコロニー学習モデル2に入力される。分類されたマルチコロニーを含む小画像は、マルチコロニー学習モデル3に入力される。
【0028】
シングルコロニー学習モデル2は、シングルコロニーの位置、菌種グループ及び確信度を出力する。第1菌量算出部2aは、シングルコロニーの菌量を算出する。マルチコロニー学習モデル3は、マルチコロニーに含まれる菌種グループ及び確信度を出力する。第2菌量算出部3aは、マルチコロニーの菌量を算出する。各学習モデル及び菌量の算出方法の詳細は後述する。
【0029】
表示処理部4は、培地画像と共に特定された菌種、確信度、菌量等を表示部15に表示する処理を実行する。修正処理部5は、特定された菌種の修正を受け付ける処理を実行する。
【0030】
図3は、マルチコロニー学習モデル3の構成例を示す概念図である。マルチコロニー学習モデル3は、マルチコロニーを形成している一又は複数の菌種グループを認識する画像認識モデルであり、コロニーの位置は認識しない。
【0031】
本実施形態1においてマルチコロニー学習モデル3は、例えば、画像の入力を受け付ける入力層31と、画像の特徴量を抽出する中間層32と、小画像に含まれるコロニーを形成する菌種が属する菌種グループを出力する出力層33とを有するニューラルネットワークである。本実施形態1のマルチコロニー学習モデル3は、ResNet、DenseNet等のCNN(Convolution Neural Network)である。菌種特定支援装置は、CNNのモデルに対して、マルチコロニーの画像と、菌種グループとの関係を学習するディープラーニングを行うことで、マルチコロニー学習モデル3を生成する。
菌種グループは、本実施形態1に係る菌種同定支援処理の後に行われる生理・生化学的試験等による同定対象と同一の菌グループ名の分類、又は菌種の系統分類における分類が同一となる菌種名の分類である。前者(生理・生化学的試験等による菌グループ)の例は、市販されている細菌同定キットによる同定対象である、グラム陰性菌、グラム陽性球菌、グラム陽性桿菌、嫌気性菌、酵母様真菌、腸内細菌科、ブドウ球菌属、ヘモフィルス属及びナイセリア属及びその類縁菌、のような分類である。後者(系統分類による菌グループ)の例は、属(Genus)や種(Species)のような複数の菌種をまとめた菌グループ名の分類である。例えば、一般的に大腸菌と呼ばれる細菌の属はEscherichiaであり、種はEscherichia coliであり、最小単位は、Escherichia coli O157株のような株(strain)である。
前者は後者よりも多くの菌種を含むことから、菌種同定支援装置1が画像特徴量を学習することが一般的に困難である(すなわち、多くの学習用の画像が必要となる)。一方、後者は、特に属よりも種、種よりも株、を限定することで画像特徴量も限定され、菌種同定支援装置1が画像特徴量を学習することは容易となる(すなわち、学習用の画像は前者よりも少なくなる傾向がある)。従って、複数の菌種を分離できていなければ前者の学習方法で学習し、分類できていれば後者の方法で学習する方が学習効率は良くなる。
【0032】
ニューラルネットワークの入力層31は、小画像に係る各画素の画素値の入力を受け付ける複数のノードを有し、入力された画素値を中間層32に受け渡す。中間層32は、画像の特徴量を抽出する複数のノードを有し、抽出した特徴量を出力層33に受け渡す。例えばマルチコロニー学習モデル3がCNNである場合、中間層32は、入力層31から入力された各画素の画素値を畳み込むコンボリューション層と、コンボリューション層で畳み込んだ画素値をマッピングするプーリング層とが複数連結された構成を有し、画像の画素情報を圧縮しながら最終的に画像の特徴量を抽出する。出力層33は、マルチコロニーに含まれる菌種が属する一又は複数の菌種グループを出力する一又は複数のノードを有する。例えば、出力層33は、複数の菌種グループそれぞれに対応するノード等を備え、各ノードは、マルチコロニーを形成する菌種が各菌種グループに属する菌種である可能性を示した値(以下、確信度と呼ぶ)を出力する。
【0033】
なお本実施形態1においては、マルチコロニー学習モデル3がDenseNet等のCNNであるものとするが、モデルの構成はCNNに限るものではない。マルチコロニー学習モデル3は、例えばCNN以外のニューラルネットワーク、SVM(Support Vector Machine)、ベイジアンネットワーク、又は、XGBoost等の決定木、等の構成のマルチコロニー学習モデル3であってよい。
【0034】
なおマルチコロニー学習モデル3から出力される確信度は、マルチコロニー学習モデル3が行う分類タスクにおいて分類指標となる数値であり、0から1までの範囲の実数であるが、マルチコロニーに当該菌種グループに属する菌種が含まれる実際の所属確率とは必ずしも一致していない。そこで、菌種同定支援装置1は、予め記憶する変換関数を用いて確信度を、所属確率に変換するとよい。つまり、確信度を所属確率にキャリブレーションする。
変換関数の作成方法は以下の通りである。まず、複数のマルチコロニーについて、当該マルチコロニーに含まれる菌種が特定の菌種グループに属する確信度の集合から、確信度の度数分布を作成する。例えば、0.1刻みの区間で確信度の度数分布を作成する。一方、上記複数のマルチコロニーについて、当該マルチコロニーに含まれる菌種が特定の菌種グループに属する実際の所属確率、つまり、検査技師の判断に基づく所属確率又は他の検査による確定結果に基づく所属確率を算出する。そして、上記確信度と、所属確率とを関連付ける変換関数を決定する。変換関数は、ロジスティック回帰関数やisotonic回帰関数等を使用する。このようにして作成された変換関数を用いることによって、確信度の値から所属確率を算出することができる。
後述するシングルコロニー学習モデル2についても、同様にして確信度を所属確率に変換することができる。
なお、特許請求の範囲に記載された確率は、上記確信度及び所属確率の双方を含む概念である。
【0035】
図4は、シングルコロニー学習モデル2の構成例を示すブロック図である。シングルコロニー学習モデル2は、位置検出部21と、コロニー領域切り出し部22、菌種分類部23とを備える。
位置検出部21は、小画像に含まれるコロニー画像を検出するYOLOv3、U-Net、Faster RCNN、SSD等の物体検出モデルである。物体検出モデルによって、小画像に含まれる全てのシングルコロニー画像の位置及び範囲が認識され、物体検出モデルは少なくともシングルコロニー画像の位置及び範囲を示す情報を出力する。物体検出モデルはコロニーの菌種を認識する必要は無い。菌種を認識するモデルであっても、その判別精度は特に求められない。物体検出モデルによって検出されたコロニー画像の位置及び範囲は、例えば円形のバウンディングサークル又は矩形のバウンディングボックス(以下、バウンドと呼ぶ)によって囲まれた画像部分として表現される。コロニー形状は通常円形であることから、矩形のバウンディングボックスを用いるよりも、円形のバウンディングサークルを用いた方が、コロニー領域の検出がより正確になりやすい。すなわち、バウンディングサークルではコロニー領域とバウンド領域の重なり割合の指標であるIOU(Intersection of Union)がより正確な値になるため、物体検出モデルにおける損失関数にIOUを含めることで、コロニーの検出精度を向上させることができる。なお損失関数にIOUを含めた場合、学習工程における損失関数の収束が不良になることが多いが、Distance IOU等のような付加項を損失関数に付与することで、確実に、かつ効率的に収束が可能になる。物体検出モデルによって検出されたコロニー画像の位置及び範囲は、コロニー領域切り出し部22に入力される。
【0036】
コロニー領域切り出し部22は、位置検出部21で検出されたコロニーの中心座標を中心としたバウンディングサークル又はバウンディングボックスで囲まれた画像部分を、小画像から切り出す。切り出す際には、バウンディングサークルの半径又はバウンディングボックスの横幅、縦幅について、検出されたコロニーの大きさよりも、数%より大きな半径又はより大きな横幅、縦幅で切り出してもよい。切り出された画像は矩形の画像形式で保存することが一般的であることから、円形で切り出した場合は、円と内接する正方形の画像として保存する。その際の円の外側の画素値はゼロ(ゼロパディング)や周辺画素値の平均値に設定する。コロニーの大きさがコロニー毎に異なる一方で、後続の菌種分類部23での処理を効率化するには同じ画像サイズにそろえることが好ましいことから、切り出されたコロニー画像の中で最大の画像サイズ、又は更にそれよりも大きな画像サイズになるように拡大し、すべて同一の画像サイズに統一することで画像特徴量の消失を防ぐと共に、効率的に後続の解析が可能になる。こうして得られたコロニー画像は、菌種分類部23に入力される。
【0037】
菌種分類部23は、シングルコロニーを1つ含み、画像サイズが統一されたコロニー画像が入力された場合、コロニー画像に対する画像認識処理を行い、コロニー画像を形成する菌種を特定するVGG、ResNet、DenseNet等の画像認識モデルである。菌種分類部23によってコロニーを形成する菌種に係る菌種グループが認識され、少なくともコロニーを形成する菌種グループ、及びこの菌種グループが当該コロニーを形成していることの確信度を示す情報を出力する。菌種分類モデルは、コロニーの菌種が属する菌種グループを認識し、位置は検出しない。
【0038】
このように構成されたシングルコロニー学習モデル2は、位置検出部21によって検出されたシングルコロニーの位置と、菌種分類部が認識した菌種グループとを出力する。シングルコロニーの位置は、例えばコロニーの画像部分を囲む円形又は矩形のバウンドとして表現される。物体検出モデルである位置検出部21と、画像認識モデルである菌種分類部23とを別に構成することによって、コロニーの位置及び菌種グループを精度良く認識することが可能になる。
【0039】
なお、上記例では、培地画像を所定サイズの小画像に分割して、シングルコロニー学習モデル2に入力する例を説明したが、位置検出部21と同様の物体検出モデルを用いて培地画像の含まれるシングルコロニーを検出し、検出された単一のシングルコロニーを含む小画像に分割し、分割された小画像をシングルコロニー学習モデル2に入力するように構成してもよい。この場合、物体検出モデルによってシングルコロニーの位置は特定されているため、シングルコロニー学習モデル2は、シングルコロニーを形成している菌種を認識する処理を実行する。シングルコロニー学習モデル2は、位置検出部21及びコロニー領域切り出し部22を備える必要は無い。なお、小画像は、バウンディングサークルで囲まれる円形の画像部分を含む画像であっても良いし、バウンディングボックスで囲まれた矩形の画像部分を含む画像であってもよい。
【0040】
<シングルコロニー学習モデル2の生成方法>
図5は、シングルコロニー学習モデル2の生成処理手順を示すフローチャート、図6は、シングルコロニー学習モデル2用の学習用データの作成方法を示す概念図である。以下の説明では、菌種同定支援装置1がシングルコロニー学習モデル2を機械学習させる例を説明するが、外部の他のコンピュータ又はサーバでシングルコロニー学習モデル2を生成してもよい。
【0041】
まず、第1菌種グループに属する菌種を培養し、当該菌種が形成したシングルコロニーを含む培地画像(第1画像)を取得する(ステップS11)。第1菌種グループは、例えばグラム陽性球菌である。同様に、第2菌種グループに属する菌種を培養し、当該菌種が形成したシングルコロニーを含む培地画像(第2画像)を取得する(ステップS12)。第2菌種グループは、例えばグラム陰性球菌である。
【0042】
次いで、図6に示すように、ステップS11及びステップS12で取得した培地画像それぞれを小画像に分割する(ステップS13)。そして、第1菌種グループに属する菌種のシングルコロニーを含む小画像に、コロニーの位置及び第1菌種グループであることを示す教師データを付加し、第2菌種グループに属する菌種のシングルコロニーを含む小画像に、コロニーの位置及び第2菌種グループであることを示す教師データを付加することによって、学習用データを作成する(ステップS14)。具体的な教師データの付加方法は、ステップS13で分割された小画像を大津の手法による画像の二値化及びエッジ検出及び円検出等により、一定サイズの円形領域をコロニーとして機械的にコロニーを認識した上で、各菌種グループの菌種名を付与する機械的な方法と、ステップS13で分割された小画像を検査技師がコロニーを目視確認し、その画像上のコロニー座標及びコロニー直径を各菌種グループの菌種名と共に記録するマニュアルな方法の、大きく2種類ある。機械的な方法を行った上で、マニュアルな方法を実行することで、見逃しや誤りを修正する手順が一般的に効率的である。またマニュアルな方法では、ステップS13で分割された小画像を画面表示した上で、その画面上でコロニーの位置と直径をマウス操作により、マーキングするソフトウェアを作成し、使用することで効率的に教師データを付与できる。なお一度学習用データを作成し、シングルコロニー学習モデル2を生成できれば、それを他の菌種においても応用し(この場合、多くの間違いや見逃しが含まれる)、上記のマニュアルな方法で修正することにより、効率的に教師データを作成することができる。
【0043】
次いで、ステップS14で作成した学習用データを用いて、物体検出モデル(学習前のシングルコロニー学習モデル2)を機械学習させることによって、シングルコロニー学習モデル2を生成する(ステップS15)。
【0044】
具体的には、学習用データの小画像が入力された場合、物体検出モデルの出力層33から出力されるコロニーの位置及び菌種グループと、当該小画像に付された教師データが示すコロニーの位置及び菌種グループとを比較し、出力結果が正解値に近づくように、物体検出モデルのパラメータを最適化する。当該パラメータは、例えば各ノード間の重み(結合係数)などである。パラメータの最適化の方法は特に限定されないが、例えば最急降下法等を用いて各種パラメータの最適化を行う。
【0045】
以上の処理によって、シングルコロニーを含む小画像が入力された場合に、当該小画像に含まれるシングルコロニーの位置及び菌種グループ及びその菌種グループを含む確信度を特定することが可能なシングルコロニー学習モデル2を生成することができる。シングルコロニー学習モデル2は、マルチコロニーを構成する一又は複数の菌種それぞれが形成するコロニーの位置及び菌種グループは検出できないが、シングルコロニーの位置及び菌種グループを精度良く特定することができる。
通常、機械学習モデルを構築するには、テストデータと同様の訓練データを準備する必要がある。すなわちテストデータとなる患者検体には、複数の菌種が含まれていることから、訓練データとして複数の菌種が混合した検体を培養した培地について、検査技師が菌種を判別するか、他の検査を行うことで菌種を判別した結果が必要となる。これらを準備するには費用と時間がかかることが課題となる。そこで、1つの菌種もしくは1つの菌種グループの細菌を予め分離した上で、その菌を培養することで1つの菌種もしくは1つの菌種グループから構成される複数のシングルコロニーを生成でき、菌種もしくは菌種グループが明白な学習データを容易に大量に生成することができる。
つまり複数の菌種グループから構成される複数のシングルコロニーが含まれる小画像の学習用データでは無く、一つの菌種グループのシングルコロニーが含まれる小画像の学習用データを用いてシングルコロニー学習モデル2を機械学習させることによって、シングルコロニーを効率的に機械学習させることができる。また、シングルコロニー学習モデル2は培地画像をコロニー単位に分割した小画像が入力される構成であるため、上記学習方法が好適であり、シングルコロニー学習モデル2による菌種グループの検出精度を向上させることができる。
【0046】
本実施形態1に係る菌種同定支援装置1が特定するのは、正確な菌名分類では無く、特定の菌種グループである。後述するように、菌種同定支援装置1の画像処理によって菌種グループを特定した後、生理・生化学的試験、遺伝学的試験、MS解析等によって、特定された菌種グループの検証及び確定診断が行われる。例えば、同一の生理・生化学的試験等の対象となる菌種A及び菌種Bがある場合に、画像診断で菌種A及び菌種Bが判別されなくても、後続工程の生理・生化学的試験等で菌種A及び菌種Bの確定診断が行われるため、検査結果に全く影響しない。従って、菌種同定支援装置1に求められる分類内容は、正確な菌名分類ではなく、後続の生理・生化学的試験等が同一となる菌種グループ名の分類である。学習用データを正確な菌名ではなく菌種グループ名とすることによって、菌種の分類精度を菌種グループの分類粒度に応じて段階的に向上させることができ、効率的にシングルコロニー学習モデル2を構築することができる。
【0047】
なお、上記例では、説明を簡単にするために、グラム陽性球菌及びグラム陰性球菌の2種類の菌種グループを機械学習する例を説明したが、言うまでも無く、グラム陽性桿菌、グラム陰性桿菌、その他の菌種グループの培地画像を用いて、シングルコロニー学習モデル2を機械学習させることによって、他の菌種グループを認識するように構成することができる。
【0048】
また、上記説明では菌種同定支援装置1がシングルコロニー学習モデル2を生成する例を説明したが、外部サーバでシングルコロニー学習モデル2を生成し、シングルコロニー学習モデル2を構成するために必要な各種パラメータを菌種同定支援装置1へ配信するように構成してもよい。菌種同定支援装置1は、外部サーバから配信された各種パラメータをダウンロードし、当該パラメータに基づいてシングルコロニー学習モデル2を構成する。
【0049】
<マルチコロニー学習モデル3の生成方法>
図7は、マルチコロニー学習モデル3の生成処理手順を示すフローチャート、図8は、マルチコロニー学習モデル3用の学習用データの作成方法を示す概念図である。以下の説明では、学習済みのシングルコロニー学習モデル2を用いて、マルチコロニー学習モデル3用の学習用データを作成し、機械学習させる例を説明する。
【0050】
まず、菌種同定支援装置1は、シングルコロニー及びマルチコロニーを含む培地画像を取得し(ステップS31)、取得した培地画像を小画像に分割する(ステップS32)。
【0051】
次いで、菌種同定支援装置1は、形態分類部1bによって、複数の小画像を、シングルコロニーを含む小画像と、マルチコロニーを含む小画像とに分類する(ステップS33)。そして、菌種同定支援装置1は、図8に示すように、シングルコロニーを含む小画像を、学習済みのシングルコロニー学習モデル2に入力することによって、培地画像に含まれる菌種グループ及びその菌種グループを含む確信度を特定する(ステップS34)。シングルコロニーを形成している菌種は、マルチコロニーも形成していると推定されるため、シングルコロニー学習モデル2によって特定された菌種グループの細菌は、マルチコロニーを構成している菌種の菌種グループと考えられる。
【0052】
菌種同定支援装置1は、マルチコロニーを含む小画像に、ステップS34で特定された一又は複数の菌種グループを示す教師データを付加することによって、学習用データを作成する(ステップS35)。
【0053】
次いで、ステップS35で作成した学習用データを用いて、画像認識モデル(学習前のマルチコロニー学習モデル3)を機械学習させることによって、マルチコロニー学習モデル3を生成する(ステップS36)。
具体的には、学習用データの小画像が入力された場合、画像認識モデルの出力層33から出力される一又は複数の菌種グループと、当該小画像に付された教師データが示す一又は複数の菌種グループとを比較し、出力結果が正解値に近づくように、画像認識モデルのパラメータを最適化する。当該パラメータは、例えばノード間の重み(結合係数)などである。パラメータの最適化の方法は特に限定されないが、例えば最急降下法等を用いて各種パラメータの最適化を行う。
【0054】
以上の処理によって、マルチコロニーを含む小画像が入力された場合に、当該小画像に含まれるマルチコロニーの菌種グループ及びその菌種グループを含む確信度を特定することが可能なマルチコロニー学習モデル3を生成することができる。マルチコロニー学習モデル3は、マルチコロニーを構成する一又は複数の菌種それぞれが形成するコロニーの位置は検出できないが、マルチコロニーを形成する一又は複数の菌種グループを精度良く認識することができるモデルである。
【0055】
なお、上記説明では菌種同定支援装置1がマルチコロニー学習モデル3を生成する例を説明したが、外部サーバでマルチコロニー学習モデル3を生成し、マルチコロニー学習モデル3を構成するために必要な各種パラメータを菌種同定支援装置1へ配信するように構成してもよい。菌種同定支援装置1は、外部サーバから配信された各種パラメータをダウンロードし、当該パラメータに基づいてマルチコロニー学習モデル3を構成する。
【0056】
<菌種同定支援方法>
図9は、菌種、その菌種を含む確信度、その菌量の同定の工程概要を示すフローチャートである。検査技師は、医療機関等で患者から採取された検体に含まれる菌種を同定するために、菌種を培養する(ステップS51)。そして、検査技師は、菌種の培養によってコロニーが形成された培地を撮像し(ステップS52)、撮像して得た培地画像を菌種同定支援装置1に入力することによって、菌種グループを特定する画像診断処理を実行させる(ステップS53)。培地画像には、シングルコロニー及びマルチコロニーが含まれているものとする。菌種同定支援装置1の画像診断処理によって、シングルコロニーの位置と、当該シングルコロニーを形成する菌種グループと、その菌種グループを含む確信度及び所属確率と、その菌量が特定される。また、マルチコロニーを形成する一又は複数の菌種グループと、その菌種グループを含む確信度及び所属確率と、その菌量が特定される。
【0057】
検査技師は、画像診断処理の結果、分離培養の要否を判断する(ステップS54)。例えば、シングルコロニーを形成しておらず、マルチコロニーに含まれていると判定された菌種グループがある場合、検査技師は分離培養が必要と判断する。
【0058】
分離培養が必要と判断した場合(ステップS54:YES)、検査技師は、マルチコロニーから釣菌して分離培養を行い(ステップS55)、ステップS52の撮像工程に戻る。
【0059】
分離培養が不要と判定した場合(ステップS54:NO)、検査技師は、シングルコロニーを釣菌した上で、生理・生化学的試験、遺伝学的試験、MS解析等によって、画像診断処理結果の検証及び確定診断が行われ、菌種を同定する(ステップS57)。
【0060】
図10は、実施形態1に係る菌種同定支援方法に係る画像診断の処理手順を示すフローチャートである。ステップS53において菌種同定支援装置1は、以下の処理を実行する。菌種同定支援装置1は、ステップS52で撮像された培地画像を取得し(ステップS71)、取得した培地画像に対して、ノイズ除去、トリミング等の前処理を実行する(ステップS72)。
【0061】
次いで、菌種同定支援装置1は、培地画像を小画像に分割し(ステップS73)、分割された複数の小画像を、シングルコロニーを含む小画像と、マルチコロニーを含む小画像とに分類する(ステップS74)。
【0062】
菌種同定支援装置1は、シングルコロニーを含む小画像をシングルコロニー学習モデル2に入力することによって、シングルコロニーの位置、菌種グループ及びその菌種グループを含む確信度を特定する(ステップS75)。
【0063】
次いで、菌種同定支援装置1は、上記変換関数を用いて、ステップS75で算出された確信度から所属確率を算出する(ステップS76)。
【0064】
次いで、菌種同定支援装置1は、培地に含まれる一又は複数のシングルコロニーを形成する菌種の菌量を算出する(ステップS77)。例えば、菌種同定支援装置は、培地画像を分割してなる複数の小画像についてシングルコロニー学習モデルから出力される情報に基づいて、複数の菌種グループ毎にシングルコロニーの数を計数することによって、菌量を算出することができる。一の菌種グループについて、各小画像に含まれるシングルコロニーの数を計数する。そして、各小画像に含まれるシングルコロニーの数を合算することによって、培地画像に含まれる一の菌種グループに属する菌種が形成するシングルコロニーの数を求めることができる。このようにして算出されたシングルコロニーの数は、一の菌種グループに属する菌種の菌量に相当する。一又は複数の他の菌種グループについても同様にして、菌量を求めることができる。
【0065】
また、菌種同定支援装置1は、マルチコロニーを含む小画像をマルチコロニー学習モデル3に入力することによって、マルチコロニーを形成する一又は複数の菌種グループ及びその菌種グループを含む確信度を特定する(ステップS78)。
【0066】
次いで、菌種同定支援装置1は、上記変換関数を用いて、ステップS78で算出された確信度から所属確率を算出する(ステップS79)。
【0067】
次いで、菌種同定支援装置1は、培地に含まれる一又は複数のマルチコロニーを形成する菌種の菌量を算出する(ステップS80)。
【0068】
例えば、菌種同定支援装置1は、培地画像に含まれるマルチコロニーの面積に基づいて、マルチコロニーを形成する菌種の菌量を推定する。具体的には、菌種同定支援装置1は、マルチコロニーの面積と、菌量とを対応付けた対応表又は関数を記憶しており、菌種同定支援装置1は、当該対応表又は関数を用いて、マルチコロニーの面積から当該マルチコロニーに含まれる菌種の菌量を算出する。マルチコロニーに複数の菌種が含まれている場合、当該複数の菌種が形成するシングルコロニーの割合から、マルチコロニーを形成する各菌種の菌量の総数をその割合に応じて菌種ごとに案分した近似菌量を算出すればよい。
マルチコロニーの面積を用いる方法では、予め菌液濃度を調整した菌液を培地に塗布し、一定の培養時間後においてコロニーが培地表面をカバーする面積を複数測定した上で、菌液濃度と面積の対応表を作成するか、もしくは面積を説明変数とし、菌液濃度を目的変数とする線形回帰式を算出することで、面積から菌液濃度を算出することができる。なお、菌液濃度に検体量を乗算することによって菌量を算出することができる。
【0069】
また、他の方法として、菌種同定支援装置1は、培地画像におけるシングルコロニーの分布密度に基づいて、マルチコロニーを形成する菌種の菌量を推定する。具体的には、菌種同定支援装置1は、特定の菌種で形成されるシングルコロニーの分布密度と、マルチコロニーを形成する当該菌種の菌量とを対応付けた対応表又は関数を記憶しており、菌種同定支援装置1は、当該対応表又は関数を用いて、シングルコロニーに分布密度から当該マルチコロニーに含まれる菌種の菌量を算出する。
分布密度を用いる方法は、予め菌液濃度を調整した菌液を、白金耳や磁気ビーズ等で培地上に塗布する際に、塗布する経路を毎回同じになるように設定した上で、一定の培養時間後において検出可能なシングルコロニーの数を計数することで、シングルコロニー数と菌液濃度の対応関係(対応表もしくは線形回帰式)を求める方法である。なお、菌液濃度に検体量を乗算することによって菌量を算出することができる。
【0070】
次いで、菌種同定支援装置1は、菌種又は菌種グループ毎に、ステップS77で算出した菌量と、ステップS80で算出した菌量とを加算することによって、各菌種及び菌種グループの菌量を算出する(ステップS81)。
【0071】
次いで、菌種同定支援装置1は、常在菌を特定する等の後処理を実行する(ステップS82)。菌種同定支援装置1は、分析対象の検体の種類を受け付ける。菌種同定支援装置1は、検体の種類と、常在菌の種類及び濃度とを対応付けた対応表を記憶している。菌種同定支援装置1は、受け付けた検体の種類をキーにして対応表から、常在菌を特定する。
【0072】
次いで、菌種同定支援装置1は、画像処理結果を表示部15に表示する表示処理を実行し(ステップS83)、処理を終える。
【0073】
図11は、実施形態1に係る表示処理手順を示すフローチャートである。菌種同定支援装置1は、結果表示画面6を表示部15に表示する(ステップS91)。
【0074】
図12は、結果表示画面6の一例を示す模式図、図13は、菌種所属確率等表示部62の一例を示す模式図である。結果表示画面6は、培地画像を表示する培地画像表示部61と、特定された菌種グループ、所属確率及び菌量等を表示する菌種所属確率等表示部62、特定された菌種を修正するための修正操作部63を含む。
【0075】
菌種所属確率等表示部62は、図13に示すように、シングルコロニー又はマルチコロニーを形成する複数の菌種グループの菌種名を一覧で表示する。各菌種名には、当該菌種グループの所属確率表示部、菌量、菌量の割合を対応付けて表示する。
所属確率表示部は、0~1の値を示すスケールバーを含む。スケールバーには、当該菌種グループの所属確率の最大値を示す画像、例えば上矢印画像が表示される。また、スケールバーには、マーク又はマスクするシングルコロニーの対象を指定するための指定確率を示す下矢印画像が表示される。ユーザは、下矢印画像を左右にスライドさせることによって、指定確率を変更することができる。更に、スケールバーには、培地画像に含まれるコロニーを形成する各菌種グループの所属確率の度数分布が表示される。
【0076】
また、菌種所属確率等表示部62は、各菌種名に対応付けて、在来菌であるか否かを示すチェックボックを表示する。ステップS82で在来菌であると特定された菌種についてはチェックボックにチェック画像が表示される。ユーザは、手動操作で、在来菌であるか否かを示すチェックボックにチェックを付加したり、チェックを外したりし、チェック内容を記録することができる。
【0077】
更に、菌種所属確率等表示部62は、各菌種名に対応付けて、特定のシングルコロニーにマーク画像61a又はマスク画像61b,61cを表示するための「表示(低確率)」で表される第1チェックボックと、「表示(高確率)」で表される第2チェックボックとを表示する。第1チェックボタンにチェックが付された場合、指定確率以下の所属確率を有する菌種グループの菌種で形成されたシングルコロニーにマーク画像61a等が表示される。第2チェックボタンにチェックが付された場合、指定確率以上の所属確率を有する菌種グループの菌種で形成されたシングルコロニーにマーク画像61a等が表示される。第1及び第2チェックボックスのチェックが外された場合、マーク画像61a等が表示されなくなる。
【0078】
更にまた、菌種所属確率等表示部62は、各菌種名に対応付けて、第1チェックボックス又は第2チェックボックスをチェックした際に表示されるマーク又はマスク等の表示態様を指定するための、「ハイライト」、「マスク(他)」、「マスク(標的)」で表される複数のチェックボックスを表示する。
【0079】
図14は、マーカ及びマスクの一例を示す模式図である。「ハイライト」のチェックボタンがチェックされた場合、菌種同定支援装置1は、図14Aに示すように、指定確率以上又は指定確率未満の所属確率を有するシングルコロニーを囲むマーク画像61aが培地画像に表示する。「マスク(他)」のチェックボタンがチェックされた場合、菌種同定支援装置1は、図14Bに示すように、指定確率以上又は指定確率未満の所属確率を有するシングルコロニー以外の画像部分をマスクするマスク画像61bが表示する。「マスク(標的)」のチェックボタンがチェックされた場合、菌種同定支援装置1は、図14Cに示すように、指定確率以上又は指定確率未満の所属確率を有するシングルコロニーをマスクするマスク画像61cを表示する。
【0080】
図11に戻り、ステップS91の処理を終えた菌種同定支援装置1は、上記の通り、菌種所属確率等表示部62に、シングルコロニー及びマルチコロニーを形成する菌種が属する菌種グループの菌種名、所属確率、菌量等を表示する(ステップS92)。
【0081】
菌種同定支援装置1は、枠画像で表示している菌種グループの菌種名について、その菌量もしくは全菌量における菌量の割合を降順又は昇順でリスト表示することで、検査技師は検体に含まれる菌種グループの割合を容易に把握することができる。特にシングルコロニーとマルチコロニーを形成する菌種グループを把握することで、ステップS54における分離培養の必要性の判断が容易になり、菌種判定の間違いの防止にも役立つ。
【0082】
患者が感染している細菌を特定する解析を行う上で、常在菌の存在が妨げとなる場合があることから、必要に応じて一定数の菌量以下の常在菌は表示しない設定とする。常在菌は、例えば、喀痰検体におけるα―Streptococcusや、鼻汁におけるコアグラーゼ陰性ブドウ球菌等、複数が知られている。菌量が多い場合には常在菌と判断しない場合があるため、検体材料、菌量、菌種の組み合わせにより、常在菌かどうか判断し(ステップS82において特定)、常在菌については上記の枠画像の色等を他の菌種グループとは異なる設定とすることで、解析の妨げにならないような表示設定とする。
【0083】
ステップS92の処理を終えた菌種同定支援装置1は、菌種所属確率等表示部62のスケールバーに表示する下矢印画像で、指定確率を受け付ける(ステップS93)。また、菌種同定支援装置1は、「ハイライト」、「マスク(他)」、「マスク(標的)」のチェックボックスで、表示態様を受け付ける(ステップS94)。そして、菌種同定支援装置1は、受け付けた指定確率及び表示対応に応じたマーク画像61a又はマスク画像61b,61cを培地画像に重畳して表示する(ステップS95)。
【0084】
菌種同定支援装置1は、ステップS75の処理によって特定されたシングルコロニーの位置を、小画像分割前の培地画像における位置に変換する処理を実行する。
【0085】
そして、菌種同定支援装置1は、培地画像に、ステップS75等の処理結果を示す画像を重畳し、又は並べて表示する。例えば、菌種同定支援装置1は、シングルコロニーの位置及び大きさ及び菌種グループを示す円形又は矩形のバウンドを、培地画像に重畳して表示する。バウンドは、シングルコロニーの画像部分を囲む円形又は矩形の枠画像と、菌種グループを示す文字又は記号又は枠画像の色又は枠画像の内側の領域について菌種グループを示す透過色とを含む。また、菌種同定支援装置1は、マルチコロニーの画像部分又はその近傍に、マルチコロニーを形成する一又は複数の菌種グループを示す文字又は記号又は枠画像の色又は枠画像の内側の領域について菌種グループを示す透過色を表示する。菌種グループを示す枠画像の色又は透過色は、ステップS75及びステップS76の処理で出力された、各コロニーの菌種グループの確信度や所属確率に応じて色の濃淡や青から赤へのグラデーション等を設定すると共に、設定した閾値よりも大きいもしくは小さい確信度や所属確率についてトグルボタンによって枠画像の色又は透過色の表示の有無を切り替え可能な設定とする。
【0086】
また、菌種同定支援装置1は、修正操作部63にて特定された菌種の修正を受け付ける(ステップS96)。
【0087】
例えば、菌種同定支援装置1は、培地画像上の特定のシングルコロニー画像の選択を受け付ける。例えば、マウスポインタによるダブルクリックによって、ユーザは特定のシングルコロニー画像を選択することができる。特定のシングルコロニー画像が選択された場合、図12に示すように菌種同定支援装置1は、修正操作部63を表示する。
【0088】
修正操作部63は、確認チェックボックスと、選択されたシングルコロニーを形成し得る複数の菌種グループの菌種名と、各菌種グループがシングルコロニーを形成している確信度又は所属確率とを表示する。また、修正操作部63は、リスト表示された菌種名以外の菌種菌種グループの名称を入力さるための菌種名入力部を表示する。
【0089】
菌種同定支援装置1による菌種の推定を1次読影とした場合、その結果を確認する検査技師は2次読影に相当するが、2次読影を行う検査技師は修正操作部63で、候補となる菌種名、確信度又は所属確率を確認することができる。検査技師は、コロニー画像と菌種名との対応関係が正しいことを確認し、確認チェックボタンを操作することによって、検査技師による確認履歴を記憶させることができる。検査技師は、シングルコロニー学習モデル2によって特定された確信度が最も高い菌種名と異なる菌種名の確認チェックボタンがチェックすることによって、菌種名の修正を指示することができる。また、検査技師は、修正操作部63にリスト表示されていない菌種名を菌種名入力部に入力することができる。菌種名入力部は、例えばプルダウンリストであり、検査技師はプルダウンリストに一覧表示された菌種のなかから適当な菌種を選択することができる。
【0090】
また菌種名入力部に対応付けて確認チェックボタンを表示してもよい。他の検査技師が3次読影を行う際、菌種名入力部が正しいと判断した場合に当該チェックボタンにチェックを入れることができる。
【0091】
菌種同定支援装置1は、ステップS96で受け付けた2次読影の確認結果、菌種同定支援装置は特定された菌種の変更内容を記憶する(ステップS97)。
【0092】
このように構成された菌種同定支援装置1等によれば、マルチコロニーに含まれる複数の菌種グループ、その菌種グループを含む確信度及び所属確率、並びに菌量を特定することができる。また、シングルコロニーを形成する菌種グループ、その菌種グループを含む確信度及び所属確率、並びに菌量を特定することができる。
【0093】
一般的に撮像装置により高解像度の画像を取得できる一方で、画像検出や分類に必要な計算機のメモリやGPU等の処理能力は、相対的に低く、計算機処理のボトルネックになりやすい。そこで、一般的には培地画像を縮小することで計算機処理を可能にしているが、この場合、菌種同定上の重要な画像特徴量が失われる場合がある。そのため本実施形態1では、培地画像を縮小することなく、複数の小画像に分割し、当該小画像をシングルコロニー学習モデル2及びマルチコロニー学習モデル3に入力することによって、検出精度を向上させることができる。
【0094】
シングルコロニー学習モデル2は、主にコロニーの位置検出を行う位置検出部21と、画像認識によりコロニーを形成する菌種グループ及びその菌種グループを含む確確信を特定する菌種分類部23とを備え、検出処理と分類処理とを独立させることによって、菌種グループの特定精度を向上させることができる。
【0095】
また、シングルコロニー学習モデル2及びマルチコロニー学習モデル3は、正確な菌名分類では無く、菌種グループを特定するように構成することにより、菌種の分類精度を向上させることができる。
【0096】
更に、本実施形態1では、図6に示すように複数の菌種グループを個別に培養して学習用データを作成し、シングルコロニー学習モデル2を学習させる。従って、シングルコロニー学習モデル2用の学習用データを容易に作成することができる。また、シングルコロニー学習モデル2には、シングルコロニーを含む小画像を入力するように構成することにより、上記の学習用データを用いて生成されたシングルコロニー学習モデル2は、高精度でシングルコロニーの位置及び菌種グループ、その菌種グループを含む確信度を特定することができる。精度良く特定された確信度により、高精度の所属確率を算出することができる。また、精度良く特定されたシングルコロニーの位置及び菌種グループ、その菌種グループを含む確信度により、その菌量も精度良く算出することができる。
【0097】
更にまた、本実施形態1では、図8に示すように、シングルコロニー学習モデル2を利用することによって、マルチコロニー学習モデル3用の学習用データを容易に作成することができる。
なお、実施形態1では、菌種グループを同定する例を説明したが、菌種を特定するように構成してもよい。
【0098】
(実施形態2)
実施形態2に係る菌種同定支援装置1は、学習用データの作成方法が実施形態1と異なる。菌種同定支援装置1のその他の構成は、実施形態1に係る菌種同定支援装置1と同様であるため、同様の箇所には同じ符号を付し、詳細な説明を省略する。
【0099】
図15は、実施形態2に係る学習用データの作成方法を示すフローチャートである。実施形態2では、検査技師は、学習用データを作成するために、複数種類の菌種グループの単独培養を開始し(ステップS211)、第1時点で培地画像を撮像する(ステップS212)。第1時点は、シングルコロニーが形成される初期段階に相当する時点である。この時点では、培地画像におけるシングルコロニーの中心位置を精度良く検出することができるが、菌種グループの特定は難しい。
【0100】
菌種同定支援装置1は第1時点で撮像された培地画像を取得し(ステップS213)し、取得した培地画像に基づいてシングルコロニーの中心位置を検出する(ステップS214)。
【0101】
次いで、検査技師は、第2時点で培地画像を撮像する(ステップS215)。第2時点は、シングルコロニーが十分な大きさになり、菌種グループが特定可能になる時点である。第2時点では、マルチコロニーは形成されていない。
【0102】
菌種同定支援装置1は第2時点で撮像された培地画像を取得し(ステップS216)、シングルコロニーの菌種グループ及び所属確率を特定する(ステップS217)。
【0103】
次いで、検査技師は、第3時点で培地画像を撮像する(ステップS218)。第3時点は、マルチコロニーが形成される。
【0104】
菌種同定支援装置1は第3時点で撮像された培地画像を取得し(ステップS219)、マルチコロニーの画像部分を特定し、当該画像部分を小画像に分割することによって、マルチコロニーの小画像を作成する(ステップS220)。
【0105】
菌種同定支援装置1は、マルチコロニーを含む小画像に、ステップS217で特定された一又は複数の菌種グループを示す教師データを付加することによって、学習用データを作成する(ステップS221)。
【0106】
なお、第3時点で、菌種グループを特定できるサイズのシングルコロニーに成長する可能性もある。そこで、ステップS217で特定した菌種グループに、第3時点の培地画像に基づいて特定される菌種グループを加えたものを教師データとして、マルチコロニーの小画像に付加するようにしてもよい。
ここでシングルコロニーの菌種グループの特定に使用できる培地画像は、第1時点、第2時点、第3時点の3種類あるため、いずれにおいてもシングルコロニーの位置及び菌種グループを推定し、推定された菌種グループの所属確率を複数の時点で比較することで、最も高い所属確率をもつ菌種グループ名をその位置のシングルコロニーの菌種グループ名として採用してもよい。
【0107】
次いで、ステップS221で作成した学習用データを用いて、画像認識モデル(学習前のマルチコロニー学習モデル3)を機械学習させることによって、マルチコロニー学習モデル3を生成する(ステップS222)。
【0108】
実施形態2に係る菌種同定支援装置1によれば、マルチコロニー学習モデル3用の教師データの精度、即ち菌種グループの正確性を向上させることができる。従って、マルチコロニー学習モデル3の認識精度を向上させることができ、菌種同定支援装置1は、マルチコロニーに含まれる一又は複数の菌種グループをより精度良く特定することができる。また、第3時点のマルチコロニーに含まれるシングルコロニー(第1時点)の数が計数され、第3時点のマルチコロニーを形成する菌種が特定(第2時点)されることから、第3時点のマルチコロニーを形成したシングルコロニーを菌種ごとに計数できる。更にこの数に対して、第3時点でマルチコロニーを形成していないシングルコロニーについて、菌種ごとに計数したものを加えることで、培地に塗布された時点における、検体中の、菌種ごとの菌量(菌数)を特定することができる。なお検体を培地に塗布する前に、検体を希釈した場合には、その希釈率の逆数を乗算することで、検体中の菌種毎の菌量の濃度を特定することができる。
【0109】
なお、ここではマルチコロニー学習モデル3の生成方法を説明したが、ステップS214及びステップS217で検出及び特定されたシングルコロニーの位置及び菌種グループを教師データとして用いて、シングルコロニー学習モデル2を機械学習させてもよい。
【0110】
(実施形態3)
実施形態3に係る菌種同定支援装置301は、マルチコロニー学習モデル3の構成が実施形態1と異なる。菌種同定支援装置301のその他の構成は、実施形態1に係る菌種同定支援装置1と同様であるため、同様の箇所には同じ符号を付し、詳細な説明を省略する。
【0111】
図16は、実施形態3に係る菌種同定支援装置301の構成例を示すブロック図である。実施形態3に係る菌種同定支援装置301の記憶部13は、第1マルチコロニー学習モデル303aと、第2マルチコロニー学習モデル303bとを備える。
【0112】
第1マルチコロニー学習モデル303aは、実施形態1のマルチコロニー学習モデル3と同様の画像認識モデルであり、マルチコロニーに含まれる一又は複数の菌種グループ及びその確信度を精度良く特定するものである。
【0113】
第2マルチコロニー学習モデル303bは、YOLOv3、U-Net、Faster RCNN、SSD等の物体検出モデル又は画像セグメンテーションモデルであり、マルチコロニーを形成する複数のコロニー領域を検出し、各コロニーを形成している菌種グループとその確信度とを算出するものである。第2マルチコロニー学習モデル303bによって検出されたコロニー画像の位置及び領域は、例えば円形又は矩形のバウンド、又は不定形の境界線によって囲まれた画像部分として表現される。但し、第2マルチコロニー学習モデル303bの領域検出精度、菌種グループの特定精度は、シングルコロニー学習モデル2又は第1マルチコロニー学習モデル303aに比べて、学習すべき画像特徴量が複雑になりやすいため、低くなりやすい。
【0114】
第2マルチコロニー学習モデル303bの生成方法は以下の通りである。マルチコロニーを含む培地画像を小画像に分割する。そして、小画像に含まれるコロニーの領域及び菌種グループを示す教師データを小画像に付加することによって、学習用データを作成する。教師データは、培地画像及び小画像を確認してマニュアルで作成される。次いで、作成した学習用データを用いて、物体検出モデル(学習前の第2マルチコロニー学習モデル303b)を機械学習させることによって、第2マルチコロニー学習モデル303bを生成する。
【0115】
図17は、実施形態3に係る菌種同定支援方法に係る画像診断の処理手順を示すフローチャートである。実施形態3に係る菌種同定支援装置301は、実施形態1のステップS71~ステップS77と同様の処理をステップS371~ステップS375で実行する。ただし、図17においては、所属確率及び菌量の算出処理の図示を省略している。
【0116】
次いで、菌種同定支援装置301は、マルチコロニーを含む小画像を第1マルチコロニー学習モデル303aに入力することによって、マルチコロニーを形成する一又は複数の菌種グループ及びその菌種グループを含む確信度を特定する(ステップS376)。また、図17では省略しているが、実施形態1同様、所属確率及び菌量を算出する。
【0117】
そして、菌種同定支援装置301は、ステップS375及びステップS376の特定結果に基づいて、シングルコロニーに含まれず、マルチコロニーに含まれる菌種グループの有無を判定する(ステップS377)。次いで、菌種同定支援装置301は、マルチコロニーを含む小画像を第2マルチコロニー学習モデル303bに入力することによって、マルチコロニーを形成する各コロニーの位置及び菌種グループ及びその確信度又は所属確率を特定する(ステップS378)。ステップS378の処理は、シングルコロニーに含まれず、マルチコロニーに含まれる菌種グループが存在する場合にのみ実行してもよい。なおステップS377で得られた、シングルコロニーに含まれず、マルチコロニーに含まれる菌種グループが真に存在するかどうかは、その候補となる菌種グループを別途に分離培養し、シングルコロニーとして単離した後、実施形態1の方法によって、そのシングルコロニーの菌種グループを特定することによって確定できる。ステップS377における出力データをこの確定した菌種グループに入れ替えることで、第2マルチコロニー学習モデル303bの判別精度を高めることができる。
【0118】
菌種同定支援装置301は、常在菌を特定する等の後処理を実行し(ステップS379)、画像処理結果を表示部15に表示し(ステップS380)、処理を終える。
【0119】
例えば、菌種同定支援装置301は、ステップS377の判定結果と共に、ステップS378で特定された、マルチコロニーを形成するコロニーの位置及び菌種グループの情報を表示部15に表示するとよい。具体的には、菌種同定支援装置301は、マルチコロニーの画像部分又はその近傍に、第1マルチコロニー学習モデル303aによる認識結果として、マルチコロニーを形成する一又は複数の菌種グループを示す文字、記号、枠画像の色又は枠画像の内側の領域について、その菌種グループを示す透過色を表示すると共に、第2マルチコロニー学習モデル303bによる認識結果として、マルチコロニーを形成する複数のコロニーを囲む不定形の領域(以下、不定形のバウンドと呼ぶ)を表示するとよい。当該領域は、マルチコロニーを形成する各コロニーの画像部分を囲む枠画像と、菌種グループを示す文字又は記号又は枠画像の色又は枠画像の内側の領域について、菌種グループを示す透過色とを含む。なお、全てのコロニーを不定形のバウンドで囲む必要は無く、一部のコロニーについて不定形のバウンドを表示すればよい。また、菌種同定支援装置301は、シングルコロニーに含まれず、マルチコロニーに含まれる菌種グループを示す不定形のバウンドを選択的に培地画像に重畳させて表示させてもよい。
【0120】
検査技師は、菌種同定支援装置301の出力結果を参考にして、マルチコロニーに埋もれ十分に分離及び同定されていない菌種グループについて、マルチコロニーから釣菌して分離培養を行うことができる。具体的には、ステップS377の判定結果により、検査技師は、シングルコロニーに含まれず、マルチコロニーに埋もれている菌種グループが存在する可能性を確認することができる。また、ステップS378の特定結果により、このような菌種グループの存在位置を推定することができる。
【0121】
上記説明に加え、更に以下の項を付記する。
(付記1)
培養された複数種類の細菌によって形成された複数のコロニーが集まってなるマルチコロニーを含む培地の画像を取得し、
マルチコロニーを含む画像が入力された場合、画像認識を行い、該マルチコロニーを形成する細菌の種類を示す情報を出力するマルチコロニー学習モデルに、取得した画像を入力することによって、マルチコロニーに含まれる複数の菌種を特定する
菌種同定支援方法。
【0122】
(付記2)
培養された細菌によって形成されたシングルコロニーと、培養された複数種類の細菌によって形成された複数のコロニーが集まってなるマルチコロニーとを含む培地の画像を取得し、
シングルコロニーを含む画像が入力された場合、該シングルコロニーの位置及び該シングルコロニーを形成する菌種を示す情報を出力するシングルコロニー学習モデルに、取得した画像を入力することによって、シングルコロニーの位置及び菌種を特定し、
前記マルチコロニー学習モデルに、取得した画像を入力することによって、マルチコロニーに含まれる複数の菌種を特定する
付記1に記載の菌種同定支援方法。
【0123】
(付記3)
前記マルチコロニー学習モデルは、マルチコロニーを構成する複数の菌種のコロニーの位置を認識せず、マルチコロニーに含まれる複数の菌種を示す情報を出力する
付記2に記載の菌種同定支援方法。
【0124】
(付記4)
取得した培地の画像を複数の小画像に分割し、
分割された小画像を前記シングルコロニー学習モデルに入力することによって、シングルコロニーの位置及び菌種を特定する
付記2又は付記3に記載の菌種同定支援方法。
【0125】
(付記5)
前記シングルコロニー学習モデルは、
物体検出モデルを用いてシングルコロニーの位置及び大きさを検出し、
単一のシングルコロニーを含む画像を切り出し、
切り出された画像を画像認識モデルに入力することによって、シングルコロニーの菌種を特定する
付記2から付記4のいずれか一つに記載の菌種同定支援方法。
【0126】
(付記6)
取得した培地の画像を単一のシングルコロニーを含む複数の小画像に分割し、
分割された小画像を前記シングルコロニー学習モデルに入力することによって、シングルコロニーの位置及び菌種を特定する
付記2又は付記3に記載の菌種同定支援方法。
【0127】
(付記7)
特定されたシングルコロニーよりも大きなコロニーをマルチコロニーとして特定し、
特定されたマルチコロニーの画像を前記マルチコロニー学習モデルに入力することによって、マルチコロニーに含まれる複数の菌種を特定する
付記6に記載の菌種同定支援方法。
【0128】
(付記8)
前記シングルコロニー学習モデルが出力する菌種を示す情報は、特定の菌種のグループを示す情報である
付記2から付記7のいずれか一つに記載の菌種同定支援方法。
【0129】
(付記9)
シングルコロニーを形成するものとして特定された菌種が、該シングルコロニーを形成している確率を特定する
付記2から付記8のいずれか一つに記載の菌種同定支援方法。
【0130】
(付記10)
特定された菌種及び前記確率を表示する
付記9に記載の菌種同定支援方法。
【0131】
(付記11)
指定確率を受け付け、
培地の画像と共に、受け付けた指定確率以上若しくは指定確率以下の前記確率を有するシングルコロニーをマークする画像、指定確率以上若しくは指定確率以下の前記確率を有するシングルコロニー以外の画像をマスクする画像、又は指定確率以上若しくは指定確率以下の前記確率を有するシングルコロニーをマスクする画像を表示する
付記10に記載の菌種同定支援方法。
【0132】
(付記12)
培地に含まれる一又は複数のシングルコロニーを形成する菌種の菌量を算出する
付記2から付記11のいずれか一つに記載の菌種同定支援方法。
【0133】
(付記13)
マルチコロニーを形成するものとして特定された前記複数の菌種が、該マルチコロニーを形成している確率を算出する
付記1から付記12のいずれか一つに記載の菌種同定支援方法。
【0134】
(付記14)
培地に含まれる一又は複数のマルチコロニーを形成する菌種の菌量を算出する
付記1から付記8のいずれか一つに記載の菌種同定支援方法。
【0135】
(付記15)
特定された菌種の種類の修正を受け付け、
修正を受け付けた場合、特定された菌種の種類を変更する
付記1から付記14のいずれか一つに記載の菌種同定支援方法。
【0136】
(付記9)
培養された細菌によって形成されたシングルコロニーを含む培地の画像が入力された場合、該シングルコロニーの位置及び該シングルコロニーを形成する菌種を示す情報を出力するシングルコロニー学習モデルの生成方法であって、
培養された第1菌種の細菌によって形成されたシングルコロニーを含む第1画像と、培養された第2菌種の細菌によって形成されたシングルコロニーを含む第2画像とを取得し、
取得した第1画像及び第2画像を一つのシングルコロニーが含まれる小画像に分割し、
第1画像及び第2画像の小画像それぞれに第1菌種を示す教師データ及び第2菌種を示す教師データを付与することによって学習用データを作成し、
第1画像の小画像が入力された場合、教師データが示す第1菌種を示す情報を出力し、第2画像の小画像が入力された場合、教師データが示す第2菌種を示す情報を出力するように、学習モデルを機械学習させる
シングルコロニー学習モデルの生成方法。
【符号の説明】
【0137】
1 菌種同定支援装置
1a 分割処理部
1b 形態分類部
2 シングルコロニー学習モデル
2a 第1菌量算出部
3 マルチコロニー学習モデル
3a 第2菌量算出部
4 表示処理部
5 修正処理部
6 結果表示画面
10 記録媒体
11 演算部
12 メモリ
13 記憶部
14 操作部
15 表示部
21 位置検出部
22 菌種分類部
61 培地画像表示部
62 菌種所属確率等表示部
63 修正操作部
131 コンピュータプログラム
303a 第1マルチコロニー学習モデル
303b 第2マルチコロニー学習モデル
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17