(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-04-22
(45)【発行日】2024-05-01
(54)【発明の名称】画像分析システムおよび画像分析システムを使用する方法
(51)【国際特許分類】
G06T 7/00 20170101AFI20240423BHJP
【FI】
G06T7/00 350B
(21)【出願番号】P 2021542399
(86)(22)【出願日】2020-01-23
(86)【国際出願番号】 US2020014696
(87)【国際公開番号】W WO2020154452
(87)【国際公開日】2020-07-30
【審査請求日】2023-01-20
(32)【優先日】2019-01-23
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】511227336
【氏名又は名称】モレキュラー デバイシーズ, エルエルシー
(74)【代理人】
【識別番号】100078282
【氏名又は名称】山本 秀策
(74)【代理人】
【識別番号】100113413
【氏名又は名称】森下 夏樹
(72)【発明者】
【氏名】コーエン, アブルム アイ.
(72)【発明者】
【氏名】ホン, ディフイ
(72)【発明者】
【氏名】ライン, スティーブン
【審査官】伊知地 和之
(56)【参考文献】
【文献】特表2017-520824(JP,A)
【文献】国際公開第2018/200840(WO,A1)
【文献】特表2019-500110(JP,A)
【文献】特開2018-022216(JP,A)
【文献】特開2018-119969(JP,A)
【文献】特開2014-044050(JP,A)
【文献】特開2018-185759(JP,A)
【文献】池松大志 外5名,Deep Learning画像認識エンジン生成作業効率化インターフェースの開発,電子情報通信学会技術研究報告 Vol.115 No.415,日本,一般社団法人電子情報通信学会,2016年01月14日,第115巻 第415号,pp.89~94
【文献】Ario SADAFI et al.,“Red Blood Cells Segmentation: A Fully Convolutional Network Approach”,2018 IEEE Intl Conf on Parallel & Distributed Processing with Applications, Ubiquitous Computing & Communications, Big Data & Cloud Computing, Social Computing & Networking, Sustainable Computing & Communications(ISPA/IUCC/BDCloud/SocialCom/SustainCom),米国,IEEE,2018年12月,pp.911-914
【文献】Yousef Al-Kofahi et al.,A deep learning-based algorithm for 2-D cell segmentation in microscopy images,BMC Bioinformatics,ドイツ,Springer Nature,2018年10月03日,Vol.19, No.1,pp.1-11
(58)【調査した分野】(Int.Cl.,DB名)
G01N 21/62 - 21/74
G01N 33/48 - 33/98
G06T 1/00
G06T 3/00 - 3/60
G06T 5/00 - 5/50
G06T 7/00 - 7/90
G06V 10/00 - 20/90
G06V 30/418
G06V 40/16
G06V 40/20
CSDB(日本国特許庁)
IEEE Xplore
(57)【特許請求の範囲】
【請求項1】
画像を分析するためのシステムであって、前記システムは、プログラマブルデバイスを含み、
前記プログラマブルデバイスは、
前記プログラマブルデバイス上で動作するユーザインターフェースジェネレータであって、前記ユーザインターフェースジェネレータは、
グラフィカルユーザインターフェースを生成するようにコンピュータに命令し、前記ユーザインターフェースジェネレータは、前記コンピュータから、生物学的サンプルの第1の画像および第1の画像分析ステップの規定を受信
し、前記第1の画像および前記第1の画像分析ステップの規定は、前記グラフィカルユーザインターフェースを使用して展開される、ユーザインターフェースジェネレータと、
前記プログラマブルデバイス上で動作するシーケンサであって、前記シーケンサは、前記第1の画像分析ステップを前記第1の画像に適用
することにより、注釈付き訓練データを展開する、シーケンサと、
前記プログラマブルデバイス上で動作する機械学習システム訓練器であって、前記機械学習システム訓練器は、訓練されていない機械学習システムを訓練
することにより、訓練された機械学習システムを展開し、前記訓練された機械学習システム
が前記第1の画像を
入力として提示されると、前記訓練された機械学習システムは、前記注釈付き訓練データの予測を展開する、機械学習システム訓練器と
を備え、
前記シーケンサは、
前記コンピュータから、前記グラフィカルユーザインターフェースを使用して展開されたワークフローの規定を受信し、
前記ワークフローは、前記訓練された機械学習システムを動作させる
ことを規定する第2の画像分析ステップを備え
、前記シーケンサは、第2の画像に対して前記ワークフローを行
うことにより、前記第2の画像を分析する
、システム。
【請求項2】
前記注釈付き訓練データは、第1の注釈付き訓練データを備え、前記注釈付き訓練データの予測は、前記第1の注釈付き訓練データの第1の予測を備え、前記ユーザインターフェースジェネレータは、第3の画像分析ステップの規定を受信し、前記シーケンサは、前記第3の画像分析ステップを第3の画像に適用
することにより、第2の注釈付き訓練データを展開し、前記機械学習システム訓練器は、前記訓練された機械学習システム
が前記第1の画像を
入力として提示されると、前記訓練された機械学習システム
が前記第1の予測
と前記第2の注釈付き訓練データの第2の予測
とを同時に展開するように、前記第1
の注釈付き訓練データおよび前記第2の注釈付き訓練データに従って、前記訓練されていない機械学習システムを訓練
することにより、前記訓練された機械学習システムを展開する、請求項1に記載のシステム。
【請求項3】
前記第2の注釈付き訓練データは、複数の第2の注釈付き訓練データ値を備え、前記複数の第2の注釈付き訓練データ値
のそれぞれ
は、前記第3の画像のピクセルに対応し、前記第3の画像分析ステップは
、同じ値を有する前記第3の画像内の隣接するピクセルの群を識別
することと、前記群を構成する前記ピクセル
に関連付けられ
ている前記第2の注釈付き訓練データ値を、前記群を構成するピクセルの数
に関連付けられ
ている所定の値に設定
することとを前記シーケンサに行わせる、請求項2に記載のシステム。
【請求項4】
前記システムは、前記プログラマブルデバイス上で動作する画像エディタをさらに備え、前記シーケンサは、前記第1
の画像分析ステップを適用することによって、前記第1の画像から中間画像を展開し、前記ユーザインターフェースジェネレータは、画像編集命令を受信し、前記画像エディタは、前記画像編集命令を前記中間画像に適用
することにより、前記注釈付き訓練データを展開する、請求項1に記載のシステム。
【請求項5】
前記中間画像は、複数のピクセルを備え、
前記複数のピクセルのそれぞれは、前記第1の画像のピクセルに対応し、
かつ、前記第1の画像のピクセルによって表される物体の特性
に関連付けられ
ている値または背景値を有する、請求項
4に記載のシステム。
【請求項6】
前記画像編集命令は
、前記複数のピクセルのうちの1つの値を、前記特性
に関連付けられ
ている値から前記
背景値に修正
することを前記画像エディタに行わせる、請求項
5に記載のシステム。
【請求項7】
前記プログラマブルデバイスは、第1のプログラマブルデバイスを備え、前記シーケンサは、第1のシーケンサを備え、前記機械学習システム訓練器は、第1の機械学習システム訓練器を備え、前記訓練された機械学習システムは、第1の訓練された機械学習システムを備え、前記ワークフローは、第1のワークフローを備え、
前記システムは、前記第1のプログラマブルデバイスから遠隔の第2のプログラマブルデバイス上で動作する第2のシーケンサ
および第2の機械学習システム訓練器
をさらに備え、前記第2の機械学習システム訓練器は、前記第1の訓練された機械学習システム
に関連付けられ
ているパラメータを使用して
、訓練されていない機械学習システムを構成
することにより、第2の訓練された機械学習システムを展開
し、前記第2のシーケンサは、前記第2の訓練された機械学習システムを動作させるステップを規定する第2のワークフローの規定を受信し、前記第2のワークフローを第3の画像に適用
することにより、前記第3の画像を分析する、請求項1に記載のシステム。
【請求項8】
前記ユーザインターフェースジェネレータは、第3の画像の規定を受信し、前記シーケンサは、前記第3の画像から第2の注釈付きデータを展開し、前記機械学習システム訓練器は、前記第3の画像および前記第2の注釈付き訓練データを使用
することにより、前記訓練された機械学習システムの訓練を更新する、請求項1に記載のシステム。
【請求項9】
前記訓練された機械学習システムは、ニューラルネットワークを備え、機械学習システム訓練器は、転移学習を使用
することにより、前記訓練された機械学習システムの訓練を更新する、請求項
8に記載のシステム。
【請求項10】
第1の画像は、前記生物学的サンプルの3次元表現を表す第1の一連の画像のうちの1つであり、前記注釈付き訓練データは、前記
第1の一連の画像の全てから展開され、前記機械学習システム訓練器は、前記第1の一連の画像の全て
を前記機械学習システムに
入力として同時に提供
することにより、前記機械学習システムを訓練し、
これにより、所定の誤差内の前記注釈付き訓練データの予測を生成する、請求項1に記載のシステム。
【請求項11】
前記注釈付き訓練データは、前記第1の一連の画像から展開された共焦点画像である、請求項
10に記載のシステム。
【請求項12】
前記ユーザインターフェースジェネレータは、前記生物学的サンプルの第3の画像の規定を受信し、前記シーケンサは、前記第1の画像および前記第3の画像から前記注釈付き訓練データを展開する、請求項1に記載のシステム。
【請求項13】
前記シーケンサは、第2の画像分析ステップを前記生物学的サンプルの第3の画像に適用
することにより、前記注釈付き訓練データセットを展開し、前記第1の画像および前記第3の画像は、
複数の異なる照明
条件および光学
条件および撮像条件のうちの1つ以上
を使用して入手される、請求項1に記載のシステム。
【請求項14】
前記第1の画像の規定は、画像リポジトリ内の第1の画像の場所を規定することを含む、請求項1に記載のシステム。
【請求項15】
前記画像リポジトリは、前記プログラマブルデバイスから遠隔の場所にある、請求項
14に記載のシステム。
【請求項16】
画像を分析するための方法であって、
前記方法は、プログラマブルデバイスを動作させ
ることにより、
グラフィカルユーザインターフェースを生成するようにコンピュータに命令するステップと、
前記コンピュータから、生物学的サンプルの第1の画像および第1の画像分析ステップの規定を受信するステップ
であって、前記第1の画像および前記第1の画像分析ステップの規定は、前記グラフィカルユーザインターフェースを使用して展開される、ステップと、
前記第1
の画像分析ステップを前記第1の画像に適用することによって、注釈付き訓練データを展開するステップと、
訓練されていない機械学習システムを訓練
することにより、訓練された機械学習システムを展開するステップであって、前記訓練された機械学習システム
が前記第1の画像を
入力として提示されると、前記訓練された機械学習システムは、所定の誤差内の前記注釈付き訓練データの予測を展開する、ステップと、
前記コンピュータから、前記グラフィカルユーザインターフェースを使用して展開されたワークフローの規定を受信するステップであって、
前記ワークフローは、第2の画像分析ステップを備え、前記第2の
画像分析ステップは、前記訓練された機械学習システムを動作させるステップを含む、ステップと、
第2の画像に対して前記ワークフローを行
うことにより、前記第2の画像を分析するステップと
を行うステップ
を含む、方法。
【請求項17】
前記注釈付き訓練データは、第1の注釈付き訓練データを備え、前記注釈付き訓練データの予測は、前記第1の注釈付き訓練データの第1の予測を備え、前記プログラマブルデバイスを動作させ
ることにより、第3の画像分析ステップの規定を受信するステップと、前記第3の画像分析ステップを第3の画像に適用
することにより、第2の注釈付き訓練データを展開するステップと、前記訓練された機械学習システム
が前記第1の画像を
入力として提示されると、前記訓練された機械学習システム
が前記第1の予測
と前記第2の注釈付き訓練データの第2の予測
とを同時に展開するように、前記訓練されていない機械学習システムを訓練
することにより、前記訓練された機械システムを展開するステップとを
さらに行う、請求項
16に記載の方法。
【請求項18】
前記第2の注釈付き訓練データは、複数の第2の注釈付き訓練データ値を備え、前記複数の第2の注釈付き訓練データ値
のそれぞれ
は、前記第3の画像のピクセルに対応し、前記プログラマブルデバイスを動作させ
ることにより、同じ所定の値を有する前記第3の画像内の隣接するピクセルの群を識別する
ステップと、前記群を構成する前記ピクセル
に関連付けられ
ている前記第2の注釈付き訓練値を、前記群を構成するピクセルの数
に関連付けられ
ている所定の値に設定する
ステップとをさらに行う、請求項
17に記載の方法。
【請求項19】
前記プログラマブルデバイスを動作させ
ることにより、前記注釈付き訓練データを展開する
ことは、前記第1の画像分析ステップを適用することによって前記第1の画像から中間画像を展開
することと、画像編集命令を受信
することと、前記画像編集命令を前記中間画像に適用
することにより、前記注釈付き訓練データを展開
することとを含む、請求項
16に記載の方法。
【請求項20】
前記中間画像は、複数のピクセルを備え、
前記複数のピクセルのそれぞれは、前記第1の画像のピクセルに対応し、
かつ、前記第2の画像のピクセルによって表される物体の特性
に関連付けられ
ている値または背景値を有する、請求項
19に記載の方法。
【請求項21】
前記プログラマブルデバイスを動作させ
ることにより、前記画像編集命令を行う
ことは
、前記複数のピクセルのうちの1つの値を、前記特性
に関連付けられ
ている値から前記
背景値に修正する
ことを前記プログラマブルデバイスに行わせる、請求項
20に記載の方法。
【請求項22】
前記プログラマブルデバイスは、第1のプログラマブルデバイスを備え、前記ワークフローは、第1のワークフローを備え、前記訓練された機械学習システムは、第1の訓練された機械学習システムを備え、
前記方法は、前記第1のプログラマブルデバイスから遠隔の第2のプログラマブルデバイスを動作させ
ることにより、前記第1の機械学習システム
に関連付けられ
ているパラメータを使用して
、訓練されていない機械学習システムを構成する
ことにより、第2の訓練された機械学習システムを展開するステップと、前記第2の訓練された機械学習システムを動作させるステップを規定する第2のワークフローの規定を受信するステップと、前記第2のワークフローを第3の画像に適用
することにより、前記第3の画像を分析するステップとを行うステップをさらに含む、請求項
16に記載の方法。
【請求項23】
前記方法は、前記プログラマブルデバイスを動作させ
ることにより、第3の画像の規定を受信するステップと、前記第3の画像から第2の注釈付きデータを展開するステップと、前記第3の画像および前記第2の注釈付き訓練データを使用して、前記訓練された機械学習システムの訓練を更新するステップとを行うステップをさらに含む、請求項
16に記載の方法。
【請求項24】
前記訓練された機械学習システムは、ニューラルネットワークを備え、前記訓練された機械学習システムの訓練を更新するステップは、転移学習を使用するステップを含む、請求項
23に記載の方法。
【請求項25】
前記第1の画像は、前記生物学的サンプルの3次元表現を表す第1の一連の画像のうちの1つであり、前記注釈付き訓練データを展開するステップは、前記第1の一連の画像の全てから前記注釈付き訓練データを展開するステップを含み、前記機械学習システムを訓練するステップは、前記第1の一連の画像の全て
を前記機械学習システムに
入力として提供するステップを含む、請求項
16に記載の方法。
【請求項26】
前記注釈付き訓練データを展開するステップは、前記第1の画像および第3の画像から前記注釈付き訓練データを展開するステップを含む、請求項
16に記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
(関連出願)
本願は、その内容が、参照することによってその全体として本明細書に組み込まれる、2019年1月23日に出願された米国出願第16/254,823号の優先権を主張する。
【0002】
本主題は、生物学的サンプルの画像を分析するための画像分析システムに関し、より具体的には、そのような画像分析システム内に機械学習システムを組み込むことに関する。
【背景技術】
【0003】
撮像システムが、生物学的サンプルの顕微鏡画像を取得するために使用され得る。そのような画像は、その中の着目物体(細胞、小器官、および同等物)と関連付けられる画像のピクセルを識別し、画像内に表される異なるタイプの着目物体を分類し、そのような着目物体またはその一部および同等物に関するメトリックを取得するために、画像分析システムを使用して処理され得る。そのようなメトリックは、例えば、着目物体のカウント、生物学的サンプル内に表される各タイプの着目物体のカウント、細胞のサイズ(面積、周囲長、体積)、着目物体のサイズの統計(平均値、最頻値、中央値、標準偏差等)、および同等物を含み得る。
【0004】
いくつかの画像分析システムは、オペレータが、生物学的サンプルの1つ以上の画像を分析するためのワークフローを双方向的に規定し、出力画像を作成することを可能にする。出力画像の各ピクセルは、生物学的サンプルの画像の対応するピクセルと関連付けられ、出力画像のピクセルの値は、生物学的サンプルの画像の対応するピクセルが、細胞、細胞の特定のタイプの成分、特定のタイプの細胞、またはある特性を有する細胞、および同等物等の着目物体と関連付けられるかどうかを示す。
【0005】
画像分析システムを使用して規定されるワークフローは、生物学的サンプルの画像または事前の画像分析ステップから発生される画像に適用するべき画像分析ステップのシーケンス、およびそのような画像分析ステップに関するパラメータを含む。典型的には、ワークフローを構成する画像分析ステップのシーケンスおよびそれに関するパラメータは、例示的生物学的サンプルの1つ以上の画像を使用して定義される。例えば、オペレータは、撮像システムから入手される、または以前の画像分析ステップを行うことからもたらされるもののいずれかの1つ以上の画像を選択する。オペレータはまた、選択された画像を使用して行うべき画像分析ステップを利用可能な画像分析ステップのライブラリから選択し、画像分析ステップの出力に対するそのような調節の効果を確認しながら、選択された画像分析ステップと関連付けられるパラメータを反復的に調節する。その後、パラメータのそのような調節が、オペレータの期待に応える出力をもたらす場合、オペレータは、選択された画像分析ステップおよびそれと関連付けられるパラメータをワークフローに追加する。そうでなければ、オペレータは、異なる画像分析ステップを選択する、またはワークフローの作成を終了し得る。オペレータは、ワークフローの出力が満足の行くものになるまで、このようにワークフローを展開し続ける。オペレータが、画像分析ステップおよびそのようなステップが行われるべきであるシーケンスの全てを選択した後、画像分析システムは、1つ以上の付加的画像に対してワークフローを適用し、そのような画像を分析し得る。
【0006】
ワークフローを構成するいくつかの画像分析ステップは、例えば、特定の照明条件を使用する、蛍光の間、発光体と生物学的サンプルとの間で1つ以上のフィルタを使用する、生物学的サンプルと画像捕捉デバイスとの間で1つ以上のフィルタを使用する、特定の対物レンズ使用する、および同等物等の特定の条件下の生物学的サンプルの1つ以上の画像の入手と関連付けられる。いくつかの画像分析ステップは、画像処理動作を使用し、入手された画像および/または別の画像分析ステップを行う結果として発生された画像を処理するステップを含み得る。そのような画像処理動作は、アンシャープマスキングフィルタ、閾値フィルタ、エッジ検出フィルタ、平滑フィルタ、および同等物等の1つ以上の画像処理フィルタを1つ以上の画像に適用するステップを含み得る。ワークフローにおいて規定される画像処理動作はまた、1つ以上の捕捉された画像を相互と組み合わせること、1つ以上の捕捉された画像を事前の画像処理動作によって発生された1つ以上の画像と組み合わせること、および同等物によって画像を発生させるステップを含み得る。画像処理動作はさらに、画像内の異なるタイプの物体(例えば、細胞またはその一部)をカウントする測定動作および上記に説明されるようなそのような物体と関連付けられる測定メトリックを含み得る。
【0007】
「IMAGE PROCESSING SYSTEM PROVIDING SELECTIVE ARRANGEMENT AND CONFIGURATION FOR AN IMAGE ANALYSIS SEQUENCE」と題された、Cohen et al.の米国特許第8,577,079号は、そのような画像分析システムを開示している。加えて、「SYTEM AND METHOD FOR IMAGE ANALYSIS OF MULTI-DIMENSIONAL DATA」と題された、Cohen et al.の米国特許第9,928,403号は、多次元画像のために使用され得るワークフローを規定および適用するための別のそのような画像分析システムを開示している。これらの特許の両方の全内容は、参照することによって本明細書に組み込まれる。
【0008】
1つ以上の画像を分析するように訓練されている、訓練された機械学習システムをワークフローの中に組み込むことが、有用であろう。しかしながら、そのような訓練された機械学習システムは、その中に表される、例えば、細胞またはその小器官と関連付けられるピクセル、細胞のタイプ、および同等物等の特定の特性に関して特定のタイプの生物学的サンプルの画像を分析する必要性があるであろう。1つのタイプの生物学的サンプルを分析するように訓練された機械学習システムは、別のタイプの生物学的サンプルを分析するために有用ではない場合がある。さらに、機械学習システムの訓練は、典型的には、人工知能および/または機械学習における専門知識を要求しており、したがって、そのそれぞれが、特定のタイプの生物学的サンプルを分析するように訓練される、種々の訓練された機械学習システムを展開することは、実行可能ではなかった。画像分析システムが、オペレータが、特定の特性に関して特定のタイプの生物学的サンプルを分析するように機械学習システムを容易に訓練し、そのような訓練された機械学習システムを、画像分析システムを使用して展開されたワークフロー内に組み込むことを可能にする特徴を含む場合、有用であろう。
【発明の概要】
【課題を解決するための手段】
【0009】
一側面によると、画像を分析するためのシステムは、非一過性プログラマブルデバイスを含み、非一過性プログラマブルデバイス上で動作する、ユーザインターフェースジェネレータと、シーケンサと、機械学習システム訓練器とを備える。ユーザインターフェースジェネレータは、生物学的サンプルの第1の画像および第1の画像分析ステップの規定を受信し、シーケンサは、第1の画像分析ステップを第1の画像に適用し、注釈付き訓練データを展開する。機械学習システム訓練器は、訓練されていない機械学習システムを訓練し、訓練された機械学習システムを展開し、訓練された機械学習システムが、入力として第1の画像を提示されると、訓練された機械学習システムは、注釈付き訓練データの予測を展開する。加えて、シーケンサは、訓練された機械学習システムを動作させるステップを規定する第2の画像分析ステップを備えるワークフローの規定を受信し、シーケンサは、第2の画像に対してワークフローを行い、第2の画像を分析する。
【0010】
別の側面によると、画像を分析するための方法は、非一過性プログラマブルデバイスを動作させ、生物学的サンプルの第1の画像および第1の画像分析ステップの規定を受信するステップを行うステップを含む。非一過性プログラマブルデバイスは、加えて、第1の画像分析ステップを第1の画像に適用することによって注釈付き訓練データを展開するステップと、訓練されていない機械学習システムを訓練し、訓練された機械学習システムを展開するステップとを行う。訓練された機械学習システムが、入力として第1の画像を提示されると、訓練された機械学習システムは、注釈付き訓練データの予測を展開する。非一過性プログラマブルデバイスは、さらに、第2の画像分析ステップを備えるワークフローの規定を受信するステップであって、第2の分析ステップは、訓練された機械学習システムを動作させるステップを含む、ステップと、第2の画像に対してワークフローを行い、第2の画像を分析するステップとを行う。
【0011】
他の側面および利点が、同様の番号が本明細書全体を通して同様の構造を指定する、以下の詳細な説明および添付される図面の考慮に応じて明白となるであろう。
本発明は、例えば、以下を提供する。
(項目1)
画像を分析するためのシステムであって、前記システムは、非一過性プログラマブルデバイスを含み、
前記非一過性プログラマブルデバイス上で動作するユーザインターフェースジェネレータであって、前記ユーザインターフェースジェネレータは、生物学的サンプルの第1の画像および第1の画像分析ステップの規定を受信する、ユーザインターフェースジェネレータと、
前記非一過性プログラマブルデバイス上で動作するシーケンサであって、前記シーケンサは、前記第1の画像分析ステップを前記第1の画像に適用し、注釈付き訓練データを展開する、シーケンサと、
前記非一過性プログラマブルデバイス上で動作する機械学習システム訓練器であって、前記機械学習システム訓練器は、訓練されていない機械学習システムを訓練し、訓練された機械学習システムを展開し、前記訓練された機械学習システムが、入力として前記第1の画像を提示されると、前記訓練された機械学習システムは、前記注釈付き訓練データの予測を展開する、機械学習システム訓練器と
を備え、
前記シーケンサは、前記訓練された機械学習システムを動作させるステップを規定する第2の画像分析ステップを備えるワークフローの規定を受信し、前記シーケンサは、第2の画像に対して前記ワークフローを行い、前記第2の画像を分析する、
システム。
(項目2)
前記注釈付き訓練データは、第1の注釈付き訓練データを備え、前記注釈付き訓練データの予測は、前記第1の注釈付き訓練データの第1の予測を備え、前記ユーザインターフェースジェネレータは、第3の画像分析ステップの規定を受信し、前記シーケンサは、前記第3の画像分析ステップを第3の画像に適用し、第2の注釈付き訓練データを展開し、前記機械学習システム訓練器は、前記訓練された機械学習システムが、入力として前記第1の画像を提示されると、前記訓練された機械学習システムが、前記第2の注釈付きデータの第1の予測および第2の予測を同時に展開するように、前記第1および前記第2の注釈付き訓練データに従って、前記訓練されていない機械学習システムを訓練し、前記訓練された機械システムを展開する、項目1に記載のシステム。
(項目3)
前記第2の注釈付き訓練データは、複数の第2の注釈付き訓練データ値を備え、前記複数の第2の注釈付き訓練データ値はそれぞれ、前記第3の画像のピクセルに対応し、前記第3の画像分析ステップは、前記シーケンサに、同じ値を有する前記第3の画像内の隣接するピクセルの群を識別させ、前記群を構成する前記ピクセルと関連付けられる前記第2の注釈付き訓練データ値を、前記群を構成するピクセルの数と関連付けられる所定の値に設定させる、項目2に記載のシステム。
(項目4)
前記第2の注釈付き訓練データおよび前記第3の画像は、同じである、項目2に記載のシステム。
(項目5)
前記非一過性プログラマブルデバイス上で動作する画像エディタをさらに備え、前記シーケンサは、前記第1の1つの画像分析ステップを適用することによって、前記第1の画像から中間画像を展開し、前記ユーザインターフェースジェネレータは、画像編集命令を受信し、前記画像エディタは、前記画像編集命令を前記中間画像に適用し、前記注釈付き訓練データを展開する、項目1に記載のシステム。
(項目6)
前記中間画像は、複数のピクセルを備え、そのそれぞれは、前記第1の画像のピクセルに対応し、前記第1の画像のピクセルによって表される物体の特性と関連付けられる値または背景値を有する、項目5に記載のシステム。
(項目7)
前記画像編集命令は、前記画像エディタに、前記複数のピクセルのうちの1つの値を、前記特性と関連付けられる値から前記背景と関連付けられる値に修正させる、項目6に記載のシステム。
(項目8)
前記非一過性プログラマブルデバイスは、第1の非一過性プログラマブルデバイスを備え、前記シーケンサは、第1のシーケンサを備え、前記機械学習システム訓練器は、第1の機械学習システム訓練器を備え、前記訓練された機械学習システムは、第1の訓練された機械学習システムを備え、前記ワークフローは、第1のワークフローを備え、さらに、前記第1の非一過性プログラマブルデバイスから遠隔の第2の非一過性プログラマブルデバイス上で動作する第2のシーケンサと、第2の機械学習システム訓練器とを備え、前記第2の機械学習システム訓練器は、前記第1の訓練された機械学習システムと関連付けられるパラメータを使用して、第2の訓練された機械学習システムを展開するように訓練されていない機械学習システムを構成し、前記第2のシーケンサは、前記第2の訓練された機械学習システムを動作させるステップを規定する第2のワークフローの規定を受信し、前記第2のワークフローを第3の画像に適用し、前記第3の画像を分析する、項目1に記載のシステム。
(項目9)
前記ユーザインターフェースジェネレータは、第3の画像の規定を受信し、前記シーケンサは、前記第3の画像から第2の注釈付きデータを展開し、前記機械学習システム訓練器は、前記第3の画像および前記第2の注釈付き訓練データを使用し、前記訓練された機械学習システムの訓練を更新する、項目1に記載のシステム。
(項目10)
前記訓練された機械学習システムは、ニューラルネットワークを備え、機械学習システム訓練器は、転移学習を使用し、前記訓練された機械学習システムの訓練を更新する、項目9に記載のシステム。
(項目11)
第1の画像は、前記生物学的サンプルの3次元表現を表す第1の一連の画像のうちの1つであり、前記注釈付き訓練データは、前記第2の一連の画像の全てから展開され、前記機械学習システム訓練器は、前記第1の一連の画像の全てを入力として前記機械学習システムに同時に提供し、前記機械学習システムを訓練し、所定の誤差内の前記注釈付き訓練データの予測を生成する、項目1に記載のシステム。
(項目12)
前記注釈付き訓練データは、前記第1の一連の画像から展開された共焦点画像である、項目11に記載のシステム。
(項目13)
前記ユーザインターフェースジェネレータは、前記生物学的サンプルの第3の画像の規定を受信し、前記シーケンサは、前記第1の画像および前記第3の画像から前記注釈付き訓練データを展開する、項目1に記載のシステム。
(項目14)
前記第1の画像分析ステップは、第1の画像分析ステップを含み、前記シーケンサは、第2の画像分析ステップを前記生物学的サンプルの第3の画像に適用し、前記注釈付き訓練データセットを展開し、前記第1の画像および前記第3の画像は、異なる照明、光学、および撮像条件のうちの1つ以上のものを使用して入手される、項目1に記載のシステム。
(項目15)
前記第1の画像の規定は、画像リポジトリ内の第1の画像の場所を規定することを含む、項目1に記載のシステム。
(項目16)
前記画像リポジトリは、前記非一過性プログラマブルデバイスから遠隔の場所にある、項目15に記載のシステム。
(項目17)
画像を分析するための方法であって、
非一過性プログラマブルデバイスを動作させ、
生物学的サンプルの第1の画像および第1の画像分析ステップの規定を受信するステップと、
前記第1の1つの画像分析ステップを前記第1の画像に適用することによって、注釈付き訓練データを展開するステップと、
訓練されていない機械学習システムを訓練し、訓練された機械学習システムを展開するステップであって、前記訓練された機械学習システムが、入力として前記第1の画像を提示されると、前記訓練された機械学習システムは、所定の誤差内の前記注釈付き訓練データの予測を展開する、ステップと、
第2の画像分析ステップを備えるワークフローの規定を受信するステップであって、前記第2の分析ステップは、前記訓練された機械学習システムを動作させるステップを含む、ステップと、
第2の画像に対して前記ワークフローを行い、前記第2の画像を分析するステップと
を行うステップ
を含む、方法。
(項目18)
前記注釈付き訓練データは、第1の注釈付き訓練データを備え、前記注釈付き訓練データの予測は、前記第1の注釈付き訓練データの第1の予測を備え、前記非一過性プログラマブルデバイスを動作させ、さらに、第3の画像分析ステップの規定を受信するステップと、前記第3の画像分析ステップを第3の画像に適用し、第2の注釈付き訓練データを展開するステップと、前記訓練された機械学習システムが、入力として前記第1の画像を提示されると、前記訓練された機械学習システムが、前記第2の注釈付きデータの第1の予測および第2の予測を同時に展開するように、前記訓練されていない機械学習システムを訓練し、前記訓練された機械システムを展開するステップとを行う、項目17に記載の方法。
(項目19)
前記第2の注釈付き訓練データは、複数の第2の注釈付き訓練データ値を備え、前記複数の第2の注釈付き訓練データ値はそれぞれ、前記第3の画像のピクセルに対応し、前記非一過性プログラマブルデバイスを動作させ、同じ所定の値を有する前記第3の画像内の隣接するピクセルの群を識別し、前記群を構成する前記ピクセルと関連付けられる前記第2の注釈付き訓練値を、前記群を構成するピクセルの数と関連付けられる所定の値に設定するさらなるステップを行う、項目18に記載の方法。
(項目20)
前記第2の注釈付き訓練データおよび前記第3の画像は、同じである、項目18に記載の方法。
(項目21)
前記非一過性プログラマブルデバイスを動作させ、前記注釈付き訓練データを展開するステップを行うステップは、前記第1の画像分析ステップを適用することによって前記第1の画像から中間画像を展開し、画像編集命令を受信し、前記画像編集命令を前記中間画像に適用し、前記注釈付き訓練データを展開するステップを含む、項目17に記載の方法。
(項目22)
前記中間画像は、複数のピクセルを備え、そのそれぞれは、前記第1の画像のピクセルに対応し、前記第2の画像のピクセルによって表される物体の特性と関連付けられる値または背景値を有する、項目17に記載の方法。
(項目23)
前記非一過性プログラマブルデバイスを動作させ、前記画像編集命令を行うステップは、前記非一過性プログラマブルデバイスに、前記複数のピクセルのうちの1つの値を、前記特性と関連付けられる値から前記背景と関連付けられる値に修正するステップを行わせる、項目22に記載の方法。
(項目24)
前記非一過性プログラマブルデバイスは、第1の非一過性プログラマブルデバイスを備え、前記ワークフローは、第1のワークフローを備え、前記訓練された機械学習システムは、第1の訓練された機械学習システムを備え、前記第1の非一過性プログラマブルデバイスから遠隔の第2の非一過性プログラマブルデバイスを動作させ、前記第1の機械学習システムと関連付けられるパラメータを使用して、第2の訓練された機械学習システムを展開するように訓練されていない機械学習システムを構成するステップと、前記第2の訓練された機械学習システムを動作させるステップを規定する第2のワークフローの規定を受信するステップと、前記第2のワークフローを第3の画像に適用し、前記第3の画像を分析するステップとを行うステップをさらに含む、項目17に記載の方法。
(項目25)
前記非一過性プログラマブルデバイスを動作させ、さらに、第3の画像の規定を受信するステップと、前記第3の画像から第2の注釈付きデータを展開するステップと、前記第3の画像および前記第2の注釈付き訓練データを使用して、前記訓練された機械学習システムの訓練を更新するステップとを行うステップをさらに含む、項目17に記載の方法。
(項目26)
前記訓練された機械学習システムは、ニューラルネットワークを備え、前記訓練された機械学習システムの訓練を更新するステップは、転移学習を使用するステップを含む、項目25に記載の方法。
(項目27)
前記第1の画像は、前記生物学的サンプルの3次元表現を表す第1の一連の画像のうちの1つであり、前記注釈付き訓練データを展開するステップは、前記第1の一連の画像の全てから前記注釈付き訓練データを展開するステップを含み、前記機械学習システムを訓練するステップは、前記第1の一連の画像の全てを入力として前記機械学習システムに提供するステップを含む、項目17に記載の方法。
(項目28)
前記注釈付き訓練データを展開するステップは、前記第1の画像および第3の画像から前記注釈付き訓練データを展開するステップを含む、項目17に記載の方法。
【図面の簡単な説明】
【0012】
【
図1】
図1は、画像分析システムのブロック図である。
【0013】
【
図2】
図2は、オペレータが、機械学習システムを含む画像分析ワークフローを作成および使用するために、
図1の画像分析システムを使用し得る方法のフローチャートを示す。
【0014】
【
図3】
図3は、
図1の画像分析システムのグラフィカルユーザインターフェースである。
【0015】
【
図3A】
図3Aは、
図3に示されるグラフィカルユーザインターフェースのパネルである。
【0016】
【
図4】
図4は、ワークフローを作成するための
図1の画像分析システムの動作を示す、フローチャートである。
【0017】
【
図5】
図5は、ワークフローを作成するための
図1の画像分析システムの動作を示す、別のフローチャートである。
【0018】
【
図6】
図6は、
図1の画像分析システムの画像エディタの動作のフローチャートである。
【0019】
【
図7】
図7は、画像を編集するために使用されるときの
図3のグラフィカルユーザインターフェースである。
【0020】
【
図7A】
図7Aは、
図7のグラフィカルユーザインターフェース内に描写される、編集される前の画像を示す。
【0021】
【
図8】
図8は、
図1の画像分析システムの機械学習システムの機械学習システム訓練器の動作を示す、フローチャートである。
【0022】
【
図8A】
図8Aは、
図1の画像分析システムの機械学習システムの機械学習システム訓練器を動作させるために使用される、
図3に示されるグラフィカルユーザインターフェースのパネルである。
【0023】
【
図9】
図9は、
図1の画像分析システムの機械学習システムの機械学習システム訓練器の動作の詳細を示す、フローチャートである。
【0024】
【
図10】
図10は、機械学習システムを再訓練するために
図1の画像分析システムの機械学習システムの機械学習システム訓練器を使用する動作の詳細を示す、フローチャートである。
【発明を実施するための形態】
【0025】
明確化のために、本開示では、機械学習システムの訓練および使用を含む、画像分析ステップは、1つの画像に作用し、別の画像を生成するものとして説明される。しかしながら、いくつかの画像分析ステップが、複数の入力画像に作用し、1つの出力画像を発生させ、他の画像分析ステップが、1つの入力に作用し、複数の出力画像を発生させ、なおも他の画像分析ステップが、複数の入力画像に作用し、複数の出力画像を発生させることが、当業者に明白となるはずである。さらに、いくつかの実施形態では、測定値は、入力画像または1つ以上の画像分析ステップの適用からもたらされる画像から展開されてもよく、そのような測定値は、入力としてさらなる画像分析ステップに提供されてもよい。
【0026】
下記に詳細に説明されるように、オペレータ(すなわち、画像分析システムのユーザ)は、画像分析システムを双方向的に使用し、生物学的サンプルの画像を分析するように機械学習システムを訓練し、次いで、他の生物学的サンプルの付加的画像、例えば、撮像システムによって入手された生物学的サンプルの画像を分析するために、1つ以上の画像分析ステップと組み合わせて、ワークフローにおいて訓練された機械学習システムの使用を規定してもよい。
【0027】
オペレータはまた、画像分析システムを使用し、機械学習システムを訓練し、次いで、訓練された機械学習システムの動作を画像分析ステップのうちの1つとしてワークフロー内に組み込んでもよい。特に、下記により詳細に説明されるように、オペレータは、例示的入力画像を選択し、1つ以上の画像分析ステップを入力画像に対して適用し、注釈付き訓練データを展開し、入力として例示的入力画像を提示されると、注釈付き訓練データの予測を生成するように機械学習システムを訓練する。典型的には、注釈付きデータは、セグメンテーション画像、分類画像、またはセグメンテーションおよび分類画像のうちの一方または両方から導出された画像のいずれかである。そのような注釈付きデータは、入力画像の各ピクセルに対応する出力値を含む。
【0028】
注釈付きデータが、セグメンテーション画像である場合、出力値は、入力画像の対応するピクセルが、細胞、細胞の特徴、特定のタイプの細胞、および同等物等の着目物体と関連付けられるかどうかを示す。着目物体と関連付けられる入力画像のピクセルに対応する注釈データの値は、前景ピクセルと関連付けられる所定の値に設定され、着目物体と関連付けられない入力画像のピクセルに対応する注釈データの値は、背景ピクセルと関連付けられる所定の値に設定される。
【0029】
注釈付きデータが、分類画像である場合、入力画像のピクセルと関連付けられる出力値は、ピクセルにおいて表される生物学的サンプルの一部が属するクラスを示す。そのようなクラスは、例えば、細胞タイプ、小器官タイプ、細胞条件、および同等物であってもよい。細胞条件は、例えば、細胞が生存または死滅しているかどうか、細胞が細胞分裂をしているかどうか、またはそのような細胞分裂の特定の状態を含んでもよい。各クラスは、特定のピクセル値と関連付けられてもよい。特定のクラスと関連付けられる入力画像内のピクセルに対応する注釈データの値は、特定の値に設定される。いかなるそのようなクラスとも関連付けられない入力画像内のピクセルに対応する注釈データの値は、背景ピクセルと関連付けられる所定の値に設定される。
【0030】
上記のように、注釈付きデータは、セグメンテーションおよび/または分類画像から導出されてもよい。例えば、一実施形態では、セグメンテーション画像は、前景ピクセルと関連付けられる値を有する連続するピクセルの1つ以上の群の重心(すなわち、セグメンテーション画像内の各小塊、生物学的細胞、小器官等の重心)の座標を識別するために処理されてもよい。そのような座標と関連付けられる注釈付きデータの値は、第1の所定の値に設定され、そのような座標と関連付けられない注釈付きデータの値は、第2の所定の値に設定される。いくつかの実施形態では、第1の所定の値は、セグメンテーション画像内の前景ピクセルと関連付けられる値と同じであり、第2の所定の値は、背景ピクセルと関連付けられる値と同じである。
【0031】
いくつかの実施形態では、セグメンテーション画像は、例えば、訓練画像内の1つ以上の着目物体の1つ以上の中心、1つ以上の境界ボックス、面積、および同等物の座標を含む注釈付きデータを展開するために処理されてもよい。いくつかの実施形態では、そのような注釈付きデータは、例えば、セグメンテーション画像内に表される各物体と関連付けられる物体スコアまたは信頼レベルを含んでもよい。そのような物体スコアは、例えば、それと関連付けられる物体が、例えば、特定の形状、特定のクラスの物体と関連付けられるソース画像内のピクセルの特定の強度、および同等物等の特定の基準に合致する信頼レベルを示してもよい。いくつかの実施形態では、注釈付きデータ訓練データは、セグメンテーション画像内に識別される物体あたり1つのエントリを伴うテーブルであってもよい。各そのようなエントリは、例えば、エントリと関連付けられる物体と関連付けられる物体識別子および1つ以上の特性または数値(例えば、上記に説明される座標、物体スコア、および同等物)を含んでもよい。画像の代わりにテーブルである注釈付きデータを展開することは、例えば、テーブルが、画像よりも少ないメモリを要求し得る、またはより容易に分析され得るため、有利であり得る。
【0032】
いくつかの実施形態では、注釈付き訓練データは、画像として閲覧されてもよく、そのような画像のピクセルの値は、入力画像の対応するピクセルが、着目物体と関連付けられるかどうかを示す。
【0033】
機械学習システムが、上記に説明されるように訓練された後、付加的生物学的サンプルの画像が、入力として機械学習システムに提示されてもよく、応答して、訓練された機械学習システムは、出力値を発生させる。いくつかの実施形態では、各出力値は、付加的生物学的サンプルの画像の1つのピクセルに対応し、画像のピクセルが、着目物体と関連付けられるかどうかを示す。
【0034】
さらに、生物学的サンプルの第1および第2のタイプの画像、例えば、それぞれ、蛍光画像および透過光画像が、入手されてもよい。その後、注釈付き訓練データは、第1のタイプの画像から展開されてもよく、機械学習システムは、入力として生物学的サンプルの第2のタイプの画像を受け入れ、応答して、注釈付き訓練データを発生させるように訓練されてもよい。このように訓練された機械学習システムは、次いで、さらなる生物学的サンプルの第2のタイプの画像のみを使用して、さらなる生物学的サンプルを分析するために使用されてもよい。当業者は、このように訓練された機械学習システムが、例えば、生物学的サンプルの第2のタイプの画像のみが、利用可能である、第1のタイプの画像を入手することが、生物学的サンプルに有害である、または別様にそれを損なう、または第1のタイプの画像を入手することが、第2のタイプの画像よりも多くの複雑性または費用を要求する場合に有益であろうことを理解するであろう。
【0035】
図1を参照すると、画像分析システム100は、ユーザインターフェースジェネレータ102と、画像入手器104と、シーケンサ106と、画像エディタ108と、画像プロセッサ110と、機械学習システム112と、機械学習システム訓練器114と、測定計算器115とを含む。画像分析システム100はまた、画像データストア116と、ワークフローデータストア118と、機械学習システムパラメータデータストア120とを含む。
【0036】
ユーザインターフェースジェネレータ102は、ユーザコンピュータ122に結合され、画像入手器104は、撮像システム124に結合される。いくつかの実施形態では、撮像システム124は、例えば、ハイコンテンツ撮像システム、レンズなしまたはレンズベースの電子顕微鏡、手動動作可能な顕微鏡、および同等物であってもよい。
【0037】
下記により詳細に説明されるように、ワークフローを展開するために、ユーザインターフェースジェネレータ102は、ユーザが、画像分析ステップ、および必要な場合、それと関連付けられるパラメータを規定し、そのような画像分析ステップの結果を閲覧することを可能にする、グラフィカルユーザインターフェース(GUI)をそのディスプレイ上に発生させるようにユーザコンピュータ122に命令する。当業者は、ユーザインターフェースジェネレータ102が、ユーザコンピュータ122またはそのようなコンピュータのオペレータから情報を受信するものとして本明細書に説明されるとき、ユーザインターフェースジェネレータ102が、GUIに、ユーザから情報を入手させ、そのような情報をユーザインターフェースジェネレータ102に伝送させる命令を発生させ、ユーザコンピュータ122に伝送することを理解するであろう。同様に、ユーザインターフェースジェネレータ102が、ユーザコンピュータ122上で情報を表示するものとして説明されるとき、ユーザインターフェースジェネレータ102は、GUIに、そのような情報を表示させる命令を発生させ、ユーザコンピュータ122に伝送する。
【0038】
図2は、ワークフローにおける訓練された機械学習システム112を作成および使用するための画像分析システム100の特徴の例示的使用のフローチャート150を示す。
図2を参照すると、下記により詳細に説明されるように、オペレータは、ステップ152において、ユーザインターフェースジェネレータによって発生されたGUIを介して、新しいワークフローを開始するようにシーケンサ106に指示する。
【0039】
ステップ154において、オペレータは、画像プロセッサ110が行う画像処理動作等の1つ以上の画像分析動作を規定し、生物学的サンプルの1つ以上の画像から第1の注釈付きデータを展開する。生物学的サンプルは、標識化(すなわち、染色された)または非標識化生物学的サンプルであってもよく、画像は、種々の波長の光を使用して、透過光を使用して、生物学的サンプルが蛍光を受けているとき、および同等物を使用して捕捉されてもよい。上記に説明される画像処理動作は、これらの画像のうちの1つ以上のものに適用されてもよく、そのようなステップを適用した結果は、第1の注釈付きデータを作成するために組み合わせられてもよい。いくつかの実施形態では、第1の注釈付きデータは、各ピクセルが、生物学的サンプル内の着目物体と関連付けられる(すなわち、前景ピクセルである)第1の所定の値または着目物体と関連付けられない(すなわち、背景ピクセルである)第2の所定の値のいずれかを有する、バイナリセグメント化画像を表す。
【0040】
ステップ156において、随意に、オペレータは、画像プロセッサ110によって行われる画像処理動作等の1つ以上の画像分析動作を規定し、生物学的サンプルの1つ以上の画像の第2の注釈付きデータ、または、例えば、第1の注釈付き画像を含む、生物学的サンプルの1つ以上の画像から展開される中間画像を展開する。生物学的サンプルの1つ以上の画像は、第1の注釈付きデータを作成するために使用されるそれらの画像および/または生物学的サンプル付加的画像を含んでもよい。いくつかの実施形態では、第2の注釈付きデータのピクセルは、例えば、数値フィルタリングを使用して、および/または類似する、または同じ値を有する第1の注釈付きデータの隣接するピクセルの数、そのような隣接するピクセルの境界ボックスの寸法、そのような隣接するピクセルの円形度または他の形状メトリック、および同等物に従って決定される、分類と関連付けられる。所定の一意の値(例えば、色)が、各分類と関連付けられてもよく、第2の注釈セットのピクセルの値は、その分類に従って割り当てられる。
【0041】
ステップ158において、オペレータは、画像エディタ108を使用し、第1の注釈付きデータを編集し、例えば、前景ピクセルを背景ピクセルに変更する、または背景ピクセルを前景ピクセルに変更してもよい。オペレータはまた、画像エディタ108を使用し、第2の注釈付きデータを編集し、あるピクセルと関連付けられる分類値を調節する、前景ピクセルを背景ピクセルに変更する、および/または背景ピクセルを前景ピクセルに変更してもよい。
【0042】
ステップ160において、オペレータは、訓練画像として使用するべき生物学的サンプルの画像を識別する。
【0043】
ステップ162において、オペレータは、機械学習システム訓練器114を使用し、訓練画像、第1の注釈付きデータ、および第2の注釈付きデータ(存在する場合)を使用して、訓練されていない機械学習システム112を訓練する。機械学習システム112は、機械学習システム112が、入力として訓練画像を提示されると、機械学習システムが、出力として第1の注釈付きデータの第1の予測データを出力として発生させるように訓練される。第1の注釈付きデータおよび第2の注釈付きデータの両方が、機械学習システム112を訓練するために使用される場合、機械学習システムは、入力として訓練データを提示されると、それぞれ、第1の注釈付きデータおよび第2の注釈付きデータの第1および第2の予測データを発生させる。そのような予測データの各データは、注釈付きデータの対応するデータが特定の値を有するインジケーションまたは確率を提供する。
【0044】
ステップ164において、オペレータは、機械学習システム訓練器114を使用し、機械学習システムパラメータデータストア120内に訓練された機械学習システム112と関連付けられるパラメータを記憶し、識別子をそのようなパラメータと関連付ける。その後、識別子は、そのような識別子と関連付けられる訓練された機械学習システム112を付加的ワークフロー内に組み込むために使用されてもよい。
【0045】
ステップ166において、オペレータは、第1のワークフローを終了する、または閉じる。
【0046】
いくつかの実施形態では、第1のワークフローは、識別子と関連付けられ、ワークフローデータストア118内に保存される。第1のワークフローは、次いで、必要な場合、機械学習システム112の訓練を更新する(例えば、拡張または精緻化する)ために、または訓練されていない機械学習システム112の別のインスタンスを訓練するために、後で呼び出されてもよい。
【0047】
いくつかの実施形態では、ステップ160においてオペレータによって選択された訓練画像は、機械学習システム112を訓練するために十分なデータを提供するために、十分な数量の物体(例えば、細胞、小器官、および同等物)を含んでもよい。しかしながら、オペレータが、ステップ160において、複数の訓練画像を選択し、ステップ154-158において、複数の訓練画像のそれぞれに対応する第1の、随意に、第2の注釈付きデータセットを展開し、ステップ162において、そのような複数の画像および第1および随意の第2の注釈付きデータセットを使用し、機械学習システム112を訓練し得ることが、当業者に明白となるはずである。
【0048】
ステップ162において展開された訓練された機械学習システムを使用するために、オペレータは、ステップ168において、シーケンサ106を使用し、第2のワークフローを作成する。
【0049】
ステップ170において、オペレータは、シーケンサ106を使用し、画像分析システム100によって提供される画像処理動作のメニューから訓練された機械学習システムと関連付けられる識別子を選択することによって、画像処理動作として訓練された機械学習システム112の動作を追加する。
【0050】
ステップ172において、オペレータは、シーケンサ106を使用し、任意の付加的後処理画像分析ステップをワークフローに追加する。そのような後処理画像分析ステップは、訓練された機械学習システムによって発生された出力をクレンジングしてもよく、例えば、自動的境界充填、エッジ検出、スプリアス値の除去、全てが前景と関連付けられる値を有するが、大きすぎて、または小さすぎて着目物体と関連付けられることができない隣接するものの除去、スプリアスコンテンツの除去、および同等物を含んでもよい。
【0051】
ステップ174において、オペレータは、シーケンサ106を使用し、任意の所望の測定ステップを追加し、例えば、特性と関連付けられる少なくとも所定の確率を有する、第2のワークフローによって分析される画像内に表される細胞またはその一部の数のカウント等、特性画像からの1つ以上のメトリックを自動的に展開する。そのようなメトリックを自動的に展開するステップは、境界またはエッジ検出、境界充填、および類似するアルゴリズムを訓練された機械学習システム112によって発生された出力に適用するステップを伴ってもよい。
【0052】
ステップ176において、オペレータは、シーケンサ106を使用し、名称を第2のワークフローと関連付け、第2のワークフローをワークフローデータストア118内に保存する。
【0053】
ステップ154および/または156において展開された第1および/または第2の注釈付きデータが、エントリのテーブルまたは数値データ(例えば、物体の座標、境界ボックス、および同等物)である場合、機械学習システム112は、入力として提示される画像に応答して、それぞれ、テーブルまたは数値データを生成する。
【0054】
さらに、第1の撮像条件を使用して入手された第1の生物学的サンプルの第1の画像である訓練データと、第2の撮像条件を使用して入手された第1の生物学的サンプルの第2の画像である注釈付き訓練データとを選択し、機械学習システム112が、第1の撮像条件を使用して入手された第2の生物学的サンプルの第3の画像から、第4の画像を生成するように訓練され得、第4の画像が、第2の撮像条件を使用して入手されるであろう第2の生物学的サンプルの画像の推定値であることが、当業者に明白となるはずである。そのような第1および第2の撮像条件は、例えば、異なる発光体、フィルタ、および/またはレンズを使用する透過光画像の入手、異なる発光体、フィルタ、および/またはレンズを使用する蛍光画像の入手、異なる焦点距離における透過光または蛍光画像の入手、および同等物を含んでもよい。例えば、機械学習システム112は、入力として透過光画像を提示されるときの蛍光画像の推定値、蛍光画像を提示されるときの透過光画像の推定値、第2の発光体を使用して入手された第2の蛍光画像を提示されるときの第1の発光体を使用して入手された第1の蛍光画像の推定値、および同等物を生成するように訓練されてもよい。
【0055】
第2のワークフローが、作成および保存された後、ステップ178において、第2のワークフローは、1つ以上の付加的画像に適用され、そのようなワークフローによって規定されるステップを自動的に行ってもよい。例えば、いくつかの実施形態では、オペレータは、グラフィカルユーザインターフェースを使用し、画像データストア116内に記憶された1つ以上の画像を選択し、そのような画像に対して第2のワークフローを適用してもよい。他の実施形態では、オペレータは、グラフィカルユーザインターフェースを使用し、撮像システム124内にロードされた生物学的サンプルの1つ以上の画像を自動的に捕捉し、そのような捕捉された画像に対して第2のワークフローを適用するように画像分析システム100に指示してもよい。第2のワークフローの適用からもたらされるデータは、ユーザに表示される、画像分析システム100と関連付けられるデータストア内に記憶される、または付加的分析のためにさらなるシステム(図示せず)に伝送されてもよい。
【0056】
図3および3Aは、ユーザコンピュータ122上でユーザインターフェースジェネレータ102によって発生されるGUI200の実施形態を示す。
図3および3Aを参照すると、GUI200は、画像分析ステップを規定するためのパネルが表示され得る、領域202と、1つ以上の画像が表示され得る、領域204とを含む。いくつかの実施形態では、領域204は、複数の画像が、同時に表示され得るように、1つ以上のサブ領域205a、205b等を含む。GUI200はまた、1つ以上の選択可能アイコン208を含む、領域206を含み、各そのようなアイコン208a、208b、 … 208jは、利用可能な画像分析ステップと関連付けられる。いくつかの実施形態では、1つ以上のアイコン208は、特定の画像分析ステップの選択を可能にする、ドロップダウンメニュー(図示せず)と関連付けられてもよい。GUI200が、画像分析ステップを選択する方法を組み込み得ることが、当業者に明白となるはずである。
【0057】
図3Aを参照すると、アイコン208を選択することは、領域202内に対応するパネル210a、210b、210c等を表示する。各パネルは、特定の画像分析ステップと関連付けられる。各パネル210は、パネル210と関連付けられる画像分析ステップによって使用される任意の入力データのソースを選択するために使用され得る、1つ以上のポップアップメニュー212を含む。各ポップアップメニュー212は、撮像システム124内にロードされた生物学的サンプルの画像または以前に定義された画像分析ステップによって発生された出力データを捕捉するために使用する、撮像システム124(
図1)の所定の構成と関連付けられる識別子を提示する。
【0058】
撮像システム124の所定の撮像構成は、生物学的サンプルの透過光画像の入手、蛍光下の生物学的サンプルの入手、および照明条件(例えば、光の波長)、1つ以上のレンズ、照明源と生物学的サンプルとの間の光路内に配置される1つ以上のフィルタ、生物学的サンプルと画像捕捉デバイスとの間の光路内に配置される1つ以上のフィルタ、および同等物の特定の組み合わせの使用を含む。
【0059】
いくつかの実施形態では、撮像システム100は、DAPI等の特定の識別子を対応するデータソースと関連付けるように構成される。
図3Aに示される実施例では、当業者に明白であるように、データソースDAPIおよびFITCは、それぞれ、DAPIおよびFITC染色を示す照明を使用して入手される生物学的サンプルの画像と関連付けられる。同様に、識別子「透過光」は、透過光照明を使用して捕捉される生物学的サンプルの画像と関連付けられるデータソースと関連付けられる。
【0060】
各パネル210はまた、パネルと関連付けられる画像分析ステップによって使用されるパラメータが打ち込まれ得る、1つ以上の入力面積214と、画像分析ステップの出力と関連付けられる識別子が打ち込まれ得る、入力面積216とを含んでもよい。特定のパネル210の入力面積216内に打ち込まれる識別子は、特定のパネル210と関連付けられる画像分析ステップによって発生される出力が、後続画像分析ステップにおける使用のために参照され得る、名称または標識である。例えば、オペレータは、ポップアップメニュー212内のそのような出力と関連付けられる識別子を選択する、または入力面積214内にそのような識別子を打ち込むことによって、そのような後続画像分析ステップと関連付けられるパネル210の入力またはパラメータとして特定のパネル210の出力の使用を規定してもよい。
【0061】
いくつかのパネル210は、選択されると、そのようなパネルと関連付けられる画像分析ステップを行い、パネル210内に規定される識別子216と関連付けられる結果(画像等)を発生させる、「適用」ボタン218を含む。いくつかのパネル210は、選択されると、パネル210を閉じ(すなわち、領域202からパネルを除去し)、ワークフローからそのようなパネルと関連付けられる画像分析ステップを除去する、領域220を含む。
【0062】
例えば、パネル210aは、「細胞核物体のカウント」と名付けられる画像処理動作と関連付けられ、ポップアップメニュー212aを使用して1つのデータソースの規定を可能にする。
図3Aに示される実施例では、「DAPI」と呼ばれるデータソースが、ポップアップメニュー212aを使用して選択されている。パネル210aと関連付けられる画像分析ステップが、10~30ピクセルに及び、近隣のピクセルを上回る少なくとも500強度レベルであるピクセル値を有する、入力画像内の(すなわち、ソースDAPIからの)それらの連続するピクセルを識別するべきであり、「FAST」アルゴリズムが、そのような処理のために使用されるべきであることを規定するパラメータが、入力面積214a内に打ち込まれる。結果(例えば、バイナリ画像)は、(入力面積216a内に規定される)識別子「細胞核」と関連付けられ、入力面積214a内に規定されるパラメータを満たす入力画像のピクセルと関連付けられる結果の値は、前景ピクセルと関連付けられる値に設定される。さらに、そのようなパラメータを満たさない入力画像のピクセルと関連付けられる結果の値は、背景ピクセルと関連付けられる値に設定される。パネル210aによって規定される画像分析ステップは、ユーザが、「適用」ボタン218aを選択する場合、および/またはそのような画像処理ステップを備えるワークフローの一部として、双方向的に行われてもよい。
【0063】
図3および3Aに示される実施例を継続すると、パネル210a-210eは、画像分析ステップをDAPIおよびFITC画像に適用し、識別子「訓練候補」と関連付けられる結果を発生させる。そのような画像分析ステップは、当業者によって理解されるであろうように、パネル210aに関連して上記に説明される「細胞核物体のカウント」画像分析、適応的閾値画像分析ステップ(パネル210b)、分水嶺画像分析ステップ(210c)、論理AND演算(210d)、および「細胞核物体のカウント」および論理AND画像分析ステップの結果に従ってピクセルを選択するための画像分析ステップ(210e)を適用するステップを含む。
【0064】
パネル210fは、ユーザが、下記により詳細に説明されるように、識別子「訓練候補」と関連付けられる画像を手動で編集し、識別子「訓練標的」と関連付けられる結果画像を発生させることを可能にすることを規定する。パネル210gは、下記により詳細に説明されるように、機械学習システムを訓練するために、透過光画像を伴うそのような結果画像を使用する画像分析ステップを規定する。
【0065】
再度、
図1を参照すると、ワークフローを展開するために、ユーザインターフェースジェネレータ102は、ユーザコンピュータ122から画像分析ステップの規定を受信し、シーケンサ106は、存在する場合、画像分析ステップ100の残りの構成要素のステップを協調させ、規定された画像分析ステップを行い、画像分析ステップの出力を展開し、ユーザコンピュータ122上で任意のそのような出力を表示するようにユーザインターフェースジェネレータ102に指示する。
【0066】
下記により詳細に説明されるように、ユーザインターフェースジェネレータ102およびシーケンサ106は、オペレータが、ユーザコンピュータ122のオペレータが、ワークフローが規定されていること、またはワークフローが破棄されるべきであることのいずれかを示すまで、このように画像処理動作を規定することを可能にする。オペレータが、ワークフローが規定されていると示す場合、シーケンサ106は、ワークフローデータストア内に画像分析ステップおよびそれと関連付けられるパラメータを記録する。いくつかの実施形態では、オペレータは、ワークフローと関連付けるべき名称を提供する。他の実施形態では、シーケンサ106は、ワークフローと関連付けるべき名称を発生させてもよい。名称をワークフローと関連付ける他の方法も使用され得ることが、当業者に明白となるはずである。
【0067】
ワークフローが、上記に説明されるように展開および記憶された後、オペレータは、撮像システム124内に分析されるべき生物学的サンプルをロードし、ワークフローと関連付けられる名称を選択してもよい。応答して、シーケンサ106は、画像分析システム100の他の構成要素を動作させ、ワークフローによって規定される画像分析ステップを行い、ユーザコンピュータ122上でユーザインターフェースジェネレータ102によって表示される、画像分析システム100と関連付けられるデータストア(図示せず)内に記録される、またはさらなる分析のために別のシステム(図示せず)に提供される結果を発生させる。
【0068】
図4は、新しいワークフローを作成するために画像分析システム100によって行われるステップのフローチャート250を示す。
図1-4を参照すると、ステップ252において、ユーザインターフェースジェネレータ102は、ユーザコンピュータ122に、上記に説明されるGUI200を表示させる命令を発生させ、ユーザコンピュータ122に伝送する。ステップ254において、ユーザインターフェースジェネレータ102は、ユーザコンピュータ122から、新しいワークフローの規定を開始する指示を受信する。例えば、ユーザコンピュータ122のオペレータは、そのような指示を提供するために、GUI200のボタン222(
図3)を選択してもよい。
【0069】
ステップ256において、ユーザインターフェースジェネレータ102は、行うべき画像分析ステップおよびそのようなステップと関連付けられる任意のパラメータを含む、上記に説明されるような画像分析ステップの規定を受信する。
【0070】
ステップ258において、シーケンサ106は、ステップ256において受信された画像分析ステップを行い、ステップ260において、GUI200の領域204内にそのようなステップを行った任意の結果を表示するようにユーザインターフェースジェネレータ102に指示する。
【0071】
ステップ262において、ユーザインターフェースジェネレータ102は、ユーザコンピュータ122から、オペレータがステップ256において規定された1つ以上のパラメータを変更したかどうかのインジケーションを受信する。オペレータが、1つ以上のパラメータを変更した場合、ユーザインターフェースジェネレータ102は、ステップ256に進み、画像分析ステップのそのような変更された規定を受信する。
【0072】
そうでなければ、ステップ264において、ユーザインターフェースジェネレータ102は、ステップ256において受信された画像分析ステップおよびそれと関連付けられる任意のパラメータが許容可能であるかどうかのインジケーションを受信する。そのようなステップおよびパラメータが、許容可能である場合、シーケンサ106は、ステップ266において、ワークフローデータストア118内に画像分析ステップに関する情報(例えば、ステップと関連付けられる識別子)およびパラメータを記憶する。そうでなければ、ステップ268において、シーケンサ106は、そのメモリからそのような画像分析ステップに関するいかなる情報もクリアし、ユーザインターフェースジェネレータ102は、GUI200から画像分析ステップと関連付けられるパネル210を除去する。
【0073】
その後、ステップ270において、ユーザインターフェースジェネレータ102は、ユーザコンピュータ122から、オペレータがワークフローに追加するべき別の画像分析ステップを規定することを所望しているかどうかのインジケーションを受信する。オペレータが、別の画像分析ステップを追加することをここでは所望する場合、画像分析システム100は、ステップ256に進む。そうでなければ、シーケンサ106は、他の生物学的サンプルの画像との併用のために、ステップ272において、ワークフローデータストア118内にワークフローを記憶する。
【0074】
図5は、
図4に示されるフローチャート250のステップ258の間にシーケンサ106の一実施形態によって行われるステップを示す、フローチャート300である。
図1-5を参照すると、ステップ302において、シーケンサ106は、ステップ256(
図4)において規定された画像分析ステップが、撮像システム124から画像を入手するステップを規定しているかどうかを決定する。該当する場合、シーケンサ106は、ステップ304において、規定された画像分析ステップと関連付けられるパラメータに従って、撮像システム124内にロードされたサンプルの画像を入手するように撮像システム124に命令するように画像入手器104に指示する。シーケンサ106は、ステップ306において、入手された画像を受信し、ステップ308において、画像データストア116内に入手された画像を記憶し、GUI200の領域204内で入手された画像を表示するようにユーザインターフェースジェネレータ102に指示するために、
図4のステップ260に進む。
【0075】
ステップ302において、シーケンサ106が、画像分析ステップが画像の入手を規定していないと決定する場合、ステップ312において、シーケンサ106は、そのような画像分析ステップが、すでに訓練された機械学習システム112を使用するステップを含む、画像処理動作を行うステップを規定したかどうかを決定する。該当する場合、シーケンサ106は、ステップ316において、画像分析ステップと関連付けられる任意のパラメータによって規定される画像をロードし、ステップ318において、そのような画像に対して画像プロセッサ110を呼び出す。その後、シーケンサ106は、ステップ306および308に進み、それぞれ、画像プロセッサ110によって発生された結果を受信および記憶する。
【0076】
ステップ312において、シーケンサ106が、画像分析ステップが画像処理動作を行うステップを規定していないと決定する場合、シーケンサ106は、ステップ320において、画像分析ステップが、1つ以上の画像内に表される1つ以上の物体の特性のメトリックを展開するステップを規定しているかどうかを決定する。該当する場合、シーケンサ106は、ステップ322において、ステップ256(
図4)において画像分析ステップへのパラメータとして規定された1つ以上の画像をロードし、ステップ324において、そのような物体のメトリックを展開するために測定計算器115を呼び出す。例えば、測定計算器115は、ロードされた画像内に表される物体(細胞またはその一部)の数のカウントまたはそのような物体と関連付けられる統計を展開する。そのような統計は、物体の面積の平均値、最頻値、および/または中央値、物体の面積、周囲長、および/または寸法のヒストグラムまたは分布、そのような物体の境界ボックス、および同等物を含んでもよい。当業者に明白である他のタイプのメトリックも測定計算器115によって展開され得ることが、明白となるはずである。測定計算器115はまた、ステップ324において、グラフィカルユーザインターフェースを介して、それによって展開されたメトリックを表示する、またはステップ256(
図4)において規定されたパラメータ内に識別されるデータ場所(図示せず)内にそのようなメトリックを記憶してもよい。ある場合には、測定計算器115は、それによって展開されたメトリックを表す画像を展開してもよい。そのような画像は、例えば、それからメトリックが展開される画像内に表される物体の周囲にオーバーレイされる境界ボックス、そのような物体と関連付けられるメトリックによるそのような物体における色分け物体(例えば、第1の色を用いた平均値から1標準偏差以内の、第2の色を用いた2標準偏差以内の、および同等物の色分け物体)を含んでもよい。測定計算器115が、そのようなメトリックを展開するために、境界またはエッジ検出、境界充填、および類似するアルゴリズムを測定されている画像に適用し得ることが、当業者に明白となるはずである。その後、シーケンサ106は、ステップ262(
図4)に戻る。
【0077】
ステップ320において、シーケンサ106が、ステップ256(
図4)において規定された画像分析ステップが、メトリックを展開するステップを規定していないと決定する場合、シーケンサ106は、ステップ326において、画像分析ステップが、規定された画像分析ステップと関連付けられるパラメータによって識別された画像を手動で編集するステップを規定しているかどうかを決定する。該当する場合、シーケンサ106は、ステップ328において、編集されるべき画像をロードし、ステップ330において、下記により詳細に説明されるように、オペレータが画像を手動で編集することを可能にするために、画像エディタ108を呼び出す。その後、シーケンサ106は、ステップ306および308に進み、それぞれ、画像エディタ108によって発生される結果を受信および記憶する。
【0078】
オペレータは、例えば、以前の画像処理動作からもたらされ、ユーザコンピュータ122上で表示される画像を編集することを所望し得る。例えば、1つ以上の画像処理動作を行うことによって発生されるセグメント化画像が、そのあるピクセルを物体と不正確に関連付ける場合、オペレータは、各そのような不正確に関連付けられるピクセルの値を背景(すなわち、非物体)ピクセルと関連付けられる値に設定してもよい。そのような編集は、例えば、機械学習システム112を訓練するためにそのような注釈付き訓練データを使用する前に、注釈付き訓練データを編集するために行われてもよい。
【0079】
ステップ326において、シーケンサ106が、画像分析ステップが、画像を手動で編集するステップを規定していないと決定する場合、シーケンサ106は、ステップ332において、画像分析ステップが、機械学習システム112を訓練するステップを規定しているかどうかを決定する。該当する場合、シーケンサ106は、ステップ334において、下記に説明されるように、機械学習システム112を訓練するために機械学習システム訓練器114を呼び出す。その後、処理は、
図4のステップ262に進む。
【0080】
ステップ332において、シーケンサ106が、オペレータによって規定された画像処理動作が、機械学習システム112を訓練するステップを規定していないと決定する場合、画像分析システムは、ステップ256(
図4)に進み、別の画像分析ステップの規定を待機する。当業者は、画像分析システム100が、本明細書に説明される実施形態に関連しない、ユーザコンピュータ122からの付加的入力を受信し得ることを理解するであろう。そのような付加的入力は、明確化のために本明細書に説明されない。
【0081】
図6は、オペレータが画像編集ステップを選択するとき、
図5のフローチャート300のステップ330において画像エディタ108によって行われる処理のフローチャート350を示す。
図1および4-7Aを参照すると、ステップ352(
図6)において、画像エディタ108は、
図7に示される画像編集パネル210fを発生させるようにユーザインターフェースジェネレータ102に指示する。特に、GUI200の画像編集パネル210fは、オペレータが、以前の画像分析ステップによって発生された画像を編集することを可能にする。オペレータは、セグメント化または特性評価画像を編集し、例えば、そのようなエッジをより明白にするために物体のエッジと関連付けられるピクセルを調節し、そのようなピクセルが単一のより大きい物体の中に関連付けられるように隣接する物体のピクセルを接続し、誤って識別された物体を除去し、同等物を行ってもよい。これらの調節に加えて、オペレータは、物体の分類を修正するために分類画像を編集してもよい。
【0082】
画像編集パネル210fは、編集するべきソース画像を選択するためのポップアップメニュー212f(上記に説明される)と、オペレータが編集画像と関連付けられる識別子を打ち込み得るテキストボックス354と、下記に説明される描画モードを選択するための選択可能ボタン356、358、360、362、および364とを含む。画像編集パネル210fはまた、いくつかの実施形態では、「適用」と標識化される、ボタン366を含む。
【0083】
図5および6もまた参照すると、ステップ372(
図6)において、画像エディタ108は、ステップ328(
図5)においてシーケンサ106によってロードされた編集されるべき画像(すなわち、ソース画像)の複製である編集画像を作成する。ステップ374において、画像エディタ108は、GUI200の領域204のサブ領域368内にソース画像を表示し、サブ領域370内に編集画像を表示するようにユーザインターフェースジェネレータ102に指示する。
【0084】
ステップ376において、画像エディタ108は、ボタン356-364のうちの1つ、ソース画像が表示されるサブ領域368のピクセル、または「適用」ボタン366のオペレータによる選択を示す入力を(ユーザインターフェースジェネレータ102を介して)受信することを待機する。
【0085】
ステップ378において、画像エディタ108が、入力が、描画モードボタン356-364のうちの1つの選択を示すかどうかを決定する場合、かつ該当する場合、ステップ380に進む。そうでなければ、画像エディタ108は、ステップ382に進む。ステップ380において、画像エディタ108は、選択された描画モードボタン356-364(
図7)に従って有効となる描画モードを設定する。特に、ボタン358が、オペレータによって選択される場合、(例えば、そのようなピクセルがソース画像内の物体と関連付けられることを示すために)ソース画像の各続けて選択されるピクセルに対応する編集画像のピクセルの値を前景と関連付けられる第1の所定の値に設定する描画モードが、選択される。
【0086】
同様に、ボタン360が、選択される場合、(例えば、そのようなピクセルがソース画像内の物体と関連付けられないことを示すために)サブ領域368内に表示されるソース画像の各続けて選択されるピクセルに対応する編集画像370のピクセルの値を背景ピクセルと関連付けられる第2の所定の値に設定する描画モードが、選択される。
【0087】
ボタン362は、続けて選択されるものに対応する編集画像370の値をそれらの非編集値に設定する(すなわち、そのような選択されたピクセルに対して実施された任意の編集を消去する)描画モードを選択する。ボタン364は、サブ領域368内に表示されるソース画像のピクセルが選択されるときに影響を受ける編集画像370のピクセルの数を調節する(すなわち、編集カーソルの幅を調節する)。ボタン356を選択することは、サブ領域368内に表示されるソース画像のピクセルを続けて選択することが、編集画像370のいかなるピクセルにも影響を及ぼさないように、描画動作を終了させる。画像エディタ108は、例えば、全ての編集を元に戻す、以前に元に戻された編集を再実行する、全ての編集をクリアする、および同等物等の付加的描画動作を提供してもよい。
【0088】
ステップ380において設定された描画モードは、オペレータが、ボタン356-364のうちの別の異なるものを選択する、または「適用」ボタン366を選択するまで、有効なままである。描画モードを設定した後、画像エディタ108は、ステップ376に戻り、別の入力を受信することを待機する。
【0089】
ステップ382において、画像エディタ108が、ステップ376において受信された入力が、サブ領域368(
図7)のピクセルの選択を示すと決定する場合、画像エディタ108は、ステップ384に進む。そうでなければ、画像エディタ108は、ステップ386に進む。
【0090】
ステップ384において、画像エディタ108は、サブ領域368の選択されたピクセルに対応するソース画像のピクセルの座標を決定し、そのメモリ(図示せず)内にそのような座標および有効な描画モードを記録する。その後、ステップ388において、画像エディタ108は、描画モードと関連付けられる色を用いてサブ領域368の選択されたピクセルをオーバーレイするようにユーザインターフェースジェネレータ102に指示する。さらに、また、ステップ388において、画像エディタ108は、有効な描画モードに従って、前景ピクセルに対応する色または背景ピクセルに対応する色を用いてサブ領域370のピクセルをオーバーレイするようにユーザインターフェースジェネレータ102に指示する。
【0091】
例えば、
図7Aは、サブ領域368内に表示されるソース画像の非編集バージョンを示す。サブ領域370内に表示される編集画像に示されるように、円390および392によって示される非編集画像の一部は、本実施例では白色ピクセルとして表される前景ピクセルを、本実施例では灰色ピクセルとして表される背景ピクセルに変更するように編集されている。オペレータは、着目物体と関連付けられるものとしてソース画像内で不正確に識別された編集画像のピクセルを設定するためにそのような編集を行ってもよい。加えて、円394によって示される非編集画像の一部は、物体内の前景ピクセルを背景ピクセルに変更し、例えば、ソース画像内の単一の物体を編集画像内で2つの物体に分離するように編集されている。さらに、円396によって示されるソース画像の一部は、背景ピクセルを前景ピクセルと置換し、ソース画像内の2つの物体を編集画像内で単一の物体に継合するように編集されている。
【0092】
再度、
図6を参照すると、表示されたソースおよび編集画像が、ステップ388において更新された後、画像エディタ108は、ステップ376に戻り、オペレータからの別の入力を待機する。
【0093】
ステップ382において、画像エディタ108が、オペレータがサブ領域368内のピクセルを選択しなかったと決定する場合、画像エディタ108は、ステップ386において、「適用」ボタン366が、画像編集が完了していることを示すために選択されたかどうかを決定する。該当する場合、ステップ398において、画像エディタ108は、ソース画像の複製である結果画像を発生させる。その後、画像エディタ108は、ステップ384において記録された座標および描画モードに従って、結果画像のピクセルを修正する。結果画像を発生させた後、処理は、
図5のステップ306に進む。
【0094】
ステップ386において、画像エディタ108が、オペレータが「適用」ボタン366を選択しなかったと決定する場合、画像エディタ108は、ステップ376に戻り、別の入力を待機する。
【0095】
いくつかの実施形態では、オペレータは、上記に説明されるような編集のための生物学的サンプルの画像を選択してもよく、領域368内に選択された画像を表示する。その後、オペレータは、前景として領域368内に表示される、または上記に説明されるような特定の分類値と関連付けられる画像のあるピクセルを規定してもよい。応答して、画像エディタ108は、オペレータからのそのような規定に従って、領域368のピクセルを修正する。オペレータが、「適用」ボタン366を選択すると、画像エディタ108は、領域368内に表示される画像のピクセル毎に1つの結果ピクセルを有する結果画像を発生させる。領域368内に表示される未修正ピクセルと関連付けられる各そのような結果ピクセルの値は、背景値に設定される。領域368内に表示される修正されたピクセルと関連付けられる各結果ピクセルの値は、そのようなピクセルに関してオペレータによって規定された修正に従って、ある値に設定される。
【0096】
図8は、シーケンサ106(
図1)がステップ334(
図4)において機械学習システム112(
図1)を訓練するために機械学習システム訓練器114(
図1)を呼び出すときに行われるステップのフローチャート400である。
図1、4、8、および9を参照すると、ステップ402において、機械学習システム訓練器114は、
図9に示される機械学習システム訓練パネル210gを発生させるようにユーザインターフェースジェネレータ102に指示する。
図9に示される機械学習システム訓練パネル210gは、
図2Aに示されるパネル210gと実質的に同じである。
【0097】
機械学習システム訓練パネル210gは、オペレータが訓練画像を選択するために使用し得る、ポップアップメニュー212gと、例えば、訓練画像に対応するセグメント化画像であり得る第1の注釈付き訓練データを選択するためのポップアップメニュー212hとを含む。上記に説明されるように、訓練画像およびセグメント化画像は、同一または異なる画像ソースから展開されてもよい。例えば、訓練画像は、生物学的サンプルの透過光画像であってもよく、セグメント化画像は、1つ以上の画像分析ステップを生物学的サンプルのそのような透過光画像に適用することによって展開されてもよい。代替として、セグメント化画像は、1つ以上の画像分析ステップを生物学的サンプルの訓練画像と異なる別の透過光画像に適用することによって展開されてもよく、さらなる透過光画像は、訓練画像を捕捉するために使用されるものと異なる発光体、レンズ、フィルタ、および同等物の組み合わせを使用して捕捉される。ある場合には、セグメント化画像は、生物学的サンプルが、蛍光を受けているときに捕捉される生物学的サンプルの画像(すなわち、生物学的サンプルの蛍光画像)に1つ以上の画像分析ステップを適用して展開されてもよい。
【0098】
第1の注釈付き訓練データセットが、セグメント化画像である場合、上記に説明されるように、セグメント化画像は、訓練画像の各ピクセルに対応するピクセルを含み、セグメント化画像の各ピクセルの値は、訓練画像の対応するピクセルが、物体と関連付けられる(すなわち、前景ピクセルである)、または物体と関連付けられない(すなわち、背景ピクセルである)かどうかを示す。
【0099】
加えて、機械学習システム訓練パネル210gは、オペレータが、随意の第2の注釈付きデータセットを規定することを可能にするために、ボタン430を含む。第2の注釈付きデータセットは、例えば、分類画像であってもよい。いくつかの実施形態では、第2の注釈付きデータセットは、第1の注釈付きデータセット内で識別される物体の特徴を識別してもよい。例えば、第1の注釈付きデータセットが、細胞を識別する場合、第2の注釈付きデータセットは、細胞内の特定の小器官を識別してもよい。同様に、第1の注釈付きデータセットは、1つ以上のオルガノイドを識別してもよく、第2の注釈付きデータセットは、そのようなオルガノイドの1つ以上の細胞を識別してもよい。
【0100】
機械学習システム訓練パネル210gはまた、機械学習システム112の訓練を開始するための「訓練」ボタン432と、付加的データを用いて機械学習システム112の訓練を更新するための「訓練を更新」ボタン434と、訓練された機械学習システム112と関連付けられるパラメータを保存するための「訓練を保存」ボタン436とを含む。
【0101】
再度、
図8を参照すると、機械学習システム訓練パネル210gを発生させた後、ステップ404において、機械学習システム訓練器114は、ユーザインターフェースジェネレータ102を介してオペレータからの入力を待機する。ステップ408において、機械学習システム訓練器114は、入力が、訓練画像の選択を示すかどうかを決定する。該当する場合、ステップ410において、機械学習システム訓練器114は、訓練画像をロードし、ステップ404に戻り、付加的入力を待機する。
【0102】
そうでなければ、ステップ412において、機械学習システム訓練器114は、入力が、第1の注釈付きデータのソースの選択を示すかどうかを決定し、該当する場合、ステップ414において、第1の注釈付きデータをロードし、ステップ404に戻り、付加的入力を待機する。
【0103】
いくつかの実施形態では、「訓練」ボタン432は、機械学習システム訓練パネル210gが、最初に、ユーザインターフェースジェネレータ102によって発生されるとき、選択可能ではない。そのような実施形態では、機械学習システム訓練器114は、また、ステップ410において、第1の注釈付き訓練データのソースが、選択された後、「訓練」ボタン432の選択を可能にするようにユーザインターフェースジェネレータ102に指示する。
【0104】
そうでなければ、ステップ416において、機械学習システム訓練器114は、入力が、第2の注釈付きデータのソースの選択を示すかどうかを決定し、該当する場合、ステップ418において、ステップ418において設定された第2の注釈付きデータをロードし、ステップ404に戻り、付加的入力を待機する。
【0105】
ステップ416において、入力が、第2のデータセットの選択を示さない場合、機械学習システム訓練器114は、ステップ419において、入力が、「訓練」ボタン432が選択されたことを示すかどうかを決定する。該当する場合、機械学習システム訓練器114は、ステップ420に進み、そうでなければ、機械学習システム訓練器114は、ステップ422に進む。ステップ420において、機械学習システム訓練器114は、下記により詳細に説明されるように、機械学習システム112を訓練するために、ステップ410においてロードされた訓練画像、ステップ414においてロードされた第1の注釈付きデータ、および規定される場合、ステップ414において選択およびロードされた第2の注釈付きデータを使用する。機械学習システム112を訓練するステップが、完了した後、機械学習システム訓練器は、ステップ404に戻り、付加的入力を待機する。
【0106】
ステップ422において、機械学習システム訓練器114は、「訓練を更新」ボタン434が選択されたかどうかを決定し、該当する場合、ステップ424に進み、下記により詳細に説明されるように、以前に訓練された機械学習システム112の訓練を更新する。そうでなければ、機械学習システム訓練器114は、ステップ426に進む。
【0107】
いくつかの実施形態では、「訓練を保存」ボタン436は、機械学習システム訓練パネル210が、最初に、ユーザインターフェースジェネレータ102によって発生されるとき、選択可能ではない。そのような実施形態では、機械学習システム訓練器114は、それぞれ、ステップ420および424において、機械学習システムシステム112が訓練された、または機械学習システム112の訓練が更新された後、「訓練を保存」ボタン436の選択を可能にするようにユーザインターフェースジェネレータ102に指示する。
【0108】
ステップ426において、機械学習システム訓練器114は、入力が、「訓練を保存」ボタン436の選択を示すかどうかを決定する。該当する場合、機械学習システム訓練器114は、ステップ428に進み、そうでなければ、機械学習システム訓練器は、ステップ404に進み、付加的入力を待機する。
【0109】
ステップ428において、機械学習システム訓練器114は、訓練された機械学習システム112と関連付けるべき識別子を要求するようにユーザインターフェースジェネレータ102に指示する。以前に訓練された機械学習システム112が、「訓練を保存」ボタン436を選択する直前に再訓練されている場合、機械学習システム訓練器は、オペレータが、そのような以前に訓練された機械学習システム112と関連付けられる識別子または異なる識別子を規定することを可能にしてもよい。
【0110】
その後、機械学習システム訓練器114は、機械学習パラメータデータストア120内に、機械学習システム112の各ノードと関連付けられるパラメータを記憶する。そのようなパラメータは、例えば、活性化閾値、入力および出力スケール係数または加重、畳み込みカーネル、および機械学習システム112のアーキテクチャを含む。例えば、機械学習システム112が、ニューラルネットワークである場合、各層内のノードまたはニューロンのアーキテクチャ、ノード層の間の相互接続、および同等物が、機械学習パラメータデータストア120内に記憶される。当業者によって理解されるであろうように、そのようなニューラルネットワークパラメータは、それらの間に1つ以上のプーリング層を伴う1つ以上の畳み込み層および1つ以上のニューロン層の相互接続を含み得る。記憶されるパラメータは、訓練されていない機械学習システム112を訓練された状態に構成するために十分である。
【0111】
記憶されるパラメータは、そのようなパラメータが、そのような識別子を使用することによって機械学習パラメータデータストアから読み出され得るように、オペレータによって提供される訓練された機械学習システムの識別子と関連付けられる。いくつかの実施形態では、訓練された機械学習システムの識別子は、パラメータが記憶される機械学習パラメータデータストア120内のファイルまたはディクショナリの名称として使用される。他の実施形態では、パラメータは、関係または他のタイプのデータベース内に記憶され、訓練された機械学習システムの識別子は、そのようなパラメータに関してデータベースにクエリを行うために使用され得る、インデックス値である。訓練された機械学習システムの識別子およびそれと関連付けられるパラメータを関連付ける他の方法も使用され得ることが、当業者に明白となるはずである。
【0112】
さらに、ステップ420において、機械学習システム訓練器114は、訓練された機械学習システムが、画像分析ステップにおいて、例えば、ステップ318において、画像分析システム100を使用して展開される将来のワークフローにおいて規定され得るような画像処理動作として、GUI 200の訓練された機械学習の識別子を有するアイコン208を領域206(またはすでに存在するアイコン208と関連付けられるメニュー)に追加する。
【0113】
図9は、
図8に示されるフローチャート400のステップ420において行われる処理のフローチャート450である。
図9を参照すると、ステップ452において、機械学習システム訓練器114は、訓練されていない機械学習システム112に関するアーキテクチャを構成する。そのような構成は、そのような機械学習システム112の入力および出力の数を規定する。例えば、入力の数は、ステップ410においてロードされた訓練画像内のピクセルの数に従って規定されてもよく、出力の数は、第1および第2の注釈付きデータセット内の値の数の合計に従って規定されてもよい。
【0114】
加えて、機械学習システム112が、ニューラルネットワークである場合、構成は、ニューラルネットワーク内の層の数、畳み込み層、プーリング層、および/またはニューロン層であるそのような層の数を規定してもよい。さらに、構成は、機械学習システム112を構成する層の間の相互接続を規定してもよい。
【0115】
いくつかの実施形態では、機械学習システム112が、ニューラルネットワークを備える場合、そのようなニューラルネットワークは、Google Inc.(Mountain View, California)によって開発されたAutoMLおよびNASNet技術を使用して構成される。例えば、完全畳み込みDenseNet、マシンビジョン用途のために最適化されたニューラルネットワーク、および同等物を含む、当業者に公知の他のニューラルネットワーク技術も使用され得ることが、明白となるはずである。機械学習システム112がランダムフォレストツリーおよび同等物を含む別のタイプの機械学習システムであり得ることが、明白となるはずである。
【0116】
いくつかの実施形態では、訓練されていない機械学習システム112のアーキテクチャは、1つ以上の所定の構成から選択される。そのような構成を選択するために考慮され得る因子は、例えば、訓練データのサイズ(例えば、ピクセルの画像、画像寸法等)、注釈付きデータセットのサイズ、機械学習システム112を訓練する速度、機械学習システム112によって発生される結果の許容可能な正確度レベル、機械学習システム112のメモリおよび処理要件、生成されるべきである出力のタイプ(例えば、機械学習システムが、セグメント化画像、入力画像内の物体の1つ以上の重心を識別するデータ、入力画像内の物体を分類する画像等を生成するであろう場合)、入力として機械学習システム112に提供されるデータの複雑性、機械学習システム112によって分析される画像内に表される物体のサイズおよび/または複雑性、および同等物を含んでもよい。いくつかの構成は、機械学習システム112によって分析されるべき画像内に表される特定のタイプのサンプル(例えば、神経突起、TL細胞単層等)のために最適化されてもよい。異なる構成が、生物学的サンプルの2次元画像対生物学的サンプルの3次元ビューを捕捉する一連の2次元画像を分析するために使用されてもよい。
【0117】
ステップ454において、機械学習システム訓練器114は、ステップ410においてロードされた訓練画像を入力としてステップ452において構成された機械学習システム112に提示し、応答して、機械学習システム112は、第1の注釈付き訓練データに対応する第1の予測された出力値を展開する。第1の予測された出力値のうちの各1つは、第1の注釈付き訓練データのうちの1つに対応する。訓練画像が、生物学的サンプルの画像であり、第1の注釈付き訓練データが、第1のソース画像から展開されたセグメント化画像を表し、第1のソース画像が、異なる撮像条件下で捕捉された生物学的サンプルの訓練画像または別の画像である場合、各第1の予測された出力値は、セグメント化画像によって規定されるように、第1のソース画像の対応するピクセルが、訓練画像内の着目物体と関連付けられる(すなわち、前景ピクセルである)確率を示す。
【0118】
さらに、第2の注釈付き訓練データが、ステップ414においてロードされた場合、いくつかの実施形態では、機械学習システム112は、第2の予測された出力値を同時に展開し、各そのような値は、第2の注釈付き訓練データのピクセルに対応する。例えば、第2の注釈付き訓練データが、生物学的サンプルの訓練画像または別の画像のいずれかである第2のソース画像から展開され、そのような注釈付き訓練データが、(例えば、異なる特性を識別するための強度コーディングを使用して)特定の特性と関連付けられる第2のソース画像内のピクセルを識別する場合、各第2の予測された出力値は、訓練画像の対応するピクセルが、1つのそのような特定の特性と関連付けられる確率を示す。
【0119】
ステップ456において、機械学習システム訓練器114は、出力値の第1のセットと第1の注釈付き訓練データとの間の第1の差異を展開する。注釈付き訓練データの第2のセットが、ロードされた場合、機械学習システム訓練器114はまた、出力値の第2のセットと第2の注釈付き訓練データとの間の第2の差異を展開する。いくつかの実施形態では、そのような差異は、例えば、加重カテゴリカルクロスエントロピ関数等の損失関数を使用して計算される。
【0120】
ステップ458において、機械学習システム訓練器114は、集約誤差メトリックを展開するために、第1および任意の第2の差異を組み合わせる。そのような誤差メトリックは、例えば、それぞれ、第1の注釈付き訓練データおよび第2の注釈付き訓練データ内に表されるようなセグメンテーションおよび特性と正しく関連付けられた訓練画像のピクセルの数であってもよい。ステップ460において、機械学習システム訓練器114は、集約誤差メトリックの大きさが、所定の許容可能な誤差を下回るかどうかを決定し、該当する場合、処理は、
図8に示されるフローチャート400のステップ404に進む。
【0121】
そうでなければ、ステップ462において、機械学習システム訓練器114は、例えば、行われた訓練の反復回数、成功した訓練パスの間の集約誤差メトリックにおける改善率、訓練に関して行われた時間の量、および当業者に明白な他のそのような条件に従って、機械学習システム112の付加的訓練が行われるべきかどうかを決定する。付加的訓練が、正当とされる場合、機械学習システム訓練器114は、ステップ464に進み、そうでなければ、処理は、
図8に示されるフローチャート400のステップ404に戻る。
【0122】
ステップ464において、機械学習システム訓練器114は、当業者によって理解されるであろうように、例えば、逆伝搬法または別の技法を使用して、機械学習システム112のパラメータを調節するために、ステップ456において展開された差値を使用する。
【0123】
パラメータを調節した後、機械学習システム訓練器114は、ステップ454に戻り、調節されたパラメータを使用して機械学習システム112を動作させる。
【0124】
ある場合には、機械学習システム訓練器114は、ステップ462において、集約誤差メトリックが、所定の許容可能な誤差を上回るが、付加的訓練が、(例えば、集約誤差メトリックが改善されていない場合に)正当とされないと決定してもよい。そのような場合では、機械学習システム訓練器114は、そのような集約誤差メトリックが所定の許容可能な誤差を上回り、付加的訓練を行わないというメッセージとともに、ユーザコンピュータ122上で集約誤差メトリックを表示するようにユーザインターフェースジェネレータ102に指示してもよい。
【0125】
いくつかの実施形態では、機械学習システム112は、同時に訓練画像のピクセルの全てを使用する代わりに、訓練画像のサブ区分(またはタイル)に作用するように訓練されてもよい。そのような実施形態では、ステップ452において構成される入力の数は、各タイルのピクセルの数に従ってもよい。さらに、機械学習システム112は、訓練画像をそのようなタイルに分割する機能性を含んでもよい。例えば、訓練画像は、例えば、32ピクセル×32ピクセルの寸法を有するタイルに分割されてもよく、各タイルは、隣接するタイルのいくつかのピクセル、例えば、各方向において8つのピクセルを複製する。当業者は、他の寸法の、異なる量の重複ピクセルを有するタイルが使用され得ることを理解するであろう。他の実施形態では、タイルの寸法は、生物学的サンプルの着目細胞または別の部分が占有することが予期されるピクセルの予期される数に従って選択されてもよい。
【0126】
機械学習システム112が、訓練画像から展開されたタイルに作用するように構成されるとき、いくつかの実施形態では、機械学習システム112は、そのようなタイルが、生物学的サンプルの特定の着目物体または特性を表す1つ以上のピクセルを含む確率を示す、タイルあたり1つの出力値を発生させるように構成されてもよい。他の実施形態では、機械学習システム112は、タイルのピクセル毎に1つの値を含む出力データを発生させるように構成されてもよい。さらに、いくつかの実施形態では、機械学習システム112は、タイルと関連付けられる出力データを、それからそのようなタイルが展開された訓練画像と関連付けられる集約データに組み合わせる付加的機能性とともに構成されてもよい。
【0127】
図10は、以前に訓練された機械学習システム112の訓練を更新するために、
図8に示されるフローチャート400のステップ420において行われる処理のフローチャート480である。オペレータは、例えば、オペレータが、以前に訓練された機械学習システム112が画像を適正に分析しない(すなわち、誤った出力値を生成する)画像に遭遇する場合、機械学習システム112の訓練が更新されることを所望し得る。当業者によって理解されるであろうように、訓練されていない機械学習システム112で開始する代わりに、機械学習システム訓練器114は、すでに訓練された機械学習システム112のパラメータを更新するために、転移学習または類似する技法を使用してもよい。
図8Aを参照すると、そのような再訓練を開始するために、オペレータは、上記に説明されるように、パラメータボックス212gを使用して機械学習システム112の訓練を更新するために使用するべき新しい訓練画像を選択し、パラメータボックス212hを使用して注釈付きデータセットを選択し、随意に、ボタン「分類マスクを追加」430を使用してさらなる注釈付きデータセットを選択する。オペレータは、次いで、「訓練を更新」ボタン434を選択する。
【0128】
図10を参照すると、一実施形態では、機械学習システム訓練器114は、ステップ482において再訓練されるべき機械学習システムと関連付けられる識別子をオペレータから取得するようにユーザインターフェースジェネレータ102に指示する。いくつかの実施形態では、ユーザインターフェースジェネレータ102は、機械学習システムデータストア120内に記憶される機械学習パラメータと関連付けられる識別子のリストを提示し、提示される識別子のうちの1つの選択を受信し、そのような選択を機械学習システム訓練器114に提供する。
【0129】
その後、ステップ484において、機械学習システム訓練器114は、機械学習データストア120から、選択された識別子と関連付けられるパラメータをロードする。ステップ486において、機械学習システム訓練器114は、ロードされたパラメータを使用して、訓練されていない機械学習システム112を構成する。その後、機械学習システム訓練器114は、ステップ454(
図9)に進み、それぞれ、
図8のステップ410、414、および418においてロードされた訓練画像、第1の注釈付きデータセット、および存在する場合、第2の注釈付きデータセットを使用して、構成された機械学習システム112を訓練する。
【0130】
前述に説明される画像分析システム100は、個々の2次元画像を分析するように機械学習システム112を訓練するために使用されるものとして説明されるが、そのような画像分析システム100は、そのような生物学的サンプルの3次元表現を表す異なる焦点において撮影された生物学的サンプルの一連の2次元透過光画像を分析するように機械学習システム112を訓練するように適合されてもよい。そのような実施形態では、機械学習システム112を訓練するために使用される訓練画像は、一連の訓練画像を備え、そのような一連のものを備える全ての画像は、生物学的サンプルの実質的に同じX-Y場所と、かつ異なる焦点(すなわち、異なるZ場所)と関連付けられる。そのような一連の画像を備える画像は全て、機械学習システム112に同時に提供され、機械学習システム112は、予測された値を発生させ、各値は、一連の画像のピクセルと関連付けられ、そのようなピクセルが着目物体と(3次元において)関連付けられる、または特定の特性と関連付けられる確率を示す。
【0131】
いくつかの実施形態では、異なるZ場所において取得された一連の訓練画像から展開された注釈付きデータは、そのような一連のものから展開された共焦点画像を表す。その後、一連の訓練画像および注釈付きデータセットは、異なる焦点において撮影された一連の画像から共焦点画像を発生させるように機械学習システム112を訓練するために使用されてもよい。
【0132】
再度、
図2を参照すると、当業者に明白であろうように、ステップ160において訓練データとして選択される生物学的サンプルの画像は、バイナリ画像、グレースケール画像、または複数の色中心面を有する画像であってもよい。同様に、それぞれ、ステップ154および156において展開された第1および/または第2の注釈付きデータは、バイナリ値(例えば、単一ビット)、グレースケールまたは単一バイト値、多色または多バイト値、および/またはそれらの組み合わせを備えてもよい。さらに、訓練された機械学習システムによって発生されたデータは、バイナリ値(例えば、単一ビット)、グレースケールまたは単一バイト値、多色または多バイト値、および/またはそれらの組み合わせを備えてもよい。
【0133】
ハードウェアおよび/またはソフトウェアの任意の組み合わせが、本明細書に説明される画像分析システム100を実装するために使用され得ることが、当業者に明白となるはずである。
図1-10に関連して説明されるプロセス、サブプロセス、およびプロセスステップのうちの1つ以上のものが、1つ以上の電子またはデジタル制御デバイス上でハードウェア、ソフトウェア、またはハードウェアおよびソフトウェアの組み合わせによって実施され得ることを理解および認識されたい。ソフトウェアは、例えば、
図1-10に図式的に描写される機能的システム、コントローラ、デバイス、構成要素、モジュール、またはサブモジュールのうちの1つ以上のもの等の好適な電子処理構成要素またはシステム内のソフトウェアメモリ(図示せず)内に常駐してもよい。ソフトウェアメモリは、論理機能(すなわち、デジタル回路またはソースコード等のデジタル形態において、またはアナログ電気、音声、またはビデオ信号等のアナログソース等のアナログ形態において実装され得る「論理」)を実装するための実行可能命令の順序付けられたリスティングを含んでもよい。命令は、処理モジュールまたはコントローラ(例えば、
図2のユーザインターフェースジェネレータ102、画像入手器104、シーケンサ106、画像エディタ108、画像プロセッサ110、機械学習システム訓練器114、および機械学習システム112)内で実行されてもよく、これは、例えば、1つ以上のマイクロプロセッサ、汎用プロセッサ、プロセッサの組み合わせ、デジタル信号プロセッサ(DSP)、フィールドプログラマブルゲートアレイ(FPGA)、または特定用途向け集積回路(ASIC)を含む。さらに、概略図は、アーキテクチャまたは機能の物理的レイアウトによって限定されない物理的(ハードウェアおよび/またはソフトウェア)実装を有する機能の論理的分割を説明する。本願に説明される例示的システムは、種々の構成において実装され、単一のハードウェア/ソフトウェアユニットにおける、または別個のハードウェア/ソフトウェアユニットにおけるハードウェア/ソフトウェア構成要素として動作してもよい。
【0134】
画像分析システム100の1つ以上の構成要素が、例えば、ローカルエリアまたは広域ネットワーク(例えば、インターネットまたは私設ネットワーク)を経由して接続される分散コンピューティングおよび記憶システムを使用して、クラウド環境内で動作し得ることが、当業者に明白となるはずである。例えば、ユーザインターフェースジェネレータ102、画像入手器104、シーケンサ106、画像エディタ108、画像プロセッサ110、機械学習システム112、および機械学習システム訓練器114のうちの1つ以上のものは、ユーザコンピュータ122から、撮像システム124から、および/または相互に遠隔の1つ以上のコンピュータ上で動作してもよい。1つのそのような構成では、例えば、画像入手器104は、撮像システム124から画像を入手し、クラウドベースの画像データストア116内にこのように入手された画像を記憶するために、ローカルエリアまたは広域ネットワークを経由して撮像システム124と通信してもよい。シーケンサ106は、1つ以上の画像分析ステップを行うことに関連する処理のために、画像分析システム100の他の構成要素に、そのようなクラウドベースまたは遠隔の画像データストア116内に記憶される画像を提供してもよい。ユーザは、パネル210内でそのような画像データストア116内に記憶される1つ以上の画像への経路または複数の経路を規定してもよい。ローカルで、またはクラウドにおいて動作する機械学習システム訓練器114は、そのような画像にアクセスし、機械学習システム112を訓練し、同様にクラウドベースの記憶システムであり得る機械学習システムデータストア120内にパラメータを記憶してもよい。シーケンサ106は、機械学習システムパラメータデータストア120内に記憶されるパラメータにアクセスし、(ローカルコンピュータ上で、またはクラウド環境内で動作する)訓練されていない機械学習システム112を訓練してもよい。同様に、機械学習システム112の動作は、ローカルまたは遠隔撮像システム124を使用して入手された画像を分析するために行われてもよい。
【0135】
実行可能命令は、電子システムの処理モジュールによって実行されると、命令を実行するように電子システムに指示する、その中に記憶される命令を有する、コンピュータプログラム製品として実装されてもよい。コンピュータプログラム製品は、電子コンピュータベースのシステム、プロセッサ含有システム、または命令実行システム、装置、またはデバイスからの命令を選択的にフェッチし、命令を実行し得る他のシステム等の命令実行システム、装置、またはデバイスによる、またはそれと関連する使用のための任意の非一過性コンピュータ可読記憶媒体において選択的に具現化されてもよい。本書の文脈では、コンピュータ可読記憶媒体は、命令実行システム、装置、またはデバイスによる、またはそれと関連する使用のためのプログラムを記憶し得る、任意の非一過性手段である。非一過性コンピュータ可読記憶媒体は、選択的に、例えば、電子、磁気、光学、電磁気、赤外線、または半導体システム、装置、またはデバイスであってもよい。非一過性コンピュータ可読媒体のより具体的な実施例の非網羅的リストは、1つ以上のワイヤを有する電気接続(電子)、ポータブルコンピュータディスケット(磁気)、ランダムアクセス、すなわち、揮発性メモリ(電子)、読取専用メモリ(電子)、例えば、フラッシュメモリ等の消去可能プログラマブル読取専用メモリ(電子)、例えば、CD-ROM、CD-R、CD-RW等のコンパクトディスクメモリ(光学)、およびデジタル多用途ディスクメモリ、すなわち、DVD(光学)を含む。
【0136】
また、本書に使用されるような信号またはデータの受信および伝送は、2つ以上のシステム、デバイス、構成要素、モジュール、またはサブモジュールが、あるタイプの信号経路を経由して進行する信号を介して相互と通信することが可能であることを意味することを理解されたい。信号は、通信、電力、データ、またはエネルギー信号であってもよく、これは、情報、電力、またはエネルギーを、第1のシステム、デバイス、構成要素、モジュール、またはサブモジュールから、第2のシステム、デバイス、構成要素、モジュール、またはサブモジュールに、第1および第2のシステム、デバイス、構成要素、モジュール、またはサブモジュールの間の信号経路に沿って通信してもよい。信号経路は、物理、電気、磁気、電磁気、電気化学、光学、有線、または無線接続を含んでもよい。信号経路はまた、第1および第2のシステム、デバイス、構成要素、モジュール、またはサブモジュールの間の付加的システム、デバイス、構成要素、モジュール、またはサブモジュールを含んでもよい。
【0137】
本明細書に引用される、刊行物、特許出願、および特許を含む全ての参考文献は、各参考文献が個々かつ具体的に参照することによって組み込まれることが示され、その全体として本明細書に記載される場合と同程度に、参照することによって本明細書に組み込まれる。
【0138】
本発明を説明する文脈における(特に、以下の請求項の文脈における)用語「a」および「an」および「the」および類似する言及の使用は、別様に本明細書に示されない、または文脈によって明確に矛盾しない限り、単数形および複数形の両方を網羅するように解釈されるものである。本明細書における値の範囲の列挙は、単に、別様に本明細書に示されない限り、範囲内に該当する各別個の値に個々に言及する略記法としての役割を果たすことを意図しており、各別個の値は、これが本明細書に個々に列挙される場合と同様に本明細書に組み込まれる。本明細書に説明される全ての方法は、別様に本明細書に示されない、または別様に文脈によって明確に矛盾しない限り、任意の好適な順序で実施されることができる。本明細書に提供されるありとあらゆる実施例または例示的言語(例えば、「等」)の使用は、単に、本開示をより良好に解明することを意図しており、別様に請求されない限り、本開示の範囲に対する限定を課さない。本明細書におけるいかなる言語も、任意の非請求要素を本開示の実践に不可欠として示すように解釈されるべきではない。
【0139】
本開示への多数の修正が、前述の説明の観点から当業者に明白となるであろう。例証される実施形態が、例示的にすぎず、本開示の範囲を限定するとしてとられるべきではないことを理解されたい。