(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-09-25
(54)【発明の名称】実験機器を識別するための方法及びデバイス
(51)【国際特許分類】
G01N 35/02 20060101AFI20230915BHJP
G06T 7/00 20170101ALI20230915BHJP
G06V 20/62 20220101ALI20230915BHJP
G06V 10/56 20220101ALI20230915BHJP
【FI】
G01N35/02 C
G06T7/00 C
G06V20/62
G06V10/56
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2023515123
(86)(22)【出願日】2021-09-01
(85)【翻訳文提出日】2023-05-02
(86)【国際出願番号】 EP2021074106
(87)【国際公開番号】W WO2022053366
(87)【国際公開日】2022-03-17
(32)【優先日】2020-09-14
(33)【優先権主張国・地域又は機関】EP
(81)【指定国・地域】
(71)【出願人】
【識別番号】591121683
【氏名又は名称】エッペンドルフ エスイー
【氏名又は名称原語表記】Eppendorf SE
【住所又は居所原語表記】Barkhausenweg 1, 22339 Hamburg,Germany
(74)【代理人】
【識別番号】110000877
【氏名又は名称】弁理士法人RYUKA国際特許事務所
(72)【発明者】
【氏名】ピーターマン、アレクサンダー
(72)【発明者】
【氏名】ヘルウェグ、ルーカス ウルフ
【テーマコード(参考)】
2G058
5L096
【Fターム(参考)】
2G058GC02
2G058GC05
5L096FA02
5L096HA08
(57)【要約】
一態様において、発明は、実験器具品目(310、320、330、340、350)を識別するためのコンピュータ実装方法に関連し、実験器具品目(310、320、330、340、350)は、第1光学的特徴及び第2光学的特徴を含み、方法は、少なくとも第1光学記録デバイス(150)を有する実験器具品目の第1画像を取得する段階、第1画像は、第1光学的特徴の少なくとも一部を表示する;少なくとも第2光学記録デバイス(160)を有する実験器具品目(310、320、330、340、350)の第2画像を取得する段階、第2画像は、少なくとも第2光学的特徴の一部を表示する;及び、少なくとも第1識別アルゴリズムを使用することによって、第1画像における第1光学的特徴を識別する段階、それにより、第1識別データを取得し、第1識別データは、第1光学的特徴についての第1情報、及び、少なくとも更なる識別が必要であるかどうかを示す情報を符号化する、を備え、第1識別データにおいて符号化されている情報に従って、少なくとも更なる識別が必要ない場合、方法はさらに、少なくとも第1光学的特徴についての第1情報を使用することによって、実験器具品目を識別する段階を備え、第1識別データにおいて符号化されている情報に従って、少なくとも更なる識別が必要である場合、方法はさらに、少なくとも第2識別アルゴリズムを使用することによって、第2画像における第2光学的特徴を識別する段階、それにより、第2識別データを取得し、第2識別データは、第2光学的特徴についての情報を符号化する;及び、少なくとも、第2光学的特徴についての情報を使用することによって、実験器具品目(310、320、330、340、350)を識別する段階を備える。
【特許請求の範囲】
【請求項1】
実験器具品目を識別するためのコンピュータ実装方法であって、前記実験器具品目は、第1光学的特徴及び第2光学的特徴を含み、前記方法は、
少なくとも第1光学記録デバイスを用いて、前記実験器具品目の第1画像を取得する段階、前記第1画像は少なくとも前記第1光学的特徴の一部を表示する;
少なくとも第2光学記録デバイスを用いて、前記実験器具品目の第2画像を取得する段階、前記第2画像は、少なくとも前記第2光学的特徴の一部を表示する;及び、
少なくとも第1識別アルゴリズムを使用することによって、前記第1画像における前記第1光学的特徴を識別する段階、それにより、第1識別データを取得し、前記第1識別データは、前記第1光学的特徴についての第1情報、及び、少なくとも更なる識別が必要であるかどうかを示す情報を符号化する、
を備え、前記第1識別データにおいて符号化された前記情報に従って、前記少なくとも更なる識別が必要ない場合、前記方法はさらに、
少なくとも前記第1光学的特徴についての前記第1情報を使用することによって前記実験器具品目を識別する段階
を備え、前記第1識別データにおいて符号化される前記情報に従って、前記少なくとも更なる識別が必要である場合、前記方法はさらに、
少なくとも第2識別アルゴリズムを使用することによって前記第2画像における前記第2光学的特徴を識別する段階、それにより、第2識別データを取得し、前記第2識別データは、前記第2光学的特徴についての情報を符号化する;及び、
少なくとも前記第2光学的特徴についての前記情報を使用することによって、前記実験器具品目を識別する段階
を備える、方法。
【請求項2】
前記方法は、
作業デッキに対する前記実験器具品目の位置についての第1位置情報を使用することによって、前記第1画像における第1関心領域を決定する段階
を備え、前記第1識別アルゴリズムを使用することによって前記第1画像における前記第1光学的特徴を識別する前記段階は、前記第1関心領域を使用することによって実行され、及び/又は、
前記方法は、
前記作業デッキに対する前記実験器具品目の位置についての第2位置情報を使用することによって、前記第2画像における第2関心領域を決定する段階
を備え、前記第2識別アルゴリズムを使用することによって前記第2画像にける前記第2光学的特徴を識別する前記段階は、前記第2関心領域を使用することによって実行される、
請求項1に記載の方法。
【請求項3】
少なくとも位置決定アルゴリズムを使用することによって、作業デッキに対する前記実験器具品目の位置についての第3位置情報を取得する段階
をさらに備え、前記第1識別アルゴリズムは第1入力データを処理し、前記第1入力データは前記第3位置情報に依存し、及び/又は、前記方法は、
識別アルゴリズムの第1プールの中から前記第1識別アルゴリズムを選択する段階
を備え、前記第1識別アルゴリズムを選択する前記段階は、少なくとも前記第3位置情報に依存する、
請求項1又は2に記載の方法。
【請求項4】
前記第1光学記録デバイスは第1カメラであり、前記第1識別アルゴリズムは、少なくとも、前記第1カメラに関連する第1セットの内部較正パラメータに、及び/又は、少なくとも、前記第1カメラに関連する第1セットの外部較正パラメータに依存する、請求項1から3のいずれか一項に記載の方法。
【請求項5】
前記第2光学記録デバイスは第2カメラであり、前記第2識別アルゴリズムは、少なくとも、前記第2カメラに関連する第2セットの内部較正パラメータに、及び/又は、少なくとも、前記第2カメラに関連する第2セットの外部較正パラメータに依存する、請求項1から4のいずれか一項に記載の方法。
【請求項6】
前記第1識別データにおいて符号化された前記情報に従って、少なくとも更なる識別が必要である場合、前記方法はさらに、
識別アルゴリズムの第2プールの中から、前記第2識別アルゴリズムを選択する段階
を備え、前記第2識別アルゴリズムを選択する前記段階は、少なくとも、前記第1識別データにおいて符号化された前記情報に依存する、
請求項1から5のいずれか一項に記載の方法。
【請求項7】
前記第2識別アルゴリズムは第2入力データを処理し、前記第2入力データは前記第1光学的特徴についての前記第1情報を符号化する、請求項1から6のいずれか一項に記載の方法。
【請求項8】
前記第2識別データは、少なくとも、更なる識別が必要であるかどうかを示す情報を符号化し、
前記第2識別データにおいて符号化された前記情報に従って、少なくとも更なる識別が必要である場合、前記方法はさらに、
少なくとも第3識別アルゴリズムを使用することによって、前記第1画像における前記第1光学的特徴を識別する段階、それにより、第3識別データを取得し、前記第3識別データは、前記第1光学的特徴についての第2情報を符号化する、
を含み、前記第2識別データにおいて符号化された前記情報に従って、少なくとも更なる識別が必要である場合、少なくとも前記第2光学的特徴についての前記情報を使用することによって、前記実験器具品目を識別する段階は、前記第1光学的特徴についての前記第2情報を使用することによって実行される、
請求項1から7のいずれか一項に記載の方法。
【請求項9】
前記第3識別アルゴリズムは第3入力データを処理し、前記第3入力データは、前記第1光学的特徴についての前記第1情報、及び/又は、前記第2光学的特徴についての前記情報を符号化する、請求項8に記載の方法。
【請求項10】
前記第1光学的特徴及び/又は前記第2光学的特徴は、印、表意文字、ピクトグラム、英数字のセット、テクスチャパターン、孔パターン、及び/又は色を含む;及び/又は、
前記実験器具品目は、プレート、チップ、チューブ、リザーバ、チップボックス、高さアダプタ、リザーバラック、及び/又は、チューブラックを含む、
請求項1から9のいずれか一項に記載の方法。
【請求項11】
前記第1識別データにおいて符号化された前記情報に従って、少なくとも更なる識別が必要である場合、少なくとも前記第2光学的特徴についての前記情報を使用することによって前記実験器具品目を識別する前記段階は、前記第1光学的特徴についての前記第1情報を使用することによって実行される、請求項1から10のいずれか一項に記載の方法。
【請求項12】
第1光学記録デバイス、第2光学記録デバイス、及び、請求項1から11のいずれか一項に記載の方法を実行するように構成されている処理手段を備えるデータ処理システム。
【請求項13】
第1光学記録デバイス、第2光学記録デバイス、請求項1から11のいずれか一項に記載の方法を実行するように構成されている処理手段、及び、実験器具品目を配置するための作業デッキを備える自動化実験室システム。
【請求項14】
システムに、請求項1から11のいずれか一項に記載の方法を実行させるためのコンピュータプログラム。
【請求項15】
システムによって実行されるとき、請求項1から11のいずれか一項に記載の方法を前記システムに実行させる命令を備えるコンピュータ可読記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、実験機器を識別するための方法及びデバイスに関する。特に、本発明は、自動化実験室システム(ALS)、特に自動化ピペッティングシステムの作業デッキ上に位置する実験機器を識別するための方法に関する。本発明はまた、本発明の方法を実行するように構成されているALS、例えば自動化ピペッティングシステムに関する。
【0002】
自動化実験室システムは、例えば、生物学的又は化学的サンプルを自動的に動かして、そのようなサンプルに対して自動的に試験を実行し、及び/又は、新しい化合物を自動的に合成するために、生物学及び化学系の研究室において広く使用されている。特に、自動ピペッティングシステムは、プログラム可能な自動化された方式で、容器のグループ間で液体を移す。
【0003】
自動化実験室システムの使用により、実験手順の再現性、正確度、及び効率を増加させることが可能となり、自動実験室システムは、人間の介入又は監視無しで、又は、それらを最小限に抑えて、前述の手順を実行する。特に、これにより、危険な材料を扱うときに生じる安全上の問題、及び、ヒューマンエラーの原因を最小限に抑えることが可能となり、実験室の活動又は手順、特に、反復的なものに影響を与え得る。
【0004】
自動化実験室システムは、検出コンポーネントを含み、作業デッキ上に位置するサンプル及び/又は実験機器を検出及び/又は識別するための検出方法を実行し得る。知られている検出コンポーネントは例えば、プレートリーダ又は高分解能カメラであり、検出方法は、光学的又は計算ビジョン技法に基づき得る。
【0005】
サンプル及び/又は実験機器の検出及び識別は、とりわけ、ALSによって実行される実験手順を自動的に検証、選択、及び/又は文書化することを可能にする。例えば、ALSは、検出コンポーネントを使用することによって、サンプル及び/又は実験機器、及び、作業デッキ上のそれらの位置を識別し得る。ALSは次に、識別中に収集された情報を使用して、実験手順を自動的に検証し得る。特に、ALSは、実行される操作段階、及び、前述の段階が実行される必要がある経時的順序が、作業デッキ上の実験機器の位置、及び、実行される実験手順と適合するかどうかを評価し得る。このようにして、ヒューマンエラーの余地がさらに低減し得る。
【0006】
また、いくつかのケースでは、実験手順は、作業デッキ上にあるサンプル及び/又は実験機器の種類によって、及び、デッキ上のそれらの位置によって一意に決定され得る。これに該当する場合、サンプル及び/又は実験機器の識別及び検出により、ALSが、実行される実験手順を自動的に推定することが可能となり、それにより、ALSをプログラムするために必要な時間を低減する。
【0007】
ALSによって実行される、実験手順の検証、選択、及び/又は文書化に使用されるために、サンプル及び/又は実験機器の識別及び/又は検出は十分に正確である必要がある。典型的には、必要な正確度は、正確な検出方法を使用することによって達成され得るが、それは典型的には、比較的複雑であり、計算コストがかかり、及び/又は、高分解能多色カメラなどの高額な検出コンポーネントを伴う。
【0008】
したがって、正確度が増加し、計算コストが低く、及び/又は、より安価な検出コンポーネントを使用することによって実行できる検出方法の必要性がある。これらの問題の少なくともいくつかは、請求項1に記載のコンピュータ実装方法、請求項13に記載のデータ処理システム、請求項14に記載のコンピュータプログラム製品、及び、請求項15に記載のコンピュータ可読記憶媒体に関連する本願の発明によって少なくとも部分的に解決される。発明の実施形態は、従属請求項の主題である。
【0009】
一態様において、本発明は、第1光学的特徴及び第2光学的特徴を含む実験器具品目を識別するためのコンピュータ実装方法に関する。本発明の方法は、少なくとも以下の段階を含む。
少なくとも第1光学記録デバイスを用いて、実験器具品目の第1画像を取得する段階、第1画像は、第1光学的特徴の少なくとも一部を表示する;
少なくとも第2光学記録デバイスを用いて、実験器具品目の第2画像を取得する段階、第2画像は、第2光学的特徴の少なくとも一部を表示する;
少なくとも第1識別アルゴリズムを使用することによって、第1画像における第1光学的特徴を識別し、それにより、第1識別データを取得する段階、第1識別データは、第1光学的特徴に関する第1情報、及び、少なくとも更なる識別が必要かどうかを示す情報を符号化する。
【0010】
第1識別データにおいて符号化された情報に従って、少なくとも更なる識別が必要でない場合、方法はさらに、以下の段階を含む。
少なくとも第1光学的特徴に関する第1情報を使用することによって実験器具品目を識別する段階
【0011】
第1識別データにおいて符号化されたに情報に従って、少なくとも更なる識別が必要である場合、方法はさらに、以下の段階を含む。
少なくとも第2識別アルゴリズムを使用することによって、第2画像における第2光学的特徴を識別し、それにより、第2識別データを取得する段階、第2識別データは、第2光学的特徴に関する情報を符号化する;及び
少なくとも第2光学的特徴に関する情報を使用することによって実験器具品目を識別する段階
【0012】
第1及び/又は第2画像を取得する段階は、それぞれ第1及び/又は第2光学記録デバイスを用いて前述の画像を撮像することによって実行され得る。代替的に、第1及び/又は第2画像を取得する段階は、前に取得された画像を有するストレージにアクセスすることによって実行され得る。
【0013】
第1及び/又は第2光学的特徴を識別する段階はそれぞれ、第1識別アルゴリズムを用いて第1識別データを取得することによって、及び/又は、第2識別アルゴリズムを用いて第2識別データを取得することによって実行され得る。第1及び/又は第2識別データは、それぞれ、第1及び/又は第2識別アルゴリズムの出力であり得、特に、それぞれ、第1及び/又は第2識別アルゴリズムを実行することによって生成され得る。
【0014】
本発明によれば、光学的特徴、例えば、第1及び/又は第2光学的特徴についての情報は、対応する画像における前述の特徴の位置の推定を示す情報を含み得る。光学的特徴についての情報はまた、前述の位置推定の信頼性を示す情報を含み得る。本発明によれば、第1及び第2光学的特徴に対応する画像はそれぞれ、第1及び第2画像である。
【0015】
例えば、光学的特徴についての情報は、第1確率で前述の特徴が位置すると予想される、対応する画像の領域を示す情報を含む。これに該当する場合、前述の光学的特徴についての情報はまた、第1確率の値を含み得る。
【0016】
光学的特徴についての情報は、光学的特徴が何であるかの推定を示す情報、及び任意選択で、前述の推定の信頼性を示す情報を含み得る。特に、光学的特徴についての情報は、光学的特徴が色、例えば赤色、ピクトグラム、例えばバイオハザードシンボル、及び/又は、英数字文字列、例えば、「無菌」という単語であると推定されることを示し得る。例えば、光学的特徴についての情報は、第2確率で光学的特徴が所与の色、例えば赤であると推定されることを示す情報を含む。これに該当する場合、前述の光学的特徴についての情報はまた、第2確率の値を含み得る。
【0017】
特に、少なくとも更なる識別が必要であるかどうかを示す情報は、第1識別アルゴリズムを使用することによって第1光学的特徴を識別することが、実験器具品目を識別するのに不確定、及び/又は不十分であるかどうかを指定する。例えば、第1光学的特徴が何であるかの推定が十分信頼できるとみなされない場合、例えば、前述の推定の確率が所与の閾値を下回る場合に、第1光学的特徴の識別は不確定である。
【0018】
いくつかのケースにおいて、第1光学的特徴の識別は、識別が十分に信頼できる場合でも、実験器具品目を識別するのに不十分であり得る。例えば、第1識別アルゴリズムは、第1光学的特徴がバイオハザードシンボルであると高い信頼性で推定し得る。しかしながら、実験器具品目上のバイオハザードシンボルの存在は、例えば、多くの実験器具品目がバイオハザードシンボルを有するので、実験器具品目を一意に識別するのに十分でないことがあり得る。
【0019】
少なくとも更なる識別が必要であるかどうかを示す情報は、整数、浮動小数点数、又はブール変数などの変数において符号化され得る。例えば、この変数がブール型である場合、値「真」は、少なくとも更なる識別が必要であることを示す情報を符号化し、値「偽」は、少なくとも更なる識別が必要でないことを示す情報を符号化する。
【0020】
少なくとも更なる識別が必要であるかどうかを示す情報はまた、実験器具品目が何であるかの推定を示す情報、及び/又は、前述の推定の信頼性を示す情報を含み得る。例えば、情報は、実験器具品目がプレート、チップ、チューブ、又はチップボックスであると推定されることを示し得る。例えば、少なくとも更なる識別が必要であるかどうかを示す情報は、第3確率で実験器具品目がチップボックスであることを示す情報を含む。これに該当する場合、特に、第3確率が所与の閾値を下回る場合に少なくとも更なる識別が必要であり、閾値は例えば0.6又は0.8である。
【0021】
少なくとも第1光学的特徴についての情報を使用することによって実験器具品目を識別する段階は、第1実験機器識別アルゴリズムを用いて第1実験機器識別データを取得することによって実行され得る。また、少なくとも第2光学的特徴についての情報を使用することによって実験器具品目を識別する段階は、第2実験機器識別アルゴリズムを用いて第2実験機器識別データを取得することによって実行され得る。第1及び/又は第2実験機器識別データはそれぞれ、第1及び/又は第2実験機器識別アルゴリズムの出力であり得る。
【0022】
第1及び/又は第2実験機器識別データは、それぞれ、実験器具品目についての第1及び/又は第2情報を含み得る。実験器具品目についての情報は、実験器具品目が何であるかの推定を示す情報、及び任意選択で、前述の推定の信頼性を示す情報を含み得る。例えば、実験器具品目についての情報は、第4確率でこの品目がチップボックスであると推定されることを示す情報を含む。このケースにおいて、前述の光学的特徴についての情報は、第4確率の値を含み得る。実験器具品目についての情報はさらに、作業デッキ上の実験器具品目の位置の推定を示す情報、及び、任意選択で、前述の推定の信頼性を示す情報を含み得る。
【0023】
少なくとも第2光学的特徴についての情報を使用することによって実験器具品目を識別する段階は、第2画像における第2光学的特徴を識別する段階と共に実行され得る。これに該当する場合、特に、第2光学的特徴についての情報は、実験器具品目についての第2情報を含み得る。
【0024】
本発明の方法によれば、第2光学的特徴を識別する段階は、第1光学的特徴の識別が不確定である、又は十分に正確でないと判明した場合のみ実行される。このようにして、第2光学的特徴が必要な場合のみ識別されるので、計算コストを無差別に増加させることなく、及び/又は、実験機器識別の正確度を損なうことなく、実験器具品目の識別の効率が増加される。第2光学的特徴の識別の必要性は、第1識別アルゴリズムの出力を考慮して、方法によって自動的かつ動的に評価される。
【0025】
特に、本発明の方法は、第1識別アルゴリズム及び第1画像のみを使用することによって実行される、計算上比較的軽い実験機器識別をデフォルトで提供する。(計算コストが高いが)より正確な実験機器識別は、第1識別アルゴリズムの結果が不確定である、又は、十分に正確でない場合のみ提供される。
【0026】
例えば、第1識別アルゴリズムを使用することによって第1光学的特徴を識別する段階は、第2光学的特徴を識別する段階より計算コストが低いことがあり得る。これは特に、第1識別アルゴリズムが第2識別アルゴリズムより正確でない、及び/又は、第1画像の分解能が第2画像の分解能より低いからであり得る。
【0027】
また、第1及び第2画像は、互いに独立に取得され、別に処理され、その結果、ステレオグラムを形成する必要がない。したがって、第1及び第2光学記録デバイスは、立体的光学記録デバイスを形成するために互いに対して配置される、及び/又は、同期される必要がない。これにより、本発明の方法を実行するのに必要なハードウェア及びセットアップを簡素化する。
【0028】
アルゴリズムは特に、入力情報を処理して出力情報を取得するための命令の集合、例えばシーケンスである。アルゴリズムの命令は、コンピュータにおいて実装され、例えば、本発明によるデータ処理システムのプロセッサによって実行され得る。特に、アルゴリズムの入力情報は、アルゴリズムを実行するプロセッサによってアクセスされ得る入力データにおいて符号化される。特に、プロセッサは、アルゴリズムの命令に従って入力データを処理し、典型的には出力データにおいて符号化される出力情報を生成する。本発明によれば、特に、アルゴリズムは、プロセッサによって実行されるときに前述のプロセッサにこれらのデータを処理させる命令をアルゴリズムが含むときに、データを処理する。
【0029】
画像は、ベクター画像、又は、ピクセルの2次元グリッド、例えば、ピクセルの長方形グリッドであり得る。特に、画像におけるピクセルの位置は、画像におけるその2次元画像座標に関して明確に決定され得、前述の座標は、ピクセルの2次元グリッドにおける前述のピクセルの位置を表す。
【0030】
画像、例えば、第1及び/又は第2画像は、少なくともビットマップによって符号化され得る。画像又はその部分を符号化するビットマップは、前述の画像又はその部分の各ピクセルの強度、すなわち色を指定するビットのアレイを含み、例えば、それらから成り得る。ビットマップは、アレイのエントリが色テーブル上にインデックス化されるように、パレットインデックス化され得る。アレイのエントリは、ピクセルの色を符号化するビットを格納し得る。ビットマップは、ピクセルの2次元グリッドを表すドットマトリックスデータ構造を含み、例えば、それらから成り得る。ビットマップはさらに、ピクセルあたりのビットの数、2次元グリッドの行あたりのピクセルの数、及び/又は、前述のグリッドの列あたりのピクセルの数に関する情報を含み得る。画像ビューアは、ビットマップにおいて符号化された情報を使用して、コンピューティングデバイスの画面上に画像をレンダリングし得る。
【0031】
本発明の実施形態において、第1画像は、第1アレイのピクセルを含み、第1アレイのピクセルの各ピクセルは、アレイにおけるそれぞれの位置、及び、それぞれの強度値を有する。本実施形態において、第1識別アルゴリズムは、第1入力データを処理し、第1入力データは、第1アレイのピクセルの各ピクセルの位置及び強度値を含む。
【0032】
特に、第2アルゴリズムは第2入力データを処理する。また、このケースにおいて、第2入力データは第1光学的特徴についての第1情報を符号化し得る。
【0033】
第2画像は、第2アレイのピクセルを含み得、このアレイのピクセルの各ピクセルは、アレイにおけるそれぞれの位置及びそれぞれの強度値を有する。このケースにおいて、第2入力データは、第2アレイのピクセルの各ピクセルの位置及び強度値を含み得る。
【0034】
ピクセルの強度、例えば色は、RGB色モデル、CMY色モデル、又はCMYK色モデルに関して表され得る。特に、RGB色モデルにおいて、ピクセルの強度は、3つの整数値を用いて決定され得、各値は0から255の範囲である。代替的に、又は、上と併せて、RGBモデルにおいて、ピクセルの強度は、色相、彩度、輝度(HSV)表現、又は、色相、彩度、明度(HSL)表現を使用することによって表され得る。
【0035】
特にグレースケール画像において、ピクセルの強度は、単一の整数値に関して表され得、特に、前述の値は、0から最大値の範囲であり得る。例えば、前述の最大値は、256又は65,536に等しいことがあり得る。また、バイナリ画像において、ピクセルの強度の強度は、第1強度値、例えば値「0」、又は、第2強度値、例えば値「1」のいずれかをとり得る単一の整数値に関して表され得る。
【0036】
第1識別アルゴリズム及び第2識別アルゴリズムは互いに等しいことがあり得る。このケースにおいて、特に、第1識別アルゴリズムの出力は、第2識別アルゴリズムの出力と異なる。なぜなら、第1入力データは第2入力データと異なるからである。例えば、第1入力データは、第1アレイのピクセルの各ピクセルの位置及び強度値、作業デッキに対する第1カメラの位置を示す情報、第1画像の分解能を示す情報、及び/又は、第1カメラが多色カメラであるかどうかを示す情報を含む。第2入力データは、代わりに、第2アレイのピクセルの各ピクセルの位置及び強度値、作業デッキに対する第2カメラの位置を示す情報、第2画像の分解能を示す情報、及び/又は、第2カメラが単色カメラであるかどうかを示す情報を含み得る。
【0037】
本発明の方法の実施形態は以下の段階、すなわち、作業デッキに対する実験機器の位置についての第1位置情報を使用することによって、第1画像における第1関心領域(ROI)を決定する段階を含む。
【0038】
また、本実施形態において、第1識別アルゴリズムを使用することによって第1画像における第1光学的特徴を識別する段階は、第1関心領域を使用することによって実行される。
【0039】
代替的に、又は上と併せて、方法は以下の段階を含み得る。
作業デッキに対する実験機器の位置についての第2位置情報を使用することによって第2画像における第2ROIを決定する段階、及び、
第2識別アルゴリズムを使用することによって第2画像における第2光学的特徴が第2ROIを使用することによって実行されると識別する段階。
【0040】
特に、作業デッキは、本発明によるALSに含まれ得る。例えば、作業デッキは、複数のデッキ領域、例えば4つのデッキ領域に分割され得る。第1及び/又は第2位置情報は、実験器具品目が位置する、又は、位置すると予想されるデッキ領域の位置についての情報を含み得る。
【0041】
第1ROI及び/又は第2ROIを決定する段階は、それぞれ第1及び/又は第2RGB決定アルゴリズムを使用することによって実行され得る。例えば、第1及び/又は第2RGB決定アルゴリズムは、それぞれ、第1及び/又は第2位置データを処理する。特に、第1及び/又は第2位置データはそれぞれ、作業デッキに対する実験機器の位置についての第1及び/又は第2位置情報を符号化する。例えば、第1ROI決定アルゴリズムの出力及び/又は第2RGB決定アルゴリズムの出力はそれぞれ、第1画像における第1ROI及び/又は第2画像における第2ROIの位置についての情報を含み得る。
【0042】
第1及び/又は第2ROIは、それぞれ、第1及び/又は第2アレイのピクセルを含み、又は、それらから成り得る。また、第1及び/又は第2ROIは、実験器具品目が位置する、又は、位置すると予想される、デッキ領域の少なくとも一部を表示し得る。画像におけるROIの位置についての情報は、前述の情報がROIのピクセルの各々の位置を正確に取得するのに十分である程度に、ROIに含まれるピクセルのいくつかの位置を指定し得る。例えば、ROIが画像の長方形領域である場合、前述の領域の頂点の位置についての情報は、ROIのピクセルの各々の位置を取得するのに十分である。
【0043】
第1画像における第1ROIの位置についての情報は、第1入力データに含まれ得、その結果、第1識別アルゴリズムを使用することによって第1画像における第1光学的特徴を識別する段階は、第1ROIを使用することによって実行される。代替的に、又は上と併せて、第2画像における第2ROIの位置についての情報は第2入力データに含まれ得、その結果、第2画像における第2光学的特徴を識別する段階は、第2ROIを使用することによって実行される。
【0044】
特に、少なくとも第1識別アルゴリズムの命令のいくつかのうちの命令及び/又は実行順序は、第1画像における第1ROIの位置に依存し、その結果、第1識別アルゴリズムを使用することによって第1光学的特徴を識別する段階が、第1ROIを使用することによって実行される。例えば、少なくとも第2識別アルゴリズムの命令のいくつかのうちの命令及び/又は実行順序は、第2画像における第2ROIの位置に依存し、その結果、第2識別アルゴリズムを使用することによって第2光学的特徴を識別する段階が、第2ROIを使用することによって実行される。
【0045】
作業デッキに対する実験器具品目の位置を使用することによるROIの検出、及び、光学的特徴を識別するための前述のROIの使用は、相乗的に作用して、光学的特徴の識別の正確度を増加させる。これは特に、実験器具品目が、作業デッキに対する、有限数の事前に確立された位置を占め得るからであると考えられる。このようにして、光学的特徴を識別する識別アルゴリズムは、これらの事前に確立された位置の各々について、効果的に最適化され得る。
【0046】
本発明の方法はさらに以下の段階、すなわち、少なくとも位置決定アルゴリズムを使用することによって作業デッキに対する実験機器の位置についての第3位置情報を取得する段階を含み得る。
【0047】
このケースにおいて第1識別アルゴリズムは、第1入力データを処理し得、第1入力データは、第3位置情報に依存する。特に、第1入力データはさらに第3位置情報を含み、その結果、第1入力データは前述の情報に依存する。
【0048】
位置決定アルゴリズムは位置決定入力データを処理し得る。特に、位置決定入力データは、第1及び/又は第2アレイのピクセルを含み得る。位置決定入力データは、第1画像における第1ROIの位置についての情報、及び/又は、第2画像における第2ROIの位置についての情報を含み得る。例えば、位置決定入力データは、第1及び/又は第2位置情報を含む。
【0049】
第3位置情報を取得する段階は、第1及び/又は第2画像が高さアダプタを表示するかどうかを決定する段階を含み得る。これに該当する場合、第3位置情報を取得する段階は、第1及び/又は第2画像における高さアダプタの位置を決定する段階を含み得る。代替的に、又は、上と併せて、第3位置情報を取得する段階は、高さアダプタの高さを決定する段階を含み得る。例えば、この高さの決定は、第1及び/又は第2ピクチャにおける高さアダプタの位置に依存する。高さアダプタの位置及び高さを示す情報は、究極的には、前述のアダプタ上に配置される実験器具品目の位置、及び/又は、作業デッキの表面に対する実験器具品目の高さについての情報である。
【0050】
高さアダプタの存在、位置及び/又は高さについての情報は、前述のアダプタ上に配置された実験器具品目の識別の正確度を増加させる。例えば、高さアダプタの存在及び高さは、実験機器識別の可能な結果の数を制限する。特に、高さアダプタの位置及び高さを示す情報は、その上に配置された実験器具品目は、検出された高さアダプタ上に配置できない任意の実験器具品目であり得ないことを示す。また、高さアダプタの存在及び高さについての情報は、第1及び/又は第2カメラの間の距離、及び、実験器具品目のより良い推定を可能にする。これは、光学的特徴、ひいては、実験器具品目のより正確な識別につながる。
【0051】
第1画像における第1ROIの位置についての情報は、第1入力データに含まれ得、その結果、第1識別アルゴリズムを使用することによって第1画像における第1光学的特徴を識別する段階は、第1ROIを使用することによって実行される。代替的に、又は上と併せて、第2画像における第2ROIの位置についての情報は、第2入力データに含まれ得、その結果、第2識別アルゴリズムを使用することによって第2画像における第2光学的特徴を識別する段階は、第2ROIを使用することによって実行される。
【0052】
本発明の方法の実施形態は、以下の段階、すなわち、識別アルゴリズムの第1プールの中の第1識別アルゴリズムを選択する段階を含む。
【0053】
このケースにおいて、第1識別アルゴリズムを選択する段階は、少なくとも第3位置情報に依存し得る。また、第1識別アルゴリズムを選択する段階はさらに、第1画像における第1ROIの位置、及び/又は、第1位置情報に依存し得る。
【0054】
本実施形態において、第3位置情報は、作業デッキに対する実験器具品目の位置を考慮して、前述の品目を識別するのにもっとも好適である識別アルゴリズムを動的に選択することを可能にする。したがって、実験機器識別の正確度は増加する。
【0055】
発明の一実施形態において、第1識別データにおいて符号化された情報に従って、少なくとも更なる識別が必要である場合、方法はさらに以下の段階、すなわち、識別アルゴリズムの第2プールの中の第2識別アルゴリズムを選択する段階を含む。
【0056】
また、本実施形態において、第2識別アルゴリズムを選択する段階は、少なくとも第1識別データにおいて符号化された情報に依存する。第2識別アルゴリズムを選択する段階はさらに、第2画像における第2ROIの位置、及び/又は、第2位置情報に依存し得る。
【0057】
典型的には、第1識別データは、第1光学的特徴についての、ひいては、実験器具品目についての少なくとも部分的な情報を含む。本実施形態において、前述の情報は、第1アルゴリズムによって取得される情報、ひいては、実験器具品目を考慮して、第2光学的特徴を識別するのにもっとも好適である識別アルゴリズムを動的に選択するために使用される。したがって、実験機器識別の正確度は増加する。
【0058】
方法の実施形態によれば、第1及び/又は第2識別アルゴリズムは、それぞれ、少なくとも第1及び/又は第2機械学習アルゴリズムを含む。
【0059】
特に、機械学習アルゴリズムは、入力情報を処理して出力情報を取得するための命令を含み、これらの命令の少なくともいくつかは、訓練データ及び訓練アルゴリズムのセットを使用することによって設定される。第1及び/又は第2機械学習アルゴリズムは、人工ニューラルネットワーク(ANN)、決定木、ランダムフォレスト、サポートベクターマシン(SVM)、又は同様のものを含み得る。例えば、第1及び/又は第2機械学習アルゴリズムは、畳み込みニューラルネットワーク、及び/又は、AlexNetなどのディープニューラルネットワークであり得る。
【0060】
特に、ANNは、ANN入力をANN出力にマッピングし、複数の相互接続されたノードを含むアルゴリズムであり、各ノードは、ノードに依存し得る活性化関数を用いて入力を出力にマッピングする。特に、ノードの活性化関数は、バイアス、及び、前述のノードの入力のデータ品目に重み付けする1又は複数の重みに依存し得る。ANNの重みの値は、少なくとも訓練セット及び訓練アルゴリズムを用いてANNを訓練することによって取得され得る。例示的な訓練アルゴリズムによれば、重みの値は、典型的にはANNの重み、ANN入力、ANN出力、及び/又はバイアスに依存する費用関数の値を最小化するようにインタラクティブに調節される。
【0061】
特に、第1及び/又は第2機械学習アルゴリズムは分類器である。例えば、第1及び/又は第2機械学習アルゴリズムはそれぞれ、第1及び/又は第2バイナリ分類器である。例えば、第1及び/又は第2バイナリ分類器は、バイナリ分類を実行して、それぞれ、第1及び/又は第2光学的特徴が特定の光学的特徴(例えばバイオハザードシンボル及び/又は赤色)として識別されるかどうかを評価し得る。このケースにおいて、第1及び/又は第2識別データは、それぞれ、第1及び/又は第2光学的特徴が特定の光学的特徴として識別されるかどうかを指定し得る。
【0062】
代替的に、又は上と併せて、第1及び/又は第2機械学習アルゴリズムは、マルチクラス分類を実行して、それぞれ、第1及び/又は第2画像が特定の光学的特徴のプールの中の特定の光学的特徴を表示するかどうかを評価し得る。例えば、特定の光学的特徴のプールは、特定のピクトグラム、例えば、バイオハザードシンボル、特定の英数字文字列、例えば、「無菌」という単語、特定の色、例えば、「赤」色、及び同様のものを含み得る。
【0063】
第1及び/又は第2機械学習アルゴリズムは信頼度重み付け分類器であり得る。特に、第1及び/又は第2機械学習アルゴリズムは、確率的分類を実行する。例えば、第1機械学習アルゴリズムが信頼度重み付け分類器である場合、第1識別データは特定の光学的特徴のリストを指定し、このリストにおける各特定の光学的特徴について、第1光学的特徴のそれぞれの確率は前述の特定の光学的特徴である。第2機械学習アルゴリズムが信頼度重み付け分類器である場合、第2識別データは、特定の光学的特徴のリストを指定し得、このリストにおける各特定の光学的特徴について、第2光学的特徴のそれぞれの確率は前述の特定の光学的特徴である。
【0064】
例えば、第1機械学習アルゴリズムは、第1光学的特徴が第1画像において表示されるかどうかをチェックし、第1画像における前述の特徴の位置の推定を提供し、前述の特徴を識別する。第2機械学習アルゴリズムは、第2光学的特徴が第2画像において表示されるかどうかをチェックし、第2画像における前述の特徴の位置の推定を提供し得る。
【0065】
例えば、第1及び/又は第2機械学習アルゴリズムは、層の数及びパラメータの数を含むフィードフォワード畳み込みANNであり、ANNのパラメータは、重み及びそのバイアスである。層の数は、4と18の間に、特に、5と17の間に、更に特に、6と16の間に含まれ得る。パラメータの数は、10,000と1,000,000の間に特に、15,000と900,000の間に、更に特に、20,000と800,000の間に含まれ得る。
【0066】
第1実験機器識別アルゴリズム及び/又は第2実験機器識別アルゴリズムはそれぞれ、第3及び/又は第4機械学習アルゴリズムを含み得る。特に、第3及び/又は第4機械学習アルゴリズムは分類器、例えば、バイナリ及び/又は信頼度重み付け分類器であり得る。第3及び/又は第4機械学習アルゴリズムは、ANN、決定木、ランダムフォレスト、SVM、ベイジアンネットワーク又は同様のものであり得る。
【0067】
例えば、第3及び/又は第4機械学習アルゴリズムはそれぞれ、入力データを処理して、実験器具品目は何であるかを「決定」する、例えば、その推定を提供する第1及び/又は第2決定木であり得る。特に、第1及び/又は第2決定木の入力データは、例えば第1識別アルゴリズムを使用することによって取得される第1光学的特徴についての第1情報を含み得る。第2決定木の入力データはさらに、例えば第2識別アルゴリズムを使用することによって取得されるような第2光学的特徴についての第2情報を含み得る。
【0068】
物体検出及び認識は典型的には、機械学習アルゴリズムにとって困難なタスクであることが一般に知られている。一般に、比較的大きい数の層及びパラメータを有する畳み込みニューラルネットワークを含むいくつかの機械学習アルゴリズムのみが、このタスクを実行し、正確な結果を提供し得る。しかしながら、これらのアルゴリズムは、ALSにおけるそれらの使用を思いとどまらせるような、広範な訓練を必要とする。しかしながら、驚くべきことに、機械学習アルゴリズムは、十分に高い正確度で、かつ、広範な訓練手順及び/又は大きい訓練データセットを必要とすることなく、ALSの作業デッキ上の実験器具品目及びその光学的特徴を識別できる。しかしながら、ここに記述される示唆による限定されたROIにより、ANNモデルの必要な複雑性を低減し、それらのパラメータ数、訓練時間、及びデータセット要件を低減することが可能である。
【0069】
本発明の実施形態によれば、第1機械学習アルゴリズムは、第1ROIを使用することによってマルチクラス分類を実行し、第1画像が特定の光学的特徴の第1プールの中の特定の光学的特徴を表示するかどうかを評価する。このケースにおいて、第1画像における第1ROIを選択する段階は、少なくとも特定の光学的特徴の第1プールの光学的特徴についての情報、及び/又は、前述の要素を含む実験器具品目上の前述の要素の位置を示す情報を使用することによって実行される。特に、第1画像における第1ROIを選択する段階は、特定の光学的特徴の第1プールの複数の光学的特徴の各要素についての情報、及び/又は、前述の各光学的特徴を含む実験器具品目上の前述の各要素の位置を示す情報を使用することによって実行され得る。このケースにおいて、第1ROIは実質的に、特定の光学的特徴の第1プールの要素が互いに対する最高の差異を有する第1画像の領域に対応し得る。したがって、十分に高い分類正確度を達成しながら、第1機械学習アルゴリズムの複雑性(例えば、パラメータの数)、訓練時間、及び/又は、訓練データセットのサイズが低減され得る。
【0070】
本発明の方法の更なる実施形態において、第2機械学習アルゴリズムは、第2ROIを使用することによってマルチクラス分類を実行し、第2画像が特定の光学的特徴の第2プールの中の特定の光学的特徴を表示するかどうかを評価する。このケースにおいて、第2画像における第2ROIを選択する段階は、特定の光学的特徴の第2プールの複数の光学的特徴の各要素についての情報、及び/又は、前述の要素を含む実験器具品目上の前述の各要素の位置を示す情報を使用することによって実行される。このケースにおいて、第2ROIは実質的に、特定の光学的特徴の第2プールの要素が互いに対する最高の差異を有する第2画像の領域に対応し得る。したがって、十分に高い分類正確度を達成しながら、第2機械学習アルゴリズムの複雑性(例えば、パラメータの数)、訓練時間、及び/又は、訓練データセットのサイズが低減され得る。特に、第1光学記録デバイスは第1カメラである。第1識別アルゴリズムは、少なくとも第1カメラに関連する内部較正パラメータの第1セット、及び/又は、少なくとも第1カメラに関連する外部較正パラメータの第1セットに依存し得る。
【0071】
例えば、第1入力データは、内部較正パラメータの第1セットの要素、及び/又は、外部較正パラメータの第1セットの要素に依存し、例えば、それらを含み得、その結果、第1識別アルゴリズムはそれぞれ、内部較正パラメータの第1セットの要素、及び/又は、外部較正パラメータの第1セットの要素に依存する。特に、外部較正パラメータの第1セット、及び/又は、内部較正パラメータの第1セットはそれぞれ、第1カメラに関連する、1又は複数の外部較正パラメータ、及び/又は、1又は複数の内部較正パラメータから成る。
【0072】
代替的に、又は上と併せて、第2光学記録デバイスは第2カメラである。第2識別アルゴリズムは、少なくとも第2カメラに関連する内部較正パラメータの第2セット、及び/又は、少なくとも第2カメラに関連する外部較正パラメータの第2セットに依存し得る。
【0073】
例えば、第2入力データは、内部較正パラメータの第2セットの要素、及び/又は、外部較正パラメータの第2セットの要素に依存し、例えば、それらを含み得、その結果、第2識別アルゴリズムはそれぞれ、内部較正パラメータの第2セットの要素、及び/又は、外部較正パラメータの第2セットの要素に依存する。特に、外部較正パラメータの第2セット、及び/又は、内部較正パラメータの第2セットはそれぞれ、第2カメラに関連する、1又は複数の外部較正パラメータ、及び/又は、1又は複数の内部較正パラメータから成る。
【0074】
特に、カメラに関連する外部較正パラメータは、ワールドフレームを参照して、及び、カメラモデル(ピンホールカメラモデルなど)に従って、前述のカメラの位置及び/又は向きを記述する。外部パラメータの第1及び/又は第2セットはそれぞれ、3次元世界座標系から、第1及び/又は第2カメラの3次元座標系への変換を記述するのに好適な外部較正パラメータを含み得る。特に、外部パラメータの第1及び/又は第2セットは、3次元回転行列のエントリ、及び、3次元変換ベクトルの座標を決定するのに好適なパラメータを含み得る。外部パラメータの第1及び/又は第2セットはそれぞれ、第1及び/又は第2カメラを較正するために外部較正方法を使用することによって取得され得る。
【0075】
特に、カメラに関連する内部較正パラメータは、前述のカメラの内部特性を記述し得、前述のカメラを較正するために内部較正方法を使用することによって取得され得る。内部パラメータの第1セットは、第1カメラの3次元座標系から第1画像の2次元座標への射影変換を記述するのに好適である内部較正パラメータを含み得る。例えば、内部較正パラメータの第1セットは、第1カメラの焦点距離、スケール因子、スキュー因子、主点座標、放射状歪み係数、及び/又は、接線歪み係数を含む。
【0076】
内部パラメータの第2セットは、第2カメラの3次元座標系から第2画像の2次元座標への射影変換を記述するのに好適である内部較正パラメータを含み得る。内部較正パラメータの第2セットは、第2カメラの焦点距離、スケール因子、スキュー因子、主点座標、放射状歪み係数、及び/又は、接線歪み係数含み得る。
【0077】
外部較正パラメータの第1セットの外部パラメータ、及び/又は、内部較正パラメータの第1セットの内部パラメータは、第1画像を処理するために第1識別アルゴリズムによって使用され得、それにより、第1入力データの品質を増加させる。例えば、前述のパラメータは、第1カメラの内部特性について第1画像を調整し、及び/又は、第1画像に表示されるデッキ作業及び/又は実験器具品目を整合させるために使用され得る。代替的に、又は上と併せて、前述のパラメータは、第1画像に描写されるシーンの幾何学的特徴についての情報を取得するために第1アルゴリズムによって使用され得る。例えば、外部及び/又は内部パラメータは、第1画像における物体のサイズを推定し、及び/又は、デッキ作業又は実験器具品目に対する第1カメラの位置を決定するために使用され得る。このようにして、第1光学的特徴の識別の正確度が増加される。
【0078】
同様に、外部較正パラメータの第2セットの外部パラメータ、及び/又は、内部較正パラメータの第2セットの内部パラメータは、第2光学的特徴の識別の正確度を増加させるために第2識別アルゴリズムによって使用され得る。特に、第2識別アルゴリズムは、前述のパラメータを使用して、第2画像を処理し、したがって、第2入力データの品質を増加させる。また、前述のパラメータは、第2画像において描写されるシーンの幾何学的特徴についての情報を取得するために使用され得る。
【0079】
代替的に、又は上と併せて、第1ROI決定アルゴリズムは、少なくとも第1カメラに関連する内部較正パラメータの第1セット、及び/又は、少なくとも第1カメラに関連する外部較正パラメータの第1セットに依存し得る。第2RGB決定アルゴリズムは、少なくとも第2カメラに関連する内部較正パラメータの第2セット、及び/又は、少なくとも第2カメラに関連する外部較正パラメータの第2セットに依存し得る。
【0080】
上に記述されたものと同一の理由で、外部較正パラメータの第1セットの外部パラメータ、及び/又は、内部較正パラメータの第1セットの内部パラメータは、第1ROIの識別の正確度を増加させるために第1ROI決定アルゴリズムによって使用され得る。また、外部較正パラメータの第2セットの外部パラメータ、及び/又は、内部較正パラメータの第2セットの内部パラメータは、第2ROIの識別の正確度を増加させるために第2RGB決定アルゴリズムによって使用され得る。
【0081】
本発明の方法の更なる実施形態によれば、第1識別アルゴリズム及び/又は第2識別アルゴリズムはそれぞれ、実験器具品目の形状の第1推定、及び/又は、実験器具品目の形状の第2推定に依存する。特に、第1及び/又は第2入力データはそれぞれ、実験器具品目の形状の第1及び/又は第2推定を示す情報を含む。
【0082】
実験器具品目の形状の第1及び/又は第2推定は、実験器具品目のクラスの一般的な形状を記述するモデルであり得る。例えば、96ポリメラーゼ連鎖反応(PCR)プレート及び96マイクロタイトレーション(MTP)プレートの両方の形状は、長方形内に均等に分布する96の小さい円から形成され得る。
【0083】
第2識別アルゴリズムは、実験器具品目の形状の第2推定に依存し得、前述の推定は、第1識別アルゴリズムを用いて取得された第1識別データを使用することによって取得され得る。例えば、第1光学的特徴についての第1情報は、第1光学的特徴が、所与のテクスチャパターンであることを指定する場合、及び、前述のパターンがPCRプレート及び96MTPプレートの表面上にのみ存在する場合、第2入力データは、実験器具品目の形状が、長方形内に均等に分布する96の小さい円によって形成されると推定されると指定する情報を含み得る。
【0084】
実験器具品目の形状の推定は、それぞれの光学的特徴をより容易に検出及び識別するために第1及び/又は第2識別アルゴリズムによって使用され得、それにより、前述の特徴の識別正確度を増加させる。正確度はさらに、前述の推定が外部及び/又は内部較正パラメータと共に使用される場合に増加する。
【0085】
代替的に、又は上と併せて、第1及び/又は第2識別アルゴリズムは、それぞれ、第1及び/又は第2光学的特徴の形状の推定に依存し得る。
【0086】
本発明の実施形態において、第2識別データは、少なくとも更なる識別が必要かどうかを示す情報を符号化する。
【0087】
本実施形態において、第2識別データにおいて符号化される情報に従って、少なくとも更なる識別が必要である場合、方法はさらに、少なくとも第3識別アルゴリズムを使用することによって第1画像における第1光学的特徴を識別する段階を含み、それにより、第3識別データを取得すし、第3識別データは、第1光学的特徴についての第2情報を符号化する。
【0088】
第2識別データにおいて符号化される情報に従って、少なくとも更なる識別が必要である場合、少なくとも第2光学的特徴についての情報を使用することによって、実験器具品目を識別する段階は、第1光学的特徴についての第2情報を使用することによって実行され得る。
【0089】
第3識別アルゴリズムを使用することによって第1光学的特徴を識別する段階は、第3識別アルゴリズムを用いて第3識別データを取得することによって実行され得る。第3識別データは、第3識別アルゴリズムの出力であり得、特に、前述のアルゴリズムを実行することによって生成され得る。例えば、少なくとも更なる識別が必要であるかどうかを示す情報は、第2光学的特徴の識別が、実験器具品目を識別するのに不確定及び/又は不十分であるかどうかを指定する。
【0090】
本実施形態によれば、第3識別アルゴリズムを使用することによって第1光学的特徴を識別する段階は、第2光学的特徴の識別が不確定である、又は、十分に正確でないと判明した場合のみ実行される。このようにして、第1光学的特徴が必要な場合のみ2回識別されるので、計算コストを無差別に増加させることなく、及び/又は、実験機器識別の正確度を損なうことなく、実験器具品目の識別の効率が増加される。第1光学的特徴の第2識別の必要性は、第2識別アルゴリズムの出力を考慮して、方法によって自動的かつ動的に評価される。実験器具品目の識別の正確度は、第1光学的特徴についての情報、及び、第2光学的特徴についての情報の両方を使用することによって前述の識別が実行されるという事実によってさらに増加する。
【0091】
本発明によれば、第3アルゴリズムは、第3入力データを処理し得る。特に、第3入力データは、第1光学的特徴についての第1情報、及び/又は、第2光学的特徴についての情報を符号化する。本実施形態において、実験器具品目の識別は、第1光学的特徴についての情報、及び、第2光学的特徴についての情報の両方に依存し、したがって、より正確である。
【0092】
本発明の実施形態において、第2識別データにおいて符号化された情報に従って、少なくとも更なる識別が必要である場合、方法はさらに、識別アルゴリズムの第3プールの中から第3識別アルゴリズムを選択する段階を含み、第2識別アルゴリズムを選択する段階は、少なくとも、第1識別データにおいて符号化された情報、及び/又は、第2識別データにおいて符号化された情報に依存する。
【0093】
第1、第2、及び/又は第3プールの中から、第1、第2、及び/又は第3識別アルゴリズムをそれぞれ選択する段階は、選択アルゴリズムを使用することによって実行され得る。特に、選択アルゴリズムは、第1、第2、及び/又は第3位置情報を処理して第1アルゴリズムを選択し得る。さらに、選択アルゴリズムは、第1識別データにおいて符号化された情報、及び/又は、第1アルゴリズムについての情報を処理して、第1識別アルゴリズムを選択し得る。さらに、選択アルゴリズムは、第1識別データ、第2識別データにおいて符号化された情報、第1識別アルゴリズムについての情報、及び/又は、第2識別アルゴリズムについての情報を処理して、第2識別アルゴリズムを選択し得る。
【0094】
第1光学的特徴及び第2光学的特徴を識別する前述の段階の他に、本発明の方法はさらに、更なる段階又は複数の更なる段階を含み得る。更なる段階は、少なくとも識別アルゴリズムを使用することによって第1及び/又は第2画像における対応する光学的特徴を識別する段階であり得る。対応する光学的特徴は、第1特徴、第2特徴、又は、第1及び第2のものとは異なる別の特徴であり得る。例えば、更なる識別段階中に実行される識別は、実験器具品目を識別するのに不確定又は不十分であるので、更なる段階において使用される識別アルゴリズムは、更なる識別が必要かどうかを示す情報を含む識別出力データを生成する。
【0095】
例えば、方法の一実施形態において、更なる段階は、少なくとも第1識別アルゴリズムを使用することによって第1光学的特徴を識別する段階の前に実行され、対応する光学的特徴の決定的な識別につながらない。例えば、更なる段階は、少なくとも第1識別アルゴリズムを使用することによって第1光学的特徴を識別する段階の後、及び、少なくとも第2識別アルゴリズムを使用することによって第2光学的特徴を識別する段階の前に実行され得る。このケースにおいて、少なくとも第1識別アルゴリズムを使用することによって第1光学的特徴を識別する段階、及び、更なる段階の両方が、決定的な識別につながらないので、第2光学的特徴を識別する段階が実行される。
【0096】
本発明の方法の実施形態において、第2識別データにおいて符号化される情報に従って、少なくとも更なる識別が必要である場合、少なくとも第2光学的特徴についての情報を使用することによって実験器具品目を識別する段階は、第1光学的特徴についての第1情報を使用することによって実行される。本実施形態において、実験器具品目の識別は、第1光学的特徴についての情報、及び、第2光学的特徴についての情報に依存し、したがって、より正確である。
【0097】
本発明の実施形態によれば、第1識別データにおいて符号化された情報に従って、少なくとも更なる識別が必要ない場合、方法はさらに、以下の段階、すなわち、少なくとも実験器具品目についての第1情報を使用することによって作業デッキの仮想表現を生成する段階を含む。
【0098】
代替的に、又は上と併せて、第1識別データにおいて符号化された情報に従って、少なくとも更なる識別が必要である場合、方法はさらに、以下の段階、すなわち、少なくとも実験器具品目についての第2情報を使用することによって作業デッキの仮想表現を生成する段階を含み得る。
【0099】
作業デッキの仮想表現は格納され、作業デッキを含むALSによって実行される実験手順の自動的に生成された文書を提供し得る。代替的に、又は上と併せて、仮想表現は、実験手順を自動的に検証し、必要な場合は訂正するために使用され得る。また、仮想表現を使用することによって、ALSは、実行される手順を自動的に推定し得る。
【0100】
第1及び/又は第2光学記録デバイスは、多色カメラ、単色カメラ、グレースケールカメラ、黒白カメラ、UVカメラ、IRカメラ、ビデオカメラ、1次元カメラセンサ及び/又は3次元RGBDカメラを含み得る、又は、それらから成り得る。
【0101】
本発明の実施形態において、第2光学記録デバイスは多色カメラであり、及び/又は、第1光学記録デバイスは、単色カメラ及び/又はグレースケールカメラである。特に、第1光学記録デバイス及び/又は第2光学記録デバイスは、それぞれ第1及び/又は第2ピクセル分解能を有するデジタルカメラである。第1ピクセル分解能は、921,600ピクセルより低いか、又はそれに等しく、特に、414,720ピクセルより低いか、又はそれに等しいことがあり得る。また、第1及び/又は第2ピクセル分解能は、2,157,840ピクセルより低いか、又はそれに等しく、特に、2,073,600ピクセルより低いか、又はそれに等しいことがあり得る。本実施形態は、第2光学的特徴の識別のための正確度要件を満たしながら、少なくとも、典型的には高分解能のものより安い低分解能カメラを使用することを可能にする。特に、このケースにおいて、第2光学的特徴の識別における第1光学的特徴についての情報の使用は、第2画像の低い分解能を補う。
【0102】
本発明の方法の一実施形態において、第1画像を取得する段階は、第1システム時刻値によって特徴付けられる第1時点において実行される。第2画像を取得する段階は、第2時点に実行され、第2時点は、システム時刻の第2システム時刻値によって特徴付けられる。第1時間システム値及び第2時間システム値は、予め決められた関係を満たす。
【0103】
方法の本実施形態は、第1及び/又は第2光学記録デバイスが互いに対して、及び/又は、作業デッキに対して移動可能である場合でも実行され得る。これは、例えば、作業デッキが第1及び/又は第2光学記録デバイスの視野より大きい場合に必要であり得る。このケースにおいて、予め決められた関係は、第1時点及び第2時点において、それぞれ、実験器具品目が第1及び第2光学記録デバイスの視野内にあるように、第1及び/又は第2光学記録デバイスによって記述される軌道に依存し得る。
【0104】
特に、第1時間システム値及び第2時間システム値は互いに等しい。
【0105】
方法の本実施形態は、作業デッキ上に位置する実験器具品目が経時的に変化する場合にも実行され得る。これに該当する場合、第1時間システム値が第2時間システム値に等しいという要件は、第1及び第2光学記録デバイスが、両方とも実験器具品目を表示するように同一シーンの画像を取得することを保証する。
【0106】
特に、システム時刻は、本発明の方法を実装するコンピュータ、例えば、本発明のデータ処理システムのシステム時刻である。システム時刻は、前述のコンピュータのシステムクロックによって測定され得る。
【0107】
特に、実験器具品目は、臨床又は実験室の環境における使用のための容器を含む、又は、それから成る。この容器は、ガラス、プラスチック、金属、及び同様のものからできていることがあり得る。例えば、実験器具品目は、上部、蓋、及び/又は、下部を含み得る培養皿を含む、又は、それから成り得る。また、実験器具品目は、サンプルバイアル及び/又はテストチューブを含む、又は、それらから成る。実験器具品目は、単回使用、多回使用、及び/又は、使い捨てのためのものであり得る。
【0108】
また、本発明によれば、実験器具品目は、プレート、チップ、チューブ、リザーバ、チップボックス、高さアダプタ、リザーバラック、及び/又は、チューブラックを含む、又は、それらから成り得る。
【0109】
本発明によれば、第1光学的特徴及び/又は第2光学的特徴は、印(indicium)、表意文字、ピクトグラム、英数字のセット、テクスチャパターン、孔パターン、突起パターン、バーコード、及び/又は色を含み得る。
【0110】
例えば、第1光学的特徴は、英数字のセット及び/又は孔パターンを含む、又は、それから成り得、第2光学的特徴は、色、例えば、実験器具品目の一部の色であり得る。特に、孔パターンは、C、H、I、L、O、T、U、又はV字の形状であり得る。
【0111】
第1光学的特徴についての情報は、実験器具品目が属するクラスについての情報を伝え得る。このケースにおいて、第1光学的特徴についての情報は、第2光学的特徴についての情報と共に、実験器具品目がクラスの何のメンバかを示す情報を伝え得る。
【0112】
本発明の実施形態において、第1識別データにおいて符号化される情報に従って、少なくとも更なる識別が必要である場合、少なくとも第2光学的特徴についての情報を使用することによって実験器具品目を識別する段階は、第1光学的特徴についての第1情報を使用することによって実行される。本実施形態において、実験器具品目の識別は、第1光学的特徴についての情報、及び、第2光学的特徴についての情報に依存し、したがって、より正確である。
【0113】
例えば、第1光学的特徴がバイオハザードシンボルである場合、前述の特徴は、実験器具品目が、バイオハザード材料を含むチューブのクラスに属するチューブであるという情報を伝え得る。また、第2光学的特徴が赤色である場合、第1及び第2光学的特徴は、実験器具品目が、特定のクラスのメンバ、すなわち、特定のバイオハザード材料、例えば、クロロホルムを含むチューブであるという情報を伝える。
【0114】
本明細書において本発明の方法の段階が記述される順序は、前述の段階が実行される経時的順序を必ずしも反映しない。
【0115】
本発明は、第1光学記録デバイス、第2光学記録デバイス、及び、本発明による方法を実行するように構成されている処理手段を含むデータ処理システムに関する。
【0116】
本発明はまた、本発明のデータ処理システムを含む自動化実験室システムに関する。特に、本発明のALSは、第1光学記録デバイス、第2光学記録デバイス、本発明の方法を実行するように構成されている処理手段、及び、実験器具品目を配置するための作業デッキを含む。例えば、ALSは自動化ピペッティングシステムである。特に、ALSの作業デッキは実験器具品目を支える。
【0117】
本発明はまた、本発明によるシステムによってプログラムが実行されるときに、前述のシステムに本発明の方法を実行させる命令を含むコンピュータプログラム製品に関する。
【0118】
発明は、本発明によるシステムによって実行されるときに前述のシステムに本発明の方法を実行させる命令を含むコンピュータ可読記憶媒体に関する。
【0119】
発明の例示的な実施形態は、添付の図面を参照して、以下で記述される。図面及び対応する詳細な記載は単に、発明のより良い理解を提供するためのものであり、請求項において定義される発明の範囲の限定を決して構成しない。
特に以下の通りである。
【図面の簡単な説明】
【0120】
【
図1】本発明によるデータ処理システムの実施形態の概略的表現である。
【
図2】本発明の方法の第1実施形態の操作のフロー図である。
【
図3a】本発明によるデータ処理システムの実施形態を使用することによって取得される第1画像の概略的表現である。
【
図3b】本発明によるデータ処理システムの実施形態を使用することによって取得される第2画像の概略的表現である。
【
図3c】本発明によるデータ処理システムの実施形態を使用することによって取得される第1画像の概略的表現である。
【
図3d】本発明によるデータ処理システムの実施形態を使用することによって取得される第2画像の概略的表現である。
【
図4】本発明の方法の第2実施形態の操作のフロー図である。
【発明を実施するための形態】
【0121】
図1は、本発明によるデータ処理システム(DPS)100の第1実施形態の概略図である。前述のデータ処理システム100は、コンピューティングデバイス又はそのクラスタを含み得る。データ処理システム100は、互いにデータ通信する処理要素110及びストレージ手段120を含む。処理要素110は、CPU及び/又はGPUから成り、又は、それを含み得、本発明の方法の段階を実行するように構成されている複数のモジュール111~116を含む。
【0122】
ストレージ手段120は、揮発性一次メモリ121(例えば、RAM、DRAM、SRAM、CPUキャッシュメモリ、又は同様のもの)、及び/又は、不揮発性一次メモリ122(例えば、ROM、PROM、EPROM、又は同様のもの)を含み得る。特に、揮発性一次メモリは、RAMから成り得る。例えば、揮発性一次メモリ121は、処理要素による実行のためのプログラムファイル、及び、関連データを一時的に保持し、不揮発性一次メモリ122は、DPS100のオペレーティングシステムのためのブートストラップコードを含み得る。
【0123】
ストレージ手段120はさらに、オペレーティングシステム、及び/又は、本発明の方法を実行するために使用されるアルゴリズムの命令を格納し得る二次メモリ123を含み得る。また、二次メモリ123は、コンピュータプログラム製品がDPS100によって実行されるときに、本発明による方法をDPS100に実行させる命令を含むコンピュータプログラム製品を格納し得る。
【0124】
二次メモリ123、一次メモリ121、122、及び処理要素110は、物理的に同一のハウジング内に収容される必要はなく、むしろ、空間的に互いに離れていることがあり得る。特に、二次メモリ123、一次メモリ121、122、及び処理要素110は、空間的に互いに離れていることがあり得、有線及び/又は無線媒体(示されない)を介して互いにデータを交換し得る。
【0125】
DPS100は、DPS100が入力/出力デバイス(例えば、ディスプレイ、キーボード、タッチ画面、プリンタ、マウス、カメラ、又は同様のもの)と通信することを可能にする入力/出力(I/O)インタフェース140を含み得る。DPS100はさらに、DPS100を好適なネットワーク(示されない)に接続するように構成されているネットワークインタフェースコントローラ(NIC)130を含み得る。本発明によれば、好適なネットワークは例えば、イントラネット、インターネット、又はセルラネットワークであり得る。
【0126】
データ処理システム100は、それぞれ第1デジタルカメラ150及び第2デジタルカメラ160の形態である第1光学記録デバイス及び第2光学記録デバイスを含む。特に、第1カメラ150及び第2カメラ160は、それぞれ、グレースケール及び多色カメラである。第1カメラ150及び第2カメラ160は、それぞれ、第1画像及び第2画像を取得するように構成されており、フォトカメラ及び/又はビデオカメラであり得る。
図1に示されるように、第1カメラ150及び/又は第2カメラ160は、I/Oインタフェース140を介して処理要素110に接続され得る。例えば、第1カメラ150及び/又は第2カメラ160は、NIC130を介してI/Oインタフェースに無線接続され得る。第1カメラ150及び/又は第2カメラ160は、I/Oインタフェース140又はペリフェラルデバイスと共に使用するための関連する命令及びデータを格納するためのそれら自体のメモリを有するインテリジェントデバイスであり得る。
【0127】
処理要素110は、本発明の方法を実行するように構成されている複数のモジュール111~116を含む。特に、第1取得モジュール111は、第1カメラ150を操作して第1画像を取得するように構成されている。第2取得モジュール112は、第2カメラ160を操作して第2画像を取得するように構成されている。処理要素110は、第1識別アルゴリズムを使用することによって第1画像における第1光学的特徴を識別するように構成されている第1識別モジュール113を含む。第2識別モジュール114は、第1光学的特徴についての第1情報を使用することによって実験器具品目を識別するように構成されている。処理要素110はさらに、少なくとも第2識別アルゴリズムを使用することによって第2画像における第2光学的特徴を識別するように構成されている第3識別モジュール115を含む。第4識別モジュール116は、第2光学的特徴についての情報を使用することによって実験器具品目を識別するように構成されている。第1識別モジュール113及び第3識別モジュール115は、同一のモジュールであり得る。特に、第2識別モジュール114及び第4識別モジュール116は同一のモジュールであり得る。処理要素110はさらに、第1識別データにおいて符号化された情報に従って、更なる識別が必要であるかどうかを確立するように構成されている評価モジュール(示されない)を含み得る。
【0128】
例えば、DPS100は、第1カメラ150及び第2カメラ160を含むコンピュータシステムであり得、より具体的には、スマートフォン、デスクトップコンピュータ、タブレット、ラップトップ、又は同様のものであり得る。また、DPS100は、本発明によるALS、特に自動ピペッティングシステムであり得る。このケースにおいて、DPS100は、1又は複数の実験器具品目を配置するための作業デッキ(示されない)、及び/又は、液体を移すためのピペッティングヘッド(示されない)を含む。ピペッティングヘッドは、サーボ及び/又はステッパモータを用いて作業デッキに対して移動可能であり得る。
【0129】
図2は、本発明による方法の第1実施形態の操作のフロー
図200である。特に、本発明による方法の第1実施形態は、上に記述され、かつ、
図1において模式的に描写されるDPS100によって実行され得る。
【0130】
方法の第1実施形態は、フィルタを有する1000μlチップボックスの識別を実行する。この識別は、第1及び第2光学的特徴を使用することによって実行される。第1光学的特徴は、4個の孔を含むL字形孔パターン341であり、第2光学的特徴は、フィルタを有する1000μlチップボックスの色、例えば、青色である。論述の目的で、フィルタを有する1000μlチップボックスは、これら2つの光学的特徴を含む唯一の実験器具品目であると想定する。
【0131】
段階210において、DPS100は、
図3a及び
図3cにおいて模式的に表される第1画像300aを取得する。第1画像300aは、第1カメラ150を使用することによって取得され、したがって、グレースケール画像である。
図3aに示されるように、第1画像300aは、DPS100の作業デッキ370の上面図を表示する。作業デッキ370は、廃棄物容器350、及び、実験器具品目を配置するための4つの領域371~374を含む。
【0132】
96MTPプレートである第1実験器具品目310は、第1領域371上に位置する。第1実験器具品目310は、12列及び8行に分布する96ウェル312を含む。第1実験器具品目310は、2セットの英数字311、313を含む。第1セットの英数字321は、文字A、B、C、D、E、F、G、及びHを描写する列を形成する。第2セットの英数字323は、1から12の数を描写する行を形成する。第1実験器具品目310のウェル312は、第1化合物を含む。
【0133】
第2実験器具品目320及び第3実験器具品目は、第2領域372上に位置付けられる。第2実験器具品目320は、12列及び8行に分布する96ウェル322を含む96MTPプレートである。第2実験器具品目320は、2セットの英数字321、323を含む。第1セットの英数字321は、文字A、B、C、D、E、F、G、及びHを描写する列を形成する。第2セットの英数字323は、1から12の数を描写する行を形成する。第2実験器具品目320のウェル322は第2化合物を含む。第3実験器具品目は、55mm高さアダプタであり、その上に第2実験機器320品目が配置される。特に、
図3aは、高さアダプタの5個のピン331~335を描写する。
【0134】
フィルタを有する1000μlチップボックスである第4実験器具品目340が、第3領域373に位置する。第4実験器具品目340は、12列及び8行に分布する96個のチップ342、及び、4個の孔を含むL字形孔パターン341を含む。第5実験器具品目360は、第4領域374に位置する。第5実験器具品目360は、100mlチューブ364、30mlチューブ363、第1リザーバラックモジュール362、及び第2リザーバラックモジュールTC361を含むリザーバラックである。第1リザーバラックモジュール362は、16mmの直径を有する4個の反応槽を含み、及び/又は、第2リザーバラックモジュール361は、29mmの直径を有する2個の反応槽を含む。特に、第1リザーバラックモジュール362及び/又は第2リザーバラックモジュール361は、熱モジュール(示されない)を用いて温度制御され得る。
【0135】
段階220において、DPS100は、
図3b及び
図3dにおいて模式的に表される第2画像300bを取得する。第2画像300bは、第2カメラ160を使用することによって取得され、したがって、多色画像である。
図3bに示されるように、第2画像300aは、DPS100の作業デッキ370の上面図を表示し、前述の上面図は、第1画像300aに表示されるものと実質的に同一である(
図3aを参照)。第2画像300bは、多色カメラを使用することによって取得され、したがって、第2画像300bは、少なくとも前者の画像300aが実験器具品目の色を表示するという点で、第1画像300aと異なる。特に、
図3bにおいて、第1実験器具品目310、第2実験器具品目320、第3実験器具品目、及び第4実験器具品目340の色は、斜線の領域によって模式的に表される。例えば、第1実験器具品目310は緑色であり、第2実験器具品目320は黄色であり、第4実験器具品目340は青色である。第1及び第2実験器具品目の両方は96MTPプレートである。しかしながら、それらは異なる化合物を含み、したがって、それらの色によって互いから区別される。
【0136】
第1画像300a及び/又は第2画像300bは、DPS100の一次及び/又は二次メモリに格納され得、それぞれ第1光学的特徴及び/又は第2光学的特徴を識別するために処理要素110によってアクセスされ得る。
【0137】
段階230において、DPS100は、第1識別アルゴリズムを使用することによって、第1画像300aにおける第1光学的特徴、すなわちL字形孔パターン341を識別する。特に、第1識別アルゴリズムは、第1画像300aのピクセルの位置及び強度を含む第1入力データを処理する。第1識別アルゴリズムは、4個の孔を含むL字形孔パターン341が第1画像300aに表示されるかどうかをチェックすることによって、及び、第1画像300aにおける前述の孔パターン341の位置の推定を提供することによって、第1光学的特徴を識別する。特に、第1識別アルゴリズムは、機械学習アルゴリズム、例えばANNを含み得る。
【0138】
第1識別アルゴリズムは、第1識別データを出力として生成し、前述のデータは、第1光学的特徴についての情報を含む。第1光学的特徴についての情報は、第1の指定された確率で、L字形孔パターン341が、所与の方向に対する指定された向きで第1画像300aにおける指定された位置に表示されていることを指定する。
図3cにおいて、指定された位置は、破線の枠380によって示され、所与の方向は、鎖線390によって示される。特に、
図3cに示すように、L字形孔パターン341の指定された向きは、孔パターン341によって形成されるLの長い腕、すなわち、3個の孔を含む腕が、所与の方向390に実質的に平行であるような向きである。
【0139】
段階240において、第1識別データにおいて符号化された情報に従って、更なる識別が必要であるかどうかが確立される。これは、第1の指定された確率を所与の閾値と比較することによって達成され得る。所与の閾値は例えば、0.8又は0.9の間に含まれ得る。したがって、本実施形態において、第1の指定された確率は、少なくとも更なる識別が必要であるかどうかを示す情報を符号化する。
【0140】
確率が所与の閾値より大きい場合、DPS100は、入力データを処理し第1実験機器識別データを生成する第1実験機器識別アルゴリズムを実行する(段階250)。例えば、このケースにおいて第1実験機器識別アルゴリズムの入力データは、第1の指定された確率で、L字形孔パターン341が所与の方向390に対する指定された向きで第1画像300aにおける指定された位置に表示されていることを指定する情報を含む。
【0141】
第1実験機器識別アルゴリズムは、処理要素110によって実行されるとき、処理要素に、ルックアップテーブルにアクセスさせ、第1光学的特徴に関連する実験器具品目、すなわち、4個の孔を有するL字形孔パターン341を含む実験器具品目が何であるかを評価する命令を含む。ルックアップテーブルは、フィルタを有する1000μlチップボックスに第1光学的特徴を関連付け、したがって、第1実験機器識別データは、識別された実験器具品目が、フィルタ340を有する1000μlチップボックスであると指定する情報を含む。
【0142】
第1実験機器識別アルゴリズムは、処理要素110によって実行されるときに、処理要素に、作業デッキ370上のフィルタ340を有する1000μlチップボックスの位置を推定させる命令を含む。前述の推定は、識別された実験器具品目の形状及び特徴、ならびに、第1画像300aにおけるL字形孔パターン341の指定された位置及び向きを示す情報を使用することによって取得され得る。したがって、第1実験機器識別データは、識別された実験器具品目が作業デッキ370の第4領域374に配置されていることを指定する情報を含む。
【0143】
特に、識別された実験器具品目の形状及び特徴を示す情報は、第1画像300aに表示される識別された実験器具品目が、指定された寸法及び96個のウェルを有する長方形形状を有することを指定する情報を含む。また、フィルタ340を有する1000μlチップボックスは、指定された寸法を有するL字形孔パターン341を含む。フィルタ340を有する1000μlチップボックスの孔パターン341は、孔パターンによって形成される「L」の長い腕が、フィルタ340を有する1000μlチップボックスの短い側343と実質的に平行であるような向きである(
図3a又は3cを参照)。
【0144】
第1実験機器識別アルゴリズムは、第1カメラの外部較正パラメータ、内部較正パラメータ、及び、フィルタ340を有する1000μlチップボックスの寸法を使用して、フィルタ340を有する1000μlチップボックスを表示する第1画像300aの領域のサイズを推定し得る。
【0145】
代わりに、確率が所与の閾値より低い場合、DPS100は、第2識別アルゴリズムを使用することによって、第2画像300bにおける第2光学的特徴を識別する(段階260)。特に、本実施形態は、識別アルゴリズムの第2プールの中から第2識別アルゴリズムを選択する段階を含み得る。第2識別アルゴリズムの選択は、少なくとも、第1識別データにおいて符号化された情報、すなわち、第1の指定された確率で第1光学的特徴がL字形孔パターン341であることを指定する情報に依存する。L字形孔パターン341を含む唯一の実験器具品目は、フィルタ340を有する1000μlチップボックスであるので、DPS100によって選択される第2識別アルゴリズムは、第2画像300bが、青色に対応する強度を有するピクセルを有する領域を含むかどうかを評価する。
【0146】
より具体的には、第2識別アルゴリズムは、第2画像300bのピクセルの位置及び強度を含む第2入力データを処理する。第2識別アルゴリズムは、処理要素110によって実行されるとき、DPS100に、第2画像300bが、青色に対応する強度、及び、領域の位置を有するピクセルを有する前述の領域を含むかどうかを評価させる命令を含む。特に、前述の評価は、強度が青色に対応する強度の範囲内に収まるピクセルを発見することによって実行される。例えば、強度が、RGB色モデルに関して表される場合、強度の範囲は、0と100の間に含まれる第1RGB値、200と255の間に含まれる第2RGB値、及び、200と255の間に含まれる第2RGB値を有する強度を含み得る。代替的に、強度がRGB色モデルに関して表される場合、青色に関連する強度範囲は、HSL又はHSV表現を使用することによって表され得る。
【0147】
第2識別アルゴリズムは第2識別データを出力として生成し、前述のデータは第2光学的特徴についての情報を含む。第2光学的特徴についての情報は、第2の指定された確率で、第2画像300bの長方形領域のピクセルの強度が青色に対応することを指定し、前述の長方形領域は、第2画像300bの指定された位置に配置される。
図3dにおいて、第2画像300bの長方形領域は、破線の枠385によって示される。
【0148】
第2入力データはさらに、第1画像300aにおけるL字形孔パターン341の指定された位置を示す情報を含み得、第2識別アルゴリズムは、前述の情報を使用することによって長方形領域385を検出し得る。例えば、第2識別アルゴリズムは、第1カメラ150及び第2カメラ160の内部及び外部パラメータを使用して、第1画像300aにおける孔パターン341の指定された位置を考慮して、第2画像300bにおける前述のパターン341の対応する位置を推定し得る。したがって、長方形領域385は、第2画像300bにおけるL字形孔パターン341の対応する位置を含む領域に配置されたピクセルの強度を分析することによって検出され得る。
【0149】
段階270において、実験器具品目は、第1光学的特徴341についての第1情報及び第2光学的特徴についての情報を使用することによって識別される。より具体的には、DPS100は、入力データを処理する第2実験機器識別アルゴリズムを実行し、第2実験機器識別データを生成する。例えば、第2実験機器識別アルゴリズムは決定木であり、入力された特徴は、第1及び第2の指定された確率、第1画像300aにおける光学的特徴341のサイズ、指定された位置、及び、指定された向き、ならびに、第2画像300bの長方形領域のサイズ、指定された位置、及び、向きである。このケースにおいて第2実験機器識別アルゴリズムは、入力された特徴を考慮して、実験器具品目が、フィルタ340を有する1000μlチップボックスであるかどうかを評価し、これに該当する場合、作業デッキ370上のその位置を評価する。したがって本実施形態において第2実験機器識別データは、実験器具品目が、作業デッキ370の第4領域374に配置された、フィルタ340を有する1000μlチップボックスであると指定し得る。
【0150】
第1識別データ、第2識別データ、第1実験機器識別データ、及び/又は第2実験機器識別データは、DPS100の一次メモリ及び/又は二次メモリに格納され得る。
【0151】
本発明による方法の更なる実施形態は、上に記述された第1実施形態の段階210から270を含み得る。この前者の実施形態は、段階210から270が実行される順序について、後者と異なる。特に、更なる実施形態において、第2画像330bを取得する段階220は、第1識別アルゴリズムを使用することによって、第1画像330aを取得する段階210の前、又は、第1光学的特徴341を識別する段階230の後のいずれかにおいて実行され得る。
【0152】
図4は、例えば上で記述され
図1において模式的に描写されるDPS100によって実行され得る、本発明による方法の第2実施形態の操作のフロー
図400である。方法の第2実施形態は、DPS100の作業デッキの第2領域に配置された実験器具品目の識別を実行する。
【0153】
段階405において、DPS100は、第1カメラ150を使用することによって第1画像300aを取得する。第1画像300aは、グレースケール画像であり、本発明の方法の第1実施形態を実行することによって取得される同義の画像と実質的に同一である。したがって、段階405を実行することによって取得される第1画像300aは、
図3a及び
図3cにおいて模式的に表される。特に、第1画像300aは、DPS100の作業デッキ370の上面図を表示する。作業デッキ370は、廃棄物容器350、及び、実験器具品目を配置する4の領域371-374を含む。
【0154】
段階410において、DPS100は、第2カメラ160を使用することによって第2画像300bを取得する。第2画像300bは、多色画像であり、本発明の方法の第1実施形態を実行することによって取得される同義の画像と実質的に同一である。したがって、段階410を実行することによって取得される第1画像300aは、
図3b及び
図3dにおいて模式的に表される。
【0155】
段階415において、DPS100は、第1位置情報を使用することによって第1画像300aにおける第1ROIを決定する。前述の情報は、識別される実験器具品目が、作業デッキ370の第2領域372に位置するものであることを指定する。第1ROIは、作業デッキ370の第2領域372を表示する第1画像300aの長方形領域である。
【0156】
第1ROIは、第1画像300aのピクセル、及び、第1位置情報を符号化する第1位置データを処理することによって第1ROI決定アルゴリズムを使用することによって取得される。例えば、第1ROI決定アルゴリズムは、第1カメラ150に関連する内部及び外部較正パラメータを使用して、作業デッキ370の第2領域372を表示する第1画像300aの長方形領域を検出する。
【0157】
段階420において、DPS100は、作業デッキ370に対する識別対象の実験器具品目の位置についての第3位置情報を取得する。前述の情報は、位置決定アルゴリズムを使用することによって生成される。前述のアルゴリズムは、第1ROIに含まれるピクセルの位置及び強度を含む位置決定入力データを処理する。
【0158】
位置決定アルゴリズムは、位置決定入力データを処理して、前述の高さアダプタのピンの少なくともいくつかを検出することによって第1ROIが高さアダプタを表示するかどうかを決定するANNを含む。
図3a又は
図3cに示されるように、第1ROIは、55mmの高さアダプタのピン331~335を表示する。したがって、ANNは、前述のピン331-335を検出し、第1ROIにおける位置の推定、及び、高さアダプタの高さの推定を提供する。特に、前述の高さは、55mmに等しいと推定される。
【0159】
位置決定アルゴリズムは、処理要素110によって実行されるとき、DPS100に、識別される実験器具品目の位置を推定することによって第3位置情報を取得させる命令を含む。前述の推定は、第1ROIにおけるピン331から335の位置を使用することによって実行される。特に、第3位置情報は、識別される実験器具品目が、第1画像330aの第3ROIに含まれることを指定する。
図3cにおいて、第3ROIは、点線の正方形399によって示される。第3位置情報はさらに、第1ROIにおいて表示される高さアダプタの推定される高さを指定する。
【0160】
段階425において、第1識別アルゴリズムは、識別アルゴリズムの第1プールの中から選択される。この選択は、第1画像300aにおける第1ROIの位置、及び、第3位置情報、特に、第1ROIに表示される高さアダプタの推定される高さに依存する。論述の目的で、推定される高さの高さアダプタ上に2つの実験器具品目のみ、すなわち、96MTPプレート、又は、フィルタを有する1000μlチップボックスが配置され得ると想定する。
【0161】
したがって、選択された識別アルゴリズムは、4個の孔を含むL字形孔パターン、及び/又は、2セットの英数字(第1のものはAからHの文字を描写する列を形成し、第2のものは1から12の番号を描写する行を形成する)を検出するためにマルチクラス分類を実行する信頼度重み付け分類器である。また、このアルゴリズムは、第1ROIに表示されるシーンに対してマルチクラス分類を実行する、例えば、作業デッキの第2領域372に配置される物体を分類するように最適化され得る。特に、第2光学的特徴を識別するとき、第1識別アルゴリズムは、とりわけ、第1カメラに対する第2領域372の位置に依存する画像の観点を考慮する。第1識別アルゴリズムはまた、典型的には作業デッキ370の第2領域372を特徴付ける照明条件を考慮し得る。
【0162】
段階430において、DPS100は、第1識別アルゴリズムを使用することによって第1光学的特徴を識別する。特に、第1識別アルゴリズムは、第3ROI399のピクセルの位置及び強度を含む第1入力データを処理する。前述のアルゴリズムは、第3ROI399が4個の孔を含むL字形孔パターン、又は、2セットの英数字(第1のものはAからHの文字を描写する列を形成し、第2のものは1から12の番号を描写する行を形成する)を表示するかどうかをチェックすることによって第1光学的特徴を識別する。
【0163】
第1識別アルゴリズムは、第1光学的特徴についての情報を含む第1識別データを出力として生成する。このケースにおいて、第1光学的特徴についての情報は、第3の指定された確率で、第3ROI399が2セットの英数字(第1セット321はAからHの文字を描写する列を形成し、第2セット323は1から12の番号を描写する行を形成する)を表示することを指定し得る。第1光学的特徴についての情報はさらに、第4の指定された確率で、第3ROI399が4個の孔を含むL字形孔パターンを表示しないことを指定し得る。さらに、第1光学的特徴についての第1情報は、第5の指定された確率で、第1光学的特徴が2セットの英数字(第1セット321は、AからHの文字を描写する列を形成し、第2セット323は、1から12の数を描写する行を形成する)から成ることを指定する。
【0164】
特に、第5の指定された確率は0.98に等しく、第1光学的特徴の識別の正確度についての要件が満たされていることを示す。このケースにおいて、第1光学的特徴についての第1情報は信頼できるが不確定である。特に、前述の情報は、実験器具品目320が96MTPプレートであること、すなわち、前述の品目が96MTPプレートのクラスに属することを結論付けることを可能にする。しかしながら、第1光学的特徴についての第1情報は、前述の実験器具品目にどの化合物が含まれているかを識別するのに十分でない。化合物を識別するべく、実験器具品目321の第2光学的特徴、すなわち色が識別される必要がある。
【0165】
したがって、本実施形態において、第1光学的特徴についての第1情報は、少なくとも更なる識別が必要であると指定する。したがって、段階435において、第1光学的特徴についての第1情報に従って、更なる識別が必要であり、したがって、段階445、450及び455が実行される必要があることが確立される。
【0166】
段階445において、DPS100は、識別アルゴリズムの第2プールの中から第2識別アルゴリズムを選択する。第2識別アルゴリズムの選択は、少なくとも第1光学的特徴についての第1情報に依存する。第1光学的特徴を含む実験器具品目の唯一のクラスは96MTPプレートのクラスなので、DPS100によって選択される第2識別アルゴリズムは、第3ROI399に表示される96MTPプレートの平均の色を識別する。
【0167】
段階450において、DPS100は、第2識別アルゴリズムを使用することによって、画像300bにおける第2光学的特徴を識別する。第2識別アルゴリズムは、第2画像300bのピクセルの位置及び強度を含む第2入力データ、及び、第3ROI399の位置を示す情報を処理する。例えば、第2識別アルゴリズムは、第1カメラ150及び第2カメラ160の内部及び外部パラメータを使用して、第1画像300aにおける第3ROI530の指定された位置を考慮して、第2画像300bにおける対応する第4ROIを推定し得る。
図3dにおいて、第4ROIは、鎖線の枠395によって示され、96MTPプレート320を表示する。
【0168】
第2識別アルゴリズムは、処理要素110によって実行されるとき、DPS100に、第4ROI395のピクセルの平均強度を計算させ、実験器具品目の色を識別させる命令を含む。特に、色識別は、平均強度が、黄色に関連する強度範囲内に、又は、緑色に関連する範囲内に収まるかどうかを評価することによって実行される。例えば、強度がRGB色モデルに関して表される場合、緑色に関連する強度範囲は、0から100の間に含まれる第1RGB値、200から255の第2含まれるRGB値、及び、0から100の間に含まれる第3RGB値を有する強度を含む。黄色に関連する強度範囲は、230から255の間に含まれる第1RGB値、230から255の間に含まれる第2RGB値、及び、0から100の間に含まれる第3RGB値を有する強度を含み得る。強度がRGB色モデルに関して表される場合、緑色に関連する強度範囲、及び/又は、黄色に関連する強度範囲はまた、HSV又はHSL表現を使用することによって表され得る。
【0169】
代替的に、又は、上と併せて、第2識別アルゴリズムは、第4ROI395のピクセルを処理して実験器具品目の色を識別するANN及び/又はSVMを含み得る。
【0170】
第2識別アルゴリズムは、第2光学的特徴についての情報を含む第2識別データを出力として生成する。第4ROI395は黄色96MTPプレート320を表示するので、第2光学的特徴についての情報は、第6の指定された確率で、第4ROI395に表示される実験器具品目の色が黄色であることを指定する。
【0171】
段階4550において、実験器具品目は、第1光学的特徴321、323及び第2光学的特徴についての第1情報を使用することによって識別される。より具体的には、DPS100は、入力データを処理する第2実験機器識別アルゴリズムを実行し、第2実験機器識別データを生成する。例えば、このケースにおいて、第2実験機器識別アルゴリズムの入力データは、第1光学的特徴341についての第1情報、及び、第2光学的特徴についての情報において符号化される情報を含む。
【0172】
特に、第2実験機器識別アルゴリズムは決定木である。本実施形態において、第2実験機器識別データは、作業デッキ370の第2領域372に位置する実験器具品目が、55mmの高さアダプタ331から335上に配置されている黄色の96MTPプレート320であること、及び、96MTPプレート320のウェルが第2化合物を含むことを指定し得る。
【0173】
段階430において、第1光学的特徴がL字形孔パターンであることを指定する第1識別データを第1識別アルゴリズムが生成する場合、段階445、450及び455ではなく段階440が実行される。このケースにおいて実験器具品目は、L字形孔パターンを含む唯一の実験器具品目である、フィルタを有する1000μlチップボックスであると識別される。
【0174】
既に明示的に記述されていない場合は常に、図面に関連して記述される個別の実施形態、又は、それらの個別の態様及び特徴は、本発明の意味において組み合わせ又は交換に意味がある場合は常に、記述された発明の範囲を限定する、又は、広げることなく、互いに組み合わされ、又は、交換され得る。本発明の特定の実施形態に関して、又は、特定の図に関して記述される利点はまた、該当する場合は常に、本発明の他の実施形態の利点でもある。
【国際調査報告】