(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-02-17
(45)【発行日】2023-02-28
(54)【発明の名称】サンガーシーケンシングの深層ベースコーラ
(51)【国際特許分類】
G06N 3/0442 20230101AFI20230220BHJP
G06N 3/08 20230101ALI20230220BHJP
C12M 1/34 20060101ALI20230220BHJP
C12Q 1/6869 20180101ALI20230220BHJP
【ＦＩ】
G06N3/0442
G06N3/08
C12M1/34 Z
C12Q1/6869 Z
【請求項の数】
17
(21)【出願番号】P 2021533298
(86)(22)【出願日】2019-12-10
(65)【公表番号】
(43)【公表日】2022-02-02
(86)【国際出願番号】 US2019065540
(87)【国際公開番号】W WO2020123552
(87)【国際公開日】2020-06-18
【審査請求日】2021-08-06
(31)【優先権主張番号】62/777,429
(32)【優先日】2018-12-10
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】502221282
【氏名又は名称】ライフ テクノロジーズ コーポレーション
(74)【代理人】
【識別番号】100094569
【弁理士】
【氏名又は名称】田中 伸一郎
(74)【代理人】
【識別番号】100103610
【弁理士】
【氏名又は名称】▲吉▼田 和彦
(74)【代理人】
【識別番号】100109070
【弁理士】
【氏名又は名称】須田 洋之
(74)【代理人】
【識別番号】100098475
【弁理士】
【氏名又は名称】倉澤 伊知郎
(74)【代理人】
【識別番号】100130937
【弁理士】
【氏名又は名称】山本 泰史
(74)【代理人】
【識別番号】100144451
【弁理士】
【氏名又は名称】鈴木 博子
(74)【代理人】
【識別番号】100123630
【弁理士】
【氏名又は名称】渡邊 誠
(72)【発明者】
【氏名】チュ ヨン
(72)【発明者】
【氏名】シュナイダー ステファニー
(72)【発明者】
【氏名】シェイファー ライラン
(72)【発明者】
【氏名】ウー デヴィッド
【審査官】杉浦 孝光
(56)【参考文献】
【文献】特許第５４０８３８０（ＪＰ，Ｂ１）
【文献】TENG, Haotian, et al.，"Chiron: translating nanopore raw signal directly into nucleotide sequence using deep learning"，GIGASCIENCE，英国，2018年04月10日，Vol. 7, issue. 5，pp.1-9，[online] [検索日：2022.06.28] <URL: https://academic.oup.com/gigascience/article/7/5/giy037/4966989>
【文献】MOHAMMED, Omniyah G., et al.，"Novel algorithms for accurate DNA base-calling"，JOURNAL OF BIOMEDICAL SCIENCE AND ENGINEERING，米国，2013年02月，vol.6, no.2，pp.165-174，[online] [検索日：2022.06.28] <URL: https://www.scirp.org/journal/paperinformation.aspx?paperid=28309>
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｎ ３／００－９９／００
Ｃ１２Ｍ １／００－ ３／１０
Ｃ１２Ｑ １／００－ ３／００
(57)【特許請求の範囲】
【請求項1】
ニューラルネットワーク制御システムであって、サンガーシーケンサに結合され、生体サンプルのトレースを生成するトレースジェネレータと、
前記トレースをスキャンウィンドウに分割するセグメンタと、
前記スキャンウィンドウをシフトするアライナと、
トレーニングで使用する標的の注釈付きベースコールを生成するために、前記スキャンウィンドウの各々に関連付けられた注釈付きベースコールを判定するロジックと、
双方向回帰型ニューラルネットワーク（ＢＲＮＮ）であって、
少なくとも１つの長・短期記憶（ＬＳＴＭ）または一般的な回帰型ユニット（ＧＲＵ）層と、
スキャンウィンドウ内のすべてのスキャンのスキャン標識確率を出力するように構成された出力層と、
前記出力スキャン標識確率と前記標的の注釈付きベースコールとの間の損失を計算するＣＴＣ損失関数と、を含む、双方向回帰型ニューラルネットワーク（ＢＲＮＮ）と、
前記ＢＲＮＮへの閉ループフィードバック制御として、前記ＢＲＮＮの重みを更新して、各トレーニングステップで前記標的の注釈付きベースコールからランダムに選択されたトレーニングサンプルのミニバッチに対する損失を最小化するように構成された勾配降下オプティマイザと、
前記トレースにノイズ、スパイク、又は色素ブロブアーティファクトを注入するように構成された、少なくとも１つの敵対的生成ネットワークと、を含む、システム。
【請求項2】
２５０スキャンずつシフトした５００スキャンを含む、前記スキャンウィンドウの各々をさらに含む、請求項１に記載のシステム。
【請求項3】
トレース全体の標識確率を生成するために、すべてのスキャンウィンドウの前記標識確率を集めるアグリゲータをさらに含む、請求項１に記載のシステム。
【請求項4】
前記ＣＴＣ損失関数と前記ベースコールの出力に基づいて、前記ベースコールのスキャン位置を識別する最大ファインダアルゴリズムをさらに含む、請求項３に記載のシステム。
【請求項5】
前記トレース全体の前記標識確率を前記生体サンプルのベースコールに変換するプレフィックスビーム検索デコーダをさらに含む、請求項３に記載のシステム。
【請求項6】
前記ベースコールが前記生体サンプルの５’および３’末端にある、請求項５に記載のシステム。
【請求項7】
前記トレースが、生の色素ＲＦＵのシーケンスである、請求項１に記載のシステム。
【請求項8】
前記トレースが、１つ以上のキャピラリ電気泳動遺伝子解析装置から収集された生のスペクトルデータである、請求項１に記載のシステム。
【請求項9】
プロセス制御方法であって、生体サンプルのトレースを生成するために、サンガーシーケンサを操作することと、
前記トレースをスキャンウィンドウに分割することと、
前記スキャンウィンドウをシフトすることと、
標的の注釈付きベースコールを生成するために、前記スキャンウィンドウの各々に関連付けられた注釈付きベースコールを判定することと、
前記スキャンウィンドウを双方向回帰型ニューラルネットワーク（ＢＲＮＮ）に入力することであって、双方向回帰型ニューラルネットワーク（ＢＲＮＮ）が、
少なくとも１つの長・短期記憶（ＬＳＴＭ）または一般的な回帰型ユニット（ＧＲＵ）層と、
スキャンウィンドウ内のすべてのスキャンのスキャン標識確率を出力するように構成された出力層と、
前記出力スキャン標識確率と前記標的の注釈付きベースコールとの間の損失を計算するＣＴＣ損失関数と、
１つ以上のノイズ、スパイク、または色素ブロブアーティファクトを前記トレースに注入するように構成された、少なくとも１つの敵対的生成ネットワークと、
を含む、入力することと、
前記ＢＲＮＮへの閉ループフィードバック制御として、前記ＢＲＮＮの重みを更新して、各トレーニングステップで前記標的の注釈付きベースコールからランダムに選択されたトレーニングサンプルのミニバッチに対する損失を最小化するように構成された勾配降下オプティマイザを介して、前記損失を適用することと、を含む、方法。
【請求項10】
２５０スキャンずつシフトした５００スキャンを含む、前記スキャンウィンドウの各々をさらに含む、請求項９に記載の方法。
【請求項11】
前記トレース全体の標識確率を生成するために、すべてのスキャンウィンドウの前記標識確率を集めることをさらに含む、請求項９に記載の方法。
【請求項12】
前記ＣＴＣ損失関数と前記ベースコールの出力に基づいて、前記ベースコールのスキャン位置を識別することをさらに含む、請求項１１に記載の方法。
【請求項13】
前記トレース全体の前記標識確率を前記生体サンプルのベースコールにデコードすることをさらに含む、請求項１１に記載の方法。
【請求項14】
前記ベースコールが前記生体サンプルの５’および３’末端にある、請求項１３に記載の方法。
【請求項15】
前記トレースが、生の色素ＲＦＵの１つのシーケンスまたは１つ以上のキャピラリ電気泳動遺伝子解析装置から収集された生のスペクトルデータである、請求項９に記載の方法。
【請求項16】
シーケンシングベースコールのシーケンスの品質評価方法であって、複数のサンプルのスキャン標識確率、ベースコール、およびスキャン位置を受信することと、
前記複数のサンプル内の各サンプルに対する各ベースコールの中心スキャン位置の周りの前記スキャン標識確率を使用して、前記複数のサンプルに基づいて複数のトレーニングサンプルを生成することと、
前記複数のトレーニングサンプルの各サンプルの各ベースコールにカテゴリを割り当てることであって、前記カテゴリが、正確であるか不正確であるかのいずれかに対応し、
複数の反復の各々について：
ｉ）前記複数のトレーニングサンプルのサブセットをランダムに選択すること、
ｉｉ）ニューラルネットワークによって、前記複数のトレーニングサンプルの前記選択されたサブセットを受信することであって、前記ニューラルネットワークが、
１つ以上の隠れ層と、
出力層と、
複数のネットワーク要素であって、各ネットワーク要素が重みに関連付けられている、複数のネットワーク要素と、を含む、受信すること、
ｉｉｉ）前記出力層によって、仮説関数を使用して前記スキャン標識確率に基づいて予測されたエラー確率を出力すること、
ｉｖ）前記複数のトレーニングサンプルの前記サブセットの各サンプルの各ベースコールについて、前記予測されたエラー確率と割前記割り当てられたカテゴリとの間の損失を計算すること、
ｖ）ネットワークオプティマイザを使用して、前記複数のトレーニングサンプルの前記選択されたサブセットに対する前記損失を最小化するために、前記複数のネットワーク要素の前記重みを更新すること、
ｖｉ）前記ニューラルネットワークをトレーニングされたネットワークとして複数のトレーニングされたネットワークに記憶すること、および
ｖｉｉ）所定数のトレーニングステップに達する、または、検証の損失もしくはエラーがこれ以上改善することができなくなるまで、ステップｉ）に戻ること、を行う、割り当てることと、
前記トレーニングサンプルの選択されたサブセットに含まれなかった複数のサンプルの独立したサブセットを使用して、前記複数のトレーニングされたネットワーク内の各トレーニングされたネットワークの評価損失またはエラー率を計算することと、
前記複数のトレーニングされたネットワークから最良のトレーニングされたネットワークを選択することであって、前記最良のトレーニングされたネットワークが最小の評価損失またはエラー率を有する、選択することと、を含む、方法。
【請求項17】
入力サンプルのベースコール位置の周りのスキャン標識確率を受信することと、前記入力サンプルのベースコール位置の周りの前記スキャン標識確率を前記選択されたトレーニングされたネットワークに提供することによって、前記入力サンプルのエラー確率を出力することと、
前記出力されたエラー確率に基づいて複数の品質スコアを判定することと、
前記複数の品質スコアを出力することと、をさらに含む、請求項１６に記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、概して、ベースコーリングのためのシステム、デバイス、および方法に関し、より具体的には、サンガーシーケンシング解析において深層機械学習を使用するベースコーリングのためのシステム、デバイス、および方法に関する。
【背景技術】
【0002】
キャピラリ電気泳動（ＣＥ）遺伝子解析装置を使用したサンガーシーケンシングは、ゴールドスタンダードＤＮＡシーケンシングテクノロジであり、高度な精度、長時間読み取り機能、および多くの研究分野での多様なアプリケーションをサポートする柔軟性を提供する。ＣＥ遺伝子解析装置上のサンガーシーケンシングのベースコールおよび品質値（ＱＶ）の精度は、シーケンシングプロジェクトを成功させるために不可欠である。従来のベースコーラは、シーケンシングプラットフォームおよびアプリケーションをサポートする完全な統合ベースコーリングソリューションを提供するために開発された。これは、もともと長いプラスミドクローン（純粋な塩基）をベースコールするように設計されており、その後、変異体の識別をサポートするためにベースコール混合塩基データに拡張された。
【0003】
しかしながら、明らかな混合塩基は、予測ＱＶが高くても純粋塩基と呼ばれることがあり、純粋塩基が誤って混合塩基と呼ばれる偽陽性もまた、色素ブロブなどのシーケンシングアーティファクト、ポリメラーゼスリッページおよびプライマの不純物によるｎ－１ピーク、移動度シフトなどによっても比較的頻繁に発生する。明らかに、一塩基多型（ＳＮＰ）およびヘテロ接合挿入欠失変異体（ｈｅｔインデル）などの変異体を識別するためのシーケンシングアプリケーションをサポートするために、混合塩基のベースコーリングおよびＱＶ精度を改善する必要がある。５’および３’末端での従来のベースコーラのベースコーリングの精度も、移動度シフトならびに５’および３’末端での低分解能のため、比較的低くなる。従来のベースコーラはまた、長さが１５０塩基対（ｂｐｓ）よりも短い、特に１００ｂｐｓよりも短いアンプリコンをベースコールするのに苦労し、平均ピーク間隔、平均ピーク幅、間隔曲線、および／または幅曲線を推定できず、エラー率が増加する場合がある。
【0004】
したがって、混合塩基ならびに５’および３’末端のベースコーリング精度の改善は非常に望ましく、その結果、ベースコーリングアルゴリズムはサンガーシーケンシングデータの忠実度を高め、変異体の識別を改善し、読み取り長を増加させ、また、シーケンシングアプリケーションのシーケンシングコストを節約できる。
【0005】
キャピラリ電気泳動の変性は、当業者に周知である。概観すると、核酸サンプルはキャピラリの入口末端でキャピラリ内の変性分離媒体に注入され、キャピラリの末端に電界が印加される。サンプル、例えば、ポリメラーゼ連鎖反応（ＰＣＲ）混合物または他のサンプル中の異なる核酸成分は、それらの電気泳動特性の違いにより、異なる速度で検出器ポイントに移動する。その結果、それらは異なる時間に検出器（通常は紫外線（ＵＶ）または蛍光検出器）に到達する。結果は一連の検出されたピークとして表示され、各ピークは、理想的にはサンプルの１つの核酸成分または種を表す。ピーク面積および／またはピーク高さは、混合物中の成分の初期濃度を示す。
【0006】
アーティファクトピークを含む任意の所与のピークの大きさは、ほとんどの場合、核酸、例えば、ＤＮＡによるＵＶ吸収、または核酸に関連付けられた１つ以上の標識からの蛍光発光のいずれかに基づいて光学的に判定される。核酸ＣＥ検出に適用可能なＵＶおよび蛍光検出器は、当技術分野で周知である。
【0007】
ＣＥキャピラリ自体は石英であることが多いが、当業者に既知である他の材料を使用することもできる。単一および複数のキャピラリ機能の両方を有するいくつかのＣＥシステムが市販されている。本明細書に記載の方法は、核酸サンプルのＣＥを変性するための任意のデバイスまたはシステムに適用可能である。
【0008】
電荷対摩擦抵抗比は、遊離溶液中の異なるサイズのポリヌクレオチドで同じであるため、電気泳動分離にはふるい（すなわち、分離）媒体の存在が必要である。適用可能なＣＥ分離マトリックスは、核酸ＣＥの変性に必要な変性剤の存在に適合し、その一般的な例は８Ｍ尿素である。
【発明の概要】
【0009】
システムおよび方法は、ベースコーリングアプリケーションにおける、例えば、マイクロ流体分離（ガラス、シリコンまたは他の基板にエッチングされたマイクロチャネルを通じて分離が行われる）、または単一もしくは複数の円筒形のキャピラリチューブを使用するキャピラリ電気泳動による分離に基づいたベースコーリングシステムにおける使用について説明される。
【0010】
任意の特定の要素または行為の考察を容易に識別するために、参照番号における最上位桁（複数可）は、その要素が最初に導入された、図の番号を指す。
【図面の簡単な説明】
【0011】
【図1】一実施形態による、ＣＥデバイス１００を示す。
【図2】一実施形態による、ＣＥシステム２００を示す。
【図3】一実施形態による、ＣＥプロセス３００を示す。
【図4】一実施形態による、ＣＥプロセス４００を示す。
【図5】一実施形態による、基本的な深層ニューラルネットワーク５００を示す。
【図6】一実施形態による、人工ニューロン６００を示す。
【図7】一実施形態による、回帰型ニューラルネットワーク７００を示す。
【図8】一実施形態による、双方向回帰型ニューラルネットワーク８００を示す。
【図9】一実施形態による、長・短期記憶９００を示す。
【図10】一実施形態による、ベースコーラシステム１０００を示す。
【図11】一実施形態による、スキャン標識モデルトレーニング方法１１００を示す。
【図12】一実施形態による、ＱＶモデルトレーニング方法１２００を示す。
【図13】本発明の実施形態を組み込むことができるコンピューティングデバイス１３００の例示的なブロック図である。
【発明を実施するための形態】
【0012】
本明細書で使用される用語は、特に明示的にまたは文脈によって示されない限り、当技術分野のその通常の意味と一致するべきである。
【0013】
この文脈での「品質値」は、所与のベースコールがエラーになる可能性の推定（または予測）を指す。通常、品質値はＰｈｒｅｄプログラムによって確立された規則に従ってスケーリングされ、ＱＶ＝－１０ｌｏｇ１０（Ｐｅ）であり、Ｐｅはコールがエラーである推定確率を表す。品質値は、ベースコーリングアルゴリズムおよびコンセンサスコーリングアルゴリズムの確実性の尺度である。値が大きいほど、アルゴリズムエラーの可能性が低くなる。サンプル品質値は、サンプルのべースごとの品質値を指し、コンセンサス品質値はコンセンサスごとの品質値である。
【0014】
この文脈での「シグモイド関数」は、ｆ（ｘ）＝１／（ｅｘｐ（－ｘ））の形態の関数を指す。シグモイド関数は、人工ニューラルネットワークにおける活性化関数として使用される。広範囲の入力値を０～１、場合によっては－１～１の範囲にマッピングする特性がある。
【0015】
この文脈における「キャピラリ電気泳動遺伝子解析装置」は、サンプルがロードされたキャピラリに電界を印加して、負に帯電したＤＮＡフラグメントが正電極に向かって移動するようにする機器を指す。ＤＮＡフラグメントが媒体を移動する速度は、その分子量に反比例する。電気泳動のこのプロセスは、１塩基の分解能でサイズによって伸長産物を分離することができる。
【0016】
この文脈における「画像信号」は、データ実行中に塩基を同定するために使用される色素の１つからの蛍光の強度の読み取りを指す。信号強度の数値は、サンプルファイルの注釈ビューに表示される。
【0017】
この文脈における「例示的な市販のＣＥデバイス」は、とりわけ、Ａｐｐｌｉｅｄ Ｂｉｏｓｙｓｔｅｍｓ，Ｉｎｃ．（ＡＢＩ）の遺伝子解析装置モデル３１０（単一キャピラリ）、３１３０（４キャピラリ）、３１３０ｘＬ（１６キャピラリ）、３５００（８キャピラリ）、３５００ｘＬ（２４キャピラリ）、３７３０（４８キャピラリ）、および３７３０ｘＬ（９６キャピラリ）、Ａｇｉｌｅｎｔ７１００デバイス、Ｐｒｉｎｃｅ Ｔｅｃｈｎｏｌｏｇｉｅｓ，Ｉｎｃ．のＰｒｉｎＣＥ（商標）キャピラリ電気泳動システム、Ｌｕｍｅｘ，Ｉｎｃ．のＣａｐｅｌ－１０５（商標）ＣＥシステム、ならびにＢｅｃｋｍａｎ ＣｏｕｌｔｅｒのＰ／ＡＣＥ（商標）ＭＤＱシステムを含む。
【0018】
この文脈における「塩基対」は、ＤＮＡシーケンス中の相補的ヌクレオチドを指す。チミン（Ｔ）は、アデニン（Ａ）と相補的であり、グアニン（Ｇ）は、シトシン（Ｃ）と相補的である。
【0019】
この文脈における「ＲｅＬＵ」は、ｉｎｔ入力の正の部分として定義された活性化関数である整流関数を指す。これは、ランプ関数としても既知であり、電気信号理論の半波整流に類似している。ＲｅＬＵは、深層ニューラルネットワークにおける一般的な活性化関数である。
【0020】
この文脈における「ヘテロ接合体挿入欠失変異体」は、一塩基多型を指す。
【0021】
この文脈における「移動度シフト」は、異なる標識反応伸長産物に関連付けられた異なる蛍光色素分子の存在によって課せられる電気泳動移動度の変化を指す。
【0022】
この文脈における「変異体」は、コンセンサスシーケンスが、提供される参照シーケンスと異なる塩基を指す。
【0023】
この文脈における「ポリメラーゼスリッページ」は、ＤＮＡ複製中にトリヌクレオチドまたはジヌクレオチドの拡張または収縮のいずれかをもたらす突然変異の形態を指す。スリッページイベントは、通常、反復ヌクレオチドのシーケンス（タンデムリピート）が複製部位で見つかったときに発生する。タンデムリピートは、ヌクレオチドの挿入および欠失が頻繁に起こり得るゲノムの不安定な領域である。
【0024】
この文脈における「アンプリコン」は、ＰＣＲ反応の生成物を指す。通常、アンプリコンはＤＮＡの短い断片である。
【0025】
この文脈における「ベースコール」は、蛍光信号の各ピーク（Ａ、Ｃ、Ｇ、Ｔ、またはＮ）にヌクレオチド塩基を割り当てることを指す。
【0026】
この文脈における「生データ」は、４つの蛍光色素の各々について収集された蛍光強度（信号）を表示する多色グラフを指す。
【0027】
この文脈での「ベース間隔」は、１つのピークから次のピークまでのデータポイントの数を指す。負の間隔値または赤で表示された間隔値は、サンプルおよび／または解析パラメータに問題があることを示している。
【0028】
この文脈における「分離またはふるい媒体」は、ゲルを含むことを指すが、線状ポリアクリルアミド、ヒドロキシアルキルセルロース（ＨＥＣ）、アガロース、および酢酸セルロースなどの非ゲル液体ポリマーも使用することができる。キャピラリ電気泳動に使用することができる他の分離媒体には、とりわけ、ポリ（Ｎ，Ｎ’－ジメチルアクリルアミド）（ＰＤＭＡ）、ポリエチレングリコール（ＰＥＧ）、ポリ（ビニルピロリドン）（ＰＶＰ）、ポリエチレンオキシド、多糖類、およびプルロニック（登録商標）ポリオールなどの水溶性ポリマー、各種ポリビニルアルコール（ＰＶＡＬ）系ポリマー、ポリエーテル水混合物、リオトロピックポリマー液晶が含まれるが、これらに限定されない。
【0029】
この文脈における「Ａｄａｍオプティマイザ」は、古典的な確率的勾配降下法の代わりに使用できる最適化アルゴリズムを指し、トレーニングデータに基づいてネットワークの重みを反復的に更新する。確率的勾配降下法は、すべての重みの更新に対して単一の学習率（アルファと呼ばれる）を維持し、学習率はトレーニング中に変化しない。学習率は、ネットワークの重み（パラメータ）ごとに維持され、学習が進むにつれて個別に適応される。Ａｄａｍは、確率的勾配降下法の他の２つの拡張の利点を組み合わせている。具体的には、スパース勾配の問題（例えば、自然言語およびコンピュータビジョンの問題）に対するパフォーマンスを改善させるパラメータごとの学習率を維持する適応勾配アルゴリズム（ＡｄａＧｒａｄ）、および、これも重みの勾配の最近の大きさの平均（例えば、それがどれだけ速く変化しているか）に基づいて適応されるパラメータごとの学習率を維持する二乗平均平根伝搬（ＲＭＳＰｒｏｐ）である。これは、アルゴリズムがオンラインおよび非定常の問題（例えば、ノイズ）に対してうまく機能することを意味する。Ａｄａｍは、ＡｄａＧｒａｄとＲＭＳＰｒｏｐの両方の利点を認識している。Ａｄａｍは、ＲＭＳＰｒｏｐのように平均一次モーメント（平均）に基づいてパラメータ学習率を適応させる代わりに、勾配の二次モーメントの平均（中心のない分散）も利用する。具体的には、アルゴリズムは勾配と二乗勾配の指数移動平均を計算し、パラメータのベータ１およびベータ２はこれらの移動平均の減衰率を制御する。移動平均の初期値と、１．０（推奨）に近いベータ１およびベータ２の値により、モーメント推定値がゼロに向かってバイアスされる。このバイアスは、最初にバイアスされた推定値を計算してから、バイアス補正された推定値を計算することによって克服される。
【0030】
この文脈における「双曲線正接関数」は、ｔａｎｈ（ｘ）＝ｓｉｎｈ（ｘ）／ｃｏｓｈ（ｘ）の形態の関数を指す。ｔａｎｈ関数は、人工ニューラルネットワークにおける一般的な活性化関数である。シグモイドと同様に、ｔａｎｈ関数もシグモイド（「ｓ」字型）であるが、代わりに（－１，１）の範囲の値を出力する。したがって、ｔａｎｈへの強い負の入力は、負の出力にマッピングされる。追加的に、ゼロ値の入力のみがゼロに近い出力にマッピングされる。これらの特性により、トレーニング中にネットワークが「スタック」する可能性が低くなる。
【0031】
この文脈における「相対蛍光単位」は、ＤＮＡ解析などの電気泳動法における測定を指す。「相対蛍光単位」は、蛍光検出を用いる解析に使用される測定単位である。
【0032】
この文脈における「ＣＴＣ損失関数」は、タイミングが可変であるシーケンスの問題に取り組むためにＬＳＴＭネットワークなどの回帰型ニューラルネットワーク（ＲＮＮ）をトレーニングするための、コネクショニスト時間分類、ニューラルネットワーク出力のタイプ、および関連付けられたスコアリング関数を指す。ＣＴＣネットワークには連続出力（例えば、Ｓｏｆｔｍａｘ）があり、標識の確率をモデル化するためのトレーニングを通じて適合される。ＣＴＣは、境界およびタイミングの学習を試みない。標識シーケンスは、空白を無視して、配置のみが異なる場合、同等であると見なされる。同等の標識シーケンスは様々な方法で発生する可能性があり、これにより、スコアリングは重要なタスクになる。幸いなことに、そのための効率的な順方向および逆方向アルゴリズムがある。次に、ＣＴＣスコアをバックプロパゲーションアルゴリズムとともに使用して、ニューラルネットワークの重みを更新できる。ＣＴＣに適合したニューラルネットワークへの代替的なアプローチには、隠れマルコフモデル（ＨＭＭ）が含まれる。
【0033】
この文脈における「ポリメラーゼ」は、重合を触媒する酵素を指す。ＤＮＡおよびＲＮＡポリメラーゼは、別の一本鎖ＤＮＡまたはＲＮＡをテンプレートとして使用して、遊離ヌクレオチドから一本鎖ＤＮＡまたはＲＮＡを（それぞれ）構築する。
【0034】
この文脈での「サンプルデータ」は、シーケンシング機器の単一レーンまたはキャピラリの出力を指す。サンプルデータは、Ｓｅｑｕｅｎｃｉｎｇ Ａｎａｌｙｓｉｓ、ＳｅｑＳｃａｐｅ、および他のシーケンシング解析ソフトウェアに入力される。
【0035】
この文脈における「プラスミド」は、染色体とは独立して複製できる細胞内の遺伝子構造、典型的には細菌または原生動物の細胞質内の小さな環状ＤＮＡ鎖を指す。プラスミドは、実験室での遺伝子操作によく使用される。
【0036】
この文脈における「ビーム検索」は、限られたセットの中で最も有望なノードを展開することによってグラフを探索するヒューリスティック検索アルゴリズムを指す。ビーム検索は、メモリ要件を削減する最良優先探索の最適化である。最良優先探索は、何らかのヒューリスティックに従ってすべての部分解（状態）を順序付けるグラフ検索である。ただし、ビーム検索では、所定数の最良の部分解のみが候補として保持される。したがって、これは欲張り法である。ビーム検索では、幅優先探索を使用して検索ツリーを構築する。ツリーの各レベルで、現在のレベルの状態のすべての後続を生成し、ヒューリスティックコストの昇順で並べ替える。しかしながら、各レベル（ビーム幅と呼ばれる）で最良な状態の所定数βのみが記憶される。次に、それらの状態のみが展開される。ビーム幅が大きいほど、プルーニングされる状態は少なくなる。ビーム幅が無限大の場合、状態はプルーニングされず、ビーム検索は幅優先探索と同じである。ビーム幅は、検索の実施に必要なメモリを制限する。ゴール状態は潜在的にプルーニングされる可能性があるため、ビーム検索は完全性（解が存在する場合、アルゴリズムが解をもって終了するという保証）を犠牲にする。ビーム検索は最適ではない（すなわち、最良な解が見出される保証はない）。一般に、ビーム検索は最初に見出された解を返す。機械翻訳のビーム検索は異なるケースである。構成された最大検索深度（つまり、翻訳長）に達すると、アルゴリズムは様々な深度で検索中に見出された解を評価し、最良のもの（最も確率が高いもの）を返す。ビーム幅は固定または可変のいずれかであり得る。可変ビーム幅を使用する１つのアプローチは、最小の幅から始まる。解が見出されない場合は、ビームが広げられ、手順が繰り返される。
【0037】
この文脈における「サンガーシーケンサ」は、ＤＮＡポリメラーゼの能力を利用して、ホスホジエステル結合形成に不可欠な３’－ヒドロキシル基を欠く２’，３’－ジデオキシヌクレオチド－ヌクレオチド塩基類似体を組み込むＤＮＡシーケンシングプロセスを指す。サンガージデオキシシーケンシングには、ＤＮＡテンプレート、シーケンシングプライマ、ＤＮＡポリメラーゼ、デオキシヌクレオチド（ｄＮＴＰ）、ジデオキシヌクレオチド（ｄｄＮＴＰ）、および反応バッファが必要である。４つの別々の反応が設定され、それぞれが放射性標識ヌクレオチド、ｄｄＡ、ｄｄＣ、ｄｄＧ、またはｄｄＴのいずれかを含む。アニーリング、標識、および終端ステップは、個別のヒートブロックで実行される。ＤＮＡ合成は、ＤＮＡポリメラーゼが最適な酵素活性を有する温度である３７°Ｃで行われる。ＤＮＡポリメラーゼは、鎖伸長の各ステップでデオキシヌクレオチドまたは対応する２’，３’－ジデオキシヌクレオチドを付加する。デオキシヌクレオチドまたはジデオキシヌクレオチドのどちらを追加するかは、両方の分子の相対濃度に依存する。デオキシヌクレオチド（Ａ、Ｃ、Ｇ、またはＴ）が３’末端に付加されると、鎖伸長が継続できる。しかしながら、ジデオキシヌクレオチド（ｄｄＡ、ｄｄＣ、ｄｄＧ、またはｄｄＴ）が３’末端に付加されると、キャピラリによる鎖伸長４ＤＮＡシーケンシングが終了する。サンガージデオキシシーケンシングの結果、３’末端がジデオキシヌクレオチドで終わる様々な長さの伸長産物が形成される。
【0038】
この文脈における「一塩基多型」は、ＤＮＡシーケンスにおける単一の塩基対における変異を指す。
【0039】
この文脈における「混合塩基」は、２、３、または４塩基を含む１塩基の位置を指す。これらの塩基には、適切なＩＵＢコードが割り当てられる。
【0040】
この文脈における「Ｓｏｆｔｍａｘ関数」は、ｆ（ｘｉ）＝ｅｘｐ（ｘｉ）／ｓｕｍ（ｅｘｐ（ｘ））の形態の関数を指し、合計はｘのセットに対して取得される。Ｓｏｆｔｍａｘは、人工ニューラルネットワークの異なる層（多くの場合、出力層）で使用され、それらの層への入力の分類を予測する。Ｓｏｆｔｍａｘ関数は、「ｎ」個の異なるイベントにわたるイベントｘｉの確率分布を計算する。一般的な意味で、この関数は、考えられるすべての標的クラスに対する各標的クラスの確率を計算する。計算された確率は、標的クラスが入力で表されていることを予測するのに役立つ。Ｓｏｆｔｍａｘを使用する主な利点は、出力確率の範囲である。範囲は０から１になり、すべての確率の合計は１に等しくなる。複数分類モデルに使用されるＳｏｆｔｍａｘ関数の場合、各クラスの確率が返され、標的クラスの確率が高くなる。この式は、所与の入力値の指数（ｅ－ｐｏｗｅｒ）、および入力内のすべての値の指数値の合計を計算する。次に、入力値の指数関数と指数値の合計の比率がＳｏｆｔｍａｘ関数の出力になる。
【0041】
この文脈における「ノイズ」は、各色素の平均バックグラウンド蛍光強度を指す。
【0042】
「バックプロパゲーション」は、人工ニューラルネットワークで使用されるアルゴリズムを指し、ネットワークで使用される重みの計算に必要な勾配を計算する。これは一般に、２つ以上の隠れ層を有するニューラルネットワークを指す用語である深層ニューラルネットワークをトレーニングするために使用される。バックプロパゲーションの場合、損失関数は、ケースがネットワークを介して伝播した後、ネットワーク出力とその予期される出力との間の差を計算する。
【0043】
この文脈での「デキュー最大ファインダ」は、両端キューを利用して最大値を判定するアルゴリズムを指す。
【0044】
「ゲート付き回帰型ユニット（ＧＲＵ）」は、回帰型ニューラルネットワークのゲート機構を指す。ＧＲＵは、ＬＳＴＭよりも小さいデータセットに対して優れたパフォーマンスを示す場合がある。出力ゲートがないため、ＬＳＴＭよりもパラメータが少なくなる。ｈｔｔｐｓ：／／ｅｎ．ｗｉｋｉｐｅｄｉａ．ｏｒｇ／ｗｉｋｉ／Ｇａｔｅｄ＿ｒｅｃｕｒｒｅｎｔ＿ｕｎｉｔを参照されたい。
【0045】
この文脈での「純粋塩基」は、ベースコーラが変数の代わりに位置にＡ、Ｃ、Ｇ、およびＴを判定する、ベースコーラの割り当てモードを指す。
【0046】
この文脈における「プライマ」は、ＰＣＲ反応においてＤＮＡポリメラーゼのプライミング部位として機能するＤＮＡの短い一本鎖を指す。
【0047】
この文脈での「損失関数」は、コスト関数またはエラー関数（ガウスエラー関数と混同しないように）とも称され、１つ以上の変数の値をそれらの値に関連付けられた何らかの「コスト」を直感的に表す実数にマッピングする関数である。
【0048】
図１を参照すると、一実施形態におけるＣＥデバイス１００は、電圧バイアス源１０２、キャピラリ１０４、本体１１４、検出器１０６、サンプル注入ポート１０８、ヒーター１１０、および分離媒体１１２を含む。サンプルは、ヒーター１１０によって周囲より高い温度に維持されたサンプル注入ポート１０８に注入される。注入されると、サンプルは分離媒体１１２と係合し、成分分子に分割される。成分は、電圧バイアス源１０２によって確立された電界の影響下でキャピラリ１０４を通って移動し、検出器１０６に到達する。
【0049】
図２を参照すると、一実施形態におけるＣＥシステム２００は、最初は蛍光標識サンプル２２０を含むソースバッファ２１８、キャピラリ２２２、宛先バッファ２２６、電源２２８、プロセッサ２０８を含むコンピューティングデバイス２０２、ベースコーラアルゴリズム２０４を含むメモリ２０６、および制御装置２１２を含む。ソースバッファ２１８は、キャピラリ２２２を介して、宛先バッファ２２６と流体連通している。電源２２８は、ソースバッファ２１８および宛先バッファ２２６に電圧を印加し、ソースバッファ２１８のアノード２３０および宛先バッファ２２６のカソード２３２を介して電圧バイアスを生成する。電源２２８によって印加される電圧は、コンピューティングデバイス２０２によって操作される制御装置２１２によって構成される。ソースバッファ２１８の近くの蛍光標識サンプル２２０は、電圧勾配によってキャピラリ２２２を通して引き込まれ、サンプル内のＤＮＡフラグメントの光学的に標識されたヌクレオチドは、光学センサ２２４を通過するときに検出される。蛍光標識サンプル２２０内の異なるサイズのＤＮＡフラグメントは、それらのサイズのために異なる時間にキャピラリを通して引き込まれる。光学センサ２２４は、ヌクレオチド上の蛍光標識を画像信号として検出し、画像信号をコンピューティングデバイス２０２に通信する。コンピューティングデバイス２０２は、画像信号をサンプルデータとして集約し、メモリ２０６に記憶されたベースコーラアルゴリズム２０４を利用して、ニューラルネットワーク２１０を操作してサンプルデータを処理済みデータに変換し、表示デバイス２１４に表示されるエレクトロフェログラム２１６を生成する。
【0050】
図３を参照すると、ＣＥプロセス３００は、電源３０６によってバッファ３０２に印加される電圧を制御するために、構成制御３１８を制御装置３０８に通信するコンピューティングデバイス３１２を伴う。調製された蛍光標識サンプルがソースバッファに加えられた後、制御装置３０８は、動作制御３２０を電源３０６に通信して、電圧３２２をバッファに印加し、電圧バイアス／電気勾配を生成する。印加電圧により、蛍光標識サンプル３２４は、バッファ３０２間のキャピラリ３０４を通って移動し、光学センサ３１０を通過する。光学センサ３１０は、キャピラリを通過するＤＮＡフラグメントのヌクレオチド上の蛍光標識を検出し、画像信号３２６をコンピューティングデバイス３１２に通信する。コンピューティングデバイス３１２は、画像信号３２６を集約して、さらなる処理のためにニューラルネットワーク３１４に通信されるサンプルデータ３２８を生成する。ニューラルネットワーク３１４は、サンプルデータ３２８（例えば、信号値）を処理して、コンピューティングデバイス３１２に返送される処理済みデータ３３０（例えば、クラス）を生成する。次に、コンピューティングデバイス３１２は、表示デバイス３１６にエレクトロフェログラムを表示するための表示コントロール３３２を生成する。
【0051】
図４を参照すると、ＣＥプロセス４００は、少なくとも１つの蛍光標識サンプルをシーケンスするためにキャピラリ電気泳動機器の動作パラメータを構成することを伴う（ブロック４０２）。機器の構成には、一連のサンプルを実行するためのプレート設定を作成することまたはインポートすること、および収集された画像データの処理を支援するためにプレートサンプルに標識を割り当てることが含まれる場合がある。このプロセスは、構成制御を制御装置に通信して、所定の時間に電圧の印加を開始することも含むことができる。ブロック４０４において、ＣＥプロセス４００は、蛍光標識サンプルを機器にロードする。サンプルが機器にロードされた後、機器はサンプルをプレートウェルからキャピラリチューブに移し、次いでキャピラリ電気泳動プロセスの開始時にキャピラリチューブを開始バッファに位置決めする。ブロック４０６では、ＣＥプロセス４００は、サンプルがキャピラリにロードされた後、機器の実行を開始し、キャピラリの両端に位置付けられたバッファ溶液に電圧を印加し、電気勾配を形成して、蛍光標識サンプルのＤＮＡフラグメントを開始バッファから宛先バッファに輸送し、光学センサを横断させる。ブロック４０８において、ＣＥプロセス４００は、ＤＮＡフラグメントが光学センサを介して宛先バッファに向かって移動するときに、ＤＮＡフラグメントのヌクレオチド上の個々の蛍光信号を検出し、画像信号をコンピューティングデバイスに通信する。ブロック４１０において、ＣＥプロセス４００は、光学センサからの画像信号をコンピューティングデバイスに集約し、ヌクレオチドＤＮＡフラグメントの蛍光強度に対応するサンプルデータを生成する。ブロック４１２において、ＣＥプロセス４００は、ニューラルネットワークを利用してサンプルデータを処理し、特定の時点で、ＤＮＡフラグメントで呼び出された塩基を識別するのを助ける。ブロック４１４において、ＣＥプロセス４００は、表示デバイスを介してエレクトロフェログラムを介して処理されたデータを表示する。
【0052】
基本的な深層ニューラルネットワーク５００は、生物の脳内のニューロンを大まかにモデル化する人工ニューロンと呼ばれる接続されたユニットまたはノードの集合に基づいている。各接続は、生物の脳のシナプスのように、ある人工ニューロンから別の人工ニューロンに信号を送信できる。信号を受信した人工ニューロンは、信号を処理し、次いでそれに接続された追加の人工ニューロンに信号を送信できる。
【0053】
一般的な実装形態では、人工ニューロン間の接続での信号は実数であり、各人工ニューロンの出力は、入力の合計の何らかの非線形関数（活性化関数）によって計算される。人工ニューロン間の接続は、「エッジ」または軸索と呼ばれる。人工ニューロンおよびエッジには通常、学習が進むにつれて調整される重みがある。重みは、接続での信号の強度を増減する。人工ニューロンには、集約信号がその閾値を超えた場合にのみ信号が送信されるように、閾値（トリガー閾値）が設定されている場合がある。通常、人工ニューロンは層に集約される。異なる層は、入力に対して異なる種類の変換を実施してもよい。信号は、最初の層（入力層５０２）から、場合によっては、隠れ層５０４と呼ばれる１つ以上の中間層を通過した後、最後の層（出力層５０６）に進む。
【0054】
図６を参照すると、先行ニューロンからの入力を受信する人工ニューロン６００は、以下の成分からなる。
・入力ｘi、
・入力に適用される重みｗi、
・学習関数によって変更されない限り固定されたままであるオプションの閾値（ｂ）、
・もしあれば、先行ニューロン入力からの出力および閾値を計算する活性化関数６０２。
・入力ｘi、
・入力に適用される重みｗi、
・学習関数によって変更されない限り固定されたままであるオプションの閾値（ｂ）、
・もしあれば、先行ニューロン入力からの出力および閾値を計算する活性化関数６０２。
【0055】
入力ニューロンには先行ニューロンがないが、ネットワーク全体の入力インターフェースとして機能する。同様に、出力ニューロンには後続ニューロンがないため、ネットワーク全体の出力インターフェースとして機能する。
【0056】
ネットワークには接続が含まれ、各接続はある層のニューロンの出力を次の層のニューロンの入力に転送する。各接続は、入力ｘを保持し、重みｗが割り当てられる。
【0057】
活性化関数６０２は、先行ニューロンの入力の重み値の積の合計の形態であることが多い。
【0058】
学習ルールは、ネットワークへの所与の入力が好ましい出力を生成するために、ニューラルネットワークのパラメータを変更するルールまたはアルゴリズムである。通常、この学習プロセスには、ネットワーク内のニューロンおよび接続の重みおよび閾値の変更が伴う。
【0059】
図７は、回帰型ニューラルネットワーク７００（ＲＮＮ）を示している。変数ｘ［ｔ］は、ステージｔでの入力である。例えば、ｘ［１］は、文の２番目の単語に対応するｏｎｅ－ｈｏｔベクトルである可能性がある。変数ｓ［ｔ］は、ステージｔで隠れ状態である。それは、ネットワークの「メモリ」である。変数ｓ［ｔ］は、前の隠れ状態および現在のステージでの入力に基づいて計算される：ｓ［ｔ］＝ｆ（Ｕｘ［ｔ］＋Ｗｓ［ｔ－１］）。活性化関数ｆは通常、ｔａｎｈまたはＲｅＬＵなどの非線形性である。第１の隠れ状態を計算するために必要な入力ｓ（－１）は、通常、すべてゼロに初期化される。変数ｏ［ｔ］は、ステージｔでの出力である。例えば、文の次の単語を予測するには、語彙全体の確率のベクトル：ｏ［ｔ］＝ｓｏｆｔｍａｘ（Ｖｓ［ｔ］）になる。
【0060】
図８は、双方向回帰型ニューラルネットワーク８００（ＢＲＮＮ）を示す。ＢＲＮＮは、あるステージでの出力がシーケンス内の前の入力だけでなく、将来の要素にも依存し得る状況のために設計されている。例えば、シーケンス内の欠落している単語を予測するために、ＢＲＮＮは左右の文脈の両方を考慮する。ＢＲＮＮは、出力ＹがＲＮＮと入力Ｘの両方の隠れ状態Ｓに基づいて計算される２つのＲＮＮとして実装することができる。図８に示す双方向回帰型ニューラルネットワーク８００において、各ノードＡは通常、それ自体がニューラルネットワークである。深層ＢＲＮＮはＢＲＮＮに似ているが、ノードＡごとに複数の層がある。実際には、これにより学習能力が高くなり得るが、単一層ネットワークよりも多くのトレーニングデータが必要になる。
【0061】
図９は、長・短期記憶９００（ＬＳＴＭ）を有するＲＮＮアーキテクチャを示している。
【0062】
すべてのＲＮＮは、繰り返しノードのチェーンの形態であり、各ノードはニューラルネットワークである。標準のＲＮＮでは、この繰り返しノードは、ｔａｎｈ活性化関数を有する単一層のような構造になる。これを上の図に示す。ＬＳＴＭもこのチェーンのような設計であるが、繰り返しノードＡは通常のＲＮＮとは異なる構造である。単一のニューラルネットワーク層を有する代わりに、通常４つの層があり、層は特定の方法で相互作用する。
【0063】
ＬＳＴＭでは、各パスは、１つのノードの出力から他のノードの入力まで、ベクトル全体を伝送する。点線のボックスの外側にある丸で囲まれた関数は、ベクトル加算などの点ごとの演算を表し、点線のボックスの内側のシグモイドボックスおよびｔａｎｈボックスは、学習済みニューラルネットワーク層である。線のマージは連結を示し、線の分岐は値がコピーされ、コピーが異なる場所に移動することを示す。
【0064】
ＬＳＴＭの重要な特徴は、セル状態Ｃｔであり、長・短期記憶９００（下の図）の上部を通る水平線である。セルの状態はベルトコンベアのようなものである。それはチェーン全体を通り、いくつかのマイナーな線形相互作用のみが発生する。信号が変わらないままそれに沿って流れる可能性は十分にある。ＬＳＴＭには、ゲートと呼ばれる構造によって慎重に制御され、セルの状態に情報を削除する、または追加する機能がある。ゲートは、任意選択的にセルに情報を通す方法である。それらは通常、シグモイドニューラルネット層と点ごとの乗算演算を使用して形成される。
【0065】
シグモイド層は、０～１の数値を出力し、各成分をどれだけ通過させる必要があるかを示す。値０は「何も通過させない」ことを意味し、値１は「すべて通過させる」ことを意味する。ＬＳＴＭには、セルの状態を保護し、かつ制御するために、これらのシグモイドゲートが３つある。
【0066】
図１０を参照すると、ベースコーラシステム１０００は、入力セグメンタ１００２、スキャン標識モデル１００４、アセンブラ１００６、デコーダ１００８、品質値モデル１０１０、およびシーケンサ１０１２を含む。
【0067】
入力セグメンタ１００２は、入力トレースシーケンス、ウィンドウサイズ、およびストライド長を受信する。入力トレースシーケンスは、キャピラリ電気泳動（ＣＥ）機器から収集された色素相対蛍光ユニット（ＲＦＵ）のシーケンス、またはＣＥ機器で直接収集された生のスペクトルデータであり得る。入力トレースシーケンスは、いくつかのスキャンを含む。ウィンドウサイズは、スキャン標識モデル１００４への入力ごとのスキャン数を判定する。ストライド長は、スキャン標識モデル１００４へのウィンドウまたは入力の数を判定する。入力セグメンタ１００２は、入力トレースシーケンス、ウィンドウサイズ、およびストライド長を利用して、スキャン標識モデル１００４に送信される入力スキャンウィンドウを生成する。
【0068】
スキャン標識モデル１００４は、入力スキャンウィンドウを受信し、すべてのスキャンウィンドウに対するスキャン標識確率を生成する。スキャン標識モデル１００４は、１つ以上のトレーニングされたモデルを含んでもよい。モデルは、スキャン標識確率を生成するために利用するように選択することができる。モデルは、ＬＳＴＭまたはＧＲＵ（ゲート付き回帰型ユニット）などの同様のユニットの１つ以上の層を有するＢＲＮＮである場合がある。モデルは、図８、図９（削除）、および図９に示されているものと同様の構造を有する場合がある。モデルは、入力スキャンウィンドウ内のすべてのスキャンの標識確率を出力する、ＬＳＴＭ ＢＲＮＮの出力層としてＳｏｆｔｍａｘ層をさらに利用することができる。スキャン標識モデル１００４は、図１１に示すプロセスに従ってトレーニングすることができる。次に、スキャン標識確率がアセンブラ１００６に送信される。
【0069】
アセンブラ１００６は、スキャン標識確率を受信し、すべてのスキャンウィンドウの標識確率を一緒に集めて、シーケンシングサンプルのトレース全体に対する標識確率を構築する。次に、集められたスキャンウィンドウのスキャン標識確率は、デコーダ１００８および品質値モデル１０１０に送信される。
【0070】
デコーダ１００８は、集められたスキャンウィンドウのスキャン標識確率を受信する。次に、デコーダ１００８は、スキャン標識確率を入力トレースシーケンスのベースコールにデコードする。デコーダ１００８は、シーケンシングサンプルのベースコールを見つけるために、集められた標識確率に対してプレフィックスビーム検索または他のデコーダを利用することができる。入力トレースシーケンスおよび集められたスキャンウィンドウのベースコールは、次にシーケンサ１０１２に送信される。
【0071】
品質値モデル１０１０は、集められたスキャンウィンドウのスキャン標識確率を受信する。次に、品質値モデル１０１０は、推定されたベースコーリングエラー確率を生成する。推定されたベースコーリングエラー確率は、次の式によってＰｈｒｅｄスタイルの品質スコアに変換できる：ＱＶ＝－１０ｘｌｏｇ（エラーの確率）。品質値モデル１０１０は、畳み込みニューラルネットワークであり得る。品質値モデル１０１０は、ロジスティック回帰層を伴ういくつかの隠れ層を有することができる。シグモイド関数などの仮説関数をロジスティック回帰層で利用して、入力スキャン確率に基づいて推定エラー確率を予測することができる。品質値モデル１０１０は、利用するために選択され得る１つ以上のトレーニングされたモデルを含み得る。選択は、最小評価損失またはエラー率に基づく場合がある。品質値モデル１０１０は、図１２に示すプロセスに従ってトレーニングすることができる。次に、推定されたベースコーリングエラーの確率は、集められたスキャンウィンドウのベースコールに関連付けられる。
【0072】
シーケンサ１０１２は、入力トレースシーケンスのベースコール、集められたスキャンウィンドウ、および推定されたベースコールエラー確率を受信する。次に、シーケンサ１０１２は、ＣＴＣネットワークからの出力標識確率およびデコーダからのベースコールに基づいて、ベースコールのスキャン位置を見つける。シーケンサ１０１２は、デキュー最大ファインダアルゴリズムを利用することができる。したがって、シーケンサ１０１２は、出力ベースコールシーケンスおよび推定エラー確率を生成する。
【0073】
いくつかの実施形態では、ノイズ、スパイク、色素ブロブ、もしくは他のデータアーティファクト、またはシミュレートされたシーケンシングトレースの追加などのデータ増強技術を利用することができる。これらの技術は、ベースコーラシステム１０００の堅牢性を改善させることができる。敵対的生成ネット（ＧＡＮ）は、これらの技術を実装するために利用できる。
【0074】
図１１を参照すると、スキャン標識モデルトレーニング方法１１００は、データセットを受信する（ブロック１１０２）。データセットには、純粋塩基データセットと混合塩基データセットが含まれる場合がある。例えば、純粋塩基データセットは約４，９００万のベースコールを含んでもよく、混合塩基データセットは約１，３４０万のベースコールを含んでもよい。混合塩基データセットは、主に純粋塩基と時折混合塩基で構成されている場合がある。データセット内の各サンプルについて、トレース全体がスキャンウィンドウに分割される（ブロック１１０４）。各スキャンウィンドウは、５００スキャンを有し得る。トレースは、前処理された色素ＲＦＵのシーケンスであり得る。さらに、各サンプルのスキャンウィンドウを２５０スキャンずつシフトして、トレーニング時のスキャン位置の偏りを最小化することができる。次に、注釈付きベースコールが各スキャンウィンドウに対して判定される（ブロック１１０６）。これらは、トレーニング中に標的シーケンスとして利用される。次に、トレーニングサンプルが構築される（ブロック１１０８）。それらの各々は、５００スキャン含むスキャンウィンドウおよびそれぞれの注釈付きベースコールを含んでもよい。ＬＳＴＭの１つ以上の層を有するＢＲＮＮが初期化される（ブロック１１１０）。ＢＲＮＮは、ゲート付き回帰型ユニット（ＧＲＵ）など、ＬＳＴＭに類似した他のユニットを利用する場合がある。Ｓｏｆｔｍａｘ層は、入力スキャンウィンドウ内のすべてのスキャンの標識確率を出力する、ＬＳＴＭ ＢＲＮＮの出力層として利用できる。次に、トレーニングサンプルがＢＲＮＮに適用される（ブロック１１１２）。入力スキャンウィンドウ内のすべてのスキャンの標識確率が出力される（ブロック１１１４）。出力スキャン標識の確率と標的の注釈付きベースコール間の損失が計算される。コネクショニスト時間分類（ＣＴＣ）損失関数を利用して、出力スキャン標識確率と標的の注釈付きベースコールとの間の損失を計算することができる。次に、トレーニングサンプルのミニバッチが選択される（ブロック１１１８）。ミニバッチは、各トレーニングステップでトレーニングデータセットからランダムに選択できる。ネットワークの重みは、トレーニングサンプルのミニバッチに対するＣＴＣ損失を最小化するように更新される（ブロック１１２０）。Ａｄａｍオプティマイザまたは他の勾配降下オプティマイザを利用して、重みを更新することができる。次に、ネットワークがモデルとして保存される（ブロック１１２２）。いくつかの実施形態では、モデルは特定のトレーニングステップ中に保存される。次に、スキャン標識モデルトレーニング方法１１００は、所定数のトレーニングステップに達したかどうかを判定する（決定ブロック１１２４）。そうでない場合、スキャン標識モデルトレーニング方法１１００は、更新された重みを有するネットワークを利用して、ブロック１１１２から再実行される（すなわち、ネットワークの次の反復）。所定数のトレーニングステップが実行されると、保存されたモデルが評価される（ブロック１１２６）。評価は、トレーニングプロセスに含まれていない検証データセット内のサンプルの独立したサブセットを利用して実行できる。次に、最良のトレーニングされたモデルは、トレーニングされたモデルからの最小評価損失またはエラー率に基づいて選択される。これらのモデル（複数可）は、ベースコーラシステム１０００によって利用され得る。
【0075】
いくつかの実施形態では、ノイズ、スパイク、色素ブロブ、もしくは他のデータアーティファクト、または敵対的生成ネット（ＧＡＮ）によってシミュレートされたシーケンシングトレースの追加などのデータ増強技術を利用して、モデルの堅牢性を改善することができる。トレーニング中に、ドロップアウトまたは重み減衰などの他の技術を使用して、モデルの一般性を改善させることができる。
【0076】
図１２を参照すると、ＱＶモデルトレーニング方法１２００は、トレーニングされたネットワークおよびデコーダを利用して、スキャン標識確率、ベースコール、およびそれらのスキャン位置を計算する（ブロック１２０２）。トレーニングされたネットワークおよびデコーダは、図１０に示されているものであり得る。トレーニングサンプルは、ＱＶトレーニングのために構築される（ブロック１２０４）。各ベースコールの中心スキャン位置周辺のスキャン確率を利用することができ、すべてのベースコールは、正確なベースコールまたは不正確なベースコールという２つのカテゴリに割り当てることができる。ロジスティック回帰層を有するいくつかの隠れ層を有する畳み込みニューラルネットワーク（ＣＮＮ）を利用して、トレーニングを行うことができる（ブロック１２０６）。ＣＮＮおよびロジスティック回帰層は初期化され得る。入力スキャン確率に基づいて、推定エラー確率を予測することができる（ブロック１２０８）。シグモイド関数などの仮説関数をロジスティック回帰層で利用して、入力スキャン確率に基づいて推定エラー確率を予測することができる。次に、予測されたエラー確率とベースコールカテゴリとの間の損失が計算される（ブロック１２１０）。ロジスティック損失（または交差エントロピー損失と呼ばれる）などのロジスティック回帰のコスト関数を使用して、予測エラー確率とベースコールカテゴリとの間の損失を計算できる。
【0077】
次に、トレーニングサンプルのミニバッチが選択される（ブロック１２１２）。ミニバッチは、各トレーニングステップでトレーニングデータセットからランダムに選択できる。ネットワークの重みは、トレーニングサンプルのミニバッチに対するロジスティック損失を最小化するように更新される（ブロック１２１４）。Ａｄａｍオプティマイザまたは他の勾配降下オプティマイザを利用して、重みを更新することができる。次に、ネットワークがモデルとして保存される（ブロック１２１６）。いくつかの実施形態では、モデルは特定のトレーニングステップ中に保存される。次に、ＱＶモデルトレーニング方法１２００は、所定数のトレーニングステップに達したかどうかを判定する（決定ブロック１２１８）。そうでない場合、ＱＶモデルトレーニング方法１２００は、更新された重みを有するネットワークを利用してブロック１２０６から再実行される（すなわち、ネットワークの次の反復）。所定数のトレーニングステップが実行されると、保存されたモデルが評価される（ブロック１２２０）。モデルは、トレーニングプロセスに含まれていない検証データセット内のサンプルの独立したサブセットによって評価されてもよい。選択されたトレーニングされたモデルは、評価損失またはエラー率が最小のものであり得る。
【0078】
図１３は、本発明の実施形態を組み込むことができるコンピューティングデバイス１３００の例示的なブロック図である。図１３は、本明細書に記載の技術的プロセスの態様を実行するための機械システムの単なる例示であり、特許請求の範囲を限定するものではない。当業者は、他の変形、修正、および代替を認識するであろう。一実施形態では、コンピューティングデバイス１３００は、典型的には、モニタまたはグラフィカルユーザインターフェース１３０２、データ処理システム１３２０、通信ネットワークインターフェース１３１２、入力デバイス（複数可）１３０８、出力デバイス（複数可）１３０６などを含む。
【0079】
図１３に示されるように、データ処理システム１３２０は、バスサブシステム１３１８を介していくつかの周辺デバイスと通信する１つ以上のプロセッサ（複数可）１３０４を含み得る。これらの周辺デバイスは、入力デバイス（複数可）１３０８、出力デバイス（複数可）１３０６、通信ネットワークインターフェース１３１２、ならびに揮発性メモリ１３１０および不揮発性メモリ１３１４などの記憶サブシステムを含み得る。
【0080】
揮発性メモリ１３１０および／または不揮発性メモリ１３１４は、コンピュータ実行可能命令を記憶することができ、したがって、プロセッサ（複数可）１３０４に適用され、かつそれによって実行されると、本明細書に開示されるプロセスの実施形態を実装するロジック１３２２を形成する。
【0081】
入力デバイス（複数可）１３０８は、データ処理システム１３２０に情報を入力するためのデバイスおよび機構を含む。これらは、キーボード、キーパッド、モニタまたはグラフィカルユーザインターフェース１３０２に組み込まれたタッチスクリーン、音声認識システム、マイクロフォンなどの音声入力デバイス、および他のタイプの入力デバイスを含み得る。様々な実施形態では、入力デバイス（複数可）１３０８は、コンピュータマウス、トラックボール、トラックパッド、ジョイスティック、ワイヤレスリモート、描画タブレット、音声コマンドシステム、視線追跡システムなどとして具体化することができる。入力デバイス（複数可）１３０８は、典型的には、ユーザが、ボタンのクリックなどのコマンドを介して、モニタまたはグラフィカルユーザインターフェース１３０２に表示されるオブジェクト、アイコン、制御領域、テキストなどを選択することを可能にする。
【0082】
出力デバイス（複数可）１３０６は、データ処理システム１３２０から情報を出力するためのデバイスおよび機構を含む。これらは、当技術分野でよく理解されているように、モニタまたはグラフィカルユーザインターフェース１３０２、スピーカ、プリンタ、赤外線ＬＥＤなどを含み得る。
【0083】
通信ネットワークインターフェース１３１２は、通信ネットワーク（例えば、通信ネットワーク１３１６）およびデータ処理システム１３２０の外部デバイスにインターフェースを提供する。通信ネットワークインターフェース１３１２は、他のシステムからデータを受信し、他のシステムにデータを送信するためのインターフェースとして機能し得る。通信ネットワークインターフェース１３１２の実施形態は、Ｅｔｈｅｒｎｅｔインターフェース、モデム（電話、衛星、ケーブル、ＩＳＤＮ）、（非同期）デジタル加入者線（ＤＳＬ）、ＦｉｒｅＷｉｒｅ、ＵＳＢ、ＢｌｕｅｔｏｏｔｈまたはＷｉ－Ｆｉなどの無線通信インターフェース、近距離通信無線インターフェース、セルラーインターフェースなどを含み得る。
【0084】
通信ネットワークインターフェース１３１２は、アンテナ、ケーブルなどを介して通信ネットワーク１３１６に結合され得る。いくつかの実施形態では、通信ネットワークインターフェース１３１２は、データ処理システム１３２０の回路基板上に物理的に統合され得るか、または場合によっては、「ソフトモデム」などのソフトウェアまたはファームウェアにおいて実装され得る。
【0085】
コンピューティングデバイス１３００は、ＨＴＴＰ、ＴＣＰ／ＩＰ、ＲＴＰ／ＲＴＳＰ、ＩＰＸ、ＵＤＰなどのプロトコルを使用してネットワークを介した通信を可能にするロジックを含み得る。
【0086】
揮発性メモリ１３１０および不揮発性メモリ１３１４は、本明細書に記載のプロセスの態様を実装するためのコンピュータ可読データおよび命令を記憶するように構成された有形媒体の例である。他のタイプの有形媒体には、リムーバブルメモリ（例えば、プラグイン式ＵＳＢメモリデバイス、モバイルデバイスＳＩＭカード）、ＣＤ－ＲＯＭ、ＤＶＤなどの光記憶媒体、フラッシュメモリなどの半導体メモリ、非一時的な読み取り専用メモリ（ＲＯＭ）、バッテリバックアップされた揮発性メモリ、ネットワーク化された記憶デバイスなどが含まれる。揮発性メモリ１３１０および不揮発性メモリ１３１４は、本発明の範囲に該当する開示されたプロセスおよび他の実施形態の機能を提供する基本的なプログラミングおよびデータ構築を記憶するように構成され得る。
【0087】
本発明の実施形態を実装するロジック１３２２は、コンピュータ読み取り可能命令を記憶する揮発性メモリ１３１０および／または不揮発性メモリ１３１４によって形成され得る。上述の命令は、揮発性メモリ１３１０および／または不揮発性メモリ１３１４から読み取られ、プロセッサ（複数可）１３０４によって実行され得る。揮発性メモリ１３１０および不揮発性メモリ１３１４はまた、ロジック１３２２によって使用されるデータを記憶するためのリポジトリを提供し得る。
【0088】
揮発性メモリ１３１０および不揮発性メモリ１３１４は、プログラム実行中に命令およびデータを記憶するためのメインランダムアクセスメモリ（ＲＡＭ）および読み取り専用の非一時的な命令が記憶される読み取り専用メモリ（ＲＯＭ）を含むいくつかのメモリを含み得る。揮発性メモリ１３１０および不揮発性メモリ１３１４は、プログラムおよびデータファイルのための永続的（不揮発性）記憶を提供するファイル記憶サブシステムを含み得る。揮発性メモリ１３１０および不揮発性メモリ１３１４は、取り外し可能なフラッシュメモリなどの取り外し可能な記憶システムを含み得る。
【0089】
バスサブシステム１３１８は、データ処理システム１３２０の様々な構成要素およびサブシステムが意図されたように互いに通信することを可能にするための機構を提供する。通信ネットワークインターフェース１３１２は、単一のバスとして概略的に示されているが、バスサブシステム１３１８のいくつかの実施形態は、複数の別個のバスを利用することができる。
【0090】
コンピューティングデバイス１３００が、スマートフォン、デスクトップコンピュータ、ラップトップコンピュータ、ラックマウント型コンピュータシステム、コンピュータサーバ、またはタブレットコンピュータデバイスなどのデバイスであり得ることは、当業者には容易に明らかであろう。当技術分野で一般に既知であるように、コンピューティングデバイス１３００は、複数のネットワーク化されたコンピューティングデバイスの集合として実装され得る。さらに、コンピューティングデバイス１３００は、典型的には、そのタイプおよび性質が当技術分野で周知であるオペレーティングシステムロジック（図示せず）を含むであろう。
【0091】
例示的な実施形態
新しい深層学習ベースのベースコーラである深層ベースコーラは、特に５’および３’末端の混合ベースコーリングの精度および純粋なベースコーリングの精度を改善し、キャピラリ電気泳動機器のサンガーシーケンシングデータの読み取り長を増加させるために開発された。
新しい深層学習ベースのベースコーラである深層ベースコーラは、特に５’および３’末端の混合ベースコーリングの精度および純粋なベースコーリングの精度を改善し、キャピラリ電気泳動機器のサンガーシーケンシングデータの読み取り長を増加させるために開発された。
【0092】
長・短期記憶（ＬＳＴＭ）ユニットを有する双方向回帰型ニューラルネットワーク（ＢＲＮＮ）は、ＣＥ機器から収集された色素ＲＦＵ（相対蛍光ユニット）の入力シーケンスをベースコールの出力シーケンスに変換することによって、サンガーシーケンシングデータをベースコールするように正常に設計されている。純粋塩基データセットの最大４，９００万のベースコールと混合塩基データセットの最大１，３４０万のベースコールを含む大規模な注釈付きサンガーシーケンシングデータセットを使用して、新しい深層学習ベースのベースコーラをトレーニングし、かつテストした。
【0093】
以下は、深層ベースコーラに使用されるアルゴリズムの例示的なワークフローである。
１．トレーニングの純粋または混合塩基データセットの各サンプルについて、解析されたトレース全体、前処理された色素ＲＦＵ（相対蛍光ユニット）のシーケンスを、長さ５００スキャンのスキャンウィンドウに分割する。各サンプルのスキャンウィンドウを２５０スキャンずつシフトして、トレーニング時のスキャン位置の偏りを最小化することができる。
２．トレーニング中の標的シーケンスとして、各スキャンウィンドウの注釈付きベースコールを判定する。
３．トレーニングサンプルを構築し、各サンプルは、５００スキャンのスキャンウィンドウとそれぞれの注釈付きベースコールで構成される。
４．トレーニングするネットワークとして、ＬＳＴＭまたはＧＲＵ（ゲート付き回帰型ユニット）などの同様のユニットの１つ以上の層を有する双方向回帰型ニューラルネットワーク（ＢＲＮＮ）を使用する。
５．Ｓｏｆｔｍａｘ層を、入力スキャンウィンドウ内のすべてのスキャンの標識確率を出力するＬＳＴＭ ＢＲＮＮの出力層として使用する。
６．コネクショニスト時間分類（ＣＴＣ）損失関数を適用して、出力スキャン標識確率と標的の注釈付きベースコールとの間の損失を計算する。
７．勾配降下オプティマイザを使用して上述のネットワークの重みを更新し、各トレーニングステップでトレーニングデータセットからランダムに選択されたトレーニングサンプルのミニバッチに対するＣＴＣ損失を最小化する。
８．予め定められたトレーニングステップ数に達するまでトレーニングプロセスを継続し、特定のトレーニングステップごとにトレーニングされたネットワークを保存する。
９．トレーニングプロセス中に保存されたトレーニングされたモデルを、トレーニングプロセスには含まれていない検証データセット内のサンプルの独立したサブセットによって評価する。最良のトレーニングされたモデルとして、評価損失またはエラー率が最小のトレーニングされたモデルを選択する。
１０．シーケンシングサンプルについて、トレース全体を２５０スキャンずつシフトした５００スキャンのスキャンウィンドウに分割する。選択されたトレーニングされたモデルをそれらのスキャンウィンドウに適用して、すべてのスキャンウィンドウのスキャン標識確率を出力する。
１１．すべてのスキャンウィンドウの標識確率を集めて、シーケンシングサンプルのトレース全体の標識確率を構築する。
１２．シーケンシングサンプルのベースコールを見つけるために、集められた標識確率に対してプレフィックスビーム検索または他のデコーダを使用する。
１３．デキュー最大ファインダアルゴリズムを使用して、ＣＴＣネットワークからの出力標識確率およびデコーダからのベースコールに基づいて、すべてのベースコールのスキャン位置を見つける。
１４．上記の深層学習モデルは、生のトレース（生の色素ＲＦＵのシーケンス）またはＣＥ機器で収集された生のスペクトルデータに直接適用してから、ベースコーラ（ＫＢベースコーラなど）による処理を行うことができる。
１５．ノイズ、スパイク、色素ブロブ、他のデータアーティファクト、または敵対的生成ネットワーク（ＧＡＮ）によるシミュレートされたシーケンシングトレースの追加などのデータ拡張技術を使用して、トレーニングされた深層ベースコーラの堅牢性を改善することができる。
１６．トレーニング中に、ドロップアウトまたは重み減衰などの技術を使用して、トレーニングされた深層ベースコーラの一般性を改善させることができる。
１．トレーニングの純粋または混合塩基データセットの各サンプルについて、解析されたトレース全体、前処理された色素ＲＦＵ（相対蛍光ユニット）のシーケンスを、長さ５００スキャンのスキャンウィンドウに分割する。各サンプルのスキャンウィンドウを２５０スキャンずつシフトして、トレーニング時のスキャン位置の偏りを最小化することができる。
２．トレーニング中の標的シーケンスとして、各スキャンウィンドウの注釈付きベースコールを判定する。
３．トレーニングサンプルを構築し、各サンプルは、５００スキャンのスキャンウィンドウとそれぞれの注釈付きベースコールで構成される。
４．トレーニングするネットワークとして、ＬＳＴＭまたはＧＲＵ（ゲート付き回帰型ユニット）などの同様のユニットの１つ以上の層を有する双方向回帰型ニューラルネットワーク（ＢＲＮＮ）を使用する。
５．Ｓｏｆｔｍａｘ層を、入力スキャンウィンドウ内のすべてのスキャンの標識確率を出力するＬＳＴＭ ＢＲＮＮの出力層として使用する。
６．コネクショニスト時間分類（ＣＴＣ）損失関数を適用して、出力スキャン標識確率と標的の注釈付きベースコールとの間の損失を計算する。
７．勾配降下オプティマイザを使用して上述のネットワークの重みを更新し、各トレーニングステップでトレーニングデータセットからランダムに選択されたトレーニングサンプルのミニバッチに対するＣＴＣ損失を最小化する。
８．予め定められたトレーニングステップ数に達するまでトレーニングプロセスを継続し、特定のトレーニングステップごとにトレーニングされたネットワークを保存する。
９．トレーニングプロセス中に保存されたトレーニングされたモデルを、トレーニングプロセスには含まれていない検証データセット内のサンプルの独立したサブセットによって評価する。最良のトレーニングされたモデルとして、評価損失またはエラー率が最小のトレーニングされたモデルを選択する。
１０．シーケンシングサンプルについて、トレース全体を２５０スキャンずつシフトした５００スキャンのスキャンウィンドウに分割する。選択されたトレーニングされたモデルをそれらのスキャンウィンドウに適用して、すべてのスキャンウィンドウのスキャン標識確率を出力する。
１１．すべてのスキャンウィンドウの標識確率を集めて、シーケンシングサンプルのトレース全体の標識確率を構築する。
１２．シーケンシングサンプルのベースコールを見つけるために、集められた標識確率に対してプレフィックスビーム検索または他のデコーダを使用する。
１３．デキュー最大ファインダアルゴリズムを使用して、ＣＴＣネットワークからの出力標識確率およびデコーダからのベースコールに基づいて、すべてのベースコールのスキャン位置を見つける。
１４．上記の深層学習モデルは、生のトレース（生の色素ＲＦＵのシーケンス）またはＣＥ機器で収集された生のスペクトルデータに直接適用してから、ベースコーラ（ＫＢベースコーラなど）による処理を行うことができる。
１５．ノイズ、スパイク、色素ブロブ、他のデータアーティファクト、または敵対的生成ネットワーク（ＧＡＮ）によるシミュレートされたシーケンシングトレースの追加などのデータ拡張技術を使用して、トレーニングされた深層ベースコーラの堅牢性を改善することができる。
１６．トレーニング中に、ドロップアウトまたは重み減衰などの技術を使用して、トレーニングされた深層ベースコーラの一般性を改善させることができる。
【0094】
以下は、深層ベースコーラの品質値（ＱＶ）アルゴリズムに関する例示的な詳細である。
１．トレーニングセット内のすべてのサンプルにトレーニングされたＣＴＣネットワークおよびデコーダを適用して、スキャン標識の確率、ベースコール、およびそれらのスキャン位置を取得／計算する。
２．各ベースコールの中心スキャン位置の周りのスキャン確率を使用して、ＱＶトレーニングのトレーニングサンプルを構築し、すべてのベースコールを２つのカテゴリ：正確なベースコールまたは不正確なベースコールに割り当てる。
３．トレーニングするネットワークとして、ロジスティック回帰層を有するいくつかの隠れ層を有する畳み込みニューラルネットワークを使用する。
４．シグモイド関数などの仮説関数をロジスティック回帰層で使用して、入力スキャン確率に基づいて推定エラー確率を予測することができる。ロジスティック損失（または交差エントロピー損失と呼ばれる）などのロジスティック回帰のコスト関数を使用して、予測エラー確率とベースコールカテゴリとの間の損失を計算できる。
５．Ａｄａｍオプティマイザまたは他の勾配降下オプティマイザを使用して上述のネットワークの重みを更新し、各トレーニングステップでトレーニングデータセットからランダムに選択されたトレーニングサンプルのミニバッチに対するロジスティック損失を最小化する。
６．予め定められたトレーニングステップ数に達するまでトレーニングプロセスを継続し、特定のトレーニングステップのトレーニングされたネットワークを保存する。
７．トレーニングプロセス中に保存されたトレーニングされたモデルを、トレーニングプロセスには含まれていない検証データセット内のサンプルの独立したサブセットによって評価する。最良のトレーニングされたモデルとして、評価損失またはエラー率が最小のトレーニングされたモデルを選択する。
８．トレーニングされたＱＶモデルは、ベースコール位置の周りのスキャン確率を入力として取得し、推定されたベースコーリングエラー確率を出力し、これは、次の方程式によってＰｈｒｅｄスタイルの品質スコアに変換できる。
ＱＶ＝－１０ ｘ ｌｏｇ（エラーの確率）。
１．トレーニングセット内のすべてのサンプルにトレーニングされたＣＴＣネットワークおよびデコーダを適用して、スキャン標識の確率、ベースコール、およびそれらのスキャン位置を取得／計算する。
２．各ベースコールの中心スキャン位置の周りのスキャン確率を使用して、ＱＶトレーニングのトレーニングサンプルを構築し、すべてのベースコールを２つのカテゴリ：正確なベースコールまたは不正確なベースコールに割り当てる。
３．トレーニングするネットワークとして、ロジスティック回帰層を有するいくつかの隠れ層を有する畳み込みニューラルネットワークを使用する。
４．シグモイド関数などの仮説関数をロジスティック回帰層で使用して、入力スキャン確率に基づいて推定エラー確率を予測することができる。ロジスティック損失（または交差エントロピー損失と呼ばれる）などのロジスティック回帰のコスト関数を使用して、予測エラー確率とベースコールカテゴリとの間の損失を計算できる。
５．Ａｄａｍオプティマイザまたは他の勾配降下オプティマイザを使用して上述のネットワークの重みを更新し、各トレーニングステップでトレーニングデータセットからランダムに選択されたトレーニングサンプルのミニバッチに対するロジスティック損失を最小化する。
６．予め定められたトレーニングステップ数に達するまでトレーニングプロセスを継続し、特定のトレーニングステップのトレーニングされたネットワークを保存する。
７．トレーニングプロセス中に保存されたトレーニングされたモデルを、トレーニングプロセスには含まれていない検証データセット内のサンプルの独立したサブセットによって評価する。最良のトレーニングされたモデルとして、評価損失またはエラー率が最小のトレーニングされたモデルを選択する。
８．トレーニングされたＱＶモデルは、ベースコール位置の周りのスキャン確率を入力として取得し、推定されたベースコーリングエラー確率を出力し、これは、次の方程式によってＰｈｒｅｄスタイルの品質スコアに変換できる。
ＱＶ＝－１０ ｘ ｌｏｇ（エラーの確率）。
【0095】
深層ベースコーラは、上記の深層学習アプローチを使用して、スキャン確率、スキャン位置および品質値を含むベースコールを生成し得る。
【0096】
代替的な実施形態
ＬＳＴＭ ＢＲＮＮ、またはアテンション機構を有する、または有しないエンコーダ－デコーダモデルなどのシーケンスツーシーケンスアーキテクチャを有するＧＲＵ ＢＲＮＮなどの類似のネットワークも、サンガーシーケンスデータをベースコールするために使用され得る。
ＬＳＴＭ ＢＲＮＮ、またはアテンション機構を有する、または有しないエンコーダ－デコーダモデルなどのシーケンスツーシーケンスアーキテクチャを有するＧＲＵ ＢＲＮＮなどの類似のネットワークも、サンガーシーケンスデータをベースコールするために使用され得る。
【0097】
セグメント回帰型ニューラルネットワーク（ＳＲＮＮ）も深層ベースコーラに使用できる。このアプローチでは、双方向回帰型ニューラルネットワークを使用して、入力トレースまたは入力トレースセグメントの連続するサブシーケンスの「セグメント埋め込み」を計算し、これは、出力ベースコールとの互換性スコアを定義するために使用できる。次に、互換性スコアが統合され、セグメントの入力およびベースコールのセグメンテーションに対する同時確率分布が出力される。
【0098】
音声認識におけるメル周波数ケプストラム係数（ＭＦＣＣ）に類似した、重複したスキャンセグメントの周波数データは、深層ベースコーラの入力として使用できる。単純な畳み込みニューラルネットワークまたは他の単純なネットワークを重複したスキャンセグメントで使用して、ローカル特徴を学習でき、これらは、ＬＳＴＭ ＢＲＮＮまたは類似のネットワークの入力として使用され、深層ベースコーラをトレーニングする。
【0099】
スキャンおよびベースコールが調整されているか、トレーニングデータセットのベースコールのスキャン境界が既知である場合、Ｓｏｆｔｍａｘ交差エントロピー損失関数などのＣＴＣ損失以外の損失関数をＬＳＴＭ ＢＲＮＮまたは同様のネットワークで使用でき、そのようなネットワークは、スキャンをベースコールに分類するようにトレーニングできる。代替的に、Ｒ－ＣＮＮ（領域ベースの畳み込みニューラルネットワーク）などの畳み込みニューラルネットワークをトレーニングして、スキャンをセグメント化し、次いで各スキャンセグメントをベースコールすることもできる。
【0100】
実装形態および追加の用語
本明細書で使用される用語は、関連技術におけるそれらの通常の意味、または文脈におけるそれらの使用によって示される意味と一致するべきであるが、明示的な定義が提供される場合、その意味が制御する。
本明細書で使用される用語は、関連技術におけるそれらの通常の意味、または文脈におけるそれらの使用によって示される意味と一致するべきであるが、明示的な定義が提供される場合、その意味が制御する。
【0101】
この文脈における「回路」は、少なくとも１つの個別の電気回路を有する電気回路、少なくとも１つの集積回路を有する電気回路、少なくとも１つの特定用途向け集積回路を有する電気回路、コンピュータプログラムによって構成される汎用コンピューティングデバイス（例えば、本明細書に記載のプロセスもしくはデバイスを少なくとも部分的に実行するコンピュータプログラムによって構成される汎用コンピュータ、または本明細書に記載のプロセスもしくはデバイスを少なくとも部分的に実行するコンピュータプログラムによって構成されるマイクロプロセッサ）を形成する回路、（例えば、ランダムアクセスメモリの形態）メモリデバイスを形成する回路、または通信デバイス（例えば、モデム、通信スイッチ、または光電気機器）を形成する回路を指す。
【0102】
この文脈における「ファームウェア」は、読み取り専用メモリまたは媒体に記憶されたプロセッサ実行可能命令として具現化されたソフトウェアロジックを指す。
【0103】
この文脈における「ハードウェア」は、アナログまたはデジタル回路として具現化されたロジックを指す。
【0104】
この文脈における「ロジック」は、その材料および／または材料エネルギー構成経由で、デバイスの動作に影響を与えるように適用され得る、制御および／もしくは手順信号、ならびに／または設定および値（例えば、抵抗、インピーダンス、静電容量、インダクタンス、電流／電圧定格など）を含む、機械メモリ回路、非一時的機械可読媒体、および／または回路を指す。磁気媒体、電子回路、電気および光メモリ（揮発性および不揮発性の両方）、ならびにファームウェアは、ロジックの例である。ロジックは、具体的には、純粋な信号またはソフトウェア自体を除外する（ししながら、ソフトウェアを含み、それによって事柄の構成を形成するマシンメモリは除外しない）。
【0105】
この文脈における「ソフトウェア」は、マシンメモリ内のプロセッサ実行可能命令（例えば、揮発性または不揮発性メモリまたは媒体を読み取る／書き込む）として実装されるロジックを指す。
【0106】
本明細書において、「１つの実施形態」または「一実施形態」への言及は、そういう場合もあるが、必ずしも同じ実施形態を指すとは限らない。文脈が明確に別様に要求しない限り、説明および特許請求の範囲全体を通して、「含む（ｃｏｍｐｒｉｓｅ）」、「含む（ｃｏｍｐｒｉｓｉｎｇ）」などの語は、排他的または網羅的な意味ではなく、包括的な意味、つまり、「含むがこれに限定されない」という意味で解釈されるべきである。単数形または複数形を使用する語は、明示的に単一のものまたは複数のものに限定されない限り、それぞれ複数形または単数形も含む。追加的に、「本明細書に」、「上記に」、「以下に」という語および同様の意味の語は、本出願で使用される場合、本出願全体を指し、本出願の任意の特定の部分を指すものではない。請求項が２つ以上の項目の列挙を参照して「または」という語を使用する場合、その語は、明示的に一方または他方に限定されない限り、その語の以下の解釈のすべてを網羅する：列挙内の項目のうちのいずれか、列挙内の項目のすべて、および列挙内の項目の任意の組み合わせ。本明細書で明示的に定義されていない任意の用語は、関連技術の当業者（複数可）によって一般的に理解されるような従来の意味を有する。
【0107】
本明細書に記載の様々な論理機能動作は、その動作または機能を反映する名詞または名詞句を使用して参照されるロジックで実装され得る。例えば、関連付け動作は、「アソシエータ」または「コリレータ」によって実行され得る。同様に、スイッチングは、「スイッチ」によって、選択は「セレクタ」によって実行され得るなどがある。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
