▶ オックスフォード ナノポール テクノロジーズ リミテッドの特許一覧
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2022-01-21
(54)【発明の名称】機械学習技術を使用するナノ細孔シグナルの分析
(51)【国際特許分類】
C12Q 1/6869 20180101AFI20220114BHJP
C12M 1/00 20060101ALI20220114BHJP
G01N 33/50 20060101ALI20220114BHJP
G01N 27/00 20060101ALI20220114BHJP
【ＦＩ】
C12Q1/6869 Z
C12M1/00 A
G01N33/50 P
G01N27/00 Z
G01N27/00 J
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2021525061
(86)(22)【出願日】2019-11-26
(85)【翻訳文提出日】2021-05-10
(86)【国際出願番号】 GB2019053334
(87)【国際公開番号】W WO2020109773
(87)【国際公開日】2020-06-04
(31)【優先権主張番号】1819378.9
(32)【優先日】2018-11-28
(33)【優先権主張国・地域又は機関】GB
(81)【指定国・地域】
(71)【出願人】
【識別番号】511252899
【氏名又は名称】オックスフォード ナノポール テクノロジーズ ピーエルシー
(74)【代理人】
【識別番号】100092783
【弁理士】
【氏名又は名称】小林 浩
(74)【代理人】
【識別番号】100120134
【弁理士】
【氏名又は名称】大森 規雄
(74)【代理人】
【識別番号】100187964
【弁理士】
【氏名又は名称】新井 剛
(74)【代理人】
【識別番号】100104282
【弁理士】
【氏名又は名称】鈴木 康仁
(72)【発明者】
【氏名】マッシンガム，ティモシー，リー
【テーマコード（参考）】
2G045
2G060
4B029
4B063
【Ｆターム（参考）】
2G045AA40
2G045DA12
2G060AA05
2G060AA15
2G060AA19
2G060AD06
2G060AE20
2G060AF06
2G060AF20
2G060HC13
2G060KA09
4B029AA07
4B029BB20
4B029GB09
4B063QA08
4B063QA18
4B063QA20
4B063QQ42
4B063QQ52
4B063QS40
4B063QX10
(57)【要約】
一連のポリマー単位を含むポリマーによって生じるシグナルが、ナノ細孔に対するポリマーの転位中に機械学習技術を使用して分析される。一連の重み分布が出力され、各々がポリマー内の可能なポリマー単位タイプを表すラベルのセットにわたるラベル間の遷移に関する重みを含む。重み分布からの一連のポリマー単位の推定。遷移に関する重みを使用することは、技術精度を向上させる。
【選択図】図１
【選択図】図１
【特許請求の範囲】
【請求項1】
ポリマーによって生じるシグナルをナノ細孔に対する前記ポリマーの転位中に分析する方法であって、前記ポリマーが、可能なポリマー単位タイプのセットに属する一連のポリマー単位を含み、前記方法が、
一連の重み分布を出力する機械学習技術を使用して前記シグナルを分析するステップであって、各重み分布が、前記可能なポリマー単位タイプを表すラベルを含む、ラベルのセットにわたるラベル間の遷移に関する重みを含む、ステップと、
前記重み分布から前記一連のポリマー単位の推定値を導出するステップと
を含む、前記方法。
【請求項2】
ラベル間の少なくとも１つの遷移が許容されておらず、他の遷移が許容されており、前記重み分布がそれぞれ、許容されている遷移に関する重みを含む、請求項１に記載の方法。
【請求項3】
前記重み分布がそれぞれ、許容されていない遷移に関するヌル重みを含む、請求項２に記載の方法。
【請求項4】
前記一連のポリマー単位の推定値を導出するステップは、ラベル間の遷移が許容されているか許容されていないかを表す遷移行列を考慮に入れる、請求項２または３に記載の方法。
【請求項5】
前記ラベルのセットが、各ポリマー単位タイプに関する第１のラベルおよび第２のラベルを含み、前記第１のラベルが、前記ポリマー単位タイプのインスタンスの開始を表し、前記第２のラベルが、前記ポリマー単位タイプの前記インスタンスにおけるステイを表し、各第１のラベルから任意の他のポリマー単位タイプの前記第１のラベルへの遷移が許容されており、
各第１のラベルから同じポリマー単位タイプの前記第１のラベルへの遷移が許容されており、
各第１のラベルから同じポリマー単位タイプの前記第２のラベルへの遷移が許容されており、
各第１のラベルから任意の他のポリマー単位タイプの前記第２のラベルへの遷移が許容されておらず、
各第２のラベルから同じポリマー単位タイプの前記第１のラベル、または任意の他のポリマー単位タイプの前記第１のラベルへの遷移が許容されており、
各第２のラベルから同じポリマー単位タイプの前記第２のラベルへの遷移が許容されており、
各第２のラベルから任意の他のポリマー単位タイプの前記第２のラベルへの遷移が許容されていない、請求項２～４のいずれか一項に記載の方法。
【請求項6】
前記可能なポリマー単位タイプのセットが、ポリマー単位の既知の配列で常に現れるポリマー単位タイプを含み、前記既知の配列に従った遷移が許容されており、前記既知の配列に反した遷移が許容されていない、請求項２～５のいずれか一項に記載の方法。
【請求項7】
前記一連のポリマー単位における同じタイプのポリマー単位の連続的インスタンスが符号化形式で表される、請求項１～６のいずれか一項に記載の方法。
【請求項8】
前記ラベルが、各ポリマー単位タイプに関する複数のラベルを含み、各ポリマー単位タイプに関する前記複数のラベルが、前記一連のポリマー単位における前記ポリマー単位タイプの連続的インスタンスを表す、請求項７に記載の方法。
【請求項9】
各ポリマー単位タイプの前記複数のラベルが、所定の周期的順序を有し、それによって、ラベル間のいくつかの遷移が、前記所定の周期的順序によって許容されており、間の他の遷移が、前記所定の周期的順序によって許容されておらず、前記重み分布が各々、前記所定の周期的順序によって許容されている遷移に関する重みを含む、請求項８に記載の方法。
【請求項10】
各ポリマー単位タイプの前記複数のラベルが、各ポリマー単位タイプの２つのラベルである、請求項８または９に記載の方法。
【請求項11】
前記一連のポリマー単位における同じポリマー単位タイプの連続するインスタンスが、ランレングス符号化形式で表される、請求項７に記載の方法。
【請求項12】
前記ラベルが、各ポリマー単位タイプの異なるランレングスに関する複数のラベルを含む、請求項１１に記載の方法。
【請求項13】
前記ラベルが、各ポリマー単位タイプに関するラベルを含み、前記重み分布が、各ポリマー単位タイプの同じポリマー単位タイプの連続的インスタンスの可能な長さにわたるさらなる重みを含む、請求項１１に記載の方法。
【請求項14】
前記さらなる重みが、各ポリマー単位タイプの同じポリマー単位タイプの連続的インスタンスの可能な長さのセットにわたる重みのカテゴリカル分布を含む、請求項１３に記載の方法。
【請求項15】
前記さらなる重みが、各ポリマー単位タイプの同じポリマー単位タイプの連続的インスタンスの可能な長さにわたる、パラメータ化された分布のパラメータを含む、請求項１３に記載の方法。
【請求項16】
前記重み分布が、（ａ）所与のポリマー単位タイプおよび先行するポリマー単位タイプの可能な対の、（ｂ）所与のポリマー単位タイプおよび後続のポリマー単位タイプの可能な対の、または（ｃ）所与のポリマー単位タイプ、先行するポリマー単位タイプ、および後続のポリマー単位タイプの可能なトリプレットの同じポリマー単位タイプの連続的インスタンスの可能な長さにわたるさらなる重みを含む、請求項１３～１５のいずれか一項に記載の方法。
【請求項17】
前記可能なポリマー単位タイプが、非修飾形態および修飾形態を有するポリマー単位タイプを含む、請求項１～１６のいずれか一項に記載の方法。
【請求項18】
前記ラベルのセットが、非修飾形態および修飾形態を有する前記ポリマー単位タイプに関するラベルを含む、請求項１７に記載の方法。
【請求項19】
各重み分布が、前記非修飾形態および修飾形態を有する各前記ポリマー単位タイプの前記非修飾形態および修飾形態のさらなる重みを含む、請求項１８に記載の方法。
【請求項20】
前記ラベルのセットが、各ポリマー単位タイプを表す少なくとも１つのラベルを含む、請求項１～１９のいずれか一項に記載の方法。
【請求項21】
前記ラベルのセットが、前記一連のポリマー単位におけるブランクおよび／またはステイを表す少なくとも１つのラベルをさらに含む、請求項１～２０のいずれか一項に記載の方法。
【請求項22】
前記機械学習技術が、少なくとも１つの再帰層を含むニューラルネットワークである、請求項１～２１のいずれか一項に記載の方法。
【請求項23】
前記少なくとも１つの再帰層が、双方向再帰層である、請求項２２に記載の方法。
【請求項24】
前記ニューラルネットワークが、前記一連の重み分布にわたるラベルのすべての経路にわたって前記重み分布のグローバル正規化を適用する、請求項２２または２３に記載の方法。
【請求項25】
前記ニューラルネットワークが、前記少なくとも１つの再帰層の前に配置され、前記シグナルのウィンドウ化セクションの畳み込みを実行する、少なくとも１つの畳み込み層を含む、請求項２２～２４のいずれか一項に記載の方法。
【請求項26】
前記重みが事後確率を表す、請求項１～２５のいずれか一項に記載の方法。
【請求項27】
前記重み分布から前記一連のポリマー単位の推定値を導出するステップが、コネクショニスト時間分類を使用して実行される、請求項１～２６のいずれか一項に記載の方法。
【請求項28】
前記重み分布からポリマー単位の推定値を導出する前記ステップが、それぞれの重み分布に関するラベルを導出することと、前記導出されたラベルをランレングス圧縮することとを含む、請求項１～２７のいずれか一項に記載の方法。
【請求項29】
前記重み分布から前記一連のポリマー単位の推定値を導出する前記ステップが、前記重み分布を基準にして前記一連の重み分布にわたるラベルの最も可能性の高い経路を推定することと、最も可能性が高いと推定されたラベルの前記経路から前記一連のポリマー単位の前記推定値を導出することと、を含む、請求項１～２８のいずれか一項に記載の方法。
【請求項30】
前記重み分布から前記一連のポリマー単位の推定値を導出する前記ステップが、各重み分布に関する最も可能性が高い前記ラベルを推定することと、前記一連の重み分布にわたるラベルのフォワード経路とバックワードの経路を考慮に入れることと、最も可能性が高いと推定された前記ラベルから前記一連のポリマー単位の前記推定値を導出することと、を含む、請求項１～２８のいずれか一項に記載の方法。
【請求項31】
前記ナノ細孔がタンパク質細孔である、請求項１～３０のいずれか一項に記載の方法。
【請求項32】
前記ポリマーがポリヌクレオチドであり、前記ポリマー単位がヌクレオチドである、請求項１～３１のいずれか一項に記載の方法。
【請求項33】
前記シグナルが、イオン電流、インピーダンス、トンネリング特性、電界効果トランジスタ電圧、および光学特性のうちの１つ以上の特性の測定値から導出される、請求項１～３２のいずれか一項に記載の方法。
【請求項34】
前記方法が、コンピュータ装置で実行される、請求項１～３３のいずれか一項に記載の方法。
【請求項35】
ナノ細孔に対する前記ポリマーの転位中に前記ポリマーから前記シグナルを得ることをさらに含む、請求項１～３４のいずれか一項に記載の方法。
【請求項36】
ポリマーによって生じるシグナルをナノ細孔に対する前記ポリマーの転位中に分析するための分析装置であって、前記ポリマーが、可能なポリマー単位タイプのセットに属する一連のポリマー単位を含み、前記分析装置は、
前記シグナルに対して機械技術を実行し、一連の重み分布を出力するように構成された機械学習ユニットであって、各重み分布が、前記可能なポリマー単位タイプを表すラベルを含むラベルのセットにわたるラベル間の遷移に関する重みを含む、前記機械学習ユニットと、
前記重み分布から前記一連のポリマー単位の推定値を導出するように構成された推定ユニットと、を含む、前記分析装置。
【請求項37】
ポリマーによって生じるシグナルをナノ細孔に対する前記ポリマーの転位中に導出するように構成された測定デバイスと、請求項３６に記載の分析装置と
を含むナノ細孔測定および分析システム。
【請求項38】
ポリマーによって生じるシグナルをナノ細孔に対する前記ポリマーの転位中に分析する方法であって、前記ポリマーが、可能なポリマー単位タイプのセットに属する一連のポリマー単位を含み、前記方法は、
一連の重み分布を出力する機械学習技術を使用して前記シグナルを分析するステップであって、各重み分布が、前記可能なポリマー単位タイプを表すラベルを含むラベルのセットにわたるラベルに関する重みを含む、ステップと、
前記重み分布から前記一連のポリマー単位の推定値を導出するステップと
を含み、
前記一連のポリマー単位の推定値を導出するステップは、ラベル間の遷移が許容されるか許容されないかを表す遷移行列を考慮に入れ、ラベル間の少なくとも１つの遷移が許容されないものとして表され、他の遷移が許容されるものとして表される、前記方法。
【請求項39】
ポリマーによって生じるシグナルをナノ細孔に対する前記ポリマーの転位中に分析するための分析装置であって、前記ポリマーが、可能なポリマー単位タイプのセットに属する一連のポリマー単位を含み、前記分析装置は、
前記シグナルに対して機械技術を実行し、一連の重み分布を出力するように構成された機械学習ユニットであって、各重み分布が、可能なポリマー単位タイプを表すラベルを含むラベルのセットにわたるラベルに関する重みを含む、前記機械学習ユニットと、
前記重み分布から前記一連のポリマー単位の推定値を導出するように構成された推定ユニットと
を含み、
前記推定ユニットは、ラベル間の遷移が許容されるか許容されないかを表す遷移行列を考慮に入れるように構成され、ラベル間の少なくとも１つの遷移が許容されないものとして表され、他の遷移が許容されるものとして表される、分析装置。
【請求項40】
ポリマーによって生じるシグナルをナノ細孔に対する前記ポリマーの転位中に分析する方法であって、前記ポリマーが、可能なポリマー単位タイプのセットに属する一連のポリマー単位を含み、前記方法は、
一連の重み分布を出力する機械学習技術を使用してシグナルを分析するステップであって、各重み分布が、前記可能なポリマー単位タイプを表すラベルを含むラベルのセットにわたるラベルに関する重みを含み、前記一連のポリマー単位における同じポリマー単位タイプの連続的インスタンスが、ランレングス符号化形式で表される、ステップと、
前記重み分布から前記一連のポリマー単位の推定値を導出するステップと
を含む、前記方法。
【請求項41】
ポリマーによって生じるシグナルをナノ細孔に対する前記ポリマーの転位中に分析するための分析装置であって、前記ポリマーが、可能なポリマー単位タイプのセットに属する一連のポリマー単位を含み、前記分析装置は、
前記シグナルに対して機械技術を実行し、一連の重み分布を出力するように構成された機械学習ユニットであって、各重み分布が、前記可能なポリマー単位タイプを表すラベルを含むラベルのセットにわたるラベルに関する重みを含み、前記一連のポリマー単位における同じポリマー単位タイプの連続的インスタンスが、ランレングス符号化形式で表される、前記機械学習ユニットと、
前記重み分布から前記一連のポリマー単位の推定値を導出するように構成された推定ユニットと
を含む前記分析装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、限定されるものではないが、例えばポリヌクレオチドなどのナノ細孔に対するポリマーの転位中のポリマーによって生じるシグナルの分析に関する。
【0002】
ポリマーがナノ細孔に対して転位するナノ細孔を使用して、ポリマー中のポリマー単位の標的配列を推定するための測定システムは、既知である。システムのいくつかの特性は、ナノ細孔のポリマー単位に依存し、その特性の測定値が得られる。この特性は、ナノ細孔に対して転位するポリマー単位の一致度に依存しており、そのため、経時的なシグナルで、ポリマー単位のシーケンスが推定されることを可能にする。各ポリマー単位は、細孔の寸法と比較して非常に小さいものであり得、複数のポリマー単位が所与の期間でシグナルに影響を及ぼすことを可能にする。ポリマー鎖とナノ細孔との相互作用、巻き取りやスタッキングなどの鎖内の特性、またはポリマー単位とそれらの移動を制御するために使用されるいずれかのシステムとの間の相互作用により、より長距離の影響も存在し得る。シグナルはリードを形成し、これは基礎となるポリマー単位を推定するために復号される必要がある。
【0003】
このようなナノ細孔測定システムは、ヌクレオチドが数百～数十万（および場合によってはそれ超）にも及ぶようなポリヌクレオチドの長い連続リードを表すシグナルを提供することができる。ナノ細孔を使用するこのタイプの測定システムは、特にＤＮＡまたはＲＮＡなどのポリヌクレオチドの配列決定の分野で非常に効果的であることが示されており、最新の開発対象になっている。
【0004】
しかしながら、ポリマー単位の推定の精度は、測定システムの感度が極端に高いために制限される。実際の問題として、高精度の推定は機械学習技術を必要とし、本発明は、推定精度を高めるためにそのような分析を改善することに関する。
【0005】
初期の分析手法は、連続するポリマー単位のグループで構成される可能なｋ－ｍｅｒを明確にモデル化する隠れマルコフモデル（ＨＭＭ）が使用された。より最近では、リカレントニューラルネットワーク（ＲＮＮ）を使用する手法が開発されている。ＲＮＮを使用することで、長距離情報を考慮することが可能になり、精度を向上することができる。読み取り速度が向上し、その結果、ＨＭＭのような明示的なシグナルモデリングアプローチの基礎となる仮定の有効性が低くなることから、ＲＮＮは特に有用である。例として、Ｔｅｎｇ ｅｔ ａｌ，“Ｃｈｉｒｏｎ：Ｔｒａｎｓｌａｔｉｎｇ ｎａｎｏｐｏｒｅ ｒａｗ ｓｉｇｎａｌ ｄｉｒｅｃｔｌｙ ｉｎｔｏ ｎｕｃｌｅｏｔｉｄｅ ｓｅｑｕｅｎｃｅ ｕｓｉｎｇ ｄｅｅｐ ｌｅａｒｎｉｎｇ”，Ｇｉｇａｓｃｉｅｎｃｅ，２０１８年５月１日；７（５）［参考文献１］は、生シグナルが入力されるＲＮＮを使用してポリマーヌクレオチドを配列決定する方法を開示する。ＲＮＮは、４つの可能性のある塩基タイプとブランクを表すラベルに関する事後確率を含む一連の事後確率分布を出力する。これらは、コネクショニスト時間分類（ｃｏｎｎｅｃｔｉｏｎｉｓｔ ｔｅｍｐｏｒａｌ ｃｌａｓｓｉｆｉｃａｔｉｏｎ）デコーダによって復号され、事後確率から最も可能性の高いポリマー単位を推定することによって、一連のポリマー単位の推定値を導出する。
【0006】
本発明の第１の態様によれば、ポリマーによって生じるシグナルをナノ細孔に対するポリマーの転位中に分析する方法が提供されており、ポリマーは、可能なポリマー単位タイプのセットに属する一連のポリマー単位を含んでおり、本方法は、一連の重み分布を出力する機械学習技術を使用してシグナルを分析することであって、各重み分布が、可能なポリマー単位タイプを表すラベルを含んだラベルのセットにわたるラベル間の遷移に関する重みを含んでいることと、重み分布から一連のポリマー単位の推定値を導出することと、を含む。
【0007】
ラベルのセットは、ブランクおよび／またはステイを表すラベルを含むことができる。言い換えると、このセットは、可能なポリマー単位タイプを表すと言うことができる。
【0008】
この遷移は、あるラベルと別のラベルとの間のものであり得る。この遷移は、連続するラベル間のものであり得る。
【0009】
したがって、本方法は、ｋ個のポリマー単位を含むｋ－ｍｅｒを表すのではなく、可能なポリマー単位タイプを表すラベルを示す重みを提供する。しかしながら、本方法は、ラベル自体に関する重みではなく、ラベル間の遷移に関する重みを導出する。そのような方法は、可能なポリマー単位タイプを表すラベルを含むラベルのセットにわたるラベルに関する一連の重みを導出する比較法よりも利点をもたらす。ラベルのセットにわたるラベル間の遷移に関する重みを提供することにより、より正確な様式で一連のポリマー単位の推定を可能にする追加情報が提供される。これは、重みがラベルの可能な経路に関する情報を提供するのに対し、ラベルに関する重みは提供しないためである。
【0010】
例えば、ラベルに関する重みによって予測される特定の位置について、ラベルが正しくない状況があるが、一方で、その位置を通るラベルの経路を考慮することで、正しい別のラベルが予測され得る。このようにして、追加情報が推定に供給され、それによって精度を向上させる。
【0011】
例として、この技術は、例えば、ホモポリマーなど、１つ以上のポリマー単位の短い配列が繰り返される領域を含む反復配列の領域の、より良好な推定を可能にする。
【0012】
好ましくは、ラベル間の少なくとも１つの遷移が許容されておらず、他の遷移が許容されており、重み分布は各々、許容されている遷移に関する重みを含んでいる。その場合、重み分布は各々、許容されてない遷移に関するヌル重みを含むことができ、または一連のポリマー単位の推定値を導出するステップは、ラベル間の遷移が許容されるか許容されないかを表す遷移行列を考慮に入れることができる。
【0013】
表現の１つのタイプでは、ラベルのセットは、各ポリマー単位タイプに関する第１および第２のラベルを含むことができ、第１のラベルはポリマー単位タイプのインスタンスの開始を表し、第２のラベルはポリマー単位タイプのインスタンスにおけるステイを表しており、各第１のラベルから任意の他のポリマー単位タイプの第１のラベルへの遷移が許容されており、各第１のラベルから同じポリマー単位タイプの第１のラベルへの遷移が許容されており、各第１のラベルから同じポリマー単位タイプの第２のラベルへの遷移が許容されており、各第１のラベルから任意の他のポリマー単位タイプの第２のラベルへの遷移が許容されておらず、各第２のラベルから同じポリマー単位タイプの第１のラベル、または任意の他のポリマー単位タイプの第１のラベルへの遷移が許容されており、各第２のラベルから同じポリマー単位タイプの第２のラベルへの遷移が許容されており、各第２のラベルから任意の他のポリマー単位タイプの第２のラベルへの遷移が許容されていない。
【0014】
「ステイ」は、本方法が、ラベルが変化しないと判断する状況を表し、このことは、ポリマー単位の同じインスタンスに対応する２つの重み分布と見なされ得る。
【0015】
可能なポリマー単位タイプのセットは、ポリマー単位の既知の配列で常に現れるポリマー単位タイプを含むことができ、既知の配列に従った遷移が許容されており、既知の配列に反した遷移が許容されていない。
【0016】
一連のポリマー単位の中で同じポリマー単位タイプの連続的インスタンスが、符号化形式で表されることができる。
【0017】
ラベルが、各ポリマー単位タイプに関する、例えば２つのラベルなどの複数のラベルを含むことができ、各ポリマー単位タイプに関する複数のラベルが、一連のポリマー単位におけるポリマー単位タイプの連続的インスタンスを表す。
【0018】
各ポリマー単位タイプに関する複数のラベルは、所定の周期的順序を有することができ、それにより、ラベル間のいくつかの遷移が、所定の周期的順序によって許容されており、ラベル間の他の遷移が、所定の周期的順序によって許容されておらず、重み分布が、所定の周期的順序によって許容されている遷移に関する重みを含む。
【0019】
一連のポリマー単位内の同じポリマー単位タイプの連続するインスタンスは、ランレングス符号化形式で表される。
【0020】
これらのラベルは、各ポリマー単位タイプの異なるランレングスに関する複数のラベルを含み得る。
【0021】
これらのラベルは、各ポリマー単位タイプに関する１つのラベルを含むことができ、重み分布が、各ポリマー単位タイプについて、同じポリマー単位タイプの連続的インスタンスの可能な長さにわたるさらなる重みを含むことができる。
【0022】
さらなる重みは、各ポリマー単位タイプについて、同じポリマー単位タイプの連続的インスタンスの可能な長さのセットにわたる重みのカテゴリカル分布を含むことができる。
【0023】
さらなる重みは、各ポリマー単位タイプについて、同じタイプのポリマー単位の連続するインスタンスの可能な長さにわたるパラメータ化された分布のパラメータを含むことができる。
【0024】
可能なポリマー単位タイプは、非修飾および修飾の形態を有するポリマー単位タイプを含む場合、ラベルのセットが、非修飾形態および修飾形態を有するポリマー単位タイプを表すラベルを含み得、各重み分布は、非修飾形態および修飾形態を有する少なくとも１つのポリマー単位タイプの各々の非修飾形態および修飾形態について、さらなる重みを含み得る。ポリマー単位の非修飾形態は、カノニカルポリマー単位として説明され得、ポリマー単位の修飾形態は、非カノニカルポリマー単位として説明され得る。修飾（または非カノニカル）ポリマー単位は、通常、対応する非修飾（カノニカル）ポリマー単位とは異なる形でシグナルに影響を及ぼす。
【0025】
いくつかの実施形態において、１つ以上の非カノニカルポリマー単位を含むポリマーは、参照が行われ、参照により本明細書に組み込まれている２０１９年９月４日に出願された国際特許出願第ＰＣＴ／ＧＢ２０１９／０５２４５６号に詳細に記載されるように調製され、続いて分析され得る。一例では、ある割合のカノニカルポリマー単位（例えば、アミノ酸）は、非決定論的な方法で、例えば、化学変換または酵素変換によって、対応する非カノニカルポリマー単位（例えば、アミノ酸）に変換され得る。その場合、一連のポリマー単位の推定値を導出（「呼び出し」）するとき、非カノニカル塩基は、対応するカノニカル塩基であると推定（「呼び出される」）されることができる。このように、非カノニカルポリマー単位の分析においてカノニカルポリマー単位として認識することにより、初期変換は、例えば、シグナルの分析に存在するいずれかの誤差が非体系的になる結果になるなど、シグナルにより多くの情報を提供する方法を提供することができ、それによって、推定精度の向上をもたらす。
【0026】
ラベルのセットは、各ポリマー単位タイプに関する少なくとも１つのラベル、および一連のポリマー単位内のブランクに関する少なくとも１つのラベルを含み得る。
【0027】
機械学習技術は、双方向回帰層であり得る少なくとも１つの回帰層を含むニューラルネットワークであり得る。
【0028】
ニューラルネットワークは、一連の重み分布を通るすべての経路にわたって重み分布のグローバル正規化を適用することができる。
【0029】
ニューラルネットワークは、回帰層の前に配置され、シグナルのウィンドウ化されたセクションの畳み込みを実行する複数の畳み込み層を含み得る。
【0030】
これらの重みは事後確率を表し得る。
【0031】
重み分布から一連のポリマー単位の推定値を導出するステップは、コネクショニスト時間分類を使用して実行することができる。
【0032】
重み分布から一連のポリマー単位の推定値を導出するステップは、各重み分布に関するラベルを導出すること、および導出されたラベルをランレングス圧縮することを含み得る。
【0033】
重み分布から一連のポリマー単位の推定値を導出するステップが、重み分布を基準にして一連の重み分布を通るラベルの最も可能性の高い経路を推定することを含み得、一連のポリマー単位の推定値は、最も可能性が高いと推定されたラベルの経路から導出される。
【0034】
代替的に、重み分布から一連のポリマー単位の推定値を導出するステップが、各重み分布に関する最も可能性が高いラベルを推定すること、および一連の重み分布を通るラベルのフォワードとバックワードの経路を考慮に入れることを含み得、一連のポリマー単位の推定値が、最も可能性が高いと推定されたラベルから導出される。
【0035】
本発明の第２の態様によれば、ポリマーによって生じるシグナルをナノ細孔に対するポリマーの転位中に分析する方法が提供されており、本方法は、一連の重み分布を出力する機械学習技術を使用してシグナルを分析することであって、各重み分布が、可能なポリマー単位タイプを表すラベルを含むラベルのセットにわたるラベルに関する重みを含んでいることと、重み分布から一連のポリマー単位の推定値を導出することと、を含み、ここで、一連のポリマー単位の推定値を導出するステップは、ラベル間の遷移が許容されるか許容されないかを表す遷移行列を考慮に入れ、ラベル間の少なくとも一方の遷移は、許容されないものとして表されており、他方の遷移は、許容されたものとして表される。
【0036】
本発明の第３の態様によれば、ポリマーによって生じるシグナルをナノ細孔に対するポリマーの転位中に分析する方法が提供されており、ポリマーは、可能なポリマー単位タイプのセットに属する一連のポリマー単位を含み、本方法は、一連の重み分布を出力する機械学習技術を使用してシグナルを分析することであって、各重み分布が、可能なポリマー単位タイプを表すラベルを含むラベルのセットにわたるラベルに関する重みを含み、一連のポリマー単位内の同じポリマー単位タイプの連続的インスタンスがランレングス符号化形式で表されていることと、重み分布から一連のポリマー単位の推定値を導出することと、を含む。
【0037】
第１の態様のいずれかの特徴は、本発明の第２および第３の態様に任意の組み合わせで適用することができる。
【0038】
さらに、本発明によれば、本方法は、コンピュータ装置で実行されるコンピュータプログラムによって実施されてもよく、または同様の方法を、本発明のいずれかの態様に実施するように構成された分析装置が提供されてもよい。
【0039】
さらに本発明によれば、ナノ細孔測定および分析システムが提供され得、ナノ細孔に対するポリマーの転位中にポリマーからシグナルを導出するように構成された測定システムと組み合わせられたような分析装置を含む。
【0040】
より良好な理解を可能にするために、本発明の実施形態は、添付の図面を参照して非限定的な例としてここで説明される。
【図面の簡単な説明】
【0041】
【図1】ナノ細孔測定および分析システムの概略図である。
【図2】時間の経過に伴う典型的なシグナルのプロットである。
【図3】分析システムにおけるニューラルネットワークの図である。
【図4】ニューラルネットワークのウィンドウィングセクションの動作を示すシグナルの一部のプロットである。
【図5】ＲＮＮの再帰層の図である。
【図6】非再帰層の図である。
【図7】一方向層の図である。
【図8】「フォワード」と「バックワード」の再帰層を組み合わせた双方向再帰層の図である。
【図9】「フォワード」と「バックワード」の再帰層を交互に組み合わせた代替双方向再帰層の図である。
【図10】４つのタイプのポリヌクレオチドを表すラベル間の遷移に関する重み分布の表である。
【図11】４つのタイプのポリヌクレオチドとブランクを表すラベル間の遷移に関する重み分布の表である。
【図12】５つのタイプのポリヌクレオチド（そのうちの１つはメチル化Ｃ）とブランクを表すラベル間の遷移に関する重み分布の表である。
【図13】重みが４つのタイプのポリヌクレオチドの各々について２つのラベルを含むラベル間の遷移に関する、重み分布の表である。
【図14】重みがフリップフロップ表現を使用してホモポリマーを表している、重み分布の表である。
【図15】６－ｍｅｒのシグナルモデルと、読み取りヘッドおよびシステムの他のコンポーネントに対するおおよその位置を使用する、４つの塩基の残留電流のプロットである。
【図16】重みがランレングス符号化表現を使用してホモポリマーを表す重み分布の表である。
【図17】重みが、ランレングス符号化表現の異なる定式化を使用してホモポリマーを表す重み分布の表である。
【図18】重み分布のさらなる重みの表であり、各可能なホモポリマータイプについて、可能な長さのセットにわたるカテゴリ分布を表す。
【図19】重み分布のさらなる重みの表であり、各可能なホモポリマータイプについて、可能な長さにわたるパラメータ化された分布を表す。
【図20】平均および分散パラメータの異なる値によって表される２つの分布のプロットである。
【図21】ホモポリマーを表すために使用することができる可能な分布の表である。
【図22】重み分布のさらなる重みの表であり、各可能なポリマー単位の対について、可能な長さのセットにわたるカテゴリ分布を表す。
【図23】重み分布のさらなる重みの表であり、各ポリマー単位の可能なトリプレットについて、可能な長さのセットにわたるカテゴリ分布を表す。
【図24】ラベルのセットが、修飾ポリマー単位に関するラベルを含むように拡張された重み分布の表である。
【図25】修飾の因数分解された表現における、ポリマー単位タイプの非修飾形態および修飾形態のさらなる重みの表である。
【図26】５－塩基の表現について、シグナルのプロットおよびそこから推定されたポリマー単位である。
【図27】ニューラルネットワークのデコーダによって実行される方法のフロー図である。
【図28】様々な復号アルゴリズムの定義である。
【図29】様々な復号アルゴリズムの定義である。
【図30】様々な復号アルゴリズムの定義である。
【図31】さらなる復号アルゴリズムの定義である。
【図32】フリップフロップ表現のための目的遷移行列を構築するためのアルゴリズムの定義である。
【図33】すべての経路にわたるトレーニングのための目的関数の定義である。
【図34】マルチステイ表現のための目的遷移行列を構築するためのアルゴリズムの定義である。
【図35】ランレングス符号化表現のための目的遷移行列を構築するためのアルゴリズムの定義である。
【図36】シグナルのプロットおよびそこから推定されるポリマー単位であり、長いホモポリマーの例を示している。
【図37】最良経路をトレーニングするための目的関数の定義である。
【図38】ファンクターの表である。
【図39】シグナルのプロットおよびそこから推定されるポリマー単位であり、フリップフロップ表現がシャープニングを使用してトレーニングされる一例を示している。
【図40】シャープニングを用いずにトレーニングされた表現、およびシャープニングを用いてトレーニングされた表現について、推定された一連のポリマー単位の基準に対する整列を示す表である。
【0042】
図１は、測定システム２および分析システム３を含むナノ細孔測定および分析システム１を示す。測定システム２は、ナノ細孔に対するポリマーの転位中に、一連のポリマー単位を含むポリマーからのシグナルを導出する。分析システム３は、一連のポリマー単位の推定値を導出するためのシグナル分析の方法を実行する。
【0043】
一般に、ポリマーは、任意のタイプ、例えば、ポリヌクレオチド（または核酸）、タンパク質などのポリペプチド、または多糖であり得る。ポリマーは、天然または合成であり得る。ポリヌクレオチドは、ホモポリマー領域を含み得る。ホモポリマー領域は、５～１５ヌクレオチドを含み得る。
【0044】
ポリヌクレオチドまたは核酸の場合、ポリマー単位はヌクレオチドであり得る。ポリヌクレオチドは、典型的には、デオキシリボ核酸（ＤＮＡ）、リボ核酸（ＲＮＡ）、ｃＤＮＡ、または、当該技術分野で既知の任意の合成核酸、例えば、ペプチド核酸（ＰＮＡ）、グリセロール核酸（ＧＮＡ）、トレオース核酸（ＴＮＡ）、ロックド核酸（ＬＮＡ）、もしくはヌクレオチド側鎖を有する他の合成ポリマーであり得る。ＰＮＡ骨格は、ペプチド結合によって連結した繰り返しＮ－（２－アミノエチル）－グリシン単位で構成される。ＧＮＡ骨格は、ホスホジエステル結合によって連結した繰り返しグリコール単位で構成される。ＴＮＡ骨格は、ホスホジエステル結合によって共に連結した繰り返しトレオース糖で構成される。ＬＮＡは、上で考察されたように、リボース部分における２’酸素および４’炭素を接続する余分な架橋を有するリボヌクレオチドから形成される。核酸は、一本鎖、二本鎖、または一本鎖領域および二本鎖領域の両方を含み得る。ポリヌクレオチドは、ＤＮＡの１本の鎖にハイブリダイズされたＲＮＡの一本鎖を含み得る。典型的には、ｃＤＮＡ、ＲＮＡ、ＧＮＡ、ＴＮＡ、またはＬＮＡは一本鎖である。
【0045】
ポリマー単位は、任意のタイプのヌクレオチドであり得る。ヌクレオチドは、天然に存在しても人工であってもよい。例えば、本方法を使用して、製造されたオリゴヌクレオチドの配列を確かめることができる。ヌクレオチドは、典型的には、核酸塩基、糖、および少なくとも１つのリン酸基を含む。核酸塩基および糖は、ヌクレオシドを形成する。核酸塩基は、典型的には、複素環である。好適な核酸塩基には、プリンおよびピリミジン、より具体的にはアデニン、グアニン、チミン、ウラシル、およびシトシンが含まれる。糖は、典型的には、五炭糖である。好適な糖には、リボース、およびデオキシリボースが含まれるが、これらに限定されない。ヌクレオチドは、典型的には、リボヌクレオチドまたはデオキシリボヌクレオチドである。ヌクレオチドは、典型的には、一リン酸、二リン酸、または三リン酸を含む。
【0046】
ヌクレオチドは、損傷した塩基または後成的塩基などの修飾された塩基であり得る。例えば、ポリヌクレオチドは、ピリミジンダイマーを含み得る。かかるダイマーは、典型的には、紫外線による損傷に関連付けられ、皮膚メラノーマの主因である。ヌクレオチドは、明確なシグナルを有するマーカーとして機能するようにラベリングまたは修飾されることができる。この技術は、例えば、ポリヌクレオチド中の無塩基単位またはスペーサーである塩基の不在を同定するために使用されることができる。本方法はまた、あらゆるタイプのポリマーにも適用することができる。
【0047】
ポリペプチドの場合、ポリマー単位は、天然に存在するかまたは合成されるアミノ酸であり得る。
【0048】
多糖の場合、ポリマー単位は単糖であり得る。
【0049】
特に、測定システム２がナノ細孔を含み、ポリマーがポリヌクレオチドを含む場合、ポリヌクレオチドは長く、例えば、少なくとも５ｋＢ（キロ－塩基）、すなわち少なくとも５０００ヌクレオチド、または少なくとも３０ｋＢ（キロ－塩基）、すなわち少なくとも３０，０００ヌクレオチド、または少なくとも１００ｋＢ（キロ－塩基）、すなわち少なくとも１００，０００ヌクレオチドであり得る。
【0050】
測定システム２の特性と得られたシグナルは以下の通りである。
【0051】
測定システム２は、１つ以上のナノ細孔を含むナノ細孔システムである。単純なタイプでは、測定システム２は単一のナノ細孔しか有さないが、より実用的な測定システム２は、情報の並列収集を提供するために、典型的にはアレイ内の多くのナノ細孔を使用する。
【0052】
シグナルは、通常はナノ細孔を通る、ポリマーのナノ細孔に対する転位中に記録され得る。
【0053】
ナノ細孔は、典型的にはナノメートルのオーダーのサイズを有する細孔であり、そこを通るポリマーの通過を可能にし得る。
【0054】
ナノ細孔は、タンパク質細孔または固体細孔であり得る。細孔の寸法は、一度に１つのポリマーのみが細孔を転位することができるようなものであり得る。
【0055】
ナノ細孔がタンパク質細孔である場合には以下の特性を有し得る。
【0056】
生物学的細孔は、膜貫通タンパク質細孔であり得る。本発明に従って使用するための膜貫通タンパク質細孔は、βバレル細孔またはαヘリックスバンドル細孔から誘導され得る。β－バレル細孔は、β鎖から形成されるバレルまたはチャネルを含む。好適なβ－バレル細孔としては、α－溶血毒、炭疽毒素、およびロイコシジンなどのβ－毒素、ならびにＭｙｃｏｂａｃｔｅｒｉｕｍ ｓｍｅｇｍａｔｉｓポリン（Ｍｓｐ）、例えばＭｓｐＡ、ＭｓｐＢ、ＭｓｐＣ、またはＭｓｐＤ、リセニン、外膜ポリンＦ（ＯｍｐＦ）、外膜ポリンＧ（ＯｍｐＧ）、外膜ホスホリパーゼＡおよびＮｅｉｓｓｅｒｉａオートトランスポーターリポタンパク質（ＮａｌＰ）などの細菌の外膜タンパク質／ポリンなどの他の細孔が挙げられるが、これらに限定されない。α－ヘリックスバンドル細孔は、α－ヘリックスから形成されるバレルまたはチャネルを含む。好適なα－ヘリックスバンドル細孔は、内膜タンパク質およびα外膜タンパク質、例えばＷＺＡおよびＣｌｙＡ毒素を含むが、これらに限定されない。膜貫通孔は、Ｍｓｐまたはα－溶血素（α－ＨＬ）に由来し得る。膜貫通孔はリセニンに由来してもよい。リセニン由来の好適な細孔は、ＷＯ２０１３／１５３３５９に開示されている。ＭｓｐＡ由来の好適な細孔は、ＷＯ２０１２／１０７７７８に開示されている。細孔は、ＷＯ‐２０１６／０３４５９１に開示されているように、ＣｓｇＧに由来し得る。この細孔は、ＤＮＡ折り紙細孔であり得る。
【0057】
タンパク質細孔は、天然に存在する細孔であり得、または変異体細孔であり得る。典型的な細孔は、ＷＯ－２０１０／１０９１９７、Ｓｔｏｄｄａｒｔ Ｄ ｅｔ ａｌ．，Ｐｒｏｃ Ｎａｔｌ Ａｃａｄ Ｓｃｉ，１２；１０６（１９）：７７０２－７、Ｓｔｏｄｄａｒｔ Ｄ ｅｔ ａｌ．，Ａｎｇｅｗ Ｃｈｅｍ Ｉｎｔ Ｅｄ Ｅｎｇｌ．２０１０；４９（３）：５５６－９、Ｓｔｏｄｄａｒｔ Ｄ ｅｔ ａｌ．，Ｎａｎｏ Ｌｅｔｔ．２０１０ Ｓｅｐ ８；１０（９）：３６３３－７、Ｂｕｔｌｅｒ ＴＺ ｅｔ ａｌ．，Ｐｒｏｃ Ｎａｔｌ Ａｃａｄ Ｓｃｉ ２００８；１０５（５２）：２０６４７－５２、およびＷＯ－２０１２／１０７７７８に記載される。
【0058】
タンパク質細孔は、ＷＯ－２０１５／１４０５３５に記載されているタイプのタンパク質細孔の１つであり得、そこに開示されている配列を有し得る。
【0059】
タンパク質細孔は、生体膜などの両親媒性層、例えば脂質二重層に挿入することができる。両親媒性層は、親水および親油特性の両方を有する、リン脂質などの両親媒性分子から形成された層である。両親媒性層は、単分子層または二重層であり得る。両親媒性層は、Ｇｏｎｚａｌｅｚ‐Ｐｅｒｅｚ ｅｔ ａｌ．，Ｌａｎｇｍｕｉｒ，２００９，２５，１０４４７‐１０４５０またはＷＯ２０１４／０６４４４４に開示されているような共ブロックポリマーであってもよい。代替的に、タンパク質細孔は、例えば、ＷＯ２０１２／００５８５７に開示されているように、固体層に設けられた開口に挿入され得る。
【0060】
ナノ細孔のアレイを提供するための好適な装置は、ＷＯ－２０１４／０６４４４３に開示されている。ナノ細孔は、各ウェルを横切って提供され得、電極は、各ナノ細孔を通る電流の流れを測定するためのＡＳＩＣと電気的に接続された各ウェルに提供される。好適な電流測定装置は、ＷＯ－２０１６／１８１１１８に開示されるような電流感知回路を含み得る。
【0061】
ナノ細孔は、固体層に形成された開口を含み得、これは、固体細孔と呼ばれ得る。開口は、分析物が通過することがある、またはそこに入ることができる固体層に提供されるウェル、ギャップ、チャネル、トレンチ、またはスリットであり得る。このような固体層は、生物学的起源のものではない。換言すれば、固体層は、有機体または細胞等の生物学的環境、もしくは生物学的に利用可能な構造の合成的に製造されたバージョンに由来しないか、またはそれらから単離されない。固体層は、マイクロ電子材料、Ｓｉ３Ｎ４、Ａ１２０３およびＳｉＯなどの絶縁材料、ポリアミドなどの有機および無機ポリマー、テフロン（登録商標）などのプラスチックまたは二成分付加硬化型シリコーンゴムなどのエラストマー、ならびにガラスを含むがこれらに限定されない有機材料および無機材料の両方から形成することができる。固体層はグラフェンから形成されてもよい。好適なグラフェン層は、ＷＯ‐２００９／０３５６４７、ＷＯ‐２０１１／０４６７０６、またはＷＯ‐２０１２／１３８３５７に開示されている。固体細孔のアレイを準備するための好適な方法は、ＷＯ‐２０１６／１８７５１９に開示されている。
【0062】
そのような固体細孔は、典型的には、固体層の開口である。開口は、ナノ細孔としての特性を強化するために、化学的またはその他の方法で変更することができる。固体細孔は、トンネル電極（Ｉｖａｎｏｖ ＡＰ ｅｔ ａｌ．，Ｎａｎｏ Ｌｅｔｔ．２０１１ Ｊａｎ １２；１１（１）：２７９－８５）、または電界効果トランジスタ（ＦＥＴ）デバイス（例えば、ＷＯ－２００５／１２４８８８に開示されている）などのポリマーの代替または追加の測定を提供する追加のコンポーネントと組み合わせて使用することができる。固体細孔は、例えば、ＷＯ－００／７９２５７に記載されているものを含む既知のプロセスによって形成され得る。
【0063】
ナノ細孔は、固体細孔とタンパク質細孔のハイブリッドであり得る。
【0064】
測定システム２は、細孔に対して転位するポリマー単位に依存する特性の一連の測定を行う。一連の測定はシグナルから測定され得る。
【0065】
測定された特性は、ポリマーと細孔の間の相互作用に関連付けられ得る。このような相互作用は、細孔の狭窄領域で発生する可能性がある。
【0066】
測定システム２の１つのタイプでは、測定される特性は、ナノ細孔を通って流れるイオン電流であり得る。これらの、および他の電気的測定は、Ｓｔｏｄｄａｒｔ Ｄ ｅｔ ａｌ．，Ｐｒｏｃ Ｎａｔｌ Ａｃａｄ Ｓｃｉ，１２；１０６（１９）：７７０２－７、Ｌｉｅｂｅｒｍａｎ ＫＲ ｅｔ ａｌ，Ｊ Ａｍ Ｃｈｅｍ Ｓｏｃ．２０１０；１３２（５０）：１７９６１－７２、およびＷＯ－２０００／２８３１２に記載されているような標準の単一チャネル記録装置を使用して行うことができる。代替的に電気的特性の測定は、例えば、ＷＯ－２００９／０７７７３４、ＷＯ－２０１１／０６７５５９、またはＷＯ－２０１４／０６４４４３に記載されているようなマルチチャネルシステムを使用して実行されてもよい。
【0067】
イオン性溶液は、膜または固体層のいずれかの側に提供され得、これらのイオン性溶液は、それぞれの区画に存在し得る。目的のポリマー分析物を含むサンプルを膜の片側に追加し、例えば電位差または化学勾配の下で、ナノ細孔に対して移動することを可能にする。シグナルは、ポリマーの細孔に対する移動中に導出されることができ、例えば、ナノ細孔を通るポリマーの転位中に得られ得る。ポリマーは、ナノ細孔を部分的に転位し得る。
【0068】
ポリマーがナノ細孔を通って転位するときに測定値を得ることを可能にするために、転位の速度は、ポリマー結合部分によって制御することができる。典型的には、部分は、適用された電場と共に、またはそれに対して、ナノ細孔を通してポリマーを移動することができる。いくつかの実施形態では、部分は、例えば、部分が酵素、酵素活性である場合、または分子ブレーキとして使用する分子モーターであり得る。ポリマーがポリヌクレオチドであるいくつかの実施形態では、ポリヌクレオチド結合酵素の使用を含む、転位の速度を制御するために提案されたいくつかの方法がある。ポリヌクレオチドの転位の速度を制御するための好適な酵素には、ポリメラーゼ、ヘリカーゼ、エキソヌクレアーゼ、一本鎖および二本鎖結合タンパク質、ならびにジャイレースなどのトポイソメラーゼが含まれるが、これらに限定されない。他のポリマータイプの場合、そのポリマータイプと相互作用する部分をいくつかの実施形態で使用することができる。いくつかの実施形態では、ポリマー相互作用部分は、ＷＯ－２０１０／０８６６０３、ＷＯ－２０１２／１０７７７８、およびＬｉｅｂｅｒｍａｎ ＫＲ ｅｔ ａｌ，Ｊ Ａｍ Ｃｈｅｍ Ｓｏｃ．２０１０；１３２（５０）：１７９６１－７２）、ならびに電圧ゲート方式（Ｌｕａｎ Ｂ ｅｔ ａｌ．，Ｐｈｙｓ Ｒｅｖ Ｌｅｔｔ．２０１０；１０４（２３）：２３８１０３）に開示されるいずれかであり得る。
【0069】
いくつかの実施形態では、ポリマー結合部分は、ポリマーの動きを制御するためにいくつかの方法で使用することができる。部分は、適用された電場と共に、またはそれに対して、ナノ細孔を通してポリマーを移動することができる。いくつかの実施形態では、部分は、例えば、部分が酵素、酵素活性である場合、または分子ブレーキとして使用する分子モーターであり得る。いくつかの実施形態では、ポリマーの転位は、細孔を通るポリマーの移動を制御する分子ラチェットによって制御され得る。いくつかの実施形態では、分子ラチェットは、ポリマー結合タンパク質であり得る。ポリヌクレオチドに関して、ポリヌクレオチド結合タンパク質は、好ましくは、ポリヌクレオチドハンドリング酵素である。ポリヌクレオチドハンドリング酵素は、ポリヌクレオチドの少なくとも１つの特性と相互作用すること、かつそれを修飾することができるポリペプチドである。酵素は、個々のヌクレオチドまたはヌクレオチドのより短い鎖、例えばジ－またはトリヌクレオチドを形成するために、ポリヌクレオチドを切断することによってポリヌクレオチドを修飾してもよい。酵素は、それを配向するか、またはそれを特定の位置に移動させることによって、ポリヌクレオチドを修飾してもよい。ポリヌクレオチドハンドリング酵素は、それが、標的ポリヌクレオチドに結合し、かつ細孔を通るその移動を制御することができる限り、酵素活性を提示する必要がない。例えば、酵素を、その酵素活性を除去するために修飾してもよく、または酵素として作用することを防ぐ条件下で使用してもよい。そのような条件は以下でより詳しく考察される。
【0070】
いくつかの実施形態では、好ましいポリヌクレオチドハンドリング酵素は、ポリメラーゼ、エキソヌクレアーゼ、ヘリカーゼ、およびトポイソメラーゼ、例えば、ジャイレースである。いくつかの実施形態では、ポリヌクレオチドハンドリング酵素は、例えば、ＷＯ－２０１５／１４０５３５またはＷＯ－２０１０／０８６６０３に記載されているタイプのポリヌクレオチドハンドリング酵素のうちの１つであり得る。
【0071】
ナノ細孔を介したポリマーの転位は、印加された電位の有無にかかわらず、シスからトランスまたはトランスからシスのいずれかで発生してもよい。転位は、転位を制御する可能性のある印加電位下で発生する可能性がある。
【0072】
二本鎖ＤＮＡ上で進行的または前進的に作用するエキソヌクレアーゼを細孔のシス側に使用して、印加された電位下で、または逆電位下のトランス側で、残りの一本鎖を貫通接続することができる。同様に、二本鎖ＤＮＡを巻き戻すヘリカーゼも類似の様式で使用することができる。印加電位に対する鎖転位を必要とする配列決定用途の可能性もあるが、ＤＮＡは最初に逆電位または非電位下で酵素によって「捕捉され」なければならない。その後、結合に続いて電位が戻されると、鎖は、細孔をシスからトランスへと通り、電流によって拡張された立体構造で保持されることになる。一本鎖ＤＮＡエキソヌクレアーゼまたは一本鎖ＤＮＡ依存性ポリメラーゼは分子モーターとして作用して、印加された電位に対して、新たに転位した一本鎖を、制御された様式で細孔を通ってトランスからシスへと引き戻すことができる。代替的に、一本鎖ＤＮＡ依存性ポリメラーゼは、細孔を通るポリヌクレオチドの動きを遅らせる分子ブレーキとして作用することができる。ＷＯ－２０１２／１０７７７８またはＷＯ－２０１２／０３３５２４に記載されている任意の部分、技術または酵素を使用して、ポリマーの動きを制御することができる。
【0073】
しかしながら、測定システム２は、１つ以上のナノ細孔を含む代替のタイプのものであり得る。
【0074】
同様に、測定される特性は、イオン電流以外のタイプのものであることがある。代替タイプの特性のいくつかの例には、電気的特性および光学特性が含まれるが、これらに限定されない。蛍光の測定を含む好適な光学的方法は、Ｊ．Ａｍ．Ｃｈｅｍ．Ｓｏｃ．２００９，１３１ １６５２－１６５３によって開示されている。可能な電気的特性には、イオン電流、インピーダンス、トンネリング特性、例えば、トンネリング電流（例えば、Ｉｖａｎｏｖ ＡＰ ｅｔ ａｌ．，Ｎａｎｏ Ｌｅｔｔ．２０１１ Ｊａｎ １２；１１（１）：２７９－８５に開示されている）、およびＦＥＴ（電界効果トランジスタ）電圧（例えば、ＷＯ２００５／１２４８８８に開示されている）が含まれる。１つ以上の光学特性が使用されることができ、任意選択で電気特性と組み合わせられる（Ｓｏｎｉ ＧＶ ｅｔ ａｌ．，Ｒｅｖ Ｓｃｉ Ｉｎｓｔｒｕｍ．２０１０ Ｊａｎ；８１（１）：０１４３０１）。この特性は、ナノ細孔を流れるイオン電流などの膜貫通電流であり得る。イオン電流は典型的には、ＤＣイオン電流であってもよいが、原則として、代替案は、ＡＣ電流フロー（すなわち、ＡＣ電圧の印加下で流れるＡＣ電流の大きさ）を使用することもできる。
【0075】
いくつかのタイプの測定システム２では、このシグナルは、一連のイベントからの測定値を含むものとして特徴付けられることができ、各イベントは測定値の群を提供する。図２は、電流を測定する場合のそのようなシグナル１０の典型的な例を示す。各イベントの測定値の群のレベルは類似しているが、多少の差異はある。これは、各ステップがイベントに対応するノイズの多いステップ波と考えることができる。イベントは、例えば、測定システム２の所与の状態または相互作用から生じる生化学的重要性を有し得る。これは、場合によっては、ラチェット様式で発生するナノ細孔を介したポリマーの転位から生じる可能性がある。しかしながら、このタイプのシグナルは、すべてのタイプの測定システムによって生成されるわけではなく、本明細書で説明される方法は、シグナルのタイプには依存しない。例えば、転位速度が測定サンプリング速度に近づくと、例えば、ポリマー単位の転位速度の１倍、２倍、５倍、または１０倍で測定が行われる場合、イベントは、より遅い配列決定速度、またはより速いサンプリングレートと比較して、より顕在化しないか、または存在しないことがある。
【0076】
さらに、イベントが存在する場合、通常、群内の測定数に関する先験的な知識はなく、これは予測不能に変動する。これら変動および測定値の数の知識不足が要因で、一部の群を区別することが困難になる場合があり、これらは、例えば、群が短い場合、および／または２つの連続する群の測定値のレベルが互いに近接している場合などである。
【0077】
各イベントに対応する測定値の群は、典型的には、イベントの時間スケールにわたって一貫したレベルを持っているが、ほとんどのタイプの測定システム２では、短い時間スケールで変動し得る。このような変動は、例えば電気回路およびシグナル処理から生じる測定ノイズ、特に電気生理学の特定の場合の増幅器から生じ得る。測定される特性の程度が小さいため、このような測定ノイズは避けられない。このような変動は、測定システム２の基礎となる物理的または生物学的システムの固有の変動または広がり、例えば、ポリマーのコンフォメーション変化によって引き起こされる可能性のある相互作用の変化からも生じ得る。
【0078】
ほとんどのタイプの測定システム２は、多かれ少なかれ、そのような固有の変動を経験するであろう。所与のタイプの測定システム２について、両方の変動源が寄与するか、またはこれらのノイズ源の１つが支配的であり得る。
【0079】
ポリマー単位がナノ細孔に対して転位する速度である配列決定速度の増加に伴い、イベントはあまり目立たなくなり、したがって同定が困難になるか、または消える可能性がある。したがって、そのようなイベント検出に依存する分析方法は、配列決定速度が増すにつれて効率が低下し得る。
【0080】
しかしながら、本明細書に開示される方法は、そのようなイベントの検出に依存しない。以下に説明する方法は、比較的速い配列決定速度でも有効であり、この配列決定速度には、ポリマー転位が少なくとも毎秒１０ポリマー単位、好ましくは毎秒１００ポリマー単位、より好ましくは毎秒５００ポリマー単位、またはより好ましくは毎秒１０００ポリマー単位であるものが含まれる。
【0081】
サンプルレートとは、シグナルにおける測定値の速度である。通常、サンプルレートは配列決定速度よりも速くなる。例えば、サンプルレートは、１００Ｈｚ～３０ｋＨｚの範囲であり得るが、これは限定的ではない。実際には、サンプルレートは測定システム２の性質に依存し得る。
【0082】
場合によっては、本方法は、関連する一連のポリマー単位の測定値である複数の一連の測定値を使用することができる。例えば、複数の一連の測定値は、関連する配列を有する別個のポリマーの一連の測定値であり得、または関連する配列を有する同一ポリマーの異なる領域の一連の測定値であり得る。
【0083】
ポリヌクレオチドの場合、複数の一連のポリマー単位は相補的であることによって関係し得るので、一連のポリマー単位の１つはテンプレートと呼ばれ、それに対して相補的である他の一連のポリマー単位は相補体と呼ばれる。この場合、テンプレートおよび相補体の測定値は、任意の適切な技術を使用して取得することができ、例えば、ポリヌクレオチド結合タンパク質を使用して、またはポリヌクレオチドサンプル調製を介して順次取得される。好適な方法には、ＷＯ－２０１０／０８６６２２またはＷＯ－２０１３／０１４４５１に記載されている方法が含まれる。
【0084】
単一の一連のポリマー単位に関連する本明細書で開示された方法のいずれも、例えば、ＷＯ－２０１０／０８６６２２またはＷＯ－２０１３／０１４４５１に記載される方法を使用することによって、テンプレートおよび相補体などの複数の一連の測定値に適用され得る。
【0085】
一連の測定値は、分析システム３によって分析される生シグナルを形成する。生シグナルは、分析システム３に供給される前に、または分析システム３での初期段階として、例えばノイズを低減するためにフィルタリングされる前に、測定システム２で前処理され得る。このような場合には、以下の分析は、前処理されたシグナルに対して実行される。
【0086】
分析システム３は、測定システム２に物理的に関連付けられてもよく、測定システム２に制御シグナルを提供することもできる。その場合、測定システム２および分析システム３を含むナノ細孔測定および分析システム１は、ＷＯ－２００８／１０２２１０、ＷＯ－２００９／０７７３４、ＷＯ－２０１０／１２２２９３、ＷＯ－２０１１／０６７５５９、またはＷＯ２０１４／０４４４３のいずれかに開示されるように構成され得る。
【0087】
代替的に、分析システム３は、別個の装置に実装され得、その場合、測定値の列は、任意の好適な手段、典型的にはデータネットワークによって、測定システム２から分析システム３に転送される。例えば、１つの便利なクラウドベースの実装は、分析システム３が、インターネットを介して入力シグナル１１が供給されるサーバーになることである。
【0088】
分析システム３は、コンピュータプログラムを実行するコンピュータ装置によって実装されてもよく、専用のハードウェアデバイス、またはそれらの任意の組み合わせによって実装されてもよい。いずれの場合も、この方法で使用されるデータは、分析システム３のメモリに記憶される。
【0089】
コンピュータプログラムを実行するコンピュータ装置の場合、コンピュータ装置は、任意のタイプのコンピュータシステムであり得るが、典型的には、従来の構造である。コンピュータプログラムは、任意の好適なプログラミング言語で書くことができる。コンピュータプログラムは、任意のタイプであり得るコンピュータ可読記憶媒体に記憶され得る。例えば、コンピューティングシステムのドライブに挿入可能であり、磁気的、光学的または光磁気的に情報を記憶し得る記録媒体、ハードドライブなどのコンピュータシステムの固定記録媒体、またはコンピュータのメモリであり得る。
【0090】
コンピュータ装置が専用のハードウェアデバイスによって実装されている場合、任意の好適なタイプのデバイス、例えば、ＦＰＧＡ（フィールドプログラマブルゲートアレイ）またはＡＳＩＣ（特定用途向け集積回路）を使用することができる。好ましい実施形態では、コンピュータプログラムの一部は、グラフィックスプロセッシングユニット（ＧＰＵ）などの並列計算に適したハードウェアを使用して実装され得る。
【0091】
ナノ細孔測定および分析システム１を使用する方法は、以下のように実行される。
【0092】
最初に、シグナル１０は、測定システム２を使用して導出される。例えば、ポリマーは、例えば細孔を通って、細孔に対して転位させられ、ポリマーが転位する間にシグナルが導出される。ポリマーの転位を可能にする条件を提供することにより、ポリマーを細孔に対して転位させることができ、その結果、転位が自発的に起こり得る。転位する間にシグナル１０が導出される。
【0093】
次に、分析システム３は、次に説明するように、シグナル１０の分析方法を実行する。
【0094】
分析システム３は、ニューラルネットワーク２０を使用してシグナルを分析する。再帰型ニューラルネットワーク２０のパラメータは、以下でさらに説明するトレーニング中に値を取得するが、このように再帰型ニューラルネットワークは、いずれかの特定形式の測定値、または独自の特性を有する測定システム２に依存しない。例えば、再帰型ニューラルネットワークは、ｋ－ｍｅｒに依存する測定値に依存しない。
【0095】
好適なニューラルネットワーク２０の一例が図３に示されており、ウィンドウイングユニット３０、ＣＮＮ（畳み込みニューラルネットワーク）４０、ＲＮＮ（リカレントニューラルネットワーク）５０、およびデコーダ８０を含み、これらは以下のようにシグナルを連続的に処理する。
【0096】
ウィンドウイングユニット３０は、例えば図４に示されるように、シグナル１０の連続的なウィンドウセクション３１を導出するためにシグナル１０をウィンドウ化する。ウィンドウ化セクション１１は、ＣＮＮ４０に供給される。
【0097】
ウィンドウ化セクション３１は、長さ３２、および連続的なウィンドウ化セクション３１間のストライド３３を有し、これらは両方とも、時間またはシグナル１０のサンプル数でカウントされることができる。ストライド３３は、単一のサンプルか、または複数のサンプルであってもよい。ストライド３３が単一のサンプルである場合、エッジ効果を無視すると、シグナル１０内のサンプルと同数のウィンドウ化セクション３１が存在する。ストライド３３が単一のサンプルよりも大きい場合、ウィンドウイングユニット３０はダウンサンプリングを実行し、シグナル１０内のサンプルよりもウィンドウ化セクション３１が少なくなる。典型的には、ストライド３３は長さ３２よりも短く、ウィンドウ化セクション１０はシグナル１０内でオーバーラップするようになっている。
【0098】
例として、長さ３２は４．７５ミリ秒であり得、ストライドは０．５ミリ秒であり得る。
【0099】
さらなる例として、長さは１９個のサンプルであり得、ストライドは２個のサンプルであり得る。
【0100】
ＣＮＮ４０は、少なくとも１つの畳み込み層を含む。少なくとも１つの畳み込み層は、各ウィンドウ化セクション１１の畳み込みを実行して、各ウィンドウ化セクション３１に関する特徴ベクトル４１を導出する。これは、シグナル内で明らかになり得るイベントに関係なく行われるため、そのようなイベントが明らかであるか、または明らかでないシグナルにも、もしくは前処理中にイベントが提供されているシグナルにも同様に適用可能になっている。特徴ベクトル４１は、ＲＮＮ５０に供給される。
【0101】
ＣＮＮ４０は、以下で考察されるようにＲＮＮ５０と一緒にトレーニングされる。
【0102】
ＣＮＮ４０は、任意の形態をとることができる。
【0103】
一例では、ＣＮＮ４０は、重みＷおよびバイアスｂ、ならびにアクティベーション関数ｇを有するアフィン変換によって画定される単一の畳み込み層であり得る。ここでＩｔ－ｊ：ｔ＋ｋが、両端を含む、ｔ－ｊ～ｔ＋ｋの測定値を含む生シグナル２０の測定ウィンドウを表し、Ｏｔは、出力特徴ベクトルである。
ｙｔ＝ＡＩｔ－ｊ：ｔ＋ｋ＋ｂ アフィン変換
Ｏｔ＝ｇ（ｙｔ） アクティベーション
ｙｔ＝ＡＩｔ－ｊ：ｔ＋ｋ＋ｂ アフィン変換
Ｏｔ＝ｇ（ｙｔ） アクティベーション
【0104】
双曲線正接は好適なアクティベーション関数であるが、正規化線形単位（ＲｅＬＵ）、指数線形単位（ＥＬＵ）、ソフトプラス単位、およびシグモイド単位を含むがこれらに限定されない、より多くの代替案が当該技術分野で知られている。複数の畳み込み層もまた、使用されることができる。
【0105】
別の例では、ＣＮＮ４０は、参考文献１のＣＮＮと同じ形式をとることができる。
【0106】
説明したように、真っ直ぐな畳み込みネットワークには、生のシグナルで検出された特徴の正確な位置に依存するという欠点があり、これは特徴間の間隔にも依存することを意味する。依存性は、最初の畳み込みによって生成された特徴ベクトルの出力配列を、その入力の順序統計に作用する第２の「プーリング」ネットワークへの入力として使用することで軽減できる。
【0107】
例として、プーリングネットワークが単層ニューラルネットワークである場合、次の方程式は、出力が入力ベクトルにどのように関連するかを示す。ｆを入力特徴のインデックスとすると、Ａｆは特徴ｆの重み行列であり、Ｓをその入力の順序統計の一部またはすべてを返すファンクターとする。
【数1】
【0108】
このような層の有用でありながら計算効率の高い例の１つは、入力特徴の数と同じサイズの特徴ベクトルを返すものである。その要素は、それぞれの特徴ごとに取得される最大値である。ファンクターＳＭに最後の順序統計のみを返させると、その入力で取得された最大値であり、そしてＵｆを、その（ｆ、１）要素の単位値以外ゼロで完全に構成され（単一の列）行列とする。
【数2】
【0109】
行列Ｕｆが非常にスパースであるため、計算効率の理由のために、行列乗算は、暗黙的に実行されることができ：ここでΣｆＵｆｘｆの効果は、出力特徴ベクトルｘｆの要素ｆを設定することである。
【0110】
畳み込みおよび／またはプーリングは、ｎ番目の位置（ｎのストライド）ごとにそれらの出力を計算するだけで実行できるため、出力をダウンサンプリングする。ダウンサンプリングは、同様の精度を達成するためにネットワークの残りの部分がより少ないブロック（より高速な計算）を処理する必要があるため、計算の観点から有利であり得る。
【0111】
畳み込み層のスタックを追加すると、上記の問題の多くが解決される。畳み込みによって学習された特徴検出は、システムについて追加の仮定を作製することなく、ナノ細孔固有の特徴検出器および要約統計量の両方として機能することができる。機能の不確実性は、様々な機能の相対的な重みによってネットワークの残りの部分に渡されるため、さらに処理することでこの情報を考慮に入れて、不確実性のより正確な予測および定量化を行うことができる。
【0112】
ＲＮＮ５０は、一連の重み分布を出力する。ＲＮＮ５０は、少なくとも１つの回帰層５２を含み、この回帰層または各回帰層の後にフィードフォワード層５３が続いている。図５は、単一の回帰層５２の場合のＲＮＮを示しているが、一般に、任意の複数の回帰層５２およびその後のフィードフォワード層５３が存在し得る。このことは単位アーキテクチャの柔軟な選択をもたらす。これらの層は、異なるパラメータを有し得、異なるサイズであり得、または様々な単位タイプでも構成され得る。
【0113】
この回帰層または各回帰層５２は、双方向であることが好ましく、各入力特徴ベクトルの影響がＲＮＮを介して両方向に伝播することを可能にする。代替の好ましい実施形態は、交互の方向に配置された複数の一方向回帰層、例えば、リバース、フォワード、リバース、フォワード、リバースの連続的方向に配置された層を含む。これらの双方向アーキテクチャにより、ＲＮＮ５０が、ＨＭＭでは利用できない様式で情報を蓄積および伝播することを可能にする。回帰層の追加的利点は、モデル化するために、例えば、反復手順を介して、シグナルからモデルに（またはその逆に）正確なスケーリングを必要としないことである。
【0114】
フィードフォワード層５３でのサブサンプリングについて、個別のアフィン変換が各列のフォワード層とバックワード層の出力ベクトルに適用され、その後に積算が行われ、このことは、入力と出力の連結によって形成されたベクトルにアフィン変換を適用することと等しくなっている。次いで、アクティベーション関数が要素ごとに結果の行列に適用される。
【0115】
再帰層５２は、ここで説明されるように、いくつかのタイプのニューラルネットワーク単位を使用することができる。単位のタイプは、「再帰」であるかどうかに応じて、２つの一般的なカテゴリに分類される。非再帰単位は配列の各ステップを独立して処理するが、再帰単位は配列で使用され、あるステップから次のステップに状態ベクトルを渡すように設計される。
【0116】
非再帰単位と再帰単位の違いを図式的に示すために、図６は非再帰単位６１の非再帰層６０を示し、図７～９はそれぞれの非再帰単位６４～６６の３つの異なる層６２～６４を示す。図６～図９の各々で、矢印はベクトルが渡される接続を示し、分割された矢印は複製されたベクトルであり、結合された矢印は連結されたベクトルである。
【0117】
図６の非再帰層６０では、非再帰単位６１は、分割または連結されない別個の入力および出力を有する。
【0118】
図７の再帰層６２は、再帰単位６５の出力ベクトルが分割され、再帰層内の次の再帰単位６５に一方向に渡される一方向の再帰層である。
【0119】
それ自体は個別の単位ではないが、図８および９の双方向再帰層６３および６４は各々、より単純な再帰単位６６および６７からそれぞれ作られた繰り返し単位のような構造を有する。
【0120】
図８の双方向再帰層において、双方向再帰層６３は、再帰単位６６の２つのサブ層６８および６９からなり、図７の一方向再帰層６２と同じ構造を有するフォワードサブ層６８と、図７の一方向再帰層６２から時間が逆転したかのように逆転して状態ベクトルを１つの単位６６から前の単位６６に渡す構造を有するバックワードサブ層６９になっている。フォワードおよびバックワードのサブ層６８および６９の両方が同じ入力を受け取り、対応する単位６６からのそれらの出力が一緒に連結されて、双方向再帰層６３の出力を形成する。フォワードサブ層６８内の単位６６とバックワードサブ層６９内の単位との間に接続がないことに留意されたい。
【0121】
図９の代替双方向再帰層６４は、同様に、再帰単位６７の２つのサブ層７０および７１からなり、図７の一方向再帰層６２と同じ構造を有するフォワードサブ層６８、ならびに、図７の単方向再帰層６２から時間が逆転したかのように逆転するバックワードサブ層６９である。同様に、フォワードサブ層６８およびバックワードサブ層６９は、同じ入力を受け取るが、図８の双方向再帰層６３とは対照的に、フォワードサブ層６８の出力は、バックワードサブ層６９の入力であり、バックワードサブ層６９の出力は、双方向再帰層６４の出力を形成する（フォワードサブ層６８およびバックワードサブ層６９は逆転されることができる）。
【0122】
図９に示す双方向再帰層６４の一般化は、複数の「フォワード」および「バックワード」再帰サブ層で構成される再帰層のスタックとなり、ここでは各層の出力は次の層の入力になっている。
【0123】
ＲＮＮ５０の双方向再帰層５２は、図８の双方向再帰層６３および図９の双方向再帰層６４のいずれかの形態をとることができる。一般に、図３の双方向再帰層３４は、非再帰層、例えば、図６の非再帰層６０、または一方向再帰層、例えば、図７の再帰層６２によって置き換えることができる。しかしながら、双方向の再帰層３４を使用することにより、パフォーマンスが向上する。
【0124】
次に、フィードフォワード層５３について説明する。
【0125】
フィードフォワード層５３は、それぞれのベクトルを処理するフィードフォワード単位５４を備える。フィードフォワード単位５４は、古典的なニューラルネットワークの標準的な単位であり、すなわち、アフィン変換が入力ベクトルに適用され、次に、非線形関数が要素ごとに適用される。フィードフォワード層５３はすべて、非線形関数に双曲線正接を使用するが、ネットワークの全体的な精度をほとんど変化させずに他の多くの層を使用することができる。
【0126】
ステップｔにおける入力ベクトルがＩｔである場合、アフィン変換のための重み行列およびバイアスはそれぞれＡおよびｂであり、出力ベクトルＯｔは以下である。
ｙｔ＝ＡＩｔ＋ｂ アフィン変換
Ｏｔ＝ｔａｎｈ（ｙｔ） 非線形性
ｙｔ＝ＡＩｔ＋ｂ アフィン変換
Ｏｔ＝ｔａｎｈ（ｙｔ） 非線形性
【0127】
ＲＮＮ５０の重み分布は、グローバルに正規化される。これは、以下でより詳しく考察される。
【0128】
非再帰単位６２および再帰単位６５～６７は、各イベントを独立して扱うが、次に説明するような形態を有する長短期記憶単位に置き換えることができる。
【0129】
長短期記憶（ＬＳＴＭ）単位は、Ｈｏｃｈｒｅｉｔｅｒ ａｎｄ Ｓｃｈｍｉｄｈｕｂｅｒ，Ｌｏｎｇ ｓｈｏｒｔ－ｔｅｒｍ ｍｅｍｏｒｙ，Ｎｅｕｒａｌ Ｃｏｍｐｕｔａｔｉｏｎ，９ （８）：１７３５－１７８０，１９９７で紹介された。ＬＳＴＭ単位は再帰単位であるため、配列の１つのステップから次のステップに状態ベクトルを渡す。ＬＳＴＭは、単位がメモリセルであるという表記に基づく。メモリの内容を含む隠れ状態は、あるステップから次のステップに渡され、メモリの更新方法を制御する一連のゲートを介して操作される。１つのゲートは、メモリの各要素をワイプ（忘れる）するかどうかを制御し、別のゲートは、新しい値に置き換えるかどうかを制御し、最後のゲートは、メモリのリードと出力を決定する。メモリセルを微分可能にするのは、概念的なコンピュータメモリセルのバイナリオン／オフ論理ゲートが、シグモイド関数によって生成される概念的な確率に置き換えられ、メモリセルの内容が期待値を表すことである。
【0130】
第１にＬＳＴＭの標準実装について説明し、次いで基本的な方法で実際に使用される「のぞき穴」の変更について説明する。
【0131】
標準的なＬＳＴＭは次の通りである。
【0132】
ＬＳＴＭ単位の様々な操作に関連する確率は、次の一連の方程式によって定義される。Ｉｔを、ステップｔの入力ベクトルであるとし、Ｏｔを出力ベクトルとし、バイアスｂｘと、それぞれ入力と前の出力に対する重み行列ＷｘＩおよびＷｘＯを有する、ｘでインデックス付けされたアフィン変換を行うと、σは非線形シグモイド変換である。
ｆｔ＝σ（ＷｆＩＩｔ＋ＷｆＯＯｔ－１＋ｂｆ） 忘却確率
ｕｔ＝σ（ＷｕＩＩｔ＋ＷｕＯＯｔ－１＋ｂｕ） 更新確率
ｏｔ＝σ（ＷｏＩＩｔ＋ＷｏＯＯｔ－１＋ｂｏ） 出力確率
ｆｔ＝σ（ＷｆＩＩｔ＋ＷｆＯＯｔ－１＋ｂｆ） 忘却確率
ｕｔ＝σ（ＷｕＩＩｔ＋ＷｕＯＯｔ－１＋ｂｕ） 更新確率
ｏｔ＝σ（ＷｏＩＩｔ＋ＷｏＯＯｔ－１＋ｂｏ） 出力確率
【0133】
上で定義された更新ベクトルがあり、ｏ演算子が要素ごとの（アダマール）乗算を表すとすると、内部状態Ｓｔを更新し、新しい出力を決定する数式は次のようになる。
【数3】
【0134】
のぞき穴の変更は次の通りである。
【0135】
「のぞき穴」の変更（Ｇｅｒｓ ａｎｄ Ｓｃｈｍｉｄｈｕｂｅｒ，２０００）は、ＬＳＴＭアーキテクチャにいくつかの追加接続を追加し、メモリセルの隠れ状態を「のぞき見」（通知）するための確率の忘却、更新、および出力を可能にする。ネットワークの更新式は上記の通りであるが、Ｐｘを隠れ状態に等しい長さの「のぞき見」ベクトルとすると、確率ベクトルの３つの式は次のようになる。
【数4】
【0136】
代替的に、非再帰単位６２および再帰単位６５～６７は、以下のような形態を有するゲート付き再帰単位に置き換えることができる。
【0137】
ゲート付き再帰単位（ＧＲＵ）は実行が速いことがわかっているが、最初は精度が低くなっている。ＧＲＵのアーキテクチャは、ＬＳＴＭほど直感的ではなく、隠れ状態と出力の分離が不要で、「忘却」ゲートと「入力ゲート」も組み合わされている。
【数5】
【0138】
イベントと同じ数の列が出力されるが、双方向レイヤーの存在のためにその内容がイベントの入力セット全体によって通知される可能性があるため、ネットワークへの入力で各列が単一のイベントで同定されると想定するのは正しくない。入力イベントと出力列の間の対応は、トレーニングセット内のシンボルでラベル付けされる方法によって行われる。
【0139】
別の例では、ＲＮＮ５０は、参考文献１のＲＮＮと同じ形式をとることができる。
【0140】
ここで、ＲＮＮ５０によって出力される一連の重み分布５１について考察する。
【0141】
重み分布５１は、一連の重み分布を形成するために、連続する時間ステップに関して出力されている。時間ステップは、原則として、シグナル１０のサンプル周期と同じ長さであり得るが、ニューラルネットワーク２０におけるオーバーサンプリングのために、通常、シグナル１０のサンプル周期よりも長い。しかしながら、規則的長さの時間ステップは、例えば、ウィンドウイングユニット３０のストライド１３に対応しており、これは、イベント呼び出しが実行されるシステムとは対照的であり、したがって、連続する重み分布５１間の時間ステップは、可変である連続して検出されたイベントの長さに対応する。
【0142】
一般に、重み分布５１は、連続的なポリマー単位がナノ細孔に対して転位する速度よりも速い速度で出力されており、すなわち、ポリマー単位よりも多くの重み分布５１が存在する。各一連のポリマー単位に対応する複数の重み分布５１は、先験的には未知である。
【0143】
各重み分布５１は、複数の重みを含む。重みは事後確率を表す。重みは実際の事後確率であり得、または、より一般的には、実際の確率ではないが事後確率を表す重みであり得る。一般に、重みが実際の確率ではない場合、重みの正規化を考慮して、原則として事後確率が、そこから決定され得る。
【0144】
ＲＮＮ５０は、可能なポリマー単位タイプを表すラベルを含むラベルのセットにわたってラベル間の遷移に関する重みを出力する。したがって、遷移に関する重みは、それらの遷移の事後確率を表す。ポリマー単位よりも多くの重み分布５１があることから、いくつかの表現では、ラベルから同じラベルへの遷移が可能であり、したがって、重み分布５１は、そのような遷移に関する重みを含むこと、すなわち、「遷移」という単語が、ラベルを変更する必要があることでも、追加のポリマー単位を放出する必要があることを意味するものでもないことが理解される。
【0145】
ＲＮＮ５０によって出力される重み分布５１の様々な例が、以下に示される。これらの例の各々は、ポリマー単位がポリヌクレオチドであり、ポリマー単位タイプが４つの塩基Ａ、Ｃ、ＧおよびＴである場合を指している。上で考察されたように、本発明の方法は、より多くのタイプのポリヌクレオチドおよび／またはヌクレオチドではないポリマー単位に等しく適用可能であり、そのためこれらの例はそれに応じて汎用化されることができる。例の各々において、重み分布５１は、ラベル間の遷移を表す重みを含む。したがって、重みはＷｉｊと表記されており、ｉは、そこから遷移が発生するラベルのためのインデックスであり、ｊは、そこへの遷移が発生するラベルのためのインデックスである。したがって、重みＷｉｊは、ラベルｉからラベルｊへの遷移の重みである。図面のそれぞれにおいて、行はそこから遷移が発生するラベルｉに対応しており、列はそこへの遷移が発生するラベルｊに対応する。
【0146】
このような構成の一例は、生成される重み分布の重みの数に等しい、出力（最終）層内のフィードフォワード要素の数で構成されたＲＮＮである。図７～９はまた、ＲＮＮのユニットからの出力の数を示す例を提供しており、これらの構成のいずれか１つ以上がＲＮＮ内に存在し得、出力の数が生成される重み分布の重みの数に等しくなるようになることが理解される。
【0147】
図１０および１１は、ＲＮＮ５０によって出力され得る重み分布５１の２つの例を示す。
【0148】
図１０の例では、Ａ、Ｃ、Ｇ、Ｔとして示されている４つの塩基の各々に関する単一のラベルがある。すべての遷移が許容され、それにより、ラベルの各々からラベルの各々への１６の遷移に関する合計１６の重みｗｉｊがある。
【0149】
図１０の例は、ホモポリマーの適切な表現を提供しておらず、これは一連のポリマー単位内の同じタイプの複数のポリマー単位の連続である。これは、あるラベルから同じラベルへの移行が、特定のポリマー単位タイプの同じインスタンスと特定のポリマー単位タイプのさらなるインスタンスとを区別しないことからである。結果として、あるラベルから同じラベルへの一連の遷移は、一連のポリマー単位（すなわち、単一のポリマー単位といずれかの長さの同じポリマー単位タイプのホモポリマーとの両方）の任意数（１つ以上）のインスタンスを表す。
【0150】
しかしながら、図１１は、図１０の表現を拡張することでホモポリマーの表現を改善する一例であり、ラベルのセットが、（ｉ）４つの塩基の異なる１つを各々表す単一ラベル、および（ｉｉ）一連のポリマー単位内のブランクを表すラベルを含むようになっている。許容されたすべての遷移が図１１の例に示されており、それにより、各ラベルから各ラベルへの２５の遷移に関する合計２５の重みｗｉｊがある。この表現では、ブランクラベルは、それらが同じタイプであっても、一連の塩基（ポリマー単位）の２つのインスタンス間の分離を表す。
【0151】
言い換えると、ポリマー単位の配列では、データ測定値のウィンドウが分析されることがあり得るが、そのデータウィンドウではポリマー単位間の遷移は存在しない。この場合、遷移は、前のラベルから「ブランク」ラベルへの遷移として表され得、これは、ポリマー単位の新規インスタンスがウィンドウ内で遷移されなかったことを表す。
【0152】
いくつかの実施形態では、ポリマー単位が分離しているようにブランクのいずれかの側のポリマー単位を取り扱うために、ポリマー単位の決定された配列内でブランクが存在しなければならないという点で、ブランクは強制的なものとして扱われ得る。例えば、次のように生成されたラベルの配列が、ブランクが「－」で表される：ＡＡＡ－－－Ａの場合、これはポリマー単位の実際のシーケンスは、＝ＡＡとして決定される。最初の３つのインスタンスの各々の「Ａ」ラベルは、同じ実際のポリマー単位「Ａ」のインスタンスとして扱われるが、最後の「Ａ」ラベルは、最初の３つの「Ａ」から２つのブランクラベルで区切られるため、別個のものとして扱われる。
【0153】
いくつかの実施形態では、ブランクが、ポリマー単位の間のスペーサーおよびラベルの繰り返しを表すという点で、ブランクは任意選択のものとして扱われ得る。例えば、次のようなブランクが「－」で表される生成されたラベルの配列：ＡＡＡ－－－Ａの場合、これはポリマー単位の実際のシーケンス＝ＡＡＡＡに決定される。「Ａ」ラベルの最初の３つのインスタンスのそれぞれが、別個のポリマー単位として扱われ、ブランクのラベルは、これらのユニットと最後の「Ａ」ラベルとの間のスペーサーとして機能する。
【0154】
ラベル間の遷移に関する重みを使用したＲＮＮ５０の出力におけるこの表現は、参考文献１とは対照的であり、ＲＮＮが、４つのタイプのポリヌクレオチド（つまり、塩基Ｃ、Ｇ、Ａ、およびＴ）の各々を表す４つのラベルで構成されるラベルのセットにわたるラベル、およびブランクを表すラベルに関する事後確率（重みの特定的な例）を出力する。ラベル間の遷移に関する重みを使用する表現は、一連のポリマー単位の推定の精度を向上させる追加情報が提供されるため、ラベルに関する重みを使用する表現よりも利点をもたらす。これは、重みが一連のポリマー単位を通る可能な経路に関する情報を提供するのに対し、ラベル自体に関する重みは、さらなる分析を目的とした他のラベルとの関係に関する情報を失うためである。したがって、追加情報がポリマー単位を推定するステップに提供され、このことが復号の精度を向上させている。
【0155】
さらに、この表現は、許容された遷移と許容されていない遷移を表現できる。つまり、ラベルは、ラベル間の１つ以上の遷移が許容されず、他の遷移が許容される様式で、可能なポリマー単位タイプを表すことができる。その場合、重み分布５１は、許容された遷移に関する重みを含む。重み分布５１は、許容されない遷移に関するヌル重みを含み得る。
【0156】
ヌル重みは、ＲＮＮ５０によって出力された重み分布５１において、重みがないことになり得る。図面に示されている例では、ヌル重みは重みがないことで示されているが、代わりに以下の代替方法が適用され得る。
【0157】
代替的に、ヌル重みは、ＲＮＮ５０の実装を容易にするために、ＲＮＮ５０によって出力される重み分布５１内に存在する重みであり得るが、公称値を有している。そのような公称値は、ゼロ値または意味のない大きさを有する値であり得、以下に説明するように、デコーダ８０によって実行される推定に影響を与えるようになっている。代替的に、そのような公称値は、ＲＮＮによって出力された重み分布５１内に存在するが、例えば、以下に説明するような遷移行列を使用することによってデコーダ８０によって無視される値であり得る。
【0158】
このいくつかの例は以下の通りである。
【0159】
許容遷移と非許容遷移が発生する第１の例は、可能なポリマー単位タイプのセットに、ポリマー単位の既知のシーケンスに常に現れるポリマー単位タイプが含まれる場合である。この場合、既知のシーケンスに従った遷移は許容され、既知のシーケンスに反する遷移は許容されていない。ポリヌクレオチドについて、この一例は、脊椎動物の５－メチルシトシンがグアニンに先行するシトシン（「ＣｐＧ」）でのみ発生し、このことが、可能な遷移をさらに制限するために使用されることができ、それにより、より少ないＲＮＮ５０からの重みが必要とされる。つまり、ＣｐＧメチル化は、メチル化Ｃ（ＣＭとして本明細書で表される）に常にＧが続くことになり、そのためＣＭが既知の配列ＣＭＧで常に生じる。図１２は、これを表すために使用される重み分布５１の例である。重み分布５１は、図１１の重み分布から適合されており、メチル化Ｃを表すラベルを、４つのタイプのポリヌクレオチド（すなわち、塩基Ｃ、Ｇ、ＡおよびＴ）を表す４つのラベルとブランクを表すラベルに追加する。この場合には、ＣＭからＡ、ＣまたはＴへの遷移が許容されず、それにより、これらの遷移にはヌル重みがあり、つまり、重みＷ６１、Ｗ６２、およびＷ６４は、重み分布でヌルになっている。これにより、ＲＮＮはメチル化Ｃ塩基に関するより良い情報をもたらすことができ、このことがメチル化Ｃ塩基の推定の精度を向上させる。
【0160】
任意選択で、ＣＭからＣＭへの遷移の重みがヌルにされることができる。このことはステイの場合にあり得る。これは、測定中に同定され得るが、この遷移はＣｐＧメチル化がメチル化ＣにＧが常に続き、つまりＣＭＧ配列になることから、配列の一部を形成しない。このことのさらなる例は、以下で説明するフリップフロップ表現であり、ここで、改変されたフリップまたは改変されたフロップからグアニンまたは改変されたフロップのラベルへの遷移は、ＲＮＮ５０から必要な重みの数を６０から５２に減らすことができる（すべての可能性のある遷移に必要な１００の重みを参照のこと）。必要とされるネットワーク出力の量の低減は別として、可能であるこれらに遷移を制限することは、本方法が、推定における誤差と誤検出の改変呼び出しの両方である不可能なコンテキストでの改変を伴ったポリマー単位タイプの推定を生成することを防止する。
【0161】
第２の例は、ラベルのセットが改変され、各ポリマータイプが、単一ラベルの代わりに複数のラベルで表される表現である。例えば、ラベルのセットは、各ポリマー単位タイプに関する、第１および第２のラベルを含むことができ、ここで、第１のラベルは、ポリマー単位タイプのインスタンスの開始を表し、第２のラベルは、ポリマー単位タイプのインスタンス内のステイを表している。上述のように、「ステイ」は、本方法が、連続する重み分布に関連するラベルが変化しないと判断する状況を表し、このことは、ポリマー単位の同じインスタンスに対応する２つの重み分布と見なされ得る。本明細書では、この例を「マルチステイ」と称することにする。ステイは異なるラベルで表されるため、このことは表現を改善する。このことはポリマー単位の推定精度を改善する。
【0162】
このマルチステイ表現は、一部の遷移が許容され、一部が許容されないという結果をもたらす。例えば、第１のラベル、例えば「Ａ」は、同じポリマー単位タイプに関して、第２のラベル、例えばＡＳ内に、または異なるポリマー単位タイプの第１のラベル内にのみ遷移することが許容される。具体的には、以下の遷移が許容され、また許容されておらず、それらは以下の通りである。
ａ）各第１のラベルから任意の他のポリマー単位タイプの第１のラベルへの遷移が許容され、各第１のラベルから同じポリマー単位タイプの第１のラベルへの遷移が許容されていない。
ｂ）各第１のラベルから同じポリマー単位タイプの第２のラベルへの遷移が許容されている。
ｃ）各第１のラベルから任意の他のポリマー単位タイプの第２のラベルへの遷移が許容されていない。
ｄ）各第２のラベルから同じポリマー単位タイプの第１のラベルへ、または任意の他のポリマー単位タイプの第１ラベルへの遷移が許容されている。
ｅ）各第２のラベルから同じポリマー単位タイプの第２のラベルへの遷移が許容されている。
ｆ）各第２のラベルから任意の他のポリマー単位タイプの第２のラベルへの遷移が許容されていない。
ａ）各第１のラベルから任意の他のポリマー単位タイプの第１のラベルへの遷移が許容され、各第１のラベルから同じポリマー単位タイプの第１のラベルへの遷移が許容されていない。
ｂ）各第１のラベルから同じポリマー単位タイプの第２のラベルへの遷移が許容されている。
ｃ）各第１のラベルから任意の他のポリマー単位タイプの第２のラベルへの遷移が許容されていない。
ｄ）各第２のラベルから同じポリマー単位タイプの第１のラベルへ、または任意の他のポリマー単位タイプの第１ラベルへの遷移が許容されている。
ｅ）各第２のラベルから同じポリマー単位タイプの第２のラベルへの遷移が許容されている。
ｆ）各第２のラベルから任意の他のポリマー単位タイプの第２のラベルへの遷移が許容されていない。
【0163】
上述の例示的なマルチステイ表現スキームは、ブランクが上述のように強制的または任意選択であると見なされ得る図１１のスキームと同様の様式で「強制的」スキームであると見なされ得る。そのために、上記と同様のスキームが、第１のラベルが同じ第１のラベルに遷移することが許容されるマルチステイ表現について想定され得ることが理解されるであろう。かかるスキームは、「任意選択の」マルチステイ表現スキームと見なすことができる。
【0164】
図１３は、このタイプの表現を実装するために図１０のものから適合された重み分布５１の一例を示している。したがって、図１３では、ラベルのセットは、Ａ、Ｃ、Ｇ、およびＴとして示される４つのタイプの塩基に関する４つの第１のラベル、ならびにＡＳ、ＣＳ、ＧＳおよびＴＳとして示される４つのタイプの塩基に関する４つの第２のラベルを含む。本明細書では、上付き文字Ｓ（「ステイ」を意味する）は、塩基の同じタイプに関して第２のラベルを第１のラベルから区別するために使用され、ステイを表している。図１３に示すように、許容される遷移と許容されない遷移を考慮すると、以下の重みが存在するか、またはヌルになっており、それらは以下の通りである。
ａ）各第１のラベル（例えば、Ａ）から任意の他のポリマー単位タイプ（例えば、Ｃ、Ｇ、およびＴ）の第１のラベルへの遷移が許容され、各第１のラベル（例えば、Ａ）から同じポリマー単位タイプの第１のラベルへの遷移が許容されており、そのため、左上の象限内にすべての重みが存在している。
ｂ）各第１のラベル（例えば、Ａ）から同じポリマー単位タイプ（例えば、ＡＳ）第２のラベルへの遷移が許容されており、そのため、右上の象限の重みにＷ１５、Ｗ２６、Ｗ３７、およびＷ４８が存在している。
ｃ）各第１のラベル（例えば、Ａ）から任意の他のポリマー単位タイプ（例えば、ＣＳ、ＧＳ、ＴＳ）の第２のラベルへの遷移が許容されておらず、そのため、Ｗ１５、Ｗ２６、Ｗ３７、およびＷ４８を除いた右上の象限の重みがヌルになっている。
ｄ）各第２のラベル（例えば、ＡＳ）から同じポリマー単位タイプ（例えば、Ａ）第１のラベルへの遷移、または任意の他のポリマー単位タイプ（例えば、Ｃ、Ｇ、Ｔ）の第１のラベルへの遷移が許容されており、そのため、左下の象限内にすべての重みが存在している。
ｅ）各第２のラベル（例えば、ＡＳ）から同じポリマー単位タイプ（例えば、ＡＳ）の第２のラベルへの遷移が許容されており、右下象限の重みにＷ５５、Ｗ６６、Ｗ７７、およびＷ８８が存在している。
ｆ）各第２のラベル（例えば、ＡＳ）から任意の他のポリマー単位タイプ（例えば、ＣＳ、ＧＳおよびＴＳ）の第２のラベルへの遷移が許容されておらず、そのため、Ｗ５５、Ｗ６６、Ｗ７７、およびＷ８８を除いた右下の象限内の重みがヌルになっている。
ａ）各第１のラベル（例えば、Ａ）から任意の他のポリマー単位タイプ（例えば、Ｃ、Ｇ、およびＴ）の第１のラベルへの遷移が許容され、各第１のラベル（例えば、Ａ）から同じポリマー単位タイプの第１のラベルへの遷移が許容されており、そのため、左上の象限内にすべての重みが存在している。
ｂ）各第１のラベル（例えば、Ａ）から同じポリマー単位タイプ（例えば、ＡＳ）第２のラベルへの遷移が許容されており、そのため、右上の象限の重みにＷ１５、Ｗ２６、Ｗ３７、およびＷ４８が存在している。
ｃ）各第１のラベル（例えば、Ａ）から任意の他のポリマー単位タイプ（例えば、ＣＳ、ＧＳ、ＴＳ）の第２のラベルへの遷移が許容されておらず、そのため、Ｗ１５、Ｗ２６、Ｗ３７、およびＷ４８を除いた右上の象限の重みがヌルになっている。
ｄ）各第２のラベル（例えば、ＡＳ）から同じポリマー単位タイプ（例えば、Ａ）第１のラベルへの遷移、または任意の他のポリマー単位タイプ（例えば、Ｃ、Ｇ、Ｔ）の第１のラベルへの遷移が許容されており、そのため、左下の象限内にすべての重みが存在している。
ｅ）各第２のラベル（例えば、ＡＳ）から同じポリマー単位タイプ（例えば、ＡＳ）の第２のラベルへの遷移が許容されており、右下象限の重みにＷ５５、Ｗ６６、Ｗ７７、およびＷ８８が存在している。
ｆ）各第２のラベル（例えば、ＡＳ）から任意の他のポリマー単位タイプ（例えば、ＣＳ、ＧＳおよびＴＳ）の第２のラベルへの遷移が許容されておらず、そのため、Ｗ５５、Ｗ６６、Ｗ７７、およびＷ８８を除いた右下の象限内の重みがヌルになっている。
【0165】
マルチステイ表現は、上記のメチル化Ｃの表現、または実際には、既知のポリマー単位の配列で常に現れるポリマー単位タイプの同様の表現と組み合わせることができる。
【0166】
ここでホモポリマーの表現を検討する。ホモポリマーは、一連のポリマー単位内の同じタイプのポリマー単位の連続したインスタンスの配列である。
【0167】
第２のラベル（例えば、ＡＳ）からポリマー単位（例えば、Ａ）の同じタイプの第１のラベルへの遷移は、ポリマー単位の同じタイプの第２のインスタンスを表現することから、ホモポリマーは上で考察されたマルチステイ表現によって適切に表現される。例えば、一連のラベルＡＡＳＡＳＡＡＳＡＡＳＡＳＡＡＳＡＳＡＳＡＳは、長さが４ポリマー単位のホモポリマーを表現し、連続するラベルＡまたはＡＳの数は任意であり、実際には変化している。しかしながら、推定の精度は、表現を適合させることによって改善されることができ、例えば以下のように、ラベルが符号化形式でホモポリマーを表すようになっている。
【0168】
符号化形式のホモポリマーの第１の表現は、「フリップフロップ」表現と呼ばれ、以下のようになっている。
【0169】
分析方法の出力が固定長フラグメントをオーバーラップすることの利点の１つは、オーバーラップの量を使用して、ポリマー単位の遷移が発生したかどうか、そしてその場合に発生した回数を判断できることである。オーバーラップに依存する分析方法は、ホモポリマーのようなポリマーの複雑度の低い領域では失敗し、この領域では、オーバーラップが曖昧になり得（例えば、ＡＡＡ－＞ＡＡＡは、０、１、２、またはそれ以上のＡホモポリマーの遷移となり得る）、異なる表現が望ましい。フリップフロップ表現では、ラベルは、各ポリマー単位タイプについての複数のラベルを含むことによってホモポリマーを表し、各ポリマー単位タイプについての複数のラベルは、一連のポリマー単位内のポリマー単位タイプの連続するインスタンスを表す。通常、ポリマー単位タイプごとに２つのラベルがあり、参照しやすいように「フリップ」および「フロップ」と称され得る。
【0170】
したがって、固定長フラグメントに復号するのではなく、復号のフリップフロップ方式は、ポリマー単位の配列を「フリップ」と「フロップ」のラベルの配列として表すが、次の制限があり、ホモポリマーは「フリップ」ラベルで開始する必要があり、次いで、「フリップ」と「フロップ」のラベル間で終了するまで交互に切り替わる。フリップフロップ表現は、隣接するラベルと同じラベルがないことを確実にし、ホモポリマーを使用した１つのユニットの転位（フリップからフロップへの変更、またはその逆）は、転位なし（フリップからフリップへ、またはフロップからフロップへ）と常に区別可能になっている。例として、一連のポリマー単位ＣＡＡＴＡＣＣＴＴＴＡＡＡＡＡＡＡＡＧＡＡＡＣＴＴＴＴＡＧＣＴＣは、ＣＡＡＦＴＡＣＣＦＴＴＦＴＡＡＦＡＡＦＡＡＦＡＡＦＧＡＡＦＡＣＴＴＦＴＴＦとして表され、ここで、ポリマー単位ＸのフリップラベルはＸで表されており、対応するフロップラベルはＸＦで表される。
【0171】
フリップフロップ符号化の下では、１つの転位は常に転位がないものと区別可能であり、より多くのポリマー単位の転位は、依然として曖昧であり得る。したがって、連続する重み分布５１によって表されるラベルに関して、塩基Ａの２つのラベルがＡ（フリップである）およびＡＦ（フロップである）である場合、一連のラベルＡＡＡＡＡＡＡＦＡＦＡＦＡＦＡＡＡは、長さが３ポリマー単位のホモポリマーを表し、連続するラベルＡまたはＡＦの数は任意であり、実際には変動している。原則として、ポリマー単位タイプごとに３つ以上のラベルが存在する場合があるが、２つのラベルで十分である。
【0172】
ポリマー単位の各タイプの複数のラベルは、所定の周期的順序を有し得る。ポリマー単位の各タイプ、フリップとフロップの２つのラベルの一例では、所定の周期的順序は、第１のポリマー単位が常にフリップとなり、その後、フリップとフロップが交互になるものであり得る。したがって、ラベル間のいくつかの遷移は、所定の周期的順序によって許容されており、間の他の遷移は、所定の周期的順序によって許容されていない。重み分布において所定の周期的順序で許容されていない遷移についてヌル重みがあるが、一方で当然のこととして、所定の周期的順序で許容されている遷移についての重みがある。
【0173】
所定の周期的順序が、最初のポリマー単位が常にフリップされ、その後フリップとフロップが交互に行われるような上記の例では、ポリマー単位のいずれか所与のタイプのフリップからポリマーの他のタイプのフロップへの遷移が許容されておらず、同様に、ポリマー単位のいずれか所与のタイプのフロップからポリマーのいずれかの他のタイプのフロップへの遷移は許容されていない。
【0174】
図１４は、このタイプのフリップフロップ表現の重み分布５１の一例を示す。したがって、図１４では、ラベルのセットは、Ａ、Ｃ、Ｇ、およびＴとして示されている４つのタイプの塩基に関する４つの第１のラベル（フリップ）、ならびにＡＦ、ＣＦ、ＧＦおよびＴＦとして示されている４つのタイプの塩基に関する４つの第２のラベル（フロップ）を含む。図１４に示すように、許容される遷移と許容されない遷移を考慮すると、以下の重みが存在するか、またはヌルになっており、それらは以下の通りである。
ａ）各第１のラベル（フリップ、例えば、Ａ）からポリマー単位（例えば、Ａ、Ｃ、Ｇ、およびＴ）のすべてのタイプの第１のラベル（フリップ）への遷移が許容されており、そのため、左上の象限内にはすべての重みが存在している。
ｂ）各第１のラベル（フリップ、例えば、Ａ）からポリマー単位の同じタイプ（フリップ、例えば、ＡＦ）の第２のラベルへの遷移が許容されており、そのため、右上の象限にはＷ１５、Ｗ２６、Ｗ３７、およびＷ４８が存在している。
ｃ）各第１のラベル（フリップ、例えば、Ａ）からポリマー単位の任意の他のタイプ（例えば、ＣＦ、ＧＦ、ＴＦ）の第２のラベルへの遷移は許容されておらず、そのため、右上の象限ではＷ１５、Ｗ２６、Ｗ３７、およびＷ４８を除いた重みはヌルになっている。
ｄ）各第２のラベル（フロップ、例えばＡＦ）からポリマー単位のすべてのタイプ（フリップ、例えばＡ、Ｃ、Ｇ、およびＴ）の第１のラベルへの遷移は許容されており、左下の象限にはすべての重みが存在している。
ｅ）各第２のラベル（フロップ、例えば、ＡＦ）からポリマー単位の同じタイプ（フロップ、例えば、ＡＦ）の第２のラベルへの遷移は許容されており、そのため、右下の象限にはＷ５５、Ｗ６６、Ｗ７７、およびＷ８８が存在している。
ｆ）各第２のラベル（フロップ、例えば、ＡＦ）からポリマー単位の任意の他のタイプ（フロップ、例えば、ＣＦ、ＧＦおよびＴＦ）の第２のラベルへの遷移は許容されておらず、そのため、右下の象限ではＷ５５、Ｗ６６、Ｗ７７、およびＷ８８を除いた重みはヌルになっている。
ａ）各第１のラベル（フリップ、例えば、Ａ）からポリマー単位（例えば、Ａ、Ｃ、Ｇ、およびＴ）のすべてのタイプの第１のラベル（フリップ）への遷移が許容されており、そのため、左上の象限内にはすべての重みが存在している。
ｂ）各第１のラベル（フリップ、例えば、Ａ）からポリマー単位の同じタイプ（フリップ、例えば、ＡＦ）の第２のラベルへの遷移が許容されており、そのため、右上の象限にはＷ１５、Ｗ２６、Ｗ３７、およびＷ４８が存在している。
ｃ）各第１のラベル（フリップ、例えば、Ａ）からポリマー単位の任意の他のタイプ（例えば、ＣＦ、ＧＦ、ＴＦ）の第２のラベルへの遷移は許容されておらず、そのため、右上の象限ではＷ１５、Ｗ２６、Ｗ３７、およびＷ４８を除いた重みはヌルになっている。
ｄ）各第２のラベル（フロップ、例えばＡＦ）からポリマー単位のすべてのタイプ（フリップ、例えばＡ、Ｃ、Ｇ、およびＴ）の第１のラベルへの遷移は許容されており、左下の象限にはすべての重みが存在している。
ｅ）各第２のラベル（フロップ、例えば、ＡＦ）からポリマー単位の同じタイプ（フロップ、例えば、ＡＦ）の第２のラベルへの遷移は許容されており、そのため、右下の象限にはＷ５５、Ｗ６６、Ｗ７７、およびＷ８８が存在している。
ｆ）各第２のラベル（フロップ、例えば、ＡＦ）からポリマー単位の任意の他のタイプ（フロップ、例えば、ＣＦ、ＧＦおよびＴＦ）の第２のラベルへの遷移は許容されておらず、そのため、右下の象限ではＷ５５、Ｗ６６、Ｗ７７、およびＷ８８を除いた重みはヌルになっている。
【0175】
ポリマー単位の転位速度に対する測定が行われる速度に応じて、ポリマーが測定と測定の間に複数の回数で転位する場合、複数の単位の明白な転位が観察される場合がある。これが発生する可能性が高い場合は、各ポリマー単位の追加の冗長ラベル（「フラップ」、「フラップ」、「フレップ」など）が加えられることができ、追加的単位の存在を表わされることができ、例えば、フリップからフラップへ移る配列は、中間フロップラベルの存在を意味している。
【0176】
符号化形式のホモポリマーの第２の表現は、ランレングス符号化表現と呼ばれており、以下の通りである。
【0177】
フリップフロップ表現は、長いホモポリマーを介して呼び出すことができるが、交互のラベルのパスとして実行し、複数の接続された呼び出しを行う必要がある。より長いホモポリマーの場合、観察されたシグナルの平坦化は、ポリマーがナノ細孔に対して転位して、ラベル内の各変化の位置がより恣意的になることから、シグナルが変化するときに明確な時間がもはやないことを意味し得る。図１５は、Ｔ‐フリップとＴーフロップの両方の累積的な証拠が高いにもかかわらず、重みがＴ‐フリップまたはＴ‐フロップの間で分割されている一例示的領域に対するこの特異性の喪失の例を示す。
【0178】
このように、ホモポリマーを交互のラベルの列として表すのではなく、代わりに、ホモポリマー全体が、ポリマー単位タイプに関してラベルで表されることができる。したがって、カノニカル配列またはそのフリップフロップ符号化を呼び出すようにＲＮＮ５０をトレーニングするのではなく、ＲＮＮ５０は、一連のポリマー単位のランレングス符号化を呼び出すようにトレーニングされている。例えば、カノニカル配列ＴＡＡＴＴＣＡＡＡＣＴＴＴＴＴＴＴＣＴＧＡＴＡＡＧＣＴＧＧＴのランレングス符号化は、ＴＡ２Ｔ２ＣＡ３ＣＴ７ＣＴＧＡＴＡ２ＧＣＴＧ２Ｔであり、ランレングスはこの塩基に従い、１つの長さは暗黙的である。可能な限り最長での実行が常に行われるため、同じ塩基での実行で隣接する実行はない。
【0179】
ランレングス符号化表現の第１の定式化では、ラベルは、各ポリマー単位タイプの異なるランレングスのラベルを含む。図１６は、このような重み分布の一例を示している。この例では、Ａ、Ｃ、Ｇ、Ｔとして示されている４つの塩基に関して、およびＡ２、Ａ３などとして示されている各塩基のホモポリマーに関して単一のラベルがある。ホモポリマーのすべての可能な長さを収容するためには多数のラベルがあり、１つのタイプの塩基のホモポリマーに関するラベルから同じタイプの塩基のホモポリマーであるが異なる長さのものへの遷移を除いて、すべての遷移が許容されており、そのため、ラベルの数の二乗にほぼ等しい数のラベル間のほとんどの遷移に関する多数の多数の重みｗｉｊがあり（他の可能な遷移スキームも代替的に実装され得る）、扱いが困難になっている。
【0180】
大きなゲノムの長いホモポリマーは、偶然に予想されるよりも頻繁に発生するため、定型化した配列の間に遭遇する可能性のあるすべてのホモポリマーの長さを表すために必要なラベルの数は非常に多くなっている。ネットワークによって出力される重みは、ホモポリマーラベル間の遷移を明示的にパラメータ化するため、トレーニングする必要のあるパラメータの数が多いことと、それらが弱く結合されていることの両方の理由からデータのトレーニングが問題になる。ラベルの中でラベルをシャッフルすると（例えば、Ａ６→Ａ３、Ｔ２→Ｔ７、Ｇ８→Ｇ１）、同じ性能にトレーニングされる同等のモデルが得られるため、長さ４および６のホモポリマーのトレーニング例は、長さ５のホモポリマーについてモデルに通知しない。
【0181】
ランレングス符号化の代替的な好ましい定式化は、重み分布５１をいくつかの従属分布に因数分解することである。したがって、ラベルは、各ポリマー単位タイプに関するラベルを含み、重み分布５１は、遷移に関する重みに加えて、各ポリマー単位タイプのランレングス圧縮ホモポリマーの可能な長さにわたるさらなる重みを含む。遷移重みは、ＲＮＮ５０によって出力され、ランレングス圧縮シーケンス全体の分布、つまり、すべての長さが削除されたランレングス符号化配列、およびポリマー単位が指定された実行（ラン）の長さ（レングス）の条件付き分布の個別のセットを記述する。
【0182】
ランレングス符号化のこの好ましい定式化では、ＲＮＮによって出力される重み分布５１は、異なるポリマー単位タイプ間の遷移を表すために、図１０に示される形式の重みを含み得る。上で考察されたように、この場合、ラベルから同じラベルへの一連の遷移は、ポリマー単位（すなわち、任意の長さの同じポリマー単位タイプの単一のポリマー単位またはホモポリマー）の一連の任意の数のインスタンスを表す。
【0183】
ＲＮＮによって出力される重み分布５１の代替として、ランレングス符号化のこの好ましい定式化は、各ポリマータイプが、単一のラベルではなく第１および第２のラベルによって表されるラベルのセット、例えば、第一のポリマー単位タイプに関するラベルＡとラベルＡＨに対して定義され得る。したがって、上付き文字Ｈは、同じポリマー単位タイプに関して第１のラベルから第２のラベルを区別するために使用され、「ホールド」を効果的に表している。
【0184】
これは、以下の点を除いて、図１３に示すマルチステイ表現に類似している。上述のように、マルチステイ表現では、第２のタイプのラベルから第１のタイプのラベルへの遷移（例えば、ＡＳからＡへ）が許容され、同じポリマー単位タイプのさらなるインスタンスの発生を表している。結果として、ホモポリマーは、一連のラベルによって表されており、そこでは、ＡＡＳＡＳＡＡＳＡＡＳＡＳＡＡＳＡＳＡＳＡＳが、長さ３のポリマー単位のホモポリマーを表す上の例にあるように、第１のタイプのラベルが繰り返されている。対照的に、現在の表現では、許容された遷移が異なるため、第２のタイプのラベルから第１のタイプのラベルへの遷移（例えば、ＡＨからＡへ）は許容されていない。結果として、１つのポリマー単位タイプの単一のインスタンスおよびポリマー単位の同タイプの任意の長さのホモポリマーはすべて、第１のタイプのラベルおよび任意数の第２のタイプのラベルを含む一連のラベルによって表されている。例えば、ＡＡＨＡＨＡＨＡＨＡＨＡＨＡＨＡＨＡＨＡＨは、単一の塩基Ａまたは塩基Ａのホモポリマーを表し得る。具体的には、このことは以下のように達成されている。
ａ）各第１のラベルから任意の他のポリマー単位タイプの第１のラベルへの遷移は許容されているが、各第１のラベルから同じポリマー単位タイプの第１のラベルへの遷移は許容されていない。
ｂ）各第１のラベルから同じポリマー単位タイプの第２のラベルへの遷移が許容されている。
ｃ）各第１のラベルから任意の他のポリマー単位タイプの第２のラベルへの遷移が許容されていない。
ｄ）各第２のラベルから同じポリマー単位タイプの第１のラベルへの遷移は許容されていない。
ｅ）各第２のラベルから他のポリマー単位タイプの第１のラベルへの遷移は許容されている。
ｆ）各第２のラベルから同じポリマー単位タイプの第２のラベルへの遷移は許容されている。
ｇ）各第２のラベルから他のポリマー単位タイプの第２のラベルへの遷移は許容されていない。
ａ）各第１のラベルから任意の他のポリマー単位タイプの第１のラベルへの遷移は許容されているが、各第１のラベルから同じポリマー単位タイプの第１のラベルへの遷移は許容されていない。
ｂ）各第１のラベルから同じポリマー単位タイプの第２のラベルへの遷移が許容されている。
ｃ）各第１のラベルから任意の他のポリマー単位タイプの第２のラベルへの遷移が許容されていない。
ｄ）各第２のラベルから同じポリマー単位タイプの第１のラベルへの遷移は許容されていない。
ｅ）各第２のラベルから他のポリマー単位タイプの第１のラベルへの遷移は許容されている。
ｆ）各第２のラベルから同じポリマー単位タイプの第２のラベルへの遷移は許容されている。
ｇ）各第２のラベルから他のポリマー単位タイプの第２のラベルへの遷移は許容されていない。
【0185】
図１７は、図１０の重み分布からこのタイプの表現を実施するために適合された、かかる重み分布５１の一例を示している。したがって、図１７では、ラベルのセットは、Ａ、Ｃ、Ｇ、およびＴとして示される４つのタイプの塩基に関する４つの第１のラベル、ならびにＡＨ、ＣＨ、ＧＨおよびＴＨとして示される４つのタイプの塩基に関する４つの第２のラベルを含む。図１７に示すように、許容される遷移と許可されない遷移を考慮して、以下の重みが存在するか、ヌルになっている。
ａ）各第１のラベル（例えば、Ａ）から任意の他のポリマー単位タイプ（例えば、Ｃ、Ｇ、およびＴ）の第１のラベルへの遷移は許容されるが、各第１のラベル（例えば、Ａ）から同じポリマー単位タイプ（例えば、Ａ）の第１のラベルへの遷移は許容されておらず、そのため、Ｗ１１、Ｗ２２、Ｗ３３、およびＷ４４を除いて２つの左上象限内にある重みはヌルになっている。
ｂ）各第１のラベル（例えば、Ａ）から同じポリマー単位タイプの第２のラベル（例えば、ＡＨ）への遷移は許容されており、そのため、右上象限内の重みにはＷ１５、Ｗ２６、Ｗ３７、およびＷ４８が存在している。
ｃ）各第１のラベル（例えば、Ａ）から任意の他のポリマー単位タイプ（例えば、ＣＨ、ＧＨ、ＴＨ）の第２のラベルへの遷移は許容されておらず、そのため、Ｗ１５、Ｗ２６、Ｗ３７、およびＷ４８を除いて右上象限にある重みはヌルになっている。
ｄ）各第２のラベル（例えば、ＡＨ）から同じポリマー単位タイプの第１のラベル（例えば、Ａ）への遷移は許容されておらず、そのため、右上象限にある重みＷ５１、Ｗ６２、Ｗ７３、およびＷ８４はヌルになっている。
ｅ）各第２のラベル（例えば、ＡＨ）から任意の他のポリマー単位タイプ（例えば、Ｃ、Ｇ、およびＴ）の第１のラベルへの遷移は許容されており、そのため左下象限にある重みは、Ｗ５１、Ｗ６２、Ｗ７３、およびＷ８４を除いたものが存在している。
ｆ）各第２のラベル（例えば、ＡＨ）から同じポリマー単位タイプ（例えば、ＡＨ）の第２のラベルへの遷移は許容されており、そのため、右下象限内の重みにはＷ５５、Ｗ６６、Ｗ７７およびＷ８８が存在している。
ｇ）各第２のラベル（例えば、ＡＨ）から任意の他のポリマー単位タイプ（例えば、ＣＨ、ＧＨ、ＴＨ）の第２のラベルへの遷移は許容されておらず、そのため、Ｗ５５、Ｗ６６、Ｗ７７、およびＷ８８を除いて右下象限にある重みはヌルになっている。
ａ）各第１のラベル（例えば、Ａ）から任意の他のポリマー単位タイプ（例えば、Ｃ、Ｇ、およびＴ）の第１のラベルへの遷移は許容されるが、各第１のラベル（例えば、Ａ）から同じポリマー単位タイプ（例えば、Ａ）の第１のラベルへの遷移は許容されておらず、そのため、Ｗ１１、Ｗ２２、Ｗ３３、およびＷ４４を除いて２つの左上象限内にある重みはヌルになっている。
ｂ）各第１のラベル（例えば、Ａ）から同じポリマー単位タイプの第２のラベル（例えば、ＡＨ）への遷移は許容されており、そのため、右上象限内の重みにはＷ１５、Ｗ２６、Ｗ３７、およびＷ４８が存在している。
ｃ）各第１のラベル（例えば、Ａ）から任意の他のポリマー単位タイプ（例えば、ＣＨ、ＧＨ、ＴＨ）の第２のラベルへの遷移は許容されておらず、そのため、Ｗ１５、Ｗ２６、Ｗ３７、およびＷ４８を除いて右上象限にある重みはヌルになっている。
ｄ）各第２のラベル（例えば、ＡＨ）から同じポリマー単位タイプの第１のラベル（例えば、Ａ）への遷移は許容されておらず、そのため、右上象限にある重みＷ５１、Ｗ６２、Ｗ７３、およびＷ８４はヌルになっている。
ｅ）各第２のラベル（例えば、ＡＨ）から任意の他のポリマー単位タイプ（例えば、Ｃ、Ｇ、およびＴ）の第１のラベルへの遷移は許容されており、そのため左下象限にある重みは、Ｗ５１、Ｗ６２、Ｗ７３、およびＷ８４を除いたものが存在している。
ｆ）各第２のラベル（例えば、ＡＨ）から同じポリマー単位タイプ（例えば、ＡＨ）の第２のラベルへの遷移は許容されており、そのため、右下象限内の重みにはＷ５５、Ｗ６６、Ｗ７７およびＷ８８が存在している。
ｇ）各第２のラベル（例えば、ＡＨ）から任意の他のポリマー単位タイプ（例えば、ＣＨ、ＧＨ、ＴＨ）の第２のラベルへの遷移は許容されておらず、そのため、Ｗ５５、Ｗ６６、Ｗ７７、およびＷ８８を除いて右下象限にある重みはヌルになっている。
【0186】
したがって、所与のポリマー単位タイプの一連のラベルは、常に第１のラベルの単一のインスタンスで始まり、次いで第２のラベルの１つ以上のインスタンスで始まる。例えば、一連のラベルＡ、ＡＡＨ、ＡＡＨＡＨなどのいずれか（任意の数のラベルＡＨを伴う）は、任意数のポリマー単位のインスタンスの列（つまり、単一のポリマー単位または任意長の同じポリマー単位タイプのホモポリマー）を表す。
【0187】
上述のように、図１０の例はホモポリマーの適切な表現を提供せず、同じことが図１７の例にも当てはまるる。しかしながら、ホモポリマーは、ランレングス圧縮ホモポリマーの可能な長さにわたるさらなる重みによって表されている。ここでは、そのようなさらなる重みのいくつかの可能性が説明され、それらのそれぞれは、図１０の形式または図１７の形式の重みと組み合わせて適用され得る。
【0188】
さらなる重みについての第１の可能性は、それらが、可能なポリマー単位タイプのごとに、ホモポリマーの可能な長さのセットにわたる重みのカテゴリカル分布を含むことである。可能な長さはカテゴリであり、ＲＮＮ５０出力は各カテゴリに重みを割り当てる。一般に、各カテゴリは単一のホモポリマーの長さを表すことができ、またはカテゴリの一部またはすべてがホモポリマーの長さの範囲を表すことができる。カテゴリは、所定長さを超えるすべてのホモポリマーを表すカテゴリを含むことができる。カテゴリは等間隔である必要はない。
【0189】
図１８は、この第１の可能性に従ったそのようなさらなる重みの一例を示している。この例では、４つの塩基Ａ、Ｃ、Ｇ、Ｔのそれぞれの可能な長さごとに重みｌｉｊがあり、これら塩基はインデックスｉによってインデックス付され、長さはインデックスｊによってインデックス付けされている。この例では、各カテゴリは単一の長さに対応しているが、代わりに、各カテゴリを長さの範囲に対応させて、カテゴリの数を減らすこともできる。図１８に示されるさらなる重みは、ラベル間の遷移のための重みと共に重み分布５１の一部を形成し、これは、例えば、図１０～１３のいずれかに示されるような、上述のような形式をとることができる。
【0190】
カテゴリ分布は、すべてのホモポリマーラベル間の遷移を完全に指定するよりも少ないパラメータを必要とし、基礎となるランレングス圧縮ゲノムが推定され得るようにするが、依然としてトレーニングデータを十分に活用しない弱い結合の問題があり、長いホモポリマーのトレーニングを困難にしている。
【0191】
さらなる重みの第２の可能性は、それらが可能なポリマー単位タイプごとに、ホモポリマーの可能な長さにわたるパラメータ化された分布のパラメータを含むことである。所与のポリマー単位のホモポリマーが所与の長さのいずれかとなる確率を計算するために、このようなパラメータが使用され得る。
【0192】
図１９は、この第２の可能性に従ったそのようなさらなる重みの一例を示している。この例では、Ａ、Ｃ、Ｇ、Ｔとして示された塩基の４つのタイプそれぞれにインデックスｉでインデックス付けされた重みｐｉｊがある。これら重みは、分布のｊ個のパラメータであるＰ１、Ｐ２、…、Ｐｊを示しており、パラメータはインデックスｊによってインデックス付けされている。パラメータは、分布を表すいずれかのパラメータであり得る。一般に、分布に応じて、ｊはいずれかの複数の値を有することができる。図１９に示されるさらなる重みは、ラベル間の遷移のための重みと共に、重み分布５１の一部を形成し、これは上述のような、例えば、図１０～１３のいずれかに示されるような形をとることができる。
【0193】
例として、図２０は、平均と分散の２つのパラメータの異なる値によってそれぞれ表されるホモポリマーの長さの２つの異なる分布の例を示している。
【0194】
ホモポリマーの長さにわたってパラメータ化された分布を使用する利点は、分布がホモポリマーの長さの事後分布として解釈され得ることであり、推定された長さに信頼を置くことができる。例えば、図２０では、両方の分布がホモポリマーの長さの同じ事後平均推定値を示すが、信頼度は異なり、分散が大きい分布（左）は、分散が小さい分布（右）よりも信頼度が低くなっている。
【0195】
異なるホモポリマーの長さの予測は、すべて同じネットワーク出力のセットを介して行われるため、この予測は以前よりもはるかに緊密に結合され、ネットワークが１つのホモポリマーの例から同様の長さの例に一般化することを可能にしている。
【0196】
ネットワークの出力と組み合わせて、多くの異なる確率分布が使用され得る。発生する可能性のあるホモポリマーの長さを表すことができる分布を選択することは有利であり、そのため、この分布は、潜在的な長さの大きなセット、または半無限のセットにわたってサポートする必要がある。所与のホモポリマーの長さにおいて高い信頼度（低分散）と低い信頼度（高分散）の両方を表すパラメータの値が存在することも望ましい。負の二項分布または幾何分布が使用されることがあり、信頼性の高いケースと低いケースを区別することができない。
【0197】
幾何分布の分散は平均の関数であり、負の二項には追加の自由度があり、その分散は常に平均より大きくなければならない。これらの両方の基準を満たす分布は、［０，∞］にわたってサポートする連続分布を離散化することで見つけることができる。離散化の１つの方法は、ホモポリマーが長さＬである確率を、Ｌ～Ｌ＋１までの密度関数の積分に設定するか、代替的にＬ＝０を適切に処理してＬ－０．５～Ｌ＋０．５に設定する。
【0198】
好ましくは、離散化された分布は、明示的な累積密度関数を有する。このような密度の例は、ワイブル分布、対数ロジスティック分布、対数正規分布、ガンマ分布であるが、これらに限定されない。使用されるパラメトリック分布またはその離散化された対応物の平均、最頻値、分散の明示的な表現がある場合は、有利であるが、必須ではない。
【0199】
図２１は、すべてが
上でサポートを有している、ホモポリマーの長さを表すためのいくつかの適切な離散分布を示している。Γ（α）はガンマ関数、γ（α、β）は不完全ガンマ関数、Φ（ｘ）は標準正規分布の累積分布である。
【数6】
上でサポートを有している、ホモポリマーの長さを表すためのいくつかの適切な離散分布を示している。Γ（α）はガンマ関数、γ（α、β）は不完全ガンマ関数、Φ（ｘ）は標準正規分布の累積分布である。
【0200】
第１および第２の可能性のそれぞれにおいて、さらなる重みは、可能なポリマー単位タイプごと、すなわち、ホモポリマーの可能なポリマー単位タイプごとに定義される。これは効果的であるが、さらなる改善が変更によってもたらされることができ、この変更には、（ａ）所与のポリマー単位タイプおよび先行するポリマー単位タイプの可能な対についてのさらなる重み、（ｂ）所与のポリマー単位タイプおよび後続のポリマー単位タイプの可能な対についてのさらなる重み、または（ｃ）所与のポリマー単位タイプ、先行するポリマー単位タイプ、および後続のポリマー単位タイプの可能なトリプレットについてのさらなる重みがある。
【0201】
この変更により、重みは、例えば、第１の可能性に応じたホモポリマーの可能な長さのセットにわたる重みのカテゴリ分布、または第２の可能性に応じたホモポリマーの可能な長さにわたるパラメータ化された分布のパラメータ、など同じ形式を取るが、重みの数は増加する。ケース（ａ）および（ｂ）について、重みの数が３倍に増やされ、それにより、各可能なポリマー単位タイプの代わりにそれぞれの可能な対のための分布を設定し、例えば、４つのタイプの塩基｛Ａ、Ｃ、Ｇ、Ｔ｝の代わりに、１２の対の塩基｛（Ａ、Ｃ）、（Ａ、Ｇ）、（Ａ、Ｔ）、（Ｃ、Ａ）、（Ｃ、Ｔ）、（Ｃ、Ｇ）、（Ｇ、Ａ）、（Ｇ、Ｃ）、（Ｇ、Ｔ）、（Ｔ、Ａ）、（Ｔ、Ｃ）、（Ｔ、Ｇ）｝の分布を設定する。例として、図２２は、そのようなさらなる重みの一例を示しており、これは、各ポリマー単位タイプの対に対して設定されたホモポリマーの可能な長さにわたるパラメータ化された分布のパラメータを含んでいる。これは、ケース（ａ）および（ｂ）に対応し、この対は、ケース（ａ）では、所与のポリマー単位および先行するポリマー単位タイプであり、ケース（ｂ）では、所与のポリマー単位タイプおよび後続のポリマー単位タイプである。パラメータの形式自体は、図１９の場合と同じであり、特定のポリマー単位のホモポリマーが任意の長さであるという確率を計算するために同様に使用されることができる。
【0202】
同様に、ケース（ｃ）の場合、重みの数を９倍に増やして、各可能なトリプレットについての分布、例えば、４つのタイプの塩基ではなく３６個の塩基のトリプレットを設定する。例として、図２３は、そのようなさらなる重みの例を示しており、これはポリマー単位タイプの各トリプレットに対して設定されたホモポリマーの可能な長さにわたるパラメータ化された分布のパラメータを含む。これはケース（ｃ）に対応しており、トリプレットは、特定のポリマー単位、先行するポリマー単位タイプ、および後続のポリマー単位タイプになっている。パラメータの形式自体は、図１９の場合と同じであり、特定のポリマー単位のホモポリマーが任意の長さであるという確率を計算するために同様に使用されることができる。
【0203】
この変更は、長いホモポリマーのエッジを識別する能力が、先行および／または後続のポリマー単位に依存して変化する可能性があるという認識に基づいて、精度を向上させる。例えば、塩基Ｔから塩基Ａのホモポリマーへの遷移は、塩基Ｃから塩基Ａのホモポリマーへの遷移よりもはるかに識別が容易である。したがって、様々な対またはトリプレットの分布を表す異なるさらなる重みを提供することは、ポリマー単位をより正確に推定することができる表現をもたらす。
【0204】
重み分布５１のいくつかの従属分布への同様の因数分解を使用して、ポリマーの他の特性を表すことができる。一例は、非修飾形態および修飾形態を有するポリマー単位タイプ、例えば、塩基の１つのタイプおよび同じ塩基の修飾されたタイプを含み得るポリヌクレオチドの表現である。
【0205】
ＤＮＡの天然鎖には、例えば、５－メチルシトシンや６－メチルアデニンなどの修飾塩基が含まれており、それらの存在と位置は、一連のナノ細孔測定を使用して検出できる。フリップフロップおよび他の表現は、容易に一般化して、ラベルのセットを塩基Ａ、Ｃ、ＧおよびＴから拡張することによって修飾を喚起することができるようになり、修飾塩基を表すための追加のラベル（例えば、ＣＭは修飾されたＣを表す）を含む。
【0206】
図２４は、重み分布の一例を示しており、ラベルのセットが、修飾塩基に関してラベルＣＭを追加的に含むように拡張されている。同様に、追加のラベルＣＭは、図１０、１２～１４、または１６に示される重み分布５１のいずれかでラベルのセットに追加され得る。
【0207】
ラベルのアルファベットのこの拡張は、当技術分野で説明された以前の方法でも使用でき、これは特定時間のシグナルが塩基の固定長フラグメントによって表されることができると仮定するが、これらは、考慮される修飾の数が増えるにつれて、ネットワークには、固定長の各塩基間の可能な遷移について出力が必要であることから尺度が正しくない。例えば、追加の修飾塩基が許容されると、４つのカノニカル塩基、３１２５（＝５５）で構成される長さ５の断片については、１０２４の可能な組み合わせ（４５）があり、２つの修飾が許容されると、７７７６（＝６５）の可能な組み合わせがある。ＲＮＡには１００を超える既知の修飾があり、そのため、フラグメントベースモデルは急速に増加する処理量を要する。
【0208】
ポリマー単位の非修飾形態は、カノニカルポリマー単位として説明され得、ポリマー単位の修飾形態は、非カノニカルポリマー単位として説明され得る。修飾（または非カノニカル）ポリマー単位は、通常、対応する非修飾（カノニカル）ポリマー単位とは異なる形でシグナルに影響を及ぼす。
【0209】
参照が行われ、参照により本明細書に組み込まれる、２０１９年９月４日に出願された国際特許出願第ＰＣＴ／ＧＢ２０１９／０５２４５６号には、カノニカルおよび非カノニカル塩基に関する教示が含まれており、これは本明細書に開示される本発明の方法のいずれかに適用され得る。
【0210】
国際特許出願第ＰＣＴ／ＧＢ２０１９／０５２４５６号は、本発明の方法のいずれかに適用され得る非カノニカル塩基の例を開示する。
【0211】
国際特許出願第ＰＣＴ／ＧＢ２０１９／０５２４５６号はまた、本発明の方法のいずれかと組み合わせて使用され得る１つ以上の非カノニカルポリマー単位を含むポリマーを調製および分析する方法を開示する。
【0212】
非限定的な例として、本発明の方法のいずれかと組み合わせて使用され得る国際特許出願第ＰＣＴ／ＧＢ２０１９／０５２４５６号に開示される方法は、カノニカルポリマー単位（例えば、アミノ酸）の比率を対応する非カノニカルポリマー単位（例えば、アミノ酸）に、例えば、化学変換または酵素変換によって、非決定論的な方法で変換する。その場合、一連のポリマー単位の推定値を導出（「呼び出し」）するとき、非カノニカル塩基は、対応するカノニカル塩基であると推定（「呼び出される」）されることができる。これには、国際特許出願第ＰＣＴ／ＧＢ２０１９／０５２４５６号の図１８ｂ～１８ｋを参照して説明された方法が含まれる。
【0213】
カノニカルおよび非カノニカルのポリマー単位がターゲットポリマーに非決定論的に組み込まれることから、ポリマー単位の基本的な配列は不明であり、鎖ごとに異なる。各鎖が代替的塩基を含む場合でも、依然として関連するカノニカル配列があり、任意の代替物のタイプと場所を推測するのではなく、これを直接呼び出す利点がある。言い換えれば、ターゲットポリマーに追加のポリマー単位があるにもかかわらず、分析はカノニカル値のみをシグナルに帰属させ決定された配列がＡ、Ｃ、Ｇ、およびＴの群からの塩基で構成されるようになっている。このように、非カノニカルポリマー単位を分析においてカノニカルポリマー単位として認識することにより、初期変換は、例えば、シグナルの分析に存在するいずれかの誤差が非体系的になるなど、シグナルにより多くの情報を提供する方法を提供することができ、それによって、推定精度の向上をもたらす。
【0214】
フリップフロップおよび同様の表現ははるかに扱いやすく、それは、遷移重みをパラメータ化するために、各時点でＲＮＮ５０から出力される必要な重みの数は、フラグメントの長さに等しい累乗としてではなく、修飾の数で２次関数的に定められるためである（４０は４つのカノニカル塩基を出力し、６０は１つの追加の修飾された塩基を出力し、８４は２つの追加の修飾された塩基を出力する、など）。
【0215】
ニューラルネットワーク１０がフリップフロップ表現を使用する場合、正しい配列の確率を最大化するためにトレーニングが実行され、各リードに対して、推定配列を生成するためにさらに復号されなければならない条件付き確率場を生成する。使用される復号の方法は、リードと呼ばれる塩基の総数やその構成の要約統計量など、バルクメトリックで明らかになる不要なバイアスを最終呼び出しに導入することができる。同じ配列を有するか、または共通のサブ配列を含む鎖のリードから推定された配列が集合的に考慮される場合、さらなるバイアスが明らかになることがある。
【0216】
この問題を低減するために、ペナルティ項がトレーニング済みのニューラルネットワーク１０に組み込まれ、その出力を調整して対象のメトリックのパフォーマンスを向上させることができ、例えば、新しいポリマー単位を放出しないことに対応するすべての重み（同じ塩基内のフリップ－フリップ、またはフロップ－フロップ遷移）から定数を減算することは、呼び出されるポリマー単位の数を増やす一方で、特定のポリマー単位の比率は、そのアイデンティティの新しいポリマー単位を放出することになるすべての遷移に定数を追加することによって増やされることができる。
【0217】
使用されるペナルティ項の値は、値のグリッド上の代表的なリードのセットの対象となるメトリックを計算することによって調整されることができ、代替的に、シンプレックス法などのより正式な最適化方法、または当技術分野で既知である他の多くの方法が使用され得る。ペナルティ項は、固定定数よりむしろ、リードに関する事前情報の関数であることがある。
【0218】
ペナルティ項は、任意の層でニューラルネットワーク１０に組み込まれることができるが、可能であれば最終層に組み込むことが好ましく、放出される遷移重みに直接影響し、これが最終的な推定シーケンスへの影響を直感的に理解できるという利点があり、そのため、フォームにペナルティを導く。
【0219】
ニューラルネットワーク１０の出力の解釈を確率モデルとして保持するために、必須ではないが、「グローバル正規化」が実行される前にペナルティが組み込まれることが望ましい。
【0220】
多くの場合、カノニカル塩基の配列といずれかの修飾の存在の両方を正確に決定することは重要であり、修飾を推定しようとして、基になるカノニカル配列の推定に悪影響を与えることは望ましくない。これがどのように生じ得るかの一例は、カノニカルなシトシンと５－メチルシトシンの間の重みの分割であり、そのため、別の塩基が最も可能性の高い推定値になる。
【0221】
重み分割動作を防ぐために、ＲＮＮによって出力された重み分布５１は、２つの従属分布に含められることができる。この場合、第１の分布は、上述の形態のいずれかをとる重み分布５１であり、単一のラベルが非修飾および修飾形態を有するポリマー単位タイプを表し、第２の分布は、条件付き分布であり、非修飾および修飾形態のさらなる重みを含む。この表現は、任意の数の修飾形態について、かつ、いずれかの可能なポリマー単位タイプの修飾形態について拡張され得る。
【0222】
図２５は、塩基Ｃの非修飾形態および同じ塩基ＣＭの修飾形態を表すためのさらなる重みの一例を示す。この場合、さらなる重みは、塩基Ｃの非修飾形態に関する重みｍ１と、塩基ＣＭの修飾形態に関する重みｍ２である。これは、図２４に示されたタイプの重み分布５１の代わりに適用され得る。さらなる重みは、ラベル間の遷移の重みと共に、重み分布５１の一部を形成し、これは例えば、図１０～１４、１６のいずれかに示されるように、上述のような形をとることができる。
【0223】
この因数分解された表現は、修飾が存在しないかのようにカノニカル配列が決定され得、その後に修飾の場所が決定され得ることを意味する。修飾の条件付き分布自体は、おそらく以前の生物学的期待を反映して因数分解され得る。例えば、一方の分布は、シトシンが修飾されているかどうかを表す可能性があり、他方の分布は、修飾が存在する場合、その修飾が５－メチルシトシン（５ｍＣ）であるか５－ヒドロキシメチルシトシンであるかを表す可能性がある。
【0224】
例として、図２６は、この様式で拡張された４つの塩基のフリップフロップ表現を使用して修飾された塩基５ｍＣを検出した場合に、ＲＮＮ５０の出力によって予測された塩基を示す。この例では、修飾された塩基５ｍＣは、外部予測と一致する場所の３つの位置で推定される。
【0225】
上述したように、ＲＮＮ５０の重み分布は、グローバルに正規化される。このようなグローバル正規化は、一連の重み分布を通るラベルのすべての経路で行われる可能性があるため、すべての可能性のある経路の合計は１つである。グローバル正規化は、重みが事後確率と見なすことができるように、出力空間にわたることができる。
【0226】
グローバル正規化は、ローカル正規化よりも厳密に表現力があり、「ラベルバイアス問題」として当該技術分野で知られている問題を回避する。
【0227】
ローカル正規化よりもグローバル正規化を使用することの利点は、条件付き確率場（Ｌａｆｆｅｒｔｙ ｅｔ ａｌ．，Ｃｏｎｄｉｔｉｏｎａｌ Ｒａｎｄｏｍ Ｆｉｅｌｄｓ：Ｐｒｏｂａｂｉｌｉｓｔｉｃ Ｍｏｄｅｌｓ ｆｏｒ Ｓｅｇｍｅｎｔｉｎｇ ａｎｄ Ｌａｂｅｌｌｉｎｇ Ｓｅｑｕｅｎｃｅ Ｄａｔａ，Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ，Ｊｕｎｅ２００１）が、最大エントロピーマルコフモデル（ＭｃＣａｌｌｕｍ ｅｔ ａｌ．，Ｍａｘｉｍｕｍ Ｅｎｔｒｏｐｙ Ｍａｒｋｏｖ Ｍｏｄｅｌｓ ｆｏｒ Ｉｎｆｏｒｍａｔｉｏｎ Ｅｘｔｒａｃｔｉｏｎ ａｎｄ Ｓｅｇｍｅｎｔａｔｉｏｎ，Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ＩＣＭＬ２０００，５９１－５９８．Ｓｔａｎｆｏｒｄ，Ｃａｌｉｆｏｒｎｉａ，２０００）より優位にあることに類似する。ラベルバイアス問題は、ポリマー配列の拡張のような、ラベル間の許容された遷移の行列がスパースであるモデルに影響する。
【0228】
グローバル正規化は、配列全体を正規化することでこの問題を軽減し、異なる時間の遷移を相互に交換ることを可能にする。グローバル正規化は、ホモポリマーおよびその他の複雑度の低い配列の偏った推定を回避するのに特に有利である。これらの配列は、他の配列と比較して許容される遷移の数が異なり得るためである（モデルによっては多くまたは少なくあり得る）。
【0229】
デコーダ８０をここで考察する。
【0230】
デコーダ８０は、重み分布５１から一連のポリマー単位の推定値を導出する。これは、例えば、Ｇｒａｖｅｓ ｅｔ ａｌ．，“Ｃｏｎｎｅｃｔｉｏｎｉｓｔ ｔｅｍｐｏｒａｌ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｌａｂｅｌｌｉｎｇ ｕｎｓｅｇｍｅｎｔｅｄ ｓｅｑｕｅｎｃｅ ｄａｔａ ｗｉｔｈ ｒｅｃｕｒｒｅｎｔ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ”，Ｉｎ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ２３ｒｄ ｉｎｔｅｒｎａｔｉｏｎａｌ ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｍａｃｈｉｎｅ ｌｅａｒｎｉｎｇ，３６９－３７６（ＡＣＭ，２００６）において開示されているように、コネクショニスト時間分類を使用して行うことができる。
【0231】
デコーダ８０は、図２７に示すように、以下の３つのステップを実行する。
【0232】
ステップＳ１において、ラベルの推定値は、ぞれぞれの重み分布５１に関して導出される。この推定値については、以下でさらに考察される。
【0233】
ステップＳ２では、ステップＳ１で導出されたラベルは、一連のポリマー単位の推定値を導出するためにランレングス圧縮（これは、復号化とも呼ばれる）される。ポリマー単位よりも多くの重み分布５１があるために、これが必要となる。上述のように、同じラベルの連続的配列が、ＲＮＮ５０に固有のポリマーの表現において同じポリマー単位を表すことから、ランレングス圧縮はポリマー単位の推定値を生成する。
【0234】
ステップＳ２はまた、所与のポリマー単位タイプを表すために複数のラベルが使用される表現を考慮に入れる。例えば、上述のマルチステイ表現では、第２のラベルは、同じポリマー単位タイプに関して第１のラベルに圧縮される。同様に、上述のフリップフロップ表現では、第１のラベル（フリップ）の連続的インスタンスは単一のポリマー単位に圧縮され、第１のラベル（フロップ）の連続的インスタンスは別の単一のポリマー単位に圧縮され、その後も同様の圧縮が行われ、それにより、ホモポリマーの推定値を提供する。
【0235】
例えば、図１１のスキームでは、同じポリマー単位のインスタンスを区別するためにブランクを復号することは、ステップＳ２で実行され得る。上で考察されたように、「任意選択的」および「強制的」スキームは、ブランクに対して考慮されることができ、ステップＳ２は、２つのスキームのどちらが後に続くかに応じて、ラベルの配列ＡＡＡ－－ＡをＡＡＡＡまたはＡＡのいずれかに復号することができる。
【0236】
フリップフロップ方式の場合、ステップＳ２は、同じラベルの複数の実行を単一の対応するポリマー単位に折り畳むことを含み得る。例えば、ラベルの配列ＣＡＡＦＴＡＣＣＦＴＴＦは、ステップＳ２で一連のポリマー単位ＣＡＡＴＡＣＣＴＴに復号され得る。
【0237】
マルチステイスキームに関して、ステップＳ２は、同じタイプの異なるポリマー単位として同じラベルの連続した配列を識別することによる復号を含み得る。例えば、ラベルの配列ＡＡＳＡＳＴＴＳＣＡＡＳ ＡＳは、ステップＳ２で一連のポリマー単位ＡＴＣＡに復号され得る。
【0238】
ランレングス符号化スキームに関して、ステップＳ２は、同じラベルの実行を折り畳むこと（および、スキームにおいて必要に応じてブランクをドロップすること）による復号化を含み得る。例えば、ラベルの配列ＴＡ２Ｔ２ＣＡ３は、ステップＳ２で、一連のポリマー単位ＴＡＡＴＴＣＡＡＡを表すことができる。
【0239】
ステップＳ３は、重み分布５１が従属分布に因数分解される場合に実行されるが、それ以外の場合は省略される。この場合、ステップＳ１およびＳ２は、遷移に関する重みを使用して実行され、ステップＳ３では、それによって表されるポリマー単位の品質を推定するために、さらなる重みが使用される。例えば、上述のランレングス符号化表現では、ホモポリマーの長さを推定するためにさらなる重みが使用される。同様に、上述の修飾された形態の因数分解された表現では、ポリマー単位が非修飾形態であるか修飾形態であるかを推定するために、さらなる重みが使用される。
【0240】
ここで、ステップＳ１におけるラベルの推定について考察する。重みはそれぞれの遷移の事後確率を表すため、重み分布５１を介してラベルのいずれか任意経路の事後確率を導出するために重みが使用されることができ、これは問題の経路に対応する一連の遷移の重みで表される事後確率を組み合わせることによる。このことは、重みが、異なる経路の可能性が考慮されることを可能にすることを意味し、これが推定精度を向上させる。したがって、ステップＳ１では、重み分布５１を通るラベルの経路に関する遷移のための、組み合わされた重みの考慮に基づいた技術を利用する。
【0241】
（上で考察されたように）１つ以上の遷移が許容されない場合、ステップＳ１でデコーダによって実行される推定は、ラベル間の遷移が許容されるか許容されないかを表す遷移行列を考慮に入れることができる。
【0242】
「最良経路」と「最良ラベル」と呼ばれる２つの異なる手法が可能である。
【0243】
最良経路手法では、ラベルの最も可能性の高い経路が、重み分布５１を基準にして一連の重み分布５１を通っている。この場合、それぞれの重み分布５１に関してステップＳ１で導出されたラベルは、その最も可能性の高い経路のラベルである。
【0244】
重み分布５１は遷移にわたる重みであるため、配列を推定するための復号化の１つの方法は、重みの最大合計を有する経路を見つけることである。このような経路は、例えば動的プログラムアルゴリズムを使用して、遷移重みから効率的な様式で見つけられ得る。ビタビアルゴリズムが使用され得る。
【0245】
例えば、図２８は、最良経路アルゴリズムを示し、ここでＲＮＮ５０は、ｗｉ
ｊｋの重みをブロックｉにおけるラベルｊからラベルｋへの遷移に出力する。ベクトルｔｉは、トレースバック情報を格納し、これは、特定の現在のラベルから得られる最良のラベルであり、スコアＳと最良経路Ｐを決定するために使用されている。
【0246】
ランレングス符号化の場合、検出される最適経路はランレングス圧縮配列用であり、各実行の長さは、ＲＮＮ５０によって出力される適切な条件付き分布から決定される必要がある。最良経路が新しいポリマー単位が発生したことを示す場合、実行の長さは、そのポリマー単位に対応する条件付き分布から推定される。この推定を行う適切な方式には、条件付き分布の平均値（四捨五入あり）、最頻値、または中央値を見つけることが含まれ、好適な事前確率が与えられれば、最大ベイズ因子を有する長さも使用されることもある。ネットワークが、存在している可能性のある塩基修飾を表す条件付き分布を出力する場合、修飾は順序ではなくカテゴリであるため、事後平均と中央値は好適な推定量ではないが、それらの存在で最良経路をマークアップするプロセスは同様に進行する。
【0247】
ランレングス符号化の場合、ランレングスバイアス補正が適用され得る。このモデルは実際のリードからトレーニングされるため、学習されてモデルの重みに組み込まれたランレングスの事前分布がいくつかある。ランダム鎖または実際の（例えば、ゲノム）鎖から派生したリードの場合、トレーニングデータが含むことになる様々な長さ（レングス）の実行（ラン）の比率には顕著な偏りがあり、例えば、長い実行は非常に稀である。このことは、方法が長い実行を呼び出す機能に影響を及ぼす。実行の長さには曖昧さがあり、短い呼び出しは、長い呼び出しよりも正しいことが多く、そのため、単一リードの精度を最大化すると、実行の呼び出しが短くなる傾向がある。そのため、比較的短いランレングスにバイアス補正を適用することには利点がある。
【0248】
最も可能性の高い経路を見つけた場合、カノニカル塩基の配列を導出する必要がある。フリップフロップ表現の場合、ラベルの隣接する繰り返しは、他のＣＴＣのようなモデルのブランクラベルと同じ間隔の役割を果たし、次いで各ラベルのフリップフロップアイデンティティがスクラブされて、カノニカル塩基が残るためにマージされる。ランレングス符号化の場合、ブランクラベルが削除され、各実行が適切な数の塩基に拡張される。
【0249】
最良ラベル手法についてここで考察するが、最良経路手法は、正しいラベルが最も可能性の高い経路上にない場合に、いくつかの特定のラベルを不正確に誤って推定し得ることに注意されたい。ＲＮＮ５０からの重み分布５１は、ラベルのすべての可能な経路にわたる確率分布、ラベルを位置に割り当てる一貫した方法、および一連のラベルに対応し、それにより、ポリマー単位に対応する（（同じ配列をもたらす多くの経路があるので）この対応は一意ではないが）各経路を有効に規定する。最良ラベル手法は、最も可能性の高い一連のラベル（したがってポリマー単位）を推定することにより、最良経路手法よりも改善されている。つまり、最良経路を見つけるのではなく、タイムステップｉの後に経路がラベルｊにあったという事後確率は、この条件を満たすすべての経路を合計することで見つけることができる。これは、一連の重み分布５１を通るラベルのフォワードおよびバックワード経路を考慮に入れることができる。この場合、それぞれの重み分布５１に関してステップＳ１で導出されたラベルは、このように最も可能性が高いラベルとして導出される。
【0250】
動的計画法を時間のフォワードとバックワードの両方で使用することで、この計算が、最良経路の場合と同様の再帰を使用して効率的に実行されることを可能にしており、最良経路アルゴリズムがビタビ復号法の形式と見なされ得る場合、事後確率の計算は、フォワードおよびバックワードアルゴリズムの形式と見なされ得る。同様に、タイムステップｉでラベルの変更があった事後確率は、この遷移を満たすすべての経路を合計することで計算されることができ、この計算はまた、効率的な方法で実行されることができる。
【0251】
事後確率は、各位置での可能性のあるラベルについての情報を提供するが、ほとんど同じようなラベルを選択して復号すると一貫性がない経路になり、配列も一貫性がなくなる可能性がある。遷移行列Ｔを１つのラベルから、遷移が許容されているかどうかに応じてエントリが１または０のいずれかになる別のラベルへと定義することにより、最良経路復号アルゴリズムがこれらの事後確率に適用され、すべての一貫性のある経路の中から、そのラベルの事後確率の合計を最大化する経路を見つけることができる。
【0252】
この一例として、図２９は、そのようなアルゴリズムが位置ｉにあるラベルＫであることの事後確率Ｐｉ
ｋに適用されることを示す。ベクトルｔｉは、トレースバック情報を格納し、これは、特定の現在のラベルから得られる最良ラベルであり、スコアＳと最良経路Ｐを決定するために使用されている。
【0253】
代替的に、すべての一貫した経路にわたってラベルの事後確率の対数の合計を最大化する経路を見つけるために、最良経路アルゴリズムが事後確率の対数に適用されることができる。これは、すべての一貫した経路にわたってラベルの事後確率の積を最大化する経路を見つけることと同じである。
【0254】
この一例として、図３０は、位置ｉにあるラベルｋである対数事後確率ｐｉ
ｋにそのような最良経路アルゴリズムが適用されることを示す。ベクトルｔｉは、トレースバック情報を格納し、これは、特定の現在のラベルから得られる最良ラベルであり、スコアＳと最良経路Ｐを決定するために使用されている。
【0255】
代替的に、重み分布５１は遷移にわたって定義されることから、各位置にあるラベルではなく、位置間で取られる遷移の事後確率を計算するために、フォワードアルゴリズムおよびバックワードアルゴリズムが使用されることができる。
【0256】
この一例として、図３１は、すべての経路を合計した事後確率の計算を示す。これらの重みは遷移にわたっていることから、遷移行列と同じ形状を有し、その対数が、一貫した経路を見つけるために、遷移重みの代わりに図２８で定義された数式に入力されることができる。
【0257】
ゲノムの同じ領域をカバーする多数のシグナルからコンセンサス配列を生成するためのより成功した手法の１つは、「ポリシング」と呼ばれており、いくつかの出版物に記載されている。コンセンサス配列のポリシングは反復プロセスであり、ドラフトコンセンサス配列への候補の変更は、すべてのリードがそれらにどの程度一致しているかによってスコアリングされ、高いスコアの変更が保持され、１つのリードによって引き起こされた間違いが他のリードによって修正されることを可能としており、この手順がスコアの高い変更が見つからなくなるまで繰り返される。
【0258】
ポリシングがシングルリードへの適用にも有益であり得るかは、明らかではない。前の項で説明したポリマー単位を推定するためのすべての手法は、ネットワーク出力を介して塩基配列が抽出され得る適切な経路を見つけることを目的としているが、単一経路を適切であると識別するのではなく、レジストレーションのないトレーニング目標が特定の配列のすべての経路にわたって合計される。トレーニング基準と一致させるために、ＲＮＮ５０からの出力が、最も可能性の高い配列を見つけて、最も可能性の高い経路ではなく、同じ配列になるすべての経路にわたり合計して復号されるのが理想的である。特定の配列のすべての経路を合計することは、候補の変更が適切かどうかを評価するためにポリシングが使用する基準であり、そのため、ポリシングは、最も可能性の高い配列を見つけるための、反復ヒューリスティック、貪欲山登り法の変形として考えることができる。
【0259】
関連する一連のポリマー単位の測定値である複数の一連の測定値を分析する場合、この方法は基本的に同じであるが、複数の一連の測定値からの測定値は、複数のそれぞれの次元で配置されるものとして扱われている。このことは次元を増加させるが、ニューラルネットワーク１０の形態は、それ以外は上で説明したものと同じである。この場合に適用できるいくつかのさらなる考慮事項は以下の通りである。
【0260】
ペナルティ項を使用する場合、すべての遷移に対して一定になっている放出しないペナルティの代替として、ペナルティは、遷移に応じて異なる値を取るか、完全に存在しない可能性がある。例えば、一部の遷移は状態に変化をもたらさず、他のリードでの失われた状態を意味しないことから、自由であり得るか、わずかなペナルティを有し得る。
【0261】
使用される１つまたは複数のペナルティは、各リードに対して同じである必要はなく、なぜ２つのリードが異なる特性を持ち得るかという、適切な生物物理学的な理由があることがある。例えば、一方のリードはモーターの上で二本鎖であった分子からのものであるのに対し、他方は一本鎖であった分子からのものであり得、あるいは、２つのリードは異なるモーターを備えた鎖であり得、一方のリードがＤＮＡであるのに対し、他方のリードがＲＮＡである可能性がある、あるいは、２つのリードは、同じフォワード－リバース相補鎖の第１と第２の部分であり得、配列決定中のこれら２つの間のハイブリダイゼーションが反応速度を変化させる。
【0262】
使用される１つまたは複数のペナルティは、時間に依存する可能性がある。使用される１つまたは複数のペナルティは、リードのローカル統計に依存する可能性がある。これら例には、速度、失速の存在、またはノイズが含まれる。使用される１つまたは複数のペナルティは、他のモデルまたは手法を使用したリード分析の出力、例えば、スリップ（塩基の欠落）の可能性の予測など、に依存する可能性がある。
【0263】
フリップフロップ表現とランレングス符号化（ＲＬＥ）表現の両方の状態遷移モデルには時間順序があり、状態順序を逆にすることは、有効な状態の配列ではないことがある。つまり、ＲＬＥ表現では、塩基は留まる前に放出される必要があり、フリップフロップ表現では、繰り返しの最初の塩基が「フリップ」である必要がある。この結果、一方のリードが逆補数または逆である他方リードの鎖（または鎖の一部）からのものである場合、分析前に一方のリードを逆にして同じ手順を２つのフォワードリードのものとして適用するだけでは不十分である。
【0264】
２つの異なる方向のリードを組み合わせ、両方のリードの状態をペアとして監視するために、より複雑な手順を使用することもできるが、一方のリードと他方のリードで標準モデルを使用することが好都合であり、ここで他方のリードは、「バックワード」にトレーニングされたものとなっている（トレーニング中にはリードからのシグナルとターゲット配列が逆になっている（場合によっては補完されている））。このようなモデルの対を使用すると、フォワードリードとリバースリードの両方がモデルの状態を同じ順序で通過するため、これら両方がフォワードリードであるかのように組み合わせることができる。
【0265】
ニューラルネットワーク１０は、例えば以下のように、従来技術を使用してトレーニングされることができる。
【0266】
ニューラルネットワーク１０は、ラベルの経路上の確率を表す重みを表す分布（ラベルによる測定の一貫したラベリング）を出力し、これは次に、ポリマー単位の配列の推定値に復号される。ニューラルネットワーク１０は、この推定値の誤差比率が低いことを確実にすることを目的とした基準でトレーニングされている。
【0267】
遷移重みを使用して経路全体の確率分布を規定する重要な側面は、すべての経路の合計が１になるように重みを正規化する必要があることである。遷移重みのセットが与えられると、正規化係数は、上で考察された事後確率の計算で使用されるようにフォワードアルゴリズム（またはバックワードアルゴリズム）を適用することにより、動的計画法を使用して計算され得る。１に正規化されるのは、各時点でのネットワークの出力ではなく、すべての可能な経路の合計であるため、この手法はグローバル正規化と呼ばれ、各経路のスコアが確率（の対数）としての判読を有することを確実にする。一貫したラベルを有するすべての経路は、確率に対応しており、これらの確率はすべての経路に分布を形成する。
【0268】
グローバル正規化とは対照的に、ニューラルネットワーク１０を正規化して、すべての時点での出力の合計が１になるようにすることは、ローカル正規化と呼ばれる。各経路のスコアは計算でき、確率の形式を有するが、確率質量の合計が１未満であるため、分布を形成しない。ローカル正規化は、ラベルが一貫した経路を形成するかどうかに関係なく、ラベルのすべての配列に確率を割り当てる。
【0269】
配列ラベリングのトレーニングは、入力シグナルの対であるトレーニング例、それに対応するラベルの配列、およびトレーニング例を最適化するための目的関数を必要とする。ナノ細孔測定値とポリマー単位の配列との間の真のレジストレーションは不明であるため、Ｇｒａｖｅｓ ｅｔ ａｌ（２００６）に記載されているようなレジストレーションのないトレーニング方法が好まれている。レジストレーションのあるトレーニング方法では、測定配列の各要素にラベルを付ける必要があるが、レジストレーションのない方法では、ポリマー単位の真の配列のみを知ることが必要とされている。リードについてのポリマー単位の真の配列は、ナノ細孔デバイスで既知の配列のポリマーを測定するか、もしくは、リードを基準配列または既知の配列を有する測定値のセットと比較することで決定され得る。
【0270】
既知の配列の測定値の例は、小さなゲノムが含むことができ、ここではラムダファージ（５０キロ塩基）のような単一リードにおいて完全なゲノムを配列決定することが可能になっている。制限消化もまた使用されることができ、フラグメントはその長さで識別される。別の例では、既知のフラグメントを実行に順次追加する必要があり、これはしたがって、フラグメントがデータに表示される時間によって識別できる。シグナルリードに配列を割り当てることができる任意の方法が使用され得ることは明らかになる。
【0271】
ニューラルネットワーク１０をトレーニングする場合、様々な状況で様々な実験にわたって各ポリマー単位にまたがる測定を行うことが有益であり、そのため、ネットワークは通常の実行状態で遭遇するあらゆる変動の多くにさらされている。理想的には、ナノ細孔によって読み取られるとニューラルネットワーク１０は、完全なリード、すなわち、全長ポリマーを網羅するシグナルと配列の対を使用してトレーニングされる。しかしながら、実際的な考慮事項（計算時間、メモリ）については、シグナルと配列の小さなチャンクで操作するのが一般的である。
【0272】
反復型、畳み込み型、注意型のニューラルネットワークユニットには時間順序の概念があり、トレーニングで提示される測定ウィンドウのサイズによって、学習できるコンテキストが制限されている。各ポリマー単位が有することができる影響の範囲が広いため、トレーニングするための測定の大きなウィンドウをニューラルネットワーク１０に提示することは有益である。使用されるウィンドウのサイズは、ニューラルネットワーク１０が、細孔、ポリマー鎖、および他のシステム構成要素間の相互作用の適切な内部表現を作成できるようにする十分に大きな一連の測定値を提示することと、利用可能な計算処理量との間のバランスである。理想的には、各リード全体が使用されるが、実際には、固定サイズの測定のチャンクが適切な妥協点を提示する。適切なチャンクのサイズは、ナノ細孔と鎖の移動速度に依存するが、約２００～約３００塩基に対応するチャンクサイズが適切であることが証明されている。例えば、このことは、ＣｓｇＧナノ細孔に適していることを証明している。
【0273】
一例示的なトレーニングセットのサイズは、シグナルおよび配列の約３００塩基チャンクの約１００万セットを含み得る。数千チャンクのより小さなトレーニングセットで十分になることができ、１００万チャンクを超えるより大きなトレーニングセットは、トレーニングの多様性をもたらすことができる。
【0274】
ニューラルネットワークをトレーニングする多くの技術、または他の機械学習方法が、当技術分野で知られており、ここで適用されることができる。様々な実験的実行に一般化するための方法による能力により、ポリマー配列がトレーニングデータの大規模なセットから恩恵を受け、グラフィックプロセッシングユニット（ＧＰＵ）またはその他の特殊なハードウェアで計算を実行することが好ましいため、目的関数の方向を最大化しようとすることは、メモリに制限があることから、多くの場合、非現実的である。データの完全なセット全体にわたり目的関数を直接最大化するのではなく、確率的勾配降下法（ＳＧＤ）または関連する手法を使用して、完全なトレーニングセットのサブセット（「ミニバッチ」）を使用して反復的に目的関数を概ね最大化することが好ましい。推奨されるミニバッチサイズは、使用する計算デバイスで利用可能なメモリと、ミニバッチの各要素の測定数に依存する。
【0275】
確率的勾配降下法（ＳＧＤ）の多くの変形が当技術分野で知られており、それらは例えば、ＳＧＤ、モメンタムＳＧＤ、ネステロフモメンタムＳＧＤ、ＲＭＳｐｒｏｐ、ＡｄａＭａｘ、Ａｄａｍなどである。Ａｄａｍの変形である、「Ａｄａｍｓｋｉ」では、反復Ｎのモメンタムがモメンタムランピング係数ｒによって０からその中の最大値μに増加しており、μＮ＝μ（１－ｅ－ｒＮ）が好ましい。Ａｄａｍｓｋｉには、学習率、２つの平滑化パラメータ（当技術分野ではｄｅｃａｙ１およびｄｅｃａｙ２と呼ばれることが多い）、およびモメンタム傾斜率がある。これらのパラメータの多くの選択が有益になっている。好ましいパラメータ化は、１０－３の初期学習率、０．９および０．９９９の平滑化パラメータ、ならびに０．００５のモメンタム傾斜係数を有している。０．９５および０．９９の平滑化パラメータはまた、初期学習率を１０－４に下げるのと同様に、すでにトレーニングされたモデルを改良するためにも効果的であることが証明されている。
【0276】
ＳＧＤおよび関連する手法は反復的に進行し、各反復は次のステップで構成される。
１．完全なトレーニングデータのサブセットを選択する。
２．このサブセットの目的関数を計算する。
３．逆伝搬法を使用して、すべてのネットワークパラメータの勾配を計算する。
４．ＳＧＤまたはその変形を使用してネットワークパラメータを更新する。
５．１に進む（次の反復を開始する）。
１．完全なトレーニングデータのサブセットを選択する。
２．このサブセットの目的関数を計算する。
３．逆伝搬法を使用して、すべてのネットワークパラメータの勾配を計算する。
４．ＳＧＤまたはその変形を使用してネットワークパラメータを更新する。
５．１に進む（次の反復を開始する）。
【0277】
ステップ４における更新のサイズは、学習率と呼ばれる係数でスケーリングされる。学習率が高いということは、パラメータが急速に変化できることを意味しており、そのため最大化がより迅速に進むことができ、各ミニバッチの効果が大きくなることができ、モデルが収束に近いときの更新は、ミニバッチ間の変動によって影響を受けることを意味する。反復ごとに学習率をゆっくりと低減することが好ましく、この低減は動的であることができ、バッチごとの目的関数の変化と変動性に従って、または所定のスケジュールに従って学習率に調整される。選択のために、ある初期学習率Ｒとミニバッチ数Ｋに対して、Ｎｔｈミニバッチの学習率がＲ／（１＋（Ｎ／Ｋ））である双曲線減衰が使用される。
【0278】
合計を使用して、ミニバッチの各構成要素のスコアを組み合わせてミニバッチのスコアとしたが、他の組み合わせ方法も可能である。合計は、その構成要素のスコアの平均に比例するミニバッチスコアとなり、中心的な傾向の他の測定値に対応する組み合わせもまた、好ましい特性を有している。中央値、トリミングされた平均値、または加重平均などの組み合わせ、もしくはＭ推定量のフィッティングが、目標の感度を孤立値を有するミニバッチ要素に変更するために使用され得る。
【0279】
ミニバッチの各要素から合計スコアへの寄与は、すべての一貫した経路にわたって合計された真の配列の事後確率（の対数）である。フリップフロップ表現の場合、フリップからフリップまたはフロップからフロップの遷移は、配列の同じ位置に留まっていることを表すが、一方で、他のすべての遷移には位置の移動が含まれる。各時点でＲＮＮ５０から出力されたラベル間の遷移を表す重みが与えられると、これらは既知の配列の位置間の遷移重みに変換されることができる。
【0280】
図３２は、ラベルＳ１、Ｓ２、．．．、ＳＮのフリップフロップの符号化配列の各時点ｉに対する目的遷移行列ｍｉの要素をどのように構築するかを示す。図３３で説明されている目的関数は、この目的遷移行列を使用して、ミニバッチの各要素のスコアを計算する。
【0281】
目的関数の遷移行列は非常にスパースであり、対角（ステイ）と超対角（位置に移動）に非ゼロ要素のみを有しており、この計算の好ましい実施形態では、ゼロ要素のみを無視し、象限から線形までの真の配列の長さの観点から、各ステップの見かけ上の複雑性を低減する。
【0282】
マルチステイ表現の目的関数は、構造的にはフリップフロップの目的に類似しているが、同じ位置にとどまることを表す状態が異なる。ステイ状態または非ステイ状態からいずれかの非ステイ状態への遷移は、位置の変更を意味しており、ステイ状態へのいずれかの遷移は意味しない。マルチステイ表現の場合、新しい位置にとどまる（塩基からステイへの遷移）と古い位置にとどまる（ステイからステイへの遷移）を表す遷移は区別されており、目的関数の効率的な計算には、「残りの」位置のための真の配列の複製：Ｓ１、Ｒ１、Ｓ２、Ｒ２…、ＳＮ、ＲＮの使用が必要とされる。
【0283】
図３４は、この例について目的遷移行列の要素をどのように構築するかを示す。目的遷移行列を形成することを目的として、元の位置は１…Ｎと列挙されるが、一方で対応する複製位置はＮ＋１…２Ｎと列挙される。
【0284】
図３３で説明される目的関数は、この目的遷移行列を使用して、ミニバッチの各要素のスコアを計算する。目的遷移行列はスパースであり、目的計算の好ましい実施形態は、このスパース性を利用している。
【0285】
各スコアは、目的関数で使用される前に重みで乗算でき、この重みは、トレーニングプロセスに対応するミニバッチの要素の値を表すことができる。重みは、例えば、異常な配列構成を有する要素、または以前にトレーニングされたネットワークのテスト中に検出されることがある塩基呼び出しエラーに関与することが知られている要素の場合に大きくなり得る。ミニバッチの要素の重みを決定する１つの方法は、それを最も希少なホモポリマーの頻度の逆数に等しく設定することであり、この頻度は、トレーニングデータのセット全体から、または他の外部基準から決定される。
【0286】
ランレングス符号化の目的は、マルチステイモデルの目的と同様に定義されているが、新しい配列位置が遷移するたびに追加の要素が組み込まれ、ネットワークによって出力される対応する条件付き分布によって、実行（ラン）の長さ（レングス）がどれだけ適切に予測されるかを表している。ランレングス圧縮配列にわたる目的遷移行列の形式は、多くのステイ目的の場合と同じ形式を有し、いずれの塩基も位置間で許容された遷移に暗黙的になっている同じ塩基に続くことができないが、ネットワークがその組成を与えられた各位置でホモポリマーの長さに割り当てる対数確率からの追加的構成要素を備えている。
【0287】
トレーニングデータのホモポリマー含有量が偏っていることが明らかである場合、他のデータセットを表していないことがあるため、ネットワークがこの偏りを学習することは多くの用途で望ましくないことがある。ネットワークがトレーニング目標で直接その組成を与えられた各位置でホモポリマーの長さに割り当てる対数確率を使用する代わりに、最初に別の分布と組み合わせられることができ、この他の分布は、トレーニングデータ（「分布前のトレーニング」）からホモポリマーの頻度を集計することによって取得され得る。この方法でトレーニングすることにより、ネットワークは、トレーニングの事前分布の期待を克服する対数確率を割り当てることを学習する必要がある。
【0288】
ベースコールの目的で、トレーニングデータからの事前分布、またはホモポリマーの長さの他の期待値が、「ベイズの定理」などの標準的な方法を使用してネットワークによって割り当てられた対数確率と組み合わせられ、ホモポリマーの長さに関する外部情報によって通知される新しい対数確率を生成し、代替的にネットワークからの対数確率が、バイアスのない呼び出しに直接使用されることもできる。
【0289】
図３５は、この例について目的遷移行列の要素をどのように構築するかを示している。測定の時間ステップｉにおける配列の位置ｊについて、ネットワークが長さＬｊの実行に組成Ｓｊを割り当てる確率の対数が、ｒｉＳｊ：Ｌｊとなるようにする。図３３で説明される目的関数は、この目的遷移行列を使用して、ミニバッチの各要素のスコアを計算する。
【0290】
レジストレーションを用いない様式でベースコールモデルをトレーニングすることの利点は数多くあるが、提示されるほとんどの復号アルゴリズムと使用されるトレーニング目標の間には乖離がある。モデルトレーニングの目的関数は、塩基の真の配列の確率を最大化し、それを表す可能性のあるすべての個々の経路の確率を合計することであるが、一方で上述のポリシング以外のすべての復号ルーチンは、高いスコアの経路を見つけに行くことである。図３６は、この乖離によって引き起こされる問題の１つを示す。特に、図３６は、２４１０～２６００の回数の間に長いホモポルマー領域がある場合のフリップフロップ表現の例として時間経過と共に特定のラベルに存在するシグナル（上）と事後確率（下）を示しており、ここではモデルが、Ｔ－フリップ状態（赤い実線）と交互になるのではなく、Ｔ－フロップ状態（赤い破線）にとどまっている。長いホモポリマーに入った後、領域の開始と終了の前後で推定が行われるが、フリップとフロップの状態はすぐに不明瞭になり、事後確率は均一になる。領域を通る複数の経路があり、この領域は、フリップ塩基とフロップ塩基のレジストレーションがわずかに異なり、事後確率がこのアンサンブルの平均を反映する。
【0291】
考えられる代替案の１つは、すべての経路を合計するのではなく、トレーニングの目的として最良経路のスコアを使用することであり、これは、レジストレーションが明示的に定義されておらず、ラベル付けとは異なって、最良のレジストレーションがモデルが行うように変化し得ることから、依然としてレジストレーションを用いない方法となる。最良経路へのトレーニングは直感的であるように見えるが、最初の貧弱なモデルには悪い最良経路があり、トレーニングプロセスがそれを強化することにより、モデルを何もない状態からトレーニングする場合、この手法は大きく失敗することになる。
【0292】
シャープニングは、他のすべての可能性を考慮しながら、レジストレーションを事前に指定することなく、トレーニングを単一の経路に集中させる方法である。初めに、すべての経路の合計のスコア（図３３）と最良経路のスコア（図３７）を計算するためのアルゴリズムを検討する。これらの両方がそれぞれファンクターｌｏｇΣｊｅｘｐとｍａｘｊを適用し、遷移重みと以前の前方ベクトルを共に組み合わせる。シャープニングの目標は、このファンクターを、すべての可能な経路を合計するが、スコアの高い経路を高く重み付けするファンクターに置き換えることである。
【0293】
図３８は、フォワードベクトルと遷移またはマッピング重みを組み合わせるために使用される関数であり得るいくつかのファンクターを示す。図３８で「すべての経路をシャープニング」と呼ばれるファンクターが好ましいが、他の多くのファンクターが使用されることができ、実際には、組み合わせられて新規のファンクターを作成する。
【0294】
最初からシャープニングを有効にしてトレーニングするよりも、全経路目的関数を使用してトレーニングを開始し、次に、良好なモデルが見つかると、シャープニング係数（ａ）を１からより高い値に増やし、場合により、さらに高いシャープニングの値で繰り返す方が有利であることが分かった。この多段階プロセスはまた、モデルが最良経路目標を使用してトレーニングすることを可能にする。最初にすべての経路の目的に対してトレーニングを行うと、良好なモデルが見つかり、最良経路が良好であり、次に、さらにトレーニングを行うことで、この経路が強化されるようになる。
【0295】
図３９は、図３６に示した同じ領域の例で、フリップフロップ表現をシャープニングする効果を示す。図３９は、この例では経時的に特定の状態にあるが、シャープニングを使用したトレーニングを行った場合のシグナル（上）と事後確率（下）を示す。概して、２４００～２６２０回の間には、長い領域があり、ホモポリマーが発生し、モデルは、塩基の配列を呼び出すために、Ｔ－フロップ状態とＴ－フリップ状態を交互に繰り返している。個々の呼び出しはより明確であり、ホモポリマー領域全体でＴ－フリップとＴ－フロップの間で交互になっていることが分かる。
【0296】
このモデルを復号すると、シャープニングされていないモデルよりもポリマー単位の推定が優れたものになる。これは、図４０に示す例に示されており、ここでは、シャープニングされていないモデルとシャープニングされたモデルからのポリマー単位の推定（ベースコール）が基準配列と比較される。シャープニングされていない呼び出しは、８個のＴ塩基のみを呼び出するが、シャープニングされた呼び出しは、基準にある２７個のＴ塩基と一致している。
【0297】
最良経路またはシャープニングを使用すると、トレーニング対象が置き換えられるが、それらを使用して、それを補強し、テスト中に見つかった望ましくない動作からネットワークをトレーニングすることもできる。そのような望ましくない動作の１つは、ホモポリマーの長さを過小評価する傾向になる可能性があり、このことは、トレーニングデータが短いホモポリマーに大きく偏っている場合に発生することがあり、トレーニング対象にペナルティを追加することで修正され得る。そのようなペナルティの１つは、ホモポリマーが呼び出される位置を見つけるために最良経路を使用し、そして、その真の長さを、その位置でネットワークによって割り当てられた対数確率に基づいた推定値と比較することによって見つけることができ、この比較は、絶対差の合計を使用して実行することができ、この比較は、差の二乗和を使用して実行することができ、他の多くの比較方法が当技術分野で知られている。ペナルティはトレーニング目標に追加される可能性があり、ペナルティは、トレーニング目標に対する重要性を変更するために、所定の係数によって追加的に重み付けされる可能性がある。
【0298】
ペナルティ項を重み付けする係数は、所定のものではなくラグランジュ乗数として扱われることもある。トレーニングは、ラグランジュ乗数の停留点を見つけながら、トレーニング目標を最適化することによって進行する。これらのポイントにおいて、またはその近くでは、ペナルティは概ねゼロであり、ネットワークは、ペナルティ条件の保持に従ってトレーニングされており、ペナルティが真の長さと推定された長さの絶対差の合計である例の場合、ネットワーク呼び出しは平均した補正長さになる。
【0299】
例えば、ホモポリマーの長さごとに１つのトレーニング目標を強化するために複数のペナルティ項が使用されることができ、各ペナルティは、所定の係数で重み付けされるか、ラグランジュ乗数として扱われることができる。
【0300】
上述の説明は、重み分布５１がラベルのセット間の遷移を表す場合を考慮している。代替策として、本明細書に記載の方法は、重み分布５１がラベルのセット内のラベルを表す場合に適合され得る。
【0301】
この場合、重み分布５１がラベルのセット内のラベルを表しており、デコーダ８０は、遷移行列を使用して、ラベル間の遷移が許容されるか許容されないかを表すことができる。遷移行列は、重み分布５１の重みの行列と同様の形式を有することができるが、許容されるかまたは許可されない遷移を示すバイナリ要素を有する。遷移行列は、少なくとも１つの遷移を許容されていないものとして表し、他の遷移を許容されているものとして表すことができる。デコーダ８０は、この遷移行列を使用して、遷移行列に従って許容されるラベルを通る異なる経路の可能性を考慮に入れて、ラベルを表す重み分布５１から一連のポリマー単位の推定値を導出することができる。
【0302】
同様に、この場合、重み分布５１がラベルのセット内のラベルを表しており、一連のポリマー単位内の同じポリマー単位タイプの連続するインスタンスは、例えば、フリップフロップ表現、またはランレングス符号化表現を使用して、上述のように符号化形式で表すことができる。
【0303】
上述の説明は、ＲＮＮ５０を含むニューラルネットワーク１０に関連しているが、上述の形式および復号化を有する重み分布は、他の形式の機械学習技術、例えば、ＨＭＭに等しく適用されることができる。
【0304】
本発明の第２の態様によれば、以下の条項で規定される方法が提供される。
【0305】
条項１．ポリマーによって生じるシグナルをナノ細孔に対するポリマーの転位中に分析する方法であって、ポリマーが、可能なポリマー単位タイプのセットに属する一連のポリマー単位を含み、方法が、一連の重み分布を出力する機械学習技術を使用してシグナルを分析することであって、各重み分布が、可能なポリマー単位タイプを表すラベルを含むラベルのセットにわたるラベルに関する重みを含んでいることと、重み分布から一連のポリマー単位の推定値を導出することと、を含み、一連のポリマー単位の推定値を導出するステップは、ラベル間の遷移が許容されるか許容されないかを表す遷移行列を考慮に入れ、ラベル間の少なくとも一方の遷移は、許容されないものとして表されており、他方の遷移は、許容されたものとして表されている、方法。
【0306】
条項２．ラベル間の少なくとも１つの遷移が許容されておらず、他の遷移が許容されており、重み分布がそれぞれ、許容されているラベルに関する重みを含む、条項１に記載の方法。
【0307】
条項３．重み分布が各々、許容されていないラベルに関するヌル重みを含む、条項２に記載の方法。
【0308】
条項４．一連のポリマー単位の推定値を導出する前記ステップが、ラベル間の遷移が許容されているか許容されていないかを表す遷移行列を考慮に入れる、条項２または３に記載の方法。
【0309】
条項５ラベルのセットが、各ポリマー単位タイプに関する第１のラベルおよび第２のラベルを含み、第１のラベルが、ポリマー単位タイプのインスタンスの開始を表し、第２のラベルが、ポリマー単位タイプのインスタンスにおけるステイを表し、各第１のラベルから任意の他のポリマー単位タイプの第１のラベルへの遷移が許容されており、各第１のラベルから同じポリマー単位タイプの第１のラベルへの遷移が許容されており、各第１のラベルから同じポリマー単位タイプの第２のラベルへの遷移が許容されており、各第１のラベルから任意の他のポリマー単位タイプの第２のラベルへの遷移が許容されておらず、各第２のラベルから同じポリマー単位タイプの第１のラベル、または任意の他のポリマー単位タイプの第１のラベルへの遷移が許容されており、各第２のラベルから同じポリマー単位タイプの第２のラベルへの遷移が許容されており、各第２のラベルから任意の他のポリマー単位タイプの第２のラベルへの遷移が許容されていない、条項２～４のいずれか一項に記載の方法。
【0310】
条項６．可能なポリマー単位タイプのセットが、ポリマー単位の既知の配列で常に現れるポリマー単位タイプを含み、前記既知の配列に従った遷移が許容されており、前記既知の配列に反した遷移が許容されていない、条項２～５のいずれか一項に記載の方法。
【0311】
条項７．一連のポリマー単位における同じポリマー単位タイプの連続的インスタンスが符号化形式で表される、条項２～６のいずれか一項に記載の方法。
【0312】
条項８．ラベルが、各ポリマー単位タイプに関する複数のラベルを含み、各ポリマー単位タイプに関する複数のラベルが、一連のポリマー単位におけるポリマー単位タイプの連続的インスタンスを表す、条項７に記載の方法。
【0313】
条項９．ポリマー単位の各タイプのための複数のラベルが、所定の周期的順序を有し、それにより、ラベル間のいくつかの遷移が、所定の周期的順序によって許容されており、間の他の遷移が、所定の周期的順序によって許容されておらず、重み分布がそれぞれ、所定の周期的順序によって許容されている遷移に関する重みを含む、条項８に記載の方法。
【0314】
条項１０．各ポリマー単位タイプの複数のラベルが、各ポリマー単位タイプの２つのラベルである、条項８または９に記載の方法。
【0315】
条項１１．一連のポリマー単位内の同じポリマー単位タイプの連続するインスタンスが、ランレングス符号化された形式で表されている、条項７に記載の方法。
【0316】
条項１２．ラベルが、各ポリマー単位タイプの異なるランレングスに関する複数のラベルを含む、条項１１に記載の方法。
【0317】
条項１３．ラベルが、各ポリマー単位タイプに関するラベルを含み、重み分布が、各ポリマー単位タイプの同じポリマー単位タイプの連続的インスタンスの可能な長さにわたるさらなる重みを含む、条項１１に記載の方法。
【0318】
条項１４．さらなる重みが、各ポリマー単位タイプの同じポリマー単位タイプの連続的インスタンスの可能な長さのセットにわたる重みのカテゴリカル分布を含む、条項３に記載の方法。
【0319】
条項１５．さらなる重みが、各ポリマー単位タイプの同じポリマー単位タイプの連続的インスタンスの可能な長さにわたるパラメータ化された分布のパラメータを含む、条項１３に記載の方法。
【0320】
条項１６．可能なポリマー単位タイプが、非修飾形態および修飾形態を有するポリマー単位タイプを含む、条項２～１５のいずれか一項に記載の方法。
【0321】
条項１７．ラベルのセットが、非修飾形態および修飾形態を有する前記ポリマー単位タイプに関するラベルを含む、条項１６に記載の方法。
【0322】
条項１８．各重み分布が、非修飾形態および修飾形態を有する各ポリマー単位タイプの非修飾形態および修飾形態のさらなる重みを含む、条項１７に記載の方法。
【0323】
条項１９．ラベルのセットが、各ポリマー単位タイプを表す少なくとも１つのラベルを含む、条項２～１８のいずれか一項に記載の方法。
【0324】
条項２０．ラベルのセットが、一連のポリマー単位におけるブランクおよび／またはステイを表す少なくとも１つのラベルをさらに含む、条項１～１９のいずれか一項に記載の方法。
【0325】
条項２１．機械学習技術が、少なくとも１つの再帰層を含むニューラルネットワークである、条項１～２０のいずれか一項に記載の方法。
【0326】
条項２２．少なくとも１つの再帰層が、双方向再帰層である、条項２１に記載の方法。
【0327】
条項２３．ニューラルネットワークが、一連の重み分布を介してラベルのすべての経路にわたって重み分布のグローバル正規化を適用する、条項２１または２２に記載の方法。
【0328】
条項２４．ニューラルネットワークが、少なくとも１つの再帰層の前に配置され、シグナルのウィンドウ化セクションの畳み込みを実行する、少なくとも１つの畳み込み層を含む、条項２１～２３のいずれか一項に記載の方法。
【0329】
条項２５．重みが事後確率を表す、条項１～２４のいずれか一項に記載の方法。
【0330】
条項２６．重み分布から一連のポリマー単位の推定値を導出するステップが、コネクショニスト時間分類を使用して実行される、条項１～２５のいずれか一項に記載の方法。
【0331】
条項２７．重み分布からポリマー単位の推定値を導出するステップが、それぞれの重み分布に関するラベルを導出することと、導出されたラベルをランレングス圧縮することとを含む、条項１～２６のいずれか一項に記載の方法。
【0332】
条項２８．重み分布から一連のポリマー単位の推定値を導出するステップが、重み分布を基準にして一連の重み分布を通るラベルの最も可能性の高い経路を推定することと、最も可能性が高いと推定されたラベルの経路から一連のポリマー単位の推定値を導出することと、を含む、条項１～２７のいずれか一項に記載の方法。
【0333】
条項２９．重み分布から一連のポリマー単位の推定値を導出するステップが、各重み分布に関して最も可能性が高いラベルを推定することと、一連の重み分布を通るラベルのフォワードとバックワードの経路を考慮に入れることと、最も可能性が高いと推定されたラベルから一連のポリマー単位の推定値を導出することと、を含む、条項１～２８のいずれか一項に記載の方法。
【0334】
条項３０．ナノ細孔がタンパク質細孔である、条項１～２９のいずれか一項に記載の方法。
【0335】
条項３１．ポリマーがポリヌクレオチドであり、ポリマー単位がヌクレオチドである、条項１～３０のいずれか一項に記載の方法。
【0336】
条項３２．シグナルが、イオン電流、インピーダンス、トンネリング特性、電界効果トランジスタ電圧、および光学特性のうちの１つ以上の特性の測定値から導出されている、条項１～３１のいずれか一項に記載の方法。
【0337】
条項３３．方法が、コンピュータ装置で実行されている、条項１～３２のいずれか一項に記載の方法。
【0338】
条項３４．ナノ細孔に対するポリマーの転位中にポリマーからシグナルを導出することをさらに含む、条項１～３３のいずれか一項に記載の方法。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【図40】
【国際調査報告】