知財求人 - 知財ポータルサイト「IP Force」
▶ エヌイーシー ラボラトリーズ アメリカ インクの特許一覧
特表2024-538746物理的モデル補強擬似ラベリングによるＴ細胞受容体レパートリー選択予測
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-10-23
(54)【発明の名称】物理的モデル補強擬似ラベリングによるＴ細胞受容体レパートリー選択予測
(51)【国際特許分類】
G16B 40/00 20190101AFI20241016BHJP
【ＦＩ】
G16B40/00
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2024521283
(86)(22)【出願日】2022-10-21
(85)【翻訳文提出日】2024-04-09
(86)【国際出願番号】 US2022047346
(87)【国際公開番号】W WO2023069667
(87)【国際公開日】2023-04-27
(31)【優先権主張番号】63/270,257
(32)【優先日】2021-10-21
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】63/307,649
(32)【優先日】2022-02-08
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】17/969,883
(32)【優先日】2022-10-20
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】504080663
【氏名又は名称】エヌイーシー ラボラトリーズ アメリカ インク
【氏名又は名称原語表記】ＮＥＣ Ｌａｂｏｒａｔｏｒｉｅｓ Ａｍｅｒｉｃａ， Ｉｎｃ．
(74)【代理人】
【識別番号】100123788
【弁理士】
【氏名又は名称】宮崎 昭夫
(74)【代理人】
【識別番号】100127454
【弁理士】
【氏名又は名称】緒方 雅昭
(72)【発明者】
【氏名】ミン、 レンチャン
(72)【発明者】
【氏名】グラフ、 ハンス ペーター
(72)【発明者】
【氏名】クルース、 エリック
(72)【発明者】
【氏名】ジャン、 イーレン
(57)【要約】
ＴＣＲ－ペプチド対の配列のデータセットから、配列アナライザを用いて当該配列の多重配列アライメントを決定し、ＭＯＤＥＬＬＥＲを使用したＭＳＡおよびタンパク質データバンクから対応する構造を使用してＴＣＲ構造とペプチド構造とを構築し、構築されたＴＣＲ構造とペプチド構造とに基づく物理的モデリングを使用してペプチドをＴＣＲにドッキングして決定されたドッキングエネルギースコアに基づいて、拡張ＴＣＲ－ペプチド訓練データセットを生成することにより、ＴＣＲ－ペプチド相互作用予測のための深層学習モデルを訓練することを含む、Ｔ細胞受容体－ペプチド相互作用予測のためのシステムおよび方法。ＴＣＲ－ペプチド対は、ドッキングエネルギースコアに基づく擬似ラベルを用いて、陽性対と陰性対に分類、ラベル付けされ、深層学習モデルは、拡張ＴＣＲ－ペプチド訓練データセットと擬似ラベルとに基づいて、収束するまで繰り返し再訓練される。
【選択図】図１
【選択図】図１
【特許請求の範囲】
【請求項1】
Ｔ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するための方法であって、前記ＴＣＲ－ペプチド相互作用を予測するための深層学習モデルを訓練することであって、
配列アナライザを用いて、ＴＣＲ－ペプチド対の配列のデータセットから複数のＴＣＲ－ペプチド対の配列の多重配列アラインメント（ＭＳＡ）を決定することと、
ＭＯＤＥＬＬＥＲを使用した前記ＭＳＡとタンパク質データバンク（ＰＤＢ）からの対応する構造とを使用してＴＣＲ構造とペプチド構造とを構築することと、
前記ＭＯＤＥＬＬＥＲを使用して構築された前記ＴＣＲ構造とペプチド構造とに基づく物理的モデリングを使用してペプチドをＴＣＲにドッキングすることによって決定されたドッキングエネルギースコアに基づいて、拡張ＴＣＲ－ペプチド訓練データセットを生成することと、
前記ドッキングエネルギースコアに基づく擬似ラベルを用いて、ＴＣＲ－ペプチド対を陽性の対または陰性の対として分類し、ラベル付けすることとを含む、該深層学習モデルを訓練することと、
収束するまで、前記拡張ＴＣＲ－ペプチド訓練データセットと前記擬似ラベルとに基づいて、前記深層学習モデルを繰り返し再訓練することとを含む、方法。
【請求項2】
前記ＴＣＲ－ペプチド対のデータセットが、陽性と陰性との結合ＴＣＲ－ペプチド対を含む、請求項１に記載の方法。
【請求項3】
前記ＴＣＲ－ペプチド対を分類およびラベル付けすることが、前記エネルギースコアの上位ｘパーセントを陰性の対とし、前記エネルギースコアの下位ｙパーセントを陽性の対として前記ＴＣＲ－ペプチド対を擬似ラベル付けすることをさらに含む、請求項１に記載の方法。
【請求項4】
前記ＴＣＲ－ペプチド対の配列のデータセットからペプチド埋め込みベクターとＴＣＲ埋め込みベクターとを連結することをさらに含む、請求項１に記載の方法。
【請求項5】
ＴＣＲデータベースからのラベル付けされていないＴＣＲと、前記訓練データからのラベル付けされたＴＣＲとを組み合わせることによって、オートエンコーダを訓練することをさらに含む、請求項１に記載の方法。
【請求項6】
前記深層学習モデルが、前記複数のＴＣＲ－ペプチド対の配列からの標準クロスエントロピー損失、前記擬似ラベル付けされたＴＣＲ－ペプチド対からのダイバージェンス損失、および物理的モデリングを用いたＴＣＲとペプチドとの間の物理的特性に基づくクロスエントロピー損失に基づいて学習される、請求項１に記載の方法。
【請求項7】
最終総損失（Ｌｔｏｔａｌ）が、【数1】
【請求項8】
Ｔ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するためのシステムであって、非一過性のコンピュータ可読記憶媒体に動作可能に結合されたプロセッサを含み、該プロセッサは、
前記ＴＣＲ－ペプチド相互作用を予測するための深層学習モデルを訓練することであって、
配列アナライザを用いて、ＴＣＲ－ペプチド対の配列のデータセットから複数のＴＣＲ－ペプチド対の配列の多重配列アラインメント（ＭＳＡ）を決定することと、
ＭＯＤＥＬＬＥＲを使用した前記ＭＳＡとタンパク質データバンク（ＰＤＢ）からの対応する構造とを使用してＴＣＲ構造とペプチド構造とを構築することと、
前記ＭＯＤＥＬＬＥＲを使用して構築された前記ＴＣＲ構造とペプチド構造とに基づく物理的モデリングを使用してペプチドをＴＣＲにドッキングすることによって決定されたドッキングエネルギースコアに基づいて、拡張ＴＣＲ－ペプチド訓練データセットを生成することと、
前記ドッキングエネルギースコアに基づく擬似ラベルを用いて、ＴＣＲ－ペプチド対を陽性の対または陰性の対として分類し、ラベル付けすることとを含む、該深層学習モデルを訓練することと、
収束するまで、前記拡張ＴＣＲ－ペプチド訓練データセットと前記擬似ラベルとに基づいて、前記深層学習モデルを繰り返し再訓練することとを行うように構成されているシステム。
【請求項9】
前記ＴＣＲ－ペプチド対のデータセットが、陽性と陰性との結合ＴＣＲ－ペプチド対を含む、請求項８に記載のシステム。
【請求項10】
前記ＴＣＲ－ペプチド対を分類およびラベル付けすることが、前記エネルギースコアの上位ｘパーセントを陰性の対とし、前記エネルギースコアの下位ｙパーセントを陽性の対として前記ＴＣＲ－ペプチド対を擬似ラベル付けすることをさらに含む、請求項８に記載のシステム。
【請求項11】
前記プロセッサがさらに、前記ＴＣＲ－ペプチド対の配列のデータセットからペプチド埋め込みベクターとＴＣＲ埋め込みベクターとを連結するように構成されている、請求項８に記載のシステム。
【請求項12】
前記プロセッサがさらに、ＴＣＲデータベースからのラベル付けされていないＴＣＲと、前記訓練データからのラベル付けされたＴＣＲとを組み合わせることによって、オートエンコーダを訓練するように構成されている、請求項８に記載のシステム。
【請求項13】
前記深層学習モデルが、前記複数のＴＣＲ－ペプチド対の配列からの標準クロスエントロピー損失、前記擬似ラベル付けされたＴＣＲ－ペプチド対からのダイバージェンス損失、および物理的モデリングを用いたＴＣＲとペプチドとの間の物理的特性に基づくクロスエントロピー損失に基づいて学習される、請求項８に記載のシステム。
【請求項14】
最終総損失（Ｌｔｏｔａｌ）が、【数2】
【請求項15】
Ｔ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するためのプロセッサ装置に動作可能に結合されたコンピュータ可読プログラムを含む非一過性コンピュータ可読記憶媒体であって、前記コンピュータ可読プログラムは、コンピュータ上で実行されると、前記コンピュータに、前記ＴＣＲ－ペプチド相互作用を予測するための深層学習モデルを訓練するステップであって、
配列アナライザを用いて、ＴＣＲ－ペプチド対の配列のデータセットから複数のＴＣＲ－ペプチド対の配列の多重配列アラインメント（ＭＳＡ）を決定することと、
ＭＯＤＥＬＬＥＲを使用した前記ＭＳＡとタンパク質データバンク（ＰＤＢ）からの対応する構造とを使用してＴＣＲ構造とペプチド構造とを構築することと、
前記ＭＯＤＥＬＬＥＲを使用して構築された前記ＴＣＲ構造とペプチド構造とに基づく物理的モデリングを使用してペプチドをＴＣＲにドッキングすることによって決定されたドッキングエネルギースコアに基づいて、拡張ＴＣＲ－ペプチド訓練データセットを生成することと、
前記ドッキングエネルギースコアに基づく擬似ラベルを用いて、ＴＣＲ－ペプチド対を陽性の対または陰性の対として分類し、ラベル付けすることとを含む、該深層学習モデルを訓練するステップと、
収束するまで、前記拡張ＴＣＲ－ペプチド訓練データセットと前記擬似ラベルとに基づいて、前記深層学習モデルを繰り返し再訓練するステップとを実行させる非一過性コンピュータ可読記憶媒体。
【請求項16】
前記ＴＣＲ－ペプチド対のデータセットが、陽性と陰性との結合ＴＣＲ－ペプチド対を含む、請求項１５に記載の非一過性コンピュータ可読記憶媒体。
【請求項17】
前記ＴＣＲ－ペプチド対を分類およびラベル付けすることが、前記エネルギースコアの上位ｘパーセントを陰性の対とし、前記エネルギースコアの下位ｙパーセントを陽性の対として前記ＴＣＲ－ペプチド対を擬似ラベル付けすることをさらに含む、請求項１５に記載の非一過性コンピュータ可読記憶媒体。
【請求項18】
前記ＴＣＲ－ペプチド対の配列のデータセットからペプチド埋め込みベクターとＴＣＲ埋め込みベクターとを連結することをさらに含む、請求項１５に記載の非一過性コンピュータ可読記憶媒体。
【請求項19】
前記深層学習モデルが、前記複数のＴＣＲ－ペプチド対の配列からの標準クロスエントロピー損失、前記擬似ラベル付けされたＴＣＲ－ペプチド対からのダイバージェンス損失、および物理的モデリングを用いたＴＣＲとペプチドとの間の物理的特性に基づくクロスエントロピー損失に基づいて学習される、請求項１５に記載の非一過性コンピュータ可読記憶媒体。
【請求項20】
最終総損失（Ｌｔｏｔａｌ）が、【数3】
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、Ｔ細胞受容体（ＴＣＲ）－ペプチド相互作用の予測に関し、より詳細には、物理的モデリングおよびデータ補強した擬似ラベリングを用いたＴＣＲ生成および分類のための条件付き変分オートエンコーダ（ｃＶＡＥ）を訓練および利用することによるＴＣＲ－ペプチド相互作用の予測に関する。
【背景技術】
【0002】
関連技術の説明
Ｔ細胞受容体（ＴＣＲ）とペプチドとの間の相互作用を予測することは、免疫療法における個別化医療や標的ワクチンのために重要である。このような予測のための深層学習モデルを訓練するための従来のシステム、方法、および現在のデータセットは、不正確で効率が悪く、データセットに多様なＴＣＲやペプチドが含まれていないことが少なくとも一因となって制約を受けている。最近、ＴＣＲとペプチドとの間の相互作用を予測するために、長短期記憶（ＬＳＴＭ）とオートエンコーダを利用して相互作用を予測するなど、いくつかの深層学習アプローチが利用されている。例えば、相補性決定領域３（ＣＤＲ３）のβ鎖（例えば、ＥＲＧＯオートエンコーダ）、ＣＤＲ３のα鎖、ＶおよびＪ遺伝子、ＭＨＣタイプ、Ｔ細胞タイプ（例えば、ＥＲＧＯ ＩＩオートエンコーダ）、ガウス処理、ＴＣＲ－ペプチド予測のための積層畳み込みネットワーク（例えば、ＮｅｔＴＣＲ １．０）、およびＣＤＲ３のα鎖とβ鎖のペア（例えば、ＮｅｔＴＣＲ ２．０）。しかし、これらのシステムや方法は、データセットに多様なＴＣＲやペプチドが含まれていないため、少なくとも部分的には制約を受け、その結果、ＴＣＲとペプチドとの間の相互作用の予測が非効率的で不正確になるという上述の問題に悩まされている。
Ｔ細胞受容体（ＴＣＲ）とペプチドとの間の相互作用を予測することは、免疫療法における個別化医療や標的ワクチンのために重要である。このような予測のための深層学習モデルを訓練するための従来のシステム、方法、および現在のデータセットは、不正確で効率が悪く、データセットに多様なＴＣＲやペプチドが含まれていないことが少なくとも一因となって制約を受けている。最近、ＴＣＲとペプチドとの間の相互作用を予測するために、長短期記憶（ＬＳＴＭ）とオートエンコーダを利用して相互作用を予測するなど、いくつかの深層学習アプローチが利用されている。例えば、相補性決定領域３（ＣＤＲ３）のβ鎖（例えば、ＥＲＧＯオートエンコーダ）、ＣＤＲ３のα鎖、ＶおよびＪ遺伝子、ＭＨＣタイプ、Ｔ細胞タイプ（例えば、ＥＲＧＯ ＩＩオートエンコーダ）、ガウス処理、ＴＣＲ－ペプチド予測のための積層畳み込みネットワーク（例えば、ＮｅｔＴＣＲ １．０）、およびＣＤＲ３のα鎖とβ鎖のペア（例えば、ＮｅｔＴＣＲ ２．０）。しかし、これらのシステムや方法は、データセットに多様なＴＣＲやペプチドが含まれていないため、少なくとも部分的には制約を受け、その結果、ＴＣＲとペプチドとの間の相互作用の予測が非効率的で不正確になるという上述の問題に悩まされている。
【発明の概要】
【0003】
本発明の一態様によれば、配列アナライザを用いて、ＴＣＲ－ペプチド対の配列のデータセットからＴＣＲ－ペプチド対の配列の多重配列アラインメント（ＭＳＡ）を決定することと、ＭＯＤＥＬＬＥＲを使用した前記ＭＳＡとタンパク質データバンク（ＰＤＢ）からの対応する構造とを使用してＴＣＲ構造とペプチド構造とを構築することと、前記ＭＯＤＥＬＬＥＲを使用して構築された前記ＴＣＲ構造とペプチド構造とに基づく物理的モデリングを使用してペプチドをＴＣＲにドッキングすることによって決定されたドッキングエネルギースコアに基づいて、拡張ＴＣＲ－ペプチド訓練データセットを生成することとによって、前記ＴＣＲ－ペプチド相互作用を予測するための深層学習モデルを訓練することを含むＴ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するための方法が提供される。前記ドッキングエネルギースコアに基づく擬似ラベルを用いて、ＴＣＲ－ペプチド対が陽性の対または陰性の対として分類され、ラベル付けされ、収束するまで、前記拡張ＴＣＲ－ペプチド訓練データセットと前記擬似ラベルとに基づいて、前記深層学習モデルが繰り返し再訓練される。
【0004】
本発明の別の態様によれば、非一過性のコンピュータ可読記憶媒体に動作可能に結合されたプロセッサを含み、配列アナライザを用いて、ＴＣＲ－ペプチド対の配列のデータセットからＴＣＲ－ペプチド対の配列の多重配列アラインメント（ＭＳＡ）を決定することと、ＭＯＤＥＬＬＥＲを使用した前記ＭＳＡとタンパク質データバンク（ＰＤＢ）からの対応する構造とを使用してＴＣＲ構造とペプチド構造とを構築することと、前記ＭＯＤＥＬＬＥＲを使用して構築された前記ＴＣＲ構造とペプチド構造とに基づく物理的モデリングを使用してペプチドをＴＣＲにドッキングすることによって決定されたドッキングエネルギースコアに基づいて、拡張ＴＣＲ－ペプチド訓練データセットを生成することとによって、前記ＴＣＲ－ペプチド相互作用を予測するための深層学習モデルを訓練するための、Ｔ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するためのシステムが提供される。前記ドッキングエネルギースコアに基づく擬似ラベルを用いて、ＴＣＲ－ペプチド対が陽性の対または陰性の対として分類され、ラベル付けされる。収束するまで、前記拡張ＴＣＲ－ペプチド訓練データセットと前記擬似ラベルとに基づいて、前記深層学習モデルが繰り返し再訓練される。
【0005】
本発明の別の態様によれば、配列アナライザを用いて、ＴＣＲ－ペプチド対の配列のデータセットから複数のＴＣＲ－ペプチド対の配列の多重配列アラインメント（ＭＳＡ）を決定することと、ＭＯＤＥＬＬＥＲを使用した前記ＭＳＡとタンパク質データバンク（ＰＤＢ）からの対応する構造とを使用してＴＣＲ構造とペプチド構造とを構築することと、前記ＭＯＤＥＬＬＥＲを使用して構築された前記ＴＣＲ構造とペプチド構造とに基づく物理的モデリングを使用してペプチドをＴＣＲにドッキングすることによって決定されたドッキングエネルギースコアに基づいて、拡張ＴＣＲ－ペプチド訓練データセットを生成することとによって、前記ＴＣＲ－ペプチド相互作用を予測するための深層学習モデルを訓練するための方法をコンピュータに実行させるように構成されたコンテンツを含む非一過性コンピュータ可読記憶媒体が提供される。前記ドッキングエネルギースコアに基づく擬似ラベルを用いて、ＴＣＲ－ペプチド対が陽性の対または陰性の対として分類され、ラベル付けされる。収束するまで、前記拡張ＴＣＲ－ペプチド訓練データセットと前記擬似ラベルとに基づいて、前記深層学習モデルを繰り返し再訓練される。
【0006】
これらおよび他の特徴および利点は、添付の図面と関連して読まれる、その例示的な実施形態の以下の詳細な説明から明らかになるであろう。
【図面の簡単な説明】
【0007】
本開示は、以下の図を参照して、好ましい実施形態の以下の説明において詳細を提供する。
【0008】
【図1】本発明の実施形態による、本発明を適用することができる例示的な処理システムを例示的に示すブロック図である。
【0009】
【図2】本発明の実施形態による、Ｔ細胞受容体（ＴＣＲ）とペプチドとを結合させる方法の例示的なハイレベル図を例示的に示す図である。
【0010】
【図3】本発明の実施形態による、Ｔ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するための深層学習モデルを訓練するためのハイレベルの方法を例示的に示す図である。
【0011】
【図4】本発明の実施形態による、複数のエンコーダを有するＴ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するための深層学習モデルを訓練するためのシステムおよび方法を例示的に示すブロック／フロー図である。
【0012】
【図5】本発明の実施形態による、深層学習モデルを訓練し、ドッキングエネルギーを計算することによってＴ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するためのシステムおよび方法を例示的に示すブロック／フロー図である。
【0013】
【図6】本発明の実施形態による、ＴＣＲ生成および分類のための条件付き変分オートエンコーダ（ｃＶＡＥ）を訓練することによってＴ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するためのシステムおよび方法を例示的に示すブロック／フロー図である。
【0014】
【図7】本発明の実施形態による、擬似ラベル付けを使用して訓練データセットを拡張することによってＴ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するためのシステムおよび方法を例示的に示すブロック／フロー図である。
【0015】
【図8】本発明の実施形態による、ＴＣＲ生成および分類のための条件付き変分オートエンコーダ（ｃＶＡＥ）を訓練し、擬似ラベリングを用いて訓練データセットを拡張することにより、Ｔ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するためのシステムおよび方法を例示的に示すブロック／フロー図である。
【0016】
【図9】本発明の実施形態による、ニューラルネットワークを訓練および利用することによって、Ｔ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測および分類するための方法を例示的に示すブロック／フロー図である。
【0017】
【図10】本発明の実施形態による、ニューラルネットワークを訓練および利用することによって、Ｔ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測および分類するための例示的なシステムを例示的に示す図である。
【発明を実施するための形態】
【0018】
本発明の実施形態に従って、物理的モデリングおよびデータ補強した擬似ラベリングを使用して、ＴＣＲ生成および分類のための条件付き変分オートエンコーダ（ｃＶＡＥ）を訓練および利用することによって、Ｔ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するためのシステムおよび方法が提供される。
【0019】
様々な実施形態において、データ不足の問題と闘うために、本発明はＴＣＲ－ペプチド対の物理的モデリングによって訓練データセットを拡張し、ＴＣＲ－ペプチド相互作用の予測の効率と精度を高めることができる（例えば、免疫療法における個別化医療や標的化ワクチンでの使用のために）。いくつかの実施形態では、補助的な未知のＴＣＲ－ペプチド対間のドッキングエネルギーは、教師あり方式でニューラルネットワーク学習モデルを訓練するための追加の例－ラベル対として利用することができる。モデルの予測値の曲線下領域（ＡＵＣ）スコアは、そのような未知のＴＣＲ－ペプチド対を擬似ラベル付けし、それらの擬似ラベル付けされたＴＣＲ－ペプチド対を用いてモデルを再訓練することによって、さらに微調整され改善される。実験結果は、物理的モデリングとデータ補強した擬似ラベル付けとによる深層ニューラルネットワークの訓練が、本発明の態様に従って、ベースラインや従来のシステムおよび方法よりも、ＴＣＲ－ペプチド相互作用の予測の精度と効率を著しく向上させることを示している。
【0020】
様々な実施形態において、本発明は、３つの損失からＴＣＲ－ペプチド相互作用を予測するための深層学習モデルを訓練するために利用することができる：所定の既知のＴＣＲ－ペプチド対からの教師ありクロスエントロピー損失、未知のＴＣＲ－ペプチド対のドッキングエネルギーに基づく教師ありクロスエントロピー損失、および擬似ラベル付けされた未知のＴＣＲ－ペプチド対からのＫｕｌｌｂａｃｋ－Ｌｅｉｂｌｅｒ（ＫＬ）－ダイバージェンス損失である。本発明の態様に従って、以下にさらに詳細に説明する。
【0021】
Ｔ細胞受容体（ＴＣＲ）とペプチド－主要組織適合複合体（ｐＭＨＣ）との相互作用を予測することは、レパートリーに基づくバイオマーカーの開発（例えば、ホストが標的にさらされているかどうかの予測）に不可欠であり、本発明の態様に従って、免疫療法における個別化医療や標的化ワクチンに利用することができる。しかし、多数のペプチドと多数のＴＣＲの両方を網羅する実験データは十分ではないため、このような予測は従来は計算効率が悪く、従来のシステムや手法で得られる結果は不正確なことがある。
【0022】
本明細書に記載する実施形態は、完全にハードウェアであってもよく、完全にソフトウェアであってもよく、または、ハードウェア要素とソフトウェア要素との両方を含むものであってもよい。好ましい実施形態では、本発明は、ファームウェア、常駐ソフトウェア、マイクロコードなどを含むがこれらに限定されないソフトウェアで実施される。
【0023】
実施形態は、コンピュータまたは任意の命令実行システムによって、またはそれに関連して使用するためのプログラムコードを提供する、コンピュータ使用可能またはコンピュータ可読媒体からアクセス可能なコンピュータプログラム製品を含むことができる。コンピュータ使用可能媒体またはコンピュータ可読媒体は、命令実行システム、装置、またはデバイスによって、またはそれに関連して使用するためのプログラムを格納、通信、伝搬、またはトランスポートする任意の装置を含むことができる。媒体は、磁気、光学、電子、電磁気、赤外線、または半導体システム（または装置またはデバイス）、または伝搬媒体とすることができる。媒体は、半導体または固体ステートメモリ、磁気テープ、リムーバブルコンピュータディスケット、ランダムアクセスメモリ（ＲＡＭ）、リードオンリーメモリ（ＲＯＭ）、リジッド磁気ディスクおよび光ディスクなどのコンピュータ読み取り可能な記憶媒体を含むことができる。
【0024】
各コンピュータプログラムは、本明細書に記載する手順を実行するために、記憶媒体または装置がコンピュータによって読み取られるときに、コンピュータの操作を構成し制御するために、汎用または特殊目的のプログラム可能コンピュータによって読み取り可能な、機械読み取り可能な記憶媒体または装置（例えば、プログラムメモリまたは磁気ディスク）に実体的に記憶することができる。本発明のシステムはまた、コンピュータプログラムで構成された、コンピュータ読み取り可能な記憶媒体で実施されるものと考えることができ、その場合、構成された記憶媒体は、コンピュータを特定の所定の方法で動作させて、本明細書に記載する機能を実行させる。
【0025】
プログラムコードを記憶および／または実行するのに適したデータ処理システムは、システムバスを介してメモリ要素に直接的または間接的に結合された少なくとも１つのプロセッサを含んでもよい。メモリ要素は、プログラムコードの実際の実行中に採用されるローカルメモリ、バルクストレージ、および実行中にバルクストレージからコードが検索される回数を減らすために少なくとも何らかのプログラムコードの一時記憶を提供するキャッシュメモリを含むことができる。入力／出力またはＩ／Ｏ装置（キーボード、ディスプレイ、ポインティング装置などを含むが、これらに限定されない）は、直接または介在するＩ／Ｏコントローラを介してシステムに結合され得る。
【0026】
ネットワークアダプタは、データ処理システムが、介在するプライベートまたはパブリックネットワークを介して他のデータ処理システムまたはリモートプリンタまたはストレージデバイスに結合されるようになることを可能にするために、システムに結合されることもできる。モデム、ケーブルモデム、イーサネットカードは、現在利用可能なネットワークアダプタの種類のほんの一部に過ぎない。
【0027】
本発明の態様を、本発明の実施形態による方法、システムおよびコンピュータプログラム製品のフローチャート図および／またはブロック図を参照して以下に説明する。フローチャートおよび／またはブロック図の各ブロック、ならびにフローチャートおよび／またはブロック図のブロックの組み合わせは、コンピュータプログラム命令によって実施され得ることに留意されたい。
【0028】
図中のフローチャートおよびブロック図は、本発明の様々な実施形態によるシステム、方法、およびコンピュータプログラム製品の可能な実装のアーキテクチャ、機能、および動作を示している。フローチャートまたはブロック図の各ブロックは、指定された論理機能を実装するための１つまたは複数の実行可能命令から構成される、モジュール、セグメント、またはコードの一部を表すことができ、本発明のいくつかの代替実施では、ブロックに記載された機能は、図に記載された順序から外れて発生する可能性がある。例えば、連続して示されている２つのブロックは、実際には実質的に同時に実行されることもあれば、逆順に実行されることもあり、特定の実施形態の機能に応じて他の順序で実行されることもある。
【0029】
また、ブロック図および／またはフローチャート図の各ブロック、ならびにブロック図および／またはフローチャート図のブロックの組み合わせは、特定の機能／動作を実行する特定目的のハードウェアシステム、または本原理に従った特定目的のハードウェアとコンピュータ命令の組み合わせによって実施できることに留意されたい。
【0030】
本明細書で採用されるように、「ハードウェアプロセッササブシステム」または「プロセッサ」または「ハードウェアプロセッサ」という用語は、１つ以上の特定のタスクを実行するために協働するプロセッサ、メモリ、ソフトウェアまたはそれらの組み合わせを指すことができる。有用な実施形態では、ハードウェアプロセッササブシステムは、１つまたは複数のデータ処理要素（例えば、論理回路、処理回路、命令実行デバイスなど）を含むことができる。１つまたは複数のデータ処理要素は、中央処理ユニット、画像処理ユニットおよび／または別個のプロセッサまたはコンピューティング要素ベースのコントローラ（たとえば、論理ゲートなど）に含めることができる。ハードウェアプロセッササブシステムは、１つ以上のオンボードメモリ（例えば、キャッシュ、専用メモリアレイ、読み出し専用メモリなど）を含むことができる。いくつかの実施形態では、ハードウェアプロセッササブシステムは、オンボードまたはオフボードにすることができるか、またはハードウェアプロセッササブシステム（例えば、ＲＯＭ、ＲＡＭ、基本入出力システム（ＢＩＯＳ）など）によって使用するために専用にすることができる１つ以上のメモリを含むことができる。
【0031】
ある実施形態では、ハードウェアプロセッササブシステムは、１つ以上のソフトウェア要素を含むことができ、実行することができる。１つ以上のソフトウェア要素は、特定の結果を達成するために、オペレーティングシステムおよび／または１つ以上のアプリケーションおよび／または特定のコードを含むことができる。
【0032】
他の実施形態では、ハードウェアプロセッササブシステムは、指定された結果を達成するために１つまたは複数の電子処理機能を実行する専用の専用回路を含むことができる。そのような回路は、１つまたは複数のアプリケーション専用集積回路（ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、および／またはプログラマブルロジックアレイ（ＰＬＡｓ）を含むことができる。
【0033】
ハードウェアプロセッササブシステムのこれらおよび他の変形もまた、本発明の実施形態に従って企図される。
【0034】
ここで、同様の数字が同一または同様の要素を表す図面を参照し、最初に図１を参照すると、本原理が適用され得る例示的な処理システム１００が、本原理の実施形態に従って例示的に描かれている。
【0035】
いくつかの実施形態では、処理システム１００は、システムバス１０２を介して他の構成要素と動作可能に結合された少なくとも１つのプロセッサ（ＣＰＵ）１０４を含むことができる。キャッシュ１０６、リードオンリーメモリ（ＲＯＭ）１０８、ランダムアクセスメモリ（ＲＡＭ）１１０、入力／出力（Ｉ／Ｏ）アダプタ１２０、音声アダプタ１３０、ネットワークアダプタ１４０、ユーザインタフェースアダプタ１５０、およびディスプレイアダプタ１６０は、システムバス１０２に動作可能に結合される。
【0036】
第１の記憶装置１２２および第２の記憶装置１２４は、Ｉ／Ｏアダプタ１２０によってシステムバス１０２に動作可能に結合される。記憶装置１２２および１２４は、ディスク記憶装置（例えば、磁気または光ディスク記憶装置）、ソリッドステート磁気装置などのいずれであっても良い。記憶装置１２２および１２４は、同じタイプの記憶装置または異なるタイプの記憶装置とすることができる。
【0037】
スピーカ１３２は、音声アダプタ１３０によってシステムバス１０２と動作可能に結合される。トランシーバ１４２は、ネットワークアダプタ１４０によってシステムバス１０２と動作可能に結合される。ディスプレイ装置１６２は、ディスプレイアダプタ１６０によってシステムバス１０２と動作可能に結合される。１つまたは複数のニューラルネットワーク訓練装置１６４は、本発明の態様に従って、任意の適切な接続システムまたは方法（例えば、Ｗｉ－Ｆｉ、有線、ネットワークアダプタなど）によってシステムバス１０２にさらに結合することができる。
【0038】
第１のユーザ入力装置１５２、第２のユーザ入力装置１５４、および第３のユーザ入力装置１５６は、ユーザインタフェースアダプタ１５０によってシステムバス１０２と動作可能に結合される。ユーザ入力装置１５２，１５４，１５６は、キーボード、マウス、キーパッド、画像捕捉装置、動き感知装置、マイクロフォン、前述の装置のうちの少なくとも２つの機能を組み込んだ装置などのいずれかとすることができる。もちろん、本発明の原理の精神を維持しながら、他のタイプの入力装置を使用することもできる。ユーザ入力装置１５２，１５４，１５６は、同じタイプのユーザ入力装置または異なるタイプのユーザ入力装置とすることができる。ユーザ入力装置１５２，１５４，１５６は、システム１００との間で情報を入出力するために使用される。
【0039】
もちろん、処理システム１００は、当業者によって容易に企図されるように、他の要素（図示せず）を含むこともでき、また、特定の要素を省略することもできる。例えば、当業者によって容易に理解されるように、他の様々な入力装置および／または出力装置を、その特定の実装に応じて、処理システム１００に含めることができる。例えば、様々なタイプの無線および／または有線の入力および／または出力装置を使用することができる。さらに、様々な構成の追加のプロセッサ、コントローラ、メモリなども、当業者には容易に理解されるように利用することができる。処理システム１００のこれらおよび他の変形は、本明細書で提供される本原理の教示を与えられれば、当業者によって容易に企図される。
【0040】
さらに、それぞれ図４、図５、図６、図７、図８、および図１０に関して後述するシステム４００，５００，６００，７００，８００、および１０００は、本発明のそれぞれの実施形態を実施するためのシステムであることを理解されたい。処理システム１００の一部または全部を、本発明の態様に従って、システム４００，５００，６００，７００，８００、および１０００の要素の１つまたは複数に実装することができる。
【0041】
さらに、処理システム１００は、例えば、それぞれ図２、図３、図４、図５、図６、図７、図８、および図９それぞれに関して以下に説明する方法２００，３００，４００，５００，６００，７００，８００および９００の少なくとも一部を含む、本明細書に記載される方法の少なくとも一部を実行することができることを理解されたい。同様に、システム４００，５００，６００，７００，８００、および１０００の一部または全部は、本発明の態様に従って、それぞれ図２、図３、図４、図５、図６、図７、図８、および図９の方法２００，３００，４００，５００，６００，７００，８００および９００の少なくとも一部を実行するために使用することができる。
【0042】
ここで図２を参照すると、本発明の実施形態による、Ｔ細胞受容体（ＴＣＲ）とペプチドとを結合させる方法２００の例示的なハイレベル図を示す図が例示的に示されている。
【0043】
最初に、ＴＣＲ２０８によるペプチド／主要組織適合性複合体（ＭＨＣ）２０６の認識は、人の適応免疫系によって行われる重要な相互作用であることに留意されたい。ＴＣＲ２０８は、Ｔ細胞２０４（またはＴリンパ球）の表面に見られるタンパク質複合体であり、抗原の断片（例えば、腫瘍またはウイルス感染細胞２０２に含まれる）をＭＨＣ分子２０６に結合したペプチド２１０として認識する役割を担っている。いくつかの実施形態において、腫瘍細胞２０２は、本発明の態様に従って、腫瘍細胞２０２の表面上のＴＣＲ２０８－ペプチド２１０／ＭＨＣ２０６相互作用を標的とすることにより、腫瘍抗原特異的Ｔ細胞２０４を決定し利用することによって排除することができる。
【0044】
ＴＣＲ２０８とペプチド２１０に関する大規模なデータベースは利用可能であるが、実際にはＴＣＲ－ペプチドの結合特異性に関する情報は限られており、ほとんどのＴＣＲ－ペプチド結合の決定には十分ではない。いくつかの実施形態において、結合特異性に関する情報を決定し、本発明の態様に従って、３つの損失：所定の既知のＴＣＲ－ペプチド対からの教師ありクロスエントロピー損失、未知のＴＣＲ－ペプチド対のドッキングエネルギーに基づく教師ありクロスエントロピー損失、および擬似ラベル付けされた未知のＴＣＲ－ペプチド対からのＫｕｌｌｂａｃｋ－Ｌｅｉｂｌｅｒ（ＫＬ）－ダイバージェンス損失からＴＣＲ－ペプチド相互作用を予測するために、深層学習モデルを訓練することができる。
【0045】
様々な実施形態において、ＤTCRdbの導入は、学習問題を半教師ありの設定にする。物理的モデリングによる擬似ラベル付け（本明細書で以下にさらに詳しく説明する）の他に、確立された半教師あり手法を活用し、結果をさらに改善することができる。擬似ラベル付けは、半教師あり学習において成功した手法であることが証明されている。様々な実施形態に従って、ラベル付けされたデータセットで最初に訓練されたモデルを用いてラベル付けされていない例を最初にラベル付けするアルゴリズムを利用することができ、その後、本発明の態様に従って、拡張された擬似ラベル付けされた例を用いてラベル付けされた訓練データセットでモデルを再訓練することができる。
【0046】
例示的な実施形態では、以下に示す
のみを用いた訓練がモデルΘteacherへと導くことができる。ＤTCRddbからサンプリングされたＴＣＲ ｔ’と、
からサンプリングされたペプチドｐとが与えられる。ここでｐｒｏｂ’は、ＴＣＲ－ペプチド対（ｔ’，ｐ’）の擬似ラベルとして使用される教師モデルの出力確率を表す。教師モデルによる擬似ラベル付き例に対する学習目的関数は、次のように表すことができる。
最終的な総損失３２０は、本発明の態様に従って、以下の３つの損失の組み合わせによって決定される。
【数1】
【数2】
【数3】
【数4】
【0047】
ここで図３を参照すると、本発明の実施形態に従って、Ｔ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するための深層学習モデルを訓練する方法３００のハイレベル図を示す図が例示的に示されている。
【0048】
いくつかの実施形態では、ＴＣＲ－ペプチドモデル３１２（例えば、ＥＲＧＯ）は、本発明の態様に従った、ラベル付きデータセット３０４（例えば、ＤTCRdb）の例（ブロック３１０からのＴＣＲを含むことができる）からの標準クロスエントロピー損失３１４（Ｌlabel）、擬似ラベル付き例（例えば、ブロック３０２の訓練データセット（Ｄtrain）からのＴＣＲ３０６および／またはペプチド３０８を入力として含むことができる教師モデルによる）からのＫＬ－ダイバージェンス損失３１６（Ｌpseudo）、およびＴＣＲ３０６、３１０とペプチド３０８との間の物理的特性３１８（Ｌphysical）に基づくクロスエントロピー損失を含む、３つの（３）損失によって学習し、訓練されて、損失合計３２０（Ｌtotal）を決定することができる。
【0049】
様々な実施形態に従って、説明を簡単にするために、ｔをＴＣＲ配列、ｐをペプチド配列、ｘ＝（ｔ，ｐ）をＴＣＲ－ペプチドの対とする。ＴＣＲ－ペプチドのデータセットＤ：｛（ｘi，ｙi）｝（ｉ＝１，２，．．．，ｎ）を利用することができる。ここで、ｎはデータセットＤのサイズを表し、ｘiはＴＣＲ－ペプチドの対を表し、ｙiは１（陽性の対を示す）または０（陰性の対を示す）のいずれかである。本発明の目的は、Ｄtrain３０２から、テストデータセットＤtest（図示せず）で良好な性能を示すモデル３１２を学習することである。Ｄtrain３０２およびＤtestは、データセットＤの分割である。Ｄtrain３０２に存在する上述のデータ不足の問題は、Ｄtestでのモデルの汎化を制限する可能性がある。したがって、性能をさらに向上させるために、本発明はＴＣＲデータセット３０４（ＤTCRdb：｛ｔj｝）を活用することができる。ここで、ｊ＝１，２，．．．，Ｎであり、ＮはＤTCRdb３０４内のＴＣＲ３１０の数を表す。Ｎ＞＞ｎであり、ＤTCRdb３０４中のＴＣＲ３１０は、本発明の態様に従い、Ｄtrain中のペプチドと既知の相互作用を有さないと仮定できる。
【0050】
本明細書で議論するＴＣＲ－ペプチドモデル３１２（ＥＲＧＯ－Ｉ）は、例示目的および実験結果のための基本モデルとして利用することができるが、本発明の様々な実施形態に従って、他の種類のＴＣＲ－ペプチドモデルおよび／またはモデラーが利用できることを理解されたい。ＥＲＧＯ－ＩＩは、補助的な情報（例えば、ＣＤＲ３のα鎖、ＶおよびＪ遺伝子、ＭＨＣタイプおよびＴ細胞タイプ）をさらに考慮することで、ＥＲＧＯ－Ｉよりも改善されるが、ＥＲＧＯ－Ｉは、本発明がＴＣＲとペプチドとの間の物理的モデリングを実行することで、２分子の相互作用を予測するための任意の機械学習モデルを微調整および改善できることを説明するために、本明細書で利用される。ＥＲＧＯ－Ｉはあらゆるタンパク質間相互作用予測に適応可能な一般的なフレームワークであるのに対し、ＥＲＧＯ－ＩＩはＴＣＲ－ペプチド間相互作用予測にのみ適用可能である。
【0051】
本発明は、ＴＣＲ－ペプチド相互作用だけに限定されるものではなく、したがって、ＥＲＧＯ－Ｉ（または同様のもの）のようなモデルを、本発明の態様に従って、基本モデルとして利用することができる。本明細書では、システムおよび方法３００をＥＲＧＯ－Ｉモデルを基本モデルとして利用するものとして以下に説明するが、上述したように、本発明の原理は、本発明の態様に従って、あらゆる種類のモデルを基本モデルとして利用して適用できることを理解されたい。
【0052】
次に図４を参照すると、本発明の実施形態に従って、複数のエンコーダを有するＴ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するための深層学習モデルを訓練するためのシステムおよび方法４００が例示的に示されている。
【0053】
様々な実施形態に従い、また説明を簡単にするために、公正な実験比較のための基本モデル（例えば、ＴＣＲ－ペプチドモデル、任意のタンパク質－タンパク質相互作用予測に適応可能）を、本明細書では以下ＥＲＧＯと呼ぶ。いくつかの実施形態では、ＥＲＧＯ は、それぞれＴＣＲ４０２とペプチド４０８とについて
４０６および
４１２の２つの別々のエンコーダを含むことができる。本発明の態様に従って、ＴＣＲ４０２のためのエンコーダ４０６は、積層ＭＬＰを含むことができ、自動エンコード損失によって事前に訓練することができ、一方、ペプチド４０８のためのエンコーダ４１２は、ＬＳＴＭによってパラメータ化することができる。一例として、ｘ＝（ｔ，ｐ）∈Ｄtrainの場合、ブロック４０４におけるＴＣＲの埋め込み、およびブロック４１０におけるペプチドの埋め込みは、以下のように計算することができる。
完全に接続されたＭＬＰ４１４
をＴＣＲ４０４とペプチド４１０の連結埋め込みに付加して、最終的な分類を実行し、ブロック４１６の出力として以下のように予測を生成することができる。
ここで、本発明の様々な態様に従って、ｐｒｅｄは予測を表し、分類損失はバイナリクロスエントロピー（ＢＣＥ）損失である。説明を簡単にするため、以下では以下のように表記する。
ここで、ｆΘは
を含むフルモデルを表す。そして最終的な分類損失は、本発明の態様に従って、例示的なＴＣＲ－ペプチド対ｘ＝（ｔ，ｐ）に対する予測値ｐｒｅｄとラベルｙとの間のクロスエントロピー損失によって表すことができる。
【数5】
【数6】
【数7】
【数8】
【数9】
【数10】
【数11】
【数12】
【0054】
次に図５を参照すると、深層学習モデルを訓練し、ドッキングエネルギーを計算することによってＴ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するためのシステムおよび方法５００が、本発明の実施形態に従って例示的に描かれている。
【0055】
様々な実施形態において、教師あり訓練データセットＤtrainにおける多様なＴＣＲ５０２とペプチド５１２との対の欠如を改善するために、本発明は、本発明の態様に従って、訓練データセットＤtrainを拡張するために補助ＴＣＲとペプチドとの間の物理的特性を利用することができる。
【0056】
いくつかの実施形態では、ＴＣＲ５０２およびペプチド５１２の所定の配列について、本発明の態様に従って、ブロック５０６におけるＴＣＲについてのＭＳＡ、および／またはブロック５１６におけるペプチドについてのＭＳＡを決定するために、配列アナライザ５０４、５１４（例えば、ＢＬＡＳＴｐ）を利用することができる。様々な実施形態において、多様なＴＣＲ５０２を有する大規模なＴＣＲデータベースＤTCRdbを利用することができるが、これらのＴＣＲ５０２はＤtrain中のペプチド５１２との相互作用が知られていない。ＴＣＲ５０２とペプチド５１２との間のドッキングエネルギー５２４は、相互作用の指標として選択することができ、ドッキングエネルギー５２４は、分子を剛体として扱うことにより、分子間の結合親和性を反映する。ペプチド５１２とＴＣＲ５０２とのドッキングは、ＴＣＲ５０２の表面の周りでペプチド５１２を動かすことにより、最小のエネルギーで２つの剛体の配置を決定することができ、比較的小さなドッキングエネルギーは、本発明の態様に従って、所定のＴＣＲ５０２とペプチド５１２との陽性の対を示すことができる。
【0057】
ドッキング５２２（例えばＨＤｏｃｋなどを使用）は、まずＴＣＲ５０２とペプチド５１２との既知の構造を利用することができる物理学ベースのモデリングであることに留意されたい。いくつかの実施形態では、ＤTCRdbからサンプリングされたＴＣＲ配列ｔ’、およびＤtrainからペプチド配列ｐ’が与えられた場合、ＴＣＲ５１０ ｔ’の構造およびペプチド５２０ ｐの構造は、配列アナライザ５０４、５１４（例えば、ＢＬＡＳＴｐ）を使用して、既知の構造を有する相同配列を見つけることによって構築することができる。ドッキングは、タンパク質複合体（例えば２分子の二量体）の構造を予測するために開発された計算手法と言える。ドッキングは、エネルギースコアリング関数５２４を最小化することによって複合体の配置を探索することができ、ＴＣＲとペプチドとの間の決定された最終的なドッキングエネルギー５２４は、本発明の態様に従って、このＴＣＲ－ペプチド対の代用結合ラベルとして利用することができる。
【0058】
説明を容易にするために、利用したドッキングアルゴリズムとしてＨＤｏｃｋを説明するが、本発明の態様に従って、他の任意のドッキングアルゴリズムまたは方法を利用することができる。構造を持たないＴＣＲ／ペプチド配列の場合、ＨＤｏｃｋはまず高速なタンパク質配列検索アルゴリズムを用いて、ターゲット配列の多重配列アライメント（ＭＳＡ）と、それに対応するタンパク質データバンク（ＰＤＢ）における構造とを検索することができる。そしてＨＤｏｃｋは、ＭＳＡから構築された構造と既知の相同配列の構造とを用いてドッキングを実行することができる。学習アルゴリズムは、最終的なドッキングスコアをＴＣＲ－ペプチド対の代用ラベルとして活用することができ、閾値を利用してＴＣＲ－ペプチド対を陰性対、陽性対、その他のカテゴリーに分割することができる。以下に、さらに詳細に説明する。
【0059】
ブロック５０８および５１８では、本発明の態様に従って、ＴＣＲ５１０およびペプチド５２０の構造を構築するためにＭＯＤＥＬＬＥＲ５０８、５１８を利用することができる。いくつかの実施形態では、ＭＳＡと、タンパク質データバンク（ＰＤＢ）からの対応する構造は、ＴＣＲ／ペプチドの構造を構築するためにＭＯＤＥＬＬＥＲ ５０８，５１８によって利用される。最後に、ブロック５２４でドッキングエネルギーを計算するために、ＴＣＲ５１０およびペプチド５２０の所定の構造を用いて、ブロック５２２でＴＣＲとペプチドとのドッキング（例えば、ＨＤｏｃｋを使用）を実行することができる。
【0060】
いくつかの実施形態では、ＴＣＲ５１０およびペプチド５２０の構造が決定されると、本発明の態様に従って、ブロック５２２でＴＣＲとペプチドとをドッキングするためにドッキング（例えば、ＨＤｏｃｋなどを使用）を実行することができる。このようにして、例えば、ドッキングエネルギースコア５２４を持つ８０ＫのＴＣＲ－ペプチド対を生成することができる。対は、下位２５％のエネルギースコアが陽性の対を示し、上位２５％のエネルギースコアが陰性の対を示す擬似ラベルとすることができる。こうしてデータセットが生成され、ドッキングエネルギーＤdockによる擬似ラベルを含むことができる。ｘ’，ｙ’∈Ｄdockの場合、ｙ’はドッキングによる擬似ラベルであり、学習目的は以下のように表すことができる。
説明の便宜と簡略化のため、対（（ｔ’，ｐ’），ｐｒｅｄ ｄ’）は、本発明の態様に従って、後で使用するための新たなデータセットＤphysicalを形成するために利用することができる。
【数13】
【0061】
ここで図６を参照すると、ＴＣＲ生成および分類のための条件付き変分オートエンコーダ（ｃＶＡＥ）を訓練することによってＴ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するためのシステムおよび方法６００が、本発明の実施形態に従って例示的に描かれている。
【0062】
様々な実施形態において、ｃＶＡＥは、ペプチド配列６０２、ｐ、およびＴＣＲ６０８を入力として用いて、様々なデータセット（例えば、ＭＣＰＡＳ、ＶＤＪｄｂなど）を用いて、ペプチドに関するＴＣＲ生成条件について訓練することができる。ペプチドエンコーダ６０４は、ブロック６０６において潜在ペプチドを生成するために利用することができ、ＴＣＲエンコーダ６１０は、ブロック６１２において潜在ＴＣＲを生成するために利用することができる。潜伏ペプチド６０６および潜伏ＴＣＲ６１２は、関数
としての平均および分散を用いて（例えば、ガウス関数として）モデル化することができる。これは、ブロック６２０における連結／再パラメータ化のため、および本発明の態様に従って潜在変数Ｚｔ６２４と組み合わせたＫＬダイバージェンス６２２の入力として利用することができる。本発明の態様に従って、ＴＣＲデコーダ６１４は、ブロック６１６でＴＣＲ、ｔ’を生成するために利用することができ、これはＴＣＲ分類器６１８を用いて分類することができ、勾配は、生成されたＴＣＲ６１６が条件付きペプチドに陽性結合するように強制することができる。
【数14】
【0063】
次に図７を参照すると、本発明の実施形態に従って、擬似ラベル付けを使用して訓練データセットを拡張することによってＴ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するためのシステムおよび方法７００が例示的に描かれている。
【0064】
一実施形態では、分類器７０８（例えば、ＥＲＧＯ分類器）は、ＴＣＲ７０４およびペプチド７０６についてブロック７０２からの限定されたラベル付きデータ（例えば、ＭｃＰＡＳ－ＴＣＲからの）Ｄtrainを使用して事前に訓練され、実ラベル７１０を生成することができる。パラメータは、ブロック７１８において次の分類器（例えば、ＥＲＧＯ）モデルで使用するために、ブロック７０９においてコピーすることができる。初期学習モデル７０８は、本発明の態様に従って、補助データセット７１２（例えば、ＣＲＤ３ｓ－ＴＣＲからの）ＤTCRdbからのデータを用いて、ブロック７２０において分類器７１８（例えば、ＥＲＧＯ）によって擬似スコアおよび／または擬似ラベル付けＴＣＲペプチド対（例えば、ＴＣＲ’７１４、ペプチド７１６）を生成するための教師モデルとして利用することができる。
【0065】
いくつかの実施形態では、ブロック７２８において次の分類器（例えば、ＥＲＧＯ）モデルによって使用されるために、ブロック７１９においてパラメータをコピーすることができる。モデル７２８は、ブロック７０２からの元のデータセットＤtrainからのサンプルデータ７２２、およびブロック７１２からの拡張擬似ラベル付けデータセットＤTCRdbからのデータを使用して再訓練することができる。分類器７２８への入力は、ブロック７２４からのＴＣＲ／ＴＣＲ’とブロック７２６からのペプチドとを含むことができる。予測値（ｐｒｅｄ’｜ｐｒｅｄ）がブロック７３０において生成され得、実ラベル７１０および擬似ラベル７２０は、本発明の態様に従って、ブロック７２４からのＴＣＲ’／ＴＣＲおよびブロック７２６からのペプチドを含む、ブロック７２２からの結合されたサンプルされたデータセット入力に基づいて、ブロック７３２において出力ｙ’│ｙとして最終ドッキングスコアを生成するために、予測値７３０と共に利用され得る。
【0066】
次に図８を参照すると、ＴＣＲ生成および分類のための条件付き変分オートエンコーダ（ｃＶＡＥ）を訓練し、擬似ラベル付けを使用して訓練データセットを拡張することによって、Ｔ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測するためのシステムおよび方法８００が、本発明の実施形態に従って例示的に描かれている。
【0067】
一実施形態では、複数のデータベース（例えば、ＭｃＰＡＳ－ＴＣＲ、ＢＭ＿ｄａｔａ＿ＣＤＲ３ｓ－ＴＣＲなど）からのＴＣＲ８０２をＴＣＲエンコーダ８０４が受信し、ブロック８０６において潜在ＴＣＲを生成することができる。本発明の態様に従って、潜在ＴＣＲ８０６は、平均と分散の関数を用いて（例えば、ガウス関数として）モデル化することができ、これは、ブロック８２４における連結／再パラメータ化のために利用することができ、潜在変数Ｚt８２８と組み合わせてＫＬダイバージェンス８２６の入力として利用することができる。
【0068】
いくつかの実施形態では、ＴＣＲデコーダ８０８を利用して、ブロック８１０においてＴＣＲ、ｔ’を生成することができ、このＴＣＲは、ＴＣＲ分類器８２０を使用して分類することができ、このＴＣＲ分類器８２０は、上記で議論した複数のデータベース（例えば、ＭｃＰＡＳ－ＴＣＲ）のうちの１つからペプチド８２２のさらなる入力を受け取ることができる。ＴＣＲ分類器８２０は、本発明の態様に従って、生成モデルおよび擬似ラベリンル付けに基づくＴＣＲ－ペプチド結合予測のための分類器８２０の性能をさらに微調整および改善するための追加訓練のための新たな訓練セット８３０を生成することができる。
【0069】
様々な実施形態に従って、物理的モデリングからの学習は訓練データセットを効果的に拡張できるが、学習の成功は物理的モデリングの質にも依存することに留意されたい。モデルは、物理的モデリングからの補助的な学習が、例えば検証損失を最小化するメタ学習によって、主要な学習目的に対して最適化されるように学習することができる。このメタ学習アルゴリズムは、時間のかかる勾配学習（ｇｒａｄｉｅｎｔ－ｏｎ－ｇｒａｄｉｅｎｔ ｌｅａｒｎｉｎｇ）を導入する可能性がある。しかし、本発明の態様に従って、処理速度と精度を向上させるために、検証損失を最小化する代わりに、現在のバッチの訓練損失を最小化することによって近似することができる（例えば、この補助目的からの学習が現在のバッチの訓練損失を低減するように、物理的モデリングからの学習を最適化する）。
【0070】
例として、バッチ（ｘ，ｙ）の各訓練反復について、損失
および
を最初に計算し、それに応じてモデルのパラメータを更新し、パラメータをΘt-1と表すことができる。そして、損失
が計算され、モデルを一段階更新してΘtとすることができる。
と判断された場合（例えば、物理的モデリングで現在のバッチを学習すると、訓練誤差が大きくなる）、その後、本発明の態様に従って、モデルをΘl-1に戻して訓練誤差を減らすことができる（例えば、物理的モデリングからの学習が訓練プロセスに役立たない場合、モデルのパラメータは更新されない）。
【数15】
【数16】
【数17】
【数18】
【0071】
次に図９を参照すると、本発明の実施形態に従って、ニューラルネットワークを訓練および利用することによってＴ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測および分類するための方法９００が例示的に描かれている。
【0072】
いくつかの実施形態では、ブロック９０２において、陽性および陰性結合ＴＣＲ－ペプチド対のデータセットから、ペプチド埋め込みベクターとＴＣＲ埋め込みベクターとを連結することができる。ブロック９０４において、二値結合スコアを予測するために深層ニューラルネットワーク（ＤＮＮ）分類器を訓練することができ、ブロック９０６において、大規模なＴＣＲデータベース（例えば、ＴＣＲｄｂ）からのラベル付けされていないＴＣＲと訓練データからのラベル付けされたＴＣＲとを組み合わせることによって、オートエンコーダ（例えば、Ｗａｓｓｅｒｓｔｅｉｎ）を訓練することができる。ブロック９０８では、物理的モデリングを用いてペプチドをＴＣＲにドッキングすることができる。ブロック９１０において、ドッキングエネルギーは、訓練データとして追加の陽性および陰性ＴＣＲ－ペプチド対を生成し、訓練データを用いて既存のＴＣＲ－ペプチド相互作用予測分類器を微調整するために利用することができる。
【0073】
いくつかの実施形態では、ブロック９１２において訓練されたオートエンコーダに基づいて新たなＴＣＲを生成することができ、選択されたペプチドと対になった新たなＴＣＲを物理的モデルおよび擬似ラベル付けを使用してラベル付けして新たな訓練データを生成し、新たな訓練データを使用して既存のＴＣＲ－ペプチド相互作用予測分類器をさらに微調整することができる。様々な実施形態に従って、擬似ラベル付け（例えば、自己訓練）は、ラベル付けされたデータセット上で第１の（例えば、教師あり）モデルを学習し、学習された第１の（例えば、教師あり）モデルを使用して、ラベル付けされていないデータセットを擬似ラベル付けすることに対応し得る。本発明の態様に従って、元のラベル付きデータセットと拡張された擬似ラベル付きデータセットとの合同データセットから新たなモデルを学習することができる。
【0074】
いくつかの実施形態では、ブロック９０４からの訓練されたＤＮＮを使用する学習は、弱増補例と重増補例とでモデルの予測をマッチングさせることによってラベル付けされていない例を使用すること、および勾配ベースの金属学習によって擬似ラベルを学習すること（例えば、擬似ラベルは、ターゲットタスクの検証損失を最小化するように最適化され得る）を含み得る。本発明は、本発明の態様に従って、ＴＣＲ配列のための大規模なデータベース（例えば、ＴＣＲｄｂ）を使用することによる半教師付き問題とみなすことができ、未知の対に（例えば、教師モデルによって）擬似スコアを割り当てること、および／または、ＴＣＲ－ペプチドペアの物理的モデリングの決定された特性から擬似ラベルを割り当てることができる。いくつかの実施形態において、ブロック９０８、９１０、９１２、および／または９１４のステップは、本発明の態様に従って、ブロック９１６において収束するまで繰り返され得る。
【0075】
ここで図１０を参照すると、本発明の実施形態に従って、ニューラルネットワークを訓練および利用することによってＴ細胞受容体（ＴＣＲ）－ペプチド相互作用を予測および分類するための例示的なシステム１０００が例示的に描かれている。
【0076】
いくつかの実施形態では、１つまたは複数のデータベースサーバー１００２は、本発明の態様に従って、入力として使用するための大量のラベル付けされていないおよび／またはラベル付けされたＴＣＲおよび／またはペプチド（または他のデータ）を含むことができる。本発明の態様に従って、ペプチドエンコーダ１００４は、潜伏ペプチドを生成するために利用することができ、ＴＣＲエンコーダ／デコーダ１００６は、潜伏ＴＣＲ（エンコーダ）と新たなＴＣＲ、ｌ’（デコーダ）とを生成するために利用することができる。ニューラルネットワーク１００８が利用され得、１つまたは複数のモデル（例えば、ＥＲＧＯ）の訓練を実行するための、１つまたは複数のプロセッサ装置１０２４を含み得るニューラルネットワーク訓練／学習装置１０１０と、ＴＣＲおよび／またはペプチドの１つまたは複数の配列についてＴＣＲのＭＳＡおよび／またはペプチドのＭＳＡを決定するために利用され得る配列アナライザ１０１２（例えば、ＢＬＡＳＴｐ）とを含み得る。
【0077】
様々な実施形態において、オートエンコーダ１０１４（例えば、Ｗａｓｓｅｒｓｔｅｉｎ）は、大規模なＴＣＲデータベース（例えば、ＴＣＲｄｂ）からのラベル付けされていないＴＣＲと、訓練データからのラベル付けされたＴＣＲとを組み合わせることによって訓練することができ、ＴＣＲ生成器／分類器１０１６を使用して新たなＴＣＲの生成に利用することができる。本発明の態様に従って、ＴＣＲ生成器／分類器１０１６は、ＴＣＲエンコーダ／デコーダ１００６からの潜在的ＴＣＲを用いて生成された１つ以上の新たなＴＣＲ、ｌ’を分類することができ、勾配を用いて、生成されたＴＣＲが条件付ペプチドに陽性結合するように強制することができる。ＭＯＤＥＬＬＥＲ１０１８は、ＴＣＲおよびペプチドの構造を構築するために利用することができ、いくつかの実施形態では、ＭＳＡおよびタンパク質データバンク（ＰＤＢ）からの対応する構造は、本発明の態様に従って、ＴＣＲ／ペプチドの構造を構築するためにＭＯＤＥＬＬＥＲ１０１８によって利用することができる。
【0078】
いくつかの実施形態では、ＴＣＲ－ペプチドドッキング装置１０２０（例えば、ＨＤｏｃｋ）は、本発明の態様に従って、ドッキングエネルギーを計算するためにＭＯＤＥＬＬＥＲ１０１８によって構築されたＴＣＲおよびペプチド構造を使用して、ＴＣＲとペプチドとのドッキングを実行するために利用され得る。一実施形態において、ラベル生成器１０２２は、例えば、ＴＣＲ生成器／分類器１０１６（例えば、ＥＲＧＯ分類器）によって生成されたＴＣＲに対して、限定されたラベル付きデータ（例えば、ＭｃＰＡＳ－ＴＣＲからの）Ｄtrainを使用して分類器１０１６を事前訓練することによって、実際のラベルを生成するＴＣＲおよびペプチドに実際のラベルを生成することができる。一実施形態において、本発明の態様に従って、ラベル生成器１０２２は、例えば、擬似スコアを生成するための教師モデルとして初期学習済みモデルを使用し、補助データセット（例えば、ＣＲＤ３ｓ－ＴＣＲから）ＤTCRdbからのデータを使用してＴＣＲペプチド対を擬似ラベル付けすることによって、ＴＣＲ生成器／分類器１０１６（例えば、ＥＲＧＯ分類器）によって生成されたＴＣＲの擬似ラベルを生成することができる。
【0079】
図１０に示す実施形態では、その要素はバス１００１によって相互接続されている。しかし、他の実施形態では、他のタイプの接続を使用することもできる。さらに、一実施形態では、システム１０００の要素の少なくとも１つは、プロセッサベースおよび／または論理回路であり、１つまたは複数のプロセッサ装置１０２４を含み得る。さらに、１つ以上の要素が別々の要素として示されている場合もあるが、他の実施形態では、これらの要素を１つの要素として組み合わせることができる。逆もまた適用可能であり、１つまたは複数の要素が他の要素の一部である場合もあるが、他の実施形態では、１つまたは複数の要素は独立した要素として実装される場合もある。システム１０００の要素のこれらおよび他の変形は、本明細書で提供される本原理の教示を考慮すれば、本原理の精神を維持しつつ、当業者によって容易に決定される。
【0080】
明細書において、本発明の「一実施形態」または「一実施形態」、およびその他の変形例への言及は、実施形態に関連して説明した特定の特徴、構造、特性などが、本発明の少なくとも一実施形態に含まれることを意味する。したがって、本明細書中の各所に現れる「一実施形態において」または「一実施形態において」という表現、および他の任意の変形は、必ずしもすべてが同じ実施形態を指すとは限らない。しかしながら、本明細書で提供される本発明の教示を考慮すれば、１つまたは複数の実施形態の特徴を組み合わせることができることを理解されたい。
【0081】
例えば「Ａ／Ｂ」の場合、「Ａおよび／またはＢ」、「ＡとＢとの少なくとも１つ」のような、以下の「／」、「および／または」、「少なくとも1つ」のいずれかの使用は、第１のリストされた選択肢（Ａ）のみの選択、または第２のリストされた選択肢（Ｂ）のみの選択、または両方の選択肢（ＡおよびＢ）の選択を包含すると意図していると理解されよう。さらなる例として、「Ａ、Ｂ、および／またはＣ」および「Ａ、Ｂ、およびＣの少なくとも１つ」の場合、かかる表現は、第１のリストされた選択肢（Ａ）のみの選択、または第２のリストされた選択肢（Ｂ）のみの選択、または第３のリストされた選択肢（Ｃ）のみの選択、または第１および第２のリストされた選択肢（ＡおよびＢ）のみの選択、第１および第３のリストされた選択肢（ＡおよびＣ）のみの選択、第２および第３のリストされた選択肢（ＢおよびＣ）のみの選択、または３つすべての選択肢（ＡおよびＢおよびＣ）の選択を包含すると意図されている。このことは、列挙された項目の数だけ拡張することができる。
【0082】
上記は、あらゆる点で例示的かつ例示的であるが、制限的なものではないと理解され、ここに開示された発明の範囲は、詳細な説明からではなく、特許法によって許される全幅に従って解釈された請求項から決定されるものである。本明細書に示され説明された実施形態は、本発明の例示に過ぎず、当業者は、本発明の範囲及び精神から逸脱することなく、様々な修正を実施することができることを理解されたい。当業者であれば、本発明の範囲と精神から逸脱することなく、様々な他の特徴の組み合わせを実施することができる。このように、特許法が要求する詳細さと特殊性をもって本発明の側面を説明したが、特許状によって請求され、保護されることを望むものは、添付の特許請求の範囲に記載されているとおりである。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【国際調査報告】