特開 2023-178160 構造化データベースから抽出された自然言語表現を使用した事前訓練言語モデル

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2023178160

(43)【公開日】2023-12-14

(54)【発明の名称】構造化データベースから抽出された自然言語表現を使用した事前訓練言語モデル

(51)【国際特許分類】

   G06F 16/24 20190101AFI20231207BHJP

【ＦＩ】

G06F16/24

【審査請求】未請求

【請求項の数】21

【出願形態】ＯＬ

【外国語出願】

(21)【出願番号】P 2022102308

(22)【出願日】2022-06-27

(31)【優先権主張番号】17/831,000

(32)【優先日】2022-06-02

(33)【優先権主張国・地域又は機関】US

【公序良俗違反の表示】

（特許庁注：以下のものは登録商標）

１．ＴＥＮＳＯＲＦＬＯＷ

２．ＢＬＵＥＴＯＯＴＨ

(71)【出願人】

【識別番号】501450960

【氏名又は名称】エヌビディア コーポレーション

(74)【代理人】

【識別番号】110000855

【氏名又は名称】弁理士法人浅村特許事務所

(72)【発明者】

【氏名】ホー チャン シン

(72)【発明者】

【氏名】アナス ザイヌル アビディン

(72)【発明者】

【氏名】ボー リュウ

(72)【発明者】

【氏名】キャロル アンダーソン

(72)【発明者】

【氏名】バージニア アダムス

(72)【発明者】

【氏名】ジョナサン コーエン

【テーマコード（参考）】

5B175

【Ｆターム（参考）】

5B175GC03

(57)【要約】

【課題】構造データベースに存在する関係性について言語モデルを訓練するためのシステム及び方法を提供すること。
【解決手段】構造データ内の情報は、階層的関係性、関係などのデータベース内の関係性が維持されプレーン・テキスト・フォーマットで表されるように、処理されプレーン・テキストに変換される。この情報は、１つ又は複数の分野についての事前訓練を提供するための言語モデルの訓練データとして使用されてもよい。次いで、入力クエリに対する検索分野応答内の結果を識別するために、言語モデルが自然言語検索とともに活用されてもよい。
【選択図】図１

【特許請求の範囲】

【請求項1】

構造化データベースからの複数のデータ・エントリをプレーン・テキスト・コーパスに変換するステップであって、前記プレーン・テキスト・コーパスが、前記複数のデータ・エントリのうちの２つ以上のデータ・エントリ間の少なくとも１つの関係性の少なくとも１つの自然言語表現を含む、ステップと、
前記プレーン・テキスト・コーパスを少なくとも部分的に使用して、言語モデルの１つ又は複数のパラメータを更新するステップと、
言語モデルを使用してクエリを受信するステップであって、前記クエリが、前記プレーン・テキスト・コーパスに対応する分野に関連付けられている、ステップと、
前記クエリが前記プレーン・テキスト・コーパスに対応する前記分野に関連付けられているとの判定に応答して、前記言語モデルを使用して前記クエリへの応答を生成するステップであって、前記クエリ又は前記応答のうちの少なくとも一方が、前記２つ以上のデータ・エントリのうちの第１のデータ・エントリを含み、前記応答が、少なくとも、前記第１のデータ・エントリ、及び前記第１のデータ・エントリと前記２つ以上のデータ・エントリのうちの別のデータ・エントリとの間の前記少なくとも１つの関係性の前記少なくとも１つのプレーン・テキスト表現に基づいて生成される、ステップと
を含む、コンピュータ実装方法。

【請求項2】

構造化データベースからの複数のデータ・エントリをプレーン・テキスト・コーパスに変換するステップが、前記プレーン・テキスト・コーパスの２つ以上の部分間の関係性の自然言語表現を生成することをさらに含み、前記プレーン・テキスト・コーパスの前記２つ以上の部分が、構造データベースからの前記２つ以上のデータ・エントリに対応する、請求項１に記載のコンピュータ実装方法。

【請求項3】

前記クエリを受信したことに応答して検索分野の中を検索するステップをさらに含み、前記検索分野が前記言語モデルの外部の検索エンジンに関連付けられている、請求項１に記載のコンピュータ実装方法。

【請求項4】

前記クエリが自然言語クエリである、請求項１に記載のコンピュータ実装方法。

【請求項5】

前記構造化データベースが、非プレーン・テキスト・データベースである、請求項１に記載のコンピュータ実装方法。

【請求項6】

前記構造化データベースが関係データベースである、請求項５に記載のコンピュータ実装方法。

【請求項7】

データベースのセットの第１の構造化データベースの分野がターゲット分野に対応していると判定するステップをさらに含み、前記複数のデータ・エントリを変換するステップが、前記第１の構造化データベースから抽出されたデータを変換することを含む、請求項１に記載のコンピュータ実装方法。

【請求項8】

データ・ストレージを使用して前記プレーン・テキスト・コーパスを格納するステップと、
前記データ・ストレージからの前記プレーン・テキスト・コーパスに少なくとも部分的に基づいて、前記言語モデルを微調整するステップと
をさらに含む、請求項１に記載のコンピュータ実装方法。

【請求項9】

構造化データセット内の情報間の少なくとも１つの関連付けを識別すること、
前記少なくとも１つの関連付けが維持されるように前記情報を処理すること、
前記情報から１つ又は複数の分野の訓練セットを生成すること、
前記１つ又は複数の分野に関連付けられた入力クエリを受信することであって、前記入力クエリに関連付けられた言語モデルが、少なくとも前記訓練セットを使用して少なくとも部分的に訓練される、受信すること、及び
前記言語モデルを使用して、前記入力クエリへの応答を生成すること
を行うための１つ又は複数のプロセッサを含む、システム。

【請求項10】

前記関連付けが、前記構造化データセットの階層的関係性又は関係的関係性のうちの少なくとも一方に対応する、請求項９に記載のシステム。

【請求項11】

前記１つ又は複数のプロセッサがさらに、
前記構造化データセットが指定された分野に対応すると判定し、
前記構造化データセットを取得し、
前記構造化されたデータセットから前記情報を抽出する、
請求項９に記載のシステム。

【請求項12】

前記１つ又は複数のプロセッサがさらに、検索分野に対して前記入力クエリの検索を実行し、前記検索分野が、前記言語モデルの外部の検索エンジンに関連付けられている、請求項９に記載のシステム。

【請求項13】

前記入力クエリが、前記言語モデルによって処理される自然言語クエリである、請求項９に記載のシステム。

【請求項14】

前記情報が、前記少なくとも１つの関連付けがプレーン・テキストを使用して表現されるような文構造に変換される、請求項９に記載のシステム。

【請求項15】

前記１つ又は複数のプロセッサがさらに、前記訓練セットの少なくとも一部分を使用して前記言語モデルを事前訓練する、請求項９に記載のシステム。

【請求項16】

前記システムが、
自律型若しくは半自律型マシンのヒューマン・マシン・インターフェース・システム、
会話型ＡＩ動作を実行するためのシステム、
シミュレーション動作を実行するためのシステム、
デジタル・ツイン動作を実行するためのシステム、
深層学習動作を実行するためのシステム、
エッジデバイスを使用して実装されたシステム、
ロボットを使用して実装されたシステム、
１つ又は複数の仮想マシン（ＶＭ）を組み込んだシステム、
少なくとも部分的にデータ・センタ内に実装されたシステム、又は
少なくとも部分的にクラウド・コンピューティング・リソースを使用して実装されたシステム
のうちの少なくとも１つに含まれる、請求項９に記載のシステム。

【請求項17】

構造化データを受信するステップであって、前記構造化データが、前記構造化データを形成する情報の２つ以上の部分間の１つ又は複数の関係性の少なくとも１つの表現を含む、ステップと、
情報の前記２つ以上の部分間の前記少なくとも１つの関係性のカテゴリを識別するステップと、
情報の前記２つ以上の部分に関する前記カテゴリのプレーン・テキスト記述を生成するステップと、
前記プレーン・テキスト記述を１つ又は複数の言語モデルのための事前訓練データとして格納するステップと
を含む、コンピュータ実装方法。

【請求項18】

情報の前記２つ以上の部分間の関係性に関するテキスト記述が自然言語表現に変換される、請求項１７に記載のコンピュータ実装方法。

【請求項19】

前記構造化データが１つ又は複数の分野に対応する、請求項１７に記載のコンピュータ実装方法。

【請求項20】

前記構造化データが関係データベースから抽出される、請求項１７に記載のコンピュータ実装方法。

【請求項21】

前記構造化データが非テキスト・データとして受信される、請求項１７に記載のコンピュータ実装方法。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、構造化データベースから抽出された自然言語表現を使用した事前訓練言語モデルに関するものである。

【背景技術】

【0002】

質問回答、感情分析、及び要約などのタスクには、様々な言語モデルが効果的であることが明らかになっている。これらのモデルは、典型的には、非常に大きなデータセット又は人間が注釈付けしたデータセットを使用して特定の分野のために訓練されており、結果として、スケーリングが困難である場合がある。これらのモデルの機能性を得るには、多くの場合、特定の分野のためのモデルを微調整するために事前訓練が導入される。しかし、新規検索又は分野外の検索は一般に不十分な結果をもたらし、それにより、これらのモデルの使用は、必要な訓練データを有していない新しいアプリケーション用に限定される。

【発明の概要】

【課題を解決するための手段】

【0003】

図面を参照しながら、本開示による様々な実施例を説明する。

【図面の簡単な説明】

【0004】

【図1】少なくとも一実施例による、実例訓練及びクエリ処理環境を示す図である。

【図2】少なくとも一実施例による、実例検索環境を示す図である。

【図3A】少なくとも一実施例による、実例データセットを示す図である。

【図3B】少なくとも一実施例による、実例レコードを示す図である。

【図3C】少なくとも一実施例による、実例レコードを示す図である。

【図3D】少なくとも一実施例による、実例レコードを示す図である。

【図3E】少なくとも一実施例による、実例レコードを示す図である。

【図4A】少なくとも一実施例による、機械学習システムを訓練するための実例フローチャートである。

【図4B】少なくとも一実施例による、機械学習システムを使用して訓練及び検索するための実例フローチャートである。

【図5】少なくとも一実施例による、機械学習システムを使用して訓練及び検索するための実例フローチャートである。

【図6】少なくとも一実施例による、プレーン・テキスト・データセットを生成するための実例フローチャートである。

【図7】少なくとも一実施例による、例示的なデータ・センタ・システムを示す図である。

【図8】少なくとも一実施例による、コンピュータ・システムを示す図である。

【図9】少なくとも一実施例による、コンピュータ・システムを示す図である。

【図10】少なくとも一実施例による、１つ又は複数の実施例による、グラフィックス・プロセッサの少なくとも一部分を示す図である。

【図11】少なくとも一実施例による、１つ又は複数の実施例による、グラフィックス・プロセッサの少なくとも一部分を示す図である。

【発明を実施するための形態】

【0005】

様々な実施例による手法は、訓練学習モデルで使用するためのプレーン・テキスト変換中にデータベース内の階層的関係性及び構造的関係性を維持するためのシステム並びに方法を提供する。結果として、従来の意味論的検索技法と比較した場合に、データのコーパスからの新規情報の識別が容易になるという検索の改善が可能になる。様々な実施例は、１つ又は複数のモデルを訓練するためにノイズ除去目的関数（ｄｅｎｏｉｓｉｎｇ ｏｂｊｅｃｔｉｖｅ）を利用する従来の訓練方法に関連する問題を克服することができる。特に新規情報を識別しようとする場合、ノイズ除去目的関数は元データに存在する構造情報を無視する可能性があるので、ノイズ除去目的関数は制限される。この情報は、人間のレビュー担当者からの重要な作業又は注釈を含む可能性があるが、従来の評価によって失われる。さらに、システム及び方法は、テキスト状データ以外のものに拡張されてもよく、関係データベースなどの構造化データベース内に格納されている情報を利用してもよい。このように、訓練目的で情報をプレーン・テキストに変換するときに構造を保持することができ、これにより言語モデルの事前訓練においてこれらの関係性を活用することが可能になり、それによって言語モデルを使用したきに改善された検索結果を提供することができる。

【0006】

様々な実施例により、人間が注釈付けした大規模なデータセットの使用を必要とせずに、自然言語検索を使用した新規の知見が可能になる。さらに、データベースに関連付けられた階層情報又は構造情報を活用することによって、意味論的検索の改善が提供される場合がある。実施例は、変換されたプレーン・テキスト・データ上で事前訓練された言語モデルを提供する。たとえば、テキスト・データは、様々な構造化された若しくは関係を示すデータベース又はデータ・ソースから取得され、その関連する構造を保持するように処理されるとともに、訓練目的のためにプレーン・テキストに変換されてもよい。この情報上でモデルを事前訓練することで、モデルは元データに存在する階層及び関係性を学習できるようになる。次いで、この言語モデルを使用して、１つ又は複数の異なる分野内の情報を処理し、様々な入力クエリへの応答を提供してもよい。特定の実施例では、プレーン・テキスト・データの変換は、テーブル対テキスト変換プロセスなどの自動化されたプロセスであってもよく、又は特定の分野に固有であってもよい。少なくとも一実施例では、言語モデルの訓練（たとえば、絡み合うなどした複雑な階層的関係を含む訓練）が改善されることにより、分野内テキストに対して検索結果の改善が提供される場合がある。したがって、言語モデルは、クエリを受信し、クエリを理解し、分野内情報の中を検索し、次いで、典型的な検索エンジンであれば失敗するはずの関連項目を見出すことができる。

【0007】

実施例はさらに、他の選択肢のなかでもとりわけ、関係データベースなどの１つ又は複数の構造データベースからテキストを生成することを目的とし得る。システム及び方法は、データベースの１つ又は複数の部分を入力として受信し、その入力から、データベース内の情報に少なくとも部分的に基づいて異なる構成要素間の関係性を決定することができる、１つ又は複数の自動化プロセスを含んでもよい。実例として、データベースは、項目をグループ化するか又は他の方法で分類してもよい（たとえば、世代／先祖によるグループ化、親／子の関係性によるグループ化など）。様々な実施例は、これらの関係性を評価し、次いで、訓練目的に有用であり得るプレーン・テキスト情報に対応し得るテーブル内の関係性に関連する１つ又は複数のレコードを生成してもよい。実例として、データベースには、医薬品のクラス、作用方法、及びその作用方法を推進する化合物のリストに関連する情報が含まれ得る。評価時に、「化合物ＡはＡ活性剤の一種である。」又は「化合物ＡはＢ医薬品として分類される。」などのプレーン・テキスト情報が生成されてもよい。次いで、これらの関係性は言語モデルの事前訓練に利用されてもよく、その結果、評価されたデータベース内で同様に提供される構造的関係性を活用することによって、分野内検索が改善される可能性がある。

【0008】

図１に示すように、環境１００は、クエリに対する検索結果の応答を改善するために、とりわけ関係データベースなどのデータベース内の階層構造を維持して言語モデルを訓練するためのプロセス・フローを示す。この実例では、環境１００は、１つ若しくは複数のプロセッサ及び１つ若しくは複数のメモリを含む、１つ又は複数のコンピュータ・システム上で実行されてもよい。コンピュータ・システムは、環境１００の１つ又は複数のシステムが異なるシステム上でホストされるか又は他の方法で実行される分散コンピューティング環境（たとえば、クラウド・コンピューティング環境）の一部であってもよい。様々な構成要素が異なるモジュール又はサブシステムとして示され得るが、様々な実施例が様々なモジュール又はサブシステムの１つ又は複数の特徴を他の関連するモジュール又はサブシステムに組み込み得ることを認識すべきである。

【0009】

少なくとも１つの環境では、情報セットが、１つ又は複数のデータベース１０２に関連付けられる。情報セットは、様々な実施例において関係データベース、テーブルなどの何らかのタイプの階層的若しくは関係的な様式でフォーマット又は格納され得るデータを含んでもよい。データベース１０２に関連付けられたそれぞれの情報セットは、（たとえば、情報を情報セット内に入力するために）人間のレビュー担当者によって若しくはデータベース・ソフトウェア・システムに関連する規則によって準備又は他の方法で指定された豊富なフォーマットを含む場合がある。その結果、データベース内の情報は、言語モデルなどの１つ又は複数の機械学習システムに有用であり得る関係情報を提供することができる。しかし、これらの情報セットのフォーマットは、機械学習システムの訓練に好適ではない可能性があり、その結果、訓練データとして使用するために、変換又は他の方法で修正される場合がある。データベースがテキストに変換されると、情報の多くが失われる可能性があり、その結果、情報の有用性が低下する可能性がある。図１に示すようなシステム及び方法は、情報セット内で確立された構造的関係性及び階層的関係性を維持するとともに依然として情報セットを訓練目的に有用なテキスト入力に変換する変換システム１０４を利用することによって、この欠陥を克服する。

【0010】

様々な実施例は、データベース１０２から情報セットを入力として受信し、次いで、その情報を、訓練データ１０６として使用され得るテキストベースのデータに変換する変換システム１０４を含む。少なくとも一実施例では、変換システム１０４は、入力を形成する情報を分析し、次いで情報間の様々な階層的関係性又は構造的関係性を表すための、規則セットに対応してもよい。実例として、入力情報が、最初のトピックが様々なサブトピックを有する折り畳み可能なリストの形式である場合、情報は、他の選択肢のなかでもとりわけリスト若しくはプレーン・テキスト・フォーマット又はそれらの組合せに変換される一連のマイクロレコードとして分離を示すための関係性のレベルによって、グループ化（たとえば、先祖、親、兄弟など）の形式で表されてもよい。このようにして、入力データの様々な部分間の関係性及び関連性は、訓練データ１０６として使用するためにプレーン・テキストに変換された後でも維持され得る。

【0011】

少なくとも一実施例では、入力データを受信し、入力データを訓練データ１０６に変換するために、１つ又は複数の自動化システムが変換システム１０４内に展開されてもよい。たとえば、テーブルを識別し、テーブル内の様々なヘッダを認識し、関連するヘッダを用いて様々な構成要素をグループ化し、次いでテーブル内のデータをプレーン・テキスト・フォーマットで提示するために、テーブル対テキスト変換アプリケーションが展開されてもよい。異なるタイプの入力データに対して異なるユーティリティが使用され得ること、また少なくとも一実施例では、変換の前に様々なフォーマットが決定され得ることを認識すべきである。たとえば、１つ又は複数のデータベースは、それらのデータベース内で一般的に提示された又はフォーマットされた情報に起因して、他のデータベースとは異なる方法で評価されてもよい。それに応じて、システムは、調整されるか、又は他の方法で、異なるタイプの入力データを扱うための命令セットを有してもよい。１つ又は複数の実施例により、ユーザが入力データをハードコード化するか又は他の方法で入力データをどのように評価及びグループ化すべきかを具体的に示すことができる、カスタマイズ可能な変換ユーティリティが可能になり得ることを認識すべきである。

【0012】

少なくとも一実施例では、訓練データ１０６は、言語モデル１０８を事前訓練するために使用されてもよい。本開示の実施例とともに、とりわけ、ＢＥＲＴ、ＲｏＢＥＲＴａ、及びＴ５を含むがこれらに限定されない様々なタイプの言語モデル１０８が利用されてもよい。これらの言語モデル１０８は、基本言語モデルと呼ばれることもあり、基本言語モデルは、多数のタスクに適用可能とすることができ、次いで、特定の分野に特殊化するように又は他の方法で特定の分野に焦点を合わせるように特別に訓練されてもよい。従来、これらのタイプのモデルは、特定の分野に関する十分な訓練情報を得るために非常に大きなデータ・セットを使用していたが、十分な訓練情報を取得することが困難である場合がある。さらに、様々な実施例はまた、望ましい結果を達成するために、モデル・アーキテクチャへの修正を利用してもよい。これらの問題は、本開示のシステム及び方法を使用して、訓練データ１０６を用いて、データベース１０２に関連付けられた分野に対応し得る特定の分野について言語モデル１０８を事前訓練することによって克服される。訓練データ１０６は元データの階層情報及び関係情報を維持するようにフォーマットされるので、事前訓練のためにより多くの情報が言語モデル１０８に提供され、それによって、より短いタイムラインで結果の改善が可能になる。さらに、システム及び方法は、注釈付きの訓練データが不足しているため又は十分な訓練データのセットがないために検索分野から「新規な」結果を識別する場合に関しては、従来の言語モデルの問題に対処することがある。

【0013】

前に示したように、従来の言語モデルは、ノイズ除去目的関数（たとえば、文及び句内の単語のマスキング）を使用して、注釈のないテキストの大きなコーパス上で事前訓練される場合がある。本開示のシステム及び方法とは異なり、これらの技法は入力データセットの構造を無視する。その結果、入力データはウェブ・ページ、書籍、記事などのテキスト状データに限定される。しかし、構造化データベース又は関係データベース（たとえば、ＳＱＬ、ＸＭＬ、ＲＲＦ）などの様々な場所において追加情報が見出される場合がある。様々な実施例は、テキスト内の構造及び関係を維持することによって、これらのデータベースを形成するためにすでに取り組まれた成果を活用する。結果として、この改善された訓練データ１０６上で言語モデル１０８を事前訓練することにより、クエリに応答して改善された結果がもたらされる。少なくとも一実施例では、クエリは、異なる構成要素間の新規の知見又は関係性を見出すための検索意図を有する自然言語クエリであってもよい。

【0014】

少なくとも一実施例では、言語モデル１０８は、検索分野１１２に対して実行する従来の検索エンジン１１０に関連する検索結果を改善するように実装されてもよい。たとえば、入力クエリ１１４が、言語モデル１０８又は検索エンジン１１０のいずれかに提示されてもよい。検索エンジン１１０は、言語モデル１０８を活用して、検索分野１１２に対して改善された結果を提供し、新規の知見であり得る結果１１６を生成してもよい。したがって、本開示のシステム及び方法を使用して、文書、ウェブ・ページなどのコーパス上で検索を実行することができる。事前訓練済みの言語モデル１０８を活用することにより、言語モデル１０８が、上記のように検索分野１１２に関連し得るデータベース１０２からの事前訓練に起因して検索分野１１２についてより深い知識を有するので、一連の新規の知見（たとえば、従来の検索では識別されない知見）を得ることができる。

【0015】

図２に示すように、環境２００は、１つ又は複数の言語モデルとともに利用されてもよい。環境２００がより多くの又はより少ない構成要素を含んでもよいこと、及び環境２００の様々な構成要素が、単一のシステムに組み込まれてもよいが便宜上且つ明確にするために別個のモジュールとして示される場合があることを認識すべきである。この実例では、クライアント・デバイス２０２は、１つ又は複数のネットワーク２０８を介して、言語システム２０４又は検索システム２０６に対して１つ又は複数の要求を行うことができる。ネットワーク２０８は、ユーザ・デバイス、サーバ構成要素、スイッチなどの１つ若しくは複数の中間システムを含む有線ネットワーク又は無線ネットワークであってもよい。言語システム２０４又は検索システム２０６のうちの１つ又は複数が、異なるプロバイダに関連付けられてもよいこと、及び言語システム２０４が検索システム２０６の機能性を強化又は他の方法で改善するためのサービスとして提供されてもよいことを認識すべきである。さらに、少なくとも一実施例では、検索システム２０６は、１つ又は複数のレコードへのアクセスを提供するサブスクリプション・サービスであってもよく、言語システム２０４は、検索を改善するために使用されてもよい。さらに、少なくとも一実施例では、言語システム２０４は、検索システム２０６としての共通のエンティティによってホスト及び／又は管理されてもよい。

【0016】

この実例では、クライアント・デバイス２０２は、ネットワーク２０８を介して、言語モデルを訓練又は更新するよう求める要求、言語モデルを開発するよう求める要求、検索要求などの要求を行うことができる。たとえば、入力マネージャ２１０は、言語システム２０４内の１つ若しくは複数の変更又は更新に関連するクライアント・デバイス２０２からの要求を受信してもよい。入力マネージャ２１０は、要求を処理し、クライアント・デバイス２０２がそのような要求を行う権限を与えられているかどうかを判定し、次いで、権限が与えられておりシステムの能力の範囲内である場合、要求の遂行を進めてもよい。少なくとも一実施例では、要求は、言語モデル２１２を訓練するための新しい分野を開発することである。

【0017】

入力マネージャ２１０は、１つ又は複数のデータセット２１６からの情報を、言語モデル２１２を訓練するために利用され得るテキストベースの情報に変換するよう求めるコマンドを、データ処理ユニット２１４に送出してもよい。たとえば、データセット２１６は、データの異なる部分間のコンテキスト及び関係性情報を提供する階層情報を含む様々なデータベース又は他のタイプの構造化データを含み得るが、データがテキストベースのフォーマットに変換されるときに失われる可能性がある。本開示の実施例は、これらの関係性を保存し、それにより言語モデル２１２の訓練のための追加情報を提供することができる。単に例として、関係性は、「化学物質Ａは薬剤Ｂのサブクラスである」などのテキスト文に変換されてもよい。このような関係性は、従来、テーブル又はサブメニュー内に格納されている情報などの情報をテキストベースのフォーマットに変換するときに失われる可能性がある。しかし、様々な実施例は、そのような関係情報を保存及び維持するためのデータ処理ユニット２１４を提供し、それにより人間の注釈を使用せずに改善された訓練データを提供する。

【0018】

様々な実施例では、データ処理ユニット２１４は、１つ又は複数の特定の分野に関連付けられたデータセット２１６を取得してもよい。たとえば、医療用途の場合、分野は、医薬化合物の相互作用又は作用機序を対象としてもよい。訓練データベース２１８に格納された訓練データを用いて様々な異なる分野が処理され得ることを認識すべきである。次いで、この情報は、言語モデル２１２を訓練するための事前訓練情報又は微調整情報として提供されてもよい。結果として、情報に注釈を付けて提供するための人間のレビュー担当者を設けることなく、言語モデル２１２を豊富な階層データ及び関係データを含む情報上で訓練することができ、それによって時間及びコストが節約される。さらに、より多様な分野を迅速に評価し、言語モデル２１２を訓練するために使用することができ、それにより、検索などの関連するアプリケーションを、より機敏で、迅速な展開に適したものにする。

【0019】

少なくとも一実施例では、言語モデル２１２は、検索システム２０６に組み込まれるか、又は検索システム２０６を強化するために使用されてもよい。これは例示的な実装形態として提供されており、本開示の実施例がそのような用途に限定されないことを認識すべきである。この実例では、検索システム２０６は、検索クエリなどの入力クエリを受信して処理し得るクエリ・マネージャ２２０を含む。様々な実施例では、入力クエリは、クライアント２０２から、言語システム２０４から、又はそれらの組合せから受信される。検索エンジン２２２は、検索分野２２４に対して検索を実行してもよい。たとえば、検索エンジン２２２は、ジャーナル又は記事のコレクション内の検索システムなどの、プロバイダに関連付けられた製品又はサービスであってもよい。さらに、様々な実施例では、検索エンジン２２２は、電子商取引プラットフォームを通じて利用可能な異なるウェブサイト又は製品を集約及び評価するものなど、より広範な検索エンジンであってもよい。この実例では、入力クエリに関連付けられた検索分野２２４は、言語モデル２１２が訓練された分野に実質的に類似しているか又は関連している場合がある。したがって、訓練データ２１８を介して維持される関係性を通じて、改善された検索結果が達成され得る。このようにして、新規の知見を検索するユーザは、言語モデル２１２で維持及び学習された関係性に関する知識を有していない可能性がある検索エンジン２２２を単独で使用するよりも良好な結果を受け取ることができる。さらに、ユーザは、自然言語検索を使用することによって、よりターゲットが絞られた検索を作り出すことが可能である場合がある。

【0020】

図３Ａは、１つ又は複数のデータベースに格納され得るソース・データのセット３００を示す。この実例では、セット３００は、様々な医薬品間の関係性を示す階層構造になっている。ここでの構造は、ユーザが様々なタイプの医薬品を並べ替えられるようにする折り畳み可能なメニュー３０２によって表される。通常、このような構成をテキストベースに変換すると、リンク（たとえば、ドロップ・ダウン部分）が失われるか又は変換時にテキストとして反映されないため、この有益な階層情報及びセット３００のグループ化は失われることになる。しかし、本開示の実施例は、そのような関係性を維持して、１つ又は複数の言語モデルを事前訓練するために使用できる改善された訓練データを提供し、他の選択肢のなかでもとりわけ自然言語検索入力からの新規の結果を容易にすることを目的とし得る。

【0021】

図３Ｂは、他の選択肢のなかでもとりわけ、変換システム１０４及び／又はデータ処理ユニット２１４などの本開示の１つ又は複数のシステム及び方法によって処理された後のセット３００の例示的なレコード３２０を示す。この実例では、セット３００の様々な医薬品が、先祖３２２、子孫３２４、及び兄弟３２６として一緒にグループ化される。実例として、精神賦活剤と神経系薬との２つの選択肢が、ドロップ・ダウン・メニューが開いた場所まで遡ることができるので、先祖３２２は、精神賦活剤及び神経系薬と見なされる。子孫３２４は、抗鬱剤からのドロップ・ダウン・メニューの一部であった各医薬品に対応する。さらに、兄弟３２６は、同じ最下位の先祖３２２から広がる他のカテゴリ（たとえば、精神賦活剤）に対応する。

【0022】

次いで、図示された例示的なレコード３２０は、１つ又は複数の言語モデルのための訓練データとして利用されてもよい。たとえば、この情報を利用して、ＭＡＯ Ａ阻害剤が精神賦活剤のクラス内の抗鬱剤の一種であることを言語モデルに教示してもよい。さらに、子孫３２６の評価を介するなどして関連する医薬品を識別することもでき、単に実例として、この評価を使用して、１つ又は複数が有害反応を引き起こす場合に潜在的な代替物を識別することができる。

【0023】

図３Ｃは、他の選択肢のなかでもとりわけ、変換システム１０４及び／又はデータ処理ユニット２１４などの本開示の１つ又は複数のシステム及び方法によって処理された後のセット３００の例示的なレコード３４０を示す。この実例では、セット３００の様々な医薬品が、親３４２及び子３４４をより遠い子孫３２４及び先祖３２２から分離しておくように一緒にグループ化される。実例として、図３Ｂと比較した場合、直属の親である精神賦活剤（たとえば、抗鬱剤を含む最後のドロップ・メニュー）は、他の先祖である神経系薬から分離されている。さらに、子３４４は、抗鬱剤の下の異なるカテゴリに対応し、一方、他の子孫３２４は、子とは別のものとしてさらに分類される。このようにして、抗鬱剤の主要なクラスを識別することができ、特定の化合物を他の子孫３２４として分類することができる。

【0024】

上記のように、図示された例示的なレコード３４０は、次いで、１つ又は複数の言語モデルのための訓練データとして利用されてもよい。たとえば、この情報を利用して、図３Ｂに示すように様々な特定の化合物にグループ化することなく言語モデルに特定のクラスの抗鬱剤を教示してもよい。

【0025】

図３Ｄは、他の選択肢のなかでもとりわけ、変換システム１０４及び／又はデータ処理ユニット２１４などの本開示の１つ又は複数のシステム及び方法によって処理された後のセット３００の例示的なレコード３６０を示す。この実例では、セット３００の様々な医薬品が、カテゴリ全体（たとえば、抗鬱剤）と比較した場合のそれらの「レベル」によって一緒にグループ化される。たとえば、レベル１の先祖３６２は、図３Ｃの親に対応し、レベル２の先祖３６４は、図３Ｃの子に対応し、レベル１の子孫３６６は、図３Ｃの他の子孫３２４に対応し、以下同様である。このような分離は、特にドロップ・メニューに関してセット３００の階層構造を維持し、評価されるクラス全体に対していくつのレベルが展開されるかよってレベルが示される。たとえば、この実例では、先祖は、主要カテゴリへと上向きに移動し（たとえば、抗鬱剤は精神賦活剤のカテゴリであり、精神賦活剤は神経系薬のカテゴリである）、子孫は、評価されるクラスから下向きに移動する。上記のように、図示された例示的なレコード３６０は、１つ又は複数の言語モデルのための訓練データとして利用されてもよい。

【0026】

図３Ｅは、他の選択肢のなかでもとりわけ、変換システム１０４及び／又はデータ処理ユニット２１４などの本開示の１つ又は複数のシステム及び方法によって処理された後のセット３００の例示的なレコード３８０を示す。この実例では、セット３００の階層的関係性及び／又は構造的関係性に少なくとも部分的に基づいて、マイクロレコード３８２のセットが生成される。たとえば、セット３８２の異なるマイクロレコードは、セット３００の評価から得られた情報を含む句又は文を含んでもよい。この実例では、セット３００に基づけば、セルトラリンは選択的セロトニン再取り込み阻害剤カテゴリ内の子孫であるか又はそのカテゴリにグループ化されているので、セルトラリンは、選択的セロトニン再取り込み阻害薬の一種であると記載されている。さらに、セット３００を評価すると、セルトラリンが抗鬱剤の一種であることも確認することができる。本開示の様々な実施例は、これらのマイクロレコードを１つ又は複数の言語モデルを事前訓練するための訓練データとして生成することを含み得る。これらのマイクロレコード３８２は、セット３００内で表される階層情報を維持しながら、セット３００の平易な言語表現を提供する。このようにして、関係性の中ですでにコード化及び確立されているデータを、関係情報を失うことなく訓練目的で使用することができる。

【0027】

図４Ａは、変換された構造データセット上で言語モデルを事前訓練するための実例プロセス４００を示す。本明細書で提示する上記のプロセス及び他のプロセスについて、同様の順番で、若しくは代替的な順番で、又は少なくとも一部が並行して実行される追加の、より少ない、又は代替的なステップが、別段の記載のない限り様々な実施例の範囲内で存在してもよいことが理解されるべきである。この実例では、データセットが取得される４０２。データセットは、複数のデータ・エントリを含んでもよく、関係データベース、テーブルなどからの情報などの構造化データ又は階層データも含んでもよい。１つ又は複数のテキスト文書内の様々な形式の構造もまた、構造化データ又は階層データに対応し得ることを認識すべきである。例として、限定されないが、見出し及び小見出し、文書内の内部リンクなどは、情報が文書内でどのように関連しているかに関する有用な情報を提供し得る構造化データの形式であってもよい。

【0028】

少なくとも一実施例では、データセットはプレーン・テキストに変換されてもよい４０４。様々な実施例では、プレーン・テキストは、プレーン・テキスト・コーパスとしてよりも好ましい場合がある。たとえば、図３Ａ～図３Ｅに示すように、データセット内の情報が抽出されてもよく、次いで、データセット内の関係性が、プレーン・テキストとしてラベル付けされるか又は他の方法で提示されてもよい。このような変換は、テーブル又はデータベースから情報を削除し、次いで、データセットの様々な情報間の関係性をリンクするか又は他の方法でテキストによって記述することを含んでもよい。すなわち、変換されたプレーン・テキスト・コーパスは、データ・セットを形成するデータ・エントリのうちの２つ以上のデータ・エントリ間の少なくとも１つの関係性の自然言語表現を含んでもよい。このようにして、データセットは、機械学習システムの訓練に有用な形式に変換されてもよい。

【0029】

プレーン・テキスト（たとえば、プレーン・テキスト・コーパス）の形式の変換されたデータセットを使用して、言語モデルの１つ又は複数のパラメータを更新してもよい４０６。たとえば、言語モデルは、訓練モードで実行され、プレーン・テキスト・コーパスを入力として受信してもよい。この情報は、言語モデルの様々な重み付けパラメータを調整するために且つ／又は特定の分野の言語モデルを微調整するために使用されてもよい。単一の言語モデルのために多種多様な分野を事前訓練することができるが、そのような動作は、より大きく、入力を実行するのにより時間を要する言語モデルをもたらす可能性があり、その結果、様々な実施例では、言語モデルが、ターゲットを絞ったタスクの特定の分野について事前訓練される場合があることを認識すべきである。

【0030】

図４Ｂは、検索エンジンとして機能するように又は検索エンジンを補足するように言語モデルを訓練するための方法４２０の実施例のフローチャートである。この実例では、データベースからデータセットの少なくとも一部分が抽出される４２２。データセットは、１つ又は複数の分野に関連付けられた情報を含んでもよく、分野は、検索のターゲット分野であってもよい。さらに、前述のように、データセットは、少なくとも部分的に、複数のデータ・エントリによって形成されてもよく、複数のデータ・エントリのうちの２つ以上のデータ・エントリ間に少なくとも１つの関係性が存在する。

【0031】

様々な実施例は、データセットの一部分から、データセットの一部分内の関係性を維持するプレーン・テキスト（たとえば、プレーン・テキスト・コーパス）を生成することを含む４２４。たとえば、プレーン・テキストは、データセット内の情報間の様々な関係性を書き出してもよい。プレーン・テキストはまた、関係性を表すラベル又は他の指標を含んでもよい。実施例では、プレーン・テキストを使用して、データセットの２つ以上のデータ・エントリ間の少なくとも１つの関係性の自然言語表現を提供してもよい。したがって、データセットが訓練目的で使用されるときにデータベース内の関係性を形成するために費やされた作業及び労力は維持され、それによって、より豊富な情報を提供する。

【0032】

たとえば訓練ステップ又は事前訓練ステップにおいて、生成されたプレーン・テキストを使用して、言語モデルの１つ又は複数のパラメータを更新してもよい４２６。言語モデルは、通常、大規模なデータセット上で訓練された既存の言語モデルである可能性がある。しかし、特定の分野に対してより正確な結果を提供するために、生成されたプレーン・テキストを使用して、言語モデルをその分野に合わせて事前訓練又は微調整してもよい。次いで、この訓練済みの言語モデルは、検索クエリを受信するために又は既存の検索エンジンの補足として、提供されてもよい４２８。したがって、ユーザは分野に関連付けられた自然言語検索クエリを入力することができ、構造的関係性が維持された情報を使用する事前訓練プロセスによって提供される改善を通じて、検索分野から新規の知見を抽出することができる。

【0033】

図５は、訓練済みの言語モデルを使用して入力クエリへの応答を生成するための方法５００の一実施例のフローチャートである。この実例では、構造化データベースからのデータは、プレーン・テキスト・データに変換される５０２。プレーン・テキストへの変換は、関係性、タグなどに関するマイクロレコードを提供することなどによって、構造化データベースに関連付けられた関係性情報が維持されるようにフォーマットされてもよい。少なくとも一実施例では、たとえば、事前訓練又は微調整中に、プレーン・テキスト・データを使用して言語モデルの１つ又は複数のパラメータが更新される５０４。たとえば、他の特徴のなかでもとりわけ、言語モデルの様々な重み係数がプレーン・テキスト・データの分野に対応するように調整される１つ又は複数の訓練動作を開始してもよい。様々な実施例では、言語モデルが、次いで１つ又は複数の特定の分野について訓練される一般的な言語モデルであり得ることを認識すべきである。

【0034】

少なくとも一実施例では、次いで、訓練済みの言語モデルは、検索動作に利用されてもよい。たとえば、言語モデルにおいて、プレーン・テキスト・データの分野に関連付けられたクエリが受信されてもよい５０６。次いで、言語モデルは、他の選択肢のなかでもとりわけ、サード・パーティの検索エンジンに対応する検索分野に対してクエリを適用することなどによってクエリを処理して、クエリへの応答を提供してもよい５０８。少なくとも一実施例では、クエリは、プレーン・テキスト・データの分野に関連付けられていると評価及び判定されてもよい。さらに、特定の実施例では、クエリ又は応答のうちの少なくとも一方は、構造化データベースのデータを形成する２つ以上のデータ・エントリのうちの第１のデータ・エントリに関連付けられてもよい。応答は、少なくとも、第１のデータ・エントリ、及び第１のデータ・エントリと２つ以上のデータ・エントリのうちの別のデータ・エントリとの間の少なくとも１つの関係性の少なくとも１つのプレーン・テキスト表現に基づいて生成されてもよい。このようにして、言語モデルを使用して様々な検索分野の検索を改善又は強化し、訓練済みの言語モデルの利点を検索に提供することができる。

【0035】

図６は、構造化データからプレーン・テキスト・データセットを生成するための方法６００の実施例のフローチャートである。この実例では、データベースから構造化データが受信される６０２。構造化データは、構造化データ内の情報の２つ以上の部分間の１つ又は複数の関係性が表されるように、フォーマットされているか又は別の方法で構成されたデータを含んでもよい。たとえば、情報の２つ以上の部分は、他の選択肢のなかでもとりわけ医薬化合物のファミリーなどの共通のファミリー内に分類されてもよい。２つ以上の部分間の関係性が識別されてもよい６０４。たとえば、情報の一部分を評価することによって階層的関係性又は関係的関係性が識別されてもよい。

【0036】

少なくとも一実施例では、関係性のプレーン・テキスト記述が生成される６０６。たとえば、プレーン・テキスト記述は、関係性、ラベル、タグなどを記述する文であってもよい。少なくともプレーン・テキスト記述を使用して、プレーン・テキスト・データセットが生成されてもよい６０８。プレーン・テキスト・データセットは、データセットに関連付けられた追加情報とともに、プレーン・テキスト記述、及び情報の２つ以上の部分を含んでもよい。プレーン・テキスト・データセットは、たとえば１つ又は複数の機械学習システムを訓練する際に使用するために格納されてもよい６１０。

【0037】

データ・センタ
図７は、少なくとも一実施例が使用されてもよい例示的なデータ・センタ７００を示す。少なくとも一実施例では、データ・センタ７００は、データ・センタ・インフラストラクチャ層７１０、フレームワーク層７２０、ソフトウェア層７３０、及びアプリケーション層７４０を含む。

【0038】

図７に示すように、少なくとも一実施例では、データ・センタ・インフラストラクチャ層７１０は、リソース・オーケストレータ７１２と、グループ化済みコンピューティング・リソース７１４と、ノード・コンピューティング・リソース（「ノードＣ．Ｒ．」）７１６（１）～７１６（Ｎ）とを含んでもよく、ここで「Ｎ」は任意の正の整数を表す。少なくとも一実施例では、ノードＣ．Ｒ．７１６（１）～７１６（Ｎ）は、任意の数の中央処理装置（「ＣＰＵ」）又は（アクセラレータ、フィールド・プログラマブル・ゲート・アレイ（ＦＰＧＡ）、グラフィックス・プロセッサなどを含む）他のプロセッサ、メモリ・デバイス（たとえば、ダイナミック読取り専用メモリ）、ストレージ・デバイス（たとえば、半導体ドライブ又はディスク・ドライブ）、ネットワーク入力／出力（「ＮＷ Ｉ／Ｏ」：ｎｅｔｗｏｒｋ ｉｎｐｕｔ／ｏｕｔｐｕｔ）デバイス、ネットワーク・スイッチ、仮想機械（「ＶＭ」：ｖｉｒｔｕａｌ ｍａｃｈｉｎｅ）、電源モジュール、及び冷却モジュールを含んでもよいが、これらに限定されない。少なくとも一実施例では、ノードＣ．Ｒ．７１６（１）～７１６（Ｎ）のうち１つ又は複数のノードＣ．Ｒ．は、上述したコンピューティング・リソースのうちの１つ又は複数を有するサーバであってもよい。

【0039】

少なくとも一実施例では、グループ化済みコンピューティング・リソース７１４は、１つ若しくは複数のラック（図示せず）内に収容されたノードＣ．Ｒ．の別々のグループ、又は様々なグラフィカル・ロケーション（同じく図示せず）においてデータ・センタに収容された多数のラックを含んでもよい。グループ化済みコンピューティング・リソース７１４内のノードＣ．Ｒ．の別々のグループは、１つ若しくは複数のワークロードをサポートするように構成又は配分されてもよいグループ化済みのコンピュート・リソース、ネットワーク・リソース、メモリ・リソース、又はストレージ・リソースを含んでもよい。少なくとも一実施例では、ＣＰＵ又はプロセッサを含むいくつかのノードＣ．Ｒ．は、１つ又は複数のラック内でグループ化されて、１つ又は複数のワークロードをサポートするためのコンピュート・リソースが提供されてもよい。少なくとも一実施例では、１つ又は複数のラックはまた、任意の数の電源モジュール、冷却モジュール、及びネットワーク・スイッチを任意の組合せで含んでもよい。

【0040】

少なくとも一実施例では、リソース・オーケストレータ７１２は、１つ又は複数のノードＣ．Ｒ．７１６（１）～７１６（Ｎ）及び／若しくはグループ化済みコンピューティング・リソース７１４を構成してもよく、又は他のやり方で制御してもよい。少なくとも一実施例では、リソース・オーケストレータ７１２は、データ・センタ７００用のソフトウェア設計インフラストラクチャ（「ＳＤＩ」：ｓｏｆｔｗａｒｅ ｄｅｓｉｇｎ ｉｎｆｒａｓｔｒｕｃｔｕｒｅ）管理エンティティを含んでもよい。少なくとも一実施例では、リソース・オーケストレータは、ハードウェア、ソフトウェア、又はこれらの何らかの組合せを含んでもよい。

【0041】

図７に示す少なくとも一実施例では、フレームワーク層７２０は、ジョブ・スケジューラ７２２、構成マネージャ７２４、リソース・マネージャ７２６、及び分配ファイル・システム７２８を含む。少なくとも一実施例では、フレームワーク層７２０は、ソフトウェア層７３０のソフトウェア７３２、及び／又はアプリケーション層７４０の１つ若しくは複数のアプリケーション７４２をサポートするためのフレームワークを含んでもよい。少なくとも一実施例では、ソフトウェア７３２又はアプリケーション７４２はそれぞれ、アマゾン・ウェブ・サービス、グーグル・クラウド、及びマイクロソフト・アジュールによって提供されるものなど、ウェブ・ベースのサービス・ソフトウェア又はアプリケーションを含んでもよい。少なくとも一実施例では、フレームワーク層７２０は、大規模なデータ処理（たとえば「ビック・データ」）のために分配ファイル・システム７２８を使用することができるＡｐａｃｈｅ Ｓｐａｒｋ（登録商標）（以下「Ｓｐａｒｋ」）など、無料でオープン・ソースのソフトウェア・ウェブ・アプリケーション・フレームワークの一種であってもよいが、これに限定されない。少なくとも一実施例では、ジョブ・スケジューラ７２２は、データ・センタ７００の様々な層によってサポートされるワークロードのスケジューリングを容易にするために、Ｓｐａｒｋドライバを含んでもよい。少なくとも一実施例では、構成マネージャ７２４は、ソフトウェア層７３０、並びに大規模なデータ処理をサポートするためのＳｐａｒｋ及び分配ファイル・システム７２８を含むフレームワーク層７２０などの異なる層を構成することが可能であってもよい。少なくとも一実施例では、リソース・マネージャ７２６は、分配ファイル・システム７２８及びジョブ・スケジューラ７２２をサポートするようにマッピング若しくは配分されたクラスタ化済み又はグループ化済みのコンピューティング・リソースを管理することが可能であってもよい。少なくとも一実施例では、クラスタ化済み又はグループ化済みのコンピューティング・リソースは、データ・センタ・インフラストラクチャ層７１０にあるグループ化済みコンピューティング・リソース７１４を含んでもよい。少なくとも一実施例では、リソース・マネージャ７２６は、リソース・オーケストレータ７１２と連携して、これらのマッピング又は配分されたコンピューティング・リソースを管理してもよい。

【0042】

少なくとも一実施例では、ソフトウェア層７３０に含まれるソフトウェア７３２は、ノードＣ．Ｒ．７１６（１）～７１６（Ｎ）、グループ化済みコンピューティング・リソース７１４、及び／又はフレームワーク層７２０の分配ファイル・システム７２８のうちの少なくとも一部分によって使用されるソフトウェアを含んでもよい。１つ又は複数のタイプのソフトウェアは、インターネット・ウェブ・ページ検索ソフトウェア、電子メール・ウイルス・スキャン・ソフトウェア、データベース・ソフトウェア、及びストリーミング・ビデオ・コンテンツ・ソフトウェアを含んでもよいが、これらに限定されない。

【0043】

少なくとも一実施例では、アプリケーション層７４０に含まれるアプリケーション７４２は、ノードＣ．Ｒ．７１６（１）～７１６（Ｎ）、グループ化済みコンピューティング・リソース７１４、及び／又はフレームワーク層７２０の分配ファイル・システム７２８のうちの少なくとも一部分によって使用される１つ若しくは複数のタイプのアプリケーションを含んでもよい。１つ若しくは複数のタイプのアプリケーションは、任意の数のゲノム学アプリケーション、認識コンピュート、並びに訓練若しくは推論のソフトウェア、機械学習フレームワーク・ソフトウェア（たとえば、ＰｙＴｏｒｃｈ、ＴｅｎｓｏｒＦｌｏｗ、Ｃａｆｆｅなど）を含む機械学習アプリケーション、又は１つ若しくは複数の実施例と併せて使用される他の機械学習アプリケーションを含んでもよいが、これらに限定されない。

【0044】

少なくとも一実施例では、構成マネージャ７２４、リソース・マネージャ７２６、及びリソース・オーケストレータ７１２のうちのいずれかは、任意の技術的に実行可能なやり方で取得された任意の量及びタイプのデータに基づき、任意の数及びタイプの自己修正措置を実装してもよい。少なくとも一実施例では、自己修正措置は、データ・センタ７００のデータ・センタ演算子が、不良の恐れのある構成を決定しないようにし、十分に利用されていない且つ／又は性能の低いデータ・センタの部分をなくせるようにしてもよい。

【0045】

少なくとも一実施例では、データ・センタ７００は、１つ若しくは複数の機械学習モデルを訓練し、又は本明細書に記載の１つ若しくは複数の実施例による１つ若しくは複数の機械学習モデルを使用して情報を予測若しくは推論するためのツール、サービス、ソフトウェア、又は他のリソースを含んでもよい。たとえば、少なくとも一実施例では、機械学習モデルは、データ・センタ７００に関して上述したソフトウェア及びコンピューティング・リソースを使用して、ニューラル・ネットワーク・アーキテクチャに従って重みパラメータを計算することによって、訓練されてもよい。少なくとも一実施例では、１つ又は複数のニューラル・ネットワークに対応する訓練済み機械学習モデルは、本明細書に記載の１つ又は複数の技法によって計算された重みパラメータを使用することにより、データ・センタ７００に関して上述したリソースを使用して、情報を推論又は予測するために使用されてもよい。

【0046】

少なくとも一実施例では、データ・センタは、上述したリソースを使用して訓練及び／又は推論を実行するために、ＣＰＵ、特定用途向け集積回路（ＡＳＩＣ）、ＧＰＵ、ＦＰＧＡ、又は他のハードウェアを使用してもよい。さらに、上述した１つ又は複数のソフトウェア及び／又はハードウェアのリソースは、画像認識、音声認識、又は他の人工知能サービスなどの情報の訓練又は推論の実行を、ユーザが行えるようにするためのサービスとして構成されてもよい。

【0047】

こうした構成要素を使用して、対話環境においてコマンドを実行することができる。

【0048】

コンピュータ・システム
図８は、例示的なコンピュータ・システムを示すブロック図であり、このコンピュータ・システムは、少なくとも一実施例による、命令を実行するための実行ユニットを含んでもよいプロセッサとともに形成された、相互接続されたデバイス及び構成要素、システム・オン・チップ（ＳｏＣ）、又はこれら８００の何らかの組合せを有するシステムであってもよい。少なくとも一実施例では、コンピュータ・システム８００は、本明細書に記載の実施例などにおいて本開示に従ってデータを処理するためのアルゴリズムを実行する論理を含む実行ユニットを使用するための、プロセッサ８０２などの構成要素を、限定することなく含んでもよい。少なくとも一実施例では、コンピュータ・システム８００は、カリフォルニア州サンタクララのインテルコーポレーションから入手可能なＰＥＮＴＩＵＭ（登録商標）プロセッサ・ファミリー、ＸｅｏｎＴＭ、Ｉｔａｎｉｕｍ（登録商標）、ＸＳｃａｌｅＴＭ及び／又はＳｔｒｏｎｇＡＲＭＴＭ、Ｉｎｔｅｌ（登録商標）Ｃｏｒｅ（商標）、又はＩｎｔｅｌ（登録商標）Ｎｅｒｖａｎａ（商標）マイクロプロセッサなどのプロセッサを含んでもよいが、（他のマイクロプロセッサ、エンジニアリング・ワークステーション、セット・トップ・ボックスなどを有するＰＣを含め）他のシステムが使用されてもよい。少なくとも一実施例では、コンピュータ・システム８００は、ワシントン州、レドモンドのマイクロソフトコーポレーションから入手可能なＷＩＮＤＯＷＳ（登録商標）のオペレーティング・システムのあるバージョンを実行してもよいが、他のオペレーティング・システム（たとえば、ＵＮＩＸ（登録商標）及びＬｉｎｕｘ（登録商標））、組み込みソフトウェア、及び／又はグラフィカル・ユーザ・インターフェースが使用されてもよい。

【0049】

実施例は、携帯型デバイス及び組み込みアプリケーションなど、他のデバイスで使用されてもよい。携帯型デバイスのいくつかの例は、セルラー・フォン、インターネット・プロトコル・デバイス、デジタル・カメラ、パーソナル・デジタル・アシスタント（「ＰＤＡ」：ｐｅｒｓｏｎａｌ ｄｉｇｉｔａｌ ａｓｓｉｓｔａｎｔｓ）、及び携帯型ＰＣを含む。少なくとも一実施例では、組み込みアプリケーションは、マイクロコントローラ、デジタル信号プロセッサ（「ＤＳＰ」：ｄｉｇｉｔａｌ ｓｉｇｎａｌ ｐｒｏｃｅｓｓｏｒ）、システム・オン・チップ、ネットワーク・コンピュータ（「ＮｅｔＰＣ」：ｎｅｔｗｏｒｋ ｃｏｍｐｕｔｅｒｓ）、エッジ・コンピューティング・デバイス、セット・トップ・ボックス、ネットワーク・ハブ、広域ネットワーク（「ＷＡＮ」：ｗｉｄｅ ａｒｅａ ｎｅｔｗｏｒｋ）スイッチ、又は少なくとも一実施例による１つ又は複数の命令を実行することができる任意の他のシステムを含んでもよい。

【0050】

本明細書に記載のシステム及び方法の実施例は、様々な目的のために、実例として、限定されないが、機械制御、機械移動、機械駆動、合成データ生成、デジタル・ツイニング、モデル訓練、知覚、拡張現実、仮想現実、複合現実、ロボット工学、セキュリティ及び監視、自律型又は半自律型マシン・アプリケーション、深層学習、環境シミュレーション、データ・センタ処理、会話型ＡＩ、光輸送シミュレーション（たとえば、光線追跡、経路追跡など）、３Ｄアセット用の共同コンテンツ作成、クラウド・コンピューティング、並びに／又は任意の他の好適なアプリケーションのために使用されてもよい。

【0051】

開示された実施例は、自動車システム（たとえば、自律型若しくは半自律型マシン用のヒューマン・マシン・インターフェース）、ロボットを使用して実装されたシステム、空中システム、内側システム（ｍｅｄｉａｌ ｓｙｓｔｅｍ）、ボーティング・システム、スマート・エリア監視システム、深層学習動作を実行するためのシステム、シミュレーション及びデジタル・ツイン動作を実行するためのシステム、エッジデバイスを使用して実装されたシステム、１つ若しくは複数の仮想マシン（ＶＭ）を組み込んだシステム、合成データ生成動作を実行するためのシステム、少なくとも部分的にデータ・センタ内に実装されたシステム、会話型ＡＩ動作を実行するためのシステム、光輸送シミュレーションを実行するためのシステム、３Ｄアセット用の共同コンテンツ作成を実行するためのシステム、少なくとも部分的にクラウド・コンピューティング・リソースを使用して実装されたシステム、並びに／又は他のタイプのシステムなど、多種多様なシステムに組み込まれるか又は統合されてもよい。

【0052】

少なくとも一実施例では、コンピュータ・システム８００は、限定することなくプロセッサ８０２を含んでもよく、このプロセッサ８０２は限定することなく、本明細書に記載の技法による機械学習モデルの訓練及び／又は推論を実行するための１つ又は複数の実行ユニット８０８を含んでもよい。少なくとも一実施例では、コンピュータ・システム８００は、シングル・プロセッサのデスクトップ又はサーバ・システムであるが、別の実施例では、コンピュータ・システム８００はマルチプロセッサ・システムであってもよい。少なくとも一実施例では、プロセッサ８０２は、限定することなく、複合命令セット・コンピュータ（「ＣＩＳＣ」：ｃｏｍｐｌｅｘ ｉｎｓｔｒｕｃｔｉｏｎ ｓｅｔ ｃｏｍｐｕｔｅｒ）マイクロプロセッサ、縮小命令セット・コンピューティング（「ＲＩＳＣ」）マイクロプロセッサ、超長命令語（「ＶＬＩＷ」）マイクロプロセッサ、命令セットの組合せを実装するプロセッサ、又は任意の他のプロセッサ・デバイス、たとえばデジタル信号プロセッサなどを含んでもよい。少なくとも一実施例では、プロセッサ８０２は、プロセッサ・バス８１０に結合されてもよく、このプロセッサ・バスは、プロセッサ８０２とコンピュータ・システム８００内の他の構成要素との間でデータ信号を送信してもよい。

【0053】

少なくとも一実施例では、プロセッサ８０２は、限定することなく、レベル１（「Ｌ１」）の内部キャッシュ・メモリ（「キャッシュ」）８０４を含んでもよい。少なくとも一実施例では、プロセッサ８０２は、単一の内部キャッシュ又は複数レベルの内部キャッシュを有してもよい。少なくとも一実施例では、キャッシュ・メモリは、プロセッサ８０２の外部にあってもよい。他の実施例は、特定の実装形態及び必要性に応じて、内部キャッシュと外部キャッシュの両方の組合せも含んでよい。少なくとも一実施例では、レジスタ・ファイル８０６は、整数レジスタ、浮動小数点レジスタ、状態レジスタ、及び命令ポインタ・レジスタを限定することなく含む様々レジスタに、異なるタイプのデータを記憶してもよい。

【0054】

少なくとも一実施例では、整数及び浮動小数点の演算を実行するための論理を限定することなく含む実行ユニット８０８も、プロセッサ８０２にある。少なくとも一実施例では、プロセッサ８０２は、ある一定のマクロ命令のためのマイクロコードを記憶するマイクロコード（「ｕコード」）読取り専用メモリ（「ＲＯＭ」：ｒｅａｄ ｏｎｌｙ ｍｅｍｏｒｙ）も含んでよい。少なくとも一実施例では、実行ユニット８０８は、パック命令セット８０９に対処する論理を含んでもよい。少なくとも一実施例では、パック命令セット８０９を、命令を実行する関連回路とともに汎用プロセッサの命令セットに含めることにより、多くのマルチメディア・アプリケーションによって使用される演算を、汎用プロセッサ８０２のパック・データを使用して実行することができる。１つ又は複数の実施例では、プロセッサのデータ・バスの全幅を使用してパック・データの演算を実行することによって、多くのマルチメディア・アプリケーションを加速し、より効率的に実行することができ、これにより、１度に１つのデータ要素に対して１つ又は複数の演算を実行するためにプロセッサのデータ・バス間でより小さい単位のデータを転送する必要をなくすことができる。

【0055】

少なくとも一実施例では、実行ユニット８０８はまた、マイクロコントローラ、組み込みプロセッサ、グラフィックス・デバイス、ＤＳＰ、及び他のタイプの論理回路において使用されてもよい。少なくとも一実施例では、コンピュータ・システム８００は、限定することなくメモリ８２０を含んでもよい。少なくとも一実施例では、メモリ８２０は、ダイナミック・ランダム・アクセス・メモリ（「ＤＲＡＭ」）デバイス、スタティック・ランダム・アクセス・メモリ（「ＳＲＡＭ」）デバイス、フラッシュ・メモリ・デバイス、又は他のメモリ・デバイスとして実装されてもよい。少なくとも一実施例では、メモリ８２０は、プロセッサ８０２によって実行されてもよいデータ信号によって表される命令８１９、及び／又はデータ８２１を記憶してもよい。

【0056】

少なくとも一実施例では、システム論理チップが、プロセッサ・バス８１０及びメモリ８２０に結合されてもよい。少なくとも一実施例では、システム論理チップは、限定することなく、メモリ・コントローラ・ハブ（「ＭＣＨ」：ｍｅｍｏｒｙ ｃｏｎｔｒｏｌｌｅｒ ｈｕｂ）８１６を含んでもよく、プロセッサ８０２は、プロセッサ・バス８１０を介してＭＣＨ８１６と通信してもよい。少なくとも一実施例では、ＭＣＨ８１６は、命令及びデータを記憶するため、及びグラフィックス・コマンド、データ、及びテクスチャを記憶するために、高帯域幅メモリ経路８１８をメモリ８２０に提供してもよい。少なくとも一実施例では、ＭＣＨ８１６は、プロセッサ８０２と、メモリ８２０と、コンピュータ・システム８００の他の構成要素との間でデータ信号を導き、プロセッサ・バス８１０と、メモリ８２０と、システムＩ／Ｏインターフェース８２２との間でデータ信号をブリッジしてもよい。少なくとも一実施例では、システム論理チップは、グラフィックス・コントローラに結合するためのグラフィックス・ポートを提供してもよい。少なくとも一実施例では、ＭＣＨ８１６は、高帯域幅メモリ経路８１８を介してメモリ８２０に結合されてもよく、グラフィックス／ビデオカード８１２は、アクセラレーテッド・グラフィックス・ポート（「ＡＧＰ」：Ａｃｃｅｌｅｒａｔｅｄ Ｇｒａｐｈｉｃｓ Ｐｏｒｔ）相互接続８１４を介してＭＣＨ８１６に結合されてもよい。

【0057】

少なくとも一実施例では、コンピュータ・システム８００は、ＭＣＨ８１６をＩ／Ｏコントローラ・ハブ（「ＩＣＨ」：Ｉ／Ｏ ｃｏｎｔｒｏｌｌｅｒ ｈｕｂ）８３０に結合するためのプロプライエタリ・ハブ・インターフェース・バスであるシステムＩ／Ｏ８２２を使用してもよい。少なくとも一実施例では、ＩＣＨ８３０は、ローカルのＩ／Ｏバスを介していくつかのＩ／Ｏデバイスに直接接続を提供してもよい。少なくとも一実施例では、ローカルＩ／Ｏバスは、周辺装置をメモリ８２０、チップセット、及びプロセッサ８０２に接続するための高速Ｉ／Ｏバスを、限定することなく含んでもよい。例としては、オーディオ・コントローラ８２９、ファームウェア・ハブ（「フラッシュＢＩＯＳ」）８２８、ワイヤレス・トランシーバ８２６、データ・ストレージ８２４、ユーザ入力及びキーボードのインターフェース８２５を含むレガシーＩ／Ｏコントローラ８２３、ユニバーサル・シリアル・バス（「ＵＳＢ」：Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ）などのシリアル拡張ポート８２７、及びネットワーク・コントローラ８３４が、限定することなく含まれてもよい。データ・ストレージ８２４は、ハード・ディスク・ドライブ、フロッピー（登録商標）・ディスク・ドライブ、ＣＤ－ＲＯＭデバイス、フラッシュ・メモリ・デバイス、又は他の大容量ストレージ・デバイスを備えてもよい。

【0058】

少なくとも一実施例では、図８は、相互接続されたハードウェア・デバイス又は「チップ」を含むシステムを示すが、一方他の実施例では、図８は例示的なシステム・オン・チップ（「ＳｏＣ」）を示してもよい。少なくとも一実施例では、デバイスは、プロプライエタリ相互接続、標準相互接続（たとえば、ＰＣＩｅ）、又はこれらの何らかの組合せで相互接続されてもよい。少なくとも一実施例では、コンピュータ・システム８００の１つ又は複数の構成要素は、コンピュート・エクスプレス・リンク（ＣＸＬ：ｃｏｍｐｕｔｅ ｅｘｐｒｅｓｓ ｌｉｎｋ）相互接続を使用して相互接続されてもよい。

【0059】

こうした構成要素を使用して、対話環境においてコマンドを実行することができる。

【0060】

図９は、少なくとも一実施例による、プロセッサ９１０を利用するための電子デバイス９００を示すブロック図である。少なくとも一実施例では、電子デバイス９００は、たとえば限定することなく、ノートブック、タワー・サーバ、ラック・サーバ、ブレード・サーバ、ラップトップ、デスクトップ、タブレット、モバイル・デバイス、電話、組み込みコンピュータ、又は任意の他の好適な電子デバイスであってもよい。

【0061】

少なくとも一実施例では、システム９００は、任意の好適な数又は種類の構成要素、周辺装置、モジュール、若しくはデバイスに通信可能に結合されたプロセッサ９１０を、限定することなく含んでもよい。少なくとも一実施例では、プロセッサ９１０は、Ｉ°Ｃバス、システム・マネージメント・バス（「ＳＭＢｕｓ」：Ｓｙｓｔｅｍ Ｍａｎａｇｅｍｅｎｔ Ｂｕｓ）、ロー・ピン・カウント（ＬＰＣ：Ｌｏｗ Ｐｉｎ Ｃｏｕｎｔ）バス、シリアル・ペリフェラル・インターフェース（「ＳＰＩ」：Ｓｅｒｉａｌ Ｐｅｒｉｐｈｅｒａｌ Ｉｎｔｅｒｆａｃｅ）、ハイ・デフィニション・オーディオ（「ＨＤＡ」：Ｈｉｇｈ Ｄｅｆｉｎｉｔｉｏｎ Ａｕｄｉｏ）バス、シリアル・アドバンス・テクノロジー・アタッチメント（「ＳＡＴＡ」：Ｓｅｒｉａｌ Ａｄｖａｎｃｅ Ｔｅｃｈｎｏｌｏｇｙ Ａｔｔａｃｈｍｅｎｔ）バス、ユニバーサル・シリアル・バス（「ＵＳＢ」）（バージョン１、２、３）、又はユニバーサル非同期レシーバ／トランスミッタ（「ＵＡＲＴ」：Ｕｎｉｖｅｒｓａｌ Ａｓｙｎｃｈｒｏｎｏｕｓ Ｒｅｃｅｉｖｅｒ／Ｔｒａｎｓｍｉｔｔｅｒ）バスなどのバス若しくはインターフェースを使用して結合される。少なくとも一実施例では、図９は、相互接続されたハードウェア・デバイス又は「チップ」を含むシステムを示すが、一方他の実施例では、図９は例示的なシステム・オン・チップ（「ＳｏＣ」）を示してもよい。少なくとも一実施例では、図９に示すデバイスは、プロプライエタリ相互接続、標準相互接続（たとえば、ＰＣＩｅ）、又はこれらの何らかの組合せで相互接続されてもよい。少なくとも一実施例では、図９の１つ又は複数の構成要素は、コンピュート・エクスプレス・リンク（ＣＸＬ）相互接続を使用して相互接続されてもよい。

【0062】

少なくとも一実施例では、図９は、ディスプレイ９２４、タッチ画面９２５、タッチ・パッド９３０、近距離無線通信ユニット（「ＮＦＣ」：Ｎｅａｒ Ｆｉｅｌｄ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ ｕｎｉｔ）９４５、センサ・ハブ９４０、熱センサ９４６、エクスプレス・チップセット（「ＥＣ」：Ｅｘｐｒｅｓｓ Ｃｈｉｐｓｅｔ）９３５、トラステッド・プラットフォーム・モジュール（「ＴＰＭ」：Ｔｒｕｓｔｅｄ Ｐｌａｔｆｏｒｍ Ｍｏｄｕｌｅ）９３８、ＢＩＯＳ／ファームウェア／フラッシュ・メモリ（「ＢＩＯＳ、ＦＷフラッシュ」：ＢＩＯＳ／ｆｉｒｍｗａｒｅ／ｆｌａｓｈ ｍｅｍｏｒｙ）９２２、ＤＳＰ９６０、ソリッド・ステート・ディスク（「ＳＳＤ」：Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｉｓｋ）若しくはハード・ディスク・ドライブ（「ＨＤＤ」：Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）などのドライブ９２０、ワイヤレス・ローカル・エリア・ネットワーク・ユニット（「ＷＬＡＮ」：ｗｉｒｅｌｅｓｓ ｌｏｃａｌ ａｒｅａ ｎｅｔｗｏｒｋ ｕｎｉｔ）９５０、Ｂｌｕｅｔｏｏｔｈユニット９５２、ワイヤレス広域ネットワーク・ユニット（「ＷＷＡＮ」：Ｗｉｒｅｌｅｓｓ Ｗｉｄｅ Ａｒｅａ Ｎｅｔｗｏｒｋ ｕｎｉｔ）９５６、全地球測位システム（ＧＰＳ：Ｇｌｏｂａｌ Ｐｏｓｉｔｉｏｎｉｎｇ Ｓｙｓｔｅｍ）ユニット９５５、ＵＳＢ３．０カメラなどのカメラ（「ＵＳＢ３．０カメラ」）９５４、及び／又は、たとえばＬＰＤＤＲ３規格に実装された低電力ダブル・データ・レート（「ＬＰＤＤＲ」：Ｌｏｗ Ｐｏｗｅｒ Ｄｏｕｂｌｅ Ｄａｔａ Ｒａｔｅ）メモリ・ユニット（「ＬＰＤＤＲ３」）９１５を含んでもよい。これらの構成要素は、それぞれ任意の好適なやり方で実装されてもよい。

【0063】

少なくとも一実施例では、上述した構成要素を介して、他の構成要素がプロセッサ９１０に通信可能に結合されてもよい。少なくとも一実施例では、加速度計９４１、周囲光センサ（「ＡＬＳ」：Ａｍｂｉｅｎｔ Ｌｉｇｈｔ Ｓｅｎｓｏｒ）９４２、コンパス９４３、及びジャイロスコープ９４４が、センサ・ハブ９４０に通信可能に結合されてもよい。少なくとも一実施例では、熱センサ９３９、ファン９３７、キーボード９４６、及びタッチ・パッド９３０が、ＥＣ９３５に通信可能に結合されてもよい。少なくとも一実施例では、スピーカ９６３、ヘッドフォン９６４、及びマイクロフォン（「ｍｉｃ」）９６５が、オーディオ・ユニット（オーディオ・コーデック及びクラスｄアンプ）９６２に通信可能に結合されてもよく、このオーディオ・ユニットが、ＤＳＰ９６０に通信可能に結合されてもよい。少なくとも一実施例では、オーディオ・ユニット９６４は、たとえば限定することなく、オーディオ・コーダ／デコーダ（「コーデック」）及びクラスＤアンプリファイアを含んでもよい。少なくとも一実施例では、ＳＩＭカード（「ＳＩＭ」）９５７は、ＷＷＡＮユニット９５６に通信可能に結合されてもよい。少なくとも一実施例では、ＷＬＡＮユニット９５０及びＢｌｕｅｔｏｏｔｈユニット９５２などの構成要素、並びにＷＷＡＮ９５６は、次世代フォーム・ファクタ（「ＮＧＦＦ」：Ｎｅｘｔ Ｇｅｎｅｒａｔｉｏｎ Ｆｏｒｍ Ｆａｃｔｏｒ）に実装されてもよい。

【0064】

こうした構成要素を使用して、対話環境においてコマンドを実行することができる。

【0065】

図１０は、少なくとも一実施例による処理システムのブロック図である。少なくとも一実施例では、システム１０００は、１つ又は複数のプロセッサ１００２、及び１つ又は複数のグラフィックス・プロセッサ１００８を含み、単一プロセッサのデスクトップ・システム、マルチプロセッサのワークステーション・システム、又は多数の一括で若しくは別々に管理されるプロセッサ１００２若しくはプロセッサ・コア１００７を有するサーバ・システム若しくはデータ・センタであってもよい。少なくとも一実施例では、システム１０００は、モバイル・デバイス、携帯型デバイス、又は組み込みデバイスで使用するためのシステム・オン・チップ（ＳｏＣ）集積回路内に組み込まれた処理プラットフォームである。

【0066】

少なくとも一実施例では、システム１０００は、サーバ・ベースのゲーミング・プラットフォーム、クラウド・コンピューティング・ホスト・プラットフォーム、仮想化コンピューティング・プラットフォーム、ゲーム及びメディアのコンソールを含むゲーム・コンソール、携帯型ゲーム・コンソール、ハンドヘルド・ゲーム・コンソール、若しくはオンライン・ゲーム・コンソールを含んでもよく、又はそれらに組み込まれてもよい。少なくとも一実施例では、システム１０００は、モバイル・フォン、スマート・フォン、タブレット・コンピューティング・デバイス、又はモバイル・インターネット・デバイスである。少なくとも一実施例では、処理システム１０００はまた、スマート・ウォッチ・ウェアラブル・デバイス、スマート・アイウェア・デバイス、拡張現実デバイス、エッジデバイス、モノのインターネット（「ＩｏＴ：Ｉｎｔｅｒｎｅｔ ｏｆ Ｔｈｉｎｇｓ」）デバイス、若しくは仮想現実デバイスなどのウェアラブル・デバイスを含んでもよく、それらに結合されてもよく、又はそれらのなかに一体化されてもよい。少なくとも一実施例では、処理システム１０００は、１つ又は複数のプロセッサ１００２と、１つ又は複数のグラフィックス・プロセッサ１００８によって生成されるグラフィカル・インターフェースとを有するテレビ又はセット・トップ・ボックス・デバイスである。

【0067】

少なくとも一実施例では、１つ又は複数のプロセッサ１００２はそれぞれ、実行されたときにシステム及びユーザ・ソフトウェアのための動作を実行する命令を処理するための１つ又は複数のプロセッサ・コア１００７を含む。少なくとも一実施例では、１つ又は複数のプロセッサ・コア１００７のそれぞれは、特定の命令セット１００９を処理するように構成される。少なくとも一実施例では、命令セット１００９は、複合命令セット・コンピューティング（ＣＩＳＣ）、縮小命令セット・コンピューティング（ＲＩＳＣ）、又は超長命令語（ＶＬＩＷ）を介したコンピューティングを容易にしてもよい。少なくとも一実施例では、プロセッサ・コア１００７はそれぞれ、異なる命令セット１００９を処理してもよく、この命令セットは、他の命令セットのエミュレーションを容易にする命令を含んでもよい。少なくとも一実施例では、プロセッサ・コア１００７はまた、デジタル信号プロセッサ（ＤＳＰ）などの他の処理デバイスを含んでもよい。

【0068】

少なくとも一実施例では、プロセッサ１００２はキャッシュ・メモリ１００４を含む。少なくとも一実施例では、プロセッサ１００２は、単一の内部キャッシュ又は複数レベルの内部キャッシュを有してもよい。少なくとも一実施例では、キャッシュ・メモリは、プロセッサ１００２の様々な構成要素間で共有される。少なくとも一実施例では、プロセッサ１００２はまた、外部キャッシュ（たとえば、レベル３（Ｌ３）キャッシュ又はラスト・レベル・キャッシュ（ＬＬＣ））（図示せず）を使用し、このキャッシュは、知られているキャッシュ・コヒーレンス技法を使用して、プロセッサ・コア１００７間で共有されてもよい。少なくとも一実施例では、さらにレジスタ・ファイル１００６がプロセッサ１００２に含まれ、このレジスタ・ファイルは、異なるタイプのデータを記憶するための異なるタイプのレジスタ（たとえば、整数レジスタ、浮動小数点レジスタ、状態レジスタ、及び命令ポインタ・レジスタ）を含んでもよい。少なくとも一実施例では、レジスタ・ファイル１００６は、汎用レジスタ又は他のレジスタを含んでもよい。

【0069】

少なくとも一実施例では、１つ又は複数のプロセッサ１００２は、１つ又は複数のインターフェース・バス１０１０に結合されて、アドレス、データ、又は制御信号などの通信信号を、プロセッサ１００２とシステム１０００内の他の構成要素との間で送信する。少なくとも一実施例では、インターフェース・バス１０１０は、一実施例では、ダイレクト・メディア・インターフェース（ＤＭＩ）バスのバージョンなどのプロセッサ・バスとすることができる。少なくとも一実施例では、インターフェース１０１０は、ＤＭＩバスに限定されず、１つ又は複数のペリフェラル・コンポーネント・インターコネクト・バス（たとえば、ＰＣＩ、ＰＣＩエクスプレス）、メモリ・バス、又は他のタイプのインターフェース・バスを含んでもよい。少なくとも一実施例では、プロセッサ１００２は、統合メモリ・コントローラ１０１６、及びプラットフォーム・コントローラ・ハブ１０３０を含む。少なくとも一実施例では、メモリ・コントローラ１０１６は、メモリ・デバイスとシステム１０００の他の構成要素との間の通信を容易にし、一方でプラットフォーム・コントローラ・ハブ（ＰＣＨ）１０３０は、ローカルＩ／Ｏバスを介してＩ／Ｏデバイスへの接続を提供する。

【0070】

少なくとも一実施例では、メモリ・デバイス１０２０は、ダイナミック・ランダム・アクセス・メモリ（ＤＲＡＭ）デバイス、スタティック・ランダム・アクセス・メモリ（ＳＲＡＭ）デバイス、フラッシュ・メモリ・デバイス、相変化メモリ・デバイス、又はプロセス・メモリとしての役割を果たすのに好適な性能を有する何らかの他のメモリ・デバイスとすることができる。少なくとも一実施例では、メモリ・デバイス１０２０は、システム１０００のためのシステム・メモリとして動作して、１つ又は複数のプロセッサ１００２がアプリケーション若しくはプロセスを実行するときに使用するためのデータ１０２２及び命令１０２１を記憶することができる。少なくとも一実施例では、メモリ・コントローラ１０１６はまた、任意選択の外部グラフィックス・プロセッサ１０１２と結合しており、このグラフィックス・プロセッサは、プロセッサ１００２内の１つ又は複数のグラフィックス・プロセッサ１００８と通信して、グラフィックス及びメディアの動作を実行してもよい。少なくとも一実施例では、ディスプレイ・デバイス１０１１は、プロセッサ１００２に接続することができる。少なくとも一実施例では、ディスプレイ・デバイス１０１１は、モバイル電子デバイス又はラップトップ・デバイスのような内部ディスプレイ・デバイス、又はディスプレイ・インターフェース（たとえば、ディスプレイ・ポートなど）を介して取り付けられる外部ディスプレイ・デバイスのうちの１つ又は複数を含むことができる。少なくとも一実施例では、ディスプレイ・デバイス１０１１は、仮想現実（ＶＲ）アプリケーション又は拡張現実（ＡＲ）アプリケーションで使用するための立体ディスプレイ・デバイスなどの頭部装着型ディスプレイ（ＨＭＤ）を含むことができる。

【0071】

少なくとも一実施例では、プラットフォーム・コントローラ・ハブ１０３０は、周辺装置が高速Ｉ／Ｏバスを介してメモリ・デバイス１０２０及びプロセッサ１００２に接続できるようにする。少なくとも一実施例では、Ｉ／Ｏ周辺装置は、オーディオ・コントローラ１０４６、ネットワーク・コントローラ１０３４、ファームウェア・インターフェース１０２８、ワイヤレス・トランシーバ１０２６、タッチ・センサ１０２５、データ・ストレージ・デバイス１０２４（たとえば、ハード・ディスク・ドライブ、フラッシュ・メモリなど）を含むが、これらに限定されない。少なくとも一実施例では、データ・ストレージ・デバイス１０２４は、ストレージ・インターフェース（たとえば、ＳＡＴＡ）を介して、又はペリフェラル・コンポーネント・インターコネクト・バス（たとえば、ＰＣＩ、ＰＣＩエクスプレス）などのペリフェラル・バスを介して、接続することができる。少なくとも一実施例では、タッチ・センサ１０２５は、タッチ画面センサ、圧力センサ、又は指紋センサを含むことができる。少なくとも一実施例では、ワイヤレス・トランシーバ１０２６は、ＷｉＦｉトランシーバ、Ｂｌｕｅｔｏｏｔｈトランシーバ、又は３Ｇ、４Ｇ、若しくはＬｏｎｇ Ｔｅｒｍ Ｅｖｏｌｕｔｉｏｎ（ＬＴＥ）トランシーバなどのモバイル・ネットワーク・トランシーバとすることができる。少なくとも一実施例では、ファームウェア・インターフェース１０２８は、システム・ファームウェアとの通信を可能にし、たとえば、ユニファイド・エクステンシブル・ファームウェア・インターフェース（ＵＥＦＩ）とすることができる。少なくとも一実施例では、ネットワーク・コントローラ１０３４は、有線ネットワークへのネットワーク接続を可能にすることができる。少なくとも一実施例では、高性能ネットワーク・コントローラ（図示せず）は、インターフェース・バス１０１０と結合する。少なくとも一実施例では、オーディオ・コントローラ１０４６は、多チャネル・ハイ・デフィニション・オーディオ・コントローラである。少なくとも一実施例では、システム１０００は、レガシー（たとえば、パーソナル・システム２（ＰＳ／２））デバイスをシステムに結合するための任意選択のレガシーＩ／Ｏコントローラ１０４０を含む。少なくとも一実施例では、プラットフォーム・コントローラ・ハブ１０３０は、キーボードとマウス１０４３の組合せ、カメラ１０４４、又は他のＵＳＢ入力デバイスなど、１つ又は複数のユニバーサル・シリアル・バス（ＵＳＢ）コントローラ１０４２の接続入力デバイスにも接続することができる。

【0072】

少なくとも一実施例では、メモリ・コントローラ１０１６及びプラットフォーム・コントローラ・ハブ１０３０のインスタンスは、外部グラフィックス・プロセッサ１０１２などの個別の外部グラフィックス・プロセッサに一体化されてもよい。少なくとも一実施例では、プラットフォーム・コントローラ・ハブ１０３０及び／又はメモリ・コントローラ１０１６は、１つ又は複数のプロセッサ１００２の外部にあってもよい。たとえば、少なくとも一実施例では、システム１０００は、外部のメモリ・コントローラ１０１６及びプラットフォーム・コントローラ・ハブ１０３０を含むことができ、これらは、プロセッサ１００２と通信するシステム・チップセット内のメモリ・コントローラ・ハブ及び周辺装置コントローラ・ハブとして構成されてもよい。

【0073】

こうした構成要素を使用して、対話環境においてコマンドを実行することができる。

【0074】

図１１は、少なくとも一実施例による、１つ又は複数のプロセッサ・コア１１０２Ａ～１１０２Ｎ、統合メモリ・コントローラ１１１４、及び統合グラフィックス・プロセッサ１１０８を有するプロセッサ１１００のブロック図である。少なくとも一実施例では、プロセッサ１１００は、破線の四角によって表される追加コア１１０２Ｎを含むそれ以下の数の追加コアを含むことができる。少なくとも一実施例では、プロセッサ・コア１１０２Ａ～１１０２Ｎのそれぞれは、１つ又は複数の内部キャッシュ・ユニット１１０４Ａ～１１０４Ｎを含む。少なくとも一実施例では、各プロセッサ・コアはまた、１つ又は複数の共有キャッシュ・ユニット１１０６にアクセスできる。

【0075】

少なくとも一実施例では、内部キャッシュ・ユニット１１０４Ａ～１１０４Ｎ、及び共有キャッシュ・ユニット１１０６は、プロセッサ１１００内のキャッシュ・メモリ階層を表す。少なくとも一実施例では、キャッシュ・メモリ・ユニット１１０４Ａ～１１０４Ｎは、各プロセッサ・コア内の命令及びデータのキャッシュの少なくとも１つのレベル、並びにレベル２（Ｌ２）、レベル３（Ｌ３）、レベル４（Ｌ４）などの共有中間レベル・キャッシュの１つ又は複数のレベル、又はキャッシュの他のレベルを含んでもよく、ここで外部メモリの前の最高レベルのキャッシュは、ＬＬＣとして分類される。少なくとも一実施例では、キャッシュ・コヒーレンス論理は、様々なキャッシュ・ユニット１１０６及び１１０４Ａ～１１０４Ｎ間でコヒーレンスを維持する。

【0076】

少なくとも一実施例では、プロセッサ１１００はまた、１つ又は複数のバス・コントローラ・ユニット１１１６とシステム・エージェント・コア１１１０のセットを含んでもよい。少なくとも一実施例では、１つ又は複数のバス・コントローラ・ユニット１１１６は、１つ又は複数のＰＣＩ若しくはＰＣＩエクスプレス・バスなどのペリフェラル・バスのセットを管理する。少なくとも一実施例では、システム・エージェント・コア１１１０は、様々なプロセッサ構成要素のための管理機能を提供する。少なくとも一実施例では、システム・エージェント・コア１１１０は、様々な外部メモリ・デバイス（図示せず）へのアクセスを管理するための１つ又は複数の統合メモリ・コントローラ１１１４を含む。

【0077】

少なくとも一実施例では、プロセッサ・コア１１０２Ａ～１１０２Ｎの１つ又は複数は、同時マルチスレッディングのサポートを含む。少なくとも一実施例では、システム・エージェント・コア１１１０は、マルチスレッドの処理中にコア１１０２Ａ～１１０２Ｎを調整し動作させるための構成要素を含む。少なくとも一実施例では、システム・エージェント・コア１１１０はさらに、電力制御ユニット（ＰＣＵ）を含んでもよく、このユニットは、プロセッサ・コア１１０２Ａ～１１０２Ｎ及びグラフィックス・プロセッサ１１０８の１つ又は複数の電力状態を調整するための論理及び構成要素を含む。

【0078】

少なくとも一実施例では、プロセッサ１１００はさらに、グラフィックス処理動作を実行するためのグラフィックス・プロセッサ１１０８を含む。少なくとも一実施例では、グラフィックス・プロセッサ１１０８は、共有キャッシュ・ユニット１１０６と、１つ又は複数の統合メモリ・コントローラ１１１４を含むシステム・エージェント・コア１１１０とに結合する。少なくとも一実施例では、システム・エージェント・コア１１１０はまた、１つ又は複数の結合されたディスプレイに対してグラフィックス・プロセッサの出力を行わせるためのディスプレイ・コントローラ１１１１を含む。少なくとも一実施例では、ディスプレイ・コントローラ１１１１はまた、少なくとも１つの相互接続を介してグラフィックス・プロセッサ１１０８に結合された別個のモジュールであってもよく、又はグラフィックス・プロセッサ１１０８内に一体化されていてもよい。

【0079】

少なくとも一実施例では、プロセッサ１１００の内部構成要素を結合するために、リング・ベースの相互接続ユニット１１１２が使用される。少なくとも一実施例では、ポイントツーポイント相互接続、スイッチ相互接続、又は他の技法などの代替的な相互接続ユニットが使用されてもよい。少なくとも一実施例では、グラフィックス・プロセッサ１１０８は、Ｉ／Ｏリンク１１１３を介してリング相互接続１１１２と結合する。

【0080】

少なくとも一実施例では、Ｉ／Ｏリンク１１１３は、様々なプロセッサ構成要素と、ｅＤＲＡＭモジュールなどの高性能組み込みメモリ・モジュール１１１８との間の通信を容易にするオン・パッケージＩ／Ｏ相互接続を含む多様なＩ／Ｏ相互接続のうちの少なくとも１つを表す。少なくとも一実施例では、プロセッサ・コア１１０２Ａ～１１０２Ｎのそれぞれ及びグラフィックス・プロセッサ１１０８は、共有ラスト・レベル・キャッシュとして組み込みメモリ・モジュール１１１８を使用する。

【0081】

少なくとも一実施例では、プロセッサ・コア１１０２Ａ～１１０２Ｎは、共通の命令セット・アーキテクチャを実行する同種のコアである。少なくとも一実施例では、プロセッサ・コア１１０２Ａ～１１０２Ｎは、命令セット・アーキテクチャ（ＩＳＡ）の観点から見れば異種であり、ここでプロセッサ・コア１１０２Ａ～１１０２Ｎのうちの１つ又は複数は、共通の命令セットを実行するが、プロセッサ・コア１１０２Ａ～１１０２Ｎのうちの１つ又は複数の他のコアは、共通の命令セットのサブセット、又は異なる命令セットを実行する。少なくとも一実施例では、プロセッサ・コア１１０２Ａ～１１０２Ｎは、マイクロ・アーキテクチャの観点から見れば異種であり、ここで電力消費量が相対的に高い１つ又は複数のコアは、電力消費量がより低い１つ又は複数のコアと結合する。少なくとも一実施例では、プロセッサ１１００は、１つ又は複数のチップ上に、又はＳｏＣ集積回路として実装することができる。

【0082】

こうした構成要素を使用して、対話環境においてコマンドを実行することができる。

【0083】

他の変形形態は、本開示の範囲内にある。したがって、開示した技法は、様々な修正及び代替的な構成が可能であるが、それらのうち一定の例示的な実施例が図面に示され、上で詳細に説明されてきた。しかし、特定の１つ又は複数の開示された形に本開示を限定する意図はなく、その反対に、特許請求の範囲に定義される開示の趣旨及び範囲に入るすべての修正形態、代替的な構成、及び等価物を網羅することを意図している。

【0084】

開示される実施例を説明する文脈において（特に、以下の特許請求の範囲の文脈において）「ａ」及び「ａｎ」及び「ｔｈｅ」という用語、並びに同様の指示語を使用することは、本明細書に別段の記載のない限り、又は文脈によって明らかに否定されない限り、単数と複数の両方を網羅すると解釈されるべきであり、用語の定義であると解釈されるべきではない。「備える（ｃｏｍｐｒｉｓｉｎｇ）」、「有する（ｈａｖｉｎｇ）」、「含む（ｉｎｃｌｕｄｉｎｇ）」、「収容する（ｃｏｎｔａｉｎｉｎｇ）」という用語は、別段の記載のない限り、オープンエンドの用語（「含むが、これに限定されない」を意味する）と解釈される。「接続される」という用語は、修飾されずに物理的接続を指している場合には、何か介在するものがあったとしても、部分的に又は完全に中に収容される、取り付けられる、又は互いに接合されるものとして解釈される。本明細書において値の範囲を詳述することは、本明細書において別段の記載がない限り、またそれぞれ別々の値が、本明細書に個々に詳述されているかのように明細書に組み込まれていない限り、範囲内に含まれるそれぞれ別々の値を個々に参照する簡潔な方法として機能することを単に意図しているにすぎない。「セット」（たとえば、「アイテムのセット」）又は「サブセット」という用語の使用は、文脈によって別段の記載がない、又は否定されていない限り、１つ又は複数の部材を備える空ではない集合として解釈されるべきである。さらに、文脈によって別段の記載がない、又は否定されていない限り、対応するセットの「サブセット」という用語は、対応するセットの厳密なサブセットを必ずしも指すのではなく、サブセットと対応するセットは等しくてもよい。

【0085】

「Ａ、Ｂ、及びＣのうちの少なくとも１つ」又は「Ａ、Ｂ、及びＣのうちの少なくとも１つ」という形の言い回しなどの結合語は、別段の具体的な記載のない限り、又は文脈によって明確に否定されていない限り、項目、用語などが、ＡかＢかＣである、又はＡとＢとＣのセットのいずれかの空でないサブセットであることを提示するために一般に使用される文脈で理解される。たとえば、３つの部材を有するセットの説明的な例では、「Ａ、Ｂ、及びＣのうちの少なくとも１つ」並びに「Ａ、Ｂ、及びＣのうちの少なくとも１つ」という結合句は、次のセットのうちのいずれかを指す：｛Ａ｝、｛Ｂ｝、｛Ｃ｝、｛Ａ、Ｂ｝、｛Ａ、Ｃ｝、｛Ｂ、Ｃ｝、｛Ａ、Ｂ、Ｃ｝。したがって、こうした結合語は、ある一定の実施例が、少なくとも１つのＡ、少なくとも１つのＢ、及び少なくとも１つのＣのそれぞれの存在を必要とすることを全体的に暗示するものではない。さらに、別段の記載のない、又は文脈によって否定されていない限り、「複数」という用語は、複数である状態を示す（たとえば、「複数の項目（ａ ｐｌｕｒａｌｉｔｙ ｏｆ ｉｔｅｍｓ）」は複数の項目（ｍｕｌｔｉｐｌｅ ｉｔｅｍｓ）を示す）。複数とは、少なくとも２つの項目であるが、明示的に、又は文脈によって示されている場合にはそれより多くてもよい。さらに、別段の記載のない、又は文脈からそうでないことが明らかでない限り、「～に基づく」という言い回しは、「少なくとも部分的に～に基づく」を意味し、「～だけに基づく」を意味しない。

【0086】

本明細書に記載のプロセスの動作は、本明細書に別段の記載のない、又は文脈によって明確に否定されない限り、任意の好適な順序で実行することができる。少なくとも一実施例では、本明細書に記載のプロセス（又はその変形及び／又は組合せ）などのプロセスは、実行可能命令で構成された１つ又は複数のコンピュータ・システムの制御下で実行され、１つ又は複数のプロセッサ上で、ハードウェアによって、又はそれらの組合せによって集合的に実行されるコード（たとえば、実行可能な命令、１つ若しくは複数のコンピュータ・プログラム、又は１つ若しくは複数のアプリケーション）として実装される。少なくとも一実施例では、コードは、たとえば１つ又は複数のプロセッサによって実行可能な複数の命令を備えるコンピュータ・プログラムの形で、コンピュータ読取り可能ストレージ媒体に記憶される。少なくとも一実施例では、コンピュータ読取り可能ストレージ媒体は、一時的な信号（たとえば、伝播する一時的な電気若しくは電磁送信）を除外するが、一時的な信号のトランシーバ内の非一時的なデータ・ストレージ回路（たとえば、バッファ、キャッシュ、及びキュー）を含む非一時的なコンピュータ読取り可能ストレージ媒体である。少なくとも一実施例では、コード（たとえば、実行可能コード又はソース・コード）は、１つ又は複数の非一時的なコンピュータ読取り可能ストレージ媒体のセットに記憶され、このストレージ媒体には、コンピュータ・システムの１つ又は複数のプロセッサによって実行されたときに（すなわち、実行された結果として）、コンピュータ・システムに本明細書に記載の動作を実行させる実行可能命令が記憶されている（又は、実行可能命令を記憶するための他のメモリを有する）。非一時的なコンピュータ読取り可能ストレージ媒体のセットは、少なくとも一実施例では、複数の非一時的なコンピュータ読取り可能ストレージ媒体を備え、複数の非一時的なコンピュータ読取り可能ストレージ媒体の個々の非一時的なストレージ媒体のうちの１つ又は複数には、すべてのコードがないが、複数の非一時的なコンピュータ読取り可能ストレージ媒体は、集合的にすべてのコードを記憶している。少なくとも一実施例では、実行可能命令は、異なる命令が異なるプロセッサによって実行されるように実行され、たとえば、非一時的なコンピュータ読取り可能ストレージ媒体は命令を記憶し、メインの中央処理装置（「ＣＰＵ」）は一部の命令を実行し、グラフィックス・プロセッシング・ユニット（「ＧＰＵ」）及び／又はデータ・プロセッシング・ユニット（「ＤＰＵ」）は他の命令を実行する。少なくとも一実施例では、コンピュータ・システムの異なる構成要素は、別々のプロセッサを有し、異なるプロセッサは、命令の異なるサブセットを実行する。

【0087】

したがって、少なくとも一実施例では、コンピュータ・システムは、本明細書に記載のプロセスの動作を単独で又は集合的に実行する１つ又は複数のサービスを実装するように構成され、こうしたコンピュータ・システムは、動作の実行を可能にする適用可能なハードウェア及び／又はソフトウェアで構成される。さらに、本開示の少なくとも一実施例を実装するコンピュータ・システムは、単一のデバイスであり、別の実施例では、異なるやり方で動作する複数のデバイスを備える分散型のコンピュータ・システムであり、それにより単一のデバイスがすべての動作を実行しないように分散型のコンピュータ・システムが本明細書に記載の動作を実行する。

【0088】

本明細書に提供されるあらゆる例、又は例示的な言葉（たとえば、「など」）の使用は、本開示の実施例をより明らかにすることだけを意図しており、別段の主張のない限り、本開示の範囲に制限を加えるものではない。本明細書のいかなる言葉も、特許請求されていない任意の要素を、本開示の実践に不可欠なものとして示すと解釈されるべきではない。

【0089】

本明細書に引用される出版物、特許出願、及び特許を含むすべての参考文献は、各参考文献が参照により組み込まれることがあたかも個別に明確に示され、その全体が本明細書に記載されたかのように、それと同程度まで参照により本明細書に組み込まれる。

【0090】

明細書及び特許請求の範囲において、「結合される」及び「接続される」という用語が、その派生語とともに使用されてもよい。これらの用語は、互いに同義語として意図されていない場合があることを理解すべきである。むしろ、特定の例では、「接続される」又は「結合される」は、２つ以上の要素が物理的又は電気的に互いに直接又は間接的に接触していることを示すために使用されてもよい。また「結合される」は、２つ以上の要素が直接互いに接触していないが、なお互いに連動又は相互作用することを意味してもよい。

【0091】

別段の具体的な記載のない限り、明細書全体を通して「処理する」、「コンピューティング」、「計算する」、又は「判定する」などの用語は、コンピューティング・システムのレジスタ及び／又はメモリ内の、電子的などの物理的な量として表されるデータをコンピューティング・システムのメモリ、レジスタ、又は他のそのような情報ストレージ・デバイス、送信デバイス、若しくはディスプレイ・デバイス内の物理的な量として同様に表される他のデータになるよう操作及び／又は変換するコンピュータ若しくはコンピューティング・システム、又は同様の電子コンピューティング・デバイスの行為及び／又はプロセスを指す。

【0092】

同様に、「プロセッサ」という用語は、レジスタ及び／又はメモリからの電子データを処理し、その電子データを、レジスタ及び／又はメモリに記憶することができる他の電子データに変換する任意のデバイス、又はデバイスの一部分を指してもよい。非限定的な例として、「プロセッサ」は、ＣＰＵ、ＧＰＵ、又はＤＰＵなどの汎用処理が可能な任意のプロセッサであってもよい。非限定的な例として、「プロセッサ」は、任意のマイクロコントローラ、又はＤＳＰ、画像信号プロセッサ（「ＩＳＰ：ｉｍａｇｅ ｓｉｇｎａｌ ｐｒｏｃｅｓｓｏｒ」）、算術論理装置（「ＡＬＵ：ａｒｉｔｈｍｅｔｉｃ ｌｏｇｉｃ ｕｎｉｔ」）、視覚処理装置（「ＶＰＵ：ｖｉｓｉｏｎ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ」）、ツリー・トラバーサル・ユニット（「ＴＴＵ：ｔｒｅｅ ｔｒａｖｅｒｓａｌ ｕｎｉｔ」）、レイ・トレーシング・コア、テンソル・トレーシング・コア、テンソル処理装置（「ＴＰＵ：ｔｅｎｓｏｒ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ」）、組み込み制御ユニット（「ＥＣＵ：ｅｍｂｅｄｄｅｄ ｃｏｎｔｒｏｌ ｕｎｉｔ」）などの専用処理装置であってもよい。非限定的な例として、「プロセッサ」は、ＰＶＡ：ｐｒｏｇｒａｍｍａｂｌｅ ｖｉｓｉｏｎ ａｃｃｅｌｅｒａｔｏｒ（プログラマブル・ビジョン・アクセラレータ）、ＤＬＡ：ｄｅｅｐ ｌｅａｒｎｉｎｇ ａｃｃｅｌｅｒａｔｏｒ（深層学習アクセラレータ）などのハードウェア・アクセラレータであってもよい。非限定的な例として、「プロセッサ」はまた、１つ又は複数の仮想マシンを実行する基礎となるハードウェア構成要素上でホストされる、ＣＰＵ、ＧＰＵなどの１つ又は複数の仮想インスタンスを含んでもよい。「コンピューティング・プラットフォーム」は、１つ又は複数のプロセッサを備えてもよい。本明細書で使用する「ソフトウェア」プロセスは、たとえば、タスク、スレッド、及び知的エージェントなど、経時的にワークを実行するソフトウェア及び／又はハードウェアのエンティティを含んでもよい。また、各プロセスは、命令を直列で又は並列で連続的に又は断続的に実行するための複数のプロセスを指してもよい。「システム」及び「方法」という用語は、１つ又は複数の方法をシステムが具体化することができ、方法がシステムと考えられてもよい場合に限り、本明細書において交換可能に使用される。

【0093】

本明細書では、アナログ・データ又はデジタル・データを得る、取得する、受信する、又はそれらをサブシステム、コンピュータ・システム、又はコンピュータ実装機械に入力することに言及することができる。アナログ・データ又はデジタル・データを得る、取得する、受信する、又は入力することは、関数呼出し、又はアプリケーション・プログラミング・インターフェースへの呼出しのパラメータとしてデータを受信するなど、様々なやり方で実現することができる。いくつかの実装形態では、アナログ・データ又はデジタル・データを得る、取得する、受信する、又は入力するプロセスは、直列又は並列のインターフェースを介してデータを転送することによって実現することができる。別の実装形態では、アナログ・データ又はデジタル・データを得る、取得する、受信する、又は入力するプロセスは、提供するエンティティから取得するエンティティにコンピュータ・ネットワークを介してデータを転送することによって実現することができる。また、アナログ・データ又はデジタル・データを提供する、出力する、送信する、送る、又は提示することにも言及することができる。様々な例では、アナログ・データ又はデジタル・データを提供する、出力する、送信する、送る、又は提示するプロセスは、関数呼出しの入力又は出力のパラメータ、アプリケーション・プログラミング・インターフェース若しくはプロセス間通信機構のパラメータとしてデータを転送することによって実現することができる。

【0094】

上の議論は、説明した技法の例示的な実装形態について述べているが、記載した機能を実装するために他のアーキテクチャが使用されてもよく、この他のアーキテクチャは、本開示の範囲内にあることが意図される。さらに、議論を目的として、役割の具体的な分配が定義されているが、様々な機能及び役割は、状況に応じて異なるやり方で分配及び分割されてもよい。

【0095】

さらに、主題は、構造的特徴及び／又は方法論的動作に特有の言語で説明されてきたが、添付の特許請求の範囲で特許請求される主題は、説明した特有の特徴又は動作に必ずしも限定されないことが理解されるべきである。むしろ、特有の特徴及び動作は、特許請求の範囲を実装する例示的な形として開示されている。

【図1】

【図2】

【図3A】

【図3B】

【図3C】

【図3D】

【図3E】

【図4A】

【図4B】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【外国語明細書】