特許 7344259 深層学習フレームワークにおけるパターン変換方法、装置、電子デバイス、コンピューター記憶媒体およびコンピュータープログラム製品

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2023-09-05

(45)【発行日】2023-09-13

(54)【発明の名称】深層学習フレームワークにおけるパターン変換方法、装置、電子デバイス、コンピューター記憶媒体およびコンピュータープログラム製品

(51)【国際特許分類】

   G06N 3/08 20230101AFI20230906BHJP

   G06N 3/04 20230101ALI20230906BHJP

【ＦＩ】

G06N3/08

G06N3/04

【請求項の数】 17

(21)【出願番号】P 2021143795

(22)【出願日】2021-09-03

(65)【公開番号】P2021192282

(43)【公開日】2021-12-16

【審査請求日】2021-09-03

(31)【優先権主張番号】202011242902.8

(32)【優先日】2020-11-09

(33)【優先権主張国・地域又は機関】CN

(73)【特許権者】

【識別番号】514322098

【氏名又は名称】ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド

【氏名又は名称原語表記】Ｂｅｉｊｉｎｇ Ｂａｉｄｕ Ｎｅｔｃｏｍ Ｓｃｉｅｎｃｅ Ｔｅｃｈｎｏｌｏｇｙ Ｃｏ．， Ｌｔｄ．

【住所又は居所原語表記】２／Ｆ Ｂａｉｄｕ Ｃａｍｐｕｓ， Ｎｏ．１０， Ｓｈａｎｇｄｉ １０ｔｈ Ｓｔｒｅｅｔ， Ｈａｉｄｉａｎ Ｄｉｓｔｒｉｃｔ， Ｂｅｉｊｉｎｇ １０００８５， Ｃｈｉｎａ

(74)【代理人】

【識別番号】110001195

【氏名又は名称】弁理士法人深見特許事務所

(72)【発明者】

【氏名】張 留 傑

(72)【発明者】

【氏名】李 雅 美

(72)【発明者】

【氏名】鄭 輝 煌

(72)【発明者】

【氏名】劉 紅 雨

(72)【発明者】

【氏名】藍 翔

(72)【発明者】

【氏名】于 佃 海

(72)【発明者】

【氏名】馬 艶 軍

(72)【発明者】

【氏名】呉 甜

(72)【発明者】

【氏名】王 海 峰

【審査官】青木 重徳

(56)【参考文献】

【文献】特開２０１７－０３３４４６（ＪＰ，Ａ）

【文献】特開２００８－００９４６３（ＪＰ，Ａ）

【文献】特開２００７－１５８６８７（ＪＰ，Ａ）

【文献】米国特許出願公開第２０１６／０１１７３６４（ＵＳ，Ａ１）

【文献】LOOKS, Moshe，DEEP LEARNING WITH DYNAMIC COMPUTATION GRAPHS，arxiv:1702.02181v2，2017年02月22日，[検索日:2022年08月19日],インターネット<https://arxiv.org/pdf/1702.02181.pdf>

【文献】得居 誠也，ニューラルネットワーク研究のフロンティア，人工知能 第３１巻 第２号 ，日本，人工知能学会 JSAI，2016年03月01日，第31巻，pp.216-222

【文献】大津 真，これから学ぶＰｙｔｈｏｎ，第1版，株式会社インプレス，2020年08月20日，pp.150-152

【文献】菱沼佑香，第11回条件分岐はif文でwith elif・break・pass・continue(菱沼佑香)，[online]，2020年08月31日，[検索日:2022年08月19日],インターネット<URL: https://www.school.ctc-g.co.jp/columns/hishinuma/hishinuma11.html>

【文献】note.nkmk.me，Pythonのwhile文によるループ処理（無限ループなど），[online]，2019年02月02日，[検索日:2022年08月19日] ,インターネット<URL: https://note.nkmk.me/python-while-usage/>

【文献】松岡 恭正，原理から学ぶ言語処理プログラミング，インターフェース 第１５巻 第３号 Interface，日本，ＣＱ出版株式会社，1989年03月01日，第15巻，pp.196-210

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ３／０８

Ｇ０６Ｎ ３／０４

ＪＳＴＰｌｕｓ／ＪＭＥＤＰｌｕｓ／ＪＳＴ７５８０（ＪＤｒｅａｍＩＩＩ）

ＩＥＥＥ Ｘｐｌｏｒｅ

(57)【特許請求の範囲】

【請求項1】

第１のパターンにおける第１の文法要素と前記第１のパターンにおける第１の文法要素との間のコンテキスト関係に基づいて前記第１のパターンを更新し、更新された第１のパターンを取得することと、
前記更新された第１のパターンにおける更新された第１の文法要素と第２のパターンシステムにおける第２の文法要素との間のマッピング関係に基づいて、前記更新された第１の文法要素に対応する第２の文法要素を生成することと、
前記更新された第１の文法要素のコンテキスト関係に従って前記第２の文法要素を組み合わせて第２のパターンを生成することと、を含み、
前記更新された第１の文法要素の数は、前記第１の文法要素の数よりも少ない
ことを特徴とする深層学習フレームワークにおけるパターン変換方法。

【請求項2】

前記第１の文法要素は第１の演算子を含み、前記第２の文法要素は第２の演算子を含み、
前記方法は、
前記第２のパターンが前記第２の演算子に対応する第１の演算子よって実行されることをさらに含む
ことを特徴とする請求項１に記載の方法。

【請求項3】

前記第１のパターンの第１の識別子は、高速記憶装置に記憶され、
前記方法は、
前記第１のパターンの第１の識別子を取得することと、
別の第１のパターンの第２の識別子を決定することと、
前記第１の識別子が前記第２の識別子とマッチングすると決定すると、前記第２のパターンを前記第２パターンシステムにおける前記別の第１パターンに対応するパターンに決定することと、をさらに含む
ことを特徴とする請求項１に記載の方法。

【請求項4】

前記第１の文法要素がループ演算子および条件演算子を含み、
前記第１のパターンにおける第１の文法要素と前記第１のパターンにおける第１の文法要素との間のコンテキスト関係に基づいて前記第１のパターンを更新することは、
前記条件演算子と前記ループ演算子との前文関係が前記第１のパターンで隣接していると決定すると、前記条件演算子と前記ループ演算子を別のループ演算子に更新することを含む
ことを特徴とする請求項１に記載の方法。

【請求項5】

前記第１の文法要素は定数を含み、
前記第１のパターンにおける第１の文法要素と前記第１のパターンにおける第１の文法要素との間のコンテキスト関係に基づいて前記第１のパターンを更新することは、
前記第１のパターンにおける重複な定数を除去することを含む
ことを特徴とする請求項１に記載の方法。

【請求項6】

前記第１のパターンは、命令型プログラミングを介して実施され、
前記第２のパターンは、宣言型プログラミングを介して実施される
ことを特徴とする請求項１に記載の方法。

【請求項7】

前記第１のパターンが実施されるのに必要なマシンコストは、前記第２のパターンが実施されるのに必要なマシンコストよりも大きい
ことを特徴とする請求項１に記載の方法。

【請求項8】

第１のパターンにおける第１の文法要素と前記第１のパターンにおける第１の文法要素との間のコンテキスト関係に基づいて前記第１のパターンを更新し、更新された第１のパターンを取得するように配置される第１の更新モジュールと、
前記更新された第１のパターンにおける更新された第１の文法要素と第２のパターンシステムにおける第２の文法要素との間のマッピング関係に基づいて、前記更新された第１の文法要素に対応する第２の文法要素を生成するように配置される文法要素変換モジュールと、
前記更新された第１の文法要素のコンテキスト関係に従って前記第２の文法要素を組み合わせて第２のパターンを生成するように配置されるパターン生成モジュールことと、を含み、
前記更新された第１の文法要素の数は、前記第１の文法要素の数よりも少ない
ことを特徴とする深層学習フレームワークにおけるパターン変換装置。

【請求項9】

前記第１の文法要素は第１の演算子を含み、前記第２の文法要素は第２の演算子を含み、
前記パターン変換装置は、
前記第２のパターンを前記第２の演算子に対応する第１の演算子よって実行させるように配置されるパターン実行モジュールをさらに含む
ことを特徴とする請求項８に記載のパターン変換装置。

【請求項10】

前記第１のパターンの第１の識別子は、高速記憶装置に記憶され、
前記パターン変換装置は、
前記第１のパターンの第１の識別子を取得するように配置される第１の識別子決定モジュールと、
別の第１のパターンの第２の識別子を決定するように配置される第２の識別決定モジュールと、
前記第１の識別子が前記第２の識別子とマッチングすると決定すると、前記第２のパターンを前記第２パターンシステムにおける前記別の第１パターンに対応するパターンに決定するように配置されるパターン決定モジュールと、をさらに含む
ことを特徴とする請求項８に記載のパターン変換装置。

【請求項11】

前記第１の文法要素がループ演算子および条件演算子を含み、
前記第１の更新モジュールは、
前記条件演算子と前記ループ演算子との前文関係が前記第１のパターンで隣接していると決定すると、前記条件演算子と前記ループ演算子を別のループ演算子に更新するように配置される第２の更新モジュールを含む
ことを特徴とする請求項８に記載のパターン変換装置。

【請求項12】

前記第１の文法要素は定数を含み、
前記第１のパターンにおける第１の文法要素と前記第１のパターンにおける第１の文法要素との間のコンテキスト関係に基づいて前記第１の更新モジュールは、
前記第１のパターンにおける重複な定数を除去するように配置される第３の更新モジュールを含む
ことを特徴とする請求項８に記載のパターン変換装置。

【請求項13】

前記第１のパターンは、命令型プログラミングを介して実施され、
前記第２のパターンは、宣言型プログラミングを介して実施される
ことを特徴とする請求項８に記載のパターン変換装置。

【請求項14】

前記第１のパターンが実施されるのに必要なマシンコストは、前記第２のパターンが実施されるのに必要なマシンコストよりも大きい
ことを特徴とする請求項８に記載のパターン変換装置。

【請求項15】

１つ又は複数のプロセッサと、
前記１つ又は複数のプロセッサによって実行されると、前記１つ又は複数のプロセッサに請求項１～７のいずれか一項に記載の方法を実現させる１つ又は複数のプログラムを記憶する記憶装置と、を含む
ことを特徴とする電子デバイスである。

【請求項16】

プロセッサによって実行されると請求項１～７のいずれか一項に記載の方法を実現するコンピュータプログラムを記憶する
ことを特徴とするコンピュータ読み取り可能な記憶媒体。

【請求項17】

プロセッサによって請求項１～７のいずれか一項に記載の方法を実現するコンピュータプログラム命令を含む
ことを特徴とするコンピュータプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本開示の実施例は、マシン学習分野に関し、且つより具体的には、パターン変換方法、装置、電子デバイス、コンピューター記憶媒体及びコンピュータプログラム製品に関する。

【背景技術】

【0002】

現在の深層学習フレームワークは、使いやすさと性能の配置問題をできるだけ同時に解決している。現在、主要な深層学習フレームワークには、命令型プログラミング（動的グラフとも呼ばれる）と宣言型プログラミング（静的グラフとも呼ばれる）の２つのパターンがある。命令型プログラミングとは、書きパターンが計算センテンスを実行した直後に解釈して実行し、すぐにこの計算結果を所有することを意味する。このメカニズムは、ユーザのプログラミングの習慣により適合し、パターンデバッグを行いやすく、ユーザが記述しやすくなるが、マシン実行コンピューティングリソースの消費が多い。宣言型プログラミングとは、プログラムをコンパイルして実行するときに、最初に計算のグラフ構造を構築し、次に実行ユニットを使用してグラフ構造操作を実行することを意味する。このメカニズムは、ユーザが記述しやすくないが、マシン実行コンピューティングリソースの消費が少なく、産業モデルの配置に適している。

【発明の概要】

【発明が解決しようとする課題】

【0003】

したがって、命令型プログラミング（動的グラフとも呼ばれる）と宣言型プログラミング（静的グラフとも呼ばれる）との間にパターン変換を可能にするパターン変換案が必要である。

【課題を解決するための手段】

【0004】

本開示の実施例によれば、パターン変換案が提供される。
本開示の第１の方面に、パターン変換方法が提供されており、第１のパターンにおける第１の文法要素と第１のパターンにおける第１の文法要素との間のコンテキスト関係に基づいて第１のパターンを更新し、更新された第１のパターンを取得することと、更新された第１のパターンにおける更新された第１の文法要素と第２のパターンシステムにおける第２の文法要素との間のマッピング関係に基づいて、更新された第１の文法要素に対応する第２の文法要素を生成することと、更新された第１の文法要素のコンテキスト関係に従って第２の文法要素を組み合わせて第２のパターンを生成することと、を含む。

【0005】

本開示の第２の方面に、パターン変換装置が提供されており、第１のパターンにおけ第１の文法要素と第１のパターンにおける第１の文法要素との間のコンテキスト関係に基づいて第１のパターンを更新し、更新された第１のパターンを取得するように配置される第１の更新モジュールと、更新された第１のパターンにおける更新された第１の文法要素と第２のパターンシステムにおける第２の文法要素との間のマッピング関係に基づいて、更新された第１の文法要素に対応する第２の文法要素を生成するように配置される文法要素変換モジュールと、更新された第１の文法要素のコンテキスト関係に従って第２の文法要素を組み合わせて第２のパターンを生成するように配置されるパターン生成モジュールと、を含む。

【0006】

本開示の第３の方面に、電子デバイスが提供されており、１つ又は複数のプロセッサと、１つ又は複数のプロセッサによって実行されると、１つ又は複数のプロセッサに本開示の第１の方面の方法を実現させる１つ又は複数のプログラムを記憶する記憶装置と、を含む。

【0007】

本開示の第４の方面に、コンピュータ読み取り可能な記憶媒体が提供されており、プロセッサによって実行されると本開示の第１の方面の方法を実現するコンピュータプログラムを記憶する。

【0008】

本開示の第５の方面に、コンピュータプログラム製品が提供されており、プロセッサによって本開示の第１の方面の方法を実現するコンピュータプログラム命令を含む。

【0009】

この部分で説明した内容は、本開示の実施例の中心な又は重要な特徴を表記するものではなく、本開示の範囲を限定するものでもないと理解すべきである。本開示の他の特徴は、以下の説明によって理解し易くなるであろう。

【0010】

添付の図面を組合せ、以下の詳細な説明を参照して、本開示の各実施例の上記および他の特徴、利点および態様がより明らかになるであろう。図面では、同じまたは類似の符号は、同じまたは類似の要素を示する。

【図面の簡単な説明】

【0011】

【図1】図１は、本開示の複数の実施例が実現される例示的な環境の概略図を示している。

【図2】図２は、本開示のいくつかの実施例によるパターン変換のプロセスのフローチャートを示している。

【図3】図３は、本開示のいくつかの実施例によるパターンを更新するプロセスのフローチャートを示している。

【図4】図４は、本開示のいくつかの実施例によるパターン変換の例示的なプロセスの概略図を示している。

【図5】図５は、本開示のいくつかの実施例によるパターン変換の装置の概略ブロック図を示している。

【図6】図６は、本開示の複数の実施例を実施することができるコンピューティングデバイスのブロック図を示している。

【発明を実施するための形態】

【0012】

以下、本開示の好ましい実施例を、添付の図面を参照してより詳細に説明する。本開示の好ましい実施例が図面に示されているが、本開示が様々な形態で実現することができ、本明細書に記載の実施例によって限定されるべきではないことを理解されたい。逆に、これらの実施例は、本開示をより明瞭かつ完全にし、そして本開示の範囲を当業者に完全に伝えるために提供される。

【0013】

本明細書で使用されている「含む」という用語とその変形は、制限のない包含、つまり「含むがこれに限定されない」ことを意味する。特に明記しない限り、「または」という用語は「および／または」を意味する。「に基づく」という用語は、「少なくとも部分的に基づく」ことを意味する。「例示的な実施例」および「一実施例」という用語は、「少なくとも１つの例示的な実施例」を意味する。「別の実施例」という用語は、「少なくとも１つの別の実施例」を意味する。

【0014】

「第１」、「第２」などの用語は、異なるまたは同じオブジェクトを指すことができる。以下には、他の明示的および暗黙的な定義も含まれる場合がある。

【0015】

前述のように、使いやすさと配置性の両方を併有する深層学習フレームワークを実現するように、命令型プログラミング（動的グラフとも呼ばれる）と宣言型プログラミング（静的グラフとも呼ばれる）の間でパターン変換を実行する技術案が必要である。従来技術は、動的グラフから静的グラフに変換する（以下、動的から静的）モジュールを開発することによって、フレームワークシステムのユーザが動的グラフパターンを使用して深層学習フレームワークを便利に構築し、静的グラフに変換して配置性能の利点を取得する。具体的には、動的グラフパターンを静的グラフパターンまたは静的グラフの中間表現ＩＲに変換する。上記の２つの変換では、共にコンパイラーに関連する技術を使用する。実現手順は、最初に動的グラフパターンのフロントエンドコードを抽象文法ツリー（ａｂｓｔｒａｃｔ ｓｙｎｔａｘ ｔｒｅｅ、ＡＳＴと呼ばれる）に解析し、そして、抽象文法ツリーから静的グラフパターン又は静的グラフの中間表現ＩＲを生成するということである。従来技術には主に以下の欠点がある。

【0016】

（１）動的から静的へのプロセスにおける高級言語の最適化を欠けており、動的グラフパターンにおける一部のセンテンスが冗長であるか、ループのネストが複雑であり、最適化さずに静的グラフに直接変換すると、静的グラフで実行することにコンピューティングリソースを大量に消費する。

【0017】

（２）ソフトウェア工学では、動的グラフと静的グラフとのパターンの一致性または運行方式の一貫性に比較的高い制限がある。動的グラフと静的グラフとのパターン差分が小さいほど、変換作業は少なくなる。この場合、変換前後のパターンが動的グラフと静的グラフで同じ方式で実行できるように、いくつかの深層学習フレームワークでは、静的グラフと動的グラフの運行インターフェイスを一致になるように定義する必要がある。動的グラフパターンと静的グラフパターンのインターフェイスを厳密に同じにするために、深層学習フレームワークに対する要求は高くなる。

【0018】

本開示の実施例によれば、パターン変換の技術案が提出される。この技術案は、パターン間の変換プロセスに最適化を行う。この技術案では、まず、第１のパターンを更新する。次に、マッピング関係によって、更新されたパターンの文法要素を第２のパターンの文法要素に変換する。最後に、コンテキスト関係に基づいて、第２の文法要素を結合して第２のパターンを生成する。

【0019】

パターン変換プロセスに最適化プロセスを追加することにより、変換されたパターンの実行速度を向上させることができ、異なる最適化およびマッピングモデルを確立することにより、パターンのデバッグを容易にすることができる。

【0020】

以下、添付の図面を参照して、本開示の基本原理およびいくつかの例示的な実施例を説明する。

【0021】

図１は、本開示の複数の実施例が実現される例示的な環境１００の概略図を示している。図１に示される環境１００が単なる例示であり、本開示に記載される実現の機能および範囲を制限するべきではないことを理解されたい。図１に示すように、環境１００は、第１のパターン１１０、第１の文法要素１２０、更新された第１の文法要素１７０、更新された第１のパターン１３０、第２のパターン１４０、第２の文法要素１５０、およびコンピューティングデバイス１６０を含む。

【0022】

第１のパターン１１０は、動的グラフパターンであり得る。本開示の実施例では、説明および理解の便宜上、「パターン」という用語は、コードの形態で表現され、ＰＹＴＨＯＮのネイティブ文法要素（ｆｏｒ、ｉｆ、ｅｌｓｅ、ｗｈｉｌｅ）を介してネットワークを構築することができる。第１のパターン１１０は、命令型プログラミングによって実施され、マシンによって実行することは容易ではなく、すなわち、マシンによってこの第１のパターン１１０を実行するために必要なマシンコストが多く、例えば、多くのグラフィックス処理ユニット（ＧＰＵ）リソースまたは大量の時間が必要である。

【0023】

コンピューティングデバイス１６０は、第１のパターン１１０を解析することができる。例えば、コンピューティングデバイス１６０は、パーサーを使用して、第１のパターン１１０における第１の文法要素１２０およびそれらの間のコンテキスト関係を解析することができる。ここでの第１の文法要素１２０は、パターンの基本構成ユニットを指すことができる。本願の実施例では、文法要素は、各パターン言語における基本構成要素を指す。例えば、アプリケーションプログラムのソースパターンファイルがＰＹＴＨＯＮ言語である場合、パターンにおける文法要素は、制御フロー（ｆｏｒ、ｉｆ、ｅｌｓｅ、ｗｈｉｌｅ）、入力及び出力（ｉｎｐｕｔ、ｐｒｉｎｔ）、プログラム形式、データ類型、変数などであることができ、例えばＪＡＶＡ（登録商標）言語である場合、クラス、属性、パターンブロック、アノテーション、コメントなどであることができる。コンピューティングデバイスは、第１のパターン１１０に対する解析結果に従って、第１のパターンを更新（最適化）し、第２のパターン１４０に変換することができ、具体的なプロセスを以下に説明する。上記のＰＹＴＨＯＮ言語は単なる例示であり、第１のパターン１１０はまた、ユーザの書き込みに適した任意の言語システムに基づいて作成されることができる。

【0024】

コンピューティングデバイス１６０は、コンピューティング機能を備えた任意のデバイスであり得る。非限定的な例として、コンピューティングデバイス１６０は、任意のタイプの固定コンピューティングデバイス、モバイルコンピューティングデバイス、またはポータブルコンピューティングデバイスであることができ、デスクトップコンピュータ、ラップトップコンピュータ、ノートブックコンピュータ、ネットブックコンピュータ、タブレットコンピュータ、マルチメディアコンピュータ、携帯電話などを含むが、これらに限定されない。コンピューティングデバイス１６０の構成要素の全部または一部は、クラウドに分散され得る。計算、記憶、通信、および制御などの機能を実現するために、コンピューティングデバイス１６０は、少なくとも、プロセッサ、メモリ、および汎用コンピュータに存在する他のコンポーネントを含む。

【0025】

一実施例では、コンピューティングデバイス１６０は、事前にトレーニングされた文法パーサー、文法オプティマイザー、文法コンバーター、パターンジェネレーターなどを含み得る。

【0026】

更新された第１のパターン１３０は、第１のパターン１１０と同じ言語システムのパターンであり、更新された第１のパターン１３０における更新された第１の文法要素１７０の数は、第１のパターン１１０の第１の文法要素１２０の数よりも少ない。更新（最適化）プロセスについては、以下で詳細に説明する。

【0027】

第２のパターン１４０は、静的グラフパターンであり得、実行時に各ステップで結果を出力しないが、最終的に結果を全体的に出力する。その実行に必要なマシンコストは、第１のパターン１１０よりも少ない。第２のパターン１４０は、Ｃ＋＋または中間表現（Ｉｎｔｅｒｍｅｄｉａｔｅ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ）パターンであり得、本開示では限定しない。マシンによって実行されるのに適した任意のパターン言語であり得る。第２のパターン１４０は、第２の文法要素１５０を含み得る。

【0028】

以下、図２～４を結合して、詳細なパターン変換プロセスをさらに説明する。図２は、本開示の実施例によるパターン変換方法２００のフローチャートを示している。方法２００は、図１のコンピューティングデバイス１６０によって実施され得る。説明の便宜上、方法２００は、図１を参照して説明される。

【0029】

ブロック２１０において、コンピューティングデバイス１６０は、第１のパターン１１０における第１の文法要素１２０と第１のパターンにおける第１の文法要素１２０との間のコンテキスト関係に基づいて、第１のパターン１１０を更新して、更新された第１のパターン１３０を取得する。

【0030】

一実施例では、更新された第１のパターン１３０における更新された第１の文法要素１７０の数は、第１のパターン１１０における第１の文法要素１２０の数よりも少ない。

【0031】

例えば、コンピューティングデバイス１６０は、第１のパターンに対して文法解析を実行し、第１のパターンを、抽象文法ツリー（Ａｂｓｔｒａｃｔ Ｓｙｎｔａｘ Ｔｒｅｅ、ＡＳＴ）レベルで第１のパターンの抽象文法ツリーに変換することができる。コンピューティングデバイス１６０は、ある特定の形式文法に従って第１の文法要素１２０によって形成された第１のパターン１１０を分析し、その文法構造、すなわち第１の文法要素１２０およびそのコンテキスト関係を決定することができる。

【0032】

一実施例では、コンピューティングデバイス１６０は、その内部または外部の文法パーサーを使用して、第１のパターン１１０に対する文法解析を実行することができる。文法パーサーは、通常、コンパイラーまたはインタープリターのコンポーネントとして使用される。その役割は、文法チェックを実行し、入力された単語で構成されるデータ構造（一般的には、文法解析ツリーや抽象文法ツリーなどの階層化のデータ構造）を構築することである。文法パーサーは、通常、独立した字句アナライザーを使用して、入力文字ストリームから個々の単語を分離し、単語ストリームを入力として使用する。実際の開発では、文法パーサーは手動で作成してもよく、ツールを使用して（半）自動で生成してもよい。

【0033】

抽象文法ツリーは、ソースパターンの文法構造の抽象表現であり、プログラミング言語の構造をツリーのような形で表現し、ツリーの各ノードＡＳＴＮｏｄｅは全てソースパターンにおける一つの構造を表する。抽象文法ツリーは、第１のパターン１１０における各種の文法要素を相応的な対象として定義し、ツリーの各ノードは、ソースパターンに現れる構造を表す。文法は、実際の文法に表示されるすべての詳細を表さずに構造や内容に関する詳細のみであるので、抽象的なものである。例えば、グループ化括弧はツリー構造に暗黙的に含まれ、３つのブランチを持つ単一のノードによって、ｉｆ－ｃｏｎｄｉｔｉｏｎ－ｔｈｅｎ式と類似する構文構造を表現できる。通常、パーサーによって、ソースアプリケーションパターンの変換およびコンパイルプロセスに構築される。構築されると、後続の処理（例えばコンテキスト分析）によって添付情報をＡＳＴに追加する。

【0034】

次に、コンピューティングデバイス１６０は、前記で得られた第１の文法要素１２０およびそのコンテキスト関係に従って、第１のパターン１１０を更新することができる。更新のプロセスは、図３を結合してさらに説明される。図３は、本開示のいくつかの実施例によるパターンを更新するプロセスのフローチャートを示している。

【0035】

３１０において、コンピューティングデバイス１６０は、第１の文法要素１１０に含まれるループ演算子と条件演算子との前文関係が前記第１のパターンで隣接しているかどうかを決定する。例えば、ＰＹＴＨＯＮを例にとると、第１のパターン１１０には次のパターンが存在する。

【0036】

ｗｈｉｌｅ ｉ ＜ ｎ：
ｉｆ ｓｏｍｅ＿ｃｏｎｄｉｔｉｏｎ：
ｂｒｅａｋ
コンピューティングデバイス１６０は、ループ演算子ｗｈｉｌｅ（ループオペレーター（ｏｐｅｒａｔｏｒ）と呼びでもよい）および条件演算子ｉｆという第１の文法要素１２０が存在することを解析し、且つコンピューティングデバイス１６０は、それらが第１のパターン１１０において隣接していると決定する。

【0037】

３２０おいて、コンピューティングデバイス１６０は、条件演算子と前記ループ演算子を別のループ演算子に更新する。例えば、上記の例示の説明を続けると、コンピューティングデバイス１６０は、上記のパターンを等価のＰＹＴＨＯＮパターンに更新する。

【0038】

ｗｈｉｌｅ ｉ ＜ ｎ ａｎｄ ｓｏｍｅ＿ｃｏｎｄｉｔｉｏｎ：
その中、一つのループ演算子ｗｈｉｌｅのみがあり、上記の更新された第１のパターン１３０に基づいて変換された第２のパターン１４０にはループ演算子が１つだけあり、最適化されない前に比べてその後の実行速度が数倍（例えば少なくとも７回）向上する。

【0039】

一つの代替の実施例では、第１の文法要素１２０が定数を含む場合、コンピューティングデバイス１６０は、第１のパターン１１０における重複な定数を除去することができる。例えば、第１のパターンに、ａ＝１、ｂ＝ａ、およびｃ＝ｂのパターンが含まれる場合、コンピューティングデバイス１６０は、それをａ＝ｂ＝ｃ＝１に更新（最適化）することができる。

【0040】

上記の例示は単なる例示であり、それ以外、第１のパターンに対する更新と最適化、例えば定数最適化、冗長な文句の除去の最適化、等価であるがより高速なパターン置換の最適化などがさらにあり、これにより、更新された第１のパターン１３０における更新された第１の文法要素１７０の数は、第１のパターン１１０における第１の文法要素１２０の数よりも少なくなる。各更新または最適化を、一つの変換関数またはモジュールに制限することもでき、その後で各種の関数またはモジュールを追加および削除して最適化することができ、テストの最適化も非常に柔軟である。第１のパターン、つまり動的グラフパターンの階層レベルで分析及び最適化を行なうにより、変換された静的グラフの実行速度を大幅に向上させることができる。

【0041】

図２に戻り説明を続けると、ブロック２２０において、コンピューティングデバイス１６０は、更新された第１のパターン１３０における更新された第１の文法要素１７０と第２のパターンシステムにおける第２の文法要素１５０との間のマッピング関係に基づいて、更新された第１の文法要素１７０に対応する第２の文法要素１５０を生成する。

【0042】

一例では、コンピューティングデバイス１６０は、更新された第１の文法要素１７０と相応的な第２の文法要素１５０との間に、例えばＩｆ－ｅｌｓｅという文法要素を変換するＩｆＥｌｓｅコンバーター、ループを変換するＬｏｏｐコンバーター、標準出力を変換するＰｒｉｎｔコンバーターなどの、異なる変換器カテゴリを作成することができる。

【0043】

一実施例では、更新された第１のパターン１３０における各更新された第１の文法要素１７０の抽象文法ツリーは、１つのコンバーターの入力とし、当該コンバーターは、変換を行って一つの新しい抽象文法ツリーを第２の文法要素１５０として出力する。それらの間に文法的な違いがある更新された第１の文法要素１７０と第２の文法要素１５０との変換が実行完了した後、更新された第１のパターン１３０における更新された第１のパターン要素１７０は、第２の文法要素１５０に変換される。この構造の利点は、ソフトウェアエンジニアリングで複数の文法要素コンバーターを個別にデバッグでき、異なるタイプの文法要素コンバーターを最適化でき、テスト中に文法要素ごとにテストできることである。

【0044】

ブロック２３０において、コンピューティングデバイス１６０は、更新された第１の文法要素１７０のコンテキスト関係に従って第２の文法要素１５０を組み合わせて、第２のパターン１４０を生成する。例えば、コンピューティングデバイスは、更新された第１のパターン１３０におけるパラメータ、呼び出し関数間の論理関係に従って、変換されたパラメータ、呼び出し関数を結合して、第２のパターン１４０を生成することができる。

【0045】

一実施例では、第１の文法要素１２０は第１の演算子を含み、第２の文法要素１５０は第２の演算子を含み、コンピューティングデバイス１６０は、第２のモード１４０を、第２の演算子に対応する第１の演算子によって実行させる。

【0046】

例えば、コンピューティングデバイス１６０は、第２のパターン１４０を第１のパターン１１０の第１の演算子に実行して結合することができ、当該第１の演算子は、第２のパターン１４０に変換される演算を含む。当該第１の演算子は、ニューラルネットワークの順方向計算と逆方向計算を実行できる。一つの例示では、例えば第一のパターンは次のとおりである。

【0047】

ｄｅｆ ｏｐ＿ａｄｄ（ｘ， ｙ）；
ｒｅｔｕｒｎ ｘ ＋ ｙ
ただし、第１の演算子は加算演算子ａｄｄであり、コンピューティングデバイス１６０は、上記の第１のパターンを第２のパターン「第２のパターンのａｄｄ、ｘ、ｙ」に変換する。「第２のパターンのａｄｄ、ｘ、ｙ」は、第２のパターン言語で記述された第２の演算子（第２のパターン言語で記述された加算演算子ａｄｄ）を含む。次に、コンピューティングデバイス１６０は、第２の演算子に対応する第１のパターンの演算子ａｄｄにより第２のパターンを実行し続けることができる。

【0048】

ｄｅｆ ｏｐ＿ａｄｄ（第２のパターンのａｄｄ、ｘ、ｙ）：
ｓｕｍ＝第２のパターン＿ａｄｄ（ｘ、ｙ）を実行する；
ｒｅｔｕｒｎ ｓｕｍ
最後に、実行の結果ｓｕｍが取得される。

【0049】

上記の例示は、第１の演算子と第２の演算子が単一の演算子、つまり加算演算子ａｄｄであることを示している。別の例示では、第１の演算子は、結合演算子であり得る。例えば、第１のパターンは、以下であり得る。

【0050】

ｄｅｆ ｆｕｎｃ（ｘ）：
ｒｅｔｕｒｎ ｓｏｆｔｍａｘ（ｗ＊ｘ＋ｂ）
すなわち、第１のパターンの第１の演算子は、行列乗算ｗ＊ｘにオフセット＋ｂを加えたものであり、最後にｓｏｆｔｍａｘ処理を行い、コンピューティングデバイス１６０は、上記の第１のパターンを第２のパターン「第２のパターンのｆｕｎｃ（ｘ）」に変換することができる。ここで、「第２パターンのｆｕｎｃ（ｘ）」には、第２パターン言語で記述された第２演算子（第２パターン言語で記述されたｓｏｆｔｍａｘ（ｗ＊ｘ＋ｂ）操作）が含み、そして、コンピューティングデバイス１６０は、第１のパターンの演算子によって第２のパターンを実行し続けることができる。即ち
ｄｅｆ ｆｕｎｃ（第２のパターンのｆｕｎｃ（ｘ））：
ｒｅｔｕｒｎ 第２のパターンのｆｕｎｃ（ｘ）を実行する。

【0051】

変換された第２のパターンを第１のパターンの一部に完全にネストすることにより、異なるパターン間のインターフェースの統一に対する需要を減らすことができる。第１のパターン（動的グラフパターン）と第２のパターン（静的グラフパターン）が非常に異なる深層学習フレームワークで実行されている場合、動的グラフパターンが静的グラフパターンに変換された後、運行パターンが異なるため、静的グラフパターンが元の動的グラフパターンを基礎として実行されることはできない。上記の方式は、この部分のソフトウェア管理の負担を軽減している。運行パターンが異なっていても、動的グラフ演算子の方式にして、動的グラフパターンで実行することもできる。また、動的グラフパターンを静的グラフパターンに部分的に変換できる。例えば、ユーザは一部の動的グラフパターンの性能に不満を持っているだけで、他の部分について動的グラフの使いやすさを保持したい。上記の方式は、すべての動的グラフパターンを静的グラフパターンに変換することによりも柔軟である。

【0052】

本開示では、深層学習フレームワークの使いやすさと配置性能の両方を併有している。変換前に命令型プログラミング（動的グラフとも呼ばれる）パターンを更新および最適化することにより、変換後の宣言型プログラミング（静的グラフとも呼ばれる）パターンの実行効率を向上させることができる。変換された静的グラフパターンを動的グラフオペレーター（ｏｐｅｒａｔｏｒ）として運行することにより、同じインターフェイスを制限する必要がなく、深層学習フレームワークの許容性が向上する。さらに、異なるタイプの文法要素コンバーターを限定し、コンバーターを最適化することにより、パターン変換を柔軟に分業およびテストでき、コンバーターの追加と削除が便利で、システムを柔軟かつ拡張可能にする。

【0053】

図４は、本開示のいくつかの実施例によるパターン変換の例示的なプロセスの概略図を示す。まず、コンピューティングデバイス１６０は、第１のパターン１１０に対する変換を実行するかどうかを判断する。ユーザが指定した第１のパターンについて、深層学習の第１のパターンのアプリケーションプログラミングインターフェイス（Ａｐｐｌｉｃａｔｉｏｎ Ｐｒｏｇｒａｍｍｉｎｇ Ｉｎｔｅｒｆａｃｅ）の運行は、通常、ビッグデータトレーニングを行なうために、複数のサイクル複数の実行を必要とする。運行ごとにパターンが変換されると、システムの速度が低下する。変換プロセスを高速化するために、システムは、まず、高速メモリ（例えばキャッシュ）を使用して、この部分のパターンが以前に変換されたかどうかを判断する。キャッシュがヒットした場合、つまりこの部分のパターンが以前に変換された場合は、変換された静的グラフパターンを直接に返し、そうでなければ、正式な変換プロセスに入り、今回の変換結果をキャッシュに記憶する。

【0054】

一実施例では、コンピューティングデバイスは、前記第１のパターンの第１の識別子を取得し、別の第１のパターンの第２の識別子を決定し、前記第１の識別子が第２の識別子とマッチングすると決定される場合、前記第２のパターンを前記第２パターンシステムにおける、別の第１パターンに対応するパターンとして決定する。

【0055】

例えば、コンピューティングデバイス１６０は、履歴における第１のパターンの第１の識別子およびそれに対応する変換された第２のパターンの識別子を識別子ペアとしてキャッシュ４１０に記憶する。コンピューティングデバイス１６０は、別の第１のパターンを受信すると、まず、当該別のパターンの第２の識別子を取得する。次に、コンピューティングデバイス１６０は、当該第２の識別子を上記の識別子ペアにおける第１の識別子と比較する。第１の識別子が第２の識別子とマッチングする場合、別の第１のパターンが第１のパターンと同じまたは機能的に同等であることを意味し、コンピューティングデバイスは、上記の識別子ペアにおける第２のパターンの識別子によって、履歴的に変換された第２のパターンを決定することができる。その後、当該第２のパターンを直接に別の第１のパターンの変換されたパターンとする。

【0056】

コンピューティングデバイス１６０が、第１の識別子が第２の識別子とマッチングしないと決定した場合、コンピューティングデバイスは、第１のパターン１１０を第１のパターンの抽象文法ツリー４１０に解析する。そして、この抽象文法ツリーを更新または最適化し、更新された第１のパターンの抽象文法ツリー４２０を決定する。次に、コンピューティングデバイス１６０は、第２のパターンの抽象文法ツリー４３０を決定する。コンピューティングデバイス１６０は、最後、第２のパターン１４０を生成する。詳細なプロセスについては、上記の図２の説明を参照し、ここでは贅言しない。

【0057】

上記の更新または最適化プロセスは、第１パターンに対する操作として示されているが、第２パターンを最適化または更新することもできる。または、第１パターンと第２パターンを同時に更新および最適化することができる。本開示はこれを制限しない。

【0058】

図５は、本開示のいくつかの実施例による、深層学習フレームワークにおけるパターン変換の装置の概略ブロック図を示している。装置５００は、図１のコンピューティングデバイス１６０に含んでもよく、コンピューティングデバイス１６０として実現されてもよい。

【0059】

図５に示すように、装置５００は、第１のパターンにおける第１の文法要素と第１のパターンにおける第１の文法要素との間のコンテキスト関係に基づいて第１の文法要素を更新し、更新された第１のパターンを取得するように配置される第１の更新モジュール５１０と、更新された第１のパターンにおける更新された第１の文法要素と第２のパターンシステムにおける第２の文法要素との間のマッピング関係に基づいて、更新された第１の文法要素に対応する第２の文法要素を生成するように配置される文法要素変換モジュール５２０と、更新された第１の文法要素のコンテキスト関係に基づいて第２の文法要素を結合して第２のパターンを生成するように配置されるパターン生成モジュール５３０と、を含む。

【0060】

いくつかの実施例では、更新された第１の文法要素の数は、第１の文法要素の数よりも少ない。

【0061】

いくつかの実施例では、第１の文法要素は第１の演算子を含み、第２の文法要素は第２の演算子を含み得る。装置５００は、第２のパターンを第２の演算子に対応する第１の演算子よって実行させるように配置されるパターン実行モジュールをさらに含んでもよい。

【0062】

いくつかの実施例では、第１のパターンの第１の識別子は、高速記憶装置に記憶され、装置５００は、第１のパターンの第１の識別子を取得するように配置される第１の識別子決定モジュールと、別の第１のパターンの第２の識別子を決定するように配置される第２の識別子決定モジュールと、第１の識別子が第２の識別子マッチングすると決定されると、第２のパターンを第２パターンシステムにおける、別の第１パターンに対応するパターンに決定するように配置されるパターン決定モジュールと、をさらに含んでもよい。

【0063】

いくつかの実施例では、第１の文法要素がループ演算子および条件演算子を含み得る。第１の更新モジュール５１０は、条件演算子とループ演算子との前文関係が第１のパターンで隣接していると決定すると、条件演算子とループ演算子を別のループ演算子に更新するように配置される第２の更新モジュールを含んでもよい。

【0064】

いくつかの実施例では、第１の文法要素は、定数を含み、第１のパターンにおける文法要素と第１のパターンにおける第１の文法要素との間のコンテキスト関係に基づいて、第１の更新モジュール５１０は、第１のパターンにおける重複な定数を除去するように配置される第３の更新モジュールを含んでもよい。

【0065】

いくつかの実施例では、第１のパターンは、命令型プログラミングによって実施され、第２のパターンは、宣言型プログラミングによって実施される。

【0066】

いくつかの実施例では、第１のパターンが実施されるのに必要なマシンコストは、第２のパターンが実施されるのに必要なマシンコストよりも大きくてもよい。

【0067】

図６は、本開示の実施例を実施するための例示デバイス６００の概略ブロック図を示している。例えば、図１に示される例示環境１００におけるコンピューティングデバイス１６０は、デバイス６００によって実施され得る。図面に示すように、デバイス６００は、リードオンリーメモリ（ＲＯＭ）６０２に記憶されたコンピュータプログラム命令または記憶ユニット６０８からランダムアクセスメモリ（ＲＡＭ）６０３にロードされたコンピュータプログラム命令に従って、各種の適切な動作及び処理を実行する中央処理ユニット（ＣＰＵ）６０１を含む。ＲＡＭ６０３には、デバイス６００の操作に必要な様々なプログラムおよびデータをさらに記憶することもできる。ＣＰＵ６０１、ＲＯＭ６０２およびＲＡＭ６０３は、バス６０４を介して互いに接続されている。入出力（Ｉ／Ｏ）インターフェース６０５もまた、バス６０４に接続されている。

【0068】

デバイス６００における複数の部品は、Ｉ／Ｏインターフェース６０５に接続されており、例えばキーボード、マウスなどの入力ユニット６０６と、例えば様々なタイプのディスプレイ、スピーカーなどの出力ユニット６０７と、例えば磁気ディスク、光ディスクなどの記憶ユニット６０８と、例えばネットワークカード、モデム、無線通信トランシーバなどの通信ユニット６０９とを含む。通信ユニット６０９は、デバイス６００が、例えばインターネットのコンピューターネットワークおよび／または様々な電気通信ネットワークを介して他のデバイスと情報／データを交換することを許す。

【0069】

例えば方法２００および３００などの上記の各プロセスおよび処理は、処理ユニット６０１によって実行され得る。例えば、いくつかの実施例では、方法２００および３００は、例えば記憶ユニット６０８というマシン読み取り可能な媒体に有形的に含まれるコンピュータソフトウェアプログラムとして実現され得る。いくつかの実施例では、コンピュータプログラムの一部または全部は、ＲＯＭ６０２および／または通信ユニット６０９を介してデバイス６００にロードおよび／またはインストールされ得る。コンピュータプログラムがＲＡＭ６０３にロードされ、ＣＰＵ６０１によって実行されるとき、上記の方法２００および３００における１つまたは複数の動作を実行することができる。

【0070】

本開示は、方法、装置、システム、および／またはコンピュータプログラム製品であり得る。コンピュータプログラム製品は、本開示の各態様を実行するためのコンピュータ読み取り可能なプログラム命令がロードされたコンピュータ読み取り可能な記憶媒体を含み得る。

【0071】

コンピュータ読み取り可能な記憶媒体は、命令実行デバイスによって使用される命令を保持および記憶することができる有形デバイスであり得る。コンピュータ読み取り可能な記憶媒体は、電気記憶装置、磁気記憶装置、光記憶装置、電磁記憶装置、半導体記憶装置、または上記の任意の適切な組み合わせであり得るが、これらに限定されない。コンピュータ読み取り可能な記憶媒体のより具体的な例（網羅的ではないリスト）は、ポータブルコンピュータディスク、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリーメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリーメモリ（ＥＰＲＯＭまたはフラッシュ）、スタティックランダムアクセスメモリ（ＳＲＡＭ）、ポータブルコンパクトディスクリードオンリーメモリ（ＣＤ－ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、メモリスティック、フロッピー（登録商標）ディスク、マシンエンコーディングデバイス、例えば命令が保存されたホールカードまたは溝の突出構造、および上記の任意の適切な組み合わせを含む。ここで使用されるコンピュータ読み取り可能な記憶媒体は、無線電波または他の自由に伝播する電磁波、導波路または他の伝送媒体を介して伝播される電磁波（例えば、光ファイバーケーブルを通る光パルス）、またはワイヤーを介して伝播される電気信号などの過渡信号自体として解釈されない。

【0072】

ここに記載のコンピュータ読み取り可能なプログラム命令は、コンピュータ読み取り可能な記憶媒体から各コンピューティング／処理デバイスにダウンロードするか、またはネットワーク、ローカルエリアネットワーク、広域ネットワーク、および／またはワイヤレスネットワークを介して外部コンピュータまたは外部記憶装置にダウンロードすることができる。ネットワークには、銅線伝送ケーブル、光ファイバー伝送、無線伝送、ルーター、ファイアウォール、スイッチ、ゲートウェイコンピューター、および／またはエッジサーバーを含むことができる。各コンピューティング／処理デバイスのネットワークアダプタカードまたはネットワークインターフェースは、ネットワークからコンピュータ読み取り可能なプログラム命令を受信し、このコンピュータ読み取り可能なプログラム命令を転送して、各コンピューティング／処理デバイスのコンピュータ読み取り可能な記憶媒体に記憶する。

【0073】

本開示の操作を実行するためのコンピュータプログラム命令は、アセンブリ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン関連命令、マイクロコード、ファームウェア命令、状態設定データ、または1つ以上のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードであってもよい。前記プログラミング言語は、例えばＳｍａｌｌｔａｌｋ、Ｃ＋＋などのオブジェクト指向プログラミング言語と、「Ｃ」言語または同様のプログラミング言語などの通常のプロセス型プログラミング言語を含む。コンピューターで読み取り可能なプログラム命令は、完全にユーザのコンピューターで、一部がユーザのコンピューターでスタンドアロンソフトウェアパッケージとして、一部がユーザのコンピューターで、一部がリモートコンピューターで、または完全にリモートコンピューターまたはサーバーで実行できる。リモートコンピューターの場合、リモートコンピューターは、ローカルエリアネットワーク（ＬＡＮ）やワイドエリアネットワーク（ＷＡＮ）など、あらゆる種類のネットワークを介してユーザのコンピューターまたは、外部コンピューターに接続することができる（例えば、インターネットサービスプロバイダーを使用してインターネット経由で接続する）。 いくつかの実施例では、例えばプログラマブル論理回路、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、またはプログラマブルロジックアレイ（ＰＬＡ）などのコンピュータ読み取り可能なプログラム命令を実行することができる電子回路は、コンピュータ読み取り可能なプログラム命令のステータス情報を使用することによってカスタマイズすることができる。これにより、本開示の様々な側面を実現する。

【0074】

本明細書では、本開示の様々な態様が、本開示の実施例による方法、装置（システム）、およびコンピュータプログラム製品のフローチャートおよび／またはブロック図を参照して説明される。フローチャートおよび／またはブロック図の各ブロック、およびフローチャートおよび／またはブロック図のブロックの組み合わせは、コンピュータ読み取り可能なプログラム命令によって実現することができることを理解されたい。

【0075】

これらのコンピュータ読み取り可能なプログラム命令は、汎用コンピュータ、専用コンピュータ、または他のプログラム可能なデータ処理デバイスの処理ユニットに提供することができ、それによって、これらの命令をコンピュータまたは他のプログラム可能なデータ処理デバイスの処理ユニットによって実行する時に、フローチャートおよび／またはブロック図の１つまたは複数のブロックで指定された機能／動作を実現する装置が生成されるようにマシンを製造する。これらのコンピュータ読み取り可能なプログラム命令をコンピュータ読み取り可能な記憶媒体に格納することも可能であり、これらの命令は、コンピュータ、プログラム可能なデータ処理装置、および／または他のデバイスを特定の方式で動作させる。したがって、命令を保存するコンピュータ読み取り可能な媒体は、フローチャートおよび／またはブロック図の１つまたは複数のブロックで指定された機能／動作の様々な側面を実現する命令を含む製造品を含む。

【0076】

一連の操作ステップをコンピュータ、他のプログラム可能なデータ処理装置、または他のマシンで実行するようにコンピュータ読み取り可能なプログラム命令をコンピュータ、他のプログラム可能なデータ処理装置、または他のマシンにロードしてもよい。これにより、コンピュータが実現するプロセスを発生して、コンピュータ、他のプログラム可能なデータ処理装置、または他のマシンで実行される命令が、フローチャートおよび／またはブロック図の１つまたは複数のブロックで指定された機能／動作を実現する。

【0077】

添付の図面のフローチャートおよびブロック図は、本開示の複数の実施例による、システム、方法、およびコンピュータプログラム製品の可能な実現アーキテクチャ、機能、および動作を示している。これに関して、フローチャートまたはブロック図の各ブロックは、モジュール、プログラムセグメント、または命令の一部を表すことができ、前記モジュール、プログラムセグメント、または命令の一部は、指定された論理機能を実現するための１つまたは複数の実行可能な命令を含む。いくつかの代替の実現では、ブロックでマークされた機能は、図面でマークされた順序と異なる順序で発生する場合もある。例えば、２つの連続するブロックは、関連する機能に応じて、実際には並行して実行することも、逆の順序で実行することもできる。ブロック図および／またはフローチャートの各ブロック、およびブロック図および／またはフローチャートのブロックの組み合わせは、指定された機能または動作を実行する専用のハードウェアベースのシステム又は専用のハードウェアとコンピュータの命令との組み合わせによって実現できる。

【0078】

本開示の実施形態は上記に記載されており、上記の説明は例示的であり、網羅的ではなく、開示された実施形態に限定されない。説明された各実施形態の範囲および精神から逸脱することない場合、多くの修正および変更が当業者には明らかである。本明細書で使用される用語の選択は、各実施形態の原理、実際の応用、または市場における技術の改善を最もよく説明すること、または本技術分野の他の当業者が本明細書に開示される様々な実施形態を理解できるようにすることを意図している。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】