特開 2024-159724 データ処理装置、データ処理方法、電子機器、コンピュータプログラムおよび記憶媒体

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024159724

(43)【公開日】2024-11-08

(54)【発明の名称】データ処理装置、データ処理方法、電子機器、コンピュータプログラムおよび記憶媒体

(51)【国際特許分類】

   G06F 17/16 20060101AFI20241031BHJP

【ＦＩ】

G06F17/16 M

【審査請求】有

【請求項の数】22

【出願形態】ＯＬ

(21)【出願番号】P 2024072356

(22)【出願日】2024-04-26

(31)【優先権主張番号】202310484290.0

(32)【優先日】2023-04-28

(33)【優先権主張国・地域又は機関】CN

(71)【出願人】

【識別番号】521457387

【氏名又は名称】クンルンシン テクノロジー （ベイジン） カンパニー リミテッド

【氏名又は名称原語表記】Ｋｕｎｌｕｎｘｉｎ Ｔｅｃｈｎｏｌｏｇｙ （Ｂｅｉｊｉｎｇ） Ｃｏｍｐａｎｙ Ｌｉｍｉｔｅｄ

【住所又は居所原語表記】ＣＷ Ｓｅｃｔｉｏｎ， Ｆ／４， Ｂｕｉｌｄｉｎｇ １， Ｎｏ．１０， Ｓｈａｎｇｄｉ １０ｔｈ Ｓｔｒｅｅｔ， Ｈａｉｄｉａｎ Ｄｉｓｔｒｉｃｔ， １００１０１， Ｂｅｉｊｉｎｇ， Ｃｈｉｎａ

(74)【代理人】

【識別番号】110000914

【氏名又は名称】弁理士法人ＷｉｓｅＰｌｕｓ

(72)【発明者】

【氏名】シャン リァン

(72)【発明者】

【氏名】ガオ ダーホン

(72)【発明者】

【氏名】リー ユーポン

【テーマコード（参考）】

5B056

【Ｆターム（参考）】

5B056BB71

5B056FF05

(57)【要約】      （修正有）

【課題】行列乗算においてアクセスメモリ量を効果的に低減し、データ処理装置の効率を向上させる装置、データ処理方法、電子機器、コンピュータプログラム及び記憶媒体を提供する。
【解決手段】データ処理装置は、複数の記憶空間を含むキャッシュユニットとプロセッサとを含み、プロセッサは、複数の記憶空間から、Ｉ個の記憶空間群を決定し、各記憶空間群に対して、第１行列の規模および第１記憶空間の容量に基づいて、複数の第１初期規模情報を決定する操作、複数の第１初期規模情報の各々に基づいて、第２行列に関連する少なくとも１つの第２規模情報を決定する操作、複数の第２規模情報及び複数の第１初期規模情報に基づいて、複数の第１初期アクセスメモリ量を決定する操作を実行し、各記憶空間群に対応する複数の第１初期アクセスメモリ量を取得し、Ｉ個の記憶空間群のすべての第１初期アクセスメモリ量から、目標アクセスメモリ量を決定する。
【選択図】図４

【特許請求の範囲】

【請求項1】

データ処理装置であって、
複数の記憶空間を含むキャッシュユニットと、
プロセッサと、を含み、
前記プロセッサは、
前記複数の記憶空間から、それぞれが第１記憶空間と第２記憶空間とを含むＩ（Ｉは１以上の整数である）個の記憶空間群を決定し、
前記各記憶空間群に対して、
前記第１記憶空間に対応する行列である第１行列の規模および前記第１記憶空間の容量に基づいて、複数の第１初期規模情報を決定する操作、
前記複数の第１初期規模情報の各々に基づいて、前記第２記憶空間に対応する行列である第２行列に関連する少なくとも１つの第２規模情報を決定する操作、
複数の前記第２規模情報及び複数の前記第１初期規模情報に基づいて、前記複数の第１初期アクセスメモリ量を決定する操作を実行することで、
前記各記憶空間群に対応する複数の第１初期アクセスメモリ量を取得し、
前記Ｉ個の記憶空間群のすべての第１初期アクセスメモリ量から、目標アクセスメモリ量を決定するように構成されている、
データ処理装置。

【請求項2】

前記プロセッサは、さらに、前記各記憶空間群に対して、
複数の前記第２規模情報、及び、少なくとも１つの第１目標規模情報に対応する複数の前記第１初期規模情報に基づいて、複数の第１目標規模情報を決定する操作、
複数の前記第１目標規模情報に基づいて、前記各記憶空間群に対応する複数の第１初期アクセスメモリ量から少なくとも１つの第２初期アクセスメモリ量を決定する操作を実行するように構成されている、
請求項１に記載の装置。

【請求項3】

前記プロセッサは、さらに、前記各記憶空間群に対して、
複数の前記第２規模情報及び複数の前記第１目標規模情報に基づいて、前記各記憶空間群における第３記憶空間に対応する行列である第３行列に関連する複数の第３規模情報を決定する操作、
複数の前記第１目標規模情報および複数の前記第３規模情報に基づいて、前記複数の第１初期アクセスメモリ量から前記少なくとも１つの第２初期アクセスメモリ量を決定する操作を実行するように構成されている、
請求項２に記載の装置。

【請求項4】

前記プロセッサは、さらに、前記Ｉ個の記憶空間群のすべての第２初期アクセスメモリ量から前記目標アクセスメモリ量を決定するように構成されている、
請求項３に記載の装置。

【請求項5】

前記プロセッサは、さらに、
前記目標アクセスメモリ量に対応する前記第１目標規模情報、前記第２規模情報及び前記第３規模情報に基づいて、行列乗算操作を実行するように構成されている、
請求項４に記載の装置。

【請求項6】

前記複数の行列は、乗数行列、被乗数行列および結果行列を含み、
前記目標アクセスメモリ量に対応する前記第１行列、前記第２行列および前記第３行列は、それぞれ、第１目標行列、第２目標行列および第３目標行列である、
請求項５に記載の装置。

【請求項7】

前記プロセッサは、さらに、
前記第３目標行列が前記結果行列である場合、
前記目標アクセスメモリ量に対応する前記第１目標規模情報に従って、前記第１目標行列の第１サブ行列を前記第１記憶空間にロードし、
前記目標アクセスメモリ量に対応する前記第２規模情報に従って、前記第２目標行列の第２サブ行列を前記第２記憶空間にロードし、
前記第１サブ行列及び前記第２サブ行列に対して行列乗算操作を実行し、前記第３目標行列の第３サブ行列を取得し、
前記第３サブ行列を前記第３記憶空間に書き込むように構成されている、
請求項６に記載の装置。

【請求項8】

前記プロセッサは、さらに、
前記第１目標行列が前記結果行列である場合、
前記目標アクセスメモリ量に対応する前記第３規模情報に従って、前記第３目標行列の第３サブ行列を前記第３記憶空間にロードし、
前記目標アクセスメモリ量に対応する前記第２規模情報に従って、前記第２目標行列の第２サブ行列を前記第２記憶空間にロードし、
前記第３サブ行列及び前記第２サブ行列に対して行列乗算操作を実行して、前記第１目標行列の第１サブ行列を取得し、
前記第１サブ行列を前記第１記憶空間に書き込むように構成されている、
請求項６に記載の装置。

【請求項9】

前記プロセッサは、さらに、
前記第２目標行列が前記結果行列である場合、
前記目標アクセスメモリ量に対応する前記第１目標規模情報に従って、前記第１目標行列の第１サブ行列を前記第１記憶空間にロードし、
前記目標アクセスメモリ量に対応する前記第３規模情報に従って、前記第３目標行列の第３サブ行列を前記第３記憶空間にロードし、
前記第１サブ行列及び前記第３サブ行列に対して行列乗算操作を実行し、前記第２目標行列の第２サブ行列を取得し、
前記第２サブ行列を前記第２記憶空間に書き込むように構成されている、
請求項６に記載の装置。

【請求項10】

請求項１～９のいずれか１項に記載のデータ処理装置を含む電子機器。

【請求項11】

データ処理方法であって、
キャッシュユニットの複数の記憶空間から、それぞれが第１記憶空間と第２記憶空間とを含むＩ（Ｉは１以上の整数である）個の記憶空間群を決定することと、
前記各記憶空間群に対して、
前記第１記憶空間に対応する行列である第１行列の規模および前記第１記憶空間の容量に基づいて、複数の第１初期規模情報を決定する操作、
前記複数の第１初期規模情報の各々に基づいて、前記第２記憶空間に対応する行列である第２行列に関連する少なくとも１つの第２規模情報を決定する操作、
複数の前記第２規模情報及び複数の前記第１初期規模情報に基づいて、前記複数の第１初期アクセスメモリ量を決定する操作を実行することで、前記各記憶空間群に対応する複数の第１初期アクセスメモリ量を取得することと、
前記Ｉ個の記憶空間群のすべての第１初期アクセスメモリ量から目標アクセスメモリ量を決定することと、を含む
データ処理方法。

【請求項12】

前記各記憶空間群に対して、さらに、
複数の前記第２規模情報、及び、少なくとも１つの第１目標規模情報に対応する複数の前記第１初期規模情報に基づいて、複数の第１目標規模情報を決定する操作、
複数の前記第１目標規模情報に基づいて、前記各記憶空間群に対応する複数の第１初期アクセスメモリ量から少なくとも１つの第２初期アクセスメモリ量を決定する操作も実行する
請求項１１に記載の方法。

【請求項13】

前記各記憶空間群に対応する複数の第１初期アクセスメモリ量から少なくとも１つの第２初期アクセスメモリ量を決定することは、
複数の前記第２規模情報及び複数の前記第１目標規模情報に基づいて、前記各記憶空間群における第３記憶空間に対応する行列である第３行列に関連する複数の第３規模情報を決定することと、
複数の前記第１目標規模情報および複数の前記第３規模情報に基づいて、前記複数の第１初期アクセスメモリ量から前記少なくとも１つの第２初期アクセスメモリ量を決定することと、を含む、
請求項１２に記載の方法。

【請求項14】

前記Ｉ個の記憶空間群のすべての第１初期アクセスメモリ量から目標アクセスメモリ量を決定することは、
前記Ｉ個の記憶空間群のすべての第２初期アクセスメモリ量から前記目標アクセスメモリ量を決定することを含む、
請求項１３に記載の方法。

【請求項15】

前記目標アクセスメモリ量に対応する前記第１目標規模情報、前記第２規模情報及び前記第３規模情報に基づいて、行列乗算操作を実行することをさらに含む
請求項１４に記載の方法。

【請求項16】

前記複数の行列は、乗数行列、被乗数行列および結果行列を含み、前記目標アクセスメモリ量に対応する前記第１行列、前記第２行列および前記第３行列は、それぞれ、第１目標行列、第２目標行列および第３目標行列である、
請求項１５に記載の方法。

【請求項17】

行列乗算を実行する操作は、
前記第３目標行列が前記結果行列である場合、
前記目標アクセスメモリ量に対応する前記第１目標規模情報に従って、前記第１目標行列の第１サブ行列を前記第１記憶空間にロードすることと、
前記目標アクセスメモリ量に対応する前記第２規模情報に従って、前記第２目標行列の第２サブ行列を前記第２記憶空間にロードすることと、
前記第１サブ行列及び前記第２サブ行列に対して行列乗算操作を実行し、前記第３目標行列の第３サブ行列を取得することと、
前記第３サブ行列を前記第３記憶空間に書き込むことと、を含む、
請求項１６に記載の方法。

【請求項18】

行列乗算を実行する操作は、
前記第１目標行列が前記結果行列である場合、
前記目標アクセスメモリ量に対応する前記第３規模情報に従って、前記第３目標行列の第３サブ行列を前記第３記憶空間にロードすることと、
前記目標アクセスメモリ量に対応する前記第２規模情報に従って、前記第２目標行列の第２サブ行列を前記第２記憶空間にロードすることと、
前記第３サブ行列及び前記第２サブ行列に対して行列乗算操作を実行して、前記第１目標行列の第１サブ行列を取得することと、
前記第１サブ行列を前記第１記憶空間に書き込むことと、を含む、
請求項１６に記載の方法。

【請求項19】

前記行列乗算を実行する操作は、
前記第２目標行列が前記結果行列である場合、
前記目標アクセスメモリ量に対応する前記第１目標規模情報に従って、前記第１目標行列の第１サブ行列を前記第１記憶空間にロードすることと、
前記目標アクセスメモリ量に対応する前記第３規模情報に従って、前記第３目標行列の第３サブ行列を前記第３記憶空間にロードすることと、
前記第１サブ行列及び前記第３サブ行列に対して行列乗算操作を実行し、前記第２目標行列の第２サブ行列を取得することと、
前記第２サブ行列を前記第２記憶空間に書き込むことと、を含む、
請求項１６に記載の方法。

【請求項20】

少なくとも１つのプロセッサと、
前記少なくとも１つのプロセッサと通信接続されたメモリと、を含み、
前記メモリは、前記少なくとも１つのプロセッサによって実行可能な命令を記憶し、前記命令は、前記少なくとも１つのプロセッサが請求項１１～１９のいずれか１項に記載の方法を実行できるように、前記少なくとも１つのプロセッサによって実行される、
電子機器。

【請求項21】

コンピュータ命令が記憶されている非一時的なコンピュータ可読記憶媒体であって、
前記コンピュータ命令は、前記コンピュータに請求項１１～１９のいずれか一項に記載の方法を実行させる、
非一時的なコンピュータ可読記憶媒体。

【請求項22】

プロセッサによって実行されると、請求項１１～１９のいずれか一項に記載の方法を実現するコンピュータプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本開示は、人工知能技術分野に関し、特に、チップ技術分野に関する。より具体的には、本開示は、データ処理装置、データ処理方法、電子機器、コンピュータプログラム及び記憶媒体を提供する。

【背景技術】

【0002】

人工知能技術の発展に伴い、人工知能チップのハードウェア資源に基づいて深層学習モデルの演算子を調整することができる。

【発明の概要】

【課題を解決するための手段】

【0003】

本開示は、データ処理装置、データ処理方法、電子機器、コンピュータプログラム及び記憶媒体を提供する。

【0004】

本開示の一態様によれば、データ処理装置を提供し、当該装置は、複数の記憶空間を含むキャッシュユニットと、プロセッサと、を含み、プロセッサは、前記複数の記憶空間から、それぞれが第１記憶空間と第２記憶空間とを含むＩ個の記憶空間群を決定し、前記各記憶空間群に対して、前記第１記憶空間に対応する行列である第１行列の規模および前記第１記憶空間の容量に基づいて、複数の第１初期規模情報を決定する操作、前記複数の第１初期規模情報の各々に基づいて、前記第２記憶空間に対応する行列である第２行列に関連する少なくとも１つの第２規模情報を決定する操作、複数の前記第２規模情報及び複数の前記第１初期規模情報に基づいて、前記複数の第１初期アクセスメモリ量を決定する操作を実行し、前記各記憶空間群に対応する複数の第１初期アクセスメモリ量を取得し、前記Ｉ個の記憶空間群のすべての第１初期アクセスメモリ量から、目標アクセスメモリ量を決定するように構成され、ここで、Ｉは１以上の整数である。

【0005】

本開示の別の態様によれば、本開示に係るデータ処理装置を含む電子機器を提供する。

【0006】

本開示の別の態様によれば、データ処理方法を提供し、当該方法は、キャッシュユニットの複数の記憶空間から、それぞれが第１記憶空間と第２記憶空間とを含むＩ個の記憶空間群を決定することと、前記各記憶空間群に対して、前記第１記憶空間に対応する行列である第１行列の規模および前記第１記憶空間の容量に基づいて、複数の第１初期規模情報を決定する操作、前記複数の第１初期規模情報の各々に基づいて、前記第２記憶空間に対応する行列である第２行列に関連する少なくとも１つの第２規模情報を決定する操作、複数の前記第２規模情報及び複数の前記第１初期規模情報に基づいて、前記複数の第１初期アクセスメモリ量を決定する操作を実行し、前記各記憶空間群に対応する複数の第１初期アクセスメモリ量を取得することと、前記Ｉ個の記憶空間群のすべての第１初期アクセスメモリ量から目標アクセスメモリ量を決定することと、を含み、ここで、Ｉが１以上の整数である。

【0007】

本開示の別の態様によれば、電子機器を提供し、少なくとも１つのプロセッサと、前記少なくとも１つのプロセッサと通信接続されたメモリと、を含み、前記メモリは、前記少なくとも１つのプロセッサによって実行可能な命令を記憶し、前記命令は、前記少なくとも１つのプロセッサが本開示に係る方法を実行できるように、前記少なくとも１つのプロセッサによって実行される。

【0008】

本開示の別の態様によれば、コンピュータ命令が記憶されている非一時的なコンピュータ可読記憶媒体を提供し、前記コンピュータ命令は、前記コンピュータに本開示に係る方法を実行させる。

【0009】

本開示の別の態様によれば、コンピュータプログラムを提供し、プロセッサによって実行されると、本開示に係る方法を実現する。

【0010】

理解すべきように、本部分に記載された内容は、本開示の実施例の重要な特徴を識別するためのものではなく、本開示の範囲を制限するものでもない。本開示のその他の特徴は、以下の明細書によって容易に理解されるであろう。

【0011】

図面は、本発明をより良く理解するためのものであり、本開示を限定するものではない。

【図面の簡単な説明】

【0012】

【図1】図１は、本開示の一実施例に係るデータ処理装置の概略ブロック図である。

【図2A】図２Ａは、本開示の一実施例に係る第１初期規模情報の模式図である。

【図2B】図２Ｂは、本開示の一実施例に係る第２規模情報の模式図である。

【図2C】図２Ｃは、本開示の一実施例に係る第３規模情報の模式図である。

【図3】図３は、本開示の一実施例に係る電子機器の模式図である。

【図4】図４は、本開示の一実施例に係るデータ処理方法のフローチャートである。

【図5】図５は、本開示の一実施例に係るデータ処理方法を適用可能な電子機器のブロック図である。

【発明を実施するための形態】

【0013】

以下、図面を参照して本開示の例示的な実施例を説明し、理解を容易にするために、本開示の実施例の様々な詳細を含み、これらが例示的なものに過ぎないと理解されるべきである。したがって、当業者は、ここに記載された実施例に対して、本開示の範囲及び精神から逸脱することなく、様々な変更及び修正を行うことができることを認識すべきである。同様に、明確かつ簡潔にするために、以下の説明では、公知の機能及び構造についての説明を省略する。

【0014】

ディープラーニングモデルのいくつかの演算子は、アクセスメモリ集中型演算子であってもよい。アクセスメモリ集中型演算子は、例えば、一般行列乗算（Ｇｅｎｅｒａｌ Ｍａｔｒｉｘ Ｍｕｌｔｉｐｌｉｃａｔｉｏｎ、ＧＥＭＭ）演算子を含んでもよい。

【0015】

一般行列乗算演算子は、被乗数行列Ａ、乗数行列Ｂ、結果行列Ｃに対応することができる。一般行列乗算演算子の計算プロセスは以下のように実現できる。

【数1】

【0016】

被乗数行列Ａの規模（ｓｈａｐｅ）は、ｍ×ｋであってもよく、乗数行列Ｂの規模は、ｋ×ｎであってもよく、結果行列Ｃの規模は、ｍ×ｎであってもよい。被乗数行列Ａおよび乗数行列Ｂは、それぞれ、一般行列乗算演算子の２つの入力行列とすることができる。

【0017】

いくつかの実施例では、２つの入力行列のうちのいずれかの入力行列を分解し、当該入力行列の複数のサブ行列を得ることができる。

【0018】

例えば、被乗数行列Ａを複数のサブ行列に分解してもよい。レベル一のキャッシュユニット（Ｌｅｖｅｌ １ Ｃａｃｈｅ、Ｌ１ Ｃａｃｈｅ）において、複数の記憶空間が決定され、それぞれ被乗数行列Ａのサブ行列、乗数行列Ｂと結果行列Ｃを記憶する。これにより、レベル一のキャッシュ手段の利用率を向上させ、外部記憶ユニット（例えばビデオメモリ）におけるオリジナル行列へのアクセスを低減することができる。

【0019】

被乗数行列Ａのサブ行列の規模は、例えば、ｌ＿ｍ×ｋであってもよい。被乗数行列Ａのサブ行列は、レベル一のキャッシュ手段の一つの記憶空間に記憶されてもよい。複数のサブ行列をそれぞれ乗数行列Ｂに乗算し、アクセスメモリ量パラメータ値ＬＳ＿Ａは、以下のようなものであってもよい。

【数2】

【0020】

行列内の各要素のデータ量を決定する場合、アクセスメモリ量パラメータ値と当該データ量との積は、アクセスメモリ量であることが理解される。各要素のデータ量は、例えば３２ビット（ｂｉｔ）であってもよい。

【0021】

例えば、乗数行列Ｂを複数のサブ行列に分解してもよい。レベル一のキャッシュユニットにおいて複数の記憶空間を決定し、それぞれ被乗数行列Ａ、乗数行列Ｂのサブ行列と結果行列Ｃを記憶する。これにより、レベル一のキャッシュユニットの利用率を向上させ、外部記憶手段（例えばビデオメモリ）におけるオリジナル行列へのアクセスを低減することもできる。

【0022】

乗数行列Ｂのサブ行列の規模は、例えば、ｋ×ｌ＿ｎであってもよい。乗数行列Ｂのサブ行列は、レベル一のキャッシュユニットの１つの記憶空間に記憶されてもよい。複数のサブ行列をそれぞれ被乗数行列Ａに乗算し、アクセスメモリ量パラメータ値ＬＳ＿Ｂは、以下のようなものであってもよい。

【数3】

【0023】

これにより、１つの入力行列を分解する場合、最小のアクセスメモリ量パラメータ値ＬＳ＿ＡｏｒＢは、以下のようなものであってもよい。

【数4】

【0024】

しかしながら、１つの入力行列のみを分解する場合、分解されていない行列がレベル一のキャッシュユニットに記憶されにくい可能性があり、この分解されていない行列へのアクセスを外部記憶手段から複数回繰り返す必要があり、アクセスメモリ量が増大してしまう。また、結果行列に対応する記憶空間を十分に利用せず、記憶空間が十分に利用されない。

【0025】

図１は、本開示の一実施例に係るデータ処理装置の概略ブロック図である。

【0026】

図１に示すように、装置１００は、キャッシュユニット１１０及びプロセッサ１２０を含んでもよい。

【0027】

キャッシュユニット１１０は、複数の記憶空間を含んでもよい。本開示の実施例において、複数の記憶空間は、それぞれ複数の行列に対応してもよい。例えば、複数の記憶空間は、記憶空間Ｌ１Ａ、記憶空間Ｌ１Ｂ及び記憶空間Ｌ１Ｃを含んでもよく、上記の被乗数行列Ａ、乗数行列Ｂ及び結果行列Ｃにそれぞれ対応してもよい。

【0028】

プロセッサ１２０は、複数の記憶空間からＩ個の記憶空間群を決定するように構成されてもよい。本開示の実施例において、Ｉ個の記憶空間群における各記憶空間は、第１記憶空間と第２記憶空間とを含んでもよい。Ｉは１以上の整数であってもよい。例えば、複数の行列が３つの行列である場合、Ｉは６であってもよい。行列数が３であることが例示であることが理解される。複数の行列は、２つ、４つまたはより多くの行列であってもよい。

【0029】

プロセッサ１２０は、各記憶空間群に対して、第１行列の規模および第１記憶空間の容量に基づいて、複数の第１初期規模情報を決定する操作、複数の第１初期規模情報のうちの各第１初期規模情報に基づいて、少なくとも１つの第２規模情報を決定する操作、複数の第２規模情報及び複数の第１初期規模情報に基づいて、複数の第１初期アクセスメモリ量を決定する操作を実行することにより、各記憶空間群に対応する複数の第１初期アクセスメモリ量を取得するように構成されてもよい。

【0030】

本開示の実施例において、第１行列は、第１記憶空間に対応する行列である。第１記憶空間に対応する行列は、例えば被乗数行列Ａであり、第１記憶空間は、記憶空間Ｌ１Ａであってもよい。被乗数行列Ａの規模と記憶空間Ｌ１Ａの容量に基づいて、複数の第１初期規模情報を決定することができる。第１初期規模情報に対応するサブ行列のデータ量は、第１記憶空間の容量以下である。第１初期規模情報は、第１初期行数と第１初期列数とを含んでもよい。例えば、被乗数行列Ａについて、行数ｍ＝２０かつ列数ｋ＝２０であれば、少なくとも２つの第１初期規模情報を決定することができる。第１初期規模情報ｌａｒｇｅ＿Ａ１は、第１初期行数ｌａｒｇｅ＿ａｍ１及び第１初期列数ｌａｒｇｅ＿ａｋ１を含んでもよい。第１初期行数ｌａｒｇｅ＿ａｍ１は、４であってもよく、第１初期列数ｌａｒｇｅ＿ａｋ１は、５であってもよい。第１初期規模情報ｌａｒｇｅ＿Ａ２は、第１初期行数ｌａｒｇｅ＿ａｍ２及び第１初期列数ｌａｒｇｅ＿ａｋ２を含んでもよい。第１初期行数ｌａｒｇｅ＿ａｍ２は、２であってもよく、第１初期列数ｌａｒｇｅ＿ａｋ２は、１０であってもよい。

【0031】

本開示の実施例において、第２規模情報は第２行列に関連し、第２行列は第２記憶空間に対応する行列である。第２記憶空間に対応する行列が乗数行列Ｂであることを例とし、第２記憶空間は記憶空間Ｌ１Ｂであってもよい。乗数行列Ｂの規模と、記憶空間Ｌ１Ｂの容量とに基づいて、複数の第２規模情報を決定してもよい。第２規模情報に対応するサブ行列のデータ量は、第２記憶空間の容量以下である。第２規模情報は、第２行数と第２列数とを含んでもよい。例えば、乗数行列Ｂについて、行数ｋ＝２０かつ列数ｎ＝２０であれば、第１初期規模情報ｌａｒｇｅ＿Ａ２に基づいて、少なくとも２つの第２規模情報を決定することができる。第２規模情報ｌｉｔｔｌｅ＿Ｂ１は、第２行数ｌｉｔｔｌｅ＿ｂｋ１と、第２列数ｌｉｔｔｌｅ＿ｂｎ１とを含んでもよい。第２行数ｌｉｔｔｌｅ＿ｂｋ１は、２であってもよく、第２列数ｌｉｔｔｌｅ＿ｂｎ１は、５であってもよい。第２規模情報ｌｉｔｔｌｅ＿Ｂ２は、第２行数ｌｉｔｔｌｅ＿ｂｋ２と、第２列数ｌｉｔｔｌｅ＿ｂｎ２とを含んでもよい。第２行数ｌｉｔｔｌｅ＿ｂｋ２は、５であってもよく、第２列数ｌｉｔｔｌｅ＿ｂｎ２は、４であってもよい。

【0032】

本開示の実施例において、第１行列の規模、第２行列の規模、第３行列の規模、第１初期規模情報及び第２規模情報に基づいて、第１初期アクセスメモリ量を取得する。例えば、第１行列が上述の被乗数行列Ａであり、第２行列が上述の乗数行列Ｂである場合、第３行列は、上記結果行列Ｃであってもよい。３つの行列それぞれの規模、第１初期規模情報ｌａｒｇｅ＿Ａ２及び第２規模情報ｌｉｔｔｌｅ＿Ｂ１に基づいて、１つのアクセスメモリ量パラメータ値ＬＳ＿Ａ２Ｂ１を決定することができる。当該アクセスメモリ量パラメータ値に基づいて、アクセスメモリ量を決定することができる。

【0033】

プロセッサ１２０は、Ｉ個の記憶空間群のすべての第１初期アクセスメモリ量から目標アクセスメモリ量を決定するように構成されてもよい。例えば、Ｉ＝６である場合、異なる記憶空間群によって決定されたアクセスメモリ量は異なってもよい。最小アクセスメモリ量を目標アクセスメモリ量としてもよい。

【0034】

本開示の実施例によれば、行列乗算演算子に関連する複数の行列のうちの少なくとも２つの行列を分割し、アクセスメモリ量を効果的に低減することができ、行列乗算演算子の実行効率を提供し、データ処理装置の効率を向上させることに役立つ。

【0035】

理解されるように、以上、本開示のデータ処理装置について説明したが、以下、図２Ａ～図２Ｃを参照して本開示のプロセッサをさらに説明する。

【0036】

図２Ａは、本開示の一実施例に係る第１初期規模情報の模式図である。

【0037】

図２Ａに示すように、被乗数行列Ａ２１０の規模はｍ×ｋであり、乗数行列Ｂ２２０の規模はｋ×ｎであり、結果行列Ｃ２３０の規模はｍ×ｎであってもよい。例えば、ｍ＝１０、ｎ＝１０、ｋ＝１０である。

【0038】

本開示の実施例において、プロセッサは、各記憶空間群に対して、第１行列の規模及び第１記憶空間の容量に基づいて、複数の第１初期規模情報を決定する操作を実行するように構成されてもよい。第１行列が被乗数行列Ａ２１０であることを例として、第１初期規模情報ｌａｒｇｅ＿Ａ３は、第１初期行数ｌａｒｇｅ＿ａｍ３及び第１初期列数ｌａｒｇｅ＿ａｋ３を含んでもよい。第１初期行数ｌａｒｇｅ＿ａｍ３は、例えば、２であってもよく、第１初期列数ｌａｒｇｅ＿ａｋ３は、例えば、５であってもよい。第１初期規模情報ｌａｒｇｅ＿Ａ３に対応する第１初期サブ行列２１１及び第１初期サブ行列２１２は、図２Ａに示される。第１初期サブ行列のデータ量は、例えば、記憶空間Ｌ１Ａと一致してもよく、元の行列に設定されたキャッシュ空間として十分に利用されてもよい。本開示の実施例によれば、第１行列に設定されたキャッシュ空間として十分に利用されることができ、キャッシュ空間の利用率を向上させることに有利である。

【0039】

図２Ａに示すように、第１初期規模情報ｌａｒｇｅ＿Ａ３に基づいて、乗数行列Ｂ２２０の第２初期サブ行列の第２行数は、最大でｌａｒｇｅ＿ａｋ３であってもよく、第２列数は、最大でｎであってもよい。当該第２初期サブ行列のデータ量は、第２記憶空間の容量よりも大きくてもよく、キャッシュユニットの記憶リソースをさらに効率的に使用するために、第２行列に関連する第２規模情報を決定してもよく、以下、図２Ｂを参照して説明する。

【0040】

図２Ｂは、本開示の一実施例に係る第２規模情報の模式図である。

【0041】

本開示の実施例において、プロセッサは、各記憶空間群に対して、各第１初期規模情報に基づいて、少なくとも１つの第２規模情報を決定する操作を実行するように構成されてもよい。例えば、各第１初期規模情報及び第２記憶空間の容量に基づいて、少なくとも１つの第２規模情報を決定することができる。第２行列が乗数行列Ｂ２２０であることを例として、第１初期規模情報ｌａｒｇｅ＿Ａ３の第１初期列数ｌａｒｇｅ＿ａｋ３と第２記憶空間の容量とに基づいて、第２規模情報ｌｉｔｔｌｅ＿Ｂ３を決定することができる。第２規模情報ｌｉｔｔｌｅ＿Ｂ３は、第２行数ｌｉｔｔｌｅ＿ｂｋ３と、第２列数ｌｉｔｔｌｅ＿ｂｎ３とを含んでもよい。第２行数ｌｉｔｔｌｅ＿ｂｋ３は、５であってもよく、第２列数ｌｉｔｔｌｅ＿ｂｎ３は、２であってもよい。第２規模情報ｌｉｔｔｌｅ＿Ｂ３に対応する第２サブ行列２２１を図２Ｂに示す。

【0042】

次に、本開示の実施例において、プロセッサは、各記憶空間群に対して、複数の第２規模情報及び複数の第１初期規模情報に基づいて、複数の第１初期アクセスメモリ量を決定する操作を実行するように構成されてもよい。例えば、第１行列が被乗数行列Ａ２１０である場合、第１初期規模情報ｌａｒｇｅ＿Ａ３に基づいて第１サブ行列をそれぞれ複数回ロードすると、第１行列のアクセスメモリ量は変化せず、アクセスメモリ量パラメータ値Ｌｏａｄ＿Ａは、以下のようなものであってもよい。

【数5】

【0043】

上述したように、ｍ＝ｋ＝１０であり、アクセスメモリ量パラメータ値Ｌｏａｄ＿Ａは１００であってもよい。

【0044】

第２行列が乗数行列Ｂ２２０である場合、第２規模情報ｌｉｔｔｌｅ＿Ｂ３に従って第２サブ行列をロードすると、行列乗算規則に基づいて、第１初期サブ行列は第２サブ行列２２１に乗算されてもよく、第２初期サブ行列２１２は第２サブ行列２２１に乗算されてもよい。これにより、第２サブ行列２２１を多重化することができる。この場合、アクセスメモリ量パラメータ値Ｌｏａｄ＿Ｂは、以下のようなものであってもよい。

【数6】

【0045】

ｌｉｔｔｌｅ＿ｋが第２行数ｌｉｔｔｌｅ＿ｂｋ３であり、ｌｉｔｔｌｅ＿ｎが第２列数ｌｉｔｔｌｅ＿ｂｎ３であり、ｌａｒｇｅ＿ｍが第１初期行数ｌａｒｇｅ＿ａｍ３であり、ｌａｒｇｅ＿ｋが第１初期列数ｌａｒｇｅ＿ａｋ３であることを例として、ｍ＝ｋ＝ｎ＝１０、ｌｉｔｔｌｅ＿ｂｋ３＝５、ｌｉｔｔｌｅ＿ｂｎ３＝２、ｌａｒｇｅ＿ａｍ３＝２、ｌａｒｇｅ＿ａｋ３＝５であれば、アクセスメモリ量パラメータ値Ｌｏａｄ＿Ｂは４２０であってもよい。

【0046】

第３行列が結果行列Ｃ２３０であり、第３記憶空間の容量が十分である場合、第３行列の総アクセスメモリ量は変化せず、アクセスメモリ量パラメータ値Ｓｔｏｒｅ＿Ｃは、以下のようなものであってもよい。

【数7】

【0047】

上述したように、ｍ＝ｎ＝１０であり、アクセスメモリ量パラメータ値Ｓｔｏｒｅ＿Ｃは１００であってもよい。

【0048】

第１行列Ａ２１０、第２行列Ｂ２２０及び第３行列Ｃ２３０について、総アクセスメモリ量パラメータ値ＬＳ＿ＡＢＣは、以下のようなものであってもよい。

【数8】

【0049】

Ｌｏａｄ＿Ａ＝１００、Ｌｏａｄ＿Ｂ＝４２０、Ｓｔｏｒｅ＿Ｃ＝１００の場合、総アクセスメモリ量パラメータ値ＬＳ＿ＡＢＣは６２０であってもよい。総アクセスメモリ量パラメータ値及び行列の各要素のデータ量に基づいて、初期アクセスメモリ量を決定することができる。

【0050】

また、例えば、被乗数行列Ａのみを分解し、上記の式２により、ｍ＝ｋ＝ｎ＝１０、ｌ＿ｍ＝２である場合、総アクセスメモリ量パラメータ値ＬＳ＿Ａが７００であると決定することができる。これにより、少なくとも２つの行列を分解し、アクセスメモリ量を効果的に低減し、メモリアクセス効率を向上させることができる。

【0051】

理解されるように、上記では、第１初期規模情報ｌａｒｇｅ＿Ａ３及び第２規模情報ｌｉｔｔｌｅ＿Ｂ３に基づいて、第１初期アクセスメモリ量が決定される。本開示の実施例において、複数の第１初期規模情報及び複数の第２規模情報に基づいて、複数の第１初期アクセスメモリ量を決定することができる。

【0052】

行列乗算の実行効率をさらに向上させるために、行列乗算操作を並行して実行するように、第１初期サブ行列をさらに分割してもよい。以下、図２Ｃを参照してさらに説明する。

【0053】

図２Ｃは、本開示の一実施例に係る第３規模情報の模式図である。

【0054】

本開示の実施例において、プロセッサは、各記憶空間群に対して、複数の第２規模情報及び複数の第１初期規模情報に基づいて、複数の第１目標規模情報を決定する操作をさらに実行するように構成される。例えば、第１初期規模情報は、少なくとも１つの第１目標規模情報に対応する。第１初期規模情報に対応する第２規模情報及び当該第１初期規模情報に基づいて、当該第１初期規模情報に対応する第１目標規模情報を決定することができる。図２Ｃに示すように、第２規模情報ｌｉｔｔｌｅ＿Ｂ３の第２行数ｌｉｔｔｌｅ＿ｂｋ３が５である場合、第１初期規模情報ｌａｒｇｅ＿Ａ３の少なくとも１つの第１目標規模情報を決定することができる。当該少なくとも１つの第１目標規模情報は、例えば、第１目標規模情報ｌｉｔｔｌｅ＿Ａ３１及び第１目標規模情報ｌｉｔｔｌｅ＿Ａ３２を含んでもよい。第１目標規模情報ｌｉｔｔｌｅ＿Ａ３１は、第１目標行数ｌｉｔｔｌｅ＿ａｍ３１（例えば１）と第１目標列数ｌｉｔｔｌｅ＿ａｋａ３１（例えば５）とを含んでもよい。第１目標規模情報ｌｉｔｔｌｅ＿Ａ３２は、第１目標行数ｌｉｔｔｌｅ＿ａｍ３２（例えば、２）と、第１目標列数ｌｉｔｔｌｅ＿ａｋ３２（例えば、５）とを含んでもよい。第１目標規模情報ｌｉｔｔｌｅ＿Ａ３１に対応する第１目標サブ行列２１１１は、図２Ｃに示される。本開示の実施例によれば、第１サブ行列をさらに分割することができ、ロード計算記憶（ｌｏａｄ＿ｃｏｍｐｕｔｅ＿ｓｔｏｒｅ）並列技術に基づいて行列乗算操作の並行を実現することができ、データ処理装置の運行効率の向上に役立つ。

【0055】

本開示の実施例において、プロセッサは、各記憶空間群に対して、複数の第１目標規模情報に基づいて、各記憶空間群に対応する複数の第１初期アクセスメモリ量から少なくとも１つの第２初期アクセスメモリ量を決定する操作をさらに実行するように構成されてもよい。

【0056】

例えば、プロセッサは、各記憶空間群に対して、複数の第２規模情報及び複数の第１目標規模情報に基づいて、複数の第３規模情報を決定する操作を実行するように構成されてもよい。複数の第３規模情報は第３行列に関連し、第３行列は、各記憶空間群における第３記憶空間に対応する行列である。第３行列が結果行列Ｃ２３０である場合、第２規模情報ｌｉｔｔｌｅ＿Ｂ３及び第１目標規模情報ｌｉｔｔｌｅ＿Ａ３２に基づいて、第３規模情報ｌｉｔｔｌｅ＿Ｃ３２を決定することができる。第３規模情報ｌｉｔｔｌｅ＿Ｃ３２に対応する第３サブ行列２３１１は、図２Ｃに示される。

【0057】

例えば、プロセッサは、各記憶空間群に対して、複数の第１目標規模情報及び複数の第３規模情報に基づいて、複数の第１初期アクセスメモリ量から少なくとも１つの第２初期アクセスメモリ量を決定する操作を実行するように構成されてもよい。記憶手段のパラメータ、第１目標規模情報及び複数の第３規模情報に基づいて、複数の第１初期アクセスメモリ量から少なくとも１つの第２初期アクセスメモリ量を決定して、記憶アライメント制限を満たし、記憶特性を満たし、記憶チャネル競合を回避する。記憶手段は、例えば、ビデオメモリであってもよい。本開示の実施例によれば、第２アクセスメモリ量に対応する行列の規模を記憶手段とマッチングさせることができ、データ処理装置の安定性の向上に役立つ。

【0058】

理解できるように、上記では、第１行列が被乗数行列Ａであり、第２行列が乗数行列Ｂであることを例として、本開示を説明した。しかしながら、本開示はこれに限定されず、第１行列が被乗数行列Ａである場合、第２行列は結果行列Ｃであってもよく、以下にさらに説明する。

【0059】

本開示の実施例において、例えば、上記第１初期規模情報ｌａｒｇｅ＿Ａ３が決定された後、プロセッサは、各記憶空間群に対して、複数の第１初期規模情報の各々に基づいて、少なくとも１つの第２規模情報を決定する操作を実行するように構成されてもよい。例えば、第２行列が結果行列Ｃである場合、第１初期規模情報ｌａｒｇｅ＿Ａ３の第１初期行数ｌａｒｇｅ＿ａｍ３に基づいて、結果行列Ｃの第２サブ行列の第２行数は最大でｌａｒｇｅ＿ａｍ３であってもよく、第２列数は最大でｎであってもよい。第１初期規模情報ｌａｒｇｅ＿Ａ３の第１初期行数ｌａｒｇｅ＿ａｍ３及び第２記憶空間の容量に基づいて、第２規模情報ｌｉｔｔｌｅ＿Ｃ３を決定してもよい。第２規模情報ｌｉｔｔｌｅ＿Ｃ３は、第２行数ｌｉｔｔｌｅ＿ｃｍ３と、第２列数ｌｉｔｔｌｅ＿ｃｎ３とを含んでもよい。第２行数ｌｉｔｔｌｅ＿ｃｍ３は、第１初期行数ｌａｒｇｅ＿ａｍ３以下であってもよい。第２列数ｌｉｔｔｌｅ＿ｃｎ３は、ｎよりも小さくてもよい。

【0060】

第１初期規模情報ｌａｒｇｅ＿Ａ３及び第２規模情報ｌｉｔｔｌｅ＿Ｃ３に基づいて、第１初期アクセスメモリ量を決定することができる。

【0061】

次に、行列乗算操作を並行して実行するために、第１初期サブ行列をさらに分割してもよい。本開示の実施例において、プロセッサは、各記憶空間群に対して、複数の第２規模情報及び複数の第１初期規模情報に基づいて、複数の第１目標規模情報を決定する操作を実行するように構成される。例えば、第２規模情報ｌｉｔｔｌｅ＿Ｃ３の第２行数ｌｉｔｔｌｅ＿ｃｍ３に基づいて、第１初期規模情報ｌａｒｇｅ＿Ａ３の少なくとも１つの第１目標規模情報を決定することができる。当該少なくとも１つの第１目標規模情報は、例えば、第１目標規模情報ｌｉｔｔｌｅ＿Ａ３３及び第１目標規模情報ｌｉｔｔｌｅ＿Ａ３４を含んでもよい。第１目標規模情報ｌｉｔｔｌｅ＿Ａ３３は、第１目標行数ｌｉｔｔｌｅ＿ａｍ３３と、第１目標列数ｌｉｔｔｌｅ＿ａｋ３３とを含んでもよい。第１目標規模情報ｌｉｔｔｌｅ＿Ａ３４は、第１目標行数ｌｉｔｔｌｅ＿ａｍ３４と、第１目標列数ｌｉｔｔｌｅ＿ａｋ３４とを含んでもよい。第１目標行数は第２行数以下であってもよい。第１目標列数は、第１初期列数より小さくてもよい。

【0062】

本開示の実施例において、プロセッサは、各記憶空間群に対して、複数の第２規模情報及び複数の第１目標規模情報に基づいて、複数の第３規模情報を決定する操作を実行するように構成されてもよい。例えば、第３行列が乗数行列Ｂである場合、第２規模情報ｌｉｔｔｌｅ＿Ｃ３と第１目標規模情報ｌｉｔｔｌｅ＿Ａ３４とに基づいて、第３規模情報ｌｉｔｔｌｅ＿Ｂ３４を決定してもよい。第３規模情報ｌｉｔｔｌｅ＿Ｂ３４の第３行数ｌｉｔｔｌｅ＿ｂｋ３４は、例えば、第１目標規模情報ｌｉｔｔｌｅ＿Ａ３４の第１目標列数ｌｉｔｔｌｅ＿ａｋ３４と一致してよい。第３規模情報ｌｉｔｔｌｅ＿Ｂ３４の第３列数ｌｉｔｔｌｅ＿ｂｎ３４は、例えば、第２規模情報ｌｉｔｔｌｅ＿Ｃ３の第２列数ｌｉｔｔｌｅ＿ｃｎ３と一致してよい。

【0063】

理解できるように、上記では、第１行列が被乗数行列Ａであることを例として、本開示を説明した。しかしながら、本開示はこれに限定されず、第１行列は、乗数行列Ｂまたは結果行列Ｃであってもよく、以下、第１行列が乗数行列Ｂであることを例として、本開示をさらに説明する。

【0064】

本開示の実施例において、プロセッサは、各記憶空間群に対して、第１行列の規模及び第１記憶空間の容量に基づいて、複数の第１初期規模情報を決定する操作を実行するように構成されてもよい。第１行列が乗数行列Ｂである場合、第１初期規模情報ｌａｒｇｅ＿Ｂ４は、第１初期行数ｌａｒｇｅ＿ｂｋ４と、第１初期列数ｌａｒｇｅ＿ｂｎ４とを含んでもよい。第１初期規模情報ｌａｒｇｅ＿Ｂ４に対応する第１初期サブ行列のデータ量は、例えば、記憶空間Ｌ１Ｂと一致してもよく、元の行列に設定されたキャッシュ空間として十分に利用されてもよい。

【0065】

本開示の実施例において、プロセッサは、各記憶空間群に対して、各第１初期規模情報に基づいて、少なくとも１つの第２規模情報を決定する操作を実行するように構成されてもよい。例えば、各第１初期規模情報及び第２記憶空間の容量に基づいて、少なくとも１つの第２規模情報を決定することができる。第２行列が被乗数行列Ａであることを例として、第１初期規模情報ｌａｒｇｅ＿Ｂ４に基づいて、被乗数行列Ａの第２サブ行列の第２行数は最大でｍであってもよく、第２列数は最大でｌａｒｇｅ＿ｂｋ４であってもよい。第１初期規模情報ｌａｒｇｅ＿Ｂ４の第１初期行数ｌａｒｇｅ＿ｂｋ４及び第２記憶空間の容量に基づいて、第２規模情報ｌｉｔｔｌｅ＿Ａ４を決定してもよい。第２規模情報ｌｉｔｔｌｅ＿Ａ４は、第２行数ｌｉｔｔｌｅ＿ａｍ４と、第２列数ｌｉｔｔｌｅ＿ａｋ４とを含んでもよい。第２列数ｌｉｔｔｌｅ＿ａｋ４は、第１初期行数ｌａｒｇｅ＿ｂｋ４以下であってもよい。第２行数ｌｉｔｔｌｅ＿ａｍ３は、ｍより小さくてもよい。

【0066】

次に、行列乗算操作を並行して実行するために、第１初期サブ行列をさらに分割してもよい。本開示の実施例において、プロセッサは、各記憶空間群に対して、複数の第２規模情報及び複数の第１初期規模情報に基づいて、複数の第１目標規模情報を決定する操作を実行するように構成される。例えば、第２規模情報ｌｉｔｔｌｅ＿Ａ４の第２列数ｌｉｔｔｌｅ＿ａｋ４に基づいて、第１初期規模情報ｌａｒｇｅ＿Ｂ４の少なくとも１つの第１目標規模情報を決定してもよい。当該少なくとも１つの第１目標規模情報は、例えば、第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４１及び第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４２を含んでもよい。第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４１は、第１目標行数ｌｉｔｔｌｅ＿ｂｋ４１と、第１目標行数ｌｉｔｔｌｅ＿ｂｎ４１とを含んでもよい。第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４２は、第１目標行数ｌｉｔｔｌｅ＿ｂｋ４２と、第１目標列数ｌｉｔｔｌｅ＿ｂｎ４２とを含んでもよい。第１目標列数は、第１初期列数より小さくてもよい。第１目標行数は第２列数以下であってもよい。

【0067】

本開示の実施例において、プロセッサは、各記憶空間群に対して、複数の第２規模情報及び複数の第１目標規模情報に基づいて、複数の第３規模情報を決定する操作を実行するように構成されてもよい。例えば、第３行列が結果行列Ｃである場合、第２規模情報ｌｉｔｔｌｅ＿Ａ４及び第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４１に基づいて、第３規模情報ｌｉｔｔｌｅ＿Ｃ４１を決定することができる。第３規模情報ｌｉｔｔｌｅ＿Ｃ４１の第３列数ｌｉｔｔｌｅ＿ｃｎ４１は、例えば、第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４１の第１目標列数ｌｉｔｔｌｅ＿ｂｎ４１と一致してよい。第３規模情報ｌｉｔｔｌｅ＿Ｃ４１の第３行数ｌｉｔｔｌｅ＿ｃｍ４１は、例えば、第２規模情報ｌｉｔｔｌｅ＿Ａ４の第２行数ｌｉｔｔｌｅ＿ａｍ４と一致してもよい。

【0068】

理解できるように、上記では、第１行列が乗数行列Ｂであり、第２行列が被乗数行列Ａであることを例として、本開示をさらに説明する。しかしながら、本開示はこれに限定されず、第１行列が乗数行列Ｂである場合、第２行列は結果行列Ｃであってもよく、以下、さらに説明する。

【0069】

本開示の実施例において、例えば、上記第１初期規模情報ｌａｒｇｅ＿Ｂ４が決定された後、プロセッサは、各記憶空間群に対して、複数の第１初期規模情報の各々に基づいて、少なくとも１つの第２規模情報を決定する操作を実行するように構成されてもよい。例えば、第２行列が結果行列Ｃである場合、第１初期規模情報ｌａｒｇｅ＿Ｂ４の第１初期列数ｌａｒｇｅ＿ｂｎ４に基づいて、結果行列Ｃの第２サブ行列の第２行数は最大でｍであってもよく、第２列数は最大でｌａｒｇｅ＿ｂｎ４であってもよい。第１初期規模情報ｌａｒｇｅ＿Ｂ４の第１初期列数ｌａｒｇｅ＿ｂｎ４及び第２記憶空間の容量に基づいて、第２規模情報ｌｉｔｔｌｅ＿Ｃ４を決定してもよい。第２規模情報ｌｉｔｔｌｅ＿Ｃ４は、第２行数ｌｉｔｔｌｅ＿ｃｍ４および第２列数ｌｉｔｔｌｅ＿ｃｎ４を含んでもよい。第２行数ｌｉｔｔｌｅ＿ｃｍ３は、ｍより小さくてもよい。第２列数ｌｉｔｔｌｅ＿ｃｎ３は、第２列数ｌｉｔｔｌｅ＿ｃｎ４以下であってもよい。

【0070】

第１初期規模情報ｌａｒｇｅ＿Ｂ４及び第２規模情報ｌｉｔｔｌｅ＿Ｃ４に基づいて、第１初期アクセスメモリ量を決定することができる。

【0071】

次に、行列乗算操作を並行して実行するために、第１初期サブ行列をさらに分割してもよい。本開示の実施例において、プロセッサは、各記憶空間群に対して、複数の第２規模情報及び複数の第１初期規模情報に基づいて、複数の第１目標規模情報を決定する操作を実行するように構成される。例えば、第２規模情報ｌｉｔｔｌｅ＿Ｃ４の第２列数ｌｉｔｔｌｅ＿ｃｎ４に基づいて、第１初期規模情報ｌａｒｇｅ＿Ｂ４の少なくとも１つの第１目標規模情報を決定することができる。当該少なくとも１つの第１目標規模情報は、例えば、第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４３及び第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４４を含んでもよい。第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４３は、第１目標行数ｌｉｔｔｌｅ＿ｂｋ４３と、第１目標列数ｌｉｔｔｌｅ＿ｂｎ４３とを含んでもよい。第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４４は、第１目標行数ｌｉｔｔｌｅ＿ｂｋ４４と、第１目標行数ｌｉｔｔｌｅ＿ｂｎ４４とを含んでもよい。第１目標列数は、第２列数以下であってもよい。第１目標行数は第１初期行数より小さくてもよい。

【0072】

本開示の実施例において、プロセッサは、各記憶空間群に対して、複数の第２規模情報及び複数の第１目標規模情報に基づいて、複数の第３規模情報を決定する操作を実行するように構成されてもよい。例えば、第３行列が被乗数行列Ａである場合、第２規模情報ｌｉｔｔｌｅ＿Ｃ４及び第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４４に基づいて、第３規模情報ｌｉｔｔｌｅ＿Ａ４４を決定してもよい。第３規模情報ｌｉｔｔｌｅ＿Ａ４４の第３行数ｌｉｔｔｌｅ＿ａｍ４４は、例えば、第２規模情報ｌｉｔｔｌｅ＿Ｃ４の第２行数ｌｉｔｔｌｅ＿ｃｍ４と一致してもよい。第３規模情報ｌｉｔｔｌｅ＿Ａ４４の第３列数ｌｉｔｔｌｅ＿ａｋ４４は、例えば、第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４４の第１目標行数ｌｉｔｔｌｅ＿ｂｋ４４と一致してよい。

【0073】

理解できるように、上記では、第１行列が被乗数行列Ａまたは乗数行列Ｂであることを例として、本開示を説明した。しかしながら、本開示はこれに限定されず、第１行列は結果行列Ｃであってもよく、以下、さらに説明する。

【0074】

本開示の実施例において、プロセッサは、各記憶空間群に対して、第１行列の規模及び第１記憶空間の容量に基づいて、複数の第１初期規模情報を決定する操作を実行するように構成されてもよい。第１行列が結果行列Ｃである場合、第１初期規模情報ｌａｒｇｅ＿Ｃ５は、第１初期行数ｌａｒｇｅ＿ｃｍ５及び第１初期列数ｌａｒｇｅ＿ｃｎｔ５を含んでもよい。結果行列Ｃの第１初期サブ行列のデータ量は、例えば、記憶空間Ｌ１Ｃと一致してもよく、元の行列に設定されたキャッシュ空間として十分に利用されてもよい。

【0075】

本開示の実施例において、プロセッサは、各記憶空間群に対して、各第１初期規模情報に基づいて、少なくとも１つの第２規模情報を決定する操作を実行するように構成されてもよい。例えば、各第１初期規模情報及び第２記憶空間の容量に基づいて、少なくとも１つの第２規模情報を決定することができる。第２行列が被乗数行列Ａであることを例として、第１初期規模情報ｌａｒｇｅ＿Ｃ５に基づいて、被乗数行列Ａの第２サブ行列の第２行数は、最大でｌａｒｇｅ＿ｃｍ５であってもよく、第２列数は、最大でｋであってもよい。第１初期規模情報ｌａｒｇｅ＿Ｃ５の第１初期行数ｌａｒｇｅ＿ｃｍ５及び第２記憶空間の容量に基づいて、第２規模情報ｌｉｔｔｌｅ＿Ａ５を決定してもよい。第２規模情報ｌｉｔｔｌｅ＿Ａ５は、第２行数ｌｉｔｔｌｅ＿ａｍ５と、第２列数ｌｉｔｔｌｅ＿ａｋ５とを含んでもよい。第２行数ｌｉｔｔｌｅ＿ａｍ５は、第１初期行数ｌａｒｇｅ＿ｃｍ５以下であってもよい。第２列数ｌｉｔｔｌｅ＿ａｋａ５は、ｋよりも小さくてもよい。

【0076】

次に、行列乗算操作を並行して実行するために、第１初期サブ行列をさらに分割してもよい。本開示の実施例において、プロセッサは、各記憶空間群に対して、複数の第２規模情報及び複数の第１初期規模情報に基づいて、複数の第１目標規模情報を決定する操作を実行してもよい。例えば、第２規模情報ｌｉｔｔｌｅ＿Ａ５の第２行数ｌｉｔｔｌｅ＿ａｍ５に基づいて、第１初期規模情報ｌａｒｇｅ＿Ｃ５の少なくとも１つの第１目標規模情報を決定することができる。当該少なくとも１つの第１目標規模情報は、例えば、第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５１及び第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５２を含んでもよい。第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５１は、第１目標行数ｌｉｔｔｌｅ＿ｃｍ５１と、第１目標列数ｌｉｔｔｌｅ＿ｃｎ５１とを含んでもよい。第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５２は、第１目標行数ｌｉｔｔｌｅ＿ｃｍ５２と、第１目標行数ｌｉｔｔｌｅ＿ｃｎ５２とを含んでもよい。第１目標列数は、第１初期列数より小さくてもよい。第１目標行数は第２行数以下であってもよい。

【0077】

本開示の実施例において、プロセッサは、各記憶空間群に対して、複数の第２規模情報及び複数の第１目標規模情報に基づいて、複数の第３規模情報を決定する操作を実行するように構成されてもよい。例えば、第３行列が乗数行列Ｂである場合、第２規模情報ｌｉｔｔｌｅ＿Ａ５および第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５１に基づいて、第３規模情報ｌｉｔｔｌｅ＿Ｂ５１を決定してもよい。第３規模情報ｌｉｔｔｌｅ＿Ｂ５１の第３列数ｌｉｔｔｌｅ＿ｂｎ５１は、例えば、第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５１の第１目標列数ｌｉｔｔｌｅ＿ｃｎ５１と一致してよい。第３規模情報ｌｉｔｔｌｅ＿Ｂ５１の第３行数ｌｉｔｔｌｅ＿ｂｋ５１は、例えば、第２規模情報ｌｉｔｔｌｅ＿Ａ５の第２列数ｌｉｔｔｌｅ＿ａｋ５と一致してもよい。

【0078】

理解できるように、上記では、第１行列が結果行列Ｃであり、第２行列が被乗数行列Ａであることを例として、本開示をさらに説明する。しかしながら、本開示はこれに限定されず、第１行列が結果行列Ｃである場合、第２行列は乗数行列Ｂであってもよく、以下、さらに説明する。

【0079】

本開示の実施例において、例えば、上記第１初期規模情報ｌａｒｇｅ＿Ｃ５が決定された後、プロセッサは、各記憶空間群に対して、複数の第１初期規模情報の各々に基づいて、少なくとも１つの第２規模情報を決定する操作を実行するように構成されてもよい。例えば、第２行列が乗数行列Ｂである場合、第１初期規模情報ｌａｒｇｅ＿Ｃ５の第１初期列数ｌａｒｇｅ＿ｃｎ５に基づいて、乗数行列Ｂの第２サブ行列の第２行数は最大でｋであってもよく、第２列数は最大でｌａｒｇｅ＿ｃｎ５であってもよい。第１初期規模情報ｌａｒｇｅ＿Ｃ５の第１初期列数ｌａｒｇｅ＿ｃｎ５及び第２記憶空間の容量に基づいて、第２規模情報ｌｉｔｔｌｅ＿Ｂ５を決定してもよい。第２規模情報ｌｉｔｔｌｅ＿Ｂ５は、第２行数ｌｉｔｔｌｅ＿ｂｋ５と、第２列数ｌｉｔｔｌｅ＿ｂｎ５とを含んでもよい。第２行数ｌｉｔｔｌｅ＿ｂｋ５は、ｋより小さくてもよく、第２列数ｌｉｔｔｌｅ＿ｂｎ５は、第１初期列数ｌａｒｇｅ＿ｃｎ５以下であってもよい。

【0080】

第１初期規模情報ｌａｒｇｅ＿Ｃ５及び第２規模情報ｌｉｔｔｌｅ＿Ｂ５に基づいて、第１初期アクセスメモリ量を決定してもよい。

【0081】

次に、行列乗算操作を並行して実行するために、第１初期サブ行列をさらに分割してもよい。本開示の実施例において、プロセッサは、各記憶空間群に対して、複数の第２規模情報及び複数の第１初期規模情報に基づいて、複数の第１目標規模情報を決定する操作を実行するように構成される。例えば、第２規模情報ｌｉｔｔｌｅ＿Ｂ５の第２列数ｌｉｔｔｌｅ＿ｂｎ５に基づいて、第１初期規模情報ｌａｒｇｅ＿Ｃ５の少なくとも１つの第１目標規模情報を決定することができる。当該少なくとも１つの第１目標規模情報は、例えば、第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５３及び第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５４を含んでもよい。第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５３は、第１目標行数ｌｉｔｔｌｅ＿ｃｍ５３と、第１目標列数ｌｉｔｔｌｅ＿ｃｎ５３とを含んでもよい。第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５４は、第１目標行数ｌｉｔｔｌｅ＿ｃｍ５４と、第１目標列数ｌｉｔｔｌｅ＿ｃｎ５４とを含んでもよい。第１目標列数は、第２列数以下であってもよい。第１目標行数は第１初期行数より小さくてもよい。

【0082】

本開示の実施例において、プロセッサは、各記憶空間群に対して、複数の第２規模情報及び複数の第１目標規模情報に基づいて、複数の第３規模情報を決定する操作を実行するように構成されてもよい。例えば、第３行列が被乗数行列Ａである場合、第２規模情報ｌｉｔｔｌｅ＿Ｂ５及び第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５４に基づいて、第３規模情報ｌｉｔｔｌｅ＿Ａ５４を決定してもよい。第３規模情報ｌｉｔｔｌｅ＿Ａ５４の第３列数ｌｉｔｔｌｅ＿ａｋ５４は、例えば、第２規模情報ｌｉｔｔｌｅ＿Ｂ５の第２行数ｌｉｔｔｌｅ＿ｂｋ５と一致してもよい。第３規模情報ｌｉｔｔｌｅ＿Ａ５４の第３行数ｌｉｔｔｌｅ＿ａｍ５４は、例えば、第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５４の第１目標行数ｌｉｔｔｌｅ＿ｃｍ５４と一致してよい。

【0083】

理解できるように、上記では、各行列の規模を決定するいくつかの形態を説明したが、以下では、関連する実施例を参照して、目標アクセスメモリ量を決定するいくつかの形態について説明する。

【0084】

いくつかの実施例では、プロセッサは、Ｉ個の記憶空間群の全ての第２初期アクセスメモリ量から目標アクセスメモリ量を決定するように構成されてもよい。例えば、最小の第２初期アクセスメモリ量を目標アクセスメモリ量としてもよい。

【0085】

理解できるように、上記では、目標アクセスメモリ量を決定するいくつかの形態について説明したが、以下、行列乗算を実行するいくつかの形態について説明する。

【0086】

本開示の実施例において、目標アクセスメモリ量に対応する第１目標規模情報、第２規模情報及び第３規模情報に基づいて、行列乗算操作を実行する。目標アクセスメモリ量に対応する第１行列は、第１目標行列とすることができる。目標アクセスメモリ量に対応する第２行列は、第２目標行列とすることができる。目標アクセスメモリ量に対応する第３行列は、第３目標行列とすることができる。

【0087】

本開示の実施例において、プロセッサは、第３目標行列が結果行列である場合、目標アクセスメモリ量に対応する第１目標規模情報に従って、第１目標行列の第１サブ行列を第１記憶空間にロードするように構成されてもよい。目標アクセスメモリ量に対応する第２規模情報に従って、第２目標行列の第２サブ行列を第２記憶空間にロードする。第１サブ行列及び第２サブ行列に対して行列乗算操作を実行し、第３目標行列の第３サブ行列を取得する。第３サブ行列を第３記憶空間に書き込む。

【0088】

例えば、目標アクセスメモリ量に対応する第１目標規模情報、第２規模情報及び第３規模情報は、それぞれ、上述の第１目標規模情報ｌｉｔｔｌｅ＿Ａ３２、第２規模情報ｌｉｔｔｌｅ＿Ｂ３及び第３規模情報ｌｉｔｔｌｅ＿Ｃ３２である。目標アクセスメモリ量に対応する第１目標規模情報ｌｉｔｔｌｅ＿Ａ３２に従って、被乗数行列Ａの第１サブ行列を記憶空間Ｌ１Ａにロードする。当該第１サブ行列の規模は、第１目標規模情報ｌｉｔｔｌｅ＿Ａ３２と一致してもよい。目標アクセスメモリ量に対応する第２規模情報ｌｉｔｔｌｅ＿Ｂ３に従って、第２目標行列の第２サブ行列を記憶空間Ｌ１Ｂにロードする。当該第２サブ行列の規模は、第２規模情報ｌｉｔｔｌｅ＿Ｂ３と一致してもよい。第１サブ行列及び第２サブ行列に対して行列乗算を実行することにより、結果行列Ｃの第３サブ行列が得られ、当該第３サブ行列の規模は、第３規模情報ｌｉｔｔｌｅ＿Ｃ３２と一致してもよい。第３サブ行列を記憶空間Ｌ１Ｃに書き込んでもよい。

【0089】

また、例えば、目標アクセスメモリ量に対応する第１目標規模情報、第２規模情報及び第３規模情報は、それぞれ、上述の第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４１、第２規模情報ｌｉｔｔｌｅ＿Ａ４及び第３規模情報ｌｉｔｔｌｅ＿Ｃ４１である。目標アクセスメモリ量に対応する第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４１に従って、乗数行列Ｂの第１サブ行列を記憶空間Ｌ１Ｂにロードする。当該第１サブ行列の規模は、第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４１と一致してもよい。目標アクセスメモリ量に対応する第２規模情報ｌｉｔｔｌｅ＿Ａ４に従って、第２目標行列の第２サブ行列を記憶空間Ｌ１Ａにロードする。当該第２サブ行列の規模は、第２規模情報ｌｉｔｔｌｅ＿Ａ４と一致してもよい。第１サブ行列及び第２サブ行列に対して行列乗算操作を実行することにより、結果行列Ｃの第３サブ行列が得られ、当該第３サブ行列の規模は、第３規模情報ｌｉｔｔｌｅ＿Ｃ４１と一致してもよい。第３サブ行列を記憶空間Ｌ１Ｃに書き込んでもよい。

【0090】

本開示の実施例において、プロセッサは、さらに、第１目標行列が結果行列である場合、目標アクセスメモリ量に対応する第３規模情報に従って、第３目標行列の第３サブ行列を第３記憶空間にロードするように構成される。目標アクセスメモリ量に対応する第２規模情報に従って、第２目標行列の第２サブ行列を第２記憶空間にロードする。第３サブ行列及び第２サブ行列に対して行列乗算操作を実行して、第１目標行列の第１サブ行列を得る。第１サブ行列を第１記憶空間に書き込む。

【0091】

例えば、目標アクセスメモリ量に対応する第１目標規模情報、第２規模情報及び第３規模情報は、それぞれ、上述の第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５１、第２規模情報ｌｉｔｔｌｅ＿Ａ５及び第３規模情報ｌｉｔｔｌｅ＿Ｂ５１である。目標アクセスメモリ量に対応する第３規模情報ｌｉｔｔｌｅ＿Ｂ５１に従って、乗数行列Ｂの第３サブ行列を記憶空間Ｌ１Ｂにロードする。当該第３サブ行列の規模は、第３規模情報ｌｉｔｔｌｅ＿Ｂ５１と一致してもよい。目標アクセスメモリ量に対応する第２規模情報ｌｉｔｔｌｅ＿Ａ５に従って、被乗数行列Ａの第２サブ行列を記憶空間Ｌ１Ａにロードする。当該第２サブ行列の規模は、第２規模情報ｌｉｔｔｌｅ＿Ａ５と一致してもよい。第１サブ行列及び第２サブ行列に対して行列乗算操作を実行し、結果行列Ｃの第１サブ行列を取得し、当該第１サブ行列の規模は第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５１と一致してもよい。第１サブ行列を記憶空間Ｌ１Ｃに書き込んでもよい。

【0092】

例えば、目標アクセスメモリ量に対応する第１目標規模情報、第２規模情報及び第３規模情報は、それぞれ、上述の第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５４、第２規模情報ｌｉｔｔｌｅ＿Ｂ５及び第３規模情報ｌｉｔｔｌｅ＿Ａ５４である。目標アクセスメモリ量に対応する第３規模情報ｌｉｔｔｌｅ＿Ａ５４に従って、被乗数行列Ａの第３サブ行列を記憶空間Ｌ１Ａにロードする。当該第３サブ行列の規模は、第３規模情報ｌｉｔｔｌｅ＿Ａ５４と一致してもよい。目標アクセスメモリ量に対応する第２規模情報ｌｉｔｔｌｅ＿Ｂ５に従って、乗数行列Ｂの第２サブ行列を記憶空間Ｌ１Ｂにロードする。当該第２サブ行列の規模は、第２規模情報ｌｉｔｔｌｅ＿Ｂ５と一致してもよい。第１サブ行列及び第２サブ行列に対して行列乗算操作を実行し、結果行列Ｃの第１サブ行列を取得し、当該第１サブ行列の規模は第１目標規模情報ｌｉｔｔｌｅ＿Ｃ５４と一致してもよい。第１サブ行列を記憶空間Ｌ１Ｃに書き込んでもよい。

【0093】

本開示の実施例において、プロセッサは、さらに、第２目標行列が結果行列である場合、目標アクセスメモリ量に対応する第１目標規模情報に従って、第１目標行列の第１サブ行列を第１記憶空間にロードするように構成されてもよい。目標アクセスメモリ量に対応する第３規模情報に従って、第３目標行列の第３サブ行列を第３記憶空間にロードする。第１サブ行列及び第３サブ行列に対して行列乗算操作を実行し、第２目標行列の第２サブ行列を得る。第２サブ行列を第２記憶空間に書き込む。

【0094】

例えば、目標アクセスメモリ量に対応する第１目標規模情報、第２規模情報及び第３規模情報は、それぞれ、上述の第１目標規模情報ｌｉｔｔｌｅ＿Ａ３４、第２規模情報ｌｉｔｔｌｅ＿Ｃ３及び第３規模情報ｌｉｔｔｌｅ＿Ｂ３４である。目標アクセスメモリ量に対応する第１目標規模情報ｌｉｔｔｌｅ＿Ａ３４に従って、被乗数行列Ａの第１サブ行列を記憶空間Ｌ１Ａにロードする。当該第１サブ行列の規模は、第１目標規模情報ｌｉｔｔｌｅ＿Ａ３４と一致してもよい。目標アクセスメモリ量に対応する第３規模情報ｌｉｔｔｌｅ＿Ｂ３４に従って、乗数行列の第３サブ行列を記憶空間Ｌ１Ｂにロードする。当該第３サブ行列の規模は、第３規模情報ｌｉｔｔｌｅ＿Ｂ３４と一致してもよい。第１サブ行列及び第３サブ行列に対して行列乗算操作を実行することにより、結果行列Ｃの第２サブ行列が得られ、当該第２サブ行列の規模は第２規模情報ｌｉｔｔｌｅ＿Ｃ３と一致してもよい。第２サブ行列を記憶空間Ｌ１Ｃに書き込んでもよい。

【0095】

例えば、目標アクセスメモリ量に対応する第１目標規模情報、第２規模情報及び第３規模情報は、それぞれ、上述の第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４４、第２規模情報ｌｉｔｔｌｅ＿Ｃ４及び第３規模情報ｌｉｔｔｌｅ＿Ａ４４である。目標アクセスメモリ量に対応する第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４４に従って、乗数行列Ｂの第１サブ行列を記憶空間Ｌ１Ｂにロードする。当該第１サブ行列の規模は、第１目標規模情報ｌｉｔｔｌｅ＿Ｂ４４と一致してもよい。目標アクセスメモリ量に対応する第３規模情報ｌｉｔｔｌｅ＿Ａ４４に従って、乗数行列の第３サブ行列を記憶空間Ｌ１Ｂにロードする。当該第３サブ行列の規模は、第３規模情報ｌｉｔｔｌｅ＿Ａ４４と一致してもよい。第１サブ行列及び第３サブ行列に対して行列乗算操作を実行することにより、結果行列Ｃの第２サブ行列が得られ、当該第２サブ行列の規模は第２規模情報ｌｉｔｔｌｅ＿Ｃ４と一致してもよい。第２サブ行列を記憶空間Ｌ１Ｃに書き込んでもよい。

【0096】

理解できるように、上記では、本開示のデータ処理装置について説明したが、以下、データ処理装置を含む電子機器について説明する。

【0097】

図３は、本開示の一実施例に係る電子機器の模式図である。

【0098】

図３に示すように、電子機器３０は、本開示に提供されるデータ処理装置３００を含んでもよい。データ処理装置３００は、例えば、上述した装置１００であってもよい。

【0099】

理解できるように、上記では、本開示の電子機器について説明したが、以下、本開示のデータ処理方法について説明する。

【0100】

図４は、本開示の一実施例に係るデータ処理方法のフローチャートである。

【0101】

図４に示すように、当該方法４００は、操作Ｓ４１０～操作Ｓ４３０を含んでもよい。

【0102】

操作Ｓ４１０において、キャッシュユニットの複数の記憶空間からＩ個の記憶空間群を決定する。本開示の実施例において、Ｉ個の記憶空間群の各々は、第１記憶空間及び第２記憶空間を含む。

【0103】

操作Ｓ４２０において、各記憶空間群に対して以下の操作を実行し、各記憶空間群に対応する複数の第１初期アクセスメモリ量を取得する。

【0104】

操作Ｓ４２１において、第１行列の規模及び第１記憶空間の容量に基づいて、複数の第１初期規模情報を決定する。本開示の実施例において、第１行列は、第１記憶空間に対応する行列である。

【0105】

操作Ｓ４２２において、複数の第１初期規模情報の各々に基づいて、少なくとも１つの第２規模情報を決定する。本開示の実施例において、第２規模情報は第２行列に関連し、第２行列は第２記憶空間に対応する行列である。

【0106】

操作Ｓ４２３において、複数の第２規模情報及び複数の第１初期規模情報に基づいて、複数の第１初期アクセスメモリ量を決定する。

【0107】

操作Ｓ４３０において、Ｉ個の記憶空間群のすべての第１初期アクセスメモリ量から目標アクセスメモリ量を決定する。Ｉは１以上の整数である。

【0108】

理解できるように、上記のプロセッサ１２０によって方法４００を実行することができる。

【0109】

いくつかの実施例では、各記憶空間群に対して実行する操作は、複数の第２規模情報及び複数の第１初期規模情報に基づいて、複数の第１目標規模情報を決定することをさらに含む。例えば、第１初期規模情報は、少なくとも１つの第１目標規模情報に対応する。複数の第１目標規模情報に基づいて、各記憶空間群に対応する複数の第１初期アクセスメモリ量から少なくとも１つの第２初期アクセスメモリ量を決定する。

【0110】

いくつかの実施例において、各記憶空間群に対応する複数の第１初期アクセスメモリ量から少なくとも１つの第２初期アクセスメモリ量を決定することは、複数の第２規模情報及び複数の第１目標規模情報に基づいて、複数の第３規模情報を決定することを含む。例えば、複数の第３規模情報は、第３行列に関連し、第３行列は各記憶空間群における第３記憶空間に対応する行列である。複数の第１目標規模情報及び複数の第３規模情報に基づいて、複数の第１初期アクセスメモリ量から少なくとも１つの第２初期アクセスメモリ量を決定する。

【0111】

いくつかの実施例において、Ｉ個の記憶空間群のすべての第１初期アクセスメモリ量から目標アクセスメモリ量を決定することは、Ｉ個の記憶空間群のすべての第２初期アクセスメモリ量から目標アクセスメモリ量を決定することを含む。

【0112】

いくつかの実施例において、方法４００は、目標アクセスメモリ量に対応する第１目標規模情報、第２規模情報及び第３規模情報に基づいて、行列乗算操作を実行することをさらに含む。

【0113】

いくつかの実施例において、複数の行列は、乗数行列、被乗数行列および結果行列を含み、目標アクセスメモリ量に対応する第１行列、第２行列および第３行列は、それぞれ、第１目標行列、第２目標行列および第３目標行列である。

【0114】

いくつかの実施例において、行列乗算を実行する操作は、第３目標行列が結果行列である場合、目標アクセスメモリ量に対応する第１目標規模情報に従って、第１目標行列の第１サブ行列を第１記憶空間にロードすることを含む。目標アクセスメモリ量に対応する第２規模情報に従って、第２目標行列の第２サブ行列を第２記憶空間にロードする。第１サブ行列及び第２サブ行列に対して行列乗算操作を実行し、第３目標行列の第３サブ行列を得る。第３サブ行列を第３記憶空間に書き込む。

【0115】

いくつかの実施例において、行列乗算を実行する操作は、第１目標行列が結果行列である場合、目標アクセスメモリ量に対応する第３規模情報に従って、第３目標行列の第３サブ行列を第３記憶空間にロードすることを含む。目標アクセスメモリ量に対応する第２規模情報に従って、第２目標行列の第２サブ行列を第２記憶空間にロードする。第３サブ行列及び第２サブ行列に対して行列乗算操作を実行して、第１目標行列の第１サブ行列を得る。第１サブ行列を第１記憶空間に書き込む。

【0116】

いくつかの実施例において、行列乗算を実行する操作は、第２目標行列が結果行列である場合、目標アクセスメモリ量に対応する第１目標規模情報に従って、第１目標行列の第１サブ行列を第１記憶空間にロードすることを含む。目標アクセスメモリ量に対応する第３規模情報に従って、第３目標行列の第３サブ行列を第３記憶空間にロードする。第１サブ行列及び第３サブ行列に対して行列乗算操作を実行し、第２目標行列の第２サブ行列を得る。第２サブ行列を第２記憶空間に書き込む。

【0117】

本開示の技術案において、かかるユーザ個人情報の収集、記憶、使用、加工、伝送、提供及び公開などの処理は、いずれも関連法律の規定に適合し、公序良俗に反しない。

【0118】

本開示の実施例によれば、本開示は、電子機器、可読記憶媒体及びコンピュータプログラム製品をさらに提供する。

【0119】

図５は、本開示の実施例の例示電子機器５００を実施するための例示的なブロック図を示す。電子機器５００は、例えば、ラップトップ型コンピュータ、デスクトップコンピュータ、作業台、パーソナルデジタルアシスタント、サーバ、ブレードサーバ、大型コンピュータ、及び他の適切なコンピュータという様々な形式のデジタルコンピュータを表示することを意図する。電子機器は、さらに、例えば、パーソナルデジタルアシスタント、携帯電話、スマートフォン、ウェアラブルデバイス及び他の類似の計算装置という様々な形式の移動装置を表示してもよい。本明細書に示された部材、それらの接続及び関係、及びそれらの機能は例示に過ぎず、本明細書に記載された及び／又は要求された本開示の実現を限定するものではない。

【0120】

図５に示すように、電子機器５００は、計算手段５０１を含み、それはリードオンリーメモリ（ＲＯＭ）５０２に記憶されたコンピュータプログラム又は記憶手段５０８からランダムアクセスメモリ（ＲＡＭ）５０３にロードされたコンピュータプログラムに基づいて、様々な適切な動作及び処理を実行することができる。ＲＡＭ ５０３には、さらに電子機器５００の操作に必要な様々なプログラム及びデータを記憶することができる。計算手段５０１、ＲＯＭ ５０２、およびＲＡＭ ５０３は、バス５０４を介して相互に接続されている。バス５０４には、入出力（Ｉ／Ｏ）インタフェース５０５も接続されている。

【0121】

電子機器５００における複数の部品は、Ｉ／Ｏインタフェース５０５に接続され、例えばキーボード、マウス等の入力手段５０６と、例えば様々な種別のディスプレイ、スピーカ等の出力手段５０７と、例えば磁気ディスク、光ディスク等の記憶手段５０８と、例えばネットワークカード、モデム、無線通信トランシーバ等の通信手段５０９とを含む。通信手段５０９は、電子機器５００がインターネット等のコンピュータネットワーク及び／又は各種の電気通信網を介して他のデバイスと情報／データをやり取りすることを可能にする。

【0122】

計算手段５０１は、処理及び計算能力を有する各種の汎用及び／又は専用の処理モジュールであってもよい。計算手段５０１の幾つかの例としては、中央処理装置（ＣＰＵ）、ＧＰＵ（Ｇｒａｐｈｉｃｓ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、各種専用の人工知能（ＡＩ）演算チップ、各種機械学習モデルアルゴリズムの計算手段、ＤＳＰ（Ｄｉｇｉｔａｌ Ｓｉｇｎａｌ Ｐｒｏｃｅｓｓｏｒ）、並びに任意の適切なプロセッサ、コントローラ、マイクロコントローラ等が挙げられるが、これらに限定されない。計算手段５０１は、例えばデータ処理方法のような前記記載された各方法と処理を実行する。例えば、いくつかの実施例において、データ処理方法は、例えば記憶手段５０８のような機械可読媒体に有形的に含まれるコンピュータソフトウェアプログラムとして実現されてもよい。いくつかの実施例において、コンピュータプログラムの一部又は全部は、ＲＯＭ１００２及び／又は通信手段５０９を介して電子機器５００にロード及び／又はインストールされてもよい。コンピュータプログラムがＲＡＭ１００３にロードされて計算手段５０１により実行される場合、前記記載されたデータ処理方法の１つ又は複数のステップを実行してもよい。代替的に、別の実施例において、計算手段５０１は、他の任意の適切な形態（例えば、ファームウェアを介する）によりデータ処理方法を実行するように構成されてもよい。

【0123】

本明細書で説明されたシステム及び技術の様々な実施形態は、デジタル電子回路システム、集積回路システム、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、特定用途向け集積回路（ＡＳＩＣ）、特定用途向け標準製品（ＡＳＳＰ）、システムオンチップ（ＳＯＣ）、コンプレックスプログラマブルロジックデバイス（ＣＰＬＤ）、コンピュータハードウェア、ファームウェア、ソフトウェア、及び／又はそれらの組み合わせにおいて実現されてもよい。これらの様々な実施形態は、１つ又は複数のコンピュータプログラムにおいて実施され、該１つ又は複数のコンピュータプログラムは、少なくとも１つのプログラムブルプロセッサを含むプログラムブルシステムで実行され及び／又は解釈されることが可能であり、該プログラムブルプロセッサは、専用又は汎用のプログラムブルプロセッサであってもよく、記憶システム、少なくとも１つの入力装置、及び少なくとも１つの出力装置からデータ及び命令を受信し、かつデータ及び命令を該記憶システム、該少なくとも１つの入力装置、及び該少なくとも１つの出力装置に伝送することができることを含んでもよい。

【0124】

本開示の方法を実施するためのプログラムコードは、１つ又は複数のプログラミング言語の任意の組み合わせで作成されてもよい。これらのプログラムコードは、汎用コンピュータ、専用コンピュータ又は他のプログラムブルデータ処理装置のプロセッサ又はコントローラに提供されてもよく、それによって、プログラムコードがプロセッサ又はコントローラにより実行される時に、フローチャート及び／又はブロック図に規定された機能／操作が実施される。プログラムコードは、機器に完全に実行されてもよく、部分的に機器で実行されてもよく、独立したソフトウェアパッケージとして部分的に機器で実行され、かつ部分的に遠隔機器で実行されるか又は完全に遠隔機器又はサーバで実行されてもよい。

【0125】

本開示のコンテキストにおいて、機械可読媒体は、有形の媒体であってもよく、命令実行システム、装置又は電子デバイスに使用され、又は命令実行システム、装置又は機器と組み合わせて使用されるプログラムを含んで又は記憶してもよい。機械可読媒体は、機械可読信号媒体又は機械可読記憶媒体であってもよい。機械可読媒体は、電子の、磁気的、光学的、電磁的、赤外線の、又は半導体システム、装置又は電子デバイス、又は前記内容の任意の適切な組み合わせを含んでもよいが、それらに限定されない。機械可読記憶媒体のより具体的な例としては、１つ以上の線による電気的接続、携帯式コンピュータディスク、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、読み出し専用メモリ（ＲＯＭ）、消去可能なプログラマブルリードオンリーメモリ（ＥＰＲＯＭ又はフラッシュメモリ）、光ファイバ、コンパクトディスクリードオンリーメモリ（ＣＤ－ＲＯＭ）、光学記憶装置、磁気記憶装置、又は前記内容の任意の適切な組み合わせを含む。

【0126】

ユーザとのインタラクションを提供するために、コンピュータにここで説明されたシステム及び技術を実施させてもよく、該コンピュータは、ユーザに情報を表示するための表示装置（例えば、ＣＲＴ（陰極線管）ディスプレイ又はＬＣＤ（液晶ディスプレイ））と、キーボード及びポインティングデバイス（例えば、マウス又はトラックボール）とを備え、ユーザは、該キーボード及び該ポインティングデバイスを介して入力をコンピュータに提供することができる。他の種別の装置は、さらにユーザとのインタラクションを提供してもよく、例えば、ユーザに提供されたフィードバックは、いかなる形式のセンシングフィードバック（例えば、視覚フィードバック、聴覚フィードバック、又は触覚フィードバック）であってもよく、かついかなる形式（音声入力、語音入力又は触覚入力を含む）でユーザからの入力を受信してもよい。

【0127】

ここで説明されたシステム及び技術は、バックグラウンド部品を含むコンピューティングシステム（例えば、データサーバとする）、又はミドルウェア部品を含むコンピューティングシステム（例えば、アプリケーションサーバ）、又はフロントエンド部品を含むコンピューティングシステム（例えば、グラフィカルユーザインタフェース又はウェブブラウザを有するユーザコンピュータ、ユーザが該グラフィカルユーザインタフェース又は該ネットワークブラウザを介してここで説明されたシステム及び技術の実施形態とインタラクションすることができる）、又はこのようなバックグラウンド部品、ミドルウェア部品、又はフロントエンド部品のいずれかの組み合わせを含むコンピューティングシステムに実施されることが可能である。任意の形式又は媒体のデジタルデータ通信（例えば、通信ネットワーク）によりシステムの部品を互いに接続することができる。通信ネットワークの例としては、局所エリアネットワーク（ＬＡＮ）、ワイドエリアネットワーク（ＷＡＮ）及びインターネットを例示的に含む。

【0128】

コンピュータシステムは、クライアント及びサーバを含んでよい。クライアントとサーバ同士は、一般的に離れており、通常、通信ネットワークを介してインタラクションする。クライアントとサーバとの関係は、該当するコンピュータ上でランニングし、クライアント－サーバの関係を有するコンピュータプログラムによって生成される。

【0129】

理解されるべきこととして、以上に示された様々な形式のフローを使用してもよく、ステップを改めてソーティングしたり、付加したり又は削除してもよい。例えば、本発明に記載の各ステップは、並列的に実行されたり、順次に実行されたり、又は異なる順序で実行されてもよく、本開示の技術案の所望の結果を実現することができれば、本明細書はここで限定されない。

【0130】

前記具体的な実施形態は、本開示の保護範囲を限定するものではない。当業者であれば、設計要件及び他の要因に応じて、様々な修正、組み合わせ、サブコンビネーション及び代替を行うことが可能であると理解すべきである。本開示の精神と原則内で行われた任意の修正、均等置換及び改良などは、いずれも本開示の保護範囲内に含まれるべきである。

【図1】

【図2A】

【図2B】

【図2C】

【図3】

【図4】

【図5】