特許 7444870 データ処理方法及び装置、コンピュータで読み取り可能な記憶媒体

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-02-27

(45)【発行日】2024-03-06

(54)【発明の名称】データ処理方法及び装置、コンピュータで読み取り可能な記憶媒体

(51)【国際特許分類】

   G06N 3/04 20230101AFI20240228BHJP

   G06N 3/08 20230101ALI20240228BHJP

【ＦＩ】

G06N3/04

G06N3/08

【請求項の数】 9

(21)【出願番号】P 2021521345

(86)(22)【出願日】2019-09-27

(65)【公表番号】

(43)【公表日】2022-01-14

(86)【国際出願番号】 CN2019108580

(87)【国際公開番号】W WO2020078200

(87)【国際公開日】2020-04-23

【審査請求日】2022-08-05

(31)【優先権主張番号】201811223953.9

(32)【優先日】2018-10-19

(33)【優先権主張国・地域又は機関】CN

(73)【特許権者】

【識別番号】511151662

【氏名又は名称】中興通訊股▲ふん▼有限公司

【氏名又は名称原語表記】ＺＴＥ ＣＯＲＰＯＲＡＴＩＯＮ

【住所又は居所原語表記】ＺＴＥ Ｐｌａｚａ，Ｋｅｊｉ Ｒｏａｄ Ｓｏｕｔｈ，Ｈｉ－Ｔｅｃｈ Ｉｎｄｕｓｔｒｉａｌ Ｐａｒｋ，Ｎａｎｓｈａｎ Ｓｈｅｎｚｈｅｎ，Ｇｕａｎｇｄｏｎｇ ５１８０５７ Ｃｈｉｎａ

(74)【代理人】

【識別番号】110002066

【氏名又は名称】弁理士法人筒井国際特許事務所

(72)【発明者】

【氏名】ユー，ジンチン

(72)【発明者】

【氏名】リャン，ミンチャオ

(72)【発明者】

【氏名】ヤン，シェンナン

(72)【発明者】

【氏名】リュウ，ジィ

【審査官】青木 重徳

(56)【参考文献】

【文献】特開平０４－０５１３８６（ＪＰ，Ａ）

【文献】特開２００１－１７５６３６（ＪＰ，Ａ）

【文献】宇都宮 誉博 ほか，重みの２のべき乗近似を用いたＣＮＮのＦＰＧＡ実装に関する一検討，電子情報通信学会技術研究報告，日本，一般社団法人電子情報通信学会，2017年05月15日，第１１７巻, 第４６号，p.25-30

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ３／０４

Ｇ０６Ｎ ３／０８

ＪＳＴＰｌｕｓ／ＪＭＥＤＰｌｕｓ／ＪＳＴ７５８０（ＪＤｒｅａｍＩＩＩ）

(57)【特許請求の範囲】

【請求項1】

ニューラルネットワークにおける、コンピュータにより実行されるデータ処理方法であって、
正数と負数の値の絶対値が同じである重みを１種類に分類し、次に共通因子に２の累乗を掛けるという方式に従って各種類の重みを分類することと、
負数の値の重みを１種類に分類し、正数の値の重みを別の種類に分類し、次に共通因子に２の累乗を掛けるという方式に従って各種類の重みを分類することと、
共通因子に２の累乗を掛けるという方式に従って直接分類することとの１つを含む分類ルールに従って重みが分類された少なくとも１種類の重み及び各種類の重みに対応する特徴データを取得するステップと、
前記少なくとも１種類の重みに基づき、各種類の重みに対応する、共通因子である分類特徴を取得するステップと、
前記少なくとも１種類の重みと前記各種類の重みに対応する分類特徴に基づいて、特徴データに対応する分類データを取得し、２の累乗である前記分類データに基づいて特徴データを計算して、各種類の重みに対応する第１の処理結果を得るステップと、
前記分類特徴と前記第１の処理結果に基づいて乗算及び加算して、前記特徴データと前記少なくとも１種類の重みに基づいて畳み込み演算を行った第２の処理結果を得るステップと、を含む、データ処理方法。

【請求項2】

少なくとも１種類の重みを取得する前記ステップの前に、
履歴重みを取得するステップと、
設定されたスクリーニング条件に従って前記履歴重みをスクリーニングし、スクリーニングされた重みを得るステップと、
設定された分類ルールに従って、前記スクリーニングされた重みを分類して、前記少なくとも１種類の重みを得るステップと、をさらに含む、請求項１に記載の方法。

【請求項3】

前記分類特徴と前記第１の処理結果に基づいて計算して、前記特徴データと前記少なくとも１種類の重みに基づいて畳み込み演算を行った第２の処理結果を得る前記ステップは、
設定されたソートルールに従って、各種類の重みに対応する第１の処理結果をソートして、ソートされた第１の処理結果を得るステップと、
前記ソートされた第１の処理結果から１つの処理対象の第１の処理結果を配列順序に従って順次選択するステップと、
前記分類特徴と前記処理対象の第１の処理結果に基づいて計算して、第１の計算結果を得るステップと、
現在得られている第１の計算結果と得られた第１の計算結果を計算して、第２の計算結果を得るステップと、
前記第２の計算結果が負数であると確定する場合、前記第２の計算結果を第２の処理結果とするステップと、を含む、請求項２に記載の方法。

【請求項4】

前記分類特徴と前記第１の処理結果に基づいて計算して、前記特徴データと前記少なくとも１種類の重みに基づいて畳み込み演算を行った第２の処理結果を得る前記ステップの後、
前記特徴データの第１の次元及び対応するネットワーク次元を取得するステップと、
前記第２の処理結果の第２の次元を取得するステップと、
前記第２の次元が前記第１の次元よりも小さいと確定する場合、前記ネットワーク次元と予定閾値範囲に従って、前記第２の処理結果に対応する現在のネットワーク次元を調整するステップと、
第２の処理結果に対応する重みを取得するステップと、
前記現在のネットワーク次元と前記第２の処理結果に対応する重みに基づき、前記第２の処理結果を計算して第３の処理結果を得るステップと、をさらに含む、請求項１に記載の方法。

【請求項5】

前記第２の次元が前記第１の次元よりも小さいと確定する場合、前記ネットワーク次元と予定閾値範囲に従って、前記第２の処理結果に対応する現在のネットワーク次元を調整する前記ステップは、
前記第２の次元が前記第１の次元よりも小さいと確定する場合、前記ネットワーク次元と調整対象のネットワーク次元に対してモジュロ演算を行い、モジュロ結果を得るステップと、
前記モジュロ結果と前記調整対象のネットワーク次元に基づいて比して、比の結果を得るステップと、
前記比の結果が予定閾値範囲にある場合、前記調整対象の次元が前記第２の処理結果に対応する現在のネットワーク次元であると確定するステップと、を含む、請求項４に記載の方法。

【請求項6】

前記分類データに基づいて前記特徴データを計算して、各種類の重みに対応する第１の処理結果を得る前記ステップは、
前記分類データに基づいて前記特徴データに対して左シフト計算を行って、各種類の重みに対応する第１の処理結果を得るステップを含み、
前記分類特徴と前記第１の処理結果に基づいて計算して、第２の処理結果を得る前記ステップは、
前記分類特徴と前記第１の処理結果に基づいて乗算及び加算を行って、第２の処理結果を得るステップを含む、請求項１に記載の方法。

【請求項7】

ニューラルネットワークにおけるデータ処理装置であって、
正数と負数の値の絶対値が同じである重みを１種類に分類し、次に共通因子に２の累乗を掛けるという方式に従って各種類の重みを分類することと、
負数の値の重みを１種類に分類し、正数の値の重みを別の種類に分類し、次に共通因子に２の累乗を掛けるという方式に従って各種類の重みを分類することと、
共通因子に２の累乗を掛けるという方式に従って直接分類することとの１つを含む分類ルールに従って重みが分類された少なくとも１種類の重み及び各種類の重みに対応する特徴データを取得するように構成される第１の取得モジュールと、
前記少なくとも１種類の重みに基づき、各種類の重みに対応する、共通因子である分類特徴を取得するように構成される第２の取得モジュールと、
前記少なくとも１種類の重みと前記各種類の重みに対応する分類特徴に基づいて、特徴データに対応する分類データを取得し、２の累乗である前記分類データに基づいて特徴データを計算して、各種類の重みに対応する第１の処理結果を得るように構成される第１の獲得モジュールと、
前記分類特徴と前記第１の処理結果に基づいて乗算及び加算して、前記特徴データと前記少なくとも１種類の重みに基づいて畳み込み演算を行った第２の処理結果を得るように構成される第２の獲得モジュールとを備える、データ処理装置。

【請求項8】

データ処理装置であって、前記データ処理演算装置は、少なくともプロセッサと、前記プロセッサで実行可能な命令を記憶するためのメモリと、前記プロセッサと前記メモリを接続するためのバスとを備え、前記命令が前記プロセッサに実行されると請求項１～６のいずれか１項に記載の方法を実現するデータ処理装置。

【請求項9】

コンピュータプログラムを記憶するコンピュータで読み取り可能な記憶媒体であって、前記コンピュータプログラムがプロセッサに実行されると請求項１～６のいずれか１項記載の方法を実現する、コンピュータで読み取り可能な記憶媒体。

【発明の詳細な説明】

【技術分野】

【0001】

（関連出願への相互参照）
本出願は、２０１８年１０月１９日に提出された、出願名称が「データ処理方法及び装置、コンピュータで読み取り可能な記憶媒体」であり、出願番号が２０１８１１２２３９５３.９である中国特許出願に対する優先権を主張し、そのすべての内容が参照により本出願に組み込まれる。

【0002】

本出願は、人工知能ニューラルネットワーク技術の分野に関し、特にデータ処理方法及び装置、コンピュータで読み取り可能な記憶媒体に関する。

【背景技術】

【0003】

深層ニューラルネットワーク（ＤＮＮ：Ｄｅｅｐ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ）は、人工ニューラルネットワークであり、深層学習は、実質的に多くの隠れ層を有する機械学習モデルと大量のトレーニングデータを構築することで、より有用な特徴を学習して、最終的に分類又は予測の精度を向上させることであり、音声分析と画像識別の分野で広く応用されている。

【0004】

深層学習技術の継続的な発展に伴い、深層ニューラルネットワークの演算量が増加しているため、深層ニューラルネットワークの演算量を効果的に低減させることは、現在、解決すべき緊急の課題になっている。

【発明の概要】

【発明が解決しようとする課題】

【0005】

上述の技術的課題を解決するために、本出願の実施例は、ニューラルネットワークの演算量を低減させることができるデータ処理方法及び装置、コンピュータで読み取り可能な記憶媒体を提供することが望まれる。

【課題を解決するための手段】

【0006】

本出願の技術的解決策は次のように実現される。

【0007】

第１の態様では、本出願の実施例は、少なくとも１種類の重み及び各種類の重みに対応する特徴データを取得するステップと、前記少なくとも１種類の重みに基づき、各種類の重みに対応する分類特徴を取得するステップと、前記少なくとも１種類の重みと前記特徴データに基づいて計算し、各種類の重みに対応する第１の処理結果を得るステップと、前記分類特徴と前記第１の処理結果に基づいて計算して、第２の処理結果を得るステップと、を含む、データ処理方法を提供する。

【0008】

上述の解決策では、少なくとも１種類の重みを取得する前記ステップの前に、履歴重みを取得するステップと、設定されたスクリーニング条件に従って前記履歴重みをスクリーニングして、スクリーニングされた重みを得るステップと、設定された分類ルールに従って、前記スクリーニングされた重みを分類して、前記少なくとも１種類の重みを得るステップと、をさらに含む。

【0009】

上述の解決策では、前記少なくとも１種類の重みと前記特徴データに基づいて計算して、各種類の重みに対応する第１の処理結果を得る前記ステップは、前記少なくとも１種類の重みと前記分類特徴に基づき、前記特徴データに対応する分類データを取得するステップと、前記分類データに基づいて前記特徴データを計算して、各種類の重みに対応する第１の処理結果を得るステップと、を含む。

【0010】

上述の解決策では、前記分類特徴と前記第１の処理結果に基づいて計算して、第２の処理結果を得る前記ステップは、設定されたソートルールに従って、各種類の重みに対応する第１の処理結果をソートし、ソートされた第１の処理結果を得るステップと、前記ソートされた第１の処理結果から１つの処理対象の第１の処理結果を配列順序に従って順次選択するステップと、前記分類特徴と前記処理対象の第１の処理結果に基づいて計算して、第１の計算結果を得るステップと、現在得られている第１の計算結果と得られた第１の計算結果を計算して、第２の計算結果を得るステップと、前記第２の計算結果が負数であると確定する場合、前記第２の計算結果を第２の処理結果とするステップと、を含む。

【0011】

上述の解決策は、前記分類特徴と前記第１の処理結果に基づいて計算して、第２の処理結果を得る前記ステップの後、前記特徴データの第１の次元及び対応するネットワーク次元を取得するステップと、前記第２の処理結果の第２の次元を取得するステップと、前記第２の次元が前記第１の次元よりも小さいと確定する場合、前記ネットワーク次元と予定閾値範囲に従って、前記第２の処理結果に対応する現在のネットワーク次元を調整するステップと、第２の処理結果に対応する重みを取得するステップと、前記現在のネットワーク次元と前記第２の処理結果に対応する重みに基づき、前記第２の処理結果を計算して第３の処理結果を得るステップと、をさらに含む。

【0012】

上述の解決策では、前記第２の次元が前記第１の次元よりも小さいと確定する場合、前記ネットワーク次元と予定閾値範囲に従って、前記第２の処理結果に対応する現在のネットワーク次元を調整する前記ステップは、前記第２の次元が前記第１の次元よりも小さいと確定する場合、前記ネットワーク次元と調整対象のネットワーク次元に対してモジュロ演算を行い、モジュロ結果を得るステップと、前記モジュロ結果と前記調整対象のネットワーク次元に基づいて比して、比の結果を得るステップと、前記比の結果が予定閾値範囲にある場合、前記調整対象の次元が前記第２の処理結果に対応する現在のネットワーク次元であると確定するステップと、を含む。

【0013】

上述の解決策では、前記分類データに基づいて前記特徴データを計算して、各種類の重みに対応する第１の処理結果を得る前記ステップは、前記分類データに基づいて前記特徴データに対して左シフト計算を行い、各種類の重みに対応する第１の処理結果を得るステップを含み、それに応じて、前記分類特徴と前記第１の処理結果に基づいて計算して、第２の処理結果を得る前記ステップは、前記分類特徴と前記第１の処理結果に基づいて乗算及び加算を行い、第２の処理結果を得るステップを含む。

【0014】

第２の態様では、本出願の実施例は、少なくとも１種類の重み及び各種類の重みに対応する特徴データを取得するように構成される第１の取得モジュールと、前記少なくとも１種類の重みに基づき、各種類の重みに対応する分類特徴を取得するように構成される第２の取得モジュールと、前記少なくとも１種類の重みと前記特徴データに基づいて計算し、各種類の重みに対応する第１の処理結果を得るように構成される第１の獲得モジュールと、前記分類特徴と前記第１の処理結果に基づいて計算して、第２の処理結果を得るように構成される第２の獲得モジュールと、を備えるデータ処理装置を提供する。

【0015】

第３の態様では、本出願の実施例は、プロセッサと、前記プロセッサで実行可能な命令を記憶するメモリと、前記プロセッサ、前記メモリを接続するためのバスとを備え、前記命令が前記プロセッサに実行されると上述データ処理方法を実現する、データ処理装置を提供する。

【0016】

第４の態様では、本出願の実施例は、データ処理プログラムを記憶しており、前記データ処理プログラムがプロセッサに実行されると上述データ処理方法を実現する、コンピュータで読み取り可能な記憶媒体を提供する。

【図面の簡単な説明】

【0017】

【図1】本出願の実施例によるデータ処理方法の実現プロセスの概略図の一である。

【図2】本出願の実施例によるデータ処理方法の実現プロセスの概略図の二である。

【図3】本出願の実施例によるデータ処理方法の実現プロセスの概略図の三である。

【図4】本出願の実施例によるデータ処理方法の実現プロセスの概略図の四である。

【図5】本出願の実施例によるデータ処理方法の実現プロセスの概略図の五である。

【図6】本出願の実施例によるデータ処理方法の実現プロセスの概略図の六である。

【図7】本出願の実施例によるニューラルネットワークハードウェアアーキテクチャの構成構造図である。

【図8】本出願の実施例による計算ユニットの構造図である。

【図9】本出願の実施例による計算ユニットにおける分類演算ユニットの構造図である。

【図10】本出願の実施例による計算ユニットにおける１つのＣＰ演算ユニットが１つの乗算及び加算ユニットに対応する構造図である。

【図11】本出願の実施例による計算ユニットにおける１つのＣＰ演算ユニットが複数の乗算及び加算ユニットに対応する構造図である。

【図12】本出願の実施例によるデータ処理方法の実現プロセスの概略図の七である。

【図13】本出願の実施例による計算ユニットにおける次元マッチング構成の概略図であるである。

【図14】本出願の実施例による計算ユニットにおける演算構造の概略図である。

【図15】本出願の実施例によるデータ処理装置の概略図である。

【図16】本出願の実施例によるデータ処理装置の構成構造図である。

【発明を実施するための形態】

【0018】

以下に本出願の実施形態における図面を組み合わせて、本出願の実施例における技術的解決策を明確かつ全面的に説明する。

【0019】

実施例１
本出願の実施例は、データ処理方法を提供する。図１は本出願の実施例によるデータ処理方法の実現プロセスの概略図の一である。図１に示すように、本出願の実施例では、データ処理方法を実現するためには、以下のステップを含むことができる。

【0020】

ステップ１０１において、少なくとも１種類の重み及び各種類の重みに対応する特徴データを取得する。

【0021】

本出願の実施例では、特徴データと重みを計算する前に、少なくおとも１種類の重み及び各種類の重みに対応する特徴データを取得する必要がある。

【0022】

なお、取得された少なくとも１種類の重みは、スクリーニング条件と分類ルールに従って予め処理して得られた分類後の重みであり、かつ、各重みのそれぞれが対応する特徴データに対応しているため、各種類の重みインジケータ、重みに対応する位置インデックス情報、及び各種類の重みに対応する特徴データを記憶ユニットに予め記憶し、重みインジケータが重みを識別するために使用され、重みに対応する位置インデックス情報が特徴データの記憶位置を識別するために使用され、即ち重みインジケータが重みに対応し、重みが位置インテックスに対応するため、重みインジケータは位置インデックス情報に対応している。

【0023】

ここで、重みインジケータ及び対応する位置インデックス情報を記憶ユニットから順次読み出し、重みインジケータによって重みを復元し、位置インデックス情報によって対応する位置の特徴データ、即ち重みに対応する特徴データをインデックス付けし、当該重み及び特徴に対して畳み込み演算を行い、このように類推して、すべての畳み込み操作を完了する。

【0024】

例示的には、上述のスクリーニング条件は、設定された閾値の重みを除去し、設定された閾値でない重みを保持することであってもよく、例えば、閾値が０である場合、スクリーニング条件は、値が０である重みを除去し、値が０でない重みを保持することである。

【0025】

上述分類ルールは、正数と負数の値の絶対値が同じである重みを１種類に分類し、次に共通因子に２の累乗を掛けるという方式に従って各種類の重みを分類することであってもよいし、負数の値の重みを１種類に分類し、正数の値の重みを別の種類に分類し、次に共通因子に２の累乗を掛けるという方式に従って各種類の重みを分類することでよいし、共通因子に２の累乗を掛けるという方式に従って直接分類することであってもよく、例えば、値が１、３、４、６である重みは、共通因子に２の累乗を掛けるという方式に従って、１＝１＊２０、３＝３＊２０、４＝１＊２２、６＝３＊２１に変換されてもよく、共通因子が抽出された後、共通因子が３である重み３及び重み６を１種類に分類し、共通因子が１である重み１及び重み４を別の種類に分類することができ、上述のスクリーニング条件と分類ルールは、本出願の実施例で限定されていない。

【0026】

ステップ１０２において、少なくとも１種類の重みに基づき、各種類の重みに対応する分類特徴を取得する。

【0027】

本出願の実施例では、少なくとも１種類の重みが取得された後、少なくとも１種類の重みに基づいて各種類の重みに対応する分類特徴を取得することができる。

【0028】

なお、重みを分類することで、各種類の重みに対応する分類特徴を取得することができ、例えば、１、３、４、６の重みは、共通因子に２の累乗を掛けるという方式に従って１＝１＊２０、３＝３＊２０、４＝１＊２２、６＝３＊２１に変換されてもよく、このようにして、共通因子３の重みを１種類に分類することができ、この種類の重み３及び重み６に対応する共通因子３は、この種類の重みに対応する分類特徴であり、共通因子１の重みを別の種類に分類し、この種類の重み１及び重み４に対応する共通因子１は、この種類の重みに対応する分類特徴である。

【0029】

ステップ１０３において、少なくとも１種類の重みと特徴データに基づいて計算して、各種類の重みに対応する第１の処理結果を得る。

【0030】

本出願の実施例では、重み及び特徴データが取得された後、重みに基づいて分類特徴を取得し、分類特徴と重みに基づいて計算し、特徴データに対応する分類データを得て、分類データに基づいて特徴データに対して加算を行って各種類の重みに対応する第１の処理結果を得ることができる。

【0031】

例示的には、１種類の重みの重み値がそれぞれ１と４であり、重み１に対応する特徴データが１であり、重み４に対応する特徴データが２であり、別の種類の重みの重み値がそれぞれ６及び－１２であり、重み６に対応する特徴データが３であり、重み－１２に対応する特徴データが４であると、重みは、共通因子に２の累乗を掛けるという方式に従って１＝１＊２０、４＝１＊２２、６＝３＊２１、１２＝３＊２２に変換されてもよく、重み１及び重み４に対応する分類特徴、即ち共通因子が１であり、対応する分類データ、即ち２の累乗がそれぞれ０と２であり、重み６と重み－１２に対応する分類特徴、即ち共通因子が３であり、対応する分類データ、即ち２の累乗がそれぞれ１、２である。

【0032】

以上のことから、分類データに基づいて特徴データを加算し、各種類の重みに対応する第１の処理結果を得ることがわかり、具体的には、１種類の重み１及び重み４に対応する第１の処理結果は（１＜＜０）＋（２＜＜２）＝１＋８＝９であってもよく、別の種類の重み６及び重み－１２に対応する第１の処理結果は（３＜＜１）－（４＜＜２）＝６－１６＝－１０であってもよい。

【0033】

なお、負数の重みに対応する計算は負数加算、即ち減算である。

【0034】

本出願の実施例では、ステップ１０２で得られた分類特徴及びステップ１０３で得られた第１の処理結果は、ステップ１０２及びステップ１０３に従って第２の処理結果を計算するステップ１０４に用いられ、したがって、ステップ１０３は、ステップ１０２の前に実行されてもよく、本出願の実施例ではステップ１０２とステップ１０３の実行順序は、具体的に限定されない。

【0035】

ステップ１０４において、分類特徴と第１の処理結果に基づいて計算して、第２の処理結果を得る。

【0036】

本出願の実施例では、分類特徴と第１の処理結果が取得された後、分類特徴と第１の処理結果に基づいて乗算及び加算を行い、第２の処理結果を得る。

【0037】

例示的には、重み１、重み－１２、重み４、重み６について、共通因子に２の累乗を掛けるという方式に従って、重み１及び重み４を１種類に分類し、重み６及び重み－１２を別の種類に分類し、重み１及び重み４に対応する第１の処理結果が９であり、対応する分類特徴が１であり、重み６及び重み－１２に対応する第１の処理結果が－１０であり、対応する分類特徴が３であり、第２の処理結果は、９＊１＋（－１０）＊３＝－２１である。

【0038】

図２は本出願の実施例によるデータ処理方法の実現プロセスの概略図の二である。図２に示すように、本出願の実施例では、少なくとも１種類の重みデータを取得する前、即ちステップ１０１の前にデータ処理方法を実現するために、以下のステップをさらに含むことができる。

【0039】

ステップ１０１ａにおいて、履歴重みを取得する。

【0040】

本出願の実施例では、十分なサンプルデータを収集することにより、予定モデル例えば人工ニューラルネットワークのバックプロパゲーションアルゴリズムに従ってサンプルデータをトレーニングして履歴重みを得る。

【0041】

ステップ１０１ｂにおいて、スクリーニング条件に従って履歴重みをスクリーニングし、スクリーニングされた重みを得る。

【0042】

本出願の実施例では、ニューラルネットワークのスパース演算をサポートするために、設定されたスクリーニング条件に従って履歴重みをスクリーニングし、スクリーニングされた重みを得ることができる。

【0043】

例示的には、上述のスクリーニング条件は、値が０である重みを削除し、０でない値の重みを保持することであってもよく、即ち、値が０でない重みのみを記憶し、値が０である重みを記憶及び計算する必要がなく、このようにして記憶帯域幅だけでなく、計算量を低減させることができ、それによってニューラルネットワークのスパース演算をサポートする。

【0044】

ステップ１０１ｃにおいて、設定された分類ルールに従って、スクリーニングされた重みを分類して、少なくとも１種類の重みを得る。

【0045】

本出願の実施例では、スクリーニングされた重みが得られた後、分類ルールに従って、スクリーニングされた重みを分類し、少なくとも１種類の重みを取得し、当該分類ルールは、正数、負数の値の絶対値が同じである重みを１種類に分類し、次に共通因子に２の累乗を掛けるという方式に従って、分類された重みを分類し続けることであってもよい。

【0046】

例示的には、例えば、８ビットの固定小数点を例にとると、－１２８から１２７の重みには２５６のケースがあり、正数、負数の値の絶対値が同じである重みを１種類に分類し、分類された重みには１２８つのケースがあり、分類された重みに対して、共通因子に２の累乗を掛けるという方式に従って１２８つのケースを分類し、例えば１、２、４、８、１６、３２、６４を１種類に分類し、対応する分類特徴、即ち共通因子が１であり、３、６、１２、２４、４８、９６を１種類に分類し、対応する分類特徴、即ち共通因子が３であり、分類した後、重みを６４つのケースに組み合わせ、これより、元の２５６つのケースを分類して６４つのケースに整理することができる。

【0047】

図３は本出願の実施例によるデータ処理方法の実現プロセスの概略図の三である。図３に示すように、本出願の実施例では、少なくとも１種類の重みと特徴データに基づいて計算し、各種類の重みに対応する第１の処理結果を得て、即ちデータ処理方法を実現するために、ステップ１０３は以下のステップをさらに含むことができる。

【0048】

ステップ１０３ａにおいて、少なくとも１種類の重みと分類特徴に基づき、特徴データに対応する分類データを取得する。

【0049】

本出願の実施例では、重みと分類特徴が取得された後、少なくとも１種類の重みと分類特徴に基づき、特徴データに対応する分類データを取得することができる。

【0050】

例示的には、１種類の重みの重み値が１と４であり、対応する特徴データがそれぞれ１と２であり、別の種類の重みの重み値が６と－１２であり、対応する特徴データがそれぞれ３と４であり、重みは、共通因子に２の累乗を掛けるという方式に従って１＝１＊２０、４＝１＊２２、６＝３＊２１、１２＝３＊２２に変換されてもよく、ここで、１種類の重み１及び重み４の分類特徴、即ち共通因子が１であり、対応する分類データ、即ち２の累乗がそれぞれ０と２であり、別の種類の重み６と重み－１２に対応する分類特徴、即ち共通因子が３であり、対応する分類データ、即ち２の累乗がそれぞれ１、２である。

【0051】

ステップ１０３ｂにおいて、分類データに基づいて特徴データに対して左シフト計算を行い、各種類の重みに対応する第１の処理結果を得る。

【0052】

ステップ１０４ａにおいて、分類特徴と第１の処理結果に基づいて乗算及び加算を行い、第２の処理結果を得る。

【0053】

例示的には、１種類の重みの重み値が１と４であり、対応する特徴データがそれぞれ１と２であり、対応する分類データ、即ち２の累乗がそれぞれ０と２であり、対応する分類特徴、即ち共通因子が１であり、別の種類の重みの重み値６と－１２であり、対応する特徴データがそれぞれ３と４であり、対応する分類データ、即ち２の累乗がそれぞれ１と２であり、対応する分類特徴、即ち共通因子が３であり、重み１及び重み４に対応する第１の処理結果が（１＜＜０）＋（２＜＜２）＝１＋８＝９であり、重み６及び重み－１２に対応する第１の処理結果が（３＜＜１）－（４＜＜２）＝６－１６＝－１０であり、さらに、分類特徴と第１の処理結果に基づいて乗算してから加算し、即ちまず９＊１を乗算して９を得て、次に１０＊３を乗算して３０を得て、次に加算して第２の処理結果９＋（－３０）＝－２１を得る。

【0054】

上述の説明に基づいて、例えば８ビットの固定小数点を例にとると、－１２８から１２７の重みには２５６つのケースがあり、従来技術では、重みと対応する特徴データとを直接乗算してから加算し、したがって、第２の処理結果を得るために２５６回の乗算を行う必要があり、計算量を低減させるために、本出願の実施例では、まずすべての重みを分類して６４つ種類の重みを得て、次に分類された各種類の重みと対応する特徴データに基づいてシフトしてから加算して６４つ種類の重みに対応する第１の処理結果を得て、次に前記第１の処理結果と対応する分類特徴を乗算してから加算し、即ち本出願の実施例では、第２の処理結果を得るために、６４回の乗算を行うだけでよく、したがって、本出願の実施例は、計算量を効果的に減らすという効果を達成することができる。

【0055】

図４は本出願の実施例によるデータ処理方法の実現プロセスの概略図の四である。図４に示すように、本出願の実施例では、分類特徴と第１の処理結果に基づいて計算し、第２の処理結果を得て、即ちデータ処理方法を実現するために、ステップ１０４は以下のステップを含むことができる。

【0056】

ステップ１０４ａ１において、設定されたソートルールに従って、各種類の重みに対応する第１の処理結果をソートして、ソートされた第１の処理結果を得る。

【0057】

本出願の実施例では、各種類の重みに対応する第１の処理結果が取得された後、設定されたソートルールに従って、各種類の重みに対応する第１の処理結果をソートして、ソートされた第１の処理結果を得ることができる。ここで、各種類の重みに対して１つの対応する第１の処理結果を得ると、各種類の重みに対応する第１の処理結果をソートし、即ち得られた各第１の処理結果をソートし、つまり、第１の処理結果の数は重みの種類の数と同じである。

【0058】

なお、設定されたソートルールに従って各種類の重みに対応する第１の処理結果をソートする前に、本出願の実施例は、まずステップ１０１ａから１０１ｃに従って重みを前処理する必要があり、具体的には、前処理は、まず重み値の正と負を識別し、値が正数である重みを１種類に分類し、値が負数である重みを別の種類に分類することであってもよく、即ち、正数と負数に従って、スクリーニングされた重みを２種類に分類し、次に共通因子に２の累乗を掛けるという方式に従って、当該正数及び負数の重みをそれぞれ分類し続け、少なくとも１種類の重みと各種類の重みに対応する第１の処理結果を得て、次に、設定されたソートルールに従って、各種類の重みに対応する第１の処理結果をソートして、各種類の重みに対応する、ソートされた第１の処理結果を得ることができる。

【0059】

ここで、ソートルールは、値が正数である第１の処理結果をソート結果の前に位置させ、値が負数である第１の処理結果をソート結果の後に位置させることであってもよく、ソートルールに従って、各種類の重みに対応する第１の処理結果をソートし、ソートされた第１の処理結果を得ることは、まず第１の処理結果の値が正数又は負数であるか否かを識別し、第１の処理結果の値の正負に従って第１の処理結果を正数の第１の処理結果と負数の第１の処理結果に分類し、正数の第１の処理結果を選択してソート結果の前に位置させ、負数の第１の処理結果を選択してソート結果の後、即ち正数の第１の処理結果の後に位置させることを含み、このようにして第２の処理結果を計算して得るときに前の正数の第１の処理結果を計算してから負数の第１の処理結果を計算することが容易になる。

【0060】

ソート結果の前に位置する正数の第１の処理結果に対して、負数の第１の処理結果の前に計算を行うことが保証される限り、大きさの順序でソートしてもよく、ランダムにソートしてもよく、ソート結果の後に位置する負数の第１の処理結果に対して、ランダムにソートすることができ、演算量をさらに低減させるために、ソート結果の後に位置するすべての負数の第１の処理結果を大きさの順序でソートすることができる。

【0061】

ステップ１０４ｂ１において、ソートされた第１の処理結果から処理対象の第１の処理結果を配列順序に従って順次選択する。

【0062】

なお、ここでの配列順序は、正数の第１の処理結果を前に位置させ、負数の第１の処理結果のすべてを正数の第一の処理結果の後に位置させることであってもよく、本出願の実施例では、処理対象の第１の処理結果を配列順序に従って順次選択することは、まず最も前に配列された正数の第１の処理結果を選択し、各正数の第１の処理結果が順次選択されて計算された後、後の負数の重みに対応する第１の処理結果を選択して計算することであってもよい。

【0063】

ステップ１０４ｃ１において、処理対象の第１の処理結果と分類特徴に基づいて計算し、第１の計算結果を得る。

【0064】

ステップ１０４ｄ１において、現在得られている第１の計算結果と得られた第１の計算結果を計算して、第２の計算結果を得る。

【0065】

ステップ１０４ｅ１において、第２の計算結果が負数であると確定する場合、第２の計算結果を第２の処理結果とする。

【0066】

本出願の実施例では、処理対象の第１の処理結果を選択した後、処理対象の第１の処理結果と分類特徴に基づいて計算し、第１の計算結果を得て、現在得られている第１の計算結果と得られた第１の計算結果を計算し、第２の計算結果を得て、第２の計算結果が負数であるか否かを判断し、第２の計算結果が負数であると、配列順序に従って、次の選択される第１の処理結果も負数であるはずであり、このとき、次の選択されるもの計算プロセスを停止し、第２の計算結果を第２の処理結果として直接使用し、第２の計算結果が正数であると、次の処理対象の第１の処理結果を選択し続けて計算して第２の計算結果を得て、当該第２の計算結果が負数であるか否かを再度判断し、このように類推して、第２の計算結果が負数であると確定するか、配列順序の後にある第１の処理結果の計算が完了されるまで続く。

【0067】

例示的には、ソートされた第１の処理結果がＡ、Ｂ、Ｃ、Ｄであり、対応する分類特徴がそれぞれＡ１、Ｂ１、Ｃ１、Ｄ１であると、まずＡ＊Ａ１を計算し、Ａ＊Ａ１が負数であるか否かを判断し、第２の計算結果Ａ＊Ａ１が負数であると、第２の計算結果Ａ＊Ａ１を第２の処理結果として直接使用し、第２の計算結果Ａ＊Ａ１が正数であると、Ｂ＊Ｂ１を計算し、現在得られている第１の計算結果Ｂ＊Ｂ１と得られた第１の計算結果Ａ＊Ａ１を計算して第２の計算結果Ａ＊Ａ１＋Ｂ＊Ｂ１を計算し、当該第２の計算結果Ａ＊Ａ１＋Ｂ＊Ｂ１が負数であるか否かを判断し、当該第２の計算結果Ａ＊Ａ１＋Ｂ＊Ｂ１が負数であると、当該第２の計算結果Ａ＊Ａ１＋Ｂ＊Ｂ１を第２の処理結果として直接使用し、当該第２の計算結果Ａ＊Ａ１＋Ｂ＊Ｂ１が正数であると、Ｃ＊Ｃ１を計算し、現在得られている第１の計算結果Ｃ＊Ｃ１と得られた第１の計算結果Ａ＊Ａ１＋Ｂ＊Ｂ１を計算して第２の計算結果Ａ＊Ａ１＋Ｂ＊Ｂ１＋Ｃ＊Ｃ１を得て、当該第２の計算結果Ａ＊Ａ１＋Ｂ＊Ｂ１＋Ｃ＊Ｃ１が負数であるか否かを判断し、このように類推して、第２の計算結果が負数であると確定するか、配列順序の後にある第１の処理結果Ｄの計算が完了されるまで続く。

【0068】

なお、深層ニューラルネットワークの計算では、第２の処理結果が負数である限り、正規化線形ユニット（ＲｅＬＵ：Ｒｅｃｔｉｆｉｅｄ Ｌｉｎｅａｒ Ｕｎｉｔ）の活性化関数に対してすべて０出力と見なされ、上述の説明から、本出願の実施例では計算プロセス全体が改善されたことがわかり、まず、すべての重みを正数と負数に従って２種類に分類し、分類ルール、例えば共通因子に２の累乗を掛けるという方式に従ってこれらの２つ種類の重みを再度分類し、１種類の重みに対応する重み値がいずれも負数である場合、その計算された第１の処理結果が負数であり、１種類の重みに対応する重み値がいずれも正数である場合、その計算された第１の処理結果が正数であり、このようにして各種類の重みに対応する第１の処理結果をソートし、正数を配列順序の前に位置させ、負数を配列順序のうちの正数の後に位置させ、さらに配列順序に従って順次選択し、第２の計算結果が負数であると確定する場合、後続の計算プロセスでも必然的に負数であり、当該計算を終止することができ、これにより、畳み込み計算を早めに終了する目的を達成でき、それによって計算量と計算電力を低減させ、さらにエネルギー効率比を向上させることができる。

【0069】

図５は本出願の実施例によるデータ処理方法の実現プロセスの概略図の五である。図５に示すように、本出願の実施例では、分類特徴と第１の処理結果に基づいて計算し、第２の処理結果を得た後、即ちステップ１０４の後、データ処理方法を実現するために、以下のステップをさらに含むことができる。

【0070】

ステップ１０５において、特徴データの第１の次元及び対応するネットワーク次元を取得する。

【0071】

本出願の実施例では、第１の次元は、重み及び特徴データに基づいて計算される実際に必要なネットワークモデルを特徴付け、ネットワーク次元は、重み及び特徴データの計算のために割り当てられるように計画されるネットワークモデルを特徴付ける。

【0072】

ステップ１０６において、第２の処理結果の第２の次元を取得する。

【0073】

本出願の実施例では、第２の処理結果に対応するコンピューティングリソースをさらに確保するために、本出願の実施例は、現在の特徴データに対応する第１の次元及び第２の処理結果に対応する第２の次元を取得する必要がある。

【0074】

ステップ１０７において、第２の次元が第１の次元よりも小さいと確定する場合、ネットワーク次元と予定閾値範囲に従って、第２の処理結果に対応する現在のネットワーク次元を調整する。

【0075】

本出願の実施例では、第２の処理結果が取得された後、次の層の計算を行う前に、本出願の実施例では第２の次元が第１の次元よりも小さいか否かを確定する必要があり、第２の次元が第１の次元よりも小さい場合、現在の層に対応するネットワーク次元に従って次の層の計算を処理するとコンピューティングリソースが明らかに浪費されることを示し、第２の次元が第１の次元以上である場合、現在の層に対応するネットワーク次元に基づいて次の層の計算を処理するとリソースが浪費されないことを示し、即ち第２の処理結果に対応する現在のネットワーク次元を調整する必要がなく、したがって、本出願の実施例では、１つの予定閾値範囲を設定し、ネットワーク次元と予定閾値範囲に従って、第２の処理結果に対応する現在のネットワーク次元を調整し、リソースの浪費を回避する。

【0076】

ステップ１０８において、第２の処理結果に対応する重みを取得する。

【0077】

ステップ１０９において、現在のネットワーク次元と第２の処理結果に対応する重みに基づき、第２の処理結果を計算して第３の処理結果を得る。

【0078】

本出願の実施例では、現在のネットワーク次元が得られた後、第２の処理結果に対応する重みに基づいて第２の処理結果を計算して第３の処理結果を得て、このように、計算プロセスでは、計算されたネットワーク次元が小さくなると発見すると、現在のネットワーク次元をリアルタイムで調整して、コンピューティングリソースを最大限に活用することができる。

【0079】

図６は本出願の実施例によるデータ処理方法の実現プロセスの概略図の六である。図６に示すように、本出願の実施例では、第２の次元が第１よりも小さいと確定する場合、第２の次元と予定閾値範囲に従って、第２の処理結果に対する現在の次元を調整し、即ち、ステップ１０７は、データ処理方法を実現するために、以下のステップを含むことができる。

【0080】

ステップ１０７ａにおいて、第２の次元が第１の次元よりも小さいと確定する場合、ネットワーク次元と調整対象のネットワーク次元に対してモジュロ演算を行い、モジュロ結果を得る。

【0081】

本出願の実施例では、第２の次元が第１の次元よりも小さいと確定する場合、即ち現在のネットワーク次元を調整する必要がある場合、ネットワーク次元と調整対象の次元に対してモジュロ演算を行い、モジュロ結果を得る。

【0082】

例示的には、ネットワーク次元が１８であり、調整対象のネットワーク次元が１６であると仮定すると、２つのモジュロ結果は２である。

【0083】

ステップ１０７ｂにおいて、モジュロ結果と調整対象のネットワーク次元を比して、比の結果を得る。

【0084】

本出願の実施例では、モジュロ結果が得られた後、モジュロ結果と調整対象のネットワーク次元を比して、比の結果を得る。

【0085】

例示的には、ネットワーク次元が１８であり、調整対象のネットワーク次元が１６であるとすると、２つのモジュロ結果は２であり、モジュロ結果と調整対象のネットワーク次元との比の結果が２／１６＝１／８である。

【0086】

ステップ１０７ｃにおいて、比の結果が予定閾値範囲にある場合、調整対象の次元が第２の処理結果に対応する現在のネットワーク次元であると確定する。

【0087】

本出願の実施例では、予定閾値範囲が０－１／６であるとすると、上述の例に基づき、当該比の結果１／８が予定閾値範囲にある場合、当該調整対象の次元１６が第２の処理結果に対応する現在のネットワーク次元であると確定することがわかる。

【0088】

本出願の実施例では、少なくとも１種類の重み及び各種類の重みに対応する特徴データを取得し、少なくとも１種類の重みに基づき、各種類の重みに対応する分類特徴を取得し、少なくとも１種類の重みと特徴データに基づいて計算し、各種類の重みに対応する第１の処理結果を得て、分類特徴と第１の処理結果に基づいて計算して、第２の処理結果を得て、このようにして、まず重みを分類して分類特徴を得て、分類特徴に基づいて特徴データを計算し、これにより、巨大な重みを分析し、それらをより少ないケースに整理して分類し、さらに計算量を効果的に低減させることができる。

【0089】

実施例２
実施例１と同じ発明の概念に基づいて、上述のデータ処理方法をニューラルネットワークに適用する。本出願の実施例をより良く理解するために、以下に畳み込みニューラルネットワーク（ＣＮＮ：Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ）を簡単に説明する。

【0090】

ＤＮＮは、ＣＮＮとリカレントニューラルネットワーク（ＲＮＮ：Ｒｅｃｕｒｒｅｎｔ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ）を含み、一般的に入力層、隠れ層及び出力層を含む。

【0091】

ＣＮＮは多層ニューラルネットワークであり、各層は複数の２次元平面で構成され、各平面は複数の独立したニューロンで構成されている。ＣＮＮは、通常、畳み込み層、プーリング層及び全接続層（ＦＣ：Ｆｕｌｌ Ｃｏｎｎｅｃｔｉｏｎｌａｙｅｒ）で構成され、ここで、畳み込み層は、現象畳み込みカーネルと非線形活性化関数を介して入力データの特徴マップを生成し、畳み込みカーネルは、入力データの異なる領域との内積を繰り返し、その後非線形関数を介して出力し、プーリング層は、通常、平均プーリング層又は最大プーリング層であり、この層は、前の層によって得られた特徴マップのある領域の平均値又は最大値のみを検索し、全接続層では入力セグメントのすべての要素は出力されたニューロンに接続され、各出力要素はすべての入力要素にそれぞれの重みを掛けてから合計される。

【0092】

図７は本出願の実施例によるニューラルネットワークハードウェアアーキテクチャの構成構造図である。

【0093】

図７に示すように、当該ニューラルネットワークハードウェアアーキテクチャは、中央処理ユニット（ＣＰＵ：Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、記憶ユニット、ダイレクトメモリアクセス（ＤＭＡ：Ｄｉｒｅｃｔ Ｍｅｍｏｒｙ Ａｃｃｅｓｓ）コントローラ、命令解析ユニット、制御ユニット、入出力キャッシュユニット及び計算ユニットを備え、ＣＰＵは、制御命令をＤＭＡコントローラに送信するように構成され、記憶ユニットは、ニューラルネットワークの特徴データ、重み及び計算ユニットによって計算された結果を記憶するように構成され、当該記憶ユニットは、外部ダブルレート同期動的ランダムアクセスメモリ（ＤＤＲ：Ｄｏｕｂｌｅ Ｄａｔａ Ｒａｔｅ ＳＤＲＡＭ）又はオンチップランダムアクセスメモリ（ＲＡＭ：Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）であってもよく、ＤＭＡコントローラは、ＣＰＵからの畳み込み計算の制御命令を受信し、当該命令に開始アドレスと終了アドレスが含まれ、当該開始アドレスと終了アドレスで識別されるアドレスセグメントに記憶されている特徴データと重みを記憶ユニットから入出力キャッシュユニットに記憶すると同時に、命令を命令解析ユニットに送信するように構成され、又は、ＣＰＵからの計算結果を記憶するための制御命令を受信し、計算ユニットによって得られた計算結果を入出力キャッシュユニットから記憶ユニットに記憶するように構成され、命令解析ユニットは、ＤＭＡコントローラからの命令を受信し、当該命令を解析して命令の内容を得て、当該命令を解析して得られた内容を制御ユニットに送信するように構成され、制御ユニットは、命令解析ユニットから得られた内容を受信し、命令解析ユニットから得られた内容に従って命令を入出力キャッシュユニットに送信するように構成され、入出力キャッシュユニットは、制御ユニットからの命令を受信し、制御ユニットの命令に応じて、計算ユニットのために計算対象の特徴データと重みを準備するように構成され、又は、計算ユニットによって計算される特徴データと重み、及び計算ユニットによって取得された計算結果を記憶するように構成され、当該入出力キャッシュユニットは、２つの部分を含み、１つの部分は、重みと特徴データをキャッシュするために使用され、当該キャッシュデータ容量を減らすために、当該キャッシュのサイズと各層のチャネルの数及び対応する畳み込みカーネルのサイズを関連付けることができ、例えば、畳み込みカーネルのサイズが３＊３である場合、６４つのチャネルのサイズのデータをキャッシュすることができ、畳み込みカーネルのサイズが７＊７である場合、６４つのチャネルのサイズよりも大きいデータをキャッシュすることができ、別の部分のキャッシュは、計算対象の重みと特徴データを記憶し、重みと特徴のデータを計算ユニットに出力するために使用され、計算ユニットは、入出力キャッシュユニットからの特徴データ及び重みを受信し、当該特徴データと重みに基づいて畳み込み計算を完了して第２の処理結果を取得するように構成される。

【0094】

深層ニューラルネットワークでは、まず畳み込み演算を行い、次にＦＣの乗算及び加算、ＲｅＬＵ活性化関数及びプーリング処理を行う必要があり、したがって、本出願の実施例の計算ユニットは、畳み込み演算の完了に加えて、ＦＣ乗算及び加算、ＲｅＬＵ活性化関数及びプーリング処理にも使用され得る。計算ユニットにおける畳み込み計算を改善して計算量を低減させることを目的とする本出願の実施例に基づき、計算ユニットによる畳み込み計算を完了するプロセスを以下に詳細に説明する。

【0095】

図８は本出願の実施例による計算ユニットの構造図である。図８に示すように、計算ユニットは、セレクター、分類（ＣＰ：Ｃｌａｓｓｉｆｉｃａｔｉｏｎ Ｐｒｏｃｅｓｓｏｒ）演算ユニット及び乗算及び加算ユニット（ＭＡＵ：Ｍｕｌｔｉｐｌｙ ＡｄｄＵｎｉｔ）を含み、ここで、セレクターは、入出力キャッシュユニットから出力された特徴データ及び重みを受信し、重みインジケータ及び対応する位置インデックス情報に基づき、特徴データと重みから対応する重みと特徴データを選択し、当該重みと特徴データをＣＰ演算ユニットに出力するように構成され、ＣＰ演算ユニットは、セレクターから出力された特徴データと重みを受信し、特徴データと重みに対してシフト計算を行い、第１の処理結果と分類特徴をＭＡＵに入力するように構成され、ＭＡＵは、ＣＰ演算ユニットから出力された第１の処理結果と分類特徴を受信し、第１の処理結果と分類特徴に対して乗算及び加算を行い、第２の処理結果を取得するように構成される。

【0096】

図９は本出願の実施例による計算ユニットにおけるＣＰ演算ユニットの構造図である。図９に示すように、ＣＰ演算ユニットは、分類器と加算器を含む。

【0097】

ここで、分類器は、セレクターから出力された重みと特徴のデータを受信し、重みを分類して分類特徴と分類データを取得し、分類特徴、分類データ及び特徴データを加算器に入力するように構成される。

【0098】

加算器は、分類器から出力された分類特徴、分類データ及び特徴データを受信し、分類データに基づいて特徴データに対してシフト加算を行い、第１の処理結果を得て、その後第１の処理結果と分類特徴をＭＡＵに入力するように構成され、重みが負数である場合、加算器は、当該負数の重みに対応する計算を負数加算、即ち減算として実行する。

【0099】

ＭＡＵは、加算器から出力された第１の処理結果と分類特徴を受信し、第１の処理結果と分類結果に対して乗算してから加算し、第２の処理結果を出力するように構成される。ＭＡＵは、１つ又は複数のＣＰ演算ユニットに対応することができる。

【0100】

図１０は、本出願の実施例による計算ユニットにおける１つのＣＰ演算ユニットが１つの乗算及び加算ユニットに対応する構造概略図であり、図１０に示すように、ＭＡＵは、乗算器と累算器を含み、ＣＰ演算ユニットは、各種類の重みに対応する第１の処理結果と対応する分類特徴をＭＡＵに順次出力し、乗算器は、まず前の２つ種類の重みの第１の処理結果に対応する分類特徴に対して乗算を行い、対応する２つの乗算結果を累算器に出力し、次に累算器は、２つの乗算結果を加算し、次に乗算器は、第３種類の重みの第１の処理結果に対応する分類特徴に対して乗算を行い、対応する乗算結果を得て累算器に出力し、次に、累算器は、前の上で累算し、最後種類の重みに対応する第１の処理結果と対応する分類特徴を乗算してから累算し、得られた累算結果を第２の処理結果とするまで続く。

【0101】

図１１は本出願の実施例による計算ユニットにおける複数のＣＰ演算ユニットが１つの乗算及び加算ユニットの構造である。図１１に示すように、乗算器の前に１つの乗算器キューを追加し、複数のＣＰ演算ユニットから１つの乗算器へのルーティング選択機能を完了し、この設計により、乗算器の使用頻度を効果的に上げ、さらに使用される乗算器の数を減らすことができる。

【0102】

上述の説明に基づき、図１２は本出願の実施例によるデータ処理方法の実現プロセスの概略図の七である。図１２に示すように、本出願の実施例によるデータ処理方法をより良く説明するために、データ処理方法を上述のニューラルネットワークハードウェアアーキテクチャの計算ユニットに応用することができる。

【0103】

ステップ２０１において、重みと特徴データを記憶ユニットに予め記憶する。

【0104】

なお、分類データの場合、後続の乗算及び加算を早めに終止するために、まず正数を記憶し、次に負数を記憶することができる。重みが０であるデータの場合、畳み込み演算が完了された結果はまだ０であるため、重みが０であるデータを破棄し、計算に参加しなく、即ち記憶ユニットに記憶及びこれから読み取る必要がなく、それによって記憶リソースとデータ読み書き帯域幅を節約し、リソース処理効率を向上させ、さらにスパース演算をサポートする効果を達成する。

【0105】

ステップ２０２において、計算ユニットは、対応するネットワーク次元を生成する。

【0106】

なお、計算ユニットの場合、３００＊３００と４１６＊４１６のように、異なるネットワークモデルに対応するネットワーク次元が異なり、また、異なるネットワークモデルの場合、それにサポートされる次元も１＊１、３＊などのように、一致しない可能性があり、したがって、本出願の実施例における計算ユニットは、弾性的かつスケーラブルな構造として設計され、即ち、異なるネットワークモデルに対応する次元が異なる場合、計算ユニットを対応するネットワーク構造モデルに一致させて、コンピューティングリソースを最大限に活用することができる。

【0107】

図１３は本出願の実施例における計算ユニットの次元マッチング構成の概略図である。１３に示すように、畳み込みカーネルが１＊１又は３＊３であるか、特徴画像が４＊４以下である場合、ネットワーク次元は図１３の左側のものに変更することができ、畳み込みカーネルが３＊３であるか、特徴画像が４＊４より大きい場合、ネットワーク次元は図１３の右側のものに変更することができる。

【0108】

本出願の実施例では、制御ユニットが現在のニューラルネットワークモデルに対応する次元命令を計算ユニットに送信する場合、計算ユニットは、当該命令に応じて対応するハードウェア構造モデル、即ち当該層の計算に対応するネットワーク次元を生成し、具体的には、特徴データの第１の次元及び対応するネットワーク次元を取得し、第２の処理結果の第２の次元を取得し、第２の次元が前記第１の次元よりも小さいと確定する場合、ネットワーク次元と予定閾値範囲に従って、第２の処理結果に対応する現在のネットワーク次元を調整し、第２の処理結果に対応する重みを取得し、現在のネットワーク次元と第２の処理結果に対応する重みに基づき、第２の処理結果を計算して第３の処理結果を得る。

【0109】

ここで、現在のネットワーク次元を確定する方法は、第２の次元が第１の次元よりも小さいと確定する場合、ネットワーク次元と調整対象のネットワーク次元に対してモジュロ演算を行い、モジュロ結果を得て、モジュロ結果と調整ネットワーク次元に基づいて比し、比の結果を得て、比の結果が予定閾値範囲にある場合、調整対象の次元が第２の処理結果に対応する現在のネットワーク次元であると確定することであってもよい。

【0110】

ステップ２０３において、ＤＭＡコントローラは、対応する重みと特徴データを記憶ユニットから読み取り、入出力キャッシュユニットに記憶する。

【0111】

本出願の実施例では、ＣＰＵは、命令をＤＭＡコントローラに送信し、ＤＭＡコントローラは、送信された命令に応じて記憶ユニットから読み取られた重み及び特徴データを入出力キャッシュユニットに出力する。

【0112】

なお、一定のプロセスが実行されると、現在の処理の進行状況を割り込みの形でＣＰＵに通知し、制御ユニットは、現在の処理の進行状況に応じて、対応する命令を入出力キャッシュユニットに送信し、入出力キャッシュユニットは、命令を計算ユニットに出力し、計算ユニットのために計算対象の重みと特徴データを準備し、次に計算ユニットは命令の要件に従って対応する操作を実行し、例えば、畳み込み計算が完了された後、全接続を計算する必要があり、計算ユニット及びキャッシュユニットは、命令に従って全接続を一致させる操作を行う。

【0113】

ステップ２０４において、入出力キャッシュユニットは重みと特徴データを取得する。

【0114】

本出願の実施例では、キャッシュユニットは、重みに対応する位置インデックス情報を取得し、重みに対応する位置インデックス情報に基づき、対応する特徴データをインデックス付けし、例えば、重み値Ａ１がフィルタに対応する元の位置で１００として番号付けされている場合、重み値Ａ１に対応する位置番号１００に従ってその位置の特徴データをインデックス付けすることができる。

【0115】

ステップ２０５において、計算ユニットにおけるＣＰ演算ユニットは、入力された重みと特徴データを計算して第１の処理結果を得る。

【0116】

本出願の実施例では、重みと特徴データが取得された後、入出力キャッシュユニットは、重みと特徴データを計算ユニットに出力し、計算ユニットおけるＣＰ演算ユニットは、入力された重みと特徴データを計算して第１の処理結果を得る。

【0117】

ここで、ＣＰ演算ユニットは、まず、重みに対応する分類特徴に基づいて同じ種類の重みに対応する特徴データを累算し、同じ種類のデータの累算が完了された後、累算器をクリアし、次の分類データの累算を行い、すべてのデータの処理が完了されるまで続く。

【0118】

なお、重みが正数である場合、ＣＰ演算ユニットは、加算を実行し、負数の場合、ＣＰ演算ユニットは、減算を実行する。

【0119】

例示的には、１種類の重みの重み値が６、１２、－２４、４８であり、対応する特徴データがそれぞれ２、６、８、３である場合、当該重みに対応する分類特徴、即ち共通因子は３であり、対応する分類データ、即ち２の累乗はそれぞれ１、２、３、４であり、当該種類の重みに対応する第１の処理結果は（２＜＜１）＋（６＜＜２）－（８＜＜３）＋（３＜＜４）＝４＋２４－６４＋４８＝１２である。

【0120】

ステップ２０６において、ＭＡＵは入力された分類特徴と第１の処理結果に基づいて計算して、第２の処理結果を得る。

【0121】

本出願実施例では、複数のＣＰ演算の結果をＭＡＵに出力した後、まずシリアルデータストリームに変換して乗算器モジュールに送信し、乗算が完了された後、異なる分類データの累算を行う。

【0122】

図１４は本出願の実施例による計算ユニットにおける演算構造の概略図である。図１４に示すように、計算ユニットにおける演算構造は、特徴データ、重み、ＣＰアレイ及びＭＡＵアレイで構成され、当該計算ユニットの計算プロセスは、重みと特徴データを、セレクターを介して対応するＣＰ演算ユニットに出力し、ＣＰ演算ユニットが分類及び累算処理を完了してから第１の処理結果と分類特徴をＭＡＵに出力し、ＭＡＵが第１の処理結果と分類特徴に対して乗算及び加算を行って第２の処理結果を得ることである。

【0123】

本出願の実施例によれば、分類特徴によって特徴データを加算して第１の処理結果を得て、次に第１の処理結果と分類特徴に基づいて乗算及び加算を行い、このような加算してから乗算する方式により、演算量を効果的に低減させることができる。

【0124】

実施例３
実施例１と実施例２の同じ発明の概念に基づき、本出願の実施例は、データ処理装置を提供する。上述実施例２のニューラルネットワークハードウェアアーキテクチャにおける計算ユニットは、当該データ処理装置に応用されてもよい。図１５は本出願の実施例によるデータ処理装置の概略図である。図１５に示すように、前記処理装置は、少なくとも１種類の重み及び各種類の重みに対応する特徴データを取得するように構成される第１の取得モジュール３０１と、前記少なくとも１種類の重みに基づき、各種類の重みに対応する分類特徴を取得するように構成される第２の取得モジュール３０２と、前記少なくとも１種類の重みと前記特徴データに基づいて計算して、各種類の重みに対応する第１の処理結果を得るように構成される第１の獲得モジュール３０３と、前記分類特徴と前記第１の処理結果に基づいて計算して、第２の処理結果を得るように構成される第２の獲得モジュール３０４と、を備える。

【0125】

他の実施例では、前記第１の取得モジュールは、履歴重みを取得し、設定されたスクリーニング条件に従って前記履歴重みをスクリーニングして、スクリーニングされた重みを得て、設定された分類ルールに従って、前記スクリーニングされた重みを分類して、前記少なくとも１種類の重みを得る。

【0126】

他の実施例では、前記第１の獲得モジュールは、前記少なくとも１種類の重みと前記分類特徴に基づき、前記特徴データに対応する分類データを取得し、前記分類データに基づいて前記特徴データを計算して、各種類の重みに対応する第１の処理結果を得る。

【0127】

他の実施例では、前記第２の獲得モジュールは、設定されたソートルールに従って、各種類の重みに対応する第１の処理結果をソートして、ソートされた第１の処理結果を得て、前記ソートされた第１の処理結果から１つの処理対象の第１の処理の結果を配列順序に従って順次選択し、前記分類特徴と前記処理対象の第１の処理結果に基づいて計算し、第１の計算結果を得て、現在得られている第１の計算結果と得られた第１の計算結果を計算して、第２の計算結果を得て、前記第２の計算結果が負数であると確定する場合、前記第２の計算結果を第２の処理結果とする。

【0128】

他の実施例では、前記データ処理装置は、さらに前記分類特徴と前記第１の処理結果に基づいて計算して、第２の処理結果を得た後、前記特徴データの第１の次元及び対応するネットワーク次元を取得し、前記第２の処理結果の第２の次元を取得し、前記第２の次元が前記第１の次元よりも小さいと確定する場合、前記ネットワーク次元と予定閾値範囲に従って、前記第２の処理結果に対応する現在のネットワーク次元を調整し、２の処理結果に対応する重みを取得し、前記現在のネットワーク次元と前記第２の処理結果に対応する重みに基づき、前記第２の処理結果を計算して第３の処理結果を得る。

【0129】

他の実施例では、前記データ処理装置は、さらに前記第２の次元が前記第１の次元よりも小さいと確定する場合、前記ネットワーク次元と調整対象のネットワーク次元に対してモジュロ演算を行い、モジュロ結果を得て、前記モジュロ結果と前記調整対象のネットワーク次元に基づいて比し、比の結果を得て、前記比の結果が予定閾値範囲にある場合、前記調整対象の次元が前記第２の処理結果に対応する現在のネットワーク次元であると確定する。

【0130】

他の実施例では、前記第１の獲得モジュールは、さらに前記分類データに基づいて前記特徴データに対して左シフト計算を行い、各種類の重みに対応する第１の処理結果を得て、それに応じて、前記第２の獲得モジュールは、さらに前記分類特徴と前記第１の処理結果に基づいて乗算及び加算を行い、第２の処理結果を得る。

【0131】

本出願の実施例によれば、データ処理装置は、分類特徴によって特徴データを累算し、次に累算結果と分類特徴に基づいて乗算を行い、このように加算してから乗算する演算方式により、演算量を効果的に低減させることができる。

【0132】

実施例４
実施例１－実施例３の同じ発明の概念に基づき、本出願の実施例は、データ処理装置を提供する。図１６は本出願の実施例によるデータ処理装置の構成構造図である。図１６に示すように、データ処理装置は、少なくともプロセッサ０１、前記プロセッサ０１で実行可能な命令を記憶するためのメモリ０２、通信インターフェース０３、及び前記プロセッサ、前記メモリ、前記通信インターフェースを接続するためのバス０４を備え、前記命令が前記プロセッサに実行されると、少なくとも１種類の重み及び各種類の重みに対応する特徴データを取得するステップと、前記少なくとも１種類の重みに基づき、各種類の重みに対応する分類特徴を取得し、前記少なくとも１種類の重みと前記特徴データに基づいて計算し、各種類の重みに対応する第１の処理結果を得るステップと、前記分類特徴と前記第１の処理結果に基づいて計算して、第２の処理結果を得るステップとを、実現する。

【0133】

１つの選択可能な実施例では、第１のプロセッサは、さらに第１のメモリに記憶されているデータ処理プログラムを実行して、履歴重みを取得するステップと、設定されたスクリーニング条件に従って前記履歴重みをスクリーニングして、スクリーニングされた重みを得るステップと、設定された分類ルールに従って、前記スクリーニングされた重みを分類して、前記少なくとも１種類の重みを得るステップとを実現するように構成される。

【0134】

１つの選択可能な実施例では、第１のプロセッサは、第１のメモリに記憶されているデータ処理プログラムを実行して、前記少なくとも１種類の重みと前記分類特徴に基づき、前記特徴データに対応する分類データを取得するステップと、前記分類データに基づいて前記特徴データを計算して、各種類の重みに対応する第１の処理結果を得るステップとを実現するように構成される。

【0135】

１つの選択可能な実施例では、第１のプロセッサは、第１のメモリに記憶されているデータ処理プログラムを実行して、設定されたソートルールに従って、各種類の重みに対応する第１の処理結果をソートして、ソートされた第１の処理結果を得るステップと、前記ソートされた第１の処理結果から１つの処理対象の第１の処理の結果を配列順序に従って順次選択するステップと、前記分類特徴と前記処理対象の第１の処理結果に基づいて計算して、第１の計算結果を得るステップと、現在得られている第１の計算結果と得られた第１の計算結果を計算して、第２の計算結果を得るステップと、前記第２の計算結果が負数であると確定する場合、前記第２の計算結果を第２の処理結果とするステップとを実現するように構成される。

【0136】

１つの選択可能な実施例では、第１のプロセッサは、さらに第１のメモリに記憶されているデータ処理プログラムを実行して、前記分類特徴と前記第１の処理結果に基づいて計算して、第２の処理結果を得た後、前記特徴データの第１の次元及び対応するネットワーク次元を取得するステップと、前記第２の処理結果の第２の次元を取得するステップと、前記第２の次元が前記第１の次元よりも小さいと確定する場合、前記ネットワーク次元と予定閾値範囲に従って、前記第２の処理結果に対応する現在のネットワーク次元を調整するステップと、第２の処理結果に対応する重みを取得するステップと、前記現在のネットワーク次元と前記第２の処理結果に対応する重みに基づき、前記第２の処理結果を計算して第３の処理結果を得るステップとを実現するように構成される。

【0137】

１つの選択可能な実施例では、第１のプロセッサは、第１のメモリに記憶されているデータ処理プログラムを実行して、前記第２の次元が前記第１の次元よりも小さいと確定する場合、前記ネットワーク次元と調整対象のネットワーク次元に対してモジュロ演算を行い、モジュロ結果を得るステップと、前記モジュロ結果と前記調整対象のネットワーク次元に基づいて比し、比の結果を得るステップと、前記比の結果が予定閾値範囲にある場合、前記調整対象の次元が前記第２の処理結果に対応する現在のネットワーク次元であると確定するステップを実現するように構成される。

【0138】

１つの選択可能な実施例では、第１のプロセッサは、第１のメモリに記憶されているデータ処理プログラムを実行して、前記分類データに基づいて前記特徴データに対して左シフト計算を行い、各種類の重みに対応する第１の処理結果を得るステップと、前記分類特徴と前記第１の処理結果に基づいて乗算及び加算を行い、第２の処理結果を得るステップとを実現するように構成される。

【0139】

本出願の実施例によれば、データ処理装置は、分類特徴によって特徴データを累算し、次に累算結果と分類特徴に基づいて乗算を行い、このように加算してから乗算する演算方式により、演算量を効果的に低減させることができる。

【0140】

実際の応用において、プロセッサは、中央処理ユニット（ＣＰＵ：Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、マイクロプロセッサユニット（ＭＰＵ：Ｍｉｃｒｏｐｒｏｃｅｓｓｏｒ Ｕｎｉｔ）、デジタル信号プロセッサ（ＤＳＰ：Ｄｉｇｉｔａｌ Ｓｉｇｎａｌ Ｐｒｏｃｅｓｓｏｒ）又はフィールドプログラマブルゲートアレイ（ＦＰＧＡ：Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）などであってもよい。

【0141】

また、本実施例における各コンポーネントは、１つの処理ユニットに統合されてもよく、個々のユニットは単独で物理的に存在してもよく、２つ又は２つ以上のユニットは、１つのユニットに統合されてもよい。上述の統合されたユニットは、ハードウェアの形で実現されてもよいし、ソフトウェア機能モジュールの形で実現されてもよい。

【0142】

前記統合されたユニットは、ソフトウェア機能モジュールの形で実現されて独立した製品として販売又は使用される場合、１つのコンピュータで読み取り可能な記憶媒体に記憶されてもよく、このような理解に基づき、本実施例の技術的解決策は、本質的にソフトウェア製品の形で具体化でき、又は従来技術に貢献する部分又は当該技術的解決策の全部又は一部は、ソフトウェア製品の形で具体化でき、当該コンピュータソフトウェア製品は、１つの記憶媒体に記憶され、コンピュータデバイス（パーソナルコンピュータ、サーバー、又はネットワークデバイスなど）又はプロセッサ（ｐｒｏｃｅｓｓｏｒ）に本実施例に記載の方法のステップのすべて又は一部を実行させるためのいくつかの命令を含む。

【0143】

前記記憶媒体は、磁気ランダムアクセスメモリ（ＦＲＡＭ：ｆｅｒｒｏｍａｇｎｅｔｉｃ ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ）、読み取り専用メモリ（ＲＯＭ：Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、プログラマブル読み取り専用メモリ（ＰＲＯＭ：Ｐｒｏｇｒａｍｍａｂｌｅ Ｒｅａｄ－Ｏｎｌｙ Ｍｅｍｏｒｙ）、消去可能プログラマブル読み取り専用メモリ（ＥＰＲＯＭ：Ｅｒａｓａｂｌｅ Ｐｒｏｇｒａｍｍａｂｌｅ Ｒｅａｄ－Ｏｎｌｙ Ｍｅｍｏｒｙ）、電気的消去可能プログラマブル読み取り専用メモリ（ＥＥＰＲＯＭ：Ｅｌｅｃｔｒｉｃａｌｌｙ Ｅｒａｓａｂｌｅ Ｐｒｏｇｒａｍｍａｂｌｅ Ｒｅａｄ－Ｏｎｌｙ Ｍｅｍｏｒｙ）、フラッシュメモリ（Ｆｌａｓｈ Ｍｅｍｏｒｙ）、磁気表面メモリ、光ディスク、又は読み取り専用光ディスク（ＣＤ－ＲＯＭ：Ｃｏｍｐａｃｔ Ｄｉｓｃ Ｒｅａｄ－Ｏｎｌｙ Ｍｅｍｏｒｙ）などのプログラムコードを記憶できる様々な媒体を含み、本出願の実施例で限定されない。

【0144】

上述の実施例に基づき、本出願の実施例は、データ処理プログラムを記憶しており、前記データ処理プログラムがプロセッサに実行されると上述の１つの又は複数の実施例におけるデータ処理方法を実現するコンピュータで読み取り可能な記憶媒体を提供する。

【0145】

当業者は、本出願の実施例が方法、システム、又はコンピュータプログラム製品として提供されてもよいことを理解すべきである。

【0146】

したがって、本出願は、ハードウェア実施例、ソフトウェア実施例、又はハードとソフトを組み合わせた実施例の形を採用することができる。さらに、本出願は、コンピュータで使用可能なプログラムコードを含む１つ又は複数のコンピュータで使用可能な記憶媒体（磁気ディスクメモリ、光学メモリを含むがこれらに限らない）で実施されるコンピュータプログラム製品の形を採用することができる。

【0147】

本出願は本出願の実施例による方法、デバイス（システム）、及びコンピュータプログラム製品のフローチャート及び／又はブロック図を参照して説明される。コンピュータプログラム命令によってフローチャート及び／又はブロック図の各フロー及び／又はブロック、及びフローチャート及び／又はブロック図におけるフロー及び／又はブロックの組み合わせを実現できることを理解すべきである。

【0148】

これらのコンピュータプログラム命令を汎用コンピュータ、専用コンピュータ、組み込みプロセッサ又は他のプログラマブルデータ処理デバイスのプロセッサに提供して１つの機械を生成することができ、これにより、コンピュータ又はプログラマブルデータ処理装置のプロセッサで実行される命令によってフローチャートにおける１つのフロー又は複数のフロー及び／又はブロック図における１つのブロック又は複数のブロックに指定された機能を実現するための装置を生成する。

【0149】

これらのコンピュータプログラム命令は、特定の方式で動作するようにコンピュータ又は他のプログラマブルデータ処理デバイスを案内することができるコンピュータで読み取り可能なメモリに記憶されてもよく、これにより、当該コンピュータで読み取り可能なメモリに記憶されている命令によって命令装置を含む製造品を生成し、当該命令装置は、フローチャートにおける１つのフロー又は複数のフロー及び／又はブロック図における１つのブロック又は複数のブロックに指定された機能を実現する。

【0150】

これらのコンピュータプログラム命令はコンピュータ又はその他のプログラマブルデータ処理デバイスにロードされてもよく、そのため、コンピュータ又は他のプログラマブルデバイスで一連の動作ステップを実行してコンピュータで実現される処理を発生し、それによってコンピュータ又は他のプログラマブルデバイスで実行される命令はフローチャートにおける１つのフロー又は複数のフロー及び／又はブロック図における１つのブロック又は複数のブロックに指定された機能を実現するためのステップを提供する。

【0151】

上述は、本出願の好ましい実施例に過ぎず、本出願の保護範囲を限定するためのものではない。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】