技術分野
学習装置、学習方法、及びプログラム
発明が解決しようとする課題[発明の詳細な説明]から抜粋
ニューラルネットワークモデルの重みと活性化の両方を3値化(2bit化)すれば、より軽量化・高速化を図ることができると考えられる。しかしながら、量子化では、精度維持と軽量化・高速化とがトレードオフの関係にある。特に、活性化を2値、3値等の低ビットで表現する場合は精度維持が困難となる。
課題を解決するための手段[発明の詳細な説明]から抜粋
目的を達成するため、一学習装置は、ニューラルネットワークモデルにより所定のタスクの推論を行う推論部と、複数の3値ベクトルを用いて、前記ニューラルネットワークモデルを構成する各層への入力を表す活性化を3値化する3値化部と、前記ニューラルネットワークモデルのモデルパラメータと、前記活性化を3値で表現するための3値化パラメータとを学習する学習部と、を有する。
発明の効果[発明の詳細な説明]から抜粋
ニューラルネットワークモデルの活性化を高精度に3値化することができる。
この特許の権利範囲[特許請求の範囲]
知財ポータルサイト IP Force にログインして確認する (無料)
この特許公報に記載されている図面[図面の簡単な説明]から抜粋
【図1】
本推論装置のハードウェア構成の一例を示す図である。
【図2】
推論時における推論装置の機能構成の一例を示す図である。
【図3】
学習時における推論装置の機能構成の一例を示す図である。
【図4】
実施例1における推論処理の一例を示すフローチャートである。
【図5】
実施例1における学習処理の一例を示すフローチャートである。
【図6】
実施例2における推論処理の一例を示すフローチャートである。
【図7】
従来手法の3値化ベクトルとの比較例を示す図である。
【図8】
実施例2における学習処理の一例を示すフローチャートである。
【図9】
従来手法の疑似勾配との比較例を示す図である。
10 推論装置
101 入力装置
102 表示装置
103 外部I/F
103a 記録媒体
104 通信I/F
105 プロセッサ
106 メモリ装置
107 バス
201 3値化部
202 推論部
203 学習部
全ての図面はログインすると無料で閲覧できます。ログイン・ユーザー登録