特許 7592567 シナプス回路およびニューラルネットワーク装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-11-22

(45)【発行日】2024-12-02

(54)【発明の名称】シナプス回路およびニューラルネットワーク装置

(51)【国際特許分類】

   G06N 3/063 20230101AFI20241125BHJP

【ＦＩ】

G06N3/063

【請求項の数】 9

(21)【出願番号】P 2021134794

(22)【出願日】2021-08-20

(65)【公開番号】P2023028853

(43)【公開日】2023-03-03

【審査請求日】2023-03-10

(73)【特許権者】

【識別番号】000003078

【氏名又は名称】株式会社東芝

(74)【代理人】

【識別番号】110002147

【氏名又は名称】弁理士法人酒井国際特許事務所

(72)【発明者】

【氏名】野村 久美子

(72)【発明者】

【氏名】西 義史

(72)【発明者】

【氏名】丸亀 孝生

(72)【発明者】

【氏名】水島 公一

【審査官】坂庭 剛史

(56)【参考文献】

【文献】特開２０２１－０３３４１５（ＪＰ，Ａ）

【文献】国際公開第２０２０／１９６０６６（ＷＯ，Ａ１）

【文献】特表２０１５－５０１９７２（ＪＰ，Ａ）

【文献】米国特許出願公開第２０１９／０２３６４４３（ＵＳ，Ａ１）

【文献】西 義史ほか，脳型ハードウエアにおけるオンライン学習に向けたシナプス重み更新規則の検討，第６７回応用物理学会春季学術講演会［講演予稿集］，日本，公益社団法人応用物理学会，2020年02月28日，18-021

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ３／０６３

(57)【特許請求の範囲】

【請求項1】

第１値または第２値を表すシナプス重みを記憶する重み記憶回路と、
前段ニューロン回路から出力された発火信号を受け取り、受け取った前記発火信号に対して前記重み記憶回路により記憶された前記シナプス重みの影響を加えた出力信号を後段ニューロン回路に供給する伝達回路と、
を備え、
前記後段ニューロン回路は、前記出力信号を受け取ったことに応じて変化する内部電位を保持し、
前記伝達回路は、
前記前段ニューロン回路から前記発火信号を受け取り、且つ、前記シナプス重みが前記第１値である場合、前記出力信号を前記後段ニューロン回路に供給し、
前記前段ニューロン回路から前記発火信号を受け取り、且つ、前記シナプス重みが前記第２値である場合、前記出力信号を前記後段ニューロン回路に与えない、または、前記前段ニューロン回路から前記発火信号を受け取り、且つ、前記シナプス重みが前記第２値である場合、前記シナプス重みが前記第１値である場合において前記出力信号を前記後段ニューロン回路に供給するタイミングよりも遅いタイミングで前記出力信号を前記後段ニューロン回路に供給し、
前記重み記憶回路は、
前記前段ニューロン回路から前記発火信号を受け取った場合に、前記後段ニューロン回路により保持される前記内部電位が設定電位以上か否かを比較し、前記内部電位が前記設定電位以上か否かの比較結果に応じて予め設定された第１確率で前記シナプス重みを前記第１値または前記第２値に遷移させ、
前記前段ニューロン回路から前記発火信号を受け取ったかどうかに関わらず、予め設定された第２確率で、前記シナプス重みを前記第１値に遷移させる
シナプス回路。

【請求項2】

前記重み記憶回路は、予め設定された時間毎に、前記第２確率で前記シナプス重みを前記第１値に遷移させる
請求項１に記載のシナプス回路。

【請求項3】

前記後段ニューロン回路は、前記出力信号を受け取ったことに応じて前記内部電位を増加させ、
前記前段ニューロン回路から前記発火信号を受け取ったことに応じて、前記重み記憶回路は、
前記内部電位が前記設定電位以上であり、且つ、前記シナプス重みが前記第２値である場合、前記第１確率で前記シナプス重みを前記第１値に変更し、
前記内部電位が前記設定電位より小さく、且つ、前記シナプス重みが前記第１値である場合、前記第１確率で前記シナプス重みを前記第２値に変更する
請求項１または２に記載のシナプス回路。

【請求項4】

前記前段ニューロン回路は、発火開始タイミングにおいてＨ論理となり、前記発火開始タイミングから一定時間経過後においてＬ論理となる前記発火信号を出力し、
前記重み記憶回路は、
前記発火信号がＬ論理からＨ論理に変化した第１タイミングにおいて、前記後段ニューロン回路の前記内部電位と前記設定電位とを比較する
請求項１から３の何れか１項に記載のシナプス回路。

【請求項5】

前記重み記憶回路は、前記第１タイミングの直後に前記発火信号がＨ論理からＬ論理に変化した第２タイミングにおいて、前記比較結果に基づき前記第１確率で前記シナプス重みを前記第１値または前記第２値に遷移させる
請求項４に記載のシナプス回路。

【請求項6】

前記発火信号がＬ論理の期間において、前記重み記憶回路は、前記第２確率で前記シナプス重みを前記第１値に遷移させる
請求項５に記載のシナプス回路。

【請求項7】

前記第２確率は、前記第１確率より低い
請求項１から６の何れか１項に記載のシナプス回路。

【請求項8】

それぞれがニューラルネットワークにおけるニューロンとして機能する複数のニューロン回路と、
それぞれが前記ニューラルネットワークにおけるシナプスとして機能する複数のシナプス回路と、
を備え、
前記複数のシナプス回路のそれぞれは、
第１値または第２値を表すシナプス重みを記憶する重み記憶回路と、
前段ニューロン回路から出力された発火信号を受け取り、受け取った前記発火信号に対して前記重み記憶回路により記憶された前記シナプス重みの影響を加えた出力信号を後段ニューロン回路に供給する伝達回路と、
を有し、
前記後段ニューロン回路は、前記出力信号を受け取ったことに応じて変化する内部電位を保持し、
前記伝達回路は、
前記前段ニューロン回路から前記発火信号を受け取り、且つ、前記シナプス重みが前記第１値である場合、前記出力信号を前記後段ニューロン回路に供給し、
前記前段ニューロン回路から前記発火信号を受け取り、且つ、前記シナプス重みが前記第２値である場合、前記出力信号を前記後段ニューロン回路に与えない、または、前記前段ニューロン回路から前記発火信号を受け取り、且つ、前記シナプス重みが前記第２値である場合、前記シナプス重みが前記第１値である場合において前記出力信号を前記後段ニューロン回路に供給するタイミングよりも遅いタイミングで前記出力信号を前記後段ニューロン回路に供給し、
前記重み記憶回路は、
前記前段ニューロン回路から前記発火信号を受け取った場合に、前記後段ニューロン回路により保持される前記内部電位が設定電位以上か否かを比較し、前記内部電位が前記設定電位以上か否かの比較結果に応じて予め設定された第１確率で前記シナプス重みを前記第１値または前記第２値に遷移させ、
前記前段ニューロン回路から前記発火信号を受け取ったかどうかに関わらず、予め設定された第２確率で、前記シナプス重みを前記第１値に遷移させる
ニューラルネットワーク装置。

【請求項9】

前記複数のシナプス回路のうちの少なくとも１つは、前記複数のニューロン回路のうちの、前記前段ニューロン回路へと前記出力信号を供給するシナプス回路よりも前段に配置されたニューロン回路へと前記出力信号を供給する
請求項８に記載のニューラルネットワーク装置。

【発明の詳細な説明】

【技術分野】

【0001】

本発明の実施形態は、シナプス回路およびニューラルネットワーク装置に関する。

【背景技術】

【0002】

近年、ハードウェア化したニューラルネットワークを用いて、脳型プロセッサを実現する技術が提案されている。脳型プロセッサは、例えばニューロン回路およびシナプス回路を有する。シナプス回路は、シナプス重みを記憶し、前段のニューロンから受け取った信号に対してシナプス重みの影響を加えた信号を、後段のニューロンへと供給する。ニューロン回路は、内部電位を保持する。ニューロン回路は、前段に接続されたシナプス回路から出力された信号に応じて、内部電位を増減させる。ニューロン回路は、内部電位の大きさに応じて発火信号を出力する。

【0003】

シナプス重みは、所定の学習方法により更新される。例えば、脳型プロセッサの学習方法として、前段のニューロン回路の発火時において、後段のニューロン回路が保持している内部電位に応じてシナプス重みを更新する方法が知られている。

【0004】

また、脳型プロセッサは、回路の簡易化等の観点から、シナプス重みを２値で取り扱うことが好ましい。２値のシナプス重みを取り扱う場合、脳型プロセッサは、例えば、後段のニューロン回路が保持している内部電位に応じて、確率的にシナプス重みを更新する。

【先行技術文献】

【特許文献】

【0005】

【文献】米国特許出願公開第２０１９／０２３６４４３号公報

【非特許文献】

【0006】

【文献】Joseph M. Brader et al.， “Learning real-world stimuli in a neural network with spike-driven synaptic dynamics ”， Neural computation, Volume 19, Massachusetts Institute of Technology, P2881-2912, November 2007

【発明の概要】

【発明が解決しようとする課題】

【0007】

本発明が解決しようとする課題は、シナプス重みを精度良く学習することができるシナプス回路およびニューラルネットワーク装置を提供することにある。

【課題を解決するための手段】

【0008】

実施形態に係るシナプス回路は、重み記憶回路と、伝達回路と、を備える。前記重み記憶回路は、第１値または第２値を表すシナプス重みを記憶する。前記伝達回路は、前段ニューロン回路から出力された発火信号を受け取り、受け取った前記発火信号に対して前記重み記憶回路により記憶された前記シナプス重みの影響を加えた出力信号を後段ニューロン回路に供給する。前記後段ニューロン回路は、前記出力信号を受け取ったことに応じて変化する内部電位を保持する。前記伝達回路は、前記前段ニューロン回路から前記発火信号を受け取り、且つ、前記シナプス重みが前記第１値である場合、前記出力信号を前記後段ニューロン回路に供給する。前記伝達回路は、前記前段ニューロン回路から前記発火信号を受け取り、且つ、前記シナプス重みが前記第２値である場合、前記出力信号を前記後段ニューロン回路に与えない、または、前記前段ニューロン回路から前記発火信号を受け取り、且つ、前記シナプス重みが前記第２値である場合、前記シナプス重みが前記第１値である場合において前記出力信号を前記後段ニューロン回路に供給するタイミングよりも遅いタイミングで前記出力信号を前記後段ニューロン回路に供給する。前記重み記憶回路は、前記前段ニューロン回路から前記発火信号を受け取った場合に、前記後段ニューロン回路により保持される前記内部電位が設定電位以上か否かを比較し、前記内部電位が前記設定電位以上か否かの比較結果に応じて予め設定された第１確率で前記シナプス重みを前記第１値または前記第２値に遷移させる。前記重み記憶回路は、前記前段ニューロン回路から前記発火信号を受け取ったかどうかに関わらず、予め設定された第２確率で、前記シナプス重みを前記第１値に遷移させる。

【図面の簡単な説明】

【0009】

【図1】実施形態に係るニューラルネットワーク装置の構成図。

【図2】複数のシナプス回路の接続関係を示す図。

【図3】前段ニューロン回路、後段ニューロン回路およびシナプス回路の構成図。

【図4】重み記憶回路の構成図。

【図5】学習指示回路に関する信号のタイミングチャート。

【図6】第１設定信号、第２設定信号およびシナプス重みのタイミングチャート。

【図7】重み制御回路の構成図。

【図8】重み制御回路の信号の第１例のタイミングチャート。

【図9】重み制御回路の信号の第２例のタイミングチャート。

【図10】実施形態に係るリザーバーコンピューティング装置の構成図。

【図11】学習回数に対する精度を示す図。

【発明を実施するための形態】

【0010】

以下、図面を参照しながら実施形態に係るニューラルネットワーク装置１０について説明する。

【0011】

シナプス重みを２値で取り扱うニューラルネットワークを実現する脳型プロセッサは、高い値（例えば１）のシナプス重みを本来記憶していなければならないシナプスに対して、たまたま前段のニューロンが発火しなかったために、シナプス重みを低い値（例えば０）に変更してしまう、といった誤学習が発生することがある。シナプス重みを２値で取り扱う脳型プロセッサは、このような誤学習が発生すると、以後、後段のニューロンが保持している内部電位が変化しにくくなるので、そのシナプス重みを正しい高い値（例えば１）に復帰させることが難しい。このため、シナプス重みを２値で取り扱う脳型プロセッサは、このような誤学習によるシナプス重みの精度悪化を解消する必要がある。このような課題に対して、実施形態に係るニューラルネットワーク装置１０は、ハードウェアにより実現され、シナプス重みを精度良く学習することができる。この結果、実施形態に係るニューラルネットワーク装置１０は、精度の良い推論を実行することができる。

【0012】

図１は、実施形態に係るニューラルネットワーク装置１０の構成の一例を示す図である。ニューラルネットワーク装置１０は、一例として、Ｎ段（Ｎは２以上の整数）のレイヤ１２と、それぞれがニューラルネットワークにおけるニューロンとして機能する複数のシナプス回路２０とを備える。また、Ｎ段のレイヤ１２のそれぞれは、それぞれがニューラルネットワークにおけるニューロンとして機能する複数のニューロン回路１４を含む。

【0013】

複数のニューロン回路１４のそれぞれは、前段のレイヤ１２から出力された複数の発火信号のそれぞれを取得する。複数の発火信号のそれぞれは、複数のシナプス回路２０のうちの何れか１つのシナプス回路２０を介して伝達される。

【0014】

Ｎ段のレイヤ１２のうち１段目のレイヤ１２は、外部の装置または入力レイヤから複数の信号を取得する。そして、複数のニューロン回路１４のそれぞれは、取得した複数の信号に対して積算処理をし、積算処理をして得られた値に対して活性化関数処理を行い、発火信号を出力する。複数のニューロン回路１４のそれぞれは、積算処理および活性化関数処理を、例えばアナログ回路により実行する。また、本実施形態において、複数のニューロン回路１４のそれぞれは、取得した複数の信号に対する積算処理の結果として、内部電位Ｖを保持する。

【0015】

複数のシナプス回路２０のそれぞれは、シナプス重みを記憶する。シナプス重みは、第１値または第２値の２値を表す。本実施形態において、第１値は、２値のうちの高い方の値を表し、例えばＨ論理または１である。本実施形態において、第２値は、２値のうちの低い方の値を表し、例えばＬ論理または０である。複数のシナプス回路２０のそれぞれが記憶するシナプス重みは、学習処理により設定される。

【0016】

例えば、ｎ段目のレイヤ１２とｎ＋１段目のレイヤ１２とを接続する複数のシナプス回路２０のそれぞれは、ｎ段目のレイヤ１２に含まれる複数のニューロン回路１４のうちの１つのニューロン回路１４から出力された発火信号を受け取る。ｎ段目のレイヤ１２とｎ＋１段目のレイヤ１２とを接続する複数のシナプス回路２０のそれぞれは、受け取った発火信号に対して、記憶しているシナプス重みの影響を加えた出力信号を生成し、生成した出力信号をｎ＋１段目のレイヤ１２に含まれる複数のニューロン回路１４のうちの１つのニューロン回路１４に供給する。

【0017】

このようなニューラルネットワーク装置１０は、１段目のレイヤ１２が外部装置または入力レイヤから１または複数の信号を受け取る。そして、ニューラルネットワーク装置１０は、受け取った１または複数の信号に対してニューラルネットワークによる演算を実行した結果を表す１または複数の信号を、Ｎ段目のレイヤ１２から出力する。

【0018】

なお、ニューラルネットワーク装置１０は、図１に示すような構成に限らず、リザーバー等のリカレントニューラルネットワークに従った構成であってもよい。この場合、複数のシナプス回路２０のうちの少なくとも１つは、出力信号をフィードバックしてニューロン回路１４に供給する。

【0019】

図２は、複数のシナプス回路２０の接続関係を示す図である。シナプス回路２０は、前段のレイヤ１２に含まれる何れかのニューロン回路１４である前段ニューロン回路２２から、発火信号を受け取る。シナプス回路２０は、受け取った発火信号に対して、記憶しているシナプス重みの影響を加えた出力信号を出力する。そして、シナプス回路２０は、出力信号を対応する後段ニューロン回路２４に与える。

【0020】

図３は、前段ニューロン回路２２、後段ニューロン回路２４およびシナプス回路２０の構成を示す図である。複数のニューロン回路１４のそれぞれは、出力信号を受け取ったことに応じて変化する内部電位Ｖを保持する。そして、複数のニューロン回路１４のそれぞれは、保持している内部電位Ｖに応じて発火信号を出力する。

【0021】

例えば、前段ニューロン回路２２および後段ニューロン回路２４のそれぞれは、電位保持回路３２と、発火回路３４とを含む。

【0022】

電位保持回路３２は、複数のシナプス回路２０から複数の出力信号を受け取る。電位保持回路３２は、何れかの出力信号を受け取った場合に、内部電位Ｖを所定量増加させる。また、電位保持回路３２は、出力信号を受け取っていない期間において、時間経過に従って内部電位Ｖを減少させてもよい。電位保持回路３２は、例えば、キャパシタを有してもよい。この場合、電位保持回路３２は、出力信号を受け取った場合、所定量の電荷をキャパシタにチャージする。また、電位保持回路３２は、出力信号を受け取っていない期間においてキャパシタに保持された電荷を時間経過に従ってディスチャージする。これにより、電位保持回路３２は、何れかの出力信号を受け取った場合に、内部電位Ｖを所定量増加させ、出力信号を受け取っていない期間において、時間経過に従って内部電位Ｖを減少させることができる。ニューロン回路１４が保持している内部電位Ｖについては、例えば、非特許文献１に、postsynaptic neuron Vとして記載されている。

【0023】

発火回路３４は、電位保持回路３２により保持される内部電位Ｖが予め設定された閾値を超えた場合に、発火信号を出力する。本実施形態において、発火回路３４は、発火開始タイミングにおいてＨ論理となり、発火開始タイミングから一定時間経過後においてＬ論理となる発火信号を出力する。すなわち、本実施形態において、発火回路３４は、内部電位Ｖが予め設定された閾値より大きくなった発火開始タイミングにおいて、発火信号をＬ論理からＨ論理に変化させる。そして、発火回路３４は、発火開始タイミングから一定時間経過後に、発火信号をＨ論理からＬ論理に変化させる。なお、発火回路３４は、内部電位Ｖが予め設定された閾値より大きくなった場合、確率的に、発火信号を出力してもよい。

【0024】

シナプス回路２０は、重み記憶回路３６と、伝達回路３８とを有する。

【0025】

重み記憶回路３６は、第１値または第２値を表すシナプス重みを記憶する。さらに、重み記憶回路３６は、前段ニューロン回路２２から発火信号を受け取った場合に、後段ニューロン回路２４により保持される内部電位Ｖが設定電位Ｖ_ＳＥＴ以上か否かを比較する。そして、重み記憶回路３６は、内部電位Ｖが設定電位Ｖ_ＳＥＴ以上か否かの比較結果に応じて予め設定された第１確率でシナプス重みを第１値または第２値に遷移させる。

【0026】

例えば、前段ニューロン回路２２から発火信号を受け取ったことに応じて、重み記憶回路３６は、内部電位Ｖが設定電位Ｖ_ＳＥＴ以上であり、且つ、記憶しているシナプス重みが第２値である場合、第１確率で、シナプス重みを第１値に変更する。より詳しくは、第１確率がＡ（Ａは、０より大きく１より小さい値）であるとする。この場合、発火信号を受け取ったことに応じて、重み記憶回路３６は、内部電位Ｖが設定電位Ｖ_ＳＥＴ以上であり、且つ、記憶しているシナプス重みが第２値である場合、Ａの確率でシナプス重みを第１値に変更し、（１－Ａ）の確率でシナプス重みを第２値で維持する。なお、重み記憶回路３６は、内部電位Ｖが設定電位Ｖ_ＳＥＴ以上であり、且つ、シナプス重みが第１値である場合には、シナプス重みを第１値で維持する。

【0027】

また、前段ニューロン回路２２から発火信号を受け取ったことに応じて、重み記憶回路３６は、内部電位Ｖが設定電位Ｖ_ＳＥＴより小さく、且つ、記憶しているシナプス重みが第１値である場合、第１確率で、シナプス重みを第２値で変更する。より詳しくは、発火信号を受け取ったことに応じて、重み記憶回路３６は、内部電位Ｖが設定電位Ｖ_ＳＥＴより小さく、且つ、記憶しているシナプス重みが第１値である場合、Ａの確率でシナプス重みを第２値に変更し、（１－Ａ）の確率でシナプス重みを第１値で維持する。なお、重み記憶回路３６は、内部電位Ｖが設定電位Ｖ_ＳＥＴより小さく、且つ、シナプス重みが第２値である場合、シナプス重みを第２値で維持する。

【0028】

また、発火信号は、Ｌ論理またはＨ論理の２値で表される信号であるとする。そして、発火信号は、前段ニューロン回路２２の発火開始タイミングにおいてＨ論理となり、発火開始タイミングから一定時間経過後においてＬ論理となる、とする。この場合、重み記憶回路３６は、発火信号がＬ論理からＨ論理に変化した第１タイミングにおいて、後段ニューロン回路２４の内部電位Ｖと設定電位Ｖ_ＳＥＴとを比較する。そして、重み記憶回路３６は、第１タイミングの直後に発火信号がＨ論理からＬ論理に変化した第２タイミングにおいて、比較結果に基づき、第１確率でシナプス重みを第１値または第２値に遷移させる。

【0029】

このような重み記憶回路３６は、前段ニューロン回路２２からの発火信号の出力と、後段ニューロン回路２４に保持される内部電位Ｖとの間の相関性が強い場合には、前段ニューロン回路２２と後段ニューロン回路２４との相互関係を強くするようにシナプス重みを学習させることができる。また、このような重み記憶回路３６は、前段ニューロン回路２２からの発火信号の出力と、後段ニューロン回路２４に保持される内部電位Ｖとの間の相関性が弱い場合には、前段ニューロン回路２２と後段ニューロン回路２４との相互関係を弱くするようにシナプス重みを学習させることができる。

【0030】

さらに、重み記憶回路３６は、前段ニューロン回路２２から発火信号を受け取ったか否かに関わらず、予め設定された第２確率で、シナプス重みを第１値に遷移させる。なお、第２確率は、第１確率よりも小さい値である。例えば、重み記憶回路３６は、予め設定された時間毎に、第２確率で、シナプス重みを第１値に遷移させる。なお、第２確率は、第１確率よりも低い。第２確率は、一例として、０．０００１程度の非常に微小な値である。

【0031】

例えば、重み記憶回路３６は、前段ニューロン回路２２から出力される発火信号とは無相関に、予め設定された時間毎に、第２確率でシナプス重みを第１値に遷移させる。このような重み記憶回路３６は、第１値のシナプス重みを本来記憶していなければならない場合において、たまたま前段ニューロン回路２２から発火信号が出力されなかったために、シナプス重みを第２値に変更してしまう、といった誤学習をしても、発火信号の出力に関わらず、第２確率で、シナプス重みを正しい値である第１値に復帰させることができる。

【0032】

なお、発火信号が、前段ニューロン回路２２の発火開始タイミングにおいてＨ論理となり、発火開始タイミングから一定時間経過後においてＬ論理となる場合、重み記憶回路３６は、発火信号がＬ論理の期間において、第２確率でシナプス重みを第１値に遷移させてもよい。これにより、重み記憶回路３６は、前段ニューロン回路２２から発火信号が出力されたことに応じたシナプス重みの学習処理と時間的に干渉せずに、第２確率でシナプス重みを第１値に遷移させることができる。

【0033】

伝達回路３８は、前段ニューロン回路２２から出力された発火信号を受け取り、受け取った発火信号に対して重み記憶回路３６により記憶されたシナプス重みの影響を加えた出力信号を後段ニューロン回路２４に供給する。

【0034】

例えば、伝達回路３８は、前段ニューロン回路２２から発火信号を受け取り、且つ、重み記憶回路３６により記憶されているシナプス重みが第１値である場合、出力信号を後段ニューロン回路２４に供給する。また、例えば、伝達回路３８は、前段ニューロン回路２２から発火信号を受け取り、且つ、重み記憶回路３６により記憶されているシナプス重みが第２値である場合、出力信号を後段ニューロン回路２４に与えない。これに代えて、例えば、伝達回路３８は、前段ニューロン回路２２から発火信号を受け取り、且つ、重み記憶回路３６により記憶されているシナプス重みが第２値である場合、シナプス重みが第１値である場合において出力信号を後段ニューロン回路２４に供給するタイミングよりも遅いタイミングで出力信号を後段ニューロン回路２４に供給する。これにより、伝達回路３８は、受け取った発火信号に対して重み記憶回路３６により記憶されたシナプス重みの影響を加えた出力信号を後段ニューロン回路２４に供給することができる。

【0035】

このような、伝達回路３８は、ニューラルネットワークにおける発火信号にシナプス重みを乗算する乗算処理をアナログ的に実行することができる。

【0036】

図４は、重み記憶回路３６の構成を示す図である。重み記憶回路３６は、例えば、学習指示回路４２と、重み制御回路４４と、ラッチ回路４６とを含む。

【0037】

学習指示回路４２は、設定電位発生回路５０と、コンパレータ５２と、指示回路内第１ＡＮＤ回路５６と、指示回路内第２ＡＮＤ回路５８とを含む。

【0038】

設定電位発生回路５０は、設定電位Ｖ_ＳＥＴを発生する。コンパレータ５２は、後段ニューロン回路２４により保持される内部電位Ｖと、設定電位発生回路５０から発生された設定電位Ｖ_ＳＥＴとを比較する。コンパレータ５２は、内部電位Ｖが設定電位Ｖ_ＳＥＴ以上である場合には、Ｈ論理となり、内部電位Ｖが設定電位Ｖ_ＳＥＴより小さい場合に、Ｌ論理となる比較信号を出力する。指示回路内反転回路５４は、コンパレータ５２から出力された比較信号を論理反転した信号を出力する。

【0039】

指示回路内第１ＡＮＤ回路５６は、コンパレータ５２から出力された比較信号と発火信号とをＡＮＤ演算する。指示回路内第１ＡＮＤ回路５６は、比較信号と発火信号とをＡＮＤ演算した結果を表す信号を、強化信号として出力する。

【0040】

指示回路内第２ＡＮＤ回路５８は、比較信号を指示回路内反転回路５４により論理反転した信号と、発火信号とをＡＮＤ演算する。指示回路内第１ＡＮＤ回路５６は、比較信号を論理反転した信号と発火信号とをＡＮＤ演算した結果を表す信号を、抑制信号として出力する。

【0041】

このような学習指示回路４２は、発火信号がＨ論理であって且つ内部電位Ｖが設定電位Ｖ_ＳＥＴ以上である期間においてＨ論理となり、それ以外の期間においてＬ論理となる強化信号を出力することができる。また、学習指示回路４２は、発火信号がＨ論理であって且つ内部電位Ｖが設定電位Ｖ_ＳＥＴより小さい期間においてＨ論理、それ以外の場合にＬ論理となる抑制信号を出力することができる。

【0042】

重み制御回路４４は、強化信号、抑制信号および発火信号を受け取る。そして、重み制御回路４４は、第１設定信号および第２設定信号を出力する。

【0043】

第１設定信号は、記憶しているシナプス重みを、第１値に遷移させるための信号である。本実施形態においては、第１設定信号は、Ｌ論理からＨ論理に変化した場合に、シナプス重みを第１値に遷移させることを表す。第２設定信号は、記憶しているシナプス重みを、第２値に遷移させるための信号である。本実施形態においては、第２設定信号は、Ｌ論理からＨ論理に変化した場合に、シナプス重みを第２値に遷移させることを表す。

【0044】

なお、重み制御回路４４の構成については図７を参照して後述する。

【0045】

ラッチ回路４６は、シナプス重みを記憶する。そして、ラッチ回路４６は、記憶しているシナプス重みの値を表す信号を伝達回路３８へと出力する。ラッチ回路４６は、シナプス重みとして、第１値または第２値を記憶する。本実施形態において、ラッチ回路４６は、第１値としてＨ論理を記憶し、第２値としてＬ論理を記憶する。

【0046】

また、ラッチ回路４６は、第２値（Ｌ論理）を記憶している状態において、第１設定信号がＬ論理からＨ論理に変化した場合、記憶している値を第１値（Ｈ論理）に遷移させる。なお、ラッチ回路４６は、第１値（Ｈ論理）を記憶している状態において、第１設定信号がＬ論理からＨ論理に変化した場合、記憶している値を第１値（Ｈ論理）で維持する。

【0047】

また、ラッチ回路４６は、第１値（Ｈ論理）を記憶している状態において、第２設定信号がＬ論理からＨ論理に変化した場合、記憶している値を第２値（Ｌ論理）に遷移させる。なお、ラッチ回路４６は、第２値（Ｌ論理）を記憶している状態において、第２設定信号がＬ論理からＨ論理に変化した場合、記憶している値を第２値（Ｌ論理）で維持する。

【0048】

例えば、ラッチ回路４６は、ラッチ内第１ＮＯＲ回路６２と、ラッチ内第２ＮＯＲ回路６４とを含む。ラッチ内第１ＮＯＲ回路６２は、第１設定信号およびラッチ内第２ＮＯＲ回路６４から出力された信号を受け取り、第１設定信号とラッチ内第２ＮＯＲ回路６４から出力された信号とをＮＯＲ演算した信号を出力する。ラッチ内第２ＮＯＲ回路６４は、第２設定信号およびラッチ内第１ＮＯＲ回路６２から出力された信号を受け取り、第２設定信号とラッチ内第１ＮＯＲ回路６２から出力された信号とをＮＯＲ演算した信号を出力する。そして、この場合、ラッチ回路４６は、ラッチ内第２ＮＯＲ回路６４から出力された信号を、シナプス重みとして出力する。

【0049】

例えば、ラッチ回路４６は、このような２つのＮＯＲ回路を含むＳＲラッチ回路により構成される。なお、ラッチ回路４６は、Ｌ論理またはＨ論理を記憶し、第１設定信号および第２設定信号により記憶している値を切り替えることができる回路であれば、どのような構成であってもよい。例えば、ラッチ回路４６は、例えば２つのＮＡＮＤ回路を含むＳＲラッチ回路であってもよいし、２つのインバータと２つの抵抗とを含むＳＲラッチ回路であってもよい。

【0050】

図５は、学習指示回路４２に関する信号のタイミングチャートである。

【0051】

図５の時刻ｔ_１１から時刻ｔ_１２に示すように、内部電位Ｖが設定電位Ｖ_ＳＥＴより小さい期間において、発火信号が、Ｌ論理からＨ論理に変化し、一定時間経過後において、Ｈ論理からＬ論理に変化したとする。この場合、抑制信号は、発火信号に同期して、時刻ｔ_１１においてＬ論理からＨ論理に変化し、時刻ｔ_１２においてＨ論理からＬ論理に変化する。なお、内部電位Ｖが設定電位Ｖ_ＳＥＴより小さい期間において、強化信号は、発火信号に関わらず、Ｌ論理となる。

【0052】

また、図５の時刻ｔ_１３から時刻ｔ_１４に示すように、内部電位Ｖが設定電位Ｖ_ＳＥＴ以上の期間において、発火信号が、Ｌ論理からＨ論理に変化し、一定時間経過後において、Ｈ論理からＬ論理に変化したとする。この場合、強化信号は、発火信号に同期して、時刻ｔ_１３においてＬ論理からＨ論理に変化し、時刻ｔ_１４においてＨ論理からＬ論理に変化する。なお、内部電位Ｖが設定電位Ｖ_ＳＥＴ以上である期間において、抑制信号は、発火信号に関わらず、Ｌ論理となる。

【0053】

このように、学習指示回路４２は、発火信号がＨ論理の期間において、内部電位Ｖが設定電位Ｖ_ＳＥＴ以上である場合には、強化信号をＨ論理とすることができる。また、学習指示回路４２は、発火信号がＨ論理の期間において、内部電位Ｖが設定電位Ｖ_ＳＥＴより小さい場合には、抑制信号をＨ論理とすることができる。

【0054】

図６は、発火信号、第１設定信号、第２設定信号およびシナプス重みのタイミングチャートである。

【0055】

第１設定信号は、ラッチ回路４６に保持されているシナプス重みを、第１値（例えばＨ論理）に遷移させる場合に、Ｌ論理からＨ論理へと変化する。第２設定信号は、ラッチ回路４６に保持されているシナプス重みを、第２値（例えばＬ論理）に遷移させる場合に、Ｌ論理からＨ論理へと変化する。第１設定信号および第２設定信号のそれぞれは、発火信号の立下りエッジ（Ｈ論理からＬ論理へと変化するタイミング）において、Ｌ論理からＨ論理へと変化する。そして、第１設定信号および第２設定信号のそれぞれは、Ｌ論理からＨ論理へと変化した後、次に発火信号の立下りエッジにおいて、Ｈ論理からＬ論理へと変化する。

【0056】

ラッチ回路４６は、時刻ｔ_２１に示すように、シナプス重みとしてＬ論理を保持している状態において第１設定信号がＬ論理からＨ論理に変化した場合、保持しているシナプス重みをＬ論理からＨ論理へと変化させる。ラッチ回路４６は、時刻ｔ_２２に示すように、シナプス重みとしてＨ論理を保持している状態において第１設定信号がＬ論理からＨ論理に変化した場合、保持しているシナプス重みをＨ論理で維持する。

【0057】

また、ラッチ回路４６は、時刻ｔ_２３に示すように、シナプス重みとしてＨ論理を保持している状態において第２設定信号がＬ論理からＨ論理に変化した場合、保持しているシナプス重みをＨ論理からＬ論理へと変化させる。ラッチ回路４６は、時刻ｔ_２４に示すように、シナプス重みとしてＬ論理を保持している状態において第２設定信号がＬ論理からＨ論理に変化した場合、保持しているシナプス重みをＬ論理で維持する。

【0058】

このように、ラッチ回路４６は、第１値または第２値で表されるシナプス重みを保持するとともに、第１設定信号または第２設定信号を受け取った場合に、シナプス重みを第１値または第２値に遷移させることができる。

【0059】

図７は、重み制御回路４４の構成を示す図である。

【0060】

重み制御回路４４は、第１確率発生器７２と、第１ＡＮＤ回路７４と、第２ＡＮＤ回路７６と、タイマ７８と、第２確率発生器８０と、第３ＡＮＤ回路８４と、第１反転回路８５と、第１ＯＲ回路８６と、第２反転回路９０と、第１Ｄフリップフロップ９２と、第２Ｄフリップフロップ９４とを含む。

【0061】

第１確率発生器７２は、予め設定された第１確率でＨ論理となる第１確率信号を発生する。例えば、第１確率発生器７２は、基準周期毎に乱数を発生し、発生した乱数が第１確率で出現する予め定められた値の範囲となったか否かを判断する。そして、第１確率発生器７２は、発生した乱数が予め定められた値の範囲になっている期間においてＨ論理となり、他の期間においてＬ論理となる第１確率信号を発生する。

【0062】

第１ＡＮＤ回路７４は、学習指示回路４２から受け取った強化信号と、第１確率発生器７２から出力された第１確率信号とをＡＮＤ演算した信号を出力する。これにより、第１ＡＮＤ回路７４は、強化信号を第１確率で出力することができる。

【0063】

第２ＡＮＤ回路７６は、学習指示回路４２から受け取った抑制信号と、第１確率発生器７２から出力された第１確率信号と、第１反転回路８５から出力された信号とをＡＮＤ演算した信号を出力する。これにより、第２ＡＮＤ回路７６は、第１反転回路８５から出力された信号がＨ論理であることを条件として、抑制信号を第１確率で出力することができる。

【0064】

タイマ７８は、予め設定された時間毎にＨ論理となり、Ｈ論理となってから所定時間後にＬ論理となるタイマ信号を出力する。

【0065】

第２確率発生器８０は、予め設定された第２確率でＨ論理となる第２確率信号を発生する。例えば、第２確率発生器８０は、基準周期毎に乱数を発生し、発生した乱数が第２確率で出現する予め定められた値の範囲となったか否かを判断する。そして、第２確率発生器８０は、発生した乱数が予め定められた値の範囲となっている期間においてＨ論理となり、他の期間においてＬ論理となる第２確率信号を発生する。

【0066】

第３ＡＮＤ回路８４は、タイマ７８から出力されたタイマ信号と、第２確率発生器８０から出力された第２確率信号とをＡＮＤ演算した信号を出力する。これにより、第３ＡＮＤ回路８４は、予め定められる時間毎に発生されるタイマ信号を第２確率で出力することができる。

【0067】

第１反転回路８５は、第３ＡＮＤ回路８４から出力された信号を反転して、第２ＡＮＤ回路７６に供給する。これにより、第１反転回路８５は、第２確率で出力されるタイマ信号がＨ論理ではないことを条件として、第１確率の抑制信号を第２ＡＮＤ回路７６から出力させることができる。すなわち、第１反転回路８５は、第２確率で出力されるタイマ信号がＨ論理である場合に、抑制信号がＨ論理とならないようにすることができる。第１ＯＲ回路８６は、第１ＡＮＤ回路７４から出力された信号と、第３ＡＮＤ回路８４から出力された信号とをＯＲ演算した信号を出力する。これにより、第１ＯＲ回路８６は、第１確率で出力された強化信号がＨ論理である場合、または、第２確率で出力されたタイマ信号がＨ論理である場合、Ｈ論理の信号を出力することができる。第２反転回路９０は、発火信号を反転した信号を出力する。

【0068】

第１Ｄフリップフロップ９２は、第１ＯＲ回路８６から出力された信号の値を、第２反転回路９０から出力された信号がＬ論理からＨ論理に変化したタイミングで取り込み、内部に記憶する。これにより、第１Ｄフリップフロップ９２は、強化信号が第１確率で出力された場合、または、タイマ信号が第２確率で出力された場合、Ｈ論理を取り込んで記憶することができる。また、第１Ｄフリップフロップ９２は、第１確率の強化信号が出力されなかった場合、且つ、第２確率のタイマ信号が出力されなかった場合、Ｌ論理を取り込んで記憶することができる。なお、第１Ｄフリップフロップ９２は、発火信号がＨ論理からＬ論理に変化するタイミングにおいて、値を取り込む。

【0069】

第２Ｄフリップフロップ９４は、第２ＡＮＤ回路７６から出力された信号の値を、第２反転回路９０から出力された信号がＬ論理からＨ論理に変化したタイミングで取り込み、内部に記憶する。これにより、第２Ｄフリップフロップ９４は、抑制信号が第１確率で出力された場合、第２確率のタイマ信号が出力されていないことを条件として、Ｈ論理を取り込んで記憶することができる。また、第２Ｄフリップフロップ９４は、第１確率の抑制信号が出力されなかった場合、Ｌ論理を取り込んで記憶することができる。なお、第２Ｄフリップフロップ９４は、発火信号がＨ論理からＬ論理に変化するタイミングにおいて、値を取り込む。

【0070】

このような重み制御回路４４は、第１Ｄフリップフロップ９２が記憶している値を表す信号を、第１設定信号として出力することができる。また、重み制御回路４４は、第２Ｄフリップフロップ９４が記憶している値を表す信号を、第２設定信号として出力することができる。

【0071】

図８は、重み制御回路４４の信号のタイミングチャートの第１例を示す図である。

【0072】

重み制御回路４４は、後段ニューロン回路２４の内部電位Ｖが設定電位Ｖ_ＳＥＴ以上である場合、発火信号に同期して変化する強化信号を受け取る。重み制御回路４４は、発火信号がＨ論理からＬ論理に変化するタイミング（時刻ｔ_３１）において、強化信号がＨ論理であり且つ第１確率発生器７２から発生された第１確率信号がＨ論理である場合、第１Ｄフリップフロップ９２にＨ論理が取り込まれる。従って、重み制御回路４４は、発火信号がＨ論理からＬ論理に変化するタイミング（時刻ｔ_３１）において、強化信号がＨ論理であり且つ第１確率信号がＨ論理である場合、発火信号がＨ論理からＬ論理に変化するタイミング（時刻ｔ_３１）からＨ論理となる第１設定信号を出力することができる。

【0073】

また、重み制御回路４４は、発火信号がＨ論理からＬ論理に変化するタイミング（時刻ｔ_３２）において、第１確率発生器７２から発生された第１確率信号または強化信号がＬ論理である場合、第１Ｄフリップフロップ９２にＬ論理が取り込まれる。従って、重み制御回路４４は、発火信号がＨ論理からＬ論理に変化するタイミング（時刻ｔ_３２）において、第１確率発生器７２から発生された第１確率信号または強化信号がＬ論理である場合、発火信号がＨ論理からＬ論理に変化するタイミング（時刻ｔ_３２）からＬ論理となる第１設定信号を出力することができる。

【0074】

このように、重み制御回路４４は、強化信号がＨ論理となった場合、すなわち、後段ニューロン回路２４の内部電位Ｖが設定電位Ｖ_ＳＥＴ以上である場合、第１確率で、シナプス重みを第１値（例えばＨ論理）へと遷移させる第１設定信号を出力することができる。また、この場合、重み制御回路４４は、強化信号がＨ論理からＬ論理に変化するタイミング、すなわち、発火信号がＨ論理からＬ論理に変化するタイミングにおいて、シナプス重みを第１値（例えばＨ論理）へと遷移させることができる。

【0075】

また、重み制御回路４４は、後段ニューロン回路２４の内部電位Ｖが設定電位Ｖ_ＳＥＴより小さい場合、発火信号に同期して変化する抑制信号を受け取る。重み制御回路４４は、発火信号がＨ論理からＬ論理に変化するタイミング（時刻ｔ_３３）において、抑制信号がＨ論理であり且つ第１確率発生器７２から発生された第１確率信号がＨ論理である場合、第２Ｄフリップフロップ９４にＨ論理が取り込まれる。従って、重み制御回路４４は、発火信号がＨ論理からＬ論理に変化するタイミング（時刻ｔ_３３）において、抑制信号がＨ論理であり且つ第１確率信号がＨ論理である場合、発火信号がＨ論理からＬ論理に変化するタイミング（時刻ｔ_３３）からＨ論理となる第２設定信号を出力することができる。

【0076】

また、重み制御回路４４は、発火信号がＨ論理からＬ論理に変化するタイミング（時刻ｔ_３４）において、第１確率発生器７２から発生された第１確率信号または抑制信号がＬ論理である場合、第２Ｄフリップフロップ９４にＬ論理が取り込まれる。従って、重み制御回路４４は、発火信号がＨ論理からＬ論理に変化するタイミング（時刻ｔ_３４）において、第１確率発生器７２から発生された第１確率信号または抑制信号がＬ論理である場合、発火信号がＨ論理からＬ論理に変化するタイミング（時刻ｔ_３４）からＬ論理となる第２設定信号を出力することができる。

【0077】

このように、重み制御回路４４は、抑制信号がＨ論理となった場合、すなわち、後段ニューロン回路２４の内部電位Ｖが設定電位Ｖ_ＳＥＴより小さい場合、第１確率で、シナプス重みを第２値（例えばＬ論理）へと遷移させる第２設定信号を出力することができる。また、この場合、重み制御回路４４は、抑制信号がＨ論理からＬ論理に変化するタイミング、すなわち、発火信号がＨ論理からＬ論理に変化するタイミングにおいて、シナプス重みを第２値（例えばＬ論理）へと遷移させることができる。

【0078】

図９は、重み制御回路４４の信号のタイミングチャートの第２例を示す図である。タイマ信号は、予め設定された時間毎にＨ論理となり、Ｈ論理となってから所定時間後にＬ論理となる。第２確率信号は、第２確率でＨ論理となる。

【0079】

発火信号がＬ論理であり、タイマ信号がＨ論理であり、且つ、第２確率信号がＨ論理である場合、第１Ｄフリップフロップ９２は、Ｈ論理を取得する。従って、重み制御回路４４は、発火信号がＬ論理であり、タイマ信号がＨ論理であり、且つ、第２確率信号がＨ論理である場合、タイマ信号がＨ論理からＬ論理に変化するタイミング（時刻ｔ_４１）から、次の発火信号がＨ論理からＬ論理に変化するタイミング（時刻ｔ_４２）まで、Ｈ論理となる第１設定信号を出力することができる。

【0080】

このように、重み制御回路４４は、タイマ信号がＨ論理となった場合、すなわち、発火信号とは無相関に、第２確率で、シナプス重みを第１値（例えばＨ論理）へと遷移させる第１設定信号を出力することができる。また、このような、重み制御回路４４は、発火信号がＬ論理の期間において、第２確率でシナプス重みを第１値に遷移させる。これにより、重み制御回路４４は、発火信号がＨ論理となった場合にシナプス重みを遷移させる学習動作との時間的な干渉をせずに、第２確率でシナプス重みを第１値に遷移させることができる。

【0081】

図１０は、実施形態に係るリザーバーコンピューティング装置の構成を示す図である。リザーバーコンピューティング装置は、入力層１０２と、リカレントニューラルネットワークであるリザーバー層１０４と、出力層１０６とを備える。ニューラルネットワーク装置１０は、このようなリザーバーコンピューティングにおける、リザーバー層１０４として用いられてもよい。

【0082】

この場合、ニューラルネットワーク装置１０に含まれている複数のシナプス回路２０のうちの少なくとも１つは、出力信号をフィードバックしてニューロン回路１４に供給する。すなわち、複数のシナプス回路２０のうちの少なくとも１つは、複数のニューロン回路１４のうちの、前段ニューロン回路２２へと出力信号を供給するシナプス回路２０よりも前段に配置されたニューロン回路１４へと、出力信号を供給する。

【0083】

図１１は、リザーバーコンピューティング装置にニューラルネットワーク装置１０を適用した場合における、学習回数に対する精度を示す図である。なお、図１１は、比較のために、発火信号とは無相関に第２確率でシナプス重みを第１値に遷移させた場合と、発火信号とは無相関に第２確率でシナプス重みを第１値に遷移させなかった場合との精度を示している。

【0084】

図１１の例においては、リザーバーコンピューティング装置にニューラルネットワーク装置１０を適用した場合、学習回数が１５５０回を超えると、第２確率でシナプス重みを第１値に遷移させなかった場合よりも、第２確率でシナプス重みを第１値に遷移させた場合の方が、精度が良くなっている。

【0085】

以上のように、本実施形態に係るニューラルネットワーク装置１０は、複数のシナプス回路２０のそれぞれが記憶するシナプス重みを、発火信号に応じたシナプス重みの学習とは無相関に、第２確率で、第１値に遷移させる。これにより、本実施形態に係るニューラルネットワーク装置１０は、発火信号に応じた学習によって、第１値のシナプス重みを本来記憶していなければならないシナプス回路２０に対して、たまたま前段ニューロン回路２２が発火しなかったためにシナプス重みを誤って第２値に遷移させてしまった場合であっても、第２確率でシナプス重みを第１値に復帰させることができる。もし、このような誤学習が発生すると、以後、後段ニューロン回路２４が保持している内部電位が変化しにくくなるので、従来の装置は、そのシナプス重みを正しい第１値に復帰させることが難しい。しかし、本実施形態に係るニューラルネットワーク装置１０は、このような誤学習による精度悪化を抑制して、シナプス重みを精度良く学習することができる。この結果、実施形態に係るニューラルネットワーク装置１０は、精度の良い推論を実行することができる。

【0086】

実施形態を説明したが、実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、請求の範囲に記載された発明とその均等の範囲に含まれる。

【符号の説明】

【0087】

１０ ニューラルネットワーク装置
１２ レイヤ
１４ ニューロン回路
２０ シナプス回路
２２ 前段ニューロン回路
２４ 後段ニューロン回路
３２ 電位保持回路
３４ 発火回路
３６ 重み記憶回路
３８ 伝達回路
４２ 学習指示回路
４４ 重み制御回路
４６ ラッチ回路
５０ 設定電位発生回路
５２ コンパレータ
５４ 指示回路内反転回路
５６ 指示回路内第１ＡＮＤ回路
５８ 指示回路内第２ＡＮＤ回路
６２ ラッチ内第１ＮＯＲ回路
６４ ラッチ内第２ＮＯＲ回路
７２ 第１確率発生器
７４ 第１ＡＮＤ回路
７６ 第２ＡＮＤ回路
７８ タイマ
８０ 第２確率発生器
８４ 第３ＡＮＤ回路
８５ 第１反転回路
８６ 第１ＯＲ回路
９０ 第２反転回路
９２ 第１Ｄフリップフロップ
９４ 第２Ｄフリップフロップ
１０２ 入力層
１０４ リザーバー層
１０６ 出力層

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】