▶ 日本電気株式会社の特許一覧 ▶ 国立大学法人 東京大学の特許一覧
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-09-10
(45)【発行日】2024-09-19
(54)【発明の名称】ニューラルネットワーク装置、処理方法およびプログラム
(51)【国際特許分類】
G06N 3/04 20230101AFI20240911BHJP
【ＦＩ】
G06N3/04
【請求項の数】
3
(21)【出願番号】P 2023066737
(22)【出願日】2023-04-14
(62)【分割の表示】P 2021507387の分割
【原出願日】2020-03-18
(65)【公開番号】P2023085564
(43)【公開日】2023-06-20
【審査請求日】2023-04-14
(31)【優先権主張番号】P 2019052880
(32)【優先日】2019-03-20
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(73)【特許権者】
【識別番号】504137912
【氏名又は名称】国立大学法人 東京大学
(74)【代理人】
【識別番号】100149548
【弁理士】
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100181135
【弁理士】
【氏名又は名称】橋本 隆史
(72)【発明者】
【氏名】酒見 悠介
(72)【発明者】
【氏名】森野 佳生
(72)【発明者】
【氏名】合原 一幸
【審査官】千葉 久博
(56)【参考文献】
【文献】MOSTAFA, H，"Supervised Learning Based on Temporal Coding in Spiking Neural Networks"，IEEE Transactions on Neural Networks and Learning Systems [online]，IEEE，2017年，Vol. 29, No. 7，pp. 3227-3235，[retrieved on 2022.08.04], Retrieved from the Internet: <URL: https://ieeexplore.ieee.org/document/7999227>，<DOI: 10.1109/TNNLS.2017.2726060>
【文献】BURKITT, AN，"A Review of the Integrate-and-fire Neuron Model: I. Homogeneous Synaptic Input"，Biological Cybernetics [online]，2006年，Vol. 95，pp. 1-19，[retrieved on 2024.04.10], Retrieved from the Internet: <URL: https://link.springer.com/article/10.1007/s00422-006-0068-6>，<DOI: 10.1007/s00422-006-0068-6>
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｎ ３／０４
(57)【特許請求の範囲】
【請求項1】
漏れなし積分発火型のスパイキングニューロン、かつ、シナプス後電流Ｉ
（ｍ）
ｉ
（ｔ）が、そのスパイキングニューロンの前の層のスパイキングニューロンの発火タイミングｔ
（ｍ－１）
ｊ
で値が変化するステップ関数θ（ｔ－ｔ
（ｍ－１）
ｊ
）の重みｗ
（ｍ）
ｉｊ
による重み付け合計Σ
ｊ
ｗ
（ｍ）
ｉｊ
θ（ｔ－ｔ
（ｍ－１）
ｊ
）でＩ
（ｍ）
ｉ
（ｔ）＝Σ
ｊ
ｗ
（ｍ）
ｉｊ
θ（ｔ－ｔ
（ｍ－１）
ｊ
）と表されるスパイキングニューロンとして構成され、ニューラルネットワークの１回の処理において高々１回発火して発火タイミングでニューロンモデル手段自らの出力を示すニューロンモデル手段と、前記ニューロンモデル手段の間の情報伝達を行う伝達処理手段と、
を備えるニューラルネットワーク装置。
【請求項2】
漏れなし積分発火型のスパイキングニューロン、かつ、シナプス後電流Ｉ
（ｍ）
ｉ
（ｔ）が、そのスパイキングニューロンの前の層のスパイキングニューロンの発火タイミングｔ
（ｍ－１）
ｊ
で値が変化するステップ関数θ（ｔ－ｔ
（ｍ－１）
ｊ
）の重みｗ
（ｍ）
ｉｊ
による重み付け合計Σ
ｊ
ｗ
（ｍ）
ｉｊ
θ（ｔ－ｔ
（ｍ－１）
ｊ
）でＩ
（ｍ）
ｉ
（ｔ）＝Σ
ｊ
ｗ
（ｍ）
ｉｊ
θ（ｔ－ｔ
（ｍ－１）
ｊ
）と表されるスパイキングニューロンであって、ニューラルネットワークの１回の処理において高々１回発火して発火タイミングでスパイキングニューロン自らの出力を示すスパイキングニューロンの動作を実行する工程と、前記スパイキングニューロン間の情報伝達を行う工程と、
を含む処理方法。
【請求項3】
ＡＳＩＣに、漏れなし積分発火型のスパイキングニューロン、かつ、シナプス後電流Ｉ （ｍ） ｉ （ｔ）が、そのスパイキングニューロンの前の層のスパイキングニューロンの発火タイミングｔ （ｍ－１） ｊ で値が変化するステップ関数θ（ｔ－ｔ （ｍ－１） ｊ ）の重みｗ （ｍ） ｉｊ による重み付け合計Σ ｊ ｗ （ｍ） ｉｊ θ（ｔ－ｔ （ｍ－１） ｊ ）でＩ （ｍ） ｉ （ｔ）＝Σ ｊ ｗ （ｍ） ｉｊ θ（ｔ－ｔ （ｍ－１） ｊ ）と表されるスパイキングニューロンであって、ニューラルネットワークの１回の処理において高々１回発火して発火タイミングでスパイキングニューロン自らの出力を示すスパイキングニューロンの動作を実行する工程と、
前記スパイキングニューロン間の情報伝達を行う工程と、
を実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ニューラルネットワーク装置、処理方法およびプログラムに関する。
【背景技術】
【0002】
（順伝搬型スパイキングニューラルネットワークについて）
ニューラルネットワークの一形態として、順伝搬型スパイキングニューラルネットワーク（Spiking Neural Network；ＳＮＮ）がある。スパイキングニューラルネットワークとは、スパイキングニューロンモデル（スパイキングニューロン、または、単にニューロンとも称する）が結合しネットワークを形成したものである。
順伝搬型とは、ネットワーク構成方法の一つであり、層から層への結合における情報伝達が一方向のネットワークのことである。順伝搬型スパイキングニューラルネットワークの各層は１つ以上のスパイキングニューロンで構成されており、同層内のスパイキングニューロン間の結合は存在しない。
ニューラルネットワークの一形態として、順伝搬型スパイキングニューラルネットワーク（Spiking Neural Network；ＳＮＮ）がある。スパイキングニューラルネットワークとは、スパイキングニューロンモデル（スパイキングニューロン、または、単にニューロンとも称する）が結合しネットワークを形成したものである。
順伝搬型とは、ネットワーク構成方法の一つであり、層から層への結合における情報伝達が一方向のネットワークのことである。順伝搬型スパイキングニューラルネットワークの各層は１つ以上のスパイキングニューロンで構成されており、同層内のスパイキングニューロン間の結合は存在しない。
【0003】
図１４は、順伝搬型スパイキングニューラルネットワークの階層構造の例を示す図である。図１４は、順伝搬４層スパイキングニューラルネットワークの例を示している。但し、順伝搬型スパイキングニューラルネットワークの層数は、４層に限定されず２層以上であればよい。
図１４に例示されるように順伝搬型スパイキングニューラルネットワークは階層構造に構成され、データの入力を受けて演算結果を出力する。ニューラルネットワークが出力する演算結果を予測値または予測とも称する。
ニューラルネットワークの第１層（図１４の例では、層１０１１）は入力層と呼ばれ、最後の層（図１４の例では、第４層（層１０１４））は出力層と呼ばれる。入力層と出力層との間にある層（図１４の例では、第２層（層１０１２）および第３層（層１０１３））は隠れ層と呼ばれる。
図１４に例示されるように順伝搬型スパイキングニューラルネットワークは階層構造に構成され、データの入力を受けて演算結果を出力する。ニューラルネットワークが出力する演算結果を予測値または予測とも称する。
ニューラルネットワークの第１層（図１４の例では、層１０１１）は入力層と呼ばれ、最後の層（図１４の例では、第４層（層１０１４））は出力層と呼ばれる。入力層と出力層との間にある層（図１４の例では、第２層（層１０１２）および第３層（層１０１３））は隠れ層と呼ばれる。
【0004】
図１５は、順伝搬型スパイキングニューラルネットワークの構成例を示す図である。図１５は、図１４における４つの層（層１０１１～１０１４）が、それぞれ３つのスパイキングニューロン（スパイキングニューロンモデル）１０２１を有している場合の例を示している。但し、順伝搬型スパイキングニューラルネットワークが備えるスパイキングニューロンの個数は、特定の個数に限定されず、各層が１つ以上のスパイキングニューロンを備えていればよい。各層が同じ個数のスパイキングニューロンを備えていてもよいし、層によって異なる個数のスパイキングニューロンを備えていてもよい。
【0005】
スパイキングニューロン１０２１は、生物学的神経細胞の細胞体部による信号の統合およびスパイクの生成（発火）を模擬する。
伝達経路１０２２は、生物学的神経細胞の軸索およびシナプスによる信号の伝達を模擬する。伝達経路１０２２は、隣り合う層間の２つのスパイキングニューロン１０２１を結んで配置され、前段層のスパイキングニューロン１０２１から後段層側のスパイキングニューロン１０２１へスパイクを伝達する。
伝達経路１０２２は、生物学的神経細胞の軸索およびシナプスによる信号の伝達を模擬する。伝達経路１０２２は、隣り合う層間の２つのスパイキングニューロン１０２１を結んで配置され、前段層のスパイキングニューロン１０２１から後段層側のスパイキングニューロン１０２１へスパイクを伝達する。
【0006】
図１５の例では、伝達経路１０２２は、層１０１１のスパイキングニューロン１０２１の各々から層１０１２のスパイキングニューロン１０２１の各々へ、層１０１２のスパイキングニューロン１０２１の各々から層１０１３のスパイキングニューロン１０２１の各々へ、および、層１０１３のスパイキングニューロン１０２１の各々から層１０１４のスパイキングニューロン１０２１の各々へ、スパイクを伝達する。
【0007】
スパイキングニューロンモデルは、膜電位を内部状態として持ち、膜電位が微分方程式に従って時間発展するモデルである。一般的なスパイキングニューロンモデルとして、漏れ積分発火ニューロンモデルが知られており、式（１）のような微分方程式に従って時間発展する。
【0008】
【数1】
【0009】
ここで、ｖ（ｎ）
ｉは、第ｎ層のｉ番目のスパイキングニューロンモデルにおける膜電位を示す。αｌｅａｋは、漏れ積分発火モデルにおける漏れの大きさを示す定数の係数である。Ｉ（ｎ）
ｉは、第ｎ層のｉ番目のスパイキングニューロンモデルにおけるシナプス後電流を示す。ｗ（ｎ）
ｉｊは、第ｎ－１層のｊ番目のスパイキングニューロンモデルから第ｎ層のｉ番目のスパイキングニューロンモデルへの結合の強さを示す係数であり、重みと呼ばれる。
ｔは時刻を示す。ｔ（ｎ－１） ｊは第ｎ－１層のｊ番目のニューロンの発火タイミング（発火時刻）を示す。κは前段の層から伝達されたスパイクがシナプス後電流へ与える影響を示す関数である。
ｔは時刻を示す。ｔ（ｎ－１） ｊは第ｎ－１層のｊ番目のニューロンの発火タイミング（発火時刻）を示す。κは前段の層から伝達されたスパイクがシナプス後電流へ与える影響を示す関数である。
【0010】
膜電位が閾値Ｖｔｈを超えると、そのスパイキングニューロンモデルはスパイクを生成し(発火)、その後、膜電位はリセット値Ｖｒｅｓｅｔへと戻る。また、生成されたスパイクは、結合している後段層のスパイキングニューロンモデルへと伝達される。
【0011】
図１６は、スパイキングニューロンの膜電位の時間発展の例を示す図である。図１６のグラフの横軸は時刻を示し、縦軸は、膜電位を示す。図１６は、第ｎ層のｉ番目のスパイキングニューロンの膜電位の時間発展の例を示しており、膜電位は、ｖ（ｎ）
ｉと表されている。
上記のように、Ｖｔｈは、膜電位の閾値を示す。Ｖｒｅｓｅｔは、膜電位のリセット値を示す。ｔ（ｎ－１） １は第ｎ－１層の１番目のニューロンの発火タイミングを示す。ｔ（ｎ－１） ２は第ｎ－１層の２番目のニューロンの発火タイミングを示す。ｔ（ｎ－１） ３は第ｎ－１層の３番目のニューロンの発火タイミングを示す。
時刻ｔ（ｎ－１） １における１番目の発火および時刻ｔ（ｎ－１） ３における３番目の発火では、何れも膜電位ｖ（ｎ） ｉは閾値Ｖｔｈに達していない。一方、時刻ｔ（ｎ－１） ２における２番目の発火では、膜電位ｖ（ｎ） ｉが閾値Ｖｔｈに達し、その後すぐに、リセット値であるＶｒｅｓｅｔに低下している。
上記のように、Ｖｔｈは、膜電位の閾値を示す。Ｖｒｅｓｅｔは、膜電位のリセット値を示す。ｔ（ｎ－１） １は第ｎ－１層の１番目のニューロンの発火タイミングを示す。ｔ（ｎ－１） ２は第ｎ－１層の２番目のニューロンの発火タイミングを示す。ｔ（ｎ－１） ３は第ｎ－１層の３番目のニューロンの発火タイミングを示す。
時刻ｔ（ｎ－１） １における１番目の発火および時刻ｔ（ｎ－１） ３における３番目の発火では、何れも膜電位ｖ（ｎ） ｉは閾値Ｖｔｈに達していない。一方、時刻ｔ（ｎ－１） ２における２番目の発火では、膜電位ｖ（ｎ） ｉが閾値Ｖｔｈに達し、その後すぐに、リセット値であるＶｒｅｓｅｔに低下している。
【0012】
スパイキングニューラルネットワークはＣＭＯＳ（Complementary MOS）などでハードウェア化したときに、深層学習モデルよりも消費電力を下げられると期待されている。その理由の一つは、人の脳は２０ワット（Ｗ）相当の低消費電力な計算媒体であり、スパイキングニューラルネットワークはそのような低消費電力の脳の活動を模倣することができるためである。
【0013】
脳相当の消費電力のハードウェアを作るには、脳の計算原理に倣い、スパイキングニューラルネットワークのアルゴリズムを開発していくことが必要である。例えば、画像認識を、スパイキングニューラルネットワークを用いて行えることが知られており、様々な教師あり学習アルゴリズムや教師なし学習アルゴリズムが開発されてきた。
【0014】
（スパイキングニューラルネットワークにおける情報伝達方式について）
スパイキングニューラルネットワークのアルゴリズムでは、スパイクによる情報伝達方式において幾つかの手法があり、特に、頻度方式と時間方式とがよく用いられている。
頻度方式では、一定時間間隔の間に、ある特定のニューロンが何回発火したかで情報を伝達する。一方、時間方式では、スパイクのタイミングで情報を伝達する。
スパイキングニューラルネットワークのアルゴリズムでは、スパイクによる情報伝達方式において幾つかの手法があり、特に、頻度方式と時間方式とがよく用いられている。
頻度方式では、一定時間間隔の間に、ある特定のニューロンが何回発火したかで情報を伝達する。一方、時間方式では、スパイクのタイミングで情報を伝達する。
【0015】
図１７は、頻度方式、時間方式それぞれにおけるスパイクの例を示す図である。図１７の例で、頻度方式では、「１」、「３」、「５」の情報を、その情報に応じたスパイク数で示している。一方、時間方式では、「１」、「３」、「５」の情報の何れの場合もスパイク数は１つであり、情報に応じたタイミングでスパイクを生成することで、その情報を示している。図１７の例では、ニューロンは、情報としての数が大きくなるほど遅いタイミングでスパイクを生成している。
【0016】
図１７に示すように、時間方式は、頻度方式に比べて、少ないスパイク数で情報を表すことができる。非特許文献１では、画像認識等のタスクにおいて、時間方式は頻度方式の１０分の１以下のスパイク数で実行できることが報告されている。
ハードウェアの消費電力は、スパイク数増加によって増加するため、時間方式のアルゴリズムを用いると消費電力を削減することができる。
ハードウェアの消費電力は、スパイク数増加によって増加するため、時間方式のアルゴリズムを用いると消費電力を削減することができる。
【0017】
（順伝搬型スパイキングニューラルネットワークによる予測について）
順伝搬型スパイキングニューラルネットワークを用いることで、様々な課題を解くことができることが報告されている。例えば、図１４のようなネットワーク構成において、入力層に画像データを入力し、スパイキングニューラルネットワークが、答えを予測するようにできる。時間方式の場合、予測値の出力方法として、例えば、出力層のニューロンのうち最も早く発火（スパイクを生成）したニューロンによって予測値を示すことができる。
順伝搬型スパイキングニューラルネットワークを用いることで、様々な課題を解くことができることが報告されている。例えば、図１４のようなネットワーク構成において、入力層に画像データを入力し、スパイキングニューラルネットワークが、答えを予測するようにできる。時間方式の場合、予測値の出力方法として、例えば、出力層のニューロンのうち最も早く発火（スパイクを生成）したニューロンによって予測値を示すことができる。
【0018】
（順伝搬型スパイキングニューラルネットワークの学習について）
スパイキングニューラルネットワークが正しく予測を行うには学習プロセスが必要である。例えば、画像を認識する学習プロセスでは、画像データと、その解答であるラベルデータとが用いられる。
スパイキングニューラルネットワークが正しく予測を行うには学習プロセスが必要である。例えば、画像を認識する学習プロセスでは、画像データと、その解答であるラベルデータとが用いられる。
【0019】
学習プロセスで、スパイキングニューラルネットワークは、データの入力を受けて予測値を出力する。そして、スパイキングニューラルネットワークに学習を行わせるための学習機構が、スパイキングニューラルネットワークが出力する予測値とラベルデータ（正解）との差である予測誤差を算出する。学習機構は、予測誤差から定義される損失関数Ｌを、スパイキングニューラルネットワークにおけるネットワークの重みの最適化によって最小化することで、スパイキングニューラルネットワークに学習を行わせる。
【0020】
（損失関数の最小化について）
例えば、学習機構が、式（２）のように重みを更新することで、損失関数Ｌを最小化することができる。
例えば、学習機構が、式（２）のように重みを更新することで、損失関数Ｌを最小化することができる。
【0021】
【数2】
【0022】
ここで、Δｗ（ｎ）
ｉｊは、重みｗ（ｎ）
ｉｊの増減を示す。Δｗ（ｎ）
ｉｊの値が正の場合、重みｗ（ｎ）
ｉｊを増加させる。Δｗ（ｎ）
ｉｊの値が負の場合、重みｗ（ｎ）
ｉｊを減少させる。
ηは学習係数と呼ばれる定数である。
ηは学習係数と呼ばれる定数である。
【0023】
（確率的勾配降下法について）
確率的勾配降下法では、一部の訓練データを用いて重みを一度更新する。訓練データを全て用いて重みの更新を複数回繰り返したとき、その繰り返し単位をエポックと呼ぶ。確率的勾配降下法では、一般に、数十から数百のエポックを実行して学習を収束させる。また、一つのデータ（１つの入力データと１つのラベルデータ）で重みを更新することをオンライン学習と呼び、二つ以上のデータを用いて更新することをミニバッチ学習と呼ぶ。
確率的勾配降下法では、一部の訓練データを用いて重みを一度更新する。訓練データを全て用いて重みの更新を複数回繰り返したとき、その繰り返し単位をエポックと呼ぶ。確率的勾配降下法では、一般に、数十から数百のエポックを実行して学習を収束させる。また、一つのデータ（１つの入力データと１つのラベルデータ）で重みを更新することをオンライン学習と呼び、二つ以上のデータを用いて更新することをミニバッチ学習と呼ぶ。
【0024】
（予測結果の出力について）
前述のように、順伝搬型スパイキングニューラルネットワークを用いることで、様々な課題を解くことができることが報告されている。例えば上記のように、入力層に画像データを入力し、ネットワークが、その画像の答えを予測するようにできる。
前述のように、順伝搬型スパイキングニューラルネットワークを用いることで、様々な課題を解くことができることが報告されている。例えば上記のように、入力層に画像データを入力し、ネットワークが、その画像の答えを予測するようにできる。
【0025】
図１８は、スパイキングニューラルネットワークの予測結果の出力表現の例を示す図である。
例えば、０から２までの３個の数字の画像を認識するタスクにおいては、図１８に示すように、３個のニューロンが出力層を構成し、それぞれが０から２までの数字に対応しており、そのうち最も早く発火したニューロンが示す数字がネットワークの示す予測となる。なお、このネットワークの動作は、ニューロンの発火タイミングによって情報がコーディングされているので、時間方式である。
例えば、０から２までの３個の数字の画像を認識するタスクにおいては、図１８に示すように、３個のニューロンが出力層を構成し、それぞれが０から２までの数字に対応しており、そのうち最も早く発火したニューロンが示す数字がネットワークの示す予測となる。なお、このネットワークの動作は、ニューロンの発火タイミングによって情報がコーディングされているので、時間方式である。
【0026】
（非線形関数とハードウェア実装について）
スパイキングニューラルネットワークの専用ハードウェアは、一般に、ニューロモルフィックハードウェアとよばれている。このハードウェアの実装について、アナログ回路による実装や、デジタル回路による実装が知られている。
ハードウェアでは、一般に、その消費電力および回路面積を小さくすることが求められる。しかし、一方で、複雑なニューロンモデルや、複雑な学習則を実装すると、消費電力および回路面積が大きくなってしまう。
スパイキングニューラルネットワークの専用ハードウェアは、一般に、ニューロモルフィックハードウェアとよばれている。このハードウェアの実装について、アナログ回路による実装や、デジタル回路による実装が知られている。
ハードウェアでは、一般に、その消費電力および回路面積を小さくすることが求められる。しかし、一方で、複雑なニューロンモデルや、複雑な学習則を実装すると、消費電力および回路面積が大きくなってしまう。
【0027】
(非線形関数について)
ニューロンモデルでは、生物学的なニューロンとの整合性から、非線形関数を含む形が採用されることが多い。
ニューロンモデルでは、生物学的なニューロンとの整合性から、非線形関数を含む形が採用されることが多い。
【0028】
（データの移動について）
ニューロモルフィックハードウェアの消費電力では、重みなどのメモリデータの移動が大きな寄与を占めている。そのため、学習則において、データの移動が少ないアルゴリズムを用いることで消費電力を下げられる。データの移動を少なくするには、移動の回数を少なくすること、および、データの移動距離を小さくすることのうち、何れか一方、もしくは両方を行えばよい。
ニューロモルフィックハードウェアの消費電力では、重みなどのメモリデータの移動が大きな寄与を占めている。そのため、学習則において、データの移動が少ないアルゴリズムを用いることで消費電力を下げられる。データの移動を少なくするには、移動の回数を少なくすること、および、データの移動距離を小さくすることのうち、何れか一方、もしくは両方を行えばよい。
【0029】
図１９は、予測時および学習時におけるデータの移動の例を示す図である。図１９では、ニューロンを三角で示し、重みを丸で示している。予測時は、実線で示すようなデータの移動が発生する。一方、学習時、特に、重みｗ１の更新時には、破線で示すようなデータの移動が発生する。
【0030】
（リークなしモデルについて）
非特許文献２では、式（１）の定数αｌｅａｋを０とおく漏れ（リーク）なし積分発火モデルを用いることで認識精度を向上させる報告があった。非特許文献２では、漏れなし積分発火モデルとして、式（３）に示されるモデルが用いられている。
非特許文献２では、式（１）の定数αｌｅａｋを０とおく漏れ（リーク）なし積分発火モデルを用いることで認識精度を向上させる報告があった。非特許文献２では、漏れなし積分発火モデルとして、式（３）に示されるモデルが用いられている。
【0031】
【数3】
【0032】
ここで、ｅｘｐは、自然指数関数である。τは定数を示す。
【先行技術文献】
【非特許文献】
【0033】
【文献】T. Liu、外５名、“MT-spike: A multilayer time-based spiking neuromorphic architecture with temporal error backpropagation”、Proceedings of the 36th International Conference on Computer-Aided Design、IEEE Press、２０１７年、ｐ．４５０－４５７
【文献】H. Mostafa、“Supervised Learning Based on Temporal Coding in Spiking Neural Networks”、IEEE Transactions on Neural Networks and Learning Systems、第２９、２０１８年、ｐ．３２２７－３２３５
【文献】S. M. Bohte、外２名、“Error-backpropagation in temporally encoded networks of spiking neurons”、Neurocomputing、第４８巻、２００２年、ｐ．１７－３７
【発明の概要】
【発明が解決しようとする課題】
【0034】
ニューラルネットワークのモデルを簡単なものにできることが好ましい。
例えば、非特許文献２における、上記の式（３）に示される漏れなし積分モデルが、非線形関数（ｅｘｐ（－ｘ／τ））を含むのに対し、この非線形関数なしにモデルを構成できることがモデルの簡単化の観点から好ましい。
例えば、非特許文献２における、上記の式（３）に示される漏れなし積分モデルが、非線形関数（ｅｘｐ（－ｘ／τ））を含むのに対し、この非線形関数なしにモデルを構成できることがモデルの簡単化の観点から好ましい。
【0035】
本発明は、上述の課題を解決することのできるニューラルネットワーク装置、処理方法およびプログラムを提供することを目的としている。
【課題を解決するための手段】
【0036】
本発明の第１の態様によれば、ニューラルネットワーク装置は、漏れなし積分発火型のスパイキングニューロン、かつ、シナプス後電流Ｉ
（ｍ）
ｉ
（ｔ）が、そのスパイキングニューロンの前の層のスパイキングニューロンの発火タイミングｔ
（ｍ－１）
ｊ
で値が変化するステップ関数θ（ｔ－ｔ
（ｍ－１）
ｊ
）の重みｗ
（ｍ）
ｉｊ
による重み付け合計Σ
ｊ
ｗ
（ｍ）
ｉｊ
θ（ｔ－ｔ
（ｍ－１）
ｊ
）でＩ
（ｍ）
ｉ
（ｔ）＝Σ
ｊ
ｗ
（ｍ）
ｉｊ
θ（ｔ－ｔ
（ｍ－１）
ｊ
）と表されるスパイキングニューロンとして構成され、ニューラルネットワークの１回の処理において高々１回発火して発火タイミングでニューロンモデル手段自らの出力を示すニューロンモデル手段と、前記ニューロンモデル手段の間の情報伝達を行う伝達処理手段と、を備える。
【0037】
本発明の第２の態様によれば、処理方法は、漏れなし積分発火型のスパイキングニューロン、かつ、シナプス後電流Ｉ
（ｍ）
ｉ
（ｔ）が、そのスパイキングニューロンの前の層のスパイキングニューロンの発火タイミングで値が変化するステップ関数θ（ｔ－ｔ
（ｍ－１）
ｊ
）の重みｗ
（ｍ）
ｉｊ
による重み付け合計Σ
ｊ
ｗ
（ｍ）
ｉｊ
θ（ｔ－ｔ
（ｍ－１）
ｊ
）でＩ
（ｍ）
ｉ
（ｔ）＝Σ
ｊ
ｗ
（ｍ）
ｉｊ
θ（ｔ－ｔ
（ｍ－１）
ｊ
）と表されるスパイキングニューロンであって、ニューラルネットワークの１回の処理において高々１回発火して発火タイミングでスパイキングニューロン自らの出力を示すスパイキングニューロンの動作を実行する工程と、前記スパイキングニューロン間の情報伝達を行う工程と、を含む。
【0038】
本発明の第３の態様によれば、プログラムは、ＡＳＩＣに、漏れなし積分発火型のスパイキングニューロン、かつ、シナプス後電流Ｉ
（ｍ）
ｉ
（ｔ）が、そのスパイキングニューロンの前の層のスパイキングニューロンの発火タイミングｔ
（ｍ－１）
ｊ
で値が変化するステップ関数θ（ｔ－ｔ
（ｍ－１）
ｊ
）の重みｗ
（ｍ）
ｉｊ
による重み付け合計Σ
ｊ
ｗ
（ｍ）
ｉｊ
θ（ｔ－ｔ
（ｍ－１）
ｊ
）でＩ
（ｍ）
ｉ
（ｔ）＝Σ
ｊ
ｗ
（ｍ）
ｉｊ
θ（ｔ－ｔ
（ｍ－１）
ｊ
）と表されるスパイキングニューロンであって、ニューラルネットワークの１回の処理において高々１回発火して発火タイミングでスパイキングニューロン自らの出力を示すスパイキングニューロンの動作を実行する工程と、前記スパイキングニューロン間の情報伝達を行う工程と、を実行させるためのプログラムである。
【発明の効果】
【0039】
本発明によれば、ニューラルネットワークのモデルを比較的簡単なものにすることができる。
【図面の簡単な説明】
【0040】
【図1】実施形態に係るニューラルネットワーク装置の階層構造の例を示す図である。
【図2】実施形態に係るニューラルネットワーク装置の構成例を示す図である。
【図3】実施形態に係るニューラルネットワークシステムの概略構成の例を示す図である。
【図4】実施形態に係るスパイクのタイミングと発火確率密度との関係を示す図である。
【図5】実施形態に係る重みが変化したときの発火確率密度の変化を示す図である。
【図6】実施形態に係るスパイクのタイミングが変化したときの発火確率密度の変化を示す図である。
【図7】実施形態に係るネットワークの重みの更新則の例を示す図である。
【図8】実施形態に係るニューラルネットワーク装置のシミュレーション結果の例を示す図である。
【図9】実施形態に係る重みの変化に伴って膜電位が変化する様子を表す図である。
【図10】実施形態に係る発火タイミングの変化に伴って膜電位が変化する様子を表す図である。
【図11】実施形態に係る実施形態に係るニューラルネットワーク装置の構成例を示す図である。
【図12】少なくとも１つの実施形態に係る専用ハードウェアの構成例を示す概略ブロック図である。
【図13】少なくとも１つの実施形態に係るコンピュータの構成例を示す概略ブロック図である。
【図14】順伝搬型スパイキングニューラルネットワークの階層構造の例を示す図である。
【図15】順伝搬型スパイキングニューラルネットワークの構成例を示す図である。
【図16】スパイキングニューロンの膜電位の時間発展の例を示す図である。
【図17】頻度方式、時間方式それぞれにおけるスパイクの例を示す図である。
【図18】スパイキングニューラルネットワークの予測結果の出力表現の例を示す図である。
【図19】予測時および学習時におけるデータの移動の例を示す図である。
【発明を実施するための形態】
【0041】
以下、本発明の実施形態を説明するが、以下の実施形態は請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【0042】
（実施形態に係るニューラルネットワーク装置の構造について）
図１は、実施形態に係るニューラルネットワーク装置の階層構造の例を示す図である。
図１の例で、ニューラルネットワーク装置１００は順伝搬４層スパイキングニューラルネットワーク（Spiking Neural Network；ＳＮＮ）に構成されている。但し、ニューラルネットワーク装置１００の層数は、図１に示す４層に限らず２層以上であればよい。
図１は、実施形態に係るニューラルネットワーク装置の階層構造の例を示す図である。
図１の例で、ニューラルネットワーク装置１００は順伝搬４層スパイキングニューラルネットワーク（Spiking Neural Network；ＳＮＮ）に構成されている。但し、ニューラルネットワーク装置１００の層数は、図１に示す４層に限らず２層以上であればよい。
【0043】
図１に示すニューラルネットワーク装置１００は、順伝搬型スパイキングニューラルネットワークとして機能し、データの入力を受けて演算結果（予測値、または、予測と称する）を出力する。
ニューラルネットワーク装置１００の各層のうち、第１層（層１１１）は入力層に該当する。最後の層（第４層、層１１４）は出力層に該当する。入力層と出力層との間にある層（第２層（層１１２）および第３層（層１１３））は隠れ層に該当する。
ニューラルネットワーク装置１００の各層のうち、第１層（層１１１）は入力層に該当する。最後の層（第４層、層１１４）は出力層に該当する。入力層と出力層との間にある層（第２層（層１１２）および第３層（層１１３））は隠れ層に該当する。
【0044】
図２は、ニューラルネットワーク装置１００の構成例を示す図である。図２は、図１における４つの層（層１１１～１１４）が、それぞれ３つのノード（ニューロンモデル部１２１）を有している場合の例を示している。但し、ニューラルネットワーク装置１００が備えるニューロンモデル部１２１の個数は、特定の個数に限定されず、各層が２つ以上のニューロンモデル部１２１を備えていればよい。各層が同じ個数のニューロンモデル部１２１を備えていてもよいし、層によって異なる個数のニューロンモデル部１２１を備えていてもよい。
【0045】
ニューロンモデル部１２１は、スパイキングニューロン（スパイキングニューロンモデル）として構成され、細胞体部による信号の統合およびスパイクの生成（発火）を模擬する。
伝達処理部１２２は、軸索およびシナプスによる信号の伝達を模擬する。伝達処理部１２２は、任意の層間の２つのニューロンモデル部１２１を結んで配置され、前段層側のニューロンモデル部１２１から後段層側のニューロンモデル部１２１へスパイクを伝達する。
伝達処理部１２２は、軸索およびシナプスによる信号の伝達を模擬する。伝達処理部１２２は、任意の層間の２つのニューロンモデル部１２１を結んで配置され、前段層側のニューロンモデル部１２１から後段層側のニューロンモデル部１２１へスパイクを伝達する。
【0046】
図２の例では、伝達処理部１２２は、層１１１のニューロンモデル部１２１の各々から層１１２のニューロンモデル部１２１の各々へ、層１１２のニューロンモデル部１２１の各々から層１１３のニューロンモデル部１２１の各々へ、および、層１１３のニューロンモデル部１２１の各々から層１１４のニューロンモデル部１２１の各々へ、スパイクを伝達する。
【0047】
（実施形態に係るニューラルネットワークシステムの構成について）
実施形態に係るニューラルネットワークシステムは、学習プロセスを実行するために、例えば図３に示す構成を有する。
図３は、実施形態に係るニューラルネットワークシステムの概略構成の例を示す図である。図３に示す構成で、ニューラルネットワークシステム１は、ニューラルネットワーク装置１００と、予測誤差算出部２００と、学習処理部３００を備える。
実施形態に係るニューラルネットワークシステムは、学習プロセスを実行するために、例えば図３に示す構成を有する。
図３は、実施形態に係るニューラルネットワークシステムの概略構成の例を示す図である。図３に示す構成で、ニューラルネットワークシステム１は、ニューラルネットワーク装置１００と、予測誤差算出部２００と、学習処理部３００を備える。
【0048】
かかる構成で、ニューラルネットワーク装置１００は、データの入力を受けて予測値を出力する。予測誤差算出部２００は、ニューラルネットワーク装置１００が出力する予測値とラベルデータ（正解）との差である予測誤差を算出し、学習処理部３００へ出力する。学習処理部３００は、予測誤差から定義される損失関数Ｌを、ニューラルネットワーク装置１００のネットワークの重みの最適化によって最小化することで、ニューラルネットワーク装置１００に学習を行わせる。
ニューラルネットワーク装置１００と、学習処理部３００とは、別々の装置として構成されていてもよいし、１つの装置として構成されていてもよい。
ニューラルネットワーク装置１００と、学習処理部３００とは、別々の装置として構成されていてもよいし、１つの装置として構成されていてもよい。
【0049】
（実施形態に係るニューロンのモデル）
実施形態に係るスパイキングニューロンのモデル（ニューロンモデル部１２１）の説明を行う。ニューロンモデル部１２１として、リークのないスパイキングニューロンのモデルを用いる。このモデルを式（４）のように定義する。
実施形態に係るスパイキングニューロンのモデル（ニューロンモデル部１２１）の説明を行う。ニューロンモデル部１２１として、リークのないスパイキングニューロンのモデルを用いる。このモデルを式（４）のように定義する。
【0050】
【数4】
【0051】
ここで、ｖ（ｍ）
ｉは、第ｍ層のｉ番目のニューロンモデル部１２１における膜電位を示す。
Ｉ（ｍ） ｉは、第ｍ層のｉ番目のニューロンモデル部１２１におけるシナプス後電流を示す。上記のように、ｔは時刻を示す。Ｉ（ｍ） ｉ（ｔ）は、シナプス後電流Ｉ（ｍ） ｉを時刻ｔの関数として表したものである。
ｗ（ｍ） ｉｊは、第ｍ－１層のｊ番目のニューロンモデル部１２１から第ｍ層のｉ番目のニューロンモデル部１２１への結合の強さを示す係数（重み）である。ｔ（ｍ－１） ｊは、第ｍ－１層のｊ番目のニューロンモデル部１２１の発火タイミングを示す。θはステップ関数を示す。
Ｉ（ｍ） ｉは、第ｍ層のｉ番目のニューロンモデル部１２１におけるシナプス後電流を示す。上記のように、ｔは時刻を示す。Ｉ（ｍ） ｉ（ｔ）は、シナプス後電流Ｉ（ｍ） ｉを時刻ｔの関数として表したものである。
ｗ（ｍ） ｉｊは、第ｍ－１層のｊ番目のニューロンモデル部１２１から第ｍ層のｉ番目のニューロンモデル部１２１への結合の強さを示す係数（重み）である。ｔ（ｍ－１） ｊは、第ｍ－１層のｊ番目のニューロンモデル部１２１の発火タイミングを示す。θはステップ関数を示す。
【0052】
ステップ関数θは、式（５）のように示される。
【0053】
【数5】
【0054】
ステップ関数θ（ｔ）は、ｔ≧０の場合はθ（ｔ）＝１との定数値となり、ｔ＜０の場合はθ（ｔ）＝０との定数値となる関数であり、例えばｅｘｐ（－ｘ／τ）といった非線形関数と比較して簡単な処理で演算できる。
【0055】
上記のように、ニューラルネットワーク装置１００のネットワークは、順伝搬型の多層ネットワークとして構成される。また、ニューロンモデル部１２１の各々は、ニューラルネットワーク装置１００への１つの入力に対して、最大で一回しか発火しないものとする。
また、ニューラルネットワーク装置１００の出力は、出力層のニューロンモデル部１２１の発火タイミングによって示されるものとする。例えば、ニューラルネットワーク装置１００の出力が、図１８を参照して説明した表現方法を用いて示されていてもよい。
また、ニューラルネットワーク装置１００の出力は、出力層のニューロンモデル部１２１の発火タイミングによって示されるものとする。例えば、ニューラルネットワーク装置１００の出力が、図１８を参照して説明した表現方法を用いて示されていてもよい。
【0056】
（実施形態に係るニューロンのモデルの効果）
ニューロンモデル部１２１によれば、式（４）に示されるようにステップ関数の重み付き線形和で表される比較的簡単なモデルとすることができる。例えば、式（４）に示されるモデルは、式（３）に示されるモデルよりも簡単であると評価できる。
ニューロンモデル部１２１によれば、式（４）に示されるようにステップ関数の重み付き線形和で表される比較的簡単なモデルとすることができる。例えば、式（４）に示されるモデルは、式（３）に示されるモデルよりも簡単であると評価できる。
【0057】
ニューロンモデル部１２１の処理をソフトウェア的に実行する場合、ニューロンモデルが比較的簡単なモデルとなることで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済む。また、ニューロンモデル部１２１の処理をハードウェア的に実行する場合、ニューロンモデルが比較的簡単なモデルとなることで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済むことに加えて、ハードウェアの回路面積が比較的小さくて済む。
また、ニューロンモデル部１２１によれば、リークを含まないモデルである点で、認識精度が高い。
また、ニューロンモデル部１２１は、時間方式による点で、頻度方式による場合よりも消費電力が少なくて済む。
また、ニューロンモデル部１２１によれば、リークを含まないモデルである点で、認識精度が高い。
また、ニューロンモデル部１２１は、時間方式による点で、頻度方式による場合よりも消費電力が少なくて済む。
【0058】
（実施形態に係る出力層学習（１））
次に、ニューラルネットワークシステム１における学習アルゴリズムの説明を行う。
（ＳｐｉｋｅＰｒｏｐについて）
前述の式（２）の重み更新則中の導関数∂Ｌ／∂ｗ（ｎ） ｉｊを導く手法としてＳｐｉｋｅＰｒｏｐアルゴリズムが知られている（非特許文献３参照）。例えば、損失関数Ｌを、最終層のニューロンの発火タイミングを用いて式（６）のように定義する。
次に、ニューラルネットワークシステム１における学習アルゴリズムの説明を行う。
（ＳｐｉｋｅＰｒｏｐについて）
前述の式（２）の重み更新則中の導関数∂Ｌ／∂ｗ（ｎ） ｉｊを導く手法としてＳｐｉｋｅＰｒｏｐアルゴリズムが知られている（非特許文献３参照）。例えば、損失関数Ｌを、最終層のニューロンの発火タイミングを用いて式（６）のように定義する。
【0059】
【数6】
【0060】
ここで、ｔ（Ｎ）
ｉは、出力層のｉ番目のニューロンの発火タイミングを示す。なお、出力層を第Ｎ層として「Ｎ」で表記する。
ｔ（ｔ） ｉは、ｉ番目の教師信号の発火タイミング（教師信号における、出力層のｉ番目のニューロンの発火タイミング）を示す。また、ここでは、式（３）に示されるリークなしのニューロンモデルを対象にする。
損失関数の重みによる微分はチェインルールを用いて、式（７）のように示される。
ｔ（ｔ） ｉは、ｉ番目の教師信号の発火タイミング（教師信号における、出力層のｉ番目のニューロンの発火タイミング）を示す。また、ここでは、式（３）に示されるリークなしのニューロンモデルを対象にする。
損失関数の重みによる微分はチェインルールを用いて、式（７）のように示される。
【0061】
【数7】
【0062】
ここでいう損失関数の重みによる微分は、損失関数を重みで微分したものである。
ここで、伝搬誤差を式（８）のように定義した。
ここで、伝搬誤差を式（８）のように定義した。
【0063】
【数8】
【0064】
結局、導関数を導くためには、∂ｔ（ｎ）
ｉ／∂ｗ（ｎ）
ｉｊと、∂ｔ（ｎ＋１）
ｉ／∂ｔ（ｎ）
ｊとを計算すればよい。ＳｐｉｋｅＰｒｏｐ法を用いて、∂ｔ（ｎ）
ｉ／∂ｗ（ｎ）
ｉｊは式（９）のように導出できる。
【0065】
【数9】
【0066】
また、∂ｔ（ｎ＋１）
ｉ／∂ｔ（ｎ）
ｊは式（１０）のように導出できる。
【0067】
【数10】
【0068】
式（９）および式（１０）に示すようにＳｐｉｋｅＰｒｏｐアルゴリズムでは、∂ｔ（ｎ）
ｉ／∂ｗ（ｎ）
ｉｊおよび∂ｔ（ｎ＋１）
ｉ／∂ｔ（ｎ）
ｊを計算するために、同層内の重みの総和を計算する必要がある。
これに対し、ニューラルネットワーク装置１００では、∂ｔ（ｎ） ｉ／∂ｗ（ｎ） ｉｊおよび∂ｔ（ｎ＋１） ｉ／∂ｔ（ｎ） ｊを近似することにより簡易化された学習則を用いる。この学習則の導出について説明する。
これに対し、ニューラルネットワーク装置１００では、∂ｔ（ｎ） ｉ／∂ｗ（ｎ） ｉｊおよび∂ｔ（ｎ＋１） ｉ／∂ｔ（ｎ） ｊを近似することにより簡易化された学習則を用いる。この学習則の導出について説明する。
【0069】
まず、第ｎ層のｉ番目のニューロン（ニューロンモデル部１２１）の発火タイミングが、発火確率密度Ｒｎ
ｉ（ｔ）によって確率的に決まるとの仮定をおく。上記のように、ｔは時刻を示す。観測された第ｎ層の発火タイミングｔ（ｎ）
ｉと、その前の層のニューロン（ニューロンモデル部１２１）の発火タイミングｔ（ｎ－１）
ｊとから、発火確率密度Ｒ（ｎ）
ｉ（ｔ）の関数形を推定する。
【0070】
本モデルでは、各ニューロン（ニューロンモデル部１２１）は一回以下しか発火しないため、情報を持つのは第一発火タイミングである。そのため、推定された発火関数（発火確率密度の関数形）から得られるニューロンの第一発火タイミング（第一発火時刻）の分布が最大値をとる時刻を、第ｎ層の発火タイミングｔ（ｎ）
ｉとする。
上記のモデルを仮定することで、重みｗ（ｎ） ｉｊが変化したときの、発火確率密度の関数形の変化δＲ（ｎ） ｉ（ｔ）が得られる。式（１１）に示すように、この発火確率密度関数の変化から、発火タイミングの変化δｔ（ｎ） ｉが得られる。
上記のモデルを仮定することで、重みｗ（ｎ） ｉｊが変化したときの、発火確率密度の関数形の変化δＲ（ｎ） ｉ（ｔ）が得られる。式（１１）に示すように、この発火確率密度関数の変化から、発火タイミングの変化δｔ（ｎ） ｉが得られる。
【0071】
【数11】
【0072】
式（１１）は、重みｗ（ｎ）
ｉｊの変化分に応じて発火確率密度Ｒ（ｎ）
ｉ（ｔ）の変化分が求まり、発火確率密度Ｒ（ｎ）
ｉ（ｔ）の変化分に応じて第ｎ層の発火タイミングｔ（ｎ）
ｉの変化分が求まるという関係を示している。この関係により、重みｗ（ｎ）
ｉｊの変化分から第ｎ層の発火タイミングｔ（ｎ）
ｉの変化分を求めることができる。
式（１１）の関係から、式（１２）のように偏微分の近似が得られる。
式（１１）の関係から、式（１２）のように偏微分の近似が得られる。
【0073】
【数12】
【0074】
（実施形態に係る出力層学習（１）の例）
発火確率密度Ｒ（ｎ） ｉ（ｔ）は、漏れなしのスパイキングニューロンモデルにおいて、膜電位の傾き（時間微分）で近似することができる。この近似は、式（１３）のように示される。
発火確率密度Ｒ（ｎ） ｉ（ｔ）は、漏れなしのスパイキングニューロンモデルにおいて、膜電位の傾き（時間微分）で近似することができる。この近似は、式（１３）のように示される。
【0075】
【数13】
【0076】
さらに、この関数を区分線形関数Ｒｌｉｎｅａｒ（ｔ）に近似し、式（１４）を得る。
【0077】
【数14】
【0078】
ここで、α、ｔ’は、何れも定数であり、図４に示すように、ｔ’＜ｔ（ｎ－１）
ｊを満たすものとする。
図４は、スパイクのタイミングと発火確率密度との関係を示す図である。
図４の、上段は、ｔ（ｎ－１） ｊとｔ（ｎ） ｉとのタイミングを示している。中段は、推定されるｎ層のｉ番目のニューロンの発火確率密度Ｒｌｉｎｅａｒ（ｔ）を示している。下段は、推定される発火確率密度Ｒｌｉｎｅａｒ（ｔ）から計算される第一発火のタイミングの確率分布を示している。図４の上段、中段、下段の何れも横軸は時刻を示す。中段、下段それぞれの縦軸は発火確率密度を示す。
発火確率密度が区分線形関数Ｒｌｉｎｅａｒ（ｔ）で与えられたときの第一発火タイミングの確率は以下のように計算できる。すなわち、時刻ｔまでに一度も発火しない確率をｘ（ｔ）とおくと、これは、式（１５）の微分方程式を満たす。
図４は、スパイクのタイミングと発火確率密度との関係を示す図である。
図４の、上段は、ｔ（ｎ－１） ｊとｔ（ｎ） ｉとのタイミングを示している。中段は、推定されるｎ層のｉ番目のニューロンの発火確率密度Ｒｌｉｎｅａｒ（ｔ）を示している。下段は、推定される発火確率密度Ｒｌｉｎｅａｒ（ｔ）から計算される第一発火のタイミングの確率分布を示している。図４の上段、中段、下段の何れも横軸は時刻を示す。中段、下段それぞれの縦軸は発火確率密度を示す。
発火確率密度が区分線形関数Ｒｌｉｎｅａｒ（ｔ）で与えられたときの第一発火タイミングの確率は以下のように計算できる。すなわち、時刻ｔまでに一度も発火しない確率をｘ（ｔ）とおくと、これは、式（１５）の微分方程式を満たす。
【0079】
【数15】
【0080】
式（１５）の微分方程式を解くと、式（１６）のようになる。
【0081】
【数16】
【0082】
よって、第一スパイク発火確率密度Ｐｆ（ｔ）は、式（１７）のように求めることができる。
【0083】
【数17】
【0084】
なお、第一スパイク発火確率密度Ｐｆ（ｔ）は非負であり、式（１８）のように確率の定義を満たしていることが分かる。
【0085】
【数18】
【0086】
第一スパイク発火確率密度Ｐｆ（ｔ）が最大値をとる時刻ｔ＊は、Ｐｆ（ｔ）の時間微分が０（∂Ｐｆ（ｔ）／∂ｔ＝０）より、式（１９）のように示される。
【0087】
【数19】
【0088】
この時刻ｔ＊が出力スパイク時刻と一致する条件を課すことで、式（２０）が得られる。
【0089】
【数20】
【0090】
次に、重みが変化したときのニューロン（ニューロンモデル部１２１）の発火確率密度Ｒｎ
ｉ（ｔ）の変化は、式（２１）のように示される。
【0091】
【数21】
【0092】
発火確率密度を区分線形関数Ｒｌｉｎｅａｒ（ｔ）で表記して、その変化δＲｉ（ｔ）は、式（２２）のように示される。
【0093】
【数22】
【0094】
この変化は、図５のように示される。
図５は、重みが変化したときの発火確率の変化を示す図である。具体的には、図５は、重みＷ（ｎ） ｉｊがδＷ（ｎ） ｉｊだけ変化したときの、発火確率密度Ｒｌｉｎｅａｒ（ｔ）の変化を示している。
図５の横軸は時刻を示し、縦軸は発火確率密度を示す。線Ｌ１１は重みＷ（ｎ） ｉｊが変化する前の発火確率密度を示しており、線Ｌ１２は重みＷ（ｎ） ｉｊが変化した後の発火確率密度を示している。
この発火関数が与えられたときの、発火タイミングは、ｔ（ｎ） ｉ＋δｔ（ｎ） ｉと表される。ｔ（ｎ） ｉ＋δｔ（ｎ） ｉを求めるために解くべき方程式は、式（２３）のように示される。
図５は、重みが変化したときの発火確率の変化を示す図である。具体的には、図５は、重みＷ（ｎ） ｉｊがδＷ（ｎ） ｉｊだけ変化したときの、発火確率密度Ｒｌｉｎｅａｒ（ｔ）の変化を示している。
図５の横軸は時刻を示し、縦軸は発火確率密度を示す。線Ｌ１１は重みＷ（ｎ） ｉｊが変化する前の発火確率密度を示しており、線Ｌ１２は重みＷ（ｎ） ｉｊが変化した後の発火確率密度を示している。
この発火関数が与えられたときの、発火タイミングは、ｔ（ｎ） ｉ＋δｔ（ｎ） ｉと表される。ｔ（ｎ） ｉ＋δｔ（ｎ） ｉを求めるために解くべき方程式は、式（２３）のように示される。
【0095】
【数23】
【0096】
あるいは、ｔ（ｎ）
ｉ＋δｔ（ｎ）
ｉを求めるために解くべき方程式は、式（２４）のように示される。
【0097】
【数24】
【0098】
式（２４）の解は、初期条件をｘ（０）＝１として、式（２５）のようになる。
【0099】
【数25】
【0100】
式（２５）のＡは、式（２６）のように示される。
【0101】
【数26】
【0102】
このとき第一スパイク発火確率密度Ｐｆ（ｔ）が最大値をとる時刻ｔ＊は、式（２７）のようになる。
【0103】
【数27】
【0104】
重みがδｗ（ｎ）
ｉｊ変化したとき推定される出力スパイクの時刻の変化は、式（２８）のように示される。
【0105】
【数28】
【0106】
偏微分の近似値として式（２９）が得られる。
【0107】
【数29】
【0108】
次に、∂ｔ（ｎ）
ｉ／∂ｔ（ｎ－１）
ｊの近似を行う。
上述したのと同様、式（３０）に示すように、発火確率密度Ｒの変化を経由することで、δｔ（ｎ－１） ｊとｔ（ｎ） ｉとの関係を導くことで偏微分を近似する。
上述したのと同様、式（３０）に示すように、発火確率密度Ｒの変化を経由することで、δｔ（ｎ－１） ｊとｔ（ｎ） ｉとの関係を導くことで偏微分を近似する。
【0109】
【数30】
【0110】
図６は、スパイクのタイミングが変化したときの発火確率密度の変化を示す図である。
具体的には、図６は、前段層のニューロン（ニューロンモデル部１２１）の発火時間ｔ（ｎ－１） ｊがδｔ（ｎ－１） ｊだけ変化したとき、後段層のニューロン（ニューロンモデル部１２１）の発火確率密度Ｒｌｉｎｅａｒ（ｔ）が変化する様子を表している。
図６の横軸は時刻を示し、縦軸は発火確率密度を示す。線Ｌ２１は、変化する前の発火確率密度Ｒｌｉｎｅａｒ（ｔ）を示しており、線Ｌ２１は、変化後の発火確率密度Ｒｌｉｎｅａｒ（ｔ）＋δＲｌｉｎｅａｒ（ｔ）を示している。
具体的には、図６は、前段層のニューロン（ニューロンモデル部１２１）の発火時間ｔ（ｎ－１） ｊがδｔ（ｎ－１） ｊだけ変化したとき、後段層のニューロン（ニューロンモデル部１２１）の発火確率密度Ｒｌｉｎｅａｒ（ｔ）が変化する様子を表している。
図６の横軸は時刻を示し、縦軸は発火確率密度を示す。線Ｌ２１は、変化する前の発火確率密度Ｒｌｉｎｅａｒ（ｔ）を示しており、線Ｌ２１は、変化後の発火確率密度Ｒｌｉｎｅａｒ（ｔ）＋δＲｌｉｎｅａｒ（ｔ）を示している。
【0111】
発火確率密度を線形近似した区分線形関数Ｒｌｉｎｅａｒ（ｔ）は、ｎ－１層の全てのニューロン（ニューロンモデル部１２１）からｎ層のｉ番目のニューロン（ニューロンモデル部１２１）へのスパイクを平均化したものであり、式（３１）のように変形できる。
【0112】
【数31】
【0113】
式（３１）の括弧内における第一項（ｗ（ｎ）
ｉｊθ（ｔ－ｔ（ｎ－１）
ｊ）／（ｔ（ｎ－１）
ｊ－ｔ’））は、第ｎ－１層のｊ番目のニューロンの発火の寄与によるものである。第二項（Σｊ’≠ｊｗ（ｎ）
ｉｊ’θ（ｔ－ｔ（ｎ－１）
ｊ’）／（ｔ（ｎ－１）
ｊ－ｔ’））は、第ｎ－１層のｊ番目以外のニューロンの発火の寄与によるものである。発火確率密度Ｒｌｉｎｅａｒ（ｔ）の変化δＲｌｉｎｅａｒ（ｔ）は、Ｒｌｉｎｅａｒ（ｔ）の傾きαの変化δαと考えることができる。
式（３１）の括弧内は傾きαを示しており、前段層のニューロンの発火時間ｔ（ｎ－１） ｊがδｔ（ｎ－１） ｊだけ変化したときに変化する部分は第ｎ－１層のｊ番目のニューロンの発火の寄与による第一項のみである。すなわち、式（３２）に示すように傾きが変化する。
式（３１）の括弧内は傾きαを示しており、前段層のニューロンの発火時間ｔ（ｎ－１） ｊがδｔ（ｎ－１） ｊだけ変化したときに変化する部分は第ｎ－１層のｊ番目のニューロンの発火の寄与による第一項のみである。すなわち、式（３２）に示すように傾きが変化する。
【0114】
【数32】
【0115】
また、式（１９）から式（３３）が得られる。
【0116】
【数33】
【0117】
これにより、偏微分∂ｔ（ｎ）
ｉ／∂ｔ（ｎ－１）
ｊは、式（３４）のように近似できる。
【0118】
【数34】
【0119】
ここで定数τを式（３５）のようにする。
【0120】
【数35】
【0121】
τを用いて、式（３６）が得られる。
【0122】
【数36】
【0123】
(学習則の具体例)
以上より、ニューラルネットワーク装置１００における任意の層の重みの近似学習則が導出できるが、以下で、具体例として、第Ｎ層の学習則と、第Ｎ－１層の学習則について記す。
出力層の学習則は、式（３７）のようになる。
以上より、ニューラルネットワーク装置１００における任意の層の重みの近似学習則が導出できるが、以下で、具体例として、第Ｎ層の学習則と、第Ｎ－１層の学習則について記す。
出力層の学習則は、式（３７）のようになる。
【0124】
【数37】
【0125】
ここで、η（ｎ）は、式（３８）のように示される。
【0126】
【数38】
【0127】
η（ｎ）
０は、学習率を示す。ここで、式（３８）に示すように学習率η（ｎ）
０と発火確率密度の傾きαとの組み合わせを用いて、学習率η（ｎ）を再定義する。式（３８）では、発火確率密度の傾きαを定数として扱う。
学習処理部３００は、式（３７）に基づいて出力層のニューロンモデル部１２１への入力に対する重みｗ（Ｎ） ｉｊを更新することで、出力層の学習を行わせる。上述したように、重みｗ（Ｎ） ｉｊは、第Ｎ－１層のｊ番目のニューロンモデル部１２１と、第Ｎ層のｉ番目のニューロンモデル部１２１との結合の強さを示す。なお、出力層なので、式（３７）でｎ＝Ｎと読み替える。
隠れ層の学習則（重みの更新則）の具体例は、式（３９）のようになる。
学習処理部３００は、式（３７）に基づいて出力層のニューロンモデル部１２１への入力に対する重みｗ（Ｎ） ｉｊを更新することで、出力層の学習を行わせる。上述したように、重みｗ（Ｎ） ｉｊは、第Ｎ－１層のｊ番目のニューロンモデル部１２１と、第Ｎ層のｉ番目のニューロンモデル部１２１との結合の強さを示す。なお、出力層なので、式（３７）でｎ＝Ｎと読み替える。
隠れ層の学習則（重みの更新則）の具体例は、式（３９）のようになる。
【0128】
【数39】
【0129】
なお、η（ｎ－１）について、式（４０）とした。
【0130】
【数40】
【0131】
学習処理部３００は、式（３９）に基づいて、第ｎ層（ここでは隠れ層とする）のニューロンモデル部１２１への入力に対する重みｗ（ｎ）
ｉｊを更新することで、隠れ層の学習を行わせる。上述したように、重みｗ（ｎ）
ｉｊは、第ｎ－１層のｊ番目のニューロンモデル部１２１と、第ｎ層のｉ番目のニューロンモデル部１２１との結合の強さを示す。
【0132】
図７は、ネットワークの重みの更新則の例を示す図である。図７は、実施形態に係る更新則を、第Ｎ層、第Ｎ－１層のそれぞれについて、ＳｐｉｋｅＰｒｏｐの場合の例と対比して表形式で示している。
図７の例では、出力層、隠れ層の何れに関しても、実施形態に係るアルゴリズムのほうが、ＳｐｉｋｅＰｒｏｐの場合よりも簡単な式で示されている。この点で、実施形態に係るアルゴリズムを用いることで、ＳｐｉｋｅＰｒｏｐの場合よりも、ネットワークの重みの更新処理（すなわち、ニューラルネットワークの学習処理）を比較的簡単なものとすることができる。
実施形態に係るアルゴリズムをソフトウェア的に実行する場合、ネットワークの重みの更新処理が比較的簡単なことで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済む。また、実施形態に係るアルゴリズムをハードウェア的に実行する場合、ネットワークの重みの更新処理が比較的簡単なことで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済むことに加えて、ハードウェアの回路面積が比較的小さくて済む。
図７の例では、出力層、隠れ層の何れに関しても、実施形態に係るアルゴリズムのほうが、ＳｐｉｋｅＰｒｏｐの場合よりも簡単な式で示されている。この点で、実施形態に係るアルゴリズムを用いることで、ＳｐｉｋｅＰｒｏｐの場合よりも、ネットワークの重みの更新処理（すなわち、ニューラルネットワークの学習処理）を比較的簡単なものとすることができる。
実施形態に係るアルゴリズムをソフトウェア的に実行する場合、ネットワークの重みの更新処理が比較的簡単なことで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済む。また、実施形態に係るアルゴリズムをハードウェア的に実行する場合、ネットワークの重みの更新処理が比較的簡単なことで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済むことに加えて、ハードウェアの回路面積が比較的小さくて済む。
【0133】
（シミュレーション例）
実施形態に係るニューラルネットワーク装置１００のシミュレーション例を示す。手書き文字データセットであるＭＮＩＳＴデータセットを対象に、実施形態に係るモデル（式（４）参照）を用いて、実施形態に係る学習アルゴリズム（図７参照）を用いて学習させた。ＭＮＩＳＴデータセットは２８ｘ２８画素の画像である７８４次元ベクトルと正解のスカラー値とが、訓練用として６００００個ずつ与えられ、テスト用として同様の７８４次元ベクトルが１００００個与えられている。
シミュレーションでは、ニューラルネットワークの重みを訓練用データを用いて更新し、テストデータを用いて性能を評価する。なお、テストデータを用いて重みは更新しない。
実施形態に係るニューラルネットワーク装置１００のシミュレーション例を示す。手書き文字データセットであるＭＮＩＳＴデータセットを対象に、実施形態に係るモデル（式（４）参照）を用いて、実施形態に係る学習アルゴリズム（図７参照）を用いて学習させた。ＭＮＩＳＴデータセットは２８ｘ２８画素の画像である７８４次元ベクトルと正解のスカラー値とが、訓練用として６００００個ずつ与えられ、テスト用として同様の７８４次元ベクトルが１００００個与えられている。
シミュレーションでは、ニューラルネットワークの重みを訓練用データを用いて更新し、テストデータを用いて性能を評価する。なお、テストデータを用いて重みは更新しない。
【0134】
シミュレーションで用いたネットワークは三層であり、第一層は１６９個の入力用スパイキングニューロン、第二層と第三層はそれぞれ、５００個、１０個のスパイキングニューロン（式（４）参照）で構成されている。
なお、入力のスパイキングニューロンは、入力データの２８ｘ２８画素の画像データを畳み込みによる前処理を行い、１３ｘ１３の１６９画素に削減している。これにより、データ量を削減し、効率的なシミュレーションが可能になる。
また、一枚の画像毎に重みを更新する行うオンライン学習を行った。
また、図７に記載しているＳｐｉｋｅＰｒｏｐアルゴリズムを用いたシミュレーションも行い、性能の比較を行った。
なお、入力のスパイキングニューロンは、入力データの２８ｘ２８画素の画像データを畳み込みによる前処理を行い、１３ｘ１３の１６９画素に削減している。これにより、データ量を削減し、効率的なシミュレーションが可能になる。
また、一枚の画像毎に重みを更新する行うオンライン学習を行った。
また、図７に記載しているＳｐｉｋｅＰｒｏｐアルゴリズムを用いたシミュレーションも行い、性能の比較を行った。
【0135】
図８は、シミュレーション結果を示す図である。線Ｌ３１は、ＳｐｉｐｅＰｒｏｐアルゴリズムを用いた場合のシミュレーション結果を示している。線Ｌ３２は上述した近似アルゴリズムを用いた場合の結果（ニューラルネットワーク装置１００のシミュレーション結果）を示している。図８の横軸はエポック数を示し、縦軸はテスト時の分類エラー率を示す。
図８を参照すると、エポック数が大きくなるごとに、ＳｐｉｋｅＰｒｏｐアルゴリズム、近似アルゴリズムの両方において分類エラー率が減少していることがわかる。
図８を参照すると、エポック数が大きくなるごとに、ＳｐｉｋｅＰｒｏｐアルゴリズム、近似アルゴリズムの両方において分類エラー率が減少していることがわかる。
【0136】
分類エラー率は、ＳｐｉｋｅＰｒｏｐアルゴリズムにおいて、３．８％であり、近似アルゴリズムで４．９％であった。このように、近似アルゴリズムを用いても、分類エラー率はほとんど変わらないことがわかる。
【0137】
（実施形態に係る出力層の学習（２））
ニューラルネットワークシステム１における他の学習アルゴリズムについて説明する。
損失関数の重みによる微分は、式（４１）のようになる。
ニューラルネットワークシステム１における他の学習アルゴリズムについて説明する。
損失関数の重みによる微分は、式（４１）のようになる。
【0138】
【数41】
【0139】
式（４１）における右辺の二つの項（∂ｔ（l）
ｉ／∂ｗ（l）
ｉｊおよび∂ｔ（l＋１）
ｓ／∂ｔ（l）
ｉ）を、膜電位の時間発展方程式を用いて線形近似し、簡易な学習則を導く。
上述したように、ｗ（ｌ） ｉｊは、ｌ－１番目の層のｊ番目のニューロンから、ｌ番目の層のｉ番目のニューロンへとつながる結合の強さ（重み）を示す。ｔ（ｌ） ｉは、ｌ番目の層のｉ番目のニューロンの発火タイミングを示す。
式（４１）に示される偏微分「∂ｔ（ｌ） ｉ／∂ｗ（ｌ） ｉｊ」と「∂ｔ（ｌ＋１） ｓ／∂ｔ（ｌ） ｉ」とを求めることにより、学習則の導出が可能である。これらはＳｐｉｋｅＰｒｏｐ法により、式（４２）のように計算できる。
上述したように、ｗ（ｌ） ｉｊは、ｌ－１番目の層のｊ番目のニューロンから、ｌ番目の層のｉ番目のニューロンへとつながる結合の強さ（重み）を示す。ｔ（ｌ） ｉは、ｌ番目の層のｉ番目のニューロンの発火タイミングを示す。
式（４１）に示される偏微分「∂ｔ（ｌ） ｉ／∂ｗ（ｌ） ｉｊ」と「∂ｔ（ｌ＋１） ｓ／∂ｔ（ｌ） ｉ」とを求めることにより、学習則の導出が可能である。これらはＳｐｉｋｅＰｒｏｐ法により、式（４２）のように計算できる。
【0140】
【数42】
【0141】
但し、式（４２）に示される２式のいずれも、右辺の分母の和（Σｓ）では、対象とする重みと結合している前層のニューロンが後層のニューロンよりも早く発火した場合のみ和をとっている。この分母を平均場的近似することで、学習時に必要なパラメータの個数を大きく減ずることが可能となる。
【0142】
まず、∂ｔ（ｌ）
ｉ／∂ｗ（ｌ）
ｉｊについて説明する。
図９は、重みの変化に伴って膜電位が変化する様子を表す図である。図９は、重みｗ（ｌ） ｉｊが、ｗ（ｌ） ｉｊ＋ΔＷへと変化すると、時刻ｔ（ｌ） ｉにおける膜電位ｖ（ｌ） ｉが、ＶｔｈからＶｔｈ＋ΔＶへと変化する様子を表している。
図９の横軸は時刻を示し、縦軸は膜電位を示す。線Ｌ４１は、重みｗ（ｌ） ｉｊが変化しないときの膜電位の時間発展の例を示す。線Ｌ４２は、重みｗ（ｌ） ｉｊが変化したときの膜電位の時間発展の例を示す。線Ｌ４３は、重みｗ（ｌ） ｉｊが変化したときの膜電位の時間発展の直線近似を示す。線Ｌ４３によれば、発火時刻の近似解は、図９に示す時刻ｔｉ ^（ｌ）となる。
前述の膜電位の変位ΔＶは、図９に示すように、式（４３）のように導ける。
図９は、重みの変化に伴って膜電位が変化する様子を表す図である。図９は、重みｗ（ｌ） ｉｊが、ｗ（ｌ） ｉｊ＋ΔＷへと変化すると、時刻ｔ（ｌ） ｉにおける膜電位ｖ（ｌ） ｉが、ＶｔｈからＶｔｈ＋ΔＶへと変化する様子を表している。
図９の横軸は時刻を示し、縦軸は膜電位を示す。線Ｌ４１は、重みｗ（ｌ） ｉｊが変化しないときの膜電位の時間発展の例を示す。線Ｌ４２は、重みｗ（ｌ） ｉｊが変化したときの膜電位の時間発展の例を示す。線Ｌ４３は、重みｗ（ｌ） ｉｊが変化したときの膜電位の時間発展の直線近似を示す。線Ｌ４３によれば、発火時刻の近似解は、図９に示す時刻ｔｉ ^（ｌ）となる。
前述の膜電位の変位ΔＶは、図９に示すように、式（４３）のように導ける。
【0143】
【数43】
【0144】
すると、ｌ層のｊ番目のニューロンに初めて発火が伝わった時刻τ（ｌ）
ｊと発火の閾値Ｖｔｈとを用いることで、膜電位ｖ＊（ｌ）
ｉ（ｔ）の時間発展を、時間に対して線形近似することが可能である。この近似の結果、膜電位の時間発展の式は、式（４４）のように導出できる。
【0145】
【数44】
【0146】
この近似下での発火タイミングｔ＊（ｌ）
ｉは、式（４５）を解くことにより導出できる。
【0147】
【数45】
【0148】
導出される式は、式（４６）のようになる。
【0149】
【数46】
【0150】
これにより、∂ｔ（ｌ）
ｉ／∂ｗ（ｌ）
ｉｊについて、（ｔ＊（ｌ）
ｉ－ｔ（ｌ）
ｉ）／ΔＷにてΔＷ→０の極限を取ることで近似が可能となり、式（４７）のように偏微分の近似式を導出できる。
【0151】
【数47】
【0152】
次に、∂ｔ（ｌ＋１）
ｊ／∂ｔ（ｌ）
ｋの近似式を導出する。
図１０は、発火タイミングの変化に伴って膜電位が変化する様子を表す図である。図１０は、発火タイミングがｔ（ｌ） ｋからｔ（ｌ） ｋ＋ΔＴへと変化すると、時刻ｔ（ｌ＋１） ｊにおける膜電位ｖ（ｌ＋１） ｊは、ＶｔｈからＶｔｈ＋ΔＶへと変化する様子を表している。
図１０の横軸は時刻を示し、縦軸は膜電位を示す。線Ｌ５１は、膜電位の時間発展の例を示す。線Ｌ５２は、変化後の膜電位の時間発展を表している。線Ｌ５３は、膜電位の時間発展の近似の例を示す。線Ｌ５３によれば、発火時刻の近似解は、図１０に示す時刻ｔｉ ^（ｌ＋１）となる。
膜電位の変位ΔＶは、図１０に示すように、－ｗ（ｌ＋１） ｊｋΔＴと導ける。すると、先ほどと同様にｌ＋１層のｊ番目のニューロンに初めて発火が伝わった時刻τ（ｌ＋１） ｊと発火閾値Ｖｔｈとを用いることで、膜電位ｖ＊（ｌ＋１） ｊ（ｔ）の時間発展を時間に対して線形に近似することが可能である。この平均近似の式は、式（４８）のように導出できる。
図１０は、発火タイミングの変化に伴って膜電位が変化する様子を表す図である。図１０は、発火タイミングがｔ（ｌ） ｋからｔ（ｌ） ｋ＋ΔＴへと変化すると、時刻ｔ（ｌ＋１） ｊにおける膜電位ｖ（ｌ＋１） ｊは、ＶｔｈからＶｔｈ＋ΔＶへと変化する様子を表している。
図１０の横軸は時刻を示し、縦軸は膜電位を示す。線Ｌ５１は、膜電位の時間発展の例を示す。線Ｌ５２は、変化後の膜電位の時間発展を表している。線Ｌ５３は、膜電位の時間発展の近似の例を示す。線Ｌ５３によれば、発火時刻の近似解は、図１０に示す時刻ｔｉ ^（ｌ＋１）となる。
膜電位の変位ΔＶは、図１０に示すように、－ｗ（ｌ＋１） ｊｋΔＴと導ける。すると、先ほどと同様にｌ＋１層のｊ番目のニューロンに初めて発火が伝わった時刻τ（ｌ＋１） ｊと発火閾値Ｖｔｈとを用いることで、膜電位ｖ＊（ｌ＋１） ｊ（ｔ）の時間発展を時間に対して線形に近似することが可能である。この平均近似の式は、式（４８）のように導出できる。
【0153】
【数48】
【0154】
この近似下での発火タイミングｔ＊（ｌ＋１）
ｊは、式（４９）を解くことにより導出できる。
【0155】
【数49】
【0156】
発火タイミングｔ＊（ｌ＋１）
ｊは、式（５０）のように導出される。
【0157】
【数50】
【0158】
これにより、∂ｔ（ｌ＋１）
ｊ／∂ｔ（ｌ）
ｋは、（ｔ＊（ｌ＋１）
ｊ－ｔ（ｌ＋１）
ｊ）／ΔＴにて、ΔＴ→０の極限を取ることで近似することが可能となり、式（５１）のように偏微分の近似式を導出できる。
【0159】
【数51】
【0160】
従って、∂ｔ（ｌ）
ｉ／∂ｗ（ｌ）
ｉｊは、式（５２）のように近似される。
【0161】
【数52】
【0162】
また、∂ｔ（ｌ＋１）
ｊ／∂ｔ（ｌ）
ｋは、式（５３）のように近似される。
【0163】
【数53】
【0164】
導出した∂ｔ（ｌ）
ｉ／∂ｗ（ｌ）
ｉｊの近似式（式（５２））および∂ｔ（ｌ＋１）
ｊ／∂ｔ（ｌ）
ｋの近似式（式（５３））を使うことで、他のニューロンモデルの情報の参照を大きく減じた学習則を導出することが可能である。
学習処理部３００は、例えば、上述した式（４１）に基づく学習の際に、式（５２）および式（５３）に示される近似を適用する。式（４１）に基づく学習は、出力層の学習、隠れ層の学習の何れにも適用可能である。学習処理部３００が、式（５２）および式（５３）に示される近似を式（４１）に適用した学習にて、出力層および隠れ層のうち何れか一方の学習を行わせるようにしてもよいし、両方の学習を行わせるようにしてもよい。
学習処理部３００は、例えば、上述した式（４１）に基づく学習の際に、式（５２）および式（５３）に示される近似を適用する。式（４１）に基づく学習は、出力層の学習、隠れ層の学習の何れにも適用可能である。学習処理部３００が、式（５２）および式（５３）に示される近似を式（４１）に適用した学習にて、出力層および隠れ層のうち何れか一方の学習を行わせるようにしてもよいし、両方の学習を行わせるようにしてもよい。
【0165】
以上のように、ニューロンモデル部１２１は、漏れなし積分発火型のスパイキングニューロン、かつ、シナプス後電流がステップ関数を用いて表されるスパイキングニューロンとして構成され、ニューラルネットワークの１回の処理において高々１回発火して発火タイミングでニューロンモデル部１２１自らの出力を示す。伝達処理部１２２は、ニューロンモデル部１２１の間の情報伝達を行う。
【0166】
ここでいうニューラルネットワークの１回の処理は、ニューラルネットワークが一組の入力データに対して出力データを出力する処理である。例えば、ニューラルネットワークがパターンマッチングを行う場合、１回のマッチング処理がニューラルネットワークの１回の処理の例に該当する。
ニューラルネットワーク装置１００によれば、ニューロンモデル部１２１のリークをなくし、さらにすべてのニューロンモデル部１２１が一回以下しか発火しない条件の下で、ニューロンモデル部１２１を、ステップ関数を用いた比較的簡単なモデルとすることができる。
ニューラルネットワーク装置１００によれば、ニューロンモデル部１２１のリークをなくし、さらにすべてのニューロンモデル部１２１が一回以下しか発火しない条件の下で、ニューロンモデル部１２１を、ステップ関数を用いた比較的簡単なモデルとすることができる。
【0167】
ニューロンモデル部１２１の処理をソフトウェア的に実行する場合、ニューロンモデルが比較的簡単なモデルとなることで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済む。また、ニューロンモデル部１２１の処理をハードウェア的に実行する場合、ニューロンモデルが比較的簡単なモデルとなることで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済むことに加えて、ハードウェアの回路面積が比較的小さくて済む。
また、ニューロンモデル部１２１によれば、リークを含まないモデルである点で、ニューロンが時定数を有しないモデルとなり、入力データの時定数に依存しなくなるため、認識精度が高い。
また、ニューロンモデル部１２１は、時間方式による点で、頻度方式による場合よりも消費電力が少なくて済む。
また、ニューロンモデル部１２１によれば、リークを含まないモデルである点で、ニューロンが時定数を有しないモデルとなり、入力データの時定数に依存しなくなるため、認識精度が高い。
また、ニューロンモデル部１２１は、時間方式による点で、頻度方式による場合よりも消費電力が少なくて済む。
【0168】
また、学習処理部３００は、膜電位の時間発展の線形近似を用いて得られる、発火時刻の重みによる微分の近似、および、発火時刻の発火時刻による微分の近似のうち少なくとも何れか一方を適用した学習則を用いて、ニューラルネットワーク装置１００の出力層および隠れ層のうち少なくとも何れか一方の学習を行わせる。
これにより、ニューラルネットワークシステム１では、出力層および隠れ層のうち少なくとも何れか一方の学習を、近似を用いた比較的簡単な処理にて実行することができる。
学習処理部３００による学習のアルゴリズムをソフトウェア的に実行する場合、学習処理が比較的簡単なことで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済む。また、学習処理部３００による学習のアルゴリズムをハードウェア的に実行する場合、学習処理が比較的簡単なことで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済むことに加えて、ハードウェアの回路面積が比較的小さくて済む。
なお、発火時刻の重みによる微分は、発火時刻を重みで微分したものを意味する。発火時刻の発火時刻による微分は、あるニューロンモデル部１２１の発火時刻を、他のニューロンモデル部１２１の発火時刻で微分したものを意味する。
これにより、ニューラルネットワークシステム１では、出力層および隠れ層のうち少なくとも何れか一方の学習を、近似を用いた比較的簡単な処理にて実行することができる。
学習処理部３００による学習のアルゴリズムをソフトウェア的に実行する場合、学習処理が比較的簡単なことで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済む。また、学習処理部３００による学習のアルゴリズムをハードウェア的に実行する場合、学習処理が比較的簡単なことで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済むことに加えて、ハードウェアの回路面積が比較的小さくて済む。
なお、発火時刻の重みによる微分は、発火時刻を重みで微分したものを意味する。発火時刻の発火時刻による微分は、あるニューロンモデル部１２１の発火時刻を、他のニューロンモデル部１２１の発火時刻で微分したものを意味する。
【0169】
また、学習処理部３００は、発火確率密度の傾きを用いて示される学習則を用いて、前記ニューラルネットワーク装置の出力層の学習を行わせる。
これにより、ニューラルネットワークシステム１では、発火確率密度の変化に基づいて発火時刻の変化を求めることができ、この点で、発火時刻の変化を比較的容易に求めることができる。
これにより、ニューラルネットワークシステム１では、発火確率密度の変化に基づいて発火時刻の変化を求めることができ、この点で、発火時刻の変化を比較的容易に求めることができる。
【0170】
次に、図１１を参照して、本発明の実施形態の構成について説明する。
図１１は、実施形態に係るニューラルネットワーク装置の構成例を示す図である。図１１に示すニューラルネットワーク装置１０は、ニューロンモデル部１１と、伝達処理部１２とを備える。
かかる構成にて、ニューロンモデル部１１は、漏れなし積分発火型のスパイキングニューロン、かつ、シナプス後電流がステップ関数を用いて表されるスパイキングニューロンとして構成され、ニューラルネットワークの１回の処理において高々１回発火して発火タイミングでニューロンモデル部１１自らの出力を示す。伝達処理部１２は、ニューロンモデル部１１の間の情報伝達を行う。
図１１は、実施形態に係るニューラルネットワーク装置の構成例を示す図である。図１１に示すニューラルネットワーク装置１０は、ニューロンモデル部１１と、伝達処理部１２とを備える。
かかる構成にて、ニューロンモデル部１１は、漏れなし積分発火型のスパイキングニューロン、かつ、シナプス後電流がステップ関数を用いて表されるスパイキングニューロンとして構成され、ニューラルネットワークの１回の処理において高々１回発火して発火タイミングでニューロンモデル部１１自らの出力を示す。伝達処理部１２は、ニューロンモデル部１１の間の情報伝達を行う。
【0171】
ニューラルネットワーク装置１０によれば、ニューロンモデル部１１のリークをなくし、さらにすべてのニューロンモデル部１１が一回以下しか発火しない条件の下で、ニューロンモデル部１１を、ステップ関数を用いた比較的簡単なモデルとすることができる。
【0172】
ニューロンモデル部１１の処理をソフトウェア的に実行する場合、ニューロンモデルが比較的簡単なモデルとなることで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済む。また、ニューロンモデル部１１の処理をハードウェア的に実行する場合、ニューロンモデルが比較的簡単なモデルとなることで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済むことに加えて、ハードウェアの回路面積が比較的小さくて済む。
また、ニューロンモデル部１１によれば、リークを含まないモデルである点で、ニューロンが時定数を有しないモデルとなり、入力データの時定数に依存しなくなるため、認識精度が高い。
また、ニューロンモデル部１１は、時間方式による点で、頻度方式による場合よりも消費電力が少なくて済む。
また、ニューロンモデル部１１によれば、リークを含まないモデルである点で、ニューロンが時定数を有しないモデルとなり、入力データの時定数に依存しなくなるため、認識精度が高い。
また、ニューロンモデル部１１は、時間方式による点で、頻度方式による場合よりも消費電力が少なくて済む。
【0173】
ニューラルネットワークシステム１の全部または一部、あるいは、ニューラルネットワーク装置１０の全部または一部が、専用ハードウェアに実装されていてもよい。
図１２は、少なくとも１つの実施形態に係る専用ハードウェアの構成例を示す概略ブロック図である。図１２に示す構成で、専用ハードウェア５００は、ＣＰＵ５１０と、主記憶装置５２０と、補助記憶装置５３０と、インタフェース５４０とを備える。
図１２は、少なくとも１つの実施形態に係る専用ハードウェアの構成例を示す概略ブロック図である。図１２に示す構成で、専用ハードウェア５００は、ＣＰＵ５１０と、主記憶装置５２０と、補助記憶装置５３０と、インタフェース５４０とを備える。
【0174】
上述のニューラルネットワークシステム１が専用ハードウェア５００に実装される場合、上述した各処理部（ニューラルネットワーク装置１００、ニューロンモデル部１２１、伝達処理部１２２、予測誤差算出部２００、学習処理部３００）の動作は、プログラム、もしくは回路の形式で専用ハードウェア５００に記憶されている。
【0175】
ニューラルネットワークシステム１の全部または一部、あるいは、ニューラルネットワーク装置１０の全部または一部が、ＡＳＩＣ（application specific integrated circuit）に実装されていてもよい。
図１３は、少なくとも１つの実施形態に係るコンピュータの構成例を示す概略ブロック図である。図１３に示す構成で、ＡＳＩＣ６００は、演算部６１０と、記憶装置６２０と、インタフェース６３０とを備える。また、演算部６１０と記憶装置６２０とは統一されていても（すなわち、一体的に構成されていても）よい。
図１３は、少なくとも１つの実施形態に係るコンピュータの構成例を示す概略ブロック図である。図１３に示す構成で、ＡＳＩＣ６００は、演算部６１０と、記憶装置６２０と、インタフェース６３０とを備える。また、演算部６１０と記憶装置６２０とは統一されていても（すなわち、一体的に構成されていても）よい。
【0176】
ニューラルネットワークシステム１の全部または一部、あるいは、ニューラルネットワーク装置１０の全部または一部が、実装されたＡＳＩＣは、ＣＭＯＳなどの電子回路により、その演算を実行する。各々の電子回路が、それぞれ独立に層内のニューロンを実装してもよいし、層内の複数のニューロンを実装してもよい。また、同様に、ニューロンを演算する回路が、それぞれ、ある層の演算のみに用いられてもよいし、複数の層の演算に用いられてもよい。
【0177】
ニューラルネットワーク装置１０の全部または一部がＡＳＩＣに実装される場合、そのＡＳＩＣは、特定のものに限定されない。例えば、ニューラルネットワーク装置１０の全部または一部が、ＣＰＵを有していないＡＳＩＣに実装されていてもよい。また、ニューラルネットワーク装置１０の実装に用いられる記憶装置が、チップ上に分散して配置されていてもよい。
【0178】
なお、ニューラルネットワークシステム１の機能の全部または一部を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各部の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳ（Operating System）や周辺機器等のハードウェアを含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ（Read Only Memory）、ＣＤ－ＲＯＭ（Compact Disc Read Only Memory）等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ（Read Only Memory）、ＣＤ－ＲＯＭ（Compact Disc Read Only Memory）等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【0179】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【0180】
この出願は、２０１９年３月２０日に出願された日本国特願２０１９－０５２８８０を基礎とする優先権を主張し、その開示の全てをここに取り込む。
【産業上の利用可能性】
【0181】
本発明は、ニューラルネットワーク装置、ニューラルネットワークシステム、処理方法および記録媒体に適用してもよい。
【符号の説明】
【0182】
１ ニューラルネットワークシステム
１０、１００ ニューラルネットワーク装置
１１、１２１ ニューロンモデル部（ニューロンモデル手段）
１２、１２２ 伝達処理部（伝達処理手段）
１１１ 第１層
１１２ 第２層
１１３ 第３層
１１４ 第４層
２００ 予測誤差算出部（予測誤差算出手段）
３００ 学習処理部（学習処理手段）
１０、１００ ニューラルネットワーク装置
１１、１２１ ニューロンモデル部（ニューロンモデル手段）
１２、１２２ 伝達処理部（伝達処理手段）
１１１ 第１層
１１２ 第２層
１１３ 第３層
１１４ 第４層
２００ 予測誤差算出部（予測誤差算出手段）
３００ 学習処理部（学習処理手段）
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】