▶ 日本電気株式会社の特許一覧 ▶ 国立大学法人 東京大学の特許一覧
特許7240650スパイキングニューラルネットワークシステム、学習処理装置、学習処理方法およびプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-03-08
(45)【発行日】2023-03-16
(54)【発明の名称】スパイキングニューラルネットワークシステム、学習処理装置、学習処理方法およびプログラム
(51)【国際特許分類】
G06N 3/049 20230101AFI20230309BHJP
【ＦＩ】
G06N3/049
【請求項の数】
6
(21)【出願番号】P 2021522238
(86)(22)【出願日】2020-05-18
(86)【国際出願番号】 JP2020019652
(87)【国際公開番号】W WO2020241356
(87)【国際公開日】2020-12-03
【審査請求日】2021-11-25
(31)【優先権主張番号】P 2019101531
(32)【優先日】2019-05-30
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(73)【特許権者】
【識別番号】504137912
【氏名又は名称】国立大学法人 東京大学
(74)【代理人】
【識別番号】100106909
【弁理士】
【氏名又は名称】棚井 澄雄
(74)【代理人】
【識別番号】100134544
【弁理士】
【氏名又は名称】森 隆一郎
(74)【代理人】
【識別番号】100149548
【弁理士】
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100162868
【弁理士】
【氏名又は名称】伊藤 英輔
(72)【発明者】
【氏名】酒見 悠介
(72)【発明者】
【氏名】森野 佳生
(72)【発明者】
【氏名】合原 一幸
【審査官】千葉 久博
(56)【参考文献】
【文献】米国特許出願公開第２０１９／００４２９１６（ＵＳ，Ａ１）
【文献】黒江康明，スパイキングニューラルネットワーク－学習法を中心として，システム／制御／情報，システム制御情報学会，2004年02月15日，第４８巻, 第２号，pp.57-62，ISSN：0916-1600
【文献】MOSTAFA, Hesham，Supervised learning based on temporal coding in spiking neural networks，IEEE [online]，2017年08月01日，pp.3227-3235，[検索日 2020.07.17], インターネット：<URL: https://ieeexplore.ieee.org/abstract/document/7999227>，Electronic ISSN: 2162-2388, <DOI: 10.1109>
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｎ ３／０４９
(57)【特許請求の範囲】
【請求項1】
時間方式のスパイキングニューラルネットワークと、前記スパイキングニューラルネットワークの学習を、出力スパイクの時刻情報に負の係数を乗算し指数関数に入力した時刻指標値を、出力層の全てのニューロンにおける前記時刻指標値の合計で除算して得られるソフトマックス関数の負の対数尤度を用いた損失関数と、前記スパイキングニューラルネットワーク内のニューロンの発火時刻に関する正則化項とを含むコスト関数を用いた教師あり学習にて行わせる学習処理手段と、
を備えるスパイキングニューラルネットワークシステム。
【請求項2】
前記学習処理手段は、出力スパイクの時刻情報と、定数である参照時刻との差分に基づく前記正則化項を用いた前記学習を行わせる、請求項１に記載のスパイキングニューラルネットワークシステム。
【請求項3】
前記学習処理手段は、前記差分の二乗誤差に基づく前記正則化項を用いた前記学習を行わせる、請求項２に記載のスパイキングニューラルネットワークシステム。
【請求項4】
時間方式のスパイキングニューラルネットワークの学習を、出力スパイクの時刻情報に負の係数を乗算し指数関数に入力した時刻指標値を、出力層の全てのニューロンにおける前記時刻指標値の合計で除算して得られるソフトマックス関数の負の対数尤度を用いた損失関数と、前記スパイキングニューラルネットワーク内のニューロンの発火時刻に関する正則化項とを用いたコスト関数を用いた教師あり学習にて行わせる学習処理手段を備える学習処理装置。
【請求項5】
時間方式のスパイキングニューラルネットワークの学習を、出力スパイクの時刻情報に負の係数を乗算し指数関数に入力した時刻指標値を、出力層の全てのニューロンにおける前記時刻指標値の合計で除算して得られるソフトマックス関数の負の対数尤度を用いた損失関数と、前記スパイキングニューラルネットワーク内のニューロンの発火時刻に関する正則化項とを用いたコスト関数を用いた教師あり学習にて行う工程を含む学習処理方法。
【請求項6】
コンピュータに、時間方式のスパイキングニューラルネットワークの学習を、出力スパイクの時刻情報に負の係数を乗算し指数関数に入力した時刻指標値を、出力層の全てのニューロンにおける前記時刻指標値の合計で除算して得られるソフトマックス関数の負の対数尤度を用いた損失関数と、前記スパイキングニューラルネットワーク内のニューロンの発火時刻に関する正則化項とを用いたコスト関数を用いた教師あり学習にて行う工程
を実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、スパイキングニューラルネットワークシステム、学習処理装置、学習処理方法およびプログラムに関する。
【背景技術】
【0002】
（スパイキングニューラルネットワークについて）
ニューラルネットワークの一形態として、順伝搬型（Feed-Forward）スパイキングニューラルネットワーク（Spiking Neural Network；ＳＮＮ）およびリカレント（Recurrent、再帰型）スパイキングニューラルネットワークといったスパイキングニューラルネットワークがある。スパイキングニューラルネットワークとは、スパイキングニューロンモデル（スパイキングニューロン、または、単にニューロンとも称する）が結合しネットワークを形成したものである。
ニューラルネットワークの一形態として、順伝搬型（Feed-Forward）スパイキングニューラルネットワーク（Spiking Neural Network；ＳＮＮ）およびリカレント（Recurrent、再帰型）スパイキングニューラルネットワークといったスパイキングニューラルネットワークがある。スパイキングニューラルネットワークとは、スパイキングニューロンモデル（スパイキングニューロン、または、単にニューロンとも称する）が結合しネットワークを形成したものである。
【0003】
（順伝搬型スパイキングニューラルネットワークについて）
順伝搬型とは、ネットワークの形態の一つであり、層から層への結合における情報伝達が一方向のネットワークのことである。順伝搬型スパイキングニューラルネットワークの各層は１つ以上のスパイキングニューロンで構成されており、同層内のスパイキングニューロン間の結合は存在しない。
順伝搬型とは、ネットワークの形態の一つであり、層から層への結合における情報伝達が一方向のネットワークのことである。順伝搬型スパイキングニューラルネットワークの各層は１つ以上のスパイキングニューロンで構成されており、同層内のスパイキングニューロン間の結合は存在しない。
【0004】
図１１は、順伝搬型スパイキングニューラルネットワークの階層構造の例を示す図である。図１１は、順伝搬４層スパイキングニューラルネットワークの例を示している。但し、順伝搬型スパイキングニューラルネットワークの層数は、４層に限定されず２層以上であればよい。
図１１に例示されるように順伝搬型スパイキングニューラルネットワークは階層構造に構成され、データの入力を受けて演算結果を出力する。スパイキングニューラルネットワークが出力する演算結果を予測値または予測とも称する。
スパイキングニューラルネットワークの第１層（図１１の例では、層１０１１）は入力層と呼ばれ、最後の層（図１１の例では、第４層（層１０１４））は出力層と呼ばれる。入力層と出力層との間にある層（図１１の例では、第２層（層１０１２）および第３層（層１０１３））は隠れ層と呼ばれる。
図１１に例示されるように順伝搬型スパイキングニューラルネットワークは階層構造に構成され、データの入力を受けて演算結果を出力する。スパイキングニューラルネットワークが出力する演算結果を予測値または予測とも称する。
スパイキングニューラルネットワークの第１層（図１１の例では、層１０１１）は入力層と呼ばれ、最後の層（図１１の例では、第４層（層１０１４））は出力層と呼ばれる。入力層と出力層との間にある層（図１１の例では、第２層（層１０１２）および第３層（層１０１３））は隠れ層と呼ばれる。
【0005】
図１２は、順伝搬型スパイキングニューラルネットワークの構成例を示す図である。図１２は、図１１における４つの層（層１０１１～１０１４）が、それぞれ３つのスパイキングニューロン（スパイキングニューロンモデル）１０２１を有している場合の例を示している。但し、順伝搬型スパイキングニューラルネットワークが備えるスパイキングニューロンの個数は、特定の個数に限定されず、各層が１つ以上のスパイキングニューロンを備えていればよい。各層が同じ個数のスパイキングニューロンを備えていてもよいし、層によって異なる個数のスパイキングニューロンを備えていてもよい。
【0006】
スパイキングニューロン１０２１は、生物学的神経細胞の細胞体部による信号の統合およびスパイクの生成（発火）を模擬する。
伝達経路１０２２は、生物学的神経細胞の軸索およびシナプスによる信号の伝達を模擬する。伝達経路１０２２は、隣り合う層間の２つのスパイキングニューロン１０２１を結んで配置され、前段層のスパイキングニューロン１０２１から後段層側のスパイキングニューロン１０２１へスパイクを伝達する。
また、伝達経路１０２２は、隣り合う層間に限らず、ある層のスパイキングニューロン１０２１と、その層から、任意の数の層を飛ばした先の層のスパイキングニューロン１０２１を結んで配置されていてもよく、これらの層間でスパイクを伝達することができる。
伝達経路１０２２は、生物学的神経細胞の軸索およびシナプスによる信号の伝達を模擬する。伝達経路１０２２は、隣り合う層間の２つのスパイキングニューロン１０２１を結んで配置され、前段層のスパイキングニューロン１０２１から後段層側のスパイキングニューロン１０２１へスパイクを伝達する。
また、伝達経路１０２２は、隣り合う層間に限らず、ある層のスパイキングニューロン１０２１と、その層から、任意の数の層を飛ばした先の層のスパイキングニューロン１０２１を結んで配置されていてもよく、これらの層間でスパイクを伝達することができる。
【0007】
図１２の例では、伝達経路１０２２は、層１０１１のスパイキングニューロン１０２１の各々から層１０１２のスパイキングニューロン１０２１の各々へ、層１０１２のスパイキングニューロン１０２１の各々から層１０１３のスパイキングニューロン１０２１の各々へ、および、層１０１３のスパイキングニューロン１０２１の各々から層１０１４のスパイキングニューロン１０２１の各々へ、スパイクを伝達する。
【0008】
（リカレントスパイキングニューラルネットワークについて）
リカレントとは、ネットワークの形態の一つであり、再帰結合をもつネットワークのことである。リカレントスパイキングニューラルネットワークの構成は、あるスパイキングニューロンで発生したスパイクが、直接自分自身へ入力される場合、または、他のスパイキングニューロンを経由して、自分自身へスパイクが入力される場合を含む構成である。あるいは、１つのリカレントスパイキングニューラルネットワークが、あるスパイキングニューロンで発生したスパイクが、直接自分自身へ入力される場合と、他のスパイキングニューロンを介して、自分自身へスパイクが入力される場合との両方を含んでいてもよい。
リカレントとは、ネットワークの形態の一つであり、再帰結合をもつネットワークのことである。リカレントスパイキングニューラルネットワークの構成は、あるスパイキングニューロンで発生したスパイクが、直接自分自身へ入力される場合、または、他のスパイキングニューロンを経由して、自分自身へスパイクが入力される場合を含む構成である。あるいは、１つのリカレントスパイキングニューラルネットワークが、あるスパイキングニューロンで発生したスパイクが、直接自分自身へ入力される場合と、他のスパイキングニューロンを介して、自分自身へスパイクが入力される場合との両方を含んでいてもよい。
【0009】
図１３は、リカレントスパイキングニューラルネットワークの構成例を示す図である。図１３に例示されるリカレントスパイキングニューラルネットワークは、４つのスパイキングニューロンを備える。但し、リカレントスパイキングニューラルネットワークが備えるスパイキングニューロンの個数は、特定の個数に限定されず、１つ以上のスパイキングニューロンを備えていればよい。
【0010】
スパイキングニューロン１００００は、生物学的神経細胞の細胞体部による信号の統合およびスパイクの生成（発火）を模擬する。
伝達経路１０００１及び伝達経路１０００２は、生物学的神経細胞の軸索およびシナプスによる信号の伝達を模擬する。伝達経路１０００１は、２つのスパイキングニューロン１００００を結んで配置され、あるスパイキングニューロン１００００からあるスパイキングニューロン１００００へスパイクを伝達する。伝達経路１０００２は、自分自身へ帰還する結合であり、あるスパイキングニューロン１００００が、自分自身へスパイクを伝達する。
伝達経路１０００１及び伝達経路１０００２は、生物学的神経細胞の軸索およびシナプスによる信号の伝達を模擬する。伝達経路１０００１は、２つのスパイキングニューロン１００００を結んで配置され、あるスパイキングニューロン１００００からあるスパイキングニューロン１００００へスパイクを伝達する。伝達経路１０００２は、自分自身へ帰還する結合であり、あるスパイキングニューロン１００００が、自分自身へスパイクを伝達する。
【0011】
（スパイキングニューロンモデルの説明）
スパイキングニューロンモデルは、膜電位を内部状態として持ち、膜電位が微分方程式に従って時間発展するモデルである。一般的なスパイキングニューロンモデルとして、漏れ積分発火ニューロンモデルが知られており、膜電位が式（１）のような微分方程式に従って時間発展する。
スパイキングニューロンモデルは、膜電位を内部状態として持ち、膜電位が微分方程式に従って時間発展するモデルである。一般的なスパイキングニューロンモデルとして、漏れ積分発火ニューロンモデルが知られており、膜電位が式（１）のような微分方程式に従って時間発展する。
【0012】
【数1】
【0013】
ここで、ｖ（ｎ）
ｉは、第ｎ層のｉ番目のスパイキングニューロンモデルにおける膜電位を示す。αｌｅａｋは、漏れ積分発火モデルにおける漏れの大きさを示す定数の係数である。Ｉ（ｎ）
ｉは、第ｎ層のｉ番目のスパイキングニューロンモデルにおけるシナプス後電流を示す。ｗ（ｎ）
ｉｊは、第ｎ－１層のｊ番目のスパイキングニューロンモデルから第ｎ層のｉ番目のスパイキングニューロンモデルへの結合の強さを示す係数であり、重みと呼ばれる。
ｔは時刻を示す。ｔ（ｎ－１） ｊは第ｎ－１層のｊ番目のニューロンの発火タイミング（発火時刻）を示す。ｒ（・）は前段の層から伝達されたスパイクがシナプス後電流へ与える影響を示す関数である。
ｔは時刻を示す。ｔ（ｎ－１） ｊは第ｎ－１層のｊ番目のニューロンの発火タイミング（発火時刻）を示す。ｒ（・）は前段の層から伝達されたスパイクがシナプス後電流へ与える影響を示す関数である。
【0014】
膜電位が閾値Ｖｔｈを超えると、そのスパイキングニューロンモデルはスパイクを生成し(発火)、その後、膜電位はリセット値Ｖｒｅｓｅｔへと戻る。また、生成されたスパイクは、結合している後段層のスパイキングニューロンモデルへと伝達される。
【0015】
図１４は、スパイキングニューロンの膜電位の時間発展の例を示す図である。図１４のグラフの横軸は時刻を示し、縦軸は、膜電位を示す。図１４は、第ｎ層のｉ番目のスパイキングニューロンの膜電位の時間発展の例を示しており、膜電位は、ｖ（ｎ）
ｉと表されている。
上記のように、Ｖｔｈは、膜電位の閾値を示す。Ｖｒｅｓｅｔは、膜電位のリセット値を示す。ｔ（ｎ－１） １は第ｎ－１層の１番目のニューロンの発火タイミングを示す。ｔ（ｎ－１） ２は第ｎ－１層の２番目のニューロンの発火タイミングを示す。ｔ（ｎ－１） ３は第ｎ－１層の３番目のニューロンの発火タイミングを示す。
時刻ｔ（ｎ－１） １における１番目の発火および時刻ｔ（ｎ－１） ３における３番目の発火では、何れも膜電位ｖ（ｎ） ｉは閾値Ｖｔｈに達していない。一方、時刻ｔ（ｎ－１） ２における２番目の発火では、膜電位ｖ（ｎ） ｉが閾値Ｖｔｈに達し、その後すぐに、リセット値であるＶｒｅｓｅｔに低下している。
上記のように、Ｖｔｈは、膜電位の閾値を示す。Ｖｒｅｓｅｔは、膜電位のリセット値を示す。ｔ（ｎ－１） １は第ｎ－１層の１番目のニューロンの発火タイミングを示す。ｔ（ｎ－１） ２は第ｎ－１層の２番目のニューロンの発火タイミングを示す。ｔ（ｎ－１） ３は第ｎ－１層の３番目のニューロンの発火タイミングを示す。
時刻ｔ（ｎ－１） １における１番目の発火および時刻ｔ（ｎ－１） ３における３番目の発火では、何れも膜電位ｖ（ｎ） ｉは閾値Ｖｔｈに達していない。一方、時刻ｔ（ｎ－１） ２における２番目の発火では、膜電位ｖ（ｎ） ｉが閾値Ｖｔｈに達し、その後すぐに、リセット値であるＶｒｅｓｅｔに低下している。
【0016】
スパイキングニューラルネットワークはＣＭＯＳ（Complementary MOS）などでハードウェア化したときに、深層学習モデルよりも消費電力を下げられると期待されている。その理由の一つは、人の脳は３０ワット（Ｗ）相当の低消費電力な計算媒体であり、スパイキングニューラルネットワークはそのような低消費電力の脳の活動を模倣することができるためである。
【0017】
脳相当の低消費電力のハードウェアを作るには、脳の計算原理に倣い、スパイキングニューラルネットワークのアルゴリズムを開発していくことが必要である。例えば、画像認識を、スパイキングニューラルネットワークを用いて行えることが知られており、幾つかの教師あり学習アルゴリズムおよび教師なし学習アルゴリズムが開発されてきた。
【0018】
（スパイキングニューラルネットワークにおける情報伝達方式について）
スパイキングニューラルネットワークのアルゴリズムでは、スパイクによる情報伝達方式において幾つかの手法があり、特に、頻度方式と時間方式とが用いられている。
頻度方式では、一定時間間隔の間に、ある特定のニューロンが何回発火したかで情報を伝達する。一方、時間方式では、スパイクのタイミングで情報を伝達する。
スパイキングニューラルネットワークのアルゴリズムでは、スパイクによる情報伝達方式において幾つかの手法があり、特に、頻度方式と時間方式とが用いられている。
頻度方式では、一定時間間隔の間に、ある特定のニューロンが何回発火したかで情報を伝達する。一方、時間方式では、スパイクのタイミングで情報を伝達する。
【0019】
図１５は、頻度方式、時間方式それぞれにおけるスパイクの例を示す図である。図１５の例で、頻度方式では、「１」、「３」、「５」の情報を、その情報に応じたスパイク数で示している。一方、時間方式では、「１」、「３」、「５」の情報の何れの場合もスパイク数は１つであり、情報に応じたタイミングでスパイクを生成することで、その情報を示している。図１５の例では、ニューロンは、情報としての数が大きくなるほど遅いタイミングでスパイクを生成している。
【0020】
図１５に示すように、時間方式は、頻度方式に比べて、少ないスパイク数で情報を表すことができる。非特許文献１では、画像認識等のタスクにおいて、時間方式は頻度方式の１０分の１以下のスパイク数で実行できることが報告されている。
ハードウェアの消費電力は、スパイク数の増加によって増加するため、時間方式のアルゴリズムを用いると消費電力を削減することができる。
ハードウェアの消費電力は、スパイク数の増加によって増加するため、時間方式のアルゴリズムを用いると消費電力を削減することができる。
【0021】
（スパイキングニューラルネットワークによる予測について）
スパイキングニューラルネットワークを用いることで、様々な課題を解くことができることが報告されている。例えば、図１１のようなネットワーク構成において、入力層に画像データを入力し、スパイキングニューラルネットワークが、画像のラベルを予測するようにできる。時間方式の場合、予測値の出力方法として、例えば、出力層のニューロンのうち最も早く発火（スパイクを生成）したニューロンに対応するラベルによって予測値を示すことができる。
スパイキングニューラルネットワークを用いることで、様々な課題を解くことができることが報告されている。例えば、図１１のようなネットワーク構成において、入力層に画像データを入力し、スパイキングニューラルネットワークが、画像のラベルを予測するようにできる。時間方式の場合、予測値の出力方法として、例えば、出力層のニューロンのうち最も早く発火（スパイクを生成）したニューロンに対応するラベルによって予測値を示すことができる。
【0022】
（スパイキングニューラルネットワークの学習について）
スパイキングニューラルネットワークが正しく予測を行うには学習プロセスが必要である。例えば、画像を認識する学習タスクでは、画像データと、その解答であるラベルデータとが用いられる。
スパイキングニューラルネットワークが正しく予測を行うには学習プロセスが必要である。例えば、画像を認識する学習タスクでは、画像データと、その解答であるラベルデータとが用いられる。
【0023】
（学習パラメータについて）
ここでいう学習とは、ネットワークの一部のパラメータの値を変化させるプロセスである。この値を変化させるパラメータを学習パラメータと称する。学習パラメータとして、例えば、ネットワークの結合強度や、スパイクの伝達遅延などが用いられる。以下、学習パラメータとして重みと表現するが、以下の説明は結合強度に限らず、一般の学習パラメータへと拡張可能である。
ここでいう学習とは、ネットワークの一部のパラメータの値を変化させるプロセスである。この値を変化させるパラメータを学習パラメータと称する。学習パラメータとして、例えば、ネットワークの結合強度や、スパイクの伝達遅延などが用いられる。以下、学習パラメータとして重みと表現するが、以下の説明は結合強度に限らず、一般の学習パラメータへと拡張可能である。
【0024】
学習では、スパイキングニューラルネットワークは、データの入力を受けて予測値を出力する。そして、スパイキングニューラルネットワークに学習を行わせるための学習機構が、スパイキングニューラルネットワークが出力する予測値とラベルデータ（正解）との差などから定義される予測誤差を算出する。学習機構は、予測誤差から定義されるコスト関数を、スパイキングニューラルネットワークにおけるネットワークの重みの最適化によって最小化することで、スパイキングニューラルネットワークに学習を行わせる。
【0025】
（コスト関数の最小化について）
例えば、学習機構が、式（２）のように重みを繰り返し更新することで、コスト関数Ｃを最小化することができる。
例えば、学習機構が、式（２）のように重みを繰り返し更新することで、コスト関数Ｃを最小化することができる。
【0026】
【数2】
【0027】
ここで、Δｗ（ｌ）
ｉｊは、重みｗ（ｌ）
ｉｊの増減を示す。Δｗ（ｌ）
ｉｊの値が正の場合、重みｗ（ｌ）
ｉｊを増加させる。Δｗ（ｌ）
ｉｊの値が負の場合、重みｗ（ｌ）
ｉｊを減少させる。
ηは学習係数と呼ばれる定数である。
Ｃはコスト関数であり、通常、式（３）のように損失関数Ｌと正則化項Ｒとを用いて構成される。
ηは学習係数と呼ばれる定数である。
Ｃはコスト関数であり、通常、式（３）のように損失関数Ｌと正則化項Ｒとを用いて構成される。
【0028】
【数3】
【0029】
損失関数Ｌの値を小さくすることは、機械学習プロセスにおいて訓練時のエラーを小さくすることに相当し、正則化項Ｒは、汎化性能を高めるためなどの理由で加えられる。
なお、以下では表記を単純化するため、コスト関数の表記を単一データに関して行うが、実際の学習においては学習データすべてに対しての総和でコスト関数を定義する。
なお、以下では表記を単純化するため、コスト関数の表記を単一データに関して行うが、実際の学習においては学習データすべてに対しての総和でコスト関数を定義する。
【0030】
（二乗誤差による損失関数の定義について）
スパイキングニューラルネットワークにおいて、式（４）のように出力層のスパイク発生時刻と教師スパイクの発生時刻との差によって損失関数Ｌを定義する方法が、非特許文献２等により知られている。
スパイキングニューラルネットワークにおいて、式（４）のように出力層のスパイク発生時刻と教師スパイクの発生時刻との差によって損失関数Ｌを定義する方法が、非特許文献２等により知られている。
【0031】
【数4】
【0032】
ｔ（Ｍ）
ｉは、出力層（第Ｍ層）のｉ番目のニューロンのスパイク発生時刻を示す。ｔ（Ｔ）
ｉは、出力層（第Ｍ層）のｉ番目のニューロンの、教師スパイクの発生時刻（正解として与えられるスパイク発生時刻)を示す。
【0033】
（ソフトマックス関数の対数尤度損失関数の定義について）
人工ニューラルネットワークにおいては、分類タスクで、式（５）のように示されるようにソフトマックス関数の（負の）対数尤度の和として損失関数Ｌを定義する方法が知られている。
人工ニューラルネットワークにおいては、分類タスクで、式（５）のように示されるようにソフトマックス関数の（負の）対数尤度の和として損失関数Ｌを定義する方法が知られている。
【0034】
【数5】
【0035】
κｍは、教師ラベルデータであり、正解ラベルのとき１を出力し、それ以外のときは０を出力する。ｌｎは、自然対数を示す。Ｓｍはソフトマックス（Softmax）と呼ばれる関数である。ｏｕｔｐｕｔ［ｉ］は、出力層のｉ番目のニューロンの出力を示す。
式（５）の損失関数Ｌについて、分類問題において学習を高速化する効果が知られている。
また、非特許文献３では、出力層ニューロンの出力を式（６）のように表し、この式（６）を用いて多層スパイキングニューラルネットワークの損失関数Ｌを上記の式（５）のように定義する例が示されている。
式（５）の損失関数Ｌについて、分類問題において学習を高速化する効果が知られている。
また、非特許文献３では、出力層ニューロンの出力を式（６）のように表し、この式（６）を用いて多層スパイキングニューラルネットワークの損失関数Ｌを上記の式（５）のように定義する例が示されている。
【0036】
【数6】
【0037】
ｔ（Ｍ）
ｉは、第Ｍ層（出力層）のｉ番目のニューロンの発火タイミングを示す。
式（６）は、出力スパイクの時刻ｔ（Ｍ） ｉを指数関数ｅｘｐにより変換している。この場合のソフトマックス関数（式（６）を式（５）に代入したＳｍ）をｚ領域でのソフトマックス関数の定義と称する。
式（６）は、出力スパイクの時刻ｔ（Ｍ） ｉを指数関数ｅｘｐにより変換している。この場合のソフトマックス関数（式（６）を式（５）に代入したＳｍ）をｚ領域でのソフトマックス関数の定義と称する。
【0038】
（確率的勾配降下法について）
確率的勾配降下法では、一部の訓練データを用いて重みを一度更新する。すなわち、訓練データを、重なり合わないＮ個のグループに分け、各グループのデータに対して勾配を計算し、重みを順次更新する。また、そのＮ個のグループのそれぞれを用いて計Ｎ回重みを順次更新したとき、学習が１エポック分進んだと表現する。確率的勾配降下法では、一般に、数十から数百のエポックを実行して学習を収束させる。また、一つのデータのみ（１つの入力データと１つのラベルデータ）で重みを更新することをオンライン学習と呼び、二つ以上のデータを用いて更新することをミニバッチ学習と呼ぶ。
確率的勾配降下法では、一部の訓練データを用いて重みを一度更新する。すなわち、訓練データを、重なり合わないＮ個のグループに分け、各グループのデータに対して勾配を計算し、重みを順次更新する。また、そのＮ個のグループのそれぞれを用いて計Ｎ回重みを順次更新したとき、学習が１エポック分進んだと表現する。確率的勾配降下法では、一般に、数十から数百のエポックを実行して学習を収束させる。また、一つのデータのみ（１つの入力データと１つのラベルデータ）で重みを更新することをオンライン学習と呼び、二つ以上のデータを用いて更新することをミニバッチ学習と呼ぶ。
【0039】
（学習速度について）
確率的勾配降下法では、ネットワークの重みを繰り返し更新する必要がある。コスト関数をより小さくすることが好ましいことに加え、より少ない更新数でコスト関数を小さくできることが望ましい。このとき、より少ない更新数でコスト関数を最小化することを、学習が速いと表現する。逆に、より多くの更新数をコスト関数の最小化のために費やすことを、学習が遅いと表現する。学習が速いことで、学習結果が速く収束する。
確率的勾配降下法では、ネットワークの重みを繰り返し更新する必要がある。コスト関数をより小さくすることが好ましいことに加え、より少ない更新数でコスト関数を小さくできることが望ましい。このとき、より少ない更新数でコスト関数を最小化することを、学習が速いと表現する。逆に、より多くの更新数をコスト関数の最小化のために費やすことを、学習が遅いと表現する。学習が速いことで、学習結果が速く収束する。
【0040】
（予測結果の出力について）
前述のように、順伝搬型スパイキングニューラルネットワークを用いることで、様々な課題を解くことができることが報告されている。例えば上記のように、入力層に画像データを入力し、ネットワークが、その画像のラベルを予測するようにできる。
前述のように、順伝搬型スパイキングニューラルネットワークを用いることで、様々な課題を解くことができることが報告されている。例えば上記のように、入力層に画像データを入力し、ネットワークが、その画像のラベルを予測するようにできる。
【0041】
図１６は、スパイキングニューラルネットワークの予測結果の出力表現の例を示す図である。例えば、０から２までの３個の数字の画像を認識するタスクにおいては、図１６に示すように、３個のニューロンが出力層を構成し、それぞれが０から２までの数字に対応しており、そのうち最も早く発火したニューロンが示す数字がネットワークの示す予測となる。なお、このネットワークの動作は、ニューロンの発火タイミングによって情報がコーディングされているので、時間方式である。
【先行技術文献】
【非特許文献】
【0042】
【文献】T. Liu、外５名、“MT-spike: A multilayer time-based spiking neuromorphic architecture with temporal error backpropagation”、Proceedings of the 36th International Conference on Computer-Aided Design、IEEE Press、２０１７年、ｐ．４５０－４５７
【文献】S. M. Bohte、外２名、“Error-backpropagation in temporally encoded networks of spiking neurons”、Neurocomputing、第４８巻、２００２年、ｐ．１７－３７
【文献】H. Mostafa、“Supervised Learning Based on Temporal Coding in Spiking Neural Networks”、IEEE Transactions on Neural Networks and Learning Systems、第２９、２０１８年、ｐ．３２２７－３２３５
【発明の概要】
【発明が解決しようとする課題】
【0043】
時間方式のスパイキングニューラルネットワークの学習をより安定的に行えることが好ましい。
【0044】
本発明は、上述の課題を解決することのできるスパイキングニューラルネットワークシステム、学習処理装置、学習処理方法およびプログラムを提供することを目的としている。
【課題を解決するための手段】
【0045】
本発明の第１の態様によれば、スパイキングニューラルネットワークシステムは、時間方式のスパイキングニューラルネットワークと、前記スパイキングニューラルネットワークの学習を、出力スパイクの時刻情報に負の係数を乗算し指数関数に入力した時刻指標値を、出力層の全てのニューロンにおける前記時刻指標値の合計で除算して得られるソフトマックス関数の負の対数尤度を用いた損失関数と、前記スパイキングニューラルネットワーク内のニューロンの発火時刻に関する正則化項とを用いたコスト関数を用いた教師あり学習にて行わせる学習処理手段と、を備える。
【0046】
本発明の第２の態様によれば、学習処理装置は、時間方式のスパイキングニューラルネットワークの学習を、出力スパイクの時刻情報に負の係数を乗算し指数関数に入力した時刻指標値を、出力層の全てのニューロンにおける前記時刻指標値の合計で除算して得られるソフトマックス関数の負の対数尤度を用いた損失関数と、前記スパイキングニューラルネットワーク内のニューロンの発火時刻に関する正則化項とを用いたコスト関数を用いた教師あり学習にて行わせる学習処理手段を備える。
【0047】
本発明の第３の態様によれば、学習処理方法は、時間方式のスパイキングニューラルネットワークの学習を、出力スパイクの時刻情報に負の係数を乗算し指数関数に入力した時刻指標値を、出力層の全てのニューロンにおける前記時刻指標値の合計で除算して得られるソフトマックス関数の負の対数尤度を用いた損失関数と、前記スパイキングニューラルネットワーク内のニューロンの発火時刻に関する正則化項とを用いたコスト関数を用いた教師あり学習にて行う工程を含む。
【0048】
本発明の第４の態様によれば、プログラムは、コンピュータに、時間方式のスパイキングニューラルネットワークの学習を、出力スパイクの時刻情報に負の係数を乗算し指数関数に入力した時刻指標値を、出力層の全てのニューロンにおける前記時刻指標値の合計で除算して得られるソフトマックス関数の負の対数尤度を用いた損失関数と、前記スパイキングニューラルネットワーク内のニューロンの発火時刻に関する正則化項とを用いたコスト関数を用いた教師あり学習にて行う工程を実行させるためのプログラムである。
【発明の効果】
【0049】
本発明によれば、時間方式のスパイキングニューラルネットワークの学習をより安定的に行うことができる。
【図面の簡単な説明】
【0050】
【図1】実施形態に係るニューラルネットワークシステムの概略構成の例を示す図である。
【図2】実施形態に係るニューラルネットワーク装置が順伝搬型ニューラルネットワークとして構成される場合の階層構造の例を示す図である。
【図3】実施形態に係るニューラルネットワーク装置が順伝搬型ニューラルネットワークとして構成される場合の構成例を示す図である。
【図4】実施形態に係るニューラルネットワーク装置がリカレントニューラルネットワークとして構成される場合の構成例を示す図である。
【図5】実施形態に係るシミュレーションにおける学習の進行状況の例を示すグラフである。
【図6】実施形態に係るニューラルネットワークシステムの構成例を示す図である。
【図7】実施形態に係る学習処理装置を示す図である。
【図8】実施形態に係る学習処理方法における処理工程の例を示す図である。
【図9】少なくとも１つの実施形態に係る専用ハードウェアの構成例を示す概略ブロック図である。
【図10】少なくとも１つの実施形態に係るＡＳＩＣの構成例を示す概略ブロック図である。
【図11】順伝搬型スパイキングニューラルネットワークの階層構造の例を示す図である。
【図12】順伝搬型スパイキングニューラルネットワークの構成例を示す図である。
【図13】リカレントスパイキングニューラルネットワークの構成例を示す図である。
【図14】スパイキングニューロンの膜電位の時間発展の例を示す図である。
【図15】頻度方式、時間方式それぞれにおけるスパイクの例を示す図である。
【図16】スパイキングニューラルネットワークの予測結果の出力表現の例を示す図である。
【発明を実施するための形態】
【0051】
以下、本発明の実施形態を説明するが、以下の実施形態は請求の範囲に係る発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【0052】
（実施形態に係るニューラルネットワークシステムの構成について）
図１は、実施形態に係るニューラルネットワークシステムの概略構成の例を示す図である。図１に示す構成で、ニューラルネットワークシステム１は、ニューラルネットワーク装置１００と、コスト関数演算部２００と、学習処理部３００を備える。
図１は、実施形態に係るニューラルネットワークシステムの概略構成の例を示す図である。図１に示す構成で、ニューラルネットワークシステム１は、ニューラルネットワーク装置１００と、コスト関数演算部２００と、学習処理部３００を備える。
【0053】
かかる構成で、ニューラルネットワーク装置１００は、データの入力を受けて予測値を出力する。上述したように、ここでいう予測値は、ニューラルネットワークが出力する演算結果である。
コスト関数演算部２００は、ニューラルネットワーク装置１００が出力する予測値とラベルデータ（正解）とを、予め記憶しているコスト関数に入力してコスト関数値を算出する。コスト関数演算部２００は、算出したコスト関数値を学習処理部３００へ出力する。
コスト関数演算部２００は、ニューラルネットワーク装置１００が出力する予測値とラベルデータ（正解）とを、予め記憶しているコスト関数に入力してコスト関数値を算出する。コスト関数演算部２００は、算出したコスト関数値を学習処理部３００へ出力する。
【0054】
学習処理部３００は、コスト関数演算部２００が算出するコスト関数値を用いて、ニューラルネットワーク装置１００に学習を行わせる。具体的には、学習処理部３００は、コスト関数値を最小化するように、ニューラルネットワーク装置１００のニューラルネットワークの重みを更新させる。
ニューラルネットワーク装置１００と、コスト関数演算部２００と、学習処理部３００とが、別々の装置として構成されていてもよいし、これらのうち２つ以上が１つの装置として構成されていてもよい。学習処理部３００が、学習処理装置として構成されていてもよい。
ニューラルネットワーク装置１００と、コスト関数演算部２００と、学習処理部３００とが、別々の装置として構成されていてもよいし、これらのうち２つ以上が１つの装置として構成されていてもよい。学習処理部３００が、学習処理装置として構成されていてもよい。
【0055】
（実施形態に係るニューラルネットワーク装置の構造について）
図２は、ニューラルネットワーク装置１００が順伝搬型ニューラルネットワークとして構成される場合の階層構造の例を示す図である。図２の例で、ニューラルネットワーク装置１００は順伝搬４層スパイキングニューラルネットワークに構成されている。但し、ニューラルネットワーク装置１００の層数は、図２に示す４層に限らず２層以上であればよい。
図２は、ニューラルネットワーク装置１００が順伝搬型ニューラルネットワークとして構成される場合の階層構造の例を示す図である。図２の例で、ニューラルネットワーク装置１００は順伝搬４層スパイキングニューラルネットワークに構成されている。但し、ニューラルネットワーク装置１００の層数は、図２に示す４層に限らず２層以上であればよい。
【0056】
図２の例で、ニューラルネットワーク装置１００は、順伝搬型スパイキングニューラルネットワークとして機能し、データの入力を受けて予測値を出力する。
ニューラルネットワーク装置１００の各層のうち、第１層（層１１１）は入力層に該当する。最後の層（第４層、層１１４）は出力層に該当する。入力層と出力層との間にある層（第２層（層１１２）および第３層（層１１３））は隠れ層に該当する。
ニューラルネットワーク装置１００の各層のうち、第１層（層１１１）は入力層に該当する。最後の層（第４層、層１１４）は出力層に該当する。入力層と出力層との間にある層（第２層（層１１２）および第３層（層１１３））は隠れ層に該当する。
【0057】
図３は、ニューラルネットワーク装置１００が順伝搬型ニューラルネットワークとして構成される場合の構成例を示す図である。図３は、図２における４つの層（層１１１～１１４）が、それぞれ３つのノード（ニューロンモデル部１２１）を有している場合の例を示している。但し、ニューラルネットワーク装置１００が備えるニューロンモデル部１２１の個数は、特定の個数に限定されない。ニューラルネットワーク装置１００が順伝搬型ニューラルネットワークとして構成される場合、各層が２つ以上のニューロンモデル部１２１を備えていればよい。各層が同じ個数のニューロンモデル部１２１を備えていてもよいし、層によって異なる個数のニューロンモデル部１２１を備えていてもよい。ニューラルネットワーク装置１００がリカレントニューラルネットワークとして構成される場合、ニューラルネットワーク装置１００が備えるニューロンモデル部１２１の個数は、特定の個数に限定されず、１つ以上のニューロンモデル部１２１を備えていればよい。
【0058】
図３の例で、ニューロンモデル部１２１は、スパイキングニューロン（スパイキングニューロンモデル）として構成され、細胞体部による信号の統合およびスパイクの生成（発火）を模擬する。
伝達処理部１２２は、軸索およびシナプスによる信号の伝達を模擬する。伝達処理部１２２は、任意の層間の２つのニューロンモデル部１２１を結んで配置され、前段層側のニューロンモデル部１２１から後段層側のニューロンモデル部１２１へスパイクを伝達する。
伝達処理部１２２は、軸索およびシナプスによる信号の伝達を模擬する。伝達処理部１２２は、任意の層間の２つのニューロンモデル部１２１を結んで配置され、前段層側のニューロンモデル部１２１から後段層側のニューロンモデル部１２１へスパイクを伝達する。
【0059】
図３の例では、伝達処理部１２２は、層１１１のニューロンモデル部１２１の各々から層１１２のニューロンモデル部１２１の各々へ、層１１２のニューロンモデル部１２１の各々から層１１３のニューロンモデル部１２１の各々へ、および、層１１３のニューロンモデル部１２１の各々から層１１４のニューロンモデル部１２１の各々へ、スパイクを伝達する。
【0060】
図４は、ニューラルネットワーク装置１００がリカレントニューラルネットワークとして構成される場合の構成例を示す図である。
図４の例で、ニューロンモデル部１２１は、図３の場合と同様、スパイキングニューロンとして構成され、細胞体部による信号の統合およびスパイクの生成を模擬する。伝達処理部１２２は、図３の場合と同様、軸索およびシナプスによる信号の伝達を模擬する。伝達処理部１２２は、２つのニューロンモデル部１２１を結んで配置され、出力側のニューロンモデル部１２１から入力側のニューロンモデル部１２１へスパイクを伝達する。
図４の例で、ニューロンモデル部１２１は、図３の場合と同様、スパイキングニューロンとして構成され、細胞体部による信号の統合およびスパイクの生成を模擬する。伝達処理部１２２は、図３の場合と同様、軸索およびシナプスによる信号の伝達を模擬する。伝達処理部１２２は、２つのニューロンモデル部１２１を結んで配置され、出力側のニューロンモデル部１２１から入力側のニューロンモデル部１２１へスパイクを伝達する。
【0061】
図４の例におけるニューラルネットワーク装置１００の構造は、ニューロンモデル部１２１が階層構造に配置されている必要は無い点で、図３の場合と異なる。また、図４の例におけるニューラルネットワーク装置１００の構造は、伝達処理部１２２が形成する信号の伝達経路のうち少なくとも何れか１つが、信号出力元のニューロンモデル部１２１自身へ帰還する点で、図３の場合と異なる。この伝達経路は、信号出力元のニューロンモデル部１２１から直接、信号出力元のニューロンモデル部１２１自身へ帰還していてもよい。あるいは、この伝達経路は、信号出力元のニューロンモデル部１２１から他のニューロンモデル部１２１を経由して間接的に、信号出力元のニューロンモデル部１２１自身へ帰還していてもよい。直接帰還する伝達経路と間接的に帰還する伝達経路との両方があってもよい。
【0062】
（実施形態に係るニューラルネットワーク装置の損失関数について）
本実施形態で、分類問題において、多層スパイキングニューラルネットワークの教師あり学習の際にコスト関数演算部２００が演算する損失関数Ｌを、出力層ニューロン（であるニューロンモデル部１２１）の発火時刻（発火タイミング）ｔ（Ｍ） ｉを用いて式（７）のように定義してもよい。
本実施形態で、分類問題において、多層スパイキングニューラルネットワークの教師あり学習の際にコスト関数演算部２００が演算する損失関数Ｌを、出力層ニューロン（であるニューロンモデル部１２１）の発火時刻（発火タイミング）ｔ（Ｍ） ｉを用いて式（７）のように定義してもよい。
【0063】
【数7】
【0064】
上述したように、κｍは、教師ラベルデータであり、正解ラベルのとき１を出力し、それ以外のときは０を出力する。ｌｎは自然対数を示す。Ｓｍはソフトマックス関数を示す。
ａは正の定数である。ｔ（Ｍ） ｉは、第Ｍ層（出力層）のｉ番目のニューロンモデル部１２１の発火時刻を示す。ｉと同様ｍも、ニューロンモデル部１２１を識別するインデックスとして用いられている（左側の式の「Σｍ」、「κｍ」、左右の式の「Ｓｍ」、右側の式の「ｔ（Ｍ） ｍ」の各ｍ）。
ａは正の定数である。ｔ（Ｍ） ｉは、第Ｍ層（出力層）のｉ番目のニューロンモデル部１２１の発火時刻を示す。ｉと同様ｍも、ニューロンモデル部１２１を識別するインデックスとして用いられている（左側の式の「Σｍ」、「κｍ」、左右の式の「Ｓｍ」、右側の式の「ｔ（Ｍ） ｍ」の各ｍ）。
【0065】
式（７）では、ソフトマックス関数を出力スパイクの時刻で定義しているので、ｔ領域（時刻領域）でのソフトマックス関数であると定義する。
ｔ領域でのソフトマックス関数（式（７）参照）は、ｚ領域でのソフトマックス関数（式（６）参照）との比較において、指数関数を二重に適用する必要が無い点で、比較的簡単な計算で済む。この点で、ｔ領域でのソフトマックス関数の対数尤度を損失関数に用いることで計算負荷が比較的軽く、また、学習時間が比較的短くて済む。指数関数の適用は出力層ニューロン毎に行われるため、出力層ニューロンの数が多い場合、ｔ領域でのソフトマックス関数を用いる効果が特に大きい。
ｔ領域でのソフトマックス関数（式（７）参照）は、ｚ領域でのソフトマックス関数（式（６）参照）との比較において、指数関数を二重に適用する必要が無い点で、比較的簡単な計算で済む。この点で、ｔ領域でのソフトマックス関数の対数尤度を損失関数に用いることで計算負荷が比較的軽く、また、学習時間が比較的短くて済む。指数関数の適用は出力層ニューロン毎に行われるため、出力層ニューロンの数が多い場合、ｔ領域でのソフトマックス関数を用いる効果が特に大きい。
【0066】
式（７）の損失関数Ｌは、ニューラルネットワーク装置１００がリカレントニューラルネットワークとして構成されている場合にも適用可能である。この場合、ニューラルネットワークの外部へ信号を出力するニューロンモデル部１２１を出力層ニューロンとして扱う。
【0067】
（実施形態に係る学習の効果）
分類問題において、ソフトマックス関数による負の対数尤度による損失関数を用いる点で、ニューラルネットワークシステム１の学習が少ないエポック数で収束するため、学習が高速になる。
また、コスト関数演算部２００が演算する損失関数では、式（７）のように、ソフトマックス関数が発火時刻の自然指数関数で定義されている（すなわち、ｔ領域でのソフトマックス関数がコスト関数に用いられている）。この点で、ｚ領域でのソフトマックス関数（式（６）参照）をコスト関数に用いる場合よりも、計算量が少なくて済む。
分類問題において、ソフトマックス関数による負の対数尤度による損失関数を用いる点で、ニューラルネットワークシステム１の学習が少ないエポック数で収束するため、学習が高速になる。
また、コスト関数演算部２００が演算する損失関数では、式（７）のように、ソフトマックス関数が発火時刻の自然指数関数で定義されている（すなわち、ｔ領域でのソフトマックス関数がコスト関数に用いられている）。この点で、ｚ領域でのソフトマックス関数（式（６）参照）をコスト関数に用いる場合よりも、計算量が少なくて済む。
【0068】
（実施形態に係るニューラルネットワーク装置のコスト関数の正則化項について）
ｔ領域でのソフトマックス関数（式（７）参照）は、式（８）の変換に対して不変性をもっている。
ｔ領域でのソフトマックス関数（式（７）参照）は、式（８）の変換に対して不変性をもっている。
【0069】
【数8】
【0070】
また、ｚ領域でのソフトマックス関数（式（６）参照）は、式（９）の変換に対して不変性をもっている。
【0071】
【数9】
【0072】
ここで、ｃは任意の実数である。なお、式（８）および式（９）において、矢印の記号は、左辺にある値を、右辺の値に置き換える、という操作を表す。
具体的には、第Ｍ層（出力層）の全てのスパイキングニューロンモデル（ニューロンモデル部１２１）において（すなわち、全てのｉについて）一律、式（８）の「ｔ（Ｍ） ｉ」に同じ値ｃを加算して「ｔ（Ｍ） ｉ＋ｃ」としても、ソフトマックス関数の値は変わらない。また同様に、「ｚ（Ｍ） ｉ」に同じ値ｃを加算して「ｚ（Ｍ） ｉ＋ｃ」としても、ソフトマックス関数の値は変わらない。
具体的には、第Ｍ層（出力層）の全てのスパイキングニューロンモデル（ニューロンモデル部１２１）において（すなわち、全てのｉについて）一律、式（８）の「ｔ（Ｍ） ｉ」に同じ値ｃを加算して「ｔ（Ｍ） ｉ＋ｃ」としても、ソフトマックス関数の値は変わらない。また同様に、「ｚ（Ｍ） ｉ」に同じ値ｃを加算して「ｚ（Ｍ） ｉ＋ｃ」としても、ソフトマックス関数の値は変わらない。
【0073】
この不変性のため、最終層スパイクの位置（発火タイミング）が一点に定まらなくなり、そのため、学習が安定せず失敗することが、比較的頻繁に起こる。なお、学習が失敗するとは、学習中にスパイクが発生しなくなるなどし、コスト関数が減少しなくなる、あるいは、増加してしまうことをいう。
そこで、学習の不安定を解決するため、コスト関数演算部２００が算出する正則化項を、式（１０）のように、ニューラルネットワーク中のニューロンモデル部１２１の発火時刻に関する正則化項「αＰ（ｔ（Ｍ） １，ｔ（Ｍ） ２，・・・ｔ（Ｍ） Ｎ（Ｍ），ｔ（Ｍ－１） １，ｔ（Ｍ－１） ２，・・・，ｔ（Ｍ－１） Ｎ（Ｍ－１），・・・）」で定義する。
そこで、学習の不安定を解決するため、コスト関数演算部２００が算出する正則化項を、式（１０）のように、ニューラルネットワーク中のニューロンモデル部１２１の発火時刻に関する正則化項「αＰ（ｔ（Ｍ） １，ｔ（Ｍ） ２，・・・ｔ（Ｍ） Ｎ（Ｍ），ｔ（Ｍ－１） １，ｔ（Ｍ－１） ２，・・・，ｔ（Ｍ－１） Ｎ（Ｍ－１），・・・）」で定義する。
【0074】
【数10】
【0075】
ここでαは、正則化項の影響の度合いを調整するため（具体的には、損失関数と正則化項との重み付き和を求めるため）の係数であり、正の実数定数とすることができる。上記のように、ｔ（Ｍ）
ｉは、第Ｍ層（出力層）の第ｉ番目のニューロンの発火時刻を示す。Ｎ（ｌ）は、第ｌ層を構成しているニューロンの個数を示す。Ｐは、ニューロンの発火時刻の関数である。
【0076】
正則化項「αＰ（ｔ（Ｍ）
１，ｔ（Ｍ）
２，・・・ｔ（Ｍ）
Ｎ（Ｍ），ｔ（Ｍ－１）
１，ｔ（Ｍ－１）
２，・・・，ｔ（Ｍ－１）
Ｎ（Ｍ－１），・・・）」を、正則化項Ｐとも称する。この正則化項Ｐは、教師データに陽に依存しない特徴がある。
式（１０）に示されるように、正則化項Ｐで発火時刻を参照するニューロンモデル部１２１は、出力層のニューロンモデル部１２１に限定されず、任意のニューロンモデル部１２１とすることができる。
式（１０）に示されるように、正則化項Ｐで発火時刻を参照するニューロンモデル部１２１は、出力層のニューロンモデル部１２１に限定されず、任意のニューロンモデル部１２１とすることができる。
【0077】
（実施形態に係る学習の効果）
上述したように、分類問題において、ソフトマックス関数による損失関数を用いる点で、ニューラルネットワークシステム１の学習が高速になる。加えて、ニューラルネットワーク中のニューロンモデル部１２１の発火時刻に関する正則化項Ｐをコスト関数に加えることで、学習が安定化する。
上述したように、分類問題において、ソフトマックス関数による損失関数を用いる点で、ニューラルネットワークシステム１の学習が高速になる。加えて、ニューラルネットワーク中のニューロンモデル部１２１の発火時刻に関する正則化項Ｐをコスト関数に加えることで、学習が安定化する。
【0078】
（実施形態に係るニューラルネットワーク装置のコスト関数のペナルティ項の具体例について）
上記正則化項Ｐに用いる関数Ｐの一例として、出力層ニューロンの発火時刻を用いて式（１１）のように定義することができる。
上記正則化項Ｐに用いる関数Ｐの一例として、出力層ニューロンの発火時刻を用いて式（１１）のように定義することができる。
【0079】
【数11】
【0080】
ここで、ｔ（ｒｅｆ）は参照時刻とよばれる定数である。
【0081】
（実施形態に係る学習の効果）
上述したように、分類問題において、ソフトマックス関数による損失関数を用いることで学習が高速になる。また、出力層ニューロンの発火時刻に対して式（１１）に示される正則化を課すことで、学習が安定化する。
上述したように、分類問題において、ソフトマックス関数による損失関数を用いることで学習が高速になる。また、出力層ニューロンの発火時刻に対して式（１１）に示される正則化を課すことで、学習が安定化する。
【0082】
（シミュレーション例）
著名なベンチマークタスクであるＭＮＩＳＴを用いて、順伝搬型スパイキングニューラルネットワークによる分類タスクのシミュレーションを行った。なお、ニューラルネットワーク装置１００がリカレントスパイキングニューラルネットワークとして構成されている場合も、同様の分類タスクを実行可能である。
シミュレーションでは、ニューラルネットワークの構成は三層（入力層、隠れ層、及び出力層）とした。また、ニューロンモデル部１２１として式（１２）のような積分発火型のスパイキングニューロンを用いた。
著名なベンチマークタスクであるＭＮＩＳＴを用いて、順伝搬型スパイキングニューラルネットワークによる分類タスクのシミュレーションを行った。なお、ニューラルネットワーク装置１００がリカレントスパイキングニューラルネットワークとして構成されている場合も、同様の分類タスクを実行可能である。
シミュレーションでは、ニューラルネットワークの構成は三層（入力層、隠れ層、及び出力層）とした。また、ニューロンモデル部１２１として式（１２）のような積分発火型のスパイキングニューロンを用いた。
【0083】
【数12】
【0084】
上述したように、ｔは時刻を示す。ｖ（ｌ）
ｉは、第ｌ層のｉ番目のスパイキングニューロンモデルにおける膜電位を示す。ここでの第ｌ層は、出力層に限定されない。隠れ層および出力層（第２層およびそれ以降）の各スパイキングニューロンモデルに、式（１２）が当てはまる。ｗ（ｌ）
ｉｊは、第ｌ－１層のｊ番目のスパイキングニューロンモデルから第ｌ層のｉ番目のスパイキングニューロンモデルへの結合の重みを表す。
θはステップ関数であり、式（１３）のように示される。
θはステップ関数であり、式（１３）のように示される。
【0085】
【数13】
【0086】
また、ニューラルネットワークの二乗誤差関数による損失関数を用いたコスト関数を、式（１４）のように定義した。
【0087】
【数14】
【0088】
上述したように、ｔ（Ｍ）
ｉは、出力層（第Ｍ層）のｉ番目のニューロンのスパイク発生時刻を示す。ｔ（Ｔ）
ｉは、出力層（第Ｍ層）のｉ番目のニューロンの、教師スパイクの発生時刻（正解として与えられるスパイク発生時刻)を示す。
また、ソフトマックス関数によるコスト関数を、式（１５）のように定義した。
また、ソフトマックス関数によるコスト関数を、式（１５）のように定義した。
【0089】
【数15】
【0090】
ＬＳＯＦＴは、式（１６）のように示される。
【0091】
【数16】
【0092】
左側の式の「Ｓｉ」は、ソフトマックス関数であり、右側の式のように示される。なお、右側の式では、左側の式の「ｉ」を「ｍ」に置き換えて「Ｓｍ」等と表記している。右辺の分母で用いる「ｉ」と区別するためである。
式（１５）のＰは、式（１７）のように示される。
式（１５）のＰは、式（１７）のように示される。
【0093】
【数17】
【0094】
上記のように、ＣＭＳＥ（式（１４）参照）は二乗誤差による損失関数であり、ＣＳＯＦＴ（式（１５）参照）はソフトマックス関数の対数尤度と正則化項Ｐとの重み付き和によるコスト関数である。以下のように、ＣＭＳＥ、ＣＳＯＦＴのそれぞれについて、そのコスト関数を用いた場合の学習のシミュレーションを行った。
出力層の重みによる微分はチェインルールにより式（１８）のように計算できる。
出力層の重みによる微分はチェインルールにより式（１８）のように計算できる。
【0095】
【数18】
【0096】
ここで、「∂Ｃ／∂ｔ（Ｍ）
ｉ」に関しては、二乗誤差関数を用いたＣＭＳＥの場合は、式（１９）のように計算できる。
【0097】
【数19】
【0098】
また、ソフトマックス関数を用いたＣＳＯＦＴの場合は、式（２０）のように展開できる。
【0099】
【数20】
【0100】
式（２０）の右辺の「∂Ｐ／∂ｔ（Ｍ）
ｉ」は、式（２１）のように計算できる。
【0101】
【数21】
【0102】
式（２０）の右辺の「∂Ｓｍ／∂ｔ（Ｍ）
ｉ」は、式（２２）のように計算できる。
【0103】
【数22】
【0104】
式（２０）の右辺の「∂ＬＳＯＦＴ／∂Ｓｍ」は、式（２３）のように示される。
【0105】
【数23】
【0106】
また、式（１８）の「∂ｔ（Ｍ）
ｉ／∂ｗ（Ｍ）
ｉｊ」は、式（２４）のように計算できる。
【0107】
【数24】
【0108】
以上により、出力層によるコスト関数の微分の計算が可能である。隠れ層の重みによる、損失関数の導関数の計算も同様に可能である。シミュレーションでは、学習は、確率的勾配降下法を用いて行った。
図５は、シミュレーションにおける学習の進行状況の例を示すグラフである。図５のグラフの横軸は学習エポック数を示す。縦軸は分類エラー率を示す。線Ｌ１１は、二乗誤差関数によるコスト関数（上記のＣＭＳＥ）を用いた場合の結果を示す。線Ｌ１２は、ソフトマックス関数を用いた損失関数と正則化項Ｐとの和によるコスト関数（上記のＣＳＯＦＴ）を用いた場合の結果を示す。
ソフトマックス関数を用いた損失関数と正則化項Ｐとの和によるコスト関数（ＣＳＯＦＴ）を用いた場合、二乗誤差関数による損失関数によるコスト関数（ＣＭＳＥ）を用いた場合よりも、少ない学習エポック数で分類エラー率が減少している。このことから、ソフトマックス関数を用いた損失関数と正則化項Ｐとの和によるコスト関数（ＣＳＯＦＴ）を用いた場合の方が、学習が速くなっていることがわかる。
図５は、シミュレーションにおける学習の進行状況の例を示すグラフである。図５のグラフの横軸は学習エポック数を示す。縦軸は分類エラー率を示す。線Ｌ１１は、二乗誤差関数によるコスト関数（上記のＣＭＳＥ）を用いた場合の結果を示す。線Ｌ１２は、ソフトマックス関数を用いた損失関数と正則化項Ｐとの和によるコスト関数（上記のＣＳＯＦＴ）を用いた場合の結果を示す。
ソフトマックス関数を用いた損失関数と正則化項Ｐとの和によるコスト関数（ＣＳＯＦＴ）を用いた場合、二乗誤差関数による損失関数によるコスト関数（ＣＭＳＥ）を用いた場合よりも、少ない学習エポック数で分類エラー率が減少している。このことから、ソフトマックス関数を用いた損失関数と正則化項Ｐとの和によるコスト関数（ＣＳＯＦＴ）を用いた場合の方が、学習が速くなっていることがわかる。
【0109】
以上のように、ニューラルネットワーク装置１００のスパイキングニューラルネットワークは、時間方式のスパイキングニューラルネットワークである。学習処理部３００は、スパイキングニューラルネットワークの学習を、スパイキングニューラルネットワーク内のニューロンの発火時刻に関する正則化項を含むコスト関数（式（１０）参照）を用いた教師あり学習にて行わせる。
具体的には、学習処理部３００が、コスト関数演算部２００が算出するコスト関数値に基づいて、ニューラルネットワーク装置１００のスパイキングニューラルネットワークの重みを更新する。
具体的には、学習処理部３００が、コスト関数演算部２００が算出するコスト関数値に基づいて、ニューラルネットワーク装置１００のスパイキングニューラルネットワークの重みを更新する。
【0110】
これにより、ニューラルネットワークシステム１では、上述した式（８）の変換に対する、ｔ領域でのソフトマックス関数の不変性による学習の不安定性、および、上述した式（９）の変換に対する、ｚ領域でのソフトマックス関数の不変性による学習の不安定性を解消または低減することができる。
ニューラルネットワークシステム１によればこの点で、ニューラルネットワーク装置１００のニューラルネットワーク（時間方式のスパイキングニューラルネットワーク）の学習をより安定的に行える。
ニューラルネットワークシステム１によればこの点で、ニューラルネットワーク装置１００のニューラルネットワーク（時間方式のスパイキングニューラルネットワーク）の学習をより安定的に行える。
【0111】
また、学習処理部３００は、ニューラルネットワーク装置１００に対して、出力スパイクの時刻情報に負の係数を乗算し指数関数に入力した時刻指標値を、出力層の全てのニューロンにおける時刻指標値の合計で除算して得られるソフトマックス関数の負の対数尤度を用いた損失関数と、上記の正則化項とを含むコスト関数を用いた上記の学習を行わせる。
【0112】
式（７）の例では、「ｔ（Ｍ）
ｍ」が出力スパイクの時刻情報の例に該当し、「－ａ」が負の係数の例に該当する。また、「ｅｘｐ（－ａｔ（Ｍ）
ｍ）」が時刻指標値の例に該当し、「Σｉｅｘｐ（－ａｔ（Ｍ）
ｉ）」が出力層の全てのニューロンにおける時刻指標値の合計の例に該当する。また、ソフトマックス関数Ｓｍの値を出力層の全てのニューロンモデル部１２１について合計すると１になる点で、ソフトマックス関数Ｓｍは確率分布の例に該当する。
【0113】
このように、ニューラルネットワークシステム１では、ソフトマックス関数の負の対数尤度による損失関数を用いる点で、ニューラルネットワーク装置１００のニューラルネットワークの学習をより高速に行うことができる。
さらに、このコスト関数について、ｔ領域でのソフトマックス関数を用いる点で、ｚ領域でのソフトマックス関数を用いる場合よりも、計算量が少なくて済む。ニューラルネットワークシステム１では、この点で、ニューラルネットワーク装置１００のニューラルネットワークの学習をより高速に行うことができる。
さらに、このコスト関数について、ｔ領域でのソフトマックス関数を用いる点で、ｚ領域でのソフトマックス関数を用いる場合よりも、計算量が少なくて済む。ニューラルネットワークシステム１では、この点で、ニューラルネットワーク装置１００のニューラルネットワークの学習をより高速に行うことができる。
【0114】
学習処理部３００の処理をソフトウェア的に実行する場合、コスト関数が比較的簡単な関数形となることで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済む。また、学習処理部３００の処理をハードウェア的に実行する場合、コスト関数が比較的簡単な関数形となることで、処理負荷が比較的軽くて済み、処理時間が比較的短くて済み、消費電力が比較的小さくて済むことに加えて、ハードウェアの回路面積が比較的小さくて済む。
このように、ニューラルネットワークシステム１では、ニューラルネットワーク装置１００のニューラルネットワークの学習をより高速に行うことができ、かつ、学習をより安定なものにすることができる。
このように、ニューラルネットワークシステム１では、ニューラルネットワーク装置１００のニューラルネットワークの学習をより高速に行うことができ、かつ、学習をより安定なものにすることができる。
【0115】
また、学習処理部３００は、出力スパイクの時刻情報と、定数である参照時刻との差分に基づく正則化項を用いた学習を行わせる。上記の式（１１）および式（１７）が、出力スパイクの時刻情報（出力層ニューロンの発火時刻ｔ（Ｍ）
ｉ）と、定数である参照時刻（ｔ（ｒｅｆ））との差分に基づく正則化項の例に該当する。
ニューラルネットワーク装置１００では、時刻情報の差分を算出するという比較的簡単な計算に基づいて、上述した、学習をより安定なものにすることができる、という効果を得られる。計算が簡単であることで、上述した、学習をより高速に行うことができる、という効果を確保できる（すなわち、かかる効果が阻害されない）。
ニューラルネットワーク装置１００では、時刻情報の差分を算出するという比較的簡単な計算に基づいて、上述した、学習をより安定なものにすることができる、という効果を得られる。計算が簡単であることで、上述した、学習をより高速に行うことができる、という効果を確保できる（すなわち、かかる効果が阻害されない）。
【0116】
また、学習処理部３００は、出力スパイクの時刻情報と、定数である参照時刻との差分の二乗誤差に基づく正則化項を用いた学習を行わせる。式（１７）が、出力スパイクの時刻情報と、定数である参照時刻との差分の二乗誤差に基づく正則化項の例に該当する。
ニューラルネットワーク装置１００では、時刻情報の差分の二乗誤差を算出するという比較的簡単な計算に基づいて、上述した、学習をより安定なものにすることができる、という効果を得られる。計算が簡単であることで、上述した、学習をより高速に行うことができる、という効果を確保できる（すなわち、かかる効果が阻害されない）。
ニューラルネットワーク装置１００では、時刻情報の差分の二乗誤差を算出するという比較的簡単な計算に基づいて、上述した、学習をより安定なものにすることができる、という効果を得られる。計算が簡単であることで、上述した、学習をより高速に行うことができる、という効果を確保できる（すなわち、かかる効果が阻害されない）。
【0117】
また、ニューラルネットワークシステム１では、ニューロンモデル部１２１が時間方式による点で、頻度方式による場合よりも消費電力が少なくて済む。
【0118】
次に、図６～図８を参照して、本発明の実施形態の構成について説明する。
図６は、実施形態に係るニューラルネットワークシステムの構成例を示す図である。図６に示すニューラルネットワークシステム１０は、スパイキングニューラルネットワーク１１と、学習処理部１２とを備える。
かかる構成にて、スパイキングニューラルネットワーク１１は、時間方式のスパイキングニューラルネットワークである。学習処理部１２は、スパイキングニューラルネットワーク１１の学習を、スパイキングニューラルネットワーク１１内のニューロンの発火時刻に関する正則化項を含むコスト関数を用いた教師あり学習にて行わせる。
図６は、実施形態に係るニューラルネットワークシステムの構成例を示す図である。図６に示すニューラルネットワークシステム１０は、スパイキングニューラルネットワーク１１と、学習処理部１２とを備える。
かかる構成にて、スパイキングニューラルネットワーク１１は、時間方式のスパイキングニューラルネットワークである。学習処理部１２は、スパイキングニューラルネットワーク１１の学習を、スパイキングニューラルネットワーク１１内のニューロンの発火時刻に関する正則化項を含むコスト関数を用いた教師あり学習にて行わせる。
【0119】
これにより、ニューラルネットワークシステム１０では、ソフトマックス関数に定数を加算する変換に対するソフトマックス関数の不変性による学習の不安定性を解消または低減することができる。
ニューラルネットワークシステム１０によればこの点で、時間方式のスパイキングニューラルネットワークの学習をより安定的に行える。
ニューラルネットワークシステム１０によればこの点で、時間方式のスパイキングニューラルネットワークの学習をより安定的に行える。
【0120】
図７は、実施形態に係る学習処理装置を示す図である。
図７に示す学習処理装置２０は、学習処理部２１を備える。
かかる構成にて、学習処理部２１は、時間方式のスパイキングニューラルネットワークの学習を、スパイキングニューラルネットワーク内のニューロンの発火時刻に関する正則化項を用いたコスト関数を用いた教師あり学習にて行わせる。
図７に示す学習処理装置２０は、学習処理部２１を備える。
かかる構成にて、学習処理部２１は、時間方式のスパイキングニューラルネットワークの学習を、スパイキングニューラルネットワーク内のニューロンの発火時刻に関する正則化項を用いたコスト関数を用いた教師あり学習にて行わせる。
【0121】
学習処理装置２０によれば、出力層の全てのニューロンにおいて一律に、発火時刻に同じ値を加算する変換に対する、ソフトマックス関数の不変性による学習の不安定性を解消または低減することができる。
学習処理装置２０によればこの点で、時間方式のスパイキングニューラルネットワークの学習をより安定的に行える。
学習処理装置２０によればこの点で、時間方式のスパイキングニューラルネットワークの学習をより安定的に行える。
【0122】
図８は、実施形態に係る学習処理方法における処理工程の例を示す図である。
図８に示す処理で、学習処理方法は、学習処理工程（ステップＳ１１）を含む。学習処理工程（ステップＳ１１）では、時間方式のスパイキングニューラルネットワークの学習を、スパイキングニューラルネットワーク内のニューロンの発火時刻に関する正則化項を用いたコスト関数を用いた教師あり学習にて行う。
図８に示す処理で、学習処理方法は、学習処理工程（ステップＳ１１）を含む。学習処理工程（ステップＳ１１）では、時間方式のスパイキングニューラルネットワークの学習を、スパイキングニューラルネットワーク内のニューロンの発火時刻に関する正則化項を用いたコスト関数を用いた教師あり学習にて行う。
【0123】
この学習処理方法によれば、出力層の全てのニューロンにおいて一律に、発火時刻に同じ値を加算する変換に対する、ソフトマックス関数の不変性による学習の不安定性を解消または低減することができる。
この学習処理方法によればこの点で、時間方式のスパイキングニューラルネットワークの学習をより安定的に行える。
この学習処理方法によればこの点で、時間方式のスパイキングニューラルネットワークの学習をより安定的に行える。
【0124】
ニューラルネットワークシステム１の全部または一部、ニューラルネットワークシステム１０の全部または一部、あるいは、学習処理装置２０の全部または一部が、専用ハードウェアに実装されていてもよい。
図９は、少なくとも１つの実施形態に係る専用ハードウェアの構成例を示す概略ブロック図である。図９に示す構成で、専用ハードウェア５００は、ＣＰＵ５１０と、主記憶装置５２０と、補助記憶装置５３０と、インタフェース５４０とを備える。
図９は、少なくとも１つの実施形態に係る専用ハードウェアの構成例を示す概略ブロック図である。図９に示す構成で、専用ハードウェア５００は、ＣＰＵ５１０と、主記憶装置５２０と、補助記憶装置５３０と、インタフェース５４０とを備える。
【0125】
上述のニューラルネットワークシステム１が専用ハードウェア５００に実装される場合、上述した各処理部（ニューラルネットワーク装置１００、ニューロンモデル部１２１、伝達処理部１２２、コスト関数演算部２００、学習処理部３００）の動作は、プログラム、もしくは回路の形式で専用ハードウェア５００に記憶されている。ＣＰＵ５１０は、補助記憶装置５３０からプログラムを読み出して主記憶装置５２０に展開し、展開したプログラムに従って各処理部の処理を実行する。また、ＣＰＵ５１０は、プログラムに従って、各種データを記憶するための記憶領域を主記憶装置５２０に確保する。ニューラルネットワークシステム１に対するデータの入出力は、ＣＰＵ５１０がプログラムに従ってインタフェース５４０を制御することで実行される。
【0126】
上述のニューラルネットワークシステム１０が専用ハードウェア５００に実装される場合、上述した各処理部（スパイキングニューラルネットワーク１１、学習処理部１２）の動作は、プログラムの形式で補助記憶装置５３０に記憶されている。ＣＰＵ５１０は、補助記憶装置５３０からプログラムを読み出して主記憶装置５２０に展開し、展開したプログラムに従って各処理部の処理を実行する。また、ＣＰＵ５１０は、プログラムに従って、各種データを記憶するための記憶領域を主記憶装置５２０に確保する。ニューラルネットワークシステム１０に対するデータの入出力は、ＣＰＵ５１０がプログラムに従ってインタフェース５４０を制御することで実行される。
【0127】
上述の学習処理装置２０が専用ハードウェア５００に実装される場合、上述した学習処理装置２０の動作は、プログラムの形式で補助記憶装置５３０に記憶されている。ＣＰＵ５１０は、補助記憶装置５３０からプログラムを読み出して主記憶装置５２０展開し、展開したプログラムに従って各処理部の処理を実行する。また、ＣＰＵ５１０は、プログラムに従って、各種データを記憶するための記憶領域を主記憶装置５２０に確保する。ニューラルネットワークシステム１０に対するデータの入出力は、ＣＰＵ５１０がプログラムに従ってインタフェース５４０を制御することで実行される。
【0128】
専用ハードウェア５００に加えて、あるいは代えて、パソコン（Personal Computer；ＰＣ）を用いるようにしてもよく、この場合の処理も、上述した専用ハードウェア５００の場合の処理と同様である。
【0129】
ニューラルネットワークシステム１の全部または一部、ニューラルネットワークシステム１０の全部または一部、あるいは、学習処理装置２０の全部または一部が、ＡＳＩＣ（Application Specific Integrated Circuit）に実装されていてもよい。
図１０は、少なくとも１つの実施形態に係るＡＳＩＣの構成例を示す概略ブロック図である。図１０に示す構成で、ＡＳＩＣ６００は、演算部６１０と、記憶装置６２０と、インタフェース６３０とを備える。また、演算部６１０と記憶装置６２０とは統一されていても（すなわち、一体的に構成されていても）よい。
図１０は、少なくとも１つの実施形態に係るＡＳＩＣの構成例を示す概略ブロック図である。図１０に示す構成で、ＡＳＩＣ６００は、演算部６１０と、記憶装置６２０と、インタフェース６３０とを備える。また、演算部６１０と記憶装置６２０とは統一されていても（すなわち、一体的に構成されていても）よい。
【0130】
ニューラルネットワークシステム１の全部または一部、ニューラルネットワークシステム１０の全部または一部、あるいは、学習処理装置２０の全部または一部が実装されたＡＳＩＣは、ＣＭＯＳなどの電子回路により、その演算を実行する。各々の電子回路が、それぞれ独立に層内のニューロンを実装してもよいし、層内の複数のニューロンを実装してもよい。また、同様に、ニューロンを演算する回路が、それぞれ、ある層の演算のみに用いられてもよいし、複数の層の演算に用いられてもよい。
【0131】
また、ニューラルネットワークがリカレントニューラルネットワークである場合、ニューロンモデルが階層化されていなくてもよい。この場合、全てのニューロンモデルが常時、何れかの電子回路に実装されていてもよい。あるいは、ニューロンモデルが電子回路に時分割処理で割り当てられるなど、ニューロンモデルが動的に電子回路に実装されるようにしてもよい。
【0132】
なお、ニューラルネットワークシステム１、ニューラルネットワークシステム１０、および、学習処理装置２０の機能の全部または一部実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各部の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳ（Operating System）や周辺機器等のハードウェアを含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ（Read Only Memory）、ＣＤ－ＲＯＭ（Compact Disc Read Only Memory）等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ（Read Only Memory）、ＣＤ－ＲＯＭ（Compact Disc Read Only Memory）等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
【0133】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【0134】
この出願は、２０１９年５月３０日に出願された日本国特願２０１９－１０１５３１を基礎とする優先権を主張し、その開示の全てをここに取り込む。
【産業上の利用可能性】
【0135】
本発明は、スパイキングニューラルネットワークシステム、学習処理装置、学習処理方法および記録媒体に適用してもよい。
【符号の説明】
【0136】
１、１０ ニューラルネットワークシステム
１１ スパイキングニューラルネットワーク
１２、３００ 学習処理部（学習処理手段）
２０ 学習処理装置
１００ ニューラルネットワーク装置
１２１ ニューロンモデル部（ニューロンモデル手段）
１２２ 伝達処理部（伝達処理手段）
２００ コスト関数演算部（コスト関数演算手段）
１１ スパイキングニューラルネットワーク
１２、３００ 学習処理部（学習処理手段）
２０ 学習処理装置
１００ ニューラルネットワーク装置
１２１ ニューロンモデル部（ニューロンモデル手段）
１２２ 伝達処理部（伝達処理手段）
２００ コスト関数演算部（コスト関数演算手段）
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】