知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023092521
(43)【公開日】2023-07-03
(54)【発明の名称】改良されたスパイキングニューラルネットワーク
(51)【国際特許分類】
G06N 3/049 20230101AFI20230626BHJP
G06N 3/063 20230101ALI20230626BHJP
【ＦＩ】
G06N3/049
G06N3/063
【審査請求】未請求
【請求項の数】19
【出願形態】ＯＬ
【外国語出願】
(21)【出願番号】P 2022203844
(22)【出願日】2022-12-21
(31)【優先権主張番号】2021904165
(32)【優先日】2021-12-21
(33)【優先権主張国・地域又は機関】AU
(71)【出願人】
【識別番号】521190303
【氏名又は名称】ブレインチップ，インコーポレイテッド
(74)【代理人】
【識別番号】100079108
【弁理士】
【氏名又は名称】稲葉 良幸
(74)【代理人】
【識別番号】100109346
【弁理士】
【氏名又は名称】大貫 敏史
(74)【代理人】
【識別番号】100117189
【弁理士】
【氏名又は名称】江口 昭彦
(74)【代理人】
【識別番号】100134120
【弁理士】
【氏名又は名称】内藤 和彦
(72)【発明者】
【氏名】マクレランド，ダグラス
(72)【発明者】
【氏名】ジョンソン，キース ウィリアム
(72)【発明者】
【氏名】カールソン，クリストフォー ディー．
(72)【発明者】
【氏名】ジョシ，ミリンド
(57)【要約】 （修正有）
【課題】入力データセットから特徴を学習し、教師なし、半教師あり及び教師あり抽出を実行するスパイキングニューラルネットワークシステム、方法及びコンピュータプログラムを提供する。
【解決手段】方法は、一次トレーニングデータセットを使用してトレーニングされる、Ｎ個の層及び複数のスパイキングニューロンを有するベースニューラルネットワークを変更するための変更要求を受信することで動作し、ベースニューラルネットワークは、ベースニューラルネットワークのＮ番目又はＮ＋１番目の層の中に補足的スパイキングニューロンを含むように変更し、該ニューロンを選択するために、二次トレーニングデータセットを受信し、それに基づいて特徴を学習する前記補足的スパイキングニューロンの膜電位値を決定し、ウィニングスパイキングニューロンに基づいて、変更済みニューラルネットワークの学習関数を実行する。
【選択図】図８ｉ
【解決手段】方法は、一次トレーニングデータセットを使用してトレーニングされる、Ｎ個の層及び複数のスパイキングニューロンを有するベースニューラルネットワークを変更するための変更要求を受信することで動作し、ベースニューラルネットワークは、ベースニューラルネットワークのＮ番目又はＮ＋１番目の層の中に補足的スパイキングニューロンを含むように変更し、該ニューロンを選択するために、二次トレーニングデータセットを受信し、それに基づいて特徴を学習する前記補足的スパイキングニューロンの膜電位値を決定し、ウィニングスパイキングニューロンに基づいて、変更済みニューラルネットワークの学習関数を実行する。
【選択図】図８ｉ
【特許請求の範囲】
【請求項1】
変更済みニューラルネットワークを実装するために、Ｎ個の層及び複数のスパイキングニューロンを有するベースニューラルネットワークを変更するための変更要求を受信するように構成されるニューラルプロセッサを含むシステムであって、前記ベースニューラルネットワークの前記変更は、前記変更済みニューラルネットワークが前記ベースニューラルネットワークのＮ番目又はＮ＋１番目の層の中に１つ又は複数の補足的スパイキングニューロンを含むように行われ、前記ベースニューラルネットワークは一次トレーニングデータセットから生成される複数のスパイクを使用してトレーニングされ、
前記ニューラルプロセッサは、前記変更済みニューラルネットワークをトレーニングするために、
二次トレーニングデータセットから生成される複数のスパイク及び前記二次トレーニングデータセットに関係する１つ又は複数の特徴を学習する前記１つ又は複数の補足的スパイキングニューロンに関するユーザ入力を受信することであって、前記二次トレーニングデータセットは前記一次トレーニングデータセットと異なる、受信すること、
前記Ｎ番目又はＮ＋１番目の層の中の１つ又は複数の補足的スパイキングニューロンの膜電位値を決定すること、
前記Ｎ番目又はＮ＋１番目の層の中の少なくとも１つのスパイキングニューロンに関する前記膜電位値を考慮せずに、前記１つ又は複数の補足的スパイキングニューロンからウィニングスパイキングニューロンとして補足的スパイキングニューロンを選択すること、及び
前記ウィニングスパイキングニューロンに関連するシナプスのシナプス重み値の変更を行うことによって前記変更済みニューラルネットワークの学習関数を実行すること
を行うように構成される、
システム。
前記ニューラルプロセッサは、前記変更済みニューラルネットワークをトレーニングするために、
二次トレーニングデータセットから生成される複数のスパイク及び前記二次トレーニングデータセットに関係する１つ又は複数の特徴を学習する前記１つ又は複数の補足的スパイキングニューロンに関するユーザ入力を受信することであって、前記二次トレーニングデータセットは前記一次トレーニングデータセットと異なる、受信すること、
前記Ｎ番目又はＮ＋１番目の層の中の１つ又は複数の補足的スパイキングニューロンの膜電位値を決定すること、
前記Ｎ番目又はＮ＋１番目の層の中の少なくとも１つのスパイキングニューロンに関する前記膜電位値を考慮せずに、前記１つ又は複数の補足的スパイキングニューロンからウィニングスパイキングニューロンとして補足的スパイキングニューロンを選択すること、及び
前記ウィニングスパイキングニューロンに関連するシナプスのシナプス重み値の変更を行うことによって前記変更済みニューラルネットワークの学習関数を実行すること
を行うように構成される、
システム。
【請求項2】
前記複数のスパイク及びニューラルネットワーク構成に基づくタスクを実行するための、前記Ｎ個の層を有する前記ベースニューラルネットワークを実装するように構成される前記複数のスパイキングニューロンを含む前記ニューラルプロセッサを含む神経線維であって、前記Ｎの値は少なくとも２である、神経線維と、
前記ニューラルネットワーク構成を含むメモリであって、前記ニューラルネットワーク構成は電位アレイ及び複数のシナプスを含み、前記ニューラルネットワーク構成は前記複数のスパイキングニューロンと前記複数のシナプスとの間の接続を定め、前記電位アレイは前記複数のスパイキングニューロンの膜電位値を含み、前記複数のシナプスは対応するシナプス重みを有する、メモリと、
前記変更済みニューラルネットワークを実装するために、前記ニューラルネットワーク構成を変更し、前記ニューラルプロセッサに前記変更要求を送信するように構成される補足的プロセッサと
を更に含む、請求項１に記載のシステム。
前記ニューラルネットワーク構成を含むメモリであって、前記ニューラルネットワーク構成は電位アレイ及び複数のシナプスを含み、前記ニューラルネットワーク構成は前記複数のスパイキングニューロンと前記複数のシナプスとの間の接続を定め、前記電位アレイは前記複数のスパイキングニューロンの膜電位値を含み、前記複数のシナプスは対応するシナプス重みを有する、メモリと、
前記変更済みニューラルネットワークを実装するために、前記ニューラルネットワーク構成を変更し、前記ニューラルプロセッサに前記変更要求を送信するように構成される補足的プロセッサと
を更に含む、請求項１に記載のシステム。
【請求項3】
前記ベースニューラルネットワークの層の学習関数が、前記層内のスパイキングニューロンそれぞれの前記膜電位値を考慮しながら実行される、請求項１に記載のシステム。
【請求項4】
前記ニューラルプロセッサが、前記層内の前記１つ又は複数のスパイキングニューロンの前記膜電位値を考慮しながら、ウィニングスパイキングニューロンとして前記１つ又は複数のスパイキングニューロンから前記補足的スパイキングニューロンを選択する、請求項１乃至３の何れか一項に記載のシステム。
【請求項5】
前記ニューラルプロセッサが、
前記二次トレーニングデータセットが関係するクラス情報に関するユーザ入力、及び
１つ又は複数の補足的スパイキングニューロン情報に関するユーザ入力
の少なくとも１つの受信時に、前記ウィニングスパイキングニューロンを決定するとき前記層内の１つ又は複数のスパイキングニューロンの前記膜電位値を考慮しない、
請求項１乃至４の何れか一項に記載のシステム。
前記二次トレーニングデータセットが関係するクラス情報に関するユーザ入力、及び
１つ又は複数の補足的スパイキングニューロン情報に関するユーザ入力
の少なくとも１つの受信時に、前記ウィニングスパイキングニューロンを決定するとき前記層内の１つ又は複数のスパイキングニューロンの前記膜電位値を考慮しない、
請求項１乃至４の何れか一項に記載のシステム。
【請求項6】
前記補足的スパイキングニューロンの数が２つ以上であり、
前記補足的スパイキングニューロンの前記２つ以上に関する前記膜電位値の中で最も高い値である膜電位値を有する前記ウィニングスパイキングニューロンが選択され、
前記２つ以上の補足的スパイキングニューロンの前記補足的スパイキングニューロンの少なくとも２つが同じクラスに属する、
請求項１乃至５の何れか一項に記載のシステム。
前記補足的スパイキングニューロンの前記２つ以上に関する前記膜電位値の中で最も高い値である膜電位値を有する前記ウィニングスパイキングニューロンが選択され、
前記２つ以上の補足的スパイキングニューロンの前記補足的スパイキングニューロンの少なくとも２つが同じクラスに属する、
請求項１乃至５の何れか一項に記載のシステム。
【請求項7】
前記補足的スパイキングニューロンの数が２つ以上であり、
前記補足的スパイキングニューロンの前記２つ以上の前記膜電位値の中で最も高い値である膜電位値を有し、対応する学習閾値にその膜電位値が達した前記ウィニングスパイキングニューロンが選択される、
請求項１乃至６の何れか一項に記載のシステム。
前記補足的スパイキングニューロンの前記２つ以上の前記膜電位値の中で最も高い値である膜電位値を有し、対応する学習閾値にその膜電位値が達した前記ウィニングスパイキングニューロンが選択される、
請求項１乃至６の何れか一項に記載のシステム。
【請求項8】
前記ニューラルプロセッサが、前記ベースニューラルネットワークの１つ又は複数の層をトレーニングするために、
前記一次トレーニングデータセットから生成される前記複数のスパイクを受信し、
前記層内の前記スパイキングニューロンそれぞれの前記膜電位値を考慮しながら、ウィニングスパイキングニューロンとして前記ベースニューラルネットワークの前記層内のスパイキングニューロンを選択し、
前記ベースニューラルネットワークの前記層の前記ウィニングスパイキングニューロンに関連するシナプスの前記シナプス重み値の変更を行うことによって学習関数を実行する
ように構成される、請求項１乃至７の何れか一項に記載のシステム。
前記一次トレーニングデータセットから生成される前記複数のスパイクを受信し、
前記層内の前記スパイキングニューロンそれぞれの前記膜電位値を考慮しながら、ウィニングスパイキングニューロンとして前記ベースニューラルネットワークの前記層内のスパイキングニューロンを選択し、
前記ベースニューラルネットワークの前記層の前記ウィニングスパイキングニューロンに関連するシナプスの前記シナプス重み値の変更を行うことによって学習関数を実行する
ように構成される、請求項１乃至７の何れか一項に記載のシステム。
【請求項9】
前記ウィニングスパイキングニューロンに関連する前記シナプスが複数のインデックス内に記憶され、各インデックスは１つ又は複数のシナプス重みビットを記憶し、前記１つ又は複数のシナプス重みビットのそれぞれはシナプス重み値を表す、請求項２に記載のシステム。
【請求項10】
Ｎ個の層を有するベースニューラルネットワークを実装することであって、前記Ｎの値は少なくとも２である、実装すること、
一次トレーニングデータセットから生成される複数のスパイクを使用して前記ベーススパイキングニューラルネットワークをトレーニングすること、
変更済みニューラルネットワークを実現するために前記ベースニューラルネットワークを変更するための変更要求を検出することに応答し、前記ベースニューラルネットワークのＮ番目又はＮ＋１番目の層の中に１つ又は複数の補足的スパイキングニューロンを含めることによって前記ベースニューラルネットワークを変更すること、及び
前記変更済みニューラルネットワークをトレーニングすることであって、
二次トレーニングデータセットから生成される複数のスパイク及び前記二次トレーニングデータセットに関係する１つ又は複数の特徴を学習する１つ又は複数の補足的スパイキングニューロン情報に関するユーザ入力を受信することであって、前記二次トレーニングデータセットは前記一次トレーニングデータセットと異なる、受信すること、
前記Ｎ番目又はＮ＋１番目の層の中の少なくとも１つのスパイキングニューロンの膜電位値を考慮せずに、前記変更済みニューラルネットワークの前記Ｎ番目又はＮ＋１番目の層の中の補足的スパイキングニューロンをウィニングスパイキングニューロンとして選択すること、及び
前記ウィニングスパイキングニューロンに関連するシナプスのシナプス重み値の変更を行うことによって前記変更済みニューラルネットワークの学習関数を実行すること
を行うことにより、トレーニングすること
を含む、方法。
一次トレーニングデータセットから生成される複数のスパイクを使用して前記ベーススパイキングニューラルネットワークをトレーニングすること、
変更済みニューラルネットワークを実現するために前記ベースニューラルネットワークを変更するための変更要求を検出することに応答し、前記ベースニューラルネットワークのＮ番目又はＮ＋１番目の層の中に１つ又は複数の補足的スパイキングニューロンを含めることによって前記ベースニューラルネットワークを変更すること、及び
前記変更済みニューラルネットワークをトレーニングすることであって、
二次トレーニングデータセットから生成される複数のスパイク及び前記二次トレーニングデータセットに関係する１つ又は複数の特徴を学習する１つ又は複数の補足的スパイキングニューロン情報に関するユーザ入力を受信することであって、前記二次トレーニングデータセットは前記一次トレーニングデータセットと異なる、受信すること、
前記Ｎ番目又はＮ＋１番目の層の中の少なくとも１つのスパイキングニューロンの膜電位値を考慮せずに、前記変更済みニューラルネットワークの前記Ｎ番目又はＮ＋１番目の層の中の補足的スパイキングニューロンをウィニングスパイキングニューロンとして選択すること、及び
前記ウィニングスパイキングニューロンに関連するシナプスのシナプス重み値の変更を行うことによって前記変更済みニューラルネットワークの学習関数を実行すること
を行うことにより、トレーニングすること
を含む、方法。
【請求項11】
前記ベースニューラルネットワークの層の学習関数が、前記層内のスパイキングニューロンそれぞれの前記膜電位値を考慮しながら実行される、請求項１０に記載の方法。
【請求項12】
前記層内の前記１つ又は複数のスパイキングニューロンの前記膜電位値を考慮しながら、ウィニングスパイキングニューロンとして前記１つ又は複数のスパイキングニューロンから前記補足的スパイキングニューロンを前記ニューラルプロセッサによって選択することを更に含む、請求項１０又は１１に記載の方法。
【請求項13】
前記変更済みニューラルネットワークをトレーニングする前記ステップが、
前記層内の１つ又は複数のスパイキングニューロンの前記膜電位値を無視することができるように、
前記二次トレーニングデータセットが関係するクラス情報、及び
１つ又は複数の補足的スパイキングニューロン情報に関するユーザ入力
の少なくとも１つを受信することを更に含む、請求項１０乃至１２の何れか一項に記載の方法。
前記層内の１つ又は複数のスパイキングニューロンの前記膜電位値を無視することができるように、
前記二次トレーニングデータセットが関係するクラス情報、及び
１つ又は複数の補足的スパイキングニューロン情報に関するユーザ入力
の少なくとも１つを受信することを更に含む、請求項１０乃至１２の何れか一項に記載の方法。
【請求項14】
前記補足的スパイキングニューロンの数が２つ以上であり、
前記補足的スパイキングニューロンの前記２つ以上に関する前記膜電位値の中で最も高い値である膜電位値を有する前記ウィニングスパイキングニューロンが選択され、
前記２つ以上の補足的スパイキングニューロンの前記補足的スパイキングニューロンの少なくとも２つが同じクラスに属する、
請求項１０乃至１３の何れか一項に記載の方法。
前記補足的スパイキングニューロンの前記２つ以上に関する前記膜電位値の中で最も高い値である膜電位値を有する前記ウィニングスパイキングニューロンが選択され、
前記２つ以上の補足的スパイキングニューロンの前記補足的スパイキングニューロンの少なくとも２つが同じクラスに属する、
請求項１０乃至１３の何れか一項に記載の方法。
【請求項15】
前記補足的スパイキングニューロンの数が２つ以上であり、
前記補足的スパイキングニューロンの前記２つ以上の前記膜電位値の中で最も高い値である膜電位値を有し、対応する学習閾値にその膜電位値が達した前記ウィニングスパイキングニューロンが選択される、
請求項１０乃至１４の何れか一項に記載の方法。
前記補足的スパイキングニューロンの前記２つ以上の前記膜電位値の中で最も高い値である膜電位値を有し、対応する学習閾値にその膜電位値が達した前記ウィニングスパイキングニューロンが選択される、
請求項１０乃至１４の何れか一項に記載の方法。
【請求項16】
前記ベースニューラルネットワークが、
前記一次トレーニングデータセットから生成される前記複数のスパイクを受信し、
前記層内の前記スパイキングニューロンそれぞれの前記膜電位値を考慮しながら、ウィニングスパイキングニューロンとして前記ベースニューラルネットワークの前記層内のスパイキングニューロンを選択し、
前記ベースニューラルネットワークの前記層の前記ウィニングスパイキングニューロンに関連するシナプスの前記シナプス重み値の変更を行うことによる学習関数
によってトレーニングされる、請求項１０乃至１５の何れか一項に記載の方法。
前記一次トレーニングデータセットから生成される前記複数のスパイクを受信し、
前記層内の前記スパイキングニューロンそれぞれの前記膜電位値を考慮しながら、ウィニングスパイキングニューロンとして前記ベースニューラルネットワークの前記層内のスパイキングニューロンを選択し、
前記ベースニューラルネットワークの前記層の前記ウィニングスパイキングニューロンに関連するシナプスの前記シナプス重み値の変更を行うことによる学習関数
によってトレーニングされる、請求項１０乃至１５の何れか一項に記載の方法。
【請求項17】
前記ウィニングスパイキングニューロンに関連する前記シナプスが複数のインデックス内に記憶され、各インデックスは１つ又は複数のシナプス重みビットを記憶し、前記１つ又は複数のシナプス重みビットのそれぞれはシナプス重み値を表す、請求項１０に記載の方法。
【請求項18】
スパイキングニューラルネットワークを含むシステムであって、前記スパイキングニューラルネットワークは前記スパイキングニューラルネットワークの最後の層の中に２つ以上のスパイキングニューロンを含み、前記２つ以上のスパイキングニューロンは同じクラスを表し、
ニューラルプロセッサが、前記スパイキングニューラルネットワークをトレーニングするために、
トレーニングデータセットから生成される複数のスパイク及び前記トレーニングデータセットに関係する特徴を学習する前記２つ以上のスパイキングニューロンに関するユーザ入力を受信すること、
前記２つ以上のスパイキングニューロンの膜電位値を決定すること、
前記最後の層の中の少なくとも１つのスパイキングニューロンに関する前記膜電位値を考慮せずに、前記２つ以上のスパイキングニューロンからウィニングスパイキングニューロンとしてスパイキングニューロンを選択すること、及び
前記ウィニングスパイキングニューロンに関連するシナプスのシナプス重み値の変更を行うことによって前記スパイキングニューラルネットワークの学習関数を実装すること
を行うように構成される、システム。
ニューラルプロセッサが、前記スパイキングニューラルネットワークをトレーニングするために、
トレーニングデータセットから生成される複数のスパイク及び前記トレーニングデータセットに関係する特徴を学習する前記２つ以上のスパイキングニューロンに関するユーザ入力を受信すること、
前記２つ以上のスパイキングニューロンの膜電位値を決定すること、
前記最後の層の中の少なくとも１つのスパイキングニューロンに関する前記膜電位値を考慮せずに、前記２つ以上のスパイキングニューロンからウィニングスパイキングニューロンとしてスパイキングニューロンを選択すること、及び
前記ウィニングスパイキングニューロンに関連するシナプスのシナプス重み値の変更を行うことによって前記スパイキングニューラルネットワークの学習関数を実装すること
を行うように構成される、システム。
【請求項19】
最後の層の中に２つ以上のスパイキングニューロンを含むスパイキングニューラルネットワークを実装することであって、前記２つ以上のスパイキングニューロンは同じクラスを表す、実装すること、
前記スパイキングニューラルネットワークをトレーニングすることであって、
トレーニングデータセットから生成される複数のスパイク及び前記トレーニングデータセットに関係する特徴を学習する前記２つ以上のスパイキングニューロンに関するユーザ入力を受信すること、
前記最後の層の中の少なくとも１つのスパイキングニューロンの膜電位値を考慮せずに、前記２つ以上のスパイキングニューロンのうちのスパイキングニューロンをウィニングスパイキングニューロンとして選択すること、及び
前記ウィニングスパイキングニューロンに関連するシナプスのシナプス重み値の変更を行うことによって前記スパイキングニューラルネットワークの学習関数を実装すること
により、トレーニングすること
を含む、方法。
前記スパイキングニューラルネットワークをトレーニングすることであって、
トレーニングデータセットから生成される複数のスパイク及び前記トレーニングデータセットに関係する特徴を学習する前記２つ以上のスパイキングニューロンに関するユーザ入力を受信すること、
前記最後の層の中の少なくとも１つのスパイキングニューロンの膜電位値を考慮せずに、前記２つ以上のスパイキングニューロンのうちのスパイキングニューロンをウィニングスパイキングニューロンとして選択すること、及び
前記ウィニングスパイキングニューロンに関連するシナプスのシナプス重み値の変更を行うことによって前記スパイキングニューラルネットワークの学習関数を実装すること
により、トレーニングすること
を含む、方法。
【発明の詳細な説明】
【技術分野】
【0001】
分野
[1] 本手法は、一般的にはニューラル回路エンジニアリングに関し、より詳細には、人工ニューラルネットワークでの低電力学習のシステム及び方法に関する。
[1] 本手法は、一般的にはニューラル回路エンジニアリングに関し、より詳細には、人工ニューラルネットワークでの低電力学習のシステム及び方法に関する。
【背景技術】
【0002】
背景
[2] 人工ニューラルネットワークが生物学的神経回路網（脳）の機能を複製することが、長い間目標であったが、成功は限られてきた。人工ニューラルネットワークの設計へのブルートフォースハードウェア手法は、面倒で不適切であり、人間の脳の機能を複製するという所望の目標にはほど遠い。したがって、多種多様な可能な入力データ及び／又はセンサソースから高速で推論を行いながら、非常に大規模なネットワークにスケーリングすることができ、既にトレーニングされたスパイキングニューラルネットワークを更新するためにユーザ介入が行われることも可能にするスパイキングニューラルネットワークを実現できるようにする手法が必要とされている。
[2] 人工ニューラルネットワークが生物学的神経回路網（脳）の機能を複製することが、長い間目標であったが、成功は限られてきた。人工ニューラルネットワークの設計へのブルートフォースハードウェア手法は、面倒で不適切であり、人間の脳の機能を複製するという所望の目標にはほど遠い。したがって、多種多様な可能な入力データ及び／又はセンサソースから高速で推論を行いながら、非常に大規模なネットワークにスケーリングすることができ、既にトレーニングされたスパイキングニューラルネットワークを更新するためにユーザ介入が行われることも可能にするスパイキングニューラルネットワークを実現できるようにする手法が必要とされている。
【発明の概要】
【0003】
概要
[3] 本明細書には、入力ストリームから特徴を学習し、教師なし、半教師あり、教師あり抽出を実行するように構成された、改良されたスパイキングニューラルネットワーク（ＳＮＮ）のシステム、装置、製品、方法、及び／又はコンピュータプログラム製品の実施形態及び／又はその組合せ及び下位組合せが提供される。幾つかの実施形態は、スパイク変換器と、再構成可能神経線維と、メモリと、プロセッサとを備えたニューロモルフィックシステム（例：ニューロモルフィック集積回路）を含む。スパイク変換器は、入力データからスパイクを生成するように構成される。再構成可能神経線維は、複数のスパイキングニューロン回路を含むニューラルプロセッサを含む。スパイキングニューロン回路は、スパイク変換器から受信したスパイク及びニューラルネットワーク構成に基づいてタスクを実行するように構成される。メモリは、電位アレイ及び複数のシナプスを含むニューラルネットワーク構成を含む。ニューラルネットワーク構成は、複数のスパイキングニューロン回路と複数のシナプスとの間の接続を更に定義する。プロセッサは、複数のパラメータに基づいてニューラルネットワーク構成を変更するように構成される。
[3] 本明細書には、入力ストリームから特徴を学習し、教師なし、半教師あり、教師あり抽出を実行するように構成された、改良されたスパイキングニューラルネットワーク（ＳＮＮ）のシステム、装置、製品、方法、及び／又はコンピュータプログラム製品の実施形態及び／又はその組合せ及び下位組合せが提供される。幾つかの実施形態は、スパイク変換器と、再構成可能神経線維と、メモリと、プロセッサとを備えたニューロモルフィックシステム（例：ニューロモルフィック集積回路）を含む。スパイク変換器は、入力データからスパイクを生成するように構成される。再構成可能神経線維は、複数のスパイキングニューロン回路を含むニューラルプロセッサを含む。スパイキングニューロン回路は、スパイク変換器から受信したスパイク及びニューラルネットワーク構成に基づいてタスクを実行するように構成される。メモリは、電位アレイ及び複数のシナプスを含むニューラルネットワーク構成を含む。ニューラルネットワーク構成は、複数のスパイキングニューロン回路と複数のシナプスとの間の接続を更に定義する。プロセッサは、複数のパラメータに基づいてニューラルネットワーク構成を変更するように構成される。
【0004】
[4] 本明細書には、入力ストリームから特徴を学習し、教師なし抽出を実行する実施形態も記載される。幾つかの実施形態は、ニューラルネットワークの層の複数のスパイキングニューロン回路において、１組のシナプスに対応する１組のスパイクビット（１ビット又はマルチビット）を受信するように動作する。ニューラルネットワークの層の複数のスパイキングニューロン回路によって第１のスパイクパケットが受信される。それに応答し、スパイキングニューロン回路のそれぞれに関連する膜電位が、各スパイキングニューロン回路に関連するスパイクパケット及びシナプスのシナプス重み値を処理することによって決定される。層のスパイキングニューロン回路ごとに膜電位が決定されると、ウィニングスパイキングニューロン回路が選択され、ウィニングスパイキングニューロン回路に関連するシナプスの１つ又は複数のシナプス重み値を変更することによってシナプス重み値の変更が行われる。その後のスパイクパケットはシナプス重み値が変更されるときにのみ処理される。層のウィニングニューロンは同期的に決定されるのに対し、層のスパイキングニューロン回路のスパイキングは非同期的に行われる。
【0005】
[5] 本明細書には、特徴を学習し、教師なし抽出を実行する実施形態も記載されており、それによりスパイキングニューラルネットワークの層の複数のスパイキングニューロン回路の中から決定されるウィニングニューロンに関連するシナプスのマルチビットシナプス重み値をインクリメント及び／又はデクリメントすることにより、スパイキングニューラルネットワークの段階的学習が実現される。
【0006】
[6] 本明細書には、受信されるスパイクパケットごとに２つ以上のスパイキングニューロン回路（ウィニングスパイキングニューロン回路及び１つ又は複数の追加のスパイキングニューロン回路）による集団学習によって特徴を学習し、教師なし抽出を実行する実施形態も記載されている。
【0007】
[7] 本発明によれば、変更済みニューラルネットワークを実装するために、Ｎ個の層及び複数のスパイキングニューロンを有するベースニューラルネットワークを変更するための変更要求を受信するように構成されるニューラルプロセッサを含むシステムが提供され、ベースニューラルネットワークの変更は、変更済みニューラルネットワークがベースニューラルネットワークのＮ番目又はＮ＋１番目の層の中に１つ又は複数の補足的スパイキングニューロンを含むように行われ、ベースニューラルネットワークは一次トレーニングデータセットから生成される複数のスパイクを使用してトレーニングされ、ニューラルプロセッサは、変更済みニューラルネットワークをトレーニングするために、二次トレーニングデータセットから生成される複数のスパイク及び二次トレーニングデータセットに関係する１つ又は複数の特徴を学習する１つ又は複数の補足的スパイキングニューロンに関するユーザ入力を受信することであって、二次トレーニングデータセットは一次トレーニングデータセットと異なる、受信すること、Ｎ番目又はＮ＋１番目の層の中の１つ又は複数の補足的スパイキングニューロンの膜電位値を決定すること、Ｎ番目又はＮ＋１番目の層の中の少なくとも１つのスパイキングニューロンに関する膜電位値を考慮しない一方、ウィニングスパイキングニューロンとして１つ又は複数の補足的スパイキングニューロンから補足的スパイキングニューロンを選択すること、及びウィニングスパイキングニューロンに関連するシナプスのシナプス重み値の変更を行うことによって変更済みニューラルネットワークの学習関数を実行することを行うように構成される。
【0008】
[8] 本発明によれば、Ｎ個の層を有するベースニューラルネットワークを実装することであって、Ｎの値は少なくとも２である、実装すること、一次トレーニングデータセットから生成される複数のスパイクを使用してベーススパイキングニューラルネットワークをトレーニングすること、変更済みニューラルネットワークを実現するためにベースニューラルネットワークを変更するための変更要求を検出することに応答し、ベースニューラルネットワークのＮ番目又はＮ＋１番目の層の中に１つ又は複数の補足的スパイキングニューロンを含めることによってベースニューラルネットワークを変更すること、及び変更済みニューラルネットワークをトレーニングすることであって、二次トレーニングデータセットから生成される複数のスパイク及び二次トレーニングデータセットに関係する１つ又は複数の特徴を学習する１つ又は複数の補足的スパイキングニューロン情報に関するユーザ入力を受信することであって、二次トレーニングデータセットは一次トレーニングデータセットと異なる、受信すること、Ｎ番目又はＮ＋１番目の層の中の少なくとも１つのスパイキングニューロンの膜電位値を考慮しない一方、ウィニングスパイキングニューロンとして変更済みニューラルネットワークのＮ番目又はＮ＋１番目の層の中の補足的スパイキングニューロンを選択すること、及びウィニングスパイキングニューロンに関連するシナプスのシナプス重み値の変更を行うことによって変更済みニューラルネットワークの学習関数を実行することを行うことにより、トレーニングすることを含む方法が提供される。
【0009】
[9] 本発明によれば、スパイキングニューラルネットワークを含むシステムが提供され、スパイキングニューラルネットワークはスパイキングニューラルネットワークの最後の層の中に２つ以上のスパイキングニューロンを含み、２つ以上のスパイキングニューロンは同じクラスを表し、ニューラルプロセッサが、スパイキングニューラルネットワークをトレーニングするために、トレーニングデータセットから生成される複数のスパイク及びトレーニングデータセットに関係する特徴を学習する２つ以上のスパイキングニューロンに関するユーザ入力を受信すること、２つ以上のスパイキングニューロンの膜電位値を決定すること、最後の層の中の少なくとも１つのスパイキングニューロンに関する膜電位値を考慮しない一方、ウィニングスパイキングニューロンとして２つ以上のスパイキングニューロンからスパイキングニューロンを選択すること、及びウィニングスパイキングニューロンに関連するシナプスのシナプス重み値の変更を行うことによってスパイキングニューラルネットワークの学習関数を実装することを行うように構成される。
【0010】
[10] 本発明によれば、最後の層の中に２つ以上のスパイキングニューロンを含むスパイキングニューラルネットワークを実装することであって、２つ以上のスパイキングニューロンは同じクラスを表す、実装すること、スパイキングニューラルネットワークをトレーニングすることであって、トレーニングデータセットから生成される複数のスパイク及びトレーニングデータセットに関係する特徴を学習する２つ以上のスパイキングニューロンに関するユーザ入力を受信すること、最後の層の中の少なくとも１つのスパイキングニューロンの膜電位値を考慮しない一方、ウィニングスパイキングニューロンとして２つ以上のスパイキングニューロンのうちのスパイキングニューロンを選択すること、及びウィニングスパイキングニューロンに関連するシナプスのシナプス重み値の変更を行うことによってスパイキングニューラルネットワークの学習関数を実装することにより、トレーニングすることを含む方法が提供される。
【0011】
[11] この概要は単に、本明細書に記載される趣旨の理解を提供するために幾つかの実施形態例を示す目的で提供されている。したがって、上記特徴は単なる例であり、本開示の趣旨の範囲又は精神を狭めるものとして解釈されるべきではない。本開示の他の特徴、態様、及び利点も以下の詳細な説明、図、及び特許請求の範囲から明かになろう。
【0012】
図面の簡単な説明
[12] 添付図面は、本明細書に組み込まれ、本明細書の一部をなす。
[12] 添付図面は、本明細書に組み込まれ、本明細書の一部をなす。
【図面の簡単な説明】
【0013】
【図1】[13]幾つかの実施形態によるニューラルモデルのブロック図である。
【図2A】[14]幾つかの実施形態によるニューロモルフィック集積回路のブロック図である。
【図3】[16]幾つかの実施形態による、入力スパイクのバッファリング、パケット化、及び次の層への出力スパイクのバッファリングの流れ図である。
【図4】[17]幾つかの実施形態によるスパイキング畳み込みニューラルプロセッサとして構成されたニューラルプロセッサのブロック図である。
【図5】[18]幾つかの実施形態によるスパイキング全結合ニューラルプロセッサとして構成されたニューラルプロセッサのブロック図である。
【図6A】[19]幾つかの実施形態によるスパイクをスパイクパケットにパケット化する一例である。
【図7】[21]幾つかの実施形態による、ビットが膜電位カウンタをインクリメントするか、それともデクリメントするかを選択する方法の一例である。
【図8】[22]幾つかの実施形態による学習法の重み交換ステップを示す。
【図8i】[23]幾つかの実施形態による、ＳＮＮ層に関する単一の入力インスタンス（スパイクパケットを処理すること）について学習関数がニューラルプロセッサによってどのように実装されるのかを示す。
【図8ii】[24]幾つかの実施形態による、ＳＮＮ層に関する複数の入力インスタンスについて学習関数がどのように実装されるのかを示す。
【図8iii】[25]幾つかの実施形態による、各シナプスが１ビットシナプス重み値によって表されるとき、複数のシナプスにわたりシナプス後ニューロンによって入力スパイクパケット（１ビット）が受信される場合の学習の１つのインスタンスを示す。
【図8iv】[26]幾つかの実施形態による、各シナプスがマルチビット（４ビット）のシナプス重み値によって表されるとき、複数のシナプスにわたりシナプス後ニューロンによって入力スパイクパケット（１ビット）が受信される場合の学習の１つのインスタンスを示す。
【図8v】[27]幾つかの実施形態による、各シナプスがマルチビット（４ビット）のシナプス重み値によって表されるとき、複数のシナプスにわたりシナプス後ニューロンによってマルチビット（４ビット）の入力スパイクパケットが受信される場合の学習の１つのインスタンスを示す。
【図9】[28]本発明の実施形態及び当技術分野で知られている他の任意の技法を使用して実装されトレーニングされるベーススパイキングニューラルネットワークを一例として示す。
【図12】[30]補足的スパイキングニューロン回路が含まれる層のスパイキングニューロン回路に関する活性化／スパイク値のパケット化の変化を示す。
【図16】[31]マルチショット学習技法を使用して最初から実装されるスパイキングニューラルネットワークの一例を示す。
【発明を実施するための形態】
【0014】
[32] 図面中、同様の参照符号は一般に同一又は同様の要素を示す。
【0015】
詳細な説明
[33] 本明細書には、入力ストリームからの特徴を学習し、教師なし、半教師あり及び教師あり抽出を実行するように構成された、改良されたスパイキングニューラルネットワーク（ＳＮＮ）のシステム、装置、デバイス、方法、及び／又はコンピュータプログラム製品の実施形態及び／又はその組合せ及び下位組合せが提供される。本明細書における実施形態は、改良されたＳＮＮを提供するスタンドアロンニューロモルフィックシステム（例えば、集積回路又はクラウド／サーバ）を含む。ニューロモルフィック集積回路に実装されたニューロモルフィックシステムは、幾つかの利点を提供する。第１に、ニューロモルフィック集積回路はサイズがコンパクトである。例えば、ニューロモルフィック集積回路は、シリコンダイ上にプロセッサ複合体、１つ又は複数のセンサインターフェース、１つ又は複数のデータインターフェース、スパイク変換器、及びメモリを集積する。これは、ハードウェア実装でのシリコンエリアの効率的な使用を可能にする。第２に、ニューロモルフィック集積回路は、ユーザ定義の構成ファイルを使用して多くの異なるタスクに向けて再プログラムすることができる。例えば、ニューロモルフィック集積回路における層及びニューラルプロセッサ間の接続は、ユーザ定義の構成ファイルを使用して再プログラムすることができる。第３に、ニューロモルフィック集積回路は低待ち時間出力を提供する。最終的に、ニューロモルフィック集積回路の消費電力量は小さくなる。例えば、ニューロモルフィック集積回路は、同じタスクを実行する場合、同等の人工ニューラルネットワーク（ＡＮＮ）よりも２桁低い電力を消費することができる。
[33] 本明細書には、入力ストリームからの特徴を学習し、教師なし、半教師あり及び教師あり抽出を実行するように構成された、改良されたスパイキングニューラルネットワーク（ＳＮＮ）のシステム、装置、デバイス、方法、及び／又はコンピュータプログラム製品の実施形態及び／又はその組合せ及び下位組合せが提供される。本明細書における実施形態は、改良されたＳＮＮを提供するスタンドアロンニューロモルフィックシステム（例えば、集積回路又はクラウド／サーバ）を含む。ニューロモルフィック集積回路に実装されたニューロモルフィックシステムは、幾つかの利点を提供する。第１に、ニューロモルフィック集積回路はサイズがコンパクトである。例えば、ニューロモルフィック集積回路は、シリコンダイ上にプロセッサ複合体、１つ又は複数のセンサインターフェース、１つ又は複数のデータインターフェース、スパイク変換器、及びメモリを集積する。これは、ハードウェア実装でのシリコンエリアの効率的な使用を可能にする。第２に、ニューロモルフィック集積回路は、ユーザ定義の構成ファイルを使用して多くの異なるタスクに向けて再プログラムすることができる。例えば、ニューロモルフィック集積回路における層及びニューラルプロセッサ間の接続は、ユーザ定義の構成ファイルを使用して再プログラムすることができる。第３に、ニューロモルフィック集積回路は低待ち時間出力を提供する。最終的に、ニューロモルフィック集積回路の消費電力量は小さくなる。例えば、ニューロモルフィック集積回路は、同じタスクを実行する場合、同等の人工ニューラルネットワーク（ＡＮＮ）よりも２桁低い電力を消費することができる。
【0016】
[34] Brainchip Inc.に譲渡されている米国特許出願第１６／６７０，３６８号の中で、ＡＮＮ、ＣＮＮ、従来のＳＮＮに関連する全般的な説明及び問題が論じられている。したがって簡潔にするために、ＡＮＮ、ＣＮＮ、従来のＳＮＮに関連するかかる全般的な説明及び問題を本明細書で再び詳細に論じることはない。
【0017】
[35] 図１は、幾つかの実施形態によるニューラルネットワークモデルのブロック図である。図１では、スパイクはローカルバス１０１を介して通信することができる。例えば、ローカルバス１０１はネットワークオンチップ（ＮｏＣ）バスであることができる。スパイクは、ネットワークパケットの形態で通信することができる。ネットワークパケットは、１つ又は複数のスパイクと、発信元及び宛先のアドレスを示すコードとを含むことができる。
【0018】
[36] 図１では、スパイクデコーダ１０２は、ネットワークパケット内のスパイクを復号化することができる。
【0019】
[37] 一実施形態では、スパイクデコーダ１０２が、入力スパイクをその対応する参照情報と共に受信する。例えばスパイクがカラー画像に関係する場合、そのスパイクは値情報、並びに位置情報（ｘ，ｙ）及びチャネル情報（例えばＲ、Ｇ、Ｂ）等のその対応する参照情報を含む。スパイクデコーダ１０２は位置情報及びチャネル情報を取り除き、高密度表現を形成するために値情報だけを使用し、スパイクデコーダ回路１０２にスパイク（高密度スパイク）を送信するように構成される。
【0020】
[38] 別の実施形態では、スパイクデコーダがスパース表現形式の全ての受信情報を使用し、スパイクデコーダ回路１０２にスパイク（スパーススパイク）を送信する。
【0021】
[39] スパイクデコーダ回路１０２は、ネットワークパケット内の発信元アドレスに基づいて、スパイク（高密度スパイク又はスパーススパイク）を特定のスパイキングニューロン回路に送信することができる。例えば、スパイクデコーダ回路１０２は、スパイクを対応するスパイキングニューロン回路のスパイク入力バッファ１０３に記憶することができる。スパイクデコーダ回路１０２はまた、対応するニューロン回路のスパイク入力バッファ１０３に、ビットが行き着くことになるアドレスを記憶することもできる。
【0022】
[40] スパイク入力バッファ１０３は、１つ又は複数のスパイクを記憶することができる。「１」ビットはスパイクの存在を表すことができ、０ビットはスパイクの不在を表すことができる。スパイク入力バッファ１０３は、ビットが行き着くことになるアドレスを含むこともできる。
【0023】
[41] 図１では、パケタイザ１１４は、スパイク入力バッファ１０３内のスパイクをソートして、１つ又は複数のスパイクパケットにすることができる。スパイクパケットは、パケットレジスタ１０４に記憶することができる。例えば、スパイキングニューロン回路が１０２４個のシナプスを有する場合、パケットレジスタ１０４は１０２４ビット長であることができる。パケタイザ１１４は、スパイク入力バッファ１０３内のビットを１０２４ビットパケットレジスタ１０４に沿った正確な位置にソートすることができる。このソートプロセスについて図６において更に説明する。
【0024】
[42] 図１では、シナプス重み値はシナプス重み記憶装置１０５に記憶することができる。幾つかの実施形態では、シナプス重み記憶装置１０５は、静的ランダムアクセスメモリ（ＳＲＡＭ）を使用して実施することができる。当業者ならば理解するように、シナプス重み記憶装置１０５は、種々の他のメモリ技術を使用して実施することもできる。
【0025】
[43] シナプス重み記憶装置１０５内のシナプス重み値は、正又は負であることができる。幾つかの実施形態では、シナプス重み記憶装置１０５内のシナプス重み値は、処理のために重みレジスタ１０６に転送することができる。
【0026】
[44] 一部の実施形態では、ニューロンの膜電位値が：１．ＡＮＤ回路１０７及び１０８並びにカウンタ１０９、又は論理演算ユニット（ＡＬＵ）１５２を使用して決定される。
【0027】
[45] 一部の実施形態では、シナプス重み値の変更が：１．重み交換器１１３、又は２．重みインクリメンタ及びデクリメンタ１５０並びにＡＬＵ１５２を任意選択的に使用して実行される。
【0028】
[46] 一部の実施形態では、膜電位値を決定するのに必要な計算を行うために又はシナプス重み値の変更を行うために、ＡＬＵを有する代わりにメモリ内に必要な全ての計算を有する状態表が使用される。
【0029】
[47] 一部の実施形態では、重みレジスタ１０６内の正のシナプス重み値は、論理ＡＮＤ回路１０７においてパケットレジスタ１０４内の対応するビットとＡＮＤ演算することができる。その結果生成された論理ＡＮＤ回路１０７の出力は、ＡＮＤ関数の正の結果のそれぞれについて、カウンタ１０９をインクリメントすることができる。カウンタ１０９は、ニューロンの膜電位値を表すことができる。
【0030】
[48] 重みレジスタ１０６内の負のシナプス重み値は、論理ＡＮＤ回路１０８において、パケットレジスタ１０４内の対応するビットとＡＮＤ演算することができる。その結果生成される論理ＡＮＤ回路１０８の出力は、カウンタ１０９をデクリメントすることができる。このプロセスは、パケットレジスタ１０４内の全てのビットが処理されるまで続けることができる。
【0031】
[49] パケットレジスタ１０４内の全てのビットが処理された後、カウンタ１０９は、重みレジスタ１０６内の正及び負のシナプス重み値に対応するパケットレジスタ１０４内のビット数を表す値を含むことができる。カウンタ１０９の値は、閾値比較器１１０を使用して少なくとも１つの閾値と比較することができる。
【0032】
[50] 幾つかの実施形態では、閾値比較器１１０は、カウンタ１０９の値を２つの閾値と比較することができる。例えば、閾値比較器回路１１０は、カウンタ１０９の値を学習閾値レジスタ１１１内の値及びスパイキング閾値レジスタ１１２内の値と比較することができる。
【0033】
[51] 幾つかの実施形態では、学習閾値レジスタ１１１内の値はまず低値に設定することができ、ニューロンが学習できるようにする。学習プロセス中、シナプス重みは、重み交換器１１３を使用して入力スパイクに割り当てることができる。この方法は図８に示される。幾つかの実施形態では、ニューロンが学習するにつれて、カウンタ１０９内の値は増大し、学習閾値レジスタ１１１内の値も同様に増大する。このプロセスは、ニューロンが特定の学習されたパターンに対して強力な応答を提示するまで続けることができる。
【0034】
[52] 図２Ａは、幾つかの実施形態によるニューロモルフィック集積回路２００のブロック図である。ニューロモルフィック集積回路２００は、神経線維２０１、変換複合体２０２、センサインターフェース２０３、プロセッサ複合体２０４、１つ又は複数のデータインターフェース２０５、１つ又は複数のメモリインターフェース２０６、高速チップ間インターフェースを提供することができるマルチチップ拡張インターフェース２０７、電力管理ユニット２１３、及び１つ又は複数の直接メモリアクセス（ＤＭＡ）エンジン２１４を含むことができる。
【0035】
[53] 幾つかの実施形態では、神経線維２０１は、複数の再構成可能なニューラルプロセッサ２０８を含むことができる。ニューラルプロセッサ２０８は、複数のニューロンを含むことができる。例えば、ニューラルプロセッサ２０８は、複数のスパイキングニューロン回路及び複数のシナプスを含むことができる。上述したように、スパイキングニューロン回路は、入力スパイクバッファ１０３、パケタイザ１１４、パケットレジスタ１０４、論理ＡＮＤ回路１０７、論理ＡＮＤ回路１０８、カウンタ１０９、閾値比較器１１０、学習閾値１１１、スパイキング閾値１１２を使用して実施することができる。複数のシナプスは、重みレジスタ１０６、シナプス重み記憶装置１０５、及び重み交換器１１３を使用して実施することができる。各ニューラルプロセッサ２０８は、神経線維２０１の任意の部分に接続することができる複数の再プログラム可能なスパイキングニューロン回路を含むことができる。
【0036】
[54] 幾つかの実施形態では、変換複合体２０２は、ピクセル／スパイク変換器２０９、オーディオ／スパイク変換器２１０、ダイナミックビジョンセンサ（ＤＶＳ）／スパイク変換器２１１、及びデータ／スパイク変換器２１２の１つ又は複数を含むことができる。ピクセル／スパイク変換器２０９は、画像をスパイクイベントに変換することができる。
【0037】
[55] 幾つかの実施形態では、センサインターフェース２０３は、ピクセルデータ、オーディオデータ、アナログデータ、及びデジタルデータの１つ又は複数のインターフェースを含むことができる。センサインターフェース２０３は、ＤＶＳピクセルデータのＡＥＲインターフェースを含むこともできる。
【0038】
[56] 幾つかの実施形態では、プロセッサ複合体２０４は、少なくとも１つのプログラマブルプロセッサコア、メモリ、及び入出力周辺機器を含むことができる。プロセッサ複合体２０４は、ニューロモルフィック集積回路２００と同じダイに実装することができる。
【0039】
[57] 幾つかの実施形態では、データインターフェース２０５は、入出力周辺機器の１つ又は複数のインターフェースを含むことができる。１つ又は複数のインターフェースは、ペリフェラルコンポーネントインターコネクトエクスプレス（ＰＣＩｅ）バス規格、ユニバーサルシリアルバス（ＵＳＢ）バス規格、イーサネットバス規格、コントローラエリアネットワーク（ＣＡＮ）バス規格、及びリアルデータを送受信するための万能非同期送信受信機（ＵＡＲＴ）を使用することができる。
【0040】
[58] 幾つかの実施形態では、メモリインターフェース２０６は、ダイナミックランダムアクセスメモリ（ＲＡＭ）拡張のための１つ又は複数のインターフェースを含むことができる。１つ又は複数のインターフェースは、ダブルデータレート同期ダイナミックランダムアクセスメモリ（ＤＤＲ ＳＤＲＡＭ）規格を使用することができる。例えば、１つ又は複数のメモリインターフェースは、ＤＤＲ３又はＤＤＲ４規格を使用することができる。
【0041】
[59] 幾つかの実施形態では、マルチチップ拡張インターフェース２０７は、スパイク情報を搬送することができ、神経線維２０１を複数のチップに拡張できるようにする。マルチチップ拡張インターフェース２０７は、address event representation（ＡＥＲ）を使用してスパイク情報を搬送することができる。ＡＥＲは、システムバスを介してスパイクイベントを送信する規格である。スパイクが発生時にスパイクする特定のニューロンのアドレスが送信される。
【0042】
[60] 幾つかの実施形態では、ニューロモルフィック集積回路２００は、スパイク情報を入力としてとり、出力としてＡＥＲスパイクイベントを生成することができる。ＳＣＮＮの最後の層からスパイクを出力することに加えて、ＡＥＲスパイクイベントは、各スパイキングニューロン回路の膜電位値を送信することもできる。
【0043】
[61] 幾つかの実施形態では、神経線維２０１は、フィードフォワード様式でスパイクを処理することができる。スパイクは、ＡＥＲフォーマットデータを使用して層間を送信することができる。各層は、入力スパイクバッファに記憶されたスパイクを１組のスパイクパケットに変換する入力スパイクバッファ（例えば、入力スパイクバッファ１０３）を有することができる。あらゆる層は、入力スパイクバッファ内の全てのスパイクを完全に処理してから、その出力スパイクを次の層に送信することができる。
【0044】
[62] 図２Ｂは、幾つかの実施形態による図２Ａのニューロモルフィック集積回路２００の別のブロック図を示す。図２Ｂは、ローカルバス２２０（例えば、ＮｏＣバス）を使用したニューロモルフィック集積回路２００の構成要素の相互接続を示す。図２Ｂでは、ニューロモルフィック集積回路２００は、図２Ａに示されるように、神経線維２０１、プロセッサ複合体２０４、１つ又は複数のデータインターフェース２０５、ピクセル／スパイク変換器２０９、オーディオ／スパイク変換器２１０、及びＤＭＡエンジン２１４を含むことができる。ニューロモルフィック集積回路２００は、シナプス重み記憶装置２２２、メモリ２２４、シリアル読み取り専用メモリ（ＲＯＭ）２２６、構成レジスタ２２８、ＰＣＩｅインターフェースブロック２３０、ＰＣＩｅバス２３２、ＵＡＲＴインターフェース２３４、ＣＡＮインターフェース２３６、ＵＳＢインターフェース２３８、及びイーサネットインターフェース２４０を含むこともできる。
【0045】
[63] 幾つかの実施形態では、シナプス重み記憶装置２２２は、図１のシナプス重み記憶装置１０５と同等であることができる。シナプス重み記憶装置２２２は、神経線維２０１に接続することができる。シナプス重み記憶装置２２２は、全てのシナプスの重み及び全てのスパイキングニューロン回路の膜電位値を記憶することができる。シナプス重み記憶装置２２２は、ＰＣＩｅバス２３２に接続することができるＰＣＩｅインターフェースブロック２３０から１つ又は複数のＤＭＡエンジン２１４を通して外部からアクセスすることができる。
【0046】
[64] 幾つかの実施形態では、構成レジスタ２２８は神経線維２０１に接続することができる。神経線維２０１の初期化中、プロセッサ複合体２０４はシリアルＲＯＭ２２６を読み取り、値を構成レジスタ２２８及びシナプス重み記憶装置２２２に書き込むことにより、外部定義の機能に向けて神経線維２０１を構成することができる。
【0047】
[65] 幾つかの実施形態では、プロセッサ複合体２０４は、ＰＣＩｅインターフェース２３０を通して外部から利用可能である。プログラムはメモリ２２４に記憶することができる。プログラムは、ＵＡＲＴインターフェース２３４、ＣＡＮインターフェース２３６、ＵＳＢインターフェース２３８、及びイーサネットインターフェース２４０の機能を決めることができる。これらのインターフェースの１つ又は複数は、神経線維２０１、プロセッサ複合体２０４、又は両方により処理されるデータを送出することができる。
【0048】
[66] 一部の実施形態では、メモリ２２４がバスを介して通信することができる。メモリ２２４は、これだけに限定されないがランダムアクセスメモリ、読み取り専用メモリ、プログラマブル読み取り専用メモリ、電気的プログラマブル読み取り専用メモリ、電気的消去可能読み取り専用メモリ、フラッシュメモリ、磁気テープ又はディスク、光学媒体等を含む、様々な種類の揮発性及び不揮発性記憶媒体等の、これだけに限定されないが非一時的コンピュータ可読記憶媒体を含むことができ又はかかる非一時的コンピュータ可読記憶媒体に結合され得る。一例では、メモリ２２４がプロセッサのためのキャッシュ又はランダムアクセスメモリを含み得る。代替例では、プロセッサのキャッシュメモリ、システムメモリ、又は他のメモリ等、メモリ２２４がプロセッサと切り離されている。メモリ２２４は、データを記憶するための外部の記憶装置又はデータベースであり得る。メモリ２２４は、プロセッサによって実行可能な命令を記憶するように動作可能であり得る。図示し又は記載する機能、行為、又はタスクは、メモリ２２４内に記憶される命令を実行するためのプログラムされたプロセッサによって実行され得る。機能、行為、又はタスクは特定の種類の命令セット、記憶媒体、プロセッサ、又は処理戦略から独立しており、単独で又は組み合わせで動作するソフトウェア、ハードウェア、集積回路、ファームウェア、マイクロコード等によって実行され得る。同様に、処理戦略はマルチプロセッシング、マルチタスキング、並列処理等を含み得る。
【0049】
[67] 一部の実施形態では、本発明は命令を含む、又は伝播信号に応答して命令を受信し実行するコンピュータ可読媒体も予期する。更に、命令は通信ポート若しくはインターフェースによって又はバスを使用してネットワーク上で伝送され又は受信され得る。通信ポート又はインターフェースは１つ又は複数のプロセッサの一部とすることができ、又は別個のコンポーネントであり得る。通信ポートはソフトウェアによって作成することができ、又はハードウェアによる物理接続であり得る。
【0050】
[68] オーディオ／スパイク変換器２１０は、神経線維２０１により処理されるべきスパイクをローカルバス２２０に直接送出することができる。ピクセル／スパイク変換器２０９は、外部画像センサに接続することができ、ピクセル情報をスパイクパケットに変換し、スパイクパケットは、神経線維２０１による処理のためにローカルバス２２０に配られる。処理されたスパイクはパケット化され（例えば、ネットワークパケットに挿入され）、ローカルバス２２０に配置される。
【0051】
[69] 図３は、幾つかの実施形態による、入力パケットバッファリング、パケット化、及び次の層への出力スパイクバッファリングの流れ図である。図３は、入力スパイクバッファ３０１、１つ又は複数のスパイクパケット３０２、神経線維３０３、及び出力スパイクバッファ３０４を含む。図３では、入力スパイクバッファ３０１内のスパイクは、神経線維３０３内の特定のニューロン（例えば、スパイキングニューロン回路）の１つ又は複数のスパイクパケット３０２にソートすることができる。神経線維３０３で処理された後、生成されたあらゆるスパイクは、後続層に送信される出力スパイクバッファ３０４に記憶することができる。出力スパイクバッファ３０４内の生成されたスパイクは、後続層による処理のためにパケット化することができる。
【0052】
[70] 幾つかの実施形態では、神経線維３０３内の層は、入力スパイクバッファ３０１の全体を処理することができる。層は、各スパイクパケット３０２を順次処理することができる。その結果生成された出力スパイクは、出力スパイクバッファ３０４に配置することができる。出力スパイクバッファ３０４は、全てのスパイクパケット３０２が処理されるまで、処理に向けて次の層に送信されないことがある。幾つかの実施形態では、神経線維３０３の全ての層はこの作業フローに従うことができる。
【0053】
[71] 幾つかの実施形態では、神経線維３０３は、同時に多くのスパイクを処理することができる。幾つかの実施形態では、異なるスパイクバッファタイプを神経線維３０３内の層に使用することができる。スパイク入力バッファのタイプは、入力データの性質に依存することができる。スパイクバッファタイプ間の違いは、入力スパイクバッファ３０１からスパイクパケットをいかに生成するかにあることができる。
【0054】
[72] 幾つかの実施形態では、パケット化バッファタイプを使用して、連続又は継続タイプのデータ（例えば、ＤＶＳカメラにより生成される一連のスパイク）を処理することができる。ユーザは、このバッファタイプを使用するように神経線維３０３の異なる層を構成することができる。パケット化バッファタイプは、一度に１つずつ又は非常に大きなバーストでの多くのスパイクの処理を可能にすることができる。パケット化バッファは、スパイク数が構成ファイル（例えば、ＹＡＭＬファイル）において指定されるパラメータ（例えば、パケットサイズ）により定義されるサイズに達するまで、受信された順にスパイクを記憶することができる。パケット化バッファがそのサイズに達すると、スパイクパケットを処理に向けて神経線維３０３に渡すことができる。次に、パケット化バッファをクリアすることができる。次に、パケット化バッファはスパイクを引き続き記憶することができる。
【0055】
[73] 幾つかの実施形態では、フラッシュバッファタイプを使用して、定義されたサイズ（例えば、従来のビデオイメージフレーム又は定義された組の値）の形態のデータを処理することができる。例えば、ビデオフレームは、６４０×４８０ピクセル等の定義されたサイズを有することができる。しかしながら、この場合、一度に送信される多くのスパイクは、１つのパケットとして処理するために即時に送信し得る。スパイクパケットは異なる長さであることができる。
【0056】
[74] 幾つかの実施形態では、各層タイプは、まず、スパイク入力バッファからパケットを生成することにより、スパイク入力バッファ（例えば、スパイク入力バッファ３０１）全体を処理する関数を実施することができる。スパイク入力バッファ全体がパケット化された後、この関数は全てのスパイクパケットを処理することができる。次に、この関数は、処理されたスパイクパケットを削除し、出力スパイクをスパイクパケットから出力スパイクバッファ（例えば、出力スパイクバッファ３０４）にプッシュすることができる。次に、この関数は、処理する次のスパイクパケットを取得することができる。バッファタイプ間の違いは、入力スパイクバッファからスパイクパケットを生成する方法にあることができる。
【0057】
[75] 図４は、幾つかの実施形態による、スパイキング畳み込みニューラルプロセッサとして構成されたニューラルプロセッサ４００のブロック図である。ニューラルプロセッサ４００は、ローカルバス４０１（例えば、ＮｏＣバス）上のネットワーク、スパイクデコーダ４０２、シナプス重み記憶装置４０３、ニューロン位置生成器、プーリング回路４０４、神経線維４０５、電位更新及びチェック回路４０６、並びにスパイク生成器４０７を含むことができる。神経線維４０５は、図２の神経線維２０１と同等であることができる。シナプス重み記憶装置４０３は、シナプス重み値及びニューロンの膜電位値（例えば、電位アレイ）を記憶することができる。プーリング回路４０４は、当業者ならば理解するように、最大プーリング演算、平均プーリング演算、又は他のタイプのプーリング演算を実行することができる。１対多スパイク生成器回路４０７は、ローカルバス４０１を介して１対多で送信することができるスパイクパケットを生成することができる。
【0058】
[76] 図５は、幾つかの実施形態による、スパイキング全結合ニューラルプロセッサとして構成されたニューラルプロセッサ５００のブロック図である。ニューラルプロセッサ５００は、ローカルバス５０１（例えば、ＮｏＣバス）、スパイクデコーダ５０２、シナプス重み記憶装置５０３、ニューロン位置生成器、パケット形成器５０４、神経線維５０５、電位更新及びチェック回路５０６、並びに電位及びスパイク出力回路５０７を含む。神経線維５０５は、図２の神経線維２０１と同等であることができる。シナプス重み記憶装置５０３は、シナプス重み値及びニューロンの膜電位値（例えば、電位アレイ）を記憶することができる。図５では、スパイクは、スパイク入力バッファで受信し、スパイキングデコーダ５０２を使用してスパイクパケットとして分配される。
【0059】
[77] 幾つかの実施形態では、シナプス重みは三次重みであることができる。これらの三次シナプス重みは２ビット幅であることができる。これらの２ビット幅シナプス重みは、正の値及び負の値の両方を含むことができる。これは従来のＳＮＮと異なる。２ビット幅シナプス重みの正の値は、ニューロンの膜電位値を増大させることができる。２ビット幅シナプス重みの負の値は、ニューロンの膜電位値を低減することができる。
【0060】
[78] 幾つかの実施形態では、スパイクパケット内のスパイクは、シナプス宛先数に従って分配することができる。幾つかの実施形態では、処理中、三次シナプス重みは、スパイクパケットにおいて表されるスパイクと論理ＡＮＤ演算される。スパイクパケット内のスパイクは、正のスパイクビットを使用して表すことができる。スパイクパケット内のスパイクの不在は、ゼロを使用して表すことができる。シナプス重みは負又は正であることができる。負のシナプス重みは、ニューロンのカウンタ１０９（例えば、膜電位レジスタ）をデクリメントすることができる。正のシナプス重みは、ニューロンのカウンタ１０９（例えば、膜電位レジスタ）をインクリメントすることができる。
【0061】
[79] 幾つかの実施形態では、学習プロセスは、ニューロンの学習閾値（例えば、学習閾値レジスタ１１１内の値）に達した場合、入力を調べることにより実施することができる。ニューロンの学習閾値はまず、非常に低い値に設定することができる。学習閾値は、ニューロンが学習し、より多くのシナプス重みがマッチするにつれて、増大することができる。幾つかの実施形態では、学習プロセスは、未使用シナプス重み（例えば、スパイクが発生しない場所における正のシナプス重み）と未使用スパイク（例えば、値０を有するシナプス重みに対する位置にあるスパイクパケット内のスパイク）の交換を含み得る。未使用シナプス重みは、未使用スパイクを含む場所と交換することができる。
【0062】
[80] 幾つかの実施形態では、ニューロン膜電位値（例えば、カウンタ１０９により表される）がスパイキング閾値（例えば、スパイキング閾値レジスタ１１２内の値）を超える場合、スパイクが生成される。スパイクはローカルバスに配置される。
【0063】
[81] 図６Ａは、幾つかの実施形態による、スパイクをパケット化してスパイクパケットにすることの一例である。図６Ａでは、スパイク入力バッファ６０１（例えば、スパイク入力バッファ１０３と同等）は、スパイク復号化回路により処理されたスパイクをローカルバスから受信する。パケタイザ６０２は、スパイクのシナプスインデックス数に従ってスパイク入力バッファ６０１内のスパイクをソートしてスパイクパケット６０３にすることができる。例えば、図６Ａでは、受信されたスパイクシーケンスは１、６、２３、１、１９、１８である。当業者なら理解するように、スパイクシーケンスは、図６Ａに示される少数のスパイクよりもはるかに多数であり得る。例えば、スパイクシーケンスは、多数のシナプスに分配される数千のスパイクを含むことができる。
【0064】
[82] 図６Ｂでは、幾つかの実施形態による図６Ａのスパイクパケット６０３の表現の一例である。図６Ｂでは、スパイクパケット６０３は、スパイク入力バッファ６０１からソートされたスパイクを含む。スパイクパケット６０３では、位置１、６、１８、１９、及び２３は強調表示されて、論理「１」値を含むことを示す。スパイクパケット６０３内の残りの位置はゼロ（例えば、スパイクの不在を示す）を含む。
【0065】
[83] 幾つかの実施形態では、スパイクは、シナプス重みがメモリ（例えば、シナプス重み記憶装置１０５）に配置されたのと同じ順に編成することができる。これは、シナプス重み値と入力スパイクパケット内のスパイクとの間でＡＮＤ演算を実行して、膜電位カウンタ（例えば、カウンタ１０９）がインクリメントされるか、それともデクリメントされるかを判断できるようにすることができる。スパイクが、シナプス重み値がゼロである位置で生じる場合、カウンタはそのビット位置について変更されない。
【0066】
[84] 図７は、幾つかの実施形態による、膜電位値（例えば、カウンタ１０９）がインクリメントされるか、それともデクリメントされるかを選択する方法の一例である。図７では、論理ＡＮＤ演算がスパイクパケット７０１と重みレジスタ７０２（例えば、重みレジスタ７０２は重みレジスタ１０６と同等である）との間で実行される。図７では、スパイクパケット７０１のスパイクビット１、６、１８、１９、及び２３は強調表示されて、論理「１」値（例えば、スパイクの存在を示す）を含むことを示す。スパイクパケット７０１内の残りの位置はゼロ（例えば、スパイクの不在を示す）を含む。
【0067】
[85] 重みレジスタ７０２は、正の値又は負の値の何れか一方を示す論理ビットを含むことができる。図７では、ビット１、４、５、１４、及び２２は正の値を含み、一方、ビット１８は負の値を含む。正の値は興奮作用を示すことができ、一方、負の値は抑制作用を示すことができる。重みレジスタ７０２内のビットは、興奮性重みの場合、ＥＸＣと記し、抑制性重みの場合、ＩＮＨと記すことができる。論理ＡＮＤが、重みレジスタ７０２内のビットとスパイクパケット７０１内のビットとの間で実行される。したがって、位置１において生じたスパイクは、ニューロンの膜電位値（例えば、カウンタ１０９）をインクリメントする。これとは対照的に、位置１８で生じたスパイクは、ニューロンの膜電位値（例えば、カウンタ１０９）をデクリメントする。
【0068】
[86] 図７は、幾つかの実施形態による、学習法の一例である。学習では、出力イベント／スパイクに寄与するスパイクは、強化された代表的なシナプス重みを有することができ、一方、出力イベント／スパイクに寄与しなかったスパイクは、弱化されたシナプス重みを有することができる。
【0069】
[87] 幾つかの実施形態では、学習法は、未使用シナプス重みが、未使用スパイクを含む場所と交換されるように変更される。例えば、ゼロであり、スパイクを受信したシナプス重みは、論理「１」であり、いかなるスパイクも受信しなかったシナプス重みと交換される。
【0070】
[88] 幾つかの実施形態では、論理ＡＮＤ演算が、「１」であるスパイクパケット内のスパイクビット及びゼロであるシナプス重みに対して実行される場合、結果はゼロである。これは、「未使用スパイク」と呼ぶことができる。論理ＡＮＤ演算が、「０」であるスパイクパケット内のスパイクビット及び「１」であるシナプス重みに対して実行される場合、結果はゼロである。これは「未使用シナプス重み」と呼ぶことができる。学習回路（例えば、重み交換器１１３）は、未使用スパイクが生じているランダムに選択された未使用シナプス重みを交換することができる。
【0071】
[89] 図７では、スパイクパケット７０１内の位置１は、使用済みスパイクを含む。シナプス重み７０２内の位置１は、使用済み重みを含む。これは、ニューロンの膜電位値（例えば、カウンタ１０９）をインクリメントさせることができる。
【0072】
[90] シナプス重み７０２内の位置４及び５は、未使用シナプス重みを含む。これらのシナプス重みは、交換の候補である。スパイクパケット７０１内の位置６は、未使用スパイクを含む。換言すれば、スパイクパケット７０１内の位置６は１を含むが、シナプス重み７０２の位置６はゼロを含む。未使用シナプス重みはこの位置と交換することができる。シナプス重み７０２の位置１４は、未使用シナプス重みを含む。スパイクパケット７０１の位置１８は、使用済みスパイクを含み、シナプス重み７０２の位置１８は、使用済みシナプス重み（この場合、抑制性）を含む。これは、ニューロンの膜電位値（例えば、カウンタ１０９）をデクリメントさせることができる。スパイクパケット７０１の位置１９は、未使用スパイクを含む。シナプス重み７０２の位置２２は、未使用シナプス重みを含む。スパイクパケット７０１の位置２３は、未使用スパイクを含む。
【0073】
[91] この学習法は、生物学的脳で行われる学習によりインスパイアされている。幾つかの実施形態では、変更された形態の学習法は、学習の実行に使用される。この変更された方法は、生物学的ニューロンが学習するメカニズムと同様である。
【0074】
[92] 幾つかの実施形態では、スパイキングニューロン回路は、入力が膜電位値（例えば、カウンタ１０９）を閾値まで駆動したとき、スパイクを発する。これは、ニューロンが閾値まで駆動され、スパイクを生成するとき、その最近活性化された入力からの接続は強化され、一方、幾つかのその他の接続は弱化されることを意味することができる。繰り返し見る入力のパターンに応答してニューロンが学習することになり、それにより、入力データセットを特徴付ける特徴を自動的に学習することができる。
【0075】
[93] 幾つかの実施形態では、学習閾値の変更により生じるニューロン間の自然な競合等のこの方法の他の属性に応じて、層内のニューロンの集団は、様々な入力特徴空間を学習する。したがって、所与の入力に対するニューロンの集団の応答は、存在する特徴についての情報を搬送する。
【0076】
[94] 脳では、感覚処理は通常、階層的であり、一連の層にわたって行われる。初期層は単純な特徴についての情報を抽出し、上位層ほど、応答がより複雑な形状又は物体に対してより選択的であるとともに、空間位置又は向きに対して不変であるという点でより一般的であるように、それらの特徴の組合せに応答するように学習する。
【0077】
[95] 幾つかの実施形態では、この変更された学習法は完全に教師なしである。これは、ニューラルネットワークで使用されている従来の多様な教師ありトレーニング法と異なる。これは、本明細書における実施形態にラベルなしデータセットを提示することができ、いかなる追加情報もなく、データに存在する異なる特徴に応答するように学習することができることを意味する。学習は進行中のプロセスであることができる。
【0078】
[96] 幾つかの実施形態では、新しいクラスが既にトレーニングされたデータセットに追加される場合、ニューラルネットワーク（例えば、神経線維２０１）全体を再トレーニングする必要がない。これは、破滅的な忘却性という技術的問題をなくすことができる。学習を継続できるようにすることにより、ネットワークにより既に認識されたネットワークに新しいクラスを追加することができる。
【0079】
[97] 教師なし学習は、特徴を抽出することができる。しかしながら、ラベル付きデータがない場合、教師なし学習は出力を直接「ラベル付け」することができない。分類タスクでは、ニューラルネットワーク（例えば、神経線維２０１）は、刺激データセットに存在するクラスを区別する１組の特徴を学習することができる。次に、特徴を表す応答を入力ラベルにリンクする方法を適用するのはユーザ次第であることができる。
【0080】
[98] 図８は、幾つかの実施形態による学習法の重み交換ステップを示す。図８は、「未使用シナプス重み」が「未使用入力」と交換され、それにより、将来、同じ又は同様の入力スパイクパターンへのニューロンの応答を強化する、変更された学習プロセスにおける次のステップの一例を示す。
【0081】
[99] 図８では、スパイクパケット８０１のスパイクビット１、６、１８、１９、及び２３は強調表示されて、論理「１」値を含む（例えば、スパイクの存在を示す）ことを示す。スパイクパケット８０１内の残りの位置はゼロを含む（例えば、スパイクの不在を示す）。シナプス重み８０２のビット１、４、５、１４、及び２２は「＋１」値を含み、一方、ビット１８は「－１」値を含む。未使用スパイク８０１のビット１９は、スパイクパケット８０１内の未使用スパイクを表す。未使用シナプス重み８０２のビット５及び１４は、シナプス重み８０２内の未使用シナプス重みを表す。図８では、新しいシナプス重み８０５は、未使用シナプス重み（例えば、スパイクが生じなかった場所における正のシナプス重み）及び未使用スパイク（例えば、ゼロの値を有するシナプス重みに対する位置にあるスパイクパケット内のスパイク）を交換した結果を表す。例えば、新しいシナプス重み８０５のビット１４は、シナプス重み８０２のビット１８の値を含み、この逆も同様である。
【0082】
[100] 図８による上記の実施形態は、シナプスが＋１、－１、又は０の対応するシナプス重み値を有する学習方法を記載する。「＋１」のシナプス重み値は、入力スパイクが到達するときシナプス後ニューロンの電位を興奮させ又は増加させるのに対し、「－１」のシナプス重み値は入力スパイクが到達するときシナプス後ニューロンの膜電位を抑制し又は減少させる。「０」のシナプス重み値はシナプス後ニューロンの膜電位に影響しない。
【0083】
[101] より広いレベルで、ハードウェアによる実装は脳の機能から発想を得ている。この方法はより少ない計算及びメモリを必要とするので複雑でないことを理由に有利だが、このやり方で実装される学習は限られており、生物学的なシナプスの限られた機能的側面からのみ発想を得ている。このやり方で実装されるシナプスは、シナプスの不在又は存在しか表さない。不在は「０」ビットシナプス重み値によって反映されるのに対し、シナプスの存在は「＋１」（興奮性）又は「－１」（抑制性）シナプス重み値によって反映される。
【0084】
[102] より重要なことに、脳内のシナプスの機能は上記で開示した実施形態よりも著しく複雑である。例えば脳内のシナプスのシナプス強度は様々な生物学的パラメータに依存し、その強度の点で大いに異なり、そのためシナプス後ニューロンから他のニューロンへの感覚入力の伝播はかなりの数の方法で影響を受ける。典型的には、生物学的な脳内のシナプス間隙における神経伝達物質及び神経受容体はシナプスの挙動及び強度を変える。
【0085】
[103] 図８による前の実施形態の中のより単純なデジタルシナプス実装は、比較的複雑でない感覚入力を認識すべきである、又は運動機能出力をデジタルで与えるべきであるシナリオにおいて役立ち得る。とりわけ、＋１、０；－１、０、及び＋１；－１、０等のシナプス重み値を有するより単純なデジタルシナプス重み構成は、ハードウェア内のより少ないメモリを消費するので役立つ。しかし、（例えば複雑なマルチ感覚入力等を有する）高度な人工知能タスクを実行するには、生物学に近いやり方で及びより多数の異なる強度を有することを可能にするやり方で、そのためニューロモルフィックハードウェア内で脳のような学習を実現することを助けるやり方でデジタルシナプスをハードウェアによって構成する必要がある。換言すれば、ニューロモルフィックハードウェア内でマルチビットシナプス重み値を実現することが求められる。このことは、高度なＡＩの応用を実現するためにネットワークの選択性と汎化との間のより優れた妥協点を見出すことを支援し得る。
【0086】
[104] 単に非常に明確な個々の例ではなく任意の種類の不変性を有するカテゴリ／クラスを認識することをネットワークが全体として学習する場合、ニューロンの選択性は入力内の様々な特徴／パターンに応答することをニューロンが学習できるようにするのに対し、汎化は同様のパターンの組にニューロンが応答することを可能にする。例えば、書かれた文字（例えばModified National Institute of Standards and Technologyデータセット）を認識することをネットワークに学習してほしい場合、学習する「パターン」は同一文字の異なる例に共通の特徴である。提示されるスパイクの実際のパターンは例の間で不十分に保たれることになり、そのためニューロンは自らが符号化するパターンに関して特定的になり過ぎることはできず、本発明の実施形態は各ニューロンがより複雑なパターンをネットワーク内で単独で又は集合的に認識することを有利に可能にする。
【0087】
[105] 更なる実施形態は、スパイキングニューロン回路（一部の箇所では簡単にするためにニューロンと呼ぶ）の膜電位値が閾値に達したと判断することに基づいて学習関数を実行することを開示する。
【0088】
[106] 具体的には、図８による先の実施形態の中で開示したシナプス重み値の交換技法の代わりに、更なる実施形態はより段階的なシナプス重みの変更方法を開示する。かかる方法はハードウェア内の追加の計算及びメモリを必要とし得るが、推論中に使用されるときモデルの精度を改良するのに有益である。これらの実施形態は、知的（パターン認識及び意思決定の点でよりスマート）で特化された（トレーニングに使用される同レベルの入力データについて強化された特化を得る）人工知能システムを設計することを助け得る。
【0089】
[107] 図８で開示した重み交換技法はマルチビットシナプスでは上手く機能しない。その理由は、シナプス重み値ごとに学習率が激しく変化又は急変するからである。モデルの学習率は非常に重要なパラメータであり、学習の安定性及び精度を実現するために注意深く制御されなければならない。これにより、ハードウェアによって（例えばニューロモルフィック集積チップ上で）実装されるスパイキングニューラルネットワークモデル内でマルチビットシナプス重み値が使用される場合、シナプス重み値の交換ではなく、より制御されたシナプス重みの変更技法が開示される。ウィニングニューロンが２つのシナプスにおいて入力を受信し、重みの変更が２つの手法、つまりａ）重み交換を行うこと並びにｂ）インクリメント及びデクリメントを行うことにおいてシナプス重み値を補正することによって行われる例を用いてこの技法の利点を更に詳細に述べる。
【実施例0090】
[108] 実施例１）スパイク入力１５、０が、ウィニングニューロンに関連するシナプス重み値２、１２を有する対応するシナプスにおいて受信される。
入力までの総距離は１３＋１２＝２５である（距離は入力と重みとの絶対差の和である）。
ａ）重み交換を使用し：重みを１２、２に変更し、入力までの新たな距離は３＋２＝５である。総変化＝２０。
ｂ）インクリメント及びデクリメントを使用し：重みを３、１１に変更し、入力までの新たな距離は１２＋１１＝２３である。総変化＝２。
入力までの総距離は１３＋１２＝２５である（距離は入力と重みとの絶対差の和である）。
ａ）重み交換を使用し：重みを１２、２に変更し、入力までの新たな距離は３＋２＝５である。総変化＝２０。
ｂ）インクリメント及びデクリメントを使用し：重みを３、１１に変更し、入力までの新たな距離は１２＋１１＝２３である。総変化＝２。
【0091】
[109] 実施例２）スパイク入力１５、０が、ウィニングニューロンに関連するシナプス重み値４、５を有する対応するシナプスにおいて受信される。
入力までの総距離は１１＋５＝１６である。
ａ）重み交換を使用し：重みを５、４に変更し、入力までの新たな距離は１０＋４＝１４である。総変化＝２。
ｂ）インクリメント及びデクリメントを使用し：重みを５、４に変更し、入力までの新たな距離は１０＋４＝１４である。総変化＝２。
入力までの総距離は１１＋５＝１６である。
ａ）重み交換を使用し：重みを５、４に変更し、入力までの新たな距離は１０＋４＝１４である。総変化＝２。
ｂ）インクリメント及びデクリメントを使用し：重みを５、４に変更し、入力までの新たな距離は１０＋４＝１４である。総変化＝２。
【0092】
[110] 実施例３）スパイク入力１５、０が、ウィニングニューロンに関連するシナプス重み値６、６を有する対応するシナプスにおいて受信される。
【0093】
[111] 入力までの総距離は９＋６＝１５である。
ａ）重み交換を使用し：重みを６、６に変更し（変更なし！）、入力までの新たな距離は９＋６＝１５である。総変化＝０。
ｂ）インクリメント及びデクリメントを使用し：重みを７、５に変更し、入力までの新たな距離は８＋５＝１３である。総変化＝２。
ａ）重み交換を使用し：重みを６、６に変更し（変更なし！）、入力までの新たな距離は９＋６＝１５である。総変化＝０。
ｂ）インクリメント及びデクリメントを使用し：重みを７、５に変更し、入力までの新たな距離は８＋５＝１３である。総変化＝２。
【0094】
[112] 上記の例から分かるように、（図８を用いて開示した）重み交換技法を使用し、（重みベクトルから入力ベクトルまでの距離の）総変化は極めて変わりやすいのに対し（２０、２、及び０）、インクリメント及びデクリメント技法を使用し、総変化は限られている（この事例では常に２である）。インクリメントデクリメント技法が採用されるときの総変化は、より速い学習率を実現するためにユーザによって、具体的にはインクリメント又はデクリメントの刻みを２、４、６等に構成することによって構成可能とすることができ（例えば４、６、８等）、それによりモデルは有利には高度に制御可能であり続ける。
【0095】
[113] 典型的には、ニューラルネットワークがニューロモルフィックハードウェア上でトレーニングされるとき大量のスパイクパケットが処理される。
【0096】
[114] スパイキングニューロンネットワークは複数の層を有し得る。層のそれぞれは幾つかのニューロンを含み得る。それらのニューロン（スパイキングニューロン回路）は図１、図２Ａ、及び図２Ｂ等のニューロモルフィックハードウェア又は同様の任意のハードウェア上で実装される。
【0097】
[115] 一部の実施形態では、モデルがトレーニングされているとき入力スパイクパケットがシナプス後ニューロン（スパイキングニューロン回路）に到達すると、膜電位値を決定するために幾つかの数学関数を使用することができる。
【0098】
[116] 一部の実施形態では、ハードウェア内の計算要件を低減するために、又はハードウェア内の論理演算ユニット（ＡＬＵ）の必要性を回避するために、（例えば膜電位値を計算するための）様々な数学的計算のために実行される必要があり得る全ての数学関数又は１組のあり得る全ての数学関数がメモリ内に参照表の形で記憶される。
【0099】
[117] 方法の種類１：一部の実施形態では、１組のスパイクビット／スパイク入力値（１ビット又はマルチビット）の中のスパイクビット／スパイク入力値と、１組のシナプスの中のシナプスのシナプス重み値との間の論理ＡＮＤ関数が実行される。スパイキングニューロン回路に関連する膜電位値が論理ＡＮＤ関数の結果に基づいてインクリメント又はデクリメントされる。典型的には、膜電位値を決定するために、各スパイク入力値とニューロンに関連するシナプスのその対応するシナプス重み値との間で論理ＡＮＤ関数が実行され、論理ＡＮＤ関数の結果を合算して膜電位値を決定する。層内の複数のニューロンのうちのウィニングニューロンがこの技法によって決定される場合、シナプス重みの変更による学習の１つ又は複数のイベント後に学習閾値が増加されるように構成される。
【0100】
[118] 方法の種類２：一部の実施形態では、２ａ）シナプス重み値と１組の対応する第１のスパイク入力値又は対応する第１の１組のスパイク入力値から導出される１組の第１の値との間の複数の差分値が生成される。２ｂ）次のステップで複数の２乗値が生成され、各２乗値は差分値のそれぞれを２乗することによって生成される。２ｃ）次のステップで、複数の２乗値を合算することによって合算値が生成される。２ｄ）次のステップで、その合算値を２乗根することによって２乗根された値が生成される。２ｅ）最後のステップで、１を２乗根された値で割ること又は２乗根された値を負の２乗根された値に変換することによって膜電位値が生成される。層内の複数のニューロンのうちのウィニングニューロンがこの技法によって決定される場合、シナプス重み値の変更によって実現される学習の１つ又は複数のイベント後に学習閾値が増加されるように構成される。
【0101】
[119] 一部の実施形態では、２ａ）対応する第１のスパイク入力値又は対応するスパイク入力値から導出される値からシナプス重み値を減算することによって複数の差分値が生成される。２ｂ）次のステップで複数の２乗値が生成され、各２乗値は差分値のそれぞれを２乗することによって生成される。２ｃ）次のステップで、複数の２乗値を合算することによって合算値が生成される。２ｄ）最後のステップで、１を合算値で割ることによって膜電位値が生成される。ニューラルプロセッサは、決定した合算値を処理し、最も低い合算値／最も高い膜電位値を有するニューロンを決定し、層内の複数のニューロンのうちのウィニングニューロンを決定するように構成される。一部の実施形態では、最も低い合算値／最も高い膜電位値を有するニューロンがウィニングニューロンとして決定される。層内の複数のニューロンのうちのウィニングニューロンがこの技法によって決定される場合、シナプス重み値の変更による学習の１つ又は複数のイベント後に学習閾値が典型的には増加されるように構成される。
【0102】
[120] 方法の種類３：
【0103】
[121] 一部の実施形態では、３ａ）対応する第１のスパイク入力値又は対応するスパイク入力値から導出される値からシナプス重み値を減算することによって複数の差分値が生成される。３ｂ）次のステップで、差分値それぞれの絶対値を決定することによって複数の絶対値が生成される。３ｃ）次のステップで、複数の絶対値を合算することによって合算値が生成される。３ｄ）最後のステップで、１を２乗根された値で割ること又は２乗根された値を負の２乗根された値に変換することによって膜電位値が生成される。層内の複数のニューロンのうちのウィニングニューロンがこの技法によって決定される場合、シナプス重みの変更による学習の１つ又は複数のイベント後に学習閾値が増加されるように構成される。
【0104】
[122] 一部の実施形態では、３ａ）対応する第１のスパイク入力値又は対応するスパイク入力値から導出される値からシナプス重み値を減算することによって複数の差分値が生成される。３ｂ）次のステップで、差分値それぞれの絶対値を決定することによって複数の絶対値が生成される。３ｃ）次のステップで、複数の絶対値を合算することによって合算値が生成される。ニューラルプロセッサは、決定した合算値を処理し、最も低い合算値／最も高い膜電位値を有するニューロンを決定し、層内にあるニューロンのうちのウィニングニューロンを決定するように構成される。一部の実施形態では、最も低い合算値／最も高い膜電位値を有するニューロンがウィニングニューロンとして決定される。層内の複数のニューロンのうちのウィニングニューロンがこの技法によって決定される場合、シナプス重みの変更による学習の１つ又は複数のイベント後に学習閾値が増加されるように構成される。
【0105】
[123] 方法の種類４：
【0106】
[124] ステップ４ａ：ステップ４ａを実装するために以下に記載するステップ４ａ（ｉ）又は４ａ（ｉｉ）の何れか１つを実装することができる。
【0107】
[125] ステップ４ａ（ｉ）：
【0108】
[126] 一部の実施形態では、ネットワークが最初に構成されるとき、シナプス後ニューロンのそれぞれについてシナプスベクトル長が所望のシナプスベクトル長と同じ又はほぼ同じであるように複数のシナプス後ニューロンに関連するシナプスのシナプス重み値がニューラルプロセッサによって選ばれる。シナプスベクトル長は、２乗されたシナプス重み値の和の平方根である。例えば所望のシナプスベクトル長が１２である場合、４、２、６、３、０、６、及び７のシナプス重み値が選ばれる。この事例では、シナプスベクトル長は
√４２＋２２＋６２＋３２＋０２＋６２＋７２＝１２．２
である。
√４２＋２２＋６２＋３２＋０２＋６２＋７２＝１２．２
である。
【0109】
[127] これを実装するには予め構成された１組のシナプス重み値をメモリ内に記憶することができ、各組は所望のシナプスベクトル長を参照する。一部の実施形態では、シナプスベクトル長がユーザによって定められ、ニューラルネットワークの初期構成中に提供される。モデルが学習し始めると、ニューロンそれぞれのシナプスベクトル長が所望のシナプスベクトル長と同じ又はほぼ同じままであるように、ニューラルプロセッサがシナプス重み値の変更を可能にする。
【0110】
[128] ステップ４ａ（ｉｉ）：
【0111】
[129] 一部の実施形態では、ネットワークがランダムシナプス重み値を用いて構成される。更に、構成されたランダムシナプス重み値に基づいてシナプスベクトル長が決定される。次のステップで、所望のシナプスベクトル長を決定されたシナプスベクトル長で割ることによってシナプススケール因子が決定される。次のステップで、シナプススケール因子をシナプス重み値と乗じることによってシナプス重み値のスケーリングが実行され、更新されたシナプス重み値が実現される。一部の実施形態では、シナプスベクトル長がユーザによって定められ、ニューラルネットワークの初期構成中に提供される。
【0112】
[130] ステップ４ｂ：スパイクパケットをスケーリングするための任意選択的なステップが実行される。この方法によれば、受信されるスパイクパケットごとに入力ベクトル長が決定される。入力ベクトル長は、２乗されたシナプス入力値の和の平方根である。例えばスパイクパケットが２、３、１、２、０、３、及び６の入力値を含む場合、入力ベクトル長は
√２２＋３２＋１２＋２２＋０２＋３２＋６２＝７．９４
である。
√２２＋３２＋１２＋２２＋０２＋３２＋６２＝７．９４
である。
【0113】
[131] 次のステップで、所望のシナプス重み値が入力ベクトル長で割られ、入力スケール因子が決定される。１２の所望のシナプスベクトル長では、入力スケール因子は１２／７．９４＝１．５１である。
【0114】
[132] 次のステップで、入力スケール因子を入力値と乗じることによって入力値（スパイクパケット）のスケーリングが実行され、更新された入力値が実現される。例えば２、３、１、２、０、３、及び６の入力値に１．５１が掛けられ、スケールされた入力値である３．０２、４．５３、１．５１、３．０２、０、４．５３、及び９．０６が実現される。
【0115】
[133] ステップ４ｃ：
【0116】
[134] 最後のステップでドット積が実行される。
【0117】
[135] ステップ４ｃ（ｉ）：一実施形態によれば、複数のニューロンそれぞれの膜電位値を決定するために、複数のニューロンのスパイクパケットとシナプス重み値との間でドット積が実行される。
【0118】
[136] ステップ４ｃ（ｉｉ）：一実施形態によれば、複数のニューロンそれぞれの膜電位値を決定するために、複数のニューロンのスパイクパケットとスケールされたシナプス重み値との間でドット積が実行される。
【0119】
[137] ステップ４ｃ（ｉｉｉ）：一実施形態によれば、複数のニューロンそれぞれの膜電位値を決定するために、複数のニューロンのスケールされたスパイクパケットとスケールされたシナプス重み値との間でドット積が実行される。
【0120】
[138] 受信されるスパイクパケットに基づく学習を実現するために、ステップ４ｃ（ｉ）～４ｃ（ｉｉｉ）の何れか１つに基づいて決定される膜電位値に基づいてウィニングニューロンが選択され、本発明で開示した技能の何れかに従ってシナプス重み値が変更される。一部の実施形態では、最も高い膜電位値を有するニューロンがウィニングニューロンとして選ばれる。一部の実施形態では、高い膜電位値を有する幾つかのニューロンが決定され、ランダムな／任意のニューロンがウィニングニューロンとして選ばれる。
【0121】
[139] 一実施形態では、方法の種類４が組み込まれる場合、本発明で開示する技法の何れか１つに従ってシナプス重みの変更を行うときに追加の制約が適用される。具体的には、更新されたシナプス重み値のシナプスベクトル長が所望のシナプスベクトル長と同じ又はほぼ同じであるようにシナプス重み値を変更するようニューラルプロセッサが構成される。
【0122】
[140] 一実施形態では、本発明で開示する技法の何れかに従ってシナプス重み値が変更されるが、重みを変更した後でシナプス重みスケーリングの更なるステップ（ステップ４ａ（ｉｉ）等）が実行される。スケールされたシナプス重み値は、その後のスパイクパケットを処理するとき使用される。
【0123】
[141] トレーニングされたモデルを実現するために、ステップ４ａから４ｃが幾つかのスパイクパケットにわたって繰り返される。
【0124】
[142] 方法の種類４は、上記で開示したステップの任意の組み合わせを使用して実装され得ることを当業者なら理解されよう。例えば膜電位を決定するために：Ａ）ステップ４ａ（ｉ）及びステップ４ｃ（ｉ）、Ｂ）ステップ４ａ（ｉｉ）、ステップ４ｂ、及びステップ４ｃ（ｉｉｉ）、並びにＣ）ステップ４ａ（ｉｉ）、ステップ４ｃ（ｉｉ）が実装され得る。
【0125】
[143] シナプス重み値及び入力値のそれぞれがバイナリビットとして表されるので、ハードウェア内で数学的計算を行うとき又は数学的計算（例えばドット積、２乗、２乗根、合算）の結果を求めるためにメモリ内に記憶された状態表を使用するとき、様々な近似が適用され得ることを当業者なら理解されよう。
【0126】
[144] 一部の実施形態では、方法の種類１を実装するためにＡＮＤ回路１０７、１０８、及びカウンタ１０９が使用され、シナプス重みの変更を実装するために重み交換器１１３が使用される。
【0127】
[145] 一部の実施形態では、方法の種類１を実装するためにＡＬＵ１５２の乗算器及び加算器機能を使用して膜電位値を決定する。その場合、シナプス重み値と対応するスパイク値とが乗算され、それらの結果を加算して膜電位を実現する。
【0128】
[146] 一部の実施形態では、方法の種類２～４を実装するために論理演算ユニット１５２を使用して膜電位を決定し、重みインクリメンタ及びデクリメンタ１５０を使用してシナプス重みの変更を実装する。一部の実施形態では、シナプス重みの変更を実装するために重み交換器１１３が使用される。
【0129】
[147] 開示した方法の種類１～４は、実現される正確さ、精度のレベル、及びハードウェア内で要求される計算のレベルの点で異なる。膜電位を決定するために、これらの方法の種類の何れのものも使用可能であることを当業者なら理解されよう。膜電位が決定されると、本発明の様々な実施形態で開示した、シナプス重みの開示した変更技法の何れもモデルをトレーニングするために組み込まれ得る。
【0130】
[148] 一部の実施形態では、学習率を変更することによってシナプス重みの変更のレベルがユーザによって構成可能である。学習率が高い場合、典型的には高い値の又はより多数のシナプス重みの変更が時間と共に行われる。
【0131】
[149] 典型的には、最も高い膜電位を有するニューロンがウィニングニューロンとしてニューラルプロセッサによって選択され、ウィニングニューロンに関連するシナプスについてシナプス重みの変更が行われる。シナプスを表すシナプス重み値は、本発明で開示する実施形態の何れかに基づいてインクリメント及び／又はデクリメントされる。好ましくは、この実施形態はシナプス重み値がマルチビットであるとき実装される。１つ又は複数のシナプス重みの変更イベント後に学習閾値がインクリメント又はデクリメントされる。
【0132】
[150] 一部の実施形態では、方法の種類２及び３によって決定される合算値が膜電位として見なされ、層内にあるニューロンの中で最も低い閾値を有するニューロンについてシナプス重みの変更が行われ、その場合、シナプス重みの変更による学習の１つ又は複数のイベント後に学習閾値が減少されるように構成される。
【0133】
[151] シナプス後ニューロン回路のそれぞれはＳＮＮ（スパイキングニューラルネットワーク）層内でスパイクビットを受信し、スパイキングニューロン回路の膜電位が関連する発火閾値に達するときシナプス後ニューロン回路それぞれのスパイキングが構成される。ニューロン回路のスパイキングは非同期的に構成され、これは同じ層内のニューロンが発火したかどうかを考慮することなしにスパイキングニューロン回路が発火することを意味する。発火の結果として、スパイキングニューラルネットワーク内の複数の層内で構成される複数のスパイキングニューロン回路間のシナプス結合に基づき、層のスパイキングニューロン回路からのスパイクがその後の層のスパイキングニューロン回路に伝播され、その後も同様に伝播は続く。
【0134】
[152] 発火閾値はモデルの学習中に固定されるように又は補正されるように構成され得る。但し、入力パケットに基づく学習を捕捉するためにシナプス重み値及び学習閾値は学習モード中に変更される。しかしモデルが推論モードで使用される場合、シナプス重み値及び発火閾値は変更されない。
【0135】
[153] 図８（ｉ）に示す流れ図によって更に説明するように、シナプス重み値の変更によるモデルの学習は同期的に行われるように構成される。この流れ図は、単一のＳＮＮ層に関する単一の入力インスタンスについて（スパイクパケットを処理することにより）学習がニューラルプロセッサによってどのように実装されるのかを示す。ＳＮＮモデルをトレーニングするために複数の入力インスタンスも同様に使用され得ることを理解すべきである。応用にもよるが、スパイキングニューラルネットワークは１つ又は複数の層を有し得る。図１６に示すように、ネットワークはニューラルネットワーク構成パラメータを使用して構成され得る。
【0136】
[154] 図８（ｉ）において、ステップ８０００２は、スパイキングニューロン回路によってスパイクパケットが処理されるとき、スパイクパケットに対応するスパイキングニューラルネットワーク層の複数のスパイキングニューロン回路に関する膜電位値が決定されることを示す。膜電位値は本発明で開示する任意の方法によって決定され得る。重要なことに、ニューロンはスパイキングを非同期的に行うように構成される。しかし、シナプス重み値の変更による学習関数を実行するために、このプロセスは、ネットワークの層内にあるスパイキングニューロン回路それぞれの膜電位値が決定されるとき（受信されるスパイクパケットに対応する）、かかる場合にのみ更なるステップに進む（更なるステップを実装する）ように構成される。有利には、このことは受信されるスパイクパケットを学習するのにどのニューロンが特化すべきかの意思決定、及び２つ以上のニューロンが同じ入力パケットを学習しようと試みないことを助ける。提案する実施形態は、より少ないメモリと共にニューロモルフィックチップ上のネットワークのトレーニングを可能にし、そのためチップのサイズ及び製造コストの低減を実現することができる。
【0137】
[155] ステップ８０００４で、スパイキングニューロン回路ごとの膜電位値が受信されるスパイクパケットに基づいて決定されているかどうかを確認する。
【0138】
[156] 決定されていない場合、ステップ８０００６が示すように、ニューラルプロセッサはスパイキングニューラルネットワークの層内のスパイキングニューロン回路それぞれの膜電位の決定を待つ。
【0139】
[157] 先に進み、ステップ８０００８が示すように、膜電位値が対応する学習閾値に達したスパイキングニューロン回路を決定する。かかるスパイキングニューロン回路はウィニングニューロンの候補として選ばれるのに対し、残りのスパイキングニューロン回路は膜電位が対応する学習閾値に達する基準を満たさないことを理由に無視される。
【0140】
[158] ステップ８００１０が示すように、選ばれた候補に基づいてウィニングスパイキングニューロン回路が選択される。一実施形態では、選択された候補のうちで最も高い膜電位を有するスパイキングニューロン回路がウィニングスパイキングニューロン回路として選ばれる。一部の実施形態では、選択された候補のうちのランダムな／任意のスパイキングニューロン回路がウィニングスパイキングニューロン回路として選ばれる。２つ以上のスパイキングニューロン回路が選択基準に等しく一致している場合、それらの２つ以上のスパイキングニューロン回路のうちのランダムな／任意のスパイキングニューロン回路がウィニングスパイキングニューロン回路として選択される。
【0141】
[159] 最後にステップ８００１２で、受信されるスパイクパケットに基づく学習を実装するために、ウィニングスパイキングニューロンに関連するシナプスにシナプス重み値の変更が適用される。
【0142】
【0143】
[161] 図８（ｉｉ）は、複数の入力インスタンスについて学習関数がどのように実装されるのか、又は言い換えれば幾つかのスパイクパケットの処理がどのように行われるのかを示す流れ図を示す。図８（ｉｉ）は、複数のスパイキングニューラルネットワーク層にわたってスパイクがどのように生成されるのかも示す。
【0144】
[162] ステップ８００１４で、第１のスパイクパケットが、複数のシナプスにわたり１組のシナプス前スパイキングニューロン回路から１組のシナプス後スパイキングニューロン回路によって受信され、更に処理される。シナプスのそれぞれは関連する初期シナプス重み値を有する。ネットワークが最初に構成されるとき１つ又は複数の制約を適用した後、初期シナプス重み値には何らかの任意値又は所定値が割り当てられる。第１のスパイク入力値を受信するために、ネットワークの他の様々なパラメータが本発明の他の実施形態によって構成され得る。ネットワークの残りのパラメータは本発明の他の実施形態によって構成され得る。
【0145】
[163] ステップ８００１６で、本発明で開示する膜電位決定方法（方法の種類１～４）の何れかを採用することによってスパイク後ニューロン回路（post-spiking neuron circuits）それぞれの膜電位値が決定される。先に進み、スパイキングニューロン回路それぞれの膜電位値が（第１の／次の）受信されるスパイクパケット及び（初期の／更新された）シナプス重み値に基づいて対応する学習閾値に達したかどうかを判断する。受信されるスパイクパケットが第１のスパイクパケットである場合、膜電位を決定するために初期のシナプス重み値が使用される。受信されるスパイクパケットが次の又はその後のスパイクパケットである場合、膜電位値を決定するために更新されたシナプス重み値が使用される。シナプス重み値は、本発明の様々な実施形態の中で開示するシナプス重みの変更手法の何れかに基づいて更新される。
【0146】
[164] 一実施形態では、ニューラルネットワークのスパイキングニューラルネットワーク層内にある複数のスパイキングニューロンそれぞれの膜電位値が、複数のスパイキングニューロンのそれぞれに関連するシナプスの入力データ及びシナプス重み値に基づいてニューラルネットワークの１つ又は複数のスパイキングニューラルネットワーク層から決定される。シナプスは、複数のスパイキングニューロンのそれぞれに関連するプレシナプス又はポストシナプスであり得る。
【0147】
[165] ステップ８００１８で、関連する発火閾値に達するときシナプス後ニューロン回路によるスパイキングが非同期的に行われる。先に論じたように、ＳＮＮ層のスパイキングニューロン回路間に非同期手法が組み込まれ、これはＳＮＮ層内のスパイキングニューロン回路のスパイキングがスパイキングニューロン回路の残りの部分のスパイキングに依存しないことを意味する。任意選択的に、スパイキングニューロン回路に関連する発火閾値は、各ニューロンがスパイク入力パターンを受信した後で（単独で又は集合的に）スパイクするようにインクリメント又はデクリメントすることができる。
【0148】
[166] ステップ８００２０で、シナプス後スパイキングニューロン回路に関連する膜電位がスパイキングを理由にリセットされる。ステップ８００１６及び８００１８は、受信される複数のスパイクパケットにわたりスパイキングニューロン回路にとって同じ順序で行われることに留意すべきである。自らの関連する発火閾値に達する複数のスパイキングニューロン回路がある場合、これらのステップはスパイキングニューロン回路のそれぞれについて同じ順序で繰り返されることを理解すべきである。
【0149】
[167] ステップ８００２１で、膜電位値が個々のスパイキングニューロン回路に関連する学習閾値に達した、層のスパイキングニューロン回路の１組のスパイキングニューロン回路が決定される。
【0150】
[168] ステップ８００２２で、１組のスパイキングニューロン回路からウィニングスパイキングニューロン回路が選択される。先に論じたように、膜電位を決定するとき同期手法が組み込まれ、これは全てのスパイキングニューロン回路が受信されるスパイクパケットに基づいて膜電位値を決定するまでウィニングスパイキングニューロン回路が選択されないことを意味する。
【0151】
[169] ステップ８００２４に進み、ウィニングスパイキングニューロン回路のためのシナプス重み値がスパイクパケットに基づく学習を反映するように更新される。
【0152】
[170] 一部の実施形態では、スパイキングニューロン回路のそれぞれについて発火閾値が学習閾値よりも低い。その場合、ウィニングスパイキングニューロン回路は典型的には層内のスパイキングニューロン回路のうちで最も高い膜電位を有する。
【0153】
[171] 一部の実施形態では、スパイキングニューロン回路のそれぞれについて発火閾値が学習閾値よりも高い。その場合、ウィニングスパイキングニューロン回路は典型的には層内のスパイキングニューロン回路のうちで最も低い膜電位を有するものである。
【0154】
[172] ネットワークが学習するにつれ、スパイキングニューロン回路それぞれの膜電位値が学習閾値に達する前に発火閾値に達し、それによりスパイキングニューロン回路による発火はスパイキングニューロン回路に関連するシナプス、即ちプレシナプス又はポストシナプスのシナプス重み値の変更前に生じる。
【0155】
[173] 一実施形態では、入力データに基づくニューラルネットワークの学習関数を反映するように、ウィニングスパイキングニューロンに関連する１つ又は複数のシナプスについてシナプス重み値の変更が行われ得る。更にシナプスは、シナプス重み値の変更が行われ得るウィニングスパイキングニューロンに関連するプレシナプスであり得る。
【0156】
[174] ステップ８００２６に進み、ウィニングニューロン回路に関連するシナプスについてシナプス重み値が変更されている確認をニューラルプロセッサが待つ。
【0157】
[175] 最後のステップ８００２８では、層の全てのスパイキングニューロン回路によるその後の（次の）スパイクパケットが複数のシナプスによって受信され、変更されたシナプス重み値を用いて処理される。次のスパイクパケットに基づく学習は、上記で説明した受信された以前のスパイクパケットと同様に行われる。
【0158】
[176] 様々な実施形態において、各シナプス重み値は
マルチビットデジタル値によってそれぞれ表されるゼロ及び正の整数値
マルチビットデジタル値によってそれぞれ表される正の整数値
マルチビットデジタル値によってそれぞれ表される正の整数値及び負の整数値、並びに
マルチビットデジタル値によってそれぞれ表される負の整数値、ゼロ、及び正の整数値
の１つを含む値の群から選択される。
マルチビットデジタル値によってそれぞれ表されるゼロ及び正の整数値
マルチビットデジタル値によってそれぞれ表される正の整数値
マルチビットデジタル値によってそれぞれ表される正の整数値及び負の整数値、並びに
マルチビットデジタル値によってそれぞれ表される負の整数値、ゼロ、及び正の整数値
の１つを含む値の群から選択される。
【0159】
[177] 図８（ｉｉｉ）、図８（ｉｖ）、及び図８（ｖ）の実施形態は、１つ又は複数の追加の発火ニューロン（非ウィニングニューロン）のシナプス重み値を考慮するときウィニングニューロンに関連するシナプスのシナプス重み値が変更される学習方法を記載する。この手法は、ウィニングニューロンに関連するシナプスの更新されたシナプス重み値を決定するとき、ウィニングニューロンとは別の他の任意のニューロンに関連するシナプスのシナプス重み値を考慮する。
【0160】
[178] 全ての発火ニューロン（即ちウィニングニューロン及びスパイクする１つ又は複数の追加のニューロン）のシナプス重み値を考慮することは、幾つかのスパイクパケットが処理されるとき、複数の発火ニューロンが個々にではなく集合的に入力に近づくようにシナプス重みの更新を導き、そのことは推論中のより優れた精度を有利にもたらす。かかる方法が使用されない場合（例えば先の実施形態）、ニューロンは（冗長性を招く（同じタスクにより多くのニューロンが必要である））同様の重みの組及びより高い再構築誤差（成功の測度）と共に個々に入力に近づく。但し、追加のニューロンのシナプス重み値を処理するために追加の計算が必要なので、これはチップのメモリ要件を高め、ことによるとチップのコストを上げる。
【0161】
[179] この実施形態の利益を示すための一例を示す。幾つかのオブジェクトを含む幾つかの入力画像が提供され、画像を集合的に再現するニューロンの層をネットワークが学習することを要求される例を検討されたい。１つの画像に３つのオブジェクト（ボール、猫、及び自転車）及びこの画像が見られるたびに発火する３つのニューロンがあると仮定する。３つのニューロンの理想的な表現は、それぞれがオブジェクトの１つを表すものである。本発明の他の実施形態を使用し、各ニューロンは他の発火ニューロンが何を表すのかを考慮しないので、ニューロンの重みは３つ全てのオブジェクトを巡って均等に分散される。したがって、３つ全てのニューロンが３つ全てのオブジェクトをそれぞれ表す。対照的に、提案する実施形態では他の発火ニューロンが何を表すのかをニューロンが学習時に考慮する。その結果、各ニューロンは入力画像の別々の部分を学習する。理想的には、それらのニューロンは他のオブジェクトを含む異なる画像内で同じオブジェクトを認める場合、それぞれ１つのオブジェクトの表現に収束する。したがって有利には、この技法を用いてパターン認識の成功をより少ないニューロンで実現することができる。
【0162】
【0163】
[181] 図８（ｉｉｉ）は、本発明の一実施形態による、１ビット入力及び１ビットシナプス重み値が学習に使用される場合の学習の１つのインスタンスの例を示す。モデルが一連の入力データ（スパイク入力／パケット）にさらされるとき、スパイクパケット及びシナプス重み値は広く変わることを理解すべきである。
【0164】
[182] この実施形態では、各シナプスが、不在状態である「０」若しくは存在状態である「１」又はその逆のシナプス重み値を有することによって２つの状態を有し得ることに留意すべきである。
【0165】
[183] ウィニングニューロンに関連するシナプスのシナプス重み値は、この実施形態ではネットワークの１つ又は複数の追加のニューロンのシナプス重み値を考慮して変更される。好ましくは、考慮される追加のニューロンはウィニングニューロンと同じ層からのものである。好ましくは、高い（例えば２番目に高い又は３番目に高い）膜電位値を受信し、受信したスパイクパケットに基づいてスパイクを生成する同じ層のニューロンが追加のニューロンとして考慮される。
【0166】
[184] この実施形態のニューロンのスパイキングは、好ましくはスパイキングニューロン回路が発火閾値に達するとき実装される。ウィニングニューロンは本発明の他の実施形態の中で開示する技法の何れか１つによって決定され得る。
【0167】
[185] 図８（ｉｉｉ）は、シナプス後ニューロンによって受信されるスパイクパケット８０９６を示す。好ましくは、シナプス後ニューロンは、受信される入力スパイクパケットが１組のニューロンによって処理されるとき最も高い膜電位値を有するウィニングニューロン、又はウィニングニューロンとしてランダム／任意に選ばれるニューロンである。ページの利用可能空間の最適な使用を実現するように、インデックス８０９２だけを示す。スパイク値、シナプス重み値、再構築入力、及び再構築誤差のそれぞれがインデックス８０９２等の別個のインデックス（不図示）上に記憶されることを理解すべきである。それらの別個のインデックスは、入力スパイクパケットインデックス（スパイクインデックス）、シナプス重みインデックス（重みインデックス）、再構築入力インデックス、及び再構築誤差インデックスと呼ぶ。
【0168】
[186] スパイクパケットは１４個のフィールド（スパイク入力インデックス００から１３）を含む。各インデックスは１ビット（０又は１）のスパイク入力値を記憶する。各スパイクビットは、ウィニングスパイキングニューロン回路の１ビットシナプス重み値、追加のスパイキングニューロン回路の１ビットシナプス重み値（追加のスパイキングニューロン回路が複数ある場合は複数の１ビットシナプス重み値）、マルチビット再構築入力、及びマルチビット再構築誤差（又はその逆）に対応する。スパイクインデックス００、０１、０３、０５、０６、０７、０９、１０、及び１２は強調表示されて、論理「１」値（例えば、スパイクの存在を示す）を含むことを示す。スパイクパケット８０９６内の残りの位置はゼロ（例えば、スパイクの不在を示す）を含む。
【0169】
[187] 図８（ｉｉｉ）を見ても分かるように、本実施形態はシナプス重みインデックス（０から１３）ごとに１ビットシナプス重み値を組み込む。シナプス重み８０９８が、ウィニングニューロン（ニューロン１）のための１４個のシナプス重みインデックスにおいて記憶される。各インデックスは１ビットシナプス重み値を記憶する。シナプス重みインデックス０１、０３、０６、０７、０９、及び１３がウィニングニューロンの「１」のシナプス重み値を記憶する。同様に、シナプス重み８１００が、追加のニューロン（ニューロン２）のための１４個のシナプス重みインデックスにおいて記憶される。追加のニューロンのためのシナプス重みインデックス０１、０２、０３、０６、０７、及び０８がウィニングニューロンの「１」のシナプス重み値を記憶するのに対し、残りのインデックスのシナプス重み値は「０」である。
【0170】
[188] ニューラルプロセッサがスパイクパケット及びシナプス重み値を処理し、受信された入力スパイクパケットに基づく学習を反映するようにシナプス重みインデックスの一部におけるシナプス重み値を変更することにより、ウィニングスパイキングニューロン回路（ニューロン１）の１ビットシナプス重み値の変更を開始する。
【0171】
[189] 学習は特定のインデックスにおけるシナプス重み値をインクリメント及び／又はデクリメントすることによって実装される。図８（ｉｉｉ）の所与の例では、プロセッサがウィニングスパイキングニューロン回路（ニューロン１）のシナプス重み値と追加のスパイキングニューロン回路（ニューロン２）のシナプス重み値とを合算することによって再構築入力を決定する。複数の追加のスパイキングニューロン回路も考慮することができ、同様に、２つ以上の追加のスパイキングニューロン回路のシナプス重み値のインデックス単位の加算演算により、ニューラルプロセッサによって再構築入力が決定され得ることに留意すべきである。
【0172】
[190] 先に進み、ニューラルプロセッサは、スパイク入力値から決定された再構築入力値を減算することによって再構築誤差を決定する。
【0173】
[191] 本発明の先の実施形態から逸脱し、ウィニングスパイキングニューロン回路（ニューロン１）のシナプス重み値を考慮することに加え、（スパイク入力値を直接にではなく）再構築誤差を考慮した後、十分使用されていないスパイク（８１０６）を決定する。
【0174】
[192] 十分使用されていないスパイクは、正の再構築誤差及び「０」のシナプス重み値に対応するものだと決定される。例えばこの例では、８１２０、８１１８、８１１６、及び８１１４が十分使用されていないスパイクとして決定される。十分使用されていない重み（８１０８）は、負の再構築誤差及び「１」のシナプス重み値に対応するものだと決定される。例えばこの例では、８１２２、８１２６、８１２８、８１３０、及び８１３２が十分使用されていない重みとして決定される。
【0175】
[193] 先に進み、シナプス重み値の１つ又は複数の対がランダム／任意に決定され、各対はウィニングニューロン（ニューロン１）に関連する２つのシナプス重み値、つまり１組の十分使用されていないスパイク（インデックス１、５、１０、及び１２内に示す８１２０、８１１８、８１１６、及び８１１４）から１つ、及び１組の十分使用されていない重み（インデックス１、３、６、７、及び１３内に示す８１２２、８１２６、８１２８、８１３０、及び８１３２）から１つのシナプス重み値を含む。
【0176】
[194] 先に進み、入力スパイクパケットに基づく学習を実装するためにシナプス重み値が変更され、十分使用されていないスパイク／入力を引き起こしたシナプス重み値はインクリメントされるのに対し、十分使用されていない重みを引き起こしたシナプス重み値はデクリメントされる。その結果、シナプス重みインデックス０（８１２４）、５（８１３７）、１０（８１４２）、及び１２（８１４４）のシナプス重み値８１１０は「１」の値インクリメントされており、シナプス重みインデックス１（８１３４）、６（８１３８）、７（８１４０）、及び１３（８１４６）のシナプス重み値は「１」の値デクリメントされている。十分使用されていないスパイク／入力に関連する４つのシナプス重み値はインクリメントされ、十分使用されていない４つのシナプス重み値はデクリメントされるので、合計のシナプス重み値はスパイクパケットの処理後も一定のままになる（この例では合計のシナプス重み値は６である）。インデックス３（８１３６）において記憶されるシナプス重み値は変更されない。
【0177】
[195] 学習の結果として、スパイクパケット（パターン）をよりよく捕捉するのに必要なシナプス重み値がスパイク重みインデックス内で（「１」を与えることによって）利用可能にされ、受信される入力スパイクパケットに鑑みて関連しないシナプス重み値はウィニングスパイキングニューロン回路のシナプス重み値を変えることによって（「０」を与えることによって）不在にされる。典型的には、これは生物学的な脳内に存在する学習のシナプス変化現象を表す。
【0178】
[196] 上記で開示した実施形態によれば、ニューラルプロセッサは以下の要約したステップによって学習を行うように構成される。
【0179】
[197] 第１のステップで、ニューラルプロセッサは、層のウィニングスパイキングニューロン回路に関連するシナプスの１ビットシナプス重み値と、少なくとも１つの追加のスパイキングニューロン回路に関連するシナプスの１ビットシナプス重み値とを合算することにより、複数の１ビット再構築入力値を決定する。
【0180】
[198] 次のステップで、ニューラルプロセッサは、最大シナプス値を１ビットスパイク入力値と乗じることから導出される値からマルチビット再構築入力値を減算することにより、複数のマルチビット再構築誤差値を決定する。
【0181】
[199] 次のステップで、ニューラルプロセッサは、十分使用されていないスパイクを表すスパイクパケット内の第１の１ビットスパイク入力値を決定し、第１の１ビットスパイク入力値は第１の正の再構築マルチビット誤差値及び「０」の第１の１ビットシナプス重み値に対応する。
【0182】
[200] 次のステップで、ニューラルプロセッサは、十分使用されていない重みを表すスパイクパケット内の第２の１ビットスパイク入力値を決定し、第２の１ビットスパイク入力値は第２の負の再構築マルチビット誤差値及びウィニングスパイキングニューロン回路の第２のシナプスの値「１」の１ビットシナプス重み値に対応する。
【0183】
[201] 最後のステップで、ニューラルプロセッサは、第１の１ビットシナプス重み値の値をインクリメントし、第２の１ビットシナプス重み値の値をデクリメントする。
【0184】
[202] 図８（ｉｖ）は、本発明の一実施形態による、１ビットスパイク入力及びマルチビットシナプス重み値が使用される場合の、シナプス重みの変更技法を使用する学習の１つのインスタンスの例を示す。図８（ｉｖ）が示すように、１ビットスパイク入力が各スパイク入力インデックス上に記憶されるのに対し、４ビットシナプス重み値が各スパイク入力インデックス上に記憶される。この例では、各シナプスが「０から１５」までのシナプス重み値を有することによって１６個の状態を有し得ることに留意すべきである。
【0185】
[203] 先の実施形態と同様に、この実施形態でのウィニングニューロンに関連するシナプスのシナプス重みの変更は、ネットワークの追加のニューロンに関連するシナプス重み値を考慮して実装される。好ましくは、追加のニューロンはウィニングニューロンが属するネットワークの同じ層から選ばれる。
【0186】
[204] 一部の事例では、受信されるスパイクパケットに基づいて高い膜電位を受信するニューロンが追加のニューロンとして考慮される。好ましくは、ウィニングニューロン及び追加のニューロンは受信されるスパイクパケットに基づいてスパイクしたニューロンである。この実施形態のニューロンのスパイキングは、好ましくはスパイキングニューロン回路が発火閾値に達するとき実装される。ウィニングニューロンは本発明の他の実施形態の中で開示する技法の何れか１つによって決定され得る。
【0187】
[205] 図８（ｉｖ）は、複数のシナプスを介してシナプス後ニューロンによって受信されるスパイクパケット８１５０を示す。好ましくは、シナプス後ニューロンは受信される入力スパイクパケットに関して最も高い膜電位を有するウィニングニューロン、又はウィニングニューロンとしてランダム／任意に選ばれるニューロンである。
【0188】
[206] スパイク値、シナプス重み値、再構築入力、及び再構築誤差のそれぞれが別個のインデックス（不図示）上に記憶されるのでインデックス８１４８を参照目的で示す。それらの別個のインデックスは、入力スパイクパケットインデックス（スパイクインデックス）、シナプス重みインデックス（重みインデックス）、再構築入力インデックス、及び再構築誤差インデックスと呼ぶ。
【0189】
[207] 好ましくは、ウィニングニューロンは最大の（１番高い）膜電位値を有するニューロンとして決定されるのに対し、第１の追加のニューロン、第２の追加のニューロン等は２番目に高い、３番目に高い等の膜電位値を有するニューロンである。閾値に達したニューロンについてシナプス重み値が変更される。
【0190】
[208] 各インデックスが１ビット（０又は１）のスパイク入力値を記憶するように、スパイクパケットは２５個のスパイク入力インデックス（０から２４）を含む。各スパイクビットは、ウィニングスパイキングニューロン回路のマルチビット（４ビット）シナプス重み値、追加のスパイキングニューロン回路のマルチビット（４ビット）シナプス重み値（追加のスパイキングニューロン回路が複数ある場合は複数の１ビットシナプス重み値）、マルチビット再構築入力、及びマルチビット再構築誤差又はその逆に対応する。スパイクインデックス０１、０８、０９、１５、１６、１８、１９、及び２３は強調表示されて、論理「１」値（例えば、スパイクの存在を示す）を含むことを示す。スパイクパケット８１５０内の残りの位置はゼロ（例えば、スパイクの不在を示す）を含む。
【0191】
[209] 本実施形態はシナプス重みインデックス（０から２４）ごとにマルチビット（４ビット）シナプス重み値を組み込む。シナプス重み８１５２が、ウィニングニューロン（ニューロン１）のための２５個（０から２４）のシナプス重みインデックスを含む。シナプス重みインデックス０１、０５、０６、１２、１４、１６、１８、２１、及び２３がウィニングニューロンに関連するシナプスのシナプス重み値１２、１５、２、７、９、４、１５、９、及び１２をそれぞれ記憶するのに対し、残りのインデックスのシナプス重み値は「０」である。同様に、シナプス重みインデックス８１５４が２５個のシナプス重みインデックスを記憶し、０１、０３、０５、０６、０９、１１、１２、１４、１５、１６、及び２３が追加のニューロン（ニューロン２）に関連するシナプスのシナプス重み値３、４、１、９、１５、１２、１３、４、６、及び７をそれぞれ記憶するのに対し、残りのインデックスのシナプス重み値は「０」である。
【0192】
[210] ニューラルプロセッサが（ウィニングニューロン及び追加のニューロンに関連する）スパイクパケット及びシナプス重み値を処理し、受信された入力スパイクパケットに基づく学習を反映するようにシナプス重みインデックスの一部におけるシナプス重み値を変更することにより、ウィニングスパイキングニューロン回路（ニューロン１）の４ビットシナプス重み値（８１５２）の変更を開始する。
【0193】
[211] 図８（ｉｖ）の所与の例では、ニューラルプロセッサがウィニングスパイキングニューロン回路（ニューロン１）のシナプス重み値と追加のスパイキングニューロン回路（ニューロン２）のシナプス重み値とを合算することによって再構築入力（８１５６）を決定する。複数の追加のスパイキングニューロン回路も考慮することができ、同様に、２つ以上の追加のスパイキングニューロン回路のシナプス重み値とウィニングニューロンのシナプス重み値との加算演算により、ニューラルプロセッサによって再構築入力が決定され得ることに留意すべきである。図８（ｉｖ）で認めることができるように、インデックス単位の加算演算が行われる。
【0194】
[212] 先に進み、ニューラルプロセッサは、最大シナプス値とスパイク入力値とを乗じることによって実現される８１５０の値から、決定した再構築入力値を減算することによって再構築誤差を決定する。乗算演算及び減算演算の両方がインデックス単位で行われる。
【0195】
[213] ウィニングスパイキングニューロン回路（ニューロン１）のシナプス重み値に加え、（スパイク入力値を直接にではなく）再構築誤差を考慮した後、十分使用されていないスパイク８１６０を決定する。
【0196】
[214] 十分使用されていないスパイクは、正の再構築誤差及び最大シナプス重み値未満のシナプス重み値に対応するものだと決定される。例えばこの例では、８１６８、８１７０、８１７２、及び８１７４が十分使用されていないスパイクとして決定される。十分使用されていない重み８１６２は、負の再構築誤差及び正のシナプス重み値に対応するものだと決定される。例えばこの例では、８１７６、８１７８、８１８０、８１８２、８１８４、及び８１８６が十分使用されていない重みとして決定される。
【0197】
[215] 先に進み、シナプス重み値の４つの対がランダム／任意に決定され、各対はウィニングニューロン（ニューロン１）の２つのシナプス重み値、つまり１組の十分使用されていないスパイク（インデックス８、１５、１６、及び１９内に示す８１６８、８１７０、８１７２、及び８１７４）から１つ、及び１組の十分使用されていない重み（インデックス５、６、１２、１４、２１、及び２３内に示す８１７６、８１７８、８１８０、８１８２、８１８４、及び８１８６）から１つのシナプス重み値を含む。
【0198】
[216] 先に進み、学習を実行するためにシナプス重み値が変更される。十分使用されていないスパイク／入力を引き起こしたシナプス重み値はインクリメントされるのに対し、十分使用されていない重みを引き起こしたシナプス重み値はデクリメントされる。その結果、シナプス重みインデックス８（８１９２）、１５（８１９８）、１６（８２００）、及び１９（８２０２）内に記憶されるシナプス重み値８１６４は「１」インクリメントされており、シナプス重みインデックス５（８１８８）、６（８１９０）、１４（８１９６）、及び２１（８２０４）のシナプス値は「１」デクリメントされている。４つのシナプス重み値がインクリメントされ、４つのシナプス重み値がデクリメントされるので、合計のシナプス重みはスパイクパケットの処理後も一定のままになる。インデックス１２及び２３（８１９４及び８２０６）において記憶されるシナプス重み値は変更されない。
【0199】
[217] 次のインスタンスで同じ入力スパイクパケット８１５０が更新されたシナプス重み値８１６４によって処理される場合、図面から認めることができるように、再構築誤差８１６６は先の再構築誤差８１５８と比較したとき低減する。これを総再構築誤差と述べることができ、総再構築誤差はシナプス重み値の絶対値の和であり、第１のインスタンスで入力スパイクを処理した後で１３６であり、同じスパイクパケットを処理した後の第２のインスタンスでは１２８であり、学習を明確に示している。
【0200】
[218] 上記で開示した実施形態によれば、ニューラルプロセッサは以下の要約したステップによって学習を行うように構成される。
【0201】
[219] 第１のステップで、ニューラルプロセッサは、層のウィニングスパイキングニューロン回路に関連するシナプスのマルチビットシナプス重み値と、ネットワークの少なくとも１つの追加のスパイキングニューロン回路に関連するシナプスのマルチビットシナプス重み値とを合算することにより、複数のマルチビット再構築入力値を決定する。好ましくは、追加のスパイキングニューロン回路はウィニングスパイキングニューロン回路とネットワークの同じ層のものである。
【0202】
[220] 次のステップで、ニューラルプロセッサは、層のウィニングスパイキングニューロン回路のシナプスのマルチビットシナプス重み値と、ネットワークの少なくとも１つの追加のスパイキングニューロン回路のシナプスのマルチビットシナプス重み値とを合算することにより、複数のマルチビット再構築入力値を決定する。
【0203】
[221] 次のステップで、ニューラルプロセッサは、マルチビットスパイク入力値からマルチビット再構築入力値を減算することにより、複数のマルチビット再構築誤差値を決定する。
【0204】
[222] 次のステップで、ニューラルプロセッサは、十分使用されていないスパイクを表すスパイクパケット内の第１のマルチビットスパイク入力値を決定し、第１のマルチビットスパイク入力値は第１の非ゼロの正の再構築マルチビット誤差値、及び最大シナプス値未満の値を有するウィニングスパイキングニューロン回路の第１のシナプスの第１のマルチビットシナプス重み値に対応する。
【0205】
[223] 次のステップで、ニューラルプロセッサは、十分使用されていない重みを表すスパイクパケット内の第２のマルチビットスパイク入力値を決定し、第２のマルチビットスパイク入力値は第２の非ゼロの負の再構築マルチビット誤差値、及びウィニングスパイキングニューロン回路の第２のシナプスの非ゼロの正の第２のマルチビットシナプス重み値に対応する。
【0206】
[224] 最後のステップで、ニューラルプロセッサは、第１のマルチビットシナプス重み値の値をインクリメントし、第２のマルチビットシナプス重み値の値をデクリメントする。
【0207】
[225] 図８（ｖ）は、本発明の一実施形態による、マルチビットスパイク入力及びマルチビットシナプス重み値が使用される場合の、シナプス重みの変更技法を使用する学習の１つのインスタンスの例を示す。図８（ｖ）が示すように、４ビットスパイク入力が各スパイク入力インデックス上に記憶されるのに対し、４ビットシナプス重み値が各スパイク入力インデックス上に記憶される。モデルが多くの異なる入力パケットにさらされるとき、入力パケット及びシナプス重みは広く変わる。この例では、各シナプスが「０から１５」までのシナプス重み値を有することによって１６個の状態を有し得ることに留意すべきである。同様に、入力は「０から１５」までの値を有し得る。
【0208】
[226] 先の実施形態と同様に、この実施形態でのウィニングニューロンに関連するシナプスのシナプス重みの変更は、ネットワークの追加のニューロンに関連するシナプス重み値を考慮して実装される。但し、追加のニューロンはウィニングニューロンが属するネットワークの同じ層内にあることが好ましい。
【0209】
[227] 一部の事例では、受信されるスパイクパケットに基づいて高い膜電位を受信するニューロンが追加のニューロンとして考慮される。好ましくは、ウィニングニューロン及び追加のニューロンは受信されるスパイクパケットに基づいてスパイクしたニューロンである。この実施形態のニューロンのスパイキングは、好ましくはスパイキングニューロン回路が発火閾値に達するとき実装される。ウィニングニューロンは本発明の他の実施形態の中で開示する技法の何れか１つによって決定され得る。
【0210】
[228] 好ましくは、ウィニングニューロンは最大の（１番高い）膜電位値を有するニューロンとして決定されるのに対し、第１の追加のニューロン、第２の追加のニューロン等は２番目に高い、３番目に高い等の膜電位値を有するニューロンである。閾値に達したニューロンについてシナプス重み値が変更される。
【0211】
[229] 図８（ｖ）は、複数のシナプスによりシナプス後ニューロンによって受信されるスパイクパケット８２１０を示す。
【0212】
[230] スパイク値、シナプス重み値、再構築入力、及び再構築誤差のそれぞれが別個のインデックス（不図示）上に記憶されるのでインデックス８２０８を参照目的で示す。それらの別個のインデックスは、入力スパイクパケットインデックス（スパイクインデックス）、シナプス重みインデックス（重みインデックス）、再構築入力インデックス、及び再構築誤差インデックスと呼ぶ。
【0213】
[231] 各インデックスがマルチビット（４ビット）のスパイク入力値を記憶するように、スパイクパケットは２５個のスパイク入力インデックス（０から２４）を含む。各マルチビットスパイク入力値は、ウィニングスパイキングニューロン回路のマルチビット（４ビット）シナプス重み値、追加のスパイキングニューロン回路のマルチビット（４ビット）シナプス重み値（追加のスパイキングニューロン回路が複数ある場合は複数の１ビットシナプス重み値）、マルチビット再構築入力、及びマルチビット再構築誤差に対応する。スパイクインデックス０１、０６、０８、０９、１５、１６、１８、１９、及び２３は強調表示されて、スパイク値１５、５、１５、８、１１、１４、１３、９、及び４を含むことを示す。スパイクパケット８２１０内の残りの位置はゼロ（例えば、スパイクの不在を示す）を含む。
【0214】
[232] 本実施形態はシナプス重みインデックス（０から２４）ごとにマルチビット（４ビット）シナプス重み値を組み込む。シナプス重み８２１２が、ウィニングニューロン（ニューロン１）のための２５個（０から２４）のシナプス重みインデックスを含む。シナプス重みインデックス０１、０５、０６、１２、１４、１６、１８、２１、及び２３がウィニングニューロンに関連するシナプスのシナプス重み値１２、１５、２、７、９、４、１５、９、及び１２をそれぞれ記憶するのに対し、残りのインデックスのシナプス重み値は「０」である。同様に、シナプス重みインデックス８２１４が２５個のシナプス重みインデックスを記憶し、０１、０３、０５、０６、０９、１１、１２、１４、１５、１６、及び２３が追加のニューロン（ニューロン２）に関連するシナプスのシナプス重み値３、４、１、９、１５、１２、１３、４、６、７、及び１１をそれぞれ記憶するのに対し、残りのインデックスのシナプス重み値は「０」である。
【0215】
[233] ニューラルプロセッサが（ウィニングニューロン及び追加のニューロンに関連する）スパイクパケット及びシナプス重み値を処理し、受信された入力スパイクパケット８２１０に基づく学習を反映するようにシナプス重みインデックスの一部におけるシナプス重み値を変更することにより、ウィニングスパイキングニューロン回路（ニューロン１）に関連するシナプスの４ビットシナプス重み値（８２１２）の変更を開始する。
【0216】
[234] 図８（ｖ）の所与の例では、ニューラルプロセッサがウィニングスパイキングニューロン回路（ニューロン１）に関連するシナプスのシナプス重み値と追加のスパイキングニューロン回路（ニューロン２）に関連するシナプスのシナプス重み値とを合算することによって再構築入力（８２１６）を決定する。複数の追加のスパイキングニューロン回路も考慮することができ、同様に、２つ以上の追加のスパイキングニューロン回路のシナプス重み値とウィニングニューロンに関連するシナプスのシナプス重み値とを加算することにより、ニューラルプロセッサによって再構築入力が決定され得ることに留意すべきである。図８（ｖ）で認めるべきであるように、加算演算はインデックス単位で行われる。
【0217】
[235] 先に進み、ニューラルプロセッサは、スパイク入力値８２１０から、決定した再構築入力値８２１６を減算することによって再構築誤差を決定する。図８（ｖ）で認めるべきであるように、乗算演算及び減算演算の両方がインデックス単位で行われる。
【0218】
[236] ウィニングスパイキングニューロン回路（ニューロン１）のシナプス重み値に加え、（スパイク入力値を直接にではなく）再構築誤差を考慮した後、十分使用されていないスパイク８２２０を決定する。
【0219】
[237] 十分使用されていないスパイクは、正の再構築誤差及び最大シナプス重み値未満のシナプス重み値に対応するものだと決定される。例えばこの例では、８２２８、８２３０、８２３２、及び８２３４が十分使用されていないスパイクとして決定される。十分使用されていない重み８２２２は、負の再構築誤差及び正のシナプス重み値に対応するものだと決定される。例えばこの例では、８２３６、８２３８、８２４０、８２４２、８２４６、８２４８、及び８２５０が十分使用されていない重みとして決定される。
【0220】
[238] 先に進み、シナプス重み値の４つの対がランダム／任意に決定され、各対はウィニングニューロン（ニューロン１）の２つのシナプス重み値、つまり１組の十分使用されていないスパイク（インデックス８、１５、１６、及び１９内に示す８２２８、８２３０、８２３２、及び８２３４）から１つ、及び１組の十分使用されていない重み（インデックス５、６、１２、１４、２１、及び２３内に示す８２３６、８２３８、８２４０、８２４２、８２４６、８２４８、及び８２５０）から１つのシナプス重み値を含む。
【0221】
[239] 先に進み、シナプス重み値の変更によるモデルの学習が実行される。十分使用されていないスパイク／入力を引き起こしたシナプス重み値はインクリメントされるのに対し、十分使用されていない重みを引き起こしたシナプス重み値はデクリメントされる。その結果、シナプス重みインデックス８（８２５６）、１５（８２６２）、１６（８２６４）、及び１９（８２６８）内に記憶されるシナプス重み値８２１２は「１」インクリメントされており、シナプス重みインデックス１（８２５２）、６（８２５４）、１４（８２６０）、及び２１（８２７０）のシナプス値は「１」デクリメントされている。４つのシナプス重み値がインクリメントされ、４つのシナプス重み値がデクリメントされるので、合計のシナプス重み値はスパイクパケットの処理後も一定のままになる。インデックス１３、１８、及び２４（８２５８、８２６６、及び８２７２）において記憶されるシナプス重み値は変更されない。
【0222】
[240] 次のインスタンスで同じ入力スパイクパケット８２１０が更新されたシナプス重み値８２１２によって処理される場合、図面から認めることができるように、再構築誤差８２２６は先の再構築誤差８２１８と比較したとき低減する。これを総再構築誤差と述べることができ、総再構築誤差はシナプス重み値の絶対値の和であり、第１のインスタンスで入力スパイクを処理した後で１４０であり、同じスパイクパケットを処理した後の第２のインスタンスでは１３２であり、学習を明確に示している。
【0223】
[241] 上記で開示した実施形態によれば、ニューラルプロセッサは以下のステップによって学習を行うように構成される。
【0224】
[242] 第１のステップで、ニューラルプロセッサは、層のウィニングスパイキングニューロン回路に関連するシナプスのマルチビットシナプス重み値と、層の少なくとも１つの追加のスパイキングニューロン回路に関連するシナプスのマルチビットシナプス重み値とを合算することにより、複数のマルチビット再構築入力値を決定する。
【0225】
[243] 次のステップで、ニューラルプロセッサは、層のウィニングスパイキングニューロン回路のシナプスのマルチビットシナプス重み値と、層の少なくとも１つの追加のスパイキングニューロン回路のシナプスのマルチビットシナプス重み値とを合算することにより、複数のマルチビット再構築入力値を決定する。
【0226】
[244] 次のステップで、ニューラルプロセッサは、マルチビットスパイク入力値からマルチビット再構築入力値を減算することにより、複数のマルチビット再構築誤差値を決定する。
【0227】
[245] 次のステップで、ニューラルプロセッサは、十分使用されていないスパイクを表すスパイクパケット内の第１のマルチビットスパイク入力値を決定し、第１のマルチビットスパイク入力値は第１の非ゼロの正の再構築マルチビット誤差値、及び最大シナプス値未満の値を有するウィニングスパイキングニューロン回路の第１のシナプスの第１のマルチビットシナプス重み値に対応する。
【0228】
[246] 次のステップで、ニューラルプロセッサは、十分使用されていない重みを表すスパイクパケット内の第２のマルチビットスパイク入力値を決定し、第２のマルチビットスパイク入力値は第２の非ゼロの負の再構築マルチビット誤差値、及びウィニングスパイキングニューロン回路の第２のシナプスの非ゼロの正の第２のマルチビットシナプス重み値に対応する。
【0229】
[247] 最後のステップで、ニューラルプロセッサは、第１のマルチビットシナプス重みの値をインクリメントし、第２のマルチビットシナプス重みの値をデクリメントする。
【0230】
[248]
【0231】
[249] 一部の実施形態では、ニューラルプロセッサは、それぞれの受信されるスパイクパケットに関してネットワークの層ごとに複数のニューロンが発火することを認めるように構成される。この構成は、ネットワークのニューロンに関して１つ又は複数の発火閾値を設定することによって実現される。受信される入力スパイクパケットに関してニューロンに関連する発火閾値が実現される場合は常に、ニューロンがスパイクするように構成される。
【0232】
[250] 図８（ｉ）から図８（ｖ）で開示した実施形態は、スパイクパケットの処理後にシナプス後ニューロン（又はウィニングニューロン）に関連するシナプスの総シナプス重み値が変わらないようなシナプス重みの変更技法を開示する。但し一部の実施形態では、ニューラルプロセッサはシナプス重みの変更を如何なる制約もなしに実装するように構成される。より詳細には、シナプス後ニューロン（又はウィニングニューロン）に関連するシナプスの総シナプス重み値が変わらないかどうかを考慮することなしに実装され得る。好ましくは、かかる手法はシナプス重み値がマルチビットである場合、及び膜電位が先に開示した方法２～４の何れかを使用して決定される場合に組み込まれる。
【0233】
[251] 一部の実施形態では、ネットワーク内のマルチビットシナプス重みを定め、ネットワークの学習時のその進化を定めるために以下のパラメータを使用する：
ｗｍａｘ－最大シナプス重み値（シナプスに割り当てられるビットの数によって、及びシナプス重みインデックスのそれぞれにおいて４ビット必要であることを定めるために設定される。他の例は、５ビットで３２個までの最大シナプス重み値を定めることができ、６ビットで６４個までの最大シナプス重み値を定めることができるものであり得る）
ｗｄｅｌｔａ－各学習イベント時のシナプス重みの変化
ｗｉｎｉｔ－初期シナプス重み（好ましくはこれらはランダム／任意に選ばれる重みである）
ｗｍａｘ－最大シナプス重み値（シナプスに割り当てられるビットの数によって、及びシナプス重みインデックスのそれぞれにおいて４ビット必要であることを定めるために設定される。他の例は、５ビットで３２個までの最大シナプス重み値を定めることができ、６ビットで６４個までの最大シナプス重み値を定めることができるものであり得る）
ｗｄｅｌｔａ－各学習イベント時のシナプス重みの変化
ｗｉｎｉｔ－初期シナプス重み（好ましくはこれらはランダム／任意に選ばれる重みである）
【0234】
[252] シナプス重みの変更についての上記で説明した技法は、関連する学習閾値に達した全てのニューロンについて行われ得る。但し、受信される入力スパイクパケットに関して複数のニューロンが関連する学習閾値に達する場合にシナプス重み値が複数のニューロンについて変更されるとき、かかる変更は複数のニューロンが同じ入力パケットを学習し、それによりネットワークの効率を下げることを引き起こす。このことから、１つのニューロンだけが特定のスパイクパケットを学習することをもたらす、１つのニューロンだけのシナプス重みの変更が好ましい。
【0235】
【0236】
[254] 一部の実施形態では、スパイクパケットのバッチが処理されるとき総シナプス強度値が一定に保たれる。例えば複数のスパイクパケットが処理されるとき（正又は負の）追加の負荷値（debt value）が保たれ、処理の終了時にその負荷値は閾値（例えば０、２０、－１０）未満に保たれる。
【0237】
[255] 上記の実施形態では、ウィニングニューロンがスパイク入力を受信する元であるウィニングニューロンに関連するシナプスだけが、学習を反映するようにシナプス重みの変更についてのみ考慮される。
【0238】
[256] 一部の実施形態では、スパイク入力及びシナプス重み値が同じ範囲内にない場合、それらを同じ範囲内に導くために追加のステップが行われる。先の実施形態による図面はスパイク及びシナプス重みインデックス内の１０進値を表すが、それらはハードウェア内ではバイナリ値として記憶され処理されることを当業者なら理解されよう。０と１の様々な種類の入力データを受信し、教師なし学習を行うことができるハードウェア内で学習が実装されるとき本発明は利点を提供する。
【0239】
[257] 図８（ｉｉｉ）による実施形態等の一部の実施形態では、層内のスパイキングニューロン回路それぞれの膜電位を決定するために先に開示した方法の種類１が使用される。
【0240】
[258] 図８、図８（ｉｉｉ）から図８（ｖ）による実施形態の中で記載した数学的演算は、神経線維上で利用可能な専用ハードウェアを使用して又はプロセッサ複合体上で実行されるソフトウェアにより、重み交換器１１３、重みインクリメンタ及びデクリメンタ１５０、ＡＬＵ１５２、及びＡＮＤ回路（１０７、１０８）、並びにカウンタ１０９の１つ又は複数を使用して実行され得ることを理解すべきである。
【0241】
【0242】
[260] 好ましくは、図８による実施形態を実装するために、ＡＮＤ回路（１０７、１０８）、カウンタ１０９、及び重み交換器１１３が使用される。
【0243】
[261] 更なる実施形態は、ワンショット／低ショット／マルチショット学習を実現するために、教師あり又は半教師ありの学習モードで入力ストリームから特徴を学習し、かかる特徴の抽出を実行するように構成された、改良されたスパイキングニューラルネットワーク（ＳＮＮ）のシステム、装置、デバイス、方法、及び／又はコンピュータプログラム製品の実施形態及び／又はその組み合わせ及び下位組み合わせを提供する。
【0244】
[262] ワンショット／低ショット学習は、ネットワークが非常に少ないトレーニングサンプルから新たなクラスを学習しようと試みるタスクである。有利には、開示する実施形態は一部の応用（例えば顔認識）においてスパイキングニューラルネットワークが５個未満のサンプルでさえ学習することを可能にする。
【0245】
[263] ワンショット／低ショット学習技法に関して開示する学習プロセスは、低電力の及び計算的に効率的でないデバイス上でローカルに（エッジ上で）実行され得るので計算的に軽量である。推論中の素晴らしい精度を実現することに完全に集中するのではなく、開示するワンショット／低ショット学習方法は制約された状況において妥当な精度を実現することに集中する。制約された状況は、信頼できるインターネットを利用できないこと、より単純なアルゴリズムしか実装することができないハードウェア、電池寿命が短いデバイス、低レイテンシを必要とするアプリケーション（自動走行車両における事故回避状況）等により得る。
【0246】
[264] 図９は、本発明の実施形態又は当技術分野で知られている他の任意の技法を使用して実装されトレーニングされる、４つの層を有するベーススパイキングニューラルネットワークを示す。
【0247】
[265] 本発明の実施形態を使用してネットワークを実装するために、神経線維がスパイキングニューロン回路Ｌ１１、Ｌ１２、Ｌ１３、Ｌ１４、Ｌ１５、Ｌ２１、Ｌ２２、Ｌ２３、Ｌ２４、Ｌ３１、Ｌ３２、Ｌ３３、Ｌ４１、Ｌ４２、及びＬ４３を実装し、それらの関連するシナプスが図示の接続として実現されるようにニューラルネットワーク構成が定められる。
【0248】
[266] ニューロモルフィックシステム（例えばチップ）上にネットワークが実装されると、そのネットワークは一次トレーニングデータセットを使用してトレーニングされる。一次トレーニングデータセットはスパイクに変換され、そのスパイクが更にパケット化され、入力ソースＩ１１、Ｉ１２、Ｉ１３、Ｉ１４、Ｉ１５、及びＩ１６による入力としてシナプスを介して第１の層（Ｌ１）のスパイキングニューロン回路（Ｌ１１、Ｌ１２、Ｌ１３、Ｌ１４、Ｌ１５）に提供される。第１の層（Ｌ１）のスパイキングニューロン回路（Ｌ１１、Ｌ１２、Ｌ１３、Ｌ１４、Ｌ１５）は、発火要件（例えば関連する膜電位値が発火閾値に達すること）が満たされる場合に発火する。発火の結果として、第１の層（Ｌ１）のスパイキングニューロン回路（Ｌ１１、Ｌ１２、Ｌ１３、Ｌ１４、Ｌ１５）からのスパイクが第２の層（Ｌ２）のスパイキングニューロン回路（Ｌ２１、Ｌ２２、Ｌ２３、Ｌ２４）によって受信される。同様に、スパイクは更なる層のスパイキングニューロン回路によって受信される。ネットワークのシナプス重み値は、先の実施形態の中で開示したシナプス重み値の変更技法の何れか１つを用いて変更される。シナプス重み値は１ビット又はマルチビットであり得る。
【0249】
[267] ベースニューラルネットワークが完全にトレーニングされると、そのベースニューラルネットワークは受信される入力データからのパターンを認識し、ネットワークの第４の（最後の）層内のニューロンによって実装される分類操作によって実現されるタスクを実行する。第１の層、第２の層、及び第３の層の中の各スパイキングニューロン回路がパターンを検出する。例えばＬ３２は、自らがスパイクを受信する元である前のスパイキングニューロン回路Ｌ２１、Ｌ２２、Ｌ２３、及びＬ２４によって検出される少数の特徴に基づいてより広範なレベルの特徴を検出する。スパイキングニューロン回路Ｌ２１、Ｌ２２、Ｌ２３、及びＬ２４のそれぞれが第１の層（Ｌ１）内の前のスパイキングニューロン回路Ｌ１１、Ｌ１２、Ｌ１３、及びＬ１４からスパイクを受信するので、スパイキングニューロン回路Ｌ３２によって検出される特徴は第１の層及び第２の層の全てのスパイキングニューロン回路によって認識される特徴に依存する。
【0250】
[268] 先の実施形態（図８（ｉ）及び図８（ｉｉ））で記載したように、層の全てのスパイキングニューロン回路の膜電位値に基づき、受信されるパケットごとにネットワークの各層のウィニングスパイキングニューロン回路を選択した後でシナプス重み値の変更が行われる。図８（ｉ）の８０００４の図面要素及び図８（ｉｉ）の８００１６／８００２２の図面要素がこの点に関するプロセスを例示する。
【0251】
[269] ベーススパイキングニューラルネットワークが実装され、完全にトレーニングされ、ユーザが一次トレーニングデータセットと異なる二次トレーニングデータセットを使用して追加のトレーニングを行う必要がある場合、（図１０～図１５による）以下のトレーニング方法が提案される。これらの方法は半教師ありの及び教師ありの学習方法を利用する。
【0252】
[270] 更なる実施形態で使用される一次トレーニングデータ及び二次トレーニングデータは異なるが、幾らかの共通の特性を有する。例えば一次データセットは人間の顔を有する画像を有することができ、二次データセットは一次データセット内になかった人間の顔を有することができる。
【0253】
[271] 図１０は、図９に示すベーススパイキングニューラルネットワークを変更することによって実装される変更済みニューラルネットワークを示す。ベースニューラルネットワークは、プロセッサ複合体（２０４）等の補足的プロセッサによって伝達される更新済みネットワーク構成パラメータをユーザによってニューラルプロセッサに与えることによって変更される。
【0254】
[272] 図示のように、変更済みニューラルネットワークは２つの補足的ニューロン（Ｌ４４及びＬ４５）を含み、各ニューロンは固有のクラスを表すことを学習する。図１０に示すように最後の層内の追加のクラス（例えばＬ４４（１００２）及びＬ４５（１００４））と共に新たなネットワークを最初から実装し、それを完全なデータセット（一次トレーニングデータセット及び二次トレーニングデータセット）でトレーニングするのではなく、ベーススパイキングニューラルネットワークは２つの補足的スパイキングニューロン回路（Ｌ４４及びＬ４５）を含む変更済みスパイキングニューラルネットワークを実装するためにベースニューラルネットワークを使用して変更され、二次トレーニングデータセットだけを使用して更にトレーニングされる。有利には、このことはユーザの時間及び労力を節約し、継続的な学習を促進する。
【0255】
[273] この技法により、ニューロンＬ４４及びＬ４５に関連するシナプス（点線として示す）のシナプス重み値は、二次データセットを供給することによって実現される学習に基づいてのみ決定される。シナプス重み値は、先の実施形態の中で開示したシナプス重みの変更技法を使用して決定される。前のニューロンに関連するシナプスのシナプス重み値は保持／再利用される。この技法により、有利には更なるタスクを実行するために、一次トレーニングデータセットを使用してトレーニングされた層Ｌ１～Ｌ３の既存のニューロンによって実現される高レベル学習が、二次トレーニングデータセットを使用して補足的ニューロン（Ｌ４４及びＬ４５）によって実現される補足的学習と組み合わせられる。
【0256】
[274] 学習プロセスの間、二次トレーニングデータセットが、教師なし学習モードではなく教師ありモードの変更済みスパイキングニューラルネットワーク内に供給される。例えばユーザは、教師ありモード内で新たなクラスに関係する二次データをネットワークに供給する。ニューラルプロセッサが二次データを受信し、そのデータをスパイクに変換する。複数のスパイクパケットが形成され、更に処理される。各層は複数のスパイクパケットを受信する。第１の層は入力層からスパイクパケットを受信するのに対し、その後の層は前の層内のニューロンの発火によって生成されるスパイクの結果としてスパイクパケットを受信する。各層において、スパイクパケットのそれぞれを処理するとき、ウィニングスパイキングニューロン回路（ウィニングニューロン）としてスパイキングニューロン回路が１つだけ選択され、それに関連するシナプスについてシナプス重み値の変更が実行される。
【0257】
[275] この例では、ウィニングスパイキングニューロン回路がＬ４４及びＬ４５のニューロンから、層内の残りのニューロンの膜電位値を考慮せずに選択される。ウィニングスパイキングニューロン回路を選択するとき、ニューロンＬ４１、Ｌ４２、及びＬ４３の膜電位値は決定されないか又は無視される。好ましくは、ニューラルプロセッサは、入力としての二次データ及び二次データが関係するクラス情報を受信する。ニューラルプロセッサが新たなクラスに関係する二次データを受信する場合、ニューラルプロセッサは学習のための補足的ニューロンをランダムに又は任意に選択する。学習中に層の１つ又は複数のスパイキングニューロンの膜電位値を考慮しない（無視する）ために、ユーザが典型的には二次トレーニングデータセットに関するクラス情報及び１つ又は複数の補足的スパイキングニューロン情報の少なくとも１つを提供する。
【0258】
[276] 一部の実施形態では、二次データセットの１つ又は複数の初期パケットを処理した後でニューロンが二次データの異なるクラスに割り当てられる。二次データセットの特定のクラスについて高い膜電位値を受信するニューロンはそのクラスに割り当てられる。
【0259】
[277] 一部の実施形態では、ネットワークに供給される二次データのクラスに関する補足的ニューロンがユーザによって選択される。
【0260】
[278] ワンショット学習の場合、その後のデータはモデルに供給されず、受信された第１のデータ（例えば顔を有する画像）に基づいて変更されるシナプス重み値が推論中に使用されるために確定（決定）される。
【0261】
[279] マルチショット学習の場合、同じクラスのための複数のデータ入力（例えば複数の画像）が補足的ニューロンをトレーニングするために供給される。
【0262】
[280] この実施形態で実行される学習方法は教師あり学習方法と呼ばれ、それはニューラルプロセッサが二次データ、二次データに関するクラス情報、及びそのクラスを認識するための１つだけの補足的ニューロンの学習の結果を受信するからである。
【0263】
[281] 図１０に記載した実施形態は、最後の層内のベースネットワークのニューロン（例えばＬ４１、Ｌ４２、Ｌ４３）が変更済みニューラルネットワーク内に保持されない場合も同様に実装できることを当業者なら理解されよう。
【0264】
[282] 図１１は、図９に示すベーススパイキングニューラルネットワークを変更することによって実装される変更済みニューラルネットワークを示す。ベースニューラルネットワークは、更新済みネットワーク構成パラメータをユーザによってニューラルプロセッサに与えることによって変更される。
【0265】
[283] 図示のように、変更済みネットワークは同じクラス（換言すれば同じクラスの２つの下位クラス）を表すことを学習する２つの補足的ニューロンを含むのに対し、先のスパイキングニューロン回路Ｌ４１、Ｌ４２、及びＬ４３は３つの固有のクラスを表す。図面が示すように、２つのスパイキングニューロン回路Ｌ４４（１１０２）及びＬ４４（１１０４）がベースニューラルネットワークを変更することによって変更済みスパイキングニューラルネットワーク内に追加で含められる。
【0266】
[284] 本実施形態では、ニューロンＬ４４（１１０２）及びＬ４４（１１０４）をトレーニングするために、図１０による実施形態で記載した教師あり学習モードの代わりに半教師ありモードの学習方法を実行する。
【0267】
[285] この方法は半教師あり学習方法と呼ばれ、それはニューラルプロセッサが二次データ、二次データのクラス情報、及び同じクラスを認識するための２つ以上の補足的ニューロンの学習の更なる結果を受信するからである。
【0268】
[286] 学習中、前のスパイキングニューロン回路に関連するシナプスのシナプス重み値は変更されないのに対し、補足的スパイキングニューロン回路に関連するシナプスのシナプス重み値は変わることを認められる。ニューラルプロセッサは、二次データから生成されるスパイク、クラス情報、及びそのクラスを認識するための２つ以上の補足的ニューロンの学習の更なる結果を受信する。
【0269】
[287] 二次データに関係するスパイク（スパイクパケット）が処理されると、二次データに関係するスパイクに基づく学習を実現するためにスパイキングニューロン回路Ｌ４４（１１０２）又はＬ４４（１１０４）の１つだけがウィニングニューロンとして選択され、ウィニングニューロンについてシナプス重み値が変更される。マルチショット学習の場合、スパイキングニューロン回路Ｌ４４（１１０２）及びＬ４４（１１０４）のそれぞれが典型的には同じクラスの下位クラスを認識することを学習する。
【0270】
[288] 一部の実施形態では、例えばあるクラスに関係する二次データセットが多様であり、限られた共通の特徴を含まない場合、ニューラルプロセッサはユーザの関与なしに補足的スパイキングニューロン回路を採用するように構成される。例えば手書きの７の数字は中ほどの横棒ありで又はなしで書かれる場合があり、そのためどちらも見た目が異なり得る。どちらも同じクラス内の「７」として分類される必要があるので、そのような７の両方の外観を集合的に認識するように２つのニューロンＬ４４（１００２）及びＬ４４（１１０４）をトレーニングすることができる。この使用事例は図１０による実施形態でも実装できるが、本実施形態で実現可能な精度を提供しない可能性があることを理解すべきである。
【0271】
[289] 一部の実施形態では、プロセッサ複合体が、変更済みニューラルネットワークを実装するための構成パラメータを受信する。構成パラメータは、含められる補足的ニューロンの数及びクラスの認識を学習することを許可される補足的ニューロンの数を含み得る。
【0272】
[290] 一部の実施形態では、更に変更されたネットワークを実現するために、補足的スパイキングニューロン回路を既に存在する層内に含めることにより、又はそれらを１つ若しくは複数の追加の層内に与えることにより、図１０及び図１１に示す変更済みベーススパイキングニューロン回路を更に変更しトレーニングすることができる。更に変更されたネットワークをトレーニングするために半教師あり又は教師あり学習技法が使用される。
【0273】
[291] 補足的スパイキングニューロン回路がベースネットワークのＮ番目の（最後の）層内に含められる場合、パケタイザがＮ－１層のスパイキングニューロン回路のパケット化操作を変更する。例えば図１２に示すように、各ニューロンＬ３１、Ｌ３２、及びＬ３３が２つの追加のニューロンに接続されるので、層Ｌ３（Ｎ－１層）の各スパイキングニューロンＬ３１、Ｌ３２、及びＬ３３のパケット化操作が１２０２から１２０４に変更される。重要なことに、学習を実装するために、各スパイク値はシナプス重み値に１対１のマッピングによってマップされる。したがってパケタイザは、パケット内に３つのスパイク値（換言すれば活性化）ではなく５つのスパイク値（換言すれば活性化）を有するようにパケット化操作を変更する。例えば更新されたパケットのスパイク値（活性化）０、１２、３、４、及び２が、シナプス重み値０、５、１０、１３、及び０をそれぞれ有するシナプスにわたって送信される。図面要素１２０６及び１２０８から見て取れるように、追加のシナプス重み値がメモリ内に記憶される必要がある。
【0274】
[292] 図１３は、図９に示すベーススパイキングニューラルネットワークを変更することによって実装される変更済みニューラルネットワークを示す。この変更済みネットワークは、５つの補足的ニューロンＬ４４（１３０２）、Ｌ４５（１３０４）、Ｌ４６（１３０６）、Ｌ４６（１３０８）、及びＬ４６（１３１０）を含む。既存の１つのニューロンＬ４１が保持され、２つのニューロンＬ４２及びＬ４３がベースネットワークから除去される。ニューロンＬ４６（１３０６）、Ｌ４６（１３０８）、及びＬ４６（１３１０）は同じクラス（換言すれば同じクラスの３つの下位クラス）を表すようにトレーニングされるのに対し、ニューロンＬ４１、Ｌ４４、及びＬ４５は固有のクラスを表すようにトレーニングされる。スパイキングニューロン回路Ｌ４４及びＬ４５に関連するシナプスのシナプス重み値は図１０による実施形態で記載した教師あり学習を使用して決定され、スパイキングニューロン回路Ｌ４６（１３０６）、Ｌ４６（１３０８）、及びＬ４６（１３１０）に関連するシナプスのシナプス重み値は図１１による実施形態で記載した半教師あり学習を使用して決定される。残りのニューロンに関連するシナプスのシナプス重み値は変更されない。
【0275】
[293] 図１４は、図９に示すベーススパイキングニューラルネットワークを変更することによって実装される変更済みニューラルネットワークを示す。この変更済みニューラルネットワークは、ベースネットワークからの最後の層内のスパイキングニューロン回路の何れも保持されない側面においてのみ図１３の先の実施形態と異なる。ニューロンＬ４４及びＬ４５は図１０で記載した教師あり学習モードを使用してトレーニングされるのに対し、ニューロンＬ４６（１４０６）、Ｌ４６（１４０８）、及びＬ４６（１４１０）は図１１で記載した半教師あり学習モードを使用してトレーニングされる。
【0276】
[294] 図１５は、図９に示すベーススパイキングニューラルネットワークを変更することによって実装される変更済みニューラルネットワークを示す。この変更済みニューラルネットワークは、層Ｌ１～Ｌ４の全てのニューロンが保持され、ニューロンＬ５１（１５０２）、Ｌ５２（１５０４）、Ｌ５２（１５０６）、Ｌ５２（１５０８）、及びＬ５３（１５１０）を含む補足的ニューロンが（Ｌ４の代わりに）層Ｌ５内に追加される側面において図１０～図１４で記載した先の実施形態と異なる。ニューロンＬ５１（１５０２）及びＬ５３（１５１０）は図１０で記載した教師あり学習モードを使用してトレーニングされるのに対し、ニューロンＬ５２（１５０４）、Ｌ５２（１５０６）、及びＬ５２（１５０８）は図１１で記載した半教師あり学習モードを使用してトレーニングされる。
【0277】
[295] 図１０～図１５は簡単な例によって学習プロセスを記載することを当業者なら理解されよう。実際の応用では、各層内のニューロンの数、補足的ニューロンの数、及びクラスごとの補足的ニューロンの数は異なり、それらは好ましくはネットワーク構成パラメータを使用して定められる。
【0278】
[296] 一部の実施形態では、ベースニューラルネットワークが、層のスパイキングニューロン回路から別の層のスパイキングニューロン回路への１つ又は複数のフィードバック接続を含む。
【0279】
[297] 一部の実施形態では、ベースネットワークが本発明で開示していない技法を使用してトレーニングされる。例えば本発明の実施形態で開示する様々な技法による変更及びトレーニングの前に、従来の非スパイキング技法を使用して実装されトレーニングされる従来の非スパイキングベースネットワークが図９に示すスパイキングベースニューラルネットワークに変換され得る。
【0280】
[298] 一部の実施形態では、従来の非スパイキングベースネットワークが従来のトレーニング方法を使用してオフチップで実装されトレーニングされる。幾つかの非スパイキングベースネットワークパラメータが決定され、量子化プロセスを使用してスパイキングベースネットワークパラメータに変換される。更に進み、決定したベーススパイキングネットワークパラメータを使用してチップ上のベーススパイキングネットワークを実装する。最後に、ベーススパイキングネットワークが先の実施形態の中で開示した技法を使用して変更されトレーニングされる。
【0281】
[299] 図１６は、マルチショット学習方法を使用して実装され、トレーニングデータセットを使用して更にトレーニングされるスパイキングニューラルネットワークを示す。先の実施形態の中で開示したワンショット／低ショット学習方法の目的はより少数のトレーニングデータを用いるベースニューラルネットワークの前の学習を利用する学習を実現することだが、本実施形態のスパイキングニューラルネットワークは最初からトレーニングされる。このスパイキングニューラルネットワークは、入力層及び出力（最後の）層Ｌ１を有する。出力層Ｌ１は、ニューロンＣ１（１６０２）、Ｃ２（１６０４）、Ｃ２（１６０６）、Ｃ２（１６０８）、及びＣ３（１６１０）を含む。ニューロンＣ１（１６０２）及びＣ３（１６１０）は、図１０によって記載した実施形態のように教師あり学習方法を使用してトレーニングされる。ニューロンＣ２（１６０４）、Ｃ２（１６０６）、及びＣ２（１６０８）は、図１１に記載した実施形態のように半教師あり学習方法を使用してトレーニングされる。
【0282】
[300] 対応するクラスのトレーニングデータセットに基づいてネットワークが学習するとき、全てのニューロンに関連するシナプス重み値が変更される。ネットワークが完全にトレーニングされると、推論中、ニューロンＣ１（１６０２）が第１のクラスに関係するデータを分類し、ニューロンＣ２（１６０４）、Ｃ２（１６０６）、及びＣ２（１６０８）が第２のクラスに関係するデータを分類し、Ｃ３（１６１０）が第３のクラスに関係するデータを分類することができる。
【0283】
[301] 図１６に示すスパイキングニューラルネットワーク内に追加の層が加えられてもよく、本発明の実施形態を使用して更にトレーニングされ得ることを当業者なら理解すべきである。
【0284】
[302] 一部の実施形態では、ニューラルプロセッサは、トレーニング中にネットワーク内の更に多くの補足的ニューロンを構成することにより、又はネットワーク内の不要な補足的ニューロンを構成解除することにより、補足的ニューロンの数及びクラスごとの補足的ニューロンの数を動的に最適化する。
【0285】
[303] 補足的ニューロンに関連するシナプスのシナプス重み値は（１ビット又はマルチビットの）バイナリ値のものであり、浮動小数点（１０進）値ではないことを理解すべきである。先の実施形態では、任意の浮動小数点値を便利に扱うことができるソフトウェアを使用してシナプス重み値又は特徴ベクトルを決定するのではなく、シナプス重み値がバイナリ（１ビット又はマルチビット値）によって設定され決定（変更）される。この実装のやり方は他のソフトウェアアルゴリズムの実装がハードウェア（又はチップ）上で実行されることを許可しないが、その低電力の要件を理由に有利である。
【0286】
[304] 本発明によれば、複数のスパイキングニューロンのそれぞれに関連するシナプスの入力データ及びシナプス重み値に基づき、ニューラルネットワークの１つ又は複数のスパイキングニューラルネットワーク層からのニューラルネットワークのスパイキングニューラルネットワーク層内にある複数のスパイキングニューロンのそれぞれについて膜電位値を決定し、ニューラルネットワークの学習関数を示す対応する学習閾値にその膜電位値が達したニューラルネットワークのスパイキングニューラルネットワーク層内の複数のスパイキングニューロンから１組のスパイキングニューロンを決定し、入力データに関してニューラルネットワークのスパイキングニューラルネットワーク層内の１組のスパイキングニューロンからウィニングスパイキングニューロンを決定し、入力データに基づくニューラルネットワークの学習関数を反映するように、ウィニングスパイキングニューロンに関連する１つ又は複数のシナプスについてシナプス重み値の変更を行うように構成される、ニューラルネットワークの１つ又は複数のスパイキングニューラルネットワーク層のためのニューラルプロセッサを含む、システムが提供される。
【0287】
[305] １つ又は複数の実施形態では、このシステムは、入力データに基づいて生成される１つ又は複数のスパイクによって形成される複数のスパイク入力値を含むスパイクパケットを生成するように構成されるパケタイザであって、スパイクパケット内の各スパイク入力値は複数のシナプス内のシナプスのシナプス重み値に対応する、パケタイザと、１つ又は複数のスパイク及びニューラルネットワーク構成に基づくタスクを実行するための、複数のスパイキングニューロンに関連する複数のスパイキングニューロン回路を含むニューラルプロセッサを含む再構成可能神経線維と、ニューラルネットワーク構成を含むメモリであって、ニューラルネットワーク構成は電位アレイ及び複数のシナプスを含み、ニューラルネットワーク構成は１つ又は複数のスパイキングニューラルネットワーク層内の複数のスパイキングニューロン回路と複数のシナプスとの間の接続を定め、電位アレイは複数のスパイキングニューロン回路の膜電位値を含み、複数のシナプスは対応するシナプス重み値を有する、メモリとを更に含む。
【0288】
[306] １つ又は複数の実施形態では、スパイクパケットが複数のインデックスを含むことができ、各インデックスは１つ又は複数のスパイクビットを記憶し、各スパイクビットはスパイク入力値を表し、スパイクビットのそれぞれは複数のシナプスの中のシナプスに対応する。
【0289】
[307] １つ又は複数の実施形態では、ウィニングスパイキングニューロンに関連するシナプスが複数のインデックス内に記憶され、各インデックスは１つ又は複数のシナプス重みビットを記憶し、１つ又は複数のシナプス重みビットのそれぞれはシナプス重み値を表す。
【0290】
[308] １つ又は複数の実施形態では、各シナプス重み値が、マルチビットデジタル値によってそれぞれ表されるゼロ及び正の整数値、マルチビットデジタル値によってそれぞれ表される正の整数値、マルチビットデジタル値によってそれぞれ表される正の整数値及び負の整数値、並びにマルチビットデジタル値によってそれぞれ表される負の整数値、ゼロ、及び正の整数値の１つを含む値の群から選択される。
【0291】
[309] １つ又は複数の実施形態では、ニューラルプロセッサは、生成されるスパイクパケットに基づく学習を行うために、ウィニングスパイキングニューロンに関連する複数のシナプスからの第１のシナプスのシナプス重み値をインクリメントすること、及びウィニングスパイキングニューロンに関連する複数のシナプスからの第２のシナプスのシナプス重み値をデクリメントすることの少なくとも１つによってシナプス重み値の変更を行うように構成される。
【0292】
[310] １つ又は複数の実施形態では、ニューラルプロセッサは、シナプス重み値の変更前に決定される第１のシナプスに関連する第１のシナプスベクトル長と、シナプス重み値の変更後に決定される第２のシナプスに関連する第２のシナプスベクトル長とが同様の値であるようにシナプス重み値の変更を行うよう構成される。
【0293】
[311] 本発明の様々な実施形態は、スパイキングニューラルネットワークを実装しトレーニングするための複数の選択肢をユーザに与えることを当業者なら理解されよう。但し、実装するための応用及び資源の可用性及び制約に応じて、ネットワークを実装するために本発明で開示した１つ又は複数の技法が組み込まれ得る。
【0294】
【0295】
[313] 添付の特許請求の範囲及び本発明の先の説明において、表現される言語又は必然的推断により文脈上他の意味に解すべき場合を除き、「含む（comprise）」という言葉又は「含む（comprises）」若しくは「含んでいる（comprising）」等の異体は包含的な意味で、即ち本発明の様々な実施形態の中の更なる特徴の存在又は追加を除外するためではなく述べられた特徴の存在を指定するために使用される。
【0296】
[314] 本明細書で従来技術の任意の刊行物を参照するとき、かかる参照は豪州又は他の任意の国においてその刊行物が当技術分野における周知の一般知識の一部を形成することを容認することにはならないことを理解すべきである。
【0297】
[315] 本発明の趣旨及び範囲から逸脱することなしに多くの変更が加えられてもよいことを本発明の当業者なら理解されよう。
【符号の説明】
【0298】
１０２ スパイクデコーダ回路
１０７ ＡＮＤ回路
１０９ カウンタ
１１３ 重み交換器
１５０ 重みインクリメンタ及びデクリメンタ
１５２ 論理演算ユニット
２０４ プロセッサ複合体
２２４ メモリ
８０９２ インデックス
８０９６ スパイクパケット
８０９８ シナプス重み
８１００ シナプス重み
８１０６ 十分使用されていないスパイク
８１０８ 十分使用されていない重み
８１１０ シナプス重み値
８１４８ インデックス
８１５０ スパイクパケット
８１５２ シナプス重み
８１５４ シナプス重みインデックス
８１５６ 構築入力
８１５８ 構築誤差
８１６０ 十分使用されていないスパイク
８１６２ 十分使用されていない重み
８１６４ シナプス重み値
８１６６ 構築誤差
８２０８ インデックス
８２１０ スパイクパケット
８２１２ シナプス重み
８２１４ シナプス重みインデックス
８２１６ 構築入力
８２１８ 構築誤差
８２２０ 十分使用されていないスパイク
８２２２ 十分使用されていない重み
８２２６ 構築誤差
１０７ ＡＮＤ回路
１０９ カウンタ
１１３ 重み交換器
１５０ 重みインクリメンタ及びデクリメンタ
１５２ 論理演算ユニット
２０４ プロセッサ複合体
２２４ メモリ
８０９２ インデックス
８０９６ スパイクパケット
８０９８ シナプス重み
８１００ シナプス重み
８１０６ 十分使用されていないスパイク
８１０８ 十分使用されていない重み
８１１０ シナプス重み値
８１４８ インデックス
８１５０ スパイクパケット
８１５２ シナプス重み
８１５４ シナプス重みインデックス
８１５６ 構築入力
８１５８ 構築誤差
８１６０ 十分使用されていないスパイク
８１６２ 十分使用されていない重み
８１６４ シナプス重み値
８１６６ 構築誤差
８２０８ インデックス
８２１０ スパイクパケット
８２１２ シナプス重み
８２１４ シナプス重みインデックス
８２１６ 構築入力
８２１８ 構築誤差
８２２０ 十分使用されていないスパイク
８２２２ 十分使用されていない重み
８２２６ 構築誤差
【図1】
【図2A】
【図2B】
【図3】
【図4】
【図5】
【図6A】
【図6B】
【図7】
【図8】
【図8i】
【図8ii】
【図8iii】
【図8iv】
【図8v】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【外国語明細書】