知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6974955
(24)【登録日】2021年11月9日
(45)【発行日】2021年12月1日
(54)【発明の名称】クロスバー構造および最適化問題解探索システム
(51)【国際特許分類】
H01L 21/8239 20060101AFI20211118BHJP
H01L 27/105 20060101ALI20211118BHJP
H01L 45/00 20060101ALI20211118BHJP
G06N 3/06 20060101ALI20211118BHJP
H01L 49/00 20060101ALI20211118BHJP
【ＦＩ】
H01L27/105 448
H01L45/00 Z
G06N3/06
H01L49/00 Z
【請求項の数】8
【全頁数】17
(21)【出願番号】特願2017-63895(P2017-63895)
(22)【出願日】2017年3月28日
(65)【公開番号】特開2018-166194(P2018-166194A)
(43)【公開日】2018年10月25日
【審査請求日】2020年3月26日
【国等の委託研究の成果に係る記載事項】（出願人による申告）平成２８年度、国立研究開発法人新エネルギー・産業技術総合開発機構、「ＩｏＴ推進のための横断技術開発プロジェクト／超高速・低消費電力ビッグデータ処理を実現・利活用する脳型推論集積システムの研究開発」産業技術力強化法第１９条の適用を受ける特許出願
(73)【特許権者】
【識別番号】899000079
【氏名又は名称】学校法人慶應義塾
(74)【代理人】
【識別番号】100122275
【弁理士】
【氏名又は名称】竹居 信利
(74)【代理人】
【識別番号】100120581
【弁理士】
【氏名又は名称】市原 政喜
(72)【発明者】
【氏名】青野 真士
【審査官】
宮本 博司
(56)【参考文献】
【文献】
米国特許出願公開第２０１４／０２９３６７８（ＵＳ，Ａ１）
【文献】
特開２０１２−２５６６５７（ＪＰ，Ａ）
【文献】
特開２０１４−０８５７３３（ＪＰ，Ａ）
【文献】
C. Lutz et al.，Ag2S atomic switch-based 'tug of war' for decision making，Nanoscale，2016年，Vol. 8，14031 - 14036
(58)【調査した分野】（Int.Cl.，ＤＢ名）
Ｈ０１Ｌ ２１／８２３９
Ｈ０１Ｌ ４５／００
Ｇ０６Ｎ ３／０６
Ｈ０１Ｌ ４９／００
(57)【特許請求の範囲】
【請求項1】
所定のクロスバー構造を用いて、複数の論理変数(x1〜xN)からなる論理式で記述された複数の論理的制約条件をすべて充足できるような論理変数に対する真偽値の割り当てを解とする組合せ最適化問題を最適化問題として解く最適化問題の解探索システムであって、
前記所定のクロスバー構造が、
固体電解質電極と二つの金属電極ＡおよびＢとの間のナノメートルオーダーの間隙において、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、固体電解質電極内に含まれる金属原子数を一定の値に制限し、電極Ａ側に成長したフィラメントを構成する原子数と電極Ｂ側に成長したフィラメントを構成する原子数の総和を一定にすることで、固体電解質電極に対して、金属電極Ａ側または金属電極Ｂ側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは、複数の金属電極Ａが並行に並べられた層と複数の金属電極Ｂが並行に並べられた層の間に複数の固体電解質電極が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されたクロスバー構造であり、
前記組合せ最適化問題を最適化問題として解く際に；
各論理変数の真の値（xi=1）と偽の値（xi=0）を、クロスバー結節点の各綱引き型原子スイッチにおいて、それぞれ固体電解質電極の金属電極Ａ側もしくはＢ側表面で金属フィラメントが成長した状態に対応させ；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
各論理的制約条件に対し、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件を充足できないときは、対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極Ａ側もしくはＢ側表面に形成された金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側に電圧を印加する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られることを特徴とする最適化問題の解探索システム。
前記所定のクロスバー構造が、
固体電解質電極と二つの金属電極ＡおよびＢとの間のナノメートルオーダーの間隙において、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、固体電解質電極内に含まれる金属原子数を一定の値に制限し、電極Ａ側に成長したフィラメントを構成する原子数と電極Ｂ側に成長したフィラメントを構成する原子数の総和を一定にすることで、固体電解質電極に対して、金属電極Ａ側または金属電極Ｂ側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは、複数の金属電極Ａが並行に並べられた層と複数の金属電極Ｂが並行に並べられた層の間に複数の固体電解質電極が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されたクロスバー構造であり、
前記組合せ最適化問題を最適化問題として解く際に；
各論理変数の真の値（xi=1）と偽の値（xi=0）を、クロスバー結節点の各綱引き型原子スイッチにおいて、それぞれ固体電解質電極の金属電極Ａ側もしくはＢ側表面で金属フィラメントが成長した状態に対応させ；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
各論理的制約条件に対し、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件を充足できないときは、対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極Ａ側もしくはＢ側表面に形成された金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側に電圧を印加する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られることを特徴とする最適化問題の解探索システム。
【請求項2】
所定のクロスバー構造を用いて、多層のニューラルネットによる学習を行う最適化問題の解探索システムであって、
前記所定のクロスバー構造が、
固体電解質電極と二つの金属電極ＡおよびＢとの間のナノメートルオーダーの間隙において、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、固体電解質電極内に含まれる金属原子数を一定の値に制限し、電極Ａ側に成長したフィラメントを構成する原子数と電極Ｂ側に成長したフィラメントを構成する原子数の総和を一定にすることで、固体電解質電極に対して、金属電極Ａ側または金属電極Ｂ側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは、複数の金属電極Ａが並行に並べられた層と複数の金属電極Ｂが並行に並べられた層の間に複数の固体電解質電極が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されたクロスバー構造であり、
前記学習を行う際に；
第ｋ層にニューロンがN個あり、第ｋ±１層にニューロンがM個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はN×Mになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極Ａ側またはＢ側で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させ、ここで綱引き型原子スイッチの排他的性質から、各結合部が正の重み係数と負の重み係数を同時にとることはない；
第ｋ層に２値の教師データ(U’1,U’2, …U’N)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2,…U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数fを適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)を解として求める処理を行い；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極Ａ側もしくはＢ側表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側に電圧を印加することを第ｋ±１層のすべてのニューロンについて反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に、第ｋ±１層のニューロンのベクトル(UN+1,UN+2, …UＮ+M)と教師データ(U’N+1,U’N+2, …U’ Ｎ+M)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)が解として得られることを特徴とする最適化問題の解探索システム。
前記所定のクロスバー構造が、
固体電解質電極と二つの金属電極ＡおよびＢとの間のナノメートルオーダーの間隙において、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、固体電解質電極内に含まれる金属原子数を一定の値に制限し、電極Ａ側に成長したフィラメントを構成する原子数と電極Ｂ側に成長したフィラメントを構成する原子数の総和を一定にすることで、固体電解質電極に対して、金属電極Ａ側または金属電極Ｂ側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは、複数の金属電極Ａが並行に並べられた層と複数の金属電極Ｂが並行に並べられた層の間に複数の固体電解質電極が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されたクロスバー構造であり、
前記学習を行う際に；
第ｋ層にニューロンがN個あり、第ｋ±１層にニューロンがM個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はN×Mになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極Ａ側またはＢ側で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させ、ここで綱引き型原子スイッチの排他的性質から、各結合部が正の重み係数と負の重み係数を同時にとることはない；
第ｋ層に２値の教師データ(U’1,U’2, …U’N)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2,…U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数fを適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)を解として求める処理を行い；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極Ａ側もしくはＢ側表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側に電圧を印加することを第ｋ±１層のすべてのニューロンについて反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に、第ｋ±１層のニューロンのベクトル(UN+1,UN+2, …UＮ+M)と教師データ(U’N+1,U’N+2, …U’ Ｎ+M)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)が解として得られることを特徴とする最適化問題の解探索システム。
【請求項3】
所定のクロスバー構造を用いて、複数の論理変数(x1〜xN)からなる論理式で記述された複数の論理的制約条件をすべて充足できるような論理変数に対する真偽値の割り当てを解とする組合せ最適化問題を最適化問題として解く最適化問題の解探索システムであって、
前記所定のクロスバー構造が、
対向する金属電極ＣおよびＤの間のナノメートルオーダーの間隙が固体電解質で充填され、さらに固体電解質中に金属電極Ｅが設けられ、これらの金属電極に電圧を印加すると固体電解質から金属原子が析出して金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、電極Ｅを取り囲む固体電解質内に含まれる金属原子数を一定の値に制限し、電極Ｃに成長したフィラメントを構成する原子数と電極Ｄに成長したフィラメントを構成する原子数の総和を一定にすることで、電極Ｅに対して、金属電極Ｃまたは金属電極Ｄへの電圧の印加により、前記金属電極Ｃ及び金属電極Ｄの一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｃが並行に並べられた層と複数の金属電極Ｄが並行に並べられた層の間に複数の固体電解質および金属電極Ｅが並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されるクロスバー構造であり、
前記組合せ最適化問題を最適化問題として解く際に；
各論理変数の真の値（xi=1）と偽の値（xi=0）を、クロスバー結節点の各綱引き型原子スイッチにおいて、それぞれ金属電極Ｅの金属電極Ｃ側もしくはＤ側表面で金属フィラメントが成長した状態に対応させ；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
各論理的制約条件に対し、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件を充足できないときは、対応する各綱引き型原子スイッチにおいて金属電極Ｅの金属電極Ｃ側もしくはＤ側表面に形成された金属フィラメントが収縮するように金属電極Ｄ側もしくはＣ側に電圧を印加する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られることを特徴とする最適化問題の解探索システム。
前記所定のクロスバー構造が、
対向する金属電極ＣおよびＤの間のナノメートルオーダーの間隙が固体電解質で充填され、さらに固体電解質中に金属電極Ｅが設けられ、これらの金属電極に電圧を印加すると固体電解質から金属原子が析出して金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、電極Ｅを取り囲む固体電解質内に含まれる金属原子数を一定の値に制限し、電極Ｃに成長したフィラメントを構成する原子数と電極Ｄに成長したフィラメントを構成する原子数の総和を一定にすることで、電極Ｅに対して、金属電極Ｃまたは金属電極Ｄへの電圧の印加により、前記金属電極Ｃ及び金属電極Ｄの一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｃが並行に並べられた層と複数の金属電極Ｄが並行に並べられた層の間に複数の固体電解質および金属電極Ｅが並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されるクロスバー構造であり、
前記組合せ最適化問題を最適化問題として解く際に；
各論理変数の真の値（xi=1）と偽の値（xi=0）を、クロスバー結節点の各綱引き型原子スイッチにおいて、それぞれ金属電極Ｅの金属電極Ｃ側もしくはＤ側表面で金属フィラメントが成長した状態に対応させ；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
各論理的制約条件に対し、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件を充足できないときは、対応する各綱引き型原子スイッチにおいて金属電極Ｅの金属電極Ｃ側もしくはＤ側表面に形成された金属フィラメントが収縮するように金属電極Ｄ側もしくはＣ側に電圧を印加する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られることを特徴とする最適化問題の解探索システム。
【請求項4】
所定のクロスバー構造を用いて、多層のニューラルネットによる学習を行う最適化問題の解探索システムであって、
前記所定のクロスバー構造が、
対向する金属電極ＣおよびＤの間のナノメートルオーダーの間隙が固体電解質で充填され、さらに固体電解質中に金属電極Ｅが設けられ、これらの金属電極に電圧を印加すると固体電解質から金属原子が析出して金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、電極Ｅを取り囲む固体電解質内に含まれる金属原子数を一定の値に制限し、電極Ｃに成長したフィラメントを構成する原子数と電極Ｄに成長したフィラメントを構成する原子数の総和を一定にすることで、電極Ｅに対して、金属電極Ｃまたは金属電極Ｄへの電圧の印加により、前記金属電極Ｃ及び金属電極Ｄの一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｃが並行に並べられた層と複数の金属電極Ｄが並行に並べられた層の間に複数の固体電解質および金属電極Ｅが並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されるクロスバー構造であり、
前記学習を行う際に；
第ｋ層にニューロンがN個あり、第ｋ±１層にニューロンがM個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はN×Mになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極Ｃ側またはＤ側で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させ、ここで綱引き型原子スイッチの排他的性質から、各結合部が正の重み係数と負の重み係数を同時にとることはない；
第ｋ層に２値の教師データ(U’1,U’2, …U’N)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2,…U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数fを適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)を解として求める処理を行い；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて金属電極Ｅの金属電極Ｃ側もしくはＤ側表面で成長した金属フィラメントが収縮するように金属電極Ｄ側もしくはＣ側に電圧を印加することを第ｋ±１層のすべてのニューロンについて反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に、第ｋ±１層のニューロンのベクトル(UN+1,UN+2, …UＮ+M)と教師データ(U’N+1,U’N+2, …U’ Ｎ+M)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)が解として得られることを特徴とする最適化問題の解探索システム。
前記所定のクロスバー構造が、
対向する金属電極ＣおよびＤの間のナノメートルオーダーの間隙が固体電解質で充填され、さらに固体電解質中に金属電極Ｅが設けられ、これらの金属電極に電圧を印加すると固体電解質から金属原子が析出して金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、電極Ｅを取り囲む固体電解質内に含まれる金属原子数を一定の値に制限し、電極Ｃに成長したフィラメントを構成する原子数と電極Ｄに成長したフィラメントを構成する原子数の総和を一定にすることで、電極Ｅに対して、金属電極Ｃまたは金属電極Ｄへの電圧の印加により、前記金属電極Ｃ及び金属電極Ｄの一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｃが並行に並べられた層と複数の金属電極Ｄが並行に並べられた層の間に複数の固体電解質および金属電極Ｅが並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されるクロスバー構造であり、
前記学習を行う際に；
第ｋ層にニューロンがN個あり、第ｋ±１層にニューロンがM個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はN×Mになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極Ｃ側またはＤ側で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させ、ここで綱引き型原子スイッチの排他的性質から、各結合部が正の重み係数と負の重み係数を同時にとることはない；
第ｋ層に２値の教師データ(U’1,U’2, …U’N)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2,…U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数fを適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)を解として求める処理を行い；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて金属電極Ｅの金属電極Ｃ側もしくはＤ側表面で成長した金属フィラメントが収縮するように金属電極Ｄ側もしくはＣ側に電圧を印加することを第ｋ±１層のすべてのニューロンについて反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に、第ｋ±１層のニューロンのベクトル(UN+1,UN+2, …UＮ+M)と教師データ(U’N+1,U’N+2, …U’ Ｎ+M)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)が解として得られることを特徴とする最適化問題の解探索システム。
【請求項5】
所定のクロスバー構造を用いて、複数の論理変数(x1〜xN)からなる論理式で記述された複数の論理的制約条件をすべて充足できるような論理変数に対する真偽値の割り当てを解とする組合せ最適化問題を最適化問題として解く最適化問題の解探索システムであって、
前記所定のクロスバー構造が、
金属電極Ｆとこれに対向する２つの金属電極Ｇ１およびＧ２との間のナノメートルオーダーの間隙が固体電解質で充填され、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、固体電解質内に含まれる金属原子数を一定の値に制限し、金属電極Ｇ１に成長したフィラメントを構成する原子数と金属電極Ｇ２に成長したフィラメントを構成する原子数の総和を一定にすることで、前記金属電極Ｆに対して、前記金属電極Ｇ１側またはＧ２側への電圧の印加により、前記金属電極Ｇ１または金属電極Ｇ２の一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントではフィラメントが収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｇ１が並行に並べられた層と複数の金属電極Ｇ１およびＧ２が並行に並べられた層の間に複数の固体電解質が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されるクロスバー構造であり、
前記組合せ最適化問題を最適化問題として解く際に；
各論理変数の真の値（xi=1）と偽の値（xi=0）を、クロスバー結節点の各綱引き型原子スイッチにおいて、それぞれ金属電極Ｇ１もしくはＧ２表面で金属フィラメントが成長した状態に対応させ；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
各論理的制約条件に対し、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件を充足できないときは、対応する各綱引き型原子スイッチにおいて金属電極Ｇ１もしくはＧ２表面に形成された金属フィラメントが収縮するように金属電極Ｇ２もしくはＧ１に電圧を印加する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られることを特徴とする最適化問題の解探索システム。
前記所定のクロスバー構造が、
金属電極Ｆとこれに対向する２つの金属電極Ｇ１およびＧ２との間のナノメートルオーダーの間隙が固体電解質で充填され、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、固体電解質内に含まれる金属原子数を一定の値に制限し、金属電極Ｇ１に成長したフィラメントを構成する原子数と金属電極Ｇ２に成長したフィラメントを構成する原子数の総和を一定にすることで、前記金属電極Ｆに対して、前記金属電極Ｇ１側またはＧ２側への電圧の印加により、前記金属電極Ｇ１または金属電極Ｇ２の一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントではフィラメントが収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｇ１が並行に並べられた層と複数の金属電極Ｇ１およびＧ２が並行に並べられた層の間に複数の固体電解質が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されるクロスバー構造であり、
前記組合せ最適化問題を最適化問題として解く際に；
各論理変数の真の値（xi=1）と偽の値（xi=0）を、クロスバー結節点の各綱引き型原子スイッチにおいて、それぞれ金属電極Ｇ１もしくはＧ２表面で金属フィラメントが成長した状態に対応させ；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
各論理的制約条件に対し、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件を充足できないときは、対応する各綱引き型原子スイッチにおいて金属電極Ｇ１もしくはＧ２表面に形成された金属フィラメントが収縮するように金属電極Ｇ２もしくはＧ１に電圧を印加する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られることを特徴とする最適化問題の解探索システム。
【請求項6】
所定のクロスバー構造を用いて、多層のニューラルネットによる学習を行う最適化問題の解探索システムであって、
前記所定のクロスバー構造が、
金属電極Ｆとこれに対向する２つの金属電極Ｇ１およびＧ２との間のナノメートルオーダーの間隙が固体電解質で充填され、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、固体電解質内に含まれる金属原子数を一定の値に制限し、金属電極Ｇ１に成長したフィラメントを構成する原子数と金属電極Ｇ２に成長したフィラメントを構成する原子数の総和を一定にすることで、前記金属電極Ｆに対して、前記金属電極Ｇ１側またはＧ２側への電圧の印加により、前記金属電極Ｇ１または金属電極Ｇ２の一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントではフィラメントが収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｇ１が並行に並べられた層と複数の金属電極Ｇ１およびＧ２が並行に並べられた層の間に複数の固体電解質が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されるクロスバー構造であり、
前記学習を行う際に；
第ｋ層にニューロンがN個あり、第ｋ±１層にニューロンがM個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はN×Mになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極Ｇ１またはＧ２で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させ、ここで綱引き型原子スイッチの排他的性質から、各結合部が正の重み係数と負の重み係数を同時にとることはない；
第ｋ層に２値の教師データ(U’1,U’2, …U’N)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2,…U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数fを適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)を解として求める処理を行い；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて金属電極Ｇ１もしくはＧ２表面で成長した金属フィラメントが収縮するように金属電極Ｇ２もしくはＧ１に電圧を印加することを第ｋ±１層のすべてのニューロンについて反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に、第ｋ±１層のニューロンのベクトル(UN+1,UN+2, …UＮ+M)と教師データ(U’N+1,U’N+2, …U’ Ｎ+M)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)が解として得られることを特徴とする最適化問題の解探索システム。
前記所定のクロスバー構造が、
金属電極Ｆとこれに対向する２つの金属電極Ｇ１およびＧ２との間のナノメートルオーダーの間隙が固体電解質で充填され、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、固体電解質内に含まれる金属原子数を一定の値に制限し、金属電極Ｇ１に成長したフィラメントを構成する原子数と金属電極Ｇ２に成長したフィラメントを構成する原子数の総和を一定にすることで、前記金属電極Ｆに対して、前記金属電極Ｇ１側またはＧ２側への電圧の印加により、前記金属電極Ｇ１または金属電極Ｇ２の一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントではフィラメントが収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｇ１が並行に並べられた層と複数の金属電極Ｇ１およびＧ２が並行に並べられた層の間に複数の固体電解質が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されるクロスバー構造であり、
前記学習を行う際に；
第ｋ層にニューロンがN個あり、第ｋ±１層にニューロンがM個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はN×Mになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極Ｇ１またはＧ２で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させ、ここで綱引き型原子スイッチの排他的性質から、各結合部が正の重み係数と負の重み係数を同時にとることはない；
第ｋ層に２値の教師データ(U’1,U’2, …U’N)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2,…U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数fを適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)を解として求める処理を行い；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて金属電極Ｇ１もしくはＧ２表面で成長した金属フィラメントが収縮するように金属電極Ｇ２もしくはＧ１に電圧を印加することを第ｋ±１層のすべてのニューロンについて反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に、第ｋ±１層のニューロンのベクトル(UN+1,UN+2, …UＮ+M)と教師データ(U’N+1,U’N+2, …U’ Ｎ+M)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)が解として得られることを特徴とする最適化問題の解探索システム。
【請求項7】
請求項１から６のいずれか１項に記載の最適化問題の解探索システムであって、
前記固体電解質電極または固体電解質が硫化物系材料、酸化物系材料または高分子系材料である最適化問題の解探索システム。
前記固体電解質電極または固体電解質が硫化物系材料、酸化物系材料または高分子系材料である最適化問題の解探索システム。
【請求項8】
請求項１から７のいずれか１項に記載の最適化問題の解探索システムであって、
前記金属電極がＰｔ、Ｃｕ，Ａｕ，ＴｉまたはＡｇである最適化問題の解探索システム。
前記金属電極がＰｔ、Ｃｕ，Ａｕ，ＴｉまたはＡｇである最適化問題の解探索システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、原子スイッチを有するクロスバー構造、ならびに学習、組合せ最適化問題および意思決定問題等の最適化問題の解探索システムに関する。
【背景技術】
【0002】
ニューラルネットワークは生物の神経ネットワークの構造と機能を模倣するという観点から生まれた学習アルゴリズムである。ニューラルネットワークにおける学習は、ニューロンと呼ばれる積和演算素子を結合するシナプスの結合強度の係数ベクトルを、入力データと出力データの望ましい対応関係を表現する状態へと収束させる処理である。これを回路として実装する際は、結合強度は設置される抵抗変化素子のコンダクタンスにより表現される。従来、学習処理は外部システムやそこで実行されるソフトウェアを介して行われ、求まった各々の結合強度を事後的に各抵抗変化素子に書き込むことが多い。すなわち、学習処理は回路の外部で行われ、回路は分類処理のためにだけ使用される。このため、回路を組み込まれた機器が外部との通信を介さずにその場でリアルタイムに学習を行うことが要求される応用場面への展開が難しいという問題があった。一方、学習処理を回路の内部で行う技術も少数存在するが、その場合の学習モデルは、「バックプロパゲーション」のように高度な数値計算を要求するものであったために、学習のための回路が複雑化、大規模化してしまうという問題があり、種々の検討がなされている（特許文献１、２および非特許文献１）。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開２０１３−２４２４７７号公報
【特許文献2】特開２０１４−８５７３３号公報
【非特許文献】
【0004】
【非特許文献1】Nanoscale,2016,8,14031-14036
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明は、このような問題を解決し、ニューラルネットが持つパターン認識や特徴抽出などの分類機能と、それを実現するために必要となる学習機能とを、従来よりも簡便で小型かつ低消費電力の回路を用いて実現するハードウェアの構成を提供し、この回路が組み込まれた機器の環境からの入力データを手掛かりに、回路自体がその場でリアルタイムに効率良く学習を行えるようにすることを課題とするものである。さらに詳しくは、本発明は、綱引き型と呼ばれる原子スイッチを有するクロスバー構造、ならびにそれを用いる学習、組合せ最適化問題および意思決定問題等の最適化問題の解探索システムを提供することを課題とする。
【課題を解決するための手段】
【0006】
本発明は上記の課題を解決するために、以下の発明を提供するものである。（１）固体電解質電極と二つの金属電極AおよびBとの間のナノメートルオーダーの間隙において、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチであり；
該原子スイッチでは、固体電解質電極内に含まれる金属原子数を一定の値に制限し、電極A側に成長したフィラメントを構成する原子数と電極B側に成長したフィラメントを構成する原子数の総和を一定にすることで、固体電解質電極に対して、金属電極A側または金属電極B側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Aが並行に並べられた層と複数の金属電極Bが並行に並べられた層の間に複数の固体電解質電極が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されることを特徴とするクロスバー構造。
【0007】
（２）対向する金属電極ＣおよびＤの間のナノメートルオーダーの間隙が固体電解質で充填され、さらに固体電解質中に金属電極Ｅが設けられ、これらの金属電極に電圧を印加すると固体電解質から金属原子が析出して金属フィラメントが成長することを利用する原子スイッチであり；該原子スイッチは、金属電極Ｅの金属電極Ｃ側またはＤ側表面で金属フィラメントが形成された状態にあり、他方の金属電極Ｄ側またはＣ側表面で金属フィラメントが形成されていない状態のときに、金属フィラメントを構成する原子がその総数をおおむね保存するように制限することにより、金属電極Ｄ側またはＣ側への電圧の印加による新たな金属フィラメントの成長が、金属電極Ｃ側またはＤ側に成長した金属フィラメントの収縮を引き起こす綱引き型原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｃが並行に並べられた層と複数の金属電極Ｄが並行に並べられた層の間に複数の固体電解質および金属電極Ｅが並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されることを特徴とするクロスバー構造。
【0008】
（３）金属電極Ｆとこれに対向する２つの金属電極Ｇ１およびＧ２との間のナノメートルオーダーの間隙が固体電解質で充填され、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチであり；該原子スイッチでは、固体電解質内に含まれる金属原子数を一定の値に制限し、電極Ｇ１に成長したフィラメントを構成する原子数と電極Ｇ２に成長したフィラメントを構成する原子数の総和を一定にすることで、電極Eに対して、金属電極Ｇ１側またはＧ２側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントではフィラメントが収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｇ１が並行に並べられた層と複数の金属電極Ｇ１およびＧ２が並行に並べられた層の間に複数の固体電解質が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されることを特徴とするクロスバー構造。
【0009】
（４）固体電解質電極または固体電解質が硫化物系材料、酸化物系材料または高分子系材料である上記（１）〜（３）のいずれかに記載のクロスバー構造。
【0010】
（５）金属電極Ａ〜Ｇ２がＰｔ、Ｃｕ，Ａｕ，ＴｉまたはＡｇである上記（１）〜（４）のいずれかに記載のクロスバー構造。
【0011】
（６）上記（１）〜（５）のいずれかに記載のクロスバー構造を用いて最適化問題の解を探索するシステムであり；金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
すべてのクロスバー結節点の綱引き型原子スイッチの金属フィラメント成長状態に応じて、所定の規則に従い、個々の金属フィラメントの成長と収縮を誘導する電圧の印加状態を決定する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られることを特徴とする最適化問題の解探索システム。
【0012】
（７）上記（１）〜（５）のいずれかに記載のクロスバー構造を用いて、複数の論理変数(x1〜xN)からなる論理式で記述された複数の論理的制約条件をすべて充足できるような論理変数に対する真偽値の割り当てを解とする組合せ最適化問題を最適化問題として解く際に；各論理変数の真の値（xi=1）と偽の値（xi=0）を、クロスバー結節点の各綱引き型原子スイッチにおいて、それぞれ固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で金属フィラメントが成長した状態に対応させ；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
各論理的制約条件に対し、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件を充足できないときは、対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面に形成された金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られることを特徴とする最適化問題の解探索システム。
【0013】
（８）上記（１）〜（５）のいずれかに記載のクロスバー構造を用いて、多層のニューラルネットによる学習を行う際に；第ｋ層にニューロンがN個あり、第ｋ±１層にニューロンがM個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はN×Mになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極A側またはB側で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させ、ここで綱引き型原子スイッチの排他的性質から、各結合部が正の重み係数と負の重み係数を同時にとることはない；
第ｋ層に２値の教師データ(U’1,U’2, …U’N)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2,..U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数fを適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…XN,M,+, XN,M,-)を解として求める処理を行い；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1,…Ｕｉ,…ＵＮ)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加することを第ｋ±１層のすべてのニューロンについて反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に、第ｋ±１層のニューロンのベクトル(UN+1,UN+2,..UＮ+M)と教師データ(U’N+1,U’N+2,…U’ Ｎ+M)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,… XN,M,+, XN,M,-)が解として得られることを特徴とする最適化問題の解探索システム。
【発明の効果】
【0014】
本発明によれば、学習、組合せ最適化問題および意思決定問題等の最適化問題の解探索をリアルタイムで実行できるハードウェアシステムを従来よりも簡便で小型かつ低消費電力で実現できる。
【図面の簡単な説明】
【0015】
【図1】本発明のクロスバー構造の一例を示す模式図。
【図2】本発明のクロスバー構造を用いて、ニューラルネットによる学習を綱引き型原子スイッチによるオートエンコーダーで実装した例を示す。
【図3】本発明のクロスバー構造とオートエンコーダーでの実装を示す平面模式図。
【発明を実施するための形態】
【0016】
（クロスバー構造１）本発明のクロスバー構造は、１つの実施態様において、固体電解質電極と二つの金属電極AおよびBとの間のナノメートルオーダー、たとえば５０ｎｍ程度以下、好ましくは１０ｎｍ以下、の間隙において、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチからなる。
【0017】
固体電解質電極の固体電解質は、外部から加えられた電場により金属イオンが移動し、金属原子として析出および再イオン化し得る固体であり、金属イオンとしては１価の銀イオン、銅イオン、リチウムイオン、ナトリウムイオン、マグネシウムイオンおよび２価の鉄イオン、ニッケルイオン等が挙げられ、たとえばＡｇ２Ｓ，Ｃｕ２Ｓ等の硫化物系材料、酸化タンタル、ジルコニア等の酸化物系材料、上記金属イオンを含むポリエチレンオキシド等の高分子系材料が挙げられる。
【0018】
金属電極は、Ｐｔ、Ｃｕ，Ａｕ，Ｔｉ、Ａｇ等が好適に使用される。
【0019】
印加電圧は、通常１ｍＶ〜１Ｖ程度、好ましくは１０〜５００ｍＶと小さいので、消費電力を小さくし得る。
【0020】
その原子スイッチでは、固体電解質電極内に含まれる金属原子数を一定の値に制限し、電極A側に成長したフィラメントを構成する原子数と電極B側に成長したフィラメントを構成する原子数の総和を一定にすることで、固体電解質電極に対して、金属電極A側または金属電極B側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチである。
【0021】
上記の「原子数の総和を一定に」することは、１箇所の金属フィラメントを構成するが、外部から新たに供給されないようにすることにより、金属原子数を実質的に一定に保つことを意味する。そのためには、たとえば、後述する図１に示されるような複数の金属フィラメントの間で金属原子のやり取りがないように、隔壁を設ける等の方式を採用し得るが、これに限定さるものではなく、金属原子数の若干の増減も本発明の目的に適うかぎり許容される。
【0022】
このように、電圧の印加により金属フィラメントの成長と収縮が制御され、固体電解質電極表面から金属原子が析出し、２つの電極間に金属フィラメントが形成されて架橋し原子スイッチがオンとなる。一方、析出した金属原子が固体電解質電極内に再イオン化して溶け込み、金属フィラメントが消滅してスイッチがオフとなる。
【0023】
本発明の綱引き型原子スイッチは、複数の金属電極Aが並行に並べられた層と複数の金属電極Bが並行に並べられた層の間に複数の固体電解質電極が並行に並べられた層が挟まれてなるクロスバー構造の結節点（すなわち、交点）において構成される。
【0024】
図１は、本発明のクロスバー構造の一例を示す模式図である。１Ａは金属電極A（Ｐｔ）、１Ｂは金属電極Ｂ（Ｐｔ）、そして２は固体電解質電極（Ａｇ２Ｓ）、３は析出した金属（Ａｇ）フィラメントを示す。重み係数行列X1,7,+, X1,7,-等は、後述する重み係数行列を示す。本発明のクロスバー構造は、既存の微細加工技術を組み合わせて用いて作製し得る。
【0025】
（クロスバー構造２）
【0026】
本発明のクロスバー構造は、もう１つの実施態様において、対向する金属電極Ｃ（たとえばＰｔ）およびＤ（たとえばＰｔ）の間のナノメートルオーダーの間隙が固体電解質で充填され、さらに固体電解質中に金属電極Ｅ（たとえばＡｇ）が設けられ、これらの金属電極に電圧を印加すると固体電解質から金属原子が析出して金属フィラメントが成長することを利用する原子スイッチを含む。ここで、固体電解質、金属電極は、前記と同様である。
【0027】
その原子スイッチでは、電極Eを取り囲む固体電解質内に含まれる金属原子数を一定の値に制限し、電極Cに成長したフィラメントを構成する原子数と電極Dに成長したフィラメントを構成する原子数の総和を一定にすることで、電極Eに対して、金属電極Cまたは金属電極Dへの電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチである。
【0028】
ここで、「フィラメントを構成する原子数の総和を一定に」することは、前記のとおりである。
【0029】
本発明の綱引き型原子スイッチは複数の金属電極Ｃが並行に並べられた層と複数の金属電極Ｄが並行に並べられた層の間に複数の固体電解質および金属電極Ｅが並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成される。
【0030】
（クロスバー構造３）本発明のクロスバー構造は、さらなる１つの実施態様において、金属電極Ｆ（たとえばＰｔ）とこれに対向する２つの金属電極Ｇ１（たとえばＰｔ）およびＧ２（たとえばＰｔ）との間のナノメートルオーダーの間隙が固体電解質で充填され、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチを含む。金属電極Ｇ１およびＧ２は、好適には間隔をおいて並置される。ここで、固体電解質、金属電極は、前記と同様である。
【0031】
その該原子スイッチでは、固体電解質内に含まれる金属原子数を一定の値に制限し、電極Ｇ１に成長したフィラメントを構成する原子数と電極Ｇ２に成長したフィラメントを構成する原子数の総和を一定にすることで、電極Eに対して、金属電極Ｇ１側またはＧ２側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントではフィラメントが収縮するという綱引き型の動作をする原子スイッチである。
【0032】
ここで、「フィラメントを構成する原子数の総和を一定に」することは、前記のとおりである。
【0033】
そして本発明の綱引き型原子スイッチは複数の金属電極Ｇ１が並行に並べられた層と複数の金属電極Ｇ１およびＧ２が並行に並べられた層の間に複数の固体電解質が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成される。
【0034】
（最適化問題の解探索するシステム）本発明の一つの実施態様において、本発明のクロスバー構造を用いて、最適化問題の解を探索するシステムが提供される。最適化問題としては、学習（誤差最小化問題）、充足可能性問題（SAT: Satisfiability Problem）(充足制約最大化問題；組合せ最適化問題)および意思決定問題（報酬獲得最大化問題）が知られている。
【0035】
本発明の最適化問題の解を探索するシステムにおいて、金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提とする。
【0036】
すべてのクロスバー結節点の綱引き型原子スイッチの金属フィラメント成長状態に応じて、所定の規則に従い、個々の金属フィラメントの成長と収縮を誘導する電圧の印加状態を決定する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られる。
【0037】
上記の「確率を適切な値に調節」する一例を挙げると、印加電圧を、金属フィラメントの成長が確実に生じる値よりも少し低い値にシフトして設定することで、フィラメントの成長は確率的に生じることになるが、このシフトの程度を調節することにより、揺らぎ動作確率を適切な値（すなわち、所望の値）に調節し得る。
【0038】
ここで、「反復して適用する」についてさらに詳述する。（a）所定の規則に従い、個々の金属フィラメントの成長と収縮を誘導する電圧の印加状態を決定する処理を行い、クロスバー結節点の対応する各綱引き型原子スイッチにおいて、固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加する処理を行う。
（b）（a）の処理をすべての（M個の）ニューロンについて実行する（同時並行的に実行されることが望ましい）。
（c）（b）の処理を平衡状態に達するまでT回反復する。
【0039】
上記の所定の規則としては、バウンスバックルールが好適である。バウンスバックルールは、指数関数的に成長する状態空間において、たとえば制約を充足する状態を探索するために、複数の状態変数が、制約を充足できない状態への遷移を抑制する「バウンスバックルール」ルールを呼ばれる制約規制によるフィードバック制御を受けながら、確率的な「揺らぎ」を伴って時間発展する。このように、試行錯誤しながら状態空間を探索する過程で、制約規則による抑制を受けないような平衡状態に到達するときに安定化し、制約充足解が得られることになる。
【0040】
本発明の一つの実施態様において、本発明のクロスバー構造を用いて、複数の論理変数(x1〜xN)からなる論理式で記述された複数の論理的制約条件（例えば(xi∨xj∨¬xk)）をすべて充足できるような論理変数に対する真偽値の割り当てを解とする組合せ最適化問題を最適化問題として解く際システムが提供される。
【0041】
各論理変数の真の値（xi=1）と偽の値（xi=0）を、クロスバー結節点の各綱引き型原子スイッチにおいて、それぞれ固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で金属フィラメントが成長した状態に対応させる。
【0042】
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提とする。
【0043】
各論理的制約条件（例えば(xi∨xj∨¬xk)）に対し、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件を充足できないとき（例えばxi=0, xj=0, xk＝1）は、対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面に形成された金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加する（xi=0→1, xj=0→1, xk＝1→0）処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ、最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られる。
【0044】
上記の「確率を適切な値に調節」は、前記のとおりである。
【0045】
ここで、「処理を反復して適用する」についてさらに詳述する。論理的制約条件が、たとえば 制約条件1, 制約条件2, ...，制約条件SまでS個あるとする。（ａ）各制約条件sについて、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件sを充足できないときは、対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面に形成された金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加する処理を行う。
（ｂ）（a）の処理を、S個のすべての制約条件について実行する（同時並行的に実行されることが望ましい）。
（ｃ）（b）の処理を、平衡状態に達するまでT回反復する。
【0046】
さらに、組合せ最適化問題におけるバウンスバックルールの別の一例を挙げる。φ＝(x1∨¬x2) ∧(¬x2∨x3∨¬x4) ∧(x1∨x3) ∧(x2∨¬x3) ∧(x3∨¬x4) ∧(¬x1∨x4)という６個の節の論理積によって構成される論理式は、φ＝１を実現できる唯一の解(x1，x2，x3，x4)＝（1,1,1,1）を有する。ここで、システムがx1＝０という割り当てを試みたとすると、φの第１の節(x1∨¬x2)を１とするには「x2が１であってはいけない」。なぜなら、x2＝１のとき、第１の節は偽（0）となり、論理式全体を充足できない（φ＝0）からである。同様に、第３の節(x1∨x3)を１とするには、「x３が０であってはいけない」。このように、論理式から各変数に応じたバウンスバックルールに基づく制御を繰り返し適用して解探索する。
【0047】
本発明の一つの実施態様において、本発明のクロスバー構造を用いて、ニューラルネットによる学習を行う際に、以下のように最適化問題の解探索システムを提供し得る。
【0048】
第ｋ層にニューロンがＮ個あり、第ｋ±１層にニューロンがＭ個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はＮ×Ｍになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極A側またはB側で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させる。ここで綱引き型原子スイッチの排他的性質（綱引き動作）から、各結合部が正の重み係数と負の重み係数を同時にとることはない。
【0049】
ここで、第ｋ±１層において、第ｋ＋１層は、第k層の状態から第k+1層の状態を計算する順方向の処理を意味するが、オートエンコーダーの処理は、第k+1層の状態から第k層の状態を計算する逆方向の処理も繰り返し得るので、この場合も含めて第k±1層と表し、深層学習で多層化されたシステムを考えることができる。
【0050】
第ｋ層に２値の教師データ(U’1,U’2, …U’Ｎ)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2, …U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数fを適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)を解として求める処理を行う。
【0051】
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提とする。
【0052】
第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加することを第ｋ±１層のすべてのニューロンについて反復して適用することにより、確率的な挙動により状態空間の探索を行う。
【0053】
ここで、「反復して適用する」についてさらに詳述する。（a）第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて、固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加する処理を行う。
（b）（a）の処理を第ｋ±１層のすべての（M個の）ニューロンについて実行する（同時並行的に実行されることが望ましい）。
（c）（b）の処理を平衡状態に達するまでT回反復する。
【0054】
このようにして、最終的に、第ｋ±１層のニューロンのベクトル(UN+1,UN+2, …UＮ+M)と教師データ(U’N+1,U’N+2, …U’ Ｎ+M)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)が解として得られる。
【実施例】
【0055】
以下、実施例により本発明をさらに詳細に説明する。実施例１
クロスバー構造を用いて、ニューラルネットによる学習を綱引き型原子スイッチによるオートエンコーダーで下記のように実装した例を図２に示す。ただし、簡略化のために、ｋ層にニューロンがＮ＝４個あり、ｋ＋１層にニューロンがＭ＝３個あるような二層のオートエンコーダーを示す。
【0056】
図３は、本発明のクロスバー構造とオートエンコーダーでの実装を示す平面模式図である。抵抗の記号において、太線と細線はそれぞれ金属フィラメントが成長と収縮した状態を表す。
【0057】
第ｋ層にニューロンがN個あり、第ｋ±１層にニューロンがM個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はN×Mになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極A側またはB側で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させた。ここで綱引き型原子スイッチの排他的性質から、各結合部が正の重み係数と負の重み係数を同時８とることはない。
【0058】
第ｋ層に２値の教師データ(U’1,U’2, …U’N)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2, …U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数f（ｘ）を適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)を解として求める処理を行った。
【0059】
ここで、金属電極に電圧を印加した際に通常は固体電解質電極表面または金属表面から金属原子が析出し金属フィラメントが成長するが、電圧を印加した場合でも原子スケールの揺らぎにより金属フィラメントの成長の仕方に確率的なばらつきが生じ、その確率を適切な値に調節できることを前提とする。
【0060】
第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側に電圧を印加することを第ｋ±１層のすべてのニューロンについて行った。この処理を平衡状態に達するまでT回反復した。このように反復して適用することにより、確率的な挙動により状態空間の探索を行った。
【0061】
最終的に、第ｋ±１層のニューロンのベクトル(U４+1,U４+2,U４+３)と教師データ(U’４+1,U’４+2,U’ ４+３)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)が解として得られた。
【産業上の利用可能性】
【0062】
本発明によれば、ニューラルネットが持つパターン認識や特徴抽出などの分類機能と、それを実現するために必要となる学習機能とを、従来よりも簡便で小型かつ低消費電力の回路を用いて実現するハードウェアの構成を提供し得、ニューラルネット機能を有するコンピュータへの応用等が期待される。