IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 瑞鞍星医療科技(蘇州)有限公司の特許一覧

特開2024-109536脳活動状態分類モデルのトレーニング方法、装置及び機器
<>
  • 特開-脳活動状態分類モデルのトレーニング方法、装置及び機器 図1
  • 特開-脳活動状態分類モデルのトレーニング方法、装置及び機器 図2
  • 特開-脳活動状態分類モデルのトレーニング方法、装置及び機器 図3
  • 特開-脳活動状態分類モデルのトレーニング方法、装置及び機器 図4
  • 特開-脳活動状態分類モデルのトレーニング方法、装置及び機器 図5
  • 特開-脳活動状態分類モデルのトレーニング方法、装置及び機器 図6
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024109536
(43)【公開日】2024-08-14
(54)【発明の名称】脳活動状態分類モデルのトレーニング方法、装置及び機器
(51)【国際特許分類】
   G06N 3/08 20230101AFI20240806BHJP
   G06N 3/049 20230101ALI20240806BHJP
   G16H 50/00 20180101ALI20240806BHJP
【FI】
G06N3/08
G06N3/049
G16H50/00
【審査請求】有
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2024011704
(22)【出願日】2024-01-30
(31)【優先権主張番号】202310073229.7
(32)【優先日】2023-02-01
(33)【優先権主張国・地域又は機関】CN
(71)【出願人】
【識別番号】524040096
【氏名又は名称】瑞鞍星医療科技(蘇州)有限公司
(74)【代理人】
【識別番号】100185719
【弁理士】
【氏名又は名称】北原 悠樹
(72)【発明者】
【氏名】于布為
(72)【発明者】
【氏名】張鉄林
(72)【発明者】
【氏名】陸▲かん▼
(72)【発明者】
【氏名】劉洪星
【テーマコード(参考)】
5L099
【Fターム(参考)】
5L099AA00
(57)【要約】      (修正有)
【課題】脳活動状態の分類の効率及び正確性を向上させる脳活動状態の分類の効率及び正確性を向上させるトレーニング方法、装置及び機器を提供する。
【解決手段】方法は、複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を取得することと、各トレーニングタスクに対応する脳波信号サンプルのスパイク列を初期の脳活動状態分類モデルに入力し、目標ルールに基づいて脳活動状態分類モデルをトレーニングし、そのうち、目標ルールにおける順伝播段階で、各トレーニングタスクに対応するスパイク列に応じて、脳活動状態分類モデルにおける各シナプスに対応し、トレーニングタスクとシナプスとの関連程度を表すことに用いられるヘッブ情報を更新し、目標ルールにおける逆伝播段階で、各シナプスに対応するヘッブ情報及び逆伝播結果に応じて、脳活動状態分類モデルにおけるシナプスの重み値を決定することとを含む。
【選択図】図1
【特許請求の範囲】
【請求項1】
複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を取得することと、
各前記トレーニングタスクに対応する脳波信号サンプルのスパイク列を、スパイキングニューラルネットワークに基づいて構築される初期の脳活動状態分類モデルに入力し、目標ルールに基づいて前記脳活動状態分類モデルをトレーニングし、目標ルールにおける順伝播段階で、各トレーニングタスクに対応する前記スパイク列に応じて、脳活動状態分類モデルにおける各シナプスに対応し、シナプスの共同放電頻度に基づいて決定されてトレーニングタスクとシナプスとの関連程度を表すことに用いられるヘッブ情報を更新し、目標ルールにおける逆伝播段階で、各シナプスに対応するヘッブ情報及び逆伝播結果に応じて、前記脳活動状態分類モデルにおけるシナプスの重み値を決定することと、を含む、
ことを特徴とする脳活動状態分類モデルのトレーニング方法。
【請求項2】
前記した、各トレーニングタスクに対応する前記スパイク列に応じて、脳活動状態分類モデルにおける各シナプスに対応するヘッブ情報を更新することは、
以下のような数式で脳活動状態分類モデルにおける各シナプスに対応するヘッブ情報を更新することを含み、
は、スパイク列内のj個目のタスクの前のi個目のシナプスのヘッブ情報を表し、
は、スパイク列内のj個目のタスクの後のi個目のシナプスのヘッブ情報を表し、ωは予め設定された更新率を表し、
は、スパイク列内のj個目のタスクに対応する脳活動状態分類モデルにおけるi個目のシナプスの共同放電頻度を表し、
は、各トレーニングタスクに対応するシナプスのヘッブ情報が格納された目標リストを表し、
は、目標リストに格納されたj個目のタスクに対応するi個目のシナプスのヘッブ情報を表す、
ことを特徴とする請求項1に記載の脳活動状態分類モデルのトレーニング方法。
【請求項3】
前記した、脳活動状態分類モデルにおける各シナプスに対応するヘッブ情報を更新することは、
単一の時間窓でのシナプスの共同放電状態に基づいてシナプスのヘッブ情報を更新すること、及び/又は、
複数の時間窓内の平均放電率に基づいてシナプスのヘッブ情報を更新すること、を含む、
ことを特徴とする請求項2に記載の脳活動状態分類モデルのトレーニング方法。
【請求項4】
目標ルールにおける逆伝播段階で、各シナプスに対応するヘッブ情報及び逆伝播結果に応じて、前記脳活動状態分類モデルにおけるシナプスの重み値を決定することは、
逆伝播段階で、脳活動状態分類モデルの任意の1つのシナプスに対しては、シナプスのヘッブ情報が第1閾値よりも大きい場合、シナプスがタスクに関連すると決定し、脳活動状態分類モデルにおけるシナプスの重み値をロックし、シナプスのヘッブ情報が第1閾値よりも大きくない場合、逆伝播結果に応じてシナプスの重み値を修正することを含む、
ことを特徴とする請求項3に記載の脳活動状態分類モデルのトレーニング方法。
【請求項5】
目標脳波信号に対応するスパイク列を取得することと、
前記目標脳波信号に対応するスパイク列を、請求項1から4のいずれか1項に記載の脳活動状態分類モデルのトレーニング方法に基づいてトレーニングして得られた脳活動状態分類モデルに入力し、脳活動状態の分類結果を得ることと、を含む、
ことを特徴とする脳活動状態分類方法。
【請求項6】
複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を取得するための取得モジュールと、
各前記トレーニングタスクに対応する脳波信号サンプルのスパイク列を、スパイキングニューラルネットワークに基づいて構築される初期の脳活動状態分類モデルに入力し、目標ルールに基づいて前記脳活動状態分類モデルをトレーニングし、目標ルールにおける順伝播段階で、各トレーニングタスクに対応する前記スパイク列に応じて、脳活動状態分類モデルにおける各シナプスに対応し、シナプスの共同放電頻度に基づいて決定されてトレーニングタスクとシナプスとの関連程度を表すことに用いられるヘッブ情報を更新し、目標ルールにおける逆伝播段階で、各シナプスに対応するヘッブ情報及び逆伝播結果に応じて、前記脳活動状態分類モデルにおけるシナプスの重み値を決定するためのトレーニングモジュールと、を備える、
ことを特徴とする脳活動状態分類モデルのトレーニング装置。
【請求項7】
前記トレーニングモジュールは、以下のような数式で脳活動状態分類モデルにおける各シナプスに対応するヘッブ情報を更新することに用いられ、
は、スパイク列内のj個目のタスクの前のi個目のシナプスのヘッブ情報を表し、
は、スパイク列内のj個目のタスクの後のi個目のシナプスのヘッブ情報を表し、ωは予め設定された更新率を表し、
は、スパイク列内のj個目のタスクに対応する脳活動状態分類モデルにおけるi個目のシナプスの共同放電頻度を表し、
は、各トレーニングタスクに対応するシナプスのヘッブ情報が格納された目標リストを表し、
は、目標リストに格納されたj個目のタスクに対応するi個目のシナプスのヘッブ情報を表す、
ことを特徴とする請求項6に記載の脳活動状態分類モデルのトレーニング装置。
【請求項8】
メモリと、プロセッサと、メモリに記憶されてプロセッサで運行可能なコンピュータプログラムとを備える電子機器であって、
前記プロセッサが前記プログラムを実行すると、請求項1から4のいずれか1項に記載の脳活動状態分類モデルのトレーニング方法又は請求項5に記載の脳活動状態分類方法を実現する、
ことを特徴とする電子機器。
【請求項9】
コンピュータプログラムが記憶された非一時的コンピュータ可読記憶媒体であって、
該コンピュータプログラムがプロセッサによって実行されると、請求項1から4のいずれか1項に記載の脳活動状態分類モデルのトレーニング方法又は請求項5に記載の脳活動状態分類方法を実現する、
ことを特徴とする非一時的コンピュータ可読記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、医学の信号処理の技術分野に関し、特に、脳活動状態分類モデルのトレーニング方法、装置及び機器に関する。
【背景技術】
【0002】
過去数十年間で、人工知能に関する研究は急速に進歩し、特に、コネクショニズムの人工ニューラルネットワークモデルは、画像認識、目標検出、音声認識、自然言語処理等のタスクで巨大な成功を得た。好ましくは、人工ニューラルネットワークモデルは臨床医療の応用シーンに適用でき、脳波信号の監視により異なる脳領域の信号を分類し、より精確に治療を行うように医者が信号源を判断して患者の大脳状態及び体調を確認することを補助することができる。
【0003】
関連技術においては、人工ニューラルネットワークにより脳活動状態の分類を行っているが、データの分布が変化し続ける場合、人工ニューラルネットワークモデルは従来方法と同様に、破局的忘却の問題に悩まされており、即ち、新しい知識に対する学習が古い知識に対する記憶に干渉し、脳活動状態の分類結果の正確性及び分類効率を低くする。
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来技術における問題に対し、本発明の実施例は、脳活動状態分類モデルのトレーニング方法、装置及び機器を提供する。
【課題を解決するための手段】
【0005】
具体的には、本発明の実施例は、以下の技術案を提供する。
【0006】
第1側面において、本発明の実施例は、
複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を取得することと、
各前記トレーニングタスクに対応する脳波信号サンプルのスパイク列を、スパイキングニューラルネットワークに基づいて構築される初期の脳活動状態分類モデルに入力し、目標ルールに基づいて前記脳活動状態分類モデルをトレーニングし、そのうち、目標ルールにおける順伝播段階で、各トレーニングタスクに対応する前記スパイク列に応じて、脳活動状態分類モデルにおける各シナプスに対応し、シナプスの共同放電頻度に基づいて決定されてトレーニングタスクとシナプスとの関連程度を表すことに用いられるヘッブ情報を更新し、目標ルールにおける逆伝播段階で、各シナプスに対応するヘッブ情報及び逆伝播結果に応じて、前記脳活動状態分類モデルにおけるシナプスの重み値を決定することと、を含む、
脳活動状態分類モデルのトレーニング方法を提供する。
【0007】
更に、前記した、各トレーニングタスクに対応する前記スパイク列に応じて、脳活動状態分類モデルにおける各シナプスに対応するヘッブ情報を更新することは、
以下のような数式で脳活動状態分類モデルにおける各シナプスに対応するヘッブ情報を更新することを含み、
そのうち、
は、スパイク列内のj個目のタスクの前のi個目のシナプスのヘッブ情報を表し、
は、スパイク列内のj個目のタスクの後のi個目のシナプスのヘッブ情報を表し、ωは予め設定された更新率を表し、
は、スパイク列内のj個目のタスクに対応する脳活動状態分類モデルにおけるi個目のシナプスの共同放電頻度を表し、
は、各トレーニングタスクに対応するシナプスのヘッブ情報が格納された目標リストを表し、
は、目標リストに格納されたj個目のタスクに対応するi個目のシナプスのヘッブ情報を表す。
【0008】
更に、前記した、脳活動状態分類モデルにおける各シナプスに対応するヘッブ情報を更新することは、
単一の時間窓でのシナプスの共同放電状態に基づいてシナプスのヘッブ情報を更新すること、及び/又は、
複数の時間窓内の平均放電率に基づいてシナプスのヘッブ情報を更新すること、を含む。
【0009】
更に、目標ルールにおける逆伝播段階で、各シナプスに対応するヘッブ情報及び逆伝播結果に応じて、前記脳活動状態分類モデルにおけるシナプスの重み値を決定することは、
逆伝播段階で、脳活動状態分類モデルの任意の1つのシナプスに対しては、シナプスのヘッブ情報が第1閾値よりも大きい場合、シナプスがタスクに関連すると決定し、脳活動状態分類モデルにおけるシナプスの重み値をロックし、シナプスのヘッブ情報が第1閾値よりも大きくない場合、逆伝播結果に応じてシナプスの重み値を修正することを含む。
【0010】
第2側面において、本発明の実施例は、
目標脳波信号に対応するスパイク列を取得することと、
前記目標脳波信号に対応するスパイク列を、第1側面に記載の脳活動状態分類モデルのトレーニング方法に基づいてトレーニングして得られた脳活動状態分類モデルに入力し、脳活動状態の分類結果を得ることと、を含む、
脳活動状態分類方法を更に提供する。
【0011】
第3側面において、本発明の実施例は、
複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を取得するための取得モジュールと、
各前記トレーニングタスクに対応する脳波信号サンプルのスパイク列を、スパイキングニューラルネットワークに基づいて構築される初期の脳活動状態分類モデルに入力し、目標ルールに基づいて前記脳活動状態分類モデルをトレーニングし、そのうち、目標ルールにおける順伝播段階で、各トレーニングタスクに対応する前記スパイク列に応じて、脳活動状態分類モデルにおける各シナプスに対応し、シナプスの共同放電頻度に基づいて決定されてトレーニングタスクとシナプスとの関連程度を表すことに用いられるヘッブ情報を更新し、目標ルールにおける逆伝播段階で、各シナプスに対応するヘッブ情報及び逆伝播結果に応じて、前記脳活動状態分類モデルにおけるシナプスの重み値を決定するためのトレーニングモジュールと、を備える、
脳活動状態分類モデルのトレーニング装置を更に提供する。
【0012】
第4側面において、本発明の実施例は、
メモリと、プロセッサと、前記メモリに記憶されて前記プロセッサで運行可能なコンピュータプログラムとを備える電子機器を更に提供し、前記プロセッサが前記プログラムを実行すると、第1側面に記載の脳活動状態分類モデルのトレーニング方法又は第2側面に記載の脳活動状態分類方法を実現する。
【0013】
第5側面において、本発明の実施例は、
コンピュータプログラムが記憶された非一時的コンピュータ可読記憶媒体を更に提供し、前記コンピュータプログラムがプロセッサによって実行されると、第1側面に記載の脳活動状態分類モデルのトレーニング方法又は第2側面に記載の脳活動状態分類方法を実現する。
【0014】
第6側面において、本発明の実施例は、
コンピュータプログラムを含むコンピュータプログラムプロダクトを更に提供し、前記コンピュータプログラムがプロセッサによって実行されると、第1側面に記載の脳活動状態分類モデルのトレーニング方法又は第2側面に記載の脳活動状態分類方法を実現する。
【発明の効果】
【0015】
本発明の実施例に係る脳活動状態分類モデルのトレーニング方法、装置及び機器は、複数のトレーニングタスクに対応する脳波信号サンプルのスパイク列を継続学習する過程において、目標ルールにおける順伝播段階で、ヘッブ情報によりトレーニングタスクとシナプスとの関連程度を記録し、目標ルールにおける逆伝播段階で、記録したヘッブ情報によりシナプスの重み値を決定し、これにより、複数のトレーニングタスクの継続学習の過程において、ヘッブ情報を記録して既にトレーニングされたタスクの情報を保護することで、既にトレーニングされたタスクも正確に識別されることを可能にし、破局的忘却の問題を解決し、トレーニング後の脳活動状態分類モデルが脳活動状態の分類を正確に行うことを可能にし、脳活動状態の分類の効率及び正確性を向上させる。
【図面の簡単な説明】
【0016】
本発明又は従来技術における技術案をより明確に説明するために、以下、実施例又は従来技術の説明で使用する必要がある図面を簡単に紹介するが、以下の説明における図面は本発明のいくつかの実施例であり、当業者にとって、創造的な労働を行わない前提で、これらの図面に応じて他の図面を更に得ることができることは明らかである。
【0017】
図1】本発明の実施例に係る脳活動状態分類モデルのトレーニング方法のフローの模式図の1である。
図2】本発明の実施例に係る脳活動状態分類モデルのトレーニング方法のフローの模式図の2である。
図3】本発明の実施例に係る脳活動状態分類モデルのトレーニング方法のフローの模式図の3である。
図4】本発明の実施例に係る脳活動状態分類モデルのトレーニング方法のフローの模式図の4である。
図5】本発明の実施例に係る脳活動状態分類モデルのトレーニング装置の構造模式図である。
図6】本発明の実施例に係る電子機器の構造模式図である。
【発明を実施するための形態】
【0018】
本発明の目的、技術案及び利点をより明確にするために、以下、本発明における図面を参照しながら、本発明における技術案を明確で完全に説明し、説明される実施例は、本発明の一部の実施例であり、すべての実施例ではないことは明らかである。本発明における実施例に基づいて、当業者が創造的な労働を行わない前提で得られるすべての他の実施例は、本発明の保護範囲に属している。
【0019】
本発明の実施例の方法は、医学の信号処理のシーンに適用され、脳活動状態の正確な分類を実現することができる。
【0020】
関連技術において、人工ニューラルネットワークにより脳活動状態の分類を行っているが、データの分布が変化し続ける場合、人工ニューラルネットワークモデルは従来方法と同様に、破局的忘却の問題に悩まされており、即ち、新しい知識に対する学習が古い知識に対する記憶に干渉し、脳活動状態の分類結果の正確性及び分類効率を低くする。
【0021】
本発明の実施例の脳活動状態分類モデルのトレーニング方法は、複数のトレーニングタスクに対応する脳波信号サンプルのスパイク列を継続学習する過程において、目標ルールにおける順伝播段階で、ヘッブ情報によりトレーニングタスクとシナプスとの関連程度を記録し、目標ルールにおける逆伝播段階で、記録したヘッブ情報によりシナプスの重み値を決定し、これにより、複数のトレーニングタスクの継続学習の過程において、ヘッブ情報を記録して既にトレーニングされたタスクの情報を保護することで、既にトレーニングされたタスクも正確に識別されることを可能にし、破局的忘却の問題を解決し、トレーニング後の脳活動状態分類モデルが脳活動状態の分類を正確に行うことを可能にし、脳活動状態の分類の効率及び正確性を向上させる。
【0022】
以下、図1図6を参照し、具体的な実施例により、本発明の技術案を詳しく説明する。以下のいくつかの具体的な実施例は互いに結び付けることができ、同じ又は類似する概念又は過程について、いくつかの実施例で繰り返し説明しない可能性がある。
【0023】
図1は、本発明の実施例に係る脳活動状態分類モデルのトレーニング方法の一実施例のフローの模式図である。図1に示すように、本実施例に係る方法は、以下を含む。
【0024】
ステップ101において、複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を取得し、
具体的には、関連技術において、人工ニューラルネットワークにより脳活動状態の分類を行っているが、データの分布が変化し続ける場合、人工ニューラルネットワークモデルは従来方法と同様に、破局的忘却の問題に悩まされており、即ち、新しい知識に対する学習は古い知識に対する記憶に干渉し、脳活動状態の分類結果の正確性及び分類効率を低くする。
【0025】
上記問題を解決するために、本発明の実施例において、まず、複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を取得し、好ましくは、各脳活動状態分類のトレーニングタスクで、心拍数信号、脳信号及びオーディオ等の信号の入力に対して、スパイクエンコーダ(例えば、ポアソンエンコーダ)で非スパイク入力信号を新しいスパイク列にエンコードし、脳活動状態分類モデルのトレーニングを行う。例えば、ある心拍数信号の入力に対して、それをNフレームに分け、各フレームは1つの正規分布又は他の分布のスパイク列にエンコードされる。
【0026】
ステップ102において、各トレーニングタスクに対応する脳波信号サンプルのスパイク列を、スパイキングニューラルネットワークに基づいて構築される初期の脳活動状態分類モデルに入力し、目標ルールに基づいて脳活動状態分類モデルをトレーニングし、そのうち、目標ルールにおける順伝播段階で、各トレーニングタスクに対応するスパイク列に応じて、脳活動状態分類モデルにおける各シナプスに対応し、シナプスの共同放電頻度に基づいて決定されてトレーニングタスクとシナプスとの関連程度を表すことに用いられるヘッブ情報を更新し、目標ルールにおける逆伝播段階で、各シナプスに対応するヘッブ情報及び逆伝播結果に応じて、脳活動状態分類モデルにおけるシナプスの重み値を決定する。
【0027】
具体的には、複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を取得した後、本発明の実施例において、各脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を初期の脳活動状態分類モデルに入力して継続学習し、目標ルールに基づいて脳活動状態分類モデルをトレーニングし、好ましくは、目標ルールは順伝播段階及び逆伝播段階を含み、順伝播段階の実際の出力値と所期の出力値との誤差に応じて逆伝播を行い、循環反復し、脳活動状態分類モデルのパラメータに対する学習トレーニングを行い、トレーニングが完成した後、脳活動状態分類モデルは、脳活動状態の分類に使用可能である。好ましくは、目標ルールにおける順伝播段階で、本発明の実施例において、各トレーニングタスクに対応するスパイク列に応じて、脳活動状態分類モデルにおける各シナプスに対応するヘッブ情報を更新し、目標ルールにおける逆伝播段階で、各シナプスに対応するヘッブ情報及び逆伝播結果に応じて、脳活動状態分類モデルにおけるシナプスの重み値を決定し、つまり、複数のトレーニングタスクに対応する脳波信号サンプルのスパイク列を継続学習する過程において、目標ルールにおける順伝播段階で、ヘッブ情報によりトレーニングタスクとシナプスとの関連程度を記録し、目標ルールにおける逆伝播段階で、記録したヘッブ情報及び逆伝播結果によりシナプスの重み値を決定し、これにより、複数のトレーニングタスクの継続学習の過程において、ヘッブ情報を記録して既にトレーニングされたタスクの情報を保護することで、既にトレーニングされたタスクも正常に識別されることを可能にし、即ち、複数のタスクのトレーニング時にシナプスのヘッブ情報を記録し、異なるタスクに対応する高活性のニューロンを見つけ、この部分のニューロンを該タスクのサブシステムとして割り当て、且つその重み値をその後の他のタスクの学習で変えられないようにロックし、これにより、新しいトレーニングタスクが前期の既にトレーニングされたタスクに影響を及ぼさないため、前のタスクが忘却されることがなく、効率的にトレーニングでき、且つ複数のタスクの情報が不明な場合にニューロンを自己適応的に割り当ててサブシステムを形成できるモデル及び方法を革新的に実現し、破局的忘却の問題を解決する。
【0028】
例えば、1つ目のトレーニングタスクに対応する脳波信号サンプルのスパイク列は、ユーザがピクチャを見る時に対応するスパイク列であり、第1種の脳活動タイプに対応し、目標ルールにおける順伝播段階で、1つ目のトレーニングタスクに応じて、脳活動状態分類モデルにおけるシナプスAのヘッブ情報をaとして記録し、目標ルールにおける逆伝播段階で、逆伝播の結果及びシナプスAに対応するヘッブ情報aに応じて、シナプスAの重み値の変化量を共同で決定し、2つ目のトレーニングタスクに対応する脳波信号サンプルのスパイク列は、ユーザが音声を聞く時に対応するスパイク列であり、第2種の脳活動タイプに対応し、目標ルールにおける順伝播段階で、2つ目のトレーニングタスクに応じて、脳活動状態分類モデルにおけるシナプスBのヘッブ情報をbとして記録し、目標ルールにおける逆伝播段階で、逆伝播の結果及びシナプスBに対応するヘッブ情報bに応じて、脳活動状態分類モデルにおけるシナプスBの重み値を決定し、即ち、目標ルールにおける順伝播段階で、ヘッブ情報によりトレーニングタスクとシナプスとの関連程度を記録し、目標ルールにおける逆伝播段階で、逆伝播の結果及びヘッブ情報に応じて、シナプスの重み値の変化量を共同で決定し、2つ目のトレーニングタスクを完成させた後、脳活動状態分類モデルは、依然として第1種の脳活動タイプを正確に分類することができ、つまり、複数のトレーニングタスクの継続学習の過程において、ヘッブ情報を記録して既にトレーニングされたタスクの情報を保護することで、既にトレーニングされたタスクも正確に識別されることを可能にし、即ち、複数のタスクの場合、新しいトレーニングタスクが前期の既にトレーニングされたタスクに影響を及ぼさないため、前のタスクが忘却されることがなく、破局的忘却の問題を解決する。
【0029】
なお、関連技術において、ニューラルネットワークをモジュール化し、異なるタスクに、定量のニューロンを含むサブシステムをランダムに割り当てる。生物的アングルから言えば、この方が、複数のタスクの継続学習に対する大脳の特徴(例えば、記憶及び運動の制御が異なる脳領域の制御に属する)に合致する。しかし、このようなパラダイムにもいくつかの問題が存在し、1つ目の問題はサブシステムのトレーニング効率の問題である。ニューラルネットワークが各タスクに、定量のニューロンをランダムに割り当ててサブシステムを構成してトレーニングを行うため、タスク数が多すぎるか又はタスクトレーニング量が大きすぎる場合、例えば、脳波信号のようなハイスループットマルチモードのデータストリームを入力する場合、トレーニングデータがニューロン数に対して不平衡になり、サブシステムのトレーニング効率が低すぎ、ひいてはネットワーク全体のトレーニング効率が低すぎることを意味する。トレーニング効率の2つ目の問題は、このようなモジュール化アーキテクチャが、各タスクのサブシステムを分割するように、タスク数及びトレーニング順序を事前に知っておく必要があることである。これは、タスク数及び学習順序が予め明確にされていない場合、例えば、脳波信号のような順序及び数が決定できない分類タスクの場合、このようなモジュール化アーキテクチャのパラダイムによる複数のタスクのトレーニングが困難であることを意味する。一方、本発明の実施例において、複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を継続学習し、目標ルールにおける順伝播段階で、ヘッブ情報によりトレーニングタスクとシナプスとの関連程度を記録し、目標ルールにおける逆伝播段階で、記録したヘッブ情報及び逆伝播結果によりシナプスの重み値を決定し、これにより、複数のトレーニングタスクの継続学習の過程において、ヘッブ情報を記録して既にトレーニングされたタスクの情報を保護することで、前のタスクが忘却されず、既にトレーニングされたタスクも正確に識別されることを可能にし、破局的忘却の問題を解決する。本発明の実施例は、ニューラルネットワークをモジュール化するトレーニング過程に比べ、より強い継続学習能力を有し、継続学習するタスクにサブシステムを割り当てる場合、自己適応的に計算して割り当てており、ディープニューラルネットワーク及び従来のモジュール化アーキテクチャの継続学習するパラダイムのいずれに比べても、より強い継続学習能力を有し、且つ複数のタスクのトレーニングをより効率的に完成させることができ、本発明の実施例において、異なるタスクの学習に対していずれもネットワーク全体を運用し、複数のタスク及び大きなタスクのトレーニング効率がより高く、これは、従来のモジュール化アーキテクチャの継続学習するパラダイムが具備できない能力である。
【0030】
また、スパイキングニューラルネットワークはディープニューラルネットワークに比べて、より複雑なニューロン及びシナプス構造を有しており、既存の人工ネットワークでは無視されている多くの生物的ルールがまさしく汎用的なヒト脳に類似する知能を実現する鍵となるため、これらの生物的ルールが更に脳に類似するスパイキングニューラルネットワークに加入すると、既存のネットワークは、より強い計算能力及び適応能力を得て、本願の実施例における脳活動状態分類モデルはスパイキングニューラルネットワークに基づいて構築されるため、脳活動状態分類モデルの設計及び継続学習方法はいずれも、更に生物的合理性を持つようになる。本発明の実施例において、複数のタスクのトレーニング時にシナプスのヘッブ情報を記録し、異なるタスクに対応する高活性のニューロンを見つけ、この部分のニューロンを該タスクのサブシステムとして割り当て、且つその重み値をその後の他のタスクの学習で変えられないようにロックし、効率的にトレーニングでき、且つ複数のタスクの情報が不明な場合にニューロンを自己適応的に割り当ててサブシステムを形成できるモデル及び方法を革新的に実現し、モジュール化アーキテクチャのパラダイムに存在する2つの問題を解決し、スパイキングニューラルネットワークの継続学習能力を大きく増強する。
【0031】
上記実施例の方法は、複数のトレーニングタスクに対応する脳波信号サンプルのスパイク列を継続学習する過程において、目標ルールにおける順伝播段階で、ヘッブ情報によりトレーニングタスクとシナプスとの関連程度を記録し、目標ルールにおける逆伝播段階で、記録したヘッブ情報及び逆伝播結果によりシナプスの重み値を決定し、これにより、複数のトレーニングタスクの継続学習の過程において、ヘッブ情報を記録して既にトレーニングされたタスクの情報を保護することで、既にトレーニングされたタスクも正確に識別されることを可能にし、破局的忘却の問題を解決し、トレーニング後の脳活動状態分類モデルが脳活動状態の分類を正確に行うことを可能にし、脳活動状態の分類の効率及び正確性を向上させる。
【0032】
一実施例において、各トレーニングタスクに対応するスパイク列に応じて、脳活動状態分類モデルにおける各シナプスに対応するヘッブ情報を更新することは、
以下のような数式で脳活動状態分類モデルにおける各シナプスに対応するヘッブ情報を更新することを含み、
そのうち、
は、スパイク列内のj個目のタスクの前のi個目のシナプスのヘッブ情報を表し、
は、スパイク列内のj個目のタスクの後のi個目のシナプスのヘッブ情報を表し、ωは予め設定された更新率を表し、
は、スパイク列内のj個目のタスクに対応する脳活動状態分類モデルにおけるi個目のシナプスの共同放電頻度を表し、
は目標リストを表し、目標リストには、各トレーニングタスクに対応するシナプスのヘッブ情報が格納され、
は、目標リストに格納されたj個目のタスクに対応するi個目のシナプスのヘッブ情報を表す。
【0033】
具体的には、本発明の実施例において、複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を継続学習し、目標ルールにおける順伝播段階で、ヘッブ情報によりトレーニングタスクとシナプスとの関連程度を記録し、目標ルールにおける逆伝播段階で、記録したヘッブ情報及び逆伝播結果によりシナプスの重み値を決定し、これにより、複数のタスクの継続学習の過程において、ヘッブ情報を記録して既にトレーニングされたタスクの情報を保護することで、前のタスクが忘却されず、既にトレーニングされたタスクも正常に識別されることを可能にし、破局的忘却の問題を解決する。好ましくは、以下のような数式で脳活動状態分類モデルにおける各シナプスに対応するヘッブ情報を更新して記録し、
そのうち、
は、スパイク列内のj個目のタスクの前のi個目のシナプスのヘッブ情報を表し、
は、スパイク列内のj個目のタスクの後のi個目のシナプスのヘッブ情報を表し、ωは予め設定された更新率を表し、
は、スパイク列内のj個目のタスクに対応する脳活動状態分類モデルにおけるi個目のシナプスの共同放電頻度を表し、
は目標リストを表し、目標リストには、各トレーニングタスクに対応するシナプスのヘッブ情報が格納され、
は、目標リストに格納されたj個目のタスクに対応するi個目のシナプスのヘッブ情報を表す。つまり、シナプスのために共同放電現象の頻度を記述するための1つの変数を定義し、該変数はヘッブ情報と呼ばれ、各タスクトレーニングの順伝播段階で、各シナプスは、タスクに対応するヘッブ情報を計算更新して記録する。具体的な処理方式は、以下のとおりである。全てのタスクをネットワークに順次入力して継続学習のパラダイムで学習を行い、各タスクの学習過程において、いずれも履歴タスクのデータが現れず、該タスクのデータだけが現れるようになる。各タスクの順伝播段階で、各シナプスはいずれも、以下の数式に示すように、対応するタスクのヘッブ情報の計算更新を行い、
そのうち、ωは更新率を表し、
及び
はそれぞれ、j個目のタスクの順伝播段階でのi個目のシナプスの更新前及び更新後のヘッブ情報を表し、
は、現在のタスクの順伝播段階での各シナプスの共同放電頻度を表す。ωは、人為的に設定したパラメータであり、
の初期化値は0である。
は、i個目のシナプスの各履歴タスクに対応するヘッブ情報が格納されたリストであり、
は即ち、リストに格納されたj個目のタスクに対応するヘッブ情報であり、つまり、複数のタスクのトレーニング時に各タスクに対してシナプスのヘッブ情報を記録し、異なるタスクに対応する高活性のニューロンを見つけ、この部分のニューロンを該タスクのサブシステムとして割り当て、且つその重み値をその後の他のタスクの学習で変えられないようにロックし、複数のトレーニングタスクの継続学習の過程において、ヘッブ情報を記録して既にトレーニングされたタスクの情報を保護することで、既にトレーニングされたタスクも正常に識別されることを可能にすることを実現し、破局的忘却の問題を解決し、トレーニング後の脳活動状態分類モデルが脳活動状態の分類を正確に行うことを可能にし、脳活動状態の分類の効率及び正確性を向上させる。
【0034】
上記実施例の方法は、全てのタスクを脳活動状態分類モデルに順次入力することで継続学習のパラダイムで学習を行い、各タスクトレーニングの順伝播段階で、各シナプスは、タスクに対応するヘッブ情報を計算更新して記録し、つまり、複数のタスクのトレーニング時に各タスクに対してシナプスのヘッブ情報を記録し、異なるタスクに対応する高活性のニューロンを見つけ、この部分のニューロンを該タスクのサブシステムとして割り当て、且つその重み値をその後の他のタスクの学習で変えられないようにロックし、複数のトレーニングタスクの継続学習の過程において、ヘッブ情報を記録して既にトレーニングされたタスクの情報を保護することで、既にトレーニングされたタスクも正常に識別されることを可能にすることを実現し、破局的忘却の問題を解決し、トレーニング後の脳活動状態分類モデルが脳活動状態の分類を正確に行うことを可能にし、脳活動状態の分類の効率及び正確性を向上させる。
【0035】
一実施例において、脳活動状態分類モデルにおける各シナプスに対応するヘッブ情報を更新することは、
単一の時間窓でのシナプスの共同放電状態に基づいてシナプスのヘッブ情報を更新すること、及び/又は、
複数の時間窓内の平均放電率に基づいてシナプスのヘッブ情報を更新すること、を含む。
【0036】
具体的には、2種の方式に基づいてシナプスのヘッブ情報を更新することができ、第1種の方式は、いくつかの時間窓内のニューロン活動情報に応じてヘッブ情報を更新し、即ち、順伝播段階で、いくつかの時間窓内の平均放電率に応じてヘッブ情報を更新するものであり、
は、以下のように表され、
及び
はそれぞれ、シナプスの前及びシナプスの後のニューロンのt個目の時間窓での発火状態を表し、この場合、ヘッブ情報はT個の時間窓毎に1回更新される。
【0037】
第2種の方式は、単一の時間窓でのシナプスの共同放電状態に応じて、ヘッブ情報を更新計算し、即ち、順伝播段階で、単一の時間窓内のニューロン活動情報に応じてヘッブ情報を更新するものであり、
は、以下のように表され、
この場合、ヘッブ情報は、時間窓毎に1回更新される。
【0038】
そのうち、i個目のシナプスの前後のニューロンの活動が活発であるほど、共同放電現象は頻繁になり、
は大きくなり、更新後のヘッブ情報も大きくなり、j個目のタスクにとってはi個目のシナプスの方が重要であることを表す。
【0039】
上記実施例の方法は、いくつかの時間窓内のニューロン活動情報でヘッブ情報を更新するか、又は単一の時間窓でのシナプスの共同放電状態に応じてヘッブ情報を更新することにより、ヘッブ情報の適時で正確な更新を実現し、これにより、トレーニングタスクに対応するシナプスの活動が活発であるほど、更新後のヘッブ情報も大きくなり、該トレーニングタスクにとっては該シナプスの方が重要となり、更に、異なるタスクに対応する高活性のシナプスを見つけることもでき、この部分のシナプスを該タスクのサブシステムとして割り当て、且つその重み値をその後の他のタスクの学習で変えられないようにロックし、複数のトレーニングタスクの継続学習の過程において、ヘッブ情報を記録して既にトレーニングされたタスクの情報を保護することで、既にトレーニングされたタスクも正確に識別されることを可能にすることを実現し、破局的忘却の問題を解決し、トレーニング後の脳活動状態分類モデルが脳活動状態の分類を正確に行うことを可能にし、脳活動状態の分類の効率及び正確性を向上させる。
【0040】
一実施例において、目標ルールにおける逆伝播段階で、各シナプスに対応するヘッブ情報及び逆伝播結果に応じて、脳活動状態分類モデルにおけるシナプスの重み値を決定することは、
逆伝播段階で、脳活動状態分類モデルの任意の1つのシナプスに対しては、シナプスのヘッブ情報が第1閾値よりも大きい場合、シナプスがタスクに関連すると決定し、脳活動状態分類モデルにおけるシナプスの重み値をロックし、シナプスのヘッブ情報が第1閾値よりも大きくない場合、逆伝播結果に応じてシナプスの重み値を修正することを含む。
【0041】
具体的には、本発明の実施例において、複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を継続学習し、目標ルールにおける順伝播段階で、ヘッブ情報によりトレーニングタスクとシナプスとの関連程度を記録し、目標ルールにおける逆伝播段階で、記録したヘッブ情報及び逆伝播結果によりシナプスの重み値を決定し、これにより、複数のトレーニングタスクの継続学習の過程において、ヘッブ情報を記録して既にトレーニングされたタスクの情報を保護することで、前のタスクが忘却されず、既にトレーニングされたタスクも正常に識別されることを可能にし、破局的忘却の問題を解決する。好ましくは、ニューラルネットワークの逆伝播段階で、ヘッブ情報に応じてヘッブシナプスのロック操作を行うことは、逆伝播段階で、記録した履歴タスクで累積したヘッブ情報に応じて、シナプスのためにマスク(mask)を生成してマスキングを行うことで、ネットワークにおける履歴タスクに関連する知識を保護し、ネットワークの継続学習能力を向上させる。具体的には、各タスクの逆伝播段階で、順伝播段階で各シナプスが記録した履歴タスクに対応するヘッブ情報に応じて、シナプスがある履歴タスクに関連するか否かを判断する。i個目のシナプスの関連の判断根拠は、以下に示すように、計算により得られる。
は、i個目のシナプスの各履歴タスクに対応するヘッブ情報が格納されたリストのうち、j個目のタスクに対応するヘッブ情報の値が最も大きいヘッブ情報値を表し、
は関連フラグであり、最も大きいヘッブ情報値
が閾値
よりも大きければ、i個目のシナプスがj個目のタスクに関連すると考え、逆伝播時にマスクでi個目のシナプスの変化量をマスキングし、関連するシナプスiは重み値が現在のタスクによって変更されないことを保証し、即ち、シナプスの重み値のロックであり、最も大きいヘッブ情報値
が閾値
よりも大きくなければ、順伝播段階の実際の出力値と所期の出力値との誤差に応じて逆伝播を行い、循環反復し、脳活動状態分類モデルのパラメータに対する学習トレーニングを行う。そのうち、シナプスとタスクとの関連の判断及びシナプスのマスキング方式をヘッブシナプスのロックの主な内容とし、複数のタスクに対する継続学習を実現し、且つ、各タスクトレーニングの順伝播段階で、各シナプスは該タスクに対応するヘッブ情報を計算更新して記録し、異なるタスクに対応する高活性のニューロンを見つけ、この部分のニューロンを該タスクのサブシステムとして割り当て、且つその重み値をその後の他のタスクの学習で変えられないようにロックし、複数のトレーニングタスクの継続学習の過程において、ヘッブ情報を記録して既にトレーニングされたタスクの情報を保護することで、既にトレーニングされたタスクも正常に識別されることを可能にすることを実現し、破局的忘却の問題を解決し、トレーニング後の脳活動状態分類モデルが脳活動状態の分類を正確に行うことを可能にし、脳活動状態の分類の効率及び正確性を向上させる。
【0042】
上記実施例の方法は、各タスクトレーニングの順伝播段階で、各シナプスがタスクに対応するヘッブ情報を計算更新して記録し、つまり、複数のタスクのトレーニング時に各タスクに対してシナプスのヘッブ情報を記録することにより、異なるタスクに対応する高活性のニューロンを見つけ、逆伝播段階で、この部分の高活性のニューロンを該タスクのサブシステムとして割り当て、且つその重み値をその後の他のタスクの学習で変えられないようにロックし、複数のトレーニングタスクの継続学習の過程において、ヘッブ情報を記録して既にトレーニングされたタスクの情報を保護することで、既にトレーニングされたタスクも正常に識別されることを可能にすることを実現し、破局的忘却の問題を解決し、トレーニング後の脳活動状態分類モデルが脳活動状態の分類を正確に行うことを可能にし、脳活動状態の分類の効率及び正確性を向上させる。
【0043】
一実施例において、脳活動状態分類方法は、
目標脳波信号に対応するスパイク列を取得することと、
目標脳波信号に対応するスパイク列を、脳活動状態分類モデルのトレーニング方法に基づいてトレーニングして得られた脳活動状態分類モデルに入力し、脳活動状態の分類結果を得ることと、を含む。
【0044】
具体的には、本発明の実施例は、複数のトレーニングタスクの継続学習の過程において、ヘッブ情報を記録して既にトレーニングされたタスクの情報を保護することで、既にトレーニングされたタスクも正常に識別されることを可能にし、破局的忘却の問題を解决し、トレーニング後の脳活動状態分類モデルが脳活動状態の分類を正確に行うことも可能にし、脳活動状態の分類の効率及び正確性を向上させる。好ましくは、脳活動状態分類モデルをトレーニングした後、識別待ちの脳波信号に対応するスパイク列を脳活動状態分類モデルに入力し、脳活動状態の分類結果を得て、脳活動状態の正確な識別及び分類を実現することができ、更に、正確に識別及び分類された脳活動状態に基づき、より精確に治療を行うように、医者が信号源を判断して患者の大脳状態及び体調を確認することを補助することができる。
【0045】
上記実施例の方法は、識別待ちの脳波信号に対応するスパイク列をトレーニング後の脳活動状態分類モデルに入力することにより、脳活動状態の分類結果を正確に得て、脳活動状態の正確な識別を実現する。
【0046】
例示的には、図2に示す脳活動状態分類モデルのトレーニング方法のフロー図のように、ヘッブシナプスのロックに基づくスパイキングニューラルネットワークの継続学習モデル及び方法は、より強い継続学習能力、より高いトレーニング効率を実現できるとともに、より生物的に信頼できるニューラルネットワークの学習モデル及び方法を提供し、具体的には、以下のとおりである。
【0047】
(1)入力データをスパイク列にエンコードすることについては、心拍数信号、脳信号及びオーディオ等の信号の入力に対して、後のスパイキングニューロンが使用して処理するように、スパイクエンコーダ(例えば、ポアソンエンコーダ)で非スパイク入力信号をある分布形式の新しいスパイク列にエンコードする。例えば、ある心拍数信号の入力に対して、それをNフレームに分け、各フレームは1つの正規分布又は他の分布のスパイク列にエンコードされる。
【0048】
(2)予め定義された閾値を有する動力学ニューロンがスパイク情報を処理することについては、動力学ニューロンが入力情報をエンコードし、予め定義されたニューロン発火閾値に応じて、動力学特性を決定する。基礎的なLIFニューロンが現在時刻の情報を処理する過程は、以下のとおりである。
そのうち、
は履歴整合状態を有する膜電位であり、Sはニューロン発火状態であり、S=1は、ニューロンiの膜電位
が発火閾値
に達する際のスパイクを表す。同時に、Sは、膜電位を直接遮断せずに膜電位をリセットする方式でニューロンの不応期
をシミュレートする。
【0049】
上記LIFニューロンの基礎に基づき、ニューロン発火閾値は人為的に設定された静的値であり、具体的には、必要なニューロンの動力学特性によって決められる。
【0050】
(3)動力学ニューロンを用いて自己適応的なヘッブ情報の計算を有するスパイキングニューラルネットワークを構築することについては、シナプスのために共同放電現象の頻度を記述するための1つの変数を定義し、該変数はヘッブ情報と呼ばれ、各タスクトレーニングの順伝播段階で、各シナプスは、タスクに対応するヘッブ情報を計算更新して記録する。具体的な処理方式は、以下のとおりである。
【0051】
図3に示す脳活動状態分類モデルのトレーニング方法のフロー図のように、全てのタスクをネットワークに順次入力して継続学習のパラダイムで学習を行い、各タスクの学習過程において、いずれも履歴タスクのデータが現れず、該タスクのデータだけが現れるようになる。各タスクの順伝播段階で、各シナプスは、以下の数式に示すように、いずれも対応するタスクのヘッブ情報の計算更新を行い、
そのうち、ωは更新率を表し、
及び
はそれぞれ、j個目のタスクの順伝播段階でのi個目のシナプスの更新前及び更新後のヘッブ情報を表し、
は、現在のタスクの順伝播段階での各シナプスの共同放電頻度を表し、ヘッブ情報の更新の2種の技術路線を介して計算して得られる。ωは、人為的に設定したパラメータであり、
の初期化値は0である。
は、i個目のシナプスの各履歴タスクに対応するヘッブ情報が格納されたリストであり、
は即ち、リストに格納されたj個目のタスクに対応するヘッブ情報である。
【0052】
具体的には、シナプスのヘッブ情報の更新には2種の方式が存在し、第1種の方式は、いくつかの時間窓内のニューロン活動情報に応じてヘッブ情報を更新し、即ち、
は、この場合、以下のように表され、
及び
はそれぞれ、シナプスの前及びシナプスの後のニューロンのt個目の時間窓での発火状態を表し、この場合、ヘッブ情報はT個の時間窓毎に1回更新される。
【0053】
第2種の方式は、単一の時間窓でのシナプスの共同放電状態に応じて、ヘッブ情報を更新計算するものであり、即ち、
は、この場合、以下のように表され、
この場合、ヘッブ情報は、時間窓毎に1回更新される。
【0054】
好ましくは、i個目のシナプスの前後のニューロンの活動が活発であるほど、共同放電現象は頻繁になり、
は大きくなり、更新後のヘッブ情報も大きくなり、j個目のタスクにとってはi個目のシナプスの方が重要であることを表す。
【0055】
(4)逆伝播段階で、ヘッブ情報に応じてヘッブシナプスのロック操作を行うことについては、逆伝播段階で、記録した履歴タスクで累積したヘッブ情報に応じて、シナプスのためにマスクを生成してマスキングを行うことで、更に、ネットワークにおける履歴タスクに関連する知識を保護し、継続学習能力を向上させる。具体的には、各タスクの逆伝播段階で、各シナプスが記録した履歴タスクに対応するヘッブ情報に応じて、シナプスがある履歴タスクに関連するか否かを判断する。i個目のシナプスの関連の判断根拠は、数式に示すように、数式における
により計算して得られ、
は、i個目のシナプスの各履歴タスクに対応するヘッブ情報が格納されたリストのうち、j個目のタスクに対応するヘッブ情報の値が最も大きいヘッブ情報値を表し、
は関連フラグであり、最も大きいヘッブ情報値
が閾値
よりも大きければ、i個目のシナプスがj個目のタスクに関連すると考え、逆伝播時にマスクでi個目のシナプスの変化量をマスキングし、関連するシナプスiは重み値が現在のタスクによって変更されないことを保証し、即ち、シナプスの重み値のロックである。ここで、我々は、このようなシナプスとタスクとの関連の判断及びシナプスのマスキング方式をヘッブシナプスのロックの主な内容と見なす。
【0056】
(5)ヘッブシナプスのロックに基づくスパイキングニューラルネットワークの継続学習モデルを用いて心拍数、脳信号等のシーケンスを識別する。即ち、トレーニング後の脳活動状態分類モデルにより心拍数、脳信号等のシーケンスの情報の識別を行い、出力層で集団決定の方式を用い、1つの入力に対して、最も多くの応答を有するカテゴリをモデルの分類の最終的に出力するカテゴリとする。
【0057】
例示的には、図4に示す脳活動状態分類モデルのトレーニング方法のフロー図のように、具体的には、以下のとおりである。
【0058】
ステップS1において、予め定義された閾値を有する動力学ニューロンを用いて自己適応的なヘッブ情報の計算を有するスパイキングニューラルネットワークを構築し、更に、スパイキングニューラルネットワークに基づいて初期の脳活動状態分類モデルを確立する。
【0059】
ステップS2において、信号の入力、つまり、複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルに対して、それをNフレームに分け、各フレームは1つの正規分布又は他の分布のスパイク列にエンコードされる。
【0060】
ステップS3において、現在のタスクのスパイク信号を、構築した初期の脳活動状態分類モデルに入力し、タスクトレーニングの順伝播段階で、各シナプスは、タスクに対応するヘッブ情報を計算更新して記録する。
【0061】
ステップS4において、逆伝播段階で、記録した履歴タスクで累積したヘッブ情報に応じて、シナプスのためにマスクを生成してマスキングを行うことで、ネットワークにおける履歴タスクに関連する知識を保護する。ヘッブ情報により既にトレーニングされたタスクの情報を保護することで、既にトレーニングされたタスクも正確に識別されることを可能にし、破局的忘却の問題を解決する。
【0062】
ステップS5において、学習したことがないタスクに遭遇するか否かを判断し、学習したことがないタスクが存在すれば、初期の脳活動状態分類モデルが全ての学習したタスクを完成させるまでステップS3及びステップS4を繰り返し、脳活動状態分類モデルのトレーニングを完成させる。
【0063】
例示的には、MNISTデータセットを選出してTask-ILの継続学習のタスクの検証を行い、Task_ILは、タスク増分学習であり、このようなシーンで、トレーニング段階でもテスト段階でも、モデルは現在のタスクIDが通知され、且つ、異なるタスクは独立した出力層を有する。上記分類学習方法を用い、平均の正確率とネットワーク規模、放電スパース性、シナプスロック割合との関係を検証する。そのうち、正確率の定義は、正確に識別したサンプル数を全てのサンプル数で割ったものである。閾値は、ロックされたシナプスが占めた割合と定義される。検証結果は、本発明の方法の使用が、Task-ILの継続学習で高い正確率の優勢を持ち、且つ、平均の正確率と3種のパラメータとの変化関係が、いずれも我々が設計したネットワークの性質を満たすことを示す。
【0064】
例示的には、MNISTデータセットを選出してDomain-ILの継続学習のタスクの検証を行い、Domain_ILは、ドメイン増分学習であり、Task-ILに比べ、テスト段階で新しい制限が増加され、即ち、予測段階でタスクのIDが通知されず、且つ、異なるタスクが同一の出力層を共用する。モデルは、タスクIDが分からない場合にデータを正確に分類する必要がある。上記分類学習方法を用いて平均の正確率とネットワーク規模、放電スパース性、シナプスロック割合との関係を検証する。そのうち、正確率の定義は、正確に識別したサンプル数を全てのサンプル数で割ったものである。検証結果は、平均の正確率と3種のパラメータとの変化関係が十分に明らかであり、且つ、本発明で構築されたネットワークの性質に合致することを示す。
【0065】
以上の2つの実例におけるパラメータの具体的な設定は、表1に示すとおりである。
【0066】
表1
そのうち、gはコンダクタンス係数であり、
はニューロンの放電閾値であり、
は不応期であり、Tは、動的ニューロンをシミュレートする時間窓である。更に、本発明において、膜電位の容量C=1μF/cmであり、リセット膜電位Vrest=0mVである。
【0067】
本発明は、より強い継続学習能力、効率的な複数のタスクのトレーニング、生物的合理性という利点を有することが分かる。
【0068】
より強い継続学習能力については、本発明は継続学習するタスクにサブシステムを割り当てる場合、自己適応的に計算して割り当てており、ディープニューラルネットワーク及び従来のモジュール化アーキテクチャの継続学習するパラダイムのいずれに比べても、より強い継続学習能力を有する。
【0069】
効率的な複数のタスクのトレーニングについては、本発明において、異なるタスクの学習に対していずれもネットワーク全体を運用し、複数のタスク及び大きなタスクのトレーニング効率がより高く、これは、従来のモジュール化アーキテクチャの継続学習するパラダイムが具備できない能力である。
【0070】
生物的合理性については、本発明において、ヘッブの法則に従うシナプス選択及びヘッブシナプスのロックの加入、タスクのサブシステムの自己適応的な割り当ては、モデル設計及び継続学習方法にいずれも生物的合理性を更に持たせる。
【0071】
以下、本発明に係る脳活動状態分類モデルのトレーニング装置を説明し、以下に説明する脳活動状態分類モデルのトレーニング装置は、以上に説明した脳活動状態分類モデルのトレーニング方法と互いに対応して参照することができる。
【0072】
図5は、本発明に係る脳活動状態分類モデルのトレーニング装置の構造模式図である。本実施例に係る脳活動状態分類モデルのトレーニング装置は、
複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を取得するための取得モジュール710と、
各トレーニングタスクに対応する脳波信号サンプルのスパイク列を、スパイキングニューラルネットワークに基づいて構築される初期の脳活動状態分類モデルに入力し、目標ルールに基づいて脳活動状態分類モデルをトレーニングし、そのうち、目標ルールにおける順伝播段階で、各トレーニングタスクに対応するスパイク列に応じて、脳活動状態分類モデルにおける各シナプスに対応し、シナプスの共同放電頻度に基づいて決定されてトレーニングタスクとシナプスとの関連程度を表すことに用いられるヘッブ情報を更新し、目標ルールにおける逆伝播段階で、各シナプスに対応するヘッブ情報及び逆伝播結果に応じて、脳活動状態分類モデルにおけるシナプスの重み値を決定するためのトレーニングモジュール720と、を備える。
【0073】
好ましくは、前記トレーニングモジュール720は、具体的に、以下のような数式で脳活動状態分類モデルにおける各シナプスに対応するヘッブ情報を更新することに用いられ、
そのうち、
は、スパイク列内のj個目のタスクの前のi個目のシナプスのヘッブ情報を表し、
は、スパイク列内のj個目のタスクの後のi個目のシナプスのヘッブ情報を表し、ωは予め設定された更新率を表し、
は、スパイク列内のj個目のタスクに対応する脳活動状態分類モデルにおけるi個目のシナプスの共同放電頻度を表し、
は目標リストを表し、目標リストには、各トレーニングタスクに対応するシナプスのヘッブ情報が格納され、
は、目標リストに格納されたj個目のタスクに対応するi個目のシナプスのヘッブ情報を表す。
【0074】
好ましくは、前記トレーニングモジュール720は、具体的に、単一の時間窓でのシナプスの共同放電状態に基づいてシナプスのヘッブ情報を更新すること、及び/又は、
複数の時間窓内の平均放電率に基づいてシナプスのヘッブ情報を更新することに用いられる。
【0075】
好ましくは、前記トレーニングモジュール720は、具体的に、逆伝播段階で、脳活動状態分類モデルの任意の1つのシナプスに対しては、シナプスのヘッブ情報が第1閾値よりも大きい場合、シナプスがタスクに関連すると決定し、脳活動状態分類モデルにおけるシナプスの重み値をロックし、シナプスのヘッブ情報が第1閾値よりも大きくない場合、逆伝播結果に応じてシナプスの重み値を修正することに用いられる。
【0076】
本発明の実施例の装置は、前述したいずれかの方法の実施例における方法を実行することに用いられ、その実現原理及び技術的効果に類似し、今回は繰り返し説明しない。
【0077】
図6は、電子機器の実体構造の模式図を例示的に示し、該電子機器は、プロセッサ(processor)810、通信インタフェース(Communications Interface)820、メモリ(memory)830及び通信バス840を備えてもよく、そのうち、プロセッサ810、通信インタフェース820及びメモリ830は、通信バス840を介して相互間の通信を完成させる。プロセッサ810は、メモリ830内の論理命令を呼び出し、脳活動状態分類モデルのトレーニング方法を実行することができ、該方法は、複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を取得することと、各トレーニングタスクに対応する脳波信号サンプルのスパイク列を、スパイキングニューラルネットワークに基づいて構築される初期の脳活動状態分類モデルに入力し、目標ルールに基づいて脳活動状態分類モデルをトレーニングし、そのうち、目標ルールにおける順伝播段階で、各トレーニングタスクに対応するスパイク列に応じて、脳活動状態分類モデルにおける各シナプスに対応し、シナプスの共同放電頻度に基づいて決定されてトレーニングタスクとシナプスとの関連程度を表すことに用いられるヘッブ情報を更新し、目標ルールにおける逆伝播段階で、各シナプスに対応するヘッブ情報及び逆伝播結果に応じて、脳活動状態分類モデルにおけるシナプスの重み値を決定することとを含む。
【0078】
また、上記メモリ830内の論理命令は、ソフトウェア機能ユニットの形式で実現されて独立したプロダクトとして販売又は使用される場合、1つのコンピュータ読取り可能な記憶媒体に記憶されてもよい。このような理解に基づいて、本発明の技術案の本質的な部分又は従来技術に寄与する部分、或いは該技術案の一部は、ソフトウェアプロダクトの形式で具現することができ、該コンピュータソフトウェアプロダクトは、1つの記憶媒体に記憶され、1台のコンピュータ機器(パーソナルコンピュータ、サーバ、又はネットワーク機器等であってもよい)に本発明の各実施例に記載の方法の全部又は一部のステップを実行させるためのいくつかの命令を含む。前述した記憶媒体は、USBメモリ、リードオンリーメモリ(ROM、Read-Only Memory)、ランダムアクセスメモリ(RAM、Random Access Memory)、磁気ディスク又は光ディスク等の様々な、プログラムコードを記憶可能な媒体を含む。
【0079】
別の側面において、本発明は、コンピュータプログラムプロダクトを更に提供し、前記コンピュータプログラムプロダクトは、非一時的コンピュータ可読記憶媒体に記憶されたコンピュータプログラムを含み、前記コンピュータプログラムはプログラム命令を含み、前記プログラム命令がコンピュータによって実行されると、コンピュータは、上記各方法に係る脳活動状態分類モデルのトレーニング方法を実行することができ、該方法は、複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を取得することと、各トレーニングタスクに対応する脳波信号サンプルのスパイク列を、スパイキングニューラルネットワークに基づいて構築される初期の脳活動状態分類モデルに入力し、目標ルールに基づいて脳活動状態分類モデルをトレーニングし、そのうち、目標ルールにおける順伝播段階で、各トレーニングタスクに対応するスパイク列に応じて、脳活動状態分類モデルにおける各シナプスに対応し、シナプスの共同放電頻度に基づいて決定されてトレーニングタスクとシナプスとの関連程度を表すことに用いられるヘッブ情報を更新し、目標ルールにおける逆伝播段階で、各シナプスに対応するヘッブ情報及び逆伝播結果に応じて、脳活動状態分類モデルにおけるシナプスの重み値を決定することとを含む。
【0080】
更に別の側面において、本発明は、コンピュータプログラムが記憶された非一時的コンピュータ可読記憶媒体を更に提供し、該コンピュータプログラムがプロセッサによって実行されると、上記の各々に係る脳活動状態分類モデルのトレーニング方法を実現して実行し、該方法は、複数の脳活動状態分類のトレーニングタスクに対応する脳波信号サンプルのスパイク列を取得することと、各トレーニングタスクに対応する脳波信号サンプルのスパイク列を、スパイキングニューラルネットワークに基づいて構築される初期の脳活動状態分類モデルに入力し、目標ルールに基づいて脳活動状態分類モデルをトレーニングし、そのうち、目標ルールにおける順伝播段階で、各トレーニングタスクに対応するスパイク列に応じて、脳活動状態分類モデルにおける各シナプスに対応し、シナプスの共同放電頻度に基づいて決定されてトレーニングタスクとシナプスとの関連程度を表すことに用いられるヘッブ情報を更新し、目標ルールにおける逆伝播段階で、各シナプスに対応するヘッブ情報及び逆伝播結果に応じて、脳活動状態分類モデルにおけるシナプスの重み値を決定することとを含む。
【0081】
以上に説明した装置の実施例は模式的なものに過ぎず、そのうち、前記の分離部品として説明されたユニットは、物理的に分けられたものであってもよく、又はそうでなくてもよく、ユニットとして表示される部品は、物理的なユニットであってもよく、又はそうでなくてもよく、即ち、1つの箇所に位置してもよく、又は複数のネットワークユニットに分布されてもよい。実際のニーズに応じてこれらの一部又は全てのモジュールを選択して本実施例の態様の目的を実現することができる。当業者は、創造的な労働を行わない前提で、理解して実施することができる。
【0082】
以上の実施形態の説明により、当業者であれば、各実施形態がソフトウェアプラス必要な汎用ハードウェアプラットフォームという方式で実現でき、もちろん、ハードウェアによっても実現できることを明確に理解できる。このような理解に基づき、上記技術案の本質的な部分又は従来技術に寄与する部分は、ソフトウェアプロダクトの形式で具現することができ、該コンピュータソフトウェアプロダクトは、記憶媒体、例えばROM/RAM、磁気ディスク、光ディスク等に記憶されてもよく、1台のコンピュータ機器(パーソナルコンピュータ、サーバ、又はネットワーク機器等であってもよい)に各実施例又は各実施例の何らかの部分に記載の方法を実行させるためのいくつかの命令を含む。
【0083】
最後に説明すべきものとして、以上の各実施例は、本発明の技術案を説明するためのものに過ぎず、それを限定するものではなく、前述した実施例を参照して本発明を詳しく説明したが、当業者であれば、依然として前述した各実施例に記載された技術案を修正したり、そのうちの一部の技術的特徴を均等に置換したりすることができ、これらの修正又は置換にしても、対応する技術案の本質が本発明の各実施例の技術案の精神及び範囲から逸脱しないことを理解すべきである。
図1
図2
図3
図4
図5
図6