(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0012】
以下、本発明の一実施の形態例(以下、「本例」と称する。)を、添付図面を参照して説明する。
[1.システム全体の構成例]
図1は、本例のシステム全体の構成を示す。
図1に示すように、本例のシステムは、データ処理を実行する端末装置100を備える。端末装置100は、例えばコンピュータ装置で構成され、後述する学習処理や推定処理を実行するためのプログラム(ソフトウェア)を実行することにより、脳電図のデータから認知状態を推定するための学習処理及び推定処理を行う。
端末装置100には、各種パラメータなどを入力する入力装置10と、MRI装置20と、脳波計30と、データベース部40と、表示装置50とが接続されている。
【0013】
MRI装置20は、fMRI画像を撮影する装置であり、学習用の脳画像を取得するために使用する。脳波計30は、脳電図を得る装置であり、学習用及び推定用の脳電図を得る。脳電図を得るための電極としては、頭部表面付近の比較的少数の電極でよい。以下の説明では、脳波計30の電極で得られる信号をEEGデータと称する。
データベース部40は、学習用の脳画像及び脳電図を使って得た変換用のデータなどを記憶する。
表示装置50は、端末装置100での演算処理で得られた結果(学習結果や推定結果)を表示する。
【0014】
[2.端末装置の詳細構成例]
図2は、本例の端末装置100の詳細構成例を示す機能ブロック図である。
端末装置100は、計算処理を実行する処理部として、関数学習部101と推定処理部108とを備える。
端末装置100の画像取り込み部102は、MRI装置20から供給される学習用fMRI画像データ21を取り込み、取り込んだfMIR画像データを成分分析処理部103に供給する。成分分析処理部103は、供給されるfMIR画像データの成分分析処理を行い、成分分析結果を関数学習部101に供給する。
【0015】
また、端末装置100の学習用EEGデータ取り込み部104は、脳波計30の学習用脳電図データ(学習用EEGデータ)31を取り込み、取り込んだEEGデータ31をデータ処理部105に供給する。画像取り込み部102が取り込む学習用fMRI画像データ21と、学習用EEGデータ取り込み部104が取り込む学習用EEGデータ31は、同一の計測対象者から同じタイミングに得たデータである。データ処理部105は、供給される学習用EEGデータ31を一定周期でサンプリングして各種データ処理を施して、処理結果のデータを関数学習部101に供給する。データ処理部105では、例えば各電極から取得した学習用EEGデータ31の各電極電位から参照電極電位値を差し引き正規化する処理が行われる。また、よりロバストな推定結果を得る目的で、周波数帯域を1〜200Hz程度に限定するなど、推定対象としたい認知状態に応じて周波数フィルタをこの段階で施しても良い。さらに、データ処理部105では、必要により学習用EEGデータ31からノイズを除去する処理が行われる。
【0016】
関数学習部101は、fMIR画像データを成分分析した結果と、データ処理部105が出力するEEGデータとから、関数学習処理を行う。この関数学習処理を行う際には、入力装置10の学習用パラメータ入力部11から関数学習部101に学習用パラメータが供給される。学習用パラメータ入力部11から入力されるパラメータは、計測対象者の情報を含む計測条件の情報である。
関数学習部101で得た関数学習処理結果は、データベース部40に格納される。また、関数学習部101で得た関数学習処理結果は、学習結果出力部111から表示装置50に供給され、表示装置50の学習結果表示部51に表示される。
【0017】
そして、端末装置100の推定用EEGデータ取り込み部106は、脳波計30の推定用脳電図データ(推定用EEGデータ)32を取り込み、取り込んだ推定用EEGデータ32をデータ処理部107に供給する。データ処理部107は、供給される推定用EEGデータ32を一定周期でサンプリングして各種データ処理を施し、この処理結果のデータを推定処理部108に供給する。データ処理部107においても、例えば各電極から取得した推定用EEGデータ32の各電極電位から参照電極電位値を差し引き正規化する処理が行われる。さらに、よりロバストな推定結果を得る目的で、周波数帯域を1〜200Hz程度に限定するなど、推定対象としたい認知状態に応じて周波数フィルタをこの段階で施しても良い。また入力装置10の推定用パラメータ入力部12から、推定処理部108に推定用パラメータが供給される。推定用パラメータ入力部12から入力されるパラメータは、計測対象者の情報を含む計測条件の情報である。
【0018】
推定処理部108は、データベース部40に登録されたデータと、推定用パラメータ入力部12から入力されたパラメータとを使用して、推定用EEGデータ32から認知状態を推定するための推定処理を行う。推定処理部108で得られた推定結果のデータは、推定結果出力部112から表示装置50に供給され、表示装置50の推定結果表示部52に認知状態の推定結果が表示される。
【0019】
[3.学習処理の例]
次に、
図3のフローチャートを参照して、関数学習部101が、fMRI画像データ21と学習用EEGデータ31との関数学習処理を行う際のアルゴリズムを説明する。
まず、関数学習部101は、学習用パラメータ入力部11から、学習用パラメータとして、時間遅れτ、最大埋め込み次元dmax、近傍点数k、及び計測対象者の情報などを含む計測条件のデータを取得する(ステップS11)。
【0020】
次に、関数学習部101は、fMRI画像データを成分分析した時系列データと、脳電図データ(学習用EEGデータ)31の時系列データとを取り込む(ステップS12)。
ここでは、関数学習部101は、時刻tにおける、学習用EEGデータ31から得られる認知状態の値をx
t、fMRI画像データから得られる認知状態の値をy
tとする。
【0021】
学習用EEGデータ31から得られる認知状態の値x
tは、1つの電極から得られる値でもよいし、複数の電極の値を並べたベクトルのいずれでもよい。fMRI画像データ21から得られる認知状態の値y
tは、fMRI画像データを独立成分分析等により変換したベクトルであってもよい。後述する
図5に、特定の電極から得た波形に基づいた値x
tと、fMRI画像データ21を成分分析した値y
tの一例を示す。このfMRI画像データ21を独立成分分析等により変換したベクトルは、計測対象者の注意状態などを反映する認知状態の指標として用いることができる。
【0022】
そして、関数学習部101は、学習用EEGデータ31から得られる認知状態x
tの時系列と、fMRI画像データ21から得られる認知状態y
tの時系列に基づいて、状態空間を再構成する(ステップS13)。
ここでは、例えば脳電図データから得られる認知状態の値x
tを、時間的に複数並べたベクトル
xtdmaxとしたとき、以下のように構成する。
ベクトル
xtdmax=(x
t,x
t―τ,・・・x
t―(dmax−1)τ)
このベクトル
xtdmaxは、多次元(高次元)のベクトル(状態ベクトル)であり、これを表現する空間を状態空間と称する。
【0023】
なお、状態ベクトルとして、ベクトル
xtdmaxのかわりに、これを任意の変換Rで変換したベクトルx
tdmax=R
xtdmaxによる別の状態空間を用いてもよい。例えば、Rとして行例を用いてもよく、この場合、変換行列Rはd×dの正方行列である。あるいは、ベクトル
xtdmaxの要素に対する非線形変換を用いてもよい。なお、Rが恒等変換(単位行列)のときは、x
tdmax=
xtdmaxであり、簡便な推定においては、Rを恒等変換としてもよい。あるいは、信号の周波数の変化や不均一性に対してよりロバストな推定結果を得るために、Rの各要素をガウス分布または一様分布からランダムにサンプリングした乱数を用いても良い。さらに、この方法で乱数により生成した行列Rについて、推定効率を上げるために、各基底が直行ベクトルとなるような変換を施しても良い。
【0024】
次に、関数学習部101は、状態空間でのデータ点間距離行列及び近傍関係を算出する(ステップS14)。
ここでは、ベクトルx
tdmaxの第1番目から第d番目までの要素を取り出した部分ベクトルをx
tdとすると、部分ベクトルx
tdは、d次元の部分状態空間で表現される。データ内の2つの時刻のペア(t,t′)について、部分状態空間内でのデータ点x
tdと、データ点x
t′dとの間の距離をD
t,t′dとする。これを全ての時間ペアについて計算したものが、行列(距離行列)として表現される。
【0025】
各データ点x
tdについて、その他のデータ点から距離が近い順に、k個のデータ点を選んで作ったデータ点の集合をB(x
td)とし、この集合B(x
td)をデータ点x
tdの近傍と称する。このとき、汎化性能など学習効果を高める目的で、k個のデータ点を選ぶ際には、データ点x
tdと時間的に近いデータ点は対象から外してもよい。
【0026】
次に、関数学習部101は、学習用EEGデータ31とfMRI画像データ21との対応を示す状態マッピング関数を算出する(ステップS15)。
ここでは、学習用EEGデータ31の状態ベクトルのデータx
tdから、fMRI画像データ21に基づく認知状態y
tの推定値y^
tを求める。なお、記号「^」は、本来は「y」の上に表記されるものであるが、表記上の制約のため、本明細書中では、推定値y^
tのように示す。但し、数式では、記号「^」を正しい表記で示す。
このようにして求められる推定値y^
tは、ここではEEG−fMRI状態マッピング関数と称する。EEG−fMRI状態マッピング関数y^
tは、例えば任意の重み関数wを用いて、次の式で示される。
【0028】
この[数1]式において、「t′s.t.x
t′d∈B(x
td)」は、時刻t′が点x
tdの近傍に含まれるデータ点の時刻であることを示す。
重み関数wは、例えば次の[数2]式を用いてもよい。
【0030】
なお、[数2]式において、αは任意のパラメータであり、例えばα=1に設定される。
【0031】
ここで、推定精度の指標として、真の認知状態y
t′の推定値y^
tの相関係数などを用いることができる。ここでは、様々な次元dに関して推定精度を計算して、推定精度ρを最大化する次元dを選ぶ。
また、同様にパラメータαについても、規定範囲内の全数検索あるいは任意の最適化アルゴリズムを用いて、推定精度を最大化するパラメータαを選択するようにしてもよい。
さらに、変換Rについても、乱数により多数生成したランダム行列から、推定精度を最大化する変換Rを選択したり、その他の任意の最適化アルゴリズムを用いたりして最適な変換Rの値を選択するようにしてもよい。
【0032】
そして、関数学習部101は、このようにして得られたEEG−fMRI状態マッピング関数及び各種パラメータを、学習結果としてデータベース部40に格納する(ステップS16)。また、関数学習部101で得られた学習結果は、表示装置50の学習結果表示部51に表示される(ステップS17)。そして、学習結果表示部51に表示された学習結果を確認することで、学習処理を実行する作業者は、学習精度を正確に確認することができるようになる。
学習処理が終了した後は、次に説明する推定処理により、推定用EEGデータ32のみから認知状態を推定することが可能になる。
【0033】
[4.推定処理の例]
図4のフローチャートは、端末装置100の推定処理部108が、推定用EEGデータ32のみから認知状態を推定する処理のアルゴリズムの一例を示す。
まず、推定用パラメータ入力部12から、計測対象者の情報などを含む計測条件を入力する(ステップS21)。
そして、推定処理部108は、推定用脳電図データ(推定用EEGデータ)32を時系列データとして取り込んで推定処理部108内に記憶させると共に、データベース部40に登録された学習データを読み出す(ステップS22)。
【0034】
次に、推定処理部108は、データベース40から読み出した学習データを使って、取り込んだ推定用脳電図の時系列データである推定用EEGデータ32に基づく状態空間の再構成処理を行う(ステップS23)。
このときには、関数学習部101での処理と同様に、推定用脳電図の時系列データx
〜tから、状態ベクトルx
〜tdmaxを構成する。なお、記号「
〜」は、本来は「x」の上に表記されるが、表記上の制約のため、本明細書中では、時系列データx
〜tのように示す。但し、数式では記号「
〜」は正しい表記で示す。
【0035】
そして、推定処理部108は、状態空間でのデータ点間処理行列及び近傍関係を算出する(ステップS24)。
ここでは、推定処理部108は、状態ベクトルx
〜tdmaxの第1番目から第d番目までの要素を取出し、部分ベクトルx
〜tdを得る。そして、その部分ベクトルの推定用データ点x
〜tdと、学習用データ点x
t′dとの間の距離を、D
〜t,t′dとする。推定処理部108は、この距離D
〜t,t′dを、全ての時刻のペア(t,t′)について計算する。
さらに、推定処理部108は、各推定用データ点x
〜tdについて、学習用データ点から距離が近い順に、k個のデータ点を選んで作成したデータ点の集合(x
〜tdの近傍)B(x
〜td)を求める。
【0036】
そして、推定処理部108は、ステップS22で読み出したEEG−fMRI状態マッピング関数を用いて、認知状態(活動パターン)の推定値を算出する(ステップS25)。すなわち、推定処理部108は、脳電図データの状態ベクトルx
〜tdから、fMRI画像データに基づく認知状態の推定値y^tを次の[数3]式に基づいて算出する。
【0038】
そして、推定処理部108は、このようにして得られたEEG−fMRI状態マッピング関数及び各種パラメータを、推定結果としてデータベース部40に格納させる(ステップS26)。また、推定処理部108で得られた推定結果は、表示装置50の推定結果表示部52に表示させる(ステップS27)。
【0039】
[5.推定結果の例]
図5〜
図7は、本例の端末装置100を使用して、学習用EEGデータ31及び推定用EEGデータ32から、認知状態を推定した例を示す。
図5は、実際の計測で得られるEEG信号(
図5の上側)及びfMRI画像の独立成分(
図5の下側)を示す。
【0040】
ここでは、EEG信号として、31個の電極から得た信号波形を示す。
図5に示す各波形は、例えば左前頭極部電極Fp1,右前頭極部電極Fp2,左前頭部電極F3,右前頭部電極F4,左中心部電極C3,右中心部電極C4などの、それぞれの符号に割り当てられた配置位置の電極から得た波形を示す。
また、fMRI画像の独立成分分析については、fMRI画像で示される脳内の各所の活動状況から得られる各空間パターンを、独立成分として示す。
ここで、
図5に示すように、例えば後頭中央部電極Ozの波形の特定時刻の状態ベクトルx
dtを得たとき、この状態ベクトルx
dtは、fMRI画像の独立成分分析結果の特定時刻の認知状態y
tに対応する。
なお、この
図5に示す電極の種類は一例を示すものであり、本例のシステムが認知状態を推定する上で、
図5に示す全ての種類の電極が必要なことを意味するのではない。
【0041】
図6は、精度推定例を示す。
図6の縦軸は、推定精度ρ(相関係数)の計測対象者間の平均を示し、横軸は埋め込み次元dを示す。
図6から判るように、埋め込み次元dによって、推定精度ρの平均が変化する。
図6の例では、推定精度ρの平均は、埋め込み次元dが一定値になるまで、埋め込み次元dの増加に連動して徐々に高くなるが、一定値を超えると逆に若干低下する傾向がある。したがって、推定精度ρが最大になる次元dを選ぶことで、推定精度ρの高い最適な次元dを選択することができる。
【0042】
図7は、表示装置50の推定結果表示部52に表示される推定結果の例を示す。
この例では、「デフォルトモードネットワーク」、「顕著性ネットワーク」、「視覚ネットワーク」、「聴覚ネットワーク」、「感覚・運動ネットワーク」、「制御ネットワーク」の6項目の推定結果をレーダーチャートで示す。これら6項目は、脳ネットワークの基本的な構成要素として知られたものである。
計測作業者(医者や検査技師など)は、それぞれの項目ごとの活動状況の推定値を結ぶ線の形状を確認することで、計測対象者の認知状態を判定できるようになる。例えば
図7の例では、「デフォルトモードネットワーク」、「感覚・運動ネットワーク」、「制御ネットワーク」の3つの活動が活発であり、他の3つのネットワークの活動が少ない状態と判定でき、脳深部を含む脳全体の活動の特徴が的確に推定できるようになる。これは、各電極の信号の時系列パターンから高次元の状態空間を再構成し、脳全体の活動パターンと同様の情報を復元することで可能となるものである。さらに、学習に用いるデータを増やすことで、この推定精度をさらに向上させることが可能である。
【0043】
したがって、本例のシステムによると、MRI装置を使用することなく、脳波計を使って脳深部を含む脳全体の活動の特徴を得ることができ、計測対象者の身体的拘束が少ない方法で計測できると共に、MRI装置のような高価な計測装置が不要になるという効果を有する。
【0044】
なお、上述した実施の形態では、端末装置100は関数学習部101と推定処理部108の双方を備える構成として、学習処理と推定処理の双方を行うようにしたが、学習処理と推定処理は、それぞれ別の端末装置で行うようにして、データベース部40に記憶されたデータをそれぞれの端末装置が共有するようにしてもよい。
また、
図7に示すレーダーチャートによる推定結果の表示形態は、一例を示すものであり、その他の表示形態で推定結果を表示するようにしてもよい。
【0045】
また、
図2に示す端末装置100の構成は一例であり、その他の構成としてもよい。例えば、既存のパーソナルコンピュータ装置,スマートフォン,タブレット端末などの情報処理装置に、
図3のフローチャートに示した学習処理又は
図4のフローチャートに示した推定処理を実行するソフトウェア(プログラム)を実装してもよい。このようにすることで、既存の情報処理装置が、EEGデータから認知状態を推定装置として機能する。
この場合の情報処理装置に実装するプログラムについては、メモリカードや光ディスクなどの記録媒体に記録して、情報処理装置に読み取らせるようにするか、あるいは、インターネットなどを経由して、情報処理装置に伝送するようにしてもよい。
【解決手段】機能的核磁気共鳴画像法によるfMRI画像データと、頭部の複数の電極から得た脳電図データとの対応を示す状態マッピング関数を取得する関数学習処理を行う。そして、推定用の脳電図データを取得したとき、その取得した脳電図データを、関数学習処理で得た状態マッピング関数を使った演算で、脳電図データを構成する各電極の信号の時系列パターンから多次元の状態空間を再構成し、脳全体の活動パターンの情報を復元する推定処理を行う。この推定処理で得た脳全体の活動パターンの情報を出力する。