【解決手段】判定結果出力システム700Bは、対象者300の状態を示す判定結果を出力する判定結果出力装置800Bと、判定結果を提供する判定結果提供装置900Bと、を備える。判定結果提供装置900Bは、判定結果出力装置800Bから、対象目的に関連付けられた顔面変化情報を取得すると、顔面変化情報から判定用情報を生成し、対象者の状態レベルを含む判定結果を決定し、判定結果を判定結果出力装置800Bに送出する。
前記判定用情報生成部は、前記顔面変化情報を、特異値分解、主成分分析又は独立成分分析することにより、前記対象目的に対応する脳機能賦活情報と関連する判定用成分を抽出し、前記判定用成分から前記判定用情報を生成する、
請求項2に記載の判定結果出力装置。
前記複数の判定目的毎に、脳機能賦活情報に対する、顔面変化情報の基準判定用成分の基準相関値からの変化量を状態レベルに関連付けて基準情報として記憶する基準情報記憶部(832)をさらに備え、
前記判定結果決定部は、前記相関値及び基準相関値に基づいて、前記対象者の状態レベルを判定する、
請求項3に記載の判定結果出力装置。
判定結果出力装置(800A)から、対象目的に関連付けられた脳機能賦活情報に対する判定用情報の相関値を取得し、前記判定結果出力装置に前記対象目的に対する判定結果を提供する判定結果提供装置(900A)であって、
前記複数の判定目的毎に、脳機能賦活情報に対する基準相関値からの変化量を状態レベルに関連付けて基準情報として記憶する基準情報記憶部(932A)と、
前記判定結果出力装置から、対象目的に関連付けられた脳機能賦活情報に対する判定用情報の相関値を取得すると、前記相関値及び前記基準情報に基づいて、前記対象者の状態レベルを含む判定結果を決定する判定結果決定部(951A)と、
前記判定結果を前記判定結果出力装置に送出する判定結果送出部(952A)と、
を備える、判定結果提供装置。
判定結果提供装置(900A)に、対象目的に対する脳機能賦活情報と判定用情報との相関値を送出し、前記判定結果提供装置から、前記対象目的に対する判定結果を取得する判定結果出力装置(800A)であって、
複数の判定目的のうち、一の判定目的を対象目的として選択する対象目的選択部(841)と、
前記対象目的に対応する脳機能賦活情報を提供する脳機能賦活情報提供部(842)、又は前記対象目的に対応する脳機能賦活情報を検知する脳機能賦活情報検知部(843)と、
対象者(300)の顔面データの時系列変化を示す顔面変化情報を取得する顔面変化情報取得部(844)と、
前記顔面変化情報から判定用情報を生成する判定用情報生成部(846)と、
前記脳機能賦活情報と前記判定用情報との相関値を算出する相関値算出部(847)と、
前記相関値を前記対象目的に関連付けて前記判定結果提供装置に送出する相関値送出部(851A)と、
前記相関値及び前記対象目的の送出に応じて、前記判定結果提供装置から判定結果を取得する判定結果取得部(852A)と、
前記判定結果を出力する判定結果出力部(820)と、
を備える、判定結果出力装置。
前記判定用情報生成部は、特異値分解、主成分分析又は独立成分分析により、前記対象目的に対応する脳機能賦活情報と関連する判定用成分を抽出し、前記判定用成分から前記判定用情報を生成する、
請求項6に記載の判定結果出力装置。
対象者(300)の状態を示す判定結果を出力する判定結果出力装置(800A)と、前記判定結果を提供する判定情報提供装置(900A)と、を備えた判定結果出力システム(700A)であって、
前記判定結果出力装置は、
複数の判定目的のうち、一の判定目的を対象目的として選択する対象目的選択部(841)と、
前記対象目的に対応する脳機能賦活情報を提供する脳機能賦活情報提供部(842)、又は前記対象目的に対応する脳機能賦活情報を検知する脳機能賦活情報検知部(843)と、
前記対象者の顔面データの時系列変化を示す顔面変化情報を取得する顔面変化情報取得部(844)と、
前記顔面変化情報から判定用情報を生成する判定用情報生成部(846)と、
前記脳機能賦活情報と前記判定用情報との相関値を算出する相関値算出部(847)と、
前記相関値を前記対象目的に関連付けて前記判定結果提供装置に送出する相関値送出部(851A)と、
前記相関値及び前記対象目的の送出に応じて、前記判定結果提供装置から判定結果を取得する判定結果取得部(852A)と、
前記判定結果を出力する判定結果出力部(820)と、
を備え、
前記判定結果提供装置は、
前記複数の判定目的毎に、脳機能賦活情報に対する基準相関値からの変化量を状態レベルに関連付けて基準情報として記憶する基準情報記憶部(923A)と、
前記判定結果出力装置から、前記対象目的に関連付けられた前記相関値を取得すると、前記相関値及び前記基準情報に基づいて、前記対象者の状態レベルを含む判定結果を決定する判定結果決定部(945A)と、
前記判定結果を前記判定結果出力装置に送出する判定結果送出部(946A)と、
を備える、判定結果出力システム。
前記判定用情報生成部は、前記顔面変化情報を、特異値分解、主成分分析又は独立成分分析することにより、前記対象目的に対応する脳機能賦活情報と関連する判定用成分を抽出し、前記判定用成分から前記判定用情報を生成する、
請求項8に記載の判定結果出力システム。
判定結果出力装置(800B)から、対象目的に対する顔面変化情報を取得し、前記判定結果出力装置に前記対象目的に対する判定結果を提供する判定結果提供装置(900B)であって、
複数の判定目的毎に、脳機能賦活情報に対する基準相関値からの変化量を状態レベルに関連付けて基準情報として記憶する基準情報記憶部(932B)と、
前記判定結果出力装置から、前記対象目的に関連付けられた前記顔面変化情報を取得すると、前記顔面変化情報から判定用情報を生成する判定用情報生成部(942B)と、
前記脳機能賦活情報と前記判定用情報との相関値を算出する相関値算出部(943B)と、
前記相関値及び前記基準情報に基づいて、前記対象者の状態レベルを含む判定結果を決定する判定結果決定部(945B)と、
前記判定結果を前記判定結果出力装置に送出する判定結果送出部(946B)と、
を備える、判定結果提供装置。
前記判定用情報生成部は、前記顔面変化情報を、特異値分解、主成分分析又は独立成分分析することにより、前記対象目的に対応する脳機能賦活情報と関連する判定用成分を抽出し、前記判定用成分から前記判定用情報を生成する、
請求項10に記載の判定結果提供装置。
判定結果提供装置(900B)に、対象目的に関連付けられた顔面変化情報を送出し、前記判定結果提供装置から、前記対象目的に対する判定結果を取得する判定結果出力装置(800B)であって、
複数の判定目的のうち、一の判定目的を対象目的として選択する対象目的選択部(841)と、
前記対象目的に対応する脳機能賦活情報を提供する脳機能賦活情報提供部(842)、又は前記対象目的に対応する脳機能賦活情報を検知する脳機能賦活情報検知部(843)と、
対象者(300)の顔面データの時系列変化を示す顔面変化情報を取得する顔面変化情報取得部(844)と、
前記顔面変化情報を前記対象目的に関連付けて前記判定結果提供装置に送出する顔面変化情報送出部(851B)と、
前記顔面変化情報及び前記対象目的の送出に応じて、前記判定結果提供装置から判定結果を取得する判定結果取得部(852B)と、
前記判定結果を出力する判定結果出力部(820)と、
を備える、判定結果出力装置。
対象者(300)の状態を示す判定結果を出力する判定結果出力装置(800B)と、前記判定結果を提供する判定情報提供装置(900B)と、を備えた判定結果出力システム(700B)であって、
前記判定結果出力装置は、
複数の判定目的のうち、一の判定目的を対象目的として選択する対象目的選択部(841)と、
前記対象目的に対応する脳機能賦活情報を提供する脳機能賦活情報提供部(842)、又は前記対象目的に対応する脳機能賦活情報を検知する脳機能賦活情報検知部(843)と、
対象者の顔面データの時系列変化を示す顔面変化情報を取得する顔面変化情報取得部(44)と、
前記顔面変化情報を前記対象目的に関連付けて前記判定結果提供装置に送出する顔面変化情報送出部(851B)と、
前記顔面変化情報及び前記対象目的の送出に応じて、前記判定結果提供装置から判定結果を取得する判定結果取得部(852B)と、
前記判定結果を出力する判定結果出力部(820)と、
を備え、
前記判定結果提供装置は、
前記複数の判定目的毎に、脳機能賦活情報に対する基準相関値からの変化量を状態レベルに関連付けて基準情報として記憶する基準情報記憶部(932B)と、
前記判定結果出力装置から、前記対象目的に関連付けられた前記顔面変化情報を取得すると、前記顔面変化情報から判定用情報を生成する判定用情報生成部(942B)と、
前記脳機能賦活情報と前記判定用情報との相関値を算出する相関値算出部(943B)と、
前記相関値及び前記基準情報に基づいて、前記対象者の状態レベルを含む判定結果を決定する判定結果決定部(945B)と、
前記判定結果を前記判定結果出力装置に送出する判定結果送出部(946B)と、
を備える、判定結果出力システム。
前記判定用情報生成部は、前記顔面変化情報を、特異値分解、主成分分析又は独立成分分析することにより、前記対象目的に対応する脳機能賦活情報と関連する判定用成分を抽出し、前記判定用成分から前記判定用情報を生成する、
請求項13に記載の判定結果出力システム。
【発明を実施するための形態】
【0039】
本発明の実施形態を説明する前に、まず、本発明者らが本発明を為すにあたって重要な基礎となった、本発明者らによる知見について説明する。
【0040】
(1)本発明者らによる知見の要点
人間の脳活動には、人間の知的活動(認知活動等)及び情動活動(快/不快等の活動)が反映されていることが知られている。そして、従来より、人間の脳活動を推定する試みがされているが、この場合、脳波計測法、磁気共鳴画像法及び近赤外線分光法のいずれかの方法によって検出されたデータが利用されることが多い。
【0041】
ここで、検出方法として、例えば、脳波計測法が採用される場合には、被験者に対して脳波電極を装着する必要がある。そして、脳波電極を装着する際には皮膚と電極との間の抵抗を小さくする必要があるため、皮膚を研磨する処理を行ったり電極にペーストを塗布したりする等の作業が必要になる。また、磁気共鳴画像法が採用される場合には、MRI室以外での測定が不可能であるとともに、測定室内に金属を持ち込むことができない等の測定条件に制約がある。さらに、近赤外線分光法が採用される場合には、被験者に対してプローブを装着する必要があるが、プローブを長時間装着することで被験者が痛みを感じたり、被験者の髪とプローブとの接触具合によっては正確に検出できなかったりすることがある。このように、人間の脳活動を測定するために従来の検出方法が採用される場合、脳波電極やプローブ等を装着する際の前処理が必要であったり、測定条件が限定されたりする等、被験者に与える負担が大きくなる。
【0042】
したがって、被験者の負担を軽減し、かつ簡便に人間の脳活動を推定できる手段の開発が求められている。
【0043】
そして、本発明者らは、人間の顔面の皮膚温度又は顔面の皮膚温度に比例すると考えられている顔面の血行状態に基づき人間の脳活動を推定することができるのではないか、と考えた。人間の顔面の皮膚温度であればサーモグラフィ等の測定装置を用いることで取得することができ、顔面の血行状態すなわち顔面の血行量であれば撮影装置を利用して得られる顔面の撮影画像のRGBデータから推定することができる。このように、顔面の皮膚温度や顔面の撮影画像であれば、脳波電極やプローブ等の装着前に処理が必要なセンサを装着することなく取得することができる。
【0044】
一方で、人間の顔面の皮膚温度は、外気温度及び/又は自律神経の活動等の様々な要因の影響を受けて変化することが知られている。このため、顔面の皮膚温度に基づいて又は顔面の皮膚温度に比例すると考えられる顔面の血行量に基づいて脳活動を推定しようとすると、取得したデータが脳活動のみを反映しているかどうかを判断することは、非常に困難であると考えられる。
【0045】
本発明者らは、鋭意検討した結果、顔面の皮膚温度を検出し、検出した温度データ及び検出部位の位置データ(座標データ)を含む時系列の顔面皮膚温度データを、或いは、時系列の顔面の撮影画像データから得られるRGBデータに基づき算出された時系列の顔面の血行量データを、特異値分解法、主成分分析法若しくは独立成分分析法を用いて複数の成分に分解し、分解した複数の成分について解析を行うことで、脳活動を反映した顔面の皮膚温度の変化或いは顔面の血行量の変化を示す成分を同定することができることを見いだした。そして、本発明者らは、対象者の脳活動を推定し、これを解析することで、推定した脳活動に基づき対象者の生理状態を可視化することのできる本発明に到達した。
【0046】
(2)顔面の各種データの取得方法、及び取得した各種データの解析方法
(2−1)顔面皮膚温度データの取得方法、及び顔面皮膚温度データの解析方法
次に、本発明者らが上記の知見を得るに際して用いた顔面皮膚温度データの取得方法、及び顔面皮膚温度データの解析方法について説明する。
【0047】
この試験では、6名の被験者から顔面皮膚温度データを取得した。具体的には、室温25℃を維持した人工気象室内に設置した椅子に被験者を座らせて、赤外線サーモグラフィ装置を用いて、被験者の顔面全体から顔面皮膚温度データを取得した。赤外線サーモグラフィ装置は、対象物から出ている赤外線放射エネルギーを赤外線カメラで検出し、検出した赤外線放射エネルギーを対象物表面の温度(ここでは、摂氏での温度)に変換して、その温度分布を顔面皮膚温度データ(例えば、温度分布を表した画像データ)として表示、蓄積することが可能な装置である。なお、この試験では、赤外線サーモグラフィ装置として、NEC Avio 赤外線テクノロジー株式会社製のR300を使用した。また、赤外線カメラは、被験者の正面であって、被験者から1.5m離れた地点に設置した。そして、顔面皮膚温度データは、30分間取得した。
【0048】
また、この試験では、顔面皮膚温度データを取得している間に、被験者に対して脳機能賦活課題を与えた。これにより、脳の非賦活時の顔面皮膚温度データ、及び脳の賦活時の顔面皮膚温度データを取得した。脳機能賦活課題としては、被験者が表示装置等に表示された映像に基づいて、計算、又は、数値、形状及び色の認知、或いは、記号、文字ないし言語の記憶などの心理的作業が挙げられる。この試験では、脳機能賦活課題として「かけ算の暗算」を採用し、被験者に、表示装置に筆算形式で表示される数字を計算させ、その回答をキーボードに入力させる作業を課した。なお、この試験では、顔面皮膚温度データの取得開始から5分経過後から10分間継続して、被験者に対して脳機能賦活課題を与えた。
【0049】
顔面皮膚温度データの解析としては、取得した顔面皮膚温度データを対象として、MATLAB(登録商標)のSVD(Singular Value Decomposition)を分析ツールとして用いて特異値分解を行った。特異値分解では、時系列で取得した全ての顔面皮膚温度データ(30分間のデータ)を対象とし、要因を30秒毎の時間データ(30分間で60 time point)とし、測度をその期間(30秒間)における顔面皮膚温度データ(240×320 pixels)とした。そして、特異値分解により、顔面皮膚温度データXを、複数の成分に分解し、それぞれの成分の時間分布Vと、空間分布Uと、各成分の大きさを示す特異値Sとを算出した。なお、これらの関係は、以下の式で表される。また、V’は、Vの行と列とを入れ替えた行列である。
【0051】
そして、特異値分解によって求められた各成分の時間分布V及び空間分布Uをグラフにプロットし、各成分の成分波形図と温度分布図とを作成した。
【0052】
さらに、作成した各成分の成分波形図及び温度分布図について、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行った。
【0053】
各成分の成分波形図については、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。具体的には、各成分の成分波形図に示された振幅と、脳の非賦活期間/脳の賦活期間との間に相関関係があるか否かを評価した。この試験では、顔面皮膚温度データを取得している期間のうち、被験者に対して脳機能賦活課題が与えられていない期間であるデータ取得開始時点から5分が経過した時点までの5分間の期間、及びデータ取得開始時から15分が経過した時点からデータ取得終了時点までの15分間の期間を脳の非賦活時とし、被験者に対して脳機能賦活課題が与えられている期間であるデータ取得開始時から5分が経過した時点から10分が経過した時点までの10分間の期間を脳の賦活時とした。そして、各成分の成分波形図に示された振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について評価した。なお、相関関係の有無については、統計的相関分析を行い、有意水準(α)が0.05以下の場合に相関があると判断した。
【0054】
各成分の温度分布図については、顔面の所定部位における温度変化の有無について解析した。ここで、脳には、選択的脳冷却機構(Selective Brain Cooling System)という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を前額部及び副鼻腔周辺(眉間及び鼻部周辺を含む)を用いて排熱していることが知られている。そこで、この試験では、各成分の温度分布図において、副鼻腔周辺及び前額部における温度変化があるか否かを評価した。なお、温度分布図における副鼻腔周辺及び前額部の温度変化の有無については、目視(visual inspection)による温度変化の有無、もしくは副鼻腔周辺及び前額部の温度が測定データ全体の平均温度から1標準偏差(SD)以上異なるか否かを温度変化の有無の基準とした。
【0055】
なお、空間分布U、特異値S及び時間分布Vの値の関係で、顔面皮膚温度データXの極性(プラスマイナス)が決定するため、各成分の成分波形図及び温度分布図において極性が反転して現れることがある。このため、成分波形図及び温度分布図の評価に関して、極性については評価対象としないこととした。
【0056】
ここで、この赤外線サーモグラフィ装置では、上述しているように、対象物から検出された赤外線放射エネルギーを温度に変換して、その温度分布を顔面皮膚温度データとしている。ところで、人間を対象として赤外線サーモグラフィ装置を用いて顔面の皮膚温度を取得する場合、顔面の動き及び/又は自律神経の活動等の様々な脳活動とは関連しない温度変化(いわゆるノイズ)についても顔面皮膚温度データとして取得してしまう(
図1(a)参照)。そこで、このような脳活動とは関連しない温度変化を検出するために、30秒毎の顔面皮膚温度データに含まれる温度データの全平均値を「0」とした相対的な顔面皮膚温度データを作成し、作成した顔面皮膚温度データについても、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図と温度分布図とを作成し、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行った。
【0057】
なお、以下より、説明の便宜上、赤外線サーモグラフィ装置で取得した顔面皮膚温度データを「温度換算データに応じた顔面皮膚温度データ」といい、所定時間毎(この試験では30秒毎)の温度換算データに応じた顔面皮膚温度データに含まれる温度データの全平均値を「0」とした相対的な顔面皮膚温度データを「相対温度換算データに応じた顔面皮膚温度データ」という。
【0058】
また、6名の被験者のうちの1名に対しては、赤外線サーモグラフィ装置による顔面皮膚温度の検出の他に、被験者の頭皮上に電極を接続して脳波を測定し、覚醒時や意識が緊張した時に現れる波形として知られているβ波(14〜30Hzの周波数の脳波)の振幅と、成分波形図の振幅との間の相関関係についても評価した。なお、脳波測定では、国際式10−20法に基づき、6つの部位(F3、F4,C3、C4、Cz、Pz)に電極を配置した。
【0059】
ところで、被験者に脳機能賦活課題が与えられている間、被験者の頭が上下に動くことが考えられる。そうすると、赤外線カメラに対する被験者の顔面の位置が変化することになる。この顔面の位置の変化が皮膚温度の変化に影響しているか否かを検証するために、被験者1名に対して対照試験を行った。顔面皮膚温度データを取得する際の被験者の動きの影響を検証するための対照試験では、上記試験と同様に赤外線サーモグラフィ装置を用いて被験者の顔面皮膚温度データを取得するが、脳機能賦活課題が与えられていない間(すなわち、脳の非賦活時)についてもランダムなタイミングでキーボードを押す作業を被験者に課した。この対照実験によって得られた温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データについても、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図と温度分布図とを作成し、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行った。
【0060】
(2−2)顔面撮影画像データの取得方法、及び顔面撮影画像データの解析方法
図1(a)は、撮影装置にて撮影した被験者の顔面の副鼻腔周辺の撮影画像データの一例を示す図である。
図1(b)は、血行量分布図(画像マップ)の一例を示す図である。
【0061】
次に、本発明者らが上記の知見を得るに際して用いた顔面撮影画像データの取得方法、及び顔面撮影画像データの解析方法について説明する。
【0062】
この試験では、6名の被験者から顔面の撮影画像データを取得した。具体的には、室温25℃を維持した人工気象室内に設置した椅子に被験者を座らせて、時系列で画像を取得可能な撮影装置を用いて、被験者の顔面全体の副鼻腔周辺の撮影画像データを時系列で取得した。
【0063】
また、上述した選択的脳冷却機構に基づくと、脳活動に伴う顔面皮膚温度に比例すると考えられる顔面の血行量の変化は、前額部及び/又は副鼻腔周辺に出現すると考えられる。このことから、本発明者らは、少なくとも前額部及び/又は副鼻腔周辺の顔面の血行量の変化を捉えることができれば、精度良く脳活動を推定することができる、と考えた。そして、この試験では、被験者の顔面の副鼻腔周辺の撮影画像データを時系列で取得した。
【0064】
また、この試験では、撮影装置として、Apple社製のiPad Air(登録商標)の備える液晶画面側の撮影装置を使用し、時系列の撮影画像データとしてカラーの動画データを取得した。また、撮影装置を、被験者の正面側であって、被験者から1.0m離れた地点に設置した。そして、撮影装置によって、30フレーム/秒の撮影周期で時間軸に沿って30分間の撮影画像データを連続撮影することで、顔面の動画データを得た。
【0065】
さらに、この試験では、顔面の動画データを取得している間に、被験者に対して脳機能賦活課題を与えた。これにより、脳の非賦活時の顔面の動画データ、及び脳の賦活時の顔面の動画データを取得した。この試験では、上記試験と同様に、脳機能賦活課題として「かけ算の暗算」を採用し、被験者に、表示装置に筆算形式で表示される数字を計算させ、その回答をキーボードに入力させる作業を課した。なお、この試験では、顔面の動画データの取得開始から5分経過後から10分間継続して、被験者に対して脳機能賦活課題を与えた。
【0066】
顔面の動画データの解析としては、撮影した顔面の動画データより得られたRGBデータに基づき血行量データを算出し、算出した時系列の血行量データを対象として、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行った。ここでは、CIE−L
*a
*b
*表色系に従って、画像のRGBデータより演算される肌の赤みやヘモグロビン量と相関のある紅斑指数「a
*」を求め、これを血行量データとした。また、特異値分解では、時系列で取得した全ての動画データ(30分間のデータ)から得られたRGBデータに基づく血行量データ(ここでは、紅斑指数)を対象とし、要因を30秒毎の時間データ(30分間で60 time point)とし、測度をその期間(30秒毎)におけるRGBデータから演算した紅斑指数(30秒毎に1秒間のフレームデータを取り出し、該フレームデータから得られるRGB値の平均値から演算した紅斑指数;240×320 pixels)とした。そして、特異値分解により、顔面の動画データより得られたRGBデータに基づく時系列の血行量データを、複数の成分に分解し、それぞれの成分の時間分布Vと、空間分布Uと、各成分の大きさを示す特異値Sとを算出した。なお、これらの関係は、上記式(数1)と同様の式で表される。
【0067】
そして、特異値分解によって求められた各成分の時間分布V及び空間分布Uをグラフにプロットし、各成分の成分波形図と血行量分布図とを作成した。
【0068】
さらに、作成した各成分の成分波形図及び血行量分布図について、脳活動を反映した顔面の血行量の変化すなわち顔面のRGB変化を示す成分を同定するための解析を行った。
【0069】
各成分の成分波形図については、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。具体的には、各成分の成分波形図に示された振幅と、脳の非賦活期間/脳の賦活期間との間に相関関係があるか否かを評価した。この試験では、顔面の撮影画像データを取得している期間のうち、被験者に対して脳機能賦活課題が与えられていない期間であるデータ取得開始時点から5分が経過した時点までの5分間の期間、及びデータ取得開始時から15分が経過した時点からデータ取得終了時点までの15分間の期間を脳の非賦活時とし、被験者に対して脳機能賦活課題が与えられている期間であるデータ取得開始時から5分が経過した時点から10分が経過した時点までの10分間の期間を脳の賦活時とした。そして、各成分の成分波形図に示された振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について評価した。なお、相関関係の有無については、統計的相関分析を行い、有意水準(α)が0.01以下の場合に相関があると判断した。
【0070】
各成分の血行量分布図については、顔面の所定部位における血行量変化の有無について解析した。血行量分布図は、ピクセル毎に算出された空間分布Uを各ピクセルの位置に並べることで作成される。このように作成された各成分の血行量分布図において、副鼻腔周辺及び前額部における血行量の変化があるか否かを評価した。なお、血行量分布図における副鼻腔周辺及び前額部の血行量変化の有無については、目視(visual inspection)による血行量変化の有無、もしくは
図1(b)に示す副鼻腔周辺及び前額部の血行量の値が「0.000」でないことを血行量変化の有無の基準とした。
【0071】
なお、空間分布U、特異値S及び時間分布Vの値の関係で、血行量データXの極性(プラスマイナス)が決定するため、各成分の成分波形図及び血行量分布図において極性が反転して現れることがある。このため、成分波形図及び血行量分布図の評価に関して、極性については評価対象としないこととした。
【0072】
さらに、顔面の皮膚温度と顔面の血行量との相関関係を検証するために、6名の被験者から顔面の撮影画像データを時系列で取得している間、赤外線サーモグラフィ装置により顔面皮膚温度データも時系列で取得し、取得した顔面皮膚温度データについてもMATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図を作成し、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。なお、この試験では、赤外線サーモグラフィ装置として、上記試験と同様の装置を用いた。また、赤外線カメラは、被験者の正面であって、被験者から1.5m離れた地点に設置した。
【0073】
ところで、撮影装置を用いて顔面の撮影画像データを取得する場合、撮影中に太陽の光等が顔に当たることで光が顔で反射し、この反射光が撮影装置のレンズに入り込んでしまうことがある。そうすると、撮影された顔面の撮影画像データにはこの反射光が記録されてしまうことになる。ここで、撮影画像データから得られるRGBデータにおいて、顔面の血行量に基づく明度の変化は反射光に基づく明度の変化よりも小さいため、反射光の記録された撮影画像データから得られるRGBデータに基づいて算出された血行量が解析されると、脳活動とは関連しない顔面のRGB変化(いわゆるノイズ)が混入してしまう可能性があると考えられた。そこで、このような脳活動とは関連しない顔面のRGB変化の混入を防ぐために、30秒毎のRGBデータの全平均値を「0」とした相対的なRGBデータから相対的な血行量データを作成し、作成した血行量データについても、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図と血行量分布図とを作成し、脳活動を反映した顔面のRGB変化を示す成分を同定するための解析を行った。
【0074】
なお、以下より、説明の便宜上、所定時間毎(この試験では30秒毎)のRGBデータの全平均値を「0」とした相対的なRGBデータに基づく相対的な血行量データを「相対換算血行量データ」といい、相対的なRGBデータに換算する前のRGBデータに基づく血行量データを単に「血行量データ」という。
【0075】
また、6名の被験者に対して撮影装置によって顔面の時系列の撮影画像データを取得している間、各被験者の頭皮上に電極を接続して脳波を測定し、覚醒時等の脳細胞が活動している時に現れる波形として知られているβ波(13〜30Hzの周波数の脳波)の振幅と、成分波形図の振幅との間の相関関係についても評価した。なお、脳波測定では、国際式10−20法に基づき、頭皮上19の部位(Fp1、Fp2、F3、F4、C3、C4、P3、P4、O1、O2、F7、F8、T3、T4、T5、T6、Fz、Cz及びPz)に電極を配置した。
【0076】
さらに、被験者に脳機能賦活課題が与えられている間、被験者の頭が上下に動くことが考えられる。そうすると、撮影装置に対する被験者の顔面の位置が変化することになる。この顔面の位置の変化が顔面のRGB変化に影響しているか否かを検証するために、被験者1名に対して対照試験を行った。対照試験では、上記試験と同様に撮影装置を用いて被験者の顔面の時系列の撮影画像データを取得するが、脳機能賦活課題が与えられていない間(すなわち、脳の非賦活時)についてもランダムなタイミングでキーボードを押す作業を被験者に対して課した。この対照実験によって撮影された顔面の時系列の撮影画像データから得られたRGBデータに基づく時系列の血行量データについても、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図を作成し、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。また、各成分波形の振幅と、実際の顔面の動きとの相関関係の有無について解析した。実際の顔面の動きは、撮影画像データから顔の同一箇所の2次元座標を取得し、対照実験開始時の撮影画像データを基準として撮影時における30秒毎の顔面の移動距離を算出することで評価した。さらに、各成分波形の振幅と、撮影中のキーボードの入力数との相関関係の有無についても解析した。撮影中のキーボードの入力数は、時系列の撮影画像データにおける30秒毎の単純移動平均を算出することで評価した。
【0077】
(3)解析結果
(3−1)顔面皮膚温度データの解析結果
図2は、温度換算データに応じた顔面皮膚温度データを解析した結果の一部を示す図である。
図2(a)は、被験者1の成分2の成分波形図を示している。
図2(b)は、被験者1の成分2の温度分布図を示している。
図3(a)は、被験者1の成分3の成分波形図を示している。
図3(b)は、被験者1の成分3の温度分布図を示している。
図4及び
図5は、成分波形の振幅と、脳波との関係を示す図である。
図4は、被験者1の成分2の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図である。
図5は、被験者1の成分3の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図である。
図6は、対照実験で得られた顔面皮膚温度データを解析した結果の一部を示す図である。
図6(a)は、成分3の成分波形図を示している。
図6(b)は、成分3の温度分布図を示している。
【0078】
表1は、各被験者に対する顔面皮膚温度データの解析結果を示したものである。
【0079】
上記の顔面皮膚温度データの解析によって得られた結果から、時系列の顔面皮膚温度データを特異値分解により分解して得られた複数の成分のうち、成分2及び/又は成分3と、人間の脳活動との間に有意な相関があることが確認された。
【0081】
また、
図4及び
図5に示すように、脳波解析の結果から、成分2及び成分3の各成分波形の振幅と、脳波のβ波の振幅との間に有意な相関が確認された。
【0082】
さらに、対照実験では、顔面皮膚温度データを取得している間に被験者に動きがある状態であっても、成分3と人間の脳活動との間に有意な相関があった(
図6参照)。このことから、複数の成分のうち、成分3については、顔面皮膚温度データを取得する際の被験者の動きが影響していないことが認められた。
【0083】
これらの結果から、本発明者らは、以下の知見を得た。
【0084】
被験者から取得した時系列の顔面皮膚温度データを特異値分解により複数の成分に分解し、分解した各成分について解析した結果、複数の成分のうちの成分3が脳活動に関連する成分であると認められた。すなわち、時系列の顔面皮膚温度データを特異値分解により複数の成分に分解し、分解した複数の成分から脳の賦活/非賦活と相関のある成分を抽出し、抽出した成分について選択的脳冷却機構を利用した解析を行うことで、複数の成分から脳活動を反映した皮膚温度の変化を示す成分を同定することができることが判明した。このことから、本発明者らは、人間の顔面の皮膚温度に基づいて、脳活動を推定することができる、という知見を得た。
【0085】
(3−2)顔面の撮影画像データの解析結果
図7〜
図18は、顔面の撮影画像データ(血行量データ)又は顔面皮膚温度データに基づく成分波形図を解析した結果の一部を示す図である。
図7は、被験者1の撮影画像データに基づく成分2の成分波形の振幅と、測定された被験者1の脳波のうちのβ波の振幅とを示す図である。
図8は、被験者1の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者1の脳波のうちのβ波の振幅とを示す図である。
図9は、被験者2の撮影画像データに基づく成分2の成分波形の振幅と、測定された被験者2の脳波のうちのβ波の振幅とを示す図である。
図10は、被験者2の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者2の脳波のうちのβ波の振幅とを示す図である。
図11は、被験者3の撮影画像データに基づく成分4の成分波形の振幅と、測定された被験者3の脳波のうちのβ波の振幅とを示す図である。
図12は、被験者3の顔面皮膚温度データに基づく成分3の成分波形の振幅と、測定された被験者3の脳波のうちのβ波の振幅とを示す図である。
図13は、被験者4の撮影画像データに基づく成分3の成分波形の振幅と、測定された被験者4の脳波のうちのβ波の振幅とを示す図である。
図14は、被験者4の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者4の脳波のうちのβ波の振幅とを示す図である。
図15は、被験者5の撮影画像データに基づく成分2の成分波形の振幅と、測定された被験者5の脳波のうちのβ波の振幅とを示す図である。
図16は、被験者5の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者5の脳波のうちのβ波の振幅とを示す図である。
図17は、被験者6の撮影画像データに基づく成分4の成分波形の振幅と、測定された被験者6の脳波のうちのβ波の振幅とを示す図である。
図18は、被験者6の顔面皮膚温度データに基づく成分3の成分波形の振幅と、測定された被験者6の脳波のうちのβ波の振幅とを示す図である。
【0086】
図7〜
図18に示すように、各成分波形と脳波解析との結果から、顔面の皮膚温度と顔面の血行量とが相関関係にあることが確認された。なお、顔面の皮膚温度データ及び顔面の血行量データのいずれのデータに基づく解析においても、各成分波形の振幅と、頭頂部又は後頭部に装着した電極が測定した脳波のβ波の振幅との間に有意な相関が確認された。
【0087】
以下に示す表2は、各被験者に対する顔面の撮影画像データの解析結果を示したものである。
【0089】
表2に示すように、上記の顔面の撮影画像データの解析によって得られた結果から、顔面の撮影画像データに基づく時系列の血行量データを特異値分解により分解して得られた複数の成分のうち、成分1,2,3,4,5と人間の脳活動との間に有意な相関があることが確認された。なお、ここでは、血行量データに基づく相関において有意な相関が見られかつ相対換算血行量データに基づく相関において有意な相関が見られた成分だけでなく、血行量データに基づく相関においては有意な相関が見られなかったが相対換算血行量データに基づく相関において有意な相関が見られた成分も、人間の脳活動と有意な相関があると認めるようにした。
【0090】
また、以下に示す表3は、対照実験の結果を示したものである。
【0092】
表3に示すように、対照実験では、顔面の撮影画像データを取得している間に被験者に動きがある場合、その成分波形の振幅と脳の非賦活時及び脳の賦活時との間に有意な相関のあった成分のうちの成分2については、移動距離及びキーボード入力数それぞれとの間に有意な相関が認められなかった。このことから、顔面の撮影画像データから取得したRGBデータに基づく血行量データを特異値分解することで得られる複数の成分において、脳活動との間に有意な相関がある成分については、顔面の時系列の撮影画像データを取得する際の被験者の動きによる影響を受けたとしても、その影響は脳の脳活動による影響(脳の賦活や非賦活による影響)よりも遙かに小さいことが確認された。
【0093】
これらの結果から、本発明者らは、以下の知見を得た。
【0094】
被験者から取得した時系列の顔面の撮影画像データに基づく顔面のRGBデータから得られる血行量データを特異値分解により複数の成分に分解し、分解した各成分について解析した結果、複数の成分のうちの成分1,2,3,4,5が脳活動に関連する成分であると認められた。すなわち、時系列の顔面の撮影画像データに基づく顔面のRGBデータから得られる血行量データを特異値分解により複数の成分に分解し、分解した複数の成分から脳の賦活/非賦活と相関のある成分を抽出し、抽出した成分について解析することで、複数の成分から脳活動を反映した顔面のRGB変化を示す成分を同定することができることが判明した。このことから、本発明者らは、人間の顔面の時系列の撮影画像データに基づいて、脳活動を推定することができる、という知見を得た。
【0095】
(4)脳活動可視化装置
次に、上記に説明した知見に基づいて、本発明者らが完成するに至った本発明の一実施形態に係る脳活動可視化装置10,110について説明する。なお、本発明に係る脳活動可視化装置は、以下の実施形態に限定されるものではなく、要旨を逸脱しない範囲で適宜変更可能である。
【0096】
本発明の一実施形態に係る脳活動可視化装置10,110は、顔面皮膚温度データに基づき脳活動を推定する脳活動推定手段30、及び/又は顔面の撮影画像データに基づき脳活動を推定する脳活動推定手段130を備えている。以下では、本発明の一実施形態に係る脳活動可視化装置10,110を説明する前に、各脳活動推定手段30,130について説明する。
【0097】
(4−1)顔面皮膚温度データに基づき脳活動を推定する脳活動推定手段30
図19は、本発明の一実施形態に係る脳活動可視化装置10の概略図である。
図20は、脳活動可視化装置10において脳機能を反映した皮膚温度の変化を示す成分を同定する際の処理の流れを示すフローチャートである。
【0098】
脳活動可視化装置10の備える脳活動推定手段30は、個人(被験者)の顔面の皮膚温度から、個人の脳活動を推定する。脳活動可視化装置10は、
図19に示すように、顔面皮膚温度取得手段20と、脳活動推定手段30と、状態可視化手段200と、を備える。
【0099】
顔面皮膚温度取得手段20は、個人の顔面の少なくとも一部の皮膚温度を検出し、検出した温度データ及びその検出部位の位置データを含む顔面皮膚温度データを時系列で取得する(ステップS1)。なお、ここでは、顔面皮膚温度取得手段20は、赤外線サーモグラフィ装置であり、
図19に示すように、赤外線カメラ21と、処理部22と、を有する。赤外線カメラ21は、個人の顔面から出ている赤外線放射エネルギーを検出するためのものである。そして、ここでは、赤外線カメラ21は、個人の顔面全体から赤外線放射エネルギーを検出しているものとする。処理部22は、赤外線カメラ21によって検出した赤外線放射エネルギーを温度に変換して温度データとし、赤外線放射エネルギーの検出された部位を位置データ(座標データ)とした顔面全体における顔面皮膚温度の温度分布図を作成し、作成した温度分布図を温度換算データに応じた顔面皮膚温度データとして処理する。温度換算データに応じた顔面皮膚温度データは、処理部22の有する記憶部(図示せず)に蓄積される。
【0100】
ここでは、処理部22において、顔面全体における顔面皮膚温度の温度分布図が作成されているが、これに限定されず、少なくとも副鼻腔周辺及び/又は前額部を含む顔面皮膚温度の温度分布図が作成され、これが温度換算データに応じた顔面皮膚温度データとされてもよい。
【0101】
また、ここでは、顔面皮膚温度取得手段20により温度換算データに応じた顔面皮膚温度データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられる。すなわち、顔面皮膚温度取得手段20により取得される温度換算データに応じた顔面皮膚温度データには、個人に対して脳機能賦活課題が与えられている期間のデータが含まれていることになる。なお、個人に対して与えられる脳機能賦活課題としては、脳が賦活状態になると推定されるものであれば特に限定されるものではなく、例えば、脳活動可視化装置10の利用目的に応じてその内容が適宜決定されるよう構成されていてもよい。
【0102】
脳活動推定手段30は、顔面皮膚温度取得手段20により取得された温度換算データに応じた顔面皮膚温度データに基づき、人間の脳活動を推定する。具体的には、脳活動推定手段30は、
図19に示すように、換算部31と、解析部32と、推定部33と、を有する。
【0103】
換算部31は、温度換算データに応じた顔面皮膚温度データに含まれる温度データを相対的な温度データに換算し、換算した相対的な温度データに基づく顔面皮膚温度データすなわち相対温度換算データに応じた顔面皮膚温度データを作成する(ステップS2)。具体的には、換算部31は、所定時間毎(例えば、30秒)の温度換算データに応じた顔面皮膚温度データに含まれる温度データの平均値を基準値として、該温度データを相対的な温度データに換算する。そして、換算部31は、換算した相対的な温度データ及び位置データを利用して、相対温度換算データに応じた顔面皮膚温度データを作成する。
【0104】
解析部32は、時系列の温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データのそれぞれを、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する(ステップS3)。ここでは、解析部32は、取得した温度換算データに応じた顔面皮膚温度データ及び換算した相対温度換算データに応じた顔面皮膚温度データのそれぞれを対象として、MATLAB(登録商標)のSVDを分析ツールとして用いて、特異値分解を行う。特異値分解は、時系列で取得した温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データについて、要因を所定期間(例えば、30秒)毎の時間データとし、測度をその期間における温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データとして行われる。そして、特異値分解により、温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データのそれぞれを複数の成分に分解し、時間分布と、空間分布と、各成分の大きさを示す特異値とを算出する。
【0105】
また、解析部32は、特異値分解によって分解した複数の成分から脳活動を反映した皮膚温度の変化を示す成分を同定するために、各成分が第1条件及び第2条件を満たすか否かを判定する(ステップS4a、ステップS4b、ステップS5a、及びステップS5b)。なお、ここでは、解析部32において、まず、温度換算データに応じた顔面皮膚温度データに基づく各成分について第1条件が満たされているか否かが判定され(ステップS4a)、ステップS4aにおいて第1条件が満たされていると判定された温度換算データに応じた顔面皮膚温度データに基づく成分について第2条件が満たされているか否かが判定される(ステップS4b)。そして、相対温度換算データに応じた顔面皮膚温度データに基づく各成分のうちステップS4a及びステップS4bにおいて第1条件及び第2条件を満たすと判定された成分と一致する成分についてのみ第1条件が満たされているか否かが判定され(ステップS5a)、その後、ステップS5aにおいて第1条件が満たされていると判定された相対温度換算データに応じた顔面皮膚温度データに基づく成分について第2条件が満たされているか否かが判定される(ステップS5b)。しかしながら、解析部32における該判定の順序はこれに限定されるものではなく、例えば、温度換算データに応じた顔面皮膚温度データに基づく各成分と、相対温度換算データに応じた顔面皮膚温度データに基づく各成分とが、第1条件及び第2条件を満たすか否かがそれぞれ判定され、判定結果の一致する成分が最終的に抽出されてもよい。
【0106】
第1条件とは、特異値分解によって分解した成分の成分波形の振幅が、脳の非賦活時及び脳の賦活時の変化と相関関係にある、という条件である。解析部32は、複数の成分のうち、第1条件を満たす成分を、判定用成分として抽出する。なお、ここでは、温度換算データに応じた顔面皮膚温度データを取得している間に、個人に対して脳機能賦活課題が与えられている期間が一定期間ある。解析部32は、個人に対して脳機能賦活課題が与えられていない期間を脳の非賦活時とし、個人に対して脳機能賦活課題が与えられている期間を脳の賦活時として、脳機能賦活課題が与えられている期間及び与えられていない期間と、各成分の成分波形とを比較解析する。解析部32は、成分波形データに基づく比較解析結果を利用して、各成分の成分波形と脳の非賦活時及び脳の賦活時とが相関関係にあるか否かを評価し、複数の成分のうち相関関係にあると評価した成分を、第1条件を満たす判定用成分として抽出する。一方、解析部32は、複数の成分のうち相関関係にないと評価した成分を、第1条件を満たさず人間の脳活動を反映した温度変化を示す成分ではないと判定する(ステップS6)。
【0107】
ここでは、温度換算データに応じた顔面皮膚温度データの取得時に個人に対して脳機能賦活課題が一定期間与えられており、これに基づき解析部32は判定用成分を抽出しているが、第1条件の内容、すなわち解析部32における判定用成分の抽出手段はこれに限定されない。例えば、予め実験等がされていることで複数の成分のうち脳の非賦活時及び脳の賦活時と相関関係にある成分波形を示す成分が特定されている場合には、解析部32は、複数の成分から特定されている該成分を判定用成分として抽出する。また、本脳活動可視化装置において眼球運動又はまたたき等の脳の賦活/非賦活に関連することが知られている人間の動作が検出される場合には、解析部32が、この検出結果と各成分の成分波形とを比較解析及び評価することで、複数の成分から判定用成分を抽出してもよい。なお、解析部32による第1条件を満たすか否かの判定の基準は、脳活動可視化装置10の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。
【0108】
第2条件は、抽出した判定用成分において、人間の顔面の所定部位における温度変化がある、という条件である。解析部32は、判定用成分のうち、第2条件を満たす成分を、人間の脳活動に関連している可能性の高い成分と判定し、候補成分として抽出する。すなわち、解析部32は、人間の顔面の所定部位における温度変化の有無に基づき、判定用成分が人間の脳活動に関連しているか否かを判定する。具体的には、解析部32は、抽出した判定用成分の温度分布データに基づき、副鼻腔周辺及び/又は前額部において温度変化が生じているか否かを判定し、温度変化が生じている場合には該判定用成分が第2条件を満たす人間の脳活動に関連する可能性の高い成分であると判定し、候補成分として抽出する。一方で、解析部32は、副鼻腔周辺及び/又は前額部において温度変化が生じていない場合には、該判定用成分は第2条件を満たさず脳活動を反映した皮膚温度の変化を示す成分ではない、と判定する(ステップS6)。なお、解析部32による第2条件を満たすか否かの判定の基準は、脳活動可視化装置10の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。
【0109】
そして、解析部32は、ステップS5bにおいて第2条件を満たすと判定した成分を、脳活動を反映した皮膚温度の変化を示す成分として同定する(ステップS7)。すなわち、ステップS7において脳活動を反映した皮膚温度の変化を示す成分として同定される成分は、温度換算データに応じた顔面皮膚温度データを特異値分解により分解し解析することで抽出された候補成分と、相対温度換算データに応じた顔面皮膚温度データを特異値分解により分解し解析することで抽出された候補成分と、の間で一致している成分ということになる。なお、両解析で一致していない候補成分については、ステップS6において脳活動を反映した皮膚温度の変化を示す成分ではない、と判定されている。
【0110】
推定部33は、解析部32において人間の脳活動を反映した皮膚温度の変化を示す成分として同定された成分に基づいて、人間の脳活動を推定する。具体的には、推定部33は、解析部32において同定された成分の成分波形データに基づいて、顔面皮膚温度データの取得時における脳活動量を推定する。
【0111】
(4−1−1)変形例1A
上記脳活動推定手段30は換算部31を有しており、換算部31によって相対温度換算データに応じた顔面皮膚温度データが作成されている。そして、解析部32が、顔面皮膚温度取得手段20により取得された温度換算データに応じた顔面皮膚温度データだけでなく、相対的な温度データに換算された温度データに基づく相対温度データに応じた顔面皮膚温度データについても、特異値分解により複数の成分に分解し、各成分についての解析を行っている。
【0112】
これに代えて、脳活動推定手段30が換算部31を有していなくてもよい。この場合、相対温度換算データに応じた顔面皮膚温度データを作成したり、相対温度換算データに応じた顔面皮膚温度データに基づくデータの解析を行ったりする処理を省くことができる。
【0113】
ただし、人間の脳活動に関連する成分を精度よく同定するためには、上記実施形態のように脳活動推定手段30が換算部31を有しており、解析部32によって、顔面皮膚温度取得手段20により取得された温度換算データに応じた顔面皮膚温度データだけでなく、相対的な温度データに換算された温度データに基づく相対温度データに応じた顔面皮膚温度データについても、特異値分解により複数の成分に分解され、各成分についての解析が行われるほうが望ましい。
【0114】
(4−1−2)変形例1B
また、上記顔面皮膚温度取得手段20は、対象物と非接触の状態で温度データを取得することができる赤外線サーモグラフィ装置である。
【0115】
しかしながら、個人の顔面の少なくとも一部の皮膚温度を検出し、検出した温度データ及びその検出部位の位置データを含む顔面皮膚温度データを時系列で取得することができれば、顔面皮膚温度取得手段は赤外線サーモグラフィ装置に限定されない。
【0116】
例えば、顔面皮膚温度取得手段が温度センサを含む装置であってもよい。具体的には、個人の顔面の所定部位に温度センサを装着し、温度センサによって検出される温度データと、温度センサを装着した部位の位置データとに基づいて、時系列の顔面皮膚温度データが取得されてもよい。このように、温度センサにより対象となる個人に接触した状態で顔面皮膚温度データが取得される場合であっても、温度センサは脳波電極等のように装着前の処理が必要ではないため、脳波計測法、磁気共鳴画像法、及び近赤外線分光法等の従来の検出方法と比較して、簡便にデータを取得することができる。これにより、簡便に人間の脳活動を推定することができる。
【0117】
(4−2)顔面の撮影画像データに基づき脳活動を推定する脳活動推定手段130
図21は、本発明の実施形態に係る脳活動可視化装置110の概略図である。
図22は、脳活動可視化装置110において脳機能を反映した顔面のRGB変化を示す成分を同定する際の処理の流れの一例を示すフローチャートである。
【0118】
脳活動可視化装置110の備える脳活動推定手段130は、個人(被験者)の顔面の撮影画像データから、個人の脳活動を推定するための装置である。脳活動可視化装置110は、
図21に示すように、画像データ取得手段120と、脳活動推定手段130と、状態可視化手段200と、を備える。
【0119】
画像データ取得手段120は、個人の顔面の少なくとも一部の撮影画像データを時系列で取得する(ステップS101)。なお、画像データ取得手段120は、少なくとも撮影装置を有するものであれば特に限定されるものではなく、例えば、スマートフォンやタブレット(例えば、iPad:登録商標)等の撮影装置内蔵型ポータブル端末等が挙げられる。ここでは、画像データ取得手段120は、
図21に示すように、撮影装置としてのカメラ121と、記憶部122とを有する。カメラ121は、個人の顔面の撮影画像データを時系列で取得するためのものである。ここでは、カメラ121は、個人の顔面全体の動画を撮影し、撮影した動画データを取得する。記憶部122は、撮影装置により撮影された時系列の撮影画像データを蓄積する。ここでは、記憶部122は、カメラ121によって取得された動画データを蓄積する。
【0120】
なお、ここでは、カメラ121によって顔面全体の動画が撮影されているが、これに限定されず、顔面の少なくとも前額部及び/又は副鼻腔周辺の画像を含む動画が撮影されていればよい。
【0121】
また、ここでは、画像データ取得手段120により顔面の時系列の撮影画像データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられる。すなわち、画像データ取得手段120により取得される撮影画像データには、個人に対して脳機能賦活課題が与えられている期間のデータが含まれていることになる。なお、個人に対して与えられる脳機能賦活課題としては、脳が賦活状態になると推定されるものであれば特に限定されるものではなく、例えば、脳活動可視化装置110の利用目的に応じてその内容が適宜決定されるよう構成されていてもよい。
【0122】
脳活動推定手段130は、画像データ取得手段120により取得された顔面の時系列の撮影画像データに基づき、人間の脳活動を推定する。具体的には、脳活動推定手段130は、
図21に示すように、RGB処理部131と、換算部132と、血行量算出部133と、解析部134と、推定部135と、を有する。なお、
図21では、脳活動推定手段130が、RGB処理部131、換算部132、血行量算出部133、解析部134及び推定部135を有する1つの装置として存在している態様が示されているが、本発明はこれに限定されるものではなく、RGB処理部131、換算部132、血行量算出部133、解析部134及び推定部135の一部或いはそれぞれが独立した装置として存在していてもよい。また、ここでは、画像データ取得手段120、RGB処理部131、換算部132、及び血行量算出部133により顔面血行量取得手段が構成されている。
【0123】
RGB処理部131は、画像データ取得手段120により取得された撮影画像データに対して、R成分、G成分及びB成分の3つの色成分に分解するRGB処理を行う(ステップS102)。ここで、顔面全体の撮影画像データに対してRGB処理を行ってもよいが、ここでは、演算処理量及びノイズを減らすために、撮影画像データから前額部及び/又は副鼻腔周辺のデータを抽出し、抽出したデータについてのみRGB処理を行うものとする。
【0124】
換算部132は、RGB処理により得られた撮影画像データのRGBデータを相対的なRGBデータに換算する(ステップS103)。具体的には、換算部132は、取得された所定時間毎(例えば、30秒)の撮影画像データから得られるRGBデータの平均値を基準値として、該RGBデータを相対的なRGBデータに換算する。
【0125】
血行量算出部133は、RGB処理により得られた撮影画像データのRGBデータに基づき、顔面の時系列の血行量データを算出する(ステップS104)。
【0126】
解析部134は、時系列の相対換算血行量データを、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する(ステップS105)。ここでは、解析部134は、相対換算血行量データに対して、MATLAB(登録商標)のSVDを分析ツールとして用いて、特異値分解を行う。具体的には、特異値分解は、時系列の相対換算血行量データを対象として、要因を所定期間(例えば、30秒)毎の時間データとし、測度をその期間毎における相対的なRGBデータから演算したピクセル毎の相対換算血行量データとして行われる。そして、特異値分解により、時系列の相対換算血行量データを複数の成分に分解し、時間分布と、空間分布と、各成分の大きさを示す特異値とを算出する。
【0127】
また、解析部134は、特異値分解によって分解した複数の成分から脳活動を反映した顔面のRGB変化を示す成分を同定するために、各成分が所定条件を満たすか否かを判定する(ステップS106)。ここで、所定条件としては、例えば、特異値分解によって分解した成分の成分波形の振幅が、脳の非賦活時及び脳の賦活時の変化と相関関係にあるという条件(以下、第1条件という)や、特異値分解によって分解した成分において人間の顔面の所定部位に血行量変化があるという条件(以下、第2条件という)等が含まれる。解析部134において判定される所定条件としては、1又は複数の条件が設定されていればよく、ここでは、所定条件として第1条件が設定されているものとする。
【0128】
そして、解析部134は、複数の成分のうち所定条件を満たす成分を、判定用成分として抽出する。さらに、解析部134は、抽出した判定用成分のうち所定条件に含まれる全ての条件を満たす成分を、脳活動を反映した顔面のRGB変化を示す成分として同定する(ステップS107)。一方、解析部134は、複数の成分のうち所定条件に含まれる少なくとも1つの条件を満たさないと判定した成分を、脳活動を反映した顔面のRGB変化を示す成分ではないと判定する(ステップS108)。
【0129】
ここでは、上述のように所定条件として1つの条件(第1条件)のみが設定されており、顔面の時系列の撮影画像データを取得している間に、個人に対して脳機能賦活課題が与えられている期間が一定期間ある。このため、解析部134は、個人に対して脳機能賦活課題が与えられていない期間を脳の非賦活時とし、個人に対して脳機能賦活課題が与えられている期間を脳の賦活時として、脳機能賦活課題が与えられている期間及び与えられていない期間と、各成分の成分波形とを比較解析する。そして、解析部134は、成分波形データに基づく比較解析結果を利用して、各成分の成分波形と脳の非賦活時及び脳の賦活時とが相関関係にあるか否かを評価し、複数の成分のうち相関関係にあると評価した成分を、所定条件を満たす判定用成分として抽出すると共に、脳活動を反映した顔面のRGB変化を示す成分として同定する。一方、解析部134は、複数の成分のうち相関関係にないと評価した成分を、所定条件を満たさず人間の脳活動を反映した顔面のRGB変化を示す成分ではないと判定する。
【0130】
ここでは、顔面の時系列の撮影画像データが取得される際に個人に対して脳機能賦活課題が一定期間与えられており、これに基づき解析部134が判定用成分を抽出しているが、第1条件の内容、すなわち解析部134における判定用成分の抽出手段はこれに限定されない。例えば、予め実験等がされていることで複数の成分のうち脳の非賦活時及び脳の賦活時と相関関係にある成分波形を示す成分が特定されている場合には、解析部134は、複数の成分から特定されている該成分を判定用成分として抽出する。また、脳活動可視化装置110において眼球運動又はまたたき等の脳の賦活/非賦活に関連することが知られている人間の動作についても検出される場合には、解析部134が、この検出結果と各成分の成分波形とを比較解析及び評価することで、複数の成分から判定用成分を抽出してもよい。なお、解析部134による第1条件を満たすか否かの判定の基準は、脳活動可視化装置110の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。
【0131】
また、所定条件として第2条件が設定されている場合には、解析部134は、人間の顔面の所定部位における顔面の血行量変化の有無に基づき、判定用成分を抽出する。具体的には、解析部134は、特異値分解によって分解された複数の成分に応じた血行量分布図に基づき、副鼻腔周辺及び/又は前額部において血行量の変化が生じているか否かを判定し、血行量の変化が生じている場合には該成分が第2条件を満たしていると判定する。一方で、副鼻腔周辺及び/又は前額部において血行量の変化が生じていない場合には、解析部134は、該成分が第2条件を満たしていないと判定する。なお、解析部134による第2条件を満たすか否かの判定の基準は、脳活動可視化装置110の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定されるものとする。
【0132】
さらに、血行量算出部133によって相対的なRGBデータに換算される前のRGBデータに基づく時系列の血行量データが算出される場合には、解析部134によって、該血行量データを特異値分解等することで得られた複数の成分についても、上記第1条件及び/又は第2条件が満たされるか否かが判定され、判定用成分が抽出されてもよい。
【0133】
推定部135は、解析部134において人間の脳活動を反映した顔面のRGB変化を示す成分として同定された成分に基づいて、人間の脳活動を推定する。具体的には、推定部135は、解析部134において同定された成分の成分波形データに基づいて、顔面の撮影画像データの取得時における脳活動量を推定する。
【0134】
(4−2−1)変形例2A
上述したように、カメラ121としては、例えば、スマートフォンやタブレット(例えば、iPad:登録商標)等の撮影装置内蔵型ポータブル端末等を利用することができる。すなわち、上述の撮影画像データは、可視光領域の画像を撮像するものを採用することができる。
【0135】
また、上記血行量算出部133において、RGBデータに含まれる各画素のうちの主にR成分を用いて顔面の血行量データが算出されてもよい。また、RGBデータに基づき血行量データを算出できるのであれば、血行量データは必ずしも紅斑指数に限定されるものではない。
【0136】
(4−2−2)変形例2B
上記血行量算出部133は、換算部132によって換算された相対的なRGBデータに基づき相対換算血行量データを算出するが、これに代えて或いはこれに加えて、相対的なRGBデータに換算される前のRGBデータに基づき血行量データが算出されてもよい。ここで、相対的なRGBデータに換算される前のRGBデータに基づき算出された血行量データには、脳活動と相関する成分が出やすい(検定力が高い)ため、例えば、相対的なRGBデータに換算される前のRGBデータに基づき算出された血行量データを、相対的なRGBデータに基づき算出された相対換算血行量データよりも先行して解析してもよい。また、例えば、まず、血行量データを解析して有意な相関のある成分を抽出し、相対換算血行量データに関しては、前記抽出した成分に対応する成分のみを解析することで、演算処理量を減らすことができる。
【0137】
(4−2−3)変形例2C
上記カメラ121は可視光領域の通常のカメラを前提としていたが、赤外線カメラを用いることもできる。この場合、赤外光を照射し、その反射波を赤外線カメラで撮像する。これにより、対象者の顔面変化等の撮影画像データを得ることができる。本発明者らにより、赤外線の反射により得られた撮影画像データから算出された血行量データと、可視光領域で撮影されたRGBデータに含まれる各画素のうちの主にR成分を用いて算出された血行量データとには相関があることが確認された。したがって、このような赤外線の反射から得られた撮影画像データを用いても、人間の脳活動を推定することができる。
【0138】
(4−2−4)変形例2D
なお、上記説明においては、脳活動可視化装置110が、画像データ取得手段120と、脳活動推定手段130とを備える形態としていたが、本実施形態に係る脳活動可視化装置は、このような形態に限定されるものではない。すなわち、本実施形態に係る脳活動可視化装置は、血行量算出部133、解析部134及び推定部135を含むものであれば、その他の構成については任意の形態を採り得るものである。具体的には、本実施形態に係る脳活動可視化装置は、当該装置自体が画像データを撮影する形態だけではなく、外部の装置から撮影画像データを受け取り、それを解析する形態を含むものである。 (4−3)状態可視化手段200
状態可視化手段200は、脳活動推定手段30及び/又は脳活動推定手段130により推定された対象者の脳活動に基づき、対象者の生理状態を表示することにより可視化する。例えば、状態可視化手段200が、対象者の脳活動量の変化を解析することで、対象者の生理状態を解析する解析部201を有していてもよい。具体的には、解析部201が、対象者に対して与えられた刺激(視覚刺激、聴覚刺激、触覚刺激、臭覚刺激或いは味覚刺激等)に対する脳活動量の変化を解析することで、対象者の生理状態を判定する。なお、生理状態の種類やレベルについては、脳活動量の上昇度合い及び/又は持続時間に基づき、脳活動可視化装置10,110の用途に応じて適宜設置可能になっていてもよい。そして、解析部201により解析された対象者の生理状態を状態可視化手段200の表示部202から管理者へと出力されることで、管理者は対象者の生理状態を知ることができる。表示部202としては、画像やメッセージを表示する表示デバイス等、解析した対象者の生理状態に関する情報を管理者に対して可視化できるものであればどのようなものであっても採用することができる。
【0139】
また、解析部32,134において脳活動を反映する成分が同定された後に、さらに顔面皮膚温度取得手段20及び/又は画像データ取得手段120により時系列の各種データが取得される場合には、脳活動可視化装置10,110において、さらに取得された各種データが特異値分解により複数の成分に分解され、同定された成分のみが解析されることで、対象者の生理状態をリアルタイムで知ることができる。
【0140】
さらに、被験者の顔面の皮膚温度や撮影した画像から被験者の心拍情報や生体情報等を取得する技術が従来よりあるが、顔面皮膚温度取得手段20及び/又は画像データ取得手段120から得られた各種データが特異値分解等されることで得られる成分に対して従来の技術を採用することで、心拍情報や生体情報を精度良く取得することができる。したがって、特異値分解した複数の成分を解析して心拍情報や生体情報を取得する機能を、解析部32及び/又は解析部134に持たせ、取得した心拍情報や生体情報に基づき交換神経/副交感神経の働きを推定する機能を上記実施形態の推定部33,135に持たせてもよい。
【0141】
(5)特徴
(5−1)
本実施形態では、顔面皮膚温度取得手段20及び/又は画像データ取得手段120によって取得された時系列の顔面皮膚温度データ及び/又は顔面血行量データに基づき人間の脳活動が推定される。このため、脳波電極等の装着前に処理が必要なセンサを装着しなくても、人間の脳活動を推定することができる。したがって、簡便に人間の脳活動を推定し、推定した脳活動に基づき対象者の生理状態を可視化することができている。
【0142】
(5−2)
ここで、時系列の顔面の皮膚温度データ及び/又は画像データが取得される際に、人間に対して実際に脳機能賦活課題が与えられたり与えられなかったりすることにより、人間の脳が賦活化したり賦活化しなかったりする状況が作られている場合、各成分の成分波形と脳の賦活時及び非賦活時との間に相関関係のある成分は、脳活動を反映した皮膚温度及び/又は血行量の変化を示す成分である可能性が高い成分であるといえる。
【0143】
本実施形態では、顔面皮膚温度取得手段20及び/又は画像データ取得手段120により時系列の顔面の皮膚温度データ及び/又は画像データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられている。すなわち、本実施形態では、個人に対して実際に脳機能賦活課題を与えたり与えなかったりすることにより、人間の脳が賦活化したり賦活化しなかったりする状況が作られている。そして、このように取得された時系列の各種データが特異値分解により複数の成分に分解され、各成分についてその成分波形と脳の賦活時及び非賦活時との相関関係が評価され、相関関係にある成分が判定用成分として複数の成分から抽出される。このため、例えば、予め実験等により特定された所定の成分が抽出用成分として複数の成分から抽出される場合と比較して、人間の脳活動と関連性の低い成分が抽出用成分として複数の成分から抽出されるおそれを低減することができている。
【0144】
(5−3)
ここで、脳には、選択的脳冷却機構という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を前額部及び副鼻腔周辺を用いて排熱していることが知られている。そうすると、脳活動に伴う顔面皮膚温度や顔面皮膚温度に相関する顔面の血行量の変化は、前額部及び/又は副鼻腔周辺に出現することになる。
【0145】
本実施形態では、前額部及び/又は副鼻腔周辺の各種データが解析されて、判定用成分が抽出されている。このため、人間の脳活動に関連する成分を精度よく抽出することができている。
【0146】
(6)脳活動可視化装置の用途例(判定結果出力装置、判定結果提供装置、システム)
次に、本発明に係る脳活動可視化装置を応用した判定結果出力装置及びシステムについて説明する。
【0147】
(6−1)第1実施形態
(6−1−1)判定結果出力装置800の構成
図23は第1実施形態に係る判定結果出力装置800の構成を示す模式図である。
【0148】
判定結果出力装置800は、入力部810、撮像部815、周辺情報取得部816、出力部820、記憶部830、及び処理部840を備える。また、判定結果出力装置800の周辺には脳機能賦活情報提供物600が存在する。ここで、脳機能賦活情報提供物600とは、人間の脳機能を賦活する「脳機能賦活情報」を提供するものである。脳機能賦活情報提供物600としては、例えば信号機などが該当する。脳機能賦活情報については後述する。
【0149】
入力部810は、判定結果出力装置800に各種情報を入力するものである。例えば入力部810は、キーボード、マウス、及び/又はタッチスクリーン等により構成される。この入力部810を介して、判定結果出力装置800に各種命令が入力され、処理部840において命令に応じた処理が実行される。
【0150】
撮像部815は、対象者300の顔面を含む「顔面画像」を撮像するものである。例えば撮像部815は、RGB画像を取得するCCD及びCMOS等の固体撮像素子や、サーモグラムを取得する赤外線カメラ等により構成される。撮像部815に赤外線カメラを用いることにより、周囲の明るさに影響を受けることなく、対象者の状態判定が可能となる。特に、夜間に疲労による事故等が生じやすい。このような場面においても、第1実施形態に係る判定結果出力装置800に赤外線カメラを搭載することで、夜間での対象者の状態の監視が可能となる。赤外線カメラ等は通常の室温条件で、29.0℃から37.0℃を高感度で検出できるものが望ましい。また、撮像部815は、所定の間隔で継続的な撮像が可能である。顔面画像を撮像する場合には正面からの撮像、一定照明撮像が望ましい。姿勢変動により正面画像が得られない場合には、摂動空間法を用い、姿勢変動画像については顔の3次元形状を推定し、正面像にレンダリングすることにより顔面画像を得る。照明変動画像については、拡散反射モデルをベースに構築した顔の照明基底モデルを用いて、一定照明条件の顔面画像を得る。そして、撮像部815により、継続的に撮像された顔面画像は処理部840に送出される。
【0151】
周辺情報取得部816は、判定結果出力装置800の周辺に存在する脳機能賦活情報提供物600から提供される脳機能賦活情報を検知するものである。例えば、脳機能賦活情報として「赤信号の表示」が採用される場合、周辺情報取得部816は判定結果出力装置800の「周辺画像」を取得する。周辺情報取得部816で取得された情報は、処理部840の脳機能賦活情報検知部843に送出される。
【0152】
出力部820は、判定結果出力装置800から各種情報を出力するものである。例えば出力部820は、ディスプレイ及びスピーカー等により構成される。ここでは、出力部820を介して、後述する脳機能賦活情報が対象者300に提供される。また、この出力部820を介して判定結果が出力される。
【0153】
記憶部830は、判定結果出力装置800に入力される情報及び判定結果出力装置800で計算される情報等を記憶するものである。例えば記憶部830は、メモリ及びハードディスク装置等により構成される。また、記憶部830は、後述する処理部840の各機能を実現するためのプログラムを記憶する。ここでは、記憶部830は、脳機能賦活情報データベース831及び基準情報データベース832を有する。
【0154】
脳機能賦活情報データベース831は、
図24に示すように、人間の脳機能を賦活する「脳機能賦活情報」を判定目的毎に記憶するものである。ここで、判定目的としては、例えば「疲労状態判定」「うつ状態判定」「運転者状態判定」等を選択できる。そして、疲労状態判定を行なう場合、暗算課題等を脳機能賦活情報として採用することができる。また、うつ状態判定を行なう場合、ネガティブ画像又はポジティブ画像に分類された情動画像を脳機能賦活情報として採用できる。また、機器を運転する対象者の運転者状態判定を行なう場合、脳機能賦活情報として、自動車、鉄道車両、及び飛行機、並びに、原子力発電機器、及び各種プラント等のその他の自動機械の運転に関する任意の事象・時点から得られる情報を用いることができる。例えば、対象者300が、自動車、鉄道車両、及び飛行機等の交通機器の運転者である場合、脳機能賦活情報として警告音等を採用できる。また、対象者300が自動車のドライバーである場合、脳機能賦活情報として「赤信号の表示」等を利用できる。この場合、脳機能賦活情報提供物600である信号機から脳機能賦活情報が提供されることになる。なお、「運転者状態」とは、機器を運転する対象者の精神状態及び身体状態を表すものである。例えば、精神状態は、精神疲労、精神的ストレス、漫然状態、集中状態等に対応した指標で表される。また、身体状態は、身体疲労、身体的ストレス等に対応した指標で表される。
【0155】
基準情報データベース832は、複数の判定目的毎に基準情報を記憶するものである。具体的には、基準情報データベース832は、
図25に示すように、複数の判定目的毎に、後述する判定用情報生成部846により抽出される脳機能賦活情報に対する判定用成分の相関値r2の、脳機能賦活情報に対する基準判定用成分の「基準相関値r1」からの所定範囲の変化量Δr(=r1−r2)を、「状態レベル」と関連付けて予め「基準情報」として記憶する。「基準判定用成分」は、所定のタイミングで抽出した判定用成分のデータ、前回抽出した判定用成分のデータ、及び外部から提供される判定用成分のデータ等により設定される。ここで、
図25には、判定目的が「疲労状態」である場合の基準情報の概念が例示されている。すなわち、基準情報データベース432には、変化量Δrの値の範囲に応じて、Δr=Δra〜Δrbまでが「正常」、Δrb〜Δrcまでが「軽い疲労」、Δrc〜Δrdまでが「疲労」として記憶される。ここでは、Δra、Δrb、Δrc、Δrdの順に値が大きいものとなっている。なお、基準判定用成分のデータも基準情報データベース832に格納される。
【0156】
処理部840は、判定結果出力装置800における情報処理を実行するものである。具体的には、処理部840は、CPU及びキャッシュメモリ等により構成される。処理部840は、記憶部830に組み込まれたプログラムが実行されることで、対象目的選択部841、脳機能賦活情報提供部842、脳機能賦活情報検知部843、顔面変化情報取得部844、顔面変化情報分解部845、判定用情報生成部846、相関値算出部847、及び、判定結果決定部848として機能する。
【0157】
対象目的選択部841は、複数の判定目的のうち、一の判定目的を「対象目的」として選択するものである。具体的には、対象目的選択部841が脳機能賦活情報データベース831に記憶されている判定目的を読み出して、出力部820に出力する。そして、対象者300による入力部810の操作により、対象目的の選択命令が入力され、これに応じて対象目的が選択される。
【0158】
脳機能賦活情報提供部842は、対象目的に対応する脳機能賦活情報を提供するものである。詳しくは、対象目的選択部841により対象目的が選択されると、脳機能賦活情報提供部842が脳機能賦活情報データベース831から脳機能賦活情報を読み出して、読み出した脳機能賦活情報を出力部820に送出する。
【0159】
脳機能賦活情報検知部843は、対象目的に対応する脳機能賦活情報を検知するものである。具体的には、脳機能賦活情報検知部843は、周辺情報取得部816から送出される情報から、脳機能賦活情報を検知する。例えば、対象目的として「運転者状態判定」が選択される場合、脳機能賦活情報検知部843は周辺情報取得部816に周辺画像の送信要求を行なう。この送信要求に応じて周辺情報取得部816から周辺画像が取得した場合、脳機能賦活情報検知部843は周辺画像に赤信号等が表示されているか否かを検知する。
【0160】
顔面変化情報取得部844は、撮像部815で撮像された顔面画像から「顔面データ」及び顔面データの時系列変化を示す「顔面変化情報」を取得するものである。具体的には、顔面変化情報取得部844は、脳機能賦活情報提供部842が脳機能賦活情報を提供しているタイミング、又は脳機能賦活情報検知部843が脳機能賦活情報を検知しているタイミング等に同期して、撮像部815を介して顔面データを取得する。そして、顔面変化情報取得部844は、継続的に取得した顔面データから、対象者300の顔面データの時系列変化を示す顔面変化情報を取得する。例えば、顔面変化情報は、240×320ピクセルの顔面データを所定間隔で60点取得した場合には、4,608,000のデータの集合となる。取得した顔面変化情報は、顔面変化情報分解部845に送出される。なお、撮像部815が赤外線カメラの場合、顔面変化情報取得部844は、顔面データとして、対象者300の顔面の皮膚温度を示す顔面皮膚温度データを取得する。また、撮像部815がCCD及びCMOS等の固体撮像素子の場合、顔面変化情報取得部844は、顔面データとして、対象者300の顔面のRGBデータに基づく顔面血行量データを取得する。なお、顔面変化情報取得部844は、顔面データとして、対象者300の、副鼻腔周辺及び/又は前額部のデータだけを取得するものでもよい。
【0161】
顔面変化情報分解部845は、多数のデータの集合である顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分1,2,3,・・・に分解する。分解した各成分の情報は、判定用情報生成部846に送出される。ここで、顔面変化情報を特異値分解等した場合、特異値の高いものから成分1,2,3,・・・と設定される。また特異値の高い成分ほど、変動の大きいものの影響が反映されやすい。そのため、成分1には、脳機能賦活情報が提供されることの影響より、外部環境のノイズ等の影響が反映されることが少なくない。
【0162】
判定用情報生成部846は、顔面変化情報から判定用情報を生成するものである。具体的には、判定用情報生成部846は、複数の成分1,2,3・・・から、脳機能賦活情報と関連する成分を「判定用成分」として抽出し、判定用成分から判定用情報を生成する。
【0163】
相関値算出部847は、対象目的に対応する脳機能賦活情報と判定用成分との相関値rを算出する。
【0164】
判定結果決定部848は、脳機能賦活情報と判定用成分との相関値rに基づいて、対象者の状態を示す判定結果を決定する。具体的には、判定結果決定部848は、所定のタイミングで抽出された基準判定用成分に対する脳機能賦活情報の基準相関値r1と、その後に抽出された判定用成分に対する脳機能賦活情報の相関値r2との差Δrを算出する。そして、判定結果決定部848は、基準情報データベース832に記憶された基準情報に基づいて、基準相関値r1と今回の相関値r2との差Δrに対応する状態レベルを決定する。決定された状態レベルは、出力部820を介して表示装置等に出力される。
【0165】
(6−1−2)判定結果出力装置の動作
図26は第1実施形態に係る判定結果出力装置800の動作を説明するためのシーケンス図である。なお、第1実施形態では、後述する第2,3実施形態とは異なり、判定結果出力装置800が判定結果提供装置900との通信を必要としない。ただし、第1実施形態に係る判定結果出力装置800は、判定結果出力装置800の各機能を別の装置で構成してネットワークを介して通信する構成を除外するものではない。
【0166】
まず、対象目的の選択が行なわれる(S1)。具体的には、対象者300による入力部810の操作に応じて、対象目的選択部841が脳機能賦活情報データベース831に記憶されている複数の判定目的を読み出して、出力部820に出力する。続いて、対象者300による入力部810の操作により、複数の判定目的のうち、一の判定目的が対象目的として選択される。例えば、ここでは、判定目的として、「疲労状態判定」「うつ状態判定」「運転者状態判定」が表示され、入力部810を介して「疲労状態判定」が選択されるとする。
【0167】
ここで、対象目的に対応する脳機能賦活情報が脳機能賦活情報データベース831に記憶されている場合は、脳機能賦活情報提供部842により、脳機能賦活情報データベース831から脳機能賦活情報が読み出されて、出力部820に送出される(S2)。一方、対象目的に対応する脳機能賦活情報が脳機能賦活情報データベース831に記憶されていない場合は、脳機能賦活情報検知部843により、周辺情報取得部816を介して脳機能賦活情報が検知される。例えば「疲労状態判定」が選択された場合、脳機能賦活情報データベース831から暗算課題が抽出され、出力部820を介して対象者300に提供される(S2)。一方、「運転者状態判定」が対象目的として選択された場合は、脳機能賦活情報データベース831に対応する脳機能賦活情報が記憶されていないので、周辺情報取得部816を介して外部環境から脳機能賦活情報が取得されることになる。
【0168】
次に、所定のタイミングで、撮像部815により出力部820の前方に存する対象者300の顔面画像が所定間隔毎に撮像される(S3)。撮像された顔面画像は顔面変化情報取得部844に送出される。
【0169】
続いて、顔面変化情報取得部844により、撮像された顔面画像から、対象者300の顔面データの時系列変化を示す顔面変化情報が取得される。そして、顔面変化情報分解部845により、顔面変化情報が、特異値分解、主成分分析或いは独立成分分析により複数の成分1,2,3,・・・に分解される(S4)。
【0170】
次に、判定用情報生成部846により、顔面変化情報分解部845により分解された複数の成分1,2,3・・・のうち、脳機能賦活情報と関連のある成分が判定用成分として抽出される(S5,S6)。判定用成分が抽出されない場合は、判定処理が中止される。
【0171】
続いて、相関値算出部847により、脳機能賦活情報と判定用成分との相関値r2が算出される(S7)。
【0172】
そして、判定結果決定部848により、所定の基準相関値r1と上記相関値r2との差が変化量Δrとして算出される(S8)。続いて、判定結果決定部848により、変化量Δrの値に応じた状態レベルが決定される。例えば、対象目的として「疲労状態判定」が選択された場合、
図25に示す基準情報データベース832の情報に基づいて、変化量Δrが上記Δra〜Δrbの範囲内であるときには正常と判定され、変化量ΔrがΔrbを超えているときには疲労状態である、と判定される。そして、これらの判定結果が、出力部820を介して表示装置等に出力される(S9)。
【0173】
(6−1−3)判定結果出力装置800の特徴
(6−1−3−1)
以上説明したように、第1実施形態に係る判定結果出力装置800は、対象目的選択部841と、脳機能賦活情報提供部842又は脳機能賦活情報検知部843と、顔面変化情報取得部844と、判定用情報生成部846と、相関値算出部847と、判定結果決定部848と、出力部(判定結果出力部)820と、を備える。対象目的選択部841は、複数の判定目的のうち、一の判定目的を「対象目的」として選択する。脳機能賦活情報提供部842は、対象目的に対応する「脳機能賦活情報」を提供する。脳機能賦活情報検知部843は、対象目的に対応する「脳機能賦活情報」を検知する。顔面変化情報取得部844は、対象者300の顔面データの時系列変化を示す「顔面変化情報」を取得する。判定用情報生成部(判定用成分抽出部)846は、顔面変化情報から、特異値分解、主成分分析又は独立成分分析することにより、対象目的に対応する脳機能賦活情報と関連する「判定用成分」を抽出する。相関値算出部847は、対象目的に対応する脳機能賦活情報と判定用成分との「相関値」を算出する。判定結果決定部848は、相関値に基づいて、対象者の状態を示す「判定結果」を決定する。出力部820は、判定結果を出力する。
【0174】
したがって、第1実施形態に係る判定結果出力装置800では、特異値分解・主成分分析・独立成分分析することにより、選択した対象目的に対応する脳機能賦活情報と関連する判定用成分を顔面変化情報から抽出するので、装着前に前処理の必要な電極等を使用しなくても、対象者の脳活動の有無を推定できる。そして、対象者の脳機能に対応する判定用成分の相関値に基づいて、対象目的に応じた、対象者300の各種状態を示す判定結果を出力できる。
【0175】
(6−1−3−2)
また、第1実施形態に係る判定結果出力装置800は、基準情報データベース832をさらに備える。基準情報データベース832は、複数の判定目的毎に、脳機能賦活情報に対する、顔面変化情報の基準判定用成分の基準相関値r1からの変化量Δrを状態レベルに関連付けて基準情報として記憶する。また、判定結果決定部848は、相関値r2及び基準相関値r1に基づいて、対象者300の状態レベルを判定する。このような構成により、所定のタイミングで得られた基準相関値r1を利用して、対象目的に応じた、対象者300の各種状態を示す判定結果を出力できる。
【0176】
(6−1−3−3)
また、第1実施形態に係る判定結果出力装置800は、顔面変化情報取得部844が、顔面データとして、対象者300の、副鼻腔周辺及び/又は前額部のデータを取得するので、脳活動と関連する判定用成分を高精度に抽出できる。ここで、脳には、選択的脳冷却機構(Selective Brain Cooling System)という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を、副鼻腔及び前額部周辺を用いて排熱していることが知られている。よって、これらの部位のデータを解析することで脳活動と関連する成分を高精度に抽出できる。結果として、第1実施形態に係る判定結果出力装置800は、対象者300の状態判定を高精度に実行することができる。
【0177】
(6−1−3−4)
また、第1実施形態に係る判定結果出力装置800は、顔面変化情報取得部844が、顔面データとして、対象者300の顔面の皮膚温度を示す顔面皮膚温度データを取得する。換言すると、判定結果出力装置800は、赤外線カメラ等を利用して対象者300の状態判定を実行できる。
【0178】
(6−1−3−5)
また、第1実施形態に係る判定結果出力装置800は、顔面変化情報取得部844が、顔面データとして、対象者300の顔面のRGBデータに基づく顔面血行量データを取得する。すなわち、判定結果出力装置800は、固体撮像素子(CCD,CMOS)を利用して対象者300の状態判定を実行できる。これにより、各種状態判定を簡易な構成で実行することができる。
【0179】
(6−1−3−6)
また、第1実施形態に係る判定結果出力装置800は、判定用情報生成部846が、危険率の値に基づいて、判定用成分を抽出する。判定結果出力装置800では、危険率の値に基づいて、脳機能賦活情報と関連する判定用成分を抽出するので、状態判定の信頼性を高めることができる。
【0180】
(6−1−3−7)
なお、上記説明において、顔面変化情報から、特異値分解等することにより、対象目的に対応する脳機能賦活情報と関連する判定用成分を抽出するものとしているが、第1実施形態に係る判定結果出力装置800は、このような形態に限定されるものではない。例えば、第1実施形態に係る判定結果出力装置800では、顔面変化情報に基づいて生成される、判定用成分以外の任意の判定用情報を用いて対象者の状態を判定してもよい。また、このような判定用情報を生成するために、特異値分解等以外の任意の手法を顔面変化情報に適用してもよい。
【0181】
(6−2)第2実施形態
(6−2−1)判定結果出力システム700Aの構成
以下、既に説明した部分と同一の部分には略同一の符号を付し、重複した説明を省略する。他の実施形態と区別するために、本実施形態では異なる構成に添え字Aを付すことがある。
【0182】
図27は第2実施形態に係る判定結果出力システム700Aの構成を示す模式図である。
【0183】
第2実施形態に係る判定結果出力システム700Aは、対象者300の状態を示す判定結果を出力する判定結果出力装置800Aと、判定結果を提供する判定結果提供装置900Aと、を備える。
【0184】
判定結果出力装置800Aは、入力部810、撮像部815、周辺情報取得部816、出力部820、記憶部830、及び処理部840Aに加え、通信部860Aを備える。
【0185】
第2実施形態の処理部840Aは、記憶部830に組み込まれたプログラムが実行されることで、対象目的選択部841、脳機能賦活情報提供部842、脳機能賦活情報検知部843、顔面変化情報取得部844、顔面変化情報分解部845、判定用情報生成部846、相関値算出部847、相関値送出部851A、判定結果取得部852Aとして機能する。
【0186】
相関値送出部851Aは、相関値算出部847で算出された相関値を対象目的に関連付けて判定結果提供装置900Aに送出するものである。
【0187】
判定結果取得部852Aは、相関値及び対象目的の送出に応じて、判定結果提供装置900Aから判定結果を取得するものである。
【0188】
通信部860Aは、外部ネットワークと有線及び無線で通信可能に通信するための装置である。判定結果出力装置800Aは、通信部860Aを介して判定結果提供装置900Aと通信することができる。
【0189】
判定結果提供装置900Aは、判定結果出力装置800Aから、対象目的に関連付けられた脳機能賦活情報に対する判定用成分の相関値を取得し、判定結果出力装置800Aに対象目的に対する判定結果を提供する。この判定結果提供装置900Aは、記憶部930Aと、処理部940Aと、通信部960Aと、を備える。
【0190】
記憶部930Aは、基準情報データベース932Aを有する。基準情報データベース932Aは、第1実施形態の基準情報データベース832と同様の構造を有する。すなわち、基準情報データベース932Aは、複数の判定目的毎に、脳機能賦活情報に対する、顔面変化情報の基準判定用成分の基準相関値r1からの変化量Δrを状態レベルに関連付けて基準情報として記憶する。
【0191】
処理部940Aは、判定結果提供装置900Aにおける情報処理を実行するものである。具体的には、処理部940Aは、CPU及びキャッシュメモリ等により構成される。処理部940Aは、記憶部930Aに組み込まれたプログラムが実行されることで、判定結果決定部945A及び判定結果送出部946Aとして機能する。
【0192】
判定結果決定部945Aは、判定結果出力装置800Aから、対象目的に関連付けられた脳機能賦活情報に対する判定用成分の相関値r2を取得すると、相関値r2及び基準情報に基づいて、対象者300の状態レベルを含む判定結果を決定するものである。
【0193】
判定結果送出部946Aは、判定結果を判定結果出力装置800Aに送出するものである。
【0194】
通信部960Aは、外部ネットワークと有線及び無線で通信可能に通信するための装置である。判定結果提供装置900Aは、通信部960Aを介して、複数の判定結果出力装置800Aと同時に通信することができる。
【0195】
(6−2−2)判定結果出力システム700Aの動作
図28は第2実施形態に係る判定結果出力システム700Aの動作を説明するためのシーケンス図である。
【0196】
まず、判定結果出力装置800Aにおいて、複数の判定目的のうち、一の判定目的が「対象目的」として選択される(T1)。これにより、判定結果出力装置800Aにおいて、脳機能賦活情報の出力又は脳機能賦活情報の検知が行なわれる(T2)。
【0197】
次に、所定のタイミングで、判定結果出力装置800Aにおいて、対象者300の顔面画像が撮像される(T3)。そして、判定結果出力装置800Aにおいて、顔面変化情報が特異値分解等され(T4)、脳機能賦活情報と相関する判定用成分の抽出及び相関値r2が算出される(T5〜T7)。
【0198】
続いて、判定結果出力装置800Aから、対象目的に関連付けて相関値が判定結果提供装置900Aに送出される(T8)。
【0199】
これに応じて、判定結果提供装置900Aにおいて、判定結果出力装置800Aから、対象目的に関連付けられた相関値が取得される。そして、判定結果提供装置900Aにより、基準情報データベース942の基準情報及び相関値に基づいて判定結果が決定される(T9)。決定された判定結果は判定結果出力装置800Aに送出される。
【0200】
続いて、判定結果出力装置800Aにより、判定結果提供装置900からの判定結果が取得される。そして、判定結果出力装置800Aの出力部820に判定結果が出力される(T10)。
【0201】
(6−2−3)判定結果出力システム700Aの特徴
(6−2−3−1)
以上説明したように、第2実施形態に係る判定結果出力システム700Aは、対象者300の状態を示す判定結果を出力する判定結果出力装置800Aと、判定結果を提供する判定結果提供装置900Aと、を備える。このような構成により、第2実施形態に係る判定結果出力システム700Aでは、対象者300の脳機能に対応する判定用成分に基づいて、対象目的に応じた、対象者300の各種状態を示す判定結果を出力できる。
【0202】
(6−2−3−2)
また、第2実施形態に係る判定結果出力装置800Aは、対象目的選択部841と、脳機能賦活情報提供部842又は脳機能賦活情報検知部843と、顔面変化情報取得部844と、判定用情報生成部846と、相関値算出部847と、相関値送出部851Aと、判定結果取得部852Aと、出力部820と、を備える。対象目的選択部841は、複数の判定目的のうち、一の判定目的を対象目的として選択する。脳機能賦活情報提供部842は、対象目的に対応する脳機能賦活情報を提供する。脳機能賦活情報検知部843は、対象目的に対応する脳機能賦活情報を検知する。顔面変化情報取得部844は、対象者300の顔面データの時系列変化を示す顔面変化情報を取得する。判定用情報生成部846は、顔面変化情報を、特異値分解、主成分分析又は独立成分分析により、対象目的に対応する脳機能賦活情報と関連する判定用成分を抽出する。相関値算出部847は、脳機能賦活情報と判定用成分との相関値r2を算出する。相関値送出部851Aは、相関値r2を対象目的に関連付けて判定結果提供装置900Aに送出する。判定結果取得部852Aは、相関値r2及び対象目的の送出に応じて、判定結果提供装置900Aから判定結果を取得する。出力部820は、判定結果を出力する。
【0203】
したがって、第2実施形態に係る判定結果出力装置800Aでは、特異値分解・主成分分析・独立成分分析することにより、選択した対象目的に対応する脳機能賦活情報と関連する判定用成分を顔面変化情報から抽出するので、装着前に前処理の必要な電極等を使用しなくても、対象者300の脳活動の有無を推定できる。そして、対象者300の脳機能に対応する成分に基づいて、対象目的に応じた、対象者300の各種状態を示す判定結果を出力できる。また、この判定結果出力装置800Aは、一部の計算機能を判定結果提供装置900Aに実行させているので、計算負荷を軽減できる。また、第2実施形態に係る判定結果出力装置800Aは、記憶部830に脳機能賦活情報データベース831だけを格納することで、アプリケーション容量を抑制することができる。なお、判定結果出力装置800Aは、プログラムがインストールされることで機能を実現する任意の端末で実現可能である。
【0204】
また、判定結果出力装置800Aは専用チップで構成されてもよい。また、判定結果出力装置800Aは、脳機能賦活情報の提供前後で心拍情報との相関値を算出してもよい。判定目的に応じて、心拍情報を状態レベルの判定に用いてもよい。
【0205】
また、判定結果出力装置800Bは、疲労状態、眠気状態、集中度状態、うつ状態、漫然運転状態を対象目的として選択できるものである。脳機能賦活情報としては、映像、計算、ゲーム、音楽、動作、加速度、温度変化等を採用できる。
【0206】
(6−2−3−3)
また、本実施形態に係る判定結果提供装置900Aは、基準情報データベース932Aと、判定結果決定部951Aと、判定結果送出部952Aと、を備える。基準情報データベース932Aは、複数の判定目的毎に、脳機能賦活情報に対する、顔面変化情報の基準判定用成分の基準相関値r1からの変化量Δrを状態レベルに関連付けて基準情報として記憶する。判定結果決定部951Aは、判定結果出力装置800Aから、対象目的に関連付けられた相関値r2を取得すると、相関値r2及び基準情報に基づいて、対象者300の状態レベルを含む判定結果を決定する。判定結果送出部952Aは、判定結果を判定結果出力装置800Aに送出する。
【0207】
よって、第2実施形態に係る判定結果提供装置900Aでは、予め設定された基準相関値r1を利用して、対象目的に応じた、対象者300の各種状態を示す判定結果を任意の判定結果出力装置800Aに提供できる。また、判定結果提供装置900Aは、通信部960Aを介して、複数の判定結果出力装置800Aに対して、個別の判定結果を同時に提供できる。
【0208】
(6−2−3−4)
その他、第2実施形態においても、第1実施形態の(6−1−3)で説明した特徴と同様の特徴を有する。
【0209】
なお、上記説明において、顔面変化情報から、特異値分解等することにより、対象目的に対応する脳機能賦活情報と関連する判定用成分を抽出するものとしているが、第2実施形態に係る判定結果出力システム700Aは、このような形態に限定されるものではない。例えば、第2実施形態に係る判定結果出力システム700Aでは、顔面変化情報に基づいて生成される、判定用成分以外の任意の判定用情報を用いて対象者の状態を判定してもよい。また、このような判定用情報を生成するために、特異値分解等以外の任意の手法を顔面変化情報に適用してもよい。
【0210】
(6−3)第3実施形態
(6−3−1)判定結果出力システム700Bの構成
以下、既に説明した部分と同一の部分には略同一の符号を付し、重複した説明を省略する。他の実施形態と区別するために、本実施形態では異なる構成に添え字Bを付すことがある。
【0211】
図29は第3実施形態に係る判定結果出力システム700Bの構成を示す模式図である。
【0212】
第3実施形態に係る判定結果出力システム700Bは、対象者300の状態を示す判定結果を出力する判定結果出力装置800Bと、判定結果を提供する判定結果提供装置900Bと、を備える。
【0213】
判定結果出力装置800Bは、入力部810、撮像部815、周辺情報取得部816、出力部820、記憶部830、及び処理部840Bに加え、通信部860Bを備える。
【0214】
第3実施形態の処理部840Bは、記憶部830に組み込まれたプログラムが実行されることで、対象目的選択部841と、脳機能賦活情報提供部842又は脳機能賦活情報検知部843と、顔面変化情報取得部844と、顔面変化情報送出部851Bと、判定結果取得部852Bとして機能する。
【0215】
顔面変化情報送出部851Bは、顔面変化情報を対象目的に関連付けて判定結果提供装置900Bに送出するものである。
【0216】
判定結果取得部852Bは、顔面変化情報及び対象目的の送出に応じて、判定結果提供装置900Bから判定結果を取得するものである。
【0217】
通信部860Bは、外部ネットワークと有線及び無線で通信可能に通信するための装置である。判定結果出力装置800Bは、通信部860を介して判定結果提供装置900Bと通信することができる。
【0218】
判定結果提供装置900Bは、判定結果出力装置800Bから、対象目的に対する顔面変化情報を取得し、判定結果出力装置800Bに対象目的に対する判定結果を提供する。この判定結果提供装置900Bは、記憶部930Bと、処理部940Bと、通信部960Bと、を備える。
【0219】
記憶部930Bは、基準情報データベース932Bを有する。基準情報データベース932Bは、第1実施形態の基準情報データベース832と同様の構造を有する。すなわち、基準情報データベース932Bは、複数の判定目的毎に、脳機能賦活情報に対する、顔面変化情報の基準判定用成分の基準相関値r1からの変化量Δrを状態レベルに関連付けて基準情報として記憶する。
【0220】
処理部940Bは、判定結果提供装置900Bにおける情報処理を実行するものである。具体的には、処理部940Bは、CPU及びキャッシュメモリ等により構成される。処理部940Bは、記憶部930Bに組み込まれたプログラムが実行されることで、顔面変化情報分解部941B、判定用情報生成部942B、相関値算出部943B、判定結果決定部945B、及び、判定結果送出部946Bとして機能する。
【0221】
顔面変化情報分解部941Bは、多数のデータの集合である顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分1,2,3,・・・に分解する。分解した各成分の情報は、判定用情報生成部942Bに送出される。
【0222】
判定用情報生成部942Bは、顔面変化情報から、特異値分解、主成分分析又は独立成分分析により、対象目的に対応する脳機能賦活情報と関連する判定用成分を抽出するものである。
【0223】
相関値算出部943Bは、脳機能賦活情報と判定用成分との相関値を算出するものである。
【0224】
判定結果決定部945Bは、相関値及び基準情報に基づいて、対象者300の状態レベルを含む判定結果を決定するものである。
【0225】
判定結果送出部946Bは、判定結果を判定結果出力装置800Bに送出するものである。
【0226】
(6−3−2)判定結果出力システム700Bの動作
図30は第3実施形態に係る判定結果出力システム700Bの動作を説明するためのシーケンス図である。
【0227】
まず、判定結果出力装置800Bにおいて、複数の判定目的のうち、一の判定目的が「対象目的」として選択される(V1)。これにより、判定結果出力装置800Vにおいて、脳機能賦活情報の出力又は脳機能賦活情報の検知が行なわれる(V2)。
【0228】
次に、所定のタイミングで、判定結果出力装置800Bにおいて、対象者300の顔面画像が撮像される(V3)。そして、撮像された顔面画像の時系列データが対象目的に関連付けられて判定結果提供装置900Bに送出される(V4)。
【0229】
次に、判定結果提供装置900Bにより、対象目的に関連付けられた顔面変化情報が取得される。続いて、判定結果提供装置900Bにおいて、顔面変化情報が特異値分解等され(V5)、脳機能賦活情報と相関する判定用成分の抽出及び相関値が算出される(V6〜V8)。そして、判定結果提供装置900Aにおいて、基準情報データベース942の基準情報及び相関値に基づいて判定結果が決定される(V9)。決定された判定結果は判定結果出力装置800Bに送出される。
【0230】
続いて、判定結果出力装置800Bにより、判定結果提供装置900からの判定結果が取得される。そして、判定結果出力装置800Bの出力部820に判定結果が出力される(V10)。
【0231】
(6−3−3)判定結果出力システム700Bの特徴
(6−3−3−1)
以上説明したように、第3実施形態に係る判定結果出力システム700Bは、対象者300の状態を示す判定結果を出力する判定結果出力装置800Bと、判定結果を提供する判定結果提供装置900Bと、を備える。このような構成により、第3実施形態に係る判定結果出力システム700Bでは、対象者300の脳機能に対応する判定用成分に基づいて、対象目的に応じた、対象者の各種状態を示す判定結果を出力できる。
【0232】
(6−3−3−2)
また、第3実施形態に係る判定結果出力装置800Bは、対象目的選択部841と、脳機能賦活情報提供部842又は脳機能賦活情報検知部843と、顔面変化情報取得部844と、顔面変化情報送出部851Bと、判定結果取得部852Bと、出力部820と、を備える。対象目的選択部841は、複数の判定目的のうち、一の判定目的を対象目的として選択する。脳機能賦活情報提供部842は、対象目的に対応する脳機能賦活情報を提供する。脳機能賦活情報検知部843は、対象目的に対応する脳機能賦活情報を検知する。顔面変化情報取得部844は、対象者300の顔面データの時系列変化を示す顔面変化情報を取得する。顔面変化情報送出部851Bは、顔面変化情報を対象目的に関連付けて判定結果提供装置900Bに送出する。判定結果取得部852Bは、顔面変化情報及び対象目的の送出に応じて、判定結果提供装置900Bから判定結果を取得する。出力部820は、判定結果を出力する。
【0233】
上記構成により、第3実施形態に係る判定結果出力装置800Bでは、複数の判定目的のうち、一の判定目的を対象目的として選択し、対象目的に応じた判定結果を出力できる。また、この判定結果出力装置800Bは、一部の計算機能を判定結果提供装置900Bに実行させているので、計算負荷を軽減できる。また、第3実施形態に係る判定結果出力装置800Bは、記憶部830に脳機能賦活情報データベース831だけを格納することで、アプリケーション容量を抑制することができる。なお、判定結果出力装置800Bは、プログラムがインストールされることで機能を実現する任意の端末で実現可能である。
【0234】
なお、判定結果出力装置800Bは、疲労状態、眠気状態、集中度状態、うつ状態、漫然運転状態を対象目的として選択できるものである。脳機能賦活情報としては、映像、計算、ゲーム、音楽、動作、加速度、温度変化等を採用できる。
【0235】
(6−3−3−3)
また、第3実施形態に係る判定結果提供装置900Bは、基準情報データベース932Bと、判定用情報生成部942Bと、相関値算出部943Bと、判定結果決定部945Bと、判定結果送出部946Bと、を備える。基準情報データベース932は、複数の判定目的毎に、脳機能賦活情報に対する、顔面変化情報の基準判定用成分の基準相関値r1からの変化量Δrを状態レベルに関連付けて基準情報として記憶する。判定用情報生成部942Bは、判定結果出力装置800Bから、対象目的に関連付けられた顔面変化情報を取得すると、顔面変化情報から、特異値分解、主成分分析又は独立成分分析により、対象目的に対応する脳機能賦活情報と関連する判定用成分を抽出する。相関値算出部943Bは、脳機能賦活情報と判定用成分との相関値を算出する。判定結果決定部945Bは、相関値及び基準情報に基づいて、対象者の状態レベルを含む判定結果を決定する。判定結果送出部946Bは、判定結果を判定結果出力装置800Bに送出する。
【0236】
よって、第3実施形態に係る判定結果提供装置900Bでは、特異値分解・主成分分析・独立成分分析することにより、選択した対象目的に対応する脳機能賦活情報と関連する判定用成分を顔面変化情報から抽出するので、装着前に前処理の必要な電極等を使用しなくても、対象者の脳活動の有無を推定できる。そして、対象者の脳機能に対応する判定用成分に基づいて、対象目的に応じた、対象者300の各種状態を示す判定結果を任意の判定結果出力装置800Bに提供できる。また、判定結果提供装置900Bは、通信部960Bを介して、複数の判定結果出力装置800Bに対して、個別の判定結果を同時に提供できる。
【0237】
なお、判定結果提供装置900Bは、脳機能賦活情報の提供前後で心拍情報との相関値を算出してもよい。判定目的に応じて、心拍情報を状態レベルの判定に用いてもよい。
【0238】
(6−3−3−4)
その他、第3実施形態においても、第1実施形態の(6−1−3)で説明した特徴と同様の特徴を有する。
【0239】
なお、上記説明において、顔面変化情報から、特異値分解等することにより、対象目的に対応する脳機能賦活情報と関連する判定用成分を抽出するものとしているが、第3実施形態に係る判定結果出力システム700Bは、このような形態に限定されるものではない。例えば、第3実施形態に係る判定結果出力システム700Bでは、顔面変化情報に基づいて生成される、判定用成分以外の任意の判定用情報を用いて対象者の状態を判定してもよい。また、このような判定用情報を生成するために、特異値分解等以外の任意の手法を顔面変化情報に適用してもよい。