特許第6371366号(P6371366)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ダイキン工業株式会社の特許一覧 ▶ 国立大学法人東京工業大学の特許一覧 ▶ 国立大学法人鳥取大学の特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6371366
(24)【登録日】2018年7月20日
(45)【発行日】2018年8月8日
(54)【発明の名称】精神疾患判定装置
(51)【国際特許分類】
   A61B 10/00 20060101AFI20180730BHJP
   A61B 5/01 20060101ALI20180730BHJP
   A61B 5/026 20060101ALI20180730BHJP
【FI】
   A61B10/00 H
   A61B5/01 350
   A61B5/026 140
【請求項の数】17
【全頁数】50
(21)【出願番号】特願2016-240737(P2016-240737)
(22)【出願日】2016年12月12日
(65)【公開番号】特開2018-94029(P2018-94029A)
(43)【公開日】2018年6月21日
【審査請求日】2017年12月18日
(73)【特許権者】
【識別番号】000002853
【氏名又は名称】ダイキン工業株式会社
(73)【特許権者】
【識別番号】304021417
【氏名又は名称】国立大学法人東京工業大学
(73)【特許権者】
【識別番号】504150461
【氏名又は名称】国立大学法人鳥取大学
(74)【代理人】
【識別番号】110000202
【氏名又は名称】新樹グローバル・アイピー特許業務法人
(72)【発明者】
【氏名】新井 潤一郎
(72)【発明者】
【氏名】松原 聡
(72)【発明者】
【氏名】平山 喬弘
(72)【発明者】
【氏名】橋詰 英希
(72)【発明者】
【氏名】後藤 尚志
(72)【発明者】
【氏名】小谷 泰則
(72)【発明者】
【氏名】大上 淑美
(72)【発明者】
【氏名】戸松 太郎
(72)【発明者】
【氏名】兼子 幸一
(72)【発明者】
【氏名】横山 勝利
(72)【発明者】
【氏名】松村 博史
(72)【発明者】
【氏名】朴 盛弘
(72)【発明者】
【氏名】板倉 征史
(72)【発明者】
【氏名】大立 博昭
(72)【発明者】
【氏名】植木 賢
(72)【発明者】
【氏名】増田 紳哉
【審査官】 後藤 孝平
(56)【参考文献】
【文献】 特開2012−034839(JP,A)
【文献】 特表2003−534864(JP,A)
【文献】 特開2012−239661(JP,A)
【文献】 特開2007−202619(JP,A)
【文献】 特開2007−44311(JP,A)
【文献】 特開2001−37733(JP,A)
【文献】 米国特許出願公開第2005/0019734(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 5/00
A61B 5/01
A61B 5/026
A61B 10/00
(57)【特許請求の範囲】
【請求項1】
対象者の聴覚、嗅覚、味覚、触覚、体性感覚のいずれか一つ又な任意の組み合わせの感覚を刺激して感情を変化させる情報であって、快適性を高くするポジティブ情報と、快適性を低くするネガティブ情報とに分類される情動刺激情報が前記対象者に提供されたときの、前記対象者の顔面データの時系列変化を示す顔面変化情報を取得する顔面変化情報取得部(442)と、
前記顔面変化情報に基づいて、前記対象者の精神疾患の状態を判定する、精神疾患判定部(445)と、
を備える、精神疾患判定装置(400)。
【請求項2】
前記顔面変化情報から抽出された、時間分布及び空間分布の複数の組に対応する、複数の成分から、前記情動刺激情報と関連する成分を判定用成分として抽出する判定用成分抽出部(444)と、
をさらに備える、請求項1に記載の精神疾患判定装置。
【請求項3】
前記判定用成分抽出部は、前記情動刺激情報と複数の時間分布との相関関係を分析した後、空間分布を分析して、前記情動刺激情報と関連する成分を判定用成分として抽出する、
請求項2に記載の精神疾患判定装置。
【請求項4】
前記判定用成分抽出部は、前記情動刺激情報に対応する判定用波形と前記複数の成分との相関値に基づいて、前記判定用成分を抽出する、
請求項2または3に記載の精神疾患判定装置。
【請求項5】
前記判定用波形として、人間の生理的反応を考慮した変形波を用いている、
請求項4に記載の精神疾患判定装置。
【請求項6】
前記判定用波形は、前記情動刺激情報を提供してから所定時間経過後に変位するものである、
請求項5に記載の精神疾患判定装置。
【請求項7】
前記判定用波形は、矩形波である、
請求項5または6に記載の精神疾患判定装置。
【請求項8】
前記判定用波形は、前記複数の成分のうち相関の認められた成分を複数回算出し、算出した複数の波形から生成されるものである、
請求項5または6に記載の精神疾患判定装置。
【請求項9】
前記精神疾患判定部は、前記判定用成分に対する相関値の基準値からの所定範囲の変化量、前記判定用成分に対して重回帰分析により得られる値、前記判定用波形が生成する面積、前記判定用波形の平均値、前記判定用波形の重心値のいずれか一つ又は任意の組み合わせに基づいて、前記精神疾患の状態を判定する、
請求項4から8のいずれか1項に記載の精神疾患判定装置。
【請求項10】
前記顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により、時間分布及び空間分布の複数の組に対応する、複数の成分に分解する顔面変化情報分解部(443)、
をさらに備える請求項1から9のいずれか1項に記載の精神疾患判定装置。
【請求項11】
前記情動刺激情報を前記対象者に提供する情動刺激情報提供部(441)、
をさらに備える請求項1から10のいずれか1項に記載の精神疾患判定装置。
【請求項12】
前記情動刺激情報を前記対象者が受けたことを検知する情動刺激検知部、
をさらに備える請求項1から11のいずれか1項に記載の精神疾患判定装置。
【請求項13】
前記対象者には、前記情動刺激情報とともに、前記対象者の視覚を刺激して感情を変化させる情動画像情報が提供される、
請求項1から12のいずれか1項に記載の精神疾患判定装置。
【請求項14】
前記対象者の視線を測定する視線測定部をさらに備え、
前記精神疾患判定部は、前記対象者の視線に基づいて、信頼性の低い判定結果を除外する、
請求項13に記載の精神疾患判定装置。
【請求項15】
前記対象者の自律神経活動を測定する自律神経活動測定部をさらに備え、
前記精神疾患判定部は、前記自律神経活動に基づいて、前記精神疾患の種類を判定する、
請求項1から14のいずれか1項に記載の精神疾患判定装置。
【請求項16】
対象者の感覚を刺激して感情を変化させる情動刺激情報が提供されたときの、前記対象者の顔面データの時系列変化を示す顔面変化情報を取得する顔面変化情報取得部(442)と、
前記顔面変化情報から抽出された、時間分布及び空間分布の複数の組に対応する、複数の成分と、前記情動刺激情報に対応する判定用波形との相関値に基づいて、判定用成分を抽出する判定用成分抽出部(444)と、
前記判定用成分に基づいて、前記対象者の精神疾患の状態を判定する、精神疾患判定部(445)と、を備え、
前記判定用波形が、前記複数の成分のうち相関の認められた成分を複数回算出し、算出した複数の波形から生成されるものである、
精神疾患判定装置(400)。
【請求項17】
ネットワーク上の判定情報提供装置(500)が、情動刺激情報に対して算出される判定用成分の相関値の、前記情動刺激情報に対して算出された基準判定用成分の基準相関値からの所定範囲の変化量を、精神疾患の状態レベルに関連付けて判定情報として記憶する判定情報記憶部(532)を備え、
前記精神疾患判定部が、前記情動刺激情報に対する判定用成分の相関値を算出し、算出した相関値及び前記判定情報に基づいて、前記対象者の精神疾患の状態レベルを判定する、
請求項1から16のいずれか1項に記載の精神疾患判定装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、精神疾患判定装置に関する。
【背景技術】
【0002】
近年、特許文献1(特開2013−176406号公報)に開示されているような脳波計測法(EEG)、磁気共鳴画像法(fMRI: functional Magnetic Resonance Imaging)、及び近赤外線分光法(NIRS)によって検出されたデータを利用して、人間の脳活動を推定することが試みられている。また、推定された脳活動から、人間の体調及び精神状態の判定等の応用が検討されている。
【発明の概要】
【発明が解決しようとする課題】
【0003】
しかしながら、脳波計測法及び近赤外線分光法では、対象者が電極を装着しなければならない等の前処理が必要である。また、磁気共鳴画像法では、所定のMRI室で計測する必要がある。要するに、これらの方法では、準備段階での作業が繁雑であったり、計測時の条件が制限されたりするという問題がある。また、これらの方法は、いずれも多大なコストを要するものである。結果として、これらの方法では、対象者の体調及び精神状態の判定等を行なうのが困難なことがある。
【0004】
本発明の課題は、対象者の精神又は身体の生理状態を容易に判定し得るための装置及び方法を提供することにある。特に、本発明は、対象者の精神疾患の状態を容易に判定するための精神疾患判定装置を提供することを目的とする。
【課題を解決するための手段】
【0005】
本発明の第1観点に係る精神疾患判定装置は、情動刺激情報提供部と、顔面変化情報取得部と、顔面変化情報分解部と、判定用成分抽出部と、精神疾患判定部と、を備える。情動刺激情報提供部は、対象者の聴覚、嗅覚、味覚、触覚、体性感覚のいずれか一つ又な任意の組み合わせの感覚を刺激して感情を変化させる情動刺激情報を提供する。顔面変化情報取得部は、対象者の顔面データの時系列変化を示す顔面変化情報を取得する。顔面変化情報分解部は、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する。判定用成分抽出部は、複数の成分から、情動刺激情報と関連する成分を判定用成分として抽出する。精神疾患判定部は、判定用成分に基づいて、対象者の精神疾患の状態を判定する。
【0006】
第1観点に係る精神疾患判定装置では、顔面変化情報を、特異値分解・主成分分析・独立成分分析することで得られた複数の成分から判定用成分を抽出するので、装着前に前処理の必要な電極等を使用しなくても、対象者の脳活動の有無を容易に推定できる。これにより、対象者の脳機能に対応する判定用成分に基づいて、対象者の精神疾患の状態を容易に判定できる。
【0007】
本発明の第2観点に係る精神疾患判定装置は、第1観点の精神疾患判定装置において、情動刺激情報提供部が、情動刺激情報とともに、対象者の視覚を刺激して感情を変化させる情動画像情報を提供する。
【0008】
第2観点に係る精神疾患判定装置では、異なる脳領域を刺激することで種々の精神疾患の判定が可能となる。例えば、視覚を刺激する情報であれば、脳の後頭部に関連する疾患であり、聴覚を刺激する情報であれば、脳の側頭部及び前頭部に関連する疾患であることを診断できる。さらに言えば、顔画画像の情報を用いることで、認知症、自閉症の診断ができ、声の音声情報を用いることで不安障害の診断ができる。
【0009】
本発明の第3観点に係る精神疾患判定装置は、第1観点又は第2観点の精神疾患判定装置において、判定用成分抽出部が、情動刺激情報に対応する判定用波形と複数の成分との相関値に基づいて、判定用成分を抽出する。このような構成により、対象者の脳機能に対応する判定用成分を特定することができる。
【0010】
本発明の第4観点に係る精神疾患判定装置は、第3観点の精神疾患判定装置において、判定用波形として、人間の生理的反応を考慮した変形波を用いている。このような判定用波形は、顔面変化情報から得られた成分と有意な相関が認められる場合に高い相関値を示すので、判定用成分の抽出精度を高めることができる。
【0011】
本発明の第5観点に係る精神疾患判定装置は、第4観点の精神疾患判定装置において、判定用波形が、情動刺激情報を提供後、所定時間経過後に変位するものである。脳の反応に対して少し位相を遅らせることで精度の高い相関を得ることができる。
【0012】
本発明の第6観点に係る精神疾患判定装置は、第4観点又は第5観点の精神疾患判定装置において、判定用波形が矩形波である。矩形波は情動刺激情報が提供されているか否かに対応させることができるので、判定用成分を容易に抽出できる。
【0013】
本発明の第7観点に係る精神疾患判定装置は、第4観点又は第5観点の精神疾患判定装置において、判定用波形が、複数の成分のうち相関の認められた成分を複数回算出し、算出した複数の波形から生成されるものである。この判定用波形は、過去の履歴に基づいて最適化されているので、顔面変化情報から得られた成分と有意な相関が認められる場合には高い相関値を示す。これにより、判定用成分の抽出精度を高めることができる。
【0014】
本発明の第8観点に係る精神疾患判定装置は、第1から7観点の精神疾患判定装置において、精神疾患判定部が、判定用成分に対する基準値からの所定範囲の変化量、判定用成分に対して重回帰分析により得られる値、判定用波形が生成する面積、判定用波形の平均値、判定用波形の重心値のいずれか一つ又は任意の組み合わせに基づいて、精神疾患の状態を判定する。これにより装置の計算能力に応じて最適な手法で精神疾患を判定できる。また、精神疾患の種類に応じて最適な手法を採用できる。
【0015】
本発明の第9観点に係る精神疾患判定装置は、第1から8観点の精神疾患判定装置において、対象者の自律神経活動を測定する自律神経活動測定部をさらに備える。そして、精神疾患判定部が、自律神経活動に基づいて、精神疾患の状態の種類を判定する。
【0016】
第9観点に係る精神疾患判定装置では、情動刺激による反応の自律神経由来と脳活動由来との割合を判定することで、疾患の種類を判定できる。例えば、判定できる疾患の種類としては、「うつ病性障害/大うつ病性障害、気分変調性障害、特定不能のうつ病性障害、抑うつ関連症候群」「双極性障害/双極I型障害、双極II型障害」「統合失調症」「発達障害/広汎性発達障害(自閉症、アスペルガー症候群、トゥレット症候群)、学習障害LD、注意欠陥多動性障害ADHD」「知的障害」「不安障害/全般性不安障害、パニック障害、社交不安障害、強迫性障害、解離性障害、適応障害」「認知症/アルツハイマー型認知症、脳血管性認知症、レビー小体型認知症、前頭側頭型認知症」「物質使用障害」「症状性を含む器質性精神障害」「てんかん」「パーソナリティー障害」などがある。
【0017】
本発明の第10観点に係る精神疾患判定装置は、第2から9観点の精神疾患判定装置において、対象者の視線を測定する視線測定部をさらに備える。そして、精神疾患判定部が、対象者の視線に基づいて、信頼性の低い判定結果を除外する。
【0018】
第10観点に係る精神疾患判定装置では、対象者が画像情報を認識しているかを判定することで、信頼性の低い判定結果を除外できる。
【0019】
本発明の第11観点に係る精神疾患判定装置は、情動刺激情報提供部と、顔面変化情報取得部と、顔面変化情報分解部と、判定用成分抽出部と、精神疾患判定部と、を備える。
情動刺激情報提供部は、対象者の感覚を刺激して感情を変化させる情動刺激情報を提供する。顔面変化情報取得部は、対象者の顔面データの時系列変化を示す顔面変化情報を取得する。顔面変化情報分解部は、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する。判定用成分抽出部は、情動刺激情報に対応する判定用波形と複数の成分との相関の強さに基づいて判定用成分を抽出する。精神疾患判定部は、判定用成分に基づいて、対象者の精神疾患の状態を判定する。ここで、判定用波形は、前記複数の成分のうち相関の認められた成分を複数回算出し、算出した複数の波形から生成されるものである。
【0020】
第11観点に係る精神疾患判定装置では、判定用波形が、複数回算出された相関関数に基づいて生成されており、過去の履歴に基づいて最適化されている。そして、このような判定用波形を用いると、顔面変化情報から得られた成分と有意な相関が認められる場合に高い相関値を示すので、判定用成分の抽出精度を高めることができる。
【0021】
本発明に係る第12観点に係る精神疾患判定装置は、第1から11観点の精神疾患判定装置において、精神疾患判定部が、情動刺激情報に対する判定用成分の相関値を算出し、算出した相関値及び判定情報に基づいて、対象者の精神疾患の状態レベルを判定する。ここでは、ネットワーク上の判定情報提供装置が、情動刺激情報に対して算出される判定用成分の相関値の、情動刺激情報に対して算出された基準判定用成分の基準相関値からの所定範囲の変化量を、精神疾患の状態レベルに関連付けて判定情報として記憶する判定情報記憶部を備える。
【0022】
第12観点に係る精神疾患判定装置では、ネットワーク上の判定情報提供装置を利用して、対象者の精神疾患の状態レベルを判定できる。
【発明の効果】
【0023】
第1観点に係る精神疾患判定装置では、対象者の精神疾患の状態を容易に判定できる。
【0024】
第2観点に係る精神疾患判定装置では、種々の精神疾患を判定できる。
【0025】
第3観点に係る精神疾患判定装置では、対象者の脳機能に対応する判定用成分を特定できる。
【0026】
第4観点に係る精神疾患判定装置では、判定用成分の抽出精度を高めることができる。
【0027】
第5観点に係る精神疾患判定装置では、精度の高い相関を得ることができる。
【0028】
第6観点に係る精神疾患判定装置では、判定用成分を容易に抽出できる。
【0029】
第7観点に係る精神疾患判定装置では、判定用成分の抽出精度を高めることができる。
【0030】
第8観点に係る精神疾患判定装置では、最適な手法で精神疾患を判定できる。
【0031】
第9観点に係る精神疾患判定装置では、疾患の種類を判定できる。
【0032】
第10観点に係る精神疾患判定装置では、信頼性の低い判定結果を除外できる。
【0033】
第11観点に係る精神疾患判定装置では、判定用成分の抽出精度を高めることができる。
【0034】
第12観点に係る精神疾患判定装置では、ネットワーク上の判定情報提供装置を利用して、対象者の精神疾患の状態レベルを判定できる。
【図面の簡単な説明】
【0035】
図1】撮影画像データ及びこれを解析した結果の一例を示す図。
図2】顔面皮膚温度データを解析した結果の一部を示す図。
図3】顔面皮膚温度データを解析した結果の一部を示す図。
図4】成分2の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図。
図5】成分3の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図。
図6】対照実験で得られた顔面皮膚温度データを解析した結果の一部を示す図。
図7】顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。
図8】顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。
図9】顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。
図10】顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。
図11】顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。
図12】顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。
図13】顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。
図14】顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。
図15】顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。
図16】顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。
図17】顔面の撮影画像データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。
図18】顔面皮膚温度データに基づく成分波形と、測定された脳波のうちのβ波の振幅とを示す図。
図19】本発明の一実施形態に係る脳活動可視化装置の概略図。
図20】脳活動可視化装置において脳機能を反映した皮膚温度の変化を示す成分を同定する際の処理の流れの一例を示すフローチャート。
図21】本発明の一実施形態に係る脳活動可視化装置の概略図。
図22】脳活動可視化装置において脳機能を反映した顔面のRGB変化を示す成分を同定する際の処理の流れの一例を示すフローチャート。
図23】本発明の一実施形態に係る精神疾患判定装置の構成を示す模式図。
図24】精神疾患判定装置の判定情報データベースの構成を示す模式図。
図25】レッドスポット・ダイナミック・レスポンス・ファンクションの波形の一例を示す模式図。
図26A】精神疾患判定装置の動作を示すフローチャート。
図26B】精神疾患判定装置の動作を示すフローチャート。
図27】精神疾患判定装置により出力される画像表示画面の一例を示す模式図。
図28】精神疾患判定装置により出力される撮影後の表示画面の一例を示す模式図。
図29】精神疾患判定装置により出力される解析波形の表示画面の一例を示す模式図。
図30】精神疾患判定装置により出力される分布図の表示画面の一例を示す模式図。
図31】精神疾患判定装置の具体的形態の例を示す模式図。
図32】精神疾患判定装置の具体的形態の例を示す模式図。
図33】精神疾患判定装置の変形例の構成を示す模式図。
図34】精神疾患判定装置の変形例の動作を示すフローチャート。
図35】ポジティブ画像を提示したときの判定用成分の波形を示す図。
図36】ネガティブ画像を提示したときの判定用成分の波形を示す図。
図37】精神疾患判装置の試験の概要を説明するための図。
図38】ネガティブ画像を提示したときの判定用成分の波形を示す図。
図39】ポジティブ画像を提示したときの判定用成分の波形を示す図。
【発明を実施するための形態】
【0036】
本発明の実施形態を説明する前に、まず、本発明者らが本発明を為すにあたって重要な基礎となった、本発明者らによる知見について説明する。
【0037】
(1)本発明者らによる知見の要点
人間の脳活動には、人間の知的活動(認知活動等)及び情動活動(快/不快等の活動)が反映されていることが知られている。そして、従来より、人間の脳活動を推定する試みがされているが、この場合、脳波計測法、磁気共鳴画像法及び近赤外線分光法のいずれかの方法によって検出されたデータが利用されることが多い。
【0038】
ここで、検出方法として、例えば、脳波計測法が採用される場合には、被験者に対して脳波電極を装着する必要がある。そして、脳波電極を装着する際には皮膚と電極との間の抵抗を小さくする必要があるため、皮膚を研磨する処理を行ったり電極にペーストを塗布したりする等の作業が必要になる。また、磁気共鳴画像法が採用される場合には、MRI室以外での測定が不可能であるとともに、測定室内に金属を持ち込むことができない等の測定条件に制約がある。さらに、近赤外線分光法が採用される場合には、被験者に対してプローブを装着する必要があるが、プローブを長時間装着することで被験者が痛みを感じたり、被験者の髪とプローブとの接触具合によっては正確に検出できなかったりすることがある。このように、人間の脳活動を測定するために従来の検出方法が採用される場合、脳波電極やプローブ等を装着する際の前処理が必要であったり、測定条件が限定されたりする等、被験者に与える負担が大きくなる。
【0039】
したがって、被験者の負担を軽減し、かつ簡便に人間の脳活動を推定できる手段の開発が求められている。
【0040】
そして、本発明者らは、人間の顔面の皮膚温度又は顔面の皮膚温度に比例すると考えられている顔面の血行状態に基づき人間の脳活動を推定することができるのではないか、と考えた。人間の顔面の皮膚温度であればサーモグラフィ等の測定装置を用いることで取得することができ、顔面の血行状態すなわち顔面の血行量であれば撮影装置を利用して得られる顔面の撮影画像のRGBデータから推定することができる。このように、顔面の皮膚温度や顔面の撮影画像であれば、脳波電極やプローブ等の装着前に処理が必要なセンサを装着することなく取得することができる。
【0041】
一方で、人間の顔面の皮膚温度は、外気温度及び/又は自律神経の活動等の様々な要因の影響を受けて変化することが知られている。このため、顔面の皮膚温度に基づいて又は顔面の皮膚温度に比例すると考えられる顔面の血行量に基づいて脳活動を推定しようとすると、取得したデータが脳活動のみを反映しているかどうかを判断することは、非常に困難であると考えられる。
【0042】
本発明者らは、鋭意検討した結果、顔面の皮膚温度を検出し、検出した温度データ及び検出部位の位置データ(座標データ)を含む時系列の顔面皮膚温度データを、或いは、時系列の顔面の撮影画像データから得られるRGBデータに基づき算出された時系列の顔面の血行量データを、特異値分解法、主成分分析法若しくは独立成分分析法を用いて複数の成分に分解し、分解した複数の成分について解析を行うことで、脳活動を反映した顔面の皮膚温度の変化或いは顔面の血行量の変化を示す成分を同定することができることを見いだした。そして、本発明者らは、対象者の脳活動を推定し、これを解析することで、推定した脳活動に基づき対象者の生理状態を可視化することのできる本発明に到達した。
【0043】
(2)顔面の各種データの取得方法、及び取得した各種データの解析方法
(2−1)顔面皮膚温度データの取得方法、及び顔面皮膚温度データの解析方法
次に、本発明者らが上記の知見を得るに際して用いた顔面皮膚温度データの取得方法、及び顔面皮膚温度データの解析方法について説明する。
【0044】
この試験では、6名の被験者から顔面皮膚温度データを取得した。具体的には、室温25℃を維持した人工気象室内に設置した椅子に被験者を座らせて、赤外線サーモグラフィ装置を用いて、被験者の顔面全体から顔面皮膚温度データを取得した。赤外線サーモグラフィ装置は、対象物から出ている赤外線放射エネルギーを赤外線カメラで検出し、検出した赤外線放射エネルギーを対象物表面の温度(ここでは、摂氏での温度)に変換して、その温度分布を顔面皮膚温度データ(例えば、温度分布を表した画像データ)として表示、蓄積することが可能な装置である。なお、この試験では、赤外線サーモグラフィ装置として、NEC Avio 赤外線テクノロジー株式会社製のR300を使用した。また、赤外線カメラは、被験者の正面であって、被験者から1.5m離れた地点に設置した。そして、顔面皮膚温度データは、30分間取得した。
【0045】
また、この試験では、顔面皮膚温度データを取得している間に、被験者に対して脳機能賦活課題を与えた。これにより、脳の非賦活時の顔面皮膚温度データ、及び脳の賦活時の顔面皮膚温度データを取得した。脳機能賦活課題としては、被験者が表示装置等に表示された映像に基づいて、計算、又は、数値、形状及び色の認知、或いは、記号、文字ないし言語の記憶などの心理的作業が挙げられる。この試験では、脳機能賦活課題として「かけ算の暗算」を採用し、被験者に、表示装置に筆算形式で表示される数字を計算させ、その回答をキーボードに入力させる作業を課した。なお、この試験では、顔面皮膚温度データの取得開始から5分経過後から10分間継続して、被験者に対して脳機能賦活課題を与えた。
【0046】
顔面皮膚温度データの解析としては、取得した顔面皮膚温度データを対象として、MATLAB(登録商標)のSVD(Singular Value Decomposition)を分析ツールとして用いて特異値分解を行った。特異値分解では、時系列で取得した全ての顔面皮膚温度データ(30分間のデータ)を対象とし、要因を30秒毎の時間データ(30分間で60 time point)とし、測度をその期間(30秒間)における顔面皮膚温度データ(240×320 pixels)とした。そして、特異値分解により、顔面皮膚温度データXを、複数の成分に分解し、それぞれの成分の時間分布Vと、空間分布Uと、各成分の大きさを示す特異値Sとを算出した。なお、これらの関係は、以下の式で表される。また、V’は、Vの行と列とを入れ替えた行列である。
【0047】
【数1】
【0048】
そして、特異値分解によって求められた各成分の時間分布V及び空間分布Uをグラフにプロットし、各成分の成分波形図と温度分布図とを作成した。
【0049】
さらに、作成した各成分の成分波形図及び温度分布図について、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行った。
【0050】
各成分の成分波形図については、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。具体的には、各成分の成分波形図に示された振幅と、脳の非賦活期間/脳の賦活期間との間に相関関係があるか否かを評価した。この試験では、顔面皮膚温度データを取得している期間のうち、被験者に対して脳機能賦活課題が与えられていない期間であるデータ取得開始時点から5分が経過した時点までの5分間の期間、及びデータ取得開始時から15分が経過した時点からデータ取得終了時点までの15分間の期間を脳の非賦活時とし、被験者に対して脳機能賦活課題が与えられている期間であるデータ取得開始時から5分が経過した時点から10分が経過した時点までの10分間の期間を脳の賦活時とした。そして、各成分の成分波形図に示された振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について評価した。なお、相関関係の有無については、統計的相関分析を行い、有意水準(α)が0.05以下の場合に相関があると判断した。
【0051】
各成分の温度分布図については、顔面の所定部位における温度変化の有無について解析した。ここで、脳には、選択的脳冷却機構(Selective Brain Cooling System)という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を前額部及び副鼻腔周辺(眉間及び鼻部周辺を含む)を用いて排熱していることが知られている。そこで、この試験では、各成分の温度分布図において、副鼻腔周辺及び前額部における温度変化があるか否かを評価した。なお、温度分布図における副鼻腔周辺及び前額部の温度変化の有無については、目視(visual inspection)による温度変化の有無、もしくは副鼻腔周辺及び前額部の温度が測定データ全体の平均温度から1標準偏差(SD)以上異なるか否かを温度変化の有無の基準とした。
【0052】
なお、空間分布U、特異値S及び時間分布Vの値の関係で、顔面皮膚温度データXの極性(プラスマイナス)が決定するため、各成分の成分波形図及び温度分布図において極性が反転して現れることがある。このため、成分波形図及び温度分布図の評価に関して、極性については評価対象としないこととした。
【0053】
ここで、この赤外線サーモグラフィ装置では、上述しているように、対象物から検出された赤外線放射エネルギーを温度に変換して、その温度分布を顔面皮膚温度データとしている。ところで、人間を対象として赤外線サーモグラフィ装置を用いて顔面の皮膚温度を取得する場合、顔面の動き及び/又は自律神経の活動等の様々な脳活動とは関連しない温度変化(いわゆるノイズ)についても顔面皮膚温度データとして取得してしまう(図1(a)参照)。そこで、このような脳活動とは関連しない温度変化を検出するために、30秒毎の顔面皮膚温度データに含まれる温度データの全平均値を「0」とした相対的な顔面皮膚温度データを作成し、作成した顔面皮膚温度データについても、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図と温度分布図とを作成し、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行った。
【0054】
なお、以下より、説明の便宜上、赤外線サーモグラフィ装置で取得した顔面皮膚温度データを「温度換算データに応じた顔面皮膚温度データ」といい、所定時間毎(この試験では30秒毎)の温度換算データに応じた顔面皮膚温度データに含まれる温度データの全平均値を「0」とした相対的な顔面皮膚温度データを「相対温度換算データに応じた顔面皮膚温度データ」という。
【0055】
また、6名の被験者のうちの1名に対しては、赤外線サーモグラフィ装置による顔面皮膚温度の検出の他に、被験者の頭皮上に電極を接続して脳波を測定し、覚醒時や意識が緊張した時に現れる波形として知られているβ波(14〜30Hzの周波数の脳波)の振幅と、成分波形図の振幅との間の相関関係についても評価した。なお、脳波測定では、国際式10−20法に基づき、6つの部位(F3、F4,C3、C4、Cz、Pz)に電極を配置した。
【0056】
ところで、被験者に脳機能賦活課題が与えられている間、被験者の頭が上下に動くことが考えられる。そうすると、赤外線カメラに対する被験者の顔面の位置が変化することになる。この顔面の位置の変化が皮膚温度の変化に影響しているか否かを検証するために、被験者1名に対して対照試験を行った。顔面皮膚温度データを取得する際の被験者の動きの影響を検証するための対照試験では、上記試験と同様に赤外線サーモグラフィ装置を用いて被験者の顔面皮膚温度データを取得するが、脳機能賦活課題が与えられていない間(すなわち、脳の非賦活時)についてもランダムなタイミングでキーボードを押す作業を被験者に課した。この対照実験によって得られた温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データについても、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図と温度分布図とを作成し、脳活動を反映した皮膚温度の変化を示す成分を同定するための解析を行った。
【0057】
(2−2)顔面撮影画像データの取得方法、及び顔面撮影画像データの解析方法
図1(a)は、撮影装置にて撮影した被験者の顔面の副鼻腔周辺の撮影画像データの一例を示す図である。図1(b)は、血行量分布図(画像マップ)の一例を示す図である。
【0058】
次に、本発明者らが上記の知見を得るに際して用いた顔面撮影画像データの取得方法、及び顔面撮影画像データの解析方法について説明する。
【0059】
この試験では、6名の被験者から顔面の撮影画像データを取得した。具体的には、室温25℃を維持した人工気象室内に設置した椅子に被験者を座らせて、時系列で画像を取得可能な撮影装置を用いて、被験者の顔面全体の副鼻腔周辺の撮影画像データを時系列で取得した。
【0060】
また、上述した選択的脳冷却機構に基づくと、脳活動に伴う顔面皮膚温度に比例すると考えられる顔面の血行量の変化は、前額部及び/又は副鼻腔周辺に出現すると考えられる。このことから、本発明者らは、少なくとも前額部及び/又は副鼻腔周辺の顔面の血行量の変化を捉えることができれば、精度良く脳活動を推定することができる、と考えた。そして、この試験では、被験者の顔面の副鼻腔周辺の撮影画像データを時系列で取得した。
【0061】
また、この試験では、撮影装置として、Apple社製のiPad Air(登録商標)の備える液晶画面側の撮影装置を使用し、時系列の撮影画像データとしてカラーの動画データを取得した。また、撮影装置を、被験者の正面側であって、被験者から1.0m離れた地点に設置した。そして、撮影装置によって、30フレーム/秒の撮影周期で時間軸に沿って30分間の撮影画像データを連続撮影することで、顔面の動画データを得た。
【0062】
さらに、この試験では、顔面の動画データを取得している間に、被験者に対して脳機能賦活課題を与えた。これにより、脳の非賦活時の顔面の動画データ、及び脳の賦活時の顔面の動画データを取得した。この試験では、上記試験と同様に、脳機能賦活課題として「かけ算の暗算」を採用し、被験者に、表示装置に筆算形式で表示される数字を計算させ、その回答をキーボードに入力させる作業を課した。なお、この試験では、顔面の動画データの取得開始から5分経過後から10分間継続して、被験者に対して脳機能賦活課題を与えた。
【0063】
顔面の動画データの解析としては、撮影した顔面の動画データより得られたRGBデータに基づき血行量データを算出し、算出した時系列の血行量データを対象として、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行った。ここでは、CIE−L***表色系に従って、画像のRGBデータより演算される肌の赤みやヘモグロビン量と相関のある紅斑指数「a*」を求め、これを血行量データとした。また、特異値分解では、時系列で取得した全ての動画データ(30分間のデータ)から得られたRGBデータに基づく血行量データ(ここでは、紅斑指数)を対象とし、要因を30秒毎の時間データ(30分間で60 time point)とし、測度をその期間(30秒毎)におけるRGBデータから演算した紅斑指数(30秒毎に1秒間のフレームデータを取り出し、該フレームデータから得られるRGB値の平均値から演算した紅斑指数;240×320 pixels)とした。そして、特異値分解により、顔面の動画データより得られたRGBデータに基づく時系列の血行量データを、複数の成分に分解し、それぞれの成分の時間分布Vと、空間分布Uと、各成分の大きさを示す特異値Sとを算出した。なお、これらの関係は、上記式(数1)と同様の式で表される。
【0064】
そして、特異値分解によって求められた各成分の時間分布V及び空間分布Uをグラフにプロットし、各成分の成分波形図と血行量分布図とを作成した。
【0065】
さらに、作成した各成分の成分波形図及び血行量分布図について、脳活動を反映した顔面の血行量の変化すなわち顔面のRGB変化を示す成分を同定するための解析を行った。
【0066】
各成分の成分波形図については、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。具体的には、各成分の成分波形図に示された振幅と、脳の非賦活期間/脳の賦活期間との間に相関関係があるか否かを評価した。この試験では、顔面の撮影画像データを取得している期間のうち、被験者に対して脳機能賦活課題が与えられていない期間であるデータ取得開始時点から5分が経過した時点までの5分間の期間、及びデータ取得開始時から15分が経過した時点からデータ取得終了時点までの15分間の期間を脳の非賦活時とし、被験者に対して脳機能賦活課題が与えられている期間であるデータ取得開始時から5分が経過した時点から10分が経過した時点までの10分間の期間を脳の賦活時とした。そして、各成分の成分波形図に示された振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について評価した。なお、相関関係の有無については、統計的相関分析を行い、有意水準(α)が0.01以下の場合に相関があると判断した。
【0067】
各成分の血行量分布図については、顔面の所定部位における血行量変化の有無について解析した。血行量分布図は、ピクセル毎に算出された空間分布Uを各ピクセルの位置に並べることで作成される。このように作成された各成分の血行量分布図において、副鼻腔周辺及び前額部における血行量の変化があるか否かを評価した。なお、血行量分布図における副鼻腔周辺及び前額部の血行量変化の有無については、目視(visual inspection)による血行量変化の有無、もしくは図1(b)に示す副鼻腔周辺及び前額部の血行量の値が「0.000」でないことを血行量変化の有無の基準とした。
【0068】
なお、空間分布U、特異値S及び時間分布Vの値の関係で、血行量データXの極性(プラスマイナス)が決定するため、各成分の成分波形図及び血行量分布図において極性が反転して現れることがある。このため、成分波形図及び血行量分布図の評価に関して、極性については評価対象としないこととした。
【0069】
さらに、顔面の皮膚温度と顔面の血行量との相関関係を検証するために、6名の被験者から顔面の撮影画像データを時系列で取得している間、赤外線サーモグラフィ装置により顔面皮膚温度データも時系列で取得し、取得した顔面皮膚温度データについてもMATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図を作成し、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。なお、この試験では、赤外線サーモグラフィ装置として、上記試験と同様の装置を用いた。また、赤外線カメラは、被験者の正面であって、被験者から1.5m離れた地点に設置した。
【0070】
ところで、撮影装置を用いて顔面の撮影画像データを取得する場合、撮影中に太陽の光等が顔に当たることで光が顔で反射し、この反射光が撮影装置のレンズに入り込んでしまうことがある。そうすると、撮影された顔面の撮影画像データにはこの反射光が記録されてしまうことになる。ここで、撮影画像データから得られるRGBデータにおいて、顔面の血行量に基づく明度の変化は反射光に基づく明度の変化よりも小さいため、反射光の記録された撮影画像データから得られるRGBデータに基づいて算出された血行量が解析されると、脳活動とは関連しない顔面のRGB変化(いわゆるノイズ)が混入してしまう可能性があると考えられた。そこで、このような脳活動とは関連しない顔面のRGB変化の混入を防ぐために、30秒毎のRGBデータの全平均値を「0」とした相対的なRGBデータから相対的な血行量データを作成し、作成した血行量データについても、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図と血行量分布図とを作成し、脳活動を反映した顔面のRGB変化を示す成分を同定するための解析を行った。
【0071】
なお、以下より、説明の便宜上、所定時間毎(この試験では30秒毎)のRGBデータの全平均値を「0」とした相対的なRGBデータに基づく相対的な血行量データを「相対換算血行量データ」といい、相対的なRGBデータに換算する前のRGBデータに基づく血行量データを単に「血行量データ」という。
【0072】
また、6名の被験者に対して撮影装置によって顔面の時系列の撮影画像データを取得している間、各被験者の頭皮上に電極を接続して脳波を測定し、覚醒時等の脳細胞が活動している時に現れる波形として知られているβ波(13〜30Hzの周波数の脳波)の振幅と、成分波形図の振幅との間の相関関係についても評価した。なお、脳波測定では、国際式10−20法に基づき、頭皮上19の部位(Fp1、Fp2、F3、F4、C3、C4、P3、P4、O1、O2、F7、F8、T3、T4、T5、T6、Fz、Cz及びPz)に電極を配置した。
【0073】
さらに、被験者に脳機能賦活課題が与えられている間、被験者の頭が上下に動くことが考えられる。そうすると、撮影装置に対する被験者の顔面の位置が変化することになる。この顔面の位置の変化が顔面のRGB変化に影響しているか否かを検証するために、被験者1名に対して対照試験を行った。対照試験では、上記試験と同様に撮影装置を用いて被験者の顔面の時系列の撮影画像データを取得するが、脳機能賦活課題が与えられていない間(すなわち、脳の非賦活時)についてもランダムなタイミングでキーボードを押す作業を被験者に対して課した。この対照実験によって撮影された顔面の時系列の撮影画像データから得られたRGBデータに基づく時系列の血行量データについても、MATLAB(登録商標)のSVDを分析ツールとして用いて特異値分解を行い、特異値Sに応じた各成分の成分波形図を作成し、その成分波形の振幅と、脳の非賦活時及び脳の賦活時との相関関係の有無について解析した。また、各成分波形の振幅と、実際の顔面の動きとの相関関係の有無について解析した。実際の顔面の動きは、撮影画像データから顔の同一箇所の2次元座標を取得し、対照実験開始時の撮影画像データを基準として撮影時における30秒毎の顔面の移動距離を算出することで評価した。さらに、各成分波形の振幅と、撮影中のキーボードの入力数との相関関係の有無についても解析した。撮影中のキーボードの入力数は、時系列の撮影画像データにおける30秒毎の単純移動平均を算出することで評価した。
【0074】
(3)解析結果
(3−1)顔面皮膚温度データの解析結果
図2は、温度換算データに応じた顔面皮膚温度データを解析した結果の一部を示す図である。図2(a)は、被験者1の成分2の成分波形図を示している。図2(b)は、被験者1の成分2の温度分布図を示している。図3(a)は、被験者1の成分3の成分波形図を示している。図3(b)は、被験者1の成分3の温度分布図を示している。図4及び図5は、成分波形の振幅と、脳波との関係を示す図である。図4は、被験者1の成分2の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図である。図5は、被験者1の成分3の成分波形の振幅と、測定された脳波のうちのβ波の振幅とを示す図である。図6は、対照実験で得られた顔面皮膚温度データを解析した結果の一部を示す図である。図6(a)は、成分3の成分波形図を示している。図6(b)は、成分3の温度分布図を示している。
【0075】
表1は、各被験者に対する顔面皮膚温度データの解析結果を示したものである。
【0076】
上記の顔面皮膚温度データの解析によって得られた結果から、時系列の顔面皮膚温度データを特異値分解により分解して得られた複数の成分のうち、成分2及び/又は成分3と、人間の脳活動との間に有意な相関があることが確認された。
【0077】
【表1】
【0078】
また、図4及び図5に示すように、脳波解析の結果から、成分2及び成分3の各成分波形の振幅と、脳波のβ波の振幅との間に有意な相関が確認された。
【0079】
さらに、対照実験では、顔面皮膚温度データを取得している間に被験者に動きがある状態であっても、成分3と人間の脳活動との間に有意な相関があった(図6参照)。このことから、複数の成分のうち、成分3については、顔面皮膚温度データを取得する際の被験者の動きが影響していないことが認められた。
【0080】
これらの結果から、本発明者らは、以下の知見を得た。
【0081】
被験者から取得した時系列の顔面皮膚温度データを特異値分解により複数の成分に分解し、分解した各成分について解析した結果、複数の成分のうちの成分3が脳活動に関連する成分であると認められた。すなわち、時系列の顔面皮膚温度データを特異値分解により複数の成分に分解し、分解した複数の成分から脳の賦活/非賦活と相関のある成分を抽出し、抽出した成分について選択的脳冷却機構を利用した解析を行うことで、複数の成分から脳活動を反映した皮膚温度の変化を示す成分を同定することができることが判明した。このことから、本発明者らは、人間の顔面の皮膚温度に基づいて、脳活動を推定することができる、という知見を得た。
【0082】
(3−2)顔面の撮影画像データの解析結果
図7図18は、顔面の撮影画像データ(血行量データ)又は顔面皮膚温度データに基づく成分波形図と、測定された脳波のうちのβ波の波形図を比較解析した結果の一部を示す図である。図7は、被験者1の撮影画像データに基づく成分2の成分波形の振幅と、測定された被験者1の脳波のうちのβ波の振幅とを示す図である。図8は、被験者1の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者1の脳波のうちのβ波の振幅とを示す図である。図9は、被験者2の撮影画像データに基づく成分2の成分波形の振幅と、測定された被験者2の脳波のうちのβ波の振幅とを示す図である。図10は、被験者2の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者2の脳波のうちのβ波の振幅とを示す図である。図11は、被験者3の撮影画像データに基づく成分4の成分波形の振幅と、測定された被験者3の脳波のうちのβ波の振幅とを示す図である。図12は、被験者3の顔面皮膚温度データに基づく成分3の成分波形の振幅と、測定された被験者3の脳波のうちのβ波の振幅とを示す図である。図13は、被験者4の撮影画像データに基づく成分3の成分波形の振幅と、測定された被験者4の脳波のうちのβ波の振幅とを示す図である。図14は、被験者4の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者4の脳波のうちのβ波の振幅とを示す図である。図15は、被験者5の撮影画像データに基づく成分2の成分波形の振幅と、測定された被験者5の脳波のうちのβ波の振幅とを示す図である。図16は、被験者5の顔面皮膚温度データに基づく成分2の成分波形の振幅と、測定された被験者5の脳波のうちのβ波の振幅とを示す図である。図17は、被験者6の撮影画像データに基づく成分4の成分波形の振幅と、測定された被験者6の脳波のうちのβ波の振幅とを示す図である。図18は、被験者6の顔面皮膚温度データに基づく成分3の成分波形の振幅と、測定された被験者6の脳波のうちのβ波の振幅とを示す図である。
【0083】
図7図18に示すように、各成分波形と脳波解析との結果から、顔面の皮膚温度と顔面の血行量とが相関関係にあることが確認された。なお、顔面の皮膚温度データ及び顔面の血行量データのいずれのデータに基づく解析においても、各成分波形の振幅と、頭頂部又は後頭部に装着した電極が測定した脳波のβ波の振幅との間に有意な相関が確認された。
【0084】
以下に示す表2は、各被験者に対する顔面の撮影画像データの解析結果を示したものである。
【0085】
【表2】
【0086】
表2に示すように、上記の顔面の撮影画像データの解析によって得られた結果から、顔面の撮影画像データに基づく時系列の血行量データを特異値分解により分解して得られた複数の成分のうち、成分1,2,3,4,5と人間の脳活動との間に有意な相関があることが確認された。なお、ここでは、血行量データに基づく相関において有意な相関が見られかつ相対換算血行量データに基づく相関において有意な相関が見られた成分だけでなく、血行量データに基づく相関においては有意な相関が見られなかったが相対換算血行量データに基づく相関において有意な相関が見られた成分も、人間の脳活動と有意な相関があると認めるようにした。
【0087】
また、以下に示す表3は、対照実験の結果を示したものである。
【0088】
【表3】
【0089】
表3に示すように、対照実験では、顔面の撮影画像データを取得している間に被験者に動きがある場合、その成分波形の振幅と脳の非賦活時及び脳の賦活時との間に有意な相関のあった成分のうちの成分2については、移動距離及びキーボード入力数それぞれとの間に有意な相関が認められなかった。このことから、顔面の撮影画像データから取得したRGBデータに基づく血行量データを特異値分解することで得られる複数の成分において、脳活動との間に有意な相関がある成分については、顔面の時系列の撮影画像データを取得する際の被験者の動きによる影響を受けたとしても、その影響は脳の脳活動による影響(脳の賦活や非賦活による影響)よりも遙かに小さいことが確認された。
【0090】
これらの結果から、本発明者らは、以下の知見を得た。
【0091】
被験者から取得した時系列の顔面の撮影画像データに基づく顔面のRGBデータから得られる血行量データを特異値分解により複数の成分に分解し、分解した各成分について解析した結果、複数の成分のうちの成分1,2,3,4,5が脳活動に関連する成分であると認められた。すなわち、時系列の顔面の撮影画像データに基づく顔面のRGBデータから得られる血行量データを特異値分解により複数の成分に分解し、分解した複数の成分から脳の賦活/非賦活と相関のある成分を抽出し、抽出した成分について解析することで、複数の成分から脳活動を反映した顔面のRGB変化を示す成分を同定することができることが判明した。このことから、本発明者らは、人間の顔面の時系列の撮影画像データに基づいて、脳活動を推定することができる、という知見を得た。
【0092】
(4)脳活動可視化装置
次に、上記に説明した知見に基づいて、本発明者らが完成するに至った本発明の一実施形態に係る脳活動可視化装置10,110について説明する。なお、本発明に係る脳活動可視化装置は、以下の実施形態に限定されるものではなく、要旨を逸脱しない範囲で適宜変更可能である。
【0093】
本発明の一実施形態に係る脳活動可視化装置10,110は、顔面皮膚温度データに基づき脳活動を推定する脳活動推定手段30、及び/又は顔面の撮影画像データに基づき脳活動を推定する脳活動推定手段130を備えている。以下では、本発明の一実施形態に係る脳活動可視化装置10,110を説明する前に、各脳活動推定手段30,130について説明する。
【0094】
(4−1)顔面皮膚温度データに基づき脳活動を推定する脳活動推定手段30
図19は、本発明の一実施形態に係る脳活動可視化装置10の概略図である。図20は、脳活動可視化装置10において脳機能を反映した皮膚温度の変化を示す成分を同定する際の処理の流れを示すフローチャートである。
【0095】
脳活動可視化装置10の備える脳活動推定手段30は、個人(被験者)の顔面の皮膚温度から、個人の脳活動を推定する。脳活動可視化装置10は、図19に示すように、顔面皮膚温度取得手段20と、脳活動推定手段30と、状態可視化手段200と、を備える。
【0096】
顔面皮膚温度取得手段20は、個人の顔面の少なくとも一部の皮膚温度を検出し、検出した温度データ及びその検出部位の位置データを含む顔面皮膚温度データを時系列で取得する(ステップS1)。なお、ここでは、顔面皮膚温度取得手段20は、赤外線サーモグラフィ装置であり、図19に示すように、赤外線カメラ21と、処理部22と、を有する。赤外線カメラ21は、個人の顔面から出ている赤外線放射エネルギーを検出するためのものである。そして、ここでは、赤外線カメラ21は、個人の顔面全体から赤外線放射エネルギーを検出しているものとする。処理部22は、赤外線カメラ21によって検出した赤外線放射エネルギーを温度に変換して温度データとし、赤外線放射エネルギーの検出された部位を位置データ(座標データ)とした顔面全体における顔面皮膚温度の温度分布図を作成し、作成した温度分布図を温度換算データに応じた顔面皮膚温度データとして処理する。温度換算データに応じた顔面皮膚温度データは、処理部22の有する記憶部(図示せず)に蓄積される。
【0097】
ここでは、処理部22において、顔面全体における顔面皮膚温度の温度分布図が作成されているが、これに限定されず、少なくとも副鼻腔周辺及び/又は前額部を含む顔面皮膚温度の温度分布図が作成され、これが温度換算データに応じた顔面皮膚温度データとされてもよい。
【0098】
また、ここでは、顔面皮膚温度取得手段20により温度換算データに応じた顔面皮膚温度データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられる。すなわち、顔面皮膚温度取得手段20により取得される温度換算データに応じた顔面皮膚温度データには、個人に対して脳機能賦活課題が与えられている期間のデータが含まれていることになる。なお、個人に対して与えられる脳機能賦活課題としては、脳が賦活状態になると推定されるものであれば特に限定されるものではなく、例えば、脳活動可視化装置10の利用目的に応じてその内容が適宜決定されるよう構成されていてもよい。
【0099】
脳活動推定手段30は、顔面皮膚温度取得手段20により取得された温度換算データに応じた顔面皮膚温度データに基づき、人間の脳活動を推定する。具体的には、脳活動推定手段30は、図19に示すように、換算部31と、解析部32と、推定部33と、を有する。
【0100】
換算部31は、温度換算データに応じた顔面皮膚温度データに含まれる温度データを相対的な温度データに換算し、換算した相対的な温度データに基づく顔面皮膚温度データすなわち相対温度換算データに応じた顔面皮膚温度データを作成する(ステップS2)。具体的には、換算部31は、所定時間毎(例えば、30秒)の温度換算データに応じた顔面皮膚温度データに含まれる温度データの平均値を基準値として、該温度データを相対的な温度データに換算する。そして、換算部31は、換算した相対的な温度データ及び位置データを利用して、相対温度換算データに応じた顔面皮膚温度データを作成する。
【0101】
解析部32は、時系列の温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データのそれぞれを、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する(ステップS3)。ここでは、解析部32は、取得した温度換算データに応じた顔面皮膚温度データ及び換算した相対温度換算データに応じた顔面皮膚温度データのそれぞれを対象として、MATLAB(登録商標)のSVDを分析ツールとして用いて、特異値分解を行う。特異値分解は、時系列で取得した温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データについて、要因を所定期間(例えば、30秒)毎の時間データとし、測度をその期間における温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データとして行われる。そして、特異値分解により、温度換算データに応じた顔面皮膚温度データ及び相対温度換算データに応じた顔面皮膚温度データのそれぞれを複数の成分に分解し、時間分布と、空間分布と、各成分の大きさを示す特異値とを算出する。
【0102】
また、解析部32は、特異値分解によって分解した複数の成分から脳活動を反映した皮膚温度の変化を示す成分を同定するために、各成分が第1条件及び第2条件を満たすか否かを判定する(ステップS4a、ステップS4b、ステップS5a、及びステップS5b)。なお、ここでは、解析部32において、まず、温度換算データに応じた顔面皮膚温度データに基づく各成分について第1条件が満たされているか否かが判定され(ステップS4a)、ステップS4aにおいて第1条件が満たされていると判定された温度換算データに応じた顔面皮膚温度データに基づく成分について第2条件が満たされているか否かが判定される(ステップS4b)。そして、相対温度換算データに応じた顔面皮膚温度データに基づく各成分のうちステップS4a及びステップS4bにおいて第1条件及び第2条件を満たすと判定された成分と一致する成分についてのみ第1条件が満たされているか否かが判定され(ステップS5a)、その後、ステップS5aにおいて第1条件が満たされていると判定された相対温度換算データに応じた顔面皮膚温度データに基づく成分について第2条件が満たされているか否かが判定される(ステップS5b)。しかしながら、解析部32における該判定の順序はこれに限定されるものではなく、例えば、温度換算データに応じた顔面皮膚温度データに基づく各成分と、相対温度換算データに応じた顔面皮膚温度データに基づく各成分とが、第1条件及び第2条件を満たすか否かがそれぞれ判定され、判定結果の一致する成分が最終的に抽出されてもよい。
【0103】
第1条件とは、特異値分解によって分解した成分の成分波形の振幅が、脳の非賦活時及び脳の賦活時の変化と相関関係にある、という条件である。解析部32は、複数の成分のうち、第1条件を満たす成分を、判定用成分として抽出する。なお、ここでは、温度換算データに応じた顔面皮膚温度データを取得している間に、個人に対して脳機能賦活課題が与えられている期間が一定期間ある。解析部32は、個人に対して脳機能賦活課題が与えられていない期間を脳の非賦活時とし、個人に対して脳機能賦活課題が与えられている期間を脳の賦活時として、脳機能賦活課題が与えられている期間及び与えられていない期間と、各成分の成分波形とを比較解析する。解析部32は、成分波形データに基づく比較解析結果を利用して、各成分の成分波形と脳の非賦活時及び脳の賦活時とが相関関係にあるか否かを評価し、複数の成分のうち相関関係にあると評価した成分を、第1条件を満たす判定用成分として抽出する。一方、解析部32は、複数の成分のうち相関関係にないと評価した成分を、第1条件を満たさず人間の脳活動を反映した温度変化を示す成分ではないと判定する(ステップS6)。
【0104】
ここでは、温度換算データに応じた顔面皮膚温度データの取得時に個人に対して脳機能賦活課題が一定期間与えられており、これに基づき解析部32は判定用成分を抽出しているが、第1条件の内容、すなわち解析部32における判定用成分の抽出手段はこれに限定されない。例えば、予め実験等がされていることで複数の成分のうち脳の非賦活時及び脳の賦活時と相関関係にある成分波形を示す成分が特定されている場合には、解析部32は、複数の成分から特定されている該成分を判定用成分として抽出する。また、本脳活動可視化装置において眼球運動又はまたたき等の脳の賦活/非賦活に関連することが知られている人間の動作が検出される場合には、解析部32が、この検出結果と各成分の成分波形とを比較解析及び評価することで、複数の成分から判定用成分を抽出してもよい。なお、解析部32による第1条件を満たすか否かの判定の基準は、脳活動可視化装置10の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。
【0105】
第2条件は、抽出した判定用成分において、人間の顔面の所定部位における温度変化がある、という条件である。解析部32は、判定用成分のうち、第2条件を満たす成分を、人間の脳活動に関連している可能性の高い成分と判定し、候補成分として抽出する。すなわち、解析部32は、人間の顔面の所定部位における温度変化の有無に基づき、判定用成分が人間の脳活動に関連しているか否かを判定する。具体的には、解析部32は、抽出した判定用成分の温度分布データに基づき、副鼻腔周辺及び/又は前額部において温度変化が生じているか否かを判定し、温度変化が生じている場合には該判定用成分が第2条件を満たす人間の脳活動に関連する可能性の高い成分であると判定し、候補成分として抽出する。一方で、解析部32は、副鼻腔周辺及び/又は前額部において温度変化が生じていない場合には、該判定用成分は第2条件を満たさず脳活動を反映した皮膚温度の変化を示す成分ではない、と判定する(ステップS6)。なお、解析部32による第2条件を満たすか否かの判定の基準は、脳活動可視化装置10の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。
【0106】
そして、解析部32は、ステップS5bにおいて第2条件を満たすと判定した成分を、脳活動を反映した皮膚温度の変化を示す成分として同定する(ステップS7)。すなわち、ステップS7において脳活動を反映した皮膚温度の変化を示す成分として同定される成分は、温度換算データに応じた顔面皮膚温度データを特異値分解により分解し解析することで抽出された候補成分と、相対温度換算データに応じた顔面皮膚温度データを特異値分解により分解し解析することで抽出された候補成分と、の間で一致している成分ということになる。なお、両解析で一致していない候補成分については、ステップS6において脳活動を反映した皮膚温度の変化を示す成分ではない、と判定されている。
【0107】
推定部33は、解析部32において人間の脳活動を反映した皮膚温度の変化を示す成分として同定された成分に基づいて、人間の脳活動を推定する。具体的には、推定部33は、解析部32において同定された成分の成分波形データに基づいて、顔面皮膚温度データの取得時における脳活動量を推定する。
【0108】
(4−1−1)変形例1A
上記脳活動推定手段30は換算部31を有しており、換算部31によって相対温度換算データに応じた顔面皮膚温度データが作成されている。そして、解析部32が、顔面皮膚温度取得手段20により取得された温度換算データに応じた顔面皮膚温度データだけでなく、相対的な温度データに換算された温度データに基づく相対温度データに応じた顔面皮膚温度データについても、特異値分解により複数の成分に分解し、各成分についての解析を行っている。
【0109】
これに代えて、脳活動推定手段30が換算部31を有していなくてもよい。この場合、相対温度換算データに応じた顔面皮膚温度データを作成したり、相対温度換算データに応じた顔面皮膚温度データに基づくデータの解析を行ったりする処理を省くことができる。
【0110】
ただし、人間の脳活動に関連する成分を精度よく同定するためには、上記実施形態のように脳活動推定手段30が換算部31を有しており、解析部32によって、顔面皮膚温度取得手段20により取得された温度換算データに応じた顔面皮膚温度データだけでなく、相対的な温度データに換算された温度データに基づく相対温度データに応じた顔面皮膚温度データについても、特異値分解により複数の成分に分解され、各成分についての解析が行われるほうが望ましい。
【0111】
(4−1−2)変形例1B
また、上記顔面皮膚温度取得手段20は、対象物と非接触の状態で温度データを取得することができる赤外線サーモグラフィ装置である。
【0112】
しかしながら、個人の顔面の少なくとも一部の皮膚温度を検出し、検出した温度データ及びその検出部位の位置データを含む顔面皮膚温度データを時系列で取得することができれば、顔面皮膚温度取得手段は赤外線サーモグラフィ装置に限定されない。
【0113】
例えば、顔面皮膚温度取得手段が温度センサを含む装置であってもよい。具体的には、個人の顔面の所定部位に温度センサを装着し、温度センサによって検出される温度データと、温度センサを装着した部位の位置データとに基づいて、時系列の顔面皮膚温度データが取得されてもよい。このように、温度センサにより対象となる個人に接触した状態で顔面皮膚温度データが取得される場合であっても、温度センサは脳波電極等のように装着前の処理が必要ではないため、脳波計測法、磁気共鳴画像法、及び近赤外線分光法等の従来の検出方法と比較して、簡便にデータを取得することができる。これにより、簡便に人間の脳活動を推定することができる。
【0114】
(4−2)顔面の撮影画像データに基づき脳活動を推定する脳活動推定手段130
図21は、本発明の実施形態に係る脳活動可視化装置110の概略図である。図22は、脳活動可視化装置110において脳機能を反映した顔面のRGB変化を示す成分を同定する際の処理の流れの一例を示すフローチャートである。
【0115】
脳活動可視化装置110の備える脳活動推定手段130は、個人(被験者)の顔面の撮影画像データから、個人の脳活動を推定するための装置である。脳活動可視化装置110は、図21に示すように、画像データ取得手段120と、脳活動推定手段130と、状態可視化手段200と、を備える。
【0116】
画像データ取得手段120は、個人の顔面の少なくとも一部の撮影画像データを時系列で取得する(ステップS101)。なお、画像データ取得手段120は、少なくとも撮影装置を有するものであれば特に限定されるものではなく、例えば、スマートフォンやタブレット(例えば、iPad:登録商標)等の撮影装置内蔵型ポータブル端末等が挙げられる。ここでは、画像データ取得手段120は、図21に示すように、撮影装置としてのカメラ121と、記憶部122とを有する。カメラ121は、個人の顔面の撮影画像データを時系列で取得するためのものである。ここでは、カメラ121は、個人の顔面全体の動画を撮影し、撮影した動画データを取得する。記憶部122は、撮影装置により撮影された時系列の撮影画像データを蓄積する。ここでは、記憶部122は、カメラ121によって取得された動画データを蓄積する。
【0117】
なお、ここでは、カメラ121によって顔面全体の動画が撮影されているが、これに限定されず、顔面の少なくとも前額部及び/又は副鼻腔周辺の画像を含む動画が撮影されていればよい。
【0118】
また、ここでは、画像データ取得手段120により顔面の時系列の撮影画像データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられる。すなわち、画像データ取得手段120により取得される撮影画像データには、個人に対して脳機能賦活課題が与えられている期間のデータが含まれていることになる。なお、個人に対して与えられる脳機能賦活課題としては、脳が賦活状態になると推定されるものであれば特に限定されるものではなく、例えば、脳活動可視化装置110の利用目的に応じてその内容が適宜決定されるよう構成されていてもよい。
【0119】
脳活動推定手段130は、画像データ取得手段120により取得された顔面の時系列の撮影画像データに基づき、人間の脳活動を推定する。具体的には、脳活動推定手段130は、図21に示すように、RGB処理部131と、換算部132と、血行量算出部133と、解析部134と、推定部135と、を有する。なお、図21では、脳活動推定手段130が、RGB処理部131、換算部132、血行量算出部133、解析部134及び推定部135を有する1つの装置として存在している態様が示されているが、本発明はこれに限定されるものではなく、RGB処理部131、換算部132、血行量算出部133、解析部134及び推定部135の一部或いはそれぞれが独立した装置として存在していてもよい。また、ここでは、画像データ取得手段120、RGB処理部131、換算部132、及び血行量算出部133により顔面血行量取得手段が構成されている。
【0120】
RGB処理部131は、画像データ取得手段120により取得された撮影画像データに対して、R成分、G成分及びB成分の3つの色成分に分解するRGB処理を行う(ステップS102)。ここで、顔面全体の撮影画像データに対してRGB処理を行ってもよいが、ここでは、演算処理量及びノイズを減らすために、撮影画像データから前額部及び/又は副鼻腔周辺のデータを抽出し、抽出したデータについてのみRGB処理を行うものとする。
【0121】
換算部132は、RGB処理により得られた撮影画像データのRGBデータを相対的なRGBデータに換算する(ステップS103)。具体的には、換算部132は、取得された所定時間毎(例えば、30秒)の撮影画像データから得られるRGBデータの平均値を基準値として、該RGBデータを相対的なRGBデータに換算する。
【0122】
血行量算出部133は、RGB処理により得られた撮影画像データのRGBデータに基づき、顔面の時系列の血行量データを算出する(ステップS104)。
【0123】
解析部134は、時系列の相対換算血行量データを、特異値分解、主成分分析或いは独立成分分析により複数の成分に分解する(ステップS105)。ここでは、解析部134は、相対換算血行量データに対して、MATLAB(登録商標)のSVDを分析ツールとして用いて、特異値分解を行う。具体的には、特異値分解は、時系列の相対換算血行量データを対象として、要因を所定期間(例えば、30秒)毎の時間データとし、測度をその期間毎における相対的なRGBデータから演算したピクセル毎の相対換算血行量データとして行われる。そして、特異値分解により、時系列の相対換算血行量データを複数の成分に分解し、時間分布と、空間分布と、各成分の大きさを示す特異値とを算出する。
【0124】
また、解析部134は、特異値分解によって分解した複数の成分から脳活動を反映した顔面のRGB変化を示す成分を同定するために、各成分が所定条件を満たすか否かを判定する(ステップS106)。ここで、所定条件としては、例えば、特異値分解によって分解した成分の成分波形の振幅が、脳の非賦活時及び脳の賦活時の変化と相関関係にあるという条件(以下、第1条件という)や、特異値分解によって分解した成分において人間の顔面の所定部位に血行量変化があるという条件(以下、第2条件という)等が含まれる。解析部134において判定される所定条件としては、1又は複数の条件が設定されていればよく、ここでは、所定条件として第1条件が設定されているものとする。
【0125】
そして、解析部134は、複数の成分のうち所定条件を満たす成分を、判定用成分として抽出する。さらに、解析部134は、抽出した判定用成分のうち所定条件に含まれる全ての条件を満たす成分を、脳活動を反映した顔面のRGB変化を示す成分として同定する(ステップS107)。一方、解析部134は、複数の成分のうち所定条件に含まれる少なくとも1つの条件を満たさないと判定した成分を、脳活動を反映した顔面のRGB変化を示す成分ではないと判定する(ステップS108)。
【0126】
ここでは、上述のように所定条件として1つの条件(第1条件)のみが設定されており、顔面の時系列の撮影画像データを取得している間に、個人に対して脳機能賦活課題が与えられている期間が一定期間ある。このため、解析部134は、個人に対して脳機能賦活課題が与えられていない期間を脳の非賦活時とし、個人に対して脳機能賦活課題が与えられている期間を脳の賦活時として、脳機能賦活課題が与えられている期間及び与えられていない期間と、各成分の成分波形とを比較解析する。そして、解析部134は、成分波形データに基づく比較解析結果を利用して、各成分の成分波形と脳の非賦活時及び脳の賦活時とが相関関係にあるか否かを評価し、複数の成分のうち相関関係にあると評価した成分を、所定条件を満たす判定用成分として抽出すると共に、脳活動を反映した顔面のRGB変化を示す成分として同定する。一方、解析部134は、複数の成分のうち相関関係にないと評価した成分を、所定条件を満たさず人間の脳活動を反映した顔面のRGB変化を示す成分ではないと判定する。
【0127】
ここでは、顔面の時系列の撮影画像データが取得される際に個人に対して脳機能賦活課題が一定期間与えられており、これに基づき解析部134が判定用成分を抽出しているが、第1条件の内容、すなわち解析部134における判定用成分の抽出手段はこれに限定されない。例えば、予め実験等がされていることで複数の成分のうち脳の非賦活時及び脳の賦活時と相関関係にある成分波形を示す成分が特定されている場合には、解析部134は、複数の成分から特定されている該成分を判定用成分として抽出する。また、脳活動可視化装置110において眼球運動又はまたたき等の脳の賦活/非賦活に関連することが知られている人間の動作についても検出される場合には、解析部134が、この検出結果と各成分の成分波形とを比較解析及び評価することで、複数の成分から判定用成分を抽出してもよい。なお、解析部134による第1条件を満たすか否かの判定の基準は、脳活動可視化装置110の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定される。
【0128】
また、所定条件として第2条件が設定されている場合には、解析部134は、人間の顔面の所定部位における顔面の血行量変化の有無に基づき、判定用成分を抽出する。具体的には、解析部134は、特異値分解によって分解された複数の成分に応じた血行量分布図に基づき、副鼻腔周辺及び/又は前額部において血行量の変化が生じているか否かを判定し、血行量の変化が生じている場合には該成分が第2条件を満たしていると判定する。一方で、副鼻腔周辺及び/又は前額部において血行量の変化が生じていない場合には、解析部134は、該成分が第2条件を満たしていないと判定する。なお、解析部134による第2条件を満たすか否かの判定の基準は、脳活動可視化装置110の利用目的等に応じて、シミュレーションや実験、机上計算等によって適宜決定されるものとする。
【0129】
さらに、血行量算出部133によって相対的なRGBデータに換算される前のRGBデータに基づく時系列の血行量データが算出される場合には、解析部134によって、該血行量データを特異値分解等することで得られた複数の成分についても、上記第1条件及び/又は第2条件が満たされるか否かが判定され、判定用成分が抽出されてもよい。
【0130】
推定部135は、解析部134において人間の脳活動を反映した顔面のRGB変化を示す成分として同定された成分に基づいて、人間の脳活動を推定する。具体的には、推定部135は、解析部134において同定された成分の成分波形データに基づいて、顔面の撮影画像データの取得時における脳活動量を推定する。
【0131】
(4−2−1)変形例2A
上述したように、カメラ121としては、例えば、スマートフォンやタブレット(例えば、iPad:登録商標)等の撮影装置内蔵型ポータブル端末等を利用することができる。すなわち、上述の撮影画像データは、可視光領域の画像を撮像するものを採用することができる。
【0132】
また、上記血行量算出部133において、RGBデータに含まれる各画素のうちの主にR成分を用いて顔面の血行量データが算出されてもよい。また、RGBデータに基づき血行量データを算出できるのであれば、血行量データは必ずしも紅斑指数に限定されるものではない。
【0133】
(4−2−2)変形例2B
上記血行量算出部133は、換算部132によって換算された相対的なRGBデータに基づき相対換算血行量データを算出するが、これに代えて或いはこれに加えて、相対的なRGBデータに換算される前のRGBデータに基づき血行量データが算出されてもよい。ここで、相対的なRGBデータに換算される前のRGBデータに基づき算出された血行量データには、脳活動と相関する成分が出やすい(検定力が高い)ため、例えば、相対的なRGBデータに換算される前のRGBデータに基づき算出された血行量データを、相対的なRGBデータに基づき算出された相対換算血行量データよりも先行して解析してもよい。また、例えば、まず、血行量データを解析して有意な相関のある成分を抽出し、相対換算血行量データに関しては、前記抽出した成分に対応する成分のみを解析することで、演算処理量を減らすことができる。
【0134】
(4−2−3)変形例2C
上記カメラ121は可視光領域の通常のカメラを前提としていたが、赤外線カメラを用いることもできる。この場合、赤外光を照射し、その反射波を赤外線カメラで撮像する。これにより、対象者の顔面変化等の撮影画像データを得ることができる。本発明者らにより、赤外線の反射により得られた撮影画像データから算出された血行量データと、可視光領域で撮影されたRGBデータに含まれる各画素のうちの主にR成分を用いて算出された血行量データとには相関があることが確認された。したがって、このような赤外線の反射から得られた撮影画像データを用いても、人間の脳活動を推定することができる。
【0135】
(4−2−4)変形例2D
なお、上記説明においては、脳活動可視化装置110が、画像データ取得手段120と、脳活動推定手段130とを備える形態としていたが、本実施形態に係る脳活動可視化装置は、このような形態に限定されるものではない。すなわち、本実施形態に係る脳活動可視化装置は、血行量算出部133、解析部134及び推定部135を含むものであれば、その他の構成については任意の形態を採り得るものである。具体的には、本実施形態に係る脳活動可視化装置は、当該装置自体が画像データを撮影する形態だけではなく、外部の装置から撮影画像データを受け取り、それを解析する形態を含むものである。
【0136】
(4−3)状態可視化手段200
状態可視化手段200は、脳活動推定手段30及び/又は脳活動推定手段130により推定された対象者の脳活動に基づき、対象者の生理状態を表示することにより可視化する。例えば、状態可視化手段200が、対象者の脳活動量の変化を解析することで、対象者の生理状態を解析する解析部201を有していてもよい。具体的には、解析部201が、対象者に対して与えられた刺激(視覚刺激、聴覚刺激、触覚刺激、臭覚刺激或いは味覚刺激等)に対する脳活動量の変化を解析することで、対象者の生理状態を判定する。なお、生理状態の種類やレベルについては、脳活動量の上昇度合い及び/又は持続時間に基づき、脳活動可視化装置10,110の用途に応じて適宜設置可能になっていてもよい。そして、解析部201により解析された対象者の生理状態を状態可視化手段200の表示部202から管理者へと出力されることで、管理者は対象者の生理状態を知ることができる。表示部202としては、画像やメッセージを表示する表示デバイス等、解析した対象者の生理状態に関する情報を管理者に対して可視化できるものであればどのようなものであっても採用することができる。
【0137】
また、解析部32,134において脳活動を反映する成分が同定された後に、さらに顔面皮膚温度取得手段20及び/又は画像データ取得手段120により時系列の各種データが取得される場合には、脳活動可視化装置10,110において、さらに取得された各種データが特異値分解により複数の成分に分解され、同定された成分のみが解析されることで、対象者の生理状態をリアルタイムで知ることができる。
【0138】
さらに、被験者の顔面の皮膚温度や撮影した画像から被験者の心拍情報や生体情報等を取得する技術が従来よりあるが、顔面皮膚温度取得手段20及び/又は画像データ取得手段120から得られた各種データが特異値分解等されることで得られる成分に対して従来の技術を採用することで、心拍情報や生体情報を精度良く取得することができる。したがって、特異値分解した複数の成分を解析して心拍情報や生体情報を取得する機能を、解析部32及び/又は解析部134に持たせ、取得した心拍情報や生体情報に基づき交換神経/副交感神経の働きを推定する機能を上記実施形態の推定部33,135に持たせてもよい。
【0139】
(5)特徴
(5−1)
本実施形態では、顔面皮膚温度取得手段20及び/又は画像データ取得手段120によって取得された時系列の顔面皮膚温度データ及び/又は顔面血行量データに基づき人間の脳活動が推定される。このため、脳波電極等の装着前に処理が必要なセンサを装着しなくても、人間の脳活動を推定することができる。したがって、簡便に人間の脳活動を推定し、推定した脳活動に基づき対象者の生理状態を可視化することができている。
【0140】
(5−2)
ここで、時系列の顔面の皮膚温度データ及び/又は画像データが取得される際に、人間に対して実際に脳機能賦活課題が与えられたり与えられなかったりすることにより、人間の脳が賦活化したり賦活化しなかったりする状況が作られている場合、各成分の成分波形と脳の賦活時及び非賦活時との間に相関関係のある成分は、脳活動を反映した皮膚温度及び/又は血行量の変化を示す成分である可能性が高い成分であるといえる。
【0141】
本実施形態では、顔面皮膚温度取得手段20及び/又は画像データ取得手段120により時系列の顔面の皮膚温度データ及び/又は画像データが取得されている間に、個人に対して脳機能賦活課題が一定期間与えられている。すなわち、本実施形態では、個人に対して実際に脳機能賦活課題を与えたり与えなかったりすることにより、人間の脳が賦活化したり賦活化しなかったりする状況が作られている。そして、このように取得された時系列の各種データが特異値分解により複数の成分に分解され、各成分についてその成分波形と脳の賦活時及び非賦活時との相関関係が評価され、相関関係にある成分が判定用成分として複数の成分から抽出される。このため、例えば、予め実験等により特定された所定の成分が抽出用成分として複数の成分から抽出される場合と比較して、人間の脳活動と関連性の低い成分が抽出用成分として複数の成分から抽出されるおそれを低減することができている。
【0142】
(5−3)
ここで、脳には、選択的脳冷却機構という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構としては、脳活動によって生じた熱を前額部及び副鼻腔周辺を用いて排熱していることが知られている。そうすると、脳活動に伴う顔面皮膚温度や顔面皮膚温度に相関する顔面の血行量の変化は、前額部及び/又は副鼻腔周辺に出現することになる。
【0143】
本実施形態では、前額部及び/又は副鼻腔周辺の各種データが解析されて、判定用成分が抽出されている。このため、人間の脳活動に関連する成分を精度よく抽出することができている。
【0144】
(6)脳活動可視化装置の用途例
次に、本発明に係る脳活動可視化装置の用途例について説明する。
【0145】
(6−1)患者に対して用いる場合
上記実施形態又は上記変形例の脳活動可視化装置10,110を、例えば病院を訪れた患者に対して用いる場合の一例を説明する。例えば、うつ状態を客観的に定量するために脳活動可視化装置10,110を用いる場合には、患者に対して繰り上がり又は繰り下がりのある暗算等の脳機能賦活課題を与え、脳活動賦活課題が与えられる前後の脳活動量の変化が解析され可視化されることで、患者の精神状態を判定することができる。具体的には、脳機能賦活課題が与えられる間の脳活動量が上昇しない場合には、患者が無気力状態であると判定することができ、脳機能賦活課題が与えられている間に脳活動量が上昇しても、その脳活動量の上昇時間が短い場合には、患者の気力が低下している状態であると判定することができる。そして、このような解析を1日の間に複数回行い、平均的に脳活動量の低下が認められる場合には、管理者は、患者がうつ状態であると判断することができる。
【0146】
また、脳活動可視化装置10,110を、救急患者の意識の有無や患者が覚醒したかどうかを判定するために用いる場合には、患者の皮膚をさすったり患者に声掛けしたりする等の刺激を患者に対して与え、この刺激が与えられる前後の脳活動量の変化が解析され可視化されることで、患者の意識の有無や覚醒したかどうかを判定することができる。例えば、麻酔が導入されている患者に対して皮膚への刺激や声掛け等を行っている間に脳活動量が上昇した場合には、患者が覚醒したと判定することができる。したがって、仮に患者が言葉を発することのできない状態にあったとしても、管理者は患者の意識の有無や患者が覚醒したかどうかを知ることができる。また、患者に与える刺激の強度を変化させ、このときの脳の賦活の有無を解析することで、覚醒の度合い(レベル)を判定することもできる。強度の低い刺激としては、例えば、手を握る又は手を動かす等の刺激を挙げることができ、強度の高い刺激としては、例えば、手に氷を当てる等の身体に対して温度変化を与える刺激や身体に対して痛みを与える刺激等が挙げられる。
【0147】
脳活動可視化装置10,110を、リハビリ等の治療の効果を判定するために用いる場合には、患者に対して繰り上がり又は繰り下がりのある暗算等の脳機能賦活課題を与え、この時の脳活動量の変化が解析され可視化されることで、患者に対するリハビリ等の治療の効果を判定することができる。例えば、リハビリや脳トレーニング、或いは運動療法を行う前後で同じ強度を有する脳機能賦活課題が患者に対して与えられ、この時の脳活動量の変化が解析されることで、管理者は、脳活動量の上昇度合いや上昇持続時間からリハビリ等の治療の効果を判定することができる。また、例えば、患者に対して脳機能賦活課題が与えられた時の脳活動量が上昇していない場合には脳血管の虚血状態であると判断することができ、脳活動量の上昇継続時間が短い場合には脳血管血流量が低下している状態であると判断することができる。したがって、脳活動可視化装置10,110を、高気圧酸素治療装置における監視装置として用いることもできる。
【0148】
さらに、脳活動可視化装置10,110を、患者の疼痛を定量化するために用いる場合には、患者が疼痛を感じている時(患者からの申告時)の脳活動量の変化(特に、脳活動量の上昇度合いと、その持続時間)とから疼痛強度が定量化されてもよい。この解析結果が可視化されることで、管理者は患者の痛みの度合いを知ることができる。
【0149】
(6−2)衝撃波等を受ける特殊環境下にある人に対して用いる場合
上記実施形態又は上記変形例の脳活動可視化装置10,110を、例えば消防隊員等の爆発衝撃波を受ける特殊環境下にある人に対して用いる場合の一例を説明する。脳活動可視化装置10,110を、衝撃波等を浴びたことによる生体防護判定(例えば、衝撃波により受けた生体ダメージの状態の判定)に用いる場合には、対象者に対して脳機能賦活課題を与え、この時の脳活動量の変化が解析され可視化されることで、管理者は対象者の脳血管の血流状態を推測することができる。例えば、対象者に対して脳機能賦活課題が与えられた時の脳活動量が上昇していない場合には脳血管の虚血状態であると判断することができ、脳活動量の上昇継続時間が短い場合には脳血管血流量が低下している状態であると判断することができる。
【0150】
(6−3)快適性の判断に用いる場合
上記実施形態又は上記変形例の脳活動可視化装置10,110を、対象者の快適性の判断に用いる場合の一例を説明する。例えば、住まいの快適性の判断に脳活動可視化装置10,110を用いる場合には、所定の居住空間にいる対象者が不快と感じている時(対象者からの申告時)の脳活動量の変化(脳活動量の上昇度合いとその継続時間)とから不快度が定量化される。このような解析を1日の間に複数回行い、この解析結果が可視化されることで、管理者は、平均的に脳活動量が昂進しているか否かを評価することにより、対象者の快適度、すなわち、快不快の感情を判断することができる。
【0151】
(6−4)集中度合いの判定に用いる場合
上記実施形態又は上記変形例の脳活動可視化装置10,110を、学習時や手術時の集中度合いの判定に用いる場合の一例を説明する。例えば、学校、学習塾、会社、eラーニング或いは病院等における学習者の学習内容への集中度を定量化するために脳活動可視化装置10,110を用いる場合には、学習者が学習(課題)に取り組んでいる前後の一定期間(例えば、学習時限)における脳活動量の変化(この期間における上昇度合い)を解析することで、取り組んでいる学習内容に対する学習者の集中度を定量化することができる。これにより、管理者は、可視化される解析結果に基づき、学習内容に対する学習者の集中度を評価することができる。
【0152】
(7)精神疾患判定装置
本発明に係る脳活動可視化装置を応用した、精神疾患判定装置について説明する。精神疾患判定装置は、対象者の精神又は身体の生理状態を判定する。具体的に、本発明者らの研究によれば、うつ状態の人間は、うつ状態でない人間に比して、後述するポジティブ画像等に対する反応が鈍いことが判明している。一方、うつ状態の人間は、うつ状態でない人間に比して、ネガティブ画像等に対する反応が高くなる傾向がある。そこで、本発明者らは、これらの性質を利用して、うつ状態を判定するうつ状態判定装置を考案した。さらに本発明者らは、これを発展させて、対象者の精神疾患の状態を判定する精神疾患判定装置を考案した。
【0153】
(7−1)精神疾患判定装置の構成
図23は本実施形態に係る精神疾患判定装置の一例を示す模式図である。なお、以下の説明においては、精神疾患の状態として、「うつ状態」の判定を行なうものを例に挙げて説明する。
【0154】
精神疾患判定装置400は、入力部410、撮像部415、出力部420、記憶部430、及び処理部440を備える。
【0155】
入力部410は、精神疾患判定装置400に各種情報を入力するものである。例えば入力部410は、キーボード、マウス、及び/又はタッチスクリーン等により構成される。この入力部410を介して、精神疾患判定装置400に各種命令が入力され、処理部440において命令に応じた処理が実行される。
【0156】
撮像部415は、対象者300の顔面を含む「顔面画像」を撮像するものである。例えば撮像部415は、RGB画像を取得するCCD及びCMOS等の固体撮像素子や、サーモグラムを取得する赤外線カメラ等により構成される。赤外線カメラ等は通常の室温条件で、29.0℃から37.0℃を高感度で検出できるものが望ましい。また、撮像部415は、所定の間隔で継続的な撮像が可能である。顔面画像を撮像する場合には正面から一定照明の条件で行なうのが望ましい。姿勢変動により正面画像が得られない場合には、摂動空間法を用い、姿勢変動画像については顔の3次元形状を推定し、正面像にレンダリングすることにより顔面画像を得る。照明変動画像については、拡散反射モデルをベースに構築した顔の照明基底モデルを用いて、一定照明の条件下での顔面画像を得る。そして、撮像部415により、継続的に撮像された顔面画像は処理部440に送出される。
【0157】
出力部420は、精神疾患判定装置400から各種情報を出力するものである。例えば出力部420は、ディスプレイ及びスピーカー等により構成される。ここでは、出力部420を介して、後述する脳機能賦活情報が対象者300に提供される。
【0158】
記憶部430は、精神疾患判定装置400に入力される情報、及び、精神疾患判定装置400で計算される情報等を記憶するものである。例えば記憶部430は、メモリ及びハードディスク装置等により構成される。また記憶部430は、後述する処理部440の各機能を実現するためのプログラムを記憶する。ここでは、記憶部430は、脳機能賦活情報データベース431及び判定情報データベース432を有する。
【0159】
脳機能賦活情報データベース431は、人間の脳機能を賦活する脳機能賦活情報を記憶するものである。ここでは、「脳機能賦活情報」として、人間に対する快適性及びその反応度に応じて分類された情動刺激情報が挙げられる。「情動刺激情報」は、視覚、聴覚、嗅覚、味覚、触覚、体性感覚のいずれか一つ又な任意の組み合わせの感覚を刺激して、対象者の感覚を変化させるための情報である。例えば、情動刺激情報として、情動画像が挙げられる。「情動画像」は、快適性の観点から、ネガティブ画像又はポジティブ画像に分類される。具体的に、ポジティブ画像には、花嫁の写真、子犬たちがじゃれている写真、笑顔の人、雪に覆われた綺麗な山の風景、花などの人間の心理的な快適性を高くする画像等がある。また、ネガティブ画像には、悲しい顔をした人、荒れたスラム街の風景、テレビドラマの殺人シーン、昆虫のクモ、ヘビ、病院の写真などの人間の心理的な快適性を低くする画像等がある。また、情動画像以外の情動刺激情報も、対象者の快適性を高くするポジティブ情報と、快適性を低くするネガティブ情報とに分類することができる。例えば、音について、対象者の快適性を高くするものはポジティブ音に分類され、対象者の快適性を低くするものはネガティブ音に分類される。なお、視覚、聴覚以外の感覚は情動刺激情報により間接的に刺激される。例えば、嗅覚を刺激する場合は、対象者の快適性を高くするポジティブな匂いの出力情報が情動刺激情報であり、ポジティブな匂いの出力は匂い発生器等を介して実行される。以下の説明において、ポジティブ情報及びネガティブ情報をそれぞれ「ポジティブ画像等」及び「ネガティブ画像等」と表記することがある。その他、「脳機能賦活情報」はこれに限らず、上述した情動画像、イメージ暴露画像、物質画像、認知課題を示す画像、光刺激情報、及び感覚刺激課題を示す画像のいずれか一つ又は任意の組み合わせを含む、所定の視覚情報を用いることができる。なお、脳機能賦活情報データベース431には、上述した脳機能を賦活する情動刺激情報のみならず、脳機能を賦活しない画像又はその他の非賦活情報も記憶する。例えば、脳機能賦活情報データベース431は、脳機能を賦活しない「安静画像」を記憶する。このような安静画像と情動画像とを交互に提示することで、対象者の脳機能の賦活状態をオンオフすることが可能となる。
【0160】
判定情報データベース432は、図24に示すように、ポジティブ画像等の提供に応じて抽出される判定用成分の相関値r2の、ネガティブ画像等の提供に応じて抽出された基準判定用成分の「基準相関値」r1からの所定範囲の変化量Δr(=r2−r1)を、「状態レベル」と関連付けて予め「判定情報」として記憶するものである。なお、変化量Δrは絶対値で表される。また「基準判定用成分」は、ネガティブ画像等の提供に応じて抽出した判定用成分のデータ、前回抽出した判定用成分のデータ、及び外部から提供される判定用成分のデータ等により設定される。
【0161】
図24に示す例では、「うつ状態」の状態レベルを判定するものを示している。具体的に、判定情報データベース432は、変化量Δrの値の範囲に応じて、Δr=Δra〜Δrbまでを「正常」、Δrb〜Δrcまでを「軽いうつ」、Δrc〜Δrdまでを「うつ」として記憶する。ここでは、Δra、Δrb、Δrc、Δrdの順に値が大きいものとなっている。なお、基準判定用成分のデータも判定情報データベース432に格納されてもよい。また、ここでは判定情報データベース432は、「うつ状態」を判定する判定情報を記憶しているが、他の精神疾患の状態に関して判定する場合には、それに応じた判定情報を記憶する。
【0162】
処理部440は、精神疾患判定装置400における情報処理を実行するものである。具体的には、処理部440は、CPU及びキャッシュメモリ等により構成される。処理部440は、記憶部430に組み込まれたプログラムが実行されることで、脳機能賦活情報提供部441、顔面変化情報取得部442、顔面変化情報分解部443、判定用成分抽出部444、及び、精神疾患判定部445として機能する。
【0163】
脳機能賦活情報提供部441は、脳機能賦活情報を提供するものである。例えば脳機能賦活情報提供部441は、入力部410の操作に応じて、脳機能賦活情報データベース431から脳機能賦活情報を読み出し、出力部420に出力する。
【0164】
顔面変化情報取得部442は、撮像部415で撮像された顔面画像から「顔面データ」及び顔面データの時系列変化を示す「顔面変化情報」を取得するものである。具体的には、顔面変化情報取得部442は、脳機能賦活情報提供部441が脳機能賦活情報を提供しているタイミングに同期して、撮像部415を介して顔面データを取得する。そして、顔面変化情報取得部442は、継続的に取得した顔面データから、対象者300の顔面データの時系列変化を示す顔面変化情報を取得する。例えば、顔面変化情報は、240×320ピクセルの顔面データを所定間隔で60点取得した場合には、4,608,000のデータの集合となる。取得した顔面変化情報は、顔面変化情報分解部443に送出される。なお、撮像部415が赤外線カメラの場合、顔面変化情報取得部442は、顔面データとして、対象者300の顔面の皮膚温度を示す顔面皮膚温度データを取得する。また、撮像部415がCCD及びCMOS等の固体撮像素子の場合、顔面変化情報取得部442は、顔面データとして、対象者300の顔面のRGBデータに基づく顔面血行量データを取得する。なお、顔面変化情報取得部442は、顔面データとして、対象者300の、副鼻腔周辺及び/又は前額部のデータだけを取得するものでもよい。
【0165】
顔面変化情報分解部443は、多数のデータの集合である顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分1,2,3,・・・に分解する。分解した各成分の情報は、判定用成分抽出部444に送出される。ここで、顔面変化情報を特異値分解等した場合、特異値の高いものから成分1,2,3,・・・と設定される。また特異値の高い成分ほど、変動の大きいものの影響が反映されやすい。そのため、成分1には、脳機能賦活情報が提供されることの影響より、外部環境のノイズ等の影響が反映されることが少なくない。
【0166】
判定用成分抽出部444は、複数の成分1,2,3・・・から、脳機能賦活情報と関連する成分を「判定用成分」として抽出するものである。具体的には、判定用成分抽出部444は、顔面変化情報分解部443により求められた複数の成分1,2,3,・・・と脳機能賦活情報に対応する「判定用波形」との相関値rを算出する。次に、判定用成分抽出部444は、算出された相関値rが所定値以上である場合、その相関値rに対応する成分を脳機能賦活情報に関連するものとして設定する。そして、判定用成分抽出部444は、危険率の値に基づいて、判定用成分を抽出する。すなわち、判定用成分抽出部444は、危険率が低い成分を判定用成分として抽出する。抽出された判定用成分及び算出した相関値rは記憶部430又は精神疾患判定部445に送出される。なお、上述の「判定用波形」として、人間の生理的反応を考慮した変形波が用いられる。また、判定用波形は、情動刺激情報を提供してから所定時間経過後に変位するものである。具体的には、判定用波形として矩形波を採用することができる。また、判定用波形として、矩形波とレッドスポット・ダイナミック・レスポンス・ファンクション(Redspot-dynamic response function)とをコンボリューションした波形を採用することもできる。レッドスポット・ダイナミック・レスポンス・ファンクションは、脳機能賦活情報を一瞬与えたときの顔面変化情報分解部443により分解された複数の成分1,2,3,・・・のうち相関の認められた成分を複数回算出し、算出した複数の成分の平均値等から生成される。この際、振幅(高さ方向)については任意単位であり絶対値を規定できないので、安静時のシグナルをベースライン値とし、その値を基準として波形の高さが決定される。そして、複数の被験者から得られたデータの重ね合わせの平均値が計算されてレッドスポット・ダイナミック・レスポンス・ファンクションが生成される。なお、レッドスポット・ダイナミック・レスポンス・ファンクションの初期値は、情動刺激情報が一瞬与えられたときは図25に示すような波形となる。そして、情動刺激情報が一定時間与えられたときは、矩形波とコンボリューションすることにより作成される。レッドスポット・ダイナミック・レスポンス・ファンクションでは、変位が増加するに従い、ピーク時点からピーク値が横軸方向に延長される波形となる。また、レッドスポット・ダイナミック・レスポンス・ファンクションでは、脳機能賦活情報の提供(刺激)が終了した時点から位相が遅れて変位が低下する波形となる。このようなレッドスポット・ダイナミック・レスポンス・ファンクションは、顔面変化情報から得られた成分と有意な相関が認められる場合には、その相関波形に形状が近いため、矩形波等よりも高い相関値を示す。そのため、判定用成分の抽出精度を高めることができる。
【0167】
精神疾患判定部445は、ネガティブ画像等の提供に応じて抽出された基準判定用成分に対する基準相関値r1と、ポジティブ画像等の提供に応じて抽出された判定用成分に対する相関値r2との差Δrを算出する。そして、精神疾患判定部450は、判定情報データベース432に記憶された判定情報に基づいて、基準相関値r1及び相関値r2の差Δrに対応する、「状態レベル」を決定する。決定された状態レベルは、出力部420を介して表示装置等に出力される。
【0168】
(7−2)精神疾患判定装置の動作
図26は、精神疾患判定装置400の動作を示すフローチャートである。なお、以下の説明においては、精神疾患の状態として、「うつ状態」の判定を行なうものを例として説明する。
【0169】
まず、入力部410等を介して測定開始の指示が精神疾患判定装置400に入力される。この際、被験者である対象者300の名前及び/又は被験者番号等が入力される。続いて、出力部420に誘導画面が表示され、対象者300の顔面が誘導画面の中央に位置するように誘導される。
【0170】
そして、脳機能賦活情報の出力指示が、精神疾患判定装置400に入力される。これにより、脳機能賦活情報データベース431から脳機能賦活情報が読み出され、図27に示すような表示画面に脳機能賦活情報が出力部420を介して出力される(S1)。ここでは、脳機能賦活情報として、非賦活情報(安静画像等)、ネガティブ画像等及びポジティブ画像等が出力部420に順次出力される。なお、安静画像は、白紙、クロスマーク、中間的な画像である。
【0171】
次に、脳機能賦活情報の出力と同時又は所定のタイミングで、撮像部415により出力部420の前方にいる対象者300の顔面画像が所定間隔毎に撮像される(S2)。撮像された顔面画像は顔面変化情報取得部442に送出される。そして、所定時間が経過すると、画像表示を終了し、同時に顔面の動画撮影も終了する。この際、図28に示すように、取得した顔面画と、その時に表示していた情動画像等とを表示して、両者の内容を確認することも可能である。
【0172】
続いて、精神疾患判定装置400において、撮像された顔面画像の解析が実行される。具体的には、顔面変化情報取得部442により、撮像された顔面画像から、対象者300の顔面データの時系列変化を示す顔面変化情報が取得される。そして、顔面変化情報分解部443により、顔面変化情報が、特異値分解、主成分分析或いは独立成分分析されて、複数の成分1,2,3,・・・に分解される(S3)。
【0173】
次に、判定用成分抽出部444により、顔面変化情報分解部443により分解された複数の成分1,2,3・・・と、脳機能賦活情報に対応する判定用波形との相関値が算出される。そして、判定用成分抽出部444により、相関値が所定値以上であるか否かが判定される(S4)。所定値以上であると判定された場合、脳機能賦活情報と当該成分とに「相関がある」と判断される(S4−Yes)。そして、判定用成分抽出部44では、相関がある成分のうち、危険率の低い成分が「判定用成分」として抽出される(S5)。また、判定用成分抽出部444は、脳機能賦活情報と判定用成分との相関値を、ポジティブ画像等及びネガティブ画像等の種別に区分して記憶部430に格納する(S6)。一方、脳機能賦活情報と、各成分1,2,3・・・との相関値が所定値未満である場合は、両者には「相関がない」と判断され、その情報が記憶部430に格納される(S4−No,S6)。
【0174】
この後、上記ステップS1〜S6が所定回数実行される(S7)。そして、精神疾患判定部445により、ネガティブ画像等の提供に応じて抽出された基準判定用成分に対する基準相関値r1と、ポジティブ画像等の提供に応じて抽出された判定用成分に対する相関値r2との差である変化量Δrが算出される(S8)。
【0175】
続いて、精神疾患判定部450により、基準相関値r1に対する相関値r2の変化量Δrが所定範囲内であるか否かが判定される(S9)。所定範囲であるか否かは、判定情報データベース432に記憶された判定情報と照合されて判定される。基準相関値r1に対する相関値r2の変化量Δrが所定範囲である場合、精神疾患判定部445により、対象者300は「正常」であると判定される(S9−Yes,S10)。一方、基準相関値r1に対する相関値r2の変化量Δrが所定範囲でない場合、精神疾患判定部445により、対象者300は「うつ状態」であると判定される(S9−No,S11)。例えば、変化量Δrが上述したΔra〜Δrbの範囲内であるときには正常と判定され、変化量ΔrがΔrbを超えているときには、うつ状態と判定される。これらの判定結果は、出力部420を介して判定結果として表示装置等に出力される(S12)。なお、この際、出力部420には、図29に示すような解析波形が表示されてもよい。また、図30に示すような分布図が表示されてもよい。ここで、図30の右側のカラースケール又はグレースケール(j1)は、状態レベル(ここでは、うつ状態レベル)を表現するものである。また、図30の左側の二次元分布(j2)は、横軸がネガティブ画像等に対する反応の程度を示しており、縦軸がポジティブ画像等に対する反応の程度を示しており、プロットされたポイントhが当該被験者の状態を示している。
【0176】
この後、精神疾患判定装置400は、装置利用者の入力指示に応じてデータを保存する。具体的には、精神疾患判定装置400は、被験者毎に、判定結果のデータ、解析波形、測定結果、画像表示条件等を関連付けて記憶部に記憶する。
【0177】
(7−3)精神疾患判定装置の特徴
(7−3−1)
以上説明したように、本実施形態に係る精神疾患判定装置400は、脳機能賦活情報提供部(情動刺激情報提供部)441と、顔面変化情報取得部442と、顔面変化情報分解部443と、判定用成分抽出部444と、精神疾患判定部445と、を備える。脳機能賦活情報提供部441は、人間の脳機能を賦活する「脳機能賦活情報」を対象者300に提供する。脳機能賦活情報としては、例えば「情動刺激情報」が提供される。顔面変化情報取得部442は、対象者300の顔面データの時系列変化を示す「顔面変化情報」を取得する。顔面変化情報分解部443は、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析により複数の成分1,2,3,・・・に分解する。判定用成分抽出部444は、複数の成分1,2,3,・・・から、脳機能賦活情報と関連する成分を「判定用成分」として抽出する。精神疾患判定部445は、判定用成分に基づいて、対象者300の精神疾患の状態を判定する。
【0178】
したがって、本実施形態に係る精神疾患判定装置400では、顔面変化情報を、特異値分解・主成分分析・独立成分分析することで得られた複数の成分1,2,3,・・・から、脳機能賦活情報と関連する判定用成分を抽出するので、装着前に前処理の必要な電極等を使用しなくても、対象者300の脳活動の有無を容易に推定できる。これにより、対象者300の脳機能に対応する判定用成分に基づいて、対象者300の精神疾患の状態を容易に判定できる。
【0179】
なお、本実施形態に係る精神疾患判定装置400は、図31に示すように、スマートデバイスに組み込まれる形態で実現することが可能である。また、精神疾患判定装置400は、図32に示すように、ノート型PCに組み込まれる形態で実現することも可能である。これらの形態であれば、任意の場所で容易に、精神疾患判定を実行できる。
【0180】
なお、上述の説明においては、精神疾患の状態として、「うつ状態」の判定を行なうものを例として説明したが、精神疾患判定装置400は、上記構成で判定し得るすべての精神疾患を判定し得るものである。例えば、精神疾患判定装置400は、判定用成分に基づいて、気分障害、不安障害、物質関連障害、認知症、及び自閉症のいずれか一つの状態又は任意の組み合わせの状態を判定できる。特に、精神疾患判定部445は、上記気分障害の状態として、うつ状態、統合失調症、双極性障害のいずれか一つの状態又は任意の組み合わせの状態を判定できる。なお、うつ状態を判定する場合は、主に、ポジティブ画像等に対する反応とネガティブ画像等に対する反応とを比較していたが、他の精神疾患の状態を判定する場合には、それに応じた処理を実行する。
【0181】
また、本実施形態に係る精神疾患判定装置400においては、脳機能賦活情報提供部441が、情動画像を提示するものではなく、対象者300の聴覚、嗅覚、味覚、触覚、体性感覚のいずれか一つ又な任意の組み合わせの感覚を刺激して感情を変化させる「情動刺激情報」を提供するものでもよい。すなわち、情動刺激情報は視覚を刺激するものではなく、他の感覚を刺激するものでもよい。具体的には、気分をリラックスさせるポジティブ音、及び気分を害するネガティブ音を用いてもよい。これらの情報でも情動画像を提示したときと同様の結果を得ることができる。
【0182】
また、本実施形態に係る精神疾患判定装置400においては、脳機能賦活情報提供部441が、対象者300の聴覚、嗅覚、味覚、触覚、体性感覚のいずれか一つ又な任意の組み合わせの感覚を刺激する情動刺激情報を提供することに加えて、情動画像を提示する構成でもよい。このような構成により、異なる脳領域を刺激することができ、種々の精神疾患の判定が可能となる。例えば、視覚を刺激する情報であれば、脳の後頭部に関連する疾患であり、聴覚を刺激する情報であれば、脳の側頭部及び前頭部に関連する疾患であることを診断できる。さらに言えば、顔画画像の情報を用いることで、認知症、自閉症の診断ができ、声の音声情報を用いることで不安障害の診断ができる。
【0183】
(7−3−2)
また、本実施形態に係る精神疾患判定装置400は、顔面変化情報取得部442が、顔面データとして、対象者300の、副鼻腔周辺及び/又は前額部のデータを取得するので、脳活動と関連する判定用成分を高精度に抽出できる。ここで、脳には、選択的脳冷却機構(Selective Brain Cooling System)という体温とは独立して脳を冷却する仕組みがある。選択的脳冷却機構は、脳活動によって生じた熱を、副鼻腔及び前額部周辺を用いて排熱する。よって、これらの部位のデータを解析することで脳活動と関連する成分を高精度に抽出できる。結果として、本実施形態に係る精神疾患判定装置400は、精神疾患の判定を高精度に実行できる。
【0184】
(7−3−3)
また、本実施形態に係る精神疾患判定装置400は、顔面変化情報取得部442が、顔面データとして、対象者300の顔面の皮膚温度を示す顔面皮膚温度データを取得する。換言すると、精神疾患判定装置400は、赤外線カメラ等を利用して、精神疾患の状態を判定できる。
【0185】
(7−3−4)
また、本実施形態に係る精神疾患判定装置400は、顔面変化情報取得部442が、顔面データとして、対象者300の顔面のRGBデータに基づく顔面血行量データを取得する。すなわち、精神疾患判定装置400は、固体撮像素子(CCD,CMOS)を利用して精神疾患の状態を判定できる。これにより、精神疾患の判定を簡易な構成で実行できる。
【0186】
(7−3−5)
また、本実施形態に係る精神疾患判定装置400は、判定用成分抽出部444が、危険率の値に基づいて、判定用成分を抽出する。精神疾患判定装置400では、危険率の値に基づいて、脳機能賦活情報と関連する判定用成分を抽出するので、精神疾患の判定の信頼性を高めることができる。
【0187】
(7−3−6)
また、本実施形態に係る精神疾患判定装置400は、脳機能賦活情報提供部441が、脳機能賦活情報として、ネガティブ画像等又はポジティブ画像等に分類された情動画像を提供するので、脳活動に関連する判定用成分を抽出できる。結果として、対象者の精神疾患の状態を容易に判定できる。
【0188】
(7−3−7)
また、本実施形態に係る精神疾患判定装置400は、ポジティブ画像等の提供に応じて算出される判定用成分の相関値r2の、ネガティブ画像等の提供に応じて算出された基準判定用成分の基準相関値r1からの所定範囲の変化量Δrを、状態レベルに関連付けて「判定情報」として記憶する判定情報データベース432を備える。そして、精神疾患判定部445が、ポジティブ画像等の提供に対する判定用成分の相関値r2を算出し、算出した相関値r2及び判定情報に基づいて、対象者300の状態レベルを判定する。
【0189】
このような構成により、精神疾患判定装置400は、ポジティブ画像等の提供に応じて抽出された判定用成分を利用して、精神疾患の状態レベルを容易に判定できる。要するに、精神疾患判定装置400は、精神疾患の有無を判定するだけでなく、精神疾患の状態レベルを判定して出力できる。
【0190】
(7−3−8)
本実施形態に係る精神疾患の状態を判定する判定方法は、必ずしも精神疾患判定装置400を必要とするものではない。すなわち、本実施形態に係る精神疾患判定方法は、精神疾患判定装置400の有無に関わらず、人間の脳機能を賦活する脳機能賦活情報として、ポジティブ画像等に分類された情動刺激情報を対象者300に提供する脳機能賦活情報提供ステップと、ポジティブ画像等を提供した後、対象者300の顔面データの時系列変化を示す「顔面変化情報」を取得する顔面変化情報取得ステップと、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析することにより複数の成分に分解する顔面変化情報分解ステップと、複数の成分から、脳機能賦活情報と関連する成分を判定用成分として抽出する判定用成分抽出ステップと、判定用成分に基づいて、対象者300の精神疾患の状態を判定する、判定ステップと、を備えるものであればよい。
【0191】
このような判定方法によれば、情動刺激の提供後に、顔面変化情報を、特異値分解、主成分分析或いは独立成分分析することで得られた複数の成分から、脳機能賦活情報と関連する判定用成分を抽出して精神疾患の状態を判定するので、対象者300の精神疾患の状態を容易に判定できる。
【0192】
(7−3−9)
なお、上記精神疾患判定装置400では、ネガティブ画像等の提供に応じて基準相関値r1を設定しているが、ポジティブ画像等の提供に応じて基準相関値を設定してもよい。この場合、判定情報データベース432には、ネガティブ画像等の提供に応じて抽出される判定用成分の相関値r4の、ポジティブ画像等の提供に応じて抽出された基準用判定成分の「基準相関値」r3からの所定範囲の変化量Δr(=r4−r3)が、「状態レベル」と関連付けて予め「判定情報」として記憶される。また、精神疾患判定部445により、ポジティブ画像等の提供に応じて算出された基準相関値r3と、ネガティブ画像等の提供に応じて算出された相関値r4との差Δrが算出される。そして、精神疾患判定部445は、判定情報データベース432に記憶された判定情報に基づいて、基準相関値r3及び相関値r4の差Δrに対応する、精神疾患の状態レベルを決定する。
【0193】
(7−3−10)
なお、精神疾患判定装置400は、上述したように判定用成分に対する相関値の、基準値からの所定範囲の変化量を用いて精神疾患の状態を判定するもののみならず、判定用成分に対して重回帰分析により得られる値、判定用波形が生成する面積、判定用波形の平均値、判定用波形の重心値のいずれか一つ又は任意の組み合わせに基づいて、精神疾患の状態を判定するものでもよい。補足すると、「重回帰分析」を用いると、複数刺激による反応の相関値を容易に数量化できる。「相関値」用いると、単一刺激による反応の相関値を容易に数量化できる。「面積」を用いると、反応の絶対値を容易に数量化できる。「平均値」を用いると、反応の絶対値を容易に数量化できる。また、面積と比較して、ノイズを低減できる。「重心値」を用いると、反応の絶対値を容易に数量化できる。また、面積と比較して、どのタイミングで反応が生じたかを容易に判定できる。
【0194】
(7−3−11)
また、本実施形態に係る精神疾患判定装置400は、判定用成分抽出部444が、情動刺激情報に対応する判定用波形と複数の成分との相関値に基づいて、判定用成分を抽出する。このような構成により、対象者の脳機能に対応する判定用成分を特定することができる。
【0195】
また、ここでは、判定用波形として、人間の生理的反応を考慮した変形波を採用することができる。また、判定用波形は、情動刺激情報を提供してから所定時間経過後に変位するものである。このような判定用波形は、顔面変化情報から得られた成分と有意な相関が認められる場合には高い相関値を示すので、判定用成分の抽出精度を高めることができる。また、脳の反応に対して少し位相を遅らせることで精度の高い相関を得ることができる。具体的に、判定用波形として、レッドスポット・ダイナミック・レスポンス・ファンクションを採用することができる。レッドスポット・ダイナミック・レスポンス・ファンクションは、脳賦活情報を一瞬与えたときの顔面変化情報分解部443により分解された複数の成分1,2,3,・・・のうち相関の認められた成分を複数回算出し、算出した複数の成分から生成されるものである。レッドスポット・ダイナミック・レスポンス・ファンクションは、過去の履歴に基づいて最適化されているので、顔面変化情報から得られた成分と有意な相関が認められる場合には高い相関値を示す。これにより、判定用成分の抽出精度を高めることができる。
【0196】
また、判定用波形として、矩形波を採用することもできる。矩形波は情動刺激情報が提供されているか否かに対応させることができるので、判定用成分を容易に抽出できる。
【0197】
(7−4)精神疾患判定装置の変形例
(7−4−1)
本実施形態に係る精神疾患判定装置400は、図33に示すように、ネットワーク上に設けられた判定情報提供装置500等を利用するものでもよい。
【0198】
ここで、判定情報提供装置500は、記憶部530と処理部540とを備える。
【0199】
記憶部530は、判定情報データベース532を有する。この判定情報データベース532は、上述した判定情報データベース432と同様の構成である。すなわち、判定情報データベース532は、ポジティブ画像等の提供に応じて算出される判定用成分の相関値r2の、ネガティブ画像等の提供に応じて算出された基準判定用成分の基準相関値r1からの所定範囲の変化量Δrを、精神疾患の状態レベルに関連付けて判定情報として記憶する。
【0200】
処理部540は、精神疾患判定装置400からの要求に応じて、判定情報データベース532に格納された判定情報を送信する。なお、処理部540は、精神疾患判定装置400で抽出された判定用成分とは独立して、所定の情報に基づいて判定情報をビッグデータとして生成する機能を有するものでもよい。また、処理部540は、精神疾患判定装置400で基準相関値r1が算出された場合、判定情報データベース432に記憶されている基準相関値r1を更新する処理を随時実行する。
【0201】
本変形例では、上述した判定情報提供装置500に、精神疾患判定部445が判定情報の提供を要求する。詳しくは、本変形例に係る精神疾患判定装置400では、判定情報データベース532が、ネットワーク上の判定情報提供装置500に格納されており、精神疾患判定部445が、精神疾患の状態レベルを判定する際に、判定情報提供装置500にアクセスする。そして、精神疾患判定部445が、算出した相関値r2及び判定情報に基づいて、対象者300の精神疾患の状態レベルを判定する。
【0202】
したがって、本変形例の精神疾患判定装置400であれば、精神疾患判定部445が、ネットワーク上の判定情報提供装置500を利用して、対象者300の精神疾患の状態レベルを判定できる。
【0203】
また、精神疾患判定部445が、外部ネットワーク上の判定情報提供装置500に記憶された基準判定用成分を用いて精神疾患の状態を判定するので、ネガティブ画像等の提供を省略することもできる。すなわち、図34に示すように、脳機能賦活情報として、ポジティブ画像等のみを提供する形態を採用することが可能である。
【0204】
図34は本変形例における、精神疾患の状態を判定する判定方法を説明するためのフローチャートである。本変形例では、脳機能賦活情報として、ポジティブ画像等のみが対象者300に提供される(V1)。ステップV2〜V7においては、上述したステップS2〜S7と同様の処理が行なわれる。これにより、精神疾患判定装置400において、ポジティブ画像等の提供に応じて算出された相関値r2が算出される。次に、ステップV8において、精神疾患判定装置400から判定情報提供装置500に対して判定情報の送信要求が行なわれる。これにより、精神疾患判定装置400において、ネガティブ画像等の提供に応じて算出された基準相関値r1が取得される。続いて、精神疾患判定部445により、基準相関値r1に対する相関値r2の変化量Δrが所定範囲内であるか否かが判定される(V9〜12)。そして、判定結果が、出力部420を介して表示装置等に出力される(S13)。このようにして、外部ネットワーク上の判定情報提供装置500に記憶された基準判定用成分を用いて精神疾患の状態が判定される。
【0205】
なお、上述した各ステップの一部は、精神疾患判定装置400を用いずに実行されてもよいものである。
【0206】
さらに、本変形例の精神疾患判定方法によれば、ビッグデータを用いた、精神疾患の状態の判定が実現できる。すなわち、基準相関値r1及び所定の変化量Δrをビッグデータから求める。具体的には、対象者300以外の者に、ネガティブ画像等を提供して基準判定用成分を抽出し、この基準判定用成分に基づいて算出された基準相関値r1を用いる。これにより、判定情報を随時最適化することができる。
【0207】
なお、上記変形例において、ポジティブ画像等のみを提供して、精神疾患の状態を判定する方法を説明したが、ネガティブ画像等のみを提供して、精神疾患の状態を判定する方法も実現可能である。すなわち、ネガティブ画像等に対する相関値が、ネットワーク上の判定情報提供装置に記憶された基準相関値よりも高い値を示す場合に、うつ状態等であると判定してもよい。
【0208】
(7−4−2)
本実施形態に係る精神疾患判定装置400は、対象者の自律神経活動を測定する自律神経活動測定部をさらに備えるものでもよい。そして、精神疾患判定部445が、自律神経活動に基づいて、精神疾患の種類を判定する。この構成であれば、情動刺激による反応の、自律神経由来と脳活動由来との割合を判定できるので、種々の疾患の種類を判定することができる。例えば、判定できる疾患の種類として、「うつ病性障害/大うつ病性障害、気分変調性障害、特定不能のうつ病性障害、抑うつ関連症候群」「双極性障害/双極I型障害、双極II型障害」「統合失調症」「発達障害/広汎性発達障害(自閉症、アスペルガー症候群、トゥレット症候群)、学習障害LD、注意欠陥多動性障害ADHD」「知的障害」「不安障害/全般性不安障害、パニック障害、社交不安障害、強迫性障害、解離性障害、適応障害」「認知症/アルツハイマー型認知症、脳血管性認知症、レビー小体型認知症、前頭側頭型認知症」「物質使用障害」「症状性を含む器質性精神障害」「てんかん」「パーソナリティー障害」などがある。
【0209】
(7−4−3)
本実施形態に係る精神疾患判定装置400は、対象者300の視線を測定する視線測定部をさらに備えるものでもよい。そして、精神疾患判定部445が、対象者300の視線に基づいて、信頼性の低い判定結果を除外する。このような構成により、対象者300が画像情報を認識しているか否かを判定できるので、信頼性の低い判定結果を除外できる。
【0210】
(7−5)精神疾患判定装置の検証試験
(7−5−1)
本実施形態に係る精神疾患判定装置の検証試験を次の条件で行なった。ここでは、精神疾患の状態として、「うつ状態」の判定の検証を行なった。
【0211】
本試験では、ネガティブ画像及びポジティブ画像の写真を各25枚使い、1枚に対して4.8秒間提示した。写真は大型テレビを映すように、その1メートル前に被験者が座るようにした。測定に際し、顔面追尾機能を有するカメラでRGB画像データを取得した。また、測定は最初2分間を安静とし、次の2分間に情動画像を提示し、次の2分間を安静として測定した。
【0212】
図35は、ある対象者にポジティブ画像を提示したときの判定用成分の波形であり、図36はネガティブ画像を提示したときの判定用成分の波形である。図35及び図36の例において、(a)の部分は判定用成分の波形を示し、(b)の部分はポジティブ画像又はネガティブ画像を提示したタイミングを示している。ここでは、ポジティブ画像の提供に対して判定用成分の相関値は、0.86であった。しかし、ネガティブ画像の提供に対しても判定用成分の相関値は、0.86を示した。したがって、ポジティブ画像の提供だけではなく、ネガティブ画像の提供においても判定用成分と相関があることが確認された。当該対象者は、CES−Dのうつ病尺度でうつ病得点が3点であったので、正常範囲ではあるものの「わずかにうつ傾向」がある者であった。以上のことから、情動画像の提供により、脳機能の賦活化が推定でき、生理状態、特に「うつ状態」の判定に利用できることが確認された。
【0213】
(7−5−2)
また、本実施形態に係る精神疾患判定装置400の検証試験を次の条件で行なった。ここでは、精神疾患の状態として、「うつ状態」の判定の検証を行なった。
【0214】
本試験では、8名の被験者から顔面画像を取得した。具体的には、実験室に設置したヘッドレストのついた椅子に被験者を座らせて、ノートパソコンのRGBカメラを用いて、被験者の顔面全体の鼻部周辺の撮影画像データを時系列で取得した。
【0215】
なお、本試験では、ノートパソコンとして、Apple Inc.製のMacBook Air(登録商標)の備える液晶画面側の撮影装置を使用し、時系列の顔面画像をカラーの動画データで取得した。また、ノートパソコンは、被験者の正面側であって、被験者から0.5m離れた地点に設置した。そして、撮影装置によって、10フレーム/秒の撮影周期で時間軸に沿って130秒間の撮影画像データを連続撮影することで、顔面の動画データを得た。
【0216】
また、本試験では、顔面画像を取得している間に、被験者に対して脳機能賦活情報を与えた。脳機能賦活情報としては、表示装置等に表示された映像に基づいて、画像、又は、動画、及び模式図の認知等を被験者に対して行なわせるもの、或いは、記号、文字ないし言語の記憶などの心理的作業を被験者に対して行なわせるもの、或いは、聴覚を刺激して言葉の理解、音楽ないし環境音の認知等を被験者に対して行わせるもの、或いは、嗅覚を刺激して臭気ないしアロマの認知等を被験者に対して行わせるもの、或いは、体性感覚を刺激して痛覚ないし触覚の認知等を被験者に行わせるものが挙げられる。本試験では、脳機能賦活情報として「ポジティブ画像およびネガティブ画像」を採用した。また前提として、被験者に、表示装置に連続する画像を注視する作業を課した。
【0217】
本試験では、図37に示すように、顔面画像の取得開始から30秒間は「安静画像」を提示する状態(「安静1」)、次の20秒間は「ネガティブ画像」を提示する状態(「情動1」)、次の30秒間は「安静画像」を提示する状態(「安静2」)、次の20秒間は「ポジティブ画像」を提示する状態(「情動2」)、次の30秒間は「安静画像」を提示する状態(「安静3」)となるように、被験者に対して脳機能賦活情報(情動画像情報)を与えた。
【0218】
顔面画像の解析としては、撮影した顔面の動画データより得られたRGBデータに基づき血行量データを算出し、MATLAB(登録商標)のSVD(Singular Value Decomposition)を分析ツールとして用いて特異値分解を行った。ここでは、CIE−L*a*b*表色系に従って、画像のRGBデータより演算される肌の赤みやヘモグロビン量と相関のある紅斑指数「a*」を求め、これを血行量データとした。また、特異値分解では、時系列で取得した全ての動画データ(130秒間のデータ)から得られたRGBデータに基づく血行量データ(ここでは、紅斑指数)を対象とし、要因を1秒毎の時間データ(130秒間で130 time point)とし、測度をその期間(1秒毎)におけるRGBデータから演算した紅斑指数(1秒間のフレームデータを取り出し、該フレームデータから得られるRGB値の平均値から演算した紅斑指数であり、動画データに合わせて調整したもの)とした。そして、特異値分解により、顔面の動画データより得られたRGBデータに基づく時系列の血行量データを、複数の成分に分解し、それぞれの成分の時間分布Vと、空間分布Uと、各成分の大きさを示す特異値Sとを算出した。なお、これらの関係は、以下の式で表される。また、V’は、Vの行と列とを入れ替えた行列である。
【0219】
【数2】
【0220】
そして、特異値分解によって求められた各成分の時間分布V及び空間分布Uをグラフにプロットし、各成分の成分波形図と血行量分布図とを作成した。
【0221】
さらに、作成した各成分の成分波形図及び血行量分布図について、情動活動を反映した顔面の血行量の変化すなわち顔面のRGB変化を示す成分を同定するための解析を行った。各成分の成分波形図については、その成分波形の振幅と、安静画像を提供時並びにポジティブ画像及びネガティブ画像の2種類の情動画像提供時との相関関係の有無について解析した。具体的には、各成分の成分波形図に示された振幅と、安静期間/2種類の脳機能賦活期間との間に相関関係があるか否かを評価した。
【0222】
本試験では、図37に示すように、顔面の撮影画像データを取得している期間のうち、被験者に対して脳機能賦活情報(情動画像)が与えられていない期間であるデータ取得開始時点から30秒が経過した時点までの20秒間の期間、及びデータ取得開始時から50秒が経過した時点から次の脳機能賦活情報(情動画像)が与えられるまでの20秒間の期間を脳の「安静時」とした。また、被験者に対してネガティブ画像等が与えられている期間であるデータ取得開始時から30秒が経過した時点から50秒が経過した時点までの20秒間の期間を「ネガティブ情動賦活時」とした。そして、各成分の成分波形図に示された振幅と、脳の安静時及びネガティブ情動賦活時との相関関係の有無について評価した。
【0223】
また、顔面の撮影画像データを取得している期間のうち、被験者に対して脳機能賦活情報が与えられていない期間であるデータ取得開始60秒時点から80秒が経過した時点までの20秒間の期間、及びデータ取得開始時から100秒が経過した時点から20秒間の期間を脳の「安静時」とした。また、被験者に対してポジティブ画像等が与えられている期間であるデータ取得開始時から80秒が経過した時点から100秒が経過した時点までの20秒間の期間を「ポジティブ情動賦活時」とした。そして、各成分の成分波形図に示された振幅と、脳の安静時、並びにネガティブ情動賦活時及びポジティブ情動賦活時との相関関係の有無について評価した。なお、相関関係の有無については、統計的相関分析を行い、有意水準(α)が0.05以下の場合に相関があると判断した。
【0224】
そして、各成分の血行量分布図については、顔面の所定部位における血行量変化の有無について解析した。血行量分布図は、ピクセル毎に算出された空間分布Uを各ピクセルの位置に並べることで作成した。このように作成された各成分の血行量分布図において、鼻部周辺及び前額部における血行量の変化があるか否かを評価した。
【0225】
なお、空間分布U、特異値S及び時間分布Vの値の関係で、血行量データXの極性(プラスマイナス)が決定するため、各成分の成分波形図及び血行量分布図において極性が反転して現れることがある。このため、成分波形図及び血行量分布図の評価に関して、極性については評価対象としないこととした。
【0226】
上記条件のもと、図38、39に示すような結果が得られた。図38は、ネガティブ画像を提示したときの波形例を示している。実線y1は、ある被験者の成分2の波形であり、点線y2は、ネガティブ画像に対応する判定用波形である。また、図39は、ポジティブ画像を提示したときの波形例を示している。実線y3は、同一被験者の成分3の波形であり、点線y4は、ポジティブ画像に対応する判定用波形である。
【0227】
このような結果から、脳機能賦活情報(情動画像)に応じて判定用成分が抽出でき、精神疾患の状態を判定できることが認識できた。
【0228】
<付記>
なお、本発明は、上記実施形態そのままに限定されるものではない。本発明は、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、本発明は、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより種々の発明を形成できるものである。例えば、実施形態に示される全構成要素から幾つかの構成要素は削除してもよいものである。さらに、異なる実施形態に構成要素を適宜組み合わせてもよいものである。
【産業上の利用可能性】
【0229】
本発明によれば、簡便に脳活動を推定することができるため、脳活動に基づき対象者の生理状態を可視化する脳活動可視化装置への適用が有効である。
【符号の説明】
【0230】
10 脳活動可視化装置
20 顔面皮膚温度取得手段
30 脳活動推定手段
110 脳活動可視化装置
120 画像データ取得手段
130 脳活動推定手段
200 状態可視化手段
201 解析部
300 対象者
400 精神疾患判定装置
410 入力部
415 撮像部
420 出力部
430 記憶部
431 脳機能賦活情報データベース
432 判定情報データベース(判定情報記憶部)
440 処理部
441 脳機能賦活情報提供部
442 顔面変化情報取得部
443 顔面変化情報分解部
444 判定用成分抽出部
445 精神疾患判定部
500 判定情報提供装置
530 記憶部
532 判定情報データベース(判定情報記憶部)
540 処理部
【先行技術文献】
【特許文献】
【0231】
【特許文献1】特開2013−176406号公報
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26A
図26B
図27
図28
図29
図30
図31
図32
図33
図34
図35
図36
図37
図38
図39