IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ トヨタ紡織株式会社の特許一覧

特開2022-133877リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置
<>
  • 特開-リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置 図1
  • 特開-リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置 図2
  • 特開-リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置 図3
  • 特開-リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置 図4
  • 特開-リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置 図5
  • 特開-リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置 図6
  • 特開-リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置 図7
  • 特開-リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置 図8
  • 特開-リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置 図9
  • 特開-リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置 図10
  • 特開-リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置 図11
  • 特開-リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置 図12
  • 特開-リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置 図13
  • 特開-リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置 図14
  • 特開-リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置 図15
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022133877
(43)【公開日】2022-09-14
(54)【発明の名称】リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置
(51)【国際特許分類】
   A61B 5/16 20060101AFI20220907BHJP
   A61B 5/0245 20060101ALI20220907BHJP
   A61B 5/18 20060101ALI20220907BHJP
【FI】
A61B5/16 110
A61B5/0245 C
A61B5/18
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2021032807
(22)【出願日】2021-03-02
(71)【出願人】
【識別番号】000241500
【氏名又は名称】トヨタ紡織株式会社
(74)【代理人】
【識別番号】110000338
【氏名又は名称】特許業務法人HARAKENZO WORLD PATENT & TRADEMARK
(72)【発明者】
【氏名】中川 奈々子
(72)【発明者】
【氏名】川越 隆
(72)【発明者】
【氏名】林 和多留
【テーマコード(参考)】
4C017
4C038
【Fターム(参考)】
4C017AA02
4C017AB02
4C017BC21
4C017EE15
4C038PP03
4C038PQ04
4C038PS00
4C038PS07
(57)【要約】
【課題】被判定者の生体情報および顔表情の情報から精度よくリラックス度を判定する技術を実現する。
【解決手段】リラックス度判定装置(制御部1)は、心拍測定値取得部(11)で取得した被判定者の心拍測定値を参照して被判定者のリラックス度をリラックス度推定部(13)で推定し、顔表情情報取得部(12)で取得した被判定者の顔表情の情報に基づいてリラックス度をリラックス度補正部(14)で補正し、補正したリラックス度を被判定者のリラックス度と判定する。
【選択図】図1
【特許請求の範囲】
【請求項1】
被判定者の心拍測定値を取得する心拍測定値取得部と、
前記被判定者の顔表情の情報を取得する顔表情情報取得部と、
前記心拍測定値取得部が取得した心拍測定値を参照して前記被判定者のリラックス度を推定するリラックス度推定部と、
前記リラックス度推定部が推定したリラックス度を、前記顔表情情報取得部が取得した顔表情の情報に基づいて補正するリラックス度補正部と、を備え、
前記リラックス度補正部で補正されたリラックス度を前記被判定者のリラックス度と判定するリラックス度判定装置。
【請求項2】
前記リラックス度補正部は、前記被判定者の顔表情の情報のうち、
リラックス度の高さとより強く相関する顔表情の情報に応じて、前記被判定者のリラックス度を高くするように補正し、
リラックス度の高さとより低く相関する顔表情の情報に応じて、前記被判定者のリラックス度を低くするように補正する、
請求項1に記載のリラックス度判定装置。
【請求項3】
前記リラックス度補正部は、前記被判定者の顔表情の情報のうち、リラックス度の高さとより強く相関する顔表情の情報に応じて、前記被判定者のリラックス度の高い状態の種類をさらに分類する、請求項1または2に記載のリラックス度判定装置。
【請求項4】
前記心拍測定値取得部が取得した心拍測定値を参照して被判定者の心拍揺らぎの超低周波成分と高周波成分とを抽出する周波数成分抽出部をさらに備え、
前記リラックス度推定部は、前記周波数成分抽出部が抽出した前記超低周数波成分および前記高周波数成分に基づいて前記被判定者のリラックス度を推定する、
請求項1~3のいずれか一項に記載のリラックス度判定装置。
【請求項5】
前記周波数成分抽出部は、前記心拍測定値取得部が取得した心拍測定値を参照して被判定者の心拍揺らぎの大小を判定し、
前記リラックス度推定部は、前記周波数成分抽出部による心拍揺らぎの判定結果に基づいて、
前記心拍揺らぎが大きい場合では、前記超低周波数成分および前記高周波数成分に基づいて前記被判定者のリラックス度を推定し、
前記心拍揺らぎが小さい場合では、前記超低周波数成分に基づいて前記被判定者のリラックス度を推定する、
請求項4に記載のリラックス度判定装置。
【請求項6】
前記周波数成分抽出部は、被判定者の心拍揺らぎの移動平均に基づいて、被判定者の心拍揺らぎの超低周波数成分を抽出する、請求項4または5に記載のリラックス度判定装置。
【請求項7】
被判定者の心拍測定値の基準である基準データを取得する基準データ取得部をさらに備え、
前記リラックス度推定部は、前記基準データ取得部が取得した基準データを参照して前記被判定者のリラックス度を推定する、
請求項1~6のいずれか一項に記載のリラックス度判定装置。
【請求項8】
被判定者が存する環境を示す環境情報と、日時情報との少なくとも一方を含む外部要因情報を取得する外部要因情報取得部をさらに備え、
前記リラックス度推定部は、前記外部要因情報取得部が取得した外部要因情報を参照して前記被判定者のリラックス度を推定する、
請求項1~7のいずれか一項に記載のリラックス度判定装置。
【請求項9】
被判定者は移動体の搭乗者であって、
前記心拍測定値取得部は、移動体に搭載されている心拍センサから被判定者の心拍測定値を取得し、
前記顔表情情報取得部は、移動体に搭載されているカメラから被判定者の顔表情情報を取得する、請求項1~8のいずれか一項に記載のリラックス度判定装置。
【請求項10】
被判定者の心拍測定値を取得する心拍測定値取得ステップと、
前記被判定者の顔表情の情報を取得する顔表情情報取得ステップと、
前記心拍測定値取得ステップで取得した心拍測定値を参照して前記被判定者のリラックス度を推定するリラックス度推定ステップと、
前記リラックス度推定ステップで推定したリラックス度を、前記顔表情情報取得ステップで取得した顔表情の情報に基づいて補正するリラックス度補正ステップと、を含み、
前記リラックス度補正ステップで補正したリラックス度を前記被判定者のリラックス度と判定するリラックス度判定方法。
【請求項11】
被判定者の心拍測定値を取得する心拍測定値取得部と、
前記被判定者の顔表情の情報を取得する顔表情情報取得部と、
前記心拍測定値取得部が取得した心拍測定値を参照して前記被判定者のリラックス度を推定するリラックス度推定部と、
前記リラックス度推定部が推定したリラックス度を、前記顔表情情報取得部が取得した顔表情の情報に基づいて補正するリラックス度補正部と、
前記リラックス度補正部で補正されたリラックス度に応じた刺激を被判定者に提供する刺激提供部と、
を備えるリラックス誘導装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、リラックス度判定装置、リラックス度判定方法およびリラックス誘導装置に関する。
【背景技術】
【0002】
人間の感情を考慮した機械の制御のための一技術として、人間の感情を推定する技術が知られている。当該技術としては、被験者の表情および生体情報に基づいて被験者の感情を推定し、得られた推定結果を被験者による重み付けに基づいて組み合わせることにより、被験者の感情の最終的な推定結果を取得する技術が知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2012-59107号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上述のような従来技術は、被験者のリラックスの度合(リラックス度)を推定する観点では検討の余地が残されている。たとえば、上記特許文献1は、被験者のリラックス度の判定を開示していない。また、上記特許文献1の技術では、最終的な推定結果は、各指標による推定結果に対する被験者による重み付けを含むため、客観性に欠けることがある。このため、被験者の感情と検出される指標との関係について被験者の自覚が伴わない場合には不適切な重み付けがなされ、最終的な推定結果の精度が低下することがある。
【0005】
本発明の一態様は、被判定者の生体情報および顔表情の情報から精度よくリラックス度を判定する技術を実現することを目的とする。
【課題を解決するための手段】
【0006】
上記の課題を解決するために、本発明の一態様に係るリラックス度判定装置は、被判定者の心拍測定値を取得する心拍測定値取得部と、前記被判定者の顔表情の情報を取得する顔表情情報取得部と、前記心拍測定値取得部が取得した心拍測定値を参照して前記被判定者のリラックス度を推定するリラックス度推定部と、前記リラックス度推定部が推定したリラックス度を、前記顔表情情報取得部が取得した顔表情の情報に基づいて補正するリラックス度補正部と、を備え、前記リラックス度補正部で補正されたリラックス度を前記被判定者のリラックス度と判定する。
【0007】
また、上記の課題を解決するために、本発明の一態様に係るリラックス度判定方法は、被判定者の心拍測定値を取得する心拍測定値取得ステップと、前記被判定者の顔表情の情報を取得する顔表情情報取得ステップと、前記心拍測定値取得ステップで取得した心拍測定値を参照して前記被判定者のリラックス度を推定するリラックス度推定ステップと、前記リラックス度推定ステップで推定したリラックス度を、前記顔表情情報取得ステップで取得した顔表情の情報に基づいて補正するリラックス度補正ステップと、を含み、前記リラックス度補正ステップで補正したリラックス度を前記被判定者のリラックス度と判定する。
【0008】
これらの構成によれば、被判定者の心拍測定値および顔の表情の情報のそれぞれを適切に用いるリラックス度の判定が可能であることから、被判定者の生体情報および顔表情の情報から精度よくリラックス度を判定する技術を実現することができる。
【0009】
前記リラックス度補正部は、前記被判定者の顔表情の情報のうち、リラックス度の高さとより強く相関する顔表情の情報に応じて、前記被判定者のリラックス度を高くするように補正し、リラックス度の高さとより低く相関する顔表情の情報に応じて、前記被判定者のリラックス度を低くするように補正してもよい。
【0010】
この構成は、顔表情の情報をリラックス度の判定に適切に反映させることでリラックス度の判定の精度を高める観点からより一層効果的である。
【0011】
前記リラックス度補正部は、前記被判定者の顔表情の情報のうち、リラックス度の高さとより強く相関する顔表情の情報に応じて、前記被判定者のリラックス度の高い状態の種類をさらに分類してもよい。
【0012】
この構成は、顔表情の情報からリラックス度の種類を適切に分類することでリラックス度の判定の精度を高める観点からより一層効果的である。
【0013】
前記リラックス度判定装置は、前記心拍測定値取得部が取得した心拍測定値を参照して被判定者の心拍揺らぎの超低周波成分と高周波成分とを抽出する周波数成分抽出部をさらに備えもよく、前記リラックス度推定部は、前記周波数成分抽出部が抽出した前記超低周数波成分および前記高周波数成分に基づいて前記被判定者のリラックス度を推定してもよい。
【0014】
この構成は、リラックス度の推定処理における情報処理の負荷を軽減し、またリラックス度の推定の精度を高める観点からより効果的である。
【0015】
前記周波数成分抽出部は、前記心拍測定値取得部が取得した心拍測定値を参照して被判定者の心拍揺らぎの大小を判定してもよく、前記リラックス度推定部は、前記周波数成分抽出部による心拍揺らぎの判定結果に基づいて、前記心拍揺らぎが大きい場合では、前記超低周波数成分および前記高周波数成分に基づいて前記被判定者のリラックス度を推定し、前記心拍揺らぎが小さい場合では、前記超低周波数成分に基づいて前記被判定者のリラックス度を推定してもよい。
【0016】
この構成は、リラックス度の推定処理における情報処理の負荷を軽減し、またリラックス度の推定の精度を高める観点からより一層効果的である。
【0017】
前記周波数成分抽出部は、被判定者の心拍揺らぎの移動平均に基づいて、被判定者の心拍揺らぎの超低周波数成分を抽出してもよい。
【0018】
この構成は、被判定者の心拍揺らぎの特徴をより明確にすることができ、リラックス度の推定の精度を高める観点からより一層効果的である。
【0019】
前記リラックス度推定部は、前記基準データ取得部が取得した基準データを参照して前記被判定者のリラックス度を推定してもよい。
【0020】
この構成は、リラックス度を推定する際の被判定者の心拍測定値の状態を正確に把握し、リラックス度の推定の精度を高める観点からより一層効果的である。
【0021】
前記リラックス度判定装置は、被判定者が存する環境を示す環境情報と、日時情報との少なくとも一方を含む外部要因情報を取得する外部要因情報取得部をさらに備えてもよく、前記リラックス度推定部は、前記外部要因情報取得部が取得した外部要因情報を参照して前記被判定者のリラックス度を推定してもよい。
【0022】
この構成は、被判定者のリラックス度の推定に外部の要因による影響を適切に反映させられることから、リラックス度の推定の精度を高める観点からより一層効果的である。
【0023】
被判定者は移動体の搭乗者であってもよく、前記心拍測定値取得部は、移動体に搭載されている心拍センサから被判定者の心拍測定値を取得してもよく、前記顔表情情報取得部は、移動体に搭載されているカメラから被判定者の顔表情情報を取得してもよい。
【0024】
この構成は、移動体における被判定者のリラックス度の判定をより簡易に実施する観点、および、移動体における被判定者のリラックス度の判定結果を移動体の運用に常時活用する観点からより一層効果的である。
【0025】
さらに、上記の課題を解決するために、本発明の一態様に係るリラックス誘導装置は、被判定者の心拍測定値を取得する心拍測定値取得部と、前記被判定者の顔表情の情報を取得する顔表情情報取得部と、前記心拍測定値取得部が取得した心拍測定値を参照して前記被判定者のリラックス度を推定するリラックス度推定部と、前記リラックス度推定部が推定したリラックス度を、前記顔表情情報取得部が取得した顔表情の情報に基づいて補正するリラックス度補正部と、前記リラックス度補正部で補正されたリラックス度に応じた刺激を被判定者に提供する刺激提供部と、を備える。
【0026】
この構成によれば、被判定者の心拍測定値および顔の表情の情報のそれぞれを適切に用いるリラックス度の判定が可能であることから、被判定者の生体情報および顔表情の情報から精度よくリラックス度を判定する技術を実現することができる。また、上記の構成によれば、高い精度のリラックス度を参照して決定される刺激を被判定者に提供することにより、被判定者をより望ましいリラックス状態に誘導することができる。
【発明の効果】
【0027】
本発明の一態様によれば、被判定者の生体情報および顔表情の情報から精度よくリラックス度を判定する技術を実現することができる。
【図面の簡単な説明】
【0028】
図1】本発明の実施形態1に係るリラックス度判定装置の機能的構成を模式的に示すブロック図である。
図2】本発明の実施形態1に係るリラックス度の判定装置によるリラックス度の判定処理の一例の流れを示すフローチャートである。
図3】本発明の実施形態1における顔表情情報に基づくリラックス度の補正処理の第一の例の流れを示すフローチャートである。
図4】本発明の実施形態1におけるリラックス度の補正の第一の例によるリラックス度の判定結果を表す画面例を模式的に示す図である。
図5】本発明の実施形態1における顔表情情報に基づくリラックス度の補正処理の第二の例の流れを示すフローチャートである。
図6】本発明の実施形態1におけるリラックス度の補正の第二の例によるリラックス度の判定結果を表す画面例を模式的に示す図である。
図7】本発明の実施形態2に係るリラックス度判定装置の機能的構成を模式的に示すブロック図である。
図8】本発明の実施形態2における心拍測定値に基づくリラックス度の推定処理の第一の例の流れを示すフローチャートである。
図9】本発明の実施形態2における心拍測定値に基づくリラックス度の推定処理の第二の例の流れを示すフローチャートである。
図10】本発明の実施形態3に係るリラックス度判定装置の機能的構成を模式的に示すブロック図である。
図11】本発明の実施形態3における被験者の周囲での機器の配置の一例を模式的に示す図である。
図12】本発明の実施形態3に係るリラックス度の判定装置によるリラックス度の判定処理の一例の流れを示すフローチャートである。
図13】本発明の実施形態4に係るリラックス誘導装置の機能的構成を模式的に示すブロック図である。
図14】本発明の実施形態4に係るリラックス誘導装置によるリラックス度の判定処理からリラックス誘導処理までの流れの一例を示すフローチャートである。
図15】本発明の実施形態4におけるリラックス誘導処理の一例の流れを示すフローチャートである。
【発明を実施するための形態】
【0029】
〔実施形態1〕
以下、本発明の一実施形態について、詳細に説明する。
【0030】
[機能的構成]
図1は、本発明の実施形態1に係るリラックス度判定装置の機能的構成を模式的に示すブロック図である。図1に示されるように、本実施形態のリラックス度判定装置は、制御部1で構成されている。制御部1は、被判定者の心拍測定値を取得する心拍測定値取得部11、被判定者の顔表情の情報を取得する顔表情情報取得部12、心拍測定値取得部11が取得した心拍測定値を参照して被判定者のリラックス度を推定するリラックス度推定部13、および、リラックス度推定部13が推定したリラックス度を、顔表情情報取得部12が取得した顔表情の情報に基づいて補正するリラックス度補正部14、を備えている。
【0031】
制御部1には、心拍測定装置15、カメラ16、記憶部17および通知装置18が接続されている。心拍測定装置15は、被判定者の心拍を測定可能な範囲において適宜に選択され得る。心拍測定装置15の例は、後述する移動体(車両)の各座席に応じて配置されている心拍センサ、および、被判定者に装着可能な腕時計タイプの生体情報測定装置が含まれる。
【0032】
カメラ16は、被判定者の顔の表情を撮影する装置である。カメラ16は、被判定者の顔全体を撮影できるように、通常、被判定者の正面に配置される。カメラ16が撮影する画像は、被判定者の顔の静止画であってもよいし、動画であってもよい。
【0033】
記憶部17は、リラックス度の判定(推定および補正)を実行するための情報を格納している。当該情報の例には、リラックス度の判定を実施するためのプログラム、当該判定で使用される数値、式およびマップが含まれる。また、記憶部17は、当該リラックス度の判定における測定値および取得値を、被判定者と対応付けて記憶可能である。
【0034】
通知装置18は、被判定者へ通知するための装置である。通知装置18の例には、被判定者に通知するための音声を出力する音声出力装置、および、被判定者に通知するための文字および画像を表示する表示装置、が含まれる。
【0035】
[リラックス度の判定例]
図2は、本発明の実施形態1に係るリラックス度の判定装置によるリラックス度の判定処理の一例の流れを示すフローチャートである。心拍測定装置15は、被判定者の心拍を測定している。また、カメラ16は、被判定者の顔の表情を正面から撮影している。
【0036】
ステップS101において、心拍測定値取得部11は、心拍測定装置15が測定している被判定者の心拍の出力情報を入手する。こうして心拍測定値取得部11は、被判定者の心拍測定値を取得する。「心拍測定値」は、被判定者の心拍およびの成分の測定結果の情報である。より詳しくは、心拍測定値は、心拍測定装置15が測定した心拍データそのものであってもよいし、当該心拍データから抽出されたデータであってもよい。後者の例には、後述するRR-I値およびHF値が含まれる。
【0037】
ステップS102において、顔表情情報取得部12は、カメラ16が撮影している被判定者の顔の正面画像の出力情報を入手する。こうして、顔表情情報取得部12は、被判定者の顔表情の情報を取得する。「顔表情の情報」とは、被判定者の顔の表情を示す情報であり、例えば被判定者の顔の要部または実質的に全部、の画像の情報である。
【0038】
ステップS103において、リラックス度推定部13は、心拍測定値取得部11が取得した心拍測定値を参照して被判定者のリラックス度を推定する。ステップS103におけるリラックス度の推定は、被判定者の心拍測定値を参照する方法の範囲においていかなる方法であってもよい。ステップS103におけるリラックス度の推定方法は、定量的に表されるリラックス度が心拍測定値によって一義的に決められる方法であればよい。たとえば、リラックス度推定部13は、被判定者の実質的に変動していない心拍数を基準値として、心拍数が高いほどリラックス度を低く推定し、心拍数が低いほどリラックス度を高く推定してもよい。心拍測定値によるリラックス度の推定については、後の実施形態においてさらに詳しく説明する。
【0039】
ステップS104において、リラックス度補正部14は、ステップS103で推定したリラックス度を、ステップS102で取得した顔表情の情報に基づいて補正する。そして、制御部1は、リラックス度補正部14で補正されたリラックス度を被判定者のリラックス度と判定する。
【0040】
<顔表情情報に基づくリラックス度の補正の第一の例>
ここで、顔表情情報に基づくリラックス度の補正について説明する。図3は、本発明の実施形態1における顔表情情報に基づくリラックス度の補正処理の第一の例の流れを示すフローチャートである。
【0041】
ステップS201において、リラックス度補正部14は、被判定者の顔表情による感情を判定する。
【0042】
ここで、顔表情による感情の判定について説明する。顔表情から感情を判定する方法は限定されず、公知の方法を採用することが可能である。たとえば、顔表情からの感情の判定には、「faceproc」を用いて実行することが可能である。「faceproc」は、顔表情API(アプリケーションプログラミングインターフェース)であり、人工知能によって顔画像から基本感情を推測する表情認識APIである。
【0043】
顔表情から判定する感情の種類および数は、被判定者のリラックス度を判定可能な範囲において適宜に決定することが可能である。当該感情は、被判定者がリラックスしている状態を表す感情のみであってもよいし、被判定者がリラックスしている状態を表す感情と、リラックスしていない状態を表す感情の両方を含んでもよい。顔表情の判定において用いる感情の種類の例には、怒り(anger)、嫌悪(disgust)、恐れ(fear)、幸福(happiness)、中立もしくは無感情もしくは無関心(neutral、以下、「中立等」とも言う)、悲しみ(sadness)および驚き(surprise)の7感情、あるいは、場合によってはさらに軽蔑(contempt)を含んだ8感情、が含まれる。
【0044】
ステップS202において、リラックス度補正部14は、被判定者の顔表情から判定した感情の判定結果に応じたリラックス度の補正値を取得する。顔表情による感情の判定結果とリラックス度の補正について以下に説明し、また上記補正値の取得の一例を以下に説明する。
【0045】
通常、被判定者がリラックスしている時は、副交感神経が優位になり、被判定者の心拍が遅くなる。リラックスしている状態については、顔表情による判定の精度よりも心拍測定値による判定の精度がより高くなる傾向になる。一方で、被判定者がイライラしている時は心拍が速くなるが、日常生活において実際に心拍が速くなるほどの強いイライラの感情が発生することは少ない。よって、イライラの感情は、心拍測定値による判定よりも顔表情による判定の精度の方がより高くなる傾向にある。
【0046】
このように、被判定者のリラックス度の判定において、顔表情による感情の判定の精度がより高い傾向にある感情については、心拍測定値による判定結果を、顔表情による感情の判定結果によって積極的に補正する。それにより、リラックス度の判定の精度をより一層高めることが可能となる。
【0047】
感情の判定結果は、複数の感情について実施した場合、顔表情が表す感情の割合として表すことが可能である。この場合、各感情の判定値の総数は1となる。複数の感情の判定値のうち、最も高い判定値の感情の値を、被判定者の顔表情に基づく感情の判定結果とする。感情の数値化ついては後述する。
【0048】
一方で、複数の感情の種類は、リラックス度の高さとより強く相関する顔表情の情報と、リラックス度の高さとより低く相関する顔表情の情報との二種類に分類される。たとえば、前者は、被判定者がリラックスしている状態を表す感情(以下、「正の感情」ともいう)の情報であり、後者は、被判定者がリラックスしていない状態を表す感情(以下、「負の感情」ともいう)の情報である。このような感情の分類は、例えば、リラックスしている状態をより強く関係する感情を正の感情とし、その他の感情を負の感情とすることにより行うことができる。上記の8感情であれば、幸福(happiness)と中立等(neutral)との2感情を正の感情として、その他の感情を負の感情として分類することが可能である。
【0049】
そして、正の感情の場合の補正値と負の感情の場合の補正値とを設定しておく。たとえば、正の感情であれば補正値を+0.5、負の感情であれば補正値を-0.5に設定する。
【0050】
顔表情による感情の判定結果から正負のいずれの感情であるかを判定し、その判定結果に応じた補正値を選択することにより、顔表情による感情の判定結果に応じたリラックス度の補正値を得ることができる。
【0051】
顔表情情報に基づくリラックス度の補正の処理例の続きを説明する。ステップS203において、ステップS103で推定した心拍測定値によるリラックス度に、ステップS202で取得した補正値を加算してリラックス度を補正する。補正されたリラックス度が被判定者のリラックス度と判定される。
【0052】
たとえば、心拍測定値によるリラックス度が0.4であり、正の感情の補正値が+0.5であれば、0.9を被判定者のリラックス度と判定する。また、例えばリラックス度の上限が1であり、下限が-1であって、補正値を加算後のリラックス度が上限を超える場合には、補正後のリラックス度を上限値、すなわち1としてよく、補正値を加算後のリラックス度が下限を下回る場合では、補正後のリラックス度を下限値、すなわち-1としてよい。
【0053】
当該リラックス度は、通知装置18によって被判定者に通知することが可能である。通知装置18が液晶ディスプレイなどの表示装置である場合では、以下に示されるように、リラックス度の判定結果を画像で被判定者に通知することが可能である。
【0054】
<判定結果の通知における第一の例>
図4は、本発明の実施形態1におけるリラックス度の補正の第一の例によるリラックス度の判定結果を表す画面例を模式的に示す図である。
【0055】
図4に示されるように、画面180は、液晶表示装置である通知装置18の画面である。画面180は、リラックス度の大きさに応じて上下方向に二分割されている。
【0056】
キャラクタ画像181は、被判定者がリラックスした状態を表しており、リラックス度が所定値よりも大きい場合、すなわち、被判定者がリラックスしている状態にあると判定された場合に表示される。キャラクタ画像181は、例えば、判定されたリラックス度に応じて表示される。キャラクタ画像181は、例えば、画面180の上下方向におけるリラックス度に応じた位置に表示されてもよいし、画面180上部の所定の位置に表示されるがリラックス度が高いほど大きく表示されてもよい。
【0057】
キャラクタ画像182は、被判定者がリラックスしていない状態を表しており、リラックス度が所定値よりも小さい場合に表示される。キャラクタ画像182も、キャラクタ画像181と同様に、画面180の上下方向におけるリラックス度に応じた位置に表示されてもよいし、画面180の所定の位置に表示されるがリラックス度が低いほど大きく表示されてもよい。
【0058】
このように、本実施形態におけるリラックス度の補正の第一の例では、リラックス度補正部14は、被判定者の顔表情の情報のうち、リラックス度の高さとより強く相関する顔表情の情報に応じて被判定者のリラックス度を高くするように補正し、リラックス度の高さとより低く相関する顔表情の情報に応じて被判定者のリラックス度を低くするように補正する。よって、リラックス度とより強く相関する顔表情の情報がリラックス度の判定結果に反映されるため、心拍測定値のみ、または顔表情の情報のみによるリラックス度の判定に比べて、より高い精度でリラックス度を判定することが可能である。
【0059】
<顔表情情報に基づくリラックス度の補正の第二の例>
本実施形態において、顔表情情報に基づくリラックス度の補正は、被判定者の顔表情に基づく感情の種類に応じた判定結果の分類を伴ってもよい。図5は、本発明の実施形態1における顔表情情報に基づくリラックス度の補正処理の第二の例の流れを示すフローチャートである。図5のフローチャートは、ステップS201とステップS202との間にステップS301を含む以外は、図4に示されているフローチャートと同じである。
【0060】
ステップS301において、リラックス度補正部14は、ステップS201において判定した顔表情による感情について、当該感情の種類に応じて判定結果を分類する。たとえば、リラックス度補正部14は、ステップS301において、以下に述べる高いリラックス度の判定を、活性的なリラックスと鎮静的なリラックスとに分類する。
【0061】
通常、リラックスしている状態には、何かを楽しんでいる状態が含まれる。この場合、心拍測定値は上がるがイライラの感情は実質的には生じていない。このように心拍が速くなるがリラックスしている状態により強く相関する感情についても、心拍測定値による判定よりも顔表情による判定の精度の方がより高くなる傾向にある。
【0062】
たとえば、気の合う友人との会話、またはお笑い動画などの笑いを惹起するコンテンツの視聴により、心が穏やかになりリフレッシュされることがある。前述した、副交感神経が優位になって心拍がゆっくりになるリラックスの状態は、眠気を含む鎮静的なリラックスとも言えるが、これに対して上記の楽しんでいる状態のリラックスの状態は、活性的なリラックスとも言える。このような感情により分類され得るリラックスの状態を、リラックス度の判定において反映させることも、本発明の実施形態に含まれる。
【0063】
たとえば、正の感情と分類される幸福(happiness)と中立等(neutral)との2感情のうち、幸福(happiness)は、顔表情では明確な笑顔として表れる傾向にある。よって、正の感情の判定値が幸福(happiness)の判定値である場合には、この場合のリラックス度の高い状態を、リラックス度の高い状態のうちの活性的なリラックスの状態と分類することができる。なお、正の感情の判定値が中立等(neutral)の判定値である場合には、この場合のリラックス度の高い状態を、リラックス度の高い状態のうちの鎮静的なリラックスの状態と分類することができる。
【0064】
<判定結果の通知における第二の例>
図6は、本発明の実施形態1におけるリラックス度の補正の第二の例によるリラックス度の判定結果を表す画面例を模式的に示す図である。図6のうち、図の紙面に対して左側の図は、上記の鎮静的なリラックスのリラックス度を通知する場合の画面の一例であり、右側の図は、上記の活性的なリラックスのリラックス度を通知する場合の画面の一例である。
【0065】
キャラクタ画像181は、本例では、被判定者がリラックスした状態のうち、鎮静的なリラックスの状態を表している。キャラクタ画像183は、本例では、被判定者がリラックスした状態のうち、活性的なリラックスの状態を表している。キャラクタ画像183も、キャラクタ画像181、182と同様に、画面180の上下方向におけるリラックス度に応じた位置に表示されてもよいし、画面180上部の所定の位置に表示されるがリラックス度の数値に応じた相対的な大きさで表示されてもよい。
【0066】
このように、本実施形態におけるリラックス度の補正の第二の例では、リラックス度補正部14は、被判定者の顔表情の情報のうち、リラックス度の高さとより強く相関する顔表情の情報に応じて、被判定者のリラックス度の高い状態の種類をさらに分類する。よって、リラックス度の判定から、被判定者のリラックス度の高い状態をより明確に把握することが可能となり、リラックス度の判定の精度が高められる。
【0067】
[実施形態1のまとめ]
本実施形態に係る制御部(1、リラックス度判定装置)は、被判定者の心拍測定値を取得する心拍測定値取得部(11)と、被判定者の顔表情の情報を取得する顔表情情報取得部(12)と、心拍測定値取得部が取得した心拍測定値を参照して被判定者のリラックス度を推定するリラックス度推定部(13)と、リラックス度推定部が推定したリラックス度を、顔表情情報取得部が取得した顔表情の情報に基づいて補正するリラックス度補正部(14)と、を備え、リラックス度補正部で補正されたリラックス度を被判定者のリラックス度と判定する。
【0068】
また、本実施形態に係るリラックス度判定方法は、被判定者の心拍測定値を取得する心拍測定値取得ステップ(ステップS101)と、被判定者の顔表情の情報を取得する顔表情情報取得ステップ(ステップS102)と、心拍測定値取得ステップで取得した心拍測定値を参照して被判定者のリラックス度を推定するリラックス度推定ステップ(ステップS103)と、リラックス度推定ステップで推定したリラックス度を、顔表情情報取得ステップで取得した顔表情の情報に基づいて補正するリラックス度補正ステップ(ステップS104)と、を含み、リラックス度補正ステップで補正したリラックス度を被判定者のリラックス度と判定する。
【0069】
よって、本実施形態によれば、被判定者の心拍測定値および顔の表情の情報のそれぞれを適切に用いるリラックス度の判定が可能である。そのため、被判定者の生体情報および顔表情の情報から精度よくリラックス度を判定する技術を実現することができる。
【0070】
本実施形態において、リラックス度補正部は、被判定者の顔表情の情報のうち、リラックス度の高さとより強く相関する顔表情の情報に応じて、被判定者のリラックス度を高くするように補正し、リラックス度の高さとより低く相関する顔表情の情報に応じて、被判定者のリラックス度を低くするように補正する。このような構成は、顔表情の情報をリラックス度の判定に適切に反映させることでリラックス度の判定の精度を高める観点からより一層効果的である。
【0071】
また、本実施形態において、リラックス度補正部は、被判定者の顔表情の情報のうち、リラックス度の高さとより強く相関する顔表情の情報に応じて、被判定者のリラックス度の高い状態の種類をさらに分類する。このような構成は、顔表情の情報からリラックス度の種類を適切に分類することでリラックス度の判定の精度を高める観点からより一層効果的である。
【0072】
〔実施形態2〕
本発明の他の実施形態について、以下に説明する。なお、説明の便宜上、上記実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を繰り返さない。
【0073】
図7は、本発明の実施形態2に係るリラックス度判定装置の機能的構成を模式的に示すブロック図である。図7に示されるように、制御部2は、心拍測定値取得部11が取得した心拍測定値を参照して被判定者の心拍揺らぎの超低周波成分と高周波成分とを抽出する周波数成分抽出部21をさらに備える以外は、実施形態1における制御部1と同様の機能的構成を有している。
【0074】
[リラックス度の判定例]
制御部2は、心拍測定値によるリラックス度の推定処理(図2のステップS103)を後述するように実施する以外は、実施形態1の制御部1と同様にリラックス度を判定する。以下、本実施形態における心拍測定値によるリラックス度の推定について説明する。
【0075】
<心拍測定値に基づくリラックス度の推定の第一の例>
図8は、本発明の実施形態2における心拍測定値に基づくリラックス度の推定処理の第一の例の流れを示すフローチャートである。
【0076】
周波数成分抽出部21は、心拍測定値取得部11が取得した心拍測定値を参照して被判定者の心拍揺らぎの大小を判定する。たとえば、ステップS401において、周波数成分抽出部21は、心拍測定値取得部11が取得した心拍測定値を参照して被判定者の心拍揺らぎの超低周波成分(RR-I値)と高周波成分(HF値)とを抽出する。
【0077】
RR-I値は、被判定者の心拍間隔の長さ(秒)である。心拍揺らぎのRR-I値とは、0.0033~0.04Hzの帯域で表される心拍揺らぎである。HF値は、被判定者の心拍揺らぎにおける高周波成分(0.15~0.4Hz)を表す値であり、0.15~0.4(Hz)の範囲のパワー値の総和(スペクトラムデータにおける該当範囲の面積)である。心拍データからのRR-I値およびHF値の抽出は、公知の技術によって可能である。
【0078】
ステップS402において、周波数成分抽出部21は、取得した心拍揺らぎにおける閾値に対する大小を判定する。ここで言う「閾値」は、後述する複数のRR-I値の測定結果の移動平均から心拍揺らぎが大きいデータと小さいデータとに層別する際の閾値である。
【0079】
リラックス度推定部13は、周波数成分抽出部21が抽出したRR-I値およびHF値に基づいて被判定者のリラックス度を推定する。たとえば、上記心拍揺らぎが上記閾値以上(ステップS402にてYES)である場合では、制御部2は、記憶部17から下記式1を読み出し、リラックス度推定部13は、ステップS403において、下記式1を用いてリラックス度を算出する。なお、下記式1、式2中、「Drelax」はリラックス度を表し、「VRR-I」はRR-I値を表し、「VHF」はHF値を表す。また、α1、α、β、β2、γは、いずれも正または負の定数である。
relax=α×VRR-I+β×VHF+γ (式1)
【0080】
上記心拍揺らぎが上記閾値未満(ステップS402にてNO)である場合では、制御部2は、記憶部17から下記式2を読み出し、リラックス度推定部13は、ステップS404において、下記式2を用いてリラックス度を算出する。
relax=α×VRR-I+β (式2)
【0081】
上記式1、式2は、以下のようにして得られる。まず、複数のRR-I値の測定結果の移動平均から、心拍揺らぎが大きいデータと小さいデータとに層別する。RR-I値の移動平均は、適当な間隔(例えば20秒間)でRR-Iの移動平均を算出することによって取得することができる。そして、160秒間当たりの平滑化したRR-I値の振幅で0.04秒を閾値とし、適宜に抽出された160秒間当たりの上記振幅が閾値を超えるデータを、心拍揺らぎが大きいデータとし、当該閾値以下のデータを、心拍揺らぎが小さいデータと層別する。層別した各データ群を重回帰分析することによって、上記式1、式2が導出される。あるいは、上記式1、式2は、上記の層別した各データ群を、基準値からの差分で重回帰分析することによって導出される。
【0082】
前述したように、リラックスしている時は、副交感神経が優位になり、心拍が遅くなる傾向がある。本実施形態における第一の例では、上記のように、被判定者の心拍揺らぎにおける振幅の大小に応じたリラックス度との相関性を利用して被判定者のリラックス度を推定する。よって、上記の第一の例は、HFの算出における周波数解析が省略されることでリラックス度の推定処理における情報処理の負荷をより軽減し、またリラックス度の推定の精度をより高めるのに有利である。
【0083】
<心拍測定値に基づくリラックス度の推定の第二の例>
本実施形態において、心拍測定値に基づくリラックス度の推定は、以下のようであってもよい。図9は、本発明の実施形態2における心拍測定値に基づくリラックス度の推定処理の第二の例の流れを示すフローチャートである。第二の例は、ステップS401でRR-I値およびHF値を取得した後の処理が前述した第一の例とは異なる。
【0084】
ステップS501において、周波数成分抽出部21は、RR-I値を平滑化する。たとえば、周波数成分抽出部21は、適当な間隔(例えば20秒間)でRR-I値の移動平均を算出する。適切な時間間隔で移動平均を算出することにより、被判定者のRR-I値が適切かつ明確に表される。
【0085】
ステップS502において、リラックス度推定部13は、周波数成分抽出部21が平滑化したRR-I値の閾値に対する大小を判定する。たとえば、リラックス度推定部13は、例えば160秒間当たりのRR-I値の振幅が0.04秒、を閾値とし、160秒間当たりのRR-I値の振幅を適宜に抽出し、抽出した振幅が閾値を超えるか否かを判定する。
【0086】
ステップS502においてRR-I値の単位時間当たりの振幅が閾値よりも大きい(ステップS502にてYES)場合には、ステップS503において、リラックス度推定部13は、HF値に基づいて被判定者のリラックス度を判定する。より具体的には、リラックス度推定部13は、上記の振幅が閾値よりも大きい場合にHF値とリラックス度との相関関係を示す式を記憶部17から読み出し、当該式を用いて被判定者のリラックス度を算出する。なお、当該「相関関係を示す式」は、例えば、複数の測定結果から最小二乗法により求めることが可能である。
【0087】
ステップS502においてRR-I値の単位時間当たりの振幅が閾値以下の場合には(ステップS502にてNO)、ステップS504において、リラックス度推定部13は、RR-I値に基づいて被判定者のリラックス度を判定する。より具体的には、リラックス度推定部13は、振幅が閾値以下の場合にRR-I値とリラックス度との相関関係を示す式を記憶部17から読み出し、当該式を用いて被判定者のリラックス度を算出する。
【0088】
このように、第二の例では、周波数成分抽出部21は、被判定者の心拍揺らぎの移動平均に基づいて、被判定者の心拍揺らぎのRR-I値を抽出する。そして、これを指標として、リラックス度推定部13が、周波数成分抽出部21が抽出したRR-I値およびHF値に基づいて、被判定者のリラックス度を推定している。
【0089】
上記の第二の例では、被判定者の心拍揺らぎにおける振幅の大小に応じて、被判定者のRR-I値およびHF値のうち、被判定者のリラックス度に対する相関性がより高い心拍測定値の種類を決定する。そして、決定した心拍測定値の種類とリラックス度との相関性を利用して被判定者のリラックス度を推定する。よって、上記の第二の例も、前述の第一の例と同様に、リラックス度の推定処理における情報処理の負荷をより軽減し、またリラックス度の推定の精度をより高めるのに有利である。
【0090】
[実施形態2のまとめ]
本実施形態の制御部(2)は、心拍測定値取得部が取得した心拍測定値を参照して被判定者の心拍揺らぎの超低周波成分と高周波成分とを抽出する周波数成分抽出部(21)をさらに備える。そして、リラックス度推定部は、周波数成分抽出部が抽出した超低周数波成分および高周波数成分に基づいて被判定者のリラックス度を推定する。このような構成は、リラックス度の推定処理における情報処理の負荷を軽減し、またリラックス度の推定の精度を高める観点からより効果的である。
【0091】
また、本実施形態では、周波数成分抽出部は、心拍測定値取得部が取得した心拍測定値を参照して被判定者の心拍揺らぎの大小を判定してもよい。この場合、リラックス度推定部は、周波数成分抽出部による心拍揺らぎの判定結果に基づいて、心拍揺らぎが大きい場合では、超低周波数成分および高周波数成分に基づいて被判定者のリラックス度を推定し、心拍揺らぎが小さい場合では、超低周波数成分に基づいて被判定者のリラックス度を推定してもよい。このような構成は、リラックス度の推定処理における情報処理の負荷を軽減し、またリラックス度の推定の精度を高める観点からより一層効果的である。
【0092】
また、本実施形態では、周波数成分抽出部は、被判定者の心拍揺らぎの移動平均に基づいて、被判定者の心拍揺らぎの超低周波数成分を抽出してもよい。このような構成は、被判定者の心拍揺らぎの特徴をより明確にすることができ、リラックス度の推定の精度を高める観点からより一層効果的である。
【0093】
〔実施形態3〕
本発明の他の実施形態について、以下に説明する。なお、説明の便宜上、上記実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を繰り返さない。本実施形態は、本発明におけるリラックス度の判定の技術を、移動体である自動車の搭乗者に適用する形態である。
【0094】
[機能的構成]
図10は、本発明の実施形態3に係るリラックス度判定装置の機能的構成を模式的に示すブロック図である。図10に示されるように、制御部3は、被判定者の心拍測定値の基準である基準データを取得する基準データ取得部31、および、外部要因情報を取得する外部要因情報取得部32をさらに備える以外は、前述した実施形態1の制御部1と同様の機能的構成を有している。外部要因情報とは、被判定者が存する環境を示す環境情報と、日時情報との少なくとも一方を含む情報である。
【0095】
また、制御部4には、車載センサ33および入力装置34がさらに接続されている。車載センサ33は、車両の運転に関する制御および車両内外の環境を検出するために車両に搭載されているセンサである。車載センサ33の例には、温湿度センサ、座圧センサおよびシートのリクライニング角度センサが含まれる。
【0096】
入力装置34は、被判定者あるいはインターネットなどの制御部3の外部から制御部3に情報を入力するための装置である。入力装置34の例には、タッチパネルおよび音声による入力装置、および、インターネット通信の受信装置が含まれる。
【0097】
図11は、本発明の実施形態3における被判定者100の周囲での機器の配置の一例を模式的に示す図である。図11に示されるように、被判定者100は、移動体の搭乗者であり、車両のシート35に着座している。
【0098】
心拍測定装置15は、車両に搭載されている心拍センサであり、例えば被判定者100の左手首に巻き付けられている。心拍測定装置15は、被判定者100の心拍を測定し、取得した心拍の情報である心拍測定値を有線または無線による通信によって制御部4に送信する。
【0099】
カメラ16は、車両に搭載されているカメラ(車載カメラ)であり、例えば被判定者100の正面のやや上方から被判定者の顔を撮影する位置に配置されている。カメラ16は、被判定者100の顔の表情を連続して撮像し、取得した顔の画像の情報である顔表情情報を有線または無線による通信によって制御部4に送信する。
【0100】
[リラックス度の判定例]
図12は、本発明の実施形態3に係るリラックス度の判定装置によるリラックス度の判定処理の一例の流れを示すフローチャートである。
【0101】
ステップS601において、心拍測定値取得部11は、心拍測定装置15からの心拍測定値の取得を開始する。このように、本実施形態では、心拍測定値取得部11は、移動体に搭載されている心拍センサから被判定者の心拍測定値を取得する。
【0102】
ステップS602において、顔表情情報取得部12は、カメラ16からの顔表情の画像データの取得を開始する。このように、本実施形態では、顔表情情報取得部12は、移動体に搭載されているカメラ16から被判定者の顔表情情報を取得する。
【0103】
ステップS603において、外部要因情報取得部32は、車載センサ33および入力装置34からの外部要因情報を取得する。たとえば、外部要因情報取得部32は、車外の気温、車内の温湿度およびシートのリクライニング角度の情報を車載センサ33から取得し、被判定者が移動体に搭乗している日時の情報を入力装置34から取得する。
【0104】
ステップS604において、制御部3は、心拍測定値取得部11が取得した心拍測定値を参照して、被判定者の心拍数が落ち着いているか否かを判定する。たとえば、制御部3は、特定の時間における心拍数の変動が閾値以下である場合に、心拍数が落ち着いている、と判定し、特定の時間における心拍数の変動が閾値を超える場合には、心拍数は落ち着いていない、と判定する。
【0105】
ステップS604で心拍数が落ち着いていると制御部3が判定した(ステップS604にてYESの)場合には、ステップS605において、基準データ取得部31は、心拍測定値の基準データを取得する。たとえば、基準データ取得部31は、心拍測定値取得部11が取得した特定の時間(例えば2分間)の心拍測定値を基本データとして取得する。
【0106】
一方で、ステップS604で心拍数が落ち着いていないと制御部3が判定した場合には、ステップS606において、制御部3は、所定の時間(例えば1分間)待機し、ステップS604に戻る。
【0107】
ステップS607において、リラックス度推定部13は、基準データ取得部31が取得した基準データを心拍測定値としてリラックス度を推定する処理を実行する。当該リラックス度の推定処理は、心拍測定値として当該基本データを用いる以外は、前述したステップS103における処理と同様に実施される。このように、本実施形態では、リラックス度推定部13は、基準データ取得部31が取得した基準データを参照して被判定者のリラックス度を推定する。
【0108】
また、ステップS607のリラックス度の推定において、リラックス度推定部13は、外部要因情報取得部32が取得した外部要因情報を参照して被判定者のリラックス度を推定する。たとえば、リラックス度推定部13は、外部要因情報取得部32が取得した外部要因情報に応じて、前述した記憶部17から読み出す式に定数を加算し、あるいは係数を変更して、リラックス度を算出する。
【0109】
次いで、リラックス度補正部14が、ステップS607で推定されたリラックス度を顔表情情報に基づいて補正する。このリラックス度の顔表情情報による補正の処理は、前述したステップS104における処理と同様に実施される。
【0110】
本実施形態では、リラックス度の推定に際して被判定者の基準データを取得することから、車両などの移動体に搭乗した被判定者のリラックス度をより正確に判定することが可能となる。被判定者が運転者である場合では、自動車を運転している被判定者のリラックス度をより正確に判定することができ、自動車の安定した走行状態を実現する観点から有利である。
【0111】
また、本実施形態では、被判定者のリラックス度の推定に際して外部要因情報を取得する。よって、リラックス度の推定に、被判定者に作用する外部の要因が被判定者のリラックス度に及ぼす影響を適切に反映させる観点から有利である。
【0112】
[実施形態3のまとめ]
本実施形態の制御部(3)は、被判定者の心拍測定値の基準である基準データを取得する基準データ取得部(31)をさらに備える。そして、リラックス度推定部は、基準データ取得部が取得した基準データをさらに参照して被判定者のリラックス度を推定する。このような構成は、リラックス度を推定する際の被判定者の心拍測定値の状態を正確に把握し、リラックス度の推定の精度を高める観点からより一層効果的である。
【0113】
本実施形態において、制御部は、被判定者が存する環境を示す環境情報と、日時情報との少なくとも一方を含む外部要因情報を取得する外部要因情報取得部(32)をさらに備える。そして、リラックス度推定部は、外部要因情報取得部が取得した外部要因情報をさらに参照して被判定者のリラックス度を推定する。このような構成は、被判定者のリラックス度の推定に外部の要因による影響を適切に反映させられることから、リラックス度の推定の精度を高める観点からより一層効果的である。
【0114】
また、本実施形態において、被判定者は移動体の搭乗者である。そして、心拍測定値取得部は、移動体に搭載されている心拍センサ(心拍測定装置15)から被判定者の心拍測定値を取得し、顔表情情報取得部は、移動体に搭載されているカメラ(16)から被判定者の顔表情情報を取得する。このような構成は、移動体における被判定者のリラックス度の判定をより簡易に実施する観点、および、移動体における被判定者のリラックス度の判定結果を移動体の運用に常時活用する観点からより一層効果的である。
【0115】
〔実施形態4〕
本発明の他の実施形態について、以下に説明する。なお、説明の便宜上、上記実施形態にて説明した部材と同じ機能を有する部材については、同じ符号を付記し、その説明を繰り返さない。本実施形態は、本発明における、被判定者をリラックス状態へ誘導する技術を、移動体である自動車の搭乗者に適用する形態である。
【0116】
[機能的構成]
図13は、本発明の実施形態4に係るリラックス誘導装置の機能的構成を模式的に示すブロック図である。図13に示されるように、本実施形態のリラックス誘導装置は、制御部4を備える。制御部4は、刺激決定部41をさらに備える以外は、前述した実施形態3の制御部3と同様に構成されている。刺激決定部41は、リラックス度補正部14で補正されたリラックス度に応じた刺激を決定する。
【0117】
また、制御部4は、刺激提供装置42にさらに接続されている。刺激提供装置42は、刺激決定部41が決定した刺激を被判定者に提供する装置である。刺激提供装置42は、単独の装置であってもよいが、車載の種々の装置であり得る。刺激提供装置42が提供する刺激の例には、光、音、振動、熱、湿度およびにおいが含まれ、刺激提供装置42は、このような刺激を適宜に制御して提示することが可能な装置であればよい。
【0118】
たとえば、光を提示する刺激提供装置42であれば、車両に提示される光の明るさまたは色を変更可能な装置であってよく、その例には、車内灯、表示装置およびコントロールパネルが含まれる。音を提示する刺激提供装置42の例には、カーオーディオが含まれる。振動を提示する刺激提供装置42の例には、マッサージ機能付きシートが含まれる。熱を提示する刺激提供装置42の例には、エアコンディショナーおよび温熱機能付きシートが含まれる。湿度を提示する刺激提供装置42の例には、エアコンディショナーが含まれる。においを提示する刺激提供装置42の例には、シガーソケットに装着可能な消臭装置または香り発生装置が含まれる。
【0119】
[リラックス誘導処理の例]
図14は、本発明の実施形態4に係るリラックス誘導装置によるリラックス度の判定処理からリラックス誘導処理までの流れの一例を示すフローチャートである。リラックス誘導処理は、リラックス度の判定結果に基づく刺激の提供の処理を含む以外は、図12に示される実施形態3におけるリラックス度の判定処理と同様に実行される。本実施形態におけるリラックス誘導処理では、図14に示されるように、ステップS701において、制御部4は、ステップS104における顔表情によるリラックス度の補正処理によって決定したリラックス度の判定結果に基づく刺激を被判定者に提供する処理を実行する。
【0120】
図15は、本発明の実施形態4におけるリラックス誘導処理の一例の流れを示すフローチャートである。
【0121】
ステップS801において、刺激決定部41は、被判定者のリラックス度の判定結果に基づいて、被判定者に提供すべき刺激を選択する。たとえば、刺激決定部41は、記憶部17に格納されている反応モデルを参照して、被判定者に対して提供する刺激を選択する。反応モデルは、被判定者のリラックス度と、被判定者に提供されるべき刺激の内容および強度との関係を規定するモデルである。反応モデルの例には、モデル式が含まれる。モデル式は、少なくとも、被判定者のリラックス度と提供すべき刺激の内容および強度との関係を規定する。このような参照モデルを参照することにより、刺激決定部41は、被判定者に提供すべき刺激の内容と強度とを決定する。
【0122】
ステップS802において、刺激提供装置42は、刺激決定部41が選択した刺激の情報に応じて、刺激決定部41が選択した刺激を被判定者に提供する。
【0123】
刺激を提供後、制御部4は、刺激を提供した被判定者のリラックス度の判定を実行する。このリラックス度の判定は、図15に示されるように、前述した図2のステップS103およびS104と同様に実施される。
【0124】
ステップS803において、制御部4は、上記のリラックス度の判定結果の通知情報を生成し、通知装置18に送信する。通知装置18は、当該通知情報を音声または画像として被判定者に通知する。
【0125】
ステップS804において、制御部4は、リラックス誘導の処理を終了するか否かを被判定者に問い合わせる。この問い合わせは、問い合わせ情報を通知装置18に送信し、通知装置18による音声または画像により実施される。入力装置34において被判定者からの終了する旨の情報が入力される(YESの場合である)と、制御部4は、リラックス誘導の処理を終了する。被判定者からリラックス誘導の処理を終了しない旨の情報が入力される(NOの場合である)と、制御部4は、ステップS801に戻り、リラックス誘導における上記の処理を再び実行する。
【0126】
本実施形態では、リフレッシュできる活性的なリラックス状態と、眠気を伴う鎮静的なリラックス状態の両方の状態を被判定者に提供することができる。よって、自動運転時に、移動体の搭乗者である被判定者を、道中は鎮静的なリラックス状態に誘導し、目的地近くでは活性的なリラックス状態に誘導することが可能となる。それにより、被判定者を、目的地に到着したらすぐに活動できる状態に誘導することが可能である。
【0127】
また、本実施形態では、長期間、定期的に活性的または鎮静的なリラックス状態に被判定者を誘導することが可能であるため、移動体で移動する被判定者のストレスが減り、被判定者の心が健康になる。
【0128】
さらに鎮静リラックスだけだと、常に副交感神経が優位になる。副交感神経が優位で働きすぎている場合、逆に、体が重だるく感じたり、異常な眠気を感じることもある。活性リラックスと鎮静リラックスを両方提供することで、自律神経の良い状態に保つことができる。
【0129】
[実施形態4のまとめ]
本実施形態の制御部(4、リラックス誘導装置)は、前述した心拍測定値取得部、顔表情情報取得部、リラックス度推定部およびリラックス度補正部に加えて、リラックス度補正部で補正されたリラックス度に応じた刺激を被判定者に提供する刺激提供部(21)を備える。よって、被判定者の生体情報および顔表情の情報から精度よくリラックス度を判定することができ、さらにはリラックス度を参照して決定される刺激を被判定者に提供することにより、被判定者をより望ましいリラックス状態に誘導することができる。
【0130】
〔変形例〕
本発明は、上述した各実施形態に限定されず、請求項に示した範囲で種々の変更が可能である。異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態も、本発明の技術的範囲に含まれる。
【0131】
本発明の実施形態1~4において、顔表情の情報は、被判定者の顔の一部の画像の情報であってもよい。たとえば、顔表情の情報は、被判定者の目および口などの要部の画像の情報であってもよい。
【0132】
また、本発明の実施形態1~4において、顔表情情報に基づくリラックス度の補正における補正値は、感情の種類ごとに異なっていてもよい。また、当該補正値は、心拍測定値に比べて顔表情により明確に表れやすい感情については、被判定者のリラックス度の判定において顔表情による判定の結果がより強く反映されるように、補正値の絶対値をより大きくしてもよい。
【0133】
また、本発明の実施形態1~4において、顔表情の情報として、感情に基づく情報以外の他の情報をリラックス度の判定処理に利用してもよい。たとえば、顔表情の情報として、「目が閉じている」(eye closed)ことを追加し、「目が閉じている」との情報をリラックス度の判定処理で参照してもよい。当該情報の参照の一例には、「目が閉じている」との情報の測定結果(例えば、割合あるいは連続回数など)が特定の閾値を超えた場合には、制御部は、リラックスの判定処理を終了させ、被判定者に覚醒を促す通知または刺激の提供を実施させてもよい。
【0134】
また、前述の実施形態1における「顔表情情報に基づくリラックス度の補正の第二の例」において、前述した活性的なリラックス状態におけるリラックス度は、心拍測定値によるリラックス度の推定結果では、鎮静的なリラックス状態におけるリラックス度に比べて低くなることがある。よって、活性的なリラックス状態に分類された場合は、補正値を、鎮静的なリラックス状態に分類された場合に比べて、より大きい値に設定してもよい。このように、リラックス度の種類に応じて補正値を適切に設定することも、本発明の好ましい実施形態に含まれる。
【0135】
また、前述の実施形態2における「心拍測定値に基づくリラックス度の推定の第一の例」において、RR-I値は、同実施形態における「心拍測定値に基づくリラックス度の推定の第二の例」と同様に平滑化されてもよい。この場合、上記第一の例においても、上記第二の例と同様に、被判定者の心拍揺らぎの特徴をより明確にすることができる。
【0136】
また、前述の実施形態4において、リラックス度の判定結果を通知装置18によって被判定者に通知する場合に、刺激提供前のリラックス度に対する刺激提供後のリラックス度の変化量を合わせて被判定者に通知してもよい。
【0137】
前述の実施形態4において、刺激決定部は、被判定者からの刺激の情報(内容、強度など)の入力にしたがって刺激を決定してもよい。
【0138】
また、前述の実施形態4において、制御部は、外部要因情報が示す一または複数の要因に基づいて反応モデルを選出してもよい。当該要因に基づいて反応モデルを選出することにより、当該要因によって適宜に重み付けられた反応モデルが選出される。よって、外部要因情報が適切に反映されたリラックスの状態に被判定者を誘導することが可能となる。
【0139】
また、前述の実施形態4において、制御部は、被判定者のリラックス度の判定結果とその際に被判定者に提供した刺激とに応じて反応モデルを更新する反応モデル更新部をさらに備えていてもよい。このような構成は、リラックス誘導処理において被判定者を所望のリラックス状態へ誘導する際の精度を高める観点からより有利である。
【0140】
〔ソフトウェアによる実現例〕
本発明の実施形態に係るリラックス度判定装置またはリラックス誘導装置の制御ブロック(制御部1~4)は、集積回路(ICチップ)などに形成された論理回路(ハードウェア)によって実現してもよいし、ソフトウェアによって実現してもよい。
【0141】
後者の場合、リラックス度判定装置またはリラックス誘導装置は、各機能を実現するソフトウェアであるプログラムの命令を実行するコンピュータを備えている。このコンピュータは、例えば1つ以上のプロセッサを備えていると共に、上記プログラムを記憶したコンピュータ読み取り可能な記録媒体を備えている。そして、上記コンピュータにおいて、上記プロセッサが上記プログラムを上記記録媒体から読み取って実行することにより、本発明の目的が達成される。
【0142】
上記プロセッサとしては、例えばCPU(Central Processing Unit)を用いることができる。上記記録媒体としては、「一時的でない有形の媒体」、例えば、ROM(Read Only Memory)等の他、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記プログラムを展開するRAM(Random Access Memory)などをさらに備えていてもよい。
【0143】
また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピュータに供給されてもよい。なお、本発明の一態様は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。
【0144】
〔被判定者の感情の情報を取得するための実験例〕
本発明の実施形態1~4に関連して、本発明の実施形態1~4に用いられる被判定者の感情の情報を取得するための実験について以下に説明する。被判定者の感情の情報は、以下の実験により取得することが可能である。なお、下記の説明における「被験者」は、被判定者であってもよいし、被判定者でなくてもよい。
【0145】
まず、第一ステップでは被験者を3分間安静させ一回目の心理評価を実施する。次いで、第二ステップでは、3分間、被験者の感情を特定の感情に統制し、二回目の心理評価を実施する。当該感情の統制は、被験者に特定の刺激を与え、あるいは被験者が自身で特定の感情に到達するように自身を制御することによって行われる。感情統制では、例えば被験者の感情が中立な状態、あるいは被験者がイライラしている状態、に被験者が制御される。次いで、第三ステップでは、10分間、特定の刺激を被験者に提供し、三回目の心理評価を実施する。被験者に提供される刺激は、例えば、温熱振動、温冷またはお笑い動画である。
【0146】
最初の安静の3分間、続く感情統制の3分間、およびその後の刺激提供の10分間の各ステップのすべてを通じて、被験者の心拍を測定する。
【0147】
心拍測定値によるリラックス度の測定では、各ステップの最後の2分間の心拍測定値に基づいて、例えば前述の式1、式2を用いてリラックス度を求める。
【0148】
顔表情による感情の測定では、各ステップの最後の2分間に被験者の顔表情を30fpsのフレームレートにてビデオで撮影し、取得した顔画像の各フレームの画像データに基づいて感情推定APIにより、顔表情による被験者の感情の測定値を取得する。撮影時間の2分間における7フレームごとの各感情の測定値の平均値を算出する。そして最も数値が高い平均値を、そのステップにおける顔表情による感情の測定結果とする。
【0149】
各ステップの終了後における心理評価では、被験者の感情を定量的に評価する。当該心理評価は、二次元気分尺度(TDMS)を用いて実施することが可能である。TDMSとは、被験者による心理状態のセルフモニタリングによって、当該心理状態を数量化する検査である。
【0150】
各ステップにおいて、心拍測定値によるリラックス度の測定または顔表情による感情の測定、あるいはこれらの両方を行う。それにより、心拍測定値によるリラックス度の測定、顔表情による感情の測定、およびこれらによるリラックス度の判定、の個々の結果を取得することが可能である。
【0151】
[参考実験例]
第三ステップにおける心理評価の項目のうち、正の感情の比のスコアから負の感情の比のスコアを引いた数値を個人ごとで-1~1の間で補正し、当該実験におけるリラックス度の第一の結果(実測値)とした。また、第三ステップにおける心拍測定値から、前述の式1または式2を用いて算出したリラックス度を第二の結果(心拍測定値によるリラックス度の推定結果)とした。さらに、第三ステップにおける顔表情画像に基づく感情推定APIによる結果から前述した補正値を算出し、上記の、心拍測定値によるリラックス度の測定結果を補正した第三の結果(リラックス度の判定結果)とした。第一の結果に対する許容幅を±0.25と設定し、第二の結果および第三の結果が上記許容範囲内に含まれれば正解、上記許容範囲外であれば不正解と判定した。
【0152】
24件の実験において、第一の結果に対する第二の結果の正解率は62.5%(15件正解)であった。不正解となった9件のうち、6件は被験者がイライラしている状態を推定した結果であった。一方、第一の結果に対する第三の結果の正解率は83.3%(20件正解)であった。このように、心拍測定値によるリラックス度の推定結果を顔表情の情報に基づいて補正することにより、リラックス度の判定の精度が向上した。
【符号の説明】
【0153】
1~4 制御部
11 心拍測定値取得部
12 顔表情情報取得部
13 リラックス度推定部
14 リラックス度補正部
15 心拍測定装置
16 カメラ
17 記憶部
18通知装置
21 周波数成分抽出部
31 基準データ取得部
32 外部要因情報取得部
33 車載センサ
34 入力装置
35 リクライニングシート
41 刺激決定部
42 刺激提供装置
100 被判定者
180 画面
181~183 キャラクタ画像
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15