【新規性喪失の例外の表示】特許法第30条第2項適用申請有り 平成30年1月18日発行 一般社団法人人工生命とロボット国際学会刊行 「第23回AROB 予稿集」 平成30年1月19日開催 一般社団法人人工生命とロボット国際学会主催 「人工生命とロボット国際学会 第23回AROB(The Twenty−Third International Symposium on Artificial Life and Robotics)
【解決手段】被験者にコンテンツを提示した際の生体情報を計測して、被験者の自律神経活動を評価する自律神経活動評価装置であって、被験者の顔を撮影した熱画像データを取得し、その熱画像データの内で、被験者の顔の約下半分の領域の熱画像データを、解析領域に設定する。そして、顔の約下半分の領域の熱画像データから温度を算出し、算出した温度に基づいて、被験者の自律神経活動を評価する。
前記温度算出部は、前記約下半分の領域内の画素の温度値の平均と、前記各画素の温度値の分散又は標準偏差を算出し、前記評価処理部は、前記温度算出部が算出した平均と分散又は標準偏差の値に基づいて、前記被験者の自律神経活動を評価する
請求項1に記載の自律神経活動評価装置。
【発明を実施するための形態】
【0013】
[1.一実施の形態例による測定例]
以下、本発明の一実施の形態例(以下、「本例」と称する)を、添付図面を参照して説明する。
図1は、被験者xが表示装置300に表示されたコンテンツを閲覧した場合に、本例の自律神経活動評価装置200で評価処理を行う例を示す。表示装置300に表示されるコンテンツとしては、例えば複数ページで構成される漫画がある。本例の場合、コンテンツのページ送りは、被験者x自身の操作で行われる。
【0014】
コンテンツを閲覧している被験者xの顔は、赤外線サーモグラフィ装置100により撮影される。例えば、被験者xの顔から約50cm離れた箇所に赤外線サーモグラフィ装置100が設置され、赤外線サーモグラフィ装置100により被験者xの顔を撮影した熱画像が得られる。熱画像は、被験者xの顔の皮膚表面の温度を示す画像である。
【0015】
赤外線サーモグラフィ装置100で得られた熱画像データは、自律神経活動評価装置200に取り込まれ、熱画像データから温度を算出する処理が行われる。自律神経活動評価装置200は、コンテンツを見ている被験者xの顔の温度変化に基づいて、被験者xの自律神経活動を評価する処理を行う。なお、被験者xによるコンテンツのページ送り操作は、例えば自律神経活動評価装置200に接続された操作入力部209により行われる。
【0016】
[2.一実施の形態例による装置構成例]
図2は、本例の自律神経活動評価装置200の構成を示す機能ブロック図である。自律神経活動評価装置200は、例えばコンピュータ装置で構成されるが、
図2は自律神経活動評価装置200の機能面から見た構成を示している。
【0017】
赤外線サーモグラフィ装置100は、一定のフレーム周期で熱画像を撮影する。自律神経活動評価装置200の熱画像取得部201は、赤外線サーモグラフィ装置100から供給される熱画像データを取得する。すなわち、熱画像取得部201は、赤外線サーモグラフィ装置100で熱画像が撮影されるフレーム周期で熱画像データを取得する熱画像取得処理を行う。
熱画像取得部201が取得した熱画像データは顔領域抽出部202に供給され、熱画像データから被験者xの顔の領域が抽出される。そして、顔領域抽出部202で抽出された顔の領域の熱画像データは、解析領域設定部203に供給される。解析領域設定部203は、供給される顔の熱画像データの内で、自律神経活動の評価に使用する解析領域を設定する解析領域設定処理を行う。本例の場合には、顔の下半分の領域を解析領域としている。
【0018】
解析領域設定部203で設定された解析領域(顔の下半分)の熱画像データは、温度算出部204に供給される。温度算出部204は、供給される解析領域の熱画像データの各画素から、温度値を算出する温度算出処理を行う。このとき、温度算出部204は、各フレームの熱画像データから、解析領域内での最高値、最低値、最頻値及び平均値を取得する。
温度算出部204で得られた温度値のデータは、分散値算出部205及び評価処理部206に供給される。分散値算出部205は、各フレーム内の解析領域での温度の分散を算出する。分散値算出部205が算出した分散値も評価処理部206に供給される。
【0019】
評価処理部206は、温度算出部204で算出した解析領域の温度値(最高値、最低値、最頻値、及び平均値)と分散値算出部205で算出した分散値に基づいて、コンテンツを見ている被験者xの自律神経活動を評価する。この評価処理部206が行う評価処理の詳細については後述する。
【0020】
評価処理部206で得られる自律神経活動の評価結果は、計測制御部207に供給される。計測制御部207は、評価処理部206で得られた評価結果を、コンテンツを見ている被験者xの評価結果として、出力部210から外部に出力する。例えば、自律神経活動評価装置200に接続された別のコンピュータ装置に、評価結果のデータを出力する。あるいは、自律神経活動評価装置200に接続(又は内蔵)された表示装置300に評価結果を表示するようにしてもよい。
【0021】
また、計測制御部207には、コンテンツ記憶部208が接続されている。コンテンツ記憶部208には、表示装置300に表示されるコンテンツのデータが記憶されており、計測制御部207は、コンテンツ記憶部208からコンテンツデータを読み出して、表示装置300に1ページずつ表示させる。このときのページ送り操作は、例えば被験者xによる操作入力部209での操作により行われる。
【0022】
図3は、自律神経活動評価装置200をコンピュータ装置で構成した場合のハードウェア構成例を示す。
図3に示すコンピュータは、バス8にそれぞれ接続されたCPU(Control Processing Unit:中央処理装置)1、ROM(Read Only Memory)2、およびRAM(Random Access Memory)3を備える。さらに、コンピュータ装置は、記憶装置4、操作入力部5、表示装置6、及び通信インターフェース7を備える。
【0023】
CPU1は、本実施の形態例に係る各機能を実現するソフトウェアのプログラムコードをROM2から読み出して実行する。
RAM3には、演算処理の途中に発生した変数やパラメータ等が一時的に書き込まれる。本実施の形態例に係る各システムおよび装置における処理の実行は、主にCPU1がプログラムコードを実行することにより実現される。
【0024】
表示装置6は、例えば、液晶ディスプレイモニタであり、この表示装置6によりコンピュータで実行される処理の結果が利用者に表示される。表示装置6は、
図2に示す自律神経活動評価装置200に接続された表示装置300に相当する。
操作入力部5には、例えば、キーボード、マウスなどが用いられ、利用者は操作入力部5を用いて所定の入力を行う。操作入力部5は、
図2に示す自律神経活動評価装置200の操作入力部209に相当する。
【0025】
記憶装置4には、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)などの大容量データ記憶媒体が用いられる。記憶装置4には、各種説明情報や、このコンピュータを機能させるためのプログラムが記録される。
通信インターフェース7には、例えば、NIC(Network Interface Card)などが用いられる。通信インターフェース7は、端子が接続されたLAM(Local Area Network)、専用線などを介して外部と各種データの送受信を行う。
【0026】
[3.自律神経活動の評価処理の流れ]
図4は、本例の自律神経活動の評価処理の開始から終了までの時間の流れを示す。
図4に示すように、被験者xの評価処理を行う際には、最初に表示装置300にコンテンツが表示されない前レスト期間Taを設定する。この前レスト期間Taは、例えば30秒などの予め決めた長さに設定される。
【0027】
そして、前レスト期間Taが経過すると、自律神経活動評価装置200の計測制御部207は、コンテンツの閲覧を開始する(コンテンツ閲覧期間Tb)。このコンテンツ閲覧期間Tbが開始されると、計測制御部207は、コンテンツ記憶部208に記憶されたコンテンツ(例えば漫画)の1ページ目を表示装置300に表示する。
その後、被験者xは、操作入力部209を使って、コンテンツのページ送り操作を行い、コンテンツを1ページずつ最終ページまで閲覧する。このように被験者x自身がページ送り操作を行うため、コンテンツ閲覧期間Tbは一定の時間にはならない。すなわち、被験者xによって、コンテンツ閲覧期間Tbが異なる。
【0028】
そして、最終ページの閲覧が終了すると、計測制御部207は、表示装置300にコンテンツを表示しない後レスト期間Tcを設定し、後レスト期間Tcの経過を待って評価処理を終了する。この後レスト期間Tcも、前レスト期間Taと同様に例えば30秒などの予め決めた長さに設定される。
【0029】
以上説明したように、自律神経活動評価装置200は、被験者xにコンテンツを閲覧させて、前レスト期間Ta、コンテンツ閲覧期間Tb、後レスト期間Tcの全ての期間で、被験者xの顔を撮影した熱画像を取得してその評価処理を行う。
【0030】
図5は、自律神経活動評価装置200が行う自律神経活動の評価処理の流れを示すフローチャートである。
まず、前レスト期間Taが開始すると(ステップS11)、自律神経活動評価装置200の顔領域抽出部202は、赤外線サーモグラフィ装置100から伝送された熱画像データから、顔領域を抽出する(ステップS12)。そして、解析領域設定部203は、顔領域の内の下半分を解析領域に設定する(ステップS13)。
【0031】
解析領域設定部203で解析領域が設定されると、温度算出部204は、設定された解析領域(顔の下半分の領域)内の各画素の温度を算出する(ステップS14)。ここでは、温度算出部204は、解析領域内の最高温度、最低温度、最頻温度及び平均温度を算出する。さらに、分散値算出部205は、温度算出部204で算出された解析領域内の各画素の温度から、解析領域内の温度の分散値を算出する(ステップS15)。
なお、分散値は、例えば次式に基づいて算出される。次式において、Tは解析領域全体の平均温度、X
iは解析領域内の各画素の温度であり、分散値算出部205は、解析領域内のn個の画素全ての温度の分散を求める処理を行う。
【0033】
その後、自律神経活動評価装置200の計測制御部207は、後レスト期間Tcが終了したか否かを判断する(ステップS16)。ここで、後レスト期間Tcが終了するタイミングでないと判断したとき(ステップS16のNo)、ステップS12における顔領域抽出部202の処理に戻る。
【0034】
また、ステップS16において、後レスト期間Tcが終了するタイミングであると判断したとき(ステップS16のYes)、評価処理部206は、それぞれの期間で得られた温度から、自律神経活動の評価処理を行う(ステップS17)。そして、評価処理部206で得られた評価結果を、出力部210から出力する(ステップS18)。
【0035】
[4.評価処理の具体例]
次に、2人の被験者x1,x2がコンテンツを閲覧したときの、本例の自律神経活動評価装置200により自律神経活動を評価した具体例について説明する。
ここでは、被験者x1がコンテンツ(作品A及び作品B)を閲覧したときの評価例と、別の被験者x2がコンテンツ(作品C及び作品B)を閲覧したときの評価例を示す。
【0036】
まず、
図6〜
図9を参照して、被験者x1がコンテンツ(作品A)を閲覧したときの評価例について説明する。
図6は、被験者x1がコンテンツ(作品A)を閲覧する前の心理状態と閲覧した後の心理状態とを、被験者x1によるアンケートの回答によって取得し、その閲覧前の心理状態と閲覧後の心理状態との差分値を、心理評価として示すグラフである。
ここでは、作品Aを閲覧した際のアンケート回答として、[快−不快]、[喜び−哀しみ]、[怒り−恐れ]、[好き−嫌悪]、[安らぐ−驚き]の5種類の心理状態を得るようにした。
【0037】
ここでは、[快]の反対の感情を[不快]、[喜び]の反対の感情を[哀しみ]、[怒り]の反対の感情を[恐れ]、[好き]の反対の感情を[嫌悪]、[安らぐ]の反対の感情を[驚き]とする。
図6のグラフにおいて、0から数値が高くなる程、[快]、[喜び]、[怒り]、[好き]、[安らぐ]のポジティブ側の感情を高く持ったことを示す。[快]、[喜び]、[怒り]、[好き]、[安らぐ]の心理状態と反対になる、ネガティブ側の心理状態である[不快]、[哀しみ]、[恐れ]、[嫌悪]、[驚き]については、0からマイナス側に増える数値で示されるため、
図6の例では示されていない。
【0038】
図6に示す回答例では、コンテンツ(作品A)を閲覧した直後に、ポジティブ側の評価が増加し、具体的には、[快]の感情が急増し、[喜び]の感情が微増し、[好き]の感情が増加し、[安らぎ]の感情が増加している。
【0039】
次に、赤外線サーモグラフィ装置100で得た、被験者x1がコンテンツ(作品A)を閲覧中の熱画像の例を、
図7及び
図8に示す。なお、
図7などの各図に示す熱画像は、本来は色で温度変化を示すカラー画像である。したがって、モノクロ画像として示す図面上では、画像の濃淡がある程度の温度変化を反映しているが、必ずしも正確な温度を反映しているとは限らない。
【0040】
図7は、コンテンツ(作品A)を閲覧中の被験者x1を撮影した熱画像の全体と、解析領域である顔の下半分の付近を拡大した熱画像とを示す。解析領域には、
図7に示すように、顔の鼻部、唇部、右頬部、左頬部が含まれる。
図8は、この解析領域である顔の下半分の付近の熱画像を、時系列で並べたものである。
図8の例では、コンテンツ(作品A)の閲覧開始から10秒間隔で、160秒までの17個の熱画像を示す。各画像の下に記載した数値が、閲覧開始からの秒数である。なお、この例では、0秒から30秒までが前レスト期間Taであり、140秒以降が後レスト期間Tcである。
【0041】
図8に示すように、被験者x1がコンテンツ(作品A)を閲覧した場合、鼻部は、閲覧開始から110秒あたりまで温度にほとんど変化がなく、その後上昇している。また、口唇部は、閲覧開始から90秒あたりまで温度にほとんど変化がなく、その後上昇している。但し、鼻部の温度変化と唇部の温度変化は、完全には拮抗していない。
【0042】
図9は、解析領域である顔の下半分の温度の分散値の変化を示す。
図9の横軸は時間(秒)であり、縦軸は分散値を示し、分散値は上に行くほど温度の分散が大きくなっていることを示す。
この
図9から分かるように、コンテンツ(作品A)を閲覧している期間内で、分散が徐々に増大している。
【0043】
このように温度の分散が大きくなっている場合、評価処理部206は、被験者x1の感情が、コンテンツ(作品A)の閲覧により高まったと評価する。この被験者x1の感情の高まりがあったとする評価は、
図6に示す被験者自身によるアンケートでの回答で、[快]の感情が急増した状態等を反映した、被験者x1自身の感情を的確に捉えた評価結果である。
【0044】
次に、
図10〜
図13を参照して、被験者x1がコンテンツ(作品B)を閲覧したときの評価例について説明する。
図10は、被験者x1がコンテンツ(作品B)を閲覧する前の心理状態と閲覧した後の心理状態とを、被験者x1によるアンケートの回答によって取得し、その閲覧前の心理状態と閲覧後の心理状態との差分値を、心理評価として示すグラフである。この
図10のアンケート回答の分類は、既に説明した
図6のアンケート回答と同様に、[快−不快]、[喜び−哀しみ]、[怒り−恐れ]、[好き−嫌悪]、[安らぐ−驚き]の5種類の心理状態である。
【0045】
図10の例では、コンテンツ(作品B)を閲覧した直後に、ネガティブ側の評価が増加し、具体的には、[不快]、[哀しみ]、[恐れ]、[嫌悪]、[驚き]の5種類のネガティブ側の感情がいずれも増加している。
【0046】
次に、赤外線サーモグラフィ装置100で得た、被験者x1がコンテンツ(作品B)を閲覧中の熱画像の例を、
図11及び
図12に示す。
図11は、コンテンツ(作品B)を閲覧中の被験者x1を撮影した熱画像の全体と、解析領域である顔の下半分の付近を拡大した熱画像とを示す。
【0047】
図12は、この解析領域である顔の下半分の付近の熱画像を、時系列で並べたものである。
図12の例では、コンテンツ(作品B)の閲覧開始から10秒間隔で、110秒までの12個の熱画像を示す。各画像の下に記載した数値が、閲覧開始からの秒数である。なお、この例では、0秒から30秒までが前レスト期間Taであり、90秒以降が後レスト期間Tcである。
この
図12に示す被験者x1がコンテンツ(作品B)を閲覧した場合、時系列的には温度変化が少ないが、鼻先に着目すると温度が徐々に低下している。
【0048】
図13は、解析領域である顔の下半分の温度の分散値の変化を示す。
図13の横軸は時間(秒)であり、縦軸は分散値を示し、分散値は上に行くほど温度の分散が大きくなっていることを示す。
この
図13から分かるように、コンテンツ(作品B)を閲覧している期間内で、分散値にほとんど変化がないことがわかる。
【0049】
このように温度の分散に変化がない場合、評価処理部206は、コンテンツ(作品B)の閲覧により被験者x1の感情の高まりがないと評価する。この被験者x1の感情の高まりないとする評価は、
図10に示す被験者自身によるアンケートでの回答で、ネガティブ側の感情が高い状態を反映した、被験者x1自身の感情を的確に捉えた評価結果になる。
【0050】
次に、
図14〜
図17を参照して、被験者x2がコンテンツ(作品C)を閲覧したときの評価例について説明する。
図14は、被験者x2がコンテンツ(作品C)を閲覧する前の心理状態と閲覧した後の心理状態とを、被験者x1によるアンケートの回答によって取得し、その閲覧前の心理状態と閲覧後の心理状態との差分値を、心理評価として示すグラフである。この
図14のアンケート回答の分類は、既に説明した
図6及び
図10のアンケート回答と同様に、[快−不快]、[喜び−哀しみ]、[怒り−恐れ]、[好き−嫌悪]、[安らぐ−驚き]の5種類の心理状態である。
【0051】
図14の例では、コンテンツ(作品C)を閲覧した直後に、ポジティブ側の評価が微増し、具体的には、[快]、[喜び]、[好き]、[安らぐ]の4種類のポジティブ側の感情がいずれも微増している。
【0052】
次に、赤外線サーモグラフィ装置100で得た、被験者x2がコンテンツ(作品C)を閲覧中の熱画像の例を、
図15及び
図16に示す。
図15は、コンテンツ(作品C)を閲覧中の被験者x2を撮影した熱画像の全体と、解析領域である顔の下半分の付近を拡大した熱画像とを示す。
【0053】
図16は、この解析領域である顔の下半分の付近の熱画像を、時系列で並べたものである。
図16の例では、コンテンツ(作品C)の閲覧開始から10秒間隔で、110秒までの12個の熱画像を示す。各画像の下に記載した数値が、閲覧開始からの秒数である。なお、この例では、0秒から30秒までが前レスト期間Taであり、70秒以降が後レスト期間Tcである。
この
図16に示すように、被験者x2がコンテンツ(作品C)を閲覧した場合、非常に温度変化が少ないことがわかる。
【0054】
図17は、解析領域である顔の下半分の温度の分散値の変化を示す。
図17の横軸は時間(秒)であり、縦軸は分散値を示し、分散値は上に行くほど温度の分散が大きくなっていることを示す。
この
図17から分かるように、コンテンツ(作品C)を閲覧している期間内で、分散値にほとんど変化がなく、若干分散値が小さな値に変化している傾向があることがわかる。
【0055】
このように温度の分散にほとんど変化がない場合、評価処理部206は、コンテンツ(作品C)の閲覧により被験者x2の感情の高まりがないと評価する。この被験者x2の感情の高まりないとする評価は、
図14に示す被験者自身によるアンケートでの回答で、ポジティブ側の感情が微増した状態を反映した、被験者x2自身の感情を的確に捉えた評価結果になる。
【0056】
次に、
図18〜
図21を参照して、被験者x2がコンテンツ(作品B:
図10〜
図13の例の作品Bと同じ)を閲覧したときの評価例について説明する。
図18は、被験者x2がコンテンツ(作品C)を閲覧する前の心理状態と閲覧した後の心理状態とを、被験者x1によるアンケートの回答によって取得し、その閲覧前の心理状態と閲覧後の心理状態との差分値を、心理評価として示すグラフである。この
図18のアンケート回答の分類は、既に説明した
図6、
図10、及び
図14のアンケート回答と同様に、[快−不快]、[喜び−哀しみ]、[怒り−恐れ]、[好き−嫌悪]、[安らぐ−驚き]の5種類の心理状態である。
【0057】
図18の例では、コンテンツ(作品C)を閲覧した直後に、ネガティブ側の評価が微増又は増加し、具体的には、[不快]、[哀しみ]のネガティブ側の感情が増加し、[恐れ]、[嫌悪]、[驚き]のネガティブ側の感情が微増している。
【0058】
次に、赤外線サーモグラフィ装置100で得た、被験者x2がコンテンツ(作品B)を閲覧中の熱画像の例を、
図19及び
図20に示す。
図19は、コンテンツ(作品B)を閲覧中の被験者x2を撮影した熱画像の全体と、解析領域である顔の下半分の付近を拡大した熱画像とを示す。
【0059】
図20は、この解析領域である顔の下半分の付近の熱画像を、時系列で並べたものである。
図20の例では、コンテンツ(作品B)の閲覧開始から10秒間隔で、140秒までの15個の熱画像を示す。各画像の下に記載した数値が、閲覧開始からの秒数である。なお、この例では、0秒から30秒までが前レスト期間Taであり、100秒以降が後レスト期間Tcである。
この
図20に示すように、被験者x2がコンテンツ(作品B)を閲覧した場合、非常に温度変化が少ないことがわかる。
【0060】
図21は、解析領域である顔の下半分の温度の分散値の変化を示す。
図21の横軸は時間(秒)であり、縦軸は分散値を示し、分散値は上に行くほど温度の分散が大きくなっていることを示す。
この
図21から分かるように、コンテンツ(作品B)を閲覧している期間内で、分散値にほとんど変化がないことがわかる。
【0061】
このように温度の分散にほとんど変化がない場合、評価処理部206は、コンテンツ(作品C)の閲覧により被験者x2の感情の高まりがないと評価する。この被験者x2の感情の高まりないとする評価は、
図18に示す被験者自身によるアンケートでの回答で、ネガティブ側の感情が若干増加した状態を反映した、被験者x2自身の感情を的確に捉えた評価結果になる。
【0062】
以上の実例からわかるように、被験者がコンテンツを閲覧した際に、そのコンテンツの内容によって、コンテンツから与えられる感動(感情)に大きな差があり、その感動を受けた度合いが、被験者の顔の下半分の皮膚表面温度の分布変化に現れて、分散値の変化として取得することができる。したがって、被験者の顔の下半分の皮膚表面温度の分散値の変動が大きいとき、被験者が感動するコンテンツであると評価することができる。逆に、被験者の顔の下半分の皮膚表面温度の分散値の変動が小さいとき、被験者が感動しないコンテンツであると評価することができる。
しかも、被験者の顔の温度を検出する際に、顔の下半分の領域を解析領域としたことで、被験者が眼鏡を掛けている場合と掛けていない場合や、被験者の頭髪の状態などの影響を排除した適切な評価が可能になる。
【0063】
また、被験者ごとにコンテンツの閲覧でどの程度感動したかを評価することができることで、それぞれの被験者の嗜好に合ったコンテンツの推薦などが可能になる。また、漫画などのコンテンツを販売している事業者にとっては、販売しているコンテンツがユーザに与える感動などを定量的に評価できるようになり、より感動を与えるコンテンツの製作に貢献する。
【0064】
[5.変形例]
なお、
図2に示す自律神経活動評価装置200の構成は、一例を示すものであり、熱画像を取得して同様の解析処理が可能であれば、その他の構成としてもよい。上述した実施の形態例では、自律神経活動評価装置200は、コンピュータ装置にソフトウェアを実装することで構成したが、専用のハードウェアで同様の構成としてもよい。自律神経活動の評価処理を行うためのソフトウェア(プログラム)については、半導体メモリや光ディスクなどの様々な記録媒体で配布する他に、インターネットなどを経由して伝送して配布するようにしてもよい。
【0065】
また、上述した実施の形態では、自律神経活動評価装置200は、顔領域抽出部202が被験者の顔の領域を抽出した後、解析領域設定部203が顔の領域内から解析領域として、顔の下半分の領域を設定するようにした。これに対して、例えば顔領域抽出部202を省略して、解析領域設定部203が熱画像から直接、顔の下半分の領域を解析領域として取り出すようにしてもよい。
また、上述した実施の形態では、コンテンツとして漫画を閲覧する例としたが、本発明は、その他の様々なコンテンツを被験者が閲覧する場合に適用が可能である。