(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024024159
(43)【公開日】2024-02-22
(54)【発明の名称】注意状態推定方法、オペレータ支援方法及び注意状態推定装置
(51)【国際特許分類】
G08G 1/16 20060101AFI20240215BHJP
A61B 5/18 20060101ALI20240215BHJP
A61B 5/377 20210101ALI20240215BHJP
G08B 21/02 20060101ALI20240215BHJP
G08B 21/00 20060101ALI20240215BHJP
【FI】
G08G1/16 F
A61B5/18
A61B5/377
G08B21/02
G08B21/00 U
【審査請求】未請求
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2022126783
(22)【出願日】2022-08-09
(71)【出願人】
【識別番号】000003997
【氏名又は名称】日産自動車株式会社
(71)【出願人】
【識別番号】304021417
【氏名又は名称】国立大学法人東京工業大学
(74)【代理人】
【識別番号】100103850
【弁理士】
【氏名又は名称】田中 秀▲てつ▼
(74)【代理人】
【識別番号】100114177
【弁理士】
【氏名又は名称】小林 龍
(74)【代理人】
【識別番号】100066980
【弁理士】
【氏名又は名称】森 哲也
(72)【発明者】
【氏名】劉 権鋒
(72)【発明者】
【氏名】宝来 淳史
(72)【発明者】
【氏名】清水 俊行
(72)【発明者】
【氏名】小谷 泰則
(72)【発明者】
【氏名】大上 淑美
【テーマコード(参考)】
4C038
4C127
5C086
5H181
【Fターム(参考)】
4C038PP05
4C038PQ03
4C038PQ04
4C038PS03
4C038PS07
4C127AA03
4C127DD00
4C127GG15
4C127KK03
4C127KK05
5C086AA22
5C086BA22
5C086CA01
5C086CA25
5C086DA08
5C086FA01
5C086FA04
5C086FA17
5H181AA01
5H181CC04
5H181FF27
5H181FF32
5H181LL07
5H181LL08
5H181LL20
(57)【要約】
【課題】事象関連電位に基づいてオペレータの主操作への注意配分を推定する際の推定精度を向上する。
【解決手段】注意状態推定方法では、オペレータの挙動を監視し(S2)、オペレータの挙動に基づいて、オペレータの主操作又は主操作以外の副操作を推定し(S3)、オペレータの脳活動を計測し(S1)、推定したオペレータの操作と測定した脳活動とに基づいて、第1事象関連電位と、第1事象関連電位と相関関係を有し且つ第1事象関連電位よりも事象発生頻度の影響を受けにくい第2事象関連電位と、を抽出し(S4、S5)、第1事象関連電位からオペレータの主操作への注意度を推定し、第2事象関連電位からオペレータの副操作への注意度を推定し、推定した主操作への注意度と推定した副操作への注意度とに基づいて、オペレータの主操作への注意配分を推定する(S6~S12)。
【選択図】
図5
【特許請求の範囲】
【請求項1】
オペレータの挙動を監視し、
前記オペレータの挙動に基づいて、前記オペレータの主操作又は前記主操作以外の副操作を推定し、
前記オペレータの脳活動を計測し、
推定した前記オペレータの操作と測定した前記脳活動とに基づいて、第1事象関連電位と、前記第1事象関連電位と相関関係を有し且つ前記第1事象関連電位よりも事象発生頻度の影響を受けにくい第2事象関連電位と、を抽出し、
前記第1事象関連電位から前記オペレータの前記主操作への注意度を推定し、
前記第2事象関連電位から前記オペレータの前記副操作への注意度を推定し、
推定した前記主操作への注意度と推定した前記副操作への注意度とに基づいて、前記オペレータの前記主操作への注意配分を推定する、
ことを特徴とする注意状態推定方法。
【請求項2】
前記第1事象関連電位として刺激反応陽性電位を抽出し、前記第2事象関連電位として刺激先行陰性電位を抽出することを特徴とする請求項1に記載の注意状態推定方法。
【請求項3】
前記主操作への注意度と前記副操作への注意度を合計した注意度合計値と、前記主操作への注意度と前記副操作への注意度との比である注意度比率と、に基づいて前記オペレータの前記主操作への注意配分を推定することを特徴とする請求項1に記載の注意状態推定方法。
【請求項4】
前記注意度合計値が第1閾値未満である場合に、前記オペレータの覚醒度が低下した状態であると推定することを特徴とする請求項3に記載の注意状態推定方法。
【請求項5】
前記注意度合計値が前記第1閾値以上であり、かつ、前記主操作への注意度を前記副操作への注意度で除した前記注意度比率が第2閾値以上である場合に、前記オペレータの前記主操作への注意配分が十分足りている状態であると推定することを特徴とする請求項4に記載の注意状態推定方法。
【請求項6】
前記注意度合計値が前記第1閾値以上であり、かつ、前記主操作への注意度を前記副操作への注意度で除した前記注意度比率が第2閾値未満である場合に、前記オペレータの前記主操作への注意配分が不足している状態であると推定することを特徴とする請求項4に記載の注意状態推定方法。
【請求項7】
請求項6に記載の注意状態推定方法によって、前記オペレータの覚醒度が低下した状態又は前記オペレータの前記主操作への注意配分が不足している状態であると推定された場合に、前記オペレータに警報を提示することを特徴とするオペレータ支援方法。
【請求項8】
前記オペレータの覚醒度が低下した状態と推定された場合に提示される第1警報の強度は、前記オペレータの前記主操作への注意配分が不足している状態と推定された場合に提示される第2警報の強度よりも高いことを特徴とする請求項7に記載のオペレータ支援方法。
【請求項9】
オペレータの挙動を監視する第1センサと、
前記オペレータの脳活動を計測する第2センサと、
前記第1センサが取得した前記オペレータの挙動に基づいて、前記オペレータの主操作又は前記主操作以外の副操作を推定する処理と、推定した前記オペレータの操作と前記第2センサが計測した前記脳活動とに基づいて、第1事象関連電位と、前記第1事象関連電位と相関関係を有し且つ前記第1事象関連電位よりも事象発生頻度の影響を受けにくい第2事象関連電位と、を抽出する処理と、前記第1事象関連電位から前記オペレータの前記主操作への注意度を推定する処理と、前記第2事象関連電位から前記オペレータの前記副操作への注意度を推定する処理と、推定した前記主操作への注意度と推定した前記副操作への注意度とに基づいて、前記オペレータの前記主操作への注意配分を推定する処理と、を行う電子回路と、
を備えることを特徴とする注意状態推定装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、注意状態推定方法、オペレータ支援方法及び注意状態推定装置に関する。
【背景技術】
【0002】
特許文献1には、運転課題以外の非運転課題に対する事象関連電位のP3成分の振幅に基づいて、運転者の運転に対する注意状態を推定する技術が記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、P3成分の大きさは被験者に与える刺激の頻度に大きな影響を受けることが知られている。このため、運転中における運転者の運転課題と非運転課題のように、特定の作業を行っているオペレータの主操作と副操作との間に発生頻度の違いがある場合には、主操作時に発生したP3成分の振幅と副操作時に発生したP3成分の振幅とを単純に比較して、主操作と副操作とに対してそれぞれどれくらい注意を配分しているか推定すると、刺激の発生頻度に起因する誤差が発生する。
本発明は、事象関連電位に基づいてオペレータの主操作への注意配分を推定する際の推定精度を向上することを目的とする。
【課題を解決するための手段】
【0005】
本発明の一態様による注意状態推定方法では、オペレータの挙動を監視し、オペレータの挙動に基づいて、オペレータの主操作又は主操作以外の副操作を推定し、オペレータの脳活動を計測し、推定したオペレータの操作と測定した脳活動とに基づいて、第1事象関連電位と、第1事象関連電位と相関関係を有し且つ第1事象関連電位よりも事象発生頻度の影響を受けにくい第2事象関連電位と、を抽出し、第1事象関連電位からオペレータの主操作への注意度を推定し、第2事象関連電位からオペレータの副操作への注意度を推定し、推定した主操作への注意度と推定した副操作への注意度とに基づいて、オペレータの主操作への注意配分を推定する。
【発明の効果】
【0006】
本発明によれば、事象関連電位に基づいてオペレータの主操作への注意配分を推定する際の推定精度を向上できる。
【図面の簡単な説明】
【0007】
【
図1】実施形態のオペレータ支援装置のハードウエア構成の一例を示す図である。
【
図2】主操作に対する事象関連電位のP3成分と副操作に対する刺激先行陰性電位(SPN)の散布図の一例である。
【
図3】
図1のコントローラの機能構成の一例のブロック図である。
【
図5】実施形態のオペレータ支援方法の一例のフローチャートである。
【発明を実施するための形態】
【0008】
以下、本発明の実施形態について、図面を参照しつつ説明する。なお、各図面は模式的なものであって、現実のものとは異なる場合がある。また、以下に示す本発明の実施形態は、本発明の技術的思想を具体化するための装置や方法を例示するものであって、本発明の技術的思想は、構成部品の構造、配置等を下記のものに特定するものではない。本発明の技術的思想は、特許請求の範囲に記載された請求項が規定する技術的範囲内において、種々の変更を加えることができる。
【0009】
(構成)
図1は、実施形態のオペレータ支援装置のハードウエア構成の一例を示す図である。オペレータ支援装置1は、特定の作業中のオペレータの脳活動を計測することにより、オペレータにより行われる操作に対するオペレータの注意状態を推定し、推定結果に応じた警報を発生することによりオペレータを支援する装置である。
【0010】
以下の説明では、特定の作業中のオペレータとして、車両の運転中の運転者の脳活動を計測することにより、運転者の運転操作に対する注意状態を推定し、推定結果に応じた警報を発生することにより運転者による運転を支援する運転支援装置の場合の例について説明する。
しかしながら、本発明は、運転者の注意状態の推定に限定されるものではなく、特定の作業中のオペレータの注意状態の推定に広く適用することができる。例えば後述のように、航空管制塔の管制官(すなわち航空管制官)の脳活動を計測することにより、管制操作に対するオペレータの注意状態を推定し、推定結果に応じた警報を発生することにより航空管制官を支援するオペレータ支援装置に適用可能である。
【0011】
オペレータ支援装置1は、挙動監視センサ3と、脳活動センサ4と、表示装置5と、スピーカ6と、コントローラ7とを備える。
挙動監視センサ3と、脳活動センサ4と、コントローラ7は、運転者の運転操作に対する注意状態を推定する注意状態推定装置2を形成する。
挙動監視センサ3は、運転者の挙動を監視するためのセンサであってよい。例えば挙動監視センサ3は、車内に設けられて運転者を撮影するカメラを備えてもよい。挙動監視センサ3として、被写体までの距離を取得できるRGB-Dカメラを備えてもよい。
【0012】
また例えば挙動監視センサ3は、運転操作に用いられる運転操作子(例えばステアリングホイール、アクセルペダル、ブレーキペダル、シフトレバー、方向指示器、パーキングブレーキ)の操作入力を検出するセンサや、運転者が運転操作子に接触しているか否かを検出する接触センサや感圧センサであってもよい。また例えば挙動監視センサ3は、運転操作子以外の他の車載機器への操作入力を検出するセンサであってもよい。
挙動監視センサ3は、運転者の監視データを生成してコントローラ7に出力する。
【0013】
脳活動センサ4は、運転者の脳活動を検出するセンサである。例えば脳活動センサ4は、運転者の頭部に取り付けられる複数の電極を有して運転者の脳波を検出する脳波センサであってよい。脳波センサの複数の電極は、例えば国際10-20法に準拠して認知機能に関わる運転者の頭頂部に配置してよい。
なお、複数の電極の個数や取り付け位置は特に限定されない。また、脳活動センサ4が有する複数の電極の頭部への取り付け方法は特に限定されないが、例えば複数の電極を設けた装着型の電極キャップやバンドで構成されていてもよい。
脳活動センサ4は、運転者の脳活動(例えば脳波)のデータを検出し、検出された脳活動のデータをコントローラ7に出力する。
【0014】
表示装置5は、運転者が視認可能な位置に設けられて、オペレータ支援装置1が生成する視覚的情報を提示する出力装置である。表示装置5は、例えば、ナビゲーションシステムの表示画面や、運転席前方のメータ近くの位置やその他の位置に設けられたディスプレイ装置であってよい。
スピーカ6は、オペレータ支援装置1が生成する聴覚的情報を提示する出力装置である。聴覚的情報を出力する装置としてブザーを備えてもよい。
例えば、オペレータ支援装置1は、運転者の注意状態の推定結果に応じて、表示装置5から警報表示や視覚的な警報メッセージを出力したり、スピーカ6やブザーから、警報音や聴覚的な警報メッセージを出力してよい。
【0015】
コントローラ7は、挙動監視センサ3から出力される監視データと、脳活動センサ4から出力される脳活動のデータとに基づいて、運転者の注意状態を推定する電子回路である。コントローラ7は、プロセッサ7aと、記憶装置7b等の周辺部品とを含む。プロセッサ7aは、例えばCPU(Central Processing Unit)やMPU(Micro-Processing Unit)であってよい。
記憶装置7bは、半導体記憶装置や、磁気記憶装置、光学記憶装置等を備えてよい。例えば記憶装置7bは、レジスタ、キャッシュメモリ、主記憶装置として使用されるROM(Read Only Memory)及びRAM(Random Access Memory)等のメモリを含んでよい。
【0016】
以下に説明するコントローラ7の機能は、例えばプロセッサ7aが、記憶装置7bに格納されたコンピュータプログラムを実行することにより実現される。
なお、コントローラ7を、以下に説明する各情報処理を実行するための専用のハードウエアにより形成してもよい。例えばコントローラ7は、汎用の半導体集積回路中に設定される機能的な論理回路を備えてもよい。コントローラ7はフィールド・プログラマブル・ゲート・アレイ(FPGA:Field-Programmable Gate Array)等のプログラマブル・ロジック・デバイス(PLD:Programmable Logic Device)等を有していてもよい。
【0017】
コントローラ7は、特定の作業中のオペレータである運転中の運転者が、作業(運転)中の主要な操作(課題)である運転操作に対してどれくらい注意を配分しているかを推定する。
以下の説明において、特定の作業中のオペレータの主要な操作(課題)を「主操作」と表記することがある。特定の作業中のオペレータが運転中の運転者である場合、主操作は例えば「運転操作」であってよい。運転操作の例として、例えばステアリングホイールの操舵、アクセルペダルやブレーキペダルの踏み込み操作、方向指示器、シフトレバー、パーキングブレーキの操作を含んでよい。
【0018】
また、特定の作業中において主操作以外に行うオペレータの操作を、以下の説明において「副操作」と表記することがある。特定の作業中のオペレータが運転中の運転者である場合、副操作は例えば車両のナビゲーションシステム、オーディオビジュアル機器、空調装置の操作や、移動携帯端末の操作を含んでよい。
【0019】
被験者の注意度を推定する指標として、被験者の脳活動(例えば脳波)のデータから抽出される事象関連電位のP3成分が知られている。以下の説明において、事象関連電位のP3成分を単に「P3成分」と表記することがある。
P3成分は、刺激となる事象が被験者に提示されてから約300ミリ秒後に反応する陽性電位中枢レベルの処理資源の配分量や情報の更新を反映する事象関連電位(刺激反応陽性電位)である。
P3成分は、刺激の強さに応じた振幅を有する。刺激の強さは、事象に対する被験者の注意度に依存するため、P3成分の振幅に基づいて注意度の大きさを推定できる。
【0020】
人間が払うことができる注意度の総量は概ね一定であると考えられる。このため、特定の作業中のオペレータの主操作に対する注意度の大きさと副操作に対する注意度の大きさの総和は概ね一定となり、一方が増加すれば他方が減少するという負の相関関係が成立する。
したがって、P3成分の振幅が刺激の強さ(すなわち注意度の大きさ)だけで決定されるのであれば、主操作に対するP3成分の振幅A1と副操作に対するP3成分の振幅A2との総和が概ね一定値K=A1+A2となるはずである。もし、このような関係が成立すれば、主操作に対するP3成分の振幅A1と副操作に対するP3成分の振幅A2に基づいて、主操作と副操作とに対してそれぞれどのくらい注意を配分しているか推定できる。
【0021】
しかしながら、P3成分の振幅の大きさは被験者に与える刺激の頻度に大きな影響を受けることが知られており、頻度が高いほど同じ強度の刺激に対して発生するP3成分の振幅は小さくなる。
また、特定の作業中のオペレータの主操作と副操作との発生頻度に違いがある場合がある。例えば、運転中における運転者の副操作の発生頻度は主操作(運転操作)に比べて低くなる。
【0022】
このため、主操作への注意度が大きく副操作への注意度が小さくなっても、副操作の頻度が低いと、副操作に対するP3成分が高くなって副操作に対する注意度が過大に推定されてしまう。このため、主操作に対するP3成分の振幅と副操作に対するP3成分の振幅とを単純に比較して、主操作と副操作とに対する注意配分を推定すると、刺激の頻度に起因する推定誤差が発生する。
【0023】
そこで、本発明の注意状態推定方法では、刺激の発生頻度の影響を受けにくい事象関連電位である刺激先行陰性電位(SPN:Stimulus-Preceding Negativity)を利用する。以下の説明において、刺激先行陰性電位を「SPN」と表記することがある。
SPNは、被験者の行動に対する結果の情報を刺激として与えると大きくなる電位であり、被験者が行った行動に対する被験者の関与度を反映する。したがって、オペレータが副操作を実行したときのSPNを抽出すると、SPNの振幅から、副操作に対するオペレータの注意度の大きさを推定できる。
また、SPNは発生頻度の影響を受けにくいという特性を有するため、副操作の発生頻度が主操作の発生頻度に比べて低くても、副操作に対する注意度が過大に推定される虞が少ない。
【0024】
このため、副操作に対するオペレータの注意度の大きさとしてSPNの振幅を算出し、主操作に対する注意度の大きさとしてP3成分の振幅を算出すると、これらの注意度の間には負の相関関係が成立する。
図2は、主操作に対するP3成分と副操作に対するSPNをそれぞれ抽出したときのP3成分の振幅とSPNの振幅の散布図の一例である。横軸は主操作に対するP3成分の振幅を示しており、縦軸は副操作に対するSPNの振幅を示している。
【0025】
図2から、主操作に対するP3成分の振幅と副操作に対するSPNの振幅との間に負の相関関係が成立することが認められる。
そこでコントローラ7は、主操作に対するP3成分の振幅と副操作に対するSPNの振幅とに基づいて主操作と副操作に対する注意配分を推定する。
【0026】
図3は、
図1のコントローラ7の機能構成の一例のブロック図である。コントローラ7は、オペレーション推定部10と、事象関連電位推定部11と、注意度推定部12と、警報生成部13を備える。
オペレーション推定部10は、特定の作業中のオペレータである運転者の挙動を挙動監視センサ3が監視して生成した信号に基づいて、運転者の操作を推定する。具体的には、オペレーション推定部10は、運転者が車両の主操作(すなわち運転操作)を行ったか、副操作(すなわち運転操作以外の操作)を行ったかを推定する。
【0027】
例えばオペレーション推定部10は、挙動監視センサ3のカメラが撮影した運転者の挙動に基づいて運転者の操作を推定してもよい。
例えばオペレーション推定部10は、挙動監視センサ3のRGB-Dカメラが生成した撮像画像から、運転者の身体部位の部分画像を抽出してよい。運転者の身体部位の部分画像の抽出には、例えば既知の背景差分法などの既知の手法を用いてよい。
【0028】
次にオペレーション推定部10は、運転者の身体部位の部分画像を用いて、運転者の関節位置の座標を推定してよい。例えば身体部位の部分画像の各ピクセルに対して、ピクセル周囲の深度距離を用いて特徴量を算出してよい。その特徴量を集合学習器にかけて身体部位を算出し、それぞれの身体部位のピクセルをクラスタリングし、クラスタの代表点を抽出して運転者の関節位置座標を推定してよい。
【0029】
そして、関節位置座標の特徴量を抽出し、運転操作(主操作)の特徴量と副操作の特徴量とを学習したデータベース(例えば分類器)を用いて分類することによって、運転者の運転操作と副操作を推定してよい。
運転操作と副操作との分類に用いるデータベースは、例えば、上記のように求めた関節位置座標を特徴として、RandomForest等の機械学習方法を用いて運転操作の特徴と副操作の特徴とに分類することにより学習できる。
【0030】
また例えばオペレーション推定部10は、挙動監視センサ3の運転操作子の操作入力を検出するセンサや、運転操作子以外の他の車載機器への操作入力を検出するセンサや、運転者が運転操作子に接触しているか否かを検出する接触センサや感圧センサの検出信号に基づいて運転者の操作を推定してもよい。
【0031】
事象関連電位推定部11は、脳活動センサ4が出力する脳活動のデータと、オペレーション推定部10の推定結果とに基づいて、主操作により発生する第1事象関連電位と、副操作により発生する第2事象関連電位を抽出する。
例えば事象関連電位推定部11は、第2事象関連電位として、第1事象関連電位と相関関係を有し、かつ、第1事象関連電位よりも事象発生頻度の影響を受けにくい事象関連電位を抽出してよい。
【0032】
例えば事象関連電位推定部11は、第1事象関連電位として刺激反応陽性電位であるP3成分を抽出してよい。例えば事象関連電位推定部11は、運転者が主操作を行ったとオペレーション推定部10が推定した場合に、主操作の時点から約300ミリ秒後に発生した脳波の電位を主操作により発生するP3成分として抽出してよい。
【0033】
例えば事象関連電位推定部11は、第2事象関連電位として刺激先行陰性電位であるSPNを抽出してよい。例えば事象関連電位推定部11は、運転者が副操作を行ったとオペレーション推定部10が推定した場合に、副操作に対する結果情報(フィードバック刺激)が運転者に与えられるフィードバック時点を予測し、副操作の時点からフィードバック時点までに発生する脳波の電位をSPNとして抽出してよい。例えばフィードバック時点の直前に発生する脳波の電位をSPNとして抽出してよい。
【0034】
例えば、副操作がナビゲーションシステムの操作や移動携帯端末の操作である場合には、操作によって生じるGUI(グラフィカルユーザインタフェース)の画面遷移が生じる時点や、操作音が出力される時点を、フィードバック時点として予測してよい。
副操作がオーディオビジュアル機器の操作である場合には、操作の結果(例えばコンテンツの変更や音量変更)が発生する時点や、操作音が出力される時点を、フィードバック時点として予測してよい。副操作が空調装置の操作である場合には、操作の結果(風量や風の向きの変更)が発生する時点や、操作音が出力される時点を、フィードバック時点として予測してよい。
【0035】
フィードバック時点を予測するために、副操作が行われた時点からフィードバック時点までの経過時間の長さを副操作の対象となる機器に応じて個別に設定してよい。例えば、機器の種類に応じて既知の固定長を予め設定してもよい。副操作とフィードバック刺激の発生を予め挙動監視センサ3等で検出して、副操作が行われた時点からフィードバック時点までの機器毎の経過時間の長さをデータベース化してもよい。
【0036】
以下の説明では、事象関連電位推定部11は、第1事象関連電位としてP3成分を抽出し、第2事象関連電位としてSPNを抽出する場合を例示する。
注意度推定部12は、副操作により発生するSPNの振幅αを、副操作に対する運転者の注意度(以下「副操作注意度Ao」と表記する)として算出する。
また注意度推定部12は、主操作により発生するP3成分の振幅βを、主操作に対する運転者の注意度(以下「主操作注意度Ad」と表記する)として算出する。
なお、注意度推定部12は、予め設定した一定時間に発生する複数の主操作についてそれぞれ発生したP3成分の振幅βの平均値を、主操作注意度Adとして算出してもよい。
注意度推定部12は、副操作注意度Aoと主操作注意度Adとに基づいて、運転者の主操作への注意配分を推定する。
【0037】
例えば、注意度推定部12は、主操作注意度Adと副操作注意度Aoとを合計した注意度合計値(Ad+Ao)と、副操作注意度Aoに対する主操作注意度Adの比である注意度比率(Ad/Ao)に基づいて運転者の主操作への注意配分を推定してよい。
例えば注意度推定部12は、注意度合計値(Ad+Ao)が第1閾値Th1未満であるか否かを判定してよい。
【0038】
図4は、運転者(オペレータ)の注意配分の推定に用いる注意配分判定マップの一例である。横軸は副操作注意度Aoを示しており、縦軸は主操作注意度Adを示している。
判別線L1は、注意度合計値(Ad+Ao)=第1閾値Th1を満たす注意度(Ao,Ad)がなす直線である。また判別線L2は、注意度比率(Ad/Ao)=第1閾値Th1を満たす注意度(Ao,Ad)がなす直線である。
【0039】
注意度合計値(Ad+Ao)が第1閾値Th1未満である場合、すなわち注意度(Ao,Ad)が判別線L1より原点に近い領域R1内にある場合に、注意度推定部12は、運転者の覚醒度が低下した状態であると推定してよい。
これにより、運転者の主操作への注意度が不足している状態であるのに加え、そもそも、運転者の覚醒度が低下している(運転者が払うことができる注意度の総和が不足している)か否かを判別できる。
【0040】
また例えば注意度推定部12は、注意度比率(Ad/Ao)が第2閾値Th2以上であるか否かを判定してよい。
注意度合計値(Ad+Ao)が第1閾値Th1未満であり且つ注意度比率(Ad/Ao)が第2閾値Th2以上である場合、すなわち注意度(Ao,Ad)が判別線L1より原点から遠く、且つ主操作注意度Adが判別線L2よりも大きい領域R3内にある場合に、注意度推定部12は、運転者の覚醒度が低下しておらず、運転者の主操作への注意配分が十分足りている状態であると推定してよい。
【0041】
また、注意度合計値(Ad+Ao)が第1閾値Th1未満であり且つ注意度比率(Ad/Ao)が第2閾値Th2未満である場合、すなわち注意度(Ao,Ad)が判別線L1より原点から遠く、且つ主操作注意度Adが判別線L2よりも小さい領域R2内にある場合に、注意度推定部12は、運転者の覚醒度が低下していないが、運転者の主操作への注意配分が不足している(主操作よりも副操作へ気が散っている)状態であると推定してよい。
【0042】
警報生成部13は、注意度推定部12の推定結果に基づいて警報信号を生成し、表示装置5や、スピーカ6、ブザーから出力する。警報信号は、表示装置5に表示される警報表示や視覚的な警報メッセージや、スピーカ6やブザーから出力される警報音や聴覚的な警報メッセージであってよい。
具体的には、運転者の覚醒度が低下している状態又は運転者の主操作への注意配分が不足している状態であると注意度推定部12が推定した場合に、警報生成部13は、警報信号を生成して、表示装置5や、スピーカ6、ブザーから出力する。
主操作への注意配分が十分足りている状態であると注意度推定部12が推定した場合には、警報生成部13は、警報信号を出力せずに運転者の注意状態を継続させてもよい。
【0043】
警報生成部13は、運転者の覚醒度が低下している状態であるか、運転者の主操作への注意配分が不足している状態であるかに応じて、異なる強度の警報信号を生成して表示装置5や、スピーカ6、ブザーから出力してもよい。
例えば、運転者の主操作への注意配分が不足している状態であると注意度推定部12が推定した場合に、警報生成部13は第2警報信号を生成して、表示装置5や、スピーカ6、ブザーから出力してよい。一方で、運転者の覚醒度が低下している状態であると注意度推定部12が推定した場合に、警報生成部13は、第2警報信号よりも強い第1警報信号を生成して、表示装置5や、スピーカ6、ブザーから出力してよい。
これにより、運転者の覚醒度が低下している場合には、強度の強い第1警報信号によって、確実に運転者の覚醒度上昇を促すことができる。
【0044】
(動作)
図5は、実施形態のオペレータ支援方法の一例のフローチャートである。
ステップS1において脳活動センサ4は、特定の作業中のオペレータの脳活動を検出する。
ステップS2において挙動監視センサ3は、オペレータの挙動を監視する。
ステップS3においてオペレーション推定部10は、挙動監視センサ3が生成した信号に基づいて、オペレータによる主操作のイベント又は副操作のイベントが発生したか否かを推定する。イベントが発生した場合(ステップS3:Y)に処理はステップS4へ進む。イベントが発生しない場合(ステップS3:N)に処理はステップS1へ戻る。
【0045】
ステップS4において事象関連電位推定部11は、副操作のイベントに対する事象関連電位としてSPN(第2事象関連電位)を抽出する。注意度推定部12は、SPNの振幅αを、副操作注意度Aoとして算出する。
ステップS5において事象関連電位推定部11は、主操作のイベントに対する事象関連電位としてP3成分(第1事象関連電位)を抽出する。注意度推定部12は、一定時間に発生する複数の主操作のイベントに対するそれぞれのP3成分の振幅βの平均値を主操作注意度Adとして算出する。
【0046】
ステップS6において事象関連電位推定部11は、注意度合計値(Ad+Ao)が第1閾値Th1未満であるか否かを判定する。注意度合計値(Ad+Ao)が第1閾値Th1未満である場合(ステップS6:Y)に処理はステップS7へ進む。注意度合計値(Ad+Ao)が第1閾値Th1未満でない場合(ステップS6:N)に処理はステップS9へ進む。
【0047】
ステップS7において注意度推定部12は、オペレータの覚醒度が低下した状態であると推定する。
ステップS8において警報生成部13は、警報の強度が比較的強い第1警報信号を生成し、表示装置5や、スピーカ6、ブザーから出力する。その後に処理は終了する。
ステップS9にて注意度推定部12は、注意度比率(Ad/Ao)が第2閾値Th2以上であるか否かを判定する。注意度比率(Ad/Ao)が第2閾値Th2以上である場合(ステップS9:Y)に処理はステップS10へ進む。注意度比率(Ad/Ao)が第2閾値Th2以上でない場合(ステップS9:N)に処理はステップS11へ進む。
【0048】
ステップS10において注意度推定部12は、オペレータの主操作への注意配分が十分足りている状態であると推定する。その後に処理は終了する。
ステップS11において注意度推定部12は、オペレータの主操作への注意配分が不足している状態であると推定する。
ステップS12において、警報生成部13は、警報の強度が比較的弱い第2警報信号を生成し、表示装置5や、スピーカ6、ブザーから出力する。その後に処理は終了する。
【0049】
(変形例)
上記の第1実施形態では、車両の運転中の運転者の脳活動を計測することにより運転者の運転操作に対する注意状態を推定する場合の例について説明した。しかし本発明は運転者の注意状態の推定に限定されず、特定の作業中のオペレータの注意状態の推定に広く適用できる。
例えば実施形態のオペレータ支援装置1は、航空管制塔の管制官(すなわち航空管制官)の脳活動を計測することにより、航空管制中の主操作に対する航空管制官の注意状態を推定し、推定結果に応じた警報を発生することにより航空管制官を支援してもよい。
この場合、航空管制中の航空管制官の「主操作」は例えば管制操作等であってよく、「副操作」は管制操作以外の操作であってよい。
【0050】
(実施形態の効果)
(1)運転注意状態推定方法では、オペレータの挙動を監視し、オペレータの挙動に基づいて、オペレータの主操作又は主操作以外の副操作を推定し、オペレータの脳活動を計測し、推定したオペレータの操作と測定した脳活動とに基づいて、第1事象関連電位と、第1事象関連電位と相関関係を有し且つ第1事象関連電位よりも事象発生頻度の影響を受けにくい第2事象関連電位と、を抽出し、第1事象関連電位からオペレータの主操作への注意度を推定し、第2事象関連電位からオペレータの副操作への注意度を推定し、推定した主操作への注意度と推定した副操作への注意度とに基づいて、オペレータの主操作への注意配分を推定する。
【0051】
これにより、事象関連電位に基づいて主操作や副操作への注意度を推定する際に、主操作と副操作との間の発生頻度の差に起因して発生する推定誤差を抑制できる。この結果、オペレータの主操作と副操作への注意配分(割合)をより高い精度で推定できる。
【0052】
(2)第1事象関連電位として刺激反応陽性電位を抽出し、第2事象関連電位として刺激先行陰性電位を抽出してよい。
これにより、事象関連電位に基づいて主操作や副操作への注意度を推定する際に、副操作と主操作との間の発生頻度の差に起因して発生する推定誤差を抑制できる。この結果、オペレータの主操作への注意配分(割合)を、より高い精度で推定できる。
【0053】
(3)主操作への注意度と副操作への注意度を合計した注意度合計値と、主操作への注意度と副操作への注意度との比である注意度比率と、に基づいてオペレータの主操作への注意配分を推定してもよい。
これにより、主操作への注意配分が十分か不足か、に加え、注意配分以前に覚醒度がそもそも低下しているか否かをも精度良く判別できる
【0054】
(4)注意度合計値が第1閾値未満である場合に、オペレータの覚醒度が低下した状態であると推定してもよい。
これにより、オペレータの覚醒度が低下した状態を判別できる。
(5)注意度合計値が第1閾値以上であり、かつ、主操作への注意度を副操作への注意度で除した注意度比率が第2閾値以上である場合に、オペレータの主操作への注意配分が十分足りている状態であると推定してもよい。
これにより、覚醒度は低下しておらず、運転への注意度は充分と判別できる。
【0055】
(6)注意度合計値が第1閾値以上であり、かつ、主操作への注意度を副操作への注意度で除した注意度比率が第2閾値未満である場合に、オペレータの主操作への注意配分が不足している状態であると推定してもよい。
これにより、覚醒度は低下していないが、主操作より副操作へ気が散っていると判別できる。
【0056】
(7)上記の運転注意状態推定方法によって、オペレータの覚醒度が低下した状態又はオペレータの主操作への注意配分が不足している状態であると推定された場合に、オペレータに警報を提示してよい。
これにより、警報を提示することで、オペレータの覚醒度上昇、あるいは主操作への注意配分増大を促すように適切な支援を行うことができる。
(8)オペレータの覚醒度が低下した状態と推定された場合に提示される第1警報の強度は、オペレータの主操作への注意配分が不足している状態と推定された場合に提示される第2警報の強度よりも高くてもよい。
これにより、覚醒低下の場合、強度の高い第1警報により、着実にオペレータの覚醒度上昇を促すことができる。
【符号の説明】
【0057】
1…オペレータ支援装置、2…注意状態推定装置、3…挙動監視センサ、4…脳活動センサ、5…表示装置、6…スピーカ、7…コントローラ、7a…プロセッサ、7b…記憶装置、10…オペレーション推定部、11…事象関連電位推定部、12…注意度推定部、13…警報生成部