IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ マツダ株式会社の特許一覧

<>
  • 特許-ドライバ状態推定装置 図1
  • 特許-ドライバ状態推定装置 図2
  • 特許-ドライバ状態推定装置 図3
  • 特許-ドライバ状態推定装置 図4
  • 特許-ドライバ状態推定装置 図5
  • 特許-ドライバ状態推定装置 図6
  • 特許-ドライバ状態推定装置 図7
  • 特許-ドライバ状態推定装置 図8
  • 特許-ドライバ状態推定装置 図9
  • 特許-ドライバ状態推定装置 図10
  • 特許-ドライバ状態推定装置 図11
  • 特許-ドライバ状態推定装置 図12
  • 特許-ドライバ状態推定装置 図13
  • 特許-ドライバ状態推定装置 図14
  • 特許-ドライバ状態推定装置 図15
  • 特許-ドライバ状態推定装置 図16
  • 特許-ドライバ状態推定装置 図17
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-02-10
(45)【発行日】2025-02-19
(54)【発明の名称】ドライバ状態推定装置
(51)【国際特許分類】
   B60W 40/08 20120101AFI20250212BHJP
   G08G 1/16 20060101ALI20250212BHJP
   A61B 5/11 20060101ALI20250212BHJP
   A61B 5/18 20060101ALI20250212BHJP
   A61B 3/113 20060101ALI20250212BHJP
【FI】
B60W40/08
G08G1/16 F
A61B5/11 120
A61B5/18
A61B3/113
【請求項の数】 5
(21)【出願番号】P 2021017182
(22)【出願日】2021-02-05
(65)【公開番号】P2022120344
(43)【公開日】2022-08-18
【審査請求日】2023-12-19
(73)【特許権者】
【識別番号】000003137
【氏名又は名称】マツダ株式会社
(74)【代理人】
【識別番号】110001427
【氏名又は名称】弁理士法人前田特許事務所
(72)【発明者】
【氏名】吉田 誠
(72)【発明者】
【氏名】岩下 洋平
(72)【発明者】
【氏名】幾久 健
【審査官】平井 功
(56)【参考文献】
【文献】特開2008-305190(JP,A)
【文献】特開2008-285013(JP,A)
【文献】国際公開第2010/032424(WO,A1)
【文献】特開2019-122459(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
B60W 30/00-60/00
G08G 1/00-99/00
A61B 5/06- 5/22
A61B 3/00- 3/18
(57)【特許請求の範囲】
【請求項1】
移動体を運転するドライバの状態を推定するドライバ状態推定装置であって、
前記ドライバの頭部の挙動を検出する頭部挙動検出部と、
前記ドライバの眼球の挙動を検出する眼球挙動検出部と、
前記頭部挙動検出部によって検出された頭部挙動のみから、前記ドライバの異常予兆を検知する第1検知部と、
前記頭部挙動検出部によって検出された頭部挙動と前記眼球挙動検出部によって検出された眼球挙動との相関から前記ドライバの異常予兆を検知する第2検知部と、を備え
前記第1検知部は、
前記ドライバの頭部挙動を示す時系列データに対して、周期性特徴量を演算し、
演算によって得られた周期性特徴量に対して、時系列変動パターンを演算し、
演算によって得られた時系列変動パターンを所定の第1閾値と比較して、前記ドライバの異常予兆の有無を検知することを特徴とするドライバ状態推定装置。
【請求項2】
請求項に記載のドライバ状態推定装置において、
前記第1検知部は、
前記ドライバの頭部挙動と前記ドライバに作用する横加速度とのコヒーレンスを更に演算し、
演算によって得られた周期性特徴量及びコヒーレンスに対して、時系列変動パターンを演算することを特徴とするドライバ状態推定装置。
【請求項3】
請求項1または2に記載のドライバ状態推定装置において、
前記第2検知部は、前記眼球挙動検出部によって検出された眼球の変位量と前記頭部挙動検出部によって検出された頭部の変位量とを比較することで、前記ドライバの異常予兆の有無を検知することを特徴とするドライバ状態推定装置。
【請求項4】
移動体を運転するドライバの状態を推定するドライバ状態推定装置であって、
前記ドライバの頭部の挙動を検出する頭部挙動検出部と、
前記ドライバの眼球の挙動を検出する眼球挙動検出部と、
前記頭部挙動検出部によって検出された頭部挙動のみから、前記ドライバの異常予兆を検知する第1検知部と、
前記頭部挙動検出部によって検出された頭部挙動と前記眼球挙動検出部によって検出された眼球挙動との相関から前記ドライバの異常予兆を検知する第2検知部と、を備え、
前記第2検知部は、前記眼球挙動検出部によって検出された眼球の変位量と前記頭部挙動検出部によって検出された頭部の変位量とを比較することで、前記ドライバの異常予兆の有無を検知することを特徴とするドライバ状態推定装置。
【請求項5】
請求項3または4に記載のドライバ状態推定装置において、
前記第2検知部は、
同時期に検出された眼球の変位量に対する頭部の変位量をプロットした2次元マップを演算し、
演算した前記2次元マップにおけるプロットの出現確率分布を演算し、
演算した前記出現確率分布と、予め演算された異常時の出現確率分布との一致度合いを比較することで前記ドライバの異常予兆の有無を検知することを特徴とするドライバ状態推定装置。
【発明の詳細な説明】
【技術分野】
【0001】
ここに開示された技術は、移動体を運転するドライバの状態を推定するドライバ状態推定装置に関する技術分野に属する。
【背景技術】
【0002】
昨今、国家的に自動運転システムの開発が推進されている。本願出願人は、現時点において、自動運転システムには、大きく分けると2つの方向性があると考えている。
【0003】
第1の方向性は、自動車が主体となってドライバの操作を要することなく乗員を目的地まで運ぶシステムであり、いわゆる自動車の完全自動走行である。一方、第2の方向性は、自動車の運転を楽しみたい等、あくまで人間が運転をすることを前提とした自動運転システムである。
【0004】
第2の方向性の自動運転システムでは、例えば、ドライバに疾患等が発生し正常な運転が困難な状況が発生した場合等に、自動車が自動的に乗員に変わって自動運転を行うことが想定される。このため、ドライバに異常が発生したこと、特に、ドライバに機能障害や疾患が発生したことをいかに早期にかつ精度良く発見できるかが、ドライバの救命率の向上や周囲を含めた安全を確保する観点から極めて重要となる。
【0005】
特許文献1では、ドライバの眼球運動のタイミングと頭部運動のタイミングとを特定して、特定したこれらのタイミングの順序を判定し、該判定結果に基づいてドライバの状態を推定するようにしている。
【0006】
また、特許文献2には、ドライバの頭部の揺れ幅に基づいてドライバの運転不能状態を検出したり、ドライバの目の白目度合いに基づいてドライバの運転不能状態を検出したりする状態検出装置が開示されている。
【先行技術文献】
【特許文献】
【0007】
【文献】特許第6068964号公報
【文献】特許第6361312号公報
【非特許文献】
【0008】
【文献】T. Nakamura, et al., “Multiscale Analysis of Intensive Longitudinal Biomedical Signals and its Clinical Applications”, Proceedings of the IEEE, Institute of Electrical and Electronics Engineers, 2016, vol.104, pp.242-261
【文献】水田他、「重心動揺に対するフラクタル解析」、Equilibrium Research、日本めまい平衡医学会、2016,Vol.75(3), pp.154-161
【発明の概要】
【発明が解決しようとする課題】
【0009】
特許文献1,2に示されているように、ドライバの頭部の動きや眼球の状態に基づいてドライバの運転不能や異常を判定する技術は、すでに知られている。しかしながら、特許文献1では、集中力の低下や肉体的な疲労については検出できたとしても、運転者に生じている疾患については事前に予測できない。また、特許文献2は、ドライバに疾患が発現してから運転不能になった状態を検出するものである。ドライバの異常発生時において、より安全に緊急停車等を行うためには、ドライバが運転不能になってしまう前に、その予兆をいち早く捉えることが好ましい。
【0010】
ここに開示された技術は斯かる点に鑑みてなされたものであり、その目的とするところは、移動体を運転するドライバが運転不能状態に陥る予兆を、出来る限り早期に検知する。
【課題を解決するための手段】
【0011】
前記課題を解決するために、ここに開示された技術では、移動体を運転するドライバの状態を推定するドライバ状態推定装置を対象として、前記ドライバの頭部の挙動を検出する頭部挙動検出部と、前記ドライバの眼球の挙動を検出する眼球挙動検出部と、前記頭部挙動検出部によって検出された頭部挙動のみから、前記ドライバの異常予兆を検知する第1検知部と、前記頭部挙動検出部によって検出された頭部挙動と前記眼球挙動検出部によって検出された眼球挙動との相関から前記ドライバの異常予兆を検知する第2検知部と、前記第1検知部及び前記第2検知部の少なくとも一方の検知結果に基づいて、前記ドライバの異常発生の有無を判定する判定部と、を備える、という構成にした。
【0012】
本願発明者らは、人の恒常性維持機能に着目し、恒常性維持機能の低下と、ドライバの頭部挙動及び眼球挙動との関係について研究を行った。恒常性とは、外乱に対して状態を一定に保とうとする機能のことをいい、頭部挙動に関しては、ドライバが運転中に頭部姿勢を維持しようとする性質のことを意味する。本願発明者らが鋭意研究した結果、ドライバの恒常性維持機能の低下に伴い、眼球挙動と頭部挙動との協調が乱れることが分かった。具体的には、ドライバが正常状態であるときには、視線を動かしたときには、視線の安定状態を維持させるために頭部も視線の動きを追従する一方で、ドライバの恒常性維持機能が低下しているときには、視線が移動したとしても、頭部が追従しにくいことが分かった。ここから、本願発明者らは、頭部挙動と眼球挙動との相関から異常予兆を検知することが有効であると見出した。
【0013】
そこで、本開示に係る技術では、頭部挙動のみによる異常予兆の検知に加えて、眼球挙動と頭部挙動との一致度合いからも異常予兆を検知するようにした。これにより、定速走行のように頭部挙動のみでは異常予兆を検知しにくい走行シーンであっても、異常予兆を出来る限り早期に検知することができる。この結果、移動体を運転するドライバが運転不能状態に陥る予兆を、出来る限り早期に検知することができる。
【0014】
前記ドライバ状態推定装置の一実施形態では、前記第1検知部は、前記ドライバの頭部挙動を示す時系列データに対して、周期性特徴量を演算し、演算によって得られた周期性特徴量に対して、時系列変動パターンを演算し、演算によって得られた時系列変動パターンを所定の第1閾値と比較して、前記ドライバの異常予兆の有無を検知する。
【0015】
すなわち、基本的には、ドライバが正常状態であれば、車両に入力される加速度に応じて、ドライバの頭部挙動が不規則になる。しかし、本発明者らが鋭意研究したところ、ドライバが正常状態であっても頭部挙動に周期性が現れる場合が少なくないことが分かった。そこで、周期性特徴量の時系列変動パターンを演算して、得られた時系列変動パターンを所定の閾値と比較して、ドライバの異常予兆の有無を判定するようにした。これにより、ドライバの異常予兆をより早期に検知することができる。
【0016】
前記一実施形態において、前記第1検知部は、前記ドライバの頭部挙動と前記ドライバに作用する横加速度とのコヒーレンスを更に演算し、演算によって得られた周期性特徴量及びコヒーレンスに対して、時系列変動パターンを演算する。
【0017】
すなわち、コーナー走行時のようなドライバの頭部に横加速度が大きく作用する走行シーンでは、ドライバが正常な状態であっても頭部挙動に周期性が表れやすい。そこで、本開示に係る技術では、ドライバの頭部挙動とドライバに作用する横加速度とのコヒーレンスを演算して、時系列変動パターンを演算するようにした。これにより、ドライバの頭部挙動と外的要因である横加速度との相関を加味して、異常予兆を検知することができるため、ドライバの異常予兆をより早期に検知することができる。
【0018】
前記ドライバ状態推定装置において、前記第2検知部は、前記眼球挙動検出部によって検出された眼球の変位量と前記頭部挙動検出部によって検出された頭部の変位量とを比較することで、前記ドライバの異常予兆の有無を検知する、という構成でもよい。
【0019】
すなわち、眼球が微少な変位をしたときなどは、頭部が追従しない場合がある。眼球の変位量と頭部の変位量との間の相関により異常予兆を検知するようにすれば、眼球の微少な動きと比較的大きな動きとを含めた、眼球挙動に対する頭部挙動の傾向により異常状態を検知することができる。これにより、ドライバの異常予兆を精度良く検知することができる。
【0020】
眼球の変位量と頭部の変位量とを比較するドライバ状態推定装置において、前記第2検知部は、同時期に検出された眼球の変位量に対する頭部の変位量をプロットした2次元マップを演算し、演算した前記2次元マップにおけるプロットの出現確率分布を演算し、演算した前記出現確率分布と、予め演算された異常時の出現確率分布との一致度合いを比較することで前記ドライバの異常予兆の有無を検知する、という構成でもよい。
【0021】
この構成によると、正常時と異常時とにおける、眼球挙動と頭部挙動との協調度合いの違いを適切に判定することができる。これにより、ドライバの異常予兆を早期にかつ精度良く検知することができる。
【発明の効果】
【0022】
以上説明したように、ここに開示された技術によると、移動体を運転するドライバが運転不能状態に陥る予兆を、出来る限り早期に検知することができる。
【図面の簡単な説明】
【0023】
図1図1は、本開示に係る技術の位置づけを説明する概念図である。
図2図2は、頭部のピッチ角およびロール角の時系列データの例である。
図3図3は、頭部のピッチ角およびロール角の自己相関指標の分布を表すグラフである。
図4図4は、自己相関指標の時系列変動を示すグラフである。
図5図5は、自己相関指標の時系列変動パターンの分類結果を示すグラフである。
図6図6は、頭部のピッチ角の時系列データであり、(a)は正常状態で直線走行時を示し、(b)は異常模擬状態を示し、(c)は正常状態でコーナー走行時を示す
図7図7は、走行実験によるデータであり、(a)は直線部からコーナーへの進入時を示し、(b)は正常状態から異常模擬状態への遷移時を示す。
図8図8は、頭部挙動と横加速度のコヒーレンスの時系列変動を示すグラフである。
図9図9は、コヒーレンスと自己相関指標の時系列変動パターンの分類結果を示すグラフである。
図10図10は、頭部挙動と眼球挙動の時系列データの例であり、(a)は正常状態を示し、(b)は異常状態を示す。
図11図11は、頭部挙動と眼球挙動との相関関係を比較するためのデータを作成する過程を示す図である。
図12図12は、眼球変位量と頭部変位量とをプロットした2次元マップであり、(a)は正常状態を示し、(b)は異常状態を示す。
図13図13は、図12の2次元マップから出現確率分布を算出した分布図であり、(a)は正常状態を示し、(b)は異常状態を示す。
図14図14は、頭部揺動、頭部-眼球の一致度、並びに、頭部変位量及び眼球変位量を示す時系列データであり、(a)は正常状態を示し、(b)は異常状態を示す。
図15図15は、ドライバ状態推定装置を含む車載システムの構成図である。
図16図16は、頭部挙動のみに基づくドライバ状態推定の処理を示すフローチャートである。
図17図17は、頭部挙動と眼球挙動との協調に基づくドライバ状態推定の処理を示すフローチャートである。
【発明を実施するための形態】
【0024】
以下、例示的な実施形態について、図面を参照しながら詳細に説明する。
【0025】
図1は本開示に係る技術の位置づけを表す概念図である。ドライバが運転不能に陥る状態変容は3つのパターンに集約される。ケースAは、知覚、判断、運動のうち一部機能から低下するパターン、ケースBは、全般機能が徐々に低下するパターン、ケースCは急に意識を喪失するパターンである。このうち、ケースA,Bの場合は、図1に示すように、疾患が発症してから、ドライバの運転能力レベルが徐々に低下していき、やがて運転不能状態に至る。したがって、この運転能力の低下状態を検出できれば、ドライバの運転不能の予兆を検知することができる。運転不能の予兆を検知することができたら、その後は例えばドライバの意思確認を行い、自動走行制御によって車両を路肩に退避させる等の緊急対応が可能になる。また、ケースCの場合であっても、意識を喪失する前の予兆を検知することができれば、緊急対応が可能になる。
【0026】
本開示に係る技術は、人の恒常性維持機能に着目し、ドライバの頭部挙動及びドライバの眼球挙動から、運転不能の予兆(以下、異常予兆という)を検知するものである。具体的には、本実施形態では、ドライバの頭部挙動のみに基づく異常予兆の検知と、ドライバの頭部挙動と眼球挙動との協調運動に基づく異常予兆の検知とを行う。
【0027】
人間は、外乱に対して状態を一定に保とうとする恒常性という機能を有している。頭部挙動の恒常性とは、運転中に頭部姿勢を維持しようとする性質のことをいう。また、頭部と眼球との協調運動に着目した場合には、視線が安定した状態を維持させるために、眼球が移動した方向に頭部を移動させることをいう。
【0028】
〈頭部挙動のみに基づく異常予兆の検知〉
まず、頭部挙動のみに基づく異常予兆の検知について説明する。
【0029】
前述したような人間の恒常性については、種々の研究がなされており、例えば、非特許文献1には、人間の頭部は、正常状態では、恒常性維持のために頭部が不規則に変動する一方、疾患時には、頭部の挙動が小さくなって、挙動が安定することが述べられている。また、非特許文献2には、正常状態から疾患状態に遷移する臨界減速状態では、頭部が周期性を持って変動することが述べられている。
【0030】
本願発明者らは、頭部挙動の周期性に注目して、頭部挙動の周期性特徴量を利用して、ドライバの異常予兆を検知することを考えた。
【0031】
図2は、本願発明者らがドライバの頭部挙動について実験を行った結果を示す。この実験では、ドライバにテストコースを運転させ、運転中のドライバの頭部挙動を計測した。ドライバには、いつもどおりの正常運転をさせ(正常状態に相当する)、運転中に、合図とともに異常模擬タスク(難暗算)を課題として与えた(異常予兆状態に相当する)。頭部の挙動を表すデータとして、ドライバを撮影するカメラの映像から、頭部のピッチ角(前後方向の角度)およびロール角(左右方向の角度)を計測した。そして、頭部のピッチ角およびロール角の時系列データに対して、DFA(Detrended Fluctuation Analysis)により、自己相関指標(スケーリング指数α)を求めた。DFAは、非常にゆっくりと変化する成分、いわゆるトレンドを除去してスケーリングを調べる手法である。自己相関指標(スケーリング指数α)は、データの周期性を示す特徴量の一例である。
【0032】
図2は頭部のピッチ角およびロール角の時系列データの例である。図3は頭部のピッチ角およびロール角の自己相関指標の分布を表すグラフである。図3において、横軸はロール角の自己相関指標であり、縦軸はピッチ角の自己相関指標である。自己相関指標の値は、小さいほど自己相関が強く、大きいほど自己相関が弱いことを表す。
【0033】
図3に示すように、異常予兆状態では、自己相関指標が、正常状態に比べて自己相関が強い方に分布が偏っている。この実験結果は、正常状態では頭部は不規則に変動し、臨界減速状態では頭部は周期性を持って変動する、という前述の知見に合致している。しかしながら、図3から分かるように、正常状態の分布は比較的広範囲に広がっており、異常予兆状態の分布と重なっている範囲が大きい。つまり、自己相関指標のみでは、異常予兆状態の判別は必ずしも容易ではないことが分かる。
【0034】
そこで、本願発明者らは、自己相関指標の時系列変動パターンに着目した。図4に示すように、自己相関指標の時系列データを時間順に切り出し、これを時系列変動パターンとして、パターン分類を行った。ここでは、パターン分類の手法として、非線形次元圧縮手法(UMAP:Uniform Manifold Approximation and Projection)を用いた。
【0035】
図5は、自己相関指標の時系列変動パターンの分類結果を示す。図5では、時系列変動パターンをUMAPによって2次元に次元削減し、2次元マップにマッピングしている。図5では、図3と比べると、正常状態の分布と異常予兆状態の分布とが、より分かれている。図5に示した判定ラインLTHは、2次元データに対してサポートベクターマシンを用いて得たものである。この判定ラインLTHによって、異常予兆状態の判別について、誤判定率15%を達成した。
【0036】
以上のことから、ドライバの頭部の挙動を表す時系列データに対して、周期性特徴量を演算し、演算によって得た周期性特徴量に対して、時系列変動パターンを演算し、演算によって得た時系列変動パターンを所定の閾値と比較することによって、ドライバの異常予兆を検知することができる、と考えられる。
【0037】
しかしながら、本願発明者らが検討を続けた結果、ドライバが正常状態であっても、頭部の挙動が異常予兆状態と似てくるケースが存在することが分かった。
【0038】
図6は本願発明者らによる実験により得られた、頭部のピッチ角の時系列データであり、(a)はドライバが正常状態で直線走行したケース、(b)はドライバが異常模擬状態で運転したケース、(c)はドライバが正常状態でコーナーを走行したケースである。各グラフでは、生データとその移動平均を示している。図6(a)に示すとおり、正常状態で直線走行したケースでは、頭部は不規則な変動をしており、図6(b)に示すとおり、異常模擬状態で運転したケースでは、頭部は規則的な変動をしている。ところが、図6(c)に示すとおり、正常状態でコーナーを走行したケースでは、頭部は、規則的な変動をしている。
【0039】
すなわち、図6(c)のケースでは、ドライバが正常状態であるにもかかわらず、頭部ピッチ角データの自己相関指標が大きくなり、このため、図6(b)のケースと識別することが困難になる。コーナー走行時にドライバの頭部が規則的に変動するのは、頭部に作用する横加速度が要因と推定される。
【0040】
図7は走行実験により得られたデータであり、(a)は車両が周回路直線部からコーナーへ進入したときのデータ、(b)はドライバが正常状態から異常模擬状態に変わったときのデータである。図7(a),(b)において、上側のグラフは車両横加速度と頭部ロール角の時系列変化を表し、下側のグラフは車両横加速度と頭部ロールとのコヒーレンス(相互相関指標)の時系列変化を表す。コヒーレンスは、車両横加速度の時系列変化から求めたパワースペクトルと頭部ロール角の時系列変化から求めたパワースペクトルとの相関を取ることによって求められる。コヒーレンスのグラフは、横軸が時間、縦軸が周波数であり、色が薄いほど相関が高く、色が濃いほど相関が低いことを表している。
【0041】
図7(a)の上側のデータを見ると、車両がコーナーに進入してから、横加速度の変化と連動して頭部が動いていることが分かる。すなわち、ドライバは、横加速度が作用し頭部が振られ始めると、頭部を横加速度の逆方向に補正している。このため、コーナー進入から徐々に、車両横加速度と頭部ロール角との間に相関が現れ始める。一方、図7(b)の場合、頭部ロール角は車両横加速度の変化と連動しておらず、コヒーレンスはほとんど変化していない。
【0042】
前述の実験結果から、コーナー走行時のようなドライバの頭部に横加速度が大きく作用するケースにおいて、頭部挙動に周期性が現れやすいことが分かった。相関が現れる周波数は、主として2Hz以下である。これは、外力に対する頭部の周波数応答を反映していると考えられる。
【0043】
そこで、本願発明者らは、異常予兆の判定精度をさらに上げるために、頭部挙動の自己相関指標だけではなく、外部要因(ここでは横加速度)との相互相関指標を含めて、特徴量を演算し、パターン分類することを検討した。すなわち、図8に示すように、コヒーレンスの時系列データを時間順に切り出し、これを上述の自己相関指標の時系列データと組み合わせて、パターン分類を行った。ここでは、コヒーレンスの時系列データとして、車両横加速度との相関が現れやすい周波数1Hzのデータと、車両横加速度との相関がさほど現れない周波数4Hzのデータを用いた。パターン分類の手法としては、非線形次元圧縮手法(UMAP)を用いた。
【0044】
図9はコヒーレンスと自己相関指標の時系列変動パターンの分類結果を示す。図9では、図5と同様に、時系列変動パターンをUMAPによって2次元に次元削減し、2次元マップにマッピングしている。図9に示した判定ラインLTH2は、2次元データに対してサポートベクターマシンを用いて得たものである。この判定ラインLTH2によって、異常予兆状態の判別について、誤判定率1%を達成することができた。
【0045】
以上のことから、本実施形態では、ドライバの頭部挙動のみに基づいてドライバの異常予兆を検知する場合には、ドライバの頭部挙動を表す時系列データに対して周期性特徴量を演算し、さらに、ドライバの頭部挙動とドライバの頭部に作用する横加速度とのコヒーレンスを演算し、演算によって得た周期性特徴量およびコヒーレンスに対して時系列変動パターンを演算し、演算によって得た時系列変動パターンを所定の閾値と比較することによって、ドライバの異常予兆を検知するようにした。これにより、頭部挙動と外部要因となる横加速度との相関を加味した判定が可能となり、ドライバの異常予兆をさらに精度良く検知することができる。
【0046】
〈頭部-眼球の協調運動に基づく異常予兆の検知〉
次に、ドライバの頭部挙動と眼球挙動との協調運動に基づく異常予兆の検知について説明する。
【0047】
図10は、ドライバの頭部挙動と眼球挙動とを同時に測定したものである。ドライバの頭部挙動及び眼球挙動は、いずれも車室内カメラにより撮影した画像から算出している。図10において、(a)はドライバが正常状態の場合の各挙動を示し、(b)はドライバが異常状態であるときの各挙動を示す。各グラフにおいて、縦軸は頭部及び眼球が基準位置から左右に移動した角度(以下、ヨー角という)を表している。
【0048】
図10(a)に示すように、眼球のヨー角が微少な場合は、頭部はほとんど移動しないが、眼球のヨー角が比較的大きい場合には、頭部が眼球の動きに対応するように移動していることが分かる。一方で、図10(b)を参照すると、ドライバに異常予兆が生じているときには、眼球が大きく移動したとしても、頭部がほとんど移動しないことが分かる。これは、ドライバの恒常性機能が低下した結果、頭部を移動することに対して脳の処理が追いつかず、眼のみで対象物を見ようとするためである。
【0049】
本願発明者らは、このような実験で得られた知見から、頭部のヨー角と眼球のヨー角とを比較することで、ドライバの異常予兆を検知することを検討した。そして、本願発明者らは、ドライバの眼球のヨー角と該ヨー角が計測された時の頭部のヨー角とを2次元マップにして、該2次元マップと、ドライバの異常状態のときの2次元マップとの一致度合いを演算することで、ドライバの異常予兆を検知することを見出した。
【0050】
本実施形態では、2次元マップ同士の一致度合いを演算するために、ドライバの眼球のヨー角と頭部のヨー角との2次元マップに対して、確率密度推定(KDE:Kernel density estimation)により、2次元マップ上のプロットの出現確率分布Qを算出する。
【0051】
具体的には、図11に示すように、まず、頭部ヨー角と眼球ヨー角との時系列データのうちの所定時間分のデータから、同時期に検出されたドライバの眼球ヨー角に対する頭部ヨー角をプロットした2次元マップ1101を作成する。所定時間は、例えば、5~10秒程度である。
【0052】
次に、作成した2次元マップ1101に対して、KDEにより出現確率分布Qを示す確率分布マップ1102を作成する。確率分布マップ1102の演算では、2次元マップ1101を所定サイズのメッシュに分割して、メッシュ毎にプロットの出現確率を算出する。図11に示すように、確率分布マップ1102では、プロットの密集度が高いメッシュほど、出現確率が高くなる。尚、2次元マップ1101から確率分布マップ1102を算出するときには、公知のプログラムを利用することができる。
【0053】
図12には、ドライバが正常状態のときの2次元マップ1101a(図12の(a))と、ドライバが異常状態のときの2次元マップ1101b(図12の(b))とを示す。図12に示すように、ドライバが正常状態のときには、頭部ヨー角が大きいプロットも多数存在することが分かる。特に、ドライバが正常状態のときには、眼球ヨー角が大きいほど、頭部ヨー角についても大きくなりやすいことが分かる。これは、人間の恒常性により、眼球の動きに合わせて、頭部が移動していることを表している。一方で、ドライバが異常状態のときには、眼球ヨー角が大きくなったとしても、頭部ヨー角が小さいことが分かる。これは、恒常性機能が低下したことにより、頭部が移動しにくくなったためである。
【0054】
図13には、図12(a)の2次元マップ1101aに対して演算した確率分布マップ1102a(図13の(a))と、図12(b)の2次元マップ1101bに対して演算した確率分布マップ1102b(図13の(b))とを示す。図13に示すように、ドライバが正常状態のときには、出現確率が、頭部ヨー角が大きい部分にまで分布している一方で、ドライバが異常状態のときには、出現確率が、頭部ヨー角が小さい部分にしか分布していないことが分かる。
【0055】
本実施形態では、図13(b)のようなドライバが異常状態のときの出現確率分布Pを示す確率分布マップ1102bをデータとして予め格納しておき、ドライバが運転中に演算された出現確率分布Qとの一致度合いを求めて、ドライバの異常予兆を検知する。具体的には、最新の出現確率分布Qと異常状態のモデルとなる出現確率分布Pとのカルバック・ライブラー距離(KL距離:Kullback-Leibler 距離)を算出する。KL距離は以下の式により算出される。
【0056】
【数1】
【0057】
この式において、iはメッシュの座標を表す。
【0058】
このKL距離は、最新の出現確率分布Qと異常時の出現確率分布Pとの一致度が高いほど小さくなり、完全に一致するときには0になる。このため、KL距離が所定値以下であるときには、ドライバに異常予兆ありとみなし、KL距離が所定値よりも大きいときには、ドライバが正常状態であるとみなすことができる。
【0059】
図14は、ドライバに対して、頭部ヨー角及び眼球ヨー角を検出するとともに、検出結果から演算された出現確率分布と異常状態における出現確率分布とのKL距離を算出した結果を示す。この実験では、ドライバにドライブシミュレータにより運転させ、運転中のドライバの頭部挙動と眼球挙動とを計測した。図14(a)は、正常状態のドライバから検出された結果であり、図14(b)は、前述したケースC患者から検出された結果である。図14(a),(b)ともに、上図がKL距離であり、下図が検出された頭部ヨー角及び眼球ヨー角である。尚、図14(b)においては、グラフの終端においてドライバに異常が発生している。
【0060】
図14(a)に示すように、ドライバが正常な場合には、ドライバの頭部と眼球とがおおよそ連動して動き、KL距離はある程度高い状態を維持して推移することが分かる。一方で、図14(b)に示すように、ドライバに異常予兆が現れるときには、KL距離が急に小さくなり、0に近い値で推移することが分かる。これは、異常予兆として、恒常性機能が低下して、頭部と眼球との協調運動機能が低下したためと考えられる。したがって、実際の実験でも、最新の出現確率分布Qと異常時の出現確率分布PとのKL距離を算出することで、ドライバの異常予兆を検知可能であることが実際の実験結果からも証明された。尚、この図14(b)では、KL距離が所定値以下となってから破線で示す時間に異常予兆ありを検知している。このように、頭部-眼球の協調運動に基づいても、実際に異常が生じる前に、異常予兆を検知することができている。特に、ケースCの患者についても有効であることが分かった。このKL距離を利用した異常予兆状態の判別により、誤判定率0.2%を達成することができた。
【0061】
〈ドライバ状態推定装置の構成〉
図15は、ドライバ状態推定装置を含む車載システムの構成例を示す。図15に示す車載システムにおいて、カメラ10、加速度センサ11、スピーカ12、情報提示部13、スイッチ14、及びマイク15は、車室内に搭載されている。情報処理装置20は、例えば、プロセッサ及びメモリを備えた単一のICチップ、あるいは、プロセッサ及びメモリを備えた、複数のICチップ等によって構成される。車両停止制御部40は、情報処理装置20からの指示を受けて、車両を自動的に路肩退避させて停止させる制御を行う。
【0062】
カメラ10は、例えば、フロントガラスの内側に設置されており、ドライバを含む車内の状況を撮影する。カメラ10によって撮影された画像は、例えば車載ネットワークを介して、情報処理装置20に送信される。
【0063】
情報処理装置20において、頭部挙動検出部21は、カメラ10によって撮影された画像から、ドライバの頭部の挙動を検出する。例えば、画像からドライバの頭部を認識し、頭部の傾斜角、例えばピッチ角、ロール角、及びヨー角を求める。頭部挙動検出部21における処理は、既存の画像処理技術によって実現することができる。頭部挙動検出部21による処理によって、図2図10、及び図14に示すような頭部挙動の時系列データを得ることができる。頭部挙動の時系列データは、ドライバの異常予兆を検知する第1検知部110及び第2検知部120に送られる。
【0064】
情報処理装置20において、眼球挙動検出部22は、カメラ10によって撮影された画像から、ドライバの眼球の挙動を検出する。例えば、画像からドライバの眼球を認識し、眼球の黒目の傾斜角、例えばヨー角を求める。眼球挙動検出部22における処理は、既存の画像処理技術によって実現することができる。眼球挙動検出部22による処理によって、図10及び図14に示すような眼球挙動の時系列データを得ることができる。眼球挙動の時系列データは、ドライバの異常予兆を検知する第2検知部120に送られる。
【0065】
第1検知部110は、頭部挙動のみからドライバの異常予兆を検知する。第1検知部110は、周期性特徴量演算部111、時系列変動パターン演算部112、異常判定部113、異常判定閾値データベース114、及びコヒーレンス演算部115を備える。周期性特徴量演算部111は、頭部挙動検出部21によって得られた頭部挙動の時系列データから、周期性特徴量を演算する。具体的には、例えば、DFAにより、自己相関指標(スケーリング指数α)を周期性特徴量として求める。周期性特徴量演算部111によって、図4に示すような周期性特徴量の時系列データを得ることができる。
【0066】
コヒーレンス演算部115は、加速度センサ11の出力と、頭部挙動検出部21によって得られた頭部挙動の時系列データとを用いて、ドライバの頭部の挙動とドライバの頭部に作用する横加速度とのコヒーレンスを演算する。例えば、コヒーレンス演算部115は、加速度センサ11の出力から認識した車両の左右方向の加速度をドライバの頭部に作用する横加速度として捉え、この横加速度の時系列データからパワースペクトルを求める。また、コヒーレンス演算部115は、頭部挙動の時系列データからパワースペクトルを求め、パワースペクトル同士の相関を取ることによって、コヒーレンスを求める。そして、コヒーレンス演算部115は、横加速度との相関が現れやすい周波数として例えば1Hzの時系列データと、横加速度との相関がさほど現れない周波数として例えば4Hzの時系列データを求める。
【0067】
時系列変動パターン演算部112は、周期性特徴量演算部111によって得られた周期性特徴量の時系列データ、および、コヒーレンス演算部115によって得られたコヒーレンスの時系列データを、時間順に切り出し、切り出した時系列データの組み合わせから時系列変動パターンを演算し、パターン分類する。具体的には例えば、周期性特徴量およびコヒーレンスの組み合わせの時系列データを、非線形次元圧縮手法の1つであるUMAPを用いて次元削減し、2次元データに変換する。
【0068】
異常判定部113は、時系列変動パターン演算部112によって得られたデータを、異常判定閾値データベース114に格納された閾値と比較し、ドライバに異常予兆が発生したか否かを判定する。例えば、図9の2次元マップにおける判定ラインLTH2が、異常判定閾値データベース114に格納された閾値に相当する。異常判定部113は、時系列変動パターン演算部112によって得られたデータが、2次元マップ上において、判定ラインLTH2のどちら側に位置するかによって、ドライバに異常予兆が発生したか否かを判定する。
【0069】
第2検知部120は、頭部挙動と眼球挙動の相関からドライバの異常予兆を検知する。第2検知部120は、頭部-眼球変位量分布演算部121、異常度演算部122、異常判定部123、異常確率分布データベース124、及び異常判定閾値データベース125を備える。頭部-眼球変位量分布演算部121は、頭部挙動検出部21によって得られた頭部挙動の時系列データ及び眼球挙動検出部22によって得られた眼球挙動の時系列データに基づいて、同時期に検出された眼球の変位量と頭部の変位量との2次元マップ1101を演算する。
【0070】
異常度演算部122は、2次元マップ1101を複数のメッシュに分けて、メッシュ毎に、例えばKDEにより、出現確率分布を演算して、確率分布マップ1102を作成する。これにより、図13に示すような確率分布マップ1102を得ることができる。また、異常度演算部122は、作成した確率分布マップ1102と、異常確率分布データベース124に格納された、異常状態における確率分布マップと一致度合いを演算する。異常度演算部122は、例えば、確率分布マップ同士のKL距離を算出することで、確率分布マップ同士の一致度合いを演算する。
【0071】
異常判定部123は、異常度演算部122によって得られたデータを、異常判定閾値データベース125に格納された閾値と比較し、ドライバに異常予兆が発生したか否かを判定する。閾値は、例えば1に設定されている。異常判定部123は、異常度演算部122により得られたKL距離が1以下の場合に、ドライバに異常予兆ありと判定する一方、異常度演算部122により得られたKL距離が1より大きい場合に、ドライバに異常予兆なしと判定する。
【0072】
第1検知部110及び第2検知部120は、異常判定部113,123が、ドライバに異常予兆ありと判定したときには、ドライバへの問いかけ要求を問いかけ部23に出力する。
【0073】
問いかけ部23は、第1検知部110及び第2検知部120の少なくとも一方から問いかけ要求を受けたときには、ドライバに対して問いかけを行う。この問いかけは、車両を自動運転により緊急待避させてよいかどうか、ドライバの意思を確認するためのものである。問いかけは、例えば、スピーカ12を介して音声により行ったり、モニタ等の情報提示部13を介した表示により行ったりする。
【0074】
応答検出部24は、問いかけ部23による問いかけに対するドライバの応答を検出する。ドライバの応答は、例えば、スイッチ14の操作や、マイク15を介した発声によって行われる。ドライバの意思が確認できたとき、あるいは、ドライバの応答がないとき、情報処理装置20は、車両停止制御部40に、車両を自動的に路肩退避させて停止させるよう指示する。
【0075】
本実施形態に係るドライバ状態推定装置は、情報処理装置20内の、頭部挙動検出部21、眼球挙動検出部22、第1検知部110、及び第2検知部120を、少なくとも含む構成である。また、本開示に係るドライバ状態推定装置は、カメラ10を含む場合もある。
【0076】
図16は、頭部挙動のみに基づくドライバ状態推定の処理動作を示すフローチャートである。
【0077】
まず、ステップS11において、頭部挙動検出部21は、カメラ10によって撮影された画像から、ドライバの頭部を画像認識し、認識した頭部について、傾斜角、ここではピッチ角及びロール角を演算する。この演算は、例えば、100ms毎に行われる。
【0078】
次に、ステップS12において、第1検知部110は、頭部の傾斜角データが規定数以上蓄積されたか否かを判定する。第1検知部110は、頭部の傾斜角データが規定数以上蓄積されたYESのときには、ステップS13に進む。一方で、第1検知部110は、頭部の傾斜角データが規定数以上蓄積されていないNOのときには、ステップS11に戻る。
【0079】
前記ステップS13では、第1検知部110は、頭部の傾斜角の時系列データに対して、周期性特徴量を演算する。第1検知部110は、例えば、DFAにより、自己相関指標(スケーリング指数α)が、周期性特徴量として求められる。周期性特徴量の演算は、対象となる傾斜角データの時間範囲をずらしながら、例えば100ms毎に、例えば256個の傾斜角データを用いて、行われる。
【0080】
次いで、ステップS14において、第1検知部110は、車両加速度センサ50の出力と頭部の傾斜角の時系列データを用いて、ドライバの頭部の挙動とドライバの頭部に作用する横加速度とのコヒーレンスを演算する。
【0081】
次に、ステップS15において、第1検知部110は、周期性特徴量及びコヒーレンスのデータが規定数以上蓄積されたか否かを判定する。第1検知部110は、データが規定数以上蓄積されたYESのときにはステップS16に進む。一方で、第1検知部110は、データが規定数以上蓄積されていないNOのときにはステップS11に戻る。
【0082】
前記ステップS16では、第1検知部110は、周期性特徴量及びコヒーレンスの組み合わせデータに対して、時系列変動パターンを演算する。第1検知部110は、例えば、非線形次元圧縮手法の1つであるUMAPを用いて、周期性特徴量及びコヒーレンスの時系列変動データを次元削減し、2次元データに変換する。時系列変動パターンの演算は、対象となる周期性特徴量及びコヒーレンスのデータの時間範囲をずらしながら、例えば100ms毎に、例えば256個の周期性特徴量及びコヒーレンスのデータを用いて、行われる。
【0083】
次に、ステップS17において、第1検知部110は、異常判定閾値データベース114に保持されていた閾値を取得する。具体的には例えば、第1検知部110は、図9に示す判定ラインLTH2のような、分類パターンの2次元マップにおける判定ラインの情報を、閾値として取得する。
【0084】
そして、ステップS18において、第1検知部110は、前記ステップS16で求めた時系列変動パターンである2次元データと、ステップS17で取得した判定ラインとを比較して、2次元データが判定ラインを超えたか否かについて判定する。第1検知部110は、2次元データが判定ラインを超えて異常予兆側にあるYESのときには、ドライバに異常予兆ありと判定してステップS19に進む。一方で、第1検知部110は、2次元データが判定ラインを超えず正常側にあるNOのときには、ドライバには異常予兆なしと判定してステップS11に戻る。
【0085】
前記ステップS19では、第1検知部110は、ドライバへの問いかけ要求を問いかけ部23に出力する。ステップS19の後は処理を終了する。
【0086】
図17は、頭部挙動と眼球挙動との相関に基づくドライバ状態推定の処理動作を示すフローチャートである。
【0087】
まず、ステップS21において、頭部挙動検出部21は、カメラ10によって撮影された画像から、ドライバの頭部を画像認識し、認識した頭部について、頭部の変位量(ここでは、ヨー角)を演算する。また、眼球挙動検出部22は、カメラ10によって撮影された画像から、ドライバの眼球を画像認識し、認識した眼球について、眼球の変位量(ここでは、ヨー角)を演算する。この演算は、例えば、100ms毎に行われる。
【0088】
次に、ステップS22において、第2検知部120は、頭部の変位量データ及び眼球の変位量データが、それぞれ規定数以上蓄積されたか否かを判定する。第2検知部120は、頭部及び眼球の各変位量データが規定数以上蓄積されたYESのときには、ステップS23に進む。一方で、第2検知部120は、頭部又は眼球のいずれか一方の変位量データが規定数以上蓄積されていないNOのときには、ステップS21に戻る。
【0089】
前記ステップS23では、第2検知部120は、頭部及び眼球の変位量の時系列データに対して、頭部-眼球の変位量分布を示す2次元マップを演算する。
【0090】
次いで、ステップS24において、第2検知部120は、前記ステップS23で演算した2次元マップに対して出現確率分布を示す確率分布マップを演算する。第2検知部120は、例えば、2次元マップを複数のメッシュに分けて、各メッシュに対してKDEにより出現確率分布を演算することで、確率分布マップを演算する。
【0091】
次に、ステップS25において、第2検知部120は、前記ステップS24で演算した出現確率分布と異常時確率分布データベースに格納された異常時の出現確率分布とを比較する。具体的には、第2検知部120は、2つの出現確率分布のKL距離を算出する。
【0092】
次いで、ステップS26において、第2検知部120は、前記ステップS25で算出したKL距離が所定値以下であるか否かを判定する。第2検知部120は、KL距離が所定値以下であるYESのときには、ドライバに異常予兆ありと判定してステップS27に進む。一方で、第2検知部120は、KL距離が所定値よりも大きいNOのときには、ドライバには異常予兆なしと判定してステップS21に戻る。
【0093】
前記ステップS27では、第2検知部120は、ドライバへの問いかけ要求を問いかけ部23に出力する。ステップS27の後は処理を終了する。
【0094】
このように、頭部挙動のみによる異常予兆の検知に加えて、頭部挙動と眼球挙動との相関に基づいて異常予兆を検知することで、異常予兆を早期にかつ精度良く検知することができる。すなわち、例えば、頭部に加速度がほとんどかからず、ドライバの頭部挙動の周期性特徴量が明確に演算できないような定速走行のシーンなどでは、頭部挙動のみによる異常予兆の検知精度が低下する。しかし、頭部挙動と眼球挙動との相関に基づく異常予兆の検知を行うことで、このような走行シーンでも適切に、ドライバの異常予兆を検知することができる。
【0095】
また、本実施形態では、ドライバの異常予兆を検知する第1検知部110は、ドライバの頭部の挙動を表す時系列データに対して周期性特徴量を演算し、ドライバの頭部の挙動とドライバの頭部に作用する横加速度とのコヒーレンスを演算し、周期性特徴量およびコヒーレンスに対して時系列変動パターンを演算し、得られた時系列変動パターンを所定の閾値と比較して、ドライバの異常予兆の有無を判定する。これにより、頭部挙動と外部要因となる横加速度との相関を加味した判定が可能となるので、ドライバの異常予兆を、より早期にかつ精度良く検知することができる。加えて、ドライバの頭部挙動は、車内に設置されたカメラ10の撮影画像から検出可能なので、本技術により、既存の車載センサを用いて、運転不能につながる疾患の予兆をいち早くとらえることができる。
【0096】
また、本実施形態では、ドライバの異常予兆を検知する第2検知部120は、同時期に検出された眼球の変位量に対する頭部の変位量をプロットした2次元マップを演算し、演算した2次元マップにおけるプロットの出現確率分布Qを演算し、演算した出現確率分布Qと、予め演算された異常時の出現確率分布Pとの一致度合いを比較することでドライバの異常予兆の有無を検知する。すなわち、眼球が微少な変位をしたときなどは、頭部が追従しない場合がある。眼球の変位量と頭部の変位量とをプロットした2次元マップにおけるプロットの出現確率分布を演算して、該出現確率分布に基づいて異常予兆を検知するようにすれば、眼球の微少な動きと比較的大きな動きとを含めた、眼球挙動に対する頭部挙動の傾向により異常状態を検知することができる。これにより、ドライバの異常予兆を早期にかつ精度良く検知することができる。
【0097】
(その他の実施形態)
ここに開示された技術は、前述の実施形態に限られるものではなく、請求の範囲の主旨を逸脱しない範囲で代用が可能である。
【0098】
例えば、前述の実施形態では、第1検知部110は、頭部挙動の時系列データに対して、DFAにより、自己相関指標(スケーリング指数α)を周期性特徴量として求めるものとした。これに限らず、周期性特徴量を求める手法として、例えば、FFT(Fast Fourier Transform)を用いてもよいし、単純な自己相関を計算してもよい。
【0099】
また、前述の実施形態では、第2検知部120は、異常予兆の判定において、異常時の確率分布マップと最新の確率分布マップとの一致度合いを、KL距離を用いるようにした。これに限らず、例えば、異常時の2次元マップと最新の2次元マップとの一致度合いを、例えば、カイ2乗法を用いて比較するようにしてもよい。
【0100】
また、前述の実施形態では、第1検知部110及び第2検知部120のいずれか一方から問いかけ要求があったときに、問いかけ部23がドライバに問いかけを行う構成となっていた。これに限らず、第1検知部110と第2検知部120との両方から問いかけ要求があったときにのみ、問いかけ部23がドライバに問いかけを行う構成であってもよい。または、第1検知部110と第2検知部120との両方が異常予兆を検知したときにのみ、情報処理装置20が問いかけ部23に問いかけ要求をする構成であってもよい。
【0101】
また、前述の本実施形態では、異常時の出現確率分布Pが異常確率分布データベース124に格納されていた。この異常時の出現確率分布Pは、ドライバの異常予兆時を含む出現確率分布Qを蓄積し、蓄積した出現確率分布Qに基づいて更新されるようにしてもよい。また、異常判定閾値データベース125に格納された閾値についても、蓄積した出現確率分布Qに基づいて更新されるようにしてもよい。
【0102】
また、本開示に係る技術の適用用途は、自動車に限られるものではない。自動車以外の、例えば電車等の移動体において、ドライバの異常予兆を検知するのに有効である。
【0103】
また、本開示に係る技術は、単体の情報処理装置以外の形態で実現される場合もあり得る。例えば、第1検知部110及び第2検知部120が、頭部挙動検出部21及び眼球挙動検出部22とは別の情報処理装置によって実現されてもよい。また例えば、移動体に搭載されていない情報処理装置、例えばドライバが持っているスマホやタブレット等が、第1検知部110及び第2検知部120の機能を実現してもよい。あるいは、クラウドが、第1検知部110及び第2検知部120が行う演算処理の一部または全部を実行するような形態としてもよい。
【0104】
前述の実施形態は単なる例示に過ぎず、本開示の範囲を限定的に解釈してはならない。本開示の範囲は請求の範囲によって定義され、請求の範囲の均等範囲に属する変形や変更は、全て本開示の範囲内のものである。
【産業上の利用可能性】
【0105】
ここに開示された技術は、移動体を運転するドライバの状態を推定するドライバ状態推定装置として有用である。
【符号の説明】
【0106】
21 頭部挙動検出部
22 眼球挙動検出部
110 第1検知部
120 第2検知部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17