特開2021-77130(P2021-77130A)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ マツダ株式会社の特許一覧
特開2021-77130運転者状態推定装置および運転者状態推定方法
<>
  • 特開2021077130-運転者状態推定装置および運転者状態推定方法 図000003
  • 特開2021077130-運転者状態推定装置および運転者状態推定方法 図000004
  • 特開2021077130-運転者状態推定装置および運転者状態推定方法 図000005
  • 特開2021077130-運転者状態推定装置および運転者状態推定方法 図000006
  • 特開2021077130-運転者状態推定装置および運転者状態推定方法 図000007
  • 特開2021077130-運転者状態推定装置および運転者状態推定方法 図000008
  • 特開2021077130-運転者状態推定装置および運転者状態推定方法 図000009
  • 特開2021077130-運転者状態推定装置および運転者状態推定方法 図000010
  • 特開2021077130-運転者状態推定装置および運転者状態推定方法 図000011
  • 特開2021077130-運転者状態推定装置および運転者状態推定方法 図000012
  • 特開2021077130-運転者状態推定装置および運転者状態推定方法 図000013
  • 特開2021077130-運転者状態推定装置および運転者状態推定方法 図000014
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】特開2021-77130(P2021-77130A)
(43)【公開日】2021年5月20日
(54)【発明の名称】運転者状態推定装置および運転者状態推定方法
(51)【国際特許分類】
   G08G 1/16 20060101AFI20210423BHJP
   B60W 40/08 20120101ALI20210423BHJP
   G06T 7/00 20170101ALI20210423BHJP
【FI】
   G08G1/16 F
   B60W40/08
   G06T7/00 660A
   G06T7/00 650Z
【審査請求】未請求
【請求項の数】3
【出願形態】OL
【全頁数】15
(21)【出願番号】特願2019-203730(P2019-203730)
(22)【出願日】2019年11月11日
(71)【出願人】
【識別番号】000003137
【氏名又は名称】マツダ株式会社
(74)【代理人】
【識別番号】110001427
【氏名又は名称】特許業務法人前田特許事務所
(72)【発明者】
【氏名】岩瀬 耕二
(72)【発明者】
【氏名】丸子 敬生
【テーマコード(参考)】
3D241
5H181
5L096
【Fターム(参考)】
3D241BA60
3D241BA70
3D241BB52
3D241CE05
3D241DD01A
3D241DD01B
3D241DD01Z
3D241DD02A
3D241DD02B
3D241DD02Z
3D241DD04A
3D241DD04B
3D241DD04Z
3D241DD07A
3D241DD07B
3D241DD07Z
5H181AA01
5H181AA21
5H181CC04
5H181CC27
5H181LL01
5H181LL02
5H181LL04
5H181LL06
5H181LL09
5H181LL20
5L096BA02
5L096BA04
5L096CA02
5L096FA14
5L096FA15
5L096HA05
(57)【要約】      (修正有)
【課題】車両走行時における運転者の状態を推定する精度を向上させる運転者状態推定装置及び運転者状態推定方法を提供する。
【解決手段】運転者状態推定装置は、雨天走行などにおいてワイパーが作動したときS201、運転者の視線方向を示す検知する視線検知装置の出力データと、ワイパーの払拭タイミングを示すデータとを取得するS202。視線検知装置の出力データから、運転者の視線移動幅の変化を検出するS203。運転者の視線移動幅の変化とワイパーの払拭タイミングとを用いて、運転者の状態を推定するS204、S205、S206。
【選択図】図12
【特許請求の範囲】
【請求項1】
車両の運転者の視線移動に基づいて、該運転者の状態を推定する運転者状態推定装置であって、
前記運転者の視線方向を検知する視線検知装置と、
前記車両に搭載され、車両前側の外部環境を撮影するカメラと、
前記カメラにより撮影された画像に対して画像処理を行って、画像データを出力する画像処理部と、
前記画像データに基づいて、車両前側の物標に対して、前記運転者の視線の惹きつけやすさを示す誘目度を算出して、誘目度マップを生成する誘目度算出部と、
前記視線検知装置が検知した前記運転者の視線方向及び前記誘目度マップに基づいて、前記運転者の状態を推定する推定部とを備え、
前記推定部は、
前記車両のワイパーが作動したとき、前記視線検知装置の出力データから検出した前記運転者の視線移動幅の変化と、前記ワイパーの払拭タイミングとを用いて、前記運転者の状態を推定する処理を行う
ことを特徴とする運転者状態推定装置。
【請求項2】
請求項1に記載の運転者状態推定装置において、
前記推定部は、
前記処理において、前記運転者の視線移動幅の増減タイミングと前記ワイパーの払拭タイミングとが連動しているとき、前記運転者は正常状態にあると推定する
ことを特徴とする運転者状態推定装置。
【請求項3】
車両の運転者の視線移動に基づいて、該運転者の状態を推定する運転者状態推定方法であって、
前記車両のワイパーが作動したとき、前記運転者の視線方向を示す検知する視線検知装置の出力データと、前記ワイパーの払拭タイミングを示すデータとを取得するステップと、
前記視線検知装置の出力データから、前記運転者の視線移動幅の変化を検出するステップと、
検出した前記運転者の視線移動幅の変化と、前記ワイパーの払拭タイミングとを用いて、前記運転者の状態を推定するステップとを備える
ことを特徴とする運転者状態推定方法。
【発明の詳細な説明】
【技術分野】
【0001】
ここに開示された技術は、運転者状態推定に関する技術分野に属する。
【背景技術】
【0002】
昨今、国家的に自動運転システムの開発が推進されている。本願出願人は、現時点において、自動運転システムには、大きく分けると2つの方向性があると考えている。
【0003】
第1の方向性は、自動車が主体となって運転者の操作を要することなく乗員を目的地まで運ぶシステムであり、いわゆる自動車の完全自動走行である。一方、第2の方向性は、自動車の運転を楽しみたい等、あくまで人間が運転をすることを前提とした自動運転システムである。
【0004】
第2の方向性の自動運転システムでは、例えば、運転者に疾患等が発生し正常な運転が困難な状況が発生した場合等に、自動車が自動的に乗員に変わって自動運転を行うことが想定される。このため、運転者に異常が発生したこと、特に、運転者に機能障害や疾患が発生したことをいかに早期にかつ精度良く発見できるかが、運転者の救命率の向上や周囲を含めた安全を確保する観点から極めて重要となる。
【0005】
運転者の異常を推定する方法として、例えば、特許文献1のように、車両の運転者の視線移動に基づいて、該運転者の状態を推定する試みが行われている。具体的に、特許文献1には、運転者の視線方向、及び自車両周辺を撮像する撮像手段より撮像された画像を取得すると共に、自車両周辺に存在する物体上の複数の点の各々の自車両を基準とする位置を特定する3次元位置情報を取得する取得手段と、運転者の視線先の目立ち度を計算する目立ち度計算手段と、目立ち度計算手段により計算された目立ち度に基づいて、運転者が目立つ部分に視線を向けた度合いと予め定めた閾値とを比較して、運転者の状態を判定する判定手段とを有する運転者状態判定装置が開示されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特許第5966640号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、特許文献1の手法では、例えば雨天走行時などの前方視界がクリアに得られない場合において、運転者が目立つ部分に視線を向けた度合いを必ずしも的確に求めることができず、このため、運転者の状態を精度良く判定できないおそれがある。
【0008】
ここに開示された技術は、運転者の視線移動に基づいて運転者の状態を推定する場合に、雨天走行時などにおける推定精度を向上させることを目的とする。
【課題を解決するための手段】
【0009】
前記課題を解決するために、ここに開示された技術では、車両の運転者の視線移動に基づいて、該運転者の状態を推定する運転者状態推定装置を対象として、前記運転者の視線方向を検知する視線検知装置と、前記車両に搭載され、車両前側の外部環境を撮影するカメラと、前記カメラにより撮影された画像に対して画像処理を行って、画像データを出力する画像処理部と、前記画像データに基づいて、車両前側の物標に対して、前記運転者の視線の惹きつけやすさを示す誘目度を算出して、誘目度マップを生成する誘目度算出部と、前記視線検知装置が検知した前記運転者の視線方向及び前記誘目度マップに基づいて、前記運転者の状態を推定する推定部とを備え、前記推定部は、前記車両のワイパーが作動したとき、前記視線検知装置の出力データから検出した前記運転者の視線移動幅の変化と、前記ワイパーの払拭タイミングとを用いて、前記運転者の状態を推定する処理を行う、という構成とした。
【0010】
この技術では、推定部は、運転者の視線方向及び誘目度マップに基づいて、運転者の状態を推定する。さらに推定部は、車両のワイパーが作動したとき、運転者の視線移動幅の変化と、ワイパーの払拭タイミングとを用いて、運転者の状態を推定する処理を行う。雨天走行時には、ワイパーによる払拭領域しか前方視界が得られず、また、ワイパーアームへの誘目により、前方視野における視線移動要因が複雑になる。このため、前方景色の高サリエンシー領域と視線移動の有意な関係が必ずしも得られなくなる。そこで、本技術では、車両のワイパーが作動したとき、運転者の視線移動幅の変化と、ワイパーの払拭タイミングとを用いて、運転者の状態を推定する。これは、ワイパー払拭直後のクリアな前方視界から付着雨滴個数の増大に応じて、視線移動幅が小さくなるという、本願発明者らによる実験知見に注目したものである。これにより、雨天走行で前方景色に基づくサリエンシーへの誘目性が不明確になる場合であっても、補助的に運転者の状態を推定することができる。
【0011】
また、前記推定部は、前記処理において、前記運転者の視線移動幅の増減タイミングと前記ワイパーの払拭タイミングとが連動しているとき、前記運転者は正常状態にあると推定する、としてもよい。
【0012】
これにより、雨天走行で前方景色に基づくサリエンシーへの誘目性が不明確になる場合であっても、運転者が正常状態あるか否かを推定することができる。
【0013】
また、ここに開示された技術では、車両の運転者の視線移動に基づいて、該運転者の状態を推定する運転者状態推定方法を対象として、前記車両のワイパーが作動したとき、前記運転者の視線方向を示す検知する視線検知装置の出力データと、前記ワイパーの払拭タイミングを示すデータとを取得するステップと、前記視線検知装置の出力データから、前記運転者の視線移動幅の変化を検出するステップと、検出した前記運転者の視線移動幅の変化と、前記ワイパーの払拭タイミングとを用いて、前記運転者の状態を推定するステップとを備える、という構成とした。
【0014】
この技術では、車両のワイパーが作動したとき、運転者の視線方向を示す検知する視線検知装置の出力データから、運転者の視線移動幅の変化が検出される。そして、運転者の視線移動幅の変化と、ワイパーの払拭タイミングとを用いて、運転者の状態が推定される。これにより、例えば雨天走行時において、簡易な処理によって、運転者の状態を推定することができる。
【発明の効果】
【0015】
以上説明したように、ここに開示された技術によると、運転者の視線移動に基づいて運転者の状態を推定する場合に、雨天走行時などにおける推定精度を向上させることができる。
【図面の簡単な説明】
【0016】
図1】例示的な実施形態に係る運転者状態推定装置を搭載した車両の車室内の前側部分を示す概略図である。
図2】車両を前側から見た正面図である。
図3】運転者状態推定装置の構成を示すブロック図である。
図4】カメラにより撮影された車両前側の外部環境を示す図である。
図5】カメラで撮影された画像に基づいて算出されたサリエンシーの分布を示す図である。
図6】運転者の注視点のサリエンシーを示すグラフである。
図7】誘目度マップからランダムに摘出した点のサリエンシーを示すグラフである。
図8】ランダム点における閾値を超える割合と運転者の注視点における閾値を超える割合とを比較したグラフである。
図9】推定部の処理動作を示すフローチャートである。
図10】運転者の視線移動軌跡の例であり、(a)はワイパーの払拭直後、(b)は払拭後に雨滴付着個数が増したときである。
図11】視線移動幅の変化とワイパーの払拭タイミングとの関係を示すグラフである。
図12】ワイパー動作を利用した運転者状態推定処理の例を示すフローチャートである。
【発明を実施するための形態】
【0017】
以下、例示的な実施形態について、図面を参照しながら詳細に説明する。尚、以下の説明において、車両の前進走行側を単に前側といい、後退走行側を単に後側という。また、後側から前側を見たときの左側を左側といい、その逆を右側という。
【0018】
図1は、車両としての自動車の車室内を概略的に示す。この車両は、右ハンドル式の車両であって、右側にステアリングホイール8が配置されている。
【0019】
車室内において、運転席から見て車両前側にはフロントウィンドウガラス1が配置されている。フロントウィンドウガラス1は、車室内側から見て、複数の車両構成部材により区画されている。具体的には、フロントウィンドウガラス1は、左右のフロントピラートリム2と、ルーフトリム3と、インストルメントパネル4とによって区画されている。
【0020】
左右のフロントピラートリム2は、フロントウィンドウガラス1の車幅方向外側の境界をそれぞれ構成している。各フロントピラートリム2は、各フロントピラーに沿って配置されている。各フロントピラートリム2は、図1に示すように、上側に向かって互いに離間するように斜めに傾斜してそれぞれ配置されている。
【0021】
ルーフトリム3は、フロントウィンドウガラス1の上側の境界を構成している。ルーフトリム3は、車両のルーフパネルの車室内側を覆っている。フロントウィンドウガラス1の車幅方向の中央でかつルーフトリム3のやや下側の部分には、バックミラー5が取り付けられている。ルーフトリム3におけるバックミラー5の近傍部分には、車室内、特に、運転者の顔面を撮影する車室内カメラ101が設けられている。
【0022】
インストルメントパネル4は、フロントウィンドウガラス1の下側の境界を構成している。インストルメントパネル4には、メーターボックスやディスプレイ7が設けられている。
【0023】
また、前記車両は、左右のフロントピラーよりも車幅方向外側に、サイドミラー6をそれぞれ有している。各サイドミラー6は、運転席に着座した運転手がサイドドアのウィンドウ越しに見ることが出来るように配置されている。
【0024】
前記車両は、図2に示すように、車両前側の外部環境を撮影するためのカメラ100が設けられている。カメラ100は、車両の前側端部であって、車両のボンネット9よりもやや下側に配置されている。また、雨天時等においてフロントウィンドウガラス1を払拭するためのワイパー10が設けられている。
【0025】
(運転者状態推定装置の構成)
本実施形態に係る車両は、運転者の視線移動に基づいて、該運転者の状態を推定する機能を有している。図3は、運転者状態推定装置20の構成を示す。運転者状態推定装置20は、実際に運転者状態を推定するための推定部54を有するコントローラ50を有する。このコントローラ50は、周知のマイクロコンピュータをベースとするコントローラであって、プログラムを実行する中央演算処理装置(Central Processing Unit:CPU)と、例えばRAM(Random Access Memory)やROM(Read Only Memory)により構成されてプログラム及びデータを格納するメモリと、電気信号の入出力をする入出力バスと、を備えている。
【0026】
コントローラ50は、図3に示すように、各種のセンサと接続されている。センサは、例えば、車両前側の外部環境を撮影するカメラ100と、運転者の顔面を撮影する車室内カメラ101と、ステアリングホイール8に設けられ、運転者の手の発汗状態を検知する発汗センサ102とを含む。また、コントローラ50は、ワイパー10から、作動の有無や払拭タイミング等を示す制御信号を受ける。
【0027】
コントローラ50は、車室内カメラ101により撮影された運転者の顔面から、運転者の視線方向を算出する視線算出部51を有する。視線算出部51は、例えば、運転者が車室内カメラ101のレンズを覗いた状態を基準にして、そこからの運転者の瞳孔の変化を検知することで運転者の視線方向を算出する。視線方向の算出は、運転者の左目及び右目のどちらか一方から算出してもよいし、運転者の両目のそれぞれから求めた視線方向(視線ベクトル)の平均値としてもよい。また、運転者の瞳孔の変化からは運転者の視線方向を算出することが困難であるときには、運転者の顔の向きから視線方向を算出してもよい。車室内カメラ101及びコントローラ50は、視線検知装置の一例である。
【0028】
コントローラ50は、カメラ100により撮影された画像D1に対して画像処理を行って、画像データD2を出力する画像処理部52を有する。画像処理部52により実行される画像処理については後述する。
【0029】
コントローラ50は、画像データD2に基づいて、車両前側の物標に対して、運転者の視線の惹きつけやすさを示す誘目度を算出して、誘目度マップD3を生成する誘目度算出部53を有する。本実施形態では、誘目度算出部53は、誘目度としてサリエンシー(視覚的顕著性)を算出する。サリエンシーとは、色、輝度、動き等により刻々と変化する顕著性からなる視覚特徴量である。すなわち、サリエンシーが高いとは、顕著性が高いことを表し、サリエンシーが高い領域とは周囲に対して目立つ領域のことである。より具体的には、周囲の領域に対して色差や輝度差が大きかったり、周囲に対して大きな動きをしていたりする領域は、サリエンシーが高くなる。
【0030】
コントローラ50は、誘目度マップD3、視線算出部51が算出した運転者の視線方向、発汗センサ102の検出結果、及び車室内カメラ101により撮影された運転者の瞳孔径の変化に基づいて、運転者の状態を推定する推定部54を有する。詳しくは後述するが、推定部54は、誘目度マップD3及び視線算出部51の算出結果から、運転者が正常状態であるか異常状態であるかを推定する。推定部54は、運転者が異常状態であると推定されるときに、発汗センサ102の検出結果及び車室内カメラ101により撮影された運転者の瞳孔径の変化等から、運転者の状態をより詳細に推定する。尚、運転者の異常状態とは、運転者に体調異常が発生している状態に限らず、運転者の漫然状態や、運転者の覚醒度が低下(眠気が増加)している状態を含む。
【0031】
コントローラ50は、推定部54の推定結果に基づいて、車両に搭載された各種アクチュエータA、ディスプレイ7、ブザーB等を制御する。尚各種アクチュエータAとは、エンジンシステム、ブレーキシステム、及びステアリングシステムを構成するアクチュエータを含む。
【0032】
(画像処理部による画像処理)
次に、画像処理部52による画像処理について説明する。画像処理部52は、例えば、カメラ100の撮影した画像D1に対して、画像D1を構成する素子のうち誘目度算出部53での処理(サリエンシーの算出)に不要な画素を削除する処理を行い、画像データD2を作成する。
【0033】
図4は、カメラ100が撮影した車両前側の外部環境を示す画像D1である。この画像D1に示す外部環境には、車道150と、車道150上の白線151とが含まれている。また、この画像D1に示された外部環境には、他車両161と、車道150の右側に形成された壁162と、壁162よりも右側の領域に植えられた樹木163と、壁162よりも右側の領域に広がる丘164と、車道150の左側に形成された森林165が含まれている。また、この画像D1に示された外部環境には、建物166と、建物166及び森林165の上側に広がる空167が含まれている。尚、以下の説明において、画像D1の空167は曇り空であり、ほぼ白色であると仮定する。
【0034】
(誘目度マップの生成)
誘目度算出部53は、画像データD2に対してサリエンシーを算出して、誘目度マップ(ここでは、サリエンシーマップ)を生成する。前述したように、サリエンシーは、物標の色、輝度、動き等により変化する。そこで、本実施形態では、誘目度算出部53は、色に基づくサリエンシー、輝度に基づくサリエンシー、動きに基づくサリエンシー等、特徴毎にサリエンシーを算出して、特徴毎の誘目度マップを生成した後に、それらを足し合わせることで最終的な誘目度マップD3を生成する。
【0035】
例えば、色に基づくサリエンシーについては、誘目度算出部53は、色差が大きいほどサリエンシーを連続的に高くするように算出してもよいし、複数の閾値を設けて閾値を超える毎にサリエンシーが一定値高くなるように算出してもよい。また、例えば、輝度に基づくサリエンシーについては、誘目度算出部53は、輝度差が大きいほどサリエンシーを連続的に高くするように算出してもよいし、複数の閾値を設けて閾値を超える毎にサリエンシーが一定値高くなるように算出してもよい。
【0036】
尚、サリエンシーの算出自体は、インターネット上等で公開されている既知のコンピュータプログラムを用いることができる。また、特徴毎の誘目度マップ(ここではサリエンシーマップ)の算出及び各誘目度マップの統合についても既知のコンピュータプログラムを用いることができる。
【0037】
図5は、画像データD2に基づいてサリエンシーを算出した場合の、該サリエンシーの分布を示す誘目度マップである。図5に示すように、例えば、樹木163及び森林165における空167との境界部分や、車道150の左側の白線151がサリエンシーの高い部分となっている。
【0038】
(視線頻度の算出)
次に視線頻度の算出について図6図8を参照しながら説明する。尚、本実施形態では、視線頻度の算出は推定部54が行う。なお、これに限らず、視線頻度を計算するためのプロセッサを推定部54とは別に設けてもよい。
【0039】
図6は、運転者の注視点、すなわち、運転者の視線の先にある点のサリエンシーをプロットしたものである。このグラフは、視線算出部51により運転者の視線方向を割り出して、該視線方向の先にある注視点を誘目度マップD3に当てはめて、該誘目度マップD3から当該注視点のサリエンシーを求めることで生成される。この各点は例えば、5秒毎に求められる。
【0040】
一方で、図7は、誘目度算出部53により生成された誘目度マップD3からランダムに座標を指定して、該座標のサリエンシーを求めることで生成される。この各点は例えば、5秒毎に求められる。
【0041】
図6及び図7のグラフをそれぞれ作成した後は、ランダム点における閾値を超える割合に対する運転者の注視点における閾値を超える割合を求める。具体的には、まず、第1ステップとして、閾値を図6及び図7のグラフにおいて最大値よりも大きい値に設定する。次に、第2ステップとして、閾値を低下させながら、閾値毎に該閾値を超えた点の割合を求める。そして、この第2ステップの処理を閾値が、図6及び図7のグラフにおいて最小値以下になるまで繰り返す。
【0042】
図6及び図7に示すグラフは、単位時間毎に区切って生成される。単位時間は、例えば、5秒である。
【0043】
前記第1及び第2ステップの後、第3ステップとして、ランダム点における閾値を超える割合(第1確率という)を横軸にとりかつ運転者の注視点における閾値を超える割合(第2確率という)を縦軸にとって、図8のようなグラフを作成する。図8のグラフは、同一の閾値におけるランダム確率に対する注視確率を表す。図8のグラフは、横軸及び縦軸ともに確率であるため、曲線の最小値は0であり、最大値は1である。
【0044】
図8において破線は、運転者の視線が視界全体に偏りなく向いていることを表す。すなわち、運転者の視線が視角領域全体に亘っているのであれば、第1確率と第2確率とは大きくずれることはない。このため、運転者の視線が視角領域全体に亘っているのであれば、第1確率と第2確率とを比較したときには、図8に破線で示すような直線形状になる。これに対して、図8の曲線C1のように、曲線が上側に凸に広がる場合は、運転者の注視点は閾値を超える割合が高いことを表す。すなわち、図8の曲線C1のような形状の曲線が算出されたときは、運転者の視線がサリエンシーの高い箇所を見る傾向にあることを意味している。一方で、図8の曲線C2のように、曲線が下側に凸に広がる場合は、運転者の注視点は閾値を超える割合が低いことを表す。すなわち、図8の曲線C2のような形状の曲線が算出されたときは、運転者の視線がサリエンシーの低い箇所を見る傾向にあることを意味している。
【0045】
本実施形態では、第4ステップとして、この曲線を積分(つまり、曲線と図8の2点鎖線とで囲まれた部分の面積を算出)して、該積分値を視線頻度としている。このように、運転者が注視した箇所のサリエンシーと、誘目度マップD3からランダムに指定した座標とを比較して視線頻度を算出することで、視線頻度の算出精度を向上させることができる。すなわち、誘目度マップD3においてサリエンシーが高い領域がマップ全体に広がっていた場合、運転者がどの位置を注視したとしてもサリエンシーの高い箇所を見ることになる。この場合、単純に閾値以上のサリエンシーを見た割合を算出するだけでは、たとえ運転者が視界領域全体を偏りなく見ていたとしても、視線頻度が高いと算出されてしまう。これに対して、本実施形態のように、ランダム点との比較を行うようにすれば、サリエンシーが高い領域がマップ全体に広がっていたとしても、運転者の視界領域全体をランダムに見た場合と同じ傾向にあるか比較できる。したがって、運転者の視線方向に偏りがあるか否かをより正確に判断することができる。
【0046】
(運転者状態の推定)
次に、推定部54により運転者状態を推定する処理動作を図9のフローチャートに基づいて説明する。
【0047】
まず、ステップS101において、推定部54は、各種データを取得する。特に、推定部54は、視線算出部51の算出結果、誘目度算出部53により生成された誘目度マップD3、車室内カメラ101で取得された運転者の顔面の画像データ、及び発汗センサ102の検知結果を取得する。
【0048】
次のステップS102において、推定部54は、視線頻度を算出する。推定部54は、前述したような計算方法により視線頻度を算出する。
【0049】
続くステップS103において、推定部54は、運転者の注意力が低下しているか否かを推定する。具体的には、推定部54は、前記ステップS102で算出した視線頻度が所定頻度以上であるときには運転者の注意力が低下していると推定する。推定部54は、視線頻度が所定頻度以上であって、運転者の注意力が低下していると推定されるYESのときには、ステップS104に進む。一方で、推定部54は、視線頻度が所定頻度未満であって、運転者の注意力が低下していないと推定されるNOのときには、ステップS106に進む。
【0050】
前記ステップS104では、推定部54は、運転者が、交感神経が優位な状態であるか否かを推定する。具体的には、推定部54は、発汗センサ102により検知される単位時間あたりの発汗量が所定量以上であるときには、交感神経が優位な状態であると推定する。一方で、推定部54は、発汗センサ102により検知される単位時間あたりの発汗量が所定量未満であるときには、副交感神経が優位な状態であると推定する。推定部54は、発汗センサ102の検知結果が所定量以上であって、交感神経が優位であると推定されるYESのときには、ステップS105に進む。一方で、推定部54は、発汗センサ102の検知結果が所定量未満であって、副交感神経が優位であると推定されるYESのときには、ステップS107に進む。
【0051】
前記ステップS105では、推定部54は、運転者が、能動的に運転している状態であるか否かを推定する。具体的には、推定部54は、車室内カメラ101により撮影された運転者の瞳孔径の変化から推定する。より詳しくは、推定部54は、運転者の視線移動の前後で瞳孔径にほとんど変化がなかった場合には、運転者は能動的に運転していると推定する。一方で、、推定部54は、運転者の視線移動の前後で瞳孔径が変化している場合には、運転者は受動的に運転していると推定する。これは、運転者が受動的に運転をしているときには、目に刺激を受けてから視線を移動させるためである。推定部54は、運転者が能動的に運転していると推定されるYESのときには、ステップS109に進む。一方、推定部54は、運転者が受動的に運転していると推定されるNOのときには、ステップS108に進む。尚、運転者の左目の視線と右目の視線との交差角である輻輳角を算出して、該輻輳角に基づいて運転者が能動的に運転しているか否かを推定するようにしてもよい。
【0052】
前記ステップS106では、推定部54は、運転者は正常な状態であると推定する。すなわち、運転者に何らかの異常がある場合には、運転者の注意力が低下する。よって、運転者に注意力の低下が見られない場合には、運転者は正常な状態であると推定する一方、運転者に注意力の低下が見られる場合には、運転者に異常が生じていると推定することができる。ステップS106の後は、リターンする。
【0053】
前記ステップS107では、推定部54は、運転者の覚醒度が低下(眠気が増加)している状態であると推定する。一般に、副交感神経が優位な状態は、睡眠時に交感神経に対して優位になる。このため、注意力が低下しかつ副交感神経が優位な状態とは、運転者の覚醒度が低下している状態であると推定することができる。ステップS107の後はリターンする。
【0054】
前記ステップS108では、推定部54は、運転者が漫然状態であると推定する。すなわち、運転者が覚醒状態でありながら受動的に運転していることから、運転者は運転以外のことを考えながら運転している漫然状態であると推定することができる。ステップS108の後はリターンする。
【0055】
前記ステップS109では、推定部54は、運転者に体調異常が生じていると推定する。すなわち、運転者は、体調に異常が生じていたとしても正常な運転を続けようとする。このため、正常な運転を運転者が覚醒状態であって、能動的に運転しているにも拘わらず、注意力が低下している状態であれば、運転者の体調に何らかの異常が生じていると推定することができる。ステップS109の後はリターンする。
【0056】
以上のようにして、推定部54により運転者の状態が推定される。コントローラ50は、運転者の覚醒度が低下していたり(ステップS107)、運転者が漫然状態であったり(ステップS108)と推定されたときには、例えば、ブザーBを鳴らしたり、ディスプレイ7に表示したりする。これにより、コントローラ50は、運転者の覚醒を促したり、運転に集中するように促したりする。また、コントローラ50は、推定部54により運転者に体調異常が生じていると推定されたときには、例えば、各種アクチュエータAに制御信号を出力して、車両を路肩等の安全な領域まで走行させるとともに、該安全な領域に車両を停止させる。
【0057】
(ワイパー動作を利用した運転者状態推定処理)
ここで、雨天走行などにおいてワイパー10が作動するときには、次のような問題が生じる。すなわち、ワイパー10が作動しているとき、運転者は、ワイパー10がフロントウィンドウガラス1を払拭した領域しか前方視界を得ることができない。ワイパー10が払拭できない範囲は、雨粒等のために、運転者はクリアな視界を得ることができない。また、運転者は、ワイパー10の動きをつい目で追ってしまうときがあり、このワイパー10の誘目作用により、前方視野における視線移動要因が複雑になってしまう。このため、雨天走行時などでは、前方景色の高サリエンシー領域と視線移動の有意な関係が得られなくなる可能性が高い。
【0058】
一方で、本願発明者らによる実験によって、ワイパー10の払拭直後における視界がクリアな状態から、フロントウィンドウに付着する雨滴の増大に応じて、運転者の視線移動幅が徐々に小さくなる、という知見が得られている。
【0059】
図10はフロントウィンドウガラス1を介した視界の中における、運転者の視線移動軌跡の例を示しており、(a)はワイパー10の払拭直後の状態、(b)は払拭後から付着雨滴の個数が増した状態を示している。破線が、運転者の視線の移動軌跡を表している。図10(a)に示すように、ワイパー10の払拭直後の雨滴付着がない状態では、前方視界がクリアなので、運転者の視線は広い範囲で移動しており、視線移動の幅は大きい。これに対して、図10(b)に示すように、多くの雨滴が付着した状態では、運転者の視線が付着した雨滴間に捕らわれるとともに、視線移動の幅は小さくなる。
【0060】
本開示の技術では、上のような知見に着目し、ワイパー10が作動したとき、運転者の視線移動幅の変化と、ワイパー10の払拭タイミングとを用いて、運転者の状態を推定する。これにより、雨天走行などで、前方景色に基づくサリエンシーへの誘目性が不明確になる場合であっても、補助的に運転者状態推定が可能となる。
【0061】
図11は視線移動幅の変化とワイパー10の払拭タイミングとの関係を表すグラフである。図11に示すように、運転者が正常状態にあるときは、運転者の視線移動幅は、ワイパー10の払拭タイミングの後に大きくなり、その後、雨滴が付着するにつれて徐々に小さくなっていく。この結果、運転者の視線移動幅は、ワイパー10の払拭タイミングとほぼ連動して、増減を繰り返す。一方で、運転者の注意力が低下している場合は、運転者の視線移動幅は、ワイパー10の払拭タイミングとは連動せず、小さいままになる。
【0062】
図12はワイパー10作動時における運転者状態の推定処理の例を示すフローチャートである。この処理は、例えば、推定部54が行う。ワイパー10が作動すると(S201でYES)、推定部54はワイパー10からの制御信号を受けて、本推定処理を開始する。推定部54は、本推定処理に必要となるデータを取得する(S202)。具体的には、ワイパー10から払拭タイミングを示すデータを取得し、視線算出部51から運転者の視線移動のデータを取得する。そして、視線算出部51から取得した視線移動のデータから、視線移動幅の変化を検出する(S203)。
【0063】
そして、検出した運転者の視線移動幅の変化と、ワイパーの払拭タイミングとを用いて、運転者の状態を推定する。具体的には例えば、運転者の視線移動幅の増減タイミングが、ワイパー10の払拭タイミングと連動しているか否かを判定する(S204)。そして、連動していると判定したときは、運転者は正常状態にあると判定する(S205)。連動していないと判定したときは、運転者は注意力が低下した状態にあると判定する(S206)。なお、運転者は注意力が低下した状態にあると判定した場合において、さらに、図9のフローチャートと同様に、交感神経が優位な状態であるか否かを推定したり、運転者が能動的に運転している状態であるか否かを推定したりすることによって、運転者の状態をさらに細かく推定するようにしてもよい。
【0064】
以上のように本実施形態によると、運転者状態推定装置20において、推定部54は、運転者の視線方向及び誘目度マップに基づいて、運転者の状態を推定する。さらに推定部54は、車両のワイパー10が作動したとき、運転者の視線移動幅の変化と、ワイパー10の払拭タイミングとを用いて、運転者の状態を推定する処理を行う。これにより、雨天走行で前方景色に基づくサリエンシーへの誘目性が不明確になる場合であっても、補助的に運転者の状態を推定することができる。
【0065】
なお、上の説明では、ワイパー動作を利用した運転者状態の推定処理は、誘目度を利用した運転者状態推定処理の補助的な処理として行われるものとしたが、これに限られるものではない。すなわち、上述したワイパー動作を利用した運転者状態の推定処理は、例えば専用の装置によって、単独で実行してもかまわない。これにより、雨天走行時において、簡易な処理によって、運転者の状態を推定することができる。
【0066】
前述の実施形態は単なる例示に過ぎず、本開示の範囲を限定的に解釈してはならない。本開示の範囲は請求の範囲によって定義され、請求の範囲の均等範囲に属する変形や変更は、全て本開示の範囲内のものである。
【産業上の利用可能性】
【0067】
ここに開示された技術は、車両の運転者の視線移動に基づいて、運転者の状態を推定する運転者状態推定技術として有用である。
【符号の説明】
【0068】
10 ワイパー
20 運転者状態推定装置
50 コントローラ
52 画像処理部
53 誘目度算出部
54 推定部
100 カメラ
101 車室内カメラ
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12