(58)【調査した分野】(Int.Cl.,DB名)
【発明の概要】
【0008】
本発明は上記課題に鑑みなされたものであって、自動運転モードから手動運転モードに切り替えられる場合に、手動運転時の本来の運転者がハンドルを把持しているか否かを精度良く検出することができる運転者監視装置、及び運転者監視方法を提供することを目的としている。
【0009】
上記目的を達成するために本発明に係る運転者監視装置(1)は、自動運転モードと手動運転モードとを備えた車両の運転席に着座している運転者を監視する運転者監視装置であって、
前記車両のハンドルに設けられた生体情報検出部で検出された生体情報を取得する生体情報取得部と、
前記手動運転モードにおいて前記生体情報取得部により取得された第1の生体情報を記憶する生体情報記憶部と、
前記自動運転モードから前記手動運転モードに切り替えられる場合に、前記生体情報取得部により取得された第2の生体情報と、前記生体情報記憶部から読み出した前記第1の生体情報とに基づいて、前記手動運転モードでの前記運転者が前記ハンドルを把持しているか否かを判定する第1の判定処理部と、
該第1の判定処理部による判定結果に基づく所定の信号を出力する第1の信号出力部とを備えていることを特徴としている。
【0010】
上記運転者監視装置(1)によれば、前記自動運転モードから前記手動運転モードに切り替えられる場合に、前記生体情報取得部により取得された第2の生体情報と、前記生体情報記憶部から読み出した前記第1の生体情報とに基づいて、前記手動運転モードでの前記運転者が前記ハンドルを把持しているか否かが判定され、該判定結果に基づく所定の信号が出力される。
したがって、前記第2の生体情報と前記第1の生体情報とを用いることで、前記自動運転モードから前記手動運転モードに切り替えられる場合に、前記手動運転時の前記運転者が前記ハンドルを把持しているか否かを精度良く検出することができる。
また、前記第1の判定処理部による判定結果に基づく所定の信号を出力することにより、該所定の信号に基づく所定の処理を外部機器に対して効率良く、迅速に実行させることができ、前記自動運転モードから前記手動運転モードへの切り替え時における前記車両の安全性を高めることが可能となる。
【0011】
また本発明に係る運転者監視装置(2)は、上記運転者監視装置(1)において、前記運転者を撮像する撮像部で撮像された運転者画像を取得する画像取得部と、
前記手動運転モードにおいて前記画像取得部により取得された第1の運転者画像を記憶する画像記憶部とを備え、
前記第1の判定処理部及び前記第1の信号出力部に代えて、
前記自動運転モードから前記手動運転モードに切り替えられる場合に、前記生体情報取得部により取得された前記第2の生体情報、前記生体情報記憶部から読み出した前記第1の生体情報、前記画像取得部により取得された第2の運転者画像、及び前記画像記憶部から読み出した前記第1の運転者画像に基づいて、前記手動運転モードでの前記運転者が前記ハンドルを把持しているか否かを判定する第2の判定処理部と、
該第2の判定処理部による判定結果に基づく所定の信号を出力する第2の信号出力部とを備えていることを特徴としている。
【0012】
上記運転者監視装置(2)によれば、前記自動運転モードから前記手動運転モードに切り替えられる場合に、前記生体情報取得部により取得された前記第2の生体情報、前記生体情報記憶部から読み出した前記第1の生体情報、前記画像取得部により取得された第2の運転者画像、及び前記画像記憶部から読み出した前記第1の運転者画像に基づいて、前記手動運転モードでの前記運転者が前記ハンドルを把持しているか否かが判定され、該判定結果に基づく所定の信号が出力される。
したがって、前記第2の生体情報及び前記第1の生体情報の他に、前記第2の運転者画像及び前記第1の運転者画像を用いることで、前記自動運転モードから前記手動運転モードに切り替えられる場合に、前記手動運転時の前記運転者が前記ハンドルを把持しているか否かを一層精度良く検出することができる。
また、前記第2の判定処理部による判定結果に基づく所定の信号を出力することにより、該所定の信号に基づく所定の処理を外部機器に対して効率良く、迅速に実行させることができ、前記自動運転モードから前記手動運転モードへの切り替え時における前記車両の安全性を高めることが可能となる。
【0013】
また本発明に係る運転者監視装置(3)は、上記運転者監視装置(2)において、前記自動運転モードにおいて前記画像取得部により取得された第3の運転者画像と、前記画像記憶部から読み出した前記第1の運転者画像とに基づいて、前記自動運転モードでの前記運転者と前記手動運転モードでの前記運転者とが一致するか否かを判定する第3の判定処理部と、
該第3の判定処理部による判定結果に基づく所定の信号を出力する第3の信号出力部とを備えていることを特徴としている。
【0014】
上記運転者監視装置(3)によれば、前記自動運転モードにおいて前記画像取得部により取得された第3の運転者画像と、前記画像記憶部から読み出した前記第1の運転者画像とを用い、前記自動運転モードでの前記運転者と前記手動運転モードでの前記運転者とが一致するか否かが判定され、該判定結果に基づく所定の信号が出力される。
したがって、前記手動運転モードから前記自動運転モードに切り替わった後(自動運転モード中)に、前記運転者、すなわち、前記ハンドルを操作する運転席に座る人が入れ替わったか否かを検出することができる。例えば、前記手動運転モード中に運転者が入れ替わると、前記自動運転モードから前記手動運転モードに切り替わる場合に、運転操作を速やかに引き継ぐことが困難となるが、上記運転者監視装置(3)によれば、前記自動運転モード中での運転者の入れ替わりを防止することができ、前記自動運転モードから前記手動運転モードに切り替わる場合に、前記運転者に運転操作を円滑に引き継がせることが可能となる。
【0015】
また本発明に係る運転者監視装置(4)は、上記運転者監視装置(1)において、前記第1の信号出力部が、前記第1の判定処理部により、前記手動運転モードでの前記運転者が前記ハンドルを把持していると判定された場合、前記自動運転モードの制御を行う自動運転制御部に、前記自動運転モードから前記手動運転モードへの切り替えを許可する信号を出力するものであることを特徴としている。
【0016】
上記運転者監視装置(4)によれば、前記手動運転モードでの前記運転者が前記ハンドルを把持していると判定された場合、前記自動運転制御部に、前記自動運転モードから前記手動運転モードへの切り替えを許可する信号が出力されるので、前記運転者にハンドル操作が引き継がれた後で前記自動運転モードから前記手動運転モードへの切り替えが実行されることとなり、該切替後の車両の安全を確保することができる。
【0017】
また本発明に係る運転者監視装置(5)は、上記運転者監視装置(1)において、前記第1の信号出力部が、前記第1の判定処理部により、前記手動運転モードでの前記運転者が前記ハンドルを把持していないと判定された場合、前記車両に設けられた警報部に、所定の警告処理を実行させるための信号を出力するものであることを特徴としている。
【0018】
上記運転者監視装置(5)によれば、前記手動運転モードでの前記運転者が前記ハンドルを把持していないと判定された場合、前記警報部に、所定の警告処理を実行させるための信号が出力されるので、前記手動運転モードでの前記運転者が前記ハンドルの操作を引き継ぐように注意を促すことができる。
【0019】
また本発明に係る運転者監視装置(6)は、上記運転者監視装置(1)において、前記第1の信号出力部が、前記第1の判定処理部により、前記手動運転モードでの前記運転者が前記ハンドルを把持していないと判定された場合、前記自動運転モードの制御を行う自動運転制御部に、自動運転による停車を指示する信号を出力するものであることを特徴としている。
【0020】
上記運転者監視装置(6)によれば、前記手動運転モードでの前記運転者が前記ハンドルを把持していないと判定された場合、前記自動運転制御部に、自動運転による停車を指示する信号が出力される。したがって、前記自動運転モードから前記手動運転モードに切り替えられる場合に、前記手動運転モードでの前記運転者が前記ハンドルを把持しないときには、前記自動運転制御部により前記車両を停止させることができ、前記車両の安全を確保することができる。
【0021】
また本発明に係る運転者監視装置(7)は、上記運転者監視装置(2)又は(3)において、前記第2の信号出力部が、前記第2の判定処理部により、前記手動運転モードでの前記運転者が前記ハンドルを把持していると判定された場合、前記自動運転モードの制御を行う自動運転制御部に、前記自動運転モードから前記手動運転モードへの切り替えを許可する信号を出力するものであることを特徴としている。
上記運転者監視装置(7)によれば、上記運転者監視装置(4)と略同様の効果を得ることができる。
【0022】
また本発明に係る運転者監視装置(8)は、上記運転者監視装置(2)又は(3)において、前記第2の信号出力部が、前記第2の判定処理部により、前記手動運転モードでの前記運転者が前記ハンドルを把持していないと判定された場合、前記車両に設けられた警報部に、所定の警告処理を実行させるための信号を出力するものであることを特徴としている。
上記運転者監視装置(8)によれば、上記運転者監視装置(5)と略同様の効果を得ることができる。
【0023】
また本発明に係る運転者監視装置(9)は、上記運転者監視装置(2)又は(3)において、前記第2の信号出力部が、前記第2の判定処理部により、前記手動運転モードでの前記運転者が前記ハンドルを把持していないと判定された場合、前記自動運転モードの制御を行う自動運転制御部に、自動運転による停車を指示する信号を出力するものであることを特徴としている。
上記運転者監視装置(9)によれば、上記運転者監視装置(6)と略同様の効果を得ることができる。
【0024】
また本発明に係る運転者監視方法は、記憶部と、該記憶部に接続されたハードウェアプロセッサとを備えた装置を用い、自動運転モードと手動運転モードとを備えた車両の運転席に着座している運転者を監視する運転者監視方法であって、
前記記憶部が、前記車両のハンドルに設けられた生体情報検出部で検出された生体情報を記憶する生体情報記憶部を備え、
前記ハードウェアプロセッサが、
前記手動運転モードにおいて前記生体情報検出部で検出された第1の生体情報を取得するステップと、
該取得した第1の生体情報を前記生体情報記憶部に記憶させるステップと、
前記自動運転モードから前記手動運転モードに切り替えられる場合に、前記生体情報検出部で検出された第2の生体情報を取得するステップと、
前記生体情報記憶部から前記第1の生体情報を読み出すステップと、
前記第2の生体情報と前記第1の生体情報とに基づいて、前記手動運転モードでの前記運転者が前記ハンドルを把持しているか否かを判定するステップと、
該判定した結果に基づく所定の信号を出力するステップと、を含んでいることを特徴としている。
【0025】
上記運転者監視方法によれば、前記ハードウェアプロセッサが、前記自動運転モードから前記手動運転モードに切り替えられる場合に、前記生体情報検出部から取得した前記第2の生体情報と、前記生体情報記憶部から読み出した前記第1の生体情報とに基づいて、前記手動運転モードでの前記運転者が前記ハンドルを把持しているか否かを判定し、該判定結果に基づく所定の信号を出力する。したがって、前記第2の生体情報と前記第1の生体情報とを用いることで、前記自動運転モードから前記手動運転モードに切り替えられる場合に、前記手動運転時の前記運転者が前記ハンドルを把持しているか否かを精度良く検出することができる。
また、前記判定した結果に基づく所定の信号を出力することにより、該所定の信号に基づく所定の処理を外部機器に対して効率良く、迅速に実行させることができ、前記自動運転モードから前記手動運転モードへの切り替え時における前記車両の安全性を高めることが可能となる。
【発明を実施するための形態】
【0027】
以下、本発明に係る運転者監視装置、及び運転者監視方法の実施の形態を図面に基づいて説明する。なお、以下に述べる実施の形態は、本発明の好適な具体例であり、技術的に種々の限定が付されているが、本発明の範囲は、以下の説明において特に本発明を限定する旨の記載がない限り、これらの形態に限られるものではない。
【0028】
図1は、実施の形態(1)に係る運転者監視装置を含む自動運転システムの要部構成を示すブロック図である。
【0029】
自動運転システム1は、運転者監視装置10と自動運転制御装置20とを含み、自動運転制御装置20は、車両の加減速、操舵、制動を含む走行制御のうち少なくとも一部をシステムが主体となって自動的に行う自動運転モードと、運転者が運転操作を行う手動運転モードとを切り替える構成を備えている。本実施の形態において、運転者とは、車両の運転席に着座する人を示している。
【0030】
自動運転システム1は、運転者監視装置10、及び自動運転制御装置20の他に、操舵センサ31、アクセルペダルセンサ32、ブレーキペダルセンサ33、操舵制御装置34、動力源制御装置35、制動制御装置36、警報装置37、始動スイッチ38、周辺監視センサ39、GPS受信機40、ジャイロセンサ41、車速センサ42、ナビゲーション装置43、通信装置44など、自動運転及び手動運転の各種制御に必要なセンサや制御装置などが含まれている。これら各種センサや制御装置が通信ライン50を介して接続されている。
【0031】
また、車両には、エンジンやモーターなどの動力源であるパワーユニット51、運転者が操舵するハンドル(ステアリングホイール)52を備えた操舵装置53が装備され、ハンドル52には、生体センサ54が設けられている。
運転者監視装置10のハードウェア構成については後述する。
【0032】
自動運転制御装置20は、車両の自動運転に関する各種制御を実行する装置であり、図示しない制御部、記憶部、入力部、出力部などを備えた電子制御ユニットで構成されている。前記制御部は1つ以上のハードウェアプロセッサを含み、前記記憶部に記憶されているプログラムを読み出して、各種の車両制御を実行する。
【0033】
自動運転制御装置20は、運転者監視装置10の他、操舵センサ31、アクセルペダルセンサ32、ブレーキペダルセンサ33、操舵制御装置34、動力源制御装置35、制動制御装置36、周辺監視センサ39、GPS受信機40、ジャイロセンサ41、車速センサ42、ナビゲーション装置43、通信装置44などに接続されている。自動運転制御装置20は、これら各部から取得した情報に基づいて、自動運転を行う制御信号を各制御装置へ出力して、車両の自動走行制御(自動操舵制御、自動速度調整制御、自動制動制御など)を行う。
【0034】
自動運転とは、運転席にいる運転者が運転操作をすることなく、自動運転制御装置20の行う制御によって車両を道路に沿って自動で走行させることをいう。例えば、予め設定された目的地までのルート、車外の状況や地図情報に基づいて自動的に生成された走行ルートなどに従って、自動で車両を走行させる運転状態が含まれる。そして、自動運転制御装置20は、予め定められた自動運転の解除条件を満たした場合、自動運転を終了(解除)する。例えば、自動運転制御装置20は、自動運転中の車両が予め定められた自動運転の終了地点に到達したと判定した場合に自動運転を終了する。また、自動運転制御装置20は、運転者が自動運転解除操作(例えば、自動運転解除ボタンの操作、運転者によるハンドル、アクセル又はブレーキの操作など)を行なった場合に、自動運転を終了する制御を行ってもよい。手動運転とは、運転者が運転操作を行う主体となって車両を走行させる運転である。
【0035】
操舵センサ31は、運転席前方に設けられたハンドル52に対する操舵量を検出するセンサであり、例えば、車両のステアリングシャフトに設けられ、運転者によりハンドル52に与えられる操舵トルク又はハンドル52の操舵角を検出する。操舵センサ31で検出された、運転者のハンドル操作に応じた信号が自動運転制御装置20や操舵制御装置34へ出力される。
【0036】
アクセルペダルセンサ32は、アクセルペダルの踏込み量(アクセルペダルの位置)を検出するセンサであり、例えばアクセルペダルのシャフト部分に設けられる。アクセルペダルセンサ32で検出されたアクセルペダルの踏込み量に応じた信号が自動運転制御装置20や動力源制御装置35へ出力される。
【0037】
ブレーキペダルセンサ33は、ブレーキペダルの踏込み量(ブレーキペダルの位置)又は操作力(踏力など)を検出するセンサである。ブレーキペダルセンサ33で検出されたブレーキペダルの踏込み量や操作力に応じた信号が自動運転制御装置20や制動制御装置36へ出力される。
【0038】
操舵制御装置34は、車両の操舵装置(例えば、電動パワーステアリング装置)53を制御する電子制御ユニットである。操舵制御装置34は、車両の操舵トルクをコントロールするモーターを駆動させることにより、車両の操舵トルクを制御する。自動運転モードでは、自動運転制御装置20からの制御信号に応じて操舵トルクを制御する。
【0039】
動力源制御装置35は、パワーユニット51を制御する電子制御ユニットである。動力源制御装置35は、例えば、エンジンに対する燃料の供給量及び空気の供給量、又はモーターに対する電気の供給量を制御することで車両の駆動力を制御する。自動運転モードでは、自動運転制御装置20からの制御信号に応じて車両の駆動力を制御する。
【0040】
制動制御装置36は、車両のブレーキシステムを制御する電子制御ユニットである。制動制御装置36は、例えば、液圧ブレーキシステムに付与する液圧を調整することで、車両の車輪へ付与する制動力を制御する。自動運転モードでは、自動運転制御装置20からの制御信号に応じて車輪への制動力を制御する。
【0041】
警報装置37は、各種警告や案内を音や音声で出力する音声出力部、各種警告や案内を文字や図形で表示したり、又はランプを点灯表示したりする表示出力部(いずれも図示せず)などを含んで構成され、運転者監視装置10や自動運転制御装置20から出力された警告指示信号に基づいて動作する。
【0042】
始動スイッチ38は、パワーユニット51を始動、停止させるためのスイッチであり、エンジンを始動させるイグニッションスイッチや走行用モーターを始動させるパワースイッチなどで構成されている。始動スイッチ38の操作信号が、運転者監視装置10や自動運転制御装置20に入力される。
【0043】
周辺監視センサ39は、車両の周辺に存在する対象物を検出するセンサである。前記対象物には、車、自転車、人などの移動物体、路面標示(白線など)、ガードレール、中央分離帯、その他車両の走行に影響を与える構造物などが含まれる。周辺監視センサ39は、前方監視カメラ、後方監視カメラ、レーダ(Radar)、ライダー、即ちLight Detection and Ranging、または、Laser Imaging Detection and Ranging(LIDER)、及び超音波センサのうち少なくとも1つを含む。周辺監視センサ39で検出された対象物の検出データが自動運転制御装置20などへ出力される。前方監視カメラや後方監視カメラには、ステレオカメラや単眼カメラなどが採用され得る。レーダは、ミリ波等の電波を車両周囲に送信し、車両周囲に存在する対象物で反射された電波を受信することで対象物の位置、方向、距離などを検出する。ライダーは、レーザー光を車両周囲に送信し、車両周囲に存在する対象物で反射された光を受信することで対象物の位置、方向、距離などを検出する。
【0044】
GPS受信機40は、図示しないアンテナを介して人工衛星からのGPS信号を受信し、受信したGPS信号に基づいて自車位置を割り出す処理(GPS航法)を行う装置である。GPS受信機40で、割り出された自車位置情報が自動運転制御装置20やナビゲーション装置43などへ出力される。
【0045】
ジャイロセンサ41は、車両の回転角速度(ヨーレート)を検出するセンサである。ジャイロセンサ41で検出された回転角速度信号が自動運転制御装置20やナビゲーション装置43などへ出力される。
【0046】
車速センサ42は、車両の速度を検出するセンサであり、例えば、車輪やドライブシャフトなどに設けて車輪の回転速度を検出する車輪速センサなどで構成されている。車速センサ42で検出された車速信号が自動運転制御装置20やナビゲーション装置43などへ出力される。
【0047】
ナビゲーション装置43は、GPS受信機40などで計測された車両の位置情報と地図データベース(図示せず)の地図情報とに基づいて、車両が走行する道路や車線を割り出し、車両の現在位置から目的地までの経路などを演算し、該経路を表示部(図示せず)へ表示し、音声出力部(図示せず)から経路案内などの音声出力を行う。ナビゲーション装置43で求められた、車両の位置情報、走行道路の情報、及び走行予定経路の情報などが自動運転制御装置20へ出力される。走行予定経路の情報には、自動運転区間の開始地点や終了地点、自動運転の開始予告地点や終了(解除)予告地点などの自動運転の切り替え制御に関連する情報も含まれている。ナビゲーション装置43は、図示しない制御部、表示部、音声出力部、操作部、地図データ記憶部などを含んで構成されている。
【0048】
通信装置44は、無線通信網(例えば、携帯電話網、VICS(登録商標)、DSRC(登録商標)などの通信網)を介して各種の情報を取得する装置である。通信装置44は、車々間通信機能や路車間通信機能を備えてもよい。例えば、道路脇に設けられた路側送受信機(例えば光ビーコン、ITSスポット(登録商標))などとの路車間通信により、車両の進路上の道路環境情報(車線規制情報など)を取得することができる。また、車々間通信により、他車両に関する情報(位置情報、走行制御に関する情報など)や他車両により検出された道路環境情報などを取得することができる。
【0049】
ハンドル52に設けられる生体センサ54(生体情報検出部)は、ハンドル52に触れた手(特に掌や指の部分)から個人を識別することができる生体情報を検出するセンサである。生体センサ54には、例えば、ハンドル52に触れた手(指を含む)の指紋を検出する指紋検出センサ、前記手から脈拍を検出する脈拍検出センサ、前記手の静脈パターンを検出する静脈パターン検出センサ、前記手の掌紋パターンを検出する掌紋パターン検出センサのうちの少なくともいずれが適用され得るが、これらに限定されない。これらセンサを複数組み合わせて用いてもよい。
【0050】
前記指紋検出センサには、光学式センサや非光学式センサが適用され得る。光学式センサは、手(指)に光を照射し、指紋の隆線と谷線とで光の反射形態が異なる原理を利用して、その濃淡データから指紋を検出するセンサである。非光学式センサは、指紋の隆線と谷線との凹凸により生じる静電容量や温度差を半導体センサなどで電気的に検出して指紋を検出するセンサである。
前記静脈パターン検出センサには、例えば、発光素子から発光された近赤外線の反射の強弱を検出して静脈形状を認識するセンサなどが適用され得る。
【0051】
前記脈拍検出センサには、例えば、赤外線又は可視光と赤外線を発光する光源と、フォトダイオードとを用い、前記光源を指先に当てて反射光を検出し、透過光量の変化を脈波として検出するセンサなどが適用され得る。
【0052】
前記掌紋パターン検出センサには、例えば、撮像素子を含む画像センサにより撮像された掌握画像から掌紋部や指関節部の特徴線を抽出し、これら特徴線のマッチングを行う掌紋認証センサなどが適用され得る。
【0053】
これら生体センサ54のハンドル52への設置位置や個数は、特に限定されない。生体センサ54をハンドル52の全周にわたり設けてもよい。
図3は、生体センサ54の設置位置の一例を示すハンドル52の正面図である。運転者がハンドル52を両手で正しく握っていることが検出できるように、生体センサ54を、少なくともアナログ時計の2時(t2)から3時(t3)の範囲と、9時(t9)から10時(t10)の範囲に、左右1対以上設置することが好ましい。または、ハンドル52の左右両側が適正に把持されていることを検出できるように、アナログ時計の2時(t2)から4時(t4)の範囲と、8時(t8)から10時(t10)の範囲に、左右1対以設置するようにしてもよい。
【0054】
図3に示すブロック図に基づいて、実施の形態(1)に係る運転者監視装置10のハードウェア構成について説明する。
運転者監視装置10は、入出力インターフェース(I/F)11、制御ユニット12、及び記憶ユニット13を含んで構成されている。
【0055】
入出力I/F11は、生体センサ54、始動スイッチ38、自動運転制御装置20、警報装置37などに接続され、これら外部機器との間で信号の授受を行うための回路や接続コネクタなどを含んで構成されている。
【0056】
制御ユニット12は、生体センサ信号取得部12a(生体情報取得部)、運転モード判定部12b、第1の判定処理部12c、及び第1の信号出力部12eを含んで構成され、Central Processing Unit(CPU)などの1つ以上のハードウェアプロセッサを含んで構成されている。
【0057】
記憶ユニット13は、生体センサ信号記憶部13a(生体情報記憶部)、及び第1の判定方法記憶部13bを含んで構成され、Read Only Memory(ROM)、Random Access Memory(RAM)、ソリッドステートドライブ(SSD)、ハードディスクドライブ(HDD)、フラッシュメモリ、その他の不揮発性メモリ、揮発性メモリなど、半導体素子によってデータを記憶する1つ以上のメモリ装置を含んで構成されている。
【0058】
制御ユニット12は、記憶ユニット13と協働して、取得データを記憶ユニット13に記憶する処理や、記憶ユニット13に記憶されたデータやプログラムを読み出し、該プログラムを実行するように構成されている。
制御ユニット12を構成する運転モード判定部12bは、例えば、自動運転制御装置20から取得した自動運転モードの設定信号、自動運転モードの解除予告信号、自動運転モードの解除信号などに基づいて、自動運転モードや手動運転モードを含む運転モードを判定する処理を実行する。自動運転モードの設定信号は、自動運転モードへの設定(切替)が完了した後に出力される信号である。自動運転モードの解除予告信号は、自動運転モードから手動運転モードへの切替前に(例えば、手動運転操作の引継区間に入った場合などに)出力される信号である。自動運転モードの解除信号は、自動運転モードが解除され、手動運転モードに切り替わった後に出力される信号である。
【0059】
生体センサ信号取得部12aは、運転モード判定部12bにおいて、手動運転モードであると判定された場合に、生体センサ54から生体センサ信号を取得する処理を実行し、取得した生体センサ信号を、手動運転モード時の生体センサ信号(第1の生体情報)として生体センサ信号記憶部13aに記憶する処理を実行する。
【0060】
また、生体センサ信号取得部12aは、運転モード判定部12bにおいて、自動運転モードの解除予告(自動運転モードから手動運転モードへの切り替え予告)が検出された場合に、生体センサ54から生体センサ信号(第2の生体情報)を取得する処理を実行し、取得した生体センサ信号を第1の判定処理部12cに送る。
【0061】
第1の判定処理部12cは生体情報照合部12dを含む。生体情報照合部12dは、運転モード判定部12bにおいて自動運転モードの解除予告が検出された場合に、生体センサ信号記憶部13aから手動運転モード時の生体センサ信号を読み出し、該読み出した手動運転モード時の生体センサ信号(第1の生体情報)と、自動運転モードの解除予告後に生体センサ54から取得した生体センサ信号(第2の生体情報)とを照合する処理を実行する。
【0062】
第1の信号出力部12eは、生体情報照合部12dでの判定結果に基づく信号を出力する。例えば、生体情報照合部12dでの照合結果が一致の場合、自動運転モードから手動運転モードへの切り替えを許可する信号を自動運転制御装置20へ出力する。一方、照合結果が不一致の場合、警報装置37に警告処理を指示する信号を出力したり、自動運転で強制的に車両を退避(停車又は減速)させる強制退避を指示する信号を自動運転制御装置20に出力したりする処理を実行する。
【0063】
生体センサ信号記憶部13aには、手動運転モード時に生体センサ信号取得部12aで取得した生体センサ信号(手の指紋情報、脈拍情報、手の静脈パターン情報など)が記憶される。生体センサ信号は取得時刻などのデータと紐付けて記憶してもよい。
第1の判定方法記憶部13bには、制御ユニット12の第1の判定処理部12cで実行される第1の判定処理プログラムや該プログラムの実行に必要なデータなどが記憶されている。
【0064】
図4、5は、実施の形態(1)に係る運転者監視装置10における制御ユニット12の行う処理動作を示したフローチャートである。
まず、ステップS1では、始動スイッチ38のオン信号を取得したか否かを判断し、始動スイッチ38のオン信号を取得したと判断すればステップS2に進む。ステップS2では、自動運転制御装置20から自動運転モード又は手動運転モードの運転モードの設定信号を取得し、次にステップS3に進む。
【0065】
ステップS3では、手動運転モードであるか否かを判断し、手動運転モードであると判断すればステップS4に進む。ステップS4では、生体センサ54で検出された生体センサ信号(第1の生体情報)を取得する処理を行い、その後ステップS5に進む。
【0066】
ステップS5では、生体センサ信号(第1の生体情報)を取得したか否かを判断し、生体センサ信号を取得していないと判断すればステップS6に進む。ステップS6では、警報装置37に対して、運転者にハンドル52を握らせるための警告出力を指示する信号を出力し、その後ステップS4に戻る。警報装置37では、運転者監視装置10からの警告出力指示信号に基づいて、運転者にハンドル52を握らせるための警告処理が行われる。
【0067】
一方ステップS5において、生体センサ信号を取得したと判断すればステップS7に進む。ステップS7では、生体センサ信号を生体センサ信号記憶部13aに、手動運転モード時の生体センサ信号(第1の生体情報)として記憶する処理を行い、その後ステップS8に進む。
【0068】
ステップS8では、自動運転モードへの設定(切替)信号を取得したか否かを判断し、取得していないと判断すればステップS9に進む。ステップS9では、始動スイッチ38のオフ信号を取得したか否かを判断し、オフ信号を取得したと判断すれば、その後処理を終える一方、オフ信号を取得していないと判断すればステップS8に戻る。
【0069】
一方ステップS3において、手動運転モードではない、すなわち自動運転モードであると判断した場合、またはステップS8において、自動運転モードへの設定信号を取得したと判断した場合、
図5に示すステップS10に進む。
【0070】
ステップS10では、自動運転モードの解除予告信号(手動運転モードへの切替予告信号)を取得したか否かを判断し、前記自動運転モードの解除予告信号を取得したと判断すれば、その後ステップS11に進む。ステップS11では、生体センサ54から生体センサ信号(第2の生体情報)を取得したか否かを判断する。なお、自動運転モードの解除予告信号とは、自動運転モードを解除して手動運転モードに切り替える場合に、運転者にハンドル操作等を引き継がせるための猶予時間を与えるための信号であり、例えば、自動運転制御装置20から運転者監視装置10と警報装置37に出力される。警報装置37では、自動運転モードの解除予告信号を受けて、運転者に自動運転モードの解除予告を通知する処理が行われてもよい。
【0071】
ステップS11において、生体センサ54から生体センサ信号を取得したと判断すればステップS12に進む。ステップS12では、生体センサ信号記憶部13aから手動運転モード時の生体センサ信号を読み出す処理を行い、その後ステップS13に進む。ステップS13では、自動運転モードの解除予告後に取得した生体センサ信号(第2の生体情報)と、生体センサ信号記憶部13aから読み出した手動運転モード時の生体センサ信号(第1の生体情報)とを照合する処理を行い、その後ステップS14に進む。
【0072】
ステップS14では、生体センサ信号が一致したか否かを判断し、一致した、すなわち、自動運転モードの解除予告時(すなわち、自動運転モードから手動運転モードに切り替える前)と手動運転モード時(自動運転モードに切り替わる前の手動運転モード時)の運転者が同じである、すなわち、手動運転モード時の運転者がハンドル52を把持し、運転姿勢が整ったと判断すれば、ステップS15に進む。ステップS15では、自動運転から手動運転への運転モードの切替を許可する信号を自動運転制御装置20に出力する処理を行い、その後ステップS3に戻る。
自動運転制御装置20では、運転者監視装置10からの前記運転モードの切替許可信号に基づいて、自動運転モードを解除して、手動運転モードに移行する処理が行われる。
【0073】
一方ステップS11において、生体センサ54から生体センサ信号を取得していないと判断すればステップS16に進む。ステップS16では、生体センサ54から生体センサ信号が取得できていない旨の警告を既に行ったか(警告済み)否かを判断し、警告済みではないと判断すればステップS17に進み、警報装置37に対して、運転者にハンドル52を握らせるための警告出力を指示する信号を出力し、ステップS11に戻る。警報装置37では、運転者監視装置10からの警告出力指示信号に基づいて、運転者にハンドル52を握らせるための警告処理が行われる。
【0074】
一方ステップS16において、生体センサ54から生体センサ信号が取得できていない旨の警告を既に行った(警告済み)と判断すればステップS18に進む。ステップS18では、自動運転による強制退避を指示する信号を自動運転制御装置20に出力する処理を行う。自動運転制御装置20では、運転者監視装置10からの強制退避指示信号に基づいて、自動運転により車両を安全な場所に停車させる処理が行われる。その後、ステップS19において、自動運転制御装置20から強制退避の完了信号を取得したか否かを判断し、強制退避の完了信号を取得したと判断すれば、その後処理を終える。
【0075】
また、ステップS14において生体センサ信号が一致していないと判断すればステップS16に進む。ステップS16では、生体センサ信号が一致していない旨の警告を既に行ったか(警告済み)否かを判断し、警告済みではないと判断すればステップS17に進む。ステップS17では、警報装置37に対して、手動運転モード時の運転者に運転させるための警告出力を指示する信号を出力し、ステップS11に戻る。警報装置37では、運転者監視装置10からの警告出力指示信号に基づいて、手動運転モード時の運転者に運転させるための警告処理が行われる。
【0076】
一方ステップS16において、生体センサ信号が一致していない旨の警告を既に行った(警告済み)と判断すればステップS18に進む。ステップS18では、自動運転による強制退避を指示する信号を自動運転制御装置20に出力する処理を行う。自動運転制御装置20では、運転者監視装置10からの強制退避指示信号に基づいて、自動運転により車両を安全な場所に停車させる処理が行われる。その後、ステップS19において、自動運転制御装置20から強制退避の完了信号を取得したか否かを判断し、強制退避の完了信号を取得したと判断すれば、その後処理を終える。
【0077】
上記実施の形態(1)に係る運転者監視装置10によれば、自動運転モードから手動運転モードに切り替えられる場合(例えば、上記した自動運転モードの解除予告後)に、生体センサ信号取得部12aにより取得された生体センサ信号(第2の生体情報)と、生体センサ信号記憶部13aから読み出した手動運転モードでの生体センサ信号(第1の生体情報)とを照合することにより、手動運転時の本来の運転者がハンドル52を把持しているか否かを精度良く判定することができる。また、第1の判定処理部12cによる判定結果に基づく所定の信号を出力することにより、該所定の信号に基づく所定の処理を自動運転制御装置20などの外部機器に対して効率良く、迅速に実行させることができ、自動運転モードから手動運転モードへの切り替え時における車両の安全性を高めることが可能となる。
【0078】
また、制御ユニット12が、手動運転モードでの運転者がハンドル52を把持していると判定した場合、自動運転制御装置20に、自動運転モードから手動運転モードへの切り替えを許可する信号を出力するので、運転者にハンドル操作が引き継がれた後で自動運転モードから手動運転モードへの切り替えが実行されることとなり、該切替後の車両の安全を確保することができる。
【0079】
また、制御ユニット12が、手動運転モードでの運転者がハンドル52を把持していないと判定した場合、警報装置37に警告処理を実行させるための信号を出力するので、手動運転モードでの運転者がハンドル52の操作を引き継ぐように注意を促すことができる。
【0080】
また、制御ユニット12が、手動運転モードでの運転者がハンドル52を把持していないと判定し、かつ、既に警告済みであると判定した場合、自動運転制御装置20に、自動運転による停車を指示する信号を出力するので、自動運転モードから手動運転モードに切り替えられる場合に、手動運転モードでの運転者がハンドル52を把持しない(把持できない)ときには、自動運転制御装置20による制御により車両を安全に停止させることができる。
【0081】
図6は、実施の形態(2)に係る運転者監視装置10Aを含む自動運転システム1Aの要部構成を示すブロック図である。なお、
図1に示した自動運転システム1の要部構成と同一機能を有する構成部品には同一符号を付し、ここではその説明を省略する。
【0082】
自動運転システム1Aには、運転者の顔を含む画像を撮像する運転者撮像カメラ55がさらに装備され、実施の形態(2)に係る運転者監視装置10Aが、運転者撮像カメラ55で撮像された運転者画像を用いた処理を実行する点が、実施の形態(1)に係る運転者監視装置10と大きく相違している。
【0083】
運転者撮像カメラ55は、ハンドル52を操舵する運転者の顔を含む画像を撮像する装置(撮像部)であり、例えば、昼夜を問わず運転者の状態を撮像できるように、赤外光カメラ部(CCD、CMOSなどのイメージセンサを含む)、赤外光照射部(LED)、インターフェース部、これら各部を制御するカメラ制御部などを含んで構成されている。カメラ制御部が、赤外光カメラ部及び赤外光照射部を制御し、赤外光照射部から赤外光(近赤外線など)を照射し、赤外光カメラ部で赤外光の反射光を撮像する。運転者撮像カメラ55で撮像された画像データが運転者監視装置10Aに出力される。
【0084】
運転者撮像カメラ55の数は、1台でもよいし、2台以上であってもよい。また、運転者撮像カメラ55は、運転者監視装置10Aと別体(別筐体)で構成してもよいし、運転者監視装置10Aと一体(同一筐体)で構成してもよい。運転者撮像カメラ55は、単眼カメラでもよいし、ステレオカメラであってもよい。
【0085】
運転者撮像カメラ55の車室内での設置位置は、運転者の顔を含む画像を撮像できる位置であれば特に限定されない。例えば、ハンドル52、ハンドル52のコラム部分、メーターパネル部分、ダッシュボードの上、ルームミラー近傍位置、Aピラー部分、ナビゲーション装置43などに設置することができる。
【0086】
図7は、実施の形態(2)に係る運転者監視装置10Aのハードウェア構成を示すブロック図である。
図3に示した運転者監視装置10のハードウェア構成と同一機能を有する構成部品には同一符号を付し、ここではその説明を省略する。
実施の形態(2)に係る運転者監視装置10Aは、入出力インターフェース(I/F)11、制御ユニット12A、及び記憶ユニット13Aを含んで構成されている。
【0087】
入出力I/F11は、運転者撮像カメラ55、生体センサ54、始動スイッチ38、自動運転制御装置20、警報装置37などに接続され、これら外部機器との間で信号の授受を行うための回路や接続コネクタなどを含んで構成されている。
【0088】
制御ユニット12Aは、画像取得部12f、生体センサ信号取得部12a、運転モード判定部12b、第2の判定処理部12g、第2の信号出力部12i、第3の判定処理部12j、第3の信号出力部12lを含んで構成され、CPUなどの1つ以上のハードウェアプロセッサを含んで構成されている。
【0089】
記憶ユニット13Aは、画像記憶部13c、生体センサ信号記憶部13a、第2の判定方法記憶部13d、及び第3の判定方法記憶部13eを含んで構成され、ROM、RAM、ソリッドステートドライブ(SSD)、ハードディスクドライブ(HDD)、フラッシュメモリ、その他の不揮発性メモリ、揮発性メモリなど、半導体素子によってデータを記憶する1つ以上のメモリ装置を含んで構成されている。
【0090】
記憶ユニット13Aの画像記憶部13cには、手動運転モード時に運転者撮像カメラ55で撮像された運転者画像(第1の運転者画像)が記憶される。
生体センサ信号記憶部13aには、手動運転モード時に生体センサ信号取得部12aで取得された生体センサ信号(第1の生体情報)が記憶される。
【0091】
第2の判定方法記憶部13dには、制御ユニット12Aの第2の判定処理部12gで実行される第2の判定処理プログラムや該プログラムの実行に必要なデータなどが記憶されている。
第3の判定方法記憶部13eには、制御ユニット12Aの第3の判定処理部12jで実行される第3の判定処理プログラムや該プログラムの実行に必要なデータなどが記憶されている。
【0092】
制御ユニット12Aは、記憶ユニット13Aと協働して、取得データを記憶ユニット13Aに記憶する処理や、記憶ユニット13Aに記憶されたデータやプログラムを読み出し、該プログラムを実行するように構成されている。
制御ユニット12Aを構成する運転モード判定部12bは、例えば、自動運転制御装置20から取得した自動運転モードの設定信号、自動運転モードの解除予告信号、自動運転モードの解除信号などに基づいて、自動運転モードや手動運転モードを含む運転モードを判定する処理を実行する。
【0093】
生体センサ信号取得部12aは、運転モード判定部12bにおいて、手動運転モードであると判定された場合に、生体センサ54から生体センサ信号を取得する処理を実行し、取得した生体センサ信号を、手動運転モード時の生体センサ信号(第1の生体情報)として生体センサ信号記憶部13aに記憶する処理を実行する。
【0094】
画像取得部12fは、運転モード判定部12bにおいて、手動運転モードであると判定された場合に、運転者撮像カメラ55で撮像された運転者画像を取得する処理を実行し、取得した運転者画像を、手動運転モード時の運転者画像(第1の運転者画像)として画像記憶部13cに記憶する処理を実行する。
手動運転モード時の運転者画像(第1の運転者画像)は、第2の判定処理部12gの生体情報・画像照合部12hで実行される画像照合処理、すなわち、運転者の顔認証処理の登録用画像として使用される。画像取得部12fでは、手動運転モード時の運転者画像から、運転者の顔検出、顔器官検出、特徴抽出などを行い、これらデータも画像記憶部13cに記憶してもよい。
【0095】
また、生体センサ信号取得部12aは、運転モード判定部12bにおいて、自動運転モードの解除予告(自動運転モードから手動運転モードへの切り替え予告)が検出された場合に、生体センサ54から生体センサ信号(第2の生体情報)を取得する処理を実行し、取得した生体センサ信号を第2の判定処理部12gに送る。
【0096】
また、画像取得部12fは、運転モード判定部12bにおいて、自動運転モードの解除予告が検出された場合に、運転者撮像カメラ55で撮像された運転者画像を取得する処理を実行し、取得した運転者画像(第2の運転者画像)を第2の判定処理部12gに送る。
自動運転モードの解除予告時の運転者画像(第2の運転者画像)は、第2の判定処理部12gの生体情報・画像照合部12hで実行される画像照合処理、すなわち、運転者の顔認証処理の認証用画像として使用される。画像取得部12fでは、自動運転モードの解除予告時の運転者画像から、運転者の顔検出、顔器官検出、特徴抽出などを行い、これらデータも第2の判定処理部12gに送ってもよい。
【0097】
また、画像取得部12fは、運転モード判定部12bにおいて、自動運転モードであると判定された場合に、運転者撮像カメラ55で撮像された運転者画像を取得する処理を実行し、取得した運転者画像(第3の運転者画像)を第3の判定処理部12jに送る。
自動運転モード時の運転者画像(第3の運転者画像)は、第3の判定処理部12jの画像照合部12kで実行される画像照合処理、すなわち、運転者の顔認証処理の認証用画像として使用される。画像取得部12fでは、自動運転モード時の運転者画像から、運転者の顔検出、顔器官検出、特徴抽出などを行い、これらデータも第3の判定処理部12jに送ってもよい。
【0098】
第2の判定処理部12gの生体情報・画像照合部12hは、運転モード判定部12bにおいて自動運転モードの解除予告が検出された場合に、生体センサ信号記憶部13aから手動運転モード時の生体センサ信号を読み出すとともに、画像記憶部13cから手動運転モード時の運転者画像を読み出す。そして、前記読み出した手動運転モード時の生体センサ信号(第1の生体情報)と、自動運転モードの解除予告後に取得した生体センサ信号(第2の生体情報)とを照合するとともに、前記読み出した手動運転モード時の運転者画像(第1の運転者画像)と、自動運転モードの解除予告後に取得した運転者画像(第2の運転者画像)とを照合する(顔認証)処理を実行する。前記顔認証処理には、公知の顔認証技術を採用することができる。
【0099】
第2の信号出力部12iは、生体情報・画像照合部12hでの判定結果に基づく信号を出力する。例えば、生体情報・画像照合部12hでの照合結果が一致の場合、自動運転モードから手動運転モードへの切り替えを許可する信号を自動運転制御装置20へ出力する。一方、照合結果が不一致の場合、警報装置37に警告処理を指示する信号を出力したり、自動運転で強制的に車両を退避(停車又は減速)させる強制退避を指示する信号を自動運転制御装置20に出力したりする処理を実行する。
【0100】
第3の判定処理部12jの画像照合部12kは、運転モード判定部12bにおいて自動運転モードであると判定された場合に、画像記憶部13cから手動運転モード時の運転者画像を読み出すとともに、前記読み出した手動運転モード時の運転者画像(第1の運転者画像)と、自動運転モード時の運転者画像(第3の運転者画像)とを照合する(顔認証)処理を実行する。前記顔認証処理には、公知の顔認証技術を採用することができる。
【0101】
第3の信号出力部12lは、画像照合部12kでの判定結果に基づく信号を出力する。例えば、画像照合部12kでの照合結果が一致の場合、そのまま自動運転モードを継続する信号を出力する。一方、照合結果が不一致の場合(手動運転モード時と自動運転モード時で運転者が異なる場合)、警報装置37に警告処理を指示する信号を出力したり、自動運転で強制的に車両を退避(停車又は減速)させる強制退避を指示する信号を自動運転制御装置20に出力したりする処理を実行する。
【0102】
図8、9は、実施の形態(2)に係る運転者監視装置10Aにおける制御ユニット12Aの行う処理動作を示したフローチャートである。
まず、ステップS21では、始動スイッチ38のオン信号を取得したか否かを判断し、始動スイッチ38のオン信号を取得したと判断すればステップS22に進む。ステップS22では、自動運転制御装置20から自動運転モード又は手動運転モードの運転モード設定信号を取得し、ステップS23に進む。
【0103】
ステップS23では、手動運転モードであるか否かを判断し、手動運転モードであると判断すればステップS24に進む。ステップS24では、生体センサ54で検出された生体センサ信号(第1の生体情報)を取得する処理を行い、その後ステップS25に進む。
【0104】
ステップS25では、生体センサ信号(第1の生体情報)を取得したか否かを判断し、生体センサ信号を取得していないと判断すればステップS26に進む。ステップS26では、警報装置37に対して、運転者にハンドル52を握らせるための警告出力を指示する信号を出力し、その後ステップS24に戻る。警報装置37では、運転者監視装置10Aからの警告出力指示信号に基づいて、運転者にハンドル52を握らせるための警告処理が行われる。
【0105】
一方ステップS25において、生体センサ信号を取得したと判断すればステップS27に進む。ステップS27では、運転者撮像カメラ55で撮像された運転者画像(第1の運転者画像)を取得する処理を行い、次のステップS28では、手動運転モード時に取得した生体センサ信号(第1の生体情報)を生体センサ信号記憶部13aに、運転者画像(第1の運転者画像)を画像記憶部13cに記憶する処理を行い、その後ステップS29に進む。
【0106】
ステップS29では、自動運転モードへの設定(切替)信号を取得したか否かを判断し、取得していないと判断すればステップS30に進む。ステップS30では、手動運転モードでの運転者監視処理を行う。例えば、運転者撮像カメラ55で手動運転中の運転者を撮像し、該撮像された運転者画像を解析して、運転者の状態を監視する処理を行う。
【0107】
その後、ステップS31において、始動スイッチ38のオフ信号を取得したか否かを判断し、オフ信号を取得したと判断すれば、その後処理を終える一方、オフ信号を取得していないと判断すればステップS29に戻る。
【0108】
一方ステップS23において、手動運転モードではない、すなわち自動運転モードであると判断した場合、またはステップ29において自動運転モードへの設定信号を取得したと判断した場合、ステップS32に進む。ステップS32では、自動運転モードでの運転者監視処理を行う。例えば、運転者撮像カメラ55で自動運転中の運転者を撮像し、該撮像された運転者画像を解析して、運転者の状態を監視する処理を行い、その後
図9に示すステップS33に進む。
【0109】
ステップS33では、自動運転モードの解除予告信号(手動運転モードへの切替予告信号)を取得したか否かを判断し、前記自動運転モードの解除予告信号を取得していない(自動運転モード中)と判断すれば、ステップS34に進む。ステップS34では運転者撮像カメラ55で撮像された運転者画像(第3の運転者画像)を取得する処理を行う。
【0110】
次のステップS35では、画像記憶部13cから手動運転モード時に記憶した運転者画像(第1の運転者画像)を読み出し、次のステップS36では、手動運転モード時の運転者画像(第1の運転者画像)と、自動運転モード時に取得した運転者画像(第3の運転者画像)との照合(顔認証)処理を行い、ステップS37に進む。
【0111】
ステップS37では、運転者画像が一致したか否かを判断し、運転者画像が一致した、すなわち、手動運転モード時と自動運転モード時とで運転者が同じであると判断すれば、ステップS32に戻る一方、運転者が一致していない、すなわち、手動運転モード時と自動運転モード時とで運転者が異なっていると判断すれば、ステップS38に進む。ステップS38では、警報装置37に対して、手動運転モード時と自動運転モード時とで運転者が異なっていることを警告するための指示信号を出力し、その後ステップS32に進む。警報装置37では、運転者監視装置10Aからの警告出力指示信号に基づいて、手動運転モード時の運転者に運転させるため警告処理が行われる。
【0112】
一方ステップS33において、自動運転モードの解除予告信号を取得したと判断すれば、ステップS39に進む。ステップS39では、生体センサ54で検出された生体センサ信号(第2の生体情報)を取得したか否かを判断し、生体センサ信号を取得したと判断すればステップS40に進む。
【0113】
ステップS40では、運転者撮像カメラ55で撮像された運転者画像(第2の運転者画像)を取得する処理を行い、ステップS41に進む。ステップS41では、生体センサ信号記憶部13aと画像記憶部13cから手動運転モード時の生体センサ信号(第1の生体情報)と運転者画像(第1の運転者画像)をそれぞれ読み出す処理を行い、ステップS42に進む。ステップS42では、自動運転モードの解除予告後に取得した生体センサ信号(第2の生体情報)及び運転者画像(第2の運転者画像)と、手動運転モード時の生体センサ信号(第1の生体情報)及び運転者画像(第1の運転者画像)とを照合する処理を行い、その後ステップS43に進む。
【0114】
ステップS43では、生体センサ信号及び運転者画像が一致したか否かを判断し、一致した、すなわち、自動運転モードの解除予告時(すなわち、自動運転モードから手動運転モードに切り替える前)と手動運転モード時の運転者が同じである、すなわち、運転者がハンドル52を把持し、運転姿勢が整ったと判断すればステップS44に進む。ステップS44では、自動運転から手動運転への運転モードの切替を許可する信号を自動運転制御装置20に出力する処理を行い、その後ステップS23に戻る。自動運転制御装置20では、運転者監視装置10Aからの前記運転モードの切替許可信号に基づいて、自動運転モードを解除して、手動運転モードに移行する処理が行われる。
【0115】
一方ステップS39において、生体センサ54から生体センサ信号を取得していないと判断すればステップS45に進む。ステップS45では、生体センサ54から生体センサ信号が取得できていない旨の警告を既に行ったか(警告済み)否かを判断し、警告済みではないと判断すればステップS46に進み、警報装置37に対して、運転者にハンドル52を握らせるための警告出力を指示する信号を出力し、ステップS39に戻る。警報装置37では、運転者監視装置10Aからの警告出力指示信号に基づいて、運転者にハンドル52を握らせるための警告処理が行われる。
【0116】
一方ステップS45において、生体センサ54から生体センサ信号が取得できていない旨の警告を既に行った(警告済み)と判断すればステップS47に進む。ステップS47では、自動運転による強制退避を指示する信号を自動運転制御装置20に出力する処理を行い、その後ステップS48において、自動運転制御装置20から強制退避の完了信号を取得したか否かを判断し、強制退避の完了信号を取得したと判断すれば、その後処理を終える。
【0117】
また、ステップS43において生体センサ信号及び運転者画像が一致していないと判断すればステップS45に進む。ステップS45では、生体センサ信号及び運転者画像が一致していない旨の警告を既に行ったか(警告済み)否かを判断し、警告済みではないと判断すればステップS46に進む。ステップS46では、警報装置37に対して、手動運転モード時の運転者に運転させるための警告出力を指示する信号を出力し、ステップS39に戻る。警報装置37では、運転者監視装置10Aからの警告出力指示信号に基づいて、手動運転モード時の運転者に運転させるための警告処理が行われる。
【0118】
一方ステップS45において、生体センサ信号及び運転者画像が一致していない旨の警告を既に行った(警告済み)と判断すれば、ステップS47に進む。ステップS47では、自動運転による強制退避を指示する信号を自動運転制御装置20に出力する処理を行い、その後、ステップS48において、自動運転制御装置20から強制退避の完了信号を取得したか否かを判断し、強制退避の完了信号を取得したと判断すれば、その後処理を終える。
【0119】
上記実施の形態(2)に係る運転者監視装置10Aによれば、自動運転モードから手動運転モードに切り替えられる場合(例えば、上記した自動運転モードの解除予告後)に、生体センサ信号取得部12aにより取得された生体センサ情報(第2の生体情報)及び画像取得部12fにより取得された運転者画像(第2の運転者画像)と、生体センサ信号記憶部13aから読み出した手動運転モードでの生体センサ情報(第1の生体情報)、及び画像記憶部13cから読み出した手動運転モードでの運転者画像(第1の運転者画像)とを照合することにより、運転者画像を使用しない上記実施の形態(1)よりもさらに、手動運転モードでの運転者がハンドル52を把持しているか否かを精度良く判定することができる。
【0120】
また、運転者監視装置10Aによれば、自動運転モードにおいて画像取得部12fにより取得された第3の運転者画像と、画像記憶部13cから読み出した第1の運転者画像とを用い、自動運転モードでの運転者と手動運転モードでの運転者とが一致するか否かが判定される。
【0121】
したがって、手動運転モードから自動運転モードに切り替わった後(自動運転モード中)に、運転者、すなわち、ハンドル52を操作する運転席に座る人が入れ替わったか否かを検出することができる。該入れ替わりが検出された場合に警告を行うことで、自動運転モード中での運転者の入れ替わりを防止することができる。
【0122】
(付記1)
自動運転モードと手動運転モードとを備えた車両の運転席に着座している運転者を監視する運転者監視装置であって、
前記車両のハンドルに設けられた生体情報検出部で検出された生体情報を記憶する生体情報記憶部を備えたメモリと、
該メモリに接続された少なくとも1つのハードウェアプロセッサとを備え、
該少なくとも1つのハードウェアプロセッサは、
前記手動運転モードにおいて前記生体情報検出部で検出された第1の生体情報を取得し、
該取得した第1の生体情報を前記生体情報記憶部に記憶させ、
前記自動運転モードから前記手動運転モードに切り替えられる場合に、前記生体情報検出部で検出された第2の生体情報を取得し、
前記生体情報記憶部から前記第1の生体情報を読み出し、
前記第2の生体情報と前記第1の生体情報とに基づいて、前記手動運転モードでの前記運転者が前記ハンドルを把持しているか否かを判定し、
該判定した結果に基づく信号を出力する、ように構成されている運転者監視装置。
【0123】
(付記2)
車両のハンドルに設けられた生体情報検出部で検出された生体情報を記憶する生体情報記憶部を備えたメモリと、
該メモリに接続された少なくとも1つのハードウェアプロセッサとを備えた装置を用い、
自動運転モードと手動運転モードとを備えた前記車両の運転席に着座している運転者を監視する運転者監視方法であって、
前記少なくとも1つのハードウェアプロセッサによって、前記手動運転モードにおいて前記生体情報検出部で検出された第1の生体情報を取得するステップと、
前記少なくとも1つのハードウェアプロセッサによって、前記取得した第1の生体情報を前記生体情報記憶部に記憶させるステップと、
前記少なくとも1つのハードウェアプロセッサによって、前記自動運転モードから前記手動運転モードに切り替えられる場合に、前記生体情報検出部で検出された第2の生体情報を取得するとともに、前記生体情報記憶部から前記第1の生体情報を読み出すステップと、
前記少なくとも1つのハードウェアプロセッサによって、前記第2の生体情報と前記第1の生体情報とに基づいて、前記手動運転モードでの前記運転者が前記ハンドルを把持しているか否かを判定するステップと、
前記少なくとも1つのハードウェアプロセッサによって、前記判定した結果に基づく信号を出力するステップと、を含む運転者監視方法。