(58)【調査した分野】(Int.Cl.,DB名)
前記運転者の状態が異常であるか否かを前記判定部が判定する前の所定の期間内に前記画像取得部が取得した前記画像における前記運転者の前記頭部が位置する範囲に基づいて、前記基準範囲を生成する基準生成部をさらに有する、請求項1又は2に記載の状態判定装置。
前記判定部は、前記車両の走行時に前記画像取得部が取得した前記画像における前記頭部が、前記基準生成部が前記運転者の状態が異常であるか否かを前記判定部が判定する前の前記車両の走行時に前記画像取得部が取得した前記画像における前記運転者の前記頭部が位置する範囲に基づいて生成した前記基準範囲に入っていない場合に、前記運転者の状態を異常状態と判定する、請求項3に記載の状態判定装置。
前記判定部は、前記車両の停止時に前記画像取得部が取得した前記画像における前記頭部が、前記基準生成部が前記運転者の状態が異常であるか否かを前記判定部が判定する前の前記車両の停止時に前記画像取得部が取得した前記画像における前記運転者の前記頭部が位置する範囲に基づいて生成した前記基準範囲に入っていない場合に、前記運転者の状態を異常状態と判定する、請求項3又は4に記載の状態判定装置。
【発明を実施するための形態】
【0014】
<第1の実施形態>
図1は、本実施形態に係る車両1の構成を示すブロック図である。車両1は、撮像装置21、状態判定装置10、警報装置22、送信装置23、車両制御装置24、及び入力装置25を備えている。
【0015】
撮像装置21は、例えば、車両1のダッシュボードに設けられたCCDカメラを含んでいる。撮像装置21は、走行中の車両1の運転席に着座している運転者を前方から撮影して画像を生成する。撮像装置21は、画像を状態判定装置10に対して出力する。
【0016】
状態判定装置10は、撮像装置21から入力された画像における運転者の頭部に関する情報に基づいて、運転者の状態を判定する。具体的には、状態判定装置10は、車両1の走行時の画像における運転者の頭部が所定の基準範囲に入っていない場合に、運転者の状態を異常状態と判定する。
【0017】
警報装置22は、状態判定装置10からの制御に基づいて、運転者が異常状態であることを示す警報を出力する。例えば、警報装置22は、警報を音声で出力するスピーカーを含んでいる。警報装置22は、警報を文字又は画像で表示するディスプレイを含んでいてもよい。
【0018】
送信装置23は、状態判定装置10からの制御に基づいて、運転者の状態に関する情報を車両1の外部へ送信する。例えば、送信装置23は、テレマティクスサービスにおける無線通信方式を利用して、情報を送信する。車両1が、バス、トラックなどの商用車である場合、送信装置23は、例えば、車両1を管理する管理会社へ情報を送信する。
【0019】
車両制御装置24は、例えば電子制御ユニット(ECU)を含んでいる。車両制御装置24は、運転者からの操作と、車両1の速度などの車両状態に関する車両情報と、に基づいて、車両1のエンジン、ブレーキ等を制御する。車両制御装置24は、車両状態に関する車両情報を状態判定装置10に対して出力する。
【0020】
入力装置25は、例えば、警報装置22からの警報出力を停止するために運転者が操作するスイッチを含んでいる。入力装置25は、スイッチを介した運転者からの操作に関する情報を、状態判定装置10に対して出力する。
【0021】
[状態判定装置10の構成]
以下、状態判定装置10の構成について詳細に説明する。状態判定装置10は、例えばCPU、ROM及びRAM等のメモリを含んでおり、ROMに記憶されたプログラムを実行することにより、画像取得部11、特定部12、判定部13、基準生成部14、警報制御部15、及び送信制御部16として機能する。
【0022】
画像取得部11は、撮像装置21が撮像した画像を撮像装置21から取得する。画像取得部11は、例えば、車両1の走行時に撮像装置21が撮像した画像を撮像装置21から取得する。
【0023】
特定部12は、画像取得部11が取得した画像における運転者の頭部を特定する。特定部12は、特定した頭部に関する情報を、判定部13に入力する。特定した頭部に関する情報は、例えば、画像における頭部の輪郭の座標を示す情報である。特定部12は、画像における運転者の頭部を特定できない場合、頭部を特定不能であることを示すロスト情報を生成して判定部13に入力する。頭部を特定できない原因としては、運転者の顔を照らす光の明るさが不適切であること、運転者の頭部が撮像装置21の撮影範囲から逸脱していることなどが考えられる。特定部12は、特定した頭部に関する情報を、判定部13に入力する。
【0024】
判定部13は、特定部12から入力された頭部に関する情報が示す頭部の範囲と、基準生成部14が運転者ごとに個別に生成した所定の基準範囲とを比較して、運転者の状態を判定する。例えば、判定部13は、画像における頭部が基準範囲に入っている場合、運転者の状態を正常状態と判定し、画像における頭部が基準範囲に入っていない場合に、運転者の状態を異常状態と判定する。また、判定部13は、ロスト情報が特定部12から入力されている場合、画像における頭部が基準範囲に入っていないとみなして、運転者の状態を異常状態と判定する。
【0025】
判定部13は、車両1が所定の制御状態にあることにより、頭部が基準範囲内に入っていないことが重大な問題を引き起こさないと考えられる場合には、画像に基づいて運転者の状態を判定する処理を中断してもよい。具体的には、判定部13は、車両1の速度に関する情報、及び車両1の操舵状況に関する情報等の制御情報を車両制御装置24から取得し、当該制御情報に基づいて、運転者の状態の判定を中断してもよい。例えば、判定部13は、制御情報に基づいて、車両1が停止している間、又は車両1が低速で走行している間は、判定を中断する。また、運転者が操舵動作を行っている間は、撮像装置21が撮影する画像において、運転者の頭部がハンドルのスポークによって遮蔽されることによって、画像における頭部を特定できないことが生じうるので、判定部13は、判定を中断してもよい。
【0026】
基準生成部14は、上述の基準範囲を運転者ごとに生成する。以下、基準生成部14について、
図2を参照して説明する。
図2は、基準生成部14が第1基準範囲R1を生成する方法の一例を示す図である。
【0027】
基準生成部14は、
図2(a)に示すように、車両1の走行時の所定のキャリブレーション期間内に画像取得部11が取得した複数の画像における運転者の頭部31の位置を、メモリに記憶させる。続いて、基準生成部14は、
図2(b)に示すように、キャリブレーション期間が終了した後に、メモリに記憶させた複数の頭部31を包含する第1基準範囲R1を生成する。キャリブレーション期間は、判定部13が、運転者の状態が異常であるか否かの判定を開始する前の所定の期間である。例えば、キャリブレーション期間は、車両1が走行を開始してから所定の時間(例えば3分間)が経過するまでの期間である。
【0028】
警報制御部15は、判定部13が運転者の状態を異常状態と判定した期間の積算値に基づいて、警報装置22に警報を出力させるか否かを制御する。例えば、警報制御部15は、まず、所定の判定期間T1の間に判定部13が運転者の状態を異常状態と判定した期間を積算した積算値S1を算出する。続いて、警報制御部15は、判定期間T1における積算値S1が、所定の閾値E1以上である場合、警報装置22に警報を出力させる。判定期間T1は、現時点から過去のT1の長さの期間(例えば、60秒)である。閾値E1は、例えば55秒である。
【0029】
警報制御部15は、所定の警報停止条件が満たされるまで、警報装置22に警報を出力させる。また、警報制御部15は、警報停止条件が満たされた場合、警報装置22に警報を出力させることを停止する。
【0030】
警報停止条件は、例えば、運転者が操舵動作、ブレーキ動作などの所定の動作を行うことである。警報制御部15は、運転者が所定の動作を行ったか否かを、車両1を制御する車両制御装置24から入力された情報に基づいて判定する。
また、警報停止条件は、警報を停止するための入力装置25のスイッチが運転者によって操作されたことであってもよい。
【0031】
また、警報装置22が警報を出力している間も判定部13が運転者の状態の判定を行う場合、警報制御部15は、警報装置22が警報を出力している間の判定期間T1における積算値S1が閾値E1未満になった場合に、警報を停止してもよい。
【0032】
送信制御部16は、警報制御部15が警報装置22に連続的に警報を出力させている警報継続期間S2を算出する。そして、送信制御部16は、警報継続期間S2が、所定の閾値E2以上になった場合、送信装置23を介して、運転者が異常状態にあるという情報を車両1の外部に送信する。
【0033】
[状態判定装置10の動作]
次に、状態判定装置10の動作について、
図3を参照して説明する。
図3は、状態判定装置10の動作を示すフローチャートである。
【0034】
画像取得部11は、車両1の走行時に撮像装置21が運転者を前方から撮影して生成した画像を定期的に取得する(S11)。続いて、特定部12は、画像における運転者の頭部31を特定する(S12)。続いて、判定部13は、画像における頭部31全体が、所定の第1基準範囲R1に入っていないかどうかを判定する(S13)。頭部31全体が第1基準範囲R1に入っていない場合(S13においてYES)、判定部13は、運転者の状態を異常状態と判定する(S14)。
【0035】
警報制御部15は、所定の判定期間T1において判定部13が運転者の状態を異常状態と判定した期間の積算値S1を算出する(S15)。続いて、警報制御部15は、積算値S1が所定の閾値E1以上になるか否かを判定する(S16)。積算値S1が閾値E1以上になる場合(S16においてYES)、警報制御部15は、警報装置22に警報を出力させる(S17)。
【0036】
警報制御部15が警報装置22に警報を出力させている間、警報制御部15は、所定のサンプリング周期ごとに、所定の警報停止条件が満たされたか否かを確認する(S18)。警報停止条件が満たされておらず(S18においてNO)、このため、警報制御部15が警報装置22に警報を連続的に出力させている場合、送信制御部16は、警報継続期間S2が所定の閾値E2以上になるか否かを判定する(S19)。警報継続期間S2が閾値E2以上になる場合、(S19においてYES)、送信制御部16は、送信装置23に、車両1の管理会社へ、運転者が異常状態にあることを示す情報を送信させる(S20)。
【0037】
警報制御部15は、S18において所定の警報停止条件が満たされた場合、送信装置23に警報を出力させることを停止する(S21)。
【0038】
[本実施形態による状態判定装置10の効果]
本実施形態によれば、状態判定装置10の判定部13は、撮像装置21が撮像した画像における運転者の頭部31が所定の第1基準範囲R1に入っていないかどうかに基づいて、運転者の状態を判定する。このようにすることにより、運転者の顔の特徴を検出することが困難な場合であっても、運転者の状態を判定することができる。
【0039】
また、本実施形態によれば、状態判定装置10の警報制御部15は、所定の判定期間T1において判定部13が運転者の状態を異常状態と判定した期間の積算値S1が所定の閾値E1以上である場合に、警報装置22に警報を出力させる。このようにすることにより、頭部31が一時的に第1基準範囲R1から出ただけで警報が出力されることを防止できる。
【0040】
また、本実施形態によれば、状態判定装置10の基準生成部14は、運転者の状態が異常であるか否かを判定部13が判定する前の所定のキャリブレーション期間内に画像取得部11が取得した画像における運転者の頭部31が位置する範囲に基づいて、第1基準範囲R1を生成する。このようにすることにより、運転者の体形の個人差などに依らず、運転者の状態を精度良く判定することができる。
【0041】
また、本実施形態によれば、状態判定装置10の判定部13は、車両1の走行時のキャリブレーション期間内に基準生成部14が生成した第1基準範囲R1に基づいて、車両1の走行時の運転者の状態を判定する。このようにすることにより、車両1の走行時に運転者の状態を精度良く判定することができる。
【0042】
また、本実施形態によれば、状態判定装置10の特定部12は、運転者の頭部31が撮像装置21の撮影範囲から逸脱していることなどに起因して画像における運転者の頭部31を特定できない場合に、頭部31を特定不能であることを示すロスト情報を生成する。また、判定部13は、ロスト情報が特定部12から入力されている場合、運転者の状態を異常状態と判定する。このようにすることにより、ロスト情報を利用して運転者の状態を判定することができる。
【0043】
<第2の実施形態>
第1の実施形態に係る状態判定装置10は、車両1の走行時に撮像装置21が撮像した画像における運転者の頭部31に関する情報に基づいて、車両1の走行時における運転者の状態を判定した。これに対して、第2の実施形態に係る状態判定装置10は、車両1の走行時及び停止時に撮像装置21が撮像した画像における運転者の頭部31に関する情報に基づいて、車両1の走行時及び停止時における運転者の状態を判定する。以下の説明では、第1の実施形態の場合と同一の構成要素については、説明を省略する。
【0044】
車両1の停止時、運転者は、オーディオ機器の操作など、車両1の運転操作以外の様々な操作を行う。このため、車両1の走行時に比べて、撮像装置21が撮像した画像において、運転者の頭部31が様々な位置に存在しうる。従って、仮に状態判定装置10の判定部13が、車両1の停止時の画像における運転者の頭部31と、車両1の走行時のキャリブレーション期間内に基準生成部14が生成した第1基準範囲R1とを比較して、車両1の停止時における運転者の状態を判定すると、判定部13は、問題の無い動作をしている運転者の状態を異常状態と判定することがある。この点を考慮し、本実施形態による判定部13は、車両1の停止時には、車両1の停止時の所定のキャリブレーション期間内に基準生成部14が生成した第2基準範囲を用いて、運転者の状態を判定する。
【0045】
図4は、本実施形態に係る状態判定装置10の基準生成部14が、判定部13が車両1の停止時に用いる第2基準範囲R2を生成する方法の一例を示す図である。基準生成部14は、
図4(a)に示すように、車両1の停止時の所定のキャリブレーション期間内に画像取得部11が取得した複数の画像における運転者の頭部31の位置を、メモリに記憶させる。続いて、基準生成部14は、
図4(b)に示すように、キャリブレーション期間が終了した後に、メモリに記憶させた複数の頭部31を包含する第2基準範囲R2を生成する。キャリブレーション期間は、判定部13が、運転者の状態が異常であるか否かの判定を開始する前の所定の期間である。例えば、キャリブレーション期間は、車両1が走行を開始した後に、信号待ちなどの理由で車両1が停止している期間であって、車両1が停止している期間の積算値が所定の時間(例えば3分間)になるまでの期間である。
【0046】
本実施形態において、状態判定装置10は、車両1の走行時に画像取得部11が取得した画像における運転者の頭部31が、車両1の走行時の所定のキャリブレーション期間内に基準生成部14が生成した第1基準範囲R1に入っていない場合に、運転者の状態を異常状態と判定する。また、状態判定装置10は、車両1の停止時に画像取得部11が取得した画像における運転者の頭部31が、車両1の停止時の所定のキャリブレーション期間内に基準生成部14が生成した第2基準範囲R2に入っていない場合に、運転者の状態を異常状態と判定する。また、判定部13は、車両1の走行時及び停止時のいずれにおいても、ロスト情報が特定部12から入力されている場合、画像における頭部31が基準範囲に入っていないとみなして、運転者の状態を異常状態と判定する。
【0047】
[本実施形態による状態判定装置10の効果]
本実施形態によれば、判定部13は、車両1の走行時には、車両1の走行時に基準生成部14が生成した第1基準範囲R1に基づいて運転者の状態を判定し、車両1の停止時には、車両1の停止時に基準生成部14が生成した第2基準範囲R2に基づいて運転者の状態を判定する。このようにすることにより、車両1の走行時及び停止時のいずれにおいても、運転者の状態を精度良く判定することができる。
【0048】
<第3の実施形態>
第1の実施形態に係る状態判定装置10は、車両1の走行時に撮像装置21が撮像した画像における運転者の頭部31が所定の第1基準範囲R1に入っていないかどうかに基づいて、運転者の状態を判定した。これに対して、第3の実施形態に係る状態判定装置10は、車両1の走行時に撮像装置21が撮像した画像における運転者の頭部31の面積が所定の基準範囲に入っているかどうかに基づいて、運転者の状態を判定する。以下の説明では、第1の実施形態の場合と同一の構成要素については、説明を省略する。
【0049】
図5は、撮像装置21の撮影範囲L1に占める運転者の頭部31の範囲L2の比率と、運転者の姿勢との関係を示す図である。
図5(a)は、運転者が、上半身が運転席30に沿って延びる正常姿勢をとる場合を示す図である。
図5(b)は、運転者が、正常姿勢に比べて後方に傾いた後傾姿勢をとる場合を示す図である。
図5(c)は、運転者が、正常姿勢に比べて前方に傾いた前傾姿勢をとる場合を示す図である。
【0050】
運転者が後傾姿勢をとる場合、正常姿勢の場合に比べて頭部31が撮像装置21から遠ざかり、撮影範囲L1に占める運転者の頭部31の範囲L2の比率が低くなる。この結果、撮像装置21が撮像した画像における頭部31の面積が小さくなる。一方、運転者が前傾姿勢をとる場合、正常姿勢の場合に比べて頭部31が撮像装置21に近づき、撮影範囲L1に占める運転者の頭部31の範囲L2の比率が高くなる。この結果、撮像装置21が撮像した画像における頭部31の面積が大きくなる。
【0051】
上記の性質を利用して運転者の状態を判定するために、本実施形態に係る特定部12は、画像取得部11が取得した画像における運転者の頭部31の面積を特定する。特定部12は、特定した頭部31の面積に関する情報を、判定部13に入力する。また、特定部12は、画像における運転者の頭部31の面積を特定できない場合、頭部31の面積を特定不能状態であることを示すロスト情報を生成して判定部13に入力する。
【0052】
また、基準生成部14は、運転者が正常な状態における頭部31の面積が含まれる基準範囲を示す情報(以下、基準範囲情報という)を生成する。基準生成部14は、例えば以下の手順により基準範囲情報を生成する。まず、基準生成部14は、車両1の走行時の所定のキャリブレーション期間内に画像取得部11が取得した複数の画像における運転者の頭部31の面積を、メモリに記憶させる。続いて、基準生成部14は、キャリブレーション期間が終了した後に、メモリに記憶させた複数の頭部31の面積の平均値よりも所定の比率だけ小さい第1基準面積及び所定の比率だけ大きい第2基準面積を、基準範囲情報として算出する。
【0053】
また、判定部13は、画像における頭部31の面積が基準範囲に入っているかどうかに基づいて、運転者の姿勢を推測する。具体的には、判定部13は、頭部31の面積が第1基準面積よりも大きく且つ第2基準面積よりも小さい場合は、運転者が正常姿勢であると推測する。判定部13は、頭部31の面積が第1基準面積以下である場合は、運転者が後傾姿勢であると推測する。判定部13は、頭部31の面積が第2基準面積以上である場合は、運転者が前傾姿勢であると推測する。
【0054】
また、判定部13は、推測した運転者の姿勢に基づいて、運転者の状態を判定する。運転者は、例えば健康が悪化した状態の時に、後傾姿勢をとる。また、運転者は、例えば緊張状態にある時に、前傾姿勢をとる。状態判定装置10は、運転者の姿勢と運転者の状態との間のこのような関係を利用して、運転者の状態を判定する。具体的には、判定部13は、運転者の姿勢が後傾姿勢又は前傾姿勢であると推測される場合、運転者の状態を異常状態と判定する。
【0055】
[本実施形態による状態判定装置10の効果]
本実施形態によれば、状態判定装置10は、撮像装置21が撮像した画像における運転者の頭部31の面積が所定の基準範囲に入っているかどうかに基づいて、運転者の状態を判定する。このようにすることにより、運転者の顔の特徴を検出することが困難な場合であっても、運転者の状態を判定することができる。
【0056】
[変形例]
状態判定装置10は、第1の実施形態における、画像における運転者の頭部31が所定の第1基準範囲R1に入っていないかどうかに基づいて運転者の状態を判定する方法、及び、第3の実施形態における、画像における運転者の頭部31の面積が所定の基準範囲に入っているかどうかに基づいて運転者の状態を判定する方法を組み合わせて用いて、運転者の状態を判定してもよい。
【0057】
例えば、状態判定装置10の判定部13は、画像取得部11が取得した画像における頭部31が第1基準範囲R1に入っていないかどうかを判定する。また、判定部13は、画像取得部11が取得した画像における頭部31の面積が第1基準面積以下であるかどうかを判定する。続いて、判定部13は、画像における頭部31が第1基準範囲R1に入っていない場合、又は、画像における頭部31の面積が第1基準面積以下である場合、運転者の状態を異常状態と判定する。このようにすることにより、状態判定装置10は、異常状態にある運転者をより確実に検出することができる。
【0058】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。そのような変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。