(58)【調査した分野】(Int.Cl.,DB名)
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、運転者の顔をカメラで撮影する場合、顔向きの角度が過大である場合、光量が不足している場合、光量が多過ぎる場合、運転者がサングラスをかけている場合等のさまざまな状況下において、運転者の顔を高精度で認識できないという問題が生じていた。そこで、運転者の顔をカメラで良好に撮影できない状況下においても、運転者の顔の向きを高精度で特定する方法が求められていた。
【0005】
そこで、本発明はこれらの点に鑑みてなされたものであり、運転者の顔の向きの特定精度を向上させることができる顔向き特定装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の第1の態様においては、運転者の顔と、運転者が頭部に装着している装着部材に設けられた発光部とを撮影することにより生成された撮像画像を取得する画像取得部と、前記撮像画像に基づいて運転手の顔の特徴を特定する特徴特定部と、前記撮像画像に基づいて前記発光部の位置を特定する位置特定部と、前記位置特定部が特定した前記発光部の位置に基づいて前記発光部の向きを特定し、前記特徴特定部が特定した運転手の顔の特徴と前記発光部の向きとに基づいて前記運転者の顔の向きを特定する顔向き特定部と、を有する、顔向き特定装置を提供する。
【0007】
前記顔向き特定装置は、前記発光部の向きと前記顔の向きとの関係を示す関係情報を記憶した記憶部をさらに有し、前記顔向き特定部は、前記特徴特定部が前記顔の特徴を特定した結果の精度が所定のレベルより低い場合に、前記発光部の向きに関連付けて前記記憶部に記憶された前記顔の向きを参照することにより、前記顔の向きを特定してもよい。
【0008】
前記顔向き特定部は、所定のタイミングにおいて、前記特徴特定部が特定した前記顔の特徴に基づく前記顔の向きと前記発光部の向きとの関係を示す関係情報を前記記憶部に記録するか否か判定してもよい。
【0009】
前記顔向き特定部は、前記特徴特定部が前記顔の特徴を特定した精度が所定の条件を満たす場合に、前記関係情報を前記記憶部に記録してもよい。
【0010】
前記顔向き特定部は、前記特徴特定部が特定した前記顔の特徴に基づく前記顔の向きと前記発光部の向きとの関係が変化してから所定の時間が経過した後に、前記関係情報の記録を再開してもよい。
【0011】
前記顔向き特定部は、前記特徴特定部が前記顔の特徴を特定した精度に基づいて、前記顔の向きの特定に用いる前記顔の特徴の重み及び前記発光部の向きの重みを決定してもよい。
【0012】
本発明の第2の態様においては、コンピュータが実行する、運転者の顔と、運転者が頭部に装着している装着部材に設けられた発光部とを撮影することにより生成された撮像画像を取得するステップと、前記撮像画像に基づいて運転手の顔の特徴を特定するステップと、前記撮像画像に基づいて前記発光部の位置を特定するステップと、前記発光部の位置に基づいて前記発光部の向きを特定し、運転手の顔の特徴を特定した結果と、特定した前記発光部の向きとに基づいて、前記運転者の顔の向きを特定するステップと、を有する、顔向き特定方法を提供する。
【発明の効果】
【0013】
本発明によれば、運転者の顔の向きの特定精度を向上させることができるという効果を奏する。
【発明を実施するための形態】
【0015】
<実施形態>
[顔向き特定装置1の概要]
図1は、本実施形態に係る顔向き特定装置1の概要について説明するための図である。顔向き特定装置1は、車両の運転席に設置されたカメラ2が撮影した撮像画像に基づいて、運転者の顔の向きを特定する。運転者の頭部には、発光素子または光を反射するミラー等から構成される発光部3が設けられた装着部材Aが装着されている。発光素子は、例えば、電源とつながれたLED(Light Emitting Diode)素子である。装着部材Aは、例えば、つば付き帽子又はつば付き帽子型サンバイザであるが、つばがない帽子や鉢巻状の部材であってもよい。
【0016】
顔向き特定装置1は、撮像画像に基づいて、運転者の顔の特徴を認識することにより顔の向きを特定する。顔向き特定装置1は、強い光が入射した場合または光が不足している場合等のように、顔の特徴を特定できない場合に、装着部材Aに設けられた発光部3の向きに基づいて、運転者の顔の向きを特定する。
【0017】
発光部3の向きは、発光部3を構成する1つ以上の発光素子又は光を反射するミラーのそれぞれの位置によって特定される。上記1つ以上の発光素子又は光を反射するミラーのそれぞれの位置を発光部3の位置としたとき、発光部3の位置と発光部3の向きとは1対1に対応する。なお、発光部3の向きと装着部材Aの向きとは、同一の向きである。
【0018】
顔向き特定装置1は、運転者の顔の向きが、所定の時間にわたって所定の範囲外である場合に、警報情報を外部に出力する。警報情報は、例えばECU(Electronic Control Unit)に通知され、ECUは、警報音を鳴動させるように制御したり、車両を停止させたりする。なお、
図1では、顔向き特定装置1とカメラ2とが有線で接続されているが、顔向き特定装置1とカメラ2とは無線で接続されていてもよい。
【0019】
[顔向き特定装置1の構成]
以下に、実施形態に係る顔向き特定装置1の構成を具体的に説明する。
図2は、実施形態に係る顔向き特定装置1の構成を示す図である。
図2に示すように、顔向き特定装置1は、制御部11と記憶部12とを有する。記憶部12は、ROM(Read Only Memory)、RAM(Random Access Memory)及びハードディスク等の記憶媒体である。記憶部12は、制御部11が実行するプログラム、及び発光部3の向きと運転者の顔の向きとの関係を示す関係情報等のデータを記憶する。
【0020】
制御部11は、例えばCPU(Central Processing Unit)である。制御部11は、記憶部12に記憶されたプログラムを実行することにより、画像取得部111、特徴特定部112、位置特定部113および顔向き特定部114として機能する。
【0021】
画像取得部111は、カメラ2によって生成された運転者の撮像画像を取得し、特徴特定部112および位置特定部113へ撮像画像の信号を送信する。
【0022】
特徴特定部112は、受信した運転者の撮像画像に基づいて運転者の顔の特徴を特定する。特徴特定部112は、例えば、運転者の目および鼻の位置を特定する。特徴特定部112が特定する対象の数は任意に設定することができる。特徴特定部112は、撮像画像における、特定した目および鼻の位置を示す座標を含む特徴情報を顔向き特定部114に送信する。
【0023】
特徴特定部112は、運転者の顔の特徴を完全に特定できるとは限らず、強い外光が顔に当たっている状態又は暗過ぎる状態で撮像画像が生成された場合、及び顔の向きが適切でない場合等には、特定の精度が不十分であることもある。そこで、特徴特定部112は、顔の特徴の特定精度を示す情報を、特徴情報とともに顔向き特定部114に送信する。特徴特定部112は、例えば、特定する特徴の数に対する特定できた特徴の数の割合を、精度を示す情報として顔向き特定部114に送信する。
【0024】
位置特定部113は、受信した撮像画像に基づいて発光部3の位置を特定し、特定した発光部3の位置を顔向き特定部114に送信する。運転者が頭部に装着している装着部材Aには、発光素子が1つ以上設けられており、位置特定部113は、上記1つ以上の発光素子の位置を特定する。外光の照射が強く、特徴特定部112が運転者の顔の特徴を特定しづらい場合であっても、位置特定部113は、発光部3の位置を特定できる。
【0025】
なお、運転者が装着部材Aを装着する位置が不適切であっても、撮像画像に写っている発光素子の数及び位置に基づいて装着部材Aの向きを特定しやすくするために、装着部材Aには、複数の発光素子が広い範囲に設けられていることが好ましい。この際、装着部材Aの向きを特定しやすくするために、装着部材Aの右側に設けられた発光素子の数と、左側に設けられた発光素子の数とが異なることが好ましい。
【0026】
顔向き特定部114は、特徴特定部112が特定した顔の特徴の精度が所定の値よりも高い場合、特徴特定部112が特定した運転者の顔の特徴および顔の特徴の位置座標に基づいて運転者の顔の向きを特定する。
【0027】
また、顔向き特定部114は、特徴特定部112が特定した顔の特徴の精度が所定の値よりも高い場合、位置特定部113が特定した発光部3の位置に基づいて発光部3の向きも特定し、発光部3の向きと運転者の顔の向きとの関係を示す関係情報を記憶部12に記録することによりキャリブレーションをする。関係情報は、顔向き特定部114が同一の撮像画像から特定した顔の向きと発光部3の向きとの関係を含む。
【0028】
顔の向きは、例えば、車両の進行方向に対する角度で表される。本実施形態においては、運転者が車両の進行方向を向いている場合の顔の向きを0度とし、右側を向いている場合の顔の向きを+n度(nは、1から90までの自然数)、左側を向いている場合の顔の向きを−n度とする。
【0029】
発光部3の向きは、例えば、車両の進行方向に対する角度で表される。発光部3が車両の進行方向を向いている場合の発光部3の向きを0度とし、右側を向いている場合の発光部3の向きを+n度(nは、1から90までの自然数)、左側を向いている場合の発光部3の向きを−n度とする。
【0030】
ここで、運転者は、装着している装着部材Aの位置が意図せず大きく変化した場合、すぐに装着部材Aの向きを正面へ戻す可能性がある。運転者が装着部材Aの位置が大きく変化してから装着部材Aを正しい位置へ戻すまでの間に顔向き特定部114が記録した関係情報は、顔の向きを特定するのに不適切な情報である可能性が高い。
【0031】
そこで、顔向き特定部114は、運転者の顔の向きに対する発光部3の向きが所定の値から変化した場合、関係情報の記録を停止し、所定の時間が経過した後に、運転者の顔の向きに対する発光部3の向きが同じ値であることを条件として、関係情報の記録を再開(または更新)してもよい。このようにすることで、顔向き特定部114は、装着部材Aの位置が一時的に変化した状態の関係情報が用いられないので、誤判定の確率を下げることができる。
【0032】
顔向き特定部114は、特徴特定部112が特定した顔の特徴の精度が所定の値よりも低い場合、発光部3の向きと記憶部12に記録された関係情報とに基づいて運転者の顔の向きを特定する。
【0033】
図3は、記憶部12が記憶している関係情報の例を示す表である。
図3に示す表の第1列目C1にはアドレスが記載され、第2列目C2には記録時刻が記載され、第3列目C3には顔の向きが記載され、第4列目C4には発光部3の向きが記載されている。関係情報は、記憶部12における書き換え可能なRAMに記憶されている。アドレスは、RAMのアドレスを示す。記録時刻は、顔向き特定部114が顔の向きと発光部3の向きとを記憶部12に書き込んだ時刻である。
【0034】
図3では、運転者は経時的に顔の向きを変えていることがわかる。
図3では、例えば、アドレス2番において、10:56に運転者が真正面を向き、装着部材Aは正面から左向きに10度の向きに装着されていたことが記録されている。アドレス3番において、顔の向きと装着部材Aの向きとの角度が20度になっていることから、10:56から10:57の間に、運転者が装着部材Aの位置を変えたこともわかる。また、
図3では、顔向き特定部114が1分おきに関係情報を記録しているが、10:55の関係情報は、顔の特徴の特定精度が不十分であったために記録されていない。なお、
図3において、顔向き特定部114は1分おきに関係情報を記録しているが、関係情報の記録間隔は任意の間隔でよい。
【0035】
[顔の向きを特定する処理の例]
続いて、
図4および
図5を参照しながら、特徴特定部112が顔の特徴を特定した結果の精度が所定のレベルより低い場合に、顔向き特定部114が関係情報に基づいて運転者の顔の向きを特定する方法を具体的に説明する。
図4及び
図5は、顔向き特定部114が顔の向きを特定する方法について説明するための図である。ここでは、顔向き特定部114が顔の向きを特定するために参照する関係情報を基準情報と称する。基準情報とは、顔向き特定部114が顔の向きを特定する時刻に最も近い時刻の関係情報である。
【0036】
図4は、発光部3の向きと運転者の顔の向きが同時に0度であった場合の関係情報を基準情報(a)として、顔向き特定部114が運転者の顔の向きを特定した結果(b)、(c)、(d)を示した図である。基準情報(a)では、特徴特定部112が運転者の顔の特徴を精度よく特定できているため、特定した顔の部位が顔に描かれている。また、特定結果(b)、(c)、(d)では、特徴特定部112が運転者の顔の特徴を精度よく特定できていないため、顔の部位が顔に描かれていない。
【0037】
特定結果(b)では、発光素子3a〜3fにより構成される発光部3が正面を向いている様子が描かれている。基準情報では、発光部3の向きと運転者の顔の向きとは一致しているため、顔向き特定部114は、発光部3の向きに基づいて運転者の顔の向きは0度であると特定している。
【0038】
特定結果(c)では、発光部3が正面から右に90度向きを変え、発光素子3c、3dが隠れている様子が描かれている。基準情報では、発光部3の向きと運転者の顔の向きとは一致しているため、顔向き特定部114は、発光部3の向きに基づいて運転者の顔の向きは90度であると特定している。
【0039】
特定結果(d)では、発光部3が正面から左に45度向きを変え、発光素子3e、3fが隠れている様子が描かれている。基準情報では、発光部3の向きと運転者の顔の向きとは一致しているため、顔向き特定部114は、発光部3の向きに基づいて運転者の顔の向きは−45度であると特定している。
【0040】
図5は、発光部3の向きが45度であり、運転者の顔向きが0度であった場合の関係情報を基準情報(a)として、顔向き特定部114が運転者の顔の向きを特定した結果(b)、(c)、(d)を示した図である。基準情報(a)では、特徴特定部112が運転者の顔の特徴を精度よく特定できているため、特定した顔の部位が顔に描かれている。また、特定結果(b)、(c)、(d)では、特徴特定部112が運転者の顔の特徴を精度よく特定できていないため、顔の部位が顔に描かれていない。
【0041】
特定結果(b)では、発光素子3a〜3fにより構成される発光部3が正面を向いている様子が描かれている。基準情報では、発光部3の向きと運転者の顔の向きとが互いに45度ずれているため、顔向き特定部114は、発光部3の向きに基づいて運転者の顔の向きは−45度であると特定している。
【0042】
特定結果(c)では、発光部3が正面から右に90度向きを変え、発光素子3c、3dが隠れている様子が描かれている。基準情報では、発光部3の向きと運転者の顔向きとは互いに一致しているため、顔向き特定部114は、発光部3の向きに基づいて運転者の顔の向きは45度であると特定している。
【0043】
特定結果(d)では、発光部3が正面から左に45度向きを変え、発光素子3e、3fが隠れている様子が描かれている。基準情報では、発光部3の向きと運転者の顔向きとは一致しているため、顔向き特定部114は、発光部3の向きに基づいて運転者の顔の向きは−90度であると特定している。
【0044】
[顔向き特定装置1の動作フローチャート]
図6は、顔向き特定装置1が行う信号処理の流れを示すフローチャートである。先ず、画像取得部111はカメラ2から撮像画像を取得する(S1)。続いて、特徴特定部112は、顔向き特定装置1は取得した撮像画像に基づいて、運転者の顔の特徴を精度よく特定できるか否かを判定する(S2)。
【0045】
特徴特定部112が、運転者の顔の特徴を精度よく特定できると判定し(S2においてYES)、顔向き特定部114が、前回の関係情報記録時から所定時間が経過していると判定した場合(S3においてYES)、顔向き特定部114は、顔の向きと発光部3の向きとの関係を記憶部12に記録する(S4)。特徴特定部112が、運転者の顔の特徴を精度よく特定できると判定し(S2においてYES)、顔向き特定部114が、前回の関係情報記録時より所定時間が経過していないと判定した場合(S3においてNO)、制御部11は、所定時間が経過するまで待機する。
【0046】
特徴特定部112が、運転者の顔の特徴を精度よく特定できないと判定した場合(S2においてNO)、顔向き特定部114は、発光部3の位置を特定し(S5)、続いて運転者の顔の向きを特定する(S6)。顔向き特定部114は、運転者の顔の向きが所定の正常範囲内であれば(S7においてYES)、運転者が運転する車のエンジンが停止しているか否かを判定する(S9)。顔向き特定部114は、運転者の顔の向きが所定の正常範囲外であれば(S7においてNO)、警報を出力後(S8)、運転者が運転する車のエンジンが停止しているか否かを判定する(S9)。制御部11は、車のエンジンが停止している場合(S9においてYES)、顔の向きを特定する処理を終了する。制御部11は、車のエンジンが停止していない場合(S9においてNO)、ステップS1に戻って、ステップS1からステップS9までの処理を行う。
【0047】
[変形例1]
顔向き特定装置1において、顔向き特定部114は、特徴特定部112が顔の特徴を特定できた場合に、顔の特徴から特定する顔の向きと発光部3の位置から特定する顔の向きとを重み付けして顔の向きを特定してもよい。顔向き特定部114は、例えば、特徴特定部112が顔の特徴を特定した精度に基づいて重み付けを行う。
【0048】
例えば、顔向き特定部114は、特徴特定部112が検出すべき項目のうち、実際に検出できた項目の数に基づいて重み付けを決定する。このようにすることで、特徴特定部112が顔の特徴を特定した際の精度が十分に高くない場合であっても、発光部3の位置を併用することにより、顔向き特定部114が顔の向きを特定する精度を十分なレベルにすることができる。
【0049】
[変形例2]
上記の説明において、顔向き特定部114は、特徴特定部112が顔の特徴を特定できた場合に関係情報を記憶部12に記録するものとした。この際、顔向き特定部114は、特徴特定部112が顔の特徴を特定できた時の発光部3の向きが、特徴特定部112が特定した顔の向きに対して所定の範囲内にあることを条件として、関係情報を記憶部12に記録してもよい。また、発光部3の向きが、顔の向きに対して所定の範囲内に入っていない場合、顔向き特定部114は、装着部材Aを正しく装着することを促す警告情報を運転者に通知してもよい。このようにすることで、運転者が装着部材Aを適切に装着していなかったり、装着部材Aを取り外していたりする状態が長く継続しないようにすることができる。
【0050】
[本実施形態の効果]
上述した顔向き特定装置1によれば、運転者の顔の特徴と発光部3の位置との双方に基づいて顔の向きを特定できる。例えば、顔向き特定部114は、特徴特定部112が顔の特徴を特定した結果の精度が所定のレベルより低い場合に、位置特定部113が特定した発光部3の向きに関連付けて記憶部12に記憶された顔の向きを参照することにより、顔の向きを特定する。従って、特徴特定部112が運転者の顔の特徴を特定できない状態であっても、発光部3の向きに基づいて運転者の顔の特徴を特定できるので、顔向き特定装置1は、顔の特徴と発光部3の位置のどちらか一方のみに基づいて顔の向きを特定するよりも精度よく顔の向きを特定できる。
【0051】
また、顔向き特定装置1は、特徴特定部112が顔の特徴を特定した精度が所定の条件を満たす場合に、関係情報を記憶部12に記録する。このように顔の向きに対する相対的な発光部3の向きが記憶部12に記録されているため、顔向き特定装置1は、発光部3の向きのみしか特定できない場合でも運転者の顔の向きを特定できる。
【0052】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。そのような変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。