(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-04-15
(45)【発行日】2024-04-23
(54)【発明の名称】視点位置検出システム
(51)【国際特許分類】
G06T 7/00 20170101AFI20240416BHJP
B60K 35/235 20240101ALI20240416BHJP
G02B 27/01 20060101ALI20240416BHJP
G06F 3/0346 20130101ALI20240416BHJP
G06F 3/038 20130101ALI20240416BHJP
G06T 5/94 20240101ALI20240416BHJP
H04N 1/407 20060101ALI20240416BHJP
【FI】
G06T7/00 660A
B60K35/235
G02B27/01
G06F3/0346 423
G06F3/038 310A
G06T5/94
G06T7/00 650Z
H04N1/407
(21)【出願番号】P 2020128797
(22)【出願日】2020-07-30
【審査請求日】2023-05-19
(73)【特許権者】
【識別番号】000231512
【氏名又は名称】日本精機株式会社
(72)【発明者】
【氏名】濱田 一成
【審査官】新井 則和
(56)【参考文献】
【文献】特開2011-164711(JP,A)
【文献】特開2013-065119(JP,A)
【文献】特開2007-025935(JP,A)
【文献】特開2018-117288(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00
B60K 35/235
G02B 27/01
G06T 5/94
H04N 1/407
G06F 3/038
G06F 3/0346
(57)【特許請求の範囲】
【請求項1】
車両の利用者に投影された赤外光により前記利用者を撮像する撮像手段と、
前記撮像手段の撮像画像における階調差に基づいて、前記利用者の特徴点の位置を検出する特徴点検出手段と、
前記特徴点検出手段により検出された特徴点に基づいて、前記撮像画像における前記利用者の左右の目の位置を検出し、検出された左右の目の位置に基づいて、前記利用者の視点位置を検出する視点位置検出手段とを備え、
前記特徴点検出手段は、前記特徴点の位置の検出が困難で前記視点位置検出手段による前記左右の目の一方の位置の検出が困難な場合に、前記撮像画像のガンマ値を調整したガンマ補正画像を生成し、前記ガンマ補正画像における階調差に基づいて、前記特徴点の位置を検出することを特徴とする視点位置検出システム。
【請求項2】
前記特徴点検出手段は、前記特徴点の位置の検出が困難で前記視点位置検出手段による前記左右の目の一方の位置の検出が困難な場合に、前記撮像画像のうち位置の検出が困難な特徴点を含む領域のガンマ値を調整して前記ガンマ補正画像を生成することを特徴とする請求項1に記載の視点位置検出システム。
【請求項3】
前記特徴点検出手段は、前記撮像画像のガンマ値がαの場合に、前記撮像画像の入力が所定の閾値未満の範囲でガンマ値をαよりも大きくなるように調整して前記ガンマ補正画像を生成することを特徴とする請求項1又は請求項2に記載の視点位置検出システム。
【請求項4】
前記特徴点検出手段は、前記撮像画像のガンマ値がαの場合に、前記撮像画像の入力が前記閾値以上の範囲でガンマ値をαよりも小さくなるように調整して前記ガンマ補正画像を生成することを特徴とする請求項3に記載の視点位置検出システム。
【請求項5】
前記特徴点検出手段は、前記特徴点の位置の検出が困難で前記視点位置検出手段による前記左右の目の両方の位置の検出が困難な場合に、前記ガンマ補正画像を生成しないことを特徴とする請求項1乃至請求項4のいずれか1項に記載の視点位置検出システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両のフロントウインドシールドやコンバイナに虚像を表示するヘッドアップディスプレイ装置等に用いられ、車両の運転者等の利用者の視点の位置を検出する視点位置検出システムに関する。
【背景技術】
【0002】
車両のフロントウインドシールドやコンバイナ等の反射透光部材を透過する実景(車両前方の風景)に重ねて、その反射透光部材に反射された表示光により虚像を生成して表示するヘッドアップディスプレイ装置は、車両の運転者等の利用者の視線移動を極力抑えつつ、利用者が所望する情報を虚像により提供することによって、安全で快適な車両運行に寄与する。
【0003】
また、ヘッドアップディスプレイ装置には、利用者に赤外光を照射して利用者を撮像し、その撮像画像に基づいて利用者の目等の位置(視点位置)を検出することにより、脇見や居眠り等の利用者の状態把握に供するものがある。
【0004】
例えば特許文献1に記載のヘッドアップディスプレイ装置は、表示手段から発せられる可視光をコンバイナ部材にて利用者に向けて反射して表示像を結像してなるもので、利用者に向けて赤外線を照射する赤外線照射手段と、表示手段から発せられる可視光をコンバイナ部材に向けて反射し、利用者及びコンバイナ部材にて反射される赤外線を透過するミラー部材と、ミラー部材を透過する赤外線を感受して利用者をそれぞれ異なる方向から撮像する複数の撮像手段と、撮像手段によって撮像された画像に基づいて利用者の目の位置を算出する画像処理手段とを備え、利用者の目の位置を精度良く算出することが可能となっている。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、このようなヘッドアップディスプレイ装置に用いられる視点検出システムでは、撮像画像(撮像画像データ)における階調差(コントラスト)に基づいて利用者の特徴点(目そのものを特徴点としてもよいが、顔の輪郭や耳、鼻尖、眉、顎その他を特徴点とすることもある。)の位置を検出することにより、利用者の左右の目の位置を検出し、その視点位置を検出するが、太陽光や街灯の光等の強い外光が撮像手段に入射すると、あるいは、撮像手段において強い外光に合わせて露出が調整された結果として、撮像画像における利用者の顔の一部が明るくなりすぎたり(露出オーバー)、暗くなりすぎたりすることがある(露出アンダー)。そうすると、特徴点を検出するための十分な階調差が得られず、視点を検出することができなくなるという問題があった。
【0007】
本発明は、上記の事情に鑑みてなされたもので、撮像画像における階調差が十分でない場合も利用者の視点位置を検出することができる視点検出システムを提供することを課題としている。
【課題を解決するための手段】
【0008】
上記課題を解決するために、本発明に係る視点検出システムは、車両の利用者に投影された赤外光により前記利用者を撮像する撮像手段と、前記撮像手段の撮像画像における階調差に基づいて、前記利用者の特徴点の位置を検出する特徴点検出手段と、前記特徴点検出手段により検出された特徴点に基づいて、前記撮像画像における前記利用者の左右の目の位置を検出し、検出された左右の目の位置に基づいて、前記利用者の視点位置を検出する視点位置検出手段とを備え、前記特徴点検出手段は、前記特徴点の位置の検出が困難で前記視点位置検出手段による前記左右の目の一方の位置の検出が困難な場合に、前記撮像画像のガンマ値を調整したガンマ補正画像を生成し、前記ガンマ補正画像における階調差に基づいて、前記特徴点の位置を検出することを特徴とする。
【0009】
前記特徴点検出手段は、前記特徴点の位置の検出が困難で前記視点位置検出手段による前記左右の目の一方の位置の検出が困難な場合に、前記撮像画像のうち位置の検出が困難な特徴点を含む領域のガンマ値を調整して前記ガンマ補正画像を生成してもよい。
【0010】
例えば、前記特徴点検出手段は、前記撮像画像のガンマ値がαの場合に、前記撮像画像の入力が所定の閾値未満の範囲でガンマ値をαよりも大きくなるように調整して前記ガンマ補正画像を生成してもよく、さらに、前記撮像画像の入力が前記閾値以上の範囲でガンマ値をαよりも小さくなるように調整して前記ガンマ補正画像を生成してもよい。
【0011】
また、前記特徴点検出手段は、前記特徴点の位置の検出が困難で前記視点位置検出手段による前記左右の目の両方の位置の検出が困難な場合に、前記ガンマ補正画像を生成しなくてもよい。
【発明の効果】
【0012】
本発明に係る視点検出システムによれば、撮像画像における階調差が十分でない場合も利用者の視点位置を検出することができる。
【図面の簡単な説明】
【0013】
【
図1】発明を実施するための形態に係る視点検出システムが適用されたヘッドアップディスプレイ装置を示す説明図である。
【
図2】
図1のヘッドアップディスプレイ装置による運転者の撮像画像を特徴点とともに示す説明図である。
【
図3】
図1のヘッドアップディスプレイ装置に外光が侵入する様子を示す説明図である。
【
図4】外光により特徴点の検出が困難な撮像画像を特徴点とともに示す説明図である。
【
図5】
図4の撮像画像のガンマ値を調整したガンマ補正画像を特徴点とともに示す説明図である。
【
図6】ガンマ補正画像の生成方法の例を示す説明図である。
【
図7】ガンマ補正画像の生成方法の他の例を示す説明図である。
【
図8】ガンマ補正画像の生成方法のさらに他の例を示す説明図である。
【発明を実施するための形態】
【0014】
本発明を実施するための形態について、図面に基づいて説明する。
【0015】
図1に示すように、本実施の形態に係る視点検出システムが適用されたヘッドアップディスプレイ装置(HUD)1は、車両のフロントウインドシールド2の下方に設けられ、フロントウインドシールド2の一部に可視光である表示光L
1を投影する。表示光L
1は、フロントウインドシールド2に反射されて虚像Vを生成し、車両の運転者Dにフロントウインドシールド2を透過する実景に重ねて虚像Vを視認させる。
【0016】
また、HUD1は、視点検出システムにより運転者Dの状態をモニターするDMS(ドライバーモニタリングシステム)の機能を持ち、運転者Dに赤外光L2を投影して運転者Dを撮像し、撮像画像に基づいて運転者Dの視点の位置を検出可能である。
【0017】
詳細には、HUD1は、黒色のABS樹脂等により成形されて外光の侵入が防止された筐体3に覆われて外部と区画され、筐体3には図示を略すポリカーボネート等の透明な樹脂で覆われた開口部(透光部)4が形成されている。筐体3の内部には、表示ユニット5と、折返鏡6と、凹面鏡7と、赤外光照射ユニット8と、カメラ9と、制御部10とが保持・収容されている。
【0018】
表示ユニット5は、チップ型の発光ダイオードからなる光源及び液晶パネルが設けられ、液晶パネルが光源の出射光を2次元的に変調することにより、可視光である映像光(表示光L1)を投影表示する。折返鏡6は、平面部分を有するように成形されたポリカーボネート等の樹脂にアルミニウム等の金属を蒸着してなり、光を単純に反射する。凹面鏡7は、凹面部分を有するように成形されたポリカーボネート等の樹脂に誘電体多層膜等を蒸着してなり、可視光を拡大して反射するとともに、赤外光を透過させる特性を有する。
【0019】
赤外光照射ユニット8は、凹面鏡7の裏側(凹面鏡7に対して開口部4及び折返鏡6の反対側)に設けられ、発光ダイオードからなる光源が発する赤外光(近赤外線)を凹面鏡7に向けて照射する。カメラ9は、赤外照射ユニット8から照射される波長帯の赤外光に感応する撮像素子、及び、赤外光を透過してその撮像素子に結像させ得るレンズを備え、近赤外線画像を撮影する。赤外光を選択的に透過させるために、可視光等の波長を吸収又は反射するフィルターを用いてもよい。
【0020】
制御部10は、マイクロプロセッサ、メモリ及びそれらを動作させるための各種電子部品、基板、ケースからなり、車両情報や運転者Dの入力情報に基づいてHUD1の映像を適切に表示するように表示ユニット5を制御する。
【0021】
また、制御部10は、
図2に示すように、カメラ9による撮像画像Pの階調差(コントラスト)に基づいて、運転者Dの左目E
Lの虹彩(黒目)I
Lの位置及び右目E
Rの虹彩I
Rの位置を検出し、左右の虹彩I
L,I
Rの中間点I
Cの位置を視点位置として検出する。検出された視点位置は、運転者Dの状態検出(脇見や居眠り等)に利用可能であり、視点情報として外部に出力される。
【0022】
すなわち、制御部10は、カメラ9による撮像画像Pの階調差に基づいて、運転者Dの左目ELのおよその位置を認識するための特徴点として鼻尖N、人中R、顎F、左の口角ML及び左の眉頭BLを検出するとともに、左目ELに関する特徴点として目頭E1L、目尻E2L及び上眼瞼E3Lを検出し、虹彩ILの位置を検出する。
【0023】
また、制御部10は、カメラ9による撮像画像Pの階調差に基づいて、運転者Dの右目ERのおよその位置を認識するための特徴点として鼻尖N、人中R、顎F、右の口角MR及び右の眉頭BRを検出するとともに、右目ERに関する特徴点として目頭E1R、目尻E2R及び上眼瞼E3Rを検出し、虹彩IRの位置を検出する。
【0024】
HUD1において、表示ユニット5からの表示光L1は、折返鏡6で反射され、次いで、凹面鏡7で拡大して反射され、開口部4を通過してフロントウインドシールド2に投影される。フロントウインドシールド2に投影された表示光L1は、運転者Dの側に拡大して反射され、虚像Vを生成してフロントウインドシールド2を透過する実景に重ねて運転者Dに表示する。
【0025】
一方、赤外光照射ユニット8からの赤外光L2は、凹面鏡7を透過し、開口部4を通過してフロントウインドシールド2に投影され、フロントウインドシールド2で運転者Dの側に反射されて運転者Dを照射する。そして、運転者Dに反射されると赤外光L2の一部は逆の経路を辿り、凹面鏡7を透過してカメラ9に入射した赤外光L2により運転者Dが撮像され、その撮像画像Pが制御部10に入力される。この撮像は、虚像Vの表示中、定期的又は不定期的に行われ、ここでは、虚像Vが表示されている間、定期的なフレームレートの動画撮像が行われる。
【0026】
制御部10は、運転者Dの撮像画像Pが入力されると、上記のとおり、運転者Dの左右の虹彩I
L,I
Rの位置を検出し、虹彩I
L,I
Rの中間点I
Cの位置を視点位置として検出する。ただ、本来は、
図2に示すような運転者Dの撮像画像Pが得られるはずであるが、
図3に示すように、太陽光等の強い外光L
3の赤外成分がフロントウインドシールド2、開口部4、凹面鏡7を透過してカメラ9に入射すると、撮像画像Pにおいては
図4に示すような白飛びした領域S
1が生じるとともに、その周辺の領域S
2の階調差が低下し、領域S
2に左目E
Lや右目E
Rを検出するための特徴点が含まれると、特徴点の位置の検出が困難になり、虹彩I
Lや虹彩I
R(
図4では虹彩I
R)の検出が困難になる。
【0027】
そこで、制御部10は、特徴点の位置の検出が困難で虹彩IL,IRの一方の位置の検出が困難な場合は、虹彩IL,IRの他方の位置についてのみ撮像画像Pにおける階調差に基づいて検出し、虹彩IL,IRの一方の位置については、撮像画像Pのガンマ値を調整したガンマ補正画像を生成し、ガンマ補正画像における階調差に基づいて検出する。
【0028】
例えば、
図4の撮像画像Pでは、左目E
Lについては階調差に基づいて鼻尖N、人中R、顎F、口角M
L、眉頭B
L、目頭E
1L、目尻E
2L及び上眼瞼E
3Lをいずれも検出することができ、虹彩I
Lの位置を検出可能であるが、右目E
Rについては階調差に基づいて眉頭B
R、目頭E
1R、目尻E
2R及び上眼瞼E
3Rを検出することができず、虹彩I
Rの位置を検出不可能であるから、制御部10は、
図5に示すように、撮像画像Pのうち位置の検出が困難な特徴点(眉頭B
R、目頭E
1R、目尻E
2R及び上眼瞼E
3R)を含む領域S
3を決定し(領域S
3は、ここでは、既知の特徴点(鼻尖N、人中R、顎F、口角M
R、眉頭B
L、目頭E
1L、目尻E
2L、上眼瞼E
3Lのいずれか)に基づいて右目E
Rのおよその位置を推定し、そこから推定される右目E
Rの周辺領域として、位置の検出が困難な特徴点を含むように決定される。)、領域S
3のガンマ値を調整してガンマ補正画像P
γを生成する。制御部10は、ガンマ補正画像P
γにおいては、撮像画像Pで検出することができなかった眉頭B
R、目頭E
1R、目尻E
2R及び上眼瞼E
3Rを検出することができるので、虹彩I
Rの位置、ひいては、視点位置を検出することができる。
【0029】
ガンマ補正画像Pγの生成方法は、階調差が十分に得られるようになれば特に限定されるものではなく、撮像画像Pのうち領域S3だけのガンマ値を調整するのではなく、撮像画像P全体のガンマ値を調整してもよい。
【0030】
例えば、撮像画像Pのガンマ値(カメラ9のイメージセンサ(CMOS、CCD等)が入力光量に対してリニアな信号を発生し、この信号(入力)にガンマ値を適用して変換したデータ(出力)が撮像画像Pとして記録される場合の当該ガンマ値)γがγ=αの場合、
図6に示すように(
図6ではα=1)、撮像画像Pの入力が0から所定の閾値未満までの範囲でγをαよりも大きくなるように調整してガンマ補正画像Pγを生成することができる。
図6のガンマ曲線では、0から255までの入力のうち中間地128を閾値とし、閾値未満の範囲ではγ>α(=1)で下に凸の曲線、閾値以上の範囲ではγ=α(=1)でリニアな特性とすることにより、撮像画像Pでは明度が低すぎて十分な階調差が得られなかった領域の階調差を拡大したガンマ補正画像P
γが生成される。
【0031】
図7も、撮像画像Pのガンマ値γがγ=α(=1)の場合に、撮像画像Pの入力が閾値未満の範囲でガンマ値をαよりも大きくなるように調整してガンマ補正画像Pγを生成する例を示すが、
図7のガンマ曲線は、閾値を176として閾値未満の範囲では入力が80の付近に変曲点を有し、変曲点未満の範囲ではγ>α(=1)で下に凸の曲線、変曲点以上の範囲ではγ>α(=1)で上に凸の曲線、閾値以上の範囲ではγ=α(=1)でリニアな特性を有する。これにより、
図6のガンマ曲線によると十分な階調差が得られていた箇所の明度が低下して階調差が縮小する場合に、そのような階調差の縮小を防ぐガンマ補正画像P
γが生成される。
【0032】
図8は、撮像画像Pのガンマ値γがγ=α(=1)の場合に、撮像画像Pの入力が閾値以上の範囲でガンマ値をαよりも小さくなるように調整してガンマ補正画像Pγを生成する例を示す。
図8のガンマ曲線は、
図6のガンマ曲線と同様に、閾値を128として閾値未満の範囲ではγ>α(=1)で下に凸であるが、閾値以上の範囲ではγ<α(=1)で上に凸であり(
図8では、厳密には閾値でα=1で変曲点になり、閾値を超えた範囲でγ<αが成り立つ。)、これにより、閾値以上の範囲で明度が撮像画像Pの状態よりも高く、
図6のガンマ曲線の効果を補強するガンマ補正画像P
γが生成される。
【0033】
なお、制御部10は、特徴点の位置の検出が困難で左右の虹彩IL,IRの両方の位置の検出が困難な場合は、ガンマ補正画像Pγを生成せず、左右の虹彩IL,IRの一方の位置が検出可能な状態に遷移してから、ガンマ補正画像Pγの生成とそれに基づく特徴点の位置(並びに虹彩IL,IRの位置及び視点位置)の検出を開始する。
【0034】
つまり、制御部10は、運転者Dが横を向いていたり体勢を傾けて顔が撮影範囲外にあったりする状態から、正面に向き直ったり体勢を戻したりして、強い光の影響がなければ左右の虹彩IL,IRを検知することができるにもかかわらず、強い光によって虹彩IL,IRの一方を検知することができない状態に遷移した瞬間にのみ、虹彩IL,IRの他方の位置を撮像画像Pに基づいて、虹彩IL,IRの一方の位置をガンマ補正画像Pγに基づいて検出し、視点位置を検出する。その後、強い光の影響が消失して虹彩IL,IRの一方も検知可能になれば、制御部10は、ガンマ補正画像Pγの生成を中止し、虹彩IL,IRの両方の位置を撮像画像Pに基づいて検出する。
【0035】
本実施の形態に係る視点検出システムは、車両2の運転者Dに投影された赤外光L2により運転者Dを撮像するカメラ9と、カメラ9の撮像画像Pにおける階調差に基づいて、運転者Dの特徴点の位置を検出し、検出された特徴点に基づいて、撮像画像Pにおける運転者Dの左右の虹彩IL,IRの位置を検出し、検出された左右の虹彩IL,IRの位置に基づいて、運転者Dの視点位置を検出する制御部10とを備え、制御部10は、特徴点の位置の検出が困難で左右の虹彩IL,IRの一方の位置の検出が困難な場合に、撮像画像Pのガンマ値を調整したガンマ補正画像Pγを生成し、ガンマ補正画像Pγにおける階調差に基づいて、検出が困難だった特徴点の位置を検出するので、撮像画像Pにおける階調差が十分でない場合も、ガンマ値を調整したガンマ補正画像Pγを生成して階調差を確保することにより、運転者Dの視点位置を検出することができる。
【0036】
この実施の形態では、制御部10は、特徴点の位置の検出が困難で左右の虹彩I
L,I
Rの一方の位置の検出が困難な場合に、撮像画像Pのうち位置の検出が困難な特徴点(
図4では、眉頭B
R、目頭E
1R、目尻E
2R及び上眼瞼E
3R)を含む領域S
3のガンマ値を調整してガンマ補正画像P
γを生成するので、撮像画像P全体のガンマ値を調整するよりも画像処理の領域が限定され、処理時間を短縮することができる。
【0037】
また、制御部10は、特徴点の位置の検出が困難で左右の虹彩IL,IRの両方の位置の検出が困難な場合は、ガンマ補正画像Pγを生成せず、左右の虹彩IL,IRの一方の位置が検出可能な状態に遷移してから、ガンマ補正画像Pγの生成とそれに基づく特徴点の位置の検出を開始するので、ガンマ値の調整が不要又は無意義な条件下ではガンマ補正画像Pγの生成を行わないことにより、不要又は無意義なガンマ補正画像Pγの生成に伴う視点位置の検出の遅延や視点情報の外部への出力の遅延を抑制することができる。
【0038】
以上、本発明を実施するための形態について例示したが、本発明の実施形態は上述したものに限られず、発明の趣旨を逸脱しない範囲で適宜変更等してもよい。
【0039】
例えば、上記実施の形態では、左右の虹彩IL,IRの中間点ICの位置を視点位置としたが、虹彩IL,IRの位置自体やその他の位置を視点位置としてもよい。
【0040】
また、特徴点として
図2に示した部位以外の部位を検出してもよく、目の位置として虹彩以外の部位の位置(例えば、瞳孔の位置)を検出してもかまわない。
【0041】
さらに、閾値の設定方法も任意であり、閾値を複数設定してもよく、一例として第1の閾値と第1の閾値よりも大きい第2の閾値を設定し、第1の閾値未満の領域(少なくとも、明度が低すぎて必要十分な階調差が得られない領域を含む。)の範囲でγ>αとなるようにガンマ値を調整するとともに、第2の閾値を超える領域(少なくとも、明度が高すぎて必要十分な階調差が得られない領域を含む。)の範囲でγ<αとなるようにガンマ値を調整してガンマ補正画像を生成してもかまわない(
図6及び
図7のガンマ曲線は、第1の閾値のみが設定されている場合に相当し、
図8のガンマ曲線は、第1の閾値及び第2の閾値が一致している場合に相当する。)。
【符号の説明】
【0042】
2 車両
9 カメラ(撮像手段)
10 制御部(特徴点検出手段、視点位置検出手段)
BL 眉頭(特徴点)
BR 眉頭(特徴点)
D 運転者(利用者)
E1L 目頭(特徴点)
E1R 目頭(特徴点)
E2L 目尻(特徴点)
E2R 目尻(特徴点)
E3L 上眼瞼(特徴点)
E3R 上眼瞼(特徴点)
EL 左目
ER 右目
F 顎(特徴点)
IL 虹彩
IR 虹彩
ML 口角(特徴点)
MR 口角(特徴点)
N 鼻尖(特徴点)
P 撮像画像
Pγ ガンマ補正画像
R 人中(特徴点)