(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024075940
(43)【公開日】2024-06-05
(54)【発明の名称】生体部位検出装置、生体部位検出方法、プログラム、及び車載表示装置
(51)【国際特許分類】
G06T 7/00 20170101AFI20240529BHJP
【FI】
G06T7/00 350B
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2022187221
(22)【出願日】2022-11-24
(71)【出願人】
【識別番号】000231512
【氏名又は名称】日本精機株式会社
(74)【代理人】
【識別番号】100067356
【弁理士】
【氏名又は名称】下田 容一郎
(74)【代理人】
【識別番号】100160004
【弁理士】
【氏名又は名称】下田 憲雅
(74)【代理人】
【識別番号】100120558
【弁理士】
【氏名又は名称】住吉 勝彦
(74)【代理人】
【識別番号】100148909
【弁理士】
【氏名又は名称】瀧澤 匡則
(74)【代理人】
【識別番号】100192533
【弁理士】
【氏名又は名称】奈良 如紘
(72)【発明者】
【氏名】西澤 幸蔵
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096BA04
5L096BA18
5L096CA02
5L096FA35
5L096FA69
5L096HA13
5L096JA28
5L096KA04
(57)【要約】
【課題】 撮像光である赤外光等の反射による反射パターン、及び、例えば太陽光等がウインドシールド等で反射して生じる反射パターンの双方について、種類の異なる複数の検出器を使用することなく対策可能とする。
【解決手段】 生体部位検出装置200は、撮像部210と、生体部位検出処理部230と、を有し、生体部位検出処理部230は、反射光パターン抽出部232と、抽出された反射光パターンの種類等を検出する反射光パターン検出部233と、生体の部位の特徴量を学習した結果である学習モデルを複数、記憶する記憶部240と、反射光パターンの検出結果に基づいて、記憶部の中から、検出された反射光パターンに影響を受けにくい検出アルゴリズムを用いた学習モデルを選択する学習モデル選択部235と、選択された学習モデルを用いて、生体の部位を検出する生体部位検出部236と、を有する。
【選択図】
図2
【特許請求の範囲】
【請求項1】
撮像画像に基づいて生体の部位を検出する生体部位検出装置であって、
検出対象である前記生体の部位からの撮像光の反射光を受光する受光部を有する撮像部と、
前記撮像部により取得された撮像画像に基づいて、前記生体の部位を検出する生体部位検出処理部と、
を有し、
前記生体部位検出処理部は、
前記撮像画像に基づいて、所定の反射光パターンを抽出する反射光パターン抽出部と、
抽出された反射光パターンについて、少なくともその種類、及び位置を検出する反射光パターン検出部と、
生体の部位の特徴量を学習した結果である学習モデルを複数、記憶する記憶部と、
前記反射光パターン検出部による反射光パターンの検出結果に基づいて、前記記憶部の中から、検出された反射光パターンに影響を受けにくい検出アルゴリズムを用いた学習モデルを選択する学習モデル選択部と、
選択された学習モデルを用いて、前記生体の部位を検出する生体部位検出部と、
を有する、生体部位検出装置。
【請求項2】
前記生体部位検出装置の少なくとも前記撮像部は、
車両に設けられ、光の反射性と透過性を併せ持つ反射透光部材に画像の表示光を照射して、前記車両の乗員に対して画像を表示する反射型の車載表示装置内の、前記反射透光部材を通過して直接的に到来する外光が遮蔽される位置に設けられている、
請求項1に記載の生体部位検出装置。
【請求項3】
前記学習モデル選択部は、
前記反射光パターンが検出されない場合には、通常の検出に用いられる第1のアルゴリズムを用いた第1の学習モデルを選択し、
前記反射光パターンが検出され、かつ検出された反射光パターンが前記撮像光の反射に基づく第1の反射光パターンである場合には、前記第1のアルゴリズムよりも、検出条件の数が低減されている第2のアルゴリズムを用いた第2の学習モデルを選択する、
又は、
前記反射光パターンが検出され、かつ検出された反射光パターンが前記撮像光の反射に基づく第1の反射光パターンである場合には、前記撮像部における前記受光部の受光面での前記第1の反射光パターンが存在する範囲を除くように、特徴量の検出候補となる要素を限定することで、前記第1のアルゴリズムよりも、検出条件の数が低減された第2のアルゴリズムを用いた第2の学習モデルを選択する、
請求項1に記載の生体部位検出装置。
【請求項4】
前記学習モデル選択部は、
前記反射光パターンが検出され、検出された反射光パターンが前記撮像光以外の外光の反射に基づく第2の反射光パターンであり、前記生体の部位の検出に失敗する場合、あるいは、失敗する可能性が高いと判断される場合には、
前記検出対象である生体の部位の周辺に位置する周辺部位について、骨格検出による周辺部位の検出を実施すると共に、
検出された周辺部位と、前記検出対象である生体の部位との間の少なくとも1つ以上の関係性に基づいて、前記検出対象である生体の部位の、推定による検出を実施する、
請求項1に記載の生体部位検出装置。
【請求項5】
前記生体部位検出部による検出結果の出力の可否を判定する機能を有する結果出力部を有する、
請求項1に記載の生体部位検出装置。
【請求項6】
前記反射光パターン抽出部は、
前記撮像部における前記受光部から得られる撮像画像について、画素値が飽和して階調性が失われた、所定形状の画像領域を抽出する、
請求項1に記載の生体部位検出装置。
【請求項7】
前記記憶部は、
前記反射光パターンの検出に用いられる複数の学習モデル、及び各学習モデルに対応した学習データを記憶する反射光パターン記憶部を有し、
前記反射光パターン検出部は、
前記反射光パターン記憶部における前記複数の学習モデルの中から、反射光パターンの種類に対応する学習モデルを選択し、かつ、選択された学習モデルに対応する学習データを選択し、選択された学習モデル、及び学習データに基づいて、反射光パターンの検出を実施する、
請求項1に記載の生体部位検出装置。
【請求項8】
前記生体部位検出処理部は、
前記撮像部における前記受光部から得られる撮像画像について、画素値ヒストグラムの均等化を実施する均等化処理部を有し、
前記均等化処理部は、
前記反射光パターン検出部の検出結果に応じて、ヒストグラム均等化法(HE法)、適応ヒストグラム均等化法(AHE法)、及び、コントラスト制限適応ヒストグラム均等化法(CLAHE法)の中から1つを選択して均等化処理を実施し、
前記生体部位検出部は、均等化処理後の画像データに基づいて、前記生体の部位の検出を実施する、
請求項1に記載の生体部位検出装置。
【請求項9】
撮像画像に基づいて生体の部位を検出する生体部位検出方法であって、
検出対象である前記生体の部位からの撮像光の反射光を受光する撮像ステップと、
前記撮像ステップにより取得された撮像画像に基づいて、前記生体の部位を検出する生体部位検出処理ステップと、
を含み、
前記生体部位検出処理ステップは、
前記撮像画像に基づいて、特定の反射光パターンを抽出する反射光パターン抽出ステップと、
抽出された反射光パターンについて、少なくともその種類、及び位置を検出する反射光パターン検出ステップと、
前記反射光パターン検出ステップによる反射光パターンの検出結果に基づいて、判定された反射光パターンに影響を受けにくい検出アルゴリズムを用いた学習モデルを選択する学習モデル選択ステップと、
選択された学習モデルを用いて、前記生体の部位を検出する生体部位検出ステップと、
を含む、生体部位検出方法。
【請求項10】
請求項9に記載の生体部位検出方法をコンピュータに実行させるプログラム。
【請求項11】
車両に設けられた、光の反射性と透過性を併せ持つ反射透光部材に画像の表示光を照射して、前記車両の乗員に対して画像を表示する画像表示装置と、
前記反射透光部材を経由して撮像光を前記乗員の部位に照射し、前記部位からの反射光を、前記反射透光部材を経由して受光することで前記部位を撮像し、撮像画像に基づいて、生体の部位としての、前記乗員の目、口、鼻、耳の少なくとも1つ、あるいは、目、口、鼻、耳の少なくとも1つを含む顔全体の領域、を検出する請求項1乃至8の何れか1項に記載の生体部位検出装置と、
を有する車載表示装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、生体部位検出装置、生体部位検出方法、プログラム、及び車載表示装置等に関する。
【背景技術】
【0002】
特許文献1には、人体の部位の特徴量を学習した結果である学習モデルを記憶する学習モデル記憶部と、距離画像を取得する距離画像取得部と、距離画像から人物領域を抽出する前方人物抽出部と、人物領域と学習モデルに基づいて人体の部位を検出する人体部位検出部と、を備える人体部位検出システムが示されている。
【0003】
また、特許文献2には、ヘッドアップディスプレイ(HUD)装置の利用者に赤外光を照射して利用者を撮像し、その撮像画像に基づいて利用者の目の位置(瞳孔等の位置)を検出する際に、HUD装置に太陽光や街灯の光等の強い外光が入射した場合であっても、画像処理によって目の位置の検出を可能とすることが記載されている。
【0004】
また、特許文献3には、自動車のハンドルを握っている運転者の撮像画像に基づいて、骨格検知処理を実施することが記載されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2016-91108号公報(
図1等)
【特許文献2】特開2021-133801号公報(
図3~
図6等)
【特許文献3】特開2020-95756号公報([0024]、
図2等)
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明者の検討によって、以下の課題が明らかとなった。
(1)車両の乗員(運転者等)の、例えば顔検出を実施する場合において、乗員の顔の一部が、眼鏡やサングラス、マスク等の装着物によって覆われている場合、撮像光である赤外光がその装着物で反射し、これに起因して撮像画像に不要な反射パターンが生じる場合がある。不要な反射パターンが生じると、顔検出等に必要な特徴量の検出精度が低下する。
(2)また、上記特許文献2に記載される、太陽光や街灯光等が撮像部に直接的に入射される問題は、例えばHUD装置の窓部にフィルタを設けて外光を遮断することで対策できる。
但し、この場合であっても、太陽光や街灯光がウインドシールドで反射して、その反射光が、例えばHUD装置の内部の撮像部に入射すること、言い換えれば、外光が撮像部の赤外線カメラ等に間接的に入射する場合がある。この場合においても、撮像画像に、外光による反射パターンが生じる。
例えば、半導体検出器を使用する場合、半導体検出器は赤外光の波長帯域のみならず、ある程度の可視光の波長帯域にも感度をもつ。よって、太陽光等の強度が強く、また、不要な反射パターンの範囲が撮像面において大きな面積を占める場合には、いわゆる白飛びが広範囲に生じて、特徴量の検出がほとんどできず、顔検出に失敗するという場合も想定され得る。
【0007】
(3)検出精度の低下を抑制する方法としては、例えば、顔を検出する検出器(顔検出器)に加えて、他の評価軸、例えば骨格検出の機能を有する骨格検出器を使用する方法等が考えられる。
しかし、HUD装置に使用される、計算資源の乏しい組み込み機器(言い換えれば、車載表示装置等に特化した、限定された構成をもつ機器)においては、種類の異なる複数の検出器を高速度で動かすことは、現実には難しいといった問題がある。
従って、計算資源の乏しい組込み機器においても、高速かつ一定の精度を保証した実用に耐える顔等の検出を可能とする必要がある。
【0008】
このような新規な課題が、本発明者によって明らかとされた。この課題については、上記の特許文献1~3には記載されておらず、その対策についての記載もない。
【0009】
言い換えれば、特許文献1は、上記(1)~(3)に示した課題については言及されておらず、その対策についての記載もない。
【0010】
また、特許文献2では、太陽光等が直接的にHUD装置等の内部に入射することを問題としており、太陽光等がウインドシールドで反射して間接的にHUD装置等の内部に入射するという課題については記載がない。
また、この特許文献2では、反射光パターンが撮像面上で大きく広がり、白飛びが広範に生じて顔等の検出がまったくできない場合等の対策についても記載されていない。
【0011】
また、特許文献3は、人体について、赤外光を用いて骨格検出ができる、ということを開示しているのみであり、上記(1)~(3)の課題との関連で、骨格検出をどのように利用できるのかといった点については、何ら記載されていない。
【0012】
本発明の目的の1つは、撮像光である赤外光等の反射による反射パターン、及び、例えば太陽光等がウインドシールド等で反射して生じる反射パターンの双方について、種類の異なる複数の検出器を使用することなく対策可能な生体部位検出装置を提供することである。
【0013】
本発明の他の目的は、以下に例示する態様及び最良の実施形態、並びに添付の図面を参照することによって、当業者に明らかになるであろう。
【課題を解決するための手段】
【0014】
以下に、本発明の概要を容易に理解するために、本発明に従う態様を例示する。
第1の態様において、生体部位検出装置は、
撮像画像に基づいて生体の部位を検出する生体部位検出装置であって、
検出対象である前記生体の部位からの撮像光の反射光を受光する受光部を有する撮像部と、
前記撮像部により取得された撮像画像に基づいて、前記生体の部位を検出する生体部位検出処理部と、
を有し、
前記生体部位検出処理部は、
前記撮像画像に基づいて、所定の反射光パターンを抽出する反射光パターン抽出部と、
抽出された反射光パターンについて、少なくともその種類、及び位置を検出する反射光パターン検出部と、
生体の部位の特徴量を学習した結果である学習モデルを複数、記憶する記憶部と、
前記反射光パターン検出部による反射光パターンの検出結果に基づいて、前記記憶部の中から、検出された反射光パターンに影響を受けにくい検出アルゴリズムを用いた学習モデルを選択する学習モデル選択部と、
選択された学習モデルを用いて、前記生体の部位を検出する生体部位検出部と、
を有する。
【0015】
第1の態様では、例えば、特定の反射光パターンを予め抽出し、その種類と位置等を検出し、例えば、検出された反射光パターンに影響を受けにくい学習モデル、言い換えれば、検出された反射光パターンに影響を受けにくい検出アルゴリズムを用いて作成された学習モデルを選択して、生体の部位、例えば、人体の顔を検出する。
【0016】
ここで、「顔」は広義に解釈することができ、「顔の全体領域」の他、顔の構成要素である「左目」、「右目」、「鼻」、「左耳」、「右耳」等の各々の検出も顔検出とみなすことができる。
【0017】
本態様によれば、例えば、車載用の組込みシステム等で使用される、所定の用途に特化されて機能が限定されているSoC(システムオンチップ)を用いた場合でも、リアルタイム性を確保しつつ、状況に応じて最適な検出アルゴリズムを使用して、生体の部位の検出を行うことができる。
【0018】
言い換えれば、生体部位検出装置(生体部位検出システム)の構築にかかるコスト、及び検出処理に伴う装置の負荷を抑制しつつ、反射パターンが存在する環境下においても、撮像画像に基づく生体の部位、例えば、人体の顔の検出精度を向上させることができる。
【0019】
第1の態様に従属する第2の態様において、
前記生体部位検出装置は、
車両に設けられ、光の反射性と透過性を併せ持つ反射透光部材に画像の表示光を照射して、前記車両の乗員に対して画像を表示する反射型の車載表示装置内の、前記反射透光部材を通過して直接的に到来する外光が遮蔽される位置に設けられていてもよい。
【0020】
第2の態様によれば、例えば、車載表示装置の窓部にフィルタを設けて外光が直接的に車載装置内に入射できないようにし、生体部位検出装置を、その車載表示装置内の、直接的に入射する外光が遮蔽された位置(遮蔽された空間あるいは領域)に設けることができる。
【0021】
これにより、ウインドシールド等の反射透光部材で反射して車載表示装置内に間接的に入射する外光に対する対策に専念することができる。よって、外光(外乱光)の対策に要する装置の負担が軽減される。
【0022】
第1、又は第2の態様に従属する第3の態様において、
前記学習モデル選択部は、
前記反射光パターンが検出されない場合には、通常の検出に用いられる第1のアルゴリズムを用いた第1の学習モデルを選択し、
前記反射光パターンが検出され、かつ検出された反射光パターンが前記撮像光の反射に基づく第1の反射光パターンである場合には、前記第1のアルゴリズムよりも、検出条件の数が低減されている第2のアルゴリズムを用いた第2の学習モデルを選択する、
又は、
前記反射光パターンが検出され、かつ検出された反射光パターンが前記撮像光の反射に基づく第1の反射光パターンである場合には、前記撮像部における前記受光部の受光面での前記第1の反射光パターンが存在する範囲を除くように、特徴量の検出候補となる要素を限定することで、前記第1のアルゴリズムよりも、検出条件の数が低減された第2のアルゴリズムを用いた第2の学習モデルを選択してもよい。
【0023】
第3の態様によれば、生体の部位の検出の際の条件の数を、反射光パターンの有無、反射光パターンの種類や位置(範囲)等に応じて変化させる。
【0024】
例えば、反射光パターンが存在する場合には、条件数を切り替えて、通常のアルゴリズムにおける条件数よりも条件数を減少させる。例えば、反射光パターンの影響を受けにくい要素に絞り込んで特徴量を検出することもできる。これにより、検出精度を向上させることができる。
【0025】
第1乃至第3の何れか1つの態様に従属する第4の態様において、
前記学習モデル選択部は、
前記反射光パターンが検出され、検出された反射光パターンが前記撮像光以外の外光の反射に基づく第2の反射光パターンであり、前記生体の部位の検出に失敗する場合、あるいは、失敗する可能性が高いと判断される場合には、
前記検出対象である生体の部位の周辺に位置する周辺部位について、骨格検出による周辺部位の検出を実施すると共に、
検出された周辺部位と、前記検出対象である生体の部位との間の少なくとも1つ以上の関係性に基づいて、前記検出対象である生体の部位の、推定による検出を実施してもよい。
【0026】
第4の態様によれば、例えば、検出対象である生体の部位自体の特徴量による検出ができないような場合であっても、検出対象の周辺部位について、骨格検出による特徴量で検出を行った上で、各部位の相対的な関係性等に基づいて、検出対象である生体の部位を推定して検出することが可能である。
【0027】
これによって、まったく検出ができない、という事態が抑制され、有用な検出情報を取得できる可能性を高めることができる。
【0028】
また、検出対象である生体の部位自体の特徴量が不完全ではあるが取得できた場合には、その取得できた特徴量を用いた推定処理を実施して、対象物の検出精度を高めることもできる。
【0029】
第1乃至第4の何れか1つの態様に従属する第5の態様において、
前記生体部位検出部による検出結果の出力の可否を判定する機能を有する結果出力部を有してもよい。
【0030】
第5の態様では、上記の第1乃至第4の何れかの態様の検出を実施する場合、特に、上記の第4の態様で示した推定検出を実施する場合において、例えば、検出結果が出力するに足る信頼性を有さないと判断される場合等には、検出結果の出力が禁止される。
【0031】
例えば、画像上の座標とサイズとの関係が所定の条件を満たさない対象は、検出の対象から除外してもよい。例えば、HUD装置に取り付けられた撮像手段により撮影を行った際に、検出対象である顔のサイズの撮像画像中での範囲は、ある程度、予測することができる。よって、予測される範囲より小さい場合、あるいは、予測される範囲よりも大きい場合は、検出対象の候補から除外することができる。従って、誤った検出結果の出力を抑制することができる。
【0032】
第1乃至第5の何れか1つの態様に従属する第6の態様において、
前記反射光パターン抽出部は、
前記撮像部における前記受光部から得られる撮像画像について、画素値が飽和して階調性が失われた、所定形状の画像領域を抽出してもよい。
【0033】
第6の態様によれば、例えば、太陽光の反射光パターンは、撮像画像において、画素値255(25階調のグレースケール画像の場合、白飛びするため階調値は255となる)の画素が、略円形に分布するようなパターンとなる可能性が高い。
【0034】
よって、受光部から得られる撮像画像について、画素値が飽和して階調性が失われた、所定形状の画像領域を抽出することで、所定の反射光パターンを特定可能である。
【0035】
第1乃至第6の何れか1つの態様に従属する第7の態様において、
前記記憶部は、
前記反射光パターンの検出に用いられる複数の学習モデル、及び各学習モデルに対応した学習データを記憶する反射光パターン記憶部を有し、
前記反射光パターン検出部は、
前記反射光パターン記憶部における前記複数の学習モデルの中から、反射光パターンの種類に対応する学習モデルを選択し、かつ、選択された学習モデルに対応する学習データを選択し、選択された学習モデル、及び学習データに基づいて、反射光パターンの検出を実施してもよい。
【0036】
第7の態様では、反射光パターンの種類に対応する学習モデルを選択して対象物の検出を実施する。言い換えれば、検出アルゴリズム(必要に応じて、併せて使用する学習済みデータも含む)を適宜変更することにより、例えば、太陽のウインドシールドへの映り込みに起因する反射光を含む画像、若しくは、撮像光である赤外光の眼鏡等での反射光を含む画像の各々に対して、頑強な検出器を提供することができる。
【0037】
例えば、太陽光の反射光による妨害をより多く学習した学習モデル及び学習データを用いることで、太陽光に強い検出装置を得ることができる。また、赤外光の眼鏡への反射光による妨害をより多く学習した学習モデル及び学習データを用いることで、眼鏡等での撮像光の反射に強い検出装置を得ることができる。
【0038】
第1乃至第7の何れか1つの態様に従属する第8の態様において、
前記生体部位検出処理部は、
前記撮像部における前記受光部から得られる撮像画像について、画素値ヒストグラムの均等化を実施する均等化処理部を有し、
前記均等化処理部は、
前記反射光パターン検出部の検出結果に応じて、ヒストグラム均等化法(HE法)、適応ヒストグラム均等化法(AHE法)、及び、コントラスト制限適応ヒストグラム均等化法(CLAHE法)の中から1つを選択して均等化処理を実施し、
前記生体部位検出部は、均等化処理後の画像データに基づいて、前記生体の部位の検出を実施してもよい。
【0039】
第8の態様では、反射光パターン検出部の検出結果に応じて、撮像画像に施す画素値ヒストグラム均等化処理の種類を選択する。例えば、画素値の分布が偏った低コントラストの画像に対して均等化処理を施すと、コントラストが高くなり、その画像の輪郭が明瞭になるといった効果がある。よって、検出対象の識別性を高めるためには、均等化処理が有効である。
【0040】
但し、通常の均等化処理は、画像全体に作用するため、外光の反射光が映り込んだ画像のように、画像内に著しく輝度が高い画素が多く含まれる場合には、画像の全体にわたって画素値が高い方に偏り、全体的に白飛びした画像、あるいは白飛びした画像に近い画像になる場合がある。
【0041】
そこで、本態様では、外光がある場合は、画像を、例えば「タイル」と称される小さな領域に区分して、各タイル毎に均等化処理を実施する適応ヒストグラム均等化法(AHE法)、あるいは、各タイル毎にコントラストに制限をかけつつ均等化を行うコントラスト制限適応ヒストグラム均等化法(CLAHE法)を採用する。
【0042】
これにより、タイルという小領域毎に均等化を実施することができ、外光の影響が、一律に画像全体に波及することを抑制することができるため、対象物の識別性が向上する。
【0043】
例えば、太陽光の反射パターンが存在する場合、CLAHE法(Contrast Limited Adaptive Histogram Equalization)を採用することで、画像全体でなく、局所的にコントラスト制限を付けた均等化処理を施すことができる。これにより、白飛びを抑制でき、よって、画像内での対象物の輪郭等を明瞭化できる。
【0044】
本態様では、入力された画像内に含まれる反射光パターンの検出結果に応じて、各種の画素の均等化処理法を使い分けすることによって、外光の存在を考慮した最適な均等化処理を実施することが可能である。
【0045】
第9の態様において、生体部位検出方法は、
撮像画像に基づいて生体の部位を検出する生体部位検出方法であって、
検出対象である前記生体の部位からの撮像光の反射光を受光する撮像ステップと、
前記撮像ステップにより取得された撮像画像に基づいて、前記生体の部位を検出する生体部位検出処理ステップと、
を含み、
前記生体部位検出処理ステップは、
前記撮像画像に基づいて、特定の反射光パターンを抽出する反射光パターン抽出ステップと、
抽出された反射光パターンについて、少なくともその種類、及び位置を検出する反射光パターン検出ステップと、
前記反射光パターン検出ステップによる反射光パターンの検出結果に基づいて、判定された反射光パターンに影響を受けにくい検出アルゴリズムを用いた学習モデルを選択する学習モデル選択ステップと、
選択された学習モデルを用いて、前記生体の部位を検出する生体部位検出ステップと、
を含む。
【0046】
第9の態様によれば、生体部位検出装置(生体部位検出システム)の構築にかかるコスト、及び、検出処理に伴う装置の負荷を抑制しつつ、撮像画像に基づく生体の部位、例えば、人体の顔の検出精度を向上させることができる。
【0047】
第10の態様において、プログラムは、
第9の態様の生体部位検出方法をコンピュータに実行させる。
【0048】
第10の態様によれば、ソフトプログラムによってコンピュータを制御することで、第9の態様に示した各ステップを容易に実行させることができる。
【0049】
第11の態様において、車載表示装置は、
車両に設けられた、光の反射性と透過性を併せ持つ反射透光部材に画像の表示光を照射して、前記車両の乗員に対して画像を表示する画像表示装置と、
前記反射透光部材を経由して撮像光を前記乗員の部位に照射し、前記部位からの反射光を、前記反射透光部材を経由して受光することで前記部位を撮像し、撮像画像に基づいて、生体の部位としての、前記乗員の目、口、鼻、耳の少なくとも1つ、あるいは、目、口、鼻、耳の少なくとも1つを含む顔全体の領域、を検出する、第1乃至第8の何れか1つの態様の生体部位検出装置と、
を有する。
【0050】
第11の態様によれば、低コストであり、検出に際しての装置の負荷が低減され、小型化や低消費電力化も可能で、実用に足る生体の部位検出精度を有する生体部位検出装置を搭載した車載表示装置を実現することができる。これにより、例えば,HUD装置の多機能化、高機能化を実現することができる。
【0051】
当業者は、例示した本発明に従う態様が、本発明の精神を逸脱することなく、さらに変更され得ることを容易に理解できるであろう。
【図面の簡単な説明】
【0052】
【
図1】
図1は、赤外光を用いた生体部位検出装置を備える車載表示装置(ここではHUD装置)の構成の一例を示す図である。
【
図2】
図2は、生体部位検出装置(ここでは顔検出装置)の構成の一例を示す図である。
【
図3】
図3は、生体部位検出の手順例を示すフローチャートである。
【
図4】
図4は、反射光パターンの抽出、ならびに検出の一例を示す図である。
【
図5】
図5は、反射光パターンが無い場合、赤外光(撮像光)の反射パターンが有る場合、太陽光の反射パターンがある場合の各々における生体部位検出の内容例を示す図である。
【
図6】
図6は、骨格検出アルゴリズムを用いた学習モデルを使用した顔の推定による検出の一例を示す図である。
【
図7】
図7は、骨格検出アルゴリズムを用いた学習モデルを使用した顔の推定による検出の他の例を示す図である。
【発明を実施するための形態】
【0053】
以下に説明する最良の実施形態は、本発明を容易に理解するために用いられている。従って、当業者は、本発明が、以下に説明される実施形態によって不当に限定されないことを留意すべきである。
【0054】
(第1の実施形態)
図1は、赤外光を用いた生体部位検出装置を備える車載表示装置(ここではHUD装置)の構成の一例を示す図である。
【0055】
図1のA-1に示されるように、ヘッドアップディスプレイ(HUD)装置100は、車両1に設けられた、光の反射性と透過性を併せ持つ反射透光部材としてのウインドシールド2に画像の表示光L1を照射して、車両1の乗員(ここではステアリングホイール8を操作して車両1を運転している運転者とする)5に対して、虚像表示面PS上に虚像Vを表示する機能を有する。
【0056】
また、このHUD装置100は、ウインドシールド2を経由して撮像光L2を乗員(運転者)5の部位(例えば、目7を含む顔11)に照射し、その部位からの反射光L3を、ウインドシールド2を経由して受光することで、生体の部位(ここでは人体の目7や顔11等)を撮像する機能も有する。
【0057】
なお、例えば顔11を観察することで、運転者5の現在の状態(通常の集中力がある状態、疲労している状態、居眠りをしている状態等)を推定することが可能となる。
【0058】
車載表示装置としてのHUD装置100は、ウインドシールド2の近傍のインストルメントパネル4に収納されている。
【0059】
HUD装置100は、筐体116と、筐体に設けられる透光カバー112と、筐体内に設けられ、画像を表示する表示部102(液晶表示装置等の表示パネル104を備える)と、筐体内に設けられ、透光カバー112を経由して反射透光部材としてのウインドシールド2に向けて表示光L1を照射する光学素子(凹面鏡等の曲面ミラー108)を含む光学系(平面ミラー106も含む)と、筐体内の、画像の表示光L1の経路外に設けられると共に、撮像光L2を、透光カバー112を介してウインドシールド2に向けて出射する発光部(例えば赤外線LED、
図1では不図示、
図2の符号211)と、ウインドシールド2を経由して到来する撮像光の反射光L3を受光する撮像部(例えば赤外線カメラ、
図1では不図示、
図2における符号212)と、を有する撮像部(撮像ユニット:
図1では不図示、
図2の符号210)を有する生体部位検出装置(例えば目を含む顔検出装置)200を有する。
【0060】
ここで、人体の「顔」については広義に解釈することができ、「顔の全体領域」の他、顔の構成要素である「左目」、「右目」、「鼻」、「左耳」、「右耳」等の各々の検出も顔検出とみなすことができる。
【0061】
また、
図1のA-1において、表示光L1は可視光であり、撮像光L2(及び、人の部位で反射して撮像部110に戻る、撮像光の反射光L3)は赤外光(具体的には近赤外光)である。但し、これは一例であり、他の波長域の光を用いることもできる。
【0062】
また、HUD装置100は、透光カバー112の下側に設けられる、赤外光を透過し、可視光を遮断するフィルタ部114を有する。
【0063】
このフィルタ部114は、外光が撮像部110に入射するのを防止したり、あるいは、人が透光カバー112を介して撮像部110を目視することを防止したりする機能を有する。
【0064】
フィルタ部114としては、例えば可視光を吸収し、赤外光を透過する材料からなる多層のロングパスフィルタ(具体的には、透光カバー112の裏面に貼付されるIRフィルタ等)を用いることができる。
【0065】
図1のA-2に示されるように、透光カバー112の領域は、表示光(可視光)が通過する表示光通過領域(第1の領域と称する場合がある)Z10と、赤外光を透過し、可視光を遮断するフィルタ部領域(フィルタ部114に対応する領域。第2の領域と称する場合がある)Z20とに区別することができる。
【0066】
なお、第1の領域Z10は、「表示光(可視光)透過領域」と称することもできる。また、第2の領域Z20は、「赤外光透過領域」と称することもできる。
【0067】
なお、
図1のA-2では、各領域Z10とZ20が、車両1の前後方向(Z方向)に沿って配置されるように描かれているが、車両1の幅方向(X方向)に沿って配置される場合もあり得る。
【0068】
次に、生体部位検出装置(顔検出装置等)200による対象物の測定に悪影響を与える反射パターンについて説明する。
【0069】
図1のA-1では、撮像光である赤外光の光線L2、L3に関して、運転者5が装着している眼鏡9(サングラスを含む)で反射RF1が生じる場合があり、また、ウインドシールド2で反射RF2が生じる場合がある。
【0070】
このような不要な反射に起因して、撮像部210の受光面(撮像面)に不要な反射パターンが生じると、顔検出等に必要な特徴量の検出精度が低下する。
【0071】
また、太陽光や街灯光がウインドシールドで反射して、その反射光が、HUD装置100の内部の撮像部210に入射すること、言い換えれば、外光が撮像部210の赤外線カメラ等の受光部212に間接的に入射する場合がある。この場合も、撮像画像に、外光による不要な反射パターンが生じる。
【0072】
図1のA-1には、太陽光の光線L4、L5が描かれている。太陽光の光線L4は、ウインドシールド2を介して、HUD装置100に直接的に到来する光線であるが、この光線L4は、フィルタ部114にて阻止される。
【0073】
言い換えると、
図1のA-1では、生体部位検出装置200の少なくとも撮像部210は、車両1に設けられ、光の反射性と透過性を併せ持つ反射透光部材(ウインドシールド2)に画像の表示光L1を照射して、車両1の乗員5に対して画像(虚像PS)を表示する反射型の車載表示装置(HUD装置100)内の、反射透光部材(ウインドシールド2)を通過して直接的に到来する外光の光線L4が遮蔽される位置に設けられている。
【0074】
これにより、ウインドシールド2で反射して車載表示装置としてのHUD装置100内に間接的に入射する外光の光線L5に対する対策に専念することができる。よって、本実施形態によれば、外光(外乱光)の対策に要する装置の負担が軽減される。
【0075】
また、間接的に到来する光線L4は、直接的に到来する光線L5に比べて入射範囲が限定され、受光面(撮像面)上で反射パターンが生じたとしても、その位置や範囲が限定される可能性が高く、よって、画像処理等で対策することが有効となる。画像処理を用いた対策については後述する。
【0076】
一方、太陽光の光線L5は、ウインドシールド2で反射RF3が生じ、その反射光がHUD装置100に到来する光線であり、間接的に到来する太陽光の光線ということができる。この光線L5は、生体部位検出装置(顔検出装置等)200の撮像部210に入射される可能性はある。
【0077】
太陽光や街灯光がウインドシールドで反射して、その反射光が、例えばHUD装置の内部の撮像部に入射すること、言い換えれば、外光が撮像部の赤外線カメラ等に間接的に入射する場合がある。この場合においても、撮像画像に、外光による不要な反射パターンが生じる。
【0078】
例えば、半導体検出器を使用する場合、半導体検出器は赤外光の波長帯域のみならず、ある程度の可視光の波長帯域にも感度をもつ。よって、太陽光等の強度が強く、また、不要な反射パターンの範囲が撮像面において大きな面積を占める場合には、いわゆる白飛びが広範囲に生じて、特徴量の検出がほとんどできず、顔検出等に失敗するという場合も想定され得る。
【0079】
検出精度の低下を抑制する方法としては、例えば、顔等を検出する検出器(顔検出器)に加えて、他の評価軸、例えば骨格検出の機能を有する骨格検出器を使用する方法等が考えられる。
【0080】
しかし、HUD装置100に使用される、計算資源の乏しい組み込み機器(言い換えれば、車載表示装置等に特化した、限定された構成をもつ機器)においては、種類の異なる複数の検出器を高速度で動かすことは、現実には難しいといった問題がある。
【0081】
従って、計算資源の乏しい組込み機器においても、高速かつ一定の精度を保証した実用に耐える顔等の検出を可能とする必要がある。
【0082】
このように、撮像光である赤外光等の反射による反射パターン、及び、例えば太陽光等がウインドシールド等で反射して生じる反射パターンの双方について、種類の異なる複数の検出器を使用することなく対策可能な生体部位検出装置200を実現することが望まれる。また、その生体部位検出装置200は、小型、低コストで、配線量が少なく、低消費電力化も可能というような、車載にも適した特性を有することが好ましい。
【0083】
次に、
図2を参照する。
図2は、生体部位検出装置(ここでは顔検出装置)の構成の一例を示す図である。
【0084】
生体部位検出装置(ここでは顔検出装置)200は、撮像部210(発光部(赤外線LED211)と、受光部(赤外線カメラ)212を有する)と、撮像制御部220と、生体部位検出処理部230と、記憶部240と、を有する。
【0085】
撮像制御部220は、例えば、撮像部210を、例えばTOF(Time of Flight)方式にて制御する。言い換えれば、赤外光(ここでは近赤外光)を発光してから、対象物(測定対象である生体の部位(ここでは顔))からの反射光が戻ってくるまでに要する時間を計測し、対象物までの距離を計測する。
この距離データに基づいて、対象物を3D画像にて検出することもできる。撮像制御部220は、撮像部210を制御して、例えば、1秒間に10回~20回(10fps~20fps)程度の測定を行ってもよい。
【0086】
生体部位検出処理部230は、画像取得部231と、反射光パターン抽出部232と、反射光パターン検出部233と、画素ヒストグラム均等化処理部(言い換えれば、均等化フィルタ処理部)234と、機械学習モデル(言い換えれば検出アルゴリズム)選択部235と、生体部位検出部(顔検出部)236と、結果出力部237と、を有する。
【0087】
これらの各部は、CPU等のプロセッサ(不図示)がプログラムを実行することで実装されてもよいし、ASIC、FPGA等の専用のロジック回路により実装されてもよい。
【0088】
ここで、プログラムによって各部を構築することは容易であり、処理内容の変形や応用もし易いといった利点がある。また、プログラムをコンピュータが読み取り可能な記憶媒体に格納することで、容易に持ち運ぶことができる。
【0089】
画像取得部231は、生体の部位(ここでは顔)を撮像して得られる撮像画像(撮像画像データ)を取得する。撮像画像(入力画像)は、静止画像であってもよいし、動画像であってもよい。
【0090】
反射光パターン抽出部122は、比較的高速で軽量なアルゴリズムにより、例えば、画素値が飽和状態であり、かつ所定形状をもつ反射光パターンを抽出する。反射光パターンの抽出に際しては、記憶部240の反射光パターン記憶部241を適宜、参照することができる。言い換えれば、例えば、反射光パターン記憶部241に記憶されている複数の反射光パターの中から1つを選択して使用することができる。
【0091】
反射光パターンの抽出に際しては、具体的には、HoG(Histgram of Gradient)特徴量、ならびに、SVM(Support Vector Machine)を用いたアルゴリズムを採用可能である。
【0092】
その他、特徴量として、SIFT特徴量、SURF特徴量など任意の特徴量、学習手法としては、boosting手法や、ニューラルネットワーク、決定木学習などの任意の学習手法を用いることができる。
【0093】
反射光パターン検出部233は、反射光パターン抽出部232によって検出された反射光パターンの、少なくとも位置(範囲)および種類を判定する。
【0094】
画素ヒストグラム均等化処理部234は、検出された反射光パターンの種類に応じて、画像全体に対して使用する画素ヒストグラム均等化フィルタの選択を行う。この際、記憶部240の画素ヒストグラム均等化フィルタ記憶部242を適宜、参照してもよい。
言い換えれば、例えば、画素ヒストグラム均等化フィルタ記憶部242に記憶されている複数のフィルタの中から1つを選択して、画像均等化処理を実施してもよい。
【0095】
具体的には、画面全体の画素を対象として均等化処理を施す一般的な画素値ヒストグラムの均等化を採用することができ、また、例えば、局所的にコントラスト制限を付けた均等化処理であるCLAHEといった手法を用いることができる。
【0096】
機械学習モデル(言い換えれば検出アルゴリズム)選択部235では、反射光パターン検出部233で検出され、分類された反射光パターンの位置及び種類に応じて、使用する学習モデルおよび学習データの選択を行う。
この際、記憶部240の機械学習モデル記憶部243に記憶されている各種の学習モデルを、適宜、参照することができる。
【0097】
ここで、アルゴリズムと、学習モデルとの関係について説明する。アルゴリズムは、「コンピュータが計算を行う際の手順や処理方法」を記述したソフトウエアである。
【0098】
また、モデル(学習モデル、あるいはAIモデル)は、例えば、与えた教師データから上記のアルゴリズムに基づいて作られる「処理手順や処理方法の体系」ということができる。なお、この定義は一例であり、この解釈に限定されるものではない。
【0099】
生体部位検出部(顔検出部)236は、モデル選択部125で選択された学習モデルを、記憶部240における機械学習モデル記憶部131から呼び出して使用し、生体の部位(ここでは人体の顔)の検出を実施する。
【0100】
使用する学習モデルとしては、例えば、畳み込みニューラルネットワーク(CNN)と呼ばれる多層ニューラルネットワークを用いて学習した識別器、あるいは、DNN(Deep Neural Network)、もしくは、任意の手法による検出器を使用することができる。
【0101】
なお、生体部位検出部(ここでは顔検出部)236によって顔が存在すると推定される領域を、以下の説明では、「顔候補領域」と称する場合がある。
【0102】
結果出力部237は顔候補領域について検出結果を出力する。
結果出力部237は、検出結果の信頼度、あるいは、検出宇された顔候補領域(ここでは矩形領域とする)のサイズが第1の閾値以上であるか、あるいは、第2の閾値以下であるか等を判定し、その閾値判定の結果に応じて、検出結果を出力するか判断を行う。
【0103】
このように、検出結果が出力するに足る信頼性を有さないと判断される場合等には、検出結果の出力が禁止される。
例えば、画像上の座標とサイズとの関係が所定の条件を満たさない対象は、検出の対象から除外してもよい。例えば、HUD装置100に取り付けられた撮像部210により撮影を行った際に、検出対象である顔のサイズの撮像画像中での範囲は、ある程度、予測がつく。よって、予測される範囲の許容される最大サイズよりも大きい場合、あるいは、予測される範囲の許容される最小範囲よりも小さい場合は、検出対象の候補から除外することができる。従って、誤った検出結果の出力を抑制することができる。
【0104】
なお、結果出力部237は、検出結果の情報を、どのような態様で出力してもよい。例えば、検出結果情報を画面に表示してもよく、他のモジュールや装置に通知してもよい。
【0105】
また、記憶部240は、反射光パターン記憶部241と、画素ヒストグラム均等化フィルタ記憶部242と、機械学習モデル記憶部243を有する。
【0106】
反射光パターン記憶部241には、反射光パターン検出部233で使用される反射光パターンのモデルが格納されている。
【0107】
画素ヒストグラム均等化フィルタ記憶部242では、画素ヒストグラム均等化処理部234で使用されるフィルタの処理内容を記述した、複数のプログラムが格納されている。
【0108】
機械学習モデル記憶部(学習モデル記憶部)243には、生体部位検出部(顔検出部)236で使用され得る複数の学習モデルが格納されている。
【0109】
次に、
図3を参照する。
図3は、生体部位検出の手順例を示すフローチャートである。
【0110】
まず、ステップS1では、画像取得部231が、撮像により得られた画像データ(例えば動画像データ)の内から、処理対象となるフレーム画像を抽出して取得する。
【0111】
ステップS2では、反射光パターン抽出部232が、特定の画素分布をもつ領域を抽出する。続いて、ステップS3では、反射光パターン検出部233が、反射光パターン記憶部241に保存されている反射光パターンを参照して反射光の種類と位置(範囲)を判断する。
【0112】
ステップS4では、画素ヒストグラム均等化処理部(画像均等化処理部)234が、検出された反射光(反射光パターン)の種類に応じて、画像に施す画素均等化処理に使用するフィルタ(均等化フィルタ)を選択し、そのフィルタ(均等化フィルタ)を用いた画像均等化処理を実施する。
【0113】
ステップS5では、画像内の所定位置に第1の反射パターンが有るか否かが判定される。この判定は、反射光パターン検出部233によって実施される。
【0114】
ステップS5にてYのときは、ステップS6にて、第1の学習モデル(言い換えれば、第1の検出アルゴリズム)と、第1の学習モデルで使用された学習データを取得する。この動作は、機械学習モデル(検出アルゴリズム)選択部235が実施する。
【0115】
一方、ステップS5でNのときは、ステップS7で、画像内の所定位置に第2の反射パターンが有るか否かが判定される。Yのときは、ステップS8で、第2の学習モデルと、第2の学習モデルで使用された学習データを取得される。
【0116】
ステップS7にてNのときは、ステップS9において、第2の学習モデルで使用された学習データが取得される。
【0117】
ステップS10では、選択された学習モデルおよび学習データを用いて、生体部位検出部236が、生体の部位(ここでは乗員5の顔)の検出を実施する。
【0118】
ステップS11では、検出結果が所定条件を満たすか否かの判定を実施する。Yのときは、ステップS12にて、検出結果が出力される。Nのときは、ステップS13にて、検出結果の出力が禁止される。
【0119】
(第2の実施形態)
本実施形態では、主要な処理について、より具体的に説明する。
図4を参照する。
図4は、反射光パターンの抽出、ならびに検出の一例を示す図である。
【0120】
図4のA-1において、被写体である乗員(人)5は、眼鏡9を装着している。また、ここでは、乗員(人)5の少なくとも首及び肩部を含む上半身を撮像するものとする。
【0121】
撮像画像の撮像領域Z0において、第1、第2、及び第3の領域Z1~Z3が設けられている。
第1の領域Z1は、一般的な人の顔の存在領域に相当する。第2の領域Z2は、一般的な人の顔における、両目の位置(両目が位置する範囲)に相当する。第3の領域Z3は、一般的な人の首及び肩部に相当する。
【0122】
図4のA-2では、第2の領域Z2内の一部(乗員5の右目に相当する位置)において局所的な反射R1が生じている。これは、撮像光(赤外光)の眼鏡9の表面での反射に起因する典型的な反射パターンの1つと考えられる。
【0123】
一方、
図4のA-3では、第1の領域Z2の、かなり広い範囲にわたって、強い反射R2が生じている。これは、太陽光等の外光による反射パターンの典型的な例の1つと考えられる。
【0124】
図4のA-4には、先に
図2にて説明した構成の一部が抜粋されて示されている。言い換えれば、
図4のA-4には、画像取得部231と、反射光パターン抽出部232と、反射光パターン検出部233と、記憶部240と、反射光パターン記憶部241と、が示されている。
【0125】
反射光パターン抽出部232は、撮像部210における受光部212から得られる撮像画像について、画素値が飽和して階調性が失われた、所定形状の画像領域を抽出する。
【0126】
例えば、太陽光の反射光パターンは、撮像画像において、画素値255(25階調のグレースケール画像の場合、白飛びするため階調値は255となる)の画素が、略円形に分布するようなパターンとなる可能性が高い。
【0127】
よって、受光部212から得られる撮像画像について、画素値が飽和して階調性が失われた、所定形状の画像領域を抽出することで、所定の反射光パターンを特定可能である。
【0128】
また、反射光パターン検出部233は、反射光パターン抽出部232が抽出した反射光パターンに基づいて、少なくとも、その位置(範囲)及び反射光の種類を検出する。
【0129】
反射光パターン検出部233は、反射光パターン記憶部241における複数の学習モデルの中から、反射光パターンの種類に対応する学習モデルを選択し、かつ、選択された学習モデルに対応する学習データを選択し、選択された学習モデル、及び学習データに基づいて、反射光パターンの検出を実施する。
【0130】
言い換えれば、検出アルゴリズム(必要に応じて、併せて使用する学習済みデータも含む)を適宜変更することにより、例えば、太陽のウインドシールドへの映り込みに起因する反射光を含む画像、若しくは、撮像光である赤外光の眼鏡等での反射光を含む画像の各々に対して、頑強な検出器を提供することができる。
【0131】
例えば、太陽光の反射光による妨害をより多く学習した学習モデル及び学習データを用いることで、太陽光の反射パターンが存在する場合(
図4のA-3)に使用可能な、太陽光の反射に強い検出装置を得ることができる。
【0132】
また、赤外光の眼鏡への反射光による妨害をより多く学習した学習モデル及び学習データを用いることで、眼鏡等での撮像光の反射が存在する場合(
図4のA-2)に使用可能な、撮像光(赤外光)の反射に強い検出装置を得ることができる。
【0133】
次に、
図5を参照する。
図5は、反射光パターンが無い場合、赤外光(撮像光)の反射パターンが有る場合、太陽光の反射パターンがある場合の各々における生体部位検出の内容例を示す図である。
【0134】
図5のA-1では、乗員(人)5は、眼鏡を装着しておらず、また、撮像領域Z0における、検出対象である顔に対応する第1の領域Z1には、反射光パターンは存在しない。
【0135】
この場合には、先に
図3のフローチャートのステップS9に示したように、第3の学習モデルと学習データが選択される。
【0136】
また、選択された第3の学習モデルで使用される顔検出アルゴリズムは、検出の条件数がm(mは3以上の自然数)である。また、撮像画像のコントラスト調整のために、ヒストグラム均等化法(HE法)が使用される。
【0137】
図5のA-2では、乗員(人)5は、眼鏡9を装着している。また、
図5のA-2では、先の
図4のA-2の例と同様に、第2の領域Z2において反射R1(第1の反射パターン)が生じている。
【0138】
この場合、先に
図3のフローチャートのステップS6に示したように、第1の学習モデルと学習データが選択される。
【0139】
また、選択された第1の学習モデルで使用される顔検出アルゴリズムは、検出の条件数がn(nは、n<mを満たす自然数)である。例えば、
図5のA-1では、顔の特徴量として、右耳、右目、鼻、左目、左耳の5つの部位を検出していたとする場合、
図5のA-2では、第1の反射光パターンR1が存在する位置(範囲)にある、あるいは、その位置(範囲)の近傍にあると推定される右耳、右目を検出対象の特徴量から除外して、検出の条件を緩和する、といった措置を採ることができる。この場合は、鼻、左目、左耳が特徴量の検出候補となる。
【0140】
これにより、第1の反射パターンR1の影響を比較的受けていないと考えられる特徴量についてのみ検出を行うことができる。よって、検出精度や信頼性の低い特徴量の検出結果に影響されて、顔の検出結果自体の検出精度が低下することが抑制され得る。
【0141】
また、
図5のA-2では、撮像画像のコントラスト調整のために、適応ヒストグラム均等化法(AHE法)が使用され得る。
【0142】
図5のA-3では、先の
図4のA-3の例と同様に、第1の領域Z1おいて反射R2(第2の反射パターン)が生じている。
【0143】
この場合、先に
図3のフローチャートのステップS8に示したように、第2の学習モデルと学習データが選択される。
【0144】
第2の学習モデルでは、顔の周辺に位置する周辺部位(周辺領域)である、首及び肩部Z3の骨格検出が実施される。言い換えれば、骨格検出に基づく顔推定アルゴリズムが使用される。骨格検出による顔の推定による検出の詳細については後述する。
【0145】
また、
図5のA-3では、撮像画像のコントラスト調整のために、コントラスト制限適応ヒストグラム均等化法(CHAHE法)が使用され得る。
【0146】
また、
図5のA-3では、例えば、検出対象の座標位置とサイズに基づく判定の結果、所定条件を満足しない場合は、検出結果の出力を禁止する措置が採られる。これによって、信頼性が低い検出結果が出力されるのを防止することができる。
【0147】
(第3の実施形態)
本実施形態では、骨格検出アルゴリズムを用いた学習モデルを使用した顔の推定による検出について説明する。
【0148】
図6を参照する。
図6は、骨格検出アルゴリズムを用いた学習モデルを使用した顔の推定による検出の一例を示す図である。
【0149】
図6のA-1では、撮像領域Z0における乗員(人)5の顔の領域に、太陽光の反射による反射パターン(
図4のA-3、
図5のA-3に示した第2の反射パターン)R2が、かなりの広範囲にわたって生じている。
【0150】
図6のA-1のような反射パターンによる広範な妨害が生じる場合、例えば、目、鼻、耳のような顔の構成要素についての特徴量の検出に失敗する、あるいは、失敗する可能性が高いと判断されることがある。
【0151】
そこで、
図6のA-2では、検出対象である顔の周辺に位置する部位である首及び肩部(首及び肩部の領域)Z3における骨格検出を実施し、骨格検出の結果に基づいて、顔を推定して検出する。
【0152】
近赤外光を用いた生体部位検出装置(距離センサを用いた生体部位の検出システム)では、被写界深度にある程度の幅があることから、目、鼻、耳といった顔の構成要素(顔のパーツ)の検出の他、例えば、首及び肩部Z3における骨格検出も併せて実施することができる。
【0153】
図6のA-2では、乗員(人)5の首及び肩部Z3における、首の代表的骨格点(首の代表点)Q2、及び、肩部の代表的骨格点(左右の各肩の代表点)Q1、Q3の各々の、撮像画像Z0上における2次元座標が取得される。
【0154】
骨格点Q1とQ2の座標から、その間にある鎖骨BN1の位置を推定することができ、また、骨格点Q2とQ3の座標から、その間にある鎖骨BN2の位置を推定することができる。
【0155】
図6のA-3では、撮像画像において、首の骨格点Q2を通り、かつ実空間における上下方向(Z方向)に相当する方向に延びる仮想的な直線SR1を設定する。肩部の幅をWとするとき、直線SR1は、その幅Wを2等分する線分である。図中、幅W1は、W/2である。
【0156】
ここで、上記の直線SR1を、生体についての正中線(人や動物の前面又は背面の中央を通って縦に延びる直線)とする。また、直線SR1を面の一部とする場合には、直線SR1は、3次元の顔領域を2等分する正中矢状面とみることができる。
【0157】
人が直立した姿勢を想定すると、顔領域も、正中線によって2等分されると考えられる。よって、
図6のA-3では、正中線としての直線SR1によって2等分される、通常の大きさ(標準的な大きさ)の顔領域FC1を想定(推定)することができる。
【0158】
但し、上記の顔領域FC1は誤差を含むため、
図6のA-4では、ある程度の余裕を設定して、顔領域FC1を含む矩形の領域50を設定する。この矩形の領域50が、
図2に示した生体部位検出部(ここでは顔検出部)236によって、顔が存在すると推定される領域、言い換えれば「顔候補領域」である。
【0159】
また、顔候補領域50において、通常の人の目の高さ位置を示す仮想的な直線(正中線SR1に直交する直線)SR2を設定する。正中線SR1と、顔領域における標準的な目の高さ位置を示す直線SR2との交点に、左目及び右目を統合した、代表的な視点位置(代表的な目の位置)Q4を設定する。
【0160】
顔候補領域50、及び、視点位置Q4の動き(揺れ等)を観測することで、例えば、人5の状態を推定することができる。
【0161】
次に、
図7を参照する。
図7は、骨格検出アルゴリズムを用いた学習モデルを使用した顔の推定による検出の他の例を示す図である。
【0162】
図7のA-1、A-2は、太陽光の反射パターンが存在する点については、
図6のA-1、A-2と共通する。但し、
図7のA-1、A-2では、太陽光の反射パターンR2’は、
図6のA-1、A-2における反射パターンR2と比べて、やや小さく、このため、例えば、人5の左目や左耳を検出できる可能性がある。
【0163】
図7のA-2では、骨格検出による骨格点Q1~Q3に加えて、人5の左目の可能性のある候補点Q5、左耳の可能性のある候補点Q6を検出できたとする。
【0164】
図7のA-3では、骨格検出によって検出された骨格点Q1~Q3と、候補点Q5、候補点Q6との相対的な位置関係から、候補点Q5、Q6は、左目と左耳に相当すると推定することができる。
【0165】
そして、その左目、左耳と推定される点Q5、Q6を、正中線(正中線と推定される直線)S1を中心として、左右方向における反対側に(言い換えれば左側に)折り返すことで、右目と推定される点Q5’、右耳と推定される点Q6’を得ることができる。
【0166】
図7のA-4では、左右の耳と推定される点Q6、Q6’を通る標準的大きさの顔領域FC2を想定(推定)することができる。
【0167】
但し、上記の顔領域FC2は誤差を含むため、
図7のA-4では、ある程度の余裕を設定して、顔領域FC2を含む矩形の領域52を設定する。この矩形の領域52が、
図2に示した生体部位検出部(ここでは顔検出部)236によって、顔が存在すると推定される領域、言い換えれば「顔候補領域」である。
【0168】
図7の検出例によれば、顔候補領域52、左右の目と推定される点Q5、Q5’、及び左右の耳と推定される点Q6、Q6’の位置情報を取得することができる。
【0169】
このように、本実施形態では、
図2に示した学習モデル選択部(機械学習モデル(検出アルゴリズム)選択部)235は、反射光パターンR2、R2’が検出され、検出された反射光パターンR2、R2’が、撮像光(赤外光)以外の外光(太陽光)の反射に基づく第2の反射光パターンであり、生体の部位の検出に失敗する場合、あるいは、失敗する可能性が高いと判断される場合には、検出対象である生体の部位(ここでは人5の顔)の周辺に位置する周辺部位(ここでは、首及び肩部)について、骨格検出による周辺部位の検出を実施すると共に、検出された周辺部位(首及び肩部)と、検出対象である生体の部位(顔)との間の少なくとも1つ以上の関係性(例えば、顔は、首の骨格点Q2の上側にあり、かつ肩部を2等分する正中線SR1によって、顔も2等分されるという相対的な関係性)に基づいて、検出対象である生体の部位(首)の、推定による検出を実施することができる。
【0170】
これにより、例えば、検出対象である生体の部位自体の特徴量による検出ができないような場合(
図6の例)であっても、検出対象の周辺部位について、骨格検出による特徴量で検出を行った上で、各部位の相対的な関係性等に基づいて、検出対象である生体の部位を推定して検出することが可能である。これによって、対象物をまったく検出ができないという事態が抑制され、有用な検出情報を取得できる可能性を高めることができる。
【0171】
また、検出対象である生体の部位自体の特徴量が不完全ではあるが取得できた場合(
図7の例)には、その取得できた特徴量を用いた推定処理を実施して、対象物の検出精度を高めることもできる。
【0172】
以上説明したように、本発明の実施形態によれば、例えば、特定の反射光パターンを予め抽出し、その種類と位置等を検出し、例えば、検出された反射光パターンに影響を受けにくい学習モデル、言い換えれば、検出された反射光パターンに影響を受けにくい検出アルゴリズムを用いて作成された学習モデルを選択して、生体の部位、例えば、人体の顔を検出することができる。
【0173】
これによって、例えば、車載用の組込みシステム等で使用される、所定の用途に特化されて機能が限定されているSoC(システムオンチップ)を用いた場合でも、リアルタイム性を確保しつつ、状況に応じて最適な検出アルゴリズムを使用して、生体の部位の検出を行うことができる。
【0174】
言い換えれば、生体部位検出装置(生体部位検出システム)の構築にかかるコスト、及び検出処理に伴う装置の負荷を抑制しつつ、反射パターンが存在する環境下においても、撮像画像に基づく生体の部位、例えば、人体の顔の検出精度を向上させることができる。
【0175】
また、本実施形態によれば、例えば、車載表示装置の窓部にフィルタを設けて外光が直接的に車載装置内に入射できないようにし、生体部位検出装置を、その車載表示装置内の、直接的に入射する外光が遮蔽された位置(遮蔽された空間あるいは領域)に設けることができる。
【0176】
これにより、ウインドシールド等の反射透光部材で反射して車載表示装置内に間接的に入射する外光に対する対策に専念することができる。よって、外光(外乱光)の対策に要する装置の負担が軽減される。
【0177】
また、本実施形態によれば、車両に設けられた、光の反射性と透過性を併せ持つ反射透光部材に画像の表示光を照射して、前記車両の乗員に対して画像を表示する反射型の画像表示装置と、反射透光部材を経由して撮像光を乗員の部位に照射し、その部位からの反射光を、反射透光部材を経由して受光することで部位を撮像し、撮像画像に基づいて、生体の部位としての、前記乗員の目、口、鼻、耳の少なくとも1つ、あるいは、目、口、鼻、耳の少なくとも1つを含む顔全体の領域、を検出可能である生体部位検出装置と、を有する生体部位検出装置を実現することができる。
【0178】
この生体部位検出装置は、低コストであり、検出に際しての装置の負荷が低減され、小型化や低消費電力化も可能である。よって、実用に足る生体の部位検出精度を有する生体部位検出装置を搭載した車載表示装置を実現できる。これにより、例えば,HUD装置の多機能化、高機能化を実現することができる。
【0179】
以上、本発明について、いくつかの実施形態を用いて説明したが、本発明は、これらに限定されるものではなく、種々、変形、応用が可能である。
【0180】
本明細書において、車両という用語は、広義に、乗り物としても解釈し得る。
【0181】
また、生体には、人(人体)の他、動物(動物体)も含まれる。
【0182】
また、例えば、人体と同様の構造を備える人形や模型も、生体に含めることができる。また、検出対象である生体の部位(顔、目等)についても、柔軟に、かつ広義に解釈するものとする。例えば、生体の部位には、生体の全体(例えば生体の全体形状等)も含めることができる。
【0183】
また、車載表示装置(より広義には表示装置)には、シミュレータ(例えば、航空機のシミュレータ、ゲーム装置としてのシミュレータ等)として使用されるものも含まれるものとする。
【0184】
本発明は、上述の例示的な実施形態に限定されず、また、当業者は、上述の例示的な実施形態を特許請求の範囲に含まれる範囲まで、容易に変更することができるであろう。
【符号の説明】
【0185】
1・・・車両、2・・・ウインドシールド(反射透光部材)、4・・・インストルメントパネル(あるいはダッシュボード)、5・・・乗員(運転者等、人)、8・・・ステアリングホイール、9・・・眼鏡、50、52・・・顔候補領域(顔が存在すると推定される領域)、100・・・HUD装置(車載表示装置、反射型表示装置)、102・・・表示部、104・・・表示パネル(液晶表示装置等)、106・・・平面ミラー、108・・・曲面ミラー(凹面鏡等)、112・・・透光カバー、114・・・フィルタ部(赤外光を通過し、可視光を遮断するフィルタ、IRフィルタ)、200・・・生体部位検出装置(顔検出装置)、210・・・撮像部(撮像ユニット)、211・・・受光部(赤外線LED)、212・・・受光部(赤外線カメラ)、220・・・撮像制御部、230・・・生体部位検出処理部、231・・・画像取得部、232・・・反射光パターン抽出部、233・・・反射光パターン検出部、234・・・画素ヒストグラム均等化処理部(均等化フィルタ処理部)、235・・・機械学習モデル選択部(学習モデル選択部、検出アルゴリズム選択部)、236・・・生体部位検出部(顔検出部)、237・・・結果出力部、240・・・記憶部、241・・・反射光パターン記憶部、242・・・画素ヒストグラム均等化フィルタ記憶部、243・・・機械学習モデル記憶部(学習モデル記憶部)、Z0・・・撮像領域(撮像画像の撮像領域)、Z1・・・第1の領域(人の顔の存在領域)、Z2・・・第2の領域(人の顔における、両目の位置(両目が位置する範囲))、Z3・・・第3の領域(人の首及び肩部、首及び肩部の領域)、R1・・・第1の反射パターン(撮像光(赤外光)による反射パターン)、R2、R2’・・・第2の反射パターン(外光(太陽光や街灯光)による反射パターン)、Q2・・・骨格点(首の代表的骨格点、首の代表点)、Q1、Q3・・・骨格点(肩部の代表的骨格点、左右の各肩の代表点)、BN1、BN2・・・鎖骨、Q4・・・左目及び右目を統合した代表的な視点位置(代表的な目の位置)、Q5・・・人の左目の可能性のある候補点(左目と推定される点)、Q5’・・・右目と推定される点、Q6・・・人の右耳の可能性のある候補点(右耳と推定される点)、Q6’・・・右耳と推定される点、SR1・・・正中線(正中矢状面)、SR2・・・人の目の高さ位置を示す仮想的な直線(正中線に直交する直線、顔領域における標準的な目の高さ位置を示す直線)、FC1、FC2・・・顔領域(標準的な大きさの顔領域)。