特許第5753509号(P5753509)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ スタンレー電気株式会社の特許一覧

<>
  • 特許5753509-被測定物情報取得装置 図000002
  • 特許5753509-被測定物情報取得装置 図000003
  • 特許5753509-被測定物情報取得装置 図000004
  • 特許5753509-被測定物情報取得装置 図000005
  • 特許5753509-被測定物情報取得装置 図000006
  • 特許5753509-被測定物情報取得装置 図000007
  • 特許5753509-被測定物情報取得装置 図000008
  • 特許5753509-被測定物情報取得装置 図000009
  • 特許5753509-被測定物情報取得装置 図000010
  • 特許5753509-被測定物情報取得装置 図000011
  • 特許5753509-被測定物情報取得装置 図000012
  • 特許5753509-被測定物情報取得装置 図000013
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】5753509
(24)【登録日】2015年5月29日
(45)【発行日】2015年7月22日
(54)【発明の名称】被測定物情報取得装置
(51)【国際特許分類】
   G01S 17/06 20060101AFI20150702BHJP
   G01S 17/89 20060101ALI20150702BHJP
【FI】
   G01S17/06
   G01S17/89
【請求項の数】4
【全頁数】22
(21)【出願番号】特願2012-77501(P2012-77501)
(22)【出願日】2012年3月29日
(65)【公開番号】特開2013-205368(P2013-205368A)
(43)【公開日】2013年10月7日
【審査請求日】2013年2月19日
(73)【特許権者】
【識別番号】000002303
【氏名又は名称】スタンレー電気株式会社
(74)【代理人】
【識別番号】110000800
【氏名又は名称】特許業務法人創成国際特許事務所
(72)【発明者】
【氏名】河田 任史
【審査官】 吉田 久
(56)【参考文献】
【文献】 特開2009−23400(JP,A)
【文献】 特開2008−89346(JP,A)
【文献】 特開平11−108761(JP,A)
【文献】 特開2008−165578(JP,A)
【文献】 特開平11−259206(JP,A)
【文献】 特開平7−110440(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01S 17/00−17/95、
7/48−7/51
G01V 8/00−8/26
B60Q 3/00−3/06
B60H 1/00−3/06
G01K 1/00−19/00
G06T 7/20
(57)【特許請求の範囲】
【請求項1】
所定の撮影範囲についての撮像画像を生成する撮像装置と、
変調光を前記撮影範囲に向けて出射する変調光出射部と、
前記撮像画像に基づいて変調光が前記撮影範囲内の被測定物まで行って反射光として戻って来るのに要した所要時間を算出し該所要時間に基づいて前記被測定物までの距離を算出する距離算出部と、
前記撮影範囲をマトリクス状に区画し、各区画が前記撮像画像の各撮像区画に対応する複数の撮影区画に対して、前記距離算出部が算出した前記被測定物までの距離に基づいて各撮影区画からの温度観測用放射媒体の入射量を補正し、補正した入射量に基づいて各撮影区画ごとに温度段階を検出する温度検出装置と、
所定の温度段階が検出された撮影区画の個数、又は前記複数の撮影区画について各撮影区画ごとの温度段階を配置してなる温度段階パターンに基づいて前記被測定物に係る情報を取得する情報取得部とを備えることを特徴とする被測定物情報取得装置。
【請求項2】
請求項1の被測定物情報取得装置において、
前記温度検出装置は、前記撮影範囲の各部位からの温度観測用放射媒体の強さを各画素データとして保存しかつ各撮像区画ごとに所属の画素データが読出し自在になっている撮像型温度センサ、又は各々が対応する撮影区画からの温度観測用放射媒体の入射量を検出する複数の入射量検出型温度センサから成ることを特徴とする被測定物情報取得装置。
【請求項3】
請求項2の被測定物情報取得装置において、
前記情報取得部は、前記温度検出装置の検出に基づいて被測定物が存在する撮影区画に対応する画像部分を前記撮像画像から抽出して、該画像部分に対するパターンマッチング処理により前記被測定物に係る情報を取得することを特徴とする被測定物情報取得装置。
【請求項4】
所定の撮影範囲についての撮像画像を生成する撮像装置と、
変調光を前記撮影範囲に向けて出射する変調光出射部と、
前記撮像画像に基づいて変調光が前記撮影範囲内の被測定物まで行って反射光として戻って来るのに要した所要時間を算出し該所要時間に基づいて前記被測定物までの距離を算出する距離算出部と、
前記撮影範囲をマトリクス状に区画し、各区画が前記撮像画像の各撮像区画に対応する複数の撮影区画に対して、前記距離算出部が算出した前記被測定物までの距離に基づいて各撮影区画からの温度観測用放射媒体の入射量を補正し、補正した入射量に基づいて各撮影区画ごとに温度段階を検出する温度検出装置と、
前記温度検出装置が検出した各撮影区画ごとの温度段階に基づいて前記被測定物に係る情報を取得する情報取得部とを備え、
前記温度検出装置は、前記撮影範囲の各部位からの温度観測用放射媒体の強さを各画素データとして保存しかつ各撮像区画ごとに所属の画素データが読出し自在になっている撮像型温度センサ、又は各々が対応する撮影区画からの温度観測用放射媒体の入射量を検出する複数の入射量検出型温度センサから成ることを特徴とする被測定物情報取得装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、被測定物までの距離に基づいて該被測定物についての各種情報を取得する被測定物情報取得装置に関する。
【背景技術】
【0002】
被測定物に対し変調光を出射して、該変調光が被測定物に反射して戻って来た反射光をカメラにより検出し、カメラの出力から変調光が被測定物までの往復に要した所要時間を算出し、該所要時間に基づいて被測定物までの距離を測定する距離測定装置が知られている(例:特許文献1)。
【0003】
一方、特許文献2は、運転手が手指を動かして所定のジェスチャを行うことによりカーナビゲーション装置に対して各種の指示を出すジェスチャスイッチ装置を開示する。該ジェスチャスイッチ装置によれば、ステレオカメラ(左右に各1個のカメラ)がダッシュボードに配設され、ステレオカメラから運転手の手指の三次元画像情報を取得するようになっている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2008−89346号公報
【特許文献2】特開2010−184600号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献2のジェスチャスイッチ装置は、所定の明るさが確保される場所では、ジェスチャを把握することができるが、夜間等、車室内が暗い期間では、ジェスチャの把握に支障が生じる。
【0006】
特許文献1の距離測定装置は、暗い場所でも、被測定物までの距離を円滑に測定することができるが、被測定物についての距離以外の情報を取得することは難しい。
【0007】
本発明の目的は、被測定物に係る各種情報を暗がりでも円滑に取得することができる被測定物情報取得装置を提供することである。
【課題を解決するための手段】
【0008】
第1発明の被測定物情報取得装置は、所定の撮影範囲についての撮像画像を生成する撮像装置と、変調光を前記撮影範囲に向けて出射する変調光出射部と、前記撮像画像に基づいて変調光が前記撮影範囲内の被測定物まで行って反射光として戻って来るのに要した所要時間を算出し該所要時間に基づいて前記被測定物までの距離を算出する距離算出部と、前記撮影範囲をマトリクス状に区画し、各区画が前記撮像画像の各撮像区画に対応する複数の撮影区画に対して、前記距離算出部が算出した前記被測定物までの距離に基づいて各撮影区画からの温度観測用放射媒体の入射量を補正し、補正した入射量に基づいて各撮影区画ごとに温度段階を検出する温度検出装置と、所定の温度段階が検出された撮影区画の個数、又は前記複数の撮影区画について各撮影区画ごとの温度段階を配置してなる温度段階パターンに基づいて前記被測定物に係る情報を取得する情報取得部とを備えることを特徴とする。
【0009】
第1発明によれば、変調光による被測定物までの距離測定と被測定物からの温度観測用放射媒体の入射量に基づく各撮影区画の温度とを、周囲の明るさに関係なく算出又は検出することができる。これにより、被測定物までの距離と各撮影区画ごとの検出温度とに基づいて被測定物についての各種情報を、暗がりでも的確に取得することができる。
【0010】
第2発明の被測定物情報取得装置は、第1発明において、前記温度検出装置が、前記撮影範囲の各部位からの温度観測用放射媒体の強さを各画素データとして保存しかつ各撮像区画ごとに所属の画素データが読出し自在になっている撮像型温度センサ、又は各々が対応する撮影区画からの温度観測用放射媒体の入射量を検出する複数の入射量検出型温度センサから成ることを特徴とする。
【0011】
第2発明によれば、撮像型温度センサ又は複数の入射量検出型温度センサに基づいて各撮影区画ごとの温度を支障なく検出することできる。
【0012】
第3発明の被測定物情報取得装置は、第2発明において、前記情報取得部は、前記温度検出装置の検出に基づいて被測定物が存在する撮影区画に対応する画像部分を前記撮像画像から抽出して、該画像部分に対するパターンマッチング処理により前記被測定物に係る情報を取得することを特徴とする。
【0013】
第3発明によれば、パターンマッチング処理は、温度検出装置の検出に基づいて被測定物が存在する撮影区画に対応する画像部分に絞って、実施するので、パターンマッチング処理の軽減及び処理時間の短縮を図ることができる。
第4発明の被測定物情報取得装置は、所定の撮影範囲についての撮像画像を生成する撮像装置と、変調光を前記撮影範囲に向けて出射する変調光出射部と、前記撮像画像に基づいて変調光が前記撮影範囲内の被測定物まで行って反射光として戻って来るのに要した所要時間を算出し該所要時間に基づいて前記被測定物までの距離を算出する距離算出部と、前記撮影範囲をマトリクス状に区画し、各区画が前記撮像画像の各撮像区画に対応する複数の撮影区画に対して、前記距離算出部が算出した前記被測定物までの距離に基づいて各撮影区画からの温度観測用放射媒体の入射量を補正し、補正した入射量に基づいて各撮影区画ごとに温度段階を検出する温度検出装置と、前記温度検出装置が検出した各撮影区画ごとの温度段階に基づいて前記被測定物に係る情報を取得する情報取得部とを備え、前記温度検出装置は、前記撮影範囲の各部位からの温度観測用放射媒体の強さを各画素データとして保存しかつ各撮像区画ごとに所属の画素データが読出し自在になっている撮像型温度センサ、又は各々が対応する撮影区画からの温度観測用放射媒体の入射量を検出する複数の入射量検出型温度センサから成ることを特徴とする。
第4発明によれば、撮影範囲をマトリクス状に区画した各撮影区画ごとに温度段階を検出することにより、撮影範囲の温度分布の特徴をマトリクス状の撮影区画の温度分布として処理することができ、撮影範囲の温度分布の特徴抽出処理を効率化することができる。また、被測定物までの距離に基づいて補正した温度観測用放射媒体の入射量に基づいて各撮影区画ごとに温度段階を検出するので、同種の被測定物に対しては、該被測定物までの遠近に関係なく、同一の温度段階を得ることができる。これにより、被測定物の取得情報の精度を高めることができる。さらに、撮影範囲のマトリクス状の設定された複数の撮影区画の各々の温度段階を撮像型温度センサや複数の入射量検出型温度センサを用いて、円滑に検出することができる。
【図面の簡単な説明】
【0014】
図1】自動車における車内情報取得装置の配備図。
図2】車内情報取得装置をその前面側から見た斜視図。
図3】単一の赤外線カメラに代えて用いられる複数の赤外線センサを用いる場合の自動車における車内情報取得装置及び赤外線センサの配備図。
図4】各赤外線センサが入射量を検出する赤外線の入射範囲と撮影範囲との関係を示す図。
図5】車内情報取得装置のブロック図。
図6】変調光を使用した距離測定方式の説明図。
図7】光カメラの上下画角と光カメラからの距離と上下画角幅との間の関係についての説明図。
図8】距離だけでは被測定物の大きさが定まらない場合の説明図。
図9】撮影範囲に対して設定する温度検出区画としての撮影区画を示す図。
図10】撮影区画ごとの温度に基づいて人の大きさが判断できることを示す図。
図11】運転手による手指の種々のジェスチャを示す図。
図12】車内情報取得装置を装備する自動車において実施する制御のフローチャート。
【発明を実施するための形態】
【0015】
図1の自動車1において、運転手2及び助手3は車室内の運転席及び助手席にそれぞれ座っている。車内情報取得装置4は、ダッシュボード5の左右方向ほぼ中央位置に車室の後方向きに配備される。
【0016】
車内情報取得装置4は光カメラ8及び赤外線カメラ9を備え、光カメラ8及び赤外線カメラ9は水平画角θ及び上下画角γ(図7)で規定される撮影範囲6を撮影して、それぞれ光及び赤外線による撮像画像を生成する。なお、図1及び後述の図3の撮影範囲6は、光カメラ8の光軸方向に対して直角方向から見た撮影範囲6である。図4で後述する撮影範囲17は、光軸方向に見た撮影範囲であり、撮影範囲6,17は、光カメラ8及び赤外線カメラ9の撮影範囲として同一の実体を、異なる方向から見ただけである。
【0017】
運転手2及び助手3は撮影範囲6の内側に位置している。光カメラ8及び赤外線カメラ9は、それぞれ撮影範囲6の各部位からの光及び赤外線の入射量を対応の各画素にデータとして保存する。光カメラ8及び赤外線カメラ9は、保存中の画素データが各画素別に読出し自在になっている。
【0018】
図2において、車内情報取得装置4はケース10内に後述の各素子を収納している。ケース10の前面11には、光カメラ8の凸レンズ12、4つのLED13、及び赤外線カメラ9の入射部14が露出している。
【0019】
凸レンズ12及び入射部14は、前面11の左右方向中心位置に揃えて、それぞれ下側及び上側の関係で前面11に配置される。LED13は凸レンズ12の左右に2つずつ配置される。各LED13は、それらの各光軸がケース10から遠ざかるに連れて左右及び上下に相互に離れるように、光軸を少し外側へ向けて、かつそれらからの変調光が、全体として左右方向へ撮影範囲6の左右幅全体に及び上下方向へ撮影範囲6の上下幅全体に広がるように、配備される。
【0020】
図3では、単一の赤外線カメラ9に代えて、複数の赤外線センサ25が配備される。車内情報取得装置24は、図1の車内情報取得装置4と同じ位置に配備され、赤外線カメラ9(図1)の装備を外されている。各赤外線センサ25は、対応する各入射方面26から入射してくる赤外線の入射量を該入射方面26の温度として検出する。
【0021】
図4は、各赤外線センサ25が入射量を検出する赤外線の入射範囲の区画図である。撮影範囲17は、光カメラ8の光軸方向へ見た撮影範囲であり、光カメラ8から所定距離、離れた位置における撮影範囲となっている。撮影範囲17は、光カメラ8の光軸方向へ光カメラ8から離れるほど、寸法が増大するが、それに伴い後述の赤外線検出範囲18や撮影区画19の寸法も増大するので、撮影範囲17、赤外線検出範囲18及び撮影区画19の寸法比は、光カメラ8の光軸方向の撮影範囲17の位置に関係なく、同一に維持される。
【0022】
この例では、撮影範囲17は、正方形とされるとともに、4×4の16個の正方形の撮影区画19により区画されている。赤外線検出範囲18の個数は、赤外線センサ25の個数と同一とされ、各赤外線センサ25は、その光軸が対応の撮影区画19の中心を貫通するように、ダッシュボード5に取り付けられている。
【0023】
各赤外線検出範囲18は、撮影範囲17の面上において各入射方面26が占める範囲であり、各撮影区画19の外接円になっている。各赤外線センサ25は、各赤外線検出範囲18からの赤外線量を各撮影区画19の温度として検出する。赤外線検出範囲18は、縦横に隣接するもの同士が、撮影範囲17の面上において、周辺部を部分的に重なり合っている。
【0024】
これに対し、図1の赤外線カメラ9は、撮影範囲17の赤外線撮像画像を生成するとともに、該撮像画像から各撮影区画19に相当する撮像区画の画素データを読み出し可能になっている。そして、赤外線カメラ9は、各撮影区画19について読み出した画素データに基づき各撮影区画19ごとの赤外線の入射量を算出し、算出した入射量を各撮影区画19の温度として検出する。したがって、赤外線カメラ9が個々に温度を検出する撮影区画19は、縦横に隣接するもの同士が、撮影範囲17の面上において重なり合うことなく、境界を接している。
【0025】
図5は車内情報取得装置4のブロック図である。制御装置30は、距離算出部31、撮影区画別温度検出部32、情報取得部33、制御信号出力部34及び機器制御部35を備える。距離算出部31は、公知の飛行時間計測法(TOF:Time Of Flight)を使用して、光カメラ8の撮影範囲6に含まれる被測定物までの距離を算出する。
【0026】
制御信号出力部34は、各LED13を駆動する各ドライバ38へ駆動電流を制御することにより、各LED13をオン、オフして、LED13から出射する変調光40を生成する。各LED13から出射する変調光40は、各LED13からの光軸方向へ進むに連れて、光軸に対して直角方向へ広がるが、広がり範囲は重なってもよいとする。制御信号出力部34は、複数のLED13の中から変調光40を出射するLED13を1つ、選択して、光カメラ8が複数の変調光40に由来する反射光を受光しないようにして、被測定物までの距離の測定精度を保証する。
【0027】
反射光41は凸レンズ12を介して光カメラ8に入射する。凸レンズ12は反射光41を絞る働きをする。赤外線42は入射部14を介して赤外線カメラ9に入射する。車内情報取得装置4に代えて車内情報取得装置24を用いる場合には、複数の赤外線センサ25が図5のブロック図において赤外線カメラ9に置換される。
【0028】
図6を参照してTOFについて概略を説明する。図6は、LED13から出射する変調光40と光カメラ8の受光強度(各時点の受光量に対応する。)とのタイミングチャートとなっている。
【0029】
LED13がオン(点灯)とオフ(消灯)と交互に繰り返されることによりパルス列からなる変調光40が生成される。変調光40の周波数は、例えば、5MHz〜10MHzの範囲内のものである。
【0030】
光カメラ8に入射される反射光41の受光強度は、変調光40が撮影範囲6(図1及び図3)内の被測定物に当たって反射して入射する反射光の強度と、背景光由来の反射光の入射強度との重畳となる。背景光由来の反射光は車室内が暗くなるほど、低下するが、変調光40由来の反射光は、車室内が暗いときも、所定強度が確保される。
【0031】
光カメラ8の受光強度は、変調光40由来の光の入射期間には該入射期間の前後の受光強度に対して隆起する。TOFでは、LED13における変調光40の立ち上がり時(=LED13から変調光40の出射開始時)と該変調光40が前方の被測定物に当たって反射してきた該変調光40由来の反射光の、光カメラ8への入射開始時との光の位相差から光飛行時間を算出し、光飛行時間に基づいて該被測定物までの距離を算出する。
【0032】
図5に戻る。撮影区画別温度検出部32は、撮影範囲17の各撮影区画19別に温度を検出する。
【0033】
情報取得部33は、距離算出部31及び撮影区画別温度検出部32の出力に基づいて被測定物に係る各種情報を取得する。各種情報の具体例は、後述の図12のSTEP8,15において取得するジェスチャや人員等である。
【0034】
図7は光カメラ8の上下画角γと光カメラ8からの距離Dと上下画角幅Hとの間の関係についての説明図である。γ,D,Hには次の関係式が成立する。なお、tanは正接を意味する。
【0035】
tan(γ/2)=H/(2・D)・・・(1)
2D・tan(γ/2)=H・・・(2)
【0036】
光カメラ8の上下方向の画素数nとすると、1画素当たりの高さH/nは次の(3)で表される。
【0037】
H/n=(2D/n)・tan(γ/2)・・・(3)
【0038】
(3)式から、被測定物までの距離と、光カメラ8の画素の内、被測定物を撮影している画素の上下方向連続する画素の連続数とから、被測定物の高さを求められることが分かる。
【0039】
図7(b)は助手3の実空間の高さHaを算出する説明図である。TOFに基づいて助手3までの距離Daが算出され、光カメラ8の画素データに基づいて被測定物の画素の上下方向連続数を検出し、検出した連続数からγaが求まる。この結果、(3)式に基づいてHaが算出される。
【0040】
図8は距離だけでは被測定物の大きさが定まらない場合の説明図である。図8(a)では、ジュニアシート51が助手席50に装着され、子供52がジュニアシート51に座っている。図8(b)では、チャイルドシート53が助手席50に装着され、乳幼児54がチャイルドシート53に座っている。
【0041】
距離算出部31による被測定物までの距離測定では、子供52及び乳幼児54までの距離は共にDbとなる。また、光カメラ8の画素データから把握される被測定物の上下方向連続画素数は、助手席50に上下寸法に相当するものになるために、子供52及び乳幼児54共にγbとなってしまう。このため、子供52と乳幼児54とは実際には上下寸法Hb,Hcの差異があるものの(Hb>Hc)、距離測定と画角検出とだけでは、子供52と乳幼児54とを区別することができない。
【0042】
車内情報取得装置4は、この問題を赤外線カメラ9を使って克服している。図9は、前述の図4において撮影範囲17に対して設定した撮影区画19に従い、被測定物としての子供52及び乳幼児54が撮影範囲17のどの撮影区画19を占めているかを示している。行列における要素の呼び方に倣い、撮影範囲17の撮影区画19について(行,列)を定義する。撮影範囲17の左上隅の撮影区画19を(1,1)と定義し、右方向へ1列ずつ列番号を1ずつ繰り上げ、下方向へ1行ずつ行番号を1ずつ繰り上げ、右下隅の撮影区画19を(4,4)と定義する。
【0043】
図9(a)において、子供52の部分が大部を占める撮影区画19は(2,2),(2,3),(3,2),(3,3)の4つとなっている。これに対し、図9(b)において、乳幼児54の部分が大部を占める撮影区画19は(2,2),(2,3)の2つとなっている。
【0044】
図10は撮影区画別温度検出部32が撮影範囲17において温度を検出する撮影区画19別の温度を示している。この例では、温度は4段階で示されている。各温度段階は、車室内で検出しようとする温度範囲全体を複数に分割した各分割部分に相当し、温度段階1から4へ順番に温度範囲が低くなっている。温度段階1の撮影区画19は、右肩上がりの斜線と右肩下がりの斜線とが重ね合わされて示されており、温度段階2の撮影区画19は、右肩上がりの実線の斜線が示されており、温度段階3の撮影区画19は、右肩上がりの波線が示されており、温度段階4の撮影区画19はブランクになっている。
【0045】
温度段階1は人の体温を含む温度範囲の温度段階に設定されている。したがって、温度段階1となっている撮影区画19には人の身体があると判断することができる。赤外線42は、熱源から放射され、熱源が遠ざかるに連れて弱まるので、赤外線カメラ9における絶対入射量から被測定物の温度を判断すると、赤外線カメラ9から遠い被測定物ほど、低温と判断されてしまう。したがって、撮影区画別温度検出部32は、距離算出部31が検出した被測定物までの距離に基づいて各撮影区画19についての赤外線カメラ9における絶対入射量を補正した補正値に基づいて各撮影区画19の温度を補正し、同一の温度の被測定物が遠近により異なる温度として検出されないようにする。
【0046】
図10(a)及び(b)はそれぞれ図9(a)及び(b)の被測定物に対する各撮影区画19の温度を示している。図10(a)では、(2,2),(2,3),(3,2),(3,3)の4つの撮影区画19が温度段階1の温度となっており、図10(b)では、(2,2),(2,3)の2つの撮影区画19のみが温度段階1となっている。また、図10(b)では、(2,2),(2,3)の下の(3,2),(3,3)の撮影範囲17は温度段階4となっている。
【0047】
図10(a)及び(b)の撮影区画19別の温度段階の検出に基づいて子供52と乳幼児54との識別が可能になる。撮影区画19別の温度段階の検出に基づいて子供52と乳幼児54を識別する仕方には、温度段階1の撮影区画19の個数を計数する仕方と、複数の撮影区画19についての温度段階パターンを調べる仕方がある。
【0048】
温度段階1の撮影区画19の個数を計数する仕方では、所定の閾値を設定し(図10の例では閾値=3)、温度段階1の撮影区画19の個数が閾値未満であれば、被測定物は乳幼児54と判断し、閾値以上であれば、被測定物は子供52と判断する。
【0049】
複数の撮影区画19についての温度段階パターンを調べる仕方では、乳幼児54の場合は、2×2の撮影区画19の領域として上段は2つとも温度段階1であり、下段は2つとも温度段階4となっている温度段階パターンが存在するのに対し、子供52の場合は、そのような温度段階パターンは存在しない。したがって、撮影範囲17における当該温度段階パターンの有無により子供52か乳幼児54かを識別する。
【0050】
なお、子供52及び乳幼児54と図7(b)の助手3との識別は被測定物までの距離に基づいて行うことできる。すなわち、子供52及び乳幼児54までの距離は、ジュニアシート51又はチャイルドシート53の背もたれの厚さ分、助手3までの距離よりも短くなる。
【0051】
図11は手指の種々のジェスチャを示している。運転手2は、手を車内情報取得装置4の前にかざして、手指による図11のジェスチャを行うことにより、エアコンやオーディオ機器への指示を出すことができる。
【0052】
図11(a)はじゃんけんの「ばあ」のジェスチャを示し、図11(b)はじゃんけんの「ちょき」のジェスチャを示し、図11(c)は親指のみを立てたジェスチャを示している。
【0053】
車内情報取得装置4は、被測定物までの距離を検出し、距離が50cm未満でかつ(距離補正後の)温度段階1の撮影区画19の個数が所定の閾値以上であるときには、光カメラ8の撮像画像の所定の画像部分に対してパターンマッチング処理を行い、運転手2が示した手指のジェスチャが図11(a)〜(c)のいずれであるかを識別する。
【0054】
車内情報取得装置4は、図11(a)〜(c)以外の手指のジェスチャや手指の動きも被測定物についての検出距離及び検出温度に基づいて識別することができる。ジェスチャにのみではなく手指の動きを伴ったジェスチャを検出することは、運転手2の意図的な指示であるのか、単に、手指が偶然に指定のジェスチャになったのかを区別して、誤検出を防止することに役立つ。ジェスチャの動きとしては、例えば、図11(a)〜(c)のようなジェスチャのいずれかを維持したまま、手指を特定の方向へ動かしたときは、運転手2の意図的な指示であると判断することができる。
【0055】
ジェスチャの組合せに対して1つの指示を割り当てることもできる。組み合わせ例では、図11(b)の「ちょき」から図11(a)の「ぱあ」に変化させる組み合わせに対して1つの指示を割り当てる。
【0056】
以上において、車内情報取得装置4は本発明の被測定物情報取得装置に相当する。光カメラ8は本発明の撮像装置に相当する。赤外線カメラ9、赤外線センサ25及び撮影区画別温度検出部32は、本発明の温度検出装置に相当する。赤外線カメラ9及び赤外線センサ25はそれぞれ本発明の撮像型温度センサ及び入射量検出型温度センサに相当する。LED13は本発明の変調光出射部に相当する。情報取得部33は本発明の被測定物情報取得装置に相当する。赤外線42は本発明の温度観測用放射媒体に相当する。
【0057】
図12は車内情報取得装置4を装備する自動車1において実施する制御のフローチャートである。該制御は制御装置30が所定のプログラムを実行することにより実施される。距離算出部31〜機器制御部35の機能は制御装置30がROM等のメモリ(図示せず)から読み出したプログラムを実行することにより実現される。
【0058】
図12に係る制御プログラムは、運転中に一定時間間隔の時間割込みで実行されることを想定している。理由は、STEP8,9の処理は、運転手2が自動車1の運転中適宜、行う手指のジェスチャによる指示だからである。なお、STEP15,16は、自動車1の運転開始時や、運転途中に乗員の乗り降りがあった時等の人員の変化や席の移動があった時をドアスイッチ等により検出して、その時に限定して実行することもできる。
【0059】
STEP1では、距離算出部31は光カメラ8から撮像画像(以下、該撮像画像を「光撮像画像」という。)データを取得する。該光撮像画像データは、光カメラ8がダッシュボード5から室内を撮影して生成したデータである。
【0060】
STEP2では、撮影区画別温度検出部32は赤外線カメラ9から撮像画像(以下、該撮像画像を「赤外線撮像画像」という。)データを取得する。該赤外線撮像画像データは、赤外線カメラ9がダッシュボード5から室内を撮影して生成したデータである。撮影区画別温度検出部32は、赤外線撮像画像を撮影範囲17における撮影区画19別の温度段階(例:図10)の把握に利用する。
【0061】
車内情報取得装置24が車内情報取得装置4の代わりに装備されている自動車1では、赤外線撮像画像に代えて、撮影区画別温度検出部32は、各赤外線センサ25(図3)から各赤外線検出範囲18について赤外線42の入射量のデータを取得し、このデータに基づいて各赤外線検出範囲18に対応する各撮影区画19の温度を割り出して、撮影範囲17における撮影区画19別の温度段階(例:図10)を把握する。
【0062】
STEP3では、距離算出部31は被測定物までの距離を算出する。距離算出部31は、距離の算出法として図6で説明したTOFを使用する。該TOFでは、LED13が被測定物に向かって変調光を出射し、被測定物に当たって反射光として戻って来る変調光由来の光を光カメラ8が検出することになるので、距離算出部31は、車内が暗闇であっても、被測定物までの距離を支障なく算出することができる。
【0063】
STEP4では、撮影区画別温度検出部32は、距離算出部31が算出した被測定物までの距離に基づいて赤外線撮像画像データを補正し、撮影範囲17における各撮影区画19の温度を補正する。撮影区画別温度検出部32による補正後の各撮影区画19の温度は、具体的には、図10に示すように、温度そのものではなく、段階で示されるものである。なお、温度を被測定物までの距離により補正する理由は、遠距離の被測定物ほど、赤外線カメラ9に入射する時の赤外線42が弱まるからである。
【0064】
STEP5では、撮影区画別温度検出部32は、撮影範囲17の撮影区画19の中に、人体温度段階の撮影区画19が含まれているか否かを判定し、含まれていれば、STEP6に進み、含まれていなければ、処理を終了する。人体温度段階の撮影区画19とは、具体的には、前述の温度段階1のことであり、図10(a)では(2,2),(2,3),(3,2),(3,3)の4つの撮影区画19である。
【0065】
STEP6では、情報取得部33は、被測定物までの距離が閾値未満であるか否かを判定し、閾値未満の判定であれば、STEP7へ進み、閾値以上の判定であれば、STEP15へ進む。該閾値は、例えば50cmであり、STEP7〜STEP9の手指のジェスチャの識別処理とSTEP15,16の車室内の人員等の検出処理とのどちらを実行するかを決定するように、設定される。ここでは、手指のジェスチャは車内情報取得装置4から50cm未満の距離で実施されることを想定している。
【0066】
STEP7では、情報取得部33は、光撮像画像から被測定物の画像部分データを読出す。光カメラ8は、光撮像画像の任意の領域の画像部分についてそのデータが読み出し自在になっている。
【0067】
STEP8では、情報取得部33は、STEP7で読出した画像部分データに対してパターンマッチング処理を行い、ジェスチャ(例:図11)を識別する。該パターンマッチング処理では、撮像画像データ全体に対してではなく、画像部分データを各ジェスチャに対して設定したパターン画像データと対比するので、パターンマッチング処理について、負荷の軽減及び処理時間の短縮が図られる。
【0068】
STEP9では、情報取得部33は、STEP7で識別したジェスチャの指示に対応付けられる機器制御を実行する。機器制御の具体例として挙げられるものは、エアコンの設定温度の調整、オーディオ機器のオン・オフ及び音量増減、並びにオーディオ機器における楽曲の再生・停止等がある。
【0069】
STEP15では、車室内の人員、居場所(乗員が座っている席)及び人の大きさ(例:図9に示される子供52か乳幼児54か)の情報を取得する。STEP15における具体的な情報取得の方法では、各座席に人がいないときの撮影区画19別の温度段階を予め記憶しておき、不在時の撮影区画19別の温度段階を今回検出した撮影区画19別の温度段階と対比して、温度段階の相違する撮影区画19の個数を調べ、該個数が閾値以上の相違があるか否かにより該座席における人の有無や人の大きさを判断する。
【0070】
STEP16では、機器制御部35は、人員、居場所及び人の大きさに応じた車載機器の制御を実行する。STEP16に含まれる車載機器の制御の具体例としては、乗員の居る各座席用の各吐出口からのからの送風の実施、空席部の各吐出口からの送風停止、人の大きさに応じた風量調整、衝突時の空席部へのエアバッグの作動停止が挙げられる。
【0071】
機器制御部35は、撮影範囲17の撮影区画19別の温度段階の情報を使って、運転手2及び助手3の頭の位置なども検出することができる。頭の高さは、撮影範囲17において、人体温度に相当する温度段階の撮影区画19の内、一番上の撮影区画19となるとともに、車室内での各撮影区画19の高さは予め判明している。したがって、機器制御部35は、STEP16の処理とは別に、人体温度に相当する段階の撮影区画19の内、一番上の撮影区画19の高さに適合するように、ヘッドレストの高さ調整やルームミラーやサイドミラーの角度調整なども実施することができる。
【0072】
さらに、機器制御部35は、頭の高さが上下又は左右に繰り返し振動するときは、居眠り運転の虞もあるとして、運転手2に対しブザー等により警報を出すこともできる。
【0073】
STEP17では、機器制御部35は、人体温度の段階の撮影区画19の個数や撮影範囲17における温度段階の配置パターンに基づいて人としての被測定物の大きさを判定する。大きさが大であれば、被測定物は大人と判断して、処理を終了する。被測定物の大きさが小であれば、被測定物は幼児と判断して、STEP18へ進む。具体的には、大きさの大と小とは人体温度の段階の撮影区画19の個数が所定値以上か未満かにより判断する。
【0074】
STEP18では、機器制御部35は、エンジンが停止しているか否かを判定し、エンジンが停止していれば、STEP19へ進み、エンジンが作動していれば、処理を終了する。
【0075】
STEP19では、機器制御部35は、子どもが室内に居残っている(取り残されている)と判断して、警報を出す。
【0076】
撮影範囲17の撮影区画19別の温度段階の情報の自動車1以外の応用例について述べる。
【0077】
[セキュリティ分野]
セキュリティ用途へ応用した場合、問題となるのが小動物(例えば猫やネズミ等)を誤検出して警報がなる場合がある。このシステムを用いた場合、物体の距離と大きさ、温度から人と小動物などの区別が可能となり、誤検出防止となる。
【0078】
[デジタルサイネージ]
デジタルサイネージの操作方式として、タッチパネル方式とジェスチャ方式とがある。表示器の画面が大きい場合、タッチパネル式だと、操作者は、画面の上部に手が届かず、該上部へのタッチ操作ができないことがある。これに対処して、離れた場所からジェスチャにて操作を行なえれば便利である。しかし、不特定多数が集まる場所に設置した時に、どの人にターゲットを合わせればよいか分からない。その場合、一番近い距離にいる人やその手を距離と温度から認識することで、複数人がいる場合でも、円滑な操作が可能となる。
【0079】
[家電関係]
エアコンや空気清浄機、テレビなど、人の有無を判断して制御を行なう電気機器が販売されている。現状は温度だけを見ていたり、温度変化だけを見ていたりするものであるが、距離情報を用いることで部屋の空間情報を学習させ、そこの温度情報を用いることで、今以上の制御が可能となる。例えば、被測定物について大きさと温度が分かれば、人に近い温度でも大きさが明らかに違うものであれば、被測定物は人ではないと判断することができる。
【0080】
[車室外]
車の後方監視では、運転手2がカメラ映像を自ら確認している。超音波センサが自動車1に装備されていることもあるが、距離精度などは高くない。このシステムを用いた場合、物体の大きさと温度が分かるため、人の可能性の高いものがあれば、警報を大きく鳴らしたり、強制的にブレーキをかけるなどの快適性を高めることが可能となる。
【0081】
以上、本発明を発明の実施形態について説明したが、本発明は、発明の実施形態に限定されることなく、要旨の範囲内で種々に限定して実施することができる。
【0082】
例えば、車内情報取得装置4は、前席用にダッシュボード5に1つのみ配備されているが、後席の人員及び居場所検出用に運転席の背もたれの背面に別途、車内情報取得装置4を配備することもできる。また、車内情報取得装置4を天井の中央部に下向きに1つ配備して、1つの車内情報取得装置4により室内全域の人員及び居場所を検出したり、車内情報取得装置4を天井の前席部位や後席部位に下向きに1つずつ配備して、それぞれ前席のみの人員及び居場所と後席のみの人員及び居場所とを別々に検出したりしてもよい。さらに、各座席の真上の天井部位にそれぞれ1つずつ車内情報取得装置4を下向きに配備して、各座席ごとに人の有無を検出することもできる。
【0083】
例えば、発明の実施の形態では、光カメラ8及び赤外線カメラ9は同一のケース10(図2)内に収納されて、共にダッシュボード5に配備されているが、光カメラ8はダッシュボード5に配備され、赤外線カメラ9は天井に配備してもよい。その場合、光カメラ8及び赤外線カメラ9はそれぞれ室内の後ろ向き及び下向きとなるものの、共に座席の方へ向けられて、座席を撮影するようにされる。
【符号の説明】
【0084】
4・・・車内情報取得装置(被測定物情報取得装置)、8・・・光カメラ(撮像装置)、9・・・赤外線カメラ(温度検出装置又は撮像型温度センサ)、13・・・LED(変調光出射部)、17・・・撮影範囲、18・・・赤外線検出範囲、19・・・撮影区画、24・・・車内情報取得装置、25・・・赤外線センサ(温度検出装置又は入射量検出型温度センサ)、31・・・距離算出部、32・・・撮影区画別温度検出部(温度検出装置)、33・・・情報取得部(被測定物情報取得装置)、40・・・変調光、41・・・反射光、42・・・赤外線。
図4
図6
図9
図11
図1
図2
図3
図5
図7
図8
図10
図12