(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0014】
実施の形態1
以下、図面を参照して本発明の実施の形態1について説明する。実施の形態にかかる熱画像処理装置100は、自動車に搭載される。熱画像処理装置100は、赤外線カメラ200から取得した熱画像の信号を処理することにより、物体を検出し、自車両と検出した物体との位置関係及び当該位置関係の変化に基づき、自車両と検出した物体とが衝突する可能性がある場合は、運転者に通知する。
【0015】
図1は、実施の形態にかかる熱画像処理装置100の機能ブロック図である。熱画像処理装置100は、赤外線カメラ200、表示装置201、音声出力装置202に接続している。また、熱画像処理装置100は、車内通信バスに接続されており、車速センサ300から車両の速度情報を受ける。又、熱画像処理装置100は、車内通信バスを介して、GPS(global positioning system)の自車両位置情報等を受けることもできる。
【0016】
赤外線カメラ200は、対物レンズ、シャッタ、及び赤外線検出器を有する。赤外線検出器は、例えば、アモルファスシリコンにより形成されたマイクロボロメータであり、一般的に遠赤外線といわれる波長8〜14マイクロメートルの赤外線を検出する。赤外線検出器は、対物レンズを通じて受けた赤外線を電気信号に変換して熱画像として出力する。赤外線検出器は、例えば、320×240個の画素からなる熱画像を出力する。又、赤外線カメラ200は、例えば、1秒間当たり30フレームの熱画像を出力する。赤外線カメラ200は、例えば、自車両の進行方向における自車両外の熱画像を出力可能な向きに設置されている。以下、自車両の進行方向は前方である例として説明する。
【0017】
表示装置201は、例えば、液晶表示装置や、ヘッドアップディスプレイ等である。表示装置201は、赤外線カメラ200から出力された画像信号を受け、これを表示する。また、表示装置201は、熱画像処理装置100から出力された画像信号を受け、これを表示する。
【0018】
音声出力装置202は、例えば、スピーカや、ブザー等である。音声出力装置202は、熱画像処理装置100から出力された音声信号を受け、これを出力する。
【0019】
熱画像処理装置100は、熱画像取得部101、物体検出部102、位置関係演算部103、警告信号出力部104、制御部105、及び判定部106を有する。熱画像処理装置100のハードウェア構成としては、CPU(Central Processing Unit)等の汎用的な演算装置、及びROM(Read only memory)又はRAM(Random access memory)等の記憶装置の組み合わせにより実現される。
【0020】
熱画像取得部101は、赤外線カメラ200から出力された熱画像信号を取得する。また、熱画像取得部101は、取得した熱画像をフレームごとに物体検出部102に出力する。
【0021】
物体検出部102は、熱画像取得部101から受けた熱画像から人や対向車などの物体を検出する。画像信号から物体を検出する手法は既に様々知られているため、ここでは詳述を省略し、概要を簡単に述べる。物体検出部102は、熱画像の画素ごとに輝度勾配を算出し、輝度勾配の特徴と、予め蓄積されたデータとを照合させ、例えば、人か否か等を検出する。物体検出部102は、かかる処理を熱画像のフレームごとに行う。また、物体検出部102は、かかる処理の結果情報を、位置関係演算部103に出力する。
【0022】
位置関係演算部103は、物体検出部102から受けた情報に基づいて、検出した物体と自車両との位置関係及び当該位置関係の変化を演算する。例えば、位置関係演算部103は、検出した物体の位置、移動方向、移動速度、自車両の速度などから、衝突時間(TTC=Time To Collision)を求める。又、位置関係演算部103は、TTCに基づいて、検出した物体と自車両とが衝突する可能性を算出することもできる。その場合、位置関係演算部103は、例えば、TTCに予め記憶しておいた変数を乗じることにより、かかる衝突可能性を算出する。又、位置関係演算部103は、熱画像中に警告領域を設定することもできる。その場合、位置関係演算部103は、検出した物体が警告領域に存在するか否かを算出する。
【0023】
警告信号出力部104は、位置関係演算部103の算出した結果に基づき、検出された物体が自車両と衝突する可能性が所定の値よりも高い場合には、表示装置201又は音声出力装置202に対して、所定期間、所定の警告信号を出力する。これにより、警告信号出力部104は、運転者に対して自車両が検出された物体と衝突する可能性があることを通知又は警告する。
【0024】
制御部105は、上述した各機能ブロック及び判定部106に接続している。又、制御部105は、図示しないカウンタ及び図示しない温度センサに接続している。制御部105は、各機能ブロックの制御を司っている。そして、制御部105は、カウンタが所定の時間経過したことを検出した場合、赤外線検出器の較正処理を指示するトリガを出力する。又、制御部105は、温度センサが所定の温度を超えて変化した場合、赤外線検出器の較正処理を指示するトリガを出力する。又、制御部105は、図示しない記憶部を有している。記憶部は、揮発性のランダムアクセスメモリ、又は不揮発性のフラッシュメモリ等である。
【0025】
次に、判定部106について説明する。判定部106は、熱画像処理装置100が赤外線検出器の較正を行うか否かを判定する。
【0026】
ところで、赤外線検出器の較正方法の一例は、次のようなものである。まず、赤外線カメラ200は、内蔵するシャッタを閉じる。次に、赤外線検出器は、シャッタの閉じた状態で熱画像を取得する。すなわち、赤外線検出器は、温度分布が均一であるシャッタ表面の熱画像を取得する。続いて、図示しない較正処理部は、撮像した熱画像に基づいて、各画素の出力値が均一になるように、赤外線カメラ200の出力値にオフセット値を加えて補正する処理を行う。このような較正処理を行う場合、赤外線カメラ200は所定の時間シャッタを閉じる。そのため、シャッタを閉じている間は赤外線カメラ200による車両外の熱画像の取得が制限される。
【0027】
したがって、判定部106は、赤外線検出器の較正を行う間シャッタを閉じることを踏まえ、且つ、位置関係演算部103の算出した結果に基づき、赤外線検出器の較正を行うか否かを判定する。すなわち、判定部106は、所定の時間シャッタを閉じることにより、自車両の安全性が担保できないと判断される場合には赤外線検出器の較正を行わないことを判定する。換言すると、判定部106は、所定の時間シャッタを閉じても、自車両の安全性が担保できると判断される場合には赤外線検出器の較正を行うことを判定する。
【0028】
車速センサ300は、自動車に設けられたセンサ等であって、自動車の速度を検出し、検出した速度値を、車内通信バスを介して熱画像処理装置100に出力する。
【0029】
次に、
図2及び
図3を参照しながら、熱画像処理装置100の処理について説明する。
図2は、実施の形態1にかかる熱画像処理方法のフローチャートである。
【0030】
本フローチャートの前提としては、熱画像処理装置100が既に動作しており、赤外線カメラ200による車両外の熱画像の出力が継続されている状態である。また、赤外線カメラ200が出力する自車両外の熱画像から、人や他の車両などの物体検出も継続されている状態である。まず、制御部105は、赤外線検出器の較正が必要か否かを判定する(ステップS10)。具体的には、例えば、熱画像処理装置100が起動してから所定の時間Tm0を経過したか、又は前回較正処理を行った時から所定の時間Tm0を経過したか否かを判定する。あるいは、図示しない温度計から赤外線検出器近傍の温度変化をモニタし、熱画像処理装置100が起動してから所定の温度ΔTp0を超える変化があったか否か、又は前回較正処理を行った時から所定の温度ΔTp0を超える変化があったか否かを判定する。
【0031】
そして、制御部105は、上述した例の場合であって、所定の時間Tm0を経過しない場合、又は所定の温度ΔTp0を超える変化がなかった場合(ステップS10:No)は、赤外線カメラ200による自車両外の熱画像の出力を継続しながら、再度較正が必要か否かを判定する。一方、制御部105は、所定の時間Tm0を経過した場合、又は所定の温度ΔTp0を超える変化があった場合、つまり較正を要すると判断した場合(ステップS10:Yes)は、次のステップへ進む。
【0032】
制御部105が、較正を要すると判断した場合(ステップS10:Yes)、物体検出部102は、熱画像取得部101が取得した熱画像から、物体が検出されたか否かを判定する(ステップS11)。物体検出部102が熱画像中に物体を検出しない場合(ステップS11:No)、赤外線検出器が較正処理を行うことによりシャッタを閉じても、自車両が物体と衝突する可能性はない。この場合、熱画像処理装置100は、赤外線検出器の較正処理を行う(ステップS14)。一方、物体検出部102が熱画像中に物体を検出した場合(ステップS11:Yes)、赤外線検出器が較正処理を行うことによりシャッタを閉じても良いとは直ちに判断できない。この場合、物体検出部102が検出した物体の情報を位置関係演算部103に出力する。
【0033】
次に、位置関係演算部103は、物体検出部102が検出した物体と、自車両との位置関係を演算する(ステップS12)。さらに、判定部106は、位置関係演算部103が演算した結果に基づいて、赤外線検出器の較正を行うか否かを判定する(ステップS13)。具体的には、判定部106は、検出した物体のTTCが、所定の値よりも大きいか否かを判定する。
【0034】
図3を参照しながら具体例を説明する。
図3は、実施の形態1にかかる熱画像処理装置100の処理を説明するための図である。
図3の熱画像400は、赤外線カメラ200により取得した熱画像を、説明のために模式化したものである。熱画像400は、温度が高い部分が相対的に白っぽく、温度が低い部分が相対的に黒っぽく表示されている。尚、説明の便宜上、
図2の熱画像400は、画面の左上を原点として、横方向にx軸を設定し、左から右に向かってx軸プラス方向として表される。同様に、
図2の熱画像400は、左上を原点として、縦方向にy軸を設定し、上から下に向かってy軸プラス方向として表される。
【0035】
物体検出部102は、熱画像取得部101により取得された熱画像400から、物体402及び物体404を検出している。ところで、熱画像400を取得する赤外線カメラ200は、自動車の所定の位置に、所定の方向に向けて設置されている。
図3に示した例の場合、赤外線カメラ200は、自車両の進行方向を撮像するように設置されている。熱画像400の下端すなわちY軸プラス方向の縁部は、自車両に最も近い領域が撮像されている。そして、点401が熱画像400の消失点又は無限遠である。位置関係演算部103は、熱画像400において検出された物体402及び物体404の位置関係を、例えば、熱画像400における2次元上の位置に基づいて、実際の3次元空間上における自車両と物体402及び物体404との位置関係を算出する。
【0036】
例えば、位置関係演算部103は、物体402の下部の点403の座標(X3、Y3)基づいて、自車両と物体402との位置関係を算出する。同様に、位置関係演算部103は、物体404の下部の点405の座標(X5、Y5)に基づいて、自車両と物体404との位置関係を算出する。位置関係演算部103は、熱画像400において検出された物体と自車両との位置関係を、例えば、図示しない可視光カメラが取得した映像に基づいて行ってもよい。また、ミリ波レーダなどを併用してもよい。
【0037】
続いて、位置関係演算部103は、熱画像400及び熱画像400よりも前に取得した別の熱画像から、物体402及び物体404の移動方向及び移動速度を算出する。又、位置関係演算部103は、算出した物体402及び物体404の位置、移動方向、移動速度、及び車内通信バスを介して取得した自車両の速度から、物体402及び物体404のTTCを算出する。
【0038】
次に、判定部106は、位置関係演算部103によって算出された物体402及び物体404のTTCを取得する。そして、判定部106は、赤外線検出器を較正するか否かを判定する。
図3の例の場合、判定部106は、物体402及び物体404のTTCが、所定値T1よりも大きいか否かを判定する(
図2のステップS13)。
【0039】
図2のフローチャートに戻り説明を続ける。判定部106が、検出された物体のTTCを所定値T1より大きいと判定しない場合(ステップS13:No)、検出された物体と自車両とが衝突する可能性が所定の値よりも高い。すなわち、このタイミングから赤外線検出器の較正処理を行った場合、検出された物体が自車両に更に近づいたときに、かかる較正処理が終了するまでの間に運転者に対して適正なタイミングに警告を出すことができない可能性が高い。よって、熱画像処理装置100は、赤外線検出器の較正を行わない。そして、熱画像処理装置100は、赤外線カメラ200による自車両外の熱画像の出力を継続しながら、再度物体が検出されたか否かの判断(ステップS11)に戻る。この場合の判断対象となる物体は、ステップS13の処理で、一旦TTCが所定値T1より大きいと判定されなかった物体とは異なる物体であってもよい。
【0040】
一方、判定部106が、検出された物体のTTCを所定値T1より大きいと判定した場合(ステップS13:Yes)、検出された物体と自車両とが衝突する可能性は所定の値よりも低い。すなわち、このタイミングから赤外線検出器の較正処理を行った場合、検出された物体が自車両に更に近づいても、かかる較正処理が終了するまでの間に運転者に対して警告を出す可能性は低い。よって、熱画像処理装置100は、赤外線検出器の較正処理を行う(ステップS14)。
【0041】
図3を参照しながら具体例を説明すると、物体402は自車両の前方を矢印方向すなわちX軸プラス方向に移動している。位置関係演算部103は、熱画像400中の物体402の位置、移動方向、移動速度、及び自車両の速度に基づいて、物体402のTTCを算出する。判定部106が、物体402のTTCを所定値T1よりも大きいと判定した場合、熱画像処理装置100は、赤外線検出器の較正処理を行う。一方、判定部106が、物体402のTTCを所定値T1よりも大きくないと判定した場合、熱画像処理装置100は、赤外線検出器の較正処理を行わない。物体404についても同様に処理を行う。
【0042】
位置関係演算部103は、上述した処理以外の例として、熱画像400において警告領域を設定することもできる。その場合、位置関係演算部103は、物体402及び物体404の位置、移動方向、移動速度、及び自車両の速度に基づいて、物体402及び物体404が所定時間内にかかる警告領域に存在するか否かを算出する。そして、物体402及び物体404が所定時間内にかかる警告領域に存在する場合、判定部106は、赤外線検出器の較正処理を行わない。一方、物体402及び物体404が所定時間内にかかる警告領域に存在しない場合、判定部106は、赤外線検出器の較正処理を行う。
【0043】
尚、物体402と自車両とが衝突する可能性が更に高まった場合、すなわち物体402のTTCがさらに小さくなった場合、警告信号出力部104は、運転者に対して衝突する可能性が高いことを警告する。
【0044】
このような構成により、熱画像処理装置100は、取得された熱画像内に検出された人や物体の動きに応じて、適切なタイミングに赤外線検出器の較正処理を行うことができる。
【0045】
実施の形態2
次に、実施の形態2について説明する。実施の形態2の機能ブロックは実施の形態1と同じである。そのためここでは共通する機能又は処理についての説明を適宜省略する。実施の形態2は、物体との衝突可能性が所定の値よりも高い場合において、運転者に対して警告をしている場合の処理が異なる。
【0046】
図3を参照しながら具体例を説明する。
図3の熱画像400において、物体402が自車両の前方を通過している。物体402のTTCが所定値T1よりも大きくない場合であって、さらにTTCが所定値T2よりも小さい場合、自車両と物体402とが衝突する危険がある。そのため、熱画像処理装置100は、運転者に対して警告を行う。そして、かかる警告は所定の期間継続して行う。そして、運転者に対して警告をしている期間は、
図3に示すような画像に代えて、危険であることを知らせるための警告表示を行うことができる。したがって、そのような警告表示を行っている間に、赤外線検出器の較正を行うことができる場合がある。
【0047】
図4を参照しながら、実施の形態2にかかる処理について説明する。
図4は、実施の形態2にかかる熱画像処理方法のフローチャートである。
図4のフローチャートは、
図2のフローチャートとは、ステップS15及びステップS16が加えられた点が異なる。
【0048】
判定部106は位置関係演算部103が算出した物体のTTCと所定値T1とを比較する(ステップS13)。そして、判定部106がTTCを所定値T1よりも大きいと判断しない場合(ステップS13:No)、判定部106は、警告信号出力部104の状態を参照して、警告信号出力部104が警告処理中か否かを判定する(ステップS15)。
【0049】
判定部106が、警告信号出力部104の状態を警告処理中であると判定しない場合(ステップS15:No)、熱画像処理装置100は、ステップS11に戻る。一方、判定部106が、警告信号出力部104の状態を警告処理中であると判定した場合(ステップS15:Yes)、判定部106は、続いて、警告処理が終了するまでの期間に、赤外線検出器の較正を行うことが可能かどうかを判定する(ステップS16)。警告処理が終了するまでの期間に、赤外線検出器の較正を行うことが可能と判定しない場合(ステップS16:No)、熱画像処理装置100は、ステップS11に戻る。一方、警告処理が終了するまでの期間に、赤外線検出器の較正を行うことが可能と判定した場合(ステップS16:Yes)、熱画像処理装置100は、赤外線検出器の較正処理を行う(ステップS14)。
【0050】
このような処理を行うことにより、熱画像処理装置100は、信頼性を損なわないタイミングにおいて、赤外線検出器の較正処理を行うことができる。
【0051】
実施の形態3
次に、実施の形態3について説明する。実施の形態3の機能ブロックは実施の形態1及び実施の形態2と同じである。そのためここでは共通する機能又は処理についての説明を適宜省略する。また、実施の形態3は、強制的に較正を行う処理を追加している点において実施の形態2とは異なる。
【0052】
図5を参照しながら、実施の形態3にかかる処理について説明する。
図5は実施の形態3にかかる熱画像処理方法のフローチャートである。
図5のフローチャートは、
図4のフローチャートとは、ステップS17が加えられた点が異なる。以下にステップS17について説明する。
【0053】
判定部106はステップS10において較正処理を行うと判定した場合(ステップS10:Yes)、続いて、強制的に較正処理を行う必要があるか否かを判定する(ステップS17)。
【0054】
具体的には、判定部106は、例えば、熱画像処理装置100が前回較正処理を行った時から所定の時間Tm1を経過したか否かを判定する。ここで、時間Tm1は、これ以上較正処理を行わなければ熱画像処理装置100の信頼性が著しく低下してしまう時間であって、上述の時間Tm0よりも長い。熱画像処理装置100に用いられている赤外線検出器の出力信号が時間の経過とともに劣化する場合には、このような処理が有効となる。
【0055】
又、判定部106は、図示しない温度センサから赤外線検出器近傍の温度変化をモニタし、前回較正処理を行った時から所定の温度ΔTp1を超える変化があったか否かを判定することもできる。ここで、温度ΔTp1は、これ以上較正処理を行わなければ熱画像処理装置100の信頼性が著しく低下してしまう温度であって、上述の温度ΔTp0よりも大きい。熱画像処理装置100に用いられている赤外線検出器の出力信号が温度の変化とともに劣化する場合には、このような処理が有効となる。
【0056】
ステップS17において、判定部106が、強制的に較正処理を行う必要があると判定しない場合(ステップS17:No)、熱画像処理装置100は、ステップS11に進む。一方、判定部106が、強制的に較正処理を行う必要があると判定した場合(ステップS17:Yes)、熱画像処理装置100は、熱画像の状況にかかわらず、すなわち、自車両と自車両の前方に存在する物体との位置関係にかかわらず、赤外線検出器の較正処理を行う(ステップS14)。
【0057】
このような処理を行うことにより、熱画像処理装置100は、熱画像の劣化を抑制することができる。
【0058】
実施の形態4
次に、実施の形態4について説明する。実施の形態4の機能ブロックは実施の形態1〜実施の形態3とは、赤外線カメラ200の構成が異なる。そのためここでは共通する機能又は処理についての説明を適宜省略する。
【0059】
図6を参照しながら、実施の形態4について説明する。
図6は、実施の形態4にかかる赤外線撮像装置120の機能ブロック図である。赤外線撮像装置120は、実施の形態1〜実施の形態3において説明した熱画像処理装置100の構成に加えて、赤外線カメラ200を備える。
【0060】
このような構成を採用することにより、赤外線検出器の較正を適切なタイミングにおいて行う赤外線撮像装置を提供することができる。
【0061】
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。例えば、熱画像処理装置100の各構成は、上述した内容に限られず、判定部106は制御部105に含まれても良い。あるいは、位置関係演算部103が行っている処理を、判定部106が行っても良い。又、熱画像処理装置は、一体となった状態に限らず、分散した状態において互いに接続されていても良い。