(58)【調査した分野】(Int.Cl.,DB名)
前記車両が停止状態であると前記判定部が判定した場合に、前記車両が前記停止状態であると前記判定部が判定してから経過した時間に応じた表示態様の前記移動経路を示す前記予測経路画像を生成する画像生成部をさらに備えること
を特徴とする請求項5に記載の表示処理装置。
【発明を実施するための形態】
【0009】
以下、添付図面を参照して、本願の開示する車両状態判定装置、表示処理装置および車両状態判定方法の実施形態を詳細に説明する。なお、以下に示す実施形態によりこの発明が限定されるものではない。
【0010】
[1.車両状態判定方法]
図1は、本発明の実施形態に係る車両状態判定方法を示す説明図である。かかる車両状態判定方法は、例えば車両Cに搭載される車両状態判定装置によって実行される。車両状態判定装置は、例えば車両C内に設けられる(図示せず)。以下、車両Cが空きスペースに駐車される場合を例にとって、車両Cの状態を判定する方法について説明する。
【0011】
車両Cにはカメラ等の撮像装置が設置されており、かかる撮像装置は所定時間Tごとに車両Cの周囲(例えば、車両C後方)を撮像し撮像画像を生成する。車両状態判定装置は、撮像装置から撮像画像を取得する。
【0012】
車両状態判定装置は、撮像画像から特徴点を抽出する。車両状態判定装置は、抽出した特徴点に基づいて車両Cの所定時間Tごとの移動量Dを推定する。かかる移動量Dは、車両Cの速度とも言える。車両状態判定装置は、例えば複数の特徴点の移動量Dの平均値を車両Cの移動量Dとすることができる。
【0013】
例えば車両Cが停止した状態から移動を開始し、徐々に速度を上昇させた場合、車両Cの所定時間Tごとの移動量Dは、
図1(a)に示すようにほぼゼロの状態から緩やかに上昇する。なお、
図1(a)は、移動量Dの時間変化を示すグラフであり、縦軸は移動量、横軸は時間を示している。
【0014】
ここで、例えば、撮像画像に車両C以外の移動物が含まれるなど車両C周囲の状況が変化すると、変化の状況によっては移動量Dが正しく検出されない場合がある。この場合、例えば、車両Cが停止している場合であっても、移動していると判定してしまうおそれがある。そこで、本実施形態に係る車両状態判定方法では、移動量Dに加え、移動量Dの変化量Aに基づいて、移動状態を判定するようにした。
【0015】
例えば、撮像画像に車両C以外の移動物体として他車両C1が写り込む場合について説明する。
図1(b)は、かかる場合における移動量Dの時間変化を示すグラフである。
図1(b)に示すグラフの縦軸は移動量、横軸は時間を示している。
【0016】
この場合、車両状態判定装置は、他車両C1の移動を車両Cの移動として検出してしまう。そのため、車両Cの所定時間Tごとの移動量Dのグラフは、他車両C1が移動した期間(
図1(b)の時刻T11から時刻T12まで)において、他車両C1の移動量に応じた値をとるグラフとなる。車両状態判定装置が、例えば移動量Dと第1閾値TH1との比較のみで車両Cの移動を判定すると、
図1(b)の時刻T11から時刻T12までの期間において車両状態判定装置は、車両Cが移動していない停止状態であるにもかかわらず、移動している移動状態であると誤判定してしまう。
【0017】
そこで、本実施形態に係る車両状態判定装置は、移動量Dに加え、移動量Dの変化量Aに基づいて、移動状態を判定する。例えば、車両状態判定装置は、移動量Dが第1閾値TH1以上かつ変化量Aが第2閾値TH2未満である状態の出現状態に基づいて車両Cの移動を判定する。ここで、変化量Aは、所定時間Tごとの移動量Dの変化量Aであり、例えば所定タイミングT1の移動量D1と、所定タイミングT1より一つ前のタイミングT0の移動量D0との差分の絶対値である。したがって、車両状態判定装置は、車両Cの速度の変化量Aである加速度の絶対値に基づいて、移動状態を判定するとも言える。
【0018】
図1(c)は、変化量Aの時間変化を示すグラフである。
図1(c)に示すグラフの縦軸は変化量、横軸は時間を示している。
図1(c)に示すように、移動量Dの増減に従って移動量Dの変化量Aも増減する。他車両C1が移動する場合など、車両C以外の移動物体によって移動量Dが変化する場合、移動量Dの変化量Aは大きくなる。
【0019】
そのため、車両状態判定装置は、
図1(b)の時刻T11から時刻T12までの間に示すように、車両Cの移動量Dが第1閾値TH1以上となっていても、
図1(c)に示すように、移動量Dの変化量Aが、第2閾値TH2以上である場合、車両状態判定装置は、車両C以外の移動物体によって移動量Dが変化している可能性があると判定する。本実施形態では、この場合、車両状態判定装置は、車両Cが停止状態であると判定する。
【0020】
このように、車両状態判定装置が、移動量Dと、当該移動量Dの変化量Aに基づいて、車両Cの移動を判定することで、例えば車両C以外の他車両C1が移動するなど車両Cの周囲の状況が変化した場合であっても、車両Cが移動しているか否か、すなわち車両Cの移動状態を高精度に判定することができる。
【0021】
なお、ここでは、他車両C1などの移動体が撮像装置の撮像範囲に含まれる場合について説明したが、これに限られない。例えば、ハザードランプが点滅している場合などであっても、車両Cの状態の判定精度を向上させることができる。
【0022】
例えば夜間などにおいてハザードランプが点滅している場合、ランプが点灯している状態で撮像した撮像画像と、ランプが消灯している状態で撮像した撮像画像とでは、抽出される特徴点が異なる場合がある。この場合、かかる特徴点に基づいて移動量Dを推定すると、ランプが点滅状態によって移動量Dが大きく変化してしまう。このような場合であっても、車両状態判定装置が、移動量Dと、当該移動量Dの変化量Aに基づいて、車両Cの移動を判定することで、ランプの点滅による移動量Dの変化の影響を受けにくくなり、車両Cの状態を高精度に判定することができる。
【0023】
なお、ここで、停止状態とは、車両Cが所定の速度以下で移動している状態、あるいは速度ゼロで完全に停止している状態を指す。また、移動状態とは、車両Cが所定の速度以上で移動している状態を指す。以下、かかる車両状態判定装置を含む表示処理装置1および運転支援システムSについてさらに説明する。
【0024】
[2.運転支援システムS]
図2は、本発明の実施形態に係る運転支援システムSの構成例を示す図である。
図2に示すように、運転支援システムSは、表示処理装置1と、撮像装置2と、表示装置3とを備える。
【0025】
[2.1.撮像装置2]
撮像装置2は、例えば車両Cの後方に配置される、いわゆるバックカメラである。
図3に示すように、撮像装置2は、車両Cの後端の背面ドアに設けられ、画角θを有する。撮像装置2の光軸15は、車両Cの前後方向に沿って後方に向けられる。したがって、撮像装置2は、例えば所定時間Tごとに車両Cの後方に拡がる画角θの領域を撮影して、車両Cの後方の様子を示す撮像画像G1を生成することができる。撮像装置2のレンズは、例えば魚眼レンズである。なお、
図3は、撮像装置2の配置例を示す図である。
【0026】
[2.2.表示処理装置1]
図2に示す表示処理装置1は、撮像画像G1に基づいて、車両Cの移動経路を予測し、予測した移動経路を示す予測経路画像を撮像画像G1に重畳して表示装置3に表示させることで、車両Cの運転者による運転を支援する。表示処理装置1は、車両状態判定装置10と、取得部20と、予測部30と、画像生成部40と、表示制御部50と、記憶部60とを備える。
【0027】
[2.2.1.取得部20]
取得部20は、撮像装置2が生成するフレーム単位の撮像画像G1を繰り返して取得する。取得した撮像画像G1がアナログの場合、取得部20は、かかるアナログの撮像画像G1をデジタルの撮像画像G1に変換(A/D変換)する。取得部20は、取得した撮像画像G1を車両状態判定装置10および表示制御部50に出力する。
【0028】
[2.2.2.車両状態判定装置10]
車両状態判定装置10は、撮像画像G1に基づいて車両Cの移動を判定する。車両状態判定装置10は、抽出部100と、移動ベクトル算出部200と、移動量推定部300と、変化量検出部400と、判定部500とを備える。
【0029】
[2.2.2.1.抽出部100]
抽出部100は、撮像画像G1から複数の特徴点を抽出する。抽出部100は、俯瞰画像生成部110と、特徴点抽出部120とを備える。
【0030】
俯瞰画像生成部110は、撮像画像G1に対して座標変換処理を行い、車両C上方から見た画像である俯瞰画像G2を生成する。例えば、俯瞰画像生成部110は、撮像画像G1を所定の投影面に投影(マッピング)し、所定の投影面に投影された撮像画像G1のうち、車両C上方から見て所定の視野角に含まれる領域の画像を俯瞰画像G2とする。
【0031】
特徴点抽出部120は、俯瞰画像生成部110によって生成された俯瞰画像G2から特徴点を抽出する。特徴点とは、俯瞰画像G2のうち、際だって検出できる点である。特徴点抽出部120は、例えばエッジ検出処理を用いて複数のエッジを検出し、複数のエッジの交点を特徴点として抽出する。特徴点抽出部120は、
図4に示すように、俯瞰画像G2から複数の特徴点Pを抽出する。なお、
図4は、特徴点抽出部120が抽出する特徴点Pを示す図である。
【0032】
なお、特徴点の抽出方法はこれに限られず、俯瞰画像G2に含まれる輝度情報や色情報に基づいて特徴点Pを抽出してもよい。特徴点抽出部120は、抽出した特徴点を移動ベクトル算出部200に出力する。
【0033】
[2.2.2.2.移動ベクトル算出部200]
移動ベクトル算出部200は、抽出部100の特徴点抽出部120が抽出した特徴点に基づいて、移動ベクトルVを算出する。具体的に、移動ベクトル算出部200は、異なる時刻における俯瞰画像G2から抽出した特徴点同士を対応付ける。
【0034】
移動ベクトル算出部200は、対応付けた特徴点を例えば所定の座標平面R上にマッピングする。
図5には、対応付けた特徴点P0およびP1を示している。特徴点P0、P1は同じ特徴点であるが、抽出した画像の撮像時刻がそれぞれ異なるため、画像における位置がそれぞれ異なる。なお、特徴点P1は、所定時刻t1の俯瞰画像G21から抽出した特徴点であり、特徴点P0は、所定時刻t1より1つ前に俯瞰画像生成処理を行った時刻t0の俯瞰画像G20から抽出した特徴点である。移動ベクトル算出部200は、特徴点P0を始点とし、特徴点P1を終点とするベクトルを時刻t1における移動ベクトル(オプティカルフロー)V10として算出する。なお、
図5は、移動ベクトルV10の説明図である。
【0035】
[2.2.2.3.移動量推定部300]
移動量推定部300は、抽出部100の特徴点抽出部120が抽出した特徴点Pに基づいて、所定時間Tごとの車両Cの移動量Dを推定する推定部である。所定時間Tは、車両状態判定装置10が行う判定処理にかかる時間であり、例えば撮像画像G1の1フレームの周期(フレームレートの逆数)に相当する。移動量推定部300は、移動ベクトル算出部200が算出した移動ベクトルVの大きさを算出することで、移動量Dを推定する。移動量推定部300は、推定した移動量Dを変化量検出部400および判定部500に出力する。
【0036】
なお、ここでは、移動量推定部300が移動ベクトルVから移動量Dを推定する場合について説明したが、これに限られない。例えば移動量推定部300が、抽出部100の特徴点抽出部120が抽出した特徴点Pから直接移動量Dを推定するようにしてもよい。この場合、移動量推定部300は、例えば
図5に示すように座標平面R上にマッピングされた特徴点P1、P0の距離を移動量Dとして推定する。
【0037】
このように、移動量推定部300は、所定時間Tごとの車両Cの移動量Dを推定する。したがって、移動量推定部300は、車両Cの速度を推定しているとも言える。
【0038】
[2.2.2.4.変化量検出部400]
変化量検出部400は、移動量推定部300が推定した所定時間Tごとの移動量Dに基づいて、移動量Dの変化量Aを検出する。変化量検出部400は、例えば時刻t1における車両Cの移動量D1と時刻t1の一つ前の時刻T0における車両Cの移動量D0との差分を、時刻t1における移動量D1の変化量A1として検出する。変化量検出部400は、検出した変化量Aを判定部500に出力する。
【0039】
このように、変化量検出部400は、車両Cの移動量Dの変化量Aを検出する。そのため、変化量検出部400は、車両Cの加速度を推定しているとも言える。このように、変化量検出部400は、所定時間Tごとの移動量Dの微分値を算出することで変化量Aを検出する。
【0040】
[2.2.2.5.判定部500]
判定部500は、移動量推定部300が推定した移動量Dと、変化量検出部400が検出した変化量Aとに基づいて、車両Cの移動、すなわち走行状態を判定する。判定部500は、例えばカウンタ部510と、初期化処理部520と、移動判定部530とを備える。
【0041】
カウンタ部510は、移動量Dが第1閾値TH1以上かつ変化量Aが第2閾値TH2未満である場合にカウンタ値CVに第1の値E1を加算し、移動量Dが第1閾値TH1未満または変化量Aが第2閾値TH2以上である場合にカウンタ値CVから第2の値E2を減算する。
【0042】
図6および
図7を用いて、カウンタ部510の詳細を説明する。
図6は、カウンタ部510の構成例を示す図である。
図7は、カウンタ部510が行う処理を説明する図である。
図6に示すように、カウンタ部510は、移動量比較器511と、変化量比較器512と、AND演算器513と、カウンタ514とを備える。
【0043】
移動量比較器511は、移動量推定部300が推定した所定時間Tごとの移動量Dと第1閾値TH1とを比較し、比較結果をAND演算器513に出力する。移動量比較器511は、例えば移動量Dが第1閾値TH1以上である場合「1」を示す信号を出力し、移動量Dが第1閾値TH1未満である場合「0」を示す出力信号をAND演算器513に出力する。
【0044】
図7(a)に示すような移動量Dが移動量比較器511に入力された場合、移動量比較器511は、
図7(b)に示すように時刻T11までは「0」、時刻T11から時刻T12までの間は「1」、時刻T12以降は「0」を示す出力信号をAND演算器513に出力する。なお、
図7(a)は、移動量Dの時間変化を示すグラフであり、
図7(b)は、移動量比較器511の出力信号を示す図である。
【0045】
変化量比較器512は、変化量検出部400が推定した所定時間Tごとの変化量Aと第2閾値TH2とを比較し、比較結果をAND演算器513に出力する。変化量比較器512は、例えば変化量Aが第2閾値TH2未満である場合「1」を示す信号を出力し、変化量Aが第2閾値TH2以上である場合「0」を示す出力信号をAND演算器513に出力する。
【0046】
図7(c)に示すような変化量Aが変化量比較器512に入力された場合、変化量比較器512は、
図7(d)に示すように時刻T21から時刻T22までの間および時刻T23から時刻T24までの間は「0」、それ以外の時刻では「1」を示す出力信号をAND演算器513に出力する。なお、
図7(c)は、変化量Aの時間変化を示すグラフであり、
図7(d)は、変化量比較器512の出力信号を示す図である。
【0047】
AND演算器513は、移動量比較器511の出力信号と変化量比較器512の出力信号とのAND演算を行い、演算結果である演算信号をカウンタ514に出力する。例えば、
図7(b)に示す信号および
図7(d)に示す信号がそれぞれAND演算器513に入力されると、AND演算器513は、時刻T22から時刻T12までの間は「1」、それ以外の時刻では「0」を示す演算信号をカウンタ514に出力する。なお、
図7(e)は、AND演算器513の演算信号を示す図である。
【0048】
カウンタ514は、演算信号が「1」である場合にカウンタ値CVに第1の値E1を加算し、演算信号が「0」である場合にカウンタ値CVから第1の値E1より大きい第2の値E2(E1<E2)を減算する。カウンタ514は、カウンタ値CVを移動判定部530に出力する。
【0049】
ここで、カウンタ514がカウンタ値CVから第1の値E1より大きい第2の値E2を減算することで、例えばハザードランプが点滅している場合や、移動体が撮像装置2の撮像範囲を繰り返し移動する場合など、所定の周期で外乱が発生する場合に、車両状態判定装置10による車両Cの走行状態の誤判定を低減することができる。
【0050】
例えば、
図7(e)に示すAND演算器513の演算信号が入力される場合、カウンタ514は、
図7(f)に示すように時刻T22から時刻T12までの間はカウンタ値CVに第1の値E1を加算し、時刻T12以降はカウンタ値CVから第2の値E2を減算する。なお、例えば時刻T3で、初期化処理部520からカウンタ値CVを初期化する旨の通知を受けると、カウンタ514はカウンタ値CVを初期化する。ここでは、例えばカウンタ値CVをゼロとする。なお、
図7(f)は、カウンタ514が出力するカウンタ値CVを示す図である。
【0051】
移動判定部530は、
図7(f)に示すように、カウンタ値CVと第3閾値TH3とを比較し、カウンタ値CVが第3閾値TH3以上である場合に、移動量Dが第1閾値TH1以上かつ変化量Aが第2閾値TH2未満である状態が継続した状態であるとして、車両Cが移動状態であると判定する。一方、カウンタ値CVが第3閾値TH3未満である場合に、移動量Dが第1閾値TH1以上かつ変化量Aが第2閾値TH2未満である状態が継続した状態でないとして、移動判定部530は車両Cが停止状態であると判定する。移動判定部530は、判定結果を画像生成部40に出力する。
【0052】
初期化処理部520は、カウンタ部510による減算処理が連続して第4閾値TH4以上継続する場合に、カウンタ値CVを初期化する。具体的には、初期化処理部520は、例えばカウンタ値CVに基づいて、カウンタ514が加算処理および減算処理のうちどちらの処理を行ったかを判定する。
【0053】
初期化処理部520は、例えば、時刻t1におけるカウンタ値CV1と時刻t0におけるカウンタ値CV0との差分に応じてカウンタ514がカウンタ値CVに第1の値E1を加算する加算処理を行ったか、カウンタ値CVから第2の値E2を減算する減算処理を行ったかを判定する。初期化処理部520は、減算処理が連続して第4閾値TH4以上継続する場合に、カウンタ値CVを初期化する旨の通知をカウンタ514に出力する。
【0054】
ここで、初期化処理部520が所定条件でカウンタ値CVを初期化することで、例えばハザードランプが点滅している場合や、移動体が撮像装置2の撮像範囲を繰り返し移動する場合など、短い周期で何度も外乱が発生する場合に、カウンタ値CVが第3閾値TH3以上となってしまう可能性を低減することができる。これにより、車両状態判定装置10による車両Cの走行状態の誤判定を低減することができる。
【0055】
なお、ここでは、判定部500が、移動量Dが第1閾値TH1以上かつ変化量Aが第2閾値TH2未満である状態(以下、所定状態と記載する)の出現状態として、カウンタ値CVを用いて所定状態の継続状態を検出し、かかる継続状態に基づいて車両Cの走行状態を判定する場合について説明したが、これに限られない。例えば、所定状態であるか否かに基づいて走行状態を判定するようにしてもよい。すなわち、判定部500は、移動量Dが第1閾値TH1以上かつ変化量Aが第2閾値TH2未満の場合に、車両Cが移動状態であると判定し、判定部500は、移動量Dが第1閾値TH1未満または変化量Aが第2閾値TH2以上の場合に、車両Cが停止状態であると判定するようにし、かかる判定を所定時間ごとに行うようにしてもよい。
【0056】
あるいは、出現状態として、第2閾値TH2未満である変化量Aの出現間隔や出現頻度に応じて、移動の判定を行うようにしてもよい。
【0057】
例えば、判定部500は、時刻t4で変化量Aが第2閾値TH2以上から第2閾値TH2未満に変化したとしても、以前に変化量Aが第2閾値TH2未満であった時刻t3から所定期間T2を経過していな場合(T2<t4−t3)は、移動量Dの値にかかわらず車両Cは停止していると判定する。すなわち、変化量Aが第2閾値TH2以上になってから所定期間T2が経過するまでの間は不安定領域であるとし、判定部500は、かかる不安定領域では車両Cの移動の判定を行わないものとする。
【0058】
あるいは、変化量Aが第2閾値TH2未満になってから所定期間T3が経過するまでの間は不安定領域であるとし、判定部500は、かかる不安定領域では車両Cの移動の判定を行わないようにしてもよい。なお、かかる所定期間T2、T3は、固定の期間であってもよく、例えば第2閾値TH2未満である変化量Aの出現頻度に応じて変更されるなど可変の期間であってもよい。
【0059】
また、判定部500は、時刻t4で変化量Aが第2閾値TH2以上から第2閾値TH2未満に変化したとしても、変化量Aが第2閾値TH2未満である頻度(出現頻度)が、所定値未満である場合は、移動量Dの値にかかわらず車両Cは停止していると判定する。すなわち、変化量Aが第2閾値TH2未満である頻度が所定値未満である間は不安定領域であるとし、判定部500は、かかる不安定領域では車両Cの移動の判定を行わないものとする。
【0060】
このように、第2閾値TH2未満である変化量Aの出現間隔や出現頻度に応じて、移動の判定を行うことで、例えばハザードランプが点滅している場合など移動量Dの変化量Aが頻繁に変化する場合に、車両Cの走行状態が頻繁に変化することがなく、車両Cの走行状態の誤判定を低減することができる。また、走行状態に基づいて予測ガイド線L12を描画する場合であっても、予測ガイド線L12の表示・非表示が頻繁に変更されにくくなる。
【0061】
ここでは、判定部500が、移動量Dが第1閾値TH1以上かつ変化量Aが第2閾値TH2未満である状態の継続状態に基づいて移動を判定するとしたが、これに限られない。例えば、変化量Aが第2閾値TH2未満になってからの第1閾値TH1以上の移動量Dの継続時間に基づいて、判定部500が移動判定を行うようにしてもよい。あるいは、移動量Dが第1閾値TH1以上になってからの第2閾値TH2未満の変化量Aの継続時間に基づいて移動判定を行うようにしてもよい。
【0062】
また、カウンタ部510がカウンタ値CVに第1の値E1を加算するとしたが、これに限られない。例えばカウンタ部510が、移動量Dに応じた値を加算するようにしてもよい。例えば、移動量Dが大きいほどカウンタ値CVに加算する値を小さくする。
具体的には、例えば移動量Dと複数の閾値とを比較し、比較結果に応じた加算値をカウンタ値CVに加算する。あるいは、例えばカウンタ部510が、変化量Aに応じた値を加算するようにしてもよい。例えば、変化量Aが大きいほどカウンタ値CVに加算する値を小さくするようにしてもよい。
【0063】
例えば、駐車する場合など車両Cを後退させている場合、車両Cの速度(移動量D)や加速度(変化量A)は比較的遅く(小さく)なる。したがって、移動量Dや変化量Aが大きい場合、車両C以外の移動体の影響やハザードランプの点滅による影響によって大きくなっている可能性が高い。そこで、移動量Dや変化量Aが大きい程、カウンタ値CVに加算する値を小さくする。これにより、車両Cの走行状態の誤判定を低減することができる。
【0064】
なお、カウンタ値CVから減算する場合も同様に、移動量Dや変化量Aに応じた値を減算するようにしてもよい。この場合、移動量Dや変化量Aが大きいほどカウンタ値CVから減算する値を大きくする。これにより、車両Cの走行状態の誤判定を低減することができる。
【0065】
[2.2.3.予測部30]
予測部30は、抽出部100が抽出した特徴点Pに基づいて、車両Cの移動経路を予測する。予測部30は、移動ベクトル算出部200が算出した移動ベクトルVに基づいて車両Cの移動経路を予測する。
【0066】
予測部30は、移動ベクトル算出部200が算出した移動ベクトルVに基づいて車両Cの旋回量を算出する。ここで、車両Cの旋回量とは、旋回方向や旋回角度、並進量などを含む概念である。予測部30は、移動ベクトル算出部200が算出した移動ベクトルVの中から路面の移動ベクトルを抽出し、抽出した路面の移動ベクトルに基づいて車両Cの旋回量を算出する。予測部30は、算出した旋回量に基づいて車両Cの移動経路を予測する。予測部30は、予測した移動経路を画像生成部40に出力する。
【0067】
なお、ここでは、表示処理装置1が予測部30を備えるものとしたが、これに限られない。例えば車両状態判定装置10が予測部30を備えるようにしてもよい。また、予測部30が舵角センサなどの他のセンサを用いて移動経路を予測するようにしてもよい。
【0068】
[2.2.4.画像生成部40]
画像生成部40は、判定部500の判定結果に応じて、車両Cの運転者による運転を支援するための画像を生成する。画像生成部40は、固定ガイド線L11および車両Cの走行状態に応じた表示態様の予測ガイド線L12を含む予測経路画像を生成する。
【0069】
ここで、
図8を用いて固定ガイド線L11および予測ガイド線L12を説明する。
図8は車両Cの上方からみた固定ガイド線L11および予測ガイド線L12を示す図である。
【0070】
図8(a)に示す固定ガイド線L11は、予め定められた領域に描画される線であり、車両Cの移動経路や走行状態とは関係なく表示される所定の枠線である。固定ガイド線L11は、車両Cの後部から車幅とほぼ同様の幅W1で車両Cの後方に長さH1だけ延びた線と、それらを結ぶ線とで囲まれた線である。なお、
図8(a)に示す固定ガイド線L11は一例であり、これに限られない。例えば固定ガイド線L11が車両Cの後方からの距離を示す線を有するようにしてもよい。
【0071】
図8(b)に示す予測ガイド線L12は、車両Cの移動経路であると予測される位置に描画されるガイド線である。車両Cの後部から車幅とほぼ同様の幅W2の線であって、移動経路と予測された位置に延びた線が予測ガイド線である。予測ガイド線L12は、例えば予測部30が算出した旋回量の旋回中心を中心とした円弧(予測経路)の一部であり、幅W0、長さH2の矩形の描画領域に含まれる。このように、予測ガイド線L12は、予測部30が予測した予測経路に基づいて決定される。
【0072】
本実施形態では、画像生成部40は、車両Cの走行状態に応じて上述した描画領域の車両C前後方向の長さH2を所定の範囲(H1≧H2≧0)で変化させることで、その範囲内に描画される予測ガイド線L12の長さを変化させる。画像生成部40は、例えば長さH2に長さ調整倍率を乗算することで、描画領域の長さを所定の範囲(H1≧H2≧0)で変化させる。
【0073】
次に、画像生成部40は、車両Cの走行状態に応じて、予測ガイド線L12の描画モードをA〜Dのモードにわけて描画した予測経路画像を生成する。
図9は、走行状態、描画モードおよび長さ調整倍率の対応関係を示すタイミングチャートである。
【0074】
図9に示すように、走行状態が「停止」である場合(モードA)、画像生成部40は、予測ガイド線L12の描画領域の長さ調整倍率を0.0倍にする。すなわち、画像生成部40は、予測ガイド線L12を描画しない(
図10参照)。
【0075】
次に、走行状態が「移動」に変化した場合(モードB)、画像生成部40は、長さ調整倍率を0.0倍から1.0倍に変化させる。つまり、画像生成部40は、長さが長くなるように変化する予測ガイド線L12を描画する(
図12参照)。
【0076】
長さ調整倍率が1.0倍に変化した後の走行状態が「移動」である場合(モードC)、画像生成部40は、長さ調整倍率を1.0倍のままにする。すなわち、画像生成部40は、長さが最大の予測ガイド線L12を描画する(
図11参照)。
【0077】
次に、走行状態が「移動」から「停止」に変化した場合(モードD)、画像生成部40は、長さ調整倍率を1.0倍から0.0倍に変化させる。つまり、画像生成部40は、長さが短くなる予測ガイド線L12を描画する(
図12参照)。これは、走行状態が「移動」から「停止」に変化したため、予測ガイド線L12の表示が不要になるからである。また、前述のように、予測部30は移動ベクトルVに基づいて車両Cの移動経路を予測するため、走行状態が「停止」に変化すると車両Cの移動経路の予測精度が低下する。すなわち、予測ガイド線L12の信頼性が低下するため、信頼性の低い予測ガイド線L12の長さが短くされる。
【0078】
なお、モードB、Dにおいて、予測ガイド線L12の長さを変化させる速度は任意であるが、モードDの変化速度はモードBの変化速度よりも遅い方が好ましい。これは、停止状態から移動状態に変化したときは直ぐに予測ガイド線L12が確認できるようにした方が好ましく、移動状態から停止状態に変化したときは徐々に短くしていく方が停止状態に移行していることを運転者が把握しやすいからである。
【0079】
以降、同様に、画像生成部40は、走行状態に応じた描画モードに基づいて予測ガイド線L12を描画する。
【0080】
なお、例えば、モードDにおいて長さ調整倍率が0.0倍まで変化する途中で、走行状態が変化し、モードBが選択された場合には、長さ調整倍率が変化した途中の倍率から再び1.0倍まで変化するようにする。このように、長さ調整倍率が変化している途中で描画モードが変更された場合であっても、変更後のモードに従って予測経路画像が生成される。
【0081】
このように車両Cの走行状態やその変化などに応じて表示するガイド線の種類や長さを変えるため、状態に応じた適切なガイド線を表示することが可能になる。
【0082】
[2.2.5.表示制御部50]
表示制御部50は、車両Cが移動状態であると判定部500が判定した場合に、予測部30が予測する移動経路を示す予測経路画像を撮像画像G1に重畳して表示装置3に表示させる。表示制御部50は、画像生成部40が生成した予測経路画像を撮像画像G1に重畳して表示画像G3を生成する。表示制御部50は、表示装置3に表示画像G3を表示させる。
【0083】
図10〜
図12を用いて表示画像G3の一例を説明する。
図10は、描画モードAの場合の表示画像G31を示す画像である。
図10に示すように、描画モードAの場合、表示制御部50は、固定ガイド線L11を撮像画像G1に重畳した表示画像G31を表示装置3に表示させる。
【0084】
図11は、描画モードCの場合の表示画像G32を示す画像である。
図11に示すように、描画モードCの場合、表示制御部50は、固定ガイド線L11および長さH2が最大値H1である(H2=H1)予測ガイド線L12を撮像画像G1に重畳した表示画像G32を表示装置3に表示させる。
【0085】
図12は、描画モードB、Dの場合の表示画像G33を示す画像である。
図12に示すように、描画モードB、Dの場合、表示制御部50は、長さがH1である固定ガイド線L11および長さH2が変化する予測ガイド線L12を撮像画像G1に重畳した表示画像G33を表示装置3に表示させる。
【0086】
[2.2.6.記憶部60]
記憶部60は、第1〜第4閾値TH1〜TH4やカウンタ値CVなど、車両状態判定装置10の各部が行う処理に必要な情報を記憶する。また、記憶部60は、表示処理装置1の各部が行う必要な情報を記憶する。
【0087】
記憶部60は、例えばRAM(Random Access Memory)、フラッシュメモリ等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置である。
【0088】
[2.3.表示装置3]
図2の表示装置3は、LCD(Liquid Crystal Display)を備え、表示制御部50が生成する表示画像G3を表示する。かかる表示装置3は例えばタッチパネル式ディスプレイであり、例えば表示処理装置1の入力部の機能を備えるようにしてもよい。
【0089】
[3.画像表示処理]
図13を用いて、表示処理装置1が行う画像表示処理について説明する。
図13は、本実施形態に係る画像表示処理を示すフローチャートである。表示処理装置1は、例えば車両Cのギアが「R」に変更され、車両Cが後退することを契機として画像表示処理を実行する。画像表示処理は、例えば所定時間Tごとに繰り返し実行される。
【0090】
表示処理装置1は、撮像装置2から撮像画像G1を取得する(ステップS101)。表示処理装置1は、撮像画像G1に基づいて特徴点Pを抽出する(ステップS102)。続いて、表示処理装置1は、特徴点Pに基づいて移動ベクトルVを算出する(ステップS103)。
【0091】
表示処理装置1は、移動ベクトルVに基づいて車両Cの移動量Dを算出する(ステップS104)。表示処理装置1は、移動量Dに基づいて、移動量Dの変化量Aを算出する(ステップS105)。表示処理装置1は、移動量Dが第1閾値TH1以上かつ変化量Aが第2閾値TH2未満である状態が継続した状態か否かを判定する(ステップS106)。
【0092】
移動量Dが第1閾値TH1以上かつ変化量Aが第2閾値TH2未満である状態が継続した状態である場合(ステップS106のYes)、表示処理装置1は、車両Cの走行状態が移動状態であると判定し(ステップS107)、車両Cの移動経路を示す予測経路画像を生成する(ステップS109)。具体的に、表示処理装置1は、移動経路を示す予測ガイド線L12を含む予測経路画像を生成する。一方、移動量Dが第1閾値TH1以上かつ変化量Aが第2閾値TH2未満である状態が継続した状態でない場合(ステップS106のNo)、表示処理装置1は、車両Cの走行状態が停止状態であると判定し(ステップS108)、ステップS110に進む。
【0093】
表示処理装置1は、表示装置3に表示画像G3を表示させる(ステップS110)。具体的には、ステップS109にて予測経路画像を生成した場合は、予測経路画像を撮像画像G1に重畳した表示画像G3を表示装置3に表示する。一方、予測経路画像を生成しなかった場合は、表示処理装置1は、撮像画像G1を表示画像G3として表示装置3に表示する。なお、この場合、撮像画像G1に固定ガイド線L11を重畳した画像を表示画像G3としてもよい。
【0094】
なお、
図13に示す画像表示処理では、ステップS106で移動量Dが第1閾値TH1以上かつ変化量Aが第2閾値TH2未満であるか否かを判定するようにしているが、これに限られない。例えば第1閾値TH1以上であるか否かおよび変化量Aが第2閾値TH2未満であるか否かをそれぞれ判定し、かかる判定結果に応じて車両Cの走行状態を判定するようにしてもよい。
【0095】
また、ここでは、表示処理装置1が画像表示処理を行うものとしたが、例えばステップS102〜ステップS108に示す処理など一部の処理を車両状態判定装置10が行うものとしてもよい。
【0096】
ここでは、表示処理装置1が、車両Cのギアの状態(進行方向)が前方から後方に切り替わったことを契機として画像表示処理を行うものとしたがこれに限られない。例えば運転者が運転支援システムSの支援ボタン(図示せず)を操作したことを契機として画像表示処理を実行するようにしてもよい。
【0097】
以上のように、本実施形態に係る車両状態判定装置10は、移動量Dと、当該移動量Dの変化量Aに基づいて、車両Cの走行状態を判定することで、判定精度を向上させることができる。
【0098】
また、表示処理装置1は、車両状態判定装置10の判定に基づいて表示画像G3を表示するため、車両Cが移動状態である場合に、予測経路を示す予測ガイド線L12を表示することができ、運転者に対してより適切な支援を行うことができる。
【0099】
[4.ハードウェア構成]
本実施形態に係る表示処理装置1は、
図14に一例として示す構成のコンピュータ600で実現することができる。
図14は、表示処理装置1の機能を実現するコンピュータの一例を示すハードウェア構成図である。
【0100】
コンピュータ600は、CPU(Central Processing Unit)610と、ROM(Read Only Memory)620と、RAM(Random Access Memory)630と、HDD(Hard Disk Drive)640とを備える。また、コンピュータ600は、メディアインターフェイス(I/F)650と、通信インターフェイス(I/F)660と、入出力インターフェイス(I/F)670とを備える。
【0101】
なお、コンピュータ600は、SSD(Solid State Drive)を備え、かかるSSDがHDD640の一部または全ての機能を実行するようにしてもよい。また、HDD640に代えてSSDを設けることとしてもよい。
【0102】
CPU610は、ROM620およびHDD640の少なくとも一方に格納されるプログラムに基づいて動作し、各部の制御を行う。ROM620は、コンピュータ600の起動時にCPU610によって実行されるブートプログラムや、コンピュータ600のハードウェアに依存するプログラムなどを格納する。HDD640は、CPU610によって実行されるプログラムおよびかかるプログラムによって使用されるデータ等を格納する。
【0103】
メディアI/F650は、記憶媒体680に格納されたプログラムやデータを読み取り、RAM630を介してCPU610に提供する。CPU610は、かかるプログラムを、メディアI/F650を介して記憶媒体680からRAM630上にロードし、ロードしたプログラムを実行する。あるいは、CPU610は、かかるデータを用いてプログラムを実行する。記憶媒体680は、例えばDVD(Digital Versatile Disc)などの光磁気記録媒体やSDカード、USBメモリなどである。
【0104】
通信I/F660は、ネットワーク690を介して他の機器からデータを受信してCPU610に送り、CPU610が生成したデータを、ネットワーク690を介して他の機器へ送信する。あるいは、通信I/F660は、ネットワーク690を介して他の機器からプログラムを受信してCPU610に送り、CPU610がかかるプログラムを実行する。
【0105】
CPU610は、入出力I/F670を介して、ディスプレイ等の表示装置3、スピーカ等の出力部、キーボードやマウス、ボタン等の入力部を制御する。CPU610は、入出力I/F670を介して、入力部からデータを取得する。また、CPU610は、生成したデータを入出力I/F670を介して表示装置3や出力部に出力する。
【0106】
例えば、コンピュータ600が表示処理装置1として機能する場合、コンピュータ600のCPU610は、RAM630上にロードされたプログラムを実行することにより、車両状態判定装置10、取得部20、予測部30、画像生成部40および表示制御部50の各部の機能を実現する。
【0107】
コンピュータ600のCPU610は、例えばこれらのプログラムを記憶媒体680から読み取って実行するが、他の例として、他の装置からネットワーク690を介してこれらのプログラムを取得してもよい。また、HDD640は、記憶部60が記憶する情報を記憶することができる。
【0108】
[5.変形例]
以上、本発明の実施形態について説明してきたが、この発明は上記実施形態に限定されるものではなく様々な変形が可能である。以下では、このような変形例について説明する。上記実施形態および以下で説明する形態を含む全ての形態は、適宜に組み合わせ可能である。
【0109】
上記実施形態では、俯瞰画像G2を用いて移動ベクトルVを算出する場合について説明したが、これに限られない。例えば、カメラの撮像画像G1から画像上での移動ベクトルVを導出するようにしてもよい。この場合、算出した移動ベクトルVを所定の投影面(例えば路面など)に投影して移動量Dを推定する。これにより、撮像画像G1から俯瞰画像G2を生成することなく移動ベクトルVが算出でき、処理負荷を低減することができる。また、撮像画像G1から俯瞰画像G2を生成すると、画質が劣化してしまうため、移動ベクトルVの算出精度も低下してしまうおそれがあるが、俯瞰画像G2への変換処理を省略することで、かかる算出精度の低下も回避することができる。
【0110】
上記実施形態では、描画モードDに移行すると長さ調整倍率を1.0倍から小さくし、描画領域を小さくすることで、予測ガイド線L12を徐々に短くするものとしたが、これに限られない。例えば、モードDに移行した後、所定時間が経過してから長さ調整倍率を小さくする構成としてもよい。自車両を後退させながら駐車する場合などには、低速で走行していて移動と停止を繰り返す場合がある。このような場合に、予測ガイド線L12の長さを短くしたり長くしたりする処理を頻繁に繰り返すことがなくなり、運転者が予測ガイド線L12を視認しやすくなる。また、上記実施の形態では、車両Cが停止状態であると判定部500が判定してから経過した時間に応じて予測ガイド線L12の長さを変更するものとしたが、これに限られない。例えば、予測ガイド線L12の濃度、太さ、点線の隙間などの表示態様を、車両Cが停止状態であると判定部500が判定してから経過した時間に応じて変更してもよい。
【0111】
以上のように、上記実施形態に係る車両状態判定装置10は、抽出部100と、推定部(移動量推定部300)と、判定部500とを備える。抽出部100は、車両Cに搭載される撮像装置2の撮像画像G1から特徴点Pを抽出する。移動量推定部300は、抽出部100が抽出した特徴点Pに基づいて車両Cの所定時間Tごとの移動量Dを推定する。判定部500は、移動量推定部300が推定した移動量Dと、当該移動量Dの変化量Aとに基づいて、車両Cの移動を判定する。
【0112】
これにより、例えば車両C以外の他車両C1が移動するなど車両Cの周囲の状況が変化した場合であっても、車両Cが移動しているか否か、すなわち車両Cの移動状態を高精度に判定することができる。
【0113】
上記実施形態に係る車両状態判定装置10の判定部500は、移動量Dが第1閾値TH1以上かつ当該移動量Dの変化量Aが第2閾値TH2未満である状態の出現状態に基づいて、車両Cの移動を判定する。
【0114】
このように、移動量Dおよび変化量Aをそれぞれ閾値判定した結果の出現状態に基づいて車両Cの移動を判定することで、車両Cの移動状態を高精度に判定することができる。
【0115】
上記実施形態に係る車両状態判定装置10の判定部500は、カウンタ部510と、移動判定部530とを備える。カウンタ部510は、移動量Dが第1閾値TH1以上かつ変化量Aが第2閾値TH2未満である場合にカウンタ値CVに第1の値E1を加算する。カウンタ値CVが第3閾値TH3以上である場合に車両Cは移動状態であると判定し、カウンタ値CVが第3閾値TH3未満である場合に車両Cは停止状態であると判定する。
【0116】
これにより、移動量Dおよび変化量Aをそれぞれ閾値判定した結果の継続状態に基づいて車両Cの移動を判定することができ、車両Cの移動状態を高精度に判定することができる。
【0117】
上記実施形態に係る車両状態判定装置10のカウンタ部510は、移動量Dが第1閾値TH1未満または変化量Aが第2閾値TH2以上である場合にカウンタ値CVから第2の値E2を減算する。
【0118】
これにより、例えば移動量Dが第1閾値TH1以上かつ変化量Aが第2閾値TH2未満である状態が間欠的に発生する状態であっても、車両Cの移動状態を高精度に判定することができる。
【0119】
上記実施形態に係る車両状態判定装置10の判定部500は、カウンタ部510による減算処理が連続して第4閾値TH4以上継続する場合に、カウンタ値CVを初期化する初期化処理部520をさらに備える。
【0120】
これにより、例えば移動量Dが第1閾値TH1以上かつ変化量Aが第2閾値TH2未満である状態が間欠的に発生する状態であっても、車両Cの走行状態の誤判定を低減することができ、車両Cの移動状態を高精度に判定することができる。
【0121】
上記実施形態に係る表示処理装置1は、上記車両状態判定装置10と、予測部30と、
表示制御部50と、を備える。予測部30は、車両Cの移動経路を予測する。表示制御部50は、車両Cが移動状態であると判定部500が判定した場合に、予測部30が予測した移動経路を示す予測ガイド線L12(予測経路画像の一例)を撮像画像G1に重畳して表示装置3に表示させる。
【0122】
このように、車両状態判定装置10が高精度に判定した車両Cの移動状態に応じて予測ガイド線L12を撮像画像G1に重畳することで、移動状態に応じた画像を表示装置3に表示させることができる。これにより、運転者に対して移動状態に応じた適切な画像を提示することができる。
【0123】
上記実施形態に係る表示処理装置1は、車両Cが停止状態であると判定部500が判定した場合に、車両Cが停止状態であると判定部500が判定してから経過した時間に応じた表示態様の移動経路を示す予測経路画像を生成する画像生成部40をさらに備える。
【0124】
これにより、停止状態に移行していることを運転者が把握しやすいように予測経路を提示することができる。また、車両Cの走行状態が移動状態および停止状態を交互に繰り返す場合であっても、移動経路の表示・非表示が頻繁に切り替わりにくくなり、運転者を煩わせることなく移動経路を提示することができる。
【0125】
上記実施形態に係る車両状態判定方法は、抽出工程と、推定工程と、判定工程と、を含む。抽出工程では、抽出部100が車両Cに搭載される撮像装置2の撮像画像G1から特徴点Pを抽出する。推定工程では、抽出工程で抽出した特徴点Pに基づいて移動量推定部300が車両Cの所定時間Tごとの移動量Dを推定する。判定工程では、推定工程で推定した移動量Dと、当該移動量Dの変化量Aに基づいて、判定部500が車両Cの移動を判定する。
【0126】
さらなる効果や変形例は、当業者によって容易に導き出すことができる。このため、本発明のより広範な態様は、以上のように表しかつ記述した特定の詳細および代表的な実施形態に限定されるものではない。したがって、添付の特許請求の範囲およびその均等物によって定義される総括的な発明の概念の精神または範囲から逸脱することなく、様々な変更が可能である。