(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0015】
以下、本発明の例示的な実施形態および変形例が開示される。以下に示される実施形態および変形例の構成、ならびに当該構成によってもたらされる作用、結果、および効果は一例である。本発明は、以下の実施形態および変形例に開示される構成以外によっても実現可能である。また、本発明によれば、構成によって得られる種々の効果や派生的な効果のうち少なくとも一つを得ることが可能である。
【0016】
また、以下に開示される実施形態や例示には、同様の構成要素が含まれる。以下では、同様の構成要素には共通の符号が付与されるとともに、重複する説明が省略される。
【0017】
図1は、画像表示システムの例示的な概略構成図である。
図1に示されるように、車両1に装備される画像表示システム10は、ECU11(electronic control unit)を備えている。ECU11は、撮像部12による撮影画像を画像処理して出力画像を生成する。ECU11は、出力画像が表示されるよう、表示部24aを制御する。ECU11は、画像処理装置あるいは表示制御部の一例である。
【0018】
<出力画像の概要>
ここで、
図2,3を参照しながら、本実施形態の画像表示システム10によって生成される出力画像Ioの概要について説明する。なお、
図2,3の出力画像Io中には、車両1の周辺の物体の画像は含まれていない。また、
図2,3中のグリッド線は、説明のために付加されており、実際の出力画像Ioには含まれなくてもよい。
【0019】
図2は、画像表示システム10による出力画像Ioの一例が示された図である。
図2に示されるように、表示部24aで表示される画像としての出力画像Ioには、車体画像Iv、視点画像Ib、および標示画像Iiが、含まれている。
【0020】
車体画像Ivは、車体2、すなわち、車両1、自車を示す。車体画像Ivは、
図1に示されるような車体2に設けられた撮像部12によって撮影された画像では無く、予め準備され、記憶され、出力画像Io中の所定領域に挿入された画像である。車体画像Ivには、例えば、視点画像Ibと同じあるいは近い視点からの視点画像が用いられる。
【0021】
視点画像Ibは、車体2に設けられた
図1に示される撮像部12によって得られた撮影画像に基づいて生成される。視点画像Ibは、撮影画像が投影された仮想投影面を仮想視点から見た画像であって、例えば、仮想投影変換や視点変換された画像である。視点画像Ibは、本実施形態では、一例として、車体2の周辺を斜め上方から見た俯瞰画像である。ECU11は、撮像部12による撮影画像のデータに対する座標変換や投影変換等の画像処理により、視点画像Ibのデータを得る。視点画像Ibは、ほぼリアルタイムに更新される動画であってもよいし、静止画であってもよい。視点画像Ibについては、後に詳しく述べる。
【0022】
標示画像Iiは、視点画像Ib中の特定の位置を示す付加的あるいは補助的な画像である。
図2の例では、標示画像Iiは、楕円状の線状、例えば破線状の画像である。標示画像Iiは、車体2の中心(重心)から所定距離(例えば2m)離れた、地面と同じ高さの位置、すなわち、車両上下方向における高さ=0の位置、を示している。視点画像Ibの仮想投影面における特定の位置を示すため、標示画像Iiの位置や形状は、視点画像Ibの仮想投影面の形状や、視点の位置等に応じて定まる。標示画像Iiについては、後に詳しく述べる。
【0023】
図3は、画像表示システム10による出力画像Ioの
図2とは別の一例が示された図である。
図3の例では、標示画像Iiは、視点画像Ibが表示される主表示領域Amには含まれず、主表示領域Amとは別の、主表示領域Amよりも小さいサブウインドウAs内に含まれている。サブウインドウAs内では、視点画像Ibの概要画像Iabと、標示画像Iiの概要画像Iaiとが重ねられている。この例では、サブウインドウAsにおいて、標示画像Ii、例えば、車両上下方向における高さ=0の位置の、視点画像Ibにおける配置や大きさが示される。サブウインドウAsは、副表示領域とも称される。サブウインドウAsには、標示画像Iiに対応する位置の車体2の中心(重心)からの半径を示す数値Inも示されている。
【0024】
<画像表示システム>
次に、
図2,3に示されるような出力画像Ioを生成する画像表示システム10について説明する。画像表示システム10は、車両1の状況に応じた出力画像Ioを表示することができる。画像表示システム10は、出力画像Ioを車両1の制御に利用するシステム、例えば、走行支援システムや、駐車支援システムに組み込まれてもよい。
【0025】
図1に示されるように、画像表示システム10に含まれる装置や電気部品は、例えば、車内ネットワーク23を介して電気的にあるいは通信可能に接続される。装置や電気部品は、例えば、非接触計測装置13や、舵角センサ14、舵角センサ15a、GPS16、車輪速センサ17、ブレーキセンサ18a、アクセルセンサ19、トルクセンサ20a、シフトセンサ21、方向指示器22、入力部24b等である。車内ネットワーク23は、例えば、CAN(controller area network)である。なお、各電気部品は、CAN以外を介して電気的にあるいは通信可能に接続されてもよい。
【0026】
撮像部12は、例えば、CCD(charge coupled device)やCIS(CMOS image sensor)等の撮像素子を内蔵するデジタルカメラである。撮像部12は、所定のフレームレートで画像データすなわち動画データを出力することができる。
【0027】
図4は、撮像部12による撮像範囲の一例が示された平面図である。
図4に例示されるように、車体2には、車外を撮像する撮像部12が、車体2の前部、右側の側部、左側の側部、および後部のそれぞれに、設けられている。車体2の前部に設けられる撮像部12は、例えば、フロントグリルに設けられる。車体2の左右の側部に設けられる撮像部12は、例えば、ドアミラーに設けられる。車体2の後部に設けられる撮像部12は、例えば、リヤハッチに設けられる。なお、図示されないが、撮像部12は、例えば、車体2の後端部の左右の角部にそれぞれ設けられてもよい。撮像部12は、例えば、広角レンズまたは魚眼レンズである。撮像部12は、車体2(車両1)の周辺の撮影画像のデータを取得する。なお、撮像部12は、三つ以下でも良いし、五つ以上でもよい。また、複数の撮像部12のそれぞれの撮像範囲は異なってもよい。
【0028】
非接触計測装置13は、例えば、超音波や電波を発射してその反射波を捉えるソナーやレーダ等である。ECU11は、非接触計測装置13の検出結果により、車両1の周囲に位置された障害物の有無や障害物までの距離を測定することができる。すなわち、非接触計測装置13は、物体検出部や、測距部とも称される。
【0029】
舵角センサ14は、操舵部としての不図示のステアリングホイールの操舵量を検出するセンサであり、例えば、ホール素子などを用いて構成される。また、舵角センサ15aは、後輪の操舵量を検出するセンサであり、例えば、ホール素子などを用いて構成される。なお、操舵量は、例えば、回転角度として検出される。
【0030】
GPS16(global positioning system)は、人工衛星から受信した電波に基づいて、現在位置を取得することができる。
【0031】
車輪速センサ17は、車輪の回転量や単位時間当たりの回転数を検出するセンサであり、例えば、ホール素子などを用いて構成される。ECU11は、車輪速センサ17から取得したデータに基づいて車両1の移動量などを演算することができる。車輪速センサ17は、ブレーキシステム18に設けられる場合もある。
【0032】
ブレーキシステム18は、ブレーキのロックを抑制するABS(anti-lock brake system)や、コーナリング時の車両1の横滑りを抑制する横滑り防止装置(ESC:electronic stability control)、ブレーキ力を増強する電動ブレーキシステム、BBW(brake by wire)等である。ブレーキシステム18は、不図示のアクチュエータを介して、車輪に制動力を与え、車両1を減速する。ブレーキセンサ18aは、例えば、ブレーキペダルの操作量を検出するセンサである。
【0033】
アクセルセンサ19は、アクセルペダルの操作量を検出するセンサである。トルクセンサ20aは、運転者が操舵部に与えるトルクを検出する。シフトセンサ21は、例えば、変速操作部の可動部の位置を検出するセンサであり、変位センサなどを用いて構成される。可動部は、例えば、レバーや、アーム、ボタン等である。なお、上述した各種センサやアクチュエータの構成や、配置、電気的な接続形態等は一例であって、種々に設定したり変更したりすることができる。方向指示器22は、方向指示用のライトの点灯、消灯、点滅等を指示する信号を出力する。
【0034】
画像表示システム10には、入力部10aが設けられてもよい。この場合、入力部10aは、例えば、押しボタン、スイッチ、つまみ等として構成される。
【0035】
モニタ装置24は、表示部24a、入力部24b、および音声出力装置24cを有する。表示部24aは、例えば、LCD(liquid crystal display)である。音声出力装置24cは、例えば、スピーカである。入力部24bは透明であり、表示部24aを覆っている。入力部24bは、例えば、タッチパネル等である。ユーザは、入力部24bを介して表示部24aの表示画面に表示される画像を視認することができる。また、ユーザは、表示部24aの表示画面に表示される画像に対応した位置にて手指等で入力部24bを触れたり押したり動かしたりして操作することで、入力を実行することができる。そして、これら表示部24aや、入力部24b、音声出力装置24c等は、例えば、ダッシュボードの車幅方向すなわち左右方向の中央部に位置されたモニタ装置24に設けられる。モニタ装置24は、例えば、スイッチや、ダイヤル、ジョイスティック、押しボタン等の図示されない入力部を有することができる。モニタ装置24は、ナビゲーションシステムやオーディオシステムと兼用される。
【0036】
ECU11は、例えば、CPU11a(central processing unit)や、ROM11b(read only memory)、RAM11c(random access memory)、フラッシュメモリ11d、表示制御部11e、音声制御部11f等を有している。フラッシュメモリ11dは、SSD(solid state drive)であってもよい。CPU11aは、各種演算を実行することができる。CPU11aは、ROM11bやフラッシュメモリ11d等の不揮発性の記憶装置にインストールされ記憶されたプログラムを読み出し、当該プログラムにしたがって演算処理を実行することができる。RAM11cは、CPU11aでの演算で用いられる各種のデータを一時的に記憶する。また、フラッシュメモリ11dは、書き換え可能な不揮発性の記憶部であり、ECU11の電源がオフされた場合にあってもデータを記憶することができる。また、表示制御部11eは、主として、撮像部12で得られた画像データを用いた一般的な画像処理や、表示部24aで表示される画像データの一般的な画像処理等を実行することができる。また、音声制御部11fは、主として、音声出力装置24cで出力される音声データの処理を実行することができる。なお、CPU11aや、ROM11b、RAM11c等は、同一パッケージ内に集積されることができる。また、ECU11は、CPU11aに替えて、DSP(digital signal processor)等の他の論理演算プロセッサや論理回路等が用いられる構成であってもよい。また、フラッシュメモリ11dに替えてHDD(hard disk drive)が設けられてもよいし、フラッシュメモリ11dやHDDは、ECU11とは別に設けられてもよい。
【0037】
図5は、ECU11の例示的かつ模式的なブロック図である。ECU11は、ハードウエアとソフトウエア(プログラム)との協働によって、画像処理装置として機能することができる。ECU11は、
図1に示されるように、表示制御部11eや音声制御部11fの他、
図5に示されるように、画像処理部30および記憶部40を含むことができる。画像処理部30は、例えば、CPU11aによって構成される。この場合、CPU11aは、画像処理部30の各部、すなわち、画像データ取得部31、画像合成部32、仮想投影部33、視点画像生成部34、標示画像生成部35、出力画像生成部36、データ取得部37、物体検出部38a、物体選択部38b、距離検出部38c、および可変設定部39等として機能する。記憶部40は、ROM11b、RAM11c、およびフラッシュメモリ11dを含む。なお、画像処理部30で実行される画像処理の少なくとも一部は表示制御部11eで実行されてもよい。画像処理部30の各部は、プログラムのモジュールに対応してもよいし、画像処理部30の少なくとも一部はハードウエアとして構成されてもよい。
【0038】
画像データ取得部31は、複数の撮像部12で撮影された複数の撮影画像のデータを取得する。
【0039】
画像合成部32は、画像データ取得部31で取得された複数の撮影画像のデータ、すなわち、複数の撮像部12で撮影された複数の撮影画像のデータを、それらの境界部分を合成することで繋ぎ、一つの撮影画像のデータを生成する。
【0040】
仮想投影部33は、撮影画像のデータを、車両1の周囲を取り囲む仮想投影面に投影した、仮想投影画像のデータを生成する。
図6は、画像表示システム10における撮影画像Icの仮想投影面Spへの投影を示す例示的かつ模式的な説明図である。
図6の例では、仮想投影面Spは、地面Grに沿った底面Spgと、底面Spgすなわち地面Grから立ち上がった側面Spsと、を有している。地面Grは、車両1の上下方向Zと直交する水平面であり、タイヤの接地面でもある。底面Spgは、略円形の平坦面であり、車両1を基準とする水平面である。側面Spsは、底面Spgと接した曲面である。
図6に示されるように、側面Spsの、車両1の中心Gcを通り車両1の垂直な仮想断面の形状は、例えば、楕円状あるいは放物線状である。側面Spsは、例えば、車両1の中心Gcを通り車両1の上下方向に沿う中心線CL周りの回転面として構成され、車両1の周囲を取り囲んでいる。仮想投影部33は、撮影画像Icを、仮想投影面Spに投影した仮想投影画像Ipを算出する。撮影画像Icを地面Grに投影すると、撮像部12から遠ざかるにつれて像が長くなり、出力画像中で実際の長さよりも長く映る場合がある。
図6からわかるように、地面Gr(底面Spg)から立ち上がった側面Spsへ投影された仮想投影画像Ipは、地面Grに投影された場合に比べて、像が短くなり、出力画像中で実際の長さよりも長く映るのが抑制される。底面Spgは、第一の投影面の一例であり、側面Spsは、第一の投影面よりも勾配が大きい第二の投影面の一例である。
【0041】
視点画像生成部34は、仮想投影面Spに投影された仮想投影画像Ipを、所定の仮想視点から見た、視点画像Ibを生成する。
図7は、画像表示システム10における車両1と仮想投影面Sp(Sp0)とを示す模式的かつ例示的な側面図である。
図7に示されるように、視点画像生成部34は、仮想投影面Spに投影された仮想投影画像Ip(
図7には不図示)を、所定の視点Epから斜め下方を見た視点画像Ib(
図7には不図示)に変換する。視点Epは、車両1の後方かつ上方に設定される。これにより、
図2,3に示された出力画像Ioに含まれているような視点画像Ibが得られる。
【0042】
標示画像生成部35は、仮想投影面Spにおける特定の位置を示す標示画像Iiを生成する。
図2,3に示された標示画像Ii(Ii0,Iai)は、
図6および
図7に示される、仮想投影面Spの側面Spsにおける地面と同じ高さの部位P0、すなわち、車両上下方向における高さ=0の部位P0、を示している。仮想投影面Spの底面Spgが地面Grと同じ高さの平面である場合、部位P0は、底面Spg(地面Gr)と側面Spsとの境界である。本実施形態では、一例として、部位P0を境に、底面Spg側と側面Sps側とで、投影変換や視点変換による物体の像の変化率が変化している。よって、出力画像Ioに含まれる標示画像Ii(Ii0)により、ユーザは、出力画像Ioにおいて物体の像の長さや形状が変化する位置を、認識することができる。部位P0に対応する標示画像Ii(Ii0)は、第一の標示画像の一例である。部位P0の高さ(=0)は、第一の高さの一例であるとともに、第二の高さの一例でもある。また、部位P0は、後述する仮想投影面Spの可変設定における参照位置の一例である。
【0043】
図8は、画像表示システム10による出力画像Ioのさらに別の一例が示された図である。
図8中に示される標示画像Ii(Ii0)は、
図2,3に示された標示画像Ii(Ii0)と同様に、部位P0に対応している。標示画像Ii(Ii0)とは別の標示画像Ii(Ii1)は、
図7の部位P1、すなわち、車体2(車両1)において前方、後方、または側方に張り出した張出部2a(突出部)と、同じ高さの部位P1、を示している。張出部2aは、車体2の前方、後方、または側方の端部を構成し、例えば、バンパーである。張出部2aと同じ高さの部位P1を示す標示画像Ii(Ii1)により、ユーザは、例えば、視点画像Ib中の、張出部2aと同じ高さにある物体を知ることができる。部位P1に対応する標示画像Ii(Ii1)は、第二の標示画像の一例である。また、二つの標示画像Ii0,Ii1が含まれる場合、ユーザは、視点画像Ib中で、標示画像Ii0,Ii1と重なるあるいは近い物体の高さを、より認識しやすくなる。なお、出力画像Io中では、複数の標示画像Iiの色や、太さ、線種等のスペックが、相異なってもよい。また、出力画像Ioには、部位P1を示す標示画像Ii(Ii1)のみが含まれてもよい。
【0044】
データ取得部37は、撮像画像以外のデータ、例えば、入力部24b,10aによって入力されたデータや、センサ等の検出結果のデータを取得する。
【0045】
物体検出部38aは、ソナーやレーダ等の非接触計測装置13による検出結果や、撮像部12(例えばステレオカメラ)による撮像結果等に基づいて、車体2(車両1)の周辺に存在する物体を検出する。物体検出部38aは、上記以外の検出装置による検出結果や、複数の検出装置の検出結果等に基づいて物体を検出してもよい。また、物体検出部38aは、所定の条件を満たす物体、例えば、大きさが所定の大きさよりも大きい物体や、高さが所定の高さよりも高い物体、幅が所定の幅よりも大きい物体、所定の範囲(距離範囲や高さ範囲等)内に位置する物体等を、検出することができる。
【0046】
物体選択部38bは、物体検出部38aにより検出された物体のうち、予め設定された条件を満たす物体を選択することができる。物体選択部38bは、所定の条件を満たす物体、例えば、大きさが所定の大きさよりも大きい物体や、高さが所定の高さよりも高い物体、幅が所定の幅よりも大きい物体、所定の範囲(距離範囲や高さ範囲等)内に位置する物体等を、選択することができる。この場合の条件は、物体検出部38aにおける条件とは異なる。物体選択部38bは、予め設定された条件を満たす物体として、側面Spsに投影する物体を選択することができる。この場合、物体は、投影物の一例であり、物体選択部38bは、投影物設定部の一例である。
【0047】
距離検出部38cは、物体検出部38aにより検出された物体や、物体選択部38bにより選択された物体のそれぞれについて、車体2(車両1)の基準点からの距離(第一の距離、第二の距離)を取得する。距離検出部38cは、ソナーやレーダ等の非接触計測装置13による検出結果や、一つ以上の撮像部12による撮像結果等に基づいて、当該距離を取得することができる。非接触計測装置13によって、一つであると見なされる物体について複数の距離が検出された場合にあっては、距離検出部38cは、複数の距離の代表値(例えば、所定範囲内における最小値や、平均値、中央値等)を、基準点から当該物体までの距離として算出することができる。
【0048】
可変設定部39は、仮想投影面Spを変更することができる。
図9は、画像表示システム10における車両1と
図7とは異なる仮想投影面Sp(Sp1)とを示す模式的かつ例示的な側面図である。
図10は、画像表示システム10における車両1と
図7,8とは異なる仮想投影面Sp(Sp2)とを示す模式的かつ例示的な側面図である。
図7,9,10を比較すれば明らかとなるように、これら仮想投影面Sp0,Sp1,Sp2においては、底面Spgの広さ(大きさ)、すなわち車体2(車両1)から側面Sps(部位P0)までの距離が、異なっている。可変設定部39は、記憶部40に記憶された複数の仮想投影面Spのデータのうちいずれかを読み出したり、あるいは数式による演算を行うことにより、仮想投影面Spを変更することができる。
【0049】
地面Gr(底面Spg)から立ち上がった側面Spsへの仮想投影画像Ipの投影は、当該側面Spsに比較的近い物体に対してより効果的である。本実施形態では、車両1の状況やユーザの嗜好に応じて、可変設定部39が仮想投影面Spを変更することにより、側面Spsの位置を変更することができる。すなわち、可変設定部39は、仮想投影面Spの側面Spsによる効果が得られる位置を、変更できる。
【0050】
可変設定部39による仮想投影面Spの変更は、入力部24b,10aのユーザの操作によって入力されたデータに基づいて行われる。これにより、ユーザの嗜好に応じて選択された仮想投影面Spが設定される。仮想投影部33および視点画像生成部34は、可変設定部39によって設定された仮想投影面Spについて、所定の演算を実行する。
【0051】
可変設定部39は、車両1の速度に応じて仮想投影面Spを変更することができる。可変設定部39は、例えば、車輪速センサ17の検出結果に基づいて、車両1の速度Vが第一の閾値Vth1以下である状態では(V≦Vth1)、
図7に例示されるような底面Spgの狭い(小さい)仮想投影面Sp0を設定する。可変設定部39は、車両1の速度Vが第一の閾値Vth1より大きく第二の閾値Vth2(>Vth1)以下である状態では(Vth1<V≦Vth2)、底面Spgが
図7の仮想投影面Sp0よりも広い(大きい)
図9に例示されるような仮想投影面Sp1を設定する。また、可変設定部39は、車両1の速度Vが第二の閾値Vth2より大きい状態では(V>Vth2)、底面Spgが
図9の仮想投影面Sp1よりも広い(大きい)
図10に例示されるような仮想投影面Sp2を設定する。あるいは、可変設定部39は、例えば、車輪速センサ17の検出結果に基づいて、車両1の速度Vと底面Spgの広さとの関数(数式)や、速度Vと底面Spgの広さとの相関関係を示すマップ(テーブル)により、速度Vが高いほど底面Spgが広い仮想投影面Spを設定することができる。車両1の速度Vが高いほど、注意を要する周辺領域は車両1から遠く、車両1の速度Vが低いほど、注意を要する周辺領域は車両1に近い場合が多い。よって、このような設定によれば、注意を要する周辺領域について、仮想投影面Spの側面Spsによる効果が得られる。よって、車両1と周辺の物体との距離に応じて、当該距離が長くなるほど底面Spgが広くなるよう、仮想投影面Spを変更してもよい。仮想投影面Sp0は、車両1の近傍に該当する箇所が急峻に立ち上がる仮想投影面の一例である。仮想投影面Sp2は、車両1の遠方に該当する箇所が急峻に立ち上がる仮想投影面の一例である。
【0052】
可変設定部39は、車両1の速度Vに限らず、種々の状況に応じたパラメータ、例えば、車両1の進行方向や、車両1の傾き、車両1の位置、車両1と周辺にある物体との距離、センサやデバイスによる検出結果や、信号、データ等に応じて、仮想投影面Spを変更することができる。当該センサやデバイスは、例えば、非接触計測装置13や、舵角センサ14,15a、GPS16、ブレーキセンサ18a、アクセルセンサ19、トルクセンサ20a、シフトセンサ21、方向指示器22等である。
【0053】
また、可変設定部39は、車両1の周辺の物体のうち仮想投影面Spに投影する投影物までの車両1からの距離に応じて、仮想投影面Spを変更することができる。
図11は、画像表示システム10における車両1、投影物B、および仮想投影面Sp(Sp1)を示す模式的かつ例示的な側面図である。また、
図12は、画像表示システム10における車両1、
図11よりも車両1から遠い投影物B、および仮想投影面Sp(Sp2)を示す模式的かつ例示的な側面図である。ここで、投影物Bは、予め設定された条件を満たしていたため、物体検出部38aにより検出された物体の中から物体選択部38bによって選択された物体であって、少なくとも側面Spsに投影される物体である。すなわち、予め設定された条件は、換言すれば、側面Spsに投影する物体を特定する条件である。
【0054】
図11,12から明らかとなるように、可変設定部39は、投影物Bの位置、すなわち車両1から投影物Bまでの距離Lb1,Lb2(第二の距離)に応じて、仮想投影面Spを変更している。
図12における車両1から投影物Bまでの距離Lb2は、
図11における車両1から投影物Bまでの距離Lb1よりも長い。この場合には、可変設定部39は、
図12の仮想投影面Sp2における、車両1から部位P0(参照位置)までの距離L02を、
図11の仮想投影面Sp1における、車両1から部位P0までの距離L01よりも、長く設定している。すなわち、可変設定部39は、車両1から投影物Bまでの距離Lb1,Lb2が大きいほど部位P0が車両1から遠ざかるよう、仮想投影面Spを設定している。このような設定により、出力画像Ioにおいて、側面Spsに投影される物体としての投影物Bの距離やサイズ等が、より認識されやすくなる。
【0055】
また、可変設定部39は、部位P0が、投影物Bよりも車両1に近くなるように、仮想投影面Spを設定する。これにより、出力画像Ioにおいて、投影物Bの画像が部位P0を跨いで側面Spsと底面Spgとに渡ってより歪みが大きい状態で表示されるのが、抑制される。なお、可変設定部39は、部位P0を、車両1と投影物Bとの間であって、車両1よりも投影物Bに近い位置に設定する。このような設定によれば、部位P0が車両1に近い場合に比べて、出力画像Ioにおいて、投影物Bの距離やサイズ等が、より認識されやすくなる。
【0056】
なお、可変設定部39は、車両1から投影物Bまでの距離Lb1,Lb2が小さいほど、側面Spsの勾配が小さくなるようにしてもよいし、部位P0における勾配の変化が小さくなるようにしてもよい。このような設定によれば、出力画像Ioにおいて、部位P0において地面Grの画像の歪みが大きくなるのが、抑制される。
【0057】
なお、物体選択部38bは、例えば、部位P0の高さ(第二の高さ)よりも高い第三の高さを設定し、物体の高さが第三の高さと同じかあるいはより高い当該物体を、投影物Bとして選択することができる。このような設定によっても、出力画像Ioにおいて、投影物Bの画像が部位P0を跨いで側面Spsと底面Spgとに渡ってより歪みが大きい状態で表示されるのが、抑制される。
【0058】
図13は、画像表示システム10で用いられる仮想投影面Spの別の一例が示された模式的な斜視図である。
図13に例示される仮想投影面Sp3は、半球状である。このように、仮想投影面Spの底面Spgは曲面であってもよいし、仮想投影面Spの底面Spgと側面Spsとのはっきりとした境界は無かったりしてもよい。すなわち、本実施形態における仮想投影面Spは、底面Spgと側面Spsとに分割されているものには限定されない。仮想投影面Sp3は、車両1の近傍から車両1の遠方にかけて緩やかに立ち上がる仮想投影面の一例である。
【0059】
図14は、画像表示システム10で用いられる仮想投影面Spのさらに別の一例が示された模式的な斜視図である。
図14に例示される仮想投影面Sp4は、円錐内面状である。このように、仮想投影面Spの側面Spsの勾配は一定であってもよいし、仮想投影面Spの底面Spgと側面Spsとが滑らかに接続されなくてもよい。
【0060】
可変設定部39によって仮想投影面Spが変更される画像表示システム10では、出力画像Io中に標示画像Iiが含まれるのがより効果的である。例えば、ユーザは、出力画像Ioにおいて仮想投影面Spの変化に伴う物体の画像の大きさや、位置、歪み等の変化や、物体の形状が歪みやすい底面Spgと側面Spsとの境界部分の位置等を、出力画像Io中に含まれる標示画像Iiによって、認識することができる。よって、ユーザが出力画像Ioにおける画面や物体の変化に戸惑ったり、ユーザが出力画像Io中で物体を誤認したり、といった、不都合な事象が抑制される。
【0061】
以上、説明したように、本実施形態では、例えば、標示画像生成部35は、仮想投影面Spにおける特定の位置を示す標示画像Iiを生成する。出力画像生成部36は、視点画像Ibと標示画像Iiとを含む出力画像Ioを生成する。よって、本実施形態によれば、例えば、出力画像Ioにおいて、仮想投影面Spにおける特定の位置を示す標示画像Iiに基づいて、物体の位置や大きさが、より認識されやすくなる。
【0062】
また、本実施形態では、例えば、標示画像Iiは、仮想投影面Spの、車両1の上下方向における所定高さの部位を示す。よって、例えば、出力画像Ioにおいて、標示画像Iiに基づいて、物体の上下方向の位置や物体の高さが、より認識されやすくなる。
【0063】
また、本実施形態では、例えば、標示画像Iiは、仮想投影面Spの、地面Grと同じ高さの部位を示す標示画像Ii0(第一の標示画像)を含む。よって、例えば、標示画像Ii0に基づいて、地面Grの位置や、物体の地面Grからの距離、物体の地面Grからの高さが、より認識されやすくなる。
【0064】
また、本実施形態では、例えば、標示画像Iiは、仮想投影面Spの、車体2において前方、後方、または側方に張り出した張出部2aと同じ高さの部位を示す標示画像Ii1(第二の標示画像)を含む。よって、例えば、出力画像Ioにおいて、標示画像Ii1に基づいて、物体と張出部2aとの上下方向の位置の差が、より認識されやすくなる。
【0065】
また、本実施形態では、例えば、可変設定部39は、仮想投影面Spを変更可能である。よって、例えば、より好都合な仮想投影面Spに基づく出力画像Ioが生成される。
【0066】
また、本実施形態では、例えば、可変設定部39は、車両1の速度に応じて仮想投影面Spを変更可能である。よって、例えば、出力画像Ioにおいて、車両1の速度に応じたより好都合な表示形態が得られやすい。
【0067】
また、本実施形態では、例えば、可変設定部39は、車両1の速度が第一の速度である場合にあっては、車両1の遠方に該当する箇所が急峻に立ち上がる仮想投影面Sp2を設定し、車両1の速度が第一の速度よりも低い第二の速度である場合にあっては、車両1の近傍から車両1の遠方にかけて緩やかに立ち上がる仮想投影面Sp3か、または車両1の近傍に該当する箇所が急峻に立ち上がる仮想投影面Sp2を設定してもよい。よって、例えば、出力画像Ioにおいて、車両1の速度に応じたより好都合な表示形態が得られやすい。
【0068】
また、本実施形態では、例えば、可変設定部39は、車両1の速度が第一の速度の場合における底面Spgを、車両1の速度が第一の速度よりも低い第二の速度の場合における底面Spgよりも広く設定できる。よって、例えば、底面Spgと側面Spsとを有する仮想投影面Spが用いられる場合に、出力画像Ioにおいて、車両1の速度に応じた好都合な表示形態が得られやすい。
【0069】
また、本実施形態では、例えば、可変設定部39は、車両1と周辺にある物体との距離に応じて該当する箇所が急峻に立ち上がった仮想投影面Spを設定できる。よって、例えば、出力画像Ioにおいて、車両1と周辺にある物体との距離に応じたより好都合な表示形態が得られやすい。
【0070】
また、本実施形態では、例えば、可変設定部39は、車両1から投影物Bまでの距離Lb1,Lb2(第二の距離)が大きいほど部位P0(参照位置)が車両1から遠ざかるよう、仮想投影面Spを設定することができる。よって、例えば、出力画像Ioにおいて、側面Sps(第二の投影面)に投影される物体としての投影物Bの距離やサイズ等が、より認識されやすくなる。
【0071】
また、本実施形態では、例えば、可変設定部39は、部位P0が、投影物Bよりも車両1に近くなるように、仮想投影面Spを設定することができる。よって、例えば、出力画像Ioにおいて、投影物Bの画像が部位P0を跨いで底面Spg(第一の投影面)と側面Spsとに渡ってより歪みが大きい状態で表示されるのが、抑制される。
【0072】
以上、本発明の実施形態を例示したが、上記実施形態は一例であって、発明の範囲を限定することは意図していない。実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、組み合わせ、変更を行うことができる。また、各例の構成や形状は、部分的に入れ替えて実施することも可能である。また、各構成や形状等のスペック(構造や、種類、方向、形状、大きさ、長さ、幅、厚さ、高さ、数、配置、位置、色、パターン等)は、適宜に変更して実施することができる。
【0073】
また、出力画像(表示画像)は、複数の表示装置で表示されてもよいし、ナビゲーション装置等とは別の表示装置で表示されてもよい。表示装置は、フロントウインドウや車内のスクリーン等に画像を映し出す装置であってもよいし、車内のダッシュボードやセンターコンソール等に設けられた表示パネルであってもよい。なお、表示パネルは、コックピットモジュール、インストルメントパネル、フェイシア等に設けられてもよい。
【0074】
また、標示画像は、線状の画像には限定されず、例えば、標示画像は、視点画像を透過する透明な領域を示す画像であって、特定の位置が透明な領域の縁によって示されてもよい。また、仮想投影面としては、種々の形状のものが設定される。
【0075】
また、第一の投影面は曲面であってもよいし、第一の投影面と第二の投影面とが一連の曲面であってもよいし、参照位置は、地面から上方に離れていてもよい。参照位置は、仮想投影面が変化していることを示す参照としての意味を有すればよく、第一の投影面と第二の投影面との境界を明確にすることは必須ではない。ただし、参照位置は、第一の投影面と第二の投影面との境界位置であってもよい。参照位置は、例えば、撮像部の位置よりも下方に設定されうるし、車両の部位の高さである第一の高さよりも低い高さに設定されうる。これにより、出力画像における画像の歪みが抑制される。また、視点画像は、俯瞰画像には限定されず、例えば、側方から見た画像であってもよい。
【0076】
また、車両の基準点(中心)を通り車両上下方向に沿った断面における断面形状は、例えば、ベジェ曲線等であってもよい。ベジェ曲線とすることにより、仮想投影面の断面の形状をより容易に設定しやすくなる。すなわち、仮想投影面の設定の自由度が高まりやすい。また、仮想投影面の可変設定による効果は、出力画像に標示画像が含まれない場合においても得られる。
【0077】
また、本発明の車両用画像処理装置は、以下の[1]または[2]のような形態によっても実現可能である。
[1]
車両の周囲を取り囲む三次元の仮想投影面に車両周辺の撮影画像が投影された仮想投影画像の、仮想視点からの視点画像を生成する、視点画像生成部と、
前記仮想投影面における特定の位置を示す標示画像を生成する標示画像生成部と、
前記視点画像および前記標示画像を含む出力画像を生成する出力画像生成部と、
を備え、
前記仮想投影面は、地面に沿った底面と、底面から立ち上がった側面と、を有し、
前記標示画像は、前記仮想投影面の、前記底面と前記側面との境界を示す、車両用画像処理装置。
[2]
車両の周囲を取り囲む三次元の仮想投影面に車両周辺の撮影画像が投影された仮想投影画像の、仮想視点からの視点画像を生成する、視点画像生成部と、
前記仮想投影面における特定の位置を示す標示画像を生成する標示画像生成部と、
前記視点画像および前記標示画像を含む出力画像を生成する出力画像生成部と、
前記仮想投影面を変更可能な可変設定部と、
を備え、
前記可変設定部は、入力部で入力されたデータに基づいて、前記仮想投影面を変更可能である、車両用画像処理装置。