(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-06-08
(45)【発行日】2023-06-16
(54)【発明の名称】視界支援画像生成装置および画像変換プログラム
(51)【国際特許分類】
H04N 7/18 20060101AFI20230609BHJP
B60R 1/00 20220101ALI20230609BHJP
G06T 1/00 20060101ALI20230609BHJP
G06T 5/00 20060101ALI20230609BHJP
【FI】
H04N7/18 J
B60R1/00
G06T1/00 330Z
G06T5/00
H04N7/18 U
(21)【出願番号】P 2019069444
(22)【出願日】2019-03-29
【審査請求日】2022-01-12
(73)【特許権者】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
(74)【代理人】
【識別番号】100138771
【氏名又は名称】吉田 将明
(72)【発明者】
【氏名】道口 将由
【審査官】淀川 滉也
(56)【参考文献】
【文献】特開2019-004348(JP,A)
【文献】特開2009-279146(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
G06T 5/00
G06T 1/00
B60R 1/00
(57)【特許請求の範囲】
【請求項1】
視界支援画像生成装置を備えた車両であって、
前記視界支援画像生成装置は、
処理部と、
第1カメラと、第2カメラと、
第1カメラが撮像した画像に基づいて生成された視界支援画像を表示する表示装置と、
車両に搭乗する乗員の、前記表示装置における注視ポイントを検出する検知部と、
を備え、
前記処理部が、第1カメラが撮像した画像における、第1カメラから被写体までの距離を、前記第1カメラと前記第2カメラの間に生じる視差を用いて算出し、
前記検知部が、車両に搭乗する乗員の、前記表示装置における注視ポイントを検出し、
前記処理部が、前記注視ポイントに基づいて、前記視界支援画像における、前記乗員の注視座標を推定し、
前記処理部が、前記視界支援画像における前記注視座標を中心にした、前記距離に応じたぼかしフィルタを、前記視界支援画像に対して適用する、
車両。
【請求項2】
請求項1に記載の車両であって、
前記ぼかしフィルタは、前記注視座標を基準にした、
前記距離が所定の
閾値以上の画素または画素ブロックに対してぼかしが適用されるものである、
車両。
【請求項3】
請求項1または請求項2に記載の車両であって、
前記ぼかしフィルタは、前記注視座標
を基準にした前記距離が大きくなるほどに強いぼかしが適用されるものである、
車両。
【請求項4】
請求項1から請求項3のいずれか1項に記載の車両であって、
前記ぼかしフィルタの、前記距離についての分解能が、前記第1カメラおよび前記第2カメラの視差検出精度に応じて設定される、
車両。
【請求項5】
請求項1から請求項4のいずれか1項に記載の車両であって、
前記検知部が、前記乗員の注視ポイントが前記表示装置上に無いことを検知した時に、前記表示装置の輝度を低下させる、
車両。
【請求項6】
請求項1から請求項5のいずれか1項に記載の車両であって、
前記検知部が、前記乗員の注視ポイントが前記表示装置上にあることを検知した時に、前記処理部が前記表示装置の輝度を徐々に上昇させる、
車両。
【請求項7】
車両の視界支援画像を生成する視界支援画像生成装置であって、
処理部と、
第1カメラと、第2カメラと、
第1カメラが撮像した画像に基づいて生成された視界支援画像を表示する表示装置と、
車両に搭乗する乗員の、前記表示装置における注視ポイントを検出する検知部と、
を備え、
前記処理部が、第1カメラが撮像した画像における、第1カメラから被写体までの距離を、前記第1カメラと前記第2カメラの間に生じる視差を用いて算出し、
前記検知部が、車両に搭乗する乗員の、前記表示装置における注視ポイントを検出し、
前記処理部が、前記注視ポイントに基づいて、前記視界支援画像における、前記乗員の注視座標を推定し、
前記処理部が、前記視界支援画像における前記注視座標を中心にした、前記距離に応じたぼかしフィルタを、前記視界支援画像に対して適用する、
視界支援画像生成装置。
【請求項8】
請求項7に記載の視界支援画像生成装置であって、
前記ぼかしフィルタは、前記注視座標を基準にした、
前記距離が所定の
閾値以上の画素または画素ブロックに対してぼかしが適用されるものである、
視界支援画像生成装置。
【請求項9】
請求項7または請求項8に記載の視界支援画像生成装置であって、
前記ぼかしフィルタは、前記注視座標
を基準にした、前記距離が大きくなるほどに強いぼかしが適用されるものである、
視界支援画像生成装置。
【請求項10】
請求項7から請求項9のいずれか1項に記載の視界支援画像生成装置であって、
前記ぼかしフィルタの、前記距離についての分解能が、前記第1カメラおよび前記第2カメラの視差検出精度に応じて設定される、
視界支援画像生成装置。
【請求項11】
請求項7から請求項10のいずれか1項に記載の視界支援画像生成装置であって、
前記検知部が、前記乗員の注視ポイントが前記表示装置上に無いことを検知した時に、前記表示装置の輝度を低下させる、
視界支援画像生成装置。
【請求項12】
請求項7から請求項11のいずれか1項に記載の視界支援画像生成装置であって、
前記検知部が、前記乗員の注視ポイントが前記表示装置上にあることを検知した時に、前記処理部が前記表示装置の輝度を徐々に上昇させる、
視界支援画像生成装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両の乗員に対して表示する視界支援画像を生成する装置、および画像変換プログラムに関する。
【背景技術】
【0002】
車両のドアミラーにつき、横方向(車両のドライバーから見た左右方向の、自車両から離れる方向)の死角を減らす為に、光学ミラーであるアスフェリカルミラーを用いるものがある。
図1は、既存技術である光学アスフェリカルミラーの模式図であり、ドアミラーMが通常のミラー部M1とアスフェリカル部M2を備える。アスフェリカル部M2は、曲率を変化させ、前記横方向についてより広範囲の像が映るようにしている。
【0003】
ドアミラーMに撮像用のカメラをさらに備えたCMS(カメラモニタリングシステム)においても、上記の光学ミラーであるアスフェリカルミラーを模した原理により、前記横方向に画角を広げている。すなわち、カメラが撮像した画像における、上記ドアミラーMのアスフェリカル部M2に相当する領域に、前記横方向に圧縮をかけ、当該圧縮後の画像を表示器に表示している。
【0004】
特許文献1には、車両の後側方の撮像画像を、横方向に変化する倍率で拡大又は圧縮してなる画像を表示器に表示させる場合に、自車両の前後方向に延在するはずの白線等の走行領域区分線が表示器に表示される画像中で曲がって表示されるのを防止するために、設定された横方向拡縮倍率で撮像画像の各部を横方向にスケール修正する横スケール修正処理と、横スケールが修正された画像中で曲がって表示される走行領域区分線の画像が直線状に延在するように設定された縦方向拡縮倍率でさらに部分的に縦方向にスケール修正する縦スケール修正処理を実行することが開示されている。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、車両の乗員、特にドライバー(以下、ドライバー等と表記する)の視点で考えると、当該ドライバー等は、車載モニタ等に表示された表示画像を見ることになる。この表示画像の元となる画像は、ドアミラー等に備えられたカメラによって撮像されたものである。この表示画像は違和感の少ない状態で表示されるのが好ましい。
【0007】
また、ドアミラーは車両の外(以下、外界と表記する)の状況を把握するためのものであるから、外界の適切な状況把握ができる表示画像であることも望まれる。
【0008】
本開示は上記の観点から、違和感が少なく、また、外界の適切な状況把握ができる表示画像を提供することを目的とする。
【課題を解決するための手段】
【0009】
車両の視界支援画像を生成する視界支援画像生成装置が、車両からの画像を撮像するカメラと、処理部を備え、前記カメラが撮像した撮像画像を、前記処理部が画像変換することで、前記視界支援画像を生成し、前記画像変換は、前記撮像画像内に含まれる深消失点を中心として、前記撮像画像の横方向における圧縮率が、前記撮像画像の縦方向における圧縮率よりも高くなるように、前記撮像画像を圧縮するものである。前記構成により、生成した視界支援画像が、違和感が少なく、かつ、外界の適切な状況把握ができるものになる。
【発明の効果】
【0010】
違和感が少なく、外界の適切な状況把握ができる表示画像を提供することができる。
【図面の簡単な説明】
【0011】
【
図1】既存技術である光学アスフェリカルミラーの模式図。
【
図2】本開示の視界支援画像生成装置1による画像生成の原理を示す模式図であり、(a)レンズモデルの一例を示す図、(b)撮像画像(入力画像)を示す図、(c)表示画像(出力画像)を示す図。
【
図3】本開示の視界支援画像生成装置1の実施例を示す構成図。
【
図4】処理部11が行う画像処理の一例を示すフロー図。
【
図6】入力画像I
inから出力画像I
outを生成した際の、従来技術による場合と、本開示の視界支援画像生成装置1による場合との比較図。
【
図7】入力画像I
inから出力画像I
outを生成した際の、従来技術による場合と、本開示の視界支援画像生成装置1による場合との第2の比較図。
【
図8】入力画像I
inから出力画像I
outを生成した際の、従来技術による場合と、本開示の視界支援画像生成装置1による場合との第3の比較図。
【
図9】従来技術である視界支援画像生成装置を用いて生成した視界支援画像(出力画像)I
outを示す図。
【
図10】本開示の視界支援画像生成装置1Bの実施例を示す構成図。
【
図11】本開示の視界支援画像生成装置1Bが備えるカメラ12によって撮像されるセンサ画像と、表示装置13に表示される視界支援画像MPとを示す図。
【
図12】検出車両表示部Dの、視界支援画像MP内での追随を示す図であり、(a)初期状態、(b)追随状態、(c)追随終了状態をそれぞれ示す。
【
図13】入力画像I
inから視界支援画像を生成した際の、従来技術による場合と、本開示の視界支援画像生成装置1Bによる場合との比較図。
【
図14】割付の1態様を示す図であり、(a)センサ画像、(b)視界支援画像MPを示す。
【
図17】本開示の視界支援画像生成装置1Cの実施例を示す構成図。
【
図19】
図17に示したシステム構成に基づく処理フロー図であり、(a)距離感を仮想的に表現する処理、(b)表示装置13の輝度調光処理を示す。
【
図20】表示装置13に表示される視界支援画像の比較図であり、(a)表示装置上の注視ポイントを示す図、(b)本開示の視界支援画像生成装置1Cを用いない場合の視界支援画像、(c)本開示の視界支援画像生成装置1Cを用いた場合の視界支援画像MP。
【発明を実施するための形態】
【0012】
以下、車両は右ハンドルの自動車であり、ドライバーの死角になりやすい右側のドアミラーに設けたカメラによって撮像した撮像画像を用いて、車内に設けた表示装置に表示画像を表示する、という前提で、適宜図面を参照しながら詳細に説明する。ただし、特許請求の範囲に記載の主題をこの前提のみに限定することは意図されていない。例えば、車両以外の移動体や、車両が有するハンドルの位置(左ハンドル、右ハンドル、ハンドルがそもそも存在しない自動運転)や、カメラを取り付ける位置(左ドアミラー、右ドアミラー、その他)等の、種々の変形があり得る。
【0013】
添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
【0014】
図2は、本開示の視界支援画像生成装置1(
図3に基づき後述)による画像生成の原理を示す模式図であり、(a)レンズモデルの一例を示す図、(b)撮像画像(入力画像)を示す図、(c)表示画像(出力画像)を示す図である。
【0015】
本開示の視界支援画像生成装置1においては、撮像画像内に含まれる深消失点を中心として、撮像画像の横方向における圧縮率が、撮像画像の縦方向における圧縮率よりも高くなるように、前記撮像画像を圧縮できるような幾何学形状レンズモデルを用いる。幾何学形状レンズモデルとして、本実施形態においては、
図2(a)に示した縦長楕円レンズモデルEを用いる。
【0016】
この縦長楕円レンズモデルEにおける長軸(縦軸)の長さをb、短軸(横軸)の長さをcとすると、b>cである。そして、後述するが、この縦長楕円レンズモデルEを用いると、画像の圧縮率は横方向から縦方向に線形に変化することになる。これを言い換えると、横方向を偏角0度、縦方向を偏角90度とした場合、偏角が0度から90度へと増加するにつれて、圧縮率は線形に減少する。また、これも後述するが、楕円の中心からの距離が遠いほどに、圧縮率が増加するものとなる。
【0017】
図2(b)は、入力画像I
inを示す図であり、本実施形態においては、自車両100の右ドアミラーに取り付けられたカメラが撮像した撮像画像に相当する。
【0018】
入力画像Iinの中には、その左側に、自車両100の車体が映り込んでいる。また、説明の為の一例にすぎないが、入力画像Iinの中には、物体OBJ1~OBJ4が映りこんでいる。この例においては、物体OBJ1~OBJ4はそれぞれ、自車両100の隣のレーンを走行中の、自車両100とは異なる車両である。
【0019】
図2(c)は、出力画像I
outを示す図であり、本実施形態においては、自車両100の内部に取り付けられたモニタによって、右ハンドルを握るドライバーへ向けて表示される表示画像に相当する。
【0020】
図2(c)から分かるように、出力画像I
outにも、自車両100の車体と、物体OBJ1~OBJ4とが映り込んでいる。ここで、入力画像I
in(
図2(b))と出力画像I
out(
図2(c))とを比較すると、出力画像I
outに映りこんでいる物体OBJ1~OBJ4は、横方向の圧縮率の方が、縦方向の圧縮率よりも高くなっている。すなわち、横方向に画角が広がる。なお、このような出力画像I
outが、違和感が少なく、また、外界の適切な状況把握ができる表示画像である事については、後述する。
【0021】
図3は、本開示の視界支援画像生成装置1の実施例を示す構成図である。本開示の視界支援画像生成装置1は、処理部11とカメラ12とを備える。なお、これら以外の構成要素を備えていてもよい。図示しているように、視界支援画像生成装置1が不揮発性メモリ14等を更に備えるようにすることもできる。
【0022】
処理部11は、視界支援画像生成装置1における情報処理を行う構成要素である。処理部11は画像処理を行い、装置内の他の構成要素や装置外部から入力された指令や信号の処理を行い、逆に、装置内の他の構成要素や装置外部へと指令や信号を送信してよい。
【0023】
カメラ12は、車両からの画像を撮像して上述の入力画像Iinを取得するための手段である。本実施形態においては、カメラ12は車両の後側方を撮像するための、ドアミラーに取り付けられたカメラであるが、これには限定されない。例えば、車両の前方や後方を撮像するカメラ等であってもよい。
【0024】
表示装置13は、視界支援画像生成装置1によって生成された表示画像を表示することができる装置である。典型的には、表示装置13は自車両100内に設けられたモニタ等であるが、これには限定されない。ドライバー等は、この表示装置13に表示された表示画像を見ることとなる。
図3においては、表示装置13は視界支援画像生成装置1とは別体となっている。しかし、表示装置13を視界支援画像生成装置1の中に含めてもよい。
【0025】
不揮発性メモリ14は、処理部11が行う画像処理に用いるプログラムや、各種パラメータ情報、真円レンズモデル(後述)に基づく変換テーブル等を記憶していてよい。
【0026】
なお、視界支援画像生成装置1に含まれる構成要素は、さらに一体化されていてもよく、逆に複数のサブコンポーネントへとさらに分割されていてもよい。
【0027】
図4は、処理部11が行う画像処理の一例を示すフロー図である。
【0028】
図4は、入力画像I
inに基づいて出力画像I
out生成する画像変換処理に用いられる、変換テーブルを作成する為の処理の一例を示している。前提条件として、本例においては、
図2(a)に示した縦長楕円レンズモデルEを用いる。また、
図5に基づき後述するように、本例においては、レンズ歪みの除去も併せて行うこととする。
【0029】
ステップS01において、処理部11が、入力画像Iinを取り込む。取り込まれた画像は、図示を省略するメモリ等に保持されてよい。
【0030】
ステップS02では、処理部11が、処理すべき次の画素が残っているか否かを判断している。次の画素がある場合(図中のyes)は、ステップS03へと進む。次の画素が残っていない場合(図中のno)は、入力画像Iinの全てについて処理が終了した状況を示しており、変換テーブル作成処理は終了となる。
【0031】
ステップS03において、処理部11が、処理対象となる次の画素を選択する。選択された画素の座標を、便宜的に座標Pとする。
【0032】
ステップS04において、処理部11が、中央座標Oと座標Pとの間の距離Doを算出する。ここで、中央座標Oは、入力画像I
in内に含まれる深消失点を意味している。例えば
図2(b)を用いて例示すると、自動車が走行している路面には白線Wが複数引かれている。これら複数の白線Wの延長線上に、それらの延長線が1点に交わる点がある。この交点が、深消失点である。
図2(b)においては、画像内部、左上側に深消失点(中央座標О)がある。
【0033】
ステップS05において、処理部11が、距離Doを真円レンズモデルの変換テーブルで変換し、変換後の距離Do’を決定する。このステップS05については、
図5も併せて参照しつつ、下記でさらに詳述する。
【0034】
図5に、真円レンズモデルの説明図を示している。
図5に示されるレンズ50は、ピンホールカメラ等で用いられる一般的な真円状のレンズである。なお、
図5は、真円レンズを正面ではなく横から見た状態を示している。
【0035】
光学系の評価面51上での像位置を、光軸からの距離で表した値を像高と呼ぶが、像高には理想像高53と実像高52の2種類がある。理想像高53は理想的な像高である。しかし、通常の光学系の像高は、レンズ歪み等の影響を受けるため、理想像高53とはならない。一方、実像高52は、評価面で実際に結像している位置を指す像高である。なお、前記ステップS04で算出した中央座標Oと座標Pとの間の距離Doは、実像高52に相当する。
【0036】
そして、各座標における実像高52と、各座標における理想像高53とを組み合わせて、1つの変換テーブルとする。
図5に示した例において、レンズ50は真円レンズである。したがって、
図5に示してある実像高52と、真円レンズの理想像高53とを組み合わせた変換テーブルは、真円レンズモデルの変換テーブルとなる。真円レンズモデルの変換テーブルを用いれば、レンズ歪みの影響を受けた実像高52を、レンズ歪みの除去された(真円レンズモデルの)理想像高53へと変換することができる。
【0037】
上述のような真円レンズモデルの変換テーブルは、例えば不揮発性メモリ14等に保存されていてよい。そして処理部11が、上記ステップS05において、この真円レンズモデルの変換テーブルを用いて、実像高52である距離Doから、真円レンズモデルの理想像高53に相当する変換後の距離Do’を決定する。
【0038】
ステップS06において、処理部11が、真円レンズモデルによる、像高変化割合aを算出する。なお、a=(Do’/Do)-1である。
【0039】
像高変化割合aは、真円レンズモデルの理想像高53である距離Do’を、実像高52である距離Doで除算し、そこから1を引いた値である。例えば、理想像高53である距離Do’=120、実像高52である距離Do=100である場合、像高変化割合a=(120/100)-1=0.2となる。これは、実像高52に対して(真円レンズモデルの)理想像高53が20%変化(この場合は増加)していることを意味する。
【0040】
ここで、本開示における視界支援画像生成装置1は、既に述べたように、縦長楕円レンズモデルE(
図2(a))を用いる。そのため、ステップS06で計算した像高変化割合aに、縦長楕円の要素を混入させる必要がある。そこで、後続のステップS07以降において、以下のような処理を行う。
【0041】
ステップS07において、処理部11が、座標Oから座標Pへと延びる直線と、長軸bおよび短軸cで定義される縦長楕円関数Eとの交点P1の座標を計算する。次のステップS08において、処理部11が、座標Oと座標P1との間の距離D1を算出する。
【0042】
なお、長軸bおよび短軸cの長さは、適宜決定することができる。本例においては縦長楕円レンズモデルEを用いているので、長軸bが縦方向(Y軸方向)に延び、短軸cが横方向(X軸方向)に延びる。c<bである。
【0043】
ここで、理解をより容易とするために、具体例を2つ示す。
【0044】
まず、第1の具体例を示す。座標Pが、座標Оを原点とした場合のX軸上に存在していたとする。つまり、座標P=(m,0)であったとする。mは任意の正の実数である。この時、座標Oから座標Pへと延びる直線と、上記縦長楕円関数Eとの交点P1の座標は(c/2,0)であるので、D1=c/2である。
【0045】
第2の具体例を示す。座標Pが、座標Оを原点とした場合のY軸上に存在していたとする。つまり、座標P=(0,n)であったとする。nは任意の正の実数である。この時、座標Oから座標Pへと延びる直線と、上記縦長楕円関数Eとの交点P1の座標は(0,b/2)であるので、D1=b/2である。
【0046】
ここで、上述の2つの具体例同士を比較すると、c<bであるから、c/2<b/2となる。すなわち、第1の具体例よりも、第2の具体例の方が、距離D1の値が大きい。
【0047】
続くステップS09において、処理部11が、座標Pについての圧縮係数Ap=(a/D1)+1を算出する。上述のように、aは像高変化割合、D1は座標Oから座標P1までの距離である。ここでD1が逆数として用いられているので、上記2つの具体例の間で、値の大小関係は逆転する。すなわち、第2の具体例におけるAp=(2a/b)+1よりも、第1の具体例におけるAp=(2a/c)+1の方が、圧縮係数Apの値が大きい。この圧縮係数Apは、圧縮率に相当する。
【0048】
つまり、横方向にある座標P=(m,0)である第1の具体例の方が、縦方向にある座標P=(0,n)である第2の具体例よりも、圧縮係数Apの値が大きい。これは、座標O(深消失点)を中心として、横方向の圧縮率が、縦方向の圧縮率よりも高いことを示している。
【0049】
続くステップS10において、処理部11は、座標Pについての圧縮係数Apを、縦長楕円レンズモデルの理想像高53として、縦長楕円レンズモデルEの変換テーブルに書き入れる。つまり、実像高52と、縦長楕円レンズモデルEの理想像高53とを組み合わせて記録する。ここまでの説明から分かるように、縦長楕円レンズモデルEの変換テーブルは、上述の真円レンズモデルの変換テーブルを変形したものとなる。
【0050】
そして、処理はステップS02へと戻る。つまり、上述のステップS01で処理部11が取り込んだ入力画像Iinに含まれる、すべての画素(座標P)に対して、実像高52と、縦長楕円レンズモデルEの理想像高53との組み合わせを記録して、これを縦長楕円レンズモデルEの変換テーブルとする。
【0051】
以上のようにして、真円レンズモデルの変換テーブルを変形して、縦長楕円レンズモデルEの変換テーブルを作成することができる。
【0052】
そして、入力画像Iinに対して、縦長楕円レンズモデルEの変換テーブルを適用することにより、出力画像Ioutを生成することができる。より詳しくは、入力画像Iinにおける座標Oから座標Pまでの線分を、Ap倍圧縮する(距離Doを、距離Do/Apへと変える)。この圧縮は、座標O(深消失点)を中心とした横方向の圧縮率が、縦方向の圧縮率よりも高いものである。
【0053】
なお、縦長楕円レンズモデルEの長軸bおよび短軸cの長さは、適宜変更が可能である。つまり、本開示の視界支援画像生成装置1は、座標O(深消失点)を中心とした横方向の圧縮率と、縦方向の圧縮率とを、別個独立に調整することができる。
【0054】
図6は、入力画像I
inから出力画像I
outを生成した際の、従来技術による場合と、本開示の視界支援画像生成装置1による場合との比較図である。
図6(a)は入力画像I
inである。この入力画像I
inに対し従来技術を用いて生成した出力画像I
outが
図6(b)である。同じ入力画像I
inに対し、本開示の視界支援画像生成装置1を用いて生成した出力画像I
outが
図6(c)である。
【0055】
図6(a)に示す入力画像I
inの中には、その左側に、自車両100の車体が映り込んでいる。また、説明の為の一例ではあるが、入力画像I
inの中には、物体OBJ1~OBJ4が映り込んでいる。この例においては、物体OBJ1~OBJ4は、自車両の隣のレーンを走行中の、自車両100とは異なる車両である。
【0056】
図6(b)に示す、従来技術により生成された出力画像I
outは、入力画像I
inに映り込んだレーン上の白線Wを直線化するために、横方向の拡縮を行った後に、縦方向の拡縮をさらに行って生成されている。つまり、横方向と縦方向の、2段階の拡縮を行っている。これは、後述の
図7(b)および
図8(b)についても同様である。
【0057】
図6(b)に示した出力画像I
outをみると、車両であるOBJ1、OBJ2の形状が、入力画像I
inとは大きく異なっている。これらは横方向に大きく潰れ、原形を認識し難いものとなっている。また、横方向の距離感も大きく変動しており、OBJ1からOBJ2までの車間距離が、極端に短縮化している。これをドライバー等の視点で見た場合、そこに何かしらの物体が存在していること自体は知覚できるものの、その物体がはたして何であるかが判別困難になることがある。また、OBJ1とOBJ2との間の車間距離は、本来は充分にあけられている(
図6(a))。しかし、
図6(b)では互いに衝突しそうであるように見える。
【0058】
一方、
図6(c)に示す、本開示の視界支援画像生成装置1によって生成された出力画像I
outの場合は、立体の形状変化が緩和される。また、横方向の距離感の変化も緩やかである。よって、ドライバー等の視点では、隣のレーンを移動する物体OBJ1~OBJ4の形を認識しやすい。また、距離感の急激な変動によって混乱することもない。
【0059】
図7は、入力画像I
inから出力画像I
outを生成した際の、従来技術による場合と、本開示の視界支援画像生成装置1による場合との第2の比較図である。
図7(a)は入力画像I
inである。この入力画像I
inに対し従来技術を用いて生成した出力画像I
outが
図7(b)である。同じ入力画像I
inに対し、本開示の視界支援画像生成装置1を用いて生成した出力画像I
outが
図7(c)である。
【0060】
図7においては、自車両100の進行方向に対して直交する直線L1、L2を、補助線として付加した。直線L1が、自車両100の近傍における線、直線L2が、自車両100の遠方における線である。
【0061】
図7(a)に示す入力画像I
inにおいては、2つの直線L1とL2は平行になっている。
【0062】
図7(b)に示す、従来技術により生成された出力画像I
outを見ると、2つの直線L1とL2は、その傾きが大きく異なっている。この傾きの相違は、ドライバー等の視点では、画像の歪みや違和感として認識される。また、画像内に映り込んだ複数台の車両は、2つの直線L1、L2と直交する方向に進行している。つまり、出力画像I
outが動画であった場合、この動画内に映り込んだ車両は、実際には直進しているはずであるが、画像の右側へと進むにつれ、カーブしながら進行しているように映る。これもまた、ドライバー等に違和感を覚えさせる。
【0063】
一方、
図7(c)に示す、本開示の視界支援画像生成装置1によって生成された出力画像I
outであれば、2つの直線L1とL2との間の傾きの違いが、従来よりも緩やかになる。よって、ドライバー等にとっての違和感が少ない。また、出力画像I
outが動画であった場合、当該動画に映り込んでいる車両の進行がより自然に見えるので、やはり違和感が少ない。
【0064】
図8は、入力画像I
inから出力画像I
outを生成した際の、従来技術による場合と、本開示の視界支援画像生成装置1による場合との第3の比較図である。
図8(a)は入力画像I
inである。この入力画像I
inに対し従来技術を用いて生成した出力画像I
outが
図8(b)である。同じ入力画像I
inに対し、本開示の視界支援画像生成装置1を用いて生成した出力画像I
outが
図8(c)である。
【0065】
図8においては、車両であるOBJ2のフロントバンパー付近に説明用の矢印L3を入れている。この矢印L3は、画像に映り込む物体が備えている、自車両100の進行方向に直交する直線を示している。
【0066】
図8(b)に示す、従来技術により生成された出力画像I
outを見ると、矢印L3が湾曲していることが見て取れる。つまりドライバー等の視点では、物体OBJ2を構成する、直線状に形成されている部材(フロントバンパー等)が、湾曲して見えることになる。これもまた、ドライバー等に違和感を覚えさせる。
【0067】
一方、
図8(c)に示す、本開示の視界支援画像生成装置1によって生成された出力画像I
outであれば、上述の湾曲も緩和され、直線状に形成されている部材(フロントバンパー等)が、直線に近い形状としてドライバー等の目に映る。すなわち、ドライバー等にとって違和感が少ない。
【0068】
以上、例示したように、本開示の視界支援画像生成装置1によって生成された出力画像Ioutは、違和感の少ない画像となる。
【0069】
これに加えて、本開示の視界支援画像生成装置1によって生成される出力画像I
outは、撮像画像内に含まれる深消失点を中心として、撮像画像の横方向における圧縮率が、撮像画像の縦方向における圧縮率よりも高くなるように、前記撮像画像を圧縮するものである(
図1~
図5参照)。よって、画角を横方向に拡大するという、光学アスフェリカルミラーが有する利点も、依然として享受することができる。
【0070】
すなわち、本開示の視界支援画像生成装置1は、違和感が少なく、また、外界の適切な状況把握ができる出力画像Ioutを生成することができる。
【0071】
なお、下記にて、補足事項をいくつか説明する。
【0072】
図4に基づき説明したフロー図は、真円レンズモデルの変換テーブルに基づいて縦長楕円レンズモデルEの変換テーブルを作成し、縦長楕円レンズモデルEの変換テーブルを用いて出力画像I
outを生成する例であった。この縦長楕円レンズモデルEの変換テーブルを不揮発性メモリ14等に保存しておけば、入力画像I
inが入力される都度、新たに変換テーブルを生成する必要が無くなる。つまり、入力画像I
inに対して、既に保存されている縦長楕円レンズモデルEの変換テーブルを参照して、出力画像I
outを生成することができるようになる。逆に、入力画像I
inが入力される都度、上記のように圧縮係数A
pを動的に計算した上で、出力画像I
outを生成してもよい。
【0073】
また、上記の実施形態においては、ステップS01~S10に係る処理を、処理部11が行っている。この処理に係るプログラムが不揮発性メモリ14等に保存され、処理部11がこのプログラムを読み出して画像処理を行ってよい。一方、上述の処理を、ソフトウェア処理ではなく、ハードウェア処理によって行ってもよい。例えば、専用の回路等によって当該処理を行ってよい。
【0074】
次に、圧縮率についての補足説明を行う。
図4のステップS09につき、具体例を2つ示した。すなわち、圧縮率(圧縮係数A
p)について、横方向(第1の具体例)と縦方向(第2の具体例)との2方向を比較した。しかし、その中間である斜め方向の圧縮率もある。上述のように、縦長楕円レンズモデルEの変換テーブルは、上述の真円レンズモデルの変換テーブルを変形したものある。真円を縦長楕円に変換しているので、圧縮率(圧縮係数A
p)は横方向から縦方向に、線形に変化することになる(
図2(a)参照)。これを言い換えると、横方向を偏角0度、縦方向を偏角90度とした場合、偏角が増加するにつれて、圧縮率(圧縮係数A
p)は線形に減少する。
【0075】
また、真円レンズモデルとして、中心からの距離が遠いほどに圧縮率が増加するレンズモデルを用いることができる。そのような真円レンズモデルに基づいて作成した縦長楕円レンズモデルEもまた、中心(深消失点)からの距離が遠いほどに圧縮率が増加するものとなる。
【0076】
次に、違和感が少なく、また、外界の適切な状況把握ができる表示画像を提供するという本開示の目的から、アスフェリカル部分を可動にする工夫である、視界支援画像生成装置1Bについて説明する。
【0077】
CMS(カメラモニタリングシステム)が搭載された車両に搭乗するドライバー等は、車両に設けられた表示装置によって、視界支援画像を見ることになる。しかし、従来技術である視界支援画像生成装置を用いて生成した視界支援画像は、光学ミラーであるドアミラーMのアスフェリカル部M2(
図1参照)に相当する、視界支援画像の片側端部に行くほど強く圧縮される。すると、当該視界支援画像を見るドライバー等は、違和感を覚えることになる。
【0078】
図9を用いて例示を行う。
図9は、従来技術である視界支援画像生成装置を用いて生成した視界支援画像(出力画像)I
outを示す図である。
図9の下部には黒色の矢印が付加されており、圧縮率を表現している。すなわち、視界支援画像(出力画像)I
outの右側に行くにつれて、圧縮率が上昇している。
【0079】
視界支援画像(出力画像)I
outには、車両である物体OBJ2が、自車両100の隣の車線を走行しており、後方から自車両100に近づき、追い越していく状況が映っている。この時、物体OBJ2が、前記アスフェリカル部M2に相当する視界支援画像(出力画像)I
outの右側へと移動するにつれて、物体OBJ2の形状は画像圧縮によって大きくつぶれることになる。
図9に示された、左右に大きくつぶれた物体OBJ1と、同じく
図9の、物体OBJ1ほどは左右につぶれていない物体OBJ2とを対比することで、つぶれの問題を直感的に理解できる。
【0080】
また、物体OBJ2の視界支援画像(出力画像)Iout上の移動速度は、自車両100に距離が近づくにつれて、徐々に速く見えるようになる。しかし一方、アスフェリカル部M2に相当する画像右側においては、画像が圧縮されるため、物体OBJ2が急速に減速するように見える。すると、自車両100のドライバー等の目には、車両である物体OBJ2が徐々に加速しながら自車両に100近づいた後、突如減速しながら、自車両100を追い抜いていくかのように映る。このような画像表示は、違和感が大きいものである。
【0081】
そこで本開示の視界支援画像生成装置1Bにおいては、CMS(カメラモニタリングシステム)による、光学アスフェリカルミラー状の画像表示において、上述のような違和感が生じることを抑制する。これを実現するために、光学アスフェリカルミラーのアスフェリカル部に相当する表示部分における圧縮の仕方を、車両表示位置に応じて変動させる。
【0082】
より詳しくは、視界支援画像内の高圧縮部分を、視界支援画像内に表示される検出車両DC(後述)以外の箇所に設定する。そして、検出車両DCが表示される位置における圧縮強度が急激に変わらないようにする。
【0083】
上述のような本開示の視界支援画像生成装置1Bにより、ドライバー等にとって違和感の無い視界支援画像を提供することができる。さらに、視界支援画像には依然としてアスフェリカル部に相当する箇所があるため、高画角の表示が可能である。以下、このような本開示の視界支援画像生成装置1Bについて詳述する。
【0084】
図10は、本開示の視界支援画像生成装置1Bの実施例を示す構成図である。
図10に示した各装置が、自車両100に搭載されている。
図10に示すハードウェア構成は、
図3に基づき説明した視界支援画像生成装置1と基本的に同様である。
図10に示した実施例が、
図3に示した実施例と異なるのは、視界支援画像生成装置1Bが、近接車両位置算出装置15と接続されている点である。
【0085】
近接車両位置算出装置15は、例えば、車両のリアバンパー内側等に設置されたミリ波レーダーであってよく、隣接車線を走行する車両を検出し、当該車両の位置を算出することが出来る。ただし、例えばTOFセンサ等の他の測距装置を用いて、隣接車線を走行する車両を検出してもよい。
【0086】
また、近接車両位置算出装置15は、例えばカメラ12であってもよい。すなわち、カメラ12によって自車両100から見た外界(特に、隣接車線)を撮像し、この撮像画像から、隣接車線を走行する車両の位置をソフトウェア処理で求めればよい。
【0087】
上記いずれの場合においても共通するのは、近接車両位置算出装置15によって、自車両100の隣接車線を走行する最も近い車両(以下、検出車両DCと表記する)の位置を算出する、ということである。このような車両が、自車両100との衝突の危険性が最も高い。視界支援画像生成装置1Bは、検出車両DCの位置情報を、近接車両位置算出装置15から取得することで、後述の画像処理を行うことができる。
【0088】
図11は、本開示の視界支援画像生成装置1Bが備えるカメラ12によって撮像されるセンサ画像と、表示装置13に表示される視界支援画像MPとを示す図である。なお、視界支援画像MPは上述の出力画像I
outに相当する画像であり、表示装置13に表示される。自車両100に搭乗するドライバー等が、表示装置13に表示された視界支援画像MPを見る。自車両100の外界の様子が視界支援画像MPに含まれているので、視界支援画像MPは、ドライバー等の視界を支援するものである。
【0089】
図11(b)に示すように、視界支援画像MPは、検出車両表示部Dとアスフェリカル部Aとを有している。検出車両表示部Dは、前記近接車両位置算出装置15によって位置が取得された検出車両DCが映り込む、画像上の領域である。一方で、アスフェリカル部Aは、上述の光学アスフェリカルミラーにおけるアスフェリカル部M2に相当する画像上の領域である。
【0090】
本来、光学アスフェリカルミラーにおけるアスフェリカル部M2は、ミラーに映る視野角を広げる為に、当該光学ミラーの他の箇所よりも圧縮度が高くなっている。これと同様に、視界支援画像MPが有するアスフェリカル部Aは、検出車両表示部Dよりも圧縮率が高くなっている。ただし、CMS(カメラモニタリングシステム)上では、検出車両表示部Dを必ずしも等倍表示にしなくてもよい。検出車両表示部Dを一定の圧縮率で圧縮し、アスフェリカル部Aをさらに大きな圧縮率にすることもできる。いずれにせよ、本開示の視界支援画像生成装置1Bにおいては、圧縮する合計画素数と検出車両DC周辺の圧縮率とを、予め決めておく。
【0091】
(表示量の規定)
以下、検出車両表示部Dの圧縮率を1倍(等倍)とした例を説明する。まず、ドライバー等が表示装置13で視認できる、視界支援画像MPの最終表示画角を規定する。なお、
図11(a)に示すように、センサ画像上の画素数を規定してもよい。
【0092】
本例では、センサ画像上の画素数に基づいて例示を行こととする。
図11(a)に示したセンサ画像上の、横方向の画素数を1300ピクセルと予め決定する。センサ画像上での、検出車両表示部Dの横方向の画素数を500ピクセルと設定する。センサ画像上での、アスフェリカル部Aの横方向の画素数を800ピクセルと規定する。
【0093】
この時、センサ画像上の、
図11(a)に示した横方向500ピクセル+800ピクセルの領域が、一部圧縮されて、視界支援画像MPへと変換されることとなる。視界支援画像MPの横方向の画素数を800ピクセルとする。
【0094】
なお、上記の画素数はあくまで例示であり、他の設定値にしてもよい。
【0095】
図11(a)に示したセンサ画像中の横方向1300ピクセルおいて、アスフェリカル部Aを800ピクセルから300ピクセルへと圧縮する。一方、検出車両表示部Dの500ピクセルは、この例においては圧縮しない。予め、検出車両表示部Dの表示倍率を等倍に決めていたからである。すると、
図11(b)に示したように、アスフェリカル部Aが横方向に縮んだ状態で、視界支援画像MPが生成される。なお、圧縮前の1300ピクセル分の画角は、視界支援画像MPにおいても維持されている。
【0096】
そして、
図11(b)に示したような、表示上の按分比率(検出車両表示部D:アスフェリカル部A=500:300)を固定する。この、
図11(b)に示した態様を、表示の初期状態とする。次に、この初期状態からの、検出車両表示部Dの追随移動について説明する。
【0097】
図12は、検出車両表示部Dの、視界支援画像MP内での追随を示す図であり、(a)初期状態、(b)追随状態、(c)追随終了状態をそれぞれ示している。
【0098】
図12の右側、視界支援画像MP上に示された破線は、可変閾値である所定の箇所を示している。本例では、検出車両表示部Dの横方向(水平方向)の中心に、可変閾値を、図のように仮想的に設置する。なお、可変閾値は検出車両表示部Dのさらに右側、あるいは左側へとずれていてもよい。
【0099】
近接車両位置算出装置15によって検出した検出車両DCは、道路上で自車両100を後ろから追い抜く、追い抜き車両である。この検出車両DCは、
図12に示した検出車両表示部D上を、左側から右側へと移動するように表示される。
【0100】
この検出車両DC(の所定の箇所。例えば車両の前面(フロントバンパー等))が前述の可変閾値を超えた後は、視界支援画像MPにおける、検出車両表示部Dが右側に移動する。検出車両表示部Dの移動は、前記検出車両DC(の中の所定の箇所)が、検出車両表示部Dの前記左右方向における中央に位置するように行われる。すなわち、視界支援画像MPにおける検出車両表示部Dの位置が、検出車両DC(の中の所定の箇所)に追随して、初期状態から右方向へと移動する(
図12中段の追随状態)。
【0101】
検出車両表示部Dの前記追随移動に伴い、アスフェリカル部Aが、アスフェリカル部A1およびA2の2つに分割される。ただし、表示上の按分比率(検出車両表示部D:アスフェリカル部A=500:300)は、依然として固定されたままである。例えば、検出車両表示部Dの右側に存在する、本来のアスフェリカル部Aであるアスフェリカル部A1は、
図12に示した追随状態においては、横方向に150ピクセル分の領域を占める。検出車両表示部Dの左側領域を補うように出現した、追加のアスフェリカル部A2は、
図12に示した追随状態においては、横方向に150ピクセル分の領域を占める。アスフェリカル部A1とA2を併せると、横方向に300ピクセルとなる。このように、検出車両表示部Dの前記追随移動に伴い、検出車両表示部Dの左右に配置されたアスフェリカル部A1、A2の画素数(画角)も変化する。アスフェリカル部A1、A2の画素数(画角)の変化幅は、いずれも、0画素(0度)から所定の設計値までである。
【0102】
以上のような、視界支援画像MPにおける検出車両表示部Dの追随移動は、
図12の下段に示した追随終了状態になるまで行われる。追随終了状態においては、視界支援画像MPにおける左側の300ピクセルがアスフェリカル部A2であり、右側の500ピクセルが検出車両表示部Dである。アスフェリカル部A1の幅は0ピクセルである。
【0103】
検出車両DCは、自車両100を追い抜いて、視界支援画像MPの右側方向へ抜ける。つまり、検出車両DCは、視界支援画像MPに表示されなくなる。検出車両DCが視界支援画像MPに表示されなくなった段階で、視界支援画像MPの表示形態は、
図12の上段に示した初期状態に戻る。
【0104】
図13は、入力画像I
inから視界支援画像を生成した際の、従来技術による場合と、本開示の視界支援画像生成装置1Bによる場合との比較図である。
図6(a)は入力画像I
inである。この入力画像I
inに対し従来技術を用いて生成した出力画像I
outが
図13(b)である。同じ入力画像I
inに対し、本開示の視界支援画像生成装置1Bを用いて生成した視界支援画像MP(出力画像I
out)が
図13(c)である。
【0105】
【0106】
図13(b)については、出力画像I
outのアスフェリカル部に相当する右側部分が圧縮されている為、車両である物体OBJ1だけでなく、車両である物体OBJ2も形状が歪んでいる。また、物体OBJ2は、
図9に基づいて説明したように、画像の右側へと進むにつれて、急速に減速するように見える。
【0107】
一方、
図13(c)に示した、本開示の視界支援画像生成装置1Bを用いて生成した視界支援画像MP(出力画像I
out)の場合は、検出車両DC(物体OBJ2)の形状が歪んでいない。なぜなら検出車両DCは、検出車両表示部Dに表示されるからである。上述のように、本例において検出車両表示部Dは等倍表示されている。その一方で、左右に設けられたアスフェリカル部A1およびA2は横方向に圧縮されている。
【0108】
したがって、視界支援画像生成装置1Bによって生成した視界支援画像MPにおいては、衝突の可能性が一番高く、もっとも注意を払うべき検出車両DCが、正しい形状、正しい位置に表示される。かつ、この検出車両DCが、自車両100の後方から接近し自車両100を追い抜くまでの状況を、視界支援画像MPによって、直感的に広画角で表示し、乗員に情報提示を行うことができる。
【0109】
次に、検出車両DCの、視界支援画像MPへの割り付けについて説明する。
【0110】
上述のように、視界支援画像MPは検出車両表示部Dとアスフェリカル部A1(およびA2)を有しており、検出車両表示部Dは所定の一定倍率(本例においては等倍)としつつ、アスフェリカル部A1(およびA2)を適宜圧縮して、横方向の広画角を実現している。
【0111】
ここで、検出車両DCの視界支援画像MP上への割り付けには自由度がある。
図14は割付の1態様を示す図であり、(a)センサ画像、(b)視界支援画像MPを示す。
【0112】
図14(a)に示したセンサ画像において、既に説明した横方向1300ピクセルの全体が、車両(検出車両DC、およびそれ以外の車両)が表示される範囲となる。
【0113】
ここで、
図14(a)に2つの丸印がプロットされている。一方は検出車両DC(物体OBJ2)の位置を示しており、他方は、検出車両DCの前を走る車両(物体OBJ1)の位置を示している。
図14(a)にセンサ画像上においては、アスフェリカル部A1、A2はまだ圧縮前の状態である。
【0114】
図14(a)に示した状況において、センサ画像の左端から検出車両DCまで(間隔1)、検出車両DCから物体OBJ1まで(間隔2)、物体OBJ1からセンサ画像の右端まで(間隔3)が、それぞれ等間隔にであったとする。
【0115】
このようなセンサ画像に基づいて、視界支援画像生成装置1Bは、これらの間隔1、間隔2、間隔3が等間隔のままになるように、検出車両DCの表示位置を視界支援画像MP上に割り当てることができる。この割り当ては、左右に配置されたアスフェリカル部A1及びA2のそれぞれの幅を適宜調整し、また、アスフェリカル部A1及びA2のそれぞれの箇所の圧縮率を適宜調整することにより、実現可能である。
【0116】
検出車両DCの表示位置を上述のように割り当てることにより、視界支援画像MPにおける検出車両DCの表示位置が、視界支援画像MPに表示可能な最大画角範囲(1300ピクセル)における、検出車両DCの移動の仕方に追従する。
【0117】
次に、極座標に基づいた均等割り割り当てについて説明する。
【0118】
図15は、極座標に基づいた割り当てを示す図である。図の右側に示すように、自車両100と検出車両DCとが並走している。検出車両DCは自車両100の隣接車線を走行中であり、自車両100を追い抜こうとしている。
【0119】
図15の右側には、自車両100が備えるカメラ12の視野範囲(例えば画角90度)が、扇形状に示されている。また、この視野範囲を、極座標系において等間隔に分割する間隔線PCLが複数本、描かれている。
【0120】
一方、
図15の左側には、表示装置13に表示する視界支援画像MP(この例においては、横方向の画角90度)に上述の間隔線PCLが描かれている。
【0121】
そして、視界支援画像MP(
図15左側)における検出車両DCの表示位置が、カメラ12と検出車両DCとの間の相対位置(
図15右側)と極座標上で一致するように割り当てられてよい。この割り当てもまた、左右に配置されたアスフェリカル部A1及びA2のそれぞれの幅を適宜調整し、また、アスフェリカル部A1及びA2のそれぞれの箇所の圧縮率を適宜調整することにより、実現可能である。
【0122】
図16は、
図10に示したシステム構成に基づく処理フロー図である。
【0123】
ステップS101において、近接車両位置算出装置15が、隣接車線の車両情報を確認する。
【0124】
ステップS102において、処理部11が、隣接車線に車両が存在したか否かを判断する。存在した場合(Yesの場合)はステップS103に進む。存在しなかった場合(Noの場合)は、検出車両表示部Dの追随等を行わない、上述の初期状態(
図12上段を参照)での視界支援画像MPの表示を行う。この表示は、処理部11による制御の下、表示装置13により行われる。
【0125】
ステップS103において、処理部11が、近接車両位置算出装置15が確認した最も近い車両(前記検出車両DC)の位置情報に基づいて、この車両の視界支援画像MP上の表示位置を計算する。
【0126】
ステップS104において、処理部11が、検出車両DCの視界支援画像MP上の表示位置が、視界支援画像MP上の可変閾値である所定の箇所を超えたか否かを判断する。超えた場合(Yesの場合)はステップS105へ進む。超えない場合(Noの場合)は、検出車両表示部Dの追随等を行わない、上述の初期状態(
図12上段を参照)での視界支援画像MPの表示を行う。この表示は、処理部11による制御の下、表示装置13により行われる。
【0127】
ステップS105において、処理部11が、検出車両DCの視界支援画像MP上の表示位置に応じて、表示データ(視界支援画像MP)の形成を行う。すなわち前述のような検出車両表示部Dの追随等の処理が行われる。
【0128】
上記の構成とすることによって、表示装置13に表示する視界支援画像MPを、自車両100のドライバー等に違和感を与えない、また、アスフェリカル部により画角も広く確保した画像にすることができる。
【0129】
次に、違和感が少なく、また、外界の適切な状況把握ができる表示画像を提供するという本開示の目的から、表示画像上で距離感を表現する工夫である、視界支援画像生成装置1Cについて説明する。
【0130】
車両の中には、光学ミラーや、前述の光学アスフェリカルミラーを車載カメラに置き換えるものがある。車載カメラで撮像した画像を適宜画像処理し、視界支援画像として車内の表示装置等に表示する。車両に搭乗したドライバー等はこの視界支援画像を見て、車外の様子を確認することができる。
【0131】
ここで、上記の置き換え前の光学ミラーの場合、肉眼の視差から発生する眼球の動き、対象物に対するピント合わせの反応により、ドライバー等は距離感を得ることができる。
【0132】
一方、車載カメラは、一般的にピント調整の機構を持たない。その為、例えば無限遠に固定ピントで撮像すると、得られる映像のピントは一様となる。したがって、表示装置に表示された視界支援画像から、ドライバー等が十分な遠近感を得ることはできないものであった。
【0133】
特に、CMS(カメラモニタリングシステム)などでドアミラーが車載カメラに置き換わった場合に、ドライバー等が表示装置上の画像を見ながら車両を後退させるシーンなどで、遠近感の無さが問題となる。
【0134】
例えば、ドライバーが車両を後退させて駐車する場合を考える。車両の後方に柵などによって駐車枠が仕切られていることがある。この時、ドライバーの視点では、表示装置上の画像からドライバー等が十分な遠近感を得ることはできないため、車体に柵が刺さっているかの如く見える。このような状態では、ドライバーが後退駐車時の停止位置をうまく判断することができない。
【0135】
そこで、本開示の視界支援画像生成装置1Cにおいては、表示装置への人間の注視ポイントを把握し、当該注視ポイントにピントを合わせ、そのポイントとは距離(遠近)の異なる箇所にぼかし処理を行うことにより、視界支援画像上で距離感を仮想的に表現することができる。
【0136】
以下、視界支援画像上で距離感を仮想的に表現するための構成について詳述するが、本開示の視界支援画像生成装置1Cにより、ドライバー等は、視界支援画像上で距離感を得ることができる。
【0137】
図17は、本開示の視界支援画像生成装置1Cの実施例を示す構成図である。
図17に示した各装置が、自車両100に搭載されている。
図17に示すハードウェア構成は、
図3に基づき説明した視界支援画像生成装置1と基本的に同様である。
図17に示した実施例が、
図3に示した実施例と違うのは、視界支援画像生成装置1Cが、カメラが2つに増えていることと、検知部18を更に備えていることである。検知部18については後述することとし、まずはカメラが2つに増えていることについて説明する。
【0138】
図18は、車載カメラの様々な設置例を示している。なお、
図18には、車両の進行方向をx軸、車幅方向をy軸、車両の高さ方向をz軸とした直交座標系を付加してある。
【0139】
本開示の視界支援画像生成装置1Cにおいては、視差検出範囲を得る為に、カメラを2つ以上配置する。
図18の例では、カメラを2つ配置している。複数のカメラの設置位置は自由である。
図18(a)に示しているように、車両のドアミラーと車両後部とにそれぞれ1つずつ、カメラを設置してよい。また、車両後部に2つカメラを設置してもよい。車両のドアミラーに2つカメラを設置してもよい。
【0140】
また、
図18(b)に示すように、車両のドアミラーと、Aピラーのルーフ付近とに1つずつカメラを設置してもよい。
【0141】
設置するカメラが2つである場合、一方のカメラを主カメラ12とし、他方のカメラを副カメラ16とする。主カメラ12が撮像する画像をCMS(カメラモニタリングシステム)の表示装置13(モニタ)上に表示し、副カメラ16が撮像する画像は視差検出用に用いる。ただし、副カメラ16の画像をCMS(カメラモニタリングシステム)の表示装置13(モニタ)上に表示してもよい。
【0142】
そして、主カメラ12が撮像した画像における距離推定が可能な画素に対して、副カメラ16の画像を利用して、被写体までの距離の推定を行う。この距離推定は、既存の距離推定技術を用いてよい。
【0143】
なお、必ずしも主カメラ12の撮像画像における全画素について距離推定を行う必要は無いため、主カメラ12上の画素を間引いて距離推定を行ってもよい。このことにより、画像処理に必要な時間を節約できる。
【0144】
次に、再び
図17を参照しつつ、検知部18について説明する。検知部18は、典型的には、CMS(カメラモニタリングシステム)の表示装置13または表示装置13付近に設けられた、ドライバー等の眼球監視用カメラである。例えば車両のドライバーは運転時に表示装置13を見るので、その眼球をカメラで監視し、表示装置による表示上のどこを注視しているのか(注視ポイント)を検出することができる。
【0145】
この検知部18から注視ポイントに係る情報を得た処理部11は、表示装置13に表示された視界支援画像MPにおける注視座標(注視ポイントに相当する座標)を推定する。
【0146】
そして処理部11は、視界支援画像MPにおける前記注視座標を中心にした、上述の主カメラ12および副カメラ16によって行われた距離推定により算出された距離(遠近)に応じたぼかしフィルタを、視界支援画像MPに対して適用する。白シェーディングの透過重畳を行ってもよい。
【0147】
より詳しくは、注視座標からの距離が所定の閾値を超える画素(注視座標とは遠近が大きく違う画素)に対して、前記ぼかしフィルタを適用する。また、当該距離が大きいほど強いぼかしフィルタを適用してよい。
【0148】
上記構成により、視界支援画像の注視ポイントと距離が近い一定領域(距離が閾値以内の領域)はピントが合った状態となり、その周辺領域は、注視ポイントから前記推定距離が離れるにしたがって、ぼけの強い状態となる。したがって、ドライバー等が視界支援画像MPを、表示装置13を用いて見たときに、注視対象とそれ以外との間の距離感を得ることができる。
【0149】
なお、上記の所定の閾値の値(例えば10メートル)や、ぼかし強度を変える距離の分解能は、複数カメラの視差による距離検出の精度や、仕様に応じて変更することができる。また、ぼかしフィルタは、画素単位ではなく、複数の画素からなるブロック単位で適用されてもよい。
【0150】
変形例として、タッチパネル式の表示装置13を用いて、タッチパネル画面を指でタッチするなどして、注視ポイントを変更/固定しても良い。
【0151】
図19は、
図17に示したシステム構成に基づく処理フロー図であり、(a)距離感を仮想的に表現する処理、(b)表示装置13の輝度調光処理を示している。
【0152】
ステップS201において、処理部11が、主カメラ12と副カメラ16がそれぞれ撮像した画像に基づいて、主カメラ12の距離情報を算出する。
【0153】
ステップS202において、検知部18が、ドライバー等が表示装置13(モニタ)を注視しているか否かを確認する。注視している場合(Yesの場合)はステップS203へ進む。注視していない場合(Noの場合)は処理終了となる。
【0154】
ステップS203において、処理部11が、前述の注視座標を算出する。この算出処理には、主カメラ12が撮像した画像と、検知部18が検出した前述の注視ポイントに係る情報とが用いられる。
【0155】
ステップS204において、処理部11が、前記注視座標における距離情報と周辺の距離情報(ステップS201にて算出済み)に応じたぼかしフィルタを、視界支援画像MPに対して適用する。このフィルタ適用後の視界支援画像MPにおいては、距離感が疑似的に表現されている。
【0156】
次に、
図19(b)に示した輝度調光処理について説明する。なお、
図17に示した検知部18は上述のように、ドライバー等の眼球をカメラで監視し、表示装置13(モニタ)による表示上のどこを注視しているのかを算出する。そのため、この眼球監視を適切に行いうる程度の輝度が、表示装置13(モニタ)には必要となる。
【0157】
ステップS301において、検知部18が、ドライバー等が表示装置13(モニタ)を注視しているか否かを確認する。注視している場合(Yesの場合)はステップS302へ進む。注視していない場合(Noの場合)はステップS304へ進む。
【0158】
ステップS302において、処理部11が、表示装置13(モニタ)は目標輝度に達しているか否かを判断する。目標輝度に達している場合(Yesの場合)、輝度をさらに上げる必要はなく、処理終了となる。目標輝度に達していない場合(Noの場合)、ステップS303へと進み、表示装置13(モニタ)の輝度を徐々に上げる。
【0159】
ステップS304は、ドライバー等が表示装置13(モニタ)を注視していない場合(ステップS301参照)に行われる処理である。このとき、検知部18が、一定時間、非注視状態が継続しているか否かを判断する。非注視状態が一定時間継続している場合(Yesの場合)は、ステップS305へと進んで、表示装置13(モニタ)の減光を行う。一方、非注視状態が一定時間継続していない場合(Noの場合)は、上記減光処理をせず、処理終了となる。ドライバーが短時間に何度も表示装置13(モニタ)から目を離した時に、その都度減光を行うと、輝度の上下が短時間に繰り返されて煩わしいためである。
【0160】
図20は、表示装置13に表示される視界支援画像の比較図であり、(a)表示装置上の注視ポイントを示す図、(b)本開示の視界支援画像生成装置1Cを用いない場合の視界支援画像、(c)本開示の視界支援画像生成装置1Cを用いた場合の視界支援画像MPである。
【0161】
本例では、ドライバーの注視ポイントが
図20(a)に示した白い丸形の部分にある。これを踏まえて
図20(b)と
図20(c)とを比較すると、
図20(b)においては、画像全体にピントが合っているため、距離感を感じづらい。一方、
図20(c)においては、視界支援画像における注視ポイントから一定距離以上の部分をぼかすことで、疑似的に距離感を表現している。このことにより、視界支援画像を見るドライバー等に安心感を与えることができる。
【0162】
また、図示は省略するが、視界支援画像に複数の建物(立体物)が映り込むことがある。例えば、遠くにあるビルと、近くにあるビルが映り込む。ここで、前記注視座標と同程度の距離にある建物は、ぼかしフィルタの適用後であっても、ピントが合った状態となる。すなわち、同定度の距離にどの建物があるかをドライバー等が認識することができる。この点もまた、本開示の視界支援画像生成装置1Cが奏する効果の一つと言える。
【0163】
上記構成において、前記画像変換は、前記撮像画像内に含まれる深消失点を中心として、前記撮像画像の横方向から前記撮像画像の縦方向へと偏角が変わるにつれて、圧縮率が線形に変化するものであってよい。線形変化であれば、偏角に応じて圧縮率が徐々に変動するので、生成された視界支援画像も自然なものとなる。
【0164】
上記構成において、前記画像変換は、前記深消失点からの距離が遠いほどに圧縮率が増加するものであってよい。この構成により、深消失点の周辺部は低圧縮として画像の情報量を保ちつつ、画角を自然に広げることが可能となる。
【0165】
上記構成において、前記画像変換は縦長楕円レンズモデルを用いた圧縮であってよい。縦長楕円モデルであれば、通常用いられる真円レンズモデルと形状が近く、画像変換後の表示画像における違和感が少ない。また、真円を規定するパラメータは半径rの1つのみであったのに対して、縦長楕円であれば長軸b、短軸cの2つのパラメータにすることができる。この2つのパラメータを適宜調節することで、従来では生じていた表示画像の違和感を少なくしつつ、画像の縦方向および横方向の圧縮率を柔軟に変動させることができる。
【0166】
上記構成において、視界支援画像生成装置1は、前記視界支援画像を表示する表示部を更に備えてよい。かかる表示部に視界支援画像を表示することにより、ドライバー等が、横方向に視野の広がった自然な視覚支援画像を見ることができる。
【0167】
また、本開示は、車両の視界支援画像を生成するための画像変換プログラムにも関する。前記画像変換プログラムは、装置が有する処理部に、画像の実像高と、真円レンズモデルの理想像高との対応関係を示すデータに基づいて、前記画像の実像高と、幾何学形状レンズモデルの理想像高との対応関係を算出するステップと、前記画像の実像高と、前記幾何学形状レンズモデルの理想像高との対応関係に基づいて、前記画像に含まれる各画素の圧縮率を算出するステップと、前記各画素の圧縮率に基づいて、前記画像を圧縮するステップとを実行させ、前記幾何学形状は、前記幾何学形状の中心から横方向に向かう長さが、前記幾何学形状の中心から縦方向に向かう長さよりも短いものであってよい。前記構成により、車両のドアミラー等に設けたカメラが撮像した入力画像から、ドライバー等にとって違和感が少なく、また、外界の適切な状況把握ができる視界支援画像を提供することができる。
【0168】
上記構成において、前記幾何学形状は、前記幾何学形状の中心からの距離が、前記幾何学形状の横方向から縦方向へと偏角が変わるにつれて、線形に変化するものであってよい。線形変化であれば、偏角に応じて圧縮率が徐々に変動するので、当該プログラムを用いて生成された画像も、ドライバー等にとって自然なものとなる。
【0169】
上記構成において、前記幾何学形状は縦長楕円であってよい。縦長楕円モデルであれば、通常用いられる真円レンズモデルと形状が近く、画像変換後の視界支援画像における違和感が少ない。また、真円を規定するパラメータは半径rの1つのみであったのに対して、縦長楕円であれば長軸b、短軸cの2つのパラメータにすることができる。この2つのパラメータを適宜調節することで、従来では生じていた表示画像の違和感を少なくしつつ、画像の縦方向および横方向の圧縮率を柔軟に変動させることができる。
【0170】
また、車両が視界支援画像生成装置と、表示装置と、近接車両位置算出装置とを備え、前記近接車両位置算出装置は、自車両である前記車両が走行する車線の隣接車線を走行する、最も近い車両である検出車両の位置情報を取得し、前記視界支援画像生成装置は、前記自車両からの画像を撮像するカメラと、処理部とを備え、前記処理部は、前記カメラが撮像した撮像画像を画像変換して視界支援画像を生成し、前記表示装置は、前記視界支援画像を表示し、前記視界支援画像は、検出車両表示部とアスフェリカル部とを有しており、前記アスフェリカル部における圧縮率は、前記検出車両表示部における圧縮率よりも高く、前記検出車両は前記検出車両表示部に表示され、前記検出車両の、前記検出車両表示部における表示位置が、前記検出車両表示部内の所定の箇所を超えた後は、前記視界支援画像における前記検出車両表示部の位置が、前記検出車両の表示位置の移動に追随してよい。
【0171】
同様に、車両の視界支援画像を生成する視界支援画像生成装置が、車両からの画像を撮像するカメラと、処理部とを備え、前記処理部は、近接車両位置算出装置から、自車両である前記車両が走行する車線の隣接車線を走行する、最も近い車両である検出車両の位置情報を取得し、前記処理部は、前記カメラが撮像した撮像画像を画像変換して、表示用の視界支援画像を生成し、前記視界支援画像は、検出車両表示部とアスフェリカル部とを有しており、前記アスフェリカル部における圧縮率は、前記検出車両表示部における圧縮率よりも高く、前記検出車両は前記検出車両表示部に表示され、前記検出車両の、前記検出車両表示部における表示位置が、前記検出車両表示部内の所定の箇所を超えた後は、前記視界支援画像における前記検出車両表示部の位置が、前記検出車両の表示位置の移動に追随してよい。
【0172】
上記構成により、ドライバー等にとって違和感の無い視界支援画像を提供することができる。さらに、視界支援画像には依然としてアスフェリカル部に相当する箇所があるため、高画角の表示が可能である。
【0173】
上記構成において、前記視界支援画像がアスフェリカル部を2つ有しており、前記2つのアスフェリカル部が、前記視界支援画像における前記検出車両表示部の左右にそれぞれ配置されてよい。また、前記視界支援画像における前記検出車両表示部の位置が、前記検出車両の表示位置の移動に追随するのに応じて、前記2つのアスフェリカル部における画角または画素数が変化し、前記2つのアスフェリカル部における画角または画素数の変化は、前記視界支援画像における画角または画素数が所定の値に維持されるように行われてよい。前記構成により、前記検出車両表示部の位置が前記検出車両の表示位置の移動に追随しても、2つ目のアスフェリカル部が前記視界支援画像の画角を補うことができる。
【0174】
上記構成において、前記視界支援画像における、前記検出車両の表示位置が、前記視界支援画像に表示可能な最大画角範囲における、前記検出車両の移動の仕方に追従するように割り当てられてよい。前記構成により、視界支援画像における検出車両の移動を違和感なく表示することができる。
【0175】
上記構成において、前記視界支援画像における前記検出車両の表示位置が、前記カメラと前記検出車両との間の相対位置と極座標上で一致するように割り当てられてよい。前記構成により、視界支援画像における検出車両の角度的位置が、車両の乗員が肉眼で見るのと同様の位置に表示されるので、違和感が少ない。
【0176】
また、視界支援画像生成装置を備えた車両において、前記視界支援画像生成装置は、処理部と、第1カメラと、第2カメラと、第1カメラが撮像した画像に基づいて生成された視界支援画像を表示する表示装置と、車両に搭乗する乗員の、前記表示装置における注視ポイントを検出する検知部と、を備え、前記処理部が、第1カメラが撮像した画像における、第1カメラから被写体までの距離を、前記第1カメラと前記第2カメラの間に生じる視差を用いて算出し、前記検知部が、車両に搭乗する乗員の、前記表示装置における注視ポイントを検出し、前記処理部が、前記注視ポイントに基づいて、前記視界支援画像における、前記乗員の注視座標を推定し、前記処理部が、前記視界支援画像における前記注視座標を中心にした、前記距離に応じたぼかしフィルタを、前記視界支援画像に対して適用してよい。
【0177】
同様に、車両の視界支援画像を生成する視界支援画像生成装置が、処理部と、第1カメラと、第2カメラと、第1カメラが撮像した画像に基づいて生成された視界支援画像を表示する表示装置と、車両に搭乗する乗員の、前記表示装置における注視ポイントを検出する検知部と、を備え、前記処理部が、第1カメラが撮像した画像における、第1カメラから被写体までの距離を、前記第1カメラと前記第2カメラの間に生じる視差を用いて算出し、前記検知部が、車両に搭乗する乗員の、前記表示装置における注視ポイントを検出し、前記処理部が、前記注視ポイントに基づいて、前記視界支援画像における、前記乗員の注視座標を推定し、前記処理部が、前記視界支援画像における前記注視座標を中心にした、前記距離に応じたぼかしフィルタを、前記視界支援画像に対して適用してよい。
【0178】
上記構成により、車両に搭乗するドライバー等は、視界支援画像上で距離感を得ることができる。
【0179】
上記構成において、前記ぼかしフィルタは、前記注視座標を基準にした、所定の距離以上の画素または画素ブロックに対してぼかしが適用されるものであってよい。また、前記ぼかしフィルタは、前記注視座標からの距離が大きくなるほどに強いぼかしが適用されるものであってよい。前記構成により、注視座標と距離の近い箇所がピントの合った状態となり、注視座標と距離の遠い箇所はぼけた状態となるので、車両に搭乗するドライバー等は、視界支援画像上で距離感をより明確に得ることができる。また、前記注視座標からの距離が大きくなるほどに強いぼかしがかけられることにより、ドライバー等の注意力は注視座標付近へと集中し、ドライバー等は、さらに明確な距離感を得ることができる。
【0180】
上記構成において、前記ぼかしフィルタの、前記距離についての分解能が、前記第1カメラおよび前記第2カメラの視差検出精度に応じて設定されてよい。前記構成により、複数のカメラの視差検出精度が良い場合には、視界支援画像上で、より細やかな距離感を表現することができる。
【0181】
上記構成において、前記検知部が、前記乗員の注視ポイントが前記表示装置上に無いことを検知した時に、前記表示装置の輝度を低下させてよい。また、前記検知部が、前記乗員の注視ポイントが前記表示装置上にあることを検知した時に、前記処理部が前記表示装置の輝度を徐々に上昇させてよい。前記構成により、車両の乗員が表示装置を見ているか否かによって、表示装置の輝度を適切に制御しつつ、注視ポイントを適切に検出することができる。
【0182】
以上、図面を参照しながら各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。また、発明の趣旨を逸脱しない範囲において、上記実施形態における各構成要素を任意に組み合わせてもよい。
【符号の説明】
【0183】
1 視界支援画像生成装置
1B 視界支援画像生成装置
1C 視界支援画像生成装置
11 処理部
12 カメラ
13 表示装置
14 不揮発性メモリ
15 近接車両位置算出装置
16 カメラ
18 検知部
50 レンズ
51 評価面
52 実像高
53 理想像高
100 自車両
A アスフェリカル部
A1 アスフェリカル部
A2 アスフェリカル部
D 検出車両表示部
E 縦長楕円レンズモデル
Iin 入力画像
Iout 出力画像
M ドアミラー
M1 ミラー部
M2 アスフェリカル部
MP 視界支援画像
OBJ1~OBJ4 物体
PCL 間隔線