(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-03-18
(45)【発行日】2024-03-27
(54)【発明の名称】画像処理装置
(51)【国際特許分類】
G06T 3/047 20240101AFI20240319BHJP
H04N 1/387 20060101ALI20240319BHJP
H04N 23/60 20230101ALI20240319BHJP
【FI】
G06T3/047
H04N1/387
H04N23/60 500
(21)【出願番号】P 2019233403
(22)【出願日】2019-12-24
【審査請求日】2022-10-18
(73)【特許権者】
【識別番号】000006611
【氏名又は名称】株式会社富士通ゼネラル
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】河野 恭佑
【審査官】高野 美帆子
(56)【参考文献】
【文献】特開2010-109483(JP,A)
【文献】特開2008-311890(JP,A)
【文献】特開2019-176402(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 3/047
H04N 1/387
H04N 23/60
(57)【特許請求の範囲】
【請求項1】
入力画像を画像変換し出力画像を出力する画像処理装置であって、
前記入力画像の第1の画像領域内の画素毎に第1の歪補正を施し画像とし、当該第1の歪補正が施された画像内の画素毎に補正を施し画像として出力する第1の変換部と、
前記入力画像の第2の画像領域内の画素毎に第2の歪補正を施し画像として出力する第2の変換部と、
前記入力画像の第3の画像領域内の画素毎に第3の歪補正を施し画像として出力する第3の変換部と、
前記第1の変換部からの画像出力と、前記第2の変換部からの画像出力と、前記第3の変換部からの画像出力とから前記出力画像を生成し出力する合成部と、
を有し、
前記出力画像は、前記第1の変換部からの出力された画像と前記第2の変換部からの出力された画像との間に前記第3の変換部からの出力された画像が配置され、前記第1の変換部からの出力された画像は歪曲収差のみを持つ、又は、歪みを持たない画像で
あり、
前記第1の変換部は、
前記第1の画像領域と、前記第2の画像領域又は前記第3の画像領域との間で画角差がある場合に、前記第1の画像領域内の消失点付近の直線が直線状になるように前記画像内の画素を補正することを特徴とする画像処理装置。
【請求項2】
前記第1の変換部は、
前記第1の歪補正が施された前記画像を拡大又は縮小するように補正することを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記第1の変換部は、
前記第1の歪補正が施された前記画像を所定方向に移動するように補正することを特徴とする請求項1に記載の画像処理装置。
【請求項4】
前記入力画像は、被写体と、前記被写体からの光を集光するレンズと、前記集光された光が結像する撮像素子とから生成され、
前記第1の変換部は、
前記第1の画像領域を前記レンズの第1の歪補正と異なる歪曲収差を残す第4の歪補正を施した画像に置き換えるように補正することを特徴とする請求項1に記載の画像処理装置。
【請求項5】
前記入力画像は、被写体と、被写体からの光を集光するレンズと、前記集光された光が結像する撮像素子とから生成され、
前記第2の変換部は、
前記レンズの光軸に向かう直線状の前記被写体と、縦方向に直線の前記被写体とを前記出力画像内でほぼ直線状となり、かつ、横方向に直線の前記被写体を、前記出力画像の中央部分、及び同中央部分と左右に連なる左側部分と右側部分とでほぼ直線状に、また、前記出力画像の中央部分と、左側部分及び右側部分との境目付近で屈曲するように歪補正すること特徴とする請求項1に記載の画像処理装置。
【請求項6】
前記第3の変換部は、
前記入力画像の画素毎に前記第1の歪補正を施し得られた出力と前記第2の歪補正を施し得られた出力とを加重平均し出力することを特徴とする請求項1に記載の画像処理装置。
【請求項7】
前記第1の画像領域内に進路線を描画することを特徴とする請求項1に記載の画像処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置に関する。
【背景技術】
【0002】
例えば、魚眼レンズを用いた車載用カメラで撮像された被写体の画像から湾曲収差を補正するように画像変換して出力する画像処理装置がある(例えば特許文献1)。
【0003】
このような画像処理装置では、魚眼レンズの光軸に向かう直線状の被写体と、縦方向に直線の被写体とを出力画像内でほぼ直線状となるように入力画像全体を画像変換する。また、画像処理装置では、横方向に直線の被写体を、出力画像の中央部分、及び同中央部分と左右に連なる左側部分と右側部分とでほぼ直線状に、また、出力画像の中央部分と、左側部分及び右側部分との境目付近で屈曲するように入力画像全体を画像変換する。その結果、画像処理装置は利用者に違和感を与えない広角画像が見易い出力画像を提供している。
【0004】
また、上記のような画像処理装置から出力された出力画像を入力とした表示装置において車両が進行する方向に進路線を重畳して表示する技術が知られている(例えば特許文献2)。
【先行技術文献】
【特許文献】
【0005】
【文献】特開2008-311890号公報
【文献】特開平11-334470号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
このような表示装置では一般的に進路線のデータに対し、魚眼レンズの湾曲収差や他の画像変換処理によって変形した画像に合致するように、進路線のデータに対して画像変換を行い、画像処理装置が出力した画像内に実際に車両が進む進路を重畳して表示させる。そのため上述した進路線のデータに対する画像変換処理は、画像処理装置内で行う車載カメラで撮像された画像に対する画像変換処理と同様な画像変換処理となる。
【0007】
より具体的には表示装置側において、例えば表示装置の出力画像の出力座標(X,Y)毎に、予め記憶された進路線のデータを入力とした入力座標(x,y)を対応づけるテーブルを使用し、出力座標(X,Y)の画素の輝度と色の情報を、入力座標(x,y)の画素の輝度と色の情報を参照(転写)し生成する画像変換処理を行うことが考えられる。このような処理においては一般的に出力座標に対し、その座標に対応する入力座標をデーブル化した変換データを予め記憶させておき、そのデーブルに従って変換処理を行う。
【0008】
しかし、このようなデーブル化した変換データは出力画像の画素数分の入力座標(x,y)が必要となり、近年の表示装置の高画素化の流れに合わせその容量が大きくなりメモリのコストアップを招くという問題があった。
【0009】
本発明ではこのような問題に鑑み、表示装置のメモリの増大を抑えつつ進路線を重畳することができる画像処理装置等を提供することを目的とする。
【課題を解決するための手段】
【0010】
一つの態様の画像処理装置は、入力画像を画像変換し出力画像を出力する。画像処理装置は、第1の変換部と、第2の変換部と、第3の変換部と、合成部とを有する。第1の変換部は、入力画像の第1の画像領域内の画素毎に第1の歪補正を施し画像とし、当該第1の歪補正が施された画像内の画素毎に補正を施し画像として出力する。第2の変換部は、入力画像の第2の画像領域内の画素毎に第2の歪補正を施し画像として出力する。第3の変換部は、入力画像の第3の画像領域内の画素毎に第3の歪補正を施し画像として出力する。合成部は、第1の変換部からの画像出力と、第2の変換部からの画像出力と、第3の変換部からの画像出力とから出力画像を生成し出力する。出力画像は、第1の変換部からの出力された画像と第2の変換部からの出力された画像との間に第3の変換部からの出力された画像が配置され、第1の変換部からの出力された画像は歪曲収差のみを持つ、又は、歪みを持たない画像である。
【発明の効果】
【0011】
本発明によれば、表示装置のメモリ容量の増大を抑えつつ進路線を描画できる。
【図面の簡単な説明】
【0012】
【
図1】
図1は、前提技術の画像表示システムのハードウェア構成の一例を示す説明図である。
【
図2】
図2は、前提技術の撮像装置の機能構成の一例を示すブロック図である。
【
図3】
図3は、撮像装置で撮像した画像を表示装置に表示させた画像の一例を示す説明図である。
【
図4】
図4は、第1の変換テーブルのテーブル構成の一例を示す説明図である。
【
図5】
図5は、実像高と理想像高との関係の一例を示す説明図である。
【
図6】
図6は、第1の変換部の第1の歪補正前後の画像の一例を示す説明図である。
【
図7A】
図7Aは、画像変換モデルの一例を示す説明図である。
【
図7B】
図7Bは、第2の変換テーブルのテーブル構成の一例を示す説明図である。
【
図8】
図8は、第2の変換部の第2の歪補正前後の画像の一例を示す説明図である。
【
図9A】
図9Aは、第1の歪補正後の画像の一例を示す説明図である。
【
図9B】
図9Bは、第1の歪補正後の画像内の第1の画像領域と第1の画像領域以外の画像領域とを明暗で表現した説明図である。
【
図9C】
図9Cは、前提技術の第1の画像領域と、第2の画像領域と、第3の画像領域とを明暗で表現した説明図である。
【
図10】
図10は、割合テーブルのテーブル構成の一例を示す説明図である。
【
図11】
図11は、第3の歪を補正する第3の入力座標を算出する際の算出方法の一例を示す説明図である。
【
図12】
図12は、第3の変換テーブルのテーブル構成の一例を示す説明図である。
【
図14】
図14は、前提技術の撮像装置で撮像した入力画像(原画像)の一例を示す説明図である。
【
図15】
図15は、第1の歪補正後の画像の一例を示す説明図である。
【
図16】
図16は、第2の歪補正後の画像の一例を示す説明図である。
【
図17】
図17は、前提技術の第1の画像領域と、第2の画像領域と、第3の画像領域とを明暗で表現した説明図である。
【
図18】
図18は、前提技術での視認性の良くない出力画像の一例を示す説明図である。
【
図19】
図19は、実施例1の撮像装置の機能構成の一例を示すブロック図である。
【
図20】
図20は、第1の歪補正後の画像の一例を示す説明図である。
【
図21】
図21は、実施例1の第1αの画像領域と、第2αの画像領域と、第3αの画像領域とを明暗で表現した説明図である。
【
図22】
図22は、撮像装置で撮像した際の出力画像の一例を示す説明図である。
【
図23】
図23は、実施例2の第1の歪補正と異なる歪補正後の第1βの画像領域を含む画像の一例を示す説明図である。
【
図24】
図24は、第1の歪補正と異なる歪補正後の第1βの画像領域と、第2αの画像領域と、第3αの画像領域とを明暗で表現した説明図である。
【
図25】
図25は、第1の歪補正と異なる歪補正後の第1αの画像領域を含む出力画像の一例を示す説明図である。
【発明を実施するための形態】
【0013】
以下、図面に基づいて、本願の開示する画像処理装置の実施例を詳細に説明する。尚、各実施例により、開示技術が限定されるものではない。また、以下に示す各実施例は、矛盾を起こさない範囲で適宜組み合わせても良い。
【実施例】
【0014】
図1は、前提技術の画像表示システム1のハードウェア構成の一例を示す説明図である。
図1に示す画像表示システム1は、撮像装置2と、ナビゲーション装置3と、表示装置4とを有する。撮像装置2は、レンズ11と、撮像素子12と、画像処理プロセッサ13と、ROM(Read Only Memory)14と、RAM(Radom Access Memory)15とを有する。撮像装置2は、例えば、車両後部のナンバープレート付近に配置されたカメラ装置である。レンズ11は、例えば、魚眼レンズである。撮像素子12は、レンズ11を通じて車両後方の特定範囲の画像を撮像するCMOS(Complementary Metal Oxide Semiconductor)センサである。画像処理プロセッサ13は、撮像装置2内部の画像処理を実行する画像処理装置である。ROM14は、各種プログラム等の情報を格納する。RAM15は、各種情報を記憶する。
【0015】
ナビゲーション装置3は、地図情報等の案内情報を表示装置に出力すると共に、撮像装置2からの出力画像に進路線50を描画し、進路線50を描画した出力画像を表示装置4に出力する。表示装置4は、例えば、運転席の正面パネルに配置され、例えば、ナビゲーション装置3からの出力画像や地図情報を表示出力するモニタ装置である。尚、ナビゲーション装置3は、画像の歪み補正後の出力画像に合致するように画像変換された進路線50を描画する設定としている。
【0016】
図2は、前提技術の撮像装置2の構成の一例を示す説明図である。
図2に示す撮像装置2は、制御部20及び記憶部30を備える。制御部20は
図1での画像処理プロセッサ13に対応し、記憶部30は
図1でのROM14に対応する。制御部20は、第1の変換部21と、第2の変換部22と、算出部23と、第3の変換部24と、合成部25と有する。記憶部30は、第1の変換テーブル31と、第2の変換テーブル32と、割合テーブル33と、第3の変換テーブル34とを有する。
【0017】
図3は、撮像装置2で撮像した画像を表示装置4に表示させた一例を示す説明図である。
図3に示す入力画像40は、第1の画像領域41と、第2の画像領域42と、第3の画像領域43とを有する。画像処理プロセッサ13は、入力画像内の第1の画像領域41、第2の画像領域42及び第3の画像領域43を識別する。すなわち、画像処理プロセッサ13は、入力画像内の各画素値を入力座標で識別し、第1の画像領域41内の各画素値を第1の入力座標、第2の画像領域42内の各画素値を第2の入力座標、第3の画像領域43内の各画素値の第3の入力座標で識別する。
【0018】
破線L1で囲まれた第1の画像領域41は、例えば、入力画像内の中央部分の画像領域に相当し、例えば、歪曲収差のみを持つ、又は、歪を持たないように、歪を補正(第1の歪み補正)する対象領域であって、ハンドル回転等の舵角に応じて変化する進路線を描画するための画像領域である。一点鎖線L2と点線L3とに囲まれた第2の画像領域42は、例えば、前述の特許文献1に示すような直線の物体を直線で表示し利用者に違和感を与えない歪補正(第2の歪み補正)する画像領域である。この部分は歪曲収差を持たない。破線L1と一点鎖線L2とに囲まれた第3の画像領域43は、第1の歪補正と第2の歪補正とを加重平均する第3の歪補正を行う画像領域である。加重平均については後述する。
【0019】
第1の変換部21は、入力画像40の第1の画像領域41内の画素毎に第1の歪補正を施し出力する変換部である。尚、第1の画像領域41内の画素は、例えば、第1の入力座標の画素値とも言える。第1の変換部21は、例えば、第1の変換テーブル31を参照し、入力画像40内の第1の画像領域41内の歪を補正した第1の入力座標の画素値を出力画像内の出力座標の画素値として出力する。
図4は、第1の変換テーブル31のテーブル構成の一例を示す説明図である。第1の変換テーブル31は、出力画像の出力座標毎に、入力画像内の歪を補正した画素値の第1の入力座標を対応付けて管理するテーブルである。第1の変換部21は、出力画像の第1の画像領域41内の出力座標毎の画素値を合成部25に出力する。
【0020】
ここでナビゲーション装置3が進路線50を画像の歪み補正後の出力画像に合致するように画像変換する動作について説明する。例えば第1の画像領域41の画像は歪曲収差を有するとした場合、ナビゲーション装置3は進路線50のデータに対し同じ前述の歪曲収差と同じ収差を持つように画像変換を行う。歪曲収差があると実像高と理想像高が異なる。
図5は、実像高と理想像高との関係の一例を示す説明図である。ナビゲーション装置3は、理想像高の極座標(R,φ)の画素値を実像高の極座標(r、φ)に画像変換する。この変換は
図5の線L上の任意の画素を同じ線L上の別な箇所に移動させる変換であり、この変換テーブルは出力画像の出力座標(X,Y)毎に、入力画像の入力座標(x,y)を対応づけた変換テーブルと比較しデータのサイズが小さい。尚、第1の画像領域41の画像は歪みのないものであってもよい。このとき画像内の極座標(R,φ)の画素値から極座標(r、φ)の画素値への変換においては前述のような画素の移動は発生しないため変換テーブルは不要となる。
【0021】
第2の変換部22は、入力画像40の第2の画像領域42内の画素毎に第2の歪補正を施し出力する変換部である。尚、第2の画像領域42内の画素は、例えば、第2の入力座標の画素値と言える。第2の変換部22は、例えば、第2の変換テーブル32を参照し、入力画像40内の第2の画像領域42内の歪を補正した第2の入力座標の画素値を出力画像内の第2の出力座標の画素値として出力する。第2の変換テーブル32は、第2の画像領域42内の第2の入力座標毎に、第2の歪を補正した画素値の第2の入力座標を対応付けて管理するテーブルである。第2の変換部22は、出力画像の第2の画像領域42内の出力座標毎の画素値を合成部25に出力する。
【0022】
算出部23は、入力画像41内の第3の画像領域43内の歪を補正した画素値の出力座標毎に、第3の画像領域43内の出力座標から直近の第1の画像領域41内の出力座標までの第1の距離と、第3の画像領域43内の出力座標から直近の第2の画像領域42内の出力座標までの第2の距離との比率を算出する。更に、算出部23は、その比率を割合として、出力座標毎に割合テーブル33内に記憶する。算出部23は、入力画像41の画素毎に第1の歪補正を施して得られた出力と第2の歪補正を施して得られた出力とを入力とし、それらを加重平均して出力する。算出部23は、例えば、割合テーブル33を参照し、出力座標毎の割合(第1の距離:第2の距離)に応じて第1の入力座標及び第2の入力座標を補正する。算出部23は、割合補正後の第1の入力座標及び割合補正後の第2の入力座標同士を加算することで出力画像の第3の入力座標を算出する。
【0023】
算出部23は、出力座標毎に、第3の入力座標を第3の変換テーブル34に記憶する。第3の変換部24は、入力画像の第3の画像領域43内の画素毎に第3の歪補正を施し出力する変換部である。尚、第3の画像領域43内の画素は、例えば、第3の入力座標の画素値と言える。第3の変換部24は、例えば、第3の変換テーブル34を参照し、入力画像40内の第3の画像領域43内の歪を補正した第3の入力座標の画素値を第3の画像領域43内の出力座標の画素値として出力する。第3の変換部24は、第3の画像領域43内の出力座標毎の画素値を合成部25に出力する。
【0024】
図6は、第1の変換部21の第1の歪補正前後の画像の一例を示す説明図である。第1の変換部21は、第1の変換テーブル31を参照し、出力座標毎に、歪を補正した第1の入力座標の画素値を出力座標の画素値として出力する。第1の変換部21は、第1の画像領域41内の出力座標の画素値を合成部25に出力する。その結果、第1の変換部21は、
図6に示すように第1の歪補正前の画像を第1の歪補正後の画像として出力できる。第1の変換部21は、例えば、入力画像内の入力座標β1の画素値を出力画像内の出力座標α1の画素値として、入力画像内の入力座標β3の画素値を出力画像内の出力座標α3の画素値として出力する。尚、説明の便宜上、
図6の例では、入力画像内の全ての第1の入力座標の画素値を出力座標の画素値として出力する場合を例示した。しかしながら、実際には、第1の変換部21は、入力画像内の第1の画像領域41内の歪を補正した第1の入力座標の画素値を第1の画像領域41内の出力座標の画素値として合成部25に出力するものである。
【0025】
図7Aは、画像変換モデルの一例を示す説明図である。
図7Aに示す画像変換モデルは、円形の平面からなる入力画像51と、レンズ11と対応して被写体が映し出される半球状の仮想物体面52と、湾曲収差を補正する補正面53と、画像変換される表示面54とを順に並べて構成する。レンズ11の光軸と対応する仮想光軸zは、入力画像51の中央に位置する光軸原点0からこれらの面の中央を直角に挿通する。補正面53は、中央に配置された中央面53Aと、同中央面53Aの左右にそれぞれ配置された左側面53B及び右側面53Cとで構成され、同左側面53Bと右側面53Cとは光軸原点に向かって屈曲して構成する。仮想光軸z方向の補正面53に投射された仮想物体面52上の画像は、表示面54へ正射影方式で投射され、投射された表示面54の画像を出力画像とする。
【0026】
画像変換モデルでは、表示面54の画素位置を補正面53の画素位置に変換し、補正面53の画素位置を仮想物体面52の半球面の極座標に変換し、最終的に入力画像51の画素位置へ変換する。画像変換モデルでは、表示面54の画素位置毎に入力画像51の画素位置を変換し、これら表示面54の画素位置毎に入力画像51の画素位置を格納する。すなわち、第2の変換テーブル32は、出力座標毎に歪を補正した画素値の第2の入力座標を管理する。
【0027】
図7Bは、第2の変換テーブル32のテーブル構成の一例を示す説明図である。
図7Bに示す第2の変換テーブル32は、出力座標と、第2の入力座標とを対応付けて管理している。出力座標は、出力画像の画素値を出力する座標である。第2の入力座標は、出力座標毎に歪を補正した画素値を入力する座標である。尚、第2の変換テーブル32内の出力座標毎に第2の歪を補正した画素値の入力座標を算出する上での原理は、本出願人が特許文献1(特開2008-311890号公報)で提案している。尚、ここでは特許文献1で示す技術を適用したが、これに限定されず、広角レンズに起因する歪みを補正する公知の技術が用いられてもよい。
【0028】
図8は、第2の変換部22の第2の歪補正前後の画像の一例を示す説明図である。第2の変換部22は、第2の変換テーブル32を参照し、出力座標毎に、第2の歪を補正した第2の入力座標の画素値を出力座標の画素値として出力する。第2の変換部22は、例えば、
図8に示すように、入力画像内の入力座標β5の画素値を出力画像内の出力座標α5の画素値として、入力画像内の入力座標β6の画素値を出力画像内の出力座標α6の画素値として出力する。第2の変換部22は、第2の画像領域42内の各出力座標の画素値を合成部25に出力する。その結果、第2の変換部22は、第2の歪補正前の画像を第2の歪補正後の画像として出力する。尚、説明の便宜上、
図8の例では、入力画像内の全ての第2の入力座標の画素値を出力座標の画素値として出力する場合を例示した。しかしながら、第2の変換部22は、実際には、入力画像内の第2の画像領域42内の第2の歪を補正した第2の入力座標の画素値を第2の画像領域42内の出力座標の画素値として合成部25に出力するものである。
【0029】
図9Aは、第1の歪補正後の出力画像の一例を示す説明図である。
図9Aに示す出力画像の中央部分には、第1の画像領域41がある。
図9Bは、第1の歪補正後の出力画像内の第1の画像領域41と、第1の画像領域41以外の画像領域とを明暗で表現した説明図である。出力画像内の第1の画像領域41は、
図9Bに示すように白地で表現できる。出力画像内の第1の画像領域41以外の画像領域は、第2の画像領域42及び第3の画像領域43であって、
図9Bに示すように黒地で表現できる。
図9Cは、出力画像内の第1の画像領域41と、第2の画像領域42と、第3の画像領域43と明暗で表現した説明図である。
図9Cに示す出力画像は、第1の画像領域41は白地、第2の画像領域42は黒地、第1の画像領域41と第2の画像領域42との境界である第3の画像領域43はグラデーションで表現できる。白地は、輝度が100%であるため、第1の画像領域41であることを示し、黒字は、輝度が0%であるため、第2の画像領域42であることを示し、明暗が白である100%未満、かつ、黒である0%を超えている部分は、第3の画像領域43であることを示している。この明暗は第1の歪補正により出力される出力座標と画像と第2の歪補正により出力される出力座標とを加重平均し新たな出力座標とする第3の歪補正における加重平均の割合を示している。
【0030】
ここで前述の加重平均について詳述する。第3の画像領域43内の出力座標毎の割合は、第3の画像領域43内の出力座標から直近の第1の画像領域41内の出力座標までの第1の距離と、当該第3の画像領域43内の出力座標から直近の第2の画像領域42内の第2の出力座標までの第2の距離との比率に応じた割合である。算出部23は、例えば、出力座標に対する第1の距離と第2の距離との割合が5:5の場合、出力座標の割合として50%を算出する。また、算出部23は、例えば、出力座標に対する第1の距離と第2の距離との割合が7:3の場合、出力座標の割合として70%を算出する。また、算出部23は、例えば、出力座標に対する第1の距離と第2の距離との比率が3:7の場合、出力座標の割合として30%を算出する。尚、第3の画像領域43内の出力座標の割合Xは、0%<X<100%である。
【0031】
また、算出部23は、第1の画像領域41内の出力座標の場合、出力座標に対する第1の距離と第2の距離との比率が10:0となるため、出力座標の割合として100%を算出する。尚、第1の画像領域41内の出力座標の割合は、100%となる。また、算出部23は、第2の画像領域42内の出力座標の場合、出力座標に対する第1の距離と第2の距離との比率が0:10となるため、出力座標の割合として0%を算出する。尚、第2の画像領域42内の出力座標の割合は、0%となる。そして、算出部23は、出力座標毎の割合を算出した場合、出力座標毎に割合を割合テーブル33内に記憶する。
【0032】
図10は、割合テーブル33のテーブル構成の一例を示す説明図である。
図10に示す割合テーブル33は、出力画像内の出力座標毎に割合を対応付けて管理している。割合は、第3の歪を補正した画素値の第3の入力座標を算出する際に使用する、出力座標毎の第1の入力座標及び第2の入力座標の加重平均の割合である。
【0033】
算出部23は、例えば、第1の歪を補正した画素値の第1の入力座標をf(x,y)で算出する。算出部23は、例えば、第2の歪を補正した画素値の第2の入力座標をg(x,y)で算出する。
図11は、第3の歪を補正する第3の入力座標を算出する際の算出方法の一例を示す説明図である。
図12は、第3の変換テーブル34のテーブル構成の一例を示す説明図である。算出部23は加重平均処理を行う。より詳細には
図11に示すように、出力座標の割合をn%とした場合、第1の入力座標f(x,y)×n%で第1の入力座標を割合補正する。更に、算出部23は、第2の入力座標g(x,y)×(100%-n%)で第2の入力座標を割合補正する。更に、算出部23は、割合補正後の第1の入力座標と割合補正後の第2の入力座標とを加算して第3の入力座標を出力座標毎に算出する。つまり、算出部23は、f(x,y)×n%+g(x,y)×(100%-n%)の(数式1)で第3の入力座標を出力座標毎に算出する。算出部23は、割合テーブル33内の出力座標に対応する割合を参照し、例えば、出力座標の割合が50%の場合、出力座標に対応する第1の入力座標の50%と、出力座標に対応する第2の入力座標の50%とを加算する。そして、算出部23は、その加算値を第3の入力座標として算出し、
図12に示すように、出力座標に対応する第3の入力座標を第3の変換テーブル34内に記憶する。
【0034】
算出部23は、例えば、出力座標の割合が70%の場合、出力座標に対応する第1の入力座標の70%と、出力座標に対応する第2の入力座標の30%とを加算する。そして、算出部23は、その加算値を出力座標の第3の入力座標として算出し、
図12に示すように出力座標に対応する第3の入力座標を第3の変換テーブル34内に記憶する。
【0035】
算出部23は、例えば、出力座標の割合が30%の場合、出力座標に対応する第1の入力座標の30%と、出力座標に対応する第2の入力座標の70%とを加算する。そして、算出部23は、その加算値を出力座標の第3の入力座標として算出し、
図12に示すように出力座標に対応する第3の入力座標を第3の変換テーブル34内に記憶する。
【0036】
第3の変換部24は、第3の変換テーブル34を参照し、第3の画像領域43内の第3の歪を補正した第3の入力座標の画素値を第3の画像領域43内の出力座標の画素値として合成部25に出力する。
【0037】
つまり、第1の変換部21は、入力画像内の第1の画像領域41内の歪を補正した第1の入力座標の画素値を第1の画像領域41内の出力座標の画素値として合成部25に出力する。第2の変換部22は、入力画像内の第2の画像領域42内の歪を補正した第2の入力座標の画素値を第2の画像領域42内の出力座標の画素値として合成部25に出力する。第3の変換部24は、入力画像内の第3の画像領域43内の歪を補正した第3の入力座標の画素値を第3の画像領域43内の出力座標の画素値として合成部25に出力する。
【0038】
合成部25は、第1の変換部21からの第1の画像領域41内の出力座標の画素値と、第2の変換部22からの第2の画像領域42内の出力座標の画素値と、第3の変換部24からの第3の画像領域43内の出力座標の画素値とを合成した出力画像をナビゲーション装置3に出力する。
図13は、出力画像の一例を示す説明図である。尚、出力画像は、
図13に示すように第1の歪を補正した第1の画像領域41と、第2の歪を補正した第2の画像領域42と、第3の歪を補正した第3の画像領域43とを含む画像である。出力画像は、例えば、第1の画像領域41と第2の画像領域42との間に第3の画像領域43が配置されることになる。
【0039】
そして、ナビゲーション装置3は、合成部25からの出力画像内の第1の画像領域41上のエリアに進路線50を描画し、
図13に示すように、描画後の出力画像を表示装置4に出力する。尚、進路線50は、例えば、横幅が車幅程度の範囲、かつ、奥行きを2メートルの範囲とする。
【0040】
次に前提技術の画像表示システム1の動作について説明する。尚、説明の便宜上、第1の変換テーブル31、第2の変換テーブル32、第3の変換テーブル34及び割合テーブル33の内容は事前に記憶されているものとする。
【0041】
第1の変換部21は、第1の変換テーブル31を参照し、撮像素子12にて撮像された入力画像内の第1の画像領域41内の出力座標毎に、第1の歪を補正した第1の入力座標の画素値を第1の画像領域41内の出力座標の画素値として合成部25に出力する。第2の変換部22は、第2の変換テーブル32を参照し、撮像素子12にて撮像された入力画像内の第2の画像領域42内の出力座標毎に、第2の歪を補正した第2の入力座標の画素値を第2の画像領域42内の出力座標の画素値として合成部25に出力する。第3の変換部24は、第3の変換テーブル34を参照し、撮像素子12にて撮像された入力画像内の第3の画像領域43内の出力座標毎に、第3の歪を補正した第3の入力座標の画素値を第3の画像領域43内の出力座標の画素値として合成部25に出力する。
【0042】
合成部25は、第1の変換部21からの第1の画像領域41内の出力座標の画素値と、第2の変換部22からの第2の画像領域42内の出力座標の画素値と、第3の変換部24からの第3の画像領域43内の出力座標の画素値とを合成して出力画像を生成する。合成部25は、生成した出力画像をナビゲーション装置3に出力する。ナビゲーション装置3は、合成部25からの出力画像内の第1の画像領域41のエリアに進路線50を描画し、進路線50を描画した出力画像を表示装置4に出力する。進路線50の生成にあたっては第1の画像領域41に適用されている第1の歪み補正と同じ補正処理を進路線50の元データに対し行う。その結果、利用者は、進路線50は出力画像上を車両がどのように進むかを出力画像上に重畳表示することができる。
【0043】
ナビゲーション装置3は、前述の通り歪曲収差のみを持つ、又は、歪を持たないような第1の歪み補正の画像部分において、進路線のデータに対し同様な画像変換を行なった進路線を重畳する。前述の通り、この画像変換を行うための変換テーブルは容量の小さいメモリに格納が可能なため、メモリ容量を小さくすることができる。メモリ容量増大に伴うコストアップは抑制される。
【0044】
表示装置4では、実際に車両に搭載された撮像装置2のレンズ11の歪曲収差の画像に合致するように、実際に車両が進む進路線50のデータに対して画像変換処理を実行し、第1の画像領域41上に進路線50を描画して表示する。撮像装置2のレンズ11は、例えば、魚眼レンズであるため、撮像装置2で撮像する画像は、画角が水平180度以上の視野の歪曲収差の画像となる。しかしながら、ナビゲーション装置3では、進路線50が描画できるように、魚眼レンズではなく、従来のレンズで撮像した水平140度程度の視野の歪曲収差の画像に対応している。つまり、進路線50を描画する第1の画像領域41は、画角が水平140度程度の視野の歪曲収差の画像である。従って、魚眼レンズで撮像した画像と、ナビゲーション装置3で進路線50を描画可能にする画像とは、画角差によって歪曲収差の画像が異なることになる。
【0045】
図14は、前提技術の撮像装置2で撮像した入力画像(原画像)の一例を示す説明図である。
図14に示す画像は、撮像装置2のレンズ11である魚眼レンズで撮像した画像の一例であって、進路線50を描画するための所定画像領域Sを含む画像である。尚、
図14に示す所定画像領域Sは、説明の便宜上、実際に地面に描かれた範囲であって、車両後端から奥行き50cmの線と、奥行き100cmの線と、奥行き200cmの線と、車幅を示す線とを含むものとする。
【0046】
図15は、第1の歪補正後の画像の一例を示す説明図である。
図15に示す画像は、
図14に示す原画像内の画素毎に、第1の変換部21で第1の歪補正の画像処理を実行した画像である。
図16は、第2の歪補正後の画像の一例を示す説明図である。
図16に示す画像は、
図14に示す原画像内の画素毎に、第2の変換部22で第2の歪補正の画像処理を実行した画像である。
【0047】
図17は、前提技術の第1の画像領域41と、第2の画像領域42と、第3の画像領域43とを明暗で表現した説明図である。
図17に示す画像では、第1の画像領域41は白地、第2の画像領域42は黒地、第1の画像領域41と第2の画像領域42との境界である第3の画像領域43はグラデーションで表現した。白地は、輝度が100%であるため、第1の画像領域41であることを示す。黒地は、輝度が0%であるため、第2の画像領域42であることを示す。明暗が白である100%未満、かつ、黒である0%を超えている部分は、第3の画像領域43であることを示している。この明暗は第1の歪補正により出力される出力座標と画像と第2の歪補正により出力される出力座標とを加重平均し新たな出力座標とする第3の歪補正における加重平均の割合を示している。撮像装置2は、
図17に示す明暗の割合に応じた割合テーブル33から第3の変換テーブル34を生成することになる。そして、撮像装置2は、第3の変換テーブル34を参照して、第1の画像領域41、第2の画像領域42及び第3の画像領域43内の画素毎に歪補正を実行する。
【0048】
図18は、前提技術での視認性の良くない出力画像の一例を示す説明図である。
図18に示す出力画像は、第1の変換部21からの第1の画像領域41内の出力座標の画素値と、第2の変換部22からの第2の画像領域42内の出力座標の画素値と、第3の変換部24からの第3の画像領域43内の出力座標の画素値とを合成した出力画像である。
【0049】
しかしながら、撮像装置2では、進路線50を描画する第1の画像領域41に従来のレンズの歪曲収差を残しながら、当該第1の画像領域41以外の領域(第2の画像領域42及び第3の画像領域43)に画像変換処理を実行したとする。この場合、第1の画像領域41は、ナビゲーション装置3で進路線50を描画可能にするように水平140度程度の視野の歪曲収差の画像となる。これに対して、第1の画像領域41以外の画像は、水平180度以上の視野の歪曲収差の画像となる。第1の画像領域41と第1の画像領域41以外の領域とでは画角差が生じる。従って、第1の画像領域41と、当該第1の画像領域41以外の領域(第2の画像領域42及び第3の画像領域43)との境界線付近では極端な歪みの変化が生じる。つまり、第1の画像領域41内の消失点付近の直線は、直線状ではなく歪んだ状態となる。その結果、境界線付近での極端な歪みの変化で画像の視認性が低下する。
【0050】
そこで、例えば、画像視認性の向上が図れる画像表示システム1を提供すべく、その実施の形態につき、実施例1として以下に説明する。尚、前提技術と同一の構成には、同一符号を付すことで、その重複する構成及び動作の説明については省略する。
【実施例1】
【0051】
図19は、実施例1の撮像装置2Aの構成の一例を示す説明図である。
図19に示す撮像装置2A内の制御部20は、第1の変換部21、第2の変換部22、算出部23、第3の変換部24及び合成部25を有する。撮像装置2A内の記憶部30は、第1の変換テーブル31、ディストーションテーブル31A、第2の変換テーブル32、割合テーブル33及び第3の変換テーブル34を有する。
【0052】
第1の変換テーブル31は、例えば、原画像内の第1の画像領域41を補正し、補正後の第1αの画像領域41α内の画素値毎の入力座標及び出力座標を管理する変換テーブルである。補正後の第1αの画像領域41αは、
図14に示す原画像から第1の画像領域41の範囲を縮小及び、上方向へ移動、
図20に示すように、例えば、横に82.5%、縦に92.8%に縮小し、上方向に20ドット分移動した補正後の画像である。補正後の画像は、第1αの画像領域41αと、第2αの画像領域42αと、第3αの画像領域43αとを有する。その結果、第1αの画像領域41αと、第1αの画像領域41α以外の画像領域との間の境界線付近の画像の視認性が向上する。すなわち、第1αの画像領域41αは、境界線付近の画像の視認性が向上するように原画像から第1の画像領域41の範囲を補正する。
【0053】
割合テーブル33は、第1αの画像領域41α、第2αの画像領域42α及び第3αの画像領域43α内の画素毎の割合を定めたテーブルである。尚、割合は、第3の歪を補正した画素値の第3の入力座標を算出する際に使用する、出力座標毎の第1の入力座標及び第2の入力座標の加重平均の割合である。つまり、割合テーブル33は、第1αの画像領域41αを含む画像内の出力座標毎の第1の入力座標及び第2の入力座標の加重平均の割合を定めたものである。
【0054】
算出部23は、第1の変換テーブル31を参照して、例えば、第1の歪を補正した画素値の第1の入力座標をf(x,y)で算出する。算出部23は、第2の変換テーブル32を参照して、例えば、第2の歪を補正した画素値の第2の入力座標をg(x,y)で算出する。算出部23は、割合テーブル33を参照して、例えば、第3の歪を補正した画素値の第3の入力座標を(数式1)で算出する。算出部23は、加重平均処理を行う。算出部23は、
図15に示すように、割合テーブル33を参照し、出力座標の割合をn%とした場合、第1の入力座標f(x,y)×n%で第1の入力座標を割合補正する。更に、算出部23は、割合テーブル33を参照し、第2の入力座標g(x,y)×(100%-n%)で第2の入力座標を割合補正する。更に、算出部23は、割合補正後の第1の入力座標と割合補正後の第2の入力座標とを加算して第3の入力座標を出力座標毎に算出する。つまり、算出部23は、割合テーブル33を参照して、f(x,y)×n%+g(x,y)×(100%-n%)の(数式1)で第3の入力座標を出力座標毎に算出する。算出部23は、割合テーブル33内の出力座標に対応する割合を参照し、例えば、出力座標の割合が50%の場合、出力座標に対応する第1の入力座標の50%と、出力座標に対応する第2の入力座標の50%とを加算する。そして、算出部23は、その加算値を第3の入力座標として算出し、出力座標に対応する第3の入力座標を第3の変換テーブル34内に記憶することになる。
【0055】
図20は、第1の歪補正後の画像の一例を示す説明図である。
図20に示す画像は、撮像装置2Aで撮像した原画像の第1の歪補正後の画像上の第1の画像領域41を補正した第1αの画像領域41αを含む画像である。第1の変換部21は、撮像装置2Aで撮像した原画像から第1の歪補正の処理を実行する。更に、第1の変換部21は、第1の歪補正後の原画像から第1の歪補正後の第1の画像領域41を補正して第1αの画像領域41αを得る。尚、第1αの画像領域41αは、例えば、第1の画像領域41の範囲を横に82.5%、縦に92.8%に縮小し、上方向に20ドット分移動した画像である。第1の画像領域41の縮小率、移動方向については、第1αの画像領域41αとの境界部分の見た目の不連続感が少なくなるように設計時に任意に調整する。第1の画像領域41の縮小率は100%以上の拡大としてもよいし、移動方向は上方向に限るものではなく、横や下、あるいは斜め方向のように、設計時に定めた所定の方向であればよい。
【0056】
図21は、実施例1の第1αの画像領域41αと、第2αの画像領域42αと、第3αの画像領域43αとを明暗で表現した説明図である。
図21に示す画像内の第1αの画像領域41αは白地、第2αの画像領域42αは黒地、第1αの画像領域41αと第2αの画像領域42αとの境界である第3αの画像領域43αはグラデーションで表現した。白地は、輝度が100%であるため、第1αの画像領域41αであることを示す。黒地は、輝度が0%であるため、第2αの画像領域42αであることを示す。明暗が白である100%未満、かつ、黒である0%を超えている部分は、第3αの画像領域43αであることを示している。この明暗は第1の歪補正により出力される出力座標と画像と第2の歪補正により出力される出力座標とを加重平均して新たな出力座標とする第3の歪補正における加重平均の割合を示している。
【0057】
第1の変換部21は、第1の変換テーブル31を参照し、入力画像内の第1αの画像領域41α内の第1の歪を補正した第1の入力座標の画素値を第1αの画像領域41α内の出力座標の画素値として合成部25に出力する。第2の変換部22は、第2の変換テーブル32を参照し、入力画像内の第2αの画像領域42α内の第2の歪を補正した第2の入力座標の画素値を第2αの画像領域42α内の出力座標の画素値として合成部25に出力する。第3の変換部24は、第3の変換テーブル34を参照して、入力画像内の第3αの画像領域43α内の第3の歪を補正した第3の入力座標の画素値を第3αの画像領域43α内の出力座標の画素値として合成部25に出力する。
【0058】
合成部25は、第1の変換部21からの第1αの画像領域41α内の出力座標の画素値と、第2の変換部22からの第2αの画像領域42α内の出力座標の画素値と、第3の変換部24からの第3αの画像領域43α内の出力座標の画素値とを合成した出力画像をナビゲーション装置3に出力する。
【0059】
図22は、撮像装置2Aで撮像した際の出力画像の一例を示す説明図である。尚、出力画像は、
図22に示すように第1の歪を補正した第1αの画像領域41αと、第2の歪を補正した第2αの画像領域42αと、第3の歪を補正した第3αの画像領域43αとを含む画像である。出力画像は、例えば、第1αの画像領域41Aと第2αの画像領域42αとの間に第3αの画像領域43αが配置されることになる。合成部25は、入力画像を取得した場合でも、視認性の優れた出力画像を円滑に出力できる。
図22に示す画像内の第1αの画像領域41α内の消失点付近の直線は、
図18に比較して、ほぼ真っ直ぐな直線状態となる。その結果、境界線付近での歪みの変化が少なく、画像の視認性が向上する。そして、ナビゲーション装置3は、撮像した画像でも、合成部25からの出力画像内の第1αの画像領域41α上の範囲に進路線50を描画し、
図22に示すように、描画後の出力画像を表示装置4に出力する。尚、ナビゲーション装置3は、実際の歪曲収差を有するレンズ画像と異なるものの、例えば、横方向82.5%、縦方向92.8%、上方向20ドット分移動等の補正量を用いて画面座標を修正して第1αの画像領域41α上に進路線50を描画する。
【0060】
実施例1の撮像装置2Aでは、第1の画像領域41の範囲を補正した補正後の第1αの画像領域41αを基本にして第2αの画像領域42α及び第3αの画像領域43αを特定する。更に、撮像装置2Aは、第1αの画像領域41α、第2αの画像領域42α及び第3αの画像領域43α内の画素毎の第1の入力座標及び第2の入力座標の割合を示す割合テーブル33を生成する。更に、撮像装置2Aは、割合テーブル33に基づき、第3の変換テーブル34を生成する。そして、撮像装置2Aは、第3の変換テーブル34を参照し、歪み補正の画像変換処理を実行する。その結果、撮像装置2Aは、第1の画像領域41と第1の画像領域41以外の画像領域とで画角差が生じた場合でも、撮像した入力画像から速やかに第1の歪補正、第2の歪補正及び第3の歪補正を円滑に実現できる。つまり、見やすい歪み補正としては不十分なレンズ自体の歪みだけを補正する部分を最小化でき、自然に見える領域が増えることで視認性を良好に保つことができる。
【0061】
つまり、撮像装置2Aでは、第1の画像領域41を補正した補正後の第1αの画像領域41αに基づき、第3の変換テーブル34を生成する。その結果、画角差が生じた場合でも、第1αの画像領域41αと第1αの画像領域41α以外の画像領域との境界線付近の画像の消失点付近の直線がほぼ真っ直ぐになる。従って、境界線付近の視認性が向上するため、視認性の良好が出力画像を出力できる。しかも、表示装置4では、出力座標と入力座標とを対応付けるテーブルが不要になるため、メモリ容量が小さくして製品のコストアップを抑制できる。
【0062】
尚、実施例1の撮像装置2Aでは、第1の画像領域41の範囲を補正する例として上方向に移動する場合を例示したが、上方向に限定されるものではなく、例えば、上下方向や左右方向等に適宜変更可能である。更に、撮像装置2Aでは、第1の画像領域41の範囲を縮小して移動する場合を例示したが、縮小や移動の何れか一方のみを実行しても良く、適宜変更可能である。また、撮像装置2Aでは、第1の画像領域41の範囲を拡大しても良く、また、拡大して移動しても良く、適宜変更可能である。また、撮像装置2Aでは、第1の画像領域41と第1の画像領域41以外の画像領域との境界線付近の画像の視認性が向上するように、第1の画像領域41の範囲を横方向に拡大して縦方向に縮小するように補正しても良く、適宜変更可能である。
【0063】
撮像装置2Aでは、第1の画像領域41の範囲を補正する場合を例示したが、例えば、第1の歪補正と異なる歪曲収差を残す第4の歪補正を施した画像に第1の画像領域41を置き換えても良く、その実施の形態につき、実施例2として以下に説明する。尚、実施例1と同一の構成には同一符号を付すことで、その重複する構成及び動作の説明については省略する。
【実施例2】
【0064】
第1の変換部21は、原画像の第1の画像領域41の第1の歪補正と異なる歪曲収差を残す第4の歪補正を施した画像である第1βの画像領域41βを生成する。
図23は、実施例2の第1の歪補正と異なる歪補正後の第1βの画像領域41βを含む画像の一例を示す説明図である。更に、第1の変換部21は、第1βの画像領域41βを、例えば、縦方向に1.5倍に拡大、上方向に137ドット分移動する補正する。第1の変換部21は、第1の画像領域41を補正後の第1βの画像領域41βに置き換える。
図23に示す画像は、補正後の第1βの画像領域41βを含む画像である。
【0065】
図24は、第1の歪補正と異なる歪補正後の第1βの画像領域41βと、第2αの画像領域42αと、第3αの画像領域43αとを明暗で表現した説明図である。
図24に示す画像内の第1βの画像領域41βは白地、第2αの画像領域42αは黒地、第1βの画像領域41βと第2αの画像領域42αとの境界である第3αの画像領域43αはグラデーションで表現した。白地は、輝度が100%であるため、第1βの画像領域41βであることを示す。黒地は、輝度が0%であるため、第2αの画像領域42αであることを示す。明暗が白である100%未満、かつ、黒である0%を超えている部分は、第3αの画像領域43αであることを示している。この明暗は第1の歪補正により出力される出力座標と画像と第2の歪補正により出力される出力座標とを入力とし、その入力を加重平均して新たな出力座標とする第3の歪補正における加重平均の割合を示している。
【0066】
第1の変換部21は、第4の歪補正を施した第1βの画像領域41β内の入力座標の画素値を第1βの画像領域41β内の出力座標の画素値として合成部25に出力する。第2の変換部22は、第2の変換テーブル32を参照し、入力画像内の第2αの画像領域42α内の第2の歪を補正した第2の入力座標の画素値を第2αの画像領域42α内の出力座標の画素値として合成部25に出力する。第3の変換部24は、第3の変換テーブル34を参照して、入力画像内の第3αの画像領域43α内の第3の歪を補正した第3の入力座標の画素値を第3αの画像領域43α内の出力座標の画素値として合成部25に出力する。
【0067】
合成部25は、第1の変換部21からの第1βの画像領域41β内の出力座標の画素値と、第2の変換部22からの第2αの画像領域42α内の出力座標の画素値と、第3の変換部24からの第3αの画像領域43α内の出力座標の画素値とを合成した出力画像をナビゲーション装置3に出力する。
【0068】
図25は、撮像装置2Aで撮像した際の出力画像の一例を示す説明図である。尚、出力画像は、
図25に示すように第1βの画像領域41βと、第2の歪を補正した第2αの画像領域42αと、第3の歪を補正した第3αの画像領域43αとを含む画像である。出力画像は、例えば、第1βの画像領域41βと第2αの画像領域42αとの間に第3αの画像領域43αが配置されることになる。合成部25は、視認性の優れた出力画像を円滑に出力できる。
図25に示す画像内の第1βの画像領域41β内の消失点付近の直線は、
図18に比較して、ほぼ真っ直ぐな直線状態となる。その結果、境界線付近での歪みの変化が少なく、画像の視認性が向上する。そして、ナビゲーション装置3は、撮像した画像でも、合成部25からの出力画像内の第1βの画像領域41β上に進路線50を描画し、
図25に示すように、描画後の出力画像を表示装置4に出力する。
【0069】
実施例2の撮像装置2Aでは、第1の歪補正と異なる第4の歪補正の第1βの画像領域41βを生成し、第1の画像領域41を第1βの画像領域41βに置き換える。更に、撮像装置2Aは、第1βの画像領域41βを基本にして第2αの画像領域42α及び第3αの画像領域43αを特定する。更に、撮像装置2Aは、第1βの画像領域41β、第2αの画像領域42α及び第3αの画像領域43α内の画素毎の第1の入力座標及び第2の入力座標の割合を示す割合テーブル33を生成する。更に、撮像装置2Aは、割合テーブル33に基づき、第3の変換テーブル34を生成する。そして、撮像装置2Aは、第3の変換テーブル34を参照し、歪み補正の画像変換処理を実行する。その結果、撮像装置2Aは、第1の画像領域41と第1の画像領域41以外の画像領域とで画角差が生じた場合でも、撮像した入力画像から速やかに第1の歪補正、第2の歪補正及び第3の歪補正を円滑に実現できる。つまり、見やすい歪み補正としては不十分なレンズ自体の歪みだけを補正する部分を最小化でき、自然に見える領域が増えることで視認性を良好に保つことができる。
【0070】
つまり、撮像装置2Aでは、第1の歪補正と異なる第4の歪補正の第1βの画像領域41βに基づき、第3の変換テーブル34を生成する。その結果、画角差が生じた場合でも、第1βの画像領域41βと第1βの画像領域41β以外の画像領域との境界線付近の画像の消失点付近の直線がほぼ真っ直ぐになる。従って、境界線付近の視認性が向上するため、視認性の良好な出力画像を出力できる。しかも、表示装置4では、出力座標と入力座標とを対応付けるテーブルが不要になるため、メモリ容量が小さくして製品のコストアップを抑制できる。
【0071】
撮像装置2Aでは、例えば、縦列駐車中であることを認識し、全く異なる位置に描画される進路線50に対応する場合にも適用可能である。
【0072】
撮像装置2(2A)では、撮像装置2(2A)内のRAM15に第3の変換テーブル34等の記憶部30を格納した。しかしながら、RAM15に限定されるものではなく、例えば、撮像装置2(2A)と外部接続可能な図示せぬ記憶装置に格納しても良く、適宜変更可能である。
【0073】
撮像装置2(2A)は、
図14に示す記憶部30内に各種テーブルを内蔵したが、事前に第3の変換テーブル34のテーブル内容が格納されている場合には、記憶部30内に第3の変換テーブル34のみの内蔵でも良く、適宜変更可能である。
【0074】
撮像装置2(2A)では、第1の変換テーブル31、第2の変換テーブル32、第3の変換テーブル34及び割合テーブル33を使用した。しかしながら、出力座標毎に、第1の歪を補正した画素値の第1の入力座標を算出するための関数f、第2の歪を補正した画素値の第2の入力座標を算出するための関数g、第3の歪を補正した画素値の入力座標を算出する(数式1)を記憶しても良い。
【0075】
この場合、撮像装置2(2A)では、第1の変換テーブル31、第2の変換テーブル32、第3の変換テーブル34及び割合テーブル33を準備しなくても、関数f、関数g及び数式1で、第1の歪補正、第2の歪補正及び第3の歪補正を施した画素値の入力座標を算出する。そして、撮像装置2(2A)は、第1の歪を補正した第1αの画像領域41α内の出力座標の画素値と、第2の歪を補正した第2αの画像領域42α内の出力座標の画素値と、第3の歪を補正した第3αの画像領域43α内の出力座標の画素値とを含む出力画像をナビゲーション装置3に出力する。
【0076】
尚、上記実施例では、撮像装置2(2A)内のRAM15等に入力画像を記憶したが、撮像装置2(2A)と接続する外部の記憶装置に入力画像を記憶しても良く、適宜変更可能である。
【0077】
上記実施例では、例えば、第2の歪補正を特許文献1により歪み補正とし説明したが、これらの歪に限定されるものではなく、利用者が見易い他の補正方法を採用してもよい。
【0078】
上記実施例では、第1の画像領域41(第1αの画像領域41α)内の第1の歪補正、第2の画像領域42(第2αの画像領域42α)内の第2の歪補正、第3の画像領域43(第3αの画像領域43α)内の第3の歪補正を実行する歪補正処理(画像処理)を撮像装置2(2A)内の画像処理プロセッサ13で実行した。しかしながら、撮像装置2(2A)と接続する外部装置、例えば、ナビゲーション装置3に歪補正処理を実行しても良く、適宜変更可能である。
【0079】
上記実施例では、第1の変換部21で第1の歪補正、第2の変換部22で第2の歪補正、第3の変換部24で第3の歪補正を実行した。しかしながら、これら第1の歪補正、第2の歪補正及び第3の歪補正を順不同で順次実行、若しくは並列に実行しても良く、適宜変更可能である。
【0080】
上記実施例のナビゲーション装置3は、撮像装置2(2A)内のディストーションテーブル31Aを使用して第1αの画像領域41αのエリアに進路線50を描画した。しかしながら、ナビゲーション装置3内に第1の変換テーブル31を別途設けても良く、適宜変更可能である。
【0081】
上記実施例では、第1の歪を補正した第1の画像領域41(第1αの画像領域41α)を含む出力画像に進路線50を描画したが、進路線50に限定されるものではなく、例えば、固定の進路線等の線を描画しても良く、適宜変更可能である。
【符号の説明】
【0082】
2A 撮像装置
13 画像処理プロセッサ
21 第1の変換部
22 第2の変換部
23 算出部
24 第3の変換部
25 合成部
31 第1の変換テーブル
32 第2の変換テーブル
33 割合テーブル
34 第3の変換テーブル