IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社リコーの特許一覧

<>
  • 特許-ステレオカメラ装置 図1
  • 特許-ステレオカメラ装置 図2
  • 特許-ステレオカメラ装置 図3
  • 特許-ステレオカメラ装置 図4
  • 特許-ステレオカメラ装置 図5
  • 特許-ステレオカメラ装置 図6
  • 特許-ステレオカメラ装置 図7
  • 特許-ステレオカメラ装置 図8
  • 特許-ステレオカメラ装置 図9
  • 特許-ステレオカメラ装置 図10
  • 特許-ステレオカメラ装置 図11
  • 特許-ステレオカメラ装置 図12
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-08-29
(45)【発行日】2022-09-06
(54)【発明の名称】ステレオカメラ装置
(51)【国際特許分類】
   G01C 3/06 20060101AFI20220830BHJP
   G03B 19/07 20210101ALI20220830BHJP
   G03B 35/08 20210101ALI20220830BHJP
   H04N 5/225 20060101ALI20220830BHJP
   H04N 5/232 20060101ALI20220830BHJP
【FI】
G01C3/06 110V
G01C3/06 140
G03B19/07
G03B35/08
H04N5/225 400
H04N5/232 290
【請求項の数】 12
(21)【出願番号】P 2018066447
(22)【出願日】2018-03-30
(65)【公開番号】P2019178871
(43)【公開日】2019-10-17
【審査請求日】2021-02-08
(73)【特許権者】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100121083
【弁理士】
【氏名又は名称】青木 宏義
(72)【発明者】
【氏名】岸和田 潤
【審査官】山▲崎▼ 和子
(56)【参考文献】
【文献】国際公開第2016/068095(WO,A1)
【文献】特開2012-198077(JP,A)
【文献】国際公開第2018/030319(WO,A1)
【文献】特開2016-057456(JP,A)
【文献】米国特許出願公開第2005/0168616(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01C 3/00-3/32
G01B 11/00-11/30
G03B 19/07
35/00-37/06
H04N 5/222-5/257
(57)【特許請求の範囲】
【請求項1】
第1、第2の撮像部と、
前記第1、第2の撮像部による撮像データを望遠領域と広角領域に区画して投影するとともに、前記望遠領域では相対的にディストーションが小さく前記広角領域では相対的にディストーションが大きいディストーション特性を有する第1、第2の光学系と、
前記第1、第2の撮像部による撮像データのうち、相対的にディストーションが小さい望遠領域と相対的にディストーションが大きい広角領域とで異なる画像処理を施すための補正パラメータを記憶する補正パラメータ記憶部と、
前記第1、第2の撮像部による撮像データのうち、相対的にディストーションが小さい望遠領域に対して相対的に小さいディストーション補正量で画像処理を施し、相対的にディストーションが大きい広角領域に対して相対的に大きいディストーション補正量で画像処理を施す画像処理部と、
を有することを特徴とするステレオカメラ装置。
【請求項2】
前記第1、第2の光学系は、前記望遠領域において中心射影画像を投影する、
ことを特徴とする請求項1に記載のステレオカメラ装置。
【請求項3】
前記第1、第2の光学系は、前記望遠領域において次の条件式(X)、(Y)を満足するディストーション特性を有する、
ことを特徴とする請求項1又は請求項2に記載のステレオカメラ装置。
(X)(x・D/100)/p<10
(Y)(y・D/100)/p<10
但し、
x:x像高[mm]、
y:y像高[mm]、
D:ディストーション[%]、
p:前記第1、第2の撮像部であるイメージセンサのセンサピッチ。
【請求項4】
前記望遠領域と前記広角領域は、前記ディストーション特性におけるディストーション1%を境界として区画される、
ことを特徴とする請求項1から請求項のいずれかに記載のステレオカメラ装置。
【請求項5】
前記望遠領域と前記広角領域は、前記ディストーション特性におけるディストーション変化量の絶対値が最大値となる点を境界として区画される、
ことを特徴とする請求項1から請求項のいずれかに記載のステレオカメラ装置。
【請求項6】
前記望遠領域と前記広角領域は、前記ディストーション特性におけるディストーション変化量の絶対値が最大値となる点のディストーションカーブの接線とディストーション軸の交点を境界として区画される、
ことを特徴とする請求項1から請求項のいずれかに記載のステレオカメラ装置。
【請求項7】
前記望遠領域と前記広角領域は、前記ディストーション特性におけるディストーション変化率の絶対値が最大値となる点を境界として区画される、
ことを特徴とする請求項1から請求項のいずれかに記載のステレオカメラ装置。
【請求項8】
前記望遠領域と前記広角領域は、前記ディストーション特性におけるディストーション変化率の絶対値が最大値となる点のディストーションカーブの接線とディストーション軸の交点を境界として区画される、
ことを特徴とする請求項1から請求項のいずれかに記載のステレオカメラ装置。
【請求項9】
第1、第2の撮像部と、
前記第1、第2の撮像部による撮像データを望遠領域と広角領域に区画して投影するとともに、前記望遠領域では相対的にディストーションが小さく前記広角領域では相対的にディストーションが大きいディストーション特性を有する第1、第2の光学系と、
前記第1、第2の撮像部による撮像データに前記望遠領域と前記広角領域に応じた画像処理を施す画像処理部と、
を有し、
前記望遠領域と前記広角領域は、前記ディストーション特性におけるディストーション変化量又はディストーション変化率の絶対値が最大値となる点のディストーションカーブの接線とディストーション軸の交点を境界として区画され、
前記画像処理部は、前記第1、第2の撮像部による撮像データにディストーション補正を行うとともに、前記望遠領域でのディストーション補正量を相対的に小さくし、且つ、前記広角領域でのディストーション補正量を相対的に大きくする、
ことを特徴とするステレオカメラ装置。
【請求項10】
前記第1、第2の光学系は、前記広角領域において等距離射影画像を投影する、
ことを特徴とする請求項1から請求項9のいずれかに記載のステレオカメラ装置。
【請求項11】
前記第1、第2の光学系は、前記広角領域において正射影画像を投影する、
ことを特徴とする請求項1から請求項9のいずれかに記載のステレオカメラ装置。
【請求項12】
前記画像処理部は、
前記第1、第2の撮像部による撮像データの前記望遠領域に画像処理を施すことにより望遠領域画像を生成し、
前記第1、第2の撮像部による撮像データの前記望遠領域および前記広角領域を含む撮像データに画像処理を施すことにより広域領域画像を生成し、
前記望遠領域画像の画素数および画像サイズは、前記広域領域画像の画素数および画像サイズと同じである、
ことを特徴とする請求項1から請求項11のいずれかに記載のステレオカメラ装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ステレオカメラ装置に関する。
【背景技術】
【0002】
近年、一対のステレオカメラ(車載カメラ)を用いたステレオ式監視装置が注目されている。三次元計測技術の一つであるステレオ法では、一方のカメラ画像の画素ブロックと相関を有する画素ブロックを他方のカメラ画像において特定し、両画像における相対的なずれ量である視差から三角測量の原理を用いて距離データを算出する。算出した距離データを用いて障害物までの距離を計測し、その値に応じて車間制御などの運転支援を行う。また昨今では、車両の前方だけでなく、割り込み車両の検知や交差点の歩行者検知などのより広角の視野(ビジョン)のニーズが高まっている。
【0003】
特許文献1には、視差画像を生成するステレオカメラ装置が開示されている。ステレオカメラ装置は、二つの撮像手段と、二つの光学系と、第一の画像生成手段と、第二の画像生成手段と、第一の視差画像生成手段と、第二の視差画像生成手段と、画像合成手段とを有している。二つの撮像手段は、光軸が平行に配置されている。二つの光学系は、二つの撮像手段が撮影した画像データを等距離射影画像に投影する。第一の画像生成手段は、二つの等距離射影画像からエピポーラ線が直線になる第一の変形画像データ及び第二の変形画像データを生成する。第二の画像生成手段は、二つの等距離射影画像の所定領域から第一の変形画像データ及び第二の変形画像データよりも倍率が大きくエピポーラ線が直線になる第三の変形画像データ及び第四の変形画像データを生成する。第一の視差画像生成手段は、第一の変形画像データと第二の変形画像データを比較して画素に視差情報が配置された第一の視差画像を生成する。第二の視差画像生成手段は、第三の変形画像データと第四の変形画像データを比較して画素に視差情報が配置された第二の視差画像を生成する。画像合成手段は、第一の変形画像データ又は第二の変形画像データと、第三の変形画像データ又は第四の変形画像データの倍率により定まる第一の視差画像の画素の画素値を、第二の視差画像の画素の画素値で置き換える。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2012-198077号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、従来のステレオ式監視装置では、視野を広角にすると遠方精度の確保が難しく、遠方精度の確保を優先すると扱うデータ量(撮像センサの解像度)が膨大になるという問題がある。後者の場合、システムコストが増大するとともに、2つのカメラ距離を大きめに確保する必要があるためにシステムサイズの大型化が避けられない。
【0006】
例えば、特許文献1のステレオカメラ装置では、画像処理の元データに等距離射影画像を用いており、画像補正量が多くなることによる処理量の増大や処理遅延の発生、さらに補正フィッティング時に発生する誤差の増大が問題となってしまう。また、中心射影画像と比較すると元データの角度分解能が低くなってしまう。
【0007】
本発明は、以上の問題意識に基づいて完成されたものであり、広角領域での視野を確保するとともに望遠領域での遠方精度を確保し、且つ、小型化と低コスト化を実現することができるステレオカメラ装置を提供することを目的の1つとする。
【課題を解決するための手段】
【0008】
本実施形態のステレオカメラ装置は、第1、第2の撮像部と、前記第1、第2の撮像部による撮像データを望遠領域と広角領域に区画して投影するとともに、前記望遠領域では相対的にディストーションが小さく前記広角領域では相対的にディストーションが大きいディストーション特性を有する第1、第2の光学系と、前記第1、第2の撮像部による撮像データのうち、相対的にディストーションが小さい望遠領域と相対的にディストーションが大きい広角領域とで異なる画像処理を施すための補正パラメータを記憶する補正パラメータ記憶部と、前記第1、第2の撮像部による撮像データのうち、相対的にディストーションが小さい望遠領域に対して相対的に小さいディストーション補正量で画像処理を施し、相対的にディストーションが大きい広角領域に対して相対的に大きいディストーション補正量で画像処理を施す画像処理部と、を有することを特徴としている。
本実施形態のステレオカメラ装置は、第1、第2の撮像部と、前記第1、第2の撮像部による撮像データを望遠領域と広角領域に区画して投影するとともに、前記望遠領域では相対的にディストーションが小さく前記広角領域では相対的にディストーションが大きいディストーション特性を有する第1、第2の光学系と、前記第1、第2の撮像部による撮像データに前記望遠領域と前記広角領域に応じた画像処理を施す画像処理部と、を有し、前記望遠領域と前記広角領域は、前記ディストーション特性におけるディストーション変化量又はディストーション変化率の絶対値が最大値となる点のディストーションカーブの接線とディストーション軸の交点を境界として区画され、前記画像処理部は、前記第1、第2の撮像部による撮像データにディストーション補正を行うとともに、前記望遠領域でのディストーション補正量を相対的に小さくし、且つ、前記広角領域でのディストーション補正量を相対的に大きくする、ことを特徴としている。
【発明の効果】
【0009】
本発明によれば、広角領域での視野を確保するとともに望遠領域での遠方精度を確保し、且つ、小型化と低コスト化を実現することができるステレオカメラ装置を提供することができる。
【図面の簡単な説明】
【0010】
図1】平行配置したステレオカメラによる距離計測の原理を説明するための図である。
図2】中心射影、等距離射影を説明する図の一例である。
図3】本実施形態のステレオカメラ装置を示す概略構成図である。
図4】レンズ(第1、第2の光学系)が区画する望遠領域と広角領域の一例を示す概念図である。
図5】レンズ(第1、第2の光学系)が持つディストーション特性の一例を示す概念図である。
図6図5の望遠領域の射影方式(中心射影)に合わせたディストーション特性の一例を示す概念図である。
図7】ディストーション特性におけるディストーション変化量の一例を示す概念図である。
図8】ディストーション特性におけるディストーション変化率の一例を示す概念図である。
図9】レンズ(第1、第2の光学系)の構成例を示す断面図である。
図10図9のレンズ(第1、第2の光学系)の構成例における収差図である。
図11】本実施形態のステレオカメラ装置の構成を示すブロック図である。
図12】本実施形態のステレオカメラ装置による画像フローの一例を示す概念図である。
【発明を実施するための形態】
【0011】
図1は平行配置したステレオカメラによる距離計測の原理を説明するための図である。カメラC0とC1が距離Bだけ離れて設置されている。カメラC0とC1の焦点距離、光学中心、撮像面は下記のとおりである。
焦点距離:f、
光学中心:O、O
撮像面:s、s
カメラC0の光学中心Oから光軸方向に距離dだけ離れた位置にある被写体Aの像は、直線A-Oと撮像面sとの交点であるPに像を結ぶ。一方カメラC1では、同じ被写体Aが、撮像面s上の位置Pに像を結ぶ。ここで、カメラC1の光学中心Oを通り、直線A-Oと平行な直線と、撮像面sとの交点をP’とし、点P’とPとの距離をpとする。
【0012】
’は、カメラC0上の像Pと同じ位置であり、距離pは、同じ被写体の像の、二つのカメラで撮影した画像上での位置のずれ量を表し、これを視差と呼ぶ。
三角形:A-O-O、三角形O-P’-Pは相似なので、
d=Bf/p
が得られる。カメラC0とC1の距離B(基線長)と焦点距離fが既知ならば、視差pから距離dを求めることができる。
【0013】
ここで、このようなカメラの結像光学系は、カメラ外部にある被写体の像を撮像面上に投影するしくみである。カメラの結像光学系には、どの位置(方向) にある被写体を、撮像面上のどの位置に投影するか、という点で多くの方式がある。そのうちよく利用される、中心射影と等距離射影について説明する。
【0014】
図2(a)は中心射影を説明する図の一例である。中心射影とは、カメラ光軸から角度θだけ離れた方向に存在する被写体を、撮像面中心(光軸との交点)からf:tan(θ)だけ離れた位置に投影する方式である。ここでfは光学系の焦点距離である。
【0015】
中心射影には、三次元空間内の直線が画像上直線に写るという特徴がある。通常のカメラレンズはほぼこの中心射影特性を持つよう設計されている。特にステレオカメラでは、エピポーラ線が直線になるため、対応点探索が容易になるという大きな利点となる。しかしtan(θ)はθ=90°で発散するため、90度以上の視野は投影できず、また90度に近い広角の視野を投影する場合に非常に広い撮像面が必要になる。
【0016】
図2(b)は等距離射影を説明する図の一例である。等距離射影とは、カメラ光軸から角度θだけ離れた方向に存在する被写体を、撮像面中心からf・θだけ離れた位置に投影する方式である。
【0017】
等距離射影は中心射影のように90度で発散するようなことはなく、広い視野を表現することができる。そのため多くの魚眼レンズはこの特性を持つ。しかし等距離射影のステレオカメラではエピポーラ線が曲線となるので、対応点探索は非常に複雑な処理を必要とする。
【0018】
これまでのステレオカメラシステムは、一般的に、中心射影(図2(a))が用いられることが多かった。これは、エピポーラ線が直線で定義され、視差から距離の変換が下記の簡単な式(1)で算出できるためである。
(1)d=Bf/p
d:距離、B:基線長(2つのカメラ間距離)、f:焦点距離、p:視差。
【0019】
一方で、昨今の広角化のトレンドからステレオカメラシステムの画角を全角で100度以上とすることが要求されてきている。中心射影では像高と画角の関係が下記の式(2)で定義されるので、広角になればなるほど必要な像高が大きくなる。
(2)y=f:tan(θ)
y:像高、f:焦点距離、θ:画角。
【0020】
ここで式(2)の像高yを小さくするために焦点距離fを小さくすることが考えられる。しかし、この場合、式(1)で定義される視差pの値が小さくなるので、遠方の精度確保が困難になる。また、画像中央の角度分解能が小さくなり、画像中央の被写体のサイズが小さくなることから、遠方の障害物などをとらえることが困難になる。
【0021】
上述の特許文献1のステレオカメラ装置は、等距離射影画像を中心射影画像に補正することを提案しているが、その補正量が大きくなりすぎることが問題となる。例えば、焦点距離2mmの等距離射影の像高を焦点距離5mmの中心射影へ画像補正する場合を考える。センサピッチ0.00375mmとし、垂直方向の画角10度の像高を補正する場合、約142pixの画像補正量が必要となる。画像補正量が大きくなることでバッファするデータ量が増加するため、回路リソースが大きくなり、処理用のデバイスが高価になることや、その処理による遅延増加などの課題が発生する。また、画像補正量そのものが大きくなることで補正フィッティング時に発生する誤差の増大も予想される。
【0022】
本実施形態のステレオカメラ装置は、上記問題を重要な技術課題として捉えて、これを解決するための構成を具備している。すなわち、ステレオカメラ装置を構成する左右の2つのカメラにおいて望遠、広角の2つの領域が設定されており、望遠領域は中心射影でかつ補正量が少なくなるように低ディストーションの光学特性を有し、広角領域は目的の画角が入るようなディストーション特性を有する。設定した望遠、広角の2つの領域でそれぞれ画像補正を実施して、それぞれ画像を作成する。左右のカメラで作成した望遠、広角の2つの画像ペアに対してステレオマッチングをすることで、望遠、広角それぞれの三次元データが取得できる。この構成により、望遠領域では中心射影光学系で画像撮影を実施することで角度分解能の高い元データを取得することができ、かつ、低ディストーションであるため画像補正時に発生する補正量や補正誤差が少なく、小さい回路リソースで実現することができる。
【0023】
図3は、本実施形態のステレオカメラ装置100を示す概略構成図である。カメラ部110には左カメラC0と右カメラC1(第1、第2のカメラ)が配置されている。左カメラC0と右カメラC1は、同じレンズ、同じCMOSイメージセンサを有し、左カメラC0と右カメラC1は互いの光軸が平行に、かつ、二つの撮像面が同一平面になるように配置されている。左カメラC0と右カメラC1は同じレンズ21(第1、第2の光学系)、絞り22、CMOSイメージセンサ(第1、第2の撮像部)23を有する。
【0024】
CMOSイメージセンサ23は、カメラ制御部13が出力する制御信号を入力として動作する。CMOSイメージセンサ23は、例えば、1000×1000画素のモノクロイメージセンサとすることができる。レンズ21は、例えば、上下左右共に片側80度、両側160度の視野の像をCMOSイメージセンサ23の撮像領域内に結像する特性を持つ。
【0025】
CMOSイメージセンサ23が出力した画像信号は、CDS24に出力されて相関二重サンプリングによるノイズ除去が行われ、AGC25により信号強度に応じて利得制御され、A/D変換部26によりA/D変換される。画像信号はCMOSイメージセンサ23の全体を記憶可能なフレームメモリ27に記憶される。
【0026】
フレームメモリ27に記憶された画像信号はデジタル信号処理部28により、距離の算出等が行われ、仕様によってはフォーマット変換され液晶などの表示手段に表示される。デジタル信号処理部28は、DSP、CPU、ROM、RAMなどを備えたLSIである。後述する機能ブロックは、例えばこのデジタル信号処理部28により、ハード的又はソフト的に提供される。なお、カメラ制御部13をデジタル信号処理部28に配置してもよく、図示する構成は一例である。
【0027】
デジタル信号処理部28は、水平同期信号HD、垂直同期信号VD及びクロック信号の各パルスをカメラ制御部13に出力する。または、カメラ制御部13が水平同期信号HD及び垂直同期信号VDを生成することも可能である。カメラ制御部13は、タイミングジェネレータやクロックドライバを有し、HD、VD及びクロック信号からCMOSイメージセンサ23を駆動するための制御信号を生成する。
【0028】
このように、ステレオカメラ装置100は、左カメラC0と右カメラC1(第1、第2のカメラ)のそれぞれにおいて、CMOSイメージセンサ(第1、第2の撮像部)23と、CMOSイメージセンサ(第1、第2の撮像部)23による撮像データを投影するレンズ21(第1、第2の光学系)とを有している。
【0029】
レンズ21(第1、第2の光学系)は、CMOSイメージセンサ(第1、第2の撮像部)23による撮像データを望遠領域と広角領域に区画して投影するとともに、望遠領域では相対的にディストーションが小さく広角領域では相対的にディストーションが大きいディストーション特性を有している。
【0030】
図4はレンズ(第1、第2の光学系)21が区画する望遠領域と広角領域の一例を示す概念図である。CMOSイメージセンサ(第1、第2の撮像部)23による撮像データは矩形の撮像領域を有しており、当該撮像領域の中央部分が望遠領域に区画され、当該撮像領域の周辺部分が広角領域に区画されている。図4では、中央部分の望遠領域を道路や道路標識を含んだ車からの風景を描いており、周辺部分の広角領域を簡略化したグラデーションパターンで描いている。なお、撮像領域に占める望遠領域と広角領域の割合や配置の態様には自由度があり、種々の設計変更が可能である。
【0031】
図5図8を参照してレンズ(第1、第2の光学系)21が持つディストーション特性について詳細に説明する。
【0032】
図5はレンズ(第1、第2の光学系)21が持つディストーション特性の一例(画角に対する像高の特性)を示す概念図である。ここでは、1/3型のセンサ(イメージセンサ)を用いており、対角の像高は3mm、センサピッチは0.00375mm、解像度は1280pix×960pix(水平×垂直)に設定している。図5のディストーション特性では、像高0mm~1.5mmまでを望遠領域とし、像高1.5mm~3.0mmまでを広角領域としている。望遠領域では焦点距離5mmの中心射影の像高特性を持たせる一方、広角領域では焦点距離1.5mmの等距離射影の像高特性を持たせている。このような像高特性を持たせることにより、望遠領域では約0.04deg/pixと高い角度分解能を持ちながら画像全体で視野を140度以上確保できている。単純に中心射影で140度以上の視野を確保しようとすると焦点距離を1mm程度まで低下させる必要があるが、その場合、画像中央の角度分解能は約0.2deg/pix程度まで低下してしまう。広角領域に等距離射影の投射方式を採用したのは像高によらず一定の角度分解能を持たせるためである。もちろん、より焦点距離の小さい中心射影の特性を持たせてもいいし、正射影にすることで広角領域でもできるだけ中央付近の角度分解能が高くなるように設定してもいい。像高特性は下記の式(3)、(4)で表すことができる。
(3)y=ftanθ(y≦a)
(4)y=fθ+B(y>a)
y:像高、f:焦点距離、θ:画角、B:基線長(2つのカメラ間距離)、a:望遠領域と広角領域の境界となる像高(上記の例では1.5mm)。
【0033】
図6図5の望遠領域の射影方式(中心射影)に合わせたディストーション特性の一例を示す概念図である。図6に示すように、望遠領域におけるディストーションは略ゼロに抑えられており(相対的に小さく設定されており)、広角領域に入ったところからディストーションが急激に増加している(相対的に大きく設定されている)。
【0034】
ここまでは、発明の理解を容易にするために、理想的な(理論上の)中心射影・等距離射影の特性を説明してきたが、現実のステレオカメラは歪曲収差によるディストーションが発生し得る。本実施形態では、歪曲収差によるディストーションが発生したとしても、望遠領域におけるディストーションを1%以下とすることが好ましい。望遠領域におけるディストーションを1%以下とすることで、x像高とy像高の補正量をともに10pix以下に抑えることができる。
【0035】
別言すると、レンズ(第1、第2の光学系)21は、望遠領域において次の条件式(X)、(Y)を満足するディストーション特性を有することが好ましい。条件式(X)、(Y)を満足することで、望遠領域で発生するディストーションを極めて小さく抑えるとともに、後述する画像処理で実行する望遠領域のディストーション補正量を小さく抑えることができる。これにより、ステレオカメラシステム装置100の小型化と低コスト化(小さいシステムコスト)を実現することができる。また、後述する画像処理の低レイテンシー化や高精度化を図ることができる。
(X)(x・D/100)/p<10
(Y)(y・D/100)/p<10
x:x像高[mm]、y:y像高[mm]、D:ディストーション[%]、p:CMOSイメージセンサ(第1、第2の撮像部)23のセンサピッチ。
【0036】
上記のように本実施形態のレンズ(第1、第2の光学系)21が持つディストーション特性は、望遠領域から広角領域に変わる像高で大きく変化する(急激に増大する)特徴を持つ。望遠領域と広角領域の定義として先述したディストーション量を閾値として用いてもいいし、ディストーションの立ち上がりの像高を望遠領域と広角領域の境界線と定義してもいい。立ち上がり像高の算出方法としてはディストーション変化量の絶対値を算出し、最大値を示す箇所を立ち上がり像高としてもいいし、その立ち上がり像高の前後のプロットから近似直線もしくは曲線(接線)を算出し、ディストーション軸(ディストーションがゼロ)と交差する点を立ち上がり像高としてもいい。
【0037】
図7はディストーション特性におけるディストーション変化量の一例を示す概念図である。図7において、ディストーション変化量の最大値から算出した像高は1.62mm、近似直線とディストーション軸の交点から算出した像高は1.49mmであった。本実施形態のようなディストーション特性を持っている場合、最大値を境界として設定すると、望遠領域の周辺像高では最大5%程度のディストーションを補正する必要が発生する。一方、接線とディストーション軸の交点から算出した境界では、発生するディストーションは1%程度である。また、緩やかな立ち上がりのディストーション特性に対応させるためには、図7に示したディストーション変化量の代わりに、図8に示したディストーション変化率を使用してもすることも可能である。図8はディストーション特性におけるディストーション変化率の一例を示す概念図である。
【0038】
以上まとめると、望遠領域と広角領域は、次の(A)~(E)の基準によって区画することができる。
(A)望遠領域と広角領域はディストーション特性におけるディストーション1%を境界として区画することができる。この場合、望遠領域で発生するディストーションを極めて小さく抑えるとともに、後述する画像処理で実行する望遠領域のディストーション補正量を小さく抑えることができる。これにより、ステレオカメラシステム装置100の小型化と低コスト化(小さいシステムコスト)を実現することができる。また後述する画像処理の低レイテンシー化や高精度化を図ることができる。
(B)望遠領域と広角領域は、ディストーション特性におけるディストーション変化量の絶対値が最大値となる点を境界として区画することができる(図7を参照)。これにより、上記(A)の効果に加えて/代えて、外乱の影響を受け難くロバスト性の高いシステムを実現しやすくすることができる。
(C)望遠領域と広角領域は、ディストーション特性におけるディストーション変化量の絶対値が最大値となる点のディストーションカーブの接線とディストーション軸の交点を境界として区画することができる(図7を参照)。これにより、上記(B)の場合よりも、望遠領域で発生するディストーションとディストーション補正量を小さく抑えることができる(極限までゼロに近付けることができる)。
(D)望遠領域と広角領域は、ディストーション特性におけるディストーション変化率の絶対値が最大値となる点を境界として区画することができる(図8を参照)。これにより、上記(B)の効果に加えて/代えて、ディストーションカーブの立ち上がりが小さいものに対して対応しやすくすることができる。
(E)望遠領域と広角領域は、ディストーション特性におけるディストーション変化率の絶対値が最大値となる点のディストーションカーブの接線とディストーション軸の交点を境界として区画することができる(図8を参照)。これにより、上記(D)の場合よりも、望遠領域で発生するディストーションとディストーション補正量を小さく抑えることができる(極限までゼロに近付けることができる)。
【0039】
上記のようなディストーション特性を持つレンズ(第1、第2の光学系)21の具体的構成(どのように構成するか)には自由度があり、種々の設計変更が可能である。図3はレンズ21が単レンズであるように描いているが、レンズ21は複数のレンズから構成されていることが実際的である。すなわち、レンズ21は、レンズのパラメータ(例えば、レンズ枚数、レンズ間隔、レンズパワー、曲率半径、接合の有無、非球面の有無など)を適宜設定して、画像の中央部と周辺部の歪みのバランスを任意のものに最適化したものとすることができる。
【0040】
図9はレンズ(第1、第2の光学系)21の構成例を示す断面図であり、図10はその収差図である。
【0041】
図9に示すように、レンズ(第1、第2の光学系)21は、物体側より像側へ順に、前群Grfと、絞りSTと、後群Grrとから構成されている。前群Grfは、物体側より像側へ順に、物体側に凸の負メニスカスレンズ(第1レンズL1)と、両凹の負レンズ(第2レンズL2)と、物体側に凸の正メニスカスレンズ(第3レンズL3)と、物体側に凸の正メニスカスレンズ(第4レンズL4)とから構成された光学系である。絞りSTは、開口絞りである。後群Grrは、両凸の正レンズ(第5レンズL5)から構成された光学系である。第2レンズL2~第5レンズL5は、それぞれ、両面が非球面であり、第2レンズL2、第5レンズL5は、例えばプラスチックなどの樹脂材料製レンズである。
【0042】
そして、後群Grrの像側(第5レンズL5の像側)には、フィルタとしての平行平板FRを介してイメージセンサ23の受光面が配置されている。平行平板FRは、各種光学フィルタやイメージセンサ23のカバーガラス等である。
【0043】
図9において、各レンズ面に付されている番号ri(i=1,2,3,・・・)は、物体側から数えた場合のi番目のレンズ面(ただし、レンズの接合面は1つの面として数えるものとする。)であり、riに「*」印が付されている面は、非球面であることを示す。なお、開口絞りST、平行平板FRの両面およびイメージセンサ23の受光面も1つの面として扱っている。
【0044】
このような構成の下で、物体側から入射した光線は、光軸AXに沿って、順に第1レンズL1、第2レンズL2、第3レンズL3、第4レンズL4、開口絞りST、第5レンズL5および平行平板FRを通過し、イメージセンサ23の受光面に物体の光学像を形成する。そして、イメージセンサ23では、光学像が電気的な信号に変換される。
【0045】
レンズ(第1、第2の光学系)21の構成例における、各レンズのコンストラクションデータを以下に示す。
【0046】
単位 mm
面データ
面番号 r d nd νd
物面 ∞ ∞
1 16.70 0.70 1.883 40.81
2 4.94 3.12
3* -49.95 0.80 1.53048 55.72
4* 1.83 0.65
5* 1.76 1.36 1.847 23.82
6* 1.56 1.14
7* 2.44 1.10 1.77601 23.99
8* 5.96 0.32
9(絞り) ∞ 0.51
10* 4.36 1.98 1.53048 55.72
11* -1.01 1.21
12 ∞ 0.50 1.51680 64.20
13 ∞ 1.24
像面 ∞
非球面データ
第3面
K=-100,A4=0,A6=-3.95E-06,A8=-1.65E-07
第4面
K=-1.0,A4=0,A6=-4.81E-04,A8=-2.74E-05
第5面
K=-0.8,A4=0,A6=-8.35E-06,A8=-4.55E-06
第6面
K=-3.3,A4=0,A6=-1.07E-03,A8=1.76E-04
第7面
K=-8.5,A4=0,A6=4.19E-03,A8=6.86E-04
第8面
K=31.0,A4=0,A6=7.14E-02,A8=-3.56E-02
第10面
K=-4.6,A4=0,A6=4.06E-03,A8=-5.28E-04
第11面
K=-1.7,A4=0,A6=9.91E-03,A8=-7.52E-04
各種データ
焦点距離 0.839
Fナンバ 2.762
半画角 95.548
像高 2.389
レンズ全長 15.342
BF 1.665
【0047】
上記の面データにおいて、面番号は、図9に示した各レンズ面に付した符号ri(i=1,2,3,…)の番号iが対応する。番号iに*が付された面は、非球面(非球面形状の屈折光学面または非球面と等価な屈折作用を有する面)であることを示す。
【0048】
また、“r”は、各面の曲率半径(単位はmm)、“d”は、無限遠合焦状態での光軸上の各レンズ面の間隔(軸上面間隔)、“nd”は、各レンズのd線(波長587.56nm)に対する屈折率、“νd”は、アッベ数をそれぞれ示している。なお、開口絞りST、平行平面板FRの両面、イメージセンサ23の受光面の各面は、平面であるために、それらの曲率半径は、∞(無限大)である。
【0049】
上記の非球面データは、非球面とされている面(面データにおいて番号iに*が付された面)の2次曲面パラメータ(円錐係数K)と非球面係数Ai(i=4、6、8、10、12)の値とを示すものである。なお、光学面の非球面形状は、面頂点を原点、物体から撮像素子に向かう向きをz軸の正の方向とするローカルな直交座標系(x、y、z)を用い、次式により定義している。
z(h)=ch2/[1+√{1-(1+K)c2h2}]+ΣAi・hi
ただし、z(h):高さhの位置でのz軸方向の変位量(面頂点基準)
h:z軸に対して垂直な方向の高さ(h2=x2+y2)
c:近軸曲率(=1/曲率半径)
Ai:i次の非球面係数
K:2次曲面パラメータ(円錐係数)
そして、上記非球面データにおいて、「En」は、「10のn乗」を意味する。例えば、「E+001」は、「10の+1乗」を意味し、「E-003」は、「10の-3乗」を意味する。
【0050】
図10は、図9のレンズ(第1、第2の光学系)21の構成例における収差図である。図10(A)は、球面収差(正弦条件)(LONGITUDINAL SPHERICAL ABERRATION)を示し、図10(B)は、非点収差(ASTIGMATISM FIELDCURVER)を示し、そして、図10(C)は、歪曲収差(DISTORTION)を示す。球面収差の横軸は、焦点位置のずれをmm単位で表しており、その縦軸は、入射高で規格化した値で表している。非点収差の横軸は、焦点位置のずれをmm単位で表しており、その縦軸は、像高をmm単位で表している。歪曲収差の横軸は、実際の像高を理想像高に対する割合(%)で表しており、縦軸は、その画角を度単位で表している(ただし、ここでは半画角90度までを表示)。また、非点収差の図中、破線は、サジタル、実線は、タンジェンシャルをそれぞれ表している。球面収差の図には、一点鎖線でd線(波長587.56nm)、破線でg線(波長435.84nm)、実線でC線(波長656.28nm)の3つの波長の収差をそれぞれ示してある。非点収差および歪曲収差の図は、上記d線(波長587.56nm)を用いた場合の結果である。
【0051】
図10(C)に示すように、図9のレンズ(第1、第2の光学系)21の構成例では、画角(像高)がゼロからある一定の値(約45度)に至るまでは、歪曲収差(DISTORTION)が略ゼロで推移し、上記ある一定の値(約45度)を超えると、歪曲収差(DISTORTION)が急激に増大する。このような設計原理を応用して、本実施形態のようなディストーション特性を有するレンズ(第1、第2の光学系)21を実現することができる。
【0052】
図11は、ステレオカメラ装置100の構成を示すブロック図である。ステレオカメラ装置100は、左カメラC0と右カメラC1(第1、第2のカメラ)による撮像データが入力する画像処理部30を有している。画像処理部30は、補正パラメータ記憶部40と、視差演算部50とに接続されている。補正パラメータ記憶部40は、不揮発性メモリから構成されており、左カメラC0と右カメラC1(第1、第2のカメラ)による撮像データ(低ディストーションの望遠領域と高ディストーションの広角領域を含んだ撮像データ)を補正するための補正パラメータを記憶している。視差演算部50は、画像処理部30の一機能構成要素とすることができる。また、画像処理部30と補正パラメータ記憶部40と視差演算部50は、図3に示したデジタル信号処理部28の一機能構成要素とすることができる。
【0053】
画像処理部30は、補正パラメータ記憶部40が記憶した補正パラメータを参照して、左カメラC0と右カメラC1(第1、第2のカメラ)に含まれる各レンズ(第1、第2の光学系)21による撮像データに対して、望遠領域と広角領域に応じた画像処理を施す。より具体的に、画像処理部30は、左カメラC0と右カメラC1(第1、第2のカメラ)に含まれる各レンズ(第1、第2の光学系)21による各撮像データに対してディストーション補正を行うとともに、望遠領域でのディストーション補正量を相対的に小さくし、且つ、広角領域でのディストーション補正量を相対的に大きくする。
【0054】
上述したように、左カメラC0と右カメラC1(第1、第2のカメラ)に含まれる各レンズ(第1、第2の光学系)21は、望遠領域におけるディストーションが略ゼロに抑えられ(相対的に小さく設定され)、広角領域に入ったところからディストーションが急激に増加する(相対的に大きく設定される)というディストーション特性を有している。当該ディストーション特性に応じて最適化された補正パラメータが補正パラメータ記憶部40に記憶されている。画像処理部30は、望遠領域でのディストーション補正量を略ゼロに抑える一方で、広角領域でのディストーション補正量を上記の急激な増加に合わせてこれを相殺するように段階的に大きくするような幾何学的な補正を実行する。その結果、望遠領域と広角領域のそれぞれの画像処理データ(補正処理データ)が作成される。望遠領域と広角領域に応じて最適化した画像処理(補正処理)を実行することにより、広角領域での視野を確保するとともに望遠領域での遠方精度を確保し、且つ、小型化と低コスト化を実現することができる。
【0055】
視差演算部50は、画像処理部30により画像処理(補正処理)が施された撮像データに対して視差演算を実行することで視差画像を出力する。より具体的に、視差演算部50は、左カメラC0による望遠領域画像と右カメラC1による望遠領域画像の視差である望遠領域視差画像と、左カメラC0による広角領域画像と右カメラC1による広角領域画像の視差である広角領域視差画像とを演算する。さらに、視差演算部50は、望遠領域視差画像と広角領域視差画像を合成することで、最終的な視差画像を出力する。
【0056】
また画像処理部30は、上述した画像処理(補正処理)に加えて、低下したMTF特性を復元させることや、シェーディング補正(周辺光量補正)、ノイズ低減などの補正を実行することで、画質を向上させた輝度画像を出力することができる。擬似的に基線方向と水平方向が一致した左カメラC0と右カメラC1(第1、第2のカメラ)で撮影した画像に補正することで,水平方向の視差を計算すればよく,正確な視差画像を出力することができる。
【0057】
以上の画像処理部30と補正パラメータ記憶部40と視差演算部50とによる処理は、例えば、ステレオマッチング処理と呼ぶことができる。
【0058】
図12は本実施形態のステレオカメラ装置100による画像フローの一例を示す概念図である。左カメラC0による撮像データ(輝度画像)と右カメラC1による撮像データ(輝度画像)の各々に対して望遠領域と広角領域のそれぞれで画像変換を実行する(広角領域は望遠領域を含んだ全画像領域である)。望遠領域画像は、中心射影の特性を持たせるとともに像高1.5mmを対角とした1.2mm×0.9mm(水平×垂直)の領域画像とすることができる。また、望遠領域画像と広角領域画像を同一の解像度とすることで(例えば640pix×480pix)、ステレオカメラ装置100を簡単なシステム構成で実現することができる。また、広角領域画像では補正量が大きくなるが、解像度を半分にすることで必要な補正量も半分とすることができる。もちろん、広角領域画像の画質をできるだけ生かすために望遠領域画像の解像度を2倍にして望遠領域画像と広角領域画像の解像度を合わせてもいいし、システム構成は複雑になるが、そのままの解像度(解像度を変えることなく)、望遠領域画像(640pix×480pix)と広角領域画像(1280pix×960pix)画像をそれぞれ作成してもよい。
【0059】
左カメラC0による望遠領域画像と右カメラC1による望遠領域画像のペアに基づいて両画像の視差である望遠領域視差画像が作成される。左カメラC0による広角領域画像と右カメラC1による広角領域画像のペアに基づいて両画像の視差である広角領域視差画像が作成される。この望遠領域視差画像と広角領域視差画像を合成することで、最終的な視差画像が作成される。
【符号の説明】
【0060】
100 ステレオカメラ装置
C0 C1 カメラ(第1、第2のカメラ)
13 カメラ制御部
21 レンズ(第1、第2の光学系)
22 絞り
23 CMOSイメージセンサ(第1、第2の撮像部)
24 CDS
25 AGC
26 A/D変換部
27 フレームメモリ
28 デジタル信号処理部
30 画像処理部
40 補正パラメータ記憶部
50 視差演算部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12