(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0012】
以下、本発明の実施の形態について図面を参照しながら詳細に説明する。なお、本実施の形態に記載されている構成要素はあくまで例示に過ぎず、本発明の範囲は本実施の形態に記載されている構成要素によって限定されることはない。
【0013】
まず、本発明の第1の実施の形態について説明する。
図1は、本発明の第1の実施の形態に係る測距装置の構成を概略的に示すブロック図である。
【0014】
図1において、測距装置は、光学系11及び多数の画素が配列された撮像素子12を有するカメラ10と、画像解析部13と、距離情報取得部14とを備える。光学系11は光軸に沿って配列された、例えば、2枚のレンズ11a,11bを有し、被写体の光学像を撮像素子12上に結像する。
図2に示すように、撮像素子12が有する多数の画素は複数の撮像用画素12aと、複数の測距用画素12b(第1画素,第2画素)とに区分される。なお、
図2では煩雑さをなくすため、左上側の各画素の配列の態様を部分的に示すに留まり、撮像素子12の全面における各画素の配列の態様は図示を省略する。各撮像用画素12a及び各測距用画素12bは各々1つの光電変換部としての光電変換素子、例えば、フォトダイオード(以下、「PD」という。)を有する。本実施の形態において、PDは、シリコンや光吸収特性を有する薄膜で形成した光電変換膜等で構成される。複数の撮像用画素12aは光学系11の射出瞳の部分的領域(射出瞳における異なる領域。以下、「部分瞳」という。)を通過する光束を各々が受光して被写体の光学像を形成する。また、複数の測距用画素12bは各々が光学系11の射出瞳における2つの異なる部分瞳を通過する光束のいずれかを受光する。撮像素子12では、例えば、ベイヤー配列に従い、2行×2列の4画素のうち対角の2画素としてG(緑色)の分光感度を有する撮像用画素12aが配置され、他の2画素としてR(赤色)とB(青色)の分光感度を有する撮像用画素12aが1つずつ配置される。各撮像用画素12aが有する特定色の分光感度は、各撮像用画素12aが有する原色系のカラーフィルタによって付与される。また、撮像素子12では、一部の2行×2列の画素において、対角の2つのGの分光感度を有する撮像用画素12aをそのまま残し、RとBの分光感度を有する撮像用画素12aが測距用画素12bに置き換えられる。撮像素子12では、一部の2行×2列の画素において対角の2つの測距用画素12bが、2つの部分瞳を通過した光束をそれぞれ受光することによって一対の光学像を形成し、さらに各光学像を光電変換して画像信号(出力信号)を出力する。画像解析部13は出力された画像信号に対して画像処理を施す。距離情報取得部14は画像処理が施された画像信号から一対の光学像の視差を算出し、さらに、算出された視差に基づいて被写体までの距離を算出する。すなわち、測距装置は撮像面位相差方式によって被写体までの距離を測定する。なお、画像信号から視差を算出する際、必ずしも撮像素子12から出力された画像信号に画像処理を施す必要はない。例えば、画像信号から直接視差を算出することができる場合、撮像素子12は画像解析部13を経由することなく距離情報取得部14へ直接、画像信号を出力する。
【0015】
上述した撮像素子12では、2つの測距用画素12bが各部分瞳を通過した光束をそれぞれ受光して一対の光学像を形成したが、後述する1つの撮像兼測距用画素12cが2つの部分瞳を通過した光束を受光して一対の光学像を形成してもよい。この場合、撮像兼測距用画素12cは少なくとも2つPDを有し、2つのPDが2つの部分瞳を通過した光束をそれぞれ受光する。また、撮像兼測距用画素12cは2つのPDが受光する2つの部分瞳を通過した光束を合成して被写体の光学像を形成する。したがって、撮像素子12のほぼ全域において撮像兼測距用画素12cを配置してもよい。なお、本実施の形態では、カメラ10において光学系11の各レンズ11a,11bは固定され、いわゆるオートフォーカス機能は省略されている。すなわち、カメラ10では焦点が固定される。しかしながら、カメラ10はオートフォーカス機能を備えていてもよく、この場合、距離情報取得部14が算出した被写体までの距離に基づいてオートフォーカスが実行される。
【0016】
図3は、撮像面位相差方式による距離測定の原理を説明するための図である。具体的に、
図3(A)は一対をなす2つの測距用画素12bがそれぞれ形成する光学像を用いて距離測定を行う場合を示す。
図3(B)は
図3(A)における各画素を光軸方向から眺めた場合を示す。
図3(C)は1つの撮像兼測距用画素12cが形成する一対の光学像を用いて距離測定を行う場合を示す。なお、
図3(A)及び
図3(C)では撮像用画素12a、各測距用画素12bや撮像兼測距用画素12cが側方から眺めた状態で描画される。
【0017】
まず、
図3(A)において、光学系11の射出瞳30は、水平方向(図中の横方向,第1方向)(以下、「視差方向」という。)に関して射出瞳30の両端近傍にそれぞれ位置する2つの部分瞳(以下、「測距用瞳」という。)31,32を有する。また、射出瞳30は視差方向において各測距用瞳31,32に挟まれて射出瞳30の略中央に位置する部分瞳(以下、「撮像用瞳」という。)33を有する。測距用瞳31,32の各々からは測距用光束34,35(第1光束,第2の光束)が射出されて一対の測距用画素12bの各々に入射する。また、撮像用瞳33からは撮像用光束36が射出されて撮像用画素12aに入射する。2つの測距用画素12bはマイクロレンズ37(第1マイクロレンズ,第2マイクロレンズ)と、該マイクロレンズ37を介して射出瞳30と対向するPD38(第1光電変換部,第2光電変換部)とを有する。さらに、2つの測距用画素12bは、マイクロレンズ37及びPD38の間に配置されてPD38を部分的にマイクロレンズ37と対峙させる開口39(第1開口,第2開口)を有する遮光膜40(第1遮光膜,第2遮光膜)とを有する。
図3(B)の左側の撮像用画素12bの開口39(第1開口)は、画素の中心上やマイクロレンズ37の光軸上から視差方向(第1方向)に偏心して配置されている。また、
図3(B)の右側の撮像用画素12bの開口39(第2開口)は、画素の中心上やマイクロレンズ37の光軸上から視差方向(第1の方向と反対の第2方向)に偏心して配置されている。さらに、
図3(B)の左側の撮像用画素12bのPD38と、
図3(B)の右側の撮像用画素12bのPD38は、互いに入射角感度特性が異なる。なお、本特許請求の範囲及び本明細書において画素の中心とは、画素の重心のことであり、例えば、画素が長方形の場合には、2つの対角線の交点が画素の中心に相当する。撮像用画素12aはマイクロレンズ41と、該マイクロレンズ41を介して射出瞳30と対向するPD42とを有する。さらに、撮像用画素12aはマイクロレンズ41及びPD42の間に配置されてPD42を部分的にマイクロレンズ41と対峙させる開口65(第3開口)を有する遮光膜66(第3遮光膜)を有する。撮像用画素12aの開口65(第3開口)は、画素の中心上やマイクロレンズ41の光軸上に配置されている。なお、撮像用画素12aのPD42は、2つの撮像用画素12bのPD38と入射角感度特性が異なる。
【0018】
一対の測距用画素12bでは、2つのマイクロレンズ37が光学系11の像面近傍に配置され、各マイクロレンズ37は測距用光束34、35を2つの遮光膜40(各開口39)へ集光させる。光学系11及び2つのマイクロレンズ37は射出瞳30及び2つの遮光膜40(各開口39)が光学的に共役になるように構成される。したがって、2つのマイクロレンズ37によって2つの遮光膜40のそれぞれの開口39の形状が射出瞳30における2つの測距用瞳31,32へ投影される。すなわち、2つの測距用瞳31,32の配置(位置、大きさ)は遮光膜40のそれぞれの開口39の位置、大きさによって実現される。また、撮像用画素12aでは、マイクロレンズ41が光学系11の像面近傍に配置され、光学系11及びマイクロレンズ41は射出瞳30及び遮光膜66(開口65)が光学的に共役になるように構成される。したがって、マイクロレンズ41によって開口65の形状が射出瞳30における撮像用瞳33へ投影される。すなわち、撮像用瞳33の配置(位置、大きさ)は遮光膜66の開口65の位置、大きさによって実現される。一対の測距用画素12bの2つのPD38は、測距用瞳31,32をそれぞれ通過する測距用光束34,35によって各マイクロレンズ37に形成される光学像が変換された画像信号を出力する。出力された画像信号に対して像ズレ検出演算処理(相関処理、位相差検出処理)等を施すことにより、一対の光学像の視差を算出する。さらに、当該視差から三角測量の原理に基づいてデフォーカス量や被写体までの距離を算出する(例えば、米国特許出願公開第2015/0092988号明細書参照)。また、撮像用画素12aのPD42は、撮像用瞳33を通過する撮像用光束36によってマイクロレンズ41に形成される光学像が変換された画像信号を出力し、当該画像信号から被写体の画像が形成される。なお、
図3(A)及
図3(B)では遮光膜40や遮光膜66を設けたが、これらの遮光膜は省略してもよい。この場合、PD38やPD42の位置、大きさを開口39や開口65の位置、大きさと同じにすることにより、上述した各測距用瞳31,32の配置や撮像用瞳33の配置を実現することができる。
【0019】
また、
図3(C)では、測距用瞳31,32の各々からは測距用光束34,35が射出されて撮像兼測距用画素12cに入射する。撮像用瞳33からは撮像用光束36が射出されて同じ撮像兼測距用画素12cに入射する。撮像兼測距用画素12cはマイクロレンズ43と、該マイクロレンズ43を介して射出瞳30と対向するPD44〜46とを有する。撮像兼測距用画素12cでは、マイクロレンズ43が光学系11の像面近傍に配置され、マイクロレンズ43は測距用光束34、35を2つのPD44,45へ集光させる。光学系11及びマイクロレンズ43は射出瞳30及びPD44〜46が光学的に共役になるように構成される。したがって、マイクロレンズ43により、PD44の形状が射出瞳30における測距用瞳31へ投影される。また、マイクロレンズ43により、PD45の形状が射出瞳30における測距用瞳32へ投影される。さらに、マイクロレンズ43により、PD46の形状が射出瞳30における撮像用瞳33へ投影される。すなわち、各測距用瞳31,32及び撮像用瞳33の配置(位置、大きさ)はPD44〜46の位置、大きさによって実現される。撮像兼測距用画素12cのPD44,45は、測距用瞳31,32をそれぞれ通過する測距用光束34,35によってマイクロレンズ43に形成される光学像が変換された画像信号を出力する。ここでも、出力された画像信号に対して像ズレ検出演算処理(相関処理、位相差検出処理)等を施すことにより、一対の光学像の視差を算出する。さらに、当該視差から三角測量の原理に基づいてデフォーカス量や被写体までの距離を算出する。また、撮像兼測距用画素12cのPD46は、撮像用瞳33を通過する撮像用光束36によってマイクロレンズ43に形成される光学像が変換された画像信号を出力する。なお、PD44〜46は互いに入射角感度特性が異なる。
【0020】
図4は、本発明の第1の実施の形態における光学系の射出瞳を示す図である。なお、図中の横方向が視差方向に対応する。
【0021】
図4(A)において、射出瞳30は、当該射出瞳30の中心(光学系11の光軸)に関して視差方向に対称に位置し、且つ射出瞳30の両端近傍にそれぞれ位置する2つの楕円状の測距用瞳31,32を有する。さらに、射出瞳30は、視差方向において各測距用瞳31,32に挟まれて射出瞳30の略中央に位置する正円状の撮像用瞳33を有する。各測距用瞳31,32の視差方向に関する重心間距離Lの射出瞳30の視差方向に関する長さである射出瞳幅Wに対する比は0.6以上且つ0.9以下である。また、各測距用瞳31,32の視差方向に関する長さである各測距用瞳幅Wa,Wb(部分瞳幅)の射出瞳幅Wに対する比は0.1以上且つ0.4以下である。さらに、楕円状の各測距用瞳31,32は図中縦方向(視差方向と垂直な方向)に長辺を有する。各測距用瞳31,32の図中縦方向に関する長さである測距用瞳高さH(部分瞳高さ)の各測距用瞳幅Wa,Wbに対する比(以下、「アスペクト比」という。)は1以上であり、好ましくは2以上である。測距用瞳31,32の大きさや形状は上述した各測距用瞳幅Wa,Wbや測距用瞳高さHに関する制約に従う限りにおいて任意であり、例えば、
図4(B)に示すように、各測距用瞳31,32がやや小ぶりであってもよい。また、
図4(C)に示すように、各測距用瞳31,32と、撮像用瞳33とが同じ形状(正円状)を呈していてもよい。しかしながら、測距用瞳31,32の大きさは、測距用瞳31,32をそれぞれ通過する測距用光束34,35に基づく各画像信号の強度が正確な被写体の距離情報を取得することができる程度まで高くなる大きさであることを必要とする。
【0022】
本実施の形態によれば、各測距用瞳31,32の視差方向に関する重心間距離L(基線長)の射出瞳30の射出瞳幅Wに対する比は0.6以上且つ0.9以下であるので、基線長を長くすることができる。その結果、撮像面位相差方式を用いて測定される被写体までの距離の精度を高くすることができる。また、各測距用瞳幅Wa,Wbの射出瞳幅Wに対する比は0.1以上且つ0.4以下であるので、射出瞳30の視差方向に関して各測距用瞳31,32の配置の自由度を増すことができる。その結果、各測距用瞳31,32を射出瞳30の視差方向に関する両端近傍に位置させることができ、もって、基線長を確実に長くすることができる。また、各測距用瞳幅Wa,Wbが小さすぎると、測距用光束34,35の光量が大幅に減り、得られる測距用の画像信号のS/N比が低下して測定される距離の精度が低下する。しかしながら、上述したように、各測距用瞳幅Wa,Wbの射出瞳幅Wに対する比は0.1以上であるため、測距用光束34,35の光量が大幅に減るのを防止することができる。また、各測距用瞳幅Wa,Wbが大きくなる、すなわち、各測距用瞳31,32が大きくなると基線長が短くなり、測定される距離の精度が低下する。しかしながら、上述したように、各測距用瞳幅Wa,Wbの射出瞳幅Wに対する比は0.4以下であるため、基線長が短くなるのを防止することができる。さらに、各測距用瞳31,32のアスペクト比は1以上であるので、各測距用瞳31,32を通過する測距用光束34,35の量を増加させることができる。これにより、測距用光束34,35によって形成される光学像から得られる画像信号のS/N比を高くすることができ、被写体の距離情報を高精度に求めることができる。また、射出瞳30は、視差方向において各測距用瞳31,32に挟まれる撮像用瞳33を有し、撮像用瞳33を通過する撮像用光束36によって形成される光学像が変換された画像信号から被写体の画像が形成される。これにより、射出瞳30の全領域を通過する光束を用いた場合に比べ、絞りを小さくして被写体の焦点深度を深くすることができ、認識処理に適した被写体の画像を得ることができる。
【0023】
上述したように、2つの測距用瞳31,32の配置は2つの測距用画素12bにおける2つの遮光膜40のそれぞれの開口39の位置、大きさによって実現される。また、撮像用瞳33の配置は撮像用画素12aにおける遮光膜66の開口65の位置、大きさによって実現される。若しくは、2つの測距用瞳31,32及び撮像用瞳33の配置は撮像兼測距用画素12cにおけるPD44〜46の位置、大きさによって実現される。したがって、撮像兼測距用画素12cでは、
図5(A)に示すように、縦長の各測距用瞳31,32に対応するように2つのPD44,45は図中縦方向(視差方向と垂直な方向)に長辺を有する矩形状を呈する。また、射出瞳30の両端近傍にそれぞれ位置する2つの測距用瞳31,32に対応するように、2つのPD44,45は視差方向に関して互いに離間して配置される。また、正円状の撮像用瞳33に対応するようにPD46は正方形状を呈し、射出瞳30の略中央に位置する撮像用瞳33に対応するように、PD46は撮像兼測距用画素12cにおいて略中央に配置される。
図5(A)に示すように、一の撮像兼測距用画素12cが2つのPD44,45を有する場合、1つの撮像兼測距用画素12cから一対の光学像の視差を算出するための画像信号が得られるため、当該画像信号を多く得ることができる。すなわち、画像信号の解像度を高くすることができる。これにより、形成される画像を高画質にすることができる。また、距離情報の解像度を高くすることができる。
【0024】
なお、撮像兼測距用画素12cがPD44及びPD45のうち一方のみを有していてもよい。例えば、
図5(B)に示すように、(図中下方の)一の撮像兼測距用画素12cがPD44を有し、(図中上方の)他の撮像兼測距用画素12cがPD45を有する。この場合、測距用瞳31を通過する測距用光束34が一の撮像兼測距用画素12cのPD44によって受光され、当該PD44は測距用光束34よって形成される光学像が変換された画像信号を出力する。また、測距用瞳32を通過する測距用光束35が他の撮像兼測距用画素12cのPD45によって受光され、当該PD45は測距用光束35よって形成される光学像が変換された画像信号を出力する。さらに、一の撮像兼測距用画素12cのPD44及び他の撮像兼測距用画素12cのPD45から出力された画像信号から一対の光学像の視差が算出される。
図5(B)に示すように、撮像兼測距用画素12cがPD44及びPD45のうち一方のみを有する場合、一つの撮像兼測距用画素12cが有するPDの数を2つに減らすことができる。これにより、各PDの配置に余裕ができ、もって、各PDを大きくすることができる。その結果、各PDの受光量を増加させて各PDの感度を向上することができ、光量が十分でない環境においても、形成される画像を高画質にすることができ、さらに、距離の計算の精度を向上することができる。
【0025】
なお、本実施の形態では、射出瞳30が図中横方向に配列された各測距用瞳31,32を有するが、さらに図中縦方向に配列された2つの測距用瞳を有していてもよい。例えば、
図6(A)に示すように、射出瞳30は各測距用瞳31,32に加えて図中縦方向に配列された2つの楕円状の測距用瞳47,48を有する。2つの測距用瞳47,48は射出瞳30の図中縦方向に関する両端近傍にそれぞれ位置する。これにより、図中横方向だけでなく図中縦方向における一対の光学像の視差を算出することができ、被写体における横線や斜め線までの距離の測定の精度を向上することができる。この場合、撮像兼測距用画素12cは、
図6(B)に示すように、楕円状の2つの測距用瞳47,48に対応するように図中横方向に長辺を有する矩形状を呈するPD49,50を有する。また、射出瞳30の図中縦方向に関する両端近傍にそれぞれ位置する2つの測距用瞳47,48に対応するように、2つのPD49,50は図中縦方向に関して互いに離間して配置される。
【0026】
また、本実施の形態では、撮像用画素12aは原色系のカラーフィルタを有するが、当該カラーフィルタは原色系ではなく補色系であってもよい。補色系のカラーフィルタは透過させる光束の光量が原色系のカラーフィルタよりも多いため、PD42の感度を向上させることができる。一方、測距用画素12bではPD38が受光する光束は開口39を通過する光束に限られ、撮像兼測距用画素12cではPD44,45の大きさは限定される。しかしながら、測距用画素12bや撮像兼測距用画素12cはカラーフィルタを有さない、若しくは補色系のカラーフィルタを有する。これにより、PD38やPD44,45が受光する光束の光量はさほど制限されない。したがって、PD38やPD44,45の感度が大幅に低下することがない。
【0027】
次に、本発明の第2の実施の形態について説明する。本発明の第2の実施の形態は、その構成、作用が上述した第1の実施の形態と基本的に同じであるので、重複した構成、作用については説明を省略し、以下に異なる構成、作用についての説明を行う。
【0028】
測距装置を移動体、例えば、自動車やドローンに適用する場合、当該測距装置はより小型でより軽量であることが好ましく、これに伴い、カメラ10にもより一層の小型化が求められる。このとき、撮像素子12もより小型化され、撮像素子12の各撮像用画素12aや各測距用画素12bもより小型化される。ここで、測距用画素12bが小型化し、例えば、当該画素の大きさ(画素サイズ)が可視光の波長の数倍程度となったとき、マイクロレンズ37に入射した測距用光束34,35の回折による広がりが大きくなる。具体的には、
図7(A)に示すように、マイクロレンズ37に入射した測距用光束35が回折に起因して、画素サイズが大きくて回折がほぼ生じないときの測距用光束35(図中の実線で示す光束参照)よりも広がる(図中の破線で示す光束参照)。これにより、開口39を通過する光束の光量が低下し、PD38が受光する測距用光束35の受光量が低下してPD38の測距用光束35に対する感度が低下する。その結果、画素サイズが大きくて回折がほぼ生じないときの理想状態の入射角感度特性(図中の実線で示す特性参照)に比べ測距用光束35が回折して広がったときの入射角感度特性(図中の破線で示す特性参照)における感度の絶対値が小さくなる。そして、得られる画像信号のSNR(S/N比)が低下して測距精度が低下する。また、PD38が受光する測距用光束35を被写体の画像形成に用いる場合、形成される画像の画質が低下し、認識処理における認識精度が低下する。なお、入射角感度特性を示す図(グラフ)において、縦軸は感度を示し、横軸は入射角を示す。横軸における縦軸との交点の入射角は各光束の主光線入射角である。
【0029】
PD38の測距用光束35に対する感度を向上させるには、
図7(B)に示すように、開口39の幅Wcを拡大して当該開口39を通過する光束の光量を増加させるのが好ましい。しかしながら、開口39の幅Wcを拡大すると当該開口39を通過可能な光束の入射角の範囲も広がる(図中の破線で示す光束参照)。その結果、理想状態の入射角感度特性(図中の実線で示す特性参照)に比べ開口39の幅Wcを拡大したときの入射角感度特性(図中の破線で示す特性参照)の入射角の範囲が広がるため、基線長が短くなり、測距精度が低下する。
【0030】
本実施の形態では、これに対応して、
図7(C)に示すように、PD38の感度を向上させるために開口39の幅Wcを拡大しつつ、入射角感度特性の入射角の範囲を限定する。すなわち、開口39を通過する光束の入射角を限定するために測距用光束35を絞って測距用光束35の入射角度分布(の幅)を限定している(図中の実線で示す光束参照)。具体的には、絞り51の絞り孔52を用いて測距用光束35の入射角範囲(光学系11の像面における入射角度分布)を狭める。このとき、絞り孔52を通過した測距用光束35がマイクロレンズ37によって回折しても、当該測距用光束35は遮光膜40上(第1遮光膜上)において幅Wcが拡大された開口39よりも広がることがない。その結果、PD38は測距用光束35を十分に受光することができる。同様の対応を行うことにより、PD38は測距用光束34も十分に受光することができる。以上より、入射角感度特性の感度の絶対値を高く維持しつつ、入射角感度特性の入射角の範囲を狭めることができ、測距精度が低下するのを防止することができる。
【0031】
また、撮像兼測距用画素12cが小型化し、例えば、画素サイズが可視光の波長の数倍程度となったときも、マイクロレンズ43に入射した測距用光束34,35の回折による広がりが大きくなる。具体的には、
図8(A)に示すように、マイクロレンズ43に入射した測距用光束35が回折に起因して、画素サイズが大きくて回折がほぼ生じないときの測距用光束35(図中の実線で示す光束参照)よりも広がる(図中の破線で示す光束参照)。これにより、PD45が受光する測距用光束35の光量が低下し、PD45の測距用光束35に対する感度が低下する。その結果、画素サイズが大きくて回折がほぼ生じないときの理想状態の入射角感度特性(図中の実線で示す特性参照)に比べ測距用光束35が回折して広がったときの入射角感度特性(図中の破線で示す特性参照)における感度の絶対値が小さくなる。そして、得られる画像信号のSNRが低下して測距精度が低下する。また、PD45が受光する測距用光束35を被写体の画像形成に用いる場合、形成される画像の画質が低下し、認識処理における認識精度が低下する。
【0032】
PD45の測距用光束35に対する感度を向上させるには、
図8(B)に示すように、PD45の幅Wdを拡大してPD45が受光する光束の光量を増加させるのが好ましい。しかしながら、PD45の幅Wdを拡大すると当該PD45に入射可能な光束の入射角の範囲も広がる(図中の破線で示す光束参照)。その結果、理想状態の入射角感度特性(図中の実線で示す特性参照)に比べPD45の幅Wdを拡大したときの入射角感度特性(図中の破線で示す特性参照)の入射角の範囲が広がるため、基線長が短くなり、測距精度が低下する。
【0033】
本実施の形態では、これに対応して、
図8(C)に示すように、PD45の感度を向上させるためにPD45の幅Wdを拡大しつつ、入射角感度特性の入射角の範囲を限定する。すなわち、PD45に入射する光束の入射角を限定するために測距用光束35を絞って測距用光束35の入射角度分布(の幅)を限定している(図中の実線で示す光束参照)。具体的には、絞り51の絞り孔52を用いて測距用光束35の入射角範囲(光学系11の像面における入射角度分布)を狭める。このとき、絞り孔52を通過した測距用光束35がマイクロレンズ37によって回折しても、当該測距用光束35はPD45を含む平面上において幅Wdが拡大されたPD45よりも広がることがない。その結果、PD45は測距用光束35を十分に受光することができる。同様の対応を行うことにより、PD44も測距用光束34を十分に受光することができる。以上より、入射角感度特性の感度の絶対値を高く維持しつつ、入射角感度特性の入射角の範囲を狭めることができ、測距精度を高くすることができる。
【0034】
図9は、本発明の第2の実施の形態に係る測距装置の構成を概略的に示すブロック図である。
図9において、測距装置は、光学系53及び多数の画素が配列された撮像素子12を有するカメラ10と、画像解析部13と、距離情報取得部14とを備える。光学系53は光軸に沿って配列された、例えば、2枚のレンズ11a,11bを有し、被写体の光学像を撮像素子12上に結像する。また、光学系53は2枚のレンズ11a,11bの間に配置された絞り51を有する。絞り51は2つの測距用瞳31,32に対応する2つの絞り孔52を有する。撮像素子12に測距用画素12bが配列される場合、光学系53及びマイクロレンズ37は絞り51の2つの絞り孔52及び遮光膜40(開口39)が光学的に共役になるように構成される。また、撮像素子12に撮像兼測距用画素12cが配列される場合、光学系53及びマイクロレンズ43は絞り51の2つの絞り孔52及びPD44,45が光学的に共役になるように構成される。
【0035】
上述したように、2つの絞り孔52は測距用瞳31,32を通過する測距用光束34,35を規定する。例えば、
図10に示すように、各絞り孔52は各測距用光束34,35の入射角範囲を規定することにより、入射角の範囲が限定された入射角感度特性(以下、「限定入射角感度特性」という。)(図中の実線で示す特性参照)を実現する。このとき、幅Wcが拡大された開口39や幅Wdが拡大されたPD44,45の入射角感度特性(以下、「幅拡大時の入射角感度特性」という。)(図中の破線で示す特性参照)の半値幅をWeとする。半値幅Weは幅拡大時の入射角感度特性において感度が最大感度Haの半分の感度Hbとなるときの入射角範囲である。また、限定入射角感度特性の半値幅をWfとする。半値幅Wfは限定入射角感度特性において感度が最大感度Haの半分の感度Hbとなるときの入射角範囲である。本実施の形態では、限定入射角感度特性の半値幅Wfが幅拡大時の入射角感度特性の半値幅Weよりも小さくなるように、各絞り孔52の大きさ(視差方向の幅)が規定される。具体的には、撮像素子12に撮像兼測距用画素12cが配列される場合、
図11に示すように、各絞り孔52の視差方向(図中横方向)の幅をWgとする。このとき、幅Wgは、幅拡大時の入射角感度特性の半値幅Weに対応する入射角の光束(図中の破線で示す光束参照)の絞り51における視差方向の幅Whよりも小さくなるように規定される。また、2つの絞り孔52は、測距用光束34,35が同じ偏光状態であり且つ同じ波長を持つように、大きさや形状、位置が規定されている。
【0036】
図12は、
図9における絞りを光軸方向から眺めた図である。
図12(A)において、円板状の絞り51は視差方向(図中横方向)に関して直径上に互いに離間して配置される2つの絞り孔52(第1絞り孔、第2絞り孔)を有する。2つの絞り孔52の位置、大きさや形状は各測距用瞳31,32の位置、大きさや形状を実現するように設定される。なお、
図12(A)に示すように、絞り51が2つの絞り孔52のみしか有しない場合、撮像用光束36は生じない。したがって、測距用光束34,35は被写体までの距離の測定だけでなく、被写体の画像の形成にも用いられる。
図12(B)に示すように、絞り51が2つの絞り孔52だけでなく、略中央に他の絞り孔54(第3絞り孔)を有してもよい。この場合、他の絞り孔54の位置、大きさや形状は撮像用瞳33の位置、大きさや形状を実現するように設定される。また、各絞り孔52の形状は特に限定されないが、
図12(C)に示すように、縦長、すなわち、各絞り孔52の視差方向と垂直な方向(図中縦方向)に関する長さの視差方向に関する長さに対する比が1以上であってもよい。この場合、各測距用瞳31,32のアスペクト比を1以上にすることができ、もって、各測距用瞳31,32を通過する測距用光束34,35の量を増加させ、測距用光束34,35から得られる画像信号の強度を高くすることができる。さらに、
図12(D)に示すように、絞り51は、他の絞り孔54の開口を調整するための絞り機構55を有してもよい。絞り機構55は2枚の遮蔽羽56からなり、各遮蔽羽56は図中縦方向にスライド可能に構成される。これにより、撮像用瞳33を通過する撮像用光束36を絞ることができ、もって、被写体の焦点深度を深くすることができ、高画質な被写体の画像を容易に得ることができる。また、
図12(E)に示すように、絞り51は、絞り孔52の開口を調整するための絞り機構57を有してもよい。各絞り機構57は2枚の遮蔽羽58からなり、各遮蔽羽58は図中縦方向にスライド可能に構成される。これにより、各測距用瞳31,32を通過する測距用光束34,35の光量を自在に調整することができる。
【0037】
なお、本実施の形態では、絞り(開口絞り)51の開口を「絞り孔52」と表現しているが、絞り51の開口は必ずしも貫通孔でなくてよい。つまり、絞りは、透明なガラス板上に遮光膜を形成したものであってもよいし、液晶シャッタでもよいし、エレクトロクロミックデバイスでもよい。また、本実施の形態では、絞り51として透過型の開口絞りを例示しているが、代わりに、反射型の開口絞りを用いても良い。この場合、ミラー上の絞り孔以外の部分を光吸収材料で覆った部材を用いても良いし、光を反射しない板(金属板等)上の絞り孔の部分だけをミラーで覆った部材を用いても良い。本特許請求の範囲及び本明細書では、反射型の開口絞りの絞り孔に相当する部分(透明なガラス、ミラー)も、「絞り孔」と呼ぶ。
【0038】
次に、本発明の第3の実施の形態について説明する。本発明の第3の実施の形態は、上述した第1の実施の形態及び第2の実施の形態に係る測距装置を移動体としての自動車に適用したものである。
【0039】
図13及び
図14は、本実施の形態に係る移動体としての自動車における運転支援システムの構成を概略的に説明するための図である。
【0040】
図13及び
図14において、車両59は、カメラ10、画像解析部13及び距離情報取得部14を有する測距装置60と、車両位置判定部61とを備える。車両位置判定部61は、該測距装置60が算出する測距結果、例えば、前走車までの距離に基づいて当該車両59の前走車に対する相対的な位置を判定する。なお、画像解析部13、距離情報取得部14及び車両位置判定部61は、ソフトウェア(プログラム)による実装及びハードウェアによる実装のいずれも可能であり、ソフトウェアとハードウェアとの組合せによって実装してもよい。例えば、カメラ10に内蔵されたコンピュータ(マイコン、FPGA等)のメモリにプログラムを格納し、そのプログラムをコンピュータに実行させることで各部の処理を実現してもよい。また、各部の処理の全部又は一部を論理回路によって実現するASIC等の専用プロセッサを設けてもよい。
【0041】
また、車両59は、車両情報取得装置62(移動体情報取得装置)と、制御装置63と、警報装置64とを備え、車両位置判定部61が車両情報取得装置62と、制御装置63と、警報装置64と接続される。車両位置判定部61は、車両情報取得装置62から車両59の車速(速度)、ヨーレート、及び舵角等の少なくともいずれかを車両情報(移動体情報)として取得する。制御装置63は車両位置判定部61の判定結果に基づいて車両59を制御する。警報装置64は車両位置判定部61の判定結果に基づいて警報を発する。制御装置63は、例えば、ECU(エンジンコントロールユニット)である。例えば、車両位置判定部61の判定結果として前走車との衝突可能性が高い場合、制御装置63は車両59のブレーキをかける、アクセルを戻す、エンジン出力を抑制する等して衝突を回避、被害を軽減する車両制御を行う。また、例えば、前走車との衝突可能性が高い場合、警報装置64は音等の警報を鳴し、カーナビゲーションシステム等の画面に警報情報を表示し、シートベルトやステアリングに振動を与える等してユーザに警告を行う。本実施の形態では、測距装置60のカメラ10が車両59の周囲、例えば、前方若しくは後方を撮像する。なお、制御装置63が、測距装置60の測距結果だけでなく車両情報取得装置62で取得した車両情報にも基づいて車両59を制御する構成にしてもよい。
【0042】
図15は、本実施の形態における運転支援システムの動作例としての衝突回避処理を示すフローチャートである。このフローチャートに沿って運転支援システムの各部の動作を以下に説明する。
【0043】
まず、ステップS1ではカメラ10を用いて複数の画像(例えば、測距用の2つの画像、及び、撮像用の1つの画像)の画像信号を取得する。次に、ステップS2では車両情報取得装置62から車両情報の取得を行う。ここでの車両情報は、車両59の車速、ヨーレート、及び舵角等の少なくともいずれかを含む情報である。次に、ステップS3では取得された複数の画像信号のうち少なくとも1つの画像信号に対して特徴解析(認識処理)を行う。具体的には、画像解析部13が、画像信号におけるエッジの量や方向、濃度値、色、輝度値等の特徴量を解析することにより、対象物(自動車、自転車、歩行者、車線、ガードレール、ブレーキランプ等)を認識(検知)する。なお、画像の特徴量解析は、複数の画像信号のそれぞれに対して行ってもよく、若しくは、複数の画像信号のうち一部の画像信号のみ(例えば、撮像用の1つの画像信号のみ)に対して行ってもよい。
【0044】
続くステップS4では、カメラ10で撮像された複数の画像間の視差を距離情報取得部14で求めることにより、撮像された画像に存在する対象物までの距離情報を取得する。この距離情報の取得は距離情報取得部14にて行う。なお、視差の算出方法に関しては、SSDA法や面積相関法等が既に公知の技術として存在するため、本実施の形態では詳細の説明は省略する。なお、ステップS2、S3、S4の視差の取得は、上記のステップ順に行ってもよく、若しくは各ステップを並列に行ってもよい。ここで、撮像された画像に存在する対象物までの距離又はデフォーカス量はステップS4で求めた視差、カメラ10の内部パラメータ及び外部パラメータから計算することができる。本実施の形態では、距離情報とは、対象物までの距離、デフォーカス量、視差(像ズレ量)等の対象物の位置に関する情報であると定義する。なお、距離情報は、奥行情報又は深さ情報と呼ばれることもある。
【0045】
その後、ステップS5で、求められた距離情報が予め定めた設定内にあるか否か、つまり、設定距離内に障害物が存在するか否かを判定し、前方または後方の衝突可能性の判定を行う。設定距離内に障害物が存在する場合、衝突可能性ありと判定し、制御装置63は車両59の回避動作を行う(ステップS6)。具体的には、衝突可能性ありの旨を制御装置63や警報装置64に対して通知する。このとき、制御装置63は車両59の移動方向及び移動速度の少なくとも1つを制御する。例えば、ブレーキをかける、つまり、車両59の各輪に制動力を発生させる制御信号を生成して出力し、エンジンの出力を抑制する等して前走車との衝突の回避及び衝突可能性の低減を行う。また、警報装置64はユーザに対して音や映像、振動等で危険を通知する。その後、本処理を終了する。一方、設定距離内に障害物が存在しない場合、衝突可能性なしと判定し、本処理を終了する。
【0046】
図15の処理によれば、効果的に障害物の検知を行うことが可能となる。つまり、正確に障害物を検知し、衝突回避及び被害低減が可能となる。
【0047】
なお、本実施の形態では、距離情報に基づいた衝突回避について説明したが、距離情報に基づいて、先行車に追従走行し、車線内中央を維持し、又は、車線からの逸脱を抑制する車両に本発明を適用することもできる。また、本発明は、車両59の運転支援だけでなく、車両59の自律運転にも適用可能である。さらに、本発明における測距装置60は、自動車等の車両に限らず、例えば、船舶、航空機、ドローンあるいは産業用ロボット等の移動体に適用することができる。さらに、本発明における測距装置60は、移動体に限らず、交差点監視システムや高度道路交通システム(ITS)において用いられる機器等、広く物体認識を利用する機器に適用することができる。例えば、交差点監視システムにおける非移動体である交差点監視カメラに本発明を適用してもよい。
【0048】
以上、本発明について各実施の形態を用いて説明したが、本発明は上述した各実施の形態に限定されるものではない。
【0049】
本発明は、上述の各実施の形態の1以上の機能を実現するプログラムを、ネットワークや記憶媒体を介してシステムや装置に供給し、そのシステム又は装置のコンピュータの1つ以上のプロセッサがプログラムを読み出して実行する処理でも実現可能である。また、本発明は、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。