(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-06-10
(45)【発行日】2025-06-18
(54)【発明の名称】ゲーティングカメラ、車両用センシングシステム、車両用灯具
(51)【国際特許分類】
G01S 17/894 20200101AFI20250611BHJP
G01S 17/931 20200101ALI20250611BHJP
G01S 7/497 20060101ALI20250611BHJP
H04N 23/54 20230101ALI20250611BHJP
H04N 23/56 20230101ALI20250611BHJP
H04N 23/60 20230101ALI20250611BHJP
【FI】
G01S17/894
G01S17/931
G01S7/497
H04N23/54
H04N23/56
H04N23/60
(21)【出願番号】P 2022511154
(86)(22)【出願日】2021-04-02
(86)【国際出願番号】 JP2021014289
(87)【国際公開番号】W WO2021201269
(87)【国際公開日】2021-10-07
【審査請求日】2024-01-24
(31)【優先権主張番号】P 2020066482
(32)【優先日】2020-04-02
(33)【優先権主張国・地域又は機関】JP
(31)【優先権主張番号】P 2020068259
(32)【優先日】2020-04-06
(33)【優先権主張国・地域又は機関】JP
(31)【優先権主張番号】P 2020068260
(32)【優先日】2020-04-06
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000001133
【氏名又は名称】株式会社小糸製作所
(74)【代理人】
【識別番号】110001416
【氏名又は名称】弁理士法人信栄事務所
(72)【発明者】
【氏名】加藤 大騎
(72)【発明者】
【氏名】▲高▼橋 昌之
(72)【発明者】
【氏名】伊多波 晃志
(72)【発明者】
【氏名】種本 駿
【審査官】仲野 一秀
(56)【参考文献】
【文献】特開2009-257981(JP,A)
【文献】特開2010-121995(JP,A)
【文献】特開2004-37657(JP,A)
【文献】国際公開第2017/086010(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01S 7/48-7/51
17/00-17/95
G01C 3/00-3/32
H04N 5/222-2/257
23/00
23/40-23/76
23/90-23/959
(57)【特許請求の範囲】
【請求項1】
奥行き方向について複数のレンジに区切り、前記複数のレンジに対応する複数のスライス画像を生成するゲーティングカメラであって、
プローブ光を照射する照明装置と、
イメージセンサと、
前記照明装置の発光タイミングと前記イメージセンサの露光のタイミングを制御するコントローラと、
前記イメージセンサから伝送されたセンサ画像にもとづいて、前記スライス画像を生成する画像処理装置と、
を備え、
前記画像処理装置は、前記センサ画像のライン毎に、画素値の小さい順にM個(M≧2)を選択してそれらの平均値を算出し、同じラインの各画素値から前記平均値を減算することを特徴とするゲーティングカメラ。
【請求項2】
Mは、前記ラインの画素数の2~8%であることを特徴とする請求項1に記載のゲーティングカメラ。
【請求項3】
車両に搭載されることを特徴とする請求項1
または2に記載のゲーティングカメラ。
【請求項4】
請求項1
または2に記載のゲーティングカメラと、
前記ゲーティングカメラが撮影する前記複数のスライス画像を処理する演算処理装置と、
を備えることを特徴とする車両用センシングシステム。
【請求項5】
請求項1
または2に記載のゲーティングカメラを備えることを特徴とする車両用灯具。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、ゲーティングカメラに関する。
【背景技術】
【0002】
自動運転やヘッドランプの配光の自動制御のために、車両の周囲に存在する物体の位置および種類をセンシングする物体識別システムが利用される。物体識別システムは、センサと、センサの出力を解析する演算処理装置を含む。センサは、カメラ、LiDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)、ミリ波レーダ、超音波ソナーなどの中から、用途、要求精度やコストを考慮して選択される。
【0003】
一般的な単眼のカメラからは、奥行きの情報を得ることができない。したがって、異なる距離に位置する複数の物体が重なっている場合に、それらを分離することが難しい。
【0004】
奥行き情報が得られるカメラとして、TOFカメラが知られている。TOF(Time Of Flight)カメラは、発光デバイスによって赤外光を投光し、反射光がイメージセンサに戻ってくるまでの飛行時間を測定し、飛行時間を距離情報に変換したTOF画像を得るものである。
【0005】
TOFカメラに代わるアクティブセンサ(以下、本明細書においてゲーティングカメラ、またはゲーテッドカメラと称する)が提案されている(特許文献1,2)。ゲーティングカメラは、撮影範囲を複数のレンジに区切り、レンジ毎に露光タイミングおよび露光時間を変化させて、撮像する。これにより、対象のレンジ毎にスライス画像が得られ、各スライス画像は対応するレンジに含まれる物体のみを含む。
【先行技術文献】
【特許文献】
【0006】
【文献】特開2009-257981号公報
【文献】国際公開WO2017/110417A1
【発明の概要】
【発明が解決しようとする課題】
【0007】
1. 本発明者は、ゲーティングカメラを動作させた際に、イメージセンサの出力画像(センサ画像)に、横筋のノイズがランダムに発生し、スライス画像の画質を劣化させる場合があることを認識した。
【0008】
本開示のある態様は係る状況においてなされたものであり、その例示的な目的のひとつは、スライス画像の劣化を抑制可能なゲーティングカメラの提供にある。
【0009】
2. ゲーティングカメラは、イメージセンサと、イメージセンサの出力画像(センサ画像)を処理する画像処理装置を備える。ここでイメージセンサから画像処理装置の間は、シリアルインタフェースで接続される場合が多く、この間のセンサ画像の伝送速度がボトルネックとなり、1枚のスライス画像の生成に要する時間が長くなり、ゲーティングカメラのフレームレートが制限される。
【0010】
本開示のある態様は係る状況においてなされたものであり、その例示的な目的のひとつは、スライス画像の生成時間を短縮可能なゲーティングカメラの提供にある。
【0011】
3. 従来のゲーティングカメラは、1回の発光に対して1回の露光を行うため、発光ごとに、1つのレンジのスライス画像のみが生成される。したがって、N個のレンジをすべてセンシングするためには、発光と露光のセットがN回、必要となり、センシング時間が長くなってしまう。遠方のレンジを撮影する際に、発光と露光を複数回、繰り返して積算する場合、センシング時間はさらに長くなる。
【0012】
本開示のある態様は係る状況においてなされたものであり、その例示的な目的のひとつは、センシング時間を短縮可能なゲーティングカメラの提供にある。
【課題を解決するための手段】
【0013】
1. 本開示のある態様に係るゲーティングカメラは、奥行き方向について複数のレンジに区切り、複数のレンジに対応する複数のスライス画像を生成する。ゲーティングカメラは、プローブ光を照射する照明装置と、イメージセンサと、照明装置の発光タイミングとイメージセンサの露光のタイミングを制御するコントローラと、イメージセンサから伝送されたセンサ画像にもとづいて、スライス画像を生成する画像処理装置と、を備える。画像処理装置は、センサ画像のライン毎に、画素値が小さい順にM個(M≧2)を選択してそれらの平均値を算出し、同じラインの各画素値から平均値を減算する。
【0014】
2. 本開示のある態様は、奥行き方向について複数のレンジに区切り、複数のレンジに対応する複数のスライス画像を生成するゲーティングカメラに関する。ゲーティングカメラは、プローブ光を照射する照明装置と、複数の画素を含むイメージセンサと、照明装置の発光タイミングとイメージセンサの露光のタイミングを制御するコントローラと、イメージセンサから伝送されたセンサ画像にもとづいて、スライス画像を生成する画像処理装置と、を備える。イメージセンサから画像処理装置に伝送されるセンサ画像の解像度が、レンジが近いほど低い。
【0015】
3. 本開示のある態様は、奥行き方向について複数のレンジに区切り、複数のレンジに対応する複数のスライス画像を生成するゲーティングカメラに関する。ゲーティングカメラは、プローブ光を照射する照明装置と、複数の画素を含むイメージセンサと、照明装置の発光タイミングとイメージセンサの露光のタイミングを制御するコントローラと、を備える。イメージセンサの複数の画素は、複数の画素群に分類され、コントローラは、照明装置の1回の発光に対して、複数の画素群を異なるタイミングで露光する。
【発明の効果】
【0016】
本開示の態様1によれば、スライス画像の画質を改善できる。本開示の態様2によれば、スライス画像の生成時間を短縮できる。本開示の態様3によれば、センシング時間を短縮できる。
【図面の簡単な説明】
【0017】
【
図1】実施形態1に係るセンシングシステムのブロック図である。
【
図2】ゲーティングカメラの基本動作を説明する図である。
【
図3】
図3(a)、(b)は、ゲーティングカメラにより得られるスライス画像を説明する図である。
【
図4】センサ画像SIのノイズを説明する図である。
【
図5】画像処理装置によるノイズキャンセルを説明する図である。
【
図6】ノイズ減算処理の前後のセンサ画像を示す図である。
【
図7】ノイズ減算処理の前後のセンサ画像を示す図である。
【
図8】実施形態2に係るセンシングシステムのブロック図である。
【
図9】ゲーティングカメラの基本動作を説明する図である。
【
図10】
図10(a)、(b)は、ゲーティングカメラにより得られるスライス画像を説明する図である。
【
図11】レンジに依存するセンサ画像SIの解像度の制御の一例を説明する図である。
【
図12】
図12(a)は、ある走行シーンを示す図であり、
図12(b)は、
図12(a)の走行シーンにおいて得られるセンサ画像SI
x、SI
yを示す図である。
【
図13】
図13(a)は、ゲーティングカメラの動作を示すタイムチャートであり、
図13(b)は、比較技術に係るゲーティングカメラの動作を示すタイムチャートである。
【
図14】レンジに依存するセンサ画像SIの解像度の制御の別の例を説明する図である。
【
図15】レンジに依存するセンサ画像SIの解像度の制御のさらに別の例を説明する図である。
【
図16】変形例2に係るゲーティングカメラのブロック図である。
【
図17】変形例2に係るゲーティングカメラの露光を説明する図である。
【
図18】変形例2に係るゲーティングカメラの動作を説明するタイムチャートである。
【
図19】実施形態3に係るセンシングシステムのブロック図である。
【
図20】
図19のゲーティングカメラの動作を説明するタイムチャートである。
【
図21】
図21(a)、(b)は、
図19のゲーティングカメラにより得られるスライス画像を説明する図である。
【
図22】
図22(a)~(d)は、画素群の例を示す図である。
【
図24】
図24(a)、(b)は、ゲーティングカメラを備える自動車を示す図である。
【
図25】物体検出システムを備える車両用灯具を示すブロック図である。
【発明を実施するための形態】
【0018】
(実施形態の概要)
本開示のいくつかの例示的な実施形態の概要を説明する。この概要は、後述する詳細な説明の前置きとして、実施形態の基本的な理解を目的として、1つまたは複数の実施形態のいくつかの概念を簡略化して説明するものであり、発明あるいは開示の広さを限定するものではない。またこの概要は、考えられるすべての実施形態の包括的な概要ではなく、実施形態の欠くべからざる構成要素を限定するものではない。便宜上、「一実施形態」は、本明細書に開示するひとつの実施形態(実施例や変形例)または複数の実施形態(実施例や変形例)を指すものとして用いる場合がある。
【0019】
この概要は、考えられるすべての実施形態の広範な概要ではなく、すべての実施形態の重要な要素または重要な要素を特定することも、一部またはすべての態様の範囲を線引きすることも意図していない。その唯一の目的は、後で提示するより詳細な説明の前置きとして、1つまたは複数の実施形態のいくつかの概念を簡略化した形で提示することである。
【0020】
1. 一実施形態に係るゲーティングカメラは、奥行き方向について複数のレンジに区切り、複数のレンジに対応する複数のスライス画像を生成する。ゲーティングカメラは、プローブ光を照射する照明装置と、イメージセンサと、照明装置の発光タイミングとイメージセンサの露光のタイミングを制御するコントローラと、イメージセンサから伝送されたセンサ画像にもとづいて、スライス画像を生成する画像処理装置と、を備える。画像処理装置は、センサ画像のライン毎に、画素値が小さい順にM個(M≧2)を選択してそれらの平均値を算出し、同じラインの各画素値から平均値を減算する。
【0021】
この構成によれば、横縞のノイズを低減し、画質を改善できる。
【0022】
一実施形態において、Mは、ラインの画素数の2~8%であってもよい。
【0023】
2. 一実施形態に係るゲーティングカメラは、奥行き方向について複数のレンジに区切り、複数のレンジに対応する複数のスライス画像を生成する。ゲーティングカメラは、プローブ光を照射する照明装置と、複数の画素を含むイメージセンサと、照明装置の発光タイミングとイメージセンサの露光のタイミングを制御するコントローラと、イメージセンサから伝送されたセンサ画像にもとづいて、スライス画像を生成する画像処理装置と、を備える。イメージセンサから画像処理装置に伝送されるセンサ画像の解像度が、レンジが近いほど低い。
【0024】
ゲーティングカメラにより、同じ被写体を撮影する場合、被写体が遠いレンジに存在する場合、被写体は小さく、つまり低解像度で写り、被写体が近いレンジに存在する場合、被写体は大きく、つまり高解像度で写る。そこで被写体までの距離が近いほど、言い換えると近いレンジほど、イメージセンサから画像処理装置に伝送するセンサ画像の解像度を低下させることにより、後段の処理で必要な解像度は維持しつつも、センサ画像の伝送時間を短くすることができ、スライス画像の生成時間を短縮できる。
【0025】
一実施形態において、イメージセンサは、複数の画素について、ラインごとに、伝送の有無が指定可能であり、近いレンジほど、スキップされるラインの本数が多くてもよい。
【0026】
一実施形態において、イメージセンサは、複数の画素について、カラムごとに、伝送の有無が指定可能であり、近いレンジほど、スキップされるカラムの本数が多くてもよい。
【0027】
一実施形態において、イメージセンサは、複数の画素について、画素ごとに、伝送の有無が指定可能であり、近いレンジほど、スキップされる画素の個数が多くてもよい。
【0028】
一実施形態において、イメージセンサはすべてのレンジにおいて、全画素が露光されてもよい。
【0029】
一実施形態において、イメージセンサは、各レンジにおいて、伝送対象となる画素のみが露光されてもよい。
【0030】
一実施形態において、イメージセンサの複数の画素は、複数のグループに分類されてもよい。コントローラは、照明装置の1回の発光に対して、複数のグループを異なるタイミングで露光してもよい。これにより、複数のレンジを並行して撮影できる。
【0031】
一実施形態において、画像処理装置は、レンジごとに同じアスペクト比のスライス画像が得られるように、イメージセンサから伝送されたセンサ画像をスケーリングしてもよい。スケーリングは、補間処理を利用してもよいし、間引き処理を利用してもよい。
【0032】
一実施形態に係るゲーティングカメラは、奥行き方向について複数のレンジに区切り、複数のレンジに対応する複数のスライス画像を生成する。ゲーティングカメラは、プローブ光を照射する照明装置と、複数の画素を含むイメージセンサと、照明装置の発光タイミングとイメージセンサの露光のタイミングを制御するコントローラと、を備える。イメージセンサの複数の画素は、複数の画素群に分類され、コントローラは、照明装置の1回の発光に対して、複数の画素群を異なるタイミングで露光する。
【0033】
一実施形態によれば、1回の発光に対して、複数のレンジの画像を生成できる。したがって、すべてのレンジのスライス画像を生成するのに要するセンシング時間を短縮できる。
【0034】
一実施形態において、複数の画素群の個数をn(n≧2)とするとき、i番目の画素群は、i+n×j(jは整数)番目のラインを含んでもよい。
【0035】
一実施形態において、複数の画素群の個数をn(n≧2)とするとき、i番目の画素群は、i+n×j(jは整数)番目のカラムを含んでもよい。
【0036】
一実施形態において、ゲーティングカメラは、イメージセンサから伝送されたセンサ画像にもとづいて、スライス画像を生成する画像処理装置をさらに備えてもよい。イメージセンサから画像処理装置には、各画素群ごとに生成されるセンサ画像を単位として伝送されてもよい。
【0037】
(実施形態)
以下、実施形態について図面を参照しながら説明する。各図面に示される同一または同等の構成要素、部材、処理には、同一の符号を付するものとし、適宜重複した説明は省略する。また、実施形態は、発明を限定するものではなく例示であって、実施形態に記述されるすべての特徴やその組み合わせは、必ずしも発明の本質的なものであるとは限らない。
【0038】
(実施形態1)
図1は、実施形態1に係るセンシングシステム10のブロック図である。このセンシングシステム10は、自動車やバイクなどの車両に搭載され、車両の周囲に存在する物体OBJを検出する。
【0039】
センシングシステム10は、主としてゲーティングカメラ20を備える。ゲーティングカメラ20は、照明装置22、イメージセンサ24、コントローラ26、画像処理装置28を含む。ゲーティングカメラ20による撮像は、奥行き方向について複数N個(N≧2)のレンジRNG1~RNGNに区切って行われる。隣接するレンジ同士は、それらの境界において奥行き方向にオーバーラップしてもよい。
【0040】
照明装置22は、コントローラ26から与えられる発光タイミング信号S1と同期して、プローブ光L1を車両前方に照射する。プローブ光L1は赤外光であることが好ましいが、その限りでなく、所定の波長を有する可視光や紫外光であってもよい。
【0041】
イメージセンサ24は、複数の画素を含み、コントローラ26から与えられる露光タイミング信号S2と同期した露光制御が可能であり、センサ画像SIを生成する。イメージセンサ24は、プローブ光L1と同じ波長に感度を有しており、物体OBJが反射した反射光(戻り光)L2を撮影する。i番目のレンジRNGiに関して得られたセンサ画像をSIiと表記する。
【0042】
コントローラ26は、照明装置22によるプローブ光L1の照射タイミング(発光タイミング)と、イメージセンサ24による露光のタイミングを制御する。コントローラ26は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)、マイコンなどのプロセッサ(ハードウェア)と、プロセッサ(ハードウェア)が実行するソフトウェアプログラムの組み合わせで実装することができる。
【0043】
イメージセンサ24と画像処理装置28は、シリアルインタフェースを介して接続されており、イメージセンサ24が撮影したセンサ画像SIiは、画像処理装置28に伝送される。画像処理装置28は、イメージセンサ24から伝送されたセンサ画像SIiにもとづいて、スライス画像IMGiを生成する。
【0044】
図2は、ゲーティングカメラ20の基本動作を説明する図である。
図2にはi番目のレンジRNG
iをセンシングするときの様子が示される。照明装置22は、発光タイミング信号S1と同期して、時刻t
0~t
1の間の発光期間τ
1の間、発光する。最上段には、横軸に時間、縦軸に距離をとった光線のダイアグラムが示される。ゲーティングカメラ20から、レンジRNG
iの手前の境界までの距離をd
MINi、レンジRNG
iの奥側の境界までの距離をd
MAXiとする。
【0045】
ある時刻に照明装置22を出発した光が、距離dMINiに到達してその反射光がイメージセンサ24に戻ってくるまでのラウンドトリップ時間TMINiは、
TMINi=2×dMINi/c
である。cは光速である。
【0046】
同様に、ある時刻に照明装置22を出発した光が、距離dMAXiに到達してその反射光がイメージセンサ24に戻ってくるまでのラウンドトリップ時間TMAXiは、
TMAXi=2×dMAXi/c
である。
【0047】
レンジRNGiに含まれる物体OBJのみを撮影したいとき、コントローラ26は、時刻t2=t0+TMINiに露光を開始し、時刻t3=t1+TMAXiに露光を終了するように、露光タイミング信号S2を生成する。これが1回の露光動作である。
【0048】
i番目のレンジRNGiを撮影する際に、発光および露光を複数セット、行ってもよい。この場合、コントローラ26は、所定の周期τ2で、上述の露光動作を複数回にわたり繰り返せばよい。
【0049】
図3(a)、(b)は、ゲーティングカメラ20により得られるスライス画像を説明する図である。
図3(a)の例では、レンジRNG
2に物体(歩行者)OBJ
2が存在し、レンジRNG
3に物体(車両)OBJ
3が存在している。
図3(b)には、
図3(a)の状況で得られる複数のスライス画像IMG
1~IMG
3が示される。スライス画像IMG
1を撮影するとき、イメージセンサはレンジRNG
1からの反射光のみにより露光されるため、スライス画像IMG
1にはいかなる物体像も写らない。
【0050】
スライス画像IMG2を撮影するとき、イメージセンサはレンジRNG2からの反射光のみにより露光されるため、スライス画像IMG2には、物体像OBJ2のみが写る。同様にスライス画像IMG3を撮影するとき、イメージセンサはレンジRNG3からの反射光のみにより露光されるため、スライス画像IMG3には、物体像OBJ3のみが写る。このようにゲーティングカメラ20によれば、レンジ毎に物体を分離して撮影することができる。
【0051】
画像処理装置28における画像処理を説明する。
図4は、センサ画像SIのノイズを説明する図である。センサ画像SIには、ラインに沿った横縞のノイズが含まれる。ノイズが発生するラインはランダムであり、またノイズレベルもランダムである。
【0052】
画像処理装置28は、センサ画像SIのライン毎に、画素値が小さいM個(M≧2)の平均値を算出し、同じラインに含まれる画素の画素値から平均値を減算する。
【0053】
Mは、ラインの画素数の2%~8%が好適であり、たとえば5%程度とすることができる。
【0054】
図5は、画像処理装置28によるノイズキャンセルを説明する図である。
図5はひとつのラインの処理を示す。あるラインの画素値の集合であるラインデータを参照し、画素値が小さい順にM個の画素値を選ぶ。この例では、M=8であり、画素値10,10,11,11,12,13,14,15が選択される。画像処理装置28は選択したM個の画素値の平均値AVE(この例では12)を算出する。そして、もとのセンサ画像SIの対応するラインデータから、平均値AVEを減算する。
【0055】
図6は、ノイズ減算処理の前後のセンサ画像を示す図である。
図7は、ノイズ減算処理の前後のセンサ画像を示す図である。
図6では物体(被写体)を含まない画像を対象としており、
図7は物体を含む画像を対象としている。この例では、各ラインの5%に相当する画素数Mの平均値を算出している。物体を含む場合も、画像を物体を含んでいる場合においても、バックグラウンドノイズだけを好適に除去できることが分かる。
【0056】
(実施形態2)
図8は、実施形態2に係るセンシングシステム10のブロック図である。このセンシングシステム10は、自動車やバイクなどの車両に搭載され、車両の周囲に存在する物体OBJを検出する。
【0057】
センシングシステム10は、主としてゲーティングカメラ20を備える。ゲーティングカメラ20は、照明装置22、イメージセンサ24、コントローラ26、画像処理装置28を含む。ゲーティングカメラ20による撮像は、奥行き方向について複数N個(N≧2)のレンジRNG1~RNGNに区切って行われる。隣接するレンジ同士は、それらの境界において奥行き方向にオーバーラップしてもよい。
【0058】
照明装置22は、コントローラ26から与えられる発光タイミング信号S1と同期して、プローブ光L1を車両前方に照射する。プローブ光L1は赤外光であることが好ましいが、その限りでなく、所定の波長を有する可視光や紫外光であってもよい。
【0059】
イメージセンサ24は、複数の画素を含み、コントローラ26から与えられる露光タイミング信号S2と同期した露光制御が可能であり、センサ画像SIを生成する。イメージセンサ24は、プローブ光L1と同じ波長に感度を有しており、物体OBJが反射した反射光(戻り光)L2を撮影する。i番目のレンジRNGiに関して得られたセンサ画像をSIiと表記する。
【0060】
コントローラ26は、照明装置22によるプローブ光L1の照射タイミング(発光タイミング)と、イメージセンサ24による露光のタイミングを制御する。
【0061】
イメージセンサ24と画像処理装置28は、シリアルインタフェースを介して接続されており、イメージセンサ24が撮影したセンサ画像SIiは、画像処理装置28に伝送される。画像処理装置28は、イメージセンサ24から伝送されたセンサ画像SIiにもとづいて、スライス画像IMGiを生成する。
【0062】
図9は、ゲーティングカメラ20の基本動作を説明する図である。
図9にはi番目のレンジRNG
iをセンシングするときの様子が示される。照明装置22は、発光タイミング信号S1と同期して、時刻t
0~t
1の間の発光期間τ
1の間、発光する。最上段には、横軸に時間、縦軸に距離をとった光線のダイアグラムが示される。ゲーティングカメラ20から、レンジRNG
iの手前の境界までの距離をd
MINi、レンジRNG
iの奥側の境界までの距離をd
MAXiとする。
【0063】
ある時刻に照明装置22を出発した光が、距離dMINiに到達してその反射光がイメージセンサ24に戻ってくるまでのラウンドトリップ時間TMINiは、
TMINi=2×dMINi/c
である。cは光速である。
【0064】
同様に、ある時刻に照明装置22を出発した光が、距離dMAXiに到達してその反射光がイメージセンサ24に戻ってくるまでのラウンドトリップ時間TMAXiは、
TMAXi=2×dMAXi/c
である。
【0065】
レンジRNGiに含まれる物体OBJのみを撮影したいとき、コントローラ26は、時刻t2=t0+TMINiに露光を開始し、時刻t3=t1+TMAXiに露光を終了するように、露光タイミング信号S2を生成する。これが1回の露光動作である。
【0066】
i番目のレンジRNGiを撮影する際に、発光および露光を複数セット、行ってもよい。この場合、コントローラ26は、所定の周期τ2で、上述の露光動作を複数回にわたり繰り返せばよい。
【0067】
図10(a)、(b)は、ゲーティングカメラ20により得られるスライス画像を説明する図である。
図10(a)の例では、レンジRNG
2に物体(歩行者)OBJ
2が存在し、レンジRNG
3に物体(車両)OBJ
3が存在している。
図10(b)には、
図10(a)の状況で得られる複数のスライス画像IMG
1~IMG
3が示される。スライス画像IMG
1を撮影するとき、イメージセンサはレンジRNG
1からの反射光のみにより露光されるため、スライス画像IMG
1にはいかなる物体像も写らない。
【0068】
スライス画像IMG2を撮影するとき、イメージセンサはレンジRNG2からの反射光のみにより露光されるため、スライス画像IMG2には、物体像OBJ2のみが写る。同様にスライス画像IMG3を撮影するとき、イメージセンサはレンジRNG3からの反射光のみにより露光されるため、スライス画像IMG3には、物体像OBJ3のみが写る。このようにゲーティングカメラ20によれば、レンジ毎に物体を分離して撮影することができる。
【0069】
図1に戻る。本実施形態において、イメージセンサ24から画像処理装置28に伝送されるセンサ画像SIの解像度(すなわち画素数)は、レンジに応じて変化する。具体的には、近いレンジほど、センサ画像SIの解像度は低く(画素数が少なく)、遠いレンジほど、センサ画像SIの解像度が高く(画素数が多く)なる。本実施形態では、すべてのレンジにおいて、イメージセンサ24の全画素について露光を行い、全画素から必要な画素のみを読み出し対象とし、不要な画素を間引くことにより、センサ画像SIを生成するものとする。コントローラ26は、レンジごとに、伝送対象となる画素を指示する制御信号S3を生成し、イメージセンサ24に供給する。
【0070】
コントローラ26は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)、マイコンなどのプロセッサ(ハードウェア)と、プロセッサ(ハードウェア)が実行するソフトウェアプログラムの組み合わせで実装することができる。
【0071】
図11は、レンジに依存するセンサ画像SIの解像度の制御の一例を説明する図である。ハッチを付した画素はセンサ画像SIを構成する有効画素(有効ライン)を、白抜きの画素は伝送されない無効画素(無効ライン)を示す。この例では、伝送されるセンサ画像SIの垂直方向の解像度、つまりラインの本数が、レンジに応じて制御される。たとえば最も遠いレンジでは、イメージセンサ24の全ラインが有効とされ、全画素が有効画素として伝送される。レンジが近づくにつれて、間引かれるラインの比率(本数)が増えていき、有効画素数が減少する。
【0072】
図12(a)は、ある走行シーンを示す図であり、
図12(b)は、
図12(a)の走行シーンにおいて得られるセンサ画像SI
x、SI
yを示す図である。
【0073】
図12(a)の走行シーンにおいて、走行車線上には自車に近い位置に先行車OBJ1が存在し、対向車線上には、自車から遠い位置に、対向車OBJ2が存在する。先行車OBJ1は、x番目のレンジRNG
xに含まれており、対向車OBJ2は、y番目のレンジRNG
yに含まれるものとする。
【0074】
図12(b)のセンサ画像SI
xには、レンジRNG
xの先行車OBJ1が写っており、センサ画像SI
yには、レンジRNG
yの対向車OBJ2が写っている。
図12(b)の横線は、センサ画像を構成する有効なラインを示す。
【0075】
各レンジにおけるセンサ画像SIの解像度は、同じ物体(この例では車両)を写したときに、同程度の本数の有効ラインを横切るように定めるとよい。
【0076】
図13(a)は、ゲーティングカメラ20の動作を示すタイムチャートである。
図13(b)は、比較技術に係るゲーティングカメラの動作を示すタイムチャートである。
【0077】
はじめに、
図13(b)を参照して、比較技術の説明をする。比較技術では、すべてのレンジについて、同じ解像度のセンサ画像SI
1~SI
3を伝送する。この場合、すべてのセンサ画像SI
1,SI
2,SI
3に同じ伝送時間を有し、1サイクルに含まれる3つのレンジRNG
1~RNG
3のセンシングに要する時間が長くなる。
【0078】
続いて、
図13(a)を参照し、実施形態2に係るゲーティングカメラ20の動作を説明する。この例ではレンジの数は3であり、レンジRNG
1は0~25m、レンジRNG
2は25~50m、レンジRNG
3は50~100mをカバーするものとする。最も遠い3番目のレンジRNG
3については全ラインを有効とする。2番目のレンジRNG
2の距離は、3番目のレンジRNG
3の距離の略半分であるから、センサ画像SIの解像度が1/2とされる。1番目のレンジRNG
1の距離は、3番目のレンジRNG
3の距離の1/4であるから、センサ画像SIの解像度は1/4とする。この場合、具体的には、センサ画像SI
3はイメージセンサの全ラインが有効ラインとされる。センサ画像SI
2は、2本に1本の比率で有効ラインが選択され、センサ画像SI
1は、4本に1本の比率で有効ラインが選択される。
【0079】
センサ画像SI1,SI2,SI3の画素数はライン数に比例するから、およそ1:2:4の関係が成り立つ。したがって、センサ画像SI1の伝送時間はセンサ画像SI3の伝送時間の1/4に短縮され、センサ画像SI2の伝送時間はセンサ画像SI3の伝送時間の1/2に短縮される。したがって1サイクルに含まれる3つのレンジRNG1~RNG3のセンシングに要する時間を短縮できる。
【0080】
なお、上述のようにラインスキップにより生成されるセンサ画像SI1,SI2は、センサ画像SI3に比べて垂直方向に潰れており、アスペクト比が異なる。そこで画像処理装置28は、画像処理によりセンサ画像SI1~SI3のアスペクト比を均一化して、スライス画像IMG1~IMG3を生成してもよい。
【0081】
たとえば画像処理装置28は、センサ画像SIjについて、伝送時に間引かれた無効ラインを、画像処理によって補完してもよい。この場合、すべてのスライス画像IMG1~IMG3は同じ解像度とすることができる。
【0082】
あるいは画像処理装置28は、伝送時にセンサ画像SIjの垂直解像度がX倍(X<1)されている場合に、水平方向の解像度をX倍としてもよい。つまり画像処理装置28は、受信したセンサ画像SIjの複数のカラムを間引くことにより、スライス画像IMGiを生成してもよい。
【0083】
上の説明では、センサ画像の垂直方向の解像度を可変としたがその限りでない。
図14は、レンジに依存するセンサ画像SIの解像度の制御の別の例を説明する図である。この例では、伝送されるセンサ画像SIの水平方向の解像度、つまりカラムの本数が、レンジに応じて制御される。たとえば最も遠いレンジでは、イメージセンサ24の全カラムが有効とされ、全画素が有効画素として伝送される。レンジが近づくにつれて、間引かれるカラムの比率(本数)が増えていき、有効画素数が減少する。
【0084】
図15は、レンジに依存するセンサ画像SIの解像度の制御のさらに別の例を説明する図である。この例では、伝送されるセンサ画像SIの水平方向および垂直方向の解像度が、レンジに応じて制御される。
【0085】
続いて、ゲーティングカメラ20の変形例を説明する。
【0086】
(変形例1)
上述の説明では、レンジに係わらず、イメージセンサ24の全画素について露光を行い、読み出すラインやカラムを選択することにより、センサ画像SIの解像度を制御したが、その限りでない。イメージセンサ24の仕様によっては、ライン毎、カラム毎あるいは画素毎に、露光の有無を制御可能なものが存在する。このような仕様のイメージセンサ24を採用する場合には、各レンジにおいて、伝送対象となる有効画素のみを露光することとしてもよい。
【0087】
(変形例2)
変形例1のように、画素毎の露光制御が可能なイメージセンサ24を利用した場合、画素(ライン/カラム)の利用率が低いレンジにおいて、画素(ライン/カラム)を複数のグループに分けて、異なるレンジの撮影に利用することが可能である。
図16は、変形例2に係るゲーティングカメラ20のブロック図である。1回の照明装置22の発光に対して、第1のタイミングで、イメージセンサ24の第1画素群(ライン群あるいはカラム群)の露光を行い、第2のタイミングで、イメージセンサ24の第2画素群(ライン群あるいはカラム群)の露光を行う。第1画素群が形成するセンサ画像と、第2画素群が形成するセンサ画像SI
i,SI
jは、異なるレンジRNG
i,RNG
jを撮影した画像となる。
【0088】
コントローラ26は、照明装置22に対する発光タイミング信号S1を生成し、あるレンジRNGiの物体が露光されるように、第1画素群に対する露光タイミング信号S2Aを生成し、別のレンジRNGjの物体が露光されるように、第2画素群に対する露光タイミング信号S2Bを生成する。
【0089】
図17は、変形例2に係るゲーティングカメラ20の露光を説明する図である。この例では、1つのレンジの撮影時の画素(ライン)の利用率は50%である。イメージセンサ24を構成する全画素が、1行ごとに、奇数ラインの第1画素群と、偶数ラインの第2画素群に分類され、別々のタイミングで露光制御される。
【0090】
図18は、変形例2に係るゲーティングカメラ20の動作を説明するタイムチャートである。第1画素群は、相対的に近いi番目のレンジRNG
iに割り当てられ、第2画素群は、j番目のレンジRNG
j(j>i)に割り当てられる。照明装置22は、発光タイミング信号S1と同期して、時刻t
0~t
1の間の発光期間τ
1の間、発光する。最上段には、横軸に時間、縦軸に距離dをとった光線のダイアグラムが示される。ゲーティングカメラ20から、レンジRNG
iの手前の境界までの距離をd
MINi、レンジRNG
iの奥側の境界までの距離をd
MAXiとする。同様に、ゲーティングカメラ20から、レンジRNG
jの手前の境界までの距離をd
MINj、レンジRNG
iの奥側の境界までの距離をd
MAXjとする。
【0091】
レンジRNGiに含まれる物体OBJiを撮影するために、時刻t2=t0+TMINiに第1画素群の露光が開始し、時刻t3=t1+TMAXiに露光が終了するように、露光タイミング信号S2Aが生成される。
【0092】
また同じプローブ光を利用して、レンジRNGjに含まれる物体OBJjを撮影するために、時刻t4=t0+TMINjに第2画素群の露光が開始し、時刻t5=t1+TMAXjに露光が終了するように、露光タイミング信号S2Bが生成される。
TMINj=2×dMINj/c
TMAXj=2×dMAXj/c
【0093】
なお、同時に撮影する2個のレンジRNGi,RNGjは隣接していてもよい(j=i+1)。
【0094】
この変形例によれば、近いレンジを撮影する際には、センサ画像SIの解像度を低下させることで、伝送時間を短縮できる。
【0095】
また、照明装置22の1回の発光で、2つのレンジの画像を取得できるようになるため、ハードウェア資源の利用効率が高まる。
【0096】
一般化すると、画素の利用効率が1/Nとなる状況では、イメージセンサ24の画素を、Nつの画素群に分類し、Nつのレンジの撮影を行うことも可能である。また画素群の分類は、ライン単位に限定されず、カラム単位であってもよいし、画素単位であってもよい。
【0097】
(実施形態3)
【0098】
図19は、実施形態に係るセンシングシステム10のブロック図である。このセンシングシステム10は、自動車やバイクなどの車両に搭載され、車両の周囲に存在する物体OBJを検出する。
【0099】
センシングシステム10は、主としてゲーティングカメラ20を備える。ゲーティングカメラ20は、照明装置22、イメージセンサ24、コントローラ26、画像処理装置28を含む。ゲーティングカメラ20による撮像は、奥行き方向について複数N個(N≧2)のレンジRNG1~RNGNに区切って行われ、レンジ毎にスライス画像を生成する。隣接するレンジ同士は、それらの境界において奥行き方向にオーバーラップしてもよい。
【0100】
イメージセンサ24は、複数の画素を含み、画素ごと、ラインごと、あるいはカラムごとに個別に、露光タイミングが制御可能に構成される。複数の画素は、複数の画素群に分類される。以下の説明では画素群の個数は2であるものとし、第1画素群と第2画素群と称する。
【0101】
ゲーティングカメラ20は、1回の照明装置22の発光に対して、第1のタイミングで、イメージセンサ24の第1画素群(ライン群あるいはカラム群)の露光を行い、第2のタイミングで、イメージセンサ24の第2画素群(ライン群あるいはカラム群)の露光を行う。第1画素群が形成するセンサ画像と、第2画素群が形成するセンサ画像SIi,SIjは、異なるレンジRNGi,RNGjを撮影した画像となる。
【0102】
具体的にはコントローラ26は、照明装置22の1回の発光に対して、第1画素群と第2画素群とを、異なるタイミングで露光する。
【0103】
コントローラ26は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)、マイコンなどのプロセッサ(ハードウェア)と、プロセッサ(ハードウェア)が実行するソフトウェアプログラムの組み合わせで実装することができる。
【0104】
イメージセンサ24と画像処理装置28は、シリアルインタフェースを介して接続されており、イメージセンサ24の第1画素群によって撮影されたセンサ画像SIiと、イメージセンサ24の第2画素群によって撮影されたセンサ画像SIjは、別々の画像として伝送してもよい。画像処理装置28は、イメージセンサ24から伝送されたセンサ画像SIiにもとづいて、スライス画像IMGiを生成する。画像処理装置28における画像処理は特に限定されないが、たとえばアスペクト比を変更する補間処理や間引き処理を行ってもよい。
【0105】
i番目のレンジRNGiとj番目のレンジRNGjを撮影する際に、発光および露光を複数セット、行ってもよい。この場合、コントローラ26は、発光および露光動作を複数回にわたり繰り返せばよい。この場合、画像処理装置28は、同じレンジRNGiに対して得られる複数のセンサ画像SIiを合成して、1枚のスライス画像IMGiを生成してもよい。
【0106】
以上がゲーティングカメラ20の構成である。続いてその動作を説明する。
【0107】
図20は、
図19のゲーティングカメラ20の動作を説明するタイムチャートである。第1画素群は、相対的に近いi番目のレンジRNG
iに割り当てられ、第2画素群は、j番目のレンジRNG
j(j>i)に割り当てられる。照明装置22は、発光タイミング信号S1と同期して、時刻t
0~t
1の間の発光期間τ
1の間、発光する。最上段には、横軸に時間、縦軸に距離dをとった光線のダイアグラムが示される。ゲーティングカメラ20から、レンジRNG
iの手前の境界までの距離をd
MINi、レンジRNG
iの奥側の境界までの距離をd
MAXiとする。同様に、ゲーティングカメラ20から、レンジRNG
jの手前の境界までの距離をd
MINj、レンジRNG
iの奥側の境界までの距離をd
MAXjとする。
【0108】
ある時刻に照明装置22を出発した光が、距離dMINiに到達してその反射光がイメージセンサ24に戻ってくるまでのラウンドトリップ時間TMINiは、
TMINi=2×dMINi/c
である。cは光速である。
【0109】
同様に、ある時刻に照明装置22を出発した光が、距離dMAXiに到達してその反射光がイメージセンサ24に戻ってくるまでのラウンドトリップ時間TMAXiは、
TMAXi=2×dMAXi/c
である。
【0110】
レンジRNGiに含まれる物体OBJのみを撮影したいとき、コントローラ26は、時刻t2=t0+TMINiに露光を開始し、時刻t3=t1+TMAXiに露光を終了するように、露光タイミング信号S2を生成する。これが1回の露光動作である。
【0111】
したがって、レンジRNGiに含まれる物体OBJiを撮影するために、時刻t2=t0+TMINiに第1画素群の露光が開始し、時刻t3=t1+TMAXiに露光が終了するように、露光タイミング信号S2Aが生成される。
【0112】
また同じプローブ光を利用して、レンジRNGjに含まれる物体OBJjを撮影するために、時刻t4=t0+TMINjに第2画素群の露光が開始し、時刻t5=t1+TMAXjに露光が終了するように、露光タイミング信号S2Bが生成される。
TMINj=2×dMINj/c
TMAXj=2×dMAXj/c
【0113】
なお、同時に撮影する2個のレンジRNGi,RNGjは隣接していてもよい(j=i+1)。
【0114】
図21(a)、(b)は、
図19のゲーティングカメラ20により得られるスライス画像を説明する図である。
図21(a)の例では、レンジRNG
2に物体(歩行者)OBJ
2が存在し、レンジRNG
3に物体(車両)OBJ
3が存在している。
図21(b)には、
図21(a)の状況で得られる複数のスライス画像IMG
1~IMG
3が示される。スライス画像IMG
1を撮影するとき、イメージセンサはレンジRNG
1からの反射光のみにより露光されるため、スライス画像IMG
1にはいかなる物体像も写らない。
【0115】
レンジRNG2を第1画素群に割り当て、レンジRNG3を第2画素群に割り当てたとする。このとき、第1画素群はレンジRNG2からの反射光のみにより露光されるため、センサ画像SI2には、物体像OBJ2のみが写る。同様に第2画素群は、レンジRNG3からの反射光のみにより露光されるため、センサ画像SI3には、物体像OBJ3のみが写る。このようにゲーティングカメラ20によれば、レンジ毎に物体を分離して撮影することができる。
【0116】
照明装置22の1回の発光で、2つのレンジRNGi,RNGjの画像を取得できるようになるため、すべてのレンジを撮影するのに要するセンシング時間を短縮できる。また、1回の発光で、ひとつのレンジしか撮影しないシステムでは、撮影対象のレンジ以外の物体からの反射光が無駄になっていたところ、本実施形態では、別のレンジの物体からの反射光も検出するため、エネルギーの利用効率が高まる。
【0117】
続いて、画素群の分割について説明する。
図22(a)~(d)は、画素群の例を示す図である。
図22(a)では、1ライン飛ばしで、第1画素群と第2画素群に割り振られる。複数の画素群の個数をn(n≧2)とするとき、i番目の画素群は、i+n×j(jは整数)番目のラインを含む。この例は、ラインごとに、露光のタイミングを制御可能なイメージセンサに好適である。
【0118】
図22(b)では、1カラム飛ばしで、第1画素群と第2画素群に割り振られる。複数の画素群の個数をn(n≧2)とするとき、i番目の画素群は、i+n×j(jは整数)番目のカラムを含む。この例は、カラムごとに、露光のタイミングを制御可能なイメージセンサに好適である。
【0119】
図22(c)では、全画素の左半分が第1画素群に、右半分が第2画素群に振り分けられる。変形例として、全画素の上半分を第1画素群に、下半分を第2画素群に振り分けてもよい。
【0120】
図22(d)では、画素群の数が4である。全画素は、隣接する4ピクセルを含むブロックに分割され、各ブロックから1個ずつ選択することで、第1画素群~第4画素群が形成される。
【0121】
実施形態1~3で説明した技術は、任意に組み合わせて実装することができる。
【0122】
(用途)
図23は、センシングシステム10のブロック図である。センシングシステム10は、実施形態1~3で説明したいずれかのゲーティングカメラ20に加えて演算処理装置40を備える。このセンシングシステム10は、自動車やバイクなどの車両に搭載され、車両の周囲に存在する物体OBJの種類(カテゴリ、あるいはクラスともいう)を判定する。
【0123】
ゲーティングカメラ20により、複数のレンジRNG1~RNGNに対応する複数のスライス画像IMG1~IMGNが生成される。i番目のスライス画像IMGiには、対応するレンジRNGiに含まれる物体のみが写る。
【0124】
演算処理装置40は、ゲーティングカメラ20によって得られる複数のレンジRNG1~RNGNに対応する複数のスライス画像IMG1~IMGNにもとづいて、物体の種類を識別可能に構成される。演算処理装置40は、機械学習によって生成された学習済みモデルにもとづいて実装される分類器42を備える。演算処理装置40は、レンジ毎に最適化された複数の分類器42を含んでもよい。分類器42のアルゴリズムは特に限定されないが、YOLO(You Only Look Once)、SSD(Single Shot MultiBox Detector)、R-CNN(Region-based Convolutional Neural Network)、SPPnet(Spatial Pyramid Pooling)、Faster R-CNN、DSSD(Deconvolution -SSD)、Mask R-CNNなどを採用することができ、あるいは、将来開発されるアルゴリズムを採用できる。
【0125】
演算処理装置40は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)、マイコンなどのプロセッサ(ハードウェア)と、プロセッサ(ハードウェア)が実行するソフトウェアプログラムの組み合わせで実装することができる。演算処理装置40は、複数のプロセッサの組み合わせであってもよい。あるいは演算処理装置40はハードウェアのみで構成してもよい。演算処理装置40の機能と、画像処理装置28の機能を、同じプロセッサに実装してもよい。
【0126】
図24(a)、(b)は、ゲーティングカメラ20を備える自動車300を示す図である。
図24(a)を参照する。自動車300は、ヘッドランプ(灯具)302L,302Rを備える。
図24(a)の自動車300は、車両の中央に1個の照明装置22が設けられ、左右のヘッドランプ302L,302Rの一方、あるいは両方にイメージセンサ24が内蔵される。照明装置22の位置は特に限定されないが、たとえばフロントバンパー(i)やフロントグリル(ii)に設けてもよいし、フロントウィンドウの内側のルームミラーの裏側(iii)に取り付けてもよい。またコントローラ26の位置も特に限定されず、エンジンルームに設けてもよいし、車室内に設けてもよいし、ヘッドランプに内蔵してもよい。
【0127】
図24(b)を参照する。照明装置22は、複数(たとえば2個)の光源22A、22Bを含む。複数の光源22A,22Bは、同じタイミングで発光し、それらの出射光が、1個のプローブ光を形成する。複数の光源22A、22Bは、左右のヘッドランプ302L,302Rに内蔵される。
【0128】
イメージセンサ24は、ヘッドランプ302L,302Rの一方、あるいは両方に内蔵される。あるいはイメージセンサ24は、ヘッドランプ302L,302Rの外側に設けてもよく、たとえば照明装置22の近傍に設けてもよい。
【0129】
図25は、物体検出システム210を備える車両用灯具200を示すブロック図である。車両用灯具200は、車両側ECU304とともに灯具システム310を構成する。車両用灯具200は、光源202、点灯回路204、光学系206を備える。さらに車両用灯具200には、物体検出システム210が設けられる。物体検出システム210は、上述のセンシングシステム10に対応しており、ゲーティングカメラ20および演算処理装置40を含む。
【0130】
演算処理装置40が検出した物体OBJに関する情報は、車両用灯具200の配光制御に利用してもよい。具体的には、灯具側ECU208は、演算処理装置40が生成する物体OBJの種類とその位置に関する情報にもとづいて、適切な配光パターンを生成する。点灯回路204および光学系206は、灯具側ECU208が生成した配光パターンが得られるように動作する。
【0131】
また演算処理装置40が検出した物体OBJに関する情報は、車両側ECU304に送信してもよい。車両側ECUは、この情報にもとづいて、自動運転を行ってもよい。
【0132】
実施形態にもとづき、具体的な語句を用いて本発明を説明したが、実施形態は、本発明の原理、応用の一側面を示しているにすぎず、実施形態には、請求の範囲に規定された本発明の思想を逸脱しない範囲において、多くの変形例や配置の変更が認められる。
【産業上の利用可能性】
【0133】
本発明は、ゲーティングカメラに関する。
【符号の説明】
【0134】
S1 発光タイミング信号
S2 露光タイミング信号
10 センシングシステム
20 ゲーティングカメラ
22 照明装置
24 イメージセンサ
26 コントローラ
28 画像処理装置
40 演算処理装置
42 分類器
200 車両用灯具
202 光源
204 点灯回路
206 光学系
300 自動車
302 ヘッドランプ
304 車両側ECU
310 灯具システム