(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-08-08
(45)【発行日】2022-08-17
(54)【発明の名称】撮像システム、撮像方法、撮像システムを搭載した移動体、撮像装置および撮像装置を搭載した移動体
(51)【国際特許分類】
G01B 11/30 20060101AFI20220809BHJP
G01N 21/88 20060101ALI20220809BHJP
【FI】
G01B11/30 W
G01N21/88 J
(21)【出願番号】P 2018051841
(22)【出願日】2018-03-19
【審査請求日】2021-01-18
(73)【特許権者】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100089118
【氏名又は名称】酒井 宏明
(72)【発明者】
【氏名】山田 学
【審査官】信田 昌男
(56)【参考文献】
【文献】特開2002-074575(JP,A)
【文献】特開2011-090367(JP,A)
【文献】特開平09-292213(JP,A)
【文献】特開2015-025727(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01B 11/00-11/30
G01N 21/88
(57)【特許請求の範囲】
【請求項1】
移動体に搭載され、該移動体が移動する路面を撮像する第1の撮像装置と、
前記移動体に搭載され、前記第1の撮像装置に対して該移動体の進行方向側の前記路面を撮像する第2の撮像装置と、
前記移動体の現在位置を示す現在位置情報を取得する取得部と、
前記第2の撮像装置により撮像された撮像画像に基づき前記第1の撮像装置の撮像条件
として露出パラメータを決定する撮像制御部と、
を備え
、
前記撮像制御部は、さらに
前記撮像条件を前記第1の撮像装置に設定するタイミングを、前記現在位置情報と、予め定められた、前記第2の撮像装置による撮像範囲の前記移動体からの距離と、に基づき決定する
撮像システム。
【請求項2】
複数の前記第1の撮像装置が前記移動体に搭載され、
前記撮像制御部は、
前記第2の撮像装置の撮像範囲における前記複数の前記第1の撮像装置それぞれの撮像範囲に対応する各領域の画像に基づき、該複数の前記第1の撮像装置それぞれの前記撮像条件を決定する
請求項
1に記載の撮像システム。
【請求項3】
前記撮像制御部は、
前記撮像画像に前記路面に対する異物の画像が含まれる場合に、該
撮像画像の、該異物の画像を除いた領域の画像を用いて、前記撮像条件を決定する
請求項1
又は請求項2に記載の撮像システム。
【請求項4】
それぞれ移動体に搭載される第1の撮像装置および第2の撮像装置を含む撮像システムの撮像方法であって、
前記第1の撮像装置は、前記移動体が移動する路面を撮像し、
前記第2の撮像装置は、前記第1の撮像装置に対して該移動体の進行方向側の前記路面を撮像し、
前記移動体の現在位置を示す現在位置情報を取得する取得ステップと、
前記第2の撮像装置により撮像された撮像画像に基づき前記第1の撮像装置の撮像条件
として露出パラメータを決定する撮像制御ステップ
を有
し、
前記撮像制御ステップでは、さらに
前記撮像条件を前記第1の撮像装置に設定するタイミングを、前記現在位置情報と、予め定められた、前記第2の撮像装置による撮像範囲の前記移動体からの距離と、に基づき決定する
撮像方法。
【請求項5】
請求項1乃至請求項
3の何れか1項に記載の撮像システムを搭載した移動体。
【請求項6】
移動体に搭載される撮像装置であって、
前記移動体が移動する路面の第1の撮像範囲を撮像する撮像部と、
前記移動体の現在位置を示す現在位置情報を取得する位置情報取得部と、
前記第1の撮像範囲とは異なる
、移動体の進行方向側の路面の第2の撮像範囲を撮像した撮像画像に基づき前記撮像部の撮像条件
として露出パラメータを決定する撮像制御部と、
を備え
、
前記撮像制御部は、さらに
前記撮像条件を前記撮像部に設定するタイミングを、前記現在位置情報と、予め定められた、前記第2の撮像範囲の前記移動体からの距離と、に基づき決定する
撮像装置。
【請求項7】
前記撮像部とは異なる他の撮像部が前記第2の撮像範囲を撮像した前記撮像画像を取得する取得部
をさらに備える
請求項
6に記載の撮像装置。
【請求項8】
請求項
6または請求項
7に記載の撮像装置を搭載した移動体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像システム、撮像方法、撮像システムを搭載した移動体、撮像装置および撮像装置を搭載した移動体に関する。
【背景技術】
【0002】
各種道路において、車両走行の安全性、快適性の確保、要修繕箇所の抽出などのため、路面のひび割れ率、わだち掘れ量、平坦性などの路面性状の測定が定期的に行われている。これらの測定を行う際には、対象路線において車両通行規制を行い、規制領域内で人手により測定を行うことが従来一般的であった。近年では、カメラやセンサを搭載した車両により走行しながら道路面の情報を取得することで、通行規制を行うことなく路面性状測定を実施する技術が提案されている。
【0003】
特許文献1には、複数の照明を用いて路面を撮像し、路面のひび割れなどの欠損の検出率を高めるようにした道路補正面調査装置が開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
車両にカメラを搭載し、走行しながら道路面を撮像する手法において、ひび割れの検出や、わだち掘れの測定を行う際には、撮像画像に含まれる特徴物の画像が十分なコントラストを有していることが望ましい。ところが、路面の状況、例えば舗装種の違いや影の有無などにより、撮像画像内に十分なコントラストが得られない場合がある。この場合、撮像画像に基づく測定が困難となるおそれがある。
【0005】
これを解消するために、撮影対象領域に照明を当てることで適切なコントラストの画像を取得する手法がある。しかしながら、この手法では、撮像に必要な光量を得るために、大きな照明と、大容量のバッテリあるいは発電機とが必要になるため、コストが嵩む、専用車両が必要になってしまう、などの問題点があった。また、一般的な露出制御により路面の輝度変化に応じた自動露出を行うことも考えられる。しかしながら、車両走行しながらの路面撮像では、自動露光の追従タイムラグにより十分なコントラストが得られないフレームが多数発生しまう可能性があるという問題があった。
【0006】
本発明は、上記に鑑みてなされたものであって、車両で走行しながら道路面を撮像する場合において、路面性状の測定に適した十分なコントラストの画像を容易に取得可能とすることを目的とする。
【課題を解決するための手段】
【0007】
上述した課題を解決し、目的を達成するために、本発明は、移動体に搭載され、移動体が移動する路面を撮像する第1の撮像装置と、移動体に搭載され、第1の撮像装置に対して移動体の進行方向側の路面を撮像する第2の撮像装置と、移動体の現在位置を示す現在位置情報を取得する取得部と、第2の撮像装置により撮像された撮像画像に基づき第1の撮像装置の撮像条件として露出パラメータを決定する撮像制御部と、を備え、撮像制御部は、さらに撮像条件を第1の撮像装置に設定するタイミングを、現在位置情報と、予め定められた、第2の撮像装置による撮像範囲の移動体からの距離と、に基づき決定する。
【発明の効果】
【0008】
本発明によれば、車両で走行しながら道路面を撮像する場合において、路面性状の測定に適した十分なコントラストの画像を容易に取得可能となるという効果を奏する。
【図面の簡単な説明】
【0009】
【
図1】
図1は、わだち掘れ量の計測を説明するための図である。
【
図2】
図2は、平坦性の計測を説明するための図である。
【
図3】
図3は、第1の実施形態に係る撮像システムの構成例を示す図である。
【
図4】
図4は、第1の実施形態に適用可能な、ステレオカメラによる、車両の進行方向の撮像範囲を説明するための図である。
【
図5】
図5は、第1の実施形態に適用可能な、ステレオカメラによる、車両の道路幅方向の撮像範囲を説明するための図である。
【
図6】
図6は、第1の実施形態に適用可能な、ステレオカメラによるステレオ撮像範囲の、車両の進行方向における重複を示す図である。
【
図7】
図7は、第1の実施形態に係る、3台のステレオカメラを備える撮像システムの例を示す図である。
【
図8】
図8は、第1の実施形態に係る撮像システムの概略的な構成の例を示すブロック図である。
【
図9】
図9は、第1の実施形態に係る撮像システムのハードウェア構成の例を示すブロック図である。
【
図10】
図10は、第1の実施形態に係るステレオカメラの一例の構成を示すブロック図である。
【
図11】
図11は、第1の実施形態に適用可能な情報処理装置の一例の構成を示すブロック図である。
【
図12】
図12は、第1の実施形態に適用可能な情報処理装置の機能を説明するための一例の機能ブロック図である。
【
図13】
図13は、第1の実施形態に係る平坦性の算出処理を示す一例のフローチャートである。
【
図14】
図14は、第1の実施形態に適用可能なデプスマップの生成処理を示す一例のフローチャートである。
【
図15】
図15は、第1の実施形態に適用可能な三角法を説明するための図である。
【
図16】
図16は、第1の実施形態に適用可能な、カメラ位置および向きの推定処理を示す一例のフローチャートである。
【
図17】
図17は、第1の実施形態に適用可能な、カメラ位置および向きの推定処理を説明するための図である。
【
図18】
図18は、路面において大きな輝度変化がある箇所の例を示す図である。
【
図19】
図19は、第1の実施形態に係る、進行方向用カメラに関する処理を示す一例のフローチャートである。
【
図20】
図20は、第1の実施形態に係る、路面撮像用カメラに関する処理を示す一例のフローチャートである。
【
図21】
図21は、第1の実施形態の第1の変形例に係る、進行方向用カメラに関する処理を示す一例のフローチャートである。
【
図22】
図22は、第1の実施形態の第1の変形例に適用可能な、進行方向用カメラによる撮像範囲と、路面撮像用カメラによるステレオ撮像範囲との関係を説明するための図である。
【
図23】
図23は、第1の実施形態の第1の変形例に適用可能な、路面撮像用カメラおよび進行方向用カメラによる撮像画像の例を示す図である。
【
図24】
図24は、第1の実施形態の第1の変形例に係る、路面撮像用カメラに関する処理を示す一例のフローチャートである。
【
図25】
図25は、第1の実施形態の第2の変形例に係る、進行方向用カメラに関する処理を示す一例のフローチャートである。
【
図26】
図26は、第2の実施形態に係る、撮像条件設定処理を示す一例のフローチャートである。
【発明を実施するための形態】
【0010】
以下に添付図面を参照して、撮像システム、撮像方法、撮像システムを搭載した移動体、撮像装置および撮像装置を搭載した移動体の実施形態を詳細に説明する。
【0011】
[既存の道路性状の検査方法の概略]
実施形態の説明に先んじて、既存の道路性状の検査方法について、概略的に説明する。道路性状を評価するための指標として、舗装の維持管理指数(MCI:Maintenance Control Index)が定められている。MCIは、舗装の供用性を、「ひび割れ率」、「わだち掘れ量」および「平坦性」という3種類の路面性状値によって定量的に評価するものである。
【0012】
これらのうち、「ひび割れ率」は、路面を50cmのメッシュに分割した各領域において、ひび割れの本数およびパッチング面積に応じて、下記の通り、ひび割れ面積を算出し、算出結果を式(1)に適用して、ひび割れ率を求める。
【0013】
ひび割れ1本⇒0.15m2のひび
ひび割れ2本⇒0.25m2のひび
パッチング面積0~25%⇒ひび割れ0m2
パッチング面積25~75%⇒ひび割れ0.125m2
パッチング面積75%以上⇒ひび割れ0.25m2
【0014】
【0015】
「わだち掘れ量」は、
図1(a)および
図1(b)に例示されるように、1車線について2本発生する「わだち」の深さD
1およびD
2を計測し、計測された深さD
1およびD
2のうち大きい値を採用する。「わだち」の掘れ方には、幾つかのパターンがあるので、それぞれのパターンに合わせた計測方法が規定される。
図1(a)は、2本の「わだち」の間が、2本の「わだち」の両端より高い場合、
図1(b)は、2本の「わだち」の間が、2本の「わだち」の両端より低い場合の計測方法の例を示している。
【0016】
平坦性は、路面の車両の進行方向に沿って、基準面からの高さを1.5m間隔で3箇所、計測する。例えば、
図2に示されるように、車両の下面に1.5m間隔で3箇所、測定器を設け、高さX
1、X
2およびX
3を計測する。計測された高さX
1、X
2およびX
3に基づき式(2)により変位量dを求める。この計測を、車両を移動させながら複数回実行する。これにより得られた複数の変位量dに基づき式(3)を計算し、平坦性σを算出する。
【0017】
【0018】
【0019】
上述した「ひび割れ率」、「わだち掘れ量」および「平坦性」の計測を、100mの評価区間毎に実行する。損傷箇所が予め分かっている場合は、100mを40m+60mなどより小さい単位に分割して計測を行う場合もある。100m単位で実行された計測結果に基づきMCIを算出し、調書を作成する。
【0020】
MCIは、計測したひび割れ率C[%]、わだち掘れ量D[mm]、および、平坦性σ[mm」に基づき、表1に示される4つの式を計算して値MCI、MCI1、MCI2およびMCI3を算出する。そして、算出された値MCI、MCI1、MCI2およびMCI3のうち、最小値をMCIとして採用する。採用されたMCIに基づき表2に示す評価基準に従い評価を行い、評価区間の路面に修繕が必要か否かを判定する。
【0021】
【0022】
【0023】
[第1の実施形態]
次に、第1の実施形態に係る撮像システムについて説明する。第1の実施形態では、ステレオ撮像が可能なカメラ(ステレオカメラ)を車両に取り付けて路面を撮像する。撮像されたステレオ撮像画像に基づき撮像位置から路面に対する奥行き情報を取得して路面の3次元形状を生成し、3次元路面データを作成する。この3次元路面データを解析することで、MCIを求めるために用いる「ひび割れ率」、「わだち掘れ量」および「平坦性」を取得することができる。
【0024】
より具体的に説明する。ステレオカメラは、所定の長さ(基線長と呼ぶ)を離して設けられた2つのカメラを備え、この2つのカメラで撮像された2枚ペアの撮像画像(ステレオ撮像画像と呼ぶ)を出力する。このステレオ撮像画像に含まれる2枚の撮像画像間で対応する点を探索することで、撮像画像中の任意の点について、奥行き距離を復元することができる。撮像画像の全域について奥行きを復元し、各画素を奥行き情報により表したデータを、デプスマップと呼ぶ。すなわち、デプスマップは、それぞれ3次元の情報を持つ点の集合からなる3次元点群情報である。
【0025】
このステレオカメラを車両の後方など1箇所に下向きに取り付け地面を撮像できるようにし、計測したい道路に沿って車両を移動させる。説明のため、測定のために車両に搭載するステレオカメラは、撮像範囲が、道路幅方向の規定の長さをカバーしているものとする。
【0026】
わだち掘れ量Dは、このステレオカメラにより撮像されたステレオ撮像画像から復元されたデプスマップ中の道路幅方向にストライプ状に切り取った部分の奥行き値を並べる。この奥行きの道路幅方向の変化に基づき、わだち掘れ深さD1およびD2を計算することができる。
【0027】
ひび割れ率Cは、路面を撮像した撮像画像を解析して「ひび」などを検出し、検出結果に基づき上述した式(1)による計算を行うことで取得する。
【0028】
ここで、車両の進行方向では、1回の撮像による撮像範囲が限定されるため、例えば100m区間のひび割れ率Cを1回の撮像による撮像画像に基づき計算することができない。そこで、車両を道路に従い移動させながら、撮像範囲の車両の進行方向の長さに応じた移動毎に順次、撮像を行う。このとき、前回の撮像における撮像範囲と、今回の撮像における撮像範囲とが、予め設計された重複率以上で重複するように、撮像のトリガを制御する。
【0029】
このように、車両の移動に応じて撮像のトリガを制御することで、計測したい道路の路面を漏れなく撮像できる。そのため、車両の進行に応じて順次撮像された撮像画像をスティッチングと呼ばれる画像処理などを用いて繋ぎ合わせて、例えば100m区間の路面の画像を含む1枚の画像を生成する。この画像を目視確認あるいは解析することで、道路面上のひび割れ率Cを計測できる。
【0030】
平坦性の測定は、Structure from Motion(以下、SfM)と呼ばれる、異なる撮像地点の画像から十分に重複して撮像された画像に基づき、その撮像位置を推定する技術を使う。
【0031】
SfMの処理の概要について説明する。まず、撮像範囲を重複して撮像された画像を用い、それぞれの画像中で同一地点を撮像した点を対応点として検出する。対応点は、可能な限り多数を検出することが望ましい。次に、例えば1枚目の画像の撮像地点から、2枚目の画像の撮像地点へのカメラの移動を、回転と並進を未知パラメータとして、検出した対応点の座標を用いた連立方程式を立て、最もトータルの誤差が小さくなるようなパラメータを求める。このようにして、2枚目の画像の撮像位置を算出できる。
【0032】
上述したように、それぞれの撮像地点におけるステレオ撮像画像から、画像中の任意の点の奥行きがデプスマップとして復元できている。1枚目のステレオ撮像画像に対応するデプスマップに対して、2枚目のステレオ撮像画像に対応するデプスマップを、上述の連立方程式により求めた2枚目のカメラの撮像位置を原点としたデプスマップに座標変換する。これにより、2枚のデプスマップを、1枚目のデプスマップの座標系に統一することができる。換言すれば、2枚のデプスマップを合成して1枚のデプスマップを生成できる。
【0033】
この処理を、例えば100m区間において撮像した全てのステレオ撮像画像に基づくデプスマップについて行い合成することで、1つの3次元空間中に、100m区間の道路面が復元される。このようにして復元された道路面の奥行き値を上述の式(2)に適用することで、変位量dを算出できる。この変位量dを上述の式(3)に適用して、平坦性σを算出する。
【0034】
第1の実施形態では、車両に搭載したステレオカメラによる撮像と、撮像されたステレオ撮像画像に対する画像処理を行うことによって、MCIを求めるための、道路面の平坦性σ、わだち掘れ量D、および、ひび割れ率Cを、纏めて計測することができる。第1の実施形態では、この計測を、ステレオカメラとステレオ撮像画像に対する画像処理を行う情報処理装置とからなる撮像システムを用いて実施可能であり、MCIを簡易な構成により求めることが可能となる。
【0035】
[第1の実施形態の概要]
第1の実施形態では、この路面の3次元形状を生成するためのステレオカメラによる路面撮像に当たり、当該撮像システムが搭載される車両の進行方向前方における、ステレオカメラにて路面が撮像されるべき撮像範囲を撮像する。この進行方向前方の撮像範囲にて撮像された撮像画像に基づき、ステレオカメラにて当該撮像範囲を撮像する際の、露光量を含む撮像条件を求め、求めた撮像条件を当該ステレオカメラに対して設定する。これにより、ステレオカメラにて路面を撮像する際の撮像条件を適切に制御でき、ステレオ撮像画像に基づきより高精度に3次元形状を生成可能となる。
【0036】
[第1の実施形態に適用可能なカメラ配置]
次に、第1の実施形態に適用可能なカメラ配置の例について説明する。
図3は、第1の実施形態に係る撮像システムの構成例を示す図である。
図3(a)は、第1の実施形態に係る撮像システムが車両1に搭載される様子を車両1の側面から示した図である。
図3(a)において、図の左端に向けた方向が、車両1の進行方向とする。すなわち、
図3(a)において、車両1の左端側が車両1の前部であり、右端側が車両1の後部である。
図3(b)は、当該車両1を後部側から見た例を示す図である。
【0037】
第1の実施形態に係る撮像システムは、当該撮像システムを搭載する移動体としての車両1の車体後部に撮像装置取付用の取付部2を備える取付部材3を固定し、取付部2に1以上のステレオカメラ6を取り付ける。ここでは、
図3(b)に例示されるように、車両1の車体の幅方向の両端側に、2台のステレオカメラ6Lおよび6Rが取り付けられるものとする。各ステレオカメラ6Lおよび6Rは、車両1が移動する路面4を撮像する向きに取り付けられる。好ましくは、各ステレオカメラ6Lおよび6Rは、路面4を垂直方向から撮像するように取り付けられる。
【0038】
以降、ステレオカメラ6Lおよび6Rを区別する必要の無い場合には、ステレオカメラ6Lおよび6Rをステレオカメラ6として纏めて記述する。
【0039】
ステレオカメラ6は、例えば車両1の内部に設置された、例えばパーソナルコンピュータ(PC)5により制御される。作業者はPC5を操作し、ステレオカメラ6による撮像開始を指示する。撮像開始が指示されると、PC5は、ステレオカメラ6による撮像を開始する。撮像は、ステレオカメラ6すなわち車両1の移動速度に応じてタイミング制御され、繰り返し実行される。
【0040】
作業者は、例えば必要な区間の撮像の終了に応じてPC5を操作し撮像終了を指示する。PC5は、撮像終了の指示に応じて、ステレオカメラ6による撮像を終了させる。
【0041】
車両1に対して、さらに、車両1の進行方向前方の路面4を撮像するためのカメラ7が設けられる。すなわち、カメラ7は、ステレオカメラ6が撮像すべき路面4の所定領域を、ステレオカメラ6による当該所定領域の撮像に先んじて撮像する。カメラ7で撮像された撮像画像(進行方向撮像画像と呼ぶ)は、PC5に送られる。PC5は、カメラ7から送られた進行方向撮像画像に基づき、当該所定領域の明るさを検出し、検出結果に基づきステレオカメラ6の露光量を含む撮像条件を設定する。
【0042】
以降、カメラ7を進行方向用カメラ7と呼ぶ。また、ステレオカメラ6Lおよび6Rは、MCI算出のために路面4を垂直方向から撮像するカメラであるため、特に記載の無い限り、ステレオカメラ6Lおよび6Rを、路面撮像用カメラ6Lおよび6Rとして記述し、進行方向用カメラ7と区別する。
【0043】
図4および
図5は、第1の実施形態に適用可能な、路面撮像用カメラ6の撮像範囲の例を示す図である。なお、
図4および
図5において、上述した
図3と共通する部分には同一の符号を付して、詳細な説明を省略する。
【0044】
図4は、第1の実施形態に適用可能な、路面撮像用カメラ6による、車両1の進行方向の撮像範囲(進行方向視野Vpとする)を説明するための図である。なお、
図4は、上述の
図1と同様に、図の左端に向けた方向を、車両1の進行方向としている。進行方向視野Vpは、
図4に示されるように、路面撮像用カメラ6の画角αと、路面撮像用カメラ6の路面4に対する高さhとに従い決定される。
【0045】
図5は、第1の実施形態に適用可能な、路面撮像用カメラ6による、車両1の道路幅方向の撮像範囲を説明するための図である。
図5は、車両1を後部側から見た図であり、
図3(b)と共通する部分には同一の符号を付して、詳細な説明を省略する。
【0046】
図5(a)において、路面撮像用カメラ6Lは、2つの撮像レンズ6L
Lおよび6L
Rを備える。撮像レンズ6L
Lおよび6L
Rを結ぶ線を基線、その長さを基線長と呼び、路面撮像用カメラ6Lは、基線が車両1の進行方向に対して垂直になるように配置される。路面撮像用カメラ6Rも同様に、基線長だけ離れた2つの撮像レンズ6R
Lおよび6R
Rを備え、基線が車両1の進行方向に対して垂直になるように配置される。
【0047】
図5(b)は、第1の実施形態に適用可能な、路面撮像用カメラ6Lおよび6Rの撮像範囲の例を示す。路面撮像用カメラ6Lにおいて、撮像レンズ6L
Lおよび6L
Rそれぞれの撮像範囲60L
Lおよび60L
Rは、基線長および高さhに応じてずれて重ねられる。路面撮像用カメラ6Rについても同様に、撮像レンズ6R
Lおよび6R
Rそれぞれによる、撮像範囲60R
Lおよび60R
Rは、基線長および高さhに応じてずれて重ねられる。
【0048】
以下、特に記載の無い限り、これら撮像範囲60L
Lおよび60L
R、ならびに、撮像範囲60R
Lおよび60R
Rを、それぞれ纏めてステレオ撮像範囲60Lおよび60Rと呼ぶ。路面撮像用カメラ6Lおよび6Rは、
図5(b)に示されるように、ステレオ撮像範囲60Lおよび60Rが、ステレオ撮像範囲60Lの車両1の幅方向の一端と、ステレオ撮像範囲60Rの当該幅方向の他端とが、領域61において所定の重複率で重複するように、配置される。
【0049】
図6は、第1の実施形態に適用可能な、路面撮像用カメラ6Lによるステレオ撮像範囲60Lの、車両1の進行方向における重複を示す図である。移動中の車両1において、路面撮像用カメラ6Lにより2回の撮像を行ったものとする。路面撮像用カメラ6Lは、1回目は、ステレオ撮像範囲60L(撮像範囲60L
Lおよび60L
R)の撮像を行い、2回目は、ステレオ撮像範囲60Lに対して、車両1の進行方向に、車両1の移動距離に応じた距離だけ移動したステレオ撮像範囲60L’(撮像範囲60L
L’および60L
R’)の撮像を行う。
【0050】
このとき、ステレオ撮像範囲60Lとステレオ撮像範囲60L’とが、進行方向視野Vpに対して予め定められた進行方向重複率Dr以上の重複率で重複するように、路面撮像用カメラ6Lの撮像タイミングを制御する。このように、時間軸に沿ってステレオ撮像範囲60Lおよび60L’を順次撮像することで、ステレオ撮像範囲60Lおよび60L’を撮像した2枚のステレオ撮像画像を繋ぎ合わせる処理を容易とすることができる。
【0051】
なお、上述では、第1の実施形態に係る撮像システムが2台の路面撮像用カメラ6Lおよび6Rを用いるものとして説明したが、これはこの例に限定されない。例えば、第1の実施形態に係る撮像システムは、
図7(a)に示されるように、路面撮像用カメラ6Lおよび6Rに対してさらに1台のステレオカメラ(路面撮像用カメラ)6Cを加え、3台の路面撮像用カメラ6L、6Rおよび6Cを用いて構成してもよい。
【0052】
図7(a)の例では、路面撮像用カメラ6Lおよび6Rの間隔が、路面撮像用カメラ6Lおよび6Rのみを用いる場合に比べて広げられ、その中央部に路面撮像用カメラ6Cが配置されている。
図7(b)に示されるように、路面撮像用カメラ6Cの撮像レンズ6C
Lおよび6C
Rによる撮像範囲60C
Lおよび60C
Rにより、ステレオ撮像範囲60Cが構成される。路面撮像用カメラ6L、6Cおよび6Rは、それぞれによる各ステレオ撮像範囲60L、60Cおよび60Rが車両1の幅方向に所定の重複率で以て重複するように配置される。
【0053】
このように、1車線を撮像するために、3台の路面撮像用カメラ6L、6Cおよび6Rを用いることで、車線の右側、中央および左側にそれぞれ撮像範囲を設定して撮像が可能となり、高画質(高解像)なステレオ撮像画像を、少ない台数の路面撮像用カメラで撮像可能となる。ここで、特に道路幅は、一般的には、3.5mと規定されている。そこで、この道路幅の3.5mに対応して、路面撮像用カメラ6Lおよび6Rにより車線の道路幅方向の両端を撮像し、路面撮像用カメラ6Cにより中央部を撮像することが考えられる。
【0054】
なお、撮像範囲がこの規定される道路幅(3.5m)をカバー可能な画角を有する路面撮像用カメラを1台のみ用いて、撮像システムを構成してもよい。
【0055】
[第1の実施形態に係る撮像システムの構成]
次に、第1の実施形態に係る撮像システムの構成について説明する。以下では、撮像システムが2台の路面撮像用カメラを備えるものとして説明を行う。
【0056】
図8は、第1の実施形態に係る撮像システムの概略的な構成の例を示すブロック図である。
図8において、撮像システム10は、撮像部100
1および100
2と、位置情報取得部101と、撮像制御部102と、進行方向用撮像部103と、を含む。
【0057】
撮像部1001および1002は、それぞれ上述した路面撮像用カメラ6Lおよび6Rに対応する。位置情報取得部101は、車両1の現在位置を取得する。進行方向用撮像部103は、上述した進行方向用カメラ7に対応し、車両1の進行方向前方の路面4を撮像し、進行方向撮像画像を取得する。
【0058】
撮像制御部102は、それぞれ撮像部1001および1002の撮像タイミング、露光、シャッタ速度などの撮像動作を制御する。撮像制御部102は、進行方向用撮像部103により取得された進行方向撮像画像に基づき、撮像部1001および1002が撮像すべき領域の明るさを求め、求めた明るさに基づき、撮像部1001および1002に対して露光量を含めた撮像条件の設定を行う。また、撮像制御部102は、位置情報取得部101が取得した車両1の現在位置に基づき、撮像部1001および1002に対して撮像条件を設定するタイミングを決定する。
【0059】
図9は、第1の実施形態に係る撮像システム10のハードウェア構成の例を示すブロック図である。
図9において、撮像システム10は、路面撮像用カメラ6Lおよび6R(ステレオカメラ6Lおよび6R)と、進行方向用カメラ7と、
図3のPC5に対応する情報処理装置50と、位置情報取得部51と、を含む。
【0060】
情報処理装置50は、所定のタイミングでトリガを生成し、生成したトリガを路面撮像用カメラ6Lおよび6Rに送る。路面撮像用カメラ6Lおよび6Rは、このトリガに応じて同期して撮像を行う。路面撮像用カメラ6Lおよび6Rにより撮像された各ステレオ撮像画像は、情報処理装置50に供給される。情報処理装置50は、路面撮像用カメラ6Lおよび6Rから供給された各ステレオ撮像画像をストレージなどに記憶、蓄積する。情報処理装置50は、蓄積したステレオ撮像画像に基づき、デプスマップの生成、生成したデプスマップの繋ぎ合わせ、などの画像処理を実行する。
【0061】
また、情報処理装置50は、進行方向用カメラ7の撮像を指示するトリガを生成し、進行方向用カメラ7に送る。このトリガは、上述の路面撮像用カメラ6Lおよび6Rに送るトリガと動悸している必要は無い。進行方向用カメラ7は、このトリガに応じて撮像を行う。情報処理装置50は、進行方向用カメラ7から供給された進行方向撮像画像に基づき、路面撮像用カメラ6Lおよび6Rに対する露光量を含む撮像条件を求め、求めた撮像条件を設定情報として路面撮像用カメラ6Lおよび6Rにそれぞれ供給する。ここで、情報処理装置50は、路面撮像用カメラ6Lと、路面撮像用カメラ6Rと、に対してそれぞれ撮像条件を求めることができる。情報処理装置50は、路面撮像用カメラ6Lおよび6Rについてそれぞれ求めた撮像条件を含む各設定情報を、路面撮像用カメラ6Lおよび6Rにそれぞれ供給する。このとき、情報処理装置50は、位置情報取得部51により取得された車両1の現在位置に基づき、路面撮像用カメラ6Lおよび6Rに対して設定情報を設定するタイミングを決定する。
【0062】
図10は、第1の実施形態に係る路面撮像用カメラ6Lの一例の構成を示すブロック図である。なお、路面撮像用カメラ6Rは、この路面撮像用カメラ6Lと同様の構成にて実現可能であるので、ここでの説明を省略する。
【0063】
図10において、路面撮像用カメラ6Lは、撮像光学系600
Lおよび600
Rと、撮像素子601
Lおよび601
Rと、駆動部602
Lおよび602
Rと、信号処理部603
Lおよび603
Rと、出力部604と、を含む。これらのうち、撮像光学系600
L、撮像素子601
L、駆動部602
L、および、信号処理部603
Lは、上述した撮像レンズ6L
Lに対応する構成である。同様に、撮像光学系600
R、撮像素子601
R、駆動部602
R、および、信号処理部603
Rは、上述した撮像レンズ6L
Rに対応する構成である。
【0064】
撮像光学系600Lは、画角α、焦点距離fを有する光学系であって、被写体からの光を撮像素子601Lに投射する。撮像素子601Lは、例えばCMOS(Complementary Metal Oxide Semiconductor)を用いた光センサであって、投射された光に応じた信号を出力する。なお、撮像素子601Lに、CCD(Charge Coupled Device)による光センサを適用してもよい。駆動部602Lは、撮像素子601Lを駆動し、撮像素子601Lから出力された信号に対してノイズ除去、ゲイン調整などの所定の処理を施して出力する。信号処理部603Lは、駆動部602Lから出力された信号に対してA/D変換を施して、当該信号をディジタル方式の画像信号(撮像画像)に変換する。信号処理部603Lは、変換した画像信号に対してガンマ補正など所定の画像処理を施して出力する。信号処理部603Lから出力された撮像画像は、出力部604に供給される。
【0065】
撮像光学系600R、撮像素子601R、駆動部602R、および、信号処理部603Rの動作は、上述の撮像光学系600L、撮像素子601L、駆動部602L、および、信号処理部603Lと同様なので、ここでの説明を省略する。
【0066】
駆動部602Lおよび602Rは、例えば情報処理装置50から出力されたトリガが供給される。このトリガは、路面撮像用カメラ6Rに含まれる駆動部602Lおよび602Rと同期して、供給される。駆動部602Lおよび602Rは、このトリガに従い、撮像素子601Lおよび601Rから信号を取り込み、撮像を行う。
【0067】
ここで、駆動部602Lおよび602Rは、撮像素子601Lおよび601Rにおける露光を、一括同時露光方式により行う。この方式は、グローバルシャッタと呼ばれる。これに対して、ローリングシャッタは、画素位置の上から順番(ライン順)に光を取り込んでいく方式であるため、フレーム中の各ラインは、厳密に同じ時刻の被写体を写したものではない。ローリングシャッタ方式の場合、1フレームの撮像信号を取り込んでいる間にカメラもしくは被写体が高速に動いてしまうと、被写体の像がライン位置に応じてずれて撮像されてしまう。そのため、第1の実施形態に係る路面撮像用カメラ6Lおよび6Rでは、グローバルシャッタを用いて、投影幾何的に正しく道路形状が撮像されるようにする。
【0068】
また、情報処理装置50から出力された、露光に係る撮像条件を含む設定情報が、駆動部602Lおよび602R、ならびに、信号処理部603Lおよび603Rにそれぞれ供給される。駆動部602Lおよび602Rは、この設定条件に従い、例えばゲインや露光時間を設定する。また、信号処理部603Lおよび603Rは、この設定条件に従い、ガンマ補正の際のガンマ係数や階調の設定を行うことができる。
【0069】
出力部604は、信号処理部603Lおよび603Rから供給された各フレームの撮像画像を、1組のステレオ撮像画像として出力する。出力部604から出力されたステレオ撮像画像は、情報処理装置50に送られ、蓄積される。
【0070】
図11は、第1の実施形態に適用可能な情報処理装置50の一例の構成を示すブロック図である。
図11において、情報処理装置50は、それぞれバス5030に接続されたCPU(Central Processing Unit)5000と、ROM(Read Only Memory)5001と、RAM(Random Access Memory)5002と、グラフィクスI/F(インタフェース)5003と、ストレージ5004と、入力デバイス5005と、データI/F5006と、通信I/F5007と、を備える。さらに、情報処理装置50は、それぞれバス5030に接続されたカメラI/F5010aおよび5010bと、速度取得部5021と、位置情報取得部5022と、を備える。
【0071】
ストレージ5004は、データを不揮発に記憶する記憶媒体であって、ハードディスクドライブやフラッシュメモリを適用できる。ストレージ5004は、CPU5000が動作するためのプログラムやデータが記憶される。
【0072】
CPU5000は、例えば、ROM5001やストレージ5004に予め記憶されたプログラムに従い、RAM5002をワークメモリとして用い、この情報処理装置50の全体の動作を制御する。グラフィクスI/F5003は、CPU5000によりプログラムに従い生成された表示制御信号に基づき、ディスプレイ5020が対応可能な表示信号を生成する。ディスプレイ5020は、グラフィクスI/F5003から供給された表示信号に応じた画面を表示する。
【0073】
入力デバイス5005は、ユーザ操作を受け付け、受け付けたユーザ操作に応じた制御信号を出力する。入力デバイス5005としては、マウスやタブレットといったポインティングデバイスや、キーボードを適用できる。また、入力デバイス5005とディスプレイ5020とを一体的に形成し、所謂タッチパネル構成としてもよい。
【0074】
データI/F5006は、外部の機器との間でデータの送受信を行う。データI/F5006としては、例えばUSB(Universal Serial Bus)を適用可能である。通信I/F5007は、CPU5000の指示に従い、外部のネットワークに対する通信を制御する。
【0075】
カメラI/F5010aは、各路面撮像用カメラ6Lおよび6Rに対するインタフェースである。各路面撮像用カメラ6Lおよび6Rから出力された各ステレオ撮像画像は、カメラI/F5010aを介して、例えばCPU5000に渡される。また、カメラI/F5010aは、CPU5000の指示に従い上述したトリガを生成し、生成したトリガを各路面撮像用カメラ6Lおよび6Rに送る。さらに、カメラI/F5010aは、CPU5000により生成された設定情報を、各路面撮像用カメラ6Lおよび6Rに送る。
【0076】
カメラI/F5010bは、進行方向用カメラ7に対するインタフェースである。進行方向用カメラ7から出力された進行方向撮像画像は、カメラI/F5010bを介して例えばCPU5000に渡される。また、カメラI/F5010bは、CPU5000により生成された、撮像タイミングを指示するためのトリガを、進行方向用カメラ7に送る。
【0077】
速度取得部5021は、車両1の速度を示す速度情報を取得する。車両1に各路面撮像用カメラ6Lおよび6Rが取り付けられている場合、速度取得部5021が取得する速度情報は、各路面撮像用カメラ6Lおよび6Rの、被写体(路面)に対する速度を示す。速度取得部5021は、例えば、GNSS(Global Navigation Satellite System)の信号を受信する機能を有し、受信したGNSSによる信号のドップラー効果に基づき車両1の速度を示す速度情報を取得する。これに限らず、速度取得部5021は、車両1から直接的に速度情報を取得することもできる。
【0078】
位置情報取得部5022は、車両1の現在位置を示す位置情報を取得する。位置情報取得部5022は、例えば速度取得部5021が有するGNSS信号の受信機能を利用して、当該位置情報を取得する。
【0079】
図12は、第1の実施形態に適用可能な情報処理装置50の機能を説明するための一例の機能ブロック図である。
図12において、情報処理装置50は、撮像画像取得部500aおよび500bと、UI部501と、制御部502と、撮像画像記憶部503と、撮像制御部504と、を含む。情報処理装置50は、さらに、マッチング処理部510と、3D情報生成部511と、3D情報取得部520と、状態特性値算出部521と、調書作成部522と、を含む。
【0080】
これら撮像画像取得部500、UI部501、制御部502、撮像制御部504、マッチング処理部510、3D情報生成部511、3D情報取得部520、状態特性値算出部521および調書作成部522は、CPU5000上で動作するプログラムにより実現される。これに限らず、これら撮像画像取得部500、UI部501、制御部502、撮像制御部504、マッチング処理部510、3D情報生成部511、3D情報取得部520、状態特性値算出部521および調書作成部522の一部または全部を、互いに協働して動作するハードウェア回路により構成してもよい。
【0081】
撮像画像取得部500aは、各路面撮像用カメラ6Lおよび6Rから、ステレオ撮像画像を取得する。撮像画像取得部500bは、進行方向用カメラ7から進行方向撮像画像を取得する。撮像画像記憶部503は、撮像画像取得部500aおよび500bにより取得されたステレオ撮像画像および進行方向撮像撮像を、例えばストレージ5004に記憶する。また、撮像画像記憶部503は、ストレージ5004から、記憶されたステレオ撮像画像および進行方向撮像撮像を取得する。
【0082】
UI部501は、入力デバイス5005やディスプレイ5020に対する表示によるユーザインタフェースを実現する。制御部502は、この情報処理装置50全体の動作を制御する。
【0083】
撮像制御部504は、上述した位置情報取得部101および撮像制御部102に対応する。すなわち、撮像制御部504は、撮像画像取得部500bにより取得された進行方向撮像画像に基づき進行方向用カメラ7の撮像条件を生成する。また、撮像制御部504は、位置情報取得部101により取得された車両1の現在位置を示す位置情報に基づき、進行方向用カメラ7に対して撮像を指示するためのトリガを生成する。
【0084】
また、撮像制御部504は、各路面撮像用カメラ6Lおよび6Rの被写体(路面4)に対する速度を示す速度情報を取得し、取得した速度情報と、予め設定される各路面撮像用カメラ6Lおよび6Rの画角α、高さhと、に基づき、各路面撮像用カメラ6Lおよび6Rの同期撮像を指示するためのトリガを生成する。
【0085】
マッチング処理部510は、撮像画像取得部500により取得されたステレオ撮像画像を構成する2枚の撮像画像を用いてマッチング処理を行う。3D情報生成部511は、3次元情報に係る処理を行う。例えば、3D情報生成部511は、マッチング処理部510によるマッチング処理の結果を用いて三角法などにより深度情報を求め、求めた深度情報に基づき3次元点群情報を生成する。
【0086】
3D情報取得部520は、3D情報生成部511によりステレオ撮像画像毎に求めた3次元点群情報を取得する。状態特性値算出部521は、3D情報取得部520により取得された各3次元点群情報と、撮像画像取得部500により取得された各ステレオ撮像画像とを用いて、MCIを求めるための、ひび割れ率C、わだち掘れ量Dおよび平坦性σの各状態特性値を算出する。調書作成部522は、状態特性値算出部521により算出された各状態特性値に基づきMCIを求め、調書を作成する。
【0087】
情報処理装置50における第1の実施形態に係る各機能を実現するためのプログラムは、インストール可能な形式または実行可能な形式のファイルでCD(Compact Disk)、フレキシブルディスク(FD)、DVD(Digital Versatile Disk)などのコンピュータで読み取り可能な記録媒体に記録して提供される。これに限らず、当該プログラムを、インターネットなどのネットワークに接続されたコンピュータ上に格納し、当該ネットワークを介してダウンロードさせることにより提供してもよい。また、当該プログラムをインターネットなどのネットワークを経由して提供または配布するように構成してもよい。
【0088】
当該プログラムは、撮像画像取得部500aおよび500b、UI部501、制御部502、撮像画像記憶部503、撮像制御部504、マッチング処理部510、3D情報生成部511、3D情報取得部520、状態特性値算出部521および調書作成部522を含むモジュール構成となっている。実際のハードウェアとしては、CPU5000がストレージ5004などの記憶媒体から当該プログラムを読み出して実行することにより、上述した各部がRAM5002などの主記憶装置上にロードされ、撮像画像取得部500aおよび500b、UI部501、制御部502、撮像画像記憶部503、撮像制御部504、マッチング処理部510、3D情報生成部511、3D情報取得部520、状態特性値算出部521および調書作成部522が主記憶装置上に生成されるようになっている。
【0089】
[第1の実施形態に適用可能なトリガ生成方法]
次に、第1の実施形態に適用可能な、各路面撮像用カメラ6Lおよび6Rに対して撮像を指示するためのトリガの生成方法について、より詳細に説明する。第1の実施形態において、生成部103は、路面撮像用カメラ6Lおよび6Rの被測定物(路面4)に対するステレオ撮像範囲の、車両1の速度の方向の距離を、車両1が速度情報が示す速度で移動する時間に対して、当該時間より短い所定時間以下の時間間隔でトリガを生成する。
【0090】
すなわち、トリガは、路面撮像用カメラ6Lおよび6Rにおける路面4の撮影範囲が、車両1の進行方向に所定の重複率(進行方向重複率Dr)を保つように発生させる必要がある。これは、後述するように、各ステレオ撮像画像から撮像位置を算出する処理において、安定的に精度の高いカメラ位置を算出するため、十分な対応点を検出できるようにすることが目的である。進行方向重複率Drの下限値は、例えば実験的に「60%」のように決定される。
【0091】
第1の実施形態において、トリガの生成方法は、下記の3通りの方法を適用できる。
(1)一定時間間隔で生成する方法(第1の生成方法)
(2)カメラの移動速度を検出して生成する方法(第2の生成方法)
(3)撮像画像を用いて移動距離を算出して生成する方法(第3の生成方法)
【0092】
(第1の生成方法)
先ず、トリガの第1の生成方法について説明する。第1の生成方法においては、撮像中の車両1の最高速度Speedと、撮像範囲の大きさ(撮像範囲の車両1の進行方向の長さ)と、からトリガの時間間隔を決める。速度取得部5021は、車両1におけるシステム設定値や、情報処理装置50に対するユーザ入力により、車両1の最高速度Speedを予め取得しておく。撮像制御部504は、速度取得部5021から最高速度Speedを取得し、トリガの時間間隔を、取得した最高速度Speedと、進行方向視野Vpおよび進行方向重複率Drと、を用いて、下記の式(4)により算出する。なお、進行方向重複率Drは、上述した下限値が適用される。
【0093】
【0094】
式(4)により、1秒間に生成すべきトリガ数fpsが算出される。トリガ数fpsの逆数が、生成すべき次のトリガまでの時間間隔となる。
【0095】
進行方向視野Vpは、模式的には、
図4を用いて説明したように、各路面撮像用カメラ6Lおよび6Rの路面4からの高さhと、各路面撮像用カメラ6Lおよび6Rの画角αと、に基づき設定できる。実際は、さらに、各路面撮像用カメラ6Lおよび6Rの路面4に対する角度なども考慮して、進行方向視野Vpを設定する。
【0096】
ここで、移動中の車両1が右もしくは左にカーブした際には、路面撮像用カメラ6Lおよび6Rのうち外側にあるカメラの移動量が大きくなる。そのため、車両1の最高速度Speedをそのまま使うのではなく、外側カメラの位置に基づく回転移動の速度を使うと、より好ましい。
【0097】
撮像制御部504は、生成したトリガに応じて撮像されたステレオ撮像画像を、全て例えばストレージ5004やRAM5002に記憶し、蓄積する。
【0098】
(第2の生成方法)
次に、トリガの第2の生成方法について説明する。上述した第1の方法は、シンプルである一方、車両1が停止している状態や、所定の速度よりも低速で移動している状態では、最高速度Speedに対して過剰に細かい間隔で撮像することになり、蓄積されるステレオ撮像画像の量が大きくなってしまう。第2の生成方法では、撮像制御部504は、カメラの移動速度を検出し、検出された移動速度に応じてトリガを生成する。
【0099】
撮像制御部504は、速度取得部5021により取得された速度情報が示す現在の車両1の速度を、式(4)の最高速度Speedとして用いて、次のトリガまでの時間間隔を算出し、撮像を行う。第2の生成方法によれば、車両1の移動速度が小さいほど、トリガ生成の時間間隔が長くなり、無駄な撮像が行われることが抑制される。
【0100】
撮像制御部504は、生成したトリガに応じて撮像されたステレオ撮像画像を、全て例えばストレージ5004やRAM5002に記憶し、蓄積する。
【0101】
なお、この第2の生成方法と、上述した第1の生成方法は、組み合わせて実施することが可能である。
【0102】
(第3の生成方法)
次に、トリガの第3の生成方法について説明する。第3の生成方法では、上述した第1の生成方法と同様に、車両1の最高速度Speedに基づいた一定時間間隔でトリガを生成する。ここで、第3の生成方法においては、トリガに応じて撮像されたステレオ撮像画像を、全て蓄積するのではなく、進行方向重複率Drが予め設定された値を下回った場合にのみ蓄積する。
【0103】
後述するが、車両1の進行方向に重複するように撮像されたステレオ撮像画像のみを用いて、カメラ(車両1)の移動距離を算出することが可能である。
【0104】
撮像制御部504は、最後に蓄積されたステレオ撮像画像と、直前に撮像されたステレオ撮像画像とを用いてカメラの移動距離を算出する。撮像制御部504は、算出した距離が、進行方向重複率Drの下限値に対応した移動距離を超えたか否かを判定する。撮像制御部504は、超えたと判定した場合には、直前に撮像されたステレオ撮像画像を蓄積する。一方、撮像制御部504は、超えていないと判定した場合は、直前に撮像したステレオ撮像画像を破棄する。
【0105】
これにより、車両1の現在速度を計測するためのセンサを用いずとも、移動速度が小さいときには無駄な画像蓄積が行われないことになる。
【0106】
[第1の実施形態に適用可能な路面性状値の算出方法]
次に、第1の実施形態に適用可能な路面性状値の算出方法について説明する。以下では、第1の実施形態に適用可能な平坦性σ、わだち掘れ量Dおよびひび割れ率Cの計測方法について説明する。
【0107】
(平坦性)
図13は、第1の実施形態に適用可能な平坦性の算出処理を示す一例のフローチャートである。ステップS100で、撮像画像取得部500により、路面撮像用カメラ6Lおよび6Rにより撮像され、例えばストレージ5004に記憶されたステレオ撮像画像が取得される。ステレオ撮像画像が取得されると、処理は、並列して処理が可能なステップS101aおよびステップS101bに移行する。
【0108】
ステップS101aでは、ステップS100で取得されたステレオ撮像画像に基づきデプスマップが生成される。
図14および
図15を用いて、第1の実施形態に適用可能なデプスマップの生成処理について説明する。
図14は、第1の実施形態に適用可能なデプスマップの生成処理を示す一例のフローチャートである。
【0109】
ステップS120で、マッチング処理部510は、撮像画像取得部500からステレオ撮像画像を取得する。次のステップS121で、マッチング処理部510は、取得したステレオ撮像画像を構成する2枚の撮像画像に基づきマッチング処理を行う。次のステップS122で、3D情報生成部511は、ステップS121のマッチング処理結果に基づき深度情報を計算し、3次元点群情報であるデプスマップを生成する。
【0110】
ステップS121およびステップS122の処理について、より具体的に説明する。第1の実施形態では、ステレオ撮像画像を構成する2枚の撮像画像を用いて、ステレオ法により深度情報を計算する。ここでいうステレオ法は、2つのカメラにより異なる視点から撮像された2枚の撮像画像を用い、一方の撮像画像のある画素(参照画素)に対して、他方の撮像画像内における対応する画素(対応画素)を求め、参照画素と対応画素とに基づき三角法により深度(奥行き値)を算出する方法である。
【0111】
ステップS121で、マッチング処理部510は、撮像画像取得部500から取得した、ステレオ撮像画像を構成する2枚の撮像画像を用い、基準となる一方の撮像画像における参照画素を中心とする所定サイズの領域に対応する、探索対象となる他方の撮像画像内の領域を、当該他方の撮像画像内で移動させて、探索を行う。
【0112】
対応画素の探索は、様々な方法が知られており、例えば、ブロックマッチング法を適用することができる。ブロックマッチング法は、一方の撮像画像において参照画素を中心としてM画素×N画素のブロックとして切り出される領域の画素値を取得する。また、他方の撮像画像において、対象画素を中心としてM画素×N画素のブロックとして切り出される領域の画素値を取得する。画素値に基づき、参照画素を含む領域と、対象画素を含む領域との類似度を計算する。探索対象の画像内でM画素×N画素のブロックを移動させながら類似度を比較し、最も類似度が高くなる位置のブロックにおける対象画素を、参照画素に対応する対応画素とする。
【0113】
類似度は、様々な計算方法により算出できる。例えば、式(5)に示される、正規化相互相関(NCC:Normalized Cross-Correlation)は、コスト関数の1つであって、コストを示す数値CNCCの値が大きいほど、類似度が高いことを示す。式(5)において、値MおよびNは、探索を行うための画素ブロックのサイズを表す。また、値I(i,j)は、基準となる一方の撮像画像における画素ブロック内の画素の画素値を表し、値T(i,j)は、探索対象となる他方の撮像画像における画素ブロック内の画素値を表す。
【0114】
【0115】
マッチング処理部510は、上述したように、一方の撮像画像における、M画素×N画素の画素ブロックに対応する、他方の撮像画像における画素ブロックを、他方の撮像画像内で例えば画素単位で移動ながら式(5)の計算を実行し、数値CNCCを算出する。他方の撮像画像において、数値CNCCが最大となる画素ブロックの中心画素を、参照画素に対応する対象画素とする。
【0116】
図14の説明に戻り、ステップS122で、3D情報生成部511は、ステップS121のマッチング処理により求められた、参照画素および対応画素とに基づき、三角法を用いて奥行き値(深度情報)を算出し、ステレオ撮像画像を構成する一方の撮像画像および他方の撮像画像に係る3次元点群情報を生成する。
【0117】
図15は、第1の実施形態に適用可能な三角法を説明するための図である。図中のターゲット物体403(例えば路面4上の1点)までの距離Sを、各撮像素子402(撮像素子601
Lおよび601
Rに対応)に撮像された画像内の撮像位置情報から算出することが処理の目的である。すなわち、この距離Sが、対象となる画素の深度情報に対応する。距離Sは、下記の式(6)により計算される。
【0118】
なお、式(6)において、値baselineは、カメラ400aおよび400b間の基線の長さ(基線長)を表す。これは、
図5の例では、撮像レンズ6L
Lおよび6L
R(路面撮像用カメラ6Lの場合)による基線長に対応する。値fは、レンズ401(撮像レンズ6L
Lおよび6L
Rに対応)の焦点距離を表す。値qは、視差を表す。視差qは、参照画素と対応画素の座標値の差分に、撮像素子の画素ピッチを乗じた値である。対応画素の座標値は、ステップS121のマッチング処理の結果に基づき得られる。
【0119】
【0120】
この式(6)が、2つのカメラ400aおよび400b、すなわち、撮像レンズ6LLおよび6LRを利用した場合の距離Sの算出方法となる。これは2つのカメラ400aおよび400b、すなわち、撮像レンズ6LLおよび6LRによりそれぞれ撮像された撮像画像から距離Sを算出するものである。第1の実施形態では、この式(6)による算出方法を、路面撮像用カメラ6Lの撮像レンズ6LLおよび6LR、ならびに、路面撮像用カメラ6Rの撮像レンズ6RLおよび6RRにより撮像された各撮像画像に適用して、画素毎に距離Sを算出する。
【0121】
図13の説明に戻り、ステップS101bで、3D情報生成部511は、カメラ位置および向きを推定する。ここで、カメラ位置は、例えば路面撮像用カメラ6Lを一体と捉えた場合のその中心座標を示す。ステップS101bの処理の詳細については、後述する。
【0122】
ステップS101aおよびステップS101bの処理が終了すると、処理がステップS102に移行される。ステップS102で、3D情報生成部511は、時系列上で隣接する2つのデプスマップについて、ステップS101bで推定したカメラ位置および向きに基づき、前時刻のデプスマップの座標系に合うように、当該前時刻の次の次時刻のデプスマップの座標変換を行う。
【0123】
なお、前時刻および次時刻は、路面撮像用カメラ6Lおよび6Rにおいてトリガに応じて時系列上で連続的に実行された1回目の撮像と、2回目の撮像とにおいて、1回目の撮像が行われた時刻を前時刻、2回目の撮像が行われた時刻を次時刻としている。すなわち、前時刻のデプスマップは、1回目の撮像によるステレオ撮像画像に基づき生成されたデプスマップであり、次時刻のデプスマップは、2回目の撮像によるステレオ撮像画像に基づき生成されたデプスマップである。
【0124】
次のステップS103で、3D情報生成部511は、ステップS102で座標変換された次時刻のデプスマップを、前時刻のデプスマップに統合する。すなわち、ステップS102の座標変換により、前時刻および次時刻の2つのデプスマップが共通の座標系に並ぶため、これら2つのデプスマップを統合することができる。この、ステップS102およびステップS103の処理を、全ての時刻で撮像されたステレオ撮像画像に対して実施する。
【0125】
なお、
図5や
図7に示すように、路面撮像用カメラ6Lおよび6R、あるいは、路面撮像用カメラ6L、6Cおよび6Rを道路幅方向に複数台並べて用いる場合、道路幅方向に並んだ路面撮像用カメラ同士(例えば路面撮像用カメラ6Lおよび6R)においても、同様にしてカメラ位置および向きを推定し、その後、デプスマップ統合を行う。
【0126】
また、上述した第3の生成方法における、カメラ(車両1)の移動距離は、ステップS102の座標変換、および、ステップS103のデプスマップ統合処理において、算出が可能である。
【0127】
次のステップS104で、3D情報取得部520は、3D情報生成部511から、ステップS103で統合されたデプスマップを取得する。そして、状態特性値算出部521は、3D情報取得部520に取得されたデプスマップに基づき、平坦性σを算出する。すなわち、デプスマップが統合されると、計測した区間の道路について路面形状が、1つの3次元空間中の点群として復元される。点群が復元されると、路面上の各サンプリング地点について、規定に従い前後1.5m地点の座標を結んだ座標系を取り、中心部分の3次元点群までの距離を算出することで、式(2)と同様に変位量dを算出でき、式(3)に従い、この変位量dから平坦性σを算出できる。
【0128】
(わだち掘れ量)
わだち掘れ量Dについては、ステップS104で、状態特性値算出部521は、3D情報取得部520に取得されたデプスマップを道路幅方向にスキャンすることで、
図1(a)および
図1(b)に示されるような深さD
1およびD
2を取得することができる。これら取得した深さD
1およびD
2と、デプスマップをスキャンした断面の情報に基づき、わだち掘れ量Dを求めることができる。
【0129】
(ひび割れ率)
状態特性値算出部521は、例えば、ステップS103において統合されたデプスマップに対し、ステップS100で取得されたステレオ撮像画像を適用する。すなわち、状態特性値算出部521は、車両1の進行方向に、進行方向重複率Drで以て重複して撮像された各ステレオ撮像画像を統合する。状態特性値算出部521は、統合した画像に対して規定に従い50cmのメッシュを設定し、画像解析により各メッシュ内のひび、パッチングなどの情報を取得し、取得した情報に基づき規定に従いひび割れ率Cを算出する。
【0130】
(カメラ位置および向きの推定処理)
次に、上述した
図13のフローチャートにおけるステップS101bの、カメラ位置および向きの推定処理について、より詳細に説明する。
図16は、第1の実施形態に適用可能な、カメラ位置および向きの推定処理を示す一例のフローチャートである。第1の実施形態では、カメラ位置および向きを、上述したSfMを用いて推定する。
【0131】
ステップS130で、3D情報生成部511は、撮像画像取得部500からステレオ撮像画像を取得する。ここで、3D情報生成部511は、時系列上で連続的に撮像された2枚のステレオ撮像画像(前時刻のステレオ撮像画像、次時刻のステレオ撮像画像、とする)を取得する。次に、ステップS131で、3D情報生成部511は、取得した各ステレオ撮像画像から特徴点を抽出する。この特徴点抽出処理は、各ステレオ撮像画像の対応点として検出しやすい点を見つける処理であって、典型的には、画像中の変化があり、かつ変化が一様でないコーナーと呼ばれる点を検出する。
【0132】
次のステップS132で、3D情報生成部511は、前時刻のステレオ撮像画像内で特徴点として抽出された点と同じ場所を撮像した点を、次時刻のステレオ撮像画像内から検出する。この検出処理は、オプティカルフローと呼ばれる手法や、SIFT(Scale-Invariant Feature Transform)、SURF(Speed-Upped Robust Feature)などに代表される特徴点マッチングと呼ばれる手法を適用することができる。
【0133】
次のステップS133で、3D情報生成部511は、カメラの初期位置および向きを推定する。3D情報生成部511は、ステップS132において各ステレオ撮像画像で検出された対応点の座標を固定値とし、次時刻のステレオ撮像画像を撮像したカメラの位置および向きをパラメータとして連立方程式を解くことで、カメラの位置を推定し、3次元座標を算出する(ステップS134)。
【0134】
図17を参照しながら、カメラの初期位置および向きの推定方法について説明する。式(7)は、空間の点X
jを、カメラ(視点)P
iに投影した座標x
ijの関係を表している。なお、式(7)において、値nが3次元空間における点の数、値mは、カメラ(撮像画像)の数をそれぞれ表す。
【0135】
【0136】
各値Pは、それぞれのカメラについて、3次元空間の点の座標をその画像の2次元座標に変換する投影行列であって、次式(8)で表される。式(8)は、右辺に示す3次元座標の2行2列の変換行列と、3次元座標から2次元座標への射影変換fiから成る。
【0137】
【0138】
図17において、カメラに映った座標x
ijのみが与えられた連立方程式を用いて、値X
jと値P
iとを算出する。この連立方程式の解法には、線形最小二乗法を用いることができる。
【0139】
次のステップS135で、3D情報生成部511は、ステップS134で算出されたカメラ位置を示す3次元座標を最適化する。連立方程式を解いて算出されたカメラの位置および向きは、十分な精度を有していない場合がある。そのため、算出された値を初期値として最適化処理を行うことで、精度を向上させる。
【0140】
画像上探索により取得された対応点座標と、ステップS134で算出された3次元座標および式(8)の投影行列をパラメータとして上述した式(7)により算出される2次元座標xij(再投影座標と呼ばれる)と、の差は、残差と呼ばれる。カメラの位置および向きを算出するために用いた全てのステレオ撮像画像中の、全ての対応点について、この残差の総和が最小になるように、パラメータを最適化演算によって調整する。これを、バンドル調整と呼ぶ。バンドル調整による全体最適化を行うことで、カメラの位置および向きの精度を向上させることができる。
【0141】
以上が、通常のSfMにおけるカメラ位置および向き推定のベース処理である。第1の実施形態では、基線長が既知の路面撮像用カメラ6Lおよび6Rを使用しているため、車両1の移動に応じて撮像範囲を重複させて撮像されたステレオ撮像画像における対応点の検出に加えて、ステレオ撮像画像を構成する2枚の撮像画像における対応点の探索が容易である。したがって、空間での3次元座標Xjが実スケール(現実の大きさ)で確定し、移動後のカメラの位置および向きも安定的に算出できる。
【0142】
なお、上述したように、第1の実施形態に適用可能な撮像システム10では、情報処理装置50においてトリガを生成し、生成したトリガを各路面撮像用カメラ6Lおよび6Rに全てのカメラに分配することで、各路面撮像用カメラ6Lおよび6Rが同期して撮像を行う構成となっている。このとき、各路面撮像用カメラ6Lおよび6Rが有するクロック生成器や、情報処理装置50においてトリガを分配するためのトリガ分配部品、情報処理装置50や各路面撮像用カメラ6Lおよび6Rにおけるトリガ配線長の差異などの影響により、実際に各路面撮像用カメラ6Lおよび6Rがトリガを取り込んで撮像を実行するタイミングに僅かなズレが発生する可能性がある。この撮像タイミングのズレは、可能な限り抑制することが好ましい。
【0143】
特に基線長が既知である路面撮像用カメラ6Lおよび6Rの間では、撮像タイミングのズレを極力抑えることが望ましい。例えば、カメラI/F5010aから各路面撮像用カメラ6Lおよび6Rにトリガ供給の配線を行う際に、トリガの品質確保のための中継器や、静電ノイズなどから保護するためにフォトカプラを経由する場合がある。この場合に、路面撮像用カメラ6Lおよび6R間でこれら中継器やフォトカプラを共有することが望ましい。
【0144】
[第1の実施形態に係る撮像条件の決定処理]
次に、第1の実施形態に係る撮像条件の決定処理について、より詳細に説明する。第1の実施形態は、路面撮像用カメラ6Lおよび6Rにて撮像するステレオ撮像範囲が大きな輝度変化を含む場合であっても、路面撮像用カメラ6Lおよび6Rによる、適切な撮像条件での撮像を可能とするものである。
【0145】
図18は、路面4において大きな輝度変化がある箇所の例を示す図である。なお、
図18(a)および
図18(b)は、図の下方から上方に向けて走行しながら撮像をした画像の例を示している。
【0146】
図18(a)は、日向から日陰に入る箇所の例である。画像の下半分が日向領域41、上半分が日陰領域40となっており、日陰領域40は、日向領域41と比較して路面輝度が低くなっている。
図18(b)は、路面4が途中から新しく舗装し直された箇所の例である。画像の上部分が修繕をされて間もない箇所で新しく舗装し直された新規舗装領域42である。新規舗装領域42は、路面4の他の領域43と比べ反射率が低くなっており、路面輝度が低くなっている。
【0147】
図18(a)および
図18(b)の何れも、明るい箇所(日向領域41、他の領域43)での露出設定のまま暗い箇所(日陰領域40、新規舗装領域42)を撮像すると、暗い箇所において十分なコントラストの画像が得られない。また、自動露出で撮像する場合であっても、車両1で走行しながら撮像を実行すると、自動露出の追従におけるタイムラグからコントラストの十分でない画像が撮像されてしまうおそれがある。
【0148】
そこで、第1の実施形態では、進行方向用カメラ7により、路面撮像用カメラ6Lおよび6Rによる撮像に先んじて、路面撮像用カメラ6Lおよび6Rにより撮像されるステレオ撮像範囲を撮像し、撮像により得られた進行方向撮像画像に基づき、路面撮像用カメラ6Lおよび6Rによる撮像条件を決定する。
【0149】
図19および
図20は、第1の実施形態に係る撮像条件決定処理を示す一例のフローチャートである。ここで、進行方向用カメラ7と、路面撮像用カメラ6Lおよび6Rは、情報処理装置50から供給されるトリガにより、撮像の同期が取られている。
図19および
図20のフローチャートにおいては、進行方向用カメラ7により1フレームの撮像を行った際に、当該撮像により得られた進行方向撮像画像に基づき路面撮像用カメラ6Lおよび6Rの撮像条件を決定する。
【0150】
先ず、
図19のフローチャートによる処理について説明する。
図19のフローチャートは、第1の実施形態に係る、進行方向用カメラ7に関する処理を示している。ステップS200で、情報処理装置50は、撮像制御部504により、位置情報取得部51から現在位置を示す位置情報を取得する。次のステップS201で、撮像画像取得部500bは、進行方向用カメラ7で撮像された進行方向撮像画像を取得する。取得された進行方向撮像画像は、撮像画像記憶部503により情報処理装置50のメモリ(例えばRAM5002)に記憶される。
【0151】
次のステップS202で、情報処理装置50は、撮像制御部504により、ステップS201で記憶した進行方向撮像画像を解析し、撮像条件の変更が必要か否かを判定する。撮像制御部504は、進行方向用カメラ7の露出設定と、進行方向撮像画像の注目領域における画像輝度とから進行方向用カメラ7の撮像範囲(撮像道路面)の輝度を算出し、算出された輝度に応じて、撮像条件の変更が必要か否か、必要な場合、どのような設定にするかを決定する。ここで、撮像条件は、例えば露出設定である。
【0152】
例えば、撮像制御部504は、道路面輝度の変化が閾値を超えた場合に、変化量に応じて、輝度が明るくなる方向に変化した場合は撮像される画像が暗くなるように、輝度が暗くなる方向に変化した場合は、撮像される画像が明るくなるように、露出パラメータを決定する。露出パラメータとは、露光時間、ゲインのうち少なくとも一方である。
【0153】
ステップS203で、撮像制御部504は、ステップS202の判定処理により撮像条件の変更が必要であると判定した場合(ステップS203、「有り」)、処理をステップS204に移行させる。ステップS204で、撮像制御部504は、変更した撮像条件と、撮像条件の変更を行うための位置を示す変更位置情報とを関連付けて、例えばRAM5002に記憶する。これは、進行方向用カメラ7と、路面撮像用カメラ6Lおよび6Rと、では撮像方向が異なるため、進行方向用カメラ7で撮像した箇所を道路面撮像カメラで撮像するまでのタイムラグがあり、適切なタイミングで露出の変更をする必要があるためである。
【0154】
なお、変更位置情報は、例えば、ステップS200で取得された位置情報に、既知の、進行方向用カメラ7により撮像される撮像範囲の、位置情報取得部5021(情報処理装置50またはGNSS受信機)からの距離を加算した値を適用できる。
【0155】
ステップS204における設定情報と変更位置情報との記憶が完了すると、
図19のフローチャートによる一連の処理が終了される。また、上述したステップS203で、露出設定の変更の必要が無いと判定された場合(ステップS203、「無し」)、
図19のフローチャートによる一連の処理が終了される。
【0156】
上述したステップS200~ステップS204の処理は、所定の時間間隔で繰り返し実行される。
【0157】
図20は、第1の実施形態に係る、路面撮像用カメラ6Lおよび6Rに関する処理を示す一例のフローチャートである。なお、情報処理装置50は、位置情報取得部5022により、所定の時間間隔で高頻度に位置情報を取得している。情報処理装置50において、撮像制御部504は、ステップS300で、位置情報取得部5022により取得された現在位置を示す位置情報に基づき、現在位置が、
図19のステップS204で記憶された変更位置情報が示す位置であるか否かを判定する。
【0158】
撮像制御部504は、現在位置が変更位置情報が示す位置であると判定した場合(ステップS300、「Yes」)、処理をステップS301に移行させる。ステップS301で、撮像制御部504は、路面撮像用カメラ6Lおよび6Rに対して、
図19のステップS204において当該変更位置情報と関連付けられて記憶される設定情報を設定し、路面撮像用カメラ6Lおよび6Rの撮像条件を変更する。
【0159】
次のステップS302で、撮像制御部504は、撮像を指示するためのトリガを生成して、路面撮像用カメラ6Lおよび6Rに送り、当該トリガに従い路面撮像用カメラ6Lおよび6Rにより撮像された各ステレオ撮像画像を取得する。撮像制御部504は、取得した各ステレオ撮像画像を、例えばRAM5002に記憶し、ストレージ5004に格納する。
【0160】
一方、撮像制御部504は、ステップS300で、現在位置が変更位置情報が示す位置ではないと判定した場合、処理をステップS302に移行させ、撮像を指示するためのトリガを生成して、路面撮像用カメラ6Lおよび6Rに送り、当該トリガに従い路面撮像用カメラ6Lおよび6Rにより撮像された各ステレオ撮像画像を取得する。
【0161】
第1の実施形態に係る撮像システム10は、これら
図19および
図20のフローチャートによる各処理を車両1の移動中に繰り返し実施し、路面4のステレオ撮像画像を取得する。
【0162】
第1の実施形態によれば、進行方向用カメラ7により、路面撮像用カメラ6Lおよび6Rによるステレオ撮像範囲の輝度情報を、路面撮像用カメラ6Lおよび6Rの撮像に先立って取得し、撮像条件を決定している。そのため、路面撮像用カメラ6Lおよび6Rによるステレオ撮像範囲の撮像を、適切な撮像条件にて実行できる。これにより、ひび割れ率C、わだち掘れ量Dおよび平坦性σを、路面撮像用カメラ6Lおよび6Rにより撮像されたステレオ撮像画像に基づき、より高精度に算出でき、これらを用いたMCIによる評価の信頼性を高めることが可能である。
【0163】
[第1の実施形態の第1の変形例]
次に、第1の実施形態の第1の変形例について説明する。第1の実施形態の第1の変形例は、撮像システム10が備える、MCI算出のために路面4を撮像するための複数の路面撮像用カメラ(例えば路面撮像用カメラ6Lおよび6R)毎に、撮像条件を設定するようにしている。
【0164】
図21~
図24を用いて、第1の実施形態の第1の変形例に係る撮像条件決定処理について説明する。上述と同様に、進行方向用カメラ7と、路面撮像用カメラカメラ6Lおよび6Rは、情報処理装置50から供給されるトリガにより、撮像の同期が取られている。第1の実施形態の第1の変形例では、進行方向用カメラ7により1フレームの撮像を行った際に、当該撮像により得られた進行方向撮像画像に基づき路面撮像用カメラ6Lおよび6Rそれぞれの撮像条件を決定する。
【0165】
図21は、第1の実施形態の第1の変形例に係る、進行方向用カメラ7に関する処理を示す一例のフローチャートである。ステップS210で、情報処理装置50は、撮像制御部504により、位置情報取得部51から現在位置を示す位置情報を取得する。次のステップS211で、撮像画像取得部500bは、進行方向用カメラ7で撮像された進行方向撮像画像を取得する。取得された進行方向撮像画像は、撮像画像記憶部503により情報処理装置50のメモリ(例えばRAM5002)に記憶される。
【0166】
次のステップS212で、情報処理装置50は、撮像制御部504により、ステップS211で記憶した進行方向撮像画像を解析し、撮像条件の変更が必要か否かを判定する。撮像制御部504は、進行方向用カメラ7の露出設定と、進行方向撮像画像の注目領域における画像輝度とから進行方向用カメラ7の撮像範囲(撮像道路面)の輝度を算出し、算出された輝度に応じて、撮像条件の変更が必要か否か、必要な場合、どのような設定にするかを決定する。ここで、撮像条件は、例えば露出パラメータである。
【0167】
例えば、撮像制御部504は、道路面輝度の変化が閾値を超えた場合に、変化量に応じて、輝度が明るくなる方向に変化した場合は撮像される画像が暗くなるように、輝度が暗くなる方向に変化した場合は、撮像される画像が明るくなるように、露出パラメータを決定する。第1の実施形態の第1の変形例では、路面撮像用カメラ6Lおよび6Rそれぞれについて、個別に露出パラメータを決定する。
【0168】
図22は、第1の実施形態の第1の変形例に適用可能な、進行方向用カメラ7による撮像範囲と、路面撮像用カメラ6Lおよび6Rによるステレオ撮像範囲との関係を説明するための図である。
【0169】
図22に示されるように、路面撮像用カメラ6Lおよび6Rは、車両1の後方を、路面撮像用カメラ6Lおよび6Rそれぞれの撮像範囲60Lおよび60Rが互いに重複部分を持ち、且つ、車両1が走行中の路面4における車線の幅方向全てが当該撮像範囲60Lおよび60Rの何れかに入るように撮像を行う。例えば、路面撮像用カメラ6Lおよび6Rは、撮像範囲60Lおよび60Rの何れかに車線の両端を示す白線44および45が含まれるように、配置される。また、進行方向用カメラ7は、車両1の進行方向前方において、当該車線の幅方向全てが撮影範囲70に入るように撮像を行う。
【0170】
図23は、第1の実施形態の第1の変形例に適用可能な、路面撮像用カメラ6Lおよび6R、ならびに、進行方向用カメラ7による撮像画像の例を示す図である。なお、
図23において、上述の
図23と共通する部分には同一の符号を付し、詳細な説明を省略する。
図23(a)は、上述した
図23と対応し、
図23(b)は、進行方向用カメラ7が撮像範囲70を撮像した進行方向撮像画像71の例を示す。また、
図23(c)は、路面撮像用カメラ6Lおよび6Rが撮像範囲60Lおよび60Rを撮像したステレオ撮像画像61Lおよび61Rの例を示す。
【0171】
進行方向用カメラ7の進行方向撮像画像に基づき路面撮像用カメラ6Lおよび6Rの撮像条件(露光パラメータ)を決定するに当たり、進行方向撮像画像71に対して、輝度評価を行うための評価領域が、各ステレオ撮像画像61Lおよび61Rそれぞれに対応して決められる。
図23(b)に示されるように、各ステレオ撮像画像61Lおよび61Rそれぞれに対応して輝度評価を行う評価領域710Lおよび710Rは、各路面撮像用カメラ6Lおよび6Rの撮像範囲60Lおよび60Rの中央付近に合わせて設定される。この評価領域710Lおよび710R内の輝度情報に応じて、各路面撮像用カメラ6Lおよび6Rの撮像条件(露出パラメータ)を個別に決定する。
【0172】
ステップS213で、撮像制御部504は、ステップS212の判定処理により撮像条件の変更が必要であると判定した場合(ステップS213、「有り」)、処理をステップS214に移行させる。ステップS204で、撮像制御部504は、路面撮像用カメラ6Lおよび6R毎に、変更した撮像条件と、撮像条件の変更を行うための位置を示す変更位置情報とを関連付けて、例えばRAM5002に記憶する。
【0173】
ステップS214における、路面撮像用カメラ6Lおよび6Rそれぞれに対する設定情報と変更位置情報との記憶が完了すると、
図21のフローチャートによる一連の処理が終了される。また、上述したステップS213で、露出設定の変更の必要が無いと判定された場合(ステップS213、「無し」)、
図21のフローチャートによる一連の処理が終了される。
【0174】
上述したステップS210~ステップS214の処理は、所定の時間間隔で繰り返し実行される。
【0175】
図24は、第1の実施形態の第1の変形例に係る、路面撮像用カメラ6Lおよび6Rに関する処理を示す一例のフローチャートである。情報処理装置50において、撮像制御部504は、ステップS310で、位置情報取得部5022により取得された現在位置を示す位置情報に基づき、現在位置が、
図23のステップS214で記憶された変更位置情報が示す位置であるか否かを判定する。
【0176】
撮像制御部504は、現在位置が変更位置情報が示す位置であると判定した場合(ステップS310、「Yes」)、処理をステップS311に移行させる。ステップS301で、撮像制御部504は、路面撮像用カメラ6Lおよび6Rに対して、
図19のステップS214において、路面撮像用カメラ6Lおよび6R毎に当該変更位置情報と関連付けられて記憶される各設定情報を設定し、路面撮像用カメラ6Lおよび6Rそれぞれの撮像条件を変更する。
【0177】
次のステップS312で、撮像制御部504は、撮像を指示するためのトリガを生成して、路面撮像用カメラ6Lおよび6Rに送り、当該トリガに従い路面撮像用カメラ6Lおよび6Rにより撮像された各ステレオ撮像画像を取得する。撮像制御部504は、取得した各ステレオ撮像画像を、例えばRAM5002に記憶し、ストレージ5004に格納する。
【0178】
一方、撮像制御部504は、ステップS310で、現在位置が変更位置情報が示す位置ではないと判定した場合、処理をステップS312に移行させ、撮像を指示するためのトリガを生成して、路面撮像用カメラ6Lおよび6Rに送り、当該トリガに従い路面撮像用カメラ6Lおよび6Rにより撮像された各ステレオ撮像画像を取得する。
【0179】
第1の実施形態に係る撮像システム10は、これら
図23および
図24のフローチャートによる各処理を車両1の移動中に繰り返し実施し、路面4のステレオ撮像画像を取得する。
【0180】
第1の実施形態の第1の変形例によれば、進行方向用カメラ7により、路面撮像用カメラ6Lおよび6Rそれぞれのステレオ撮像範囲の輝度情報を、路面撮像用カメラ6Lおよび6Rの撮像に先立って取得し、路面撮像用カメラ6Lおよび6R個別に撮像条件を決定している。そのため、路面撮像用カメラ6Lおよび6Rそれぞれによるステレオ撮像範囲の撮像を、適切な撮像条件にて実行できる。これにより、ひび割れ率C、わだち掘れ量Dおよび平坦性σを、路面撮像用カメラ6Lおよび6Rにより撮像されたステレオ撮像画像に基づき、より高精度に算出でき、これらを用いたMCIによる評価の信頼性をより高めることが可能である。
【0181】
[第1の実施形態の第2の変形例]
次に、第1の実施形態の第2の変形例について説明する。第1の実施形態の第2の変形例は、異物検出処理を含むものであって、上述した第1の実施形態の第1の変形例による処理を、より具体的としたものである。
【0182】
図25は、第1の実施形態の第2の変形例に係る、進行方向用カメラ7に関する処理を示す一例のフローチャートである。ステップS400で、情報処理装置50は、撮像制御部504により、位置情報取得部51から現在位置を示す位置情報を取得する。次のステップS401で、撮像画像取得部500bは、進行方向用カメラ7で撮像された進行方向撮像画像を取得する。取得された進行方向撮像撮像は、撮像画像記憶部503により、情報処理装置50のメモリ(例えばRAM5002)に記憶される。
【0183】
次のステップS402で、撮像制御部504は、ステップS401で記憶した進行方向撮像画像を解析し、当該進行方向撮像画像内から異物を示す画像を検出する。ここで、異物とは、例えば白線、道路標示、マンホール、落ち葉、花びら、土砂、雪、ゴミ、といった、道路面舗装以外のものを指す。異物の検出方法としては、例えばハフ変換による直線検出による白線検出、同じくハフ変換による円検出によるマンホール(丸型)検出、を適用できる。また、異物検出の方法として、ディープラーニングでの学習結果によりその他の異物を検出することも可能である。
【0184】
ステップS403で、撮像制御部504は、ステップS402の処理の結果、異物が検出されたか否かを判定する。撮像制御部504は、異物が検出されたと判定した場合(ステップS403、「有り」)、処理をステップS404に移行させ、異物の画像を含まない領域を評価領域710Lおよび710Rとして設定する。例えば、路面撮像用カメラ6Lのステレオ撮像範囲に対応して初期設定された評価領域710Lが異物の画像を含むと判定された場合、撮像制御部504は、当該評価領域710Lの位置を前後あるいは左右にずらす処理を行い、評価領域710Lが異物の画像を含まないようにする。これに限らず、当該評価領域710Lを縮小あるいは変形させてもよい。
【0185】
一方、撮像制御部504は、ステップS403で異物が検出されないと判定した場合(ステップS403、「無し」)、処理をステップS405に移行させる。ステップS405で、撮像制御部504は、進行方向撮像画像71における評価領域710Lおよび710Rの本来の位置、例えば進行方向撮像画像71の中央領域を、評価領域710Lおよび710Rに設定する。
【0186】
ステップS404またはステップS405の処理の後、処理がステップS410に移行される。ステップS410で、撮像制御部504は、ステップS404またはステップS405で決定された評価領域710Lおよび710Rに含まれる画素に基づき当該評価領域710Lおよび710Rの輝度を求め、求めた輝度が予め定めた適正な輝度であるか否かを判定する。撮像処理部504は、適正な輝度であると判定した場合(ステップS410、「Yes」)、この
図25のフローチャートによる一連の処理を終了させる。
【0187】
撮像制御部504は、ステップS410で、適正な輝度ではないと判定した場合、処理をステップS411に移行させる。ステップS411で撮像制御部504は、評価領域710Lおよび710Rの輝度が所定より明るい値を示しているか否かを判定する。撮像制御部504は、当該輝度が所定より明るい値を示していると判定した場合、処理をステップS412に移行させる。ステップS412で、撮像制御部504は、撮像画像を暗くする方向に撮像条件(露出パラメータ)を変更する。
【0188】
一方、撮像制御部504は、ステップS411で当該輝度が所定より暗い値を示していると判定した場合、処理をステップS413に移行させる。ステップS413で、撮像制御部504は、撮像画像を明るくする方向に撮像条件(露光パラメータ)を変更する。
【0189】
撮像制御部504は、ステップS412またはステップS413の処理の後、処理をステップS414に移行させる。ステップS414で、撮像制御部504は、ステップS412またはステップS413で変更した撮像条件と、撮像条件の変更を行うための位置を示す変更位置情報とを関連付けて、例えばRAM5002に記憶する。ステップS414における設定情報と変更位置情報との記憶が完了すると、
図25のフローチャートによる一連の処理が終了される。
【0190】
第1の実施形態の第2の変形例によれば、進行方向用カメラ7により、路面撮像用カメラ6Lおよび6Rによるステレオ撮像範囲の輝度情報を、路面撮像用カメラ6Lおよび6Rの撮像に先立って取得し、撮像条件を決定している。その際、撮像制御部504は、進行方向用カメラ7により撮像された進行方向撮像画像71における評価領域710Lおよび710Rに異物の画像が含まれる場合に、この異物の画像を避けて、評価領域710Lおよび710Rを設定している。そのため、路面撮像用カメラ6Lおよび6Rによるステレオ撮像範囲の撮像を、異物の画像の影響を受けること無く、適切な撮像条件にて実行できる。これにより、ひび割れ率C、わだち掘れ量Dおよび平坦性σを、路面撮像用カメラ6Lおよび6Rにより撮像されたステレオ撮像画像に基づき、より高精度に算出でき、これらを用いたMCIによる評価の信頼性を高めることが可能である。
【0191】
[第2の実施形態」
次に、第2の実施形態について説明する。第2の実施形態は、上述した進行方向用カメラ7の代わりに、対象物の光を検出する光センサを用いた例である。光センサとしては、単純に対象物からの光を検出するフォトダイオードやフォトトランジスタなどを用いてもよいし、レーザスキャナなどを用いてもよい。
【0192】
図26は、第2の実施形態に係る、撮像条件設定処理を示す一例のフローチャートである。
図26のフローチャートにおいて、上述した
図19のフローチャートと共通する処理には同一の符号を付して、詳細な説明を省略する。なお、光センサの出力は、上述同様に、撮像画像取得部500bにより取得されるものとする。ステップS200で、情報処理装置50は、撮像制御部504により、位置情報取得部51から現在位置を示す位置情報を取得する。次のステップS221で、撮像画像取得部500bは、光センサの出力を取得する。取得された出力値は、撮像画像記憶部503により、出力値を情報処理装置50のメモリ(例えばRAM5002)に記憶される。
【0193】
次のステップS222で、撮像制御部504は、ステップS221で記憶した光センサの出力値を解析し、撮像条件の変更が必要か否かを判定する。撮像制御部504は、光センサの出力値に基づき検出範囲(撮像道路面)の輝度を算出し、算出された輝度に応じて、撮像条件(露出パラメータ)の変更が必要か否か、必要な場合、どのような設定にするかを決定する。
【0194】
例えば、撮像制御部504は、道路面輝度の変化が閾値を超えた場合に、変化量に応じて、輝度が明るくなる方向に変化した場合は撮像される画像が暗くなるように、輝度が暗くなる方向に変化した場合は、撮像される画像が明るくなるように、露出パラメータを決定する。露出パラメータとは、露光時間、ゲインのうち少なくとも一方である。
【0195】
ステップS203で、撮像制御部504は、ステップS222の判定処理により撮像条件の変更が必要であると判定した場合(ステップS203、「有り」)、処理をステップS204に移行させる。ステップS204で、撮像制御部504は、変更した撮像条件と、撮像条件の変更を行うための位置を示す変更位置情報とを関連付けて、例えばRAM5002に記憶する。これは、光センサの検出範囲と、路面撮像用カメラ6Lおよび6Rのステレオ撮像範囲と、では方向が異なるため、光センサで輝度を検出した箇所を路面撮像用カメラ6Lおよび6Rで撮像するまでのタイムラグがあり、適切なタイミングで露出の変更をする必要があるためである。
【0196】
なお、変更位置情報は、上述と同様に、例えば、ステップS200で取得された位置情報に、既知の、光センサが検出対象とする検出範囲の、位置情報取得部5021からの距離を加算した値を適用できる。
【0197】
ステップS504における設定情報と変更位置情報との記憶が完了すると、
図26のフローチャートによる一連の処理が終了される。また、上述したステップS203で、露出設定の変更の必要が無いと判定された場合(ステップS203、「無し」)、
図26のフローチャートによる一連の処理が終了される。
【0198】
上述したステップS200、ステップS221、ステップS222、ステップS203およびステップS204の処理は、所定の時間間隔で繰り返し実行される。
【0199】
なお、路面撮像用カメラ6Lおよび6Rに関する処理は、例えば
図20を用いて説明した処理と同様なので、ここでの説明を省略する。
【0200】
第2の実施形態によれば、車両1の進行方向前方の評価領域の輝度を検出するために、進行方向用カメラ7に対してより簡易な構成により実現可能な光センサを用いてる。これにより、撮像システムをより小規模に構成することが可能である。
【0201】
なお、上述の各実施形態は、本発明の好適な実施の例ではあるがこれに限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変形による実施が可能である。
【符号の説明】
【0202】
1 車両
4 路面
5 PC
6,6C,6L,6R ステレオカメラ
6LL,6LR,6RL,6RR 撮像レンズ
7 進行方向用カメラ
10 撮像システム
50 情報処理装置
51,5022 位置情報取得部
60C,60L,60R ステレオ撮像範囲
60CL,60CR,60LL,60LR,60RL,60RR 撮像範囲
1001,1002 撮像部
102,504 撮像制御部
103 生成部
500a,500b 撮像画像取得部
503 撮像画像記憶部
710L,710R 評価領域
5021 速度取得部
【先行技術文献】
【特許文献】
【0203】