(58)【調査した分野】(Int.Cl.,DB名)
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、このような構成を有する従来例の場合には、次のような問題がある。
従来例は、画像を横方向に平行移動するための補正パラメータを調整しない。よって、画像を補正しても、位置ずれに起因する誤差を十分に低減できない。
【0008】
また、従来例は、ステレオカメラの実稼働中に補正パラメータを調整しない。例えば、特許文献1は、補正パラメータを調整する手法のみを開示し、補正パラメータを調整するタイミングを一切開示していない。特許文献2は、ステレオカメラを搭載する自動車等が実稼働に入る前に、補正パラメータの調整を行うことを開示する。ここで、実稼働に入る前とは、例えば、車両が静止しているときである。
【0009】
本発明は、このような事情に鑑みてなされたものであって、画像を横方向に平行移動させるための補正パラメータを好適に調整できる撮影装置、車両および画像補正方法を提供することを目的とする。また、本発明は、画像センサを搭載する車両が実稼働しているときに、画像を補正するための補正パラメータを調整できる車両および画像補正方法を提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明は、このような目的を達成するために、次のような構成をとる。
すなわち、本発明は、撮影装置であって、前記撮影装置は、一対の画像センサと、少なくともいずれかの前記画像センサによって撮影された画像を前記画像の横方向に横シフト量だけ平行移動させる画像補正部と、前記画像センサのそれぞれが、第1マーカから光軸方向に離れている距離と第2マーカから光軸方向に離れている距離とが略等しい位置で、第1マーカおよび第2マーカを撮影した画像をそれぞれ調整用画像として、前記調整用画像に基づいて前記横シフト量を調整する横シフト量調整部と、を備え、前記横シフト量調整部は、前記調整用画像の両方に基づいて前記第1マーカおよび前記第2マーカの少なくともいずれかに関する視差を計測し、視差の計測値を取得する測定部と、前記第1マーカと前記第2マーカとの間の間隔と、前記調整用画像のいずれか一方とに基づいて、前記第1マーカおよび前記第2マーカに関する視差の理論値を算出する理論値計算部と、前記視差の計測値と前記視差の理論値とに基づいて横方向調整量を算出する横方向調整量計算部と、前記横方向調整量を用いて前記横シフト量を変更する横シフト量変更部と、を備え、前記調整用画像の少なくとも一方は、前記画像補正部による処理が行われた画像であり、前記横シフト量変更部は、前記画像補正部によって使用された前記横シフト量に、前記横方向調整量を加減算し、前記撮影装置は、さらに、前記横シフト量変更部によって横シフト量が変更された場合、変更後の横シフト量を使用して、前記画像補正部による処理が行われた前記調整用画像
の元となる画像を再び補正する画像再補正部を備え、前記理論値計算部は、前記第1マーカと前記第2マーカとの間の前記間隔と、いずれかの前記調整用画像に関連する光学中心、その調整用画像上における前記第1マーカの投影点、および、その調整用画像上における前記第2マーカの投影点を頂点とする三角形の内角とに基づいて、前記第1マーカ及び前記第2マーカと前記画像センサとの間の光軸方向における距離を計算し、前記距離に基づいて前記視差の理論値を算出する撮影装置である。
【0011】
[作用・効果]一対の画像センサは、ステレオカメラを構成する。各画像センサは、ステレオ視による撮影を行う。
【0012】
画像補正部は、横シフト量を使用して画像を補正する。横シフト量は、補正パラメータの1つである。画像補正部は、各画像センサから得られた画像を補正してもよいし、いずれかの画像センサから得られた画像のみを補正してもよい。
【0013】
横シフト量調整部は、各画像センサから得られた調整用画像に基づいて、横シフト量を調整する。
【0014】
調整用画像は、各画像センサが第1マーカおよび第2マーカを撮影した一対の画像である。なおかつ、調整用画像は、画像センサと第1マーカとの間の光軸方向における距離と画像センサと第2マーカとの間の光軸方向における距離とが略等しいときに、各画像センサが撮影した画像である。ここで、「略等しい」とは、各距離が厳密に等しいこと、および、横シフト量を調整できる程度に各距離が近似していることの両方を含む意味である。
【0015】
その結果、調整用画像には、第1マーカおよび第2マーカが投影される。なおかつ、調整用画像に投影された第1マーカの奥行き方向における情報と、調整用画像に投影された第2マーカの奥行き方向における情報とは、略等しい。
【0016】
横シフト量調整部は、測定部と理論値計算部と横方向調整量計算部と横シフト量変更部とを有する。測定部は、2つの調整用画像に基づいて、「視差の計測値」を取得する。理論値計算部は、1つの調整用画像に基づいて、「視差の理論値」を取得する。横方向調整量計算部は、「視差の計測値」と「視差の理論値」とに基づいて、横方向調整量を算出する。横シフト量変更部は、横方向調整量を用いて、横シフト量を変更する。
【0017】
このように、本発明によれば、横シフト量調整部を備えているので、横シフト量を好適に調整できる。これにより、画像補正部は画像を好適に補正できる。すなわち、各画像センサから得られた2つの画像の間における視差を好適に調整できる。よって、仮に画像センサの位置および姿勢がずれたとしても、撮影装置の精度および撮影装置の信頼性を好適に維持できる。
【0018】
さらに、理論値計算部は視差の理論値を精度良く算出できる。その結果、横方向調整量計算部は横方向調整量を適正に算出できる。
【0019】
また、前記横シフト量変更部は、横シフト量に横方向調整量を加減算した値を、新たな横シフト量として設定する。調整用画像の少なくとも一方が補正された画像である場合、本発明によって、適切に横シフト量を調整できる。
【0020】
上述した発明において、前記理論値計算部は、前記画像センサと前記第1マーカおよび前記第2マーカとの位置関係とに基づいて、前記第1マーカ及び前記第2マーカと前記画像センサとの間の光軸方向における距離を計算し、前記距離に基づいて前記視差の理論値を算出することが好ましい。理論値計算部は視差の理論値を精度良く算出できる。その結果、横方向調整量計算部は横方向調整量を適正に算出できる。
【0021】
上述した発明において、前記横方向調整量計算部は、前記視差の計測値と前記視差の理論値との差が小さくなるように、前記横方向調整量を決定することが好ましい。これによれば、各画像センサから得られた2つの画像の間における実際の視差を、視差の理論値に近づけることができる。その結果、画像の奥行き方向における情報の精度を好適に改善できる。
【0022】
上述した発明において、前記撮影装置は、さらに、画像上における前記第1マーカの投影点および前記第2マーカの投影点に基づいて、前記画像センサのそれぞれから得られた画像が調整用画像であるか否かを判定する調整用画像特定部を備えていることが好ましい。これによれば、調整用画像を好適に特定できる。
【0023】
上述した発明において、前記第1マーカと前記第2マーカとは、略同じ高さ位置に配置されていることが好ましい。これによれば、理論値計算部による処理を簡素化できる。また、調整用画像特定部による処理を簡素化できる。
【0024】
上述した発明において、前記画像補正部は、さらに、少なくともいずれかの前記画像センサによって撮影された画像を前記画像の縦方向に縦シフト量だけ平行移動させ、前記撮影装置は、さらに、前記調整用画像に基づいて前記縦シフト量を調整する縦シフト量調整部を備えることが好ましい。縦シフト量は、補正パラメータの1つである。撮影装置は縦シフト量調整部を備えているので、縦シフト量を好適に調整できる。よって、画像補正部は画像を一層適切に補正できる。
【0025】
上述した発明において、前記画像補正部は、さらに、少なくともいずれかの前記画像センサによって撮影された画像を回転量だけ回転させ、前記撮影装置は、さらに、前記調整用画像に基づいて前記回転量を調整する回転量調整部を備えることが好ましい。回転量は、補正パラメータの1つである。撮影装置は回転量調整部を備えているので、回転量を好適に調整できる。よって、画像補正部は画像を一層適切に補正できる。
【0026】
また、本発明は、車両であって、前記車両は撮影装置を備え、前記撮影装置は、一対の画像センサと、少なくともいずれかの前記画像センサによって撮影された画像を前記画像の横方向に横シフト量だけ平行移動させる画像補正部と、前記画像センサのそれぞれが、第1マーカから光軸方向に離れている距離と第2マーカから光軸方向に離れている距離とが略等しい位置で、第1マーカおよび第2マーカを撮影した画像をそれぞれ調整用画像として、前記調整用画像に基づいて前記横シフト量を調整する横シフト量調整部と、を備え、前記横シフト量調整部は、前記調整用画像の両方に基づいて前記第1マーカおよび前記第2マーカの少なくともいずれかに関する視差を計測し、視差の計測値を取得する測定部と、前記第1マーカと前記第2マーカとの間の間隔と、前記調整用画像のいずれか一方とに基づいて、前記第1マーカおよび前記第2マーカに関する視差の理論値を算出する理論値計算部と、前記視差の計測値と前記視差の理論値とに基づいて横方向調整量を算出する横方向調整量計算部と、前記横方向調整量を用いて前記横シフト量を変更する横シフト量変更部と、を備え、前記第1マーカおよび前記第2マーカは車両の外部に設置されており、前記第1マーカおよび前記第2マーカは走路を挟むように配置されており、前記車両が前記走路を走行するとき、前記画像センサはそれぞれ、前記第1マーカおよび前記第2マーカを撮影する車両である。
【0027】
[作用・効果]本発明によれば、車両は撮影装置を備えているので、車両の周囲の被写体を好適に検知できる。また、撮影装置の精度および信頼性は好適に維持されているので、車両の稼働率が低下することを好適に抑制できる。
【0028】
さらに、前記車両が走路を走行するとき、前記画像センサはそれぞれ、前記第1マーカおよび前記第2マーカを撮影する。これによれば、車両が実稼働しているときに、横シフト量を調整できる。よって、車両の稼働率を低下させることなく、撮影装置の精度を維持できる。
【0029】
上述した発明において、前記走路は予め決められており、前記車両は前記走路を自律走行することが好ましい。車両が予め決められた走路を走行するので、画像センサは、第1マーカおよび第2マーカを適切に撮影することができる。これにより、理論値計算部は「視差の理論値」を一層精度よく算出できる。
【0030】
また、本発明は、車両が走行しているときに、車両に搭載されている複数の画像センサが、車両の外部に設置されているマーカ群を撮影する過程と、前記画像センサの少なくともいずれかから得られた画像を補正する過程と、前記画像センサから得られ、マーカ群が投影されている画像を調整用画像として、前記調整用画像に基づいて前記画像を補正する過程で使用される補正パラメータを調整する過程と、を備え、前記マーカ群は第1マーカと第2マーカを含み、前記第1マーカおよび前記第2マーカは直線的な走路を挟むように配置され
、前記補正パラメータは横シフト量であり、前記画像を補正する過程は、前記画像を前記画像の横方向に前記横シフト量だけ平行移動させ、前記第1マーカと前記第2マーカは互いに間隔をあけて配置され、前記撮影する過程を実行するとき、前記画像センサと第1マーカとの間の光軸方向における距離と、前記画像センサと第2マーカとの間の光軸方向における距離とは略等しく、前記補正パラメータを調整する過程は、前記調整用画像の両方に基づいて前記第1マーカおよび前記第2マーカの少なくともいずれかに関する視差を計測し、視差の計測値を取得する過程と、前記第1マーカと前記第2マーカとの間の前記間隔と、前記調整用画像のいずれか一方とに基づいて前記第1マーカおよび前記第2マーカに関する視差の理論値を算出する過程と、前記視差の計測値と前記視差の理論値とに基づいて横方向調整量を算出する過程と、前記横方向調整量を用いて前記横シフト量を変更する過程と、を備えている画像補正方法である。
【0031】
[作用・効果]撮影する過程は、車両の走行中にマーカ群を撮影する。補正する過程は、画像センサから得られた画像を補正する。調整する過程は、調整用画像に基づいて補正パラメータを調整する。このように、本発明によれば、車両を実稼働させつつ、画像を補正するための補正パラメータを適切に調整できる。
【0032】
撮影する過程では、各画像センサは、第1マーカおよび第2マーカから光軸方向に略等しい距離だけ離れた位置で、第1マーカおよび第2マーカを撮影する。ここで、「略等しい」とは、各距離が厳密に同じであること、および、横シフト量を調整できる程度に各距離が近似していることの両方を含む意味である。
【0033】
補正する過程は、横シフト量を使用して、画像を横方向に平行移動させる。
【0034】
補正パラメータを調整する過程は、調整用画像に基づいて横シフト量を調整する。補正パラメータを調整する過程は、さらに、視差の計測値を取得する過程と、視差の理論値を算出する過程と、横方向調整量を算出する過程と、横シフト量を変更する過程とを備える。このため、補正パラメータを調整する過程は、横シフト量を適切に調整できる。
【0035】
これにより、画像を補正する過程は、画像を適切に補正できる。その結果、各画像センサから得られた画像の間における視差を好適に調整できる。よって、仮に画像センサの位置および姿勢がずれたとしても、画像の奥行き方向における情報を精度良く得ることができる。
【0036】
また、本発明は、車両が走行しているときに、車両に搭載されている複数の画像センサが、車両の外部に設置されているマーカ群を撮影する過程と、前記画像センサの少なくともいずれかから得られた画像を補正する過程と、前記画像センサから得られ、マーカ群が投影されている画像を調整用画像として、前記調整用画像に基づいて前記画像を補正する過程で使用される補正パラメータを調整する過程と、を備え、前記マーカ群は第1マーカと第2マーカを含み、前記第1マーカおよび前記第2マーカは直線的な走路を挟むように配置され、前記複数の画像センサはステレオカメラを構成し、前記補正パラメータは横シフト量であり、前記画像を補正する過程は、前記画像を前記画像の横方向に前記横シフト量だけ平行移動させる画像補正方法である。
【0037】
[作用・効果]撮影する過程は、車両の走行中にマーカ群を撮影する。補正する過程は、画像センサから得られた画像を補正する。調整する過程は、調整用画像に基づいて補正パラメータを調整する。このように、本発明によれば、車両を実稼働させつつ、画像を補正するための補正パラメータを適切に調整できる。
【0038】
補正する過程は、横シフト量を使用して、画像を横方向に平行移動させる。
【0039】
なお、本明細書は、次のような検出装置および車両に係る発明も開示している。
【0040】
(1)上述した発明において、前記第1マーカと前記第2マーカとは、既知の間隔をあけて配置されていることが好ましい。
【0041】
前記(1)によれば、理論値計算部は、視差の理論値を好適に算出できる。
【0042】
(2)上述した発明において、前記画像センサのそれぞれは、各画像センサの光軸が互いに平行となるように、かつ、各画像センサから得られる画像の横軸が同軸となるように配置されていることが好ましい。
【0043】
前記(2)によれば、各画像センサによってステレオカメラを好適に構成できる。
【0044】
(3)上述した発明において、前記理論値計算部は、前記第1マーカと前記第2マーカとの間の前記間隔と、いずれかの前記調整用画像に関連する光学中心、その調整用画像上における前記第1マーカの投影点、および、その調整用画像上における前記第2マーカの投影点を頂点とする三角形の内角とに基づいて、前記第1マーカ及び前記第2マーカと前記画像センサとの間の光軸方向における距離を計算し、前記距離に基づいて前記視差の理論値を算出することが好ましい。
【0045】
前記(3)によれば、理論値計算部は視差の理論値を精度良く算出できる。その結果、横方向調整量計算部は横方向調整量を適正に算出できる。
【0046】
(4)上述した発明において、前記理論値計算部は、前記第1マーカと前記第2マーカとの間の前記間隔と、いずれかの前記調整用画像に関連する光学中心、その調整用画像上における前記第1マーカの投影点、および、その調整用画像上における前記第2マーカの投影点を頂点とする三角形の内角と、前記画像センサと前記第1マーカおよび前記第2マーカとの位置関係とに基づいて、前記第1マーカ及び前記第2マーカと前記画像センサとの間の光軸方向における距離を計算し、前記距離に基づいて前記視差の理論値を算出することが好ましい。
【0047】
前記(4)によれば、理論値計算部は視差の理論値を精度良く算出できる。その結果、横方向調整量計算部は横方向調整量を適正に算出できる。
【発明の効果】
【0048】
この発明に係る撮影装置、車両および画像補正方法によれば、画像を横方向に平行移動させるための補正パラメータを好適に調整できる。よって、撮影装置の信頼性を高めることができる。また、画像センサを搭載する車両が実稼働しているときに、画像を補正するための補正パラメータを調整できる。よって、車両の稼働率が低下することを防ぐことができる。
【発明を実施するための形態】
【0050】
以下、図面を参照して本発明の実施例を説明する。
【0051】
1.車両の概略構成
図1は、実施例に係る車両1の前面図であり、
図2は、車両1と走路Tの平面図である。本実施例では、車両1は、ゴルフ場内を走行するゴルフカートである。ゴルフ場内には予め走路Tが敷設されている。車両1は、走路Tを自律走行する。車両1は、繰り返し、走路Tを走行する。車両1が走路Tを走行することは、車両1が実稼働することである。
【0052】
本明細書では、車両1が進む方向を「前方向Zf」と呼び、前方向とは反対の方向を「後方向Zb」と呼ぶ(
図3参照)。ユーザーは、前方向Zfを向いた姿勢で車両1に乗車する。以下の説明において、「右」、「左」、「上」および「下」はそれぞれ、車両1の乗車したユーザーにとっての「右」、「左」、「上」および「下」を意味する。また、前方向Zfと後方向Zbとを特に区別しない場合には、単に「前後方向Z」と呼ぶ。さらに、左右方向を適宜に「横方向X」と呼ぶ。前後方向Z、横方向Xおよび上下方向Yは、互いに直交する。
【0053】
車両1は、車両本体3と一対のカメラ11R、11Lとを備える。カメラ11R、11Lは、ステレオカメラを構成する。各カメラ11R、11Lは、車両本体3の前面に固定されている。
【0054】
各カメラ11R、11Lが「位置ずれ」していない場合、各カメラ11R、11Lの配置および姿勢は、いわゆる平行ステレオである。すなわち、カメラ11Rの光軸ARと左カメラ11Lの光軸ALは、互いに平行である。本実施例では、光軸AR、ALはそれぞれ、前方向Zfと平行である。また、各カメラ11R、11Lは、互いに所定の間隔距離(基線長)を空けて横方向Xに並ぶ。カメラ11Rは、カメラ11Lの右側方に配置されている。以下では、カメラ11R、11Lを、適宜に「右カメラ11R」、「左カメラ11L」と呼ぶ。
【0055】
カメラ11R、11Lは、ステレオ視による撮影を行う。各カメラ11R、11Lは、同じ被写体を同時に撮影できる。被写体は、例えば、地面、走路、樹木、障害物である。
【0056】
各カメラ11R、11Lは、例えば、可視光カメラである。各カメラ11R、11Lは、CMOS(Complementary Metal Oxide Semiconductor)センサまたはCCD(Charge coupled Device)センサなどによって実現されている。カメラ11R、11Lは、本発明における画像センサの例である。
【0057】
図2に示すように、走路Tの近くには、マーカ群MGが設置されている。マーカ群MGは、2つのマーカM1、M2を含む。マーカM1、M2はそれぞれ、走路Tを挟むように配置されている。マーカM1とマーカM2との間の距離LMは既知である。本明細書では、「距離LM」を適宜に「間隔LM」と記載する。
【0058】
図2および
図3を参照する。
図3は、車両1とマーカM1、M2との側面図である。本実施例では、車両1が走路T上の点Taから点Tbまでの区間Tabにあるとき、各カメラ11R、11Lはそれぞれ、マーカM1、M2の両方を撮影できる。以下では、区間Tabを適宜に「マーカ群撮影区間Tab」と呼ぶ。
【0059】
マーカ群撮影区間Tabは直線的であるので、車両1がマーカ群撮影区間Tabにあるとき、光軸AR/ALは実質的に一定である。
図3に示すように、側面視において、光軸AR/ALはマーカ群撮影区間Tabにおける路面と略平行である。
【0060】
ここで、車両1が区間Tabにあるときの光軸AR/ALに対して略垂直な一平面を「平面P」とする。マーカM1、M2はそれぞれ、平面P上に位置するように配置されている。その結果、車両1がマーカ群撮影区間Tabにある場合、カメラ11R、11LがマーカM1から光軸方向AR/ALに離れている距離と、カメラ11R、11LがマーカM2から光軸方向AR/ALに離れている距離とが略等しい。
【0061】
より詳しく説明する。車両1がマーカ群撮影区間Tabにある場合、以下の関係が成立する。右カメラ11RとマーカM1との間の光軸AR方向における距離D1Rと、右カメラ11RとマーカM2との間の光軸AR方向における距離D2Rとは、略等しい。なおかつ、左カメラ11LとマーカM1との間の光軸AL方向における距離D1Lと、左カメラ11LとマーカM2との間の光軸AL方向における距離D2Lとは、略等しい。また、右カメラ11Rと左カメラ11Lとはステレオカメラを構成するので、距離D1R、D2Rと距離D1L、D2Lとは、略等しい。以下では、距離D1R、D2R、D1L、D2Lを特に区別しない場合には、単に「距離D」と記載する。距離Dは、カメラ11R/11Lと平面Pとの距離に相当する。なお、「光軸方向AR/ALに離れている距離」、および、「光軸方向AR/ALにおける距離」は、光軸方向AR/ALの成分の距離を意味する。
【0062】
図4は、マーカM1、M2の正面図である。マーカM1、M2はそれぞれ、マーカ支持具15の正面に表示されている。本実施例では、マーカM1とマーカM2とは、略同じ高さ位置に配置されている。マーカM1、M2は、本発明における第1マーカ、第2マーカの例である。
【0063】
2.撮影装置の構成
次に、撮影装置5の構成について説明する。
図5は、撮影装置の構成を示すブロック図である。
【0064】
車両1は、撮影装置5を備えている。撮影装置5は、上述したカメラ11R、11Lのほかに、画像処理部13を備えている。画像処理部13は、右カメラ11Rによって撮影された画像IRと、左カメラ11Lによって撮影された画像ILとを処理する。なお、「画像IR」等は、画像処理部13によって処理可能な画像情報を意味する。画像処理部13は、例えば、中央演算処理装置(CPU)と記憶部によって実現されている。
【0065】
図6(a)、(b)は、一対の画像IR、ILを模式的に例示する。「一対の画像IR、IL」とは、同時に撮影された画像IR、ILの組み合わせという意味である。
【0066】
画像IR上の位置は、横軸uR、および、縦軸vRからなる座標で表される。横軸uRは画像IRの横方向と平行であり、縦軸vRは画像IRの縦方向と平行である。画像中心ORは、画像IRと光軸ARの交点に相当する。
【0067】
画像IL上の位置は、横軸uL、および、縦軸vLからなる座標で表される。横軸uLは画像ILの横方向と平行であり、縦軸vLは画像ILの縦方向と平行である。画像中心OLは、画像ILと光軸ALの交点に相当する。
【0068】
図6(b)は、左カメラ11Lが位置ずれしている場合を例示する。ただし、各カメラ11R、11Lが位置ずれしていなければ、横軸uRと横軸uLは同軸となり、縦軸vRと縦軸vLは平行となる。また、各カメラ11R、11Lが位置ずれしていなければ、横軸uR、uLはそれぞれ、横方向Xと平行となり、縦軸vR、vLはそれぞれ、上下方向Yと平行となる。さらに、各カメラ11R、11Lが位置ずれしていなければ、画像IR、ILの間におけるマーカM1、M2に関する視差は、画像IR、ILが撮影された時点における距離Dに対応する。
【0069】
図5を参照する。画像処理部13は、補正パラメータ記憶部21と、画像補正部22と、画像記憶部23と、画像再補正部24と、調整用画像特定部25と、撮影条件記憶部26と、横シフト量調整部27と、縦シフト量調整部28と、回転量調整部29とを有する。以下、各部21乃至29について説明する。
【0070】
補正パラメータ記憶部21は、補正パラメータを記憶する。補正パラメータは、例えば、横シフト量Bh、縦シフト量Bvおよび回転量Brである。
図6(b)に示すように、横シフト量Bhは、横軸uL方向の移動量である。縦シフト量Bvは、縦軸vL方向の移動量である。回転量Brは、回転方向の角度である。なお、回転の中心は、例えば、画像中心OLである。補正パラメータBh、Bv、Brは、適宜な形式で表される。例えば、補正マップや行列式によって、補正パラメータBh、Bv、Brを表してもよい。
【0071】
画像補正部22は、補正パラメータ記憶部21に記憶される補正パラメータBh、Bv、Brを使用して、画像ILを補正する。具体的には、画像補正部22は、画像ILの横方向に横シフト量Bhだけ画像ILを平行移動させ、画像ILの縦方向に縦シフト量Bvだけ画像ILを平行移動させ、画像中心OL回りに回転量Brだけ画像ILを回転させる。
【0072】
補正によって、画像IL上の各位置(uL、vL)の画素は、例えば、新たな位置(u+Δ、vL+Δ)に移動する。元の位置(uL、vL)の画素値は、新たな位置(uL+Δ、vL+Δ)の画素値を規定する。この補正の結果、画像ILcが生成される。
【0073】
画像記憶部23は、画像ILを記憶する。
【0074】
画像再補正部24は、補正パラメータ記憶部21に記憶される補正パラメータBh、Bv、Brの少なくともいずれかが変更された場合、最新の補正パラメータBh、Bv、Brを使用して、画像ILを再び補正する。補正自体は、画像補正部22が行う補正と同じである。
【0075】
調整用画像特定部25は、一対の画像IR、ILcがそれぞれ調整用画像ER、ELであるか否かを判定する。調整用画像特定部25の具体的な処理を以下に例示する。
【0076】
図7(a)は、マーカM1、M2が画像IR上に投影された点である投影点mR1、mR2を模式的に示す図であり、
図7(b)はマーカM1、M2が画像ILcに上に投影された点である投影点mL1、mL2を模式的に示す図である。
図7(a)に示すように、調整用画像特定部25は、画像IRに基づいて、画像IR上におけるマーカM1、M2の投影点mR1、mR2を検出する。
図7(b)に示すように、調整用画像特定部25は、画像ILcに基づいて、画像ILc上におけるマーカM1、M2の投影点mL1、mL2を検出する。投影点mR1、mR2、mL1、mL2を検出する際、調整用画像特定部25は、例えば、マーカM1、M2に関するテンプレートを用いたテンプレートマッチングを行う。
【0077】
ここで、調整用画像特定部25は、投影点mR1がマーカM1およびマーカM2のいずれの投影点であるか、を識別してもよいし、識別しなくてもよい。他の投影点mR2、mL1、mL2に関しても同様である。以下では、投影点mR1、mR2を特に区別しない場合には、「投影点mR」と記載し、投影点mL1、mL2を特に区別しない場合には、「投影点mL」と記載する。さらに、投影点mR、mLを特に区別しない場合には、「投影点m」と記載する。
【0078】
調整用画像特定部25は、投影点mに基づいて、画像IR、ILcがそれぞれ調整用画像ER、ELであるか否かを判定する。具体的には、投影点mの個数および各投影点mの位置に基づいて、判定処理を行う。
【0079】
例えば、調整用画像特定部25は、投影点mが次の判定条件1乃至4を全て満たすか否かを判定する。
判定条件1:画像IRの投影点mRの個数が2個であること。
判定条件2:一方の投影点mR1の縦方向における位置vR1と、他方の投影点mR2の縦方向における位置vR2との差ΔvRが、閾値以下であること。
判定条件3:画像ILの投影点mLの個数が2個であること。
判定条件4:一方の投影点mL1の縦方向における位置vL1と、他方の投影点mL2の縦方向における位置vL2との差ΔvLが、閾値以下であること。
【0080】
閾値は、例えば、10ピクセルである。そして、投影点mが判定条件1乃至4を満たすと判定した場合、調整用画像特定部25は、画像IRを調整用画像ERと特定し、画像ILcを調整用画像ELと特定する。そうでない場合には、画像IR、ILを調整用画像ER、ELと特定しない。
【0081】
撮影条件記憶部26は、マーカM1、M2の間隔LMに関する情報を記憶している。撮影条件記憶部26は、さらに、右カメラ11Rおよび左カメラ11Lの内部パラメータおよび外部パラメータを記憶している。
【0082】
横シフト量調整部27は、調整用画像ER、ELに基づいて、補正パラメータ記憶部21に記憶されている横シフト量Bhを調整する。横シフト量調整部27は、測定部31と理論値計算部32と横方向調整量計算部33と横シフト量変更部34とを有する。以下、各部31乃至34について説明する。
【0083】
測定部31は、調整用画像ER、ELに基づいてマーカM1、M2のいずれかに関する視差を計測し、視差の計測値Fmを取得する。測定部31の具体的な処理を以下に例示する。
【0084】
測定部31は、調整用画像ERの投影点mRと調整用画像ELの投影点mLとの対応関係を特定する。対応関係を特定する際、測定部31は、例えば、ステレオマッチングを行う。これにより、測定部31は、投影点mR1と投影点mL1とが対応すること、および、投影点mR2と投影点mL2とが対応することを特定する。
【0085】
続いて、測定部31は、いずれかの投影点mRの横方向における位置と、この投影点mRに対応する投影点mLの横方向における位置との差を計測する。測定部31は、計測された差を、マーカM1、M2のいずれかに関する視差の計測値Fmとする。
【0086】
理論値計算部32は、調整用画像ERと間隔LMとに基づいて、視差の理論値Ftを算出する。視差の理論値Ftは、右カメラ11Rおよび左カメラ11Lが位置ずれしていないと仮定したときに、得られるはずのマーカM1、M2に関する視差である。
【0087】
より詳しくは、理論値計算部32は、調整用画像ERと間隔LMとに基づいて、カメラ11Rと平面Pとの距離を推定する。この推定は、カメラ11RとマーカM1、M2との間の光軸方向ARにおける距離D1R、D2Rを計算することと同義であり、カメラ11LとマーカM1、M2との間の光軸方向ALにおける距離D1L、D2Lを計算することと同義である。言い換えれば、推定される距離は、「距離D」に相当する。そして、理論値計算部32は、距離Dに基づいて視差の理論値Ftを算出する。
【0088】
まず、
図8を参照して、距離Dを推定する手法を説明する。
図8は、調整用画像ERをモデル化した図である。
図8において、光軸ARは、平面Pと点QRで直交する。モデル化された調整用画像ERは、光軸ARと直交する平面上に位置する。言い換えれば、モデル化された調整用画像ERは、平面Pと平行である。光軸方向ARが調整用画像ERと直交する点は、画像中心ORに相当する。光軸方向AR上には、右カメラ11Rの光学中心CRが位置する。
【0089】
投影点mR1、mR2は調整用画像ER上にあり、マーカM1、M2は平面P上にある。マーカM1は、光学中心CRと投影点mR1とを結ぶ線J1上に位置し、マーカM2は、光学中心CRと投影点mR2とを結ぶ線J2上に位置する。光学中心CRと投影点mR1と投影点mR2とを頂点とする三角形と、光学中心CRとマーカM1とマーカM2とを頂点とする三角形とは、相似である。
【0090】
ここで、光学中心CRを右カメラ11Rの厳密な位置と見なして、距離Dを、光学中心CRと平面P(点QR)との距離とする。また、光学中心CRと調整用画像ER(画像中心OR)との距離を、「焦点距離d」と規定する。さらに、投影点mR1と投影点mR2との距離を、「間隔Lm」と規定する。なお、マーカM1、M2との間隔LMは実空間上における距離であるのに対し、間隔Lmは調整用画像ER上における距離である。そうすると、間隔Lmと間隔LMとの比は、焦点距離dと距離Dとの比と等しい。すなわち、以下の関係式が成り立つ。
【0092】
なお、間隔LMは既知である。間隔Lmは、調整用画像ER(投影点mR1、mR2)から与えられる。焦点距離dは、右カメラ11Rの内部パラメータから与えられる。これら間隔LM、間隔Lm、および焦点距離dによって、距離Dが一義的に決まる。
【0093】
次に、理論値計算部32の具体的な処理を以下に例示する。理論値計算部32は、撮影条件記憶部26から間隔LMと右カメラ11Rの内部パラメータを読み出す。理論値計算部32は、右カメラ11Rの内部パラメータに基づいて、焦点距離dを取得する。理論値計算部32は、調整用画像ERに基づいて、投影点mR1と投影点mR2との間の間隔Lmを求める。理論値計算部32は、間隔Lm、間隔LMおよび焦点距離dを関係式(1)に代入して、距離Dを算出する。さらに、理論値計算部32は、距離Dと、カメラ11R、11Lの内部パラメータおよび外部パラメータとに基づいて、マーカM1、M2に関する視差の理論値Ftを算出する。
【0094】
横方向調整量計算部33は、視差の計測値Fmと視差の理論値Ftとに基づいて横方向調整量Hhを算出する。横方向調整量計算部33は、視差の計測値Fmが視差の理論値Ftと等しくなるように、横方向調整量Hhを決定することが好ましい。横方向調整量Hhは、例えば、視差の計測値Fmと視差の理論値Ftとの差である。
【0095】
横シフト量変更部34は、横方向調整量Hhに基づいて横シフト量Bhを変更する。本実施例では、横シフト量変更部34は、補正パラメータ記憶部21に記憶される横シフト量Bhに、横方向調整量Hhを加減算する。算出された値は、新たな横シフト量Bhとして、補正パラメータ記憶部21に記憶される。
【0096】
縦シフト量調整部28は、調整用画像ER、ELに基づいて縦シフト量Bvを調整する。縦シフト量調整部28は、縦方向調整量計算部36と縦シフト量変更部37とを有する。
【0097】
縦方向調整量計算部36は、対応関係にある1組以上の投影点mR、点mLに基づいて、縦方向調整量Hvを算出する。縦方向調整量計算部36は、投影点mRの縦方向における位置と、投影点mRと対応する投影点mLの縦方向における位置とが等しくなるように、縦方向調整量Hvを決定することが好ましい。投影点mR1と投影点mL1とが対応関係にある場合、縦方向調整量Hvは、例えば、投影点mR1の縦方向における位置vR1と、投影点mL1の縦方向における位置vL1との差である。
【0098】
縦シフト量変更部37は、縦方向調整量Hvに基づいて縦シフト量Bvを変更する。本実施例では、縦シフト量変更部37は、補正パラメータ記憶部21に記憶される縦シフト量Bvに、縦方向調整量Hvを加減算する。算出された値は、新たな縦シフト量Bvとして、補正パラメータ記憶部21に記憶される。
【0099】
回転量調整部29は、調整用画像ER、ELに基づいて回転量を調整する。回転量調整部29は、回転方向調整量計算部38と回転量変更部39とを有する。
【0100】
回転方向調整量計算部38は、対応関係にある2組以上の投影点mR、mLに基づいて、回転方向調整量Hrを算出する。
図7を参照して、回転方向調整量計算部38は、投影点mR1、mR2を結ぶ仮想線KRの傾きと、投影点mL1、mL2を結ぶ仮想線KLの傾きとが等しくなるように、回転方向調整量Hrを決定することが好ましい。回転方向調整量Hrは、例えば、仮想線KRと仮想線KLとのなす角度である。
【0101】
回転量変更部39は、回転方向調整量Hrに基づいて回転量Brを変更する。本実施例では、回転量変更部39は、補正パラメータ記憶部21に記憶される回転量Brに、回転方向調整量Hrを加減算する。算出された値は、新たな回転量Brとして、補正パラメータ記憶部21に記憶される。
【0102】
撮影装置5は、更に、画像IR、ILcを処理するステレオ処理部(不図示)を備えてもよい。例えば、ステレオ処理部は、画像IR、ILcに基づいて、画像IR、ILcの奥行き方向における情報を計算してもよい。例えば、ステレオ処理部は、画像IR、ILcに基づいて、光軸方向AR/ALにおける被写体までの距離を計算してもよい。また、例えば、ステレオ処理部は、画像IR、ILcに基づいて、車両1の走行を妨げる障害物を検出してもよい。
【0103】
3.動作説明
次に、実施例に係る車両1の動作を説明する。
図9は、撮影装置5の動作例を示すフローチャートである。以下の説明では、車両1が走路Tを走行しているものとする。すなわち、車両1が走行しているときに撮影装置5が実行する動作例を、以下に説明する。
【0104】
<ステップS1> 撮影
右カメラ11Rおよび左カメラ11Lはそれぞれ、画像IR、ILを撮影する。
【0105】
<ステップS2> 画像の取込
画像処理部13は、画像IR、ILを取り込む。画像ILは、画像記憶部23に記憶される。
【0106】
<ステップS3> 画像の補正
画像補正部22は、補正パラメータ記憶部21から最新の横シフト量Bh、縦シフト量Bv、回転量Brを読み出す。画像補正部22は、読み出した補正パラメータBh、Bv、Brを使用して画像ILを補正する。これにより、画像補正部22は、画像ILcを生成する。
【0107】
<ステップS4> 画像が調整用画像か?
調整用画像特定部25は、画像IRに基づいて投影点mRを検出する。調整用画像特定部25は、画像ILcに基づいて、投影点mLを検出する。調整用画像特定部25は、投影点mR、mLに基づいて、画像IR、ILcが調整用画像ER、ELであるか否かを判定する。画像IR、ILcが調整用画像ER、ELであると判定された場合、ステップS5に進む。そうでない場合、ステップS1に戻る。
【0108】
<ステップS5> 調整量の算出
横シフト量調整部27は、横方向調整量Hhを算出する。具体的には、測定部31は、調整用画像ER、ELに基づいて視差の計測値Fmを取得する。理論値計算部32は、調整用画像ERに基づいて視差の理論値Ftを取得する。横方向調整量計算部33は、視差の計測値Fmと視差の理論値Ftとに基づいて横方向調整量Hhを算出する。
【0109】
上述した処理と並行して、縦方向調整量計算部36は、調整用画像ER、ELに基づいて縦方向調整量Hvを算出する。回転方向調整量計算部38は、調整用画像ER、ELに基づいて回転方向調整量Hrを算出する。
【0110】
<ステップS6> 補正パラメータの変更
横シフト量変更部34は、横方向調整量Hhを用いて横シフト量Bhを変更する。縦シフト量変更部37は、縦方向調整量Hvを用いて縦シフト量Bvを変更する。回転量変更部39は、回転方向調整量Hrを用いて回転量Brを変更する。
【0111】
<ステップS7> 画像の再補正
画像再補正部24は、画像記憶部23から画像ILを読み出し、補正パラメータ記憶部21から変更後の補正パラメータBh、Bv、Brを読み出す。そして、画像再補正部24は、補正パラメータBh、Bv、Brを用いて、画像ILを補正する。その後、ステップS1に戻る。
【0112】
このように、実施例によれば、撮影装置5は、横シフト量調整部27を備えているので、横シフト量Bhを好適に調整できる。よって、画像補正部22は、適切な横シフト量Bhを使用して画像ILを横方向に平行移動できる。これにより、画像IR、ILの視差に比べて、画像IR、ILcの視差は視差の理論値Ftに近くなる。よって、仮にカメラ11R、11Lが位置ずれしているときであっても、画像IR、ILcに基づいて、被写体に関する奥行き方向における情報を精度良く得ることができる。このように、カメラ11R、11Lの位置および姿勢がずれている場合であっても、撮影装置5の精度および信頼性を好適に維持できる。その結果、車両1の稼働率が低下することを好適に防ぐことができる。
【0113】
特に、理論値計算部32は、調整用画像ER、ELの両方を使用せず、一方の調整用画像ERを使用して、視差の理論値Ftを算出する。この算出方法は、調整用画像ER、ELの両方を使用する場合に比べて、カメラ11R、11Lの位置ずれの影響を受けにくい。よって、理論値計算部32は、視差の理論値Ftを精度よく取得できる。
【0114】
理論値計算部32は、マーカM1、M2の間隔LMと投影点mR1、mR2の間隔Lmとの関係を利用して、カメラ11R/11LとマーカM1、M2との間の光軸方向AR/ALにおける距離Dを算出する。これにより、理論値計算部32は、視差の理論値Ftを好適に算出できる。
【0115】
測定部31は、画像IRと画像ILcの間における実際の視差に相当する「視差の計測値Fm」を取得する。よって、横方向調整量計算部33は、視差の計測値Fmと視差の理論値Ftとのずれを把握できる。その結果、横方向調整量計算部33は、適切な横方向調整量Hhを決定できる。特に、横方向調整量Hhが、視差の計測値Fmと視差の理論値Ftとの差である場合、画像IRと画像ILcの間における実際の視差を、視差の理論値Ftに一致させることができる。
【0116】
また、横シフト量調整部27は、横シフト量変更部34を備えているので、補正パラメータ記憶部21に記憶される横シフト量Bhを好適に更新できる。本実施例では、調整用画像ELは、画像補正部22によって補正された画像ILcであるので、横シフト量変更部34は、調整用画像ELを生成するために用いられた横シフト量Bhに、横方向調整量Hhを加減算する。これにより、横シフト量を好適に調整できる。
【0117】
また、調整用画像特定部25を備えているので、マーカM1、M2が適切に撮影された画像IR、ILcを好適に特定できる。
【0118】
また、縦シフト量調整部28を備えているので、縦シフト量Bhを好適に調整できる。よって、画像補正部22は、一層適切に画像ILを補正できる。
【0119】
また、回転量調整部29を備えているので、回転量Brを好適に調整できる。よって、画像補正部22は、一層適切に画像ILを補正できる。
【0120】
また、走路Tのレイアウト、カメラ11R、11Lの光軸AR/ALなどを考慮して、マーカM1、M2を適切に配置することによって、走路T上にマーカ群撮影区間Tabを好適に形成できる。これにより、調整用画像ER、ELを好適に得ることができる。
【0121】
具体的には、直線的なマーカ群撮影区間Tabにおいて各カメラ11R、11LがマーカM1、M2の両方を撮影できるように、マーカM1、M2が設置されている。さらに、マーカ群撮影区間Tabにおけるカメラ11R、11Lの光軸AR/ALに対して略垂直な平面P上に、マーカM1、M2が配置されている。ここで、「略垂直な」は、厳密に垂直であること、および、横シフト量Bhを適切に調整できる程度に垂直に近いことの両方を含む意味である。
【0122】
このため、マーカ群撮影区間Tabでは、カメラ11Rは、光軸方向ARにおいて略同じ距離だけ離れている複数のマーカM1、M2を同時に撮影できる。ここで、「略同じ」は、厳密に等しいこと、および、横シフト量Bhを適正に補正できる程度に近似していることの両方を含む意味である。よって、理論値計算部32は、画像IRに基づいて、距離Dを精度良く推定することができ、視差の理論値Ftを精度良く算出できる。また、マーカ群撮影区間Tabでは、カメラ11Lも、カメラ11Rと同様にマーカM1、M2を撮影できる。よって、測定部31は、画像IR、ILcに基づいて、視差の計測値Fmを好適に取得できる。
【0123】
さらに、マーカM1、M2は、略同じ高さ位置に配置されている。これにより、理論値計算部32が投影点mR1、mR2の間隔Lmを算出する処理を簡素化できる。また、各投影点mの位置が判定条件2、4を満たすか否かを調整用画像特定部25が判定する処理を簡素化できる。
【0124】
また、上述したマーカ群撮影区間Tabは走路Tの一部であるので、車両1が実稼働しているときに、カメラ11R、11LはマーカM1、M2を好適に撮影でき、画像処理部13は補正パラメータBh、Bv、Brを好適に調整できる。よって、車両1の稼働率を低下させることなく、撮影装置5の精度および信頼性を好適に維持できる。
【0125】
また、走路Tは予め決められているので、マーカM1、M2を予め適切な位置に設置できる。よって、各カメラ11R、11LはマーカM1、M2を適切に撮影できる。よって、画像処理部13は補正パラメータBh、Bv、Brを一層精度良く調整できる。
【0126】
本発明は、上記実施例のものに限らず、次のように変形実施することができる。
【0127】
(1)上述した実施例では、理論値計算部32は、間隔LMと間隔Lmとに基づいて、距離Dを計算したが、これに限られない。例えば、理論値計算部32は、三角測量の手法や幾何学を用いた手法によって、距離Dを算出してもよい。
【0128】
図10を参照して、変形実施例に係る手法の一例として、三角測量の手法を用いて距離Dを推定する手法を説明する。
図10は、調整用画像ERをモデル化した図である。なお、実施例と同じ構成については同符号を付すことで詳細な説明を省略する。
【0129】
図10において、直線J3は、投影点mR1と投影点mR2とを結ぶ線である。直線J4は、マーカM1とマーカM2とを結ぶ線である。角度αは、直線J1と直線J3とのなす角度である。角度βは、直線J2と直線J3とのなす角度である。角度α、βはそれぞれ、光学中心CRと投影点mR1と投影点mR2とを頂点とする三角形の内角に相当する。この三角形は、光学中心CRとマーカM1とマーカM2とを頂点とする三角形と相似である。よって、角度αは、直線J1と直線J4とのなす角度と等しく、角度βは、直線J2と直線J4とのなす角度と等しい。
【0130】
ここで、点QR´は、光学中心CRから直線J4上に垂直におろした点である。光学中心CRと点QR´との距離を、「距離Da」と規定する。
【0131】
そうすると、距離Daは、三角測量の手法を用いて、以下の式(2)によって表される。
Da=LMsinαsinβ/sin(α+β) ・・・(2)
【0132】
光学中心CRと点QRと点QR´とを頂点とする三角形は、直角三角形である。ここで、点QRと点QR´との距離を、「距離Db」と規定する。距離Dbは、カメラ11RとマーカM1、M2の位置関係によって計算される。比較的に単純な例としては、距離Dbは、カメラ11Rの高さと、マーカM1、M2の高さとの差である。比較的に複雑な例としては、距離Dbは、カメラ11Rの位置および角度と、マーカM1、M2の位置とを用いて算出される。
【0133】
三平方の定理に従って、距離Dは、以下の式(3)によって表される。
【数1】
【0134】
このような三角測量の手法を用いる場合、理論値計算部32は、間隔LMと、光学中心CRと投影点mR1、mR2を頂点とする三角形の内角α、βとに基づいて、距離Daを計算する。具体的には、理論値計算部32は、撮影条件記憶部26から間隔LMと右カメラ11Rの内部パラメータを読み出す。理論値計算部32は、調整用画像ERと内部パラメータに基づいて光学中心CRおよび投影点mR1、mR2の相対的な位置関係を計算し、光学中心CRおよび投影点mR1、mR2の相対的な位置関係に基づいて角度α、βを算出する。理論値計算部32は、間隔LMおよび角度α、βを関係式(2)に代入して、距離Daを算出する。
【0135】
続いて、理論値計算部32は、撮影条件記憶部26から右カメラ11Rの外部パラメータとマーカM1、M2の各位置を読み出す。なお、マーカM1、M2の各位置も、予め撮影条件記憶部26に記憶されている。理論値計算部32は、右カメラ11Rの外部パラメータとマーカM1、M2の各位置に基づいて、距離Dbを算出する。さらに、理論値計算部32は、関係式(3)を用いて、距離Dを計算する。
【0136】
上述した変形実施例では、マーカM1、M2が略同じ高さ位置に配置されていることが、特に好ましい。また、側面視において、光軸AR/ALはマーカ群撮影区間Tabにおける路面と略平行であることが、特に好ましい。理論値計算部32が距離Dbを簡易に算出できるからである。
【0137】
上述した変形実施例では、さらに、カメラ11R/11LがマーカM1、M2と略同じ高さ位置に配置されていることが、特に好ましい。これによれば、点QR´が点QRと一致し、距離Daは距離Dと等しい。よって、理論値計算部32は、関係式(2)を用いて直接的に距離Dを取得でき、距離Dbの計算を省略できる。
【0138】
(2)上述した実施例では、理論値計算部32は、調整用画像ERに基づいて視差の理論値Ftを算出したが、これに限られない。例えば、理論値計算部32は、調整用画像ELに基づいて視差の理論値Ftを算出してもよい。調整用画像ELを用いても、視差の理論値Ftを好適に算出できる。また、例えば、理論値計算部32は、調整用画像ERに基づいて視差の理論値FtRを算出し、かつ、調整用画像ELに基づいて視差の理論値FtLを算出してもよい。この場合、理論値計算部32は、さらに、視差の理論値FtR、FtLに基づいて1つの視差の理論値Ftを算出してもよい。これによれば、視差の理論値Ftを一層精度よく算出できる。
【0139】
(3)上述した実施例では、測定部31は、対応関係にある1組の投影点mR、mLに基づいて、マーカM1、M2のいずれかに関する視差の計測値Fmを取得したが、これに限られない。例えば、測定部31は、対応関係にある2組の投影点mR、mLに基づいて、マーカM1、M2の両方に関する視差の計測値Fmを取得してもよい。この場合、測定部31は、さらに、マーカM1に関する視差の計測値FmとマーカM2に関する視差の計測値Fmとに基づいて、1つの視差の計測値Fmを算出してもよい。これによれば、視差の計測値Fmを一層精度よく算出できる。
【0140】
(4)上述した実施例では、横方向調整量計算部33は、視差の計測値Fmが視差の理論値Ftと等しくなるように、横方向調整量Hhを決定したが、これに限られない。例えば、横方向調整量計算部33は、視差の計測値Fmと視差の理論値Ftとの差が小さくなるように、横方向調整量Hhを決定してもよい。この変形実施例によっても、横シフト量Bhを好適に調整できる。
【0141】
同様に、縦方向調整量計算部36は、投影点mRの縦方向における位置と、投影点mRと対応する投影点mLの縦方向における位置とが等しくなるように、縦方向調整量Hvを決定したが、これに限られない。例えば、縦方向調整量計算部36は、投影点mRの縦方向における位置と、投影点mRと対応する投影点mLの縦方向における位置との差が小さくなるように、縦方向調整量Hvを決定してもよい。この変形実施例によっても、縦シフト量Bvを好適に調整できる。
【0142】
回転方向調整量計算部38は、仮想線KRの傾きと仮想線KLの傾きとが等しくなるように、回転方向調整量Hrを決定したが、これに限られない。例えば、回転方向調整量計算部38は、仮想線KRの傾きと仮想線KLの傾きとの差が小さくなるように、回転方向調整量Hrを決定してもよい。この変形実施例によっても、回転量Brを好適に調整できる。
【0143】
(5)上述した実施例では、調整用画像ER、ELが特定された場合には必ず、横シフト量調整部27は横シフト量Bhを変更したが、これに限られない。例えば、横シフト量調整部27は、横方向調整量Hhの値に応じて、選択的に横シフト量Bhを変更してもよい。同様に、上述した実施例では、調整用画像ER、ELが特定された場合には必ず、縦シフト量調整部28は、縦シフト量Bvを変更したが、これに限られない。例えば、縦シフト量調整部28は、縦方向調整量Hvの値に応じて、選択的に縦シフト量Bvを変更してもよい。また、上述した実施例では、調整用画像ER、ELが特定された場合には必ず、回転量調整部29は、回転量Brを変更したが、これに限られない。例えば、回転量調整部29は、回転方向調整量Hrの値に応じて、選択的に回転量Brを変更してもよい。
【0144】
図11を参照する。
図11は、変形実施例に係る撮影装置の構成を示すブロック図である。なお、上述の実施例と同じ構成については同符号を付すことで詳細な説明を省略する。
【0145】
横シフト量調整部27は、さらに、横方向調整量判定部41を備えている。横方向調整量判定部41は、横方向調整量Hhが所定の閾値以上であるか否かを判定する。横方向調整量Hhが所定の閾値以上であると判定された場合、横シフト量変更部34は、横シフト量Bhを変更する。そうでない場合には、横シフト量変更部34は、横シフト量Bhを変更しない。
【0146】
同様に、縦シフト量調整部28は、さらに、縦方向調整量判定部42を備えている。縦方向調整量判定部42は、縦方向調整量Hvが所定の閾値以上であるか否かを判定する。縦方向調整量Hvが所定の閾値以上であると判定された場合、縦シフト量変更部37は、縦シフト量Bvを変更する。そうでない場合には、縦シフト量変更部37は、縦シフト量Bvを変更しない。
【0147】
回転量調整部29は、さらに、回転方向調整量判定部43を備えている。回転方向調整量判定部43は、回転方向調整量Hrが所定の閾値以上であるか否かを判定する。回転方向調整量Hrが所定の閾値以上であると判定された場合、回転量変更部39は、回転量Brを変更する。そうでない場合には、回転量変更部39は、回転量Brを変更しない。
【0148】
この変形実施例では、補正パラメータBh、Bv、Brが個別に変更される。すなわち、結果的に、補正パラメータBh、Bv、Brの全部が変更される可能性、補正パラメータBh、Bv、Brの一部が変更される可能性、および、補正パラメータBh、Bv、Brのいずれも変更されない可能性がそれぞれある。
【0149】
この変形実施例によれば、横シフト量Bhが過敏に変動することを好適に防ぐことができる。その結果、画像補正部22は、一層適切に画像ILを補正できる。同様に、縦シフト量Bvおよび回転量Brが過敏に変動することを好適に防ぐことができる。その結果、画像補正部22は、さらに一層適切に画像ILを補正できる。
【0150】
(6)上述した実施例では、画像補正部22は、画像IR、ILの一方を補正したが、これに限られない。例えば、画像IR、ILの双方を補正してもよい。この場合、
図11に示すように、補正パラメータ記憶部21は、画像IR用の補正パラメータBhR、BvR、BrRと、画像IL用の補正パラメータBhL、BvL、BrLとを記憶してもよい。これによれば、画像補正部22は、画像IR、ILをそれぞれ好適に補正できる。
【0151】
また、この変形実施例では、横シフト量調整部27は、画像IR用の横シフト量BhRと、画像IL用の横シフト量BhLをそれぞれ調整してもよい。同様に、縦シフト量調整部28は、縦シフト量BvR、BvLをそれぞれ調整してもよい。回転量調整部29は、回転量BrR、BrLをそれぞれ調整してもよい。
【0152】
(7)上述した実施例では、画像補正部22は、画像ILを移動させる処理を行ったが、これに限られない。例えば、画像補正部22は、画像ILを移動させる処理に加えて、画像の歪み(Distortion)を補正してもよい。これによれば、画像ILを一層好適に補正できる。
【0153】
(8)上述した実施例では、調整用画像ERは画像補正部22によって補正されていない画像IRであり、調整用画像ELは画像補正部22によって補正された画像ILcであったが、これに限られない。例えば、調整用画像ERが画像補正部22によって補正された画像であり、調整用画像ELが画像補正部22によって補正されていない画像であってもよい。また、上述した実施例では、調整用画像ER、ELの一方が画像補正部22によって補正された画像ILcであったが、これに限られない。例えば、調整用画像ER、ELの両方が画像補正部22によって補正された画像であってもよい。これによっても、横シフト量調整部27、縦シフト量調整部28および回転量調整部29はそれぞれ、補正パラメータBh、Bv、Brを好適に調整できる。
【0154】
また、例えば、調整用画像ER、ELの両方が画像補正部22によって補正されていない画像であってもよい。具体的には、
図11に示すように、調整用画像特定部25は、画像IR、ILが調整用画像ER、ELであるか否かを判定してもよい。この変形実施例では、横シフト量変更部34は、横方向調整量Hhを、新たな横シフト量Bhとして設定することが好ましい。これにより、横方向調整量Hhは、新たな横シフト量Bhとして補正パラメータ記憶部21に記憶される。同様に、縦シフト量変更部37は、縦方向調整量Hvを、新たな縦シフト量Bvとして設定することが好ましい。回転量変更部39は、回転方向調整量Hrを、新たな回転量Brとして設定することが好ましい。これによれば、調整用画像ER、ELの両方が補正されていない画像である場合に、補正パラメータBh、Bv、Brをそれぞれ好適に調整できる。
【0155】
さらに、この変形実施例において、画像IR、ILが調整用画像ER、ELであると判定された場合、各調整部27乃至29がその調整用画像ER、ELに基づいて補正パラメータBh、Bv、Brを変更し、画像補正部22が変更された補正パラメータBh、Bv、Brを使用して、調整用画像ER、ELであると判定された画像IR、ILを補正してもよい。これによれば、実施例で説明した画像再補正部24を省略することができる。
【0156】
(9)上述した実施例では、調整用画像特定部25が用いる判定条件1乃至4を例示したが、判定条件は適宜に設計、選択することができる。
【0157】
例えば、調整用画像特定部25は、判定条件1乃至4に加えて、以下に示す判定条件5を用いてもよい。
判定条件5:差ΔvRと差ΔvLとの間の差が、閾値以下であること。
ここで、差ΔvRは判定条件2に規定され、差ΔvLは判定条件4に規定される。
【0158】
また、調整用画像特定部25は、以下に示す判定条件6乃至9を用いてもよい。
判定条件6:画像IRの投影点mRの個数が2個であること。
判定条件7:一方の投影点mR1が画像IRの領域WR1にあり、他方の投影点mR2が画像IRの領域WR2にあること。
判定条件8:画像ILの投影点mLの個数が2個であること。
判定条件9:一方の投影点mL1が画像ILの領域WL1にあり、他方の投影点mL2が画像ILの領域WL2にあること。
【0159】
ここで、各領域WR1、WR2はそれぞれ、横軸uRの座標値および縦軸vRの座標値によって規定される。同様に、各WL1、WL2はそれぞれ、横軸uLの座標値および縦軸vLの座標値によって規定される。このような変形実施例によっても、調整用画像特定部25は、画像IR、ILcが調整用画像ER、ELであるか否かを好適に判定できる。
【0160】
(10)上述した実施例では、横シフト量調整部27、縦シフト量調整部28および回転量調整部29を備えていたが、これに限られない。例えば、これら調整部27乃至29のいずれか1つまたは2つを省略してもよい。この変形実施例によっても、車両1が実稼働しているときに、画像処理部13は補正パラメータBh、Bv、Brの少なくとも1つを好適に調整できる。
【0161】
(11)上述した実施例では、撮影装置5は、2台のカメラ11R、11Lを備えていたが、これに限られない。たとえば、撮影装置5は、3台以上のカメラ11を備えてもよい。すなわち、3台以上のカメラ11によってステレオカメラを構成してもよい。
【0162】
(12)上述した実施例では、光軸AR、ALはそれぞれ、前方向Zfと平行であったが、これに限られない。すなわち、光軸AR、ALは、前方向Zfと平行でなくてもよい。
【0163】
(13)上述した実施例では、マーカ群MGは、2つのマーカM1、M2を備えていたが、これに限られない。マーカ群MGは、3以上のマーカMを備えてもよい。この変形実施例では、マーカMを適宜な位置に配置してもよい。例えば、実施例で説明した平面P上に3以上のマーカMを配置してもよい。また、例えば、平面P上に2以上のマーカMを配置し、かつ、平面Pから外れた位置に他のマーカMを配置してもよい。これによれば、横方向調整量Hh、縦方向調整量Hvおよび回転方向調整量Hrを一層適正に算出できる。
【0164】
(14)上述した実施例において、車両1は、ゴルフカートであったが、これに限られない。車両1を種々の用途に適用してもよい。例えば、車両1は、農園内を走行するための車両であってもよい。また、車両1は、無人走行車であってもよい。
【0165】
(15)上述した実施例では、マーカM1とマーカM2とは、略同じ高さ位置に配置されていたが、これに限られない。例えば、マーカM1、M2の少なくともいずれかの高さ位置を任意に変更してもよい。
【0166】
(16)上述した実施例および上記(1)から(15)で説明した各変形実施例については、さらに各構成を他の変形実施例の構成に置換または組み合わせるなどして適宜に変更してもよい。