(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023142834
(43)【公開日】2023-10-05
(54)【発明の名称】カメラ校正装置、カメラ校正方法、およびカメラ校正プログラム
(51)【国際特許分類】
H04N 23/60 20230101AFI20230928BHJP
H04N 17/00 20060101ALI20230928BHJP
B60R 1/23 20220101ALI20230928BHJP
【FI】
H04N5/232
H04N17/00 200
B60R1/23
【審査請求】未請求
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2022049950
(22)【出願日】2022-03-25
(71)【出願人】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】奥川 恭平
(72)【発明者】
【氏名】道口 将由
【テーマコード(参考)】
5C061
5C122
【Fターム(参考)】
5C061BB11
5C061CC01
5C122DA14
5C122EA57
5C122FH11
5C122FK23
5C122GE24
5C122GE26
5C122GE27
5C122HA76
5C122HB01
5C122HB05
(57)【要約】
【課題】カメラの校正精度および作業効率の向上を図る。
【解決手段】カメラ校正装置10は、画像取得回路16Aと、第1姿勢情報取得回路16Bと、第2姿勢情報取得回路16Cと、算出回路16Dと、補正回路16Eと、を備える。画像取得回路16Aは、姿勢センサ34を備えた表示装置30(情報機器)に設けられた校正用マーカ40の、カメラ20による撮影画像を取得する。第1姿勢情報取得回路16Bは、撮影画像の撮影時の校正用マーカの第1姿勢情報を取得する。第2姿勢情報取得回路16Cは、カメラの搭載装置(車両2)の第2姿勢情報を取得する。算出回路16Dは、撮影画像に含まれる校正用マーカに基づいて導出したカメラ20のカメラ姿勢情報に応じた校正量を算出する。補正回路16Eは、算出回路16Dで算出された校正量を、第1姿勢情報と第2姿勢情報との差に基づいて補正する。
【選択図】
図4
【特許請求の範囲】
【請求項1】
姿勢センサを備えた情報機器に設けられた校正用マーカのカメラによる撮影画像を取得する画像取得回路と、
前記撮影画像の撮影時の前記校正用マーカの第1姿勢情報を取得する第1姿勢情報取得回路と、
前記カメラの搭載装置の第2姿勢情報を取得する第2姿勢情報取得回路と、
前記撮影画像に含まれる前記校正用マーカに基づいて導出した前記カメラのカメラ姿勢情報に応じた校正量を算出する算出回路と、
前記校正量を、前記第1姿勢情報と前記第2姿勢情報との差に基づいて補正する補正回路と、
を備えるカメラ校正装置。
【請求項2】
前記補正回路は、
前記校正量から前記第1姿勢情報と前記第2姿勢情報との差を減算した補正校正量を算出する、
請求項1に記載のカメラ校正装置。
【請求項3】
前記画像取得回路は、
前記情報機器に設けられたモニタに表示された前記校正用マーカの、前記カメラによる前記撮影画像を取得し、
前記第1姿勢情報取得回路は、
前記校正用マーカが表示された前記モニタの前記第1姿勢情報を取得する、
請求項1に記載のカメラ校正装置。
【請求項4】
前記校正用マーカは、
互いに交差する方向に配列された複数の平行線を含み、
前記画像取得回路は、
前記校正用マーカに含まれる少なくとも1つの平行線が前記カメラの撮影方向に平行となるように配置された前記校正用マーカの前記撮影画像を取得し、
前記算出回路は、
前記撮影画像に含まれる前記校正用マーカによって構成される平行線の延長線の収束点である消失点および複数の前記消失点を通る直線である消失線に基づいて、前記カメラ姿勢情報を算出する、
請求項1に記載のカメラ校正装置。
【請求項5】
前記第1姿勢情報取得回路は、
前記情報機器または前記撮影画像から、前記第1姿勢情報を取得する、
請求項1に記載のカメラ校正装置。
【請求項6】
姿勢センサを備えた情報機器に設けられた校正用マーカの、カメラによる撮影画像を取得するステップと、
前記撮影画像の撮影時の前記校正用マーカの第1姿勢情報を取得するステップと、
前記カメラの搭載装置の第2姿勢情報を取得するステップと、
前記撮影画像に含まれる前記校正用マーカに基づいて導出した前記カメラのカメラ姿勢情報に応じた校正量を算出するステップと、
前記校正量を、前記第1姿勢情報と前記第2姿勢情報との差に基づいて補正するステップと、
を含むカメラ校正方法。
【請求項7】
姿勢センサを備えた情報機器に設けられた校正用マーカの、カメラによる撮影画像を取得するステップと、
前記撮影画像の撮影時の前記校正用マーカの第1姿勢情報を取得するステップと、
前記カメラの搭載装置の第2姿勢情報を取得するステップと、
前記撮影画像に含まれる前記校正用マーカに基づいて導出した前記カメラのカメラ姿勢情報に応じた校正量を算出するステップと、
前記校正量を、前記第1姿勢情報と前記第2姿勢情報との差に基づいて補正するステップと、
をコンピュータに実行させるためのカメラ校正プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、カメラ校正装置、カメラ校正方法、およびカメラ校正プログラムに関する。
【背景技術】
【0002】
従来、車両や計測機器等のカメラ搭載機器に搭載されたカメラの取り付け誤差を、販売元や製造元等で校正することが行われている。例えば、車両に対して正確な角度で床面に配置された校正用マーカを車載カメラで撮影し、撮影画像に含まれるマーカの特徴点等を用いてカメラの姿勢のずれ量を算出する方法が開示されている(例えば、特許文献1~特許文献3参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2009-118414号公報
【特許文献2】特開2016-30554号公報
【特許文献3】特開2012-123750号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来技術では、車両等のカメラの搭載機器の周囲に、搭載機器に対して正確な位置に校正用マーカを配置することが困難である場合には校正精度が低下することがあった。また、校正用マーカを正確な位置に設置するには、多大な作業時間がかかってしまう場合が多い。
【0005】
本開示の非限定的な実施例は、カメラの校正精度の向上を図ることができる、カメラ校正装置、カメラ校正方法、およびカメラ校正プログラムの提供に資する。
【課題を解決するための手段】
【0006】
本開示にかかるカメラ校正装置は、画像取得回路と、第1姿勢情報取得回路と、第2姿勢情報取得回路と、算出回路と、補正回路と、を備える。画像取得回路は、姿勢センサを備えた情報機器に設けられた校正用マーカの、カメラによる撮影画像を取得する。第1姿勢情報取得回路は、前記撮影画像の撮影時の前記校正用マーカの第1姿勢情報を取得する。第2姿勢情報取得回路は、前記カメラの搭載装置の第2姿勢情報を取得する。算出回路は、前記撮影画像に含まれる前記校正用マーカに基づいて導出した前記カメラのカメラ姿勢情報に応じた校正量を算出する。補正回路は、前記校正量を、前記第1姿勢情報と前記第2姿勢情報との差に基づいて補正する。
【発明の効果】
【0007】
本開示にかかるカメラ校正装置、カメラ校正方法、およびカメラ校正プログラムによれば、カメラの校正精度および作業効率の向上を図ることができる。
【図面の簡単な説明】
【0008】
【
図1】
図1は、本実施形態の校正システムの一例を示す模式図である。
【
図2A】
図2Aは、表示部に表示された校正用マーカの一例の模式図である。
【
図2B】
図2Bは、表示部に表示された校正用マーカの一例の模式図である。
【
図3】
図3は、カメラ校正装置および表示装置の一例のハードウェア構成図である。
【
図4】
図4は、校正システムの機能的構成の一例のブロック図である。
【
図5A】
図5Aは、車両と表示装置との位置関係の一例の説明図である。
【
図5B】
図5Bは、車両と表示装置との位置関係の一例の説明図である。
【
図7A】
図7Aは、第1姿勢情報を表す画像の表示形態の一例を示す模式図である。
【
図7B】
図7Bは、第1姿勢情報を表す画像の表示形態の一例を示す模式図である。
【
図8】
図8は、カメラ姿勢情報の算出の一例の説明図である。
【
図9A】
図9Aは、第1姿勢情報と第2姿勢情報との差の算出の一例の説明図である。
【
図9B】
図9Bは、第1姿勢情報と第2姿勢情報との差の算出の一例の説明図である。
【
図9C】
図9Cは、第1姿勢情報と第2姿勢情報との差の算出の一例の説明図である。
【
図10】
図10は、本実施形態の表示装置が実行する情報処理の流れの一例を示すフローチャートである。
【
図11】
図11は、カメラ校正装置で実行される情報処理の流れの一例を示すフローチャートである。
【発明を実施するための形態】
【0009】
以下に添付図面を参照して、本開示に係るカメラ校正装置、カメラ校正方法、およびカメラ校正プログラムの実施形態について説明する。
【0010】
図1を用いて、本実施形態の校正システム1の構成を説明する。
【0011】
校正システム1は、搭載機器に搭載されたカメラ20の取り付け誤差を校正するシステムである。搭載機器は、カメラを搭載可能な機器であればよい。詳細には、搭載機器は、搭載されたカメラの撮影画像を用いて各種の処理を実行する機器である。搭載機器は、具体的には、例えば、車両、計測機器、等である。本実施形態では、搭載機器が、車両2である形態を一例として説明する。
【0012】
校正システム1は、カメラ校正装置10と、カメラ20と、姿勢センサ22と、表示装置30と、を備える。
【0013】
カメラ校正装置10は、車両2に搭載されたカメラ20の取り付け誤差を校正するための情報処理装置である。例えば、カメラ校正装置10は、車両2に搭載されたECU(Electronic Control Unit)等によって実現される。
【0014】
カメラ20は校正対象の機器であり、撮影によって撮影画像データを得る。本実施形態では、撮影画像データを単に撮影画像と称して説明する。
【0015】
本実施形態では、カメラ20は車両2に搭載されている。例えば、車両2には、撮影方向の異なる複数のカメラ20が取り付けられている。
図1には、車両2の前方を撮影するカメラ20A、車両2の後方を撮影するカメラ20D、車両2の周囲の車幅方向を撮影するカメラ20Cおよびカメラ20D、が車両2に設けられた形態を一例として示す。なお、車両2に搭載される車両2の数および位置は、
図1に示す例に限定されない。
【0016】
姿勢センサ22は、車両2の姿勢情報である第2姿勢情報を検出するセンサである。
【0017】
姿勢情報は、ロール角、ピッチ角、ヨー角によって表される。ロール角は、ロール軸であるZ軸を回転軸とした回転角である。ピッチ角は、ピッチ軸であるX軸を回転軸とした回転角である。ヨー角は、ヨー軸であるY軸を回転軸とした回転角である。
【0018】
姿勢センサ22としては、例えば、3軸角度センサおよび地磁気センサが挙げられる。本実施形態では、姿勢センサ22は、地磁気センサによって得られる各方位および水平面を基準とする、3軸角度センサによって検出されたXYZ軸の各々の軸回りの傾きであるロール角、ピッチ角、およびヨー角を含む第2姿勢情報を検出する。
【0019】
表示装置30は、校正用マーカ40を表示する情報処理装置である。表示装置30は、携帯端末、タブレット端末、パーソナルコンピュータ等である。本実施形態では、表示装置30がタブレット端末である形態を一例として説明する。
【0020】
表示装置30は、表示部32と、姿勢センサ34と、を有する。表示部32は、2次元平面である表示面に各種の情報を表示する。表示部32は、各種の情報を表示するディスプレイ、または、モニタである。
【0021】
姿勢センサ34は、表示部32に表示された校正用マーカ40の姿勢情報である第1姿勢情報を検出するセンサである。本実施形態では、姿勢センサ34は、校正用マーカ40を表示した表示部32であるディスプレイの姿勢情報を、校正用マーカ40の第1姿勢情報として検出する。
【0022】
姿勢センサ34としては、3軸角度センサおよび地磁気センサが挙げられる。本実施形態では、姿勢センサ34は、地磁気センサによって得られる各方位および水平面を基準とする、3軸角度センサによって検出されたXYZ軸の各々の軸回りの傾きであるロール角、ピッチ角、およびヨー角を含む第2姿勢情報を検出する。
【0023】
校正用マーカ40とは、カメラ20の校正に用いられる指標である。例えば、校正用マーカ40は、ドット、複数の直線、等によって表される1または複数のパタンを含む。本実施形態では、校正用マーカ40が、互いに交差する方向に配列された平行線を含む形態を一例として説明する。平行線は、平行な複数の直線から構成される。
【0024】
図2Aは、格子状の校正用マーカ40の一例の模式図である。例えば、校正用マーカ40は、複数の平行線L1と、平行線L1に対して交差する方向に配列された複数の平行線L2と、を含む。平行線L1および平行線L2は、校正用マーカ40によって構成される平行線Lの一例である。
図2Aには、平行線L1と平行線L2とが直交する方向に交差する形態を一例として示す。
【0025】
図2Bは、平行四辺形状の校正用マーカ40の一例の模式図である。例えば、校正用マーカ40は、平行線L1と、平行線L2と、からなる1または複数の平行四辺形のパタンによって表される。
【0026】
本実施形態では、校正用マーカ40が、
図2Aに示す格子状のパタンである形態を一例として説明する。本実施形態では、校正用マーカ40が、複数の平行線L1と、平行線L1に対して直交する方向に配列された複数の平行線L2と、を含むパタンである形態を一例として説明する。
【0027】
図1に戻り説明を続ける。表示装置30は、カメラ20の校正時に、ユーザによって校正対象のカメラ20の撮影画角内に配置される。
図1には、カメラ20Aが校正対象のカメラ20である形態を一例として示す。カメラ20によって表示装置30の表示部32に表示された校正用マーカ40が撮影され、撮影によって得られた撮影画像は、カメラ校正装置10による後述する処理で用いられる。
【0028】
図3を用いて、カメラ校正装置10および表示装置30の構成を説明する。
【0029】
カメラ校正装置10および表示装置30は、CPU(Central Processing Unit)90A、ROM(Read Only Memory)90B、RAM90C、およびI/F90D等がバス90Eにより相互に接続されており、通常のコンピュータを利用したハードウェア構成となっている。
【0030】
CPU90Aは、本実施形態のカメラ校正装置10および表示装置30を制御する演算装置である。ROM90Bは、CPU90Aによる各種の処理を実現するプログラム等を記憶する。RAM90Cは、CPU90Aによる各種の処理に使用するデータを記憶する。I/F90Dは、データを送受信するためのインターフェースである。
【0031】
本実施形態のカメラ校正装置10および表示装置30で実行される情報処理を実行するためのプログラムは、ROM90B等に予め組み込んで提供される。なお、本実施形態のカメラ校正装置10および表示装置30で実行されるプログラムは、カメラ校正装置10および表示装置30にインストール可能な形式又は実行可能な形式のファイルでCD-ROM、フレキシブルディスク(FD)、CD-R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されて提供するように構成してもよい。
【0032】
次に、校正システム1の機能的構成について、
図4を用いて詳細に説明する。
【0033】
上述したように、校正システム1は、カメラ校正装置10と、カメラ20と、姿勢センサ22と、表示装置30と、を備える。カメラ校正装置10と、カメラ20、姿勢センサ22、および表示装置30とは、通信可能に接続されている。
【0034】
表示装置30は、表示部32と、入力部33と、姿勢センサ34と、記憶部35と、通信部36と、処理部37と、を備える。表示部32、入力部33、姿勢センサ34、記憶部35、通信部36、および処理部37は、バス38などを介して通信可能に接続されている。
【0035】
入力部33は、ユーザによる操作入力を受付ける。入力部33は、例えば、マウス等のポインティングデバイス、キーボード等である。なお、表示部32および入力部33は、一体的に構成されたタッチパネルであってもよい。
【0036】
記憶部35は、各種のデータを記憶する。本実施形態では、記憶部35は、表示部32に表示するための校正用マーカ40の画像データを予め記憶する。
【0037】
通信部36は、カメラ校正装置10などの外部の情報処理装置と通信するための通信インターフェースである。処理部37は、各種の情報処理を実行する。
【0038】
カメラ校正装置10は、通信部12と、記憶部14と、処理部16と、を備える。通信部12、記憶部14、および処理部16は、バス18等を介して通信可能に接続されている。
【0039】
通信部12は、表示装置30、カメラ20、および姿勢センサ22等と通信する通信インターフェースである。記憶部14は、各種の情報を記憶する。
【0040】
処理部16は、各種の情報処理を実行する。処理部16は、画像取得回路16Aと、第1姿勢情報取得回路16Bと、第2姿勢情報取得回路16Cと、算出回路16Dと、補正回路16Eと、を備える。
【0041】
画像取得回路16A、第1姿勢情報取得回路16B、第2姿勢情報取得回路16C、算出回路16D、および補正回路16Eの少なくとも1つは、例えば、CPU90Aなどの処理装置にプログラムを実行させること、例えば、ソフトウェアにより実現してもよいし、IC(Integrated Circuit)などのハードウェアにより実現してもよいし、ソフトウェアおよびハードウェアを併用して実現してもよい。また、第1姿勢情報取得回路16B、第2姿勢情報取得回路16C、算出回路16D、および補正回路16Eの少なくとも1つを、ネットワーク等を介してカメラ校正装置10に通信可能に接続された外部の情報処理装置に搭載した構成としてもよい。
【0042】
画像取得回路16Aは、表示装置30に設けられた校正用マーカ40のカメラ20による撮影画像を取得する。
【0043】
ユーザは、校正対象のカメラ20の撮影画角内に表示装置30を設置する。本実施形態では、カメラ20Aの撮影画角内に表示装置30を設置する場面を一例として説明する。そして、ユーザは、表示装置30の表示部32に表示された校正用マーカ40に含まれる少なくとも1つの平行線Lが、カメラ20Aの撮影方向に平行となるように表示装置30を配置する。
【0044】
例えば、
図2Aに示すように、ユーザは、表示部32に表示された校正用マーカ40の平行線L1がカメラ20Aの撮影方向SDに対して平行となるように、表示装置30をカメラ20Aの画角内に配置する。なお、校正用マーカ40に含まれる平行線L2と、撮影方向SDとは、完全に平行となるように配置されていなくてもよい。
【0045】
例えば、ユーザは、表示部32に表示された校正用マーカ40を視認しながら、校正用マーカ40の平行線L1が校正対象のカメラ20Aの撮影方向SDとほぼ平行となるように、カメラ20の撮影画角内に表示装置30を配置する。
【0046】
図5Aに示すように、例えば、ユーザは、カメラ20を搭載した車両2の設置面G上に表示装置30を直接載置する。設置面Gは、例えば、地面、床、等である。また、
図5Bに示すように、ユーザは、設置面Gに配置された支持部材39上に表示装置30を配置してもよい。このように、表示装置30は、設置面Gに直接設置された形態であってもよく、設置面Gに設置された支持部材39上に載置された形態であってもよい。
【0047】
そして、ユーザは、カメラ20Aの撮影方向SDと表示部32に表示された校正用マーカ40の平行線L1とが略平行となるように、カメラ20Aの撮影画角内に表示装置30を配置する。このとき、上述したように、表示部32に表示された校正用マーカ40の平行線L1または平行線L2と、カメラ20の撮影方向SDとは、完全な平行状態となっていなくてもよい。
【0048】
なお、本実施形態では、校正用マーカ40が表示装置30の表示部32に表示される形態を一例として説明する。しかし、校正用マーカ40は、表示装置30等の姿勢センサ34を備えた機器の2次元平面上に設けられていればよく、表示部32に表示される形態に限定されない。例えば、表示装置30を平板状の板状面を備えた構成とし、該板状面に校正用マーカ40を記録、記載、または添付された構成としてもよい。この場合、姿勢センサ34は、該板状面の姿勢情報を、校正用マーカ40の第1姿勢情報として検出可能な構成であればよい。
【0049】
図4に戻り説明を続ける。表示装置30の処理部37は、例えば、ユーザによる入力部33の操作指示等によって校正開始要求の入力を受付けると、記憶部35に記憶されている校正用マーカ40の画像データを読取り、表示部32に表示する。ユーザは、表示部32に表示された校正用マーカ40を視認しながら、校正用マーカ40の平行線L1とカメラ20Aの撮影方向SDとが略平行となるように、該カメラ20Aの撮影画角内に表示装置30を配置する。
【0050】
カメラ20Aは、カメラ20Aの撮影画角内に載置された表示装置30の表示部32を撮影することで、該表示部32に表示された校正用マーカ40の撮影画像を取得する。画像取得回路16Aは、カメラ20Aで撮影された撮影画像をカメラ20Aから受付けることで、実空間Sに配置された校正用マーカ40の、カメラ20Aによる撮影画像を取得する。
【0051】
図6は、カメラ20Aによって撮影された撮影画像50の一例の模式図である。撮影画像50には、撮影された校正用マーカ40の像が含まれる。以下では、撮影された校正用マーカ40の像を、単に、校正用マーカ40と称して説明する。
【0052】
図4に戻り説明を続ける。第1姿勢情報取得回路16Bは、撮影画像50の撮影時の校正用マーカ40の第1姿勢情報を取得する。
【0053】
本実施形態では、第1姿勢情報取得回路16Bは、撮影画像50の撮影時の表示部32の姿勢情報を、校正用マーカ40の第1姿勢情報として取得する。例えば、第1姿勢情報は、カメラ20Aによる撮影画像50の撮影時の、実空間Sにおける校正用マーカ40の姿勢情報である。
【0054】
例えば、第1姿勢情報取得回路16Bは、通信部12を介して表示装置30から第1姿勢情報を受信することで、第1姿勢情報を取得する。
【0055】
この場合、例えば、表示装置30の処理部37は、姿勢センサ34で検出された表示部32の第1姿勢情報を、第1姿勢情報の検出時刻を表す検出時刻情報と共に順次カメラ校正装置10へ送信する。画像取得回路16Aは、カメラ20Aから受付けた撮影画像50の撮影時刻に一致する検出時刻情報と共に受信した第1姿勢情報を、該撮影画像50に含まれる校正用マーカ40の撮影時の第1姿勢情報として特定する。そして、画像取得回路16Aは、特定した第1姿勢情報を、該撮影画像50の撮影時の第1姿勢情報として取得すればよい。
【0056】
また、例えば、表示装置30の処理部37は、校正用マーカ40の表示部32への表示中に、姿勢センサ34によって検出された第1姿勢情報を表す画像を該表示部32へ表示してもよい。
【0057】
図7Aに示すように、例えば、表示装置30の処理部37は、校正用マーカ40および第1姿勢情報を表す画像42を表示部32へ表示する。
図7Aには、第1姿勢情報を表す画像42として、第1姿勢情報を表す文字画像42Aを一例として示す。Rdxは表示部32のピッチ角を表し、Rdyは表示部32のヨー角を表し、Rdzは表示部32のロール角を表す。
【0058】
また、表示装置30の処理部37は、
図7Bに示すように、第1姿勢情報を表す画像42として第1姿勢情報を表すQR(Quick Response)(登録商標)コード42Bを表示部32へ表示してもよい。
【0059】
なお、処理部37は、姿勢センサ34によって新たな第1姿勢情報が検出されるごとに、最新の検出結果である第1姿勢情報を表す画像42を表示部32に表示すればよい。このため、表示部32には、表示部32に含まれる校正用マーカ40の現在の第1姿勢情報を表す画像42が表示される。
【0060】
図4に戻り説明を続ける。第1姿勢情報を表す画像42が表示部32に表示される場合、第1姿勢情報取得回路16Bは、カメラ20Aで撮影された撮影画像50に含まれる第1姿勢情報を表す画像42を公知の方法で画像解析することで、該撮影画像50に含まれる校正用マーカ40の撮影時の第1姿勢情報を取得する。
【0061】
第2姿勢情報取得回路16Cは、カメラ20の搭載装置である車両2の第2姿勢情報を取得する。第2姿勢情報取得回路16Cは、姿勢センサ22で検出された第2姿勢情報を受付けることで、車両2の第2姿勢情報を取得する。なお、第2姿勢情報取得回路16Cは、撮影画像50の撮影時刻に一致する検出時刻に姿勢センサ22で検出された第2姿勢情報を取得すればよい。
【0062】
算出回路16Dは、撮影画像50に含まれる校正用マーカ40に基づいて、カメラ20のカメラ姿勢情報を導出する。そして、算出回路16Dは、導出したカメラ姿勢情報に応じた校正量を算出する。
【0063】
校正量とは、カメラ20の取り付け誤差の校正に用いられる情報である。本実施形態では、校正量が、ロール角、ピッチ角、およびヨー角によって表される場合を一例として説明する。
【0064】
算出回路16Dは、撮影画像50に含まれる校正用マーカ40を用いて、公知の方法で、カメラ20のカメラ姿勢情報を導出する。例えば、算出回路16Dは、撮影画像50に含まれる校正用マーカ40によって構成される平行線Lの延長線の収束点である消失点、および、複数の消失点を通る直線である消失線に基づいて、カメラ姿勢情報を算出する。
【0065】
図8を用いて、カメラ姿勢情報の算出について説明する。
【0066】
算出回路16Dは、撮影画像50に含まれる校正用マーカ40によって構成される、撮影方向SDに沿った平行線L、および、撮影方向SDに対して交差する方向に沿った平行線L、の少なくとも一方の収束点を、消失点Pとして特定する。
【0067】
詳細には、算出回路16Dは、格子状の校正用マーカ40を構成する平行線L1と平行線L2との交点を結ぶ平行線L3および平行線L4を特定する。そして、算出回路16Dは、平行線L3の収束点を消失点P3として特定する。また、算出回路16Dは、平行線L4の収束点を消失点P2として特定する。同様に、算出回路16Dは、実空間Sに載置された校正用マーカ40の撮影方向SDに沿った平行線Lである平行線L1の収束点を、深消失点P1として特定する。深消失点P1、消失点P2、および消失点P3は、消失点Pの一例である。
【0068】
更に、算出回路16Dは、特定した2点の消失点P、例えば消失点P2と消失点P3とを通る直線を、消失線VLとして特定する。
【0069】
そして、算出回路16Dは、消失点P2、消失点P3、および消失線VLに基づいて、カメラ姿勢情報に含まれるロール角およびピッチ角を公知の方法により算出する。
【0070】
例えば、算出回路16Dは、消失線VLを用いて、公知の方法によりロール角を算出する。詳細には、例えば、算出回路16Dは、消失線VLの実空間Sにおける水平方向に対する角度を、カメラ姿勢情報に含まれるロール角として算出する。
【0071】
また、算出回路16Dは、算出したロール角と、1つの消失点P(例えば消失点P3)と、を用いて、公知の方法を用いてカメラ20のピッチ角を算出する。詳細には、例えば、算出回路16Dは、消失線VLに対する消失点Pのピッチ軸を軸中心とした移動角度を、カメラ姿勢情報に含まれるピッチ角として算出する。
【0072】
また、算出回路16Dは、算出したピッチ角と深消失点P1とを用いて、公知の方法によりカメラ20のヨー角を算出する。詳細には、算出回路16Dは、消失線VLに沿った深消失点P1の移動距離に相当する角度を、カメラ姿勢情報に含まれるヨー角として算出する。
【0073】
算出回路16Dは、これらの算出処理により算出したロール角、ピッチ角、およびヨー角を含むカメラ姿勢情報を、校正量として算出する。なお、算出回路16Dは、カメラ姿勢情報に含まれるロール角、ピッチ角、およびヨー角の各々に、”-1”を乗算することで正負(±)を逆にした値を、校正量として算出してもよい。本実施形態では、算出回路16Dは、撮影画像50に含まれる校正用マーカ40から算出したカメラ姿勢情報を、校正量として算出する場合を一例として説明する。
【0074】
図4に戻り説明を続ける。補正回路16Eは、算出回路16Dによって算出された校正量を、第1姿勢情報と第2姿勢情報との差に基づいて補正した補正校正量を算出する。
【0075】
例えば、補正回路16Eは、算出回路16Dによって撮影画像50に含まれる校正用マーカ40に基づいて算出された校正量を、撮影画像50の撮影時の校正用マーカ40の姿勢情報である第1姿勢情報と、撮影画像50の撮影時の車両2の姿勢情報である第2姿勢情報と、に基づいて補正する。そして、補正回路16Eは、補正によって得られた補正校正量を、カメラ20の正式な校正量として記憶部35へ記憶する。
【0076】
まず、補正回路16Eは、撮影画像50の撮影時の表示部32の姿勢情報である第1姿勢情報と、撮影画像50の撮影時の車両2の姿勢情報である第2姿勢情報と、の差を算出する。
【0077】
図9A~
図9Cを用いて、第1姿勢情報と第2姿勢情報との差の算出について説明する。
【0078】
上述したように、第1姿勢情報および第2姿勢情報は、姿勢情報の一例であり、ロール角、ピッチ角、ヨー角によって表される。
図9A~
図9C中、R
dxは、表示部32のピッチ角を表す。R
dyは、表示部32のヨー角を表す。R
dzは、表示部32のロール角を表す。R
cxは、車両2のピッチ角を表す。R
cyは、車両2のヨー角を表す。R
czは、車両2のロール角を表す。
図9C中、Nは、方位の北方向を表す。
【0079】
補正回路16Eは、下記式(1)~式(3)により、第1姿勢情報および第2姿勢情報の、ロール角、ピッチ角、およびヨー角の各々の差を算出することで、第1姿勢情報と第2姿勢情報との差を算出する。
【0080】
ピッチ角の差=(Rdx-Rcx) ・・・式(1)
ヨー角の差 =(Rdy-Rcy) ・・・式(2)
ロール角の差=(Rdz-Rcz) ・・・式(3)
【0081】
そして、補正回路16Eは、算出回路16Dによって校正用マーカ40に基づいて算出された校正量から、第1姿勢情報と第2姿勢情報との差を減算した結果を、補正校正量として算出する。詳細には、補正回路16Eは、下記式(4)~式(6)により、補正校正量を算出する。
【0082】
ピッチ角の補正校正量=ピッチ角の校正量-(Rdx-Rcx) ・・・式(4)
ヨー角の補正校正量 =ヨー角の校正量 -(Rdy-Rcy) ・・・式(5)
ロール角の補正校正量=ロール角の校正量-(Rdz-Rcz) ・・・式(6)
【0083】
例えば、本実施形態のカメラ校正装置10では、上記式(1)~式(3)によって表される第1姿勢情報と第2姿勢情報との差分を、校正対象のカメラ20Aから見た校正用マーカ40の設置誤差ととらえる。そして、カメラ校正装置10の補正回路16Eは、算出回路16Dで撮影画像50に含まれる校正用マーカ40に基づいて算出した校正量から、カメラ20Aからみた校正用マーカ40の設置誤差による影響成分を除去することで、正しい校正量である補正校正量を算出する。
【0084】
そして、補正回路16Eは、補正によって得られた補正校正量を、カメラ20Aの正式な校正量として記憶部14へ記憶する。
【0085】
なお、補正回路16Eは、補正によって得られた補正校正量を、校正対象のカメラ20Aの識別情報に対応付けて記憶部14へ記憶すればよい。また、補正回路16Eは、算出した補正校正量を用いて、公知の方法により、カメラ20Aの設置誤差を補正してもよい。
【0086】
また、本実施形態のカメラ校正装置10は、他の校正対象のカメラ20(カメラ20B~カメラ20D)についても同様の処理を行うことで、車両2に搭載されたカメラ20の各々ごとに、補正校正量を算出すればよい。
【0087】
次に、本実施形態の校正システム1で実行する情報処理の流れの一例を、
図10を用いて説明する。
【0088】
表示装置30の処理部37は、ユーザによる入力部33の操作指示等によって入力部33から校正開始要求を表す信号を受付けると(ステップS100)、ステップS102へ進む。
【0089】
ステップS102では、処理部37は、記憶部35から校正用マーカ40の画像データを読取り(ステップS102)、表示部32へ表示する(ステップS104)。
【0090】
ユーザは、表示部32に表示された校正用マーカ40を視認しながら、校正用マーカ40の平行線L1が校正対象のカメラ20Aの撮影方向SDとほぼ平行となるように、カメラ20の撮影画角内に表示装置30を配置する。
【0091】
処理部37は、姿勢センサ34から表示部32の第1姿勢情報を取得し(ステップS106)、第1姿勢情報を表す画像42を表示部32へ表示する(ステップS108)。このため、表示部32には、校正用マーカ40および第1姿勢情報を表す画像42が表示される。なお、処理部37は、姿勢センサ34で検出された第1姿勢情報および該第1姿勢情報の検出時間をカメラ校正装置10へ送信してもよい。
【0092】
次に、処理部37は、校正終了要求を受付けたか否かを判断する(ステップS110)。例えば、処理部37は、ユーザによる入力部33の操作指示等によって入力部33から構成終了要求を表す信号を受付けたか否かを判別することで、ステップS110の判断を行う。ステップS110で否定判断すると(ステップS110:No)、上記ステップS106へ戻る。ステップS110で肯定判断すると(ステップS110:Yes)、本ルーチンを終了する。
【0093】
次に、本実施形態のカメラ校正装置10で実行される情報処理の流れの一例を、
図11を用いて説明する。
【0094】
カメラ校正装置10の処理部16は、ユーザによる操作指示等によって校正開始要求を受付けると(ステップS200)、カメラ20から撮影画像50を取得する(ステップS202)。
【0095】
算出回路16Dは、ステップS202で取得した撮影画像50に含まれる校正用マーカ40に基づいてカメラ20のカメラ姿勢情報を導出し、カメラ姿勢情報に応じた校正量を算出する(ステップS204~ステップS222)。
【0096】
詳細には、算出回路16Dは、算出回路16Dは、撮影画像50に含まれる校正用マーカ40に含まれる、互いに交差する平行線L1および平行線L2を検出する(ステップS204)。
【0097】
平行線L1および平行線L2に検出に失敗した場合(ステップS202:No)、後述するステップS238へ進む。平行線L1および平行線L2の検出に成功した場合(ステップS202:Yes)、ステップS208へ進む。
【0098】
ステップS208では、算出回路16Dは、撮影方向SDに沿った平行線L、および、撮影方向SDに対して交差する方向に沿った平行線L、の少なくとも一方の収束点を、消失点Pとして特定する(ステップS212)。例えば、
図8に示すように、算出回路16Dは、格子状の校正用マーカ40を構成する平行線L1と平行線L2との交点を結ぶ平行線L3および平行線L4を特定する。そして、算出回路16Dは、平行線L3の収束点を消失点P3として特定する。また、算出回路16Dは、平行線L4の収束点を消失点P2として特定する。また、算出回路16Dは、実空間Sに載置された校正用マーカ40の撮影方向SDに沿った平行線Lである、撮影画像50に含まれる平行線L1の収束点である消失点Pを特定する。
【0099】
算出回路16Dは、ステップS208の処理によって消失点Pを2点以上特定出来たか否かを判断する(ステップS210)。消失点Pを2点以上特定することが困難であった場合(ステップS210:No)、後述するステップS238へ進む。消失点Pを2点以上特定できた場合(ステップS210:Yes)、ステップS212へ進む。
【0100】
ステップS212では、算出回路16Dは、ステップS208で特定した2点の消失点Pを通る線を消失線VLとして特定する(ステップS212)。また、算出回路16Dは、ステップS208で特定した消失点Pの内、撮影方向SDに沿った平行線Lである平行線L1の収束点である消失点Pを、深消失点P1として特定する(ステップS214)。
【0101】
次に、算出回路16Dは、ステップS212で特定した消失線VLの、実空間Sにおける水平方向に対する角度を、カメラ20のロール角として算出する(ステップS216)。
【0102】
次に、算出回路16Dは、ステップS216で算出したロール角と、ステップS212で特定した1つの消失点P(例えば消失点P3、
図8参照)と、を用いて、カメラ20のピッチ角を算出する(ステップS218)。
【0103】
次に、算出回路16Dは、ステップPS218で算出したピッチ角とステップS214で特定した深消失点P1とを用いて、カメラ20のヨー角を算出する(ステップS220)。
【0104】
算出回路16Dは、ステップS216~ステップS220によって算出された、カメラ20のロール角、ピッチ角、およびヨー角によって表されるカメラ姿勢情報に応じて、カメラ20の校正量を算出する(ステップS222)。例えば、算出回路16Dは、ステップS216~ステップS220によって算出された、カメラ20のロール角、ピッチ角、およびヨー角によって表されるカメラ姿勢情報を、カメラ20の校正量として算出する。
【0105】
次に、算出回路16Dは、ステップS222で算出した校正量が正常であるか否かを判断する(ステップS224)。例えば、算出回路16Dは、カメラ20の識別情報に対応付けて、カメラ20の取りうるカメラ姿勢情報の範囲を予め記憶部14へ記憶する。カメラ20の取りうるカメラ姿勢情報の範囲には、カメラ20の製造メーカ等から提供された情報等を用いればよい。算出回路16Dは、ステップS222で算出した校正量が、校正対象のカメラ20のカメラ識別情報に対応するカメラ姿勢情報の範囲内の値であるか否かを判別することで、ステップS224の判断を行う。
【0106】
ステップS224で否定判断すると(ステップS224:No)、後述するステップS238へ進む。ステップS224で肯定判断すると(ステップS224:Yes)、ステップS226へ進む。
【0107】
ステップS226では、第1姿勢情報取得回路16Bが、ステップS202で取得した撮影画像50の撮影時の校正用マーカ40の第1姿勢情報を取得する(ステップS230)。第1姿勢情報取得回路16Bが第1姿勢情報の取得に失敗した場合(ステップS228:No)、後述するステップS238へ進む。第1姿勢情報取得回路16Bが第1姿勢情報の取得に成功した場合(ステップS228:Yes)、ステップS230へ進む。
【0108】
ステップS230では、第2姿勢情報取得回路16Cが、ステップS202で取得した撮影画像50の撮影時の車両2の第2姿勢情報を取得する(ステップS230)。
【0109】
補正回路16Eは、ステップS226で取得した第1姿勢情報とステップS230で取得した第2姿勢情報との差を算出する(ステップ232)。
【0110】
次に、補正回路16Eは、ステップS222で算出した校正量から、ステップS232で算出した第1姿勢情報と第2姿勢情報との差を減算することで、補正校正量を算出する(ステップS234)。そして、補正回路16Eは、ステップS234で算出した補正校正量を、校正対象のカメラ20の正式な校正量として、該カメラ20の識別情報に対応付けて記憶部14へ記憶する(ステップS236)。そして、本ルーチンを終了する。
【0111】
一方、ステップS238では、処理部16は、校正エラーを表す情報をカメラ校正装置10の図示を省略する表示部等に出力し(ステップS238)、本ルーチンを終了する。
【0112】
以上説明したように、本実施形態のカメラ校正装置10は、画像取得回路16Aと、第1姿勢情報取得回路16Bと、第2姿勢情報取得回路16Cと、算出回路16Dと、補正回路16Eと、を備える。画像取得回路16Aは、姿勢センサ34を備えた表示装置30(情報機器)に設けられた校正用マーカ40のカメラ20による撮影画像50を取得する。第1姿勢情報取得回路16Bは、撮影画像50の撮影時の校正用マーカ40の第1姿勢情報を取得する。第2姿勢情報取得回路16Cは、カメラ20の搭載装置(車両2)の第2姿勢情報を取得する。算出回路16Dは、撮影画像50に含まれる校正用マーカ40に基づいて導出したカメラ20のカメラ姿勢情報に応じた校正量を算出する。補正回路16Eは、算出回路16Dで算出された校正量を、第1姿勢情報と第2姿勢情報との差に基づいて補正する。
【0113】
ここで、従来技術には、車両2に対して正確な角度で床面に配置された校正用のマーカを車両2に搭載されたカメラ20で撮影し、撮影画像に含まれるマーカの特徴点等を用いてカメラ20の校正量を求める方法が開示されている。しかしながら、従来技術では、車両2等のカメラ20の搭載機器の周囲に、搭載機器に対して正確な角度で高精度にマーカを配置する必要があり、設置環境によっては校正精度が低下する場合があった。
【0114】
例えば、車両2を販売する販売業者等でカメラ20の校正作業を行う場合、車両2の周囲にマーカを設置するための十分なスペースが無いことがある。また、精密に設置されている車両生産工場と異なり、校正担当者が都度手作業で設置するため、校正担当者が車両2に対して正確な角度でマーカを車両2の周囲に設置することが困難となり、加えて、多大な時間も要する場合がある。
【0115】
しかしながら、従来技術は、車両2に対して正確な角度で高精度に配置したマーカを用いる方法であるため、校正精度が低下する場合があった。
【0116】
一方、本実施形態のカメラ校正装置10では、撮影画像50に写り込んだ校正用マーカ40に基づいて導出したカメラ20の校正量を、該撮影画像50の撮影時の校正用マーカ40の第1姿勢情報と該撮影画像50の撮影時の車両2の第2姿勢情報とを用いて補正する。そして、本実施形態のカメラ校正装置10では、校正量の補正によって得られた補正校正量を、カメラ20の正式な校正量として扱う。
【0117】
例えば、本実施形態のカメラ校正装置10は、第1姿勢情報と第2姿勢情報との差分を、校正対象のカメラ20から見た校正用マーカ40の設置誤差ととらえる。そして、カメラ校正装置10は、撮影画像50に含まれる校正用マーカ40に基づいて算出した校正量から、カメラ20からみた校正用マーカ40の設置誤差による影響成分を除去した補正校正量を、カメラ20の正しい校正量として算出する。
【0118】
このように、本実施形態のカメラ校正装置10は、実空間Sに配置された校正用マーカ40の設置誤差による影響を除去した補正校正量を算出する。このため、本実施形態のカメラ校正装置10は、車両2に搭載されたカメラ20に対する校正用マーカ40の設置精度が低い場合であっても、高精度にカメラ20の校正量を算出することができる。
【0119】
従って、本実施形態のカメラ校正装置10は、カメラ20の校正精度および作業効率の向上を図ることができる。
【0120】
また、本実施形態のカメラ校正装置10は、校正対象のカメラ20を搭載した車両2等の搭載機器の周囲に校正用マーカ40の設置スペースが十分に無い環境であっても、カメラ20の校正精度および作業効率の向上を図ることができる。
【0121】
また、本実施形態のカメラ校正装置10は、車両2の周囲に校正用マーカ40を配置する校正担当者の熟練度に拘わらず、カメラ20の校正精度および作業効率の向上を図ることができる。また、校正用マーカと車両姿勢の差を補正する機能を有するため、校正用マーカを正確に設置しなくてもよく、作業時間を短縮することができる。
【0122】
なお、上述の実施形態においては、各構成要素に用いる「・・・部」という表記は、「・・・回路(circuitry)」、「・・・アッセンブリ」、「・・・デバイス」、「・・・ユニット」、または、「・・・モジュール」といった他の表記に置換されてもよい。
【0123】
以上、図面を参照しながら実施形態について説明したが、本開示はかかる例に限定されない。当業者であれば、特許請求の範囲に記載された範疇において、各種の変更例または修正例に想到し得ることは明らかである。そのような変更例または修正例についても、本開示の技術的範囲に属するものと了解される。また、本開示の趣旨を逸脱しない範囲において、実施形態における各構成要素は任意に組み合わされてよい。
【0124】
本開示はソフトウェア、ハードウェア、または、ハードウェアと連携したソフトウェアで実現することが可能である。上記実施形態の説明に用いた各機能ブロックは、部分的にまたは全体的に、集積回路であるLSIとして実現され、上記実施形態で説明した各プロセスは、部分的にまたは全体的に、一つのLSIまたはLSIの組み合わせによって制御されてもよい。LSIは個々のチップから構成されてもよいし、機能ブロックの一部または全てを含むように一つのチップから構成されてもよい。LSIはデータの入力と出力を備えてもよい。LSIは、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
【0125】
集積回路化の手法はLSIに限るものではなく、専用回路、汎用プロセッサまたは専用プロセッサで実現してもよい。また、LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。本開示は、デジタル処理またはアナログ処理として実現されてもよい。
【0126】
さらには、半導体技術の進歩または派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適用等が可能性としてありえる。
【0127】
なお、上記には、実施形態を説明したが、上記実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。上記新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。上記実施形態は、発明の範囲または要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0128】
2 車両
10 カメラ校正装置
16A 画像取得回路
16B 第1姿勢情報取得回路
16C 第2姿勢情報取得回路
16D 算出回路
16E 補正回路
20、20A、20B、20C、20D カメラ
22 姿勢センサ
30 表示装置
32 表示部
34 姿勢センサ