IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社リコーの特許一覧

特開2024-79054測距システム、測距装置、距離情報の補正方法、及び補正用被写体
<>
  • 特開-測距システム、測距装置、距離情報の補正方法、及び補正用被写体 図1
  • 特開-測距システム、測距装置、距離情報の補正方法、及び補正用被写体 図2
  • 特開-測距システム、測距装置、距離情報の補正方法、及び補正用被写体 図3
  • 特開-測距システム、測距装置、距離情報の補正方法、及び補正用被写体 図4
  • 特開-測距システム、測距装置、距離情報の補正方法、及び補正用被写体 図5
  • 特開-測距システム、測距装置、距離情報の補正方法、及び補正用被写体 図6
  • 特開-測距システム、測距装置、距離情報の補正方法、及び補正用被写体 図7
  • 特開-測距システム、測距装置、距離情報の補正方法、及び補正用被写体 図8
  • 特開-測距システム、測距装置、距離情報の補正方法、及び補正用被写体 図9
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024079054
(43)【公開日】2024-06-11
(54)【発明の名称】測距システム、測距装置、距離情報の補正方法、及び補正用被写体
(51)【国際特許分類】
   G01S 7/497 20060101AFI20240604BHJP
   G01S 17/86 20200101ALI20240604BHJP
   G01S 17/894 20200101ALI20240604BHJP
   G01C 3/06 20060101ALI20240604BHJP
【FI】
G01S7/497
G01S17/86
G01S17/894
G01C3/06 120Q
G01C3/06 140
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2022191761
(22)【出願日】2022-11-30
(71)【出願人】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100107515
【弁理士】
【氏名又は名称】廣田 浩一
(72)【発明者】
【氏名】美馬 大樹
【テーマコード(参考)】
2F112
5J084
【Fターム(参考)】
2F112AD01
2F112BA06
2F112CA12
2F112DA21
2F112DA25
2F112DA26
2F112DA28
2F112EA07
2F112FA03
2F112GA01
5J084AA05
5J084AD01
5J084AD02
5J084BA04
5J084BA07
5J084BA20
5J084BA34
5J084BA40
5J084BB02
5J084CA07
5J084CA10
5J084CA12
5J084CA19
5J084CA65
5J084CA67
5J084EA11
(57)【要約】
【課題】 距離情報の補正精度に優れた測距装置を提供することを目的とする。
【解決手段】 開示の一態様に係る測距システムは、可視光を含む入射光を受光し撮像する第1撮像部と、投光光を投光する投光部と、前記投光光を含む入射光を受光し撮像する第2撮像部と、前記第2撮像部の出力に基づき距離情報を出力する測距処理部と、前記距離情報を補正するために用いられる補正情報を取得する取得部と、前記測距処理部から出力される前記距離情報を、前記補正情報を用いて補正する補正部と、有し、前記取得部は、前記投光光を所定の吸光率以上で吸収する第1部分を含む第1補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、前記投光光を所定の反射率以上で反射する第2部分で構成される第2補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、に基づいて、前記補正情報を取得する。
【選択図】 図1
【特許請求の範囲】
【請求項1】
可視光を含む入射光を受光し撮像する第1撮像部と、
投光光を投光する投光部と、
前記投光光を含む入射光を受光し撮像する第2撮像部と、
前記第2撮像部の出力に基づき距離情報を出力する測距処理部と、
前記距離情報を補正するために用いられる補正情報を取得する取得部と、
前記測距処理部から出力される前記距離情報を、前記補正情報を用いて補正する補正部と、有し、
前記取得部は、前記投光光を所定の吸光率以上で吸収する第1部分を含む第1補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、前記投光光を所定の反射率以上で反射する第2部分で構成される第2補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、に基づいて、前記補正情報を取得する、測距システム。
【請求項2】
前記取得部は、前記補正情報として、前記第1撮像部で撮像された前記第1補正用被写体の第1画像情報と、前記第2撮像部で撮像された前記第1補正用被写体の第2画像情報とを取得し、
前記補正部は、
前記第1画像情報及び前記第2画像情報に基づき、前記第1撮像部及び前記第2撮像部のカメラキャリブレーションを行う、請求項1に記載の測距システム。
【請求項3】
前記取得部は、前記補正情報として、前記第1撮像部で撮像された前記第1補正用被写体の第1画像情報と、前記第2撮像部で撮像された前記第1補正用被写体の第2画像情報と、を取得し、
前記補正部は、
前記第1画像情報から、前記第1撮像部を基準とする座標系での前記第1補正用被写体の位置座標を算出し、
前記第2画像情報から、前記第2撮像部を基準とする座標系での前記第1補正用被写体の位置座標を算出し、
前記第1撮像部を基準とする座標系での前記位置座標と、前記第2撮像部を基準とする座標系での前記位置座標とに基づき、前記第1撮像部を基準とする座標系から前記第2撮像部を基準とする座標系への座標変換パラメータを算出する、請求項1又は請求項2に記載の測距システム。
【請求項4】
前記取得部は、前記補正情報として、前記第1撮像部で撮像された前記第2補正用被写体の第3画像情報と、前記第2撮像部で撮像された前記第2補正用被写体の第4画像情報と、を取得し、
前記補正部は、
前記第3画像情報から、前記座標変換パラメータを用いて、前記第2補正用被写体の位置座標を、前記第2撮像部を基準とする前記座標系での位置座標に変換し、
前記第4画像情報に基づき前記測距処理部から出力される前記第2補正用被写体の前記距離情報を、前記第2撮像部を基準とする前記座標系での前記第2補正用被写体の前記位置座標に基づき補正する、請求項3に記載の測距システム。
【請求項5】
前記第1撮像部は輝度カメラであり、前記第2撮像部はToFカメラである、請求項1又は請求項2に記載の測距システム。
【請求項6】
可視光を含む入射光を受光し撮像する第1撮像部と、
投光光を投光する投光部と、
前記投光光を含む入射光を受光し撮像する第2撮像部と、
前記第2撮像部の出力に基づき距離情報を出力する測距処理部と、
前記距離情報を補正するために用いられる補正情報を取得する取得部と、
前記測距処理部から出力される前記距離情報を、前記補正情報を用いて補正する補正部と、有し、
前記取得部は、前記投光光を所定の吸光率以上で吸収する第1部分を含む第1補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、前記投光光を所定の反射率以上で反射する第2部分で構成される第2補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、に基づいて、前記補正情報を取得する、測距装置。
【請求項7】
第1撮像部を用いて、可視光を含む入射光を受光し撮像する第1撮像ステップと、
投光光を投光する投光ステップと、
第2撮像部を用いて、前記投光光を含む入射光を受光し撮像する第2撮像ステップと、
前記第2撮像部からの出力に基づき距離情報を出力する測距処理ステップと、
前記距離情報を補正するために用いられる補正情報を取得する取得ステップと、
前記測距処理ステップにおいて出力される前記距離情報を、前記補正情報を用いて補正する補正ステップと、有し、
前記取得ステップにおいて、前記投光光を所定の吸光率以上で吸収する第1部分を含む第1補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、前記投光光を所定の反射率以上で反射する第2部分で構成される第2補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、に基づいて、前記補正情報を取得する、距離情報の補正方法。
【請求項8】
測距装置の測距処理部から出力される距離情報を補正するための補正用被写体であって、
投光部からの投光光を所定の吸光率以上で吸収する第1部分を含む第1補正用被写体と、
前記投光光を所定の反射率以上で反射する第2部分で構成される第2補正用被写体と、を有する補正用被写体。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、測距システム、測距装置、距離情報の補正方法、及び補正用被写体に関する。
【背景技術】
【0002】
光を照射してから反射光を受光するまでの時間に基づき物体までの距離を測定するToF(Time of Flight)方式の測距装置が知られている。
【0003】
また、三次元座標の相関が明らかな少なくとも三つ以上の特徴点を有する参照物体を撮像した二次元画像に基づいて参照物体までの距離を算出し、算出した参照物体までの距離と距離画像における参照物体までの測距値との比較により、距離画像を補正するための補正量を算出する測距装置が開示されている(例えば、特許文献1参照)。
【発明の概要】
【発明が解決しようとする課題】
【0004】
測距システム、測距装置、及び距離情報の補正方法では、距離情報の高い補正精度が求められている。
【0005】
開示の技術は、距離情報の補正精度に優れた測距システム、測距装置、及び距離情報の補正方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
開示の一態様に係る測距システムは、可視光を含む入射光を受光し撮像する第1撮像部と、投光光を投光する投光部と、前記投光光を含む入射光を受光し撮像する第2撮像部と、前記第2撮像部の出力に基づき距離情報を出力する測距処理部と、前記距離情報を補正するために用いられる補正情報を取得する取得部と、前記測距処理部から出力される前記距離情報を、前記補正情報を用いて補正する補正部と、有し、前記取得部は、前記投光光を所定の吸光率以上で吸収する第1部分を含む第1補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、前記投光光を所定の反射率以上で反射する第2部分で構成される第2補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、に基づいて、前記補正情報を取得する。
【発明の効果】
【0007】
開示の技術によれば、距離情報の補正精度に優れた測距システム、測距装置、及び距離情報の補正方法を提供することができる。
【図面の簡単な説明】
【0008】
図1図1は、第1実施形態の測距装置の構成の一例を示す図である。
図2図2は、第1実施形態の測距装置の概略構成の一例を示す図である。
図3図3は、第1実施形態の光学系の配置の一例を示す図である。
図4図4は、第1実施形態の測距装置のハードウェア構成の例を示すブロック図である。
図5図5は、第1実施形態の測距装置の機能構成の一例を示すブロック図である。
図6図6は、第1実施形態の測距装置における測距プロセスを説明する図である。
図7図7は、第1実施形態における距離情報の補正の際に用いる補正用被写体を示す模式図である。
図8図8は、補正用被写体の他の例を示す模式図である。
図9図9は、第1実施形態の距離情報の補正方法を説明するためのフローチャートである。
【発明を実施するための形態】
【0009】
以下、図面を参照して発明を実施するための形態について説明する。各図面において、同一構成部分には同一符号を付し、重複した説明を省略する場合がある。
【0010】
[第1実施形態]
<全体構成>
図1及び図2を参照して、第1実施形態に係る撮像装置の構成を説明する。図1は、第1実施形態に係る撮像装置100の構成を示す外観斜視図、図2は、撮像装置100の概略構成の一例を示す図である。
【0011】
本実施形態の撮像装置100は、ToF方式の測距カメラと、輝度カメラとしての機能を有する。なお、以下、撮像装置100の測距装置としての機能を中心に説明するため、「撮像装置100」を「測距装置100」と言い換える場合がある。また、本実施形態の輝度カメラは、RGBカメラであるが、白黒カメラであってもよい。
【0012】
図1及び図2に示すように、測距装置100は、投光ユニット21と、輝度受光ユニット35と、ToF受光ユニット61と、基板と、を備える。また、投光ユニット21とToF受光ユニット61とがToF方式の測距装置を構成する。
【0013】
輝度受光ユニット35が、輝度カメラとして機能する。輝度受光ユニット35を、以下、「輝度カメラ」という場合がある。輝度カメラ35は、「第1撮像部」の一例である。また、ToF受光ユニット61が、ToFカメラとして機能する。ToF受光ユニット61を、以下、「ToFカメラ61」という場合がある。ToFカメラ61は、「第2撮像部」の一例である。また、「輝度カメラ」と「ToFカメラ」とを総称して、「撮像部」という場合がある。なお、投光ユニット21は、「投光部」の一例である。
【0014】
輝度カメラ35が被写体(計測対象物)を撮像する場合、例えば、自然光等の可視光が照射された被写体からの反射光が、輝度カメラ35に入射する。これにより、輝度カメラ35は、被写体からの反射光を含む入射光を受光し、被写体を撮像する。また、ToFカメラ61が被写体(計測対象物)を撮像する場合、光源210からの投光光(測距光LOを含む)が被写体に投光される。それに伴い、被写体からの投光光の反射光が、ToFカメラ61に入射する。これにより、ToFカメラ61は、被写体からの反射光を含む入射光を受光し、被写体を撮像する。
【0015】
輝度カメラ35で撮像された撮影結果(画像情報)は、輝度カメラ35のカメラキャリブレーション、測距値の補正に用いられる。また、ToFカメラ61で撮像された撮影結果(画像情報)は、ToFカメラ61のカメラキャリブレーション、測距値の算出、測距値の補正に用いられる。
【0016】
投光ユニット21は、計測対象領域に向けて測距光(近赤外光等)を照射する。投光ユニット21は、近赤外光を放出する光源210と、発散角を広げる光学素子からなるTоF投光系111(投光光学系)を含む。光源210からの光が、ToF投光系111の光学素子を介して広角に出射される。
【0017】
TоF投光系111は、レンズ、回折光学素子(DOE: Diffractive Optical Element)、拡散板等を含む。光源210は、例えば、2次元アレイの垂直共振器型面発光レーザ(VCSEL;Vertical Cavity Surface Emitting Laser)である。本実施形態の測距装置100は、互いに反対方向を向いて配置された2個の投光ユニット21を有している。
【0018】
投光ユニット21から出射された測距光は、計測対象領域に存在する物体(計測対象物)で反射される。ToFカメラ61は、計測対象領域の物体からの反射光を受光する。ToFカメラ61は、測距光に感度を有するToFセンサ110と、入射光をTоFセンサ110へ導く光学素子からなるToF受光光学系112(第1受光光学系)を含む。
【0019】
ToF受光光学系112の光学素子は、例えばレンズを含む。これに対して、ToFセンサ110は受光画素が二次元に配列した受光素子(CMOS撮像素子等)であり、各画素が計測対象領域内の各位置と対応している。そのため、ToFカメラ61は、計測対象領域内の各位置からの光を個別に受光することができる。本実施形態の測距装置100は、互いに異なる方向を向いて配置された4個のToFカメラ61を有している。
【0020】
輝度カメラ35は、CMOSセンサ33により2次元画像を取得する。輝度カメラ35は、輝度画像(RGB画像や白黒画像)を撮影するためのCMOSセンサ33と、入射光をCMOSセンサ33へ導く光学素子からなる輝度受光光学系113(第2受光光学系)を含む。輝度受光光学系113の光学素子は、例えばレンズを含む。
【0021】
基板は、投光ユニット21とToFカメラ61と輝度カメラ35とを駆動または制御するための基板である。基板は、例えばCMOS基板、光源基板、メイン基板を含み、光源210、TоFセンサ110、CMOSセンサ33のそれぞれとケーブル等を介して接続される。基板に形成された回路により制御部120が構成される。
【0022】
本実施形態では、図1及び図2に示すように、測距装置100はZ軸方向に長い形状を有する。測距装置100の最も+Z方向側に位置する一段目には、各々の画角が120度以上の4つのToF受光光学系112が、XY平面内の3方向と+Z方向である1方向を向くよう配置されている。
【0023】
測距装置100の一段目より-Z方向側に配設される二段目には、各々の画角が180度以上の2つのToF投光系111と、各々の画角が180度の2つの輝度受光光学系113とが配置されている。2つのTоF投光系111はそれぞれ反対方向(+X方向と-X方向)を向き、2つの輝度受光光学系113もそれぞれ反対方向(+Y方向と-Y方向)を向いている。
【0024】
測距装置100の-Z方向側の下段には、制御部120、バッテリー130が配置されている。これにより、全天球をカバーする光学系をコンパクトに配置し、測距装置を小型化することができる。
【0025】
制御部120は、投光ユニット21(投光部)が投光するタイミングを制御するとともに、ToFカメラ61による受光を検出する。まず、制御部120は、光源210を駆動するタイミングを制御し、計測対象領域に向かって光を照射させる。さらに、ToFセンサ110で受光した光を光電変換し、距離画像として出力する。同時に、CMOSセンサ33による撮像を行い、輝度画像を出力する。
【0026】
ここで、本実施形態のToFセンサ110は、間接ToFセンサであるが、直接ToFセンサであってもよい。TоFセンサ110として間接TоFセンサを用いる場合、異なる4つの位相において各画素での受光量に基づく位相画像が出力される。4つの位相画像から距離画像を生成することができる。これに対して、直接TоFセンサを用いた場合は、各画素での受光タイミングに基づく距離画像が出力される。
【0027】
<測距装置のハードウェア構成>
次に、図4を参照して、第1実施形態に係る測距装置100のハードウェア構成の一例を説明する。図4に示されるように、本実施形態の測距装置100における制御部120は、CPU(Central Processing Unit)241と、ROM(Read Only Memory)242と、RAM(Random Access Memory)243と、I/Oポート244とを備えている。
【0028】
CPU241は、ROM242に記憶されたプログラムを実行することにより、順次、分岐及び反復処理等を実行する演算装置である。ROM242は、CPU241で実行されるプログラム等が記憶された不揮発性記憶装置である。RAM243は、CPU241の動作のワークエリア(作業領域)として機能するメモリである。I/Oポート244は、各種信号の入出力を行うインターフェースである。また、これらは、バスを介して相互に接続される。
【0029】
<測距装置の機能構成>
次に、図5から図7を参照して、第1実施形態に係る測距装置100の機能構成の一例を説明する。図5は、第1実施形態に係る測距装置100の機能構成例を示すブロック図である。図6は、第1実施形態の測距装置100における測距プロセスを説明する図である。図7は、距離情報の補正の際に用いる補正用被写体を示す模式図である。
【0030】
図5に示されるように、測距装置100は、光源210、ToFカメラ61、輝度カメラ35、制御部120を有する。制御部120は、光源210、ToFカメラ61、輝度カメラ35の各種動作を制御する。また、制御部120は、投光制御部12、受光制御部22、制御演算部30、取得部40、補正部50等を有する。
【0031】
<<投光制御部>>
投光制御部12は、所定のタイミングに基づいて計測対象物に測距光を投光するよう、光源210の駆動を制御する。また、投光制御部12は、投光のタイミングとともに測距光の変調周波数、露光時間、繰り返し回数などの情報を光源210に出力する。光源210は、投光制御部12から出力されるこれらの情報に基づき、計測対象物に測距光を投光する。なお、本実施形態の投光制御部12は、CPU241等によって実現される。
【0032】
<<受光制御部>>
受光制御部22は、計測対象物により反射され、ToFカメラ61のToFセンサ110で受光される反射光の受光タイミングを制御する。ここで、ToFセンサ110の受光センサ面は複数の「電荷蓄積窓」を有する。受光制御部22は、電荷蓄積窓の開閉を個別に制御するタイミングをToFセンサ110に出力し、このタイミングに基づき反射光の受光が行われる。ToFセンサ110は、各電荷蓄積窓の開閉のタイミングで、受光した反射光に応じた電荷を蓄積する。なお、本実施形態の受光制御部22は、CPU241等によって実現される。
【0033】
<<制御演算部>>
ToFセンサ110は、受光した反射光に係る電荷蓄積窓ごとの蓄積電荷量の情報を制御演算部30に出力する。電荷蓄積窓ごとの蓄積電荷量の情報を受けた制御演算部30は、測距に必要な演算を行う。すなわち、制御演算部30は、ToFセンサ110からの出力に基づいて計測対象物の測距値を算出する。制御演算部30は、「測距処理部」の一例である。また、測距値は、「距離情報」の一例である。なお、本実施形態の制御演算部30は、CPU241等によって実現される。
【0034】
図6を参照して、制御演算部30等で実行される測距プロセスの一例を説明する。まず、測距装置100の測距プロセスでは、測距光LOの光量変化が「理想的な矩形形状」である場合を想定する。なお、測距装置100の測距プロセスは、間接ToF方式に基づくプロセスである。ただし、測距プロセスは、間接ToF方式に限られず、直接ToF方式であってもよい。
【0035】
図6に示されるように、測距装置100の測距プロセスは、反射光LRを4つの電荷蓄積窓の開閉により4つの電荷蓄積によりサンプリングする。ここで、図5の最上位の「Output」に、投光される測距光LOのパルス幅が示される。測距光LOは、パルス幅πを有し、位相0で投光される。なお、測距光LOのパルス幅は、投光制御部12から出力される「変調周波数fmod」により定まる。
【0036】
図6の「Reflect」に、計測対象物Oから反射された反射光LRのパルス幅が示される。反射光LRは、測距光LOの光量変化に応じて矩形形状を有する。また、反射光LRは、パルス幅πを有する。
【0037】
図6の「N0」に、第1の電荷蓄積窓の開閉タイミングが示される。また、「N1」に、第2の電荷蓄積窓の開閉タイミングが示される。また、「N2」に、第3の電荷蓄積窓の開閉タイミングが示される。また、「N3」に、第4の電荷蓄積窓の開閉タイミングが示される。
【0038】
図6に示される「Depth」は、測距光LOが投光されてから、計測対象物Oに反射されてToFセンサ110により受光が開始されるまでの時間間隔に対応する「位相差」である。測距されるべき距離は、このDepthに対応する位相差の「1/2の位相差に対応する距離」である。ToFセンサ110の受光面は、前述のN0からN3の4つの「電荷蓄積窓」を有し、これら4つの電荷蓄積窓が受光制御部22から与えられるタイミングで順次に開閉し、受光量に応じた電荷の蓄積を行う。
【0039】
具体的には、ToF方式における測距プロセスでは、測距光LOが計測対象物Oに当たり戻ってくるまでの時間差τに対し、光速c、光源210から計測対象物Oまでの距離dsと計測対象物OからToFセンサ110までの距離drとすると、合計距離dについて
d=(ds+dr)=cτ・・・(1)
が成立する。本実施形態における測距プロセスで用いる間接ToF方式では、直接的に時間差τを測定するのではなく、光源210からの出力信号と、受光信号間の位相差φから距離を求める。
【0040】
ToFセンサ110によって検出されるのはあくまで光源210から出射された測距光LOが通った距離なので、測定結果である合計距離dは、一般的な装置における、「装置から計測対象物Oまでの距離D」の2倍の数値となる。ここでは、光源210とToFセンサ110とが対称な場所に位置し、ds=drとみなせる場合を仮定する。
【0041】
このとき、
d=2D=(c/2πfmod)×φ・・・式(2)
より、
D=(c/4πfmod)×φ・・・式(3)
である。
【0042】
計測対象物Oで反射した反射光LRは、ToFセンサ110の受光面に到達すると、「電荷蓄積窓」の開閉によって対応する位相の時間内に飛んできた反射光LRの強度に応じた電荷量を蓄積する。すなわち、N0では、投光された測距光LOの投光開始と同時に電荷蓄積窓が開いて「位相πまでの受光による電荷」を蓄積する。同様に、N1では、位相π/2から3π/2まで、N2では、位相πから2πまで、N3では、位相3π/2から5π/2まで、受光による電荷の蓄積を行う。
【0043】
すなわち、各電荷蓄積窓が開閉するタイミングは、位相差π/2で4段階にシフトする。「各サンプリングで蓄積された電荷量」を上記タイミングN0、N1、N2、N3に応じて、n0、n1、n2、n3で表すと、離散フーリエ変換により、位相差Depthに対応する距離Dが、次式(4)のように求められる。
D=(1/4πfmod)×arctan{(N1-N3)/(N0-N2)}・・・式(4)
【0044】
<<取得部>>
取得部40は、輝度カメラ35及びToFカメラ61で撮像された画像情報を取得する。また、取得した画像情報を補正部50に出力する。ここで、補正部50が制御演算部30で演算される測距値を補正する際、図7に示される補正用被写体70が用いられる。
【0045】
まず、輝度カメラ35及びToFカメラ61は、補正用被写体70を撮像する。また、取得部40は、輝度カメラ35及びToFカメラ61のそれぞれから、補正用被写体70の画像情報を取得する。なお、補正用被写体70の画像情報は、「補正情報」の一例である。また、本実施形態の取得部40は、CPU241、I/O244等によって実現される。
【0046】
本実施形態の補正用被写体70は、図7に示される第1補正用被写体71(図7(a))及び第2補正用被写体72(図7(b))である。
【0047】
第1補正用被写体71は、幅、高さ、奥行きに関するサイズが既知のチェッカーボードである。第1補正用被写体71の表面には、白色と黒色とが交互に並ぶ格子模様が表されている。
【0048】
第2補正用被写体72も同様に、幅、高さ、奥行きに関するサイズが既知のチェッカーボードである。第2補正用被写体72の表面には、白色と、黒色とは異なる他の色とが交互に並ぶ格子模様が表されている。黒色とは異なる他の色は、例えば、ToF投光系111の光源210から投光される近赤外光の吸光率が低い色(言い換えれば、近赤外光の反射率が高い色)であることが好ましい。本実施形態の第2補正用被写体では、白色と青色とが交互に並ぶ格子模様が用いられる。
【0049】
以下、輝度カメラ35で撮像された第1補正用被写体71の画像情報を「第1画像情報」という場合がある。また、ToFカメラ61で撮像された第1補正用被写体71の画像情報を「第2画像情報」という場合がある。また、輝度カメラ35で撮像された第2補正用被写体72の画像情報を「第3画像情報」という場合がある。また、ToFカメラ61で撮像された第2補正用被写体72の画像情報を「第4画像情報」という場合がある。
【0050】
<<補正部>>
補正部50は、取得部40から出力された第1補正用被写体71の画像情報及び第2補正用被写体72の画像情報を補正すると共に、制御演算部30から出力される測距値を補正する。本実施形態の補正部50は、CPU241等によって実現される。
【0051】
具体的には、補正部50は、輝度カメラ35で撮像された第1補正用被写体71の第1画像情報から、輝度カメラ35の内部パラメータN11及び外部パラメータG11を算出し、輝度カメラ35のカメラキャリブレーションを行う。補正部50は、第1補正用被写体71に表される格子模様の特徴点を検出し、輝度カメラ35の内部パラメータN11及び外部パラメータG11を算出する。特徴点の例として、縦横に延びる直線の交点である格子点が挙げられる。
【0052】
内部パラメータN11及び外部パラメータG11の算出方法の例として、いわゆるZhangのカメラキャリブレーション手法(以下、「Zhangの手法」という場合がある)等が挙げられる。ただし、内部パラメータN11及び外部パラメータG11の算出方法は、これに限られない。
【0053】
輝度カメラ35の内部パラメータN11の例として、輝度カメラ35のレンズ焦点距離、歪収差係数等が挙げられる。また、輝度カメラ35の外部パラメータG11の例として、輝度カメラ35で撮像された第1補正用被写体71の位置座標を、世界座標系から輝度カメラ35を基準とする座標系(以下、「輝度カメラ座標系」という場合がある)に変換する回転行列と並進ベクトル等が挙げられる。輝度カメラ座標系の原点は、例えば、輝度受光光学系113のレンズ瞳位置の位置座標に設定される。また、世界座標系とは、すべての3次元点の絶対的な位置を示す座標系である。
【0054】
補正部50は、輝度カメラ35のカメラキャリブレーションの精度を高めるため、輝度カメラ35と第1補正用被写体71との距離や、輝度カメラ35の撮影姿勢等の条件を変えた幾つかの第1画像情報を取得部40から得ることが好ましい。
【0055】
補正部50は、ToFカメラ61で撮像された第1補正用被写体71の第2画像情報から、ToFカメラ61の内部パラメータN21及び外部パラメータG21を算出し、ToFカメラ61のカメラキャリブレーションを行う。
【0056】
ToFカメラ61の内部パラメータN21の例として、ToFカメラ61のレンズ焦点距離、歪収差係数等が挙げられる。また、ToFカメラ61の外部パラメータG21の例として、ToFカメラ61で撮像された第1補正用被写体71の位置座標を、世界座標系からToFカメラ61を基準とする座標系(以下、「ToFカメラ座標系」という場合がある)に変換する回転行列と並進ベクトル等が挙げられる。ToFカメラ座標系の原点は、例えば、TоF受光光学系112のレンズ瞳位置の位置座標に設定される。
【0057】
補正部50は、更に、輝度カメラ座標系とToFカメラ座標系とを変換する座標変換パラメータP11である回転行列と並進ベクトルを求める。具体的には、補正部50は、輝度カメラ35のカメラキャリブレーションによって得られた、第1補正用被写体71の輝度カメラ座標系における位置座標と、ToFカメラ61のカメラキャリブレーションによって得られた、第1補正用被写体71のToFカメラ座標系における位置座標とに基づき、座標変換パラメータP11を求める。
【0058】
続いて、補正部50は、輝度カメラ35で撮像された第2補正用被写体72の第3画像情報から、輝度カメラ座標系における第2補正用被写体72の位置座標を求める。このとき、補正部50は、既に得られた輝度カメラ35の内部パラメータN11及び外部パラメータG11を用いてもよい。
【0059】
補正部50は、座標変換パラメータP11を用いて、第2補正用被写体72の位置座標を、輝度カメラ座標系からToFカメラ座標系に変換する。これにより、第2補正用被写体72におけるToFカメラ座標系の位置座標が得られる。
【0060】
補正部50は、更に、別途ToFカメラ61で撮像された第2補正用被写体72(第4画像情報)に基づき、制御演算部30で求められる第2補正用被写体72の測距値を補正する。補正部50は、第2補正用被写体72の測距値の補正に、第2補正用被写体72におけるToFカメラ座標系の位置座標を用いる。具体的には、補正部50は、第2補正用被写体72の測距値である測距値から、第2補正用被写体72の位置座標に基づき求められる距離値(真値)を差し引く。
【0061】
ところで、輝度カメラ35は、高解像度の画像情報を出力することができる。すなわち、輝度カメラ35で得られた画像情報における補正用被写体70の位置情報(位置座標毎の位置情報)が、画素毎に精細に得られる。その結果、仮に、ToFカメラ61の撮像解像度が低くても、ToFカメラ座標系における補正用被写体70の位置情報(位置座標毎の位置情報)は、輝度カメラ35の画像情報からの精細な位置情報に基づく。これにより、ToFカメラ座標系における補正用被写体70の位置情報は、同じく精細である。また、ToFカメラ61の出力に基づく測距値は、ToFカメラ61におけるToFセンサ110の画素毎に得られる。本実施形態によれば、輝度カメラ35の画素毎に得られる、補正用被写体70の精細な位置情報と、ToFセンサ110の画素毎に得られる補正用被写体の測距値とを対応付けて測距値の補正を行うため、ToFカメラ61の全画素に亘って精度の高い測距値の補正を行うことができる。
【0062】
<補正用被写体>
第1補正用被写体71及び第2補正用被写体72に表される模様の色は、例えば、以下の観点に基づき選択されることが好ましい。
【0063】
<<第1補正用被写体>>
本実施形態において、第1補正用被写体71は、輝度カメラ35及びToFカメラ61のカメラキャリブレーションを行うための媒体として機能する。したがって、第1補正用被写体71は、白色のような、可視光及び近赤外光に対して反射率の高い色領域と、黒色のような、可視光及び近赤外光に対して吸光率の高い色領域とを含む。これにより、補正部50が、第1補正用被写体71から特徴点を検出し、輝度カメラ35及びToFカメラ61のカメラキャリブレーションを行う。
【0064】
この観点に基づく色であれば、第1補正用被写体71に、白色と黒色以外の色が用いられてもよい。一例として、可視光及び近赤外光の吸光率が80%以上の第1色と、可視光及び近赤外光の吸光率が、第1色の吸光率に対して20%以下の第2色とを有するものが挙げられる。
【0065】
<<第2補正用被写体>>
ToFカメラ61の測距特性は、受光する反射光の輝度に依存して変化する。具体的には、反射光の輝度が高い程、測距値の誤差が少ない一方、反射光の輝度が低い程、測距値の誤差が大きい。
【0066】
例えば、黒色は、ToF投光系111の光源210から投光される近赤外光(800nm~2500nmの波長範囲の光)を吸収する。すなわち、黒色領域からの反射光の輝度が少なくなる。その結果、ToFカメラ61におけるToFセンサ110の黒色領域を撮像した画素からの測距値は、多分に誤差を含み得る。よって、測距値を得るための第2補正用被写体として、黒色領域を含むものを用いることは好適でない。
【0067】
これに対して、本実施形態の第2補正用被写体72に含まれる青色は、ToF投光系111の光源210から投光される近赤外光の吸光率が低い。すなわち、青色領域からの反射光の輝度が大きくなる。その結果、第2補正用被写体72のように、共に近赤外光の反射率の高い青色領域と白色領域からなる撮像対象物をToFカメラ61で撮像すると、ToFセンサ110の全画素で高輝度の反射光を受光できる。したがって、第2補正用被写体72のように、元々誤差の少ない測距値が得られる撮像対象物を用いることで、より精度の高い測距値の補正を行うことができる。
【0068】
このような観点に基づく色であれば、第2補正用被写体72に、白色と青色以外の色が用いられてもよい。一例として、近赤外光の反射率が80%以上の第3色と、近赤外光の反射率が、第3色の反射率に対して50%以上の第4色とを有するものが挙げられる。
【0069】
<<他の模様>>
本実施形態の第1補正用被写体71及び第2補正用被写体72は、共に格子模様であったが、補正部50におけるカメラキャリブレーションが可能なものであれば、特に限定されない。他の模様の一例として、図8(a)に示されるように、白地の背景に、例えば、黒色や青色のような有色の円等の図形が配置される模様であってもよい。また、図8(b)に示されるように、白地の背景に、モザイク柄が配置される模様であってもよい。
【0070】
<測距値の補正方法>
次に、図9を参照して、第1実施形態の測距装置100を用いた測距値の補正方法を説明する。図9は、本実施形態の測距値の補正方法を説明するためのフローチャートである。
【0071】
ステップS11において、測距装置100の輝度カメラ35とToFカメラ61が、第1補正用被写体71を撮像する。続いて、ステップS12において、測距装置100の取得部40が、輝度カメラ35によって撮像された第1補正用被写体71の第1画像情報と、ToFカメラ61によって撮像された第1補正用被写体71の第2画像情報とを取得する。また、取得部40は、取得したこれらの画像情報を補正部50に出力する。
【0072】
続いて、ステップS13において、測距装置100の補正部50が、取得部40を介して取得した画像情報から輝度カメラ35とToFカメラ61のカメラキャリブレーションを行う。具体的には、補正部50は、取得した第1画像情報から、輝度カメラ35の内部パラメータN11及び外部パラメータG11を算出すると共に、第2画像情報から、ToFカメラ61の内部パラメータN21及び外部パラメータG21を算出する。
【0073】
続いて、ステップS14において、補正部50が、例えば、第1補正用被写体71の位置座標を、輝度カメラ座標系からToFカメラ座標系に変換するための座標変換パラメータP11を求める。
【0074】
続いて、ステップS15において、輝度カメラ35とToFカメラ61が、第2補正用被写体72を撮像する。輝度カメラ35で撮像された第3画像情報は、取得部40を介して補正部50に出力される。これに対して、ToFカメラ61で撮像された第4画像情報は、第2補正用被写体の測距値を求めるために、制御演算部30に出力される。また、制御演算部30で演算される測距値は、補正部50に出力される。
【0075】
続いて、ステップS16において、補正部50が、取得部40から取得した第3画像情報から、第2補正用被写体72における輝度カメラ座標系の位置座標を求める。
【0076】
続いて、ステップS17において、補正部50が、座標変換パラメータP11を用いて、第2補正用被写体72における輝度カメラ座標系の位置座標をToFカメラ座標系の位置座標に変換する。
【0077】
続いて、ステップS18において、補正部50が、第2補正用被写体72におけるToFカメラ座標系の位置座標に基づき、測距値を補正する。
【0078】
[第2実施形態]
次に、第2実施形態に係る補正用被写体を説明する。
【0079】
第2実施形態に係る第1補正用被写体及び第2補正用被写体は、幅、高さ、奥行きに関するサイズが既知の物品である。物品の例として、机、床、天井等が挙げられる。第1補正用被写体及び第2補正用被写体で同じ物品であってもよいし、異なる物品であってもよい。
【0080】
第1補正用被写体としての物品は、少なくとも2色の色領域を有する。少なくとも2色の色領域は、輝度カメラ35で撮像された画像で互いに区別可能であり、且つ、ToFカメラ61で撮像された画像でも互いに区別可能な色の領域である。また、第2補正用被写体としての物品は、少なくとも2色の色領域を有する。少なくとも2色の色領域は、輝度カメラ35で撮像された画像では互いに区別可能である一方、ToFカメラ61で撮像された画像では互いに区別できない色の領域である。
【0081】
例えば、補正用被写体が、可視光や近赤外光に対する吸光率や反射率が大きく異なる2色以上の色領域から構成される場合、画像において、2色以上の各色領域を互いに区別することができる。これに対して、補正用被写体が、可視光や近赤外光に対する吸光率や反射率が同様な2色以上の色領域で構成される場合、画像において、2色以上の各色領域を互いに区別することができない。
【0082】
測距装置100の取得部40は、輝度カメラ35及びToFカメラ61で撮像された物品の画像情報(第1画像情報から第4画像情報)を取得する。また、測距装置100の補正部50は、取得部40で取得された画像情報のうちの第1画像情報及び第2画像情報から、輝度カメラ35及びToFカメラ61のカメラキャリブレーションを行うと共に、第3画像情報及び第4画像情報から、ToFカメラ61の出力に基づく測距値を補正する。
【0083】
このような物品を、第1補正用被写体及び第2補正用被写体として用いることで、チェッカーボードのように、測距値の補正を主な用途とする補正用被写体を準備しなくても、測距値の補正を行うことができる。
【0084】
以上、実施形態について説明したが、本発明は、前述の実施形態に限定されるものではなく、本発明の範囲内で種々の変形及び改良が可能である。例えば、実施形態では、輝度カメラ35とToFカメラ61との2つのカメラを用いているが、輝度画像と距離画像を取得できるものであれば、2つのカメラには限定されない。また、制御演算部(測距処理部)30、取得部40、補正部50の機能を測距装置100とは別の情報処理装置で実現するようにしてもよい。この場合、互いに通信可能に接続される測距装置100と情報処理装置とで測距システムが構成される。
【0085】
本発明の態様は、例えば、以下のとおりである。
【0086】
<1> 可視光を含む入射光を受光し撮像する第1撮像部と、
投光光を投光する投光部と、
前記投光光を含む入射光を受光し撮像する第2撮像部と、
前記第2撮像部の出力に基づき距離情報を出力する測距処理部と、
前記距離情報を補正するために用いられる補正情報を取得する取得部と、
前記測距処理部から出力される前記距離情報を、前記補正情報を用いて補正する補正部と、有し、
前記取得部は、前記投光光を所定の吸光率以上で吸収する第1部分を含む第1補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、前記投光光を所定の反射率以上で反射する第2部分で構成される第2補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、に基づいて、前記補正情報を取得する、測距システム。
【0087】
<2> 前記取得部は、前記補正情報として、前記第1撮像部で撮像された前記第1補正用被写体の第1画像情報と、前記第2撮像部で撮像された前記第1補正用被写体の第2画像情報と、を取得し、
前記補正部は、
前記第1画像情報及び前記第2画像情報に基づき、前記第1撮像部及び前記第2撮像部のカメラキャリブレーションを行う、前記<1>に記載の測距システム。
【0088】
<3> 前記取得部は、前記補正情報として、前記第1撮像部で撮像された前記第1補正用被写体の第1画像情報と、前記第2撮像部で撮像された前記第1補正用被写体の第2画像情報と、を取得し、
前記補正部は、
前記第1画像情報から、前記第1撮像部を基準とする座標系での前記第1補正用被写体の位置座標を算出し、
前記第2画像情報から、前記第2撮像部を基準とする座標系での前記第1補正用被写体の位置座標を算出し、
前記第1撮像部を基準とする座標系での前記位置座標と、前記第2撮像部を基準とする座標系での前記位置座標とに基づき、前記第1撮像部を基準とする座標系から前記第2撮像部を基準とする座標系への座標変換パラメータを算出する、前記<1>又は前記<2>に記載の測距システム。
【0089】
<4> 前記取得部は、前記補正情報として、前記第1撮像部で撮像された前記第2補正用被写体の第3画像情報と、前記第2撮像部で撮像された前記第2補正用被写体の第4画像情報と、を取得し、
前記補正部は、
前記第3画像情報から、前記座標変換パラメータを用いて、前記第2補正用被写体の位置座標を、前記第2撮像部を基準とする前記座標系での位置座標に変換し、
前記第4画像情報に基づき前記測距処理部から出力される前記第2補正用被写体の前記距離情報を、前記第2撮像部を基準とする前記座標系での前記第2補正用被写体の前記位置座標に基づき補正する、前記<3>に記載の測距システム。
【0090】
<5> 前記第1撮像部は輝度カメラであり、前記第2撮像部はToFカメラである、前記<1>から前記<4>のいずれか1つに記載の測距システム。
【0091】
<6> 可視光を含む入射光を受光し撮像する第1撮像部と、
投光光を投光する投光部と、
前記投光光を含む入射光を受光し撮像する第2撮像部と、
前記第2撮像部の出力に基づき距離情報を出力する測距処理部と、
前記距離情報を補正するために用いられる補正情報を取得する取得部と、
前記測距処理部から出力される前記距離情報を、前記補正情報を用いて補正する補正部と、有し、
前記取得部は、前記投光光を所定の吸光率以上で吸収する第1部分を含む第1補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、前記投光光を所定の反射率以上で反射する第2部分で構成される第2補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、に基づいて、前記補正情報を取得する、測距装置。
【0092】
<7> 第1撮像部を用いて、可視光を含む入射光を受光し撮像する第1撮像ステップと、
投光光を投光する投光ステップと、
第2撮像部を用いて、前記投光光を含む入射光を受光し撮像する第2撮像ステップと、
前記第2撮像部からの出力に基づき距離情報を出力する測距処理ステップと、
前記距離情報を補正するために用いられる補正情報を取得する取得ステップと、
前記測距処理ステップにおいて出力される前記距離情報を、前記補正情報を用いて補正する補正ステップと、有し、
前記取得ステップにおいて、前記投光光を所定の吸光率以上で吸収する第1部分を含む第1補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、前記投光光を所定の反射率以上で反射する第2部分で構成される第2補正用被写体を撮像した前記第1撮像部及び前記第2撮像部の出力と、に基づいて、前記補正情報を取得する、距離情報の補正方法。
【0093】
<8> 測距装置の測距処理部から出力される距離情報を補正するための補正用被写体であって、
投光部からの投光光を所定の吸光率以上で吸収する第1部分を含む第1補正用被写体と、
前記投光光を所定の反射率以上で反射する第2部分で構成される第2補正用被写体と、を有する補正用被写体。
【符号の説明】
【0094】
100 撮像装置(測距装置)
12 投光制御部
21 投光ユニット
35 輝度カメラ
40 取得部
50 補正部
61 ToFカメラ
120 制御部
210 光源
【先行技術文献】
【特許文献】
【0095】
【特許文献1】特許第6717887号公報
図1
図2
図3
図4
図5
図6
図7
図8
図9