IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニーセミコンダクタソリューションズ株式会社の特許一覧

<>
  • 特開-測距装置及び測距システム 図1
  • 特開-測距装置及び測距システム 図2A
  • 特開-測距装置及び測距システム 図2B
  • 特開-測距装置及び測距システム 図3
  • 特開-測距装置及び測距システム 図4
  • 特開-測距装置及び測距システム 図5
  • 特開-測距装置及び測距システム 図6
  • 特開-測距装置及び測距システム 図7
  • 特開-測距装置及び測距システム 図8
  • 特開-測距装置及び測距システム 図9
  • 特開-測距装置及び測距システム 図10
  • 特開-測距装置及び測距システム 図11
  • 特開-測距装置及び測距システム 図12
  • 特開-測距装置及び測距システム 図13
  • 特開-測距装置及び測距システム 図14
  • 特開-測距装置及び測距システム 図15
  • 特開-測距装置及び測距システム 図16
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022165344
(43)【公開日】2022-10-31
(54)【発明の名称】測距装置及び測距システム
(51)【国際特許分類】
   G01S 17/894 20200101AFI20221024BHJP
   G01S 7/483 20060101ALI20221024BHJP
   G01C 3/06 20060101ALI20221024BHJP
【FI】
G01S17/894
G01S7/483
G01C3/06 110A
G01C3/06 120Q
G01C3/06 130
G01C3/06 140
【審査請求】未請求
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2021070704
(22)【出願日】2021-04-19
(71)【出願人】
【識別番号】316005926
【氏名又は名称】ソニーセミコンダクタソリューションズ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】増野 智経
(72)【発明者】
【氏名】光永 知生
【テーマコード(参考)】
2F112
5J084
【Fターム(参考)】
2F112AA09
2F112AD01
2F112BA06
2F112CA12
2F112DA02
2F112DA04
2F112DA25
2F112DA28
2F112EA03
2F112FA03
2F112FA07
2F112FA21
2F112FA35
2F112FA41
2F112FA45
2F112GA01
2F112GA03
5J084AA04
5J084AA05
5J084AD02
5J084AD07
5J084BA03
5J084BA13
5J084BA36
5J084BA40
5J084BB02
5J084CA03
5J084CA10
5J084CA14
5J084CA20
5J084CA31
5J084CA45
5J084CA49
5J084CA65
5J084CA67
5J084CA74
5J084EA04
(57)【要約】
【課題】測距における誤差を低減する。
【解決手段】測距センサは、明部及び暗部の2種類の輝度の発光期間及び非発光期間を繰り返すパルス列状のパターン光に同期するそれぞれ異なる位相の受光期間に受光して複数の画像を生成する。明部領域検出部は、複数の画像におけるパターン光の明部に相当する反射光の受光により生成された領域である明部領域を検出する。第1の測距部は、照射されるパターン光と反射光との位相差を複数の画像において検出された明部領域により検出し、当該検出した位相差に基づいて物体までの距離である第1の測距値を算出する。明部領域選択部は、画像を構成する画像信号に基づいて複数の画像における明部領域の選択を行う。第2の測距部は、選択された明部領域の画像における位置を用いた三角測量により物体までの距離である第2の測距値を算出する。融合部は、第1の測距値及び第2の測距値の融合を行って融合測距値を生成する。
【選択図】図3
【特許請求の範囲】
【請求項1】
明部及び暗部の2種類の輝度の発光期間及び非発光期間を繰り返すパルス列状のパターン光が物体により反射された反射光を前記発光期間に同期するとともにそれぞれ異なる位相の受光期間に受光して複数の画像を生成する測距センサと、
前記複数の画像における前記パターン光の前記明部に相当する前記反射光の受光により生成された領域である明部領域を検出する明部領域検出部と、
照射された前記パターン光と前記反射光との位相差を前記複数の画像において検出された前記明部領域に基づいて検出し、当該検出した位相差に基づいて前記物体までの距離である第1の測距値を算出する第1の測距部と、
前記画像を構成する画像信号に基づいて前記複数の画像において検出された前記明部領域の選択を行う明部領域選択部と、
前記選択された明部領域の前記画像における位置を用いた三角測量により前記物体までの距離である第2の測距値を算出する第2の測距部と、
前記算出された第1の測距値及び前記算出された第2の測距値の融合を行って融合測距値を生成する融合部と
を有する測距装置。
【請求項2】
前記明部領域選択部は、前記検出された明部領域における前記画像信号と前記暗部に相当する領域における前記画像信号との差分に基づいて前記選択を行う
請求項1に記載の測距装置。
【請求項3】
前記明部領域選択部は、前記複数の画像において検出されたそれぞれの前記明部領域のうち自身の前記明部領域が含まれる前記画像における前記暗部に相当する領域との前記差分が最大となる前記明部領域を選択する請求項2に記載の測距装置。
【請求項4】
前記明部領域選択部は、自身の前記画像における前記暗部に相当する領域と前記明部領域との前記差分が最大となる前記画像に含まれる前記明部領域を選択する請求項2に記載の測距装置。
【請求項5】
前記明部領域選択部は、前記検出された明部領域における前記画像信号のノイズ成分に基づいて前記選択を行う
請求項1に記載の測距装置。
【請求項6】
前記パターン光は、複数のドットが配置されたドットパターンである
請求項1に記載の測距装置。
【請求項7】
前記融合部は、前記算出された第1の測距値及び前記算出された第2の測距値の重み付け加算により前記融合を行う
請求項1に記載の測距装置。
【請求項8】
前記融合部は、前記算出された第1の測距値及び前記算出された第2の測距値の差分に応じた重みに基づいて前記重み付け加算を行う
請求項7に記載の測距装置。
【請求項9】
明部及び暗部の2種類の輝度の発光期間及び非発光期間を繰り返すパルス列状のパターン光を照射する光源装置と、
前記照射されたパターン光が物体により反射された反射光を前記発光期間に同期するとともにそれぞれ異なる位相の受光期間に受光して複数の画像を生成する測距センサと、
前記複数の画像における前記パターン光の前記明部に相当する前記反射光の受光により生成された領域である明部領域を検出する明部領域検出部と、
前記照射されたパターン光と前記反射光との位相差を前記複数の画像において検出された前記明部領域に基づいて検出し、当該検出した位相差に基づいて前記物体までの距離である第1の測距値を算出する第1の測距部と、
前記画像を構成する画像信号に基づいて前記複数の画像において検出された前記明部領域の選択を行う明部領域選択部と、
前記選択された明部領域の前記画像における位置を用いた三角測量により前記物体までの距離である第2の測距値を算出する第2の測距部と、
前記算出された第1の測距値及び前記算出された第2の測距値の融合を行って融合測距値を生成する融合部と
を有する測距システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、測距装置及び測距システムに関する。
【背景技術】
【0002】
物体に光を照射し、物体との間を光が往復する時間を測定することにより物体までの距離を測定する飛行時間(ToF:Time of Flight)法による測距装置が使用されている。例えば、振幅変調された光を物体に対して出射する発光部と照射した光が物体により反射された反射光を受光する受光素子とを備える測距装置が使用されている。この受光素子には、反射光に基づいて画像信号を生成する撮像素子が使用される。この撮像素子は、振幅変調された出射光に同期する同期検波を受光した反射光に対して行って複数の画像信号を生成する。この生成された複数の画像信号の相互の演算により出射光及び反射光の位相差を検出することができ、検出した位相差に基づいて物体までの距離を算出することができる。このような測距方式は、タイマーを使用して上述の光の往復時間を直接計時する直接ToF法に対して間接ToF法と称される。
【0003】
この間接ToF法においては、例えば、出射光に対して0度、90度、180度及び270度の位相において撮像を行って4つの画像を生成する。この4つの画像に対して出射光に同相な成分(0度及び180度位相の画像)と出射光に対して直交する成分(90度及び270度の位相)とにおいてそれぞれの差分を算出する。この差分をそれぞれI及びQとすると、位相差θは、arctan(Q/I)により算出することができる。このような間接ToF法は4相方式と称される。この4相方式では、上述の差分の算出の際にノイズ等を除去することができる。
【0004】
しかし、4相方式は4つの画像の生成が必要であるため、物体が移動する場合に誤差を生じるという問題がある。そこで、物体が移動したか否かの判定を行い、物体が移動していないと判定された期間に測距を行う測距モジュールが提案されている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2017-150893号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、上記の従来技術では、移動する物体の測距における誤差の低減が困難という問題がある。
【0007】
そこで、本開示では、移動する物体の測距における誤差を低減する測距装置及び測距システムを提案する。
【課題を解決するための手段】
【0008】
本開示の測距装置は、測距センサと、明部領域検出部と、第1の測距部と、第2の測距部と、明部領域選択部と、融合部とを含む。測距センサは、明部及び暗部の2種類の輝度の発光期間及び非発光期間を繰り返すパルス列状のパターン光が物体により反射された反射光を上記発光期間に同期するとともにそれぞれ異なる位相の受光期間に受光して複数の画像を生成する。明部領域検出部は、上記複数の画像における上記パターン光の上記明部に相当する上記反射光の受光により生成された領域である明部領域を検出する。第1の測距部は、照射される上記パターン光と上記反射光との位相差を上記複数の画像において検出された上記明部領域に基づいて検出し、当該検出した位相差に基づいて上記物体までの距離である第1の測距値を算出する。明部領域選択部は、上記画像を構成する画像信号に基づいて上記複数の画像において検出された上記明部領域の選択を行う。第2の測距部は、上記選択された明部領域の上記画像における位置を用いた三角測量により上記物体までの距離である第2の測距値を算出する。融合部は、上記算出された第1の測距値及び上記算出された第2の測距値の融合を行って融合測距値を生成する。
【図面の簡単な説明】
【0009】
図1】本開示の実施形態に係る測距システムの構成例を示す図である。
図2A】本開示の実施形態に係る発光パターンの一例を示す図である。
図2B】本開示の実施形態に係る反射光の一例を示す図である。
図3】本開示の実施形態に係る光源装置及び測距装置の構成例を示す図である。
図4】本開示の実施形態に係る測距センサの構成例を示す図である。
図5】本開示の実施形態に係る画素の構成例を示す図である。
図6】本開示の実施形態に係る間接ToF法における画像の生成例を示す図である。
図7】本開示の実施形態に係る画像信号の生成の一例を示す図である。
図8】本開示の実施形態に係る三角測量の一例を示す図である。
図9】本開示の実施形態に係る明部領域の選択の一例を示す図である。
図10】本開示の実施形態に係る測距処理の一例を示す図である。
図11】本開示の実施形態に係る明部領域選択処理の一例を示す図である。
図12】本開示の実施形態に係る輝度差検出処理の一例を示す図である。
図13】本開示の実施形態に係る第2の測距値算出処理の一例を示す図である。
図14】本開示の実施形態に係る融合処理の一例を示す図である。
図15】本開示の第2の実施形態に係る明部領域選択処理の一例を示す図である。
図16】本開示の第3の実施形態に係る融合処理の一例を示す図である。
【発明を実施するための形態】
【0010】
以下に、本開示の実施形態について図面に基づいて詳細に説明する。説明は、以下の順に行う。なお、以下の各実施形態において、同一の部位には同一の符号を付することにより重複する説明を省略する。
1.第1の実施形態
2.第2の実施形態
3.第3の実施形態
【0011】
(1.第1の実施形態)
[測距システムの構成]
図1は、本開示の実施形態に係る測距システムの構成例を示す図である。同図は、測距システム1の構成例を表す図である。測距システム1は、対象物との距離を測定するシステムである。同図の測距システム1は、直方体形状の物体9との間の距離を測定する例を表したものである。測距システム1は、光源装置20と、測距装置10と、レンズ2及び3とを備える。なお、同図の矢印は、光源装置20から出射されて物体9により反射され、測距装置10に入射する光を表したものである。
【0012】
光源装置20は、測距の対象物に光を照射するものである。この光源装置20は、明部及び暗部の2種類の輝度のパターン光を照射する。また、このパターン光は、所定の周期において発光期間及び非発光期間を繰り返すパルス列状のパターン光を照射する。光源装置20の構成の詳細については後述する。
【0013】
測距装置10は、対象物までの距離を測定するものである。この測距装置10は、光源装置20から出射されたパターン光が対象物(物体9)により反射された反射光を受光する。この受光により光源装置20の発光パターンの出射から反射光の到達までの時間を計時し、対象物までの距離を測定する。測距装置10の構成の詳細については後述する。
【0014】
レンズ2は、測距装置10に入射する光を集光するレンズである。レンズ3は、光源装置20から出射される光を集光するレンズである。
【0015】
[発光パターン]
図2Aは、本開示の実施形態に係るパターン光の一例を示す図である。同図は、光源装置20が照射するパターン光の一例を表す図である。同図のパターン光300は、明部320及び暗部310を含む。同図は、複数の点状の明部320が背景である暗部310に配置されたドットパターンにより構成されるパターン光300の例を表したものである。
【0016】
図2Bは、本開示の実施形態に係る反射光の一例を示す図である。同図は、パターン光300が図1における物体9等に反射された反射光350を表す図である。この反射光350は、測距装置10に入射する反射光に相当する。反射光350は、パターン光300の明部320及び暗部310にそれぞれ対応する明部領域370及び暗部領域360を含む。同図の複数の明部領域370は、対象物との距離に応じた形状に構成される。同図の点線は、物体9により反射された反射光351の領域を表す。比較的近距離の物体9により反射された反射光351の明部領域370は、他の明部領域370と比較して大きなドットに構成される。また、後述するように、明部領域370の位置は対象物との距離に応じて変化する。
【0017】
[光源装置及び測距装置の構成]
図3は、本開示の実施形態に係る光源装置及び測距装置の構成例を示す図である。同図は、測距システム1を構成する光源装置20及び測距装置10の構成例を表すブロック図である。
【0018】
光源装置20は、光源部21と、駆動部22とを備える。
【0019】
光源部21は、物体9に照射するパターン光を生成するものである。この光源部21は、レーザ光を出射する光源により構成することができる。例えば、パターン光300における明部320の部分に光源が配置され、暗部310に相当する部分には光源が配置されない構成を採ることができる。
【0020】
駆動部22は、光源部21を駆動するものである。この駆動部22は、所定の周期において発光期間及び非発光期間を繰り返すパルス列状に発光させる駆動を行う。この所定の周期のパルス列の発光タイミングは、後述する測距装置10の同期制御部160により制御される。
【0021】
測距装置10は、測距センサ100と、信号処理部150と、同期制御部160とを備える。
【0022】
測距センサ100は、反射光350を受光して画像を生成するものである。この測距センサ100は、例えば、CMOS(Complementary Metal Oxide Semiconductor)型の撮像素子により構成することができる。測距センサ100は、パターン光300の発光期間に同期するとともにそれぞれ異なる位相の受光期間に受光を行い、それぞれの位相に応じた複数の画像を生成する。後述するように、測距センサ100を構成する撮像素子は、入射光に応じた画像信号を生成する複数の画素を備える。これら複数の画素により生成される1画面分の画像信号により画像が構成される。測距センサ100は、生成した画像を信号処理部150に対して出力する。
【0023】
信号処理部150は、測距センサ100から出力された画像に基づいて対象物までの距離を測定する測距処理を行うものである。信号処理部150は、明部領域検出部151と、第1の測距部152と、明部領域選択部153と、第2の測距部154と、融合部155とを備える。
【0024】
明部領域検出部151は、反射光350の明部領域370を検出するものである。この明部領域検出部151は、測距センサ100から出力された複数の画像のそれぞれについて明部領域370の位置を検出する。明部領域検出部151は、検出した明部領域370を第1の測距部152及び明部領域選択部153に対して出力する。
【0025】
第1の測距部152は、パターン光300と反射光350との位相差に基づいて物体9までの距離を算出するものである。この第1の測距部152は、明部領域検出部151から出力された複数の画像の明部領域370に基づいてパターン光300及び反射光350の位相差を検出し、検出した位相差に基づいて間接ToF法による測距を行う。第1の測距部152により算出される距離を第1の測距値と称する。第1の測距部152は、算出した第1の測距値を融合部155に対して出力する。第1の測距部152における測距の詳細については後述する。
【0026】
明部領域選択部153は、明部領域検出部151から出力された明部領域370を選択するものである。この明部領域選択部153は、画像を構成する画像信号に基づいて明部領域370の選択を行う。明部領域選択部153は、例えば、複数の画像に含まれるそれぞれの明部領域370のうち暗部領域360との輝度差が最大となる明部領域370を選択することができる。明部領域選択部153は、選択した明部領域370を第2の測距部154に対して出力する。明部領域選択部153における明部領域370の選択の詳細については後述する。
【0027】
第2の測距部154は、明部領域370の画像における位置を用いた三角測量により物体9までの距離を算出するものである。この第2の測距部154は、明部領域選択部153により選択された明部領域370の画像における位置と当該明部領域370に対応するパターン光300の明部の位置とに対して三角測量の原理に基づく測距を行う。第2の測距部154により算出される距離を第2の測距値と称する。第2の測距部154は、算出した第2の測距値を融合部155に対して出力する。第2の測距部154における測距の詳細については後述する。
【0028】
融合部155は、第1の測距部152により算出された第1の測距値及び第2の測距部154により算出された第2の測距値を融合して融合測距値を生成するものである。生成された融合測距値は、測距装置10の検出測距値として出力される。融合部155における第1の測距値及び第2の測距値の融合の詳細については後述する。
【0029】
同期制御部160は、光源装置20におけるパターン光300の発光期間及び非発光期間と測距センサ100における画像信号の生成のタイミングとを同期させるものである。この同期制御部160は、光源装置20の駆動部22及び測距センサ100に対して制御信号を出力し、駆動部22による光源部21の駆動タイミングと測距センサ100の画素(後述する画素200)における画像信号の生成の際の後述する同期検波とを同期させる。
【0030】
[撮像素子の構成]
図4は、本開示の実施形態に係る測距センサの構成例を示す図である。同図は、測距センサ100の構成例を表すブロック図である。測距センサ100は、被写体の画像を生成する半導体素子である。測距センサ100は、画素アレイ部110と、垂直駆動部120と、カラム信号処理部130と、制御部140とを備える。
【0031】
画素アレイ部110は、複数の画素200が配置されて構成されたものである。同図の画素アレイ部110は、複数の画素200が2次元行列の形状に配列される例を表したものである。ここで、画素200は、入射光の光電変換を行う光電変換部を備え、照射された入射光に基づいて被写体の画像信号を生成するものである。この光電変換部には、例えば、フォトダイオードを使用することができる。それぞれの画素200には、信号線11及び12が配線される。画素200は、信号線11により伝達される制御信号に制御されて画像信号を生成し、信号線12を介して生成した画像信号を出力する。なお、信号線11は、2次元行列の形状の行毎に配置され、1行に配置された複数の画素200に共通に配線される。信号線12は、2次元行列の形状の列毎に配置され、1列に配置された複数の画素200に共通に配線される。
【0032】
垂直駆動部120は、上述の画素200の制御信号を生成するものである。同図の垂直駆動部120は、画素アレイ部110の2次元行列の行毎に制御信号を生成し、信号線11を介して順次出力する。
【0033】
カラム信号処理部130は、画素200により生成された画像信号の処理を行うものである。同図のカラム信号処理部130は、信号線12を介して伝達される画素アレイ部110の1行に配置された複数の画素200からの画像信号の処理を同時に行う。この処理として、例えば、画素200により生成されたアナログの画像信号をデジタルの画像信号に変換するアナログデジタル変換や画像信号のオフセット誤差を除去する相関二重サンプリング(CDS:Correlated Double Sampling)を行うことができる。処理後の画像信号は、測距センサ100の外部の回路等に対して出力される。
【0034】
制御部140は、垂直駆動部120及びカラム信号処理部130を制御するものである。同図の制御部140は、信号線141及び142を介して制御信号をそれぞれ出力して垂直駆動部120及びカラム信号処理部130を制御する。
【0035】
[画素の構成]
図5は、本開示の実施形態に係る画素の構成例を示す図である。同図は、測距センサ100に配置される画素200の構成例を表す回路図である。同図の画素200は、光電変換部201と、電荷保持部202及び203と、転送部204及び205と、リセット部206及び207と、画像信号生成部208及び209とを備える。転送部204及び205並びにリセット部206及び207は、MOSトランジスタにより構成することができる。また、同図の画素200には、電源線Vddが配線される。この電源線Vddは、画素200に電源を供給する配線である。
【0036】
光電変換部201は、入射光の光電変換を行うものである。この光電変換部201は、フォトダイオードにより構成することができる。フォトダイオードは、光電変換により生成された電荷を外部の回路に供給する。このため、同図に表したように、光電変換部201を定電流回路により表すことができる。同図の光電変換部201は、一端が接地され、他端から入射光に応じたシンク電流を供給する。
【0037】
電荷保持部202及び203は、光電変換部201により生成された電荷を保持するものである。この電荷保持部202及び203は、それぞれ半導体基板に形成された拡散領域に電荷を保持する浮遊換算領域(FD:Floating Diffusion)により構成することができる。
【0038】
転送部204及び205は、光電変換部201により生成された電荷を電荷保持部202及び203にそれぞれ転送するものである。転送部204は、光電変換部201及び電荷保持部202の間を導通させることにより、光電変換部201の電荷を電荷保持部202に転送する。また、転送部205は、光電変換部201及び電荷保持部203の間を導通させることにより、光電変換部201の電荷を電荷保持部203に転送する。
【0039】
リセット部206及び207は、電荷保持部202及び303をリセットするものである。リセット部206は、電荷保持部202及び電源線Vddの間を導通させて電荷保持部202の電荷を電源線Vddに排出することにより、リセットを行う。同様に、リセット部207は、電荷保持部203及び電源線Vddの間を導通させることにより電荷保持部203をリセットする。
【0040】
画像信号生成部208及び209は、電荷保持部202及び203に保持された電荷に基づいて画像信号を生成するものである。画像信号生成部208は、電荷保持部202に保持された電荷に基づいて画像信号を生成し、信号線112に出力する。画像信号生成部208は、電荷保持部202に保持された電荷に基づいて画像信号を生成し、信号線112に出力する。画像信号生成部209は、電荷保持部203に保持された電荷に基づいて画像信号を生成し、信号線112に出力する。
【0041】
なお、転送部204及び205、リセット部206及び207及び画像信号生成部208及び209の制御信号は、不図示の信号線111により伝達される。
【0042】
同図の画素200における画像信号の生成は、次のように行うことができる。まず、リセット部206及び207を導通させて電荷保持部202及び203をリセットする。このリセットの終了後に、転送部204及び205を導通させて光電変換部201により生成される電荷を電荷保持部202に転送して保持させる。この際、転送部204及び205は、交互に導通状態になり、光電変換部201により生成される電荷を電荷保持部202及び203に振り分ける。この電荷の振り分けを複数回行って、光電変換部201により生成される電荷を電荷保持部202及び203に蓄積させる。この電荷を蓄積する期間を蓄積期間と称する。
【0043】
所定の蓄積期間の経過後に転送部204及び205を非導通の状態にする。その後、画像信号生成部208及び209が電荷保持部202及び203に蓄積された電荷に基づいて画像信号を生成し、出力する。
【0044】
上述の蓄積期間において、転送部204及び205により光電変換部201の電荷が振り分けられて蓄積され、蓄積されたそれぞれの電荷に基づいて画像信号が生成される。この転送部204及び205の振り分けを図3において説明した光源装置20のパターン光300の発光期間及び非発光期間の周期に同期して行う。これにより、測距センサ100に入射する反射光の同期検波を行うことができる。また、この同期検波を異なる位相により行って複数の画像信号を生成することにより、光源装置20から物体9を介して測距センサ100に至る時間を光源装置20の発光及び非発光の周期に対する位相差として検出する間接ToF法を実行することができる。なお、電荷保持部202に対応する画像信号及び電荷保持部203に対応する画像信号をそれぞれタップAの画像信号及びタップBの画像信号と称する。
【0045】
[間接ToF法における画像の生成]
図6は、本開示の実施形態に係る間接ToF法における画像の生成例を示す図である。同図は、画素200における間接ToF法に使用する画像の生成を表す図である。同図のフレーム400は、間接ToF法における画像を生成する期間を表す。同図に表したように、複数のフレーム400が連続して実行され、間接ToF法による測距が連続して実行される。
【0046】
それぞれのフレーム400は、サブフレーム410、420、430及び440を備える。これらのサブフレーム410、420、430及び440においては、それぞれ異なる位相において上述の転送部204及び205による振り分けを行う。サブフレーム410、420、430及び440は、それぞれ0度、90度、180度及び270度の位相において転送部204及び205による振り分けが行われ、画像が生成される。なお、フレーム400には、待機期間が更に含まれる。この待機期間は、いわゆるデットタイムに相当する期間である。
【0047】
サブフレーム410等は、リセット451、蓄積452、読出し453の期間が含まれる。リセット451は、上述のリセット部206及び207によるリセットの期間である。蓄積452は、上述の蓄積期間に相当する期間である。読出し453は、画像信号生成部208及び209により生成された画像信号が読み出される期間である。なお、サブフレーム410等には待機期間が更に含まれる。
【0048】
[間接ToF法における画像信号の生成]
図7は、本開示の実施形態に係る画像信号の生成の一例を示す図である。同図は、画素200の間接ToF法における画像信号の生成の一例を表すタイミング図である。同図において、測距部330は、4つの異なる位相において反射光4の振り分けを行い、画像信号を生成する制御を行う。
【0049】
同図の出射光は、略等しい期間の発光期間及び非発光期間を備える周期Tの出射光を採用する。同図の出射光の発光期間は、一定の輝度の矩形波となる。以下、この矩形波をパルス光401と称する。この出射光に応じて一定の輝度のパルス光402を備える反射光が画素200に入射する。この反射光を出射光に同期するとともに0度、90度、180度及び270度の4つの遅れ位相において電荷の振り分けを行い画像信号A及びBを生成する。
【0050】
同図の「0度」、「90度」、「180度」及び「270度」は、0度、90度、180度及び270度の4つの遅れ位相において電荷の振り分けを行う場合の波形をそれぞれ表したものである。これらの波形のそれぞれの上側の波形はタップAを表し、下側の波形はタップBを表す。また、同図の「0度」、「90度」、「180度」及び「270度」における実線の波形は、それぞれの遅れ位相におけるそれぞれのタップの電荷の振り分け期間を表すガイド信号を表す。ガイド信号が値「1」の期間に自身のタップに電荷が振り分けられる。また、同図の「0度」、「90度」、「180度」及び「270度」におけるハッチングを付した領域は、それぞれのタップの電荷保持部(電荷保持部202及び203)における電荷の蓄積を表す。
【0051】
同図の位相遅れ0度の場合を例に挙げて説明する。タップA(上側)において、反射光のパルス光402とガイド信号の値「1」の部分とが重なる期間において電荷が電荷保持部202に蓄積される。同図の「A0」は、タップA側の電荷保持部202への蓄積電荷A0を表す。また、タップB(下側)において、反射光のパルス光402とガイド信号の値「1」の部分とが重なる期間において電荷が電荷保持部203に蓄積される。同図の「B0」は、タップB側の電荷保持部203への蓄積電荷B0を表す。このようなタップA及びタップBにおける電荷の蓄積が蓄積期間に繰り返される。
【0052】
遅れ位相90度、180度及び270度においても同様に、タップA及びタップBにおける電荷の蓄積が蓄積期間に繰り返される。そして、遅れ位相90度、180度及び270度において、蓄積電荷A90及びB90、蓄積電荷A180及びB180並びに蓄積電荷A270及びB270が生成される。
【0053】
次に、これら蓄積電荷A0及びB0に基づいて0度におけるタップAの画像信号A0及びタップBにおける画像信号B0を生成する。また、90度におけるタップAの画像信号A90及びタップBにおける画像信号B90を生成する。また、180度におけるタップAの画像信号A180及びタップBにおける画像信号B180を生成する。また、270度におけるタップAの画像信号A270及びタップBにおける画像信号B270を生成する。これら8つの信号により出射光及び反射光の位相差φを算出する。
【0054】
上述のタップA0等を使用して下記の演算を行い、Signal0~Signal3を算出する。
Signal0=タップA0-タップB0
Signal1=タップA90-タップB90
Signal2=タップA180-タップB180
Signal3=タップA270-タップB270
次に、Signal0~Signal3を使用して下記の演算を行い、I及びQを算出する。
I=(Signal0-Signal1)/2
Q=(Signal2-Signal3)/2
ここで、Iは、反射光の出射光に同相の成分に相当する信号である。また、Qは、反射光の出射光に対する直交する方向の成分に相当する信号である。このI、Q及び出射光の周期Tに基づいて、次式により物体9までの距離dを算出することができる。
d=c×T×arctan(Q/I)/4π 式(1)
ここで、cは、光速を表す。
【0055】
このように、間接ToF法による測距を行うことができる。この間接ToF法においては、4つの画像を生成する必要がある。この4つの画像を生成する期間に物体9が動く場合、算出した距離に誤差を生じることとなる。そこで、次に説明する三角測量による測距を更に行う。三角測量による測距においては、間接ToF法により生成されたタップAの4つの画像及びタップBの4つの画像を使用することができる。
【0056】
[三角測量による測距]
図8は、本開示の実施形態に係る三角測量の一例を示す図である。同図は、三角測量の原理を説明する図である。同図において光源装置20は位置501に配置され、測距センサ100は位置502に配置される。位置501からレンズ3の焦点距離Fだけ離れた位置に仮想的な光源装置20’が配置され、位置502からレンズ2の焦点距離Fだけ離れた位置に仮想的な測距センサ100’が配置される。「BL」は光源装置20及び測距センサ100の距離を表し、「D」は物体9との距離を表す。また、同図の矢印は、光源装置20から出射されるパターン光300及び物体9により反射される反射光の軌跡を表す。
【0057】
同図において、光源装置20’の点503の位置の明部320の光が物体9により反射されて測距センサ100’の点504に明部領域370として検出される。この場合、光源装置20及び測距センサ100の間の距離BLが既知であるため、パターン光300における点503の位置及び測距センサ100により生成される画像における点504の位置を検出することにより、三角測量の原理を用いて距離Dを算出することができる。
【0058】
[明部領域の選択]
図9は、本開示の実施形態に係る明部領域の選択の一例を示す図である。同図は、明部領域選択部153における明部領域370の選択を表す図である。同図の画像351乃至354は、測距センサ100により生成されたタップA又はタップBの4つの画像を表す。これらの画像のそれぞれに明部領域370が配置される。明部領域検出部151は、これらの画像から明部領域370を検出する。明部領域検出部151による明部領域370の検出は、例えば、ブロブ検知(Blob Detection)法により行うことができる。
【0059】
明部領域検出部151は、検出した明部領域370を画像番号及び位置番号により識別する。以下、検出された明部領域370をb(k,n)により表す。ここで、kは、4つの画像を識別する番号であり、画像351乃至354に対応する1乃至4の値となる。nは、画像351等における位置を表す番号であり、明部領域370毎に付与される番号である。nは、例えば、画像351等の左上から順に1、2、3等の数字を付与することができる。b(k,n)は、明部領域370の範囲に含まれる画素の座標により構成することができる。なお、画像351乃至354において明部領域370は、重なる位置に配置されるものと想定する。これは、物体9の動きが間接ToF法による測距の期間より十分短い場合を想定したものである。
【0060】
明部領域選択部153は、明部領域370と暗部領域360と輝度差に基づいて選択を行うことができる。例えば、明部領域選択部153は、画像351乃至354における同じ位置番号の明部領域370において最も輝度差が大きい明部領域370を選択することができる。
【0061】
明部領域選択部153は、例えば、明部領域370の周囲の領域である周辺領域361と明部領域370との輝度差を検出することができる。また、明部領域選択部153は、画像351等における暗部領域360の平均輝度と明部領域370の輝度差を検出することもできる。
【0062】
また、明部領域選択部153は、明部領域370のノイズに基づいて選択を行うこともできる。例えば、明部領域選択部153は、明部領域370の画像信号のノイズ成分が所定の閾値より小さい明部領域370を選択することができる。
【0063】
第2の測距部154は、明部領域選択部153により選択された明部領域370に対して三角測量による測距を行う。この際、第2の測距部154は、選択された明部領域370に対応するパターン光300の明部320を選択する。また、第2の測距部154は、選択された明部320の中心位置と選択された明部領域370の中心位置とを算出し、三角測量を行う。なお、明部領域370の中心位置は、例えば、明部領域370における輝度が最大となる位置を適用することができる。この明部領域370における輝度が最大となる位置は、例えば、パラボラフィッティング等により検出することができる。なお、明部320の中心位置は、既定値を使用することができる。
【0064】
[融合処理]
融合部155は、前述のように、第1の測距値及び第2の測距値を融合する。この融合は、第1の測距値及び第2の測距値の重み付け加算により行うことができる。また、重みは、例えば、第1の測距値及び第2の測距値の差分に応じた重みを適用することができる。例えば、第1の測距値及び第2の測距値の差分が小さい場合には、第1の測距値及び第2の測距値に対して略同じ重みを設定することができる。そして、第1の測距値及び第2の測距値の差分が大きくなるに従って、第2の測距値の重みを大きく、第1の測距値の重みを小さく設定することができる。また、例えば、第2の測距値を真値とし、第1の測距値との差分に応じた正規分布曲線に基づく重みを設定することもできる。
【0065】
[測距処理]
図10は、本開示の実施形態に係る測距処理の一例を示す図である。同図は、測距システム1における測距処理の一例を表す図である。まず、光源装置20がパターン光を照射する(ステップS100)。次に、測距センサ100において反射光の画像を生成する(ステップS101)。次に、明部領域検出部151が明部領域を検出する(ステップS102)。この際、明部領域検出部151により、b(k,n)が生成される。次に、第1の測距部152が間接ToF法による第1の測距値を算出する(ステップS110)。この際、第1の測距部152は、明部領域370毎に第1の測距値を算出する。第1の測距部152は、位置番号により識別された第1の測距値D1(n)を生成する。
【0066】
次に、明部領域選択部153が明部領域選択処理(ステップS120)を行う。次に、第2の測距部154が第2の測距値を算出する(ステップS140)。第2の測距部154は、位置番号により識別された第2の測距値D2(n)を生成する。次に、融合部155が第1の測距値D1(n)及び第2の測距値D2(n)の融合処理(ステップS150)を行い、融合測距値を生成する。
【0067】
[明部領域選択処理]
図11は、本開示の実施形態に係る明部領域選択処理の一例を示す図である。同図は、図10における明部領域選択処理(ステップS120)の一例を表す図である。まず、明部領域選択部153は、全ての画像について明部領域370の輝度差の検出を行う。明部領域選択部153は、全ての画像を選択したか否かを判断し(ステップS121)、全ての画像を選択していない場合には(ステップS121,No)、未選択の画像を選択する(ステップS122)。この際、明部領域選択部153は、画像番号kを選択する。次に、明部領域選択部153は、選択した画像に対して輝度差検出処理(ステップS130)を行い、ステップS121の処理に戻る。
【0068】
一方、ステップS121において、全ての画像を選択した場合には(ステップS121,Yes)、ステップS123の処理に移行する。ステップS123において、明部領域選択部153は、全ての明部領域の位置を選択したか否かを判断し(ステップS123)、全ての明部領域の位置を選択していない場合には(ステップS123,No)、未選択の明部領域の位置を選択する(ステップS124)。この際、明部領域選択部153は、位置番号nとしてNを選択する。次に、明部領域選択部153は、最大輝度差の明部領域を選択する(ステップS125)。この際、明部領域選択部153は、位置番号Nの明部領域370のうちの最大の輝度差(後述するdiff(k,N))の明部領域370を選択する。
【0069】
次に、明部領域選択部153は、選択した明部領域370を測定用画像に格納する(ステップS126)。次に、明部領域選択部153は、ステップS123の処理に戻る。一方、ステップS123において、全ての明部領域を選択した場合には(ステップS123,Yes)、明部領域選択部153は、明部領域選択処理S120を終了する。
【0070】
[輝度差検出処理]
図12は、本開示の実施形態に係る輝度差検出処理の一例を示す図である。同図は、図11における輝度差検出処理(ステップS130)の一例を表す図である。まず、明部領域選択部153は、全ての明部領域を選択したか否かを判断し(ステップS131)、全ての明部領域を選択していない場合には、未選択の明部領域を選択する(ステップS132)。この際、明部領域選択部153は、明部領域370の位置番号nを選択する。次に、明部領域選択部153は、選択した明部領域の平均輝度を算出する(ステップS133)。この際、明部領域選択部153は、平均輝度bm(k,n)を算出する。次に、明部領域選択部153は、図9において説明した周辺領域の平均輝度を算出する(ステップS134)。この際、明部領域選択部153は、周辺領域の平均輝度dm(k,n)を算出する。
【0071】
次に、明部領域選択部153は、輝度の差分を算出する(ステップS135)。この際、明部領域選択部153は、bm(k,n)-dm(k,n)を算出し、diff(k,n)として出力する。次に、明部領域選択部153は、ステップS131の処理に戻る。一方、ステップS131の処理において、全ての明部領域を選択した場合には(ステップS131,Yes)、明部領域選択部153は、輝度差検出処理S130を修了する。
【0072】
[第2の測距値算出処理]
図13は、本開示の実施形態に係る第2の測距値算出処理の一例を示す図である。同図は、図11における第2の測距値算出処理(ステップS140)の一例を表す図である。まず、第2の測距部154は、全ての明部領域を選択したか否かを判断し(ステップS141)、全ての明部領域を選択していない場合には、未選択の明部領域を選択する(ステップS142)。この際、第2の測距部154は、明部領域370の位置番号nを選択する。次に、第2の測距部154は、選択した明部領域の中心位置を算出する(ステップS143)。次に、第2の測距部154は、三角測量による第2の測距値を算出する(ステップS144)。次に、第2の測距部154は、ステップS141の処理に戻る。一方、ステップS141の処理において、全ての明部領域を選択した場合には(ステップS141,Yes)、第2の測距部154は、第2の測距値算出処理S140を修了する。
【0073】
[融合処理]
図14は、本開示の実施形態に係る融合処理の一例を示す図である。同図は、図11における融合処理(ステップS150)の一例を表す図である。まず、融合部155は、全ての明部領域を選択したか否かを判断し(ステップS151)、全ての明部領域を選択していない場合には、未選択の明部領域を選択する(ステップS152)。この際、融合部155は、明部領域370の位置番号nを選択する。次に、融合部155は、選択した明部領域において重みを算出する(ステップS143)。次に、融合部155は、算出した重みを使用して第1の測距値及び第2の測距値を融合する(ステップS154)。次に、融合部155は、ステップS151の処理に戻る。一方、ステップS151の処理において、全ての明部領域を選択した場合には(ステップS151,Yes)、融合部155は、融合処理S150を修了する。
【0074】
このように、本開示の第1の実施形態の測距システム1は、間接ToF法により算出された第1の測距値と三角測量により算出された第2の測距値とを融合して融合測距値を生成する。比較的短時間に測距を行う三角測量による測距値を間接ToF法による測距値に融合させることにより、物体9が動く場合の誤差を低減することができる。また、三角測量による測距の際、明部領域370のうちの暗部領域360との輝度差が最も大きい明部領域370を選択することにより、三角測量による測距の精度を向上させることができる。
【0075】
(2.第2の実施形態)
上述の第1の実施形態の測距システム1は、4つの画像の明部領域370のうち最も輝度差が大きい明部領域370を選択していた。これに対し、本開示の第2の実施形態の測距システム1は、4つの画像のうちの最も輝度差が大きい画像を測定用画像として選択する点で、上述の第1の実施形態と異なる。
【0076】
[明部領域選択処理]
図15は、本開示の第2の実施形態に係る明部領域選択処理の一例を示す図である。同図は、図11と同様に、明部領域選択処理(ステップS170)の一例を表す図である。同図の処理は、4つの画像のうちの最も輝度差が大きい画像を測定用画像として選択する点で、図11の処理と異なる。
【0077】
まず、明部領域選択部153は、全ての画像を選択したか否かを判断し(ステップS171)、全ての画像を選択していない場合には(ステップS171,No)、未選択の画像を選択する(ステップS172)。この際、明部領域選択部153は、画像番号kを選択する。次に、明部領域選択部153は、選択した画像に対して画像内の明部領域の平均輝度を算出する(ステップS173)。この際、明部領域選択部153は、平均輝度bm(k)を算出する。
【0078】
次に、明部領域選択部153は、選択した画像に対して画像内の暗部領域の平均輝度を算出する(ステップS174)。この際、明部領域選択部153は、平均輝度dm(k)を算出する。次に、明部領域選択部153は、輝度の差分を算出する(ステップS175)。この際、明部領域選択部153は、bm(k)-dm(k)を算出し、diff(k)として出力する。次に、明部領域選択部153は、ステップS171の処理に戻る。
【0079】
一方、ステップS171において、全ての画像を選択した場合には(ステップS171,Yes)、ステップS176の処理に移行する。ステップS176において、明部領域選択部153は、輝度の差分が最大の画像を測定用画像として選択する(ステップS176)。その後、明部領域選択部153は、明部領域選択処理S170を終了する。
【0080】
これ以外の測距システム1の構成は本開示の第1の実施形態における測距システム1の構成と同様であるため、説明を省略する。
【0081】
このように、本開示の第2の実施形態の測距システム1は、間接ToF法により生成された画像のうちの最も輝度差が大きい画像を測定用画像として選択する。これにより、物体9の動きの影響を更に低減することができる。
【0082】
(3.第3の実施形態)
上述の第1の実施形態の測距システム1は、第1の測距値及び第2の測距値を融合していた。これに対し、本開示の第3の実施形態の測距システム1は、画素毎の第2の測距値のばらつきに応じて融合を行う点で、上述の第1の実施形態と異なる。
【0083】
[融合処理]
図16は、本開示の第3の実施形態に係る融合処理の一例を示す図である。同図は、図11における融合処理S150に換えて行う処理である。まず、融合部155は、全ての明部領域を選択したか否かを判断し(ステップS181)、全ての明部領域を選択していない場合には、未選択の明部領域を選択する(ステップS182)。この際、融合部155は、明部領域370の位置番号nを選択する。次に、融合部155は、画像毎に第2の測距値を算出する(ステップS183)。この際、融合部155は、第2の測距値D2(1,n)~D2(4,n)を算出する。次に融合部155は、第2の測距値の中央値を算出する(ステップS184)。この際、融合部155は、中央値D2medを算出する。
【0084】
次に、融合部155は、中央値が所定の範囲内か否かを判断する(ステップS185)。その結果、中央値が所定の範囲内にない場合には(ステップS185,No)、融合部155は、第1の測距値を融合測距値として出力し(ステップS188)、ステップS181の処理に戻る。
【0085】
一方、ステップS185において、中央値が所定の範囲内の場合には(ステップS185,Yes)、融合部155は、重みを算出し(ステップS186)、第1の測距値及び第2の測距値を融合する(ステップS187)。次に、融合部155は、ステップS181の処理に戻る。
【0086】
ステップS181において、全ての明部領域を選択した場合には(ステップS181,Yes)、融合部155は、融合処理S180を修了する。
【0087】
これ以外の測距システム1の構成は本開示の第1の実施形態における測距システム1の構成と同様であるため、説明を省略する。
【0088】
このように、本開示の第3の測距システム1は、画像毎の第2の測距値のばらつきを算出し、第2の測距値のばらつきが所定の範囲内にない場合には、第1の測距値を融合測距値として出力する。三角測量による測距の誤差の混入を軽減することができ、測距の精度を向上させることができる。
【0089】
なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
【0090】
なお、本技術は以下のような構成も取ることができる。
(1)
明部及び暗部の2種類の輝度の発光期間及び非発光期間を繰り返すパルス列状のパターン光が物体により反射された反射光を前記発光期間に同期するとともにそれぞれ異なる位相の受光期間に受光して複数の画像を生成する測距センサと、
前記複数の画像における前記パターン光の前記明部に相当する前記反射光の受光により生成された領域である明部領域を検出する明部領域検出部と、
照射される前記パターン光と前記反射光との位相差を前記複数の画像において検出された前記明部領域に基づいて検出し、当該検出した位相差に基づいて前記物体までの距離である第1の測距値を算出する第1の測距部と、
前記画像を構成する画像信号に基づいて前記複数の画像において検出された前記明部領域の選択を行う明部領域選択部と、
前記選択された明部領域の前記画像における位置を用いた三角測量により前記物体までの距離である第2の測距値を算出する第2の測距部と、
前記算出された第1の測距値及び前記算出された第2の測距値の融合を行って融合測距値を生成する融合部と
を有する測距装置。
(2)
前記明部領域選択部は、前記検出された明部領域における前記画像信号と前記暗部に相当する領域における前記画像信号との差分に基づいて前記選択を行う
前記(1)に記載の測距装置。
(3)
前記明部領域選択部は、前記複数の画像において検出されたそれぞれの前記明部領域のうち自身の前記明部領域が含まれる前記画像における前記暗部に相当する領域との前記差分が最大となる前記明部領域を選択する前記(2)に記載の測距装置。
(4)
前記明部領域選択部は、自身の前記画像における前記暗部に相当する領域と前記明部領域との前記差分が最大となる前記画像に含まれる前記明部領域を選択する前記(2)に記載の測距装置。
(5)
前記明部領域選択部は、前記検出された明部領域における前記画像信号のノイズ成分に基づいて前記選択を行う
前記(1)から(4)のいずれかに記載の測距装置。
(6)
前記パターン光は、複数のドットが配置されたドットパターンである
前記(1)から(5)のいずれかに記載の測距装置。
(7)
前記融合部は、前記算出された第1の測距値及び前記算出された第2の測距値の重み付け加算により前記融合を行う
前記(1)から(6)のいずれかに記載の測距装置。
(8)
前記融合部は、前記算出された第1の測距値及び前記算出された第2の測距値の差分に応じた重みに基づいて前記重み付け加算を行う
前記(7)に記載の測距装置。
(9)
明部及び暗部の2種類の輝度の発光期間及び非発光期間を繰り返すパルス列状のパターン光を照射する光源装置と、
前記照射されたパターン光が物体により反射された反射光を前記発光期間に同期するとともにそれぞれ異なる位相の受光期間に受光して複数の画像を生成する測距センサと、
前記複数の画像における前記パターン光の前記明部に相当する前記反射光の受光により生成された領域である明部領域を検出する明部領域検出部と、
前記照射されたパターン光と前記反射光との位相差を前記複数の画像において検出された前記明部領域に基づいて検出し、当該検出した位相差に基づいて前記物体までの距離である第1の測距値を算出する第1の測距部と、
前記画像を構成する画像信号に基づいて前記複数の画像において検出された前記明部領域の選択を行う明部領域選択部と、
前記選択された明部領域の前記画像における位置を用いた三角測量により前記物体までの距離である第2の測距値を算出する第2の測距部と、
前記算出された第1の測距値及び前記算出された第2の測距値の融合を行って融合測距値を生成する融合部と
を有する測距システム。
【符号の説明】
【0091】
1 測距システム
10 測距装置
20 光源装置
21 光源部
22 駆動部
100 測距センサ
110 画素アレイ部
151 明部領域検出部
152 第1の測距部
153 明部領域選択部
154 第2の測距部
155 融合部
200 画素
351~354 画像
360 暗部領域
361 周辺領域
370、371 明部領域
図1
図2A
図2B
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16