(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024175869
(43)【公開日】2024-12-19
(54)【発明の名称】検出装置
(51)【国際特許分類】
G01S 7/484 20060101AFI20241212BHJP
G01S 17/86 20200101ALI20241212BHJP
【FI】
G01S7/484
G01S17/86
【審査請求】未請求
【請求項の数】16
【出願形態】OL
(21)【出願番号】P 2023093936
(22)【出願日】2023-06-07
(71)【出願人】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】100110412
【弁理士】
【氏名又は名称】藤元 亮輔
(74)【代理人】
【識別番号】100104628
【弁理士】
【氏名又は名称】水本 敦也
(74)【代理人】
【識別番号】100121614
【弁理士】
【氏名又は名称】平山 倫也
(72)【発明者】
【氏名】船越 秀隼
【テーマコード(参考)】
5J084
【Fターム(参考)】
5J084AA05
5J084AB07
5J084AD01
5J084AD05
5J084AD07
5J084BA04
5J084BA07
5J084BA34
5J084BB24
5J084CA03
5J084CA11
5J084CA67
5J084CA68
5J084EA07
(57)【要約】
【課題】消費電力を抑制しつつ、測距可能距離を向上させることが可能な検出装置を提供すること。
【解決手段】検出装置は、複数の検出領域ごとに照射する光の照射強度を切り替え可能な光源を備え、検出領域に光を照射し、検出領域からの反射光を用いて検出領域までの第1の距離情報を取得する第1の測距部と、画像情報を用いて検出領域までの第2の距離情報を取得する第2の測距部と、第2の距離情報に基づいて照射強度を決定する決定部とを有することを特徴とする。
【選択図】
図1
【特許請求の範囲】
【請求項1】
複数の検出領域ごとに照射する光の照射強度を切り替え可能な光源を備え、前記検出領域に光を照射し、前記検出領域からの反射光を用いて前記検出領域までの第1の距離情報を取得する第1の測距部と、
画像情報を用いて前記検出領域までの第2の距離情報を取得する第2の測距部と、
前記第2の距離情報に基づいて前記照射強度を決定する決定部とを有することを特徴とする検出装置。
【請求項2】
前記複数の検出領域は、第1の検出領域と前記第1の検出領域より遠方に位置する第2の検出領域を含み、
前記決定部は、前記第1の検出領域に照射する光の照射強度が前記第2の検出領域に照射する光の照射強度よりも弱くなるように前記照射強度を決定することを特徴とする請求項1に記載の検出装置。
【請求項3】
前記第1の距離情報と前記第2の距離情報とを合成する合成部を更に有し、
前記合成部は、前記第1の距離情報が取得されていない前記検出領域までの距離情報として前記第2の距離情報を使用することを特徴とする請求項1又は2に記載の検出装置。
【請求項4】
前記複数の検出領域は、前記第2の距離情報が取得された第3の検出領域と前記第2の距離情報が取得されていない第4の検出領域を含み、
前記決定部は、前記第3の検出領域に照射する光の照射強度が前記第4の検出領域に照射する光の照射強度よりも弱くなるように前記照射強度を決定することを特徴とする請求項1又は2に記載の検出装置。
【請求項5】
前記第2の測距部は、前記画像情報を取得することを特徴とする請求項1又は2に記載の検出装置。
【請求項6】
複数の検出領域ごとに照射する光の照射強度を切り替え可能な光源を備え、前記検出領域に光を照射し、前記検出領域からの反射光を用いて前記検出領域までの第1の距離情報を取得する第1の測距部と、
前記検出領域の画像情報を取得する撮像部と、
前記画像情報に基づいて前記照射強度を決定する決定部とを有することを特徴とする検出装置。
【請求項7】
前記画像情報を用いて特定の検出対象を判定する判定部を更に有し、
前記決定部は、前記特定の検出対象を含む第1の検出領域に照射する光の照射強度が前記特定の検出対象を含まない第2の検出領域に照射する光の照射強度よりも弱くなるように前記照射強度を決定することを特徴とする請求項6に記載の検出装置。
【請求項8】
前記決定部は、複数フレームの前記画像情報を用いて推定される前記特定の検出対象の移動量が所定量より大きい場合、前記第1の検出領域の大きさを広げ、前記移動量が前記所定量より小さい場合、前記第1の検出領域の大きさを維持することを特徴とする請求項7に記載の検出装置。
【請求項9】
前記特定の検出対象は、人体であることを特徴とする請求項7又は8に記載の検出装置。
【請求項10】
前記特定の検出対象は、頭部であることを特徴とする請求項7又は8に記載の検出装置。
【請求項11】
前記特定の検出対象は、眼であることを特徴とする請求項7又は8に記載の検出装置。
【請求項12】
前記特定の検出対象は、美術品であることを特徴とする請求項7又は8に記載の検出装置。
【請求項13】
前記画像情報を用いて主被写体を判定する判定部を更に有し、
前記決定部は、前記主被写体を含む第3の検出領域に照射する光の照射強度が前記主被写体を含まない第4の検出領域に照射する光の照射強度よりも強くなるように前記照射強度を決定することを特徴とする請求項6に記載の検出装置。
【請求項14】
前記画像情報を用いて測距する必要がない測距不要領域を判定する判定部を更に有し、
前記決定部は、前記測距不要領域である第5の検出領域に照射する光の照射強度が前記測距不要領域でない第6の検出領域に照射する光の照射強度よりも弱くなるように前記照射強度を決定することを特徴とする請求項6に記載の検出装置。
【請求項15】
前記測距不要領域は、空と判定された領域であることを特徴とする請求項14に記載の検出装置。
【請求項16】
前記判定部は、前記画像情報に対してセマンティックセグメンテーションを行うことを特徴とする請求項7、13、及び14の何れか一項に記載の検出装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、測距対象に関する情報に基づいて発光素子の発光パラメータを決定することで測距精度を改善する検出装置に関する。
【背景技術】
【0002】
レーザー光を照射した検出対象からの反射光を検出することにより、検出対象までの距離を計測するLiDAR(Light Detection and Ranging)が知られている。特許文献1には、前のフレームで測距できなかった領域のレーザー強度を測距できた領域より強くすることで、システム全体としてのレーザー強度を上げることなく、遠方の検出対象に対する測距精度を改善する構成が開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1の構成では、空のような測距することができない領域のレーザー強度を強めてしまう場合がある。この場合、システム全体のレーザー強度を一定に保つと、測距することができない領域以外の領域のレーザー強度は弱くなり、測距精度や測距可能距離が悪化してしまう可能性がある。
【0005】
本発明は、消費電力を抑制しつつ、測距可能距離を向上させることが可能な検出装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の一側面としての検出装置は、複数の検出領域ごとに照射する光の照射強度を切り替え可能な光源を備え、検出領域に光を照射し、検出領域からの反射光を用いて検出領域までの第1の距離情報を取得する第1の測距部と、画像情報を用いて検出領域までの第2の距離情報を取得する第2の測距部と、第2の距離情報に基づいて照射強度を決定する決定部とを有することを特徴とする。
【発明の効果】
【0007】
本発明によれば、消費電力を抑制しつつ、測距可能距離を向上させることが可能な検出装置を提供することができる。
【図面の簡単な説明】
【0008】
【
図1】実施例1の検出装置の構成を表すブロック図である。
【
図2】実施例1の撮像素子の画素部の配置例を示す模式図である。
【
図3】実施例1の撮像素子の画素部の構造を示す模式図である。
【
図5】実施例1の処理を示すフローチャートである。
【
図6】実施例1の画像信号の一例を示すイメージ図である。
【
図7】実施例1の距離マップの一例を示すイメージ図である。
【
図8】実施例1のレーザー光の照射強度を示すイメージ図である。
【
図9】実施例1の検出装置が自動車に搭載された様子を示すイメージ図である。
【
図10】実施例2の検出装置の構成を表すブロック図である。
【
図11】実施例2の領域判定を行った画像の一例を示すイメージ図である。
【
図12】実施例2のレーザー光の照射強度の一例を示すイメージ図である。
【
図13】実施例2のレーザー光の照射強度の一例を示すイメージ図である。
【
図14】実施例2のレーザー光の照射強度の一例を示すイメージ図である。
【
図15】実施例2のレーザー光の照射強度の一例を示すイメージ図である。
【発明を実施するための形態】
【0009】
以下、本発明の実施例について、図面を参照しながら詳細に説明する。各図において、同一の部材については同一の参照番号を付し、重複する説明は省略する。
【実施例0010】
本実施例では、撮像素子(撮像部)からの視差画像信号に基づく距離情報を用いて複数の照射領域(検出領域)ごとの発光部の照射強度を決定する例について説明する。
【0011】
図1は、本実施例の検出装置(測距装置)100の構成を表すブロック図である。
【0012】
発光部105と受光部104は、TOF(Time of Flight)方式で検出対象(検出領域、対象物、物体)までの距離を検出する第1の測距部として機能する。発光部105は、受発光制御手段107から送られてくる発光タイミングと光源パラメータに従って、2次元上に配置された発光素子を発光する。受光部104は、受発光制御手段107から送られてくる発光タイミングに従って距離データを測定する。光学系111は、光の一部を透過し、一部を反射するハーフミラーや反射抑制構造を有する。発光部105から発光した光は光学系111を通過して検出対象に照射され、検出対象で反射された光は光学系111を通過して受光部104に入射する。光源パラメータ生成手段(決定部)114は、発光部105の照射強度等を決定し、発光部105が所定の発光をするための光源パラメータを生成する。受発光制御手段107は、光源パラメータや発光タイミングを受光部104と発光部105に出力する。距離マップ補正手段106は、受光部104から出力される距離データに対して、誤差補正や光学補正等の各種補正を行う。
【0013】
CPU108は、検出装置100全体の制御を司るマイクロコンピュータ等で構成され、各機能ブロックに対して動作指示を行い、各種の制御処理を実行する。また、CPU108は、各種の制御処理の際に必要となる演算も行う。更に、CPU108は、バス112を介してメモリ制御部115や不揮発性メモリ制御部116等を制御する。CPU108を起動するために必要なプログラムは、不揮発性メモリ117にあらかじめ記録されている。また、起動後に必要なプログラムも同様に不揮発性メモリ117に記録されている。
【0014】
メモリ109は、例えばDRAM等のデータを記憶するメモリで、画像処理における中間画像データ、及びCPU108の動作用の定数やプログラム等を格納可能な記憶容量を備える。メモリ制御部115は、CPU108からの指示に応じて、メモリ109へのデータ書き込み及びデータ読み出しを行う。
【0015】
不揮発性メモリ制御部116は、CPU108からの指示に応じて、不揮発性メモリ117へのデータ書き込み及びデータ読み出しを行う。不揮発性メモリ117は、電気的に消去・記録可能なメモリであり、CPU108の動作用の定数やプログラム等を記憶している。
【0016】
バス112は、主にCPU108等から各ブロックに制御信号を伝送したり、距離マップ等のデータを転送したりする。
【0017】
光学系120は、焦点レンズを含む複数のレンズ群と絞りを備え、撮像素子101に検出対象像を形成する。
【0018】
撮像素子101は、複数の光電変換素子を備え、CCDやCMOSで構成され、光電変換により検出対象像を電気信号に変換して、画像信号として出力する。光電変換素子は、入射方向が異なる光束を捕らえて受光するように構成されている。撮像素子101は、入射方向が異なる光束ごとに視差画像信号として出力可能であると共に、複数の光電変換素子で受光し電気信号に変換された画像信号をまとめて1つの画像信号として出力可能である。
【0019】
図2は、撮像素子101の画素部の配置例を示す模式図である。受光部201ではフォトダイオードに代表される光電変換素子が二次元上に配列され、各光電変換素子上部には検出対象からの光束のうち特定の波長帯域を透過させるためにカラーフィルターが備えられている。フィルター202,203,204はそれぞれ、赤色、緑色、青色の光を透過させるカラーフィルターであり、規則的に配置されている。フィルター202,203,204を透過した光束は、各フィルターの直下に配置された光電変換部で光電変換され、電気信号として撮像素子101から出力される。
【0020】
図3は、撮像素子101の画素部303の構造を示す模式図である。画素部303は、2つの光電変換部301,302と、1つのマイクロレンズ304とを備える。フィルターは画素部303に対して1対1でマイクロレンズ304の上部に形成されている。このような構造により、ペアとなっている光電変換部から個別に信号を取り出すことで入射方向の異なる光束を受光した画像信号を取得することができる。また、ペアとなっている光電変換部から同時に信号を取り出すことで、画像処理装置や撮像装置で表示したり記録したりするための画像信号を取得することができる。
【0021】
なお、撮像素子101上に存在する他の画素部についても、図示した位置関係で構成され、撮像素子101上の水平方向及び垂直方向に繰り返し配置されている。
【0022】
また、本実施例では、2つの光電変換部に共通で1つのマイクロレンズが設けられているが、位相差を検出可能であれば、上記構造に限定されない。また、一部の画素部が位相差を検出可能であればよく、全ての画素部が位相差を検出可能でなくてもよい。
【0023】
像ずれマップ生成手段102は、撮像素子101で得られた視差画像信号から像ずれマップを生成する。距離マップ生成手段103は、像ずれマップ生成手段102で生成された像ずれマップから、距離マップを生成する。本実施例では、撮像素子101、像ずれマップ生成手段102、及び距離マップ生成手段103が第2の測距部として機能する。距離マップ合成手段(合成部)110は、距離マップ生成手段103と距離マップ補正手段106からそれぞれ出力される2枚の距離マップを、1枚に合成する。
【0024】
図4は、発光部105を示す模式図である。発光部105は、光源ユニット402、光源制御部403、及び駆動回路404を備える。
【0025】
光源ユニット402は、基板上に2次元アレイ状に配列された複数の発光素子401を含む。発光素子401は、VCSEL(Vertical Cavity Surface Emitting Laser:垂直共振器面発光レーザー)である。光源ユニット402は、領域ごとに光の照射強度を調整可能である。
【0026】
なお、
図4では発光素子401は水平方向と垂直方向に8個ずつ配列されているが、発光素子401の配列数は任意に設定可能である。
【0027】
また、発光素子401は、本実施例ではVCSELであるが、本発明はこれに限定されない。ただし、1次元や2次元アレイ状に集積可能なものが好ましく、例えば、端面発光型レーザーやLED(発光ダイオード)であってもよい。発光素子401として端面発光型レーザーを用いる場合、基板上で1次元配列したレーザーバーや、これを積層して2次元発光素子アレイ構成としたレーザーバースタックを用いることができる。発光素子401としてLEDを用いる場合、基板上に2次元アレイ状にLEDが配列されたものを用いることができる。
【0028】
また、環境光の影響を抑制するために、発光素子401の発する光の波長を近赤外帯域とすることが好ましいが、本発明はこれに限定されない。
【0029】
光源制御部403は、受発光制御手段107から送られてくる発光タイミングと光源パラメータに従って、駆動回路404を制御する。駆動回路404は、光源ユニット402を駆動し、複数の照射領域ごとにレーザー光の照射強度を切り替えることができる。
【0030】
以下、
図5を参照して本実施例の処理フローについて説明する。
図5は、本実施例の処理を示すフローチャートである。
【0031】
ステップS501では、像ずれマップ生成手段102は、撮像素子101から可視領域の視差画像信号を取得する。本ステップでは、
図3に示される画素部に含まれる各光電変換部で変換された電気信号が視差画像信号として出力される。
図6は、撮像素子101から得られる画像信号の一例を示すイメージ図である。
【0032】
ステップS502では、像ずれマップ生成手段102はまず、ステップS501で取得した視差画像信号を用いて視差画像間でSAD(Sum of Absolute Difference)演算等の相関演算処理を行う。次に、像ずれマップ生成手段102は、相関度合いに基づいて2つの視差画像間の像のずれ量(像ずれ量)を算出し、像ずれ量を2次元マップ化した像ずれマップを生成する。なお、像ずれ量は、視差画像を構成する1画素単位の粒度で求めてもよいし、所定の画素数で領域を定義し各領域単位で算出するようにしてもよい。
【0033】
ステップS503では、距離マップ生成手段103は、ステップS502で生成された像ずれマップから距離マップを生成する。像ずれマップを距離マップに変換するための変換パラメータはメモリ109に格納されており、距離マップ生成手段103はメモリ109から変換パラメータを読み出して距離マップを生成する。
図7は、距離マップの一例を示すイメージである。
図7は、濃淡が薄いほど検出対象までの距離が近く、濃淡が濃いほど検出対象までの距離が遠いことを示している。
【0034】
ステップS504では、光源パラメータ生成手段114はまず、ステップS503で生成された距離マップを用いて発光部105の複数の照射領域ごとにレーザー光の照射強度を決定する。次に、光源パラメータ生成手段114は、発光部105が決定した照射強度となる発光をするための光源パラメータを生成する。
【0035】
本実施例では、光源パラメータ生成手段114は、検出対象までの距離が近い領域について照射強度が弱く、検出対象までの距離が遠い領域について照射強度が強くなるように照射強度を決定する。
図8は、複数の照射領域ごとのレーザー光の照射強度を示すイメージ図である。
図8では、濃淡が薄いほど照射強度が強く、濃淡が濃いほど照射強度が弱いことを示している。
【0036】
レーザー光を含む光は、飛行距離が長いほど強度が減衰する。受光部104は検出対象からの反射光だけでなく環境光も受光するため、受光部104が受光する検出対象からの反射光の強度が弱いと、環境光等のノイズの影響により測距精度が低下する。そのため、近距離に存在する検出対象に対する測距は比較的精度が高く、遠距離に存在する検出対象に対する測距は比較的精度が低い、又は不可能となる。測距精度はレーザー光の照射強度にも依存し、照射強度が強いほど測距精度や測距可能距離が改善する。本実施例では遠距離に存在する検出対象に照射するレーザー光の照射強度を強くすることで、遠距離に存在する検出対象に対する測距精度や測距可能距離を改善することができる。一方、近距離に存在し、比較的測距精度が高くなる検出対象に照射するレーザー光の照射強度を弱くする。これにより、受光部104と発光部105に必要な消費電力を低減し、測距可能距離を改善することができる。
【0037】
ステップS505では、発光部105は、ステップS504で生成された光源パラメータに従って、パルス発光を行う。駆動回路404は、光源ユニット402を駆動し、各照射領域が所定の照射強度になるように調整する。
【0038】
ステップS506では、受光部104は、TOF方式で検出対象までの距離を検出し、距離マップを取得する。TOF方式では、ステップS505の発光タイミングから検出対象からの反射光を受光するタイミングまでの時間に基づき、検出対象までの距離が測定される。
【0039】
具体的には、受発光制御手段107は、発光タイミングを発光部105と受光部104に出力する。発光部105から照射された光は、光学系111を通過し、検出対象に照射される。検出対象に照射された光の一部は反射され、光学系111を通過して受光部104に入射する。受光部104は、反射光を検出したタイミングと、受発光制御手段107から通知された発光タイミングとの差分に基づいて、距離データを測定する。受光部104は、各受光素子について測定された距離データを、距離マップとして取得する。
【0040】
ステップS507では、距離マップ合成手段110は、ステップS503で像ずれマップから生成された距離マップと、ステップS506でTOF方式を用いて取得された距離マップとを合成し、1枚の距離マップとして出力する。
【0041】
図8において、レーザー光の照射強度を弱くした領域は、測距精度が低下、又は測距不可能となる場合がある。レーザー光の照射強度を弱くした領域については、ステップS506で取得された距離マップではなく、ステップS503で像ずれマップから生成された距離マップを合成することで、レーザー光の照射強度を弱くしたことによる測距精度の低下を抑制可能である。
【0042】
視差画像から検出対象までの距離を検出する場合、測距精度や測距可能距離は視差画像の視差の大きさに依存する。撮像素子101から出力される視差画像から距離マップを生成する場合、遠方の検出対象に対する測距の精度は低く、かつ測距可能距離が比較的短い。一方、TOF方式では、測距可能距離が比較的長い。
【0043】
そこで、本実施例では、ステップS506で生成された距離マップの領域のうち、レーザー光の照射強度を弱くした領域にステップS503で像ずれマップから生成された距離マップを合成する。これにより、受光部104と発光部105の消費電力を低減しつつ、視野全体の測距精度を改善することができる。
【0044】
なお、
図8において、視差画像で測距可能な距離にある検出対象には発光部105でレーザー光の照射を行わないようにしてもよい。この場合、受光部104と発光部105の消費電力を更に低減することが可能である。レーザー光の照射を行わなかった領域にはステップS503で生成された距離マップを合成すればよい。
【0045】
以下、本実施例の検出装置100を電子機器に用いた例について説明する。
図9は、検出装置100が自動車901に搭載された様子を示すイメージ図である。
図9では、検出装置100は、自動車901の前方に設置されているが、後方に設置されてもよい。
図9では、検出装置100の検出結果(測距結果)に基づいて、自動ブレーキや衝突警告等の運転支援システムを動作させる。運転支援システムには、可視光センサ、TOF方式による測距装置、及びミリ波レーダー等の種々の検出装置が搭載される。可視光センサ又は視差画像による測距装置と、TOF方式による測距装置とを搭載した運転支援システムでは、検出装置100を適用する場合に、追加で可視光センサ等を搭載する必要がなく、測距可能距離を改善することが可能である。また、検出装置100は、自立走行型の車両にも適用可能である。
撮像素子802は、画像信号を出力する。実施例1とは異なり、撮像素子802が出力する画像信号は視差画像信号でなくてもよい。撮像素子802で得られた画像信号は、画像補正手段803で補正され、領域判定手段(判定部)801に出力される。
光源パラメータ生成手段114は、領域判定手段801の出力である分割された領域と、領域ごとに付与されたラベルを用いて発光部105の複数の照射領域ごとにレーザー光の照射強度を決定する。また、光源パラメータ生成手段114は、発光部105が決定した照射強度となる発光をするための光源パラメータを生成する。
また、人体領域が移動している場合、撮像素子802で画像信号を取得してから、画像補正手段803、領域判定手段801、及び光源パラメータ生成手段114での処理により遅延が生じる。発光部105は受発光制御手段107が所定のタイミングで出力した発光タイミングで発光するが、光源パラメータ生成手段114で光源パラメータが生成されたタイミングと発光タイミングは同時であるとは限らない。そのため、光源パラメータが生成された後、次の発光タイミングまでの期間に遅延が生じることがある。遅延が生じている間、人体が移動していると、正しく人体と判定された領域のレーザー光を弱くできない場合がある。人体の移動量が大きいほど、人体の照射強度が強いレーザー光を照射される領域が大きくなってしまう。