IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 凸版印刷株式会社の特許一覧

特開2024-108115距離画像撮像装置、距離画像撮像方法、及びプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024108115
(43)【公開日】2024-08-09
(54)【発明の名称】距離画像撮像装置、距離画像撮像方法、及びプログラム
(51)【国際特許分類】
   G01S 7/497 20060101AFI20240802BHJP
   G01S 17/42 20060101ALI20240802BHJP
   G01S 17/894 20200101ALI20240802BHJP
【FI】
G01S7/497
G01S17/42
G01S17/894
【審査請求】未請求
【請求項の数】19
【出願形態】OL
(21)【出願番号】P 2023203222
(22)【出願日】2023-11-30
(31)【優先権主張番号】P 2023011883
(32)【優先日】2023-01-30
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000003193
【氏名又は名称】TOPPANホールディングス株式会社
(74)【代理人】
【識別番号】100149548
【弁理士】
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100139686
【弁理士】
【氏名又は名称】鈴木 史朗
(74)【代理人】
【識別番号】100169764
【弁理士】
【氏名又は名称】清水 雄一郎
(74)【代理人】
【識別番号】100147267
【弁理士】
【氏名又は名称】大槻 真紀子
(72)【発明者】
【氏名】高橋 聡
(72)【発明者】
【氏名】大熊 聡
(72)【発明者】
【氏名】櫃岡 祥之
(72)【発明者】
【氏名】森田 雄飛
【テーマコード(参考)】
5J084
【Fターム(参考)】
5J084AA01
5J084AA05
5J084AA10
5J084AD01
5J084BA04
5J084BA36
5J084BA40
5J084BB01
5J084BB40
5J084CA03
5J084CA10
5J084CA11
5J084CA12
5J084CA23
5J084CA31
5J084CA49
5J084DA01
5J084DA07
5J084DA08
5J084EA20
(57)【要約】
【課題】距離画像撮像装置に適したスリープ機能に係る処理を実行する。
【解決手段】光源部と受光部と距離画像処理部とを備え、前記距離画像処理部は、前記通常モード、又は前記通常モードより消費電力が小さい省電力モードの何れかを実行し、前記省電力モードにおいて、前記通常モードと同じか又は前記通常モードより小さい頻度で前記電荷蓄積部に電荷を蓄積させ、前記電荷蓄積部に蓄積された電荷量に応じて前記空間に動体が存在するか否かを判定し、前記空間に動体が存在する場合、復帰条件を充足するとして前記省電力モードを解除し、前記通常モードにおいて前記電荷蓄積部の各々に蓄積された電荷量に応じて前記空間に動体が存在するか否かを判定し、前記空間に動体が存在しないと判定した場合に前記省電力モードに移行する。
【選択図】図1
【特許請求の範囲】
【請求項1】
撮像対象である空間に光パルスを照射する光源部と、
前記空間から入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記電荷蓄積部のそれぞれに電荷を蓄積させる駆動を行う画素駆動回路と、を有する受光部と、
前記画素駆動回路を制御し、通常モードにおいて、前記光パルスを照射する照射タイミングに同期させた蓄積タイミングにて前記電荷蓄積部の各々に電荷を蓄積させ、前記電荷蓄積部の各々に蓄積された電荷量に基づいて前記空間に存在する被写体までの距離を算出する距離画像処理部と、
を備え、
前記距離画像処理部は、
前記通常モード、又は前記通常モードより消費電力が小さい省電力モードの何れかを実行し、
前記省電力モードにおいて、前記通常モードと同じか又は前記通常モードより小さい頻度で前記電荷蓄積部に電荷を蓄積させ、前記電荷蓄積部に蓄積された電荷量に応じて前記空間に動体が存在するか否かを判定し、前記空間に動体が存在する場合、復帰条件を充足するとして前記省電力モードを解除し、
前記通常モードにおいて前記電荷蓄積部の各々に蓄積された電荷量に応じて前記空間に動体が存在するか否かを判定し、前記空間に動体が存在しないと判定した場合に前記省電力モードに移行する、
距離画像撮像装置。
【請求項2】
前記距離画像処理部は、前記距離画像撮像装置の起動時において前記省電力モードを実行する、
請求項1に記載の距離画像撮像装置。
【請求項3】
前記距離画像処理部は、前記省電力モードにおいて、前記光パルスの照射を停止させ、前記電荷蓄積部の各々に電荷を蓄積させ、外光を受光する画素の受光量に相当する画素値の変化に応じて前記空間に動体が存在するか否かを判定する、
請求項1に記載の距離画像撮像装置。
【請求項4】
前記距離画像処理部は、前記省電力モードにおいて、前記光パルスを照射する頻度を前記通常モードより小さくなるようにし、前記蓄積タイミングにて前記電荷蓄積部の各々に電荷を蓄積させ、前記光パルスの反射光を受光する画素の受光量に相当する画素値の変化に応じて前記空間に動体が存在するか否かを判定する、
請求項1に記載の距離画像撮像装置。
【請求項5】
前記距離画像処理部は、前記省電力モードにおいて、前記光パルスを照射する頻度を前記通常モードより小さくなるようにし、前記蓄積タイミングにて前記電荷蓄積部の各々に電荷を蓄積させ、前記電荷蓄積部に蓄積された電荷量の変化に応じて前記空間に動体が存在するか否かを判定する、
請求項1に記載の距離画像撮像装置。
【請求項6】
前記距離画像処理部は、前記省電力モードにおいて、前記光パルスを照射する頻度を前記通常モードより小さくなるようにし、前記光パルスを照射する照射タイミングを前記通常モードより遅らせ、前記蓄積タイミングにて前記電荷蓄積部の各々に電荷を蓄積させ、前記電荷蓄積部に蓄積された電荷量の変化に応じて前記空間に動体が存在するか否かを判定する、
請求項1に記載の距離画像撮像装置。
【請求項7】
前記距離画像処理部は、前記省電力モードにおいて、前記通常モードより少ない数の画素について前記駆動を行い、前記駆動を行った画素の前記電荷蓄積部に蓄積された電荷量の変化に応じて前記空間に動体が存在するか否かを判定する、
請求項1に記載の距離画像撮像装置。
【請求項8】
前記距離画像処理部は、複数の画素に前記駆動を行い、前記駆動を行った画素のうち、画素値が第1しきい値以上である画素の数である高画素値画素数を算出し、今回の前記駆動における前記高画素値画素数と前回の前記駆動における前記高画素値画素数との差分が第2しきい値以上である場合に前記空間に動体が存在すると判定する、
請求項7に記載の距離画像撮像装置。
【請求項9】
画素は二次元マトリクス状に複数配置され、
前記距離画像処理部は、複数の画素に前記駆動を行い、前記駆動を行った画素のうち、特定方向に沿って配置された画素のそれぞれの画素値を加算した加算値を算出し、今回の前記駆動における前記加算値と前回の前記駆動における前記加算値との差分が第3しきい値以上である前記特定方向の数が第4しきい値以上である場合に前記空間に動体が存在すると判定する、
請求項7に記載の距離画像撮像装置。
【請求項10】
前記距離画像処理部は、前記駆動を行った複数の画素をまとめて1つの画素とみなした画素の画素値、又は、前記駆動を行った複数の画素のうち一部の画素の画素値を用いて、前記空間に動体が存在すると判定する、
請求項9に記載の距離画像撮像装置。
【請求項11】
前記距離画像処理部は、前記駆動を行った画素からなる画像にエッジ検出を行い、エッジが検出された画素であるか否かに応じて二値化した画像を用いて、前記加算値を算出する、
請求項9に記載の距離画像撮像装置。
【請求項12】
前記距離画像処理部は、画素に設けられた特定の1つの前記電荷蓄積部に蓄積された電荷量に対応する画素値、または、画素に入射された前記光パルスの反射光の光量に対応する画素値を用いて、前記空間に動体が存在すると判定する、
請求項8または請求項9に記載の距離画像撮像装置。
【請求項13】
前記空間に反射物体が設置され、
前記距離画像処理部は、前記省電力モードにおいて、前記光パルスを照射する頻度を前記通常モードより小さくなるようにし、前記反射物体から到来する光を受光する画素の受光量に相当する画素値の変化に応じて、前記空間に動体が存在するか否かを判定する、
請求項1に記載の距離画像撮像装置。
【請求項14】
前記空間に発光物体が設置され、
前記距離画像処理部は、前記省電力モードにおいて、前記光パルスの照射を停止させ、前記発光物体から到来する光を受光する画素の受光量に相当する画素値の変化に応じて、前記空間に動体が存在するか否かを判定する、
請求項1に記載の距離画像撮像装置。
【請求項15】
前記距離画像処理部は、前記省電力モードを解除した後、プレ動作駆動を行い、前記プレ動作駆動において、前記蓄積タイミングにて前記電荷蓄積部の各々に電荷を蓄積させ、前記電荷蓄積部の各々に蓄積された電荷量に応じて前記空間に動体が存在するか否かを判定し、前記プレ動作駆動において所定の時間内に動体が検知された場合に前記通常モードに移行し、前記プレ動作駆動において所定の時間内に動体が検知されない場合に前記省電力モードに移行する、
請求項1に記載の距離画像撮像装置。
【請求項16】
前記距離画像処理部は、前記省電力モードを解除した後、高速駆動を行い、前記高速駆動において、前記光パルスを照射する頻度を前記通常モードより増加させ、前記蓄積タイミングにて前記電荷蓄積部の各々に電荷を蓄積させ、前記電荷蓄積部の各々に蓄積された電荷量に基づいて前記空間に存在する被写体までの距離を算出し、前記高速駆動を所定の時間実行した後に前記通常モードに移行する、
請求項1に記載の距離画像撮像装置。
【請求項17】
前記距離画像処理部は、前記省電力モードにおいて、外部装置から前記省電力モードを解除する制御信号が取得した場合に、前記省電力モードを解除する、
請求項1に記載の距離画像撮像装置。
【請求項18】
撮像対象である空間に光パルスを照射する光源部と、前記空間から入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記電荷蓄積部のそれぞれに電荷を蓄積させる駆動を行う画素駆動回路と、を有する受光部と、前記画素駆動回路を制御し、通常モードにおいて、前記光パルスを照射する照射タイミングに同期させた蓄積タイミングにて前記電荷蓄積部の各々に電荷を蓄積させ、前記電荷蓄積部の各々に蓄積された電荷量に基づいて前記空間に存在する被写体までの距離を算出する距離画像処理部と、を備える距離画像処理装置が行う距離画像撮像方法であって、
前記距離画像処理部は、
前記通常モード、又は前記通常モードより消費電力が小さい省電力モードの何れかを実行し、
前記省電力モードにおいて、前記通常モードと同じか又は前記通常モードより小さい頻度で前記電荷蓄積部に電荷を蓄積させ、前記電荷蓄積部に蓄積された電荷量に応じて前記空間に動体が存在するか否かを判定し、前記空間に動体が存在する場合、復帰条件を充足するとして前記省電力モードを解除し、
前記通常モードにおいて前記電荷蓄積部の各々に蓄積された電荷量に応じて前記空間に動体が存在するか否かを判定し、前記空間に動体が存在しないと判定した場合に前記省電力モードに移行する、
距離画像撮像方法。
【請求項19】
撮像対象である空間に光パルスを照射する光源部と、前記空間から入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記電荷蓄積部のそれぞれに電荷を蓄積させる駆動を行う画素駆動回路と、を有する受光部と、前記画素駆動回路を制御し、通常モードにおいて前記光パルスを照射する照射タイミングに同期させた蓄積タイミングにて前記電荷蓄積部の各々に電荷を蓄積させ、前記電荷蓄積部の各々に蓄積された電荷量に基づいて前記空間に存在する被写体までの距離を算出する距離画像処理部と、を備える距離画像撮像装置のコンピュータに、
前記通常モード、又は前記通常モードより消費電力が小さい省電力モードの何れかを実行させ、
前記省電力モードにおいて、前記通常モードと同じか又は前記通常モードより小さい頻度で前記電荷蓄積部に電荷を蓄積させ、前記電荷蓄積部に蓄積された電荷量に応じて前記空間に動体が存在するか否かを判定させ、前記空間に動体が存在する場合、復帰条件を充足するとして前記省電力モードを解除させ、
前記通常モードにおいて前記電荷蓄積部の各々に蓄積された電荷量に応じて前記空間に動体が存在するか否かを判定させ、前記空間に動体が存在しないと判定した場合に前記省電力モードに移行させる、
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、距離画像撮像装置、距離画像撮像方法、及びプログラムに関する。
【背景技術】
【0002】
従来から、光の速度が既知であることを利用し、空間(測定空間)における光の飛行時間に基づいて測定器と対象物との距離を測定する、タイム・オブ・フライト(Time of Flight、以下「TOF」という)方式の距離画像撮像装置が実現されている(例えば、特許文献1参照)。このような距離画像撮像装置は、例えば、撮像対象空間における対象物の動きなどを測定する、人流検知等に適用することができる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第4235729号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
人流検知等において動体を検出しようとした場合、撮像対象空間において、常に動体が存在するとは限らない。距離画像撮像装置は光パルスを照射する所謂アクティブセンサーであるため、測定をし続けると消費電力が増大してしまう。この対策として、撮像対象空間に動体が存在していない場合には測定しないなどスリープ機能を持たせることによって、距離画像撮像装置の消費電力を抑えることが望ましい。例えば、距離画像撮像装置に、パソコンなど汎用的な情報処理装置におけるスリープ機能を適用することが考えられる。
【0005】
しかしながら、距離画像撮像装置は測定中において撮像対象空間に動体が存在していないことを検知して測定を中止することができるが、測定を行っていない場合に撮像対象空間に動体が入ってきたことを検知することができない。つまり、距離画像撮像装置はスリープ状態に入ると元の撮像状態に戻ることが難しく、パソコンなど汎用的な情報処理装置におけるスリープ機能をそのまま適用することができない。このため、距離画像撮像装置に適したスリープ機能の実現が望まれていた。
【0006】
本発明は、このような状況に鑑みてなされたものであり、距離画像撮像装置に適したスリープ機能に係る処理を実行することができる距離画像撮像装置、距離画像撮像方法、及びプログラムを提供する。
【課題を解決するための手段】
【0007】
上述した課題を解決するために、本発明の距離画像撮像装置は、撮像対象である空間に光パルスを照射する光源部と、前記空間から入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記電荷蓄積部のそれぞれに電荷を蓄積させる駆動を行う画素駆動回路と、を有する受光部と、前記画素駆動回路を制御し、通常モードにおいて、前記光パルスを照射する照射タイミングに同期させた蓄積タイミングにて前記電荷蓄積部の各々に電荷を蓄積させ、前記電荷蓄積部の各々に蓄積された電荷量に基づいて前記空間に存在する被写体までの距離を算出する距離画像処理部と、を備え、前記距離画像処理部は、前記通常モード、又は前記通常モードより消費電力が小さい省電力モードの何れかを実行し、前記省電力モードにおいて、前記通常モードと同じか又は前記通常モードより小さい頻度で前記電荷蓄積部に電荷を蓄積させ、前記電荷蓄積部に蓄積された電荷量に応じて前記空間に動体が存在するか否かを判定し、前記空間に動体が存在する場合、復帰条件を充足するとして前記省電力モードを解除し、前記通常モードにおいて前記電荷蓄積部の各々に蓄積された電荷量に応じて前記空間に動体が存在するか否かを判定し、前記空間に動体が存在しないと判定した場合に前記省電力モードに移行する。
【0008】
本発明の距離画像撮像方法は、撮像対象である空間に光パルスを照射する光源部と、前記空間から入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記電荷蓄積部のそれぞれに電荷を蓄積させる駆動を行う画素駆動回路と、を有する受光部と、前記画素駆動回路を制御し、通常モードにおいて、前記光パルスを照射する照射タイミングに同期させた蓄積タイミングにて前記電荷蓄積部の各々に電荷を蓄積させ、前記電荷蓄積部の各々に蓄積された電荷量に基づいて前記空間に存在する被写体までの距離を算出する距離画像処理部と、を備える距離画像処理装置が行う距離画像撮像方法であって、前記距離画像処理部は、前記通常モード、又は前記通常モードより消費電力が小さい省電力モードの何れかを実行し、前記省電力モードにおいて、前記通常モードと同じか又は前記通常モードより小さい頻度で前記電荷蓄積部に電荷を蓄積させ、前記電荷蓄積部に蓄積された電荷量に応じて前記空間に動体が存在するか否かを判定し、前記空間に動体が存在する場合、復帰条件を充足するとして前記省電力モードを解除し、前記通常モードにおいて前記電荷蓄積部の各々に蓄積された電荷量に応じて前記空間に動体が存在するか否かを判定し、前記空間に動体が存在しないと判定した場合に前記省電力モードに移行する。
【0009】
本発明の距離画像撮像システムは、撮像対象である空間に光パルスを照射する光源部と、前記空間から入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素と、前記電荷蓄積部のそれぞれに電荷を蓄積させる駆動を行う画素駆動回路と、を有する受光部と、前記画素駆動回路を制御し、通常モードにおいて前記光パルスを照射する照射タイミングに同期させた蓄積タイミングにて前記電荷蓄積部の各々に電荷を蓄積させ、前記電荷蓄積部の各々に蓄積された電荷量に基づいて前記空間に存在する被写体までの距離を算出する距離画像処理部と、を備える距離画像撮像装置のコンピュータに、前記通常モード、又は前記通常モードより消費電力が小さい省電力モードの何れかを実行させ、前記省電力モードにおいて、前記通常モードと同じか又は前記通常モードより小さい頻度で前記電荷蓄積部に電荷を蓄積させ、前記電荷蓄積部に蓄積された電荷量に応じて前記空間に動体が存在するか否かを判定させ、前記空間に動体が存在する場合、復帰条件を充足するとして前記省電力モードを解除させ、前記通常モードにおいて前記電荷蓄積部の各々に蓄積された電荷量に応じて前記空間に動体が存在するか否かを判定させ、前記空間に動体が存在しないと判定した場合に前記省電力モードに移行させるプログラムである。
【発明の効果】
【0010】
以上説明したように、本発明によれば、距離画像撮像装置に適したスリープ機能に係る処理を実行することができる。
【図面の簡単な説明】
【0011】
図1】実施形態の距離画像撮像装置1の構成例を示すブロック図である。
図2】実施形態の距離画像センサ32の構成例を示すブロック図である。
図3】実施形態の画素321の構成例を示す回路図である。
図4】実施形態の距離画像処理部4が行う処理の流れを示すフローチャートである。
図5】実施形態の省電力モードを説明するための図である。
図6】実施形態の通常モードを説明する図である。
図7】実施形態の省電力モードM1を説明する図である。
図8】実施形態の省電力モードM2を説明する図である。
図9】実施形態の省電力モードM2の変形例1を説明する図である。
図10A】実施形態の測定環境の例1を説明する図である。
図10B】実施形態の測定環境の例1を説明する図である。
図11A】実施形態の測定環境の例1を説明する図である。
図11B】実施形態の測定環境の例1を説明する図である。
図12】実施形態の測定環境の例2を説明する図である。
図13A】実施形態の省電力モードM2の変形例2を説明するための図である。
図13B】実施形態の省電力モードM2の変形例2を説明するための図である。
図13C】実施形態の省電力モードM2の変形例2を説明するための図である。
図13D】実施形態の省電力モードM2の変形例2を説明するための図である。
図13E】実施形態の省電力モードM2の変形例2を説明するための図である。
図14A】実施形態の復帰条件を説明するための図である。
図14B】実施形態の復帰条件を説明するための図である。
図15】実施形態の変形例に係る距離画像処理部4が行う処理の流れを示すフローチャートである。
図16】実施形態の距離画像処理部4が行う動体の有無を判定する処理の流れの一例を示すフローチャートである。
図17】実施形態の距離画像処理部4が行う動体の有無を判定する処理の流れの他の例を示すフローチャートである。
図18図17のフローチャートで行う処理を説明する図である。
図19図17のフローチャートで行う処理を説明する図である。
図20図17のフローチャートで行う処理を説明する図である。
図21図17のフローチャートで行う処理を説明する図である。
【発明を実施するための形態】
【0012】
以下、本発明の実施形態について、図面を参照して説明する。図1は、距離画像撮像装置1の構成例を示すブロック図である。距離画像撮像装置1は、例えば、光源部2と、受光部3と、距離画像処理部4とを備える。なお、図1には、距離画像撮像装置1において距離を測定する対象物である被写体OBも併せて示している。距離画像撮像素子は、例えば、受光部3における距離画像センサ32(後述)である。
【0013】
光源部2は、距離画像処理部4からの制御に従って、距離画像撮像装置1において距離を測定する対象の被写体OBが存在する測定対象とする空間に光パルスPOを照射する。光源部2は、例えば、垂直共振器面発光レーザー(VCSEL:Vertical Cavity Surface Emitting Laser)などの面発光型の半導体レーザーモジュールである。光源部2は、光源装置21と、拡散板22とを備える。
【0014】
光源装置21は、被写体OBに照射する光パルスPOとなる近赤外の波長帯域(例えば、波長が850nm~940nmの波長帯域)のレーザー光を発光する光源である。光源装置21は、例えば、半導体レーザー発光素子である。光源装置21は、タイミング制御部41からの制御に応じて、パルス状のレーザー光を発光する。拡散板22は、光源装置21が発光した近赤外の波長帯域のレーザー光を、被写体OBに照射する面の広さに拡散する光学部品である。拡散板22が拡散したパルス状のレーザー光が、光パルスPOとして出射され、被写体OBに照射される。
【0015】
受光部3は、距離画像撮像装置1において距離を測定する対象の被写体OBによって反射された光パルスPOの反射光RLを受光し、受光した反射光RLに応じた画素信号を出力する。受光部3は、レンズ31と、距離画像センサ32とを備える。レンズ31は、入射した反射光RLを距離画像センサ32に導く光学レンズである。レンズ31は、入射した反射光RLを距離画像センサ32側に出射して、距離画像センサ32の受光領域に備えた画素回路に受光(入射)させる。
【0016】
距離画像センサ32は、距離画像撮像装置1に用いられる撮像素子である。距離画像センサ32は、二次元の受光領域に複数の画素を備える。距離画像センサ32のそれぞれの画素回路(画素321)の中に、1つの光電変換素子と、この1つの光電変換素子に対応する複数の電荷蓄積部と、それぞれの電荷蓄積部に電荷を振り分ける構成要素とが設けられる。
【0017】
距離画像センサ32は、タイミング制御部41からの制御に応じて、光電変換素子が発生した電荷をそれぞれの電荷蓄積部に振り分ける。また、距離画像センサ32は、電荷蓄積部に振り分けられた電荷量に応じた画素信号を出力する。距離画像センサ32には、複数の画素回路が二次元の行列状に配置されており、それぞれの画素回路の対応する1フレーム分の画素信号を出力する。
【0018】
距離画像処理部4は、距離画像撮像装置1を制御し、被写体OBまでの距離を演算する。距離画像処理部4は、タイミング制御部41と、距離演算部42とを備える。タイミング制御部41は、距離の測定に要する様々な制御信号を出力するタイミングを制御する。ここでの様々な制御信号とは、例えば、光パルスPOの照射を制御する信号や、反射光RLを複数の電荷蓄積部に振り分ける信号、受光部3が受光した背景光などの光(外光)が電荷蓄積部に蓄積されないように電荷を排出する信号、及び1フレームあたりの振り分け回数を制御する信号などである。振り分け回数とは、電荷蓄積部CS(図3参照)に電荷を振り分ける処理を繰返す回数である。
【0019】
距離演算部42は、距離画像センサ32から出力された画素信号に基づいて、被写体OBまでの距離を演算した距離情報を出力する。距離演算部42は、複数の電荷蓄積部CSに蓄積された電荷量に基づいて、光パルスPOを照射してから反射光RLを受光するまでの遅延時間Tdを算出する。距離演算部42は、算出した遅延時間Tdに応じて、距離画像撮像装置1から被写体OBまでの距離を演算する。
【0020】
このような構成によって、距離画像撮像装置1では、光源部2が被写体OBに照射した近赤外の波長帯域の光パルスPOが被写体OBによって反射された反射光RLを受光部3が受光し、距離画像処理部4が、被写体OBと距離画像撮像装置1との距離を測定した距離情報を出力する。なお、図1においては、距離画像処理部4を内部に備えた構成の距離画像撮像装置1を示しているが、距離画像処理部4は、距離画像撮像装置1の外部に備える構成要素であってもよい。
【0021】
次に、距離画像撮像装置1において画像撮像素子として用いられる距離画像センサ32の構成について説明する。図2は、画像撮像素子(距離画像センサ32)の構成例を示すブロック図である。図2に示すように、距離画像センサ32は、例えば、複数の画素321が配置された受光領域320と、制御回路322と、振り分け動作を有した垂直走査回路323と、水平走査回路324と、画素信号処理回路325とを備える。ここで、制御回路322と、垂直走査回路323と、水平走査回路324と、画素信号処理回路325は、画素駆動回路の一例である。
【0022】
受光領域320は、複数の画素321が配置された領域であって、図2では、8行8列に二次元の行列状に配置された例を示している。画素321は、受光した光量に相当する電荷を蓄積する。制御回路322は、例えば、距離画像処理部4のタイミング制御部41からの指示に応じて、距離画像センサ32の構成要素の動作を制御する。
【0023】
垂直走査回路323は、制御回路322からの制御に応じて、受光領域320に配置された画素321を行ごとに制御する回路である。垂直走査回路323は、画素321の電荷蓄積部CSそれぞれに蓄積された電荷量に応じた電圧信号を画素信号処理回路325に出力させる。
【0024】
画素信号処理回路325は、制御回路322からの制御に応じて、それぞれの列の画素321から出力された電圧信号に対して、予め定めた信号処理(例えば、ノイズ抑圧処理やA/D変換処理など)を行う。水平走査回路324は、制御回路322からの制御に応じて、画素信号処理回路325から出力される信号を、順次、時系列に出力させる回路である。これにより、1フレーム分蓄積された電荷量に相当する画素信号が、距離画像処理部4に順次出力される。以下の説明においては、画素信号処理回路325がA/D変換処理を行い、画素信号がデジタル信号であるものとして説明する。
【0025】
ここで、距離画像センサ32に備える受光領域320内に配置された画素321の構成について説明する。図3は、画素321の構成例を示す回路図である。図3の画素321は、4つの画素信号読み出し部を備えた構成例である。
【0026】
画素321は、1つの光電変換素子PDと、電荷排出トランジスタGDと、対応する出力端子Oから電圧信号を出力する4つの画素信号読み出し部RU(RU1からRU4)とを備える。画素信号読み出し部RUのそれぞれは、電荷転送トランジスタGと、フローティングディフュージョンFDと、電荷蓄積容量Cと、リセットトランジスタRTと、ソースフォロアトランジスタSFと、選択トランジスタSLとを備える。フローティングディフュージョンFDと電荷蓄積容量Cとは、電荷蓄積部CSを構成している。
【0027】
図3に示す画素321において、出力端子O1から電圧信号を出力する画素信号読み出し部RU1は、電荷転送トランジスタG1(転送MOSトランジスタ)と、フローティングディフュージョンFD1と、電荷蓄積容量C1と、リセットトランジスタRT1と、ソースフォロアトランジスタSF1と、選択トランジスタSL1とを備える。画素信号読み出し部RU1では、フローティングディフュージョンFD1と電荷蓄積容量C1とによって電荷蓄積部CS1が構成されている。画素信号読み出し部RU2、RU3及びRU4も同様の構成である。
【0028】
光電変換素子PDは、入射した光を光電変換して、入射した光(入射光)に応じた電荷を発生させ、発生させた電荷を蓄積する埋め込み型のフォトダイオードである。本実施形態においては、入射光は測定対象の空間から入射される。画素321では、光電変換素子PDが入射光を光電変換して発生させた電荷を4つの電荷蓄積部CS(CS1からCS4)のそれぞれに振り分け、振り分けられた電荷の電荷量に応じたそれぞれの電圧信号を、画素信号処理回路325に出力する。
【0029】
また、画素321の構成は、図3に示すような、4つの画素信号読み出し部RU(RU1からRU4)を備えた構成に限定されるものではない。
【0030】
また、画素321の構成は、図3に示すような、電荷排出トランジスタGDと、を備えた構成に限定されるものではない。
【0031】
ここで、本実施形態におけるスリープ機能に係る処理、つまり省電力モードの実行と省電力モードから通常モードの実行に移行させる機能について説明する。
【0032】
本実施形態における省電力モードは、消費電力を低減させるための駆動方法が実行されるモードである。省電力モードの具体的な内容については後で詳しく説明する。
【0033】
また、本実施形態における通常モードは、被写体OBまでの距離を測定するための駆動方法が実行されるモードである。通常モードにおける画素321の駆動方法は、従来の任意の駆動方法が用いられてよい。例えば、距離画像処理部4は、通常モードにおいて、光パルスPOを照射する照射タイミングに同期させた蓄積タイミングにて、画素321が受光した光量に応じた電荷が、画素321の電荷蓄積部CSのそれぞれに振分けて蓄積されるように画素321を駆動させる。距離画像処理部4は、電荷蓄積部CSのそれぞれに蓄積された電荷量に応じた蓄積信号を用いて、被写体OBまでの距離を算出する。
【0034】
図4は、実施形態の距離画像処理部4が行う処理の流れを示すフローチャートである。図4に示すように、距離画像処理部4は、距離画像撮像装置1が起動されると(ステップS10、YES)、まず、省電力モードを実行する(ステップS11)。
【0035】
次に、距離画像処理部4は、定期的、或いは不定期に、復帰条件を充足するか否かを判定する(ステップS12)。ここでの復帰条件は、例えば、省電力モードを実行した結果に応じて設定される条件である。復帰条件の具体的な内容については後で詳しく説明する。距離画像処理部4は、復帰条件を充足すると判定した場合、省電力モードを解除し(ステップS13)、通常モードを実行する(ステップS14)。
【0036】
ここで、省電力モードについて、図5図9を用いて説明する。
【0037】
図5は、省電力モードを説明するための図である。図5に示すように、省電力モードには複数のモード、省電力モードM1、省電力モードM2、及び省電力モードM3がある。各省電力モードにおいて、光パルス照射及び電荷蓄積のそれぞれの項目についての動作が設定される。
【0038】
省電力モードM1では、光パルス照射について、光パルスPOを照射しない(光パルス照射が停止される)ように、距離画像処理部4により制御される。また、省電力モードM1では、電荷蓄積について、定期的に電荷が蓄積されるように、距離画像処理部4により制御される。ここで、省電力モードM1における電荷蓄積の頻度は、少なくとも定期的に電荷が蓄積されれば任意に設定されてよい。例えば、電荷蓄積の頻度は、通常モードと同じ頻度であってもよいし、通常モードより小さい頻度であってもよい。また、省電力モードM1では、距離測定に係る信号処理が実行されないように、距離画像処理部4により制御される。
【0039】
これにより、省電力モードM1では、距離画像撮像装置1は光パルスPOを照射せずに撮像を行うIRカメラとして動作する。ここでのIRカメラは、画素321が受光した光(例えば、反射光RL、及び/又は、太陽光や室内照明光などの外光など)の光量に応じた輝度に基づいて、画素座標ごとに輝度がマッピングされた画像情報を出力する撮像装置である。
【0040】
省電力モードM2では、光パルス照射について、光パルスPOを照射する頻度が通常モードより小さくなるように、距離画像処理部4により制御される。また、省電力モードM2では、電荷蓄積について、光パルスPOを照射させた場合にのみ、その光パルスPOを照射させた照射タイミングに同期させた電荷蓄積が行われるように、距離画像処理部4により制御される。また、省電力モードM2では、距離測定に係る信号処理が実行されないように、距離画像処理部4により制御される。これにより、省電力モードM2では、距離画像撮像装置1は、光パルスPOを照射して撮像を行うIRカメラとして動作する。
【0041】
省電力モードM3では、光パルス照射について、光パルスPOを照射しない(停止される)ように、距離画像処理部4により制御される。また、省電力モードM3では、電荷蓄積について、電荷蓄積が行われないように、距離画像処理部4により制御される。これにより、省電力モードM3では、距離画像撮像装置1は、距離測定としても及びIRカメラとして動作せず、動作停止の状態となる。
【0042】
図6は、通常モードを説明するための図である。図6の上段に示すように、通常モードにおいて、単位時間あたりに複数フレームが実施され、例えば、30フレーム/secの頻度にて、画素321が駆動される。また、図6の中段に示すように、各フレームにおいて、単位蓄積駆動が繰返し実行された後に、読出処理が実行される。
【0043】
図6の下段には、通常モードにおいて画素321を駆動させるタイミングチャートの例が示されている。このタイミングチャートでは「Light」の項目において光パルスPOを照射するタイミングが示され、Highにて照射し、Lowにて照射しないことが示されている。また、「R」の項目において反射光RLを受光するタイミングが示され、Highにて受光し、Lowにて受光しないことが示されている。
【0044】
また、「G1」の項目において電荷蓄積部CS1に電荷を蓄積させるタイミングが示され、Highにて蓄積させ、Lowにて蓄積させないことが示されている。「G2」の項目において電荷蓄積部CS2に電荷を蓄積させるタイミングが示され、Highにて蓄積させ、Lowにて蓄積させないことが示されている。「G3」及び「G4」の項目においても同様に、電荷蓄積部CS3及びCS4に電荷を蓄積させるタイミングが示され、Highにて蓄積させ、Lowにて蓄積させないことが示されている。
【0045】
また、「GD」の項目においてに電荷を排出させるタイミングが示され、Highにて排出させ、Lowにて排出させないことが示されている。
【0046】
図6の下段に示すように、通常モードにおいて、距離画像処理部4は、光パルスPOを照射する照射タイミングに同期させた蓄積タイミングにて、電荷蓄積部CS1~CS4のそれぞれに、順次、電荷が蓄積されるように画素321を駆動させる。この図の例では、電荷蓄積部CS2及びCS3に、反射光RLに相当する電荷が振分られて蓄積される。
【0047】
図7は、省電力モードM1を説明するための図である。図7の上段に示すように、省電力モードM1において、光パルスPOを照射しない「照射なし」にて、単位時間あたりに複数フレームが実施される。また、図6の中段に示すように、各フレームにおいて、光パルスPOを照射しない「照射なし」にて、単位蓄積駆動が繰返し実行された後に、読出処理が実行される。
【0048】
図7の下段には、省電力モードM1において画素321を駆動させるタイミングチャートの例が示されている。このタイミングチャートにおける各項目については、図6の下段におけるタイミングチャートと同様であるため、その説明を省略する。
【0049】
図7の下段に示すように、省電力モードM1において、距離画像処理部4は、光パルスPOを照射することなく、通常モードにおける照射タイミングに同期させた蓄積タイミングにて、電荷蓄積部CS1~CS4のそれぞれに、順次、電荷が蓄積されるように画素321を駆動させる。
【0050】
省電力モードM1において、例えば、距離画像処理部4は、各フレームの読出処理にて、画素321のそれぞれが受光した光量、つまり、各画素に設けられた電荷蓄積部CS1~CS4のそれぞれに蓄積された電荷量に対応する蓄積信号SIG1~SIG4を取得する。距離画像処理部4は、取得した蓄積信号SIG1~SIG4の和をIR画像における画素毎の画素値とする。距離画像処理部4は、フレーム毎に、IR画像を生成し、例えば、IR画像における画素毎の画素値が変化した場合に、IR画像の画角に動体が侵入した、つまり動体が検知されたと判定して、省電力モードM1を解除する。例えば、距離画像処理部4は、IR画像における画素値、つまり画素321が受光した受光量に相当する画素値の変化が閾値以上であれば、測定対象とする空間に動体が存在すると判定する。ここで、IR画像における画素値の変化量が閾値以上であることは「復帰条件」の一例である。
なお、ここではIR画像における画素値を、蓄積信号SIG1~SIG4の和とした場合を例示して説明したが、これに限定されない。例えば、蓄積信号SIG1とSIG3の差分の絶対値に、蓄積信号SIG2とSIG4の差分の絶対値を加えた値を、IR画像における画素値としてもよい。或いは、蓄積信号SIG1の信号値を、IR画像における画素値としてもよい。省電力モードM1において、IR画像における画素値として、少なくとも、画素321に受光された光、例えば太陽光や室内照明光などの外光の光量が反映された値が用いられればよい。
また、図7では、図6における通常モードによる画素321の駆動と同じ蓄積タイミングにおいて、光パルスPOの照射を停止させた場合に相当するタイミングチャートを例示した。しかしながらこれに限定されることはなく、電荷蓄積部CS1~CS4のそれぞれに、順次、電荷が蓄積されるように画素321を駆動させる際に、画素321に電荷を蓄積させる時間(蓄積時間)の長さを、通常モードとは異なる時間長としてもよい。
通常モードでは、光パルスPOを照射してその反射光を受光するため、電荷蓄積部CSに蓄積させる電荷量が飽和しないように、蓄積時間や、1フレームにおいて繰り返し電荷を蓄積させる蓄積回数を制限する場合がある。一方、省電力モードM1などにおいて、光パルスPOを照射しない場合、反射光を受光することがなく外光のみを受光する。このため、蓄積時間を通常モードより長く設定した駆動を行う構成として、電荷蓄積部CSに蓄積させる電荷量を増やして蓄積信号の信号量を大きくする構成とすることが考えられる。これにより、動体の有無に応じた画素値の変化量を大きくし、動体の有無を判定するための閾値を設定することが容易となる。
【0051】
図8は、省電力モードM2を説明するための図である。図8の上段及び中段に示すように、省電力モードM2において、通常モードと同じ頻度、例えば、30フレーム/secにて、1フレームのみ通常モードと同じように画素321を駆動し、残りの時間は画素321を駆動しない。
【0052】
図8の下段には、省電力モードM2において画素321を駆動させるタイミングチャートの例が示されている。このタイミングチャートにおける各項目については、図6の下段におけるタイミングチャートと同様であるため、その説明を省略する。
【0053】
図8の下段に示すように、通常モードと同じように画素321を駆動させるフレームにおいて、例えば、動体がない場合には測定対象とする空間にある壁などに反射した反射光RLが、光パルスPOを照射した照射タイミングから一定の遅延時間Tdが経過した後に受光される。この場合、特定の電荷蓄積部CS、例えば、電荷蓄積部CS3及びCS4に反射光RLに相当する電荷が蓄積される。
【0054】
一方、測定対象とする空間に動体が侵入した場合、通常モードと同じように画素321を駆動させるフレームにおいて、その動体に反射した反射光RLが、光パルスPOを照射した照射タイミングから遅延時間Td#が経過した後に受光される。この場合、遅延時間が変化したことから、前回とは異なる電荷蓄積部CS、例えば、電荷蓄積部CS2及びCS3に、反射光RLに相当する電荷が蓄積される。
【0055】
省電力モードM2において、例えば、距離画像処理部4は、通常モードと同じように画素321を駆動させるフレームの読出処理にて、画素321のそれぞれについて、電荷蓄積部CS1~CS4のそれぞれに蓄積された電荷量に対応する蓄積信号SIG1~SIG4を取得する。距離画像処理部4は、取得した蓄積信号SIG1~SIG4のうち、反射光RLに相当する信号が含まれる蓄積信号を特定する。
【0056】
例えば、距離画像処理部4は、蓄積信号SIG1~SIG4のうち、信号値が大きい2つの蓄積信号を、反射光RLに相当する信号が含まれる蓄積信号であると特定する。例えば、図8の下段における左側のタイミングチャートに示すタイミングにて反射光RLが受光された場合、距離画像処理部4は、蓄積信号SIG1~SIG4のうち、蓄積信号SIG3及びSIG4が、反射光RLに相当する信号が含まれる蓄積信号であると特定する。
【0057】
そして、距離画像処理部4は、反射光RLに相当する蓄積信号が変化した場合に、測定対象とする空間に動体が侵入した、つまり動体が検知されたと判定して、省電力モードM2を解除する。
【0058】
例えば、図8の下段における左側から右側のタイミングチャートに示すタイミングに変化した場合、距離画像処理部4は、蓄積信号SIG1~SIG4のうち、反射光RLに相当する信号が含まれる蓄積信号が、蓄積信号SIG3及びSIG4から、蓄積信号SIG2及びSIG3に変化したと判定する。この場合、距離画像処理部4は、動体が検知されたと判定して、省電力モードM2を解除する。例えば、距離画像処理部4は、電荷蓄積部CSに蓄積された電荷量の変化が閾値以上である場合に、測定対象とする空間に動体が存在すると判定する。ここで、反射光RLに相当する蓄積信号の変化、つまり電荷蓄積部CSに蓄積された電荷量の変化が閾値以上であることは「復帰条件」の一例である。
【0059】
また、省電力モードM2において、省電力モードM1と同様に、画素321のそれぞれが受光した光量に相当する画素値の変化量が閾値以上であれば、測定対象とする空間に動体が存在すると判定するようにしてもよい。ここで、IR画像における画素値の変化量が閾値以上であることは「復帰条件」の一例である。
【0060】
図9は、省電力モードM2の変形例(バリエーション)を説明するための図である。図9の上段及び中段には、図8の上段及び中段と同じものを示しているため、その説明を省略する。
【0061】
図9の下段には、省電力モードM2の変形例において画素321を駆動させるタイミングチャートの例が示されている。このタイミングチャートにおける各項目については、図6の下段におけるタイミングチャートと同様であるため、その説明を省略する。
【0062】
図9の下段に示すように省電力モードM2の変形例において、通常モードと同じように画素321を駆動させるフレームにおける照射タイミング(光パルスPOを照射させるタイミング)を、通常モードより遅らせる。この図の例では、通常モードにおいて電荷蓄積部CS3に電荷を蓄積させるタイミングと同じタイミングにて光パルスPOを照射させる。この場合、電荷蓄積部CS1~CS4のそれぞれに電荷を蓄積させるタイミングより遅れて反射光RLが受光される。このため、反射光RLに相当する電荷が、電荷蓄積部CSに蓄積されることなく、排出される。
【0063】
一方、測定対象とする空間に動体が侵入した場合、図8の場合と同様に、通常モードと同じように画素321を駆動させるフレームにおいて反射光RLを受光するタイミングが変化し、前回まで排出されていた反射光RLに相当する電荷が、電荷蓄積部CS、例えば、電荷蓄積部CS4に蓄積される。
【0064】
省電力モードM2の変形例において、例えば、距離画像処理部4は、通常モードと同じように画素321を駆動させるフレームの読出処理にて、画素321のそれぞれについて、電荷蓄積部CS1~CS4のそれぞれに蓄積された電荷量に対応する蓄積信号SIG1~SIG4を取得する。距離画像処理部4は、取得した蓄積信号SIG1~SIG4の何れかに反射光RLに相当する信号が含まれているか否かを判定する。
【0065】
例えば、距離画像処理部4は、蓄積信号SIG1~SIG4のうちの最大値と最小値との差分が閾値未満である場合、蓄積信号SIG1~SIG4の何れにも反射光RLに相当する信号が含まれていないと判定する。一方、蓄積信号SIG1~SIG4のうちの最大値と最小値との差分が閾値以上である場合、蓄積信号SIG1~SIG4の何れかに反射光RLに相当する信号が含まれていると特定する。
【0066】
そして、距離画像処理部4は、蓄積信号SIG1~SIG4の何れにも反射光RLに相当する信号が含まれていない状態から、含まれている状態に変化した場合に、測定対象とする空間に動体が侵入した、つまり動体が検知されたと判定して、省電力モードM2を解除する。
【0067】
例えば、図9の下段における左側から右側のタイミングチャートに示すタイミングに変化した場合、距離画像処理部4は、蓄積信号SIG1~SIG4の何れにも反射光RLに相当する信号が含まれていない状態から、蓄積信号SIG4に反射光RLに相当する信号が含まれる状態に変化したと判定する。この場合、距離画像処理部4は、動体が検知されたと判定して、省電力モードM2の変形例を解除する。例えば、距離画像処理部4は、電荷蓄積部CSに蓄積された電荷量の変化が閾値以上である場合に、測定対象とする空間に動体が存在すると判定する。ここで、蓄積信号に反射光RLに相当する信号が含まれない状態から含まれる状態への変化、つまり電荷蓄積部CSに蓄積された電荷量の変化が閾値以上であることは「復帰条件」の一例である。
【0068】
ここ上記では、省電力モードM2において、電荷蓄積部CS1~CS4のそれぞれに蓄積された電荷量に対応する蓄積信号SIG1~SIG4の信号値に基づいて、省電力モードM2(または省電力モードM2の変形例)を解除する場合を例示して説明した。しかしながら、これに限定されない。
例えば、距離画像処理部4は、省電力モードM2において蓄積信号SIG1~SIG4の信号値を用いて距離を算出し、算出した距離の変化量に基づいて、動体の有無を判定するように構成されてもよい。この場合、距離を演算するための処理負荷が増大するが、省電力モードM2が実行されている間において、通常モードよりも頻度が低下するものの、定期的に距離画像を得ることができるという利点がある。
【0069】
省電力モードM3では、距離画像撮像装置1が動作停止の状態となる。このため、距離画像撮像装置1における蓄積信号に係る信号処理の結果から、復帰条件を充足しているか否かを判定することができない。
【0070】
このため、省電力モードM3では、距離画像撮像装置1の外部に設けられた外部装置からの通知にしたがって、省電力モードM3が解除されるように、距離画像処理部4により制御される。外部装置は、空間における動体の有無を検知可能な装置であって、距離画像撮像装置1と通信可能に接続された装置であればよい。例えば、外部装置として、別の距離画像撮像装置、動体を検出するラインセンサ、又は人感センサなどを適用することができる。
【0071】
具体的に、外部装置は、測定対象とする空間における動体の有無を検知し、動体が存在すると判定した場合には、距離画像撮像装置1に、省電力モードを解除する旨の制御信号を送信する。距離画像処理部4は、省電力モードM3において、外部装置から省電力モードを解除する制御信号が取得した場合に、省電力モードM3を解除する。
【0072】
或いは、省電力モードM3において、距離画像撮像装置1は、省電力モードM3を実行してから所定時間が経過した場合に、省電力モードM3を解除するようにしてもよい。この場合、距離画像撮像装置1は、省電力モードM3を実行する際にタイマを設定し、設定したタイマによって所定時間が計測された旨が通知された時点で省電力モードM3を解除する。
また、距離画像撮像装置1が設けられた外部装置の動作に基づいて、距離画像撮像装置1における省電力モードが解除されるように構成されてもよい。例えば、AGV(Automatic Guided Vehicle、無人搬送車)や、移動ロボットなどの移動体に、距離画像撮像装置1を設けるようなシステムにおいて、AGVなどの移動体が一時停止している時には、距離画像撮像装置1において省電力モードが実行され、そのAGVなどの移動体が移動を開始するとともに、距離画像撮像装置1における省電力モードが解除されるような構成が考えられる。
【0073】
なお、省電力モードM3のみならず、省電力モードM1、およびM2においても、外部装置からの通知やタイマ等によって、その省電力モードが解除されるように構成されてもよい。外部装置からの通知を受けたことは「復帰条件」の一例である。また、タイマによる通知を受けたことは「復帰条件」の一例である。
【0074】
ここで、距離画像撮像装置1の測定環境について、図10図10A及び図10B)、及び図11図11A及び図11B)を用いて説明する。図10及び図11は、実施形態の測定環境を説明するための図である。
【0075】
図10には、測定対象とする空間に、反射物体OBHを配置した例が模式的に示されている。反射物体OBHは、光を反射する物体であり、例えば、標識など再帰性反射する物体、或いは、白壁や鏡など反射率が高い物体などである。測定対象とする空間に、反射物体OBHを配置することにより、反射物体OBHから到来する光の受光状況に応じて、省電力モード実行時における動体の有無を検知することが可能となる。
【0076】
ここでは、光パルスPOを照射する省電力モード、つまり、省電力モードM2に適用した場合を例示して説明するが、このような反射物体OBHを配置する測定環境が省電力モードM1に適用されてもよい。
【0077】
例えば、図10Aに示すように、測定対象とする空間に動体が存在しない場合、距離画像撮像装置1が光パルスPOを照射する度に、反射物体OBHから到来する反射光RLが、画素321に受光される。距離画像処理部4は、受光領域320における特定の画素321、例えば、図10Aにおける4つの画素321A~321Dにおいて受光される光量に対応する蓄積信号を取得する。
【0078】
例えば、図10Bに示すように、測定対象とする空間に動体(物体OBD)が侵入した場合、距離画像撮像装置1が光パルスPOを照射すると、物体OBDから到来する反射光RLが、画素321に受光される。この場合、反射物体OBHは物体OBDの影になり、反射物体OBHからの反射光は、受光領域320における一部の画素321に受光されなくなる。すなわち、動体の侵入により、受光領域320における一部の画素321における蓄積信号が変化する。
【0079】
図10Bに示す例では、受光領域320において、物体OBDから到来した反射光RLを受光した画素群である画素321#では、物体OBDが存在しない場合とは異なる蓄積信号が出力される。一方、物体OBDの有無に関わらず、反射物体OBHから到来した反射光RLを受光する画素である画素321B及び321Cでは、物体OBDが存在しない場合と同じ蓄積信号が出力される。
【0080】
このような性質を利用し、距離画像処理部4は、特定の画素321、例えば、図10Aにおける4つの画素321A~321Dにおいて受光される光量に対応する蓄積信号が変化した場合に、動体が検出されたとして省電力モードM2を解除する。例えば、距離画像処理部4は、IR画像における画素値、つまり画素321が受光した受光量に相当する画素値の変化が閾値以上であれば、測定対象とする空間に動体が存在すると判定する。ここで、特定の画素321における画素値の変化量が閾値以上であることは「復帰条件」の一例である。
【0081】
図11には、測定対象とする空間に、発光物体OBLを配置した例が模式的に示されている。発光物体OBLは、光を発光する物体であり、例えば、赤外線などを発光するLED(Light Emitting Diode)などである。測定対象とする空間に、発光物体OBLを配置することにより、発光物体OBLから到来する光の受光状況に応じて、省電力モード実行時における動体の有無を検知することが可能となる。
【0082】
ここでは、光パルスPOを照射しない省電力モード、つまり、省電力モードM1に適用した場合を例示して説明するが、このような発光物体OBLを配置する測定環境が省電力モードM2に適用されてもよい。
【0083】
例えば、図11Aに示すように、測定対象とする空間に動体が存在しない場合、距離画像撮像装置1には、発光物体OBLから到来する光LAが、画素321に受光される。距離画像処理部4は、特定の画素321、例えば、図11Aにおける4つの画素321A~321Dにおいて受光される光量に対応する蓄積信号を取得する。
【0084】
例えば、図11Bに示すように、測定対象とする空間に動体(物体OBD)が侵入した場合、発光物体OBLは物体OBDの影になり、発光物体OBLからの光LAは受光領域320における一部の画素321に受光されなくなる。すなわち、動体の侵入により、受光領域320における一部の画素321における蓄積信号が変化する。
【0085】
図11に示す例では、受光領域320において、物体OBDにより光LAが遮断されたことによって光LAを受光しなくなった画素321からは、物体OBDが存在しない場合とは異なる蓄積信号が出力される。一方、物体OBDの有無に関わらず、光LAを受光する画素である画素321B及び321Cでは、物体OBDが存在しない場合と同じ蓄積信号が出力される。
【0086】
このような性質を利用し、距離画像処理部4は、特定の画素321、例えば、図11Aにおける4つの画素321A~321Dにおいて受光される光量に対応する蓄積信号が変化した場合に、動体が検出されたとして省電力モードM1を解除する。例えば、距離画像処理部4は、IR画像における画素値、つまり画素321が受光した受光量に相当する画素値の変化が閾値以上であれば、測定対象とする空間に動体が存在すると判定する。ここで、特定の画素321における画素値の変化量が閾値以上であることは「復帰条件」の一例である。
【0087】
ここで、距離画像撮像装置1の測定環境について、図12を用いて説明する。図12は、実施形態の測定環境を説明するための図である。
【0088】
図12には、測定対象とする空間ERに、歩行する人などの動体OBM(動体OBM1、OBM2)が侵入する様子が模式的に示されている。
【0089】
図12に示すように、例えば、空間ERの端部ER1から、動体OBM1が侵入した場合、受光領域320において端部に配置された画素321Eにおける電荷の蓄積状態が、動体OBM1の侵入に応じて変化する。すなわち、距離画像撮像装置1は、画素321Eの蓄積状態の変化に応じて、動体OBM1が侵入したか否かを検知することができる。
【0090】
一方、空間ERの中央遠方にある端部ER2から、動体OBM2が侵入した場合、受光領域320の中央部分に配置された画素321Fにおける電荷の蓄積状態が、動体OBM2の侵入に応じて変化する。すなわち、距離画像撮像装置1は、画素321Fの蓄積状態の変化に応じて、動体OBM2が侵入したか否かを検知することができる。
【0091】
このような性質を利用し、距離画像処理部4は、空間ERに侵入する動体の侵入経路に対応する領域に配置されている画素321のみを監視し、監視している画素321において蓄積信号が変化した場合に、動体が検出されたと判定するようにしてもよい。
【0092】
この場合、例えば、距離画像撮像装置1が撮像する距離画像の画角における水平方向(横方向)或いは垂直方向(縦方向)と、人が通ることが想定される通路の方向が同じ方向となるように、距離画像撮像装置1の設置位置及び撮像方向を調整する。その上で、距離画像撮像装置1は、省電力モードにおいて、受光領域320に配置された画素321の全部ではなく、動体の侵入経路に対応する一部の画素321のみを駆動させる。そして、駆動させた画素321における蓄積信号の変化量が閾値以上である場合、動体が検出されたと判定する。
【0093】
このように、受光領域320に配置された画素321の全部ではなく、一部の画素321のみを駆動させることにより、省電力モードにおいて消費される電力を抑制することが可能となる。また、一部の画素321のみを駆動させて、駆動させた画素321の蓄積信号から動体の有無を検出することにより、検出速度を向上させることも可能である。
【0094】
例えば、受光領域320において縦640列、横480行にわたる二次元平面に画素321が配置されている場合、一部の画素321として、受光領域320における上下左右の縦10列、横100行に対応する領域に配置された画素321のみを駆動させる。
【0095】
なお、距離画像撮像装置1は、このような一部の画素321のみを駆動させる省電力モードにおいて、光パルスPOを照射してもよいし、照射しなくともよい。
【0096】
また、このような一部の画素321のみを駆動させる省電力モードにおいて、動体の侵入経路に、図10に示すような反射物体OBH、又は/及び、図11に示すような発光物体OBLが設置されてもよい。
【0097】
図13図13A図13E)は、省電力モードにおいて駆動させる一部の画素321の例を示す図である。図13の受光領域320においてパターンが付された領域は、駆動される画素321が配置されている領域を示す。また、図13のパターンが付された領域において、丸印で示されている画素321は、特定の物体(反射物体OBH、又は/及び、発光物体OBL)から到来する光を受光する画素321を示す。
【0098】
例えば、図13Aに示すように、距離画像処理部4は、通常モードにおいて、受光領域320に配置された全ての画素321を駆動させる。
そして、図13Bに示すように、距離画像処理部4は、省電力モードにおいて、受光領域320において外周部分に対応する領域R1に配置された画素321のみを駆動させる。
或いは、図13Cに示すように、距離画像処理部4は、省電力モードにおいて、受光領域320において上部に対応する領域R2、及び下部に対応する領域R3に配置された画素321のみを駆動させる。
或いは、図13Dに示すように、距離画像処理部4は、省電力モードにおいて、受光領域320において左部に対応する領域R4、及び右部に対応する領域R5に配置された画素321のみを駆動させる。
また、図13Eに示すように、距離画像処理部4は、省電力モードにおいて、駆動させる画素321の一部が、反射物体OBH、又は/及び、発光物体OBLから到来する光を受光するように、測定空間に反射物体OBH、又は/及び、発光物体OBLが設置されてもよい。
なお、図13図13A図13E)の例に限定されることはない。省電力モードにおいて、少なくとも受光領域320に配置された画素321の全部ではなく、一部の画素321のみを駆動させればよい。例えば、受光領域320における右側の上部における1/4程度の領域に配置された画素321のみを、省電力モードにおいて駆動させるように構成されてもよい。
【0099】
ここで、復帰条件について、図14図14A及び図14B)を用いて説明する。図14は、実施形態の距離画像処理部4が行う処理を説明するための図である。
【0100】
図14Aには、省電力モードと復帰条件との対応関係が示されている。図14Bには復帰条件の具体的な内容が示されている。
【0101】
図14Aに示すように、省電力モードM1において、復帰条件として適用可能な条件は、復帰条件H1、H4~H7である。省電力モードM2において、復帰条件として適用可能な条件は、復帰条件H1~H7である。省電力モードM3において、復帰条件として適用可能な条件は、復帰条件H6~H7である。
【0102】
図14Bに示すように、復帰条件H1は、IR画像が変化する条件であり、距離画像撮像装置1をIRカメラとして動作させる省電力モード、つまり、省電力モードM1及びM2に適用することが可能である。
復帰条件H2は、反射光RLを受光する画素の変化する条件であり、光パルスPOを照射してその反射光RLを受光する省電力モード、つまり、省電力モードM1に適用することが可能である。
復帰条件H3は、反射光RLを受光した画素における電荷蓄積部CS1~CS4に蓄積された電荷量が変化する条件であり、光パルスPOを照射してその反射光RLを受光する省電力モード、つまり、省電力モードM1に適用することが可能である。
復帰条件H4は、反射物体OBHが配置された測定環境において、反射物体OBHから到来する光を受光した画素が変化する条件であり、電荷蓄積が行われる省電力モード、つまり、省電力モードM1及びM2に適用することが可能である。
復帰条件H5は、発光物体OBLが配置された測定環境において、発光物体OBLから到来する光を受光した画素が変化する条件であり、電荷蓄積が行われる省電力モード、つまり、省電力モードM1及びM2に適用することが可能である。
復帰条件H6は、省電力モードが実行されてから所定時間が経過する条件であり、全て省電力モード、つまり、省電力モードM1~M3に適用することが可能である。
復帰条件H7は、外部装置から省電力モードの解除が通知される条件であり、全て省電力モード、つまり、省電力モードM1~M3に適用することが可能である。
【0103】
なお、上記は、起動時に省電力モードを実行する場合を例示して説明したが、これに限定されない。起動時に通常モードを実行し、通常モードにて動体の有無を検知し、測定対象とする空間に動体がないと判定した場合に、省電力モードに移行するようにしてもよい。通常モードにおいて、動体があるか否かを判定する方法は任意の方法を採用することができ、例えば、通常モードにおいて測定する物体までの距離及び物体の位置の履歴に基づいて、物体までの距離又は/及び物体の位置が変化している場合に、動体があると判定することが可能である。
【0104】
(省電力モードを選択する態様について)
ここで、省電力モードを選択する態様について説明する。
距離画像撮像装置1が距離センサとして移動ロボットなどの移動体に組み込まれて移動体の移動を制御するような場合、移動体の状況に基づいて、通常モード、又は省電力モードM1~M3のいずれかが選択されるようにしてもよい。例えば、清掃を行いながら移動する掃除ロボットに、距離画像撮像装置1が組み込まれ、距離画像撮像装置1による障害物までの距離の測定結果に基づいて移動体の移動方向を制御するシステムがあるとする。このシステムにおいて、掃除ロボットが備え付けの充電ステーションに接続されている場合、距離画像処理部4は、省電力モードM3を選択し、動作停止の状態となる。掃除ロボットが移動している場合、距離画像処理部4は、まず省電力モードM1又はM2を選択し、動体の有無を検知する。省電力モードM1又はM2において、測定空間に動体があると判定された場合、距離画像処理部4は、通常モードを選択し、動体(障害物)までの距離を測定する。また、掃除ロボットが壁などの障害物を検知して移動方向を変更する場合、その移動方向の変更が開始されてから終了するまでの間、距離画像処理部4は、省電力モードM3を選択し、動作停止の状態としてもよい。
【0105】
また、距離画像処理部4は、省電力モードM1又はM2を選択する場合、撮像環境に基づいて省電力モードM1又はM2のいずれかを選択するようにしてもよい。例えば、昼間など太陽光や環境光が照射される撮像環境である場合、省電力モードM1を選択して光パルスPOを照射しない省電力モードとする。一方、夜間など太陽光や環境光が照射されない撮像環境である場合、省電力モードM2を選択して光パルスPOを照射する省電力モードとする。
【0106】
(省電力モードM2において動体の有無を検知する方法について)
ここで、省電力モードM2において動体の有無を検知する方法について、図16図21を用いて説明する。図16は、実施形態の距離画像処理部4が行う動体の有無を判定する処理の流れの一例を示すフローチャートである。図17は、実施形態の距離画像処理部4が行う動体の有無を判定する処理の流れの他の例を示すフローチャートである。図18図21は、図17のフローチャートで行う処理を説明する図である。
【0107】
以下では、省電力モードM2において、複数の画素321が駆動されることを前提とする。例えば、図13に示すように距離画像を構成する画素群のうちの一部の複数の画素321が省電力モードM2において駆動される。
【0108】
また、以下の説明では、省電力モードM2において駆動された画素321の画素値として、画素321に設けられた複数の電荷蓄積部CSのうち、特定の1つの電荷蓄積部CSに蓄積された電荷量に相当する画素値に対応する値を用いる。しかしながらこれに限定されない。例えば、画素321に設けられた複数の電荷蓄積部CSの全てを用いて、画素321に入射された反射光の光量に相当する画素値に対応する値を用いるようにしてもよい。
画素321に入射された反射光の光量を算出する方法として任意の方法を採用することができる。例えば、電荷蓄積部CS1とCS3のそれぞれに蓄積された電荷量に対応する蓄積信号SIG1とSIG3の差分の絶対値(第1絶対値)を算出し、電荷蓄積部CS2とCS4のそれぞれに蓄積された電荷量に対応する蓄積信号SIG2とSIG4の差分の絶対値(第2絶対値)を算出し、第1絶対値と第2絶対値の加算値を反射光の光量に相当する画素値とすることができる。なお、ここでは、図6に示すように、単位蓄積駆動において光パルスを照射する単位照射時間Toと電荷蓄積部CSのそれぞれに電荷を蓄積させる単位蓄積時間Toとが同じであり、電荷蓄積部CS1、CS2、CS3、CS4の順でそれぞれの電荷蓄積部CSに電荷が蓄積されるものとする。
【0109】
まず、図16を用いて動体の有無を判定する処理の流れの一例について説明する。
ステップS30:距離画像処理部4は、省電力モードM2にて画素321を駆動させる。
ステップS31:省電力モードM2にて駆動を行った画素321の画素値を算出する。
ステップS32:距離画像処理部4は、画素値が第1しきい値以上である画素の数(以下、高画素値画素数)を算出する。第1しきい値は、固定値であってもよいし、画素321に入射される外光の光量に応じて設定される変動値であってもよい。画素321に入射される外光の光量は、画素321に設けられた複数の電荷蓄積部CSのそれぞれに蓄積された電荷量のうち、最小の電荷量に基づいて算出することが可能である。距離画像処理部4は、例えば、省電力モードM2にて1フレーム分の駆動を行う度に高画素値画素数を算出する。
ステップS33:距離画像処理部4は、高画素値画素数を記憶部(不図示)に記憶させる。
ステップS34:距離画像処理部4は、今回の駆動における高画素値画素数と、前回の駆動における高画素値画素数との差分が第2しきい値以上であるか否かを判定する。差分が第2しきい値未満である場合、距離画像処理部4はステップS30に示す処理に戻る。差分が第2しきい値以上である場合、距離画像処理部4はステップS35に示す処理を実行する。
ステップS35:距離画像処理部4は、測定対象とする空間に動体が存在すると判定し、省電力モードM2から通常モードに移行する。
【0110】
次に、図17を用いて動体の有無を判定する処理の流れの他の例について説明する。
ステップS40:距離画像処理部4は、省電力モードM2にて画素321を駆動させる。
ステップS41:省電力モードM2にて駆動を行った画素321の画素値をマッピングした第1省電力マップを生成する。
ステップS42:距離画像処理部4は、ビニングを実施して第1省電力マップにある複数の画素をまとめて1つの画素とみなした画素の画素値を算出し、第1省電力マップより画素数が少ない画像(以下、第2省電力マップ)を生成する。なお、ビニングに限らず、複数の画素をまとめて1つの画素とみなす方法として、従来ある任意の方法を採用することができる。
また、距離画像処理部4は、ステップS42に示すビニングを実施せず、ステップS41で省電力モードM2にて駆動を行った画素321のうちの一部の特定領域、例えば図13に示す上部又は下部領域に設けられた画素、或いは、第1省電力マップの縦横それぞれを3等分する等して9分割した領域のうち中央に区分される中央領域に設けられた画素の画素値のみをマッピングした画像を第2省電力マップとして用いて、ステップS43以降に示す処理を実行するようにしてもよい。 ステップS43:距離画像処理部4は、第2省電力マップにエッジ検出を行い、エッジが検出された画素であるか否かに応じて二値化した画像(以下、二値化マップ)を生成する。エッジ検出を行う方法としては、例えば画像にメディアンフィルタなどのスムージング処理を行い、ノイズに起因する画素値の急峻な変化を除去した後、微分フィルタを用いて、画素値が急峻に変化する箇所を抽出する方法が考えられる。ここで、エッジ検出を行う際に、ノイズを除去するスムージング処理を省略してもよい。
また、距離画像処理部4は、エッジ検出を行った結果と、距離の計算結果とを突合させて、エッジ検出の精度を高めるようにしてもよい。例えば、エッジが検出された画素とその周辺に設けられた画素のそれぞれの距離を算出し、エッジが検出された画素に基づく距離値(第1距離値)と、その周辺に設けられた画素に基づく距離値(第2距離値)との差分を計算する。そして、距離画像処理部4は、差分が所定値以上あり距離が急峻に変化していることが示されている場合にエッジが検出されたと判定し、差分が所定値未満である場合距離が急峻には変化していないとしてエッジが検出されていないと判定する。
ステップS44:距離画像処理部4は、二値化マップにおいて、特定方向に沿う特定方向領域に配置された画素のそれぞれの画素値を加算した加算値を算出する。特定方向は、二次元マトリックス状に配置された画素321の配列方向であり、縦、横、斜めのいずれの方向であってもよい。距離画像処理部4は、例えば、省電力モードM2にて1フレーム分の駆動を行う度に、複数の特定方向ごとに加算値を算出する。
【0111】
図18及び図19には、二値化マップMAP(二値化マップMAP1、及びMAP2)の例と、それぞれの二値化マップMAPにおいて算出される加算値が示されている。図18及び図19の二値化マップMAP例のでは、エッジが検出された画素に「1」が設定され、エッジが検出されていない画素に「0(ゼロ)」が設定されている。
図18の加算結果Add1には、受光領域320内に配置された画素321において縦方向に配置された画素のそれぞれの画素値を加算した加算値が列ごとに示されている。このように特定方向が縦方向である場合、特定方向領域は縦方向に沿う列に縦長のC1列~C10列のそれぞれの領域である。例えば、加算結果Add1において、C1列の加算値は「4」であり、C2列の加算値は「2」であり、C9列の加算値は「3」であり、C10列の加算値は「0(ゼロ)」であることが示されている。
図18の加算結果Add2には、受光領域320内に配置された画素321において横方向に配置された画素のそれぞれの画素値を加算した画素値が示されている。このように特定方向が横方向である場合、特定方向領域は横方向に沿う列に横長のL1行~L10行のそれぞれの領域である。例えば、加算結果Add2において、L1行の加算値は「0(ゼロ)」であり、L2行の加算値は「3」であり、L9行の加算値は「5」であり、L10行の加算値は「0(ゼロ)」であることが示されている。
図19の加算結果Add3には、受光領域320内に配置された画素321において縦方向に配置された画素のそれぞれの画素値を加算した加算値が列ごとに示されている。例えば、加算結果Add3において、C1列の加算値は「0(ゼロ)」であり、C2列の加算値は「4」であり、C9列の加算値は「5」であり、C10列の加算値は「0(ゼロ)」であることが示されている。
図19の加算結果Add4には、受光領域320内に配置された画素321において横方向に配置された画素のそれぞれの画素値を加算した画素値が示されている。例えば、加算結果Add4において、L1行の加算値は「0(ゼロ)」であり、L2行の加算値は「4」であり、L9行の加算値は「4」であり、L10行の加算値は「1」であることが示されている。
【0112】
ステップS45:距離画像処理部4は、特定方向領域と対応づけて加算値を記憶部(不図示)に記憶させる。例えば、図18に示す二値化マップMAPにおいて縦方向を特定方向とする場合、距離画像処理部4は、縦方向に沿う特定方向領域であるC1列の加算値「4」を、記憶部に記憶させる。
ステップS46:距離画像処理部4は、今回の駆動における加算値と、前回の駆動における加算値との差分が第3しきい値以上である特定方向領域(変化領域)を算出する。例えば、前回計算したC1列の加算値が3以下又は5以上であり、今回計算したC1列の加算値「4」との差分が第3しきい値(例えば、1)以上である場合、距離画像処理部4は、C1列を変化領域とする。一方、距離画像処理部4は、前回計算したC1列の加算値が4であり、今回計算したC1列の加算値との差分が第3しきい値(例えば、1)未満である場合、距離画像処理部4は、C1列を変化領域としない。 ステップS47:距離画像処理部4は、差分を算出すべき全ての特定方向領域について、加算値を算出済みであるか否かを判定し、加算値を算出していない特定方向がある場合、ステップS44に示す処理を実行し、加算値を算出すべき全ての特定方向について加算値を算出した場合、ステップS48に示す処理を実行する。例えば、図18に示す二値化マップMAPにおいて縦方向を特定方向とする場合、距離画像処理部4は、C1列~C10列のうち、まだ加算値を算出していない列がある場合にはステップS44に示す処理に戻り、C1列~C10列のそれぞれの列について加算値を算出した場合にはステップS48に示す処理を実行する。
ステップS48:距離画像処理部4は、差分が第3しきい値以上である特定方向領域の数(変化領域数)を算出する。
ステップS49:距離画像処理部4は、変化領域数が第4しきい値以上であるか否かを判定する。変化領域数が第4しきい値未満である場合、距離画像処理部4はステップS40に示す処理に戻る。変化領域数が第4しきい値以上である場合、距離画像処理部4はステップS50に示す処理を実行する。
ステップS50:距離画像処理部4は、測定対象とする空間に動体が存在すると判定し、省電力モードM2から通常モードに移行する。
【0113】
図20及び図21には、加算結果Add(加算結果Add1~Add4)、差分結果Diff(差分結果Diff1、Diff2)、特定方向領域Dir(特定方向領域Dir1、Dir2)、及び変化領域数Num(変化領域数Num1、Num2)の例が示されている。ここでは、図18に示す二値化マップMAP1が前回の駆動に対応する二値化マップであり、図19に示す二値化マップMAP2が今回の駆動に対応する二値化マップである。
図20の差分結果Diff1には、縦方向を特定方向とした特定方向領域の図18図19のそれぞれの加算結果Add1と加算結果Add3の差分が示されている。例えば、加算結果Add3に示すC1列の加算値「3」と加算結果Add1に示すC1列の加算値「0(ゼロ)」の差分は「4」であることが示されている。また、加算結果Add3に示すC3列の加算値「2」と加算結果Add1に示すC3列の加算値「2」の差分は「0(ゼロ)」であることが示されている。
図20の特定方向領域Dir1には、差分が第3しきい値(ここでは1)以上である特定方向領域が「1」、差分が第3しきい値(ここでは1)未満である特定方向領域が「0(ゼロ)」で示されている。例えば、特定方向領域Dir1には、C1列について、C1列の差分「4」が第3しきい値以上であることが示されている。また、C3列について、C3列の差分「0(ゼロ)」が第3しきい値未満であることが示されている。
図20の特定領域数Num1には、差分が第3しきい値(ここでは1)以上である特定方向領域の数が示されている。ここでは、特定方向領域Dir1において、C1列、C2列、C4列、及びC9列の4つの列が第3しきい値以上であることから、特定領域数Num1が「4」であることが示されている。
図21の差分結果Diff2には、横方向を特定方向とした特定方向領域の図18図19のそれぞれの加算結果Add2と加算結果Add4の差分が示されている。例えば、加算結果Add4に示すL1行の加算値「0(ゼロ)」と加算結果Add2に示すL1行の加算値「0(ゼロ)」の差分は「0(ゼロ)」であることが示されている。また、加算結果Add4に示すL2行の加算値「3」と加算結果Add2に示すL2行の加算値「4」の差分は「1」であることが示されている。
図21の特定方向領域Dir2には、差分が第3しきい値(ここでは1)以上である特定方向領域が「1」、差分が第3しきい値(ここでは1)未満である特定方向領域が「0(ゼロ)」で示されている。例えば、特定方向領域Dir2には、L1行について、L1行の差分「0(ゼロ)」が第3しきい値未満であることが示されている。また、L2行について、L2行の差分「1」が第3しきい値以上であることが示されている。
図21の特定領域数Num2には、差分が第3しきい値(ここでは1)以上である特定領域の数が示されている。ここでは、特定方向領域Dir2において、L2行、L9行、及びL10行の3つの行が第3しきい値以上であることから、特定領域数Num2が「3」であることが示されている。
【0114】
以上、説明したように、実施形態の距離画像撮像装置1は、光源部2と受光部3と距離画像処理部4を備える。距離画像処理部4は、通常モードにおいて、光パルスPOを照射する照射タイミングに同期させた蓄積タイミングにて、電荷蓄積部CS1~CS4の各々に電荷を蓄積させ、蓄積信号(電荷蓄積部CSの各々に蓄積された電荷量)に基づいて、測定対象とする空間に存在する被写体OBまでの距離を算出する。距離画像処理部4は、前記通常モード、又は前記通常モードより消費電力が小さい省電力モードの何れかを実行する。距離画像処理部4は、省電力モードにおいて少なくとも1回は電荷蓄積部CSに電荷を蓄積させ、電荷蓄積部CSに蓄積された電荷量に応じて空間に動体が存在するか否かを判定する。距離画像処理部4は、動体が存在する場合、復帰条件を充足するとして、省電力モードを解除する。また、距離画像処理部4は、通常モードにおいて、電荷蓄積部CSの各々に蓄積された電荷量に応じて、空間に動体が存在するか否かを判定し、空間に動体が存在しないと判定した場合に、省電力モードに移行する。
【0115】
これにより、実施形態の距離画像撮像装置1では、省電力モードにおいて少なくとも1回は電荷蓄積部CSに電荷を蓄積させ、その蓄積信号に応じて空間に動体が存在するか否かを判定することができる。このため、省電力モードを実行中であっても、測定対象とする空間に動体が侵入した場合にその侵入を検知することが可能である。しかも、省電力モードにおいて少なくとも1回は電荷蓄積部CSに電荷を蓄積させればよいため、通常モードより消費電力を低減させることができる。したがって、消費電力を低減させつつ、測定対象とする空間に動体が侵入したことを検知して省電力モードを解除することが可能となる。すなわち、距離画像撮像装置に適したスリープ機能に係る処理を実行することができる。
【0116】
また、実施形態の距離画像撮像装置1では、距離画像処理部4は、距離画像撮像装置1の起動時において、省電力モードを実行する、これにより、実施形態の距離画像撮像装置1では、起動時に省電力モードを実行することができ、通常モードを実行する場合より消費電力を抑えることが可能となる。
【0117】
また、実施形態の距離画像撮像装置1では、距離画像処理部4は、省電力モードM1において、光パルスPOの照射を停止させ、定期的に画素321の各々が具備する電荷蓄積部CSに背景光(外光)に対応する電荷を蓄積させる。距離画像処理部4は、電荷蓄積部CSに蓄積された電荷量の変化に応じて、測定対象とする空間に動体が存在するか否かを判定する。これにより、光パルスPOの照射を停止させた場合であっても、測定対象とする空間に動体が存在するか否かを判定することができ、消費電力を低減させつつ、測定対象とする空間に動体が侵入したことを検知して省電力モードを解除することが可能となる。
【0118】
また、実施形態の距離画像撮像装置1では、省電力モードM2において、光パルスPOを照射する頻度を通常モードより減少させ、蓄積タイミングにて電荷蓄積部CSの各々に電荷を蓄積させる。そして、距離画像処理部4は、光パルスPOの反射光RLを受光した画素321の変化に応じて、空間に動体が存在するか否かを判定する。これにより、光パルスPOを照射する頻度を低下させた場合であっても、測定対象とする空間に動体が存在するか否かを判定することができ、消費電力を低減させつつ、測定対象とする空間に動体が侵入したことを検知して省電力モードを解除することが可能となる。
【0119】
また、実施形態の距離画像撮像装置1では、省電力モードM2の変形例において、光パルスPOを照射する頻度を通常モードより減少させ、光パルスPOを照射する照射タイミングを通常モードより遅らせる。距離画像処理部4は、電荷蓄積部CSに蓄積された電荷量の変化に応じて、空間に動体が存在するか否かを判定する。これにより、空間に動体が存在しない場合、遠距離ある物体(例えば、空間を囲む壁など)に反射した反射光RLに相当する電荷が、電荷蓄積部CSに蓄積されないようになり、動体が侵入した場合には、近距離あるその動体に反射した反射光RLに相当する電荷が、電荷蓄積部CSに蓄積されるようになる。したがって、電荷蓄積部CSに反射光RLに相当する電荷が蓄積されたか否かに応じて容易に空間に動体が侵入したことを検知することができる。
【0120】
また、実施形態の距離画像撮像装置1では、測定対象とする空間に、反射物体OBHが設置される。距離画像処理部4は、省電力モードM2において、光パルスPOを照射する頻度を通常モードより減少させる。距離画像処理部4は、反射物体OBHから到来する光を受光する画素321における受光量の変化に応じて、前記空間に動体が存在するか否かを判定する。これにより、反射物体OBHから到来する光を受光することにより、測定対象とする空間に動体が存在するか否かを正確に判定することができ、消費電力を低減させつつ、測定対象とする空間に動体が侵入したことを検知して省電力モードを解除することが可能となる。
【0121】
また、実施形態の距離画像撮像装置1では、測定対象とする空間に、発光物体OBLが設置される。距離画像処理部4は、省電力モードM1において、光パルスPOの照射を停止させる。距離画像処理部4は、発光物体OBLから到来する光を受光する画素の変化に応じて、空間に動体が存在するか否かを判定する。これにより、光パルスPOを照射させない場合であっても、発光物体OBLから到来する光を受光することにより、測定対象とする空間に動体が存在するか否かを正確に判定することができ、消費電力を低減させつつ、測定対象とする空間に動体が侵入したことを検知して省電力モードを解除することが可能となる。
【0122】
また、実施形態の距離画像撮像装置1では、距離画像処理部4は、省電力モードにおいて、通常モードより少ない数の画素について駆動を行う。例えば、距離画像処理部4は、省電力モードにおいて受光領域320に配置された画素321のうち、一部の画素321のみを駆動させる。距離画像処理部4は、駆動を行った画素321における電荷蓄積部CSに蓄積された電荷量の変化に応じて、空間に動体が存在するか否かを判定する。これにより、実施形態の距離画像撮像装置1では、省電力モードにおいて消費される電力を抑制し、且つ、動体の有無を検出するまでに要する時間を短縮させることが可能となる。
【0123】
また、実施形態の距離画像撮像装置1では、距離画像処理部4は、複数の画素321を駆動させ、駆動した画素321のうち、画素値が第1しきい値以上である画素の数である高画素値画素数を算出する。距離画像処理部4は、今回の駆動による高画素値画素数と前回の駆動による高画素値画素数との差分を算出する。距離画像処理部4は、差分が第2しきい値以上である場合に、空間に動体が存在すると判定する。これにより、実施形態の距離画像撮像装置1では、前回と比較して、画素値が大きく(第1しきい値以上)変化した画素321の数が多い(第2しきい値以上である)場合に空間に動体が存在すると判定することができる。したがって、しきい値と比較するという簡単な処理で、測定空間における動体の有無を定量的に判定することができる。
【0124】
また、実施形態の距離画像撮像装置1では、図2に示すように画素321は二次元マトリクス状に複数配置される。距離画像処理部4は、複数の画素321を駆動させる。距離画像処理部4は、駆動した画素321のうち、特定方向に沿って配置された画素321のそれぞれの画素値を加算した加算値を算出する。距離画像処理部4は、今回の駆動による加算値と、前回の駆動による加算値との差分が第3しきい値以上である特定方向の数が第4しきい値以上である場合に、空間に動体が存在すると判定する。これにより、実施形態の距離画像撮像装置1では、縦、横、斜めなど特定方向に配置された画素列に含まれるそれぞれの画素の画素値の変化の総量に基づいて測定空間における動体の有無を定量的に判定することができる。測定空間において動体が移動する場合、特定方向に沿った画素列の画素値が大きく変化する蓋然性が高い。したがって、しきい値と比較するという簡単な処理で、測定空間における動体の有無を的確に判定することができる。
【0125】
また、実施形態の距離画像撮像装置1では、距離画像処理部4は、ビニングのように駆動を行った複数の画素321をまとめて1つの画素とみなした画素の画素値を用いて、空間に動体が存在すると判定する。又は、距離画像処理部4は、駆動を行った複数の画素321のうち一部の画素321の画素値を用いて、空間に動体が存在すると判定する。これにより、実施形態の距離画像撮像装置1では、駆動した画素の全てを用いることなく、空間に動体が存在するか否かを判定することができ、判定に係る処理負荷を低減させることができる。
【0126】
また、実施形態の距離画像撮像装置1では、距離画像処理部4は、省電力モードM2にて駆動を行った画素321からなる画像(例えば、第1省電力マップ又は第2省電力マップ等)に対し、エッジ検出を行う。距離画像処理部4は、エッジが検出された画素であるか否かに応じて二値化した画像(二値化マップMAP)を用いて、加算値を算出する。これにより、エッジが検出された画素の数の変化に基づいて空間に動体が存在するか否かを判定することができる。測定空間において動体が移動する場合、その動体の輪郭がエッジとして検出され、画素を駆動する度にエッジの位置が変化する蓋然性が高い。したがって、測定空間における動体の有無を的確に判定することができる。
【0127】
また、実施形態の距離画像撮像装置1では、距離画像処理部4は、画素321に設けられた特定の1つの電荷蓄積部CSに蓄積された電荷量に対応する画素値を用いて、空間に動体が存在すると判定する。または、距離画像処理部4は、画素321に入射された光パルスPOの反射光RLの光量に対応する画素値を用いて、空間に動体が存在すると判定する。或いは、距離画像処理部4は、画素321ごとに算出した距離値に対応する画素値を用いて、空間に動体が存在すると判定するようにしてもよい。距離画像処理部4は、通常モードにおいて距離を算出する方法と同様な方法を用いて、距離値を算出することができる。
【0128】
また、実施形態の距離画像撮像装置1では、距離画像処理部4は、省電力モードにおいて、外部装置から省電力モードを解除する制御信号が取得した場合に、省電力モードを解除する。これにより、実施形態の距離画像撮像装置1では、省電力モードにおいて距離測定装置としてもIRカメラとしても動作せず、蓄積信号を用いた信号処理による動体検知ができない場合であっても、省電力モードを解除することが可能となる。
【0129】
(実施形態の変形例)
ここで、実施形態の変形例について説明する。本変形例では、省電力モードを解除した後、通常モードを実行する前に、通常モードに移行するための段階的な駆動、具体的には、後述するプレ駆動、又は高速駆動を実行する点において、上述した実施形態と相違する。
【0130】
まず、プレ駆動について、説明する。プレ駆動は、通常モードより消費電力が小さくなるような駆動である。省電力モードにおいて動体が検知された場合であっても、その後、連続的に、測定対象とする空間を動体(例えば人間)が通過する場合と、全く通過しない場合とがあり得る。全く通過しない場合には、通常モードに移行した後、すぐに通常モードを解除して、省電力モードに戻ることになり、通常モードを実行したり解除したりする切替えが頻繁に行われることにより消費電力が増大する可能性がある。
【0131】
これに対し、本変形例では、省電力モードを実行中に、動体が検知された場合であっても、すぐに通常モードに移行することなく、プレ駆動を実行するようにした。そして、プレ駆動を実行中において、所定の時間内に動体が検知された場合には通常モードに移行し、所定の時間内に動体が検知されない場合には省電力モードに移行する。これにより、通常モードを実行したり解除したりする切替えが頻繁に行われることを抑制して消費電力を増大させないようにする。
【0132】
プレ駆動は、少なくとも実行中に動体を検知することができ、且つ、通常モードより消費電力が小さい駆動であれば、任意の駆動であってよい。例えば、プレ駆動は、省電力モードM1又はM2と同じ駆動である。或いは、プレ駆動において、省電力モードM1又はM2により、大きな頻度で、電荷の蓄積が行われるようにしてもよい。
【0133】
また、プレ駆動を実行中に動体を検知する方法は、省電力モードM1又はM2において、動体を検知する方法と同様である。
【0134】
次に、高速駆動について、説明する。高速駆動は、通常モードより単位時間あたりに実行するフレームの回数を増加させる駆動である。例えば、通常モードにおいて、30フレーム/secである場合、高速駆動では60フレーム/secで駆動させる。
【0135】
省電力モードにおいて動体が検知された場合、その後、通常モードを実行したとしても、その動体が動く速度によっては、動体の動き検知できない可能性がある。これに対し、本変形例では、省電力モードを実行中に、動体が検知された場合、高速駆動を実行するようにした。そして、高速駆動を所定時間実行した後、通常モードに移行する。これにより、省電力モードにおいて検知された動体の動きを測定できるようにした。
【0136】
ここで、図15を用いて、距離画像撮像装置1が行う処理の流れを説明する。図15は、実施形態の距離画像処理部4が行う処理の流れを示すフローチャートである。図15において、ステップS20~S23、及びS27に示す処理は、図4におけるステップS10~S13、及びS14と同様であるため、その説明を省略する。
【0137】
ステップS24において、距離画像処理部4は、プレ駆動及び高速駆動の何れを行うかを判定する。プレ駆動及び高速駆動の何れを行うかは、測定環境などに応じて任意に決定されてよい。
【0138】
ステップS24においてプレ駆動を実行すると判定した場合、距離画像処理部4は、プレ駆動を実行し(ステップS25)、プレ駆動を実行中に動体が検知されたか否かを判定する(ステップS26)。距離画像処理部4は、動体が検知されたと判定した場合、ステップS27に進み通常モードを実行する。
【0139】
一方、ステップS24において高速駆動を実行すると判定した場合、距離画像処理部4は、高速駆動を実行し(ステップS28)、所定の時間が経過した後(ステップS29)、ステップS27に進み通常モードを実行する。
【0140】
以上説明したように、実施形態の変形例における距離画像撮像装置1では、距離画像処理部4は、省電力モードを解除した後、プレ動作駆動を行う。距離画像処理部4は、プレ動作駆動において、蓄積タイミングにて電荷蓄積部の各々に電荷を蓄積させる。距離画像処理部4は、プレ動作駆動において所定の時間内に、測定対象とする空間において動体が検知された場合に通常モードに移行する。一方、距離画像処理部4は、プレ動作駆動において所定の時間内に、所定の時間内に動体が検知されない場合に省電力モードに移行する。これにより、省電力モードにおいて動体が検知された場合であっても、その後、動体が検知されない状態が継続した場合には、通常モードを実行することなく、省電力モードを継続させることが可能となる。したがって、通常モード実行したり解除したりする切替えが頻繁に行われることを抑制して消費電力を増大させないようにすることができる。
【0141】
また、実施形態の変形例における距離画像撮像装置1では、距離画像処理部4は、省電力モードを解除した後、高速駆動を行う。距離画像処理部4は、高速駆動において、前記光パルスを照射する頻度を前記通常モードより増加させ、蓄積タイミングにて電荷蓄積部CSの各々に電荷を蓄積させ、電荷蓄積部CSの各々に蓄積された電荷量に基づいて、空間に存在する被写体OBまでの距離を算出し、高速駆動を所定時間実行した後に、通常モードに移行する。これにより、省電力モードにおいて動体が検知された場合に、その動体が素早く移動した場合であっても、高速駆動を実行することにより、その動体の動きを測定することができる。
【0142】
ここで、動体を検出した場合にプレ動作駆動を行わず、高速駆動、或いは通常モードに移行する場合、距離画像撮像装置1は、高速駆動或いは通常モードに移行するために要する時間を短くすることが可能な省電力モードを実行することが望ましい。例えば、省電力モードにおいて、通常モードと同様の蓄積タイミングにて電荷の蓄積を行い、光パルスPOの発光のみを停止させた場合、電荷を蓄積させる処理をそのまま継続させつつ、光パルスの発光を再開させることによって、即座に通常モードに移行することができ、通常モードへの移行期間を短くすることが可能となる。
【0143】
また、省電力モードにおいて駆動させる画素321の数を、通常モードより少なくした場合、出力させる蓄積信号の数を通常モードより削減させることができる。このため、電荷量の変化などに応じて動体の有無を判定するまでの時間が、全部の画素321を駆動させて動体の有無を判定する場合よりも、短縮させることが可能となる。したがって、動体を検知してから、通常モード等に移行するまでの時間を短縮させることができ、省電力モードから素早く通常モード等に移行して、動きの速い動体を検知することが可能となる。
【0144】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【0145】
例えば、通常モードを実行中に動体を検知しなくなるなどして省電力モードに移行する際に、すぐに省電力モードに移行するのではなく、光パルスPOを照射する頻度、及び電荷蓄積部CSに電荷を蓄積させる頻度の少なくとも一方を段階的に減少させながら、徐々に省電力モードに移行するようにしてもよい。
【0146】
また、プレ駆動において、所定の時間内に動体が検知された場合であっても、その動体の移動速度が閾値未満であり、測定対象とする空間に物体が存在するが、その物体は動体ではなく静止した物体であると判定した場合、通常モードに移行せずに、省電力モードに戻るようにしてもよい。この場合、プレ駆動において、被写体OB(動体)までの距離を測定するように、距離画像処理部4により制御される。距離画像処理部4は、測定した距離に基づいて、動体が移動する速度を算出し、算出した速度に応じて通常モードに移行するか、省電力モードに移行するかを決定する。
【0147】
また、発光物体OBLから到来する光を受光する場合において、その光を受光することにより電荷蓄積部CSに蓄積される電荷が飽和するように駆動回数を制御するようにしてもよい。そして、距離画像処理部4は、1フレーム駆動する毎に、電荷蓄積部CSに蓄積される電荷が飽和したか否かを判定し、飽和した状態から飽和しない状態に変化した場合に、動体が検出されたと判定するようにしてもよい。
【0148】
また、図8図9では、1秒あたり1フレームを駆動する頻度にて動作させる場合を例示したが、これに限定されない。省電力モードM2では、光パルスPOを照射しつつも通常モードより消費電力が少なくなるように駆動できればばよい。
【0149】
例えば、省電力モードM2において、1秒あたりに1フレームを駆動させるよりも、さらに頻度が小さくなるようにしてもよい。例えば、省電力モードM2において、5秒に1フレームを駆動する頻度であってもよい。省電力モードM1においても、同様に、1秒あたり1フレームを駆動する頻度にてIR画像を撮像してもよいし、5秒に1フレームを駆動する頻度でIR画像を撮像してもよい。
【0150】
また、省電力モードM2において、光パルスPOの照射時間と電荷蓄積部CSへの蓄積時間を、通常モードより短い時間となるようにしてもよい。
【0151】
また、省電力モードM2において、1秒間に駆動可能な30フレームから、毎回ランダムに選択された1つのフレームを駆動するようにしてもよい。
【0152】
また、省電力モードM2において1フレームあたりに照射する光パルスPOの照射回数と電荷蓄積部CSへの蓄積回数を、通常モードより小さくなるようにしてもよい。
【0153】
上述した実施形態における距離画像撮像装置1、距離画像処理部4の全部または一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。
【符号の説明】
【0154】
1…距離画像撮像装置
2…光源部
3…受光部
321…画素
4…距離画像処理部
CS…電荷蓄積部
G1,G2,G3,G4…電荷転送トランジスタ
GD…電荷排出トランジスタ
PD…光電変換素子
PO…光パルス
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10A
図10B
図11A
図11B
図12
図13A
図13B
図13C
図13D
図13E
図14A
図14B
図15
図16
図17
図18
図19
図20
図21