(58)【調査した分野】(Int.Cl.,DB名)
パルス光を繰り返し出射する発光素子と、対象物からの前記パルス光の反射光を含む光を繰り返し受光する受光素子とを有し、予め定められた受光期間に前記受光素子が繰り返し受光する前記反射光の量に基づいて、前記対象物までの距離を測距する測距装置、及びフォーカスレンズと、前記フォーカスレンズを介して結像された光学像の画像を出力するイメージセンサとを有し、前記測距装置により測距される前記距離に基づいて前記フォーカスレンズの位置を調整することで合焦制御を実行する撮像装置を備える撮像システムを制御する制御装置であって、
前記イメージセンサから出力される画像の画像情報を取得し、
前記画像情報に基づいて、前記受光期間の長さを決定し、
決定された前記受光期間に前記受光素子が繰り返し受光する反射光の量に基づいて前記測距装置により測距された前記対象物までの距離に基づいて、前記フォーカスレンズの位置を調整することで合焦制御を実行した後、前記イメージセンサから出力される前記対象物を含む画像を取得する
ように構成される回路を備える、制御装置。
前記測距装置は、前記受光期間内の前記パルス光が前記発光素子から繰り返し出射されているそれぞれの第1期間に前記受光素子が受光する前記反射光の第1量と、前記受光期間内のそれぞれの前記第1期間に続くそれぞれの第2期間に前記受光素子が受光する前記反射光の第2量とに基づいて、前記距離を測距する、請求項1に記載の制御装置。
前記回路は、前記第1の長さの前記受光期間で前記受光素子が受光する前記反射光の量が前記第1閾値により小さい予め定められた第2閾値に達していない場合、前記受光期間の長さを前記第1の長さより長い第3の長さに決定するように構成される、請求項9に記載の制御装置。
パルス光を繰り返し出射する発光素子と、対象物からの前記パルス光の反射光を含む光を繰り返し受光する受光素子とを有し、予め定められた受光期間に前記受光素子が繰り返し受光する前記反射光の量に基づいて、前記対象物までの距離を測距する測距装置、及びフォーカスレンズと、前記フォーカスレンズを介して結像された光学像の画像を出力するイメージセンサとを有し、前記測距装置により測距される前記距離に基づいて前記フォーカスレンズの位置を調整することで合焦制御を実行する撮像装置を備える撮像システムを制御する制御装置であって、
前記撮像装置の撮影モードを取得し、
前記撮影モードに基づいて、前記受光期間の長さを決定し、
決定された前記受光期間に前記受光素子が繰り返し受光する反射光の量に基づいて前記測距装置により測距された前記対象物までの距離に基づいて、前記フォーカスレンズの位置を調整することで合焦制御を実行した後、前記イメージセンサから出力される前記対象物を含む画像を取得する
ように構成される回路を備える、制御装置。
パルス光を繰り返し出射する発光素子と、対象物からの前記パルス光の反射光を含む光を繰り返し受光する受光素子とを有し、予め定められた受光期間に前記受光素子が繰り返し受光する前記反射光の量に基づいて、前記対象物までの距離を測距する測距装置、及びフォーカスレンズと、前記フォーカスレンズを介して結像された光学像の画像を出力するイメージセンサとを有し、前記測距装置により測距される前記距離に基づいて前記フォーカスレンズの位置を調整することで合焦制御を実行する撮像装置を備える撮像システムを制御する制御方法であって、
前記イメージセンサから出力される画像の画像情報を取得する段階と、
前記画像情報に基づいて、前記受光期間の長さを決定する段階と、
決定された前記受光期間に前記受光素子が繰り返し受光する反射光の量に基づいて前記測距装置により測距された前記対象物までの距離に基づいて、前記フォーカスレンズの位置を調整することで合焦制御を実行した後、前記イメージセンサから出力される前記対象物を含む画像を取得する段階と
を備える、制御方法。
パルス光を繰り返し出射する発光素子と、対象物からの前記パルス光の反射光を含む光を繰り返し受光する受光素子とを有し、予め定められた受光期間に前記受光素子が繰り返し受光する前記反射光の量に基づいて、前記対象物までの距離を測距する測距装置、及びフォーカスレンズと、前記フォーカスレンズを介して結像された光学像の画像を出力するイメージセンサとを有し、前記測距装置により測距される前記距離に基づいて前記フォーカスレンズの位置を調整することで合焦制御を実行する撮像装置を備える撮像システムを制御する制御方法であって、
前記撮像装置の撮影モードを取得する段階と、
前記撮影モードに基づいて、前記受光期間の長さを決定する段階と、
決定された前記受光期間に前記受光素子が繰り返し受光する反射光の量に基づいて前記測距装置により測距された前記対象物までの距離に基づいて、前記フォーカスレンズの位置を調整することで合焦制御を実行した後、前記イメージセンサから出力される前記対象物を含む画像を取得する段階と
を備える、制御方法。
【発明の概要】
【発明が解決しようとする課題】
【0003】
TOFセンサで測距される対象物の反射率の違いにより、TOFセンサで受光される反射光の量が異なる。これにより、TOFセンサによる対象物までの距離の測距の精度にばらつきが生じる可能性がある。
【課題を解決するための手段】
【0004】
本発明の一態様に係る制御装置は、パルス光を繰り返し出射する発光素子と、対象物からのパルス光の反射光を含む光を繰り返し受光する受光素子とを有し、予め定められた受光期間に受光素子が繰り返し受光する反射光の量に基づいて、対象物までの距離を測距する測距装置を制御する制御装置でよい。制御装置は、測距装置により測距される距離に基づいて合焦制御を実行する撮像装置により撮像される画像の画像情報を取得し、画像情報に基づいて、受光期間の長さを決定するように構成される回路を備えてよい。
【0005】
測距装置は、受光期間内のパルス光が発光素子から繰り返し出射されているそれぞれの第1期間に受光素子が受光する反射光の第1量と、受光期間内のそれぞれの第1期間に続くそれぞれの第2期間に受光素子が受光する反射光の第2量とに基づいて、距離を測距してよい。
【0006】
回路は、画像情報として画像の色情報を取得し、色情報に基づいて、受光期間の長さを決定するように構成されてよい。
【0007】
回路は、画像情報として画像内の関心領域の画像情報を取得し、第1領域の画像情報に基づいて、受光期間の長さを決定するように構成されてよい。
【0008】
回路は、画像情報として画像内の第1領域の色情報を取得し、色情報に基づいて、受光期間の長さを決定するように構成されてよい。
【0009】
回路は、色情報により特定される第1領域に含まれる色の波長が第1波長の場合、受光期間の長さを第1受光期間に決定してよい。回路は、色情報により特定される第1領域に含まれる色の波長が第1波長より短い第2波長の場合、受光期間の長さを第1受光期間より長い第2受光期間に決定するように構成されてよい。
【0010】
パルス光は、赤外光でよい。
【0011】
回路は、撮像装置の撮影モードをさらに取得し、撮影モードに基づいて、受光期間の長さを決定するように構成されてよい。
【0012】
回路は、画像情報に基づいて、受光期間の長さを第1の長さに決定し、受光素子が第1の長さの受光期間で受光する反射光の量が予め定められた第1閾値に達している場合、受光期間の長さを第1の長さより短い第2の長さに決定するように構成されてよい。
【0013】
回路は、第1の長さの受光期間で受光素子が受光する反射光の量が第1閾値により小さい予め定められた第2閾値に達していない場合、受光期間の長さを第1の長さより長い第3の長さに決定するように構成されてよい。
【0014】
本発明の一態様に係る制御装置は、パルス光を繰り返し出射する発光素子と、対象物からのパルス光の反射光を含む光を繰り返し受光する受光素子とを有し、予め定められた受光期間に受光素子が繰り返し受光する反射光の量に基づいて、対象物までの距離を測距する測距装置を制御する制御装置でよい。制御装置は、測距装置により測距された距離に基づいて合焦制御を実行する撮像装置の撮影モードを取得し、撮影モードに基づいて、受光期間の長さを決定するように構成される回路を備えてよい。
【0015】
本発明の一態様に係る撮像システムは、上記制御装置と、測距装置と、撮像装置とを備えてよい。
【0016】
本発明の一態様に係る移動体は、上記撮像システムを備えて移動する移動体でよい。
【0017】
本発明の一態様に係る制御方法は、パルス光を繰り返し出射する発光素子と、対象物からのパルス光の反射光を含む光を繰り返し受光する受光素子とを有し、予め定められた受光期間に受光素子が繰り返し受光する反射光の量に基づいて、対象物までの距離を測距する測距装置を制御する制御方法でよい。制御方法は、測距装置により測距される距離に基づいて合焦制御を実行する撮像装置により撮像される画像の画像情報を取得する段階を備えてよい。制御方法は、画像情報に基づいて、受光期間の長さを決定する段階を備えてよい。
【0018】
本発明の一態様に係る制御方法は、パルス光を繰り返し出射する発光素子と、対象物からのパルス光の反射光を含む光を繰り返し受光する受光素子とを有し、予め定められた受光期間に受光素子が繰り返し受光する反射光の量に基づいて、対象物までの距離を測距する測距装置を制御する制御方法でよい。制御方法は、測距装置により測距された距離に基づいて合焦制御を実行する撮像装置の撮影モードを取得する段階を備えてよい。制御方法は、撮影モードに基づいて、受光期間の長さを決定する段階を備えてよい。
【0019】
本発明の一態様に係るプログラムは、上記制御装置としてコンピュータを機能させるためのプログラムでよい。
【0020】
本発明の一態様によれば、測距装置による対象物までの距離の測距の精度のばらつきを抑制できる。
【0021】
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
【発明を実施するための形態】
【0023】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【0024】
特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。
【0025】
本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、(1)操作が実行されるプロセスの段階または(2)操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び/またはプロセッサによって実装されてよい。専用回路は、デジタル及び/またはアナログハードウェア回路を含んでよい。集積回路(IC)及び/またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理AND、論理OR、論理XOR、論理NAND、論理NOR、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ(FPGA)、プログラマブルロジックアレイ(PLA)等の様なメモリ要素等を含んでよい。
【0026】
コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー(登録商標)ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、消去可能プログラマブルリードオンリメモリ(EPROMまたはフラッシュメモリ)、電気的消去可能プログラマブルリードオンリメモリ(EEPROM)、静的ランダムアクセスメモリ(SRAM)、コンパクトディスクリードオンリメモリ(CD-ROM)、デジタル多用途ディスク(DVD)、ブルーレイ(登録商標)ディスク、メモリスティック、集積回路カード等が含まれてよい。
【0027】
コンピュータ可読命令は、1または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはSmalltalk(登録商標)、JAVA(登録商標)、C++等のようなオブジェクト指向プログラミング言語、及び「C」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク(LAN)、インターネット等のようなワイドエリアネットワーク(WAN)を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
【0028】
図1は、本実施形態に係る撮像システム10の外観斜視図の一例である。撮像システム10は、撮像装置100、TOFセンサ160、支持機構200、及び把持部300を備える。支持機構200は、撮像装置100を、アクチュエータを用いてロール軸、ピッチ軸、ヨー軸のそれぞれを中心に回転可能に支持する。支持機構200は、ロール軸、ピッチ軸、及びヨー軸の少なくとも1つを中心に撮像装置100を回転させることで、撮像装置100の姿勢を変更、または維持してよい。支持機構200は、ロール軸駆動機構201、ピッチ軸駆動機構202、及びヨー軸駆動機構203を備える。支持機構200は、ヨー軸駆動機構203が固定される基部204をさらに備える。把持部300は、基部204に固定される。把持部300は、操作インタフェース301、及び表示部302を備える。撮像装置100は、ピッチ軸駆動機構202に固定される。
【0029】
操作インタフェース301は、撮像装置100及び支持機構200を操作するための命令をユーザから受け付ける。操作インタフェース301は、撮像装置100による撮影または録画を指示するシャッター/録画ボタンを含んでよい。操作インタフェース301は、撮像システム10の電源をオンまたはオフ、及び撮像装置100の静止画撮影モードまたは動画撮影モードの切り替えを指示する電源/ファンクションボタンを含んでよい。
【0030】
表示部302は、撮像装置100により撮像される画像を表示してよい。表示部302は、撮像装置100及び支持機構200を操作するためのメニュー画面を表示してよい。表示部302は、撮像装置100及び支持機構200を操作するための命令を受け付けるタッチパネルディスプレイでよい。
【0031】
ユーザは、把持部300を把持して撮像装置100により静止画または動画を撮影する。TOFセンサ160は、対象物までの距離を測距する。撮像装置100は、TOFセンサ160により測距された距離に基づいて、フォーカスレンズの位置を調整することで、合焦制御を実行する。
【0032】
図2は、撮像システム10の機能ブロックを示す図である。撮像装置100は、撮像制御部110、イメージセンサ120、メモリ130、レンズ制御部150、レンズ駆動部152、及び複数のレンズ154を備える。
【0033】
イメージセンサ120は、CCDまたはCMOSにより構成されてよい。イメージセンサ120は、複数のレンズ154を介して結像された光学像の画像データを撮像制御部110に出力する。撮像制御部110は、CPUまたはMPU等のマイクロプロセッサ、MCU等のマイクロコントローラ等により構成されてよい。
【0034】
撮像制御部110は、把持部300からの撮像装置100の動作命令に応じて、撮像装置100を制御してよい。画像処理部112、及びTOF制御部114を有する。画像処理部112は、イメージセンサ120から出力された画像信号にデモザイク処理を施すことで画像データを生成する。画像処理部112は、画像データをメモリ130に格納する。TOF制御部114は、TOFセンサ160を制御する。撮像制御部110、またはTOF制御部114は、回路の一例である。
【0035】
メモリ130は、コンピュータ可読可能な記録媒体でよく、SRAM、DRAM、EPROM、EEPROM、及びUSBメモリ等のフラッシュメモリの少なくとも1つを含んでよい。メモリ130は、撮像制御部110がイメージセンサ120等を制御するのに必要なプログラム等を格納する。メモリ130は、撮像装置100の筐体の内部に設けられてよい。把持部300は、撮像装置100により撮像された画像データを保存するための他のメモリを備えてよい。把持部300は、把持部300の筐体からメモリを取り外し可能なスロットを有してよい。
【0036】
複数のレンズ154は、ズームレンズ、バリフォーカルレンズ、及びフォーカスレンズとして機能してよい。複数のレンズ154の少なくとも一部または全部は、光軸に沿って移動可能に配置される。レンズ制御部150は、撮像制御部110からのレンズ制御命令に従って、レンズ駆動部152を駆動して、1または複数のレンズ154を光軸方向に沿って移動させる。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。レンズ駆動部152は、複数のレンズ154の少なくとも一部または全部を光軸方向に移動させるボイスコイルモータ(VCM)を含んでよい。レンズ駆動部152は、DCモータ、コアレスモータ、または超音波モータ等の電動機を含んでよい。レンズ駆動部152は、電動機からの動力をカム環、ガイド軸等の機構部材を介して複数のレンズ154の少なくとも一部または全部に伝達して、複数のレンズ154の少なくとも一部または全部を光軸に沿って移動させてよい。
【0037】
撮像装置100は、姿勢制御部210、角速度センサ212、及び加速度センサ214をさらに備える。角速度センサ212は、撮像装置100の角速度を検出する。角速度センサ212は、撮像装置100のロール軸、ピッチ軸、及びヨー軸回りのそれぞれの角速度を検出する。姿勢制御部210は、角速度センサ212から撮像装置100の角速度に関する角速度情報を取得する。角速度情報は、撮像装置100のロール軸、ピッチ軸、及びヨー軸回りのそれぞれの角速度を示してよい。姿勢制御部210は、加速度センサ214から撮像装置100の加速度に関する加速度情報を取得する。加速度情報は、撮像装置100のロール軸、ピッチ軸、及びヨー軸のそれぞれの方向の加速度を示してもよい。
【0038】
角速度センサ212、及び加速度センサ214は、イメージセンサ120及びレンズ154等を収容する筐体内に設けられてよい。本実施形態では、撮像装置100と支持機構200とが一体的に構成される形態について説明する。しかし、支持機構200が、撮像装置100を着脱可能に固定する台座を備えてよい。この場合、角速度センサ212、及び加速度センサ214は台座等、撮像装置100の筐体の外に設けられてよい。
【0039】
姿勢制御部210は、角速度情報及び加速度情報に基づいて、撮像装置100の姿勢を維持または変更すべく、支持機構200を制御する。姿勢制御部210は、撮像装置100の姿勢を制御するための支持機構200の動作モードに従って、撮像装置100の姿勢を維持または変更すべく、支持機構200を制御する。
【0040】
動作モードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるように支持機構200のロール軸駆動機構201、ピッチ軸駆動機構202、及びヨー軸駆動機構203の少なくとも1つを動作させるモードを含む。動作モードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるように支持機構200のロール軸駆動機構201、ピッチ軸駆動機構202、及びヨー軸駆動機構203のそれぞれを動作させるモードを含む。動作モードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるように支持機構200のピッチ軸駆動機構202、及びヨー軸駆動機構203のそれぞれを動作させるモードを含む。動作モードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるようにヨー軸駆動機構203のみを動作させるモードを含む。
【0041】
動作モードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるように支持機構200を動作させるFPV(First Person View)モードと、撮像装置100の姿勢を維持するように支持機構200を動作させる固定モードとを含んでよい。
【0042】
FPVモードは、支持機構200の基部204の姿勢の変化に撮像装置100の姿勢の変化を追従させるように、ロール軸駆動機構201、ピッチ軸駆動機構202、及びヨー軸駆動機構203の少なくとも1つを動作させるモードである。固定モードは、撮像装置100の現在の姿勢を維持するように、ロール軸駆動機構201、ピッチ軸駆動機構202、及びヨー軸駆動機構203の少なくとも1つを動作させるモードである。
【0043】
TOFセンサ160は、発光部162、受光部164、発光制御部166、受光制御部167、及びメモリ168を備える。発光部162は、少なくとも1つの発光素子163を含む。発光素子163は、LEDまたはレーザ等の高速変調されたパルス光を繰り返し出射するデバイスである。発光素子163は、赤外光であるパルス光を出射してよい。発光制御部166は、発光素子163の発光を制御する。発光制御部166は、発光素子163から出射されるパルス光のパルス幅を制御してよい。赤外光の波長は750nm以上950nm以下である。発光部162は850nm及び930nmの少なくとも1つの波長を有する光を出射する。
【0044】
受光部164は、複数の受光素子165を含む。受光素子165は、対象物からのパルス光の反射光を繰り返し受光する。受光制御部167は、受光素子165の受光を制御する。受光制御部167は、予め定められた受光期間に受光素子165が繰り返し受光する反射光の量に基づいて、対象物までの距離を測距する。受光制御部167は、予め定められた受光期間に受光素子165が繰り返し受光する反射光の量に基づいて、パルス光と反射光との間の位相差を特定することで、対象物までの距離を測距してよい。受光素子165は、反射光以外の太陽光、人工光なども受光することがある。
【0045】
メモリ168は、コンピュータ可読可能な記録媒体でよく、SRAM、DRAM、EPROM、及びEEPROMの少なくとも1つを含んでよい。メモリ168は、発光制御部166が発光部162を制御するために必要なプログラム、及び受光制御部167が受光部164を制御するのに必要なプログラム等を格納する。
【0046】
受光素子165は、光電変換素子及び電荷蓄電部を有してよい。光電変換素子は、対象物からのパルス光の反射光を受光すると、受光した反射光の量に応じた電荷に変換する。電荷蓄電部は、複数のコンデンサと、複数のコンデンサのうち、光電変換素子から出力される電荷を蓄積させるコンデンサを切り替えるスイッチとを含む。
【0047】
図3は、電荷蓄電部の回路構成の一例である。電荷蓄電部は、並列に接続されたコンデンサC1と、コンデンサC2とを含む。コンデンサC1及びコンデンサC2の一端は、接地されている。コンデンサC1及びコンデンサC2の他端は、直列に接続されたスイッチS1及びスイッチS2を介して接続されている。コンデンサC1の他端は、スイッチS1の一端に接続される。スイッチS1の他端は、スイッチS2の一端に接続される。スイッチS2の他端は、コンデンサC2の他端に接続される。スイッチS1とスイッチS2との間にダイオードDのアノードが接続される。ダイオードDのカソードは、接地される。受光制御部167が、スイッチS1及びスイッチS2のオンオフを制御することで、光電変化素子で変化された電荷をコンデンサC1またはコンデンサC2に蓄積させる。
【0048】
図4は、受光部164のタイミングチャートの一例である。Toは、パルス光のパルス幅を示す。Tdは、パルス光と反射光との間の位相差を示す。
【0049】
受光制御部167は、予め定められた受光期間Tr内のパルス光が発光素子163から繰り返し出射されているそれぞれの第1期間T1に受光素子165が受光する反射光の第1量Q1と、受光期間Tr内のそれぞれの第1期間T1に続くそれぞれの第2期間T2に受光素子165が受光する反射光の第2量Q2とに基づいて、距離を測距してよい。受光素子165は、受光期間T1内のそれぞれの第1期間T1にコンデンサC1に蓄積された電荷に対応する電圧値を示す第1信号を第1量Q1として出力してよい。受光素子165は、受光期間T2内のそれぞれの第2期間T2にコンデンサC2に蓄積された電荷に対応する電圧値を示す第2信号を第2量Q2として出力してよい。
【0050】
受光制御部167は、(1)式に従って対象物までの距離Lを測距してよい。
L=1/2×c×Td=1/2×c×{Q2/(Q1+Q2)}×To・・・(1)
【0051】
上記のように、受光制御部167は、コンデンサC1及びコンデンサC2に蓄積された電荷に対応する電圧値に基づいて距離Lを導出できる。しかし、対象物によってパルス光の反射率が異なるので、コンデンサC1及びコンデンサC2に蓄積される電荷の大きさも異なる。例えば、対象物の色が異なると、対象物の反射率は異なる。パルス光が赤外光ので、対象物の色が白色の場合、対象物の反射率は高い。一方、パルス光が赤外光で、対象物の色が黒色の場合、対象物の反射率は低い。したがって、対象物の色によっては、受光期間Trが長すぎて、コンデンサC1またはコンデンサC2に蓄積される電荷が飽和する可能性がある。もしくは、対象物の色によっては、受光期間Trが短すぎてコンデンサC1またはコンデンサC2に蓄積される電荷が少なすぎる可能性がある。このように、対象物の色によっては、コンデンサC1またはコンデンサC2に蓄積される電荷の量が適切でなく、受光制御部167は、距離Lを精度よく測距できない可能性がある。
【0052】
そこで、TOF制御部114が、対象物の種類に応じて、TOFセンサ160の受光期間T1を決定する。TOF制御部114は、撮像装置100により撮像される画像の画像情報を取得し、画像情報に基づいて、受光期間Trの長さを決定してよい。TOF制御部114は、画像情報として画像の色情報を取得し、色情報に基づいて、受光期間Trの長さを決定してよい。TOF制御部114は、決定された受光期間Trの長さを受光制御部167に通知する。受光制御部167は、TOF制御部114から提供された長さの受光期間Trで、対象物の距離を測距する。TOF制御部114から提供された受光期間Trの情報は、メモリ168に格納されてよい。TOF制御部114は、画像情報として画像の輝度情報を取得し、輝度情報に基づいて、受光期間Trの長さを決定してよい。
【0053】
TOF制御部114は、画像情報として画像内の関心領域(ROI)の画像情報を取得し、関心領域の画像情報に基づいて、受光期間Trの長さを決定してよい。関心領域は、第1領域の一例である。TOF制御部114は、画像情報として画像内の関心領域の色情報を取得し、色情報に基づいて、受光期間の長さを決定してよい。関心領域は、撮像装置100により撮像された画像内の表示部302を介してユーザに選択されたオブジェクトを含む領域(トラッキング領域)でよい。関心領域は、撮像装置100により撮像された画像内の撮像制御部110により検出された顔を含む顔領域などの予め定められた条件を満たすオブジェクトを含む領域でよい。関心領域は、撮像装置100により撮像された画像内の最も近いオブジェクトを含む領域でよい。
【0054】
TOF制御部114は、色情報により特定される関心領域に含まれる色の波長が第1波長の場合、受光期間Trの長さを第1受光期間に決定してよい。TOF制御部114は、色情報により特定される関心領域に含まれる色の波長が第1波長より短い第2波長の場合、受光期間Trの長さを第1受光期間より長い第2受光期間に決定してよい。
【0055】
TOF制御部114は、色情報と、受光期間Trの長さとの予め定められた対応関係に従って、受光期間Trの長さを決定してよい。色情報は、RGB値でよい。TOF制御部114は、RGB値と受光期間Trの長さとの対応関係を示す関数に従って、受光期間Trの長さを決定してよい。
【0056】
TOF制御部114は、撮像装置100の撮影モードをさらに取得し、撮影モードに基づいて、受光期間Trの長さを決定してよい。TOF制御部114は、撮影モードで特定される撮影の対象物の色情報に基づいて、受光期間Trの長さを決定してよい。TOF制御部114は、撮像装置100により撮像される画像の色情報と、撮影モードで特定される撮影の対象物の色情報とに基づいて、受光期間Trの長さを決定してよい。例えば、TOF制御部114は、撮像装置100により撮像される画像から特定されるRGB値と、撮影モードで特定される撮影の対象物のRGB値とに基づいて、受光期間Trの長さを決定してよい。TOF制御部114は、撮像装置100により撮像される画像から特定されるRGB値と、撮影モードで特定される撮影の対象物のRGB値との平均値に基づいて、受光期間Trの長さを決定してよい。TOF制御部114は、撮像装置100により撮像される画像から特定されるRGB値と、撮影モードで特定される撮影の対象物のRGB値とにそれぞれ予め定められた重み付けを施して導出されたRGB値に基づいて、受光期間Trの長さを決定してよい。TOF制御部114は、撮像装置100の撮影モードのみに基づいて、受光期間Trの長さを決定してよい。
【0057】
対象物の色が同じでも、TOFセンサ160までの距離が異なれば、受光素子165で受光される反射光の量は異なる場合がある。そのため、TOF制御部114により色情報に基づいて決定された受光期間Trの長さが適切でない場合がある。
【0058】
そこで、TOF制御部114は、画像情報に基づいて決定された第1の長さの受光期間Trで受光素子165が受光する反射光の量が予め定められた第1閾値に達している場合、受光期間Trの長さを第1の長さより短い第2の長さに決定してよい。TOF制御部114は、画像情報に基づいて決定された第1の長さの受光期間Trで受光素子165が受光する反射光の量が第1閾値により小さい予め定められた第2閾値に達していない場合、受光期間Trの長さを第1の長さより長い第3の長さに決定してよい。TOF制御部114は、TOF制御部114は、コンデンサC1またはコンデンサC2に蓄積された電荷に対応する電圧値が、予め定められた第1閾値に達している場合、受光期間Trの長さを第1の長さより短い第2の長さに決定してよい。TOF制御部114は、TOF制御部114は、コンデンサC1またはコンデンサC2に蓄積された電荷に対応する電圧値が、予め定められた第2閾値に達していない場合、受光期間Trの長さを第1の長さより長い第3の長さに決定してよい。
【0059】
図5は、TOFセンサ160の受光期間を決定する手順の一例を示すフローチャートである。
【0060】
撮像制御部110は、イメージセンサ120で撮像された画像から被写体情報を取得する(S100)。撮像制御部110は、被写体情報に基づいて顔/トラッキング領域が設定されたか否かを判定する(S102)。顔/トラッキング領域が設定されていれば、撮像制御部110は、顔/トラッキング領域をROIに設定する(S104)。顔/トラッキング領域が設定されていなければ、撮像制御部110は、画像の全ての領域をROIに設定する(S106)。「/」は少なくとも1つという意味である。A/Bと記載した場合、A及びBのうちの少なくとも1つという意味である。
【0061】
TOF制御部114は、イメージセンサ120で撮像された画像のROIから色情報を取得する(S108)。TOF制御部114は、色情報に基づいてTOFセンサ160の受光期間Trを決定する(S110)。画像内の複数の領域であれば、TOF制御部114は、複数の領域ごとのRGB値を取得し、最も高いRGB値に基づいて、受光期間Trを決定してよい。画像内の全ての領域であれば、TOF制御部114は、画像を複数のブロック、例えば、9個のブロックに分割して、ブロックごとにRGB値を取得する。TOF制御部114は、複数のブロックのそれぞれのRGB値の中で最も高いRGB値に基づいて、受光期間Trを決定してよい。例えば、TOF制御部114は、ROI内の対象物の色が白である場合、受光期間Trを100msに決定する。TOF制御部114は、ROI内の対象物が黒である場合、受光期間Trを1000msに決定する。
【0062】
TOF制御部114は、決定された受光期間TrをTOFセンサ160に提供する。TOFセンサ160は、提供された受光期間Trに従って、対象物の測距を実行する。TOF制御部114は、受光期間Trで受光素子165が受光する反射光の量を示す出力信号をTOFセンサ160から取得する(S112)。TOF制御部114は、受光期間Tr内のそれぞれの第1期間T1に受光素子165が受光する反射光の第1量Q1と、受光期間Tr内のそれぞれの第2期間T2に受光素子165が受光する反射光の第2量Q2とを示す出力信号を取得してよい。
【0063】
TOF制御部114は、ROIの出力信号が最適か否かを判定する(S114)。TOF制御部114は、ROIに対応する受光素子165がそれぞれの第1期間T1に受光する反射光の第1量Q1に対応する電圧値または、それぞれの第2期間T2に受光する反射光の第2量Q1に対応する電圧値が第1閾値に達しているか、第2閾値に達していないかを判定してよい。TOF制御部114は、それぞれの電圧値が第2閾値から第1閾値の間に含まれる場合には、ROIの出力信号は最適であると判定する。一方、TOF制御部114は、いずれかの電圧値が第1閾値に達しているか、第2閾値に達していない場合、ROIの出力信号は最適でないと判定する。
【0064】
ROIの出力信号が最適でない場合、TOF制御部114は、TOFセンサ160の受光期間Trを変更する(S116)。TOF制御部114は、いずれかの電圧値が第1閾値に達している場合、コンデンサC1またはコンデンサC2が飽和している判断して、現在の長さより短くなるように受光期間Trを変更する。TOF制御部114は、例えば、受光期間Trの長さを半分に変更してよい。TOF制御部114は、いずれかの電圧値が第2閾値に達していない場合、コンデンサC1またはコンデンサC2に蓄積された電荷が少ないと判断して、現在の長さより長くなるように受光期間Trを変更する。
【0065】
本実施形態に係る撮像システム10によれば、対象物の色または輝度など画像情報から特定される特性が異なり、対象物の反射率が異なることで、TOFセンサ160による測距の精度が低下することを防止できる。従って、撮像装置100は、TOFセンサ160により測距された対象物までの距離に基づいて精度よく合焦制御を実行できる。
【0066】
図6は、撮像システム10の他の形態を示す外界斜視図の一例である。
図6に示すように、撮像システム10は、把持部300の脇に、スマートフォン400などのディスプレイを備えるモバイル端末を固定した状態で、使用されてよい。
【0067】
上記のような撮像装置100は、移動体に搭載されてもよい。撮像装置100は、
図7に示すような、無人航空機(UAV)に搭載されてもよい。UAV1000は、UAV本体20、ジンバル50、複数の撮像装置60、及び撮像装置100を備えてよい。ジンバル50、及び撮像装置100は、撮像システムの一例である。UAV1000は、推進部により推進される移動体の一例である。移動体とは、UAVの他、空中を移動する他の航空機などの飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。
【0068】
UAV本体20は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。UAV本体20は、複数の回転翼の回転を制御することでUAV1000を飛行させる。UAV本体20は、例えば、4つの回転翼を用いてUAV1000を飛行させる。回転翼の数は、4つには限定されない。また、UAV1000は、回転翼を有さない固定翼機でもよい。
【0069】
撮像装置100は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル50は、撮像装置100を回転可能に支持する。ジンバル50は、支持機構の一例である。例えば、ジンバル50は、撮像装置100を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル50は、撮像装置100を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル50は、ヨー軸、ピッチ軸、及びロール軸の少なくとも1つを中心に撮像装置100を回転させることで、撮像装置100の姿勢を変更してよい。
【0070】
複数の撮像装置60は、UAV1000の飛行を制御するためにUAV1000の周囲を撮像するセンシング用のカメラである。2つの撮像装置60が、UAV1000の機首である正面に設けられてよい。更に他の2つの撮像装置60が、UAV1000の底面に設けられてよい。正面側の2つの撮像装置60はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の2つの撮像装置60もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置60により撮像された画像に基づいて、UAV1000の周囲の3次元空間データが生成されてよい。UAV1000が備える撮像装置60の数は4つには限定されない。UAV1000は、少なくとも1つの撮像装置60を備えていればよい。UAV1000は、UAV1000の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも1つの撮像装置60を備えてもよい。撮像装置60で設定できる画角は、撮像装置100で設定できる画角より広くてよい。撮像装置60は、単焦点レンズまたは魚眼レンズを有してもよい。
【0071】
遠隔操作装置500は、UAV1000と通信して、UAV1000を遠隔操作する。遠隔操作装置500は、UAV1000と無線で通信してよい。遠隔操作装置500は、UAV1000に上昇、下降、加速、減速、前進、後進、回転等のUAV1000の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、UAV1000の高度を上昇させる指示情報を含む。指示情報は、UAV1000が位置すべき高度を示してよい。UAV1000は、遠隔操作装置500から受信した指示情報により示される高度に位置するように移動する。指示情報は、UAV1000を上昇させる上昇命令を含んでよい。UAV1000は、上昇命令を受け付けている間、上昇する。UAV1000は、上昇命令を受け付けても、UAV1000の高度が上限高度に達している場合には、上昇を制限してよい。
【0072】
図8は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ1200の一例を示す。コンピュータ1200にインストールされたプログラムは、コンピュータ1200に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の1または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ1200に当該オペレーションまたは当該1または複数の「部」を実行させることができる。当該プログラムは、コンピュータ1200に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ1200に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、CPU1212によって実行されてよい。
【0073】
本実施形態によるコンピュータ1200は、CPU1212、及びRAM1214を含み、それらはホストコントローラ1210によって相互に接続されている。コンピュータ1200はまた、通信インタフェース1222、入力/出力ユニットを含み、それらは入力/出力コントローラ1220を介してホストコントローラ1210に接続されている。コンピュータ1200はまた、ROM1230を含む。CPU1212は、ROM1230及びRAM1214内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。
【0074】
通信インタフェース1222は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ1200内のCPU1212によって使用されるプログラム及びデータを格納してよい。ROM1230はその中に、アクティブ化時にコンピュータ1200によって実行されるブートプログラム等、及び/またはコンピュータ1200のハードウェアに依存するプログラムを格納する。プログラムが、CR−ROM、USBメモリまたはICカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるRAM1214、またはROM1230にインストールされ、CPU1212によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ1200に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ1200の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。
【0075】
例えば、通信がコンピュータ1200及び外部デバイス間で実行される場合、CPU1212は、RAM1214にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース1222に対し、通信処理を命令してよい。通信インタフェース1222は、CPU1212の制御の下、RAM1214、またはUSBメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
【0076】
また、CPU1212は、USBメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がRAM1214に読み取られるようにし、RAM1214上のデータに対し様々なタイプの処理を実行してよい。CPU1212は次に、処理されたデータを外部記録媒体にライトバックしてよい。
【0077】
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU1212は、RAM1214から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM1214に対しライトバックする。また、CPU1212は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU1212は、第1の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。
【0078】
上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ1200上またはコンピュータ1200近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはRAMのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ1200に提供する。
【0079】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【0080】
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。