(58)【調査した分野】(Int.Cl.,DB名)
前記第1コントラスト評価フィルタは、第1空間周波数を含む帯域があり、前記第2コントラスト評価フィルタは、第1空間周波数とは異なる第2空間周波数を含む帯域がある、請求項1に記載の制御装置。
【発明の概要】
【発明が解決しようとする課題】
【0003】
特定の被写体までの距離の変化に伴い、オートフォーカス制御、自動露出制御、オートホワイトバランスなどの撮像制御が不安定になることがある。
【課題を解決するための手段】
【0004】
本発明の一態様に係る制御装置は、撮像装置によって撮像された第1画像内の、被写体を含む領域である第1領域に対して、第1コントラスト評価フィルタを適用することで、第1領域のコントラスト値を評価する第1コントラスト評価値を導出するように構成される回路を備えてよい。回路は、第1コントラスト評価値に基づいて、撮像装置の合焦制御を実行するように構成されてよい。回路は、撮像装置が第1画像を撮像したときの撮像装置と被写体との間の第1距離及び撮像装置が第2画像を撮像したときの撮像装置と被写体との間の第2距離に基づいて、第2コントラスト評価フィルタを特定するように構成されてよい。回路は、第2画像内の、被写体を含む領域である第2領域に対して、第2コントラスト評価フィルタを適用することで、第2領域のコントラスト値を評価する第2コントラスト評価値を導出するように構成されてよい。回路は、第2コントラスト評価値に基づいて、撮像装置の合焦制御を実行するように構成されてよい。
【0005】
第1コントラスト評価フィルタは、第1空間周波数を含む帯域があってよい。第2コントラスト評価フィルタは、第1空間周波数とは異なる第2空間周波数を含む帯域があってよい。
【0006】
第2コントラスト評価フィルタを特定することは、第1距離と第2距離との比、及び第1コントラスト評価フィルタの情報に基づいて、第2コントラスト評価フィルタを特定することを含んでよい。
【0007】
回路は、撮像装置と被写体との間の距離が予め定められた距離より長い場合、無限遠に合焦するように撮像装置のフォーカスレンズを制御するように構成されてよい。
【0008】
本発明の一態様に係る制御装置は、撮像装置によって撮像された第1画像内の、被写体を含む領域である第1領域の画像情報に基づいて、第1領域の第1評価値を導出するように構成される回路を備えてよい。回路は、第1評価値に基づいて、撮像装置の第1撮像制御を実行するように構成されてよい。回路は、撮像装置によって被写体が撮像された第2画像内の、被写体を含む領域である第2領域の画像情報に基づいて、第2領域の第2評価値を導出するように構成されてよい。回路は、撮像装置が第1画像を撮像したときの撮像装置と被写体との間の第1距離、撮像装置が第2画像を撮像したときの撮像装置と被写体との間の第2距離、第1評価値、及び第2評価値に基づいて、撮像装置の第2撮像制御を実行するように構成されてよい。
【0009】
第2撮像制御を実行することは、第1距離、第2距離、及び第1評価値に基づいて、第2領域の予測の評価値である予測評価値を導出し、予測評価値及び第2評価値に基づいて、撮像装置の撮像制御を実行することを含んでよい。
【0010】
予測評価値を導出することは、第1距離と第2距離との比、及び第1評価値に基づいて、予測評価値を導出することを含んでよい。
【0011】
第1評価値を導出することは、第1評価値として、第1領域の輝度を評価する第1輝度評価値を導出することを含んでよい。第1撮像制御を実行することは、第1輝度評価値に基づいて、撮像装置の露出制御を実行することを含んでよい。第2評価値を導出することは、第2評価値として、第2領域の輝度を評価する第2輝度評価値を導出することを含んでよい。第2撮像制御を実行することは、第1距離、第2距離、第1輝度評価値、及び第2輝度評価値に基づいて、撮像装置の露出制御を実行することを含んでよい。
【0012】
第2撮像制御を実行することは、第1距離、第2距離、及び第1輝度評価値に基づいて、第2関心領域の予測の輝度評価値である予測輝度評価値を導出し、予測輝度評価値及び第2輝度評価値に基づいて、撮像装置の露出制御を実行することを含んでよい。
【0013】
予測輝度評価値を導出することは、第1距離と第2距離との比、及び第1輝度評価値に基づいて、予測輝度評価値を導出することを含んでよい。
【0014】
第1評価値を導出することは、第1評価値として、第1領域の第1色温度を導出することを含んでよい。第1撮像制御を実行することは、第1色温度に基づいて、撮像装置のホワイトバランス制御を実行することを含んでよい。第2評価値を導出することは、第2評価値として、第2領域の第2色温度を導出することを含んでよい。第2撮像制御を実行することは、第1距離、第2距離、第1色温度、及び第2色温度に基づいて、撮像装置のホワイトバランス制御を実行することを含んでよい。
【0015】
第2撮像制御を実行することは、第1距離、第2距離、及び第1色温度に基づいて、第2領域の予測の色温度である予測色温度を導出し、予測色温度及び第2色温度に基づいて、撮像装置の露出制御を実行することを含んでよい。
【0016】
予測色温度を導出することは、第1距離と第2距離との比、及び第1色温度に基づいて、予測色温度を導出することを含んでよい。
【0017】
本発明の一態様に係る撮像装置は、上記制御装置と、イメージセンサとを備えてよい。
【0018】
本発明の一態様に係る移動体は、上記撮像装置を備えて移動する移動体でよい。
【0019】
移動体は、撮像装置の撮像方向に沿って被写体までの距離が第1距離から第2距離になるまで移動してよい。
【0020】
移動体は、飛行体でよい。飛行体は、撮像装置の撮像方向に沿って被写体までの距離が第1距離から第2距離になるまで上昇または下降してよい。
【0021】
本発明の一態様に係る制御方法は、撮像装置によって撮像された第1画像内の、撮像装置によって選択された被写体の領域である第1関心領域に対して、第1コントラスト評価フィルタを適用することで、第1関心領域のコントラスト値を評価する第1コントラスト評価値を導出する段階を備えてよい。制御方法は、第1コントラスト評価値に基づいて、撮像装置の合焦制御を実行する段階を備えてよい。制御方法は、撮像装置が第1画像を撮像したときの撮像装置と被写体との間の第1距離及び撮像装置が第2画像を撮像したときの撮像装置と被写体との間の第2距離に基づいて、第2コントラスト評価フィルタを特定する段階を備えてよい。制御方法は、第2画像内の、撮像装置によって選択された被写体の領域である第2関心領域に対して、第2コントラスト評価フィルタを適用することで、第2関心領域のコントラスト値を評価する第2コントラスト評価値を導出する段階を備えてよい。制御方法は、第2コントラスト評価値に基づいて、撮像装置の合焦制御を実行する段階を備えてよい。
【0022】
本発明の一態様に係る制御方法は、撮像装置によって撮像された第1画像内の、被写体を含む領域である第1領域の画像情報に基づいて、第1領域の第1評価値を導出する段階を備えてよい。第1評価値に基づいて、撮像装置の第1撮像制御を実行する段階を備えてよい。制御方法は、撮像装置によって被写体が撮像された第2画像内の、被写体を含む領域である第2領域の画像情報に基づいて、第2領域の第2評価値を導出する段階を備えてよい。制御方法は、撮像装置が第1画像を撮像したときの撮像装置と被写体との間の第1距離、撮像装置が第2画像を撮像したときの撮像装置と被写体との間の第2距離、第1評価値、及び第2評価値に基づいて、撮像装置の第2撮像制御を実行する段階を備えてよい。
【0023】
本発明の一態様に係るプログラムは、上記制御装置としてコンピュータを機能させるためのプログラムでよい。
【0024】
本発明の一態様によれば、特定の被写体までの距離の変化に伴い、オートフォーカス制御、自動露出制御、オートホワイトバランスなどの撮像制御が不安定になることを抑制できる。
【0025】
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
【発明を実施するための形態】
【0027】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【0028】
特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。
【0029】
本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、(1)操作が実行されるプロセスの段階または(2)操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び/またはプロセッサによって実装されてよい。専用回路は、デジタル及び/またはアナログハードウェア回路を含んでよい。集積回路(IC)及び/またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理AND、論理OR、論理XOR、論理NAND、論理NOR、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ(FPGA)、プログラマブルロジックアレイ(PLA)等のようなメモリ要素等を含んでよい。
【0030】
コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー(登録商標)ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、消去可能プログラマブルリードオンリメモリ(EPROMまたはフラッシュメモリ)、電気的消去可能プログラマブルリードオンリメモリ(EEPROM)、静的ランダムアクセスメモリ(SRAM)、コンパクトディスクリードオンリメモリ(CD-ROM)、デジタル多用途ディスク(DVD)、ブルーレイ(RTM)ディスク、メモリスティック、集積回路カード等が含まれてよい。
【0031】
コンピュータ可読命令は、1または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはSmalltalk(登録商標)、JAVA(登録商標)、C++等のようなオブジェクト指向プログラミング言語、及び「C」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク(LAN)、インターネット等のようなワイドエリアネットワーク(WAN)を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
【0032】
図1は、無人航空機(UAV)10及び遠隔操作装置300の外観の一例を示す。UAV10は、UAV本体20、ジンバル50、複数の撮像装置60、及び撮像装置100を備える。ジンバル50、及び撮像装置100は、撮像システムの一例である。UAV10は、移動体とは、空中を移動する飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。空中を移動する飛行体とは、UAVの他、空中を移動する他の航空機、飛行船、ヘリコプター等を含む概念である。
【0033】
UAV本体20は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。UAV本体20は、複数の回転翼の回転を制御することでUAV10を飛行させる。UAV本体20は、例えば、4つの回転翼を用いてUAV10を飛行させる。回転翼の数は、4つには限定されない。また、UAV10は、回転翼を有さない固定翼機でもよい。
【0034】
撮像装置100は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル50は、撮像装置100を回転可能に支持する。ジンバル50は、支持機構の一例である。例えば、ジンバル50は、撮像装置100を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル50は、撮像装置100を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル50は、ヨー軸、ピッチ軸、及びロール軸の少なくとも1つを中心に撮像装置100を回転させることで、撮像装置100の姿勢を変更してよい。
【0035】
複数の撮像装置60は、UAV10の飛行を制御するためにUAV10の周囲を撮像するセンシング用のカメラである。2つの撮像装置60が、UAV10の機首である正面に設けられてよい。更に他の2つの撮像装置60が、UAV10の底面に設けられてよい。正面側の2つの撮像装置60はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の2つの撮像装置60もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置60により撮像された画像に基づいて、UAV10の周囲の3次元空間データが生成されてよい。UAV10が備える撮像装置60の数は4つには限定されない。UAV10は、少なくとも1つの撮像装置60を備えていればよい。UAV10は、UAV10の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも1つの撮像装置60を備えてもよい。撮像装置60で設定できる画角は、撮像装置100で設定できる画角より広くてよい。撮像装置60は、単焦点レンズまたは魚眼レンズを有してもよい。
【0036】
遠隔操作装置300は、UAV10と通信して、UAV10を遠隔操作する。遠隔操作装置300は、UAV10と無線で通信してよい。遠隔操作装置300は、UAV10に上昇、下降、加速、減速、前進、後進、回転などのUAV10の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、UAV10の高度を上昇させる指示情報を含む。指示情報は、UAV10が位置すべき高度を示してよい。UAV10は、遠隔操作装置300から受信した指示情報により示される高度に位置するように移動する。指示情報は、UAV10を上昇させる上昇命令を含んでよい。UAV10は、上昇命令を受け付けている間、上昇する。UAV10は、上昇命令を受け付けても、UAV10の高度が上限高度に達している場合には、上昇を制限してよい。
【0037】
図2は、UAV10の機能ブロックの一例を示す。UAV10は、UAV制御部30、メモリ37、通信インタフェース36、推進部40、GPS受信機41、慣性計測装置42、磁気コンパス43、気圧高度計44、温度センサ45、湿度センサ46、ジンバル50、撮像装置60及び撮像装置100を備える。
【0038】
通信インタフェース36は、遠隔操作装置300などの他の装置と通信する。通信インタフェース36は、遠隔操作装置300からUAV制御部30に対する各種の命令を含む指示情報を受信してよい。メモリ37は、UAV制御部30が、推進部40、GPS受信機41、慣性計測装置(IMU)42、磁気コンパス43、気圧高度計44、温度センサ45、湿度センサ46、ジンバル50、撮像装置60、及び撮像装置100を制御するのに必要なプログラム等を格納する。メモリ37は、コンピュータ読み取り可能な記録媒体でよく、SRAM、DRAM、EPROM、EEPROM、USBメモリ、及びソリッドステートドライブ(SSD)等のフラッシュメモリの少なくとも1つを含んでよい。メモリ37は、UAV本体20の内部に設けられてよい。UAV本体20から取り外し可能に設けられてよい。
【0039】
UAV制御部30は、メモリ37に格納されたプログラムに従ってUAV10の飛行及び撮像を制御する。UAV制御部30は、CPUまたはMPU等のマイクロプロセッサ、MCU等のマイクロコントローラ等により構成されてよい。UAV制御部30は、通信インタフェース36を介して遠隔操作装置300から受信した命令に従って、UAV10の飛行及び撮像を制御する。推進部40は、UAV10を推進させる。推進部40は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータとを有する。推進部40は、UAV制御部30からの命令に従って複数の駆動モータを介して複数の回転翼を回転させて、UAV10を飛行させる。
【0040】
GPS受信機41は、複数のGPS衛星から発信された時刻を示す複数の信号を受信する。GPS受信機41は、受信された複数の信号に基づいてGPS受信機41の位置(緯度及び経度)、つまりUAV10の位置(緯度及び経度)を算出する。IMU42は、UAV10の姿勢を検出する。IMU42は、UAV10の姿勢として、UAV10の前後、左右、及び上下の3軸方向の加速度と、ピッチ、ロール、及びヨーの3軸方向の角速度とを検出する。磁気コンパス43は、UAV10の機首の方位を検出する。気圧高度計44は、UAV10が飛行する高度を検出する。気圧高度計44は、UAV10の周囲の気圧を検出し、検出された気圧を高度に換算して、高度を検出する。温度センサ45は、UAV10の周囲の温度を検出する。湿度センサ46は、UAV10の周囲の湿度を検出する。
【0041】
撮像装置100は、撮像部102及びレンズ部200を備える。レンズ部200は、レンズ装置の一例である。撮像部102は、イメージセンサ120、撮像制御部110、メモリ130、及び測距センサ140を有する。イメージセンサ120は、CCDまたはCMOSにより構成されてよい。イメージセンサ120は、複数のレンズ210を介して結像された光学像を撮像し、撮像された画像を撮像制御部110に出力する。撮像制御部110は、CPUまたはMPUなどのマイクロプロセッサ、MCUなどのマイクロコントローラなどにより構成されてよい。撮像制御部110は、UAV制御部30からの撮像装置100の動作命令に応じて、撮像装置100を制御してよい。撮像制御部110は、回路の一例である。メモリ130は、コンピュータ可読可能な記録媒体でよく、SRAM、DRAM、EPROM、EEPROM、USBメモリ、及びソリッドステートドライブ(SSD)などのフラッシュメモリの少なくとも1つを含んでよい。メモリ130は、撮像制御部110がイメージセンサ120などを制御するのに必要なプログラム等を格納する。メモリ130は、撮像装置100の筐体の内部に設けられてよい。メモリ130は、撮像装置100の筐体から取り外し可能に設けられてよい。
【0042】
測距センサ140は、被写体までの距離を測距する。測距センサ140は、赤外線センサ、超音波センサ、ステレオカメラ、TOF(Time Of Flight)センサなどでよい。
【0043】
レンズ部200は、複数のレンズ210、複数のレンズ駆動部212、及びレンズ制御部220を有する。複数のレンズ210は、ズームレンズ、バリフォーカルレンズ、及びフォーカスレンズとして機能してよい。複数のレンズ210の少なくとも一部または全部は、光軸に沿って移動可能に配置される。レンズ部200は、撮像部102に対して着脱可能に設けられる交換レンズでよい。レンズ駆動部212は、カム環などの機構部材を介して、複数のレンズ210の少なくとも一部または全部を光軸に沿って移動させる。レンズ駆動部212は、アクチュエータを含んでよい。アクチュエータは、ステッピングモータを含んでよい。レンズ制御部220は、撮像部102からのレンズ制御命令に従って、レンズ駆動部212を駆動して、機構部材を介して1または複数のレンズ210を光軸方向に沿って移動させる。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。
【0044】
レンズ部200は、メモリ222、位置センサ214をさらに有する。レンズ制御部220は、撮像部102からのレンズ動作命令に応じてレンズ駆動部212を介して、レンズ210の光軸方向への移動を制御する。レンズ制御部220は、撮像部102からのレンズ動作命令に応じてレンズ駆動部212を介して、レンズ210の光軸方向への移動を制御する。レンズ210の一部または全部は、光軸に沿って移動する。レンズ制御部220は、レンズ210の少なくとも1つを光軸に沿って移動させることで、ズーム動作及びフォーカス動作の少なくとも一方を実行する。位置センサ214は、レンズ210の位置を検出する。位置センサ214は、現在のズーム位置またはフォーカス位置を検出してよい。
【0045】
レンズ駆動部212は、振れ補正機構を含んでよい。レンズ制御部220は、振れ補正機構を介して、レンズ210を光軸に沿った方向、または光軸に垂直な方向に移動させることで、振れ補正を実行してよい。レンズ駆動部212は、ステッピングモータにより振れ補正機構を駆動して、振れ補正を実行してよい。なお、振れ補正機構は、ステッピングモータにより駆動されて、イメージセンサ120を光軸に方向に沿った方向、または光軸に垂直な方向に移動させることで、振れ補正を実行してよい。
【0046】
メモリ222は、レンズ駆動部212を介して移動する複数のレンズ210の制御値を記憶する。メモリ222は、SRAM、DRAM、EPROM、EEPROM、及びUSBメモリなどのフラッシュメモリの少なくとも1つを含んでよい。
【0047】
このように構成された撮像装置100において、特定の被写体をトラッキングしながら、特定の被写体に焦点を合わせたり、露出制御及びホワイトバランス制御を実行したりすることがある。このような場合に、被写体までの距離が遠くなると、関心領域(ROI)が小さくなり、適切にオートフォーカス(AF)、自動露出(AE)、またはオートホワイトバランス(AWB)などの撮像制御が行えない場合がある。
【0048】
そこで、本実施形態に係る撮像装置100によれば、被写体までの距離に応じて、AF制御、AE制御、またはAWB制御などの撮像制御を調整する。
【0049】
撮像制御部110は、撮像装置100により撮像された画像に対してコントラスト評価フィルタを適用することで、画像のコントラスト評価値を導出する。撮像制御部110は、コントラスト評価値に基づいて、特定の被写体に合焦させるフォーカスレンズの位置を特定することで、コントラストAFを実行する。撮像制御部110は、コントラスト評価値がピークとなるフォーカスレンズの位置を特定することで、コントラストAFを実行する。
【0050】
コントラスト評価フィルタは、空間周波数ごとのコントラスト評価値に対して空間周波数ごとの評価係数を乗算し、評価係数が乗算されたそれぞれのコントラスト評価値を合算することで、画像のコントラスト評価値を導出するフィルタでよい。コントラスト評価フィルタは、空間周波数ごとのコントラスト評価値を空間周波数ごとに重み付けして、重み付けした後のコントラスト評価値を合算することで、画像のコントラスト評価値を導出するフィルタでよい。例えば、
図3Aに示すように、撮像制御部110は、空間周波数f
0の評価係数が最も高い第1コントラスト評価フィルタ400を画像に適用して、コントラスト評価値を導出してよい。空間周波数f
0は、イメージセンサ120の画素ピッチ、レンズ210の光学性能などによって予め定められる。画像500は、撮像装置100により撮像されている画像を示し、画像500内の枠は、関心領域510を示す。
【0051】
撮像装置100を搭載するUAV10が、例えば、
図4に示すように、撮像装置100の撮像方向550に沿って被写体600から遠ざかるように移動する。この場合、撮像装置100の画角が固定されていれば、
図3Bに示すように、画像500内の被写体600の大きさは小さくなり、これに伴い画像500内の関心領域510は小さくなる。
【0052】
画像500内の被写体600が小さくなると、関心領域510内の画像の空間周波数が極端に小さくなったり、大きくなったりする。そのため、撮像制御部110が、空間周波数f
0の評価係数が最も高いコントラスト評価フィルタを画像に適用して、コントラスト評価値を導出すると、コントラスト評価値が変化してしまう。よって、コントラスト評価値に基づくコントラストAFが不安定になる。
【0053】
そこで、撮像制御部110は、被写体までの距離に応じて、コントラスト評価フィルタの中心空間周波数をシフトさせる。撮像制御部110は、被写体までの距離が長くなるほど、コントラスト評価フィルタの中心空間周波数を高周波側にシフトさせてよい。撮像制御部110は、被写体までの距離に応じて、評価係数が最も高い空間周波数をシフトさせる。撮像制御部110は、被写体までの距離が長くなるほど、評価係数が最も高い空間周波数を高周波側にシフトさせてよい。
【0054】
撮像制御部110は、撮像装置100によって撮像された第1画像内の、撮像装置100によって選択された被写体の領域である第1関心領域に対して、第1コントラスト評価フィルタ400を適用することで、第1関心領域のコントラスト値を評価する第1コントラスト評価値を導出する。第1関心領域は、第1領域の一例である。撮像制御部110は、撮像装置100によって撮像された第1画像の中からユーザに被写体を指定させることで、第1関心領域を設定してよい。撮像制御部110は、予め定められた条件に従う画像マッチングにより、撮像装置100によって撮像された第1画像の中から予め定められた被写体を特定してよい。撮像制御部110は、特定された被写体を含む領域を第1関心領域に設定してよい。第1コントラスト評価フィルタ400は、予め定められた空間周波数である第1空間周波数f
0に評価係数のピークがあるフィルタでよい。第1コントラスト評価フィルタ400は、第1空間周波数f
0を含む帯域を有する。
【0055】
撮像制御部110は、第1コントラスト評価値に基づいて、撮像装置の合焦制御を実行する。撮像制御部110は、第1コントラスト評価値に基づいて、コントラストAF制御を実行してよい。撮像制御部110は、フォーカスレンズを移動させながら、第1コントラスト評価値がピークとなるフォーカスレンズの位置を特定し、特定された位置にフォーカスレンズを移動させることで、合焦制御を実行してよい。
【0056】
被写体までの距離が比較的近い場合には、被写体までの距離が変化しても、関心領域510内の画像の空間周波数が極端に小さくなったり、大きくなったりする可能性が低い。したがって、被写体までの距離が比較的近い場合には、被写体までの距離に応じて、コントラスト評価フィルタの中心空間周波数をシフトさせなくてよい。そこで、撮像制御部110は、被写体までの距離が最至近から第1基準距離X
1までの第1距離範囲701に含まれる場合、コントラスト評価フィルタをシフトさせずに、第1空間周波数f
0に評価係数のピークがある第1コントラスト評価フィルタ400を適用して、画像のコントラスト評価値を導出してよい。
【0057】
また、被写体までの距離が非常に遠い場合も、被写体までの距離が変化しても、関心領域510内の画像の空間周波数が極端に小さくなったり、大きくなったりする可能性が低い。この場合には、撮像制御部110は、無限遠に合焦させる位置にフォーカスレンズを固定すればよい。そこで、撮像制御部110は、被写体までの距離が予め定められた第2基準距離X
2を超える第3距離範囲703に含まれる場合、無限遠に合焦させる位置にフォーカスレンズを固定してよい。
【0058】
撮像制御部110は、被写体までの距離が第1基準距離X
1から第2基準距離X
2までの第2距離範囲に含まれる場合、被写体までの距離に応じて、コントラスト評価フィルタの中心空間周波数をシフトさせてよい。
【0059】
UAV10は、撮像装置100の撮像方向に沿って移動する。UAV10は、撮像装置100の撮像方向に沿って被写体までの距離が第1距離から第2距離になるまで移動してよい。UAV10は、撮像装置100の撮像方向に沿って被写体までの距離が第1距離から第2距離になるまで上昇または下降してよい。撮像装置100の撮像方向が鉛直方向下向きの場合、UAV10は、被写体までの距離が第1距離から第2距離になるまで鉛直方向に上昇または下降してよい。
【0060】
撮像制御部110は、撮像装置100が第1画像を撮像したときの撮像装置100と被写体600との間の第1距離、及び移動後の撮像装置100が第2画像を撮像したときの撮像装置と被写体との間の第2距離に基づいて、第2コントラスト評価フィルタを特定する。撮像制御部110は、移動後の被写体までの距離が第2距離範囲に含まれる場合、撮像装置100が第1画像を撮像したときの撮像装置100と被写体600との間の第1距離、及び移動後の撮像装置100が第2画像を撮像したときの撮像装置と被写体との間の第2距離に基づいて、第2コントラスト評価フィルタ401を特定する。撮像制御部110は、第1距離と第2距離との比、及び第1コントラスト評価フィルタの情報に基づいて、第2コントラスト評価フィルタを特定してよい。第1コントラスト評価フィルタの情報は、第1コントラスト評価フィルタの特性を示す情報でよい。第1コントラスト評価フィルタの情報は、評価係数のピークがある空間周波数を示す情報でよい。第1距離は、予め定められた第1基準距離X
1でよい。第2距離は、移動後の撮像装置100から被写体までの距離X
Cでよい。撮像制御部110は、X
C/X
1を第1空間周波数f
0に乗算することで、第2空間周波数f
1を導出してよい。第2空間周波数f
1は、第1空間周波数f
0と異なる。撮像制御部110は、導出された第2空間周波数f
1に評価係数のピークがある第2コントラスト評価フィルタ401を特定してよい。撮像制御部110は、被写体までの距離が長くなるにつれて、評価係数のピークがある空間周波数が高くなるように、第2コントラスト評価フィルタ401を選択してよい。第2コントラスト評価フィルタ401は第2空間周波数f
1を含む帯域を有する。
【0061】
撮像制御部110は、被写体までの距離が第2距離であるときに、撮像装置100により撮像される第2画像内の、撮像装置100によって選択された被写体の領域である第2関心領域に対して、第2コントラスト評価フィルタ401を適用することで、第2関心領域のコントラスト値を評価する第2コントラスト評価値を導出する。第2関心領域は、第2領域の一例である。撮像制御部110は、第2コントラスト評価値に基づいて、撮像装置の合焦制御を実行する。撮像制御部110は、第2コントラスト評価値に基づいて、コントラストAF制御を実行してよい。撮像制御部110は、フォーカスレンズを移動させながら、第2コントラスト評価値がピークとなるフォーカスレンズの位置を特定し、特定された位置にフォーカスレンズを移動させることで、合焦制御を実行してよい。
【0062】
撮像制御部110は、撮像装置100と被写体との間の距離が第2基準距離X
2より長い場合、無限遠に合焦するように撮像装置のフォーカスレンズを制御してよい。
【0063】
図5は、撮像制御部110によるAF制御の手順の一例を示すフローチャートである。
図5に示すフローチャートは、UAV10が撮像装置100の撮像方向に沿って被写体600から遠ざかりながら、撮像装置100が被写体600を撮像する場合のAF制御の手順を示す。
【0064】
撮像制御部110は、撮像装置100により撮像される画像内で、関心領域を特定する(S100)。撮像制御部110は、予め定められた第1空間周波数f
0に対応するコントラスト評価フィルタを利用して、コントラストAFを実行する(S102)。第1空間周波数f
0に対応するコントラスト評価フィルタは、第1空間周波数f
0に評価係数のピークがあるフィルタである。コントラスト評価フィルタは、空間周波数ごとのコントラスト評価値に、空間周波数ごとの評価係数を乗算し、乗算された各コントラス評価値の合計を画像のコントラスト評価値として出力するフィルタでよい。
【0065】
次いで、UAV10が、移動を開始する(S104)。UAV10は、撮像装置100の撮像方向に沿って被写体から遠ざかる方向に移動してよい。撮像制御部110は、被写体までの現在の距離X
cを取得する(S106)。撮像制御部110は、測距センサ140から被写体までの距離を取得してよい。撮像制御部110は、現在の距離X
cが第1基準距離X
1より遠いか否かを判定する(S108)。
【0066】
現在の距離X
cが第1基準距離X
1より近ければ、撮像制御部110は、通常のコントラストAFを実行する。すなわち、撮像制御部110は、予め定められた第1空間周波数f
0に対応するコントラスト評価フィルタを利用して、コントラストAFを実行する。
【0067】
一方、現在の距離X
cが第1基準距離X
1より遠ければ、撮像制御部110は、第1基準距離X
1及び距離X
cの比と、第1空間周波数f
0との積である第2空間周波数f
1に対応するコントラスト評価フィルタを特定する(S110)。撮像制御部110は、第2空間周波数f
1に対応するコントラスト評価フィルタを利用して、コントラストAFを実行する(S112)。
【0068】
UAV10は、撮像装置100の撮像方向に沿ってさらに移動する。撮像制御部110は、被写体までの現在の距離X
cをさらに取得する(S114)。撮像制御部110は、距離X
cが第2基準距離X
2より遠いか否かを判定する(S116)。距離X
cが第2基準距離X
2より近ければ、撮像制御部110は、ステップS110以降の処理を繰り返す。
【0069】
距離X
cが第2基準距離X
2より遠ければ、撮像制御部110は、無限遠に合焦させる位置にフォーカスレンズを固定する(S118)。
【0070】
以上の通り、本実施形態によれば、UAV10が撮像装置100の撮像方向に沿って遠ざかりながら、撮像装置100が被写体を撮像する場合に、コントラスト評価値を一定にしながら、AF制御を実行できる。
【0071】
撮像制御部110は、AF制御以外の撮像制御についても、被写体までの距離に応じて調整してよい。撮像制御部110は、撮像装置100によって撮像された第1画像内の、撮像装置によって選択された被写体の領域である第1関心領域の画像情報に基づいて、第1関心領域の第1評価値を導出してよい。撮像制御部110は、第1評価値に基づいて、撮像装置の第1撮像制御を実行してよい。撮像制御部110は、撮像装置によって被写体が撮像された第2画像内の、撮像装置によって選択された被写体の領域である第2関心領域の画像情報に基づいて、第2関心領域の第2評価値を導出してよい。撮像制御部110は、撮像装置が第1画像を撮像したときの撮像装置と被写体との間の第1距離、撮像装置が第2画像を撮像したときの撮像装置と被写体との間の第2距離、第1評価値、及び第2評価値に基づいて、撮像装置の第2撮像制御を実行してよい。
【0072】
撮像制御部110は、第1距離、第2距離、及び第1評価値に基づいて、第2関心領域の予測の評価値である予測評価値を導出し、予測評価値及び第2評価値に基づいて、撮像装置の撮像制御を実行することで、第2撮像制御を実行してよい。撮像制御部110は、第1距離と第2距離との比、及び第1評価値に基づいて、予測評価値を導出してよい。
【0073】
被写体までの距離が変化することで、関心領域の予測輝度、予測色温度などの予測評価値は変化する。例えば、距離が長くなれば、輝度は低くなる。距離が長くなれば、レイリー散乱の影響を受けて、例えば、画像の青みが増し、色温度が高くなる。予測評価値は、予め実験等により距離の関数で表すことができる。撮像装置100は、撮像装置100の周囲環境ごとの関数をメモリ130などに格納してよい。
【0074】
撮像制御部110は、第1評価値として、第1関心領域の輝度を評価する第1輝度評価値を導出してよい。撮像制御部110は、第1輝度評価値に基づいて、撮像装置の露出制御を実行してよい。撮像制御部110は、第1輝度評価値に基づいて、第1露出制御値を決定してよい。撮像制御部110は、第1露出制御値に基づいて、絞り値、及び露光時間を決定してよい。
【0075】
撮像制御部110は、第2評価値として、第2関心領域の輝度を評価する第2輝度評価値を導出してよい。撮像制御部110は、第1距離、第2距離、第1輝度評価値、及び第2輝度評価値に基づいて、撮像装置の露出制御を実行してよい。
【0076】
撮像制御部110は、第1距離、第2距離、及び第1輝度評価値に基づいて、第2関心領域の予測の輝度評価値である予測輝度評価値を導出し、予測輝度評価値及び第2輝度評価値に基づいて、撮像装置の露出制御を実行してよい。撮像制御部110は、第1距離と第2距離との比、及び第1輝度評価値に基づいて、予測輝度評価値を導出してよい。輝度評価値は、画像の輝度値でよい。被写体までの距離が予め定められた距離(例えば、第1基準距離X
1)の場合の画像の輝度評価値を1としてよい。
【0077】
撮像制御部110は、第1評価値として、第1関心領域の第1色温度を導出してよい。撮像制御部110は、第1色温度に基づいて、撮像装置のホワイトバランス制御を実行してよい。撮像制御部110は、第2評価値として、第2関心領域の第2色温度を導出してよい。撮像制御部110は、第1距離、第2距離、第1色温度、及び第2色温度に基づいて、撮像装置のホワイトバランス制御を実行してよい。撮像制御部110は、第1距離、第2距離、及び第1色温度に基づいて、第2関心領域の予測の色温度である予測色温度を導出し、予測色温度及び第2色温度に基づいて、撮像装置の露出制御を実行してよい。撮像制御部110は、第1距離と第2距離との比、及び第1色温度に基づいて、予測色温度を導出してよい。
【0078】
被写体までの距離が長くなるにつれて、撮像装置100により撮像される画像内の被写体の輝度は低くなる。輝度は、被写体までの距離の二乗に比例して低くなる。そこで、撮像制御部110は、輝度が被写体までの距離の二乗に比例して低くなることを考慮して、輝度評価値を予測輝度評価値として予測して、予測輝度評価値に基づいて露出制御を実行する。
【0079】
例えば、
図6Aに示すように、被写体までの現在の距離がX
C1の場合の、輝度評価値を1とする。
図6Bに示すように、被写体までの現在の距離がX
C2の場合、撮像制御部110は、1/(X
C2/X
C1)
2と予測輝度評価値を予測する。
【0080】
図7は、撮像制御部110によるAE制御の手順の一例を示すフローチャートである。
図7に示すフローチャートは、UAV10が撮像装置100の撮像方向に沿って遠ざかりながら、撮像装置100が被写体を撮像する場合のAE制御の手順を示す。
【0081】
撮像制御部110は、撮像装置100により撮像される画像内で、関心領域を特定する(S200)。UAV10は、撮像装置100の撮像方向に沿って移動する。撮像制御部110は、被写体までの現在の距離X
cを取得する(S202)。撮像制御部110は、関心領域の第1輝度評価値を特定して、AEを実行する(S204)。撮像制御部110は、関心領域510内の輝度値を、第1輝度評価値として特定してよい。撮像制御部110は、関心領域510内の平均輝度値を、第1輝度評価値として特定してよい。撮像制御部110は、関心領域の第1輝度評価値に基づいて、第1露出制御値を決定し、第1露出制御値に基づいて、絞り値及び露光時間を決定することで、AEを実行してよい。
【0082】
次いで、撮像制御部110は、被写体までの現在の距離X
cをさらに取得する(S206)。撮像制御部110は、現在の距離X
cが第1基準距離X
1より遠いか否かを判定する(S208)。現在の距離X
cが第1基準距離X
1より近ければ、通常通り、関心領域510内の輝度値に基づいて、露出制御を実行してよい。
【0083】
一方、現在の距離X
cが第1基準距離X
1より遠ければ、撮像制御部110は、前回特定された第1輝度評価値、及び前回の距離X
c1と今回の距離X
C2との比に基づいて、第2輝度評価値を導出し、第2輝度評価値に基づいて、AEを実行する(S210)。撮像制御部110は、前回の第1輝度評価値に、前回の距離X
C1と今回の距離X
C2との比を二乗した値の逆数(1/(X
C2/X
C1)
2)を乗算することで、第2輝度評価値を導出してよい。撮像制御部110は、被写体までの距離の変化を考慮して予測された第2輝度評価値を導出して、一旦、第2輝度評価値に基づいて、AEを実行する。その後、撮像制御部110は、撮像装置100により撮像された画像の関心領域の輝度評価値に基づいて、AEを実行する。予測された第2輝度評価値に基づいてAEが実行されることで、撮像装置100により撮像される画像の輝度を安定させることができる。
【0084】
図8は、撮像制御部110によるAWB制御の手順の一例を示すフローチャートである。
図8に示すフローチャートは、UAV10が撮像装置100の撮像方向に沿って遠ざかりながら、撮像装置100が被写体を撮像する場合のAWB制御の手順を示す。
【0085】
撮像制御部110は、撮像装置100により撮像される画像内で、関心領域を特定する(S300)。UAV10は、撮像装置100の撮像方向に沿って移動する。撮像制御部110は、被写体までの現在の距離X
cを取得する(S302)。撮像制御部110は、関心領域の第1色温度を特定して、AWBを実行する(S304)。撮像制御部110は、関心領域内のRGB積分値から、白色(無彩色)領域とその領域における色温度を特定する。特定した色温度より、光源の色味による被写体の見えの変化を補正するためRGB各チャネルのピクセル値に乗算するホワイトバランス(WB)係数を決定する。これにより、撮像制御部110は、AWBを実行してよい。
【0086】
次いで、撮像制御部110は、被写体までの現在の距離X
cをさらに取得する(S306)。撮像制御部110は、現在の距離X
cが第1基準距離X
1より遠いか否かを判定する(S308)。現在の距離X
cが第1基準距離X
1より近ければ、通常通り、関心領域510内の色温度に基づいて、AWBを実行してよい。
【0087】
一方、現在の距離X
cが第1基準距離X
1より遠ければ、撮像制御部110は、前回特定された第1色温度、及び前回の距離X
c1と今回の距離X
C2との比に基づいて、第2色温度を導出し、第2色温度に基づいて、AWBを実行する(S310)。撮像制御部110は、前回の距離X
c1と今回の距離X
C2との比に対して予め定められた関数に従って、第2色温度を導出してよい。撮像制御部110は、第1色温度に対して、前回の距離X
c1と今回の距離X
C2との比に対して予め定められた関数に従って導出された係数を乗算することで、第2色温度を導出してよい。
【0088】
撮像制御部110は、被写体までの距離の変化を考慮して予測された第2色温度を導出して、一旦、第2色温度に基づいて、AWBを実行する。その後、撮像制御部110は、撮像装置100により撮像された画像の関心領域の色温度に基づいて、AWBを実行する。予測された第2色温度に基づいてAWBが実行されることで、撮像装置100により撮像される画像のホワイトバランスを安定させることができる。
【0089】
以上、本実施形態に係る撮像装置100によれば、特定の被写体までの距離の変化に応じて、AF制御、AE制御、AWB制御などの撮像制御が不安定になることを抑制できる。
【0090】
図9は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ1200の一例を示す。コンピュータ1200にインストールされたプログラムは、コンピュータ1200に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の1または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ1200に当該オペレーションまたは当該1または複数の「部」を実行させることができる。当該プログラムは、コンピュータ1200に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ1200に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、CPU1212によって実行されてよい。
【0091】
本実施形態によるコンピュータ1200は、CPU1212、及びRAM1214を含み、それらはホストコントローラ1210によって相互に接続されている。コンピュータ1200はまた、通信インタフェース1222、入力/出力ユニットを含み、それらは入力/出力コントローラ1220を介してホストコントローラ1210に接続されている。コンピュータ1200はまた、ROM1230を含む。CPU1212は、ROM1230及びRAM1214内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。
【0092】
通信インタフェース1222は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ1200内のCPU1212によって使用されるプログラム及びデータを格納してよい。ROM1230はその中に、アクティブ化時にコンピュータ1200によって実行されるブートプログラム等、及び/またはコンピュータ1200のハードウェアに依存するプログラムを格納する。プログラムが、CR−ROM、USBメモリまたはICカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるRAM1214、またはROM1230にインストールされ、CPU1212によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ1200に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ1200の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。
【0093】
例えば、通信がコンピュータ1200及び外部デバイス間で実行される場合、CPU1212は、RAM1214にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース1222に対し、通信処理を命令してよい。通信インタフェース1222は、CPU1212の制御の下、RAM1214、またはUSBメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
【0094】
また、CPU1212は、USBメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がRAM1214に読み取られるようにし、RAM1214上のデータに対し様々なタイプの処理を実行してよい。CPU1212は次に、処理されたデータを外部記録媒体にライトバックしてよい。
【0095】
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU1212は、RAM1214から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM1214に対しライトバックする。また、CPU1212は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU1212は、第1の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。
【0096】
上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ1200上またはコンピュータ1200近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはRAMのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ1200に提供する。
【0097】
特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
【0098】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。