特許 6501091 制御装置、撮像装置、移動体、制御方法、及びプログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B1)

(11)【特許番号】6501091

(24)【登録日】2019年3月29日

(45)【発行日】2019年4月17日

(54)【発明の名称】制御装置、撮像装置、移動体、制御方法、及びプログラム

(51)【国際特許分類】

   H04N 5/235 20060101AFI20190408BHJP

   H04N 9/04 20060101ALI20190408BHJP

   G03B 15/00 20060101ALI20190408BHJP

   G03B 7/091 20060101ALI20190408BHJP

   H04N 5/225 20060101ALI20190408BHJP

【ＦＩ】

   H04N5/235 100

   H04N9/04 B

   G03B15/00 V

   G03B7/091

   H04N5/225

   G03B15/00 U

【請求項の数】12

【全頁数】17

(21)【出願番号】特願2017-209183(P2017-209183)

(22)【出願日】2017年10月30日

【審査請求日】2017年10月30日

(73)【特許権者】

【識別番号】513068816

【氏名又は名称】エスゼット ディージェイアイ テクノロジー カンパニー リミテッド

【氏名又は名称原語表記】ＳＺ ＤＪＩ ＴＥＣＨＮＯＬＯＧＹ ＣＯ．，ＬＴＤ

(74)【代理人】

【識別番号】110000877

【氏名又は名称】龍華国際特許業務法人

(72)【発明者】

【氏名】吉田 崇彦

【審査官】 大西 宏

(56)【参考文献】

【文献】 特開２０１２−１２４９６３（ＪＰ，Ａ）

【文献】 特開平１１−２３９２９１（ＪＰ，Ａ）

【文献】 特開２０１７−０４９３１１（ＪＰ，Ａ）

【文献】 特開２０１１−００９８６３（ＪＰ，Ａ）

【文献】 特開２０１４−１４３５４７（ＪＰ，Ａ）

【文献】 特開２０１７−１０３７５１（ＪＰ，Ａ）

【文献】 特開２００６−３２２７９６（ＪＰ，Ａ）

(58)【調査した分野】（Int.Cl.，ＤＢ名）

Ｈ０４Ｎ ５／２２２− ５／２５７

Ｈ０４Ｎ ９／０４ − ９／１１

Ｇ０３Ｂ ７／００ − ７／３０

Ｇ０３Ｂ １５／００ −１５／０３５

Ｇ０３Ｂ １５／０６ −１５／１６

(57)【特許請求の範囲】

【請求項1】

予め定められた経路に沿って移動する移動体に搭載された撮像装置により撮像される画像の少なくとも一部の領域である参照領域の画像に基づいて決定されたパラメータに基づいて、前記撮像装置の撮像動作を制御する制御部と、
前記撮像装置の移動速度に基づいて、前記参照領域のサイズを設定する設定部と
を備え、
前記設定部は、前記移動体が前記予め定められた経路内の予め定められた地点から予め定められた距離以内に到達したことに対応して、前記参照領域のサイズを前記撮像装置の移動速度に基づいて設定する、制御装置。

【請求項2】

前記設定部は、
前記撮像装置の移動速度が第１の移動速度の場合、前記参照領域を前記画像内の第１参照領域に設定し、
前記撮像装置の移動速度が前記第１の移動速度より速い第２の移動速度の場合、前記参照領域を前記画像内の前記第１参照領域より狭い第２参照領域に設定する、請求項１に記載の制御装置。

【請求項3】

前記設定部は、前記画像の中心を含む領域を前記第１参照領域または前記第２参照領域として設定する、請求項２に記載の制御装置。

【請求項4】

前記予め定められた地点は、前記撮像装置により撮像される画像の光源が変化する地点を含む、請求項１から３の何れか１つに記載の制御装置。

【請求項5】

前記予め定められた地点は、前記予め定められた経路内のトンネルの入口、及び建物の入口の少なくとも一方を含む、請求項１から４の何れか１つに記載の制御装置。

【請求項6】

前記予め定められた地点は、前記撮像装置により撮像される画像の輝度が予め定められた閾値以上変化する地点を含む、請求項１から５の何れか１つに記載の制御装置。

【請求項7】

前記パラメータは、前記撮像装置により撮像される画像のホワイトバランスを調整するためのパラメータを含む、請求項１から６の何れか１つに記載の制御装置。

【請求項8】

前記パラメータは、前記撮像装置の露出を制御するためのパラメータを含む、請求項１から７の何れか１つに記載の制御装置。

【請求項9】

請求項１から８の何れか１つに記載の制御装置と、
画像を撮像するイメージセンサと
を備える撮像装置。

【請求項10】

請求項９に記載の撮像装置を搭載して移動する移動体。

【請求項11】

予め定められた経路に沿って移動する移動体に搭載された撮像装置の移動速度に基づいて、前記撮像装置により撮像される画像の少なくとも一部の領域である参照領域のサイズを設定する段階と、
前記参照領域の画像に基づいて決定されたパラメータに基づいて、前記撮像装置の撮像動作を制御する段階と
を備え、
前記設定する段階は、前記移動体が前記予め定められた経路内の予め定められた地点から予め定められた距離以内に到達したことに対応して、前記参照領域のサイズを前記撮像装置の移動速度に基づいて設定する段階を含む、制御方法。

【請求項12】

請求項１から８の何れか１つに記載の制御装置として、コンピュータを機能させるためのプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、制御装置、撮像装置、移動体、制御方法、及びプログラムに関する。

【背景技術】

【0002】

特許文献１には、車両が走行する進行方向における線路の向きを示す線路方向に基づいて露光制御のための検波枠を決定することが記載されている。
特許文献１ 特開２０１７−１４７４８２号公報

【発明の概要】

【発明が解決しようとする課題】

【0003】

撮像装置が移動しながら撮像する場合、撮像される環境が変化することで、撮像装置が適切に撮像できない場合がある。

【課題を解決するための手段】

【0004】

本発明の一態様に係る制御装置は、撮像装置により撮像される画像の少なくとも一部の領域である参照領域の画像に基づいて決定されたパラメータに基づいて、撮像装置の撮像動作を制御する制御部を備えてよい。制御装置は、撮像装置の移動速度に基づいて、参照領域のサイズを設定する設定部を備えてよい。

【0005】

設定部は、撮像装置の移動速度が第１の移動速度の場合、参照領域を画像内の第１参照領域に設定してよい。設定部は、撮像装置の移動速度が第１の移動速度より速い第２の移動速度の場合、参照領域を画像内の第１参照領域より狭い第２参照領域に設定してよい。

【0006】

設定部は、画像の中心を含む領域を第１参照領域または第２参照領域として設定してよい。

【0007】

撮像装置は、予め定められた経路に沿って移動する移動体に搭載されてよい。設定部は、移動体が予め定められた経路内の予め定められた地点から予め定められた距離以内に到達したことに対応して、参照領域のサイズを撮像装置の移動速度に基づいて設定してよい。

【0008】

予め定められた地点は、撮像装置により撮像される画像の光源が変化する地点を含んでよい。

【0009】

予め定められた地点は、予め定められた経路内のトンネルの入口、及び建物の入口の少なくとも一方を含んでよい。

【0010】

予め定められた地点は、撮像装置により撮像される画像の輝度が予め定められた閾値以上変化する地点を含んでよい。

【0011】

パラメータは、撮像装置により撮像される画像のホワイトバランスを調整するためのパラメータを含んでよい。

【0012】

パラメータは、撮像装置の露出を制御するためのパラメータを含んでよい。

【0013】

本発明の一態様に係る撮像装置は、上記制御装置を備えてよい。撮像装置は、画像を撮像するイメージセンサを備えてよい。

【0014】

本発明の一態様に係る移動体は、撮像装置を搭載して移動してよい。

【0015】

本発明の一態様に係る制御方法は、撮像装置の移動速度に基づいて、撮像装置により撮像される画像の少なくとも一部の領域である参照領域のサイズを設定する段階を備えてよい。制御方法は、参照領域の画像に基づいて決定されたパラメータに基づいて、撮像装置の撮像動作を制御する段階を備えてよい。

【0016】

本発明の一態様に係るプログラムは、撮像装置の移動速度に基づいて、撮像装置により撮像される画像の少なくとも一部の領域である参照領域のサイズを設定する段階をコンピュータに実行させてよい。プログラムは、参照領域の画像に基づいて決定されたパラメータに基づいて、撮像装置の撮像動作を制御する段階をコンピュータに実行させてよい。

【0017】

本発明の一態様によれば、撮像装置が移動しながら撮像する場合に、撮像される環境が変化することで、撮像装置が適切に撮像できなくなる可能性を低減できる。

【0018】

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。

【図面の簡単な説明】

【0019】

【図1】無人航空機及び遠隔操作装置の外観の一例を示す図である。

【図2】無人航空機の機能ブロックの一例を示す図である。

【図3】速度と重み付けとの関係の一例を示す図である。

【図4】参照領域について説明するための図である。

【図5】参照領域のサイズを変更する手順の一例を示すフローチャートである。

【図6】飛行経路について説明するための図である。

【図7】参照領域のサイズを変更する手順の一例を示すフローチャートである。

【図8】ハードウェア構成の一例について説明するための図である。

【発明を実施するための形態】

【0020】

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

【0021】

特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。

【0022】

本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、（１）操作が実行されるプロセスの段階または（２）操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び／またはプロセッサによって実装されてよい。専用回路は、デジタル及び／またはアナログハードウェア回路を含んでよい。集積回路（ＩＣ）及び／またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理ＡＮＤ、論理ＯＲ、論理ＸＯＲ、論理ＮＡＮＤ、論理ＮＯＲ、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、プログラマブルロジックアレイ（ＰＬＡ）等のようなメモリ要素等を含んでよい。

【0023】

コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭまたはフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ）、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ-ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（ＲＴＭ）ディスク、メモリスティック、集積回路カード等が含まれてよい。

【0024】

コンピュータ可読命令は、１または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはＳｍａｌｌｔａｌｋ、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。

【0025】

図１は、無人航空機（ＵＡＶ）１０及び遠隔操作装置３００の外観の一例を示す。ＵＡＶ１０は、ＵＡＶ本体２０、ジンバル５０、複数の撮像装置６０、及び撮像装置１００を備える。ジンバル５０、及び撮像装置１００は、撮像システムの一例である。ＵＡＶ１０は、空中を移動する飛行体の一例である。飛行体とは、ＵＡＶの他、空中を移動する他の航空機、飛行船、ヘリコプター等を含む概念である。

【0026】

ＵＡＶ本体２０は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。ＵＡＶ本体２０は、複数の回転翼の回転を制御することでＵＡＶ１０を飛行させる。ＵＡＶ本体２０は、例えば、４つの回転翼を用いてＵＡＶ１０を飛行させる。回転翼の数は、４つには限定されない。また、ＵＡＶ１０は、回転翼を有さない固定翼機でもよい。

【0027】

撮像装置１００は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル５０は、撮像装置１００を回転可能に支持する。ジンバル５０は、支持機構の一例である。例えば、ジンバル５０は、撮像装置１００を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル５０は、撮像装置１００を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル５０は、ヨー軸、ピッチ軸、及びロール軸の少なくとも１つを中心に撮像装置１００を回転させることで、撮像装置１００の姿勢を変更してよい。

【0028】

複数の撮像装置６０は、ＵＡＶ１０の飛行を制御するためにＵＡＶ１０の周囲を撮像するセンシング用のカメラである。２つの撮像装置６０が、ＵＡＶ１０の機首である正面に設けられてよい。更に他の２つの撮像装置６０が、ＵＡＶ１０の底面に設けられてよい。正面側の２つの撮像装置６０はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の２つの撮像装置６０もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置６０により撮像された画像に基づいて、ＵＡＶ１０の周囲の３次元空間データが生成されてよい。ＵＡＶ１０が備える撮像装置６０の数は４つには限定されない。ＵＡＶ１０は、少なくとも１つの撮像装置６０を備えていればよい。ＵＡＶ１０は、ＵＡＶ１０の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも１つの撮像装置６０を備えてもよい。撮像装置６０で設定できる画角は、撮像装置１００で設定できる画角より広くてよい。撮像装置６０は、単焦点レンズまたは魚眼レンズを有してもよい。

【0029】

遠隔操作装置３００は、ＵＡＶ１０と通信して、ＵＡＶ１０を遠隔操作する。遠隔操作装置３００は、ＵＡＶ１０と無線で通信してよい。遠隔操作装置３００は、ＵＡＶ１０に上昇、下降、加速、減速、前進、後進、回転などのＵＡＶ１０の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、ＵＡＶ１０の高度を上昇させる指示情報を含む。指示情報は、ＵＡＶ１０が位置すべき高度を示してよい。ＵＡＶ１０は、遠隔操作装置３００から受信した指示情報により示される高度に位置するように移動する。指示情報は、ＵＡＶ１０を上昇させる上昇命令を含んでよい。ＵＡＶ１０は、上昇命令を受け付けている間、上昇する。ＵＡＶ１０は、上昇命令を受け付けても、ＵＡＶ１０の高度が上限高度に達している場合には、上昇を制限してよい。

【0030】

図２は、ＵＡＶ１０の機能ブロックの一例を示す。ＵＡＶ１０は、ＵＡＶ制御部３０、メモリ３２、通信インタフェース３６、推進部４０、ＧＰＳ受信機４１、慣性計測装置４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、湿度センサ４６、ジンバル５０、撮像装置６０及び撮像装置１００を備える。

【0031】

通信インタフェース３６は、遠隔操作装置３００などの他の装置と通信する。通信インタフェース３６は、遠隔操作装置３００からＵＡＶ制御部３０に対する各種の命令を含む指示情報を受信してよい。メモリ３２は、ＵＡＶ制御部３０が、推進部４０、ＧＰＳ受信機４１、慣性計測装置（ＩＭＵ）４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、湿度センサ４６、ジンバル５０、撮像装置６０、及び撮像装置１００を制御するのに必要なプログラム等を格納する。メモリ３２は、コンピュータ読み取り可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリ等のフラッシュメモリの少なくとも１つを含んでよい。メモリ３２は、ＵＡＶ本体２０の内部に設けられてよい。ＵＡＶ本体２０から取り外し可能に設けられてよい。

【0032】

ＵＡＶ制御部３０は、メモリ３２に格納されたプログラムに従ってＵＡＶ１０の飛行及び撮像を制御する。ＵＡＶ制御部３０は、ＣＰＵまたはＭＰＵ等のマイクロプロセッサ、ＭＣＵ等のマイクロコントローラ等により構成されてよい。ＵＡＶ制御部３０は、通信インタフェース３６を介して遠隔操作装置３００から受信した命令に従って、ＵＡＶ１０の飛行及び撮像を制御する。推進部４０は、ＵＡＶ１０を推進させる。推進部４０は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータとを有する。推進部４０は、ＵＡＶ制御部３０からの命令に従って複数の駆動モータを介して複数の回転翼を回転させて、ＵＡＶ１０を飛行させる。

【0033】

ＧＰＳ受信機４１は、複数のＧＰＳ衛星から発信された時刻を示す複数の信号を受信する。ＧＰＳ受信機４１は、受信された複数の信号に基づいてＧＰＳ受信機４１の位置（緯度及び経度）、つまりＵＡＶ１０の位置（緯度及び経度）を算出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢を検出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢として、ＵＡＶ１０の前後、左右、及び上下の３軸方向の加速度と、ピッチ、ロール、及びヨーの３軸方向の角速度とを検出する。磁気コンパス４３は、ＵＡＶ１０の機首の方位を検出する。気圧高度計４４は、ＵＡＶ１０が飛行する高度を検出する。気圧高度計４４は、ＵＡＶ１０の周囲の気圧を検出し、検出された気圧を高度に換算して、高度を検出する。温度センサ４５は、ＵＡＶ１０の周囲の温度を検出する。湿度センサ４６は、ＵＡＶ１０の周囲の湿度を検出する。

【0034】

撮像装置１００は、撮像部１０２及びレンズ部２００を備える。レンズ部２００は、レンズ装置の一例である。撮像部１０２は、イメージセンサ１２０、撮像制御部１１０、及びメモリ１３０を有する。イメージセンサ１２０は、ＣＣＤまたはＣＭＯＳにより構成されてよい。イメージセンサ１２０は、複数のレンズ２１０を介して結像された光学像を撮像し、撮像された画像データを撮像制御部１１０に出力する。撮像制御部１１０は、ＣＰＵまたはＭＰＵなどのマイクロプロセッサ、ＭＣＵなどのマイクロコントローラなどにより構成されてよい。撮像制御部１１０は、ＵＡＶ制御部３０からの撮像装置１００の動作命令に応じて、撮像装置１００を制御してよい。メモリ１３０は、コンピュータ可読可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。メモリ１３０は、撮像制御部１１０がイメージセンサ１２０などを制御するのに必要なプログラム等を格納する。メモリ１３０は、撮像装置１００の筐体の内部に設けられてよい。メモリ１３０は、撮像装置１００の筐体から取り外し可能に設けられてよい。

【0035】

レンズ部２００は、複数のレンズ２１０、複数のレンズ駆動部２１２、及びレンズ制御部２２０を有する。複数のレンズ２１０は、ズームレンズ、バリフォーカルレンズ、及びフォーカスレンズとして機能してよい。複数のレンズ２１０の少なくとも一部または全部は、光軸に沿って移動可能に配置される。レンズ部２００は、撮像部１０２に対して着脱可能に設けられる交換レンズでよい。レンズ駆動部２１２は、カム環などの機構部材を介して、複数のレンズ２１０の少なくとも一部または全部を光軸に沿って移動させる。レンズ駆動部２１２は、アクチュエータを含んでよい。アクチュエータは、ステッピングモータを含んでよい。レンズ制御部２２０は、撮像部１０２からのレンズ制御命令に従って、レンズ駆動部２１２を駆動して、機構部材を介して１または複数のレンズ２１０を光軸方向に沿って移動させる。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。

【0036】

レンズ部２００は、メモリ２２２、位置センサ２１４をさらに有する。レンズ制御部２２０は、撮像部１０２からのレンズ動作命令に応じてレンズ駆動部２１２を介して、レンズ２１０の光軸方向への移動を制御する。レンズ制御部２２０は、撮像部１０２からのレンズ動作命令に応じてレンズ駆動部２１２を介して、レンズ２１０の光軸方向への移動を制御する。レンズ２１０の一部または全部は、光軸に沿って移動する。レンズ制御部２２０は、レンズ２１０の少なくとも１つを光軸に沿って移動させることで、ズーム動作及びフォーカス動作の少なくとも一方を実行する。位置センサ２１４は、レンズ２１０の位置を検出する。位置センサ２１４は、現在のズーム位置またはフォーカス位置を検出してよい。

【0037】

レンズ駆動部２１２は、振れ補正機構を含んでよい。レンズ制御部２２０は、振れ補正機構を介して、レンズ２１０を光軸に沿った方向、または光軸に垂直な方向に移動させることで、振れ補正を実行してよい。レンズ駆動部２１２は、ステッピングモータにより振れ補正機構を駆動して、振れ補正を実行してよい。なお、振れ補正機構は、ステッピングモータにより駆動されて、イメージセンサ１２０を光軸に方向に沿った方向、または光軸に垂直な方向に移動させることで、振れ補正を実行してよい。

【0038】

メモリ２２２は、レンズ駆動部２１２を介して移動する複数のレンズ２１０の制御値を記憶する。メモリ２２２は、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。

【0039】

このように構成された撮像装置１００において、撮像制御部１１０は、いわゆるオートホワイトバランス（ＡＷＢ）処理を実行するＡＷＢ制御部１１６を有する。ＡＷＢ制御部１１６は、イメージセンサ１２０により撮像された画像の少なくとも一部の領域である予め定められた参照領域の画像から予め定められた条件に従って白色であるべき領域を特定する。ＡＷＢ制御部１１６は、特定された領域のＲ、Ｇ、Ｂの各画素値に基づいて、イメージセンサ１２０が出力する画像のＲ成分、Ｇ成分及びＢ成分のそれぞれに適用すべきそれぞれのゲインであるホワイトバランスの制御値を導出する。ＡＷＢ制御部１１６は、導出されたＲ成分、Ｇ成分及びＢ成分のそれぞれの制御値に基づいて、イメージセンサ１２０により撮像された画像にホワイトバランス調整を行う。

【0040】

また、撮像制御部１１０は、いわゆる自動露出（ＡＥ）制御を実行するＡＥ制御部１１８をさらに有する。ＡＥ制御部１１８は、イメージセンサ１２０により撮像された画像の少なくとも一部の領域である予め定められた参照領域の画像の輝度を算出する。ＡＥ制御部１１８は、算出された輝度の分布から露光量を決定する。ＡＥ制御部１１８は、決定された露光量に基づいて、シャッター速度、絞り値などの露光条件を決定する。

【0041】

ここで、ＵＡＶ１０に搭載された撮像装置１００が移動する場合、撮像される環境が変化することで、ホワイトバランスの調整、露光条件などが適切に行われない場合がある。例えば、撮像装置１００が撮影中に、ＵＡＶ１０がトンネル内に侵入すると、ＵＡＶ１０がトンネルに侵入した直後にホワイトバランスの調整が適切に行われない場合がある。これは、ＵＡＶ１０がトンネルに侵入する前に撮像装置１００により撮像される画像の光源と、ＵＡＶ１０がトンネルに侵入した後に撮像装置１００により撮像される画像の光源とが異なるからである。

【0042】

そこで、本実施形態では、ホワイトバランスの制御値を決定するために参照される画像内の参照領域、露光条件を決定するために参照される画像内の参照領域など、撮像装置１００の撮像動作を制御するためのパラメータを決定するために参照される画像内の参照領域のサイズを、撮像装置１００の移動速度に応じて設定する。ここで、撮像装置１００の撮像動作とは、イメージセンサ１２０への露光、イメージセンサ１２０からの信号の読み出し、読み出した信号の画像データへの変換、画像データを用いた自動露出制御、オートホワイトバランスなどを含む予め定められた画像処理、画像データのメモリ１３０などの記録媒体への書き込み、遠隔操作装置３００などが備えるディスプレイへの画像表示等の一連の処理を指す。

【0043】

撮像制御部１１０は、取得部１１２及び設定部１１４をさらに有する。取得部１１２は、撮像装置１００の移動速度を示す情報として、ＵＡＶ制御部３０を介してＵＡＶ１０の速度を示す速度情報を取得する。

【0044】

設定部１１４は、速度情報に示される速度に基づいて、参照領域のサイズを設定する。設定部１１４は、ＵＡＶ１０の速度が第１の移動速度Ｖ１の場合、参照領域を画像内の第１参照領域に設定してよい。設定部１１４は、ＵＡＶ１０の速度が第１の移動速度Ｖ１より速い第２の移動速度Ｖ２の場合、参照領域を画像内の第１参照領域より狭い第２参照領域に設定してよい。設定部１１４は、画像の中心を含む領域を第１参照領域または第２参照領域として設定してよい。設定部１１４は、画像の中心と、参照領域の中心とが一致するように、第１参照領域または第２参照領域を設定してよい。

【0045】

撮像装置１００が移動していない場合の通常の参照領域の幅をＷ、高さをＨ、速度に基づく重み付けをＭとする。この場合、設定部１１４は、撮像装置１００が移動している場合の参照領域のサイズを、幅がＩＮＴ（Ｗ×Ｍ）、高さがＩＮＴ（Ｈ×Ｍ）に設定する。設定部１１４は、速度に基づく重み付けＭを、例えば、図３に示すような速度Ｖと重み付けＭとの関係を示す関数に従って、決定してよい。

【0046】

設定部１１４は、例えば、図４に示すような画像５００において、撮像装置１００が移動している場合、撮像装置１００の移動速度に基づいて、通常の参照領域５０１より狭い参照領域５０２を設定する。設定部１１４は、画像の中心を含むように参照領域を設定してよい。設定部１１４は、撮像装置１００の移動速度に基づく参照領域の中心と画像の中中心とが一致するように参照領域を設定してよい。

【0047】

ＡＷＢ制御部１１６は、撮像装置１００により撮像された画像内の中心領域の画像に基づいて、ホワイトバランスを調整するためのパラメータ、すなわち、Ｒ成分、Ｇ成分及びＢ成分のそれぞれのゲインを決定する。ＡＷＢ制御部１１６は、撮像装置１００が撮像している画像内の、撮像装置１００が何秒後かに撮像する可能性が比較的高い一部の領域の画像に基づいて、ホワイトバランスを調整するためのパラメータを決定する。例えば、撮像装置１００が図４に示すような画像５００を撮像している場合、ＡＷＢ制御部１１６は、画像５００内の中央付近のトンネルに対応する参照領域５０２の画像に基づいて、ホワイトバランスを調整するためのパラメータを決定する。よって、例えば、ＵＡＶ１０がトンネル内に侵入した直後でも、ホワイトバランスの調整が不適切になることを防止できる。

【0048】

また、ＡＥ制御部１１８は、撮像装置１００により撮像された画像内の中心領域の画像に基づいて、露光条件を決定してもよい。ＡＥ制御部１１８は、撮像装置１００が撮像している画像内の、撮像装置１００が何秒後かに撮像する可能性が比較的高い一部の領域の画像に基づいて、撮像装置１００の露出を制御するためのパラメータとして撮像装置１００が撮像している画像の露光量を決定してよい。ＡＥ制御部１１８は、その露光量に基づいて撮像装置１００の露光条件を決定してよい。例えば、撮像装置１００が図４に示すような画像５００を撮像している場合、ＡＥ制御部１１８は、画像５００内の中央付近のトンネルに対応する参照領域５０２の画像に基づいて、撮像装置の露出を制御するためのパラメータとして露光量を決定してよい。よって、ＵＡＶ１０がトンネル内に侵入した直後でも、露光条件が不適切になることを防止できる。

【0049】

設定部１１４は、ＵＡＶ１０の移動方向と、撮像装置１００の撮像方向とに基づいて画像上の参照領域の位置を決定してよい。設定部１１４は、ＵＡＶ１０の移動方向と、撮像装置１００の撮像方向とが一致する場合には、画像の中心と、参照領域の中心とが一致するように、参照領域の位置を決定してよい。一方、ＵＡＶ１０の移動方向と撮像装置１００の撮像方向とが一致しない場合、設定部１１４は、ＵＡＶ１０の移動方向と撮像装置１００の撮像方向とが成す角度に基づいて、参照領域の中心を画像の中心からずらした位置に参照領域を設定してもよい。

【0050】

ここで、設定部１１４は、撮像装置１００の移動速度に加えて、例えば、撮像装置１００の画角のサイズ、光源が変わるトンネルなどの特定の場所の入口部分のサイズにさらに基づいて参照領域のサイズを設定してよい。設定部１１４は、撮像装置１００の画角が広いほど、参照領域のサイズが小さくなるように、参照領域のサイズを設定してよい。設定部１１４は、撮像装置１００の画角が狭いほど、参照領域のサイズが大きくなるように参照領域のサイズを設定してよい。設定部１１４は、撮像装置１００の画角が第１の画角の場合、参照領域のサイズを第１のサイズに設定してよい。設定部１１４は、撮像装置１００の画角が第１の画角より広い第２の画角の場合、参照領域のサイズを第１のサイズより狭い第２のサイズに設定してよい。例えば、メモリ１３０は、撮像装置１００に設定可能な画角ごとに、図３に示すような速度と重み付けとの関係を示す関数を記憶してよい。設定部１１４は、撮像装置１００に設定されている画角に対応する関数に従って、撮像装置１００の移動速度に基づく参照領域のサイズを設定してよい。

【0051】

また、設定部１１４は、トンネルなどの特定の場所の入口のサイズに応じて、参照領域のサイズを設定してよい。設定部１１４は、トンネルなどの特定の場所の入口の断面積が大きいほど、参照領域のサイズが大きくなるように、参照領域のサイズを設定してよい。設定部１１４は、トンネルなどの特定の場所の入口の断面積が小さいほど、参照領域のサイズが小さくなるように、参照領域のサイズを設定してよい。設定部１１４は、入口の断面積が第１の断面積の場合、参照領域のサイズを第１のサイズに設定してよい。設定部１１４は、入口の断面積が第１の断面積より大きい第２の断面積の場合、参照領域のサイズを第１のサイズより大きい第２のサイズに設定してよい。

【0052】

図５は、参照領域のサイズを変更する手順の一例を示すフローチャートである。取得部１１２は、撮像装置１００の移動速度として、ＵＡＶ１０の速度を示す速度情報をＵＡＶ制御部３０を介して取得する（Ｓ１００）。設定部１１４は、速度情報に示される速度に基づいて、参照領域のサイズを導出する（Ｓ１０２）。設定部１１４は、図３に示すような速度Ｖと重み付けＭとの関係を示す関数に従って、速度Ｖに対応する重み付けＭを決定する。さらに、設定部１１４は、通常の参照領域の幅Ｗ及び高さＨにそれぞれ重み付けＭを乗算することで、参照領域のサイズを導出する。設定部１１４は、参照領域のサイズを、導出されたサイズに変更する（Ｓ１０４）。

【0053】

ＡＷＢ制御部１１６は、変更されたサイズの参照領域を利用して、ホワイトバランスを調整するためのパラメータを決定する。ＡＥ制御部１１８は、変更されたサイズの参照領域を利用して、露光条件を決定するためのパラメータを決定する。

【0054】

以上の通り、本実施形態に係る撮像装置１００によれば、撮像装置１００の撮像動作を制御するためのパラメータを決定するために参照される参照領域を、予め定められた時間経過後に撮像装置１００が撮像する可能性が高い領域に制限する。これにより、予め定められた時間経過後に撮像装置１００が撮像する画像のホワイトバランスの調整、露光条件の設定などが不適切になることを防止できる。

【0055】

ところで、撮像装置１００を搭載するＵＡＶ１０などの移動体は、予め定められた経路に沿って移動する場合がある。例えば、ＵＡＶ１０は、図６に示すように出発地から目的地まで予め定められた経路６００に沿って飛行する場合がある。そして、経路６００内には、トンネルの入口、建物の入口、など撮像装置１００により撮像される画像の光源が変化する可能性が高い地点が含まれる可能性がある。ＵＡＶ１０がこのような地点に到達すると、ホワイトバランスの調整及び露光条件の設定などが不適切になる可能性がある。

【0056】

そこで、設定部１１４は、ＵＡＶ１０が予め定められた経路内の予め定められた地点から予め定められた距離以内に到達したことに対応して、参照領域のサイズを撮像装置１００の移動速度、すなわちＵＡＶ１０の速度に基づいて設定してよい。これにより、設定部１１４は、ＵＡＶ１０の移動中、常時、ＵＡＶ１０の速度に応じて参照領域のサイズを変更する場合に比べて、処理の負担を低減できる。これにより、撮像制御部１１０として機能するＣＰＵまたはＭＰＵ等のマイクロプロセッサの処理負担を低減でき、マイクロプロセッサの消費電力を低減できる。

【0057】

予め定められた経路内の予め定められた地点は、撮像装置１００により撮像される画像の光源が変化する地点を含む。予め定められた地点は、トンネルの入口、及び建物の入口の少なくとも一方を含んでよい。予め定められた地点は、撮像装置１００により撮像される画像の輝度が予め定められた閾値以上変化する地点を含んでよい。予め定められた地点は、橋の下などを含んでよい。予め定められた経路内の予め定められた地点は、ユーザにより指定されてよい。予め定められた経路内の予め定められた地点は、ＵＡＶ１０が飛行を開始する前に、ユーザにより指定されてよい。予め定められた距離は、ユーザにより指定されてよい。予め定められた距離は、例えば、ＵＡＶ１０が飛行を開始する前に、ユーザにより指定されてよい。撮像制御部１１０またはＵＡＶ制御部３０が、地図情報を参照して、予め定められた地点を指定するための予め定められた条件に従って、予め定められた地点を指定してもよい。

【0058】

図７は、参照領域のサイズを変更する手順の一例を示すフローチャートである。取得部１１２は、ＵＡＶ制御部３０を介してＵＡＶ１０の予め定められた飛行経路を示す情報を取得する（Ｓ２００）。ここで、飛行経路にはトンネルが含まれているものとする。設定部１１４は、ＵＡＶ１０が存在する現在の地点が、トンネルの入口から予め定められた距離以内に含まれているか否かを判定する（Ｓ２０２）。ＵＡＶ１０が存在する現在の地点が、トンネルの入口から予め定められた距離以内に含まれている場合、取得部１１２は、ＵＡＶ１０の速度を示す情報を、撮像装置１００の移動速度を示す情報として、取得する。設定部１１４は、ＵＡＶ１０の速度に対応する重み付けＭを決定する。さらに、設定部１１４は、通常の参照領域の幅Ｗ及び高さＨにそれぞれ重み付けＭを乗算することで、参照領域のサイズを導出する。設定部１１４は、参照領域のサイズを、導出されたサイズに変更する（Ｓ２０４）。設定部１１４は、変更されたサイズの参照領域を画像の中央領域に設定する。

【0059】

設定部１１４は、飛行経路を示す情報に基づいてトンネルの長さを特定する。設定部１１４は、トンネルの長さとＵＡＶ１０の速度と基づいてトンネルの出口にＵＡＶ１０が到達する到達時間を算出する（Ｓ２０６）。設定部１１４は、算出された到達時間の予め定められた時間前になると、ＧＰＳ受信機４１からのＵＡＶ１０の位置情報をＵＡＶ制御部３０を介して取得できるか否かを判定する（Ｓ２０８）。設定部１１４は、位置情報を取得できた場合、ＵＡＶ１０がトンネルから出たと判断して、変更前の参照領域のサイズに戻す（Ｓ２１０）。

【0060】

以上、本実施形態によれば、予め定められた経路に沿って移動する移動体が、予め定められた経路内のトンネルの入口などの予め定められた地点から予め定められた距離以内に到達したことに対応して、設定部１１４は、参照領域のサイズをＵＡＶ１０の速度に応じて変更する。撮像装置１００の撮像動作を制御するためのパラメータを決定するために参照される参照領域が、ＵＡＶ１０の速度に応じて変更される。参照領域は、予め定められた時間経過後に撮像装置１００が撮像する可能性が高い領域に制限される。これにより、予め定められた時間経過後に撮像装置１００が撮像する画像のホワイトバランスの調整、露光条件の設定などが不適切になることを防止できる。また、ＵＡＶ１０の移動に伴い撮像動作を制御するためのパラメータが不適切になる可能性が低い場合には、ＵＡＶ１０の速度に応じた参照領域の変更の処理は実行されない。よって、撮像制御部１１０の処理の負担を低減でき、撮像装置１００の消費電力を抑制できる。

【0061】

図８は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の１または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ１２００に当該オペレーションまたは当該１または複数の「部」を実行させることができる。当該プログラムは、コンピュータ１２００に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。

【0062】

本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、及びＲＡＭ１２１４を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、入力／出力ユニットを含み、それらは入力／出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。コンピュータ１２００はまた、ＲＯＭ１２３０を含む。ＣＰＵ１２１２は、ＲＯＭ１２３０及びＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。

【0063】

通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラム及びデータを格納してよい。ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、及び／またはコンピュータ１２００のハードウェアに依存するプログラムを格納する。プログラムが、ＣＲ−ＲＯＭ、ＵＳＢメモリまたはＩＣカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるＲＡＭ１２１４、またはＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ１２００の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。

【0064】

例えば、通信がコンピュータ１２００及び外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、またはＵＳＢメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。

【0065】

また、ＣＰＵ１２１２は、ＵＳＢメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。

【0066】

様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、第１の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。

【0067】

上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ１２００上またはコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。

【0068】

特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。

【0069】

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

【0070】

特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。

【符号の説明】

【0071】

１０ ＵＡＶ
２０ ＵＡＶ本体
３０ ＵＡＶ制御部
３２ メモリ
３６ 通信インタフェース
４０ 推進部
４１ ＧＰＳ受信機
４２ 慣性計測装置
４３ 磁気コンパス
４４ 気圧高度計
４５ 温度センサ
４６ 湿度センサ
５０ ジンバル
６０ 撮像装置
１００ 撮像装置
１０２ 撮像部
１１０ 撮像制御部
１１２ 取得部
１１４ 設定部
１１６ ＡＷＢ制御部
１１８ ＡＥ制御部
１２０ イメージセンサ
１３０ メモリ
２００ レンズ部
２１０ レンズ
２１２ レンズ駆動部
２１４ 位置センサ
２２０ レンズ制御部
２２２ メモリ
３００ 遠隔操作装置
５００ 画像
５０１ 参照領域
５０２ 参照領域
１２００ コンピュータ
１２１０ ホストコントローラ
１２１２ ＣＰＵ
１２１４ ＲＡＭ
１２２０ 入力／出力コントローラ
１２２２ 通信インタフェース
１２３０ ＲＯＭ

【要約】

【課題】撮像装置が移動しながら撮像する場合、撮像装置により撮像される環境が変化することで、撮像装置が適切に撮像できない場合がある。
【解決手段】制御装置は、撮像装置により撮像される画像の少なくとも一部の領域である参照領域の画像に基づいて決定されたパラメータに基づいて、撮像装置の撮像動作を制御する制御部を備えてよい。制御装置は、撮像装置の移動速度に基づいて、参照領域のサイズを設定する設定部を備えてよい。
【選択図】図５

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】