特許 6690106 決定装置、撮像システム、及び移動体

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B1)

(11)【特許番号】6690106

(24)【登録日】2020年4月13日

(45)【発行日】2020年4月28日

(54)【発明の名称】決定装置、撮像システム、及び移動体

(51)【国際特許分類】

   H04N 5/235 20060101AFI20200421BHJP

   H04N 5/33 20060101ALI20200421BHJP

【ＦＩ】

   H04N5/235

   H04N5/33 200

【請求項の数】16

【全頁数】21

(21)【出願番号】特願2019-57752(P2019-57752)

(22)【出願日】2019年3月26日

【審査請求日】2019年3月26日

(73)【特許権者】

【識別番号】513068816

【氏名又は名称】エスゼット ディージェイアイ テクノロジー カンパニー リミテッド

【氏名又は名称原語表記】ＳＺ ＤＪＩ ＴＥＣＨＮＯＬＯＧＹ ＣＯ．，ＬＴＤ

(74)【代理人】

【識別番号】110000877

【氏名又は名称】龍華国際特許業務法人

(72)【発明者】

【氏名】家富 邦彦

【審査官】 大西 宏

(56)【参考文献】

【文献】 特開２０１５−２０７２３５（ＪＰ，Ａ）

【文献】 特表２０１８−５３４７１４（ＪＰ，Ａ）

【文献】 特開２０１９−０２９７３４（ＪＰ，Ａ）

【文献】 米国特許出願公開第２０１６／０００６９５４（ＵＳ，Ａ１）

【文献】 米国特許出願公開第２０１７／０３７２１３７（ＵＳ，Ａ１）

(58)【調査した分野】（Int.Cl.，ＤＢ名）

Ｈ０４Ｎ ５／２２２− ５／２５７

Ｈ０４Ｎ ７／１８

Ｈ０４Ｎ ５／３０ − ５／３７８

(57)【特許請求の範囲】

【請求項1】

第１撮像装置が備える第１イメージセンサにより撮像される第１波長領域の第１画像に基づいて、前記第１画像内の第１領域を決定し、
第２撮像装置が備える第２イメージセンサにより撮像される第２波長領域の第２画像内の前記第１領域に対応する第２領域の画像情報に基づいて、前記第２撮像装置の撮像制御値を決定するように構成された回路
を備える決定装置。

【請求項2】

前記画像情報は、輝度情報であり、前記撮像制御値は、露出制御値である、請求項１に記載の決定装置。

【請求項3】

前記回路は、前記第１画像及び前記第２画像に基づいて、前記第１領域を決定する、請求項１に記載の決定装置。

【請求項4】

前記回路は、
前記第１領域を決定するために用いる画像として、前記第１画像及び前記第２画像、または前記第１画像及び第３撮像装置が備える第３イメージセンサにより撮像される第３波長領域の第３画像を選択し、
選択された前記第１画像及び前記第２画像、または前記第１画像及び前記第３画像に基づいて、前記第１領域を決定し、
前記第１画像の前記第１領域の画像情報に基づいて、前記第１撮像装置の撮像制御値を決定し、前記第２画像の前記第２領域の画像情報に基づいて、前記第２撮像装置の撮像制御値を決定し、前記第３画像の前記第１領域に対応する第３領域の画像情報に基づいて、前記第３撮像装置の撮像制御値を決定する、請求項１に記載の決定装置。

【請求項5】

前記回路は、被写体の特性に基づいて、前記第１画像及び前記第２画像、もしくは前記第１画像及び前記第３画像を選択する、請求項４に記載の決定装置。

【請求項6】

前記第１波長領域は、近赤外線領域の波長領域であり、
前記第２波長領域は、赤色領域の波長領域であり、
前記第３波長領域は、緑色領域またはレッドエッジ領域の波長領域である、請求項４に記載の決定装置。

【請求項7】

前記回路は、
前記第１領域を決定するために用いる画像として、前記第１画像及び前記第２画像、前記第１画像及び第３撮像装置が備える第３イメージセンサにより撮像される第３波長領域の第３画像、または前記第１画像及び第４撮像装置が備える第４イメージセンサにより撮像される第４波長領域の第４画像を選択し、
選択された前記第１画像及び前記第２画像、前記第１画像及び前記第３画像、または前記第１画像及び前記第４画像に基づいて、前記第１領域を決定し、
前記第１画像の前記第１領域の画像情報に基づいて、前記第１撮像装置の撮像制御値を決定し、前記第２画像の前記第２領域の画像情報に基づいて、前記第２撮像装置の撮像制御値を決定し、前記第３画像の前記第１領域に対応する第３領域の画像情報に基づいて、前記第３撮像装置の撮像制御値を決定し、前記第４画像の前記第１領域に対応する第４領域の画像情報に基づいて、前記第４撮像装置の撮像制御値を決定する、請求項１に記載の決定装置。

【請求項8】

前記回路は、被写体の特性に基づいて、前記第１画像及び前記第２画像、前記第１画像及び前記第３画像、または前記第１画像及び前記第４画像を選択する、請求項７に記載の決定装置。

【請求項9】

前記第１波長領域は、近赤外線領域の波長領域であり、
前記第２波長領域は、赤色領域の波長領域であり、
前記第３波長領域は、緑色領域の波長領域である、
前記第４波長領域は、レッドエッジ領域の波長領域である、請求項７に記載の決定装置。

【請求項10】

第１撮像装置が備える第１イメージセンサにより撮像される第１波長領域の第１画像、及び第２撮像装置が備える第２イメージセンサにより撮像される第２波長領域の第２画像に基づいて、前記第１画像内の第１領域を決定し、
第３撮像装置が備える第３イメージセンサにより撮像される第３波長領域の第３画像内の前記第１領域に対応する第３領域の画像情報に基づいて、前記第３撮像装置の撮像制御値を決定するように構成された回路
を備える決定装置。

【請求項11】

前記画像情報は、輝度情報であり、前記撮像制御値は、露出制御値である、請求項１０に記載の決定装置。

【請求項12】

前記第１波長領域は、近赤外線領域の波長領域であり、
前記第２波長領域は、赤色領域、緑色領域、またはレッドエッジ領域の波長領域であり、
前記第３波長領域は、赤色領域、緑色領域、及び青色領域の波長領域である、請求項１０に記載の決定装置。

【請求項13】

請求項１から１２の何れか１つに記載の決定装置と、
前記第１撮像装置と、
前記第２撮像装置と
を備える撮像システム。

【請求項14】

請求項１３に記載の撮像システムを備えて移動する移動体。

【請求項15】

第１撮像装置が備える第１イメージセンサにより撮像される第１波長領域の第１画像に基づいて、前記第１画像内の第１領域を決定する段階と、
第２撮像装置が備える第２イメージセンサにより撮像される第２波長領域の第２画像内の前記第１領域に対応する第２領域の画像情報に基づいて、前記第２撮像装置の撮像制御値を決定する段階と
を備える決定方法。

【請求項16】

請求項１から１２の何れか１つに記載の決定装置としてコンピュータを機能させるためのプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、決定装置、撮像システム、及び移動体に関する。

【背景技術】

【0002】

特許文献１には、検査対象物を含む領域と基準反射領域とをセンシングする際に、検査対象物のセンシングの対象となる波長帯域ごとに、検査対象物に対応した反射率を有する基準反射領域をセンシングするセンシングシステムが開示されている。
［先行技術文献］
［特許文献］
［特許文献１］ 国際公開第２０１７／２２１７５６号公報

【発明の概要】

【発明が解決しようとする課題】

【0003】

複数の波長帯域ごとに画像を撮像するマルチスペクトルカメラにおいて、特定の対象物に適した撮像条件を適切に設定できない場合がある。

【課題を解決するための手段】

【0004】

本発明の一態様に係る決定装置は、第１撮像装置が備える第１イメージセンサにより撮像される第１波長領域の第１画像に基づいて、第１画像内の第１領域を決定し、第２撮像装置が備える第２イメージセンサにより撮像される第２波長領域の第２画像内の第１領域に対応する第２領域の画像情報に基づいて、第２撮像装置の撮像制御値を決定するように構成された回路を備えてよい。

【0005】

画像情報は、輝度情報であり、撮像制御値は、露出制御値でよい。

【0006】

回路は、第１画像及び第２画像に基づいて、第１領域を決定してよい。

【0007】

回路は、第１領域を決定するために用いる画像として、第１画像及び第２画像、または第１画像及び第３撮像装置が備える第３イメージセンサにより撮像される第３波長領域の第３画像を選択してよい。回路は、選択された第１画像及び第２画像、または第１画像及び第３画像に基づいて、第１領域を決定してよい。回路は、第１画像の第１領域の画像情報に基づいて、第１撮像装置の撮像制御値を決定し、第２画像の第２領域の画像情報に基づいて、第２撮像装置の撮像制御値を決定し、第３画像の第１領域に対応する第３領域の画像情報に基づいて、第３撮像装置の撮像制御値を決定してよい。

【0008】

回路は、被写体の特性に基づいて、第１画像及び第２画像、もしくは第１画像及び第３画像を選択してよい。

【0009】

第１波長領域は、近赤外線領域の波長領域でよい。第２波長領域は、赤色領域の波長領域でよい。第３波長領域は、緑色領域またはレッドエッジ領域の波長領域でよい。

【0010】

回路は、第１領域を決定するために用いる画像として、第１画像及び第２画像、第１画像及び第３撮像装置が備える第３イメージセンサにより撮像される第３波長領域の第３画像、または第１画像及び第４撮像装置が備える第４イメージセンサにより撮像される第４波長領域の第４画像を選択してよい。回路は、選択された第１画像及び第２画像、第１画像及び第３画像、または第１画像及び第４画像に基づいて、第１領域を決定してよい。回路は、第１画像の第１領域の画像情報に基づいて、第１撮像装置の撮像制御値を決定し、第２画像の第２領域の画像情報に基づいて、第２撮像装置の撮像制御値を決定し、第３画像の第１領域に対応する第３領域の画像情報に基づいて、第３撮像装置の撮像制御値を決定し、第４画像の第１領域に対応する第４領域の画像情報に基づいて、第４撮像装置の撮像制御値を決定してよい。

【0011】

回路は、被写体の特性に基づいて、第１画像及び第２画像、第１画像及び第３画像、または第１画像及び第４画像を選択してよい。

【0012】

第１波長領域は、近赤外線領域の波長領域でよい。第２波長領域は、赤色領域の波長領域でよい。第３波長領域は、緑色領域の波長領域でよい。第４波長領域は、レッドエッジ領域の波長領域でよい。

【0013】

本発明の一態様に係る決定装置は、第１撮像装置が備える第１イメージセンサにより撮像される第１波長領域の第１画像、及び第２撮像装置が備える第２イメージセンサにより撮像される第２波長領域の第２画像に基づいて、第１画像内の第１領域を決定し、第３撮像装置が備える第３イメージセンサにより撮像される第３波長領域の第３画像内の第１領域に対応する第３領域の画像情報に基づいて、第３撮像装置の撮像制御値を決定するように構成された回路を備えてよい。

【0014】

画像情報は、輝度情報であり、撮像制御値は、露出制御値でよい。

【0015】

第１波長領域は、近赤外線領域の波長領域でよい。第２波長領域は、赤色領域、緑色領域、またはレッドエッジ領域の波長領域でよい。第３波長領域は、赤色領域、緑色領域、及び青色領域の波長領域でよい。

【0016】

本発明の一態様に係る撮像システムは、上記決定装置を備えてよい。撮像システムは、第１撮像装置と、第２撮像装置とを備えてよい。

【0017】

本発明の一態様に係る移動体は、上記撮像システムを備えて移動する移動体でよい。

【0018】

本発明の一態様に係る決定方法は、第１撮像装置が備える第１イメージセンサにより撮像される第１波長領域の第１画像に基づいて、第１画像内の第１領域を決定する段階を備えてよい。決定方法は、第２撮像装置が備える第２イメージセンサにより撮像される第２波長領域の第２画像内の第１領域に対応する第２領域の画像情報に基づいて、第２撮像装置の撮像制御値を決定する段階を備えてよい。

【0019】

本発明の一態様に係るプログラムは、上記決定装置としてコンピュータを機能させるためのプログラムでよい。

【0020】

本発明の一態様によれば、複数の波長帯域ごとに画像を撮像するマルチスペクトルカメラにおいて、特定の被写体に適した撮像条件を適切に設定できる。

【0021】

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。

【図面の簡単な説明】

【0022】

【図1】無人航空機（ＵＡＶ）及び遠隔操作装置の外観の一例を示す図である。

【図2】ＵＡＶに搭載される撮像システムの外観の一例を示す図である。

【図3】ＵＡＶの機能ブロックの一例を示す図である。

【図4】撮像システムの機能ブロックの一例を示す図である。

【図5】撮像システムにより撮像される画像の一例を示す図である。

【図6】図５に示す画像の一部分の輝度分布を示す図である。

【図7】画像を分割したブロックについて説明するための図である。

【図8】画像内の関心領域について説明するための図である。

【図9】撮像システムにより撮像される画像の一例を示す図である。

【図10】露出制御値を決定する手順の一例を示すフローチャートである。

【図11】ＵＡＶに搭載される撮像システムの外観の他の一例を示す図である。

【図12】ハードウェア構成の一例を示す図である。

【発明を実施するための形態】

【0023】

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

【0024】

特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。

【0025】

本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、（１）操作が実行されるプロセスの段階または（２）操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び／またはプロセッサによって実装されてよい。専用回路は、デジタル及び／またはアナログハードウェア回路を含んでよい。集積回路（ＩＣ）及び／またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理ＡＮＤ、論理ＯＲ、論理ＸＯＲ、論理ＮＡＮＤ、論理ＮＯＲ、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、プログラマブルロジックアレイ（ＰＬＡ）等のようなメモリ要素等を含んでよい。

【0026】

コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭまたはフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ）、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ-ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（ＲＴＭ）ディスク、メモリスティック、集積回路カード等が含まれてよい。

【0027】

コンピュータ可読命令は、１または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはＳｍａｌｌｔａｌｋ（登録商標）、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。

【0028】

図１は、無人航空機（ＵＡＶ）１０及び遠隔操作装置３００の外観の一例を示す。ＵＡＶ１０は、ＵＡＶ本体２０、ジンバル５０、複数の撮像装置６０、及び撮像システム１００を備える。ジンバル５０、及び撮像システム１００は、撮像システムの一例である。ＵＡＶ１０は、移動体の一例である。移動体とは、空中を移動する飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。空中を移動する飛行体とは、ＵＡＶの他、空中を移動する他の航空機、飛行船、ヘリコプター等を含む概念である。

【0029】

ＵＡＶ本体２０は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。ＵＡＶ本体２０は、複数の回転翼の回転を制御することでＵＡＶ１０を飛行させる。ＵＡＶ本体２０は、例えば、４つの回転翼を用いてＵＡＶ１０を飛行させる。回転翼の数は、４つには限定されない。また、ＵＡＶ１０は、回転翼を有さない固定翼機でもよい。

【0030】

撮像システム１００は、所望の撮像範囲に含まれるオブジェクトを複数の波長帯域ごとに撮像する撮像用のマルチスペクトルカメラである。ジンバル５０は、撮像システム１００を回転可能に支持する。ジンバル５０は、支持機構の一例である。例えば、ジンバル５０は、撮像システム１００を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル５０は、撮像システム１００を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル５０は、ヨー軸、ピッチ軸、及びロール軸の少なくとも１つを中心に撮像システム１００を回転させることで、撮像システム１００の姿勢を変更してよい。

【0031】

複数の撮像装置６０は、ＵＡＶ１０の飛行を制御するためにＵＡＶ１０の周囲を撮像するセンシング用のカメラである。２つの撮像装置６０が、ＵＡＶ１０の機首である正面に設けられてよい。更に他の２つの撮像装置６０が、ＵＡＶ１０の底面に設けられてよい。正面側の２つの撮像装置６０はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の２つの撮像装置６０もペアとなり、ステレオカメラとして機能してよい。撮像装置６０は、撮像装置６０の撮像範囲に含まれるオブジェクトの存在、及びオブジェクトまでの距離を計測してよい。撮像装置６０は、撮像システム１００の撮像方向に存在するオブジェクトを計測する計測装置の一例である。計測装置は、撮像システム１００の撮像方向に存在するオブジェクトを計測する赤外線センサ、超音波センサなどの他のセンサでもよい。複数の撮像装置６０により撮像された画像に基づいて、ＵＡＶ１０の周囲の３次元空間データが生成されてよい。ＵＡＶ１０が備える撮像装置６０の数は４つには限定されない。ＵＡＶ１０は、少なくとも１つの撮像装置６０を備えていればよい。ＵＡＶ１０は、ＵＡＶ１０の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも１つの撮像装置６０を備えてもよい。撮像装置６０で設定できる画角は、撮像システム１００で設定できる画角より広くてよい。撮像装置６０は、単焦点レンズまたは魚眼レンズを有してもよい。

【0032】

遠隔操作装置３００は、ＵＡＶ１０と通信して、ＵＡＶ１０を遠隔操作する。遠隔操作装置３００は、ＵＡＶ１０と無線で通信してよい。遠隔操作装置３００は、ＵＡＶ１０に上昇、下降、加速、減速、前進、後進、回転などのＵＡＶ１０の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、ＵＡＶ１０の高度を上昇させる指示情報を含む。指示情報は、ＵＡＶ１０が位置すべき高度を示してよい。ＵＡＶ１０は、遠隔操作装置３００から受信した指示情報により示される高度に位置するように移動する。指示情報は、ＵＡＶ１０を上昇させる上昇命令を含んでよい。ＵＡＶ１０は、上昇命令を受け付けている間、上昇する。ＵＡＶ１０は、上昇命令を受け付けても、ＵＡＶ１０の高度が上限高度に達している場合には、上昇を制限してよい。

【0033】

図２は、ＵＡＶ１０に搭載される撮像システム１００の外観の一例を示す図である。撮像システム１００は、予め定められた複数の波長帯域ごとの画像データを撮像するマルチスペクトルカメラである。撮像システム１００は、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０を備える。撮像システム１００は、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０により撮像されたそれぞれの画像データをマルチスペクトル画像として記録することができる。マルチスペクトル画像は、例えば、農作物の健康状態及び活力についての予測をするために用いられてよい。

【0034】

図３は、ＵＡＶ１０の機能ブロックの一例を示す。ＵＡＶ１０は、ＵＡＶ制御部３０、メモリ３２、通信インタフェース３６、推進部４０、ＧＰＳ受信機４１、慣性計測装置４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、湿度センサ４６、ジンバル５０、撮像装置６０及び撮像システム１００を備える。

【0035】

通信インタフェース３６は、遠隔操作装置３００などの他の装置と通信する。通信インタフェース３６は、遠隔操作装置３００からＵＡＶ制御部３０に対する各種の命令を含む指示情報を受信してよい。メモリ３２は、ＵＡＶ制御部３０が、推進部４０、ＧＰＳ受信機４１、慣性計測装置（ＩＭＵ）４２、磁気コンパス４３、気圧高度計４４、温度センサ４５、湿度センサ４６、ジンバル５０、撮像装置６０、及び撮像システム１００を制御するのに必要なプログラム等を格納する。メモリ３２は、コンピュータ読み取り可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリ等のフラッシュメモリの少なくとも１つを含んでよい。メモリ３２は、ＵＡＶ本体２０の内部に設けられてよい。ＵＡＶ本体２０から取り外し可能に設けられてよい。

【0036】

ＵＡＶ制御部３０は、メモリ３２に格納されたプログラムに従ってＵＡＶ１０の飛行及び撮像を制御する。ＵＡＶ制御部３０は、ＣＰＵまたはＭＰＵ等のマイクロプロセッサ、ＭＣＵ等のマイクロコントローラ等により構成されてよい。ＵＡＶ制御部３０は、通信インタフェース３６を介して遠隔操作装置３００から受信した命令に従って、ＵＡＶ１０の飛行及び撮像を制御する。推進部４０は、ＵＡＶ１０を推進させる。推進部４０は、複数の回転翼と、複数の回転翼を回転させる複数の駆動モータとを有する。推進部４０は、ＵＡＶ制御部３０からの命令に従って複数の駆動モータを介して複数の回転翼を回転させて、ＵＡＶ１０を飛行させる。

【0037】

ＧＰＳ受信機４１は、複数のＧＰＳ衛星から発信された時刻を示す複数の信号を受信する。ＧＰＳ受信機４１は、受信された複数の信号に基づいてＧＰＳ受信機４１の位置（緯度及び経度）、つまりＵＡＶ１０の位置（緯度及び経度）を算出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢を検出する。ＩＭＵ４２は、ＵＡＶ１０の姿勢として、ＵＡＶ１０の前後、左右、及び上下の３軸方向の加速度と、ピッチ、ロール、及びヨーの３軸方向の角速度とを検出する。磁気コンパス４３は、ＵＡＶ１０の機首の方位を検出する。気圧高度計４４は、ＵＡＶ１０が飛行する高度を検出する。気圧高度計４４は、ＵＡＶ１０の周囲の気圧を検出し、検出された気圧を高度に換算して、高度を検出する。温度センサ４５は、ＵＡＶ１０の周囲の温度を検出する。湿度センサ４６は、ＵＡＶ１０の周囲の湿度を検出する。

【0038】

図４は、撮像システム１００の機能ブロックの一例を示す。撮像システム１００は、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０を備える。撮像システム１００は、画像処理プロセッサ１８０、送信部１９０、及びメモリ１９２を備える。

【0039】

Ｒ用撮像装置１１０は、Ｒ用イメージセンサ１１２、及び光学系１１４を有する。Ｒ用イメージセンサ１１２は、光学系１１４により結像された像を撮像する。Ｒ用イメージセンサ１１２は、赤色領域の波長帯域の光を透過するフィルタを有し、赤色領域の波長帯域の画像信号であるＲ画像信号を出力する。赤色領域の波長帯域は、例えば、６２０ｎｍ〜７５０ｎｍである。赤色領域の波長帯域は、赤色領域の特定の波長帯域でよく、例えば、６６３ｎｍ〜６７３ｎｍでよい。

【0040】

Ｇ用撮像装置１２０は、Ｇ用イメージセンサ１２２、及び光学系１２４を有する。Ｇ用イメージセンサ１２２は、光学系１２４により結像された像を撮像する。Ｇ用イメージセンサ１２２は、緑色領域の波長帯域の光を透過するフィルタを有し、緑色領域の波長帯域の画像信号であるＧ画像信号を出力する。緑色領域の波長帯域は、例えば、５００ｎｍ〜５７０ｎｍである。緑色領域の波長帯域は、緑色領域の特定の波長帯域でよく、例えば、５５０ｎｍ〜５７０ｎｍでよい。

【0041】

Ｂ用撮像装置１３０は、Ｂ用イメージセンサ１３２、及び光学系１３４を有する。Ｂ用イメージセンサ１３２は、光学系１３４により結像された像を撮像する。Ｂ用イメージセンサ１３２は、青色領域の波長帯域の光を透過するフィルタを有し、青色領域の波長帯域の画像信号であるＢ画像信号を出力する。青色領域の波長帯域は、例えば、４５０ｎｍ〜５００ｎｍである。青色領域の波長帯域は、青色領域の特定の波長帯域でよく、例えば、４６５ｎｍ〜４８５ｎｍでよい。

【0042】

ＲＥ用撮像装置１４０は、ＲＥ用イメージセンサ１４２、及び光学系１４４を有する。ＲＥ用イメージセンサ１４２は、光学系１４４により結像された像を撮像する。ＲＥ用イメージセンサ１４２は、レッドエッジ領域の波長帯域の光を透過するフィルタを有し、レッドエッジ領域の波長帯域の画像信号であるＲＥ画像信号を出力する。レッドエッジ領域の波長帯域は、例えば、７０５ｎｍ〜７４５ｎｍである。レッドエッジ領域の波長帯域は、７１２ｎｍ〜７２２ｎｍでよい。

【0043】

ＮＩＲ用撮像装置１５０は、ＮＩＲ用イメージセンサ１５２、及び光学系１５４を有する。ＮＩＲ用イメージセンサ１５２は、光学系１５４により結像された像を撮像する。ＮＩＲ用イメージセンサ１５２は、近赤外領域の波長帯域の光を透過するフィルタを有し、近赤外領域の波長帯域の画像信号であるＮＩＲ画像信号を出力する。近赤外領域の波長帯域は、例えば、８００ｎｍ〜２５００ｎｍである。近赤外領域の波長帯域は、８００ｎｍから９００ｎｍでよい。

【0044】

画像処理プロセッサ１８０は、マルチプレックス１７０、入力受付部１７２、デモザイク処理部１７４、及び記録処理部１７８を含む。画像処理プロセッサ１８０は、回路の一例である。画像処理プロセッサ１８０は、ＣＰＵまたはＭＰＵ等のマイクロプロセッサ、ＭＣＵ等のマイクロコントローラ等により構成されてよい。

【0045】

マルチプレックス１７０は、各イメージセンサから出力された画像信号を受信し、予め定められた条件に従って、いずれかのイメージセンサから出力された画像信号を選択し、入力受付部１７２に入力する。

【0046】

デモザイク処理部１７４は、入力受付部１７２に入力されたＲ画像信号、Ｇ画像信号、及びＢ画像信号に基づいて、表示用の画像データを生成する。デモザイク処理部１７４は、Ｒ画像信号、Ｇ画像信号、及びＢ画像信号にデモザイク処理を施すことで、表示用の画像データを生成する。デモザイク処理部１７４は、Ｒ画像信号、Ｇ画像信号、及びＢ画像信号に間引き処理を施し、間引き処理されたＲ画像信号、Ｇ画像信号、及びＢ画像信号をベイヤ配列の画像信号に変換することで、表示用の画像データを生成してよい。送信部１９０は、表示用の画像データを表示装置に送信する。送信部１９０は、例えば、遠隔操作装置３００に表示用の画像データを送信してよい。遠隔操作装置３００は、表示部に表示用の画像データをライブビューの画像として表示してよい。

【0047】

記録処理部１７８は、入力受付部１７２に入力されたＲ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号に基づいて、予め定められた記録形式に従って記録用の画像データを生成する。記録処理部１７８は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号から、ＲＡＷ形式に従って記録用の画像データとしてＲＡＷデータを生成してよい。記録処理部１７８は、Ｒ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号のそれぞれを間引き処理せずにフル画素の記録用の画像データを生成してよい。記録処理部１７８は、記録用の画像データをメモリ１９２に格納してよい。メモリ１９２は、コンピュータ可読可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリなどのフラッシュメモリの少なくとも１つを含んでよい。メモリ１９２は、撮像システム１００の筐体の内部に設けられてよい。メモリ１９２は、撮像システム１００の筐体から取り外し可能に設けられてよい。

【0048】

画像処理プロセッサ１８０は、受付部１８４、及び切替部１８６をさらに有する。受付部１８４は、記録用の画像データをメモリ１９２に記憶する記憶指示を受け付ける。受付部１８４は、遠隔操作装置３００などの外部の端末を介してユーザからの記憶指示を受け付けてよい。受付部１８４は、撮像システム１００の位置が予め定められた位置である場合に、ＵＡＶ制御部３０から記憶指示を受け付けてよい。受付部１８４は、ＵＡＶ１０の位置が予め定められた位置である場合に、ＵＡＶ制御部３０が撮像システム１００の位置が予め定められた位置であると判断して、ＵＡＶ制御部３０から記憶指示を受け付けてよい。撮像システム１００がＧＰＳ受信機を備えてもよい。この場合、画像処理プロセッサ１８０が、自身のＧＰＳ受信機からの位置情報に従って、撮像システム１００の位置が予め定められた位置かどうかを判断してよい。切替部１８６は、入力受付部１７２に入力されたＲ画像信号、Ｇ画像信号、及びＢ画像信号に基づいて、デモザイク処理部１７４に表示用の画像データを生成させるか、入力受付部１７２に入力されたＲ画像信号、Ｇ画像信号、Ｂ画像信号、ＲＥ画像信号、及びＮＩＲ画像信号に基づいて、記録処理部１７８に予め定められた記録形式に従って記録用の画像データを生成させるかを切り替える。

【0049】

以上のように構成された撮像システム１００において、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、及びＢ用撮像装置１３０のそれぞれで撮像された画像信号に基づいて、撮像条件を決定するための関心領域（ＲＯＩ）を決定することがある。画像処理プロセッサ１８０が、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、及びＢ用撮像装置１３０のそれぞれで撮像された画像信号で示される画素値（輝度値）に基づいて、ＲＯＩを決定することがある。

【0050】

しかしながら、画像処理プロセッサ１８０が、そのようなＲＯＩに従って、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、及びＢ用撮像装置１３０のそれぞれの撮像条件を決定すると、特定の対象物に適した撮像条件にならない場合がある。例えば、特定の対象物が農作物などの植物であり、植物の周囲に車または道路が存在する場合、画像処理プロセッサ１８０は、車または道路を含む領域をＲＯＩに決定する場合がある。車または道路を含む領域の画素値が、植物を含む領域の画素値よりも高い場合、画像処理プロセッサ１８０は、車または道路を含む領域をＲＯＩに決定してしまう。

【0051】

例えば、図５に示すような農作物５１０と車５１２とを含む画像５００が撮像システム１００により撮像される場合、画像５００内の符号５０１で示す直線部分の輝度値（明度）の分布は、図６に示すような分布となる。すなわち、車５１２の輝度値が高くなり、画像処理プロセッサ１８０は、車５１２を含む領域をＲＯＩに決定してしまう。画像処理プロセッサ１８０は、そのような領域をＲＯＩに決定して、そのＲＯＩ内の輝度値などの画像情報で露出を決定する。この場合、農作物５１０に適した露出にならず、図５に示すように、画像５００内の農作物５１０が暗くなることがある。

【0052】

そこで、本実施形態では、特定の被写体により適した撮像条件を決定できるように、特定の被写体の特性に応じた指標でＲＯＩを決定する。被写体の特性は、撮像装置により撮像される画像からその被写体が存在する位置を推定または特定することが可能な特性であり、被写体の波長ごとの反射率、色、形、被写体が撮像される場所、時期、季節などである。

【0053】

画像処理プロセッサ１８０は、領域決定部１８１、及び撮像条件決定部１８２を含む。撮像条件決定部１８２は、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０のうちの少なくも１つにより撮像される特定の波長領域の画像に基づいて、その画像内の第１領域をＲＯＩに決定する。撮像条件決定部１８２は、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０のうちのそれぞれの第１領域に対応するそれぞれの領域の画像情報に基づいて、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０のそれぞれの撮像制御値を決定する。

【0054】

ここで、第１領域に対応する領域とは、第１領域に含まれる被写体と同一の被写体が含まれる領域である。例えば、ＮＩＲ用撮像装置１５０の第１領域に対応するＲ用撮像装置１１０の第２領域は、ＮＩＲ用撮像装置１５０の第１領域に含まれる被写体と同じ被写体が含まれるＲ用撮像装置１１０により撮像される画像内の領域である。ＮＩＲ用撮像装置１５０の第１領域に対応するＧ用撮像装置１２０の第３領域、Ｂ用撮像装置１３０の第４領域、及びＲＥ用撮像装置１４０の第５領域は、ＮＩＲ用撮像装置１５０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、及びＲＥ用撮像装置１４０により撮像される画像内の、第１領域に含まれる被写体と同一の被写体が含まれる領域である。

【0055】

画像情報は、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、またはＮＩＲ用撮像装置１５０などの各撮像装置により撮像される画像に関する情報であり、輝度情報、及び色情報などを含む。撮像制御値は、例えば、自動露出制御を実行する場合の制御値である輝度値、イメージセンサのゲイン値、絞り値（Ｉｒｉｓ値）、及びシャッター速度（蓄積時間）の少なくとも１つでよい。撮像制御値は、オートフォーカス制御を実行する場合の制御値である合焦位置（レンズ位置）でよい。また、撮像制御値は、オートホワイトバランス制御を実行する場合の制御値であるＲゲイン値及びＢゲイン値でよい。

【0056】

メモリ１９２は、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、ＮＩＲ用撮像装置１５０のそれぞれの画像の座標系の対応関係を示す情報を記憶してよい。撮像条件決定部１８２は、対応関係を示す情報に基づいて、第１領域に対応する第２領域、第３領域、第４領域、及び第５領域を特定してよい。

【0057】

ＲＯＩの決定に使用するパラメータは、特定の被写体に特有である光の反射率の特性に基づいて決定してよい。例えば、特定の被写体が、近赤外線領域の光を比較的多く反射する場合、領域決定部１８１は、近赤外線の反射率に基づいて、ＲＯＩを決定してよい。

【0058】

領域決定部１８１は、ＮＩＲ用撮像装置１５０により撮像された近赤外線領域のＮＩＲ画像に基づいて、ＮＩＲ画像内の第１領域をＲＯＩとして決定してよい。撮像条件決定部１８２は、Ｒ用撮像装置１１０により撮像される赤色領域の赤色画像内の第１領域に対応する第２領域の輝度情報に基づいて、Ｒ用撮像装置１１０の露出制御値を決定してよい。撮像条件決定部１８２は、Ｇ用撮像装置１２０により撮像される緑色領域の緑色画像内の第１領域に対応する第３領域の輝度情報に基づいて、Ｇ用撮像装置１２０の露出制御値を決定してよい。撮像条件決定部１８２は、Ｂ用撮像装置１３０により撮像される青色領域の青色画像内の第１領域に対応する第４領域の輝度情報に基づいて、Ｂ用撮像装置１３０の露出制御値を決定してよい。撮像条件決定部１８２は、ＲＥ用撮像装置１４０により撮像されるレッドエッジ領域のレッドエッジ画像内の第１領域に対応する第５領域の輝度情報に基づいて、ＲＥ用撮像装置１４０の露出制御値を決定してよい。撮像条件決定部１８２は、ＮＩＲ用撮像装置１５０により撮像される近赤外線領域の近赤外線画像内の第１領域の輝度情報に基づいて、ＮＩＲ用撮像装置１５０の露出制御値を決定してよい。

【0059】

領域決定部１８１は、近赤外線画像、及び赤色画像に基づいて、第１領域を決定してよい。領域決定部１８１は、近赤外線画像、及び緑色画像に基づいて、第１領域を決定してよい。領域決定部１８１は、近赤外線画画像、及びレッドエッジ画像に基づいて、第１領域を決定してよい。

【0060】

例えば、特定の被写体が植物の場合、標準植生指標（ＮＤＶＩ）が特有の値を示す。ＮＤＶＩは、植物が多く存在するほど高い値を示す。ＮＤＶＩは、葉が多い植物ほど高い値を示す。ＮＤＶＩは、活性度の高い植物ほど高い値を示す。特定の被写体が植物の場合、ＮＤＶＩが予め定められた値以上の値を示す。植物の種類によって、葉の多さは異なる。植物の健康状態によって活性度は異なる。したがって、特定の被写体が特定の植物の場合、標準植生指標（ＮＤＶＩ）が予め定められた範囲の値を示す。予め定められた範囲は、植物の種類、観察したい植物の健康状態などに基づいて定めてよい。

【0061】

ここで、ＮＤＶＩは、以下の式で表される。

【数1】

【0062】

ＩＲは、近赤外線領域の反射率、Ｒは、可視領域の赤色の反射率を示す。

【0063】

領域決定部１８１は、近赤外線画像及び赤色画像に基づいてＮＤＶＩを算出し、ＮＤＶＩが予め定められた値以上の第１領域をＲ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０のそれぞれのＲＯＩに決定する。領域決定部１８１は、近赤外線画像及び赤色画像のそれぞれを複数のブロックに分割して、ブロックごとの画素値に基づいて、ブロックごとにＮＤＶＩを算出してよい。領域決定部１８１は、ＮＤＶＩが予め定められた閾値以上の少なくとも１つのブロックをＲＯＩに決定してよい。領域決定部１８１は、例えば、図７に示すように画像５００を複数のブロック６００に分割して、ブロックごとにＮＤＶＩを算出する。領域決定部１８１は、例えば、図８に示すように、ＮＤＶＩが最も高いブロックをＲＯＩ６０１に決定する。撮像条件決定部１８２は、第１領域に対応する各撮像装置の各領域の輝度情報に基づいて、撮像装置の露出制御値を決定する。このようにＮＤＶＩに基づくＲＯＩ内の輝度情報に基づいて、それぞれの撮像装置の露出制御値が決定されることで、ＲＯＩ内の農作物に適した露出でそれぞれの撮像装置が画像を撮像できる。したがって、例えば、図９に示すように、農作物５３２に露出が合った画像５３０を得ることができる。なお、農作物５３２に適した露出すると、農作物５３２より明るい車両５３４などは、白とびする可能性がある。また、農作物５３２より極端に暗い被写体が存在する場合には、その被写体は画像内で黒つぶれする可能性がある。しかし、農作物５３２に着目した画像を得ることを目的としているので画像の評価に影響を与えない。

【0064】

撮像システム１００により撮像される被写体によっては、ＮＤＶＩ以外の指標によりＲＯＩが決定されたほうが好ましい場合がある。また、例えば、同一種類の農作物でも、場所、時期、または季節によって、反射率の特性が変化する可能性がある。この場合には、場所、時期、または季節などによって、ＲＯＩを決定するための指標を切り替えたほうがよい場合がある。すなわち、領域決定部１８１は、被写体の種類、及び被写体を撮像する場所、時期、または季節の少なくとも１つに基づいて、ＲＯＩを決定するための指標を選択してよい。

【0065】

例えば、領域決定部１８１は、ＳＡＶＩ（Ｓｏｌｉｄ Ａｄｊｕｓｔｅｄ Ｖｅｇｅｔａｔｉｏｎ Ｉｎｄｅｘ）に基づいて、ＲＯＩを決定してよい。ＳＡＶＩは、以下の式で表される。

【数2】

【0066】

ＳＡＶＩは、土壌の反射率の違いを考慮した指標である。土壌の反射率の違いを考慮する点で、ＮＤＶＩと異なる。Ｌは、植生が小さい場合には、１、大きい場合には、０．２５である。

【0067】

領域決定部１８１は、ｇＮＤＶＩ（Ｇｒｅｅｎ Ｎｏｒｍａｌｉｚｅｄ Ｄｉｆｆｅｒｅｎｃｅ Ｖｅｇｅｔａｔｉｏｎ Ｉｎｄｅｘ）に基づいて、ＲＯＩを決定してよい。ｇＮＤＶＩは、以下の式で表される。

【数3】

【0068】

ここで、Ｇは、可視領域の青色の反射率を示す。

【0069】

領域決定部１８１は、ＮＤＲＥ（Ｎｏｒｍａｌｉｚｅｄ Ｄｉｆｆｅｒｅｎｃｅ Ｒｅｄ ｅｄｇｅ Ｉｎｄｅｘ）に基づいて、ＲＯＩを決定してよい。ＮＤＲＥは、以下の式で表される。

【数4】

【0070】

ここで、ＮＩＲは、近赤外線の反射率、ＲＥは、レッドエッジの反射率を示す。ＮＤＲＥを用いることで、植生分布をより深く分析することができる。例えば、杉、及び檜の違いを分析することができる。領域決定部１８１は、例えば、杉の領域、または檜の領域を区別してＲＯＩを決定することができる。

【0071】

領域決定部１８１は、ＲＯＩを決定するために用いる画像として、被写体の特性に基づいて、近赤外線画像及び赤色画像、または近赤外線画像及び緑色画像を選択してよい。領域決定部１８１は、選択された近赤外線画像及び赤色画像、または近赤外線画像及び緑色画像に基づいて、ＲＯＩを決定してよい。領域決定部１８１は、ＲＯＩを決定するために用いる画像として、被写体の特性に基づいて、近赤外線画像及び赤色画像、近赤外線画像及び緑色画像、または近赤外線画像及びレッドエッジ画像を選択してよい。領域決定部１８１は、選択された近赤外線画像及び赤色画像、近赤外線画像及び緑色画像、または近赤外線画像及びレッドエッジに基づいて、ＲＯＩを決定してよい。

【0072】

領域決定部１８１は、被写体の特性に基づいて、ＮＤＶＩ、ＳＡＶＩ、ｇＮＤＶＩ、またはＮＤＲＥを選択して、選択されたＮＤＶＩ、ＳＡＶＩ、ｇＮＤＶＩ、またはＮＤＲＥに基づいてＲＯＩを決定してよい。領域決定部１８１は、被写体となる植物の特性に基づいて、ＮＤＶＩ、ＳＡＶＩ、ｇＮＤＶＩ、またはＮＤＲＥを選択してよい。領域決定部１８１は、被写体の種類、被写体を撮像する場所、時期、または季節の少なくとも１つに基づいて、ＮＤＶＩ、ＳＡＶＩ、ｇＮＤＶＩ、またはＮＤＲＥを選択してよい。

【0073】

領域決定部１８１は、受付部１８４を介してユーザから指定された被写体の種類に基づいて、ＲＯＩを決定するための指標として、ＮＤＶＩ、ＳＡＶＩ、ｇＮＤＶＩ、またはＮＤＲＥを選択してよい。領域決定部１８１は、農作物の種類に基づいて、ＲＯＩを決定するための指標として、ＮＤＶＩ、ＳＡＶＩ、ｇＮＤＶＩ、またはＮＤＲＥを選択してよい。

【0074】

図１０は、露出制御値を決定する手順の一例を示すフローチャートである。領域決定部１８１は、ＲＯＩを決定するための指標を算出するために必要な画像を取得する（Ｓ１００）。領域決定部１８１は、例えば、ＮＶＤＩを導出するために、ＮＩＲ用撮像装置１５０により撮像された近赤外線画像、及びＲ用撮像装置１１０により撮像された赤色画像を取得する。領域決定部１８１は、画像に複数のブロックを設定する（Ｓ１０２）。領域決定部１８１は、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０のそれぞれに共通の座標系で、複数のブロックを設定してよい。

【0075】

領域決定部１８１は、近赤外線画像の各ブロックから導出される各ブロックの近赤外線の反射率、及び赤色画像の各ブロックから導出される各ブロックの赤色領域の反射率に基づいて、各ブロックのＮＤＶＩを導出する（Ｓ１０４）。領域決定部１８１は、複数のブロックのそれぞれのＮＤＶＩから、植物に対応するＮＤＶＩを示す少なくとも１つのブロックを抽出する（Ｓ１０６）。領域決定部１８１は、予め定められた閾値以上のＮＤＶＩを示す少なくとも１つのブロックを抽出してよい。領域決定部１８１は、予め定められた閾値以上で、かつ最大のＮＤＶＩを示す少なくとも１つのブロックを抽出してよい。領域決定部１８１は、予め定められた下限閾値以上かつ、予め定められた上限閾値以下のＮＤＶＩを示す少なくとも１つのブロックを抽出してよい。

【0076】

植物に対応するＮＤＶＩを示すブロックが存在する場合、領域決定部１８１は、植物に対応するＮＤＶＩを示すブロックをＲＯＩに設定する（Ｓ１０８）。一方、植物に対応するＮＤＶＩを示すブロックが存在しない場合、領域決定部１８１は、すべてのブロックをＲＯＩに設定する（Ｓ１１０）。

【0077】

撮像条件決定部１８２は、各撮像装置の各ＲＯＩの画像情報に基づいて各撮像装置の露出制御値を決定する（Ｓ１１２）。撮像条件決定部１８２は、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０のそれぞれに撮像されたそれぞれの画像内の、ＲＯＩに対応するそれぞれの領域の輝度情報に基づいて、Ｒ用撮像装置１１０、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０のそれぞれの露出制御値を決定してよい。

【0078】

以上の通り、本実施形態に係る撮像システム１００によれば、被写体の特性に応じた指標に従って、撮像条件を決定するために参照すべきＲＯＩを決定できる。これにより、撮像システム１００は、例えば、注目すべき植物の周辺に輝度の高い車などの他の被写体が存在する場合でも、植物に最適な露出でそれぞれの画像を撮像できる。

【0079】

図１１は、ＵＡＶ１０に搭載される撮像システム１００の外観の他の一例を示す図である。撮像システム１００は、Ｇ用撮像装置１２０、Ｂ用撮像装置１３０、ＲＥ用撮像装置１４０、及びＮＩＲ用撮像装置１５０に加えて、ＲＧＢ用撮像装置１６０を備える点で、図２に示す撮像システム１００と異なる。ＲＧＢ用撮像装置１６０は、通常のカメラと同様でよく、光学系と、イメージセンサを有する。イメージセンサは、ベイヤ配列で配置された、赤色領域の波長帯域の光を透過するフィルタ、緑色領域の波長帯域の光を透過するフィルタ、及び青色領域の波長帯域の光を透過するフィルタを有してよい。ＲＧＢ用撮像装置１６０は、ＲＧＢ画像を出力してよい。赤色領域の波長帯域は、例えば、６２０ｎｍ〜７５０ｎｍでよい。緑色領域の波長帯域は、例えば、５００ｎｍ〜５７０ｎｍでよい。青色領域の波長帯域は、例えば、４５０ｎｍ〜５００ｎｍである。

【0080】

領域決定部１８１は、ＮＩＲ用撮像装置１５０により撮像される近赤外画像と、Ｒ用撮像装置１１０により撮像される赤色画像とに基づいて、近赤外画像内の第１領域をＲＯＩに決定してよい。領域決定部１８１は、ＮＩＲ用撮像装置１５０により撮像される近赤外画像と、Ｒ用撮像装置１１０により撮像される赤色画像とに基づいてＮＤＶＩを導出し、近赤外画像内の予め定められた閾値以上のＮＤＶＩを示す第１領域をＲＯＩに決定してよい。撮像条件決定部１８２は、ＲＧＢ用撮像装置１６０により撮像されるＲＧＢ画像内の第１領域に対応する領域の画像情報に基づいて、ＲＧＢ用撮像装置１６０の撮像制御値を決定してよい。撮像条件決定部１８２は、ＲＧＢ用撮像装置１６０により撮像されるＲＧＢ画像内の第１領域に対応する領域の輝度情報に基づいて、ＲＧＢ用撮像装置１６０の露出制御値を決定してよい。

【0081】

図１２は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の１または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ１２００に当該オペレーションまたは当該１または複数の「部」を実行させることができる。当該プログラムは、コンピュータ１２００に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。

【0082】

本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、及びＲＡＭ１２１４を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、入力／出力ユニットを含み、それらは入力／出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。コンピュータ１２００はまた、ＲＯＭ１２３０を含む。ＣＰＵ１２１２は、ＲＯＭ１２３０及びＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。

【0083】

通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラム及びデータを格納してよい。ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、及び／またはコンピュータ１２００のハードウェアに依存するプログラムを格納する。プログラムが、ＣＲ−ＲＯＭ、ＵＳＢメモリまたはＩＣカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるＲＡＭ１２１４、またはＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ１２００の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。

【0084】

例えば、通信がコンピュータ１２００及び外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、またはＵＳＢメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。

【0085】

また、ＣＰＵ１２１２は、ＵＳＢメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。

【0086】

様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、第１の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。

【0087】

上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ１２００上またはコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。

【0088】

特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。

【0089】

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

【符号の説明】

【0090】

１０ ＵＡＶ
２０ ＵＡＶ本体
３０ ＵＡＶ制御部
３２ メモリ
３６ 通信インタフェース
４０ 推進部
４１ ＧＰＳ受信機
４２ 慣性計測装置
４３ 磁気コンパス
４４ 気圧高度計
４５ 温度センサ
４６ 湿度センサ
５０ ジンバル
６０ 撮像装置
１００ 撮像システム
１１０ Ｒ用撮像装置
１１２ Ｒ用イメージセンサ
１１４ 光学系
１２０ Ｇ用撮像装置
１２２ Ｇ用イメージセンサ
１２４ 光学系
１３０ Ｂ用撮像装置
１３２ Ｂ用イメージセンサ
１３４ 光学系
１４０ ＲＥ用撮像装置
１４２ ＲＥ用イメージセンサ
１４４ 光学系
１５０ ＮＩＲ用撮像装置
１５２ ＮＩＲ用イメージセンサ
１５４ 光学系
１６０ ＲＧＢ用撮像装置
１７０ マルチプレックス
１７２ 入力受付部
１７４ デモザイク処理部
１７８ 記録処理部
１８０ 画像処理プロセッサ
１８１ 領域決定部
１８２ 撮像条件決定部
１８４ 受付部
１８６ 切替部
１９０ 送信部
１９２ メモリ
３００ 遠隔操作装置
１２００ コンピュータ
１２１０ ホストコントローラ
１２１２ ＣＰＵ
１２１４ ＲＡＭ
１２２０ 入力／出力コントローラ
１２２２ 通信インタフェース
１２３０ ＲＯＭ

【要約】

【課題】複数の波長帯域ごとに画像を撮像するマルチスペクトルカメラにおいて、特定の対象物に適した撮像条件を適切に設定できない場合がある。
【解決手段】決定装置は、第１撮像装置が備える第１イメージセンサにより撮像される第１波長領域の第１画像に基づいて、第１画像内の第１領域を決定し、第２撮像装置が備える第２イメージセンサにより撮像される第２波長領域の第２画像内の第１領域に対応する第２領域の画像情報に基づいて、第２撮像装置の撮像制御値を決定するように構成された回路を備えてよい。
【選択図】図１０

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】