特許 6961889 制御装置、撮像装置、制御方法、及びプログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B1)

(11)【特許番号】6961889

(24)【登録日】2021年10月18日

(45)【発行日】2021年11月5日

(54)【発明の名称】制御装置、撮像装置、制御方法、及びプログラム

(51)【国際特許分類】

   H04N 5/232 20060101AFI20211025BHJP

   G02B 7/28 20210101ALI20211025BHJP

   G02B 7/36 20210101ALI20211025BHJP

   G02B 7/40 20210101ALI20211025BHJP

   G03B 13/36 20210101ALI20211025BHJP

   G03B 17/18 20210101ALI20211025BHJP

【ＦＩ】

   H04N5/232 945

   G02B7/28 N

   G02B7/36

   G02B7/40

   G03B13/36

   G03B17/18 Z

【請求項の数】9

【全頁数】15

(21)【出願番号】特願2020-112988(P2020-112988)

(22)【出願日】2020年6月30日

【審査請求日】2020年6月30日

(73)【特許権者】

【識別番号】513068816

【氏名又は名称】エスゼット ディージェイアイ テクノロジー カンパニー リミテッド

【氏名又は名称原語表記】ＳＺ ＤＪＩ ＴＥＣＨＮＯＬＯＧＹ ＣＯ．，ＬＴＤ

(74)【代理人】

【識別番号】110000877

【氏名又は名称】龍華国際特許業務法人

(72)【発明者】

【氏名】周 長波

【審査官】 ▲徳▼田 賢二

(56)【参考文献】

【文献】 特開２００７−１９５０９７（ＪＰ，Ａ）

【文献】 特開２００３−１３１１２１（ＪＰ，Ａ）

(58)【調査した分野】（Int.Cl.，ＤＢ名）

Ｈ０４Ｎ ５／２３２

Ｇ０２Ｂ ７／２８

Ｇ０２Ｂ ７／３６

Ｇ０２Ｂ ７／４０

Ｇ０３Ｂ １３／３６

Ｇ０３Ｂ １７／１８

(57)【特許請求の範囲】

【請求項1】

測距センサ及びフォーカスレンズを備える撮像装置を制御する制御装置であって、
前記撮像装置により撮像される画像内の第１撮像領域のコントラスト値を取得し、
前記第１撮像領域に対応する第１測距領域に関連する被写体までの距離を示す第１距離情報を前記測距センサから取得し、
前記フォーカスレンズの位置に基づく合焦状態となる被写体までの距離または距離範囲の少なくとも一方を示す第２距離情報を取得し、
前記第１撮像領域のコントラスト値が予め定められた閾値以上で、かつ前記第１距離情報に示される距離と前記第２距離情報に示される距離または距離範囲の少なくとも一方との関係が、予め定められた条件を満たす場合、前記第１撮像領域に存在する被写体が合焦状態であることを示す指標を、前記画像の前記第１撮像領域に重畳させて前記画像とともに表示部に表示させるように構成される回路を備える制御装置。

【請求項2】

前記回路は、前記第１距離情報に示される距離と前記第２距離情報に示される距離との差が予め定められた閾値より小さい場合、前記第１距離情報に示される距離と前記第２距離情報に示される距離との関係が、前記予め定められた条件を満たすと判断するように構成される、請求項１に記載の制御装置。

【請求項3】

前記回路は、
前記第１距離情報に示される距離が前記第２距離情報に示される距離範囲内に含まれる場合、前記第１距離情報に示される距離と前記第２距離情報に示される距離との関係が、前記予め定められた条件を満たすと判断するように構成される、請求項１に記載の制御装置。

【請求項4】

前記回路は、前記第１距離情報に示される距離と前記第２距離情報に示される距離との差が予め定められた閾値より小さく、かつ前記第１距離情報に示される距離が前記第２距離情報に示される距離範囲内に含まれる場合、前記第１距離情報に示される距離と前記第２距離情報に示される距離との関係が、前記予め定められた条件を満たすと判断するように構成される、請求項１に記載の制御装置。

【請求項5】

前記回路は、前記画像の前記第１撮像領域に存在する前記被写体のエッジ部分に前記指標を重畳させて前記画像とともに前記表示部に表示させるように構成される、請求項１に記載の制御装置。

【請求項6】

前記測距センサは、ＴＯＦセンサである、請求項１に記載の制御装置。

【請求項7】

請求項１から６の何れか１つに記載の制御装置と、
前記測距センサと、
前記フォーカスレンズと
を備える撮像装置。

【請求項8】

測距センサ及びフォーカスレンズを備える撮像装置を制御する制御方法であって、
前記撮像装置により撮像される画像内の第１撮像領域のコントラスト値を取得する段階と、
前記第１撮像領域に対応する第１測距領域に関連する被写体までの距離を示す第１距離情報を前記測距センサから取得する段階と、
前記フォーカスレンズの位置に基づく合焦状態となる被写体までの距離または距離範囲の少なくとも一方を示す第２距離情報を取得する段階と、
前記第１撮像領域のコントラスト値が予め定められた閾値以上で、かつ前記第１距離情報に示される距離と前記第２距離情報に示される距離または距離範囲の少なくとも一方との関係が、予め定められた条件を満たす場合、前記第１撮像領域に存在する被写体が合焦状態であることを示す指標を、前記画像の前記第１撮像領域に重畳させて前記画像とともに表示部に表示させる段階と
を備える制御方法。

【請求項9】

請求項１から６の何れか１つに記載の制御装置としてコンピュータを機能させるためのプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、制御装置、撮像装置、制御方法、及びプログラムに関する。

【背景技術】

【0002】

特許文献１には、「ライブビュー画像の表示でピントが合った部分の輪郭を強調するフォーカスピーキング」が記載されている。
［先行技術文献］
［特許文献］
［特許文献１］ 再表２０１７／１８８１５０号公報

【発明の概要】

【発明が解決しようとする課題】

【0003】

撮影環境によっては、コントラスト値に基づく被写体の合焦状態の判断の精度が低下することがある。これにより、コントラスト値に基づき判断されるフォーカスピーキングすべき位置の精度が低下することがある。

【課題を解決するための手段】

【0004】

本発明の一態様に係る制御装置によれば、測距センサ及びフォーカスレンズを備える撮像装置を制御する制御装置でよい。制御装置は、撮像装置により撮像される画像内の第１撮像領域のコントラスト値を取得するように構成される回路を備えてよい。回路は、第１撮像領域に対応する第１測距領域に関連する被写体までの距離を示す第１距離情報を測距センサから取得するように構成されてよい。回路は、フォーカスレンズの位置に基づく合焦状態となる被写体までの距離または距離範囲の少なくとも一方を示す第２距離情報を取得するように構成されてよい。回路は、第１撮像領域のコントラスト値が予め定められた閾値以上で、かつ第１距離情報に示される距離と第２距離情報に示される距離または距離範囲の少なくとも一方との関係が、予め定められた条件を満たす場合、第１撮像領域に存在する被写体が合焦状態であることを示す指標を、画像の第１撮像領域に重畳させて画像とともに表示部に表示させるように構成されてよい。

【0005】

回路は、第１距離情報に示される距離と第２距離情報に示される距離との差が予め定められた閾値より小さい場合、第１距離情報に示される距離と第２距離情報に示される距離との関係が、予め定められた条件を満たすと判断するように構成されてよい。

【0006】

回路は、第１距離情報に示される距離が第２距離情報に示される距離範囲内に含まれる場合、第１距離情報に示される距離と第２距離情報に示される距離との関係が、予め定められた条件を満たすと判断するように構成されてよい。

【0007】

回路は、第１距離情報に示される距離と第２距離情報に示される距離との差が予め定められた閾値より小さく、かつ第１距離情報に示される距離が第２距離情報に示される距離範囲内に含まれる場合、第１距離情報に示される距離と第２距離情報に示される距離との関係が、予め定められた条件を満たすと判断するように構成されてよい。

【0008】

回路は、画像の第１撮像領域に存在する被写体のエッジ部分に指標を重畳させて画像とともに表示部に表示させるように構成されてよい。

【0009】

測距センサは、ＴＯＦセンサでよい。

【0010】

本発明の一態様に係る撮像装置は、上記制御装置と、測距センサと、フォーカスレンズとを備えてよい。

【0011】

本発明の一態様に係る制御方法は、測距センサ及びフォーカスレンズを備える撮像装置を制御する制御方法でよい。制御方法は、撮像装置により撮像される画像内の第１撮像領域のコントラスト値を取得する段階を備えてよい。制御方法は、第１撮像領域に対応する第１測距領域に関連する被写体までの距離を示す第１距離情報を測距センサから取得する段階を備えてよい。制御方法は、フォーカスレンズの位置に基づく合焦状態となる被写体までの距離または距離範囲の少なくとも一方を示す第２距離情報を取得する段階を備えてよい。制御方法は、第１撮像領域のコントラスト値が予め定められた閾値以上で、かつ第１距離情報に示される距離と第２距離情報に示される距離または距離範囲の少なくとも一方との関係が、予め定められた条件を満たす場合、第１撮像領域に存在する被写体が合焦状態であることを示す指標を、画像の第１撮像領域に重畳させて画像とともに表示部に表示させる段階を備えてよい。

【0012】

本発明の一態様に係るプログラムは、上記制御装置としてコンピュータを機能させるためのプログラムでよい。

【0013】

本発明の一態様によれば、フォーカスピーキングすべき位置の精度の低下を抑制できる。

【0014】

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。

【図面の簡単な説明】

【0015】

【図1】撮像装置の機能ブロックを示す図である。

【図2】フォーカスピーキングの表示例を示す図である。

【図3】撮像領域について説明するための図である。

【図4】測距領域について説明するための図である。

【図5】フォーカスピーキングの処理手順の一例を示すフローチャートである。

【図6】無人航空機及び遠隔操作装置の外観の一例を示す図である。

【図7】ハードウェア構成の一例を示す図である。

【発明を実施するための形態】

【0016】

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施の形態は特許請求の範囲に係る発明を限定するものではない。また、実施の形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。以下の実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

【0017】

特許請求の範囲、明細書、図面、及び要約書には、著作権による保護の対象となる事項が含まれる。著作権者は、これらの書類の何人による複製に対しても、特許庁のファイルまたはレコードに表示される通りであれば異議を唱えない。ただし、それ以外の場合、一切の著作権を留保する。

【0018】

本発明の様々な実施形態は、フローチャート及びブロック図を参照して記載されてよく、ここにおいてブロックは、（１）操作が実行されるプロセスの段階または（２）操作を実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、プログラマブル回路、及び／またはプロセッサによって実装されてよい。専用回路は、デジタル及び／またはアナログハードウェア回路を含んでよい。集積回路（ＩＣ）及び／またはディスクリート回路を含んでよい。プログラマブル回路は、再構成可能なハードウェア回路を含んでよい。再構成可能なハードウェア回路は、論理ＡＮＤ、論理ＯＲ、論理ＸＯＲ、論理ＮＡＮＤ、論理ＮＯＲ、及び他の論理操作、フリップフロップ、レジスタ、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、プログラマブルロジックアレイ（ＰＬＡ）等の様なメモリ要素等を含んでよい。

【0019】

コンピュータ可読媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよい。その結果、そこに格納される命令を有するコンピュータ可読媒体は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読媒体のより具体的な例としては、フロッピー（登録商標）ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭまたはフラッシュメモリ）、電気的消去可能プログラマブルリードオンリメモリ（ＥＥＰＲＯＭ（登録商標））、静的ランダムアクセスメモリ（ＳＲＡＭ）、コンパクトディスクリードオンリメモリ（ＣＤ-ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（登録商標）ディスク、メモリスティック、集積回路カード等が含まれてよい。

【0020】

コンピュータ可読命令は、１または複数のプログラミング言語の任意の組み合わせで記述されたソースコードまたはオブジェクトコードの何れかを含んでよい。ソースコードまたはオブジェクトコードは、従来の手続型プログラミング言語を含む。従来の手続型プログラミング言語は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、またはＳｍａｌｌｔａｌｋ（登録商標）、ＪＡＶＡ（登録商標）、Ｃ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語または同様のプログラミング言語でよい。コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサまたはプログラマブル回路に対し、ローカルにまたはローカルエリアネットワーク（ＬＡＮ）、インターネット等のようなワイドエリアネットワーク（ＷＡＮ）を介して提供されてよい。プロセッサまたはプログラマブル回路は、フローチャートまたはブロック図で指定された操作を実行するための手段を作成すべく、コンピュータ可読命令を実行してよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。

【0021】

図１は、本実施形態に係る撮像装置１００の機能ブロックの一例を示す。撮像装置１００は、撮像部１０２、ＴＯＦセンサ１６０、及びレンズ部２００を備える。撮像部１０２は、イメージセンサ１２０、撮像制御部１１０、メモリ１７０、表示部１８０、及び操作部１８２を有する。

【0022】

イメージセンサ１２０は、ＣＣＤまたはＣＭＯＳにより構成されてよい。イメージセンサ１２０は、複数のレンズ１５４を介して結像された光学像の画像データを撮像制御部１１０に出力する。撮像制御部１１０は、ＣＰＵまたはＭＰＵ等のマイクロプロセッサ、ＭＣＵ等のマイクロコントローラ等により構成されてよい。

【0023】

撮像制御部１１０は、操作部１８２からの撮像装置１００の動作命令に応じて、撮像制御部１１０は、イメージセンサ１２０から出力された画像信号にデモザイク処理を施すことで画像データを生成する。撮像制御部１１０は、画像データをメモリ１７０に格納する。撮像制御部１１０は、ＴＯＦセンサ１６０を制御する。撮像制御部１１０は、回路の一例である。ＴＯＦセンサ１６０は、対象物までの距離を測距する飛行時間型センサである。撮像装置１００は、ＴＯＦセンサ１６０により測距された距離に基づいて、フォーカスレンズの位置を調整することで、合焦制御を実行する。

【0024】

メモリ１７０は、コンピュータ可読可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びＵＳＢメモリ等のフラッシュメモリの少なくとも１つを含んでよい。メモリ１７０は、撮像制御部１１０がイメージセンサ１２０等を制御するのに必要なプログラム等を格納する。メモリ１７０は、撮像装置１００の筐体の内部に設けられてよい。

【0025】

複数のレンズ１５４は、ズームレンズ、バリフォーカルレンズ、及びフォーカスレンズとして機能してよい。複数のレンズ１５４の少なくとも一部または全部は、光軸に沿って移動可能に配置される。レンズ制御部１５０は、撮像制御部１１０からのレンズ制御命令に従って、レンズ駆動部１５２を駆動して、１または複数のレンズ１５４を光軸方向に沿って移動させる。レンズ制御命令は、例えば、ズーム制御命令、及びフォーカス制御命令である。レンズ駆動部１５２は、複数のレンズ１５４の少なくとも一部または全部を光軸方向に移動させるボイスコイルモータ（ＶＣＭ）を含んでよい。レンズ駆動部１５２は、ＤＣモータ、コアレスモータ、または超音波モータ等の電動機を含んでよい。レンズ駆動部１５２は、電動機からの動力をカム環、ガイド軸等の機構部材を介して複数のレンズ１５４の少なくとも一部または全部に伝達して、複数のレンズ１５４の少なくとも一部または全部を光軸に沿って移動させてよい。本実施形態では、複数のレンズ１５４は、撮像装置１００と一体型の例について説明する。しかし、複数のレンズ１５４は、交換レンズでよく、撮像装置１００とは別体で構成されてもよい。

【0026】

表示部１８０は、イメージセンサ１２０から出力された画像を表示してよい。表示部１８０は、撮像装置１００の各種の設定情報を表示してよい。表示部１８０は、液晶ディスプレイ、タッチパネルディスプレイなどでよい。表示部１８０は、複数の液晶ディスプレイ、またはタッチパネルディスプレイを含んでよい。

【0027】

ＴＯＦセンサ１６０は、発光部１６２、受光部１６４、発光制御部１６６、受光制御部１６７、及びメモリ１６８を備える。ＴＯＦセンサ１６０は、測距センサの一例である。撮像装置１００は、ＴＯＦセンサ１６０の代わりに、視差に基づいて測距するステレオカメラなどの他の測距センサを備えてもよい。発光部１６２は、少なくとも１つの発光素子１６３を含む。発光素子１６３は、ＬＥＤまたはレーザ等の高速変調されたパルス光を繰り返し出射するデバイスである。発光素子１６３は、赤外光であるパルス光を出射してよい。発光制御部１６６は、発光素子１６３の発光を制御する。発光制御部１６６は、発光素子１６３から出射されるパルス光のパルス幅を制御してよい。

【0028】

受光部１６４は、複数の測距領域のそれぞれに関連する被写体までの距離を測距する複数の受光素子１６５を含む。複数の受光素子１６５は、複数の測距領域のそれぞれに対応する。受光素子１６５は、対象物からのパルス光の反射光を繰り返し受光する。受光制御部１６７は、受光素子１６５の受光を制御する。受光制御部１６７は、予め定められた受光期間に受光素子１６５が繰り返し受光する反射光の量に基づいて、複数の測距領域のそれぞれに関連する被写体までの距離を測距する。受光制御部１６７は、予め定められた受光期間に受光素子１６５が繰り返し受光する反射光の量に基づいて、パルス光と反射光との間の位相差を特定することで、被写体までの距離を測距してよい。受光部１６４は、反射波の周波数変化を読み取ることで、被写体までの距離を測距してよい。これはＦＭＣＷ（Ｆｒｅｑｕｅｎｃｙ Ｍｏｄｕｌａｔｅｄ Ｃｏｎｔｉｎｕｏｕｓ Ｗａｖｅ）方式と呼ばれる。

【0029】

メモリ１６８は、コンピュータ可読可能な記録媒体でよく、ＳＲＡＭ、ＤＲＡＭ、ＥＰＲＯＭ、及びＥＥＰＲＯＭの少なくとも１つを含んでよい。メモリ１６８は、発光制御部１６６が発光部１６２を制御するために必要なプログラム、及び受光制御部１６７が受光部１６４を制御するのに必要なプログラム等を格納する。

【0030】

ＴＯＦセンサ１６０は、受光部１６４の画素数に対応する複数の測距領域のそれぞれに関連する被写体までの距離を測距できる。

【0031】

このように構成された撮像装置１００は、マニュアルフォーカスモードで、ユーザからの指示に応じてフォーカスレンズの位置を調整する。撮像装置１００は、マニュアルフォーカスモードで動作している場合、フォーカスピーキングを実行する。フォーカスピーキングは、被写体の合焦状態の度合いを視覚的にユーザに示して、フォーカスレンズの位置の調整を補助する機能である。撮像装置１００は、例えば、図２に示すように、画像１８５の合焦状態となった被写体のエッジ部分に指標１８４を重畳させることで、合焦状態となった部分を強調してよい。撮像装置１００は、オートフォーカスモードで動作している場合、どこの領域が合焦状態であるかを視覚的にユーザに示すために、フォーカスピーキングを実行してもよい。

【0032】

ここで、撮像装置１００は、画像内のコントラスト値が予め定められた閾値以上である領域を特定し、特定された領域に含まれる被写体が合焦状態であることを示す指標を、撮像装置１００により撮像される画像に重畳させて表示部１８０に表示させることが考えらえる。

【0033】

しかし、撮像装置１００が撮像する環境によっては、撮像制御部１１０が、合焦状態となる被写体のコントラスト値と、合焦状態となっていない被写体のコントラスト値との差がほとんどない場合がある。したがって、画像内のそれぞれの領域のコントラスト値の大きさの違いで合焦状態かどうかを判断しても、撮像装置１００は、実際に合焦状態となっている被写体のエッジ部分を特定できない場合がある。

【0034】

例えば、光源が暗く、絞りが小さく、かつ焦点距離が長いレンズが、撮像装置１００に搭載されている場合、撮像装置１００により撮像される画像は、不鮮明で、ノイズが多い。このような画像の場合、合焦状態となる被写体のコントラスト値と、合焦状態となっていない被写体のコントラスト値との差がほとんどない。このような場合、実際には合焦状態になっていない被写体のエッジ部分を含む全体のエッジ部分が強調されて、撮像装置１００により撮像された画像とともに表示部１８０に表示されてしまう。

【0035】

また、合焦状態かどうかの判断基準となる閾値を、焦点距離及びＩＳＯ感度に対応付けてメモリに記憶しておくことが考えられる。さらに、撮像装置１００は、撮像装置１００の解像度と撮像装置１００により撮像される画像のノイズレベルに応じて閾値を調整することが考えられる。しかし、閾値は、レンズの光学特性により変わるので、交換レンズが装着される撮像装置１００では、閾値を適切に設定できない場合がある。また、上記のように、ノイズレベルの高い撮像環境では、閾値の大きさを調整するだけでは、撮像装置１００は、合焦状態となる被写体のコントラスト値と、合焦状態となっていない被写体のコントラスト値とを区別できない場合がある。

【0036】

加えて、ユーザが、撮影環境に応じて、手動で閾値を設定することも考えられる。例えば、「高」、「中」、「低」の３段階の閾値を予めメモリに記憶しておき、ユーザが、撮像環境に応じて、閾値を選択することが考えられる。しかし、このような場合でも、ノイズレベルの高い撮像環境では、閾値の大きさを調整するだけでは、撮像装置１００は、合焦状態となる被写体のコントラスト値と、合焦状態となっていない被写体のコントラスト値とを区別できない場合がある。

【0037】

そこで、本実施形態に係る撮像装置１００は、コントラスト値以外に、ＴＯＦセンサ１６０の測距結果を判断基準に利用して、画像内の合焦状態となっている被写体を含む領域を特定する。

【0038】

撮像制御部１１０は、撮像装置１００により撮像される画像内の第１撮像領域のコントラスト値を取得する。撮像制御部１１０は、第１撮像領域に対応する第１測距領域に関連する被写体までの距離を示す第１距離情報をＴＯＦセンサ１６０から取得する。撮像制御部１１０は、フォーカスレンズの位置に基づく合焦状態となる被写体までの距離または距離範囲の少なくとも一方を示す第２距離情報を取得する。

【0039】

フォーカスレンズの位置と、合焦状態となる被写体までの距離とを対応づけたテーブルがメモリ１７０に記憶されていてよい。そして、撮像制御部１１０は、現在のフォーカスレンズの位置を特定し、テーブルを参照することで、現在のフォーカスレンズの位置に対応する被写体までの距離を特定してよい。

【0040】

フォーカスレンズの位置と、合焦状態となる被写体までの距離範囲を示す被写界深度とを対応付けたテーブルがメモリ１７０に記憶されていてよい。そして、撮像制御部１１０は、現在のフォーカスレンズの位置を特定し、テーブルを参照することで、現在のフォーカスレンズの位置に対応する被写界深度を特定してよい。撮像制御部１１０は、フォーカスレンズの位置に対応する値を変数として含む予め定められた関数に従って、現在のフォーカスレンズの位置での被写界深度を、合焦状態となる被写体までの距離範囲として導出してよい。

【0041】

撮像制御部１１０は、第１撮像領域のコントラスト値が予め定められた閾値以上で、かつ第１距離情報に示される距離と第２距離情報に示される距離または距離範囲の少なくとも一方との関係が、予め定められた条件を満たす場合、第１撮像領域に存在する被写体が合焦状態であることを示す指標を、画像の第１撮像領域に重畳させて画像とともに表示部１８０に表示させる。

【0042】

撮像制御部１１０は、合焦状態となる被写体のエッジ部分に沿った線を指標として、画像に重畳させて表示部１８０に表示させてよい。撮像制御部１１０は、合焦状態となる被写体のエッジ部分に沿った点の集合を指標として、画像に重畳させて表示部１８０に表示させてよい。

【0043】

撮像制御部１１０は、第１距離情報に示される距離と第２距離情報に示される距離との差が予め定められた閾値より小さい場合、第１距離情報に示される距離と第２距離情報に示される距離との関係が、予め定められた条件を満たすと判断してよい。

【0044】

撮像制御部１１０は、第１距離情報に示される距離が第２距離情報に示される距離範囲内に含まれる場合、第１距離情報に示される距離と第２距離情報に示される距離との関係が、予め定められた条件を満たすと判断してよい。

【0045】

撮像制御部１１０は、第１距離情報に示される距離と第２距離情報に示される距離との差が予め定められた閾値より小さく、かつ第１距離情報に示される距離が第２距離情報に示される距離範囲内に含まれる場合、第１距離情報に示される距離と第２距離情報に示される距離との関係が、予め定められた条件を満たすと判断してよい。

【0046】

撮像制御部１１０は、撮像装置１００により撮像される画像を複数の撮像領域に分割して、複数の撮像領域ごとにコントラスト値を算出する。コントラスト値は、撮像領域内に含まれる画素値の分布の拡がりを示す値でよい。例えば、撮像領域内の最大輝度をＬｍａｘ、最小輝度をＬｍｉｎとして、撮像制御部１１０は、（Ｌｍａｘ−Ｌｍｉｎ）／（Ｌｍａｘ＋Ｌｍｉｎ）によりコントラスト値を算出してよい。

【0047】

撮像制御部１１０は、ＴＯＦセンサ１６０により測距されるそれぞれの測距領域に関連する被写体までの距離を特定する。撮像制御部１１０は、画像内のそれぞれの撮像領域と、それぞれの測距領域との予め定められた対応関係に基づいて、それぞれの撮像領域に対応する測距領域を特定してよい。

【0048】

撮像制御部１１０は、例えば、図３に示すように、撮像装置１００により撮像される画像内のそれぞれの撮像領域（１）〜（９）のコントラスト値を算出する。撮像制御部１１０は、例えば、図４に示すように、ＴＯＦセンサ１６０により測距されたそれぞれの撮像領域（１）〜（９）に対応するそれぞれの測距領域（１）〜（９）に関連する被写体までの距離を特定する。

【0049】

撮像制御部１１０は、例えば、コントラスト値の閾値を６０に設定する。これにより、撮像制御部１１０は、閾値より高いコントラスト値を有する撮像領域として、撮像領域（１）及び撮像領域（５）を特定する。

【0050】

撮像制御部１１０は、現在のフォーカスレンズの位置に基づいて、例えば、被写体までの距離を１ｍと特定する。そして、撮像制御部１１０は、現在のフォーカスレンズの位置に基づく被写体までの距離と、ＴＯＦセンサ１６０の測距結果に基づく被写体までの距離との差が１ｍ以下である場合、予め定められた条件を満たすと判断する。撮像制御部１１０は、測距領域（５）を予め定められた条件を満たす測距領域として特定する。

【0051】

撮像制御部１１０は、測距領域（５）に対応する撮像領域（５）を合焦状態となる被写体を含む撮像領域として特定する。撮像制御部１１０は、閾値以上のコントラスト値を有する撮像領域（１）をノイズを含む撮像領域と判断し、撮像領域（１）を合焦状態となっている被写体を含む撮像領域から除外する。そして、撮像制御部１１０は、撮像領域（５）に含まれる被写体のエッジ部分を強調させて、撮像装置１００により撮像される画像を表示部１８０に表示させる。

【0052】

図５は、撮像制御部１１０によるフォーカスピーキングの処理手順の一例を示すフローチャートである。

【0053】

撮像制御部１１０は、ＴＯＦセンサ１６０の測距結果に基づいて、画像内の各撮像領域に対応する各測距領域に関連する被写体までの距離を特定する（Ｓ１００）。撮像制御部１１０は、現在のフォーカスレンズの位置を特定する。撮像制御部１１０は、特定された現在のフォーカスレンズの位置に基づいて、合焦状態となる被写体までの距離を特定する（Ｓ１０２）。

【0054】

撮像制御部１１０は、現在のフォーカスレンズの位置に基づく合焦状態となる被写体までの距離との関係で予め定められた条件を満たす距離の撮像領域があるかどうかを判定する（Ｓ１０４）、撮像制御部１１０は、現在のフォーカスレンズの位置に基づく合焦状態となる被写体までの距離と、ＴＯＦセンサ１６０の測距結果に基づく被写体までの距離との差が予め定められた閾値（例えば、１ｍ）以下の撮像領域があるかどうかを判定する。

【0055】

該当する撮像領域が存在する場合、撮像制御部１１０は、該当する撮像領域のコントラスト値を特定する（Ｓ１０６）。次いで、撮像制御部１１０は、特定されたコントラスト値が、予め定められた閾値以上であるかどうかを判定する（Ｓ１０８）。撮像制御部１１０は、特定されたコントラスト値が、予め定められた閾値以上であれば、該当する撮像領域に存在する被写体を表示部１８０に強調表示させる（Ｓ１１０）。撮像制御部１１０は、該当する撮像領域に存在する被写体のエッジ部分を強調させて、撮像装置１００により撮像される画像を表示部１８０に表示させてよい。

【0056】

一方、現在のフォーカスレンズの位置に基づく合焦状態となる被写体までの距離との関係で予め定められた条件を満たす距離の撮像領域が存在しない場合、または特定されたコントラスト値が、予め定められた閾値より小さい場合、撮像制御部１１０は、それぞれの撮像領域に存在する被写体のエッジ部分を強調表示させずに、撮像制御部１１０により撮像される画像を表示部１８０に表示させる（Ｓ１１２）。

【0057】

以上のように、本実施形態に係る撮像装置１００によれば、コントラスト値以外に、ＴＯＦセンサ１６０の測距結果を利用して、画像内の合焦状態となっている被写体を含む領域を特定する。よって、合焦状態にない被写体を含む撮像領域が、ノイズの影響でコントラスト値が高い場合に、その撮像領域に含まれる被写体が強調表示されることを防ぐことができる。これにより、撮像環境によらず、より精度よくフォーカスピーキングを実現できる。

【0058】

上記のような撮像装置１００は、移動体に搭載されてもよい。撮像装置１００は、図６に示すような、無人航空機（ＵＡＶ）に搭載されてもよい。ＵＡＶ１０００は、ＵＡＶ本体２０、ジンバル５０、複数の撮像装置６０、及び撮像装置１００を備えてよい。ジンバル５０、及び撮像装置１００は、撮像システムの一例である。ＵＡＶ１０００は、推進部により推進される移動体の一例である。移動体とは、ＵＡＶの他、空中を移動する他の航空機などの飛行体、地上を移動する車両、水上を移動する船舶等を含む概念である。

【0059】

ＵＡＶ本体２０は、複数の回転翼を備える。複数の回転翼は、推進部の一例である。ＵＡＶ本体２０は、複数の回転翼の回転を制御することでＵＡＶ１０００を飛行させる。ＵＡＶ本体２０は、例えば、４つの回転翼を用いてＵＡＶ１０００を飛行させる。回転翼の数は、４つには限定されない。また、ＵＡＶ１０００は、回転翼を有さない固定翼機でもよい。

【0060】

撮像装置１００は、所望の撮像範囲に含まれる被写体を撮像する撮像用のカメラである。ジンバル５０は、撮像装置１００を回転可能に支持する。ジンバル５０は、支持機構の一例である。例えば、ジンバル５０は、撮像装置１００を、アクチュエータを用いてピッチ軸で回転可能に支持する。ジンバル５０は、撮像装置１００を、アクチュエータを用いて更にロール軸及びヨー軸のそれぞれを中心に回転可能に支持する。ジンバル５０は、ヨー軸、ピッチ軸、及びロール軸の少なくとも１つを中心に撮像装置１００を回転させることで、撮像装置１００の姿勢を変更してよい。

【0061】

複数の撮像装置６０は、ＵＡＶ１０００の飛行を制御するためにＵＡＶ１０００の周囲を撮像するセンシング用のカメラである。２つの撮像装置６０が、ＵＡＶ１０００の機首である正面に設けられてよい。更に他の２つの撮像装置６０が、ＵＡＶ１０００の底面に設けられてよい。正面側の２つの撮像装置６０はペアとなり、いわゆるステレオカメラとして機能してよい。底面側の２つの撮像装置６０もペアとなり、ステレオカメラとして機能してよい。複数の撮像装置６０により撮像された画像に基づいて、ＵＡＶ１０００の周囲の３次元空間データが生成されてよい。ＵＡＶ１０００が備える撮像装置６０の数は４つには限定されない。ＵＡＶ１０００は、少なくとも１つの撮像装置６０を備えていればよい。ＵＡＶ１０００は、ＵＡＶ１０００の機首、機尾、側面、底面、及び天井面のそれぞれに少なくとも１つの撮像装置６０を備えてもよい。撮像装置６０で設定できる画角は、撮像装置１００で設定できる画角より広くてよい。撮像装置６０は、単焦点レンズまたは魚眼レンズを有してもよい。

【0062】

遠隔操作装置６００は、ＵＡＶ１０００と通信して、ＵＡＶ１０００を遠隔操作する。遠隔操作装置６００は、ＵＡＶ１０００と無線で通信してよい。遠隔操作装置６００は、ＵＡＶ１０００に上昇、下降、加速、減速、前進、後進、回転等のＵＡＶ１０００の移動に関する各種命令を示す指示情報を送信する。指示情報は、例えば、ＵＡＶ１０００の高度を上昇させる指示情報を含む。指示情報は、ＵＡＶ１０００が位置すべき高度を示してよい。ＵＡＶ１０００は、遠隔操作装置６００から受信した指示情報により示される高度に位置するように移動する。指示情報は、ＵＡＶ１０００を上昇させる上昇命令を含んでよい。ＵＡＶ１０００は、上昇命令を受け付けている間、上昇する。ＵＡＶ１０００は、上昇命令を受け付けても、ＵＡＶ１０００の高度が上限高度に達している場合には、上昇を制限してよい。

【0063】

図７は、本発明の複数の態様が全体的または部分的に具現化されてよいコンピュータ１２００の一例を示す。コンピュータ１２００にインストールされたプログラムは、コンピュータ１２００に、本発明の実施形態に係る装置に関連付けられるオペレーションまたは当該装置の１または複数の「部」として機能させることができる。または、当該プログラムは、コンピュータ１２００に当該オペレーションまたは当該１または複数の「部」を実行させることができる。当該プログラムは、コンピュータ１２００に、本発明の実施形態に係るプロセスまたは当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ１２００に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつかまたはすべてに関連付けられた特定のオペレーションを実行させるべく、ＣＰＵ１２１２によって実行されてよい。

【0064】

本実施形態によるコンピュータ１２００は、ＣＰＵ１２１２、及びＲＡＭ１２１４を含み、それらはホストコントローラ１２１０によって相互に接続されている。コンピュータ１２００はまた、通信インタフェース１２２２、入力／出力ユニットを含み、それらは入力／出力コントローラ１２２０を介してホストコントローラ１２１０に接続されている。コンピュータ１２００はまた、ＲＯＭ１２３０を含む。ＣＰＵ１２１２は、ＲＯＭ１２３０及びＲＡＭ１２１４内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。

【0065】

通信インタフェース１２２２は、ネットワークを介して他の電子デバイスと通信する。ハードディスクドライブが、コンピュータ１２００内のＣＰＵ１２１２によって使用されるプログラム及びデータを格納してよい。ＲＯＭ１２３０はその中に、アクティブ化時にコンピュータ１２００によって実行されるブートプログラム等、及び／またはコンピュータ１２００のハードウェアに依存するプログラムを格納する。プログラムが、ＣＲ−ＲＯＭ、ＵＳＢメモリまたはＩＣカードのようなコンピュータ可読記録媒体またはネットワークを介して提供される。プログラムは、コンピュータ可読記録媒体の例でもあるＲＡＭ１２１４、またはＲＯＭ１２３０にインストールされ、ＣＰＵ１２１２によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ１２００に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置または方法が、コンピュータ１２００の使用に従い情報のオペレーションまたは処理を実現することによって構成されてよい。

【0066】

例えば、通信がコンピュータ１２００及び外部デバイス間で実行される場合、ＣＰＵ１２１２は、ＲＡＭ１２１４にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース１２２２に対し、通信処理を命令してよい。通信インタフェース１２２２は、ＣＰＵ１２１２の制御の下、ＲＡＭ１２１４、またはＵＳＢメモリのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、またはネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。

【0067】

また、ＣＰＵ１２１２は、ＵＳＢメモリ等のような外部記録媒体に格納されたファイルまたはデータベースの全部または必要な部分がＲＡＭ１２１４に読み取られるようにし、ＲＡＭ１２１４上のデータに対し様々なタイプの処理を実行してよい。ＣＰＵ１２１２は次に、処理されたデータを外部記録媒体にライトバックしてよい。

【0068】

様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。ＣＰＵ１２１２は、ＲＡＭ１２１４から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索／置換等を含む、様々なタイプの処理を実行してよく、結果をＲＡＭ１２１４に対しライトバックする。また、ＣＰＵ１２１２は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第２の属性の属性値に関連付けられた第１の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、ＣＰＵ１２１２は、第１の属性の属性値が指定される、条件に一致するエントリを当該複数のエントリの中から検索し、当該エントリ内に格納された第２の属性の属性値を読み取り、それにより予め定められた条件を満たす第１の属性に関連付けられた第２の属性の属性値を取得してよい。

【0069】

上で説明したプログラムまたはソフトウェアモジュールは、コンピュータ１２００上またはコンピュータ１２００近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワークまたはインターネットに接続されたサーバーシステム内に提供されるハードディスクまたはＲＡＭのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ１２００に提供する。

【0070】

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

【0071】

特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。

【符号の説明】

【0072】

１００ 撮像装置
１０２ 撮像部
１１０ 撮像制御部
１２０ イメージセンサ
１５０ レンズ制御部
１５２ レンズ駆動部
１５４ レンズ
１６０ ＴＯＦセンサ
１６２ 発光部
１６３ 発光素子
１６４ 受光部
１６５ 受光素子
１６６ 発光制御部
１６７ 受光制御部
１６８ メモリ
１７０ メモリ
１８０ 表示部
１８２ 操作部
２００ レンズ部
１０００ ＵＡＶ
２０ ＵＡＶ本体
５０ ジンバル
６０ 撮像装置
６００ 遠隔操作装置
１２００ コンピュータ
１２１０ ホストコントローラ
１２１２ ＣＰＵ
１２１４ ＲＡＭ
１２２０ 入力／出力コントローラ
１２２２ 通信インタフェース
１２３０ ＲＯＭ

【要約】      （修正有）

【課題】合焦状態にない被写体を含む撮像領域がノイズの影響でコントラスト値が高い場合に、領域に含まれる被写体の強調表示を防ぐ制御装置、撮像装置、制御方法及びプログラムを提供する。
【解決手段】方法は、撮像装置により撮像される画像内の第１撮像領域のコントラスト値を取得し、第１撮像領域に対応する第１測距領域に関連する被写体までの距離を示す第１距離情報を測距センサから取得し、フォーカスレンズの位置に基づく合焦状態となる被写体までの距離または距離範囲の少なくとも一方を示す第２距離情報を取得し、第１撮像領域のコントラスト値が予め定められた閾値以上で、かつ第１距離情報に示される距離と第２距離情報に示される距離または距離範囲の少なくとも一方との関係が、予め定められた条件を満たす場合、第１撮像領域に存在する被写体が合焦状態であることを示す指標を、画像の第１撮像領域に重畳させて画像とともに表示部に表示させる。
【選択図】図５

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】