(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-06-21
(54)【発明の名称】低電力オブジェクト検出
(51)【国際特許分類】
H04N 23/67 20230101AFI20240614BHJP
H04N 23/60 20230101ALI20240614BHJP
H04N 23/695 20230101ALI20240614BHJP
H04N 23/65 20230101ALI20240614BHJP
G02B 7/34 20210101ALI20240614BHJP
G03B 13/36 20210101ALI20240614BHJP
【FI】
H04N23/67
H04N23/60 500
H04N23/695
H04N23/65
G02B7/34
G03B13/36
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2023572567
(86)(22)【出願日】2022-05-24
(85)【翻訳文提出日】2023-11-22
(86)【国際出願番号】 US2022030775
(87)【国際公開番号】W WO2022256204
(87)【国際公開日】2022-12-08
(32)【優先日】2021-06-02
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】595020643
【氏名又は名称】クゥアルコム・インコーポレイテッド
【氏名又は名称原語表記】QUALCOMM INCORPORATED
(74)【代理人】
【識別番号】110003708
【氏名又は名称】弁理士法人鈴榮特許綜合事務所
(72)【発明者】
【氏名】ダヤナ、ベンカタ・ラビ・キラン
(72)【発明者】
【氏名】ガロル・グルスキン、ミシャ
(72)【発明者】
【氏名】ホーランド、ウェスリー・ジェームス
(72)【発明者】
【氏名】ルオ、ジアフ
【テーマコード(参考)】
2H011
2H151
5C122
【Fターム(参考)】
2H011BA23
2H011CA21
2H011DA00
2H151BA06
2H151DA15
2H151EA07
2H151EB20
2H151FA47
5C122EA52
5C122FD01
5C122FE01
5C122FH11
5C122GA01
5C122GA23
5C122GF04
5C122HA13
5C122HA35
5C122HA82
(57)【要約】
低電力可変フォーカスのためのシステム、方法、およびコンピュータ可読媒体が提供される。例示的な方法は、トリガに基づいて、画像センサーによってキャプチャされたシーンの第1の画像を取得すること、第1の画像が、複数の利用可能なレンズ構成のうちの第1の構成における画像センサーのレンズを用いてキャプチャされる、と、第1の画像および第1の検出結果に基づいて、関心オブジェクトが第1の画像中に存在するかどうかを決定することと、関心オブジェクトが第1の画像中に存在しないと決定することに応答して、レンズを複数のレンズ構成から選択された第2の構成に調整することと、画像センサーによって、レンズが第2の構成にある間、シーンの第2の画像を取得することと、第2の画像および第2の検出結果に基づいて、関心オブジェクトが第2の画像中に存在すると決定することとを含む。
【選択図】
図4
【特許請求の範囲】
【請求項1】
データを記憶するように構成されたメモリと、
前記メモリに結合された1つまたは複数のプロセッサと、
を備える装置であって、前記1つまたは複数のプロセッサは、
トリガイベントに基づいて、画像キャプチャデバイスによってキャプチャされたシーンの第1の画像を取得することと、前記第1の画像は、複数の利用可能なレンズ構成のうちの第1の構成にある前記画像キャプチャデバイスのレンズを用いてキャプチャされる、
前記シーンの前記第1の画像および第1の検出結果に基づいて、関心オブジェクトが前記第1の画像中に存在するかどうかを決定することと、
前記関心オブジェクトが前記第1の画像中に存在しないと決定することに応答して、前記レンズを前記複数の利用可能なレンズ構成から選択される第2の構成に調整することと、
前記画像キャプチャデバイスによって、前記レンズが前記第2の構成にある間、前記シーンの第2の画像を取得することと、
前記シーンの前記第2の画像および第2の検出結果に基づいて、前記関心オブジェクトが前記第2の画像中に存在すると決定することと、
を行うように構成された、装置。
【請求項2】
前記第1の検出結果と前記第2の検出結果とは、信頼性値である、請求項1に記載の装置。
【請求項3】
前記1つまたは複数のプロセッサは、前記レンズを前記複数の利用可能なレンズ構成からの1つまたは複数の他のレンズ構成に調整するために、前記画像キャプチャデバイスによって必要とされる電力の1つまたは複数の異なる量に対する、前記レンズを前記第2のレンズ構成に調整するために前記画像キャプチャデバイスによって必要とされる電力の量に基づいて、前記複数の利用可能なレンズ構成から前記第2のレンズ構成を選択するように構成された、請求項1に記載の装置。
【請求項4】
前記第1の構成は第1のレンズ位置を備え、前記第2の構成は、前記第1のレンズ位置とは異なる第2のレンズ位置を備え、
前記レンズを前記第2の構成に調整するために、前記1つまたは複数のプロセッサは、
フォーカスモーターを使用して前記第1のレンズ位置から前記第2のレンズ位置に前記レンズを移動すること、を行うように構成された、請求項1に記載の装置。
【請求項5】
前記複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を備え、
前記第2のレンズ位置は、前記第1の検出結果に関連する信頼性値に基づいて、前記複数の利用可能なレンズ位置から選択される、請求項4に記載の装置。
【請求項6】
前記第2のレンズ位置を選択するために、前記1つまたは複数のプロセッサは、
第1の信頼性値に基づいて、前記複数の利用可能なレンズ位置からの前記第2のレンズ位置の前記選択についての利用可能でないレンズ位置として1つまたは複数の位置を除外して、前記複数の利用可能なレンズ位置の数を低減すること、
を行うように構成された、請求項5に記載の装置。
【請求項7】
前記複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を備え、
前記第2のレンズ位置は、前記フォーカスモーターが、前記第1のレンズ位置から前記第2のレンズ位置に前記レンズを移動するために必要とする電力の量に基づいて、前記複数の利用可能なレンズ位置から選択される、請求項4に記載の装置。
【請求項8】
前記第2のレンズ位置を選択するために、前記1つまたは複数のプロセッサは、
電力の前記量を、前記フォーカスモーターが、前記第1の位置から前記複数の利用可能なレンズ位置からの1つまたは複数の他の位置に前記レンズを移動するために必要とする電力の1つまたは複数の量と比較すること、
を行うように構成された、請求項7に記載の装置。
【請求項9】
前記複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を備え、
前記第2のレンズ位置は、前記第1のレンズ位置から前記第2のレンズ位置へのレンズ変位に関連する信頼性値に基づいて、前記複数の利用可能なレンズ位置から選択される、請求項4に記載の装置。
【請求項10】
前記複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を備え、
前記第2のレンズ位置は、前記複数の利用可能なレンズ位置に関連する焦点距離の優先度に基づいて、前記複数の利用可能なレンズ位置から選択される、請求項4に記載の装置。
【請求項11】
前記複数の利用可能なレンズ位置に関連する前記焦点距離の前記優先度は、前記関心オブジェクトのデフォルトタイプまたは前記第1の画像中で検出された前記オブジェクトのタイプに基づく、請求項10に記載の装置。
【請求項12】
前記複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を備え、
前記第2のレンズ位置は、前記第1の位置と前記複数の利用可能なレンズ位置の各々との間の相対距離に基づいて、前記複数の利用可能なレンズ位置から選択される、請求項4に記載の装置。
【請求項13】
前記複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を備え、
前記第2の位置は、前記レンズの1つまたは複数の特性に基づいて、前記複数の利用可能なレンズ位置から選択され、
前記レンズの前記1つまたは複数の特性は、前記レンズに関連する開口と、前記レンズに関連する視野と、前記レンズに関連するフォーカス電力プロファイルとのうちの少なくとも1つを備える、請求項4に記載の装置。
【請求項14】
前記1つまたは複数のプロセッサは、前記レンズの1つまたは複数の特性と前記関心オブジェクトに関連する焦点距離とに基づいて、複数の利用可能なレンズから前記レンズを選択するように構成された、請求項1に記載の装置。
【請求項15】
前記1つまたは複数の特性は、開口と、視野と、フォーカス電力プロファイルとのうちの少なくとも1つを備える、請求項14に記載の装置。
【請求項16】
前記レンズは、前記レンズに関連するフォーカス電力プロファイルが、前記複数の利用可能なレンズからの1つまたは複数のレンズのそれぞれのフォーカス電力プロファイルよりも低いフォーカス電力を備えるという決定に基づいて、前記複数の利用可能なレンズから選択される、請求項14に記載の装置。
【請求項17】
前記関心オブジェクトは、ドキュメントと、クイックレスポンス(QR)コードと、顔と、指と、手と、デバイスと、製品と、動物とのうちの少なくとも1つを備える、請求項1に記載の装置。
【請求項18】
前記トリガイベントは、しきい値を上回る慣性動きと、しきい値を上回るオーディオ変化と、しきい値を上回る周辺光の変化と、しきい値を上回る前記オブジェクトまでのレンジの変化と、前記装置に関連するアプリケーションからのトリガと、アクティブ深度検知システムからの深度測定値と、全地球ナビゲーション衛星システムからのトリガと、全地球測位システムからのトリガと、データ接続と、しきい値を上回る位相検出変化とを備える、請求項1に記載の装置。
【請求項19】
前記1つまたは複数のプロセッサは、
前記関心オブジェクトが前記第2の画像中に存在すると決定することに応答して、前記装置に関連する異なる画像キャプチャデバイスを調整すること、
を行うように構成され、
前記異なる画像キャプチャデバイスを調整することは、前記異なる画像キャプチャデバイスをオンにすることと、前記異なる画像キャプチャデバイスを初期化することとのうちの少なくとも1つを備え、
前記異なる画像キャプチャデバイスは、メインカメラデバイスと、前記画像キャプチャデバイスよりも高い電力のカメラデバイスとのうちの少なくとも1つを備える、請求項1に記載の装置。
【請求項20】
前記1つまたは複数のプロセッサは、
前記異なる画像キャプチャデバイスを介して、前記シーンの1つまたは複数の画像を処理すること、
を行うように構成され、
前記1つまたは複数の画像は、前記第2の画像と、前記異なる画像キャプチャデバイスによってキャプチャされた第3の画像とのうちの少なくとも1つを備える、請求項19に記載の装置。
【請求項21】
前記1つまたは複数のプロセッサは、
前記第2の検出結果に基づいて、前記第2の構成において前記レンズを維持すること、
を行うように構成された、請求項1に記載の装置。
【請求項22】
前記第1の構成は非アクティブ光学画像安定化モードを備え、前記第2の構成はアクティブ光学画像安定化モードを備え、
前記レンズを前記第2の構成に調整するために、前記1つまたは複数のプロセッサは、レンズ安定化モーターを使用して前記光学画像安定化モードをアクティブ化することを行うように構成された、
請求項1に記載の装置。
【請求項23】
前記第1の構成は第1の開口設定を備え、前記第2の構成は、前記第1の開口設定とは異なる第2の開口設定を備え、
前記レンズを前記第2の構成に調整するために、前記1つまたは複数のプロセッサは、開口モーターを使用して前記第1の開口設定から前記第2の開口設定に前記レンズの開口を変化させることを行うように構成された、
請求項1に記載の装置。
【請求項24】
前記装置はモバイルデバイスを備える、請求項1に記載の装置。
【請求項25】
前記装置は前記画像キャプチャデバイスを備え、前記画像キャプチャデバイスはカメラを備える、請求項1に記載の装置。
【請求項26】
トリガイベントに基づいて、画像キャプチャデバイスによってキャプチャされたシーンの第1の画像を取得することと、前記第1の画像は、複数の利用可能なレンズ構成のうちの第1の構成にある前記画像キャプチャデバイスのレンズを用いてキャプチャされる、
前記シーンの前記第1の画像および第1の検出結果に基づいて、関心オブジェクトが前記第1の画像中に存在するかどうかを決定することと、
前記関心オブジェクトが前記第1の画像中に存在しないと決定することに応答して、前記レンズを前記複数の利用可能なレンズ構成から選択される第2の構成に調整することと、
前記画像キャプチャデバイスによって、前記レンズが前記第2の構成にある間、前記シーンの第2の画像を取得することと、
前記シーンの前記第2の画像および第2の検出結果に基づいて、前記関心オブジェクトが前記第2の画像中に存在すると決定することと、
を備える、方法。
【請求項27】
前記第1の検出結果と前記第2の検出結果とは、信頼性値である、請求項26に記載の方法。
【請求項28】
前記レンズを前記複数の利用可能なレンズ構成からの1つまたは複数の他のレンズ構成に調整するために、前記画像キャプチャデバイスによって必要とされる電力の1つまたは複数の異なる量に対する、前記レンズを前記第2のレンズ構成に調整するために前記画像キャプチャデバイスによって必要とされる電力の量に基づいて、前記複数の利用可能なレンズ構成から前記第2のレンズ構成を選択することをさらに備える、請求項26に記載の方法。
【請求項29】
前記第1の構成は第1のレンズ位置を備え、前記第2の構成は、前記第1のレンズ位置とは異なる第2のレンズ位置を備え、
前記レンズを前記第2の構成に調整することは、
フォーカスモーターを使用して前記第1のレンズ位置から前記第2のレンズ位置に前記レンズを移動すること、をさらに備える、請求項26に記載の方法。
【請求項30】
前記複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を備え、
前記第2のレンズ位置は、前記第1の検出結果に関連する信頼性値に基づいて、前記複数の利用可能なレンズ位置から選択される、請求項29に記載の方法。
【請求項31】
前記第2のレンズ位置を選択することは、
第1の信頼性値に基づいて、前記複数の利用可能なレンズ位置からの前記第2のレンズ位置の前記選択についての利用可能でないレンズ位置として1つまたは複数の位置を除外して、前記複数の利用可能なレンズ位置の数を低減すること、
をさらに備える、請求項30に記載の方法。
【請求項32】
前記複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を備え、
前記第2のレンズ位置は、前記フォーカスモーターが、前記第1のレンズ位置から前記第2のレンズ位置に前記レンズを移動するために必要とする電力の量に基づいて、前記複数の利用可能なレンズ位置から選択される、請求項29に記載の方法。
【請求項33】
前記第2のレンズ位置を選択することは、
電力の前記量を、前記フォーカスモーターが、前記第1の位置から前記複数の利用可能なレンズ位置からの1つまたは複数の他の位置に前記レンズを移動するために必要とする電力の1つまたは複数の量と比較すること、
をさらに備える、請求項32に記載の方法。
【請求項34】
前記複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を備え、
前記第2のレンズ位置は、前記第1のレンズ位置から前記第2のレンズ位置へのレンズ変位に関連する信頼性値に基づいて、前記複数の利用可能なレンズ位置から選択される、請求項29に記載の方法。
【請求項35】
前記複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を備え、
前記第2のレンズ位置は、前記複数の利用可能なレンズ位置に関連する焦点距離の優先度に基づいて、前記複数の利用可能なレンズ位置から選択される、請求項29に記載の方法。
【請求項36】
前記複数の利用可能なレンズ位置に関連する前記焦点距離の前記優先度は、前記関心オブジェクトのデフォルトタイプまたは前記第1の画像中で検出された前記オブジェクトのタイプに基づく、請求項35に記載の方法。
【請求項37】
前記複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を備え、
前記第2のレンズ位置は、前記第1の位置と前記複数の利用可能なレンズ位置の各々との間の相対距離に基づいて、前記複数の利用可能なレンズ位置から選択される、請求項29に記載の方法。
【請求項38】
前記複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を備え、
前記第2の位置は、前記レンズの1つまたは複数の特性に基づいて、前記複数の利用可能なレンズ位置から選択され、
前記レンズの前記1つまたは複数の特性は、前記レンズに関連する開口と、前記レンズに関連する視野と、前記レンズに関連するフォーカス電力プロファイルとのうちの少なくとも1つを備える、請求項29に記載の方法。
【請求項39】
前記レンズの1つまたは複数の特性と前記関心オブジェクトに関連する焦点距離とに基づいて、複数の利用可能なレンズから前記レンズを選択することをさらに備え、
前記1つまたは複数の特性は、開口と、視野と、フォーカス電力プロファイルとのうちの少なくとも1つを備える、請求項26に記載の方法。
【請求項40】
前記レンズは、前記レンズに関連するフォーカス電力プロファイルが、前記複数の利用可能なレンズからの1つまたは複数のレンズのそれぞれのフォーカス電力プロファイルよりも低いフォーカス電力を備えるという決定に基づいて、前記複数の利用可能なレンズから選択される、請求項39に記載の方法。
【請求項41】
前記トリガイベントは、しきい値を上回る慣性動きと、しきい値を上回るオーディオ変化と、しきい値を上回る周辺光の変化と、しきい値を上回る前記オブジェクトまでのレンジの変化と、前記方法に関連するアプリケーションからのトリガと、アクティブ深度検知システムからの深度測定値と、全地球ナビゲーション衛星システムからのトリガと、全地球測位システムからのトリガと、データ接続と、しきい値を上回る位相検出変化とを備える、請求項26に記載の方法。
【請求項42】
前記関心オブジェクトが前記第2の画像中に存在すると決定することに応答して、前記方法に関連する異なる画像キャプチャデバイスを調整すること、
をさらに備え、
前記異なる画像キャプチャデバイスを調整することは、前記異なる画像キャプチャデバイスをオンにすることと、前記異なる画像キャプチャデバイスを初期化することとのうちの少なくとも1つを備え、
前記異なる画像キャプチャデバイスは、メインカメラデバイスと、前記画像キャプチャデバイスよりも高い電力のカメラデバイスとのうちの少なくとも1つを備える、請求項26に記載の方法。
【請求項43】
前記異なる画像キャプチャデバイスを介して、前記シーンの1つまたは複数の画像を処理すること、
をさらに備え、
前記1つまたは複数の画像は、前記第2の画像と、前記異なる画像キャプチャデバイスによってキャプチャされた第3の画像とのうちの少なくとも1つを備える、請求項42に記載の方法。
【請求項44】
前記第1の構成は非アクティブ光学画像安定化モードを備え、前記第2の構成はアクティブ光学画像安定化モードを備え、
前記レンズを前記第2の構成に調整することは、レンズ安定化モーターを使用して前記光学画像安定化モードをアクティブ化することをさらに備える、
請求項26に記載の方法。
【請求項45】
前記第1の構成は第1の開口設定を備え、前記第2の構成は、前記第1の開口設定とは異なる第2の開口設定を備え、
前記レンズを前記第2の構成に調整することは、開口モーターを使用して前記第1の開口設定から前記第2の開口設定に前記レンズの開口を変化させることをさらに備える、
請求項26に記載の方法。
【請求項46】
命令を記憶した非一時的コンピュータ可読媒体であって、前記命令は、1つまたは複数のプロセッサによって実行されたとき、前記1つまたは複数のプロセッサに、
トリガイベントに基づいて、画像キャプチャデバイスによってキャプチャされたシーンの第1の画像を取得することと、前記第1の画像は、複数の利用可能なレンズ構成のうちの第1の構成にある前記画像キャプチャデバイスのレンズを用いてキャプチャされる、
前記シーンの前記第1の画像および第1の検出結果に基づいて、関心オブジェクトが前記第1の画像中に存在するかどうかを決定することと、
前記関心オブジェクトが前記第1の画像中に存在しないと決定することに応答して、前記レンズを前記複数の利用可能なレンズ構成から選択された第2の構成に調整することと、
前記画像キャプチャデバイスによって、前記レンズが前記第2の構成にある間、前記シーンの第2の画像を取得することと、
前記シーンの前記第2の画像および第2の検出結果に基づいて、前記関心オブジェクトが前記第2の画像中に存在すると決定することと、
を行わせる、非一時的コンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【0001】
[0001]本開示は、一般に、低電力可変フォーカスに関し、より詳細には、オブジェクト検出のための低電力可変フォーカスに関する。
【背景技術】
【0002】
[0002]電子デバイスは、消費のために画像および/またはビデオをキャプチャするためのカメラハードウェアをますます装備するようになっている。たとえば、コンピューティングデバイスは、コンピューティングデバイスが、シーン、人、オブジェクトなどのビデオまたは画像をキャプチャすることを可能にするためにカメラを含むことができる(たとえば、1つまたは複数のカメラを含む携帯電話またはスマートフォンなどのモバイルデバイス)。画像またはビデオは、コンピューティングデバイス(たとえば、モバイルデバイス、IPカメラなど)によってキャプチャおよび処理され、記憶されるか、または消費のために出力(たとえば、そのデバイスおよび/または別のデバイス上に表示)され得る。いくつかの場合には、画像またはビデオは、さらに、エフェクト(たとえば、圧縮、画像強調、画像復元、スケーリング、フレームレート変換など)、ならびに/または、特に、コンピュータビジョン、エクステンデッドリアリティ(たとえば、拡張現実、仮想現実など)、画像認識(たとえば、顔認識、オブジェクト認識、シーン認識など)、特徴抽出、自律運転、およびオブジェクト検出などのいくつかの適用例のために処理され得る。
【0003】
[0003]いくつかの場合には、電子デバイスは、画像によってキャプチャされたオブジェクト、顔、および/または任意の他のアイテムを検出するために画像を処理することができる。オブジェクト検出は、たとえば、特に、顔認証、ジェスチャー認識、監視、自動化など、様々な適用例に有用であり得る。いくつかの例では、電子デバイスは、環境におけるいくつかのオブジェクトを自動的に検出するように永続的にまたは周期的に動作する、より低い電力のまたは「常時オン」(AON:always-on)のカメラを実装することができる。より低い電力のカメラは、たとえば、永続的ジェスチャー検出、認証のための永続的顔認識、永続的顔または他のオブジェクト(たとえば、人、動物、車両、デバイス、飛行機など)検出、永続的クイックレスポンス(QR)コード(登録商標)走査など、様々な使用事例のために実装され得る。しかしながら、より低い電力のカメラおよび他のカメラセットアップの永続的動作および/またはより頻繁な動作は、高い全体的電力消費を生じることがある。その上、そのようなより低い電力のカメラを実装するモバイルデバイスは、バッテリー寿命の低減という欠点があることがあり、固定デバイスは、より複雑な熱放散設計を必要とし、および/または長期使用中に許容できない低い電力効率を呈し得る。したがって、著しくより高い電力消費が、電子デバイスの使用、デバイスの性能、およびユーザエクスペリエンスに悪影響を及ぼすことがある。
【発明の概要】
【0004】
[0004]いくつかの例では、オブジェクト検出のために消費される電力を低減するためのシステムおよび技法が説明される。少なくとも1つの例によれば、オブジェクト検出のためのより低い電力の可変フォーカスのための方法が提供される。本方法は、トリガイベントに基づいて、画像キャプチャデバイスによってキャプチャされたシーンの第1の画像を取得すること、第1の画像が、複数の利用可能なレンズ構成のうちの第1の構成にある画像キャプチャデバイスのレンズを用いてキャプチャされる、と、シーンの第1の画像および第1の検出結果に基づいて、関心オブジェクトが第1の画像中に存在するかどうかを決定することと、関心オブジェクトが第1の画像中に存在しないと決定することに応答して、レンズを複数の利用可能なレンズ構成から選択される第2の構成に調整することと、画像キャプチャデバイスによって、レンズが第2の構成にある間、シーンの第2の画像を取得することと、シーンの第2の画像に基づいて、関心オブジェクトが第2の画像中に存在すると決定することとを含むことができる。
【0005】
[0005]少なくとも1つの例によれば、オブジェクト検出のためのより低い電力の可変フォーカスのための非一時的コンピュータ可読媒体が提供される。非一時的コンピュータ可読媒体は、1つまたは複数のプロセッサによって実行されたとき、1つまたは複数のプロセッサに、トリガイベントに基づいて、画像キャプチャデバイスによってキャプチャされたシーンの第1の画像を取得すること、第1の画像が、複数の利用可能なレンズ構成のうちの第1の構成にある画像キャプチャデバイスのレンズを用いてキャプチャされる、と、シーンの第1の画像および第1の検出結果に基づいて、関心オブジェクトが第1の画像中に存在するかどうかを決定することと、関心オブジェクトが第1の画像中に存在しないと決定することに応答して、レンズを複数の利用可能なレンズ構成から選択された第2の構成に調整することと、画像キャプチャデバイスによって、レンズが第2の構成にある間、シーンの第2の画像を取得することと、シーンの第2の画像および第2の検出結果に基づいて、関心オブジェクトが第2の画像中に存在すると決定することとを行わせる命令を含むことができる。
【0006】
[0006]少なくとも1つの例によれば、オブジェクト検出のためのより低い電力の可変フォーカスのための装置が提供される。本装置は、データを記憶するように構成されたメモリと、メモリに結合された1つまたは複数のプロセッサとを含むことができ、1つまたは複数のプロセッサは、トリガイベントに基づいて、画像キャプチャデバイスによってキャプチャされたシーンの第1の画像を取得すること、第1の画像が、複数の利用可能なレンズ構成のうちの第1の構成にある画像キャプチャデバイスのレンズを用いてキャプチャされる、と、シーンの第1の画像および第1の検出結果に基づいて、関心オブジェクトが第1の画像中に存在するかどうかを決定することと、関心オブジェクトが第1の画像中に存在しないと決定することに応答して、レンズを複数の利用可能なレンズ構成から選択された第2の構成に調整することと、画像キャプチャデバイスによって、レンズが第2の構成にある間、シーンの第2の画像を取得することと、シーンの第2の画像および第2の検出結果に基づいて、関心オブジェクトが第2の画像中に存在すると決定することとを行うように構成される。
【0007】
[0007]少なくとも1つの例によれば、オブジェクト検出のためのより低い電力の可変フォーカスのための別の装置が提供される。本装置は、トリガイベントに基づいて、画像キャプチャデバイスによってキャプチャされたシーンの第1の画像を取得すること、第1の画像が、複数の利用可能なレンズ構成のうちの第1の構成にある画像キャプチャデバイスのレンズを用いてキャプチャされる、と、シーンの第1の画像および第1の検出結果に基づいて、関心オブジェクトが第1の画像中に存在するかどうかを決定することと、関心オブジェクトが第1の画像中に存在しないと決定することに応答して、レンズを複数の利用可能なレンズ構成から選択された第2の構成に調整することと、画像キャプチャデバイスによって、レンズが第2の構成にある間、シーンの第2の画像を取得することと、シーンの第2の画像および第2の検出結果に基づいて、関心オブジェクトが第2の画像中に存在すると決定することとを行うための手段を含むことができる。
【0008】
[0008]いくつかの態様では、上記で説明された方法、非一時的コンピュータ可読媒体、および装置は、レンズを複数の利用可能なレンズ構成からの1つまたは複数の他のレンズ構成に調整するために、画像キャプチャデバイスによって必要とされる電力の1つまたは複数の異なる量に対する、レンズを第2のレンズ構成に調整するために画像キャプチャデバイスによって必要とされる電力の量に基づいて、複数の利用可能なレンズ構成から第2のレンズ構成を選択することができる。
【0009】
[0009]いくつかの例では、第1の検出結果と第2の検出結果とは、信頼性値である。
【0010】
[0010]いくつかの例では、第1の構成は第1のレンズ位置を含むことができ、第2の構成は、第1のレンズ位置とは異なる第2のレンズ位置を含むことができる。
【0011】
[0011]いくつかの場合には、レンズを第2の構成に調整することは、フォーカスモーターを使用して第1のレンズ位置から第2のレンズ位置にレンズを移動することを含むことができる。
【0012】
[0012]いくつかの例では、複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を含むことができ、第2のレンズ位置は、複数の利用可能なレンズ位置からの1つまたは複数の他の位置にレンズを移動するためにフォーカスモーターによって使用される電力の1つまたは複数の量に対する、第2のレンズ位置にレンズを移動するためにフォーカスモーターによって使用される電力の量に基づいて、複数の利用可能なレンズ位置から選択され得る。
【0013】
[0013]いくつかの例では、複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を含むことができ、第2のレンズ位置は、第1の検出結果に関連する信頼性値に基づいて、複数の利用可能なレンズ位置から選択され得る。
【0014】
[0014]いくつかの場合には、第2のレンズ位置を選択することは、第1の信頼性値に基づいて、複数の利用可能なレンズ位置からの第2のレンズ位置の選択についての利用可能でないレンズ位置として1つまたは複数の位置を除外して、複数の利用可能なレンズ位置の数を低減することを含むことができる。
【0015】
[0015]いくつかの場合には、第2のレンズ位置を選択することは、電力の量を、フォーカスモーターが、第1の位置から複数の利用可能なレンズ位置からの1つまたは複数の他の位置にレンズを移動するために必要とする電力の1つまたは複数の量と比較することを含むことができる。
【0016】
[0016]いくつかの例では、複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を含むことができ、第2のレンズ位置は、第1のレンズ位置から第2のレンズ位置へのレンズ変位に関連する信頼性値に基づいて、複数の利用可能なレンズ位置から選択される。
【0017】
[0017]いくつかの例では、複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を備え、第2のレンズ位置は、複数の利用可能なレンズ位置に関連する焦点距離の優先度に基づいて、複数の利用可能なレンズ位置から選択される。いくつかの例では、複数の利用可能なレンズ位置に関連する焦点距離の優先度は、第1のレンズ位置から第2のレンズ位置へのレンズ変位に関連する検出信頼性と、複数の利用可能なレンズ位置の各々からキャプチャされた画像中で関心オブジェクトを検出することのそれぞれの可能性と、複数の利用可能なレンズ位置の各々にレンズを移動するためにフォーカスモーターによって使用される電力の量とのうちの少なくとも1つに基づく。いくつかの場合には、複数の利用可能なレンズ位置に関連する焦点距離の優先度は、関心オブジェクトのデフォルトタイプまたは第2の画像中で検出されたオブジェクトのタイプに基づく。
【0018】
[0018]いくつかの例では、複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を含むことができ、第2のレンズ位置は、第1の位置と複数の利用可能なレンズ位置の各々との間の相対距離に基づいて、複数の利用可能なレンズ位置から選択され得る。
【0019】
[0019]いくつかの例では、複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を含むことができ、第2の位置は、レンズの1つまたは複数の特性に基づいて、複数の利用可能なレンズ位置から選択される。いくつかの場合には、レンズの1つまたは複数の特性は、レンズに関連する開口(aperture)と、レンズに関連する視野と、レンズに関連するフォーカス電力プロファイル(focus power profile)とのうちの少なくとも1つを含むことができる。
【0020】
[0020]いくつかの態様では、上記で説明された方法、非一時的コンピュータ可読媒体、および装置は、レンズの1つまたは複数の特性と関心オブジェクトに関連する焦点距離とに基づいて、複数の利用可能なレンズからレンズを選択することができる。いくつかの例では、1つまたは複数の特性は、開口と、視野と、フォーカス電力プロファイルとのうちの少なくとも1つを含むことができる。
【0021】
[0021]いくつかの例では、レンズは、レンズに関連するフォーカス電力プロファイルが、複数の利用可能なレンズからの1つまたは複数のレンズのそれぞれのフォーカス電力プロファイルよりも低いフォーカス電力を含むという決定に基づいて、複数の利用可能なレンズから選択される。
【0022】
[0022]いくつかの場合には、関心オブジェクトは、ドキュメントと、クイックレスポンス(QR)コードと、顔と、指と、手と、デバイスと、製品と、動物とのうちの少なくとも1つを含むことができる。いくつかの場合には、トリガイベントは、しきい値を上回る慣性動き(inertial motion)と、しきい値を上回るオーディオ変化と、しきい値を上回る周辺光の変化と、しきい値を上回るオブジェクトまでのレンジの変化と、アプリケーションからのトリガと、アクティブ深度検知システムからの深度測定値と、全地球ナビゲーション衛星システムからのトリガと、全地球測位システムからのトリガと、データ接続と、しきい値を上回る位相検出変化とを含むことができる。
【0023】
[0023]いくつかの態様では、上記で説明された方法、非一時的コンピュータ可読媒体、および装置は、関心オブジェクトが第2の画像中に存在すると決定することに応答して、異なる画像キャプチャデバイスを調整することができる。いくつかの例では、異なる画像キャプチャデバイスを調整することは、異なる画像キャプチャデバイスをオンにすることおよび/または異なる画像キャプチャデバイスを初期化することを含むことができる。いくつかの場合には、異なる画像キャプチャデバイスは、メインカメラデバイス、および/または画像キャプチャデバイスよりも高い電力のカメラデバイスを含むことができる。いくつかの態様では、上記で説明された方法、非一時的コンピュータ可読媒体、および装置は、異なる画像キャプチャデバイスを介して、シーンの1つまたは複数の画像を処理することができる。いくつかの場合には、1つまたは複数の画像は、第2の画像、および/または異なる画像キャプチャデバイスによってキャプチャされた第3の画像を含むことができる。
【0024】
[0024]いくつかの態様では、上記で説明された方法、非一時的コンピュータ可読媒体、および装置は、第2の検出結果に基づいて、第2の構成においてレンズを維持することができる。
【0025】
[0025]いくつかの場合には、第1の構成は非アクティブ光学画像安定化モードを含むことができ、第2の構成はアクティブ光学画像安定化モードを含むことができる。いくつかの例では、レンズを第2の構成に調整することは、レンズ安定化モーターを使用して光学画像安定化モードをアクティブ化することを含むことができる。
【0026】
[0026]いくつかの場合には、第1の構成は第1の開口設定を含むことができ、第2の構成は、第1の開口設定とは異なる第2の開口設定を含むことができる。いくつかの場合には、レンズを第2の構成に調整することは、開口モーターを使用して第1の開口設定から第2の開口設定にレンズの開口を変化させることを含むことができる。
【0027】
[0027]いくつかの態様では、装置は、カメラ(たとえば、IPカメラ)、モバイルデバイス(たとえば、携帯電話またはいわゆる「スマートフォン」、あるいは他のモバイルデバイス)、スマートウェアラブルデバイス、エクステンデッドリアリティデバイス(たとえば、仮想現実(VR)デバイス、拡張現実(AR)デバイス、または複合現実(MR)デバイス)、パーソナルコンピュータ、ラップトップコンピュータ、サーバコンピュータ、モノのインターネット(IoT)デバイス、スマートウェアラブルデバイス、または別のデバイスであり得るか、あるいはそれらを含むことができる。いくつかの態様では、本装置は、1つまたは複数の画像をキャプチャするための1つまたは複数のカメラを含む。いくつかの態様では、本装置は、1つまたは複数の画像、通知、および/または他の表示可能なデータを表示するためのディスプレイをさらに含む。いくつかの態様では、上記で説明された装置は、1つまたは複数のセンサー(たとえば、1つまたは複数の加速度計、ジャイロスコープ、慣性測定ユニット(IMU)、動き検出センサー、および/または他のセンサー)を含むことができる。
【0028】
[0028]本発明の概要は、請求される主題の主要なまたは本質的な特徴を識別するものではなく、請求される主題の範囲を決定するために独立して使用されるものでもない。本主題は、本特許の明細書全体、いずれかまたはすべての図面、および各請求項の適切な部分を参照することによって理解されたい。
【0029】
[0029]上記は、他の特徴および実施形態とともに、以下の明細書、特許請求の範囲、および添付の図面を参照すれば、より明らかになるであろう。
【0030】
[0030]本出願の例示的な実施形態が、以下の図を参照しながら以下で詳細に説明される。
【図面の簡単な説明】
【0031】
【
図1】[0031]本開示のいくつかの例による、オブジェクト検出を実施するように構成されたモバイルデバイスを使用するユーザの一例を示す図。
【
図2A】[0032]本開示のいくつかの例による、2つの横並びフォーカスピクセルが2ピクセル×1ピクセルのマイクロレンズによってカバーされた、画像センサーのピクセルアレイ構成のトップダウン図を示す図。
【
図2B】[0033]本開示のいくつかの例による、4つの近隣フォーカスピクセルが2ピクセル×2ピクセルのマイクロレンズによってカバーされた、画像センサーのピクセルアレイ構成のトップダウン図を示す図。
【
図3A】[0034]本開示のいくつかの例による、少なくとも1つのフォーカスピクセルが2つのフォトダイオードを有する、画像センサーのピクセルアレイ構成のトップダウン図を示す図。
【
図3B】[0035]本開示のいくつかの例による、少なくとも1つのフォーカスピクセルが4つのフォトダイオードを有する、画像センサーのピクセルアレイ構成のトップダウン図を示す図。
【
図4】[0036]本開示のいくつかの例による、低電力可変フォーカスオブジェクト検出のための例示的な画像処理システムを示す図。
【
図5】[0037]本開示のいくつかの例による、低電力可変フォーカスオブジェクト検出のための例示的なプロセスを示す図。
【
図6】[0038]本開示のいくつかの例による、フォーカス調整および関連する電力プロファイルの例示的なタイムラインを示す図。
【
図7】[0039]本開示のいくつかの例による、低電力可変フォーカスオブジェクト検出のための例示的なプロセスを示す図。
【
図8】[0040]本開示のいくつかの例による、カメラシステムの視野内の関心オブジェクトの距離を推定するための位相検出オートフォーカスデータの例示的な使用を示す図。
【
図9】[0041]本開示のいくつかの例による、異なる開口を使用してキャプチャされた例示的な画像を示す図。
【
図10】[0042]本開示のいくつかの例による、複数の画像センサーを使用するオブジェクト検出のための例示的なプロセスを示すフローチャート。
【
図11】[0043]本開示のいくつかの例による、低電力可変フォーカスオブジェクト検出のための例示的なプロセスを示すフローチャート。
【
図12】[0044]本開示のいくつかの例による、例示的なコンピューティングデバイスアーキテクチャを示す図。
【発明を実施するための形態】
【0032】
[0045]本開示のいくつかの態様および実施形態が以下で提供される。当業者に明らかであるように、これらの態様および実施形態のうちのいくつかは独立して適用され得、それらのうちのいくつかは組み合わせて適用され得る。以下の説明では、説明の目的で、本出願の実施形態の完全な理解を提供するために具体的な詳細が記載される。ただし、様々な実施形態は、これらの具体的な詳細なしに実施され得ることが明らかであろう。図および説明は限定するものではない。
【0033】
[0046]以下の説明は、例示的な実施形態を提供するにすぎず、本開示の範囲、適用可能性、または構成を限定するものではない。そうではなく、例示的な実施形態の以下の説明は、例示的な実施形態を実装することを可能にする説明を当業者に提供する。添付の特許請求の範囲に記載されるように、本出願の趣旨および範囲から逸脱することなく、要素の機能および構成において様々な変更が行われ得ることを理解されたい。
【0034】
[0047]いくつかの電子デバイス(たとえば、スマートフォン、ラップトップコンピュータ、タブレット、ウェアラブルデバイス、カメラなど)は、カメラが、カメラを実装する電子デバイスがある電力状態にあるときに永続的にまたは周期的に動作することができる、使用事例のためのカメラハードウェアをますます活用している。たとえば、電子デバイスは、電子デバイスがより低い電力状態、ロック状態、および/または他の状態にある間に画像をキャプチャすることができるカメラを実装することができる。いくつかの例では、カメラは、電子デバイスが利用可能なバッテリー電力を有する、バッテリー電力レベルがしきい値を上回る、電子デバイスが起動しているなどの間、画像をキャプチャすることができる。いくつかの場合には、カメラは、周期的に、瞬時に、継続的に、または要求に応じてオブジェクト/イベントを検出するように構成された、(しばしば「常時オン」(AON)カメラと呼ばれる)より低い電力のカメラまたは「電力敏感」カメラを含むことができる。いくつかの場合には、より低い電力のカメラは、より低い電力使用フットプリントを維持しながら、必要に応じて/要望通りにいくつかのオブジェクトを自動的に検出することができる。いくつかの例では、より低い電力のカメラは、イベント/オブジェクトを検出するために使用される、より低い電力のハードウェアとエネルギー効率が高い画像処理ソフトウェアとを実装することができる。より低い電力のカメラは、より高い電力/解像度のカメラなど、他のデバイスよりも少ないバッテリー電力を使用しながら、シーン中の移動を注視し、シーン中のイベント/オブジェクトを検出するために、オンのままであるまたは「起動」することができる。オブジェクトを発見すると、カメラは、たとえば、アクションの中でも、オブジェクト検出、オブジェクト認識、顔認証、画像処理タスクなど、1つまたは複数のアクションをトリガすることができる。
【0035】
[0048]電子デバイスによって実装されるカメラは、たとえば、限定はしないが、永続的ジェスチャー検出、デバイス認証/ロック解除のための永続的顔認識、永続的顔またはオブジェクト(たとえば、人、動物、車両、デバイスなど)検出、永続的クイックレスポンス(QR)コード走査など、様々な使用事例のためにオブジェクトを検出することができる。例示のために、モバイルデバイス上のカメラは、QRコード(登録商標)がカメラの視野(FOV)内にあるとき、QRコードを検出し、QRコードを検出すると、ユーザが、モバイルデバイスの電源を投入すること、またはモバイルデバイスをロック解除することを必要とすることなしに、モバイルデバイスを「起動」することができる。
【0036】
[0049]より低い電力のカメラのセットアップが、低減された電力消費のためにより低い電力のカメラハードウェアを活用することができるが、とはいえ、カメラセットアップの全体的電力消費は、より限られたバッテリー寿命を概して有するモバイルデバイスのバッテリー寿命を著しく低減することがある。たとえば、カメラセットアップは、ターゲットの(1つまたは複数の)特性、環境の(1つまたは複数の)特性、レンズ/カメラ構成の(1つまたは複数の)特性、ターゲットとカメラとの間の相対距離、および/または任意の他のファクタを仮定すれば、ターゲットにフォーカスを合わせるおよび/またはキャプチャされた画像中のターゲットのシャープネスを増加させるために、レンズモジュールのフォーカスを移動し、再配置し、および/またはさもなければ変化させるためのレンズフォーカス調整技術を実装することができる。レンズフォーカス調整構成要素の非限定的な例は、特に、ボイスコイルモーター(VCM)、圧電モーター、ステッパーモーター、超音波モーター、電気活性ポリマーモーター、液体レンズエレクトロウェッティング(liquid lens electro wetting)、電磁フォーカスモーター、ギア付きの直流(DC)モーター(geared direct current (DC) motor)、ダイレクトドライブスーパーソニックウェーブモーター(super sonic wave motor)、および固体レンズコントローラを含むことができる。
【0037】
[0050]レンズフォーカス調整構成要素は、レンズモジュールのフォーカスを変化させるためにかなりの量の電力を必要とし、および/または消費することがある。多くの場合、レンズフォーカス調整構成要素の電力消費は、レンズモジュールのフォーカスをニュートラル(または無限遠)位置から離れて変化させるとき、増加することがある。レンズモジュールのフォーカスのそのような変化は、カメラセットアップによる大きい電力引き込みを生じることがあり、これは、モバイルデバイスのバッテリー寿命に著しく影響を及ぼすことがある。その上、関心オブジェクトが、しばしば、カメラからの距離が異なり、後ろ向きカメラが、一般に、可変フォーカスレンズを含むので、レンズフォーカス調整構成要素は、関心オブジェクトにフォーカスを合わせるために、レンズのフォーカス、開口設定、画像安定化などを頻繁に変化させなければならないことがある。フォーカス、開口設定、画像安定化などの変化は、異なる距離におけるオブジェクトがシーン中で観測されるので、レンズフォーカス調整構成要素をニュートラルまたは現在位置から離れて移動すること/配置することにより、かなりの量の電力を引き込むことがある。そのような電力引き込みは、デバイスおよび/またはデバイスの性能に悪影響を与えることがある。
【0038】
[0051]カメラセットアップにおいて実装されるレンズ調整構成要素(たとえば、フォーカスモーター、レンズ安定化モーター、開口モーター、コントローラ、ドライバ、回路など)の電力消費を低減するためのシステム、装置、プロセス(または方法)、およびコンピュータ可読媒体(「システムおよび技法」として総称される)が本明細書で説明される。いくつかの例では、本明細書で説明されるシステムおよび技法は、関心オブジェクトを正常に検出するために必要とされるレンズ移動の数を低減することができる。いくつかの場合には、本明細書で説明されるシステムおよび技法は、レンズフォーカス調整構成要素のニュートラルまたは現在位置から離れてフォーカスさせられるレンズ(またはレンズモジュール)によって費やされる時間の量を低減するまたは最小限に抑えることができる。いくつかの場合には、本明細書で説明されるシステムおよび技法は、継続中のオブジェクト検出試み、すなわち、1つまたは複数の関心オブジェクトを検出するための試みにもかかわらず、レンズ(またはレンズモジュール)が第1の構成(たとえば、非電力供給(non-powered)構成またはニュートラル構成)に維持される、時間の量を増加させることができる。レンズのニュートラル(または無限遠)構成は、レンズの最小電力消費状態、非電力供給位置、非ニュートラルまたは他の位置よりも低い電力引き込みに関連する位置などであり得る。たとえば、いくつかの場合には、レンズの構成のニュートラル(または無限遠)位置は、ばねが、ニュートラルレンズ位置のままであるようにレンズに荷重を与える、たとえば、ばね荷重が、フォーカシング動作中にレンズ移動に対抗するために使用される、最小電力消費状態であり得る。レンズフォーカス調整構成要素の低減された電力消費は、オブジェクト検出システム、可変フォーカスレンズをもつ画像キャプチャデバイス、および/またはレンズモジュールのフォーカスを変化させることが可能な任意の他の画像キャプチャシステムの全体的電力消費を低減するために使用され得る。
【0039】
[0052]いくつかの例では、本明細書で説明されるシステムおよび技法は、関心オブジェクトの検出のためにいくつかのレンズ位置を連続的にテストまたは検査することができる。いくつかの場合には、本明細書で説明されるシステムおよび技法は、関心オブジェクトを検出するために使用される電力の量を低減するまたは最小限に抑えるために、適切なレンズ位置を見つける前に実施されるレンズ変化を低減するまたは最小限に抑える(および/または所望のフォーカスを達成する)ために、インテリジェントにおよび/または特定の順序でレンズ位置をテストまたは検査することができる。たとえば、本明細書で説明されるシステムおよび技法は、様々なレンズ位置のためのそれぞれのフォーカスモーター電力要件に基づいて決定される順序でレンズ位置をテストまたは検査することができる。いくつかの場合には、本明細書で説明されるシステムおよび技法は、最初に、最も低い量のフォーカスモーター電力を必要とするレンズ位置をテストまたは検査することができ、その後、それは、フォーカスモーター電力消費の増加する順序で必要に応じて他のレンズ位置を徐々に検査することができる。
【0040】
[0053]いくつかの例では、画像キャプチャシステムは、1つまたは複数のトリガリングイベントに基づいてオブジェクト検出プロセスを始動することができる。トリガリングイベントは、たとえば、しきい値を上回る測定された慣性動き、オーディオセンサーによって検出された、しきい値を上回るオーディオ変化、しきい値を上回る周辺光の変化、しきい値を上回るオブジェクトまでのレンジの検出された変化、しきい値を上回る位相検出変化、アプリケーションからのトリガ(たとえば、命令、要求、パラメータなど)、アクティブ深度検知システムからのトリガ(たとえば、しきい値測定値など)、全地球ナビゲーション衛星システム(GNSS)または全地球測位システム(GPS)からのトリガ、データ接続(たとえば、Bluetooth(登録商標)接続、Wi-Fi(登録商標)接続、ワイヤレスローカルエリアネットワーク接続、ワイドエリアネットワーク接続など)からのトリガなどを含むことができる。オブジェクト検出プロセスをトリガすると、画像キャプチャシステムは、画像をキャプチャし、関心オブジェクトが、キャプチャされた画像中に存在するのか存在しないのかを決定することができる。非限定的な一例では、画像キャプチャシステムは、キャプチャされた画像に基づいて、関心オブジェクトが、キャプチャされた画像中に存在するまたは存在しない確実性/可能性を示す信頼性を計算することができる。たとえば、画像キャプチャシステムは、QRコードが、キャプチャされた画像中に存在する可能性を示す信頼性を決定することができる。
【0041】
[0054]画像キャプチャシステムは、第1のレンズ位置からキャプチャされた画像に基づいて信頼性を計算することができる。信頼性が、関心オブジェクトが画像中に存在することを示す場合、画像処理システムは、第1のレンズ位置から関心オブジェクトを検出することができる。画像キャプチャシステムは、第1のレンズ位置においてレンズを維持することができ、第2のレンズ位置へのレンズ調整が必要でない。したがって、画像処理システムは、信頼性が上限しきい値に等しいかまたはそれを上回る場合、関心オブジェクトを検出することができる。これは、キャプチャされた関心オブジェクトが画像中でフォーカスが合っていることを必要としない。信頼性が上限しきい値に等しいかまたはそれを上回る場合、画像処理システムは、レンズ調整なしに、むしろ、第1のレンズ位置においてレンズを維持することによって、関心オブジェクトを検出することができる。これは全体的電力消費低減に寄与する。信頼性が、上限しきい値を下回り、下限しきい値を上回る場合、画像キャプチャシステムは、第2のレンズ位置から別の画像をキャプチャすることができ、第2のレンズ位置からキャプチャされた画像に基づいて信頼性を計算することができる。信頼性が、関心オブジェクトが第2のレンズ位置からキャプチャされた画像中に存在することを示す場合、画像処理システムは、第2のレンズ位置から関心オブジェクトを検出することができる。信頼性が、上限しきい値を下回り、下限しきい値を上回る場合、画像キャプチャシステムは、第3のレンズ位置から別の画像をキャプチャし、キャプチャされた画像に基づいて別の信頼性を計算することができる。画像キャプチャシステムは、(しきい値を満たす間)オブジェクトが検出されるまで、異なるレンズ位置においていくつかの検出信頼性を連続的に検査することができるか、または信頼性が、上限しきい値を下回り、下限しきい値を下回る場合、オブジェクトが存在しないという決定が行われ得る。
【0042】
[0055]画像キャプチャシステムは、たとえば、異なるレンズ位置に関連する電力消費、レンズのFOVおよび/または被写界深度(depth-of-field)特性、フォーカスモーターの現在またはニュートラル位置、異なるレンズ位置に関連するオブジェクト検出可能性、異なるレンズ位置について計算されるリスク-リワード(reward)評価/比較など、いくつかのファクタに基づいていくつかのレンズ位置を優先させることができる。いくつかの場合には、画像キャプチャシステムは、フォーカスモーターのニュートラルまたは現在位置からオブジェクト検出検査を開始することができる。たとえば、画像キャプチャシステムは、いくつかの場合には、フォーカスモーターからの電力引き込みを必要としない/伴わないことがある、フォーカスモーターのニュートラル位置からの検出信頼性で開始することができる。ニューラル位置からの信頼性がしきい値を下回る場合、フォーカスモーターは、画像キャプチャデバイスのレンズを次に低い電力の位置(たとえば、その位置にレンズを移動するためのフォーカスモーターからの次に低い量の電力引き込みを伴う異なる位置)に移動することができる。次に低い電力の位置からの信頼性がしきい値を下回る場合、フォーカスモーターは、次に低い電力の位置にレンズを移動し、その位置からの信頼性を同様に検査することができる。画像キャプチャシステムは、オブジェクトが検出されるか、またはプロセスが完了されるまで、任意の追加の検査を続けることができる。このようにして、より高い電力における完全なオートフォーカスプロセスを必要とする代わりに、必要とされる最低フォーカス電力位置からオブジェクトを検出するために、オブジェクト検出トリガおよびフォーカスモーター電力消費が使用され得る。
【0043】
[0056]他の例では、画像キャプチャシステムは、検出信頼性の計算を検査および/または支援するためのレンズ位置の順序を決定するためにレーザー距離計(laser range finder)を使用することができる。その上、画像キャプチャシステムは、レンズ配置/再配置をガイドしおよび/または検出信頼性の計算を支援するために、位相検出オートフォーカス(PDAF:phase detection autofocus)データを活用することができる。画像キャプチャシステムは、追加または代替として、レンズ配置/再配置をガイドしおよび/または検出信頼性の計算を支援するために、たとえば、コントラストベースオートフォーカス(AF)探索(コースまたは細かい)、ステレオデータからの深度情報など、他のデータを活用することができる。いくつかの場合には、画像キャプチャシステムは、テストされるレンズ位置の数を潜在的に低減するために、レンズの被写界深度を増加させるためにレンズ開口を調整することができる。いくつかの場合には、画像キャプチャシステムは、システムにわたってレンズモーター引き込みを低減または制限するために、異なるセットアップで1つまたは複数の他のセンサーを実装することができる。
【0044】
[0057]
図1は、本明細書で説明される、オブジェクト検出を実施するように構成されたモバイルデバイス102を使用するユーザ100の一例を示す図である。いくつかの例では、モバイルデバイス102は、モバイルフォン(たとえば、インターネット能力およびボイス能力をもつスマートフォン)である。他の例では、モバイルデバイス102は、たとえば、限定はしないが、タブレットコンピュータ、ラップトップコンピュータ、カメラシステム、モノのインターネット(IoT)デバイス、スマートウェアラブルデバイス(たとえば、ヘッドマウントディスプレイ、スマートグラス、スマートウォッチなど)、スマートテレビジョン、または画像センサーをもつ任意の他の電子デバイスなど、任意の他のタイプの電子デバイスを含むことができる。いくつかの実装形態では、モバイルデバイス102は、
図12に関して以下で説明されるコンピューティングシステム1200と同様のシステムアーキテクチャを有することができる。
【0045】
[0058]この例では、モバイルデバイス102は、前向きカメラ104を含み、前向きカメラ104は、カメラ104の視野(FOV)内の物理的シーンまたは環境の画像をキャプチャするように構成され、キャプチャすることができる。いくつかの場合には、前向きカメラ104は、低電力カメラ、および/または、モバイルデバイス102がある電力状態にあるときに永続的にまたは周期的に動作するように構成されたカメラを含むことができる。いくつかの例では、前向きカメラ104は、モバイルデバイス102がより低い電力状態、ロック状態、および/または他の状態にある間、画像をキャプチャすることができる。いくつかの例では、前向きカメラ104は、モバイルデバイス102が利用可能なバッテリー電力を有する、バッテリー電力レベルがしきい値を上回る、モバイルデバイス102が起動しているなどの間、画像をキャプチャすることができる。いくつかの場合には、前向きカメラ104は、周期的に、継続的に、または要求に応じてオブジェクト/イベントを検出するように構成された、(しばしば「常時オン」(AON)カメラと呼ばれる)より低い電力のカメラまたは「電力敏感」カメラを含むことができる。いくつかの場合には、より低い電力のカメラは、より低い電力使用フットプリントを維持しながら、必要に応じて/要望通りにいくつかのオブジェクトを自動的に検出することができる。いくつかの例では、より低い電力のカメラは、より低い電力のハードウェアとエネルギー効率が高い画像処理ソフトウェアとを実装することができる。より低い電力のカメラは、より高い電力/解像度のカメラなど、他のデバイスよりも少ないバッテリー電力を使用しながら、シーン中の移動を注視し、シーン中のイベント/オブジェクトを検出するために、オンのままであるまたは「起動」することができる。
【0046】
[0059]いくつかの例では、前向きカメラ104は、画像のキャプチャを要求する(たとえば、ユーザ入力に基づく)明示的命令を必要とすることなしに画像を受動的にキャプチャする低電力カメラを含むことができる。いくつかの場合には、前向きカメラ104は、より低いフレームレートを有することができ、より高い電力/解像度のカメラのフレームレートよりも少ない画像をキャプチャすることができる。いくつかの例では、(モバイルデバイス104がより低い電力状態またはロック状態にあるときに永続的にまたは周期的に動作するより低い電力のカメラとしての)前向きカメラ104によってキャプチャされた画像は、本明細書で説明されるオブジェクト検出を実施するために必要な場合を除いて記憶されない。たとえば、(モバイルデバイス104がより低い電力状態またはロック状態にあるときに永続的にまたは周期的に動作するより低い電力のカメラとしての)前向きカメラ104によってキャプチャされた画像は、本明細書で説明されるオブジェクト検出を実施するための1つまたは複数のプロセッサによる使用のために一時的にキャッシュされ得る。
【0047】
[0060]いくつかの場合には、前向きカメラ104は、トリガが検出されたときに画像をキャプチャすることを開始するためにアクティブ化され得る。トリガが検出されたとき、前向きカメラ104は、ユーザ100の画像をキャプチャすることができ、モバイルデバイス102の1つまたは複数のプロセッサが、本明細書で説明されるオブジェクト検出プロセスを実施することができる。いくつかの場合には、トリガは、たとえば、限定はしないが、しきい値を上回る慣性動き、しきい値を上回るオーディオ変化、しきい値を上回る周辺光の変化、しきい値を上回る位相検出ベース深度の変化、しきい値を上回る1つまたは複数のオブジェクトまでのレンジの変化、1つまたは複数のオブジェクトの検出された存在、シーン変化、しきい値を上回るステレオベース深度の変化、それらの組合せ、または任意の他の構成されたトリガを含むことができる。
【0048】
[0061]1つの例示的な例では、シーン変化は、シーン変化しきい値を上回るピクセルデータの変化が検出されるとき、検出され得る。シーン変化は、1つまたは複数の画像をキャプチャすることを開始するために前向きカメラ104のアクティブ化をトリガすることができる。シーン変化しきい値は、第2の画像または複数の画像中の(共通ロケーションにおける)対応するピクセルとは異なる第1の画像中のピクセルの量に基づくことができる。たとえば、第1の画像中のピクセルのうちの少なくとも20%が、第2の画像中の(共通ロケーションにおける)対応するピクセルとは異なる場合、シーン変化が検出され得る。別の例示的な例では、前向きカメラ104は、動きが検出されたときに画像をキャプチャすることを開始するためにアクティブ化され得る。いくつかの例では、動きは、モバイルデバイス102の光学動きセンサー、加速度計、ジャイロスコープ、慣性測定ユニット(IMU)、および/あるいはモバイルデバイス102の他のセンサーまたは構成要素を使用して検出され得る。
【0049】
[0062]前向きカメラ104は、異なる状態(たとえば、前方フォーカス状態、後方フォーカス状態、フォーカスが合っている状態)に対応するレンズ位置間で前向きカメラ104のレンズを移動する1つまたは複数のモーター(図示せず)と、モバイルデバイス102がモーターを作動させるためにアクティブ化する1つまたは複数のモーターアクチュエータ(図示せず)とを含み得る。レンズモーターの非限定的な例は、特に、ボイスコイルモーター(VCM)、圧電モーター、ステッパーモーター、超音波モーター、電気活性ポリマーモーター、電磁フォーカスモーター、ギア付きの直流(DC)モーター、およびダイレクトドライブスーパーソニックウェーブモーターを含むことができる。前向きカメラ104は、いくつかの場合には、レンズ、ミラー、部分反射(PR)ミラー、プリズム、フォトダイオード、画像センサー、プロセッサ、および/あるいはカメラまたは他の光学機器において実装され得る他の構成要素など、様々な追加の図示されていない構成要素をも含み得る。
【0050】
[0063]
図2Aおよび
図2Bは、画像センサーの例示的なピクセルアレイ構成のトップダウン図を示す。カメラシステム(たとえば、前向きカメラ104)の画像センサーが、
図2Aのピクセルアレイ230または
図2Bのピクセルアレイ240など、ピクセルのアレイを含み得る。ピクセルアレイ(たとえば、ピクセルアレイ230、ピクセルアレイ240)は、フォトダイオードとマイクロレンズとのアレイを含むことができる。
図2Aの2ピクセル×1ピクセルのマイクロレンズ232と
図2Bの2ピクセル×2ピクセルのマイクロレンズ242とは、両方とも、複数の隣接するフォーカスピクセルに及び(たとえば、マイクロレンズは、複数の隣接するフォーカスピクセルフォトダイオードをカバーする)、両方とも、それらのフォーカスピクセルのフォーカスピクセルフォトダイオードに当たる光の量および/または方向を制限することができる。
【0051】
[0064]ピクセルアレイ(たとえば、ピクセルアレイ230、ピクセルアレイ240)がフレームをキャプチャし、したがって、各フォーカスピクセルのためのフォーカスピクセルデータをキャプチャすると、ペアにされたフォーカスピクセルからのフォーカスピクセルデータが互いと比較され得る。たとえば、左フォーカスピクセルフォトダイオードからのフォーカスピクセルデータが右フォーカスピクセルフォトダイオードからのフォーカスピクセルデータと比較され得、上フォーカスピクセルフォトダイオードからのフォーカスピクセルデータが下フォーカスピクセルフォトダイオードからのフォーカスピクセルデータと比較され得る。比較されたフォーカスピクセルデータ値が異なる場合、この差は、位相差、デフォーカス値、または分離誤差としても知られる、位相ディスパリティ(phase disparity)と呼ばれる。
図2Bの場合のような2ピクセル×2ピクセルのマイクロレンズ242下のフォーカスピクセルは、本質的に、フォーカスピクセルの、垂直方向に隣接し水平方向に配向された2つのペア、および/またはフォーカスピクセルの、水平方向に隣接し垂直方向に配向された2つのペアを有する。したがって、ULフォーカスピクセルからのフォーカスピクセルデータは、BLフォーカスピクセルからのフォーカスピクセルデータと(上/下ペアとして)比較され得、URフォーカスピクセルからのフォーカスピクセルデータは、BRフォーカスピクセルからのフォーカスピクセルデータと(上/下ペアとして)比較され得、ULフォーカスピクセルからのフォーカスピクセルデータは、URフォーカスピクセルからのフォーカスピクセルデータと(左/右ペアとして)比較され得、BLフォーカスピクセルからのフォーカスピクセルデータは、BRフォーカスピクセルからのフォーカスピクセルデータと(左/右ペアとして)比較され得、またはそれらの何らかの組合せである。
【0052】
[0065]
図3Aは、少なくとも1つのフォーカスピクセルが2つのフォトダイオードを有する、画像センサーのピクセルアレイ構成のトップダウン図を示す。特に、4つのフォーカスピクセルをもつ4ピクセル×4ピクセルのピクセルアレイ350が
図3Aに示されている。ピクセルアレイ350に示されている4つのフォーカスピクセルは、2つのフォトダイオードを各々含み、各フォーカスピクセルのフォトダイオードペアの左側フォトダイオードおよび右側フォトダイオードは、それぞれ、「L」および「R」と標示される。2つのフォトダイオードをもつフォーカスピクセルが、デュアルフォトダイオード(2PD)フォーカスピクセルと呼ばれることがある。
【0053】
[0066]
図3Aの2PDフォーカスピクセルのうちの1つが、2PDフォーカスピクセル352として標示される。2PDフォーカスピクセル352の左側フォトダイオード(L)は「左側フォトダイオード354L」と標示され、2PDフォーカスピクセル352の右側フォトダイオード(R)は「右側フォトダイオード354R」と標示される。各キャプチャされたフレームについて、左フォトダイオード354Lと右フォトダイオード354Rとは、2PDフォーカスピクセル352によって異なる角度から受信された光をキャプチャし得る。所与のフレームについて、左フォトダイオード354Lによってキャプチャされたデータは、左画像または左画像データと呼ばれることがあり、右フォトダイオード354Rによってキャプチャされたデータは、右画像または右画像データと呼ばれることがある。左画像データおよび右画像データは、位相ディスパリティを決定するために比較され得る。
図3Aに示されているピクセルアレイ350は、ピクセルアレイ350中のピクセルのうちのいくつかのみが2つのフォトダイオード(すなわち、フォーカスピクセル)を含む、「低密度」2PDピクセルアレイである。残りのピクセルは、イメージングピクセル(imaging pixel)であり、単一のフォトダイオードのみを含む。いくつかの場合には、ピクセルアレイ中のあらゆるピクセル(またはピクセルアレイ中のより高い割合のピクセル)が2つのフォトダイオードを含む、「高密度」2PDピクセルアレイが、代わりに使用され得、いくつかの場合には、フォーカスピクセルとイメージングピクセルの両方として同時に働くことができるか、または、あるフレームについてフォーカスピクセルとして働くことと、別のフレームについてイメージングピクセルとして働くこととの間で切り替えることができる。
【0054】
[0067]
図3Bは、少なくとも1つのフォーカスピクセルが4つのフォトダイオードを有する、画像センサーのピクセルアレイ構成のトップダウン図を示す。ピクセルアレイ360は、一般に、4PDフォーカスピクセルまたは4位相検出(QPD:Quadrature Phase Detection)フォーカスピクセルと呼ばれる、各フォーカスピクセルが4つのダイオードを含む、フォーカスピクセルを含む。たとえば、4PDフォーカスピクセル362が、
図3Bにおいて標示され、文字「UL」で標示された左上フォトダイオードと、文字「UR」で標示された右上フォトダイオードと、文字「BL」で標示された左下フォトダイオードと、文字「BR」で標示された右下フォトダイオードとを含む。4PDフォーカスピクセル362の各フォトダイオードからのデータが、位相差を決定するために4PDフォーカスピクセル362の隣接するフォトダイオードからのデータと比較され得る。ピクセルアレイ360は、ピクセルアレイ360中のピクセルのうちのいくつかのみが4つのフォトダイオード(すなわち、フォーカスピクセル)を含む、「低密度」4PDピクセルアレイである。残りのピクセルは、イメージングピクセルであり、単一のフォトダイオードのみを含む。しかしながら、いくつかの場合には、ピクセルアレイ中のあらゆるピクセル(またはピクセルアレイ中のより高い割合のピクセル)が4つのフォトダイオードを含む、「高密度」4PDピクセルアレイが、代わりに使用され得、いくつかの場合には、フォーカスピクセルとイメージングピクセルの両方として同時に働くことができるか、または、あるフレームについてフォーカスピクセルとして働くことと、別のフレームについてイメージングピクセルとして働くこととの間で切り替えることができる。
【0055】
[0068]
図4は、低電力可変フォーカスオブジェクト検出のための例示的な画像処理システム400を示す図である。画像処理システム400は、たとえば、システムオンチップ(SoC)など、1つまたは複数のコンピューティングデバイスによって実装され得る。いくつかの例では、画像処理システム400は、
図1に示されているモバイルデバイス102の一部であり、および/またはそれによって実装され得る。画像処理システム400は、センサーデータ処理エンジン402と、カメライニシエータ404と、フォーカス/レンズコントローラ406と、オブジェクト検出器408とを含むことができる。
【0056】
[0069]いくつかの場合には、画像処理システム400は、オブジェクト検出に基づいてアクセスされるアプリケーション、オブジェクト検出に基づく認証を必要とするように構成されたアプリケーション、オブジェクト検出結果を使用および/または受信するアプリケーション、ならびに/あるいは任意の他のアプリケーションなど、オブジェクト検出に関連するアプリケーション410を随意に含むことができる。他の場合には、アプリケーション410は、別個のシステム、または同じシステム内の(1つまたは複数の)別個のデバイスによって実装され得る。いくつかの例では、フォーカス/レンズコントローラ406は、フォーカスモーターまたはコントローラを含むおよび/または制御することができる。たとえば、フォーカス/レンズコントローラ406は、ボイスコイルモーター(VCM)、圧電モーター、ステッパーモーター、超音波モーター、電気活性ポリマーモーター、液体レンズエレクトロウェッティングデバイス、電磁フォーカスモーター、ギア付きの直流(DC)モーター、ダイレクトドライブスーパーソニックウェーブモーター、固体レンズコントローラ、あるいは任意の他のフォーカスモーター、コントローラ、ドライバ、アクチュエータ、および/または構成要素を含むおよび/または制御することができる。
【0057】
[0070]センサーデータ処理エンジン402は、1つまたは複数のセンサーからのセンサーデータ430を処理することができ、これは、本明細書で説明されるオブジェクト検出プロセスを始動するためのトリガイベントを検出するために使用される。センサーデータ430は、たとえば、限定はしないが、ジャイロスコープ、加速度計、IMU、オーディオセンサー、周辺光センサー、深度センサーおよび/またはレーザー距離計、光学動きセンサー、気圧計、温度センサー、高度計、レーダー、全地球測位システム(GPS)デバイス、ならびに/あるいは任意の他のタイプのセンサーなど、1つまたは複数のセンサーからのデータを含むことができる。いくつかの例では、センサーデータ430は、動きデータ、オーディオデータ、位置データ、ロケーションデータ、高度データ、周囲光測定値、温度測定値、距離測定値、圧力測定値、レーダーリターン、および/または任意の他のタイプのセンサーデータを含むことができる。
【0058】
[0071]センサーデータ処理エンジン402は、センサーデータ430を処理し、処理されたセンサーデータをカメライニシエータ404に提供することができる。カメライニシエータ404は、検出されるべき関心オブジェクトの存在を示すことができる、および/または本明細書で説明されるオブジェクト検出プロセスをトリガすることができる、トリガイベントを検出するために、処理されたセンサーデータとカメラ420からの画像データ432とを使用することができる。いくつかの例では、カメライニシエータ404は、検出されるべき関心オブジェクトの存在を示すことができるいくつかの光学および/または非光学トリガイベントを収集および/または合体することができる。
【0059】
[0072]本明細書で説明されるオブジェクト検出プロセスをトリガするように構成され得るトリガの非限定的な例は、しきい値を上回る慣性動き、オブジェクト検出を開始する試み/意図を示すことができるジェスチャー(たとえば、QRコードまたはドキュメントなどのアイテムを走査する試みを示すジェスチャー、顔を走査/検出する試みを示すジェスチャー、手または指のジェスチャーなど)、関心オブジェクトの存在の検出/指示(たとえば、慣性センサーベース存在検出、オーディオセンサーベース存在検出、深度センサーベース存在検出など)、しきい値を上回るオーディオ変化、オブジェクト固有トリガ(たとえば、超音波シグナリング、自動車の雑音、動物の雑音、人間のボイス/音声など)、しきい値を上回る光変化、しきい値を上回るオブジェクトまでのレンジの変化、しきい値を上回るPDベース深度の変化、アプリケーションからのトリガ(たとえば、命令、要求、パラメータなど)、アクティブ深度検知システムからのトリガ(たとえば、しきい値測定値など)、GNSS/GPSからのトリガ、データ接続(たとえば、Bluetooth接続、Wi-Fi接続、ワイヤレスローカルエリアネットワーク接続、ワイドエリアネットワーク接続など)からのトリガ、および/あるいは任意の他の所定のトリガまたはそれらの組合せを含むことができる。その上、関心オブジェクトの非限定的な例は、QRコード、ドキュメント、顔、製品、手、指、動物、標識、テキスト、シンボル、画像、ランドマーク、車両、人、デバイス、および/または画像中でキャプチャされ、検出され得る(1つまたは複数の)任意の他のアイテムを含むことができる。
【0060】
[0073]カメラ420は、実装され、および/あるいは画像処理システム400または画像処理システム400を実装する(1つまたは複数の)デバイスの一部であり得る。いくつかの例では、カメラ420は、
図1に示されている前向きカメラ104であり得るかまたはそれによって実装され得る。他の例では、カメラ420は、画像処理システム400、画像処理システム400を実装するデバイス、または任意の他のデバイスによって実装された、異なるカメラであり得る。いくつかの場合には、カメラ420は、前に説明されたように、より低い電力のカメラであり得るかまたはそれに対応することができる。いくつかの例では、カメラ420は、画像のキャプチャを要求するユーザ入力に基づく明示的命令を必要とすることなしに画像を受動的にキャプチャする低電力画像センサーであり得る。いくつかの例では、カメラ420は、画像処理システム400が、低電力状態、ロック状態、アクティブ状態、非アクティブ状態、充電状態、および/または任意の他の状態など、1つまたは複数の状態にあるときに永続的にまたは周期的に動作することができる。
【0061】
[0074]カメライニシエータ404は、オブジェクト検出のための1つまたは複数のトリガを検出するために、画像データ432とセンサーデータ処理エンジン402から受信されたセンサーデータとを分析することができる。カメライニシエータ404がトリガを検出したとき、カメライニシエータ404は、関心オブジェクトがシーン中に存在するのか存在しないのかを決定するようにオブジェクト検出器408に命令する/オブジェクト検出器408をトリガするために、オブジェクト検出器408に信号を送ることができる。いくつかの例では、カメライニシエータ404は、オブジェクト検出器408に画像データ432(および随意にセンサーデータ処理エンジン402からの任意のセンサーデータ)をも送ることができ、オブジェクト検出器408は、関心オブジェクトが存在するのか存在しないのかを決定するためにそのようなデータを使用することができる。
【0062】
[0075]いくつかの場合には、カメライニシエータ404は、随意に、検出されたトリガをフォーカス/レンズコントローラ406に通知することができる。たとえば、カメライニシエータ404は、検出されたトリガの指示および/または説明をフォーカス/レンズコントローラ406に送ることができる。フォーカス/レンズコントローラ406は、本明細書で説明されるカメラ420の動作および/または構成を制御するために、トリガに関する情報を、オブジェクト検出器408からの出力とともに、随意に使用することができる。たとえば、フォーカス/レンズコントローラ406は、カメラ420に関連するレンズの構成(たとえば、レンズ位置)を調整するために、トリガに関する情報(たとえば、トリガの時間、トリガのタイプ、トリガパラメータなど)を、オブジェクト検出器408からの出力とともに、使用することができる。
【0063】
[0076]オブジェクト検出器408は、カメラ420によってキャプチャされた画像(たとえば、画像データ432)を分析し、画像中の関心オブジェクトの存在の確実性、決定、予測、信頼性、および/または可能性の指示を含むことができる、検出結果を生成することができる。いくつかの例では、オブジェクト検出器408は、カメラ420によってキャプチャされた画像(たとえば、画像データ432)を分析し、関心オブジェクトの存在および/または非存在の確実性、決定、予測、信頼性、および/または可能性の指示を生成することができる。たとえば、オブジェクト検出器408は、関心オブジェクトが画像中に存在するかどうかを決定するために、キャプチャされた画像を分析し、0から1までの信頼性値を出力することができ、ここで、0は、オブジェクト検出器408が、関心オブジェクトが画像中に存在しないことを大いにまたは最大限に確信していることを示し、0.5は、オブジェクト検出器408が、関心オブジェクトが画像中に存在するかどうか確信がないまたは最大限に確信がないことを示し、1は、オブジェクト検出器408が、関心オブジェクトが画像中に存在することを大いにまたは最大限に確信していることを示す。この例における0から1までの信頼性値は、説明の目的で本明細書で提供される、オブジェクト検出器408によって生成される信頼性値の1つの例示的な例にすぎない。当業者は、他の例では、オブジェクト検出器408が他のタイプの信頼性値を生成することができること、および/または信頼性値が他の規約に基づくことができることを、本開示から認識されよう。他の場合には、オブジェクト検出器408は、代わりにまたは追加として、関心オブジェクトが存在するのか存在しないのかを示すために、確率スコアまたはメトリック、確率的予測、分類および/またはラベル、コストまたは損失関数値、推定値、ランキング、バイナリ予測(たとえば、「はい」または「いいえ」、「真」または「偽」、「存在する」または「存在しない」など)、確率のセットなどを生成することができる。
【0064】
[0077]いくつかの態様では、オブジェクト検出器408は、キャプチャされた画像に基づいて信頼性値を生成するための1つまたは複数のアルゴリズム、ネットワーク、および/または統計モデルを実装することができる。たとえば、いくつかの場合には、オブジェクト検出器408は、画像処理アルゴリズム、機械学習アルゴリズム、ベイジアンネットワーク、条件付き確率場、マルコフ連鎖、テンソル因子分解、ニューラルネットワーク、それらの任意の組合せ、あるいは任意の他のアルゴリズム、ネットワークおよび/または統計モデルを実装することができる。オブジェクト検出器408は、生成された信頼性値が上限しきい値(たとえば、前の例における値1)に等しいかまたはそれを上回る場合、関心オブジェクトが画像中に存在すると決定することができる。オブジェクト検出器408は、信頼性値が下限しきい値(たとえば、前の例における0の値)に等しいかまたはそれを下回る場合、関心オブジェクトが画像中に存在しないと決定することができる。オブジェクト検出器408は、生成された信頼性値が、下限しきい値を上回るが、上限しきい値を下回る(たとえば、前の例における0を上回り、1を下回る)とき、関心オブジェクトが画像中に存在するのか存在しないのかに関する不確実性を示すことができる。
【0065】
[0078]いくつかの場合には、オブジェクト検出器408が、関心オブジェクトが、キャプチャされた画像中に存在すると決定し、画像中でオブジェクトを検出した場合、オブジェクト検出器408は、検出出力(たとえば、検出結果)をアプリケーション410に提供することができる。たとえば、オブジェクト検出器408は、オブジェクトが画像中で検出された(たとえば、オブジェクトが画像中に存在すると決定された)ことをアプリケーション410に通知することができる。別の例として、オブジェクト検出器408は、検出されたオブジェクトの指示および/または説明、オブジェクトが画像中に存在することを示す信頼性値、ならびに/あるいは検出されたオブジェクトおよび/またはオブジェクトの検出に関する任意の他の情報など、検出結果をアプリケーション410に提供することができる。いくつかの例では、オブジェクト検出器408が、関心オブジェクトが、キャプチャされた画像中に存在すると決定した場合、オブジェクト検出器408、アプリケーション410、または画像処理システム400は、画像処理システム400によって実装された別のカメラデバイスを「起動」または初期化することができる。
【0066】
[0079]他のカメラデバイスは、たとえば、より高い電力/解像度のカメラデバイスおよび/または画像センサーを含むことができる。いくつかの例では、他のカメラデバイスは、カメラ420よりも高い解像度の画像をキャプチャすること、カメラ420よりも高いフレームレートを実装すること、追加のおよび/またはカメラ420よりも算出集約的な、画像処理タスク/アルゴリズムを実装するまたは呼び出すこと、カメラ420よりも高い電力および/または能力をもつカメラハードウェアを実装することなどを行うことができる。画像処理システム400は、さらなる処理のために、検出されたオブジェクト(および/あるいは(1つまたは複数の)他のオブジェクト、またはシーンの部分)の1つまたは複数の画像をキャプチャするために他のカメラを使用することができる。いくつかの例では、画像処理システム400は、検出されたオブジェクトの画像をキャプチャすること、検出されたオブジェクトを認識する(たとえば、QRコードを認識する、顔を認識する、デバイスを認識するなど)ことなどを行うために使用されたレンズ位置において、カメラ420によって(および/または他のカメラによって)キャプチャされた画像を処理するために他のカメラを使用することができる。
【0067】
[0080]いくつかの場合には、画像処理システム400は、画像処理システム400が、異なる電力状態(たとえば、より低い電力状態、ロック状態、非アクティブ状態など)に遷移するとき、関心オブジェクトが、しきい値時間期間の間、検出されないとき、他のカメラデバイスが、しきい値時間期間の間、使用されない(および/または、非アクティブのままである)ときなど、他のカメラデバイスからカメラ420に切り替え復帰することができる。たとえば、画像処理システム400は、他のカメラデバイスを非アクティブ、スリープ、オフ、またはより低い電力状態に入れ、異なるカメラデバイスへの別の切替えがトリガされるまで使用のためにカメラ420を初期化することができる。
【0068】
[0081]オブジェクト検出器408は、フォーカス/レンズコントローラ406と通信して、オブジェクト検出器408によって生成された信頼性値など、オブジェクト検出器408からの検出結果に基づいて、カメラ420のレンズの位置など、カメラ420の構成をフォーカス/レンズコントローラ406に調整させることができる。たとえば、オブジェクト検出器408が、関心オブジェクトが画像中に存在しないと決定した場合、オブジェクト検出器408は、オブジェクトが画像中に存在しないことをフォーカス/レンズコントローラ406に通知することができる。フォーカス/レンズコントローラ406は、オブジェクトが画像中に存在しないという通知に基づいて実施するためのアクションを決定することができる。たとえば、フォーカス/レンズコントローラ406は、関心オブジェクトが画像中で検出されなかった場合、カメラ420にオフになるように命令することができる。
【0069】
[0082]別の例として、オブジェクト検出器408が、関心オブジェクトが画像中に存在するまたは存在しないことを確実性しきい値を用いて決定することができない場合(たとえば、信頼性値が、下限しきい値を上回るが、上限しきい値を下回る場合)、オブジェクト検出器408は、そのような不確実性をフォーカス/レンズコントローラ406に通知して、レンズの位置および/またはレンズ開口など、カメラ420の構成をフォーカス/レンズコントローラ406に調整させ、調整された構成を使用して別の画像をキャプチャするようにカメラ420をトリガすることができる。オブジェクト検出器408は、関心オブジェクトが存在するか否かに関する別の決定を行うために、調整された構成(たとえば、調整されたレンズ位置、調整されたレンズ開口など)を使用してキャプチャされた他の画像を使用することができる。調整された構成に基づいて、カメラ420によってキャプチャされた他の画像は、関心オブジェクトが画像中に存在するのか存在しないのかを決定するためにオブジェクト検出器408によって使用された前の画像とは異なる1つまたは複数のプロパティ/特性(たとえば、フォーカス/シャープネス、品質など)を有することができる。1つまたは複数の異なるプロパティ/特性をもつ他の画像は、オブジェクト検出器408が、関心オブジェクトが存在するのか存在しないのかを、より確実に決定することを可能にし得る。
【0070】
[0083]フォーカス/レンズコントローラ406は、オブジェクト検出器408からの検出結果(たとえば、信頼性値など)に基づいて、および随意に、カメライニシエータ404からのトリガ情報にさらに基づいて、カメラ420に関連する1つまたは複数の構成を調整することができる。たとえば、フォーカス/レンズコントローラ406は、オブジェクト検出器408からの(および随意に、カメライニシエータ404からの)イベント/情報に基づいて、画像センサーフォーカス、カメラ420の電力設定、および/または、たとえば、開口など、1つまたは複数の他の構成設定を制御することができる。例示のために、いくつかの場合には、フォーカス/レンズコントローラ406は、オブジェクト検出器408が、より確実な/正確なオブジェクト存在決定および/またはオブジェクト検出を行うために使用することができる異なるプロパティ/特性(たとえば、フォーカス/シャープネス、品質など)をもつ1つまたは複数の画像を(たとえば、カメラ420を介して)キャプチャするための焦点距離を変化させるようにレンズ位置を調整することができる。
【0071】
[0084]別の例として、フォーカス/レンズコントローラ406は、被写界深度、ならびに/あるいはカメラ420によってキャプチャされ、関心オブジェクトが存在するかどうかを決定するためにおよび/またはオブジェクトを検出するためにオブジェクト検出器408によって使用される、任意の追加の画像の1つまたは複数の他のプロパティ/特性を変化させるように、カメラ420によって使用される開口を調整することができる。別の例として、フォーカス/レンズコントローラ406は、オブジェクト検出器408からの信頼性値が、関心オブジェクトが画像中に存在しないことを示す場合、カメラ420をオフにする(および/またはさらなる命令まで追加の画像をキャプチャすることを停止する)ようにとの命令を生成することができる。
【0072】
[0085]圧電モーターまたはステッパーモーターなど、いくつかのフォーカス技術が、ニュートラル焦点距離を有しないことがある。その上、いくつかのフォーカス技術は、それらのフォーカス電力機能に対する非線形要素または時間要素を有し得る。いくつかの場合には、これらのフォーカス技術はまた、フォーカス/レンズコントローラ406の論理に組み込まれ得る。たとえば、レンズを移動するときのみに電力を引き込み得る、圧電フォーカスモーターの場合、フォーカス/レンズコントローラ406は、できる限りフォーカスを変化させることを回避するために、現在の焦点距離に近い焦点距離を検査することを優先させることができる。
【0073】
[0086]本明細書でさらに説明されるように、フォーカス/レンズコントローラ406は、オブジェクト検出およびオブジェクト検出決定を実施するとき、カメラ420および/またはカメラ420に関連するレンズモーター/ドライバよって消費される電力の量を低減するまたは最小限に抑えるように、構成調整(たとえば、レンズ位置および焦点距離、レンズ開口など)をインテリジェントに選択することができる。その上、画像処理システム400は、オブジェクト検出器408が、関心オブジェクトが存在するまたは存在しないことをしきい値信頼性を用いて決定するまで、上記で説明されたオブジェクト検出検査/テストおよびカメラ/レンズ調整の1つまたは複数の反復を連続的に実施することができる。画像処理システム400は、関心オブジェクトが存在するかどうかを決定し、関心オブジェクトが存在する場合、オブジェクトを検出する際に消費される電力を減少させる様式で、各反復をインテリジェントに実施することができる。いくつかの場合には、画像処理システム400は、また、関心オブジェクトを検出する確率を増加させる、信頼性しきい値を満足する検出決定(たとえば、オブジェクトが検出される、オブジェクトが存在する、オブジェクトが存在しない)を行う確率を増加させる、ならびに/あるいは、そのような検出決定を行うおよび/またはオブジェクト検出プロセスを完了する際にかかる時間の量(および/または試み/反復の量)を減少させる、様式で、各反復をインテリジェントに実施することができる。
【0074】
[0087]
図5は、低電力可変フォーカスオブジェクト検出のための例示的なプロセス500を示す図である。いくつかの例では、プロセス500は、フォーカスモーターなど、フォーカスコントローラデバイスよって消費される電力の量を低減または制限することができる。たとえば、プロセス500は、ニュートラル位置から離れてフォーカスさせられるレンズによって費やされる時間、ならびに/あるいはシステムによって実施されるレンズ位置変化の量および/または大きさを低減するまたは最小限に抑えることによって、電力消費を低減することができる。いくつかの例では、ニュートラル位置は、到着する/達成するおよび/または維持するために最小量の電力を消費する位置であり得る。いくつかの例では、ニュートラル位置は、非電力供給位置および/あるいは非ニュートラルまたは他の位置よりも低い電力引き込みに関連する位置であり得る。
【0075】
[0088]ブロック502において、プロセス500は、カメラシステム(たとえば、前向きカメラ104、カメラ420)がオフ状態(たとえば、フォーカスオフ、電源オフ)で開始することができる。ブロック504において、プロセス500は、トリガイベントが発生したかどうかを決定することができる。トリガイベントは、関心オブジェクトがシーン中に存在し得ることを示すことができる。その上、トリガイベントは、関心オブジェクトがシーン中に存在するかどうかを決定するようにオブジェクト検出器(たとえば、オブジェクト検出器408)をトリガするように構成されたイベントであり得る。関心オブジェクトの非限定的な例は、QRコード、ドキュメント、顔、製品、手、指、動物、標識、テキスト、シンボル、画像、ランドマーク、デバイス、人、車両、および/または画像中でキャプチャされ、検出され得る(1つまたは複数の)任意の他のアイテムを含むことができる。
【0076】
[0089]その上、トリガイベントは、たとえば、限定はしないが、しきい値を上回る慣性動き、オブジェクト検出を開始する試み/意図を示すことができるジェスチャー(たとえば、QRコードまたはドキュメントなどのアイテムを走査する試みを示すジェスチャー、顔を走査/検出する試みを示すジェスチャー、手または指のジェスチャーなど)、関心オブジェクトの存在の検出/指示(たとえば、慣性センサーベース存在検出、オーディオセンサーベース存在検出、深度センサーベース存在検出など)、しきい値を上回るオーディオ変化、オブジェクト固有トリガ(たとえば、超音波シグナリング、自動車の雑音、動物の雑音、人間のボイス/音声など)、しきい値を上回る光変化、しきい値を上回るオブジェクトまでのレンジの変化、しきい値を上回るPDベース深度の変化、および/あるいは任意の他の所定のトリガまたはそれらの組合せの検出を含むことができる。
【0077】
[0090]プロセス500は、トリガイベントが検出されたかどうかを決定するためにカメラシステムからの画像データを分析することができる。いくつかの場合には、プロセス500は、前に説明されたように、他のセンサーデータ(たとえば、センサーデータ430)をも分析することができる。トリガイベントが検出されない場合、プロセス500は、ブロック502に戻り、カメラシステムをオフ状態に維持することができる。トリガイベントが検出された場合、ブロック506において、プロセス500は、カメラシステムのレンズがニュートラル位置でカメラシステムをオンにすることができる。
【0078】
[0091]ブロック508において、プロセス500は、ニュートラル位置を使用して(たとえば、レンズがニュートラル位置にある間)カメラシステムによってキャプチャされた画像に基づいて、関心オブジェクトが存在するのか存在しないのかを決定することができる。いくつかの例では、存在決定は、関心オブジェクトが画像中に存在するまたは存在しないという信頼性を示すオブジェクト検出メトリックに基づく。
【0079】
[0092]ブロック510において、プロセス500は、オブジェクト検出メトリックが1つまたは複数の検出しきい値を上回るのか下回るのかを決定することができる。いくつかの例では、1つまたは複数の信頼性しきい値は、関心オブジェクトが画像中に存在するという確実性/可能性しきい値に対応する上限しきい値と、関心オブジェクトが画像中に存在しないという確実性/可能性しきい値に対応する下限しきい値とを含むことができる。
【0080】
[0093]オブジェクト検出メトリックが上限しきい値を上回るかまたは上限しきい値にある場合、ブロック512において、プロセス500は、関心オブジェクトが検出されたと決定することができる。いくつかの場合には、関心オブジェクトがブロック512において検出された場合、プロセス500は、より高い/追加の能力(たとえば、より高い解像度、より高いフレームレート、より高い電力状態など)をもつ、異なる画像センサーおよび/またはカメラシステムを「起動」または初期化することができる。オブジェクト検出メトリックが下限しきい値を下回るかまたは下限しきい値にある場合、プロセス500は、ブロック502に戻ることができる。たとえば、プロセス500は、オブジェクト検出メトリックが、関心オブジェクトが画像中に存在しないことを示す場合、カメラシステムの電源をオフにすることができる。
【0081】
[0094]オブジェクト検出メトリックが、下限しきい値を上回るが、上限しきい値を下回る場合、ブロック514において、プロセス500は、(たとえば、ニュートラル電力位置に対して)次に低い電力の位置にレンズを移動することによってカメラシステムのフォーカスを調整することができる。次に低い電力の位置は、他の利用可能な/可能なレンズ位置に対して、達成するために最小量の電力を必要とするニュートラル位置とは異なるレンズ位置であり得る。たとえば、次に低い電力の位置は、達成するためにフォーカスモーター/コントローラからの最小量の電力引き込みを伴うと決定されるレンズ位置であり得る。例示のために、異なる位置にレンズを移動するためにフォーカスモーター/コントローラよって消費される電力は異なることがあり、いくつかの位置は、他の位置よりもフォーカスモーター/コントローラによる多くの電力消費を伴う。(ブロック506においてすでに実装されたニュートラル位置を除外する)レンズを移動するためにフォーカスモーター/コントローラによる最小量の電力消費を必要とするレンズ位置は、ブロック514において参照される次に低い電力の位置であり得る。したがって、ブロック514において、プロセス500は、(ブロック506においてすでに実装されたニュートラル位置を除外する)フォーカスモーター/コントローラによる最小量の電力消費を伴う特定のレンズ位置にレンズを移動することを含むことができる。
【0082】
[0095]ブロック516において、プロセス500は、次に低い電力の位置を使用してカメラシステムによってキャプチャされた別の画像に基づいて、関心オブジェクトが存在するのか存在しないのかに関する追加の決定を行うことができる。いくつかの例では、追加の存在決定は、関心オブジェクトが画像中に存在するまたは存在しないという信頼性を示す追加のオブジェクト検出メトリックに基づく。
【0083】
[0096]ブロック518において、プロセス500は、追加のオブジェクト検出メトリックが1つまたは複数のしきい値を上回るのか下回るのかを決定することができる。いくつかの例では、追加のオブジェクト検出メトリックが上限しきい値を上回るかまたは上限しきい値にある場合、ブロック512において、プロセス500は、関心オブジェクトが検出されたと決定することができる。追加のオブジェクト検出メトリックが下限しきい値を下回るかまたは下限しきい値にある場合、プロセス500は、ブロック502に戻ることができる。たとえば、プロセス500は、追加のオブジェクト検出メトリックが、関心オブジェクトが画像中に存在しないことを示す場合、カメラシステムの電源をオフにすることができる。
【0084】
[0097]追加のオブジェクト検出メトリックが、下限しきい値を上回るが、上限しきい値を下回る場合、プロセス500は、次に低い電力の位置(たとえば、ブロック514からの次に低い電力の位置よりも多い電力消費に関連するが、そのカメラシステムのための利用可能な/可能な任意の他のレンズ位置よりも少ない電力消費に関連する、レンズ位置)にレンズを移動することによってカメラシステムのフォーカスを再び調整することができる。プロセス500は、プロセス500が、オブジェクトを検出するか、オブジェクトが存在しないと決定するか、またはそのカメラシステムのためのあらゆる利用可能な/可能なレンズ位置をテストすることを終了するまで、電力消費の漸進的増加を伴って、上記で説明されたオブジェクト存在検査を連続的に実施することができる。このようにして、プロセス500は、そのようなフォーカスおよびレンズ位置を見つけるために使用される電力の量を低減するまたは最小限に抑えながら、オブジェクトを検出するために、またはオブジェクトが存在しないと決定するために十分な品質の画像をもたらす、フォーカスおよびレンズ位置を探索することができる。たとえば、より高いフォーカスモーター/コントローラ電力消費を伴うフォーカスおよびレンズ位置を実装する前に、プロセス500は、最初に、より少ないフォーカスモーター/コントローラ電力消費を伴う任意のフォーカスおよびレンズ位置を検査することができ、これは、より低い量の電力を使用する検出につながり得る。
【0085】
[0098]
図6は、フォーカス調整および関連する電力プロファイルの例示的なタイムライン600を示す図である。電力プロファイルは、検出電力652と、ロックボトムスリープ(RBS:rock bottom sleep)電力650と、センサーフォーカス電力630~634と、画像処理電力640とを含む。電力プロファイルは、ブロックによって
図6中でそれぞれ表される、検出電力652と、ロックボトムスリープ(RBS)電力650と、センサーフォーカス電力630~634と、画像処理能力640とを含み、検出電力652と、RBS電力650と、センサーフォーカス電力630~634と、画像処理電力640との電力の相対値は、検出電力652と、ロックボトムスリープ(RBS)電力650と、センサーフォーカス電力630~634と、画像処理電力640とを含む、電力プロファイルを表すブロックの相対的な(例示的な)サイズによって表される。
【0086】
[0099]
図6に示されている例では、カメラシステムは、時間T
0と時間T
1との間でディセーブル状態(disabled state)602にある。ディセーブル状態602では、カメラシステムは、検出電力652とRBS電力650とを消費する。検出電力652は、前に説明されたようにセンサーデータを処理し、トリガイベントを検出するために消費される、少量の電力を含むことができる。RBS電力650(またはロックボトムスリープ電流またはRBSC)は、カメラシステムの最小電力レベル(たとえば、動作するためにおよび/または完全に電源オフされないときにカメラシステムによって使用される最小量の電力)を表すことができる。RBS電力650と検出電力652とは、(センサーフォーカス電力と画像処理電力とに対応するブロックに対して)RBS電力650と検出電力652とを表すブロックのより小さい、相対サイズによって表される、最小量の電力消費を伴う。
【0087】
[0100]T
1において(またはT
1の前に)、カメラシステムは、関心オブジェクトが存在し得ることを示すことができるトリガイベント610を検出し、
図5に関して上記で説明されたプロセス500など、オブジェクト検出プロセスを始動することができる。トリガイベント610に基づいて、カメラシステムは、ニュートラルレンズ位置604にレンズを設定する。ニュートラルレンズ位置604は、非電力供給レンズ位置、またはカメラシステムにおける利用可能な/可能な様々なレンズ位置からの最低量のフォーカスモーター/コントローラ電力に関連するレンズ位置であり得る。いくつかの例では、ニュートラルレンズ位置604は、(無限遠へのフォーカスとも呼ばれる)無限遠フォーカスに対応することができる。
【0088】
[0101]カメラシステムは、時間T1と時間T2との間でニュートラルレンズ位置604を維持する。ニュートラルレンズ位置604において、カメラシステムは、検出電力652とRBS電力650とに加えて、(たとえば、最低センサーフォーカス電力630に対応するブロックの相対サイズによって表される)最低センサーフォーカス電力630と画像処理電力640とを消費する。ニュートラルレンズ位置604にある間にカメラシステムによってキャプチャされた画像に基づいて、カメラシステムは、関心オブジェクトが、キャプチャされた画像中に存在するかどうかを推定する、オブジェクト検出メトリック612を決定する。いくつかの例では、オブジェクト検出メトリック612は、関心オブジェクトが、キャプチャされた画像中に存在するかどうかに関する、確実性、可能性、推定値などを示す信頼性値を含むことができる。この例におけるオブジェクト検出メトリック612は、(たとえば、カメラシステムが、オブジェクト検出メトリック612を決定した後にディセーブル状態602に戻らないことによって、示されるように)上限しきい値を下回り、下限しきい値を上回る。
【0089】
[0102]オブジェクト検出メトリック612が、上限しきい値を下回り、下限しきい値を上回ることに基づいて、カメラシステムは、オブジェクトが、レンズが第1のレンズ位置606にあるときに上限しきい値信頼性内で検出され得るかどうかを検査/テストするために、レンズ位置を第1のレンズ位置606に調整する。カメラシステムは、時間T2と時間T3との間で第1のレンズ位置606を維持する。第1のレンズ位置606は、検出電力652とRBS電力650とに加えて、画像処理電力640と次に低いセンサーフォーカス電力632とを含むことができる。示されているように、第1のレンズ位置606に関連する次に低いセンサーフォーカス電力632は、ニュートラル位置604に関連する最低センサーフォーカス電力630よりも多くの電力消費を含むが、第2のレンズ位置608に関連するより高いセンサーフォーカス電力634よりも少ない電力消費を含む。たとえば、カメラシステムのフォーカスモーター/コントローラは、カメラシステムのレンズを、第1のレンズ位置606に変化させるために、ニュートラルレンズ位置604に変化させるよりも多くの電力を引き込むが、カメラシステムのレンズを、第1のレンズ位置606に変化させるために、第2のレンズ位置608に変化させるよりも少ない電力を引き込む。
【0090】
[0103]第1のレンズ位置606でカメラシステムによってキャプチャされた画像に基づいて、カメラシステムは、関心オブジェクトが、キャプチャされた画像中に存在するかどうかを推定する、オブジェクト検出メトリック614(たとえば、第2の信頼性値)を決定する。この例におけるオブジェクト検出メトリック614は、この場合も、(たとえば、カメラシステムが、オブジェクト検出メトリック614を決定した後にディセーブル状態602に戻らないことによって、示されるように)上限しきい値を下回り、下限しきい値を上回る。したがって、オブジェクト検出メトリック614が、上限しきい値を下回り、下限しきい値を上回ることに基づいて、カメラシステムは、この場合も、オブジェクトが、レンズ位置が第2のレンズ位置608にあるときに上限しきい値信頼性内で検出され得るかどうかを検査/テストするために、レンズ位置を第2のレンズ位置608に調整する。カメラシステムは、時間T3と時間T4との間で第1のレンズ位置606を維持する。
【0091】
[0104]第2のレンズ位置608は、検出電力652とRBS電力650とに加えて、画像処理電力640とより高いセンサーフォーカス電力634とを含むことができる。示されているように、第2のレンズ位置608に関連するより高いセンサーフォーカス電力634は、ニュートラル位置604に関連する最低センサーフォーカス電力630と第1のレンズ位置606に関連する次に低いセンサーフォーカス電力632とよりも多くの電力消費を含む。たとえば、フォーカスモーター/コントローラは、カメラシステムのレンズを、第2のレンズ位置608に変化させるために、ニュートラルレンズ位置604および第1のレンズ位置606に変化させるよりも多くの電力を引き込む。
【0092】
[0105]第2のレンズ位置608でカメラシステムによってキャプチャされた画像に基づいて、カメラシステムは、関心オブジェクトが、キャプチャされた画像中に存在するかどうかを推定する、オブジェクト検出メトリック616を決定する。いくつかの場合には、この例におけるオブジェクト検出メトリック616は、(たとえば、カメラシステムが、オブジェクト検出メトリック614を決定した後にディセーブル状態602に戻らないことによって、示されるように)上限しきい値を下回り、下限しきい値を上回る。したがって、オブジェクト検出メトリック614が、上限しきい値および下限しきい値を下回ることに基づいて、カメラシステムは、ディセーブル状態602に遷移する。他の場合には、第2のレンズ位置608が、カメラシステムによって検査/テストされなかった最後のレンズ位置であり、オブジェクト検出メトリック616が、依然として、上限しきい値を下回る場合、カメラシステムは、オブジェクト検出メトリック616が下限しきい値を上回る場合でも、ディセーブル状態602に遷移することができる。
【0093】
[0106]カメラシステムは、時間T4と時間T5との間でディセーブル状態602のままである。ディセーブル状態602にある間、カメラシステムは、トリガイベント618を検出し、ニュートラルレンズ位置604に遷移する。カメラシステムは、時間T5と時間T6との間でニュートラルレンズ位置604のままである。カメラシステムは、ニュートラルレンズ位置604に基づいて画像をキャプチャし、オブジェクトが画像中に存在するまたは存在しないというオブジェクト検出メトリック620を決定するために、キャプチャされた画像を使用することができる。この例では、オブジェクト検出メトリック620は、下限信頼性しきい値にあるかまたは下限信頼性しきい値を下回る。したがって、カメラシステムは、オブジェクトが、検出されなかったおよび/または画像中に存在しないと決定する。
【0094】
[0107]カメラシステムは、次いで、ディセーブル状態602に遷移し、時間T6と時間T7との間でディセーブル状態602のままである。カメラシステムがトリガイベント622を検出したとき、カメラシステムは、ニュートラルレンズ位置604に変化する。カメラシステムは、時間T7と時間T8との間でニュートラルレンズ位置604を維持する。カメラシステムは、ニュートラルレンズ位置604に基づいて画像をキャプチャし、オブジェクトが画像中に存在するまたは存在しないというオブジェクト検出メトリック624を決定する。この例では、オブジェクト検出メトリック624は、上限しきい値信頼性にあるかまたは上限しきい値信頼性を上回る。したがって、オブジェクト検出メトリック624に基づいて、カメラシステムは、オブジェクトを検出し、および/またはオブジェクトが画像中に存在すると決定することができる。
【0095】
[0108]いくつかの場合には、カメラシステムが、(たとえば、オブジェクト検出メトリック624に基づいて)オブジェクトを検出し、および/またはオブジェクトが画像中に存在すると決定した場合、カメラシステムを実装する電子デバイス(たとえば、モバイルデバイス102)は、電子デバイスによって実装された異なるカメラシステムを「起動」または初期化することができる。異なるカメラシステムは、より高い解像度、(1つまたは複数の)より高いフレームレート、(1つまたは複数の)より高い電力状態/モードなど、より高い/追加の、画像キャプチャ能力および/または画像処理能力をもつ、カメラシステムを含むことができる。いくつかの例では、異なるカメラシステムは、追加のおよび/またはより算出集約的な画像処理タスク/アルゴリズムを実装するおよび/または呼び出すことができる。異なるカメラシステムは、さらなる処理のための検出されたオブジェクトの1つまたは複数の画像、ならびに/あるいはシーンおよび/またはシーン中の他のオブジェクトの1つまたは複数の画像をキャプチャするために実装され得る。いくつかの例では、電子デバイスは、検出されたオブジェクトの画像をキャプチャすること、検出されたオブジェクトを認識する(たとえば、QRコードを認識する、顔を認識する、デバイスを認識するなど)ことなどを行うために使用された焦点距離において、カメラシステムによってキャプチャされた画像を処理するために異なるカメラシステムを使用することができる。
【0096】
[0109]いくつかの場合には、電子デバイスは、電子デバイスが、異なる電力状態(たとえば、より低い電力状態、ロック状態、非アクティブ状態、異なる電力モードなど)に遷移するとき、関心オブジェクトが、しきい値時間期間の間、検出されないとき、異なるカメラシステムが、しきい値時間期間の間、使用されない(および/または、非アクティブのままである)ときなど、(たとえば、異なるカメラシステムから)カメラシステムに切り替え復帰することができる。たとえば、電子デバイスは、異なるカメラシステムを非アクティブ、スリープ、オフ、またはより低い電力状態に入れ、異なるカメラシステムへの別の切替えがトリガされるまで使用のためにカメラシステムを初期化することができる。
【0097】
[0110]
図6に示されているように、カメラシステムは、最小量の電力消費を伴うレンズ位置/焦点距離で開始する異なるレンズ位置/焦点距離を連続的にテストし、(必要に応じて)より低い電力消費からより高い電力消費への順序で選択された任意の追加のレンズ位置/焦点距離を連続的に検査/テストすることができる。本明細書でさらに説明されるように、他の例では、カメラシステムは、リワード(reward)対リスク選択順序、現在の距離/レンズ位置に対する距離および/または電力消費に基づく選択順序、ならびに/あるいは任意の他の選択順序および/または基準に基づいてなど、(たとえば、より低い電力消費からより高い電力消費への順序/基準の代わりにまたはそれに加えて)異なる選択順序に基づいて、どのレンズ位置/焦点距離を検査すべきかを選択することができる。
【0098】
[0111]
図7は、低電力可変フォーカスオブジェクト検出のための別の例示的なプロセス700を示す図である。この例では、プロセス700は、リスクおよびリワード分析/決定に基づいていくつかの焦点距離に優先させることができる。
【0099】
[0112]たとえば、ブロック702において、プロセス700は、カメラシステム(たとえば、前向きカメラ104、カメラ420)がオフ状態(たとえば、フォーカスオフ、電源オフ)で開始することができる。ブロック704において、プロセス700は、トリガイベントが発生したかどうかを決定することができる。トリガイベントが検出された場合、ブロック706において、プロセス700は、カメラシステムのレンズが、選択された位置で、カメラシステムをオンにすることができる。ここで、レンズの位置は、リスクおよびリワード決定に基づいて選択され得る。
【0100】
[0113]たとえば、ブロック706において選択されたレンズの位置は、最高の/最良のリワード対リスク評価または比較をもつ位置であり得る。位置に関連するリワードは、関心オブジェクトがその位置におけるレンズを用いて検出されることになるという、指示および/または推定された可能性/確実性を提供する、オブジェクト検出メトリックを含むおよび/またはそれに対応することができる。位置に関連するリスクは、関心オブジェクトがその位置におけるレンズを用いて検出されないことになるという、指示および/または推定された可能性/確実性を提供する、オブジェクト検出メトリックを含むおよび/またはそれに対応することができ、したがって、その位置にレンズを移動することは、不要な電力消費(たとえば、異議検出および/またはしきい値オブジェクト検出確実性をもたらさない、その位置にレンズを移動するための電力引き込み)のリスクを冒すことがある。
【0101】
[0114]いくつかの場合には、様々なレンズ位置についてのリスク/リワード決定は、関心オブジェクトの推定されたレンジ/距離に基づくことができる。推定されたレンジ/距離は、様々なレンズ位置からのオブジェクト検出(または関心オブジェクトが存在しないという決定)を達成する可能性に対するインサイト、および/または、どの(1つまたは複数の)レンズ位置が、検出(または関心オブジェクトが存在しないという決定)をもたらす、より高い/最も高い可能性があり得るかに対するインサイトを提供することができる。いくつかの場合には、特定のレンズ位置について推定されたオブジェクト検出(または関心オブジェクトが存在しないという決定)を達成する可能性は、その可能性が、高いおよび/または他のレンズ位置について推定された可能性よりも高い場合、その特定のレンズ位置を使用することのリワードを示す、反映する、および/またはそれに対応することができる(および/またはリワード値を決定するために使用され得る)。いくつかの場合には、特定のレンズ位置について推定されたオブジェクト検出(または関心オブジェクトが存在しないという決定)を達成する可能性は、その可能性が、低いおよび/または他のレンズ位置について推定された可能性よりも低い場合、その特定のレンズ位置を使用することのリスクを示す、反映する、および/またはそれに対応することができる(および/またはリスク値を決定するために使用され得る)。
【0102】
[0115]その上、いくつかの場合には、特定のレンズ位置にレンズを移動するために使用される電力消費の量は、その電力消費の量が、高いおよび/または他のレンズ位置の電力消費の量よりも高い場合、その特定のレンズ位置を使用することのリスクを示す、反映する、および/またはそれに対応することができる。いくつかの場合には、特定のレンズ位置にレンズを移動するために使用される電力消費の量はまた、その電力消費の量が、低いおよび/または他のレンズ位置の電力消費の量よりも低い場合、その特定のレンズ位置を使用することのリワードを示す、反映する、および/またはそれに対応することができる。
【0103】
[0116]いくつかの実装形態では、(1つまたは複数の)トリガイベント(および/または(1つまたは複数の)トリガイベントに関する情報)、および/または(1つまたは複数の)トリガイベントを検出するために使用されるセンサーデータ(たとえば、センサーデータ430および/または画像データ432)が、レンズ位置についてのリスク/リワード値を決定するために使用され得る。たとえば、トリガイベント、トリガイベントに関連する情報、および/またはトリガイベントを検出するために使用されるセンサーデータは、関心オブジェクトの距離/レンジの指示を提供することができ、これは、次いで、カメラシステムのための利用可能な/可能な様々なレンズ位置に関連する焦点距離および/または任意の他のフォーカス特性に基づいて、どの(1つまたは複数の)レンズ位置が、その距離/レンジにおけるオブジェクトのためのオブジェクト検出をもたらす、より高い/最も高い可能性があり得るかを決定するために使用され得る。
【0104】
[0117]いくつかの例では、トリガイベント、トリガイベントに関連する情報、および/またはトリガイベントを検出するために使用されるセンサーデータは、様々なレンズ位置についてのリスク/リワード値を決定するための、フォーカス/レンズコントローラ406中のリスク/リワード機能への入力として使用され得る。いくつかの場合には、フォーカス/レンズコントローラ406は、リスク/リワード機能が、より高い電力のレンズ位置(たとえば、焦点距離)において、可能な関心オブジェクトのより高い/より高い指示/可能性を提供する場合、より高い電力のレンズ位置(たとえば、焦点距離)を優先させることができる。たとえば、いくつかの場合には、フォーカス/レンズコントローラ406は、より高い電力のレンズ位置について推定されたリワードが、高い(たとえば、あるしきい値にあるかまたはあるしきい値を上回る)、および/または1つまたは複数のより低い電力のレンズ位置について推定されたリワードよりも高い場合、ならびに/あるいは、より高い電力のレンズ位置について推定されたリスクが、低い(たとえば、あるしきい値にあるかまたはあるしきい値を下回る)、および/または1つまたは複数のより低い電力のレンズ位置について推定されたリスクよりも低い場合、より低い電力のレンズ位置よりも、より高い電力のレンズ位置を優先させることができる。例示のために、フォーカス/レンズコントローラ406は、第2のレンズ位置608について推定されたリワードが、高い(たとえば、あるしきい値にあるかまたはあるしきい値を上回る)、および/またはニュートラルレンズ位置604および/または第1のレンズ位置606について推定されたリワードよりも高い場合、ならびに/あるいは、第2のレンズ位置608について推定されたリスクが、低い(たとえば、あるしきい値にあるかまたはあるしきい値を下回る)、および/またはニュートラルレンズ位置604および/または第1のレンズ位置606について推定されたリスクよりも低い場合、
図6に示されている第1のレンズ位置606および/またはニュートラルレンズ位置604よりも、
図6に示されている第2のレンズ位置608を優先させることができる。
【0105】
[0118]ブロック708において、プロセス700は、選択されたレンズ位置(たとえば、ブロック706において選択されたレンズ位置)を使用してカメラシステムによってキャプチャされた画像に基づいて、選択されたレンズ位置のためのオブジェクト検出メトリック(たとえば、信頼性値)を決定することができる。オブジェクト検出メトリックは、関心オブジェクトが画像中に存在するまたは存在しないという信頼性を示す値を含むことができる。
【0106】
[0119]ブロック710において、プロセス700は、検出メトリック(たとえば、信頼性値)が1つまたは複数の信頼性しきい値を上回るのか下回るのかを決定することができる。いくつかの例では、1つまたは複数の信頼性しきい値は、関心オブジェクトが画像中に存在するというしきい値確実性/可能性に対応する上限しきい値と、関心オブジェクトが画像中に存在しないというしきい値確実性/可能性に対応する下限しきい値とを含むことができる。
【0107】
[0120]検出メトリックが上限しきい値を上回るかまたは上限しきい値にある場合、ブロック712において、プロセス700は、関心オブジェクトが検出されたと決定することができる。いくつかの例では、プロセス700が、関心オブジェクトが検出されたと決定した場合、プロセス700は、異なるカメラシステムを「起動」または初期化することができる。異なるカメラシステムは、たとえば、より高い電力/解像度のカメラシステムを含むことができる。いくつかの例では、異なるカメラシステムは、より高い解像度の画像をキャプチャすること、より高いフレームレートを実装すること、追加のおよび/またはより算出集約的な画像処理タスク/アルゴリズムを実装するまたは呼び出すこと、より高い電力および/または能力をもつカメラハードウェアを実装することなどを行うことができる。プロセス700は、さらなる処理のために、検出されたオブジェクト(および/あるいは(1つまたは複数の)他のオブジェクト、またはシーンの部分)の1つまたは複数の画像をキャプチャするために異なるシステムを使用することができる。いくつかの例では、プロセス700は、検出されたオブジェクトの画像をキャプチャすること、検出されたオブジェクトを認識する(たとえば、QRコードを認識する、顔を認識する、デバイスを認識するなど)ことなどを行うために使用されたレンズ位置において、カメラシステムによって(および/または異なるカメラシステムによって)キャプチャされた画像を処理するために異なるカメラシステムを使用することができる。
【0108】
[0121]いくつかの場合には、プロセス700は、カメラシステムを実装する電子デバイス(たとえば、モバイルデバイス102)が、異なる電力状態(たとえば、より低い電力状態、ロック状態、非アクティブ状態など)に遷移するとき、関心オブジェクトが、しきい値時間期間の間、検出されないとき、異なるカメラシステムが、しきい値時間期間の間、使用されない(および/または、非アクティブのままである)ときなど、(たとえば、異なるカメラシステムから)カメラシステムに切り替え復帰することができる。たとえば、プロセス700は、異なるカメラシステムを非アクティブ、スリープ、オフ、またはより低い電力状態に入れ、異なるカメラシステムへの別の切替えがトリガされるまで使用のためにカメラシステムを初期化することができる。
【0109】
[0122]検出メトリックが下限しきい値を下回るかまたは下限しきい値にある場合、プロセス700は、ブロック702に戻ることができる。たとえば、プロセス700は、検出メトリックが、関心オブジェクトが画像中に存在しないことを示す場合、カメラシステムの電源をオフにすることができる。検出メトリックが、下限しきい値を上回るが、上限しきい値を下回る場合、ブロック714において、プロセス700は、異なる選択されたレンズ位置にレンズを移動することによってカメラシステムのフォーカスを調整することができる。異なる選択されたレンズ位置は、その異なる選択されたレンズ位置および任意の他のレンズ位置について推定されたリスク/リワード値に基づいて、同様に選択され得る。いくつかの例では、異なる選択されたレンズ位置は、次に良いリスク/リワード値をもつ(たとえば、ブロック706において選択されたレンズ位置の後の、最高のリワード対リスク比または評価/比較を有する)レンズ位置であり得る。
【0110】
[0123]ブロック716において、プロセス700は、異なる選択されたレンズ位置を使用してカメラシステムによってキャプチャされた別の画像に基づいて、追加の検出メトリックを決定することができる。ブロック718において、プロセス700は、追加の検出メトリックが1つまたは複数の信頼性しきい値を上回るのか下回るのかを決定することができる。いくつかの例では、追加の検出メトリックが上限しきい値を上回るかまたは上限しきい値にある場合、ブロック712において、プロセス700は、関心オブジェクトが検出されたと決定することができる。追加の検出メトリックが下限しきい値を下回るかまたは下限しきい値にある場合、プロセス700はブロック702に戻ることができ、プロセス700はカメラシステムの電源をオフにすることができる。
【0111】
[0124]追加の検出メトリックが、下限しきい値を上回るが、上限しきい値を下回る場合、プロセス700は、前に説明されたように、リスク/リワード決定に基づいて選択された追加のレンズ位置にレンズを移動することによってカメラシステムのフォーカスを再び調整することができる。プロセス700は、プロセス700が、オブジェクトを検出するか、オブジェクトが存在しないと決定するか、またはそのカメラシステムのためのあらゆる利用可能な/可能なレンズ位置をテストすることを終了するまで、リスク/リワード比またはリスク/リワード評価/比較など、リスク/リワード値に基づいて選択されたレンズ位置について、上記で説明された検出信頼性検査を連続的に実施することができる。このようにして、プロセス700は、そのようなフォーカスおよびレンズ位置を見つけるために使用される電力の量を低減するまたは最小限に抑えながら、ならびに/あるいは潜在的リワード対リスク比または評価を増加させるまたは最大にしながら、オブジェクトを検出するために、またはオブジェクトが存在しないと決定するために十分な品質の画像をもたらす、フォーカスおよびレンズ位置を探索することができる。
【0112】
[0125]
図8は、カメラシステムのFOV内の(1つまたは複数の)関心オブジェクトの距離を推定/検出するためのPDAFデータの例示的な使用を示す図である。いくつかの例では、カメラシステムは、トリガイベントを検出するためにPDAFデータ(および/またはPDAFデータに基づいて推定/検出された関心オブジェクトの距離)を使用することができる。いくつかの場合には、カメラシステムは、
図7に示されているプロセス700に関して前に説明されたように、レンズ位置を選択するためのリスク/リワード値を決定するためにPDAFデータ(および/またはPDAFデータに基づいて推定/検出された関心オブジェクトの距離)を使用することができる。いくつかの場合には、カメラシステムは、PDAFデータ(および/またはPDAFデータに基づいて推定/検出された関心オブジェクトの距離)を継続中のオートフォーカス補正の一部として使用することができる。
【0113】
[0126]
図8では、ピクセルアレイ802は、
図3Dに関して前に説明されたように、一般に、4PDフォーカスピクセルまたは4位相検出(QPD)フォーカスピクセルと呼ばれる、各フォーカスピクセルが4つのダイオードを含む、フォーカスピクセルを含む。たとえば、ピクセルアレイ802中の4PDフォーカスピクセルが、左上フォトダイオードと、右上フォトダイオードと、左下フォトダイオードと、右下フォトダイオードとを含むことができる。4PDフォーカスピクセルの各フォトダイオードからのデータが、位相差を決定するために4PDフォーカスピクセルの隣接するフォトダイオードからのデータと比較され得る。
【0114】
[0127]カメラシステムは、画像センサーのFOV内のオブジェクトの距離を検出するためにピクセルアレイ802からの部分的PDAFデータをトリガイベントとして使用することができる。画像センサーは、ラインの大部分をスキップしながら、いくつかのライン上でPDAFデータをサンプリングすることができる。画像は、正確なPDAF処理を可能にするために水平方向に高い密度を有することができる。いくつかの例では、PDデータは、単一のPDAFライン上でも信頼できる結果を提供することができる。いくつかの場合には、QPDセンサー(たとえば、ピクセルアレイ802)は、L/RインターリーブされたPDAFデータを生成するために2つのラインからのデータをビニングすることができる。いくつかの例では、より多くのラインをビニングすることは、より低い光源レベルにおいて働くことを可能にすることができる。
【0115】
[0128]例示のために、カメラシステムは、画像センサーのFOV内のオブジェクトの距離を検出するためにピクセルアレイ802の読出し(read out)804からの部分的PDAFデータを使用することができる。画像センサーは、ラインのより大きい部分812をスキップしながら、ラインの一部分810上でPDAFデータをサンプリングすることができる。いくつかの例では、QPDセンサー(たとえば、ピクセルアレイ802)は、L/RインターリーブされたPDAFデータ814を生成するために2つのラインからのデータをビニングすることができる。いくつかの場合には、ラインの一部分810は、上部、下部、または側部エッジなど、ビンに追加されるピクセルアレイ802のエッジからサンプリングされ得る。
【0116】
[0129]いくつかの場合には、カメラシステムは、本明細書で説明されるオブジェクト検出を助けるようにレンズ開口を調整することができる。たとえば、いくつかのカメラモジュールが、調整可能な開口を有することができる。そのような場合、カメラシステムは、異なる被写界深度を達成するように開口を調整することができ、これは、オブジェクトを検出することを助けることができる。例示のために、
図9は、異なる開口を使用してキャプチャされた画像900、902、および904を示す。ここで、画像900は、第1の開口910を使用してキャプチャされ、画像902は、第1の開口910よりも小さい第2の開口912を使用してキャプチャされ、画像904は、第2の開口912よりも小さい第3の開口914を使用してキャプチャされた。
【0117】
[0130]示されているように、異なる開口910、912、および914は、画像900、902、および904において異なる被写界深度を生じ、最も小さい開口(たとえば、第3の開口914)が、最も深い被写界深度を生じ、最も大きい開口(たとえば、第1の開口910)が、最も浅い被写界深度を生じる。
【0118】
[0131]したがって、カメラシステムは、オブジェクト検出を助けるために、異なる関連する被写界深度を活用するために、異なる開口(たとえば、第1の開口910、第2の開口912、および第3の開口914)を使用することができる。たとえば、カメラシステムは、より深い被写界深度を達成するために、より小さい開口(たとえば、第3の開口914または第2の開口912)を使用することができる。より深い被写界深度は、カメラシステムが、関心オブジェクトについて検査するための焦点距離の数を低減する(または1つの焦点距離のみを検査する)ことを可能にすることができる。
【0119】
[0132]いくつかの場合には、選択される開口は、シーン/環境における光源レベルに依存することがある。たとえば、弱光シナリオでは、より大きい開口(たとえば、第1の開口910)が、そのようなより大きい開口にもかかわらず、より浅い被写界深度を生じ、潜在的により多くの焦点距離ストップ/検査を必要とすることがある。
【0120】
[0133]いくつかの場合には、使用/テストするための特定の焦点距離を連続的に選択することの代わりにまたはそれに加えて、複数の画像センサーをもつカメラシステムによって実装されたオブジェクト検出プロセスが、所与の焦点距離において最も低い電力プロファイルをもつ特定の画像センサーを連続的に選択することができる。電子デバイスは、しばしば、複数のカメラを有し、カメラの各々は、たとえば、FOV、フォーカス電力プロファイル、開口など、それ自体の固有の特性を有し得る。したがって、オブジェクト検出プロセスは、複数のカメラを使用することができる。たとえば、オブジェクト検出プロセスは、ある画像センサーは、特定の焦点距離のためにより低いフォーカス電力を有し得、別の画像センサーは、異なる焦点距離のためにより低いフォーカス電力を有し得るので、所与の焦点距離のために特定のカメラを選択することができる。いくつかの例では、フォーカス/レンズコントローラ406は、カメラのセットから、焦点距離のための(たとえば、適切な設定をもつ)最も低い電力のカメラまたは焦点距離のための最良のリスク/リワード値をもつカメラを選択することができる。
【0121】
[0134]
図10は、複数のカメラを使用するオブジェクト検出のための例示的なプロセス1000を示すフローチャートである。この例では、ブロック1002において、プロセス1000は、カメラシステム(たとえば、前向きカメラ104、カメラ420)がオフ状態(たとえば、フォーカスオフ、電源オフ)で開始することができる。ブロック1004において、プロセス1000は、トリガイベントが発生したかどうかを決定することができる。
【0122】
[0135]トリガイベントが検出されない場合、プロセス1000は、ブロック1002に戻り、カメラシステムをオフ状態に維持することができる。トリガイベントが検出された場合、ブロック1006において、プロセス1000は、カメラシステムをオンにし、所与の焦点距離のために最も低い電力のカメラを選択することができる。
【0123】
[0136]ブロック1008において、プロセス1000は、選択された最も低い電力のカメラを使用してカメラシステムによってキャプチャされた画像に基づいて、オブジェクト検出信頼性を決定することができる。
【0124】
[0137]ブロック1010において、プロセス1000は、検出メトリック(たとえば、信頼性値)が1つまたは複数の信頼性しきい値を上回るのか下回るのかを決定することができる。いくつかの例では、1つまたは複数の信頼性しきい値は、関心オブジェクトが画像中に存在するというしきい値確実性/可能性に対応する上限しきい値と、関心オブジェクトが画像中に存在しないというしきい値確実性/可能性に対応する下限しきい値とを含むことができる。
【0125】
[0138]検出メトリックが上限しきい値を上回るかまたは上限しきい値にある場合、ブロック1012において、プロセス1000は、関心オブジェクトが検出されたと決定することができる。検出信頼性が下限しきい値を下回るかまたは下限しきい値にある場合、プロセス1000は、ブロック1002に戻ることができる。たとえば、プロセス1000は、検出信頼性が、関心オブジェクトが画像中に存在しないことを示す場合、カメラシステムの電源をオフにすることができる。検出信頼性が、下限しきい値を上回るが、上限しきい値を下回る場合、ブロック1014において、プロセス1000は、所与の焦点距離のために次に低い電力のカメラを選択することができる。
【0126】
[0139]ブロック1016において、プロセス1000は、次に低い電力のカメラを使用してカメラシステムによってキャプチャされた別の画像に基づいて、追加の検出信頼性を決定することができる。オブジェクト検出信頼性は、関心オブジェクトが画像中に存在するまたは存在しないという信頼性を示す値を含むことができる。
【0127】
[0140]ブロック1018において、プロセス1000は、追加の検出メトリックが1つまたは複数の信頼性しきい値を上回るのか下回るのかを決定することができる。いくつかの例では、追加の検出メトリックが上限しきい値を上回るかまたは上限しきい値にある場合、ブロック1012において、プロセス1000は、関心オブジェクトが検出されたと決定することができる。追加の検出メトリックが下限しきい値を下回るかまたは下限しきい値にある場合、プロセス1000は、ブロック1002に戻り、カメラシステムの電源をオフにすることができる。
【0128】
[0141]追加の検出メトリックが、下限しきい値を上回るが、上限しきい値を下回る場合、プロセス1000は、(たとえば、別のカメラが利用可能である場合)焦点距離のために続いて低い電力のカメラを再び選択することができる。プロセス1000は、所与の焦点距離のために、異なる電力プロファイルを有する異なるカメラのために、上記で説明された検出信頼性検査を連続的に実施することができる。プロセス1000は、より低い電力プロファイルからより高い電力プロファイルへの順序に基づいて、各反復において特定のカメラを選択することができる。他の例では、プロセス1000は、異なるカメラについて計算されたリスク/リワード値に基づく順序に基づいて、各反復において特定のカメラを選択することができ、より良いリスク/リワードを有するカメラが、より悪いリスク/リワードを有する他のカメラの前に検査される。
【0129】
[0142]
図11は、低電力可変フォーカスオブジェクト検出のための例示的なプロセス1100を示すフローチャートである。ブロック1102において、プロセス1100は、トリガイベントに基づいて、複数の利用可能なレンズ構成のうちの第1の構成にあるレンズを用いて画像キャプチャデバイス(たとえば、前向きカメラ104、カメラ420)によってキャプチャされたシーンの第1の画像を取得することを含むことができる。
【0130】
[0143]いくつかの例では、トリガイベントは、しきい値を上回る慣性動き、しきい値を上回るオーディオ変化、しきい値を上回る周辺光の変化、しきい値を上回るオブジェクトまでのレンジの変化、本方法に関連するアプリケーションからのトリガ、アクティブ深度検知システムからの深度測定値、全地球ナビゲーション衛星システムからのトリガ、全地球測位システムからのトリガ、データ接続、およびしきい値を上回る位相検出変化、および/またはしきい値を上回る位相検出変化を含むことができる。いくつかの場合には、トリガイベントは、1つまたは複数のセンサーからのデータ(たとえば、センサーデータ430、画像データ432)に基づいて検出され得る。いくつかの例では、1つまたは複数のセンサーは、画像センサー(たとえば、カメラ420)、オーディオセンサー、ジャイロスコープ、加速度計、慣性測定ユニット、周辺光センサー、および/または深度センサーを含むことができる。
【0131】
[0144]ブロック1104において、プロセス1100は、シーンの第1の画像および第1の検出結果に基づいて、関心オブジェクトが第1の画像中に存在するかどうかを決定することを含むことができる。いくつかの例では、関心オブジェクトは、ドキュメント、クイックレスポンス(QR)コード、顔、指、手、デバイス、製品、および/または動物を含むことができる。
【0132】
[0145]ブロック1106において、プロセス1100は、関心オブジェクトが第1の画像中に存在しないと決定することに応答して、レンズを複数の利用可能なレンズ構成から選択された第2の構成に調整することを含むことができる。いくつかの場合には、関心オブジェクトが第1の画像中に存在しないという決定は、第1の検出結果における信頼性値(たとえば、オブジェクト検出メトリック)がしきい値を下回ることに基づくことができる。いくつかの例では、しきい値は、上限信頼性しきい値を含むことができる。いくつかの場合には、関心オブジェクトが第1の画像中に存在しないと決定するために使用される信頼性値(たとえば、オブジェクト検出メトリック)は、上限信頼性しきい値を下回り(または上限信頼性しきい値にあり)、下限信頼性しきい値を上回り(または下限信頼性しきい値にあり)得る。
【0133】
[0146]いくつかの例では、第2のレンズ構成は、レンズを第2のレンズ構成に調整するために画像キャプチャデバイスによって必要とされる電力の量に基づいて、複数の利用可能なレンズ構成から選択され得る。いくつかの場合には、電力の量は、レンズを複数の利用可能なレンズ構成からの1つまたは複数の他のレンズ構成に調整するために画像キャプチャデバイスによって必要とされる電力の1つまたは複数の異なる量に対するものであり得る。
【0134】
[0147]いくつかの例では、第1の構成は第1のレンズ位置を含むことができ、第2の構成は、第1のレンズ位置とは異なる第2のレンズ位置を含むことができる。いくつかの場合には、レンズを調整することは、フォーカスモーターを使用して第1のレンズ位置から第2のレンズ位置にレンズを移動することを含むことができる。フォーカスモーターは、たとえば、限定はしないが、特に、ボイスコイルモーター(VCM)、圧電モーター、ステッパーモーター、超音波モーター、電気活性ポリマーモーター、電磁フォーカスモーター、ギア付きの直流(DC)モーター、ダイレクトドライブスーパーソニックウェーブモーター、固体レンズコントローラを含むことができる。
【0135】
[0148]いくつかの例では、複数の利用可能なレンズ構成は複数の利用可能なレンズ位置を含むことができ、第2のレンズロケーションは、複数の利用可能なレンズ位置からの1つまたは複数の他の位置にレンズを移動するためにフォーカスモーターによって必要とされる電力の1つまたは複数の異なる量に対する、第1のレンズ位置から第2のレンズ位置にレンズを移動するためにフォーカスモーターによって必要とされる電力の量に基づいて、複数の利用可能なレンズ位置から選択され得る。いくつかの場合には、第1のレンズ位置から第2のレンズ位置にレンズを移動するためにフォーカスモーターによって必要とされる電力の量は、第1のレンズ位置に関連する電力の量に対して次に低い電力の量、および/または複数の利用可能なレンズ位置からの1つまたは複数の他の位置にレンズを移動するためにフォーカスモーターによって必要とされる電力の1つまたは複数の量を含むことができる。
【0136】
[0149]いくつかの例では、第2のレンズロケーションは、複数の利用可能なレンズ位置に関連する焦点距離の優先度に基づいて、複数の利用可能なレンズ位置から選択され得る。いくつかの例では、複数の利用可能なレンズ位置に関連する焦点距離の優先度は、複数の利用可能なレンズ位置の各々からキャプチャされた画像中で関心オブジェクトを検出することのそれぞれの可能性と、複数の利用可能なレンズ位置の各々にレンズを移動するためにフォーカスモーターによって必要とされる電力の量とに基づくことができる。いくつかの例では、複数の利用可能なレンズ位置に関連する焦点距離の優先度は、関心オブジェクトのデフォルトタイプまたは検出されたオブジェクトのタイプに基づくことができる。
【0137】
[0150]いくつかの場合には、第2のレンズロケーションは、第1の位置と複数の利用可能なレンズ位置の各々との間の相対距離に基づいて、複数の利用可能なレンズ位置から選択され得る。いくつかの例では、第2の位置は、第1の位置と複数の利用可能なレンズ位置の各々との間の最も短い相対距離に基づいて、複数の利用可能なレンズ位置から選択される。
【0138】
[0151]いくつかの場合には、第2の位置は、レンズの1つまたは複数の特性に基づいて、複数の利用可能なレンズ位置から選択され得る。いくつかの例では、レンズの1つまたは複数の特性は、レンズに関連する現在の開口、レンズに関連する視野、および/またはレンズに関連するフォーカス電力プロファイルを含むことができる。
【0139】
[0152]ブロック1108において、プロセス1100は、画像キャプチャデバイスによって、レンズが第2の構成にある間、シーンの第2の画像を取得することを含むことができる。第1の構成と第2の構成とは、たとえば、限定はしないが、異なるレンズ位置、異なる開口、異なる被写界深度、異なる電力プロファイル、異なる焦点距離などを含むことができる。
【0140】
[0153]ブロック1110において、プロセス1100は、シーンの第2の画像および第2の検出結果に基づいて、関心オブジェクトが第2の画像中に存在すると決定することを含むことができる。いくつかの場合には、第1の検出結果と第2の検出結果とは、信頼性値(たとえば、オブジェクト検出メトリック)を含むことができる。いくつかの例では、プロセス1100は、第2の検出結果における信頼性値がしきい値(または上限しきい値)を上回る(またはしきい値(または上限しきい値)にある)と決定し、オブジェクトが、信頼性値がしきい値(または上限しきい値)を上回る(またはしきい値(または上限しきい値)にある)ことに基づいて、検出された(たとえば、第2の画像中に存在する)と決定することができる。
【0141】
[0154]いくつかの態様では、プロセス1100は、レンズの1つまたは複数の特性と関心オブジェクトに関連する焦点距離とに基づいて、複数の利用可能なレンズからレンズを選択することを含むことができる。いくつかの例では、1つまたは複数の特性は、開口、視野、および/またはフォーカス電力プロファイルを含むことができる。いくつかの場合には、レンズは、レンズに関連するフォーカス電力プロファイルが、複数の利用可能なレンズからの1つまたは複数の(またはすべての)レンズのそれぞれのフォーカス電力プロファイルよりも低いフォーカス電力を含むという決定に基づいて、複数の利用可能なレンズから選択され得る。
【0142】
[0155]いくつかの場合には、第2のレンズ位置は、第1の検出結果に関連する信頼性値(たとえば、第1の検出結果からのオブジェクト検出メトリック)に基づいて、複数の利用可能なレンズ位置から選択され得る。
【0143】
[0156]いくつかの態様では、第2のレンズ位置を選択することは、第1の検出結果に関連する第1の信頼性値に基づいて、複数の利用可能なレンズ位置からの第2のレンズ位置の選択についての利用可能でないレンズ位置として1つまたは複数の位置を除外して、複数の利用可能なレンズ位置の数を低減することを含むことができる。
【0144】
[0157]いくつかの例では、第2のレンズ位置を選択することは、第1のレンズ位置から第2のレンズ位置にレンズを移動するためにフォーカスモーターによって必要とされる電力の量を、フォーカスモーターが、第1の位置から複数の利用可能なレンズ位置からの1つまたは複数の他の位置にレンズを移動するために必要とする電力の1つまたは複数の量と比較することを含むことができる。
【0145】
[0158]いくつかの場合には、第2のレンズ位置は、第1のレンズ位置から第2のレンズ位置へのレンズ変位に関連する信頼性値(たとえば、オブジェクト検出メトリック)に基づいて、複数の利用可能なレンズ位置から選択される。
【0146】
[0159]いくつかの態様では、プロセス1100は、関心オブジェクトが第2の画像中に存在すると決定することに応答して、装置に関連する異なる画像キャプチャデバイスを調整することを含むことができる。いくつかの例では、異なる画像キャプチャデバイスを調整することは、異なる画像キャプチャデバイスをオンにすることおよび/または異なる画像キャプチャデバイスを初期化することを含むことができる。いくつかの場合には、異なる画像キャプチャデバイスは、メインカメラデバイス、および/または画像キャプチャデバイスよりも高い電力のカメラデバイスを含むことができる。いくつかの態様では、プロセス1100は、異なる画像キャプチャデバイスを介して、シーンの1つまたは複数の画像を処理することを含むことができる。いくつかの場合には、1つまたは複数の画像は、第2の画像、および/または異なる画像キャプチャデバイスによってキャプチャされた第3の画像を含むことができる。
【0147】
[0160]いくつかの態様では、プロセス100は、第2の検出結果に基づいて、第2の構成においてレンズを維持することを含むことができる。
【0148】
[0161]いくつかの場合には、第1の構成は非アクティブ光学画像安定化モードを含むことができ、第2の構成はアクティブ光学画像安定化モードを含むことができる。いくつかの例では、レンズを第2の構成に調整することは、レンズ安定化モーターを使用して光学画像安定化モードをアクティブ化することを含むことができる。
【0149】
[0162]いくつかの例では、第1の構成は第1の開口設定を含むことができ、第2の構成は、第1の開口設定とは異なる第2の開口設定を含むことができる。いくつかの場合には、レンズを第2の構成に調整することは、開口モーターを使用して第1の開口設定から第2の開口設定にレンズの開口を変化させることを含むことができる。
【0150】
[0163]いくつかの例では、本明細書で説明されるプロセス(たとえば、プロセス500、700、1000、1100、および/または本明細書で説明される他のプロセス)は、コンピューティングデバイスまたは装置によって実施され得る。一例では、プロセス1100は、
図12に示されているコンピューティングシステム1200のコンピューティングアーキテクチャを有するコンピューティングデバイス(たとえば、
図1中のモバイルデバイス102)によって実施され得る。コンピューティングデバイスはまた、
図4に示されている画像処理システム400を含むことができ、これは、
図4に関して上記で説明された様々な構成要素を実装することができる。
【0151】
[0164]コンピューティングデバイスは、モバイルデバイス(たとえば、モバイルフォン)、デスクトップコンピューティングデバイス、タブレットコンピューティングデバイス、ウェアラブルデバイス(たとえば、VRヘッドセット、ARヘッドセット、ARグラス、ネットワーク接続されたウォッチまたはスマートウォッチ、あるいは他のウェアラブルデバイス)、サーバコンピュータ、自律車両または自律車両のコンピューティングデバイス、ロボティックデバイス、テレビジョン、および/あるいは、プロセス1100を含む、本明細書で説明されるプロセスを実施するためのリソース能力をもつ任意の他のコンピューティングデバイスなど、任意の好適なデバイスを含むことができる。いくつかの場合には、コンピューティングデバイスまたは装置は、1つまたは複数の入力デバイス、1つまたは複数の出力デバイス、1つまたは複数のプロセッサ、1つまたは複数のマイクロプロセッサ、1つまたは複数のマイクロコンピュータ、1つまたは複数のカメラ、1つまたは複数のセンサー、および/または本明細書で説明されるプロセスのステップを行うように構成された(1つまたは複数の)他の構成要素など、様々な構成要素を含み得る。いくつかの例では、コンピューティングデバイスは、ディスプレイ、データを通信および/または受信するように構成されたネットワークインターフェース、それらの任意の組合せ、ならびに/あるいは(1つまたは複数の)他の構成要素を含み得る。ネットワークインターフェースは、インターネットプロトコル(IP)ベースデータまたは他のタイプのデータを通信および/または受信するように構成され得る。
【0152】
[0165]コンピューティングデバイスの構成要素は、回路において実装され得る。たとえば、構成要素は、本明細書で説明される様々な動作を実施するために、1つまたは複数のプログラマブル電子回路(たとえば、マイクロプロセッサ、グラフィックス処理ユニット(GPU)、デジタル信号プロセッサ(DSP)、中央処理ユニット(CPU)、および/または他の好適な電子回路)を含むことができ、ならびに/あるいはコンピュータソフトウェア、ファームウェア、またはそれらの任意の組合せを含み、および/またはそれらを使用して実装され得る、電子回路または他の電子ハードウェアを含むことができ、および/またはそれらを使用して実装され得る。
【0153】
[0166]プロセス500、700、1000、および1100は、論理フロー図として示されており、その動作は、ハードウェア、コンピュータ命令、またはそれらの組合せにおいて実施され得る動作のシーケンスを表す。コンピュータ命令のコンテキストでは、動作は、1つまたは複数のプロセッサによって実行されたとき、具陳された動作を実施する1つまたは複数のコンピュータ可読記憶媒体に記憶されたコンピュータ実行可能命令を表す。概して、コンピュータ実行可能命令は、特定の機能を実施するか、または特定のデータタイプを実装する、ルーチン、プログラム、オブジェクト、構成要素、データ構造などを含む。動作が説明される順序は、限定として解釈されるものではなく、任意の数の説明される動作は、プロセスを実装するために任意の順序でおよび/または並行して組み合わせられ得る。
【0154】
[0167]プロセス500、700、1000、1100、および/または本明細書で説明される他のプロセスは、実行可能命令で構成された1つまたは複数のコンピュータシステムの制御下で実施され得、まとめて1つまたは複数のプロセッサ上で、ハードウェアによって、またはそれらの組合せで実行するコード(たとえば、実行可能命令、1つまたは複数のコンピュータプログラム、または1つまたは複数のアプリケーション)として実装され得る。上述のように、コードは、たとえば、1つまたは複数のプロセッサによって実行可能な複数の命令を備えるコンピュータプログラムの形態で、コンピュータ可読または機械可読記憶媒体に記憶され得る。コンピュータ可読または機械可読記憶媒体は非一時的であり得る。
【0155】
[0168]
図12は、本技術のいくつかの態様を実装するためのシステムの一例を示す図である。特に、
図12は、コンピューティングシステム1200の一例を示し、これは、たとえば、システムの構成要素が接続1205を使用して互いと通信している、内部コンピューティングシステム、リモートコンピューティングシステム、カメラ、またはそれらの任意の構成要素を構成する任意のコンピューティングデバイスであり得る。接続1205は、バスを使用したプロセッサ1210への物理接続、または、チップセットアーキテクチャなどにおける、プロセッサ1210への直接接続であり得る。接続1205はまた、仮想接続、ネットワーク化された接続、または論理接続であり得る。
【0156】
[0169]いくつかの実施形態では、コンピューティングシステム1200は、本開示で説明される機能が、データセンター、複数のデータセンター、ピアネットワーク内などに分散され得る、分散型システムである。いくつかの実施形態では、説明されるシステム構成要素のうちの1つまたは複数は、構成要素がそれについて説明される機能の一部または全部を各々実施する多くのそのような構成要素を表す。いくつかの実施形態では、構成要素は、物理デバイスまたは仮想デバイスであり得る。
【0157】
[0170]例示的なシステム1200は、少なくとも1つの処理ユニット(CPUまたはプロセッサ)1210と接続1205とを含み、接続1205は、読取り専用メモリ(ROM)1220およびランダムアクセスメモリ(RAM)1225など、システムメモリ1215を含む様々なシステム構成要素を、プロセッサ1210に結合する。コンピューティングシステム1200は、プロセッサ1210と直接接続された、プロセッサ1210に極めて近接した、またはプロセッサ1210の一部として統合された、高速メモリのキャッシュ1212を含むことができる。
【0158】
[0171]プロセッサ1210は、任意の汎用プロセッサ、ならびに、プロセッサ1210を制御するように構成された、記憶デバイス1230に記憶されたサービス1232、1234、1236などのハードウェアサービスまたはソフトウェアサービス、ならびにソフトウェア命令が実際のプロセッサ設計に組み込まれる専用プロセッサを含むことができる。プロセッサ1210は、本質的に、複数のコアまたはプロセッサ、バス、メモリコントローラ、キャッシュなどを含んでいる、完全自己完結型コンピューティングシステムであり得る。マルチコアプロセッサは、対称的または非対称的であり得る。
【0159】
[0172]ユーザ対話を可能にするために、コンピューティングシステム1200は入力デバイス1245を含み、入力デバイス1245は、音声のためのマイクロフォン、ジェスチャーまたはグラフィカル入力のためのタッチセンシティブスクリーン、キーボード、マウス、動き入力、音声など、任意の数の入力機構を表すことができる。コンピューティングシステム1200は、いくつかの出力機構のうちの1つまたは複数であり得る、出力デバイス1235をも含むことができる。いくつかの事例では、マルチモーダルシステムは、ユーザが、コンピューティングシステム1200と通信するために複数のタイプの入出力を提供することを可能にすることができる。コンピューティングシステム1200は、概してユーザ入力とシステム出力とを統制および管理することができる、通信インターフェース1240を含むことができる。通信インターフェースは、オーディオジャック/プラグ、マイクロフォンジャック/プラグ、ユニバーサルシリアルバス(USB)ポート/プラグ、Apple(登録商標)Lightning(登録商標)ポート/プラグ、イーサネット(登録商標)ポート/プラグ、光ファイバーポート/プラグ、プロプライエタリワイヤードポート/プラグ、BLUETOOTH(登録商標)ワイヤレス信号転送、BLUETOOTH低エネルギー(BLE)ワイヤレス信号転送、IBEACON(登録商標)ワイヤレス信号転送、無線周波数識別(RFID)ワイヤレス信号転送、ニアフィールド通信(NFC)ワイヤレス信号転送、専用短距離通信(DSRC)ワイヤレス信号転送、802.11Wi-Fiワイヤレス信号転送、ワイヤレスローカルエリアネットワーク(WLAN)信号転送、可視光通信(VLC)、ワールドワイドインターオペラビリティフォーマイクロウェーブアクセス(WiMAX(登録商標))、赤外線(IR)通信ワイヤレス信号転送、公衆交換電話網(PSTN)信号転送、統合サービスデジタルネットワーク(ISDN)信号転送、3G/4G/5G/LTE(登録商標)セルラーデータネットワークワイヤレス信号転送、アドホックネットワーク信号転送、電波信号転送、マイクロ波信号転送、赤外線信号転送、可視光信号転送、紫外光信号転送、電磁スペクトルに沿ったワイヤレス信号転送、またはそれらの何らかの組合せを利用するものを含む、ワイヤードトランシーバおよび/またはワイヤレストランシーバを使用して、ワイヤード通信またはワイヤレス通信の受信および/または送信を実施するか、または容易にし得る。通信インターフェース1240はまた、1つまたは複数の全地球ナビゲーション衛星システム(GNSS)システムに関連する1つまたは複数の衛星からの1つまたは複数の信号の受信に基づいてコンピューティングシステム1200のロケーションを決定するために使用される1つまたは複数のGNSS受信機またはトランシーバを含み得る。GNSSシステムは、限定はしないが、米国ベースの全地球測位システム(GPS)と、ロシアベースの全地球ナビゲーション衛星システム(GLONASS)と、中国ベースのBeidouナビゲーション衛星システム(BDS)と、欧州ベースのGalileo GNSSとを含む。任意の特定のハードウェア構成上で動作することに対する制限はなく、したがって、ここでの基本的特徴は、改善されたハードウェア構成またはファームウェア構成が開発されるにつれて、それらで容易に代用され得る。
【0160】
[0173]記憶デバイス1230は、不揮発性および/または非一時的および/またはコンピュータ可読メモリデバイスであり得、磁気カセット、フラッシュメモリカード、固体メモリデバイス、デジタル多用途ディスク、カートリッジ、フロッピー(登録商標)ディスク、フレキシブルディスク、ハードディスク、磁気テープ、磁気ストリップ/ストライプ、任意の他の磁気記憶媒体、フラッシュメモリ、メモリスタメモリ、任意の他の固体メモリ、コンパクトディスク読取り専用メモリ(CD-ROM)光ディスク、書換え可能コンパクトディスク(CD)光ディスク、デジタルビデオディスク(DVD)光ディスク、blu-ray(登録商標)ディスク(BDD)光ディスク、ホログラフィック光ディスク、別の光媒体、セキュアデジタル(SD)カード、マイクロセキュアデジタル(microSD)カード、Memory Stick(登録商標)カード、スマートカードチップ、EMVチップ、加入者識別モジュール(SIM)カード、ミニ/マイクロ/ナノ/ピコSIMカード、別の集積回路(IC)チップ/カード、ランダムアクセスメモリ(RAM)、スタティックRAM(SRAM)、ダイナミックRAM(DRAM)、読取り専用メモリ(ROM)、プログラマブル読取り専用メモリ(PROM)、消去可能プログラマブル読取り専用メモリ(EPROM)、電気的消去可能プログラマブル読取り専用メモリ(EEPROM(登録商標))、フラッシュEPROM(FLASHEPROM)、キャッシュメモリ(L1/L2/L3/L4/L5/L#)、抵抗性ランダムアクセスメモリ(RRAM(登録商標)/ReRAM)、相変化メモリ(PCM)、スピン転送トルクRAM(STT-RAM)、別のメモリチップまたはカートリッジ、および/あるいはそれらの組合せなど、コンピュータによってアクセス可能であるデータを記憶することができるハードディスクまたは他のタイプのコンピュータ可読媒体であり得る。
【0161】
[0174]記憶デバイス1230は、ソフトウェアサービス、サーバ、サービスなどを含むことができ、それらは、そのようなソフトウェアを定義するコードがプロセッサ1210によって実行されるとき、システムに機能を実施させる。いくつかの実施形態では、特定の機能を実施するハードウェアサービスは、その機能を行うために、プロセッサ1210、接続1205、出力デバイス1235など、必要なハードウェア構成要素に関して、コンピュータ可読媒体に記憶されたソフトウェア構成要素を含むことができる。「コンピュータ可読媒体」という用語は、限定はしないが、ポータブルまたは非ポータブル記憶デバイス、光記憶デバイス、ならびに(1つまたは複数の)命令および/またはデータを記憶、含有、または搬送することが可能な様々な他の媒体を含む。コンピュータ可読媒体は、データがそこに記憶され得る非一時的媒体を含み得、それは、ワイヤレスにまたはワイヤード接続を介して伝搬する搬送波および/または一時的電子信号を含まない。非一時的媒体の例は、限定はしないが、磁気ディスクまたはテープ、コンパクトディスク(CD)またはデジタル多用途ディスク(DVD)などの光記憶媒体、フラッシュメモリ、メモリまたはメモリデバイスを含み得る。コンピュータ可読媒体は、プロシージャ、関数、サブプログラム、プログラム、ルーチン、サブルーチン、モジュール、ソフトウェアパッケージ、クラス、あるいは命令、データ構造、またはプログラムステートメントの任意の組合せを表し得る、コードおよび/または機械実行可能命令をその上に記憶していることがある。コードセグメントは、情報、データ、引数、パラメータ、またはメモリコンテンツをパスおよび/または受信することによって、別のコードセグメントまたはハードウェア回路に結合され得る。情報、引数、パラメータ、データなどは、メモリ共有、メッセージパッシング、トークンパッシング、ネットワーク送信などを含む、任意の好適な手段を介してパス、フォワーディング、または送信され得る。
【0162】
[0175]いくつかの実施形態では、コンピュータ可読記憶デバイス、媒体、およびメモリは、ビットストリームなどを含んでいるケーブル信号またはワイヤレス信号を含むことができる。しかしながら、述べられるとき、非一時的コンピュータ可読記憶媒体は、エネルギー、キャリア信号、電磁波、および信号自体などの媒体を明確に除外する。
【0163】
[0176]本明細書で提供される実施形態および例の完全な理解を提供するために、具体的な詳細が上記の説明で提供される。ただし、実施形態はこれらの具体的な詳細なしに実施され得ることを当業者は理解されよう。説明の明快のために、いくつかの事例では、本技術は、デバイス、デバイス構成要素、ソフトウェアで具現される方法におけるステップまたはルーチン、あるいはハードウェアとソフトウェアとの組合せを備える個々の機能ブロックを含むものとして提示され得る。図に示されているおよび/または本明細書で説明される構成要素以外の追加の構成要素が使用され得る。たとえば、回路、システム、ネットワーク、プロセス、および他の構成要素は、実施形態を不要な詳細で不明瞭にしないためにブロック図の形態で構成要素として示され得る。他の事例では、実施形態を不明瞭にすることを回避するために、よく知られている回路、プロセス、アルゴリズム、構造、および技法が不要な詳細なしに示され得る。
【0164】
[0177]個々の実施形態は、フローチャート、フロー図、データフロー図、構造図、またはブロック図として示されるプロセスまたは方法として、上記で説明され得る。フローチャートは動作を連続プロセスとして説明することがあるが、動作の多くは並行してまたは同時に実施され得る。さらに、動作の順序は並べ替えられ得る。プロセスの動作が完了されるとき、プロセスは終了されるが、図中に含まれない追加のステップを有し得る。プロセスは、方法、関数、プロシージャ、サブルーチン、サブプログラムなどに対応し得る。プロセスが関数に対応するとき、それの終了は呼出し関数またはメイン関数への関数の復帰に対応することができる。
【0165】
[0178]上記で説明された例によるプロセスおよび方法は、記憶されるかまたはさもなければコンピュータ可読媒体から利用可能である、コンピュータ実行可能命令を使用して実装され得る。そのような命令は、たとえば、汎用コンピュータ、専用コンピュータ、または処理デバイスが、ある機能または機能のグループを実施することを引き起こすか、あるいはさもなければそれらを実施するように構成する、命令とデータとを含むことができる。使用されるコンピュータリソースの部分が、ネットワークを介してアクセス可能であり得る。コンピュータ実行可能命令は、たとえば、バイナリ、アセンブリ言語などの中間フォーマット命令、ファームウェア、ソースコードであり得る。命令、使用される情報、および/または説明される例による方法中に作成される情報を記憶するために使用され得るコンピュータ可読媒体の例は、磁気または光ディスク、フラッシュメモリ、不揮発性メモリを備えたUSBデバイス、ネットワーク化された記憶デバイスなどを含む。
【0166】
[0179]これらの開示によるプロセスおよび方法を実装するデバイスは、ハードウェア、ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語、またはそれらの任意の組合せを含むことができ、様々なフォームファクタのいずれかをとることができる。ソフトウェア、ファームウェア、ミドルウェア、またはマイクロコードで実装されるとき、必要なタスクを実施するためのプログラムコードまたはコードセグメント(たとえば、コンピュータプログラム製品)は、コンピュータ可読または機械可読媒体に記憶され得る。(1つまたは複数の)プロセッサが、必要なタスクを実施し得る。フォームファクタの一般的な例は、ラップトップ、スマートフォン、モバイルフォン、タブレットデバイスまたは他のスモールフォームファクタパーソナルコンピュータ、携帯情報端末、ラックマウントデバイス、スタンドアロンデバイスなどを含む。本明細書で説明される機能はまた、周辺機器またはアドインカードで具現され得る。そのような機能はまた、さらなる例として、単一のデバイスにおいて実行する異なるチップまたは異なるプロセスの間で回路板上に実装され得る。
【0167】
[0180]命令、そのような命令を伝達するための媒体、それらを実行するためのコンピューティングリソース、およびそのようなコンピューティングリソースをサポートするための他の構造は、本開示で説明される機能を提供するための例示的な手段である。
【0168】
[0181]上記の説明では、本出願の態様がそれの特定の実施形態を参照しながら説明されたが、本出願はそれに限定されないことを、当業者は認識されよう。したがって、本出願の例示的な実施形態が本明細書で詳細に説明されているが、従来技術によって限定される場合を除いて、発明的概念が、場合によっては様々に具現および採用され得、添付の特許請求の範囲が、そのような変形形態を含むように解釈されるものであることを理解されたい。上記で説明された適用例の様々な特徴および態様は、個々にまたは一緒に使用され得る。さらに、実施形態は、本明細書のより広い趣旨および範囲から逸脱することなく、本明細書で説明される環境および適用例以外に、任意の数の環境および適用例において利用され得る。したがって、本明細書および図面は、制限的なものというよりもむしろ例示的なものとして考慮されるべきである。例示の目的で、方法は、特定の順序で説明された。代替実施形態では、方法は、説明された順序とは異なる順序で実施され得ることを諒解されたい。
【0169】
[0182]本明細書で使用される、よりも小さい(「<」)、および、よりも大きい(「>」)のシンボルまたは専門用語は、本説明の範囲から逸脱することなく、それぞれ、よりも小さいかまたはそれに等しい(「≦」)、および、よりも大きいかまたはそれに等しい(「≧」)のシンボルと置き換えられ得ることを、当業者は諒解されよう。
【0170】
[0183]構成要素がいくつかの動作を実施する「ように構成される」ものとして説明される場合、そのような構成は、たとえば、動作を実施するように電子回路または他のハードウェアを設計することによって、動作を実施するようにプログラマブル電子回路(たとえば、マイクロプロセッサ、または他の好適な電子回路)をプログラムすることによって、あるいはそれらの任意の組合せで達成され得る。
【0171】
[0184]「に結合された」という句は、直接的にまたは間接的にのいずれかで別の構成要素に物理的に接続された任意の構成要素、および/あるいは直接的にまたは間接的にのいずれかで別の構成要素と通信している(たとえば、ワイヤードまたはワイヤレス接続および/あるいは他の好適な通信インターフェースを介して別の構成要素に接続された)任意の構成要素を指す。
【0172】
[0185]セット「のうちの少なくとも1つ」、および/またはセットのうちの「1つまたは複数」を具陳するクレームの文言または本開示における他の文言は、セットのうちの1つのメンバーまたは(任意の組合せにおける)セットのうちの複数のメンバーがクレームを満足することを示す。たとえば、「AおよびBのうちの少なくとも1つ」または「AまたはBのうちの少なくとも1つ」を具陳するクレームの文言は、A、B、またはAおよびBを意味する。別の例では、「A、B、およびCのうちの少なくとも1つ」または「A、B、またはCのうちの少なくとも1つ」を具陳するクレームの文言は、A、B、C、またはAおよびB、またはAおよびC、またはBおよびC、またはAおよびBおよびCを意味する。セット「のうちの少なくとも1つ」、および/またはセットのうちの「1つまたは複数」という文言は、セットを、セットに記載されている項目に限定しない。たとえば、「AおよびBのうちの少なくとも1つ」または「AまたはBのうちの少なくとも1つ」を具陳するクレームの文言は、A、B、またはAおよびBを意味することができ、さらに、AおよびBのセットに記載されていない項目を含むことができる。
【0173】
[0186]本明細書で開示される例に関して説明される様々な例示的な論理ブロック、モジュール、回路、およびアルゴリズムステップは、電子ハードウェア、コンピュータソフトウェア、ファームウェア、またはそれらの組合せとして実装され得る。ハードウェアとソフトウェアのこの互換性を明確に示すために、様々な例示的な構成要素、ブロック、モジュール、回路、およびステップが、概してそれらの機能に関して上記で説明された。そのような機能がハードウェアとして実装されるのかソフトウェアとして実装されるのかは、特定の適用例およびシステム全体に課される設計制約に依存する。当業者は、説明される機能を特定の適用例ごとに様々な方法で実装し得るが、そのような実装の決定は、本出願の範囲からの逸脱を生じるものと解釈されるべきではない。
【0174】
[0187]本明細書で説明される技法はまた、電子ハードウェア、コンピュータソフトウェア、ファームウェア、またはそれらの任意の組合せで実装され得る。そのような技法は、汎用コンピュータ、ワイヤレス通信デバイスハンドセット、またはワイヤレス通信デバイスハンドセットおよび他のデバイスにおける適用を含む複数の用途を有する集積回路デバイスなど、様々なデバイスのいずれかにおいて実装され得る。モジュールまたは構成要素として説明されたいかなる特徴も、集積論理デバイスに一緒に、または個別であるが相互運用可能な論理デバイスとして別々に実装され得る。ソフトウェアで実装された場合、本技法は、実行されたとき、上記で説明された方法、アルゴリズム、および/または動作のうちの1つまたは複数を実施する命令を含むプログラムコードを備えるコンピュータ可読データ記憶媒体によって、少なくとも部分的に実現され得る。コンピュータ可読データ記憶媒体は、パッケージング材料を含み得るコンピュータプログラム製品の一部を形成し得る。コンピュータ可読媒体は、シンクロナスダイナミックランダムアクセスメモリ(SDRAM)などのランダムアクセスメモリ(RAM)、読取り専用メモリ(ROM)、不揮発性ランダムアクセスメモリ(NVRAM)、電気的消去可能プログラマブル読取り専用メモリ(EEPROM)、FLASH(登録商標)メモリ、磁気または光学データ記憶媒体など、メモリまたはデータ記憶媒体を備え得る。本技法は、追加または代替として、伝搬信号または電波など、命令またはデータ構造の形態でプログラムコードを搬送または通信し、コンピュータによってアクセスされ、読み取られ、および/または実行され得るコンピュータ可読通信媒体によって少なくとも部分的に実現され得る。
【0175】
[0188]プログラムコードは、1つまたは複数のデジタル信号プロセッサ(DSP)、汎用マイクロプロセッサ、特定用途向け集積回路(ASIC)、フィールドプログラマブル論理アレイ(FPGA)、あるいは他の等価な集積回路またはディスクリート論理回路など、1つまたは複数のプロセッサを含み得るプロセッサによって実行され得る。そのようなプロセッサは、本開示で説明される技法のいずれかを実施するように構成され得る。汎用プロセッサはマイクロプロセッサであり得るが、代替として、プロセッサは、任意の従来のプロセッサ、コントローラ、マイクロコントローラ、または状態機械であり得る。プロセッサは、コンピューティングデバイスの組合せ、たとえば、DSPとマイクロプロセッサとの組合せ、複数のマイクロプロセッサ、DSPコアと連携する1つまたは複数のマイクロプロセッサ、または、任意の他のそのような構成としても実装され得る。したがって、本明細書で使用される「プロセッサ」という用語は、上記の構造、上記の構造の任意の組合せ、あるいは本明細書で説明された技法の実装に好適な任意の他の構造または装置のいずれかを指し得る。
【0176】
[0189]本開示の例示的な例は、以下を含む。
【0177】
[0190]態様1.データを記憶するように構成されたメモリと、メモリに結合された1つまたは複数のプロセッサとを備える装置であって、1つまたは複数のプロセッサは、トリガイベントに基づいて、画像キャプチャデバイスによってキャプチャされたシーンの第1の画像を取得することと、第1の画像が、複数の利用可能なレンズ構成のうちの第1の構成にある画像キャプチャデバイスのレンズを用いてキャプチャされる、シーンの第1の画像および第1の検出結果に基づいて、関心オブジェクトが第1の画像中に存在するかどうかを決定することと、関心オブジェクトが第1の画像中に存在しないと決定することに応答して、レンズを複数の利用可能なレンズ構成から選択された第2の構成に調整することと、画像キャプチャデバイスによって、レンズが第2の構成にある間、シーンの第2の画像を取得することと、シーンの第2の画像および第2の検出結果に基づいて、関心オブジェクトが第2の画像中に存在すると決定することとを行うように構成された、装置。
【0178】
[0191]態様2.第1の検出結果と第2の検出結果とが、信頼性値である、態様1に記載の装置。
【0179】
[0192]態様3.1つまたは複数のプロセッサは、レンズを複数の利用可能なレンズ構成からの1つまたは複数の他のレンズ構成に調整するために画像キャプチャデバイスによって必要とされる電力の1つまたは複数の異なる量に対する、レンズを第2のレンズ構成に調整するために画像キャプチャデバイスによって必要とされる電力の量に基づいて、複数の利用可能なレンズ構成から第2のレンズ構成を選択するように構成された、態様1から2のいずれかに記載の装置。
【0180】
[0193]態様4.第1の構成が第1のレンズ位置を備え、ここにおいて、第2の構成が、第1のレンズ位置とは異なる第2のレンズ位置を備え、ここにおいて、レンズを第2の構成に調整するために、1つまたは複数のプロセッサが、フォーカスモーターを使用して第1のレンズ位置から第2のレンズ位置にレンズを移動することを行うように構成された、態様1から3のいずれかに記載の装置。
【0181】
[0194]態様5.複数の利用可能なレンズ構成が複数の利用可能なレンズ位置を備え、ここにおいて、第2のレンズ位置が、第1の検出結果に関連する信頼性値に基づいて、複数の利用可能なレンズ位置から選択される、態様4に記載の装置。
【0182】
[0195]態様6.第2のレンズ位置を選択するために、1つまたは複数のプロセッサが、第1の信頼性値に基づいて、複数の利用可能なレンズ位置からの第2のレンズ位置の選択についての利用可能でないレンズ位置として1つまたは複数の位置を除外して、複数の利用可能なレンズ位置の数を低減することを行うように構成された、態様5に記載の装置。
【0183】
[0196]態様7.複数の利用可能なレンズ構成が複数の利用可能なレンズ位置を備え、ここにおいて、第2のレンズ位置は、フォーカスモーターが、第1のレンズ位置から第2のレンズ位置にレンズを移動するために必要とする電力の量に基づいて、複数の利用可能なレンズ位置から選択される、態様4から6のいずれかに記載の装置。
【0184】
[0197]態様8.第2のレンズ位置を選択するために、1つまたは複数のプロセッサは、電力の量を、フォーカスモーターが、第1の位置から複数の利用可能なレンズ位置からの1つまたは複数の他の位置にレンズを移動するために必要とする電力の1つまたは複数の量と比較することを行うように構成された、態様7に記載の装置。
【0185】
[0198]態様9.複数の利用可能なレンズ構成が複数の利用可能なレンズ位置を備え、ここにおいて、第2のレンズ位置が、第1のレンズ位置から第2のレンズ位置へのレンズ変位に関連する信頼性値に基づいて、複数の利用可能なレンズ位置から選択される、態様4から8のいずれかに記載の装置。
【0186】
[0199]態様10.複数の利用可能なレンズ構成が複数の利用可能なレンズ位置を備え、ここにおいて、第2のレンズ位置が、複数の利用可能なレンズ位置に関連する焦点距離の優先度に基づいて、複数の利用可能なレンズ位置から選択される、態様4から9のいずれかに記載の装置。
【0187】
[0200]態様11.複数の利用可能なレンズ位置に関連する焦点距離の優先度が、関心オブジェクトのデフォルトタイプまたは第1の画像中で検出されたオブジェクトのタイプに基づく、態様10に記載の装置。
【0188】
[0201]態様12.複数の利用可能なレンズ構成が複数の利用可能なレンズ位置を備え、ここにおいて、第2のレンズ位置が、第1の位置と複数の利用可能なレンズ位置の各々との間の相対距離に基づいて、複数の利用可能なレンズ位置から選択される、態様4から11のいずれかに記載の装置。
【0189】
[0202]態様13.複数の利用可能なレンズ構成が複数の利用可能なレンズ位置を備え、ここにおいて、第2の位置が、レンズの1つまたは複数の特性に基づいて、複数の利用可能なレンズ位置から選択され、レンズの1つまたは複数の特性が、レンズに関連する開口と、レンズに関連する視野と、レンズに関連するフォーカス電力プロファイルとのうちの少なくとも1つを備える、態様4から12のいずれかに記載の装置。
【0190】
[0203]態様14.1つまたは複数のプロセッサが、レンズの1つまたは複数の特性と関心オブジェクトに関連する焦点距離とに基づいて、複数の利用可能なレンズからレンズを選択するように構成された、態様4から13のいずれかに記載の装置。
【0191】
[0204]態様15.1つまたは複数の特性が、開口と、視野と、フォーカス電力プロファイルとのうちの少なくとも1つを備える、態様14に記載の装置。
【0192】
[0205]態様16.レンズは、レンズに関連するフォーカス電力プロファイルが、複数の利用可能なレンズからの1つまたは複数のレンズのそれぞれのフォーカス電力プロファイルよりも低いフォーカス電力を備えるという決定に基づいて、複数の利用可能なレンズから選択される、態様14に記載の装置。
【0193】
[0206]態様17.関心オブジェクトが、ドキュメントと、クイックレスポンスコードと、顔と、指と、手と、デバイスと、製品と、動物とのうちの少なくとも1つを備える、態様1から16のいずれかに記載の装置。
【0194】
[0207]態様18.トリガイベントが、しきい値を上回る慣性動きと、しきい値を上回るオーディオ変化と、しきい値を上回る周辺光の変化と、しきい値を上回るオブジェクトまでのレンジの変化と、装置に関連するアプリケーションからのトリガと、アクティブ深度検知システムからの深度測定値と、全地球ナビゲーション衛星システムからのトリガと、全地球測位システムからのトリガと、データ接続と、しきい値を上回る位相検出変化とを備える、態様1から17のいずれかに記載の装置。
【0195】
[0208]態様19.1つまたは複数のプロセッサは、関心オブジェクトが第2の画像中に存在すると決定することに応答して、装置に関連する異なる画像キャプチャデバイスを調整することを行うように構成され、ここにおいて、異なる画像キャプチャデバイスを調整することが、異なる画像キャプチャデバイスをオンにすることと、異なる画像キャプチャデバイスを初期化することとのうちの少なくとも1つを備え、ここにおいて、異なる画像キャプチャデバイスが、メインカメラデバイスと、画像キャプチャデバイスよりも高い電力のカメラデバイスとのうちの少なくとも1つを備える、態様1から18のいずれかに記載の装置。
【0196】
[0209]態様20.1つまたは複数のプロセッサが、異なる画像キャプチャデバイスを介して、シーンの1つまたは複数の画像を処理することを行うように構成され、1つまたは複数の画像が、第2の画像と、異なる画像キャプチャデバイスによってキャプチャされた第3の画像とのうちの少なくとも1つを備える、態様19に記載の装置。
【0197】
[0210]態様21.1つまたは複数のプロセッサが、第2の検出結果に基づいて、第2の構成においてレンズを維持することを行うように構成された、態様1から20のいずれかに記載の装置。
【0198】
[0211]態様22.第1の構成が非アクティブ光学画像安定化モードを備え、第2の構成がアクティブ光学画像安定化モードを備え、ここにおいて、レンズを第2の構成に調整するために、1つまたは複数のプロセッサが、レンズ安定化モーターを使用して光学画像安定化モードをアクティブ化することを行うように構成された、態様1から21のいずれかに記載の装置。
【0199】
[0212]態様23.第1の構成が第1の開口設定を備え、ここにおいて、第2の構成が、第1の開口設定とは異なる第2の開口設定を備え、ここにおいて、レンズを第2の構成に調整するために、1つまたは複数のプロセッサが、開口モーターを使用して第1の開口設定から第2の開口設定にレンズの開口を変化させることを行うように構成された、態様1から22のいずれかに記載の装置。
【0200】
[0213]態様24.装置がモバイルデバイスを備える、態様1から23のいずれかに記載の装置。
【0201】
[0214]態様25.装置が画像キャプチャデバイスを備え、ここにおいて、画像キャプチャデバイスがカメラを備える、態様1から24のいずれかに記載の装置。
【0202】
[0215]態様26.正常な検出のための条件が、あらかじめ定義されたしきい値またはユーザ構成されたしきい値を含む、態様1から25のいずれかに記載の装置。
【0203】
[0216]態様27.第1の検出結果と第2の検出結果とのうちの少なくとも1つが、確率スコアまたはメトリックと、確率的予測と、分類と、ラベルと、コストまたは損失関数値と、推定値と、ランキングと、バイナリ予測とのうちの少なくとも1つを含む、態様1から26のいずれかに記載の装置。
【0204】
[0217]態様28.第1の構成が第1のレンズ位置を備え、ここにおいて、第2の構成が、第1のレンズ位置とは異なる第2のレンズ位置を備え、ここにおいて、複数の利用可能なレンズ構成が複数の利用可能なレンズ位置を備え、ここにおいて、第2のレンズ位置が、第1の位置と複数の利用可能なレンズ位置の各々との間の相対距離に基づいて、複数の利用可能なレンズ位置から選択され、ここにおいて、第2の位置が、第1のレンズ位置と複数の利用可能なレンズ位置の各々との間の最も短い相対距離に基づいて、複数の利用可能なレンズ位置から選択される、態様1から27のいずれかに記載の装置。
【0205】
[0218]態様29.トリガイベントに基づいて、画像キャプチャデバイスによってキャプチャされたシーンの第1の画像を取得することと、第1の画像が、複数の利用可能なレンズ構成のうちの第1の構成にある画像キャプチャデバイスのレンズを用いてキャプチャされる、シーンの第1の画像および第1の検出結果に基づいて、関心オブジェクトが第1の画像中に存在するかどうかを決定することと、関心オブジェクトが第1の画像中に存在しないと決定することに応答して、レンズを複数の利用可能なレンズ構成から選択された第2の構成に調整することと、画像キャプチャデバイスによって、レンズが第2の構成にある間、シーンの第2の画像を取得することと、シーンの第2の画像および第2の検出結果に基づいて、関心オブジェクトが第2の画像中に存在すると決定することとを備える、方法。
【0206】
[0219]態様30.第1の検出結果と第2の検出結果とが、信頼性値である、態様29に記載の方法。
【0207】
[0220]態様31.レンズを複数の利用可能なレンズ構成からの1つまたは複数の他のレンズ構成に調整するために画像キャプチャデバイスによって必要とされる電力の1つまたは複数の異なる量に対する、レンズを第2のレンズ構成に調整するために画像キャプチャデバイスによって必要とされる電力の量に基づいて、複数の利用可能なレンズ構成から第2のレンズ構成を選択することをさらに備える、態様29から30のいずれかに記載の方法。
【0208】
[0221]態様32.第1の構成が第1のレンズ位置を備え、ここにおいて、第2の構成が、第1のレンズ位置とは異なる第2のレンズ位置を備え、ここにおいて、レンズを第2の構成に調整することが、フォーカスモーターを使用して第1のレンズ位置から第2のレンズ位置にレンズを移動することをさらに備える、態様29から31のいずれかに記載の方法。
【0209】
[0222]態様33.複数の利用可能なレンズ構成が複数の利用可能なレンズ位置を備え、ここにおいて、第2のレンズ位置が、第1の検出結果に関連する信頼性値に基づいて、複数の利用可能なレンズ位置から選択される、態様32に記載の方法。
【0210】
[0223]態様34.第2のレンズ位置を選択することが、第1の信頼性値に基づいて、複数の利用可能なレンズ位置からの第2のレンズ位置の選択についての利用可能でないレンズ位置として1つまたは複数の位置を除外して、複数の利用可能なレンズ位置の数を低減することをさらに備える、態様33に記載の方法。
【0211】
[0224]態様35.複数の利用可能なレンズ構成が複数の利用可能なレンズ位置を備え、ここにおいて、第2のレンズ位置は、フォーカスモーターが、第1のレンズ位置から第2のレンズ位置にレンズを移動するために必要とする電力の量に基づいて、複数の利用可能なレンズ位置から選択される、態様32から34のいずれかに記載の方法。
【0212】
[0225]態様36.第2のレンズ位置を選択することは、電力の量を、フォーカスモーターが、第1の位置から複数の利用可能なレンズ位置からの1つまたは複数の他の位置にレンズを移動するために必要とする電力の1つまたは複数の量と比較することをさらに備える、態様35に記載の方法。
【0213】
[0226]態様37.複数の利用可能なレンズ構成が複数の利用可能なレンズ位置を備え、ここにおいて、第2のレンズ位置が、第1のレンズ位置から第2のレンズ位置へのレンズ変位に関連する信頼性値に基づいて、複数の利用可能なレンズ位置から選択される、態様32から36のいずれかに記載の方法。
【0214】
[0227]態様38.複数の利用可能なレンズ構成が複数の利用可能なレンズ位置を備え、ここにおいて、第2のレンズ位置が、複数の利用可能なレンズ位置に関連する焦点距離の優先度に基づいて、複数の利用可能なレンズ位置から選択される、態様32から37のいずれかに記載の方法。
【0215】
[0228]態様39.複数の利用可能なレンズ位置に関連する焦点距離の優先度が、関心オブジェクトのデフォルトタイプまたは第1の画像中で検出されたオブジェクトのタイプに基づく、態様38に記載の方法。
【0216】
[0229]態様40.複数の利用可能なレンズ構成が複数の利用可能なレンズ位置を備え、ここにおいて、第2のレンズ位置が、第1の位置と複数の利用可能なレンズ位置の各々との間の相対距離に基づいて、複数の利用可能なレンズ位置から選択される、態様32から39のいずれかに記載の方法。
【0217】
[0230]態様41.複数の利用可能なレンズ構成が複数の利用可能なレンズ位置を備え、ここにおいて、第2の位置が、レンズの1つまたは複数の特性に基づいて、複数の利用可能なレンズ位置から選択され、レンズの1つまたは複数の特性が、レンズに関連する開口と、レンズに関連する視野と、レンズに関連するフォーカス電力プロファイルとのうちの少なくとも1つを備える、態様32から40のいずれかに記載の方法。
【0218】
[0231]態様42.レンズの1つまたは複数の特性と関心オブジェクトに関連する焦点距離とに基づいて、複数の利用可能なレンズからレンズを選択することをさらに備え、ここにおいて、1つまたは複数の特性が、開口と、視野と、フォーカス電力プロファイルとのうちの少なくとも1つを備える、態様29から41のいずれかに記載の方法。
【0219】
[0232]態様43.レンズは、レンズに関連するフォーカス電力プロファイルが、複数の利用可能なレンズからの1つまたは複数のレンズのそれぞれのフォーカス電力プロファイルよりも低いフォーカス電力を備えるという決定に基づいて、複数の利用可能なレンズから選択される、態様42に記載の方法。
【0220】
[0233]態様44.トリガイベントが、しきい値を上回る慣性動きと、しきい値を上回るオーディオ変化と、しきい値を上回る周辺光の変化と、しきい値を上回るオブジェクトまでのレンジの変化と、方法に関連するアプリケーションからのトリガと、アクティブ深度検知システムからの深度測定値と、全地球ナビゲーション衛星システムからのトリガと、全地球測位システムからのトリガと、データ接続と、しきい値を上回る位相検出変化とを備える、態様29から43のいずれかに記載の方法。
【0221】
[0234]態様45.関心オブジェクトが第2の画像中に存在すると決定することに応答して、方法に関連する異なる画像キャプチャデバイスを調整することをさらに備え、ここにおいて、異なる画像キャプチャデバイスを調整することが、異なる画像キャプチャデバイスをオンにすることと、異なる画像キャプチャデバイスを初期化することとのうちの少なくとも1つを備え、ここにおいて、異なる画像キャプチャデバイスが、メインカメラデバイスと、画像キャプチャデバイスよりも高い電力のカメラデバイスとのうちの少なくとも1つを備える、態様29から44のいずれかに記載の方法。
【0222】
[0235]態様46.異なる画像キャプチャデバイスを介して、シーンの1つまたは複数の画像を処理することをさらに備え、1つまたは複数の画像が、第2の画像と、異なる画像キャプチャデバイスによってキャプチャされた第3の画像とのうちの少なくとも1つを備える、態様45に記載の方法。
【0223】
[0236]態様47.第1の構成が非アクティブ光学画像安定化モードを備え、第2の構成がアクティブ光学画像安定化モードを備え、ここにおいて、レンズを第2の構成に調整することが、レンズ安定化モーターを使用して光学画像安定化モードをアクティブ化することをさらに備える、態様29から46のいずれかに記載の方法。
【0224】
[0237]態様48.第1の構成が第1の開口設定を備え、ここにおいて、第2の構成が、第1の開口設定とは異なる第2の開口設定を備え、ここにおいて、レンズを第2の構成に調整することが、開口モーターを使用して第1の開口設定から第2の開口設定にレンズの開口を変化させることをさらに備える、態様29から47のいずれかに記載の方法。
【0225】
[0238]態様49.正常な検出のための条件が、あらかじめ定義されたしきい値またはユーザ構成されたしきい値を含む、態様29から48のいずれかに記載の方法。
【0226】
[0239]態様50.第1の検出結果と第2の検出結果とのうちの少なくとも1つが、確率スコアまたはメトリックと、確率的予測と、分類と、ラベルと、コストまたは損失関数値と、推定値と、ランキングと、バイナリ予測とのうちの少なくとも1つを含む、態様29から49のいずれかに記載の方法。
【0227】
[0240]態様51.第1の構成が第1のレンズ位置を備え、ここにおいて、第2の構成が、第1のレンズ位置とは異なる第2のレンズ位置を備え、ここにおいて、複数の利用可能なレンズ構成が複数の利用可能なレンズ位置を備え、ここにおいて、第2のレンズ位置が、第1の位置と複数の利用可能なレンズ位置の各々との間の相対距離に基づいて、複数の利用可能なレンズ位置から選択され、ここにおいて、第2の位置が、第1のレンズ位置と複数の利用可能なレンズ位置の各々との間の最も短い相対距離に基づいて、複数の利用可能なレンズ位置から選択される、態様29から50のいずれかに記載の方法。
【0228】
[0241]態様52.1つまたは複数のプロセッサによって実行されたとき、1つまたは複数のプロセッサに態様29から51のいずれかに記載の方法を実施させる命令を記憶した非一時的コンピュータ可読媒体。
【0229】
[0242]態様53.態様29から51のいずれかに記載の方法を実施するための手段を備える装置。
【0230】
[0243]態様54.メモリと、メモリに結合された1つまたは複数のプロセッサとを備える装置であって、1つまたは複数のプロセッサは、関心オブジェクトが検出されたか否かに関する第1の決定を行うために、第1の構成においてキャプチャされた第1の画像を使用し、第1の決定の検出結果が、構成された基準を満足しない場合、関心オブジェクトが検出されたか否かに関する第2の決定を行うために、第2の構成においてキャプチャされた第2の画像を使用するように構成された、装置。
【0231】
[0244]態様55.第1の検出結果と第2の検出結果とが、信頼性値である、態様54に記載の装置。
【0232】
[0245]態様56.正常な検出のための条件が、あらかじめ定義されたしきい値またはユーザ構成されたしきい値を含む、態様54から55のいずれかに記載の装置。
【0233】
[0246]態様57.検出結果が、確率スコアまたはメトリック、確率的予測、分類および/またはラベル、コストまたは損失関数値、推定値、ランキング、ならびに/あるいはバイナリ予測のうちの1つを含む、態様54から56のいずれかに記載の装置。
【0234】
[0247]態様58.第1の構成が装置のカメラのレンズの第1のレンズ位置を備え、ここにおいて、第2の構成がレンズの第2のレンズ位置を備え、第2のレンズ位置が第1のレンズ位置とは異なる、態様54から57のいずれかに記載の装置。
【0235】
[0248]態様59.1つまたは複数のプロセッサは、第1の決定の検出結果が、構成された基準を満足しないことに応答して、第1のレンズ位置から第2のレンズ位置にレンズを移動するように構成された、態様58に記載の装置。
【0236】
[0249]態様60.第2のレンズ位置は、第1のレンズ位置から複数の利用可能なレンズ位置からの各他のレンズ位置にレンズを移動するためにフォーカスモーターによって必要とされる電力の量に対する、第1のレンズ位置から第2のレンズ位置にレンズを移動するためにフォーカスモーターによって必要とされる電力の量に基づいて、複数の利用可能なレンズ位置から選択される、態様59に記載の装置。
【0237】
[0250]態様61.構成された基準が、しきい値にあるかまたはしきい値を上回るオブジェクト検出メトリックを備える、態様54から60のいずれかに記載の装置。
【0238】
[0251]態様62.関心オブジェクトが検出されたか否かに関する第1の決定を行うために、第1の構成においてキャプチャされた第1の画像を使用し、第1の決定の検出結果が、構成された基準を満足しない場合、関心オブジェクトが検出されたか否かに関する第2の決定を行うために、第2の構成においてキャプチャされた第2の画像を使用することを備える、方法。
【0239】
[0252]態様63.第1の検出結果と第2の検出結果とが、信頼性値である、態様62に記載の方法。
【0240】
[0253]態様64.正常な検出のための条件が、あらかじめ定義されたしきい値またはユーザ構成されたしきい値を含む、態様62から63のいずれかに記載の方法。
【0241】
[0254]態様65.検出結果が、確率スコアまたはメトリック、確率的予測、分類および/またはラベル、コストまたは損失関数値、推定値、ランキング、ならびに/あるいはバイナリ予測のうちの1つを含む、態様62から64のいずれかに記載の方法。
【0242】
[0255]態様66.第1の構成が装置のカメラのレンズの第1のレンズ位置を備え、ここにおいて、第2の構成がレンズの第2のレンズ位置を備え、第2のレンズ位置が第1のレンズ位置とは異なる、態様62から65のいずれかに記載の方法。
【0243】
[0256]態様67.1つまたは複数のプロセッサは、第1の決定の検出結果が、構成された基準を満足しないことに応答して、第1のレンズ位置から第2のレンズ位置にレンズを移動するように構成された、態様66に記載の方法。
【0244】
[0257]態様68.第2のレンズ位置は、第1のレンズ位置から複数の利用可能なレンズ位置からの各他のレンズ位置にレンズを移動するためにフォーカスモーターによって必要とされる電力の量に対する、第1のレンズ位置から第2のレンズ位置にレンズを移動するためにフォーカスモーターによって必要とされる電力の量に基づいて、複数の利用可能なレンズ位置から選択される、態様67に記載の方法。
【0245】
[0258]態様69.構成された基準が、しきい値にあるかまたはしきい値を上回るオブジェクト検出メトリックを備える、態様62から68のいずれかに記載の方法。
【国際調査報告】