IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ グーグル インコーポレイテッドの特許一覧

<>
  • 特許-弱光環境内の露光変化の制御 図1
  • 特許-弱光環境内の露光変化の制御 図2
  • 特許-弱光環境内の露光変化の制御 図3
  • 特許-弱光環境内の露光変化の制御 図4
  • 特許-弱光環境内の露光変化の制御 図5
  • 特許-弱光環境内の露光変化の制御 図6
  • 特許-弱光環境内の露光変化の制御 図7
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-10-04
(45)【発行日】2023-10-13
(54)【発明の名称】弱光環境内の露光変化の制御
(51)【国際特許分類】
   H04N 23/71 20230101AFI20231005BHJP
   H04N 23/60 20230101ALI20231005BHJP
【FI】
H04N23/71
H04N23/60
【請求項の数】 21
(21)【出願番号】P 2022516739
(86)(22)【出願日】2020-09-21
(65)【公表番号】
(43)【公表日】2022-12-23
(86)【国際出願番号】 US2020051795
(87)【国際公開番号】W WO2021076276
(87)【国際公開日】2021-04-22
【審査請求日】2022-04-20
(31)【優先権主張番号】16/684,947
(32)【優先日】2019-11-15
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】62/914,759
(32)【優先日】2019-10-14
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】502208397
【氏名又は名称】グーグル エルエルシー
【氏名又は名称原語表記】Google LLC
【住所又は居所原語表記】1600 Amphitheatre Parkway 94043 Mountain View, CA U.S.A.
(74)【代理人】
【識別番号】110001195
【氏名又は名称】弁理士法人深見特許事務所
(72)【発明者】
【氏名】ガオ,ジンルン
(72)【発明者】
【氏名】ルー,リン
(72)【発明者】
【氏名】スン,ガン
(72)【発明者】
【氏名】フン,スゼッポ・ロバート
(72)【発明者】
【氏名】ベラルデ,ルベン・マニュエル
【審査官】▲うし▼田 真悟
(56)【参考文献】
【文献】特開2013-126091(JP,A)
【文献】特開2005-286440(JP,A)
【文献】特開2012-083529(JP,A)
【文献】特開2014-183558(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 23/71
H04N 23/60
G03B 7/00-7/30
(57)【特許請求の範囲】
【請求項1】
方法であって、
モバイル装置上のセンサからのセンサデータに基づいて、環境輝度測定値を検出することを含み、前記モバイル装置は、環境輝度に基づいて表示輝度を調整するように構成されたディスプレイ画面を含み、
前記モバイル装置上のカメラからの画像データ内の輝度変化に基づいて、前記ディスプレイ画面からの反射光に起因する前記検出された環境輝度測定値の程度を決定することと、
前記検出された環境輝度測定値と、前記ディスプレイ画面からの反射光に起因する前記検出された環境輝度測定値の前記決定された程度に基づいて、前記カメラの露光変化率を設定することとを含む、方法。
【請求項2】
前記センサは、背面向き環境光センサを含み、
前記カメラは、前面向きビデオカメラを含む、請求項1に記載の方法。
【請求項3】
前記センサデータは、環境光センサデータを含み、
前記環境輝度測定値を検出することは、緑色応答性対透明応答性の比を含む緑色/透明チャネルを用いて、輝度値を決定することを含む、請求項1または2に記載の方法。
【請求項4】
前記ディスプレイ画面からの反射光に起因する前記検出された環境輝度測定値の前記決定された程度を決定することは、前記画像データ内のモーションに起因する前記環境輝度測定値の程度を決定することを含む、請求項1、2または3に記載の方法。
【請求項5】
前記画像データ内のモーションに起因する前記環境輝度測定値の前記程度を決定することは、前記画像データ内の連続フレーム間のモーションを評価することを含む、請求項4に記載の方法。
【請求項6】
時間窓にわたるモーション平均値を決定することによって、前記画像データ内のモーションを評価することをさらに含む、請求項4または5に記載の方法。
【請求項7】
時間窓にわたるモーションの分散を決定することによって、前記画像データ内のモーションを評価することをさらに含む、請求項4、5または6に記載の方法。
【請求項8】
前記ディスプレイ画面からの反射光に起因する前記検出された環境輝度測定値の程度を決定することは、前記画像データ内の輝度変化を評価することを含む、請求項1~7のいずれか一項に記載の方法。
【請求項9】
前記画像データ内の輝度変化を評価することは、単調な輝度変化を、前記ディスプレイ画面からの反射光に由来した前記環境輝度測定値に関連付けることを含む、請求項8に記載の方法。
【請求項10】
前記カメラの前記露光変化率を設定することは、前記環境輝度測定値が主に前記ディスプレイ画面からの反射光に由来したものであると決定された場合に、前記カメラの前記露光変化率を減少させることを含む、請求項1~9のいずれか一項に記載の方法。
【請求項11】
前記検出された環境輝度測定値の前記決定された程度は、前記環境輝度測定値が主に前記画像データ内のモーションに由来したものであると定を含む、請求項1~のいずれか一項に記載の方法。
【請求項12】
前記検出された環境輝度測定値の前記決定された程度は、前記環境輝度測定値が主に前記モバイル装置のモーションに由来したものであると定を含む、請求項1~のいずれか一項に記載の方法。
【請求項13】
前記モバイル装置の前記モーションは、ジャイロスコープを用いて決定される、請求項12に記載の方法。
【請求項14】
前記カメラの前記露光変化率を設定することは、前記環境輝度測定値が閾値輝度レベルを超える場合に、前記カメラの前記露光変化率を増加または維持することを含む、請求項1~13のいずれか一項に記載の方法。
【請求項15】
前記カメラの前記露光変化率を設定することは、前記環境輝度測定値が主に前記ディスプレイ画面からの反射光に由来したものであると決定された場合に、前記露光変化率の減少率を決定することを含む、請求項1~14のいずれか一項に記載の方法。
【請求項16】
前記カメラの前記露光変化率を設定することは、前記減少率の係数で前記露光変化率の大きさを調整することを含む、請求項15に記載の方法。
【請求項17】
前記ディスプレイ画面は、前記カメラによって撮影された前記画像データのフレームを表示する、請求項1~16のいずれか一項に記載の方法。
【請求項18】
前記画像データは、前記モバイル装置のユーザの1つ以上の画像を含む、請求項1~17のいずれか一項に記載の方法。
【請求項19】
モバイル装置であって、
環境輝度に基づいて表示輝度を調整するように構成されたディスプレイ画面と、
環境光センサと、
カメラと、
請求項1から18のいずれか一項に記載の方法を実行するように構成された制御システムとを備える、モバイル装置。
【請求項20】
請求項1から18のいずれか一項に記載の方法を実行するように構成されたモバイル装置。
【請求項21】
請求項1~18のいずれか1項に記載の方法を1つ以上のプロセッサに実行させるためのプログラム。
【発明の詳細な説明】
【背景技術】
【0001】
関連出願の参照
本開示は、米国特許仮出願62/914759(2019年10月14日)の優先権を主張する米国特許出願16/684947(2019年11月15日)の優先権を主張する。これら出願の全ての内容は、本明細書に完全に記載されているかのように、参照により本明細書に組み込まれる。
【0002】
背景
多くの現代のコンピューティング装置、例えば、携帯電話、パーソナルコンピュータ、およびタブレットは、静止カメラおよび/またはビデオカメラなどの画像撮影装置を備える。画像撮影装置は、人間、動物、風景、および/または物体を含む画像を撮影することができる。
【0003】
露光は、電子画像センサに到達する単位面積当たりの光量を指す。露光は、シャッタ速度、レンズ絞りおよびシーン輝度などの1つ以上の露光パラメータによって決められる。画像撮影装置は、露光を自動的に調整することによって、生成される画像の品質を向上させることができる。
【発明の概要】
【0004】
概要
本開示は、複数の入力ソースからのセンサデータを結合して、カメラの露光変化を制御することによって、撮影されたシーンを表すフレームの品質を向上させる方法に関する。
【0005】
第1の態様において、方法が提供される。この方法は、モバイル装置上のセンサからのセンサデータに基づいて、環境輝度測定値を検出することを含み、モバイル装置は、環境輝度に基づいて表示輝度を調整するように構成されたディスプレイ画面を含む。また、この方法は、モバイル装置上のカメラからの画像データに基づいて、ディスプレイ画面からの反射光に起因する検出された環境輝度測定値の程度を決定することを含む。さらに、この方法は、ディスプレイ画面からの反射光に起因する検出された環境輝度測定値の決定された程度に基づいて、カメラの露光変化率を設定することを含む。
【0006】
第2の態様において、モバイル装置が提供される。このモバイル装置は、環境輝度に基づいて表示輝度を調整するように構成されたディスプレイ画面と、環境光センサと、カメラと、制御システムとを備える。制御システムは、環境光センサからのセンサデータに基づいて、環境輝度測定値を検出するように構成されてもよい。または、制御システムは、カメラからの画像データに基づいて、カメラからの画像データに基づいて、ディスプレイ画面からの反射光に起因する検出された環境輝度測定値の程度を決定するように構成されてもよい。さらに、制御システムは、ディスプレイ画面からの反射光に起因する検出された環境輝度測定値の決定された程度に基づいて、カメラの露光変化率を設定するように構成されてもよい。
【0007】
第3の態様において、実行可能なプログラム命令を格納する非一時的なコンピュータ可読媒体が提供される。プログラム命令は、1つ以上のプロセッサによって実行されると、1つ以上のプロセッサに以下の動作を実行させる。これらの動作は、モバイル装置上のセンサからのセンサデータに基づいて、環境輝度測定値を検出することを含み、モバイル装置は、環境輝度に基づいて表示輝度を調整するように構成されたディスプレイ画面を含む。また、これらの動作は、モバイル装置上のカメラからの画像データに基づいて、ディスプレイ画面からの反射光に起因する検出された環境輝度測定値の程度を決定することを含む。さらに、これらの動作は、ディスプレイ画面からの反射光に起因する検出された環境輝度測定値の決定された程度検に基づいて、カメラの露光変化率を設定することを含む。
【0008】
第4の態様において、システムが提供される。このシステムは、モバイル装置上のセンサからのセンサデータに基づいて、環境輝度測定値を検出するための手段を含み、モバイル装置は、環境輝度に基づいて表示輝度を調整するように構成されたディスプレイ画面を含む。また、このシステムは、モバイル装置上のカメラからの画像データに基づいて、ディスプレイ画面からの反射光に起因する検出された環境輝度測定値の程度を決定するための手段を含む。さらに、このシステムは、ディスプレイ画面からの反射光に起因する検出された環境輝度測定値の決定された程度に基づいて、カメラの露光変化率を設定するための手段を含む。
【0009】
他の態様、実施形態および実装形態は、添付の図面を適宜に参照しながら以下の詳細な説明を読むことによって、当業者に明白となるであろう。
【図面の簡単な説明】
【0010】
図1】例示的な実施形態に従って、コンピューティング装置を示す図である。
図2】例示的な実施形態に従って、コンピューティング装置の要素間のデータフローを示す図である。
図3】例示的な実施形態に従って、異なるシーンのモーション情報を示すグラフである。
図4】例示的な実施形態に従って、決定された第1のシーンの減少率を示すグラフである。
図5】例示的な実施形態に従って、決定された第2のシーンの減少率を示すグラフである。
図6】例示的な実施形態に従って、決定された第3のシーンの減少率を示すグラフである。
図7】例示的な実施形態に従って、方法を示す図である。
【発明を実施するための形態】
【0011】
詳細な説明
本明細書は、例示的な方法、装置およびシステムを記載する。理解すべきことは、「例示の」および「例示的な」という用語は、本明細書において、「例示、事例、または実例として機能する」ことを意味することである。本明細書に記載された任意の「例示」または「例示的な」実施形態または特徴は、必ずしも、他の実施形態または特徴よりも好ましいまたは有利であると解釈されるべきではない。本明細書に記載された主題の範囲から逸脱することなく、他の実施形態を利用することができ、他の変更を行うことができる。
【0012】
したがって、本明細書に記載された例示的な実施形態は、限定することを意図していない。本明細書に概して記載され、図面に示された本開示の態様は、多種多様な異なる構成で配置、置換、結合、分離、および設計されてもよい。これらの全ては、本明細書に想定される。
【0013】
また、文脈がそうでないことを示唆しない限り、各図面に示された特徴を組み合わせて使用することができる。したがって、図面は、概して、1つ以上の実施形態の構成要素として見なされるべきであり、各実施形態は、必ずしも図示された全ての特徴を必要としないことを理解すべきである。
【0014】
I.概要
スマートフォンなどのモバイル装置のカメラに対する露光制御は、撮影されるフレームの輝度を決めることができる。また、モバイル装置は、画像撮影の際に、ユーザがモバイル装置のディスプレイ画面上の輝度の変化を観察することを可能にするプレビューモードを含むことができる。輝度の変化は、シーンの変化および/または他の要因によって引き起こされてもよい。
【0015】
いくつかの例において、モバイル装置のディスプレイ画面は、環境光センサを利用して、環境輝度を検出することができる。環境光センサは、スペクトルセンサであってもよい。スペクトルセンサは、フリッカと光スペクトルの両方を検出することができる複合式センサであるが、光スペクトルの検出に専用される場合に、環境光センサと同等である。環境光センサは、モバイル装置の背面に、すなわち、ディスプレイの反対側に設けられた背面向きセンサであってもよい。環境光センサが向いている環境が明るすぎる場合、ディスプレイ画面は、明るくなることによって視界をより適切にするように構成されてもよく、逆も同様である。モバイル装置の前面に、すなわち、ディスプレイと同じ側に設けられたカメラは、カメラセンサの露光感度を制御するように構成されてもよい。撮影されるフレームが暗すぎる場合、カメラ制御は、フレームを明るくするように、露光感度を増加させることができ、逆も同様である。さらなる例において、環境光センサおよびカメラは、環境光センサがディスプレイから離れる方向に向いている限り、両方とも同じ方向に向いてもよい(例えば、両方が背面に向いている)。
【0016】
通常、2つのアプローチは、良好な自撮り写真を撮影するために共に機能することができるが、例えば弱光環境の場合に、2つのアプローチの間にいくつかの競合が生じる可能性がある。ユーザが前面向きカメラを用いて自撮り写真を撮影するときに、画面は、自撮り写真のプレビューを示す。最初に撮影されたフレームが暗すぎると仮定する場合、カメラ制御は、カメラセンサ露光感度を増加させることによって、ユーザの顔を明るくするように構成されてもよい。これによって、顔を捕捉するディスプレイ画面上のプレビューが明るくなる。したがって、ディスプレイの光を反射するユーザの顔が明るくなる。
【0017】
(例えば、ユーザが比較的暗い環境にいるときに)ディスプレイが主な光源である場合、環境光センサは、ユーザの顔からの反射光が明るくなることを感知できるため、環境輝度に基づいて調整を行うためのディスプレイ自体の方法により、ディスプレイは、明るくなる。ディスプレイが明るくなると、ディスプレイの光を反射するユーザの顔が明るくなり、撮影されたフレームが更に明るくなる。この反復は、カメラ制御が撮影されたフレームが明るくなりすぎると判定するまで継続する。次いで、カメラ制御は、カメラセンサの感度を減少させることができる。画像輝度の減少によって、露光感度および表示輝度の両方は、撮影されたフレームが暗くなりすぎるまで減少する。このようループは、露光変動と呼ばれる。露光変動の視覚効果は、明るすぎる画像と暗すぎる画像との間で複数回交代するプレビュー画像を含む。露光変動は、最適ではない表示画像を生成する場合がある。
【0018】
このことを避けるために、1つのアプローチは、(例えば、露光変化ステップの大きさを減少させることによって)露光変化率を減少させることを含む。これによって、露光が許容露光範囲に達すると、カメラ制御は、露光の更新を即座に停止することによって、露光変動を防止することができる。しかしながら、他方では、実際のシーン変化を捕捉するために、露光を十分迅速に変える必要がある。
【0019】
本明細書に記載された例は、シーンを理解し、シーン変化がディスプレイの光に起因するかまたは他の要因に起因するかを検出することを含む。例は、ディスプレイ画面からの反射光に起因する環境輝度測定値の程度に基づいて、露光変化率を制御することをさらに含む。より具体的には、本明細書に記載された例は、背面向き環境光センサを用いて環境光の変化を検出すること、および前面向きカメラを用いてモーションおよび輝度変化を評価することによって、シーン変化が(速い露光変化を必要とする)モーションに起因するか、または(遅い露光変化を必要とする)表示変化に起因するかを判断することを含むことができる。
【0020】
II.例示的な装置
図1は、例示的な実施形態に従って、コンピューティング装置100を示す。コンピューティング装置100は、ディスプレイ110と、1つ以上の環境光センサ120と、1つ以上の他のセンサ130と、1つ以上のカメラ140と、ネットワークインターフェイス150と、1つ以上のコントローラ160とを含む。いくつかの例において、コンピューティング装置100は、スマートフォン、タブレット装置、カメラ、またはウェアラブル装置などのモバイルコンピューティング装置であってもよい。コンピューティング装置100は、環境と相互作用するように構成されてもよい。例えば、コンピューティング装置100は、コンピューティング装置100の周りの環境を示す画像データを取得することができ、環境に関連する環境状態測定値、例えば環境光測定値を取得することもできる。
【0021】
ディスプレイ110は、(タッチ画面を含む)1つ以上の画面、陰極線管(CRT)、液晶ディスプレイ(LCD)、発光ダイオード(LED)、デジタル光処理(DLP)技術および/または他の同様の技術を用いるディスプレイを介して、出力信号をユーザに提供するように構成されてもよい。また、ディスプレイ110は、例えば、スピーカ、スピーカジャック、オーディオ出力ポート、オーディオ出力素子、イヤホン、および/または他の類似装置を用いて、可聴出力を生成するように構成されてもよい。ディスプレイ110は、1つ以上の触覚要素をさらに含むことができる。1つ以上の触覚要素は、コンピューティング装置100とのタッチおよび/または物理接触によって検出可能な振動および/または他の出力などの触覚出力を生成することができる。
【0022】
ディスプレイ110は、特定の輝度レベルで視覚出力を提供するように構成されてもよい。輝度レベルは、最大輝度レベルとの百分率として決定されてもよい。いくつかの例において、ディスプレイ110は、環境輝度および/または他の因子に基づいて、輝度レベルを自動的に調整するように構成されてもよい。いくつかの例において、ユーザが画面の輝度を調整することを可能にするように、ユーザ入力機構、例えばスライダ機構を設けてもよい。
【0023】
環境光センサ120は、コンピューティング装置100の(例えば、1メートル(m)、5m、または10m以内の)環境からの光を受光するように構成されてもよい。環境光センサ120は、コンピューティング装置100上に設けられた少なくとも1つの背面向き環境光センサを含むことができる。環境光センサ120は、1つ以上の単一光子アバランシェ検出器(SPAD)、アバランシェフォトダイオード(APD)、相補型金属酸化物半導体(CMOS)検出器、および/または電荷結合素子(CCD)を含むことができる。例えば、環境光センサ120は、約1550ナノメートル(nm)波長の光を検出するように構成されたヒ化インジウムガリウム(InGaAs)APDを含むことができる。他の種類の環境光センサ120も可能であり、本明細書に想定される。
【0024】
いくつかの実施形態において、環境光センサ120は、1次元アレイまたは2次元アレイに配置された複数の光検出器素子を含むことができる。例えば、環境光センサ120は、一列(例えば、線状アレイ)に配置された16個の検出器素子を含むことができる。これらの検出器素子は、主軸に沿って配置されてもよく、または少なくとも主軸に平行して配置されてもよい。
【0025】
いくつかの実施形態において、コンピューティング装置100は、1つ以上の他のセンサ130を含むことができる。他のセンサ130は、コンピューティング装置100の状態および/またはコンピューティング装置100の(例えば、1m、5m、または10m以内の)環境の状態を測定し、これらの状態のデータを提供するように構成されてもよい。例えば、他のセンサ130は、以下のうちの1つ以上を含むことができる:
(i)例えば、コンピューティング装置100の温度を測定するための温度計、コンピューティング装置100の1つ以上のバッテリの電力を測定するためのバッテリセンサ、および/またはコンピューティング装置100の状態を測定する他のセンサを含むがこれらに限定されない、コンピューティング装置100に関するデータを取得するためのセンサ、
(ii)例えば、無線周波数識別(RFID)リーダ、近接センサ、1次元バーコードリーダ、2次元バーコード(例えば、QRコード(登録商標))リーダ、および/またはレーザトラッカを含むがこれらに限定されない、他の物体および/または装置を識別するための、RFIDタグ、バーコード、QRコードなどの識別子、および/または読取られるように構成された他の装置および/またはオブジェクトを読み取り、少なくとも識別情報を提供するように構成された、識別センサ、
(iii)例えば、傾斜センサ、ジャイロスコープ、加速度計、ドップラー(Doppler)センサ、全地球測位システム(GPS)装置、ソナーセンサ、レーダ装置、レーザ変位センサ、および/またはコンパスを含むがこれらに限定されない、コンピューティング装置100の位置および/または動きを測定するためのセンサ、
(iv)例えば、赤外線センサ、光センサ、バイオセンサ、静電容量センサ、タッチセンサ、温度センサ、無線センサ、ラジオセンサ、運動センサ、近接センサ、レーダ受信機、マイクロフォン、サウンドセンサ、超音波センサおよび/または煙センサを含むがこれらに限定されない、コンピューティング装置100の環境を示すデータを取得するための環境センサ、および/または
(v)例えば、1次元以上の力、トルク、接地力、摩擦を測定するための1つ以上のセンサ、および/またはゼロモーメント点(ZMP)および/またはZMPの位置を識別するためのZMPセンサ、を含むがこれらに限定されない、コンピューティング装置100の周りに作用する1つ以上の力(例えば、慣性力および/またはG力)を測定するための力センサ。他のセンサ130の多くの他の例も可能である。
【0026】
カメラ140は、画像データおよび/またはビデオデータを取得するように構成されてもよい。カメラ140は、コンピューティング装置100上に設けられた少なくとも1つの前面カメラを含むことができる。カメラ140は、1つ以上のレンズ、レンズモータ、光センサ、ハードウェアプロセッサ、および/またはカメラ140のハードウェアを利用するおよび/またはコントローラ160と通信するためのソフトウェアを含むことができる。カメラ140は、環境の照明および/または他の要因に基づいて、露光を自動的に調整するように構成されてもよい。例えば、画像撮影の前にまたは画像撮影の間に、自動露光機能を使用して、カメラのレンズ絞り、カメラのアナログゲインおよび/またはデジタルゲイン、および/またはカメラのシャッタ速度を設定することができる。カメラ140からの画像データは、ビデオカメラプレビューモードでディスプレイ110上に表示するために提供されてもよい。
【0027】
環境光センサ120、他のセンサ130、および/またはカメラ140から得られたデータは、コントローラ160に送信されてもよい。本明細書でさらに説明されるように、コントローラ160は、そのデータを使用して、ディスプレイ110および/またはカメラ140の動作を調節することができる。
【0028】
ネットワークインターフェイス150は、ネットワークを介して通信するように構成可能な1つ以上の無線インターフェイスおよび/または有線インターフェイスを含むことができる。無線インターフェイスは、1つ以上の無線トランスミッタ、レシーバおよび/またはトランシーバ、例えば、Bluetooth(登録商標)トランシーバ、Zigbee(登録商標)トランシーバ、Wi-Fi(登録商標)トランシーバ、WiMAX(登録商標)トランシーバ、および/または無線ネットワークを介して通信するように構成可能な他の類似の無線トランシーバを含むことができる。有線インターフェイスは、1つ以上の有線トランスミッタ、レシーバおよび/またはトランシーバ、例えば、イーサネット(登録商標)トランシーバ、ユニバーサルシリアルバス(USB)トランシーバ、またはツイストペアワイヤ、同軸ケーブル、光ファイバリンクもしくは有線ネットワークへの同様の物理接続を介して通信するように構成可能な類似のトランシーバを含むことができる。
【0029】
いくつかの実施形態において、ネットワークインターフェイス150は、信頼できる安全および/または認証された通信を提供するように構成されてもよい。信頼できる通信(例えば、保証されたメッセージ配信)を容易にするための情報を、おそらくメッセージヘッダおよび/またはフッタ(例えば、パケット/メッセージ順序付け情報、カプセル化ヘッダおよび/またはフッタ、サイズ/時間情報、および伝送検証情報、例えば循環冗長検査(CRC)および/またはパリティ検査値)の一部として本明細書に記載された各通信に提供することができる。通信は、データ暗号化規格(DES:Data Encryption Standard)、高度暗号化規格(AES:Advanced Encryption Standard)、RSA(Rivest-Shamir-Adelman)アルゴリズム、ディフィ-ヘルマン(Diffie-Hellman)アルゴリズム、セキュアソケット層(SSL)またはトランスポート層セキュリティ(TLS)などのセキュアソケットプロトコル、および/またはデジタル署名アルゴリズム(DSA)を含むがこれらに限定されない1つ以上の暗号プロトコルおよび/またはアルゴリズムを用いて、安全化(例えば、符号化または暗号化)されてもよく、および/または復号/デコードされてもよい。上記に列挙したものと共にまたはそれに加えて、他の暗号プロトコルおよび/またはアルゴリズムを用いて、通信(およびその後の解読/復号)を安全化することができる。
【0030】
コントローラ160は、1つ以上のプロセッサ162と、メモリ164とを含むことができる。プロセッサ162は、1つ以上の汎用プロセッサおよび/または1つ以上の専用プロセッサ(例えば、デジタル信号プロセッサ(DSP)、テンソル処理ユニット(TPU)、グラフィック処理ユニット(GPU)、特定用途向け集積回路(ASIC))を含むことができる。プロセッサ162は、メモリ164に格納されたコンピュータ可読命令および/または本明細書に記載された他の命令を実行するように構成されてもよい。メモリ164は、プロセッサ162によって読み取りおよび/またはアクセスされ得る1つ以上の非一時的コンピュータ可読記憶媒体を含むことができる。1つ以上の非一時的コンピュータ可読記憶媒体は、少なくとも1つのプロセッサ162と全体的にまたは部分的に一体化され得る揮発性および/または不揮発性記憶要素、例えば光学記憶要素、磁気記憶要素、有機記憶要素、他のメモリ要素またはディスク記憶要素を含むことができる。いくつかの例において、メモリ164は、単一の物理装置(例えば、1つの光学記憶装置、磁気記憶装置、有機記憶装置、他のメモリ装置またはディスク記憶装置)を用いて実装されてもよく、他の例において、メモリ164は、2つ以上の物理装置を用いて実装されてもよい。
【0031】
例示的な実施形態において、プロセッサ162は、メモリ164に記憶された命令を実行することによって、本明細書に記載された動作を実行するように構成される。なお、異なる動作は、コントローラ160の個別のコントローラによって実行されてもよい。特に、コントローラ160は、1つ以上の別個のコントローラに加えてまたはその代わりに、ディスプレイ110と一体化された1つ以上のコントローラおよび/またはカメラ140と一体化された1つ以上のコントローラを含むことができる。
【0032】
III.例示的な方法
図2は、例示的な実施形態に従って、コンピューティング装置の要素間のデータフローを示す。より具体的には、図示のように、環境光センサ120、コントローラ160、カメラ140、およびディスプレイ110を含むコンピューティング装置100の要素は、互いに通信することができる。図2に示されたコンピューティング装置100は、コンピューティング装置100周囲の環境で動作することができ、当該環境と相互作用することができる。環境は、環境を照明する1つ以上の光源、特に自然光源もしくは人工光源からの光、または環境内の物体から反射された光を含むことができる。
【0033】
環境光センサ120は、周囲環境に光学的に結合されてもよい。すなわち、環境光センサ120が周囲環境の視野から1つ以上の光源を検出するように、環境光センサ120をコンピューティング装置100内に配置することができる。いくつかの例において、環境光センサ120は、環境光測定値212を生成するように1つ以上の光源の大きさを取得することができる。次いで、環境光センサ120は、環境光測定値212をコントローラ160に送信することができる。コントローラ160は、環境光測定値212に基づいて、ディスプレイ110および/またはカメラ140の挙動を調節することができる。
【0034】
カメラ140は、コンピューティング装置100周囲の環境の静止画像および/またはビデオ画像を含む画像データ214を取得することができる。画像の輝度は、カメラ140の現在の露光によって影響されてもよい。カメラ140は、所望の輝度レベル(例えば、画像を閲覧する現在の環境とは無関係に、最適な画質を得るために選択された輝度レベル)を達成するために、カメラ140の露光を自動的に設定するように構成されてもよい。露光は、最適な露光を達成するまで、以前に撮影されたフレームに基づいて調整されてもよい。カメラ140は、画像データ214をコントローラ160に送信することができる。
【0035】
コントローラ160は、カメラ140による露光調整の速度に影響を及ぼすように、カメラ140の露光変化率216を設定することができる。露光変化率216は、環境光センサ120からの環境光測定値212およびカメラからの画像データ214の両方に依存し得る。いくつかのシナリオにおいて、コントローラ160は、環境が比較的暗く、モバイル装置100が安定していると判断することができる。したがって、コントローラ160は、環境光測定値212が主に環境の表面、例えばユーザの顔から反射されたディスプレイ110の光に由来すると判断することができる。よって、コントローラ160は、露光変動を防止するために露光変化率216を減少させることができる。他のシナリオにおいて、コントローラ160は、環境が比較的明るいことを判断することができ、露光変化率216を減少させない。さらなるシナリオにおいて、コントローラ160は、モバイル装置100および/または周囲環境が動いていると判断することができ、露光変化率216を減少させない。
【0036】
なお、露光変動は、ディスプレイが環境輝度に基づいて表示輝度を調整するように構成されたコンピューティング装置において、特に重要な課題である。図2を参照して、コントローラ160は、ディスプレイ110の表示輝度218を調整するように構成されてもよい。周囲環境が暗くなると、表示輝度218を減少させることができる。周囲環境が明るくなると、表示輝度218を増加させることができる。周囲環境輝度に基づいた表示輝度の調整は、環境光センサ120からの環境光測定値212を用いて行われてもよい。
【0037】
また、コントローラ160は、ディスプレイ110上で表示するために、カメラ140によって撮影された現在のフレーム220を送信することができる。現在のフレーム220は、ビデオプレビューモードの一部としてディスプレイ110上で表示されてもよい。ディスプレイ110上の現在のフレーム220の輝度は、ディスプレイ110の現在の輝度レベルおよびカメラ140の現在の露光の両方によって影響されてもよい。したがって、いくつかのシナリオにおいて、ディスプレイ110およびカメラ140の競合フィードバックループは、露光変動を引き起こす可能性がある。露光変化率216を低減させることによって、露光変動を低減または排除すると共に、表示輝度を収束させることができる。
【0038】
図2は、要素の特定の配置を示すが、他の配置も可能である。追加的にまたは代替的に、コンピューティング装置100のいくつかの要素は、追加、除去、合併、および/または再配置されてもよい。
【0039】
図3は、例示的な実施形態に従って、異なるシーンのモーション情報を示すグラフである。より具体的には、図3は、4つの異なるシーンの経時的なモーションプロット300を示している。いくつかの例において、カメラによって取得された画像データから決定されたモーション情報を用いて、異なるシーンを撮影する時にカメラの露光率を調整するか否かを判断することができる。
【0040】
モーション情報は、カメラの露光変化率の減少(減少率)をトリガするか否かを判断するためのマルチセンサ入力融合プロセスの一部として見なされてもよい。いくつかの例において、マルチセンサ入力は、少なくとも、(1)背面向き環境光センサおよび(2)前面向きカメラから収集されたデータを用いて、シーンの変化特性を検出することを含むことができる。背面向き環境光センサは、環境が暗いシーンであるか否かを感知することができ、ディスプレイ画面からの反射光(ディスプレイ画面自体を除く)を検出することができる。前面向きカメラは、自撮りフレームを取得し、その画像データを用いてモーションおよび輝度変化を計算し、モーションおよび輝度変化を用いてシーン変化特性を決定することができる。
【0041】
第1のステップとして、環境光センサを用いて環境輝度を検出することができる。この場合、環境輝度は、(例えば、音に関連する鮮明さと区別される)光を出射および/または反射する環境に関連する属性を指す。このステップは、環境光センサから環境光センサデータを収集することを含んでもよい。いくつかの例において、緑色光応答性を示す緑色チャネルを用いて、環境光センサデータから輝度値を計算することができる。さらなる例において、緑色応答性対透明応答性の比を示す緑色/透明チャネルを用いて、環境光センサデータから輝度値を計算することができる。輝度値が高い(例えば、高い輝度閾値を超える)と判定された場合、環境は、明るいシーンと識別され、露光収束を迅速に実行するように制御することができる。
【0042】
第2のステップとして、前面向きカメラを用いてシーン変化を検出することができる。いくつかの例において、このステップは、画像データ中の連続フレームを比較することによって、シーンモーションを計算することを含むことができる。このステップは、実際のモーションとディスプレイの輝度変化とを区別するために実行されてもよい。いくつかの例において、時間窓にわたるモーション平均値を用いて、実際のモーションとディスプレイの輝度変化とを区別することができる。さらなる例において、同様にまたはその代わりに、時間窓にわたるモーション分散を用いて、実際のモーションとディスプレイの輝度変化とを区別することができる。一般に、より高いモーション平均値および/またはより高いモーション分散は、実際の装置および/または迅速な露光変更を必要とする可能性があるシーンモーションに関連する可能性が高い。
【0043】
図3を参照して、モーションプロット300は、4つの異なるシーンのモーション情報を示す。モーション情報は、単一のスケール(この場合、y軸に示されている0.0~3.0)に正規化されてもよく、(例えば、x軸に示されているようにミリ秒で測定した)時間窓にわたる画像データのモーションに基づく変化の大きさを表してもよい。図3に示された例において、シーン1および4は、より大きなモーション平均値および高い分散を有するため、実際のモーションを表すと判断されてもよい。対照的に、シーン2および3は、比較的低いモーション平均および分散を有するため、シーン2およびシーン3のモーションは、ディスプレイ画面の輝度変化によるものであると判断されてもよい。
【0044】
モーションの計算は、輝度変化の影響を除去しようとするため、同様にまたはその代わりに、画像データ内の輝度変化を評価することもできる。例えば、個々のピクセルの赤色強度値、緑色強度値および青色強度値の加重和に基づいて、輝度を表す輝度値を計算することによって、輝度変化を決定することができる。実際のモーションは、輝度値をランダムに変化させる可能性が高く、ディスプレイ画面の輝度変化に起因する輝度変化は、単調である可能性が高くなる。いくつかの例において、モーションの経時変化および輝度の経時変化の両方を用いて、実際のモーションに起因するシーン変化と表示輝度変化に起因するシーン変化とを区別させることができる。
【0045】
一般に、複数の特徴を組み合わせて、ディスプレイからの反射光に起因する環境輝度測定値の程度を評価することができ、この程度は、露光変化率を減少させる必要性を示すことができる。さらなる例において、異なる特徴を使用してもよく、他の特徴を省略してもよい。さらなる例において、同様にまたはその代わりに、異なる種類のセンサデータを使用してもよい。いくつかの例(特に、環境光センサおよびカメラの両方がディスプレイから離れる方向を向いている場合)において、環境光センサからの光スペクトルデータを用いて、環境光センサが受光している光が、環境光源からの光であるかまたはディスプレイの光を反射するユーザの顔からの光であるかを判断することができる。
【0046】
さらなる例において、カメラ画像データに加えてまたはカメラ画像データの代わりに、ジャイロスコープからのセンサデータを用いて、装置モーションを評価することができる。ジャイロスコープがグローバルモーションの測定値を提供し、画像ベースのモーション検出がローカルモーションの測定値を提供するため、ジャイロスコープと画像ベースのモーション検出の両方を使用することが有利であり得る。ジャイロスコープからのセンサデータを使用する場合、ジャイロスコープが有意な量(例えば、高い閾値レベルを超える量)の装置モーションを示すときに、制御システムは、露光変化率を減少させない。
【0047】
図4、5および6は、例示的な実施形態に従って、決定された異なるシーンの減少率を示すグラフである。各図は、時間窓にわたってモバイル装置が撮影し得る異なるシーンの減少率、輝度検出およびモーション検出の間の例示的な関係を示す。モバイル装置のコントローラは、図4、5および6のそれぞれに従って検出された輝度およびモーション情報に基づいて、カメラ露光収束の減少率を設定するように構成されてもよい。
【0048】
説明のために、減少率、輝度検出値およびモーション検出値は、図4、5および6の各々において、それぞれ0と1との間の値にスケーリングされ、y軸に示される。減少率は、カメラ露光の最終収束速度に影響を与える乗数を表す。収束を平滑にするために、カメラによって使用された所定の定数をこの乗数に乗算することができる。例えば、減少率が0.5であり、所定の定数が0.8である場合、最終収束速度は、0.5×0.8、すなわち、0.4に等しい。この収束速度は、最終目標露光レベルまで徐々に到達するように、カメラが各収束ステップにおいて露光不足または露光過多の40%のみを補償することを示す。いくつかの例において、大きさと同様にまたはその代わりに、露光変化の頻度を調節してもよい。
【0049】
また、輝度検出値は、0と1との間の値にスケーリングされてもよい。0という値は、所定の低閾値より低い背面輝度を示し、1という値は、所定の高閾値より高い裏面輝度を示す。さらに、モーション検出値は、0と1との間の値にスケーリングされてもよい。0という値は、不安定性を示し、1という値は、安定性を示す。いくつかの例において、モーション検出値は、経時的な画像分析に基づくことができる。他の例において、モーション検出値は、同様にまたはその代わりに、ジャイロスコープデータに基づくことができる。輝度検出値およびモーション検出値は、時間窓(例えば、ミリ秒単位)にわたって測定され、x軸に示される。
【0050】
図4を参照して、第1のシーンの経時的な減少率のプロット400が、関連する輝度検出値およびモーション検出値と共に示されている。図示のように、時間窓の大部分にわたって1というモーション検出値は、装置が比較的安定していることを示す。さらに、時間窓にわたって1という輝度検出値は、環境が比較的明るいことを示す。明るい環境の場合、ディスプレイからの反射光が環境光センサによって検出される環境光の主な光源ではないため、露光変動は、大きな問題とならない。したがって、減少率は、1という値に設定される。この場合、露光収束を減少させないことを示す。よって、カメラの露光は、減少させることなく、所定の収束率で収束することができる。このシナリオは、ユーザが、明るい環境において静止しており、自分の電話を見ているシナリオに対応し得る。
【0051】
図5を参照して、第2のシーンの経時的な減少率のプロット500が、関連する輝度検出値およびモーション検出値と共に示されている。図示のように、輝度検出値は、時間窓にわたって0と1との間で変化する。このことは、環境光センサが弱光環境を示す期間があることを示す。また、モーション検出値も、時間窓にわたって、0と1との間で激しく変化する。このことは、モバイル装置および/またはシーンが時間窓にわたって激しく動いていることを示す。輝度検出値は、時間窓内の一定の期間中に低レベルの環境光を示す(露光変動が問題となり得ることを示す)が、モーション検出値は、モーションが環境光測定値の主な寄与である可能性が高いことを示す。したがって、減少率は、1という値に設定される。この場合、露光収束を減少させないことを示す。よって、カメラの露光は、減少させることなく、所定の収束率で収束することができる。このシナリオは、ユーザが自分の電話を見ながら環境に動いているシナリオに対応し得る。このようなシナリオにおいて、高い速度の露光収束が望ましい。
【0052】
図6を参照して、第3のシーンの経時的な減少率のプロット600が、関連する輝度検出値およびモーション検出値と共に示されている。図示のように、時間窓の大部分にわたって1というモーション検出値は、装置が比較的安定していることを示す。さらに、1を遥かに下回る初期輝度検出値は、環境が比較的暗いことを示す。モバイル装置が安定している弱光環境の場合、ディスプレイからの反射光が環境光センサによって検出される環境光の主な光源であり得るため、露光変動は、潜在的に重大な問題となる。したがって、減少率は、開始値0.5から0.2の値に減少させられる。このことは、この場合に露光収束を減少させることを示す。露光変動に対抗するために、カメラの露光を所定の収束率の20%のみに収束することができる。このシナリオは、モバイル装置が安定しているときに、ユーザが比較的低い照度の環境でモバイル装置のカメラを起動するシナリオに対応し得る。他の例において、露光収束速度は、他の要因によってまたはより緩やかなペースで減少させられてもよい。さらなる例において、時間窓にわたって、露光収束速度を動的に調整してもよい。例えば、訓練済み機械学習モデルを適用することによって、露光収束速度を調整するもっと複雑な方法を使用することもできる。
【0053】
図7は、例示的な実施形態に従って、方法700を示す。方法700は、様々なブロックまたはステップを含むことができる。これらのブロックまたはステップは、個別に実行されてもよく、または組み合わせて実行されてもよい。これらのブロックまたはステップは、任意の順序で実行されてもよく、および/または直列もしくは並列に実行されてもよい。さらに、方法700からいくつかのブロックまたはステップを省略してもよく、または方法700にいくつかのブロックまたはステップを追加してもよい。
【0054】
方法700のブロックは、図1および2を参照して図示および説明されたコンピューティング装置100の様々な要素によって実行されてもよい。さらなる例において、方法700のブロックの一部または全ては、遠隔コンピューティング装置によって実行されてもよく、または複数のコンピューティング装置に分配されてもよい。また、方法700は、図4、5および6のプロット400、500および600によって示されたように動作することができる。
【0055】
ブロック710は、モバイル装置上のセンサからのセンサデータに基づいて、環境輝度測定値を検出することを含む。いくつかの例において、センサは、環境光センサ、例えば、光スペクトル測定値を使用する専用のスペクトルセンサであってもよい。いくつかの例において、センサは、モバイル装置上の背面向きセンサであってもよい。モバイル装置は、環境輝度に基づいて表示輝度を調整するように構成されたディスプレイ画面を含むことができる。いくつかの例において、ディスプレイ画面は、モバイル装置上の同一の環境光センサに基づいて、表示輝度を調節することができる。環境輝度測定値を検出することは、環境光センサデータにおいて緑色光応答性を示す緑色チャネルを用いて、輝度値を決定することを含むことができる。また、環境輝度測定値を検出することは、環境光センサデータにおいて透明応答性に対する緑色応答性の比を含む緑色/透明チャネルを用いて、輝度値を決定することを含むことができる。
【0056】
ブロック720は、ディスプレイ画面からの反射光に起因する検出された環境輝度測定値の程度を決定することを含む。この決定は、モバイル装置上のカメラからの画像データに基づいて行われてもよい。いくつかの例において、カメラは、モバイル装置上で前面(例えば、環境光センサの反対方向)に向くことができる。画像データを評価することは、画像データ内のモーションに起因する検出された環境輝度測定値の程度を決定することを含むことができる。より具体的には、(例えば、フレーム間のピクセルモーションを測定することによって)画像データ内の連続フレーム間のモーションを評価することができる。画像データ内のモーションを評価することは、時間窓にわたるモーション平均値および/またはモーション分散を決定することをさらに含むことができる。
【0057】
モバイル装置上のカメラからの画像データに基づいてディスプレイ画面からの反射光に起因する検出された環境輝度測定値の程度を決定することは、画像データ内の輝度変化を評価することをさらに含むことができる。より具体的には、単調輝度変化は、ディスプレイ画面からの反射光から生じる環境輝度測定値に関連付けられ得る。
【0058】
ブロック730は、ディスプレイ画面からの反射光に起因する検出された環境輝度測定値の決定された程度に基づいて、カメラの露光変化率を設定することを含む。カメラの露光変化率を設定することは、環境輝度測定値が主にディスプレイ画面からの反射光によって生じるものであると判定された場合に、カメラの露光変化率を減少させることを含むことができる。カメラの露光変化率を減少させる場合、減少率を決定することができる。カメラの露光変化率を設定することは、減少率の係数で露光変化率の大きさを調整することを含んでもよい。
【0059】
カメラの露光変化率を設定することは、環境輝度測定値が主に画像データ内のモーションおよび/またはモバイル装置のモーションから生じるものと判断された場合に、カメラの露光変化率を増加または維持することをさらに含むことができる。いくつかの例において、モバイル装置のモーションは、ジャイロスコープを用いて決定される。カメラの露光変化率を設定することは、環境輝度測定値が閾値輝度レベルを超える場合に、カメラの露光変化率を増加または維持することをさらに含むことができる。
【0060】
いくつかの例において、カメラによって撮影された画像データのフレームは、ディスプレイ画面に表示される。さらなる例において、画像データは、モバイル装置のユーザの1つ以上の画像(例えば、自撮り画像)を含むことができる。他の例において、カメラの露光変化率は、異なる非較正光源、例えば、カメラを収容するコンピューティング装置とは異なる近くのコンピュータの点滅画面に合わせられてもよい。
【0061】
いくつかの例において、図7の方法700は、モーションを検出するために使用され得る環境光センサデータおよび画像データを連続的に収集するように構成されたモバイル装置上で実行されてもよい。したがって、望ましくない露光変動の影響を低減または排除するために、図7の方法700を実行するときに、センサデータ収集に追加のコストが生じない。
【0062】
本明細書に説明された、ユーザの画像データまたは他の情報を含み得る任意の例において、本明細書に説明されたシステム、プログラムまたは特徴が、ユーザ画像または他の情報(例えば、ユーザのソーシャルネットワーク、社会行為または活動、職業、ユーザの嗜好、またはユーザの現在位置に関する情報)の収集および/または記憶を可能にする場合および可能にするときに、ユーザが選択することを可能にする制御を、ユーザに与えてもよい。さらに、特定のデータは、記憶または使用される前に、個人識別情報を取り除くように1つ以上の方法で処理されてもよい。例えば、ユーザの身元は、ユーザの個人識別情報を特定できないように処理されてもよく、または(例えば、市、郵便番号、または州レベルの)位置情報が得られるユーザの地理位置は、ユーザの位置を特定できないように一般化されてもよい。したがって、ユーザは、どのようなユーザ情報を収集するか、その情報をどのように使用するか、およびどのような情報をユーザに提供するかを制御することができる。
【0063】
図面に示された特定の構成は、限定として見なされるべきではない。理解すべきことは、他の実施形態は、特定の図面に示された各々の要素よりも多くまたは少ない要素を含み得ることである。さらに、図示された要素の一部は、合併されてもよく、または省略されてもよい。さらに、例示的な実施形態は、図面に示されていない要素を含むことができる。
【0064】
情報の処理を表すステップまたはブロックは、本明細書に説明された方法または技法の特定の論理機能を実行するように構成され得る回路に対応してもよい。代替的または追加的に、情報の処理を表すステップまたはブロックは、(関連データを含む)プログラムコードのモジュール、セグメント、または一部に対応してもよい。プログラムコードは、方法または技術の特定の論理機能または動作を実装するために、プロセッサによって実行可能な1つ以上の命令を含むことができる。プログラムコードおよび/または関連データは、任意種類のコンピュータ可読媒体、例えば、ディスク、ハードドライブ、または他の記憶媒体を含む記憶装置に格納されてもよい。
【0065】
コンピュータ可読媒体は、非一時的コンピュータ可読媒体、例えば、短期間でデータを記憶するレジスタメモリ、プロセッサキャッシュ、およびランダムアクセスメモリ(RAM)などのコンピュータ可読媒体を含むことができる。また、コンピュータ可読媒体は、より長い期間でプログラムコードおよび/またはデータを記憶するを含むことができる。したがって、コンピュータ可読媒体は、例えば、読み取り専用メモリ(ROM)、光学ディスクまたは磁気ディスク、コンパクトディスク読み取り専用メモリ(CD-ROM)などの二次記憶装置または持続的な長期記憶装置を含むことができる。また、コンピュータ可読媒体は、任意の他の揮発性または不揮発性記憶システムであってもよい。コンピュータ可読媒体は、例えば、コンピュータ可読記憶媒体または有形記憶装置であってもよい。
【0066】
様々な例および実施形態を開示したが、他の例および実施形態が当業者には明白であろう。開示された様々な例および実施形態は、例示の目的のものであり、限定することを意図していない。本発明の範囲は、添付の特許請求の範囲によって示される。
図1
図2
図3
図4
図5
図6
図7