(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-01-26
(54)【発明の名称】スローモーションビデオキャプチャを伴うズームインまたはズームアウト
(51)【国際特許分類】
H04N 23/63 20230101AFI20240119BHJP
H04N 23/60 20230101ALI20240119BHJP
H04N 23/69 20230101ALI20240119BHJP
H04N 23/70 20230101ALI20240119BHJP
G03B 15/00 20210101ALI20240119BHJP
【FI】
H04N23/63
H04N23/60 300
H04N23/69
H04N23/70
H04N23/60 500
G03B15/00 H
G03B15/00 M
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2023541956
(86)(22)【出願日】2022-01-13
(85)【翻訳文提出日】2023-07-11
(86)【国際出願番号】 US2022012333
(87)【国際公開番号】W WO2022159328
(87)【国際公開日】2022-07-28
(32)【優先日】2021-01-22
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】595020643
【氏名又は名称】クゥアルコム・インコーポレイテッド
【氏名又は名称原語表記】QUALCOMM INCORPORATED
(74)【代理人】
【識別番号】110003708
【氏名又は名称】弁理士法人鈴榮特許綜合事務所
(72)【発明者】
【氏名】ドゥッタ・チョウデュリー、シュブホブラタ
(72)【発明者】
【氏名】ボダパティ、サイ・クリシュナ
【テーマコード(参考)】
5C122
【Fターム(参考)】
5C122EA47
5C122EA67
5C122FA18
5C122FD01
5C122FE01
5C122FE02
5C122FE03
5C122FE06
5C122FF01
5C122FH07
5C122FK23
5C122FK24
5C122GA01
5C122GA23
5C122HA13
5C122HA35
5C122HA89
5C122HB01
5C122HB02
(57)【要約】
ビデオコンテンツを生成するためのデバイスのための態様が説明される。本デバイスは、第1のカメラと、第1のカメラに結合された1つまたは複数のプロセッサとを含み、1つまたは複数のプロセッサが、第1のレートにおいて第1のカメラによってキャプチャされたフレームの第1のセットを受信することと、表示のためのビデオコンテンツを生成するためにフレームの第1のセットを処理することと、ズームインまたはズームアウトするとの選択を受信することと、第1のカメラについてのズームしきい値までのズームインまたはズームアウトの間に、第1のレートよりも小さい第2のレートにおいて第1のカメラによってキャプチャされたフレームの第2のセットを受信することと、表示のためのビデオコンテンツを生成するためにフレームの第2のセットを処理することと、第1のレートよりも小さい第3のレートにおいて、フレームの第1のセットとフレームの第2のセットとを含む、再生のためのビデオコンテンツを生成することとを行うように構成される。
【選択図】
図5
【特許請求の範囲】
【請求項1】
ビデオコンテンツを生成するためのデバイスであって、前記デバイスは、
第1のカメラと、
前記第1のカメラに結合された1つまたは複数のプロセッサと、
を備え、前記1つまたは複数のプロセッサは、
第1のレートにおいて前記第1のカメラによってキャプチャされたフレームの第1のセットを受信することと、
表示のためのビデオコンテンツを生成するためにフレームの前記第1のセットを処理することと、
ズームインまたはズームアウトするとの選択を受信することと、
前記第1のカメラについてのズームしきい値までの前記ズームインまたはズームアウトの間に、前記第1のレートよりも小さい第2のレートにおいて前記第1のカメラによってキャプチャされたフレームの第2のセットを受信することと、
表示のためのビデオコンテンツを生成するためにフレームの前記第2のセットを処理することと、
前記第1のレートよりも小さい第3のレートにおいて、フレームの前記第1のセットとフレームの前記第2のセットとを含む、再生のためのビデオコンテンツを生成することと、
を行うように構成された、デバイス。
【請求項2】
ズームインまたはズームアウトするとの前記選択を受信することは、スローモーションでのビデオキャプチャが有効にされた状態で、ズームインまたはズームアウトするとの前記選択を受信することを備え、
フレームの前記第2のセットを受信することは、スローモーションでのビデオキャプチャが有効にされた状態で、フレームの前記第2のセットを受信することを備える、
請求項1に記載のデバイス。
【請求項3】
前記第1のカメラは、前記1つまたは複数のプロセッサに結合された複数のカメラのうちの1つであり、前記デバイスは前記複数のカメラのうちの第2のカメラを備え、
前記第1のカメラについての前記ズームしきい値が到達された後に、前記1つまたは複数のプロセッサは、
前記第2のレートよりも大きい第4のレートにおいて前記複数のカメラのうちの前記第2のカメラによってキャプチャされたフレームの第3のセットを受信することと、
表示のためのビデオコンテンツを生成するためにフレームの前記第3のセットを処理することと、
を行うように構成され、
ここにおいて、再生のためのビデオコンテンツを生成することは、前記第3のレートにおいて、フレームの前記第1のセットとフレームの前記第2のセットとフレームの前記第3のセットとを含む、再生のためのビデオコンテンツを生成することを備える、請求項1に記載のデバイス。
【請求項4】
前記第1のカメラがフレームの前記第1のセットをキャプチャする間に、またはそれより前に、前記1つまたは複数のプロセッサは、前記複数のカメラの各々について、自動焦点(AF)パラメータ、自動ホワイトバランス(AWB)パラメータ、および自動露光制御(AEC)パラメータのうちの1つまたは複数を決定するように構成され、
前記第2のカメラによってキャプチャされたフレームの前記第3のセットを受信することは、前記第1のカメラがフレームの前記第1のセットをキャプチャする間に、またはそれより前に、前記第2のカメラについて決定されたAFパラメータおよびAECパラメータのうちの1つまたは複数に基づいてフレームの前記第3のセットを受信することを備える、
請求項3に記載のデバイス。
【請求項5】
フレームの前記第2のセットを処理することは、前記第1のカメラについての前記ズームしきい値が到達されるまでデジタルズームインまたはデジタルズームアウトを実施することを備え、
前記第1のカメラについての前記ズームしきい値が到達されるまでデジタルズームインまたはデジタルズームアウトを実施することは、
フレームの前記第2のセットに対してズーム係数の増加または減少の間にクロッピングおよびサイズ変更を実施すること、
を備える、請求項1に記載のデバイス。
【請求項6】
前記ズームしきい値は第1のズームしきい値を備え、前記第1のカメラは、前記1つまたは複数のプロセッサに結合された複数のカメラのうちの1つであり、
前記第1のカメラについての前記第1のズームしきい値が到達された後に、前記1つまたは複数のプロセッサは、
フレームの前記第2のセットを処理することと並列に、前記複数のカメラのうちの第2のカメラによってキャプチャされたフレームの第3のセットを受信することと、
フレームの前記第3のセットを処理することと、
を行うように構成され、
再生のためのビデオコンテンツを生成することは、前記第3のレートにおいて、フレームの前記第1のセットと、前記第1のカメラについての第2のズームしきい値が到達されるまでのフレームの前記第2のセットと、前記第1のカメラについての前記第2のズームしきい値が到達された後のフレームの前記第3のセットとを含む、再生のためのビデオコンテンツを生成することを備え、
前記第1のカメラと前記第2のカメラの両方は、前記第1のズームしきい値よりも大きいかまたはそれに等しく、かつ前記第2のズームしきい値よりも小さいかまたはそれに等しいズーム係数において動作するように構成される、
請求項1に記載のデバイス。
【請求項7】
前記第1のレートは、120フレーム毎秒よりも大きいかまたはそれに等しい、請求項1に記載のデバイス。
【請求項8】
前記第3のレートは前記第2のレートに等しい、請求項1に記載のデバイス。
【請求項9】
ズームインまたはズームアウトするとの選択を受信することは、
ピンチズームモーションを示す情報を受信すること、または
ズームするとの選択を示す情報を受信すること、
のうちの1つを備える、請求項1に記載のデバイス。
【請求項10】
フレームの前記第2のセットの画像品質は、フレームの前記第1のセットの画像品質よりも劣る、請求項1に記載のデバイス。
【請求項11】
ビデオコンテンツを生成するための方法であって、前記方法は、
1つまたは複数のプロセッサを用いて、第1のレートにおいて第1のカメラによってキャプチャされたフレームの第1のセットを受信することと、
前記1つまたは複数のプロセッサを用いて、表示のためのビデオコンテンツを生成するためにフレームの前記第1のセットを処理することと、
前記1つまたは複数のプロセッサを用いて、ズームインまたはズームアウトするとの選択を受信することと、
前記第1のカメラについてのズームしきい値までの前記ズームインまたはズームアウトの間に、前記1つまたは複数のプロセッサを用いて、前記第1のレートよりも小さい第2のレートにおいて前記第1のカメラによってキャプチャされたフレームの第2のセットを受信することと、
前記1つまたは複数のプロセッサを用いて、表示のためのビデオコンテンツを生成するためにフレームの前記第2のセットを処理することと、
前記1つまたは複数のプロセッサを用いて、前記第1のレートよりも小さい第3のレートにおいて、フレームの前記第1のセットとフレームの前記第2のセットとを含む、再生のためのビデオコンテンツを生成することと、
を備える、方法。
【請求項12】
ズームインまたはズームアウトするとの前記選択を受信することは、スローモーションでのビデオキャプチャが有効にされた状態で、ズームインまたはズームアウトするとの前記選択を受信することを備え、
フレームの前記第2のセットを受信することは、スローモーションでのビデオキャプチャが有効にされた状態で、フレームの前記第2のセットを受信することを備える、
請求項11に記載の方法。
【請求項13】
前記第1のカメラは、前記1つまたは複数のプロセッサに結合された複数のカメラのうちの1つであり、
前記方法は、前記第1のカメラについての前記ズームしきい値が到達された後に、
前記第2のレートよりも大きい第4のレートにおいて前記複数のカメラのうちの第2のカメラによってキャプチャされたフレームの第3のセットを受信することと、
表示のためのビデオコンテンツを生成するためにフレームの前記第3のセットを処理することと、
をさらに備え、
ここにおいて、再生のためのビデオコンテンツを生成することは、前記第3のレートにおいて、フレームの前記第1のセットとフレームの前記第2のセットとフレームの前記第3のセットとを含む、再生のためのビデオコンテンツを生成することを備える、請求項11に記載の方法。
【請求項14】
前記第1のカメラがフレームの前記第1のセットをキャプチャする間に、またはそれより前に、前記複数のカメラの各々について、自動焦点(AF)パラメータ、自動ホワイトバランス(AWB)パラメータ、および自動露光制御(AEC)パラメータのうちの1つまたは複数を決定すること、
をさらに備え、
前記第2のカメラによってキャプチャされたフレームの前記第3のセットを受信することは、前記第1のカメラがフレームの前記第1のセットをキャプチャする間に、またはそれより前に、前記第2のカメラについて決定されたAFパラメータおよびAECパラメータのうちの1つまたは複数に基づいてフレームの前記第3のセットを受信することを備える、
請求項13に記載の方法。
【請求項15】
フレームの前記第2のセットを処理することは、前記第1のカメラについての前記ズームしきい値が到達されるまでデジタルズームインまたはデジタルズームアウトを実施することを備え、
前記第1のカメラについての前記ズームしきい値が到達されるまでデジタルズームインまたはデジタルズームアウトを実施することは、
フレームの前記第2のセットに対してズーム係数の増加または減少の間にクロッピングおよびサイズ変更を実施すること、
を備える、請求項11に記載の方法。
【請求項16】
前記ズームしきい値は第1のズームしきい値を備え、前記第1のカメラは、前記1つまたは複数のプロセッサに結合された複数のカメラのうちの1つであり、
前記方法は、前記第1のカメラについての前記第1のズームしきい値が到達された後に、
フレームの前記第2のセットを処理することと並列に、前記複数のカメラのうちの第2のカメラによってキャプチャされたフレームの第3のセットを受信することと、
フレームの前記第3のセットを処理することと、
をさらに備え、
再生のためのビデオコンテンツを生成することは、前記第3のレートにおいて、フレームの前記第1のセットと、前記第1のカメラについての第2のズームしきい値が到達されるまでのフレームの前記第2のセットと、前記第1のカメラについての前記第2のズームしきい値が到達された後のフレームの前記第3のセットとを含む、再生のためのビデオコンテンツを生成することを備え、
前記第1のカメラと前記第2のカメラの両方は、前記第1のズームしきい値よりも大きいかまたはそれに等しく、かつ前記第2のズームしきい値よりも小さいかまたはそれに等しいズーム係数において動作するように構成される、
請求項11に記載の方法。
【請求項17】
前記第1のレートは、120フレーム毎秒よりも大きいかまたはそれに等しい、請求項11に記載の方法。
【請求項18】
前記第3のレートは前記第2のレートに等しい、請求項11に記載の方法。
【請求項19】
ズームインまたはズームアウトするとの選択を受信することは、
ピンチズームモーションを示す情報を受信すること、または
ズームするとの選択を示す情報を受信すること、
のうちの1つを備える、請求項11に記載の方法。
【請求項20】
フレームの前記第2のセットの画像品質は、フレームの前記第1のセットの画像品質よりも劣る、請求項11に記載の方法。
【請求項21】
命令を記憶したコンピュータ可読記憶媒体であって、前記命令は、実行されたとき、1つまたは複数のプロセッサに、
第1のレートにおいて第1のカメラによってキャプチャされたフレームの第1のセットを受信することと、
表示のためのビデオコンテンツを生成するためにフレームの前記第1のセットを処理することと、
ズームインまたはズームアウトするとの選択を受信することと、
前記第1のカメラについてのズームしきい値までの前記ズームインまたはズームアウトの間に、前記第1のレートよりも小さい第2のレートにおいて前記第1のカメラによってキャプチャされたフレームの第2のセットを受信することと、
表示のためのビデオコンテンツを生成するためにフレームの前記第2のセットを処理することと、
前記第1のレートよりも小さい第3のレートにおいて、フレームの前記第1のセットとフレームの前記第2のセットとを含む、再生のためのビデオコンテンツを生成することと、
を行わせる、コンピュータ可読記憶媒体。
【請求項22】
前記1つまたは複数のプロセッサに、ズームインまたはズームアウトするとの前記選択を受信することを行わせる前記命令は、前記1つまたは複数のプロセッサに、スローモーションでのビデオキャプチャが有効にされた状態で、ズームインまたはズームアウトするとの前記選択を受信することを行わせる命令を備え、
前記1つまたは複数のプロセッサに、フレームの前記第2のセットを受信することを行わせる前記命令は、前記1つまたは複数のプロセッサに、スローモーションでのビデオキャプチャが有効にされた状態で、フレームの前記第2のセットを受信することを行わせる命令を備える、
請求項21に記載のコンピュータ可読記憶媒体。
【請求項23】
前記第1のカメラは複数のカメラのうちの1つであり、
前記命令は、前記1つまたは複数のプロセッサに、前記第1のカメラについての前記ズームしきい値が到達された後に、
前記第2のレートよりも大きい第4のレートにおいて前記複数のカメラのうちの第2のカメラによってキャプチャされたフレームの第3のセットを受信することと、
表示のためのビデオコンテンツを生成するためにフレームの前記第3のセットを処理することと、
を行わせる命令をさらに備え、
ここにおいて、再生のためのビデオコンテンツを生成することは、前記第3のレートにおいて、フレームの前記第1のセットとフレームの前記第2のセットとフレームの前記第3のセットとを含む、再生のためのビデオコンテンツを生成することを備える、請求項21に記載のコンピュータ可読記憶媒体。
【請求項24】
前記1つまたは複数のプロセッサに、
前記第1のカメラがフレームの前記第1のセットをキャプチャする間に、またはそれより前に、前記複数のカメラの各々について、自動焦点(AF)パラメータ、自動ホワイトバランス(AWB)パラメータ、および自動露光制御(AEC)パラメータのうちの1つまたは複数を決定すること、
を行わせる命令をさらに備え、
前記第2のカメラによってキャプチャされたフレームの前記第3のセットを受信することは、前記第1のカメラがフレームの前記第1のセットをキャプチャする間に、またはそれより前に、前記第2のカメラについて決定されたAFパラメータおよびAECパラメータのうちの1つまたは複数に基づいてフレームの前記第3のセットを受信することを備える、
請求項23に記載のコンピュータ可読記憶媒体。
【請求項25】
前記ズームしきい値は第1のズームしきい値を備え、前記第1のカメラは複数のカメラのうちの1つであり、
前記命令は、前記1つまたは複数のプロセッサに、前記第1のカメラについての前記第1のズームしきい値が到達された後に、
フレームの前記第2のセットを処理することと並列に、前記複数のカメラのうちの第2のカメラによってキャプチャされたフレームの第3のセットを受信することと、
フレームの前記第3のセットを処理することと、
を行わせる命令をさらに備え、
再生のためのビデオコンテンツを生成することは、前記第3のレートにおいて、フレームの前記第1のセットと、前記第1のカメラについての第2のズームしきい値が到達されるまでのフレームの前記第2のセットと、前記第1のカメラについての前記第2のズームしきい値が到達された後のフレームの前記第3のセットとを含む、再生のためのビデオコンテンツを生成することを備え、
前記第1のカメラと前記第2のカメラの両方は、前記第1のズームしきい値よりも大きいかまたはそれに等しく、かつ前記第2のズームしきい値よりも小さいかまたはそれに等しいズーム係数において動作するように構成される、
請求項21に記載のコンピュータ可読記憶媒体。
【請求項26】
ビデオコンテンツを生成するためのデバイスであって、前記デバイスは、
第1のレートにおいて第1のカメラによってキャプチャされたフレームの第1のセットを受信するための手段と、
表示のためのビデオコンテンツを生成するためにフレームの前記第1のセットを処理するための手段と、
ズームインまたはズームアウトするとの選択を受信するための手段と、
前記第1のカメラについてのズームしきい値までの前記ズームインまたはズームアウトの間に、前記第1のレートよりも小さい第2のレートにおいて前記第1のカメラによってキャプチャされたフレームの第2のセットを受信するための手段と、
表示のためのビデオコンテンツを生成するためにフレームの前記第2のセットを処理するための手段と、
前記第1のレートよりも小さい第3のレートにおいて、フレームの前記第1のセットとフレームの前記第2のセットとを含む、再生のためのビデオコンテンツを生成するための手段と、
を備える、デバイス。
【発明の詳細な説明】
【優先権の主張】
【0001】
[0001]本出願は、その内容全体が参照により本明細書に組み込まれる、2021年1月22日に出願された米国出願第17/156,219号の優先権を主張する。
【技術分野】
【0002】
[0002]本開示は画像処理に関する。
【背景技術】
【0003】
[0003]カメラデバイスは、フレーム(たとえば、画像)をキャプチャする1つまたは複数のカメラを含む。カメラデバイスの例は、スタンドアロンデジタルカメラまたはデジタルビデオカムコーダ、1つまたは複数のカメラを有する携帯電話、セルラーまたは衛星無線電話などのカメラ付きワイヤレス通信デバイスハンドセット、いわゆる「ウェブカム」などのカメラを含む、カメラ付き携帯情報端末(PDA)、パネルまたはタブレット、ゲーミングデバイス、コンピュータデバイス、あるいはデジタルイメージングまたはビデオ能力をもつ任意のデバイスを含む。
【0004】
[0004]カメラデバイスは、キャプチャされたフレームを処理し、表示のためにフレームを出力する。いくつかの例では、カメラデバイスは、第1のレートにおいてフレームをキャプチャし、第1のレートよりも小さい第2のレートにおいてフレームを表示する。フレームがキャプチャされる第1のレートよりも小さい第2のレートにおいてフレームを表示したことの結果は、画像コンテンツがスローモーションで動くように見えることである。
【発明の概要】
【0005】
[0005]概して、本開示は、マルチカメラデバイスにおけるズームインまたはズームアウト能力を用いたスローモーションビデオキャプチャのための技法について説明する。カメラデバイス上のカメラの各々は、それぞれのズームしきい値間のズーム係数範囲に関連付けられ得る。たとえば、第1のカメラのためのズーム係数は、キャプチャされた画像コンテンツの0.5xから1xの間の倍率であり得る。この例では、ズーム係数範囲は0.5x倍率から1x倍率までであり、第1のズームしきい値が0.5xであり、第2のズームしきい値が1xである。デバイスの他のカメラは、他のズーム係数範囲(たとえば、1xから2xまでの倍率など)を有し得る。また、カメラの各々は、それぞれのカメラパラメータに従ってフレームをキャプチャするように構成され得る。ズームインすること(たとえば、倍率を増加させること)またはズームアウトすること(たとえば、倍率を減少させること)について、カメラプロセッサは、第1のカメラについてのズームしきい値が到達されるまで、第1のカメラについてのカメラパラメータに基づいて、第1のカメラによってキャプチャされたフレームを処理し、第1のカメラについてのズームしきい値が到達された時点において、カメラプロセッサは、第2のカメラによってキャプチャされたフレームを処理する(たとえば、カメラプロセッサは、広角カメラから望遠カメラに切り替わる)。
【0006】
[0006]1つまたは複数の例では、ズームインまたはズームアウトすることの間に(たとえば、第1のカメラによってキャプチャされたフレームが現在のズーム係数からズームしきい値までズームインまたはズームアウトされる時間の間に)、第1のカメラは、第1のカメラがズームインまたはズームアウトしていないときにフレームをキャプチャし得るレートよりも低いフレームレートにおいてフレームをキャプチャするように構成され得る。より詳細に説明されるように、ズームインまたはズームアウトすることの間にキャプチャレートを低減することによって、例示的な技法は、第2のカメラによってキャプチャされたフレームが表示される前に第1のカメラによってキャプチャされ、表示された、劣った品質のフレームの数を低減し得る。
【0007】
[0007]たとえば、スローモーションでは、キャプチャされたフレームは、フレームがキャプチャされたレートよりも低いレートにおいて表示される。また、ズームインまたはズームアウトすることの間に、カメラパラメータは最適化されないことがあり、これは、現在のズーム係数からズームしきい値までズームインまたはズームアウトする時間の間にキャプチャされたフレームの、より劣った画像品質を生じる。スローモーションでは、劣った画像品質をもつ多くのフレームがある場合、閲覧者エクスペリエンスは悪影響を及ぼされる。キャプチャされ、次いで表示される、劣った品質のフレームの数を低減することによって、例示的な技法はカメラデバイスの全体的な動作を改善し得、したがって、得られたデバイスは、スローモーションビデオキャプチャが有効に(イネーブルに)されるときでも、ズームインまたはズームアウトする能力を提供することができる。
【0008】
[0008]一例では、本開示は、ビデオコンテンツを生成するためのデバイスについて説明し、本デバイスが、第1のカメラと、第1のカメラに結合された1つまたは複数のプロセッサとを備え、1つまたは複数のプロセッサが、第1のレートにおいて第1のカメラによってキャプチャされたフレームの第1のセットを受信することと、表示のためのビデオコンテンツを生成するためにフレームの第1のセットを処理することと、ズームインまたはズームアウトするとの選択を受信することと、第1のカメラについてのズームしきい値までのズームインまたはズームアウトの間に、第1のレートよりも小さい第2のレートにおいて第1のカメラによってキャプチャされたフレームの第2のセットを受信することと、表示のためのビデオコンテンツを生成するためにフレームの第2のセットを処理することと、第1のレートよりも小さい第3のレートにおいて、フレームの第1のセットとフレームの第2のセットとを含む、再生のためのビデオコンテンツを生成することとを行うように構成される。
【0009】
[0009]一例では、本開示は、ビデオコンテンツを生成するための方法について説明し、本方法が、1つまたは複数のプロセッサを用いて、第1のレートにおいて第1のカメラによってキャプチャされたフレームの第1のセットを受信することと、1つまたは複数のプロセッサを用いて、表示のためのビデオコンテンツを生成するためにフレームの第1のセットを処理することと、1つまたは複数のプロセッサを用いて、ズームインまたはズームアウトするとの選択を受信することと、第1のカメラについてのズームしきい値までのズームインまたはズームアウトの間に、1つまたは複数のプロセッサを用いて、第1のレートよりも小さい第2のレートにおいて第1のカメラによってキャプチャされたフレームの第2のセットを受信することと、1つまたは複数のプロセッサを用いて、表示のためのビデオコンテンツを生成するためにフレームの第2のセットを処理することと、1つまたは複数のプロセッサを用いて、第1のレートよりも小さい第3のレートにおいて、フレームの第1のセットとフレームの第2のセットとを含む、再生のためのビデオコンテンツを生成することとを備える。
【0010】
[0010]一例では、本開示は、命令を記憶したコンピュータ可読記憶媒体について説明し、命令が、実行されたとき、1つまたは複数のプロセッサに、第1のレートにおいて第1のカメラによってキャプチャされたフレームの第1のセットを受信することと、表示のためのビデオコンテンツを生成するためにフレームの第1のセットを処理することと、ズームインまたはズームアウトするとの選択を受信することと、第1のカメラについてのズームしきい値までのズームインまたはズームアウトの間に、第1のレートよりも小さい第2のレートにおいて第1のカメラによってキャプチャされたフレームの第2のセットを受信することと、表示のためのビデオコンテンツを生成するためにフレームの第2のセットを処理することと、第1のレートよりも小さい第3のレートにおいて、フレームの第1のセットとフレームの第2のセットとを含む、再生のためのビデオコンテンツを生成することとを行わせる。
【0011】
[0011]一例では、本開示は、ビデオコンテンツを生成するためのデバイスについて説明し、本デバイスが、第1のレートにおいて第1のカメラによってキャプチャされたフレームの第1のセットを受信するための手段と、表示のためのビデオコンテンツを生成するためにフレームの第1のセットを処理するための手段と、ズームインまたはズームアウトするとの選択を受信するための手段と、第1のカメラについてのズームしきい値までのズームインまたはズームアウトの間に、第1のレートよりも小さい第2のレートにおいて第1のカメラによってキャプチャされたフレームの第2のセットを受信するための手段と、表示のためのビデオコンテンツを生成するためにフレームの第2のセットを処理するための手段と、第1のレートよりも小さい第3のレートにおいて、フレームの第1のセットとフレームの第2のセットとを含む、再生のためのビデオコンテンツを生成するための手段とを備える。
【0012】
[0012]1つまたは複数の例の詳細が添付の図面および以下の説明に記載される。他の特徴、目的、および利点は、説明、図面、および特許請求の範囲から明らかになろう。
【図面の簡単な説明】
【0013】
【
図1】[0013]本開示で説明される例示的な技法のうちの1つまたは複数を実施するように構成されたデバイスのブロック図。
【
図2】[0014]
図1のデバイスのカメラプロセッサをさらに詳細に示すブロック図。
【
図3】[0015]ズームインまたはズームアウトを有効にするための例示的な方法を示す概念図。
【
図4】[0016]ズームインまたはズームアウトすることの一例を示すタイミング図。
【
図5】[0017]本開示で説明される1つまたは複数の例による動作の例示的な方法を示すフローチャート。
【発明を実施するための形態】
【0014】
[0018]本開示で説明される例示的な技法は、マルチカメラデバイスにおけるズームインまたはズームアウト能力を用いたスローモーションビデオキャプチャに関する。カメラデバイスは、ビデオコンテンツをズームインまたはズームアウトすることをサポートするための複数のカメラを含み得る。たとえば、カメラデバイスは、(たとえば、120°~180°など、120°超の視野角をキャプチャするように構成された)ウルトラワイドカメラと、(たとえば、60°~120°など、60°よりも大きい視野角をキャプチャするように構成された)ワイドカメラと、(たとえば、10°~60°など、60°未満の視野角をキャプチャするように構成された)望遠カメラとを含み得る。複数のカメラの各々は、それぞれのズーム係数範囲およびズームしきい値に関連付けられ得る。たとえば、ウルトラワイドカメラは、0.5x~1xのズーム係数範囲を提供し得、ここで、0.5xおよび1xはズームしきい値である。ワイドカメラは、1x~2xのズーム係数範囲を提供し得、ここで、1xおよび2xはズームしきい値である。望遠カメラは、2xよりも大きいズーム係数を提供し得、ここで、2xはズームしきい値である。0.5x、1x、および2xのズーム係数は、それぞれのカメラのセンサー上の物体の再現比(reproduction ratio)を指し得る(たとえば、ウルトラワイドカメラについての0.5xズーム係数では、1/2インチの物体は、ウルトラワイドカメラのセンサー上で物体のサイズの0.25として再現される)。
【0015】
[0019]各カメラは、光ズーム能力および/またはデジタルズーム能力に基づいてそれぞれのズーム係数に関連付けられ得る。すなわち、各カメラは、光ズームおよびデジタルズームのうちの1つまたはそれらの組合せに基づいて、ズーム係数範囲にわたってズームインまたはズームアウトすることを提供し得る。光ズームおよびデジタルズームの例が以下で説明される。
【0016】
[0020]上記の例では、カメラの各々についてのズーム係数範囲において重複がない。しかしながら、いくつかの例では、ズーム係数範囲において重複があり得る。たとえば、ウルトラワイドカメラについてのズーム係数範囲は0.5x~1.3xであり得、ワイドカメラについてのズーム係数範囲は1x~2.3xであり得、望遠カメラについてのズーム係数範囲は2xよりも大きいことがある。この例では、ウルトラワイドカメラについてのズームしきい値は0.5xおよび1.3xであり、ワイドカメラについてのズームしきい値は1xおよび2.3xであり、望遠カメラについてのズームしきい値は2xである。
【0017】
[0021]ズーム係数範囲およびズームしきい値は、例として提供されるにすぎず、限定するものと見なされるべきではない。本開示で説明される例示的な技法は、特定のズーム係数範囲またはズームしきい値に限定されない。
【0018】
[0022]いくつかの例では、ズームインまたはズームアウトするとき、それぞれのズームしきい値が到達されると、異なるカメラ間のハンドオフがある。たとえば、カメラデバイスのユーザは、最初に、0.5xのズーム係数をもつウルトラワイドカメラを使用してビデオコンテンツをキャプチャし得、カメラデバイスのカメラプロセッサは、ウルトラワイドカメラによってキャプチャされたフレームを処理し得る。ユーザは、次いで、(たとえば、ボタンまたはピンチモーション(pinch motion)を使用して)ズームインし得る。この例では、ズームインすることの間に、カメラプロセッサは、ウルトラワイドカメラのズームしきい値が到達されるまで(たとえば、1x)、ウルトラワイドカメラによってキャプチャされたフレームを処理し得る。カメラプロセッサは、次いで、ワイドカメラによってキャプチャされたフレームを処理し得る。
【0019】
[0023]キャプチャされたビデオコンテンツの品質を維持するための1つの例示的な方法は、各カメラが、ビデオキャプチャより前に、それぞれのカメラパラメータを決定することである。カメラパラメータの例は、より詳細に説明されるように、3Aパラメータ(自動焦点(AF)パラメータ、自動ホワイトバランス(AWB)パラメータ、および自動露光制御(AEC)パラメータ)を含む。カメラプロセッサが特定のカメラからのフレームを処理していない場合でも、カメラパラメータはすでに知られている。その場合、カメラプロセッサが、フレームを処理することを現在のカメラから後続のカメラに切り替えるべきであるとき、後続のカメラについてのカメラパラメータが事前決定されているので、後続のカメラについてのカメラパラメータを決定する際の遅延はない。このようにして、現在のカメラから後続のカメラへのハンドオフ(たとえば、フレームを処理することにおける切替え)は、品質に対する限られた影響および限られた遅延を伴って行われ得る。
【0020】
[0024]カメラデバイスが、ズームインまたはズームアウトすることをサポートするための複数のカメラを含むことに加えて、カメラデバイスは、スローモーションビデオキャプチャのためのオプションをも提供する。スローモーションビデオキャプチャでは、カメラデバイスのカメラは、キャプチャされたフレームが表示される第2のレートよりも大きい第1のレートにおいてフレームをキャプチャする。一例として、カメラは、120フレーム毎秒(fps)のキャプチャレートにおいて10秒のビデオコンテンツをキャプチャし得る。この例では、1200個のフレーム(たとえば、120fps*10秒)がある。カメラデバイス、または何らかの他のデバイスは、30fpsの表示レートにおいて1200個のフレームを表示し得る。この例では、1200個のフレームは、40秒(たとえば、1200個のフレーム/30fps)にわたって表示される。したがって、この例では、10秒のビデオコンテンツが40秒にわたって表示され、閲覧者は、スローモーションでのものであるとしてビデオコンテンツを知覚する(たとえば、ビデオコンテンツ中の物体の動きのレートは、物体が現実に動くレートよりも遅い)。
【0021】
[0025]スローモーションビデオキャプチャが有効にされた状態で、ズームインまたはズームアウトすることを有効にすることの技術的困難があり得る。たとえば、ズームインまたはズームアウトするようにとの要求に応答して、カメラプロセッサは、ズームしきい値が到達されるまで、現在のカメラによってキャプチャされたフレームに対してデジタルズームインまたはズームアウトを実施する。一例として、現在のカメラはウルトラワイドカメラであり得、ズームインに応答して、カメラプロセッサは、1xのズームしきい値が到達されるまで、現在のカメラによるフレームキャプチャに対してデジタルズームインを実施し得る。
【0022】
[0026]デジタルズームインまたはズームアウトは、ズーム係数の線形増加または減少の間のフレームのクロッピング(cropping)およびサイズ変更を含む。たとえば、カメラプロセッサはウルトラワイドカメラからフレームを受信し得、0.6xズームを実施するために、カメラプロセッサは、フレームの周囲の10%をクロップし(crop)、クロッピングの結果をサイズ変更することなどを行い得る。カメラプロセッサは、ある時間期間にわたって、ズーム係数をズームしきい値が到達されるまで増加させる(たとえば、0.6x、0.7x、0.8x、0.9x、1xまで)、ことによって、デジタルズームインまたはズームアウトを実施し得る。例は、ウルトラワイドカメラに関して説明されるが、ズームインまたはズームアウトする例示的な技法は、他のカメラについて同様であり得る。
【0023】
[0027]いくつかの例では、デジタルズームインまたはズームアウトは、サイズ変更による画像品質の減少を引き起こす。たとえば、カメラパラメータは、カメラプロセッサがズームインまたはズームアウトすることを実施している時間の間にキャプチャされるフレームについて、精密でないことがある。たとえば、カメラパラメータは、特定のズーム係数に基づいて設定され得る(たとえば、ウルトラワイドカメラでは0.5x、ワイドカメラでは1x、および望遠カメラでは2x)。ズームインまたはズームアウトすることの間に、キャプチャされたフレームは、事実上、ズームインまたはズームアウトすることなしのビデオコンテンツと比較して異なるビデオコンテンツを伴ってキャプチャされたフレームと見なされ得る。特定のズーム係数について決定された、自動焦点(AF)パラメータ、自動ホワイトバランス(AWB)パラメータ、および自動露光制御(AEC)パラメータなど、カメラパラメータは、異なるビデオコンテンツを伴ってキャプチャされたフレームについて精密でないことがあり、ここで、ズームインまたはズームアウトすることの間にキャプチャされたフレームは、事実上、異なるビデオコンテンツを有する。
【0024】
[0028]上記のことは、デジタルズームの例について説明する。しかしながら、光ズームを使用してキャプチャすることについて、画像品質の減少という同様の問題。光ズームでは、カメラのレンズおよび/またはセンサーは、ズームインまたはズームアウトすることを提供するように動く。カメラパラメータは、特定のロケーションにおけるレンズまたはセンサーについて設定され得、レンズまたはセンサーの動きは、カメラパラメータが不精密になることを生じ得る。
【0025】
[0029]現在のカメラについてのズームしきい値が到達された後に、カメラプロセッサは、後続のカメラによってキャプチャされたフレームを出力する。この場合、後続のカメラによってキャプチャされたフレームは、後続のカメラについてのすでに決定されたカメラパラメータを用いてキャプチャされる。したがって、画像品質は、後続のカメラによってキャプチャされたフレームについて比較的高い。より低い画像品質をもつフレームを生成する上記の例示的なプロセスは、後続のカメラを用いたズームインまたはズームアウトについての別の要求がある場合、繰り返す。
【0026】
[0030]上記で説明されたように、スローモーションビデオキャプチャでは、フレームがキャプチャされるレートは、スローモーション作用(affect)を引き起こすように、フレームが表示されるレートよりも大きい。また、説明されたように、ズームインまたはズームアウトすることの間に、キャプチャされたフレームの画像品質は比較的低くなり得る。いくつかの例では、より低い画像品質を有するこれらのフレームは、キャプチャするための時間量よりも長い時間量にわたって表示されるので、低品質フレームが表示される、望ましくなく長い時間期間があり得る。たとえば、現在のカメラは、120fpsにおいてフレームをキャプチャしていることがあり、ズームしきい値までズームインまたはズームアウトするための時間量は、0.5秒であり得る。この例では、ズームインまたはズームアウトすることの間に、現在のカメラは、60個のフレーム(たとえば、120fps*0.5秒)をキャプチャし得、60個のフレームの画像品質は、ズームインまたはズームアウトすることなしの場合よりも劣っていることがある。表示レートは30fpsであり得る。したがって、60個のフレームは、2秒(たとえば、60フレーム/30fps)にわたって表示され得る。この例では、0.5秒相当の劣った品質のフレームがあり得るにすぎないが、劣った品質のフレームを表示するのに2秒を要し得、これは、閲覧者にとって望ましくないことがある。
【0027】
[0031]本開示で説明される1つまたは複数の例によれば、スローモーションが有効にされた状態の(たとえば、ズームインまたはズームアウトなしの)通常動作の間に、カメラは、第1のレート(たとえば、120fps以上)においてフレームの第1のセットをキャプチャし得、スローモーションが有効にされた状態で、ズームインまたはズームアウトの間に、カメラは、第1のレートよりも低い第2のレート(たとえば、30fps以下)においてフレームの第2のセットをキャプチャし得る。フレームの第2のセットの画像品質は、フレームの第1のセットの画像品質よりも劣ることがある。
【0028】
[0032]カメラデバイスまたは何らかの他のデバイスは、第3のレート(たとえば、30fps)において、フレームのための第1のセットおよびフレームの第2のセットを表示し得る。この例では、9.5秒のビデオコンテンツがフレームの第1のセットによってキャプチャされ、0.5秒のビデオコンテンツがフレームの第2のセットによってキャプチャされる場合、比較的高い品質の画像コンテンツをもつ1140個のフレーム(たとえば、9.5秒*120fps)および比較的低い品質の画像コンテンツをもつ15個のフレーム(たとえば、0.5秒*30fps)がある。その場合、表示の間に、比較的高い品質の画像コンテンツをもつフレームの38秒の再生があることになる(たとえば、スローモーション効果を作成するために、9.5秒のビデオコンテンツが38秒に拡大される)。また、比較的低い品質の画像コンテンツをもつフレームの0.5秒の再生があることになる(たとえば、0.5秒のビデオコンテンツが0.5秒以内に表示される)。比較的低い品質の画像コンテンツを有するフレーム時間量は、キャプチャレートが120fpsである場合、2秒から0.5秒まで低減されるので、閲覧者エクスペリエンスに対する影響はほとんどないことがある。
【0029】
[0033]
図1は、本開示で説明される例示的な技法のうちの1つまたは複数を実施するように構成されたデバイスのブロック図である。カメラデバイス10の例は、スタンドアロンデジタルカメラまたはデジタルビデオカムコーダ、複数のカメラを有する携帯電話、セルラーまたは衛星無線電話などのカメラ付きワイヤレス通信デバイスハンドセット、いわゆる「ウェブカム」などのカメラを含む、カメラ付き携帯情報端末(PDA)、パネルまたはタブレット、ゲーミングデバイス、コンピュータデバイス、あるいはデジタルイメージングまたはビデオ能力をもつ任意のデバイスを含む。
【0030】
[0034]
図1の例に示されているように、カメラデバイス10は、(たとえば、各々が画像センサーとレンズとを有する)カメラ12A~12Cと、カメラプロセッサ14およびカメラプロセッサ14のローカルメモリ20と、中央処理ユニット(CPU)16と、グラフィカル処理ユニット(GPU)18と、ユーザインターフェース22と、システムメモリ30へのアクセスを提供するメモリコントローラ24と、グラフィカルデータをディスプレイ28上に表示させる信号を出力するディスプレイインターフェース26とを含む。
図1の例は1つのカメラプロセッサ14を示すが、いくつかの例では、複数のカメラプロセッサ(たとえば、カメラ12A~12Cの各々について1つずつ)があり得る。カメラプロセッサ14に関して本開示で説明される技法は、1つまたは複数のカメラプロセッサが例示的な技法を実施する例を含み得る。
【0031】
[0035]また、様々な構成要素が別個の構成要素として示されているが、いくつかの例では、構成要素は、システムオンチップ(SoC)を形成するために組み合わせられ得る。一例として、カメラプロセッサ14とCPU16とGPU18とディスプレイインターフェース26とは、共通集積回路(IC)チップ上に形成され得る。いくつかの例では、カメラプロセッサ14、CPU16、GPU18、およびディスプレイインターフェース26のうちの1つまたは複数は、別個のICチップ中にあり得る。様々な他の置換および組合せが可能であり、本技法は、
図1に示されている例に限定されると見なされるべきではない。
【0032】
[0036](1つのデバイス上に形成されるのか異なるデバイス上に形成されるのかにかかわらず)
図1に示されている様々な構成要素は、1つまたは複数のマイクロプロセッサ中のものなど、固定機能またはプログラマブル回路、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、デジタル信号プロセッサ(DSP)、あるいは他の等価な集積またはディスクリート論理回路のうちの少なくとも1つとして形成され得る。ローカルメモリ20およびシステムメモリ30の例は、ランダムアクセスメモリ(RAM)、スタティックRAM(SRAM)、ダイナミックRAM(DRAM)、消去可能プログラマブルROM(EPROM)、電気的消去可能プログラマブルROM(EEPROM(登録商標))、フラッシュメモリ、磁気データ媒体または光記憶媒体など、1つまたは複数の揮発性または不揮発性メモリあるいはストレージデバイスを含む。
【0033】
[0037]
図1に示されている様々なユニットは、バス32を使用して互いと通信する。バス32は、第3世代バス(たとえば、HyperTransportバスまたはInfiniBandバス)、第2世代バス(たとえば、アドバンストグラフィックスポートバス、周辺構成要素相互接続(PCI)エクスプレスバス、またはアドバンストエクステンシブルインターフェース(AXI:Advanced eXtensible Interface)バス)あるいは別のタイプのバスまたはデバイス相互接続など、様々なバス構造のいずれかであり得る。
図1に示されている異なる構成要素間のバスおよび通信インターフェースの特定の構成は例にすぎず、カメラデバイスの他の構成および/あるいは同じまたは異なる構成要素をもつ他の画像処理システムが、本開示の技法を実装するために使用され得る。
【0034】
[0038]カメラデバイス10はカメラ12A~12Cを含む。カメラ12A~12Cの各々は、以下で説明されるように、それぞれのカメラパラメータに従って、画像コンテンツを有するフレームをキャプチャするように構成され得る。カメラ12A~12Cは、それらのキャプチャされたフレームを画像処理のためにカメラプロセッサ14に出力し得る。以下でより詳細に説明されるように、1つまたは複数の例では、カメラプロセッサ14は、表示される、比較的より劣った品質を有するフレームの数を低減するために、ズームインまたはズームアウトすることの間になど、カメラ12A~12Cがフレームをキャプチャするレートを制御し得る。
【0035】
[0039]カメラプロセッサ14は、メモリコントローラ24を介してシステムメモリ30に、画像コンテンツ(たとえば、画像ピクセルの各々についてのピクセル値)をもつ、得られたフレームを出力する。すなわち、カメラプロセッサ14は、得られたフレームを含む、再生のためのビデオコンテンツを生成し得る。本開示で説明される1つまたは複数の例では、フレームは、表示のための1つまたは複数のフレームを生成するためにさらに処理され得る。いくつかの例では、カメラプロセッサ14がブレンディングを実施するのではなく、GPU18またはカメラデバイス10の何らかの他の回路が、ブレンディングを実施するように構成され得る。
【0036】
[0040]本開示は、カメラプロセッサ14によって実施されるものとして、例示的な技法について説明する。しかしながら、例示的な技法は、カメラプロセッサ14が例示的な技法を実施することに限定されると見なされるべきではない。たとえば、カメラプロセッサ14は、CPU16、GPU18、および/またはディスプレイインターフェース26と組み合わせて、本開示で説明される例示的な技法を実施するように構成され得る。いくつかの例では、カメラ12A~12Cの各々は、処理回路を含み得る。したがって、例示的な技法を実施し得るプロセッサの例は、カメラ12A~12Cの一部である処理回路を含む。たとえば、1つまたは複数のプロセッサは、本開示で説明される例示的な技法を実施するように構成され得る。1つまたは複数のプロセッサの例は、カメラプロセッサ14、CPU16、GPU18、ディスプレイインターフェース26、カメラ12A~12Cのうちの1つまたは複数の処理回路、またはカメラプロセッサ14、CPU16、GPU18、ディスプレイインターフェース26、およびカメラ12A~12Cのうちの1つまたは複数の処理回路のうちの1つまたは複数の任意の組合せを含む。
【0037】
[0041]CPU16は、カメラデバイス10の動作を制御する汎用プロセッサまたは専用プロセッサを備え得る。ユーザは、CPU16に1つまたは複数のソフトウェアアプリケーションを実行させるために、カメラデバイス10に入力を提供し得る。CPU16上で実行するソフトウェアアプリケーションは、たとえば、メディアプレーヤアプリケーション、ビデオゲームアプリケーション、グラフィカルユーザインターフェースアプリケーションまたは別のプログラムを含み得る。ユーザは、ユーザインターフェース22を介してカメラデバイス10に結合される、キーボード、マウス、マイクロフォン、タッチパッドまたは別の入力デバイスなど、1つまたは複数の入力デバイス(図示せず)を介して、カメラデバイス10に入力を提供し得る。
【0038】
[0042]ソフトウェアアプリケーションの一例は、カメラアプリケーションである。CPU16はカメラアプリケーションを実行し、応答して、カメラアプリケーションは、CPU16に、ディスプレイ28が出力するコンテンツを生成させる。GPU18は、ディスプレイ28上でのレンダリングのためにCPU16によって生成されたコンテンツを処理するように構成され得る。たとえば、ディスプレイ28は、光強度、フラッシュが有効にされるかどうか、および他のそのような情報など、情報を出力し得る。カメラデバイス10のユーザは、画像が生成される様式(たとえば、フラッシュを用いるまたは用いない、焦点設定、露光設定、および他のパラメータ)を構成するためにディスプレイ28とインターフェースし得る。一例として、カメラデバイス10のユーザは複数のフレーム(たとえば、複数のピクチャ)を撮ることを選択し得、ここで、複数のフレームのうちの2つまたはそれ以上が、1つまたは複数の出力フレームを生成するために(たとえば、ぼけを低減するために)一緒にブレンドされる。しかしながら、一緒にブレンドされる複数のフレームを撮ることは、デフォルトオプションであり得る(たとえば、ユーザ選択は必要とされない)。カメラアプリケーションはまた、CPU16に、ユーザ定義された様式でカメラ12によってキャプチャされた画像コンテンツのフレームをキャプチャし、処理するようにカメラプロセッサ14に命令させる。
【0039】
[0043]メモリコントローラ24は、システムメモリ30に入るおよびそれから出るデータの転送を可能にする。たとえば、メモリコントローラ24は、カメラデバイス10中の構成要素にメモリサービスを提供するために、メモリ読取りおよび書込みコマンドを受信し、メモリ30に関するそのようなコマンドをサービスし得る。メモリコントローラ24はシステムメモリ30に通信可能に結合される。メモリコントローラ24は、CPU16とシステムメモリ30の両方とは別個である処理回路であるものとして
図1のカメラデバイス10の例に示されているが、他の例では、メモリコントローラ24の機能の一部または全部は、CPU16とシステムメモリ30の一方または両方の上で実装され得る。
【0040】
[0044]システムメモリ30は、カメラプロセッサ14、CPU16、およびGPU18によってアクセス可能であるプログラムモジュールおよび/または命令および/またはデータを記憶し得る。たとえば、システムメモリ30は、ユーザアプリケーション(たとえば、カメラアプリケーションのための命令)、カメラプロセッサ14からの得られたフレームなどを記憶し得る。システムメモリ30は、カメラデバイス10の他の構成要素による使用のための情報、および/または他の構成要素によって生成される情報をさらに記憶し得る。たとえば、システムメモリ30は、カメラプロセッサ14のためのデバイスメモリとして働き得る。
【0041】
[0045]図示のように、カメラデバイス10はカメラ12A~12Cを含む。カメラ12A~12Cの各々は、異なるズーム係数で構成され得、異なる量の視野角をキャプチャし得る。いくつかの例では、カメラ12A~12Cの各々は、異なるレンズジオメトリおよび異なるレベルの光ズーム(たとえば、カメラ12A~12Cのレンズまたはセンサーがどのくらい動くことができるかに基づく異なるズーム係数範囲)で構成され得る。視野角は、視野(FOV)であり得る。いくつかの例では、同じズーム係数をもつカメラ12A~12Cは、同じFOVをキャプチャしていることがある。
【0042】
[0046]カメラ12Aは(たとえば、120°~180°の視野角をキャプチャするように構成された)ウルトラワイドカメラであり得、カメラ12Bは(たとえば、60°~120°の視野角をキャプチャするように構成された)ワイドカメラであり得、カメラ12Cは(たとえば、10°~60°の視野角をキャプチャするように構成された)望遠カメラであり得る。カメラ12Aは、0.5Xの第1のズームしきい値から1Xの第2のズームしきい値までのズーム係数を提供するように構成され得る。カメラ12Bは、1Xの第3のズームしきい値から2Xの第4のズームしきい値までのズーム係数を提供するように構成され得る。カメラ12Cは、2Xの第5のズームしきい値よりも大きいズーム係数を提供するように構成され得る。
【0043】
[0047]上記の例では、第2のズームしきい値と第3のズームしきい値とが同じであり、第4のズームしきい値と第5のズームしきい値とが同じである。しかしながら、本技法は、そのように限定されない。いくつかの例では、カメラ12A~12Cのズーム係数範囲において重複があり得る。たとえば、カメラ12Aについての第2のズームしきい値は1.3Xであり得、カメラ12Bについての第3のズームしきい値が1Xであり得る。この例では、1Xから1.3Xズームまで、カメラ12Aとカメラ12Bの両方は、そのようなズーム係数を提供することができる。
【0044】
[0048]カメラデバイス10上のカメラ12の数、視野角、ならびにズーム係数範囲およびズームしきい値の例は、理解を支援するために提供されるにすぎない。例示的な技法は、そのような例に限定されると見なされるべきではない。より多いまたはより少ないカメラ12があり得、視野角が異なり得、ズーム係数範囲およびしきい値が異なり得る。
【0045】
[0049]カメラ12A~12Cの各々に関連付けられたズーム係数範囲は、カメラ12A~12Cのセンサーまたはレンズが所望のズームを提供するために動くことを必ずしも意味する必要はないが、それは可能である。すなわち、光ズームはズームを提供するための1つの方法であるが、本技法は光ズームに限定されない。いくつかの例では、カメラ12A~12Cに関連付けられたズーム係数範囲は、カメラ12A~12Cのうちのどのカメラから、カメラプロセッサ14が、デジタルズームインまたはズームアウトを実施するためのフレームを受信するべきであるかを示し得る。したがって、カメラ12A~12Cが特定のズーム係数範囲のために構成されることは、カメラ12A~12Cのセンサーまたはレンズが光ズームインまたはズームアウトを提供するように動いている例、および/あるいはカメラプロセッサ14がデジタルズームインまたはズームアウトを実施するためのフレームをそこから受信する例を含み得る。
【0046】
[0050]カメラプロセッサ14は、カメラ12A~12Cから画像フレームを受信し、表示のために出力フレームを生成する(たとえば、再生のためのビデオコンテンツを生成する)ために画像フレームを処理するように構成される。CPU16、GPU18、カメラプロセッサ14、または何らかの他の回路は、カメラプロセッサ14によって生成された画像コンテンツを含む出力フレームを、ディスプレイ28上での表示のための画像に処理するように構成され得る。いくつかの例では、GPU18は、ディスプレイ28上でグラフィックスコンテンツをレンダリングするようにさらに構成され得る。
【0047】
[0051]カメラ12A~12Cは、カメラプロセッサ14および/またはCPU16が決定し得るそれらのそれぞれのカメラパラメータに従ってフレームをキャプチャするように構成され得る。たとえば、カメラデバイス10のユーザがフレームをキャプチャするより前に、カメラ12A~12Cは、3Aパラメータ(自動焦点(AF)パラメータ、自動ホワイトバランス(AWB)パラメータ、および自動露光制御(AEC)パラメータ)と呼ばれるカメラパラメータを決定し得る。
【0048】
[0052]自動焦点では、CPU16は焦点を合わせるべき画像のエリアを決定し得、したがって、焦点が合わせられるエリア中の画像コンテンツに焦点が合っている。他のエリアは、カメラ12A~12Cの開口サイズに応じて、焦点が合っていることがあるが、必ずしも焦点が合っているとは限らない。一例として、CPU16は、位相検出オートフォーカス(PDAF:phase detection autofocus)技法を利用し得る。CPU16は、次いで、焦点を合わせるべきエリアに基づいてカメラ12A~12Cを制御し得る(たとえば、カメラ12A~12Cのレンズのロケーションを調整することによって焦点距離を調整するなど)。いくつかの例では、CPU16は、前景にある物体を決定し得、前景物体に焦点を合わせるようにカメラ12A~12Cを制御し得る。別の例として、CPU16は、焦点を合わせるべきエリアを決定するために、顔検出のような、物体検出技法を利用し得る。
【0049】
[0053]自動露光制御では、CPU16は、外部照明条件などのファクタに基づいてカメラ12A~12Cの開口およびシャッター速度を決定し得る。一例として、カメラプロセッサ14は、光を示す情報を決定し、それに応じて、画像の輝度を一定に保つ(たとえば、フレームの所望の領域の輝度を輝度値の中間帯域に保つ)ように開口およびシャッター速度を調整し得る。たとえば、光が多すぎる(すなわち、露出過度である)場合、画像中の細部が失われることがあり、光が少なすぎる(すなわち、露出不足である)場合、画像は暗すぎることがあり、細部が可視でないことがある。画像の中心における輝度がより高く保たれ、画像のエッジの近くでは漸進的に低下される中心重み付き測光(center-weighted metering)マップなどの「測光」を使用して露光が制御される様々な方法がある。いくつかの例では、中心重み付き測光は、画像の中心が、可能な輝度レベルの中間範囲内の値(すなわち、中間トーン)を有することを保証する。外側エリアは、キャプチャされているシーンの実際のコンテンツに応じて、より明るいか、より暗いか、または同じであり得る。本開示で説明される技法は、中心重み付き測光マップの例に限定されない(たとえば、画像の中央のための露光制御のほうへバイアスされる測光マップに限定されない)。
【0050】
[0054]自動ホワイトバランスでは、CPU16は光源の「色温度」を決定し得、ここで、色温度は、白色の相対的な暖かさまたは冷たさを指す。いくつかの場合には、キャプチャされた画像は、非現実的な色かぶり(color cast)を有し得る。いくつかの例では、自動ホワイトバランスアルゴリズムは、赤色成分と緑色成分と青色成分との間の比を分析し、示唆された赤色および青色利得レベルを出力するヒューリスティックを適用する。R、Bチャネルがそれらの乗数を乗算されたとき、画像はよりバランス良く見えることになり、グレー領域はグレーに見えることになり、不自然な色かぶりを有しないことになる。しかしながら、(たとえば、影がある)マルチ照明シーンの場合、異なる領域について異なる乗数が理想的であるので、乗数を決定することはより困難であり得る。
【0051】
[0055]1つまたは複数の例では、カメラプロセッサ14は、カメラ12A~12Cの各々についてのそれぞれのカメラパラメータ(たとえば、3Aカメラパラメータ)を記憶し得る。カメラ12A~12Cは、焦点距離を調整するためのAFパラメータと、カメラ12A~12Cにシャッターおよび開口サイズに従って動作させるAECパラメータとを利用し得る。カメラプロセッサは、フレームを処理することの一部としてAWBを利用し得る。いくつかの例では、カメラ12A~12Cの各々は、それらのそれぞれのカメラパラメータに従ってフレームをキャプチャし得る。しかしながら、カメラプロセッサ14は、カメラ12A~12Cのうちの1つのみからのフレームを処理し得、残りのフレームは「フラッシュ(flush)」され得る(たとえば、表示のために処理または記憶されない)。以下で説明されるように、いくつかの例では、2つの異なるカメラ12A~12Cからのフレームが処理されるときがあり得るが、概して、カメラ12A~12Cのうちの1つのみからのフレームがカメラプロセッサ14によって処理される。
【0052】
[0056]いくつかの例では、カメラプロセッサ14は、画像処理パイプラインとして構成され得る。たとえば、カメラプロセッサ14は、カメラ12とカメラプロセッサ14との間でインターフェースするカメラインターフェースを含み得る。カメラプロセッサ14は、画像コンテンツを処理するための追加の回路を含み得る。
【0053】
[0057]いくつかの例では、カメラプロセッサ14は、デジタルズームインまたはデジタルズームアウトを実施するように構成され得る。カメラプロセッサ14がデジタルズームインまたはデジタルズームアウトを実施することに関して説明されたが、いくつかの例では、カメラ12A~12Cが、デジタルズームインまたはデジタルズームアウトを実施するように構成され得る。たとえば、カメラ12A~12Cは、各々、デジタルズームインまたはズームアウトを実施するための処理回路を含み得る。
【0054】
[0058]ズームインするために、カメラプロセッサ14は、カメラ12A~12Cのうちの1つから受信されたフレームのクロッピングおよびサイズ変更を実施し得る。一例として、1Xから2Xにズームインするようにとの要求を受信したことに応答して、カメラプロセッサ14は、カメラ12Bから受信されたフレームの外周の50%をクロップし、クロップされたフレームをサイズ変更し得る。この例では、フレームの中心50%が今やフレームのフルサイズにサイズ変更され、画像コンテンツは2倍の大きさであるように見える。
【0055】
[0059]ズームする際の急激なジャンプを回避するために、あるズームしきい値から別のズームしきい値に(たとえば、1Xから2Xに)ズームするとき、カメラプロセッサ14および/またはカメラ12A~12Cは、ズーム係数を徐々に増加または減少させ得る。たとえば、ズーム係数が1Xから2Xに突然変更された場合、閲覧者エクスペリエンスは望ましくないことがある。したがって、ズーム係数は緩やかに変化し得る。一例として、(たとえば、カメラプロセッサ14および/またはカメラ12A~12Cによる)ズーム係数は線形的に増加または減少し得、したがって、ズーム係数は、一例として、1X、次いで1.1X、次いで1.2X、以下同様に、2Xまで、である。ズーム係数の線形増加または減少と0.1Xのステップサイズとは、両方とも一例として提供され、限定するものと見なされるべきではない。また、上記で説明されたように、ズーム係数が変化する少なくとも2つの方法があり得、(1)カメラプロセッサ14がクロップおよびサイズ変更するデジタルズームに基づく、および(2)カメラ12A~12Cのセンサーまたはレンズの動きを伴う光ズームに基づく、2つの方法は、個々にまたは一緒に使用され得る。
【0056】
[0060]繰り返すが、カメラデバイス10のユーザは、カメラデバイス10が記録しているビデオコンテンツをズームインまたはズームアウトし得る。ズームインまたはズームアウトするようにとの要求に応答して、カメラプロセッサ14は、ズーム係数がカメラ12A~12Cのうちの1つについてのズームしきい値に到達するまで、カメラ12A~12Cのうちの1つによってキャプチャされたフレームを処理し得る。ズーム係数はあるズームしきい値から別のズームしきい値に徐々に変化し得るので、ズーム係数がズームしきい値に到達するのに経過する、ある時間量があり得る。たとえば、ズームしきい値に到達するのに約0.5秒を要し得る。いくつかの例では、ズームしきい値に到達するのに要する時間の範囲は、約0.2秒から0.7秒の間である。
【0057】
[0061]したがって、カメラプロセッサ14は、カメラ12A~12Cのうちの第1のカメラについてのカメラパラメータに基づいて、カメラ12A~12Cのうちの第1のカメラによってキャプチャされたフレームを処理し得る。ズームインまたはズームアウトするようにとの要求に応答して、カメラプロセッサ14は、カメラ12A~12Cのうちの第1のカメラについてのズームしきい値までのズームインまたはズームアウトの間に、第1のカメラによってキャプチャされたフレームを処理し得る。たとえば、第1のカメラについてのズームしきい値(たとえば、0.5秒)までのズームインまたはズームアウトの間に、第1のカメラは、最初に決定されたカメラパラメータに基づいてフレームをキャプチャする。たとえば、カメラ12A~12Cのうちの第1のカメラについてのズーム係数は、最初に1Xにあり得、カメラパラメータ(たとえば、AF、AWB、およびAECの3Aパラメータ)は、第1のカメラについてのズーム係数が1Xであるときに決定されていることがある。カメラ12A~12Cのうちの第2のカメラについてのズーム係数は、最初に2Xにあり得、カメラパラメータ(たとえば、3Aパラメータ)は、第2のカメラについてのズーム係数が2Xであるときに決定されていることがある。
【0058】
[0062]その場合、ズーム係数が、1Xから、2Xのズームしきい値に変化する時間(たとえば、0.5秒)の間に、第1のカメラは、1Xのズーム係数で決定されたカメラパラメータに基づいてフレームをキャプチャし続け得る。すなわち、ズーム係数は(たとえば、1.1X、1.2X、1.3X、以下同様に、2Xまで)変化していることがあるが、第1のカメラは、1Xのズーム係数で決定されたカメラパラメータに基づいてフレームをキャプチャし得る。2Xのズーム係数に到達した後に、カメラプロセッサ14は、カメラ12A~12Cのうちの第2のカメラについての2Xズーム係数に基づいて決定された、カメラ12A~12Cのうちの第2のカメラについてのカメラパラメータを使用して、カメラ12A~12Cのうちの第2のカメラによってキャプチャされたフレームを処理することを開始し得る。
【0059】
[0063]上記の例では、ズーム係数が、1Xから、2Xのズームしきい値に変化する時間(たとえば、0.5秒)の間に、第1のカメラは、1Xのズーム係数で決定されたカメラパラメータに基づいてフレームをキャプチャし続け得る。概して、カメラ12A~12Cの各々についてのカメラパラメータは、カメラ12A~12Cの各々がそれぞれの第1のズームしきい値にあることに基づいて決定され得る。ズーム係数がカメラ12A~12Cの各々について第1のズームしきい値から第2のズームしきい値に変化する時間の間に、カメラ12A~12Cの各々は、第1のしきい値において決定されたカメラパラメータに基づいてフレームをキャプチャし続け得る。
【0060】
[0064]いくつかの例では、ズーム係数が第1のズームしきい値から第2のズームしきい値に変化している時間の間に、キャプチャされたフレームの品質は、ズーム係数が変化していないときのキャプチャされたフレームの品質よりも低くなり得る。たとえば、カメラ12A~12Cのうちの第1のカメラについてのカメラパラメータは第1のカメラについての第1のズームしきい値に基づくので、カメラパラメータは、ズーム係数が第1のズームしきい値でない場合、第1のカメラについて精密に正確でないことがある。一例として、第1のカメラについてのカメラパラメータは、1Xのズーム係数に基づいて設定され得る。カメラパラメータは、1.2Xのズーム係数について正確でないことがある。したがって、1Xのズーム係数について決定されたカメラパラメータを用いて1.2Xのズーム係数においてキャプチャされたフレームは、1Xのズーム係数においてキャプチャされたフレームと比較してより低い品質のものであり得る。
【0061】
[0065]一例として、ズームがあるときはいつでも、ズームが終了するまで(たとえば、ズームしきい値が到達されるまで)、視野(FOV)は安定していることがある。ズームの間のカメラパラメータは、リセットまたは再計算されないが、FOVは、ズームインまたはズームアウトすることから変化し得る。したがって、ズームする間、キャプチャおよび処理のために使用されるカメラパラメータは、ズームすることが開始する前にすでに設定されたものと同じパラメータである。これは、ズームしているFOV(zooming FOV)が精密なカメラパラメータを有しないことを生じる。たとえば、焦点物体(たとえば、AF)が中心FOV以外のどこかにある場合、焦点が合わせられる物体はもはやFOV中にないので、ズームすることは焦点外れプレビュー(off focus preview)を生じることになる。同じことが、露光(たとえば、AEC)およびホワイトバランス(AWB)について適用される。たとえば、ズームが、採光の良いシーンから影へのものである場合、ズームしているFOVは、それがズームごとの露光パラメータ(すなわち、ズーム前AEC)を使用するので、不十分な採光のままになる。したがって、ズームインまたはズームアウトすることの間に、キャプチャされた画像は、ズームインまたはズームアウトしないときよりも劣った品質を有する傾向がある。
【0062】
[0066]ズーム係数が第1のズームしきい値から第2のズームしきい値に変化している時間の間にキャプチャされたフレームの品質は比較的低いことがあるが、たいていの場合、フレームのこの比較的低い品質は、閲覧者エクスペリエンスに影響を及ぼさない。たとえば、カメラ12A~12Cの各々は、特定のフレームレートにおいてフレームをキャプチャするように構成され得る(たとえば、キャプチャレートは30フレーム毎秒(fps)である)。いくつかの場合には、カメラデバイス10は、キャプチャレートと同じである表示レートにおいてフレームを表示する(たとえば、表示レートは30fpsであり、キャプチャレートは30fpsである)。
【0063】
[0067]上記で説明されたように、あるズームしきい値から別のズームしきい値にズームするのに0.5秒を要し得る。したがって、この0.5秒の間に、30fpsのキャプチャレートを仮定すると、比較的低い品質でキャプチャされる約15個のフレームがあり得る(たとえば、30fps*0.5秒=15個のフレーム)。表示レートも30fpsである場合、比較的低い品質をもつこれらのフレームを表示するのに0.5秒を要することになる。閲覧者は、0.5秒相当の劣った品質のフレームが表示されることを知覚しないことがあるか、または、そのことによって影響を及ぼされないことがある。
【0064】
[0068]しかしながら、場合によっては、劣った品質のフレームを有することは、閲覧者エクスペリエンスに影響を及ぼし得る。一例として、ユーザは、カメラデバイス10を、スローモーションのためのフレームをキャプチャするように構成し得る。スローモーションでは、フレームのキャプチャレートは、フレームの表示レートよりも大きい。したがって、フレームを表示するのに、フレームをキャプチャするのに要した時間量よりも多くの時間を要する。これは、画像コンテンツがより遅く動いているように見えるので、閲覧者がスローモーションを知覚することを生じる。
【0065】
[0069]一例として、キャプチャレートが240fpsであり、表示レートが30fpsであると仮定する。この例では、1秒のビデオキャプチャが240個のフレームを生じる。30fpsの表示レートでは、その1秒のビデオを表示するのに8秒(たとえば、240個のフレーム/30fps)を要することになる。この例では、閲覧者の視点から、キャプチャされたフレーム中の物体は、物体が現実に動いているレートの1/8において動くように見え、したがって、スローモーションの知覚を作成する。
【0066】
[0070]いくつかの例では、カメラデバイス10のユーザは、通常モードでビデオキャプチャを開始し得る。次いで、ユーザは、カメラデバイス10がスローモーションでキャプチャすることを開始することを引き起こし得る。しばらくして、ユーザは、カメラデバイス10が通常モードでキャプチャすることに戻ることを引き起こし得る。たとえば、通常モードの間に、カメラ12A~12Cは、30fpsにおいてフレームをキャプチャし得る。スローモーションモードの間に、カメラ12A~12Cは、120fps以上においてフレームをキャプチャし得る。
【0067】
[0071]より良い視覚エクスペリエンスのために、スローモーションの間に、ユーザは、ズームインまたはズームアウトし得る。たとえば、カメラ12A~12Cのうちの第1のカメラは、0.5Xのズーム係数について設定され得、ここで、第1のカメラについてのズームしきい値は0.5X~1Xである。最初に、第1のカメラは、0.5Xで30fpsにおいてキャプチャし得る。次いで、ユーザは、カメラデバイス10がスローモーションモードでキャプチャすることを引き起こし得る。この例では、CPU16および/またはカメラプロセッサ14は、第1のカメラが240fpsにおいてキャプチャすることを引き起こし得る。第1のカメラがフレームをキャプチャしている間、ユーザはズームインし得、したがって、ズーム係数は(たとえば、約0.5秒にわたって)0.5Xから1Xに増加する。次いで、カメラプロセッサ14は、1X~2Xのズーム係数範囲を有する、カメラ12A~12Cのうちの第2のカメラによってキャプチャされたフレームを処理することを開始し得る。スローモーションが依然として有効にされるので、CPU16および/またはカメラプロセッサ14は、第2のカメラが1Xのズーム係数で240fpsにおいてキャプチャすることを引き起こし得る。後のある時点において、ユーザは、カメラデバイス10がスローモーションを終了することを引き起こし得、カメラプロセッサ14は、30fpsにおいて、第2のカメラによってキャプチャされたフレームを処理し得る。
【0068】
[0072]このようにして、ズームインまたはズームアウトすることを用いたスローモーションビデオキャプチャを可能にするための、第1のカメラと第2のカメラとの間のハンドオフおよび切替えがある。たとえば、カメラプロセッサ14は、第1のカメラについてのズームしきい値が到達されるまでカメラ12A~12Cのうちの第1のカメラからのフレームを処理し、次いで、カメラプロセッサ14は、カメラ12A~12Cのうちの第2のカメラからのフレームを処理する。カメラ12A~12Cのキャプチャレートは、スローモーションが有効にされるか否かに基づき得る(たとえば、スローモーションの場合により高いキャプチャレートおよび通常キャプチャの場合により低いキャプチャレート)。
【0069】
[0073]しかしながら、スローモーションを伴ってズームインまたはズームアウトすることを有効にすることに関するいくつかの問題があり得る。上記で説明されたように、ズームインまたはズームアウトすることの間にキャプチャされたフレームは、カメラパラメータがズーム係数について精密でないので、より劣った品質を有する傾向があるが、より劣った品質を有するこれらのフレームを表示するのに要する時間量は長くない(たとえば、0.5秒)ので、低い影響がある。スローモーションビデオキャプチャが有効にされた状態で、ズームインまたはズームアウトすることについて、より劣った品質を有するこれらのフレームを表示するのに要する時間量は、比較的長い。
【0070】
[0074]たとえば、キャプチャレートが240fpsである場合、カメラ12A~12Cのうちの1つの第1のズームしきい値から第2のズームしきい値に進むのに要する0.5秒の間に、キャプチャされるフレームの数は120個のフレーム(たとえば、240fps*0.5秒)である。表示レートが30fpsである場合、120個のフレームを表示するのに4秒を要する(たとえば、120個のフレーム/30fps)。したがって、この例では、比較的劣った品質を有するフレームが表示される、4秒があることになる。上記で説明されたように、通常モード(たとえば、スローモーションではない)では、比較的劣った品質を有するフレームが表示される、0.5秒があることになる。したがって、ズームインまたはズームアウトすることを伴うスローモーションでは、キャプチャレートが240fpsである場合、劣った品質を有するフレームが表示される時間量は、ズームインまたはズームアウトすることを伴う通常モードの8倍の長さであり得る。より高いキャプチャレートでは、劣った品質を有するフレームが表示される時間量は、はるかに大きくなり得る(たとえば、960fps/30fps*0.5秒は16秒に等しいので、960fpsは16秒の劣った品質を生じる)。
【0071】
[0075]本開示は、スローモーションが有効にされた状態で、ズームインまたはズームアウトすることを有効にするための例示的な技法について説明する。たとえば、スローモーションが有効にされた状態で、カメラ12A~12Cのうちのカメラのズームしきい値までズームインまたはズームアウトすることの間に、カメラプロセッサ14は、カメラプロセッサ14が、スローモーションが有効にされた状態で、ただしズームインまたはズームアウトすることなしにフレームを受信するレートにおいてよりも低いレートにおいて、フレームを受信し得る。
【0072】
[0076]一例として、カメラプロセッサ14は、スローモーションでのビデオキャプチャが有効にされた状態で、第1のレートにおいてカメラ12A~12Cのうちの第1のカメラによってキャプチャされたフレームの第1のセットを受信し得る(たとえば、第1のレートは120fps以上である)。カメラプロセッサ14は、表示のためのビデオコンテンツを生成するためにフレームの第1のセットを処理し得る。CPU16および/またはカメラプロセッサ14は、ズームインまたはズームアウトするとの選択を受信し得る。第1のカメラについてのズームしきい値までのズームインまたはズームアウトの間に、カメラプロセッサ14は、第1のレートよりも小さい第2のレートにおいて第1のカメラによってキャプチャされたフレームの第2のセットを受信し得る(たとえば、第2のレートは30fpsである)。カメラプロセッサ14は、表示のためのビデオコンテンツを生成するためにフレームの第2のセットを処理し得る。たとえば、カメラプロセッサ14は、第1のレートよりも小さい第3のレート(たとえば、30fps)において、フレームの第1のセットとフレームの第2のセットとを含む、再生のためのビデオコンテンツを生成し得る。一例として、カメラプロセッサ14が再生のためのビデオコンテンツを生成することは、カメラプロセッサ14が、ディスプレイインターフェース26が表示のために出力することができるように、フレームの第1のセットとフレームの第2のセットとを提供する例を指し得る。
【0073】
[0077]この例では、ディスプレイインターフェース26は、表示のために、第1のレートよりも小さい第3のレートにおいてフレームの第1のセットとフレームの第2のセットとを含む生成されたビデオコンテンツを出力し得る(たとえば、第3のレートは30fpsである)。いくつかの例では、ディスプレイインターフェース26は、再生のためのビデオコンテンツを生成するように構成され得る。たとえば、再生のためのビデオコンテンツを生成するために、ディスプレイインターフェース26は、フレームの第1のセットとフレームの第2のセットとを受信し、フレームの第1のセットを出力し、次いで、閲覧者にフレームのビデオ再生を知覚させる様式でフレームの第2のセットを出力し得る。概して、カメラプロセッサ14、ディスプレイインターフェース26、または何らかの他の構成要素が再生のためのビデオコンテンツ生成することは、カメラプロセッサ14、ディスプレイインターフェース26、または何らかの他の構成要素が、フレームのセットが表示のために出力され得る様式でフレームのセット(たとえば、フレームの第1および第2のセット)を構成、受信、または処理することを指し得る。
【0074】
[0078]例示的な例では、通常モードで、カメラプロセッサ14は、現在0.5Xのズーム係数にあるカメラ12Aから30fpsのレートにおいてフレームを受信し得る。したがって、カメラ12Aは、30fpsにおいてフレームをキャプチャするように構成される。この例では、カメラ12Aが30fpsのキャプチャレートで8秒のフレームをキャプチャし、したがって、240個のフレームをキャプチャしたと仮定する。
【0075】
[0079]次いで、ユーザは、スローモーションを有効にし得る。スローモーションが有効にされた状態で、カメラプロセッサ14は、現在0.5Xのズーム係数にあるカメラ12Aから120fpsのレートにおいてフレームを受信し得る。この例では、カメラ12Aは、スローモーションが有効にされることにより、120fpsにおいてフレームをキャプチャするように構成される。カメラ12Aが120fpsのキャプチャレートで4秒のフレームをキャプチャし、したがって、480個のフレームをキャプチャしたと仮定する。
【0076】
[0080]ユーザは、次いで、ズームインを有効にし得(または、物体または顔追跡の場合など、自動ズームがあり得)、したがって、ズーム係数は、0.5Xから1X(たとえば、カメラ12Aについてのズームしきい値)に変化する。(たとえば、レンズ/センサー位置の変化または漸進的ズームにより)0.5Xのズーム係数から1Xに進むのに要する0.5秒の間に、120fpsにおいてフレームをキャプチャするのではなく、カメラ12Aは、0.5Xのズーム係数から1Xに進むのに要する時間の間にキャプチャされる、より低い品質を有するフレームの数を低減するために、30fpsにおいてフレームをキャプチャし得、カメラプロセッサ14は30fpsにおいてフレームを受信し得る。上記で説明されたように、ズーム係数がズームしきい値に到達するための0.5秒の間にキャプチャされたフレームは、より低い品質を有する傾向がある。したがって、より低い品質を有する15個のフレームがあることになる。
【0077】
[0081]1Xのズーム係数に到達した後に、カメラプロセッサ14は、カメラ12Bからフレームを受信し得る。スローモーションが依然として有効にされ、さらにズームインすることがないので、カメラプロセッサ14は、120fpsのレートにおいてカメラ12Bからフレームを受信し得る。120fpsのキャプチャレートを伴う4秒のフレームがあり、したがって、カメラ12Bが480個のフレームをキャプチャしたと仮定する。
【0078】
[0082]次いで、ユーザがスローモーションをオフにすると仮定する。30fpsにおいてカメラ12Bによってキャプチャされたさらに10秒のフレームがあり、300個のフレームを生じると仮定する。
【0079】
[0083]この例では、表示レートが30fpsである場合、フレームを表示するのに要する時間量は以下の通りである。最初に、30fpsのキャプチャレートでの8秒があり、240個のフレームを生じた。240個のフレームを表示するのに、30fpsにおいて8秒を要する。次いで、120fpsのキャプチャレートでの4秒のフレームがあり、480個のフレームを生じた。480個のフレームを表示するのに、30fpsにおいて16秒を要する。
【0080】
[0084]次いで、ズームインすることが有効にされ、ここで、0.5秒のフレームが30fpsでキャプチャされ、15個のフレームを生じた。15個のフレームを表示するのに、30fpsにおいて0.5秒を要する。上記で説明されたように、これらの15個のフレームの品質は、ズームインすることの間のカメラパラメータの不精密さにより、比較的劣っていることがある。キャプチャレートを30fpsに低減することによって、キャプチャレートが120fpsにおいて保たれた場合の2秒と比較して、0.5秒相当の、劣った品質のフレームが表示される時間があるにすぎない。
【0081】
[0085]次いで、さらに4秒の、120fpsにおいてキャプチャされるフレームがあり、480個のフレームを生じた。30fpsにおいて480個のフレームを表示するのに16秒を要する。次いで、スローモーションはオフにされ、10秒のフレームが30fpsにおいてキャプチャされ、300個のフレームを生じた。30fpsにおいて300個のフレームを表示するのに10秒を要する。
【0082】
[0086]上記の例では、カメラ12A~12Cの各々は、スローモーションの間に120fps、または通常ビデオの間に30fpsにおいてフレームをキャプチャするように構成される。しかしながら、いくつかの例では、カメラ12A~12Cのうちの2つまたはそれ以上についてのキャプチャレートは異なり得る。一例として、スローモーションの間に、カメラ12Aは960fpsにおいてキャプチャし得、カメラ12Bは480fpsにおいてキャプチャし得、カメラ12Cは120fpsにおいてキャプチャし得る。カメラ12A~12Cの各々についてのキャプチャレートは、ユーザ構成可能なオプションであり得る。
【0083】
[0087]カメラプロセッサ14は、複数のフレームに対して何らかの初期画像処理を実施し得るが、そのような初期画像処理は、すべての例において必要であるとは限らない。カメラプロセッサ14は、記憶のためにシステムメモリ30に複数のフレームを出力し得る。いくつかの例では、システムメモリ30に複数のフレームを出力するのではなく、またはそれに加えて、カメラプロセッサ14は、ローカルメモリ20に複数のフレームを出力し得る。別の例として、カメラプロセッサ14は、複数のフレームの各々を、各フレームがキャプチャされたときに、一時的記憶のためにローカルメモリ20に記憶し、次いで、複数のフレームをローカルメモリ20からシステムメモリ30に動かし得る。
【0084】
[0088]
図2は、
図1のデバイスのカメラプロセッサをさらに詳細に示すブロック図である。図示のように、カメラ12A~12Cは、各々、カメラプロセッサ14に出力されるフレームをキャプチャし得る。上記で説明されたように、カメラ12A~12Cの各々は、それぞれのズームしきい値間のズーム係数についての異なる視野角および異なる範囲に関連付けられ得る。このようにして、カメラプロセッサ14に出力される並列ストリームがある。
【0085】
[0089]1つまたは複数の例では、フレームキャプチャより前にまたは場合によっては最初の数個のキャプチャされたフレームが、カメラパラメータを決定するために利用される。たとえば、カメラプロセッサ14および/またはCPU16は、カメラ12A~12Cの各々について、3Aパラメータと呼ばれる、自動焦点(AF)パラメータ、自動ホワイトバランス(AWB)パラメータ、および自動露光制御(AEC)パラメータを決定し得る。図示のように、カメラパラメータ34Aはカメラ12Aについてのカメラパラメータであり得、カメラパラメータ34Bはカメラ12Bについてのカメラパラメータであり得、3Aパラメータ3Aはカメラ12Cについてのカメラパラメータであり得る。説明しやすいように、カメラパラメータ34A~34Cは、それぞれ、カメラ12A~12Cにローカルに記憶される。しかしながら、カメラパラメータ34A~34Cは、2つの例として、ローカルメモリ20および/またはシステムメモリ30になど、他の場所に記憶され得る。
【0086】
[0090]いくつかの例では、カメラパラメータ34A~34Cが決定されると、カメラパラメータ34A~34Cは、記録の残りの間安定したままである可能性がある。いくつかの例では、カメラパラメータ34A~34Cは再計算されないことがあり、なぜなら、そのような再計算は時間を要し、遅延または劣った品質を生じ得るからである。カメラプロセッサ14および/またはCPU16は、個々にカメラパラメータ34A~34Cを決定し得る(たとえば、各々について異なるパラメータ)か、あるいは、カメラプロセッサ14および/またはCPU16は、カメラパラメータ34A~34Cのうちの1つを決定し、決定された1つをカメラパラメータ34A~34Cのうちの他のものに適用し得る(たとえば、カメラパラメータ34A~34Cについて、焦点ぼけ距離、ルーマインデックス、および色温度の同じ値)。
【0087】
[0091]しかしながら、いくつかの例では、そのフレームが処理されていないカメラ12A~12Cについてのカメラパラメータ34A~34Cを再計算することが可能であり得る。たとえば、カメラ12Aからのフレームが処理されている場合、カメラ12Bおよび12Cによってキャプチャされたフレームは、それぞれ、カメラパラメータ34Bおよび34Cを更新するために利用され得る。そのような計算では、カメラ12A~12C間で切り替わるとき、視野(FOV)変化を補償することが可能であり得る。
【0088】
[0092]
図2では、カメラプロセッサ14は、カメラ12A~12Cのうちの1つからストリームを選択的に選択するように構成されたスイッチ36を含む。いくつかの場合には、以下で説明されるように、スイッチ36は、3つのストリームのうちの2つを選択するように構成され得る。しかしながら、概して、スイッチ36は、カメラ12A~12Cのストリームのうちの1つを選択し得る。選択されなかったストリームは、すべての処理からバイパスされ、シンク/フラッシュに直接入り得る。
【0089】
[0093]図示のように、カメラプロセッサ14はレートコントローラ38を含む。レートコントローラ38は、カメラプロセッサ14の回路がフレームを受信するレートを選択するように構成され得る。一例として、レートコントローラ38は、カメラ12A~12Cがフレームをキャプチャするキャプチャレートを設定するように構成され得る。たとえば、レートコントローラ38は、カメラ12A~12Cに、30fps、120fps、240fps、960fpsなどにおいてフレームをキャプチャさせ得る。そのような例では、カメラ12A~12Cのセンサーは、キャプチャレート(たとえば、30fpsの場合は1秒につき30回)に基づいて、光を検知し、その光と色とを示す電流を出力し得る。レートコントローラ38は、カメラ12A~12Cのレートを同じであるかまたは異なるように設定し得る。
【0090】
[0094]レートコントローラ38が、カメラプロセッサ14の回路がフレームを受信するレートを選択し得る、他の方法があり得る。たとえば、カメラ12A~12Cは、各々、比較的高いレート(たとえば、960fps)においてフレームをキャプチャし得、レートコントローラ38は、所望のレートを達成するためにフレームをドロップするように構成され得る。たとえば、レートコントローラは、あらゆるフレームをドロップし8つごとのフレームを予想し得、120fps(たとえば、960fps/8=120fps)の有効なレートを生じる。
【0091】
[0095]本開示では、カメラプロセッサ14が特定のキャプチャレートにおいてフレームを受信することは、カメラ12A~12Cのキャプチャレートが特定のレートに設定される例と、カメラ12A~12Cによってキャプチャされたフレームが、特定のキャプチャレートを効果的に達成するためにドロップされる例とを指す。カメラプロセッサ14が特定のレート(たとえば、キャプチャレート)においてフレームを受信し得る他の方法があり得、本開示で説明される技法は、設定された技法に限定されない。
【0092】
[0096]カメラプロセッサ14は、デジタルズーム回路40Aと、処理回路42Aと、バッファ44Aとを含む。カメラプロセッサ14は、随意に、デジタルズーム回路40Bと、処理回路42Bと、バッファ44Bとを含み得る。デジタルズーム回路40Bと、処理回路42Bと、バッファ44Bとの例示的な使用が、以下でより詳細に説明される。理解しやすいように、例示的な技法は、デジタルズーム回路40Aと、処理回路42Aと、バッファ44Aとに関して説明される。
【0093】
[0097]デジタルズーム回路40Aまたは40Bは、カメラプロセッサ14の一部であるのではなく、またはそれに加えて、カメラ12A~12Cの一部であり得る。また、デジタルズーム回路40Aおよび/または40Bは、すべての例において必要であるとは限らない。たとえば、いくつかの例では、光ズームが十分であり得る。いくつかの例では、ズームインまたはズームアウトすることは、光ズームと、デジタルズーム回路40Aおよび/または40Bによって提供されるデジタルズームの両方に基づき得る。光ズームを実装するために、カメラプロセッサ14は、所望のズーム係数を達成するようにカメラ12A~12Cのセンサーおよび/またはレンズのロケーションを設定する回路を含み得る。
【0094】
[0098]デジタルズーム回路40Aは、カメラ12A~12Cのうちの選択された1つからフレームを受信し、ズームが有効にされない場合、フレームを処理回路42Aに渡し得る。処理回路42Aは、フィルタ処理、または出力されるべき出力フレームを準備するために必要とされる任意の他の処理など、任意の処理を実施するように構成され得る。処理の例は、いくつかの例として、空間フィルタ処理(たとえば、同じフレーム中の画像コンテンツにわたるフィルタ処理)またはエッジ強調を含む。バッファ44Aは、フレームがシステムメモリ30に出力されるまでそれらのフレームを記憶するように構成され得る。ディスプレイインターフェース26は、次いで、表示のために、フレームを出力し得る。したがって、カメラプロセッサ14と、バッファ44Aと、ディスプレイインターフェース26とは、表示のために次いで出力されるフレームを含む、再生のためのビデオコンテンツを生成するものと見なされ得る。
【0095】
[0099]1つまたは複数の例では、ビデオコンテンツをキャプチャすることの一部として、ユーザはスローモーションモードを有効にし得る(たとえば、スローモーションが有効にされた状態の、ビデオキャプチャ)。処理回路42Aは、第1のレートにおいて第1のカメラ12Aによってキャプチャされたフレームの第1のセットを受信し得る。第1のレートは、レートコントローラ38によって設定され得、比較的高くなり得る(たとえば、少なくとも120fps以上)。処理回路42Aは、表示のためのビデオコンテンツを生成するためにフレームの第1のセットを処理(たとえば、フレームをバッファ44Aに記憶)し得る。第1のカメラ12Aは、カメラパラメータ34Aに基づいてフレームの第1のセットをキャプチャし得る。
【0096】
[0100]CPU16は、ズームインまたはズームアウトするとの選択を受信し得る。たとえば、ユーザは、ユーザがキャプチャされている画像コンテンツをズームインまたはズームすることを望むことを示すための入力を提供するために、ディスプレイ28を利用し得る。CPU16は、次いで、ズームインまたはズームアウトするとの選択を示す情報を、カメラプロセッサ14および/またはカメラ12A~12Cに出力し得る。
【0097】
[0101]ズームインまたはズームアウトするとの選択に応答して、カメラプロセッサ14は、ズームインまたはズームアウトすることの実施を有効にし得る。たとえば、カメラプロセッサ14が第1のカメラ12Aからフレームを受信していたので、カメラプロセッサ14は、焦点を変更することと、ズームインまたはズームアウトすることを提供することとを行うために、カメラ12Aのレンズおよび/またはセンサーの位置が動くことを引き起こし得る。別の例として、デジタルズーム回路40Aは、カメラ12Aによってキャプチャされたフレームに対してデジタルズームを実施し得る。
【0098】
[0102]第1のカメラ12Aについてのズームしきい値までのズームインまたはズームアウトの間に、処理回路42Aは、第1のレートよりも小さい第2のレートにおいて第1のカメラ12Aによってキャプチャされたフレームの第2のセットを受信し得る。たとえば、レートコントローラ38は、第1のカメラ12Aに、第2のレート(たとえば、30fps)においてフレームをキャプチャさせ得る。別の例として、レートコントローラ38は、有効な第2のレートを達成するために第1のカメラ12Aからのフレームをドロップし得る。
【0099】
[0103]フレームの第2のセットはズームインまたはズームアウトの間にキャプチャされ、カメラパラメータ34Aはズームインまたはズームアウトすることなしに決定されるので、フレームの第2のセットの画像品質は、フレームの第1のセットの画像品質よりも劣っている。(たとえば、有効なキャプチャレートを達成するためにキャプチャレートを設定するかまたはフレームをドロップすることによって)フレームの第2のセットがキャプチャされるレートを低減することによって、より劣った品質を有するフレームの数は最小限に抑えられる。
【0100】
[0104]カメラプロセッサ14は、表示のためのビデオコンテンツを生成するためにフレームの第2のセットを処理し得る。一例として、デジタルズーム回路40Aは、第1のカメラ12Aについてのズームしきい値が(たとえば、0.5Xから1Xズーム係数に)到達されるまで、デジタルズームインまたはデジタルズームアウトを実施し得る。たとえば、第1のカメラ12Aについてのズームしきい値が到達されるまでデジタルズームインまたはデジタルズームアウトを実施することは、デジタルズーム回路40Aが、キャプチャされたフレームの第2のセットに対してズーム係数の増加または減少の間にクロッピングおよびサイズ変更を実施することを含む。
【0101】
[0105]バッファ44Aは、フレームの第1のセットとフレームの第2のセットとを記憶し得る。システムメモリ30は、フレームの第1のセットとフレームの第2のセットとを受信し得る。ディスプレイインターフェース26は、フレームの第1のセットとフレームの第2のセットとを取り出し、ディスプレイ28上での表示のために、第1のレートよりも小さい第3のレート(たとえば、30fps)においてフレームの第1のセットとフレームの第2のセットとを出力し得る。たとえば、カメラプロセッサ14と、バッファ44Aと、ディスプレイインターフェース26とは、単独でまたは組み合わせてのいずれかで、第1のレートよりも小さい第3のレート(たとえば、30fps)において、フレームの第1のセットとフレームの第2のセットとを含む、再生のためのビデオコンテンツを生成するものと見なされ得る。
【0102】
[0106]上記の例では、ズームインまたはズームアウトするとの選択を受信することは、スローモーションでのビデオキャプチャが有効にされた状態で、受信される。また、カメラプロセッサ14は、スローモーションでのビデオキャプチャが有効にされた状態で、フレームの第2のセットを受信し得る。
【0103】
[0107]第1のカメラ12Aについてのズームしきい値が到達された後に、カメラプロセッサ14は、カメラ12のうちの別の1つからフレームを受信し得る。あるカメラから別のカメラへの切替えは、ハードスイッチ(hard switch)と呼ばれる。たとえば、スイッチ36は、第1のカメラ12Aから第2のカメラ12Bに切り替え得る。この例では、カメラプロセッサ14は、第2のレートよりも大きい第4のレートにおいて複数のカメラ12のうちの第2のカメラ12Bによってキャプチャされたフレームの第3のセットを受信し得る。一例として、第4のレートは、120fps以上であり、30fpsであり得る第2のレートよりも大きいことがある。上記と同様に、レートコントローラ38は、第2のカメラ12Bのキャプチャレートを設定するか、またはそのキャプチャレートを達成するためにフレームをドロップし得る。カメラプロセッサ14は、表示のためにビデオコンテンツを生成するために(たとえば、ズームがないことがあるので、処理回路42Aを介して)第3のフレームを処理し得る。ディスプレイインターフェース26は、ディスプレイ28上での表示のために、第3のレートにおいてフレームの第3のセットを出力し得る。たとえば、カメラプロセッサ14およびディスプレイインターフェース26は、第3のレートにおいて、フレームの第1のセットとフレームの第2のセットとフレームの第3のセットとを含む、再生のためのビデオコンテンツを生成するものと見なされ得る。この例では、スローモーションでのビデオキャプチャが依然として有効にされるので、カメラプロセッサ14がフレームを受信し、処理する、第4のレートは、第3のレートの表示レートよりも大きい。
【0104】
[0108]第2のカメラ12Bは、カメラパラメータ34Bに基づいてフレームをキャプチャし得る。たとえば、第1のカメラ12Aがフレームの第1のセットをキャプチャする間に、またはそれより前に、CPU16および/またはカメラプロセッサ14は、複数のカメラ12A~12Cの各々についてのAFパラメータ、AWBパラメータ、およびAECパラメータのうちの1つまたは複数を決定し(たとえば、カメラパラメータ34A~34Cを決定し)得る。そのような例では、第2のカメラ12Bによってキャプチャされたフレームの第3のセットを受信することは、第1のカメラ12Aがフレームの第1のセットをキャプチャする間に、またはそれより前に、第2のカメラ12Bについて決定されたAFパラメータ、AWBパラメータ、およびAECパラメータ(たとえば、カメラパラメータ34B)のうちの1つまたは複数に基づいてフレームの第3のセットを受信することを含む。たとえば、上記で説明されたように、カメラパラメータ34A~34Cは、安定していることがあるか、またはフレームをキャプチャすることの間に再決定されないことがある。したがって、3Aパラメータ34Bは、フレームの第1のセットがカメラ12Aによってキャプチャされたときに、またはその前に決定されたが、カメラパラメータ34Bは、依然として、カメラ12Bについて正確であり得る。
【0105】
[0109]上記で説明されたように、いくつかの例では、カメラプロセッサ14は、随意に、デジタルズーム回路40Bと、処理回路42Bと、バッファ44Bとを含み得る。デジタルズーム回路40B、処理回路42B、およびバッファ44Bのうちの1つまたは複数(たとえば、処理回路42Bは存在し得るが、デジタルズーム回路40Bは存在しない)。デジタルズーム回路40Bと、処理回路42Bと、バッファ44Bとは、異なるカメラ12A~12Cについてのズーム係数範囲において重複がある例において利用され得る。たとえば、いくつかの例では、カメラ12Aについてのズームしきい値は、0.5Xおよび1Xであり得、カメラ12Bについてのズームしきい値は、1X~2Xであり得る。しかしながら、いくつかの例では、カメラ12Aについてのズームしきい値は、0.5X~1.3Xであり得、カメラ12Bについてのズームしきい値は、1X~2Xであり得る。この例では、カメラ12Aおよび12Bについてのズーム係数範囲において1Xから1.3Xまでの重複がある。
【0106】
[0110]ズーム係数範囲において重複があるときの、デジタルズーム回路40B、処理回路42B、およびバッファ44Bの使用は、一例であり、限定するものと見なされるべきではない。デジタルズーム回路40Bと、処理回路42Bと、バッファ44Bとは、ズーム係数範囲において重複がない例においてさえ、依然として利用され得る。
【0107】
[0111]そのような例では、ズームインまたはズームアウトに応答して、処理回路42Aがカメラ12Aからのフレームを処理している場合、処理回路42Aは、カメラ12Aのズームしきい値が到達されるまで、カメラ12Aからのフレームを処理し続け得る。並列に、処理回路42Bは、カメラ12Bからのフレームを処理することを開始し得る。たとえば、スイッチ36は、カメラ12Aからの出力を(たとえば、デジタルズーム回路40Aを介して)処理回路42Aにルーティングし、カメラ12Bからの出力を(たとえば、デジタルズーム回路40Bを介して)処理回路42Bにルーティングするように構成され得る。処理回路42Bはバッファ44Bに出力し得る。
【0108】
[0112]カメラプロセッサ14はスイッチ46をも含み得る。スイッチ46は、バッファ44Aまたはバッファ44Bから選択的に出力するように構成され得る。いくつかの例では、カメラ12Aについてのズーム係数が1Xを通過して1.3Xに向かうにつれて、スイッチ46は、ズーム係数が1.3Xに到達するまで、バッファ44Aから出力するように構成され得る。並列に、ズーム係数が1Xを通った後に、処理回路42Bは、バッファ44Bにフレームを出力するように構成され得る。この場合、ズーム係数が1Xであることから1.3Xになるまで、バッファ44B中のフレームは、バッファ44Bがいっぱいになると上書きされ得る。しかしながら、ズーム係数が1.3Xに到達した後に、スイッチ46は、バッファ44Bから出力を選択するように切り替え得る。
【0109】
[0113]バッファ44Aとバッファ44Bの両方を有することは、カメラ12Aからカメラ12Bへの切替えがあるとき、表示すべきフレームにおけるギャップを回避するために有益であり得る。たとえば、表示される準備ができているフレームがすでにバッファ44B中にある。さもなければ、カメラ12Aからカメラ12Bへのスイッチオーバー(switch over)の間に、一瞬空白フレームがある可能性がある。バッファ44Bにフレームを事前充填することによって、空白フレームがないことがある。
【0110】
[0114]上記で説明されたように、スローモーションでのビデオキャプチャが有効にされた状態で、カメラプロセッサ14は、第1のレートにおいて第1のカメラ12によってキャプチャされたフレームの第1のセットを受信し、第1のカメラについてのズームしきい値までのズームインまたはズームアウトの間に、第1のレートよりも小さい第2のレートにおいて第1のカメラ12Aによってキャプチャされたフレームの第2のセットを受信するように構成され得る。いくつかの例では、フレームの第2のセットを処理することと並列に、カメラプロセッサ14は、複数のカメラ12A~12Cのうちの第2のカメラ12Bによってキャプチャされたフレームの第3のセットを受信し得る。たとえば、カメラ12Aが0.5Xから1.3Xまでズームインしている時間の間に、カメラプロセッサ14は、ズーム係数が1Xから1.3Xの間にあるときなど、カメラ12Bからのフレームの第3のセットを並列に受信し得る。カメラプロセッサ14は、フレームの第3のセットを処理し得る。
【0111】
[0115]スイッチ46は、第1のカメラ12Aについての第2のズームしきい値(たとえば、1.3X)が到達されるまで、表示のために、フレームの第2のセットを出力するようにバッファ44Aを選択するように構成され得る。スイッチ46は、次いで、第1のカメラ12Aについての第2のズームしきい値(たとえば、1.3X)が到達された後に、表示のために、フレームの第3のセットを出力するようにバッファ44Bを選択するように構成され得る。このようにして、再生のためのビデオコンテンツを生成することは、第3のレートにおいて、フレームの第1のセットと、第1のカメラについての第2のズームしきい値が到達されるまでのフレームの第2のセットと、第1のカメラについての第2のズームしきい値が到達された後のフレームの第3のセットとを含む、再生のためのビデオコンテンツを生成することを含み得る。この例では、第1のカメラ12Aと第2のカメラ12Bの両方が、第1のズームしきい値よりも大きいかまたはそれに等しい、および第2のズームしきい値よりも小さいかまたはそれに等しいズーム係数において動作するように構成される。たとえば、カメラ12Aとカメラ12Bの両方が、1Xよりも大きいかまたはそれに等しい、および1.3Xよりも小さいかまたはそれに等しいズーム係数において動作するように構成される。
【0112】
[0116]
図3は、ズームインまたはズームアウトを有効にするための例示的な方法を示す概念図である。
図3に示されている例では、ディスプレイ28は、各々がカメラ12A~12Cのうちの異なる1つについての異なるズームしきい値に関連付けられた、3つのアイコン48A~48Cを表示し得る。たとえば、アイコン48Aはカメラ12Aについて0.5Xに関連付けられ得、アイコン48Bはカメラ12Bについて1Xに関連付けられ得、アイコン48Cはカメラ12Cについて2Xに関連付けられ得る。したがって、いくつかの例では、カメラプロセッサ14および/またはCPU16は、(たとえば、スローモーションでのビデオキャプチャが有効にされる場合になど)ズームインまたはズームアウトするとの選択を受信する方法として、ズームするとの選択を示す情報を受信し得る。
【0113】
[0117]しかしながら、ピンチズームモーション(pinch to zoom motion)を示す情報を受信することによってなど、ズームインまたはズームアウトするとの選択を受信するための他の方法があり得る。ピンチズームモーションでは、ユーザは、ディスプレイ28上に2本の指を置き、2本の指を一緒にピンチしてズームアウトするか、または2本の指を広げてズームインし得る。
【0114】
[0118]どちらの場合も(たとえば、選択またはピンチズーム)、カメラプロセッサ14は、カメラプロセッサ14がフレームを受信している、カメラ12A~12Cのうちの1つのズーム係数が、カメラ12A~12Cのうちの1つについてのズームしきい値が到達されるまで、増加または減少することを引き起こし得る。ズームしきい値までズームインまたはズームアウトすること(たとえば、ズーム係数がズームしきい値に到達するのに要する約0.5秒)の間に、カメラプロセッサ14は、ユーザがズームインまたはズームアウトしていないときにカメラプロセッサ14がフレームを受信し、処理し得るレートよりも低いレートにおいて、フレームを受信し、処理し得る。
【0115】
[0119]
図4は、ズームインまたはズームアウトすることの一例を示すタイミング図である。
図4では、時間T0より前に、カメラプロセッサ14は、ズームが有効に(イネーブルに)されないので、30fpsにおいてカメラ12Aからフレームを受信するように構成され得る。
【0116】
[0120]時間T0において、ユーザは、(たとえば、ディスプレイ28を通した入力を介して)スローモーションを有効にし得る。時間T0から、カメラプロセッサ14は、第1のレートにおける第1のカメラ12Aによるフレームキャプチャの第1のセットを受信し得る。第1のレートは、120fps以上など、比較的高いことがある。処理回路42Aは、表示のためのビデオコンテンツを生成するためにフレームの第1のセットを処理するように構成され得る。処理回路42Aは、フレームの第1のセットをバッファ44Aに記憶し得る。
【0117】
[0121]T1において、CPU16および/またはカメラプロセッサ14は、ズームインまたはズームアウトするとの選択を受信し得る。たとえば、ズームインまたはズームアウトするとの選択を受信することは、(たとえば、アイコン48A~48Cのうちの1つの選択を介して)ピンチズームモーションを示す情報を受信すること、またはズームするとの選択を示す情報を受信することのうちの1つを含み得る。
【0118】
[0122]時間T1からT2まで、カメラ12Aについてのズーム係数は変化し得る。たとえば、0.5Xから1Xまでズームするのに約0.5秒要し得る。この0.5秒の間に、カメラプロセッサ14は、カメラ12Aによってキャプチャされたフレームを受信し得る。たとえば、第1のカメラ12Aについてのズームしきい値までのズームインまたはズームアウトの間に、カメラプロセッサ14は、第1のレートよりも小さい第2のレートにおいて第1のカメラ12Aによってキャプチャされたフレームの第2のセットを受信し得る。フレームの第2のセットは0.5Xのズーム係数について選択されたカメラパラメータ34Aを用いてキャプチャされるので、フレームの第2のセットの画像品質は、フレームの第1のセットの画像品質よりも劣っていることがある。一例として、第2のレートは30fpsであり得る。
【0119】
[0123]処理回路42Aは、表示のためのビデオコンテンツを生成するためにフレームの第2のセットを処理し、(たとえば、処理の後に)フレームの第2のセットをバッファ44Aに記憶し得る。カメラプロセッサ14は、バッファ44Aが、フレームの第1のセットとフレームの第2のセットとをシステムメモリ30に出力することを引き起こし得る。ディスプレイインターフェース26は、フレームの第1のセットとフレームの第2のセットとをシステムメモリ30から受信し、ディスプレイ28上での表示のために、第1のレートよりも小さい第3のレート(たとえば、30fps)においてフレームの第1のセットとフレームの第2のセットとを出力し得る。
【0120】
[0124]時間T2において、カメラ12Aについてのズームしきい値が到達され、カメラプロセッサ14は、第2のカメラ12Bからのフレームを処理する。たとえば、スイッチ36は、第2のカメラ12Bからの出力を(たとえば、必要な場合、デジタルズーム回路40Aを介して)処理回路42Aにルーティングするように切り替える。たとえば、第1のカメラ12Aについてのズームしきい値が到達された後に、カメラプロセッサ14は、第2のレート(たとえば、第2のレートは30fpsである)よりも大きい第4のレート(たとえば、120fps以上)において複数のカメラ12A~12Cのうちの第2のカメラ12Bによってキャプチャされたフレームの第3のセットを受信するように構成され得る。処理回路42Aは、表示のためのビデオコンテンツを生成するためにフレームの第3のセットを処理し、フレームの第3のセットをバッファ44Aに記憶し得る。バッファ44Aは、システムメモリ30にフレームの第3のセットを出力し得る。ディスプレイインターフェース26は、フレームの第3のセットを取り出し、表示のために、第3のレート(たとえば、30fps)においてフレームの第3のセットを出力し得る。
【0121】
[0125]時間T3において、ユーザは、スローモーションを伴うビデオキャプチャを無効に(ディセーブル)し得る。この場合、カメラプロセッサ14は、第2のカメラ12Bからフレームを受信し続け得る。しかしながら、カメラプロセッサ14が第2のカメラ12Bからフレームを受信するレートは、スローモーションが無効にされたので、比較的低くなり得る(たとえば、30fps)。この場合も、スローモーションでは、フレームは高いレートにおいてキャプチャされ、低いレートにおいて表示される。スローモーションが無効にされたとき、フレームがキャプチャされるレートは、フレームが表示されるレートとほぼ同じであり得る。
【0122】
[0126]
図5は、本開示で説明される1つまたは複数の例による動作の例示的な方法を示すフローチャートである。
図5の例は、1つまたは複数のプロセッサと第1のカメラとに関して説明され、1つまたは複数のプロセッサの例が、カメラプロセッサ14、CPU16、およびディスプレイインターフェース26のうちの1つまたは複数を含み、第1のカメラの例が、カメラ12A~12Cのいずれか1つを含む。
【0123】
[0127]1つまたは複数のプロセッサは、第1のレートにおいて第1のカメラによってキャプチャされたフレームの第1のセットを受信し得る(50)。たとえば、スローモーションでのビデオキャプチャが有効にされ得る。そのような場合、第1のレートは、120fps以上など、比較的高くなり得る。
【0124】
[0128]1つまたは複数のプロセッサは、表示のためのビデオを生成するためにフレームの第1のセットを処理し得る(52)。たとえば、処理回路42Aは、ビデオコンテンツを生成するためにフレームの第1のセットを処理し、フレームの得られた第1のセットをバッファ44Aに記憶するように構成され得る。
【0125】
[0129]ある時点において、1つまたは複数のプロセッサは、ズームインまたはズームアウトするとの選択を受信し得る(54)。たとえば、ズームインまたはズームアウトするとの選択を受信することは、スローモーションでのビデオキャプチャが有効にされた状態で、ズームインまたはズームアウトするとの選択を受信することを含み得る。
【0126】
[0130]第1のカメラについてのズームしきい値までのズームインまたはズームアウトの間に、1つまたは複数のプロセッサは、第1のレートよりも小さい第2のレートにおいて第1のカメラによってキャプチャされたフレームの第2のセットを受信し得る(56)。いくつかの例では、フレームの第2のセットを受信することは、スローモーションでのビデオキャプチャが有効にされた状態で、フレームの第2のセットを受信することを含む。上記で説明されたように、第1のカメラについてのズームしきい値に到達するように第1のカメラについてのズーム係数を増加または減少させるのに、ある時間量を要し得る。ズーム係数がズームしきい値まで増加または減少している時間の間に、キャプチャされるフレーム(たとえば、フレームの第2のセット)は、カメラパラメータがそれらのズーム係数について正確でないので、より劣った画像品質を有する傾向がある。いくつかの例では、フレームの第2のセットの画像品質は、フレームの第1のセットの画像品質よりも劣る。
【0127】
[0131]1つまたは複数のプロセッサは、表示のためのビデオコンテンツを生成するためにフレームの第2のセットを処理し得る(58)。フレームの第2のセットを処理することは、第1のカメラについてのズームしきい値が到達されるまでデジタルズームインまたはデジタルズームアウトを実施することを含み得る。たとえば、第1のカメラについてのズームしきい値が到達されるまでデジタルズームインまたはデジタルズームアウトを実施することは、フレームの第2のセットに対してズーム係数の増加または減少の間にクロッピングおよびサイズ変更を実施することを含み得る。
【0128】
[0132]バッファ44Aは、フレームの第1のセットとフレームの第2のセットとを記憶し得る。いくつかの例では、1つまたは複数のプロセッサは、第1のレートよりも小さい第3のレートにおいて、フレームの第1のセットとフレームの第2のセットとを含む、再生のためのビデオコンテンツを生成し得る(60)。1つまたは複数のプロセッサ(たとえば、ディスプレイインターフェース26)は、ディスプレイ28上での表示のために、第1のレートよりも小さい第3のレートにおいてフレームの第1のセットとフレームの第2のセットとを含む生成されたビデオコンテンツを出力し得る。
【0129】
[0133]第1のカメラは、1つまたは複数のプロセッサに結合された複数のカメラのうちの1つ(たとえば、カメラ12A~12Cのうちの1つ)である。第1のカメラについてのズームしきい値が到達された後に、1つまたは複数のプロセッサは、第2のレートよりも大きい第4のレートにおいて複数のカメラのうちの第2のカメラによってキャプチャされたフレームの第3のセットを受信し、表示のためのビデオコンテンツを生成するためにフレームの第3のセットを処理し、表示のために、第3のレートにおいてフレームの第3のセットを出力するように構成され得る。たとえば、1つまたは複数のプロセッサは、第3のレートにおいて、フレームの第1のセットとフレームの第2のセットとフレームの第3のセットとを含む、再生のためのビデオコンテンツを生成し、次いで、表示のために、再生のための生成されたビデオコンテンツを出力し得る。
【0130】
[0134]上記で説明されたように、複数のカメラは、それぞれのカメラパラメータに基づいてフレームをキャプチャし得る。たとえば、第1のカメラがフレームの第1のセットをキャプチャする間に、またはそれより前に、1つまたは複数のプロセッサは、複数のカメラの各々についてのAFパラメータ、AWBパラメータ、およびAECパラメータ(たとえば、カメラパラメータ34A~34C)のうちの1つまたは複数を決定するように構成され得る。そのような例では、第2のカメラによってキャプチャされたフレームの第3のセットを受信することは、第1のカメラがフレームの第1のセットをキャプチャする間に、またはそれより前に、第2のカメラについて決定されたAFパラメータ、AWBパラメータ、およびAECパラメータのうちの1つまたは複数に基づいてフレームの第3のセットを受信することを含み得る。
【0131】
[0135]いくつかの例では、ズームしきい値は第1のズームしきい値である。第1のカメラについての第1のズームしきい値が到達された後に、1つまたは複数のプロセッサは、フレームの第2のセットを処理することと並列に、複数のカメラのうちの第2のカメラによってキャプチャされたフレームの第3のセットを受信し(たとえば、スイッチ36は、第1のカメラからのフレームを処理回路42Aにルーティングし、第2のカメラからのフレームを処理回路42Bにルーティングする)、(たとえば、処理回路42Bを用いて)フレームの第3のセットを処理するように構成され得る。
【0132】
[0136]1つまたは複数のプロセッサは、第3のレートにおいて、フレームの第1のセットと、第1のカメラについての第2のズームしきい値が到達されるまでのフレームの第2のセットと、第1のカメラについての第2のズームしきい値が到達された後のフレームの第3のセットとを含む、再生のためのビデオコンテンツを生成するように構成され得る。たとえば、1つまたは複数のプロセッサは、表示のために、第1のカメラについての第2のズームしきい値が到達されるまでフレームの第2のセットを出力し、表示のために、第1のカメラについての第2のズームしきい値が到達された後にフレームの第3のセットを出力し得る。この例では、第1のカメラと第2のカメラの両方が、第1のズームしきい値よりも大きいかまたはそれに等しい、および第2のズームしきい値よりも小さいかまたはそれに等しいズーム係数において動作するように構成される。
【0133】
[0137]以下は、いくつかの例示的な技法について説明する。例示的な技法は、別々に、または任意の実際的組合せで一緒に使用され得る。
【0134】
[0138]条項1. ビデオコンテンツを生成するためのデバイスであって、デバイスが、第1のカメラと、第1のカメラに結合された1つまたは複数のプロセッサとを備え、1つまたは複数のプロセッサが、第1のレートにおいて第1のカメラによってキャプチャされたフレームの第1のセットを受信することと、表示のためのビデオコンテンツを生成するためにフレームの第1のセットを処理することと、ズームインまたはズームアウトするとの選択を受信することと、第1のカメラについてのズームしきい値までのズームインまたはズームアウトの間に、第1のレートよりも小さい第2のレートにおいて第1のカメラによってキャプチャされたフレームの第2のセットを受信することと、表示のためのビデオコンテンツを生成するためにフレームの第2のセットを処理することと、第1のレートよりも小さい第3のレートにおいて、フレームの第1のセットとフレームの第2のセットとを含む、再生のためのビデオコンテンツを生成することとを行うように構成された、デバイス。
【0135】
[0139]条項2. ズームインまたはズームアウトするとの選択を受信することが、スローモーションでのビデオキャプチャが有効にされた状態で、ズームインまたはズームアウトするとの選択を受信することを備え、フレームの第2のセットを受信することが、スローモーションでのビデオキャプチャが有効にされた状態で、フレームの第2のセットを受信することを備える、条項1に記載のデバイス。
【0136】
[0140]条項3. 第1のカメラが、1つまたは複数のプロセッサに結合された複数のカメラのうちの1つであり、ここにおいて、デバイスが複数のカメラのうちの第2のカメラを備え、ここにおいて、第1のカメラについてのズームしきい値が到達された後に、1つまたは複数のプロセッサが、第2のレートよりも大きい第4のレートにおいて複数のカメラのうちの第2のカメラによってキャプチャされたフレームの第3のセットを受信することと、表示のためのビデオコンテンツを生成するためにフレームの第3のセットを処理することとを行うように構成され、ここにおいて、再生のためのビデオコンテンツを生成することが、第3のレートにおいて、フレームの第1のセットとフレームの第2のセットとフレームの第3のセットとを含む、再生のためのビデオコンテンツを生成することを備える、条項1および2のいずれかに記載のデバイス。
【0137】
[0141]条項4. 第1のカメラがフレームの第1のセットをキャプチャする間に、またはそれより前に、1つまたは複数のプロセッサが、複数のカメラの各々について、自動焦点(AF)パラメータ、自動ホワイトバランス(AWB)パラメータ、および自動露光制御(AEC)パラメータのうちの1つまたは複数を決定するように構成され、第2のカメラによってキャプチャされたフレームの第3のセットを受信することは、第1のカメラがフレームの第1のセットをキャプチャする間に、またはそれより前に、第2のカメラについて決定されたAFパラメータおよびAECパラメータのうちの1つまたは複数に基づいてフレームの第3のセットを受信することを備える、条項3に記載のデバイス。
【0138】
[0142]条項5. フレームの第2のセットを処理することが、第1のカメラについてのズームしきい値が到達されるまでデジタルズームインまたはデジタルズームアウトを実施することを備え、ここにおいて、第1のカメラについてのズームしきい値が到達されるまでデジタルズームインまたはデジタルズームアウトを実施することが、フレームの第2のセットに対してズーム係数の増加または減少の間にクロッピングおよびサイズ変更を実施することを備える、条項1から4のいずれかに記載のデバイス。
【0139】
[0143]条項6. ズームしきい値が第1のズームしきい値を備え、ここにおいて、第1のカメラが、1つまたは複数のプロセッサに結合された複数のカメラのうちの1つであり、ここにおいて、第1のカメラについての第1のズームしきい値が到達された後に、1つまたは複数のプロセッサが、フレームの第2のセットを処理することと並列に、複数のカメラのうちの第2のカメラによってキャプチャされたフレームの第3のセットを受信することと、フレームの第3のセットを処理することとを行うように構成され、ここにおいて、再生のためのビデオコンテンツを生成することが、第3のレートにおいて、フレームの第1のセットと、第1のカメラについての第2のズームしきい値が到達されるまでのフレームの第2のセットと、第1のカメラについての第2のズームしきい値が到達された後のフレームの第3のセットとを含む、再生のためのビデオコンテンツを生成することを備え、ここにおいて、第1のカメラと第2のカメラの両方が、第1のズームしきい値よりも大きいかまたはそれに等しい、および第2のズームしきい値よりも小さいかまたはそれに等しいズーム係数において動作するように構成された、条項1から5のいずれかに記載のデバイス。
【0140】
[0144]条項7. 第1のレートが、120フレーム毎秒よりも大きいかまたはそれに等しい、条項1から6のいずれかに記載のデバイス。
【0141】
[0145]条項8. 第3のレートが第2のレートに等しい、条項1から7のいずれかに記載のデバイス。
【0142】
[0146]条項9. ズームインまたはズームアウトするとの選択を受信することが、ピンチズームモーションを示す情報を受信すること、またはズームするとの選択を示す情報を受信することのうちの1つを備える、条項1から8のいずれかに記載のデバイス。
【0143】
[0147]条項10. フレームの第2のセットの画像品質が、フレームの第1のセットの画像品質よりも劣る、条項1から9のいずれかに記載のデバイス。
【0144】
[0148]条項11. ビデオコンテンツを生成するための方法であって、方法が、1つまたは複数のプロセッサを用いて、第1のレートにおいて第1のカメラによってキャプチャされたフレームの第1のセットを受信することと、1つまたは複数のプロセッサを用いて、表示のためのビデオコンテンツを生成するためにフレームの第1のセットを処理することと、1つまたは複数のプロセッサを用いて、ズームインまたはズームアウトするとの選択を受信することと、第1のカメラについてのズームしきい値までのズームインまたはズームアウトの間に、1つまたは複数のプロセッサを用いて、第1のレートよりも小さい第2のレートにおいて第1のカメラによってキャプチャされたフレームの第2のセットを受信することと、1つまたは複数のプロセッサを用いて、表示のためのビデオコンテンツを生成するためにフレームの第2のセットを処理することと、1つまたは複数のプロセッサを用いて、第1のレートよりも小さい第3のレートにおいて、フレームの第1のセットとフレームの第2のセットとを含む、再生のためのビデオコンテンツを生成することとを備える、方法。
【0145】
[0149]条項12. ズームインまたはズームアウトするとの選択を受信することが、スローモーションでのビデオキャプチャが有効にされた状態で、ズームインまたはズームアウトするとの選択を受信することを備え、フレームの第2のセットを受信することが、スローモーションでのビデオキャプチャが有効にされた状態で、フレームの第2のセットを受信することを備える、条項11に記載の方法。
【0146】
[0150]条項13. 第1のカメラが、1つまたは複数のプロセッサに結合された複数のカメラのうちの1つであり、方法は、第1のカメラについてのズームしきい値が到達された後に、第2のレートよりも大きい第4のレートにおいて複数のカメラのうちの第2のカメラによってキャプチャされたフレームの第3のセットを受信することと、表示のためのビデオコンテンツを生成するためにフレームの第3のセットを処理することとをさらに備え、ここにおいて、再生のためのビデオコンテンツを生成することが、第3のレートにおいて、フレームの第1のセットとフレームの第2のセットとフレームの第3のセットとを含む、再生のためのビデオコンテンツを生成することを備える、条項11および12のいずれかに記載の方法。
【0147】
[0151]条項14. 第1のカメラがフレームの第1のセットをキャプチャする間に、またはそれより前に、複数のカメラの各々について、自動焦点(AF)パラメータ、自動ホワイトバランス(AWB)パラメータ、および自動露光制御(AEC)パラメータのうちの1つまたは複数を決定することをさらに備え、ここにおいて、第2のカメラによってキャプチャされたフレームの第3のセットを受信することは、第1のカメラがフレームの第1のセットをキャプチャする間に、またはそれより前に、第2のカメラについて決定されたAFパラメータおよびAECパラメータのうちの1つまたは複数に基づいてフレームの第3のセットを受信することを備える、条項13に記載の方法。
【0148】
[0152]条項15. フレームの第2のセットを処理することが、第1のカメラについてのズームしきい値が到達されるまでデジタルズームインまたはデジタルズームアウトを実施することを備え、ここにおいて、第1のカメラについてのズームしきい値が到達されるまでデジタルズームインまたはデジタルズームアウトを実施することが、フレームの第2のセットに対してズーム係数の増加または減少の間にクロッピングおよびサイズ変更を実施することを備える、条項11から14のいずれかに記載の方法。
【0149】
[0153]条項16. ズームしきい値が第1のズームしきい値を備え、ここにおいて、第1のカメラが、1つまたは複数のプロセッサに結合された複数のカメラのうちの1つであり、方法は、第1のカメラについての第1のズームしきい値が到達された後に、フレームの第2のセットを処理することと並列に、複数のカメラのうちの第2のカメラによってキャプチャされたフレームの第3のセットを受信することと、フレームの第3のセットを処理することとをさらに備え、ここにおいて、再生のためのビデオコンテンツを生成することが、第3のレートにおいて、フレームの第1のセットと、第1のカメラについての第2のズームしきい値が到達されるまでのフレームの第2のセットと、第1のカメラについての第2のズームしきい値が到達された後のフレームの第3のセットとを含む、再生のためのビデオコンテンツを生成することを備え、ここにおいて、第1のカメラと第2のカメラの両方が、第1のズームしきい値よりも大きいかまたはそれに等しい、および第2のズームしきい値よりも小さいかまたはそれに等しいズーム係数において動作するように構成された、条項11から15のいずれかに記載の方法。
【0150】
[0154]条項17. 第1のレートが、120フレーム毎秒よりも大きいかまたはそれに等しい、条項11から16のいずれかに記載の方法。
【0151】
[0155]条項18. 第3のレートが第2のレートに等しい、条項11から17のいずれかに記載の方法。
【0152】
[0156]条項19. ズームインまたはズームアウトするとの選択を受信することが、ピンチズームモーションを示す情報を受信すること、またはズームするとの選択を示す情報を受信することのうちの1つを備える、条項11から18のいずれかに記載の方法。
【0153】
[0157]条項20. フレームの第2のセットの画像品質が、フレームの第1のセットの画像品質よりも劣る、条項11から19のいずれかに記載の方法。
【0154】
[0158]条項21. 命令を記憶したコンピュータ可読記憶媒体であって、命令が、実行されたとき、1つまたは複数のプロセッサに、第1のレートにおいて第1のカメラによってキャプチャされたフレームの第1のセットを受信することと、表示のためのビデオコンテンツを生成するためにフレームの第1のセットを処理することと、ズームインまたはズームアウトするとの選択を受信することと、第1のカメラについてのズームしきい値までのズームインまたはズームアウトの間に、第1のレートよりも小さい第2のレートにおいて第1のカメラによってキャプチャされたフレームの第2のセットを受信することと、表示のためのビデオコンテンツを生成するためにフレームの第2のセットを処理することと、第1のレートよりも小さい第3のレートにおいて、フレームの第1のセットとフレームの第2のセットとを含む、再生のためのビデオコンテンツを生成することとを行わせる、コンピュータ可読記憶媒体。
【0155】
[0159]条項22. 1つまたは複数のプロセッサに、ズームインまたはズームアウトするとの選択を受信することを行わせる命令が、1つまたは複数のプロセッサに、スローモーションでのビデオキャプチャが有効にされた状態で、ズームインまたはズームアウトするとの選択を受信することを行わせる命令を備え、1つまたは複数のプロセッサに、フレームの第2のセットを受信することを行わせる命令が、1つまたは複数のプロセッサに、スローモーションでのビデオキャプチャが有効にされた状態で、フレームの第2のセットを受信することを行わせる命令を備える、条項21に記載のコンピュータ可読記憶媒体。
【0156】
[0160]条項23. 第1のカメラが複数のカメラのうちの1つであり、命令は、1つまたは複数のプロセッサに、第1のカメラについてのズームしきい値が到達された後に、第2のレートよりも大きい第4のレートにおいて複数のカメラのうちの第2のカメラによってキャプチャされたフレームの第3のセットを受信することと、表示のためのビデオコンテンツを生成するためにフレームの第3のセットを処理することとを行わせる命令をさらに備え、ここにおいて、再生のためのビデオコンテンツを生成することが、第3のレートにおいて、フレームの第1のセットとフレームの第2のセットとフレームの第3のセットとを含む、再生のためのビデオコンテンツを生成することを備える、条項21および22のいずれかに記載のコンピュータ可読記憶媒体。
【0157】
[0161]条項24. 1つまたは複数のプロセッサに、第1のカメラがフレームの第1のセットをキャプチャする間に、またはそれより前に、複数のカメラの各々について、自動焦点(AF)パラメータ、自動ホワイトバランス(AWB)パラメータ、および自動露光制御(AEC)パラメータのうちの1つまたは複数を決定することを行わせる命令をさらに備え、ここにおいて、第2のカメラによってキャプチャされたフレームの第3のセットを受信することは、第1のカメラがフレームの第1のセットをキャプチャする間に、またはそれより前に、第2のカメラについて決定されたAFパラメータおよびAECパラメータのうちの1つまたは複数に基づいてフレームの第3のセットを受信することを備える、条項23に記載のコンピュータ可読記憶媒体。
【0158】
[0162]条項25. ズームしきい値が第1のズームしきい値を備え、ここにおいて、第1のカメラが複数のカメラのうちの1つであり、命令は、1つまたは複数のプロセッサに、第1のカメラについての第1のズームしきい値が到達された後に、フレームの第2のセットを処理することと並列に、複数のカメラのうちの第2のカメラによってキャプチャされたフレームの第3のセットを受信することと、フレームの第3のセットを処理することとを行わせる命令をさらに備え、ここにおいて、再生のためのビデオコンテンツを生成することが、第3のレートにおいて、フレームの第1のセットと、第1のカメラについての第2のズームしきい値が到達されるまでのフレームの第2のセットと、第1のカメラについての第2のズームしきい値が到達された後のフレームの第3のセットとを含む、再生のためのビデオコンテンツを生成することを備え、ここにおいて、第1のカメラと第2のカメラの両方が、第1のズームしきい値よりも大きいかまたはそれに等しい、および第2のズームしきい値よりも小さいかまたはそれに等しいズーム係数において動作するように構成された、条項21から24のいずれかに記載のコンピュータ可読記憶媒体。
【0159】
[0163]条項26. ビデオコンテンツを生成するためのデバイスであって、デバイスが、第1のレートにおいて第1のカメラによってキャプチャされたフレームの第1のセットを受信するための手段と、表示のためのビデオコンテンツを生成するためにフレームの第1のセットを処理するための手段と、ズームインまたはズームアウトするとの選択を受信するための手段と、第1のカメラについてのズームしきい値までのズームインまたはズームアウトの間に、第1のレートよりも小さい第2のレートにおいて第1のカメラによってキャプチャされたフレームの第2のセットを受信するための手段と、表示のためのビデオコンテンツを生成するためにフレームの第2のセットを処理するための手段と、第1のレートよりも小さい第3のレートにおいて、フレームの第1のセットとフレームの第2のセットとを含む、再生のためのビデオコンテンツを生成するための手段とを備える、デバイス。
【0160】
[0164]1つまたは複数の例では、説明された機能は、ハードウェア、ソフトウェア、ファームウェア、またはそれらの任意の組合せで実装され得る。ソフトウェアで実装される場合、機能は、1つまたは複数の命令またはコードとしてコンピュータ可読媒体上に記憶されるか、あるいはコンピュータ可読媒体を介して送信され、ハードウェアベースの処理ユニットによって実行され得る。コンピュータ可読媒体は、データ記憶媒体などの有形媒体に対応するコンピュータ可読記憶媒体を含み得る。このようにして、コンピュータ可読媒体は、概して、非一時的である有形コンピュータ可読記憶媒体に対応し得る。データ記憶媒体は、本開示で説明された技法の実装のための命令、コードおよび/またはデータ構造を取り出すために、1つまたは複数のコンピュータあるいは1つまたは複数のプロセッサによってアクセスされ得る、任意の利用可能な媒体であり得る。コンピュータプログラム製品は、コンピュータ可読媒体を含み得る。
【0161】
[0165]限定ではなく例として、そのようなコンピュータ可読記憶媒体は、RAM、ROM、EEPROM、CD-ROMまたは他の光ディスクストレージ、磁気ディスクストレージ、または他の磁気ストレージデバイス、フラッシュメモリ、あるいは、命令またはデータ構造の形態の所望のプログラムコードを記憶するために使用され得、コンピュータによってアクセスされ得る、任意の他の媒体を備えることができる。コンピュータ可読記憶媒体およびデータ記憶媒体は、搬送波、信号、または他の一時的媒体を含まないが、代わりに非一時的有形記憶媒体を対象とすることを理解されたい。本明細書で使用されるディスク(disk)およびディスク(disc)は、コンパクトディスク(disc)(CD)、レーザーディスク(登録商標)(disc)、光ディスク(disc)、デジタル多用途ディスク(disc)(DVD)、フロッピー(登録商標)ディスク(disk)、およびBlu-ray(登録商標)ディスク(disc)を含み、ディスク(disk)は、通常、データを磁気的に再生し、ディスク(disc)は、データをレーザーで光学的に再生する。上記の組合せもコンピュータ可読媒体の範囲内に含まれるべきである。
【0162】
[0166]命令は、1つまたは複数のデジタル信号プロセッサ(DSP)、汎用マイクロプロセッサ、特定用途向け集積回路(ASIC)、フィールドプログラマブル論理アレイ(FPGA)、あるいは他の等価な集積回路またはディスクリート論理回路など、1つまたは複数のプロセッサによって実行され得る。したがって、本明細書で使用される「プロセッサ」という用語は、上記の構造、または、本明細書で説明された技法の実装に好適な任意の他の構造のいずれかを指し得る。さらに、いくつかの態様では、本明細書で説明された機能は、符号化および復号のために構成された専用ハードウェアおよび/またはソフトウェアモジュール内に提供されるか、あるいは複合コーデックに組み込まれ得る。また、本技法は、1つまたは複数の回路または論理要素において十分に実装され得る。
【0163】
[0167]本開示の技法は、ワイヤレスハンドセット、集積回路(IC)またはICのセット(たとえば、チップセット)を含む、多種多様なデバイスまたは装置において実装され得る。本開示では、開示される技法を実施するように構成されたデバイスの機能的態様を強調するために、様々な構成要素、モジュール、またはユニットが説明されたが、それらの構成要素、モジュール、またはユニットは、必ずしも異なるハードウェアユニットによる実現を必要とするとは限らない。むしろ、上記で説明されたように、様々なユニットが、好適なソフトウェアおよび/またはファームウェアとともに、上記で説明された1つまたは複数のプロセッサを含めて、コーデックハードウェアユニットにおいて組み合わせられるか、または相互動作可能なハードウェアユニットの集合によって提供され得る。
【0164】
[0168]様々な例が説明された。これらおよび他の例は、以下の特許請求の範囲内に入る。
【国際調査報告】