特開2019-41389(P2019-41389A)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ジロプティックの特許一覧

特開2019-41389パノラマまたは立体画像ストリームを取り込みかつレンダリングするためのプロセスおよび装置
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】特開2019-41389(P2019-41389A)
(43)【公開日】2019年3月14日
(54)【発明の名称】パノラマまたは立体画像ストリームを取り込みかつレンダリングするためのプロセスおよび装置
(51)【国際特許分類】
   H04N 5/232 20060101AFI20190215BHJP
   H04N 5/225 20060101ALI20190215BHJP
   H04N 13/243 20180101ALI20190215BHJP
   H04N 13/296 20180101ALI20190215BHJP
   G03B 15/00 20060101ALI20190215BHJP
   G03B 35/02 20060101ALI20190215BHJP
   G03B 37/00 20060101ALI20190215BHJP
   G03B 19/07 20060101ALI20190215BHJP
【FI】
   H04N5/232 380
   H04N5/225 800
   H04N13/243
   H04N13/296
   G03B15/00 W
   G03B15/00 H
   G03B35/02
   G03B37/00 A
   G03B19/07
【審査請求】有
【請求項の数】2
【出願形態】OL
【全頁数】30
(21)【出願番号】特願2018-180078(P2018-180078)
(22)【出願日】2018年9月26日
(62)【分割の表示】特願2015-542330(P2015-542330)の分割
【原出願日】2013年11月12日
(31)【優先権主張番号】1260880
(32)【優先日】2012年11月15日
(33)【優先権主張国】FR
(71)【出願人】
【識別番号】515130898
【氏名又は名称】ジロプティック
(74)【代理人】
【識別番号】100103816
【弁理士】
【氏名又は名称】風早 信昭
(74)【代理人】
【識別番号】100120927
【弁理士】
【氏名又は名称】浅野 典子
(72)【発明者】
【氏名】オリエ, リチャード
【テーマコード(参考)】
2H054
2H059
5C061
5C122
【Fターム(参考)】
2H054BB05
2H054BB07
2H059AA04
2H059AA12
2H059AA18
2H059BA02
2H059BA06
2H059BA11
5C061AB04
5C061AB08
5C122DA01
5C122EA61
5C122FA03
5C122FA04
5C122FB06
5C122FC01
5C122FC02
5C122FH04
5C122FH18
5C122HA88
5C122HB02
(57)【要約】      (修正有)
【課題】少なくとも1つの撮像デバイスを用いてパノラマまたは立体画像のデータ列を取り込みかつレンダリングする。
【解決手段】連続キャプチャ動作における各キャプチャ動作は、シーンの少なくとも2つの異なる画像を画素フォーマットで取り込むことを含み、周波数レートでタイミングをとられること、画像キャプチャ動作中に、各キャプチャ動作からパノラマまたは立体画像を形成するために、取り込まれた画像の画素がデジタル処理され、かつ前記パノラマまたは立体画像のストリームが画像キャプチャ動作中に生成されること、および取り込まれた各画像の各画素のデジタル処理が、前記画素を少なくとも維持または破棄し、かつ画素が維持される場合には、最終パノラマまたは立体画像の各位置の予め定められた重み付け係数を用いて、画素に最終パノラマまたは立体画像の1つまたは幾つかの位置を割り当てることを含む。
【選択図】なし
【特許請求の範囲】
【請求項1】
シーンのパノラマまたは立体画像のストリームを取り込みかつレンダリングするためのプロセスにおいて、少なくとも1つの撮像デバイス(Ci)を用いて、画像の重なりの有無にかかわらず、幾つかの連続キャプチャ動作が実行されること、ただし、各キャプチャ動作は、シーンの少なくとも2つの異なる画像を画素フォーマットで取り込むことを含み、前記連続キャプチャ動作は、周波数レートでタイミングをとられること、画像キャプチャ動作中に、各キャプチャ動作からパノラマまたは立体画像を形成するために、取り込まれた画像の画素がデジタル処理され、かつ前記パノラマまたは立体画像のストリームが画像キャプチャ動作中に生成されること、および取り込まれた各画像の各画素のデジタル処理が、前記画素を少なくとも維持または破棄し、かつ画素が維持される場合には、最終パノラマまたは立体画像の各位置の予め定められた重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像の1つまたは幾つかの位置を割り当てることを含むことを特徴とするプロセス。
【請求項2】
パノラマまたは立体画像のストリームを取り込みかつレンダリングするための装置において、前記装置は、少なくとも2つの異なる画像を画素セットフォーマットで取り込むことを可能にする1つまたは幾つかの撮像デバイス(Ci)と、画像の重なりの有無にかかわらず、前記撮像デバイス(Ci)を用いて、幾つかの連続キャプチャ動作を実行することを可能にする電子処理手段(10)であって、各キャプチャ動作は、シーンの少なくとも2つの異なる画像を画素フォーマットで取り込むことを含み、画像キャプチャ動作中に、パノラマまたは立体画像を形成することを考慮して、取り込まれた画像の画素をデジタル処理すると共に前記パノラマまたは立体画像のストリームを画像キャプチャ動作中に生成するのに適した電子処理手段(10)とを備えていること、前記電子処理手段は、前記撮像デバイスを使用して、前記連続キャプチャ動作を周波数レートで実行することを可能にすること、および取り込まれた各画像の各画素のデジタル処理が、前記画素を少なくとも維持または破棄し、かつ画素が維持される場合には、最終パノラマまたは立体画像の各位置の重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像の1つまたは幾つかの位置を割り当てることを含むことを特徴とする装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、立体またはパノラマ画像ストリームを取り込みかつレンダリングするためのプロセスおよび装置に関する。パノラマまたは立体画像のこのストリームは、フィルムとして、またはパノラマまたは立体画像のストリームから1つまたは幾つかの静止画像を抽出することを考慮して処理するために、保存、転送、または配信することができる。
【背景技術】
【0002】
「ワンショット」パノラマ画像キャプチャの領域では、例えばCCDまたはCMOSカメラ型の幾つかの撮像デバイスが公知であり、各撮像デバイスは、シーンの画像をイメージセンサに投影させることを可能にする光学手段(レンズ)と結合された、例えばCCDまたはCMOS型のイメージセンサを含む。撮像デバイスの光軸は様々な方向に向けられ、画像キャプチャの光学視野は、画像の完全なパノラマ視野を網羅することを考慮して重複することがある。国際特許出願公開第2012/032236号パンフレットは、「光学群」と呼ばれ視界360°のパノラマ画像の「ワンショット」キャプチャを可能にする3つの撮像デバイスを含む、特に小型の光学装置を開示している。
【0003】
本書では、用語「パノラマ画像」とは、視界360°の単一画像のキャプチャに限定することなく、より一般的に、パノラマ画像キャプチャに使用される撮像デバイスの各々によってカバーされる光学視野より大きい拡張視野に従ってレンダリングされる画像に適用可能な、最も広い意味に理解すべきである。
【0004】
パノラマ画像を取り込むこのプロセスを用いて、撮像デバイスの各々は、限定された光学視野におけるシーンの画像を画素マトリックスの形で取得し、次いで画像は、最終パノラマ画像を生成することを考慮して、画像の重複領域のレベルで画像のデジタル「スティッチング」を可能にする外部のデジタル処理手段に転送される。
【0005】
撮像デバイスによって取り込まれた画像を表す各画素マトリックスは、撮像デバイスによって「見られる」球領域の3D表面の二次元投影法から生じる。この二次元投影法は各撮像デバイスに依存し、特に撮像レンズの光学的特徴および画像キャプチャ中の撮像デバイスの空間的方位(「ヨー」、ピッチ」、および「ロール」)に依存する。
【0006】
先行技術では、パノラマ画像を形成するための画像のデジタルスティッチングは例えば、イメージセンサによって送達された画像を並置するときに、かつ最終パノラマ画像を得ることを考慮して、画像の重複領域のレベルで画像のデジタルスティッチングを実行することによって行われた。この場合、デジタルスティッチングの実現は画素の二次元投影法を変化させず、最終パノラマ画像の画素は、画像の送り元であるイメージセンサの二次元投影法を維持する。
【0007】
このデジタルスティッチングは、例えば国際特許出願公開第2011/037964号パンフレットまたは米国特許出願公開第2009/0058988号明細書に開示されているように、自動的に実行することができ、あるいは国際特許出願公開第2010/01476号パンフレットに開示されているように、手動支援を用いて半自動的に実行することができる。
【0008】
パノラマ画像をレンダリングするためのデジタル画像スティッチング解決策はまた、2005年1月26日付けのRichard Szeliskiによる「Image Alignment and Stitching:A Tutorial」と題する論文でも提案された。この論文では、デジタルスティッチングは、保存された画像に、動的にではなく、静的に実行されたので、この論文に開示されたデジタルスティッチング解決策では、パノラマ画像の動的ストリームをレンダリングすることができず、ましてや、パノラマ画像の動的ストリームを画像が取り込まれているときに実時間でレンダリングすることなどできない。
【0009】
立体画像キャプチャの領域では、シーンの2つの平面画像を取り込み、それに続いて、奥行きおよび輪郭の知覚を可能にする立体3D画像を作成することを考慮して、2つの平面画像をデジタル処理することから成るプロセスが、それ以外に公知である。
【0010】
パノラマまたは立体画像を取り込みかつレンダリングするための上述したプロセスは、特に測色、ホワイトバランス、露光時間、および自動利得に関して最終デジタル画像(パノラマか立体かに関係なく)内の均質性の問題を生じる、別個のまたは独立した光学手段を有するセンサによって取得された画像を用いて、パノラマまたは立体画像をレンダリングすることの不利益を呈する。
【0011】
さらに、上述した画像のデジタルスティッチングプロセスは、パノラマ画像を実時間に取り込みかつフィルムとしてレンダリングするのに不利な計算時間を必要とする。
【0012】
米国特許出願第2009/0058988号明細書には、処理時間を改善し、かつパノラマ画像の取込みと共に実時間のデジタルスティッチングを可能にすることを考慮して、低解像度画像のマッピングに基づくデジタルスティッチング解決策が例えば提案されている。
【発明の概要】
【発明が解決しようとする課題】
【0013】
一般的に、本発明の目的は、1つまたは幾つかの撮像デバイスを用いてパノラマまたは立体画像のストリームを取り込みかつレンダリングするための新しい技術的解決策を提案することである。
【0014】
さらに詳しくは、本発明の第1のより具体的な態様によると、新しい解決策は、デジタル処理の速度を高めることを可能にし、したがってパノラマまたは立体画像のストリームを実時間で取り込みかつレンダリングすることを容易にする。
【0015】
さらに詳しくは、本発明の別のより具体的な態様によると、新しい解決策は、別個のまたは独立した光学手段を持つセンサの実現から生じる上述した不都合を軽減することを可能にし、特に、品質を向上したパノラマまたは立体画像をより容易に得ることを可能にする。
【0016】
本発明の枠組内で、パノラマまたは立体画像のストリームは、例えばフィルムとして保存、転送、または配信することができ、あるいはその後、ストリームから1つまたは幾つかのパノラマまたは立体画像を静的に抽出することを考慮して処理することができる。
【課題を解決するための手段】
【0017】
本発明の第1態様によると、本発明の主たる目的は、シーンのパノラマまたは立体画像のストリームを取り込みかつレンダリングするためのプロセスであり、その間に、少なくとも1つの撮像デバイス(Ci)を使用して、画像の重なりの有無にかかわらず、画素フォーマットでシーンの少なくとも2つの異なる画像の幾つかの連続キャプチャ動作が実行され、連続キャプチャ動作は2つの連続キャプチャ動作の開始間のキャプチャ時間(T)を定義する周波数レート(F)で行われ、キャプチャ動作毎に、(a)各画像の画素は、前記画素を用いて最終パノラマまたは立体画像を形成することを考慮して、前記キャプチャ時間(T)以下の処理時間でデジタル処理され、かつ(b)前に形成された最終パノラマまたは立体画像が前記キャプチャ時間(T)以下の時間間隔で生成され、取り込まれた各画像の各画素のデジタル処理(a)は、少なくとも前記画素を破棄または維持し、かつ画素が維持される場合には、最終パノラマまたは立体画像の各位置の予め定められた重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像内の1つまたは幾つかの位置を割り当てることからなる。
【0018】
本発明の他の目的として、パノラマまたは立体画像のストリームを取り込みかつレンダリングするための装置であることがあげられる。この装置は、少なくとも2つの異なる画像を1組の画素として取り込むことを可能にする1つまたは幾つかの撮像デバイス(Ci)と、取り込まれた画像を用いてパノラマまたは立体画像のレンダリングを可能にする処理のための電子手段とを備え、電子処理手段は、1つまたは幾つかの撮像デバイスを用いて、画像の重なりの有無にかかわらず、画素フォーマットで、かつ2つの連続キャプチャ動作の開始間のキャプチャ時間(T)を定義する連続キャプチャ動作の周波数レート(F)で、シーンの少なくとも2つの異なる画像の幾つかの連続キャプチャ動作を実行することを可能にし、電子処理手段は、キャプチャ動作毎に、(a)前記キャプチャ時間(T)以下の処理時間で、前記画素を用いて最終パノラマまたは立体画像を形成することを考慮して、取り込まれた各画像の画素をデジタル処理し、かつ(b)前記キャプチャ時間(T)以下の時間間隔にわたって、前に形成された最終パノラマまたは立体画像を生成するのに適しており、電子処理手段を用いた各画像の各画素のデジタル処理は、前記画素を少なくとも維持または破棄し、かつ画素が維持される場合には、最終パノラマまたは立体画像の各位置の予め定められた重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像内の1つまたは幾つかの異なる位置を割り当てることからなる。
【0019】
本発明の第2態様によると、本発明の目的はまた、シーンのパノラマまたは立体画像のストリームを取り込みかつレンダリングするためのプロセスであって、少なくとも1つの撮像デバイス(Ci)を用いて、画像の重なりの有無にかかわらず、画素フォーマットで、シーンの少なくとも2つの異なる画像の幾つかの連続キャプチャ動作が実行されること、および画像キャプチャ動作中に、パノラマまたは立体画像を形成することを考慮して、取り込まれた画像の画素がデジタル処理され、かつパノラマまたは立体画像のストリームが生成されること、および取り込まれた各画像の各画素のデジタル処理が、前記画素を少なくとも維持または破棄し、かつ画素が維持される場合には、最終パノラマまたは立体画像の各位置の予め定められた重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像の1つまたは幾つかの位置を割り当てることからなることを特徴とするプロセスでもある。
【0020】
本発明の前記第2態様によると、本発明の目的はまた、パノラマまたは立体画像のストリームを取り込みかつレンダリングするための装置であって、前記装置は、少なくとも2つの異なる画像を画素セットフォーマットで取り込むことを可能にする1つまたは幾つかの撮像デバイス(Ci)と、画像の重なりの有無にかかわらず、1つまたは幾つかの画像キャプチャ手段が画素フォーマットでシーンの少なくとも2つの異なる画像の幾つかの連続キャプチャ動作を実行することを可能にする電子処理手段であって、画像キャプチャ動作中に、パノラマまたは立体画像を形成することを考慮して、取り込まれた画像の画素をデジタル処理すると共にパノラマまたは立体画像のストリームを生成するのに適した電子処理手段とを備えていること、および取り込まれた各画像の各画素のデジタル処理が、前記画素を少なくとも維持または破棄し、かつ画素が維持される場合には、最終パノラマまたは立体画像の各位置の予め定められた重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像の1つまたは幾つかの位置を割り当てることからなることを特徴とする装置でもある。
【0021】
本発明の第3態様によると、本発明の目的はまた、シーンのパノラマまたは立体画像のストリームを取り込みかつレンダリングするためのプロセスであって、その間に、少なくとも1つの撮像デバイスを用いて、画像の重なりの有無にかかわらず、画素フォーマットでシーンの少なくとも2つの異なる画像の幾つかの連続キャプチャ動作が実行され、各撮像デバイスが、画像を画素セットフォーマットで取り込むことを可能にし、かつ取り込まれた各画像の出力として、少なくとも第1クロック信号(H_sensor)に従って同期した画素のストリームを送出して成る、プロセスでもある。取り込まれた各画像の各画素は、前記画素を少なくとも第2クロック信号(H)に従って同期した画素のストリームとして使用して最終パノラマまたは立体画像を生成することを考慮して、デジタル処理される。
【0022】
本発明の前記第3態様によると、本発明の目的はまた、パノラマまたは立体画像のストリームを取り込みかつレンダリングするための装置でもあり、前記装置は、画像の重なりの有無にかかわらず、画素フォーマットでシーンの少なくとも2つの異なる画像の幾つかの連続キャプチャ動作を実行することを可能にする1つまたは幾つかの撮像デバイスと、取り込まれた画像を用いてパノラマまたは立体画像のストリームのレンダリングを可能にする電子処理手段とを備える。各撮像デバイスは、取り込まれた画像の各々の出力として、少なくとも第1クロック信号(H_sensor)に従って同期した画素のストリームを送出するのに適している。電子処理手段は、少なくとも第2クロック信号(H)に従って同期した画素のストリームとして前記画素を使用して、最終パノラマまたは立体画像を生成することを考慮して、取り込まれた画像の各画素をデジタル処理するように設計される。
【0023】
本発明の第4態様によると、本発明の目的はまた、シーンの少なくとも1つのパノラマまたは立体画像を取り込みかつレンダリングすることでもあり、その間に、画像の重なりの有無に関わらず、少なくとも1つの撮像デバイス(Ci)を用いてシーンの少なくとも2つの異なる画像が取り込まれ、各撮像デバイスは画像を画素セットフォーマットで取り込むことを可能にし、かつ取り込まれた各画像の出力として画素のストリームを送出し、取り込まれた各画像の画素のストリームは、前記画素を用いて少なくとも最終パノラマまたは立体画像をレンダリングすることを考慮してデジタル処理され、取り込まれた各画像に対応する画素のストリームの各画素のデジタル処理は、前記画素を少なくとも維持または破棄し、画素が維持される場合には、最終パノラマまたは立体画像の各位置の予め定められた重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像の1つまたは幾つかの位置を割り当てることからなる。
【0024】
本発明の前記第4態様によると、本発明の目的はまた、少なくとも1つのパノラマまたは立体画像を取り込みかつレンダリングするための装置でもあり、前記装置は、画像の重なりの有無に関わらず、少なくとも2つの異なる画像の取込みを可能にする1つまたは幾つかの撮像デバイス(Ci)(各イメージセンサ(Ci)は取り込まれた各画像に対して画素のストリームを送出するのに適する)と、画像キャプチャ動作中に、取り込まれた各画像の画素ストリームを用いてパノラマまたは立体画像のレンダリングを可能にする電子処理手段とを備える。デジタル電子手段は、取り込まれた画像の画素ストリームの各画素を維持または破棄し、かつ画素が維持される場合には、最終パノラマまたは立体画像の各位置の予め定められた重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像の1つまたは幾つかの異なる位置を割り当てることで、前記画素を処理するように設計される。
具体的には、本発明は、以下の(1)〜(134)の構成を有する。
(1)シーンのパノラマまたは立体画像のストリームを取り込みかつレンダリングするためのプロセスにおいて、少なくとも1つの撮像デバイス(Ci)を使用して、画像の重なりの有無にかかわらず、画素フォーマットでシーンの少なくとも2つの異なる画像の幾つかの連続キャプチャ動作が実行され、連続キャプチャ動作は2つの連続キャプチャ動作の開始間のキャプチャ時間(T)を定義する周波数レート(F)で行われること、キャプチャ動作毎に、(a)各画像の画素は、前記画素を用いて最終パノラマまたは立体画像を形成することを考慮して、前記キャプチャ時間(T)以下の処理時間でデジタル処理され、かつ(b)前に形成された最終パノラマまたは立体画像が前記キャプチャ時間(T)以下の時間間隔で生成されること、および取り込まれた各画像の各画素のデジタル処理(a)は、少なくとも前記画素を破棄または維持し、かつ画素が維持される場合には、最終パノラマまたは立体画像の各位置の予め定められた重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像内の1つまたは幾つかの位置を割り当てることからなることを特徴とするプロセス。
(2)前記最終パノラマまたは立体画像は前記キャプチャ周波数Fと同一周波数レートで生成される、(1)に記載のプロセス。
(3)前記キャプチャ時間(T)は1秒以下であり、好ましくは100ミリ秒以下である、(1)または(2)のいずれかに記載のプロセス。
(4)各最終パノラマまたは立体画像は、2つの連続画像キャプチャ動作の開始を隔てる時間間隔(t)中に連続的に生成される、(1)ないし(3)のいずれか一項に記載のプロセス。
(5)2つの連続画像キャプチャ動作の開始を隔てる前記時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、前記時間間隔(t)と同一時間間隔中に行われる画素のデジタル処理の結果生じる、(4)に記載のプロセス。
(6)2つの連続画像キャプチャ動作の開始を隔てる前記時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、先行する時間間隔(t)中に実行された画素のデジタル処理の結果生じる、(4)に記載のプロセス。
(7)各画素のデジタル処理は、前記取り込まれた画像からの前記画素の少なくとも一部が、前記画素を導出した前記撮像デバイスの画像に対する前記同じ画素の二次元投影法とは異なる二次元投影法を受けた後で、最終パノラマまたは立体画像にマッピングされるように実行される、(1)ないし(6)のいずれか一項に記載のプロセス。
(8)前記取り込まれた画像からの幾つかの画素には各々、前記最終パノラマまたは立体画像の幾つかの異なる位置が割り当てられる、(1)ないし(7)のいずれか一項に記載のプロセス。
(9)前記取り込まれた画像からの幾つかの画素には各々、前記最終パノラマまたは立体画像の少なくとも1つの位置が、零ではなくかつ厳密には100%未満の重み付け係数(W)と共に割り当てられる、(1)ないし(8)のいずれか一項に記載のプロセス。
(10)前記シーンの少なくとも2つの異なる画像が、少なくとも2つの撮像デバイス(C、C)を使用して取り込まれる、(1)ないし(9)のいずれか一項に記載のプロセス。
(11)前記シーンの少なくとも3つの異なる画像が、少なくとも3つの撮像デバイス(C、C、C)を使用して取り込まれる、(1)ないし(9)のいずれか一項に記載のプロセス。
(12)各撮像デバイス(C)は、各画像の出力として、少なくとも第1クロック信号(H_sensor)に従って同期した画素のストリームを送出するように設計され、かつ各最終パノラマまたは立体画像は、少なくとも第2クロック信号(H)に従って同期した画素のストリームとして送出される、(1)ないし(11)のいずれか一項に記載のプロセス。
(13)前記第2クロック信号(H)は、前記第1(H_sensor)クロック信号の各々と比較して非同期である、(12)に記載のプロセス。
(14)前記第2クロック信号(H)は前記第1クロック信号(H_sensor)と同期する、(12)に記載のプロセス。
(15)少なくとも1つの撮像デバイスを用いて取り込まれた画像の画素の前記デジタル処理は、取り込まれた画像の各画素に対し、前記最終パノラマまたは立体画像におけるこの特定の画素の対応位置を符号化し、かつ各位置に対し、前記最終パノラマまたは立体画像における前記画素を符号化する予め保存された対応表を、前記最終パノラマまたは立体画像における画素の重み付け係数(W)と共に使用して実行される、(1)ないし(14)のいずれかに記載のプロセス。
(16)パノラマまたは立体画像のストリームを取り込みかつレンダリングするための装置であって、前記装置は、少なくとも2つの異なる画像を画素セットフォーマットで取り込むことを可能にする1つまたは幾つかの撮像デバイス(Ci)と、取り込まれた画像を用いてパノラマまたは立体画像のレンダリングを可能にする電子処理手段(10)とを備える装置において、電子処理手段(10)は、前記撮像デバイスを用いて、画像の重なりの有無にかかわらず、画素フォーマットで、かつ2つの連続キャプチャ動作の開始間のキャプチャ時間(T)を定義する連続画像キャプチャ動作の周波数レート(F)で、シーンの少なくとも2つの異なる画像の幾つかの連続キャプチャ動作を実行することを可能にすること、電子処理手段(10)は、キャプチャ動作毎に、(a)前記キャプチャ時間(T)以下の処理時間で、前記画素を用いて最終パノラマまたは立体画像を形成することを考慮して、取り込まれた各画像の画素をデジタル処理し、かつ(b)前記キャプチャ時間(T)以下の時間間隔にわたって、前に形成された最終パノラマまたは立体画像を生成するのに適していること、および電子処理手段(10)を用いた各画像の各画素のデジタル処理は、前記画素を少なくとも維持または破棄し、かつ最終パノラマまたは立体画像の各位置の重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像内の1つまたは幾つかの異なる位置を割り当てることからなることを特徴とする装置。
(17)前記電子処理手段(10)は、前記キャプチャ周波数レート(F)と同一周波数レートで連続的に最終パノラマまたは立体画像を生成するのに適する、(16)に記載の装置。
(18)前記キャプチャ時間(T)は1秒以下であり、好ましくは100ミリ秒以下である、(16)または(17)のいずれかに記載の装置。
(19)前記電子処理手段は、2つの連続画像キャプチャ動作の開始を隔てる各時間間隔(t)中に、各最終パノラマまたは立体画像を連続的に生成するように設計された、(16)ないし(18)のいずれか一項に記載の装置。
(20)2つの連続画像キャプチャ動作の開始を隔てる前記時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、前記時間間隔(t)と同一時間間隔中の画素のデジタル処理から生じる、(19)に記載の装置。
(21)2つの連続画像キャプチャ動作の開始を隔てる前記時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、先行する時間間隔(t)中の画素のデジタル処理から生じる、(19)に記載の装置。
(22)前記電子処理手段(10)は、前記取り込まれた画像の前記画素の少なくとも一部が、前記画素を導出した前記撮像デバイスの画像に対する前記同じ画素の二次元投影法とは異なる二次元投影法を受けた後で、最終パノラマまたは立体画像にマッピングされるように各画素を処理するように設計された、(16)ないし(21)のいずれか一項に記載の装置。
(23)前記電子処理手段(10)は、前記取り込まれた画像からの幾つかの画素の各々一つに、前記最終パノラマまたは立体画像の幾つかの異なる位置を割り当てることによって、前記取り込まれた画像からの幾つかの画素を処理するように設計された、(16)ないし(22)のいずれか一項に記載の装置。
(24)前記電子処理手段(10)は、前記取り込まれた画像からの幾つかの画素の各々一つに、前記最終画像の少なくとも1つの位置を、零ではなくかつ厳密には100%未満の重み付け係数(W)と共に割り当てることによって、前記取り込まれた画像からの幾つかの画素を処理するように設計された、(16)ないし(23)のいずれか一項に記載の装置。
(25)少なくとも2つの撮像デバイス(C、C)を含む、(16)ないし(24)のいずれか一項に記載の装置。
(26)少なくとも3つの撮像デバイス(C、C、C)を含む、(16)ないし(24)のいずれか一項に記載の装置。
(27)各撮像デバイス(C)は、取り込まれた各画像の出力として、少なくとも第1クロック信号(H_sensor)に従って同期した画素のストリームを送出するように設計され、かつ電子処理手段は、各最終パノラマまたは立体画像を、少なくとも第2クロック信号(H)に従って同期した画素のストリームとして送出するのに適する、(16)ないし(25)のいずれか一項に記載の装置。
(28)前記第2クロック信号(H)は、前記第1(H_sensor)クロック信号の各々と比較して非同期である、(27)に記載の装置。
(29)前記第2クロック信号(H)は前記第1クロック信号(H_sensor)と同期する、(27)に記載の装置。
(30)前記電子処理手段(10)は、少なくとも1つの撮像デバイス(Ci)によって取り込まれた画像の各画素に対し、前記最終パノラマまたは立体画像における前記画素の対応位置を符号化し、かつ各位置に対し、前記最終パノラマまたは立体画像における前記画素を符号化する予め保存された対応表を、前記最終パノラマまたは立体画像における前記画素の重み付け係数(W)と共に備える、(16)ないし(29)のいずれかに記載の装置。
(31)前記装置が携帯可能であることを特徴とする、(16)ないし(30)のいずれか一項に記載の装置。
(32)シーンのパノラマまたは立体画像のストリームを取り込みかつレンダリングするためのプロセスにおいて、少なくとも1つの撮像デバイス(Ci)を用いて、画像の重なりの有無にかかわらず、画素フォーマットで、シーンの少なくとも2つの異なる画像の幾つかの連続キャプチャ動作が実行されること、および画像キャプチャ動作中に、パノラマまたは立体画像を形成するために、取り込まれた画像の画素がデジタル処理され、かつパノラマまたは立体画像のストリームが生成されること、および取り込まれた各画像の各画素のデジタル処理が、前記画素を少なくとも維持または破棄し、かつ画素が維持される場合には、最終パノラマまたは立体画像の各位置の予め定められた重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像の1つまたは幾つかの位置を割り当てることからなることを特徴とするプロセス。
(33)前記連続キャプチャ動作は、2つの連続キャプチャ動作の開始間のキャプチャ時間(T)を定義する周波数レート(F)でタイミングをとられる、(32)に記載のプロセス。
(34)キャプチャ動作毎に、(a)取り込まれた各画像の画素は、前記画素を用いて最終パノラマまたは立体画像を形成するために、前記キャプチャ時間(T)以下の処理時間でデジタル処理され、かつ(b)最終パノラマまたは立体画像が前記キャプチャ時間(T)以下の時間間隔で生成される、(33)に記載のプロセス。
(35)前記連続キャプチャ動作は、2つの連続キャプチャ動作の開始間のキャプチャ時間(T)を定義する周波数レート(F)でタイミングをとられ、前記最終パノラマまたは立体画像は、前記画像キャプチャ周波数レート(F)と同一周波数レートで連続的に生成される、(32)ないし(34)のいずれか一項プロセス。
(36)前記連続キャプチャ動作は、2つの連続画像キャプチャ動作の開始間のキャプチャ時間(T)を定義する周波数レート(F)でタイミングをとられ、前記画像キャプチャ時間(T)は1秒以下であり、好ましくは100ミリ秒以下である、(32)ないし(35)のいずれか一項に記載のプロセス。
(37)各最終パノラマまたは立体画像は、2つの連続画像キャプチャ動作の開始を隔てる各時間間隔(t)中に連続的に生成される、(32)ないし(36)のいずれか一項に記載のプロセス。
(38)2つの連続キャプチャ動作の開始を隔てる時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、前記時間間隔(t)と同一時間間隔(t)中に実行された画素のデジタル処理の結果生じる、(37)に記載のプロセス。
(39)2つの連続キャプチャ動作の開始を隔てる時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、先行する時間間隔(t)中に実行された画素のデジタル処理の結果生じる、(37)に記載のプロセス。
(40)各画素のデジタル処理は、前記取り込まれた画像の前記画素の少なくとも一部が、前記画素を導出した前記撮像デバイスの画像に対する前記同じ画素の二次元投影法とは異なる二次元投影法を受けた後で、最終パノラマまたは立体画像にマッピングされるように実行される、(32)ないし(39)のいずれか一項プロセス。
(41)前記取り込まれた画像の幾つかの画素は、各々一つに、前記最終パノラマまたは立体画像の幾つかの異なる位置が割り当てられることによって処理される、(32)ないし(40)のいずれか一項に記載のプロセス。
(42)前記取り込まれた画像の幾つかの画素は、各々一つに、前記最終パノラマまたは立体画像の位置が、零ではなくかつ厳密には100%未満の重み付け係数(W)と共に割り当てられることによって処理される、(32)ないし(41)のいずれか一項に記載のプロセス。
(43)前記シーンの少なくとも2つの異なる画像が、少なくとも2つの撮像デバイス(C、C)を使用して取り込まれる、(32)ないし(42)のいずれか一項に記載のプロセス。
(44)少なくとも3つの異なる画像が、少なくとも3つの撮像デバイス(C、C、C)を使用して取り込まれる、(32)ないし(42)のいずれか一項に記載のプロセス。
(45)パノラマまたは立体画像のストリームを取り込みかつレンダリングするための装置において、前記装置は、少なくとも2つの異なる画像を画素セットフォーマットで取り込むことを可能にする1つまたは幾つかの撮像デバイス(Ci)と、画像の重なりの有無にかかわらず、前記撮像デバイス(Ci)を用いて、画素フォーマットでシーンの少なくとも2つの異なる画像の幾つかの連続キャプチャ動作を実行することを可能にする電子処理手段(10)であって、画像キャプチャ動作中に、パノラマまたは立体画像を形成することを考慮して、取り込まれた画像の画素をデジタル処理すると共にパノラマまたは立体画像のストリームを生成するのに適した電子処理手段(10)とを備えていること、および取り込まれた各画像の各画素のデジタル処理が、前記画素を少なくとも維持または破棄し、かつ画素が維持される場合には、最終パノラマまたは立体画像の各位置の重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像の1つまたは幾つかの位置を割り当てることからなることを特徴とする装置。
(46)前記電子処理手段(10)は、前記撮像デバイスを用いて、連続キャプチャ動作の周波数レート(F)で前記連続画像キャプチャ動作を実行することを可能にし、但し前記周波数レートは、2つの連続キャプチャ動作の開始間のキャプチャ時間(T)を定義する、(45)に記載の装置。
(47)キャプチャ動作毎に、電子処理手段(10)は、(a)キャプチャ時間(T)以下の処理時間で、前記画素を用いて最終パノラマまたは立体画像を形成することを考慮して、取り込まれた各画像の画素をデジタル処理し、かつ(b)前記キャプチャ時間(T)以下の時間間隔で、前に形成された最終パノラマまたは立体画像を生成するのに適する、(45)に記載の装置。
(48)前記電子処理手段(10)は、前記撮像デバイスを用いて、連続画像キャプチャ動作の周波数レート(F)で前記連続画像キャプチャ動作を実行することを可能にし、但し前記周波数レートは、2つの連続画像キャプチャ動作の開始間のキャプチャ時間(T)を定義し、電子処理手段(10)は、前記最終パノラマまたは立体画像を前記キャプチャ周波数Fと同一周波数レートで生成するのに適する、(45)ないし(47)のいずれか一項に記載の装置。
(49)前記電子処理手段(10)は、前記撮像デバイスを用いて、連続画像キャプチャ動作の周波数レート(F)で前記連続画像キャプチャ動作を実行することを可能にし、但し前記周波数レートは、2つの連続キャプチャ動作の開始間のキャプチャ時間(T)を定義し、前記キャプチャ時間(T)は1秒以下であり、好ましくは100ミリ秒以下である、(45)ないし(48)のいずれか一項に記載の装置。
(50)前記電子処理手段(10)は、2つの連続画像キャプチャ動作の開始を隔てる各時間間隔(t)中に、各最終パノラマまたは立体画像を連続的に生成するように設計された、(45)ないし(49)のいずれか一項に記載の装置。
(51)2つの連続画像キャプチャ動作の開始を隔てる時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、前記時間間隔(t)と同一時間間隔中に行われる画素のデジタル処理から生じる、(50)に記載の装置。
(52)2つの連続画像キャプチャ動作の開始を隔てる時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、先行する時間間隔(t)中に行われる画素のデジタル処理から生じる、(50)に記載の装置。
(53)前記電子処理手段(10)は、前記取り込まれた画像からの前記画素の少なくとも一部が、前記画素を導出した前記撮像デバイスの画像に対する前記同じ画素の二次元投影法とは異なる二次元投影法を受けた後で、最終パノラマまたは立体画像にマッピングされるように各画素を処理するように設計された、(45)ないし(52)のいずれか一項に記載の装置。
(54)前記電子処理手段(10)は、前記取り込まれた画像からの幾つかの画素の各々一つに、前記最終パノラマまたは立体画像の幾つかの異なる位置を割り当てることによって、前記取り込まれた画像からの幾つかの画素を処理するように設計された、(45)ないし(53)のいずれか一項に記載の装置。
(55)前記電子処理手段(10)は、前記取り込まれた画像からの幾つかの画素の各々一つに、前記最終パノラマまたは立体画像の少なくとも1つの位置を、零ではなくかつ厳密には100%未満の重み付け係数(W)と共に割り当てることによって、前記取り込まれた画像からの幾つかの画素を処理するように設計された、(45)ないし(54)のいずれか一項に記載の装置。
(56)少なくとも2つの撮像デバイス(C、C)を含む、(45)ないし(55)のいずれか一項に記載の装置。
(57)少なくとも3つの撮像デバイス(C、C、C)を含む、(45)ないし(55)のいずれか一項に記載の装置。
(58)各撮像デバイス(C)は、取り込まれた各画像の出力として、少なくとも第1クロック信号(H_sensor)に従って同期した画素のストリームを送出するように設計され、かつ電子処理手段(10)は、各最終パノラマまたは立体画像を、少なくとも第2クロック信号(H)に従って同期した画素のストリームとして送出するのに適する、(45)ないし(56)のいずれか一項に記載の装置。
(59)前記第2クロック信号(H)は、前記第1(H_sensor)クロック信号の各々と比較して非同期である、(58)に記載の装置。
(60)前記第2クロック信号(H)は前記第1クロック信号(H_sensor)と同期する、(58)に記載の装置。
(61)前記電子処理手段(10)は、少なくとも1つの撮像デバイス(Ci)を用いて取り込まれた画像の各画素に対し、前記パノラマまたは立体画像における前記画素の対応位置を符号化し、かつ各位置に対し、前記最終パノラマまたは立体画像における前記画素を符号化する予め保存された対応表を、前記最終パノラマまたは立体画像における前記画素の重み付け係数(W)と共に備える、(45)ないし(60)のいずれかに記載の装置。
(62)前記装置が携帯可能であることを特徴とする、(45)ないし(61)のいずれか一項に記載の装置。
(63)シーンのパノラマまたは立体画像のストリームを取り込みかつレンダリングするためのプロセスであって、少なくとも1つの撮像デバイス(Ci)を用いて、画像の重なりの有無にかかわらず、画素フォーマットでシーンの少なくとも2つの異なる画像の幾つかの連続画像キャプチャ動作が実行され、各撮像デバイス(Ci)が、画像を画素セットフォーマットで取り込むことを可能にし、かつ取り込まれた各画像の出力として、少なくとも第1クロック信号(H_sensor)に従って同期した画素のストリームを送出し、取り込まれた各画像の各画素は、前記画素を少なくとも第2クロック信号(H)に従って同期した画素のストリームとして使用して最終パノラマまたは立体画像を生成することを考慮して、デジタル処理されることを特徴とするプロセス。
(64)前記第2クロック信号(H)は、前記第1(H_sensor)クロック信号の各々と比較して非同期である、(63)に記載のプロセス。
(65)前記第2クロック信号(H)は前記第1クロック信号(H_sensor)と同期する、(63)に記載のプロセス。
(66)前記連続画像キャプチャ動作は、2つの連続画像キャプチャ動作の開始間のキャプチャ時間(T)を定義する周波数レート(F)で行われる、(63)ないし(65)のいずれか一項に記載のプロセス。
(67)キャプチャ動作毎に、(a)取り込まれた各画像の画素は、前記画素を用いて最終パノラマまたは立体画像をレンダリングすることを考慮して、前記キャプチャ時間(T)以下の処理時間で処理され、かつ(b)レンダリングされた最終パノラマまたは立体画像が前記キャプチャ時間(T)以下の時間間隔で生成される、(66)に記載のプロセス。
(68)取り込まれた各画像の各画素のデジタル処理は、前記画素を少なくとも維持または破棄し、かつ画素が維持される場合には、最終パノラマまたは立体画像の各位置の重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像内の1つまたは幾つかの位置を割り当てることからなる、(63)ないし(67)のいずれか一項に記載のプロセス。
(69)前記連続画像キャプチャ動作は、2つの連続画像キャプチャ動作の開始間のキャプチャ時間(T)を定義する周波数レート(F)で行われ、前記最終パノラマまたは立体画像は、前記キャプチャ周波数Fと同一周波数レートで生成される、(63)ないし(68)のいずれか一項に記載のプロセス。
(70)前記連続画像キャプチャ動作は、2つの連続画像キャプチャ動作の開始間のキャプチャ時間(T)を定義する周波数レート(F)で行われ、前記キャプチャ時間(T)は1秒以下であり、好ましくは100ミリ秒以下である、(63)ないし(69)のいずれか一項に記載のプロセス。
(71)各最終パノラマまたは立体画像は、2つの連続画像キャプチャ動作の開始を隔てる各時間間隔(t)中に連続的に生成される、(63)ないし(70)のいずれか一項に記載のプロセス。
(72)2つの連続画像キャプチャ動作の開始を隔てる時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、前記時間間隔(t)と同一時間間隔中に実行される画素のデジタル処理の結果生じる、(71)に記載のプロセス。
(73)2つの連続画像キャプチャ動作の開始を隔てる時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、先行する時間間隔(t)中に実行された画素のデジタル処理の結果生じる、(71)に記載のプロセス。
(74)各画素のデジタル処理は、前記取り込まれた画像の前記画素の少なくとも一部が、前記画素を導出した前記撮像デバイスの画像に対する前記同じ画素の二次元投影法とは異なる二次元投影法を受けた後で、最終パノラマまたは立体画像にマッピングされるように実行される、(63)ないし(73)のいずれか一項に記載のプロセス。
(75)前記取り込まれた画像の幾つかの画素は、各々一つに、前記最終パノラマまたは立体画像の幾つかの異なる位置を割り当てることによって処理される、(63)ないし(74)のいずれか一項に記載のプロセス。
(76)前記取り込まれた画像の幾つかの画素は、各々一つに、前記最終パノラマまたは立体画像の少なくとも1つの位置を、零ではなくかつ厳密には100%未満の重み付け係数(W)と共に割り当てることによって処理される、(63)ないし(75)のいずれか一項に記載のプロセス。
(77)シーンの少なくとも2つの異なる画像が、少なくとも2つの撮像デバイス(C、C)を使用して取り込まれる、(63)ないし(76)のいずれか一項に記載のプロセス。
(78)前記シーンの少なくとも3つの異なる画像が、少なくとも3つの撮像デバイス(C、C、C)を使用して取り込まれる、(63)ないし(76)のいずれか一項に記載のプロセス。
(79)各撮像デバイス(C)は、取り込まれた各画像の出力として、少なくとも第1クロック信号(H_sensor)に従って同期した画素のストリームを送出するように設計され、かつ各最終パノラマまたは立体画像は、少なくとも第2クロック信号(H)に従って同期した画素のストリームとして送出される、(63)ないし(78)のいずれか一項に記載のプロセス。
(80)前記第2クロック信号(H)は、前記第1(H_sensor)クロック信号の各々と比較して非同期である、(79)に記載のプロセス。
(81)前記第2クロック信号(H)は前記第1クロック信号(H_sensor)と同期する、(79)に記載のプロセス。
(82)パノラマまたは立体画像のストリームを取り込みかつレンダリングするための装置であって、前記装置は、画像の重なりの有無にかかわらず、画素フォーマットでシーンの少なくとも2つの異なる画像の幾つかの連続画像キャプチャ動作を実行することを可能にする1つまたは幾つかの撮像デバイス(C)と、取り込まれた画像を用いてパノラマまたは立体画像のストリームのレンダリングを可能にする電子処理手段(10)とを備え、各撮像デバイスは、取り込まれた画像の各々の出力として、少なくとも第1クロック信号(H_sensor)に従って同期した画素のストリームを送出するのに適しており、電子処理手段(10)は、少なくとも第2クロック信号(H)に従って同期した画素のストリームとして前記画素を使用して、最終パノラマまたは立体画像を生成することを考慮して、取り込まれた画像の各画素をデジタル処理するように設計されることを特徴とする装置。
(83)前記電子処理手段(10)は、前記撮像デバイスを用いて、連続画像キャプチャ動作の周波数レート(F)で前記画像キャプチャ動作を実行することを可能にし、但し前記周波数レートは、2つの連続キャプチャ動作の開始間のキャプチャ時間(T)を定義する、(82)に記載の装置。
(84)前記電子処理手段(10)は、キャプチャ動作毎に、(a)前記キャプチャ時間(T)以下の処理時間で、前記画素を用いて最終パノラマまたは立体画像を形成することを考慮して、取り込まれた各画像の画素をデジタル処理し、かつ(b)前記キャプチャ時間(T)以下の時間間隔で、前に形成された最終パノラマまたは立体画像を生成するのに適する、(83)に記載の装置。
(85)前記電子処理手段(10)によって実行される各画像の各画素のデジタル処理は、前記画素を少なくとも維持または破棄し、かつ画素が維持される場合には、最終パノラマまたは立体画像の各位置の重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像内の幾つかの異なる位置を割り当てることからなる、(82)ないし(84)のいずれか一項に記載の装置。
(86)前記電子処理手段(10)は、前記撮像デバイスを用いて、画像キャプチャ動作の周波数レート(F)で前記連続画像キャプチャ動作を実行することを可能にし、但し前記周波数レートは、2つの連続画像キャプチャ動作の開始間のキャプチャ時間(T)を定義し、電子処理手段(10)は、前記最終パノラマまたは立体画像を前記キャプチャ周波数Fと同一周波数レートで連続的に生成するのに適する、(82)ないし(85)のいずれか一項に記載の装置。
(87)前記電子処理手段(10)は、前記撮像デバイスを用いて、画像キャプチャ動作の周波数レート(F)で前記画像キャプチャ動作を連続的に実行することを可能にし、但し前記周波数レートは、2つの連続画像キャプチャ動作の開始間のキャプチャ時間(T)を定義し、前記キャプチャ時間(T)は1秒以下であり、好ましくは100ミリ秒以下である、(82)ないし(86)のいずれか一項に記載の装置。
(88)前記電子処理手段(10)は、2つの連続キャプチャ動作の開始を隔てる各時間間隔(t)中に、各最終パノラマまたは立体画像を連続的に生成するように設計された、(82)ないし(87)のいずれか一項に記載の装置。
(89)2つの連続画像キャプチャ動作の開始を隔てる前記時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、前記時間間隔(t)と同一時間間隔中の画素のデジタル処理の結果生じる、(88)に記載の装置。
(90)2つの連続画像キャプチャ動作の開始を隔てる時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、先行する時間間隔(t)中の画素のデジタル処理の結果生じる、(88)に記載の装置。
(91)前記電子処理手段(10)は、前記取り込まれた画像からの前記画素の少なくとも一部が、前記画素を導出した前記撮像デバイスの画像に対する前記同じ画素の二次元投影法とは異なる二次元投影法を受けた後で、最終パノラマまたは立体画像にマッピングされるように各画素を処理するように設計された、(82)ないし(90)のいずれか一項に記載の装置。
(92)前記電子処理手段(10)は、前記取り込まれた画像の幾つかの画素の各々一つに、前記最終パノラマまたは立体画像の幾つかの異なる位置を割り当てることによって、前記取り込まれた画像の幾つかの画素を処理するように設計された、(82)ないし(91)のいずれか一項に記載の装置。
(93)前記電子処理手段(10)は、前記取り込まれた画像の幾つかの画素の各々一つに、前記最終画像の少なくとも1つの位置を、零ではなくかつ厳密には100%未満の重み付け係数(W)と共に割り当てることによって、前記取り込まれた画像の幾つかの画素を処理するように設計された、(82)ないし(92)のいずれか一項に記載の装置。
(94)少なくとも2つの撮像デバイス(C、C)を含む、(82)ないし(93)のいずれか一項に記載の装置。
(95)少なくとも3つの撮像デバイス(C、C、C)を含む、(82)ないし(93)のいずれか一項に記載の装置。
(96)前記第2クロック信号(H)は、前記第1(H_sensor)クロック信号の各々と比較して非同期である、(82)ないし(95)のいずれか一項に記載の装置。
(97)前記第2クロック信号(H)は前記第1クロック信号(H_sensor)と同期する、(82)ないし(95)のいずれか一項に記載の装置。
(98)電子処理手段(10)は、少なくとも1つの撮像デバイス(Ci)を用いて取り込まれた画像の各画素に対し、前記最終パノラマまたは立体画像における前記画素の対応位置を符号化し、かつ各位置に対し、前記最終パノラマまたは立体画像における前記画素を符号化する予め保存された対応表を、前記最終パノラマまたは立体画像における前記画素の重み付け係数(W)と共に備える、(82)ないし(97)のいずれかに記載の装置。
(99)前記装置が携帯可能であることを特徴とする、(82)ないし(98)のいずれか一項に記載の装置。
(100)シーンの少なくとも1つのパノラマまたは立体画像を取り込みかつレンダリングするためのプロセスであって、画像の重なりの有無に関わらず、少なくとも1つの撮像デバイス(Ci)を用いてシーンの少なくとも2つの異なる画像が取り込まれ、各撮像デバイス(Ci)は、1つの画像を画素セットフォーマットで取り込むことを可能にし、かつ取り込まれた各画像の出力として画素のストリームを送出し、取り込まれた各画像の画素のストリームは、前記画素を用いて少なくとも1つの最終パノラマまたは立体画像を形成することを考慮してデジタル処理され、取り込まれた各画像に対応する画素のストリームの各画素のデジタル処理は、前記画素を少なくとも維持または破棄し、画素が維持される場合には、最終パノラマまたは立体画像の各位置の重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像の1つまたは幾つかの位置を割り当てることからなることを特徴とするプロセス。
(101)シーンの幾つかのパノラマまたは立体画像のストリームを取り込みかつレンダリングすることを可能にする(100)に記載のプロセスであって、少なくとも1つの撮像デバイス(Ci)を用いて、画像の重なりの有無にかかわらず、画素フォーマットで、シーンの少なくとも2つの異なる画像の幾つかの連続画像キャプチャ動作が実行されること、および連続画像キャプチャ動作が、2つの連続キャプチャ動作の開始間のキャプチャ時間(T)を定義する周波数レート(F)で行われる、プロセス。
(102)キャプチャ動作毎に、(a)前記キャプチャ時間(T)以下の処理時間で、前記画素を用いて最終パノラマまたは立体画像を形成することを考慮して、取り込まれた各画像の画素のデジタル処理が実行され、かつ(b)前記キャプチャ時間(T)以下の時間間隔で、前に形成された最終パノラマまたは立体画像が生成される、(101)に記載の装置。
(103)前記連続キャプチャ動作は、2つの連続キャプチャ動作の開始間のキャプチャ時間(T)を定義する周波数レート(F)で実行され、前記最終パノラマまたは立体画像は前記キャプチャ周波数レート(F)と同一周波数レートで連続的に生成される、(100)ないし(102)のいずれか一項に記載のプロセス。
(104)前記連続キャプチャ動作は、2つの連続キャプチャ動作の開始間のキャプチャ時間(T)を定義する周波数レート(F)で実行され、前記キャプチャ時間(T)は1秒以下であり、好ましくは100ミリ秒以下である、(100)ないし(103)のいずれか一項に記載のプロセス。
(105)各最終パノラマまたは立体画像は、2つの連続キャプチャ動作の開始を隔てる各時間間隔(t)中に連続的に生成される、(100)ないし(104)のいずれか一項に記載のプロセス。
(106)2つの連続キャプチャ動作の開始を隔てる時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、前記時間間隔(t)と同一時間間隔(t)中に行われる画素のデジタル処理から生じる、(105)に記載のプロセス。
(107)2つの連続キャプチャ動作の開始を隔てる前記時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、先行する時間間隔(t)中に行われる画素のデジタル処理から生じる、(105)に記載のプロセス。
(108)各画素のデジタル処理は、前記取り込まれた画像の前記画素の少なくとも一部が、前記画素を導出した前記撮像デバイスの画像に対する前記同じ画素の二次元投影法とは異なる二次元投影法を受けた後で、最終パノラマまたは立体画像にマッピングされるように実行される、(100)ないし(107)のいずれか一項に記載のプロセス。
(109)前記取り込まれた画像の幾つかの画素は、各々一つに、前記最終パノラマまたは立体画像の幾つかの異なる位置が割り当てられることによって処理される、(100)ないし(108)のいずれか一項に記載のプロセス。
(110)前記取り込まれた画像の幾つかの画素は、各々一つに、前記最終パノラマまたは立体画像の少なくとも1つの位置が、零ではなくかつ厳密には100%未満の重み付け係数(W)と共に割り当てられることによって処理される、(100)ないし(109)のいずれか一項に記載のプロセス。
(111)シーンの少なくとも2つの異なる画像が、少なくとも2つの撮像デバイス(C、C)を使用して取り込まれる、(100)ないし(110)のいずれか一項に記載のプロセス。
(112)シーンの少なくとも3つの異なる画像が、少なくとも3つの撮像デバイス(C、C、C)を使用して取り込まれる、(100)ないし(110)のいずれか一項に記載のプロセス。
(113)前記撮像デバイス(C)は、取り込まれた各画像の出力として、少なくとも第1クロック信号(H_sensor)に従って同期した画素のストリームを送出するように設計され、かつ各最終パノラマまたは立体画像は、少なくとも第2クロック信号(H)に従って同期した画素のストリームとして送出される、(100)ないし(112)のいずれか一項に記載のプロセス。
(114)前記第2クロック信号(H)は、前記第1(H_sensor)クロック信号の各々と比較して非同期である、(113)に記載のプロセス。
(115)前記第2クロック信号(H)は前記第1クロック信号(H_sensor)と同期する、(113)に記載のプロセス。
(116)少なくとも1つの撮像デバイスを用いて取り込まれた画像の画素のデジタル処理は、少なくとも1つの撮像デバイスを用いて取り込まれた画像の各画素に対し、前記最終パノラマまたは立体画像における前記画素の対応位置を符号化し、かつ各位置に対し、前記最終パノラマまたは立体画像における前記画素を符号化する予め保存された対応表を、前記最終パノラマまたは立体画像における画素の重み付け係数(W)と共に参照して実行される、(100)ないし(115)のいずれかに記載のプロセス。
(117)少なくとも1つのパノラマまたは立体画像を取り込みかつレンダリングするための装置であって、前記装置は、画像の重なりの有無に関わらず、少なくとも2つの異なる画像の取込みを可能にする1つまたは幾つかの撮像デバイス(Ci)(各イメージセンサ(Ci)は取り込まれた各画像に対して画素のストリームを送出するのに適する)と、画像キャプチャ動作中に、取り込まれた各画像の画素ストリームを用いてパノラマまたは立体画像のレンダリングを可能にする電子処理手段(10)とを備え、前記電子処理手段(10)は、取り込まれた各画像の画素ストリームの各画素を維持または破棄し、かつ画素が維持される場合には、最終パノラマまたは立体画像の各位置の予め定められた重み付け係数(W)を用いて、画素に最終パノラマまたは立体画像の1つまたは幾つかの異なる位置を割り当てることで、前記画素を処理するように設計されることを特徴とする装置。
(118)幾つかのパノラマまたは立体画像のストリームを取り込みかつレンダリングすることを可能にする(117)に記載の装置であって、電子処理手段(10)は、1つまたは幾つかの前記撮像デバイス(Ci)を用いて、画像の重なりの有無にかかわらず、画素フォーマットで、シーンの少なくとも2つの異なる画像の幾つかの連続画像キャプチャ動作を、2つの連続キャプチャ動作の開始間のキャプチャ時間(T)を定義する連続画像キャプチャ動作の周波数レート(F)で実行することを可能にする、装置。
(119)前記電子処理手段(10)は、キャプチャ動作毎に、(a)前記キャプチャ時間(T)以下の処理時間で、前記画素を用いて最終パノラマまたは立体画像を形成することを考慮して、取り込まれた各画像の画素をデジタル処理し、かつ(b)前記キャプチャ時間(T)以下の時間間隔で、前に形成された最終パノラマまたは立体画像を生成するのに適する、(118)に記載の装置。
(120)前記電子処理手段(10)は、前記撮像デバイスを用いて、前記連続画像キャプチャ動作を、2つの連続画像キャプチャ動作の開始間のキャプチャ時間(T)を定義する連続画像キャプチャ動作の周波数レート(F)で実行することを可能にし、前記電子処理手段(10)は、前記キャプチャ周波数レート(F)と同一周波数レートで連続的に最終パノラマまたは立体画像を生成するのに適する、(117)ないし(119)のいずれか一項に記載の装置。
(121)前記電子処理手段(10)は、前記撮像デバイスを用いて、前記連続画像キャプチャ動作を、2つの連続画像キャプチャ動作の開始間のキャプチャ時間(T)を定義する連続画像キャプチャ動作の周波数レート(F)で実行することを可能にし、前記キャプチャ時間(T)は1秒以下であり、好ましくは100ミリ秒以下である、(117)または(120)のいずれか一項に記載の装置。
(122)前記電子処理手段(10)は、2つの連続画像キャプチャ動作の開始を隔てる各時間間隔(t)中に、各最終パノラマまたは立体画像を連続的に生成するように設計された(117)ないし(121)のいずれか一項に記載の装置。
(123)2つの連続画像キャプチャ動作の開始を隔てる前記時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、前記時間間隔(t)と同一時間間隔に行われる画素のデジタル処理から生じる、(122)に記載の装置。
(124)2つの連続画像キャプチャ動作の開始を隔てる時間間隔(t)中に生成される前記最終パノラマまたは立体画像は、先行する時間間隔(t)中に行われる画素のデジタル処理から生じる、(122)に記載の装置。
(125)前記電子処理手段(10)は、前記画素の少なくとも一部が、前記画素を導出した前記撮像デバイスの画像に対する前記同じ画素の二次元投影法とは異なる二次元投影法を受けた後で、最終パノラマまたは立体画像にマッピングされるように各画素を処理するように設計された、(117)ないし(124)のいずれか一項に記載の装置。
(126)前記電子処理手段(10)は、前記取り込まれた画像の幾つかの画素の各々一つに、前記最終パノラマまたは立体画像の幾つかの異なる位置を割り当てることによって、前記取り込まれた画像の幾つかの画素を処理するように設計された、(117)ないし(125)のいずれか一項に記載の装置。
(127)前記電子処理手段(10)は、前記取り込まれた画像の幾つかの画素の各々一つに、前記最終画像の少なくとも1つの位置を、零ではなくかつ厳密には100%未満の重み付け係数(W)と共に割り当てることによって、前記取り込まれた画像の幾つかの画素を処理するように設計された、(117)ないし(126)のいずれか一項に記載の装置。
(128)少なくとも2つの撮像デバイス(C、C)を含む、(117)ないし(127)のいずれか一項に記載の装置。
(129)少なくとも3つの撮像デバイス(C、C、C)を含む、(117)ないし(127)のいずれか一項に記載の装置。
(130)各撮像デバイス(C)は、取り込まれた各画像の出力として、少なくとも第1クロック信号(H_sensor)に従って同期した画素のストリームを送出するように設計され、かつ電子処理手段は、各パノラマまたは立体画像を、少なくとも第2クロック信号(H)に従って同期した画素のストリームとして送出するのに適する、(117)ないし(129)のいずれか一項に記載の装置。
(131)前記第2クロック信号(H)は、前記第1(H_sensor)クロック信号の各々と比較して非同期である、(130)に記載の装置。
(132)前記第2クロック信号(H)は前記第1クロック信号(H_sensor)と同期する、(130)に記載の装置。
(133)前記電子処理手段(10)は、少なくとも1つの撮像デバイス(Ci)を用いて取り込まれた画像の各画素に対し、前記最終パノラマまたは立体画像における前記画素の対応位置を符号化し、かつ各位置に対し、前記最終パノラマまたは立体画像における前記画素を符号化する予め保存された対応表を、前記最終パノラマまたは立体画像における前記画素の重み付け係数(W)と共に備える、(117)ないし(132)のいずれかに記載の装置。
(134)前記装置が携帯可能であることを特徴とする、(117)ないし(133)のいずれか一項に記載の装置。
【図面の簡単な説明】
【0025】
本発明の特徴および利点は、本発明の非限定的または非包括的実施例として、かつ添付の図面に関連して提供する、本発明の好適な実施形態の1つについての以下の詳細な説明に照らして、より明確になるであろう。
【0026】
図1図1は、本発明に係る装置の電子アーキテクチャの実施例の概要である。
【0027】
図2図2は、図1の装置の主電子信号のクロノグラフ例である。
【0028】
図3図3は、「魚眼」レンズの画像取込み領域の光学/画素視野間の対応の例を示す。
【0029】
図4図4は、最終パノラマ画像の一部分でイメージセンサを用いて取り込まれた画素マトリックスの再マッピングの実施例である。
【0030】
図5図5は、最終パノラマ画像の画素Pi,jと、イメージセンサを用いて取り込まれた画素マトリックスとの間の幾何学的対応の例を示す。
【0031】
図6A-6D】図6A−6Dは、RAW形式の画像の特定の事例の様々な再マッピング図を表す。
図6E-6G】図6E−6Gは、RAW形式の画像の特定の事例の様々な再マッピング図を表す。
図6H-6I】図6H−6Iは、RAW形式の画像の特定の事例の様々な再マッピング図を表す。
【0032】
図7A-7D】図7A−7Dは、パノラマ画像へのセンサラインの再マッピングの様々な実施例を示す。
【0033】
図8図8は、最終パノラマ画像を形成することを考慮した、3つの画像の再マッピング結果の特定の実施例を示す。
【発明を実施するための形態】
【0034】
図1は、パノラマ画像の取込みおよびレンダリングを可能にする、本発明の装置1の特定の実施例を表す。
【0035】
この特定の実施例では、装置1は、各々が画素マトリックスフォーマットでの画像の取込みを可能にする、例えばCCD型またはCMOS型の3つの撮像デバイスC、C、Cと、イメージセンサC、C、Cによって送達された画素を用いてパノラマ画像をレンダリングすることを可能にする電子処理手段10とを備える。通常、撮像デバイスC、C、Cの各々は、イメージセンサと整列した1つまたは幾つかのレンズを含みかつ光線をイメージセンサに集束させる光学手段(レンズ)に結合された、例えばCCDまたはCMOS型のイメージセンサを含む。
【0036】
撮像デバイスC、C、Cの光軸は異なる方向に向けられ、それらの光学視野は、好ましくは光学視野を重ねあわせて、最終パノラマ画像場全体をカバーする。
【0037】
本書では、用語「パノラマ画像」は、360°の視界に従ってレンダリングされるパノラマ画像に限定されず、より一般的に、パノラマ画像キャプチャに使用される撮像デバイスの各々によってカバーされる光学視野より大きい拡張視野に従ってレンダリングされる画像として、最も広い意味に理解すべきである。
【0038】
単なる例証を目的として、前記撮像デバイスC、C、Cは例えば、国際特許出願公開第2012/03223号パンフレットに開示され、パノラマ画像の「ワンショット」キャプチャを可能にする、小型の光学デバイスの3つの光学群から構成することができる。
【0039】
本発明の装置1は、様々な場所に容易に運んで使用する目的で、携帯機器から構成されることが好ましいが、必ずしもそうでなくてもよい。
【0040】
図2に関連して、デジタル処理手段10は、例えば水晶を用いて発生しかつ撮像デバイスC、C、Cの各々のイメージセンサの作動のタイミングを計るために使用される基本クロックH10を送出する。
【0041】
出力として、撮像デバイスC、C、Cの各々のイメージセンサは、取り込まれた各画像に対し、「画素」データバスで、基本クロックH10ならびに2つの信号「ライン有効」および「フレーム有効」を使用して撮像センサの各々によって発生する第1クロック信号(H_sensor)に従って同期した画素のストリームを送出する。撮像デバイスC、C、Cの各々によって発生するクロック信号(H_sensor)はさらに詳しくは同一周波数である。
【0042】
電子処理手段10は、撮像デバイスC、C、Cのイメージセンサによって送出された画素を用いて、かつ撮像デバイスC、C、Cが「画素」データバスに出力として、最終パノラマ画像を表す画素のストリームを送出するのに匹敵する方法で、パノラマ画像をレンダリングすることを可能にする。
【0043】
電子処理手段10の「画素」データバスのサイズは、撮像デバイスC、C、Cの「画素」データバスのサイズと同一または異なってよく、好ましくはより大きい。例えば、しかし本発明の範囲を限定することなく、撮像デバイスC、C、Cの「画素」データバスは8ビットであり、電子処理手段10の「画素」データバスは16ビットである。
【0044】
電子処理手段10によって生成される画素のストリームは、基本クロック信号ならびに電子処理手段10によって生成される2つの「ライン有効」および「フレーム有効」信号を用いて電子処理手段10によって生成される、第2クロック信号(H)に従って同期される。
【0045】
図2は、上述した本発明の信号同期の特定の非限定的な実施例を示す。この図には、「画素」データバス上を移動するデータは示されていない。
【0046】
図2に関連して、連続キャプチャ動作は周期的であり、2つの連続キャプチャ動作の開始間の時間間隔(t)の長さに等しいキャプチャ時間T(T=1/F)を定義する周波数Fでタイミングが計られる。
【0047】
さらに詳しくは、前記図2では、撮像デバイスC、C、Cの各々の「フレーム有効」信号の立ち上がりエッジは、撮像デバイスC、C、Cによって取り込まれた画像の画素の、撮像デバイスC、C、Cの各々の「画素」データバスにおける伝送の開始を同期させる。撮像デバイスC、C、Cの各々の「フレーム有効」信号の立下がりエッジは、前記撮像デバイスC、C、Cによって取り込まれた画像の「画素」データバスでの画素伝送の終了を示す。撮像デバイスC、C、Cによって送出される「フレーム有効」信号の前記立ち上がりエッジ(およびそれぞれの立下がりエッジ)は、タイムライン上でわずかにずれる。
【0048】
撮像デバイスC、C、Cの「ライン有効」信号は「フレーム有効」信号の各立ち上がりエッジと同期し、一連の画素の伝送の開始を示す。「ライン有効」信号の各立下がりエッジの各々は、一連の画素の伝送の終了を示す。3つの撮像デバイスC、C、Cの各「画素」データバスにおける各伝送画像の画素は、電子処理手段10を使用して、撮像デバイスC、C、Cの各々によって送出される各クロック信号「H_sensor」をそれぞれ使用して、並行してサンプリングされる。
【0049】
図2に関連して、電子処理手段10によって送出される「フレーム有効」信号の立ち上がりエッジは、撮像デバイスC、C、Cによって送出された画素を使用してレンダリングされた最終パノラマ画像の、電子処理手段の「画素」データバスにおける伝送の開始を同期させる。前記立ち上がりエッジは、撮像デバイスC、C、Cによって送出される「フレーム有効」信号の立ち上がりエッジを使用して、電子処理手段10によって自動的に生成され、さらに詳しくは、最後に発生した立ち上がりエッジが検出されると、すなわち特に図2の実施例において撮像デバイスCによって送出された「フレーム有効」信号の立ち上がりエッジが検出されると、生成される。
【0050】
電子処理手段10によって送出された「フレーム有効」信号の立下がりエッジは、撮像デバイスC、C、Cによって送出された画素を使用してレンダリングされた最終パノラマ画像の、電子処理手段10の「画素」データバスにおける伝送の終了を同期させる。
【0051】
電子処理手段10によって送出された「ライン有効」信号は、電子処理手段10によって送出された「フレーム有効」信号の各立ち上がりエッジと同期しパノラマ画像の一連の画素の伝送の開始を示す。電子処理手段10によって送出される「ライン有効」信号の各立下がりエッジは、パノラマ画像の一連の画素の伝送の終了を示す。
【0052】
電子処理手段10の「画素」データバスにおける各パノラマ画像の画素の書込みは、電子処理手段10によって生成されかつ前記データバスの画素を読み出すために別の外部電子装置(例えば装置11)によって使用される、クロック信号「H」に従って同期される。
【0053】
本発明の代替的実施形態によると、電子処理手段10によって送出されるクロック信号「H」は、撮像デバイスC、C、Cによって送出される「H_sensor」クロック信号と同期または非同期とすることができる。「H」クロック信号の周波数は、撮像デバイスC、C、Cによって送出される「H_sensor」クロック信号と等しくても異なってもよい。好ましくは、「H」クロック信号の周波数は、図2に示すように、撮像デバイスC、C、Cによって送出される「H_sensor」クロック信号の周波数より大きい。
【0054】
図2の特定の事例では、キャプチャ動作毎に、撮像デバイスC、C、Cを使用して3つの画像キャプチャが並行して実行され、この特定の事例では、時間間隔(t)は、撮像デバイスCの、すなわちその「画素」データバスで画素を最初に伝送する撮像デバイスの「フレーム有効」信号の2つの連続立ち上がりエッジを隔てる時間間隔である。
【0055】
2つの連続画像キャプチャ動作の開始を隔てる前記時間間隔(t)中に、電子処理手段10は、
(a)前記画素を用いて最終パノラマ画像をレンダリングすることを考慮して、取り込まれた各画像をデジタル処理し(図1のアーキテクチャおよび図2の信号の場合、これらは、撮像デバイスC、C、Cの「画素」データバスで電子処理手段10に伝送される画素である)、かつ
(b)最終パノラマ画像を生成する(図1のアーキテクチャおよび図2の信号の場合、これらは、前記時間間隔(t)中に生成され、電子処理手段によって送出された「フレーム有効」信号の立ち上がりエッジおよび立下りエッジを用いて、電子処理手段10によってそれらの「画素」データバスで出力として伝送される画素である)。
【0056】
こうして、画像キャプチャの連続動作と同一レートで、連続パノラマ画像のストリームが電子処理手段によって実時間に生成される。例えば、撮像デバイスC、C、Cが毎秒25の画像を送出するように設計された場合、2つの連続画像キャプチャ動作間の各時間間隔(t)のキャプチャ時間Tは40msに等しく、それは25Hzのキャプチャ周波数に対応し、電子処理手段もまた毎秒25のパノラマ画像(40ms毎に1つのパノラマ画像)を生成する。
【0057】
キャプチャ時間T(2つの連続画像キャプチャ動作間の各時間間隔(t)の長さ)は、撮像デバイスC、C、Cの周波数に依存する。実際には、キャプチャ時間Tは1s以下であることが好ましく、100ms以下であることがさらにいっそう好ましい。
【0058】
好ましくは、2つの連続画像キャプチャ動作の開始を隔てる各時間間隔(t)中に生成される最終パノラマ画像は、この同じ時間間隔(t)の経過中の画素のデジタル処理(a)から生じる。この場合、各連続パノラマ画像は、特定のパノラマ画像をレンダリングするのに使用された画像キャプチャと略同時に、かつ次のパノラマ画像をレンダリングするのに使用される次の画像キャプチャ動作の前に、実時間で生成される。
【0059】
別の代替的実施形態では、2つの連続画像キャプチャ動作の開始を隔てる各時間間隔(t)中に生成される最終画像は、以前の時間間隔(t)中に、例えば前回の時間間隔(t)中に発生した画素のデジタル処理(a)から生じる。この場合、各連続パノラマ画像は、パノラマ画像をレンダリングするために使用された画像キャプチャに対してわずかな時間のずれで、実時間に生成される。
【0060】
別の代替的実施形態では、各パノラマ画像の生成は、所与のキャプチャサイクル(N)中に開始し(電子処理手段10によって送出される「フレーム有効」信号の立ち上がりエッジ)、次のキャプチャサイクル(N+1)中に終了する(電子処理手段10によって送出される「フレーム有効」信号の立下がりエッジ)。電子処理手段10によって送出される「フレーム有効」信号の立ち上がりエッジと立下がりエッジとの間の時間間隔は、キャプチャ時間T以下であることが好ましいが、必ずしもそうでなくてもよい。
【0061】
各画像キャプチャ動作に対し実行される画素の処理(a)は、タイムライン上で画像キャプチャサイクルに対してずれることがある。最終パノラマ画像のレンダリングに使用される、画像キャプチャ動作中の全ての取込み画像からの画素の処理時間は、キャプチャ時間T以下であることが好ましいが、必ずしもそうでなくてもよい。例えば、N回目のキャプチャサイクル中に取り込まれた画像を使用して最終パノラマ画像を形成することを考慮した画素の処理(a)は、次回の画像キャプチャサイクル中に、例えばN+1回目の画像キャプチャサイクル中に、電子処理手段10によって実行することができる。
【0062】
電子処理手段10は、例えば1つもしくは幾つかのFPGA型のプログラム可能な回路および/または1つもしくは幾つかのASIC型の特定回路のような、いずれかの公知の電子回路手段を用いて本発明に従って無差別に実現することのできる、電子的にデジタルプログラムされたデータ処理ユニット、またはマイクロコントローラもしくはマイクロプロセッサを具現する電子アーキテクチャを持つプログラム可能な処理ユニットを含む。
【0063】
図1に示した本発明の特定の変形例では、電子処理手段10によって1組の画素として送出された連続パノラマ画像のストリームは、例えばDPS型回路を含みかつ例えばファイルフォーマットでパノラマ画像のストリームをメモリに保存しかつ/または実時間でスクリーンに表示することを可能にする、追加の電子処理手段11によって処理される。
【0064】
本発明の別の変形例では、追加の電子処理手段11は、ストリームから1つまたは幾つかのパノラマ画像を抽出する手段として、電子処理手段10によって送出された連続パノラマ画像のストリームを処理するように設計することができる。
【0065】
通常、特定の代替的実施形態では、各撮像デバイスC、C、Cは、キャプチャマトリックスに接続された「魚眼」レンズ型の光学手段を含み、取り込まれた各画像は、一般的に「ヨー」、「ピッチ」、および「ロール」と呼ばれる、画像キャプチャ中の前記撮像デバイスの空間的方位に特有の3組の空間的方位情報によって特徴付けられる。
【0066】
図3に関連して、「魚眼」レンズは有効球中心検出面(図3の灰色表面および白色表面)を呈し、イメージセンサによって取り込まれる画像の有効画素は、撮像デバイスの検出面の一部分だけ(図3―864画素×900画素)の二次元投影法から得られることが知られている。
【0067】
したがって、通常、撮像デバイスC、C、またはCによって取り込まれた画像を表す各画素マトリックスは、撮像デバイスC、C、またはCによって「見られた」3D球面部分の二次元投影法から生じる。この二次元投影法は各撮像デバイスC、C、またはCに依存し、特に撮像デバイスC、C、またはCの光学手段、および画像キャプチャ動作中の撮像デバイスC、C、またはCの空間的方位(「ヨー」、「ピッチ」、および「ロール」)に依存する。
【0068】
例証を目的として、図4に、撮像デバイスC(例えば図1の撮像デバイスC、C、またはC)によって取り込まれた画像に対応する画素マトリックスを示す。この図で、黒い画素は、撮像デバイスCの「魚眼」レンズの有効中心円形部の外に位置する画素に対応する。撮像デバイスCを用いて取り込まれた前記画像の各画素は、撮像デバイスCの「魚眼」レンズによって「見られた」3D球面部分の上述した二次元投影法に対応しかつ撮像センサCに特有の「マッピング」と呼ばれる操作から生じる。
【0069】
本発明以前は、各撮像デバイスCによって取り込まれた画像を使用してパノラマ画像をレンダリングするために、大抵の場合、前記画像は、最終連続パノラマ画像を得ることを考慮して、それらの重複領域のレベルで、画像のデジタル「スティッチング」を介して並置された。先行技術で実施されたこの種のデジタルスティッチングは、画素の二次元投影法を変化させず、それらは最終パノラマ画像に維持されることを理解することが重要である。
【0070】
本発明では、上述した先行技術のデジタルスティッチングとは対照的に、最終パノラマ画像をレンダリングするために、各センサCによって取り込まれた各画像の有効画素は、好ましくは、前記画素を導出した撮像デバイスCの画像における二次元投影法とは異なる新しい二次元投影法を受けるときに、前記画素の少なくとも一部分を最終画像に再マッピングすることにより、最終パノラマ画像に再マッピングされる。こうして、単一の仮想パノラマ撮像デバイスが、撮像デバイスC、C、またはCを使用してもたらされる。画素のこの再マッピングは、取り込まれた各画像の画素の処理(a)を介して自動的に実行される。この処理は、前記画素を少なくとも維持または破棄し、画素が維持される場合には、最終パノラマ画像の各位置の重み付け係数を用いて、最終パノラマ画像の1つまたは幾つかの位置を画素に割り当てることからなる。
【0071】
図4には、最終パノラマ画像の一部分だけが示されており、前記部分は、単一の撮像デバイスCによって取り込まれた画像の画素の再マッピングから生じるパノラマ画像の部分に対応する。
【0072】
前記図4に関連して、撮像デバイスCによって取り込まれた画像の1行目に位置する画素P1,8は例えば、最終パノラマ画像の1行目の4つの異なる隣接位置に、4つの画素P1,9、P1,10、P1,11、P1,12として最終パノラマ画像に再マッピングされ、それは、原画像から最終パノラマ画像へのこの画素の分離と解釈される。この画素P1,8の最終パノラマ画像上のマッピングはしたがって、画像処理装置によって取り込まれた原画像上のこの画素の二次元投影法とは異なる、最終パノラマ画像上のこの画素の二次元投影法に対応する。最終パノラマ画像上の画素のこの分離は例えば、部分的にまたは全体的に、撮像デバイスの上縁部付近の「魚眼」レンズの光学歪みを補償するように、有利に具現することができる。画素の同じ分離は、下縁に位置する画素に対し有利に具現することができる。
【0073】
比較を目的として、撮像デバイスの「魚眼」レンズは、レンズの中心に光学歪みを誘発せず、またはほとんど誘発しないので、撮像デバイスCによって取り込まれた画像の中心の画素P8,8は最終パノラマ画像に同様に唯一の画素P11,11として再マッピングされる。
【0074】
センサCによって取り込まれた画像の左下の領域に位置する画素P10,3は、例えば最終パノラマ画像の隣接する2つの行の3つの隣接する異なる位置に、3つの画素P17,4、P18,4、P18,5として最終パノラマ画像に再マッピングされ、それは、原画像から最終パノラマ画像へのこの画素P10,3の2方向の拡大と解釈される。最終パノラマ画像上のこの画素P10,3のマッピングはしたがって、撮像デバイスによって取り込まれた原画のこの画素の二次元投影法とは異なる、最終パノラマ画像上のこの画素の二次元投影法に対応する。
【0075】
原画像の各画素の撮像センサCから最終パノラマ画像へのこの再マッピング操作中に、画素は最終パノラマ画像上に維持または回復されないことが可能である。これは、例えば少なくとも2つの撮像デバイスによって取り込まれた画像の重複領域に位置する画素に発生する。撮像デバイスの重複領域では、センサの1つからの1つの画素だけが維持され、他のセンサに対応する他の画素は維持されない。本発明の別の変形例では、少なくとも2つの撮像デバイスの重複領域で、原画像の画素の平均または組合せを用いて最終画像の画素をレンダリングすることが可能である。
【0076】
画素の再マッピング操作中に、画素が維持され、かつ最終パノラマ画像の1つまたは幾つかの異なる位置が割り当てられる場合、前記割当ては、最終パノラマ画像の各位置に対し、すなわち最終パノラマ画像の各画素に対し、0から100%の範囲の重み付け係数を使用して実行することが好ましい。前記重み付け算入プロセス、およびその根底にある理由は、図5に照らしてみると、よりよく理解されるであろう。
【0077】
図5に関連して、最終パノラマ画像の画素Pi,jの各々の中心Cは、実際には撮像デバイスCによって取り込まれた画像の画素の中心に対応せず、むしろそれは幾何学的に、撮像デバイスCによって取り込まれた画像の特定の実位置に対応し、それは、図4に示されたこの特定の実施例では、撮像デバイスCによって取り込まれた画像の画素Pの左側に、下隅の近傍に偏心している。したがって、この特定の実施例における画素Pi,jは、画素Pを使用するだけでなく、隣接する画素P、P、Pをも使用して、例えば各画素P、P、P、Pの中心に対する位置Pの重心を考慮しながら、各画素P、P、P、Pの重み付けを計算に入れてレンダリングされる。この特定の実施例では、画素Pi,jは例えば25%の画素P、35%の画素P、15%の画素P、および5%の画素Pから構成される。
【0078】
本発明は、あらゆる種類の画像フォーマット、すなわちRAW、YUV、およびRGB派生形式に適用される。カラーレンダリングがすでに実行された(各画像画素に対するR、G、B情報として知られる)RGB画像の場合、上述した重み付け算入は隣接画素を用いて実現される。
【0079】
しかし、各画素が1つの表色成分だけを提示するRAW画像の場合、上述した重み付け算入は、最終パノラマ画像の画素と同色の近接画素を用いて実現される。RAWフォーマットの場合のこの特定の重み付け算入の事例は、図6Aないし図6Iに照らしてみると、よりよく理解されるであろう。
【0080】
図6Aないし図6Iは、RAW型フォーマットで符号化された画素の場合の最終パノラマ画像の画素Pi,jと撮像デバイスCによって取り込まれた画像の画素マトリックスとの間の対応の様々な事例を示す。前記の図では、文字R、G、Bはそれぞれ赤、緑、および青の画素を表す。Wは、撮像デバイスによって取り込まれた原画像の画素R、G、またはBの最終画像における重み付け係数である。
【0081】
図6Aは、最終パノラマ画像の赤色画素Pi,jの中心が撮像デバイスCによって取り込まれた画像の実位置Pに対応し、この実位置が撮像デバイスCによって取り込まれた画像の青色画素(B)にある場合に対応する。この場合、最終パノラマ画像の前記赤色画素Pi,jは、それぞれ重み付け係数W、W、W、Wを適用することによって、前記青色画素Bに近接する赤色画素R、R、R、Rを使用してレンダリングされる。これらの重み付け係数W、W、W、Wの値は、例えば各画素R、R、R、Rの中心に対する位置Pの重心に依存する。例えば位置Pが画素Pの中心に位置するならば、この場合、重み付け係数W、W、W、Wは全て25%になる。
【0082】
図6Bは、最終パノラマ画像の青色画素Pi,jの中心が撮像デバイスCによって取り込まれた画像の実位置Pに対応し、この実位置が撮像デバイスCによって取り込まれた画像の赤色画素(R)にある場合に対応する。
【0083】
図6Cは、最終パノラマ画像の緑色画素Pi,jの中心が撮像デバイスCによって取り込まれた画像の実位置Pに対応し、この実位置が撮像デバイスCによって取り込まれた画像の青色画素(B)にある場合に対応する。
【0084】
図6Dは、最終パノラマ画像の緑色画素Pi,jの中心が撮像デバイスCによって取り込まれた画像の実位置Pに対応し、この実位置が撮像デバイスCによって取り込まれた画像の赤色画素(R)にある場合に対応する。
【0085】
図6Eは、最終パノラマ画像の緑色画素Pi,jの中心が撮像デバイスCによって取り込まれた画像の実位置Pに対応し、この実位置が撮像デバイスCによって取り込まれた画像の緑色画素(G)にある場合に対応する。
【0086】
図6Fは、最終パノラマ画像の赤色画素Pi,jの中心が撮像デバイスCによって取り込まれた画像の実位置Pに対応し、この実位置が撮像デバイスCによって取り込まれた画像の緑色画素(G)にある場合に対応する。
【0087】
図6Gは、最終パノラマ画像の青色画素Pi,jの中心が撮像デバイスCによって取り込まれた画像の実位置Pに対応し、この実位置が撮像デバイスCによって取り込まれた画像の緑色画素(G)にある場合に対応する。
【0088】
図6Hは、最終パノラマ画像の赤色画素Pi,jの中心が撮像デバイスCによって取り込まれた画像の実位置Pに対応し、この実位置が撮像デバイスCによって取り込まれた画像の赤色画素(R)にある場合に対応する。
【0089】
図6Iは、最終パノラマ画像の青色画素Pi,jの中心が撮像デバイスCによって取り込まれた画像の実位置Pに対応し、この実位置が撮像デバイスCによって取り込まれた画像の青色画素(B)にある場合に対応する。
【0090】
最後に、画像の符号化フォーマットとは関係なく、撮像デバイスCiによって取り込まれた画像の各画素の最終パノラマ画像における再マッピングプロセスは、少なくとも前記画素を維持または破棄し、画素が維持される場合には、最終パノラマ画像の各位置(すなわち各画素)に対する予め定められた重み付け係数とともに、最終パノラマまたは立体画像の1つまたは幾つかの異なる位置を画素に割り当てることからなる。本書では、最終パノラマ画像における「位置」の概念は、最終パノラマ画像における「画素」の概念と融合している。
【0091】
本発明によると、画素の高度な再マッピングが行われる場合、例えば、各撮像デバイスCの各レンズの最終画像におけるこれらの歪みを少なくとも部分的に補正することが可能である。
【0092】
再び本発明によると、撮像デバイスC、C、Cおよび電子処理手段10は、例えば追加の電子処理手段11によってパノラマ画像用の固有の仮想センサとみなされる。したがって、追加の電子処理手段11は例えば、電子処理手段10によって送出された最終パノラマ画像のための公知の画像処理アルゴリズム(特にホワイトバランス調整、露光時間および利得管理のためのアルゴリズム)を具現することができ、また、パノラマ画像のレンダリングに先んじて撮像デバイスC、C、C、によって送出される各画像のための画像処理のアルゴリズムの実現と比較して、適用できる場合には必ず、特に測色、ホワイトバランス、ならびに露光時間および利得に関して、より均質な最終画像を得ることを可能にする。
【0093】
単なる例証を目的として、本発明の範囲を限定することなく、図7Aないし図7Dに、「魚眼」レンズの光学歪みおよび空間におけるその向き(ヨー、ピッチ、およびロール)を取り入れることを考慮した、「魚眼」レンズの原画像のL行目からの画素再マッピングの特定の実施例を示す。再マッピングは、「魚眼」レンズの中心ならびに下縁および上縁と比較したL行目の位置(図7A図7B図7C)に依存し、あるいは「魚眼」レンズの空間的方位に依存する(図7D)。
【0094】
図8に、3つのイメージセンサC、C、Cによってそれぞれ取り込まれた3つの画像1、1、1、および画像1、1、1の画素の再マッピングから得た最終パノラマ画像(l)の特定の実施例を示す。
【0095】
本発明の枠組内で、例えば最終パノラマ画像に対する特殊効果を自動的に組み込むことを目的として、画素再マッピングを使用して、撮像デバイスC、C、Cの二次元投影法とは異なるいずれかの種類の二次元投影法の実現を介して、最終パノラマ画像をレンダリングすることが可能である。特に、次のような公知の投影法を実現することができる。
‐平面または直線投影法
‐円筒投影法
‐メルカトル投影法
‐球面または正距円筒投影法
【0096】
再マッピング操作を可能にすることを考慮して、当業者は、個々の事例毎に、各撮像デバイスCiの各画素の再マッピングを予め定めておき、各撮像デバイスCの各画素について、この画素を維持するか否か、かつ維持する場合に最終パノラマ画像に対応する単数または複数の画素、ならびに最終パノラマ画像の各画素に対するこの原画素の重み付け係数を決定しなければならない。
【0097】
この再マッピングは、最終パノラマ画像に維持される各撮像デバイスCの各画素PX,Yに、最終パノラマ画像の1つまたは幾つかの画素(PXpano,Ypano)を、最終パノラマ画像の画素(PXpano,Ypano)に対する画素PX,Yの重み付け係数Wと共に割り当てる、例えば下記の種類の対応表として実現することができる。下の表には、分かり易くするために、例証を目的として、図4に例示した特定の画素だけが含まれる。
【0098】
図1に示す特定のアーキテクチャの事例では、各撮像デバイスC、C、Cの各画素の最終パノラマ画像における再マッピング操作は、メモリの1つに保存された対応表に基づいて、電子処理手段10を使用して自動的に実行される。本発明の別の変形例では、各撮像デバイスC、C、Cの各画素の最終パノラマ画像における再マッピングの計算は、メモリに保存された較正および動的計算アルゴリズムを使用して、電子処理手段10により自動的に実行することもできる。
【0099】
図1の実施例では、再マッピング操作の結果得られるパノラマ画像の各画素(PXpano,Ypano)は、電子処理手段10によって送出される「H」クロック信号と同期しながら、電子処理手段10の出力(「画素」)として送出される。代替的実施形態では、電子処理手段10によって送出される「H」クロック信号は、イメージセンサC、C、Cによって送出される「H_sensor」クロック信号と同期または非同期とすることができる。
【0100】
図1のアーキテクチャの1つの利点は、追加の電子処理手段11がイメージセンサC、C、Cおよび電子処理手段10を単一の仮想パノラマセンサと“みなす”ことが可能になることである。
【0101】
図1の装置は、画素が電子処理手段10によって取り込まれるときに、画素の実時間再マッピングを実行するために有利に使用することができる。
【0102】
本発明は、3つの固定撮像デバイスC、C、Cの実現に限定されず、むしろ、より一般的に少なくとも2つの固定撮像デバイスC、Cで実現することができる
【0103】
また、本発明の枠組内で、各画像キャプチャをモバイル撮像デバイスC、C、Cの異なる方位および/または位置に対応させて、単一のモバイル撮像デバイスを使用することも予想される。
【0104】
記載した実施形態の特定の変形例では、キャプチャ周波数Fは、撮像デバイスC、C、Cのキャプチャ周波数に等しい。別の変形例では、電子処理手段が例えばセンサの各々によって送出されるm個(m≧2)の画像のうち1つの画像だけを処理し、キャプチャ周波数Fは、撮像デバイスC、C、Cによって送出される画像の周波数より低い連続キャプチャ動作の周波数に対応する、撮像デバイスC、C、Cのキャプチャ周波数未満とすることができる。
【0105】
本発明はパノラマ画像のレンダリングに限定されない。本発明は、立体画像のレンダリングにも適応することができる。
図1
図2
図3
図4
図5
図6A-6D】
図6E-6G】
図6H-6I】
図7A-7D】
図8