(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-28
(45)【発行日】2024-12-06
(54)【発明の名称】情報処理装置、情報処理方法、及びプログラム
(51)【国際特許分類】
G06T 15/20 20110101AFI20241129BHJP
【FI】
G06T15/20 500
(21)【出願番号】P 2022182798
(22)【出願日】2022-11-15
【審査請求日】2023-06-16
(73)【特許権者】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】110003281
【氏名又は名称】弁理士法人大塚国際特許事務所
(72)【発明者】
【氏名】糟谷 望
【審査官】益戸 宏
(56)【参考文献】
【文献】特開2003-115042(JP,A)
【文献】特開2021-033525(JP,A)
【文献】特開2020-166652(JP,A)
【文献】特開2003-337953(JP,A)
【文献】国際公開第2021/059669(WO,A1)
【文献】国際公開第2018/100928(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 15/00
G06T 19/00
G06T 17/00
(57)【特許請求の範囲】
【請求項1】
被写体の撮像画像に基づいて前記被写体の三次元形状を推定することによって生成された、前記被写体の仮想視点画像の生成に用いられる、前記被写体の三次元形状を示す三次元形状情報を取得する取得手段と、
撮像装置による前記被写体の撮像画像における、前記被写体の
複数の位置のそれぞれの画質を特定する特定手段と、
前記被写体の
複数の位置のそれぞれの画質を示す情報
を、前記被写体の三次元形状情報
が示す被写体の三次元形状の複数の位置に対応付けて出力する出力手段と、
を備えることを特徴とする情報処理装置。
【請求項2】
前記出力手段は、前記被写体の画質を示す可視化された情報を出力することを特徴とする、請求項1に記載の情報処理装置。
【請求項3】
前記出力手段は、前記被写体の画質を示す情報に基づく三次元モデルを表す情報を出力することを特徴とする、請求項1に記載の情報処理装置。
【請求項4】
前記被写体の画質を示す情報は、三次元モデルのテクスチャを示すテクスチャ情報であることを特徴とする、請求項1に記載の情報処理装置。
【請求項5】
前記テクスチャは要素の繰り返しを含み、前記要素の大きさは前記被写体の画質に応じて選択されることを特徴とする、請求項4に記載の情報処理装置。
【請求項6】
前記出力手段は、前記被写体の三次元形状と、前記被写体の三次元形状の複数の位置のそれぞれに付されたテクスチャと、を示す三次元形状情報を出力し、
前記被写体の三次元形状の特定位置に付されるテクスチャは、前記撮像装置による前記被写体の撮像画像における、前記特定位置についての画質に応じて決定されることを特徴とする、請求項4に記載の情報処理装置。
【請求項7】
前記出力手段は、前記被写体の画質を示す情報として、前記被写体の三次元形状の周囲に設定された領域を示す領域情報を出力し、
前記領域の大きさは前記被写体の画質に応じて設定されることを特徴とする、請求項1に記載の情報処理装置。
【請求項8】
前記領域の大きさは、前記仮想視点画像に対応する仮想視点の焦点距離にさらに応じて設定されることを特徴とする、請求項7に記載の情報処理装置。
【請求項9】
前記被写体の三次元形状の周囲に設定された領域は、前記被写体の三次元形状の複数の位置のそれぞれの周囲に設定された領域を包含し、
前記被写体の三次元形状の特定位置の周囲に設定された領域は、前記撮像装置による前記被写体の撮像画像における、前記特定位置についての画質を示す情報に応じて設定されていることを特徴とする、請求項7に記載の情報処理装置。
【請求項10】
前記出力手段は、前記被写体の三次元形状と、前記被写体の三次元形状の周囲に設定された前記領域を示す三次元形状と、を示す三次元形状情報を出力することを特徴とする、請求項7に記載の情報処理装置。
【請求項11】
前記特定手段は、前記撮像装置の画角を示す画角情報に基づいて、前記被写体の画質を特定することを特徴とする、請求項1に記載の情報処理装置。
【請求項12】
前記特定手段は、前記撮像装置による前記被写体の撮像画像における、前記被写体の解像度に基づいて、前記被写体の画質を特定することを特徴とする、請求項1に記載の情報処理装置。
【請求項13】
前記特定手段は、前記被写体の特定位置の画質を、複数の撮像装置から選択された、前記被写体の特定位置が可視である撮像装置による前記被写体の撮像画像に基づいて特定することを特徴とする、請求項
1に記載の情報処理装置。
【請求項14】
前記取得手段は、前記被写体の撮像画像に基づいて前記被写体の三次元形状を推定することにより、前記三次元形状情報を生成することを特徴とする、請求項1に記載の情報処理装置。
【請求項15】
前記三次元形状情報に従う前記被写体の三次元形状と、前記被写体の画質を示す情報と、を表示装置に表示させる表示制御手段と、
ユーザから前記仮想視点画像に対応する仮想視点の指定を受け付ける受付手段と、をさらに備え、
前記被写体の撮像画像、前記三次元形状情報、及び指定された前記仮想視点に基づいて、前記仮想視点画像が生成されることを特徴とする、請求項1に記載の情報処理装置。
【請求項16】
被写体の撮像画像に基づいて前記被写体の三次元形状を推定することによって生成された、前記被写体の仮想視点画像の生成に用いられる、前記被写体の三次元形状を示す三次元形状情報を取得する取得手段と、
前記三次元形状情報が示す前記被写体の三次元形状の複数の位置に、撮像装置による前記被写体の撮像画像における
複数の位置の
それぞれの画質に応じたテクスチャを付与する付与手段と、
を備えることを特徴とする情報処理装置。
【請求項17】
被写体の撮像画像に基づいて前記被写体の三次元形状を推定することによって生成された、前記被写体の三次元形状を示す三次元形状情報を取得する取得手段と、
前記三次元形状情報が示す前記被写体の三次元形状
の複数の位置から、撮像装置による前記被写体の撮像画像における前記被写体の
複数の位置のそれぞれの画質に応じた範囲内にある領域を示す領域情報を生成する生成手段と、
を備えることを特徴とする情報処理装置。
【請求項18】
情報処理装置が行う情報処理方法であって、
被写体の撮像画像に基づいて前記被写体の三次元形状を推定することによって生成された、前記被写体の仮想視点画像の生成に用いられる、前記被写体の三次元形状を示す三次元形状情報を取得する工程と、
撮像装置による前記被写体の撮像画像における、前記被写体の
複数の位置のそれぞれの画質を特定する工程と、
前記被写体の
複数の位置のそれぞれの画質を示す情報
を、前記被写体の三次元形状情報
が示す被写体の三次元形状の複数の位置に対応付けて出力する工程と、
を備えることを特徴とする情報処理方法。
【請求項19】
コンピュータを、請求項1から
17のいずれか1項に記載の情報処理装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理装置、情報処理方法、及びプログラムに関し、特に仮想視点画像の生成技術に関する。
【背景技術】
【0002】
複数の撮像装置を異なる位置に設置することにより複数視点からの同期撮影を行い、このような撮影により得られた複数視点からの画像を用いて仮想視点画像を生成する技術が注目されている。このような技術によれば、従来は撮像装置が入れなかった視点からの画像を含む、迫力のあるコンテンツを制作することができる。
【0003】
このような仮想視点画像は、撮像画像群に基づいて被写体の三次元モデルを生成し、この三次元モデルを仮想カメラで撮影する(すなわちレンダリングする)ことにより、生成することができる。特許文献1は、仮想視点画像の生成を行う際に、仮想視点から近い撮像装置によって撮像された画像を選択し、視点に依存して対象物体の色を決定することを提案している。
【先行技術文献】
【非特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
仮想視点画像を生成する際には、望ましい仮想視点画像が得られるように視点の位置が決定される。この際には、高い画質の仮想視点画像が得られるように視点の位置を決定することも求められる。しかしながら、各視点における仮想視点画像の画質を評価することは簡単ではなかった。例えば、視点に依存して対象物体の色を決定する方法によれば、高精細な仮想視点画像の生成が可能である一方で、最終的な画質を判定するために仮想視点画像を生成する必要があった。このため、より高品質な仮想視点画像を生成するためには、仮想視点画像の生成と、仮想視点の調整とを繰り返す必要があった。しかも、仮想視点画像の生成には処理時間を要することに加え、仮想視点画像を生成するためには一般に専用の装置が用いられるという課題があった。
【0006】
本開示は、仮想視点画像を生成する技術において、仮想視点を設定する際に、得られる仮想視点画像の品質評価を容易に行えるようにすることを目的とする。
【課題を解決するための手段】
【0007】
一実施形態に係る情報処理装置は以下の構成を備える。すなわち、
被写体の撮像画像に基づいて前記被写体の三次元形状を推定することによって生成された、前記被写体の仮想視点画像の生成に用いられる、前記被写体の三次元形状を示す三次元形状情報を取得する取得手段と、
撮像装置による前記被写体の撮像画像における、前記被写体の複数の位置のそれぞれの画質を特定する特定手段と、
前記被写体の複数の位置のそれぞれの画質を示す情報を、前記被写体の三次元形状情報が示す被写体の三次元形状の複数の位置に対応付けて出力する出力手段と、
を備えることを特徴とする。
【発明の効果】
【0008】
仮想視点画像を生成する技術において、仮想視点を設定する際に、得られる仮想視点画像の品質評価を容易に行えるようにすることができる。
【図面の簡単な説明】
【0009】
【
図1】一実施形態に係る画像生成システムの概略構成の一例を示す図。
【
図2】一実施形態に係る情報処理装置のハードウェア構成例を示す図。
【
図3】一実施形態に係る情報処理装置の機能構成例を示す図。
【
図4】一実施形態に係る情報処理方法のフローチャートの一例を示す図。
【
図5】一実施形態に係る画質評価方法のフローチャートの一例を示す図。
【
図6】三次元形状情報に付与されるテクスチャの一例を示す図。
【
図7】三次元形状情報に付与されるテクスチャの一例を示す図。
【発明を実施するための形態】
【0010】
以下、添付図面を参照して実施形態を詳しく説明する。なお、以下の実施形態は特許請求の範囲を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
【0011】
一実施形態に係る情報処理装置は、被写体の三次元形状を示す三次元形状情報に、被写体の撮像画像における、被写体の画質を示す情報を対応付ける。複数の撮像装置によって得られた撮像画像に基づいて仮想視点画像を生成する場合、仮想視点画像上の被写体は、被写体の撮像画像に基づいて生成される。このため、被写体の撮像画像における画質を示す情報は、生成される仮想視点画像の画質の指標として参照することができる。一実施形態においては、仮想視点画像を生成するための専用の画像生成装置を用いることなく、汎用の三次元コンピュータグラフィックス(CG)ツール上で、仮想視点画像の最終的な画質を大まかに可視化することが可能である。
【0012】
被写体の画質を示す情報としては、様々な形態が考えられる。以下では、まず、被写体の画質を示す情報として、テクスチャを用いる場合について説明する。以下の例では、被写体の三次元形状の複数の位置に、被写体の撮像画像における各位置の画質に応じたテクスチャが付与される。
【0013】
仮想視点画像を生成するための画像生成システム1の例を
図1に示す。画像生成システム1においては、撮影対象エリア2内にいる被写体3が、複数の撮像装置10によって撮像される。そして、複数の撮像装置10によって得られた撮像画像に基づいて、仮想視点画像が生成される。複数の撮像装置10は、例えば
図1に示すように、被写体3を囲むように配置され、それぞれが異なる撮像位置から撮影対象エリア2の撮像を行う。モデリング装置20は、撮像装置10によって得られた撮像画像を用いて、被写体3の三次元形状を示す三次元形状情報を生成し、データベース30に格納する。レンダリング装置40は、データベース30に格納されている被写体の三次元形状情報を用いて、入力装置50によって指定された仮想視点からの仮想視点画像をレンダリングする。表示装置60は、レンダリング装置40が生成した仮想視点画像を表示する。
【0014】
情報処理装置100は、データベース30に格納されたデータを用いて後述するように画質の評価を行う。そして、情報処理装置100は、評価された画質を示す情報をデータベース30に出力する。ここで、情報処理装置100は、評価された画質を示す情報を含む、汎用のCGフォーマットに従うCGデータを、データベース30に出力することができる。このとき、ユーザは、情報処理装置100が出力した画質を示す情報を参照しながら、入力装置50を介して仮想視点を指定することができる。入力装置50では、汎用の三次元コンピュータグラフィックス(CG)ツールが動作していてもよい。この場合、入力装置50は、情報処理装置100が出力したCGデータに従う、特定の視点からの仮想視点画像を生成し、ユーザに対して表示することができる。ユーザは、入力装置50によって表示された仮想視点画像を見ながら、レンダリング装置40に生成させる仮想視点画像の仮想視点を指定することができる。
【0015】
なお、複数の撮像装置10は、同期した撮像を連続して行うことができる。この場合、画像生成システム1は、時系列の被写体の三次元形状情報を生成することができ、さらに時系列の仮想視点画像、すなわち仮想視点映像を生成することができる。このような構成において、入力装置50は、時系列で位置が変化する仮想視点を指定することができる。このように移動する仮想視点は、仮想カメラパス又はカメラワークとも呼ばれる。
【0016】
図2は、一実施形態に係る情報処理装置100として利用可能なコンピュータのハードウェアの構成例を示すブロック図である。情報処理装置100は、CPU201、ROM202、RAM203、補助記憶装置204、通信I/F205、及びバス206を有する。なお、モデリング装置20及び入力装置50も同様のハードウェアを用いて実現することができる。一方で、情報処理装置100が、ネットワークを介して接続された複数の情報処理装置によって構成されていてもよい。さらに、モデリング装置20、レンダリング装置40、及び入力装置50のうちの1以上が、ネットワークを介して接続された複数の情報処理装置によって構成されていてもよい。
【0017】
ROM202は、変更を必要としないプログラムなどを格納するメモリである。RAM203は、補助記憶装置204から供給されるプログラム又はデータ、及び通信I/F205を介して外部から供給されるデータなどを一時記憶するメモリである。補助記憶装置204は、画像データ又は音声データなどの種々のデータを記憶する。補助記憶装置204は、例えばハードディスクドライブ等のストレージであってもよい。通信I/F205は、情報処理装置100の外部の装置との通信に用いられる。例えば、情報処理装置100が外部の装置と有線で接続される場合には、通信用のケーブルが通信I/F205に接続される。また、情報処理装置100が外部の装置と無線通信する場合には、通信I/F205はアンテナを備える。バス206は、情報処理装置100が有する各部をつなぎ、情報を伝達する。
【0018】
このように、CPU201のようなプロセッサは、ROM202又はRAM203のようなメモリに格納されたコンピュータプログラム又はデータを用いて情報処理装置100の全体を制御する。こうして、
図3に示す情報処理装置100が有する各処理部の機能が実現される。なお、情報処理装置100は、CPU201とは異なる1又は複数の専用のハードウェアを有していてもよい。この場合、CPU201が行う処理のうちの少なくとも一部を、専用のハードウェアが行うことができる。専用のハードウェアの例としては、ASIC(特定用途向け集積回路)、FPGA(フィールドプログラマブルゲートアレイ)、及びDSP(デジタルシグナルプロセッサ)などが挙げられる。また、一実施形態に係る情報処理装置100は、例えばネットワークを介して接続された複数の情報処理装置によって構成される情報処理システムによって実現されてもよい。
【0019】
本実施形態に係る情報処理装置100の構成の一例を
図3に示す。情報処理装置100は、形状取得部310、画角取得部320、評価部330、生成部340、及び出力部350を有する。
【0020】
形状取得部310は、被写体の三次元形状を示す三次元形状情報を取得する。上述のように、この三次元形状情報は被写体の仮想視点画像を生成するために用いられる。形状取得部310が取得する三次元形状情報は、画像生成システム1において生成された三次元形状情報であってもよいし、別途用意された三次元形状情報であってもよい。また、形状取得部310は、仮想の三次元形状情報を取得してもよい。別途用意された三次元形状情報を用いる場合、画像生成システム1に合わせて座標系の変換、例えばスケーリング又は位置姿勢の調整を行うことができる。以下では、三次元形状情報がメッシュモデルである場合について説明する。しかし、三次元形状情報はメッシュモデルに限られず、例えば点群データなどの三次元形状を示す他の情報であってもよい。また、三次元形状情報は、ボクセルの集合体で表現されるボリュームデータであってもよい。
【0021】
画角取得部320は、画像生成システム1における複数の撮像装置10のそれぞれのパラメータを示す情報を取得する。このパラメータは、撮像装置の位置及び姿勢を表す外部カメラパラメータを含むことができる。また、このパラメータは、撮像装置の焦点距離などを示す内部パラメータを含むことができる。以下では、画角取得部320が取得する撮像装置10のパラメータのことを画角情報と呼ぶ。この画角情報は、撮像装置の画角又は撮像範囲を示すことができる。
【0022】
評価部330は、撮像装置10による被写体の撮像画像における、被写体の画質を特定する。評価部330は、撮像装置10による被写体の撮像画像における、被写体の複数の位置のそれぞれの画質を評価することができる。ここで、評価部330は、撮像装置10による被写体の撮像画像における、被写体の解像度を判定することができる。評価部330は、画角取得部320が取得した画角情報に従って、解像度の判定を行うことができる。評価部330は、複数の撮像装置10のそれぞれによって撮像された撮像画像について、このような画質の評価を行うことができる。こうして、評価部330は、被写体の特定位置がそれぞれの撮像装置にどの程度の解像度で映るのかを判定することができる。そして、評価部330は、判定された解像度に基づいて被写体の画質を評価することができる。評価部330は、このような評価を被写体の各位置について行うことができる。以下に説明する実施形態において、評価部330は、このような評価を、被写体の三次元形状を表すメッシュモデルの各面に対して行う。こうして評価された画質は、レンダリング装置40が生成した仮想視点画像における、被写体の特定位置の画質と近くなると考えられる。
【0023】
生成部340は、評価部330による画質の評価結果に従って、被写体の画質を示す情報を生成する。生成部340は、被写体の複数の位置のそれぞれについて、被写体の画質を示す情報を生成することができる。ここで、生成部340は、複数の撮像装置10のそれぞれによって撮像された撮像画像における被写体の画質に基づいて、被写体の画質を示す情報を生成することができる。また、生成部340は、被写体の画質を示す可視化された情報を生成することができる。可視化された情報は、例えば画像情報又は形状情報であってもよい。例えば、生成部340が生成する被写体の画質を示す情報は、三次元モデルのテクスチャ情報又は三次元モデルの形状情報であってもよい。
【0024】
本実施形態の場合、生成部340は、被写体の画質を示す情報として、三次元モデルのテクスチャを示すテクスチャ情報を生成する。生成部340は、被写体の画質に応じたテクスチャを生成することができる。一実施形態において、テクスチャは要素の繰り返しを含んでいる。この要素は、任意の画像でありうる。このように、テクスチャとしては、繰り返しパターンを用いることができる。そして、要素の大きさは、被写体の画質に応じて選択される。以下の実施形態では、繰り返しパターンのスケールが、画質の評価値に基づいて変更される。
【0025】
出力部350は、被写体の画質を示す情報と、被写体の三次元形状情報と、を出力する。出力部350は、被写体の画質を示す情報を、三次元形状情報に対応付けて出力してもよい。出力部350は、被写体の複数の位置のそれぞれの画質を示す情報を、三次元形状情報に対応付けて出力することができる。また、出力部350は、被写体の画質を示す可視化された情報を出力することができる。出力部350は、例えば、生成部340が生成したテクスチャのような画像情報を、形状取得部310が取得した三次元形状情報と対応付けて出力することができる。ここで、出力部350は、被写体の画質を示す情報に基づく三次元モデルを表す情報を出力してもよい。例えば、出力部350が出力するデータは、汎用のフォーマットに従うデータであってもよい。汎用フォーマットに従うデータは、例えば、OBJデータとMTLデータの組み合わせ、又はPLYデータなどの、三次元形状情報とテクスチャデータとを併せ持つデータである。出力部350は、三次元形状情報に対応付けて被写体の画質を示す情報を表示する表示部であってもよい。また、出力部350は、外部の装置に情報を出力する機能部であってもよい。
【0026】
図4は、一実施形態に係る情報処理装置100が行う情報処理方法のフローチャートである。
図4に従う処理により、画質の評価が行われる。
図4に示す処理は、ROM202に格納され、RAM203に読み出された制御プログラムを、CPU201が実行することにより実現できる。
【0027】
S401では、形状取得部310が三次元形状情報を取得する。形状取得部310は、データベース30に格納された三次元形状情報のファイルを読み込んでもよい。また、形状取得部310は、ネットワークを介して三次元形状情報を受信してもよい。一方で、形状取得部310は、撮像装置10による被写体の撮像画像に基づいて被写体の三次元形状を推定することにより、三次元形状情報を生成してもよい。この場合、形状取得部310は、視体積交差法等に基づいて、複数の撮像装置10による被写体の撮像画像を用いて被写体の三次元形状を生成することができる。
【0028】
S402では、画角取得部320が複数の撮像装置10の画角情報を取得する。画角取得部320は、画像生成システム1の全ての撮像装置10の画角情報を取得することができる。
【0029】
S403では、評価部330が、S401で取得された三次元形状情報と、S402で取得された画角情報とに基づいて、被写体の複数の位置のそれぞれについての画質の評価値を算出する。評価部330は、被写体の特定位置についての撮像画像上の解像度を示す評価値を算出することができる。
図5は、三次元形状を表す複数の面のそれぞれについて、このような画質の評価を行うための処理フローの一例を示す。
【0030】
S501では、評価部330が、三次元形状情報であるメッシュモデルの各面のうち、評価値が算出されていない面を選択する。S501で選択された対象面について、以下の処理により評価値が算出される。S501~S505の処理を繰り返すことにより、被写体のメッシュモデルのすべての面について評価値が算出される。なお、評価部330は、
図5に従う処理を開始する前に1つの面を細分化してもよい。このような構成により、面が大きいために1つの面内で画質がばらつくことが想定される場合に、画質をより精細に評価することができる。
【0031】
S502では、評価部330が、複数の撮像装置10のうち、対象面に関する画質の評価対象となっていない撮像装置を選択する。
【0032】
S503では、評価部330が、S502で選択された撮像装置からS501で選択した対象面が可視であるかどうかを判定する。対象面が可視ではない場合、例えばメッシュモデルの他の面によって対象面が隠れている場合、処理はS505へ移行する。対象面が可視の場合、処理はS504に移行する。対象面が可視かどうかの判定には、対象面から撮像装置までの距離情報を利用する方法を用いることができる。例えば、以下の方法で、対象面が可視かどうかが判定されてもよい。まず、対象面の三次元位置と、撮像装置の三次元位置との間の距離が算出される。一方で、撮像装置から最も近い被写体までの距離を示すデプスマップにおける、対象面に該当する画素の画素値が取得される。そして、対象面の三次元位置と撮像装置の三次元位置との間の算出距離と、デプスマップにおける対象面に該当する画素の画素値が示す距離との差分が算出される。算出された差分が閾値より小さい場合は、可視と判定される。また、算出された差分が閾値より大きい場合は、可視ではない(不可視である)と判定される。
【0033】
S504では、評価部330が、S502で選択された撮像装置によって撮像された撮像画像における、対象面に対応する被写体の特定位置の解像度を算出する。解像度は、撮像装置の画角情報と、対象面の位置に基づいて算出することができる。また、解像度は、撮像画像の画素あたりの、被写体の特定位置の物理的な大きさによって表すことができる。例えば、対象面の位置をXt、対象撮像装置の位置をXc、焦点距離をf(pix)とすると、解像度r(mm/pix)は、以下の式に従って算出できる。以下の式において、√(Xt-Xc)2はXtとXcとの間の距離を表す。
r[mm/pix]=√(Xt-Xc)2 /f
【0034】
S505において、対象面に関する画質の評価対象となっていない撮像装置がある場合には、処理はS502に戻る。対象面に関して全ての撮像装置による画質が評価されている場合、処理はS506に移行する。このように、それぞれの撮像装置について、S502~S505の処理は繰り返される。
【0035】
S506では、評価部330が、対象面に関して、S504で複数の撮像装置10のそれぞれについて算出した解像度に基づいて、対象面の評価値を決定する。一例として、評価部330は、複数の撮像装置10のそれぞれについて算出した解像度のうち、最も高い解像度を、対象面の評価値として用いることができる。こうして、評価部330は、撮像装置10による被写体の撮像画像における、被写体の特定位置の画質(この例では解像度)を示す評価値を決定することができる。S503では、複数の撮像装置10から、被写体の特定位置が可視である撮像装置が選択されている。したがって、S506では、選択された撮像装置による被写体の撮像画像に基づいて、被写体の特定位置の画質が評価される。
【0036】
視点に依存して対象物体の色を決定する視点依存レンダリング手法では、三次元形状の特定位置に対する色付けが、特定位置が可視である撮像装置の撮像画像を投影することで行われる。このため、可視である撮像装置による撮像画像の画質が、最終的に得られる仮想視点画像の画質に関係する。また、仮想視点画像の特定位置についての最もよい画質は、複数の撮像画像による撮像画像のうち最も高い画質を持つ撮像画像の画質によって定まる。このために、上記のように決定された評価値は、仮想視点画像の特定位置(すなわち対象面)についての画質を評価するために用いることができる。
【0037】
一方で、評価値の決定方法は上記の方法には限定されない。仮想視点画像をレンダリングした際の画質を示唆する任意の指標を用いることができる。例えば、評価値は、複数の撮像装置10のそれぞれについて算出した解像度の平均値又は中央値等の統計値であってもよい。さらに、統計値を算出する際に、解像度に対する重み付けを、特定位置(例えば対象面)の法線と、解像度に対応する撮像装置の光軸との間の角度に基づいて行ってもよい。例えば、この法線とこの光軸との角度が小さいほど、重みを大きくすることができる。
【0038】
S507において、三次元形状情報であるメッシュモデルの各面のうち、評価値が算出されていない面がある場合には、処理はS501に戻る。評価値が算出されていない面がない場合には、
図5に従う評価値の算出が終了する。このように、それぞれの面について、S501~S507の処理は繰り返される。なお、三次元形状情報が点群等の場合には、点ごとに評価値が算出されてもよいし、点群を構成する複数の点のうち、いくつかの点からなる領域ごとに評価値が算出されてもよい。三次元形状情報がボクセルからなるボリュームデータである場合も、同様に、ボクセルごとに評価値が算出されてもよいし、いくつかのボクセル群ごとに評価値が算出されてもよい。
【0039】
S404では、生成部340が、評価部330が算出した評価値に基づいて、被写体の複数の位置のそれぞれの画質に応じたテクスチャを生成する。生成されたテクスチャは、画質の指標として用いられる。
図6(A)はテクスチャが含む要素の例を、
図6(B)はテクスチャが付与されたメッシュモデルの例を示す。説明を簡単にするため、
図6(B)には立方体のメッシュモデルが示されているが、三次元形状は立方体に限定されない。
【0040】
テクスチャは、
図6(A)に示すような要素の繰り返しであるパターンを含む。
図6(A)に示す要素は「NG」が書かれている画像である。本実施形態において、生成部340は、評価値に従う大きさの要素を含むテクスチャを生成する。ここで、評価値が高いほどテクスチャは小さい要素を含み、評価値が低いほどテクスチャは大きい要素を含む。例えば、生成部340は、テクスチャ座標を下記の式に従う倍率でスケーリングすることで、このようなテクスチャを生成することができる。重みとしては適当な値を設定することができる。
倍率=重み/評価値
【0041】
生成部340は、三次元形状情報が示す被写体の三次元形状の各位置について、この位置の画質を示す情報を生成することができる。例えば、生成部340は、メッシュモデルの各面について、評価値に応じたテクスチャを生成することができる。
【0042】
S405では、出力部350が、被写体の画質を示す情報と、三次元形状情報と、を出力する。出力部350は、被写体の画質を示す情報を、三次元形状情報に対応付けて出力することができる。また、出力部350は、三次元形状情報が示す被写体の三次元形状の各位置に、生成部340が生成したこの位置の画質を示す情報を対応付けることができる。
【0043】
例えば、出力部350は、被写体の三次元形状と、被写体の三次元形状の複数の位置のそれぞれに付されたテクスチャと、を示す三次元形状情報を出力することができる。本実施形態において、出力部350は、S404で生成部340が生成したテクスチャを、S401で形状取得部310が取得した三次元形状情報に付与する。具体的には、出力部350は、三次元形状情報が示す被写体の三次元形状の複数の位置に、撮像装置による被写体の撮像画像における各位置の画質に応じたテクスチャを付与することができる。例えば、出力部350は、メッシュモデルの各面に、生成部340が生成した、評価値に応じたテクスチャを貼り付けることができる。上述したように、出力部350は、被写体の画質を示す情報及び三次元形状情報を、汎用フォーマットに従うCGデータとして出力することができる。
【0044】
このように出力部350が出力したCGデータは、汎用のCGツールによって、
図6(B)に示すように表示される。面601は、低い評価値を有する面であり、大きなサイズの要素を含むテクスチャが貼り付けられている。一方で面602は、高い評価値を有する面であり、小さいサイズの要素を含むテクスチャが貼り付けられている。
【0045】
上述のように、ユーザは、入力装置50などを用いて仮想視点画像の仮想視点を指定することができる。情報処理装置100、入力装置50、又はその他の装置は、三次元形状情報に従う被写体の三次元形状と、出力部350が出力した被写体の画質を示す情報と、を表示装置60のような表示装置に表示させる表示制御部(不図示)を有していてもよい。また、情報処理装置100、入力装置50、又はその他の装置は、ユーザから仮想視点画像に対応する仮想視点の指定を受け付ける受付部(不図示)を有していてもよい。このような構成により、ユーザは、被写体の画質を示す情報を確認しながら仮想視点を指定することができる。そして、レンダリング装置40は、被写体の撮像画像、三次元形状情報、及び指定された仮想視点に基づいて、仮想視点画像を生成する。
【0046】
例えば、仮想視点画像のカメラワーク制作者は、出力部350が出力したテクスチャ付きのCGデータを参照しながらカメラワークを作成することができる。このため、特定の仮想視点からみた仮想視点画像の最終画質が破綻するか否かを、カメラワーク制作時に知ることができる。このように、本実施形態によれば、仮想視点を設定する際に、得られる仮想視点画像の品質評価を容易に行うことができる。
【0047】
具体的には、作成したカメラワークに従う位置の仮想視点から三次元モデルを見た際に、テクスチャ上の要素が視認できる場合には、最終画質が破綻する可能性が高い。一方で、テクスチャ上の要素が視認できない場合には、画質が担保される可能性が高い。例えば、
図6(B)では、面602のテクスチャから「NG」の文字が読めないため、仮想視点画像の面602における画質は十分である可能性が高い。しかしながら、面601のテクスチャからは「NG」の文字が読めるため、仮想視点画像の面601における画質が破綻する可能性がある。この場合、カメラワーク制作者は、画質が担保されるように仮想視点を面601から離す、焦点距離を変更することにより視野を広角にする、又は、仮想視点を面602の方へ移動するように、カメラワークを変更することができる。このように、情報処理装置100が出力した被写体の画質を示す情報を用いることで、仮想視点画像をレンダリングすることなく、仮想視点画像の画質が破綻しないように仮想視点を設定することが容易になる。
【0048】
生成部340がS404で生成するテクスチャは、
図6に示すような画像である必要はない。テクスチャとしては、ユーザが画質を判断できる助けになる任意のものを用いることができる。例えば、格子模様を要素として有するテクスチャを用いることができる。
図7(A)は、格子模様を有するテクスチャの一例を示す。また、
図7(B)は、テクスチャが付与された三次元モデルの例を示す。この場合、評価値が高い場合には格子模様が細かくなり、評価値が低い場合には格子模様が粗くなる。このため、画質が担保できる場合には、格子模様がモアレのように見えるために視認しにくくなる。一方で、はっきりと格子が視認できる部分については、画質が担保されないことを知ることができる。
【0049】
ここまで、画質を示す情報としてテクスチャを用いる場合について説明した。三次元形状情報にテクスチャを付与することにより、ユーザは、テクスチャの視認性に基づいて、仮想視点画像の最終的な画質が許容可能か否かを判断することができる。一方で、被写体の画質を示す情報は、被写体の三次元形状の周囲に設定された領域を示す領域情報であってもよい。このような領域の大きさは、被写体の画質に応じて設定することができる。例えば、被写体から所定距離以内の領域を示す情報を三次元形状に付与することができ、ここで、所定距離は、被写体の画質が高いほど短くすることができる。このような領域を示す情報は、ユーザが画質を担保できる範囲を知るために用いることができる。
【0050】
以下の例では、被写体の三次元形状の複数の位置のそれぞれの周囲に領域が設定される。ここで、被写体の三次元形状の特定位置の周囲に設定された領域は、撮像装置による被写体の撮像画像における、特定位置についての画質を示す情報に応じて設定される。仮想視点がこの領域内にあることは、特定位置についての仮想視点画像の画質が破綻する可能性が高いことを示し、仮想視点がこの領域外にあることは、特定位置についての仮想視点画像の画質が担保される可能性が高いことを示す。
【0051】
また、被写体の三次元形状の周囲に設定される領域は、上記のように被写体の三次元形状の複数の位置のそれぞれの周囲に設定された領域を包含する領域(例えば各領域の和集合)であってもよい。このような包含領域を示す情報、例えば三次元モデル情報を、被写体の三次元形状情報に付与してもよい。このような三次元モデル情報に従って、仮想視点画像の品質が担保されない領域又は品質が担保される領域を判別することができる。このような情報を用いることにより、仮想視点画像の画質を画一的に判断することが可能となる。
【0052】
このような変形例において、評価部330は、さらに仮想視点の焦点距離を示す情報を取得することができる。焦点距離取得部(不図示)が、仮想視点(又は仮想カメラ)の焦点距離を示す情報をユーザから取得してもよい。また、焦点距離取得部(不図示)は、指定された仮想視点の焦点距離を示す情報を入力装置50から取得してもよい。
【0053】
仮想視点の焦点距離が長い場合、仮想カメラから被写体までの距離が遠くても、仮想視点画像の画質を担保するために要求される、撮像された撮像画像における被写体の解像度は高くなる。一方で、仮想視点の焦点距離が短い場合には、広角の画像が得られるため、仮想視点画像の画質を担保するために要求される、撮像された撮像画像における被写体の解像度は低くなる。そこで、本変形において被写体の三次元形状の周囲に設定される領域の大きさは、仮想視点画像に対応する仮想視点の焦点距離にさらに応じて設定することができる。このように、仮想視点の焦点距離に応じて、仮想視点画像の画質が担保されない領域を示す三次元モデルが生成される。この領域は、仮想視点の焦点距離に応じて変わるため、本変形例で評価部330は事前におおよその焦点距離を取得する。もっとも、評価部330が焦点距離を取得することは必須ではない。例えば、評価部330は、焦点距離の所定値に基づいて被写体の画質を示す情報を生成してもよい。
【0054】
生成部340は、評価部330が決定した評価値、及び仮想視点の焦点距離に基づいて、被写体の各位置について、画質が担保される距離を算出する。また、生成部340は、算出した距離に基づいて、仮想視点画像の品質が担保されない領域を示す三次元モデルを生成する。
図8は、このようなモデルの例を示す概略図である。
図8には、被写体の三次元形状を示す領域90が示されている。生成部340は、被写体の各位置(例えば各対象面)について、画質が担保される距離91を算出する。例えば、生成部340は、距離d=α・e・fにより、距離91を算出することができる。ここで、画質評価値e(mm/pix)は、S506と同様に算出された対象面の評価値である。また、焦点距離f(pix)は仮想視点の焦点距離である。重みαとしては適当な値を設定することができる。
【0055】
生成部340は、このように、被写体の各位置(例えば各対象面)から、各位置について算出された距離91以内の領域を判定することができる。そして、生成部340は、各位置について判定された領域を包含する領域92を、画質が担保されない領域として判定することができる。仮想視点が領域92の内部にあることは、仮想視点画像の画質が破綻する恐れがあることを示す。生成部340は、こうして判定された領域を示す三次元モデルを生成することができる。この三次元モデルは、例えば半透過モデルであってもよい。
【0056】
出力部350は、被写体の三次元形状と、被写体の三次元形状の周囲に設定された領域を示す三次元形状と、を示す三次元形状情報を出力することができる。例えば、出力部350は、こうして生成された三次元モデルを被写体の三次元形状情報に対応付けて出力することができる。一例として、出力部350は、被写体の三次元モデルと生成部340が生成した半透過モデルとの双方を含む、汎用フォーマットに従うCGデータを出力することができる。
【0057】
このように出力部350が出力したCGデータは、汎用のCGツールによって、
図6(B)に示すように表示される。面601は、低い評価値を有する面であり、大きなサイズの要素を含むテクスチャが貼り付けられている。一方で面602は、高い評価値を有する面であり、小さいサイズの要素を含むテクスチャが貼り付けられている。
【0058】
ユーザは、上記の半透過モデルのような、仮想視点画像の品質が担保されない領域を示す情報に従って、仮想視点を指定することができる。このため、仮想視点画像の画質が担保されるように仮想視点を指定することが容易となる。例えば、仮想視点画像のカメラワーク制作者は、出力部350が出力したCGデータを見ながら仮想カメラを操作することができる。このとき、領域92内に仮想カメラが入ると仮想カメラからは領域92が不可視になる。また、領域92の外に仮想カメラが出ていると、仮想カメラから領域92は可視である。したがって、領域92が可視となるように仮想カメラを操作することで、仮想視点画像の画質が担保されるようにカメラワークを作成することが可能となる。
【0059】
被写体の画質を示す情報は上記のものに限られない。例えば、被写体の画質を示す情報が、三次元モデルとして可視化される情報(例えばテクスチャ又は半透過モデル)である必要はない。例えば、出力部350は、被写体の画質を示す情報を、メタ情報として三次元形状情報に対応付けて出力してもよい。このような被写体の画質を示す情報は、例えば、被写体の各面における、撮像装置ごとの上記の解像度rであってもよいし、被写体の各面についての上記の評価値であってもよいし、被写体の各面について画質が担保される距離91であってもよい。
【0060】
この場合、入力装置50のような仮想視点を指定するための装置(例えばカメラワーク制作装置)は、生成部340と同様の機能を有していてもよい。例えば、この装置は、メタ情報に従って被写体の画質を示す情報(例えばテクスチャ又は半透過モデル)を三次元モデルとともにユーザに対して表示してもよい。一方で、この装置は、メタ情報に従って、指定された仮想視点からの仮想視点画像において画質が担保されるか否かを判定し、判定結果をユーザに通知してもよい。例えば、この装置は、メタ情報に示される、被写体の各面について画質が担保される距離91と、仮想視点から被写体の各面までの距離とに基づいて、仮想視点画像の画質が担保されるか否かを判定することができる。
【0061】
なお、形状取得部310がメッシュモデル以外の三次元形状情報を取得した場合であっても、出力部350は三次元形状情報に被写体の画質を示す情報を対応付けることができる。例えば、形状取得部310が点群データを取得した場合、生成部340は各点から距離91以内の領域を判定することができる。また、出力部350は、各領域を包含する領域を示す情報を、三次元形状情報に対応付けることができる。また、出力部350は、点群データに基づいて生成されたメッシュモデルに、上記のようなテクスチャを付与することもできる。なお、出力部350は、被写体の三次元形状情報と、被写体の画質を示す情報とを対応付けて出力しなくてもよい。例えば、出力部350は、被写体の三次元形状情報と被写体の画質を示す情報とを対応付ける情報を別途出力してもよい。また、出力部350は、被写体の三次元形状情報と、被写体の画質を示す情報とを、別のタイミングで出力してもよい。例えば、被写体の三次元形状情報と被写体の画質を示す情報とを対応付ける情報は、タイムコードであってもよい。
【0062】
ここまで、情報処理装置100を画像生成システム1の一部として説明した。しかしながら、情報処理装置100は、画像生成システム1とは別の単体の装置であってもよい。また、入力装置50のような仮想視点を指定するための装置が、情報処理装置100の機能を有していてもよい。例えば、入力装置50が
図3に示す各処理部を有していてもよい。この場合、入力装置50は、生成部340が生成した被写体の画質を示す情報(例えばテクスチャ又は半透過モデル)をユーザに対して表示してもよい。一方で、入力装置50は、生成部340が生成した被写体の画質を示す情報に従って、指定された仮想視点からの仮想視点画像において画質が担保されるか否かを判定し、判定結果をユーザに通知してもよい。
【0063】
(その他の実施例)
本技術は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
【0064】
本明細書の開示は、以下の撮像装置、撮像システム、方法及びプログラムを含む。
【0065】
(項目1)
被写体の仮想視点画像の生成に用いられる、前記被写体の三次元形状を示す三次元形状情報を取得する取得手段と、
撮像装置による前記被写体の撮像画像における、前記被写体の画質を特定する特定手段と、
前記被写体の画質を示す情報と、前記被写体の三次元形状情報と、を出力する出力手段と、
を備えることを特徴とする情報処理装置。
【0066】
(項目2)
前記出力手段は、前記被写体の画質を示す可視化された情報を出力することを特徴とする、項目1に記載の情報処理装置。
【0067】
(項目3)
前記出力手段は、前記被写体の画質を示す情報に基づく三次元モデルを表す情報を出力することを特徴とする、項目1又は2に記載の情報処理装置。
【0068】
(項目4)
前記被写体の画質を示す情報は、三次元モデルのテクスチャを示すテクスチャ情報であることを特徴とする、項目1から3のいずれか1項目に記載の情報処理装置。
【0069】
(項目5)
前記テクスチャは要素の繰り返しを含み、前記要素の大きさは前記被写体の画質に応じて選択されることを特徴とする、項目4に記載の情報処理装置。
【0070】
(項目6)
前記出力手段は、前記被写体の三次元形状と、前記被写体の三次元形状の複数の位置のそれぞれに付されたテクスチャと、を示す三次元形状情報を出力し、
前記被写体の三次元形状の特定位置に付されるテクスチャは、前記撮像装置による前記被写体の撮像画像における、前記特定位置についての画質に応じて決定されることを特徴とする、項目1から5のいずれか1項目に記載の情報処理装置。
【0071】
(項目7)
前記出力手段は、前記被写体の画質を示す情報として、前記被写体の三次元形状の周囲に設定された領域を示す領域情報を出力し、
前記領域の大きさは前記被写体の画質に応じて設定されることを特徴とする、項目1から3のいずれか1項目に記載の情報処理装置。
【0072】
(項目8)
前記領域の大きさは、前記仮想視点画像に対応する仮想視点の焦点距離にさらに応じて設定されることを特徴とする、項目7に記載の情報処理装置。
【0073】
(項目9)
前記被写体の三次元形状の周囲に設定された領域は、前記被写体の三次元形状の複数の位置のそれぞれの周囲に設定された領域を包含し、
前記被写体の三次元形状の特定位置の周囲に設定された領域は、前記撮像装置による前記被写体の撮像画像における、前記特定位置についての画質を示す情報に応じて設定されていることを特徴とする、項目7又は8に記載の情報処理装置。
【0074】
(項目10)
前記出力手段は、前記被写体の三次元形状と、前記被写体の三次元形状の周囲に設定された前記領域を示す三次元形状と、を示す三次元形状情報を出力することを特徴とする、項目7から9のいずれか1項目に記載の情報処理装置。
【0075】
(項目11)
前記特定手段は、前記撮像装置の画角を示す画角情報に基づいて、前記被写体の画質を特定することを特徴とする、項目1から10のいずれか1項目に記載の情報処理装置。
【0076】
(項目12)
前記特定手段は、前記撮像装置による前記被写体の撮像画像における、前記被写体の解像度に基づいて、前記被写体の画質を特定することを特徴とする、項目1から11のいずれか1項目に記載の情報処理装置。
【0077】
(項目13)
前記特定手段は、前記撮像装置による前記被写体の撮像画像における、前記被写体の複数の位置のそれぞれの画質を特定し、
前記出力手段は、前記被写体の複数の位置のそれぞれの画質を示す情報を、前記三次元形状情報に対応付けて出力することを特徴とする、項目1から12のいずれか1項目に記載の情報処理装置。
【0078】
(項目14)
前記特定手段は、前記被写体の特定位置の画質を、複数の撮像装置から選択された、前記被写体の特定位置が可視である撮像装置による前記被写体の撮像画像に基づいて特定することを特徴とする、項目1から13のいずれか1項目に記載の情報処理装置。
【0079】
(項目15)
前記取得手段は、前記被写体の撮像画像に基づいて前記被写体の三次元形状を推定することにより、前記三次元形状情報を生成することを特徴とする、項目1から14のいずれか1項目に記載の情報処理装置。
【0080】
(項目16)
前記三次元形状情報に従う前記被写体の三次元形状と、前記被写体の画質を示す情報と、を表示装置に表示させる表示制御手段と、
ユーザから前記仮想視点画像に対応する仮想視点の指定を受け付ける受付手段と、をさらに備え、
前記被写体の撮像画像、前記三次元形状情報、及び指定された前記仮想視点に基づいて、前記仮想視点画像が生成されることを特徴とする、項目1から15のいずれか1項目に記載の情報処理装置。
【0081】
(項目17)
被写体の三次元形状を示す三次元形状情報を取得する取得手段と、
前記三次元形状情報が示す前記被写体の三次元形状の複数の位置に、撮像装置による前記被写体の撮像画像における各位置の画質に応じたテクスチャを付与する付与手段と、
を備えることを特徴とする情報処理装置。
【0082】
(項目18)
被写体の三次元形状を示す三次元形状情報を取得する取得手段と、
前記三次元形状情報が示す前記被写体の三次元形状から、撮像装置による前記被写体の撮像画像における前記被写体の画質に応じた範囲内にある領域を示す領域情報を生成する生成手段と、
を備えることを特徴とする情報処理装置。
【0083】
(項目19)
情報処理装置が行う情報処理方法であって、
被写体の仮想視点画像の生成に用いられる、前記被写体の三次元形状を示す三次元形状情報を取得する工程と、
撮像装置による前記被写体の撮像画像における、前記被写体の画質を特定する工程と、
前記被写体の画質を示す情報と、前記被写体の三次元形状情報と、を出力する工程と、
を備えることを特徴とする情報処理方法。
【0084】
(項目20)
コンピュータを、項目1から18のいずれか1項目に記載の情報処理装置として機能させるためのプログラム。
【0085】
本開示は上記実施形態に制限されるものではなく、本願の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。
【符号の説明】
【0086】
100:情報処理装置、310:形状取得部、320:画角取得部、330:評価部、340:生成部、350:出力部