(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-01-12
(45)【発行日】2024-01-22
(54)【発明の名称】画像生成システム及びプログラム
(51)【国際特許分類】
G06T 15/20 20110101AFI20240115BHJP
G06T 19/00 20110101ALI20240115BHJP
H04N 23/60 20230101ALI20240115BHJP
H04N 5/77 20060101ALI20240115BHJP
【ＦＩ】
G06T15/20 500
G06T19/00 A
H04N23/60 500
H04N5/77
【請求項の数】
15
(21)【出願番号】P 2018248126
(22)【出願日】2018-12-28
(65)【公開番号】P2020107251
(43)【公開日】2020-07-09
【審査請求日】2021-11-25
(73)【特許権者】
【識別番号】000134855
【氏名又は名称】株式会社バンダイナムコエンターテインメント
(74)【代理人】
【識別番号】100104710
【弁理士】
【氏名又は名称】竹腰 昇
(74)【代理人】
【識別番号】100124682
【弁理士】
【氏名又は名称】黒田 泰
(74)【代理人】
【識別番号】100090479
【弁理士】
【氏名又は名称】井上 一
(72)【発明者】
【氏名】高子 佳之
【審査官】▲高▼橋 真之
(56)【参考文献】
【文献】特開２００２－０５８０４５（ＪＰ，Ａ）
【文献】特開２０１７－１１８９７９（ＪＰ，Ａ）
【文献】特許第６４３４６６７（ＪＰ，Ｂ１）
【文献】特開平１１－２５９６８５（ＪＰ，Ａ）
【文献】米国特許出願公開第２０１５／０１６３４０２（ＵＳ，Ａ１）
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｔ １５／２０
Ｇ０６Ｔ １９／００
Ｈ０４Ｎ ２３／６０－２３／６９８
Ｈ０４Ｎ ５／７７
(57)【特許請求の範囲】
【請求項1】
撮影部により対象物を複数の撮影方向から撮影することで得られる撮影画像群を取得する取得部と、取得された前記撮影画像群を記憶する記憶部と、
移動制御情報に基づいて、仮想空間においてプリミティブを移動させる処理を行う移動処理部と、
前記プリミティブの前記移動制御情報に基づいて前記撮影画像群から２次元画像である撮影画像を選択し、選択された前記撮影画像に映る前記対象物の画像を、前記プリミティブにマッピングするテクスチャとして生成するテクスチャ生成部と、
前記移動制御情報に基づき選択された前記撮影画像により生成された前記テクスチャを前記プリミティブにマッピングすることで、前記移動制御情報に応じて変化する前記テクスチャを前記プリミティブにマッピングして、前記仮想空間において仮想カメラから見える仮想空間画像を生成する画像生成部と、
を含み、
前記移動処理部は、
前記プリミティブと前記仮想カメラの位置関係が固定された状態で、前記プリミティブ及び前記仮想カメラを前記移動制御情報に応じて移動させる処理を行うことを特徴とする画像生成システム。
【請求項2】
請求項１において、前記移動処理部は、
前記プリミティブが前記仮想カメラに正対し、且つ、前記プリミティブと前記仮想カメラとの距離が一定距離になるように前記プリミティブと前記仮想カメラの位置関係を固定することを特徴とする画像生成システム。
【請求項3】
請求項１又は２において、前記移動処理部は、
前記移動制御情報に基づいて、前記プリミティブと前記仮想カメラの位置関係を固定しながら前記仮想カメラの位置を回転中心として前記プリミティブを回転移動させる、又は前記プリミティブと前記仮想カメラの位置関係を固定しながら前記プリミティブ及び前記仮想カメラを一体として並進移動させることを特徴とする画像生成システム。
【請求項4】
撮影部により対象物を複数の撮影方向から撮影することで得られる撮影画像群を取得する取得部と、取得された前記撮影画像群を記憶する記憶部と、
移動制御情報に基づいて、仮想空間においてプリミティブを移動させる処理を行う移動処理部と、
前記プリミティブの前記移動制御情報に基づいて前記撮影画像群から２次元画像である撮影画像を選択し、選択された前記撮影画像に映る前記対象物の画像を、前記プリミティブにマッピングするテクスチャとして生成するテクスチャ生成部と、
前記移動制御情報に基づき選択された前記撮影画像により生成された前記テクスチャを前記プリミティブにマッピングすることで、前記移動制御情報に応じて変化する前記テクスチャを前記プリミティブにマッピングして、前記仮想空間において仮想カメラから見える仮想空間画像を生成する画像生成部と、
を含み、
前記移動処理部は、
前記移動制御情報に応じて前記プリミティブに対する相対的位置関係が変化する第２のプリミティブの移動処理を行い、
前記画像生成部は、
前記テクスチャがマッピングされた前記プリミティブの画像と、前記第２のプリミティブの画像とを含む画像を、前記仮想空間画像として生成することを特徴とする画像生成システム。
【請求項5】
請求項４において、前記移動処理部は、
前記対象物の分析結果に基づき設定される前記第２のプリミティブの初期配置位置から、前記プリミティブを基準に前記第２のプリミティブを移動させる処理を行うことを特徴とする画像生成システム。
【請求項6】
請求項４又は５において、前記画像生成部は、
前記第２のプリミティブの隠面消去処理を、前記移動制御情報に応じて行うことを特徴とする画像生成システム。
【請求項7】
請求項４乃至６のいずれかにおいて、前記第２のプリミティブの画像は、エフェクト画像であることを特徴とする画像生成システム。
【請求項8】
請求項４乃至７のいずれかにおいて、前記移動処理部は、
前記プリミティブが前記仮想カメラの位置を回転中心として左回りに回転移動した場合には、前記プリミティブを基準として前記プリミティブに対して左回りに前記第２のプリミティブを回転移動し、前記プリミティブが前記仮想カメラの位置を回転中心として右回りに回転移動した場合には、前記プリミティブを基準として前記プリミティブに対して右回りに前記第２のプリミティブを回転移動することを特徴とする画像生成システム。
【請求項9】
請求項１乃至８のいずれかにおいて、前記テクスチャ生成部は、
前記撮影画像群により構成される動画のシーク制御を前記移動制御情報に基づいて行うことで、前記撮影画像群から前記撮影画像を選択し、選択された前記撮影画像に基づいて前記テクスチャを生成することを特徴とする画像生成システム。
【請求項10】
請求項１乃至９のいずれかにおいて、前記撮影画像群は、前記対象物に対する前記撮影部の撮影方向の変化が１８０度以上の撮影方向範囲となる画像群であることを特徴とする画像生成システム。
【請求項11】
請求項１乃至１０のいずれかにおいて、前記取得部は、
他の表示物に対応する他の対象物を複数の撮影方向から撮影することで得られる他の表示物用の撮影画像群を取得し、
前記テクスチャ生成部は、
他の表示物用の移動制御情報に応じて前記他の表示物用の撮影画像群から選択された撮影画像に基づいて、他の表示物用のテクスチャを生成し、
前記画像生成部は、
前記他の表示物用の移動制御情報に応じて変化する前記他の表示物用のテクスチャを、他の表示物用のプリミティブにマッピングして、前記仮想空間画像を生成することを特徴とする画像生成システム。
【請求項12】
請求項１乃至１１のいずれかにおいて、前記画像生成部は、
前記プリミティブの周囲にパーティクルが表示される画像を、前記仮想空間画像として生成することを特徴とする画像生成システム。
【請求項13】
撮影部と、対象物が配置される配置部と、
前記配置部に配置された前記対象物に対する前記撮影部の撮影方向を変化させるための回転移動を行う回転移動機構と、
前記対象物を空中に浮遊させた状態で支持する支持部と、
前記撮影部により前記対象物を複数の撮影方向から撮影することで得られる撮影画像群を取得する取得部と、
取得された前記撮影画像群を記憶する記憶部と、
移動制御情報に基づいて、仮想空間においてプリミティブを移動させる処理を行う移動処理部と、
前記プリミティブの前記移動制御情報に応じて前記撮影画像群から選択された撮影画像に基づいて、前記プリミティブにマッピングするテクスチャを生成するテクスチャ生成部と、
前記移動制御情報に応じて変化する前記テクスチャを、前記プリミティブにマッピングして、前記仮想空間において仮想カメラから見える仮想空間画像を生成する画像生成部と、
を含むことを特徴とする画像生成システム。
【請求項14】
撮影部により対象物を複数の撮影方向から撮影することで得られる撮影画像群を取得する取得部と、取得された前記撮影画像群を記憶する記憶部と、
移動制御情報に基づいて、仮想空間においてプリミティブを移動させる処理を行う移動処理部と、
前記プリミティブの前記移動制御情報に基づいて前記撮影画像群から２次元画像である撮影画像を選択し、選択された前記撮影画像に映る前記対象物の画像を、前記プリミティブにマッピングするテクスチャとして生成するテクスチャ生成部と、
前記移動制御情報に基づき選択された前記撮影画像により生成された前記テクスチャを前記プリミティブにマッピングすることで、前記移動制御情報に応じて変化する前記テクスチャを前記プリミティブにマッピングして、前記仮想空間において仮想カメラから見える仮想空間画像を生成する画像生成部として、
コンピュータを機能させ、
前記移動処理部は、
前記プリミティブと前記仮想カメラの位置関係が固定された状態で、前記プリミティブ及び前記仮想カメラを前記移動制御情報に応じて移動させる処理を行うことを特徴とすることを特徴とするプログラム。
【請求項15】
撮影部により対象物を複数の撮影方向から撮影することで得られる撮影画像群を取得する取得部と、取得された前記撮影画像群を記憶する記憶部と、
移動制御情報に基づいて、仮想空間においてプリミティブを移動させる処理を行う移動処理部と、
前記プリミティブの前記移動制御情報に基づいて前記撮影画像群から２次元画像である撮影画像を選択し、選択された前記撮影画像に映る前記対象物の画像を、前記プリミティブにマッピングするテクスチャとして生成するテクスチャ生成部と、
前記移動制御情報に基づき選択された前記撮影画像により生成された前記テクスチャを前記プリミティブにマッピングすることで、前記移動制御情報に応じて変化する前記テクスチャを前記プリミティブにマッピングして、前記仮想空間において仮想カメラから見える仮想空間画像を生成する画像生成部として、
コンピュータを機能させ、
前記移動処理部は、
前記移動制御情報に応じて前記プリミティブに対する相対的位置関係が変化する第２のプリミティブの移動処理を行い、
前記画像生成部は、
前記テクスチャがマッピングされた前記プリミティブの画像と、前記第２のプリミティブの画像とを含む画像を、前記仮想空間画像として生成することを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像生成システム及びプログラム等に関する。
【背景技術】
【0002】
近年、撮影画像から３次元モデルを生成するフォトグラメトリ（Photogrammetry）と呼ばれる技術が脚光を浴びている。フォトグラメトリでは、例えば現実世界の物体である対象物を複数の撮影方向から撮影して得られた２次元の撮影画像に基づいて、解析処理を行い、対象物の形状、寸法等を求める。そして求められた形状、寸法等に基づいて、仮想空間に配置可能な３次元モデルを生成する。フォトグラメトリは３Ｄスキャンとも呼ばれる。３Ｄスキャンの従来技術としては例えば特許文献１に開示される技術がある。また複数の撮影方向から対象物を撮影する撮影システムの従来技術としては特許文献２に開示される技術がある。
【先行技術文献】
【特許文献】
【0003】
【文献】特開２０１７－１３０００８号公報
【文献】特開２０１３－１５２３３２号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
３Ｄスキャンでは、カメラなどの撮影部により撮影した撮影画像を用いるが、撮影画像の解像度には限界がある。このため、対象物である被写体が精細な形状を有していた場合に、この精細な形状を忠実に再現した３次元モデルを生成することは困難である。また対象物の撮影画像に基づく解析処理は、コンピュータの処理負荷が非常に重いため、例えば対象物を撮影した後、短時間で、対象物に対応する３次元モデルの表示物を、仮想的な３次元空間である仮想空間に出現させることは難しい。
【0005】
本開示によれば、対象物に対応する表示物を、対象物の形状等を忠実に表現しながら仮想空間に出現させることができる画像生成システム及びプログラム等を提供できる。
【課題を解決するための手段】
【0006】
本発明の一態様は、撮影部により対象物を複数の撮影方向から撮影することで得られる撮影画像群を取得する取得部と、取得された前記撮影画像群を記憶する記憶部と、移動制御情報に基づいて、仮想空間においてプリミティブを移動させる処理を行う移動処理部と、前記プリミティブの前記移動制御情報に応じて前記撮影画像群から選択された撮影画像に基づいて、前記プリミティブにマッピングするテクスチャを生成するテクスチャ生成部と、前記移動制御情報に応じて変化する前記テクスチャを、前記プリミティブにマッピングして、前記仮想空間において仮想カメラから見える仮想空間画像を生成する画像生成部と、を含む画像生成システムに関係する。また本発明は、上記各部としてコンピュータを機能させるプログラム、又は該プログラムを記憶したコンピュータ読み取り可能な情報記憶媒体に関係する。
【0007】
本発明の一態様によれば、対象物を複数の撮影方向から撮影することで撮影画像群が取得され、この撮影画像群から、プリミティブの移動制御情報に応じた撮影画像が選択される。そして選択された撮影画像に基づき生成されたテクスチャが、移動制御情報に基づき移動するプリミティブにマッピングされる。これにより、移動制御情報に応じて変化するテクスチャが、プリミティブにマッピングされて、仮想空間において仮想カメラから見える仮想空間画像が生成されるようになる。従って、プリミティブの移動制御状態に対応したテクスチャの画像がプリミティブにマッピングされて、対象物に対応する表示物の画像を含む仮想空間画像を生成できるようになる。これにより、対象物に対応する表示物を、対象物の形状等を忠実に表現しながら仮想空間に出現させることができる画像生成システム等の提供が可能になる。
【0008】
また本発明の一態様では、前記移動処理部は、前記プリミティブと前記仮想カメラの位置関係が固定された状態で、前記プリミティブ及び前記仮想カメラを前記移動制御情報に応じて移動させる処理を行ってもよい。
【0009】
このようにすれば、プリミティブにテクスチャがマッピングされることにより表示される表示物の画像として、擬似的に３次元画像に見える画像を生成できるようになる。
【0010】
また本発明の一態様では、前記撮影部は、前記対象物と、前記対象物の背景を撮影し、前記テクスチャ生成部は、前記撮影画像の各ピクセルの色が、前記背景の色に対応する色か否かを判断して、前記背景の色に対応する色のピクセルであると判断された場合には、前記背景の色に対応する色のピクセルを透明にする処理を行うことで、前記テクスチャを生成してもよい。
【0011】
このようにすれば、背景の部分に、仮想空間の他のオブジェクトが表示された適切な仮想空間画像を、簡素で処理負荷が少ない処理により生成できるようになる。
【0012】
また本発明の一態様では、前記テクスチャ生成部は、前記撮影画像群により構成される動画のシーク制御を前記移動制御情報に基づいて行うことで、前記撮影画像群から前記撮影画像を選択し、選択された前記撮影画像に基づいて前記テクスチャを生成してもよい。
【0013】
このようにすれば、撮影画像群により構成される動画のシーク制御を有効活用して、プリミティブの移動制御情報に対応した適切な撮影画像を選択してテクスチャを生成し、プリミティブにマッピングできるようになる。
【0014】
また本発明の一態様では、前記撮影画像群は、前記対象物に対する前記撮影部の撮影方向の変化が１８０度以上の撮影方向範囲となる画像群であってもよい。
【0015】
このようにすれば、プリミティブが様々な方向に移動した場合にも、これに対応した適切な撮影画像に基づくテクスチャを生成して、プリミティブにマッピングできるようになる。
【0016】
また本発明の一態様では、前記移動処理部は、前記移動制御情報に応じて前記プリミティブに対する相対的位置関係が変化する第２のプリミティブの移動処理を行い、前記画像生成部は、前記テクスチャがマッピングされた前記プリミティブの画像と、前記第２のプリミティブの画像とを含む画像を、前記仮想空間画像として生成してもよい。
【0017】
このようにすれば、現実世界の対象物には無いものについて画像を、第２のプリミティブの画像を用いて表示できるようになる。
【0018】
また本発明の一態様では、前記移動処理部は、前記対象物の分析結果に基づき設定される前記第２のプリミティブの初期配置位置から、前記プリミティブを基準に前記第２のプリミティブを移動させる処理を行ってもよい。
【0019】
このようにすれば、対象物の分析結果に応じた適切な初期配置位置に第２のプリミティブを配置し、移動制御情報に応じてプリミティブが移動した場合に、その移動に連動した適切な位置に、第２のプリミティブによる画像を表示できるようになる。
【0020】
また本発明の一態様では、前記画像生成部は、前記第２のプリミティブの隠面消去処理を、前記移動制御情報に応じて行ってもよい。
【0021】
このように第２のプリミティブの隠面消去処理を行うことで、第２のプリミティブによる画像が仮想カメラから見て非表示になり、適切な仮想空間画像を生成できるようになる。
【0022】
また本発明の一態様では、前記第２のプリミティブの画像は、エフェクト画像であってもよい。
【0023】
このようにすれば、現実世界の対象物には無いエフェクトについての画像を、第２のプリミティブを用いて表示できるようになる。
【0024】
また本発明の一態様では、前記画像生成部は、前記仮想空間画像として、前記プリミティブの画像と、前記仮想空間に設定される複数のオブジェクトの画像とを含む画像を生成し、生成された前記仮想空間画像に対してポストエフェクト処理を行ってもよい。
【0025】
このようなポストエフェクト処理を行うことで、撮影画像群の撮影画像に基づき生成されるキャラクタの画像が、周囲の仮想空間に対して違和感なく溶け込んで見えるような仮想空間画像を生成できるようになる。
【0026】
また本発明の一態様では、前記取得部は、他の表示物に対応する他の対象物を複数の撮影方向から撮影することで得られる他の表示物用の撮影画像群を取得し、前記テクスチャ生成部は、他の表示物用の移動制御情報に応じて前記他の表示物用の撮影画像群から選択された撮影画像に基づいて、他の表示物用のテクスチャを生成し、前記画像生成部は、前記他の表示物用の移動制御情報に応じて変化する前記他の表示物用のテクスチャを、他の表示物用のプリミティブにマッピングして、前記仮想空間画像を生成してもよい。
【0027】
このようにすれば、対象物に対応する表示物と同様に、他の表示物についても、あたかも他の表示物に対応する他の対象物が仮想空間に出現したかのように見える仮想空間画像を生成できるようになる。
【0028】
また本発明の一態様では、前記画像生成部は、前記プリミティブの周囲にパーティクルが表示される画像を、前記仮想空間画像として生成してもよい。
【0029】
このようなパーティクルを表示すれば、プリミティブが仮想空間内を移動したときに、周囲に存在するパーティクルが要因となって、３次元の空間感が創出されるようになる。
【0030】
また本発明の一態様では、前記撮影部と、前記対象物が配置される配置部と、前記配置部に配置された前記対象物に対する前記撮影部の撮影方向を変化させるための回転移動を行う回転移動機構と、を含んでもよい。
【0031】
このような配置部と回転移動機構を設けることで、対象物に対する撮影部の撮影方向が所定角度以上の撮影方向範囲となる撮影画像群を取得できるようになる。
【0032】
また本発明の一態様では、前記対象物を空中に浮遊させた状態で支持する支持部を含んでもよい。
【0033】
このようにすれば、対象物に対応する表示物とし、空中に浮遊した状態の表示物を仮想空間に出現させることが可能になる。
【図面の簡単な説明】
【0034】
【図1】本実施形態の画像生成システムの構成例を示すブロック図。
【図5】プリミティブと仮想カメラの関係についての説明図。
【図6】移動制御情報に応じて変化するテクスチャのマッピング手法の説明図。
【図7】エフェクト画像の生成手法の説明図。
【図8】撮影画像群に基づく仮想空間画像の生成処理のフローチャート。
【図9】３６０度の撮影方向範囲で対象物を撮影する手法の説明図。
【図10】撮影画像群から移動制御情報に応じた撮影画像を選択する手法の説明図。
【図12】背景の色に対応する色のピクセルを透明にする処理のフローチャート。
【図14】エフェクト画像用のプリミティブの初期配置位置の設定手法の説明図。
【図15】仮想空間画像に対するポストエフェクト処理の説明図。
【図16】他の対象物に対応する他の表示物の画像の生成手法の説明図。
【図17】プリミティブの周囲にパーティクルを配置する手法の説明図。
【図18】撮影部、配置部、回転移動機構を設けた画像生成システムの構成例。
【図19】対象物を空中に浮遊させた状態で支持する支持部の例。
【図20】第１、第２の撮影画像群に基づく仮想空間画像の生成処理のフローチャート。
【図23】第１の撮影画像群を加工することで第２の撮影画像群を取得する手法の説明図。
【図24】プレーヤの操作入力情報に応じて第１、第２の撮影画像群の一方の撮影画像群を選択して、仮想空間画像を生成する手法の説明図。
【図25】対象物の分析結果とプレーヤの操作入力情報に応じて第１、第２の撮影画像群の一方の撮影画像群を選択して、仮想空間画像を生成する処理のフローチャート。
【図26】第１、第２の撮影画像群の一方の撮影画像群から移動制御情報に応じて選択された撮影画像に基づいてテクスチャを生成する手法の説明図。
【図28】対象物の分析結果に基づきゲームパラメータを設定してゲーム処理を実行する処理のフローチャート。
【図29】第１の撮影画像群と異なる第２の撮影画像群を記憶部に保存する処理のフローチャート。
【図30】第１、第２の撮影画像群からテクスチャを生成する際における撮影画像の編集処理の説明図。
【発明を実施するための形態】
【0035】
以下、本実施形態について説明する。なお、以下に説明する本実施形態は、特許請求の範囲の記載内容を不当に限定するものではない。また本実施形態で説明される構成の全てが、必須構成要件であるとは限らない。
【0036】
１．画像生成システム
図１は、本実施形態の画像生成システム（画像生成装置、ゲーム装置、端末装置）の構成例を示すブロック図である。なお、本実施形態の画像生成システムは図１の構成に限定されず、その構成要素の一部を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。
図１は、本実施形態の画像生成システム（画像生成装置、ゲーム装置、端末装置）の構成例を示すブロック図である。なお、本実施形態の画像生成システムは図１の構成に限定されず、その構成要素の一部を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。
【0037】
操作部１６０は、プレーヤ（ユーザ）が種々の操作入力情報（入力情報）を入力するためのものである。操作部１６０は、例えば操作ボタン、方向指示キー、ジョイスティック、レバー又はタッチパネル型ディスプレイ等により実現できる。
【0038】
撮影部１６２は、対象物の撮影を行うものであり、ＣＣＤやＣＭＯＳセンサなどの画像センサと、フォーカスレンズ等により構成される光学系などにより実現される。撮影部１６２としては、例えばデジタルカメラやビデオカメラなどのカメラを用いることができる。対象物（physical object）は、例えば現実世界の物体であり、撮影部１６２の被写体である。
【0039】
記憶部１７０は各種の情報を記憶する。記憶部１７０は、処理部１００や通信部１９６などのワーク領域として機能する。プログラムや、プログラムの実行に必要なデータは、この記憶部１７０に保持される。記憶部１７０の機能は、半導体メモリ（ＤＲＡＭ、ＶＲＡＭ）、ＨＤＤ（hard disk drive）、ＳＳＤ（Solid State Drive）、又は光ディスク装置などにより実現できる。記憶部１７０は、撮影画像情報記憶部１７６、仮想空間情報記憶部１７７、描画バッファ１７８を含む。撮影画像情報記憶部１７６は、撮影部１６２により撮影された撮影画像の情報を記憶する。例えば撮影画像群の情報を記憶する。仮想空間情報記憶部１７７は、３次元のオブジェクト空間である仮想空間についての情報を記憶する。例えば仮想空間に配置されるオブジェクトの情報などを記憶する。描画バッファ１７８は、フレームバッファ、ワークバッファ等のピクセル単位で画像情報を記憶できるバッファである。
【0040】
情報記憶媒体１８０は、コンピュータにより読み取り可能な媒体であり、プログラムやデータなどを格納するものである。情報記憶媒体１８０は、光ディスク（ＤＶＤ、ＢＤ、ＣＤ）、ＨＤＤ、或いは半導体メモリ（ＲＯＭ）などにより実現できる。処理部１００は、情報記憶媒体１８０に格納されるプログラム（データ）に基づいて本実施形態の種々の処理を行う。即ち情報記憶媒体１８０には、本実施形態の各部としてコンピュータ（入力装置、処理部、記憶部、出力部を備える装置）を機能させるためのプログラム（各部の処理をコンピュータに実行させるためのプログラム）が記憶される。
【0041】
表示部１９０は、本実施形態により生成された画像を出力するものであり、その機能は、ＬＣＤ、有機ＥＬディスプレイ、ＣＲＴ、タッチパネル型ディスプレイ、或いはＨＭＤ（Head Mounted Display）などにより実現できる。音出力部１９２は、本実施形態により生成された音を出力するものであり、その機能は、スピーカ又はヘッドホン等により実現できる。
【0042】
Ｉ／Ｆ（インターフェース）部１９４は、携帯型情報記憶媒体１９５とのインターフェース処理を行うものであり、その機能はＩ／Ｆ処理用のＡＳＩＣなどにより実現できる。携帯型情報記憶媒体１９５は、プレーヤが各種の情報を保存するためのものであり、電源が非供給になった場合にもこれらの情報の記憶を保持する記憶装置である。携帯型情報記憶媒体１９５は、ＩＣカード（メモリカード）、ＵＳＢメモリ、或いは磁気カードなどにより実現できる。
【0043】
通信部１９６は、有線や無線のネットワークを介して外部（他の装置）との間で通信を行うものであり、その機能は、通信用ＡＳＩＣ又は通信用プロセッサなどのハードウェアや、通信用ファームウェアにより実現できる。
【0044】
なお本実施形態の各部としてコンピュータを機能させるためのプログラム（データ）は、サーバ（ホスト装置）が有する情報記憶媒体からネットワーク及び通信部１９６を介して情報記憶媒体１８０（或いは記憶部１７０）に配信してもよい。このようなサーバによる情報記憶媒体の使用も本実施形態の範囲内に含めることができる。
【0045】
処理部１００（プロセッサ）は、操作部１６０からの操作入力情報やプログラムなどに基づいて、ゲーム処理、編集処理、取得処理、分析処理、移動処理、テクスチャ生成処理、画像生成処理、或いは音生成処理などを行う。
【0046】
処理部１００の各部が行う本実施形態の各処理はプロセッサ（ハードウェアを含むプロセッサ）により実現できる。例えば本実施形態の各処理は、プログラム等の情報に基づき動作するプロセッサと、プログラム等の情報を記憶するメモリにより実現できる。プロセッサは、例えば各部の機能が個別のハードウェアで実現されてもよいし、或いは各部の機能が一体のハードウェアで実現されてもよい。例えば、プロセッサはハードウェアを含み、そのハードウェアは、デジタル信号を処理する回路及びアナログ信号を処理する回路の少なくとも一方を含むことができる。例えば、プロセッサは、回路基板に実装された１又は複数の回路装置（例えばＩＣ等）や、１又は複数の回路素子（例えば抵抗、キャパシター等）で構成することもできる。プロセッサは、例えばＣＰＵ（Central Processing Unit）であってもよい。但し、プロセッサはＣＰＵに限定されるものではなく、ＧＰＵ（Graphics Processing Unit）、或いはＤＳＰ（Digital Signal Processor）等、各種のプロセッサを用いることが可能である。またプロセッサはＡＳＩＣによるハードウェア回路であってもよい。またプロセッサは、アナログ信号を処理するアンプ回路やフィルター回路等を含んでもよい。メモリ（記憶部１７０）は、ＳＲＡＭ、ＤＲＡＭ等の半導体メモリであってもよいし、レジスターであってもよい。或いはハードディスク装置（ＨＤＤ）等の磁気記憶装置であってもよいし、光学ディスク装置等の光学式記憶装置であってもよい。例えば、メモリはコンピュータにより読み取り可能な命令を格納しており、当該命令がプロセッサにより実行されることで、処理部１００の各部の処理が実現されることになる。ここでの命令は、プログラムを構成する命令セットでもよいし、プロセッサのハードウェア回路に対して動作を指示する命令であってもよい。
【0047】
処理部１００は、ゲーム処理部１０６、編集処理部１０８、取得部１１０、分析部１１１、移動処理部１１２、テクスチャ生成部１１４、画像生成部１２０、音生成部１３０を含む。上述したように、これらの各部により実行される本実施形態の各処理は、プロセッサ（或いはプロセッサ及びメモリ）により実現できる。なお、これらの構成要素（各部）の一部を省略したり、他の構成要素を追加するなどの種々の変形実施が可能である。
【0048】
ゲーム処理部１０６はプレーヤがゲームをプレイするための種々のゲーム処理を行う。ゲーム処理は、例えば、ゲーム開始条件が満たされた場合にゲームを開始する処理、開始したゲームを進行させる処理、ゲーム終了条件が満たされた場合にゲームを終了する処理、或いはゲーム成績を演算する処理などである。
【0049】
編集処理部１０８は撮影画像をプレーヤが編集するための編集処理を行う。取得部１１０は、撮影部１６２により撮影された撮影画像の取得処理を行う。例えば撮影部１６２から撮影画像の情報を受信したり読み出したりする処理を行う。分析部１１１は、対象物に対する分析処理を行う。例えば対象物の撮影画像に基づいて対象物のシルエット分析などの分析処理を行う。
【0050】
移動処理部１１２は、仮想空間においてプリミティブ等のオブジェクトを移動させる処理を行う。例えば本実施形態では、複数のオブジェクトが配置される仮想空間（オブジェクト空間）の設定処理が行われる。例えば、移動体（人、ロボット、車、電車、飛行機、船、モンスター又は動物等）、マップ（地形）、建物、観客席、コース（道路）、樹木、壁、水面などの表示物を表す各種オブジェクト（ポリゴン、自由曲面又はサブディビジョンサーフェイスなどのプリミティブで構成されるオブジェクト）を仮想空間に配置設定する処理が行われる。即ちワールド座標系でのオブジェクトの位置や回転角度（向き、方向と同義）が決定され、その位置（Ｘ、Ｙ、Ｚ）にその回転角度（Ｘ、Ｙ、Ｚ軸回りでの回転角度）でオブジェクトが配置される。具体的には、記憶部１７０の仮想空間情報記憶部１７７には、仮想空間情報として、仮想空間でのオブジェクトの位置、回転角度、移動速度、移動方向等の情報であるオブジェクト情報が、オブジェクト番号に対応づけて記憶される。この仮想空間情報であるオブジェクト情報を、例えば各フレーム毎に更新する処理などが行われる。そして移動処理部１１２は、このように設定された仮想空間において、プリミティブ等のオブジェクトを移動させる処理を行う。例えばプリミティブ等のオブジェクトの情報を更新する処理を行う。またオブジェクトを動作させるモーション処理など行う。
【0051】
テクスチャ生成部１１４は、プリミティブにマッピングするテクスチャの生成処理を行う。例えば取得部１１０により取得された撮影画像に基づいてテクスチャを生成する処理を行う。
【0052】
画像生成部１２０は、画像の生成処理を行う。例えば処理部１００で行われる種々の処理の結果に基づいて描画処理を行い、これにより画像を生成し、表示部１９０に表示する。具体的には、座標変換（ワールド座標変換、カメラ座標変換）、クリッピング処理、透視変換、或いは光源処理等のジオメトリ処理が行われ、その処理結果に基づいて、描画データ（プリミティブ面の頂点の位置座標、テクスチャ座標、色データ、法線ベクトル或いはα値等）が作成される。そして、この描画データ（プリミティブ面データ）に基づいて、透視変換後（ジオメトリ処理後）のオブジェクト（１又は複数プリミティブ面）を、描画バッファ１７８に描画する。これにより、仮想空間において仮想カメラから見える仮想空間画像が生成される。なお画像生成部１２０で行われる描画処理は、頂点シェーダ処理やピクセルシェーダ処理等により実現することができる。
【0053】
音生成部１３０は、処理部１００で行われる種々の処理の結果に基づいて音の生成処理を行う。具体的には、楽曲（音楽、ＢＧＭ）、効果音、又は音声などを生成し、音出力部１９２に出力させる。
【0054】
そして本実施形態の画像生成システムは、図１に示すように、取得部１１０と記憶部１７０と移動処理部１１２とテクスチャ生成部１１４と画像生成部１２０を含む。
【0055】
取得部１１０は、撮影部１６２により対象物を複数の撮影方向から撮影することで得られる撮影画像群を取得する。撮影画像群は、例えばデジタルカメラにより撮影された複数の静止画であってもよいし、デジタルカメラやビデオカメラにより撮影された動画を構成する複数の画像であってもよい。この場合には撮影画像群は例えばＭＰＥＧ等により符号化された動画を構成する画像群になる。即ち撮影画像群はＭＰＥＧ等のムービー映像であってもよい。なお本実施形態の画像生成システムは撮影部１６２を有していなくてもよく、この場合には、取得部１１０は、Ｉ／Ｆ部１９４や通信部１９６を介して撮影画像を取得する。
【0056】
記憶部１７０は、取得された撮影画像群を記憶する。例えば取得部１１０が撮影画像群を取得すると、取得された撮影画像群の情報が記憶部１７０に保存されて記憶される。具体的には記憶部１７０の撮影画像情報記憶部１７６が撮影画像群の情報を記憶する。
【0057】
移動処理部１１２は、移動制御情報に基づいて、仮想空間においてプリミティブを移動させる処理を行う。例えば移動制御情報に基づいて、仮想空間においてプリミティブを並進移動させたり回転移動させる処理を行う。移動制御情報は、プリミティブの移動制御を行うための情報である。移動制御情報としては、例えば操作部１６０などを用いてプレーヤにより入力される操作入力情報を用いることができる。或いはプリミティブの一連の移動を制御する移動制御情報を記憶部１７０に記憶しておき、記憶された移動制御情報を記憶部１７０から読み出すことで、プリミティブの移動制御を行うようにしてもよい。このようにすれば、移動制御情報に応じてプリミティブが自動的に移動するような移動制御を実現できる。これにより、例えば対象物に対応する表示物（例えば魚や動物等）の観賞を可能にするような画像生成システムなどを実現できる。
【0058】
テクスチャ生成部１１４は、プリミティブの移動制御情報に応じて撮影画像群（第１、第２の撮影画像群の一方の撮影画像群）から選択された撮影画像に基づいて、プリミティブにマッピングするテクスチャを生成する処理を行う。例えばプリミティブの移動制御情報に基づいて、撮影画像群（第１、第２の撮影画像群の一方の撮影画像群）から当該移動制御情報に対応する撮影画像を記憶部１７０から読み出す。そしてテクスチャ生成部１１４は、読み出された撮影画像に基づいてテクスチャを生成する。例えば対象物を撮影した撮影画像のうち、対象物の映る部分をテクスチャの画像として生成する。具体的には、撮影画像のうちの背景の画像の部分を透明にし、対象物の画像の部分を切り抜いて、テクスチャを生成する。当該テクスチャをプリミティブにマッピングすることで、対象物に対応する表示物の画像を表示できるようになる。ここでプリミティブは、例えばプリミティブ面であり、例えばポリゴンである。具体的にはプリミティブは、仮想カメラに対して正対して配置されるビルボードポリゴンである。なおプリミティブは、自由曲面やサブディビジョンサーフェイスなどであってもよい。
【0059】
画像生成部１２０は、移動制御情報に応じて変化するテクスチャを、プリミティブにマッピングして、仮想空間において仮想カメラから見える仮想空間画像を生成する。例えば移動制御情報に応じて撮影画像群から選択された撮影画像に基づくテクスチャを、プリミティブにマッピングすることで、プリミティブにマッピングされるテクスチャが、プリミティブの移動制御情報に応じて変化するようになる。即ち対象物を複数の撮影方向から撮影することで得られた撮影画像群の中から、プリミティブの移動制御状態に適合した撮影画像を選択し、選択された撮影画像に基づき生成されたテクスチャを、プリミティブにマッピングする。このようにすることで、プリミティブの移動制御の状態に応じたテクスチャの画像がプリミティブにマッピングされて、対象物に対応する表示物が表示された仮想空間画像を生成できるようになる。
【0060】
また移動処理部１１２は、プリミティブと仮想カメラの位置関係が固定された状態で、プリミティブ及び仮想カメラを移動制御情報に応じて移動させる処理を行う。例えばプリミティブと仮想カメラとの距離が一定距離になるようにプリミティブと仮想カメラの位置関係を固定する。一例としては、プリミティブが仮想カメラと正対し、且つ、プリミティブと仮想カメラとの距離が一定距離になるようにプリミティブと仮想カメラの位置関係を固定する。プリミティブが仮想カメラに正対する状態は、例えば仮想カメラの視線方向がプリミティブの面に直交する状態である。そして移動処理部１１２は、このようにプリミティブと仮想カメラの位置関係が固定された状態で、プリミティブ及び仮想カメラを一体にして移動させる処理を行う。例えば仮想空間において上、下、左又は右に並進移動させる移動制御情報である場合には、移動処理部１１２は、プリミティブ及び仮想カメラを上、下、左又は右に並進移動させる処理を行う。或いは、仮想空間においてＸ軸、Ｙ軸又はＺ軸回りに回転移動させる移動制御情報である場合には、移動処理部１１２は、プリミティブ及び仮想カメラをＸ軸、Ｙ軸又はＺ軸回りに回転移動させる処理を行う。
【0061】
また撮影部１６２は、対象物と、対象物の背景を撮影する。撮影部１６２は画像生成システムが有するものであってもよいし、画像生成システムとは別個に設けられるものであってもよい。テクスチャ生成部１１４は、撮影画像の各ピクセルの色が、背景の色に対応する色か否かを判断する。そして背景の色に対応する色のピクセルであると判断された場合には、背景の色に対応する色のピクセルを透明にする処理を行うことで、テクスチャを生成する。例えばテクスチャ生成部１１４は、撮影画像の各ピクセル毎に、各ピクセルの色が背景に対応する色か否かを判断する。例えば撮影部１６２により対象物を撮影する際に、背景の色が緑又は青等の所定色に設定される。例えば対象物の色とは異なる所定色に、背景の色が設定される。例えば対象物が複数の色を有する場合には、これらの複数の色のいずれとも異なる所定色に、背景の色が設定される。例えば撮影時において対象物の周囲に配置される背景物が所定色に設定される。背景の色は、対象物の色と補色の関係の色に設定されていることが望ましい。そしてテクスチャ生成部１１４は、処理対象となるピクセルが、背景に対応する色（例えば緑又は青等）のピクセルであると判断された場合には、当該ピクセルを透明にする処理を行う。例えば半透明処理であるα合成において、当該ピクセルのα値を０に設定することで、当該ピクセルを透明なピクセルにする。なお以上のようなピクセル毎の処理はピクセルシェーダなどにより実現できる。
【0062】
またテクスチャ生成部１１４は、撮影画像群により構成される動画のシーク制御を移動制御情報に基づいて行うことで、撮影画像群から撮影画像を選択し、選択された撮影画像に基づいてテクスチャを生成する。例えば撮影画像群の動画（ムービー）の早送りや巻き戻しのシーク制御を行い、移動制御情報に対応する撮影画像をシークして選択する。そして選択された撮影画像に基づいてテクスチャを生成する。このようにして生成されたテクスチャが、移動制御情報に応じて並進移動や回転移動するプリミティブにマッピングされる。
【0063】
また撮影画像群（第１、第２の撮影画像群）は、対象物に対する撮影部１６２の撮影方向の変化が１８０度以上の撮影方向範囲となる画像群である。望ましくは後述の図９に示すように、撮影画像群は、対象物に対する撮影部１６２の撮影方向の変化が３６０度の撮影方向範囲となる画像群である。例えば撮影部１６２の撮影方向は対象物の方に向いており、対象物を注視する方向に撮影方向が設定されている。撮影方向範囲は、対象物を注視した状態で撮影方向の角度が０度～βと変化する範囲である。そして本実施形態ではβが１８０度以上に設定されており、望ましくは図９に示すようにβ＝３６０度になっている。
【0064】
また移動処理部１１２は、移動制御情報に応じてプリミティブに対する相対的位置関係が変化する第２のプリミティブの移動処理を行う。例えばプリミティブを基準にして第２のプリミティブを回転移動するなどの移動処理を行う。そして画像生成部１２０は、テクスチャがマッピングされたプリミティブの画像と、第２のプリミティブの画像とを含む画像を、仮想空間画像として生成する。例えばプリミティブは、対象物に対応する表示物の画像を表示するためのものであり、当該プリミティブには、対象物の撮影画像に基づくテクスチャがマッピングされる。一方、第２のプリミティブは、例えば対象物に対応する表示物の付随物の画像を表示するためのものである。付随物は、例えば表示物のエフェクト、所持品、装飾品、装備品、武器又は防具などの表示物であり、第２のプリミティブの画像は、表示物のエフェクト、所持品、装飾品、装備品、武器又は防具などの画像になる。第２のプリミティブは、例えばビルボードポリゴン等のポリゴンであってもよいし、自由曲面やサブディビジョンサーフェイスなどであってもよい。或いは第２のプリミティブは、表示物の付随物を表す３次元オブジェクトを構成するものであってもよい。このような第２のプリミティブを用いれば、現実世界の対象物には無いエフェクト、所持品、装飾品、装備品、武器又は防具等の画像を、対象物に対応する表示物に付加して表示できるようになる。
【0065】
また移動処理部１１２は、対象物の分析結果に基づき設定される第２のプリミティブの初期配置位置から、プリミティブを基準に第２のプリミティブを移動させる処理を行う。例えば初期配置位置からプリミティブを基準に第２のプリミティブを移動させる処理を、移動制御情報に基づいて行う。例えば分析部１１１が、現実世界の物体である対象物の分析処理を行う。例えば分析部１１１は、対象物のシルエット分析等の分析処理を行って、対象物の種類や形状等を特定する。そして移動処理部１１２は、対象物の種類や形状等に応じた初期配置位置に、第２のプリミティブを配置し、当該初期配置位置から、プリミティブを基準に第２のプリミティブを回転移動したり並進移動させる処理を行う。例えば対象物が第１の種類や第１の形状である場合には、第１の初期配置位置に第２のプリミティブを配置して移動処理を行い、対象物が第２の種類や第２の形状である場合には、第２の初期配置位置に第２のプリミティブを配置して移動処理を行う。
【0066】
また画像生成部１２０は、第２のプリミティブの隠面消去処理を、移動制御情報に応じて行う。即ち第２のプリミティブは、移動制御情報に応じてプリミティブに対する相対的位置関係が変化するように回転移動したり、並進移動する。そしてプリミティブにより表される表示物に対して、第２のプリミティブにより表される付随物が、仮想カメラから見て隠れる位置に来たと移動制御情報に基づき判断された場合に、第２のプリミティブの隠面消去処理を行う。そしてあたかも、プリミティブにより表される表示物によって、第２のプリミティブにより表される付随物が隠れて見えるようにする隠面消去処理を行う。このようにすることで表示物とその付随物の画像を矛盾なく表示することが可能になる。
【0067】
また第２のプリミティブの画像は、例えばエフェクト画像である。例えば第２のプリミティブの画像は、光、炎、煙、噴射、点滅、爆発、武器攻撃又は魔法攻撃などを表す特殊なグラフィックであるエフェクト（ゲームエフェクト）の画像である。このように第２のプリミティブの画像としてエフェクトの画像を用いれば、現実世界の対象物では発生できないエフェクトを、ゲーム空間である仮想空間内において発生できるようになる。
【0068】
また画像生成部１２０は、仮想空間画像として、プリミティブの画像と、仮想空間に設定される複数のオブジェクトの画像とを含む画像を生成する。そして生成された仮想空間画像に対してポストエフェクト処理を行う。例えばぼかし処理、明るさの調整処理又は色相の調整処理などのポストエフェクト処理を行う。具体的には画像生成部１２０は、他のオブジェクトが表示される仮想空間画像に対して、プリミティブにより表される表示物が違和感なく表示されるようにするポストエフェクト処理を行う。例えばプリミティブにより表される表示物の輪郭をぼかすようなポストエフェクト処理を行って、表示物と仮想空間画像の境界である輪郭が目立たなくなるようにする。また表示物の明るさと、周囲の仮想空間画像の明るさに差があった場合に、画像生成部１２０は、この差を小さくするようなポストエフェクト処理を行う。例えばプリミティブにマッピングされるテクスチャは、現実世界において対象物を撮影することで得られる撮影画像に基づき生成されている。このため、撮影環境に応じてテクスチャの画像の明るさも変動し、表示物の画像の明るさと、表示物の周囲の仮想空間画像の明るさとの間に差が生じてしまうが、この明るさの差を低減するようなポストエフェクト処理を画像生成部１２０が行う。
【0069】
また取得部１１０は、他の表示物に対応する他の対象物を複数の撮影方向から撮影することで得られる他の表示物用の撮影画像群を取得する。即ち、プリミティブに対応する表示物とは異なる他の表示物に対応する他の対象物を撮影した他の表示物用の撮影画像群を取得する。例えばプリミティブにより表される表示物がキャラクタであった場合に、他の表示物は、例えば当該キャラクタと戦う敵キャラクタなどである。そしてテクスチャ生成部１１４は、他の表示物用の移動制御情報に応じて他の表示物用の撮影画像群から選択された撮影画像に基づいて、他の表示物用のテクスチャを生成する。そして画像生成部１２０は、他の表示物用の移動制御情報に応じて変化する他の表示物用のテクスチャを、他の表示物用のプリミティブにマッピングして、仮想空間画像を生成する。例えば移動処理部１１２は、他の表示物用の移動制御情報に応じて、他の表示物用のプリミティブを仮想空間において移動させる処理を行う。そして、このように移動する他の表示物用のプリミティブに対して、他の表示物用の移動制御情報に応じて変化する他の表示物用のテクスチャをマッピングする。これにより、例えば敵キャラクタなどの他の表示物のリアルな画像を、少ない処理負荷で生成することが可能になる。
【0070】
また画像生成部１２０は、プリミティブの周囲にパーティクルが表示される画像を、仮想空間画像として生成する。例えば仮想空間において、プリミティブの周囲にパーティクルが配置されるようにパーティクルを発生して、仮想空間画像を生成する。例えば画像生成部１２０は、パーティクルを発生させるエフェクト処理（ポストエフェクト処理）を行う。このようにプリミティブの周囲にパーティクルが存在することで、プリミティブに対応する表示物が、仮想空間内において違和感なく移動する仮想空間画像を生成できるようになる。
【0071】
また本実施形態の画像生成システムは、後述の図１８に示すように、カメラ等の撮影部１６２と、対象物ＰＯＢが配置される配置部１０（載置部）と、回転移動機構１２を含むことができる。回転移動機構１２は、配置部１０に配置された対象物ＰＯＢに対する撮影部１６２の撮影方向を変化させるための回転移動を行う機構である。図１８では、モーターなどの駆動部により実現される回転移動機構１２により、ターンテーブルのように配置部１０を回転させることにより、対象物ＰＯＢに対する撮影部１６２の撮影方向を変化させている。このような配置部１０と回転移動機構１２を設けることで、対象物ＰＯＢに対する撮影部１６２の撮影方向が所定角度以上の撮影方向範囲となる撮影画像群を取得できるようになる。
【0072】
また本実施形態の画像生成システムは、対象物を空中に浮遊させた状態で支持する支持部を含んでもよい。例えば後述の図１９に示すように、支持部１６により対象物ＰＯＢを支持することで、対象物ＰＯＢを空中に浮遊させた状態で撮影部１６２により撮影できるようにする。例えば対象物ＰＯＢの脚部等が配置部１０から離れた状態で、対象物ＰＯＢを支持部１６により支持して、撮影部１６２により対象物ＰＯＢを複数の撮影方向から撮影して撮影画像群を取得するようにする。このようにすることで、例えばアニメなどにおいて飛行可能なキャラクタとして登場するロボットなどのプラモデルを対象物ＰＯＢとして撮影して、仮想空間に登場させることが可能になる。
【0073】
また取得部１１０は、第１の撮影画像群と第２の撮影画像群を取得する。なお取得する撮影画像群は２つに限定されず、３つ以上の撮影画像群を取得してもよい。即ち取得部１１０は、第１～第Ｋの撮影画像群（Ｋは２以上の整数）を取得できる。第１の撮影画像群は、撮影部１６２により対象物を複数の撮影方向から撮影することで得られる撮影画像群である。一方、第２の撮影画像群は、ポーズを変化させた対象物、付随物を付加した対象物又は形状変形させた対象物を複数の撮影方向から撮影することで得られる画像群である。例えば第１の撮影画像群における対象物のポーズ（姿勢）を変化させた対象物（第２の対象物）を、撮影部１６２により複数の撮影方向から撮影することで第２の撮影画像群を取得する。或いは、第１の撮影画像群における対象物に対して、武器、防具、装備品、装飾品又は所持品などの付随物を付加（装備、所持）した対象物（第２の対象物）を、撮影部１６２により複数の撮影方向から撮影することで第２の撮影画像群を取得する。或いは、第１の撮影画像群における対象物を形状変形させた対象物（第２の対象物）を、撮影部１６２により複数の撮影方向から撮影することで第２の撮影画像群を取得する。例えば異なる形状に対象物が変形する変身状態に設定して、複数の撮影方向から撮影して、第２の撮影画像群を取得する。或いは、第１の撮影画像群を加工した画像群を第２の撮影画像群として取得してもよい。例えば第１の撮影画像群の縮小拡大などのサイズ変更の加工処理を行ったり、第１の撮影画像群に対してぼかし処理などの画像エフェクト処理の加工処理を行ったり、第１の撮影画像群の色、明るさ又はコントラストを変更する加工処理を行ったり、或いは第１の撮影画像群の左右反転、上下反転又は回転などの加工処理を行ったりすることで、第２の撮影画像群を取得する。そして記憶部１７０（撮影画像情報記憶部１７６）は、このようにして取得された第１、第２の撮影画像群を記憶し、移動処理部１１２は、仮想空間においてプリミティブを移動させる処理を行う。そしてテクスチャ生成部１１４は、第１、第２の撮影画像群から、プリミティブにマッピングするテクスチャを生成し、画像生成部１２０は、生成されたテクスチャを、プリミティブにマッピングして、仮想空間において仮想カメラから見える仮想空間画像を生成する。例えばテクスチャ生成部１１４は、第１、第２の撮影画像群から、所定手順の処理により得られた撮影画像に基づいて、テクスチャを生成する。そして画像生成部１２０は、所定手順の処理により得られた撮影画像に基づくテクスチャを、仮想空間内で移動するプリミティブにマッピングすることで、対象物に対応する表示物が表示された仮想空間画像を生成する。
【0074】
またテクスチャ生成部１１４は、プレーヤの操作入力情報に応じて、第１、第２の撮影画像群の一方の撮影画像群を選択する。そして選択された一方の撮影画像群の撮影画像に基づいて、テクスチャを生成する。例えばプレーヤが操作部１６０を用いて入力した操作入力情報を取得し、この操作入力情報に基づいて、第１、第２の撮影画像群の一方の撮影画像群を選択する。例えば操作入力情報に基づいてプレーヤが第１の操作を行ったと判断された場合には、第１の撮影画像群を選択し、第１の撮影画像群の撮影画像に基づいて、プリミティブにマッピングされるテクスチャを生成する。一方、プレーヤが第２の操作を行ったと判断された場合には、第２の撮影画像群を選択し、第２の撮影画像群の撮影画像に基づいて、プリミティブにマッピングされるテクスチャを生成する。このようにすれば、第１、第２の撮影画像群のうち、プレーヤの操作入力情報に対応した撮影画像群から撮影画像を選択して、テクスチャを生成し、対象物に対応する表示物を表示するためのプリミティブにマッピングできるようになる。従って、プレーヤの操作入力情報に応じた適切な撮影画像がマッピングされた表示物を、仮想空間に登場させることが可能になる。
【0075】
またテクスチャ生成部１１４は、対象物の分析結果と、プレーヤの操作入力情報に応じて、第１、第２の撮影画像群の一方の撮影画像群を選択し、選択された一方の撮影画像群の撮影画像に基づいて、テクスチャを生成する。例えば分析部１１１は、対象物のシルエット分析等の分析処理を行って、対象物の種類や形状等を特定する。そしてテクスチャ生成部１１４は、対象物の分析結果である対象物の種類や形状等と、プレーヤの操作入力情報とに基づいて、第１、第２の撮影画像群の一方の撮影画像群を選択する。例えば、分析処理により、対象物が第１の種類又は第１の形状であることが分析され、操作入力情報に基づいてプレーヤが第１の操作を行ったと判断された場合には、第１の撮影画像群を選択し、第１の撮影画像群の撮影画像に基づいて、プリミティブにマッピングされるテクスチャを生成する。一方、分析処理により、対象物が第２の種類又は第２の形状であることが分析され、操作入力情報に基づいてプレーヤが第２の操作を行ったと判断された場合には、第２の撮影画像群を選択し、第２の撮影画像群の撮影画像に基づいて、プリミティブにマッピングされるテクスチャを生成する。このようにすることで、対象物の分析結果とプレーヤの操作入力情報の両方に応じた適切な撮影画像がマッピングされた表示物を、仮想空間に登場させることが可能になる。
【0076】
またテクスチャ生成部１１４は、第１の撮影画像群の撮影画像と第２の撮影画像群の撮影画像を合成することで、テクスチャを生成する。例えば第１、第２の撮影画像群の撮影画像のα合成などの合成処理を行うことで、合成画像を生成し、合成画像に基づいてテクスチャを生成し、表示物に対応するプリミティブにマッピングする。例えば第１の撮影画像群の撮影画像に基づくテクスチャをプリミティブにマッピングした後、第１、第２の撮影画像群の撮影画像の合成画像に基づくテクスチャをプリミティブにマッピングする。そして、その後に、第２の撮影画像群の撮影画像に基づくテクスチャをプリミティブにマッピングする。このようにすれば、第１の撮影画像群の撮影画像に基づく表示物の画像から、第２の撮影画像群の撮影画像に基づく表示物の画像へとスムーズに切り替えることができ、擬似的なモーション補間処理などを実現することが可能になる。
【0077】
またゲーム処理部１０６は、対象物の分析結果に基づいて、プレーヤがプレイするゲームのゲームパラメータを設定し、設定されたゲームパラメータに基づいてゲーム処理を行う。例えば対象物の分析結果に基づいて、対象物の種類や形状等が特定される。そして対象物の種類や形状等に基づいて、対象物に対応するキャラクタ等の表示物のゲームパラメータが設定される。例えば攻撃力、守備力、耐久力、移動能力、走行能力、特殊能力、特殊スキル、ヒットポイント、マジックポイント又はレベル等のゲームパラメータが設定される。そして設定されたゲームパラメータに基づいて、キャラクタ等の表示物が登場するゲームの処理が行われる。例えばゲームの開始処理、ゲームの進行処理、ゲームの終了処理又はゲーム成績の演算処理などが行われる。
【0078】
また取得部１１０は、第１の撮影画像群を受け付けた後、第２の撮影画像群を受け付けた場合に、第２の撮影画像群が第１の撮影画像群と異なる撮影画像群か否かを判断する。そして異なる撮影画像群と判断された場合に、第２の撮影画像群を記憶部１７０に記憶する。即ち、第２の撮影画像群を受け付けた場合に、第２の撮影画像群が、過去に撮影した第１の撮影画像群と異なる撮影群か否かを判断する。そして取得部１１０は、第２の撮影画像群が、第１の撮影画像群とは異なる撮影画像群である場合に、当該第２の撮影画像群を記憶部１７０に記憶して保存する。例えば第２の撮影画像群に映る対象物が、ポーズを変化させた対象物、付随物を付加した対象物、或いは形状変形した対象物である場合には、第２の撮影像群が第１の撮影画像群とは異なる撮影画像群であると判断されるようになる。第３の撮影画像群を受け付けた場合にも、第３の撮影画像群が第１の撮影画像群や第２の撮影画像群と異なる撮影画像群か否かを判断し、異なる撮影画像群である場合に、第３の撮影画像群を記憶部１７０に記憶して保存する。異なる撮影画像群か否かは、例えば撮影画像に映る対象物の形状又は色などに基づいて判断できる。
【0079】
また編集処理部１０８は、第１、第２の撮影画像群からテクスチャを生成する際に撮影画像に対するプレーヤの編集を受け付ける編集処理を行う。例えば本実施形態では第１、第２の撮影画像群の撮影画像に基づいてテクスチャが生成されるが、当該テクスチャを生成する際に、撮影画像に対するプレーヤの編集を可能にする。例えば撮影画像を修正する編集や、撮影画像にマーク、アイコンなどの付加表示物を付加する編集や、撮影画像を変形するなどの編集を、プレーヤが行えるようにする。そして編集後の撮影画像に基づくテクスチャを生成して、仮想空間を移動するプリミティブにマッピングする。
【0080】
２．本実施形態の手法
次に本実施形態の手法について詳細に説明する。
次に本実施形態の手法について詳細に説明する。
【0081】
２．１ 概要
まず、本実施形態の手法の概要について説明する。従来より、フォトグラメトリと呼ばれる手法が知られており、このフォトグラメトリでは、現実世界の対象物を複数の撮影方向から撮影した撮影画像に基づいて３Ｄスキャンを行って、仮想空間に配置可能な３次元モデルを生成する。しかしながら、３Ｄスキャンでは、撮影画像の解像度に限界があるため、対象物が精細な形状を有していた場合に、この精細な形状を忠実に再現した３次元モデルを生成することは困難である。また３Ｄスキャンにより３次元モデルを生成する処理は、コンピュータの処理負荷が非常に重いため、対象物を撮影した後、短時間で、対象物に対応する３次元モデルの表示物を仮想空間に出現させることが難しいという問題もある。
まず、本実施形態の手法の概要について説明する。従来より、フォトグラメトリと呼ばれる手法が知られており、このフォトグラメトリでは、現実世界の対象物を複数の撮影方向から撮影した撮影画像に基づいて３Ｄスキャンを行って、仮想空間に配置可能な３次元モデルを生成する。しかしながら、３Ｄスキャンでは、撮影画像の解像度に限界があるため、対象物が精細な形状を有していた場合に、この精細な形状を忠実に再現した３次元モデルを生成することは困難である。また３Ｄスキャンにより３次元モデルを生成する処理は、コンピュータの処理負荷が非常に重いため、対象物を撮影した後、短時間で、対象物に対応する３次元モデルの表示物を仮想空間に出現させることが難しいという問題もある。
【0082】
そこで本実施形態では、対象物の撮影画像に基づき３Ｄスキャンの解析処理を行うのではなく、対象物の撮影画像を用いてテクスチャを生成する。そして撮影画像に基づき生成されたテクスチャを仮想空間のプリミティブにマッピングすることで、対象物に対応する表示物が表示される仮想空間画像を生成する。具体的には移動制御情報に基づいて、ポリゴン等で実現されるプリミティブを仮想空間内で移動させる。移動制御情報としては、例えばプレーヤの操作入力情報を用いることができる。或いは予め決められた軌道に沿ってプリミティブを移動させるような移動制御情報であってもよい。そして、プリミティブの移動制御に用いる移動制御情報を用いて、対象物を撮影した複数の撮影画像の中から適切な撮影画像を選択する。そして選択された撮影画像に基づき生成されたテクスチャを、移動制御情報に基づき移動するプリミティブに対してマッピングして、仮想空間において仮想カメラから見える画像である仮想空間画像を生成する。即ち、プリミティブにテクスチャをマッピングすることで、対象物に対応するキャラクタ等の表示物の画像を生成し、この表示物の画像を含む仮想空間画像を生成する。このようにすることで、３Ｄスキャンのような負荷の重い処理を行うことなく、対象物の形状が忠実に再現された表示物の画像を含む仮想空間画像を生成できるようになる。
【0083】
具体的には図２（Ａ）に示すように本実施形態では、撮影部１６２により対象物ＰＯＢを複数の撮影方向から撮影する。図２（Ａ）では、対象物ＰＯＢは、ロボットのプラモデルである。この対象物ＰＯＢを、ターンテーブルである配置部１０に配置し、モーター等により実現される回転移動機構１２を用いて配置部１０を回転させる。例えば３０～６０秒程度の撮影時間において、配置部１０を３６０度、回転させる。また対象物ＰＯＢの背景として、グリーンバックやブルーバック等の単色の背景部２０が配置されている。このようにすることで、例えば後述の図９のように３６０度の撮影方向範囲で撮影部１６２により対象物ＰＯＢを撮影できるようになり、対象物ＰＯＢを３６０度の撮影方向範囲で撮影した画像を得ることができる。具体的には撮影部１６２によりムービー撮影を行うことで、３６０度の撮影方向範囲で撮影した動画（ムービー）である撮影画像群を得ることができる。
【0084】
そして本実施形態では、このような撮影の終了後、図２（Ｂ）に示すようにワンアクションの短い時間で、対象物ＰＯＢに対応するキャラクタＣＨ（広義には表示物）を、仮想空間に登場させて、このキャラクタＣＨを用いたゲームをプレーヤがプレイできるようにする。例えば図２（Ｂ）では、３次元のオブジェクト空間である仮想空間に、岩等の３次元のオブジェクトＯＢ１、ＯＢ２、ＯＢ３が配置され、敵ロボットである敵キャラクタＣＨＥも出現している。プレーヤはゲームコントローラー等の操作部１６０を操作することで、キャラクタＣＨをＡ１、Ａ２に示すように動かすことができる。またロボットであるキャラクタＣＨの画像には、補助装置であるバーニアの噴射炎ＶＮの画像も表示されている。
【0085】
なお以下では対象物がロボットのプラモデルである場合を主に例にとり説明するが、本実施形態はこれに限定されない。対象物は例えば戦艦等の艦船、戦闘機等の飛行機、戦車、車又は怪獣等のプラモデル、模型であってもよい。また対象物は、プラモデル、模型には限定されず、現実世界に実在する物体であればよい。例えば対象物としては、人形、フィギュアや、車、バイク又は自動車などの現実世界の乗り物や、家電、文房具、時計などの日常品や、彫刻、絵などの美術品や、ビル、橋などの建造物などの種々の物体（被写体）を想定できる。
【0086】
次に本実施形態の画像生成手法について図３（Ａ）～図７を用いて詳細に説明する。まず図３（Ａ）に示すように、ターンテーブルである配置部１０に対象物ＰＯＢを配置する。そして３０～６０秒の撮影時間で、Ｂ１、Ｂ２に示すように配置部１０を３６０度だけ回転させながら、グリーンバック等の背景部２０を背景として、撮影部１６２により対象物ＰＯＢを撮影する。そして撮影部１６２の例えばムービー撮影により得られた動画のデータが処理装置２００に取り込まれる。この動画が、撮影部１６２により対象物ＰＯＢを複数の撮影方向から撮影することで得られる撮影画像群に対応する。
【0087】
なお、図３（Ａ）では、本実施形態の画像生成システムを実現する処理装置２００がＰＣ（パーソナルコンピュータ）である場合の例が示されているが、本実施形態はこれに限定されない。画像生成システムを実現する処理装置２００は、後述の図１８に示すような業務用のゲーム装置であってもよいし、家庭用のゲーム装置などの他の形態の装置であってもよい。例えば処理装置２００は、スマートフォン、タブレットＰＣなどの携帯型通信端末であってもよい。この場合には撮影部１６２は携帯型通信端末の内蔵カメラなどにより実現できる。
【0088】
撮影部１６２の撮影により取得された動画である撮影画像群は、処理装置２００の記憶部１７０に記憶される。例えば記憶部１７０の指定フォルダーに、例えば３６０度の撮影方向範囲での撮影画像群となる動画のデータが自動保存される。図３（Ｂ）は、撮影画像群（動画）に含まれる撮影画像ＩＭの例である。この撮影画像ＩＭは、図３（Ａ）において対象物ＰＯＢの背中側である後方側を、撮影部１６２より撮影した際の撮影画像である。撮影画像ＩＭには、対象物ＰＯＢの画像が映っていると共に、図３（Ａ）の背景部２０による背景ＢＧの画像が映っている。背景ＢＧは、例えばグリーンバックやブルーバックなどの単色背景である。なお図３（Ａ）では撮影部１６２により対象物ＰＯＢのムービー撮影を行うことで、撮影画像群を取得しているが、例えば撮影部１６２の撮影方向を変えながら、対象物ＰＯＢのコマ撮り撮影を行うことで、撮影画像群を取得してもよい。
【0089】
そして本実施形態では図４（Ａ）に示すように、図３（Ｂ）の撮影画像ＩＭに基づき生成されたテクスチャＴＥＸが、プリミティブＰＭにマッピングされる。この場合に図４（Ｂ）に示すように、図３（Ｂ）の背景ＢＧがリアルタイムで透過処理されて、対象物ＰＯＢに対応するキャラクタＣＨだけが表示されるテクスチャＴＥＸが、プリミティブＰＭにマッピングされる。即ち図４（Ｂ）に模式的に示されるように、テクスチャＴＥＸのピクセルのうち、背景ＢＧに対応するピクセルについては透明に設定され、キャラクタＣＨに対応するピクセルだけが切り抜かれたテクスチャＴＥＸが生成される。キャラクタＣＨは、対象物ＰＯＢに対応してゲームに登場する表示物である。キャラクタＣＨの画像は、図３（Ａ）、図３（Ｂ）で説明した撮影画像ＩＭに基づく画像であるため、３Ｄスキャンを用いる場合に比べて、対象物ＰＯＢの精細な形状が忠実に再現された画像になる。
【0090】
またプリミティブＰＭは、３次元のオブジェクト空間である仮想空間に配置設定されており、この仮想空間には、岩を表すオブジェクトＯＢ１、ＯＢ２、ＯＢ３などの種々のオブジェクトが配置設定されている。そして本実施形態では、このプリミティブＰＭが、移動制御情報に応じて仮想空間において移動する。具体的にはプレーヤが操作部１６０を用いて入力した操作入力情報を、移動制御情報として、プリミティブＰＭが仮想空間において回転移動したり、並進移動する。或いはプリミティブＰＭを自動移動させる移動制御情報に基づいて、プリミティブＰＭが仮想空間において回転移動したり、並進移動してもよい。そして後述するように、図３（Ａ）、図３（Ｂ）で撮影された動画の撮影画像群の中から、移動制御情報に応じて選択された撮影画像に基づいてテクスチャＴＥＸが生成され、生成されたテクスチャＴＥＸがプリミティブＰＭにマッピングされる。これにより、移動制御情報に応じて変化するテクスチャＴＥＸを、プリミティブＰＭにマッピングして、仮想空間において仮想カメラから見える仮想空間画像を生成できるようになる。そして本実施形態によれば、ロボットのプラモデルなどの対象物ＰＯＢが、ゲーム空間である仮想空間に、そのままの形で出現するようになる。従って、プレーヤは、自身が所有するプラモデルなどの対象物ＰＯＢが、あたかも仮想空間に本当に出現したかのような仮想現実を感じることが可能になり、これまでにないタイプの画像生成システムの実現が可能になる。
【0091】
図５は、仮想空間でのプリミティブＰＭと仮想カメラＶＣの関係を示す図である。仮想空間には、岩を表すオブジェクトＯＢ１～ＯＢ３や、敵ロボットである敵キャラクタＣＨＥなどが配置されている。ＶＭは、仮想カメラＶＣのビューボリュームであり、仮想カメラＶＣの表示範囲（描画範囲）に相当する。
【0092】
図５に示すように本実施形態では、プリミティブＰＭと仮想カメラＶＣの位置関係が固定されている。例えばプリミティブＰＭと仮想カメラＶＣの位置関係が固定され状態で、プリミティブＰＭ及び仮想カメラＶＣを移動制御情報に応じて移動させる。例えばプリミティブＰＭと仮想カメラＶＣとを結ぶレールＲＬを移動制御情報に応じて移動させる。具体的には図５では、プリミティブＰＭとしてビルボードのポリゴンを用いている。例えばプリミティブＰＭと仮想カメラＶＣとの間の距離は一定であり、プリミティブＰＭは仮想カメラＶＣに正対するように配置される。例えば、プリミティブＰＭと仮想カメラＶＣとの間の距離が一定となり、且つ、仮想カメラＶＣの視線方向ＶＬとプリミティブＰＭの面が直交するようにプリミティブＰＭが配置される。このようにすれば、プリミティブＰＭを３次元の仮想空間に配置した場合にも、プレーヤから見てプリミティブＰＭが平面に見えないようにする演出が可能になり、あたかも３次元の表示物であるキャラクタＣＨが仮想空間で存在しているかのように見える仮想現実感をプレーヤに与えることが可能になる。
【0093】
また本実施形態では図６に示すように、プリミティブＰＭにマッピングするテクスチャＴＥＸの画像をプリミティブＰＭの移動制御情報に応じて変化させている。具体的には操作部１６０へのプレーヤの操作入力に合わせて、仮想カメラＶＣとプリミティブＰＭの位置関係を固定しながら、仮想カメラＶＣの位置を支点（回転中心）として、Ｃ１、Ｃ２、Ｃ３、Ｃ４に示すようにプリミティブＰＭを回転移動する。即ち仮想カメラＶＣとプリミティブＰＭを結ぶレールＲＬを、仮想カメラＶＣの位置を支点として回転させる。また並進移動の場合には、仮想カメラＶＣとプリミティブＰＭを一体として並進移動させる。即ち仮想カメラＶＣとプリミティブＰＭを結ぶレールＲＬを並進移動させる。例えば左方向を指示する操作入力が行われた場合には、仮想カメラＶＣの位置を支点としてＣ１に示す方向にプリミティブＰＭを回転移動させる。右方向を指示する操作入力が行われた場合には、仮想カメラＶＣの位置を支点としてＣ２に示す方向にプリミティブＰＭを回転移動させる。同様に、下方向、上方向を指示する操作入力が行われた場合には、仮想カメラＶＣの位置を支点として、各々、Ｃ３、Ｃ４に示す方向にプリミティブＰＭを回転移動させる。このようにすることで、移動制御情報である操作入力情報に応じたプリミティブＰＭの移動処理が実現される。
【0094】
そしてこのようなプリミティブＰＭの移動に連動して、プリミティブＰＭにマッピングされるテクスチャＴＥＸを変化させる。具体的には、図３（Ａ）、図３（Ｂ）のようにムービー撮影された３６０度の撮影方向範囲での対象物ＰＯＢの動画を、プリミティブＰＭの移動に連動して再生することで、プリミティブＰＭの移動に連動して、プリミティブＰＭにマッピングされるテクスチャＴＥＸを変化させる。例えばプレーヤが左方向を指示する操作入力を行うことで、図６のＣ１に示すように仮想カメラＶＣの位置を支点としてプリミティブＰＭを回転移動させる場合には、この回転移動に合わせて、図６の再生方向ＤＲに示すように動画再生を行う。例えば図６のＤ１に示すような後方側からの対象物ＰＯＢ（キャラクタＣＨ）の撮影画像から、Ｄ２に示すような左後方側からの対象物ＰＯＢの撮影画像に変化するというような動画再生を行う。更にＤ３に示すような左前方側からの対象物ＰＯＢの撮影画像に変化させ、Ｄ４に示すような前方側からの対象物ＰＯＢの撮影画像に変化するというような動画再生を行う。Ｄ１、Ｄ２、Ｄ３、Ｄ４に示す撮影画像が本実施形態の撮影画像群になる。このようにすれば、２次元の撮影画像によるテクスチャＴＥＸを用いながらも、あたかも３次元の表示物であるキャラクタＣＨが仮想空間で回転移動しているかのように見える仮想空間画像を生成できるようになる。
【0095】
また本実施形態では図７に示すように、例えばバーニアの噴射炎ＶＮやビーム砲が発射するビームＢＭなどの３Ｄのエフェクト表現を実現するエフェクト処理も行っている。本実施形態では、このようなエフェクト処理を実現するために、後述の図１３（Ａ）～図１３（Ｃ）で説明するように、移動制御情報に応じてプリミティブＰＭに対する相対的位置関係が変化するプリミティブＰＭＶ、ＰＭＢを用意する。プリミティブＰＭＶ、ＰＭＢは第２のプリミティブであり、例えばポリゴンである。プリミティブＰＭＶには噴射炎ＶＮを表す画像（テクスチャ）が描かれ、プリミティブＰＭＢにはビームＢＭを表す画像（テクスチャ）が描かれている。そしてプリミティブＰＭを移動させる移動制御情報（操作入力情報）に応じて、図７のＥ１、Ｅ２に示すようにプリミティブＰＭに対するプリミティブＰＭＶ、ＰＭＢの相対的位置関係を変化させる。そしてテクスチャＴＥＸがマッピングされたプリミティブＰＭの画像と、プリミティブＰＭＶ、ＰＭＢ（第２のプリミティブ）の画像とを含む画像を、仮想空間画像として生成する。
【0096】
例えばプリミティブＰＭが回転移動した場合に、それに連動させて噴射炎ＶＮ用のプリミティブＰＭＶを図７のＥ１に示すように回転移動させる。即ち図７のＦ１に示すように、テクスチャＴＥＸに描かれるキャラクタＣＨのバーニアの補助装置から、噴射炎ＶＮが噴射して見えるように、噴射炎ＶＮが描かれるプリミティブＰＭＶを回転移動させる。またプリミティブＰＭが回転移動した場合に、それに連動させてビームＢＭ用のプリミティブＰＭＢを図７のＥ２に示すように回転移動させる。即ち図７のＦ２に示すように、テクスチャＴＥＸに描かれるキャラクタＣＨのビーム砲からビームＢＭが発射して見えるように、ビームＢＭが描かれるプリミティブＰＭＢを回転移動させる。
【0097】
このように本実施形態では、噴射炎ＶＮの噴射やビームＢＭの発射などを表現するプリミティブＰＭＶ、ＰＭＢを、図６のＤ１～Ｄ４に示すような動画の再生に連動して移動させている。これにより噴射炎ＶＮやビームＢＭなどのエフェクト表現をリアルに実現できる。また後述するように、仮想カメラＶＣの位置からのプリミティブＰＭＶ、ＰＭＢの描画順番についてもコントロールすることで、２次元のモデルでありながら、３次元のモデルのような見た目と、ゲームプレイを実現している。即ち本実施形態では図３（Ａ）、図３（Ｂ）に示すように、プラモデルなどの対象物ＰＯＢの撮影画像に基づいて、対象物ＰＯＢに対応するキャラクタＣＨの画像を含む仮想空間画像を生成しているが、噴射炎ＶＮやビームＢＭについては、現実世界の対象物ＰＯＢでは表現できない。そこで噴射炎ＶＮやビームＢＭについては、プリミティブＰＭに対する相対的位置関係が変化するプリミティブＰＭＶ、ＰＭＢ（第２のプリミティブ）を用いて表現する。そして図６のＤ１～Ｄ４に示すようなキャラクタＣＨの動画再生に矛盾しないように、プリミティブＰＭに対するプリミティブＰＭＶ、ＰＭＢの相対的位置関係を変化させる。これにより現実世界の対象物ＰＯＢでは表現できない噴射炎ＶＮやビームＢＭのエフェクト表現を実現できるようになる。
【0098】
２．２ 移動制御情報に応じたテクスチャのマッピング
次に本実施形態の手法の詳細について説明する。図８は撮影画像群に基づく仮想空間画像の生成処理のフローチャートである。まず対象物ＰＯＢを複数の撮影方向から撮影することで得られる撮影画像群を取得する（ステップＳ１）。例えば図３（Ａ）のように撮影部１６２でムービー撮影することで、対象物ＰＯＢを撮影した動画である撮影画像群を取得して、処理装置２００に取り込む。そして取得した撮影画像群を記憶部１７０に記憶する（ステップＳ２）。即ち処理装置２００のメモリに、動画である撮影画像群のデータを記憶して保存する。次にプリミティブＰＭの移動制御情報に応じて選択された撮影画像に基づいて、テクスチャＴＥＸを生成する（ステップＳ３）。例えば移動制御情報（操作入力情報）に基づいて、図６のＤ１～Ｄ４のような撮影画像群の中から対応する撮影画像を選択し、図４（Ａ）、図４（Ｂ）で説明したようなテクスチャＴＥＸを生成する。そして移動制御情報に応じて変化するテクスチャＴＥＸを、移動制御情報に応じて移動するプリミティブＰＭにマッピングして、仮想空間において仮想カメラから見える仮想空間画像を生成する（ステップＳ４）。例えば図６のＣ１～Ｃ４に示すように、移動制御情報（操作入力情報）に応じて、仮想カメラＶＣの位置を支点としてプリミティブＰＭが回転移動したり、仮想カメラＶＣとプリミティブＰＭが一体となって並進移動する。そして、このようなプリミティブＰＭの移動に連動して変化するテクスチャＴＥＸをプリミティブＰＭにマッピングする。例えば図６のＣ１に示すようにプリミティブＰＭが仮想カメラＶＣの位置を支点（回転中心）として左方向に回転移動した場合には、図６のＤ１～Ｄ４に示すような撮影画像群の中から、プリミティブＰＭの回転角度に応じた撮影画像が選択されて、選択された撮影画像に基づくテクスチャＴＥＸがプリミティブＰＭにマッピングされる。これにより２次元の撮影画像を用いながらも、対象物ＰＯＢに対応する３次元モデルのキャラクタＣＨが仮想空間内において移動しているように見えるリアルな仮想空間画像を生成できるようになる。
次に本実施形態の手法の詳細について説明する。図８は撮影画像群に基づく仮想空間画像の生成処理のフローチャートである。まず対象物ＰＯＢを複数の撮影方向から撮影することで得られる撮影画像群を取得する（ステップＳ１）。例えば図３（Ａ）のように撮影部１６２でムービー撮影することで、対象物ＰＯＢを撮影した動画である撮影画像群を取得して、処理装置２００に取り込む。そして取得した撮影画像群を記憶部１７０に記憶する（ステップＳ２）。即ち処理装置２００のメモリに、動画である撮影画像群のデータを記憶して保存する。次にプリミティブＰＭの移動制御情報に応じて選択された撮影画像に基づいて、テクスチャＴＥＸを生成する（ステップＳ３）。例えば移動制御情報（操作入力情報）に基づいて、図６のＤ１～Ｄ４のような撮影画像群の中から対応する撮影画像を選択し、図４（Ａ）、図４（Ｂ）で説明したようなテクスチャＴＥＸを生成する。そして移動制御情報に応じて変化するテクスチャＴＥＸを、移動制御情報に応じて移動するプリミティブＰＭにマッピングして、仮想空間において仮想カメラから見える仮想空間画像を生成する（ステップＳ４）。例えば図６のＣ１～Ｃ４に示すように、移動制御情報（操作入力情報）に応じて、仮想カメラＶＣの位置を支点としてプリミティブＰＭが回転移動したり、仮想カメラＶＣとプリミティブＰＭが一体となって並進移動する。そして、このようなプリミティブＰＭの移動に連動して変化するテクスチャＴＥＸをプリミティブＰＭにマッピングする。例えば図６のＣ１に示すようにプリミティブＰＭが仮想カメラＶＣの位置を支点（回転中心）として左方向に回転移動した場合には、図６のＤ１～Ｄ４に示すような撮影画像群の中から、プリミティブＰＭの回転角度に応じた撮影画像が選択されて、選択された撮影画像に基づくテクスチャＴＥＸがプリミティブＰＭにマッピングされる。これにより２次元の撮影画像を用いながらも、対象物ＰＯＢに対応する３次元モデルのキャラクタＣＨが仮想空間内において移動しているように見えるリアルな仮想空間画像を生成できるようになる。
【0099】
また本実施形態では、撮影画像群（第１、第２の撮影画像群）は、対象物ＰＯＢに対する撮影部１６２の撮影方向の変化が１８０度以上の撮影方向範囲となる画像群になっている。例えば図９では、対象物ＰＯＢに対する撮影方向ＤＣＭの変化が３６０度となる撮影方向範囲ＲＤＲで、撮影部１６２により対象物ＰＯＢが撮影されている。例えば図９では、対象物ＰＯＢの後方を撮影しているときの撮影部１６２の撮影方向ＤＣＭの角度が０度になっており、対象物ＰＯＢの左側を撮影しているときの撮影方向ＤＣＭの角度が９０度になっている。また対象物ＰＯＢの前方を撮影しているときの撮影方向ＤＣＭの角度が１８０度になっており、対象物ＰＯＢの右側を撮影しているときの撮影方向ＤＣＭの角度が２７０度になっている。図９の撮影方向範囲ＲＤＲは、撮影部１６２の撮影方向ＤＣＭが０度から３６０度まで変化する範囲となっている。但し、例えば撮影方向ＤＣＭの変化が０～９０度及び３６０度～２７０度となるような１８０度の撮影方向範囲ＲＤＲに設定してもよいし、撮影方向範囲ＲＤＲを１８０度～３６０度の撮影方向範囲に設定してもよい。
【0100】
このように対象物ＰＯＢに対する撮影部１６２の撮影方向の変化が１８０度以上の撮影方向範囲となる撮影画像群を用いることで、プリミティブＰＭが様々な方向に回転移動等した場合にも、これに対応した適切な撮影画像に基づくテクスチャを生成してプリミティブＰＭにマッピングできるようになる。
【0101】
なお図３（Ａ）、図９では、例えば対象物ＰＯＢの主軸に沿った鉛直方向を回転軸として撮影方向ＤＣＭを回転させた場合について示しているが、本実施形態はこれに限定されない。例えば対象物ＰＯＢの主軸に直交する方向である水平方向を回転軸として撮影方向ＤＣＭを回転させながら対象物ＰＯＢを撮影することで、撮影画像群を取得してもよい。このようにすれば例えば図６のＣ３やＣ４の方向にプリミティブＰＭを回転移動させる場合にも、当該回転移動に応じた適切な撮影画像に基づくテクスチャＴＥＸをプリミティブＰＭにマッピングできるようになる。また図３（Ａ）では対象物ＰＯＢの方を回転させることで、図９に示すような撮影方向範囲ＲＤＲでの撮影画像群を取得しているが、撮影部１６２の方を対象物ＰＯＢを中心として回転させることで、撮影方向範囲ＲＤＲでの撮影画像群を取得してもよい。即ち対象物ＰＯＢを注視するような撮影方向ＤＣＭで、対象物ＰＯＢを中心とする円上で撮影部１６２を移動させる。
【0102】
また図９のように複数の撮影方向で撮影する場合に、撮影方向の数、即ち撮影画像群の画像数はできる限り多いことが望ましい。例えば１秒間の画像のフレーム数をｐ（例えばｐ＝３０、６０等）とした場合に、撮影方向の数に相当する撮影画像群の画像数は、ｐ以上であることが望ましい。即ち、少なくともｐ個の撮影方向で対象物ＰＯＢを撮影し、少なくともｐ個の撮影画像を含む撮影画像群を取得する。このようにすれば、少なくとも１秒間の間は、スムーズで適切なテクスチャの動画を再生して、プリミティブＰＭにマッピングできるようになる。
【0103】
また本実施形態では、プリミティブＰＭの移動制御情報に応じて撮影画像群（第１、第２の撮影画像群）から選択された撮影画像に基づいて、プリミティブＰＭにマッピングするテクスチャを生成している。具体的には、例えば撮影画像群により構成される動画のシーク制御を移動制御情報に基づいて行うことで、撮影画像群から撮影画像を選択し、選択された撮影画像に基づいてテクスチャを生成する。
【0104】
例えば図１０では撮影画像ＩＭ１～ＩＭｊが撮影画像群であり、この撮影画像群から、プリミティブＰＭの移動制御情報に応じて選択された撮影画像ＩＭｉに基づきテクスチャが生成されて、プリミティブＰＭにマッピングされる。ここでｉ、ｊは１≦ｉ≦ｊとなる整数である。例えばｊは撮影画像群の画像数であり、前述のように１秒間の画像のフレーム数をｐとした場合に、ｊ≧ｐであることが望ましい。
【0105】
そして図１０では、ＩＭ１～ＩＭｊの撮影画像群により構成される動画のシーク制御が移動制御情報に基づいて行われる。例えば巻き戻しのシーク制御の場合には、図１０の方向ＤＳ１へのシーク制御が行われて、ＩＭ１～ＩＭｊの撮影画像群の中から移動制御情報に応じた撮影画像が選択される。一方、早送りのシーク制御の場合には、方向ＤＳ２へのシーク制御が行われて、ＩＭ１～ＩＭｊの撮影画像群の中から移動制御情報に応じた撮影画像が選択される。例えば撮影画像ＩＭ１～ＩＭｊに対してシーク番号ＳＮ１～ＳＮｊが対応づけられていたとする。この場合に、例えばプリミティブＰＭの移動制御情報に応じて、シーク番号ＳＮ１～ＳＮｊのいずれかが選択され、選択されたシーク番号に対応づけられた撮影画像が選択されて、テクスチャが生成され、プリミティブＰＭにマッピングされる。例えば移動制御情報によりシーク番号ＳＮｉが選択された場合には、シーク番号ＳＮｉに対応づけられた撮影画像ＩＭｉが選択されて、テクスチャが生成され、プリミティブＰＭにマッピングされるようになる。このようにすれば、撮影画像群により構成される動画のシーク制御を有効活用して、プリミティブＰＭの移動制御情報に対応した適切な撮影画像を選択してテクスチャを生成し、プリミティブＰＭにマッピングできるようになる。
【0106】
また本実施形態では、プリミティブＰＭと仮想カメラＶＣの位置関係が固定された状態で、プリミティブＰＭ及び仮想カメラＶＣを移動制御情報に応じて移動させる処理を行う。例えば図１１（Ａ）～図１１（Ｃ）では、プリミティブＰＭに対してキャラクタＣＨの画像が描かれたテクスチャがマッピングされている。
【0107】
なおキャラクタＣＨの画像は実際には２次元の画像であるが、図１１（Ａ）～図１１（Ｃ）では、説明を理解しやすくするために、キャラクタＣＨの向く方向が分かるように模式的に記載している。以下の説明でも同様である。
【0108】
図１１（Ａ）～図１１（Ｃ）では、仮想カメラＶＣとプリミティブＰＭの間の距離は一定となっており、固定されている。即ち仮想カメラＶＣの視点位置ＰＳとプリミティブＰＭの面との間の距離は一定になっている。またプリミティブＰＭは仮想カメラＶＣに正対するように配置されており、仮想カメラＶＣの視線方向ＶＬがプリミティブＰＭの面に直交するように、プリミティブＰＭが配置されている。このように本実施形態では、プリミティブＰＭと仮想カメラＶＣの位置関係が固定された状態で、プリミティブＰＭ及び仮想カメラＶＣを仮想空間において移動させる。例えばプリミティブＰＭとしてビルボードポリゴンを用いる。このようにすることで、プリミティブＰＭにテクスチャがマッピングされることにより表示されるキャラクタＣＨ等の表示物の画像として、擬似的に３次元画像に見える画像を生成できるようになる。
【0109】
そして図６のＣ１に示すように、例えば左方向を指示するプレーヤの操作入力が行われた場合には、図１１（Ａ）から図１１（Ｂ）に示すように、仮想カメラＶＣの視点位置ＰＳを支点（回転中心）としてプリミティブＰＭが左回りに回転移動する。このときに仮想カメラＶＣとプリミティブＰＭの間の距離は一定になっており、仮想カメラＶＣの視線方向ＶＬはプリミティブＰＭの面に直交した状態になっている。このようにプリミティブＰＭと仮想カメラＶＣの位置関係が固定された状態で、プリミティブＰＭ及び仮想カメラＶＣが、図６のＣ１に示すような左方向を指示する移動制御情報に基づいて、回転移動している。このときにプリミティブＰＭにマッピングされるキャラクタＣＨの画像は、図６のＤ２に示すように、左回り（反時計回り）に向きが変わるようにキャラクタＣＨを回転した画像になる。例えばキャラクタＣＨの画像は、キャラクタＣＨに対応する対象物ＰＯＢを左後方側から見た画像になる。このようにすれば、プレーヤが左方向の操作指示を行った場合には、左回りに向きを変えたキャラクタＣＨの画像が、仮想空間画像として表示されるようになり、左方向の操作指示による移動制御情報に応じた適切なキャラクタＣＨの画像を表示することが可能になる。
【0110】
また図６のＣ２に示すように、例えば右方向を指示するプレーヤの操作入力が行われた場合には、図１１（Ａ）から図１１（Ｃ）に示すように、仮想カメラＶＣの視点位置ＰＳを支点としてプリミティブＰＭが右回りに回転移動する。このときに仮想カメラＶＣとプリミティブＰＭの間の距離は一定になっており、仮想カメラＶＣの視線方向ＶＬはプリミティブＰＭの面に直交した状態になっている。このようにプリミティブＰＭと仮想カメラＶＣの位置関係が固定された状態で、プリミティブＰＭ及び仮想カメラＶＣが、図６のＣ２に示すような右方向を指示する移動制御情報に基づいて、回転移動している。このときにプリミティブＰＭにマッピングされるキャラクタＣＨの画像は、右回り（時計回り）に向きが変わるようにキャラクタＣＨを回転した画像になる。例えばキャラクタＣＨの画像は、キャラクタＣＨに対応する対象物ＰＯＢを右後方から見た画像になる。このようにすれば、プレーヤが右方向の操作指示を行った場合には、右回りに向きを変えたキャラクタＣＨの画像が、仮想空間画像として表示されるようになり、右方向の操作指示による移動制御情報に応じた適切なキャラクタＣＨの画像を表示することが可能になる。
【0111】
また本実施形態では図３（Ａ）、図３（Ｂ）に示すように、撮影部１６２は、対象物ＰＯＢと、対象物ＰＯＢの背景ＢＧを撮影する。例えば図３（Ａ）の背景部２０を撮影することで、図３（Ｂ）に示すように単色の背景ＢＧが撮影されるようになる。そして撮影画像の各ピクセルの色が、背景の色に対応する色か否かを判断する。そして背景の色に対応する色のピクセルであると判断された場合には、背景の色に対応する色のピクセルを透明にする処理を行うことで、テクスチャを生成する。
【0112】
図１２に、背景の色に対応する色のピクセルを透明にする処理のフローチャートを示す。図１２の処理は例えばピクセルシェーダにより実現できる。まず処理対象ピクセルの色を判断する（ステップＳ１１）。そして処理対象ピクセルの色は背景の色に対応する色か否かを判断する（ステップＳ１２）。例えばグリーンバックの場合には、処理対象ピクセルの色が緑である場合に、背景の色に対応する色であると判断される。ブルーバックの場合には、処理対象ピクセルの色が青である場合に、背景の色に対応する色であると判断される。そして処理対象ピクセルの色が背景の色に対応する色であると判断された場合には、処理対象ピクセルが透明に設定される（ステップＳ１３）。α合成処理を例にとれば、処理対象ピクセルの色が背景の色に対応する色であると判断された場合には、当該処理対象ピクセルのα値がゼロに設定される。そして撮影画像の全てのピクセルを処理したか否かを判断し（ステップＳ１４）、全てのピクセルを処理していない場合には、処理対象ピクセルを次のピクセルに設定して（ステップＳ１５）、ステップＳ１１に戻る。一方、撮影画像の全てのピクセルを処理した場合には、処理を終了する。
【0113】
図１２に示すような処理を行うことで、図３（Ｂ）に示すような撮影画像ＩＭから図４（Ｂ）に示すようなテクスチャＴＥＸを生成できるようになる。これにより背景ＢＧの部分に、仮想空間の他のオブジェクトが表示された適切な仮想空間画像を生成できるようになる。また図１２に示す処理は、シェーダのプログラムによるピクセルシェーダにより実現でき、処理負荷が軽い簡素な処理で実現できる。従って図２（Ａ）、図２（Ｂ）に示すように対象物ＰＯＢを撮影してからワンアクションで、当該対象物ＰＯＢに対応するキャラクタＣＨ等の表示物を仮想空間に登場させる処理を、容易に実現することが可能になる。
【0114】
なお背景色は固定色である必要はなく、背景色を可変に設定できるようにしてもよい。例えば対象物ＰＯＢの色に応じて、背景色を可変に設定する。例えば対象物ＰＯＢに存在しない色に、背景色を設定したり、対象物ＰＯＢの色の補色を背景色に設定する。具体的には図２（Ａ）、図２（Ｂ）において、色を可変に設定できる背景部２０を用いる。例えばプロジェクターにより、背景色となる所定色の光を投影することで、背景部２０の色を可変に設定する。或いは背景部２０として、曲面表示装置などの表示装置を用い、背景色となる所定色の画面を表示することで、背景部２０の色を可変に設定する。このようにすることで、種々の対象物ＰＯＢに応じた適切な色に背景色を設定できるようになる。
【0115】
また本実施形態では、移動制御情報に応じてプリミティブに対する相対的位置関係が変化する第２のプリミティブの移動処理を行う。そしてテクスチャがマッピングされたプリミティブの画像と、第２のプリミティブの画像とを含む画像を、仮想空間画像として生成する。
【0116】
例えば図１３（Ａ）では、第２のプリミティブとしてプリミティブＰＭＶ、ＰＭＢが、プリミティブＰＭの位置を基準に配置されている。図７で説明したように、プリミティブＰＭＶはバーニアの噴射炎ＶＮの画像を表示するためのプリミティブであり、プリミティブＰＭＢはビーム砲が発射するビームＢＭの画像を表示するためのプリミティブである。なお噴射炎ＶＮやビームＢＭの画像を３次元のオブジェクトを用いて生成してもよく、この場合にはプリミティブＰＭＶ、ＰＭＢは当該オブジェクトを構成するポリゴン等になる。
【0117】
そして図１３（Ａ）～図１３（Ｃ）では、図１１（Ａ）～図１１（Ｃ）で説明したように、移動制御情報に応じてプリミティブＰＭを移動する処理が行われている。またプリミティブＰＭにマッピングされるキャラクタＣＨの画像（テクスチャ）も、移動制御情報に応じた適切な撮影画像を用いて生成される。そして図１３（Ａ）～図１３（Ｃ）では、移動制御情報に応じてプリミティブＰＭに対する相対的位置関係が変化するように、プリミティブＰＭＶ、ＰＭＢの移動処理が行われる。
【0118】
例えば図１３（Ａ）では、仮想カメラＶＣの視線方向ＶＬの方向にキャラクタＣＨが向いている画像が、プリミティブＰＭにマッピングされている。具体的には、図９の撮影方向ＤＣＭが０度の場合のように、対象物ＰＯＢを真後ろから撮影した撮影画像に基づき生成されたテクスチャが、キャラクタＣＨの画像としてプリミティブＰＭにマッピングされている。この場合には、キャラクタＣＨの真後ろの位置に、噴射炎ＶＮ用のプリミティブＰＭＶが配置される。またキャラクタＣＨは例えば右手にビーム砲を持っているため、キャラクタＣＨの右前方向に、ビームＢＭ用のプリミティブＰＭＢが配置される。これにより図７に示すように、補助装置であるバーニアの位置から噴射炎ＶＮが噴射されると共に、ビーム砲の位置からビームＢＭが発射される適切な仮想空間画像を生成できるようになる。
【0119】
一方、図１３（Ｂ）では、図６のＣ１に示すように、プレーヤにより左方向への操作指示が行われており、これにより、仮想カメラＶＣの位置を支点として、左回り（反時計回り）にプリミティブＰＭが回転移動している。このようなプリミティブＰＭの回転移動に伴い、プリミティブＰＭにマッピングされるキャラクタＣＨの画像も、図６のＤ２に示すように左回りに向きを変えた画像になる。そしてこのようにキャラクタＣＨの画像が左回りに向きを変えた画像になるのに連動するように、プリミティブＰＭに対するプリミティブＰＭＶ、ＰＭＢの相対的位置関係も変化する。即ち、左回りに向きを変えたキャラクタＣＨの後方にプリミティブＰＭＶが位置するように、プリミティブＰＭに対するプリミティブＰＭＶの相対的位置関係を変化させる。具体的には、プリミティブＰＭを基準として左回りに、プリミティブＰＭＶを回転移動させる。また左回りに向きを変えたキャラクタＣＨの右前方向にプリミティブＰＭＢが位置するように、プリミティブＰＭに対するプリミティブＰＭＢの相対的位置関係を変化させる。具体的には、プリミティブＰＭを基準として左回りに、プリミティブＰＭＢを回転移動させる。このようにすることで、バーニアの位置から噴射炎ＶＮが噴射される共に、ビーム砲の位置からビームＢＭが発射される適切な仮想空間画像を生成できるようになる。
【0120】
また図１３（Ｃ）では、図６のＣ２に示すように、プレーヤにより右方向への操作指示が行われており、これにより、仮想カメラＶＣの位置を支点として、右回り（時計回り）にプリミティブＰＭが回転移動している。このようなプリミティブＰＭの回転移動に伴い、プリミティブＰＭにマッピングされるキャラクタＣＨの画像も、右回りに向きを変えた画像になる。そしてこのようにキャラクタＣＨの画像が右回りに向きを変えた画像になるのに連動するように、プリミティブＰＭに対するプリミティブＰＭＶ、ＰＭＢの相対的位置関係も変化する。即ち、右回りに向きを変えたキャラクタＣＨの後方にプリミティブＰＭＶが位置するように、プリミティブＰＭを基準として右回りに、プリミティブＰＭＶを回転移動させる。また右回りに向きを変えたキャラクタＣＨの右前方向にプリミティブＰＭＢが位置するように、プリミティブＰＭを基準として右回りに、プリミティブＰＭＢを回転移動させる。このようにすることで、バーニアの位置から噴射炎ＶＮが噴射される共に、ビーム砲の位置からビームＢＭが発射される適切な仮想空間画像を生成できるようになる。
【0121】
また本実施形態では、第２のプリミティブの隠面消去処理を、移動制御情報に応じて行う。例えば図１３（Ｂ）では、ビームＢＭの画像は、仮想カメラＶＣから見てキャラクタＣＨに隠れて非表示になるべき画像になっている。例えば図１３（Ａ）のような位置関係においては、ビームＢＭの画像はキャラクタＣＨによって隠れずに表示されるべき画像になっている。しかしながら図１３（Ｂ）のようなプリミティブＰＭの回転移動が行われて、プリミティブＰＭを基準にして左回りにプリミティブＰＭＢが回転移動すると、プリミティブＰＭＢのビームＢＭの画像は、キャラクタＣＨにより隠れて非表示になるべき画像になる。従って、この場合にはビームＢＭ用のプリミティブＰＭＢを隠面消去する処理を行う。このようにプリミティブＰＭＢの隠面消去処理を行うことで、ビームＢＭの画像が仮想カメラＶＣから見て非表示になり、適切な仮想空間画像を生成できるようになる。即ち、通常ならば、仮想カメラＶＣから見たプリミティブＰＭ、ＰＭＶ、ＰＭＢの前後関係（奥行き値）を判断して隠面消去処理が行われる。この点、本実施形態では、プリミティブＰＭにマッピングされるキャラクタＣＨとビームＢＭや噴射炎ＶＮとの前後関係を、移動制御情報に基づき判断して、隠面消去処理を行う。このようにすることで、適切な隠面消去が行われた仮想空間画像を生成できるようになる。
【0122】
また本実施形態では対象物ＰＯＢの分析結果に基づき設定される第２のプリミティブの初期配置位置から、プリミティブＰＭを基準に第２のプリミティブを移動させる処理を行う。例えば図１４では、対象物ＰＯＢのシルエット分析等の分析処理を行うことで、バーニアの噴射炎ＶＮの噴射位置やビームＢＭの発射位置を特定する。即ち対象物ＰＯＢの種類や形状に応じて、噴射炎ＶＮの噴射位置やビームＢＭの発射位置は異なる。そこで、対象物ＰＯＢの撮影画像に基づくシルエット分析等の分析処理を行うことで、対象物ＰＯＢの種類や形状を特定して、噴射炎ＶＮの噴射位置やビームＢＭの発射位置を特定する。そして図１４に示すように、特定された噴射炎ＶＮの噴射位置を、噴射炎ＶＮ用のプリミティブＰＭＶの初期配置位置ＰＩ１に設定する。また、特定されたビームＢＭの発射位置を、ビームＢＭ用のプリミティブＰＭＢの初期配置位置ＰＩ２に設定する。そして、これらの初期配置位置ＰＩ１、ＰＩ２から、図１３（Ａ）～図１３（Ｃ）に示すように、プリミティブＰＭＶを基準にプリミティブＰＭＶ、ＰＭＢを移動させる処理を行う。即ちＰＩ１、ＰＩ２を初期配置位置として、プリミティブＰＭＶを基準にプリミティブＰＭＶ、ＰＭＢを回転移動させる。このようにすれば、対象物ＰＯＢの分析結果に応じた適切な初期配置位置ＰＩ１、ＰＩ２にプリミティブＰＭＶ、ＰＭＢを配置し、移動制御情報に応じてプリミティブＰＭが移動した場合に、その移動に連動した適切な位置に噴射炎ＶＮの画像やビームＢＭの画像を表示できるようになる。
【0123】
なお対象物ＰＯＢにおいて、噴射炎ＶＮの噴射位置やビームＢＭの発射位置にマーカを取り付けて、対象物ＰＯＢの分析処理において、このマーカの認識処理を行うことで、第２のプリミティブの初期配置位置を決定してもよい。即ち、マーカの認識処理の結果に基づいて、噴射炎ＶＮ用のプリミティブＰＭＶの初期配置位置ＰＩ１やビームＢＭ用のプリミティブＰＭＢの初期配置位置ＰＩ２に決定する。
【0124】
また本実施形態では、プリミティブＰＭＶ、ＰＭＢの画像である噴射炎ＶＮ、ビームＢＭの画像は、エフェクト画像である。即ち本実施形態では対象物ＰＯＢを撮影部１６２により実写することで、テクスチャを生成して、対象物ＰＯＢに対応するキャラクタＣＨの画像を表示しているが、噴射炎ＶＮやビームＢＭなどのエフェクトの画像は、撮影部１６２による実写によっては撮影できない。そこで本実施形態では、噴射炎ＶＮやビームＢＭなどのエフェクトの画像については、プリミティブＰＭに対して相対的に配置されたプリミティブＰＭＶ、ＰＭＢを用いて生成するようにしている。このようにすれば、撮影部１６２による実写によっては撮影できないエフェクトの画像を、対象物ＰＯＢに対応するキャラクタＣＨの画像に付随して表示できるようになる。
【0125】
また本実施形態では、仮想空間画像として、プリミティブの画像と、仮想空間に設定される複数のオブジェクトの画像とを含む画像を生成し、生成された仮想空間画像に対してポストエフェクト処理を行う。例えば図１５では、仮想空間画像として、プリミティブＰＭの画像であるキャラクタＣＨの画像と、仮想空間に設定される岩のオブジェクトＯＢ１、ＯＢ２、ＯＢ３や敵キャラクタＣＨＥのオブジェクトの画像を含む画像が生成されている。そして、このように生成された仮想空間画像に対してポストエフェクト処理を行う。例えば、ぼかし処理、明るさの調整処理又は色相の調整処理などのポストエフェクト処理を行う。例えば、他のオブジェクトＯＢ１、ＯＢ２、ＯＢ３等が表示される仮想空間画像に対して、プリミティブＰＭにより表されるキャラクタＣＨの画像が違和感なく表示されるようにするポストエフェクト処理を行う。例えばプリミティブＰＭにより表されるキャラクタＣＨの輪郭をぼかすようなポストエフェクト処理を行って、キャラクタＣＨと仮想空間画像の境界である輪郭が目立たなくなるようにする。またキャラクタＣＨの画像の明るさと、周囲の仮想空間画像の明るさに差があった場合に、この差を小さくするようなポストエフェクト処理を行う。このようにすることで、撮影画像に基づき生成されるキャラクタＣＨの画像が、周囲の仮想空間に対して違和感なく溶け込んで見えるような高品質でリアルな仮想空間画像を生成できるようになる。
【0126】
また本実施形態では、他の表示物に対応する他の対象物を複数の撮影方向から撮影することで得られる他の表示物用の撮影画像群を取得する。そして他の表示物用の移動制御情報に応じて、他の表示物用の撮影画像群から選択された撮影画像に基づいて、他の表示物用のテクスチャを生成する。そして他の表示物用の移動制御情報に応じて変化する他の表示物用のテクスチャを、他の表示物用のプリミティブにマッピングして、仮想空間画像を生成する。ここで他の表示物は、例えば敵キャラクタである。
【0127】
例えば図１６では、他の表示物である敵キャラクタＣＨＥ１、ＣＨＥ２の画像を含む仮想空間画像を生成している。この場合には敵キャラクタＣＨＥ１、ＣＨＥ２に対応する対象物を複数の撮影方向から撮影することで得られる撮影画像群を取得する。例えば図３（Ａ）、図３（Ｂ）と同様の手法により、敵キャラクタＣＨＥ１、ＣＨＥ２に対応する敵ロボットのプラモデルを複数の撮影方向から撮影することで、敵キャラクタＣＨＥ１、ＣＨＥ２用（他の表示物用）の撮影画像群を取得する。そして敵キャラクタＣＨＥ１、ＣＨＥ２用の移動制御情報に応じて、敵キャラクタＣＨＥ１、ＣＨＥ２用の撮影画像群から選択された撮影画像に基づいて、敵キャラクタＣＨＥ１、ＣＨＥ２用のテクスチャＴＥＸＥ１、ＴＥＸＥ２を生成する。即ち、敵キャラクタＣＨＥ１、ＣＨＥ２は、敵キャラクタＣＨＥ１、ＣＨＥ２用の移動制御情報に基づいて仮想空間内を移動する。この敵キャラクタＣＨＥ１、ＣＨＥ２用の移動制御情報に基づいて、敵キャラクタＣＨＥ１、ＣＨＥ２用の撮影画像群から撮影画像を選択して、敵キャラクタＣＨＥ１、ＣＨＥ２用のテクスチャＴＥＸＥ１、ＴＥＸＥ２を生成する。このようにすることで、プレーヤのキャラクタＣＨの場合と同様に、移動制御情報を反映させたテクスチャＴＥＸＥ１、ＴＥＸＥ２を生成できるようになる。そして図１６に示すように、生成されたテクスチャＴＥＸＥ１、ＴＥＸＥ２を、敵キャラクタＣＨＥ１、ＣＨＥ２用のプリミティブＰＭＥ１、ＰＭＥ２にマッピングすることで、仮想空間画像を生成する。
【0128】
このようにすれば、敵キャラクタＣＨＥ１、ＣＨＥ２についても、キャラクタＣＨの場合と同様に、敵キャラクタＣＨＥ１、ＣＨＥ２に対応する対象物である敵ロボットのプラモデルを、仮想空間内に出現させるような演出が可能になる。これにより、プレーヤのロボットのプラモデルと敵ロボットのプラモデルとが仮想空間において対戦するというような、これまでにないゲームを実現できる。また敵キャラクタＣＨＥ１、ＣＨＥ２の画像についても、敵キャラクタＣＨＥ１、ＣＨＥ２用の移動制御情報を反映させた画像にすることができ、よりリアルな画像の生成が可能になる。例えば図１６では、敵キャラクタＣＨＥ１については、プリミティブＰＭＥ１を基準に右前方を向くような画像が生成され、キャラクタＣＨの方を向いている敵キャラクタＣＨＥ１の画像が、仮想空間画像として生成されるようになる。また敵キャラクタＣＨＥ２については、プリミティブＰＭＥ２を基準に左前方を向くような画像が生成され、キャラクタＣＨの方を向いている敵キャラクタＣＨＥ２の画像が、仮想空間画像として生成されるようになる。これによりプレーヤの仮想現実感の向上等を図れる。
【0129】
また本実施形態では、プリミティブＰＭの周囲にパーティクルが表示される画像を、仮想空間画像として生成する。例えば図１７では、キャラクタＣＨの画像がマッピングされるプリミティブＰＭの周囲にパーティクルＰＴを発生させている。パーティクルＰＴの表示処理は、運動する粒子により構成される事象を表現するための処理であり、例えば物理シミュレーションによりパーティクルＰＴの移動等を制御する。例えばパーティクルＰＴの発生時の初速や重さ、重力や空気抵抗などの環境条件を設定することで、より精密なパーティクル制御を実現できる。一例としては、パーティクルＰＴの頂点座標を管理するバッファを記憶部１７０に設け、再帰的にシェーダ計算を行うことで、パーティクルＰＴの挙動を制御する。
【0130】
即ち、本実施形態では対象物ＰＯＢの２次元の撮影画像を用いて、擬似的に３次元画像に見えるキャラクタＣＨの画像を生成している。一方、仮想空間の他のオブジェクトについては３次元モデルにより表現されている。このため、何ら工夫を行わないと、擬似的な３次元画像であるキャラクタＣＨの画像と、３次元モデルである他のオブジェクトの画像との間に違和感が生じてしまい、プレーヤの仮想現実感を損ねるおそれがある。この点、図１７に示すようにキャラクタＣＨの画像がマッピングされるプリミティブＰＭの周囲にパーティクルＰＴを発生すれば、プリミティブＰＭが仮想空間内を移動したときに、周囲に存在するパーティクルＰＴが要因となって、３次元の空間感を創出できる。これにより、あたかも３次元モデルのキャラクタＣＨが、３次元の仮想空間を移動しているかのような仮想現実感を、プレーヤに与えることが可能になる。
【0131】
図１８に本実施形態の画像生成システムの業務用のゲーム装置２１０への適用例を示す。図１８の画像生成システムでは、本体装置である業務用のゲーム装置２１０に加えて、撮影部１６２と、対象物ＰＯＢが配置される配置部１０と、回転移動機構１２とが設けられている。具体的には図１８の画像生成システムでは、撮影用筐体２２０が設けられており、この撮影用筐体２２０に、撮影部１６２と配置部１０と回転移動機構１２が設けられている。また撮影用筐体２２０には背景部２０も設けられている。回転移動機構１２は、配置部１０に配置された対象物ＰＯＢに対する撮影部１６２の撮影方向を変化させるための回転移動を行う機構である。図１８では回転移動機構１２が配置部１０を回転させることで、対象物ＰＯＢに対する撮影部１６２の撮影方向を変化させている。ゲーム装置２１０（本体側筐体）と撮影用筐体２２０は、例えば有線又は無線により通信接続されており、例えば回転移動機構１２による配置部１０の回転を、ゲーム装置２１０により制御できるようになっている。
【0132】
図１８の画像生成システムでは、プレーヤは、まず撮影用筐体２２０の配置部１０に、プレーヤが撮影を希望するロボットのプラモデルなどの対象物ＰＯＢを配置する。そしてゲーム装置２１０においてプレーヤが例えば撮影を指示する操作を行うと、回転移動機構１２が配置部１０を回転させ、撮影部１６２が、図９に示すように３６０度の撮影方向範囲での対象物ＰＯＢの撮影を行う。そして、撮影により得られた動画（撮影画像群）のデータは、ゲーム装置２１０に転送され、ゲーム装置２１０の記憶部１７０に保存される。そして図２（Ａ）、図２（Ｂ）に示すように、プレーヤは、対象物ＰＯＢの撮影からワンアクションで、対象物ＰＯＢに対応するキャラクタＣＨが仮想空間に登場するゲームを、プレイできるようになる。これにより、プレーヤは、自身が所有するプラモデル等の対象物ＰＯＢに対応するキャラクタＣＨを仮想空間に登場させて、キャラクタＣＨを用いたゲームを楽しむことが可能になり、これまでにないゲームの実現が可能になる。
【0133】
また図１９に示すように、対象物ＰＯＢを空中に浮遊させた状態で支持する支持部１６を設けることが望ましい。図１９では、棒状の支持部１６の一端が配置部１０に取り付けられている。そしてロボットのプラモデルである対象物ＰＯＢの臀部に穴部が設けられており、この穴部に対して、棒状の支持部１６の他端を差し込むことで、対象物ＰＯＢを空中に浮遊させた状態で支持できる。このようにすれば、対象物ＰＯＢに対応するキャラクタＣＨとして、空中に浮遊した状態のポーズのキャラクタＣＨを出現させることが可能になり、プレーヤの多様な要望に応えることが可能になる。
【0134】
なお図１９では棒状の支持部１６の他端を、対象物ＰＯＢの臀部の穴部に差し込むことで、対象物ＰＯＢを空中に浮遊させた状態で支持しているが、本実施形態の支持手法はこれには限定されない。例えばピアノ線などの細くて透明な線状部材により、対象物ＰＯＢを宙づりにすることで、対象物ＰＯＢを空中に浮遊させた状態で支持するようにしてもよい。或いは、対象物ＰＯＢの頭部に穴部を設け、支持部１６の他端を、この頭部の穴部に差し込むことで、逆さまの状態で対象物ＰＯＢを空中に浮遊させて支持するようにしてもよい。この場合には、取得された撮影画像群の撮影画像の上下反転処理を行えばよい。
【0135】
２．３ 第１、第２の撮影画像群からのテクスチャの生成
以上では、撮影画像群が１つである場合について主に説明した。以下では、第１、第２の撮影画像群などの複数の撮影画像群の撮影画像に基づいて、テクスチャを生成して、プリミティブＰＭにマッピングし、仮想空間画像を生成する手法について説明する。図２０は、第１、第２の撮影画像群に基づく仮想空間画像の生成処理のフローチャートである。
以上では、撮影画像群が１つである場合について主に説明した。以下では、第１、第２の撮影画像群などの複数の撮影画像群の撮影画像に基づいて、テクスチャを生成して、プリミティブＰＭにマッピングし、仮想空間画像を生成する手法について説明する。図２０は、第１、第２の撮影画像群に基づく仮想空間画像の生成処理のフローチャートである。
【0136】
まず、撮影部１６２により対象物を複数の撮影方向から撮影することで得られる第１の撮影画像群を取得する（ステップＳ２１）。即ち図３（Ａ）、図３（Ｂ）で説明した撮影手法により、第１の撮影画像群（第１の動画）を取得する。次に、ポーズを変化させた対象物、付随物を付加した対象物又は形状変形させた対象物を複数の撮影方向から撮影することで得られる第２の撮影画像群を取得する（ステップＳ２２）。例えば後述の図２１（Ａ）、図２１（Ｂ）に示すように、第１の撮影画像群における対象物のポーズを変化させた対象物ＰＯＢを、複数の撮影方向（３６０度の撮影方向範囲）から撮影することで、第２の撮影画像群（第２の動画）を取得する。或いは図２２（Ａ）に示すように、第１の撮影画像群における対象物に対してキャノン砲ＣＮのような武器や、防具等の付随物を付加した対象物ＰＯＢを、複数の撮影方向から撮影することで、第２の撮影画像群を取得する。或いは図２２（Ｂ）に示すように、第１の撮影画像群における対象物を形状変形させた対象物ＰＯＢを、複数の撮影方向から撮影することで、第２の撮影画像群を取得する。或いは図２３に示すように、第１の撮影画像群を加工することで第２の撮影画像群を取得する。そして、このようにして取得した第１、第２の撮影画像群を記憶部１７０に記憶して保存する（ステップＳ２３）。
【0137】
次に第１、第２の撮影画像群から、プリミティブにマッピングするテクスチャを生成する（ステップＳ２４）。例えば図４（Ａ）、図４（Ｂ）、図１２等で説明した手法により、第１、第２の撮影画像群の撮影画像に基づいてテクスチャを生成する。そして、生成されたテクスチャをプリミティブにマッピングして、仮想空間において仮想カメラから見える仮想空間画像を生成する（ステップＳ２５）。例えば仮想空間においてプリミティブを移動させる処理を行い、第１、第２の撮影画像群から生成されたテクスチャを、仮想空間において移動するプリミティブにマッピングすることで、プリミティブにテクスチャがマッピングされた画像を含む仮想空間画像を生成する。
【0138】
このようにすれば、第１の撮影画像群のみならず、第２の撮影画像群を用いて、テクスチャを生成し、生成されたテクスチャがマッピングされたプリミティブの画像を含む仮想空間画像を生成できるようになる。例えば対象物の撮影画像だけではなく、ポーズを変化させた対象物の撮影画像、付随物を付加した対象物の撮影画像、形状変形させた対象物の撮影画像、或いは対象物の撮影画像を加工した撮影画像に基づいて、テクスチャを生成し、当該テクスチャがマッピングされたプリミティブの画像を含む仮想空間画像を生成できるようになる。従って、対象物に対応する表示物を仮想空間に出現させることができると共に、様々な態様の対象物の撮影画像による仮想空間画像を生成することが可能になる。
【0139】
例えば図２１（Ａ）は対象物ＰＯＢの一例である。この対象物ＰＯＢは、ロボットのプラモデルであり、配置部１０に配置されている。そして回転移動機構１２により配置部１０を回転させることで、複数の撮影方向で撮影された対象物ＰＯＢの撮影画像群を取得できる。図３（Ｂ）で説明したように、この撮影画像群の撮影画像は、対象物ＰＯＢが映ると共に、背景部２０による背景ＢＧが映る画像になる。
【0140】
そして図２１（Ｂ）では、ポーズを変化させた対象物ＰＯＢが配置部１０に配置されている。即ち図２１（Ｂ）の対象物ＰＯＢは、図２１（Ａ）とは異なったポーズをとっている。図２１（Ｂ）の対象物ＰＯＢは、図２１（Ａ）の対象物ＰＯＢ自体の関節等を曲げてポーズを変えたものであってもよいし、図２１（Ａ）の対象物ＰＯＢとは別個にプレーヤが用意した対象物（第２の対象物）であってもよい。例えば図２１（Ａ）に示すような基本ポーズの対象物ＰＯＢを配置部１０に配置して、複数の撮影方向から撮影することで、第１の撮影画像群が取得される。また図２１（Ｂ）に示すような所定ポーズの対象物ＰＯＢを配置部１０に配置して、複数の撮影方向から撮影することで、第２の撮影画像群が取得される。更にポーズを変化させて異ならせた対象物ＰＯＢを撮影することで、第３、第４の撮影画像群というように３つ以上の撮影画像群を取得してもよい。
【0141】
また図２２（Ａ）では、付随物であるキャノン砲ＣＮを付加した対象物ＰＯＢが配置部１０に配置されている。即ち図２２（Ａ）の対象物ＰＯＢは、図２１（Ａ）にはないキャノン砲ＣＮが付加されている。図２２（Ａ）の対象物ＰＯＢは、図２１（Ａ）の対象物ＰＯＢ自体にキャノン砲ＣＮ等の付随物を付加したものであってもよいし、図２１（Ａ）の対象物ＰＯＢとは別個にプレーヤが用意した付随物付きの対象物（第２の対象物）であってもよい。例えば図２１（Ａ）に示すようなキャノン砲ＣＮを有しない対象物ＰＯＢを配置部１０に配置して、複数の撮影方向から撮影することで、第１の撮影画像群が取得される。また図２２（Ａ）に示すようなキャノン砲ＣＮを装備した対象物ＰＯＢを配置部１０に配置して、複数の撮影方向から撮影することで、第２の撮影画像群が取得される。更に異なる付随物を付加した対象物ＰＯＢを撮影することで、第３、第４の撮影画像群というように３つ以上の撮影画像群を取得してもよい。なお対象物ＰＯＢに付加される付随物はキャノン砲ＣＮには限定されず、キャノン砲ＣＮ以外の武器や、防具、装備品（武器、防具以外の装備品）、装飾品（アクセサリー、飾り等）、又は所持品（バッグ、時計等）などであってもよい。
【0142】
また図２２（Ｂ）では、変身等により形状変形した対象物ＰＯＢが配置部１０に配置されている。即ち図２２（Ｂ）の対象物ＰＯＢは、図２１（Ａ）とは異なる形状に形状変形したものになっている。例えば地上用のロボットから、飛行機形状のロボットに形状変形している。図２２（Ｂ）の対象物ＰＯＢは、図２１（Ａ）の対象物ＰＯＢ自体のパーツ等を変更して形状変形させたものであってもよいし、図２１（Ａ）の対象物ＰＯＢとは別個にプレーヤが用意した対象物（第２の対象物）であってもよい。例えば図２１（Ａ）に示すような通常タイプの対象物ＰＯＢを配置部１０に配置して、複数の撮影方向から撮影することで、第１の撮影画像群が取得される。また図２２（Ｂ）に示すような特殊な形状に形状変形した対象物ＰＯＢを配置部１０に配置して、複数の撮影方向から撮影することで、第２の撮影画像群が取得される。更に異なる第３、第４の形状に形状変形した対象物ＰＯＢを撮影することで、第３、第４の撮影画像群というように３つ以上の撮影画像群を取得してもよい。
【0143】
また図２３では、第１の撮影画像群の加工を行うことで第２の撮影画像群を取得している。例えば第１の撮影画像群の撮影画像に映るキャラクタ等の表示物が水平方向に引き延ばされるようなサイズ変更の拡大処理を行うことで、第２の撮影画像群が取得されている。例えば第１の撮影画像群の撮影画像に映るキャラクタ等の表示物の表示態様と、第２の撮影画像群の撮影画像に映るキャラクタ等の表示物の表示態様とを、異ならせるような加工処理が行われている。或いは第１の撮影画像群に対してぼかし処理などの画像エフェクト処理の加工処理を行ったり、第１の撮影画像群の色、明るさ又はコントラストを変更する加工処理を行ったり、或いは第１の撮影画像群の左右反転、上下反転又は回転などの加工処理を行ったりすることで、第２の撮影画像群を取得してもよい。或いは、敵からの攻撃によりキャラクタ等の表示物が破壊されるように見える加工処理を行って、第２の撮影画像群を取得してもよい。
【0144】
また本実施形態では、図２４に示すように、プレーヤの操作入力情報に応じて、第１、第２の撮影画像群の一方の撮影画像群を選択する。例えばプレーヤが第１の操作入力を行ったと判断された場合には、第１、第２の撮影画像群のうちの第１の撮影画像群を選択する。一方、プレーヤが第２の操作入力を行ったと判断された場合には、第１、第２の撮影画像群のうちの第２の撮影画像群を選択する。そして選択された一方の撮影画像群の撮影画像に基づいて、テクスチャを生成し、生成されたテクスチャをプリミティブにマッピングすることで、仮想カメラから見える仮想空間画像を生成する。このようにすれば、プレーヤの操作入力情報に応じた適切な撮影画像群を選択し、選択された撮影画像群の撮影画像に基づくテクスチャがマッピングされた画像を、対象物に対応する表示物の画像として生成できるようになる。
【0145】
例えばプレーヤが、キャラクタを移動させるなどの通常の操作入力（第１の操作入力）を行っている場合には、図２１（Ａ）に示すような通常ポーズの対象物ＰＯＢを撮影することにより得られた第１の撮影画像群を選択する。一方、プレーヤが、武器により敵を攻撃する操作入力（第２の操作入力）を行った場合には、図２１（Ｂ）に示すような武器により攻撃するポーズの対象物ＰＯＢを撮影することにより得られた第２の撮影画像群を選択する。これにより、武器により攻撃するポーズのキャラクタの画像を含む仮想空間画像を生成できるようになる。或いは、プレーヤがキャノン砲ＣＮを装着する操作入力（第２の操作入力）を行った場合には、図２２（Ａ）に示すようなキャノン砲ＣＮを装着した対象物ＰＯＢを撮影することにより得られた第２の撮影画像群を選択する。これにより、キャノン砲ＣＮを装備したキャラクタの画像を含む仮想空間画像を生成できるようになる。或いは、プレーヤが特殊形状に形状変形（変身）する操作入力（第２の操作入力）を行った場合には、図２２（Ｂ）に示すような特殊形状に形状変形した対象物ＰＯＢを撮影することにより得られた第２の撮影画像群を選択する。これにより、特殊形状に変形したキャラクタの画像を含む仮想空間画像を生成できるようになる。
【0146】
また本実施形態では、対象物の分析結果と、プレーヤの操作入力情報に応じて、第１、第２の撮影画像群の一方の撮影画像群を選択し、選択された一方の撮影画像群の撮影画像に基づいて、テクスチャを生成する。このようにすれば、プレーヤの操作入力情報のみならず、対象物の分析結果に応じた適切な撮影画像群を選択し、選択された撮影画像群の撮影画像に基づくテクスチャがマッピングされた画像を、対象物に対応する表示物の画像として生成できるようになる。図２５はこのような手法による仮想空間画像の生成処理を説明するフローチャートである。
【0147】
まず撮影画像等に基づく対象物の分析処理を行う（ステップＳ３１）。例えば対象物のシルエット分析等を行って、対象物の種類や形状を特定する。またプレーヤの操作入力情報を判断する（ステップＳ３２）。例えば操作部１６０を用いてプレーヤが入力した操作入力情報に基づいて、プレーヤがどのような操作入力を行ったかを判断する。そして対象物の分析結果と、プレーヤの操作入力情報に応じて、第１、第２の撮影画像群の一方の撮影画像群を選択する（ステップＳ３３）。例えば対象物の分析結果に基づいて、対象物の種類を特定し、プレーヤが、その種類の対象物について用意された特定の操作入力を行ったかを判断する。そして、選択された一方の撮影画像群の撮影画像に基づいて、テクスチャを生成し、生成されたテクスチャをマッピングして、仮想空間において仮想カメラから見える仮想空間画像を生成する（ステップＳ３４、Ｓ３５）。
【0148】
例えば対象物が、ロボットのプラモデルである場合には、複数種類のロボットのプラモデルが存在するため、シルエット分析等により、どの種類のロボットのプラモデルを撮影したのかを特定する。そして、第１の種類のロボットのプラモデルである場合には、プレーヤが第１の操作入力を行ったときに、対応するキャラクタが特殊技を繰り出すようなゲームの設定になっていたとする。この場合には、撮影画像に基づく分析処理により、対象物であるロボットのプラモデルが第１の種類であることが特定され、且つ、プレーヤが第１の操作入力を行った場合に、特殊技を繰り出すときに使用される第２の撮影画像群を選択する。そして第２の撮影画像群の撮影画像に基づき生成されたテクスチャを、プリミティブにマッピングして、仮想空間画像を生成する。このようにすることで、第１の種類のロボットのプラモデルに対応するキャラクタが特殊技を繰り出す画像が生成されるようになり、仮想現実感の向上等を図れるようになる。
【0149】
また本実施形態では、移動制御情報に基づいて仮想空間においてプリミティブを移動させる処理を行う。そして図２６に示すように、第１、第２の撮影画像群の一方の撮影画像群から移動制御情報に応じて選択された撮影画像に基づいて、テクスチャを生成する。そして移動制御情報に応じて変化するテクスチャを、プリミティブにマッピングして、仮想空間画像を生成する。このようにすれば、図３（Ａ）～図１１（Ｃ）で説明した手法により仮想空間画像を生成することが可能になり、移動制御情報に応じたキャラクタ等の表示物の適切な画像を生成できるようになる。
【0150】
また本実施形態では、第１の撮影画像群の撮影画像と第２の撮影画像群の撮影画像を合成することで、テクスチャを生成する。
【0151】
例えば図２７（Ａ）では、第１の撮影画像群である撮影画像ＩＭＸ１～ＩＭＸｊと、第２の撮影画像群である撮影画像ＩＭＹ１～ＩＭＹｊが取得されている。そして第１の撮影画像群の撮影画像ＩＭＸｉと、第２の撮影画像群の撮影画像ＩＭＹｉの合成を行うことで、合成画像ＩＭＸＹを生成する。例えばα合成などの合成処理を行って、合成画像ＩＭＸＹを生成する。そして合成画像ＩＭＸＹに基づいてテクスチャを生成して、プリミティブにマッピングする。これにより、プリミティブの画像を含む仮想空間画像が生成される。このようにすれば、第１の撮影画像群の撮影画像と第２の撮影画像群の撮影画像の両方が反映させたテクスチャを生成し、生成されたテクスチャがマッピングされた画像を、対象物に対応する表示物の画像として生成できるようになる。
【0152】
例えば図２７（Ｂ）において、第１の撮影画像群が、対象物が第１のポーズである場合の撮影画像群であり、第２の撮影画像群が、対象物が第２のポーズである場合の撮影画像群であったとする。第１のポーズは例えば図２１（Ａ）に示すようなポーズであり、第２のポーズは例えば図２１（Ｂ）に示すようなポーズである。そして図２４、図２５で説明したように、プレーヤの操作入力情報などに基づいて、第１の撮影画像群に基づくテクスチャによるキャラクタの画像の生成から、第２の撮影画像群に基づくテクスチャによるキャラクタの画像の生成に切り替える処理を行ったとする。このようにすることで、第１のポーズのキャラクタの画像が表示される仮想空間画像から、第２のポーズのキャラクタの画像が表示される仮想空間画像に切り替える処理が可能になる。例えば図２１（Ａ）のポーズのキャラクタの画像が表示される仮想空間画像から、図２１（Ｂ）のポーズのキャラクタの画像が表示される仮想空間画像に切り替える処理が可能になる。この場合に、当該切り替え処理の切り替え期間において、第１、第２の撮影画像群の撮影画像の合成画像ＩＭＸＹに基づくテクスチャを生成して、プリミティブにマッピングする。このようにすれば、第１のポーズと第２のポーズを補間するようなポーズのキャラクタの画像を、切り替え期間において表示できるようになる。例えば図２１（Ａ）のポーズと図２１（Ｂ）のポーズを補間するような中間ポーズのキャラクタの画像を、切り替え期間において表示できるようになる。これによりモーション補間のような処理が可能になり、キャラクタのポーズのスムーズな切り替え処理を実現できるようになる。
【0153】
なお、図２１（Ａ）のような対象物ＰＯＢを撮影することによる第１の撮影画像群の撮影画像と、図２１（Ａ）のような形状変形した対象物ＰＯＢを撮影することによる第２の撮影画像群の撮影画像の合成画像を用いて、図２７（Ｂ）のような切り替え処理を行ってもよい。このようにすれば、キャラクタがスムーズに形状変形するような仮想空間画像を生成できるようになる。
【0154】
また本実施形態では、対象物の分析結果に基づいて、プレーヤがプレイするゲームのゲームパラメータを設定し、設定されたゲームパラメータに基づいてゲーム処理を行う。図２８に、このような処理を行う場合のフローチャートを示す。
【0155】
まず撮影画像等に基づく対象物の分析処理を行う（ステップＳ４１）。例えば対象物のシルエット分析等を行って、対象物の種類や形状を特定する。そして対象物の分析結果に基づいて、プレーヤがプレイするゲームのゲームパラメータを設定する（ステップＳ４２）。例えば対象物に対応するキャラクタ等の攻撃力、守備力、耐久力、移動能力、走行能力、特殊能力、特殊スキル、ヒットポイント、マジックポイント又はレベル等のゲームパラメータを設定する。例えばゲームパラメータの基本値である初期パラメータ値を設定する。そして設定されたゲームパラメータに基づいて、ゲーム処理を実行する（ステップＳ４３）。例えば、設定されたゲームパラメータに基づいて、キャラクタ等が登場するゲームの処理が行われる。例えばゲームの開始処理、ゲームの進行処理、ゲームの終了処理又はゲーム成績の演算処理などが行われる。
【0156】
このようにすれば、対象物の撮影画像に基づくキャラクタ等の表示物を表示できると共に、対象物の分析結果に基づいて、キャラクタ等の表示物が登場するゲームの処理に用いられるゲームパラメータを設定できるようになる。これにより対象物に対応する表示物が仮想空間に登場するゲームを実現できると共に、当該ゲームの処理のゲームパラメータについても、対象物の分析結果である対象物の種類等に基づき設定できるようになるため、これまでにない面白味のあるゲームを実現できるようになる。
【0157】
なお、対象物のシルエット分析等の分析結果のみならず、プレーヤ情報に基づいて、ゲームパラメータを設定してもよい。例えばプレーヤの個人情報などに基づいて、初期値として設定されるゲームパラメータの値を変化させる。
【0158】
また本実施形態では、第１の撮影画像群を受け付けた後、第２の撮影画像群を受け付けた場合に、第２の撮影画像群が第１の撮影画像群と異なる撮影画像群か否かを判断する。そして、異なる撮影画像群と判断された場合に、第２の撮影画像群を記憶部１７０に記憶する。例えば撮影部１６２により対象物を撮影した場合に、撮影された第２の撮影画像群（第２の動画）が、過去に撮影された第１の撮影画像群（第１の動画）と異なる撮影画像群（動画）か否かを判断する。そして異なる撮影画像群であることを条件に、撮影された第２の撮影画像群（第２の動画）を記憶部１７０に保存する。例えば第２の撮影画像群が、第１の撮影画像群と同じ対象物を撮影した撮影画像群である場合には、記憶部１７０に保存しないようにする。図２９は、このような撮影画像群の保存処理を説明するフローチャートである。
【0159】
まず第１の撮影画像群を受け付けて、記憶部１７０に記憶して保存する（ステップＳ５１）。そして第２の撮影画像群が受け付けられたか否かを判断する（ステップＳ５２）。例えば撮影部１６２による撮影により第２の撮影画像群が取得されて受け付けられたか否かを判断する。そして第２の撮影画像群が受け付けられた場合に、第２の撮影画像群は第１の撮影画像群と異なる撮影画像群か否かを判断する（ステップＳ５３）。そして第２の撮影画像群が第１の撮影画像群と異なる撮影画像群であると判断された場合に、第２の撮影画像群を記憶部１７０に記憶して保存する（ステップＳ５４）。
【0160】
以上のような処理を行えば、同じような撮影画像群（動画）が記憶部１７０に対して無駄に保存されてしまう事態を防止できる。一方、第２の撮影画像群に映る対象物が、第１の撮影画像群の対象物のポーズを変化させた対象物、付随物を付加した対象物、或いは形状変形した対象物である場合には、第２の撮影像群が第１の撮影画像群とは異なる撮影画像群であると判断される。このようにすることで、図２０に示すように、第１、第２の撮影画像群から適切なテクスチャを生成して、プリミティブにマッピングし、対象物に対応する表示物が表示された仮想空間画像を生成できるようになる。
【0161】
また本実施形態では、第１、第２の撮影画像群からテクスチャを生成する際に、撮影画像に対するプレーヤの編集を受け付ける。即ちプレーヤによる撮影画像に対する編集を可能にする編集処理を行う。例えば図３０に示すように第１、第２の撮影画像群から選択された撮影画像に対するプレーヤの編集を受け付ける。例えば撮影画像を修正する編集や、撮影画像にマーク、アイコンなどの付加表示物を付加する編集や、撮影画像を変形するなどの編集を、プレーヤが行われるようにする。そして編集後の撮影画像に基づいて、テクスチャを生成し、生成されたテクスチャをプリミティブにマッピングすることで、プリミティブの画像を含む仮想空間画像を生成する。
【0162】
このようにすれば、対象物の撮影画像そのものを用いるのではなく、プレーヤが所望の編集を行った後の撮影画像を用いて、テクスチャを生成し、当該テクスチャがマッピングされたプリミティブの画像を表示できるようになる。これにより、プリミティブの画像により、対象物に対応するキャラクタ等の表示物の画像を表示する場合に、修正された撮影画像に基づいて表示物の画像を表示したり、マーク、アイコンなどの付加表示物が付加された表示物の画像を表示できるようになる。
【0163】
また本実施形態では、撮影部１６２による対象物の撮影と、対象物に対応するキャラクタ等を用いたゲームのプレイに対して、共通のポイントを消費するようにしてもよい。即ち、対象物の撮影に必要なコストと、ゲームプレイに必要なコストを共通化する。例えば、プレーヤがゲームプレイにより獲得したポイントを消費することで、対象物の撮影を許可するようにする。例えばゲームプレイを有料にして、プレーヤは、実通貨や、ゲーム内通貨などの仮想通貨を支払ってゲームをプレイする。そして、ゲームにおいてプレーヤがポイントを獲得すると、獲得したポイントの消費を条件にして、撮影部１６２による対象物の撮影を許可するようにする。例えば、プレーヤが初めてゲームプレイを行う際には、プレーヤが所持するプラモデルなどの対象物についての１回の撮影を許可する。そしてプレーヤは、撮影した対象物に対応するキャラクタ等が登場するゲームをプレイする。そして、このゲームにおいてプレーヤがポイントを獲得し、ポイントが一定値以上に達すると、プレーヤによる次の撮影を許可する。これによりプレーヤは、例えば図２１（Ｂ）に示すようなポーズを異ならせたプラモデル（広義には対象物）や、図２２（Ａ）に示すような武器を装備させたプラモデルや、図２２（Ｂ）に示すような形状変形したプラモデルを撮影できるようになる。そしてこれらのプラモデルに対応するキャラクタをゲームに登場させて、ゲームをプレイできるようになるため、繰り返しゲームプレイしても飽きが来にくいゲームを実現できるようになる。
【0164】
また本実施形態では、撮影画像からテクスチャを生成する際に種々の補正処理や修正処理を行ってもよい。例えばＡＩ（Artificial Intelligence）などの機械学習を利用して、撮影画像からテクスチャを生成するようにしてもよい。例えばプレーヤが対象物を撮影することで取得された撮影画像を記憶部１７０に記憶して蓄積し、蓄積された撮影画像に基づいてＡＩなどの機械学習を行ってもよい。そして機械学習により生成された学習済みモデルを用いて、撮影画像に対する補正処理や修正処理などを行って、テクスチャを生成し、生成されたテクスチャをプリミティブにマッピングするようにしてもよい。
【0165】
なお、上記のように本実施形態について詳細に説明したが、本開示の新規事項および効果から実体的に逸脱しない多くの変形が可能であることは当業者には容易に理解できるであろう。従って、このような変形例はすべて本開示の範囲に含まれるものとする。例えば、明細書又は図面において、少なくとも一度、より広義または同義な異なる用語（対象物、表示物等）と共に記載された用語（プラモデル、キャラクタ等）は、明細書又は図面のいかなる箇所においても、その異なる用語に置き換えることができる。また撮影画像群の取得処理、プリミティブの移動処理、テクスチャの生成処理、仮想空間画像の生成処理等も、本実施形態で説明したものに限定されず、これらと均等な手法・処理・構成も本開示の範囲に含まれる。
【符号の説明】
【0166】
ＰＯＢ 対象物、ＰＭ、ＰＭＶ、ＰＭＢ、ＰＭＥ１、ＰＭＥ２ プリミティブ、
ＴＥＸ、ＴＥＸＥ１、ＴＥＸＥ２ テクスチャ、ＰＴ パーティクル、
ＣＨ キャラクタ、ＣＨＥ、ＣＨＥ１、ＣＨＥ２ 敵キャラクタ、ＣＮ キャノン砲、
ＯＢ１～ＯＢ３ オブジェクト、ＩＭ 撮影画像、ＢＧ 背景、
ＲＤＲ 撮影方向範囲、ＶＣ 仮想カメラ、ＶＬ 視線方向、
ＰＳ 視点位置、ＲＬ レール、ＶＭ ビューボリューム、
ＶＮ 噴射炎、ＢＭ ビーム、ＤＣＭ 撮影方向、
１０ 配置部、１２ 回転移動機構、１６ 支持部、２０ 背景部、
１００ 処理部、１０６ ゲーム処理部、１０８ 編集処理部、１１０ 取得部、
１１１ 分析部、１１２ 移動処理部、１１４ テクスチャ生成部、
１２０ 画像生成部、１３０ 音生成部、１６０ 操作部、１６２ 撮影部、
１７０ 記憶部、１７６ 撮影画像情報記憶部、１７７ 仮想空間情報記憶部、
１７８ 描画バッファ、１８０ 情報記憶媒体、１９０ 表示部、１９２ 音出力部、
１９４ Ｉ／Ｆ部、１９５ 携帯型情報記憶媒体、１９６ 通信部、
２００ 処理装置、２１０ ゲーム装置、２２０ 撮影用筐体
ＴＥＸ、ＴＥＸＥ１、ＴＥＸＥ２ テクスチャ、ＰＴ パーティクル、
ＣＨ キャラクタ、ＣＨＥ、ＣＨＥ１、ＣＨＥ２ 敵キャラクタ、ＣＮ キャノン砲、
ＯＢ１～ＯＢ３ オブジェクト、ＩＭ 撮影画像、ＢＧ 背景、
ＲＤＲ 撮影方向範囲、ＶＣ 仮想カメラ、ＶＬ 視線方向、
ＰＳ 視点位置、ＲＬ レール、ＶＭ ビューボリューム、
ＶＮ 噴射炎、ＢＭ ビーム、ＤＣＭ 撮影方向、
１０ 配置部、１２ 回転移動機構、１６ 支持部、２０ 背景部、
１００ 処理部、１０６ ゲーム処理部、１０８ 編集処理部、１１０ 取得部、
１１１ 分析部、１１２ 移動処理部、１１４ テクスチャ生成部、
１２０ 画像生成部、１３０ 音生成部、１６０ 操作部、１６２ 撮影部、
１７０ 記憶部、１７６ 撮影画像情報記憶部、１７７ 仮想空間情報記憶部、
１７８ 描画バッファ、１８０ 情報記憶媒体、１９０ 表示部、１９２ 音出力部、
１９４ Ｉ／Ｆ部、１９５ 携帯型情報記憶媒体、１９６ 通信部、
２００ 処理装置、２１０ ゲーム装置、２２０ 撮影用筐体
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】