(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-04-10
(45)【発行日】2024-04-18
(54)【発明の名称】アニメーション制作システム
(51)【国際特許分類】
G06T 13/40 20110101AFI20240411BHJP
G06T 19/20 20110101ALI20240411BHJP
【FI】
G06T13/40
G06T19/20
(21)【出願番号】P 2022147884
(22)【出願日】2022-09-16
(62)【分割の表示】P 2020541630の分割
【原出願日】2019-09-24
【審査請求日】2022-10-14
(73)【特許権者】
【識別番号】520282753
【氏名又は名称】株式会社RiBLA
(73)【特許権者】
【識別番号】519389362
【氏名又は名称】エイベックス・テクノロジーズ株式会社
(74)【上記1名の代理人】
【識別番号】110002790
【氏名又は名称】One ip弁理士法人
(72)【発明者】
【氏名】近藤 義仁
(72)【発明者】
【氏名】室橋 雅人
【審査官】岡本 俊威
(56)【参考文献】
【文献】[Unite 2017 Tokyo] VR MAGIC! ~キャラクターに命を吹き込んだこの4年間 の記録~,YouTube [online] [video],2017年05月30日,https://www.youtube.com/watch?v=nWR816af2dU,主に、31:38~ [検索日2021年10月18日]
【文献】石坂 アツシ,After Effects 標準エフェクト全解 [CC対応 改訂第4版] 初版 ,第1版,日本,株式会社ビー・エヌ・エヌ新社 上原 哲郎,2018年07月25日,p274-275, 534-535
(58)【調査した分野】(Int.Cl.,DB名)
G06T 13/00-19/20
(57)【特許請求の範囲】
【請求項1】
仮想空間内に配置されたキャラクタを撮影する仮想的なカメラと、
ユーザからの入力に応じて前記キャラクタの動作を制御するキャラクタ制御部と、
前記カメラにより撮影した動画データを記録する画像データ格納部と、
前記動画データを表示する表示装置と、
前記カメラによる撮影を行いながら、前記動画データの一部に、前記動画データに対してエフェクトを加える画像処理を行うための処理画像を合成する処理であって、前記動画データのピクセルと前記処理画像のピクセルとを演算する前記処理を行う画像処理部と、
を備えることを特徴とするアニメーション制作システム。
【請求項2】
請求項1に記載のアニメーション制作システムであって、
前記動画データの上に重ね合わせるための処理画像が格納された処理画像格納部と、
前記画像処理で得られた合成画像を記録する合成画像格納部をさらに備えること、
を特徴とするアニメーション制作システム。
【請求項3】
請求項1に記載のアニメーション制作システムであって、
前記画像処理は、前記動画データの少なくとも一部にグラデーションをかける処理であること、
を特徴とするアニメーション制作システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、アニメーション制作システムに関する。
【背景技術】
【0002】
仮想空間内に仮想カメラを配置することが行われている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
仮想空間内でアニメーションを撮影しようとする取り組みが行われてこなかった。
【0005】
本発明はこのような背景を鑑みてなされたものであり、仮想空間内でアニメーションを撮影することのできる技術を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記課題を解決するための本発明の主たる発明は、アニメーション制作システムであって、仮想空間内に配置されたキャラクタを撮影する仮想的なカメラと、ユーザが装着したヘッドマウントディスプレイおよびコントローラの少なくともいずれかから前記ユーザの入力を検出するユーザ入力検出部と、前記入力に応じて前記キャラクタの動作を制御するキャラクタ制御部と、前記カメラにより撮影した動画データを記録する画像データ格納部と、前記動画データを表示する表示装置と、前記動画データに画像処理を行う画像処理部と、を備えることとする。
【0007】
その他本願が開示する課題やその解決方法については、発明の実施形態の欄及び図面により明らかにされる。
【発明の効果】
【0008】
本発明によれば、仮想空間内でアニメーションを撮影することができる。
【図面の簡単な説明】
【0009】
【
図1】本実施形態のアニメーション制作システム300においてユーザが装着するヘッドマウントディスプレイ(HMD)に表示される仮想空間の一例を示す図である。
【
図2】本発明の一実施形態に係るアニメーション制作システム300の全体構成例を示す図である。
【
図3】本実施形態に係るHMD110の外観を模式的に示す図である。
【
図4】本実施形態に係るHMD110の機能構成例を示す図である。
【
図5】本実施形態に係るコントローラ210の外観を模式的に示す図である。
【
図6】本実施形態に係るコントローラ210の機能構成例を示す図である。
【
図7】本実施形態にかかる画像生成装置310の機能構成図を示す図である。
【
図8】本実施形態のアニメーション制作システム300の画像生成装置310によって得られた動画データに対する画像処理の一例を説明するフローチャートである。
【
図9】画像データ格納部470から読み出した動画データの一例を示す図である。
【
図10】処理画像記録部500から読み出した処理画像の一例を示す図である。
【
図11】画像処理により得られた合成画像の一例を示す図である。
【発明を実施するための形態】
【0010】
本発明の実施形態の内容を列記して説明する。本発明は、たとえば以下のような構成を備える。
【0011】
[項目1]
仮想空間内に配置されたキャラクタを撮影する仮想的なカメラと、
ユーザが装着したヘッドマウントディスプレイおよびコントローラの少なくともいずれかから前記ユーザの入力を検出するユーザ入力検出部と、
前記入力に応じて前記キャラクタの動作を制御するキャラクタ制御部と、
前記カメラにより撮影した動画データを記録する画像データ格納部と、
前記動画データを表示する表示装置と、
前記動画データに画像処理を行う画像処理部と、
を備えることを特徴とするアニメーション制作システム。
[項目2]
項目1に記載のアニメーション制作システムであって、
前記動画データの上に重ね合わせるための処理画像が格納された処理画像格納部と、
前記画像処理で得られた合成画像を記録する合成画像格納部をさらに備えること、
を特徴とするアニメーション制作システム。
[項目3]
項目1に記載のアニメーション制作システムであって、
前記画像処理は、前記動画データの少なくとも一部にグラデーションをかける処理であること、
を特徴とするアニメーション制作システム。
【0012】
本発明の一実施形態に係るアニメーション制作システム300の具体例を、以下に図面を参照しつつ説明する。なお、本発明はこれらの例示に限定されるものではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。以下の説明では、図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。
【0013】
<概要>
図1は、本実施形態のアニメーション制作システム300においてユーザが装着するヘッドマウントディスプレイ(HMD)に表示される仮想空間の一例を示す図である。本実施形態のアニメーション制作システム300では、仮想空間1に仮想的なキャラクタ4と仮想的なカメラ3とを配置し、カメラ3を用いてキャラクタ4を撮影する。また、仮想空間1にはカメラマン2(撮影者キャラクタ)が配置され、カメラマン2によりカメラ3が仮想的に操作される。本実施形態のアニメーション制作システム300では、ユーザは、
図1に示すように仮想空間1をTPV(Third Person View;三人称視点)で俯瞰しながらキャラクタ4やカメラ3を配置したり、カメラマン2としてFPV(First Person View;一人称視点)でキャラクタ4を撮影したり、FPVでキャラクタ4の演技を行ったりしながら、アニメーションを制作していく。また、仮想空間1内には複数のキャラクタ4(
図1の例では、キャラクタ4-1およびキャラクタ4-2)を配置することができ、ユーザは、キャラクタ4に憑依しながら演技を行うことができる。複数のキャラクタ4が配置されている場合には、ユーザは、各キャラクタ4(たとえば、キャラクタ4-1および4-2)に憑依する対象を切り替えることもできる。すなわち、本実施形態のアニメーション制作システム300では、一人が何役もの役割(ロール)を果たすことができる。また、カメラマン2としてカメラ2を仮想的に操作しながら撮影を行うことができるので、自然なカメラワークを実現することが可能となり、撮影される動画の表現を豊かにすることができる。
【0014】
<全体構成>
図2は、本発明の一実施形態に係るアニメーション制作システム300の全体構成例を示す図である。アニメーション制作システム300は、例えば、HMD110、コントローラ210及びホストコンピュータとして機能する画像生成装置310を含んで構成することができる。画像生成装置310は、ディスプレイなどの表示装置311と、キーボードやマウス、タッチパネルなどの入力装置312とを備えることができる。アニメーション制作システム300には、HMD110やコントローラ210の位置、向き及び傾き等を検出するための赤外線カメラ(図示せず)等を追加することもできる。これらの装置は、相互に、有線又は無線手段により接続することができる。例えば、各々の装置にUSBポートを備え、ケーブルで接続することで通信を確立することもできるし、他に、HDMI、有線LAN、赤外線、Bluetooth(登録商標)、WiFi(登録商標)等の有線又は無線により通信を確立することもできる。画像生成装置310は、PC、ゲーム機、携帯通信端末等、計算処理機能を有する装置であればよい。
【0015】
<HMD110>
図3は、本実施形態に係るHMD110の外観を模式的に示す図である。
図4は、本実施形態に係るHMD110の機能構成例を示す図である。
【0016】
HMD110はユーザの頭部に装着され、ユーザの左右の眼前に配置されるよう表示パネル120を備える。表示パネル120としては、光学透過型と非透過型のディスプレイが考えられるが、本実施形態では、より没入感を提供可能な非透過型の表示パネルを例示する。表示パネル120には、左目用画像と右目用画像とが表示され、両目の視差を利用することにより立体感のある画像をユーザに提供することができる。左目用画像と右目用画像とを表示することができれば、左目用ディスプレイと右目用ディスプレイとを個別に備えることも可能であるし、左目用及び右目用の一体型のディスプレイを備えることも可能である。
【0017】
HMD110の筐体部130は、センサ140を備える。センサ140は、ユーザの頭部の向きや傾きといった動きを検出するために、図示しないが、例えば、磁気センサ、加速度センサ、もしくはジャイロセンサのいずれか、またはこれらの組み合わせを備えることができる。ユーザの頭部の垂直方向をY軸とし、Y軸と直交する軸のうち、表示パネル120の中心とユーザとを結ぶ、ユーザの前後方向に相当する軸をZ軸とし、Y軸及びZ軸と直交し、ユーザの左右方向に相当する軸をX軸とするとき、センサ140は、X軸まわりの回転角(いわゆる、ピッチ角)、Y軸まわりの回転角(いわゆる、ヨー角)、Z軸まわりの回転角(いわゆる、ロール角)を検出することができる。
【0018】
センサ140に代えて、またはセンサ140に加えて、HMD110の筐体部130は、複数の光源150(例えば、赤外光LED、可視光LED)を備えることもできる。HMD110の外部(例えば、室内等)に設置されたカメラ(例えば、赤外光カメラ、可視光カメラ)がこれらの光源を検出することで、特定の空間におけるHMD110の位置、向き、傾きを検出することができる。または、同じ目的で、HMD110に、HMD110の筐体部130に設置された光源を検出するためのカメラを備えることもできる。
【0019】
HMD110の筐体部130は、アイトラッキング・センサを備えることもできる。アイトラッキング・センサは、ユーザの左目及び右目の視線方向及び注視点を検出するために用いられる。アイトラッキング・センサとしては様々な方式が考えられるが、例えば、左目および右目に弱い赤外光を照射してできる角膜上の反射光の位置を基準点とし、反射光の位置に対する瞳孔の位置により視線方向を検出し、左目及び右目の視線方向の交点を注視点として検出する方法などが考えられる。
【0020】
<コントローラ210>
図5は、本実施形態に係るコントローラ210の外観を模式的に示す図である。
図6は、本実施形態に係るコントローラ210の機能構成例を示す図である。
【0021】
コントローラ210により、仮想空間内において、ユーザが所定の入力を行うことをサポートすることができる。コントローラ210は、左手用220及び右手用230のコントローラのセットとして構成することができる。左手用コントローラ220及び右手用コントローラ230は、各々操作用トリガーボタン240、赤外線LED250、センサ260、ジョイスティック270、メニューボタン280を有することができる。
【0022】
操作用トリガーボタン240は、コントローラ210のグリップ235を把持したときに、中指及び人差し指でトリガーを引くような操作を行うことを想定した位置に240a、240bとして配置される。コントローラ210の両側面から下方にリング状に形成されるフレーム245には、複数の赤外線LED250が備えられ、コントローラ外部に備えられるカメラ(図示せず)により、これらの赤外線LEDの位置を検出することで、特定の空間におけるコントローラ210の位置、向き及び傾きを検出することができる。
【0023】
また、コントローラ210は、コントローラ210の向きや傾きといった動きを検出するために、センサ260を内蔵することができる。センサ260として、図示しないが、例えば、磁気センサ、加速度センサ、もしくはジャイロセンサのいずれか、またはこれらの組み合わせを備えることができる。さらに、コントローラ210の上面には、ジョイスティック270及びメニューボタン280を備えることができる。ジョイスティック270は、基準点を中心に360度方向に動かすことができ、コントローラ210のグリップ235を把持したときに、親指で操作されることが想定される。メニューボタン280もまた同様に、親指で操作されることが想定される。さらに、コントローラ210は、コントローラ210を操作するユーザの手に振動を与えるためのバイブレータ(図示せず)を内蔵することもできる。ボタンやジョイスティックを介したユーザの入力内容やセンサ等を介したコントローラ210の位置、向き及び傾きといった情報を出力するため、また、ホストコンピュータからの情報を受信するために、コントローラ210は、入出力部及び通信部を有する。
【0024】
ユーザがコントローラ210を把持し、各種ボタンやジョイスティックを操作することの有無、及び赤外線LEDやセンサにより検出される情報によって、システムはユーザの手の動きや姿勢を決定し、仮想空間内において擬似的にユーザの手を表示させ、動作させることができる。
【0025】
<画像生成装置310>
図7は、本実施形態にかかる画像生成装置310の機能構成図を示す図である。画像生成装置310としては、HMD110やコントローラ210から送信された、ユーザ入力情報やセンサ等により取得されたユーザの頭部の動きやコントローラの動きや操作に関する情報を記憶し、所定の計算処理を行い、画像を生成するための機能を有する、PC、ゲーム機及び携帯通信端末等といった装置を使用することができる。画像生成装置310は、例えば、HMD110やコントローラ210等の周辺装置との有線による接続を確立するための入出力部320を備えることができ、赤外線、Bluetooth(登録商標)やWiFi(登録商標)等無線による接続を確立するための通信部330を備えることができる。入出力部320及び/又は通信部330を介して、HMD110、コントローラ210、及び/又は入力装置311から受信された、ユーザの頭部の動きやコントローラ210の動きや操作に関する情報は、制御部340において、ユーザの位置、視線、姿勢等の動作、発話、操作等を含めた入力内容として検出され、ユーザの入力内容に応じて、記憶部350に格納された制御プログラムを実行することで、キャラクタ4の制御を行い、画像を生成するといった処理がなされる。また、ユーザ入力検出部410は、キーボードやマウスなどの入力装置312からの入力を受け付けることもできる。制御部340は、CPUで構成することもできるが、画像処理に特化したGPUをさらに設けることで、情報処理と画像処理を分散化し、全体の処理の効率化を図ることもできる。画像生成装置310はまた、他の計算処理装置と通信を行い、他の計算処理装置に情報処理や画像処理を分担させることもできる。
【0026】
制御部340は、HMD110及び/又はコントローラ210から受信された、ユーザの頭部の動きやユーザの発話、また、コントローラの動きや操作に関する情報を検出するユーザ入力検出部410と、予め記憶部350のキャラクタデータ格納部450に格納されたキャラクタ4に対して、制御プログラム格納部460に格納された制御プログラムを実行するキャラクタ制御部420と、キャラクタ制御に応じて、仮想空間1に配置された仮想的なカメラ3の制御を行うカメラ制御部440と、キャラクタ制御に基づいてカメラ3が仮想空間1を撮影した画像を生成する画像生成部430と、を有する。ここでキャラクタ4の動きの制御については、HMD110やコントローラ210を介して検出されたユーザ頭部の向きや傾き、手の動きといった情報を、人間の身体の関節の動きや制約に則って作成されたボーン構造の各部の動きに変換し、予め格納されたキャラクタデータに対して、ボーン構造を関連付けることで、ボーン構造の動きを適用させることで実現される。カメラ3の制御は、たとえば、キャラクタ4の手の動きに応じて、カメラ3についての各種設定(たとえば、カメラ3の仮想空間1内での位置、カメラ3の視線方向、焦点位置、ズームなど)を変更することにより行われる。画像生成部430は、キャラクタ制御部420により制御されたキャラクタ4の動きと、カメラ制御部440により制御されたカメラ3の動き(操作)とを表すアクションデータを画像データ格納部470に登録するとともに、仮想的にキャラクタ4の動きをカメラ3により撮影した画像を生成することができる。画像生成部430は、仮想空間1に配される制御パネル6の表示部61に表示するとともに、表示装置311にも表示することができる。さらに、画像生成部430は、生成した画像をカメラ3が備える表示部(不図示)に表示することもできる。
【0027】
記憶部350は、上述のキャラクタデータ格納部450に、キャラクタ4のイメージデータのほか、キャラクタ4の属性等キャラクタ4に関連する情報を格納する。また、制御プログラム格納部460は、仮想空間におけるキャラクタ4の動作や表情を制御し、カメラ3などのオブジェクトを制御するためのプログラムを格納する。画像データ格納部470は、画像生成部430で生成された画像を格納する。本実施形態では、画像データ格納部470に格納される画像は、動画像を生成するためのアクションデータとすることができる。アクションデータには、たとえば、キャラクタ4を仮想空間1に表示するための3Dデータや、3Dデータのボーン構造の状態を特定するためのポーズデータ、ボーン構造の動きを特定するモーションデータなどが含まれ得る。また、画像生成部430は、アクションデータに基づいて動画像を作成(レンダリング)し、レンダリングした結果の動画データを画像データ格納部470に登録することもできる。処理画像格納部500は、画像生成装置310で得られた動画データの上に重ね合わせるための処理画像を格納する。合成画像格納部510は、動画データの上処理画像に重ね合わせて得られた合成画像を格納する。
【0028】
<動画の画像処理(ポストエフェクト)>
制御部340はまた、動画データに画像処理を行う画像処理部480を備える。画像処理部480は、仮想空間1内における光源等を考慮してレンダリングするシミュレーション処理ではなく、画像生成部430が生成した動画(2次元の動画像)のピクセルに対して画像処理を行ってエフェクトを加えるものである。エフェクトには任意の2次元動画像に対して適用可能な処理を採用することが可能である。エフェクトには、たとえば、ブルーム(Bloom)エフェクト、被写界深度(Depth of Field)エフェクト、ビネッティング(Vignetting)エフェクト、カラーグレーディング(Color Grading)エフェクト、カラーカーブ(Color Curve)エフェクト、ディフュージョンフィルター(Diffusion Filter)などが含まれ得る。エフェクトには、パラメータが設定される。パラメータは、たとえば、キーボードやマウスなどの入力装置312から入力することができる。
【0029】
画像処理部480は、画像生成装置310で得られた動画データに対して、例えば、フレアエフェクトやパラエフェクト等のグラデーションをかける画像処理を行う。具体的には、処理画像格納部500に格納された処理画像を読み出し、画像データ格納部470に格納された動画データを読み出して、その上に処理画像を重ね合わせることにより動画データに画像処理を行う。また、画像処理部480は、画像処理により得られた合成画像の明度等を調整する処理を行っても良い。
【0030】
図8は、本実施形態のアニメーション制作システム300の画像生成装置310によって得られた動画データに対する画像処理の一例を説明するフローチャートである。
【0031】
図9に示すように、ユーザは、画像生成装置310の画像データ格納部470に格納された動画データを読み出し、表示装置311に表示する(S601)。
図9は、画像データ格納部470から読み出した動画データの一例を示す図である。
【0032】
次に、処理画像格納部500に格納された、すなわち、予め準備した処理画像を読み出して、表示装置311に表示する(S602)。
図10は、処理画像格納部500から読み出した処理画像の一例を示す図である。この例は、重ね合わせる処理画像(エフェクト画像)がフレアやパラ等のグラデーション画像の例であり、フレア73を
図9の窓71の部分に配置して窓71の明るさを調節し、グラデーションをかける例である。
【0033】
続いて、
図9に示す動画データの上に、
図10に示す処理画像を重ね合わせる画像処理を行い、表示装置311に表示する(S603)。
図11は、画像処理により得られた合成画像の一例を示す図である。この例では、
図10に示す処理画像を重ね合わせることにより、動画データの窓71の部分に、夕焼けや月明かり等のグラデーションをかけて、窓71から光が差し込んでいるような様子をフレア73で表現することができる。ここで、S603の後に、必要に応じて画像処理により得られた合成画像の、特に重ね合わせた部分(
図11ではフレア73)の明度や彩度等を調整する処理(フィルター処理)を行っても良い。
【0034】
次に、得られた合成画像を合成画像格納部510に記録する(S604)。
【0035】
以上説明したように、本実施形態のアニメーション制作システム300によれば、仮想空間1内においてユーザがカメラマン2としてカメラ3を操作して、動画を撮影することができる。したがって、現実世界と同様にカメラ3を操作して撮影を行うことができるので、自然なカメラワークを実現することが可能となり、アニメーション動画により豊かな表現を与えることができる。また、本実施形態のアニメーション制作システム300によれば、画像生成装置310が動画データに画像処理を行う画像処理部480を備えるため、画像処理後に、ユーザが演技し直したり、カメラ3で撮り直すこともできるし、第三者が画像処理しながら同時に演技したり、カメラで撮影することもできる。これにより、アニメーションの制作効率や、撮影の試行回数が向上する。
【0036】
また、本実施形態のアニメーション制作システム300によれば、画像生成部430が生成する動画像に対して、画像処理を行うことができる。これにより、アニメーション動画により豊かな表現を与えることができる。また、仮想空間1で得られた動画に対して画像処理を行うため、フレアやパラ等のアニメーションに特有のエフェクト処理が可能となる。さらに、仮想空間1で得られた動画に対して画像処理を行うため、画像処理が容易となる。
【0037】
以上、本実施形態について説明したが、上記実施形態は本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。本発明は、その趣旨を逸脱することなく、変更、改良され得ると共に、本発明にはその等価物も含まれる。
【0038】
また、本実施形態では、仮想現実(VR;Virtual Reality)による仮想空間を想定していたが、これに限らず、拡張現実(AR;Augumented Reality)空間あるいは複合現実(MR;Mixed Reality)空間であっても本実施形態のアニメーション制作システム300はそのまま適用可能である。また、上記の画像処理は、仮想空間1内で動画を撮影しているときに、動画を表示装置311にリアルタイムで表示しながらエフェクトをかけることも可能である。また、仮想空間1に配される制御パネル6の表示部61や、カメラ3が備える表示部(不図示)にリアルタイムで表示しながらエフェクトをかけることも可能である。この場合、例えば、フレア73をライトに合わせて自動で配置したり、手動でフレア73を掴んで大きさを変えながら配置しても良い。また、上記では動画データの窓71の部分に、グラデーションをかけた例を示したが、フレア以外のエフェクト、例えば、光を拡散させて柔らかく滲んだような表現にするディフュージョン処理等をかけることも可能である。
【符号の説明】
【0039】
1 仮想空間
2 カメラマン
3 カメラ
4 キャラクタ
6 制御パネル
7 画面
31 グリッド
32 分割線
61 表示部
71 表示部
72 再生ボタン
110 HMD
120 表示パネル
130 筐体部
140 センサ
150 光源
210 コントローラ
220 左手用コントローラ
230 右手用コントローラ
235 グリップ
240 トリガーボタン
250 赤外線LED
260 センサ
270 ジョイスティック
280 メニューボタン
300 アニメーション制作システム
310 画像生成装置
311 表示装置
312 入力装置
320 入出力部
330 通信部
340 制御部
350 記憶部
410 ユーザ入力検出部
420 キャラクタ制御部
430 画像生成部
440 カメラ制御部
450 キャラクタデータ格納部
460 制御プログラム格納部
470 画像データ格納部
480 画像処理部
490 動画再生部
500 処理画像格納部
510 合成画像格納部