(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023138944
(43)【公開日】2023-10-03
(54)【発明の名称】CGアニメーションにおける手描き線のエミュレート
(51)【国際特許分類】
G06T 13/40 20110101AFI20230926BHJP
G06N 20/00 20190101ALI20230926BHJP
G06F 18/214 20230101ALI20230926BHJP
【FI】
G06T13/40
G06N20/00
G06F18/214
【審査請求】有
【請求項の数】14
【出願形態】OL
【外国語出願】
(21)【出願番号】P 2023094599
(22)【出願日】2023-06-08
(62)【分割の表示】P 2021528382の分割
【原出願日】2019-12-05
(31)【優先権主張番号】62/775,843
(32)【優先日】2018-12-05
(33)【優先権主張国・地域又は機関】US
(31)【優先権主張番号】16/655,023
(32)【優先日】2019-10-16
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(71)【出願人】
【識別番号】596102126
【氏名又は名称】ソニー ピクチャーズ エンターテインメント インコーポレイテッド
(74)【代理人】
【識別番号】100092093
【弁理士】
【氏名又は名称】辻居 幸一
(74)【代理人】
【識別番号】100109070
【弁理士】
【氏名又は名称】須田 洋之
(74)【代理人】
【識別番号】100067013
【弁理士】
【氏名又は名称】大塚 文昭
(74)【代理人】
【識別番号】100109335
【弁理士】
【氏名又は名称】上杉 浩
(72)【発明者】
【氏名】グロコーラ パーヴェル
(57)【要約】 (修正有)
【課題】CGアニメーションにおいて芸術的な手描き線をエミュレートし及び描画を生成するための方法、システム及び装置を提供する。
【解決手段】方法は、CGアニメーションのキャラクタ上に直接描かれるインク線を貼り付ける第1の貼り付けステップ、ナッジを使用してインク線を修正して描画を生成する第1の実現ステップ、描画をUV空間内に移動させて、第1のパストレーニングデータを生成する第1の移動ステップ、CGアニメーションのキャラクタ上にインク線を貼り付ける第2の貼り付けステップ、インク線を修正できるようにする第2の実現ステップ、描画をUV空間内に移動させて、第2のパストレーニングデータを生成する第2の移動ステップ、第1のパストレーニングデータと第2のパストレーニングデータとを結合して、結合データを生成するステップ、及び結合データを使用して第2の生成機械学習を作成して出力するステップを含む。
【選択図】
図2
【特許請求の範囲】
【請求項1】
CGアニメーションにおいて芸術的な手描き線をエミュレートするための方法であって、前記方法は、
前記CGアニメーションのキャラクタ上に直接描かれるインク線を貼り付ける第1の貼り付けステップと、
アーティストがナッジを使用して前記インク線を修正して描画を生成できるようにする第1の実現ステップと、
前記描画をUV空間内に移動させて、第1のパストレーニングデータを生成する第1の移動ステップと、
前記CGアニメーションの前記キャラクタ上に前記インク線を貼り付ける第2の貼り付けステップと、
前記アーティストが前記インク線を修正できるようにする第2の実現ステップと、
前記描画を前記UV空間内に移動させて、第2のパストレーニングデータを生成する第2の移動ステップと、
前記第1のパストレーニングデータと前記第2のパストレーニングデータとを結合して、結合データを生成するステップと、
前記結合データを使用して第2の生成機械学習を作成して出力するステップと、
を含むことを特徴とする方法。
【請求項2】
前記キャラクタは、前記CGアニメーションのフレーム内に存在することを特徴とする、請求項1に記載の方法。
【請求項3】
前記キャラクタ上に直接描かれる前記インク線は、前記キャラクタの特定のポーズに適正なインク線を提供することを特徴とする、請求項1に記載の方法。
【請求項4】
前記ナッジは、ナッジングブラシを使用して作成されることを特徴とする、請求項1に記載の方法。
【請求項5】
更に、
前記インク線を前記キャラクタ上に直接投影することによって、前記ナッジをキー操作して補間するステップ、
を含むことを特徴とする、請求項1に記載の方法。
【請求項6】
更に、キーフレームを生成して、前記キーフレーム間を補間するステップを含むことを特徴とする、請求項1に記載の方法。
【請求項7】
前記キャラクタは、3-Dジオメトリにおいて形成されることを特徴とする、請求項1に記載の方法。
【請求項8】
前記描画を前記UV空間内に移動させる第1の移動ステップは、前記アーティストが2-D画面空間内で前記キャラクタの前記3-Dジオメトリに対して作業できるようにすることを特徴とする、請求項7に記載の方法。
【請求項9】
更に、
前記2-D画面空間内で行われた前記作業を、前記3-Dジオメトリに逆変換するステップ、
を含むことを特徴とする、請求項8に記載の方法。
【請求項10】
CGアニメーションにおいて、アーティストによって手描きされる線をエミュレートして描画を生成するためのシステムであって、前記システムは、
カメラアングル及び表現を含むショットデータと第2の生成機械学習モデルとを受け取って、前記描画の予測を生成するように構成される予測モジュールと、
前記予測を受け取って、アニメーション化されたキャラクタの3-Dジオメトリ上にインク線を貼り付けるように構成される接着モジュールと、
前記アーティストがナッジングブラシを使用してナッジを生成して前記インク線を修正して前記描画をUV空間に移動させることができるようにするように構成されるナッジングモジュールと、
を含むことを特徴とするシステム。
【請求項11】
前記予測モジュールのためのトレーニングデータが、対応する表現変化の組を有するアングルの組に対して作成されるアニメーション化された曲線を使用することを特徴とする、請求項10に記載のシステム。
【請求項12】
CGアニメーションにおいて芸術的な手描き線をエミュレートして描画を生成するための装置であって、前記装置は、
アーティストが前記描画においてアニメーション化されたキャラクタ上にインク線を直接描くことができるようにするための第1の実現手段と、
前記アニメーション化されたキャラクタ上に前記描かれたインク線を直接貼り付けるための貼り付け手段と、
前記アーティストがナッジを使用して前記インク線を修正できるようにするための第2の実現手段と、
前記描画をUV空間に移動させて、前記アーティストが2-D画面空間内で作業できるようにするための移動手段であって、前記移動手段は、パスが第1のパスである場合に、第1のパストレーニングデータを生成し、一方、前記移動手段は、前記パスが前記第1のパスではない場合に、第2のパストレーニングデータを生成する、移動手段と、
第1の生成機械学習モデルを作成して、第2のパスのための前記貼り付け手段に送るための第1の作成手段と、
前記第1のパストレーニングデータと前記第2のパストレーニングデータとを結合して、結合データを生成するための結合手段と、
前記結合データを使用して第2の生成機械学習モデルを作成するための第2の作成手段と、
を含むことを特徴とする装置。
【請求項13】
前記第1の実現手段は、タブレット又はパッド型のデバイスと、電子ペンとを含むことを特徴とする、請求項12に記載の装置。
【請求項14】
前記タブレット又はパッド型のデバイスは、前記CGアニメーションをフレーム単位で表示することができる少なくとも1つのアプリケーションを含むことを特徴とする、請求項12に記載の装置。
【請求項15】
前記貼り付け手段は、前記アーティストによる前記貼り付け手段への入力を処理して、前記入力を前記CGアニメーション上に統合することができる少なくとも1つのアプリケーションを含むことを特徴とする、請求項12に記載の装置。
【請求項16】
前記第2の実現手段は、前記アーティストがナッジングブラシを使用してナッジを作成できるようにすることを特徴とする、請求項12に記載の装置。
【請求項17】
前記移動手段は、前記ナッジを使用して、キーフレームを作成して前記キーフレーム間を補間することを特徴とする、請求項12に記載の装置。
【請求項18】
前記移動手段は、前記キーフレーム間の全てのフレームを自動的に合成することによって、前記キーフレーム間を補間することを特徴とする、請求項17に記載の装置。
【発明の詳細な説明】
【技術分野】
【0001】
〔関連出願の相互参照〕
[0001] 本出願は、2018年12月5日に出願された「手描き線をエミュレートするためのインク線及び機械学習(Ink Lines and Machine Learning for Emulating Hand Drawn Lines)」という名称の同時係属中の米国仮特許出願第62/775,843号の米国特許法第119条(e)に基づく優先権の利益を主張するものである。上記関連出願の開示は、引用により本明細書に組み入れられる。
【0002】
[0002] 本開示は、CGアニメーションに関し、具体的には、CGアニメーションにおいて芸術的な手描き線をエミュレートすることに関する。
【背景技術】
【0003】
[0003] コンピュータグラフィックス(CG)アニメーションにおいて、目標は、手描きされたキャラクタの感じと見た目を与えるレンダリングされたキャラクタを作成することを含む場合がある。手続き的「ルール」に基づく(例えば、トゥーンシェーダー(Toon Shader)を使用する)「線作業/インク線」からなる手法は、満足のいく結果を達成するのに効果的でないと判断された。主な問題は、アーティストが限定されたルールセットに基づいて描画しないことであった。芸術的に見える手描き線作業を作成することの問題に対するもっとロバストな解決法が必要とされた。更に、作成された線作業は、(必要な場合には)調整して既存のCGアニメーションに組み入れる必要があった。
【発明の概要】
【発明が解決しようとする課題】
【0004】
[0004] 本開示は、CGアニメーションにおいて芸術的な手描き線をエミュレートすることを提供するものである。
【課題を解決するための手段】
【0005】
[0005] 一実装形態では、CGアニメーションにおいて芸術的な手描き線をエミュレートするための方法を開示する。前記方法は、前記CGアニメーションのキャラクタ上に直接描かれるインク線を貼り付ける第1の貼り付けステップと、アーティストがナッジを使用して前記インク線を修正して描画を生成できるようにする第1の実現ステップと、前記描画をUV空間内に移動させて、第1のパストレーニングデータを生成する第1の移動ステップと、前記CGアニメーションの前記キャラクタ上に前記インク線を貼り付ける第2の貼り付けステップと、前記アーティストが前記インク線を修正できるようにする第2の実現ステップと、前記描画を前記UV空間内に移動させて、第2のパストレーニングデータを生成する第2の移動ステップと、前記第1のパストレーニングデータと前記第2のパストレーニングデータとを結合して、結合データを生成するステップと、前記結合データを使用して第2の生成機械学習を作成して出力するステップと、を含む。
【0006】
[0006] 一実装形態では、前記キャラクタは、前記CGアニメーションのフレーム内に存在する。一実装形態では、前記キャラクタ上に直接描かれる前記インク線は、前記キャラクタの特定のポーズに適正なインク線を提供する。一実装形態では、前記ナッジは、ナッジングブラシを使用して作成される。一実装形態では、前記方法は、更に、前記インク線を前記キャラクタ上に直接投影することによって、前記ナッジをキー操作して補間するステップを含む。一実装形態では、前記方法は、更に、キーフレームを生成して、前記キーフレーム間を補間するステップを含む。一実装形態では、前記キャラクタは、3-Dジオメトリにおいて形成される。一実装形態では、前記描画を前記UV空間内に移動させる第1の移動ステップは、前記アーティストが2-D画面空間内で前記キャラクタの前記3-Dジオメトリに対して作業できるようにする。一実装形態では、前記方法は、更に、前記2-D画面空間内で行われた前記作業を、前記3-Dジオメトリに逆変換するステップを含む。
【0007】
[0007] 別の実装形態では、CGアニメーションにおいて、アーティストによって手描きされる線をエミュレートして描画を生成するためのシステムを開示する。前記システムは、カメラアングル及び表現を含むショットデータと第2の生成機械学習モデルとを受け取って、前記描画の予測を生成するように構成される予測モジュールと、前記予測を受け取って、アニメーション化されたキャラクタの3-Dジオメトリ上にインク線を貼り付けるように構成される接着モジュールと、前記アーティストがナッジングブラシを使用してナッジを生成して前記インク線を修正して前記描画をUV空間に移動させることができるようにするように構成されるナッジングモジュールと、を含む。
【0008】
[0008] 一実装形態では、前記予測モジュールのためのトレーニングデータが、対応する表現変化の組を有するアングルの組に対して作成されるアニメーション化された曲線を使用する。
【0009】
[0009] 別の実装形態では、CGアニメーションにおいて芸術的な手描き線をエミュレートして描画を生成するための装置を開示する。前記装置は、アーティストが前記描画においてアニメーション化されたキャラクタ上にインク線を直接描くことができるようにするための第1の実現手段と、前記アニメーション化されたキャラクタ上に前記描かれたインク線を直接貼り付けるための貼り付け手段と、前記アーティストがナッジを使用して前記インク線を修正できるようにするための第2の実現手段と、前記描画をUV空間に移動させて、前記アーティストが2-D画面空間内で作業できるようにするための移動手段であって、前記移動手段は、パスが第1のパスである場合に、第1のパストレーニングデータを生成し、一方、前記移動手段は、前記パスが前記第1のパスではない場合に、第2のパストレーニングデータを生成する、移動手段と、第1の生成機械学習モデルを作成して、第2のパスのための前記貼り付け手段に送るための第1の作成手段と、前記第1のパストレーニングデータと前記第2のパストレーニングデータとを結合して、結合データを生成するための結合手段と、前記結合データを使用して第2の生成機械学習モデルを作成するための第2の作成手段と、を含む。
【0010】
[0010] 一実装形態では、前記第1の実現手段は、タブレット又はパッド型のデバイスと、電子ペンとを含む。一実装形態では、前記タブレット又はパッド型のデバイスは、前記CGアニメーションをフレーム単位で表示することができる少なくとも1つのアプリケーションを含む。一実装形態では、前記貼り付け手段は、前記アーティストによる前記貼り付け手段への入力を処理して、前記入力を前記CGアニメーション上に統合することができる少なくとも1つのアプリケーションを含む。一実装形態では、前記第2の実現手段は、前記アーティストがナッジングブラシを使用してナッジを作成できるようにする。一実装形態では、前記移動手段は、前記ナッジを使用して、キーフレームを作成して前記キーフレーム間を補間する。一実装形態では、前記移動手段は、前記キーフレーム間の全てのフレームを自動的に合成することによって、前記キーフレーム間を補間する。
【0011】
[0011] 本開示の態様を一例として示す本明細書からは、他の特徴及び利点も明らかになるはずである。
【0012】
[0012] 同じ部分を同じ参照数字によって示す添付図面を検討することにより、本開示の詳細をその構造及び動作の両方に関して部分的に収集することができる。
【図面の簡単な説明】
【0013】
【
図1】本開示の一実装形態による、CGアニメーションにおいて芸術的な手描き線をエミュレートするためのプロセスのフロー図である。
【
図2】本開示の一実装形態による、CGアニメーションにおいて芸術的な手描き線をエミュレートするためのシステムのブロック図である。
【
図3】本開示の一実装形態による、CGアニメーションにおいて芸術的な手描き線をエミュレートするための装置のブロック図である。
【
図4A】本開示の一実装形態による、コンピュータシステム及びユーザの図である。
【
図4B】本開示の一実装形態による、エミュレーションアプリケーションをホストするコンピュータシステムを示す機能ブロック図である。
【
図5】エミュレーションシステム、プロセス及び装置の中間結果の例を示す図である。
【
図6】エミュレーションシステム、プロセス及び装置の中間結果の例を示す図である。
【
図7】エミュレーションシステム、プロセス及び装置の中間結果の例を示す図である。
【
図8】エミュレーションシステム、プロセス及び装置の中間結果の例を示す図である。
【発明を実施するための形態】
【0014】
[0019] 上記のように、芸術的に見える手描き線作業を作成することの問題に対するもっとロバストな解決法が必要とされた。更に、作成された線作業は、接着し、(必要な場合には)調整して、既存のCGアニメーションに組み入れる必要があった。本開示のいくつかの実装形態は、CGアニメーションにおいて芸術的な手描き線をエミュレートすることを提供するものである。これらの説明を読んだ後には、様々な実装及び用途における本開示の実施方法が明らかになるであろう。本明細書では本開示の様々な実装について説明するが、これらの実装は、限定ではなく一例として提示するものにすぎないと理解されたい。したがって、様々な実装についての詳細な説明は、本開示の範囲又は外延を限定するものとして解釈すべきではない。
【0015】
[0020] 一実装形態では、2つのモードを有する強化されたインク線アプリケーションを実装して、リアルな手描きのインク線の組を生成した。第1のモードは「接着モード」であり、第2のモードは「調整モード」であった。強化されたインク線アプリケーションの接着モードは、CGアニメーションの3-Dジオメトリ上にインク線(例えば、曲線ジオメトリ)を接着する又は貼り付けることを目的とする。したがって、接着モードでは、アプリケーションは、アーティストが容易な制御で描画を調整して適正な2-D着想設計を維持できるようにする。例えば、一実装形態では、アプリケーションは、アーティストが電子ペンを使用してCGアニメーションのフレームの上に描画できるようにする。これにより、フレームの描画が、標準テクスチャマップではなく、動的描画のように現れることができる。強化されたインク線アプリケーションの調整モードは、アーティストによってインク線に対して行われる貼り付けを取り込んでカタログ化して、機械学習を用いてワークフローの速度を向上させることを目的とする。
【0016】
[0021] 一実装形態では、強化されたインク線アプリケーションの接着モードは、アーティストが描画においてキャラクタ(及び/又はオブジェクト)上に直接描画して、キャラクタの特定のポーズに適正な線を提供できるようにする。インク線が描かれると、アプリケーションは、アーティストがナッジング「ブラシ」を使用して描画を迅速かつ容易に調整できるようにする。一実装形態では、調整モードでの機械学習の調整がスクラッチからのショットの取得よりも遅い場合に、最も複雑なショットに対して接着モードを使用する。
【0017】
[0022] 一実装形態では、ナッジングブラシによって作成されるナッジを、アプリケーションによって自動的にキー操作して補間する。一実装形態では、キー操作及び補間は、インク線をジオメトリ上に直接投影して、画面空間内又は任意のUV空間内でナッジを補間することを含む。強化されたインク線アプリケーションは、アーティストが2-D画面空間内で作業できるようにして、最も直観的な空間を提供することによって、アーティストが描画及びナッジして所望の結果を生成できるようにする。3-D空間への逆変換が、アーティストの介入なしに自動的に行われる。
【0018】
[0023] 一実装形態では、キー操作及び補間は、ナッジングを使用して、キーフレームを作成して、キーフレーム間を補間する。例えば、アーティストは、フレーム1内の描画のインク線をナッジして、次に、フレーム10内の描画のインク線に対してナッジングを実行して、2つのキーフレーム1及び10を作成する。次に、強化されたインク線アプリケーションの接着モードは、2つのキーフレームの間の全てのフレームを自動的に合成することによって、キーフレーム間を補間する。
【0019】
[0024] 一実装形態では、UV空間内の曲線位置は、キャラクタが最終的に3-D空間内のどこに位置するかを制御する。描画がナッジされるときに、これらの編集をUV空間にシフトすることができる。したがって、視角に対するUV空間内の曲線の位置と、キャラクタの表現との間に複雑な関係がある。十分な例を用いて、機械学習は、UV空間内の曲線の形状とキャラクタの視角及び表現との間のパターンを見出すことができる。したがって、機械学習はこの関係をマッピングする。
【0020】
[0025] 一実装形態では、強化されたインク線アプリケーションの調整モードは、(1)機械学習を用いてキャラクタ上にインク線を作成して、初期予測結果を生成する第1のパス予測と、(2)アーティストが「ナッジングブラシ」を使用して修正することと、(3)アーティストがナッジブラシを使用して初期予測を補正した後に、調整をUV空間にシフトすることと、を含む。次に、データをエクスポートして、初期データと結合する。次に、結合データを使用して、機械学習モデルを「再トレーニング」する。したがって、「再トレーニング」は、モデルの精度を向上させる。
【0021】
[0026] 一実装形態では、第1のパス予測のためのトレーニングデータが、表現変化を有する異なるアングルから作成される「ターンテーブル」アニメーションを使用する。次に、強化されたインク線アプリケーションの接着モードを使用して、これらのアングル及び表現に対するアニメーション化された曲線(すなわち、描画)を作成する。次に、アニメーション化された曲線をUV空間内にシフトして、機械学習トレーニングを行うようにする。これは、トレーニングデータの第1の生成の組(キャラクタ毎に約600フレーム)の「ターゲット」になる。「特徴」は、相対的なカメラアングル及び表現変化である。したがって、トレーニングデータが生成されると、機械学習アルゴリズムをトレーニングして、描画位置と「特徴」との間の関係を見出す。
【0022】
[0027] 一実装形態では、機械学習アルゴリズムをトレーニングして関係を見出した後に、別のアニメーションデータの組に対して予測を実行する。次に、アーティストがナッジブラシを使用して、これらの初期予測を調整(又は「補正」)する。次に、これらの補正された調整をUV空間に移動させて、更なるトレーニングデータとしてエクスポートする。次に、これらの補正と初期トレーニングデータとの結合トレーニングデータを使用して、機械学習モデルを再トレーニングする。
【0023】
[0028]
図1は、本開示の一実装形態による、CGアニメーションにおいて芸術的な手描き線をエミュレートするためのプロセス100のフロー図である。一実装形態では、プロセス100は、アーティストが容易な制御で描画を調整して適正な2-D着想設計を維持できるようにする。例えば、一実装形態では、プロセス100は、アーティストが電子ペンを使用してCGアニメーションのフレームの上に描画できるようにする。これにより、フレームの描画が、標準テクスチャマップではなく、動的描画のように現れることができる。
【0024】
[0029]
図1に示す実装形態では、ブロック110において、プロセス100は、アーティストが描画においてキャラクタ上にインク線を直接描いて、キャラクタの特定のポーズに適正な線を提供できるようにする。一実装形態では、キャラクタは、CGアニメーションのフレーム内に存在する。一実装形態では、キャラクタ上に直接描かれるインク線は、キャラクタの特定のポーズに適正なインク線を提供する。次に、ブロック112において、アニメーション化されたキャラクタ上に(すなわち、3-Dジオメトリ上に)インク線を貼り付ける。インク線が描かれて貼り付けられると、ブロック114において、プロセス100は、アーティストがナッジング「ブラシ」を使用して描画を調整できるようにする。次に、ブロック116において、描画をUV空間に移動させて、トレーニングデータを生成する。プロセス100は、アーティストが2-D画面空間内で作業できるようにして、最も直観的な空間を提供することによって、アーティストが描画及びナッジして所望の結果を生成できるようにする。3-D空間への逆変換が、アーティストの介入なしに自動的に行われる。
【0025】
[0030] 一実装形態では、ナッジングがキーフレームを作成して、キーフレーム間を補間する。例えば、アーティストは、フレーム1内の描画のインク線をナッジして、次に、フレーム10内の描画のインク線に対してナッジングを実行して、2つのキーフレーム1及び10を作成する。次に、プロセス100は、2つのキーフレームの間の全てのフレームを自動的に合成することによって、キーフレーム間を補間する。
【0026】
[0031] 一実装形態では、描画をUV空間に移動させてトレーニングデータを生成すると、ブロック118において、プロセス100は、第1の生成機械学習モデルを作成して、ブロック120において、第1の生成機械学習モデルを呼び出す。ブロック122において、再び、アニメーション化されたキャラクタ上にインク線を貼り付けて、ブロック124において、アーティストが「ナッジングブラシ」を使用してインク線の予測を修正できるようにする。次に、ブロック126において、描画をUV空間に移動させて、トレーニングデータを再び生成する。ブロック128において、(ブロック116で生成された)第1のパストレーニングデータと、(ブロック126で生成された)第2のパストレーニングデータとを結合する。したがって、トレーニングデータを結合すると、ブロック130において、プロセス100は、第2の生成機械学習モデルを作成する。
【0027】
[0032] 一実装形態では、第1のパス予測のためのトレーニングデータが、表現変化を有する異なるアングルから作成される「ターンテーブル」アニメーションを使用する。次に、プロセス100によって、これらのアングル及び表現に対するアニメーション化された曲線を作成する。次に、アニメーション化された曲線をUV空間に変換して、機械学習トレーニングを行うようにする。これは、トレーニングデータの第1の生成の組(キャラクタ毎に約600フレーム)の「ターゲット」になる。「特徴」は、相対的なカメラアングル及び表現変化である。したがって、トレーニングデータが生成されると、機械学習アルゴリズムをトレーニングして、描画位置と「特徴」との間の関係を見出す。
【0028】
[0033]
図2は、本開示の一実装形態による、CGアニメーションにおいて芸術的な手描き線をエミュレートするためのシステム200のブロック図である。
図2に示す実装形態では、システム200は、予測モジュール230と、接着モジュール240と、ナッジングモジュール250とを含む。
【0029】
[0034] 一実装形態では、予測モジュール230は、ショットデータ210と、
図1のブロック130で作成された第2の生成機械学習「モデル」220とを受け取って、予測を作成する。ショットデータ210は、相対的なカメラアングル及び相対的な表現を含む。
【0030】
[0035] 一実装形態では、接着モジュール240は、予測モジュール230から予測を受け取って、アニメーション化されたキャラクタ上にインク線(例えば、曲線ジオメトリ)を接着する又は貼り付けることを目的とする接着モードを実装するように構成される。したがって、接着モジュール240は、アーティストが容易な制御で描画を調整して適正な2-D着想設計を維持できるようにする。例えば、一実装形態では、接着モジュール240は、アーティストが電子ペンを使用してCGアニメーションのフレームの上に描画できるようにする。
【0031】
[0037] 一実装形態では、インク線が描かれて貼り付けられると、ナッジングモジュール250は、アーティストがナッジング「ブラシ」を使用して描画を調整してUV空間に移動させることができるようにする。したがって、ナッジングモジュール250は、アーティストが2-D画面空間内で作業できるようにして、最も直観的な空間を提供することによって、アーティストが描画及びナッジして所望の結果を生成できるようにする。ナッジングモジュール250は、3-D空間への逆変換を、アーティストの介入なしに実行する。ライティングのために、ナッジングモジュール250によって出力される描画260をエクスポートする。
【0032】
[0038]
図3は、本開示の一実装形態による、CGアニメーションにおいて芸術的な手描き線をエミュレートするための装置300のブロック図である。
図3に示す実装形態では、装置300は、アーティストがインク線を描くことができるようにするための手段310と、インク線を貼り付けるための手段320と、アーティストがインク線を修正できるようにするための手段330と、描画をUV空間に移動させるための手段340と、第1の生成機械学習モデルを作成するための手段360と、トレーニングデータを結合するための手段380と、第2の生成機械学習モデルを作成するための手段390と、を含む。
【0033】
[0039] アーティストがインク線を描くことができるようにするための手段310は、アーティストが描画においてキャラクタ上にインク線を直接描いて、キャラクタの特定のポーズに適正な線を提供できるようにする。一実装形態では、手段310は、タブレット又はパッド型のデバイスと、電子ペンとを含む。一実装形態では、タブレットデバイスは、CGアニメーションをフレーム単位で表示することができる少なくとも1つのアプリケーションを含む。
【0034】
[0040] インク線を貼り付けるための手段320は、CGアニメーションのキャラクタ上に直接描かれるインク線を貼り付ける。一実装形態では、手段320は、アーティストによる手段310への入力を処理して、該入力をCGアニメーション上に統合することができる少なくとも1つのアプリケーションを含む。
【0035】
[0041] アーティストがインク線を修正できるようにするための手段330は、アーティストがナッジング「ブラシ」を使用して描画を調整できるようにする。一実装形態では、手段330は、タブレット又はパッド型のデバイスと、ナッジングブラシとして使用される電子ペンとを含む。一実装形態では、タブレットデバイスは、CGアニメーションをフレーム単位で表示することができる少なくとも1つのアプリケーションを含む。アーティストがインク線を修正できるようにするための手段330は、また、アーティストがインク線の予測を修正できるようにする。
【0036】
[0042] 描画をUV空間に移動させるための手段340は、描画をUV空間に移動させて、アーティストが2-D画面空間内で作業できるようにして、最も直観的な空間を提供することによって、アーティストが描画及びナッジして所望の結果を生成できるようにする。一実装形態では、描画をUV空間に移動させるための手段340は、ナッジングを使用して、キーフレームを作成して、キーフレーム間を補間する。例えば、アーティストは、フレーム1内の描画のインク線をナッジして、次に、フレーム10内の描画のインク線に対してナッジングを実行して、2つのキーフレーム1及び10を作成する。次に、手段340は、2つのキーフレームの間の全てのフレームを自動的に合成することによって、キーフレーム間を補間する。描画をUV空間に移動させるための手段340は、パスが第1のパスである場合に、第1のパストレーニングデータ350を生成し、一方、描画をUV空間に移動させるための手段340は、パスが第1のパスではない場合(すなわち、第2のパス)に、第2のパストレーニングデータ370を生成する。
【0037】
[0043] 第1の生成機械学習モデルを作成するための手段360は、第1の生成機械学習モデルを作成して、第2のパスのためのインク線を貼り付けるための手段320に送る。
【0038】
[0044] 第2のパスでは、トレーニングデータを結合するための手段380は、第1のパストレーニングデータ350と第2のパストレーニングデータ370とを結合する。第2の生成機械学習モデルを作成するための手段390は、結合トレーニングデータを使用して第2の生成機械学習モデルを作成する。
【0039】
[0045]
図4Aは、本開示の一実装形態による、コンピュータシステム400及びユーザ402の図である。ユーザ402は、コンピュータシステム400を使用して、
図1に示すCGアニメーションにおいて芸術的な手描き線をエミュレートするためのプロセス100及び
図2に示すブロック図のエミュレータ200に関して図示及び説明されるようなCGアニメーションにおいて芸術的な手描き線をエミュレートするためのエミュレーションアプリケーション490を実装する。
【0040】
[0046] コンピュータシステム400は、
図4Bのエミュレーションアプリケーション490を記憶して実行する。更に、コンピュータシステム400は、ソフトウェアプログラム404と通信することができる。ソフトウェアプログラム404は、スクリーントーンルックアプリケーションのためのソフトウェアコードを含むことができる。ソフトウェアプログラム404は、以下で更に説明するように、CD、DVD又はストレージドライブなどの外部媒体にロードすることができる。
【0041】
[0047] 更に、コンピュータシステム400は、ネットワーク480に接続することができる。ネットワーク480は、様々な異なるアーキテクチャ、例えば、クライアント-サーバアーキテクチャ、ピアツーピアネットワークアーキテクチャ、又は他のタイプのアーキテクチャにおいて接続することができる。例えば、ネットワーク480は、エミュレーションアプリケーション490内で使用されるエンジン及びデータを協調させるサーバ485と通信することができる。また、ネットワークは、異なるタイプのネットワークとすることができる。例えば、ネットワーク480は、インターネット、ローカルエリアネットワーク又はローカルエリアネットワークの任意の変形、ワイドエリアネットワーク、メトロポリタンエリアネットワーク、イントラネット又はエクストラネット、又は無線ネットワークとすることができる。
【0042】
[0048]
図4Bは、本開示の一実装形態による、エミュレーションアプリケーション490をホストするコンピュータシステム400を示す機能ブロック図である。コントローラ410はプログラマブルプロセッサであり、コンピュータシステム400及びそのコンポーネントの動作を制御する。コントローラ410は、メモリ420又は内蔵コントローラメモリ(図示せず)から(例えば、コンピュータプログラムの形で)命令をロードして、これらの命令を実行してシステムを制御する。その実行において、コントローラ410は、エミュレーションアプリケーション490にソフトウェアシステムを提供して、例えば、エミュレーションアプリケーション490内のエンジン及びデータ抽出部の作成及び構成を可能にする。代替的に、このサービスは、コントローラ410又はコンピュータシステム400において別個のハードウェアコンポーネントとして実装することができる。
【0043】
[0049] メモリ420は、コンピュータシステム400の他のコンポーネントによって使用するためにデータを一時的に記憶する。一実装形態では、メモリ420はRAMとして実装される。一実装形態では、メモリ420は、また、フラッシュメモリ及び/又はROMなどの長期又は永久メモリを含む。
【0044】
[0050] ストレージ430は、コンピュータシステム400の他のコンポーネントによって使用するために、データを一時的に又は長期間にわたって記憶する。例えば、ストレージ430は、エミュレーションアプリケーション490によって使用されるデータを記憶する。一実装形態では、ストレージ430は、ハードディスクドライブである。
【0045】
[0051] メディアデバイス440は、リムーバブルメディアを受け入れて、挿入されたメディアに対してデータの読み出し及び/又は書き込みを行う。一実装形態では、例えば、メディアデバイス440は、光ディスクドライブである。
【0046】
[0052] ユーザインターフェイス450は、コンピュータシステム400のユーザからユーザ入力を受け取ってユーザ402に情報を提示するためのコンポーネントを含む。一実装形態では、ユーザインターフェイス450は、キーボード、マウス、オーディオスピーカ、及びディスプレイを含む。コントローラ410は、ユーザ402からの入力を使用して、コンピュータシステム400の動作を調整する。
【0047】
[0053] I/Oインターフェイス460は、1又は2以上のI/Oポートを含み、外部記憶又は補足装置(例えば、プリンタ又はPDA)などの対応するI/Oデバイスに接続する。一実装形態では、I/Oインターフェイス460のポートは、USBポート、PCMCIAポート、シリアルポート、及び/又はパラレルポートなどのポートを含む。別の実装形態では、I/Oインターフェイス460は、外部装置と無線で通信するための無線インターフェイスを含む。
【0048】
[0054] ネットワークインターフェイス470は、イーサネット接続をサポートするRJ-45又は「Wi-Fi」インターフェイス(802.11を含むが、これに限定されるわけではない)などの有線及び/又は無線ネットワーク接続を含む。
【0049】
[0055] コンピュータシステム400は、コンピュータシステムに典型的な追加のハードウェア及びソフトウェア(例えば、電力、冷却、オペレーティングシステム)を含むが、これらのコンポーネントは、簡略化のために、
図4Bに具体的に示されていない。他の実装形態では、コンピュータシステムの異なる構成を使用することができる(例えば、異なるバス又はストレージ構成又はマルチプロセッサ構成)。
【0050】
[0056]
図5、
図6、
図7及び
図8は、エミュレーションシステム、プロセス及び装置の中間結果の例を示す。
【0051】
[0057] 一実装形態では、エミュレーションシステム200は、1又は2以上のデジタル信号プロセッサ(DSP)、汎用マイクロプロセッサ、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲート/ロジックアレイ(FPGA)、又はその他の等価集積又はディスクリート論理回路を含むハードウェアで全体が構成されるシステムである。別の実装形態では、エミュレーションシステム200は、ハードウェアとソフトウェアの組み合わせで構成される。
【0052】
[0058] 開示した実装についての本明細書の説明は、当業者が本開示を実施又は利用できるように行ったものである。当業者には、これらの実装の多数の修正が容易に明らかになると思われ、また本明細書で定義した原理は、本開示の趣旨又は範囲から逸脱することなく他の実装にも適用することができる。したがって、本開示は、本明細書に示す実装に限定されることを意図するものではなく、本明細書で開示した原理及び新規の特徴と一致する最も広い範囲が与えられるべきである。
【0053】
[0059] 本開示の様々な実装は、電子ハードウェア、コンピュータソフトウェア、又はこれらの技術の組み合わせの形で実現される。いくつかの実装は、1又は2以上のコンピュータ装置により実行される1又は2以上のコンピュータプログラムを含む。一般に、コンピュータ装置は、1又は2以上のプロセッサ、1又は2以上のデータ記憶構成要素(例えば、ハードディスクドライブ及びフロッピーディスクドライブ、CD-ROMドライブ、及び磁気テープドライブなどの揮発性又は不揮発性メモリモジュール及び持続的な光学及び磁気記憶装置)、1又は2以上の入力装置(例えば、ゲームコントローラ、マウス及びキーボード)、及び1又は2以上の出力装置(例えば、ディスプレイ装置)を含む。
【0054】
[0060] コンピュータプログラムは、通常、持続的な記憶媒体に記憶され、実行時にメモリにコピーされる実行可能なコードを含む。少なくとも1つのプロセッサが、所定の順序でメモリからプログラム命令を取り出すことによって、コードを実行する。プログラムコードの実行中には、コンピュータは、入力及び/又は記憶装置からデータを受け取り、データに対して処理を実行し、これにより得られたデータを出力及び/又は記憶装置に供給する。
【0055】
[0061] 当業者であれば、本明細書で説明した様々な例示的なモジュール及び方法ステップを電子ハードウェア、ソフトウェア、ファームウェア又はこれらの組み合わせとして実装することができると理解するであろう。このハードウェアとソフトウェアの互換性を明確に示すために、本明細書では、様々な例示的なモジュール及び方法ステップについて、一般にこれらの機能面から説明した。このような機能をハードウェア又はソフトウェアのいずれとして実装するかは、特定の用途及びシステム全体に課せられる設計制約に依存する。当業者であれば、説明した機能を各特定の用途のために様々な方法で実装することができるが、このような実装の決定を、本開示の範囲からの逸脱を引き起こすものとして解釈すべきではない。また、モジュール又はステップ内の機能のグループ化は、説明を容易にするためのものである。本開示から逸脱することなく、特定の機能を1つのモジュール又はステップから別のモジュール又はステップへ移すことができる。
【0056】
[0062] 上記の各実施例の全ての特徴が、本開示の特定の実装において必ずしも必要というわけではない。更に、本明細書で提示した説明及び図面は、本開示が広く意図する主題を表すものであると理解されたい。更に、本開示の範囲は、当業者にとって明らかになり得る他の実装を完全に含み、したがって、本開示の範囲は、添付の特許請求の範囲以外のものによって限定されるものではないと理解されたい。
【符号の説明】
【0057】
100 CGアニメーションにおいて芸術的な手描き線をエミュレートするためのプロセス
110 アーティストが描画においてキャラクタ上にインク線を直接描くことができるようにする
112 アニメーション化されたキャラクタの3-Dジオメトリ上にインク線を貼り付ける
114 アーティストがナッジングブラシを使用してインク線を修正できるようにする
116 描画をUV空間に移動させて、トレーニングデータを生成する
118 第1の生成機械学習モデルを作成
120 第1の生成機械学習モデルを呼び出して、予測を生成する
122 アニメーション化されたキャラクタの3-Dジオメトリ上にインク線を貼り付ける
124 アーティストがナッジングブラシを使用してインク線を修正できるようにする
126 描画をUV空間に移動させて、トレーニングデータを生成する
128 データを結合
130 第2の生成機械学習モデルを作成
200 CGアニメーションにおいて芸術的な手描き線をエミュレートするためのシステム/エミュレータ
210 ショットデータ
220 第2の生成機械学習モデル
230 予測モジュール
240 接着モジュール
250 ナッジングモジュール
260 描画
300 CGアニメーションにおいて芸術的な手描き線をエミュレートするための装置
310 アーティストがインク線を描くことができるようにするための手段
320 インク線を貼り付けるための手段
330 アーティストがインク線を修正できるようにするための手段
340 描画をUV空間に移動させるための手段
350 第1のパストレーニングデータ
360 第1の生成機械学習モデルを作成するための手段
370 第2のパストレーニングデータ
380 トレーニングデータを結合するための手段
390 第2の生成機械学習モデルを作成するための手段
400 コンピュータシステム
402 ユーザ
404 ソフトウェアプログラム
410 コントローラ
420 メモリ
430 ストレージ
440 メディアデバイス
450 ユーザインターフェイス
460 I/Oインターフェイス
470 ネットワークインターフェイス
480 ネットワーク
485 サーバ
490 エミュレーションアプリケーション
【手続補正書】
【提出日】2023-07-10
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
CGアニメーションにおいて芸術的な手描き線をエミュレートし、及び描画を生成するための方法であって、前記方法は、
カメラアングル及び表現を含むショットデータと機械学習モデルとを受け取って、描画の予測を生成するステップと、
3-Dジオメトリに形成された前記予測の前記CGアニメーションのキャラクタ上に、アーティストによって描かれるインク線を直接貼り付けてキャラクタの特定のポーズに対する適正な線を提供する、第1の貼り付けステップと、
アーティストがナッジを使用して前記インク線を修正して描画を生成し、かつ、描画を調整できるようにする第1の実現ステップと、
ここで、インク線の修正はアーティストが電子ペンを使用してCGアニメーションのフレームの上に描画してなされ、ナッジは、(1)キーフレームを生成し、(2)キーフレームの間の全てのフレームを自動的に合成することによってキーフレーム間を補間し、
前記描画をUV空間内に移動させ、前記アーティストが2-D画面空間内で前記キャラクタの前記3-Dジオメトリに対して作業できるようにする第1の移動ステップと、ここで、UV空間における曲線位置をカメラアングル及び表現に対応付けることによって、UV空間内の曲線位置が、最終的に3-D空間内のどこにキャラクタが位置するかを制御し、
2-D画面空間内のキャラクタを3-Dジオメトリに逆変換し、第1のパストレーニングデータを生成するステップと、
前記CGアニメーションの前記キャラクタ上に前記インク線を貼り付ける第2の貼り付けステップと、
前記アーティストが描画を調整するために前記インク線を修正できるようにする第2の実現ステップと、
前記描画を前記UV空間内に移動させて、アーティストが2-D画面空間内でキャラクタの3-Dジオメトリに対して作業できるようにする第2の移動ステップと、
2-D画面空間内のキャラクタを3-Dジオメトリに逆変換し、第2のパストレーニングデータを生成するステップと、
前記第1のパストレーニングデータと前記第2のパストレーニングデータとを結合して、結合データを生成するステップと、
前記結合データを使用して機械学習を作成して出力するステップと、
を含むことを特徴とする方法。
【請求項2】
前記キャラクタは、前記CGアニメーションのフレーム内に存在することを特徴とする、請求項1に記載の方法。
【請求項3】
前記ナッジは、ナッジングブラシを使用して作成されることを特徴とする、請求項1に記載の方法。
【請求項4】
更に、
前記インク線を前記キャラクタ上に直接投影することによって、前記ナッジをキー操作して補間するステップ、
を含むことを特徴とする、請求項1に記載の方法。
【請求項5】
更に、キーフレームを生成して、前記キーフレーム間を補間するステップを含むことを特徴とする、請求項1に記載の方法。
【請求項6】
CGアニメーションにおいて、アーティストによって手描きされる線をエミュレートして描画を生成するためのシステムであって、前記システムは、
カメラアングル及び表現を含むショットデータと機械学習モデルとを受け取って、描画の予測を生成する予測部と、
前記予測を受け取って、3-Dジオメトリに形成された前記予測のアニメーションのキャラクタの3-Dジオメトリ上にインク線を貼り付けて、アニメーションのキャラクタの特定のポーズに対する適正な線を提供する接着部と、
アーティストがナッジングブラシを使用して前記インク線を修正してナッジを生成し、前記描画をUV空間内に移動し調整することを可能にするナッジ部と、
アーティストが描いたインク線を直接CGアニメーションのキャラクタ上に貼り付けて、キャラクタの特定のポーズに対する適正な線を提供する第1の貼り付け部と、
アーティストがナッジを使用して前記インク線を修正して描画を生成し、かつ、描画を調整できるようにする第1の実現部と、
備え、
インク線の修正はアーティストが電子ペンを使用してCGアニメーションのフレームの上に描画してなされ、ナッジは、(1)キーフレームを生成し、(2)キーフレームの間の全てのフレームを自動的に合成することによってキーフレーム間を補間し、
さらに、前記描画をUV空間内に移動させ、前記アーティストが2-D画面空間内で前記キャラクタの前記3-Dジオメトリに対して作業できるようにする第1の移動部と、ここで、UV空間における曲線位置をカメラアングル及び表現に対応付けることによって、UV空間内の曲線位置が、最終的に3-D空間内のどこにキャラクタが位置するかを制御し、
2-D画面空間内のキャラクタを3-Dジオメトリに逆変換し、第1のパストレーニングデータを生成する第1の変換部と、
前記CGアニメーションの前記キャラクタ上に前記インク線を貼り付ける第2の貼り付け部と、
前記アーティストが描画を調整するために前記インク線を修正できるようにする第2の実現部と、
前記描画を前記UV空間内に移動させて、アーティストが2-D画面空間内でキャラクタの3-Dジオメトリに対して作業できるようにする第2の移動部と、
2-D画面空間内のキャラクタを3-Dジオメトリに逆変換し、第2のパストレーニングデータを生成する第2の変換部と、
前記第1のパストレーニングデータと前記第2のパストレーニングデータとを結合して、結合データを生成する結合部と、
前記結合データを使用して機械学習を作成して出力する作成部と、
を含むことを特徴とするシステム。
【請求項7】
前記予測モジュールのためのトレーニングデータが、対応する表現変化の組を有するアングルの組に対して作成されるアニメーション化された曲線を使用することを特徴とする、請求項6に記載のシステム。
【請求項8】
CGアニメーションにおいて芸術的な手描き線をエミュレートして描画を生成するための装置であって、前記装置は、
カメラアングル及び表現を含むショットデータと機械学習モデルとを受け取って、描画の予測を生成する手段と、
アーティストが前記描画においてアニメーション化されたキャラクタ上にインク線を直接描くことができるようにする第1の実現手段と、
アーティストによって描かれたインク線を3-Dジオメトリにおいて形成された予測の前記アニメーション化されたキャラクタ上に直接貼り付けてアニメーション化されたキャラクタの特定のポーズに対する適正な線を提供する貼り付け手段と、
アーティストがナッジを使用して前記インク線を修正して描画を生成し、かつ、描画を調整できるようにする第2の実現手段と、
を備え、インク線の修正はアーティストが電子ペンを使用してCGアニメーションのフレームの上に描画してなされ、ナッジは、(1)キーフレームを生成し、(2)キーフレームの間の全てのフレームを自動的に合成することによってキーフレーム間を補間し、
さらに、前記描画をUV空間に移動させ、前記アーティストが2-D画面空間内で前記作業できるようにし、パスが第1のパスである場合に第1のパストレーニングデータを生成し、パスが第1のパスでない場合には第2のパストレーニングデータを作成する移動手段と、ここで、UV空間における曲線位置をカメラアングル及び表現に対応付けることによって、UV空間における曲線位置が最終的に3-D空間内のどこにキャラクタが位置するかを制御し、
2-D画面空間内のアニメーション化されたキャラクタを3-Dジオメトリに逆変換する手段と、
第1世代の機械学習モデルを作成して、それを第2のバスのための貼り付け手段とに送る第1の生成手段と、
第1のパストレーニングデータと第2のパストレーニングデータとを結合して、結合されたデータを生成する結合手段と、
結合されたデータを使用して第2世代の機械学習モデルを生成する生成する第2の生成手段と、
を含むことを特徴とする装置。
【請求項9】
前記第1の実現手段は、タブレット又はパッド型のデバイスと、電子ペンとを含むことを特徴とする、請求項8に記載の装置。
【請求項10】
前記タブレット又はパッド型のデバイスは、前記CGアニメーションをフレーム単位で表示することができる少なくとも1つのアプリケーションを含むことを特徴とする、請求項9に記載の装置。
【請求項11】
前記貼り付け手段は、前記アーティストによる前記貼り付け手段への入力を処理して、前記入力を前記CGアニメーション上に統合することができる少なくとも1つのアプリケーションを含むことを特徴とする、請求項8に記載の装置。
【請求項12】
前記第2の実現手段は、前記アーティストがナッジングブラシを使用してナッジを作成できるようにすることを特徴とする、請求項8に記載の装置。
【請求項13】
前記移動手段は、前記ナッジを使用して、キーフレームを作成して前記キーフレーム間を補間することを特徴とする、請求項8に記載の装置。
【請求項14】
前記移動手段は、前記キーフレーム間の全てのフレームを自動的に合成することによって、前記キーフレーム間を補間することを特徴とする、請求項13に記載の装置。
【外国語明細書】