特許第6180583号(P6180583)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社セルシスの特許一覧

特許6180583複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム
<>
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000003
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000004
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000005
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000006
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000007
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000008
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000009
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000010
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000011
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000012
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000013
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000014
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000015
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000016
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000017
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000018
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000019
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000020
  • 特許6180583-複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム 図000021
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】6180583
(24)【登録日】2017年7月28日
(45)【発行日】2017年8月16日
(54)【発明の名称】複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラム
(51)【国際特許分類】
   G06T 13/80 20110101AFI20170807BHJP
   G06T 7/00 20170101ALI20170807BHJP
【FI】
   G06T13/80 B
   G06T7/00 300F
【請求項の数】8
【全頁数】28
(21)【出願番号】特願2016-91456(P2016-91456)
(22)【出願日】2016年4月28日
【審査請求日】2016年5月12日
(73)【特許権者】
【識別番号】596021562
【氏名又は名称】株式会社セルシス
(74)【代理人】
【識別番号】100159547
【弁理士】
【氏名又は名称】鶴谷 裕二
(72)【発明者】
【氏名】横塚 智明
(72)【発明者】
【氏名】三島 嶺
(72)【発明者】
【氏名】倉持 大地
【審査官】 千葉 久博
(56)【参考文献】
【文献】 特開2015−115047(JP,A)
【文献】 特開2014−106713(JP,A)
【文献】 特開2001−67497(JP,A)
【文献】 特開平9−134422(JP,A)
【文献】 特許第2835752(JP,B1)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 13/80
G06T 7/00
(57)【特許請求の範囲】
【請求項1】
一方の画像に含まれる複数の閉領域と、他方の画像に含まれる複数の閉領域とを、比較することによって、一方の画像の第1の閉領域に対応する、第2の閉領域を、他方の画像からコンピュータが特定する方法であって、前記一方の画像及び前記他方の画像の各々は、複数の画素で構成されており、前記複数の画素の各々は、特徴量を持ち、当該方法は、
前記第1の閉領域に含まれる複数の画素の各々が持つ特徴量と、前記他方の画像に含まれる複数の画素の各々が持つ特徴量とから、前記第1の閉領域と、前記他方の画像に含まれる複数の閉領域との近似の度合いを求めるステップと、
前記他方の画像に含まれる複数の閉領域のうち、前記近似の度合いが最も近似していることを示す1つの閉領域を、前記第2の閉領域に特定するステップと、
を有し、
前記特徴量は、画素を含む閉領域の境界線から当該画素までの距離の関数である、方法。
【請求項2】
前記特徴量は、予め定められた方位に画素から伸びる半直線が、当該画素を含む閉領域の境界線と交差する点から当該画素までの距離の関数である、請求項1記載の方法。
【請求項3】
前記特徴量は、複数の前記予め定められた方位の半直線が閉領域の境界線と交差する交差回数が最も小さい方位に対応する距離の関数である、請求項2に記載の方法。
【請求項4】
前記特徴量は、前記複数の予め定められた方位の数及び前記交差回数の組み合わせに応じた次元を有するベクトルである、請求項3に記載の方法。
【請求項5】
前記距離の関数は、負の値を持たず、距離が小さいほど値が大きくなる関数である、請求項1ないし4のうちいずれか1項に記載の方法。
【請求項6】
前記近似の度合いは、前記第1の閉領域と、前記他方の画像を重ね合わせた際に、前記第1の閉領域と前記他方の画像が重なり合う部分については、重なり合う画素同士の特徴量の差の絶対値の和又は、前記差の二乗和を用いる、請求項1ないし5のうちいずれか1項記載の方法。
【請求項7】
前記第1の閉領域及び前記第2の閉領域を、相互に対応する閉領域の候補として表示し、オペレータに確認するよう促す、請求項1ないし6のうちいずれか1項記載の方法。
【請求項8】
請求項1ないし7のうちいずれか1項記載の方法を、コンピュータに実行させる、プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数の閉領域を含む少なくとも2つの画像のそれぞれの閉領域を対応づける方法、及びプログラムに関する。
【背景技術】
【0002】
複数の二次元画像を作成し、複数の二次元画像の各々を時系列的に順次表示することによって、二次元アニメーションを作成することが一般に行われている。二次元アニメーションは、手書きなどで作成された静止画像を時間軸上の各フレームに対応づけて再生することで、動画を構成する表現技法である。
【0003】
古くは、手書きの画像を複数枚作成し、複数枚の画像を順次映画フィルムに撮影し、映画フィルムを投影することによって、テレビや映画などの漫画(二次元アニメーション)を制作することが行われてきた。複数の画像は、それぞれ、キャラクタなどの動きを少しずつ変えた画像となっているため、複数の画像を連続的に表示することによって、動きのあるキャラクタの動画が生成できる。また、より原始的な技法として、複数の紙に描かれた複数毎の画像を、指によってパラパラとめくることによって、動きのあるキャラクタを表現するパラパラ漫画などが存在していた。
【0004】
一般的な、二次元アニメーションは、以下の工程で作成されることが多い。
・行程(1)原画の作成:一連の動画の画像のうちの所定のタイミングに散在する要のフレームであるキーフレームに含まれる画像を原画と呼ぶ。主にデザイナーが原画を作成する。
・行程(2)中割り画像の作成:時間軸上、あるキーフレームと次のキーフレームとの間に位置し、前後の原画をなめらかに補間した画像(この画像を「中割り画像」という)を作成する。
・行程(3)彩色:原画と中割り画像の中に存在する複数の閉領域の着色を行う。
・行程(4)撮影:原画と背景との合成、及び中割り画像と背景との合成を行い各々のフレームを作成する。
【0005】
上記行程(1)の原画については、デザイナーが作成するのが基本である。原画は、動きのあるキャラクタの特徴的な動作部分をデザイナーが手書き又は、コンピュータグラフィクスのソフトウエア等を用いて作成する。通常、デザイナーは、動画の全てのフレームを作成することはなく、キーフレームのための原画を描く。幾つかのフレームを隔てて原画が描かれる。
【0006】
上記行程(2)は、中割り画像の作成である。1つの原画と、時間的にその次に位置する原画との間は、デザイナー以外の者が中割り画像を作成する場合が多い。中割り画像は、時間軸上で隣り合う原画の間に位置する空白のフレームに用いられる画像である。中割り画像を作成する目的は、なめらかな動画を作成するために、時間軸上で隣り合う原画を含むキーフレームを補間した画像を作成することで、空白のフレームを埋めることである。
【0007】
したがって、中割り画像は、動画全体がスムーズなものとなるように描かれる。中割り画像は、手書きで作成されていることが多いが、原画に比べて、作成する枚数が多くなるため、多くのリソースが必要となる。また、自動的に中割り画像を作成することも試みられているが、自然な動画を作成する上で、自動的な中割り画像の作成には困難を伴う。
【0008】
上記行程(3)は、彩色である。原画及び中割り画像は、共に、線画で描かれていることが多いため、線画によって形成されたそれぞれの閉領域を、適切な色で着色する作業(彩色)が行われる。彩色についても、ディジタル化された処理が普及している。
【0009】
上記工程(4)は、撮影である。古くは、各フレームが銀塩フィルムに撮影されていた。撮影工程(4)は、ディジタル化された処理が普及しており、ディジタルの動画が生成される。
【0010】
上記工程(2)及び工程(3)については、手作業を必要とする部分が多く、繁雑な作業をオペレータが行う割合が多い。これは、原画に存在する複数のオブジェクトの画像が重なり合っていたり、変形していたりするためである。すなわち、2つの原画における対応する閉領域が変形し、又は対応する交点(閉領域の境界線が交わる交点など)が移動してしまうため、自動的な対応付けが困難となることなどに起因している。
【0011】
2つの画像に存在する対応する交点を発見する技術としては以下の技術が存在する。
【0012】
2枚のキーフレームとなるビットマップイメージのそれぞれに、双方のビットマップイメージの対応し合う位置関係を示すためのコントロールポイントを指定し、その対応するコントロールポイント間を結んだ直線上に決定された内分点にコントロールポイントを変更することにより補間フレームを生成する技術が存在する(例えば、特許文献1)。
【0013】
また、効率よくマッチング処理を行うため、マッチング部が、動的計画法を用いて、第1形状データの輪郭点とマッチングする第2形状データの輪郭点を求める技術が存在する(例えば、特許文献2)
2つの画像に存在する対応する閉領域を発見する技術としては以下の技術が存在する。
【0014】
例えば、頭や手などの閉領域をチェーンとしてリスト化して記憶しておき、閉領域の特徴をトラッキングする技術が存在する(例えば、非特許文献1参照)。
【0015】
また、輪郭のマッチングを行い、似ている画像閉領域を対応づける技術が存在する(例えば、非特許文献2参照)。
【先行技術文献】
【特許文献】
【0016】
【特許文献1】特開平11−7539号公報
【特許文献2】特開2015−115047号公報
【非特許文献】
【0017】
【非特許文献1】P. Garcia Trigo,H. Johan,T. Imagire,and T. Nishita. Interactive Region Matching for 2D Animation Coloring Based on Feature's Variation. IEICE ransactions(E92-D),No.6,pp.1289-1295 (2009).
【非特許文献2】J. S. Madeira,A. Stork,and M. H. Gross. An approach to computer-supported cartooning.The Visual Computer,Vol.12,No.1,pp.1-17 (1996).
【発明の概要】
【発明が解決しようとする課題】
【0018】
上述のように、中割り画像の作成工程(2)では、中割り画像の作成に多くのリソースを必要とする。また、彩色工程(3)には、手作業を伴う彩色の行程が存在する。この彩色の工程では、原画及び中割り画像の各々に対して、対応する閉領域に同じ彩色を施す必要がある。したがって、彩色を行う場合には、複数の原画及び複数の中割り画像の各々のフレームに存在する対応する閉領域を特定する作業が必要である。通常、対応する閉領域の判断は、オペレータによる目視の作業が必要とされる。
【0019】
以下に開示する実施形態は、特に中割り画像の作成工程及び彩色行程等における、オペレータの作業の軽減を図ることにより、二次元アニメーションの作成をよりスムーズに行うことができるようにすることを目的とする。
【課題を解決するための手段】
【0020】
一実施形態は、一方の画像に含まれる複数の閉領域と、他方の画像に含まれる複数の閉領域とを、比較することによって、一方の画像の第1の閉領域に対応する、第2の閉領域を、他方の画像からコンピュータが特定する方法であって、前記一方の画像及び前記他方の画像の各々は、複数の画素で構成されており、前記複数の画素の各々は、特徴量を持ち、当該方法は、前記第1の閉領域に含まれる複数の画素の各々が持つ特徴量と、前記他方の画像に含まれる複数の画素の各々が持つ特徴量とから、前記第1の閉領域と、前記他方の画像に含まれる複数の閉領域との近似の度合いを求めるステップと、前記他方の画像に含まれる複数の閉領域のうち、前記近似の度合いが最も近似していることを示す1つの閉領域を、前記第2の閉領域に特定するステップと、を有し、前記特徴量は、画素を含む閉領域の境界線から当該画素までの距離の関数である、方法を提供する。
【発明の効果】
【0021】
二次元アニメーションの作成工程における人的作業負担を軽減させることにより、二次元アニメーションの作成をよりスムーズに行うことができる。
【図面の簡単な説明】
【0022】
図1】原画及び中割り画像を含む複数のフレームにより二次元アニメーションを構成する例を示す図である。
図2】原画を構成する各画素の特徴抽出の例を示す図である。
図3】原画を構成する各閉領域を管理する表の例を示す図である。
図4】複数の閉領域を含む2つの画像のそれぞれの閉領域を対応づける手法の例を示す図である。
図5】複数の閉領域を含む2つの画像のそれぞれの閉領域の対応づけの結果を示す図である。
図6】領域の対応付けの例を示すフローチャートである。
図7】複数の閉領域を含む2つの画像のそれぞれに存在する交点の対応付けの例を示す図である。
図8】複数の閉領域を含む2つの画像のそれぞれの交点の対応づけの結果を示す図である。
図9】複数の閉領域を含む2つの画像のそれぞれに存在する交点の対応付けの際に発生する第1の課題の例を示す図である。
図10】複数の閉領域を含む画像に存在する交点及び境界線を修正する処理の例を示す図である。
図11】複数の閉領域を含む画像に存在する交点及び境界線を修正する処理の結果に基づいて、交点の対応付けの例を示す図である。
図12】2つの交点をまとまりとして捉えた場合に、それらの周囲に存在する複数の閉領域のパターンが同一である場合を発見するフローチャートである。
図13】交点の対応付けを行う処理を示すフローチャートである。
図14】中割り画像を自動的に作成する第1の例を示す図である。
図15】複数の中割り画像を生成する例を示す図である。
図16】孤立した閉路上に交点が無い場合に交点を付与する例を示す図である。
図17】2つの原画の片方が孤立した閉路を持つ場合の交点の処理の例を示す図である。
図18】原画をレイヤーに分ける処理を行う例、閉領域の一部が対応している場合の処理の例を示す図である。
図19】本実施形態のハードウエア構成の例を示す図である。
【発明を実施するための形態】
【0023】
図1は、原画及び中割り画像を含む複数のフレームにより二次元アニメーションを構成する例を示す図である。
【0024】
図1には、時間軸tが示されている。デザイナーが、原画1と原画2とを描く。時刻t1からt2までの間、原画1を含むフレームが表示される。そして、時刻t3から原画2を含むフレームが表示される。この場合、時刻t2からt3のフレームを空白の画像とすることはできないため、中割り画像Nを作成して、中割り画像Nを含むフレームを時刻t2からt3までの間表示することで、動画がスムーズに表示されるようにすることができる。図1の例では、中割り画像Nを1つ追加する場合を例示しているが、実際には、原画1と原画2との間に、2つ以上の中割り画像を作成する場合もある。図1は、説明を簡略化するために、1つの中割り画像Nが図示されている。
【0025】
原画1と原画2との中間の動きを表現する画像を生成することができれば、中割り画像Nを自動的に描くことができる。中割り画像Nを描くためには、例えば原画1と原画2における主要な交点の対応関係がわかっていれば、例えば、対応する交点どうしの位置を補間した交点(例えば中点)を求めることによって、中割り画像において対応する交点を求めてもよい。例えば、原画1の交点11と原画2の交点21は、対応する交点であることがわかる。したがって、例えば、交点11の座標と、交点21の座標を補間した交点(例えば中点)の座標)(例えばフレームの画素位置)を求めることによって、中割り画像Nの交点N1の座標を求めることができる。
【0026】
原画1と原画2における各交点の対応関係は以下のとおりである。すなわち、原画1における交点11、交点12、交点13、交点14は、それぞれ原画2における交点21、交点22、交点23、交点24に対応している。原画1及び原画2におけるこれらの複数の交点の対応付けを発見することができれば、中割り画像Nの複数の交点N1、交点N2、交点N3、交点N4の座標は、例えば、原画1と原画2との対応する交点を補間することで、求めることができる。
【0027】
上記の処理では、原画1の各交点と原画2の各交点の対応関係が既知であることを前提として説明した。しかしながら、現実には、原画1の各交点と原画2の各交点の対応関係をオペレータの指示に頼ることは、オペレータに多くの労力を強いることとなる。したがって、原画1の各交点と原画2の各交点の対応関係を自動的に推定することが求められる。
【0028】
図7に移る。図7は、原画1の交点13と原画2の交点23が対応関係にあることを推定するために、複数の閉領域を含む2つの画像のそれぞれに存在する交点の対応付けの例を示す図である。
【0029】
図7(A)の交点13の周辺を拡大した図が図7(C)である。また、図7(B)の交点23の周辺を拡大した図が図7(D)である。
【0030】
図7(C)に示されるように、交点13は、背景Yと、閉領域1Bと、閉領域1Cとで作られる境界線上の交点であることがわかる。図7(D)に示されるように、交点23は、背景Yと、閉領域2Bと、閉領域2Cとで作られる境界線上の交点であることがわかる。
【0031】
ここで、閉領域2Bが閉領域1Bと対応関係にあること、及び閉領域1Cと閉領域2Cとが対応関係にあることが既知であると仮定する。なお、背景Yは、原画1と原画2とで同種の背景であり対応関係にあることが既知であると仮定する。図7(C)における交点13の周囲に存在する複数の閉領域は、左回りに閉領域1B、背景Y、閉領域1Cの順に存在しており、同様に図7(D)における交点23の周囲に存在する複数の閉領域は、左回りに閉領域1Bに対応する閉領域2B、背景Y、閉領域1Cに対応する閉領域2Cの順に存在している。このことから、交点13と交点23は、対応関係にあることを自動的に推定することが可能である。
【0032】
上記の推定においては、原画1の交点13の周りに存在する複数の閉領域と、原画2の周りに存在する複数の閉領域同士の対応関係が既知であることを前提とした。しかしながら、原画1の複数の閉領域と原画2の複数の閉領域のそれぞれの対応関係を、オペレータの指示に頼ることは、オペレータに多くの労力を強いることとなる。したがって、原画1の各交点と原画2の各交点との対応関係を、可能な限り自動的に推定することが求められる。
【0033】
図1に戻ると、上記のことは、原画1の閉領域1A、閉領域1B及び閉領域1Cが、それぞれ原画2の閉領域2A、閉領域2B及び閉領域2Cと対応することを、自動的に推定することが求められる。
【0034】
以上のことから、時間的に連続する2つの原画1及び原画2の時間軸上の中間に位置する中割り画像Nを自動的に生成するためには、上記の手順と逆の推定の処理を以下のとおり実行することが求められる。
(a)原画1と原画2とにおいて、それぞれに存在する閉領域の対応づけを推定すること。
(b)閉領域の対応付けの情報を用いて、原画1と原画2とにおいて、それぞれに存在する閉領域を分ける境界線の交点の対応づけを推定すること。
(c)対応づけられた交点を補間する交点の座標を求めること。
(d)原画1と原画2の対応する閉領域の形状及び補間された交点の座標を用いて、中割り画像を生成すること。
【0035】
なお、上記(a)の行程において、閉領域の対応付けが行われるため、例えば原画1の彩色の指定を行えば、略自動的に原画2における対応する閉領域の彩色が行える。更に、上記工程(d)において生成された中割り画像においても、原画における閉領域と対応する閉領域がわかるため、中割り画像の閉領域の彩色も略自動で行うことができることとなる。
【0036】
したがって、上述の従来技術の説明では、中割り画像の作成の工程の後に彩色の工程が位置していたが、本実施形態では、中割り画像の作成工程と、彩色の工程が逆の順序になってもよいことがわかる。
【0037】
以下、順に、詳細な実施形態を説明する。
【0038】
<1>実施形態1:閉領域の対応付け
<1−1> 用語の定義
実施形態1では、2つの原画に存在する複数の閉領域の対応付けを自動的に行うための処理の例を示す。なお、以下の実施形態1は、処理の一例であって、この例に限られるものではない。
【0039】
図2は、原画を構成する各画素の特徴抽出の例を示す図である。
【0040】
ここで、図2(A)を用いて、以下の定義を行う。
【0041】
「閉領域」:画像において、線で閉じられた領域を「閉領域」と呼ぶ。たとえば、図2(A)において、閉領域1A、閉領域1C及び閉領域1Bは、それぞれ線で閉じられた「閉領域」である。原画の背景は、閉領域ではない。また、直線及び点も画像も閉領域ではない。
【0042】
「境界線」:閉領域を囲む線を境界線という。境界線を隔てて閉領域と閉領域又は背景とが隣接することになる。
【0043】
「隣接」:閉領域Aと閉領域Bとが、境界線Xで接している場合、閉領域Aと閉領域Bとは、境界線Xで隣接しているという。
【0044】
「交点」:境界線が交わっている点、あるいは境界線の端点(端の点)を交点と呼ぶ。
【0045】
「画素」:画像に存在する二次元平面に等間隔にメッシュを定義して、メッシュの各交点の座標位置に存在する画像の構成要素を画素と呼ぶ。画素は、ディジタル画像を構成する各画素に対応させてもよい。
【0046】
「方位」:図2(A)において、画素P1から例えば上下左右の4つの方向を「方位」という。そして上下左右のそれぞれの方位に伸びる半直線U、D、L、Rを定義する。半直線U、D、L、Rは、画素P1からそれぞれ上、下、左、右に伸びる半直線である。なお、図2(A)の例では、上下左右の4つの方位にそれぞれ半直線を定義したが、方位の数は、4つに限られるものではない。
【0047】
「交差回数」:図2(A)において、例えば、画素P1から上の方位に伸びる半直線Uが、原画1を構成する閉領域1Aとの境界線において、U11で交差している。この場合、画素P1の上方位の交差回数は1であると定義される。同様に画素P1の左の方位に伸びる半直線Lが、原画1を構成する閉領域1A、1C、1Bとの境界線とL11、L12、L13で交差している。この場合、画素P1の左方位の交差回数は3であると定義される。同様に画素P1の下の方位に伸びる半直線Dが、原画1を構成する閉領域A1との境界線と、D11で交差している。この場合、画素P1の下方位の交差回数は1であると定義される。同様に画素P1の右の方位に伸びる半直線Rが、原画1を構成する閉領域1Aとの境界線と、R11で交差している。この場合、画素P1の右方位の交差回数は1であると定義される。
【0048】
「境界線までの距離」:図2(A)において、例えば、画素P1から、画素P1を含む閉領域と、初めて交差するまでの距離を「境界線までの距離」と定義する。図2(A)において、画素P1の上方位の境界線までの距離は、α1である。境界線までの距離の単位は、たとえば、画素数であってもよい。
【0049】
たとえば、画素が、ある閉領域に属している場合には、その画素は、いずれの方位においても、必ずその閉領域の境界線と交差することとなるため、交差回数は1以上となる。画素が、背景に属している場合には、交差回数がゼロの場合があり得る。
【0050】
<1−2> 原画の構成要素
図1及び図18などに示す原画は、多くの場合線画であり、例えば以下のような要素で構成されている。
(a)閉領域(境界線で閉じた領域)
(b)閉領域から分岐する線分(分岐線分)
(c)閉領域に包含され孤立する線分(孤立線分)
2つの原画の間に存在する分岐線分と孤立線分は、閉領域の境界線との相対座標を比較することにより、対応付けが可能である。したがって、まず、2つの原画の間の閉領域の対応付けを行うことが望ましい。実施形態1では、閉領域の対応付けの例を示す。
【0051】
<1−3> 彩色と中割り画像の生成の順序
上述の、従来技術の例においては、中割り画像を作成した後に、原画と中割り画像の彩色が行われる手順を示した。しかしながら、本実施形態1では、原画の各閉領域の対応付けをまず行うため、この段階で、原画の対応する閉領域に彩色を施すことが可能である。まず、原画間で閉領域の対応付けを行う。そして、複数の原画で、対応する閉領域には、彩色において同じ色が塗られることになる。このようにすれば、彩色を原画毎に行う手間を省くことができる。
【0052】
加えて、2つの原画の間に閉領域の対応付けが既になされていれば、時間軸上で2つの原画の間に位置する中割り画像をその後生成した場合にも、その中割り画像に含まれる閉領域と2つの原画の閉領域との対応付けが容易に行える。
【0053】
したがって、まず原画における閉領域の対応付けを行った後、彩色を行い、その後に生成された中割り画像に含まれる閉領域に、略自動的彩色を行うことができる。
【0054】
<1−3> 原画の画素の特徴ベクトルの定義
本実施形態では、原画に存在する画素Pの特徴V(P)を、8次元ベクトルで以下のように定義する。
【0055】
V(P)=(c,c,c,c,c,c,c,c) (式1)
ここで、c乃至cを、以下のように定義する。なお、βは、定数である。
画素Pから上下左右の境界線までの距離を、それぞれαu、αd、αl、αrとすると、
=1/(αu+β) ただし、上方位の交差回数が1である場合。その他の場合c=0
=1/(αr+β) ただし、右方位の交差回数が1である場合。その他の場合c=0
=1/(αd+β) ただし、下方位の交差回数が1である場合。その他の場合c=0
=1/(αl+β) ただし、左方位の交差回数が1である場合。その他の場合c=0
=1/(αu+β) ただし、上下左右の4つの方位の交差回数がいずれも2以上であり、かつ上方位の交差回数が上下左右の4つの方位の交差回数のうち最小である場合。その他の場合c=0
=1/(αr+β) ただし、上下左右の4つの方位の交差回数がいずれも2以上であり、かつ右方位の交差回数が上下左右の4つの方位の交差回数のうち最小である場合。その他の場合c=0
=1/(αd+β) ただし、上下左右の4つの方位の交差回数がいずれも2以上であり、かつ下方位の交差回数が上下左右の4つの方位の交差回数のうち最小である場合。その他の場合c=0
=1/(αl+β) ただし、上下左右の4つの方位の交差回数がいずれも2以上であり、かつ左方位の交差回数が上下左右の4つの方位の交差回数のうち最小である場合。その他の場合c=0
なお、c,c,c,cについては、交差回数が1の方位が複数ある場合は、交差回数が1の方位に対応する特徴ベクトルの要素に値を持つことになる。また、c,c,c,cについては、交差回数が2以上で最小の値の方位が複数ある場合は、その最小の交差回数の複数の方位に対応する特徴ベクトルの要素に値を持つことになる。
【0056】
画素Pが背景又は境界線に属する画素である場合には、c=c=c=c=c=c=c=c=0とする。
【0057】
なお、上述の規則は例示に過ぎず、これに限定されるものではない。特徴ベクトルのその他の要素の決定方法としては、たとえば、以下のような規則(a)又は(b)が挙げられる。
【0058】
(a)上記規則においては、同じ交差回数が複数ある場合には、その複数の方位のすべてに、特徴ベクトルの要素を持つように定めた。しかしながらそのようにせずに、上下左右の方位にあらかじめ優先順位を設けておき、同じ交差回数の方位が複数ある場合には、同じ交差回数を持つ方位のうちで、優先順位の一番高い方位における境界線までの距離のみを採用してもよい。そして、特徴ベクトルのその他の要素は、ゼロとしてもよい。
【0059】
(b)特徴ベクトルのうちc,c,c及びcの成分は、交差回数が1となる方位が存在するときに、交差回数が1となる方位のうち、境界線までの距離が一番小さいαを用いた特徴量1/(α+β)を、境界線までの距離が一番小さいαの方位の要素に持つように定めてもよい。そして、特徴ベクトルのうちc,c,c及びcの成分は、交差回数として1となる方位が存在せずかつ全ての方位で交差回数が2以上となるときに、4つの方位のうちで、境界線までの距離が一番小さいαを用いた特徴量1/(α+β)を、境界線までの距離が一番小さいαの方位の要素に持つようにしてもよい。そして、それ以外の方位の特徴ベクトルの要素はゼロとしてもよい。
【0060】
上述の例は、いずれもc及びcは上方位の成分を表す。c及びcは右方位の成分を表す。c及びcは下方位の成分を表す。c03及びcは左方位の成分を表す。
【0061】
背景に存在する画素の特徴ベクトルの成分は、全てが零であるとしてもよい。
【0062】
なお、上記の特徴ベクトルは、すでに指摘したように一例であって、課題を達成するための特徴ベクトルは他の形式であってもよい。更に、例えば、特徴ベクトルは、上下左右の4つの方位を次元とする4次元ベクトルであってもよい。4つの方位において最も交差回数の少ない方位の境界線までの距離に基づく関数を、対応する方位の次元の要素として、その他の次元の要素の値を零としてもよい。
【0063】
<1−4> 特徴ベクトルの性質
上記の特徴ベクトルは、以下の性質を持つ。
【0064】
本実施形態1では、原画は、線で構成された線画であると仮定している。原画が描かれる対象をオブジェクトと呼ぶ。オブジェクトは、複数の線画で描かれており、複数の閉領域を含む。
【0065】
オブジェクトと背景との境界線は、オブジェクト内に存在する閉領域間の境界線よりも、識別性が高い。これは、背景と接している境界線は、オブジェクトのシルエットを構成する輪郭とも呼べる線であり、オブジェクトの内部に存在する線よりも、オブジェクトの特徴をより強く現している境界線であることが経験則上わかっているためである。
【0066】
上記の交差回数が1である場合は、その方位に存在する境界線が背景との境にあることを示している。これに対して、交差回数が2以上である方位に存在する境界線は、オブジェクト内に入り込んだ境界線であり、背景とは接していない境界線である。
【0067】
上記に定義した各画素が持つ特徴ベクトルは、少なくとも1つでも、交差回数が1の方位があれば、その方位における、境界線までの距離を優先して利用する。交差回数が1の方位が複数存在する場合には、その複数の方位のうち一番短い、境界線までの距離を用いて特徴ベクトルの成分を生成する。交差回数が1の方位がなければ、交差回数が2以上の方位のうち、最も値の小さい境界線までの距離を採用する。
【0068】
このように、交差回数が1である境界線までの距離を優先して用いる理由は、背景と接している境界線を重要視するためである。
【0069】
そして、採用された境界線までの距離をαとすると、1/(α+β)を計算し、上記8次元ベクトルの所定のベクトル成分の値とし、その他のベクトル成分の値はゼロとする。ここで、βは、定数である。定数βをαに足す理由は、境界線上でαがゼロとなるため、ベクトル成分の値が無限大になるのを避けるために設定する。また、どの程度の閉領域の大きさを対象とするか、どの程度、境界線の近辺で大きな値の成分を特徴として持たせるかにも依存する。境界線までの距離αが分母に存在するため、ベクトルの成分1/(α+β)は、閉領域内において境界線に近い画素であればあるほど、大きな値をとること(増加関数)になる。このようにαを分母に置くことによって、閉領域のうち、境界線に近い部分に対して、より大きな特徴量を持たせることができる。このように、境界線に近い部分に対して、より大きな特徴量を持たせることは、境界線の形状をより重視するように特徴を持たせることができる。これは、オブジェクトの閉領域の中央付近よりも、境界線に近い部分にその形状の特徴が現れるため、この特徴ベクトルを用いることにより、後述するコスト関数を用いて、原画同士の閉領域の対応付けを高い確率で推定できるようにするためである。なお、特徴量1/(α+β)は、一例であって、この特徴量に限定されるものではない。特徴量は、閉領域の内部において、境界線付近で大きな値をとるような関数を選ぶことにより、閉領域の境界線付近を強調する関数であることが望ましい。
【0070】
<1−5> 画素の特徴ベクトルの例
(1)画素P1の特徴ベクトル(図2(A))
画素P1の4つの方位の交差回数は以下のとおりである。
【0071】
上方位において画素P1は、U11で交差しているため、上方位の交差回数は1である。
【0072】
右方位において画素P1は、R11で交差しているため、右方位の交差回数は1である。
【0073】
下方位において画素P1は、D11で交差しているため、下方位の交差回数は1である。
【0074】
左方位において画素P1は、L11、L12、L13で交差しているため、左方位の交差回数は3である。
【0075】
そして、画素P1は、交差回数1回の方位が上方位、右方位、下方位に存在する。上方位の境界からの距離がα1Uである。右方位の境界からの距離がα1Rである。下方位の境界からの距離がα1Dである。したがって、画素P1の特徴ベクトルV(P1)は、以下のとおりである。
V(P1)=(1/(α1U+β),1/(α1R+β),1/(α1D+β),0,0,0,0,0)
(2)画素P2の特徴ベクトル(図2(B))
画素P2の4つの方位の交差回数は以下のとおりである。
【0076】
上方位において画素P2は、U21、U22で交差しているため、上方位の交差回数は2である。
【0077】
右方位において画素P2は、R21、R22で交差しているため、右方位の交差回数は2である。
【0078】
下方位において画素P2は、D21、D22で交差しているため、下方位の交差回数は2である。
【0079】
左方位において画素P2は、L21、L22で交差しているため、左方位の交差回数は2である。
【0080】
そして、図2(B)においては、交差回数が1である方位は存在せず、画素P2は、交差回数2以上の方位のうち最も小さい交差回数の値は2であり、その方位は、4つの方位全てである。上方位の境界線からの距離がα2Uである。右方位の境界線からの距離がα2Rである。下方位の境界線からの距離がα2Dである。左方位の境界線からの距離がα2Lである。したがって、画素P2の特徴ベクトルV(P2)は、以下のとおりである。
V(P2)=(0,0,0,0,1/(α2U+β),1/(α2R+β),1/(α2D+β),1/(α2L+β))
(3)画素P3の特徴ベクトル(図2(C))
画素P3の4つの方位の交差回数は以下のとおりである。
【0081】
上方位において画素P3は、U31、U32で交差しているため、上方位の交差回数は2である。
【0082】
右方位において画素P3は、R31、R32で交差しているため、右方位の交差回数は2である。
【0083】
下方位において画素P3は、D31で交差しているため、下方位の交差回数は1である。
【0084】
左方位において画素P3は、L31、L32で交差しているため、左方位の交差回数は2である。
【0085】
そして、図2(C)においては、交差回数が1である方位が存在するため、画素P3の特徴を計算する場合には、下方位の境界線からの距離が、交差回数1の方位のα3Dを採用する。したがって、画素P3の特徴ベクトルV(P3)は、以下のとおりである。
V(P3)=(0,0,1/(α3D+β),0,0,0,0,0)
<1−6> 2つの原画を構成する閉領域を大きい順に並べた管理表の作成
図1に示す原画1と原画2とに含まれる複数の閉領域を対応づける前処理として、各原画に存在する複数の閉領域を、面積の大きい順に並べた表を作ってもよい。この表を作ることによって、面積の大きい閉領域から対応付けの評価を行うことができる。このような表を作る理由は、面積が大きい閉領域について、対応関係を早期に確定させて、対応候補から除いておく方が、面積の小さい閉領域の対応関係を先に確定してゆくよりも、閉領域の対応関係が見つけやすく、その対応関係の確度も高くなるという経験則があるからである。したがって、対応する可能性の高い順番に対応関係をチェックするようにするために、このような表を作る意味がある。
【0086】
図3(A)は、図1の原画1の3つの閉領域(閉領域1A、閉領域1B、閉領域1C)を、面積の大きい順に並べた管理表である。No.は閉領域の大きい順を示し、閉領域インデックスは、閉領域にラベリングされたインデックス(例えば1A)が付される。インデックスは、閉領域毎にユニークな識別を自動的に付与してもよい。画素数は、それぞれの閉領域に含まれる画素の数を表し、面積に比例した数値となるため、面積を現す数として代用してもよい。なお、画素数は、例えば、閉領域の面積が大きい順にソートする場合に用いてもよい。「対応付け」の欄は、全て零(0)が初期値として記憶されている。後述する閉領域の対応付けが終了した閉領域には、例えば1を記憶させるようにする。そして、1が記憶された閉領域は、対応付けの処理が終了したことを示すため、以後の対応付けの処理の対象から除いてもよい。また、後述するように、対応付けが一部分しか完了していない閉領域は、「対応付け」を1に変更せず、0のままとして、その後の対応付けの処理の対象となるようにしてもよい。この処理の例は後述する。
【0087】
図3(B)は、図1の原画2における各閉領域を、面積の大きい順に並べた管理表である。
【0088】
<1−7> 閉領域の対応付け
原画1と原画2とにそれぞれ存在する閉領域の対応を推定する例を以下に示す。
【0089】
閉領域の対応付けを行う際には、すでに述べたように、経験則として、一方の原画(例えば原画1)の閉領域の面積が大きい閉領域は、他方の原画の対応している可能性の高い閉領域を見つけやすくかつその対応関係の確度も高いといえる。したがって、以下では、まず原画1で一番大きい面積の閉領域から順に取り出し、取り出された閉領域を以下に例示するコスト関数Eを用いて近似度を計算する。例えば、コスト関数Eが小さいほど近似していると判断し、コスト関数Eを最小にする移動ベクトル(最適な移動ベクトル)を求め、更に最適な移動ベクトルを用いて、原画1から取り出された閉領域と最も重なりの大きな原画2の閉領域を見つけて、この組み合わせを、対応する閉領域のペアと推定してもよい。或いは、このようにして見つけた閉領域のペアを表示して、オペレータに確認を促してもよい。この際に、オペレータが、対応付けの推定が誤っていることを入力させるようにして、このペアの対応付けをキャンセルさせてもよい。この場合には、次に重なりの大きな対応する閉領域をみつけて、ペアの候補として表示してもよい。あるいは、次に最適なベクトルを用いて、原画1の閉領域と最も重なりの大きな原画2の閉領域を見つけて、次のペアの候補として表示してもよい。
【0090】
例えば、図3(A)の原画1に存在するi個の閉領域D(3個の閉領域1A、1B、1C)のうちで一番大きな閉領域を占める閉領域1Aをまず取り出し、閉領域1Aに含まれる画素p全てに対して、図3(B)の原画2に重ねて、移動ベクトルδを動かしながら閉領域A1に対するコスト関数E(D,δ)を式2によって計算してもよい。
【0091】
【数1】
ここで、p+δは、原画2とその背景とを移動ベクトルδだけずらし、閉領域D(例えば閉領域1A)と重ねたときの、閉領域D(例えば閉領域1A)内の画素pの位置に重なる原画2又は背景の位置である。V1(p)は、原画1の閉領域D(例えば閉領域1A)の画素位置pにおける画素の特徴ベクトルである。そして、V2(p+δ)は、原画2及びその背景の画素位置p+δにおける画素の特徴ベクトルである。原画1の閉領域D(例えば閉領域1A)の画素位置pに重なる原画2が閉領域内部である場合(例えば閉領域2A内部)には、原画1と原画2の特徴ベクトルの差の二乗を計算し積算する(式2上段)。原画1の閉領域D(例えば閉領域1A)の画素位置pに重なる原画2が閉領域内部でない場合(例えば背景や境界線)には、式2の下段の計算を行い、定数γを積算する。γを積算する意味は、背景部分との重なりについては、比較的大きな定数γを加えることにより、コスト関数が大きくなり、ペナルティを与えるためである。γは、原画の全体のピクセル数あるいは、閉領域のピクセル数によって妥当な値を選択する。たとえば、γ=2などの定数を設定すればよい。
【0092】
なお、原画2のp+δの位置が閉領域内部でない場合、式2の下段の計算を行うこととしたが、たとえば、すでに対応付けがなされた原画2における閉領域は、背景等と同じ扱いとして、式2の下段の計算を行ってもよい。
【0093】
なお、特徴ベクトルは、既に式1に示した。
【0094】
移動ベクトルδは、例えば画素を単位とする二次元の移動ベクトルであり、原画1の閉領域D(例えば閉領域1A)を取り出し、原画2及びその背景を移動ベクトルδだけ移動させて両者を重ね合わせるために用いるベクトルである。そして、上記式2のコスト関数Eを最小にする二次元の移動ベクトルδを求める。例えば、閉領域1Aと原画2及びその背景とをδの値を変化させながら、コスト関数Eが最小となるδを以下の式のように求める。
δ=argminδE(D,δ) (式3)
ここで、argminδE(D,δ)とは、E(D,δ)の値を最小とする引数δを求めることを意味する。
【0095】
そして、例えば原画1の1つの閉領域D(例えば閉領域1A)に対して、網羅的にδを変化させて原画2及び背景を重ねてコスト関数Eを計算し、コスト関数Eを最小にするように、上記式3を満足するδを求める。あるいは、コスト関数Eの網羅的な計算の途中において、コスト関数Eの最小値(計算途中の極小値)が所定の計算回数の中で更新されなくなった場合には、網羅的なδの計算を途中で打ち切って、それまでに得られたコスト関数の最小値を採用してもよい。あるいは、大きな面積の閉領域に対してのコスト関数Eの計算においては、例えば、原画1の閉領域の1つおきの画素に限定して、コスト関数Eを計算し計算量を減少させることで、計算速度を速めてもよい。
【0096】
この移動ベクトルδを用いたときに、閉領域D(例えば閉領域1A)と原画2との間で、閉領域の重なる面積(例えば画素数)が最大となる原画2の閉領域が原画1の閉領域Dに対応する原画2の閉領域である推定することができる。
【0097】
以下、図4を用いて、対応関係の推定の一例を具体的に示す。
【0098】
説明をわかりやすくするために、原画1の閉領域1Cに対応する原画2の閉領域を求める例を、図4を用いて示す。
【0099】
図4(A)において、原画1の閉領域1Cを取り出し、原画2にそのまま重ねる。そして、この状態で、閉領域C1についてコスト関数E(C1,δ)を求める。δの初期値はゼロベクトルである。なお、移動ベクトルδは、図4では、1Cを動かすように描かれているが、式2では、原画2の項の座標位置に足されている。移動ベクトルδは、相対的な重ね合わせの位置関係を規定するベクトルであるから、図においては、直感的にわかりやすくするために、原画1から取り出した閉領域を移動させるベクトルとして描いている点に留意すべきである。式2と図4の記載は、相対的な表現に関して、同義である。
【0100】
その後、移動ベクトルδを網羅的に変化させて、コスト関数E(C1,δ)を最小にするδ図4(B)に示されているように求める。
【0101】
図4(B)に示されるように、原画2の閉領域のうち、閉領域C1との重なりの面積が一番大きな、原画2の閉領域を求める。この場合、閉領域2Cと閉領域1Cとは、領域S1において重なっている。そして、閉領域2Aと閉領域1Cとは、領域S2において重なっている。これらの重なりのうち、一番大きな重なりは、S2であることがわかる。したがって、一番大きな重なりの領域を共有する閉領域1Cと閉領域2Cとが対応することが推定される。
【0102】
このようにして、原画1の閉領域1Cと原画2の閉領域2Cとの対応付けの推定がなされた。この推定を表示して、オペレータに確認を促してもよい。あるいは、オペレータの確認を得ずに、対応付けを確定させてもよい。仮に、オペレータが、対応付けの推定が間違っている旨を入力した場合には、次に重なりの面積が大きい領域(図4(B)の場合には、閉領域1Cと閉領域2Aとのペアを表示して、次の候補の対応を推定し表示してもよい。
【0103】
あるいは、オペレータが、対応付けの推定が間違っている旨を入力した場合には、コスト関数が移動ベクトルδの次に小さくなった移動ベクトルδを用いて、C1との重なりの面積が一番大きな原画2の閉領域を、閉領域C1に対応する次の閉領域の候補として、推定し、表示して、オペレータに確認を促してもよい。
【0104】
図5は、閉領域の対応表が示されている。以上の結果によって、原画1と原画2にそれぞれ存在する閉領域の対応関係が確定し、図5の対応表が記憶される。この対応表を用いて、原画1において、彩色を行えば、原画2における彩色は自動的に行うことができる。
【0105】
<1−8> 領域の対応付けの動作
図6は、領域の対応付けの例を示すフローチャートである。
【0106】
ステップS100でパラメータi及びjを初期化する。パラメータiは、例えば図3(A)に示すように原画1の閉領域を面積の大きい順に並べた際の順番(No)であってもよい。iは、原画1の各閉領域を一意に特定できる番号であればよい。パラメータjは、例えば図3(B)に示すように原画2の閉領域を面積の大きい順に並べた際の順番(No)であってもよい。jは、原画2の各閉領域を一意に特定できる番号であればよい。
【0107】
ステップS102で、一方の画像(原画1)から1つの閉領域i(例えば閉領域1A)を抽出する。
【0108】
ステップS104で、閉領域Dと他方の原画とからコスト関数E(D,δ)を算出する。
【0109】
ステップS106で、δを網羅的に変化させたかがチェックされる。チェックが「いいえ」であれば、ステップS132に移る。チェックが「はい」であれば、ステップS108に移る。
【0110】
ステップS132でδを所定の値だけ変化させる。
【0111】
ステップS108で、コスト関数E(D,δ)が最小となる場合の移動ベクトルδを保存する。
【0112】
ステップS110で、δを用いて、閉領域Dと重なる面積が最大の他方の原画の閉領域Dを閉領域Dに対応する領域と推定する。
【0113】
ステップS152で、閉領域の対応を表示し、オペレータに確認を促してもよい。対応が間違っていると入力された場合には、次のペアの候補を表示させてもよい。また、オペレータの指示により、閉領域の正しい対応関係が入力されてもよい。この時に、彩色の指示を促してもよい。
【0114】
ステップS154で、対応関係が確定された原画1の閉領域Dと原画2の閉領域Dとを、その後の対応関係の処理の対象から除いてもよい。この操作は、図3の対応付けフラグを用いてもよい。
【0115】
ステップS112で、i=Iとなったかがチェックされる。すなわち、原画1における閉領域全てに対して、対応付けの処理が完了したかがチェックされる。このチェックが「いいえ」であれば、ステップS134に移る。このチェックが「はい」であれば、全体の処理を終了させてもよい。
【0116】
ステップS134でiをインクリメントする。この操作によって、原画1の次の閉領域をステップS102で抽出できる。
【0117】
実施形態1の処理フローの概要は以上のとおりである。
【0118】
<2> 実施形態2:交点の対応付け
<2−1> 交点の対応付けの処理の詳細
以下に、原画1と原画2のそれぞれに存在する交点の対応付けについて説明する。交点の対応付けの情報は、原画1と原画2とを補間した画像の生成に利用することができる。
【0119】
図7は、複数の閉領域を含む2つの画像のそれぞれに存在する交点の対応付けの例を示す図である。
【0120】
すでに説明した処理によって、原画1と原画2との間の各閉領域の対応付けが完了していることを前提とする。図7(A)の原画1の丸で囲んだ閉領域の拡大図が図7(C)に示されている。そして、図7(B)の原画2の丸で囲んだ閉領域の拡大図が図7(D)に示されている。既に、閉領域2Bは閉領域1Bと対応していることがわかっており、閉領域2Cは閉領域1Cと対応していることがわかっている。また、原画1及び原画2には、同じ背景Yが存在している。
【0121】
既に説明したように、図7(C)における交点13の周囲に存在する複数の閉領域は、左回りに閉領域1B、背景Y、閉領域1Cの順に存在しており、同様に図7(D)における交点23の周囲に存在する複数の閉領域は、左回りに閉領域1Bに対応する閉領域2B、背景Y、閉領域1Cに対応する閉領域2Cの順に存在している。したがって、交点13に接する閉領域の位置関係のパターンは、交点23に接する閉領域の位置関係のパターンと一致していることがわかる。このことから、交点13と交点23とが対応関係にあることを自動的に推定することが可能である。このようにして、対応付けされた閉領域の情報を用いることによって、対応する交点の対応付けを自動的に推定することができる。この推定結果を画面に表示して、オペレータに最終的な対応関係の確定を促してもよい。或いは、推定された交点の対応関係を、自動的に確定させてもよい。
【0122】
図8は、複数の閉領域を含む2つの画像のそれぞれの交点の対応づけの結果を示す図である。対応づけられた交点の情報は、図8に示す交点の対応表によって、記憶することができる。
【0123】
図9は、複数の閉領域を含む2つの画像のそれぞれに存在する交点の対応付けの際に発生する第1の課題の例を示す図である。図9においては、前提として、閉領域1Aと2A、閉領域1Bと2B、閉領域1Cと2C、閉領域1Dと2D、がそれぞれ対応する閉領域であると仮定する。
【0124】
この場合、図9(A)の原画1においては、交点P11の周囲に、左回りに閉領域1A、1D、1Bが存在する。これに対して、図9(B)の原画2においては、交点P21に閉領域2A、2D、2Cが存在する。この例では、交点P11と交点P21とは、周囲に同じパターンで対応する閉領域が存在しないため、対応する交点ではないと判断される。原画1の交点P11に対応する交点が原画2には存在しない。
【0125】
しかしながら、図9(A)の2つの交点(交点P11及び交点P12)及び図9(B)(交点P21及び交点P22)をまとまりとして捉えた場合には、原画1の交点P11と交点P12の周りに左回りに閉領域1A、1D、1C,1Bが存在し、原画2の交点P21と交点P22の周りに左回りに閉領域2A、2D、2C,2Bが存在し、閉領域の対応関係を考慮すると、同一のパターンで閉領域が存在していることがわかる。
【0126】
図9の例においても、以下の処理を行うことにより、交点どうしの対応付けを行うことができる。
【0127】
図10は、複数の閉領域を含む画像に存在する交点及び境界線を修正する処理の例を示す図である。
【0128】
図9(A)において原画1を選択する、原画1の代わりに原画2を選択してもよい。図10(A)に示されるように選択された原画1に存在する2つの交点(交点P11、交点P12)のうち、1つを削除する。図10(A)の場合には、交点P12を消去する。削除する交点は、いずれの交点であってもよい。これによって、閉領域の境界線Ldb、Lbc、Lcdが残る。なお、交点のうち、交点の角度が小さい方の交点(すなわち交点P12でLcdとLbcが領域1C側でなす角度の方が、交点P11でLadとLabが領域1A側でなす角度より小さいため、この場合は、交点P12)を優先して削除するようにしてもよい。
【0129】
図10(B)に示すように、境界線LbcをLdbに沿って交点P11まで延ばす。延長されたLbcの交点P11の位置の交点を交点P111とする。
【0130】
図10(C)に示すように、境界線LcdをLdbに沿って交点P11まで延ばす。延長されたLcdの交点P11の位置の交点を交点P112とする。
【0131】
なお、上記操作の後、Ldbは削除してもよい。
【0132】
図10(D)に示すように、この結果、交点P12が削除され、境界線Lbcが延長され、交点P11の位置に交点P111が設定された。境界線Lbcが延長され、交点P11の位置に交点P112が設定された。このため、交点P11は、交点P111と交点P112の2つに分割されたと考えることができる。なお、延長された境界線Lbcと、延長された境界線Lcdとは、離れて描かれているが、図を分かりやすくするために離れて描かれているのであって、実際は、同一線上に存在する。その他の図においても同様である。
【0133】
図11は、複数の閉領域を含む画像に存在する交点及び境界線を修正する処理の結果に基づいて、交点の対応付けの例を示す図である。
【0134】
先に示した図10の処理によって、図11(A)では、交点P12が削除され、境界線Lbcが延長され、交点P11の位置に交点P111が設定された。境界線Lbcが延長され、交点P11の位置に交点P112が設定された。このため、交点P11は、交点P111と交点P112の2つに分割された。
【0135】
図11(B)に示すように、原画2は、そのまま2つの交点P21及び交点P22が存在している。図11(C)の交点の対応表に示されるように、原画1の交点P111と原画2の交点P21とを対応づける。そして、原画1の交点P112と原画2の交点22とを対応づける。そして、図11(A)の交点P111と交点P112との間は、長さ零の境界線が存在していることとする。また、交点P111は、境界線Labと接続させ、交点P112は境界線Ladと接続させる。交点P11は削除してもよい。
【0136】
以上の処理を行うことにより、図9のように対応付けが行えなかった交点に対しても、いずれかの原画の1つの交点を削除し、上記の処理を施すことによって、交点の対応付けが行える。
【0137】
[交点の対応付けの動作]
図12は、図9に示したように、原画1と原画2のそれぞれの1つの交点どうしでは対応付けができない場合であって、2つの交点をまとまりとして捉えた場合に、それらの周囲に存在する複数の閉領域のパターンが同一である場合を発見するフローチャートである。理解を助けるために、図12のフローチャート及び下記の説明において、括弧書きで図9に示した符号を例示として示す。なお、図12のフローチャートは、図9の例に限定されるものではない。
【0138】
ステップS300において、一方の原画(原画1)において点の対応付けが行えなかった複数の点のうち、2つの閉領域(1D,1B)の境界線上(Ldb)に存在する隣り合う2つの交点(P11,P12)の組qの集合Qを抽出する。
【0139】
ステップS302において、他方の原画(原画2)において点の対応付けが行えなかった複数の点のうち、2つの閉領域(2A,2C)の境界線(Lac)上に存在する隣り合う2つの交点(P21,P22)の組rの集合Rを抽出する。
【0140】
ステップS304は、ステップS314との間で、集合Qに含まれる要素qを、1つずつ取り出して処理を行う繰り返しの処理を示す。
【0141】
ステップS306は、ステップS312との間で、集合Rに含まれる要素rを、1つずつ取り出して処理を行う繰り返しの処理を示す。
【0142】
ステップS308で、qに含まれる2つの交点(P11,P12)の少なくとも1つに接する複数の閉領域の並びのパターン(左回りに1A,1D,1C,1D)が、rに含まれる2つの交点(P21,P22)の少なくとも1つに接する複数の閉領域(2A,2D,2C,2D)のそれぞれに対応する一方の原画の閉領域の並びのパターン(左回りに1A,1D,1C,1D)と一致するか否かをチェックする。
【0143】
ステップS310は、ステップS308におけるチェックが一致しているか否かを判断する。チェックが一致していればステップS320に進む。チェックが一致していなければ、ステップS312に進む。
【0144】
ステップS320で、rとqとが対応すると認識し、s=(r,q)として、要素sを集合Sに加え、記憶する。
【0145】
以上の処理を行うことにより、図9に示すような、2つの交点どうしの対応関係を抽出することができる。
【0146】
図13は、図12で抽出した2つの交点の組を要素sとする集合から、要素sを1つずつ取り出して、交点の対応付けを行う処理を示すフローチャートである。理解を助けるために、図12のフローチャート及び下記の説明において、括弧書きで図9に示した符号を例示として示す。
【0147】
ステップS400は、集合Sから1つずつ要素sを取り出して、ステップS412との間で処理を繰り返すことを示している。
【0148】
ステップS402で、1つの交点の削除を行う。なお、図12のフローチャートは、図9の例に限定されるものではない。なお、以下に示すように、集合を定義する。
s∈S
s=(q,r)
q∈交点P11,交点P12 (一方の原画(原画1)に含まれる交点)
r∈交点P21,交点P22 (他方の原画(原画2)に含まれる交点)
このステップS402においては、一方の原画の交点の組(q)に含まれる2つの交点(P11,P12)のうちいずれか1つの交点(P12)を削除する。
【0149】
ステップS404で、削除された交点(P12)に接続されており、残された交点(P12)に接続されていない2つの境界線(Lbc,Lcd)を特定する。
【0150】
S406で、特定された2つの境界線(Lbc,Lcd)の各々を、削除された交点(P12)と残された交点(P11)とを結ぶ境界線(Ldb)に沿って、残された交点(P11)まで延長する。
【0151】
ステップS408で、延長された2つの境界線(Lbc,Lcd)の一方の境界線(Lbc)の延長された端に第1の交点(P111)を生成し、前記一方の境界線(Lbc)を境に隣接する2つの閉領域(1B,1C)に対応する他方の原画(原画2)の閉領域(2B,2C)の境界線(L2bc)上の点(P21)を、生成された前記第1の交点(P111)に対応させる。交点P111は、境界線Labに接続させる。同様に、延長された2つの境界線(Lbc,Lcd)の他方の境界線(Lcd)の延長された端に第2の交点(P112)を生成し、前記一方の境界線(Ldc)を境に隣接する2つの閉領域(1D,1C)に対応する他方の原画(原画2)の閉領域(2D,2C)の境界線(L2cd)上の点(P22)を、生成された前記第2の交点(P112)に対応させる。交点P112は、境界線Ladに接続させる。
【0152】
ステップS410で、残された交点(P11)を削除する。生成された2つの交点(P111,P112)は、長さ零の境界線で結ばれているとする。境界線Ldbを削除してもよい。交点P11を消去してもよい。
【0153】
以上の処理を行うことによって、図9のパターンに対して、交点の対応付けの処理行うことができる。
【0154】
図14は、図11図12及び図13の処理が適用された2つの原画に対する中割り画像Nを生成する例を示している。
【0155】
図14の中割り画像Nに示されるように、原画1の交点P111が中割り画像の交点NP111に対応し、原画1の交点P112が中割り画像の交点NP112に対応する。そして、原画1では長さが零であった境界線が、中割り画像Nにおける交点NP111と交点NP112との間に境界線Lacとして表示されていることがわかる。このようにして、交点の対応付けを行うことにより、中割り画像を自動的に生成することが可能である。
【0156】
なお、中割り画像Nを生成する場合には、各境界線の形状についても補間を行い、なめらかな中割り画像が生成されるようにしてもよい。或いは、対応する交点、対応する境界線、対応する閉領域の情報等を用いて、モーフィングの技術により、中割り画像Nを生成するようにしてもよい。また、2つの原画にそれぞれ存在する閉領域を構成しない線及び点等については、閉領域及び交点の対応関係から、それらの対応関係を推測することが可能である場合が多い。なお、2つの原画に存在する閉領域、線、点などのうち、対応関係が推測不可能であるものについては、オペレータに対して、対応関係の指定を行うよう促してもよい。最終的に、オペレータの指示もなされておらず、対応関係が不明である閉領域、線、点などについては、周囲の閉領域、線、点など補間の結果をとの位置関係から、中割り画像における位置関係を決定してもよい。モーフィングの技術に見られるように、2つの原画に存在する全ての構成要素の対応関係が判明していなくても、モーフィングの技術等を利用することにより、中割り画像を生成することは可能である。
【0157】
図15は、図14に示した例と同様の例であって、中割り画像を複数生成した場合の例を示している。原画5と原画6との間に、時間軸に沿ってN01からN10までの10個の中割り画像が生成されている。原画及び中割り画像は、それぞれ、動画の1フレームに対応する。図15の場合には、原画5、10個の中割り画像、原画6の12のフレームが連続して表示され、スムーズな動画が再生されることとなる。
【0158】
図16は、交点の無い閉領域の境界線に端点を付与することで交点を作る例を示す図である。この例の場合には、原画7と原画8とにそれぞれ1つずつの交点(交点P51及び交点P61)が図示されている。それぞれの原画における閉領域の交点の数は、複数であってもよい。この場合には、まず、2つの閉領域を1つの平面上に置く。これら2つの閉領域の間のハウスドルフ距離を求める。次に一方の閉領域の境界線上の全ての点について、他方の閉領域の境界線上の点からの距離が最小となるそれぞれの点を求め、一方の閉領域の点と他方の閉領域の点とを対応づけた2点の組の集合を作る。それぞれの組において、2点間の距離がハウスドルフ距離と等しい組を、対応のついた交点としてそれぞれの閉領域に付与する。なお、2点間の距離がハウスドルフ距離と等しい点の組が複数ある場合は任意の組を選択して対応のついた交点としてもよい。
【0159】
ハウスドルフ距離dHは、一般に、2つの集合Aと集合Bがある場合に、集合Aのどの点であっても少なくとも距離dHだけ進めば集合Bのどれかの点に到達できる。同じく、集合Bのどの点であっても少なくとも距離dHだけ進めば集合Aのどれかの点に到達できる。このような距離dHをハウスドルフ距離と言う。図16の場合には、同一平面上に置いた、原画7と原画8において、原画7に含まれる複数の画素が集合Aに対応し、原画8に含まれる画素が集合Bに対応する。
【0160】
なお、必ずしもハウスドルフ距離を採用する必要はなく、閉領域で、形状の似ている位置の点を、対応する交点として採用してもよい。また、パターン認識などの手法を用いて、類似するパターン上に存在する点どうしを対応する交点としてもよい。
【0161】
図17は、2つの原画の片方が孤立した閉路を持つ場合の交点の処理の例を示す図である。原画9は、孤立した閉路と直線が存在している。原画10Aでは、直線と円が接触しており、交点P101及び交点P102が存在している。
【0162】
この場合には、原画9と原画10Aとで、交点の対応付けが行えない。したがって、以下のようにすることが望ましい。
【0163】
すなわち、原画10Bに示されるように、交点P101及び交点P102を削除する。そして、交点P101に接続していた直線と、交点P102に接続していた直線を延長して、一つの直線にする。さらに、交点P101に接続していた円の端点と、交点P102に接続していた円の端点とを接続して、一つの円形状の図を作る。次に、原画9及び原画10Bに、図16で示した手法を用いて新たな交点を設ける。例えば、交点P093と、交点P103を設ける。この場合、図16を用いて説明したように、平面上に2つの円形状の図を置いた場合に、これらの2つの円の間のハウスドルフ距離を用いて、交点を付与してもよい。
【0164】
図18は、原画をレイヤーに分けて、処理を行う例を示す図である。原画11には、笛の上部11Aと笛の下部11Bが存在している。そして、原画12にも、笛の上部12Aと笛の下部12Bが存在している。このような笛の部分の画像の周辺では、2つの原画における交点の対応付けが単純に行えないことがある。すなわち、図7及び図9に関連して例示した交点の対応付けの処理によっても、なお、対応付けが行えない交点を含む閉領域が存在することがある。このような閉領域に対しては、その閉領域を切り出し、別のレイヤー(層)に移動させ、交点の対応付けの処理をレイヤー毎に別個に行うことが有効である。
【0165】
すなわち、原画11及び原画12の笛の部分をそれぞれ別のレイヤーにコピーし、基の原画からは、笛の画像部分を削除する。この操作を行うと、人間の部分のレイヤーと笛の部分のレイヤーに原画を分けて、交点の対応付けの処理をすることができる。レイヤーに分けるか否かの判断手法としては、図9のパターンが周辺に多く発生する閉領域を他のレイヤーに移すことが有効である。
【0166】
なお、一部の閉領域を他のレイヤーに移し、他のレイヤーに移した画像を原画から削除することが望ましい。この際に、削除された部分の周辺が空白となってしまい、閉領域が存在しない部分が発生する場合がある。すなわち、一部の閉領域を他のレイヤーに移動させた残りの画像の空白部分には、閉領域が存在せず、閉領域が開いた形の分岐線が存在する場合がある。この場合には、分岐線をそのまま残して、分岐線の端の点(端点)を特定し、一方の原画と他方の原画とで、端点どうしの対応付けを行ってもよい。あるいは、対応付けが行えない交点が残ってしまう場合には、オペレータに対して指示を行うよう促してもよい。
【0167】
あるいは、上記の場合には、閉領域を削除した部分の周辺に存在する線分を延長して、つなぎ合わせる処理を行うことにより、閉領域を形成することが可能である。原画をレイヤーに分けて、交点の対応付けを行う際には、新たに生成された閉領域の対応付けの処理を行うことが必要となる場合がある。この場合には、レイヤーに移す前に存在した閉領域を結合させることにより、多くの場合対処することができる。なお、対処することができない場合には、再度、閉領域の対応付けを部分的に再度行うことも有効である。
<3> 実施形態3:中割り画像の形成の変形例
以上のようにして、2つの原画の閉領域の対応付け、交点の対応付けを順番に行うことにより、2つの原画の各部の対応付けが行える。
【0168】
中割り画像は、2つの原画の交点の位置を補間することで行えるが、閉領域の対応関係、閉領域の境界線の形状、対応する交点を結んだ境界線の対応関係等をも勘案して、総合的に原画の補間を行うことがより自然な中割り画像を作成する上で有利である。
【0169】
また、閉領域の画像の対応付けの際に、オペレータに彩色の指示を促すことで、彩色の処理と、閉領域の確認とをまとめてオペレータに促すことができる。
【0170】
例えば原画1と原画2との閉領域の対応付けを行い、次に原画2と原画3の閉領域の対応付けを行うように、順番に対応付けを行うようにしてもよい。この場合、原画1と原画2との閉領域の対応付けの際に彩色の指示をオペレータが行えば、原画2と原画3との閉領域の対応付けの際の彩色は、略自動で行えることとなる。しかも、中割り画像の彩色は、原画の彩色から容易に推定できるので、中割り画像の彩色も略自動で行えることとなる。
【0171】
<4> 実施形態4(閉領域の対応付けの変形例)
図18を用いて、一方の原画の2つの閉領域が、他方の原画における1つの閉領域に対応する場合の処理の例を以下に説明する。
【0172】
図18において、原画11における閉領域110及び閉領域111は、原画12における閉領域121に対応している。この場合には、閉領域の対応付けが多対1の形式になっている。このような状況は、閉領域の前側に、多のオブジェクトが重なっている原画の場合に発生しやすい。このような場合にも対処するためには、例えば、以下のような処理を行えばよい。
【0173】
まず、原画11の閉領域110に対応する原画12の閉領域を、上述の実施形態1で推定する。この推定によって、閉領域110に対応する閉領域として121が推定される。この時点で、対応する閉領域110と閉領域121とを画面に表示して、オペレータに確認を促す。オペレータは、閉領域の対応付けとして、原画11の閉領域111が残っていることがわかる。このため、推定は、部分的に正しいことを入力する。この入力においては、原画11の領域110は、以後の閉領域の対応の対象から除外し、閉領域121は、以後の閉領域の対象から除外しないように、オペレータが指示を行えばよい。この指示は、図3に示した表の対応付けの欄におけるフラグの処理で実現できる。すなわち、領域110の対応付けのフラグを1として、以後の対応付けの対象から除外する。これに対して、領域121の対応付けの欄は、フラグを0のままとし、以後の対応付けにおいても、考慮されるようにすればよい。オペレータは、この時、併せて、彩色の指示を行ってもよい。オペレータの彩色の指示によって、閉領域110と閉領域121が同じ色で彩色されるが、閉領域121は、閉領域の推定対象としての状態を保持することができる。
【0174】
その後、原画11の閉領域111の対応付けの処理の際に、再度、原画12の閉領域121が、対応する旨の推定がなされることとなるので、この対応付けが表示され、オペレータへの指示の入力が促された際に、オペレータは、対応付けが正しいことを入力する。このオペレータの指示によって、図3に示す閉領域111の対応付けのフラグと、閉領域121の対応付けのフラグが、いずれも0から1に置き換えられ、これらの閉領域は、以後の閉領域の対応付けの推定の処理の対象から除かれることとなる。
【0175】
なお、図3の対応付けの欄を使わないこととすれば、閉領域の対応付けとして、1対多、多対1、多対多の閉領域の対応付けを許容することができる。この場合にも、対応付けが正しいか否かの指示をオペレータが入力するように促してもよい。
【0176】
<5> ハードウエア構成
図19は、本実施形態のハードウエア構成1700を示す図である。
【0177】
ハードウエア構成1700は、CPU1710、メモリ1720、通信制御部1730、入出力インタフェース1740、表示制御部1750、ドライブ制御部1760、及び印刷制御部1770を有する。
【0178】
そして、通信制御部1730には、インターネットなどのネットワークが接続される。入出力インタフェース1740には、入出力装置1742が接続される。表示制御部1750には、表示装置1752が接続される。ドライブ制御部1760は、記憶媒体1762を読み書きすることができる。印刷制御部1770には、プリンタ1772が接続される。
【0179】
記憶媒体1762は、RAM、ROM、CD−ROM、DVD−ROM、ハードディスク、メモリーカード等であってもよい。
【0180】
以上説明した実施形態の方法は,コンピュータにより実行され得る。また,実施形態の方法は,コンピュータに実行させるプログラムとして,インプリメントされてもよい。プログラムの一部又は前部は、オペレーティングシステムにより実行されてもよい。また、プログラムの一部がハードウエアにより実現されてもよい。プログラムは記憶媒体1762に記憶されてもよい。
【0181】
なお,上述の実施形態において,方法のステップ又はプログラムのステップは、矛盾のない限り,同時に,又は順序を入れ替えて実行されてもよい。
【0182】
以上の実施形態は,ハードウエアの装置としてインプリメントされ得る。
【0183】
以上の実施形態は,請求項に記載された発明を限定するものではなく,例示として取り扱われることは言うまでもない。
【0184】
なお、原画及び中割り画像に含まれる閉領域並びに背景は、領域の一例である。原画、中割り画像、背景は、画像を構成する要素の例である。境界線は、閉領域の輪郭の一部を構成する要素となり得る。
【符号の説明】
【0185】
Lab 境界線
Lac 境界線
Lbc 境界線
Lcd 境界線
Ldb 境界線
Lde 境界線
P12 削除する交点
P111 P11の位置に設定される交点
P112 P11の位置に設定される交点
【要約】      (修正有)
【課題】二次元アニメーションの作成工程における人的作業負担を軽減させることにより、二次元アニメーションの作成をよりスムーズに行うこと。
【解決手段】原画1の第1の閉領域1Aに対応する、第2の閉領域2Aを、原画2から特定する方法であって、原画1及び原画2の各々は、複数の画素で構成されており、前記複数の画素の各々は、特徴量を持つ。方法は、第1の閉領域に含まれる複数の画素の各々が持つ特徴量と、原画2に含まれる複数の画素の各々が持つ特徴量とから、第1の閉領域と、原画2に含まれる複数の閉領域2A〜2Cとの近似の度合いを求めるステップと、原画2に含まれる複数の閉領域のうち、最も近似していることを示す1つの閉領域を、第2の閉領域に特定するステップと、を有する。前記特徴量は、画素を含む閉領域の境界線から当該画素までの距離の関数である。
【選択図】図1
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19