特許第6835895号(P6835895)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社バンダイの特許一覧

特許6835895コンテンツ合成システム、プログラム、およびコンテンツ合成方法
<>
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000002
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000003
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000004
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000005
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000006
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000007
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000008
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000009
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000010
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000011
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000012
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000013
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000014
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000015
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000016
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000017
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000018
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000019
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000020
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000021
  • 特許6835895-コンテンツ合成システム、プログラム、およびコンテンツ合成方法 図000022
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6835895
(24)【登録日】2021年2月8日
(45)【発行日】2021年2月24日
(54)【発明の名称】コンテンツ合成システム、プログラム、およびコンテンツ合成方法
(51)【国際特許分類】
   G06T 19/00 20110101AFI20210215BHJP
   H04N 5/232 20060101ALI20210215BHJP
   H04N 5/222 20060101ALI20210215BHJP
【FI】
   G06T19/00 600
   H04N5/232 290
   H04N5/222 400
【請求項の数】17
【全頁数】45
(21)【出願番号】特願2019-51058(P2019-51058)
(22)【出願日】2019年3月19日
(65)【公開番号】特開2020-154535(P2020-154535A)
(43)【公開日】2020年9月24日
【審査請求日】2019年8月28日
(73)【特許権者】
【識別番号】000135748
【氏名又は名称】株式会社バンダイ
(74)【代理人】
【識別番号】110002066
【氏名又は名称】特許業務法人筒井国際特許事務所
(72)【発明者】
【氏名】菅野 友美子
(72)【発明者】
【氏名】瀬尻 瞭
【審査官】 山▲崎▼ 雄介
(56)【参考文献】
【文献】 特開2017−176750(JP,A)
【文献】 特開2009−148497(JP,A)
【文献】 特開2015−210397(JP,A)
【文献】 特開2009−258918(JP,A)
【文献】 特開2011−130386(JP,A)
【文献】 特開昭64−065691(JP,A)
【文献】 特開2015−016103(JP,A)
【文献】 特開2013−228959(JP,A)
【文献】 米国特許出願公開第2018/0043259(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 19/00−19/20
H04N 5/222−5/257
(57)【特許請求の範囲】
【請求項1】
動画に対しコンテンツを合成するコンテンツ合成システムであって、
識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、
利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、
前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、
前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、
前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、
前記動画のデータに、前記取得したコンテンツを合成する合成手段と、
を備え、
前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であ
複数の前記識別情報を用いて複数の前記コンテンツを前記動画に合成する際に、前記第1のコンテンツが合成されたことを条件として、前記第2のコンテンツが合成されるように制御する、
コンテンツ合成システム。
【請求項2】
動画に対しコンテンツを合成するコンテンツ合成システムであって、
識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、
利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、
前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、
前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、
前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、
前記動画のデータに、前記取得したコンテンツを合成する合成手段と、
を備え、
前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、
前記物品は、前記第1の物品の第1の箇所に前記第1の物品に関連付けられた前記第1の識別情報を有し、前記第2の物品の第2の箇所に前記第2の物品に関連付けられた前記第2の識別情報を有し、
前記動作は、前記物品の少なくとも一部を変位させる動作および変形させる動作の少なくともいずれか一方を含む動作であり、
前記第1の状態は、前記第1の物品に対し前記第2の物品の少なくとも一部が隠れるように配置され、前記第1の箇所が前記撮影装置によって撮影された画像内に写る状態であり、
前記第2の状態は、前記第1の物品に対し前記第2の物品の隠れていた部分が現われるように配置され、前記第2の箇所が前記撮影装置によって撮影された画像内に写る状態である、
コンテンツ合成システム。
【請求項3】
動画に対しコンテンツを合成するコンテンツ合成システムであって、
識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、
利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、
前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、
前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、
前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、
前記動画のデータに、前記取得したコンテンツを合成する合成手段と、
を備え、
前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、
前記物品は、前記第1の物品の第1の箇所に前記第1の物品に関連付けられた前記第1の識別情報を有し、前記第1の物品の第2の箇所に前記第2の物品に関連付けられた前記第2の識別情報を有し、
前記動作は、前記物品の少なくとも一部を変位させる動作および変形させる動作の少なくともいずれか一方を含む動作であり、
前記第1の状態は、前記第1の物品に対し前記第2の物品の少なくとも一部が隠れるように配置され、前記第1の箇所が前記撮影装置によって撮影された画像内に写る状態であり、
前記第2の状態は、前記第1の物品に対し前記第2の物品の隠れていた部分が現われるように配置され、前記第2の箇所が前記撮影装置によって撮影された画像内に写る状態である、
コンテンツ合成システム。
【請求項4】
動画に対しコンテンツを合成するコンテンツ合成システムであって、
識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、
利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、
前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、
前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、
前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、
前記動画のデータに、前記取得したコンテンツを合成する合成手段と、
を備え、
前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、
複数の前記識別情報を用いて複数の前記コンテンツを前記動画に合成する際に、前記第1のコンテンツの合成後に再び前記第1の識別情報を検出した場合には、前記第1のコンテンツの合成をしない、コンテンツ合成システム。
【請求項5】
動画に対しコンテンツを合成するコンテンツ合成システムであって、
識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、
利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、
前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、
前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、
前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、
前記動画のデータに、前記取得したコンテンツを合成する合成手段と、
を備え、
前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、
前記撮影装置によって撮影された画像において同時に2個以上の前記識別情報が検出される状態の場合には、前記コンテンツの合成を行わず、1個の前記識別情報のみが検出される状態になった場合には、前記コンテンツを合成する、コンテンツ合成システム。
【請求項6】
動画に対しコンテンツを合成するコンテンツ合成システムであって、
識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、
利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、
前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、
前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、
前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、
前記動画のデータに、前記取得したコンテンツを合成する合成手段と、
を備え、
前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、
前記撮影装置によって撮影された画像において同時に2個以上の前記識別情報が検出される状態の場合には、前記画像のフレームの中心位置に最も近い位置にある前記識別情報に関連付けられる前記コンテンツのみを合成する、コンテンツ合成システム。
【請求項7】
請求項1〜のいずれか一項に記載のコンテンツ合成システムにおいて、
前記第1のコンテンツおよび前記第2のコンテンツの少なくともいずれか一方は、複数のコンテンツを含み、前記複数のコンテンツの各合成の切り替えは、前記撮影装置によって撮影された撮影動画の画像内における前記識別情報の位置情報、および動作情報と、前記撮影動画の画像内における前記利用者の位置情報、動作情報、および音声情報と、前記コンテンツの合成時間情報、および前記コンテンツ間の切り替えの間隔時間情報との少なくともいずれか一つに従って制御される、
コンテンツ合成システム。
【請求項8】
請求項1〜のいずれか一項に記載のコンテンツ合成システムにおいて、
前記合成の後の前記動画のデータを記憶しておく合成動画データ記憶手段と、
前記利用者の操作に応じて前記合成動画データ記憶手段に記憶されている前記動画から選択された前記動画を再生する動画再生手段と、
を備える、コンテンツ合成システム。
【請求項9】
請求項1〜のいずれか一項に記載のコンテンツ合成システムにおいて、
前記撮影装置は、前記撮影の際に、前記撮影装置によって撮影された画像内の前記利用者の位置、および前記物品に対する前記動作に係わるガイダンス画像およびガイダンス音声の少なくともいずれか一方を含むガイダンスを提示可能であり、
前記撮影および前記合成の後に記憶された前記動画は、前記ガイダンス画像および前記ガイダンス音声を含まない、
コンテンツ合成システム。
【請求項10】
請求項1〜のいずれか一項に記載のコンテンツ合成システムにおいて、
前記コンテンツは、静止画像、動画像、音声、およびゲームの少なくともいずれか一つを含む、コンテンツ合成システム。
【請求項11】
請求項1〜10のいずれか一項に記載のコンテンツ合成システムにおいて、
前記コンテンツは、前記撮影装置によって撮影された画像のフレーム、前記フレーム内の前記物品または前記識別情報の付近の位置に対し重ね合わせるように合成されるエフェクト画像、または前記フレームに対し合成される画面エフェクトと、前記フレーム内の設定された位置に重ね合わせるように合成される文字画像とを含む、コンテンツ合成システム。
【請求項12】
請求項1〜11のいずれか一項に記載のコンテンツ合成システムにおいて、
前記物品の位置と前記識別情報の位置との位置関係が設定されており、
前記合成手段は、前記撮影装置によって撮影された画像から検出した前記識別情報の位置に基づいて、前記位置関係に応じて算出した前記物品の位置に対し、前記コンテンツを合成する、コンテンツ合成システム。
【請求項13】
動画に対しコンテンツを合成するコンテンツ合成システムであって、
識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、
利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、
前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、
前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、
前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、
前記動画のデータに、前記取得したコンテンツを合成する合成手段と、
を備え、
前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、
前記第1の物品は、前記第2の物品を収容する収容体であり、前記収容体の面に、前記識別情報または前記識別情報を検出するための表示物を有し、
前記動作は、前記第1の物品の内側から外側に前記第2の物品を取り出す動作を含む、
コンテンツ合成システム。
【請求項14】
動画に対しコンテンツを合成するコンテンツ合成システムであって、
識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、
利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、
前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、
前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、
前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、
前記動画のデータに、前記取得したコンテンツを合成する合成手段と、
を備え、
前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、
前記第1の物品または前記第2の物品は、多面体であり、前記多面体の複数の面のうちの第1の面に、複数の前記識別情報のうちの1つの識別情報または前記1つの識別情報を検出するための1つの表示物を有し、第2の面に、他の1つの識別情報または前記他の1つの識別情報を検出するための他の1つの表示物を有し、
前記1つの識別情報には前記コンテンツのうちの1つのコンテンツが関連付けられ、前記他の1つの識別情報には前記コンテンツのうちの他の1つのコンテンツが関連付けられており、
前記動作は、前記撮影装置に対し前記第1の面を向ける動作および前記第2の面を向ける動作の少なくとも一方の動作を含む、
コンテンツ合成システム。
【請求項15】
動画に対しコンテンツを合成するコンテンツ合成システムであって、
識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、
利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、
前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、
前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、
前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、
前記動画のデータに、前記取得したコンテンツを合成する合成手段と、
を備え、
前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、
前記第2の物品は、立体形象物であり、
前記第1の物品は、前記立体形象物を収容する収容体、前記立体形象物を支持する支持体、または前記立体形象物に装着される装着物であり、
前記動作は、前記収容体から前記立体形象物を取り出す動作、前記収容体に前記立体形象物を収容する動作、前記支持体から前記立体形象物を離す動作、前記支持体に前記立体形象物を固定する動作、前記立体形象物から前記装着物を外す動作、および前記立体形象物に前記装着物を装着する動作のうち少なくとも1つの動作を含む、
コンテンツ合成システム。
【請求項16】
請求項1〜15のいずれか一項に記載のコンテンツ合成システムにおけるコンピュータによって制御されるプログラムであって、
前記コンピュータに実行させるステップとして、
前記撮影装置が、前記利用者の操作に基づいて、前記物品を含む動画を撮影する撮影ステップと、
前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶ステップと、
前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出ステップと、
前記識別情報の検出に基づいて、前記識別情報に関連付けられた前記コンテンツを取得する取得ステップと、
前記動画のデータに、前記取得したコンテンツを合成する合成ステップと、
を備え、
前記合成ステップは、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であ
複数の前記識別情報を用いて複数の前記コンテンツを前記動画に合成する際に、前記第1のコンテンツが合成されたことを条件として、前記第2のコンテンツが合成されるように制御する、
プログラム。
【請求項17】
請求項1〜15のいずれか一項に記載のコンテンツ合成システムにおけるコンテンツ合成方法であって、
前記コンテンツ合成システムにおいて実行されるステップとして、
前記撮影装置が、前記利用者の操作に基づいて、前記物品を含む動画を撮影する撮影ステップと、
前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶ステップと、
前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出ステップと、
前記識別情報の検出に基づいて、前記記憶ステップから前記識別情報に関連付けられた前記コンテンツを取得する取得ステップと、
前記動画のデータに、前記取得したコンテンツを合成する合成ステップと、
を備え、
前記合成ステップは、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であ
複数の前記識別情報を用いて複数の前記コンテンツを前記動画に合成する際に、前記第1のコンテンツが合成されたことを条件として、前記第2のコンテンツが合成されるように制御する、
コンテンツ合成方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動画撮影やコンテンツ合成等の情報処理を行うシステム等の技術に関する。また、本発明は、玩具等の物品を用いて、拡張現実(Augmented Reality:AR)等の画像や音声(これらを総称してコンテンツと記載する場合がある)を合成する技術に関する。
【背景技術】
【0002】
従来、利用者がカメラによって現実の物品等を撮影した画像に対し、ARの画像や音声等のコンテンツを重ね合わせるように合成するシステム(コンテンツ合成システム等と記載する場合がある)が各種検討されている。画像は、動画像や静止画像を含む。例えば、物品にはマーカが設けられ、マーカには識別情報(IDと記載する場合がある)が対応付けて設定され、IDにはコンテンツが関連付けて設定されている。
【0003】
上記システムに係わる先行技術例として、特開2013−228959号公報(特許文献1)が挙げられる。特許文献1には、拡張現実感システムとして、以下の旨が記載されている。このシステムは、例えば玩具であるフィギュアの台座の特定の位置に設けられたマークを携帯端末のカメラで認識し、そのマークに対応付けて用意されている演出用の映像等を生成する。このシステムは、携帯端末の画面にフィギュアとそれに関連した演出用の映像等とを重ね合わせて表示等する。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2013−228959号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上記コンテンツ合成システムに関して、コンテンツ合成の際に、対象または候補として、複数の物品、複数のマーカ(対応する複数のID)、および複数のコンテンツが存在する場合がある。従来技術例のシステムは、複数のコンテンツ合成をどのように制御すれば好適であるかについて、検討が不十分である。本発明は、上記コンテンツ合成システム等の技術に関して、複数のコンテンツ合成を好適に制御できる技術を提供する。
【課題を解決するための手段】
【0006】
本発明のうち代表的な実施の形態は、以下に示す構成を有する。一実施の形態のコンテンツ合成システムは、動画に対しコンテンツを合成するコンテンツ合成システムであって、識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、前記動画のデータに、前記取得したコンテンツを合成する合成手段と、を備え、前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能である。また、一実施の形態のコンテンツ合成システムは、動画に対しコンテンツを合成するコンテンツ合成システムであって、識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、よび前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、前記動画のデータに、前記取得したコンテンツを合成する合成手段と、を備え、前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、複数の前記識別情報を用いて複数の前記コンテンツを前記動画に合成する際に、前記第1のコンテンツが合成されたことを条件として、前記第2のコンテンツが合成されるように制御する。また、一実施の形態のコンテンツ合成システムは、動画に対しコンテンツを合成するコンテンツ合成システムであって、識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、前記動画のデータに、前記取得したコンテンツを合成する合成手段と、を備え、前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、前記物品は、前記第1の物品の第1の箇所に前記第1の物品に関連付けられた前記第1の識別情報を有し、前記第2の物品の第2の箇所に前記第2の物品に関連付けられた前記第2の識別情報を有し、前記動作は、前記物品の少なくとも一部を変位させる動作および変形させる動作の少なくともいずれか一方を含む動作であり、前記第1の状態は、前記第1の物品に対し前記第2の物品の少なくとも一部が隠れるように配置され、前記第1の箇所が前記撮影装置によって撮影された画像内に写る状態であり、前記第2の状態は、前記第1の物品に対し前記第2の物品の隠れていた部分が現われるように配置され、前記第2の箇所が前記撮影装置によって撮影された画像内に写る状態である。また、一実施の形態のコンテンツ合成システムは、動画に対しコンテンツを合成するコンテンツ合成システムであって、識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、前記動画のデータに、前記取得したコンテンツを合成する合成手段と、を備え、前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、前記物品は、前記第1の物品の第1の箇所に前記第1の物品に関連付けられた前記第1の識別情報を有し、前記第1の物品の第2の箇所に前記第2の物品に関連付けられた前記第2の識別情報を有し、前記動作は、前記物品の少なくとも一部を変位させる動作および変形させる動作の少なくともいずれか一方を含む動作であり、前記第1の状態は、前記第1の物品に対し前記第2の物品の少なくとも一部が隠れるように配置され、前記第1の箇所が前記撮影装置によって撮影された画像内に写る状態であり、前記第2の状態は、前記第1の物品に対し前記第2の物品の隠れていた部分が現われるように配置され、前記第2の箇所が前記撮影装置によって撮影された画像内に写る状態である。また、一実施の形態のコンテンツ合成システムは、動画に対しコンテンツを合成するコンテンツ合成システムであって、識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、前記動画のデータに、前記取得したコンテンツを合成する合成手段と、を備え、前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、複数の前記識別情報を用いて複数の前記コンテンツを前記動画に合成する際に、前記第1のコンテンツの合成後に再び前記第1の識別情報を検出した場合には、前記第1のコンテンツの合成をしない。また、一実施の形態のコンテンツ合成システムは、動画に対しコンテンツを合成するコンテンツ合成システムであって、識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、前記動画のデータに、前記取得したコンテンツを合成する合成手段と、を備え、前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、前記撮影装置によって撮影された画像において同時に2個以上の前記識別情報が検出される状態の場合には、前記コンテンツの合成を行わず、1個の前記識別情報のみが検出される状態になった場合には、前記コンテンツを合成する。また、一実施の形態のコンテンツ合成システムは、動画に対しコンテンツを合成するコンテンツ合成システムであって、識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、前記動画のデータに、前記取得したコンテンツを合成する合成手段と、を備え、前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、前記撮影装置によって撮影された画像において同時に2個以上の前記識別情報が検出される状態の場合には、前記画像のフレームの中心位置に最も近い位置にある前記識別情報に関連付けられる前記コンテンツのみを合成する。また、一実施の形態のコンテンツ合成システムは、動画に対しコンテンツを合成するコンテンツ合成システムであって、識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、前記動画のデータに、前記取得したコンテンツを合成する合成手段と、を備え、前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、前記第1の物品は、前記第2の物品を収容する収容体であり、前記収容体の面に、前記識別情報または前記識別情報を検出するための表示物を有し、前記動作は、前記第1の物品の内側から外側に前記第2の物品を取り出す動作を含む。また、一実施の形態のコンテンツ合成システムは、動画に対しコンテンツを合成するコンテンツ合成システムであって、識別情報として第1の識別情報および第2の識別情報を有し、
第1の物品および第2の物品を含む物品と、利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、前記動画のデータに、前記取得したコンテンツを合成する合成手段と、を備え、前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、前記第1の物品または前記第2の物品は、多面体であり、前記多面体の複数の面のうちの第1の面に、複数の前記識別情報のうちの1つの識別情報または前記1つの識別情報を検出するための1つの表示物を有し、第2の面に、他の1つの識別情報または前記他の1つの識別情報を検出するための他の1つの表示物を有し、前記1つの識別情報には前記コンテンツのうちの1つのコンテンツが関連付けられ、前記他の1つの識別情報には前記コンテンツのうちの他の1つのコンテンツが関連付けられており、前記動作は、前記撮影装置に対し前記第1の面を向ける動作および前記第2の面を向ける動作の少なくとも一方の動作を含む。また、一実施の形態のコンテンツ合成システムは、動画に対しコンテンツを合成するコンテンツ合成システムであって、識別情報として第1の識別情報および第2の識別情報を有し、第1の物品および第2の物品を含む物品と、 利用者の操作に基づいて、前記物品を含む動画を撮影する撮影装置と、前記コンテンツとして前記第1の識別情報に関連付けられた第1のコンテンツ、および前記第2の識別情報に関連付けられた第2のコンテンツを記憶する記憶手段と、前記撮影装置に撮影された動画のデータから前記識別情報を検出する検出手段と、前記識別情報の検出に基づいて、前記記憶手段から前記識別情報に関連付けられた前記コンテンツを取得する取得手段と、前記動画のデータに、前記取得したコンテンツを合成する合成手段と、を備え、前記合成手段は、前記第1の識別情報を検出した第1の状態において前記第1のコンテンツを合成可能であり、前記利用者による前記物品に対する動作に基づいて、前記動画内の画像の状態が前記第1の状態から前記第2の識別情報を検出した第2の状態に変化した後、前記第2の状態において前記第2のコンテンツを合成可能であり、前記第2の物品は、立体形象物であり、前記第1の物品は、前記立体形象物を収容する収容体、前記立体形象物を支持する支持体、または前記立体形象物に装着される装着物であり、前記動作は、前記収容体から前記立体形象物を取り出す動作、前記収容体に前記立体形象物を収容する動作、前記支持体から前記立体形象物を離す動作、前記支持体に前記立体形象物を固定する動作、前記立体形象物から前記装着物を外す動作、および前記立体形象物に前記装着物を装着する動作のうち少なくとも1つの動作を含む。
【発明の効果】
【0007】
本発明のうち代表的な実施の形態によれば、複数のコンテンツ合成を好適に制御でき、例えば興趣性のある動画の作成等を実現できる。
【図面の簡単な説明】
【0008】
図1】本発明の実施の形態1のコンテンツ合成システムの構成を示す図である。
図2】実施の形態1で、撮影装置の機能ブロック構成を示す図である。
図3】実施の形態1で、撮影方式の例を示す図である。
図4】実施の形態1で、物品の構成の第1例を示す図である。
図5】実施の形態1で、コンテンツ合成動画の構成概要を示す図である。
図6】実施の形態1で、動画の設定情報の例を示す図である。
図7】実施の形態1で、動画の構成詳細を示す図である。
図8】実施の形態1で、ガイダンスの例を示す図である。
図9】実施の形態1で、アプリケーションの画面表示例を示す図である。
図10】実施の形態1で、順序制御例を示す図である。
図11】実施の形態1で、他の順序制御例を示す図である。
図12】実施の形態1の変形例1における物品の構成例を示す図である。
図13】本発明の実施の形態2のコンテンツ合成システムにおける、物品の構成の第2例を示す図である。
図14】実施の形態2で、コンテンツ合成動画の構成概要を示す図である。
図15】本発明の実施の形態3のコンテンツ合成システムにおける、物品の構成の第3例を示す図である。
図16】実施の形態3で、コンテンツ合成動画の構成概要を示す図である。
図17】本発明の実施の形態4のコンテンツ合成システムにおける、物品の構成の第4例、およびコンテンツ合成動画の画像例を示す図である。
図18】本発明の実施の形態5のコンテンツ合成システムにおける、物品の構成の第5例を示す図である。
図19】実施の形態5で、コンテンツ合成動画の画像例を示す図である。
図20】本発明の実施の形態6のコンテンツ合成システムにおける、物品の構成の第6例を示す図である。
図21】実施の形態6で、コンテンツ合成動画の画像例を示す図である。
【発明を実施するための形態】
【0009】
以下、本発明の実施の形態を図面に基づいて詳細に説明する。
【0010】
(実施の形態1)
図1図12を用いて、本発明の実施の形態1のコンテンツ合成システム、プログラム、物品、撮影装置、およびコンテンツ合成方法について説明する。実施の形態1のコンテンツ合成システムは、プログラム、物品、および撮影装置を含むシステムである。実施の形態1のコンテンツ合成方法は、実施の形態1のコンテンツ合成システムにおいて実行されるステップを有する方法である。実施の形態1のプログラムは、実施の形態1の撮影装置等のコンピュータに処理を実行させるプログラムである。
【0011】
[コンテンツ合成システム]
図1は、実施の形態1のコンテンツ合成システムの構成を示す。このコンテンツ合成システムは、主に、撮影装置1と物品2とを有する。利用者は、撮影装置1および物品2を操作する。利用者は、遊戯者や撮影者であり、実施の形態1では、2種類の利用者として、第1の利用者である子どもと、第2の利用者である親や友達とがいる。第1の利用者は、物品2に対する動作を行い、撮影装置1による撮影動画の被写体、言い換えるとアクターとなる利用者である。第2の利用者は、第1の利用者をサポートする。第1の利用者または第2の利用者は、撮影装置1を操作して動画を撮影する。撮影方式は、第1の利用者が撮影装置1を操作して自分を撮影する自分撮影(いわゆる自撮り)の場合と、第2の利用者が撮影装置1を操作して第1の利用者を撮影する他者撮影の場合とがある。いずれの撮影方式でもよく、利用者の選択した方式が利用できる。第1の利用者は、遊戯として、現実の物品2等を含む画像に対するコンテンツ合成を含む動画撮影、およびそれに伴う動画実況やゲーム等を行う。第1の利用者や第2の利用者、あるいは通信網を介した他の利用者は、第1の利用者によって作成されたコンテンツ合成後の動画(コンテンツ合成動画と記載する場合がある)を、再生して見て楽しむことができる。
【0012】
撮影装置1は、例えばスマートフォン等の携帯情報端末であるが、デジタルビデオカメラ等の他の装置でもよい。撮影装置1は、カメラ60と、タッチパネル50等の表示装置および入力装置と、実施の形態1のプログラムとを備える。撮影装置1は、無線通信機能を備え、他の機器8や事業者のサーバ9との通信も可能である。他の機器8は、例えば利用者の宅内にあるPCやテレビ等の機器である。事業者は、コンテンツ合成システムや物品2を提供する事業者あるいは通信事業者等である。実施の形態1のプログラムは、カメラ60によって撮影された動画に対しAR等のコンテンツを合成するアプリケーションプログラムである。このプログラムは、例えば撮影装置1が通信網を介して事業者のサーバ9のアプリケーションプログラム91からダウンロードによって取得でき、撮影装置1内にインストールされる。撮影装置1は、プログラムに従った処理に基づいて、コンテンツ合成機能を実現し、利用者に対し提供する。コンテンツ合成機能は、利用者が撮影装置1によって撮影した動画に対しコンテンツを合成することでコンテンツ合成動画を生成する機能である。
【0013】
撮影装置1は、利用者の操作に基づいて、カメラ60によって物品2および第1の利用者を含む被写体を動画(撮影動画と記載する場合がある)として撮影する。撮影装置1は、撮影に伴い、撮影中の撮影動画の画像に対し、リアルタイムで、画像や音声等のコンテンツを合成してコンテンツ合成動画を生成し、再生する。再生は、画像表示や音声出力を含む。撮影装置1は、タッチパネル50の表示画面に動画を表示する。また、撮影装置1は、コンテンツ合成動画を保存し、利用者の操作に基づいて再度再生する。
【0014】
撮影装置1は、1台の機器とするが、これに限らず、複数の機器で構成されてもよい。例えば、撮影装置1と他の機器8またはサーバ9とが通信網を介して連携することでコンテンツ合成機能が実現されてもよい。撮影装置1は、撮影動画またはコンテンツ合成動画のデータを、他の機器8またはサーバ9に転送して保存してもよい。また、撮影装置1は、他の機器8やサーバ9に保存されている動画やコンテンツ等のデータを参照してもよい。事業者のサーバ9は、DB等に、アプリケーションプログラム91、動画データ92、およびコンテンツデータ93等のデータや情報を保持している。動画データ92は、利用者の撮影装置1で撮影された撮影動画またはコンテンツ合成動画である。利用者は、ユーザ設定に応じて、撮影装置1内または他の機器8やサーバ9に動画を保存することができ、動画を保存しないこともできる。コンテンツデータ93は、コンテンツ合成のためのソースとして用意されているコンテンツのデータである。
【0015】
コンテンツは、画像、音声、ゲーム、およびプログラム等を含む総称である。画像は、静止画像および動画像を含み、文字画像、アニメーション、プログラムによる画像、エフェクト画像、および画面エフェクト等を含む。ゲームは、後述のARゲームであり、そのゲームを実現するためのプログラムやデータを含む。
【0016】
物品2は、例えば事業者が販売する商品の例としての玩具である。物品2は、複数の物品で構成され、図1の例では第1の物品21と第2の物品22とで構成される。第1の物品21は、包装袋(言い換えるとパッケージ)であり、収容体の一種である。第2の物品22は、玩具本体としてのカード(言い換えるとカード玩具)である。最初の第1の状態では、第1の物品21である包装袋の中に、第2の物品22であるカードが収容されて封が閉じられている。
【0017】
物品2の一部の箇所には、コンテンツ合成を制御するための識別情報(ID)またはそのIDを検出するためのマーカ等の表示物を有する。IDまたは表示物は、例えばAR方式に対応するマーカやコード(例えばQRコード(登録商標)やバーコード)でもよいし、バーコード等を使用しない所定のデザインの画像をマーカとしてもよいし、2次元または3次元の物品のデザインそのもののデザインをマーカとしてもよい。物品2を構成する複数の物品、例えば第1の物品21と第2の物品22は、複数のID、例えば第1のID31と第2のID32を有する。複数の物品と複数のIDは、所定の関係を有する。図1の例では、関係として、第1の物品21が第1のID31を有し、第2の物品22が第2のID32を有する。第1の物品21の外面のうちの所定の位置の第1の箇所に第1のID31を有する。第2の物品22の外面のうちの所定の位置の第2の箇所に第2のID32を有する。第1のID31には第1のコンテンツが関連付けられており、第2のID32には第2のコンテンツが関連付けられている。
【0018】
第1の利用者は、撮影装置1が提供するガイダンスに従って、物品2の操作として所定の動作を行う。所定の動作は、図1の例では、包装袋を開封して包装袋からカードを取り出す動作である。この動作に伴って、後述(図4)のように、カメラ60の画像内でのID(対応するマーカ)の見え方の状態が変化する。この変化に伴って、撮影装置1によって自動的に所定の順序で複数のIDが検出される。そのIDの検出の順序に応じて、撮影動画に対し複数のコンテンツが所定の順序で合成される。これにより、利用者は、容易な動作によって、所定の順序での複数のコンテンツ合成を含む動画を得ることができる。
【0019】
[撮影装置]
図2は、撮影装置1であるスマートフォンの機能ブロック構成を示す。撮影装置1は、プロセッサ101、メモリ102、タッチパネル50、カメラ60、操作ボタン71、マイク72、スピーカ73、およびセンサ74等を備え、それらはバス等を介して相互に接続されている。プロセッサ101は、公知のCPU、ROM、RAM等で構成され、撮影装置1の全体および各部を制御する。プロセッサ101は、実施の形態1のプログラムに基づいたソフトウェアプログラム処理によって構成される処理部として、設定部11、撮影部12、検出部13、コンテンツ取得部14、合成部15、動画再生部16、ガイド部17等を有する。
【0020】
メモリ102は、不揮発性記憶装置等で構成され、プロセッサ101が扱う各種のデータや情報が記憶される。メモリ102は、例えば、設定情報記憶部51、撮影動画データ記憶部52、コンテンツデータ記憶部53、合成動画データ記憶部54、アプリケーションプログラム120等を有する。アプリケーションプログラム120は、実施の形態1のプログラムに対応し、例えばサーバ9のアプリケーションプログラム91から取得されたデータである。
【0021】
タッチパネル50は、表示装置および入力装置であり、表示画面に対するタッチ入力操作を受け付け、表示画面に動画等を表示する。操作ボタン71は、入力操作を受け付ける入力装置である。マイク72は、音声を入力し録音する音声入力装置である。スピーカ73は、音声を出力する音声出力装置である。センサ73は、公知の各種のセンサであり、例えば、GPS受信器、電子コンパス、ジャイロセンサ、加速度センサ等がある。撮影装置1は、これらのセンサ73を用いて、撮影装置1の位置、向き、加速度等を検出し、制御に利用してもよい。
【0022】
カメラ60は、インカメラ61とアウトカメラ62とを含む。インカメラ61は、スマートフォンのタッチパネル50の表示画面を持つ側である前面に設けられているカメラである。アウトカメラ62は、前面の反対側の背面に設けられているカメラである。カメラ60は、レンズを通じた入射光に基づいて撮像素子によって撮像した画像のデータを取得する。
【0023】
[処理概要]
図2の構成に基づいて、撮影装置1によるコンテンツ合成機能の処理概要は以下の通りである。設定部11は、予め、利用者(例えば第2の利用者)の操作に基づいて、動画撮影およびコンテンツ合成に係わる設定情報を設定し、設定情報記憶部51に保存する。設定情報は、コンテンツ合成機能に関するユーザ設定情報を含む。ユーザ設定情報は、例えば、複数の機能のうちどの機能を利用するかの設定や詳細設定等の情報である。撮影部12は、コンテンツ合成前の動画を撮影する処理を行う部分である。撮影部12は、カメラ60の制御によって撮影した撮影動画のデータを、撮影動画データ記憶部52に記憶する。検出部13は、撮影動画のデータから、コンテンツ合成のためのIDを検出する処理を行う部分である。例えば、検出部13は、撮影動画の画像から、所定のマーカ(例えばQRコード)または所定の画像の部分を検出し、検出した部分に対応付けて設定されているIDを検出する。例えば、検出部13は、QRコードの解読によって、そのコードに記述されているIDを含む情報を検出する。
【0024】
コンテンツ取得部14は、検出部13によって検出されたIDから、そのIDに関連付けて設定されているコンテンツのデータを取得する。コンテンツデータ記憶部53には、各コンテンツのデータがIDと関連付けて記憶されている。撮影装置1は、サーバ9のコンテンツデータ93からコンテンツデータを取得してコンテンツデータ記憶部53に格納してもよい。コンテンツ取得部14は、IDをキーに、コンテンツデータ記憶部53からそのIDに関連付けられるコンテンツデータを読み出して取得する。合成部15は、撮影動画の画像に対し、コンテンツ取得部14によって取得されたコンテンツデータを合成することにより、コンテンツ合成動画を生成し、合成動画データ記憶部54に格納する。
【0025】
動画再生部16は、撮影動画データ記憶部52の撮影動画のデータ、または合成動画データ記憶部54のコンテンツ合成動画のデータを読み出し、再生として、タッチパネル50の表示画面への表示、およびスピーカ73からの音声出力を行う。動画再生部16は、撮影中のリアルタイムでの撮影動画またはコンテンツ合成動画の再生が可能である。また、動画再生部16は、撮影および合成後でも、利用者の操作に基づいて、選択されたコンテンツ合成動画の再生が可能である。ガイド部17は、利用者に対し、動画撮影およびコンテンツ合成に係わるガイダンスを提供する部分である。ガイド部17は、利用者による撮影の際、適宜に、タッチパネル50の表示画面にガイダンス画像を表示し、マイク72からガイダンス音声を出力する。
【0026】
[撮影方式]
図3は、撮影装置1を用いた撮影方式の例を示す。(A),(B)は、利用者が撮影装置1であるスマートフォンを手に持った状態で撮影を行う場合の例を示す。(A)は、インカメラ61を用いた自分撮影のモードの場合を示し、(B)は、アウトカメラ62を用いた他者撮影のモードの場合を示す。(A)の場合、撮影者は第1の利用者である子どもであり、被写体は、物品2および第1の利用者自身を含む。(B)の場合、撮影者は第2の利用者である親または友達等であり、被写体は、物品2および第1の利用者を含む。撮影装置1は、自分撮影モードと他者撮影モードとの各モードでの撮影機能を有し、利用者がモードを選択して利用可能である。撮影装置1は、選択されたモードに対応したガイダンスを含む撮影制御を行う。撮影中、タッチパネル50の表示画面の全体または一部の領域には、動画が表示される。
【0027】
(A)の自分撮影モードは、撮影装置1のカメラの撮影方向が、表示画面側の第1の利用者を向くモードであり、スマートフォンの場合にはインカメラ61を用いるモードである。(A)の自分撮影モードでは、第1の利用者は、撮影装置1を操作し、物品2に対する動作を行いながら、インカメラ61を物品2および第1の利用者自身が写るように向けた状態で自分撮影を行う。
【0028】
(B)の他者撮影モードは、撮影装置1のカメラの撮影方向が、表示画面側と反対側であるモードであり、スマートフォンの場合にはアウトカメラ62を用いるモードである。(B)の他者撮影モードでは、第2の利用者は、撮影装置1を操作し、アウトカメラ62を物品2および第1の利用者が写るように向けた状態で他者撮影を行う。第1の利用者は、物品2に対する動作を行い、撮影動画内に被写体、アクターとして写される。
【0029】
(C)は、利用者が撮影装置1であるスマートフォンを台座81に立てかけて固定した状態で撮影を行う場合を示す。台座81は、任意の物が利用でき、スマートフォン専用の固定台等の器具を利用してもよいし、例えば物品2の一部として提供される台座を利用してもよいし、家の壁等を利用してもよい。(C)の場合、第1の利用者は、台座81に固定されている撮影装置1のインカメラ61を物品2および第1の利用者に向けた状態で撮影する。
【0030】
[物品構成の第1例]
図4は、物品2の構成の第1例を示す。実施の形態1のコンテンツ合成システムに適用される物品2は、コンテンツ合成順序制御に対応した所定の構成を有し、具体例としては各種の構成例が可能である。この第1例では、物品2は、第1の物品21として収容体である包装袋を有し、第2の物品22として被収容物であるカードを有する。説明上、カメラ60の画像での物品2の見え方の状態として、大別して、第1の状態、および第2の状態を有する。第1の状態と第2の状態との間には、過渡状態を有する。なお、図4等で、説明上の方向、座標系として、(X,Y,Z)を示す。X方向およびY方向は、カメラ60の画像を構成する直交する2つの方向であり、横をX方向、縦をY方向とする。Z方向は、X方向およびY方向に対し垂直な方向であり、カメラ60の撮影方向に対応する。
【0031】
第1例では、単純な場合として、物品2は、構成要素である物品毎に1個のIDを有し、ID毎に異なるコンテンツが関連付けられている。すなわち、第1の物品21には第1のID31を有し、第2の物品22には第2のID32を有する。第1の状態では、第1の物品21である包装袋の中に、第2の物品22であるカードの全体が収容され、封が閉じられている。包装袋は、概略矩形形状を持ち、外面として表面と裏面とを有する。包装袋の表面には、所定のデザインとして、カード玩具の名称や、フィクション上のキャラクターの画像等が記載されている。包装袋は、例えば表面のうちの所定の位置の第1の箇所に、第1のID31に対応する第1のマーカ41が設けられている。第1のマーカ41は、第1のID31を含む情報が、QRコード等の形式で実装された第1の表示物である。第1の状態では、カード全体が包装袋内に隠れており、利用者には見えない。第1の状態では、カメラ60の画像において、包装袋の表面の第1のマーカ41が写っており、第2のマーカ42が写っていない。すなわち、第1の状態は、カメラ60の画像において第1のID31が検出でき、かつ第2のID32が検出できない状態である。
【0032】
利用者は、物品2に対する所定の動作として、包装袋の開封および包装袋からのカードの取り出しを行う。特に、第1の利用者である子どもは、遊び方のマニュアルやガイダンスに従って、自分撮影モードの場合、撮影装置1によって物品2および自分を撮影しながら、物品2に対する所定の動作を行う。これにより、第1の状態から、所定の動作を含む過渡状態を経て、第2の状態に変化する。過渡状態は、図示の例のように包装袋からカードが取り出されている途中の状態や、カメラ60の画像内に包装袋とカードの両方が写っている状態等である。この過渡状態の例では、包装袋からカードの一部が外に現れており、他の一部は包装袋内に隠れている。
【0033】
第2の状態では、第1の物品21である開封後の包装袋から外側に、第2の物品22であるカードの全体が取り出されている。カードは、概略矩形形状を持ち、外面として表面と裏面とを有する。カードの表面には、所定のデザインとして、カードの名称や種類や説明、キャラクターおよび後述のアイテム(例えば傘)等の画像等が記載されている。カードの表面のうちの所定の位置の第2の箇所には、第2のID32に対応する第2のマーカ42を有する。第2のマーカ42は、第2のID32を含む情報が、QRコード等の形式で実装された第2の表示物である。第2の状態では、カード全体が外に現れて利用者に見えている。第2の状態では、カメラ60の画像において、カードの表面の第2のマーカ42が写っており、包装袋についてはカメラ60の画像の範囲外にあるため第1のマーカ41が写っていない。すなわち、第2の状態は、カメラ60の画像において第2のID32が検出でき、かつ第1のID31が検出できない状態である。
【0034】
設定情報記憶部51(図2)には、第1のID31に第1のコンテンツC1が関連付けて設定され、第2のID32に第2のコンテンツC2が関連付けて設定されている。上記状態の変化に伴い、撮影装置1による撮影動画では、第1のID31、第2のID32の順序で2個のIDが検出される。撮影装置1は、撮影動画のうち、第1の状態の時の第1の画像に対し、第1のID31の検出に応じた第1のコンテンツC1を合成する。次に、撮影装置1は、第2の状態の時の第2の画像に対し、第2のID32の検出に応じた第2のコンテンツC2を合成する。これにより、撮影動画に基づいて生成されたコンテンツ合成動画は、所定の順序での複数のコンテンツとして、第1のコンテンツC1、第2のコンテンツC2がその順序で合成されている。この際、第1の利用者である子どもは、複数のID(対応するマーカ)を所定の順序で撮影するといった手順を意識する必要は無く、物品2の構成に対応した容易な動作によって、コンテンツを合成した動画を実現できる。
【0035】
なお、IDを検出する方式は、マーカ方式に限らず適用でき、例えば画像認識方式を適用してもよい。この方式では、撮影装置1は、カメラ60の画像から、画像認識処理によって、物品2の一部の所定の形状や色等を持つ表示物を検出する。そして、撮影装置1は、その表示物に対応付けて設定されているIDを検出する。あるいは、撮影装置1は、直接的に各物品の全体の形状等を検出することでIDを検出してもよい。また、例えば、カードの表面に第2のマーカ42を設けずに、カード毎に持つ傘等のアイテムの画像をマーカおよびIDとして利用してもよい。
【0036】
カードの外形は、概略矩形形状に限らず各種可能である。カードの表面や裏面のデザインは、各種可能である。カードの裏面は、例えば何も情報の記載が無くてもよいし、一般的な商品管理用のバーコード(ID検出用のマーカではない)等が設けられてもよい。カードの裏面には、商品説明、例えばカード説明や後述のゲームのルール説明、動画撮影や動画実況に関するヒントやコツ、マニュアルやガイダンス等の情報が記載されていてもよい。物品2には、遊び方に関するマニュアル用紙が付属してもよいし、撮影装置1やサーバ9がマニュアル情報を提供してもよい。
【0037】
[コンテンツ合成動画概要]
図5は、図4の物品2の構成に対応した、コンテンツ合成動画の構成概要を示す。図5は、ある撮影動画およびコンテンツ合成動画を構成するうちの一部の画像の状態遷移を示す。(A)は、図4の第1の状態に対応した、合成前の第1の画像A1、および合成後の第1の画像A2を示す。第1の画像A2は、第1の画像A1に第1のコンテンツC1が合成されている。(B)は、第2の状態に対応した、合成前の第2の画像B1、および合成後の第2の画像B2を示す。第2の画像B2は、第2の画像B1に第2のコンテンツC2が合成されている。なお、図5は過渡状態の画像を省略している。ある撮影動画において、時間軸上、第1の画像A1、第2の画像B1の順序で遷移する。対応するコンテンツ合成動画において、時間軸上、第1の画像A2、第2の画像B2の順序で遷移する。なお、時間軸上、各画像のデータには、対応する各音声のデータも付属している。音声は、第1の利用者の発声による実況等の音声である。また、各コンテンツには、画像のみならず、対応する音声(例えばBGMや効果音等)も含まれる。
【0038】
合成前の第1の画像A1は、第1の利用者である子どもと、手に持たれた第1の物品21である包装袋とが写っている。第1の利用者は、包装袋の表面をカメラ60に向けている。これにより、第1の状態として、第1のマーカ41から第1のID31が検出できる状態である。合成後の第1の画像A2は、合成前の第1の画像A1上に第1のコンテンツC1が重ね合わせられるように合成されている。本例では、第1のコンテンツC1は、コンテンツC11,C12,C13を含む複数のコンテンツ(サブコンテンツと記載する場合がある)で構成されている。コンテンツC11は、ARによる演出用のエフェクト画像、言い換えると重ね合わせ画像であり、例えば集中線による画像である。この画像は、第1のID31の付近の第1の物品21を中心として複数の線が放射状に拡がる画像である。なお、使用するエフェクト画像の種類は、利用者が選択して設定できる。コンテンツC1の画像は、カメラ60の画像における第1の利用者および第1の物品21等を後景として、前景に重ね合わせるように合成されている。エフェクト画像は、アニメーション等、動いたり変化したりする短い動画像としてもよい。エフェクト画像は、設定に応じて、後景が見えない非透過画像としてもよいし、後景が見える半透過画像としてもよい。エフェクト画像は、画像フレーム内の一部に表示されてもよいし、画像フレーム全体に表示されてもよい。エフェクト画像は、後述の画面エフェクトとしてもよい。
【0039】
コンテンツC12は、文字画像の第1例であり、画像フレーム内の設定された所定の位置、例えば下辺領域に、配置され合成される。コンテンツC12は、例えば「きょうしょうかいするのは○○○です!!」といった説明文字列の画像である。第1の利用者は、実況の音声として、説明文字列と同様の発声を行ってもよいし、他の発声を行ってもよい。コンテンツC13は、文字画像の第2例であり、画像フレーム内の設定された所定の位置、例えば上辺領域に、配置され合成される。コンテンツC13は、例えば「チャンネルとうろくしてね♪」といった説明文字列の画像である。このような文字画像の説明文字列は、利用者が選択して設定でき、文字画像の合成を省略することもできる。物品2に対して演出を付与するためのエフェクト画像は、物品2の位置に応じて表示されることが好ましいが、文字画像の説明文字列は、物品2の位置に応じて表示すると、説明全体が画像フレーム内に表示されない可能性があるため、画像フレーム内の設定された所定の位置に表示することにより、説明全体が表示されるようにしておくことが好ましい。
【0040】
なお、このチャンネルは、事業者のサービス上で実際に利用者毎の動画のチャンネルとして用意されて利用者間の登録を可能としてもよい。あるいは、実際にはこのチャンネルは用意されず、子どもが大人の動画配信者を模倣する(なりきる)際の演出として用いてもよい。実施の形態1のコンテンツ合成システムでは、第1の利用者である子どもは、大人の動画配信者を模倣する遊戯として、動画撮影および実況等を行う。
【0041】
合成前の第2の画像B1は、第1の利用者である子どもと、手に持たれた第2の物品22であるカードとが写っている。第1の利用者は、カードの表面をカメラ60に向けている。これにより、第2の状態として、第2のマーカ42から第2のID32が検出できる状態である。合成後の第2の画像B2は、合成前の第2の画像B1上に第2のコンテンツC2が重ね合わせられるように合成されている。本例では、第2のコンテンツC2は、複数のコンテンツ(言い換えると複数のサブコンテンツ)で構成されており、そのうちの最初の部分(第1のサブコンテンツ)は、コンテンツC21,C22を含む。コンテンツC21は、文字画像の例であり、コンテンツC22は、演出用のエフェクト画像の例である。コンテンツC21の文字画像は、例えば「ぬらすな!」であり、後述のゲームのお題の文となっており、猫が濡れないように傘を使って雨から守れという意味である。コンテンツ21の文字画像は、例えば第2のID32の付近の第2の物品22に対し、上側の位置または画像フレーム内の上辺領域に配置され合成されている。コンテンツC22のエフェクト画像は、例えば雲状の吹き出しの画像であり、コンテンツC21の文字画像を囲うように配置されている。コンテンツC2の画像は、カメラ60の画像における第1の利用者および第2の物品22等を後景として、前景に重ね合わせるように合成されている。第2のコンテンツC2の最初の部分は、本例に限らず、後述のゲームのルール説明や登場キャラクターの画像、ゲーム開始のカウントダウン等の文字画像、および対応する音声等を含んでもよい。
【0042】
[設定情報]
図6は、図5等に対応したコンテンツ合成動画の構成に関する設定情報の設定例を示す。(A)は、前述の設定情報記憶部51に記憶される設定情報の例を示す。この設定情報には、動画(対応するコンテンツ合成動画)のカットやタイムスケジュール等を含む台本が設定されている。(A)は、縦方向を時間軸とし、時点をt1等で示し、時間をT1等で示す。ある動画は、複数の部分(いわゆるカット)で構成される。本例の動画は、時間T1の第1のカットから、時間T7の第7のカットまで、概略的に7個のカットで構成される。予め用意されている台本に基づいて、カットの数や時間等については利用者が選択して設定できる。
【0043】
時点t1から時点t2までの時間T1の第1のカットは、オープニングであり、省略も可能である。時点t2から時点t3までの時間T2の第2のカットは、前述の第1の状態の第1の画像に対応し、第1の利用者が開封前の第1の物品21を紹介し、第1のコンテンツのうちの第1のサブコンテンツ(例えば図5の第1のコンテンツC1)を合成する部分である。時点t3から時点t4までの時間T3の第3のカットは、第1のコンテンツのうちの第2のサブコンテンツを合成する部分である。本例では、第1のコンテンツは、順序を持つ2つのサブコンテンツで構成されている。時点t4から時点t5までの時間T4の第4のカットは、前述の過渡状態に対応し、第1の利用者が所定の動作を行う部分である。時点t5から時点t6までの時間T5の第5のカットは、前述の第2の状態の第2の画像に対応し、第1の利用者が開封後の第2の物品22を紹介し、第2のコンテンツを構成する複数のコンテンツのうち、ゲームのスタートに係わる最初のサブコンテンツ(例えば図5の第2のコンテンツC2)を合成する部分である。
【0044】
時点t6から時点t7までの時間T6の第6のカットは、第1の利用者による第2の物品22を用いたARゲームのプレイおよび実況に対応する部分である。第6のカットでは、第2のコンテンツを構成する複数のコンテンツのうち、最初のコンテンツに続く複数のコンテンツが、プレイ等に応じて切り替えられながら合成される。第6のカットでは、ゲームの内容や結果の判定も行われ、所定の制御によってゲームエンドとなる。第6のカットの時間T6は、一定としてもよいし、利用者の動作やゲーム結果等に応じて変動する時間としてもよい。時点t7から時点t8までの時間T7の第7のカットは、エンディングであり、省略も可能である。
【0045】
動画の各カットおよび各コンテンツ間は、設定情報に基づいて自動的な遷移が制御可能である。例えば、第2のカットの第1のサブコンテンツが合成された後、カット時間の設定に基づいて、自動的に第3のカットの第2のサブコンテンツの合成に遷移させることができる。
【0046】
第1の利用者は、このような動画の設定情報およびガイダンスに従って、撮影操作および物品2に対する動作を行う。ガイド部17は、この設定情報に従ってガイダンスを提供する。また、この動画は、説明上の動画区分として、概略的に、第1のカットから第5のカットまでの第1の動画部分である開封動画601と、第5のカットから第7のカットまでの第2の動画部分である実況動画602とを有する。第1の利用者は、開封動画601の部分では、第1の物品21を開封して第2の物品22を取り出しながら、第1のコンテンツ、第2のコンテンツの順序での合成に伴って、その開封に関する実況を行う。第1の利用者は、実況動画602の部分では、第2の物品22であるカードを用いて第2のコンテンツによるゲームをプレイしながら、そのゲームに関する実況を行う。
【0047】
各カットの時間は利用者が選択して設定できる。例えば、第2のカットの時間T2が30秒、第3のカットの時間T3が30秒といったように設定される。動画の時間軸上、例えば時点t2になると自動的に第2のカットに遷移し、時間T2が経過して時点t3になると自動的に第3のカットに遷移する。また、各カット内でのコンテンツの合成時間についても設定可能である。例えば、第2のカット内での第1のサブコンテンツの合成時間が設定できる。すなわち、第1のサブコンテンツの合成時間は、第2のカットの時間T2(例えば30秒)を最大としてそれ以下の時間に設定される。1個のコンテンツやサブコンテンツ毎に合成時間(対応する再生時間)の情報を持ってもよい。例えば、第2のカットでの第1のサブコンテンツの合成時間が10秒と設定される。その場合、第2のカット内で、第1のID31が検出された時点を開始として、最大で10秒間、第1のサブコンテンツが合成される。時間T2が終了した場合、その時点で第1のサブコンテンツの合成が終了となる。また、コンテンツやサブコンテンツ毎に合成回数(対応する再生回数)が設定されてもよい。例えば、第2のカットでの第1のサブコンテンツの合成回数が1回と設定される。
【0048】
(B)は、(A)の動画の設定情報に関連して設定可能である、複数のコンテンツの合成の順序(言い換えると順序条件)に関する設定情報の例としてのテーブルを示す。コンテンツ合成動画における複数のコンテンツの合成には、所定の順序を設定できる。撮影装置1の設定部11は、このような順序条件の設定情報を設定し保持してもよい。順序の例は、(1)第1のコンテンツの第1のサブコンテンツ、(2)第2のサブコンテンツ、(3)第2のコンテンツのゲームスタート時の第1のサブコンテンツ、(4)ゲームプレイ中の第2のサブコンテンツ、(5)ゲームエンド時の第3のサブコンテンツである。
【0049】
(B)のテーブルは、動画ID=001で識別されるある動画に関して、複数のコンテンツ{CA,CB,CC,CD,……}の合成の順序が設定されている。このテーブルは、項目として、順序、ID、コンテンツ、サブコンテンツ、回数、合成時間、合成状態、等を有する。「順序」は、複数のコンテンツの合成の順序{1,2,3,……}を示す。「ID」は、前述の物品2のIDのID値{IDA,IDB,IDC,IDD,……}を示す。「コンテンツ」は、「ID」と関連付けられるコンテンツのコンテンツIDを示す。「サブコンテンツ」は、コンテンツが複数のサブコンテンツで構成される場合の各サブコンテンツのサブコンテンツIDを示す。例えば、コンテンツCAは、サブコンテンツCA1,CA2,CA3から構成される。合成の順序の設定例は、{(1)CA,(2)CB,(3)CC,(4)CD}である。
【0050】
「回数」は、カット内でそのコンテンツを合成する回数の設定を示す。「合成時間」は、カット内でそのコンテンツを合成する時間の設定を示す。「合成状態」は、順序制御用の情報であり、そのコンテンツが合成済み(例えば値1)か未合成(例えば値0)かの状態を示す。なお、本例ではコンテンツ単位で順序等が設定されているが、サブコンテンツ単位でも同様に順序等を設定可能である。回数や合成時間の設定を省略してもよい。例えば、あるサブコンテンツであるアニメーションやエフェクト画像が、1回の再生で3秒かかる短い動画像であるとする。その場合に、合成は、カットの時間内で、IDが検出されている間、そのサブコンテンツを繰り返しループで再生するものでもよい。
【0051】
応用として、動画の一部において複数のコンテンツまたはサブコンテンツの順序を任意とする設定も可能である。例えば、順序の設定例として{(1)CA,(2)CB OR CC,(3)CD}とした場合、2番目に合成するのは、コンテンツCBまたはコンテンツCCのいずれでもよい。また、動画の一部において複数のコンテンツまたはサブコンテンツを同時に合成する設定も可能である。例えば、順序の設定例として{(1)CA,(2)CB AND CC,(3)CD}である場合、2番目に合成するのは、コンテンツCBかつコンテンツCCとなる。
【0052】
他の方式としては、所定の順序を持つ複数のコンテンツの合成の切り替えに関して、時間軸上、各コンテンツ間に、間隔時間が設定されてもよい。例えば、第1のサブコンテンツの合成の開始または終了の時点から、設定された間隔時間が経過した後、次の第2のサブコンテンツの合成が開始される、または開始が許容される。また、他の方式として、動画の各カットの時間(例えば30秒)を設定せず、次のIDが検出されるまでは同じカットを継続する構成も可能である。
【0053】
[コンテンツ合成動画詳細]
図7は、図5のコンテンツ合成動画についての詳細を示す。この動画は、図6の設定例と対応しており、時間軸上、所定の順序の複数の画像として、第1のカットの画像701、第2のカットの画像702、第3のカットの画像703、第5のカットの画像705、第6のカットのうちの画像706aおよび画像706bを含む。なお、図7では、過渡状態の第4のカットの画像、第6のカットのゲームプレイ中の画像、第7のカットのエンディングの画像を省略している。
【0054】
画像701は、オープニングの画像例であり、予め設定されたタイトルの文字画像g11(例えば「たろうくんTVはじまるよ〜〜」)、利用者顔画像g12、およびBGM等が合成される。利用者は、動画の再生の際には、撮影装置1の公知の機能を用いて、動画の開始、一時停止、終了、ジャンプ、音量調整、再生時間確認等ができる。
【0055】
画像702は、第1の物品21の紹介のうちの第1のサブコンテンツを合成する部分の画像例である。第1のサブコンテンツSC1は、図5の第1の画像A2の第1のコンテンツC1{コンテンツC11,C12,C13}と同様であり、第1の効果音を含む。第2のカットの時間T2に入った後、第1のID31の検出に応じて、自動的に第1のサブコンテンツSC1が合成される。この際、第1の利用者は、第1の物品21を紹介するように音声で実況を行っている。
【0056】
画像703は、第1の物品21の紹介のうちの第2のサブコンテンツを合成する部分の画像例である。第2のカットの時間T2が終了すると、自動的に第3のカットに遷移し、時間T3に入った後、自動的に第2のサブコンテンツSC2の合成に切り替えられる。本例では、第2のサブコンテンツSC2は、エフェクト画像、文字画像、および第2の効果音を含む。文字画像は、例えば「なにがでてくるのかな〜〜??」といった説明文字列を含む。エフェクト画像は、第1のサブコンテンツSC2のエフェクト画像とは異なる種類の画像である。このエフェクト画像は、第1のID31の付近の第1の物品21を中心として、複数の疑問符「?」の像が螺旋状に回転および拡大しながら動くような画像である。本例では、第1の状態で自動的に2個のサブコンテンツを順次に合成する構成としたが、これに限らず、第1の状態で1個のコンテンツの合成のみでもよいし、3個以上のサブコンテンツを順次に合成する構成も可能である。
【0057】
画像705は、第2の物品22の紹介のうちの第2のコンテンツの第1のサブコンテンツを合成する部分の画像例である。この画像705は、図5の第2の画像B2と同様であり、第1のサブコンテンツGC1は、図5のコンテンツC21,C22と同様である。第5のカットの時間T5に入った後、第2のID32の検出に応じて、自動的に第1のサブコンテンツGC1が合成される。この際、第1の利用者は、第2の物品22を紹介するように音声で実況を行っている。
【0058】
画像706aは、時間T6のうちのゲームスタート付近での画像例を示す。この画像706aは、後景にカードを手に持った第1の利用者が写っており、前景には、第2のサブコンテンツGC2が重ね合わせられるように合成されている。第2のサブコンテンツGC2は、ゲームを構成する複数のサブコンテンツとして、コンテンツGC21,GC22,GC23,GC24を含む。コンテンツGC21は、傘アイテム画像であり、カード(対応する第2のID32)の位置に重ね合わせられるように合成される。第1の利用者がカードを動かすと、それに対応して傘アイテム画像が移動する。コンテンツGC22は、猫画像であり、ゲームのプログラムに従って自動的に画像フレーム内、例えば下辺領域の左右を移動する。コンテンツGC23は、例えば複数の縦線で表現された雨画像であり、ゲームのプログラムに従って画像フレーム内で全体的に表示される。コンテンツGC24は、例えば上辺領域に表示される文字画像であり、例えばゲームスタートを伝える「はじめ!」、ゲーム時間を伝える「0秒」、ゲームスコアを伝える「0てん」等である。撮影装置1は、ゲーム中、第1の利用者のカードの動作に応じて、傘アイテムの下側には雨を表示しないように制御する。
【0059】
画像706bは、時間T6のうちのゲームエンド付近での画像例を示す。この画像706bは、後景にカードを手に持った第1の利用者が写っており、前景には、第3のサブコンテンツGC3が重ね合わせられるように合成されている。第3のサブコンテンツGC3は、ゲームを構成する複数のサブコンテンツとして、コンテンツGC31,GC32,GC33を含む。コンテンツGC31は、ゲーム結果を表す文字画像およびエフェクト画像であり、例えば画像フレーム中心位置に合成されている。ゲーム結果は、例えば100点満点のスコアで表され、他には成功または失敗の2値等で表されてもよい。コンテンツGC22は、下辺領域に合成されたゲーム結果を表す文字画像(例えば「ネコはぬれなかった!」)である。コンテンツGC31は、上辺領域に合成されたゲーム結果を表す文字画像であり、例えばゲームエンドを伝える「おわり!」、ゲーム時間を伝える「30秒」、ゲームスコアを伝える「100てん」等である。
【0060】
このゲームは、カードの種類として傘アイテムを持つカードに対応したARゲームである。このゲームは、画像705のお題に従って、利用者が画像フレーム内で傘アイテムのカードを動かすことで、ARによる猫がなるべく雨に濡れないように猫の上側に傘アイテムを配置して雨から守るゲームである。第1の利用者は、カードを操作しながらゲームの実況を行う。このカードおよびゲームは、ゲーム自体を楽しむ用途の他に、実況動画602の素材の用途として利用される。カードの種類に応じて異なるゲームが用意されている。利用者は、カードの種類に応じて異なる実況動画602を含むコンテンツ合成動画を作成して楽しむことができる。
【0061】
ゲームエンド時には、ゲームのスコアが確認できる。また、そのスコアに応じて、異なるサブコンテンツが合成されてもよい。例えば、高スコアの場合には、花火があがる等のエフェクト画像および効果音が合成され、低スコアの場合には、汗や涙等のエフェクト画像および効果音が合成される。また、スコアに限らず、子ども向けの表現として、擬似的に人気度やチャンネル登録者数等を表わす画像が合成されてもよい。例えば、高スコアの場合、人気度が高い状態を表す画像が合成される。これにより、第1の利用者である子どもは、大人の動画配信者の模倣を楽しむことができる。
【0062】
[ガイダンス]
図8は、ガイド部17(図2)によって動画撮影時にガイダンスを提供する場合の画像例を示す。ガイダンスの提供は必須ではないが、特に子どもに対しガイダンスを提供することで、コンテンツ合成動画の作成をより容易にすることができる。画像801は、第1のカット前の準備状態の時の画像例である。この画像801は、利用者である撮影者に対し、第1の利用者の位置や撮影開始等のガイドをするための画像である。この画像801は、ガイダンス画像の例として、画像G11,G12,G13を含む。ガイド部17は、各ガイダンス画像と共に、対応する各ガイダンス音声も出力する。画像G11は、ガイダンス文字画像であり、例えば文字列「せんのいちに はいるように さつえいしてね」を含む。なお、子ども向けのガイダンス用に、漢字を使わない文字画像等も用意されている。画像G12は、カメラ60の画像フレーム内での第1の利用者の概略的な位置をガイドするための線画像である。画像G13は、撮影開始の準備ができた状態を撮影装置1に指示するためのボタン画像であり、例えば文字列「OK」、「準備ができたらOKボタンを押してね」等を含む。この画像G13が押されると、動画の撮影が開始される。画像G13は、撮影開始に伴う秒数のカウントダウンの画像を含んでもよい。なお、図8は、第1のカット、第3のカット、第7のカット等を省略している。
【0063】
画像802は、第2のカットの際のガイダンス画像例であり、画像G21を含む。画像G21は、撮影者に対し、所定の動作やそのタイミングを伝える文字画像である。この動作は、第1の物品21の表面の第1のマーカ41をカメラ60の画像に写るようにさせるための動作である。画像G21は、例えば文字列「ふくろのおもてをカメラにむけてね」を含む。第1の利用者は、このガイダンスに従って、包装袋の表面をカメラ60に向ける。なお、第2の利用者が撮影者である他者撮影モードの場合、第2の利用者がタッチパネル50の表示画面でこのようなガイダンス画像等を確認し、それに従って第2の利用者が第1の利用者に対し音声や手指でガイドをしてもよい。
【0064】
画像803は、第4のカットの過渡状態の際に、図4の所定の動作として開封および取り出しの動作をガイドする際のガイダンス画像例である。画像803は、画像G31を含む。画像G31は、所定の動作やそのタイミングを伝えるガイダンス文字画像である。画像G31は、例えば文字列「ふくろをあけてカードをとりだしてね」を含む。第1の利用者は、このガイダンスに従って、包装袋を開封しカードを取り出す動作を行う。
【0065】
画像804は、第5のカットの際のガイダンス画像例であり、画像G41を含む。画像G41は、所定の動作やそのタイミングを伝える文字画像である。この動作は、第2の物品22の表面の第2のマーカ42をカメラ60の画像に写るようにさせるための動作である。画像G41は、例えば文字列「カードのおもてをカメラにむけてね」を含む。第1の利用者は、このガイダンスに従って、カードの表面をカメラ60に向ける。
【0066】
画像805は、第6のカットにおけるゲームプレイ中に、ゲームエンドまたは動画撮影終了を伝える場合の画像例である。画像805は、画像G51を含む。画像G51は、例えば、ゲームエンドまたは動画撮影終了までの秒数のカウントダウンの画像を含む。本例では、第7のカットが無くゲームエンドが動画撮影終了である場合を示す。第7のカットがある場合には、エンディングの後に動画撮影終了となる。
【0067】
画像806は、動画撮影終了後に表示される画像例を示す。画像806は、「撮影終了」メッセージ、「動画をみる」ボタン、「もういちど撮影」ボタン、「動画をのこす」ボタン、および「動画をけす」ボタンを含む。利用者が「動画をみる」ボタンを押した場合、撮影装置1は、その時に撮影終了して作成されたコンテンツ合成動画を再生する。利用者が「もういちど撮影」ボタンを押した場合、撮影装置1は、もう一度最初から動画の撮影をやり直す。利用者が「動画をのこす」ボタンを押した場合、撮影装置1は、その時に作成されたコンテンツ合成動画のデータを保存する。利用者が「動画をけす」ボタンを押した場合、撮影装置1は、その時に作成されたコンテンツ合成動画のデータを保存せずに消去する。なお、撮影装置1は、動画撮影に伴いリアルタイムでコンテンツを合成してもよいが、コンテンツ合成処理に時間を要する場合には、一旦撮影動画を撮影した後に合成処理を行うことでコンテンツ合成動画を生成してもよい。
【0068】
ガイド部17は、動画の設定情報に従って、撮影動画の各画像に対し、適したタイミングでガイダンス画像やガイダンス音声等のガイダンス情報を重畳するようにガイダンスを提供する。撮影装置1は、ガイダンス情報を伴う動画とは別に、ガイダンス情報が含まれていないコンテンツ合成動画を作成し、そのコンテンツ合成動画を合成動画データ記憶部54に格納する。
【0069】
[アプリケーション画面]
図9は、撮影装置1のコンテンツ合成機能のアプリケーションプログラム120によってタッチパネル50の表示画面にグラフィカル・ユーザ・インタフェースとして表示されるアプリケーション画面の表示例を示す。画面901は、アプリケーション起動後の画面例を示す。この画面901は、「撮影」ボタン、「設定」ボタン、「動画リスト」ボタン、等を含む。利用者によって「撮影」ボタンが押された場合、撮影装置1は、図8のようなガイダンスと共に動画撮影に移行する。「設定」ボタンが押された場合、撮影装置1は、画面902のような設定画面に移行する。「動画リスト」ボタンが押された場合、撮影装置1は、画面903のような動画リスト画面に移行する。
【0070】
画面902は、「チャンネル名」、「顔画像」、「動画(台本)」、「エフェクト」、「文字」等の設定項目を有する。「チャンネル名」項目では、図7の第1のカットのオープニング等で使用するタイトル等の文字画像g11を設定できる。「顔画像」項目では、同じくオープニング等で使用する利用者顔画像g12を設定できる。この設定の際にはカメラ60が使用される。「動画(台本)」項目では、図示しない別の画面で、図6のような動画の設定情報を設定できる。この設定は例えば第2の利用者が行ってもよい。「エフェクト」項目が選択された場合、画面904のようなエフェクト設定画面に移行する。「文字」項目では、各コンテンツの文字画像の文字列を設定できる。
【0071】
画面903は、撮影および合成済みであるコンテンツ合成動画のリストが表示される。本例では、このリストは、カードの種類毎に整理した状態で、対応するコンテンツ合成動画の動画IDや有無等の情報が表示されている。例えば、「カードA」については、動画ID=001のコンテンツ合成動画がある。また、例えば「カードC」については、入手していないので、対応するコンテンツ合成動画が無い。これに限らず、動画リスト画面では、合成前の撮影動画のリストを同様に表示してもよいし、カードの表面の画像と共にカードの収集状況を表すリストを表示してもよい。また、カードの種類毎に複数のコンテンツ合成動画が保存されてもよい。利用者は、リストから選択した動画について、再生、削除等の操作ができる。利用者は、例えばカードの収集と共に、カードに応じたコンテンツ合成動画を収集して楽しむことができる。前述のように、撮影装置1から他の機器8やサーバ9に動画データを保存することもできる。撮影装置1またはサーバ9は、利用者毎に複数の種類のカードやコンテンツ合成動画の収集の状況を情報として管理し、収集の実績やゲームのスコア等に応じて利用者に特典を与えてもよい。
【0072】
画面904は、コンテンツとしてエフェクト画像または画面エフェクトを設定するための項目が表示される。この画面904は、本例では、「エフェクトA」、「エフェクトB」、……といったように、選択して設定可能である複数の種類のエフェクトのボタンを含む。例えば「エフェクトA」項目は、図7の画像702の第1のサブコンテンツSC1のような集中線のエフェクトを設定する項目である。例えば「エフェクトB」項目は、図7の画像703の第2のサブコンテンツSC2のような疑問符のエフェクトを設定する項目である。利用者は、ID毎に関連付けてエフェクトを設定できる。利用者は、エフェクト項目の操作から、エフェクトの再生確認や詳細設定が可能である。なお、事業者のサーバ9等から利用者の撮影装置1に対し、利用者が取得したカードの種類等に応じて、対応するエフェクトのコンテンツデータを提供してもよい。
【0073】
[順序制御機能]
図10は、実施の形態1のコンテンツ合成システムにおける、複数のコンテンツ合成の順序に関する制御例を示す。撮影装置1は、図9までで説明した基本的なコンテンツ合成機能に加え、図10以降で説明する順序制御機能を追加で備えてもよい。前述の図4のような過渡状態は、様々な見え方をとり得るが、一時的に、カメラ60の画像において2個以上のIDが同時に検出できる場合がある。例えば、カメラ60の画像に包装袋の表面とカードの表面との両方が写っている場合である。順序制御機能は、このような場合にも好適なコンテンツ合成ができるように合成の順序に係わる制御を行う機能である。
【0074】
図10で、画像301は、図4の過渡状態(図6では第4のカット)の時の画像例を示す。画像301は、第1の利用者の図示を省略し、第1の利用者が手に持った包装袋からカードを取り出している時の一状態を示す。この画像301のフレーム内では、第1の物品21および第2の物品22が含まれ、同時に2個のマーカとして第1のマーカ41および第2のマーカ42が写っている。すなわち、この画像301の状態は、同時に2個のIDとして第1のID31および第2のID32が検出できる状態である。
【0075】
このような画像301の状態の場合に、比較例として従来技術例のコンテンツ合成システムの場合には、以下のような作用となる。比較例のコンテンツ合成システムは、単一の物品の単一のコンテンツ合成しか考慮しておらず、複数のコンテンツ合成の順序を考慮していないシステムである。比較例のシステムにおける撮影装置は、画像301から2個のIDのそれぞれを検出し、各IDに対応付けられた各コンテンツとして第1のコンテンツおよび第2のコンテンツを、この画像301内に同時に合成する。各コンテンツは、物品毎の演出を想定している画像等であるとする。合成後の画像301には、同時に2個のコンテンツが合成されてしまい、見た目にも複雑になり、演出として望ましくない。また、例えば、利用者は、複数のコンテンツを順次に合成したい場合、各マーカを順次にカメラに向けて撮影する必要があるが、順序を間違える場合や、画像内に同時に複数のマーカが写ってしまう場合がある。
【0076】
対策としては、予め利用者に対し、所定の動作としてカメラ60に同時に2個の物品の表面を向けないようにガイドしておくことが挙げられる。利用者は、そのガイドに従って動作を行えば、上記のような状態を避けることができる。しかしながら、第1の利用者である子どもは、所定の動作をうまくできない場合もある。
【0077】
実施の形態1のコンテンツ合成システムは、順序制御機能を用いて、このような過渡状態の画像301を含む場合でも、所定の順序での複数のコンテンツ合成となるように制御する。所定の順序の例は、図5図6のように、第1の状態で第1のコンテンツのみを合成し、次に第2の状態で第2のコンテンツのみを合成することであり、過渡状態では同時に2個のコンテンツの合成をしないことである。
【0078】
順序制御機能の制御例について以下に説明する。第1の制御例は、予め設定された所定の順序の条件で1個ずつコンテンツを合成する制御である。撮影装置1の設定部11は、例えば図6のように予め順序条件を設定する。検出部13は、設定情報の順序条件に従って、カメラ60の画像からのIDの検出、および検出したIDについての判断等を行う。撮影装置1は、条件として、まず、第1の物品21の第1のID31の検出による第1のコンテンツの合成を1回行う。撮影装置1は、第1のID31による第1のコンテンツがまだ合成されていない状態の場合には、第2のID32等の他のIDを検出したとしても、対応するコンテンツの合成を行わない。撮影装置1は、条件として、第1のコンテンツが1回合成済みの状態になった場合に、その後、第2の物品22の第2のID32の検出による第2のコンテンツの1回の合成を許容する。
【0079】
また、画像301のように同時に2個のID(第1のID31および第2のID32)が検出できる状態になった場合、撮影装置1は、1回合成済みの第1のコンテンツについては再度の合成を繰り返さないようにし、新たに検出した第2のID32による第2のコンテンツについての合成を1回行う。このような制御によって、動画の画像内にはその時々で1個のコンテンツのみが合成され、2個以上のコンテンツが同時に合成されることはない。
【0080】
上記制御例では、例えば図6のように、IDおよびコンテンツ毎に合成(対応する再生)の回数が例えば1回のように設定されている。撮影装置1は、カット毎にこの回数を超える合成を繰り返さないように制御する。例えば、あるカットで、あるコンテンツについて、回数が3回に設定され、1回の再生時間が5秒である場合、最大で5×3=15秒の間、そのコンテンツの合成が許容される。
【0081】
第2の制御例は以下の通りである。例えば図6のように、ID、コンテンツ、およびカット毎に、コンテンツの合成時間、あるいはコンテンツ間の切り替えの間隔時間等が設定可能である。第2の制御例では、撮影装置1は、設定に基づいて、条件として、まず、第1のID31の検出による第1のコンテンツの合成を第1の合成時間で行う。撮影装置1は、条件として、第1のコンテンツの合成の終了後、第2のID32の検出による第2のコンテンツの合成を第2の合成時間で行うことを許容する。また、あるコンテンツの合成時間が終了するまでの間は合成を中断しないようにしてもよい。
【0082】
変形例として、コンテンツ間の切り替えの間隔時間を用いることができる。この場合、撮影装置1は、条件として、まず、第1のID31の検出による第1のコンテンツの合成を行う。撮影装置1は、第1のコンテンツの合成の開始または終了の時点から、設定された第1の間隔時間が経過したか判断し、経過後、第2のID32の検出による第2のコンテンツの合成を許容する。このような制御でも、所定の順序での1個ずつのコンテンツ合成を実現できる。上記制御は、第1のコンテンツや第2のコンテンツが複数のサブコンテンツで構成される場合にも同様に適用できる。
【0083】
第3の制御例は以下の通りである。第3の制御例は、画像フレーム内のID数を条件として用いる。第3の制御例では、画像301のようにフレーム内に同時に複数のIDが検出できる状態になった場合、撮影装置1は、いずれのIDのコンテンツ合成も許容しない。撮影装置1は、画像内に1個のIDが検出できる状態になった場合には、対応するコンテンツ合成を許容する。例えば、カメラ60の画像内で、まず第1のID31が検出できる状態で、第1のコンテンツが合成される。その合成中または合成終了後、さらに第2のID32も検出できる状態に変わった場合、撮影装置1は、2個のIDが検出できる状態であるため、第2のコンテンツの合成をしない。次に、その画像の状態から、第2のID32のみが検出できる第2の状態に変わった場合、撮影装置1は、第2のコンテンツを合成する。
【0084】
他の制御例として、撮影装置1は、画像内で先に検出した第1のID31による第1のコンテンツを合成中に、画像301のように、新たに第2のID32を検出した場合、第1のコンテンツの合成を停止し、第2のコンテンツの合成を開始してもよい。
【0085】
第4の制御例は以下の通りである。第4の制御例は、フレーム内のIDの位置を条件として用いる。第4の制御例では、画像301のようにフレーム内に同時に複数のIDが検出できる状態である場合、撮影装置1は、フレーム中心位置に最も近いIDのみについて、コンテンツ合成を許容する。画像301の例では、中心の点P1に最も近いIDは、第2のID32である。そのため、撮影装置1は、第2のID32による第2のコンテンツのみ合成を許容する。
【0086】
図11は、続いて、他の順序制御例についての説明図を示す。以下の例では、図6図7の例のように、第2のコンテンツが複数のサブコンテンツで構成される場合の順序制御例を示す。特に、第2のコンテンツが図7のようなゲームである場合、撮影装置1は、第1の利用者の動作に応じて、動画に合成するサブコンテンツを切り替えるように制御する。この制御例では、複数のサブコンテンツの合成の順序は、1つに固定されていなくてもよく、第1の利用者の動作に応じて異なる順序となってもよい。
【0087】
画像302は、第2の物品22であるカードの表面が、画像フレーム中心位置(点P1)の付近に写っている状態を示し、利用者等の図示を省略している。画像302内で第2のID32が検出できる状態である。そのため、第2のID32に関連付けられた第2のコンテンツが合成される。本例では、第2のコンテンツとしてコンテンツCxが合成される場合を示す。コンテンツCxは、第2のID32またはカードまたは点P1の付近に配置された、演出用のエフェクト画像の例である。また、画像302は、説明用に、16分割(4×4分割)の格子の点および領域(ブロックともいう)を示す。画像302内の各画素(対応する点)は、位置の座標(x,y)を持つ。例えば、領域R1は、点P1を中心とした4個のブロック分の矩形領域を示す。
【0088】
第5の制御例は以下の通りである。第5の制御例では、撮影装置1は、画像フレーム内のIDの位置に応じてコンテンツ合成の有無や種類等を制御する。撮影装置1は、画像フレーム内で検出したIDの位置(対応する座標)を把握する。条件は、例えばゲームのプログラムにおいて規定される。撮影装置1は、条件として、そのIDの位置が、所定の位置または範囲に該当する場合に、そのIDおよび位置等に関連付けられるコンテンツの合成を許容する。例として、撮影装置1は、画像302内における検出した第2のID32(例えば対応する第2のマーカ42)の位置が、点P1の付近にある場合、例えば領域R1内にある場合には、コンテンツCxを合成する。領域R1に限らず、ブロック毎に同様に制御ができる。また、例えば、撮影装置1は、検出したIDの位置が、領域R1等の所定の領域内に入った場合に、即時に合成をしてもよいし、領域内に入ってから一定時間留まった場合に、合成をしてもよい。具体例としては、図7のゲーム中に、第1の利用者がカードを画像フレーム内で右側や左側や中央等に移動させる。そのカードの位置に応じて、異なるサブコンテンツ(例えばエフェクト画像)の合成ができる。
【0089】
第6の制御例は以下の通りである。第6の制御例では、撮影装置1は、画像フレーム内で検出されるIDの位置の動き、すなわち対応する第1の利用者の手等の動きに応じて、コンテンツ合成の有無や種類等を制御する。撮影装置1は、例えば、画像302内で、カードの第2のID32(対応する第2のマーカ42)の位置を検出し、その位置の動きを追跡する。IDの動きの一例を、動き303として示す。動き303は、左下の領域から右下の領域への概略横方向の移動である。撮影装置1は、規定された所定の動き、例えば動き303を検出した場合、その動きに関連付けて設定されているサブコンテンツ(例えばエフェクト画像)を合成する。所定の動きは、縦/横/斜め等の直線状の動きに限らず、円弧状の動き、振る動き等、各種の動きでもよい。
【0090】
第7の制御例は以下の通りである。第7の制御例では、撮影装置1は、IDの検出と共に、第1の利用者の発声による音声を判断し、所定の音声である場合に、その音声に関連付けられたサブコンテンツを合成する。例えば、第1の利用者は、図7のゲームのルールに従って、カードの動作と共に、所定の音声を発する。撮影装置1は、その音声に応じて、対応する種類のサブコンテンツの合成を許容する。
【0091】
また、撮影装置1は、物品2から発生する音声を判断し、所定の音声である場合に、その音声に関連付けられたサブコンテンツを合成するようにしてもよい。例えば、第2の物品22であるカードは、動き等に応じて、所定の音声を発してもよい。撮影装置1は、その音声に応じて、サブコンテンツの合成を許容する。他の例として、フィギュア等の玩具は、動き等に応じて、所定の音声を発してもよい。他の例として、収容体から玩具本体が外に取り出された場合や、支持体から玩具本体が離された場合に、一定時間経過後、その収容体や支持体または玩具本体から所定の音声を発してもよい。このような場合にも同様の制御が可能である。
【0092】
第8の制御例は以下の通りである。第8の制御例では、撮影装置1は、画像フレーム内での第1の利用者の位置や動きを判断し、所定の位置や動きである場合に、その位置や動きに関連付けられたサブコンテンツを合成する。また、この際にIDの検出が必須でなくてもよい。例えば、撮影装置1は、カメラ60の画像の認識処理に基づいて、第1の利用者の頭、眼、または手等の所定の身体部位を検出し、その身体部位の位置、動き、または形状の状態等を把握する。そして、撮影装置1は、その身体部位の位置、動き、または形状の状態等に応じて、関連付けられるサブコンテンツの合成を制御する。撮影装置1は、例えば、顔や手の位置が画像内の上側か下側かに応じてサブコンテンツを切り替えてもよいし、顔や手の動きに応じて切り替えてもよいし、腕の曲げの形状等に応じて切り替えてもよい。同様に、撮影装置1は、IDの検出が無くても、第1の利用者による所定の音声に応じて、関連付けられるサブコンテンツの合成を制御してもよい。なお、上記の各種の制御例は、第1のコンテンツが複数のサブコンテンツで構成される場合にも同様に適用できる。
【0093】
[効果等]
上記のように、実施の形態1のコンテンツ合成システム等によれば、物品2の複数のIDを用いて複数のコンテンツを所定の順序で容易に合成することができ、興趣性のある動画の撮影や作成等を実現できる。比較例のコンテンツ合成システムは、複数のIDを用いた複数のコンテンツの好適な合成については考慮されておらず、所定の順序でのコンテンツ合成が難しい場合がある。一方、実施の形態1のコンテンツ合成システムによれば、第1の利用者が子どもである場合でも、物品2に対し簡単な動作を行うことで、あまり意識する必要無く、容易に所定の順序での複数のコンテンツ合成が実現できる。利用者は、コンテンツ合成動画を容易に作成でき、動画実況やゲーム等を楽しむことができる。
【0094】
実施の形態1の変形例として以下も可能である。変形例として、第2の物品22であるカードの表面および裏面の各面に、コンテンツ合成制御用の各IDを有してもよい。例えばカードの表面および裏面の各面にアイテム画像および対応するIDをそれぞれ設けてもよい。裏面のアイテムは、表面のアイテムと同じとしてもよいし、異なるアイテムとしてもよい。この場合、利用者の動作に応じてカードの表面と裏面とを使い分ける遊び方が実現できる。例えば、カードの表面のIDの検出の場合には第1のサブコンテンツを合成し、裏面のIDの検出の場合には第2のコンテンツを合成する等の制御が可能である。また、カードの裏面に設けるIDまたはアイテム画像を、特定の制御に用いてもよい。例えば、ゲーム中、第1の利用者の動作に応じて、カードの裏面がカメラ60に向けられ、裏面のIDまたはアイテム画像が検出される。その場合、撮影装置1は、特定の制御として、例えばゲームエンドの制御を実行する。この場合、その時点でゲームを終了させることができる。利用者の動作に応じて、ゲームのプレイ時間をある程度変えることができる。ゲームの種類によっては、プレイ時間が短い方が高スコアになるようにしてもよいし、プレイ時間が長い方が高スコアになるようにしてもよい。同様に、物品2の構成のうちの特定のIDを、動画のカットを遷移させるための条件や指示として使用してもよい。
【0095】
[変形例1]
図12は、実施の形態1の変形例1のコンテンツ合成システムにおける物品2の構成等を示す。この物品2の構成は、第1の物品21である収容体として1個の包装袋の中に、2個の第2の物品22として2枚のカードが収容されている。2枚のカードを、第1のカード22Aおよび第2のカード22Bとする。2枚のカードは、異なる種類のカードである場合と、同じ種類のカードである場合とがある。この包装袋内には、各種類のカードが、所定の確率に応じて収容されている。例えば、ある種類のカードは、確率が低いレアカードとして提供される。図12の例では、2枚のカードは、異なる種類のカードであり、第1の種類の第1のカード22A、および第2の種類の第2のカード22Bである。2枚のカードおよび対応する2個の第2のID32のセットを、グループと記載する場合がある。なお、この構成に限らず、第1の物品21内に複数の第2の物品22が収容されている構成でもよい。第1の利用者は、図7のようなゲームを行う際に、複数のカードのうち、いずれの種類のカードを用いてもよい。例えば、第1の利用者は、第1のカード22Aと第2のカード22Bとから選択した方のカードを用いてゲームを行う。
【0096】
第1のカード22Aおよび第2のカード22Bは、表面に、前述の第2のID32または対応する第2のマーカ42が形成されている。ここでは、区別のため、第1のカード22Aの第2のID32Aの値をIDAとし、第2のカード22Bの第2のID32Bの値をIDBとする。これらのID値は、カードの種類に応じて異なる値である。第1のカード22Aの表面には、傘アイテムの画像J1が記載されている。第2のカード22Bの表面には、かごアイテムの画像J2が記載されている。傘アイテム等のアイテムは、前述のゲームで使用するアイテムを表す。カードの種類および対応するID毎に、異なるコンテンツとして異なる種類のゲームが用意されている。第1の種類の第1のカード22Aには、IDAに関連付けて第1のゲームが用意され、第2の種類の第2のカード22Aには、IDBに関連付けて第2のゲームが用意されている。第1のゲームは、前述の図7のように、傘アイテムを用いて猫を雨に濡れないように守るゲームである。第2のゲームは、例えば画像フレーム内で上側からARの画像として落ちてくる物体を、かごアイテムを用いて受け止めるゲームである。他の種類のカードとして、例えば、ハエたたきアイテムを持つ第3のカードのID(ID値=IDC)の場合、第3のゲームが用意されている。第3のゲームは、例えば画像フレーム内を飛び回るハエを、ハエたたきアイテムを用いてたたいて落とすゲームである。第1の利用者は、カードの種類に応じて異なるゲームおよび動画実況を楽しむことができる。
【0097】
[ゲーム]
コンテンツの一種であるARゲームの詳細について補足する。例えば、図4の傘アイテムを持つカードを用いた第1のゲームの場合での処理概要を説明する。第1のゲームにおいて、第2のコンテンツは、複数のサブコンテンツとして、例えば前述の図7のように、傘アイテム画像、猫画像、および雨画像を含む。撮影装置1は、ゲームのプログラムに従った処理を実行することで、撮影動画の画像に対し、猫画像等を合成する。撮影装置1のプロセッサ101(対応するゲームのプログラムの実行モジュール)は、猫画像等の各画像について、画像フレーム(対応する表示画面)内での有無や位置(対応する座標)を管理する。猫画像は、プログラムに従った動きで画像フレーム内を移動する。雨画像は、画像フレーム内で全体的に上側から降ってくる雨を表す。撮影装置1は、画像フレーム内で、傘アイテム画像の下側の領域には雨画像を表示せず、猫画像の上側に傘アイテム画像が配置されている場合、猫には雨が当たらない。撮影装置1は、画像フレーム内において、第1の利用者によるカード(対応するID)の位置および動きを検出して追跡し、そのカード上に傘アイテム画像を重ね合わせるように合成する。傘アイテム画像は、例えば猫画像のサイズと対応した一定のサイズを持つ。なお、傘アイテム画像を合成しない形態も可能である。
【0098】
撮影装置1は、第1のゲームのプレイにおける時間やスコアを管理し、表示画面内に表示する。第1のゲームは、結果判定(図7のゲームエンド時)として、例えば100点満点等のスコアを設けると好ましい。撮影装置1は、第1のゲームの進行の時間やスコアの状況に応じて、傘画像、猫画像、雨画像等の合成の状態を変化させてもよい。変化は、例えば、演出として、傘アイテムに輝きが追加されてパワーアップする、猫がジャンプする、雨が強くなる、犬が出てくる等である。これらはゲームのプログラムで規定される。
【0099】
撮影装置1は、第1のゲーム中、スコアを計算する。スコアの計算方式については、例えば以下が挙げられる。撮影装置1は、第1のゲームのプログラムの実行中、公知技術に基づいて、表示画面内で猫画像が雨画像に当たっているかどうか、オブジェクト間の当たり判定を行う。例えば、猫画像の位置座標と雨画像(または傘アイテム画像)の位置座標との比較で当たり判定が行われる。スコア加算方式を用いる場合、撮影装置1は、雨が猫に当たっていない時間をカウントし、その時間に応じてスコアを加算する。スコア減算方式を用いる場合、撮影装置1は、猫が雨に当たっている時間をカウントし、その時間に応じてスコアを減算する。あるいは、雨が猫に当たった概略的な回数をカウントし、その回数に応じて成功または失敗を判定する方式等を用いてもよい。
【0100】
他の例として、かごアイテムを持つカードを用いた第2のゲームの場合は以下である。撮影装置1は、表示画面内でカードの位置に、かごアイテム画像を合成する。撮影装置1は、表示画面内でりんご等の果物画像を上側からランダムに落とすように合成する。撮影装置1は、果物画像のすぐ下側にかごアイテム画像が配置された場合、果物がかごで受け止められたと判定する。撮影装置1は、例えば果物の受け止めに応じてスコアを加算する。他の例として、ハエたたきアイテムを持つカードを用いた第3のゲームの場合は以下である。撮影装置1は、表示画面内でカードの位置に、ハエたたきアイテム画像を合成する。撮影装置1は、表示画面内でハエ画像を動き回らせるように合成する。撮影装置1は、ハエ画像に重なる位置にハエたたきアイテム画像が配置された場合、ハエがハエたたきでたたかれたと判定する。撮影装置1は、例えばハエをたたき落とした数に応じてスコアを加算する。
【0101】
上記ゲームで、カードに対する動作は、第1の利用者が主体的に自由にカードを移動させる動作に限らず、ゲーム内の指示に従って第1の利用者がカードを移動させる動作でもよい。また、上記カードを用いたゲームは、リプレイも可能である。利用者が商品を購入して入手したカードに関するIDを含む情報は、撮影装置1内に保持される。利用者は、そのカードを用いて、そのIDに対応するゲームをリプレイできる。この場合、開封のステップは済んでいるので、前述の開封動画601の部分は省略される。利用者は、実況動画602の部分に対応するコンテンツ合成動画の作成を再度行うことができる。利用者は、プレイ毎のコンテンツ合成動画の保存や選択した動画の保存が可能である。
【0102】
応用として、コンテンツは、2枚のカードを同時にセットとして用いるタイプのゲームとしてもよい。撮影装置1のプログラムは、画像内で検出した2枚のカードの組合せ(対応する第2のID32のグループ)に応じて、このタイプのゲームを提供する。第1の利用者は、2枚のカードを同時に用いるゲームをプレイできる。例えば、第2のID32のグループは、同じ第1の種類の第1のカード22Aの2枚のセットであり、ID値が{IDA,IDA}の組合せであるとする。この場合、2枚用の第1のゲームが合成される。このゲームは、例えば、第1の利用者が右手に一方のカードを持ち、左手に他方のカードを持ち、2枚のカードの各傘アイテムを同時に動かして、2匹の猫を雨から守るゲームである。同様に、異なる種類のカードの組合せに応じたタイプのゲームを提供してもよい。例えば、第1の利用者が2枚のカードを切り替えながら使用するゲームでもよい。
【0103】
また、応用として、ゲームは、カードの種類に応じて異なる難易度が設定されていてもよい。例えば、傘アイテムを用いた第1のゲームと、かごアイテムを用いた第2のゲームとでは、一方が他方よりも難易度が高く設定される。また、例えば、傘アイテムのカードとして2種類の傘アイテムのカードが用意されてもよい。それらには異なるID値が設定される。例えば、一方の傘アイテムは、サイズが大きく、難易度が低いゲームが提供され、他方の傘アイテムは、サイズが小さく、難易度が高いゲームが提供される。
【0104】
(実施の形態2)
図13および図14を用いて、本発明の実施の形態2のコンテンツ合成システム等について説明する。実施の形態2等の基本的な構成は実施の形態1と同様であり、以下では実施の形態2等における実施の形態1とは異なる構成部分について説明する。
【0105】
[物品構成の第2例]
図13は、実施の形態2における物品2の構成例として第2例を示す。この第2例では、物品2は、商品として、第1の物品21である収容体としての箱と、第2の物品22である被収容物としての玩具本体であるフィギュアとを有する。フィギュアは、立体形象物であり、例えばキャラクターのフィギュアであり、ぬいぐるみ等でもよい。この物品2は、第1のID31および第2のID32を有する。特に、第1の物品21である箱は、外面の所定の位置の第1の箇所に、第1のID31またはそれに対応する第1の表示物である第1のマーカ41が設けられている。本例では、箱の一側面の一箇所に第1のマーカ41が設けられている。第2の物品22である玩具本体は、外面の所定の位置の第2の箇所に、第2のID32またはそれに対応する第2の表示物である第2のマーカ42が設けられている。本例では、フィギュアの前面の一箇所、例えばお腹のあたりに、第2のマーカ42が設けられている。なお、前述と同様に、IDを検出する方式は、マーカ方式に限らず可能である。
【0106】
第1の物品21である箱は、例えば長方体等の多面体であり、例えば上面が蓋となっていて蓋の開閉が可能な機構を有する。最初の第1の状態では、この箱の中に、玩具本体が収容され、蓋が閉じられている。第1の状態は、カメラ60の画像において第1の物品21の第1のマーカ41が写っている状態であり、すなわち、第1のID31のみが検出できる状態である。第1のID31には第1のコンテンツC1が関連付けられている。
【0107】
第1の状態から過渡状態を経て第2の状態へ変化する。第1の利用者は、過渡状態で、所定の動作として、箱の蓋を開けて箱の中から玩具本体を外に取り出す。図示の過渡状態の例では、箱の中に玩具本体が収容されたままで、上面の蓋が開けられており、カメラ60の画像では、箱内の玩具本体の一部が写っている。過渡状態では、前述と同様に、カメラ60の画像内で2個のIDが同時に検出される場合がある。
【0108】
第2の状態は、カメラ60の画像において、第2の物品22である玩具本体の第2のマーカ42が写っており、すなわち、第2のID32のみが検出できる状態である。第2のID32には第2のコンテンツC2が関連付けられている。このような物品2の構成の場合でも、実施の形態1と同様に、第1の利用者が所定の動作を行うことで、撮影装置1が2個のIDを所定の順序で1個ずつ検出できる。撮影装置1は、その順序に対応させて、2個のコンテンツを合成する。
【0109】
他の構成例として、箱の多面体の複数の面のうちどの面にIDまたはマーカを有してもよい。また、箱の複数の面の各面にIDまたはマーカを有してもよい。箱の複数の面の各面のIDまたはマーカが同じID値を持つ構成でもよいし、異なるID値を持つ構成でもよい。図13の下側には、物品2のIDおよびマーカに関する他の構成例を示す。構成131は、箱の多面体の外面のうち、上面、第1の側面、および第2の側面に、それぞれ、異なるID(対応するマーカ)が形成されている場合を示す。本例では、第1のマーカ41は、複数のサブマーカ41a,41b,41cから構成されている。サブマーカ41aは上面に形成され、第1のID31aを有する。サブマーカ41bは第1の側面に形成され、第1のID31bを有する。サブマーカ41cは第2の側面に形成され、第1のID31cを有する。各サブマーカのIDには、同じコンテンツが設定されてもよいし、異なるコンテンツが設定されてもよい。同様に、構成132は、第2の物品22について、前面と後面との両方に、ID(対応するマーカ)を設ける場合を示す。また、他の構成例として、箱の一面において複数のID(対応する複数のマーカ)が設けられてもよい。
【0110】
ある物品の複数のIDを用いた制御例としては、箱の外面の複数のIDのうちいずれか1個のIDが検出できた場合に、対応する1個のコンテンツを合成してもよい。例えば、構成131で、第1のID31a,31b,31cのいずれかが検出された場合に、コンテンツが合成される。他の制御例としては、箱の外面の複数のIDのうち、所定の動作に応じて選択された1個のIDが検出された場合に、そのIDに応じた1個のコンテンツを合成してもよい。例えば、構成131で、第1のID31aが検出された場合には第1のサブコンテンツが合成され、第1のID31bが検出された場合には第2のサブコンテンツが合成される。
【0111】
他の制御例としては、箱の外面の複数のIDのうち、所定の複数(例えば2個または3個)のIDがすべて検出できた場合に、対応する1個のコンテンツを合成してもよい。例えば、構成131で、第1のID31b,31cの両方が同時に検出された場合に、第1のサブコンテンツが合成されてもよい。また、例えば箱の上面に複数のサブマーカを有する場合に、それらの複数のサブマーカが同時に検出できた場合に、第1のサブコンテンツが合成されてもよい。
【0112】
[コンテンツ合成動画]
図14は、実施の形態2におけるコンテンツ合成動画の構成概要を示す。(A)は、第1の状態における合成前の画像141と合成後の画像142とを示す。(B)は、第2の状態における合成前の画像143と合成後の画像144とを示す。画像141は、第1の利用者が手に第1の物品21である箱を持って、カメラ60の方に第1のマーカ41を向けており、第1のID31が検出できる状態である。画像142は、第1のID31の付近の箱を中心として、第1のコンテンツC1が合成されている。本例では、第1のコンテンツC1は、コンテンツC11,C12,C13,C14を含む。コンテンツC11,C12,C13は、図7の画像703の例と同様である。コンテンツC14は、例えば背景で動くように流れる演出用の文字画像(例えば「なんだ?」等)である。
【0113】
画像143は、第1の利用者が手に第2の物品22である玩具本体を持って、カメラ60の方に第2のマーカ42を向けており、第2のID32が検出できる状態である。また、本例では、画像143内に、箱の第1のマーカ41も写っている。画像144は、第2のID32の付近の玩具本体を中心として、第2のコンテンツC2が合成されている。本例では、第2のコンテンツC2は、図5の例とは異なるコンテンツとして、コンテンツC21b,C22b,C23bを含む。コンテンツC21bは、演出用のエフェクト画像であり、第2のID32の付近の玩具本体を中心として、複数のハートマークが外側に広がるように動く画像である。また、コンテンツC22bは、文字画像(例えば「かみのけがはえた〜〜!!」)である。コンテンツC23bは、玩具本体の頭の位置に合成される、髪の毛を表す画像である。
【0114】
なお、画像143の場合、同時に2個のIDとして第1のID31および第2のID32が検出できる状態である。この場合、撮影装置1は、前述の順序制御機能を用いて、画像144内に、1個のコンテンツである第2のコンテンツC2が合成されるように制御する。実施の形態2における物品2は、例えばいわゆるサプライズ・トイであり、コンテンツ合成を用いて、開封の際の演出等を楽しむことができる商品である。第1の物品2は、箱に限らず、カプセルとしてもよい。この場合、物品2は、例えばいわゆるカプセル・トイである。
【0115】
[効果等]
実施の形態1や実施の形態2で、物品2の構成は、2個以上の物品が入れ子構造を持つ。この入れ子構造では、利用者の所定の動作によって物品2の一部が変形または変位等することで、カメラ60の画像内でのIDの見え方の状態が変化する。すなわち、第1の物品21および第1のID31が主に写っている第1の状態から、第2の物品22および第2のID32が主に写っている第2の状態に変わる。撮影装置1は、その状態変化に伴い、複数のIDを所定の順序で1個ずつ検出でき、その順序に従って複数のコンテンツを合成する。よって、実施の形態2でも実施の形態1と類似の効果が得られる。このような入れ子構造での状態変化は、後述の実施の形態4のように、多重入れ子構造による2段階以上の状態変化の構成としてもよい。
【0116】
実施の形態2の変形例として以下が可能である。カメラ60の画像から検出したIDの位置に対し、合成したいコンテンツの位置が異なる場合がある。例えば、画像144のコンテンツC23bの場合、玩具本体の頭の位置に合わせて髪の毛の画像を合成することが好ましい。このため、撮影装置1は、以下のような合成位置制御機能を用いてもよい。撮影装置1は、予め、設定情報として、物品毎のIDの位置と、そのIDに関連付けられた合成対象のコンテンツの位置との相対的な位置関係を保持する。例えば、画像143,144の場合、第2のマーカ42の位置に対し、所定の距離を介して上側の位置が、コンテンツC23bを合成するのに好適な基準位置である。撮影装置1は、その距離や方向を含む位置関係を設定情報として保持する。撮影装置1は、画像内の第2のマーカ42から第2のID32を検出した場合、位置関係に基づいて、コンテンツC23bを合成すべき位置を算出する。そして、撮影装置1は、その算出した位置に対し、コンテンツC23bを合成する。これにより、コンテンツ合成の演出効果をより高めることができる。
【0117】
(実施の形態3)
図15および図16を用いて、本発明の実施の形態3のコンテンツ合成システム等について説明する。
【0118】
[物品構成の第3例]
図15は、実施の形態3における物品2の構成例として第3例を示す。この第3例は、図13の第2例の変形例であり、物品2は、商品として、第1の物品21である収容体としての箱と、第2の物品22である玩具本体としてのフィギュアとを有する。第1の物品21である箱は、外面の第1の箇所に、第1のID32(対応する第2のマーカ42)を有する。また、例えば、前述の例(図13)と同様に、箱の外面の各面として第1の側面、第2の側面、および上面に、第1のID32を有する。各第1のID32のID値の区別として、第1の側面でのID値を#1、第2の側面でのID値を#2、上面でのID値を#3とする。
【0119】
そして、この物品2の構成では、図13の構成との大きな違いとして、第2のID32(対応する第2のマーカ42)は、玩具本体ではなく、箱の内面に設けられている。玩具本体には第2のID32(対応する第2のマーカ42)が設けられていない。すなわち、この構成では、物品2とIDとの関係として、第1の物品21である箱は、第1のID31および第2のID32の両方を有する。第2のID32は、玩具本体に関連付けられた第2のコンテンツC2の合成を制御するためのIDである。例えば、玩具本体にマーカ等を設けたくない場合や設けることが難しい場合、このような構成が有効である。
【0120】
図15の(A)は、第1の物品21である箱のうちの第1の側面(ID値=#1)がカメラ60に向いた場合の第1の状態を示す。この第1の状態は、第1の側面の第1のID31(ID値=#1)が検出できる状態である。箱の他の面のIDについては、画像内で斜面となっているため、検出しにくい状態である。第1の側面の第1のIDは、例えば第1のサブコンテンツC1aと関連付けられている。よって、この第1の状態の時の画像には、第1のサブコンテンツC1aが合成できる。
【0121】
図15の(B)は、第1の物品21である箱のうちの第2の側面(ID値=#2)がカメラ60に向いた場合の第1の状態を示す。この第1の状態は、第2の側面の第1のID31(ID値=#2)が検出できる状態である。第2の側面の第1のID31は、例えば第2のサブコンテンツC1bと関連付けられている。よって、この第1の状態の時の画像には、第2のサブコンテンツC1bが合成できる。
【0122】
すなわち、この構成では、第1の利用者による所定の動作に応じて、(A)の状態や(B)の状態から選択した第1の状態にすることができる。この構成では、選択した第1の状態に応じて異なるコンテンツ(第1のサブコンテンツC1aおよび第2のサブコンテンツC1b)の合成が実現できる。
【0123】
また、この物品2の構成では、第1の物品21である箱における一部の面、例えば第1の側面は、開閉可能な蓋の機構を持つ。第1の利用者は、ガイダンスに従って、第1の状態から、所定の動作として、箱の蓋を開け、開けた面をカメラ60に向ける。第1の状態(例えば(A)の状態)から、この動作を含む過渡状態を経て、第2の状態に遷移する。
【0124】
図15の(C)は、第2の状態を示す。第2の状態は、カメラ60の画像において、箱の第1の側面の蓋が開いた状態で、箱内に収容されている玩具本体が写っている。箱の内面の所定の位置の第2の箇所には、第2のマーカ42(対応する第2のID32)が設けられている。第2の状態は、カメラ60の画像において箱の内面の第2のマーカ42が写っていて第2のID32が検出できる状態である。箱の外面の第1のマーカ41は写っていないか、写っていたとしても斜面であるため検出しにくい状態である。
【0125】
また、本例では、第2のマーカ42は、2個のサブマーカであるサブマーカ42a,42bから構成されている。第2のマーカ42であるサブマーカ42a,42bは、箱の第1の側面の蓋に対し、Z方向で反対側(図示の奥側)にある側面の内面に配置されている。一方のサブマーカ42aは、その内面におけるX方向で左側寄りの位置にあり、他方のサブマーカ42bは、右側寄りの位置にある。玩具本体は、予め、箱内空間のうち中央の位置(点PXで示す)に設置されている。破線で示すように、玩具本体の位置(点PX)は、サブマーカ42aの位置とサブマーカ42bの位置とを結ぶ直線の中間にある。撮影装置1は、このような第2のマーカ42と第2の物品22との位置関係を予め設定情報として保持する。
【0126】
また、本例では、サブマーカ42aの第2のID32とサブマーカ42bの第2のID32は、同じID値(#4とする)を持つ。この第2のID32には、第2のコンテンツC2が関連付けられている。撮影装置1は、カメラ60の画像から複数のマーカ、すなわち2個のサブマーカ42a,42bを検出する。撮影装置1は、検出したサブマーカの位置から、設定情報の位置関係に従って、玩具本体の位置(点PX)を算出する。そして、撮影装置1は、その玩具本体の位置に合わせて第2のコンテンツC2を合成する。
【0127】
他の方式として、撮影装置1は、上記位置関係を用いず、直接的に、カメラ60の画像から画像認識処理(例えば形状や色等の判断を含む)に基づいて、玩具本体の顔や頭等の位置を検出し、その検出した位置に第2のコンテンツC2を合成してもよい。この場合、第1の利用者が箱から離れるように玩具本体を動かす場合でも、その動く玩具本体の位置に合わせて追随するように第2のコンテンツを合成できる。
【0128】
[コンテンツ合成動画]
図16は、図15の物品2の構成に対応した、コンテンツ合成動画の画像例を示す。画像161は、図15の(A)の第1の状態での合成前の画像例を示し、画像162は、合成後の画像例を示す。画像163は、図15の(C)の第2の状態での合成前の画像例を示し、画像164は、合成後の画像例を示す。画像161は、箱の第1の側面の第1のマーカ41から第1のID31(ID値=#1)が検出できる状態である。画像162は、第1のコンテンツC1として、図14の画像142の場合と同様のエフェクト画像等が合成されている。
【0129】
画像163は、箱内の玩具本体がカメラ60に向けられ、第2のマーカ42(サブマーカ42a,42b)から第2のID32(ID値={#4,#4})が検出できる状態である。画像164は、第2のコンテンツC2として、図14の画像144の場合と同様のエフェクト画像等が合成されている。
【0130】
なお、制御例として以下のようにしてもよい。第1の制御例は、第1の利用者が箱の蓋を開けて第2のID42が検出された時、即時に第2のコンテンツC2を合成する。第2の制御例は、第1の利用者が箱の蓋を開けて第2のID42が検出された時、一定時間の経過後に、第2のコンテンツC2を合成する。その一定時間は、設定情報に設定される。この場合、第2のコンテンツC2の合成前に、玩具本体を一定時間見せることになる。
【0131】
本例では、箱の側面を蓋として開ける場合を示したが、これに限らず、箱の上面の蓋を開ける構成等が可能である。また、箱の面に、3個以上の第2のID32(対応する第2のマーカ42)を設けてもよい。例えば、3個または4個のサブマーカの位置によって囲まれる領域を、玩具本体が配置されている領域と捉えてもよい。第2のID32が形成される位置は、蓋の裏面でもよいし、箱の内面の底面としてもよい。箱の面の厚さが大きい場合には、蓋開口面の辺縁にマーカを設けてもよい。また、上記構成で、箱の内面ではなく玩具本体に第2のID32を有する構成とした場合でも、同様のコンテンツ合成が実現できる。また、第1の物品21は、単なる箱としてもよいし、デザインとして、フィギュアのキャラクターの家や部屋等を表す模型等としてもよい。また、第1の物品21は、箱に限らず、玩具本体を支持する支持体(例えば模型の枠や台座)としてもよい。
【0132】
(実施の形態4)
図17を用いて、本発明の実施の形態4のコンテンツ合成システム等について説明する。
【0133】
[物品構成の第4例]
図17は、実施の形態4における物品2の構成例として第4例を示す。この第4例では、物品2は、商品として、第1の物品21である外箱と、第2の物品22である内箱と、第3の物品23である玩具本体(例えばフィギュア)とを有する。最初の第1の状態では、外箱の中に内箱が収容されており、さらに内箱の中に玩具本体が収容されている。言い換えれば、この構成では、3個の物品が二重の入れ子構造の関係で配置されている。第1の範囲は、第1の入れ子構造に対応し、第2の範囲は、第2の入れ子構造に対応する。なお、この構成で、外箱と内箱との部分(第1の範囲)のみを注目すると、それらの関係は、前述の実施の形態2(図13)での第1の物品21の第1の状態と第2の物品22の第2の状態との関係に相当する。また、この構成で、内箱と玩具本体との部分(第2の範囲)のみを注目すると、それらの関係についても、その実施の形態2での関係に相当する。実施の形態4のコンテンツ合成システムは、これらの各範囲および対応する状態変化の段階で、実施の形態1〜3と同様に、所定の順序の制御を適用する。
【0134】
図17で、第1の状態は、外箱の開封前の状態であり、外箱は、外面における第1の箇所に、第1のマーカ41による第1のID31を有する。なお、外箱の外面に少なくとも1つのIDを有し、外箱の外面に複数のID(対応する複数のマーカ)を有してもよい。第1の状態は、カメラ60の画像において、外箱の外面の第1のマーカ41が写っていて第1のID31が検出できる状態である。第1の利用者は、第1の状態から、過渡状態における第1の動作として、外箱を開封して内箱を取り出す。これにより、第2の状態に遷移する。
【0135】
第2の状態は、内箱が現れた状態である。内箱は、外面の第2の箇所に、第2のマーカ42による第2のID32を有する。なお、内箱の外面に少なくとも1つのIDを有し、内箱の外面に複数のIDを有してもよい。第2の状態は、カメラ60の画像において、内箱の外面の第2のマーカ42が現れていて第2のID32が検出できる状態である。第1の利用者は、第2の状態から、過渡状態における第2の動作として、内箱を開封して玩具本体を取り出す。これにより、第3の状態に遷移する。
【0136】
第3の状態は、玩具本体が現れた状態である。玩具本体は、外面の第3の箇所に、第3のマーカ43による第3のID33を有する。なお、玩具本体の外面に少なくとも1つのIDを有し、玩具本体の外面に複数のIDを有してもよい。第3の状態は、カメラ60の画像において、玩具本体の外面の第3のマーカ43が現れていて第3のID33が検出できる状態である。変形例として、実施の形態3と同様に、玩具本体ではなく内箱に第3のID33を有してもよい。
【0137】
第1のID31には、第1のコンテンツが関連付けられている。第2のID32には、第2のコンテンツが関連付けられている。第3のID33には、第3のコンテンツが関連付けられている。第1の画像171は、第1の状態の時の第1のコンテンツの合成後の画像例を示す。この第1の画像171は、概略的に外箱を中心として、第1のコンテンツとして第1のエフェクト画像等が合成されている。第2の画像172は、第2の状態の時の第2のコンテンツの合成後の画像例を示す。この第2の画像172は、概略的に内箱を中心として、第2のコンテンツとして第2のエフェクト画像等が合成されている。第3の画像173は、第3の状態の時の第3のコンテンツの合成後の画像例を示す。この第3の画像173は、概略的に玩具本体を中心として、第3のコンテンツとして第3のエフェクト画像等が合成されている。上記のように、物品2の構成が多重の入れ子構造の場合でも、実施の形態1〜3と類似の効果が得られる。
【0138】
(実施の形態5)
図18を用いて、本発明の実施の形態5のコンテンツ合成システム等について説明する。
【0139】
[物品構成の第5例]
図18は、実施の形態5における物品2の構成例として第5例を示す。この第5例では、物品2は、商品として、第1の物品21である第1のシールと、第2の物品22である第2のシールと、第3の物品23である第3のシールとを有する。最初の第1の状態では、第3のシールの表面の上側に第2のシールが貼られ、第2のシールの表面の上側に第1のシールが貼られている。言い換えれば、この物品2の構成では、3枚のシールが積層構造で配置されている。
【0140】
第1の状態は、カメラ60の画像において、第1のシールの表面が写っており、第1のシールの表面の第1の箇所に設けられている第1のマーカ41(対応する第1のID31)が検出できる状態である。第1の状態から、過渡状態での第1の動作として第1のシールをめくる(言い換えると剥がす)動作が行われ、これにより、第2の状態に遷移する。第2の状態は、カメラ60の画像において、第2のシールの表面が写っており、第2のシールの表面の第2の箇所に設けられている第2のマーカ42(対応する第2のID32)が検出できる状態である。第2の状態から、過渡状態での第2の動作として第2のシールをめくる動作が行われ、これにより、第3の状態に遷移する。第3の状態は、カメラ60の画像において、第3のシールの表面が写っており、第3のシールの表面の第3の箇所に設けられている第3のマーカ43(対応する第3のID33)が検出できる状態である。
【0141】
各シールの表面には、所定のデザインの画像が記載されている。第1のシールの表面には、例えば道が記載されている。第2のシールの表面および第3のシールの表面には、例えば道の途中の水溜りが記載されている。
【0142】
[コンテンツ合成動画]
図19は、図18の物品2の構成の場合のコンテンツ合成動画の画像例を示す。第1の画像191は、第1の状態での合成後の画像を示す。この第1の画像191は、第1のシールの表面の上に、第1のコンテンツとして、キャラクター画像等を含む画像K1が合成されている。この画像K1は、キャラクターが道を歩いている様子を表すアニメーション等の画像である。第2の画像192は、第2の状態での合成後の画像を示す。この第2の画像192では、第2のシールの表面の上に、第2のコンテンツとして、画像K1と同じキャラクターを含む画像K2が合成されている。この画像K2は、キャラクターが水溜りに驚いている様子を表す画像である。第3の画像193は、第3の状態での合成後の画像を示す。この第3の画像193では、第3のシールの表面の上に、第3のコンテンツとして、画像K2と同じキャラクターを含む画像K3が合成されている。この画像K3は、キャラクターが水溜りに落ちてしまい悲しむ様子を表す画像である。
【0143】
上記シールの例のように、積層構造をとる物品2について、シールをめくる動作等に従って、所定の順序での複数のコンテンツ合成を制御できる。これにより、一連のストーリーを表す演出等が実現できる。このように積層構造をとる物品2は、複数枚のシールに限らず、例えば絵本の複数のページでもよいし、カードゲーム(例えばトレーディングカードゲーム)の複数のカード等でもよい。複数枚のカードの場合、例えば第1のカードの上に第2のカードが置かれる動作の場合には、第2のカードの表面の第2のIDの検出に応じて第2のコンテンツが合成できる。
【0144】
(実施の形態6)
図20および図21を用いて、本発明の実施の形態6のコンテンツ合成システム等について説明する。
【0145】
[物品構成の第6例]
図20は、実施の形態6における物品2の構成例として第6例を示す。この第6例では、物品2は、商品として、第1の物品21である装着物としてのアイテムと、第2の物品22であるキャラクターのフィギュアとを有する。図20の(A)は、動作および状態の例として、非装着動作の場合の第1の状態から第2の状態への変化を示す。第1の動作は、非装着動作であり、フィギュアからアイテムを外す動作である。図20の(B)は、装着動作の場合の第2の状態から第1の状態への変化を示す。第2の動作は、装着動作であり、アイテムをフィギュアに付ける動作である。(B)の第2の動作は、(A)の第1の動作の逆の動作に対応する。
【0146】
(A)で、第1の状態は、第2の物品22であるフィギュアにおける所定の位置の第2の箇所(例えばお腹)に、第1の物品21であるアイテム(例えばベルトアイテム)が装着されている状態である。第1の物品21であるアイテムは、所定の位置の第1の箇所に第1のID31を有する。第1のID31は、例えば第1のマーカ41で表される。第1のマーカ41は、例えばアイテムの一部の所定の形状や画像を持つ表示物である。第1の状態は、カメラ60の画像において、アイテムの第1のID31が検出でき、かつ、アイテムによって隠されているフィギュアの第2のID32が検出できない状態である。第1の状態から、第1の動作を含む過渡状態を経て、第2の状態に遷移する。第2の状態は、フィギュアがアイテムを装着していない状態である。第2の状態は、カメラ60の画像において、フィギュアの第2の箇所の第2のID32(対応する第2のマーカ42)が写っていて第2のID32が検出できる状態である。
【0147】
[コンテンツ合成動画]
図21は、図20の物品2の構成の場合のコンテンツ合成動画の画像例を示す。(A)は非装着動作の場合、(B)は装着動作の場合を示す。(A)の第1の画像211は、第1の状態での合成後の画像を示す。本例では、第1のID31には第1のコンテンツが関連付けられている。第2のID32には第2のコンテンツが関連付けられている。第1の画像211は、アイテムの第1のID31を中心として、第1のコンテンツが合成されている。第1のコンテンツは、例えば集中線のエフェクト画像である。第2の画像212は、第2の状態での合成後の画像を示す。第2の画像212では、フィギュアの第2のID32を中心として、第2のコンテンツが合成されている。第2のコンテンツは、例えば星マークによるエフェクト画像である。
【0148】
(B)の装着動作の場合、第2の画像213は、第2の状態での合成後の画像を示す。この第2の画像213の第2のコンテンツは、第2の画像212の場合と同様である。第1の画像214は、第1の状態での合成後の画像を示す。第1の画像214の第1のコンテンツは、第1の画像211の場合と同様である。
【0149】
上記のように、装着物を含む物品2の構成において、非装着動作時と装着動作時とのそれぞれで、所定の順序での複数のコンテンツ合成による演出が実現できる。装着物は、衣服等も可能である。複数の装着物から利用者が選択した装着物を装着できる形態でもよい。玩具本体に対し複数の装着物を積層構造で装着できる形態でもよい。また、変形例として、第1の利用者の身体に対し、複数の装着物を含む物品2を積層構造で装着できる形態でもよい。例えば、第1の衣服の上に第2の衣服を着る動作や、第1の衣服の上に第1のアイテムを装着する動作等に応じて、同様に制御が可能である。また、変形例として、前述の収容体と被収容物との関係や、支持体と被支持物との関係でも、実施の形態6と同様の制御が可能である。例えば、箱にフィギュアを収容する動作に応じて、各コンテンツ合成が制御できる。また、例えば、台座にフィギュアを設置する動作や台座からフィギュアを外す動作に応じて、各コンテンツ合成が制御できる。例えば、台座にフィギュアが設置されていて台座のマーカが検出できない第1の状態と、台座からフィギュアが外されていて台座のマーカが検出できる第2の状態とで、各コンテンツ合成が制御できる。
【0150】
[他の物品]
各実施の形態において適用可能である物品2は、前述の例に限らず、他の玩具、食品、食品玩具、日用品(例えば入浴用品やコスメ用品)、文房具、衣類、靴、鞄、アクセサリ等、各種が適用可能である。物品2は、包装袋、箱、カプセル、家の模型、等の収容体を含んでもよい。物品2は、カード等の平板形状でもよいし、箱等の多面体形状でもよい。物品2は、玩具本体を支持する支持体(例えば台座や模型の枠等)を含んでもよい。物品2は、玩具本体に装着される装着物を含んでもよい。物品2は、利用者の動作に基づいて、少なくとも一部の変位や変形が可能な物体である。その例として、前述のように、開封、開蓋、構成要素となる各物品の分離や集合等がある。
【0151】
[コンテンツおよびエフェクト]
コンテンツは、検出されたIDの位置に対し重ね合わせられるものと、画像フレームの中心位置や所定の位置に対し重ね合わせられるものと、画像フレーム全体に対し重ね合わせられるものとを含む。コンテンツを構成する複数のサブコンテンツは、画像内のID数に応じた数で合成されるサブコンテンツ(例えば傘アイテム画像、猫画像)と、画像内のID数によらずに所定の数で合成されるサブコンテンツ(例えば雨画像)とを含む。
【0152】
コンテンツの一種であるエフェクト画像等について補足する。エフェクトとは、映像や音声に対する、加工、演出、特殊効果等を意味する。エフェクト画像は、例えば、炎、電気、水、光、爆発等を演出する画像を含む。エフェクト画像は、漫画やアニメや特撮番組等で特有の演出のための画像を含む。エフェクト画像は、例えば、吹き出しの画像、喜怒哀楽等の感情を表す画像、変身演出用の画像等を含む。エフェクトは、各種の字体による動くコメントやテキストアニメーション等の文字画像としてもよい。コンテンツのうちの音声は、効果音、BGM、第1の利用者の音声を加工した音声、等としてもよい。
【0153】
コンテンツは、前述の例では、撮影動画に対しARとして重ね合わせる画像としたが、これに限らず適用可能である。コンテンツは、エフェクト画像の変形例として、画面エフェクトとしてもよい。すなわち、コンテンツ合成は、一種として、画面エフェクトを施すこととしてもよい。ここでは、画面エフェクトは、表示画面の画像フレーム全体(対応する画像)に対し、画像加工処理等によって、所定のエフェクトを実現することを指す。画像加工処理の対象は、撮影動画の一部の画像でもよいし、予め用意された画像でもよい。
【0154】
画面エフェクトの例として以下が挙げられる。(a)画面振動:画面を揺らすような演出効果。(b)画面分割:画面を複数の小画面に分割すること(例:4分割、16分割)。(c)画面移動:画面が動いて表示されるような演出効果。(d)一部画像のスロー再生、ファスト再生、ループ再生、一時停止等の演出効果。(e)画面のズーム、回転、縦横比変更等。(f)背景加工:画面内の背景の変更(例:水中、宇宙、単一色等)。(g)色や輝度の加工。例えば白黒化、輝度反転等。(h)フェードイン、フェードアウト。(i)ノイズ加工、モザイク加工等。
【0155】
遊び方は、コンテンツ合成動画を作成し保存することに限らず可能である。例えば、利用者が撮影装置1のカメラ60によって物品2を撮影しながら、所定の順序で合成されて出てくる複数のコンテンツを見て楽しむといった遊び方でもよい。この場合、撮影装置1等に動画を保存する必要は無い。以上、本発明を実施の形態に基づいて具体的に説明したが、本発明は前述の実施の形態に限定されず、要旨を逸脱しない範囲で種々変更可能である。
【符号の説明】
【0156】
1…撮影装置、2…物品、21…第1の物品、22…第2の物品、31…第1のID、32…第2のID、8…他の機器、9…サーバ、50…タッチパネル、60…カメラ、91…アプリケーションプログラム、92…動画データ、93…コンテンツデータ。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21