IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社ACW−DEEPの特許一覧 ▶ 昭和電線ホールディングス株式会社の特許一覧

<>
  • 特開-合成映像提供システム 図1
  • 特開-合成映像提供システム 図2
  • 特開-合成映像提供システム 図3
  • 特開-合成映像提供システム 図4
  • 特開-合成映像提供システム 図5
  • 特開-合成映像提供システム 図6
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024054570
(43)【公開日】2024-04-17
(54)【発明の名称】合成映像提供システム
(51)【国際特許分類】
   H04N 23/60 20230101AFI20240410BHJP
   H04N 21/2343 20110101ALI20240410BHJP
   G03B 15/00 20210101ALI20240410BHJP
   G03B 17/24 20210101ALI20240410BHJP
【FI】
H04N5/232 290
H04N21/2343
H04N5/232 300
G03B15/00 H
G03B17/24
【審査請求】未請求
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2022160872
(22)【出願日】2022-10-05
(71)【出願人】
【識別番号】516049674
【氏名又は名称】株式会社ACW-DEEP
(71)【出願人】
【識別番号】000002255
【氏名又は名称】SWCC株式会社
(74)【代理人】
【識別番号】100082418
【弁理士】
【氏名又は名称】山口 朔生
(74)【代理人】
【識別番号】100167601
【弁理士】
【氏名又は名称】大島 信之
(74)【代理人】
【識別番号】100201329
【弁理士】
【氏名又は名称】山口 真二郎
(74)【代理人】
【識別番号】100220917
【弁理士】
【氏名又は名称】松本 忠大
(72)【発明者】
【氏名】中山 雄裕
(72)【発明者】
【氏名】山口 聡
(72)【発明者】
【氏名】瀬間 信幸
(72)【発明者】
【氏名】関口 憲治
【テーマコード(参考)】
5C122
5C164
【Fターム(参考)】
5C122DA03
5C122EA42
5C122FH11
5C122FH18
5C122FH23
5C122FK12
5C122GA01
5C122GA23
5C122GC37
5C122GC75
5C122HB05
5C164FA12
5C164PA38
5C164SA25S
5C164SB02P
5C164SB36S
5C164SD12S
(57)【要約】
【課題】交流希望者に対し、従前の非接触式の交流とは異なる新規な交流体験を与えることが可能な手段を提供する。
【解決手段】交流希望者の撮影映像および交流対象者の撮影映像を合成してなる合成映像を提供する合成映像提供システムであって、撮影部10、保存部20、計測部30および合成部40を少なくとも有する。撮影部10はリアルタイムで交流希望者を撮影した第1の撮影映像11を、深度情報を有する状態で取得し、保存部20は予め交流対象者を撮影した第2の撮影映像21を、深度情報を有する状態で保存する。合成部40は、計測部30で取得した位置情報31に基づいて、第1の撮影映像11および第2の撮影映像21を合成素材の一部または全部とする合成映像42を生成する。
【選択図】図1
【特許請求の範囲】
【請求項1】
交流希望者の撮影映像および交流対象者の撮影映像を合成してなる合成映像を提供する、合成映像提供システムであって、
撮影部、保存部、計測部および合成部を少なくとも有し、
前記撮影部は、
リアルタイムで前記交流希望者を撮影した、第1の撮影映像を、深度情報を有する状態で取得する機能を有し、
前記保存部は、
予め前記交流対象者を撮影した、第2の撮影映像を、深度情報を有する状態で保存する機能を有し、
前記計測部は、前記第1の撮影映像および前記第2の撮影映像の合成に使用する位置情報を取得する機能を有し、
前記合成部は、
前記位置情報に基づいて、前記第1の撮影映像および前記第2の撮影映像を合成素材の一部または全部とする合成映像を生成する機能を有する、
ことを特徴とする、合成映像提供システム。
【請求項2】
任意の色で着色した、少なくとも1つの交流補助具を更に有し、
前記合成部は、
前記交流補助具が映り込んでいる前記第1の撮影映像に対し、
前記深度情報に基づく除去処理である、デプス系除去処理、および、
前記任意の色の色空間情報の値に基づく除去処理である、クロマ系除去処理、
を行って、前記交流補助具を除去してなる、処理後の第1の撮影映像を生成し、
前記合成部は、
前記処理後の第1の撮影映像および前記第2の撮影映像を少なくとも含んだ合成映像を生成する機能を有することを特徴とする、
請求項1に記載の合成映像提供システム。
【請求項3】
前記交流補助具が、前記合成映像中の前記交流対象者を模擬する人形体であることを特徴とする、
請求項2に記載の合成映像提供システム。
【請求項4】
表示部を更に有し、
前記表示部は、
前記合成映像を表示する機能を有することを特徴とする
請求項1に記載の合成映像提供システム。
【請求項5】
映像提供部を更に有し、
前記映像提供部は、
前記交流希望者に対し、前記合成映像に基づく静止画または動画を提供するためのリンクを生成する機能を有することを特徴とする、
請求項1に記載の合成映像提供システム。
【請求項6】
前記保存部は、さらに、
前記合成素材の一部として使用可能な素材映像を保存する機能を有することを特徴とする、
請求項1に記載の合成映像提供システム。
【請求項7】
前記合成映像の中に、前記第2の撮影映像が複数含まれることを特徴とする、
請求項1に記載の合成映像提供システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、交流希望者の撮影映像および交流対象者の撮影映像を合成してなる合成映像を提供するための、合成映像提供システムに関する。
【背景技術】
【0002】
芸能人、俳優、スポーツ選手、文化人、アナウンサー、その他の有名人に代表される、多数のファン(以下「交流希望者」ともいう。)を有する者(以下「交流対象者」ともいう)は、従前から、ファンイベント、サイン会、握手会などで、同一空間での対面交流の機会を設けている。
【0003】
近年では、新型コロナウィルス感染症(COVID-19)の蔓延をきっかけとして、いわゆる三密(密集、密接、密閉)を避ける観点から、各種の動画配信サービスを利用したライブ配信(非特許文献1,2)などを用いた非接触式の交流も行われている。
【0004】
その他のファン向けのサービスとしては、例えば、以下のサービスが知られている。
(1)コンサート会場等で、交流対象者の等身大パネルを有する撮影ブースを設け、交流希望者が自由に写真撮影を可能とするもの。
(2)交流対象者の撮影データを背景素材としたプリントシール機を設け、交流対象者および交流希望者がおさまった写真データを、プリントシールの発行とは別に、交流希望者の携帯端末でダウンロード可能とするもの(非特許文献3)
【先行技術文献】
【非特許文献】
【0005】
【非特許文献1】https://www.youtube.com/intl/ALL_jp/howyoutubeworks/product-features/live/
【非特許文献2】https://www.withlive.jp/
【非特許文献3】https://o.puri.jp/
【発明の概要】
【発明が解決しようとする課題】
【0006】
上記した従前のサービスでは、以下の点で改善の余地がある。
(1)ライブ配信等を利用した交流の場合、物理的な接触の実感が伴わないため、従前行われていた、交流希望者と交流対象者との同一空間での対面交流と同等の充実感を与えることが難しい。
(2)ライブ配信を行うにあたって、交流対象者の時間制約(スケジュール調整、拘束時間の長期化)が大きい。
(3)プリントシール機では、交流希望者の入手物が静止画に限定される。
(4)プリントシール機では、背景素材は平面情報であるため、交流希望者の撮影レイヤーに対し、前方または後方に配置するしかない。
(5)プリントシール機は専用品であるため、構成する各種ハードウェア・ソフトウェアが高価でありコストの圧縮に限界がある。
【0007】
よって、本発明は、交流希望者に対し、従前の非接触式の交流とは異なり、交流対象者との新規な交流体験を与えることが可能な手段を提供することを目的の1つとする。
【課題を解決するための手段】
【0008】
上記した課題を解決すべくなされた本願発明は、交流希望者の撮影映像および交流対象者の撮影映像を合成してなる合成映像を提供する、合成映像提供システムであって、撮影部、保存部、計測部および合成部を少なくとも有し、前記撮影部は、リアルタイムで前記交流希望者を撮影した、第1の撮影映像を、深度情報を有する状態で取得する機能を有し、前記保存部は、予め前記交流対象者を撮影した、第2の撮影映像を、深度情報を有する状態で保存する機能を有し、前記計測部は、前記第1の撮影映像および前記第2の撮影映像の合成に使用する位置情報を取得する機能を有し、前記合成部は、前記位置情報に基づいて、前記第1の撮影映像および前記第2の撮影映像を合成素材の一部または全部とする合成映像を生成する機能を有するよう構成した。
当該構成によれば、各撮影映像に係る深度情報に基づいて、各映像の前後が入れ替わるように表示される、斬新な合成映像を提供することができる。
【0009】
また、本願発明は、任意の色で着色した、少なくとも1つの交流補助具を更に有し、前記合成部は、前記交流補助具が映り込んでいる前記第1の撮影映像に対し、前記深度情報に基づく除去処理である、デプス系除去処理、および、前記任意の色の色空間情報の値に基づく除去処理である、クロマ系除去処理、を行って、前記交流補助具を除去してなる、処理後の第1の撮影映像を生成し、前記合成部は、前記処理後の第1の撮影映像および前記第2の撮影映像を少なくとも含んだ合成映像を生成する機能を有するよう構成することもできる。
当該構成によれば、交流希望者と交流対象者との位置合わせをより正確に行った合成映像を提供することができる。
【0010】
また、本願発明は、前記交流補助具を、前記合成映像中の前記交流対象者を模擬する人形体で構成することもできる。
当該構成によれば、人形体への接触によって、あたかも交流対象者に触れたような感覚を得られる新規な交流体験を得ることができる。
【0011】
また、本願発明は、前記合成映像を表示する表示部を更に有する構成とすることもできる。
当該構成によれば、表示部に表示される合成映像を交流希望者が確認することで、第2の撮影映像内の交流対象者の振る舞いにあわせるように交流希望者の振る舞いを変えることが容易となり、より自然な合成映像を提供することができる。
【0012】
また、本願発明は、前記保存部に、さらに合成素材の一部として使用可能な素材映像を保存する機能を有するよう構成することもできる。
当該構成によれば、よりバリエーションに富んだ合成映像を提供することができる。
【0013】
また、本願発明は、前記合成映像の中に、前記第2の撮影映像を複数含めるよう構成することもできる。
当該構成によれば、従前の非接触式の交流では実現することが不可能な交流体験が可能な合成映像を提供することができる。
【発明の効果】
【0014】
本発明によれば、交流希望者に対し、交流対象者との新規な交流体験を与えることができる。
【図面の簡単な説明】
【0015】
図1】本発明に係る合成映像提供システムの機能ブロック図。
図2】本発明に係る合成映像提供システムの使用イメージを示す図。
図3】第2の撮影映像に対する除去処理の流れを示すイメージ図。
図4】第1の撮影映像に対する除去処理の流れを示すイメージ図。
図5】実施例1に係る合成映像の生成の流れを示すイメージ図。
図6】実施例2に係る合成映像のイメージ図。
【発明を実施するための形態】
【0016】
以下、図面を参照しながら、本発明の詳細について説明する。
【0017】
<1>全体構成(図1
図1に示す合成映像提供システムAは、撮影部10、保存部20、計測部30および合成部40を少なくとも具備しており、その他、表示部50や映像提供部60などを適宜追加して使用することができる。
各部は、ハードウェアおよびソフトウェアを任意に組み合わせて実現することができるほか、各部を個別の装置とする構成や、複数の各部を一つの装置に組み込んで一体化した構成等を採用することができる。
また、本発明において、撮影拠点の数、各部の数、各部の配置場所、各撮影拠点における構成の異同は特段限定しない。
以下、各部の詳細ならびに演算手順の詳細について説明する。
【0018】
<2>撮影部(図1
撮影部10は、第1の撮影映像11を取得するための部位である。
本発明では、撮影部10として、デプスカメラや3Dカメラとも呼ばれる、撮影映像に深度情報を紐付けることが可能なカメラを用いる。
また、本発明において、撮影部10の画角等は特段限定しない。
【0019】
<2.1>第1の撮影映像
第1の撮影映像11は、リアルタイムで交流希望者Bを撮影することで得られる映像データであり、合成映像42を生成するための合成素材として使用される。
第1の撮影映像11は、深度情報が紐付けられた映像データであるため、後述するデプス系除去処理によって、カメラから所定の離隔距離内にある物体や人物を抽出することができる。
【0020】
<3>保存部(図1
保存部20は、前記した第1の撮影映像11以外に、合成映像42を生成するための合成素材としてされる映像データを保存するための部位である。
本発明において、保存部20で保存される映像データは、少なくとも第2の撮影映像21を含むものとし、その他、素材映像22を含めることができる。
以下、各映像データの詳細について説明する。
【0021】
<3.1>第2の撮影映像
第2の撮影映像21は、予め交流対象者Cを撮影することで得られる映像データであり、合成映像42を生成するための合成素材として使用される。
本発明では、第2の撮影映像21を撮影するカメラには、デプスカメラや3Dカメラとも呼ばれる、撮影映像に深度情報を紐付けることが可能なカメラを用いるものとする。
したがって、第2の撮影映像21を撮影するカメラは、前記した第1の撮影映像11を撮影するための撮影部10と同じカメラを用いても良いし、異なるカメラを用いても良い。
【0022】
<3.1.1>除去処理の有無
また、本発明は、保存部20に保存される第2の撮影映像21を、撮影した映像データそのものとしても良いし、当該映像データに対し、後述する第1の撮影映像11に対して行う「任意部分の除去処理」を実行した映像データであってもよい。
【0023】
<3.2>素材映像
素材映像22は、前記した第1の撮影映像11および第2の撮影映像21の他に、合成映像の合成素材として使用される映像データである。
素材映像22は、現実の場所を予め撮影しておいた映像、予め製作されたCG映像、VR空間を提供する仮想映像(VR映像)またはこれらの組合せ映像などを用いることができる。
素材映像22は、主に、合成映像42中の背景を担うイメージとなる。
したがって、本発明では、例えば第1の撮影映像11および第2の撮影映像21にて背景となる箇所が除去されていなければ、合成映像42に素材映像22を用いる必要は無い。
【0024】
また、本発明は、素材映像22に対して、後述する第1の撮影映像11に対して行う「任意部分の除去処理」を行うことを除外するものではない。
【0025】
<4>計測部(図1
計測部30は、当該計測部30を設置した箇所の位置情報31を取得する機能を具備する装置である。
この「位置情報31」は、空間座標に限定されるものではなく、取り付けた者の姿勢や向きを認識可能な情報を少なくとも含むものとする。
計測部30は、角度センサ、加速度センサ、ジャイロスコープなどのセンサ群、モーションキャプチャー装置、GPS装置、トラッカー等を用いることができる。
また、計測部30は、ある箇所に設置するタイプに限定されるものではなく、人に装着または手持ちさせるタイプ、物体に取り付けるタイプ、人が操作するコントローラに内蔵されているタイプなど、あらゆるタイプが含まれる。
本発明では、計測部30を設置する箇所は、撮影部10や、後述する交流補助具70(図1において図示せず)等が候補となる。
計測部30で得た位置情報31は、第1の撮影映像11と第2の撮影映像21とを合成する際の基準情報として使用することができる。
【0026】
<5>合成部(図1
合成部40は、少なくとも第1の撮影映像11および第2の撮影映像21を合成素材の一部または全部として、合成映像42を生成する機能を有する。
合成部40での処理は、主として、合成前の事前処理と、合成処理とに別れる。
以下、各処理の詳細について説明する。
【0027】
<5.1>合成前の事前処理
合成部40は、合成映像42を生成する前に、各合成素材について、任意部分の除去処理を行ってもよい。
この「任意部分の除去処理」とは、映像を構成するフレーム画像に対して、任意の部分を除去して、その余の箇所を抽出する処理である。
本発明において、「任意部分の除去処理」の手法は特段限定しないが、代表的な除去処理として、クロマ系除去処理とデプス系除去処理がある。
以下、各除去処理の詳細について説明する。
【0028】
<5.1.1>デプス系除去処理
デプス系除去処理は、除去処理対象となる映像について、当該映像に紐付けられている深度情報の値に基づいた除去を行う処理である。
映像に紐付けられている深度情報は、デプスカメラを用いた場合において撮影映像に予め埋め込まれているデータや、撮影映像を画像解析して別途生成するデータ、または別途設けた3Dスキャナ等から得られるデータなどを用いることができる。
【0029】
デプス系除去処理の一例としては、撮影映像に紐付けられている深度情報に基づいて、所定の距離以上の深度情報を有する部分を除去する処理がある。
例えば、撮影部10から、50cm以上の深度情報を有する箇所を除去対象とした場合、除去処理後の拠点映像は、撮影部10から、50cm未満の深度情報を有する箇所の映像のみが抽出されたものとなる。
【0030】
なお、デプス系除去処理による抽出箇所は、画角内の人物の身体に限らないため、人物がコントローラやファングッズ等の物体を手持ちしている場合や、画角内の椅子、机、梯子、食品等の物体が存在する場合には、これらも同時に抽出されることになる。
【0031】
<5.1.2>クロマ系除去処理
クロマ系除去処理は、除去処理対象となる映像について、当該映像の色空間情報の値に基づいた除去を行う処理である。
【0032】
クロマ系除去処理は、RGB,RGBA,CMY,HSV,HLSなどの周知の色空間情報に基づき、各色空間で定義される要素および数値範囲の中で所定の範囲を設定することによって、特定の均質色に対応する部分を除去して行う。
例えば、HSV色空間情報を用いてクロマ系除去処理を行う場合、HSV色空間情報は、色相(hue:0°~360°)、彩度(saturation:0%~100%)、明度(value:0%~100%)のパラメータを含んだ情報であり、各パラメータの数値範囲を設定することで、特定の均質色に対応する部分を除去することになる。
【0033】
クロマ系除去処理を実施する際には、予め、撮影部10の画角に含まれる箇所に、任意の均一色を呈する背景材を設置する方法や、除去したい物体に対し予め任意の均一色で着色を施しておく方法を適宜採用すればよい。
【0034】
<5.1.3>各除去処理の組合せ
本発明では、上記した「任意部分の除去処理」の実施内容、実施順、実施回数は特段限定せず、本発明に係るシステムの用途に応じて適宜決定することができる。
なお、除去処理対象である撮影映像に対し、デプス系除去処理を行ってから、更にクロマ系除去処理を行うことで、デプス系除去処理では明瞭に除去しきれなかった物を除去することもできる。
【0035】
<5.2>合成処理
合成部40にて、各合成素材を合成する際には、計測部30から得られる位置情報31を用いるものとする。
例えば、第1の撮影映像を撮影するブースにおいて、撮影部10の位置情報と、第1の撮影映像11上での第2の撮影映像21を合成する予定箇所の位置情報の二点を特定できれば、これらの位置情報を用いて、第1の撮影映像11と第2の撮影映像21とを正確な位置で合成することができる。
【0036】
<6>表示部(図1
表示部50は、合成部40で生成した合成映像42を表示する機能を有する。
表示部50は、一般的なディスプレイ、モニター、プロジェクター等に限らず、VR、AR、XR等の空間体験で使用可能な、ヘッドマウントディスプレイやゴーグル、ハウジングに収容してゴーグル化可能なスマートフォンなどの携帯端末などを用いることもできる。
【0037】
<7>映像提供部(図1
映像提供部60は、合成部40で生成した合成映像42を、交流希望者Bに提供する機能を有する。
本発明において、映像提供部60による、合成映像42の提供手法は特段限定しないが、例えば、生成した合成映像42を、保存部20やその他の保存手段で保存しておき、この合成映像42をダウンロード可能なリンクを、テキストや二次元コードの形で、交流希望者Bに提供する方法などが考えられる。
【0038】
<8>交流補助具
その他、本発明に係る合成映像提供システムAにおいて、更に交流補助具70(図1において図示せず)を設けることもできる。
【0039】
交流補助具70は、例えば、第1の撮影映像11の撮影時においては、撮影場所にいる交流希望者Bにとって、撮影場所にいない交流対象者Cとの合成映像42上での位置の把握や、交流補助具70との接触によってあたかも交流対象者Cと触れあったような感覚を得るためや、交流希望者Bが小さな子どもなどの場合に、交流対象者Cとの背丈や目線の調整のため、等に使用される。
【0040】
交流補助具70は、合成映像42内で表示されないよう、クロマ系除去処理によって除去対象となる色空間情報に基づく任意の色で着色していることが好ましい。
【0041】
本発明では、交流補助具70として、人を模した人形体や、人が乗り降り可能な高さ調整台などを用いることができる。
人形体の形状は、人体の一部または全体を模擬したものを用いることができ、交流イベントでの交流内容に適した形状を選択することができる。
たとえば、交流内容が、交流対象者Cと交流希望者Bとでハイタッチを行う場合には、交流対象者Cを模擬した人形体を用意することが考えられる。また、ハイタッチにて手を合わせる位置に、人形体に代えてガイドを設けてもよい。
また、交流内容が、交流対象者Cと交流希望者Bとでハンドサインを作る場合には、交流対象者Cの手指を模擬した人形体を用意することが考えられる。
また、交流内容が、交流対象者Cの腕に交流希望者Bがぶら下がることを想定している場合には、交流対象者Cの腕を模擬した人形体を用意することが考えられる。
また、交流内容が、交流希望者Bが交流対象者Cと肩を組むことを想定している場合には、交流対象者Cの肩周辺を模擬した人形体を用意することが考えられる。
【実施例0042】
<1>全体構成(図2
図2は、本発明に係る合成映像提供システムを、アイドルのコンサート会場内の撮影ブースに設けた場合を想定したイメージ図である。
本実施例では、ファンが交流希望者Bに相当し、アイドルが交流対象者Cに相当する。
【0043】
図2に示すように、撮影ブースは、交流希望者Bの為のスペースを用意しておき、周囲をクロマ系除去処理によって除去対象となる色空間情報に基づく任意の色で着色した背景材Jで覆っている。
また、撮影ブースの所定位置には、交流希望者Bを撮影するためのデプスカメラD、交流対象者Cを模擬した人形体E、人形体Eに取り付けるトラッカーF、合成映像を生成する情報処理装置G、および合成映像を表示するディスプレイH等を設置している。
本実施例では、デプスカメラDが撮影部10として機能し、情報処理装置Gが少なくとも保存部20、合成部40として機能し、人形体Eが交流補助具70として機能し、トラッカーFが計測部30として機能し、ディスプレイHが表示部50として機能する。
本実施例においては、デプスカメラDは固定されるため、デプスカメラDの位置情報は予め求めておくものとする。
【0044】
<2>合成映像の生成手順(図3図5
次に、合成映像42の生成の流れについて説明する。
なお、本発明において、下記の各処理は、動作に矛盾のない範囲で順番を入れ換えたり、並行実施したりすることができる。
【0045】
(1)事前準備(第2の撮影映像21および素材映像22の用意)(図3
始めに、交流対象者Cを撮影対象として、第2の撮影映像21を撮影する。
第2の撮影映像21は、予め交流希望者Bの立ち位置を想定して、交流希望者Bの周囲を回る動作や、交流希望者Bに話しかける動作、交流対象者Cの決めポーズを取る動作、交流対象者Cと交流希望者Bとでハイタッチを行う動作、交流対象者Cと交流希望者Bとでハンドサインのポーズを取る動作、などを複数用意しておくことが好ましい。
第2の撮影映像21を撮影する際に、デプスカメラを用いつつ、撮影箇所に、均一色の背景材Jを配置しておけば、第1の撮影映像11と同様、前記したデプス系除去処理およびクロマ系除去処理を行うことができる。
【0046】
図3に、第2の撮影映像に対する除去処理のイメージを示す。
本実施例では、図3(a)に示す、デプスカメラで交流対象者Cを撮影した映像に対し、デプス系除去処理を行うことにより、図3(b)に示すように、交流対象者Cよりも奥側に位置する物体が除去された映像が生成される。
さらに、図3(b)に示す映像に、クロマ系除去処理を行うことにより、図3(c)に示す、交流対象者Cのみが抽出された映像を、第2の撮影映像21として、情報処理装置Gに予め保存している。
【0047】
また、必要に応じて、素材映像22も情報処理装置Gに予め保存しておく。
【0048】
(2)第1の撮影映像の取得(図2図4
次に、コンサート会場に設けた撮影ブースで、交流希望者Bを撮影対象とした第1の撮影映像11を取得する。
第1の撮影映像11は、予め交流対象者Cの立ち位置に、交流補助具70を設置するなどして、その周りを交流希望者Bに自由に動いてもらうことも可能なほか、第2の撮影映像21で用意している交流対象者Cの各種の振る舞いにあわせて動いてもらうこともできる。
【0049】
(3)合成映像の生成(図4図5
情報処理装置Gでは、保存してある第2の撮影映像21および素材映像22と、リアルタイムに送信される第1の撮影映像11とを合成して、合成映像42を生成する。
本実施例では、第1の撮影映像11に、デプス系除去処理およびクロマ系除去処理を行ったものと、保存してある第2の撮影映像21および素材映像22を、トラッカーFで得た位置情報およびデプスカメラDの位置情報に基づいて合成処理を行っている。
【0050】
(3.1)第1の撮影映像に対する除去処理(図4
図4に、第1の撮影映像11に対する除去処理のイメージを示す。
本実施例では、図4(a)に示す、デプスカメラDで交流希望者Bおよび交流補助具70を撮影した第1の撮影映像11に対し、デプス系除去処理を行うことにより、図4(b)に示すように、交流希望者Bよりも奥側に位置する物体が除去された映像が生成される。
このとき、交流補助具70は、交流希望者Bとの位置関係の都合上、デプス系除去処理では除去しきれない場合がある。
そこで、図4(b)に示した映像に対し、さらにクロマ系除去処理を行うことにより、図4(c)に示す、交流希望者Bのみを抽出した映像(処理後の第1の撮影映像41)を生成することができる。
なお、図4(c)に示す、処理後の第1の撮影映像41では、交流希望者Bの腕の一部が、人形体Eの首の後方に回り込んでいるため、画面上欠損して見える状態となる。
【0051】
(3.2)合成処理(図5
図5に、合成映像の生成イメージを示す。
本実施例では、情報処理装置Gに保存された、第2の撮影映像21および素材映像22と、処理後の第1の撮影映像41とを、トラッカーFから取得した位置情報31を少なくとも用いて合成処理を行う。
合成対象となるいずれの映像も、深度情報が紐付けられているため、合成映像42では、交流対象者Cや交流希望者Bの移動によって、位置関係が前後することになる。
図5に示す、処理後の第1の撮影映像41単体では、交流希望者Bの腕の一部が欠損しているように表示されていたものの、合成映像42上では、当該箇所は第2の撮影映像21の交流対象者Cの首や頭部によって隠されるため、違和感は無くなる。
また、素材映像22に含まれていた流れ星は、合成映像42上では、交流希望者Bよりも前方を通過し、同じく素材映像22に含まれていた看板は、交流希望者Bよりも後方に配置され、一部が交流希望者Bによって隠れるように表示される。
【0052】
(4)合成映像の表示(図2
情報処理装置Gで生成された合成映像42は、ディスプレイHへと送信され、交流希望者B等によってリアルタイムで閲覧することができる。
当該構成によれば、交流希望者B自身が、合成映像42を確認しながら、第2の撮影映像21での交流対象者Cの振る舞いに合わせるように、自己の振る舞いの調整が容易となる。
【0053】
なお、ディスプレイHを交流希望者Bと向かい合うように設置している際には、合成映像42を左右に反転した状態で表示しておく構成が望ましい。
当該構成によれば、交流希望者Bがより違和感なく、合成映像42上での自己の振る舞いの調整が容易となる。
【0054】
<3>合成映像の保管・提供(図示せず)
生成した合成映像42は、動画または静止画の形式で、情報処理装置Gや、その他の保存手段に保存しておき、交流希望者Bの求めに応じて提供可能に構成してもよい。
合成映像42の提供方法は、合成映像42のダウンロードリンクを読み取り可能な二次元コードを交流希望者Bに提供するなど、公知の方法を用いればよい。
【0055】
<4>まとめ
本発明に係る構成によれば、交流希望者Bと交流対象者Cとの同一空間での対面交流が出来ない場合であっても、交流希望者Bに対し、交流対象者Cとあたかも対面交流しているような新規な交流体験を提供することができる。
【実施例0056】
<1>全体構成(図6
本発明に係る合成映像提供システムAでは、合成部40において、複数の第2の撮影映像21を合成することもできる(図6)。
例えば、第2の撮影映像21について、交流対象者Cが異なるポージングをしたパターンで複数用意し、撮影ブースに設置してある複数のトラッカーFから取得する位置情報31に基づいて、素材映像22上の任意の複数座標に、第2の撮影映像21を別々に合成することができる。
このとき、第2の撮影映像21内の交流対象者Cの縮尺を縮めて、交流希望者Bの肩や掌に交流対象者Cを載せるように、各映像を合成することも可能となる。
また、第2の撮影映像21に対し、逆再生や、スローモーション、ストップモーションなど、種々の映像加工を施した上で、合成映像42の合成素材とすることもできる。
【0057】
<2>まとめ
本実施例に係る構成によれば、交流希望者Bと交流対象者Cとの同一空間での対面交流が出来ない場合であっても、交流希望者Bに対し、従前の非接触式の交流では実現することが不可能な交流対象者Cとの非現実的な交流体験を提供することができる。
【符号の説明】
【0058】
A:合成映像提供システム
B:交流希望者
C:交流対象者
D:デプスカメラ
E:人形体
F:トラッカー
G:情報処理装置
H:ディスプレイ
J:背景材
10:撮影部
11:第1の撮影映像
20:保存部
21:第2の撮影映像
22:素材映像
30:計測部
40:合成部
41:処理後の第1の撮影映像
42:合成映像
50:表示部
60:映像提供部
70:交流補助具
図1
図2
図3
図4
図5
図6