(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023072709
(43)【公開日】2023-05-25
(54)【発明の名称】三次元VR撮影装置、三次元VR再生システム、三次元VR撮影方法、並びに、その方法のプログラムおよびそのプログラムを記録した記録媒体
(51)【国際特許分類】
H04N 13/293 20180101AFI20230518BHJP
H04N 13/239 20180101ALI20230518BHJP
H04N 13/366 20180101ALI20230518BHJP
H04N 13/194 20180101ALI20230518BHJP
H04N 13/344 20180101ALI20230518BHJP
H04N 23/45 20230101ALI20230518BHJP
H04N 5/222 20060101ALI20230518BHJP
H04N 23/60 20230101ALI20230518BHJP
H04N 23/698 20230101ALI20230518BHJP
G06T 19/00 20110101ALI20230518BHJP
G03B 17/56 20210101ALI20230518BHJP
G03B 35/02 20210101ALI20230518BHJP
G03B 15/00 20210101ALI20230518BHJP
G03B 37/00 20210101ALI20230518BHJP
【FI】
H04N13/293
H04N13/239
H04N13/366
H04N13/194
H04N13/344
H04N5/225 800
H04N5/222 100
H04N5/232 290
H04N5/232 380
G06T19/00 300B
G03B17/56 A
G03B17/56 B
G03B35/02
G03B15/00 H
G03B37/00 A
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2021185311
(22)【出願日】2021-11-13
(71)【出願人】
【識別番号】501397872
【氏名又は名称】株式会社エル・エー・ビー
(74)【代理人】
【識別番号】100182198
【弁理士】
【氏名又は名称】藤田 貴男
(72)【発明者】
【氏名】黒木 章吉
【テーマコード(参考)】
2H059
2H105
5B050
5C061
5C122
【Fターム(参考)】
2H059AA04
2H059BA11
2H105AA06
2H105AA11
2H105AA18
5B050BA13
5B050CA07
5B050DA07
5B050EA07
5B050EA12
5B050EA18
5B050EA19
5B050EA24
5B050FA02
5B050FA09
5B050GA08
5C061AA01
5C061AB04
5C061AB06
5C061AB14
5C061AB18
5C122DA03
5C122DA04
5C122EA37
5C122FA02
5C122FA18
5C122FH11
5C122FH18
5C122FK23
5C122GA01
5C122GA23
5C122HA13
5C122HA35
5C122HA75
5C122HB01
(57)【要約】
【課題】三次元VRの動画の撮影で正面(撮影対象物)以外の映像の焦点を合わすことができる三次元VR撮影装置を提供する。
【解決手段】撮影手段を水平方向に360度回転可能に支持する回転支持手段と、動画を編集する動画編集手段とを有し、撮影手段は、回転支持手段を用いて撮影手段を360度回転しながら背景用動画素材である背景素材データを撮影し、かつ、撮影対象物が撮影手段の周りに略円形にそれぞれ配置した状態を回転支持手段を用いて撮影手段を360度回転しながら撮影対象物を撮影した動画素材である本編素材データを撮影し、動画編集手段は、背景素材データ及び本編素材データから静止画像を生成する静止画像生成部と、生成した複数の静止画像について撮影時の回転支持手段の回転位置に関する情報を検出する位置情報検出部と、背景素材データと本編素材データとを合成して合成動画データを生成する動画合成部とを備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
第1の動画と、前記第1の動画とは視差ある位置で同時に撮影された第2の動画とを表示する三次元動画を撮影する三次元VR撮影装置であって、
前記第1の動画および前記第2の動画を撮影する撮影手段と、
前記撮影手段を水平方向に360度回転可能に支持する回転支持手段と、
前記撮影手段で撮影した動画を編集する動画編集手段と
を有し、
前記撮影手段は、前記回転支持手段を用いて該撮影手段を360度回転しながら背景用動画素材である背景素材データを撮影し、かつ、撮影対象物が該撮影手段の周りに略円形にそれぞれ配置した状態を該回転支持手段を用いて該撮影手段を360度回転しながら前記撮影対象物を撮影した動画素材である本編素材データを撮影し、
前記動画編集手段は、前記背景素材データ及び前記本編素材データから静止画像を生成する静止画像生成部と、前記静止画像生成部が生成した複数の前記静止画像について撮影時の前記回転支持手段の回転位置に関する情報を検出する位置情報検出部と、前記背景素材データと前記本編素材データとを合成して合成動画データを生成する動画合成部とを備える、
ことを特徴とする三次元VR撮影装置。
【請求項2】
前記静止画像生成部は、前記背景素材データを用いて背景用静止画像を生成し、前記本編素材データを用いて本編用静止画像を生成し、
前記動画合成部は、
先ず、前記位置情報検出部が検出した前記回転位置に関する情報に基づいて複数の前記背景用静止画像と複数の前記本編用静止画像とをそれぞれ照合し、
次に、前記本編用静止画像において、前記撮影対象物が撮影されている対象部分と該撮影対象物が撮影されていない非対象部分とに分け、
次いで、前記本編用静止画像の前記非対象部分を前記背景用静止画像に置き換えた複数の補正画像を繋ぎ合わせて、前記合成動画データを生成する、
ことを特徴とする、請求項1に記載の三次元VR撮影装置。
【請求項3】
前記静止画像生成部は、前記背景素材データを用いて背景用静止画像を生成し、前記本編素材データを用いて本編用静止画像を生成し、
前記動画合成部は、
先ず、複数の前記背景用静止画像の画像上の複数の背景用特徴点を特定し、複数の前記本編用静止画像の画像上の複数の本編用特徴点を特定し、
次に、複数の前記背景用特徴点と複数の前記本編用特徴点とに基づいて複数の前記背景用静止画像と複数の前記本編用静止画像とをそれぞれ照合し、
次いで、前記本編用静止画像において、前記撮影対象物が撮影されている対象部分と該撮影対象物が撮影されていない非対象部分とに分け、
次いで、前記本編用静止画像の前記非対象部分を前記背景用静止画像に置き換えた複数の補正画像を繋ぎ合わせて、前記合成動画データを生成する、
ことを特徴とする、請求項1に記載の三次元VR撮影装置。
【請求項4】
請求項1乃至請求項3のいずれか一項に記載の三次元VR撮影装置を含む三次元VR再生システムであって、
使用者に前記動画合成部が生成した前記合成動画データを表示する表示手段と、
前記使用者が視点を変更したときに移動する前記表示手段の表示位置に関する情報を検出する再生条件検出手段と
を有し、
前記表示手段は、前記再生条件検出手段が検出した前記表示位置に関する情報に対応する前記合成動画データを表示する、
ことを特徴とする三次元VR再生システム。
【請求項5】
前記三次元VR撮影装置と前記表示手段とが有線及び/又は無線でデータを送受信する動画通信手段を更に含み、
前記表示手段は、前記動画通信手段を用いて、前記動画合成部が生成した前記合成動画データを受信し表示する、
ことを特徴とする、請求項4に記載の三次元VR再生システム。
【請求項6】
第1の動画と、前記第1の動画とは視差ある位置で同時に撮影された第2の動画とを表示する三次元動画を撮影する三次元VR撮影装置であって、
前記第1の動画および前記第2の動画を撮影する撮影手段と、
前記撮影手段を水平方向に360度回転可能に支持する回転支持手段と、
前記撮影手段で撮影した動画を編集する動画編集手段と
を有し、
前記撮影手段は、前記回転支持手段を用いて該撮影手段を360度回転しながら背景用動画素材である背景素材データを撮影し、かつ、撮影対象物が該撮影手段の周りに略円形にそれぞれ配置した状態を該回転支持手段を用いて該撮影手段を360度回転しながら前記撮影対象物を撮影した動画素材である本編素材データを撮影し、
前記動画編集手段は、前記背景素材データ及び前記本編素材データから静止画像を生成する静止画像生成部と、前記静止画像生成部が生成した複数の前記静止画像について撮影時の前記回転支持手段の回転位置に関する情報を検出する位置情報検出部と、前記背景素材データと前記本編素材データとを合成して合成動画データを生成する動画合成部とを備える、
ことを特徴とする三次元VR撮影装置を用いて、
前記三次元動画を撮影する三次元VR撮影方法であって、
前記撮影手段を用いて、前記回転支持手段を用いて該撮影手段を360度回転しながら背景用動画素材である背景素材データを撮影する背景素材撮影ステップと、
前記撮影手段を用いて、撮影対象物が該撮影手段の周りに略円形にそれぞれ配置した状態を該回転支持手段を用いて該撮影手段を360度回転しながら前記撮影対象物を撮影した本編用動画素材である本編素材データを撮影する本編素材撮影ステップと、
前記静止画像生成部を用いて、前記静止画像として、前記背景素材データから複数の背景用静止画像を生成する背景静止画像生成ステップと、
前記静止画像生成部を用いて、前記静止画像として、前記本編素材データから複数の本編用静止画像を生成する本編静止画像生成ステップと、
前記位置情報検出部を用いて、前記静止画像生成部が生成した複数の前記背景用静止画像および複数の前記本編用静止画像について、撮影時の前記回転位置に関する情報をそれぞれ検出する位置情報検出ステップと、
前記動画合成部を用いて、先ず、前記位置情報検出部が検出した前記回転位置に関する情報に基づいて、複数の前記背景用静止画像と複数の前記本編用静止画像とをそれぞれ照合する画像照合ステップと、
前記動画合成部を用いて、次に、前記本編用静止画像において、前記撮影対象物が撮影されている対象部分と該撮影対象物が撮影されていない非対象部分とに分ける画像切り分けステップと、
前記動画合成部を用いて、次いで、前記本編用静止画像の前記非対象部分を前記背景用静止画像に置き換えた複数の補正画像を繋ぎ合わせて前記合成動画データを生成する合成動画生成ステップと
を含む、ことを特徴とする三次元VR撮影方法。
【請求項7】
請求項6に記載の三次元VR撮影方法をコンピュータに実行させるためのプログラム。
【請求項8】
請求項7に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、三次元VR(Virtual Reality)の動画(含む画像)を撮影する三次元VR撮影装置及び三次元VR撮影方法に関する。また、本発明は、三次元VRの動画を撮影する三次元VR撮影装置を含み、撮影した動画を再生する三次元VR再生システムに関するものであってもよい。また、本発明は、三次元VR撮影方法のプログラム及びそのプログラムを記録した記録媒体に関するものであってもよい。
【背景技術】
【0002】
VR(バーチャルリアリティ)とは、現物・実物ではないが機能としての本質は同じであるような環境を、五感等を刺激することにより作り出す技術であり、「仮想現実」あるいは「人工現実感」とも言われる。三次元VRの動画の撮影では、撮影対象物を画面の中心に位置するようにして、中心対象物の外形等を360度の方向からそれぞれ撮影し、立体視画像データを生成する。特許文献1では、動作検出手段で検出される移動対象物の動きのデータ及び姿勢位置検出手段で検出される頭部の姿勢及び位置のデータを基に算出した移動対象物移動距離と移動対象物推定位置及び使用者の頭部移動距離から移動対象物推定位置を補正して求めた移動対象物現在位置により、撮像手段で撮像される現実世界の撮像データにおける移動対象物の動きを補正して表示データを生成し、表示データを仮想世界の画像と合成してVR空間画像を作成し、表示手段に表示する制御手段を有する、VR空間画像補正システムに関する技術を開示している。特許文献2では、3次元VR画像を2台のカメラで撮影するため、L字状に直交する水平部及び垂直部を有する基体と、水平部から垂直部と平行に直立し、第1のデジタルカメラを支持する第1支持体と、垂直部から水平部と平行に直立し、第2のデジタルカメラを支持する第2支持体と、を備え、第1支持体が水平部と摺動可能であって、第1のデジタルカメラと第2のデジタルカメラとの間隔を調整可能とした3次元VR画像撮影器具に関する技術を開示している。特許文献3では、左と右の眼の画像ペア等の立体視画像データを取り込むことにおける使用のために十分に適したカメラ関連の方法と装置について、同時に複数のカメラを搭載するために用いられ得るカメラリグに関し、カメラリグは、120度離れた3つの異なる方向に対応する3つの搭載位置を含み、搭載位置の1つ以上は、一時に使用され得り、1つのカメラペアが使用される場合、リグは、カメラペアが搭載されていない位置に対応する画像を取り込むために回転され得り、それらの位置からの静止画像は、360度視野を生成するために、前方方向に対応する画像と組み合され得り、代替的に、カメラペア、または、個々のカメラは、複数の方向における映像を取り込むために、搭載位置の各々に含まれ得る、方法および装置に関する技術を開示している。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2021-51512号公報
【特許文献2】特開2019-117288号公報
【特許文献3】特表2017-521897号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
三次元VRの動画の撮影では、正面(中心対象物)以外の位置の映像は焦点が合わない。三次元VRの動画の撮影では、たとえば背景画像は焦点が合わず、ぼやけてしまう。特許文献1乃至特許文献3に開示されている技術では、三次元VRの動画の撮影で正面(中心対象物)以外の映像の焦点を合わす方法が記載されていない。
【0005】
本発明は、三次元VRの動画の撮影で正面(撮影対象物)以外の映像の焦点を合わすことができる三次元VR撮影装置および三次元VR撮影方法を提供することを目的とする。また、本発明は、三次元VRの動画の撮影で正面(撮影対象物)以外の映像の焦点を合わすことができる三次元VR撮影装置を含む三次元VR再生システムを提供することを目的としてもよい。また、本発明は、三次元VRの動画の撮影で正面(撮影対象物)以外の映像の焦点を合わすことができる三次元VR撮影方法のプログラムおよびそのプログラムを記録した記録媒体を提供することを目的としてもよい。
【課題を解決するための手段】
【0006】
上記課題を解決するために、本発明の一の実施形態は、第1の動画と、前記第1の動画とは視差ある位置で同時に撮影された第2の動画とを表示する三次元動画を撮影する三次元VR撮影装置であって、前記第1の動画および前記第2の動画を撮影する撮影手段と、前記撮影手段を水平方向に360度回転可能に支持する回転支持手段と、前記撮影手段で撮影した動画を編集する動画編集手段とを有し、前記撮影手段は、前記回転支持手段を用いて該撮影手段を360度回転しながら背景用動画素材である背景素材データを撮影し、かつ、撮影対象物が該撮影手段の周りに略円形にそれぞれ配置した状態を該回転支持手段を用いて該撮影手段を360度回転しながら前記撮影対象物を撮影した動画素材である本編素材データを撮影し、前記動画編集手段は、前記背景素材データ及び前記本編素材データから静止画像を生成する静止画像生成部と、前記静止画像生成部が生成した複数の前記静止画像について撮影時の前記回転支持手段の回転位置に関する情報を検出する位置情報検出部と、前記背景素材データと前記本編素材データとを合成して合成動画データを生成する動画合成部とを備える、ことを特徴とする三次元VR撮影装置を提供する。また、本発明の他の実施形態は、上記の一の実施形態の三次元VR撮影装置であって、前記静止画像生成部は、前記背景素材データを用いて背景用静止画像を生成し、前記本編素材データを用いて本編用静止画像を生成し、前記動画合成部は、先ず、前記位置情報検出部が検出した前記回転位置に関する情報に基づいて複数の前記背景用静止画像と複数の前記本編用静止画像とをそれぞれ照合し、次に、前記本編用静止画像において、前記撮影対象物が撮影されている対象部分と該撮影対象物が撮影されていない非対象部分とに分け、次いで、前記本編用静止画像の前記非対象部分を前記背景用静止画像に置き換えた複数の補正画像を繋ぎ合わせて、前記合成動画データを生成する、ことを特徴とする三次元VR撮影装置であってもよい。また、本発明の他の実施形態は、上記の一の実施形態の三次元VR撮影装置であって、前記静止画像生成部は、前記背景素材データを用いて背景用静止画像を生成し、前記本編素材データを用いて本編用静止画像を生成し、前記動画合成部は、先ず、複数の前記背景用静止画像の画像上の複数の背景用特徴点を特定し、複数の前記本編用静止画像の画像上の複数の本編用特徴点を特定し、次に、複数の前記背景用特徴点と複数の前記本編用特徴点とに基づいて複数の前記背景用静止画像と複数の前記本編用静止画像とをそれぞれ照合し、次いで、前記本編用静止画像において、前記撮影対象物が撮影されている対象部分と該撮影対象物が撮影されていない非対象部分とに分け、次いで、前記本編用静止画像の前記非対象部分を前記背景用静止画像に置き換えた複数の補正画像を繋ぎ合わせて、前記合成動画データを生成する、ことを特徴とする三次元VR撮影装置であってもよい。
【0007】
本発明の他の実施形態は、上記のいずれか一つの三次元VR撮影装置を含む三次元VR再生システムであって、使用者に前記動画合成部が生成した前記合成動画データを表示する表示手段と、前記使用者が視点を変更したときに移動する前記表示手段の表示位置に関する情報を検出する再生条件検出手段とを有し、前記表示手段は、前記再生条件検出手段が検出した前記表示位置に関する情報に対応する前記合成動画データを表示する、ことを特徴とする三次元VR再生システムであってもよい。また、本発明の他の実施形態は、上記の三次元VR再生システムであって、前記三次元VR撮影装置と前記表示手段とが有線及び/又は無線でデータを送受信する動画通信手段を更に含み、前記表示手段は、前記動画通信手段を用いて、前記動画合成部が生成した前記合成動画データを受信し表示する、ことを特徴とする三次元VR再生システムであってもよい。
【0008】
本発明の他の実施形態は、第1の動画と、前記第1の動画とは視差ある位置で同時に撮影された第2の動画とを表示する三次元動画を撮影する三次元VR撮影装置であって、前記第1の動画および前記第2の動画を撮影する撮影手段と、前記撮影手段を水平方向に360度回転可能に支持する回転支持手段と、前記撮影手段で撮影した動画を編集する動画編集手段とを有し、前記撮影手段は、前記回転支持手段を用いて該撮影手段を360度回転しながら背景用動画素材である背景素材データを撮影し、かつ、撮影対象物が該撮影手段の周りに略円形にそれぞれ配置した状態を該回転支持手段を用いて該撮影手段を360度回転しながら前記撮影対象物を撮影した動画素材である本編素材データを撮影し、前記動画編集手段は、前記背景素材データ及び前記本編素材データから静止画像を生成する静止画像生成部と、前記静止画像生成部が生成した複数の前記静止画像について撮影時の前記回転支持手段の回転位置に関する情報を検出する位置情報検出部と、前記背景素材データと前記本編素材データとを合成して合成動画データを生成する動画合成部とを備える、ことを特徴とする三次元VR撮影装置を用いて、前記三次元動画を撮影する三次元VR撮影方法であって、前記撮影手段を用いて、前記回転支持手段を用いて該撮影手段を360度回転しながら背景用動画素材である背景素材データを撮影する背景素材撮影ステップと、前記撮影手段を用いて、撮影対象物が該撮影手段の周りに略円形にそれぞれ配置した状態を該回転支持手段を用いて該撮影手段を360度回転しながら前記撮影対象物を撮影した本編用動画素材である本編素材データを撮影する本編素材撮影ステップと、前記静止画像生成部を用いて、前記静止画像として、前記背景素材データから複数の背景用静止画像を生成する背景静止画像生成ステップと、前記静止画像生成部を用いて、前記静止画像として、前記本編素材データから複数の本編用静止画像を生成する本編静止画像生成ステップと、前記位置情報検出部を用いて、前記静止画像生成部が生成した複数の前記背景用静止画像および複数の前記本編用静止画像について、撮影時の前記回転位置に関する情報をそれぞれ検出する位置情報検出ステップと、前記動画合成部を用いて、先ず、前記位置情報検出部が検出した前記回転位置に関する情報に基づいて、複数の前記背景用静止画像と複数の前記本編用静止画像とをそれぞれ照合する画像照合ステップと、前記動画合成部を用いて、次に、前記本編用静止画像において、前記撮影対象物が撮影されている対象部分と該撮影対象物が撮影されていない非対象部分とに分ける画像切り分けステップと、前記動画合成部を用いて、次いで、前記本編用静止画像の前記非対象部分を前記背景用静止画像に置き換えた複数の補正画像を繋ぎ合わせて前記合成動画データを生成する合成動画生成ステップとを含む、ことを特徴とする三次元VR撮影方法を提供する。
【0009】
また、本発明の他の実施形態は、上記の三次元VR撮影方法をコンピュータに実行させるためのプログラムであってもよい。また、上記のプログラムを記録したコンピュータ読み取り可能な記録媒体であってもよい。
【発明の効果】
【0010】
本発明に係る三次元VR撮影装置、三次元VR撮影方法、三次元VR再生システム、三次元VR撮影方法のプログラムおよびそのプログラムを記録した記録媒体によれば、三次元VRの動画の撮影で正面(中心対象物)以外の映像の焦点を合わすことができる。また、本発明に係る三次元VR撮影装置、三次元VR撮影方法、三次元VR再生システム、三次元VR撮影方法のプログラムおよびそのプログラムを記録した記録媒体によれば、三次元VRの動画の画質を下げることなく、動画の容量を低減することができる。また、本発明に係る三次元VR撮影装置、三次元VR撮影方法、三次元VR再生システム、三次元VR撮影方法のプログラムおよびそのプログラムを記録した記録媒体によれば、追加の装置や機器、設備などを必要とせず、簡素な構成で実現でき、動画作成コストも低減することができる。
【図面の簡単な説明】
【0011】
【
図1】本発明の実施形態に係る三次元VR撮影装置および三次元VR再生システムの一例を示す概略構成図である。
【
図2】本発明の実施形態に係る撮影手段および回転支持手段一例を説明する説明図である。
【
図3】本発明の実施形態に係るVRゴーグル(表示手段、再生条件検出手段、動画記憶手段および動画通信手段など)の一例を説明する説明図である。
【
図4】本発明の実施形態に係る三次元VR撮影の一例を説明する説明図である。
【
図5】本発明の実施形態に係るVRゴーグルの再生の一例を説明する説明図である。
【
図6】本発明の実施形態に係る三次元VR撮影装置および三次元VR再生システムの機能の一例を説明する機能ブロック図である。
【
図7】本発明の実施形態に係る三次元VR撮影方法の動作の一例を説明するフローチャート図である。
【発明を実施するための形態】
【0012】
実施形態に係る三次元VR撮影装置、三次元VR再生システム及び三次元VR撮影方法の例を用いて、本発明を説明する。なお、本発明は、以後に説明する三次元VR撮影装置等以外でも、第1の動画と、第1の動画とは視差ある位置で同時に撮影された第2の動画とを表示する三次元動画(静止画、動画、音声を含む映像など)を撮影する、または、撮影した三次元動画を表示するもの(装置、機械、部品、システム、アプリケーションなど)であれば、いずれのものにも用いることができる。また、本発明は、例えば双方向にデータ通信することができる情報端末(携帯電話、スマートフォン、タブレット、パソコン、テレビ、プロジェクタ、又は、メガネ型端末、腕時計型端末若しくはその他ウェアラブル端末など)で三次元動画を撮影または再生する場合に用いてもよい。
【0013】
下記に示す順序で、本発明を説明する。
1.三次元VR撮影装置および三次元VR再生システムの構成
2.三次元VR撮影および三次元VR再生の機能
3.三次元VR撮影方法、そのプログラムおよびその記録媒体
【0014】
(1.三次元VR撮影装置および三次元VR再生システムの構成)
三次元VR撮影装置は、第1の動画と、第1の動画とは視差ある位置で同時に撮影された第2の動画とを有する三次元動画(静止画、動画、音声を含む映像など)を撮影するもの(装置、機械、部品、システム、アプリケーションなど)である。三次元VR再生システムは、上記の三次元VR撮影装置を含み、三次元VR撮影装置が撮影した三次元動画を表示または撮影した三次元動画を編集した動画を表示するもの(装置、機械、部品、システム、アプリケーションなど)である。
【0015】
図1乃至
図5を用いて、本発明の実施形態に係る三次元VR撮影装置及び三次元VR再生システムの構成を説明する。ここで、
図1は、本発明の実施形態に係る三次元VR撮影装置100および三次元VR再生システム100Sの一例を示す概略構成図である。
図2(a)は、本発明の実施形態に係る撮影手段11および回転支持手段12の一例を概略側面図である。
図2(b)は、本発明の実施形態に係る撮影手段11を水平方向に360度回転する動作の一例を説明する説明図である。
図3は、本発明の実施形態に係るVRゴーグル(表示手段21、再生条件検出手段22、動画記憶手段23および動画通信手段24など)の一例を説明する概略外観図である。
図4は、本発明の実施形態に係る三次元VR撮影の撮影対象物(撮影対象者)STの撮影の一例を説明する説明図である。
図5(a)は、本発明の実施形態に係るVRゴーグルの再生(水平方向に―90度の方向の動画表示)の一例を説明する説明図である。
図5(b)は、本発明の実施形態に係るVRゴーグルの再生(水平方向に0度の方向の動画表示)の一例を説明する説明図である。
図5(c)は、本発明の実施形態に係るVRゴーグルの再生(水平方向に+45度の方向の動画表示)の一例を説明する説明図である。なお、
図1乃至
図5に示す三次元VR撮影装置等の構成等は一例であり、本発明は
図1等に示す三次元VR撮影装置等に限定されるものではない。
【0016】
図1に示すように、三次元VR撮影装置100は、本実施形態では、三次元VR撮影装置100の全体の動作を制御する制御手段10と、第1の動画および第2の動画(第1の動画とは視差ある位置で同時に撮影された動画)を撮影する撮影手段11と、撮影手段11を水平方向に360度回転可能に支持する回転支持手段12と、撮影手段11で撮影した動画を編集する動画編集手段13とを有する。また、三次元VR撮影装置100は、本実施形態では、撮影手段11で撮影した動画および動画編集手段13が編集した動画・編集条件・編集結果(たとえば後述する合成動画データ)を記憶する記憶手段14と、記憶手段14が記憶した動画を表示するものに送信する送受信手段15とを更に有する。
【0017】
本発明に係る三次元VR撮影装置100は、第1の動画と第2の動画(第1の動画とは視差ある位置で同時に撮影された動画)とを表示する三次元動画(静止画、動画、音声を含む映像など)を撮影するもの(装置、機械、部品、システム、アプリケーションなど)である。三次元VR撮影装置100は、本実施形態では、(1)撮影時に回転支持手段12を用いて撮影手段11を水平方向に360度回転可能に支持し、(2)撮影手段11を用いて第1の動画および第2の動画を撮影し、(3)動画編集手段13を用いて撮影手段11で撮影した動画を編集し、(4)記憶手段14を用いて撮影手段11で撮影した動画および動画編集手段13が編集した動画・編集条件・編集結果を記憶し、(5)送受信手段15を用いて記憶手段14が記憶した動画を表示するものに送信する。
【0018】
以下に、各構成を具体的に説明する。
【0019】
制御手段10は、三次元VR撮影装置100の各構成に動作を指示し、三次元VR撮影装置100の動作を制御する手段である。制御手段10は、例えばCPU及びメモリで構成される演算装置を用いることができる。また、制御手段10は、三次元VR撮影装置100に予め搭載されている演算装置、コントローラ又はその他制御手段を利用する構成であってもよい。
【0020】
制御手段10は、本実施形態では、三次元VR撮影装置100外部から入力される動画再生に関する情報(以下、「入力情報」という。)を入力する動作と、三次元VR撮影装置100外部に出力される動画に関する情報(以下、「出力情報」という。)を出力する動作と、を制御する。なお、制御手段10は、入力情報として、文字データ、画像データ、動画データ、音声データ、スキャンデータなどを用いることができる。
【0021】
撮影手段11は、第1の動画および第2の動画(第1の動画とは視差ある位置で同時に撮影された動画)を撮影する手段である。撮影手段11は、ステレオカメラ(たとえば、撮影対象物を複数の異なる方向から同時に撮影することにより、その奥行き方向の情報も記録できるようにしたカメラ)などを用いることができる。撮影手段11は、本実施形態では、回転支持手段12を用いて撮影手段11を360度回転しながら(たとえば
図2(b)のMa)、背景用動画素材である背景素材データを撮影する。また、撮影手段11は、本実施形態では、撮影対象物STが撮影手段11の周りに略円形にそれぞれ配置した状態を、回転支持手段を用いて撮影手段を360度回転しながら、撮影対象物STを撮影した動画素材である本編素材データを撮影する(たとえば
図4)。
【0022】
回転支持手段12は、撮影手段11を水平方向に360度回転可能に支持する手段である。回転支持手段12は、本実施形態では、たとえば三脚で撮影手段11を支持し、撮影手段11の立ち位置と高さは固定し、パンのみ振りながら、水平方向に360度回転する(たとえば
図2(a)および(b))。なお、回転支持手段12は、水平方向に360度回転している間でも、撮影手段11(たとえば左右ステレオカメラ)の位置関係は変わらない。
【0023】
動画編集手段13は、撮影手段11で撮影した動画を編集する手段である。動画編集手段13は、本実施形態では、背景素材データ及び本編素材データから静止画像を生成する静止画像生成部13aと、撮影時の回転支持手段12の回転位置に関する情報を検出する位置情報検出部13bと、背景素材データと本編素材データとを合成して合成動画データを生成する動画合成部13cとを備える、なお、動画編集手段13は、例えばCPU及びメモリで構成される制御手段10の演算装置を利用する構成であってもよい。
【0024】
静止画像生成部13aは、背景素材データを用いて背景用静止画像を生成し、本編素材データを用いて本編用静止画像を生成する。具体的には、静止画像生成部13aは、本実施形態では、静止画像として、背景素材データから複数の背景用静止画像を生成し、本編素材データから複数の本編用静止画像を生成する。
【0025】
位置情報検出部13bは、静止画像生成部13aが生成した複数の静止画像について、撮影時の回転支持手段12の回転位置に関する情報を検出する。具体的には、位置情報検出部13bは、本実施形態では、静止画像生成部13aが生成した複数の背景用静止画像および複数の本編用静止画像について、撮影時の回転位置に関する情報をそれぞれ検出し、静止画像に回転位置に関する情報を付加する。
【0026】
動画合成部13cは、背景素材データと本編素材データとを合成して合成動画データを生成する。具体的には、動画合成部13cは、一の本実施形態では、(1)先ず、位置情報検出部13bが検出した回転位置に関する情報に基づいて、複数の背景用静止画像と複数の本編用静止画像とをそれぞれ照合し、(2)次に、本編用静止画像において、撮影対象物が撮影されている対象部分と撮影対象物が撮影されていない非対象部分とに分け、(3)次いで、本編用静止画像の非対象部分を、照合された背景用静止画像に置き換えた複数の補正画像を生成し、生成した複数の補正画像を繋ぎ合わせて、合成動画データを生成する。
【0027】
動画合成部13cは、合成動画データを生成する他の実施形態は、(1)先ず、複数の背景用静止画像の画像上の複数の背景用特徴点を特定し、複数の本編用静止画像の画像上の複数の本編用特徴点を特定し、(2)次に、複数の背景用特徴点と複数の本編用特徴点とに基づいて、複数の背景用静止画像と複数の本編用静止画像とをそれぞれ照合し(3)次いで、本編用静止画像において、撮影対象物が撮影されている対象部分と撮影対象物が撮影されていない非対象部分とに分け、(4)次いで、本編用静止画像の非対象部分を、照合された背景用静止画像に置き換えた複数の補正画像を生成し、生成した複数の補正画像を繋ぎ合わせて、合成動画データを生成する。
【0028】
記憶手段14は、撮影手段11で撮影した動画および動画編集手段13が編集した動画・編集条件・編集結果(たとえば後述する合成動画データ)を記憶する手段である。記憶手段14は、電子情報をデータベースとして記憶する公知の技術(ハードディスク、メモリなど)を用いることができる。なお、記憶手段14は、上記以外の情報も記憶するものであってもよい。また、記憶手段14が情報を記憶する方法は、公知の技術を用いることができる。三次元VR撮影装置100は、例えばVRゴーグル(例えば
図3)に搭載されている記憶装置を利用する構成であってもよい。
【0029】
送受信手段15は、記憶手段14が記憶した動画を表示するもの(例えば
図3)に、三次元動画を送受信する手段である。具体的には、送受信手段15は、本実施形態では、動画を表示するもの(たとえばVRゴーグル)から送信された再生に関する情報(位置情報、視角方向、画角、再生範囲、など)を受信し、受信した再生に関する情報に対応する三次元動画をVRゴーグルに送信する。なお、送受信手段15は、上記以外の情報(例えば会社コード、媒体種類コード、映像分類コード及び製造番号コード、など)もさらに送受信するものであってもよい。なお、送受信手段15が送受信する方法は、公知の技術を用いることができる。送受信手段15は、例えばネットワーク手段(LAN、無線LAN、インターネットなどの有線及び/又は無線)を介して、送受信することができる。
【0030】
これにより、従来はVR撮影の場合に正面(撮影対象物、中心対象物)以外での位置では焦点が合わなかったが、本発明に係る三次元VR撮影装置によれば、本編用静止画像の非対象部分を背景用静止画像(焦点があっている画像)に置き換えた複数の補正画像を生成し、生成した複数の補正画像を繋ぎ合わせて、合成動画データ(三次元動画)を生成することができるので、三次元VRの動画の撮影で正面(中心対象物)以外の映像の焦点を合わすことができる。また、本発明に係る三次元VR撮影装置によれば、本編用静止画像の非対象部分を背景用静止画像(焦点があっている画像)に置き換えた複数の補正画像を生成し、生成した複数の補正画像を繋ぎ合わせて、合成動画データ(三次元動画)を生成することができるので、三次元VRの動画の撮影で正面(中心対象物)以外の映像の焦点を合わすことができ、三次元VRの動画の画質を下げることなく、動画の容量を低減することができる。また、本発明に係る三次元VR撮影装置によれば、(1)撮影時に回転支持手段12を用いて撮影手段11を水平方向に360度回転可能に支持し、(2)撮影手段11を用いて第1の動画および第2の動画を撮影し、(3)動画編集手段13を用いて撮影手段11で撮影した動画を編集することができるので、追加の装置や機器、設備などを必要とせず、簡素な構成で実現でき、動画作成コストも低減することができる。
【0031】
4K3D映像の場合には、解像度は4000×2000px 必要であり、左右独立した映像のため、360度の映像となると2倍の動画サイズとなり、4000×4000px が必要となる。このため、配信には莫大なデータ容量となるため、配信やライブでは非常に運用が難しい場合があった。本発明に係る三次元VR撮影装置によれば、本編用静止画像の非対象部分を背景用静止画像(焦点があっている画像)に置き換えた複数の補正画像を生成し、生成した複数の補正画像を繋ぎ合わせて、合成動画データ(三次元動画)を生成することができるので、三次元VRの動画の撮影で正面(中心対象物)以外の映像の焦点を合わすことができ、三次元VRの動画の画質を下げることなく、動画の容量を低減することができ、クオリティは下げず容量を半分(もしくはそれ以下)にすることが実現でき、実用的なデータ送信量で、360度でフル3D、かつ、高解像度の映像(三次元動画)を視聴(送受信)することが可能となる。
【0032】
図1に示すように、三次元VR再生システム100Sは、上記の三次元VR撮影装置100を含むシステムであって、三次元VR撮影装置100が撮影および/または編集した三次元動画を表示(再生)するものである。三次元VR再生システム100Sは、本実施形態では、使用者に動画合成部13cが生成した合成動画データ(三次元動画)を表示する表示手段21と、使用者が視点を変更したときに移動する表示手段21の表示位置に関する情報を検出する再生条件検出手段22とを有する。また、三次元VR再生システム100Sは、本実施形態では、三次元VR撮影装置100と表示手段21とが有線及び/又は無線でデータを送受信する動画通信手段24と、受信した三次元動画を記憶する動画記憶手段23と、を更に含む。なお、三次元VR再生システム100S(表示手段21)は、三次元動画(三次元VR撮影装置100が撮影または編集した動画)を記録したビデオテープ、DVDなどの記録媒体を用いて、三次元動画を表示(再生)するものであってもよい。また、三次元VR再生システム100S(表示手段21)は、
図3に示すようなVRゴーグルであってもよい。
【0033】
表示手段21は、
図1に示すように、本実施形態では、動画を再生するために表示する動画再生部21aと、再生する動画を一時的に記録する動画一時記録部21bと、を備える。三次元VR再生システム100S(表示手段21)は、動画通信手段24を用いて、再生条件検出手段22が検出した表示位置に関する情報を三次元VR撮影装置100に送信し、表示位置に関する情報に対応する合成動画データを三次元VR撮影装置100から受信し、動画再生部21aで表示する。三次元VR再生システム100S(表示手段21)は、
図5(a)に示すように、使用者が水平方向に―90度の方向に視点を変更した場合に、―90度の方向に対応する三次元動画を表示することができる。三次元VR再生システム100S(表示手段21)は、
図5(b)に示すように、使用者が水平方向に0度の方向に視点を変更した場合に、0度の方向に対応する三次元動画を表示することができる。三次元VR再生システム100S(表示手段21)は、
図5(c)に示すように、使用者が水平方向に45度の方向に視点を変更した場合に、45度の方向に対応する三次元動画を表示することができる。これにより、本発明に係る三次元VR再生システム100Sによれば、使用者の使用状態に応じた映像(三次元動画)を表示することができる。
【0034】
これにより、本発明に係る三次元VR再生システム100Sによれば、三次元VR撮影装置100と同様の効果を得ることができる。また、本発明に係る三次元VR再生システム100Sによれば、本編用静止画像の非対象部分を背景用静止画像(焦点があっている画像)に置き換えた複数の補正画像を生成し、生成した複数の補正画像を繋ぎ合わせて、合成動画データ(三次元動画)を生成することができるので、三次元VRの動画の撮影で正面(中心対象物)以外の映像の焦点を合わすことができ、三次元VRの動画の画質を下げることなく、動画の容量を低減することができ、クオリティは下げず容量を半分(もしくはそれ以下)にすることが実現でき、実用的なデータ送信量で、360度でフル3D、かつ、高解像度の映像(三次元動画)を視聴(送受信)することが可能となる。
【0035】
(2.三次元VR撮影および三次元VR再生の機能)
図6を用いて、本発明の実施形態に係る三次元VR撮影装置100および三次元VR再生システム100Sの機能を説明する。ここで、
図6は、本発明の実施形態に係る三次元VR撮影装置および三次元VR再生システムの機能の一例を説明する機能ブロック図である。なお、
図6に示す機能の例は一例であり、本発明は
図4に示す三次元VR撮影装置および三次元VR再生システムの機能はこの例に限定されるものではない。
【0036】
図6に示すように、ブロックB00において、I/F(インターフェース手段)は、制御手段10の動作指示に応じて、三次元VR撮影装置100と外部との情報(信号)の入出力を行う。ここで、I/F(インターフェース手段)は、三次元VR撮影装置100の利用者、使用者、視聴者などによって情報を入力されるものであってもよい。
【0037】
ブロックB01において、制御手段10は、三次元VR撮影装置100および三次元VR再生システム100Sの各構成に動作を指示し、三次元VR撮影装置100および三次元VR再生システム100Sの動作を制御する。ここで、制御手段10は、I/Fを用いて入力された情報に基づいて、三次元VR撮影装置100の動作を制御することができる。また、制御手段10は、内蔵する記憶部に動作条件、動作状態及び動作結果などの情報を記憶してもよい。
【0038】
ブロックB02において、撮影手段11および回転支持手段12は、撮影指示(制御手段10の動作指示)に応じて、撮影する動作を開始する。このとき、撮影手段11は、撮影した動画データ(背景素材データ、本編素材データ、など)を動画編集手段13に出力する。
【0039】
ブロックB03において、動画編集手段13は、編集指示(制御手段10の動作指示)に応じて、撮影手段11が撮影した動画データを編集する。ここで、動画編集手段13は、静止画像生成部13aを用いて背景素材データ及び本編素材データから静止画像を生成し、位置情報検出部13bを用いて静止画像生成部13aが生成した複数の静止画像について撮影時の回転支持手段12の回転位置に関する情報を検出し、動画合成部13cを用いて背景素材データと本編素材データとを合成して合成動画データを生成する。その後、動画編集手段13は、生成した合成動画データを記憶手段14に出力する。
【0040】
ブロックB04において、記憶手段14は、記憶指示(制御手段10の動作指示)に応じて、撮影手段11が撮影した動画データおよび動画編集手段13が生成した合成動画データを記憶する。また、送受信手段15は、記憶手段14が記憶したデータ(合成動画データなど)を、動画記憶手段23・動画通信手段24を介して、表示手段21(VRゴーグルなど)に送信する。
【0041】
ブロックB05において、動画通信手段24は、三次元VR撮影装置100から送信された合成動画データ等を受信する。また、動画記憶手段23は、三次元VR撮影装置100から送信された合成動画データ等を記憶する。
【0042】
ブロックB06において、再生条件検出手段22は、表示指示(制御手段10の動作指示)に応じて、位置情報データ等の再生に関する情報を検出する。また、再生条件検出手段22は、検出した結果を動画記憶手段23に出力する。
【0043】
ブロックB07において、表示手段21は、再生条件検出手段22が検出した結果に対応する三次元動画(合成動画データ)を表示する。
【0044】
(3.三次元VR撮影方法、そのプログラムおよびその記録媒体)
本発明の実施形態に係る三次元VR撮影装置100の動作(三次元VR撮影方法)について説明する。なお、以後の説明では、前述の実施形態に係る三次元VR撮影装置100(三次元VR再生システム100S)と異なる部分を主に説明する。
【0045】
図7を用いて、三次元VR撮影装置100(
図1)が三次元動画を撮影する動作(三次元VR撮影方法)を説明する。ここで、
図7は、本発明の実施形態に係る三次元VR撮影装置100の動作(三次元VR撮影方法)の例を説明するフローチャート図である。なお、
図7に示す三次元VR撮影装置の動作は一例であり、本発明は
図7に示す三次元VR撮影装置の動作に限定されるものではない。
【0046】
図7に示すように、三次元VR撮影装置100は、ステップS701において、先ず、制御手段10(
図1)を用いて、映像を再生する動作を開始する。制御手段10は、例えば三次元VR撮影装置100の外部(利用者など)から入力された情報に応じて、再生する動作を開始することができる。その後、三次元VR撮影装置100は、ステップS702に進む。なお、三次元VR撮影装置100は、記憶手段14(
図1)を用いて、動画を撮影する動作を開始する前(ステップS701以前)に撮影情報などを予め記憶しておいてもよい。
【0047】
次に、ステップS702において、三次元VR撮影装置100は、撮影手段11(
図1)を用いて、回転支持手段12(
図1)を用いて撮影手段を360度回転しながら背景用動画素材である背景素材データを撮影する(背景素材撮影ステップ)。その後、三次元VR撮影装置100は、ステップS703に進む。
【0048】
次いで、ステップS703において、三次元VR撮影装置100は、撮影手段11(
図1)を用いて、撮影対象物が撮影手段11の周りに略円形にそれぞれ配置した状態を、回転支持手段12を用いて撮影手段を360度回転しながら撮影対象物を撮影した本編用動画素材である本編素材データを撮影する(本編素材撮影ステップ)。その後、三次元VR撮影装置100は、ステップS704に進む。
【0049】
ステップS704において、三次元VR撮影装置100は、静止画像生成部13a(
図1)を用いて、静止画像として、ステップS702で撮影した背景素材データから複数の背景用静止画像を生成する(背景静止画像生成ステップ)。その後、三次元VR撮影装置100は、ステップS705に進む。
【0050】
ステップS705において、三次元VR撮影装置100は、静止画像生成部13a(
図1)を用いて、静止画像として、ステップS703で撮影した本編素材データから複数の本編用静止画像を生成する(本編静止画像生成ステップ)。その後、三次元VR撮影装置100は、ステップS706に進む。
【0051】
ステップS706において、三次元VR撮影装置100は、位置情報検出部13bを用いて、ステップS704で生成した複数の背景用静止画像およびステップS705で生成した複数の本編用静止画像について、撮影時の回転位置に関する情報をそれぞれ検出する(位置情報検出ステップ)。その後、三次元VR撮影装置100は、ステップS707に進む。
【0052】
ステップS707において、三次元VR撮影装置100は、動画合成部13cを用いて、ステップS706で検出した回転位置に関する情報に基づいて、複数の背景用静止画像と複数の本編用静止画像とをそれぞれ照合する(画像照合ステップ)。その後、三次元VR撮影装置100は、ステップS708に進む。
【0053】
ステップS708において、三次元VR撮影装置100は、動画合成部13cを用いて、本編用静止画像において、撮影対象物が撮影されている対象部分と撮影対象物が撮影されていない非対象部分とに分ける。(画像切り分けステップ)。その後、三次元VR撮影装置100は、ステップS709に進む。
【0054】
ステップS709において、三次元VR撮影装置100は、動画合成部13cを用いて、ステップS708で分けた本編用静止画像の非対象部分を背景用静止画像に置き換えた複数の補正画像を繋ぎ合わせて、合成動画データを生成する(合成動画生成ステップ)。その後、三次元VR撮影装置100は、撮影する動作を終了すると判断した場合には、三次元VR撮影装置100は、図中の「END」に進み、動作を終了する。
【0055】
以上のとおり、本発明に係る三次元動画を撮影する動作(三次元VR撮影方法)は、本発明に係る三次元VR撮影装置100(前述)と同等の効果が得られる。
【0056】
本発明に係る三次元VR撮影方法をコンピュータに実行させるためのプログラムは、前述の実施形態に係る三次元VR撮影装置100を用いて、(1)撮影手段を用いて、回転支持手段を用いて撮影手段を360度回転しながら背景用動画素材である背景素材データを撮影する背景素材撮影ステップと、(2)撮影手段を用いて、撮影対象物が撮影手段の周りに略円形にそれぞれ配置した状態を、回転支持手段を用いて撮影手段を360度回転しながら撮影対象物を撮影した本編用動画素材である本編素材データを撮影する本編素材撮影ステップと、(3)静止画像生成部を用いて、静止画像として、背景素材データから複数の背景用静止画像を生成する背景静止画像生成ステップと、(4)静止画像生成部を用いて、静止画像として、本編素材データから複数の本編用静止画像を生成する本編静止画像生成ステップと、(5)位置情報検出部を用いて、静止画像生成部が生成した複数の背景用静止画像および複数の本編用静止画像について、撮影時の回転位置に関する情報をそれぞれ検出する位置情報検出ステップと、(6)動画合成部を用いて、先ず、位置情報検出部が検出した回転位置に関する情報に基づいて、複数の背景用静止画像と複数の本編用静止画像とをそれぞれ照合する画像照合ステップと、(7)動画合成部を用いて、次に、本編用静止画像において、撮影対象物が撮影されている対象部分と撮影対象物が撮影されていない非対象部分とに分ける画像切り分けステップと、(8)動画合成部を用いて、次いで、本編用静止画像の非対象部分を背景用静止画像に置き換えた複数の補正画像を繋ぎ合わせて、合成動画データを生成する合成動画生成ステップと、を含むことを特徴とする三次元VR撮影方法を実行する。
【0057】
上記のプログラムによれば、本発明に係る三次元VR撮影装置100(前述)と同等の効果が得られる。
【0058】
また、本発明は、上記のプログラムを記録したコンピュータによって読み取り可能な記録媒体としてもよい。記録媒体には、フレキシブルディスク、CD-ROM、DVD、及び、メモリーカード等、コンピュータ読み取り可能な媒体を利用することができる。更に、本発明は、プログラムをインターネット等のネットワークを介して送信することが可能な伝送可能媒体であってもよい。
【0059】
以上のとおり、本発明に係る実施形態について説明したが、本発明は上記の実施形態に限定されるものではない。すなわち、本発明は、特許請求の範囲に記載の内容に基づいて、様々に変形、変更又はその他任意に改変され得る。
【符号の説明】
【0060】
100S: 三次元VR再生システム
100 : 三次元VR撮影装置
10 : 制御手段
11 : 撮影手段
12 : 回転支持手段
13 : 動画編集手段
13a: 静止画像生成部
13b: 位置情報検出部
13c: 動画合成部
14 : 記憶手段
15 : 送受信手段
21 : 表示手段(VRゴーグルなど)
21a: 動画再生部
21b: 動画一時記録部
22 : 再生条件検出手段(VRゴーグルなど)
23 : 動画記憶手段(VRゴーグルなど)
24 : 動画通信手段(VRゴーグルなど)
Ma : 移動方向(360度回転)
ST : 撮影対象物