(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-09-22
(45)【発行日】2023-10-02
(54)【発明の名称】表示制御装置、表示制御方法および表示制御プログラム
(51)【国際特許分類】
G06T 19/00 20110101AFI20230925BHJP
G06F 3/0484 20220101ALI20230925BHJP
【FI】
G06T19/00 600
G06F3/0484
(21)【出願番号】P 2021102064
(22)【出願日】2021-06-18
【審査請求日】2021-12-17
【審判番号】
【審判請求日】2022-12-20
【早期審査対象出願】
(73)【特許権者】
【識別番号】319013263
【氏名又は名称】ヤフー株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】西 紗記子
(72)【発明者】
【氏名】友成 愛
(72)【発明者】
【氏名】吉村 佳純
(72)【発明者】
【氏名】西 磨翁
(72)【発明者】
【氏名】田村 柾優紀
【合議体】
【審判長】畑中 高行
【審判官】樫本 剛
【審判官】木方 庸輔
(56)【参考文献】
【文献】特開2017-129904(JP,A)
【文献】特開2021-56679(JP,A)
【文献】国際公開第2019/187488(WO,A1)
【文献】特開2011-118834(JP,A)
【文献】特開2013-92964(JP,A)
【文献】特開2021-86606(JP,A)
【文献】AdobeCreativeStation,[CC道場 #292]AR道場 Adobe Aeroであそぼう!池原健治 - アドビ公式,youtube[video][online],2020年1月23日,https://www.youtube.com/watch?v=PNgK7elyci0
【文献】Pukutomo/ぷくとも,iPadやiPhoneで作れる簡単AR! 無料アプリ「Adobe Aero」,youtube[video][online],2019年11月29日,https://www.youtube.com/watch?v=vQkB9gx8i0k
【文献】Sony-Global, 3D実写AR “LiveAction AR”, youtube[video][online], 2012年8月21日, https://www.youtube.com/watch?v=2rbTLrrgEaU,特に0:43~1:37
【文献】ROCKETNEWS24, ソニーの実写によるAR(拡張現実)技術に海外ネットユーザが苦笑い「ポルノの未来は明るいな」,[online], 2012年8月27日, https://rocketnews24.com/2012/08/27/243293/
(58)【調査した分野】(Int.Cl.,DB名)
G06T 19/00
G06F 3/0484
(57)【特許請求の範囲】
【請求項1】
周囲に実在する実在オブジェクトのサイズである実在オブジェクトサイズを推定する推定部と、
前記推定部によって推定された前記実在オブジェクトサイズと、実在するオブジェクトを多視点から撮影した多視点画像として表示される仮想オブジェクトに設定されたサイズである仮想オブジェクトサイズとに基づき、前記周囲を撮像した撮像画像に重畳表示する前記仮想オブジェクトの表示サイズを設定する設定部と、
前記設定部によって設定された前記表示サイズで前記仮想オブジェクトを前記撮像画像に表示する表示制御部と
を備え、
前記設定部は、
前記仮想オブジェクトが再生中に移動する移動範囲を内包する空間
であって、再生中に仮想オブジェクトがすべての前記実在オブジェクトと衝突しない空間を前記仮想オブジェクトの表示領域
として設定し、
前記表示制御部は、
前記撮像画像の撮像位置の変化に応じた視点位置からみた前記仮想オブジェクトを表示するとともに、
前記仮想オブジェクトと前記実在オブジェクトとの位置関係の変化に応じた前記表示サイズで前記仮想オブジェクトを表示する
ことを特徴とする表示制御装置。
【請求項2】
前記設定部は、
前記撮像画像の撮像位置にあわせて前記表示サイズを設定すること
を特徴とする請求項1に記載の表示制御装置。
【請求項3】
前記表示制御部は、
前記多視点画像中の複数の前記仮想オブジェクトのうち、選択された一部の前記仮想オブジェクトを前記撮像画像に重畳表示し、選択されなかった前記仮想オブジェクトを前記撮像画像に重畳表示しないこと
を特徴とする請求項1または2に記載の表示制御装置。
【請求項4】
前記表示制御部は、
複数の前記多視点画像中の前記仮想オブジェクトを組み合わせて前記撮像画像に重畳表示すること
を特徴とする請求項1、2または3に記載の表示制御装置。
【請求項5】
前記表示制御部は、
前記多視点画像中の複数の前記仮想オブジェクトのうち、選択された一部の前記仮想オブジェクトの配置を変えて前記撮像画像に重畳表示すること
を特徴とする請求項1~4のいずれか一つに記載の表示制御装置。
【請求項6】
前記表示制御部は、
前記仮想オブジェクト毎に前記表示サイズの変更、再生、一時停止を受け付けること
を特徴とする請求項1~5のいずれか一つに記載の表示制御装置。
【請求項7】
コンピュータが実行する表示制御方法であって、
周囲に実在する実在オブジェクトのサイズである実在オブジェクトサイズを推定する推定工程と、
前記推定工程によって推定された前記実在オブジェクトサイズと、実在するオブジェクトを多視点から撮影した多視点画像として表示される仮想オブジェクトに設定されたサイズである仮想オブジェクトサイズとに基づき、前記周囲を撮像した撮像画像に重畳表示する前記仮想オブジェクトの表示サイズを設定する設定工程と、
前記設定工程によって設定された前記表示サイズで前記仮想オブジェクトを前記撮像画像に表示する表示制御工程と
を含み、
前記設定工程は、
前記仮想オブジェクトが再生中に移動する移動範囲を内包する空間
であって、再生中に仮想オブジェクトがすべての前記実在オブジェクトと衝突しない空間を前記仮想オブジェクトの表示領域
として設定し、
前記表示制御工程は、
前記撮像画像の撮像位置の変化に応じた視点位置からみた前記仮想オブジェクトを表示するとともに、
前記仮想オブジェクトと前記実在オブジェクトとの位置関係の変化に応じた前記表示サイズで前記仮想オブジェクトを表示する
ことを特徴とする表示制御方法。
【請求項8】
周囲に実在する実在オブジェクトのサイズである実在オブジェクトサイズを推定する推定手順と、
前記推定手順によって推定された前記実在オブジェクトサイズと、実在するオブジェクトを多視点から撮影した多視点画像として表示される仮想オブジェクトに設定されたサイズである仮想オブジェクトサイズとに基づき、前記周囲を撮像した撮像画像に重畳表示する前記仮想オブジェクトの表示サイズを設定する設定手順と、
前記設定手順によって設定された前記表示サイズで前記仮想オブジェクトを前記撮像画像に表示する表示制御手順と
をコンピュータに実行させ、
前記設定手順は、
前記仮想オブジェクトが再生中に移動する移動範囲を内包する空間
であって、再生中に仮想オブジェクトがすべての前記実在オブジェクトと衝突しない空間を前記仮想オブジェクトの表示領域
として設定し、
前記表示制御手順は、
前記撮像画像の撮像位置の変化に応じた視点位置からみた前記仮想オブジェクトを表示するとともに、
前記仮想オブジェクトと前記実在オブジェクトとの位置関係の変化に応じた前記表示サイズで前記仮想オブジェクトを表示する
ことを特徴とする表示制御プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は表示制御装置、表示制御方法および表示制御プログラムに関する。
【背景技術】
【0002】
近年、インターネットを介して提供されるコンテンツとして、拡張現実(AR;Augmented Reality)が普及しつつある。このようなARにおいては、たとえば、仮想的な視点から見たARオブジェクトを撮像画像に対して重畳表示する(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来技術では、たとえば、ARコンテンツにおける臨場感の向上を図るうえで改善の余地があった。
【0005】
本発明は、上記に鑑みてなされたものであって、ARコンテンツにおける臨場感の向上を図ることができる表示制御装置、表示制御方法および表示制御プログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
上述した課題を解決し、目的を達成するために、本発明に係る表示制御装置は、推定部と、設定部と、表示制御部とを備える。前記推定部は、周囲に実在する実在オブジェクトのサイズである実在オブジェクトサイズを推定する。前記設定部は、前記推定部によって推定された前記実在オブジェクトサイズと、多視点画像中の仮想オブジェクトに設定されたサイズである仮想オブジェクトサイズとに基づき、前記周囲を撮像した撮像画像に重畳表示する前記仮想オブジェクトの表示サイズを設定する。前記表示制御部は、前記設定部によって設定された前記表示サイズで前記仮想オブジェクトを前記撮像画像に表示する。
【発明の効果】
【0007】
本発明によれば、ARコンテンツにおける臨場感の向上を図ることができる。
【図面の簡単な説明】
【0008】
【
図1】
図1は、実施形態に係る表示制御システムの概要を示す図である。
【
図2】
図2は、実施形態に係る情報処理装置の構成例を示すブロック図である。
【
図3】
図3は、実施形態に係る多視点映像データベースに記憶する情報の一例を示す図である。
【
図4】
図4は、実施形態に係る表示制御装置の構成例を示すブロック図である。
【
図5】
図5は、実施形態に係るサイズ情報記憶部に記憶する情報の一例を示す図である。
【
図6】
図6は、実施形態に係る実在オブジェクトサイズと仮想オブジェクトの表示サイズとの相関関係を示す模式図である。
【
図7】
図7は、実施形態に係る表示面の一例を示す模式図である。
【
図8】
図8は、実施形態に係る仮想オブジェクトと音声発生源との関係性を示す模式図である。
【
図9】
図9は、実施形態に係る情報処理装置が実行する処理手順の一例を示すフローチャートである。
【
図10】
図10は、実施形態に係る表示制御装置が実行する処理手順の一例を示すフローチャートである。
【
図11】
図11は、実施形態に係る情報処理装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
【発明を実施するための形態】
【0009】
以下に、本願に係る表示制御装置、表示制御方法および表示制御プログラムを実施するための形態(以下、「実施形態」と記載する。)について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る表示制御装置、表示制御方法および表示制御プログラムが限定されるものではない。
【0010】
[実施形態]
〔1.表示制御処理〕
まず、
図1を用いて、実施形態に係る表示制御処理の一例について説明する。
図1は、実施形態に係る表示制御処理の一例を示す図である。
【0011】
図1に示すように、実施形態に係る表示システムSは、たとえば、情報処理装置10と、表示制御装置50とを有する。情報処理装置10は、各表示制御装置50に対して、各種、AR(Augmented Reality)コンテンツを配信する情報処理装置である。情報処理装置10は、サーバ装置やクラウドシステムにより実現される。
【0012】
図1に示すように、情報処理装置10は、多視点映像データベースを有しており、多視点映像データベースに登録された多視点映像をARコンテンツ100として提供する。ここで、多視点映像とは、3次元モデルを複数の所定の視点からレンダリングした映像、あるいは、実在する被写体の周りに複数台の撮影機材を設置し撮影された映像である。また、多視点映像を構成する一つ一つの画像が多視点画像となる。
【0013】
表示制御装置50は、たとえば、カメラやLidar等を有するスマートフォンやHMD(Head Mount Display)などといった各種端末装置であり、情報処理装置10から配信される多視点映像に関するARコンテンツ100をユーザUへ視聴可能に提供する。
【0014】
たとえば、表示制御装置50は、周囲を撮像した撮像画像Gに対して、情報処理装置10から配信される多視点映像の仮想オブジェクトOvを重畳表示したARコンテンツ100を提供する。すなわち、表示制御装置50は、いわゆるビデオシースルータイプのARコンテンツ100を提供する。なお、表示システムSで提供するARコンテンツ100は、ビデオシースルータイプに限られず、光学シースルータイプであってもよい。
【0015】
ところで、たとえば、多視点映像のARコンテンツを提供するにあたり、多視点映像中の仮想オブジェクトのサイズが実際のサイズと乖離するおそれがある。具体的な例を挙げると、たとえば、仮想オブジェクトとして表示する人物をARコンテンツとして表示する場合に、サイズの設定が現実世界に即していないARコンテンツを撮像画像Gに対して重畳しようとすると画面からはみ出して大きく表示されたり、あるいは、小さく表示されたりする場合がある。
【0016】
これら表示サイズの乖離は、よりリアルに近い、すなわち、臨場感の高いARコンテンツを提供するうえで課題となり得る。
【0017】
そこで、実施形態に係る表示制御装置50は、周囲に実在する実在オブジェクトOrのサイズを示す実在オブジェクトサイズを推定し、推定した実在オブジェクトサイズに基づいて、ARコンテンツ100における仮想オブジェクトOvの表示サイズを制御することとした。
【0018】
具体的には、
図1に示すように、たとえば、表示制御装置50は、情報処理装置10から多視点映像の配信を受け付ける(ステップS01)。たとえば、表示制御装置50は、配信された多視点映像に基づき、いわゆるストリーミング再生を行うことで、ARコンテンツ100を表示する。
【0019】
この際、表示制御装置50は、仮想オブジェクトを任意の視点位置からみた多視点画像に関する情報と、多視点映像中の仮想オブジェクトOv毎に設定された仮想オブジェクトサイズに関する情報等を多視点映像として受け付ける。
【0020】
つづいて、表示制御装置50は、実在オブジェクトOrのサイズである実在オブジェクトサイズの推定処理を実行する(ステップS02)。表示制御装置50は、たとえば、カメラによって撮像画像に対する画像認識を行うことで、実在オブジェクトサイズを推定する。
【0021】
より詳しくは、家具などといった所定の実在オブジェクトOrは、種類等によっておおよその大きさが決まっているので、カメラによる撮像画像を用いた画像認識によって家具など基準となる実在オブジェクトOrを認識するとともに、認識した実在オブジェクトOrの実在オブジェクトサイズを推定する。
【0022】
また、表示制御装置50は、たとえば、Lidarなどの測距センサの測距結果に基づき、実在オブジェクトOrまでの距離等を算出する。そして、推定した実在オブジェクトサイズと、表示制御装置50から実在オブジェクトOrまでの距離等に基づき、実在オブジェクトOrが実際に存在する空間(以下、実空間)全体の大きさ、配置などといった実空間情報を推定する。
【0023】
図1では、実在オブジェクトOrがカーテンであり、カーテンの高さhおよび幅wを実在オブジェクトとして推定した場合を例示する。つづいて、表示制御装置50は、ステップS2にて推定した実在オブジェクトサイズに基づき、仮想オブジェクトの表示サイズを制御する表示制御処理を行う(ステップS03)。
【0024】
たとえば、表示制御装置50は、ステップS3の表示制御処理において、実在オブジェクトOrの実在オブジェクトサイズと、仮想オブジェクトOvの仮想オブジェクトサイズとが整合するように仮想オブジェクトOvの表示サイズを制御する。
【0025】
すなわち、表示制御装置50は、仮想オブジェクトOvを実空間に実際に配置した場合に、仮想オブジェクトOvが実際の大きさ(原寸大)となるようにARコンテンツ100における仮想オブジェクトOvの表示サイズを制御する。
【0026】
これにより、実施形態に係る表示制御装置50では、よりリアリティーの高いARコンテンツ100を提供することができるので、ARコンテンツ100における臨場感の向上を図ることができる。
【0027】
〔2-1.情報処理装置の構成例〕
次に、
図2を用いて、情報処理装置10の構成例について説明する。
図2は、情報処理装置10の構成例を示すブロック図である。
図2に示すように、情報処理装置10は、通信部20と、記憶部30と、制御部40とを備える。
【0028】
通信部20は、たとえば、NIC(Network Interface Card)等によって実現される。そして、通信部20は、4G(Generation)、5G、LTE(Long Term Evolution)、Wifi(登録商標)若しくは無線LAN(Local Area Network)等といった各種の無線通信網若しくは各種の有線通信網といったネットワークを介して、外部装置との間で情報の送受信を行う。
【0029】
記憶部30は、たとえば、RAM、フラッシュメモリ等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。また、記憶部30は、多視点映像データベース31を有する。
【0030】
多視点映像データベース31は、多視点映像を記憶するデータベースである。
図3は、多視点映像データベース31に格納された情報の一例を示す図である。
図3に示すように、多視点映像データベース31は、「映像ID」、「画像群」、「サイズ情報」、「音声」、「音源座標」などといった項目の情報を互いに対応付けて記憶する。
【0031】
「映像ID」は、各多視点映像を識別するための識別子であり、「画像群」は、多視点映像として提供するための画像群であり、複数視点から同時に撮影された静止画像あるいは動画像をまとめたデータである。なお、画像群は、3Dモデル(たとえば、3次元のグラフィックデータ)に置き換えることにしてもよい。
【0032】
「サイズ情報」は、多視点映像として撮影されたオブジェクトの実際のサイズに関する情報である。「音声」は、多視点映像とともに流す音声データを示し、「音源座標」は、多視点映像における音声データの音源の座標に関する情報である。
【0033】
ARコンテンツ100として、アーティストの歌唱映像を提供する場合において、音声はアーティストが歌っている音源であり、音源座標は、アーティストの頭部(たとえば、口元)となる。
【0034】
図2の説明に戻り、制御部40について説明する。制御部40は、たとえば、コントローラ(controller)であり、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、MPU(Micro Processing Unit)等によって、情報処理装置10内部の記憶装置に記憶されている各種プログラムがRAMを作業領域として実行されることにより実現される。
【0035】
図2に示すように、制御部40は、選択部41と、配信部42とを備える。選択部41は、各表示制御装置50から受け取った多視点映像の配信要求に基づき、対応する多視点映像を多視点映像データベース31から選択する。
【0036】
たとえば、配信要求には、上記の映像IDに関する情報が含まれており、選択部41は、配信要求に含まれる映像IDに合致する多視点映像を多視点映像データベース31から選択する。
【0037】
また、たとえば、多視点映像の配信中において、選択部41は、ARコンテンツ100に対するユーザの注視点情報を各表示制御装置50から受け取り、注視点情報に基づき、多視点映像に対する視点切替処理を行う。
【0038】
たとえば、注視点情報は、実空間における撮像画像Gの撮像範囲や撮像向きに関する情報であり、ARコンテンツ100として表示される実空間に関する情報である。すなわち、ARコンテンツ100におけるユーザの注視点に関する情報である。たとえば、ユーザが表示制御装置50(たとえば、後述する外向きカメラ61)の位置を変化させた場合に注視点が変化し、変化した向きや変化量などに関する情報が注視点情報となる。
【0039】
選択部41は、注視点情報に基づき、多視点映像に対する視点位置を選択することで、視点切替処理を行う。これにより、選択した視点位置から見た仮想オブジェクトOvの多視点画像が選択される。その後、選択部41は、注視点情報の変化に追従させて視点位置を随時切り替える処理を行う。
【0040】
配信部42は、選択部41によって選択された多視点映像を各表示制御装置50に対して配信する。なお、配信部42が配信する多視点映像は、時間的に連続する多視点画像であり、配信部42は、注視点情報に基づいて設定された視点位置から見た多視点画像を連続的に配信する。また、配信部42は、多視点映像とともに音声等に関する情報をあわせて表示制御装置50へ配信する。
【0041】
〔2-2.表示制御装置の構成例〕
次に、
図4を用いて、実施形態に係る表示制御装置50の構成例について説明する。
図4は、表示制御装置50の構成例を示すブロック図である。
図4に示すように、表示制御装置50は、通信部60、外向きカメラ61、内向きカメラ62、センサ群63、表示部64、音声出力部65、記憶部70および制御部80を備える。なお、外向きカメラ61、内向きカメラ62、センサ群63、表示部64および音声出力部65については、表示制御装置50とは別の装置であってもよい。
【0042】
通信部60は、例えば、NIC(Network Interface Card)等によって実現される。そして、通信部60は、4G(Generation)、5G、LTE(Long Term Evolution)、WiFi(登録商標)若しくは無線LAN(Local Area Network)等といった各種の無線通信網若しくは各種の有線通信網といったネットワークを介して、外部装置との間で情報の送受信を行う。
【0043】
外向きカメラ61は、表示制御部50の外側(たとえば、表示部64の表示面とは逆側)を撮像するカメラであり、実空間を撮像する。たとえば、外向きカメラ61によって撮像された撮像画像は、ARコンテンツ100における仮想オブジェクトOvの背景画像として用いられる。内向きカメラ61は、表示制御部50の内側(たとえば、表示部64の表示面側)を撮像するカメラであり、ARコンテンツ100を視聴するユーザUを撮像する。
【0044】
センサ群63は、たとえば、表示制御装置50の姿勢や、実空間に存在する実在オブジェクトOrまでの距離を検出するための各種センサによって構成される。たとえば、センサ群63には、ジャイロセンサ、Lidarなどが含まれる。
【0045】
表示部64は、たとえば、タッチパネルディスプレイであり、ARコンテンツ100等の各種映像を表示するとともに、各種ユーザ操作を受け付ける。音声出力部65は、たとえば、サラウンドスピーカあるいはステレオスピーカであり、ARコンテンツ100とともに流れる各種音声を出力する。
【0046】
記憶部70は、たとえば、RAM、フラッシュメモリ等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。また、記憶部70は、マップ情報記憶部71およびサイズ情報記憶部72を有する。
【0047】
マップ情報記憶部71は、実空間のマップ情報を記憶する。たとえば、マップ情報とは、表示制御部50の周辺環境を示す環境地図であり、後述する自己位置推定部81やサイズ推定部82による処理結果に基づいて作成される。
【0048】
サイズ情報記憶部72は、実在オブジェクトOrの実在オブジェクトサイズに関する情報を記憶する。
図5は、サイズ情報記憶部72に記憶する情報の一例を示す図である。
図5に示すように、サイズ情報記憶部72は、「オブジェクトID」、「特徴量」、「サイズ情報」などといった項目の情報を互いに対応付けて記憶する。
【0049】
「オブジェクトID」は、実在オブジェクトOrを識別するための識別子であり、「特徴量」は、実在オブジェクトOrの特徴量を示す。ここでの特徴量は、たとえば、実在オブジェクトOrの外見の特徴を示す。
【0050】
「サイズ情報」は、対応する実在オブジェクトOrのサイズに関する情報であり、たとえば、実在オブジェクトOrの実寸大のサイズ、すなわち、等身大のサイズに関する情報を示す。なお、サイズ情報は、カタログ値であってもよいし、あるいは、実測値であってもよい。また、表示制御装置50で計測した値を実測値として用いることにしてもよい。
【0051】
図4の説明に戻り、制御部80について説明する。制御部80は、たとえば、コントローラ(controller)であり、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、MPU(Micro Processing Unit)等によって、情報処理装置10内部の記憶装置に記憶されている各種プログラムがRAMを作業領域として実行されることにより実現される。
【0052】
図4に示すように、制御部80は、自己位置推定部81と、サイズ推定部82と、表示面設定部83と、表示制御部84と、音声制御部85とを備える。自己位置推定部81は、外向きカメラ61やセンサ群63から入力される各種情報に基づき、Slam(Simultaneous Localization and Mapping)等の技術を用いて実空間の環境地図を作成するとともに、環境地図内における表示制御装置50の座標(たとえば、ワールド座標)や姿勢を推定する。
【0053】
また、自己位置推定部81は、作成した環境地図に関する情報をマップ情報としてマップ情報記憶部71に格納するとともに、推定した位置や姿勢に関する情報、すなわち、上記の注視点情報を表示面設定部83へ渡す。また、ARコンテンツ100の提供中においては、注視点情報は、情報処理装置10へも送信される。
【0054】
サイズ推定部82は、周囲に実在する実在オブジェクトOrのサイズである実在オブジェクトサイズを推定する。たとえば、サイズ推定部82は、外向きカメラ61によって撮影された撮像画像から実在オブジェクトOrを認識するとともに、実在オブジェクトサイズの推定を行う。
【0055】
たとえば、サイズ推定部82は、サイズ情報記憶部72に記憶された各実在オブジェクトOrの特徴量と、撮像画像中に含まれる対象物の特徴量とを比較することで、双方の特徴量の一致率から周囲の実在オブジェクトOrの種別を認識する。
【0056】
サイズ推定部82は、実在オブジェクトOrの種別を認識すると、サイズ情報記憶部72に記憶されたサイズ情報に基づき、実在オブジェクトOrの実在オブジェクトサイズを推定する。また、サイズ推定部82は、たとえば、センサ群63(たとえばLidar)の検出結果に基づき、外向きカメラ61から実在オブジェクトOrまでの距離を推定する。
【0057】
たとえば、サイズ推定部82は、推定した実在オブジェクトサイズと、対応する実在オブジェクトOrまでの距離とに基づき、撮像画像中における実在オブジェクトOrの倍率(縮尺)を推定する。
【0058】
表示面設定部83は、サイズ推定部82によって推定された実在オブジェクトサイズと、多視点画像中の仮想オブジェクトOvに設定されたサイズである仮想オブジェクトサイズとに基づき、周囲を撮像した撮像画像に重畳表示する仮想オブジェクトOvの表示サイズを設定する。たとえば、表示面設定部83は、ARコンテンツ100として提供する仮想部ジェクトOvのサイズ情報を情報処理装置10へ問い合わせ、問い合わせたサイズ情報に基づき、表示サイズを設定する。
【0059】
図6は、実在オブジェクトサイズと仮想オブジェクトOvの表示サイズとの相関関係を示す模式図である。
図6に示す例では、撮像画像Gに映る実在オブジェクトOrの手前側に実在オブジェクトOrから距離dの位置に撮像画像Gに重畳表示する仮想オブジェクトOvを配置する場合について説明する。
【0060】
この場合、実在オブジェクトOrの高さh1に基づき、仮想オブジェクトOvをARコンテンツ100中に表示する際の高さh2を設定する。すなわち、実在オブジェクトOrと、表示する仮想オブジェクトOvとの位置関係、ならびに、実際の大きさの比率に基づき、仮想オブジェクトOvの表示サイズとなる高さh2を設定する。
【0061】
換言すれば、表示面設定部83は、実在オブジェクトOrの高さh1を基準として、仮想オブジェクトOvが原寸大に表示されるように高さh2を算出し、多視点映像において、仮想オブジェクトOvの高さが高さh2となるように仮想オブジェクトOvの表示サイズを設定する。
【0062】
また、表示面設定部83は、仮想オブジェクトOvの表示サイズの設定結果に基づき、撮像画像から仮想オブジェクトOvを表示する仮想的な表示面(以下、単に表示面)の初期設定を行う。
【0063】
図7は、表示面の一例を示す模式図である。
図7の例では、2つの仮想オブジェクトOv1、2を表示する場合について説明する。
【0064】
表示面設定部83は、たとえば、現在の撮像画像Gの撮像空間に基づき、仮想オブジェクトOv1、2を共に内包可能な空間を仮想オブジェクトOv1、2を表示する表示領域Aとして設定し、表示領域Aの底面を表示面Apとして表示面Apの初期設定を行う。
【0065】
言い換えれば、表示面設定部83は、仮想オブジェクトOv1、2が内包できない空間を表示領域Aとして設定しない。これにより、たとえば、ARコンテンツ100において、仮想オブジェクトOvが実空間の壁や天井を突き抜けて表示される誤表示をあらかじめ回避することができる。
【0066】
その後、表示面設定部83は、設定した表示領域Aおよび表示面Apの座標情報をマップ情報記憶部71に書き込む。なお、たとえば、表示面Apは、実空間の床であるが、仮想オブジェクトOvの種類に応じて、ユーザの体の一部(たとえば手のひらなど)であってもよい。また、表示領域A自体を実際の床から浮遊させることにしてもよい。また、表示面設定部83は、仮想オブジェクトOv1、2に対して、それぞれ独立に表示領域Aおよび表示面Apを設定することにしてもよい。また、たとえば、仮想オブジェクトOv自体がARコンテンツ100内を移動するコンテンツも考えられるので、表示面設定部83は、仮想オブジェクトOvの移動範囲を包含するように表示領域Aや表示面Apを設定するようにしてもよい。
【0067】
その後、表示面設定部83は、撮像画像Gの撮像位置にあわせて表示サイズを更新する。たとえば、表示面設定部83は、自己位置推定部81から受け取った注視点情報に基づき、撮像画像Gの撮像位置(たとえば、外向きカメラ61の位置)を認識する。そして、表示面設定部83は、撮像位置と表示面Apとの位置関係に基づき、表示サイズを設定する。具体的には、表示面設定部83は、撮像位置と表示面Apとが近くなるにつれて、表示サイズを大きくし、撮像位置と表示面Apとが遠くなるにつれて小さくなるように表示サイズを設定する。
【0068】
つまり、表示面設定部83は、仮想オブジェクトOvを表示面Apに実在すると仮定した場合に、撮像画像G内に映る実際の大きさとなるように仮想オブジェクトOvの表示サイズを随時更新する。
【0069】
図4の説明に戻り、表示制御部84について説明する。表示制御部84は、表示面設定部83によって設定された表示サイズで仮想オブジェクトOvを撮像画像Gに表示する。まず、表示制御部83は、情報処理装置10に対して多視点映像の配信要求を行い、情報処理装置10から多視点映像の取得を開始する。
【0070】
たとえば、多視点映像を構成するそれぞれの多視点画像は、仮想オブジェクトOvの表示サイズが表示面設定部83によって設定される。表示制御部84は、表示サイズが設定された仮想オブジェクトOvを外向きカメラ61から取得した撮像画像Gに重畳表示することで、ARコンテンツ100を生成する。そして、表示制御部84は、ARコンテンツ100の生成毎に表示部64に表示する。
【0071】
ところで、ARコンテンツにおいては、たとえば、多視点映像のうち、一部の仮想オブジェクトOvのみを表示したい場合や、仮想オブジェクトOvの配置や向きを変更したいといった要望が想定され得る。
【0072】
そこで、たとえば、表示制御部84は、たとえば、ユーザ操作によって選択された一部の仮想オブジェクトOvのみを表示したり、あるいは、仮想オブジェクトOvの配置や向きを変更したりすることにしてもよい。
【0073】
より具体的な例を挙げると、たとえば、アイドルグループのメンバーそれぞれを独立した仮想オブジェクトOvとした場合に、一部のメンバーに対応する仮想オブジェクトOvのみを表示したり、仮想オブジェクトOvの配置を変更することで、メンバー同士のポジションを変更させたりすることができる。
【0074】
たとえば、表示制御部84は、上記のユーザ操作に関する情報を表示部64から受け取り、受け取ったユーザ操作に関する情報に基づき、一部の仮想オブジェクトOvの多視点画像を情報処理装置10に配信するよう要求する。これにより、一部の仮想オブジェクトOvのみを重畳表示したARコンテンツ100を提供することができる。なお、表示制御部84は、表示しない仮想オブジェクトOvについて所定のマスク処理を施すことで、一部の仮想オブジェクトOvのみを表示するようにしてもよい。
【0075】
また、表示制御部84は、ユーザ操作に関する情報に基づき、対応する仮想オブジェクトOvの配置や向きを変更することで、仮想オブジェクトOvの配置や向きが変更されたARコンテンツ100を提供することができる。
【0076】
その他、表示制御部84は、たとえば、ユーザ操作に基づき、ARコンテンツ100として表示する仮想オブジェクトOvの追加を行うようにしてもよい。たとえば、異なるライブで撮影された複数の多視点映像からユーザが選択したメンバーに対応する仮想オブジェクトOvを組み合わせたARコンテンツ100を提供することができる。
【0077】
すなわち、複数のライブ映像からユーザが選抜したメンバーのARコンテンツ100を提供することにしてもよい。この際、たとえば、選抜された仮想オブジェクトOvは同一人物であってもよく、異なる人物であってもよい。
【0078】
また、ARコンテンツ100の再生時において、表示制御部84は、ユーザ操作に基づき、一部の仮想オブジェクトOvのみを一時停止したり、再生速度を変更したりすることにしてもよい。すなわち、表示制御部84は、ARコンテンツ100内で仮想オブジェクトOv毎に複数の時間軸を設定することにしてもよい。また、表示制御部84は、仮想オブジェクトOvに対するサイズ変更を受け付けることにしてもよい。
【0079】
音声制御部85は、撮像画像Gの撮像位置と、多視点画像において設定された音声発生源との位置関係に基づき、音声出力を制御する。
図8は、仮想オブジェクトOvと音声発生源との関係性を示す模式図である。
図8には、3軸の直交座標を示し、外向きカメラ61と仮想オブジェクトOvの位置関係を示すワールド座標系に対応する。
【0080】
図8に示すように、たとえば、仮想オブジェクトOvの頭部に音声発生源Ssが設定される。すなわち、
図8に示す例では、音声制御部85は、仮想オブジェクトOvから音声が発生されるように音声出力を制御する。
【0081】
ここで、たとえば、外向きカメラ61の撮像位置が変化すると、ARコンテンツ100における仮想オブジェクトOvの位置が変化し、これに伴い音声発生源Ssの位置が変化することになる。
【0082】
そのため、音声制御部85は、これらの位置関係に基づき、音声出力部65の出力を制御することで、ARコンテンツ100における音声発生源Ssの位置を一致させる処理を行う。具体的には、たとえば、撮像画像Gにおいて仮想オブジェクトOvか右側に表示される場合、ユーザの右側から音声が聞こえるように音声出力部65を制御し、撮像画像Gにおいて仮想オブジェクトOvが手前側に表示される場合には、手前側から音声が聞こえるように音声出力部65を制御する。
【0083】
このように、音声制御部85は、音声発生源Ssの位置変化にあわせて音声制御をコントロールすることで、リアリティーの高いARコンテンツ100を提供することができる。なお、上記の例では、音声発生源Ssが一つである場合について示したが、音声発生源Ssは複数であってもよい。この場合、音声制御部85は、音声発生源Ss毎に位置関係に基づき、音声制御を行う。
【0084】
また、たとえば、音声制御部85は、音声発生源Ssが複数である場合には、音声発生源Ss毎に音量等の各種調整や、音声発生源Ssの統合などを行うことにしてもよい。また、音声制御部85は、たとえば、音声発生源Ssの位置を変更する操作を受け付けることにしてもよい。この場合、たとえば、当初設定された音声発生源Ssとは別の任意の座標に音声発生源Ssを設定することにしてもよい。
【0085】
また、音声制御部85は、たとえば、ユーザ操作に基づき、音声の削除、追加等を行うことにしてもよい。すなわち、複数の多視点映像から任意の音声を組み合わせて出力することにしてもよい。この場合、たとえば、異なる歌手が歌っている音声を他の歌手の仮想オブジェクトOvが歌っているかのようなARコンテンツ100などを提供することができる。
【0086】
〔3.処理手順〕
次に、
図9および
図10を用いて、実施形態に係る情報処理装置10および表示制御装置50が実行する処理手順について説明する。まず、
図9を用いて、情報処理装置10が実行する処理手順について説明する。
図9は、情報処理装置10が実行する処理手順を示すフローチャートである。なお、以下に示す処理手順は、情報処理装置10の制御部40によって配信要求の取得毎に繰り返し実行される。
【0087】
図9に示すように、まず、情報処理装置10は、配信要求を受け付ける(ステップS101)。つづいて、情報処理装置10は、受け付けた配信要求に基づき、多視点映像を配信し(ステップS102)、処理を終了する。
【0088】
なお、多視点映像の配信時において、情報処理装置10は、注視点情報に基づき、視点位置を変更した仮想オブジェクトOvの多視点画像を随時選択し、選択した多視点画像を配信する。
【0089】
次に、
図10を用いて、表示制御装置50が実行する処理手順について説明する。
図10は、表示制御装置50が実行する処理手順の一例を示すフローチャートである。なお、以下に示す処理手順は、ARコンテンツ100の提供毎に表示制御装置50の制御部80によって実行される。
【0090】
図10に示すように、まず、表示制御装置50は、たとえば、周囲を撮像した撮像画像等に基づき、周囲に実在する実在オブジェクトOrの実在オブジェクトサイズを推定する(ステップS201)。
【0091】
つづいて、表示制御装置50は、推定した実在オブジェクトサイズに基づき、仮想オブジェクトOvを表示する際の仮想オブジェクトサイズを決定する(ステップS202)。つづいて、表示制御装置50は、決定した仮想オブジェクトサイズに基づき、仮想オブジェクトOvの表示領域Aを設定する(ステップS203)。
【0092】
その後、表示制御装置50は、情報処理装置10から多視点映像を取得し(ステップS204)、取得した多視点映像を撮像画像Gに重畳表示したARコンテンツ100を表示し(ステップS205)、処理を終了する。
【0093】
〔4.変形例〕
上述した表示制御システムSは、上記実施形態以外にも種々の異なる形態にて実施されてもよい。そこで、以下では、表示制御システムSの他の実施形態について説明する。
【0094】
たとえば、表示制御装置50は、カメラ(外向きカメラ61および内向きカメラ62)と分離した構成であってもよい。また、表示制御装置50が提供するコンテンツは、ARコンテンツ100に限られず、たとえば、撮像画像Gに基づき、実空間をアニメーション等に変換したVR(Virtual Reality)コンテンツを提供することにしてもよい。
【0095】
〔5.効果〕
上述してきたように、実施形態に係る表示制御装置50は、周囲に実在する実在オブジェクトOrのサイズである実在オブジェクトサイズを推定するサイズ推定部82(推定部の一例)と、サイズ推定部82によって推定された実在オブジェクトサイズと、多視点画像中の仮想オブジェクトOvに設定されたサイズである仮想オブジェクトサイズとに基づき、周囲を撮像した撮像画像Gに重畳表示する仮想オブジェクトOvの表示サイズを設定する表示面設定部83(設定部の一例)と、表示面設定部83によって設定された表示サイズで仮想オブジェクトを撮像画像Gに表示する表示制御部84とを備える。
【0096】
したがって、実施形態に係る表示制御装置50によれば、仮想オブジェクトOvの表示サイズを適切(実寸大)に表示することができるので、ARコンテンツ100における臨場感の向上を図ることができる。
【0097】
また、実施形態に係る表示制御装置50において、表示面設定部83は、撮像画像Gの撮像位置にあわせて表示サイズを設定する。これにより、実施形態に係る表示制御装置50は、ARコンテンツ100における実世界の視点位置にあわせて適切な表示サイズに仮想オブジェクトOvを設定することができる。
【0098】
また、実施形態に係る表示制御装置50において、表示制御部84は、多視点画像中の複数の仮想オブジェクトOvのうち、選択された一部の仮想オブジェクトOvを撮像画像Gに重畳表示し、選択されなかった仮想オブジェクトOvを撮像画像Gに重畳表示しない。したがって、実施形態に係る表示制御装置50によれば、ユーザによるARコンテンツ100のカスタマイズを容易にすることができる。
【0099】
また、実施形態に係る表示制御装置50において、表示制御部84は、複数の多視点画像から選択した仮想オブジェクトOvを組み合わせて撮像画像Gに重畳表示する。したがって、実施形態に係る表示制御装置50によれば、複数のコンテンツを組み合わせたARコンテンツ100を容易に生成することができる。
【0100】
また、実施形態に係る表示制御装置50において、表示制御部84は、多視点画像中の複数の仮想オブジェクトOvのうち、選択された一部の仮想オブジェクトOvの配置を変えて撮像画像Gに重畳表示する。したがって、実施形態に係る表示制御装置50によれば、ユーザによるARコンテンツ100のカスタマイズを容易にすることができる。
【0101】
また、実施形態に係る表示制御装置50は、撮像画像の撮像位置と、多視点画像において設定された音声発生源との位置関係に基づき、音声出力を制御する音声制御部85を備える。したがって、実施形態に係る表示制御装置50によれば、音声発生源Ssと仮想オブジェクトOvとを一致させることができるので、より臨場感の高いARコンテンツ100を提供することができる。
【0102】
実施形態に係る表示制御装置50において、音声制御部85は、複数の多視点画像に対応付けられた音声を同じ画像内で出力する。したがって、実施形態に係る表示制御装置50によれば、別々に収録した音声を同一のARコンテンツ100として提供することができるので、ユーザによるARコンテンツ100のカスタマイズを容易にすることができる。
【0103】
また、実施形態に係る表示制御方法は、コンピュータが実行する表示制御方法であって、周囲に実在する実在オブジェクトOrのサイズである実在オブジェクトサイズを推定する推定工程と、推定工程によって推定された実在オブジェクトサイズと、多視点画像中の仮想オブジェクトOvに設定されたサイズである仮想オブジェクトサイズとに基づき、周囲を撮像した撮像画像Gに重畳表示する仮想オブジェクトOvの表示サイズを設定する設定工程と、設定工程によって設定された表示サイズで仮想オブジェクトOvを撮像画像Gに表示する表示制御工程とを含む。したがって、実施形態に係る表示制御方法によれば、仮想オブジェクトOvの表示サイズを適切(実寸大)に表示することができるので、ARコンテンツ100における臨場感の向上を図ることができる。
【0104】
また、実施形態に係る表示制御プログラムは、周囲に実在する実在オブジェクトOrのサイズである実在オブジェクトサイズを推定する推定手順と、推定手順によって推定された実在オブジェクトサイズと、多視点画像中の仮想オブジェクトOvに設定されたサイズである仮想オブジェクトサイズとに基づき、周囲を撮像した撮像画像Gに重畳表示する仮想オブジェクトOvの表示サイズを設定する設定手順と、設定手順によって設定された表示サイズで仮想オブジェクトOvを撮像画像Gに表示する表示制御手順とをコンピュータに実行させる。したがって、実施形態に係る表示制御プログラムによれば、仮想オブジェクトOvの表示サイズを適切(実寸大)に表示することができるので、ARコンテンツ100における臨場感の向上を図ることができる。
【0105】
〔6.ハードウェア構成〕
また、上述してきた実施形態に係る表示制御装置50は、例えば
図11に示すような構成のコンピュータ1000によって実現される。
図11は、実施形態に係る表示制御装置50の機能を実現するコンピュータの一例を示すハードウェア構成図である。コンピュータ1000は、CPU1100、RAM1200、ROM1300、HDD1400、通信インターフェイス(I/F)1500、入出力インターフェイス(I/F)1600、及びメディアインターフェイス(I/F)1700を有する。
【0106】
CPU1100は、ROM1300またはHDD1400に格納されたプログラムに基づいて動作し、各部の制御を行う。ROM1300は、コンピュータ1000の起動時にCPU1100によって実行されるブートプログラムや、コンピュータ1000のハードウェアに依存するプログラム等を格納する。
【0107】
HDD1400は、CPU1100によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を格納する。通信インターフェイス1500は、ネットワーク(通信ネットワーク)Nを介して他の機器からデータを受信してCPU1100へ送り、CPU1100が生成したデータをネットワークNを介して他の機器へ送信する。
【0108】
CPU1100は、入出力インターフェイス1600を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置(
図10では、出力装置および入力装置を総称して「入出力装置」と記載する)を制御する。CPU1100は、入出力インターフェイス1600を介して、入力装置からデータを取得する。また、CPU1100は、生成したデータを入出力インターフェイス1600を介して出力装置へ出力する。
【0109】
メディアインターフェイス1700は、記録媒体1800に格納されたプログラムまたはデータを読み取り、RAM1200を介してCPU1100に提供する。CPU1100は、かかるプログラムを、メディアインターフェイス1700を介して記録媒体1800からRAM1200上にロードし、ロードしたプログラムを実行する。記録媒体1800は、例えばDVD(Digital Versatile Disc)、PD(Phase change rewritable Disk)等の光学記録媒体、MO(Magneto-Optical disk)等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
【0110】
例えば、コンピュータ1000が実施形態に係る表示制御装置50として機能する場合、コンピュータ1000のCPU1100は、RAM1200上にロードされたプログラムを実行することにより、制御部120の機能を実現する。コンピュータ1000のCPU1100は、これらのプログラムを記録媒体1800から読み取って実行するが、他の例として、他の装置からネットワークNを介してこれらのプログラムを取得してもよい。
【0111】
以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
【0112】
〔7.その他〕
また、上記実施形態及び変形例において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
【0113】
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
【0114】
また、上述してきた実施形態及び変形例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
【0115】
また、上述してきた「部(section、module、unit)」は、「手段」や「回路」などに読み替えることができる。例えば、自己位置推定部81は、自己位置推定部手段や自己位置推定部回路に読み替えることができる。
【符号の説明】
【0116】
10 情報処理装置
20 通信部
30 記憶部
31 多視点映像データベース
40 制御部
41 選択部
42 配信部
50 表示制御部
70 記憶部
71 マップ情報記憶部
72 サイズ情報記憶部
80 制御部
81 自己位置推定部
82 サイズ推定部(推定部の一例)
83 表示面設定部(設定部の一例)
84 表示制御部
85 音声制御部
100 ARコンテンツ
G 撮像画像
Or 実在オブジェクト
Ov 仮想オブジェクト