(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-12-03
(45)【発行日】2024-12-11
(54)【発明の名称】空間像表示装置、空間像表示方法、及びプログラム
(51)【国際特許分類】
H04N 13/346 20180101AFI20241204BHJP
H04N 13/122 20180101ALI20241204BHJP
H04N 13/395 20180101ALI20241204BHJP
【FI】
H04N13/346
H04N13/122
H04N13/395
(21)【出願番号】P 2023531331
(86)(22)【出願日】2021-07-02
(86)【国際出願番号】 JP2021025200
(87)【国際公開番号】W WO2023276156
(87)【国際公開日】2023-01-05
【審査請求日】2023-10-30
(73)【特許権者】
【識別番号】000004226
【氏名又は名称】日本電信電話株式会社
(74)【代理人】
【識別番号】100147485
【氏名又は名称】杉村 憲司
(74)【代理人】
【識別番号】100164471
【氏名又は名称】岡野 大和
(74)【代理人】
【識別番号】100176728
【氏名又は名称】北村 慎吾
(72)【発明者】
【氏名】鈴木 健也
(72)【発明者】
【氏名】並河 大地
(72)【発明者】
【氏名】長谷川 馨亮
(72)【発明者】
【氏名】武藤 誠
(72)【発明者】
【氏名】紺谷 精一
(72)【発明者】
【氏名】中村 泰治
(72)【発明者】
【氏名】平地 信博
【審査官】中村 直行
(56)【参考文献】
【文献】特開2009-267557(JP,A)
【文献】特開2000-261832(JP,A)
【文献】特開2004-163644(JP,A)
【文献】特開2000-333211(JP,A)
【文献】特開2004-240090(JP,A)
【文献】特開2003-058912(JP,A)
【文献】特開2018-073172(JP,A)
【文献】特開2016-018560(JP,A)
【文献】韓国公開特許第10-2012-0131409(KR,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 13/00 - 17/06
G06T 19/00
G09G 3/00 - 5/42
G02B 30/00
G03B 35/00
(57)【特許請求の範囲】
【請求項1】
映像を表示する、複数の表示部と、
前記複数の表示部に表示された前記映像から出射された映像光をそれぞれ反射させ、反射した前記映像光が観察者の眼に到達することによって、前記観察者から同じ方向の異なる距離に、前記映像の虚像が表示されるように配置されている、複数の光学素子と、
前記映像に像が含まれる特定の被写体であるオブジェクトの位置に基づいて、
前記複数の表示部の中から、前記虚像が表示される虚像面に対応する、実空間上の面である基準面から前記オブジェクトまでの距離が最も短い基準面に対応する虚像面に虚像を表示させる表示部を、前記オブジェクトの像を含む
オブジェクト映像を表示させる表示部に決定するとともに、前記オブジェクト映像が表示される前記表示部に対応する実空間上の面である基準面から、前記オブジェクトまでの距離に基づいて、前記オブジェクト映像に付加する視覚効果を決定する決定部と、
前記オブジェクト映像及び前記視覚効果に基づいて前記映像を表示するよう前記表示部を制御する表示制御部と、
を備える空間像表示装置。
【請求項2】
映像を表示する、複数の表示部と、
前記複数の表示部に表示された前記映像から出射された映像光をそれぞれ反射させ、反射した前記映像光が観察者の眼に到達することによって、前記観察者から同じ方向の異なる距離に、前記映像の虚像が表示されるように配置されている、複数の光学素子と、
前記映像に像が含まれる特定の被写体であるオブジェクトの位置に基づいて、前記オブジェクトの像を含むオブジェクト映像に付加する視覚効果を決定する決定部と、
前記オブジェクト映像及び前記視覚効果に基づいて前記映像を表示するよう前記表示部を制御する表示制御部と、
を備え、
前記位置は、実空間における、所定の水平面から前記オブジェクトまでの高さで示され、
前記決定部は、前記高さに基づいて、前記視覚効果を決定する空間像表示装置。
【請求項3】
映像を表示する、複数の表示部と、
前記複数の表示部に表示された前記映像から出射された映像光をそれぞれ反射させ、反射した前記映像光が観察者の眼に到達することによって、前記観察者から同じ方向の異なる距離に、前記映像の虚像が表示されるように配置されている、複数の光学素子と、
前記映像に像が含まれる特定の被写体であるオブジェクトの位置に基づいて、前記オブジェクトの像を含むオブジェクト映像に付加する視覚効果を決定する決定部と、
前記オブジェクト映像及び前記視覚効果に基づいて前記映像を表示するよう前記表示部を制御する表示制御部と、
を備え、
前記決定部は、前記位置の変化率に基づいて、前記視覚効果を決定する空間像表示装置。
【請求項4】
前記オブジェクト映像を示すオブジェクト映像情報、及び前記オブジェクトの位置を示すオブジェクト位置情報を受信する通信部をさらに備え、
前記決定部は、前記オブジェクト位置情報が示す前記位置に基づいて、前記オブジェクト映像情報が示す前記オブジェクト映像に付加する前記視覚効果を決定する、請求項1
から3のいずれか一項に記載の空間像表示装置。
【請求項5】
前記オブジェクトの位置を推定するオブジェクト位置推定部をさらに備え、
前記決定部は、前記オブジェクト位置推定部によって推定された前記位置に基づいて、前記視覚効果を決定する、請求項1
から4のいずれか一項に記載の空間像表示装置。
【請求項6】
前記決定部は、前記位置が所定範囲内であるかに基づいて、前記視覚効果を決定する、請求項1から
5のいずれか一項に記載の空間像表示装置。
【請求項7】
前記位置は、前記虚像が表示される虚像面に対応する実空間上の面である基準面から、前記オブジェクトまでの所定方向の距離によって示され、
前記決定部は、前記距離に基づいて、前記複数の表示部に表示させる前記オブジェクト映像の輝度をそれぞれ変更するような前記視覚効果を決定する、請求項
5に記載の空間像表示装置。
【請求項8】
前記決定部は、前記虚像が表示される空間を画定する部材に照射される照射光を決定し、
前記表示制御部は、前記決定部によって決定された前記照射光を照射するよう照射装置を制御する、請求項1から
7のいずれか一項に記載の空間像表示装置。
【請求項9】
前記表示制御部は、マルチデバイス対応である、請求項1から
8のいずれか一項に記載の空間像表示装置。
【請求項10】
映像を表示する、複数の表示部と、前記複数の表示部に表示された前記映像から出射された映像光をそれぞれ反射させ、反射した前記映像光が観察者の眼に到達することによって、前記観察者から同じ方向の異なる距離に、前記映像の虚像が表示されるように配置されている、複数の光学素子とを備える空間像表示装置の空間像表示方法であって、
前記映像に像が含まれる特定の被写体であるオブジェクトの位置に基づいて、
前記複数の表示部の中から、前記虚像が表示される虚像面に対応する、実空間上の面である基準面から前記オブジェクトまでの距離が最も短い基準面に対応する虚像面に虚像を表示させる表示部を、前記オブジェクトの像を含む
オブジェクト映像を表示させる表示部に決定するとともに、前記オブジェクト映像が表示される前記表示部に対応する実空間上の面である基準面から、前記オブジェクトまでの距離に基づいて、前記オブジェクト映像に付加する視覚効果を決定するステップと、
前記オブジェクト映像及び前記視覚効果に基づいて前記映像を表示するよう前記表示部を制御するステップと、
を含む空間像表示方法。
【請求項11】
映像を表示する、複数の表示部と、前記複数の表示部に表示された前記映像から出射された映像光をそれぞれ反射させ、反射した前記映像光が観察者の眼に到達することによって、前記観察者から同じ方向の異なる距離に、前記映像の虚像が表示されるように配置されている、複数の光学素子とを備える空間像表示装置の空間像表示方法であって、
前記映像に像が含まれる特定の被写体であるオブジェクトの位置に基づいて、前記オブジェクトの像を含むオブジェクト映像に付加する視覚効果を決定するステップと、
前記オブジェクト映像及び前記視覚効果に基づいて前記映像を表示するよう前記表示部を制御するステップと、
を含み、
前記位置は、実空間における、所定の水平面から前記オブジェクトまでの高さで示され、
前記視覚効果を決定するステップは、前記高さに基づいて、前記視覚効果を決定する空間像表示方法。
【請求項12】
映像を表示する、複数の表示部と、前記複数の表示部に表示された前記映像から出射された映像光をそれぞれ反射させ、反射した前記映像光が観察者の眼に到達することによって、前記観察者から同じ方向の異なる距離に、前記映像の虚像が表示されるように配置されている、複数の光学素子とを備える空間像表示装置の空間像表示方法であって、
前記映像に像が含まれる特定の被写体であるオブジェクトの位置に基づいて、前記オブジェクトの像を含むオブジェクト映像に付加する視覚効果を決定するステップと、
前記オブジェクト映像及び前記視覚効果に基づいて前記映像を表示するよう前記表示部を制御するステップと、
を含み、
前記視覚効果を決定するステップは、前記位置の変化率に基づいて、前記視覚効果を決定する空間像表示方法。
【請求項13】
コンピュータを、請求項1から
9のいずれか一項に記載の決定部及び表示制御部として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、空間像表示装置、空間像表示方法、及びプログラムに関する。
【背景技術】
【0002】
表示装置に表示された映像から出射された光である映像光を反射させ、反射した映像光を観察者の眼に到達させることによって、空間中に虚像を表示する技術が知られている。
【0003】
また、観察者から同じ方向の異なる距離に複数の虚像を表示することによって、該複数の虚像により構成される空間像を表示することが知られている(特許文献1)。これにより、観察者はより高い立体感をもって空間像を観察することができる。また、複数の虚像の間の距離を短く設計することによって、さらに立体感を高くすることもできる。
【0004】
また、観察者から同じ方向の異なる距離に、輝度の異なる複数の映像を表示することによって立体像を提供することができる(特許文献2)。これにより、観察者には、映像が存在しない位置においても、立体像が構成されているかのように見え、この結果、高い立体感をもって映像を観察することができる。
【先行技術文献】
【特許文献】
【0005】
【文献】国際公開第2017/038091号
【文献】特開2009-237310号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、特許文献1に記載の技術において、複数の虚像は、それぞれ2次元の虚像面上に形成された虚像である。そのため、複数の虚像面が観察者から見て同じ方向の異なる距離に位置する構成において、観察者の観察方向に対応する方向にオブジェクト(例えば、スポーツの試合で用いられているボール)が移動すると、該オブジェクトの虚像は、一の時点で一の虚像面に表示され、他の時点で他の虚像面に表示されることがある。このような場合、観察者には、オブジェクトの虚像が一の虚像面から他の虚像面に瞬間的に移動したように観察され、実空間でのオブジェクトの移動と比べて不自然な移動に見える。そのため、観察者は、十分な臨場感を得ることができないことがある。
【0007】
また、移動するオブジェクトを示す映像について、特許文献2に記載の技術を適用して複数の虚像面それぞれに該オブジェクトの虚像を表示させると、観察者の位置によっては、複数の虚像の間に視差が発生して、十分な臨場感を得ることができないことがある。
【0008】
かかる事情に鑑みてなされた本開示の目的は、複数の虚像面にオブジェクトの虚像を表示させるにあたって観察者に十分な臨場感を与えることができる空間像表示装置、空間像表示方法、及びプログラムを提供することにある。
【課題を解決するための手段】
【0009】
上記課題を解決するため、本開示に係る空間像表示装置は、映像を表示する、複数の表示部と、前記複数の表示部に表示された前記映像から出射された映像光をそれぞれ反射させ、反射した前記映像光が観察者の眼に到達することによって、前記観察者から同じ方向の異なる距離に、前記映像の虚像が表示されるように配置されている、複数の光学素子と、前記映像に像が含まれる特定の被写体であるオブジェクトの位置に基づいて、前記オブジェクトの像を含むオブジェクト映像に付加する視覚効果を決定する決定部と、前記オブジェクト映像及び前記視覚効果に基づいて前記映像を表示するよう前記表示部を制御する表示制御部と、を備える。
【0010】
また、上記課題を解決するため、本開示に係る空間像表示方法は、映像を表示する、複数の表示部と、前記複数の表示部に表示された前記映像から出射された映像光をそれぞれ反射させ、反射した前記映像光が観察者の眼に到達することによって、前記観察者から同じ方向の異なる距離に、前記映像の虚像が表示されるように配置されている、複数の光学素子とを備える空間像表示装置の空間像表示方法であって、前記映像に像が含まれる特定の被写体であるオブジェクトの位置に基づいて、前記オブジェクトの像を含むオブジェクト映像に付加する視覚効果を決定するステップと、前記オブジェクト映像及び前記視覚効果に基づいて前記映像を表示するよう前記表示部を制御するステップと、を含む。
【0011】
また、上記課題を解決するため、本開示に係るプログラムは、コンピュータを上述した空間像表示装置として機能させる。
【発明の効果】
【0012】
本開示に係る空間像表示装置、空間像表示方法、及びプログラムによれば、複数の虚像面にオブジェクトの虚像を表示させるにあたって観察者に十分な臨場感を与えることができる。
【図面の簡単な説明】
【0013】
【
図1】第1の実施形態に係る空間像表示装置の概略図である。
【
図3】
図2に示す虚像表示部によって表示される虚像を説明するための図である。
【
図5】
図1に示す視覚効果記憶部に記憶されている視覚効果の一例を示す図である。
【
図6A】実空間におけるオブジェクトの位置の一例を示す図である。
【
図6B】
図6Aに示すオブジェクトの位置に基づいて表示される虚像の一例を示す図である。
【
図7A】実空間におけるオブジェクトの位置の他の例を示す図である。
【
図7B】
図7Aに示すオブジェクトの位置に基づいて表示される虚像の一例を示す図である。
【
図8A】実空間におけるオブジェクトの位置のさらなる他の例を示す図である。
【
図8B】
図8Aに示すオブジェクトの位置に基づいて表示される虚像の一例を示す図である。
【
図9】
図1に示す空間像表示装置における動作の一例を示すフローチャートである。
【
図10A】視覚効果の第1の変形例を示す図である。
【
図10B】
図10Aに示す視覚効果に基づいて表示される虚像の一例を示す図である。
【
図10C】
図10Aに示す視覚効果に基づいて表示される虚像の他の例を示す図である。
【
図11A】視覚効果の第2の変形例を示す図である。
【
図11B】
図11Aに示す視覚効果に基づいて表示される虚像の一例を示す図である。
【
図11C】
図11Aに示す視覚効果に基づいて表示される虚像の他の例を示す図である。
【
図12A】視覚効果の第3の変形例を示す図である。
【
図12B】
図12Aに示す視覚効果に基づいて表示される虚像の一例を示す図である。
【
図12C】
図12Aに示す視覚効果に基づいて表示される虚像の他の例を示す図である。
【
図13】第2の実施形態に係る空間像表示装置の概略図である。
【
図14】
図13に示す空間像表示装置における動作の一例を示すシーケンス図である。
【
図15】第3の実施形態に係る空間像表示装置の概略図である。
【
図16】
図15に示す空間像表示装置における動作の一例を示すシーケンス図である。
【
図17】空間像表示装置のハードウェアブロック図である。
【発明を実施するための形態】
【0014】
<<第1の実施形態>>
図1を参照して第1の実施形態の全体構成について説明する。
図1は、第1の実施形態に係る空間像表示装置1の概略図である。
【0015】
図1に示すように、第1の実施形態に係る空間像表示装置1は、虚像表示部2と、視覚効果決定部3とを備える。
【0016】
<虚像表示部の構成>
図2に示すように、虚像表示部2は、複数の表示部21と、複数の光学素子22とを備える。表示部21は、有機EL(Electro Luminescence)、液晶パネル等によって構成される。有機EL、液晶パネル等は、タブレット、VRゴーグル等のデバイスに取り付けられたものであってよい。光学素子22は、入射する光の一部を透過させ、該光の残りの一部を反射させる、例えば、ハーフミラーによって構成される。
図2に示す例では、虚像表示部2は、2つの複数の表示部211及び212と、2つの光学素子221及び222とを備えるが、これに限られず、3つ以上の表示部21及び3つ以上の光学素子22を備えてもよい。
【0017】
表示部21は、映像を表示する。具体的には、表示部21は、視覚効果決定部3の制御に基づいて、オブジェクト映像に基づく映像を表示する。オブジェクト映像は、カメラ等の撮像装置によって生成された映像の一部であって、オブジェクトOBの像を含む映像である。オブジェクトOBは、任意の被写体であるが、例えば、映像に含まれる、観察者によって注目され得る被写体とすることができる。撮像装置がテニスの試合を撮像することによって生成された映像においては、オブジェクトOBは、例えば、第1の選手PL1、該第1の選手PL1の対戦相手である第2の選手PL2、並びに第1の選手PL1及び第2の選手PL2が試合中に用いているボールBである。また、本例において、撮像装置は、該撮像装置の撮像面に対して、第1の選手PL1が手前側に、第2の選手PL2が奥側に位置するように配置されている。
【0018】
オブジェクト映像に基づく映像は、オブジェクト映像に、視覚効果決定部3によって決定された視覚効果が付加された映像を含む。オブジェクト映像に基づく映像は、オブジェクト映像に、視覚効果決定部3によって決定された視覚効果が付加されていない映像、すなわちオブジェクト映像そのものを含んでもよい。すなわち、表示部21は、オブジェクト映像に、視覚効果決定部3によって決定された視覚効果が付加された映像を表示する。また、表示部21は、オブジェクト映像に、視覚効果が付加されていない映像を表示してもよい。なお、オブジェクト映像に視覚効果が付加された映像とは、オブジェクト映像に加工が施された映像である。該映像は、追って詳細に説明するように、視覚効果の種類に応じてオブジェクト映像に加工が施されることによって生成される。
【0019】
上述したような、撮像装置がテニスの試合を撮像した映像を生成する例では、
図3に示すように、表示部211は、オブジェクトOBの1つである第1の選手PL1の像を含むオブジェクト映像IM1を表示する。表示部212は、オブジェクトOBの1つである第2の選手PL2の像を含むオブジェクト映像IM2を表示する。さらに、表示部212は、視覚効果決定部3の制御に基づいて、オブジェクトOBの1つであるボールBの映像含むオブジェクト映像IM3を表示することがある。このとき表示部211は、オブジェクト映像IM3を表示しなくてもよい。また、表示部211は、オブジェクト映像IM3を表示することがある。このとき表示部212は、オブジェクト映像IM3を表示しなくてもよい。
【0020】
光学素子221及び222は、複数の表示部211及び212に表示された映像から出射された映像光をそれぞれ反射させる。光学素子221及び222は、反射した映像光が観察者の眼に到達することによって、観察者から同じ方向の異なる距離に、映像の虚像VIが表示されるように配置されている。
図2及び
図3に示す例では、観察者から、一の虚像面VFである虚像面VF1までの距離と、観察者から、他の虚像面VFである虚像面VF2までの距離とは互いに異なる。さらに、観察者から虚像面VF1への方向と、観察者から虚像面VF2への方向とは同じであってもよく、このような構成では、観察者にとって、虚像面VF1は虚像面VF2より手前に位置する。虚像面VF1の位置は、表示部211及び光学素子221の位置に基づいて、公知の手法により算出することができ、虚像面VF1が所望の位置に配置されるように表示部211及び光学素子221が配置される。例えば、虚像面VF1は、光学素子221を挟んで表示部211の表示面と対称となる平面に位置するため、虚像面VF1を表示させる所望の位置に対して表示部211の表示面が対称となるよう光学素子221を配置してもよい。同様にして、虚像面VF2の位置は、表示部212及び光学素子222の位置に基づいて、公知の手法により算出することができ、虚像面VF2が所望の位置に配置されるように表示部212及び光学素子222が配置される。例えば、虚像面VF2は、光学素子222を挟んで表示部212の表示面と対称となる平面に位置するため、虚像面VF2を表示させる所望の位置に対して表示部212の表示面が対称となるよう光学素子222を配置してもよい。
【0021】
上述した、撮像装置がテニスの試合を撮像する例においては、光学素子221及び222は、虚像面VF1及び虚像面VF2が実物のコート上に位置するように配置される。具体的には、光学素子221は、虚像面VF1が実物のコート上における実物のネットより観察者に近い側に位置するように配置される。また、光学素子222は、虚像面VF2が実物のコート上における実物のネットより観察者から遠い側に位置するように配置される。このように、複数の表示部211及び表示部212、並びに光学素子221及び光学素子222を組み合わせることで、実物のコート、ネット等が配置された空間内に虚像を投影することができ、観察者が有する立体感を高めることができる。
【0022】
これによって、
図4に示すように、観察者は、自身にとって手前側に虚像面VF1に表示された虚像VI1を観察し、奥側に虚像面VF2に表示された虚像VI2を観察する。なお、
図4に示されている、虚像VIbは、虚像面VF1及び虚像面VF2のいずれかに表示される。虚像VIbが表示される虚像面VFについては追って詳細に説明する。したがって、観察者は、虚像VI1、虚像VI2、及び虚像VIbによって構成される空間像を観察する。このような虚像は、一般にペッパーズゴースト等と呼ばれ、観察者からはあたかも虚像面VF1及び虚像面VF2にそれぞれ表示部211及び表示部212があるように見える。
【0023】
<視覚効果決定部の構成>
図1に示すように、視覚効果決定部3は、通信部31と、視覚効果記憶部32と、決定部33と、表示制御部34とを備える。
【0024】
通信部31は、通信インターフェースによって構成される。通信インターフェースには、例えば、イーサネット(登録商標)、FDDI(Fiber Distributed Data Interface)、Wi-Fi(登録商標)等の規格が用いられてもよい。視覚効果記憶部32は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、EEPROM(Electrically Erasable Programmable Read-Only Memory)、ROM(Read-Only Memory)およびRAM(Random Access Memory)等のメモリによって構成される。決定部33及び表示制御部34は、制御部(コントローラ)を構成する。制御部は、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)等の専用のハードウェアによって構成されてもよいし、プロセッサによって構成されてもよいし、双方を含んで構成されてもよい。
【0025】
通信部31は、オブジェクト映像を示すオブジェクト映像情報、及びオブジェクトOBの位置を示すオブジェクト位置情報を外部の装置から受信する。オブジェクト映像は、特定の被写体であるオブジェクトOBの像を含む映像である。外部の装置は、オブジェクト映像情報及びオブジェクト位置情報を生成する映像処理装置であってもよいし、映像処理装置によって生成されたオブジェクト映像情報及びオブジェクト位置情報を取得した任意の装置であってもよい。
【0026】
一例として、オブジェクトOBの位置は、虚像が表示される虚像面VFに対応する、実空間上の面である基準面からオブジェクトOBまでの所定方向の距離によって示されてもよい。所定方向は、オブジェクトを撮像するカメラの撮像面の法線方向である。なお、カメラから所定方向に見た特定の被写体の位置関係と、観察者から見た特定の被写体の虚像の位置関係とは略同じである。また、上述した、撮像装置がテニスの試合を撮像する例においては、所定方向は、撮像装置から、手前側に位置する第1の選手PL1が存在する範囲の所定位置(例えば、中心位置)に向かう方向であって、撮像装置から、第2の選手PL2が存在する範囲の所定位置(例えば、中心位置)に向かう方向である。
【0027】
視覚効果記憶部32は、実空間における、オブジェクトOBの位置と、視覚効果とを対応付けて記憶している。視覚効果は、虚像表示部2がオブジェクト映像情報によって示されるオブジェクト映像の虚像VIを表示するにあたって、該オブジェクト映像に付される視覚的な効果である。
図5に示す例では、位置は、実空間における、基準面からオブジェクトOBまでの距離で示され、視覚効果記憶部32は、該距離と、視覚効果とを対応付けて記憶している。
【0028】
決定部33は、映像に像が含まれる特定の被写体であるオブジェクトOBの位置に基づいて、オブジェクトOBの像を含むオブジェクト映像に付加する視覚効果を決定する。オブジェクトOBの位置は、実空間におけるオブジェクトOBの位置であってもよいし、映像空間におけるオブジェクトOBの像の位置であってもよい。第1の実施形態では、決定部33は、通信部31によって受信されたオブジェクト映像情報に対応する、通信部31によって受信されたオブジェクト位置情報に基づいて、該映像情報が示すオブジェクト映像に付加する視覚効果を決定する。
【0029】
図5に示す例において、決定部33は、実空間における、基準面からオブジェクトOBまでの距離に基づいて視覚効果を決定する。具体的には、決定部33は、該距離に対応して、視覚効果記憶部32に記憶されている視覚効果を抽出する。そして、決定部33は、オブジェクト映像に付加する視覚効果を、抽出した視覚効果と決定する。
【0030】
また、オブジェクトOBの位置が、基準面からオブジェクトOBまでの距離で示される構成において、決定部33は、該距離に基づいて、複数の表示部21の中から、オブジェクト映像を表示させる表示部21を決定してもよい。一例として、決定部33は、オブジェクトOBを表示させる表示部21を、複数の基準面のうち、オブジェクトOBまでの距離が最も短い基準面に対応する虚像面VFに虚像VIを表示させる表示部21と決定する。
【0031】
表示制御部34は、オブジェクト映像に基づく映像を表示するよう複数の表示部21を制御する。表示制御部34が制御する虚像表示部2は可変であってよく、例えば、タブレットであってもよいし、その後、VRゴーグルに取り換えられてもよい。すなわち、表示制御部34は、マルチデバイス対応であってもよい。
【0032】
具体的には、表示制御部34は、オブジェクト映像に基づく映像に視覚効果を付加した映像を表示するよう表示部21を制御する。本実施形態では、表示制御部34は、通信部31によって受信されたオブジェクト映像情報が示す、オブジェクトOBのオブジェクト映像に、決定部33によって決定された視覚効果を付加した映像を表示するよう表示部21を制御する。このとき、決定部33が、距離に基づいて、複数の表示部21の中から、オブジェクト映像を表示させる構成において、表示制御部34は、決定部33によって決定された表示部21がオブジェクト映像に視覚効果を付した映像を表示するよう制御する。
図3に示す例では、表示制御部34は、オブジェクトOBであるボールBの像を含むオブジェクト映像IM3に視覚効果を付加した映像を表示するよう、決定部33によって決定された表示部21を制御する。
【0033】
また、表示制御部34は、オブジェクト映像情報が示す、所定のオブジェクトOBのオブジェクト映像を表示するよう所定の表示部21を制御してもよい。
図3に示す例では、表示制御部34は、所定のオブジェクトOBである第1の選手PL1の像を含むオブジェクト映像IM1を表示するよう表示部211を制御する。また、表示制御部34は、所定のオブジェクトOBである第2の選手PL2の像を含むオブジェクト映像IM2を表示するよう表示部212を制御する。
【0034】
ここで、
図5に示す例における、決定部33及び表示制御部34の処理の一例について詳細に説明する。
【0035】
図6Aに示す例では、オブジェクト映像は、第1の選手PL1、第2の選手PL2、及びボールBそれぞれの像を含んでいる。また、実空間において、第1の基準面S1と、第2の基準面S2との間の距離は9である。また、実空間において、オブジェクトの1つであるボールBは、第1の基準面S1と第2の基準面S2との間に位置し、第1の基準面S1とボールBとの間の距離が8.2である。
【0036】
上述したように、決定部33は、オブジェクトOBを表示させる表示部21を、オブジェクトOBまでの距離が最も短い基準面に対応する虚像面VFに虚像VIを表示させる表示部21と決定する。本例では、第1の基準面S1からボールBまでの距離は8.2であり、第2の基準面S2からボールBまでの距離は0.8である。このため、決定部33は、ボールBの虚像VIbを表示させる表示部21を、ボールBまでの距離が最も短い第2の基準面S2に対応する虚像面VF2(
図3参照)に虚像VI2を表示する表示部212と決定する。
【0037】
そして、決定部33は、第2の基準面S2からオブジェクトOBであるボールBまでの距離0.8に対応して、視覚効果記憶部32に記憶されている視覚効果である「なし」をオブジェクトOBに付加する視覚効果と決定する。
【0038】
表示制御部34は、視覚効果を付さずにオブジェクトOBであるボールBの像を含むオブジェクト映像IM3を表示するよう表示部212を制御する。さらに、表示制御部34は、所定のオブジェクトOBである第1の選手PL1の像を含むオブジェクト映像IM1を表示するよう表示部211を制御する。また、表示制御部34は、所定のオブジェクトOBである第2の選手PL2の像を含むオブジェクト映像IM2を表示するよう表示部212を制御する。これにより、観察者は、
図6Bに示すように、手前側に第1の選手PL1の虚像VI1を観察し、奥側に第2の選手PL2の虚像VI2とボールBの虚像VIbを観察する。したがって、観察者は、第1の選手PL1の虚像VI1、第2の選手PL2の虚像VI2、及びボールBの虚像VIbを、実空間におけるそれぞれのオブジェクトOBの位置関係に類似した位置関係で観察することができる。
【0039】
図7Aに示す例では、
図6Aに示す例と同様に、オブジェクト映像は、第1の選手PL1、第2の選手PL2、及びボールBそれぞれの像を含んでいる。また、実空間において、第1の基準面S1と、第2の基準面S2との間の距離は9である。また、実空間において、オブジェクトの1つであるボールBは、第1の基準面S1と第2の基準面S2との間に位置し、
図6Aに示す例と異なり、第1の基準面S1とボールBとの間の距離が7である。
【0040】
本例では、第1の基準面S1からボールBまでの距離は7であり、第2の基準面S2からボールBまでの距離は2である。このため、決定部33は、ボールBまでの距離が最も短い第2の基準面S2に対応する虚像面VF2に虚像VIを表示する表示部212を、ボールBの像を含むオブジェクト映像を表示させる表示部21と決定する。
【0041】
そして、決定部33は、第2の基準面S2からオブジェクトOBであるボールBまでの距離2に対応して、視覚効果記憶部32に記憶されている視覚効果である「拡大/縮小」をオブジェクトOBに付加する視覚効果と決定する。一例として、決定部33は、ボールBと第2の基準面S2との距離が短くなるほど、ボールBの像を含むオブジェクト映像を縮小し、距離が長くなるほど、ボールBの像を含むオブジェクト映像を拡大するような視覚効果を付加するよう決定する。なお、決定部33が、第1の基準面S1に虚像を表示する表示部211を、ボールBの像を含むオブジェクト映像を表示させる表示部21と決定し、ボールBと第1の基準面S1との距離が所定範囲内であった場合、ボールBと第1の基準面S1との距離が短くなるほど、オブジェクト映像を拡大し、距離が長くなるほど、オブジェクト映像を縮小するような視覚効果を付加するよう決定してもよい。
【0042】
これに伴い、表示制御部34は、ボールBの映像を拡大又は縮小させる視覚効果を付加した映像を表示するよう表示部212を制御する。拡大又は縮小させる視覚効果とは、例えば、ボールBが第1の選手PL1に近づくほどボールBの映像を拡大させ、ボールBが第1の選手PL1から遠ざかるほどボールBの映像を縮小させるような視覚効果とすることができる。さらに、表示制御部34は、所定のオブジェクトOBである第1の選手PL1の像を含むオブジェクト映像IM1を表示するよう表示部211を制御し、所定のオブジェクトOBである第2の選手PL2の像を含むオブジェクト映像IM2を表示するよう表示部212を制御する。これにより、観察者は、
図7Bに示すように、手前側に第1の選手PL1の虚像VI1を観察し、奥側に第2の選手PL2の虚像VI2とボールBの虚像VIbを観察する。したがって、観察者は、第1の選手PL1、第2の選手PL2、及びボールBの虚像を、実空間におけるそれぞれの位置関係に類似した位置関係で観察することができる。さらに、虚像表示部2は、距離の変化に応じてボールBの像を小さくしたり大きくしたりするため、観察者は、実空間におけるボールの移動をより臨場感をもって認識することができる。
【0043】
図8Aに示す例では、
図6A及び
図7Aに示す例と同様に、オブジェクト映像は、第1の選手PL1、第2の選手PL2、及びボールBそれぞれの像を含んでいる。また、実空間において、第1の基準面S1と、第2の基準面S2との間の距離は9である。また、実空間において、オブジェクトの1つであるボールBは、第1の基準面S1と第2の基準面S2との間に位置し、
図6A及び
図7Aに示す例と異なり、第1の基準面S1とボールBとの間の距離が5である。
【0044】
本例では、第1の基準面S1からボールBまでの距離は5であり、第2の基準面S2からボールBまでの距離は4である。このため、決定部33は、ボールBの像を含むオブジェクト映像を表示させる表示部21を、オブジェクトOBであるボールBまでの距離が最も短い第2の基準面S2に対応する虚像面VF2に虚像を表示する表示部212と決定する。
【0045】
そして、決定部33は、第2の基準面S2からボールBまでの距離2に対応して、視覚効果記憶部32に記憶されている視覚効果である「フラッシュ光」をオブジェクトOBに付加する視覚効果と決定する。
【0046】
これに伴い、表示制御部34は、ボールBの映像がフラッシュ光のように明るく見えるような視覚効果(
図8Bの網掛け部分)を付加してボールBの像を含むオブジェクト映像を表示するよう表示部212を制御する。さらに、表示制御部34は、所定のオブジェクトOBである第1の選手PL1の像を含むオブジェクト映像IM1を表示するよう表示部211を制御し、所定のオブジェクトOBである第2の選手PL2の像を含むオブジェクト映像IM2を表示するよう表示部212を制御する。これにより、観察者は、
図8Bに示すように、手前側に第1の選手PL1の虚像VI1を観察し、奥側に第2の選手PL2の虚像VI2とボールBの虚像VIbを観察する。したがって、観察者は、第1の選手PL1、第2の選手PL2、及びボールBの虚像を、実空間におけるそれぞれの位置関係に類似した位置関係で観察することができる。さらに、観察者は、フラッシュ光による視覚効果が付加されたボールBの像を観察することにより、ボールBが近付いていることをより強く認識することができる。
【0047】
<空間像表示装置の動作>
ここで、第1の実施形態に係る空間像表示装置1の動作について、
図9を参照して説明する。
図9は、第1の実施形態に係る空間像表示装置1の動作の一例を示すフローチャートである。
図9を参照して説明する空間像表示装置1における動作は第1の実施形態に係る空間像表示装置1の空間像表示方法の一例に相当する。
【0048】
ステップS11において、通信部31が、通信ネットワークを介して、外部の装置からオブジェクト映像情報及びオブジェクト位置情報を受信する。
【0049】
ステップS12において、決定部33が、映像に像が含まれる特定の被写体であるオブジェクトに対応するオブジェクトの位置に基づいて、オブジェクト映像情報に含まれるオブジェクトの像であるオブジェクト映像に付加する視覚効果を決定する。
【0050】
ステップS13において、表示制御部34は、複数の表示部21の中から、オブジェクトOBの像を含むオブジェクト映像を表示させる表示部21を決定する。
【0051】
ステップS14において、表示制御部34は、オブジェクト映像及び前記視覚効果に基づいて前記映像を表示するよう表示部21を制御する。具体的には、表示制御部34は、オブジェクト映像情報が示す、オブジェクトOBのオブジェクト映像に、決定部33によって決定された視覚効果を付加した映像を表示するよう、ステップS13で決定された表示部21を制御する。さらに、表示制御部34は、オブジェクト映像情報が示す、所定のオブジェクトOBのオブジェクト映像を表示するよう所定の表示部21を制御してもよい。
【0052】
ステップS15において、表示部21は、表示制御部34の制御に基づいて、オブジェクト映像を表示する。具体的には、表示部21は、オブジェクト映像情報が示す、オブジェクトOBのオブジェクト映像に、決定部33によって決定された視覚効果を付加した映像を表示する。なお、このとき、表示部21は、所定のオブジェクトのオブジェクト映像を表示してもよい。
【0053】
上述したように、第1の実施形態によれば、空間像表示装置1は、映像に像が含まれる特定の被写体であるオブジェクトの位置に基づいて、オブジェクトOBの像を含むオブジェクト映像に付加する視覚効果を決定し、オブジェクト映像及び前記視覚効果に基づいて映像を表示するよう表示部21を制御する。このため、空間像表示装置1は、複数の虚像面VFにオブジェクトの虚像を表示することができる。このため、空間像表示装置1は、複数の虚像面VFにおける虚像よって構成される空間像を観察する観察者に十分な臨場感を与えることができる。
【0054】
また、第1の実施形態によれば、空間像表示装置1は、オブジェクト映像を示すオブジェクト映像情報、及びオブジェクトOBの位置を示すオブジェクト位置情報を受信し、オブジェクト位置情報が示す位置に基づいて、オブジェクト映像情報が示すオブジェクト映像に付加する視覚効果を決定する。このため、空間像表示装置1は、映像に含まれるオブジェクト映像に視覚効果を付した虚像を、オブジェクトOBが撮像される場所の遠隔にて表示することができる。
【0055】
また、第1の実施形態によれば、空間像表示装置1は、該距離に基づいて、オブジェクト映像の輝度をそれぞれ変更するような視覚効果を決定する。このため、空間像表示装置1は、オブジェクトOBの位置を観察者に直感的に認識させるように、移動するオブジェクトOBの虚像VIを複数の虚像面VFに表示させることができ、これにより、虚像によって構成される立体像を観察する観察者により臨場感を与えることができる。
【0056】
また、第1の実施形態によれば、空間像表示装置1は、距離に基づいて、複数の表示部21の中から、オブジェクト映像に基づく映像を表示させる表示部21を決定し、決定部33によって決定された表示部21がオブジェクト映像に視覚効果を付した映像を表示するよう制御する。このため、空間像表示装置1は、オブジェクトOBの位置を観察者に直感的に認識させるように、移動するオブジェクトOBの虚像VIを複数の虚像面VFに表示させることができ、これにより、虚像によって構成される立体像を観察する観察者により臨場感を与えることができる。
【0057】
なお、上述した第1の実施形態において、空間像表示装置1は、虚像表示部2を備えるが、この限りではない。例えば、空間像表示装置1は、虚像表示部2を備えず、外部の虚像表示装置がオブジェクト映像を表示するよう制御してもよい。このような構成において、空間像表示装置1は、上述したフローチャートのステップS15を実行しない。
【0058】
(第1の変形例)
また、上述の実施形態において、オブジェクトOBの位置は、実空間における、基準面からオブジェクトOBまでの距離によって示されたが、これに限られない。例えば、オブジェクトOBの位置は、実空間における、所定の水平面(例えば、地平面)からオブジェクトOBまでの高さで示されてもよい。
【0059】
このような構成において、視覚効果記憶部32は、
図10Aに示すように、高さと、視覚効果とを対応付けて記憶している。決定部33は、高さに基づいて、視覚効果を決定する。さらに、表示制御部34は、オブジェクト映像に、決定部33によって決定された視覚効果を付加した映像を表示するよう表示部21を制御する。
【0060】
本例では、高さが1.5である場合、決定部33は、視覚効果「なし」(
図10A参照)と決定する。そして、表示制御部34は、オブジェクト映像に視覚効果を付さずに表示するよう表示部21を制御する。これにより、観察者は、
図10Bに示すような虚像VI1、VI2、及びVIbによって構成される空間像を観察することができる。
【0061】
また、高さが2.5である場合、決定部33は、視覚効果「50%の透過度」(
図10A参照)と決定し、決定部33は、オブジェクト映像の透過度を50%に変更して表示するよう表示部21を制御する。これにより、観察者は、
図10Cに示すような虚像VI1及びVI2、並びに50%の透過度とする視覚効果が付されたオブジェクト映像の虚像VIbによって構成される空間像を観察することができる。
【0062】
また、高さが3以上である場合、決定部33は、視覚効果「80%の透過度」(
図10A参照)と決定し、決定部33は、オブジェクト映像の透過度を80%に変更して表示するよう表示部21を制御する。
【0063】
(第2の変形例)
上述した実施形態において、決定部33は、オブジェクトOBの位置に基づいて、視覚効果を決定したが、このとき、決定部33は、映像における、オブジェクトOBの像の位置の変化率に基づいて、視覚効果を決定してもよい。位置の変化率は、例えば、映像を構成する単位数フレームにおけるオブジェクトOBの像の位置の変化とすることができる。
【0064】
このような構成において、視覚効果記憶部32は、
図11Aに示すように、位置の変化率と、視覚効果とを対応付けて記憶している。また、表示制御部34は、オブジェクト映像に、決定部33によって決定された視覚効果を付加した映像を表示するよう表示部21を制御する。
【0065】
本例では、位置の変化率が閾値未満である場合、決定部33は、視覚効果を「なし」(
図11A参照)と決定する。そして、表示制御部34は、オブジェクト映像に視覚効果を付さずに表示するよう表示部21を制御する。これにより、観察者は、
図11Bに示すような虚像VI1、VI2、及びVIbによって構成される空間像を観察することができる。
【0066】
また、位置の変化率が閾値以上である場合、決定部33は、視覚効果を「複数フレームを重ねる」(
図11A参照)と決定する。そして、表示制御部34は、複数フレームのオブジェクト映像を重ねて表示する視覚効果を付した映像を表示するよう表示部21を制御する。これにより、観察者は、
図11Cに示すような虚像VI1及びVI2、並びに複数フレームのオブジェクト映像を重ねて表示された映像の虚像VIbによって構成される空間像を観察することができる。
【0067】
また、位置の変化率が判定不能である場合、決定部33は、視覚効果「50%の透過度」と決定する。そして、表示制御部34は、オブジェクト映像の透過度を50%に変更して表示するよう表示部21を制御する。
【0068】
(第3の変形例)
また、決定部33は、オブジェクトOBの位置が所定範囲内であるか否かに基づいて、オブジェクト映像に付加する視覚効果を決定してもよい。
【0069】
例えば、視覚効果記憶部32は、
図12Aに示すように、オブジェクトOBの位置が所定範囲内であるか否かと、視覚効果とを対応付けて記憶している。
図12Aに示す例では、テニスの試合で用いられるコートのライン内及びライン上が所定範囲内(IN)であり、ライン外が所定範囲外(OUT)である。また、表示制御部34は、オブジェクト映像に、決定部33によって決定された視覚効果を付加した映像を表示するよう表示部21を制御する。
【0070】
本例では、実空間におけるオブジェクトOBの位置が所定範囲内である場合、決定部33は、視覚効果「なし」と決定する。そして、表示制御部34は、オブジェクト映像に視覚効果を付さずに表示するよう虚像表示部2を制御する。これにより、観察者は、
図12Bに示すような虚像VI1、VI2、及びVIbによって構成される空間像を観察することができる。
【0071】
また、実空間におけるオブジェクトOBの位置が所定範囲外である場合、決定部33は、視覚効果「フラッシュ光」と決定する。そして、表示制御部34は、オブジェクトOBの像がフラッシュ光のように明るく見えるような視覚効果を付加してオブジェクトOBを表示するよう虚像表示部2を制御する。これにより、観察者は、
図12Cに示すような虚像VI1及びVI2、並びにフラッシュ光のように明るく見えるような視覚効果が付加された映像の虚像VIbによって構成される空間像を観察することができる。
【0072】
また、実空間におけるオブジェクトOBの位置が所定範囲内であるか否かが不明である場合、決定部33は、視覚効果「50%の透過度」と決定する。そして、表示制御部34は、オブジェクト映像の透過度を50%に変更して表示するよう虚像表示部2を制御する。
【0073】
なお、第3の変形例において、決定部33は、実空間におけるオブジェクトOBの位置が所定範囲内であるか否かに基づいて視覚効果を決定したが、決定部33は、映像空間におけるオブジェクトOBの像が所定範囲内であるか否かに基づいて視覚効果を決定してもよい。
【0074】
(第4の変形例)
また、上述の実施形態において、決定部33は、オブジェクトOBの位置に基づいて、オブジェクト映像を表示させる表示部21を決定したが、これに限られない。例えば、決定部33は、複数の表示部21それぞれにオブジェクト映像を表示させると決定してもよい。このような構成において、位置は、像が表示される虚像面に対応する、実空間上の面である基準面からオブジェクトまでの所定方向の距離で示され、決定部33は、距離に基づいて、複数の表示部21に表示させるオブジェクト映像の輝度をそれぞれ変更するような視覚効果を決定する。具体的には、決定部33は、観察者がより高い立体感を有しながら空間像を観察することができるように、オブジェクトOBの位置に応じて、各表示部21に表示させるオブジェクト映像の輝度を表示部21ごとに変更する。
【0075】
(第5の変形例)
また、上述の実施形態において、決定部33は、虚像が表示される空間を画定する部材に照射される照射光をさらに決定してもよい。虚像が表示される空間を画定する部材は、例えば、床、壁、柱とすることができる。照射光は、可視光であり、例えば、決定部33は、可視光の色、強度等を決定してもよいし、照射位置に応じて可視光によって形成されるプロジェクション映像を決定してもよい。このような構成において、表示制御部34は、決定部33によって決定された照射光を照射するよう照射装置を制御する。照射装置は、照明装置、プロジェクション投影装置等とすることができる。
【0076】
例えば、上述したような、テニスの試合が撮像された映像の例において、決定部33は、ボールBがコート上のライン外に位置した場合に、ボールBがコート上のライン外に位置する前までに比べて、実物のコートに対して強度の高い白色光を照射すると決定する。そして、表示制御部34は、コート上に白色光を照射するよう照射装置を制御する。このような例において、観察者は、例えば、実体のボールBの移動速度が速いことに起因して、ボールBがコート上のライン内又はライン上に位置したか、ボールBがコート上のライン外に位置したかを明確に知覚することができない場合も、白色光の照射によって、瞬時にボールBが位置したコート上の範囲を認識することができる。したがって、観察者は、タイミングを逃さずに試合の内容を把握することができる。
【0077】
<<第2の実施形態>>
図13を参照して第2の実施形態の全体構成について説明する。
図13は、第2の実施形態に係る空間像表示装置1-1の概略図である。第2の実施形態において、第1の実施形態と同一の機能部については同じ符号を付加し、説明を省略する。
【0078】
図13に示すように、第2の実施形態に係る空間像表示装置1-1は、虚像表示部2と、視覚効果決定部3-1と、映像処理部4-1とを備える。
【0079】
<映像処理部の構成>
映像処理部4-1は、入力部41と、オブジェクト抽出部42とを備える。入力部41は、情報の入力を受け付ける入力インターフェースによって構成される。オブジェクト抽出部42は、制御部を構成する。
【0080】
入力部41は、撮像装置によって生成された映像を示す映像情報の入力を受け付ける。
【0081】
オブジェクト抽出部42は、入力部41によって入力が受け付けられた映像情報から、オブジェクトOBの映像を抽出する。オブジェクト抽出部42がオブジェクト映像を抽出する手法は、任意の手法であってよい。
【0082】
<視覚効果決定部の構成>
図1に示すように、視覚効果決定部3-1は、通信部31-1と、視覚効果記憶部32と、決定部33-1と、表示制御部34とを備える。
【0083】
通信部31-1は、オブジェクト位置情報を受信する。具体的には、通信ネットワークを介して、外部の装置から、オブジェクト位置情報を受信する。
【0084】
決定部33-1は、オブジェクトOBの位置に基づいて、オブジェクトOBの像を含むオブジェクト映像に付加する視覚効果を決定する。具体的には、決定部33-1は、通信部31-1によって受信されたオブジェクト位置情報が示すオブジェクトOBの位置に基づいて、オブジェクト抽出部42によって抽出されたオブジェクト映像に付加する視覚効果を決定する。決定部33-1が視覚効果を決定する具体的な方法は、上述した、第1の実施形態における決定部33が視覚効果を決定する具体的な方法と同様である。
【0085】
<空間像表示装置の動作>
ここで、第2の実施形態に係る空間像表示装置1-1の動作について、
図14を参照して説明する。
図14は、第2の実施形態に係る空間像表示装置1-1の動作の一例を示すフローチャートである。
図14を参照して説明する空間像表示装置1-1における動作は第2の実施形態に係る空間像表示装置1-1の空間像表示方法の一例に相当する。
【0086】
ステップS21において、入力部41が、撮像装置によって生成された映像を示す映像情報の入力を受け付ける。
【0087】
ステップS22において、オブジェクト抽出部42が、映像情報から、オブジェクトOBの像を含むオブジェクト映像を示すオブジェクト映像情報を抽出する。
【0088】
ステップS23において、通信部31-1が、通信ネットワークを介して、外部の装置からオブジェクト位置情報を受信する。
【0089】
続いて、空間像表示装置1-1は、ステップS24からステップS27までの処理を実行する。ステップS25からステップS28までの処理は、第1の実施形態におけるステップS12からステップS15までの処理と同じである。
【0090】
なお、第2の実施形態において、視覚効果決定部3-1と映像処理部4-1とは別体として構成されてもよい。このような構成において、映像処理部4-1は、通信インターフェースによって構成される通信部を有し、該通信部は、オブジェクト抽出部42によって抽出されたオブジェクト映像を示すオブジェクト映像情報を視覚効果決定部3-1の通信部31-1に送信する。
【0091】
また、上述した第1の実施形態の第1から第5の変形例を第2の実施形態に適用してもよい。
【0092】
<<第3の実施形態>>
図15を参照して第3の実施形態の全体構成について説明する。
図15は、第3の実施形態に係る空間像表示装置1-2の概略図である。第2の実施形態と同一の機能部については同じ符号を付加し、説明を省略する。
【0093】
図15に示すように、第2の実施形態に係る空間像表示装置1-2は、虚像表示部2と、視覚効果決定部3-2と、映像処理部4-2とを備える。
【0094】
<映像処理部の構成>
映像処理部4-2は、入力部41と、オブジェクト抽出部42と、オブジェクト位置推定部43とを備える。
【0095】
オブジェクト位置推定部43は、オブジェクトOBの位置を推定する。オブジェクト位置推定部43がオブジェクトOBの位置を推定する手法は、任意の手法であってよい。例えば、オブジェクト位置推定部43は、入力部41によって入力された映像情報に基づいて、オブジェクトOBの位置を示す、ディープラーニングを用いて、実空間における基準面からオブジェクトOBまでの距離を推定してもよい。
【0096】
<視覚効果決定部の構成>
図15に示すように、視覚効果決定部3-2は、視覚効果記憶部32と、決定部33-2と、表示制御部34とを備える。
【0097】
決定部33-2は、オブジェクトOBの位置に基づいて、オブジェクトOBの像を含むオブジェクト映像に付加する視覚効果を決定する。具体的には、決定部33-2は、オブジェクト位置推定部43によって推定された位置に基づいて、オブジェクト抽出部42によって抽出されたオブジェクト映像に付加する視覚効果を決定する。決定部33-2が視覚効果を決定する具体的な方法は、上述した、第1の実施形態における決定部33が視覚効果を決定する具体的な方法と同様である。
【0098】
<空間像表示装置の動作>
ここで、第3の実施形態に係る空間像表示装置1-2の動作について、
図16を参照して説明する。
図16は、第3の実施形態に係る空間像表示装置1-2の動作の一例を示すシーケンス図である。
図16を参照して説明する空間像表示装置1-2における動作は、第3の実施形態に係る空間像表示装置1-2の空間像表示方法の一例に相当する。
【0099】
ステップS31において、入力部41が、カメラ等の撮像装置によって生成された映像を示す映像情報の入力を受け付ける。
【0100】
ステップS32において、オブジェクト抽出部42が、映像情報から、オブジェクトOBの映像を示すオブジェクト映像情報を抽出する。
【0101】
ステップS33において、オブジェクト位置推定部43が、オブジェクトOBの位置を示すオブジェクト位置を推定する。
【0102】
続いて、空間像表示装置1-2は、ステップS34からステップS37までの処理を実行する。ステップS34からステップS37までの処理は、第1の実施形態におけるステップS12からステップS15までの処理と同じである。
【0103】
なお、上述した第1の実施形態の第1から第5の変形例を第3の実施形態に適用してもよい。第1の変形例を適用する構成において、オブジェクト位置推定部43は、オブジェクトOBの位置を示す、実空間における、所定の水平面からオブジェクトOBまでの高さを推定する。また、第2の変形例を適用する構成において、オブジェクト位置推定部43は、映像における、オブジェクトOBの像の位置の変化率を推定する。第3の変形例を適用する構成において、オブジェクト推定部44は、実空間における、オジェクトOBの位置が所定範囲内であるか否かを推定する。
【0104】
<プログラム>
上述した決定部33、33-1、33-2、及び表示制御部34は、コンピュータ100によって実現することができる。また、決定部33、33-1、33-2、及び表示制御部34として機能させるためのプログラムが提供されてもよい。また、該プログラムは、格納媒体に格納されてもよいし、ネットワークを通して提供されてもよい。
図17は、決定部33、33-1、33-2、及び表示制御部34としてそれぞれ機能するコンピュータ100の概略構成を示すブロック図である。ここで、コンピュータ100は、汎用コンピュータ、専用コンピュータ、ワークステーション、PC(Personal Computer)、電子ノートパッドなどであってもよい。プログラム命令は、必要なタスクを実行するためのプログラムコード、コードセグメントなどであってもよい。
【0105】
図17に示すように、コンピュータ100は、プロセッサ110と、ROM(Read Only Memory)120と、RAM(Random Access Memory)130と、ストレージ140と、入力部150と、表示部160と、通信インターフェース(I/F)170とを備える。各構成は、バス180を介して相互に通信可能に接続されている。プロセッサ110は、具体的にはCPU(Central Processing Unit)、MPU(Micro Processing Unit)、GPU(Graphics Processing Unit)、DSP(Digital Signal Processor)、SoC(System on a Chip)などであり、同種又は異種の複数のプロセッサにより構成されてもよい。
【0106】
プロセッサ110は、各構成の制御、及び各種の演算処理を実行する。すなわち、プロセッサ110は、ROM120又はストレージ140からプログラムを読み出し、RAM130を作業領域としてプログラムを実行する。プロセッサ110は、ROM120又はストレージ140に格納されているプログラムに従って、上記各構成の制御及び各種の演算処理を行う。上述した実施形態では、ROM120又はストレージ140に、本開示に係るプログラムが格納されている。
【0107】
プログラムは、コンピュータ100が読み取り可能な格納媒体に格納されていてもよい。このような格納媒体を用いれば、プログラムをコンピュータ100にインストールすることが可能である。ここで、プログラムが格納された格納媒体は、非一時的(non-transitory)格納媒体であってもよい。非一時的格納媒体は、特に限定されるものではないが、例えば、CD-ROM、DVD-ROM、USB(Universal Serial Bus)メモリなどであってもよい。また、このプログラムは、ネットワークを介して外部装置からダウンロードされる形態としてもよい。
【0108】
ROM120は、各種プログラム及び各種データを格納する。RAM130は、作業領域として一時的にプログラム又はデータを格納する。ストレージ140は、HDD(Hard Disk Drive)又はSSD(Solid State Drive)により構成され、オペレーティングシステムを含む各種プログラム及び各種データを格納する。
【0109】
入力部150は、ユーザの入力操作を受け付けて、ユーザの操作に基づく情報を取得する1つ以上の入力インターフェースを含む。例えば、入力部150は、ポインティングデバイス、キーボード、マウスなどであるが、これらに限定されない。
【0110】
表示部160は、情報を出力する1つ以上の出力インターフェースを含む。例えば、表示部160は、情報を映像で出力するディスプレイ、又は情報を音声で出力するスピーカであるが、これらに限定されない。なお、表示部160は、タッチパネル方式のディスプレイである場合には、入力部150としても機能する。
【0111】
通信インターフェース(I/F)170は、外部の装置と通信するためのインターフェースである。
【0112】
以上の実施形態に関し、更に以下の付記を開示する。
【0113】
(付記項1)
映像を表示する、複数の表示部と、
前記複数の表示部に表示された前記映像から出射された映像光をそれぞれ反射させ、反射した前記映像光が観察者の眼に到達することによって、前記観察者から同じ方向の異なる距離に、前記映像の虚像が表示されるように配置されている、複数の光学素子と、
制御部と、を備え、
前記制御部は、
前記映像に像が含まれる特定の被写体であるオブジェクトの位置に基づいて、前記オブジェクトの像を含むオブジェクト映像に付加する視覚効果を決定し、
前記オブジェクト映像及び前記視覚効果に基づいて前記映像を表示するよう前記表示部を制御する、空間像表示装置。
(付記項2)
前記オブジェクト映像を示すオブジェクト映像情報、及び前記オブジェクトの位置を示すオブジェクト位置情報を受信する通信部をさらに備え、
前記制御部は、前記オブジェクト位置情報が示す前記位置に基づいて、前記オブジェクト映像情報が示す前記オブジェクト映像に付加する前記視覚効果を決定する、付記項1に記載の空間像表示装置。
(付記項3)
前記制御部は、
前記オブジェクトの位置を推定し、
該位置に基づいて、前記視覚効果を決定する、付記項1又は2に記載の空間像表示装置。
(付記項4)
前記位置は、前記虚像が表示される虚像面に対応する、実空間上の面である基準面から前記オブジェクトまでの距離で示され、
前記制御部は、
前記距離に基づいて、前記複数の表示部の中から、前記オブジェクト映像を表示させる表示部を決定し、
前記決定部によって決定された前記表示部が前記オブジェクト映像に前記視覚効果を付した映像を表示するよう制御する、付記項1から3のいずれか一項に記載の空間像表示装置。
(付記項5)
前記位置は、実空間における、所定の水平面から前記オブジェクトまでの高さで示され、
前記制御部は、前記高さに基づいて、前記視覚効果を決定する、付記項1から4のいずれか一項に記載の空間像表示装置。
(付記項6)
前記制御部は、前記位置の変化率に基づいて、前記視覚効果を決定する、付記項1から5のいずれか一項に記載の空間像表示装置。
(付記項7)
前記制御部は、前記位置が所定範囲内であるかに基づいて、前記視覚効果を決定する、付記項1から6のいずれか一項に記載の空間像表示装置。
(付記項8)
前記位置は、前記虚像が表示される虚像面に対応する、実空間上の面である基準面から前記オブジェクトまでの所定方向の距離で示され、
前記制御部は、前記距離に基づいて、前記複数の表示部に表示させる前記オブジェクト映像の輝度をそれぞれ変更するような前記視覚効果を決定する、付記項3に記載の空間像表示装置。
(付記項9)
前記制御部は、
前記虚像が表示される空間を画定する部材に照射される照射光を決定し、
前記決定された前記照射光を照射するよう照射装置を制御する、付記項1から8のいずれか一項に記載の空間像表示装置。
(付記項10)
前記制御部は、マルチデバイス対応である、付記項1から9のいずれか一項に記載の空間像表示装置。
(付記項11)
映像を表示する、複数の表示部と、前記複数の表示部に表示された前記映像から出射された映像光をそれぞれ反射させ、反射した前記映像光が観察者の眼に到達することによって、前記観察者から同じ方向の異なる距離に、前記映像の虚像が表示されるように配置されている、複数の光学素子とを備える空間像表示装置の空間像表示方法であって、
前記映像に像が含まれる特定の被写体であるオブジェクトの位置に基づいて、前記オブジェクトの像を含むオブジェクト映像に付加する視覚効果を決定するステップと、
前記オブジェクト映像及び前記視覚効果に基づいて前記映像を表示するよう前記複数の表示部を制御するステップと、
を含む空間像表示方法。
(付記項12)
コンピュータによって実行可能なプログラムを格納した非一時的格納媒体であって、前記コンピュータを付記項1から10のいずれか一項に記載の決定部及び表示制御部として機能させる、プログラムを格納した非一時的格納媒体。
【0114】
本明細書に記載された全ての文献、特許出願および技術規格は、個々の文献、特許出願、および技術規格が参照により取り込まれることが具体的かつ個々に記載された場合と同程度に、本明細書中に参照により取り込まれる。
【0115】
上述の実施形態は代表的な例として説明したが、本開示の趣旨及び範囲内で、多くの変更及び置換ができることは当業者に明らかである。したがって、本発明は、上述の実施形態によって制限するものと解するべきではなく、請求の範囲から逸脱することなく、種々の変形又は変更が可能である。例えば、実施形態の構成図に記載の複数の構成ブロックを1つに組み合わせたり、あるいは1つの構成ブロックを分割したりすることが可能である。
【符号の説明】
【0116】
1、1-1、1-2 空間像表示装置
2 虚像表示部
3、3-1、3-2 視覚効果決定部
4-1、4-2 映像処理部
21、211、212 表示部
22、221、222 光学素子
31、31-1 通信部
32 視覚効果記憶部
33、33-1、33-2 決定部
34 表示制御部
41 入力部
42 オブジェクト抽出部
43 オブジェクト位置推定部
100 コンピュータ
110 プロセッサ
120 ROM
130 RAM
140 ストレージ
150 入力部
160 出力部
170 通信インターフェース
180 バス