(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024031010
(43)【公開日】2024-03-07
(54)【発明の名称】表示装置、表示方法、及び、表示プログラム
(51)【国際特許分類】
G06T 19/00 20110101AFI20240229BHJP
【FI】
G06T19/00 600
【審査請求】有
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2022134284
(22)【出願日】2022-08-25
(11)【特許番号】
(45)【特許公報発行日】2023-08-08
【新規性喪失の例外の表示】特許法第30条第2項適用申請有り 開催日 令和4年5月24日 集会名、開催場所 中部電力パワーグリッド株式会社 飛騨電力センター(下呂市小坂町坂下350-1) 〔刊行物等〕 開催日 令和4年5月23日 集会名、開催場所 中部電力パワーグリッド株式会社 飛騨電力センター(下呂市小坂町坂下350-1) 〔刊行物等〕 開催日 令和4年5月31日 集会名、開催場所 中部電力パワーグリッド株式会社 工務技術センター(愛知県名古屋市熱田区横田2-3-24) 〔刊行物等〕 開催日 令和4年6月1日 集会名、開催場所 中部電力パワーグリッド株式会社 送変電技術センター(愛知県名古屋市熱田区横田2-3-24) 〔刊行物等〕 開催日 令和4年4月13日 集会名、開催場所 株式会社関電工 社会インフラ工事センター(東京都北区豊島6-9-5) 〔刊行物等〕 開催日 令和4年5月13日 集会名、開催場所 株式会社日立パワーソリューションズ 茨城本社(日立市幸町三丁目2-2) 〔刊行物等〕 開催日 令和4年5月17日 集会名、開催場所 株式会社ユーラスエナジーホールディングス 東京本社(東京都港区虎ノ門4-3-13ヒューリック神谷町ビル7階) 〔刊行物等〕 開催日 令和4年6月2日 集会名、開催場所 東光電気工事株式会社 本社(東京都千代田区西神田1-4-5)
(71)【出願人】
【識別番号】000213909
【氏名又は名称】朝日航洋株式会社
(74)【代理人】
【識別番号】100088155
【弁理士】
【氏名又は名称】長谷川 芳樹
(74)【代理人】
【識別番号】100113435
【弁理士】
【氏名又は名称】黒木 義樹
(72)【発明者】
【氏名】落合 拓也
【テーマコード(参考)】
5B050
【Fターム(参考)】
5B050AA03
5B050BA06
5B050BA09
5B050BA11
5B050BA17
5B050BA18
5B050BA20
5B050CA07
5B050CA08
5B050DA01
5B050EA04
5B050EA19
5B050EA26
5B050FA02
5B050FA13
5B050FA14
(57)【要約】
【課題】現実世界の環境と仮想オブジェクトとの前後関係に矛盾がないように拡張現実を表示可能な表示装置、表示方法、及び、表示プログラムを提供する。
【解決手段】表示装置1は、現在位置を取得する現在位置取得部11と、方向を取得する方向取得部12と、現在位置及び方向に基づいて、DSMオブジェクトD2と仮想オブジェクトD1とを重畳して表示させる表示部14と、を備える。表示部14は、現在位置から仮想オブジェクトD1までの第1距離L1がDSMオブジェクトD2までの第2距離L2よりも大きい場合には、仮想オブジェクトD1におけるDSMオブジェクトD2に重なる部分D1aが表示されないように、仮想オブジェクトD1及びDSMオブジェクトD2を表示させる。
【選択図】
図1
【特許請求の範囲】
【請求項1】
数値表層モデルと仮想オブジェクトとを含む拡張現実をユーザが保持する端末に表示させるための表示装置であって、
前記端末の現在位置を取得する現在位置取得部と、
前記端末の向いている方向を取得する方向取得部と、
前記現在位置及び前記方向に基づいて、前記仮想オブジェクトを表示させる対象エリアの前記数値表層モデルと前記仮想オブジェクトとを重畳して前記端末に表示させる表示部と、
を備え、
前記表示部は、
前記方向において、前記現在位置から前記仮想オブジェクトまでの第1距離が、前記現在位置から前記数値表層モデルまでの第2距離よりも小さい場合には、前記仮想オブジェクトを前記数値表層モデルの前面になるように、前記仮想オブジェクト及び前記数値表層モデルを前記端末に表示させると共に、
前記方向において、前記第1距離が前記第2距離よりも大きい場合には、前記仮想オブジェクトにおける前記数値表層モデルに重なる部分が表示されないように、前記仮想オブジェクト及び前記数値表層モデルを前記端末に表示させる、
表示装置。
【請求項2】
前記表示部は、前記端末のカメラにより取得された現実世界の画像又は映像に対して、前記仮想オブジェクト及び前記数値表層モデルを重畳して前記端末に表示させると共に、前記数値表層モデルを透過状態とする、
請求項1に記載の表示装置。
【請求項3】
前記現在位置取得部は、前記端末のGPS受信機が受信した前記端末の位置情報に基づいて、前記現在位置を取得する、
請求項1に記載の表示装置。
【請求項4】
前記方向取得部は、前記端末の方位センサにより検出された情報に基づいて、前記方向を取得する、
請求項1に記載の表示装置。
【請求項5】
前記端末において構成されている、
請求項1に記載の表示装置。
【請求項6】
数値表層モデルと仮想オブジェクトとを含む拡張現実をユーザが保持する端末に表示させるための表示方法であって、
前記端末の現在位置を取得する現在位置取得工程と、
前記端末の向いている方向を取得する方向取得工程と、
前記現在位置及び前記方向に基づいて、前記仮想オブジェクトを表示させる対象エリアの前記数値表層モデルと前記仮想オブジェクトとを重畳して前記端末に表示させる表示工程と、
を備え、
前記表示工程では、
前記方向において、前記現在位置から前記仮想オブジェクトまでの第1距離が、前記現在位置から前記数値表層モデルまでの第2距離よりも小さい場合には、前記仮想オブジェクトを前記数値表層モデルの前面になるように、前記仮想オブジェクト及び記数値表層モデルを前記端末に表示させると共に、
前記方向において、前記第1距離が前記第2距離よりも大きい場合には、前記仮想オブジェクトにおける前記数値表層モデルに重なる部分が表示されないように、前記仮想オブジェクト及び前記数値表層モデルを前記端末に表示させる、
表示方法。
【請求項7】
コンピュータを、数値表層モデルと仮想オブジェクトとを含む拡張現実をユーザが保持する端末に表示させるための表示装置として機能させる表示プログラムであって、
前記コンピュータに、
前記端末の現在位置を取得する現在位置取得機能と、
前記現在位置に対する前記仮想オブジェクトの方向を取得する方向取得機能と、
前記現在位置及び前記方向に基づいて、前記仮想オブジェクトを表示させる対象エリアの前記数値表層モデルと前記仮想オブジェクトとを重畳して前記端末に表示させる表示機能と、
を実現させ、
前記表示機能では、
前記方向において、前記現在位置から前記仮想オブジェクトまでの第1距離が、前記現在位置から前記数値表層モデルまでの第2距離よりも小さい場合には、前記仮想オブジェクトを前記数値表層モデルの前面になるように、前記仮想オブジェクト及び記数値表層モデルを前記端末に表示させると共に、
前記方向において、前記第1距離が前記第2距離よりも大きい場合には、前記仮想オブジェクトにおける前記数値表層モデルに重なる部分が表示されないように、前記仮想オブジェクト及び前記数値表層モデルを前記端末に表示させる、
表示プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、表示装置、表示方法、及び、表示プログラムに関する。
【背景技術】
【0002】
近年、実空間に付加的な情報を重畳してユーザに提示する拡張現実(AR:Augmented Reality)と呼ばれる技術が注目されている。AR技術においてユーザに提示される情報は、テキストやアイコン、アニメーション等の様々な形態の仮想オブジェクトとして可視化される。特許文献1には、仮想オブジェクトを表示部に描画するシステムが記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、例えば建設予定の鉄塔といった構造物の仮想オブジェクトを、現実世界の建設予定地に表示させることにより、より詳細なイメージの共有が可能となる。したがって、ARは、建設のシミュレーションを行う方式としても利用可能である。
【0005】
一方で、建設のシミュレーションを行うためには、建設予定地の周辺環境と仮想オブジェクトとを矛盾なく表示させる必要がある。一例として、数キロ離れた山間部への鉄塔といった構造物の建設のシミュレーションでは、構造物の周辺の樹木が構造物に覆いかぶさって鉄塔の下部が見えない状態が自然である。また、山間部の裏側への構造物の建設のシミュレーションでは、構造物の全体が見える状態であると、現実世界と乖離した表示状態となってしまう。
【0006】
しかし、ARでは、カメラを通して取得した現実世界の映像に対して仮想オブジェクトをレンダリングするため、仮想オブジェクトが前面に表示されてしまうという性質がある。そのため、樹木や山の裏側に存在するはずの構造物が、それらよりも前に建っているように見えてしまうおそれがある。
【0007】
本開示は上記課題を解決するためになされたものであり、現実世界の環境と仮想オブジェクトとの前後関係に矛盾がないように拡張現実を表示可能な表示装置、表示方法、及び、表示プログラムを提供することを目的とする。
【課題を解決するための手段】
【0008】
本開示に係る表示装置は、[1]「数値表層モデルと仮想オブジェクトとを含む拡張現実をユーザが保持する端末に表示させるための表示装置であって、前記端末の現在位置を取得する現在位置取得部と、前記端末の向いている方向を取得する方向取得部と、前記現在位置及び前記方向に基づいて、前記仮想オブジェクトを表示させる対象エリアの前記数値表層モデルと前記仮想オブジェクトとを重畳して前記端末に表示させる表示部と、を備え、前記表示部は、前記方向において、前記現在位置から前記仮想オブジェクトまでの第1距離が、前記現在位置から前記数値表層モデルまでの第2距離よりも小さい場合には、前記仮想オブジェクトを前記数値表層モデルの前面になるように、前記仮想オブジェクト及び記数値表層モデルを前記端末に表示させると共に、前記方向において、前記第1距離が前記第2距離よりも大きい場合には、前記仮想オブジェクトにおける前記数値表層モデルに重なる部分が表示されないように、前記仮想オブジェクト及び前記数値表層モデルを前記端末に表示させる、表示装置」である。
【0009】
上記[1]の表示装置では、拡張現実の表示対象である端末の現在位置を取得すると共に、端末の向いている方向を取得する。そして、端末の現在位置及び方向に基づいて、仮想オブジェクトを表示させる対象エリアの数値表層モデルと仮想オブジェクトとを重畳して端末に表示させる。このとき、端末の現在位置から仮想オブジェクトまでの第1距離が、端末の現在位置から数値表層モデルまでの第2距離よりも小さい場合(すなわち、仮想オブジェクトが手前側にある場合)には、仮想オブジェクトを数値表層モデルの前面になるように仮想オブジェクト及び数値表層モデルを表示させる。また、第1距離が第2距離よりも大きい場合(すなわち、仮想オブジェクトが奥側にある場合)には、仮想オブジェクトにおける数値表層モデルに重なる部分が表示されないように、仮想オブジェクト及び数値表層モデルを表示させる。このように、上記[1]の表示装置では、現実世界を計測して得られる数値表層モデルを利用することにより、仮想オブジェクトと現実世界の環境の前後関係に矛盾がないように拡張現実を表示可能である。
【0010】
なお、仮想オブジェクトと現実世界の環境との前後関係を把握するに際して、端末から照射される赤外線を用いて、端末から現実世界の環境までの距離を計測する手法も考えられる。しかし、この場合には、端末からの赤外線が届かない範囲では、当該距離の計測ができず、仮想オブジェクトと現実世界の環境との前後関係を把握することが困難となるおそれがある。これに対して、本開示では、端末の現在位置から数値地形モデルまでの距離(第2距離)を利用する。このため、端末からの赤外線の照射及び検出といった検出手法の可否によらずに、仮想オブジェクトと現実世界の環境との前後関係を確実に把握することが可能である。
【0011】
本開示に係る表示装置は、[2]「前記表示部は、前記端末のカメラにより取得された現実世界の画像又は映像に対して、前記仮想オブジェクト及び前記数値表層モデルを重畳して前記端末に表示させると共に、前記数値表層モデルを透過状態とする、上記[1]に記載の表示装置」であってもよい。この場合、数値表層モデルを利用して現実世界の環境との前後関係を矛盾が無いように維持しつつ、数値表層モデルを透過状態とすることによって現実世界の景観を違和感なく表示することが可能となる。
【0012】
本開示に係る表示装置は、[3]「前記現在位置取得部は、前記端末のGPS受信機が受信した前記端末の位置情報に基づいて、前記現在位置を取得する、上記[1]又は[2]に記載の表示装置」であってもよい。この場合、端末の現在位置を何らかの手法により計測したり、端末のユーザが入力したりする等の手間が削減される。
【0013】
本開示に係る表示装置は、[4]「前記方向取得部は、前記端末の方位センサにより検出された情報に基づいて、前記方向を取得する、上記[1]~[3]のいずれかに記載の表示装置」であってもよい。この場合、端末の向きを何らかの手法により計測したり、端末のユーザが入力したりする等の手間が削減される。
【0014】
本開示に係る表示装置は、[5]「前記端末において構成されている、上記[1]~[4]のいずれかに記載の表示装置」であってもよい。このように、本開示に係る表示装置は、ユーザの端末で実現されてもよい。
【0015】
本開示に係る表示方法は、[6]「数値表層モデルと仮想オブジェクトとを含む拡張現実をユーザが保持する端末に表示させるための表示方法であって、前記端末の現在位置を取得する現在位置取得工程と、前記端末の向いている方向を取得する方向取得工程と、前記現在位置及び前記方向に基づいて、前記仮想オブジェクトを表示させる対象エリアの前記数値表層モデルと前記仮想オブジェクトとを重畳して前記端末に表示させる表示工程と、を備え、前記表示工程では、前記方向において、前記現在位置から前記仮想オブジェクトまでの第1距離が、前記現在位置から前記数値表層モデルまでの第2距離よりも小さい場合には、前記仮想オブジェクトを前記数値表層モデルの前面になるように、前記仮想オブジェクト及び記数値表層モデルを前記端末に表示させると共に、前記方向において、前記第1距離が前記第2距離よりも大きい場合には、前記仮想オブジェクトにおける前記数値表層モデルに重なる部分が表示されないように、前記仮想オブジェクト及び前記数値表層モデルを前記端末に表示させる、表示方法」である。
【0016】
上記[6]の表示方法では、拡張現実の表示対象である端末の現在位置を取得すると共に、端末の向いている方向を取得する。そして、端末の現在位置及び方向に基づいて、仮想オブジェクトを表示させる対象エリアの数値表層モデルと仮想オブジェクトとを重畳して端末に表示させる。このとき、端末の現在位置から仮想オブジェクトまでの第1距離が、端末の現在位置から数値表層モデルまでの第2距離よりも小さい場合(すなわち、仮想オブジェクトが手前側にある場合)には、仮想オブジェクトを数値表層モデルの前面になるように仮想オブジェクト及び数値表層モデルを表示させる。また、第1距離が第2距離よりも大きい場合(すなわち、仮想オブジェクトが奥側にある場合)には、仮想オブジェクトにおける数値表層モデルに重なる部分が表示されないように、仮想オブジェクト及び数値表層モデルを表示させる。このように、上記[7]の表示方法では、現実世界を計測して得られる数値表層モデルを利用することにより、仮想オブジェクトと現実世界の環境の前後関係に矛盾がないように拡張現実を表示可能である。
【0017】
本開示に係る表示プログラムは、[7]「コンピュータを、数値表層モデルと仮想オブジェクトとを含む拡張現実をユーザが保持する端末に表示させるための表示装置として機能させる表示プログラムであって、前記コンピュータに、前記端末の現在位置を取得する現在位置取得機能と、前記端末の向いている方向を取得する方向取得機能と、前記現在位置及び前記方向に基づいて、前記仮想オブジェクトを表示させる対象エリアの前記数値表層モデルと前記仮想オブジェクトとを重畳して前記端末に表示させる表示機能と、を実現させ、前記表示機能では、前記方向において、前記現在位置から前記仮想オブジェクトまでの第1距離が、前記現在位置から前記数値表層モデルまでの第2距離よりも小さい場合には、前記仮想オブジェクトを前記数値表層モデルの前面になるように、前記仮想オブジェクト及び記数値表層モデルを前記端末に表示させると共に、前記方向において、前記第1距離が前記第2距離よりも大きい場合には、前記仮想オブジェクトにおける前記数値表層モデルに重なる部分が表示されないように、前記仮想オブジェクト及び前記数値表層モデルを前記端末に表示させる、表示プログラム」である。
【0018】
上記[7]の表示プログラムでは、拡張現実の表示対象である端末の現在位置を取得すると共に、当該現在位置に対する仮想オブジェクトの方向を取得する。そして、端末の現在位置及び方向に基づいて、仮想オブジェクトを表示させる対象エリアの数値表層モデルと仮想オブジェクトとを重畳して端末に表示させる。このとき、端末の現在位置から仮想オブジェクトまでの第1距離が、端末の現在位置から数値表層モデルまでの第2距離よりも小さい場合(すなわち、仮想オブジェクトが手前側にある場合)には、仮想オブジェクトを数値表層モデルの前面になるように仮想オブジェクト及び数値表層モデルを表示させる。また、第1距離が第2距離よりも大きい場合(すなわち、仮想オブジェクトが奥側にある場合)には、仮想オブジェクトにおける数値表層モデルに重なる部分が表示されないように、仮想オブジェクト及び数値表層モデルを表示させる。このように、上記[8]の表示プログラムでは、現実世界を計測して得られる数値表層モデルを利用することにより、仮想オブジェクトと現実世界の環境の前後関係に矛盾がないように拡張現実を表示可能である。
【発明の効果】
【0019】
本開示によれば、現実世界の環境と仮想オブジェクトとの前後関係に矛盾がないように拡張現実を表示可能な表示装置、表示方法、及び、表示プログラムを提供できる。
【図面の簡単な説明】
【0020】
【
図1】
図1は、一実施形態に係る端末装置を模式的に示す図である。
【
図2】
図2は、
図1に示された端末装置のハードウェア構成を示す図である。
【
図3】
図3は、対象エリアの一例を示す模式図である。
【
図4】
図4は、端末装置のディスプレイの表示の一例を示す図である。
【
図5】
図5は、本実施形態に係る表示方法の一工程を示すフローチャートである。
【
図6】
図6は、DSMオブジェクの一例を示す図である。
【
図7】
図7は、仮想オブジェクトとDSMオブジェクトとの関係を示す図である。
【
図8】
図8は、仮想オブジェクトとDSMオブジェクトとの関係を示す図である。
【
図9】
図9は、端末装置のディスプレイの表示の一例を示す図である。
【発明を実施するための形態】
【0021】
以下、一実施形態について図面を参照して説明する。なお、各図の説明において、同一又は相当する要素には同一の符号を付し、重複する説明を省略する場合がある。
【0022】
図1は、一実施形態に係る端末装置を模式的に示す図である。
図1に示されるように、端末装置100は、表示装置1、カメラ101、GPS受信機102、ジャイロセンサ103、方位センサ104、ディスプレイ105、入力受付部106、3次元データ記憶部107、及び、加速度センサ108を備えている。端末装置100は、例えば、スマートフォン、タブレット端末、パーソナルコンピュータ、ARグラス(ARゴーグル)等のスマートグラスといったウェアラブル端末等である。
【0023】
表示装置1は、拡張現実(AR:Augmented Reality)を端末装置100に表示させるためのものである。表示装置1の各機能部については後に詳述する。カメラ101は、一例としてディスプレイ105と反対側に臨むフロントカメラであり、端末装置100の周囲を撮像して撮像データを取得する。GPS受信機102は、GPS衛星から送信される電波を受信することにより、端末装置100の現在位置を取得する。
【0024】
ジャイロセンサ103は、端末装置100の角速度を検出する。これにより、端末装置100及び表示装置1では、端末装置100の傾きに関するデータを取得することが可能となる。方位センサ104は、例えば地磁気等に基づいて方位を検出する。以上のように、端末装置100及び表示装置1では、端末装置100がGPS受信機102及びジャイロセンサ103を有することにより、端末装置100の現在位置及び傾きに関するデータを取得可能であると共に、端末装置100が方位センサ104を有することにより例えば北方向といった方向や、端末装置100が向いている方向に関するデータを取得することが可能となる。
【0025】
ディスプレイ105は、種々の情報を表示可能であり、例えば、カメラ101が取得した(取得している)端末装置100の周囲の画像(映像を含む)を表示することができる。このとき、ディスプレイ105は、表示装置1によってARを表示することも可能である。入力受付部106は、端末装置100のユーザからの情報の入力を受け付ける。入力受付部106は、ディスプレイ105がタッチパネルである場合には、ディスプレイ105と共通化され得る。
【0026】
3次元データ記憶部107は、3次元データを保持する。より具体的には、3次元データ記憶部は、ARとして端末装置100(ディスプレイ105)に表示する対象の構造物の仮想オブジェクトを示すデータや、当該仮想オブジェクトを表示させる対象エリアの数値表層モデル(DSM)の3次元オブジェクト等のデータを保持している。仮想オブジェクトを示すデータ及びDSMの3次元オブジェクトを示すデータは、所定の方法で予め作成されて提供され得る。
【0027】
加速度センサ108は、端末装置100の加速度を検出する。これにより、端末装置100及び表示装置1では、端末装置100の加速度の変化に基づいて、端末装置100の移動距離を推定・取得することが可能となる。
【0028】
図2は、
図1に示された端末装置のハードウェア構成を示す図である。
図2に示されるように、端末装置100は、物理的には、CPU111、RAM及びROMといったメモリにより構成される主記憶装置112、ハードディスク及びメモリ等により構成される補助記憶装置113、通信制御装置114等を含むコンピュータシステムとして構成されている。3次元データ記憶部107は、主記憶装置112及び/又は補助記憶装置113により構成され得る。また、端末装置100は、キーボード、タッチパネル、マウス等の入力装置115及び出力装置116をさらに備えている。ディスプレイ105は及び入力受付部106は、入力装置115及び出力装置116により構成され得る。
【0029】
また、表示装置1の各機能部は、CPU111、主記憶装置112等のハードウェア上に所定のコンピュータソフトウェアを読み込ませることにより、CPU111の制御のもとで通信制御装置114等を動作させるともに、主記憶装置112や補助記憶装置113におけるデータの読み出し及び書き込みを行うことで実現され得る。処理に必要なデータやデータベースは、主記憶装置112及び補助記憶装置113内に格納され得る。このように、表示装置1は、端末装置100において構成され得る。
【0030】
引き続いて、表示装置1の各機能部について説明する。
図3及び
図4に示されるように、表示装置1は、ある対象エリアZNにおいて、例えば山といった現実世界の環境C2に、鉄塔といった構造物C1を重畳して端末装置100(ディスプレイ105)に表示させることにより、当該対象エリアZNの建設のシミュレーションを可能とする。ここでは、端末装置100のユーザBに対して、環境C2(山)がより手前側に存在し、構造物C1(鉄塔)がより奥側に建設予定とされる。
【0031】
よって、構造物C1を建設した場合の景観をディスプレイ105に表示する場合、
図3及び
図4の(a)のように、構造物C1の全体が表示されると、ユーザBの視点からの実際の景観との乖離が生じてしまう。一方で、
図3及び
図4の(b)のように、構造物C1の環境C2に重複する部分C1aを表示させずに、構造物C1の環境C2と重複しない部分C1bのみを表示させることにより、ユーザBの視点からの実際の景観との乖離が抑制される。したがって、表示装置1では、端末装置100と環境C2及び構造物C1との距離関係に応じて、適切な表示を行う。なお、樹木といった別の構造物C3,C4が構造物C1と重複する場合には、環境C2と同様に考慮され得る。
【0032】
図1に示されるように、表示装置1は、現在位置取得部(現在位置取得機能)11、方向取得部(方向取得機能)12、距離取得部(距離取得機能)13、及び、表示部(表示機能)14を備えている。表示装置1は、上述した端末装置100の各部との間でデータの授受を行うことが可能とされている。現在位置取得部11は、例えば、GPS受信機102の信号の受信に応じて、端末装置100の現在位置(例えば経度緯度の座標)を取得する。或いは、現在位置取得部11は、入力受付部106が、端末装置100のユーザBから受け付けた現在位置(例えば経度緯度の座標)の入力に応じて、端末装置100の現在位置を取得してもよい。方向取得部12は、方位センサ104の検出結果に応じて、端末装置100の現在向いている方向(以下、「現在方向」という)を取得する。
【0033】
距離取得部13は、方向取得部12が取得した端末装置100の現在方向において、端末装置100の現在位置から構造物C1までの第1距離と、現在位置から環境C2までの第2距離と、を取得する。これにより、第1距離と第2距離との比較によって、端末装置100からの環境C2と構造物C1との距離の関係を把握することが可能となる。
【0034】
表示部14は、端末装置100の現在位置及び現在方向に基づいて、環境C2と構造物C1とを重畳して端末装置100のディスプレイ105に表示させる。より具体的には、表示部14は、方向Aにおいて、端末装置100の現在位置から構造物C1までの第1距離が、端末装置100の現在位置から環境C2までの第2距離よりも小さい場合には、構造物C1を環境C2の前面になるように、構造物C1及び環境C2を端末装置100のディスプレイ105に表示させる。一方、表示部14は、現在方向において、第1距離が第2距離よりも大きい場合には、構造物C1における環境C2に重なる部分が表示されないように、構造物C1及び環境C2を端末装置100のディスプレイ105に表示させる。
【0035】
引き続いて、表示装置1のより詳細な動作について、一実施形態に係る表示方法を例に挙げて説明する。
図5は、本実施形態に係る表示方法の一工程を示すフローチャートである。
図5に示されるように、この表示方法では、まず、3次元オブジェクトが取得される(工程S101)。
【0036】
工程S101では、少なくとも、現実世界に重畳して表示する3次元オブジェクトである仮想オブジェクトと、当該仮想オブジェクトを表示させる対象エリアZNの数値表層モデルの3次元オブジェクト(以下、「DSMオブジェクト」という)と、が取得される。仮想オブジェクトは、一例として、上述した鉄塔といった構造物C1の3次元オブジェクトである。仮想オブジェクトには、絶対座標情報が付与されている。絶対座標情報は、地理座標(緯度経度)でもよいし平面直角座標でもよい。
【0037】
数値表層モデルは、例えば、対象エリアZNを事前に航空測量して得られたデータに基づいて作成される。DSMオブジェクトには、その4隅の少なくとも1点の座標情報が付与されている。また、DSMオブジェクトは、表示範囲に合わせてあらかじめ座標系を認識できるデータをセットで用意する。
図6では、このとき取得されるDSMオブジェクトの一例が示されている。
【0038】
工程S101で取得された3次元オブジェクトは、例えば、端末装置100の3次元データ記憶部107に格納され、表示装置1によりアクセス可能とされる。なお、3次元オブジェクトは、外部のサーバといった別の記憶装置に保持され、端末装置100の通信制御装置114といった通信装置を介して表示装置1によりアクセス可能とされてもよい。
【0039】
続いて、表示装置1が、端末装置100の現在位置を取得する(工程S102:現在位置取得工程)。工程S102では、表示装置1の現在位置取得部11が、例えば、GPS受信機102の信号の受信に応じて現在位置(例えば経度緯度の座標)を取得することができる。或いは、工程S102では、表示装置1の現在位置取得部11が、入力受付部106が端末装置100のユーザBから受け付けた現在位置(例えば経度緯度の座標)の入力に応じて、現在位置を取得してもよい。この場合、例えば、表示装置1が、端末装置100のディスプレイ105に、2次元地図を表示させることにより、端末装置100のユーザBに対しておおよその現在位置の入力を促してもよい。
【0040】
続いて、表示装置1が、工程S102で取得した現在位置を示す座標を、平面直角座標系の座標に変換する(工程S103)。なお、数値表層モデルのデータがいかに精密であっても、AR空間上の位置と現実世界の位置とが異なると、カメラ101を通して現実世界を見た時に、乖離が生まれてしまう。そこで、工程S103では、さらに、表示装置1が、現実世界の端末装置100の現在位置と、AR空間上での端末装置100の現在位置とを一致させる。
【0041】
続いて、表示装置1の方向取得部12が、方位センサ104の検出結果に応じて、端末装置100の現在向いている方向(現在方向)を取得する(工程S104:方向取得工程)。
【0042】
続いて、表示装置1が、AR空間上の座標軸を、工程S104で取得した方向角の分だけ回転させる(工程S105)。これにより、現在方向とAR空間上での方向とを一致させる。このとき、方位センサ104を用いて現実世界の北方向を取得すると共に、AR空間上でのデータの方向を北方向に設定することで、現在方向とAR区間上での方向とを一致させることができる。ただし、方位センサ104は、端末装置100の現在位置や起動時の状態に応じて方位がぶれてしまうことがある。この場合、DSMオブジェクトD2での位置や方向が現実世界の位置や方向とマッチしなくなるため、DSMオブジェクトD2と任意の仮想オブジェクトとの前後関係を適切に表現することが困難となるおそれがある。
【0043】
このため、表示装置1では、任意の2地点の座標から方位角を算出し、端末装置100の向いている方向を現実世界の方位と合わせる機能を有することができる。この場合、座標が既知の任意の2地点を準備し、当該2地点がディスプレイ105の画面中央に縦並びになるように端末装置100の位置を調整する。そして、ST計算により現在の端末装置100の向きと北方向とのズレを取得する。
【0044】
続いて、表示装置1の表示部14が、端末装置100の現在位置及び現在方向に基づいて、仮想オブジェクトを表示させる対象エリアZNのDSMオブジェクトD2(すなわち数値表層モデル)と仮想オブジェクトとを重畳して端末装置100のディスプレイ105に表示させる(工程S106:表示工程)。
【0045】
より具体的には、工程S106では、まず、
図7に示されるように、表示装置1の距離取得部13が、端末装置100の現在方向において、現在位置から仮想オブジェクトD1までの第1距離L1と、現在位置からDSMオブジェクトD2までの第2距離L2と、を取得する。
【0046】
そして、表示部14が、第1距離L1が第2距離L2よりも小さい場合には、仮想オブジェクトD1をDSMオブジェクトD2の前面になるように、仮想オブジェクトD1及びDSMオブジェクトD2を端末装置100のディスプレイ105に表示させ、第1距離L1が第2距離L2よりも大きい場合には、仮想オブジェクトD1におけるDSMオブジェクトD2に重なる部分D1aが表示されないように、仮想オブジェクトD1及びDSMオブジェクトD2を端末装置100のディスプレイ105に表示させる。
【0047】
図8の例では、第1距離L1が第2距離L2よりも大きい場合、すなわち、端末装置100に対してDSMオブジェクトD2が仮想オブジェクトD1よりも近い場合が示されている。このため、仮想オブジェクトD1におけるDSMオブジェクトD2に重なる部分D1aが描画されず、仮想オブジェクトD1におけるDSMオブジェクトD2に重ならない部分D1bのみが描画される。
【0048】
なお、このとき、表示部14は、仮想オブジェクトD1及びDSMオブジェクトD2に加えて、カメラ101が撮像して得られた現実世界の景観を示す撮像データをディスプレイ105に表示させている。したがって、ここでは、端末装置100のディスプレイ105には、現実世界の景観(画像又は映像)に対して、仮想オブジェクトD1及びDSMオブジェクトD2が重畳されて表示されることとなる。
【0049】
続いて、表示装置1の表示部14が、DSMオブジェクトD2の不要部分をカットする(工程S107)と共に、DSMオブジェクトD2を透過状態とする(工程S108)。DSMオブジェクトD2を透過状態とするとは、DSMオブジェクトD2を表示しない状態とは異なり、例えばShaderという描画方法を表現するプログラムでの制御により、透過しつつ物体としてはその場に表示され続ける状態である。なお、工程S106~工程S108は、端末装置100の現在位置、現在方向、加速度(加速度センサ108により検知され得る)が変化するたびに繰り返し実施され得る。
【0050】
すなわち、表示装置1では、加速度センサ108の検出結果に基づいて、端末装置100の移動距離を取得することができる。端末装置100が移動すると、3Dオブジェクトの見え方も変化する。このため、表示装置1の表示部14は、端末装置100の移動距離に応じた現在位置の変化等に応じて、3Dオブジェクトの表示態様(見え方)を変化させる。すなわち、表示装置1の表示部14は、端末装置100が3Dオブジェクトに近づいていくことで、ディスプレイ105上では近づく前より大きく3Dオブジェクトを表示させる。これにより、ユーザBが移動して端末装置100の位置が変わっても、3Dオブジェクトと端末装置100との距離に応じて3Dオブジェクトの見え方が自動的に変えられるため、自然な見た目になる効果が得られる。
【0051】
以上により、
図9に示されるように、工程S106~工程S108では、表示部14が、カメラ101により取得された対象エリアZNの現実世界の画像又は映像に対して、仮想オブジェクトD1及びDSMオブジェクトD2を重畳して端末装置100のディスプレイ105に表示させると共に、DSMオブジェクトD2を透過状態とされる。このように、DSMオブジェクトD2を透過状態とすることにより、ディスプレイ105により自然な景観を表示させつつ、端末装置100の位置や姿勢が変化したときの仮想オブジェクトD1とDSMオブジェクトD2との位置関係の処理を継続して(リアルタイムで)行うことが容易化される。
【0052】
なお、表示装置1は、ここでは、カメラ101により取得された画像又は映像、仮想オブジェクトD1、及び、DSMオブジェクトD2の表示に加えて、さらに、ユーザBによる表示態様を変更するための各種の入力を受け付けるための入力部121,122や、端末装置100の現在の状態を表示する表示部123を表示している。入力部121は、例えば、表示する仮想オブジェクトD1そのものや、仮想オブジェクトD1の表示形態を選択するためのものである。入力部122は、DSM、DEM(数値標高モデル)、DEM地理院の使用・オクルージョンの有無を選択するためのものである。なお、
図9では、実際の鉄塔といった構造部R2が表示されている。
【0053】
次に、
図10を参照して、コンピュータを表示装置1として機能させるための表示プログラムを説明する。表示プログラムP1は、メインモジュールm10、現在位置取得モジュールm11、方位取得モジュールm12、距離取得モジュールm13、及び表示モジュールm14を含む。
【0054】
メインモジュールm10は、統括的に制御する部分である。現在位置取得モジュールm11、方位取得モジュールm12、距離取得モジュールm13、及び表示モジュールm14を実行することにより実現される機能はそれぞれ、
図1に示される表示装置1の現在位置取得部11、方向取得部12、距離取得部13、及び表示部14の機能と同様である。
【0055】
表示プログラムP1は、例えば、磁気ディスクや光ディスクまたは半導体メモリ等の記憶媒体M1(例えば主記憶装置112又は補助記憶装置113)によって提供される。また、表示プログラムP1は、搬送波に重畳されたコンピュータデータ信号として通信ネットワークを介して提供されてもよい。
【0056】
以上説明したように、表示装置1(及び表示方法、表示プログラム)では、ARの表示対象である端末装置100の現在位置を取得すると共に、端末装置100の向いている方向を取得する。そして、端末装置100の現在位置及び方向に基づいて、仮想オブジェクトD1を表示させる対象エリアZNのDSMオブジェクトD2(数値表層モデル)と仮想オブジェクトD1とを重畳して端末装置100に表示させる。このとき、端末装置100の現在位置から仮想オブジェクトD1までの第1距離L1が、端末装置100の現在位置からDSMオブジェクトD2までの第2距離L2よりも小さい場合(すなわち、仮想オブジェクトD1が手前側にある場合)には、仮想オブジェクトD1をDSMオブジェクトD2の前面になるように仮想オブジェクトD1及びDSMオブジェクトD2を表示させる。
【0057】
また、第1距離L1が第2距離L2よりも大きい場合(すなわち、仮想オブジェクトD1が奥側にある場合)には、仮想オブジェクトD1におけるDSMオブジェクトD2に重なる部分D1aが表示されないように、仮想オブジェクトD1及びDSMオブジェクトD2を表示させる。このように、表示装置1(及び表示方法、表示プログラム)では、現実世界を計測して得られるDSMオブジェクトD2を利用することにより、仮想オブジェクトD1と現実世界の環境C2の前後関係に矛盾がないようにARを表示可能である。
【0058】
また、表示装置1では、表示部14が、端末装置100のカメラ101により取得された現実世界の画像又は映像に対して、仮想オブジェクトD1及びDSMオブジェクトD2を重畳して端末装置100に表示させると共に、DSMオブジェクトD2を透過状態とする。このように、DSMオブジェクトD2を利用して現実世界の環境C2との前後関係を矛盾が無いように維持しつつ、DSMオブジェクトD2を透過状態とすることによって現実世界の景観を違和感なく表示することが可能となる。
【0059】
また、表示装置1では、現在位置取得部11が、GPS受信機102が受信した端末装置100の位置情報に基づいて、端末装置100の現在位置を取得してもよい。この場合、端末装置100の現在位置を何らかの手法により計測したり、端末装置100のユーザBが入力したりする等の手間が削減される。
【0060】
また、表示装置1では、方向取得部12は、方位センサ104により検出された情報に基づいて、端末装置100の向いている方向(現在方向)を取得してもよい。この場合、端末装置100の向きを何らかの手法により計測したり、端末装置100のユーザBが入力したりする等の手間が削減される。
【0061】
また、表示装置1では、GPS受信機102の利用の有無に関わらず、端末装置100の現在位置(緯度経度)及び端末装置100の向きの情報と、3次元オブジェクト(仮想オブジェクトD1及びDSMオブジェクトD2)の位置情報から、端末装置100のディスプレイ105からみたときに距離感やオブジェクトの大きさをリアルに表現することができる。そのため、例えば端末装置100の現在位置を取得するに際して、他の機材および機材の特徴点を抽出する必要がない(マーカレスでの運用が可能である)。
【0062】
また、表示装置1では、仮想オブジェクトD1とDSMオブジェクトD2との位置関係を一度決めてしまえば、端末装置100の位置を移動させたとしても、表示部14がディスプレイ105に表示している3次元オブジェクトの位置関係を自然なまま保つことができる。
【0063】
また、表示装置1では、端末装置100の現在位置、現在方向、移動速度から、常に自己位置と3次元オブジェクトとの位置関係を計算し続けることができる。このため、ある瞬間の静止画像に対して3次元オブジェクトを重畳して表示させることも可能であるが、映像に対して3次元オブジェクトを重畳して表示させることも可能である。
【0064】
また、表示装置1では、必要なデータ(例えば3次元オブジェクトを示すデータ)を端末装置100に格納して利用することができる。このため、例えば外部のサーバといった端末装置100以外の装置との常時の通信が不要である。また、自己位置と3次元オブジェクトとの位置関係の計算を端末装置100内で完結させることができるため、端末装置100とは別のハードが不要である。
【0065】
さらに、表示装置1は、端末装置100において構成されていてもよい。
【0066】
以上の実施形態は、表示装置、表示方法、及び、表示プログラムの一態様を説明したものであり、任意に変形され得る。
【符号の説明】
【0067】
1…表示装置、11…現在位置取得部、12…方向取得部、14…表示部、100…端末装置、D1…仮想オブジェクト、D2…DSMオブジェクト、L1…第1距離、L2…第2距離。
【手続補正書】
【提出日】2023-03-01
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
数値表層モデルの3次元オブジェクトであるDSMオブジェクトと仮想オブジェクトとを含む拡張現実をユーザが保持する端末に表示させるための表示装置であって、
前記端末の現在位置を取得する現在位置取得部と、
前記端末の向いている方向を取得する方向取得部と、
前記現在位置及び前記方向に基づいて、前記仮想オブジェクトを表示させる対象エリアの前記DSMオブジェクトと前記仮想オブジェクトとを重畳して前記端末に表示させる表示部と、
を備え、
前記表示部は、
前記方向において、前記現在位置から前記仮想オブジェクトまでの第1距離が、前記現在位置から前記DSMオブジェクトまでの第2距離よりも小さい場合には、前記仮想オブジェクトを前記DSMオブジェクトの前面になるように、前記仮想オブジェクト及び前記DSMオブジェクトを前記端末に表示させると共に、
前記方向において、前記第1距離が前記第2距離よりも大きい場合には、前記仮想オブジェクトにおける前記DSMオブジェクトに重なる部分が表示されないように、前記仮想オブジェクト及び前記数値表層モデルを前記端末に表示させる、
表示装置。
【請求項2】
前記表示部は、前記端末のカメラにより取得された現実世界の画像又は映像に対して、前記仮想オブジェクト及び前記DSMオブジェクトを重畳して前記端末に表示させると共に、前記DSMオブジェクトを透過状態とする、
請求項1に記載の表示装置。
【請求項3】
前記現在位置取得部は、前記端末のGPS受信機が受信した前記端末の位置情報に基づいて、前記現在位置を取得する、
請求項1に記載の表示装置。
【請求項4】
前記方向取得部は、前記端末の方位センサにより検出された情報に基づいて、前記方向を取得する、
請求項1に記載の表示装置。
【請求項5】
前記端末において構成されている、
請求項1に記載の表示装置。
【請求項6】
数値表層モデルの3次元オブジェクトであるDSMオブジェクトと仮想オブジェクトとを含む拡張現実をユーザが保持する端末に表示させるための表示方法であって、
前記端末の現在位置を取得する現在位置取得工程と、
前記端末の向いている方向を取得する方向取得工程と、
前記現在位置及び前記方向に基づいて、前記仮想オブジェクトを表示させる対象エリアの前記DSMオブジェクトと前記仮想オブジェクトとを重畳して前記端末に表示させる表示工程と、
を備え、
前記表示工程では、
前記方向において、前記現在位置から前記仮想オブジェクトまでの第1距離が、前記現在位置から前記DSMオブジェクトまでの第2距離よりも小さい場合には、前記仮想オブジェクトを前記DSMオブジェクトの前面になるように、前記仮想オブジェクト及び前記DSMオブジェクトを前記端末に表示させると共に、
前記方向において、前記第1距離が前記第2距離よりも大きい場合には、前記仮想オブジェクトにおける前記DSMオブジェクトに重なる部分が表示されないように、前記仮想オブジェクト及び前記DSMオブジェクトを前記端末に表示させる、
表示方法。
【請求項7】
コンピュータを、数値表層モデルの3次元オブジェクトであるDSMオブジェクトと仮想オブジェクトとを含む拡張現実をユーザが保持する端末に表示させるための表示装置として機能させる表示プログラムであって、
前記コンピュータに、
前記端末の現在位置を取得する現在位置取得機能と、
前記現在位置に対する前記仮想オブジェクトの方向を取得する方向取得機能と、
前記現在位置及び前記方向に基づいて、前記仮想オブジェクトを表示させる対象エリアの前記DSMオブジェクトと前記仮想オブジェクトとを重畳して前記端末に表示させる表示機能と、
を実現させ、
前記表示機能では、
前記方向において、前記現在位置から前記仮想オブジェクトまでの第1距離が、前記現在位置から前記DSMオブジェクトまでの第2距離よりも小さい場合には、前記仮想オブジェクトを前記DSMオブジェクトの前面になるように、前記仮想オブジェクト及び前記DSMオブジェクトを前記端末に表示させると共に、
前記方向において、前記第1距離が前記第2距離よりも大きい場合には、前記仮想オブジェクトにおける前記DSMオブジェクトに重なる部分が表示されないように、前記仮想オブジェクト及び前記DSMオブジェクトを前記端末に表示させる、
表示プログラム。
【手続補正書】
【提出日】2023-06-09
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
数値表層モデルの3次元オブジェクトであるDSMオブジェクトと仮想オブジェクトとを含む拡張現実をユーザが保持する端末に表示させるための表示装置であって、
前記端末の現在位置を取得する現在位置取得部と、
前記端末の向いている方向を取得する方向取得部と、
前記現在位置及び前記方向に基づいて、前記仮想オブジェクトを表示させる対象エリアの前記DSMオブジェクトと前記仮想オブジェクトとを重畳して前記端末に表示させる表示部と、
を備え、
前記表示部は、
前記方向において、前記現在位置から前記仮想オブジェクトまでの第1距離が、前記現在位置から前記DSMオブジェクトまでの第2距離よりも小さい場合には、前記仮想オブジェクトを前記DSMオブジェクトの前面になるように、前記仮想オブジェクト及び前記DSMオブジェクトを前記端末に表示させると共に、
前記方向において、前記第1距離が前記第2距離よりも大きい場合には、前記仮想オブジェクトにおける前記DSMオブジェクトに重なる部分が表示されないように、前記仮想オブジェクト及び前記DSMオブジェクトを前記端末に表示させる、
表示装置。
【請求項2】
前記表示部は、前記端末のカメラにより取得された現実世界の画像又は映像に対して、前記仮想オブジェクト及び前記DSMオブジェクトを重畳して前記端末に表示させると共に、前記DSMオブジェクトを透過状態とする、
請求項1に記載の表示装置。
【請求項3】
前記現在位置取得部は、前記端末のGPS受信機が受信した前記端末の位置情報に基づいて、前記現在位置を取得する、
請求項1に記載の表示装置。
【請求項4】
前記方向取得部は、前記端末の方位センサにより検出された情報に基づいて、前記方向を取得する、
請求項1に記載の表示装置。
【請求項5】
前記端末において構成されている、
請求項1に記載の表示装置。
【請求項6】
数値表層モデルの3次元オブジェクトであるDSMオブジェクトと仮想オブジェクトとを含む拡張現実をユーザが保持する端末に表示させるための表示方法であって、
前記端末の現在位置を取得する現在位置取得工程と、
前記端末の向いている方向を取得する方向取得工程と、
前記現在位置及び前記方向に基づいて、前記仮想オブジェクトを表示させる対象エリアの前記DSMオブジェクトと前記仮想オブジェクトとを重畳して前記端末に表示させる表示工程と、
を備え、
前記表示工程では、
前記方向において、前記現在位置から前記仮想オブジェクトまでの第1距離が、前記現在位置から前記DSMオブジェクトまでの第2距離よりも小さい場合には、前記仮想オブジェクトを前記DSMオブジェクトの前面になるように、前記仮想オブジェクト及び前記DSMオブジェクトを前記端末に表示させると共に、
前記方向において、前記第1距離が前記第2距離よりも大きい場合には、前記仮想オブジェクトにおける前記DSMオブジェクトに重なる部分が表示されないように、前記仮想オブジェクト及び前記DSMオブジェクトを前記端末に表示させる、
表示方法。
【請求項7】
コンピュータを、数値表層モデルの3次元オブジェクトであるDSMオブジェクトと仮想オブジェクトとを含む拡張現実をユーザが保持する端末に表示させるための表示装置として機能させる表示プログラムであって、
前記コンピュータに、
前記端末の現在位置を取得する現在位置取得機能と、
前記現在位置に対する前記仮想オブジェクトの方向を取得する方向取得機能と、
前記現在位置及び前記方向に基づいて、前記仮想オブジェクトを表示させる対象エリアの前記DSMオブジェクトと前記仮想オブジェクトとを重畳して前記端末に表示させる表示機能と、
を実現させ、
前記表示機能では、
前記方向において、前記現在位置から前記仮想オブジェクトまでの第1距離が、前記現在位置から前記DSMオブジェクトまでの第2距離よりも小さい場合には、前記仮想オブジェクトを前記DSMオブジェクトの前面になるように、前記仮想オブジェクト及び前記DSMオブジェクトを前記端末に表示させると共に、
前記方向において、前記第1距離が前記第2距離よりも大きい場合には、前記仮想オブジェクトにおける前記DSMオブジェクトに重なる部分が表示されないように、前記仮想オブジェクト及び前記DSMオブジェクトを前記端末に表示させる、
表示プログラム。