(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024027840
(43)【公開日】2024-03-01
(54)【発明の名称】プログラム及びシミュレーター
(51)【国際特許分類】
G06T 19/00 20110101AFI20240222BHJP
G09B 9/04 20060101ALI20240222BHJP
G09B 9/05 20060101ALI20240222BHJP
G09B 19/16 20060101ALI20240222BHJP
【FI】
G06T19/00 300B
G09B9/04 Z
G09B9/05 E
G09B19/16
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2022130977
(22)【出願日】2022-08-19
(71)【出願人】
【識別番号】520145702
【氏名又は名称】株式会社ネクステラス
(71)【出願人】
【識別番号】000195971
【氏名又は名称】西松建設株式会社
(74)【代理人】
【識別番号】100090033
【弁理士】
【氏名又は名称】荒船 博司
(74)【代理人】
【識別番号】100093045
【弁理士】
【氏名又は名称】荒船 良男
(72)【発明者】
【氏名】真柄 毅
(72)【発明者】
【氏名】松本 浩一
(72)【発明者】
【氏名】平野 享
(72)【発明者】
【氏名】引間 亮一
【テーマコード(参考)】
5B050
【Fターム(参考)】
5B050BA09
5B050CA07
5B050EA12
5B050EA19
5B050EA27
5B050FA05
(57)【要約】
【課題】現実の建設機械、遠隔操縦装置及び模擬装置がなくとも、建設機械の操縦をユーザーに体験させられるプログラム及びシミュレーターを提供すること。
【解決手段】プログラム32は、建設機械モデル81を第1仮想空間80内に設定する第1設定処理と、建設機械モデル81を第1仮想空間80内の第1視点88の位置から見て得られた2次元テクスチャを生成する第1生成処理と、表示装置モデル92を第2仮想空間90内に設定する第2設定処理と、表示装置モデル92を第2仮想空間90内の第2視点98の位置から見て得られた映像を生成する第2生成処理と、第1生成処理により生成された2次元テクスチャを、第2生成処理により生成された映像中の表示装置モデル92に写像する写像処理と、をコンピューター30に実行させる。
【選択図】
図3
【特許請求の範囲】
【請求項1】
入力デバイスの出力信号により動作する第1仮想空間内の3次元の建設機械モデルが描画された第2仮想空間内の3次元の表示装置モデルをディスプレイデバイスに表示する仮想現実処理をコンピューターに実行させるプログラム。
【請求項2】
前記仮想現実処理が、
前記建設機械モデルを前記第1仮想空間内に設定する第1設定処理と、
前記建設機械モデルを前記第1仮想空間内の第1視点の位置から見て得られた2次元テクスチャを生成する第1生成処理と、
前記表示装置モデルを前記第2仮想空間内に設定する第2設定処理と、
前記表示装置モデルを前記第2仮想空間内の第2視点の位置から見て得られた映像を生成する第2生成処理と、
前記第1生成処理により生成された前記2次元テクスチャを、前記第2生成処理により生成された前記映像中の前記表示装置モデルに写像する写像処理と、
前記写像処理により前記2次元テクスチャが写像された前記映像を前記ディスプレイデバイスに表示する表示処理と、
を含む、請求項1に記載のプログラム。
【請求項3】
前記第1設定処理が、
ユーザーが前記入力デバイスを通じて入力したコマンド又は情報に基づいて前記建設機械モデルを前記第1仮想空間内において動作させる処理
を含む、請求項2に記載のプログラム。
【請求項4】
前記第1設定処理が、
ユーザーが前記入力デバイスを通じて入力したコマンド又は情報に基づいて前記第1視点の位置又はその視線の向きを変更する処理
を含む、請求項2又は3に記載のプログラム。
【請求項5】
前記第2設定処理が、
前記ディスプレイデバイスと一体に組まれた姿勢計測部によって計測された傾斜角に基づいて前記第2視点の位置及び視線の向きを設定する処理
を含む、請求項2又は3に記載のプログラム。
【請求項6】
前記第2設定処理が、
前記表示装置モデルとともに操縦室モデルを前記第2仮想空間内に設定する処理
を含み、
前記第2生成処理が、
前記表示装置モデルとともに前記操縦室モデルを前記第2視点の位置から見て得られた前記映像を生成する処理
を含む、請求項2又は3に記載のプログラム。
【請求項7】
前記第2設定処理が、
前記表示装置モデルとともに操縦レバーモデルを前記第2仮想空間内に設定する処理と、
ユーザーが前記入力デバイスを通じて入力したコマンド又は情報に基づいて前記操縦レバーモデルを前記第2仮想空間内において傾動させる処理と、
を含み、
前記第2生成処理が、
前記表示装置モデルとともに前記操縦レバーモデルを前記第2視点の位置から見て得られた前記映像を生成する処理
を含む、請求項2又は3に記載のプログラム。
【請求項8】
前記第1設定処理が、
前記建設機械モデルとともに施工対象モデルを前記第1仮想空間内に設定する処理
を含み、
前記第1生成処理が、
前記建設機械モデルとともに前記施工対象モデルを前記第1視点の位置から見て得られた前記2次元テクスチャを生成する処理
を含む、請求項2又は3に記載のプログラム。
【請求項9】
入力デバイスの出力信号により動作する第1仮想空間内の3次元の建設機械モデルが描画された第2仮想空間内の3次元の表示装置モデルをディスプレイデバイスに表示する仮想現実処理を実行するコンピューターを備えるシミュレーター。
【請求項10】
前記仮想現実処理が、
前記建設機械モデルを前記第1仮想空間内に設定する第1設定処理と、
前記建設機械モデルを前記第1仮想空間内の第1視点の位置から見て得られた2次元テクスチャを生成する第1生成処理と、
前記表示装置モデルを前記第2仮想空間内に設定する第2設定処理と、
前記表示装置モデルを前記第2仮想空間内の第2視点の位置から見て得られた映像を生成する第2生成処理と、
前記第1生成処理により生成された前記2次元テクスチャを、前記第2生成処理により生成された前記映像中の前記表示装置モデルに写像する写像処理と、
前記写像処理により前記2次元テクスチャが写像された前記映像を前記ディスプレイデバイスに表示する表示処理と、
を含む、請求項9に記載のシミュレーター。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、プログラム及びシミュレーターに関する。
【背景技術】
【0002】
特許文献1には、建設機械を遠隔操縦するためのシステムが開示されている。操縦室が作業現場の建設機械から離れた場所にあり、リモートコントローラー及びディスプレイがその操縦室に設置されている。作業現場のカメラが建設機械を撮影し、その撮影映像がディスプレイに表示される。操縦者は、ディスプレイを見ながら、リモートコントローラーを用いて建設機械を遠隔操縦する。
【0003】
ところが、映像信号及び操作信号が即座に伝送されることはなく、それらの信号の伝送には時間を要する。そのため、撮影映像は作業現場における撮影時刻から遅延してディスプレイに表示され、建設機械は操縦室における操作時刻から遅延して動作する。そのような課題を解決するために、特許文献2に開示の技術が提案されている。
【0004】
また、映像信号が伝送中に劣化し、ディスプレイに表示される映像が乱れる。そのような課題を解決するために、特許文献3に開示の技術が提案されている。
【0005】
また、操縦者がリモートコントローラーを通じた建設機械の操縦に集中するあまり、建設機械の異常な傾斜に気づかず、建設機械を誤って転倒させてしまうことがある。そのような課題を解決するために、特許文献4に開示の技術が開示されている。
【0006】
しかしながら、特許文献1乃至4の存在によっても、建設機械の遠隔操縦では、実機搭乗での操縦に比較して操縦者が受取る情報量は少なく、応答性も異なるなどの、操縦感覚上の特徴は解消しない。ゆえに、建設機械の遠隔操縦に携わるには、前記特徴を新たに会得する練習が不可欠となっている。
【0007】
前記練習は、本番と同じ遠隔操縦システムと、これによりリモートコントロールされる本番と同じ建設機械、及び、該建設機械が練習動作を行えて多少の失敗も安全に許される空間の、三点を準備できることが理想である。しかしリモートコントロールされる本番と同じ建設機械はまだしも、建設機械が安全に練習動作できる空間を常時用意することは経済的に難しい。せいぜい本番の工事を受注して現地乗込んだ後の段階に、試験施工と称して施主の了解を得たうえで、不自由で限定的な練習を行う状況にあった。
【0008】
いっぽう、建設機械の自由な練習空間を確保するための手段として模擬装置が用いられている。模擬装置は、建設機械の操縦室及び操縦レバーを模したものであって、ディスプレイに映る仮想的な建設機械モデルの操縦を実際の建設機械の操縦と同じ条件で再現できるようにしたものである。この模擬装置の構成は、遠隔操縦システムにも適用可能であり、具体的には、遠隔操縦室及び操縦レバーは模擬装置のままに、ディスプレイに映る操作対象を前記建設機械モデルから実機に差替えることにより、遠隔操縦システムが実現される。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特開2016-072727号公報
【特許文献2】特開2017-092908号公報
【特許文献3】特開2018-021395号公報
【特許文献4】特開2018-142123号公報
【発明の概要】
【発明が解決しようとする課題】
【0010】
特許文献1~4に開示の技術では、建設機械及び遠隔操縦装置を準備する必要があり、その準備に多大なコスト、時間及び労力を要する。模擬装置を用いた技術でも、模擬装置の準備に多大なコスト、時間及び労力を要する。ここでいう遠隔操縦装置とは、遠隔操縦室と、リモートコントローラーと、建設機械と、建設機械の作業空間周辺に複数設置したカメラと、カメラで撮影された映像を映出すとともに遠隔操縦室に設置されたディスプレイと、該ディスプレイへの映像伝送のための通信設備とを有するものである。ここでいう模擬装置とは、模擬的操縦室と、模擬的リモートコントローラーと、計算機で構築した仮想現実の練習空間と、該練習空間内の建設機械モデルと、該建設機械モデルおよび練習空間に配置した仮想カメラ視点の仮想現実風景を映出すディスプレイとを有するものである。
そこで、本発明の目的は、現実の建設機械と遠隔操縦装置、あるいは、遠隔操縦を模した模擬装置、これらどちらも用意ができないケースでも、建設機械の遠隔操縦練習をユーザーに実施できるプログラム及びシミュレーターを提供することである。
【課題を解決するための手段】
【0011】
以上の課題を解決するための本発明の第1の側面によれば、プログラムが、入力デバイスの出力信号により動作する第1仮想空間内の3次元の建設機械モデルが描画された第2仮想空間内の3次元の表示装置モデルをディスプレイデバイスに表示する仮想現実処理をコンピューターに実行させる。
【0012】
本発明の第2の側面によれば、前記仮想現実処理が、前記建設機械モデルを前記第1仮想空間内に設定する第1設定処理と、前記建設機械モデルを前記第1仮想空間内の第1視点の位置から見て得られた2次元テクスチャを生成する第1生成処理と、前記表示装置モデルを前記第2仮想空間内に設定する第2設定処理と、前記表示装置モデルを前記第2仮想空間内の第2視点の位置から見て得られた映像を生成する第2生成処理と、前記第1生成処理により生成された前記2次元テクスチャを、前記第2生成処理により生成された前記映像中の前記表示装置モデルに写像する写像処理と、前記写像処理により前記2次元テクスチャが写像された前記映像を前記ディスプレイデバイスに表示する表示処理と、を含む。
【0013】
本発明の第3の側面によれば、前記第1設定処理が、ユーザーが前記入力デバイスを通じて入力したコマンド又は情報に基づいて前記建設機械モデルを前記第1仮想空間内において動作させる処理を含む。
【0014】
本発明の第4の側面によれば、前記第1設定処理が、ユーザーが前記入力デバイスを通じて入力したコマンド又は情報に基づいて前記第1視点の位置又はその視線の向きを変更する処理を含む。
【0015】
本発明の第5の側面によれば、前記第2設定処理が、前記ディスプレイデバイスと一体に組まれた姿勢計測部によって計測された傾斜角に基づいて前記第2視点の位置及び視線の向きを設定する処理を含む。
【0016】
本発明の第6の側面によれば、前記第2設定処理が、前記表示装置モデルとともに操縦室モデルを前記第2仮想空間内に設定する処理を含み、前記第2生成処理が、前記表示装置モデルとともに前記操縦室モデルを前記第2視点の位置から見て得られた前記映像を生成する処理を含む。
【0017】
本発明の第7の側面によれば、前記第2設定処理が、前記表示装置モデルとともに操縦レバーモデルを前記第2仮想空間内に設定する処理と、ユーザーが前記入力デバイスを通じて入力したコマンド又は情報に基づいて前記操縦レバーモデルを前記第2仮想空間内において傾動させる処理と、を含み、前記第2生成処理が、前記表示装置モデルとともに前記操縦レバーモデルを前記第2視点の位置から見て得られた前記映像を生成する処理を含む。
【0018】
本発明の第8の側面によれば、前記第1設定処理が、前記建設機械モデルとともに施工対象モデルを前記第1仮想空間内に設定する処理を含み、前記第1生成処理が、前記建設機械モデルとともに前記施工対象モデルを前記第1視点の位置から見て得られた前記2次元テクスチャを生成する処理を含む。
【0019】
本発明の第9の側面によれば、シミュレーターが、前記コンピューターを備える。
【発明の効果】
【0020】
本発明によれば、現実の建設機械と遠隔操縦装置、あるいは、遠隔操縦を模した模擬装置、これらどちらも用意ができないケースでも、建設機械の遠隔操縦練習をユーザーに実施できるプログラム及びシミュレーターを提供できる。提供の効果として遠隔操縦練習の任意実施性、経済性が高まり、遠隔操縦の操縦者養成が効率的かつ経済的に実施できるようになる。
【図面の簡単な説明】
【0021】
【発明を実施するための形態】
【0022】
以下、図面を参照して、実施形態について説明する。ただし、本発明の範囲は、以下に開示された実施形態に限定されない。図面は例示のみのために提供されるため、本発明の範囲は図面の例示に限定されない。
【0023】
[1. 概要]
図1は、現実の空間5を示す図面である。
図2は、3次元の第1仮想空間80を示す図面である。
図3は、3次元の第2仮想空間90を示す図面である。
図4は、現実のシミュレーター1のブロック図である。
【0024】
図1に示すように、ユーザー8及びシミュレーター1が現実の空間5に存在する。
図1及び
図4に示すように、シミュレーター1は、表示装置10、入力デバイス20及びコンピューター30を備える。
【0025】
図2に示すように、建設機械モデル81及び施工対象モデル82が第1仮想空間80に存在する。建設機械モデル81及び施工対象モデル82は、コンピューター30による演算処理上において第1仮想空間80内に設定されて作成された仮想的且つ模擬的なものである。建設機械モデル81は、建設機械、特に掘削機をモデル化したものである。施工対象モデル82は、施工対象としてのトンネルをモデル化したものである。建設機械モデル81及び施工対象モデル82はポリゴンモデル、ワイヤフレームモデル、ソリッドモデル又はポイントクラウドモデルであるか、これらのモデルのうち2以上の組み合わせである。
【0026】
建設機械モデル81は、本体モデル81a、ブームモデル81b及びボーリングビットモデル81cを有する。本体モデル81aは、建設機械の本体及び走行体をモデル化したものである。ブームモデル81bは、建設機械のブームをモデル化したものである。ボーリングビットモデル81cは、建設機械のボーリングビットをモデル化したものである。ブームモデル81bが本体モデル81aの前端に結合され、ボーリングビットモデル81cがブームモデル81bの先端に結合される。
【0027】
施工対象モデル82は、施工対象としてのトンネルをモデル化したものである。施工対象モデル82は、内壁・床部分82a及び切羽部分82bを有する。内壁・床部分82aは、トンネルの内壁及び床をモデル化したものである。切羽部分82bは、トンネルの突き当たりとなる切羽をモデル化したものである。切羽部分82bは、内壁・床部分82aの前端に結合されている。
【0028】
図3に示すように、操縦室モデル91、複数の表示装置モデル92及び複数の操縦レバーモデル93が第2仮想空間90に存在する。第2仮想空間90内の表示装置モデル92、操縦レバーモデル93及び操縦室モデル91は、コンピューター30による演算処理上において設定されて作成された仮想的且つ模擬的なものである。表示装置モデル92は、フラットパネルディスプレイ装置をモデル化したものである。操縦レバーモデル93は、建設機械のコックピット内に設置される操縦レバーをモデル化したものである。操縦室モデル91は、建設機械のコックピットの内装をモデル化したものである。操縦室モデル91、表示装置モデル92及び操縦レバーモデル93を有するモデルは、建設機械の模擬装置及び遠隔操縦装置をモデル化したものである。
【0029】
第2仮想空間90内の表示装置モデル92、操縦レバーモデル93及び操縦室モデル91は、コンピューター30を用いた3次元コンピューターグラフィックスの技術により表示装置10に描画(render)される。表示装置モデル92が表示装置10に描画される際には、その表示装置モデル92が2次元であるところ、第1仮想空間80内の建設機械モデル81及び施工対象モデル82が2次元の表示装置モデル92に写像(map)される。
【0030】
ユーザー8が現実の空間5において表示装置10の表示を見ながら、入力デバイス20を使用して第1仮想空間80内の建設機械モデル81及び第2仮想空間90内の操縦レバーモデル93を操縦する。そうすると、コンピューター30が、入力デバイス20から転送された信号に従ってコンピューター30の演算処理上において第1仮想空間80内の建設機械モデル81を動作させるとともに、入力デバイス20から転送された信号に従ってコンピューター30の演算処理上において第2仮想空間90内の操縦レバーモデル93を動作させる。ユーザー8は、表示装置10を通じて建設機械の模擬装置の操縦を仮想現実的に体験できる上、表示装置10及び表示装置モデル92を通じて建設機械の操縦を仮想現実的に体験できる。特に、ユーザー8は、建設機械の遠隔操縦を仮想現実的に体験できる。
【0031】
建設機械モデル81の動作とは、次の(1)~(3)のことをいう。次の(1)~(3)の何れかの動作が単独に行われてもよいし、次の(1)~(3)のうち2以上の動作が組み合わせて行われてもよい。
(1) 建設機械モデル81が全体的に第1仮想空間80内にて移動すること
(2) ブームモデル81bが本体モデル81aに対して相対的に第1仮想空間80内にて傾動するとともに、ボーリングビットモデル81cがブームモデル81bの先端に追従すること
(3) ボーリングビットモデル81cがブームモデル81bに対して相対的に第1仮想空間80内にて回転すること
【0032】
操縦レバーモデル93の動作とは、操縦レバーモデル93が第2仮想空間90内にて傾動することをいう。
【0033】
第1仮想空間80における位置及びベクトルを表現する座標系を第1ワールド座標系といい、第2仮想空間90における位置及びベクトルを表現する座標系を第2ワールド座標系という。これらワールド座標系のことを絶対座標系ともいう。第1ワールド座標系は互いに直交するX1軸、Y1軸及びZ1軸によって定義され、第1仮想空間80における位置及びベクトルはX1座標、Y1座標、Z1座標によって表される。第2ワールド座標系は互いに直交するX2軸、Y2軸及びZ2軸によって定義され、第2仮想空間90における位置及びベクトルはX2座標、Y2座標、Z2座標によって表される。
【0034】
[2. 現実のシミュレーター]
上述のように、シミュレーター1は表示装置10、入力デバイス20及びコンピューター30を備える。以下、これらについて詳細に説明する。
【0035】
[2-1. 表示装置]
表示装置10は、ユーザー8の頭部に装着されるヘッドマウントディスプレイ装置である。表示装置10は、頭部装着具、インターフェース回路11、姿勢計測部12及び1体又は2体のディスプレイデバイス13を有する。
【0036】
頭部装着具は、ユーザー8の眼の前に配置されるようにユーザー8の頭部に装着される装着具である。頭部装着具は、例えばゴーグル、眼鏡、サングラス、眼鏡フレーム、サングラスフレーム、アイマスク及び眼帯等のような装着具を含む。インターフェース回路11、姿勢計測部12及びディスプレイデバイス13は頭部装着具に取り付けられている。これにより、インターフェース回路11、姿勢計測部12、ディスプレイデバイス13及び頭部装着具は一体に組まれている。
【0037】
姿勢計測部12は、表示装置10の姿勢、つまりロール角、ピッチ角及びヨー角を計測し、ロール角、ピッチ角及びヨー角の計測値を含む計測信号をインターフェース回路11を通じてコンピューター30に転送する。ロール角は、前後軸の回りの傾斜角のことをいう。ピッチ角は、左右軸の回りの傾斜角のことをいう。ヨー角は、上下軸の回りの傾斜角をいう。姿勢計測部12は、例えば3次元傾斜センサー及び3次元ジャイロ等のようなセンサーを含む。
【0038】
ディスプレイデバイス13の数が1である場合、このディスプレイデバイス13は両目用である。ディスプレイデバイス13の数が2である場合、一方のディスプレイデバイス13が左目用であり、他方のディスプレイデバイス13が右目用である。ディスプレイデバイス13は、コンピューター30からインターフェース回路11を通じてディスプレイデバイス13に転送された映像信号に従った映像を表示する。
【0039】
インターフェース回路11は、姿勢計測部12から計測信号を入力するとともに、その計測信号を所定のプロトコルに従ってコンピューター30へ出力する。インターフェース回路11は、コンピューター30から映像信号を入力するとともに、その映像信号を所定のプロトコルに従ってディスプレイデバイス13へ出力する。
【0040】
なお、表示装置10は、頭部に装着されずに据え置かれる液晶ディスプレイ、有機ELディスプレイ、プラズマディスプレイ又はプロジェクターであってもよい。この場合、表示装置10は姿勢計測部12を有さなくてもよく、また表示装置10は1体のディスプレイデバイス13を有する。
【0041】
[2-2. 入力デバイス]
入力デバイス20は、例えばボタン、キー、ジョイスティック、ゲームパッド、マウス、トラックボール、スタライス、タッチパネル、タッチパッド及びキーボードのうち1以上のデバイスを有する。入力デバイス20は、ユーザー8によって操作されることによってその操作に応じた出力信号をコンピューター30に入力する。これにより、ユーザー8は、入力デバイス20を通じてコンピューター30にコマンド及び情報を入力し得る。
【0042】
[2-3. コンピューター]
コンピューター30は、CPU、GPU、RAM、ROM、インターフェースデバイス及び記憶装置31等を有する。記憶装置31は、半導体メモリ又はハードディスクドライブを有する。オペレーションシステム(以下、OSという。)が記憶装置31に格納されることによって、OSがコンピューター30にインストールされている。コンピューター30は、記憶装置31からOSをCPUに読み取らせて、RAMを記憶領域又は作業領域として、OSをCPUにより実行することによってOSを動作させる。OSの動作中、コンピューター30は、GPU、RAM、ROM、インターフェースデバイス、記憶装置31及び表示装置10をOS上でCPUにより管理するとともに動作させる。
【0043】
プログラム32が記憶装置31に格納されることによって、プログラム32がコンピューター30にインストールされている。コンピューター30は、OS上で、プログラム32をCPU及びGPUにより実行する。
【0044】
建設機械モデルデータ33が記憶装置31に格納されている。建設機械モデルデータ33はCPU及びGPUに読み取り可能なデータである。建設機械モデルデータ33は、建設機械モデル81を設定するための3次元形状データである。建設機械モデルデータ33は本体モデルデータ33a、ブームモデルデータ33b及びボーリングビットモデルデータ33cを有する。
【0045】
本体モデルデータ33aは、本体モデル81aの設定のために、本体モデル81aを構成する複数の点、線、面及びベクトルを3次元のローカル座標系により表現する3次元形状データを有する。ローカル座標系とは、個々のモデルがもつ座標系のことをいう。ローカル座標系のことを相対座標系、個別座標系又はオブジェクト座標系ともいう。ローカル座標系は、互いに直交するx軸、y軸及びz軸によって定義され、ローカル座標系における位置はx座標、y座標、z座標によって表される。
【0046】
ブームモデルデータ33bは、ブームモデル81bの設定のために、ブームモデル81bを構成する複数の点、線、面及びベクトルを3次元のローカル座標系で表現する3次元形状データを有する。更に、ブームモデルデータ33bは、ブームモデル81bを本体モデルデータ33aに結合するための節点を本体モデル81aにおけるローカル座標系で表現する節点データを有する。
【0047】
ボーリングビットモデルデータ33cは、ボーリングビットモデル81cの設定のために、ボーリングビットモデル81cを構成する複数の点、線、面及びベクトルを3次元のローカル座標系により表現する3次元形状データを有する。更に、ブームモデルデータ33bは、ボーリングビットモデル81cをブームモデル81bに結合するための節点をブームモデル81bにおけるローカル座標系で表現する節点データを有する。
【0048】
施工対象モデルデータ34が記憶装置31に格納されている。施工対象モデルデータ34はCPU及びGPUに読み取り可能なデータである。施工対象モデルデータ34は、施工対象モデル82、つまり内壁・床部分82a及び切羽部分82bの設定のために、施工対象モデル82を構成する複数の点、線、面及びベクトルをローカル座標系で表現する3次元形状データを有する。施工対象モデルデータ34は、第1仮想空間80における施工対象モデル82の位置及び姿勢を定めて操縦室モデル91を第2仮想空間90に配置するために、操縦室モデル91の座標系をローカル座標系から第2ワールド座標系に変換する座標変換マトリクスを有する。
【0049】
操縦室モデルデータ35が記憶装置31に格納されている。操縦室モデルデータ35はCPU及びGPUに読み取り可能なデータである。操縦室モデルデータ35は、操縦室モデル91の設定のために、操縦室モデル91を構成する複数の点、線、面及びベクトルをローカル座標系で表現する3次元形状データを有する。操縦室モデルデータ35は、第2仮想空間90における操縦室モデル91の位置及び姿勢を定めて操縦室モデル91を第2仮想空間90に配置するために、操縦室モデル91の座標系をローカル座標系から第2ワールド座標系に変換する座標変換マトリクスを有する。
【0050】
表示装置モデルデータ36が記憶装置31に格納されている。表示装置モデルデータ36はCPU及びGPUに読み取り可能なデータである。表示装置モデルデータ36は、それぞれの表示装置モデル92の設定するために、それぞれの表示装置モデル92を構成する複数の点、線、面及びベクトルをローカル座標系で表現する3次元形状データを有する。表示装置モデルデータ36は、第2仮想空間90における表示装置モデル92の位置及び姿勢を定めて表示装置モデル92を第2仮想空間90に配置するために、表示装置モデル92の座標系をローカル座標系から第2ワールド座標系に変換する座標変換マトリクスを有する。
【0051】
操縦レバーモデルデータ37が記憶装置31に格納されている。操縦レバーモデルデータ37はCPU及びGPUに読み取り可能なデータである。操縦レバーモデルデータ37は、操縦レバーモデル93の設定のために、それぞれの操縦レバーモデル93を構成する複数の点、線、面及びベクトルをローカル座標系で表現する3次元形状データを有する。操縦レバーモデルデータ37は、操縦レバーモデル93を操縦室モデル91に結合するための節点を第2ワールド座標系で表現する節点データを有する。
【0052】
[2-4. プログラムに従ったコンピューターの処理手順]
コンピューター30は、プログラム32に従って以下のような処理をCPU及びGPUにより実行する。
【0053】
(1) 第1仮想空間における建設機械モデル及び施工対象モデルの設定
コンピューター30は、施工対象モデルデータ34に従って、施工対象モデル82を第1仮想空間80に設定する。
【0054】
コンピューター30は、本体モデルデータ33a、ブームモデルデータ33b及びボーリングビットモデルデータ33cの3次元形状データに従って、本体モデル81a、ブームモデル81b及びボーリングビットモデル81cをそれぞれのローカル座標系の3次元ローカル空間に設定する。
【0055】
コンピューター30は、ボーリングビットモデルデータ33cの節点データと入力デバイス20の出力信号(つまり、ユーザー8が入力デバイス20を通じて入力したコマンド又は情報)とに基づいた座標変換マトリクスを用いて、ボーリングビットモデル81cの座標系をボーリングビットモデル81cのローカル座標系からブームモデル81bのローカル座標系に変換する。これにより、ボーリングビットモデル81c及びブームモデル81bが同一の3次元ローカル空間に設定され、ボーリングビットモデル81cが節点を介してブームモデル81bに結合される。ここで、ブームモデル81bに対するボーリングビットモデル81cの相対的な姿勢が入力デバイス20の出力信号に基づいて決まるように、ボーリングビットモデル81cの座標系をボーリングビットモデル81cのローカル座標系からブームモデル81bのローカル座標系に変換するための座標変換マトリクスは、コンピューター30が入力デバイス20の出力信号に基づいて算出したものである。従って、ユーザー8が入力デバイス20を操作することによってボーリングビットモデル81cの回転の指令をコンピューター30に入力すれば、ボーリングビットモデル81cの姿勢が変化してボーリングビットモデル81cが回転する。
【0056】
コンピューター30は、ブームモデルデータ33bの節点データと入力デバイス20の出力信号とに基づいた座標変換マトリクスを用いて、ブームモデル81b及びボーリングビットモデル81cの座標系をブームモデル81bのローカル座標系から本体モデル81aのローカル座標系に変換する。これにより、ボーリングビットモデル81c、ブームモデル81b及び本体モデル81aが同一の3次元ローカル空間に設定され、ブームモデル81bが本体モデル81aに結合される。ここで、本体モデル81aに対するブームモデル81bの相対的な姿勢が入力デバイス20の出力信号に基づいて決まるように、ブームモデル81b及びボーリングビットモデル81cの座標系をブームモデル81bのローカル座標系から本体モデル81aのローカル座標系に変換するための座標変換マトリクスは、コンピューター30が入力デバイス20の出力信号に基づいて算出したものである。従って、ユーザー8が入力デバイス20を操作することによってブームモデル81bの傾動の指令をコンピューター30に入力すれば、ブームモデル81bの姿勢が変化してブームモデル81bが傾動する。ボーリングビットモデル81cは、ブームモデル81bの傾動に従いブームモデル81bの先端に追従する。
【0057】
コンピューター30は、入力デバイス20の出力信号に基づいた座標変換マトリクスを用いて、本体モデル81a、ブームモデル81b及びボーリングビットモデル81cの座標系を本体モデル81aのローカル座標系から第1ワールド座標系に変換する。これにより、本体モデル81a、ボーリングビットモデル81c及びブームモデル81bが第1仮想空間80に設定される。ここで、第1仮想空間80における本体モデル81aの位置及び姿勢が入力デバイス20の出力信号に基づいて決まるように、本体モデル81a、ブームモデル81b及びボーリングビットモデル81cの座標系をローカル座標系から第1ワールド座標系に座標変換するための座標変換マトリクスは、コンピューター30が入力デバイス20の出力信号に基づいて算出したものである。従って、ユーザー8が入力デバイス20を操作することによって本体モデル81aの移動の指令をコンピューター30に入力すれば、本体モデル81aが変位して移動する。ブームモデル81bは、本体モデル81aの移動に従い本体モデル81aに追従する。ボーリングビットモデル81cは、本体モデル81aの移動に従いブームモデル81bの先端に追従する。
【0058】
以上のように施工対象モデル82及び建設機械モデル81が第1仮想空間80に設定されることによって、建設機械モデル81が施工対象モデル82の内壁・床部分82aの内側に配置される。また、ユーザー8が入力デバイス20を操作することによって建設機械モデル81の動作の指令をコンピューター30に入力すれば、建設機械モデル81が施工対象モデル82の内壁・床部分82aの内側において動作する。ここで、建設機械モデル81の動作とは、上述のようにボーリングビットモデル81cの回転、ブームモデル81bの傾動及び本体モデル81aの移動のことである。
【0059】
(2) 2次元テクスチャの生成
コンピューター30は、第1仮想空間80内の施工対象モデル82及び建設機械モデル81を互いに異なる位置から見て得られた複数の2次元テクスチャを生成する。複数の2次元テクスチャには、施工対象モデル82及び建設機械モデル81が描画されている。以下、2次元テクスチャの生成について詳細に説明する。
【0060】
コンピューター30は、複数の表示装置モデル92にそれぞれ対応する複数の視点88を第1仮想空間80に設定する。具体的には、コンピューター30は、第1仮想空間80における視点88の位置、視線ベクトル及び上向きベクトルを視点88ごとに設定することによって、視点88の位置、視線ベクトル及び上向きベクトルによって定められる第1ビュー変換マトリクスを視点88ごとに設定する。
【0061】
コンピューター30は、視点88ごとの第1ビュー変換マトリクスを用いて、施工対象モデル82及び建設機械モデル81の座標系を第1ワールド座標系から第1ビュー座標系に視点88ごとに変換する。第1ビュー座標系に関しては、第1ビュー座標系の原点が視点88の位置であり、その第1ビュー座標系を定義する直交三軸のうちX3軸及びY3軸に平行な平面が視点88の視線ベクトルに対して直交し、Y3軸が視点88の上向きベクトルに対して平行であり、Z3軸が視点88の視線ベクトルに対して平行である。
【0062】
コンピューター30は、施工対象モデル82及び建設機械モデル81を視点88の視線ベクトルに垂直な第1平面に視点88ごとに透視投影するよう、施工対象モデル82及び建設機械モデル81の座標系を3次元の第1ビュー座標系から2次元の第1直交座標系に視点88ごとに変換する。透視投影の際、コンピューター30が隠線処理を実行する。
【0063】
コンピューター30は、2次元の第1直交座標系における2次元の施工対象モデル82及び建設機械モデル81のレンダリング処理を行うことによって、施工対象モデル82及び建設機械モデル81をラスタライズ化する。これにより、施工対象モデル82及び建設機械モデル81をラスタライズ化して得られた2次元テクスチャが視点88ごとに生成される。2次元テクスチャは、視点88ごとに視点88に対応づけられ、これにより表示装置モデル92ごとに表示装置モデル92に対応づけられる。2次元テクスチャには、施工対象モデル82及び建設機械モデル81が描画されている。
【0064】
なお、ユーザー8が入力デバイス20を操作することによって建設機械モデル81の動作の指令をコンピューター30に入力すれば、建設機械モデル81が第2仮想空間90内にて動作する。そのため、2次元テクスチャが時間経過に伴い更新されると、2次元テクスチャに描画される建設機械モデル81が時間経過に伴い動作する。
【0065】
ユーザー8が入力デバイス20を操作することによて視点88の位置、視線ベクトル又は上向きベクトルの変更をコンピューター30に入力すれば、コンピューター30が視点88の位置、視線ベクトル又は上向きベクトルを変更する。そのため、2次元テクスチャが時間経過に伴い更新されると、現実の建設機械を撮影する現実のカメラの位置及び向きの変更と同等の効果が得られる。
【0066】
なお、コンピューター30が、建設機械モデル81の操縦のためのガイダンスを2次元テクスチャに合成してもよい。ガイダンスとは、施工対象の完成状態を図面、記号又は数値で表したもの、或いは建設機械モデル81の移動先を案内又はアドバイスするための図面、記号、文字又は数値をいう。
【0067】
(3) 第2仮想空間における操縦室モデル、表示装置モデル及び操縦レバーモデルの設定
コンピューター30は、操縦室モデルデータ35に従って、操縦室モデル91を第2仮想空間90に設定する。
【0068】
コンピューター30は、表示装置モデルデータ36の3次元形状データに従って、表示装置モデル92をそのローカル座標系の3次元ローカル空間に設定する。コンピューター30は、表示装置モデルデータ36の座標変換マトリクスに基づいて、表示装置モデル92を表示装置モデル92のローカル座標系から第2ワールド座標系に座標変換する。これにより、コンピューター30は、表示装置モデル92を第2仮想空間90に設定する。
【0069】
コンピューター30は、操縦レバーモデルデータ37の3次元形状データに従って、操縦レバーモデル93をそのローカル座標系の3次元ローカル空間に設定する。コンピューター30は、操縦レバーモデルデータ37の節点データと入力デバイス20の出力信号とに基づいた座標変換マトリクスを用いて、操縦レバーモデル93を操縦レバーモデル93のローカル座標系から第2ワールド座標系に座標変換する。これにより、コンピューター30は、操縦レバーモデル93を第2仮想空間90に設定する。第2仮想空間90における操縦レバーモデル93の姿勢が入力デバイス20の出力信号に基づいて決まるように、操縦レバーモデル93をそのローカル座標系から第2ワールド座標系に座標変換するための座標変換マトリクスは、コンピューター30が入力デバイス20の出力信号に基づいて算出したものである。従って、ユーザー8が入力デバイス20を操作することによって操縦レバーモデル93の傾動の指令をコンピューター30に入力すれば、操縦レバーモデル93の姿勢が変化して、操縦レバーモデル93が傾動する。なお、操縦レバーモデル93の傾動は、建設機械モデル81の動作に連動する。
【0070】
(4) 映像の生成
コンピューター30は、第2仮想空間90内の操縦室モデル91、表示装置モデル92及び操縦レバーモデル93を所定の位置から見て得られた映像を生成する。ディスプレイデバイス13の数が2である場合、コンピューター30は2つの映像を生成する。映像には、操縦室モデル91、表示装置モデル92及び操縦レバーモデル93が描画されている。以下、映像の生成について詳細に説明する。
【0071】
コンピューター30は、姿勢計測部12の計測信号に基づいて、ディスプレイデバイス13の同数の視点98を設定する。具体的には、コンピューター30は、第2仮想空間90における視点98の位置、視線ベクトル及び上向きベクトルを設定することによって、その視点98の位置、視線ベクトル及び上向きベクトルによって定められる第2ビュー変換マトリクスを設定する。視点98の数が1又は2の何れの場合でも、視点98の位置は、第2仮想空間90における表示装置モデル92の前である。視点98の数が2の場合、コンピューター30は視点98ごとに視点98の位置、視線ベクトル及び上向きベクトルを設定するところ、2つの視点98の位置が互いに離れ、2つの視点98の視線ベクトルが互いに平行であり、2つの視点98の上向きベクトルが互いに平行である。そのため、2つの視点98には、視差が生じる。
【0072】
ここで、コンピューター30は、姿勢計測部12の計測信号に基づいて視点98の視線ベクトル及び上向きベクトルを設定する。従って、ユーザー8が頭部を動かすと、姿勢計測部12によって計測されるロール角、ピッチ角及びヨー角の計測値が変化するため、視点98の視線ベクトル及び上向きベクトルの方向が変化する。
【0073】
コンピューター30は、第2ビュー変換マトリクスを用いて、操縦室モデル91、表示装置モデル92及び操縦レバーモデル93を第2ワールド座標系から第2ビュー座標系に座標変換する。視点98の位置が第2ビュー座標系の原点であり、そのビュー座標系を定義する直交三軸のうちX4軸及びY4軸に平行な平面が視点98の視線ベクトルに対して直交し、Y4軸が視点98の上向きベクトルに対して平行であり、Z4軸が視点98の視線ベクトルに対して平行である。
【0074】
コンピューター30は、操縦室モデル91、表示装置モデル92及び操縦レバーモデル93を視点98の視線ベクトルに垂直な第2平面に透視投影するよう、操縦室モデル91、表示装置モデル92及び操縦レバーモデル93の座標系を3次元の第2ビュー座標系から2次元の第2直交座標系に変換する。透視投影の際、コンピューター30が隠線処理を実行する。
【0075】
コンピューター30は、第2直交座標系における2次元の操縦室モデル91、表示装置モデル92及び操縦レバーモデル93のレンダリング処理を行うことによって、操縦室モデル91、表示装置モデル92及び操縦レバーモデル93をラスタライズ化する。これにより、操縦室モデル91、表示装置モデル92及び操縦レバーモデル93をラスタライズ化して得られた映像が生成される。映像には、操縦室モデル91、表示装置モデル92及び操縦レバーモデル93が描画されている。
【0076】
(5) 写像(マッピング)
コンピューター30は、複数の視点88にそれぞれ対応する複数の表示装置モデル92ごとに、施工対象モデル82及び建設機械モデル81が描画された2次元テクスチャの座標系を第1直交座標系から映像の第2直交座標系に変換することによって、2次元テクスチャを映像中の表示装置モデル92に写像する。具体的には、コンピューター30は、2次元テクスチャをアフィン変換又は射影変換することによって、2次元テクスチャを映像中の表示装置モデル92に写像する。これにより2次元テクスチャが映像に合成される。
【0077】
視点98の数及びディスプレイデバイス13の数が2である場合、2つの映像のどちらにも2次元テクスチャが合成される。
【0078】
なお、コンピューター30が、建設機械モデル81の操縦のためのガイダンスを映像に合成してもよい。ガイダンスとは、施工対象の完成状態を図面、記号又は数値で表したもの、或いは建設機械モデル81の移動先を案内又はアドバイスするための図面、記号、文字又は数値をいう。
【0079】
(6) 表示
コンピューター30は、2次元テクスチャが合成された映像を映像信号に変換して、映像信号を表示装置10のディスプレイデバイス13に出力する。なお、視点98の数及びディスプレイデバイス13の数が2である場合、コンピューター30は、2次元テクスチャが合成された映像ごとに映像信号を生成し、映像ごとの映像信号をディスプレイデバイス13にそれぞれ出力する。
【0080】
[3. 有利な技術的効果]
(1) 現実の模擬装置、遠隔操縦装置及び建設機械がなくとも、ユーザー8は、建設機械の模擬装置の操縦と、建設機械の遠隔操縦装置の操縦と、建設機械の操縦特に遠隔操縦とを仮想現実的に体験できる。つまり、シミュレーター1及びプログラム32は、遠隔操縦練習の任意実施性を高めるとともに、遠隔操縦の操縦者養成の効率性を高める。
【0081】
(2) 現実の模擬装置、遠隔操縦装置及び建設機械を必要としないため、低コストなシミュレーター1を提供することができる。つまり、シミュレーター1及びプログラム32は、遠隔操縦の練習を経済的に実施できるという効果をもたらす。
【0082】
(3) ユーザー8が入力デバイス20を操作することによって視点88の位置、視線ベクトル又は上向きベクトルの変更をコンピューター30に入力すれば、現実の建設機械を撮影する現実のカメラの位置及び向きの変更と同等の効果が得られる。従って、現実のカメラの位置及び向きで撮影される現実の建設機械の見え方を仮想現実的に体験できる。その体験を現実の建設機械の遠隔操縦装置の設計・開発に活用できる。
【0083】
(4) このシミュレーター1は、建設機械の操縦訓練及び予行演習に利用することができる。また、このシミュレーター1は、建設機械の操縦に慣れていない未熟練者の教育に利用することができる。つまり、シミュレーター1及びプログラム32は、遠隔操縦者の養成を経済的に実施できるという効果をもたらす。
【0084】
(5) 操縦室モデル91、表示装置モデル92及び操縦レバーモデル93が映った映像は2次元である。その映像に写像されるテクスチャも2次元である。よって、コンピューター30の処理負担が軽い。
【0085】
(6) 視点98の数及びディスプレイデバイス13の数が2である場合、視差が視点98に生じるから、表示装置10に表示される操縦室モデル91、表示装置モデル92及び操縦レバーモデル93が立体的に見える。よって、ユーザー8は、没入感を持って、建設機械の模擬装置の操縦と、建設機械の遠隔操縦装置の操縦と、建設機械の遠隔操縦とを仮想現実的に体験できる。
【0086】
[4. 変形例]
なお、本発明は上記実施形態に限られるものではない。上記実施形態が例えば以下のように変更されてもよい。
【0087】
(1) コンピューター30が、第1仮想空間80内の施工対象モデル82及び建設機械モデル81を視点88の位置から見て得られた映像を生成して、その映像を映像信号に変換し、その映像信号を表示装置10のディスプレイデバイス13に出力してもよい。
【0088】
(2) コンピューター30が他のコンピューターからプログラム32及びデータ33~37をダウンロードして、プログラム32及びデータ33~37を記憶装置31に記録してもよい。
【0089】
(3) プログラム32及びデータ33~37がクラウドコンピューターの記憶装置に記憶され、クラウドコンピューターがプログラム32を実行してもよい。この場合、コンピューター30がリモートデスクトップ技術によりクラウドコンピューターに接続し、クラウドコンピューターがプログラム32を実行することによって映像をコンピューター30に転送し、コンピューター30がその映像をディスプレイデバイス13に表示してもよい。
【0090】
(4) 上記実施形態では、施工対象モデル82、建設機械モデル81、操縦室モデル91、表示装置モデル92及び操縦レバーモデル93のラスタライズ化後に、コンピューター30が2次元テクスチャを映像に写像する。それに対して、コンピューター30が2次元テクスチャを映像に写像した後、その映像の中の施工対象モデル82、建設機械モデル81、操縦室モデル91、表示装置モデル92及び操縦レバーモデル93をラスタライズ化してもよい。
【符号の説明】
【0091】
10 表示装置
12 姿勢計測部
13 ディスプレイデバイス
20 入力デバイス
30 コンピューター
32 プログラム
80 第1仮想空間
81 建設機械モデル
82 施工対象モデル
88 第1視点
90 第2仮想空間
91 操縦室モデル
92 表示装置モデル
93 操縦レバーモデル
98 第2視点