(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023168709
(43)【公開日】2023-11-29
(54)【発明の名称】シミュレーション装置、制御方法、及び制御プログラム
(51)【国際特許分類】
G09B 9/042 20060101AFI20231121BHJP
G09B 9/05 20060101ALI20231121BHJP
G06F 3/01 20060101ALI20231121BHJP
E21B 7/02 20060101ALI20231121BHJP
【FI】
G09B9/042 Z
G09B9/05 A
G09B9/05 E
G06F3/01 510
E21B7/02
【審査請求】未請求
【請求項の数】5
【出願形態】OL
(21)【出願番号】P 2022079976
(22)【出願日】2022-05-16
(71)【出願人】
【識別番号】000165974
【氏名又は名称】古河機械金属株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】鶴見 翔太
【テーマコード(参考)】
2D129
5E555
【Fターム(参考)】
2D129AA04
2D129AB13
2D129BA16
2D129BA30
2D129DC13
2D129DC15
5E555AA22
5E555AA25
5E555AA26
5E555AA64
5E555BA38
5E555BB38
5E555BC04
5E555BE17
5E555CA10
5E555CA42
5E555CB21
5E555DA08
5E555DA09
5E555DB41
5E555DB53
5E555DC09
5E555DC10
5E555DC13
5E555DC23
5E555DC61
5E555DD08
5E555FA00
(57)【要約】
【課題】穿孔機械の操作の技能を訓練者に容易に習得させること。
【解決手段】シミュレーション装置は、複数の模擬操作部31を有する模擬操作装置3と、穿孔機械を仮想的に構成した第1の仮想モデルの画像を表示する表示装置4と、第1の仮想モデルの画像を表示装置4に表示させる制御装置6とを備える。制御装置6は、特定の作業工程を構成する複数の操作手順毎にそれぞれ設けられ、当該操作手順を説明する案内情報を、複数の操作部を仮想的に構成した第1の仮想モデルの画像と干渉しないように、当該複数の操作手順毎に順次、表示装置4に表示させる表示制御部635を備える。
【選択図】
図3
【特許請求の範囲】
【請求項1】
穿孔機械に設けられ、当該穿孔機械を動作させるために用いられる複数の操作部をそれぞれ擬似的に再現した複数の模擬操作部を有する模擬操作装置と、
前記穿孔機械を仮想的に構成した第1の仮想モデルの画像を表示する表示装置と、
前記第1の仮想モデルの画像を前記表示装置に表示させるとともに、当該第1の仮想モデルの画像のうち、ユーザによって操作された前記模擬操作部に対応する当該第1の仮想モデルの部位を当該模擬操作部への操作に応じて擬似的に動作させる制御装置とを備え、
前記制御装置は、
特定の作業工程を構成する複数の操作手順毎にそれぞれ設けられ、当該操作手順を説明する案内情報を、前記複数の操作部を仮想的に構成した前記第1の仮想モデルの画像と干渉しないように、当該複数の操作手順毎に順次、前記表示装置に表示させる表示制御部を備えるシミュレーション装置。
【請求項2】
前記表示制御部は、
前記複数の模擬操作部のうち、前記操作手順における操作対象となる模擬操作部が操作された場合に、次の前記案内情報の表示に切り替える請求項1に記載のシミュレーション装置。
【請求項3】
ユーザに装着され、当該ユーザの視界に応じた実像を取得する撮影装置をさらに備え、
前記表示装置は、
前記ユーザに装着され、
前記表示制御部は、
前記ユーザの視線方向に応じて、前記第1の仮想モデルが配置される仮想空間上に配置され、画像が投影されるスクリーンとして機能する第2の仮想モデルに前記実像を投影することで当該実像と前記第1の仮想モデルの画像との双方を前記表示装置に表示させるとともに、前記実像の表示に干渉しないように、前記案内情報を前記表示装置に表示させる請求項1または2に記載のシミュレーション装置。
【請求項4】
穿孔機械のシミュレーション装置の制御装置が実行する制御方法であって、
特定の作業工程を構成する複数の操作手順毎にそれぞれ設けられ、当該操作手順を説明する案内情報を記憶部から読み出し、前記穿孔機械を動作させるために用いられる複数の操作部を仮想的に構成した第1の仮想モデルの画像と干渉しないように、当該複数の操作手順毎に、順次、表示装置に表示させる表示処理ステップを含む制御方法。
【請求項5】
特定の作業工程を構成する複数の操作手順毎にそれぞれ設けられ、当該操作手順を説明する案内情報を記憶部から読み出し、穿孔機械を動作させるために用いられる複数の操作部を仮想的に構成した第1の仮想モデルの画像と干渉しないように、当該複数の操作手順毎に、順次、表示装置に表示させる表示処理ステップをコンピュータに実行させるための制御プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、シミュレーション装置、制御方法、及び制御プログラムに関する。
【背景技術】
【0002】
従来、採石場や石灰石鉱山等では、岩盤に発破孔を穿孔するために穿孔機械が使用されている(例えば、特許文献1参照)。
このような穿孔機械では、送り機構によってさく岩機の先端に装着された工具を破砕対象へと押し付け、当該工具を介して、打撃機構で発生する衝撃力と回転機構で発生する回転力とを破砕対象へと伝達することで発破孔を穿孔する。そして、このような穿孔作業では、ブーム及びガイドシェルの位置決め、送り機構、打撃機構、及び回転機構の作動、セントラライザやロッドチェンジャの作動等が行われる。すなわち、当該穿孔機械では、操作対象が多岐にわたり、それぞれの操作対象を作動させるための多くの操作部が設けられている。
【0003】
そして、上述したように穿孔機械には多くの操作部が設けられているため、当該穿孔機械の操作の技能を習得することは容易ではない。
そこで、穿孔機械の実機を使用せずに当該穿孔機械の操作の技能習得を行うためのシミュレーション装置を利用することが考えられる。例えば、当該シミュレーション装置は、訓練者に装着させたヘッドマウントディスプレイ等の表示装置を介して、穿孔機械を仮想的に構成した仮想モデルの画像(以下、モデル画像と記載)を当該訓練者に視認させる。また、当該シミュレーション装置は、穿孔機械に設けられた複数の操作部を擬似的に再現した複数の擬似操作部のいずれかの擬似操作部への訓練者の操作に応じて、モデル画像のうち、当該擬似操作部に対応するブーム等の部位を表示装置における表示画面上で擬似的に動作させる。
従来、このようなシミュレーション装置として、フォークリフト等の作業車両のシミュレーション装置が提案されている(例えば、特許文献2参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2000-303768号公報
【特許文献2】特開2004-252024号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、穿孔機械のシミュレーション装置においても、当該穿孔機械に設けられた操作部と同様に模擬操作部の数も非常に多い。このため、訓練者は、当該シミュレーション装置を用いて、特定の作業工程の技能を習得するにあたって、当該作業工程を完了するまでの複数の模擬操作部の操作順や操作内容を把握することが難しく、習得するのが容易ではなかった。
【0006】
本発明は、上記に鑑みてなされたものであって、穿孔機械の操作の技能を訓練者に容易に習得させることができるシミュレーション装置、制御方法、及び制御プログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
上述した課題を解決し、目的を達成するために、本発明に係るシミュレーション装置は、穿孔機械に設けられ、当該穿孔機械を動作させるために用いられる複数の操作部をそれぞれ擬似的に再現した複数の模擬操作部を有する模擬操作装置と、前記穿孔機械を仮想的に構成した第1の仮想モデルの画像を表示する表示装置と、前記第1の仮想モデルの画像を前記表示装置に表示させるとともに、当該第1の仮想モデルの画像のうち、ユーザによって操作された前記模擬操作部に対応する当該第1の仮想モデルの部位を当該模擬操作部への操作に応じて擬似的に動作させる制御装置とを備え、前記制御装置は、特定の作業工程を構成する複数の操作手順毎にそれぞれ設けられ、当該操作手順を説明する案内情報を、前記複数の操作部を仮想的に構成した前記第1の仮想モデルの画像と干渉しないように、当該複数の操作手順毎に順次、前記表示装置に表示させる表示制御部を備える。
【0008】
また、本発明に係るシミュレーション装置では、前記表示制御部は、前記複数の模擬操作部のうち、前記操作手順における操作対象となる模擬操作部が操作された場合に、次の前記案内情報の表示に切り替える。
【0009】
また、本発明に係るシミュレーション装置では、ユーザに装着され、当該ユーザの視界に応じた実像を取得する撮影装置をさらに備え、前記表示装置は、前記ユーザに装着され、前記表示制御部は、前記ユーザの視線方向に応じて、前記第1の仮想モデルが配置される仮想空間上に配置され、画像が投影されるスクリーンとして機能する第2の仮想モデルに前記実像を投影することで当該実像と前記第1の仮想モデルの画像との双方を前記表示装置に表示させるとともに、前記実像の表示に干渉しないように、前記案内情報を前記表示装置に表示させる。
【0010】
また、本発明に係る制御方法は、穿孔機械のシミュレーション装置の制御装置が実行する制御方法であって、特定の作業工程を構成する複数の操作手順毎にそれぞれ設けられ、当該操作手順を説明する案内情報を記憶部から読み出し、前記穿孔機械を動作させるために用いられる複数の操作部を仮想的に構成した第1の仮想モデルの画像と干渉しないように、当該複数の操作手順毎に、順次、表示装置に表示させる表示処理ステップを含む。
【0011】
また、本発明に係る制御プログラムは、特定の作業工程を構成する複数の操作手順毎にそれぞれ設けられ、当該操作手順を説明する案内情報を記憶部から読み出し、穿孔機械を動作させるために用いられる複数の操作部を仮想的に構成した第1の仮想モデルの画像と干渉しないように、当該複数の操作手順毎に、順次、表示装置に表示させる表示処理ステップをコンピュータに実行させるための制御プログラムである。
【発明の効果】
【0012】
本発明に係るシミュレーション装置、制御方法、及び制御プログラムによれば、穿孔機械の操作の技能を訓練者に容易に習得させることができる。
【図面の簡単な説明】
【0013】
【
図1】
図1は、実施の形態に係るシミュレーション装置によって操作の技能習得を行う対象となる穿孔機械を示す図である。
【
図2】
図2は、実施の形態に係るシミュレーション装置の構成を示す図である。
【
図3】
図3は、制御装置の構成を示すブロック図である。
【
図4】
図4は、制御方法を示すフローチャートである。
【
図5】
図5は、ステップS1~S4の1回目のループにおける案内情報表示処理(ステップS2)にて表示部に表示される表示画像の具体例を示す図である。
【
図6】
図6は、ステップS1~S4の1回目のループにおける案内情報表示処理(ステップS2)にて表示部に表示される表示画像の具体例を示す図である。
【
図7】
図7は、ステップS1~S4の2回目のループにおける案内情報表示処理(ステップS2)にて表示部に表示される表示画像の具体例を示す図である。
【
図8】
図8は、ステップS1~S4の4回目のループにおける案内情報表示処理(ステップS2)にて表示部に表示される表示画像の具体例を示す図である。
【
図9】
図9は、ステップS1~S4の5回目のループにおける案内情報表示処理(ステップS2)にて表示部に表示される表示画像の具体例を示す図である。
【
図10】
図10は、ステップS1~S4の6回目のループにおける案内情報表示処理(ステップS2)にて表示部に表示される表示画像の具体例を示す図である。
【
図11】
図11は、ステップS1~S4の7回目のループにおける案内情報表示処理(ステップS2)にて表示部に表示される表示画像の具体例を示す図である。
【
図12】
図12は、ステップS1~S4の8回目のループにおける案内情報表示処理(ステップS2)にて表示部に表示される表示画像の具体例を示す図である。
【
図13】
図13は、ステップS1~S4の9回目のループにおける案内情報表示処理(ステップS2)にて表示部に表示される表示画像の具体例を示す図である。
【発明を実施するための形態】
【0014】
以下に、図面を参照しつつ、本発明を実施するための形態(以下、実施の形態)について説明する。なお、以下に説明する実施の形態によって本発明が限定されるものではない。さらに、図面の記載において、同一の部分には同一の符号を付している。
【0015】
〔穿孔機械の概略構成〕
図1は、実施の形態に係るシミュレーション装置1によって操作の技能習得を行う対象となる穿孔機械100を示す図である。
先ず、本実施の形態に係るシミュレーション装置1の構成を説明する前に、当該シミュレーション装置1によって操作の技能習得を行う対象となる穿孔機械100の構成について説明する。
なお、穿孔機械100を説明するにあたって、以下に示す「前方側」とは、
図1に示す右側を意味する。
【0016】
穿孔機械100は、作業者の操作に応じて岩盤に発破孔を穿孔する。この穿孔機械100は、
図1に示すように、左右一対のトラック111(
図1では一方のトラック111のみを図示)を有する走行台車110と、当該走行台車110上にそれぞれ搭載されたブーム120、さく岩ユニット130、及び操縦室140とを備える。
【0017】
ブーム120は、走行台車110上の右斜め前方側において、鉛直方向に沿う旋回軸121(
図1)を中心として回転(以下、旋回と記載)可能、及び、水平方向(前後方向)に沿う起伏軸122(
図1)を中心として回転(以下、起伏と記載)可能に設けられている。
【0018】
さく岩ユニット130は、
図1に示すように、ブーム120の先端部分に装着されている。このさく岩ユニット130は、ブーム120の先端部分に装着されたガイドシェル131と、当該ガイドシェル131の長手方向に沿って当該ガイドシェル131上を前進後退可能に設けられたさく岩機132と、当該さく岩機132の先端に装着された工具133とを備える。
【0019】
ここで、ガイドシェル131は、ブーム120の先端部分に対して前後方向に揺動(以下、チルトと記載)可能、左右方向に揺動(以下、スイングと記載)可能、及び上下方向にスライド可能に設けられている。また、さく岩機132は、ガイドシェル131に設けられた送り機構(図示略)によって当該ガイドシェル131上を前進後退するとともに、公知の打撃機構(図示略)及び回転機構(図示略)を備える。また、工具133は、具体的な図示は省略したが、シャンクロッド、スリーブ、ロッド、及びビットを基端側からこの順に接続されたものである。
【0020】
そして、穿孔機械100では、以下に示すように、破砕対象に発破孔を穿孔する。
すなわち、ブーム120の旋回動作や起伏動作と、ガイドシェル131のチルト動作、スイング動作、及びスライド動作とによって、さく岩ユニット130を破砕対象に対する所望の位置に位置付ける。この後、送り機構(図示略)によって工具133を破砕対象へと押し付け、打撃機構(図示略)で発生する衝撃力と回転機構(図示略)で発生する回転力とを当該工具133を介して当該破砕対象へ伝達して発破孔を穿孔する。
【0021】
操縦室140は、
図1に示すように、走行台車110上の左斜め前方側に設けられている。そして、操縦室140内には、
図1に示すように、穿孔機械100を操作する作業者が着座する運転席141が設けられている。また、運転席141の両側方には、具体的な図示は省略したが、穿孔機械100を動作させるために用いられる複数の操作部が設けられている。
【0022】
〔シミュレーション装置の概略構成〕
次に、シミュレーション装置1の構成について説明する。
図2は、実施の形態に係るシミュレーション装置1の構成を示す図である。
シミュレーション装置1は、
図2に示すように、訓練席2と、模擬操作装置3と、ヘッドマウントディスプレイ4と、ベースステーション5と、制御装置6とを備える。
【0023】
訓練席2は、シミュレーション装置1によって、穿孔機械100の操作の技能習得を行うユーザである訓練者が着座する部分である。
模擬操作装置3は、
図2に示すように、穿孔機械100に設けられた操作装置(図示略)を擬似的に再現したものである。そして、模擬操作装置3は、当該操作装置に設けられた複数の操作部(図示略)をそれぞれ擬似的に再現した複数の模擬操作部31を有する。これら複数の模擬操作部31は、制御装置6との間で無線または有線によってそれぞれ通信可能に接続され、訓練者等によるユーザ操作に応じた操作信号を当該制御装置6にそれぞれ出力する。
【0024】
例えば、模擬操作部31として、第1の模擬操作部31a(
図2)と、第2~第5の模擬操作部31b~31e(
図6参照)と、第6の模擬操作部31f(
図2)とが設けられている。
ここで、第1~第5の模擬操作部31a~31eは、訓練席2の右側方に設けられている。一方、第6の模擬操作部31fは、訓練席2の左側方に設けられている。
具体的に、第1の模擬操作部31aは、穿孔機械100における送り機構(図示略)、打撃機構(図示略)、及び回転機構(図示略)をそれぞれ動作させるための複数の操作をそれぞれ受け付ける操作部を擬似的に再現した模擬操作部である。
第2の模擬操作部31bは、穿孔機械100のエンジンを始動させるためのエンジン始動操作を受け付ける操作部を擬似的に再現した模擬操作部である。
【0025】
第3の模擬操作部31cは、ガイドシェル131のチルト動作を実行させるためのチルト操作、及びガイドシェル131のスイング動作を実行させるためのスイング操作をそれぞれ受け付ける操作部を擬似的に再現した模擬操作部である。
第4の模擬操作部31dは、ブーム120の旋回動作を実行させるための旋回操作、及びブーム120の起伏動作を実行させるための起伏操作をそれぞれ受け付ける操作部を擬似的に再現した模擬操作部である。
第5の模擬操作部31eは、ガイドシェル131のスライド動作を実行させるためのスライド操作を受け付ける操作部を擬似的に再現した模擬操作部である。
第6の模擬操作部31fは、穿孔機械100における走行を禁止状態に設定するためのブレーキ操作を受け付ける操作部(サイドブレーキ)を擬似的に再現した模擬操作部である。
【0026】
また、模擬操作部31として、具体的な図示は省略したが、穿孔機械100(走行台車110)を走行させるための走行操作を受け付ける操作部を擬似的に再現した模擬操作部が設けられている。
【0027】
ヘッドマウントディスプレイ4は、本発明に係る表示装置に相当し、制御装置6との間で無線または有線によって通信可能に接続する。このヘッドマウントディスプレイ4は、眼鏡のような外観を有し、訓練者に装着される。そして、ヘッドマウントディスプレイ4は、当該ヘッドマウントディスプレイ4を装着した訓練者の視界に応じた実像と所定の画像とをそれぞれ表示可能とする。このヘッドマウントディスプレイ4は、撮影部41と、表示部42と、複数の赤外線出力部43とを備える(
図3参照)。
【0028】
撮影部41は、本発明に係る撮影装置に相当し、入射した光を受光して電気信号に変換するCCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を含むカメラである。また、撮影部41は、制御装置6による制御の下、ヘッドマウントディスプレイ4を装着した訓練者の視界に応じた領域を撮影して撮影画像を生成する。そして、撮影部41は、生成した撮影画像のデータを制御装置6に出力する。
【0029】
表示部42は、液晶または有機EL(Electro Luminescence)等を用いた表示ディスプレイで構成され、ヘッドマウントディスプレイ4を装着した訓練者の左眼及び右眼の少なくともいずれか一方に対向する位置に配置される。そして、表示部42は、制御装置6による制御の下、各種の画像を表示する。
【0030】
複数の赤外線出力部43は、ヘッドマウントディスプレイ4の位置(3次元の位置)及び姿勢(ヘッドマウントディスプレイ4を装着している訓練者の視線方向)を判別するために用いられる。これら複数の赤外線出力部43は、互いに異なる位置にそれぞれ配置され、赤外線をそれぞれ出力(照射)する。
【0031】
ベースステーション5は、ヘッドマウントディスプレイ4の位置(3次元の位置)及び姿勢(ヘッドマウントディスプレイ4を装着している訓練者の視線方向)を検出するために用いられる。また、ベースステーション5は、制御装置6との間で無線または有線によって通信可能に接続する。このベースステーション5は、複数の赤外線出力部43から出力された赤外線を検出する2つの赤外線カメラ51(
図2)によって構成されている。なお、赤外線カメラ51の数は、2つに限らず、その他の数だけ設けても構わない。そして、2つの赤外線カメラ51は、撮影により生成した赤外線画像のデータを制御装置6にそれぞれ出力する。
【0032】
図3は、制御装置6の構成を示すブロック図である。なお、
図3では、説明の便宜上、模擬操作部31と、赤外線出力部43と、赤外線カメラ51とを1つずつのみ図示している。
制御装置6は、シミュレーション装置1全体の動作を制御する。この制御装置6は、
図3に示すように、入力部61と、記憶部62と、制御部63とを備える。
入力部61は、訓練者等によるユーザ操作を受け付けるボタン、スイッチ、タッチパネル等で構成され、当該ユーザ操作に応じた信号を制御部63に出力する。
【0033】
記憶部62は、制御部63が実行する各種のプログラム(本発明に係る制御プログラムを含む)の他、当該制御部63が処理を行うときに必要なデータ等を記憶する。
ここで、当該制御部63が処理を行うときに必要なデータとしては、第1の3Dモデル(第1の仮想モデル)のデータと、第2の3Dモデル(第2の仮想モデル)のデータと、案内情報のデータとを例示することができる。
第1の3Dモデルは、穿孔機械100を仮想的に構成した3Dモデルである。
第2の3Dモデルは、撮影部41にて生成された撮影画像が投影されるスクリーンとして機能する3Dモデルである。
これら第1,第2の3Dモデルは、例えばCAD(Computer-Aided Design)ソフトウェア等によって生成された3Dモデルであって、シミュレーション装置1が設置される実空間座標系に整合させた仮想空間座標系において、当該第1,第2の3Dモデルの各部位の位置や角度が関連付けられている。
【0034】
案内情報は、特定の作業工程を構成する複数の操作手順毎にそれぞれ設けられ、当該操作手順を説明する情報である。当該案内情報は、文字データ、音声データ、あるいは、画像データによって構成されている。
ここで、上述した作業工程としては、「破砕対象へのさく岩ユニット130の位置合わせ作業」及び「ロッド交換作業」等、複数、存在する。このため、記憶部62には、複数の作業工程毎に、当該作業工程を構成する操作手順の順番と、当該操作手順での操作対象(模擬操作部31)への操作を示す情報と、当該操作手順を説明する案内情報とが関連付けられて記憶されている。
【0035】
具体的に、例えば、「破砕対象へのさく岩ユニット130の位置合わせ作業」は、以下に示す第1~第9の操作手順を順に実行することで達成される。
第1の操作手順は、「穿孔機械100のエンジン始動」である。
第2の操作手順は、「穿孔機械100における走行の禁止状態の解除」である。
第3の操作手順は、「穿孔機械100の走行操作」である。
第4の操作手順は、「ガイドシェル131のチルト操作」である。
第5の操作手順は、「ブーム120の起伏操作」である。
第6の操作手順は、「ブーム120の旋回操作」である。
第7の操作手順は、「ガイドシェル131のチルト操作」である。
第8の操作手順は、「ガイドシェル131のスイング操作」である。
第9の操作手順は、「ガイドシェル131のスライド操作」である。
【0036】
以下では、説明の便宜上、第1の操作手順を説明する案内情報を第1の案内情報と記載する。同様に、第2~第8の操作手順をそれぞれ説明する案内情報を第2~第8の案内情報と記載する。
そして、記憶部62には、「破砕対象へのさく岩ユニット130の位置合わせ作業」の作業工程に対して第1~第9の案内情報が関連付けられて記憶されている。また、第1の案内情報には、1番の順番と、第1の操作手順の操作対象となる第2の模擬操作部31bに対するエンジン始動操作を示す情報とが関連付けられている。さらに、第2の案内情報には、2番の順番と、第2の操作手順の操作対象となる第6の模擬操作部31fに対する穿孔機械100における走行の禁止状態を解除する操作(以下、ブレーキ解除操作と記載)を示す情報とが関連付けられている。また、第3の案内情報には、3番の順番と、第3の操作手順の操作対象となる穿孔機械100の走行操作を受け付ける操作部を擬似的に再現した模擬操作部31に対する走行操作を示す情報とが関連付けられている。さらに、第4の案内情報には、4番の順番と、第4の操作手順の操作対象となる第3の模擬操作部31cに対するチルト操作を示す情報とが関連付けられている。また、第5の案内情報には、5番の順番と、第5の操作手順の操作対象となる第4の模擬操作部31dに対する起伏操作を示す情報とが関連付けられている。さらに、第6の案内情報には、6番の順番と、第6の操作手順の操作対象となる第4の模擬操作部31dに対する旋回操作を示す情報とが関連付けられている。また、第7の案内情報には、7番の順番と、第7の操作手順の操作対象となる第3の模擬操作部31cに対するチルト操作を示す情報とが関連付けられている。さらに、第8の案内情報には、8番の順番と、第8の操作手順の操作対象となる第3の模擬操作部31cに対するスイング操作を示す情報とが関連付けられている。また、第9の案内情報には、9番の順番と、第9の操作手順の操作対象となる第5の模擬操作部31eに対するスライド操作を示す情報とが関連付けられている。
なお、案内情報の詳細については、後述する「案内情報表示処理にて表示部に表示される表示画像の具体例」において説明する。
【0037】
制御部63は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等のコントローラによって、記憶部62に記憶された各種のプログラムが実行されることにより実現され、シミュレーション装置1全体の動作を制御する。なお、制御部63は、CPUやMPUに限らず、ASIC(Application Specific Integrated Circuit)やFPGA(Field-Programmable Gate Array)等の集積回路によって構成されても構わない。この制御部63は、
図3に示すように、第1の画像取得部631と、第2の画像取得部632と、算出部633と、操作認識部634と、表示制御部635とを備える。
【0038】
第1の画像取得部631は、撮影部41にて生成された撮影画像のデータを取得する。
第2の画像取得部632は、2つの赤外線カメラ51にてそれぞれ生成された赤外線画像のデータを取得する。
【0039】
算出部633は、ヘッドマウントディスプレイ4の位置及び姿勢(ヘッドマウントディスプレイ4を装着している訓練者の視線方向)を算出する。具体的に、算出部633は、第2の画像取得部632にて取得された各赤外線画像のデータに基づいて、複数の赤外線出力部43から各赤外線カメラ51に到達した赤外線の到達時間や角度を認識する。そして、算出部633は、当該到達時間や角度から、ヘッドマウントディスプレイ4の位置及び姿勢(ヘッドマウントディスプレイ4を装着している訓練者の視線方向)を算出する。
操作認識部634は、操作信号を入力することで、ヘッドマウントディスプレイ4を装着した訓練者によって操作された模擬操作部31を認識する。
【0040】
表示制御部635は、表示部42に表示させる表示画像を生成する。
具体的に、表示制御部635は、算出部633にて算出されたヘッドマウントディスプレイ4の位置及び姿勢(ヘッドマウントディスプレイ4を装着している訓練者の視線方向)を認識する。そして、表示制御部635は、記憶部62に記憶されている第1の3Dモデルのデータに基づいて、ヘッドマウントディスプレイ4の位置から当該ヘッドマウントディスプレイ4を装着している訓練者の視線方向に認識される第1の3Dモデルの画像(以下、モデル画像と記載)を生成する。また、表示制御部635は、操作認識部634にて認識された模擬操作部31に対応する第1の3Dモデルの部位を当該模擬操作部31への操作に応じて擬似的に動作させる。さらに、表示制御部635は、記憶部62に記憶された案内情報を表示部42に表示させる案内情報表示処理を実行する。
なお、案内情報表示処理の詳細については、後述する「制御方法」において説明する。
【0041】
〔制御方法〕
次に、制御装置6が実行する制御方法について説明する。
図4は、制御方法を示すフローチャートである。
なお、以下では、説明の便宜上、制御装置6が実行する制御方法として、案内情報表示処理を主に説明する。
先ず、表示制御部635は、訓練者等による入力部61へのユーザ操作によって、上述した「破砕対象へのさく岩ユニット130の位置合わせ作業」及び「ロッド交換作業」等の複数の作業工程からいずれかの作業工程が選択されたか否かを常時、監視する(ステップS1)。
【0042】
そして、表示制御部635は、複数の作業工程のうちいずれかの作業工程が選択されたと判定した場合(ステップS1:Yes)には、案内情報表示処理を実行する(ステップS2:表示処理ステップ)。
具体的に、表示制御部635は、ステップS1において選択された作業工程に対して関連付けられて記憶部62に記憶された複数の案内情報のうち、ステップS1~S4のループの順番と同一の順番に関連付けられた案内情報を当該記憶部62から読み出す。そして、表示制御部635は、穿孔機械100における複数の操作部を仮想的に構成した第1の3Dモデルの画像と干渉しないように、当該案内情報を表示部42に表示させる。本実施の形態では、当該複数の操作部を仮想的に構成した第1の3Dモデルの画像の表示領域と重ならないように、当該案内情報を表示部42に表示させる。例えば、ステップS1~S4の1回目のループでは、表示部42には、1番の順番に関連付けられた案内情報が表示される。
【0043】
ステップS2の後、表示制御部635は、記憶部62に記憶された情報を参照し、当該ステップS2で表示させた案内情報に対応する操作手順の操作対象となる模擬操作部31への操作が操作認識部634にて認識されたか否かを常時、監視する(ステップS3)。
そして、表示制御部635は、操作対象となる模擬操作部31への操作が認識されたと判定した場合(ステップS3:Yes)には、ステップS1において選択された作業工程を構成する複数の操作手順の操作対象となる各模擬操作部31への全ての操作が完了したか否かを判定する(ステップS4)。
【0044】
ここで、制御部63は、全ての操作が完了したと判定した場合(ステップS4:Yes)には、本制御方法を完了する。
一方、制御部63は、全ての操作が完了していないと判定した場合(ステップS4:No)には、ステップS2に戻る。これにより、例えば、ステップS1~S4の2回目のループでは、表示部42には、2番の順番に関連付けられた案内情報が表示される。
【0045】
〔案内情報表示処理にて表示部に表示される表示画像の具体例〕
次に、上述した案内情報表示処理にて表示部42に表示される表示画像の具体例について説明する。なお、当該具体例を説明するにあたって、ステップS1において、訓練者等のユーザが複数の作業工程から上述した「破砕対象へのさく岩ユニット130の位置合わせ作業」を選択した場合を想定する。
以下、ステップS1~S4の1~9回目のループ(第1~第9の操作手順を実行する際のループ)における各案内情報表示処理(ステップS2)にて表示部42に表示される表示画像について順に説明する。
【0046】
〔ステップS1~S4の1回目のループにおける案内情報表示処理(ステップS2)〕
図5及び
図6は、ステップS1~S4の1回目のループにおける案内情報表示処理(ステップS2)にて表示部42に表示される表示画像の具体例を示す図である。具体的に、
図5は、ヘッドマウントディスプレイ4を装着した訓練者が前方を向いた状態で表示制御部635にて生成される表示画像F0を示す図である。
図6は、ヘッドマウントディスプレイ4を装着した訓練者が右側方を向いた状態で表示制御部635にて生成される表示画像F1を示す図である。
【0047】
表示制御部635は、算出部633にて算出されたヘッドマウントディスプレイ4の位置及び姿勢(ヘッドマウントディスプレイ4を装着している訓練者の視線方向)と、記憶部62に記憶されている第1の3Dモデルのデータとに基づいて、仮想空間上での訓練者の視野に応じた領域に認識される各第1の3Dモデルの各モデル画像を生成する。
図5の例では、訓練者が前方を向いた状態であり、当該領域に認識される第1の3Dモデルは、さく岩ユニット130を仮想的に構成したさく岩ユニットモデル130Mである。また、
図6の例では、訓練者が右側方を向いた状態であり、当該領域に認識される第1の3Dモデルは、ブーム120を仮想的に構成したブームモデル120Mと、穿孔機械100に設けられ、模擬操作装置3と同様の構成を有する操作装置(図示略)を仮想的に構成した操作装置モデル3Mである。そして、表示制御部635は、当該生成した各第1の3Dモデルの各モデル画像を配置した表示画像を生成する。これにより、表示部42には、当該表示画像が表示される。なお、訓練者が前方を向いた状態では、表示部42には、さく岩ユニットモデル130Mのモデル画像が配置された表示画像F0(
図5)が表示される。また、訓練者が右側方を向いた状態では、表示部42には、ブームモデル120M及び操作装置モデル3Mの各モデル画像が配置された表示画像F1(
図6)が表示される。
【0048】
ここで、表示制御部635は、表示画像F0,F1を生成する際、当該表示画像F0,F1における特定の領域(下方側の左右方向の中央領域)に、撮影部41にて生成された撮影画像CI(
図6)を投影したスクリーンSC(
図5,
図6)を配置する。また、表示制御部635は、以下に示す比較処理の結果に基づいて、スクリーンSCの透明度を変更する。
当該比較処理は、基準線及び予め設定された切替用基準位置間の最短距離と特定の閾値とを比較する処理である。当該基準線は、算出部633にて算出されたヘッドマウントディスプレイ4の位置及び姿勢に基づいて作成された仮想的な線であって、当該ヘッドマウントディスプレイ4の特定の位置から訓練者の視線方向に応じて直線状に延びる線である。当該切替用基準位置は、模擬操作装置3の配置位置に対応した位置(実空間座標系では模擬操作装置3の配置位置、仮想空間座標系では操作装置モデル3M(
図6)の位置)に1つ、または、複数、設定されている。
【0049】
また、表示制御部635は、比較処理の結果、最短距離が特定の閾値を超える場合(以下、第1の場合と記載)には、スクリーンSCを透明にする。当該第1の場合としては、仮想空間上での訓練者の視野に応じた領域が前方または比較的上方であり、当該領域に操作装置モデル3Mが認識されない場合を例示することができる。そして、第1の場合では、スクリーンSCを透明にした結果、表示画像には、仮想空間上での訓練者の視野に応じた領域に認識される各第1の3Dモデルの各モデル画像のみが表示される。なお、
図5に示した表示画像F0は、第1の場合での表示画像である。このため、当該表示画像F0には、撮影画像CIは表示されない。
図5では、透明になった状態のスクリーンSCを一点鎖線で表現している。
【0050】
一方、表示制御部635は、比較処理の結果、最短距離が特定の閾値以下である場合(以下、第2の場合と記載)には、スクリーンSCの透明度を小さくする。当該第2の場合としては、仮想空間上での訓練者の視野に応じた領域に操作装置モデル3Mが認識される場合を例示することができる。そして、第2の場合では、スクリーンSCの透明度を小さくした結果、表示画像には、仮想空間上での訓練者の視野に応じた領域に認識される各第1の3Dモデルの各モデル画像の他、撮影画像CIが表示される。なお、
図6に示した表示画像F1は、第2の場合での表示画像である。このため、当該表示画像F1には、撮影画像CIが表示される。
【0051】
ここで、表示制御部635は、訓練者が前方を向いた状態では、
図5に示すように、第1の3Dモデルのモデル画像であるさく岩ユニットモデル130Mのモデル画像の他、操作指示コメントGI1と、位置マーカPMとを配置した表示画像F0を生成する。
操作指示コメントGI1は、メッセージを含む画像であり、案内情報GIを構成する。この操作指示コメントGI1は、ステップS1~S4の1回目のループにおける案内情報表示処理(ステップS2)では、記憶部62に記憶された第1の案内情報を構成し、第1の操作手順(穿孔機械100のエンジン始動)を説明する「第2の模擬操作部31bを時計回りに回転させ、穿孔機械のエンジンを始動して下さい」等のメッセージを含む画像である。
位置マーカPMは、
図5に示すように、背景を示す岩盤RM上において、さく岩ユニット130の位置合わせを行う目標位置を表示したマーカである。
【0052】
また、表示制御部635は、訓練者が右側方を向いた状態では、
図6に示すように、第1の3Dモデルのモデル画像であるブームモデル120M及び操作装置モデル3Mの各モデル画像、並びに撮影画像CIの他、操作説明画像GI2を配置した表示画像F1を生成する。
操作説明画像GI2は、操作を説明する画像であり、案内情報GIを構成する。この操作説明画像GI2は、ステップS1~S4の1回目のループにおける案内情報表示処理(ステップS2)では、記憶部62に記憶された第1の案内情報を構成し、第1の操作手順(穿孔機械100のエンジン始動)の操作対象となる第2の模擬操作部31bに対するエンジン始動操作の方法を説明した画像である。具体的に、
図6の例に示す操作説明画像GI2では、第2の模擬操作部31bに対するエンジン始動操作の方法を矢印によって説明している。
【0053】
以上説明した操作指示コメントGI1及び操作説明画像GI2は、
図5及び
図6にそれぞれ示すように、操作装置モデル3Mのモデル画像と干渉しない位置、すなわち、撮影画像CIと干渉しない位置に表示される。本実施の形態では、操作指示コメントGI1及び操作説明画像GI2は、操作装置モデル3Mのモデル画像の表示領域、すなわち、撮影画像CIの表示領域と重ならないように表示される。特に、操作説明画像GI2は、ステップS1~S4の1回目のループにおける案内情報表示処理(ステップS2)では、第1の操作手順(穿孔機械100のエンジン始動)の操作対象となる第2の模擬操作部31bの近傍に表示される。
【0054】
〔ステップS1~S4の2回目のループにおける案内情報表示処理(ステップS2)〕
図7は、ステップS1~S4の2回目のループにおける案内情報表示処理(ステップS2)にて表示部42に表示される表示画像の具体例を示す図である。具体的に、
図7は、第2の場合での表示画像であり、ヘッドマウントディスプレイ4を装着した訓練者が左側方を向いた状態で表示制御部635にて生成される表示画像F2を示す図である。
【0055】
ステップS1~S4の1回目のループにおいて、第1の操作手順(穿孔機械100のエンジン始動)の操作対象となる第2の模擬操作部31bに対するエンジン始動操作が行われた場合(ステップS3:Yes)に、ステップS1~S4の2回目のループに入る。
そして、ステップS1~S4の2回目のループにおける案内情報表示処理(ステップS2)では、案内情報GIが当該2回目のループに応じた案内情報に切り替えられる。
【0056】
例えば、操作指示コメントGI1は、具体的な図示は省略したが、上述した「ステップS1~S4の1回目のループにおける案内情報表示処理(ステップS2)」で説明したメッセージを含む画像から、第2の操作手順(穿孔機械100における走行の禁止状態の解除)を説明する「穿孔機械における走行の禁止状態を解除して下さい」等のメッセージを含む画像に切り替えられる。当該操作指示コメントGI1は、記憶部62に記憶された第2の案内情報を構成する。そして、訓練者は、前方を向くことによって当該操作指示コメントGI1を含む表示画像を視認する。
【0057】
また、例えば、操作説明画像GI2は、
図7に示すように、上述した「ステップS1~S4の1回目のループにおける案内情報表示処理(ステップS2)」で説明した画像から、第2の操作手順(穿孔機械100における走行の禁止状態の解除)の操作対象となる第6の模擬操作部31fに対する穿孔機械100における走行の禁止状態を解除する操作(以下、ブレーキ解除操作と記載)の方法を説明した画像に切り替えられる。当該操作説明画像GI2は、記憶部62に記憶された第2の案内情報を構成する。具体的に、
図7の例に示す操作説明画像GI2では、第6の模擬操作部31fに対するブレーキ解除操作の方法を矢印によって説明している。当該操作説明画像GI2は、ステップS1~S4の2回目のループにおける案内情報表示処理(ステップS2)では、当該第6の模擬操作部31fの近傍に表示される。そして、訓練者は、左側方を向くことによって当該操作説明画像GI2を含む表示画像F2を視認する。
【0058】
〔ステップS1~S4の3回目のループにおける案内情報表示処理(ステップS2)〕
ステップS1~S4の2回目のループにおいて、第2の操作手順(穿孔機械100における走行の禁止状態の解除)の操作対象となる第6の模擬操作部31fに対するブレーキ解除操作が行われた場合(ステップS3:Yes)に、ステップS1~S4の3回目のループに入る。
そして、ステップS1~S4の3回目のループにおける案内情報表示処理(ステップS2)では、案内情報GIが当該3回目のループに応じた案内情報に切り替えられる。
【0059】
例えば、操作指示コメントGI1は、具体的な図示は省略したが、上述した「ステップS1~S4の2回目のループにおける案内情報表示処理(ステップS2)」で説明したメッセージを含む画像から、第3の操作手順(穿孔機械100の走行操作)を説明する「穿孔機械を位置マーカPMに応じた所望の位置まで走行して下さい」等のメッセージを含む画像に切り替えられる。当該操作指示コメントGI1は、記憶部62に記憶された第3の案内情報を構成する。そして、訓練者は、前方を向くことによって当該操作指示コメントGI1を含む表示画像を視認する。
なお、ステップS1~S4の3回目のループにおける案内情報表示処理(ステップS2)では、案内情報GIは、操作説明画像GI2が省略され、操作指示コメントGI1のみによって構成される。
【0060】
〔ステップS1~S4の4回目のループにおける案内情報表示処理(ステップS2)〕
図8は、ステップS1~S4の4回目のループにおける案内情報表示処理(ステップS2)にて表示部42に表示される表示画像の具体例を示す図である。具体的に、
図8は、第2の場合での表示画像であり、ヘッドマウントディスプレイ4を装着した訓練者が右側方を向いた状態で表示制御部635にて生成される表示画像F4を示す図である。
【0061】
ステップS1~S4の3回目のループにおいて、第3の操作手順(穿孔機械100の走行操作)の操作対象となる穿孔機械100の走行操作を受け付ける操作部を擬似的に再現した模擬操作部31に対する走行操作が行われた場合(ステップS3:Yes)に、ステップS1~S4の4回目のループに入る。
そして、ステップS1~S4の4回目のループにおける案内情報表示処理(ステップS2)では、案内情報GIが当該4回目のループに応じた案内情報に切り替えられる。
【0062】
例えば、操作指示コメントGI1は、具体的な図示は省略したが、上述した「ステップS1~S4の3回目のループにおける案内情報表示処理(ステップS2)」で説明したメッセージを含む画像から、第4の操作手順(ガイドシェル131のチルト操作)を説明する「ガイドシェルのチルト操作を行って下さい」等のメッセージを含む画像に切り替えられる。当該操作指示コメントGI1は、記憶部62に記憶された第4の案内情報を構成する。そして、訓練者は、前方を向くことによって当該操作指示コメントGI1を含む表示画像を視認する。
【0063】
また、例えば、操作説明画像GI2は、
図8に示すように、第4の操作手順(ガイドシェル131のチルト操作)の操作対象となる第3の模擬操作部31cに対するチルト操作の方法を説明した画像に切り替えられる。当該操作説明画像GI2は、記憶部62に記憶された第4の案内情報を構成する。具体的に、
図8の例に示す操作説明画像GI2では、第3の模擬操作部31cに対するチルト操作の方法を矢印によって説明している。当該操作説明画像GI2は、ステップS1~S4の4回目のループにおける案内情報表示処理(ステップS2)では、当該第3の模擬操作部31cの近傍に表示される。そして、訓練者は、右側方を向くことによって当該操作説明画像GI2を含む表示画像F4を視認する。
【0064】
〔ステップS1~S4の5回目のループにおける案内情報表示処理(ステップS2)〕
図9は、ステップS1~S4の5回目のループにおける案内情報表示処理(ステップS2)にて表示部42に表示される表示画像の具体例を示す図である。具体的に、
図9は、第2の場合での表示画像であり、ヘッドマウントディスプレイ4を装着した訓練者が右側方を向いた状態で表示制御部635にて生成される表示画像F5を示す図である。
【0065】
ステップS1~S4の4回目のループにおいて、第4の操作手順(ガイドシェル131のチルト操作)の操作対象となる第3の模擬操作部31cに対するチルト操作が行われた場合(ステップS3:Yes)に、ステップS1~S4の5回目のループに入る。
そして、ステップS1~S4の5回目のループにおける案内情報表示処理(ステップS2)では、案内情報GIが当該5回目のループに応じた案内情報に切り替えられる。
【0066】
例えば、操作指示コメントGI1は、具体的な図示は省略したが、上述した「ステップS1~S4の4回目のループにおける案内情報表示処理(ステップS2)」で説明したメッセージを含む画像から、第5の操作手順(ブーム120の起伏操作)を説明する「ブームの起伏操作を行って下さい」等のメッセージを含む画像に切り替えられる。当該操作指示コメントGI1は、記憶部62に記憶された第5の案内情報を構成する。そして、訓練者は、前方を向くことによって当該操作指示コメントGI1を含む表示画像を視認する。
【0067】
また、例えば、操作説明画像GI2は、
図9に示すように、上述した「ステップS1~S4の4回目のループにおける案内情報表示処理(ステップS2)」で説明した画像から、第5の操作手順(ブーム120の起伏操作)の操作対象となる第4の模擬操作部31dに対する起伏操作の方法を説明した画像に切り替えられる。具体的に、
図9の例に示す操作説明画像GI2では、第4の模擬操作部31dに対する起伏操作の方法を矢印によって説明している。当該操作説明画像GI2は、ステップS1~S4の5回目のループにおける案内情報表示処理(ステップS2)では、当該第4の模擬操作部31dの近傍に表示される。そして、訓練者は、右側方を向くことによって当該操作説明画像GI2を含む表示画像F5を視認する。
【0068】
〔ステップS1~S4の6回目のループにおける案内情報表示処理(ステップS2)〕
図10は、ステップS1~S4の6回目のループにおける案内情報表示処理(ステップS2)にて表示部42に表示される表示画像の具体例を示す図である。具体的に、
図10は、第2の場合での表示画像であり、ヘッドマウントディスプレイ4を装着した訓練者が右側方を向いた状態で表示制御部635にて生成される表示画像F6を示す図である。
【0069】
ステップS1~S4の5回目のループにおいて、第5の操作手順(ブーム120の起伏操作)の操作対象となる第4の模擬操作部31dに対する起伏操作が行われた場合(ステップS3:Yes)に、ステップS1~S4の6回目のループに入る。
そして、ステップS1~S4の6回目のループにおける案内情報表示処理(ステップS2)では、案内情報GIが当該6回目のループに応じた案内情報に切り替えられる。
【0070】
例えば、操作指示コメントGI1は、具体的な図示は省略したが、上述した「ステップS1~S4の5回目のループにおける案内情報表示処理(ステップS2)」で説明したメッセージを含む画像から、第6の操作手順(ブーム120の旋回操作)を説明する「ブームの旋回操作を行って下さい」等のメッセージを含む画像に切り替えられる。当該操作指示コメントGI1は、記憶部62に記憶された第6の案内情報を構成する。そして、訓練者は、前方を向くことによって当該操作指示コメントGI1を含む表示画像を視認する。
【0071】
また、例えば、操作説明画像GI2は、
図10に示すように、上述した「ステップS1~S4の5回目のループにおける案内情報表示処理(ステップS2)」で説明した画像から、第6の操作手順(ブーム120の旋回操作)の操作対象となる第4の模擬操作部31dに対する旋回操作の方法を説明した画像に切り替えられる。具体的に、
図10の例に示す操作説明画像GI2では、第4の模擬操作部31dに対する旋回操作の方法を矢印によって説明している。当該操作説明画像GI2は、ステップS1~S4の6回目のループにおける案内情報表示処理(ステップS2)では、当該第4の模擬操作部31dの近傍に表示される。そして、訓練者は、右側方を向くことによって当該操作説明画像GI2を含む表示画像F6を視認する。
【0072】
〔ステップS1~S4の7回目のループにおける案内情報表示処理(ステップS2)〕
図11は、ステップS1~S4の7回目のループにおける案内情報表示処理(ステップS2)にて表示部42に表示される表示画像の具体例を示す図である。具体的に、
図11は、第2の場合での表示画像であり、ヘッドマウントディスプレイ4を装着した訓練者が右側方を向いた状態で表示制御部635にて生成される表示画像F7を示す図である。
【0073】
ステップS1~S4の6回目のループにおいて、第6の操作手順(ブーム120の旋回操作)の操作対象となる第4の模擬操作部31dに対する旋回操作が行われた場合(ステップS3:Yes)に、ステップS1~S4の7回目のループに入る。
そして、ステップS1~S4の7回目のループにおける案内情報表示処理(ステップS2)では、案内情報GIが当該7回目のループに応じた案内情報に切り替えられる。
【0074】
例えば、操作指示コメントGI1は、具体的な図示は省略したが、上述した「ステップS1~S4の6回目のループにおける案内情報表示処理(ステップS2)」で説明したメッセージを含む画像から、第7の操作手順(ガイドシェル131のチルト操作)を説明する「ガイドシェルのチルト操作を行って下さい」等のメッセージを含む画像に切り替えられる。当該操作指示コメントGI1は、記憶部62に記憶された第7の案内情報を構成する。そして、訓練者は、前方を向くことによって当該操作指示コメントGI1を含む表示画像を視認する。
【0075】
また、例えば、操作説明画像GI2は、
図11に示すように、上述した「ステップS1~S4の6回目のループにおける案内情報表示処理(ステップS2)」で説明した画像から、第7の操作手順(ガイドシェル131のチルト操作)の操作対象となる第3の模擬操作部31cに対するチルト操作の方法を説明した画像に切り替えられる。当該操作説明画像GI2は、記憶部62に記憶された第7の案内情報を構成する。具体的に、
図11の例に示す操作説明画像GI2では、第3の模擬操作部31cに対するチルト操作の方法を矢印によって説明している。当該操作説明画像GI2は、ステップS1~S4の7回目のループにおける案内情報表示処理(ステップS2)では、当該第3の模擬操作部31cの近傍に表示される。そして、訓練者は、右側方を向くことによって当該操作説明画像GI2を含む表示画像F7を視認する。
【0076】
〔ステップS1~S4の8回目のループにおける案内情報表示処理(ステップS2)〕
図12は、ステップS1~S4の8回目のループにおける案内情報表示処理(ステップS2)にて表示部42に表示される表示画像の具体例を示す図である。具体的に、
図12は、第2の場合での表示画像であり、ヘッドマウントディスプレイ4を装着した訓練者が右側方を向いた状態で表示制御部635にて生成される表示画像F8を示す図である。
【0077】
ステップS1~S4の7回目のループにおいて、第7の操作手順(ガイドシェル131のチルト操作)の操作対象となる第3の模擬操作部31cに対するチルト操作が行われた場合(ステップS3:Yes)に、ステップS1~S4の8回目のループに入る。
そして、ステップS1~S4の8回目のループにおける案内情報表示処理(ステップS2)では、案内情報GIが当該8回目のループに応じた案内情報に切り替えられる。
【0078】
例えば、操作指示コメントGI1は、具体的な図示は省略したが、上述した「ステップS1~S4の7回目のループにおける案内情報表示処理(ステップS2)」で説明したメッセージを含む画像から、第8の操作手順(ガイドシェル131のスイング操作)を説明する「ガイドシェルのスイング操作を行って下さい」等のメッセージを含む画像に切り替えられる。当該操作指示コメントGI1は、記憶部62に記憶された第8の案内情報を構成する。そして、訓練者は、前方を向くことによって当該操作指示コメントGI1を含む表示画像を視認する。
【0079】
また、例えば、操作説明画像GI2は、
図12に示すように、上述した「ステップS1~S4の7回目のループにおける案内情報表示処理(ステップS2)」で説明した画像から、第8の操作手順(ガイドシェル131のスイング操作)の操作対象となる第3の模擬操作部31cに対するスイング操作の方法を説明した画像に切り替えられる。当該操作説明画像GI2は、記憶部62に記憶された第8の案内情報を構成する。具体的に、
図12の例に示す操作説明画像GI2では、第3の模擬操作部31cに対するスイング操作の方法を矢印によって説明している。当該操作説明画像GI2は、ステップS1~S4の8回目のループにおける案内情報表示処理(ステップS2)では、当該第3の模擬操作部31cの近傍に表示される。そして、訓練者は、右側方を向くことによって当該操作説明画像GI2を含む表示画像F8を視認する。
【0080】
〔ステップS1~S4の9回目のループにおける案内情報表示処理(ステップS2)〕
図13は、ステップS1~S4の9回目のループにおける案内情報表示処理(ステップS2)にて表示部42に表示される表示画像の具体例を示す図である。具体的に、
図13は、第2の場合での表示画像であり、ヘッドマウントディスプレイ4を装着した訓練者が右側方を向いた状態で表示制御部635にて生成される表示画像F9を示す図である。
【0081】
ステップS1~S4の8回目のループにおいて、第8の操作手順(ガイドシェル131のスイング操作)の操作対象となる第3の模擬操作部31cに対するスイング操作が行われた場合(ステップS3:Yes)に、ステップS1~S4の9回目のループに入る。
そして、ステップS1~S4の9回目のループにおける案内情報表示処理(ステップS2)では、案内情報GIが当該9回目のループに応じた案内情報に切り替えられる。
【0082】
例えば、操作指示コメントGI1は、具体的な図示は省略したが、上述した「ステップS1~S4の8回目のループにおける案内情報表示処理(ステップS2)」で説明したメッセージを含む画像から、第9の操作手順(ガイドシェル131のスライド操作)を説明する「ガイドシェルのスライド操作を行って下さい」等のメッセージを含む画像に切り替えられる。当該操作指示コメントGI1は、記憶部62に記憶された第9の案内情報を構成する。そして、訓練者は、前方を向くことによって当該操作指示コメントGI1を含む表示画像を視認する。
【0083】
また、例えば、操作説明画像GI2は、
図13に示すように、上述した「ステップS1~S4の8回目のループにおける案内情報表示処理(ステップS2)」で説明した画像から、第9の操作手順(ガイドシェル131のスライド操作)の操作対象となる第5の模擬操作部31eに対するスライド操作の方法を説明した画像に切り替えられる。当該操作説明画像GI2は、記憶部62に記憶された第9の案内情報を構成する。具体的に、
図13の例に示す操作説明画像GI2では、第5の模擬操作部31eに対するスライド操作の方法を矢印によって説明している。当該操作説明画像GI2は、ステップS1~S4の9回目のループにおける案内情報表示処理(ステップS2)では、当該第5の模擬操作部31eの近傍に表示される。そして、訓練者は、右側方を向くことによって当該操作説明画像GI2を含む表示画像F9を視認する。
【0084】
そして、ステップS1~S4の9回目のループにおいて、第9の操作手順(ガイドシェル131のスライド操作)の操作対象となる第5の模擬操作部31eに対するスライド操作が行われた場合(ステップS3:Yes)には、訓練者が前方を向いた状態で視認される表示画像において、さく岩ユニットモデル130Mの先端部分は、位置マーカPMに対向する位置に位置付けられる。すなわち、「破砕対象へのさく岩ユニット130の位置合わせ作業」の作業工程が完了する。
【0085】
以上説明した本実施の形態によれば、以下の効果を奏する。
本実施の形態に係るシミュレーション装置1では、制御装置6は、特定の作業工程を構成する複数の操作手順毎にそれぞれ設けられた案内情報GIを操作装置モデル3Mのモデル画像と干渉しないように当該複数の操作手順毎に順次、表示部42に表示させる。
このため、訓練者は、案内情報GIを確認しながら、模擬操作部31を操作していけば、当該特定の作業工程を完了することができる。
したがって、本実施の形態に係るシミュレーション装置1によれば、穿孔機械100の操作の技能を訓練者に容易に習得させることができる。
【0086】
特に、案内情報GIは、操作装置モデル3Mのモデル画像と干渉しない位置、すなわち、撮影画像CIと干渉しない位置に表示される。このため、表示画像において、操作装置モデル3Mのモデル画像や撮影画像CIの表示が案内情報GIによって妨げられることがない。したがって、訓練者は、表示画像から、操作対象となる模擬操作部31を容易に見付けることができる。また、案内情報GIが操作対象となる模擬操作部31の近傍に表示されるため、訓練者は、当該模擬操作部31をより容易に見付けることができる。
【0087】
また、本実施の形態に係るシミュレーション装置1では、制御装置6は、複数の模擬操作部31のうち、操作手順における操作対象となる模擬操作部31が操作された場合に、次の案内情報GIの表示に切り替える。
このため、訓練者は、案内情報GIの表示が切り替わることで、模擬操作部31を適切に操作したことを認識することができる。
【0088】
(その他の実施の形態)
ここまで、本発明を実施するための形態を説明してきたが、本発明は上述した実施の形態によってのみ限定されるべきものではない。
上述した実施の形態では、案内情報GIは、操作装置モデル3Mの表示領域(撮影画像CIの表示領域)と重ならないように表示部42に表示されていたが、これに限らない。案内情報GIは、操作装置モデル3Mの表示領域と干渉しないように表示部42に表示されていればよい。例えば、案内情報GIの表示領域の少なくとも一部が操作装置モデル3Mの表示領域に重なっていてもよい。この際、当該操作装置モデル3Mの表示を妨げないように、当該案内情報GIの表示領域の少なくとも一部の透明度を変更すればよい。
【0089】
上述した実施の形態では、操作説明画像GI2を静止画像によって構成していたが、操作を説明する画像であれば、静止画像に限らず、動画像によって構成しても構わない。
上述した実施の形態では、操作対象となる模擬操作部31への操作が認識された場合に、案内情報GIの表示を切り替えていたが、これに限らず、案内情報GIを表示させてから特定の時間が経過した後に、次の案内情報GIの表示に切り替えても構わない。
【0090】
上述した実施の形態では、ヘッドマウントディスプレイ4を装着しつつ訓練者が複数の模擬操作部31を操作することができるように、第2の場合に撮影画像CIを表示部42に表示させていたが、これに限らない。
例えば、訓練者の手に赤外線を発光する発光部を取り付けておく。また、記憶部62に人間の手に応じた3Dモデルのデータを記憶させておく。ここで、制御部63は、ヘッドマウントディスプレイ4の位置及び姿勢を算出する場合と同様に、2つの赤外線カメラ51にて生成された各赤外線画像に基づいて、訓練者の手の位置及び姿勢を算出する。そして、制御部63は、当該算出した訓練者の手の位置及び姿勢に基づいて、表示部42に人間の手に応じた3Dモデルのモデル画像を表示する。
【0091】
上述した実施の形態において、制御部63の一部の機能を制御装置6の外部に設けても構わない。例えば、ヘッドマウントディスプレイ4の位置及び姿勢を算出する算出部633の機能をベースステーション5に設けても構わない。この際、制御装置6は、ヘッドマウントディスプレイ4の位置及び姿勢を示す情報をベースステーション5から取得する。
【符号の説明】
【0092】
1 シミュレーション装置
2 訓練席
3 模擬操作装置
3M 操作装置モデル
4 ヘッドマウントディスプレイ
5 ベースステーション
6 制御装置
31 模擬操作部
31a 第1の模擬操作部
31b 第2の模擬操作部
31c 第3の模擬操作部
31d 第4の模擬操作部
31e 第5の模擬操作部
31f 第6の模擬操作部
41 撮影部
42 表示部
43 赤外線出力部
51 赤外線カメラ
61 入力部
62 記憶部
63 制御部
100 穿孔機械
110 走行台車
111 トラック
120 ブーム
120M ブームモデル
121 旋回軸
122 起伏軸
130 さく岩ユニット
130M さく岩ユニットモデル
131 ガイドシェル
132 さく岩機
133 工具
140 操縦室
141 運転席
631 第1の画像取得部
632 第2の画像取得部
633 算出部
634 操作認識部
635 表示制御部
CI 撮影画像
F0~F2,F4~F9 表示画像
GI 案内情報
GI1 操作指示コメント
GI2 操作説明画像
PM 位置マーカ
RM 岩盤
SC スクリーン