IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社日立システムズの特許一覧

特開2024-172338保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラム
<>
  • 特開-保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラム 図1
  • 特開-保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラム 図2
  • 特開-保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラム 図3
  • 特開-保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラム 図4
  • 特開-保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラム 図5
  • 特開-保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラム 図6
  • 特開-保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラム 図7
  • 特開-保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラム 図8
  • 特開-保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラム 図9
  • 特開-保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラム 図10
  • 特開-保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラム 図11
  • 特開-保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラム 図12
  • 特開-保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラム 図13
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024172338
(43)【公開日】2024-12-12
(54)【発明の名称】保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラム
(51)【国際特許分類】
   G06F 3/01 20060101AFI20241205BHJP
   G06F 3/0484 20220101ALI20241205BHJP
   G06F 3/0346 20130101ALI20241205BHJP
   G06T 19/00 20110101ALI20241205BHJP
   G09B 9/00 20060101ALI20241205BHJP
   G09B 19/00 20060101ALI20241205BHJP
【FI】
G06F3/01 510
G06F3/0484
G06F3/0346 422
G06T19/00 A
G09B9/00 Z
G09B19/00 Z
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2023089992
(22)【出願日】2023-05-31
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.BLUETOOTH
(71)【出願人】
【識別番号】000233491
【氏名又は名称】株式会社日立システムズ
(74)【代理人】
【識別番号】110000198
【氏名又は名称】弁理士法人湘洋特許事務所
(72)【発明者】
【氏名】加畑 亮一
(72)【発明者】
【氏名】成田 賀仁
(72)【発明者】
【氏名】勝又 大介
(72)【発明者】
【氏名】菊地 克朗
【テーマコード(参考)】
5B050
5B087
5E555
【Fターム(参考)】
5B050BA09
5B050CA07
5B050DA04
5B050EA07
5B050EA12
5B050EA13
5B050FA06
5B087AA07
5B087BC05
5B087DE02
5E555AA25
5E555AA26
5E555BA02
5E555BA05
5E555BA38
5E555BB02
5E555BB05
5E555BB38
5E555BC04
5E555BE17
5E555CA17
5E555CA42
5E555CA44
5E555CB22
5E555CB66
5E555DA08
5E555DA09
5E555DB53
5E555DC13
5E555DC84
5E555DD07
5E555EA07
5E555FA00
(57)【要約】      (修正有)
【課題】仮想現実の中で、より効率的かつ効果的に電子機器の保守作業に関する訓練の実施を支援する保守訓練支援装置、システム、方法及びプログラムを提供する。
【解決手段】保守訓練支援システムにおいて、保守訓練支援装置100は、保守作業固有のオブジェクトを配置した3次元のVR(Virtual Reality)空間を表示するためのVR表示情報を生成する表示情報生成部111と、VR空間内でのユーザの動作を特定する動作特定部112と、を備える。表示情報生成部111は、ユーザの動作を示す動作情報に基づき、所定のラベルまたは電子機器を把持したユーザの手からオブジェクトまでの距離が所定未満の時に、ラベルまたは電子機器を開放する動作指示が入力されたことを動作特定部112が検知した場合、ラベルがオブジェクトの表面に貼り付けられた状態または電子機器がオブジェクト内にマウントされた状態を表すVR表示情報を生成する。
【選択図】図2
【特許請求の範囲】
【請求項1】
保守作業固有のオブジェクトを配置した3次元のVR(Virtual Reality)空間を表示するためのVR表示情報を生成する表示情報生成部と、
前記VR空間内でのユーザの動作を特定する動作特定部と、を備え、
前記表示情報生成部は、
ユーザの動作を示す動作情報に基づき、所定のラベルまたは電子機器を把持したユーザの手からオブジェクトまでの距離が所定未満の時に、前記ラベルまたは電子機器を開放する動作指示が入力されたことを前記動作特定部が検知した場合、
前記ラベルが前記オブジェクトの表面に貼り付けられた状態または前記電子機器が前記オブジェクト内にマウントされた状態を表す前記VR表示情報を生成する
ことを特徴とする保守訓練支援装置。
【請求項2】
請求項1に記載の保守訓練支援装置であって、
前記表示情報生成部は、
前記ラベルまたは電子機器を把持したユーザの手からオブジェクトまでの距離が所定未満であることが前記動作特定部により検知された場合、
前記オブジェクトの表面に、前記ラベルの貼り付け位置または前記電子機器のマウント位置をガイドする補助情報を表示する
ことを特徴とする保守訓練支援装置。
【請求項3】
請求項2に記載の保守訓練支援装置であって、
前記補助情報は、前記ラベルまたは電子機器の表面形状と同じ形状で表示される
ことを特徴とする保守訓練支援装置。
【請求項4】
請求項2または3に記載の保守訓練支援装置であって、
前記表示情報生成部は、
前記補助情報上に前記ラベルまたは電子機器が吸着されるような動作を表現した前記VR表示情報を生成する
ことを特徴とする保守訓練支援装置。
【請求項5】
請求項1に記載の保守訓練支援装置であって、
前記表示情報生成部は、
前記オブジェクトの表面に前記ラベルが貼り付けられている場合、当該オブジェクトの動きに連動して、前記VR空間における当該ラベルの位置が移動する動作を表した前記VR表示情報を生成する
ことを特徴とする保守訓練支援装置。
【請求項6】
保守訓練支援装置と、ユーザの動作を検知するVRゴーグルおよびコントローラと、を有する保守訓練支援システムであって、
前記保守訓練支援装置は、
保守作業固有のオブジェクトを配置した3次元のVR(Virtual Reality)空間を表示するためのVR表示情報を生成する表示情報生成部と、
前記VR空間内でのユーザの動作を特定する動作特定部と、を備え、
前記表示情報生成部は、
前記VRゴーグルおよびコントローラのうち、少なくともいずれか一方により検知されたユーザの動作を示す動作情報に基づき、所定のラベルまたは電子機器を把持したユーザの手からオブジェクトまでの距離が所定未満の時に、前記ラベルまたは電子機器を開放する動作指示が入力されたことを前記動作特定部が検知した場合、
前記ラベルが前記オブジェクトの表面に貼り付けられた状態または前記電子機器が前記オブジェクト内にマウントされた状態を表す前記VR表示情報を生成する
ことを特徴とする保守訓練支援システム。
【請求項7】
保守訓練支援装置が行う保守訓練支援方法であって、
前記保守訓練支援装置は、
保守作業固有のオブジェクトを配置した3次元のVR(Virtual Reality)空間を表示するためのVR表示情報を生成する表示情報生成ステップと、
前記VR空間内でのユーザの動作を特定する動作特定ステップと、を行い、
前記表示情報生成ステップでは、
ユーザの動作を示す動作情報に基づき、所定のラベルまたは電子機器を把持したユーザの手からオブジェクトまでの距離が所定未満の時に、前記ラベルまたは電子機器を開放する動作指示が入力されたことを前記動作特定ステップにより検知された場合、
前記ラベルが前記オブジェクトの表面に貼り付けられた状態または前記電子機器が前記オブジェクト内にマウントされた状態を表す前記VR表示情報を生成する
ことを特徴とする保守訓練支援方法。
【請求項8】
コンピュータを保守訓練支援装置として機能させるプログラムであって、
前記コンピュータを、
保守作業固有のオブジェクトを配置した3次元のVR(Virtual Reality)空間を表示するためのVR表示情報を生成する表示情報生成部と、
前記VR空間内でのユーザの動作を特定する動作特定部と、して機能させ、
ユーザの動作を示す動作情報に基づき、所定のラベルまたは電子機器を把持したユーザの手からオブジェクトまでの距離が所定未満の時に、前記ラベルまたは電子機器を開放する動作指示が入力されたことを前記動作特定部が検知した場合、
前記表示情報生成部に、前記ラベルが前記オブジェクトの表面に貼り付けられた状態または前記電子機器が前記オブジェクト内にマウントされた状態を表す前記VR表示情報を生成させる
ことを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、保守訓練支援装置、保守訓練支援システム、保守訓練支援方法およびプログラムに関する。
【背景技術】
【0002】
近年、VR(Virtual Reality:仮想現実)の技術を利用したゲームなどの映像コンテンツが増加傾向にある。VRは、例えば、3DCG(Dimensional Computer Graphics)の技術を用いて作成された仮想現実の映像世界であり、ゲームユーザなどのVR利用者は、仮想現実の中で様々な体験をすることができる。
【0003】
また、VRの特性を利用して、職業訓練を行うコンテンツがある。例えば、特許文献1には、VR空間内において農作物の栽培訓練を行うことが開示されている。具体的には、特許文献1には、仮想空間に表示される農作物に対する作業対象部位と作業対象部位に用いる道具である作業手段とを作業手順に関連付けて記憶する訓練シナリオ記憶部と、作業手順の進行に伴って、農作物および作業手段を表示装置に三次元表示させる三次元表示制御部と、ユーザあるいは操作用装置の位置や動きを検知して検知信号を出力する検知信号出力部と、検知信号に基づいて、仮想空間に表示される作業手段を変化させる操作検知部と、仮想空間における作業対象部位の座標と作業手段の座標および操作内容とに基づいて操作の結果を判定する操作判定部と、を備えた農作物の栽培技術を教育・訓練するシステムが開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2022-149636号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
職業訓練を行うVRコンテンツでは、通常、訓練対象固有のオブジェクトやその動きなどを定義した情報と、VRゴーグルやコントローラから取得した情報と、に基づいて、ユーザ動作に連動して変化する仮想現実世界の表示情報が生成される。そのため、例えば電子機器などの保守作業に関する訓練をVRコンテンツで行う場合、保守作業固有のオブジェクトなどを定義した情報が必要になる。
【0006】
また、保守作業の訓練中にVR空間の中で保守作業固有のユーザ動作を補助するための情報を表示することが好ましい場合があり、このような情報を表示する場合にも、予め定義した情報が必要になる。
【0007】
なお、特許文献1の技術は、VR空間内で農作物の栽培に関する教育・訓練を行うものである。そのため、同文献の技術では、電子機器などの保守作業固有のオブジェクトやその動き等については考慮されていない。
【0008】
本発明は、上記の点に鑑みてなされたものであり、仮想現実の中で、より効率的かつ効果的に電子機器の保守作業に関する訓練の実施を支援することを目的とする。
【課題を解決するための手段】
【0009】
本願は、上記課題の少なくとも一部を解決する手段を複数含んでいるが、その例を挙げるならば、以下のとおりである。
【0010】
上記の課題を解決するため、本発明の一態様に係る保守訓練支援装置は、保守作業固有のオブジェクトを配置した3次元のVR(Virtual Reality)空間を表示するためのVR表示情報を生成する表示情報生成部と、前記VR空間内でのユーザの動作を特定する動作特定部と、を備え、前記表示情報生成部は、ユーザの動作を示す動作情報に基づき、所定のラベルまたは電子機器を把持したユーザの手からオブジェクトまでの距離が所定未満の時に、前記ラベルまたは電子機器を開放する動作指示が入力されたことを前記動作特定部が検知した場合、前記ラベルが前記オブジェクトの表面に貼り付けられた状態または前記電子機器が前記オブジェクト内にマウントされた状態を表す前記VR表示情報を生成する。
【0011】
また、上記の保守訓練支援装置において、前記表示情報生成部は、前記ラベルまたは電子機器を把持したユーザの手からオブジェクトまでの距離が所定未満であることが前記動作特定部により検知された場合、前記オブジェクトの表面に、前記ラベルの貼り付け位置または前記電子機器のマウント位置をガイドする補助情報を表示しても良い。
【0012】
また、上記の保守訓練支援装置において、前記補助情報は、前記ラベルまたは電子機器の表面形状と同じ形状で表示されても良い。
【0013】
また、上記の保守訓練支援装置において、前記表示情報生成部は、前記補助情報上に前記ラベルまたは電子機器が吸着されるような動作を表現した前記VR表示情報を生成しても良い。
【0014】
また、上記の保守訓練支援装置において、前記表示情報生成部は、前記オブジェクトの表面に前記ラベルが貼り付けられている場合、当該オブジェクトの動きに連動して、前記VR空間における当該ラベルの位置が移動する動作を表した前記VR表示情報を生成しても良い。
【0015】
また、本発明の別の態様にかかる保守訓練支援システムは、保守訓練支援装置と、ユーザの動作を検知するVRゴーグルおよびコントローラと、を有する保守訓練支援システムであって、前記保守訓練支援装置は、保守作業固有のオブジェクトを配置した3次元のVR(Virtual Reality)空間を表示するためのVR表示情報を生成する表示情報生成部と、前記VR空間内でのユーザの動作を特定する動作特定部と、を備え、前記表示情報生成部は、前記VRゴーグルおよびコントローラにより検知されたユーザの動作を示す動作情報に基づき、所定のラベルまたは電子機器を把持したユーザの手からオブジェクトまでの距離が所定未満の時に、前記ラベルまたは電子機器を開放する動作指示が入力されたことを前記動作特定部が検知した場合、前記ラベルが前記オブジェクトの表面に貼り付けられた状態または前記電子機器が前記オブジェクト内にマウントされた状態を表す前記VR表示情報を生成する。
【0016】
また、本発明の別の態様にかかる保守訓練支援方法は、保守訓練支援装置が行う保守訓練支援方法であって、前記保守訓練支援装置は、保守作業固有のオブジェクトを配置した3次元のVR(Virtual Reality)空間を表示するためのVR表示情報を生成する表示情報生成ステップと、前記VR空間内でのユーザの動作を特定する動作特定ステップと、を行い、前記表示情報生成ステップでは、ユーザの動作を示す動作情報に基づき、所定のラベルまたは電子機器を把持したユーザの手からオブジェクトまでの距離が所定未満の時に、前記ラベルまたは電子機器を開放する動作指示が入力されたことを前記動作特定ステップにより検知された場合、前記ラベルが前記オブジェクトの表面に貼り付けられた状態または前記電子機器が前記オブジェクト内にマウントされた状態を表す前記VR表示情報を生成する。
【0017】
また、本発明の別の態様にかかるプログラムは、コンピュータを保守訓練支援装置として機能させるプログラムであって、前記コンピュータを、保守作業固有のオブジェクトを配置した3次元のVR(Virtual Reality)空間を表示するためのVR表示情報を生成する表示情報生成部と、前記VR空間内でのユーザの動作を特定する動作特定部と、して機能させ、ユーザの動作を示す動作情報に基づき、所定のラベルまたは電子機器を把持したユーザの手からオブジェクトまでの距離が所定未満の時に、前記ラベルまたは電子機器を開放する前記動作指示が入力されたことを動作特定部が検知した場合、前記表示情報生成部に、前記ラベルが前記オブジェクトの表面に貼り付けられた状態または前記電子機器が前記オブジェクト内にマウントされた状態を表す前記VR表示情報を生成させる。
【発明の効果】
【0018】
本発明によれば、仮想現実の中で、より効率的かつ効果的に電子機器の保守作業に関する訓練の実施を支援することができる。
【0019】
なお、上記以外の課題、構成および効果等は、以下の実施形態の説明により明らかにされる。
【図面の簡単な説明】
【0020】
図1】保守訓練支援システムの概略構成の一例を示した図である。
図2】保守訓練支援装置の機能構成の一例を示したブロック図である。
図3】オブジェクト管理情報の一例を示した図である。
図4】干渉情報の一例を示した図である。
図5】ペア情報の一例を示した図である。
図6】位置情報の一例を示した図である。
図7】保守作業訓練を行うVR空間の一例を示した図である。
図8】注意喚起ラベルの貼り付け動作の一例を示した図である。
図9】ワイヤフレームの第1の表示例を示した図である。
図10】電子機器の移動動作の一例を示した図である。
図11】ワイヤフレームの第2の表示例を示した図である。
図12】保守訓練支援装置のハードウェア構成の一例を示した図である。
図13】保守訓練支援処理の一例を示したフロー図である。
【発明を実施するための形態】
【0021】
以下、本発明の一例である実施形態について、図面を用いて説明する。
【0022】
<保守訓練支援システム1000の概略構成>
図1は、本実施形態に係る保守訓練支援システム1000の概略構成の一例を示した図である。図示するように、保守訓練支援システム1000は、保守訓練支援装置100と、計算機150と、VRゴーグル160と、コントローラ170と、を有している。
【0023】
なお、VRゴーグル160およびコントローラ170は、所定の無線通信規格(例えば、Bluetoothなど)による無線通信あるいは有線ケーブルにより計算機150と相互通信可能に接続されており、計算機150は、ネットワークNを介して保守訓練支援装置100と相互通信可能に接続されている。
【0024】
なお、ネットワークNは、例えば、インターネット、イントラネット、WAN(Wide Area Network)、携帯電話網等、あるいはこれらが複合した通信網などである。また、ネットワークNは、携帯電話通信網等の無線通信網上のVPN(Virtual Private Network)等であっても良い。
【0025】
このような保守訓練支援システム1000では、保守訓練支援装置100により生成されたVR表示情報を計算機150が取得して3Dレンダリングを行い、レンダリング後のVR表示情報をVRゴーグル160に出力することで、保守作業の訓練を行うためのVR空間がVRゴーグル160に表示される。
【0026】
また、VRゴーグル160やコントローラ170は各々、自身に搭載されているカメラやセンサから取得したユーザの動作を示す情報(以下、「動作情報」という場合がある)を保守訓練支援装置100に送信し、VR空間におけるユーザの動きをフィードバックする。また、フィードバックを取得した保守訓練支援装置100は、ユーザ動作に連動して変化したVR空間の表示情報を生成し、計算機150を介してVRゴーグル160に表示させる。
【0027】
このような処理が連続的に繰り返し実行されることで、ユーザは、VR空間において電子機器等の保守作業の訓練を行うことができる。
【0028】
<VRゴーグル160>
VRゴーグル160は、例えば3GCGで作成された3次元映像のVR表示情報を映し出すヘッドマウントディスプレイである。VRゴーグル160は、ユーザの両眼の視差を利用してVR空間内のオブジェクトなどが立体的に見えるように、VRゴーグル160に搭載されているディスプレイにVR表示情報を表示する。
【0029】
また、VRゴーグル160は、ユーザの頭部の動き(例えば、向きや傾きなど)を検知するセンサや、ユーザの手の動きの検知などに利用される複数のカメラを有し、計算機150を介して、検知した動作情報を保守訓練支援装置100に送信する。具体的には、VRゴーグル160は、センサやカメラによるヘッドトラッキングを行い、トラッキングデータを動作情報として保守訓練支援装置100に送信する。なお、VRゴーグル160は、ユーザがコントローラ170を用いない場合、カメラを用いたハンドトラッキングを行い、ユーザの手の動き(ハンドジェスチャー)を示す動作情報を保守訓練支援装置100に送信する。
【0030】
なお、VRゴーグル160には、例えば、自身でVR表示情報をレンダリングすることでVR空間を表示するスタンドアロン型や、スマートフォンを嵌め込んで使用する形態など様々な種類があるが、本実施形態では、通信可能に接続された計算機150によりレンダリングされたVR表示情報を用いてVR空間をディスプレイに表示する形態のものを例として以下の説明を行う。
【0031】
<コントローラ170>
コントローラ170は、VR空間におけるユーザの手の動き(手の移動方向や移動量など)を検知したり、オブジェクトを掴むあるいは放すなどの動作指示をユーザから受け付ける装置である。具体的には、コントローラ170は、例えば、モーションセンサや加速度センサなどの複数種類のセンサを有している。また、コントローラ170は、動作指示を受け付ける複数の指示受付ボタンを有している。
【0032】
また、コントローラ170は、計算機150を介して、センサが検知したユーザの手の動きや指示受付ボタンを介して取得した動作指示を含む動作情報を保守訓練支援装置100に送信する。
【0033】
このようなVRゴーグル160およびコントローラ170を用いることで、ユーザは、作業対象のオブジェクトが配置されたVR空間の中で、オブジェクトを把持する動作、把持したままオブジェクトを動かす動作あるいは把持したオブジェクトを開放する動作などの保守作業に関する様々な種類の動作を行うことができる。
【0034】
<計算機150>
計算機150は、保守作業の訓練を行うVR空間の表示情報をVRゴーグル160に表示させる装置であって、例えば、PC(Personal Computer)によって実現される。なお、計算機150は、要求される処理スペックを満たせば、タブレット端末やスマートフォンなどの装置であっても良い。
【0035】
計算機150は、3次元映像であるVR表示情報を保守訓練支援装置100から取得すると、3Dレンダリングを行う。具体的には、計算機150は、保守訓練支援装置100から取得したVR表示情報を用いてリアルタイムに3次元映像を生成するリアルタイムレンダリングを行う。また、計算機150は、3Dレンダリングにより生成した3次元映像であるVR表示情報をVRゴーグル160に出力する。
【0036】
また、計算機150は、VRゴーグル160およびコントローラ170から取得した動作情報を保守訓練支援装置100に送信する処理を行う。
【0037】
<保守訓練支援装置100>
保守訓練支援装置100は、VR空間におけるユーザの保守訓練を支援する装置であって、例えば、サーバ計算機やクラウドサーバあるいはパーソナルコンピュータにより実現される。具体的には、保守訓練支援装置100は、ユーザが保守作業の訓練を行う3次元映像のVR表示情報を生成し、計算機150を介して、当該訓練を行うユーザが装着するVRゴーグル160にVR表示情報を表示させる。
【0038】
また、保守訓練支援装置100は、VRゴーグル160やコントローラ170から取得した動作情報に基づきユーザの動作に連動して変化するVR空間の表示情報を生成し、計算機150を介してVRゴーグル160に表示させる。
【0039】
<<保守訓練支援装置100の詳細>>
図2は、保守訓練支援装置100の機能構成の一例を示したブロック図である。図示するように、保守訓練支援装置100は、処理部110と、記憶部120と、通信部130と、を有している。
【0040】
処理部110は、保守訓練支援装置100で実行される様々な処理を行う機能部である。具体的には、処理部110は、各処理を実行するための機能部として、表示情報生成部111と、動作特定部112と、を有している。
【0041】
<<<表示情報生成部111>>>
表示情報生成部111は、VR表示情報を生成する機能部である。具体的には、表示情報生成部111は、記憶部120に記憶されているオブジェクト等に関する各種の情報や、VRゴーグル160およびコントローラ170から取得した動作情報を用いて、VR空間内で保守作業の訓練を行う様子を3次元映像で表したVR表示情報を生成する。また、表示情報生成部111は、通信部130を介して、VR表示情報を計算機150に送信する。
【0042】
<<<動作特定部112>>>
動作特定部112は、VR空間におけるユーザの動作やオブジェクトの動きを特定する機能部である。動作特定部112は、コントローラ170からの入力もしくはVRゴーグル160からの入力(VRゴーグル160で認識されたハンドジェスチャーの内容を示す)を受け付けて、ユーザの動作を特定する。具体的には、動作特定部112は、コントローラ170またはVRゴーグル160から受け付けた動作情報を用いて、VR空間におけるユーザの動作(例えば、手の動きやオブジェクトに対して掴むあるいは放すといった動作)と、ユーザの動作に伴って変化するオブジェクトの位置、オブジェクト同士の距離あるいはオブジェクト同士の干渉といったオブジェクトの動きを特定する。
【0043】
より具体的には、動作特定部112は、動作情報と、VR空間に設定されているグローバル座標系および各オブジェクトに設定されているローカル座標系に基づきオブジェクトの位置、干渉などの物理関係、連動するオブジェクトなどを管理する記憶部120内の各種の情報と、を用いて、VR空間におけるユーザの動作やオブジェクトの動きを特定する。
【0044】
なお、VR空間におけるユーザの動作やオブジェクトの動きなどを特定する方法は、特に限定されるものではなく、例えば、公知のVR技術が用いられれば良い。
【0045】
<<<記憶部120>>>
次に、記憶部120について説明する。記憶部120は、各種の情報を記憶する機能部である。具体的には、記憶部120は、保守作業固有のオブジェクトやその動作が定義されているオブジェクト管理情報DB(Database)121と、干渉などの物理関係のあるオブジェクトの情報が登録されている干渉情報122と、動作に連動性のあるオブジェクトが登録されているペア情報123と、VR空間における各オブジェクトの最新の位置を記憶した位置情報124と、保守作業訓練の手順や作業指示などが登録されているシナリオ情報125と、を有している。
【0046】
図3は、オブジェクト管理情報DB121に格納されているオブジェクト管理情報の一例を示した図である。オブジェクト情報は、オブジェクトの種類や位置および動作などが定義されている情報である。具体的には、オブジェクト管理情報は、識別情報、種類、座標位置および特殊オブジェクトフラグといった項目が対応付けられたレコードを有している。
【0047】
識別情報は、オブジェクトを一意に識別する情報である。種類は、オブジェクトの種類を識別する情報であって、例えば保守作業固有のオブジェクトであるラック、電子機器、ラック扉、ケーブル、電源コード、注意喚起ラベルなどの様々な種類がある。
【0048】
座標位置は、VR空間におけるオブジェクトの位置を示す座標情報である。なお、座標位置には、VR空間に設定されるグローバル座標系で特定されるオブジェクトの位置と、個々のオブジェクトに設定されるローカル座標系で特定されるオブジェクトの位置と、の両方が含まれる。
【0049】
また、特殊オブジェクトフラグは、保守作業の訓練により動かすことのできるオブジェクト(例えば、電子機器やラック、ラック扉、ケーブル、電源コード、注意喚起ラベルなど)を示す情報である。具体的には、特殊オブジェクトフラグに「1」が登録されているオブジェクトは、特殊オブジェクトに該当する。なお、保守作業訓練における移動対象に該当しないオブジェクトには、当該フラグに「0」が登録されている。
【0050】
また、オブジェクト管理情報には、これらの項目以外にも、動作の特性(例えば、ラック扉の場合、ローカル座標系におけるX~Z軸のいずれかの軸を中心に開閉する等)を定義した情報なども登録されている(図示せず)。
【0051】
図4は、干渉情報122の一例を示した図である。干渉情報122は、オブジェクト同士の干渉状況を示す情報である。具体的には、干渉情報122は、識別情報、干渉オブジェクトおよび干渉部位といった項目が対応付けられたレコードを有している。なお、識別情報は、オブジェクトを一意に識別する情報である。干渉オブジェクトは、識別情報で特定されるオブジェクトから見た場合の干渉対象のオブジェクトであって、当該オブジェクトの識別情報が登録されている。また、干渉部位は、干渉オブジェクトと干渉(接触)している部位を特定する情報であって、例えば、ローカル座標系により特定される情報である。
【0052】
図5は、ペア情報123の一例を示した図である。ペア情報123は、連動関係にあるオブジェクトを登録した情報である。具体的には、ペア情報123には、親オブジェクトと、親オブジェクトの動きに連動する子オブジェクトと、に関する情報が登録されている。より具体的には、ペア情報123は、親オブジェクトの識別情報、子オブジェクトの識別情報および座標位置といった項目が対応付けられたレコードを有している。
【0053】
なお、親オブジェクトと子オブジェクトの識別情報は各々、ラックやラック扉などの親オブジェクト(例えば、子オブジェクトが貼り付けられたり、取り付けられたりする側のオブジェクトを指す)と、電子機器や注意喚起ラベルなどの子オブジェクト(例えば、親オブジェクトに貼り付けたり、取り付けたりする側のオブジェクト)を一意に識別する情報である。座標位置は、親オブジェクトに対する子オブジェクトの位置を特定する座標情報であって、例えば、ローカル座標系により特定される情報である。なお、親オブジェクトに該当するオブジェクトの種類や子オブジェクトに該当するオブジェクトの種類は所定の情報(図示せず)により定義され、当該情報は、記憶部120に予め格納されていれば良い。また、例えば、特殊オブジェクトが子オブジェクトとして扱われ、非特殊オブジェクトが親オブジェクトとして扱われても良い。
【0054】
なお、連動性のあるオブジェクト同士が親オブジェクトに該当するか、子オブジェクトに該当するかは、所定の観点(例えば、動作のし難さなど)に応じてオブジェクトごとに予め設定されている優先情報(図示せず)に基づき決定されれば良い。
【0055】
図6は、位置情報124の一例を示した図である。位置情報124は、ユーザによる保守作業訓練によって動いたオブジェクトの変化後の位置すなわちVR空間における最新の位置を示す情報である。具体的には、位置情報124は、識別情報および座標位置といった項目が対応付けられたレコードを有している。なお、識別情報は、オブジェクトを一意に識別する情報である。また、座標位置は、オブジェクトの最新の位置を示す座標情報であって、グローバル座標系およびローカル座標系によって特定される情報である。
【0056】
シナリオ情報125は、保守作業訓練の手順や作業指示などが登録されている情報である。具体的には、シナリオ情報125には、例えば、電子機器201の交換やマウント位置の変更といった複数種類の訓練目的に応じたシナリオと、各シナリオに対応するオブジェクト、オブジェクトの配置、保守作業の手順および作業指示といった情報が登録されている。
【0057】
なお、作業指示は、例えば、「指差し呼称により作業対象のラックを特定してください」、「作業対象のラックに作業中ラベル(注意喚起ラベル)を貼ってください」など、保守作業の手順に従った作業指示を示す情報である。
【0058】
また、これら記憶部120内の各情報は一例であって、VR空間におけるオブジェクトの位置、動き、干渉などの物理関係、連動性のあるオブジェクトおよび移動後の位置などを特定できる情報であれば、情報の種類や内容および情報の紐付け関係などは上記の例に限定されるものではない。
【0059】
<<<通信部130>>>
図2に戻って説明する。通信部130は、外部装置との間で情報通信を行う機能部である。具体的には、通信部130は、計算機150と情報通信を行い、VRゴーグル160やコントローラ170から出力された動作情報を取得する。また、通信部130は、表示情報生成部111により生成されたVR表示情報を計算機150に送信する。
【0060】
<VRゴーグル160に表示されるVR空間の一例>
図7は、保守作業訓練を行うVR空間の一例を示した図である。図示するように、保守作業訓練のVR空間には、例えば、ラック200、電子機器201および注意喚起ラベル202などの保守作業固有のオブジェクトと、作業指示ウィンドウ203と、ユーザの手204(図示する例は、手204の形状を簡略化している)が表示されている。
【0061】
なお、ラック200などの各オブジェクトや作業指示ウィンドウ203は、前述の記憶部120に格納されている情報に基づいてVR空間内に表示されている。また、ユーザの手204は、VRゴーグル160やコントローラ170から取得した動作情報に基づき、VR空間内の対応する位置に表現されている。
【0062】
<保守作業特有の動作および補助情報の表示>
図8は、注意喚起ラベル202の貼り付け動作の一例を示した図である。保守作業では、誤作業防止の観点から、作業対象の電子機器201などがマウントされているラック200やラック扉に作業対象を示す注意喚起ラベル202(例えば、「作業中」といった文字が記載されたラベル)を貼り付けることがルール化されている。処理部110は、このような保守作業特有の動作をユーザがVR空間で訓練できるようにする。
【0063】
具体的には、表示情報生成部111は、記憶部120内の各情報を用いて、VR空間の所定位置(例えば、ラック200付近など)に注意喚起ラベル202を配置したVR表示情報を生成する。また、動作特定部112は、動作情報と、記憶部120内の各情報と、に基づいて、ユーザの手204から注意喚起ラベル202までの距離を計算する。また、動作特定部112は、当該距離が所定未満のときに把持する動作指示が入力された場合、表示情報生成部111を介して、ユーザの手204が注意喚起ラベル202を把持する動作のVR表示情報を生成する。
【0064】
また、動作特定部112は、動作情報と、記憶部120内の各情報と、に基づいて、注意喚起ラベル202を把持したユーザの手204からラック200などのオブジェクトまでの距離を計算する。また、当該距離が所定未満の時に注意喚起ラベル202を開放する動作指示が入力されたことを動作特定部112が検知すると、表示情報生成部111は、ユーザの手204に近接するラック200等のオブジェクトの表面に注意喚起ラベル202が貼り付けられた状態のVR表示情報を生成する。
【0065】
このような処理により、ユーザは、注意喚起ラベル202の貼り付けといった保守作業特有の動作をVR空間内で訓練することができる。
【0066】
また、処理部110は、このような保守作業特有の動作を補助するための補助情報として、ラック200やラック扉の表面に注意喚起ラベル202の張り付く位置をガイドするためのワイヤフレーム210を表示する。
【0067】
図9は、ワイヤフレーム210の第1の表示例を示した図である。ワイヤフレーム210の表示にあたり、動作特定部112は、動作情報と、記憶部120内の各情報と、を用いて、注意喚起ラベル202を把持したユーザの手204からラック200やラック扉などのオブジェクトまでの距離を計算し、当該距離が所定未満になったか否かを判定する。
【0068】
そして、当該距離が所定未満であると判定した場合、動作特定部112は、表示情報生成部111を介して、ユーザが把持している注意喚起ラベル202に近接するラック200等のオブジェクトの表面に、注意喚起ラベル202の貼付領域を示すワイヤフレーム210を表示する。なお、ワイヤフレーム210は、注意喚起ラベル202の表面形状(矩形など)と同じ形状で表示される。
【0069】
また、注意喚起ラベル202を把持したユーザの手204からラック200などのオブジェクトまでの距離が所定未満の時に注意喚起ラベル202を開放する動作指示が入力されたことを動作特定部112が検知すると、表示情報生成部111は、ラック200等のオブジェクトの表面であって、ワイヤフレーム210の表示位置に注意喚起ラベル202が貼り付けられた状態のVR表示情報を生成する。具体的には、表示情報生成部111は、ワイヤフレーム210によって位置決めされたオブジェクトの表面に注意喚起ラベル202が吸着(スナップ)するような貼り付け動作を表現したVR表示情報を生成する。
【0070】
このような処理により、ユーザは、ワイヤフレーム210に基づいて、オブジェクト表面に注意喚起ラベル202の貼付位置を位置決めすることができる。
【0071】
また、ワイヤフレーム210によって位置決めされたオブジェクトの表面に注意喚起ラベル202が吸着(スナップ)するように貼り付けられることで、ユーザは、把持する注意喚起ラベル202の向きや、手204からオブジェクトまでの距離を微調整することなく、訓練に集中することができる。
【0072】
図10は、電子機器201の移動動作の一例を示した図である。保守作業には、例えば、故障した電子機器201等を交換する作業や、電子機器201のマウント位置を変更する作業がある。処理部110は、このような保守作業特有の動作をユーザがVR空間で訓練できるようにする。
【0073】
具体的には、表示情報生成部111は、記憶部120内の各情報を用いて、電子機器201がマウントされたラック200を配置したVR空間の表示情報を生成する。また、動作特定部112は、動作情報と、記憶部120内の各情報と、に基づいて、ユーザの手204から作業対象の電子機器201までの距離を計算する。また、動作特定部112は、当該距離が所定未満のときに把持する動作指示が入力された場合、表示情報生成部111を介して、ユーザの手204が作業対象の電子機器201を把持する動作のVR表示情報を生成する。
【0074】
また、動作特定部112は、動作情報と、記憶部120内の各情報と、に基づいて、電子機器201を把持したユーザの手204からラック200などのオブジェクトの表面までの距離を計算する。また、当該距離が所定未満の時に電子機器201を開放する動作指示が入力されたことを動作特定部112が検知すると、表示情報生成部111は、ユーザの手204に近接するラック200内のマウント可能な位置に電子機器201がマウントされた状態のVR表示情報を生成する。
【0075】
このような処理により、ユーザは、電子機器201の交換や位置変更といった保守作業特有の動作をVR空間内で訓練することができる。
【0076】
また、処理部110は、このような保守作業特有の動作を補助するための補助情報として、ラック200内のマウント可能な位置をガイドするためのワイヤフレーム210を表示する。
【0077】
図11は、ワイヤフレーム210の第2の表示例を示した図である。ワイヤフレーム210の表示にあたり、動作特定部112は、動作情報と、記憶部120内の各情報と、を用いて、電子機器201を把持したユーザの手204からラック200表面までの距離を計算し、当該距離が所定未満になったか否かを判定する。
【0078】
そして、当該距離が所定未満であると判定した場合、動作特定部112は、表示情報生成部111を介して、ユーザが把持している電子機器201に近接するラック200内のマウント可能な位置に、電子機器201のマウント領域を示すワイヤフレーム210を表示する。なお、ワイヤフレーム210は、電子機器201の表面形状(矩形など)と同じ形状で表示される。
【0079】
また、電子機器201を把持したユーザの手204からラック200表面までの距離が所定未満の時に電子機器201を開放する動作指示が入力されたことを動作特定部112が検知すると、表示情報生成部111は、ラック200表面であって、ワイヤフレーム210の表示位置に電子機器201がマウントされた状態のVR表示情報を生成する。具体的には、表示情報生成部111は、ワイヤフレーム210によって位置決めされたラック200内のマウント可能な位置に電子機器201が吸着(スナップ)するような動作を表現したVR表示情報を生成する。
【0080】
このような処理により、ユーザは、ワイヤフレーム210に基づいて、ラック200内に電子機器201のマウント位置を位置決めすることができる。
【0081】
また、ワイヤフレーム210によって位置決めされたラック200内に電子機器201が吸着(スナップ)するようにマウントされることで、ユーザは、把持する電子機器201の向きや、手204からラック200までの距離を微調整することなく、訓練に集中することができる。
【0082】
なお、保守作業特有の動作に関するオブジェクトは、注意喚起ラベル202や電子機器201に限定されるものではなく、ケーブルや電源コードあるいはそれ以外のオブジェクトも対象となる。その場合でも、保守訓練支援装置100(特に、処理部110)は、上記と同様の処理を行うことで、保守作業特有の動作についてユーザの訓練を可能にし、補助情報の表示によって、より効率的かつ効果的な訓練の実施を支援することができる。
【0083】
また、処理部110は、親オブジェクトの動きに連動させて子オブジェクトも動くようにVR空間内でのオブジェクトの位置を変更する。例えば、動作特定部112は、或るオブジェクト(例えば、ラック扉や電子機器201)に注意喚起ラベル202が貼り付けられたことを動作情報に基づき検知すると、優先情報(図示せず)に基づいて、当該オブジェクトを親オブジェクト、注意喚起ラベル202を子オブジェクトとしてペア情報123に登録する。
【0084】
また、動作特定部112は、例えば、動作情報に基づき親オブジェクト(ラック扉や電子機器201)が動作したことを検知すると、ペア情報123に基づいて、注意喚起ラベル202が親オブジェクトと連動する子オブジェクトであることを特定する。そうすると、動作特定部112は、親オブジェクトの動き(ラック扉の開閉や電子機器201のマウント位置の変更など)に連動させて注意喚起ラベル202の位置を移動させ、移動後の座標位置を位置情報124に登録する。
【0085】
また、動作特定部112は、表示情報生成部111を介して、親オブジェクトや子オブジェクトの動作を表すVR表示情報を生成する。
【0086】
このような処理により、処理部110は、VR空間におけるよりリアルなオブジェクトの動作を表現することができる。
【0087】
<ハードウェア構成>
図12は、保守訓練支援装置100のハードウェア構成の一例を示した図である。図示するように、保守訓練支援装置100は、プロセッサ310と、メモリ320と、ストレージ330と、通信装置340と、を有し、各構成要素はバス350により接続されている。また、電源(不図示)は、一次電池でも、充電可能な二次電池でも良く、消耗・劣化した際に交換可能とすることができる。
【0088】
プロセッサ310はCPU(Central Processing Unit)、GPU(Graphics Processing Unit)等の演算装置であり、メモリ320又はストレージ330に記録されたプログラムに従って処理を実行する。保守訓練支援装置100では、メモリ320又はストレージ330上に読み出されたプログラムに従って動作するプロセッサ310により処理が行われる。処理部110は、プロセッサ310がプログラムを実行することにより各々の機能を実現する。
【0089】
メモリ320は、RAM(Random Access Memory)又はフラッシュメモリ等の記憶装置であり、プログラムやデータが一時的に読み出される記憶エリアとして機能する。ストレージ330は、書き込み及び読み出し可能な記憶装置である。記憶部120は、メモリ320又はストレージ330によりその機能が実現される。なお、記憶部120は、通信装置340を介して接続される記憶装置によってその機能が実現されても良い。
【0090】
通信装置340は、保守訓練支援装置100を外部の装置と通信接続するためのインターフェースである。
【0091】
なお、保守訓練支援装置100の各構成要素の処理は、1つのハードウェアで実行されてもよいし、複数のハードウェアで実行されてもよい。また、保守訓練支援装置100の各構成要素の処理は、1つのプログラムで実現されてもよいし、複数のプログラムで実現されてもよい。
【0092】
<保守訓練支援処理>
図13は、保守訓練支援処理の一例を示したフロー図である。当該処理は、例えば表示情報生成部111が処理の開始指示をユーザから受け付けると開始される。このとき、ユーザは、自身が訓練したい所定のシナリオをシナリオ情報125から選択して処理を開始する。
【0093】
処理が開始されると、表示情報生成部111は、VR表示情報を生成する(ステップS10)。具体的には、表示情報生成部111は、シナリオ情報125を用いて、ユーザが選択したシナリオに対応するオブジェクト、オブジェクトの配置、保守作業の手順および作業指示といった情報を特定する。また、表示情報生成部111は、特定したオブジェクト等を配置したVR空間の表示情報を生成する。
【0094】
また、表示情報生成部111は、通信部130を介して動作情報を取得すると、当該動作情報と、記憶部120内の各情報と、に基づき、ユーザの動作に応じて変化するVR空間の表示情報を生成し、通信部130を介して、当該VR表示情報を計算機150に送信する。
【0095】
次に、動作特定部112は、取得した動作情報および記憶部120内の各情報に基づき、ユーザの第1の動作を検知したか否かを判定する(ステップS20)。具体的には、動作特定部112は、注意喚起ラベル202を把持したユーザの手204から所定のオブジェクト(例えば、ラック200や電子機器201など)までの距離が所定未満の時に、ユーザの第1の動作を検知したと判定する。
【0096】
あるいは、動作特定部112は、電子機器201を把持したユーザの手204からラック200表面までの距離が所定未満の時に、ユーザの第1の動作を検知したと判定する。
【0097】
そして、第1の動作を検知したと判定した場合(ステップS20でYes)、表示情報生成部111は、ワイヤフレーム210を表示する(ステップS30)。具体的には、表示情報生成部111は、対象のオブジェクト(例えば、ラック200やラック扉)の表面あるいは対象のオブジェクト内(ラック200内)のマウント可能な位置にワイヤフレーム210を表示する。一方で、第1の動作を検知していないと判定した場合(ステップS20でNo)、動作特定部112は、処理をステップS10に戻す。
【0098】
次に、動作特定部112は、取得した動作情報および記憶部120内の各情報に基づき、ユーザの第2の動作を検知したか否かを判定する(ステップS40)。具体的には、動作特定部112は、注意喚起ラベル202を開放する動作指示が入力された場合、ユーザの第2の動作を検知したと判定する。
【0099】
あるいは、動作特定部112は、電子機器201を開放する動作指示が入力された場合、ユーザの第2の動作を検知したと判定する。
【0100】
そして、動作特定部112が第2の動作を検知したと判定した場合(ステップS40でYes)、表示情報生成部111は、ワイヤフレーム210によって位置決めされたオブジェクトの表面あるいはオブジェクト内のマウント可能な位置に注意喚起ラベル202あるいは電子機器201が吸着(スナップ)するような動作を表現したVR表示情報を生成する(ステップS50)。一方で、第2動作を検知していないと判定した場合(ステップS40でNo)、動作特定部112は、処理をステップS20に戻す。
【0101】
次に、動作特定部112は、ペア情報123に親オブジェクトおよび子オブジェクトが登録されており、親オブジェクトに対するユーザの動作指示を受け付けたか否かを判定する(ステップS60)。具体的には、動作特定部112は、動作情報と、ペア情報123と、記憶部120内のその他の情報と、に基づき、上記判定を行う。
【0102】
そして、動作特定部112が親オブジェクトに対するユーザの動作指示を受け付けたと判定した場合(ステップS60でYes)、表示情報生成部111は、親オブジェクトおよび子オブジェクトの位置が連動して移動するVR表示情報を生成する(ステップS70)。また、表示情報生成部111は、ステップS70を行うと、処理をステップS10に戻す。一方で、当該指示を受け付けていないと判定した場合(ステップS60でNo)、表示情報生成部111は、処理をステップS10に戻す。
【0103】
以上、保守訓練支援処理について説明した。
【0104】
このような保守訓練支援装置によれば、仮想現実の中で、より効率的かつ効果的に電子機器等の保守作業に関する訓練の実施を支援することができる。
【0105】
特に、保守訓練支援装置は、保守固有のオブジェクトを配置し、保守作業特有の動作を実行できるVR空間をユーザに提供する。これにより、ユーザは、広いスペースを必要としない仮想現実の中で、保守作業のリアルな訓練を体験、実施することができる。
【0106】
また、保守訓練支援装置は、電子機器等の保守作業特有の動作を表す3次元映像をVR表示情報としてVRゴーグルに表示させることができる。また、保守訓練支援装置は、保守作業固有のオブジェクトや、保守作業特有の動作を補助するための補助情報を表示することができる。そのため、ユーザは、仮想現実の中で、より効率的かつ効果的に電子機器等の保守作業の訓練を実施することができる。
【0107】
なお、本発明は、上記の実施形態に限られるものではなく、様々な変形が可能である。例えば、保守訓練支援装置は、VRゴーグルが計算機と同様の処理を実行できる機能を備えている場合には、計算機の代わりに、スタンドアロン型のVRゴーグルが用いられても良い。なお、コントローラは、スタンドアロン型のVRゴーグルとの間で情報通信を行い、VRゴーグルを介して保守訓練支援装置にユーザの動作情報を送信する。
【0108】
また、上記した実施形態の例は、本発明を分かり易くするために詳細に説明したものであり、本発明は、ここで説明した全ての構成を備えるものに限定されない。また、ある実施形態の一例の構成の一部を他の一例の構成に置き換えることが可能である。また、ある実施形態の一例の構成に他の一例の構成を加えることも可能である。また、各実施形態の一例の構成の一部について、他の構成の追加・削除・置換をすることもできる。また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、図中の制御線や情報線は、説明上必要と考えられるものを示しており、全てを示しているとは限らない。ほとんど全ての構成が相互に接続されていると考えてもよい。
【符号の説明】
【0109】
1000・・・保守訓練支援システム、100・・・保守訓練支援装置、110・・・処理部、111・・・表示情報生成部、112・・・動作特定部、120・・・記憶部、121・・・オブジェクト管理情報DB、122・・・干渉情報、123・・・ペア情報、124・・・位置情報、125・・・シナリオ情報、130・・・通信部、310・・・プロセッサ、320・・・メモリ、330・・・ストレージ、340・・・通信装置、350・・・バス、N・・・ネットワーク
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13