特開 2023-55381 トラブル対応訓練システム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2023055381

(43)【公開日】2023-04-18

(54)【発明の名称】トラブル対応訓練システム

(51)【国際特許分類】

   G09B 19/00 20060101AFI20230411BHJP

【ＦＩ】

G09B19/00 Z

【審査請求】未請求

【請求項の数】7

【出願形態】ＯＬ

(21)【出願番号】P 2021164718

(22)【出願日】2021-10-06

(71)【出願人】

【識別番号】519045387

【氏名又は名称】ＡＳＳＥＳＴ株式会社

(74)【代理人】

【識別番号】100120868

【弁理士】

【氏名又は名称】安彦 元

(72)【発明者】

【氏名】澤田 綾子

(57)【要約】

【課題】トラブル対応能力を人手に頼ることなく高精度かつ自動的に推定する。
【解決手段】工場内において発生したトラブルに対するユーザのトラブル対応能力を推定するトラブル対応能力推定システムにおいて、工場内におけるトラブルの仮想画像をユーザに表示する表示手段と、上記表示手段を視認したユーザの反応に関する反応情報を検出するユーザインタフェース手段と、ユーザの反応に関する参照用反応情報と、予め類型化されたトラブル対応能力とを教師データとして用い、入力を上記参照用反応情報とし、出力をトラブル対応能力とした推定モデルを機械学習により予め生成しておき、生成した上記推定モデルを用いて、上記ユーザインタフェース手段により検出された反応情報に応じた参照用反応情報に基づいてトラブル対応能力を推定する推定手段とを備えることを特徴とする。
【選択図】図１２

【特許請求の範囲】

【請求項1】

工場内において発生したトラブルに対するユーザの行動を提案するトラブル対応訓練システムにおいて、
工場内におけるトラブルの仮想画像をユーザに表示する表示手段と、
上記表示手段を視認したユーザの反応に関する反応情報を検出するユーザインタフェース手段と、
ユーザの反応に関する参照用反応情報と、予め類型化されたトラブル対応の行動情報とを教師データとして用い、入力を上記参照用反応情報とし、出力を行動情報とした推定モデルを機械学習により予め生成しておき、生成した上記推定モデルを用いて、上記ユーザインタフェース手段により検出された反応情報に応じた参照用反応情報に基づいて行動情報を推定する推定手段と、
上記推定した行動情報を上記ユーザに対して表示する表示手段とを備えること
を特徴とするトラブル対応訓練システム。

【請求項2】

上記推定手段は、入力を上記参照用反応情報とトラブルの参照用仮想画像とし、出力をトラブル対応能力とした推定モデルを機械学習により予め生成しておき、生成した上記推定モデルを用いて、上記表示手段に表示される仮想画像に応じた参照用仮想画像と、上記反応情報に応じた参照用反応情報に基づいて行動情報を推定すること
を特徴とするトラブル対応訓練システム。

【請求項3】

上記表示手段は、ユーザの頭部に装着させたヘッドマウントディスプレイの表示部を介して上記仮想画像を表示し、
上記ユーザインタフェース手段は、ヘッドマウントディスプレイにおけるアイトラッキング機能により検出可能なユーザの目の動き、ヘッドマウントディスプレイにおけるセンサを介して検出可能なユーザの頭部の動き、ヘッドマウントディスプレイにおけるマイクを介して検出可能なユーザの音声、ユーザに把持させたハンドトラッキング部を介して検出したユーザの手の動き、ヘッドマウントディスプレイに設けられた位置検出機能により検出された位置情報の何れか１以上から上記反応情報を検出すること
を特徴とする請求項１又は２記載のトラブル対応訓練システム。

【請求項4】

上記推定手段は、上記推定モデルを仮想画像の類型毎に予め記憶しておき、上記表示手段に表示される仮想画像の類型に対応する上記推定モデルを読み出して行動情報を推定すること
を特徴とする請求項１記載のトラブル対応訓練システム。

【請求項5】

上記推定手段は、上記仮想画像と、上記仮想画像の類型とを教師データとして用い、入力を仮想画像とし、出力を上記仮想画像の類型とした機械学習モデルを利用し、新たに上記表示手段に表示される仮想画像に基づいて上記仮想画像の類型を取得すること
を特徴とする請求項４記載のトラブル対応訓練システム。

【請求項6】

上記ユーザインタフェース手段は、ヘッドマウントディスプレイに設けられたカメラを介して撮像した画像情報から抽出した視認対象に関する視認対象情報を取得し、
上記推定手段は、上記推定モデルを視認対象毎に予め記憶しておき、上記ユーザインタフェース手段により取得された視認対象情報に応じた視認対象の上記推定モデルを読み出して行動情報を推定すること
を特徴とする請求項１記載のトラブル対応訓練システム。

【請求項7】

上記推定手段は、入力を上記画像情報とし、出力を視認対象情報とした分類モデルを機械学習により予め生成しておき、生成した上記分類モデルを用いて、上記ユーザインタフェース手段におけるカメラを介して撮像された画像情報に基づいて視認対象情報を判別すること
を特徴とする請求項６記載のトラブル対応訓練システム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、工場内において発生したトラブルに対するユーザのトラブル対応訓練を行うトラブル対応能力推定システムに関する。

【背景技術】

【0002】

工場において様々なトラブルが発生する場合がある。このようなトラブルは、予期し得ない時期において、また予期し得ない原因で起こる場合もある。このようなトラブルに対して、パニックになることなく、常に冷静になり、迅速かつ安全にトラブルを終息させるための行動をとる必要がある。このようなトラブルに対応できる人材を社内から人選し、或いは社外から採用する場合、或いはトラブル対応能力を従業員に対して教育、育成する場合において、現状のトラブル対応能力がどの程度あるかを計測する必要がある。

【0003】

しかしながら、このようなトラブル対応能力を実際に工場における現場の臨場感をもたせて訓練させる手段が従来より案出されていない。単なるシミュレーションや訓練と、実際の現場でのトラブルがあまりに乖離していると、本当の意味でのトラブル対応能力が身に付かない。このため、あたかも工場で本当のトラブルが発生したかのような感覚の中でユーザがどのようなトラブル対応をさせるかを訓練する必要がある。

【発明の概要】

【発明が解決しようとする課題】

【0004】

そこで本発明は、上述した問題点に鑑みて案出されたものであり、その目的とするところは、あたかも工場で本当のトラブルが発生したかのような感覚の中で、現場の臨場感をもたせてトラブル対応の訓練を行うことが可能なトラブル対応能力推定システムを提供することにある。

【課題を解決するための手段】

【0005】

本発明に係るトラブル対応訓練システムは、工場内において発生したトラブルに対するユーザの行動を提案するトラブル対応訓練システムにおいて、工場内におけるトラブルの仮想画像をユーザに表示する表示手段と、上記表示手段を視認したユーザの反応に関する反応情報を検出するユーザインタフェース手段と、ユーザの反応に関する参照用反応情報と、予め類型化されたトラブル対応の行動情報とを教師データとして用い、入力を上記参照用反応情報とし、出力を行動情報とした推定モデルを機械学習により予め生成しておき、生成した上記推定モデルを用いて、上記ユーザインタフェース手段により検出された反応情報に応じた参照用反応情報に基づいて行動情報を推定する推定手段と、上記推定した行動情報を上記ユーザに対して表示する表示手段とを備えることを特徴とする。

【発明の効果】

【0006】

特段のスキルや経験が無くても、誰でも手軽にあたかも工場で本当のトラブルが発生したかのような感覚の中で、現場の臨場感をもたせてトラブル対応の訓練を推定することができる。

【図面の簡単な説明】

【0007】

【図1】本発明を適用したシステムの全体構成を示すブロック図である。

【図2】探索装置の具体的な構成例を示す図である。

【図3】本発明の動作について説明するための図である。

【図4】本発明の動作について説明するための図である。

【図5】本発明の動作について説明するための図である。

【図6】本発明の動作について説明するための図である。

【図7】本発明の動作について説明するための図である。

【図8】本発明の動作について説明するための図である。

【図9】本発明の動作について説明するための図である。

【図10】本発明の動作について説明するための図である。

【図11】本発明の動作について説明するための図である。

【図12】本発明の動作について説明するための図である。

【発明を実施するための形態】

【0008】

以下、本発明を適用したトラブル対応能力推定システムについて、図面を参照しながら詳細に説明をする。

【0009】

第１実施形態
図１は、本発明を適用したトラブル対応能力推定システム１の全体構成を示すブロック図である。トラブル対応能力推定システム１は、情報取得部９と、情報取得部９に接続された推定装置２と、推定装置２に接続されたデータベース３とを備えている。

【0010】

情報取得部９は、本システムを活用する者が各種コマンドや情報を入力するためのデバイスであり、具体的にはキーボードやボタン、タッチパネル、マウス、スイッチ等により構成される。情報取得部９は、テキスト情報を入力するためのデバイスに限定されるものではなく、マイクロフォン等のような音声を検知してこれをテキスト情報に変換可能なデバイスで構成されていてもよい。また情報取得部９は、カメラ等の画像を撮影可能な撮像装置として構成されていてもよい。情報取得部９は、紙媒体の書類から文字列を認識できる機能を備えたスキャナで構成されていてもよい。また情報取得部９は、後述する推定装置２と一体化されていてもよい。情報取得部９は、検知した情報を推定装置２へと出力する。また情報取得部９は地図情報をスキャニングすることで位置情報を特定する手段により構成されていてもよい。また情報取得部９は、温度センサ、湿度センサ、風向センサ、を測るための照度センサで構成されていてもよい。また情報取得部９は、天候についてのデータを気象庁や民間の天気予報会社から取得する通信インターフェースで構成されていてもよい。また情報取得部９は身体に装着して身体のデータを検出するための身体センサで構成されていてもよく、この身体センサは、例えば体温、心拍数、血圧、歩数、歩く速度、加速度を検出するためのセンサで構成されていてもよい。また情報取得部９は図面等の情報をスキャニングしたり、或いはデータベースから読み出すことで取得するデバイスとして構成されていてもよい。情報取得部９は、これら以外に臭気や香りを検知する臭気センサにより構成されていてもよい。

【0011】

データベース３は、トラブル対応能力の推定を行う上で必要な様々な情報が蓄積される。トラブル対応能力を行う上で必要な情報としては、ユーザがトラブルに対してどのような反応をしたかに関する参照用反応情報等と、トラブル対応能力とのデータセットが記憶されている。

【0012】

つまり、データベース３には、このような参照用反応情報や、他の参照用情報等の何れか１以上と、予め類型化されたトラブル対応能力が互いに紐づけられた学習データ記憶されている。なお、データベース３にこのような学習データを記憶する代わりに、判別装置２や情報取得部９側に学習データを記憶させるようにしてもよい。即ち、判別装置２や情報取得部９をいわゆるエッジデバイスとし、このエッジデバイスに、人工知能を搭載し、学習データを蓄積させて推論を行うようにしてもよい。

【0013】

推定装置２は、例えば、パーソナルコンピュータ（ＰＣ）等を始めとした電子機器で構成されているが、ＰＣ以外に、携帯電話、スマートフォン、タブレット型端末、ウェアラブル端末等、他のあらゆる電子機器で具現化されるものであってもよい。ユーザは、この推定装置２による探索解を得ることができる。

【0014】

図２は、推定装置２の具体的な構成例を示している。この推定装置２は、推定装置２全体を制御するための制御部２４と、操作ボタンやキーボード等を介して各種制御用の指令を入力するための操作部２５と、有線通信又は無線通信を行うための通信部２６と、各種判断を行う推定部２７と、ハードディスク等に代表され、実行すべき検索を行うためのプログラムを格納するための記憶部２８とが内部バス２１にそれぞれ接続されている。さらに、この内部バス２１には、実際に情報を表示するモニタとしての表示部２３が接続されている。

【0015】

制御部２４は、内部バス２１を介して制御信号を送信することにより、推定装置２内に実装された各構成要素を制御するためのいわゆる中央制御ユニットである。また、この制御部２４は、操作部２５を介した操作に応じて各種制御用の指令を内部バス２１を介して伝達する。

【0016】

操作部２５は、キーボードやタッチパネルにより具現化され、プログラムを実行するための実行命令がユーザから入力される。この操作部２５は、上記実行命令がユーザから入力された場合には、これを制御部２４に通知する。この通知を受けた制御部２４は、推定部２７を始め、各構成要素と協調させて所望の処理動作を実行していくこととなる。この操作部２５は、前述した情報取得部９として具現化されるものであってもよい。

【0017】

推定部２７は、探索解を推定する。この推定部２７は、推定動作を実行するに当たり、必要な情報として記憶部２８に記憶されている各種情報や、データベース３に記憶されている各種情報を読み出す。この推定部２７は、人工知能により制御されるものであってもよい。この人工知能はいかなる周知の人工知能技術に基づくものであってもよい。

【0018】

表示部２３は、制御部２４による制御に基づいて表示画像を作り出すグラフィックコントローラにより構成されている。この表示部２３は、例えば、液晶ディスプレイ（ＬＣＤ）等によって実現される。

【0019】

記憶部２８は、ハードディスクで構成される場合において、制御部２４による制御に基づき、各アドレスに対して所定の情報が書き込まれるとともに、必要に応じてこれが読み出される。また、この記憶部２８には、本発明を実行するためのプログラムが格納されている。このプログラムは制御部２４により読み出されて実行されることになる。

【0020】

上述した構成からなるトラブル対応能力推定システム１における動作について説明をする。

【0021】

トラブル対応能力推定システム１は、工場内において発生したトラブルに対するユーザのトラブル対応能力を推定するものである。ここでいう工場とは、いわゆる物作りをする工場であればいかなるものも含まれる。工場は、化学プラントや、いわゆる町工場のような簡易な製作所も含まれる。トラブル対応能力とは、このような工場内において発生する様々なトラブルに対する対応能力を示すものである。工場でのトラブルは、火災や地震、津波や洪水等といった大規模なものから、配管の水漏れ、機器の故障、ベルトコンベアやロボットが停止してしまった場合、電気やガスのトラブル、更には作業員の怪我等の人的なトラブル等、あらゆるものが含まれる。

【0022】

トラブル対応能力は、対応能力があるか否かの２値で示す場合に加え、その対応能力の度合いを３段階以上で評価するものであってもよい。トラブル対応能力は、実際に専門家や当業者によって、あるいは業者によって評価されたものであってもよく、例えば、１００点満点、或いは１０００点満点でランク付けされたものであってもよい。対応能力に加え、その対応記載について正しいものの、さらに改善の余地があるか否かを示すものであってもよい。トラブル対応能力は、その高さという軸で評価する以外に、例えば、迅速さには優れるが部下に対する指示能力に欠ける、トラブル対応の正確性は優れるが迅速さに欠ける、トラブル対応に必要なデータを全て集める前に意思決定をしてしまった等、対応に関する様々な類型をあらかじめ設けておき、いかなる類型に当てはまるかを判別するものであってもよい。

【0023】

トラブル対応能力推定システム１は、例えば図３に示すように、参照用反応情報と、トラブル対応能力との３段階以上の連関度が予め設定されていることが前提となる。参照用反応情報とは、工場内におけるトラブルの仮想画像を視認したユーザの反応に関する情報である。ここでいう仮想画像は、上述した工場における各トラブルに関する静止画又は動画である。仮想画像においてトラブルが発生して、どのように被害が伝播し、工場内におけるいかなる機器に影響を及ぼしているか、その機器のデータも含めて、トラブルの内容がユーザに分かるように編集された画像であってもよい。このような仮想画像は、例えばヘッドマウントディスプレイ（ＨＭＤ）をユーザに装着させ、その表示画面上で表示することで、よりユーザに対して臨場感を与えることが可能となるが、このようなＨＭＤの装着は必須ではない。参照用反応情報は、このような仮想画像を視認したユーザがいかなる反応を起こすかを検出したものである。参照用反応情報は、ＨＭＤにおけるアイトラッキング機能により検出可能なユーザの目の動き、ＨＭＤにおけるセンサを介して検出可能なユーザの頭部の動き、ＨＭＤにおけるマイクを介して検出可能なユーザの音声、ユーザに把持させたハンドトラッキング部を介して検出したユーザの手の動き、ＨＭＤに設けられた位置検出機能を介して抽出されたユーザの位置情報等、反応を判別する上で必要となるあらゆるファクターで構成されていてもよい。更にこの参照用反応情報は、ＨＭＤに設けられたカメラにより撮像された画像も含まれる。ＨＭＤに設けられたカメラにより撮像される画像は、実際にユーザが視認している方向や内容に対応していることから、トラブルに対していかなる内容を視認しているのかを把握することができる。かかる場合に、撮像される画像の特徴的な部分を、ディープラーニング技術を利用して、人工知能を通じて抽出することで判別するようにしてもよい。

【0024】

なお、音声データを取得した場合、これをテキストデータに変換した上で、実際には周知の形態素解析、自然言語解析、構文解析を行い、実際にそのテキストデータが示そうとする意図を抽出するようにしてもよい。また、動詞とこれに係り受けする格成分との組み合わせの関係を利用し、その意図を抽出してもよい。そして、この抽出した意図とトラブル対応能力とをデータセットとして学習させるようにしてもよい。

【0025】

このような参照用反応情報と、トラブル対応能力からなるデータセットを取得しておき、これを学習させる。データセットを作る際には、トラブル対応の担当者について、熟練の者と、経験の浅い者に実際に仮想画像をそれぞれ表示し、参照用対応情報を取得すると共に、その対応の内容を評価者が評価して類型化するようにしてもよい。実際に、この学習データのデータセットを作る段階において、人間にＨＭＤを装着させて、参照用対応情報を検出することは必須ではない。

【0026】

図３の例では、入力データとして例えば参照用反応情報Ｐ０１～Ｐ０３であるものとする。このような入力データとしての参照用反応情報Ｐ０１～Ｐ０３は、出力としてのトラブル対応能力に連結している。この出力においては、出力解としての、トラブル対応能力が表示されている。

【0027】

参照用反応情報は、この出力解としてのトラブル対応能力Ａ～Ｄに対して３段階以上の連関度を通じて互いに連関しあっている。参照用反応情報がこの連関度を介して左側に配列し、各トラブル対応能力が連関度を介して右側に配列している。連関度は、左側に配列された参照用反応情報に対して、何れのトラブル対応能力と関連性が高いかの度合いを示すものである。換言すれば、この連関度は、各参照用反応情報が、いかなるトラブル対応能力に紐付けられる可能性が高いかを示す指標であり、参照用反応情報から最も確からしいトラブル対応能力を選択する上での的確性を示すものである。図３の例では、連関度としてｗ１３～ｗ１９が示されている。このｗ１３～ｗ１９は以下の表１に示すように１０段階で示されており、１０点に近いほど、中間ノードとしての各組み合わせが出力としてのトラブル対応能力と互いに関連度合いが高いことを示しており、逆に１点に近いほど中間ノードとしての各組み合わせが出力としての値段と互いに関連度合いが低いことを示している。

【0028】

【表1】

【0029】

推定装置２は、このような図３に示す３段階以上の連関度ｗ１３～ｗ１９を予め取得しておく。つまり推定装置２は、実際の探索解の判別を行う上で、参照用反応情報と、その場合のトラブル対応能力の何れが採用、評価されたか、過去のデータセットを蓄積しておき、これらを分析、解析することで図３に示す連関度を作り上げておく。

【0030】

例えば、参照用反応情報がαであるものとする。このような参照用反応情報に対するトラブル対応能力としてはトラブル対応能力Ａが多く評価されたものとする。このようなデータセットを集めて分析することにより、参照用反応情報との連関度が強くなる。

【0031】

この分析、解析は人工知能により行うようにしてもよい。かかる場合には、例えば参照用反応情報Ｐ０１である場合に、過去のトラブル対応能力の評価を行った結果の各種データから分析する。こ参照用反応情報Ｐ０１である場合に、トラブル対応能力Ａの事例が多い場合には、このトラブル対応能力の評価につながる連関度をより高く設定し、トラブル対応能力Ｂの事例が多い場合には、このトラブル対応能力の評価につながる連関度をより高く設定する。例えば参照用反応情報Ｐ０１の例では、トラブル対応能力Ａと、トラブル対応能力Ｃにリンクしているが、以前の事例からトラブル対応能力Ａにつながるｗ１３の連関度を７点に、トラブル対応能力Ｃにつながるｗ１４の連関度を２点に設定している。

【0032】

また、この連関度は、図４に示すように、人工知能におけるニューラルネットワークのノードで構成されるものであってもよい。即ち、このニューラルネットワークのノードが出力に対する重み付け係数が、上述した連関度に対応することとなる。またニューラルネットワークに限らず、人工知能を構成するあらゆる意思決定因子で構成されるものであってもよい。

【0033】

このような連関度が、人工知能でいうところの学習済みデータとなる。このような学習済みデータを、以前の評価対象の書類の記載の画像等と実際に推定・評価したトラブル対応能力とのデータセットを通じて作った後に、実際にこれから新たにトラブル対応能力の判別を行う上で、上述した学習済みデータを利用してトラブル対応能力を探索することとなる。かかる場合には、実際に判別対象の領域において反応情報を新たに取得する。新たに取得する反応情報は、上述した情報取得部９により入力される。反応情報は、トラブル対応能力を判別しようとする書類の書面を撮像することで取得する。この判別方法は、上述した参照用反応情報と同様の手法で行うようにしてもよい。

【0034】

このようにして新たに取得した反応情報に基づいて、トラブル対応能力を判別する。かかる場合には、予め取得した図３（表１）に示す連関度を参照する。例えば、新たに取得した反応情報がＰ０２と同一かこれに類似するものである場合には、連関度を介してトラブル対応能力Ｂがｗ１５、トラブル対応能力Ｃが連関度ｗ１６で関連付けられている。かかる場合には、連関度の最も高いトラブル対応能力Ｂを最適解として選択する。但し、最も連関度の高いものを最適解として選択することは必須ではなく、連関度は低いものの連関性そのものは認められるトラブル対応能力Ｃを最適解として選択するようにしてもよい。また、これ以外に矢印が繋がっていない出力解を選択してもよいことは勿論であり、連関度に基づくものであれば、その他いかなる優先順位で選択されるものであってもよい。なお、連関度は３段階以上のものを利用する場合に限定されるものではなく、２段階の連関性、即ち、１か０か、関係があるか否かを示すもので構成されるものであってもよい。かかる場合には、入力側の参照用反応情報と、出力側のトラブル対応能力とが互いに紐付けられたテーブルを参照するようにしてもよい。そしてある反応情報が入力された場合、これに対応する参照用反応情報に紐付けられたトラブル対応能力を出力することとなる。

【0035】

このようにして、新たに取得する反応情報から、最も好適なトラブル対応能力を探索し、推定表示することができる。

【0036】

なお本発明によれば、参照用反応情報と、トラブル対応能力との３段階以上の連関度を予め学習させ、その連関度を利用してトラブル対応能力を探索する場合に限定されるものではない。つまり反応情報と、トラブル対応能力は、３段階以上の連関度ではなく、２段階以上の連関性に基づいていればよい。２段階以上の連関性とは、各参照用反応情報又は参照用テキストデータに、いかなるトラブル対応能力が紐づいているか否かを示すものであってもよい。

【0037】

図５の例では、参照用反応情報と、他の参照用情報との組み合わせが形成されていることが前提となる。他の参照用情報とは、参照用属性情報、参照用種類情報、参照用環境情報、参照用時期情報、参照用センシング情報、参照用利用状況情報、参照用仮想画像が含まれる。

【0038】

参照用属性情報は、ユーザの工場での実務経験やスキル等に関する情報である。この参照用属性情報としては、年齢や性別等に関する情報も含めるようにしてもよい。

【0039】

参照用種類情報とは、設備の種類に関する情報である。ここでいう設備の種類は、工場の設備（水道、ガス、電気、トイレ、給湯、配電、照明、ライン、ベルトコンベア、ロボット、プラント設備）、施設の設備（調理場の設備、防火設備、空調設備）等の各種類の分類を示すものである。参照用種類情報は、例えば水道であれば、更に水道の配管なのか、蛇口なのか、あるいはそのコンロトールシステムであるのかまで細分化されていてもよい。

【0040】

参照用環境情報とは、その設備が晒される環境に関するあらゆる情報である。ここでいう環境とは、温度、湿度、風量等に加え、降水量、過去の水害による浸水の有無、日照量、日照時間等、環境に関するあらゆる情報が含まれる。

【0041】

参照用時期情報は、検査を行う時期に関する情報である。この検査を行う時期は、月単位、週単位といった大まかなものから、日単位、時間、分、秒単位等まで細分化されるものであってもよい。構造物によっては、検査の時期によってその健全度に影響する場合もあることから、これを参照用情報として含めている。

【0042】

参照用センシング情報は、設備に対してセンサにより外観をセンシングした情報である。このセンサとは、構造や寸法を検出するための周知の光やレーザを利用したもの以外に色彩を検出するためのセンサ、設備から発せられる各波長帯の光を検出するためのスペクトルセンサ等であってもよい。

【0043】

参照用利用状況情報は、検査対象の設備の利用状況を示すデータで構成される。参照用利用状況情報は、その設備がどの程度利用されているかを示すものであり、利用頻度を示すものであってもよい。例えばプラントや工場であれば、単位時間当たりの生産量等であってもよい。このような利用頻度を時系列的にまとめたグラフを参照用利用情報としてもよい。設備によっては、利用状況に応じて健全度の判定基準を変える必要が出てくるものもあることから、これを参照用情報として含めている。

【0044】

参照用仮想画像は、ユーザに対して仮想的に表示する画像に関する情報である。参照用仮想画像情報は、画像そのもので構成されていてもよいし、その画像を特徴付ける情報や特徴量で構成されていてもよい。また参照用仮想画像は、その画像の内容の種類や類型で構成されていてもよい。仮に参照用仮想画像が類型で示されるものであれば、その類型が例えば火災や地震、津波や洪水等、配管の水漏れ、機器の故障、ベルトコンベアやロボットが停止してしまった場合、電気やガスのトラブル、更には作業員の怪我等の人的なトラブル等に応じて分類されていてもよいし、更にはこのような大分類以外に、火災であってもその発生個所や規模等、詳細に分類されていてもよい。このような仮想画像がいかなるものかを参照しつつ解探索を行うことで、探索精度を向上させることができる。

【0045】

図５の例では、入力データとして例えば参照用反応情報Ｐ０１～Ｐ０３、他の参照用情報Ｐ１４～１７であるものとする。このような入力データとしての、参照用反応情報に対して、他の参照用情報が組み合わさったものが、図５に示す中間ノードである。各中間ノードは、更に出力に連結している。この出力においては、出力解としての、トラブル対応能力が表示されている。

【0046】

参照用反応情報と他の参照用情報との各組み合わせ（中間ノード）は、この出力解としての、トラブル対応能力に対して３段階以上の連関度を通じて互いに連関しあっている。参照用反応情報と他の参照用情報がこの連関度を介して左側に配列し、トラブル対応能力が連関度を介して右側に配列している。連関度は、左側に配列された参照用反応情報と他の参照用情報に対して、トラブル対応能力と関連性が高いかの度合いを示すものである。換言すれば、この連関度は、各参照用反応情報と他の参照用情報が、いかなるトラブル対応能力に紐付けられる可能性が高いかを示す指標であり、参照用反応情報と他の参照用情報から最も確からしいトラブル対応能力を選択する上での的確性を示すものである。このため、これらの参照用反応情報と他の参照用情報の組み合わせで、最適なトラブル対応能力を探索していくこととなる。

【0047】

図５の例では、連関度としてｗ１３～ｗ２２が示されている。このｗ１３～ｗ２２は表１に示すように１０段階で示されており、１０点に近いほど、中間ノードとしての各組み合わせが出力と互いに関連度合いが高いことを示しており、逆に１点に近いほど中間ノードとしての各組み合わせが出力と互いに関連度合いが低いことを示している。

【0048】

推定装置２は、このような図５に示す３段階以上の連関度ｗ１３～ｗ２２を予め取得しておく。つまり推定装置２は、実際の探索解の判別を行う上で、参照用反応情報と他の参照用情報、並びにその場合のトラブル対応能力が何れが見合うものであったか、過去のデータを蓄積しておき、これらを分析、解析することで図５に示す連関度を作り上げておく。

【0049】

例えば、過去にあった実際の事例における参照用反応情報がαであるものとする。また他の参照用情報が、ある参照用時期情報である、時期Ｗであるものとする。かかる場合に、実際にそのトラブル対応能力がいくらであったかを示すトラブル対応能力をデータセットとして学習させ、上述した連関度という形で定義しておく。なお、このような参照用反応情報や、他の参照用情報は、業者等が管理する管理データベースから抽出するようにしてもよい。

【0050】

この分析、解析は人工知能により行うようにしてもよい。かかる場合には、例えば参照用反応情報Ｐ０１で、他の参照用情報Ｐ１６である場合に、そのトラブル対応能力を過去のデータから分析する。トラブル対応能力がＡの事例が多い場合には、このトラブル対応能力Ａにつながる連関度をより高く設定し、トラブル対応能力Ｂの事例が多く、トラブル対応能力Ａの事例が少ない場合には、トラブル対応能力Ｂにつながる連関度を高くし、トラブル対応能力Ａにつながる連関度を低く設定する。例えば中間ノード６１ａの例では、トラブル対応能力Ａとトラブル対応能力Ｂの出力にリンクしているが、以前の事例からトラブル対応能力Ａにつながるｗ１３の連関度を７点に、トラブル対応能力Ｂにつながるｗ１４の連関度を２点に設定している。

【0051】

また、この図５に示す連関度は、人工知能におけるニューラルネットワークのノードで構成されるものであってもよい。即ち、このニューラルネットワークのノードが出力に対する重み付け係数が、上述した連関度に対応することとなる。またニューラルネットワークに限らず、人工知能を構成するあらゆる意思決定因子で構成されるものであってもよい。

【0052】

図５に示す連関度の例で、ノード６１ｂは、参照用反応情報Ｐ０１に対して、他の参照用情報Ｐ１４の組み合わせのノードであり、トラブル対応能力Ｃの連関度がｗ１５、トラブル対応能力Ｅの連関度がｗ１６となっている。ノード６１ｃは、参照用反応情報Ｐ０２に対して、参照用位置情報Ｐ１５、Ｐ１７の組み合わせのノードであり、トラブル対応能力Ｂの連関度がｗ１７、トラブル対応能力Ｄの連関度がｗ１８となっている。

【0053】

このような連関度が、人工知能でいうところの学習済みデータとなる。このような学習済みデータを作った後に、実際にこれからトラブル対応能力を判別する際において、上述した学習済みデータを利用して行うこととなる。かかる場合には、実際に反応情報と、参照用情報に応じた情報とを取得する。参照用情報に応じた情報とは、例えば参照用情報が参照用属性情報であれば、ユーザの属性に関する情報である。

【0054】

参照用情報が参照用種類情報であれば、工場の設備の種類に関する情報である。参照用情報が参照用環境情報であれば、工場の設備が晒される環境に関するあらゆる情報である。参照用情報が参照用属性情報であれば、ユーザの属性に関する情報である。参照用情報が参照用時期情報であれば、推定を行う時期に関する情報である。参照用情報が参照用センシング情報であれば、推定を行う工場の設備に対してセンサにより計測した情報である。参照用情報が参照用利用状況情報であれば、推定対象の工場の設備の利用状況を示すデータで構成される。

【0055】

また参照用情報が、参照用仮想画像であれば、ユーザに対して表示する仮想画像で構成される。参照用仮想画像が予め類型化されているのであれば、新たに取得した仮想画像をその参照用仮想画像の類型に当てはめるようにしてもよい。かかる場合には、仮想画像と、その類型とを教師データとして用い、入力を仮想画像とし、出力を類型とした機械学習モデルを利用し、新たに表示される仮想画像に基づいて類型を取得するようにしてもよい。

【0056】

このようにして新たに取得した反応情報、参照用情報に応じた情報に基づいて、最適なトラブル対応能力を探索する。かかる場合には、予め取得した図５（表１）に示す連関度を参照する。例えば、新たに取得した反応情報がＰ０２と同一かこれに類似するものである場合であって、参照用情報に応じた情報がＰ１７である場合には、連関度を介してノード６１ｄが関連付けられており、このノード６１ｄは、トラブル対応能力Ｃがｗ１９、トラブル対応能力Ｄが連関度ｗ２０で関連付けられている。かかる場合には、連関度の最も高いトラブル対応能力Ｃを最適解として選択する。但し、最も連関度の高いものを最適解として選択することは必須ではなく、連関度は低いものの連関性そのものは認められるトラブル対応能力Ｄを最適解として選択するようにしてもよい。また、これ以外に矢印が繋がっていない出力解を選択してもよいことは勿論であり、連関度に基づくものであれば、その他いかなる優先順位で選択されるものであってもよい。

【0057】

また、入力から伸びている連関度ｗ１～ｗ１２の例を以下の表２に示す。

【0058】

【表2】

【0059】

この入力から伸びている連関度ｗ１～ｗ１２に基づいて中間ノード６１が選択されていてもよい。つまり連関度ｗ１～ｗ１２が大きいほど、中間ノード６１の選択における重みづけを重くしてもよい。しかし、この連関度ｗ１～ｗ１２は何れも同じ値としてもよく、中間ノード６１の選択における重みづけは何れも全て同一とされていてもよい。

【0060】

なお、上述した図５の例では、参照用反応情報と、他の参照用情報との組み合わせに対するトラブル対応能力に関する連関度を適用する場合を例にとり説明をしたが、これに限定されるものではない。

【0061】

上述した連関度においては、１０段階評価で連関度を表現しているが、これに限定されるものではなく、３段階以上の連関度で表現されていればよく、逆に３段階以上であれば１００段階でも１０００段階でも構わない。一方、この連関度は、２段階、つまり互いに連関しているか否か、１又は０の何れかで表現されるものは含まれない。

【0062】

上述した構成からなる本発明によれば、特段のスキルや経験が無くても、誰でも手軽にトラブル対応能力の探索を行うことができる。また本発明によれば、この探索解の判断を、人間が行うよりも高精度に行うことが可能となる。更に、上述した連関度を人工知能（ニューラルネットワーク等）で構成することにより、これを学習させることでその判別精度を更に向上させることが可能となる。

【0063】

なお、上述した入力データ、及び出力データは、学習させる過程で完全に同一のものが存在しない場合も多々あることから、これらの入力データと出力データを類型別に分類した情報であってもよい。つまり、入力データを構成する情報Ｐ０１、Ｐ０２、・・・・Ｐ１５、１６、・・・は、その情報の内容に応じて予めシステム側又はユーザ側において分類した基準で分類し、その分類した入力データと出力データとの間でデータセットを作り、学習させるようにしてもよい。

【0064】

なお、上述した連関度では、参照用反応情報に加え、上述した各参照用情報の何れかとの組み合わせで構成されている場合を例にとり説明をしたが、これに限定されるものではない。つまり連関度は、参照用反応情報に加え、上述した各参照用情報の何れか２以上との組み合わせで構成されていてもよい。また連関度は、参照用反応情報に加え、上述した各参照用情報の何れか１以上に加え、他のファクターがこの組み合わせに加わって連関度が形成されていてもよい。

【0065】

また、本発明によれば、３段階以上に設定されている連関度を介して最適な解探索を行う点に特徴がある。連関度は、上述した１０段階以外に、例えば０～１００％までの数値で記述することができるが、これに限定されるものではなく３段階以上の数値で記述できるものであればいかなる段階で構成されていてもよい。

【0066】

このような３段階以上の数値で表される連関度に基づいて最も確からしいトラブル対応能力を判別することで、探索解の可能性の候補として複数考えられる状況下において、当該連関度の高い順に探索して表示することも可能となる。このように連関度の高い順にユーザに表示できれば、より確からしい探索解を優先的に表示することも可能となる。

【0067】

これに加えて、本発明によれば、連関度が１％のような極めて低い出力の判別結果も見逃すことなく判断することができる。連関度が極めて低い判別結果であっても僅かな兆候として繋がっているものであり、何十回、何百回に一度は、その判別結果として役に立つ場合もあることをユーザに対して注意喚起することができる。

【0068】

更に本発明によれば、このような３段階以上の連関度に基づいて探索を行うことにより、閾値の設定の仕方で、探索方針を決めることができるメリットがある。閾値を低くすれば、上述した連関度が１％のものであっても漏れなく拾うことができる反面、より適切な判別結果を好適に検出できる可能性が低く、ノイズを沢山拾ってしまう場合もある。一方、閾値を高くすれば、最適な探索解を高確率で検出できる可能性が高い反面、通常は連関度は低くてスルーされるものの何十回、何百回に一度は出てくる好適な解を見落としてしまう場合もある。いずれに重きを置くかは、ユーザ側、システム側の考え方に基づいて決めることが可能となるが、このような重点を置くポイントを選ぶ自由度を高くすることが可能となる。

【0069】

更に本発明では、上述した連関度を更新させるようにしてもよい。この更新は、例えばインターネットを始めとした公衆通信網を介して提供された情報を反映させるようにしてもよい。また参照用反応情報、参照用テキスト情報、他の参照用情報を取得し、これらに対するトラブル対応能力、改善施策に関する知見、情報、データを取得した場合、これらに応じて連関度を上昇させ、或いは下降させる。

【0070】

つまり、この更新は、人工知能でいうところの学習に相当する。新たなデータを取得し、これを学習済みデータに反映させることを行っているため、学習行為といえるものである。

【0071】

また、この連関度の更新は、公衆通信網から取得可能な情報に基づく場合以外に、専門家による研究データや論文、学会発表や、新聞記事、書籍等の内容に基づいてシステム側又はユーザ側が人為的に、又は自動的に更新するようにしてもよい。これらの更新処理においては人工知能を活用するようにしてもよい。

【0072】

また学習済モデルを最初に作り上げる過程、及び上述した更新は、教師あり学習のみならず、教師なし学習、ディープラーニング、強化学習等を用いるようにしてもよい。教師なし学習の場合には、入力データと出力データのデータセットを読み込ませて学習させる代わりに、入力データに相当する情報を読み込ませて学習させ、そこから出力データに関連する連関度を自己形成させるようにしてもよい。

【0073】

なお図３に示す連関度が、人工知能におけるニューラルネットワークのノードで構成されるものである場合には、入力データとして参照用反応情報が入力され、出力データとしてトラブル対応能力が出力され、入力ノードと出力ノードの間に少なくとも１以上の隠れ層が設けられ、機械学習させるようにしてもよい。

【0074】

また本発明は、図６に示すように参照用情報Ｕと参照用情報Ｖという２種類以上の情報の組み合わせの連関度に基づいてトラブル対応能力を判別するものである。この参照用反応情報Ｕが参照用反応情報であり、参照用情報Ｖが他の参照用情報の何れかであるものとする。

【0075】

このとき、図６に示すように、参照用情報Ｕについて得られた出力をそのまま入力データとして、参照用情報Ｖとの組み合わせの中間ノード６１を介して出力（トラブル対応能力）と関連付けられていてもよい。例えば、参照用情報Ｕ（参照用反応情報）について、図３に示すように出力解を出した後、これをそのまま入力として、他の参照用情報Ｖとの間での連関度を利用し、出力（トラブル対応能力）を探索するようにしてもよい。

【0076】

また本発明は、上述した実施の形態に限定されるものでは無く、例えば図７に示すように、基調となる参照用情報（参照用反応情報）と、トラブル対応能力との３段階以上の連関度を利用するようにしてもよい。かかる場合には、新たに取得した情報に応じたトラブル対応能力との３段階以上の連関度に基づき、解探索を行うことになる。基調となる参照用情報は、上述した参照用反応情報であるが、他の参照用情報も適用可能である。

【0077】

これらの場合も同様に、学習用データとして用いられた参照用情報に応じた情報が入力された場合に、上述した方法に基づいて解探索が行われることとなる。

【0078】

連関度を通じて求められる探索解は、更に、他の参照用情報に基づいて修正され、或いは重み付けを変化させるようにしてもよい。

【0079】

ここでいう他の参照用情報とは、上述した参照用情報の何れかを基調となる参照用情報とした場合、当該基調となる参照用情報以外のいかなる参照用情報に該当する。

【0080】

例えば、他の参照用情報の一つとして、ある参照用種類情報Ｐ１４において、以前においてトラブル対応能力としてＢが判別される経緯が多かったものとする。このような参照用種類情報Ｐ１４に応じたトラブル対応能力を新たに取得したとき、トラブル対応能力の探索解Ｂに対して、重み付けを上げる処理を行い、換言すればトラブル対応能力の探索解Ｂにつながるようにする処理を行うように予め設定しておく。

【0081】

例えば、他の参照用情報Ｇが、よりトラブル対応能力の探索解Ｃを示唆するような分析結果であり、参照用情報Ｆが、よりトラブル対応能力の探索解Ｄを示唆するような分析結果であるものとする。このように参照用情報との間での設定の後、実際に取得した情報が参照用情報Ｇと同一又は類似する場合には、トラブル対応能力の探索解Ｃの重み付けを上げる処理を行う。これに対して、実際に取得した情報が参照用情報Ｆと同一又は類似する場合には、トラブル対応能力の探索解Ｄの重み付けを上げる処理を行う。つまり、トラブル対応能力につながる連関度そのものを、この参照用情報Ｆ～Ｈに基づいてコントロールするようにしてもよい。或いは、トラブル対応能力を上述した連関度のみで決定した後、この求めた探索解に対して参照用情報Ｆ～Ｈに基づいて修正を加えるようにしてもよい。後者の場合において、参照用情報Ｆ～Ｈに基づいてどのように探索解としてのトラブル対応能力にいかなるウェートで修正を加えるかは、都度システム側において設計したものを反映させることとなる。

【0082】

また他の参照用情報は、何れか１種で構成される場合に限定されるものではなく、２種以上の参照用情報に基づいて解探索するようにしてもよい。かかる場合も同様に、参照用情報の示唆するトラブル対応能力につながるケースほど、連関度を介して求められた探索解としての当該判別類型をより高く修正するようにしてもよい。

【0083】

なお、上述した実施の形態においては、トラブル対応能力を探索する場合を例に挙げて説明をしたが、これに限定されるものではない。

【0084】

ユーザの反応に関する参照用反応情報と、予め類型化されたトラブル対応の行動情報とを教師データとして用いるようにしてもよい。かかる場合も同様に、入力を参照用反応情報とし、出力を行動情報とした推定モデルを機械学習により予め生成しておく。ここでいうトラブル対応の行動情報としては、実際にトラブル対応としていかなる行動をとるか、に関する情報である。この行動情報についても予め類型化されていてもよい。行動情報は、いかなるデータや情報を確認したか、いかなる箇所に移動したか、消火器で消火活動を行ったか、いかなるバルブを開閉し、いかなるスイッチやボタンを押圧し、いかなるレバーを引いたか、各種機器への操作に関する情報で構成されていてもよい。

【0085】

かかる場合も上述と同様に推定モデルを用いて、反応情報を入力することで、反応情報に応じた参照用反応情報に基づいて行動情報を推定することができる。その他の参照用情報を含めて推定する場合も同様の方法で解探索を行うことができる。この解探索の詳細な説明は、上述した説明において、トラブル対応能力を行動情報に置き換えることにより以下での説明を省略する。このようにして推定した行動情報をユーザに表示することで、ユーザはいかなる反応を起こした場合に、いかなるトラブル対応のための行動をすべきかを知ることができる。このため臨場感を持ちつつ、トラブル対応の訓練を行うことができる。

【0086】

第２実施形態
第２実施形態においては、判別装置２、又はこの判別装置２及び情報取得部９をウェアラブル端末の中でも特に眼鏡型端末、ヘッドマウントディスプレイ（ＨＭＤ）を利用するものである。このＨＭＤは、ユーザの頭部又は眼鏡に一体又は部分的に装着され、仮想現実（ＶＲ:virtual reality）、拡張現実（ＡＲ：Augmented Reality）或いは複合現実（ＭＲ：Mixed Reality）といった技術を利用し、取得した各種の映像情報に基づいて生成された情報を透過状態で表示する表示部を備える。ユーザは、表示すべき情報をＨＭＤ上において透過して表示する表示部を介して、視認し、理解することができる。これによりユーザは、目の前の状況を見つつ、取得された各種の映像情報に基づいて生成された情報や各種コンテンツを合わせて確認することが可能となる。

【0087】

このため、本発明においては、例えば、反応情報をこのＨＭＤに実装された情報取得部９を介して取得する。そして、ＨＭＤ内において実装された判別装置２により解探索を行い、得られた探索解（トラブル対応能力）を、表示部を介して透過状態で表示するようにしてもよい。

【0088】

このような第２実施形態において学習用データとして学習させる参照用反応情報は、実際にＨＭＤ等を始めとする眼鏡型端末で撮像したものであってもよいが、これに限定されるものではなく、通常のデジタルカメラやスマートフォン等で撮像したものであってもよい。

【0089】

かかる場合において、図８に示すように、眼鏡型端末で撮像された動画像を時系列的に並べた場合に、視認対象αの画像情報（Ｐ１）、視認対象βの画像情報（Ｐ２）、視認対象βを拡大した画像情報（Ｐ３）、視認対象γの画像情報（Ｐ４）であったものとする。このようにして時系列的に得られた画像から、視認対象情報を検出するようにしてもよい。ここでいう視認対象情報とは、眼鏡型端末で撮像された画像が工場内のいかなる対象を視認しているかに関する情報である。この視認対象情報は、図８に示すように、実際に撮像している箇所や対象の名称で構成されていてもよいし、当該箇所や対象を特定するための記号や数値、番号等で表現されるものであってもよい。また視認対象情報は、例えば、撮影が拡大画像であるか縮小画像であるか否か、また撮影する際の撮影方向や画角等の情報も盛り込むようにしてもよい。

【0090】

この視認対象情報の取得は、撮影対象となる箇所や対象を都度人間が判別して手入力してもよいが、取得した画像を周知の画像解析技術を利用することで得るようにしてもよい。この視認対象情報の取得は、以前において学習させた特徴量に基づいて判別するようにしてもよい。例えば、各視認対象α、β、γ、・・等の各部の画像を、ディープラーニング技術を利用して、人工知能を通じて抽出することで判別するようにしてもよい。かかる場合には、ヘッドマウントディスプレイ（ユーザ端末）に設けられたカメラを介して撮像した画像情報に含まれると、視認対象情報とを教師データとして用い、入力を画像情報とし、出力を視認対象情報とした機械学習モデルを利用する。そして、新たにユーザ端末を介して撮像された画像情報に基づいて視認対象情報を取得する。また、視認対象情報の取得は、これ以外に、ＨＭＤや眼鏡型端末において搭載されている、アイトラッキング機能を利用して検出した視線の方向、加速度センサやジャイロセンサを利用して検出した頭部の向き、操作デバイスやハンドトラッキング機能を利用したユーザの手の動き等を介して、視認対象情報を取得するようにしてもよい。

【0091】

このようにして得られた視認対象情報を上述した各画像Ｐ１～Ｐ４等と紐付けて記録しておくことにより、各画像Ｐ１～Ｐ４が書類のいかなる視認対象を撮像した画像であるかをセットで取得することができる。仮にベテランの技術者からこのような画像情報を構成する画像Ｐ１～Ｐ４と、視認対象情報を取得することで、ベテランの技術者が実際にトラブル対応としていかなる視認対象をいかなる順番で確認しているのか、また拡大画像であるか否か、また撮影角度等のような撮影環境も取得することができる。

【0092】

第２実施形態においては、視認対象情報を活用することで、実際の解探索時の利便性を高めることができる。上述した学習データを予め構築した上で、ＨＭＤを装着したユーザが本発明を実施する場合、探索解（トラブル対応能力）の探索は、上述した第１実施形態において説明した方法に基づいて実行する。このとき、ＨＭＤを装着したユーザから反応情報を取得する過程で、同様に視認対象情報を得るようにしてもよい。反応情報からこの視認対象情報を取得する方法としては、上述したように学習させた特徴量に基づいて判別するようにしてもよく、例えば画像情報中の視認対象α、視認対象β、視認対象γ等の各部の画像を、ディープラーニング技術を利用して、人工知能を通じて抽出することで判別するようにしてもよい。かかる場合には、画像情報に含まれる視認対象と、視認対象情報とを教師データとして用い、入力を画像情報とし、出力を視認対象情報とした機械学習モデルを利用する。そして、新たにユーザ端末を介して撮像された画像情報に基づいて視認対象情報を取得する。

【0093】

以下、画像情報等を始めとする情報から取得した視認対象情報を第１視認対象情報ともいい、参照用画像情報等を始めとする参照用情報から取得した視認対象情報を第２視認対象情報ともいう。

【0094】

画像情報を取得する過程で、このような第１視認対象情報を都度取得することで以下に説明する優れた効果がある。撮像した画像情報の第１視認対象情報と、参照用反応情報の第２視認対象情報が一致しているかを都度確認することが可能となる。撮像した反応情報の第１視認対象情報と、参照用画像情報の第２視認対象情報が不一致の場合には、ＨＭＤの表示部を介してユーザに注意喚起の表示をすることができる。

【0095】

例えば、撮像した画像情報の第１視認対象情報が“視認対象α”であり、これに対応させるための参照用反応情報の第２視認対象情報が“視認対象β”である場合には、ＨＭＤを装着するユーザが反応情報を撮影する視認対象が誤った部位を撮影していることとなる。かかる場合には、上述のように注意喚起をすることで正しい視認対象に撮影対象を合わせることをユーザに促すことが可能となる。また、参照用画像情報に紐付けられた第２視認対象情報が、視認対象βを拡大して視認するものであるのに対して、画像情報に紐付けられた第１視認対象情報が同じ視認対象βの画像であるが拡大して視認していない場合には、同様にユーザに対して、画像を拡大して視認するように促すことが可能となる。

【0096】

このようにして、撮像した画像情報の第１視認対象情報と、参照用画像情報の第２視認対象情報との一致度、ＨＭＤを装着したユーザに対して、実際に画像情報の撮影方法について様々な示唆を行い、又は様々な修正を促すことが可能となる。また、反応情報として画像を撮像する場合には、このような示唆に基づいて正しい視認対象の画像を撮像することで反応情報を得ることも可能となる。このとき、このような示唆や修正の促進を、ＨＭＤや眼鏡型端末の表示部を介して透過状態で表示する、上述したＡＲやＭＲを実現するようにしてもよい。なお、この撮影方法についての示唆は、第１視認対象情報と、第２視認対象情報とに基づいたものであればいかなる示唆を表示するものであってもよい。

【0097】

なお、上述した図８の例において書類について複数箇所を順次撮影対象を切り替える場合を例にとり説明をしたが、これに限定されるものではなく、参照用画像情報等が１箇所の視認対象について得られたものである場合においても同様に視認対象情報を取得して紐付けておくことで、実際に画像情報や反応情報等を取得するユーザに対して上述した誘導を行うことが可能となる。

【0098】

なお本発明は、図９に示すように、参照用反応情報と、トラブル対応能力との３段階以上の連関度を上記書類の視認対象毎に予め取得するようにしてもよい。かかる場合には、視認対象α、視認対象β、視認対象γ等の各視認対象毎に、独立して参照用反応情報と、トラブル対応能力との連関度を学習させて保存しておく。

【0099】

そして、取得した第１視認対象情報に応じた視認対象の連関度を読み出し、上述と同様に解探索する。仮に第１視認対象情報が視認対象αであれば、その視認対象α用の連関度からなる評価モデルを選択し、推定を行う。これにより、視認対象毎に特化した評価モデルを選択することができ、より高精度な推定を行うことができる。

【0100】

なお、本発明は、図１０に示すように、連関度を上述したように各視認対象について構築するとともに、その連関度を他の参照用情報毎に分類されていてもよい。ここでいう他の参照用情報とは、第１実施形態において説明したあらゆる参照用情報が含まれる。このうち、参照用種類情報に着目した場合、例えば図１０に示すように、他の参照用情報Ａとして、書類についてそれぞれ側視認対象α、視認対象β、視認対象γ用等の視認対象毎の連関度が形成されており、他の参照用情報Ｂとして書類についてそれぞれ側視認対象α、視認対象β、視認対象γ用等の視認対象毎の連関度が形成されている。このような各参照用情報毎に分類された、各視認対象毎の連関度を準備しておく。そして、新たに解探索を行う場合には、上述した視認対象情報を取得すると共に、他の情報を取得する。この取得する他の情報とは、上述した他の参照用情報に対応したものである。仮に他の参照用情報が、参照用種類情報であれば、種類情報を取得することになる。取得した他の情報に応じた参照用情報における視認対象毎に分類された評価モデルを選択し、同様に解探索を行う。上述した図１０の例の場合、取得したものが他の情報Ｂ（種類情報Ｂ）である場合、これに応じた他の参照用情報Ｂ（参照用種類情報Ｂ）における視認対象毎に分類された何れかの評価モデルを選択し解探索することとなる。

【0101】

なお、各視認対象について構築する連関度は、上述した参照用種類情報毎に構築する場合以外に、他のいかなる参照用情報毎に構築してもよい。かかる場合も同様に参照用情報に応じた情報を取得し、取得した情報に応じて連関度を選択することとなる。

【0102】

学習済みモデルを構築する過程では、上述した参照用反応情報を取得する際に、同様に第２視認対象情報を取得しておく。またトラブル対応能力を取得することで上述と同様にデータセットを得て、図３、４に示すような連関度を形成しておく。解探索時には、取得した反応情報から参照用反応情報を構成すると共に、同様に第１視認対象情報を取得する。

【0103】

そして取得した第１視認対象情報と、取得した反応情報と同一又は類似の参照用反応情報に紐付けられて記録されている第２視認対象情報とに基づいて、上述と同様にユーザに対して撮影方法についての示唆を表示する。

【0104】

なお本発明は、図１１に示すように、参照用反応情報と、トラブル対応能力との３段階以上の連関度をモデル選択情報毎に予め取得するようにしてもよい。ここでいうモデル選択情報とは、第１実施形態において説明した参照用情報としての、参照用属性情報に応じた属性情報、参照用種類情報に応じた種類情報、参照用環境情報に応じた環境情報、参照用時期情報に応じた時期情報、参照用センシング情報に応じたセンシング情報、参照用利用状況情報に応じた利用状況情報が含まれる。参照用仮想画像に応じた仮想画像が含まれる。これらの情報の詳細は、第１実施形態の説明を引用することにより、以下での説明は省略する。モデル選択情報は、この第１実施形態において説明した種類情報、属性情報、時期情報等のうち何れか１種から選択され、選択されたモデル選択情報の内訳（選択情報１、２、３、・・・）毎に独立して参照用反応情報と、トラブル対応能力との連関度を学習させて保存しておく。モデル選択情報が種類情報であれば、選択情報１として種類〇〇、選択情報２として種類▲▲、選択情報３として種類◇◇等が挙げられ、これらの選択情報毎に連関度が設けられている。

【0105】

そして、推定時には、推定対象についてモデル選択情報を取得する。そして、取得したモデル選択情報に応じた書類の選択情報１、２、３、・・・の何れかの連関度を読み出し、上述と同様に解探索する。仮にモデル選択情報が選択情報２であれば、その選択情報２用の連関度からなる評価モデルを選択し、推定を行う。これにより、選択情報１、２、３、・・・毎に特化した評価モデルを選択することができ、より高精度な推定を行うことができる。
なお、選択情報として参照用仮想情報の類型毎に保存しておく場合、表示される仮想画像の類型を上述した方法に基づいて求め、求めた類型に対応する推定モデルを読み出すようにしてもよい。

【0106】

なお、本発明は、図１２に示すように、連関度を上述したように選択情報１、２、３、・・・について構築するとともに、その連関度を他の参照用情報毎に分類されていてもよい。ここでいう他の参照用情報とは、第１実施形態において説明したあらゆる参照用情報（参照用属性情報、参照用種類情報、参照用環境情報、参照用時期情報、参照用センシング情報、参照用利用状況情報、参照用仮想画像等）が含まれる。このうち、参照用属性情報に着目した場合、例えば図１２に示すように、他の参照用情報Ａとして、属性〇〇についてそれぞれ選択情報１、２、３、・・・用毎の連関度が形成されており、他の参照用情報Ｂとして属性▲▲についてそれぞれ選択情報１、２、３、・・・用毎の連関度が形成されている。このような各参照用情報毎に分類された、各選択情報１、２、３、・・・毎の連関度を準備しておく。そして、新たに解探索を行う場合には、上述したモデル選択情報を取得すると共に、モデル選択情報以外の他の情報を取得する。この取得する他の情報とは、上述した他の参照用情報に対応したものである。仮に他の参照用情報が、参照用属性情報であれば、属性情報を取得することになる。取得した他の情報に応じた参照用情報における選択情報１、２、３、・・・毎に分類された評価モデルを選択し、同様に解探索を行う。上述した図１２の例の場合、取得したものが他の情報Ｂ（属性情報Ｂ）である場合、これに応じた他の参照用情報Ｂ（参照用属性情報Ｂ）における選択情報１、２、３、・・・毎に分類された何れかの評価モデルを選択し解探索することとなる。

【0107】

なお、各モデル選択情報について構築する連関度は、上述した参照用属性情報毎に構築する場合以外に、他のいかなる参照用情報毎に構築してもよい。かかる場合も同様に参照用情報に応じた情報を取得し、取得した情報に応じて連関度を選択することとなる。

【0108】

なお、第２実施形態においても、第１実施形態と同様に、ユーザの反応に関する参照用反応情報と、予め類型化されたトラブル対応の行動情報とを教師データとして用いる場合も同様に適用できる。かかる場合も同様に、入力を参照用反応情報とし、出力を行動情報とした推定モデルを機械学習により予め生成しておく。この推定モデルを用いて、反応情報を入力することで、反応情報に応じた参照用反応情報に基づいて行動情報を推定することができる。このとき推定モデルを仮想画像の類型毎に予め記憶しておき、表示される仮想画像の類型に対応する推定モデルを読み出して行動情報を推定するようにしてもよい。また、仮想画像に限らず、他の何れかのモデル選択情報に対応する推定モデルを読み出して、行動情報を推定するようにしてもよい。

【符号の説明】

【0109】

１ トラブル対応能力推定システム
２ 推定装置
２１ 内部バス
２３ 表示部
２４ 制御部
２５ 操作部
２６ 通信部
２７ 推定部
２８ 記憶部
６１ ノード

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】