(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024179809
(43)【公開日】2024-12-26
(54)【発明の名称】作業支援装置および作業支援方法
(51)【国際特許分類】
G06Q 50/04 20120101AFI20241219BHJP
【FI】
G06Q50/04
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2023098956
(22)【出願日】2023-06-16
(71)【出願人】
【識別番号】000005108
【氏名又は名称】株式会社日立製作所
(71)【出願人】
【識別番号】504190548
【氏名又は名称】国立大学法人埼玉大学
(74)【代理人】
【識別番号】110001807
【氏名又は名称】弁理士法人磯野国際特許商標事務所
(72)【発明者】
【氏名】前田 太一
(72)【発明者】
【氏名】綿貫 啓一
【テーマコード(参考)】
5L049
5L050
【Fターム(参考)】
5L049CC03
5L050CC03
(57)【要約】
【課題】作業支援装置において、適切な作業支援を実現できるようにする。
【解決手段】作業情報D3を出力する出力部121と、前記出力部121を目視するユーザ50の目の動きに関する状態情報D2を計測する状態計測部122と、前記状態情報D2に基づいて、前記出力部121が出力した前記作業情報D3に対する前記ユーザ50の確認具合を表す確認判定データD5を出力する確認判定部124と、前記確認判定データD5に基づいて、前記ユーザ50に対して、前記作業情報D3の確認具合を報知する報知処理装置150と、を作業支援装置100に備えた。
【選択図】
図4
【特許請求の範囲】
【請求項1】
作業情報を出力する出力部と、
前記出力部を目視するユーザの目の動きに関する状態情報を計測する状態計測部と、
前記状態情報に基づいて、前記出力部が出力した前記作業情報に対する前記ユーザの確認具合を表す確認判定データを出力する確認判定部と、
前記確認判定データに基づいて、前記ユーザに対して、前記作業情報の確認具合を報知する報知処理装置と、を備える
ことを特徴とする作業支援装置。
【請求項2】
前記確認判定部は、前記作業情報が前記出力部に出力された後、所定の計測期間における前記状態情報に基づいて前記確認判定データを出力する
ことを特徴とする請求項1に記載の作業支援装置。
【請求項3】
前記報知処理装置は、前記出力部における前記作業情報の表示態様の変更、前記作業情報の確認を促すメッセージの表示、前記作業情報の確認の有無を項目としたチェックリストの表示、または、予め登録した関係者への連絡を、前記確認判定データに基づいて実行する機能を備える
ことを特徴とする請求項2に記載の作業支援装置。
【請求項4】
前記確認判定部は、前記状態情報を解析し、その結果として解析情報を出力するデータ解析部を備え、
前記解析情報は、前記ユーザの視点位置の移動速度が所定時間以上一定値以下になる注視状態が発生したか否かを示す注視判定情報、前記ユーザの瞳孔径を示す瞳孔径情報、または、前記ユーザが瞬目しているか否かを示す瞬目情報、の何れかを含む
ことを特徴とする請求項3に記載の作業支援装置。
【請求項5】
前記報知処理装置は、
前記確認判定データに基づいて前記チェックリストを作成するチェックリスト作成部をさらに備える
ことを特徴とする請求項4に記載の作業支援装置。
【請求項6】
出力部に作業情報を出力する出力過程と、
前記出力部を目視するユーザの目の動きに関する状態情報を計測する状態計測過程と、
前記状態情報に基づいて、前記出力部が出力した前記作業情報に対する前記ユーザの確認具合を表す確認判定データを出力する確認過程と、
前記確認判定データに基づいて、前記ユーザに対して、前記作業情報の確認具合を報知する報知過程と、を有する
ことを特徴とする作業支援方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、作業支援装置および作業支援方法に関する。
【背景技術】
【0002】
本技術分野の背景技術として、下記特許文献1の要約には、「ユーザが作業で見落としている重要な設計のポイントを確実にユーザに提示することにより、熟練者の設計知識を伝承することができる、設計支援技術を提供する。」と記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、特許文献1には、注視の有無を判定するための基準が明示されていない。そのため、ユーザが注視した場所と未注視の場所を識別することが困難である。このため、注視すべき場所をユーザが確認していない場合には、製品不具合やトラブルの原因となる恐れがある。
この発明は上述した事情に鑑みてなされたものであり、正確に注視の有無を判定し、ユーザに注視すべき場所を促すことにより、適切な作業支援を実現できる作業支援装置および作業支援方法を提供することを目的とする。
【課題を解決するための手段】
【0005】
上記課題を解決するため本発明の作業支援装置は、作業情報を出力する出力部と、前記出力部を目視するユーザの目の動きに関する状態情報を計測する状態計測部と、前記状態情報に基づいて、前記出力部が出力した前記作業情報に対する前記ユーザの確認具合を表す確認判定データを出力する確認判定部と、前記確認判定データに基づいて、前記ユーザに対して、前記作業情報の確認具合を報知する報知処理装置と、を備えることを特徴とする。
【発明の効果】
【0006】
本発明によれば、正確に注視の有無を判定し、ユーザに注視すべき場所を促すことにより、適切な作業支援を実現できる。
【図面の簡単な説明】
【0007】
【
図4】第1実施形態による作業支援装置のブロック図である。
【
図8】第1実施形態における処理ルーチンのフローチャートである。
【
図9】
図8における要部の詳細を示すフローチャートである。
【
図10】機械学習モデル生成処理ルーチンのフローチャートである。
【発明を実施するための形態】
【0008】
[実施形態の概要]
業務のデジタルトランスフォーメーションにより様々な業務システムが開発され、PC(パーソナルコンピュータ)などの画面を見ながら業務を行う機会が多くなっている。このような画面には、例えば製造業であれば製造装置の動作状態が可視化され、あるいは、部品の在庫状況などが表示される。作業者である業務システムのユーザは、画面を閲覧しながら製造装置の異常の有無や部品の不足などを適宜判断する。
【0009】
このようなシステムの一つとして、設計者が利用する設計支援システムが考えられる。設計支援システムとは、例えば、過去の製品の不具合に関する情報が検索でき、あるいは文書化された設計の手順やノウハウを選択して閲覧できるような設計業務を支援する情報処理システムである。設計支援システムは、設計に関する情報を提示し、ユーザがその情報を見て、内容を確認して、内容に応じて必要なアクションを取ることにより、設計業務の効率を向上することを狙いとしている。設計者の業務は、顧客要求に応えるための製品の多様化により増加しており、多忙となっている。また、設計現場では熟練者が減少しており、熟練者の持つ知識やノウハウが受け継がれていない場合、設計の見落としや検討不足が生じることがある。
【0010】
このような場合、設計支援システムの活用が有効である。例えば、設計作業において、過去の製品の設計を一部変更することがある。この際、設計変更の内容や、その設計変更の影響範囲を正確に判断することが、製品の品質を維持するうえで重要となる。設計変更は、対象の製品の設計業務に長年携わってきた熟練者にとっては、設計の意味や根拠を把握しているので比較的容易である。しかしながら、そのような経験が少ない設計者にとっては、影響範囲の検討を漏らす恐れがある。検討漏れは製品不具合の原因となることがあり、納期の遅延やリコールに発展する恐れがある。このような場合に、設計支援システムが設計変更時の影響範囲を提示することで、設計者に影響範囲に対する検討を促すことになり、設計変更による検討漏れを低減し、業務効率を向上できる。
【0011】
また、設計者は製品設計の際にシミュレーションを用いて、所望の性能を満足する製品を設計することがある。シミュレーションは、応力解析や流体解析などがあり、これらの結果をPCの画面上に表示して、材料力学あるいは流体力学の観点から現象を評価したり、結果に対して設計を変更したりする。このような現象の評価においても、熟練者は見るべき場所を熟知しており、重要な現象を見落とすことは少ないが、経験が少ない非熟練者は重要な現象を見落とす恐れがある。そこで、非熟練者に対して、設計支援システムが重要な可能性がある場所を提示することで、設計者に提示された場所における検討を促すことになり、現象の見落としを防止することができる。
【0012】
上述した特許文献1の技術を応用すると、流体解析の現象評価等において、熟練者の知識である、見るべき場所を画面に可視化することが可能であると考えられる。さらに、提示した複数の見るべき場所を設計者が見たか否かを判定し、見ていない場所は強調表示することが可能であると考えられ、これによってユーザが見落としている重要なポイントを提示できると考えられる。また、特許文献1の技術を応用すると、ユーザの業務と知識データベースとを照合し、対応した部分のうちユーザが未注視の部分を強調表示するなどして、注視を促すことができると考えられる。
【0013】
確かに、ユーザが提示された情報を確認したかどうかを判定する際に、注視の有無を判定することは有効であるが、注視していたとしても、ユーザが集中していない場合も有り得ることから、注視の有無のみでは、提示された情報を十分に確認したか否か、高精度に判断するのは難しい。すなわち、ユーザが提示された情報の内容を確認したか否かが判断できないため、ユーザがその情報を見て、内容を確認して、内容に応じて必要なアクションを取れる状態にまで、ユーザが辿り着けない虞がある。さらに、ユーザが提示された情報を未確認であっても、対応策として情報の確認を促すアクションを実行できず、ユーザは情報を未確認のままとなり、製品不具合やトラブルを起こしてしまう可能性が生じる。
【0014】
そこで、後述する実施形態においては、業務実行画面に提示された情報をユーザが確認したかを識別し、確認が不十分な場合は、情報の確認を促すように追加の情報提示などを行う。これにより、提示した内容に応じてユーザが必要なアクションを取れるようにする。ユーザが内容を確認しかた否か識別するには、確認した場合としていない場合の差が様々な目の状態に現れることから、目の状態に関する複数の情報を用いる。後述の実施形態においては、目の動きと瞳孔径を用いて情報の確認具合を判定する。
【0015】
さらに、後述する実施形態によれば、業務実行画面を介してユーザに作業情報を提示するシステムにおいて、ユーザが作業情報を確認しなかった場合であっても、強調表示、チェックリスト生成、関係者に連絡をする等の対策を講じることができる。これにより、ユーザが作業情報を漏れなく確実に確認できる可能性を高め、確認漏れによる事故や不具合の頻度を抑制できる。
【0016】
[第1実施形態]
〈画面表示の具体例〉
以下、第1実施形態の構成を説明する前に、第1実施形態においてディスプレイに表示される各種画面について説明する。
図1は、解析結果表示画面210の一例を示す図である。
図1において、解析結果表示画面210には、設計情報表示部220と、流路画像表示部230と、が含まれている。また、流路画像表示部230には、矢印状の複数の流体ベクトル画像232と、流路画像表示部230の下端部から中央付近に突出した抵抗体画像234と、が含まれている。
【0017】
流路画像表示部230の内容は、流速ベクトル図と呼ばれているものであり、その全体形状は、流体の流路(図示せず)の縦断面に相当する。また、流体ベクトル画像232は、流路内の所定間隔の点(以下、メッシュと呼ぶ)における流体の流速と、方向とを示すベクトルを示している。従って、図示の例では、左側から右側に向かって流体が流れていることが解る。また、抵抗体画像234は、流路内に設けられた抵抗体の形状を表すものである。
【0018】
流路画像表示部230等に基づく流体解析結果によれば、流路内の圧力損失、流速の変化、渦の有無等、多数の項目を確認することができる。本実施形態では、一例として、ユーザは、流路画像表示部230から渦を探す作業を行うものとする。そして、設計情報表示部220は、この作業を支援するための情報をユーザに提示するものである。
【0019】
図1の例において、設計情報表示部220は、「流れのはく離部分を起点に渦が発生しやすい」という文字列と、これら文字列を囲む吹き出しと、を含んでいる。この設計情報表示部220に示されているように、壁面や抵抗体に沿っていた流れがはく離すると、そこが起点となって渦が生じやすい。すなわち、はく離部分付近を観察することが重要である。そこで、
図1の例のように、「流れのはく離部分を起点に渦が発生しやすい」ことを提示することが、検討漏れを防止するうえで有効となる。
【0020】
図2は、視点重畳画像の一例を示す図である。
図2に示す視点重畳画面310は、
図1に示した解析結果表示画面210に、視点画像312および移動方向画像314を重畳したものである。ユーザが解析結果表示画面210を目視した際に、ユーザの目の状態からユーザの視線を検出すると、解析結果表示画面210においてユーザが目視している視点位置を検出することができる。
図2における視点画像312は、この検出した視点位置に小円を表示したものである。移動方向画像314は、視点画像312の移動方向を矢印状の画像によって表示したものである。
【0021】
図2の例では、移動方向画像314で示すように、視点画像312は左側から右側に視線が移動している。これら視点画像312によれば、ユーザは、渦が生じているあたりを観察してはいるが、設計情報表示部220上には視線が移動していないことから、設計情報表示部220を確認していないことが分かる。
【0022】
図3は、視点重畳画像の他の例を示す図である。
すなわち、
図3に示す視点重畳画面320も、
図1に示した解析結果表示画面210に、視点画像312および移動方向画像314を重畳して表示したものである。
図3に示す視点重畳画面320の例では、設計情報表示部220上を視点画像312が移動している。これにより、ユーザが、設計情報表示部220の内容を確認している可能性が高いことが分かる。
【0023】
〈第1実施形態の構成〉
図4は、第1実施形態による作業支援装置100のブロック図である。
図4において作業支援装置100は、情報取得装置120と、報知処理装置150と、を備えている。情報取得装置120は、出力部121と、状態計測部122と、作業情報提示部123と、確認判定部124と、モデル記憶部126と、処理指定部127と、モデルデータ生成部130と、を備えている。ここで、確認判定部124は、データ解析部124aと、データ比較部124bと、を備えている。また、報知処理装置150は、強調表示生成部152と、アラート生成部154と、チェックリスト作成部156と、発報部158と、関係者データベース160と、視点重畳部162と、を備えている。
【0024】
出力部121は、例えばグラフィックディスプレイを備えている。作業情報提示部123は、作業支援装置100のユーザ50が行っている業務に関する作業情報D3の内容を、出力部121に表示させる。これにより、出力部121には、解析結果表示画面210(
図1参照)のような画面が表示される。
【0025】
ここで、作業情報D3について説明する。製造業における設計者の業務は様々である。機械設計の場合、顧客への仕様のヒアリング、製品の概略設計、詳細設計、材料や部品の調達、コストの算出、製造現場への手配など幅広い業務を実行することがある。近年、概略設計や詳細設計において、試作品を用いたテストの前にシミュレーションにて性能を評価する取り組みが盛んである。シミュレーションにより試作回数を削減できるメリットがあり、幅広く用いられている。シミュレーションの種類としては、材料力学に基づく応力解析、流体力学に基づく流体解析の他に電気回路の解析などがある。
【0026】
これらの解析結果は、一般的にコンピュータのディスプレイに表示され、設計者はディスプレイ上の画面から解析結果を評価する。例えば、流体解析は、機械装置の周辺の空気や水などの流体の流れを解析するものであり、結果は圧力分布を示したコンター図や流れの方向と速度の大きさをベクトルで示した流速ベクトル図として表示される。これらの結果から、ユーザ50は圧力の大小や流れの方向を確認し、圧損の原因である渦の場所を探すなどの評価を行う。作業情報D3は、例えば、上述したような設計のために設計者が使用するシミュレーション画面である。作業情報D3は、
図1に示したものに限られず、ユーザのレベルや作業内容に応じて適切なものを選択するとよい。
【0027】
状態計測部122は、出力部121を目視する作業者であるユーザ50の状態、特にユーザ50の両眼の状態を計測し、計測結果を状態情報D2として出力する。また、状態計測部122は、ユーザ50の両眼の状態と、ユーザ50および出力部121の位置関係と、を検出する。すなわち、状態計測部122は、出力部121に作業情報D3が表示された後、所定の計測期間Tm(図示せず)に渡って、所定のサンプリング周期Ts(図示せず)毎に状態情報D2を出力する。
【0028】
一般的に、人間の眼球の状態は細かく変動するため、サンプリング周期Tsは、例えば1[kHz]以上にすることが好ましい。状態計測部122には、例えば近赤外線のLED(Light Emitting Diode)によって眼球の角膜上に生成された反射パターンをカメラで撮影するものを適用できる。この種の装置によれば、光の反射点などから眼球の方向を算出する角膜反射法を適用することができる。また、計測期間Tmは、数秒程度でも良い。例えば、10秒などである。計測期間Tmが長ければ長いほど、ユーザ50の目の状態に関する情報をより多く得ることができ、出力する状態情報D2をより詳細に示すことが可能である。
【0029】
確認判定部124のデータ解析部124aは、状態情報D2に基づいて、解析情報D4を出力する。ここで、解析情報D4は、何れも図示を省略するが、視点情報D41と、注視判定情報D42と、瞳孔径情報D43と、瞬目情報D44と、初見時間情報D45と、を含んでいる。但し、解析情報D4は、必ずしもD41~D45の全てを含む必要はなく、D41~D45の何れか一つでもよく、D41~D45のうち何れかの組合せであってもよい。
【0030】
視点情報D41は、出力部121に対してユーザ50が見ている位置である視点位置を示す情報である。すなわち、
図2、
図3に示した視点画像312の位置が視点位置になる。データ解析部124aは、上述した計測期間中、サンプリング周期Ts毎に視点情報D41を計算する。ここで、瞬目によるデータの欠損や、瞼の動き、まつ毛の動きなどの影響を受け、これらが視点情報D41に対する計測ノイズとして作用する。そこで、データ解析部124aは、視点情報D41から、これらのノイズを取り除く処理を行う。例えば、計測結果をフィルタ処理し平滑化する方法がある。
【0031】
注視判定情報D42は、対応するサンプリングタイミングにおいて、「注視」が発生しているか否かを示す情報である。ユーザ50の目の動きは、一般的に、特定の場所をじっくりと見る「注視」と、視点間の目の高速移動である「サッカード」と、「瞬目」と、に分類できる。「サッカード」の場合、目は、ほとんど対象物を捉えていないため、作業情報を確認したかを評価するには、ユーザが注視した位置を抽出することが好ましい。
【0032】
実際には眼球は細かく動いていることから、「注視」とは、「所定時間以上、視線移動速度(または視点位置の移動速度)が一定値以下である状態である」と定義することができる。例えば、30[deg/s]以下の視線移動速度が100[ms]以上継続したときに「注視が生じた」と判定するとよい。すなわち、データ解析部124aは、視点情報D41に基づいて視点の移動速度を求め、さらにその継続時間を算出することにより、注視判定情報D42を出力する。
【0033】
瞳孔径情報D43は、対応するサンプリングタイミングにおける、ユーザの眼球における瞳孔径を示す情報である。ここで、瞳孔径は瞬目時には計測されないため、瞬目前後の瞳孔径を線形近似し補間する処理を行うとよい。瞬目情報D44は、対応するサンプリングタイミングにおいて、瞬目が発生しているか否かを示す情報である。初見時間情報D45は、計測期間Tmが開始された後、ユーザ50の視点位置が最初に設計情報表示部220(
図1参照)に達するまでの時間を示す情報である。
【0034】
モデルデータ生成部130は、モデルデータD6を生成し、モデル記憶部126は、このモデルデータD6を記憶する。ここで、モデルデータD6とは、ユーザ50による作業情報D3の確認具合と、解析情報D4との関係を示すデータである。確認判定部124のデータ比較部124bは、解析情報D4と、モデルデータD6と、を照合することにより、ユーザ50による作業情報D3の確認具合を定量的に算出し、その結果を確認判定データD5として出力する。
【0035】
モデルデータD6は、例えば以下のものを含めることができる(何れも図示略)。
・設計情報表示部220(
図1参照)の解析結果表示画面210内における座標範囲を示す設計情報座標データD62
・平常時(作業情報D3の非表示時)におけるユーザ50の瞳孔径である基準瞳孔径D63、
・平常時におけるユーザ50の、所定時間あたりの瞬目回数である基準瞬目回数D64、
・初見時間情報D45に対応する初見時間閾値D65。
【0036】
上述した、基準瞳孔径D63、基準瞬目回数D64および初見時間閾値D65について説明しておく。
瞳孔は副交感神経と交感神経の両方の自律神経によって制御されており、心的な変化が現れることや、脳の認知的処理の影響を受けることが知られている。すなわち、提示した作業情報を集中して凝視する場合と、軽く流し読み程度で確認する場合には、瞳孔径に差が生じる。すなわち、集中して凝視することにより認知負荷が高くなると、瞳孔径は拡大する。従って、平常時(作業情報D3の非表示時)におけるユーザ50瞳孔径と、作業情報D3を表示した後における瞳孔径の最大値との間には、認知負荷に応じた差分が現れると考えられる。
【0037】
また、認知負荷が高まると瞬目回数が増加し、または減少することが知られている。そこで、平常時における所定時間あたりの瞬目回数と、計測期間Tmにおける所定時間あたりの瞬目回数と、を比較することにより、充分な認知負荷が生じたか否かを判定することができる。また、計測期間Tmが開始された後、ユーザ50は、設計情報表示部220を直ちに(例えば「1秒」以内に)確認することが好ましい。そこで、初見時間閾値D65は、例えば「1秒」程度に設定するとよい。以上のような理由により、本実施形態においては、基準瞳孔径D63、基準瞬目回数D64および初見時間閾値D65をモデルデータD6に含めている。なお、基準瞳孔径D63は、予め測定しておくことに代えて、計測期間Tmの開始時の瞳孔径情報D43を取得してこれを基準瞳孔径D63として適用してもよい。また、基準瞳孔径D63および瞳孔径情報D43は、計測結果をZスコア化したものであってもよい。
【0038】
図5は、確認判定データD5の一例を示す図である。
確認判定データD5は、評価値D51と、注視フラグD52と、瞳孔径フラグD53と、瞬目フラグD54と、初見フラグD55と、を含んでいる。注視フラグD52は、設計情報表示部220(
図1参照)の表示領域に対して注視が発生した場合に“1”、発生しなかった場合に“0”になるフラグである。瞳孔径フラグD53は、計測期間Tmにおける瞳孔径情報D43の最大値が基準瞳孔径D63以上である場合に“1”、それ以外の場合に“0”になるフラグである。
【0039】
瞬目フラグD54は、計測期間Tm内おける所定時間あたりの瞬目回数から基準瞬目回数D64を減算した結果の絶対値が所定値以上である場合に“1”、それ以外の場合に“0”になるフラグである。初見フラグD55は、初見時間情報D45が初見時間閾値D65以上である場合に“1”、それ以外の場合に“0”になるフラグである。評価値D51は、上述した各フラグ値の組合せに基づいて決定される値である。図示の例において、評価値D51は「0」~「10」の範囲であり、その値が高いほど作業情報D3に対するユーザ50の確認度合いが高いことを意味する。
【0040】
例えば、図示の例においては、注視フラグD52、瞳孔径フラグD53、瞬目フラグD54および初見フラグD55が全て“1”である場合に評価値D51は最高値である「10」になる。これは、ユーザ50が作業情報D3について十分に確認を行ったことを意味する。一方、評価値D51が「10」未満であれば、確認が不十分である可能性がある。
図5の下から2行目においては、初見フラグD55が“1”であるから、ユーザ50は計測期間Tmが開始された後、直ちに(初見時間閾値D65以内に)設計情報表示部220に視線を移したことを意味する。但し、注視フラグD52は“0”であるため、「注視」と判定される程度にまで長い時間、設計情報表示部220を目視していなかったことになる。
第1実施形態では、評価項目として、注視フラグD52、瞳孔径フラグD53、瞬目回数フラグD54、及び初見フラグD55を全て含む形とした。理由は、正確にユーザが注視しているかを評価するのに適しているからである。他の実施形態としては、いずれか1つを評価項目としてもよいし、これらを組み合わせてもよい。
【0041】
図4に戻り、処理指定部127は、確認判定データD5に基づいて、ユーザ50が提示された作業情報D3を確認したか判定し、報知処理装置150にて次に行う処理を指定する処理指定情報D7を出力する。処理指定情報D7は、確認判定データD5が「10」未満である場合は、確認判定データD5の数値に応じて、報知処理装置150に対して、作業情報D3の表示態様を変更する強調表示やアラート生成を行う指示を含む。
【0042】
すなわち、処理指定情報D7は、「強調表示」、「アラート生成」、「チェックリスト作成」、「関係者に連絡」のうち、一または複数の処理を指示するものである。特に、評価値D51が小さいほど指示の数を多くし、評価値D51が大きいほど、指示の数を少なくすることが好ましい。例えば、評価値D51が「0」である場合は、処理指定部127は、処理指定情報D7によって強調表示、アラート生成、チェックリスト作成、関係者に連絡の全ての処理を指示するとよい。一方、確認判定データD5が「9」の場合、処理指定部127は、処理指定情報D7によって、強調表示のみを指示するとよい。
【0043】
報知処理装置150における強調表示生成部152は、処理指定情報D7に基づいて、出力部121に提示した作業情報D3について、サイズを大きくする、着色する、点滅させる等、各種表示態様を設定する。
【0044】
また、アラート生成部154は、例えば「作業情報を確認して下さい」のような、作業情報D3の確認を促すメッセージを出力部121に表示する。チェックリスト作成部156は、提示した作業情報D3を確認したか否かをチェック項目とするチェックリスト250(
図6参照)を作成する。なお、このチェックリスト250の詳細については後述する。
【0045】
関係者データベース160は、各種関係者(図示せず)の連絡先等を記憶する。発報部158は作業情報D3の確認具合が十分ではない場合に、予め関係者データベース160に登録した関係者に、その旨を電子メールなどで連絡する。これらの対応策を実行することで、ユーザ50は提示された作業情報D3を漏れなく確認することができる。視点重畳部162は、例えば
図2、
図3に示したように、視点情報D41に基づく視点画像312等を、設計情報表示部220および流路画像表示部230に重畳させて出力部121に表示させる。
【0046】
図6はチェックリスト250の一例を示す図である。
上述したように、チェックリスト250は、チェックリスト作成部156によって作成され、例えば出力部121(
図4参照)のディスプレイに表示されるものである。
図6の例において、チェックリスト250は、チェック番号欄251と、チェック項目欄252と、チェック欄254と、を含んでいる。
【0047】
チェック番号欄251は、#1~#6のチェック番号を表示する。チェック項目欄252は、ユーザがチェックすべき様々な項目についての文字列を表示する。また、チェック欄254には、該当箇所にユーザがチェック記号256を入力できる。
【0048】
例えば、チェック番号#1は、メッシュ、すなわち流路画像表示部230(
図1参照)における流体ベクトル画像232の起点の粗密に大きな差が無いかをチェックするものである。メッシュが粗い部分では、圧力や流速が細かく変化しても画面上に現れにくく、メッシュが細かい部分では画面上に結果に表れ易くなる。仮にメッシュの粗密の差が大きい場合、解析結果から現象を評価する際に誤った評価が生じてしまう可能性が生じる。
【0049】
チェック番号#6は、評価値D51(
図5参照)が所定値よりも小さい場合、すなわち、ユーザ50が作業情報D3を充分に確認していない場合に、チェックリスト作成部156がチェックリスト250に含める項目である。すなわち、チェックリスト250の内容は
図6のものに限られるわけではなく、チェックリスト作成部156は、評価値D51に応じて異なるチェックリスト250を表示する。
【0050】
このように、チェックリスト作成部156が評価値D51に応じたチェックリスト250を生成することにより、ユーザ50が作業情報D3を充分に確認していなかった場合においても、作業情報D3を再確認することができ、確認の漏れを防止することができる。また、本実施形態におけるユーザ50は設計者に限定されず、例えばコンピュータの表示画面を監視するプラント監視員等、専門知識を活用し判断する作業を行うユーザ50においても有効である。
【0051】
図7は、コンピュータ980のブロック図である。
図4に示した情報取得装置120および報知処理装置150は、何れも
図7に示すコンピュータ980を、1台または複数台備えている。
図7において、コンピュータ980は、CPU981と、記憶部982と、通信I/F(インタフェース)983と、入出力I/F984と、メディアI/F985と、を備える。ここで、記憶部982は、RAM982aと、ROM982bと、HDD982cと、を備える。通信I/F983は、通信回路986に接続される。入出力I/F984は、入出力装置987に接続される。メディアI/F985は、記録媒体988からデータを読み書きする。
【0052】
ROM982bには、CPUによって実行されるIPL(Initial Program Loader)等が格納されている。HDD982cには、アプリケーションプログラムや各種データ等が記憶されている。CPU981は、HDD982cからRAM982aに読み込んだアプリケーションプログラム等を実行することにより、各種機能を実現する。先に
図4に示した情報取得装置120および報知処理装置150の内部は、アプリケーションプログラム等によって実現される機能をブロックとして示したものである。
【0053】
〈第1実施形態の動作〉
図8は第1実施形態における処理ルーチンのフローチャートである。
この処理ルーチンは、ユーザ50による作業情報D3の確認具合、すなわち評価値D51を判定し、確認が不十分な場合に対応策を実行するものである。
【0054】
図8において、処理がステップS501(出力過程)に進むと、作業情報提示部123は、作業情報D3の内容、すなわち解析結果表示画面210(
図1参照)を出力部121に表示させる。次に、処理がステップS502(状態計測過程)に進むと、状態計測部122は、所定の計測期間Tmに渡って、ユーザ50の状態情報D2を取得する。
【0055】
次に、処理がステップS503(確認過程)に進むと、確認判定部124のデータ解析部124aは、状態情報D2に基づいて解析情報D4を生成し、データ比較部124bは、解析情報D4とモデルデータD6とを比較することにより、確認判定データD5を生成する。
【0056】
次に、処理がステップS504に進むと、確認判定データD5に含まれる評価値D51(
図5参照)が、所定の合格基準値Dth以上であるか否かを判定する。合格基準値Dthは、例えば「10.0」である。ステップS504において「Yes」と判定されると、本ルーチンの処理が終了する。
【0057】
一方、ステップS504において「No」と判定されると、処理はステップS505(報知過程)に進む。ここでは、処理指定部127は、確認判定データD5に応じた処理指定情報D7を出力し、報知処理装置150は、処理指定情報D7に示された各種処理を実行し、本ルーチンの処理が終了する。
【0058】
図9は、
図8における要部、すなわちステップS503の詳細を示すフローチャートである。
図9において処理がステップS602に進むと、データ解析部124aは、状態情報D2に基づいて解析情報D4を生成する。次に、処理がステップS603に進むと、データ比較部124bは、視点情報D41と、注視判定情報D42と、に基づいて、設計情報表示部220(
図1参照)の表示領域に対して注視が発生したか否かを判定し、注視フラグD52を“1”(注視あり)または“0”(注視なし)に設定する。
【0059】
次に、処理がステップS604に進むと、データ比較部124bは、計測期間Tmにおける瞳孔径情報D43の最大値が基準瞳孔径D63以上であれば瞳孔径フラグD53を“1”(差分が大きい)に、それ以外の場合に“0”(差分が小さい)に設定する。
【0060】
次に、処理がステップS605に進むと、データ比較部124bは、瞬目情報D44に基づいて、計測期間Tm内おける所定時間あたりの瞬目回数を計算する。そして計算した瞬目回数から基準瞬目回数D64を減算した結果の絶対値が所定値以上である場合に瞬目フラグD54を“1”(差分が大きい)に設定し、それ以外の場合に“0”(差分が小さい)に設定する。
【0061】
次に、処理がステップS606に進むと、データ比較部124bは、初見時間情報D45が初見時間閾値D65以下である場合に初見フラグD55を“1”に設定し、それ以外の場合に“0”に設定する。
【0062】
次に、処理がステップS606に進むと、データ比較部124bは、注視フラグD52、瞳孔径フラグD53、瞬目フラグD54および初見フラグD55に基づいて、例えば
図5に基づいて、評価値D51を算出する。
【0063】
[第2実施形態]
次に、第2実施形態による作業支援装置100について説明する。第2実施形態による作業支援装置100の構成は、以下述べる点を除いて、第1実施形態のものと同様である。
すなわち、第2実施形態において、モデルデータD6は、機械学習モデルである。データ比較部124bは、モデルデータD6を用いて解析情報D4を評価することにより、確認判定データD5を出力する。
【0064】
図10は機械学習モデル生成処理ルーチンのフローチャートである。
すなわち、本ルーチンは、機械学習モデルであるモデルデータD6を生成する場合に、作業支援装置100によって実行される処理を表す。
【0065】
機械学習モデルであるモデルデータD6の構築は、予めユーザに作業情報D3を確認するように指示し、その際の状態情報D2および解析情報D4を取得する。計測後に、作業情報D3の内容をヒアリングし、理解しているかを確認したうえで、ユーザの作業情報D3に対する確認具合を定量化する。この定量化の作業を複数のユーザに対して実行する。そして、評価項目(
図5参照)と、作業情報D3の実際の確認具合と、の関係を学習し、モデルデータD6を生成する。
【0066】
以下、
図10の各ステップについて説明する。
図10において、処理がステップS801に進むと、モデルデータ生成部130は、作業情報提示部123を介して、出力部121に対して、作業情報D3を提示する。次に、処理がステップS802に進むと、モデルデータ生成部130は、ユーザに対して作業情報D3を確認するように指示する確認指示を出力部121に表示させる。
【0067】
次に、処理がステップS803に進むと、状態計測部122は、所定期間に渡って、ユーザ50の状態情報D2を取得する。次に、処理がステップS804に進むと、データ解析部124aは、状態情報D2に基づいて視点情報D41を取得し、該視点情報D41に基づいて、注視判定情報D42を取得する。
【0068】
次に、処理がステップS805に進むと、データ解析部124aは、状態情報D2に基づいて、瞳孔径情報D43を取得する。次に、処理がステップS806に進むと、データ解析部124aは、状態情報D2に基づいて、瞬目情報D44を取得する。次に、処理がステップS807に進むと、データ解析部124aは、視点情報D41に基づいて、初見時間情報D45を取得する。
【0069】
次に、処理がステップS808に進むと、提示された作業情報D3の理解度試験を行う。すなわち、熟練者がユーザ50に対して、提示された作業情報D3の内容を理解できたか否か、ヒアリングにより判定し、熟練者はその結果である理解度情報DUをモデルデータ生成部130に記憶させる。すなわち、提示された作業情報D3の内容をユーザ50が内容を正しく説明できれば、熟練者は理解度情報DUを高く評価し、説明に漏れがあれば、理解度情報DUは低く評価する。
【0070】
次に、処理がステップS809に進むと、モデルデータ生成部130は、注視判定情報D42と、瞳孔径情報D43と、瞬目情報D44と、初見時間情報D45と、理解度情報DUと、の関係を学習し、その学習結果に基づいてモデルデータD6を構築する。その際の学習方法としては、例えば、教師あり機械学習の方法である決定木、サポートベクターマシーン、ニューラルネットワークなどを用いるとよい。
【0071】
[実施形態の効果]
以上のように上述した実施形態によれば、作業支援装置100は、作業情報D3を出力する出力部121と、出力部121を目視するユーザ50の目の動きに関する状態情報D2を計測する状態計測部122と、状態情報D2に基づいて、出力部121が出力した作業情報D3に対するユーザ50の確認具合を表す確認判定データD5を出力する確認判定部124と、確認判定データD5に基づいて、ユーザ50に対して、作業情報D3の確認具合を報知する報知処理装置150と、を備える。これにより、状態情報D2に基づいて、ユーザ50の確認具合を表す確認判定データD5を出力できるため、適切な作業支援を実現できる。
【0072】
また、確認判定部124は、作業情報D3が出力部121に出力された後、所定の計測期間Tmにおける状態情報D2に基づいて確認判定データD5を出力すると一層好ましい。これにより、計測期間Tmにおける状態情報D2に基づいて適切な確認判定データD5を出力できる。
【0073】
また、報知処理装置150は、出力部121における作業情報D3の表示態様の変更、作業情報D3の確認を促すメッセージの表示、作業情報D3の確認の有無を項目としたチェックリスト250の表示、または、予め登録した関係者への連絡を、確認判定データD5に基づいて実行する機能を備えると一層好ましい。これにより、報知処理装置150は、ユーザ50に対して、作業情報D3の確認を適切に促すことができる。
【0074】
また、確認判定部124は、状態情報D2を解析し、その結果として解析情報D4を出力するデータ解析部124aを備え、解析情報D4は、ユーザ50の視点位置の移動速度が所定時間以上一定値以下になる注視状態が発生したか否かを示す注視判定情報D42、ユーザ50の瞳孔径を示す瞳孔径情報D43、または、ユーザ50が瞬目しているか否かを示す瞬目情報D44、の何れかを含む。これにより、解析情報D4を用いて、一層適切な確認判定データD5を出力できる。
【0075】
また、報知処理装置150は、確認判定データD5に基づいてチェックリスト250を作成するチェックリスト作成部156をさらに備えると一層好ましい。これにより、確認判定データD5に対応して最適なチェックリスト250を作成することができる。
【0076】
[変形例]
本発明は上述した実施形態に限定されるものではなく、種々の変形が可能である。上述した実施形態は本発明を理解しやすく説明するために例示したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施形態の構成の一部を他の実施形態の構成に置き換えることが可能であり、ある実施形態の構成に他の実施形態の構成を加えることも可能である。また、各実施形態の構成の一部について削除し、もしくは他の構成の追加・置換をすることが可能である。また、図中に示した制御線や情報線は説明上必要と考えられるものを示しており、製品上で必要な全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。上記実施形態に対して可能な変形は、例えば以下のようなものである。
【0077】
(1)上記実施形態における情報取得装置120および報知処理装置150のハードウエアは一般的なコンピュータによって実現できるため、上述した各ブロック図、各フローチャートに対応する処理、その他上述した各種処理を実行するプログラム等を記憶媒体(プログラムを記録したコンピュータ読み取り可能な記録媒体)に格納し、または伝送路を介して頒布してもよい。
【0078】
(2)上述した各ブロック図、各フローチャートに対応する処理、その他上述した各種処理を実行するプログラム等は、上記実施形態ではプログラムを用いたソフトウエア的な処理として説明したが、その一部または全部をASIC(Application Specific Integrated Circuit;特定用途向けIC)、あるいはFPGA(Field Programmable Gate Array)等を用いたハードウエア的な処理に置き換えてもよい。
【0079】
(3)上記実施形態において実行される各種処理は、図示せぬネットワーク経由でサーバコンピュータが実行してもよく、上記実施形態において記憶される各種データも該サーバコンピュータに記憶させるようにしてもよい。
【符号の説明】
【0080】
50 ユーザ
100 作業支援装置
121 出力部
122 状態計測部
124 確認判定部
124a データ解析部
150 報知処理装置
156 チェックリスト作成部
210 解析結果表示画面
250 チェックリスト
D2 状態情報
D3 作業情報
D4 解析情報
D5 確認判定データ
Tm 計測期間
D42 注視判定情報
D43 瞳孔径情報
D44 瞬目情報
S501 ステップ(出力過程)
S502 ステップ(状態計測過程)
S503 ステップ(確認過程)
S505 ステップ(報知過程)