IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社日立ビルシステムの特許一覧

<>
  • 特許-熟練度判定システム 図1
  • 特許-熟練度判定システム 図2
  • 特許-熟練度判定システム 図3
  • 特許-熟練度判定システム 図4
  • 特許-熟練度判定システム 図5
  • 特許-熟練度判定システム 図6
  • 特許-熟練度判定システム 図7
  • 特許-熟練度判定システム 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-01-18
(45)【発行日】2022-02-10
(54)【発明の名称】熟練度判定システム
(51)【国際特許分類】
   G06Q 10/06 20120101AFI20220203BHJP
【FI】
G06Q10/06 332
【請求項の数】 5
(21)【出願番号】P 2018222187
(22)【出願日】2018-11-28
(65)【公開番号】P2020087091
(43)【公開日】2020-06-04
【審査請求日】2021-01-27
(73)【特許権者】
【識別番号】000232955
【氏名又は名称】株式会社日立ビルシステム
(74)【代理人】
【識別番号】110000442
【氏名又は名称】特許業務法人 武和国際特許事務所
(72)【発明者】
【氏名】三之宮 光太郎
(72)【発明者】
【氏名】川崎 勝
(72)【発明者】
【氏名】賀来 靖貴
【審査官】加舎 理紅子
(56)【参考文献】
【文献】特開2018-180090(JP,A)
【文献】特開2009-075937(JP,A)
【文献】特開2006-190166(JP,A)
【文献】特開2014-174879(JP,A)
【文献】特開2013-178294(JP,A)
【文献】国際公開第2007/105792(WO,A1)
【文献】五福 明夫 他3名,プラント操作習熟への熟練者視線傾向の利用効果の実験的検討,ヒューマンインタフェース学会誌 ,日本,特定非営利活動法人ヒューマンインタフェース学会,2009年08月25日,Vol. 11, No. 3,p.21-32,ISSN : 1344-7262
(58)【調査した分野】(Int.Cl.,DB名)
IPC G06Q 10/00-99/00
(57)【特許請求の範囲】
【請求項1】
作業者の熟練度を判定する熟練度判定システムであって、
作業者の視野映像を撮像する外部撮像部と、
前記作業者の視点の位置を検出する視点検出部と、
前記外部撮像部により撮像される映像から、当該映像を構成するフレーム画像をそれぞれ切り出し、切り出し画像ごとに、映し出された作業対象物を認識するとともに、当該作業対象物の描画領域を、前記切り出し画像ごとに特定する対象物認識処理部と、
前記対象物認識処理部によって特定される前記描画領域内に、前記視点検出部により検出された視点が位置しているか否かを、前記切り出し画像ごとに判定するマッチング処理部と、
前記マッチング処理部の判定結果に基づき、前記作業者が規定時間を超えて前記描画領域内を注視していた注視時間、および、前記規定時間注視せずに前記描画領域を前記視点が通過した回数を導出し、前記注視時間および前記通過した回数に基づき、前記作業者による作業が適正に行われたか否かを判定する判定部と、
前記判定部により判定される結果を表示する表示部と、
を有する熟練度判定システム。
【請求項2】
請求項1に記載の熟練度判定システムにおいて、
前記作業者が行う作業と同じ作業を経験者が実施した際の注視時間および通過した回数に関する数値を、指標値として記憶する指標値登録部を有し、
前記判定部は、前記指標値登録部に記憶されている指標値に基づき、前記作業者による作業が適正に行われたか否かを判定することを特徴とする熟練度判定システム。
【請求項3】
請求項1に記載の熟練度判定システムにおいて、
さらに、前記判定部による判定結果、注視時間、通過した回数を対応付けたデータを蓄積する蓄積部を有し、
前記判定部は、前記蓄積部に蓄積された過去のデータの中で、作業が適正に行われたとの判定結果に対応した注視時間および通過した回数を取得し、これらを用いて、前記作業者による作業が適正に行われたか否かを判定することを特徴とする熟練度判定システム。
【請求項4】
請求項1に記載の熟練度判定システムにおいて、
前記判定部は、さらに、前記注視時間および前記通過した回数を用いて、前記作業についてのスコア値を算出し、
前記表示部は、前記スコア値を表示することを特徴とする熟練度判定システム。
【請求項5】
請求項1に記載の熟練度判定システムにおいて、
前記判定部は、前記作業者が行う作業項目ごとに、前記注視時間および前記通過した回数を導出し、前記作業項目ごとに、作業が適正に行われたか否かを判定し、
前記表示部は、前記作業項目ごとに、前記判定部による判定結果を表示することを特徴とする熟練度判定システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、作業者の視点を検出・分析することで、設備の保守作業などに関する熟練度を判定する技術に関する。
【背景技術】
【0002】
従来、例えば昇降機などの保守作業における作業方法の教育研修は、顧客の作業現場や教育研修設備などの限られた場所で実機を使用して実施されたり、紙面上またはネットワーク上に保存された作業手順書によって実施されたりしている。
【0003】
また昇降機は、次々と新機種が生産され各施設に施工されている中、稼働台数自体は多くないが30年以上前に施工された古い機種も現存しており、保守対象となる種類も多岐に渡る。これにより、教育項目が日々増大する一方、古い機種に精通した熟練作業者も減少している。これに加え、既に製品の生産が終了している機種も保守対象となることから、教育用実機の不足による実機を使用した熟練作業者の技術伝承が困難であるという問題がある。
【0004】
また、作業の中には、人の目視で機械部品の摩耗状態や発錆状態などを判断している項目があり、このような作業項目は熟練度に依拠することから、保守作業の質のばらつきにつながる可能性がある。
【0005】
また関連のある技術として、以下のものが開示されている。
【先行技術文献】
【特許文献】
【0006】
【文献】特開2017-204094号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
機械部品の摩耗状態や発錆状態について目視判定を実施する作業では、対象物を注視する必要がある。これに対し、特許文献1の技術では、例えば経験不十分な作業者の迷いによる視線の揺らぎによって視点が対象物上を通過しただけでも、対象物を注視した時間(停留時間)としてカウントする。よって、特許文献1の技術では、対象物を注視せずとも優秀な熟練作業者と判定される場合がある。
【0008】
本発明は、このような従来技術の事情に鑑みてなされたもので、その目的は、作業者の視点を検出し、これに基づき高い精度で保守作業に関する熟練度を判定する技術を提供することにある。
【課題を解決するための手段】
【0009】
本発明の熟練度判定システムは、作業者の熟練度を判定する熟練度判定システムであって、作業者の視野映像を撮像する外部撮像部と、前記作業者の視点の位置を検出する視点検出部と、前記外部撮像部により撮像される映像から、当該映像を構成するフレーム画像をそれぞれ切り出し、切り出し画像ごとに、映し出された作業対象物を認識するとともに、当該作業対象物の描画領域を、前記切り出し画像ごとに特定する対象物認識処理部と、前記対象物認識処理部によって特定される前記描画領域内に、前記視点検出部により検出された視点が位置しているか否かを、前記切り出し画像ごとに判定するマッチング処理部と、前記マッチング処理部の判定結果に基づき、前記作業者が規定時間を超えて前記描画領域内を注視していた注視時間、および、前記規定時間注視せずに前記描画領域を前記視点が通過した回数を導出し、前記注視時間および前記通過した回数に基づき、前記作業者による作業が適正に行われたか否かを判定する判定部と、前記判定部により判定される結果を表示する表示部と、を有する。
【発明の効果】
【0010】
本発明によれば、作業者の視点に基づき高い精度で作業者の熟練度を判定することができる。
上記した以外の課題、構成および効果は、以下の実施形態の説明により明らかにされる。
【図面の簡単な説明】
【0011】
図1】実施形態に係る熟練度判定システムの構成の一例を示す概略構成図である。
図2】実施形態に係る熟練度判定システムの使用態様の一例を示す模式図である。
図3】実施形態に係る視点検出デバイスのハードウェア構成例を示す図である。
図4】実施形態に係る熟練度判定システムの動作例を示すフローチャートである。
図5】実施形態に係る注視状態および通過状態(不注視状態)の一例を示す説明図である。
図6】実施形態に係る判定結果のデータ構成例を示す図である。
図7】実施形態に係る判定処理の一例を示すフローチャートである。
図8】実施形態に係る判定結果の表示画面の一例を示す図である。
【発明を実施するための形態】
【0012】
以下、図面を参照しつつ、本発明に係る実施形態について詳細に説明する。
【0013】
図1は、本実施形態に係る熟練度判定システムを示す概略構成図である。また、図2は本実施形態に係る熟練度判定システムの使用状態の一例を示す模式図である。熟練度判定システム1は、視点検出デバイス10と、現場端末20とを有し、これらが無線もしくは有線により接続されている構成となっている。
【0014】
視点検出デバイス10は、本実施形態ではメガネ型のウェアラブル端末であるスマートグラスとするが、装着者の視点を検出する公知なアイトラッカーを適用してもよい。視点検出デバイス10は、視点検出部2と、外部撮像部3とを有する。視点検出部2は、作業者11の眼球の動きの映像を例えばCCD(Charge Coupled Device)カメラなどを用いて取得し、作業者11の視点の位置情報(以下、視点座標と称する)を検出する。外部撮像部3は、作業対象物13を含んだ視野映像である視野内画像12を、例えばCCDカメラなどを用いて取得する。視点検出部2により得られる視点座標および外部撮像部3により得られる映像データは、逐次現場端末20に送信される。
【0015】
現場端末20は、ノート型やタブレット型のコンピュータもしくはスマートフォンであり、対象物認識処理部4と、マッチング処理部5と、判定部6と、指標値登録部7と、表示部8と、蓄積部9とを有する。
【0016】
対象物認識処理部4は、外部撮像部3が撮像した映像データを構成するフレーム画像を、数フレームごとに切り出し、この切り出し画像内における作業対象物13やその周囲に映し出されている各周辺部品の輪郭を、それぞれ抽出する。この「周辺部品」には、作業者の手など身体の一部や作業に用いる工具なども含むものとする。そして対象物認識処理部4は、例えば既存の自動学習プログラムを用いて、作業対象物13や各周辺部品が何であるかを特定するとともに、切り出し画像内での作業対象物13や周辺部品が占める描画領域の座標を取得する。対象物認識処理部4は、特定した各物体の識別情報と、各描画領域座標とを対応付けて、マッチング処理部5、判定部6に出力する。
【0017】
マッチング処理部5は、視点検出部2が検出した視点座標、映し出された各物体(作業対象物13や各周辺部品)の識別情報、各描画領域座標を取得する。そしてマッチング処理部5は、視点座標がいずれの領域内にあるのか判定することで、作業者11が何を見ていたかを判定するマッチング処理を行う。マッチング処理部5は、作業者11が見ていた物体の識別情報を、判定結果として出力する。
【0018】
判定部6は、マッチング処理部5の判定結果を切り出し画像ごとに取得し、フレームレートなど、切り出した画像間の時間間隔(ここでは規定値とする)を用いて、作業対象物13上やその周辺部品上に視点があった時間、もしくは視点が無かった時間を算出する。また判定部6は、指標値登録部7に事前に記憶されている、熟練作業者の指標値を用いて、作業者11による作業が適正に行われたか否かを判定する。この判定手法については後述する。
【0019】
上記に加え、判定部6は、対象物認識処理部4から得られる、作業対象物13や各周辺部品の識別情報と各領域座標とに基づき、各物体の画像内の配置関係に基づきいずれの作業項目を行っているのかを判定する。
【0020】
表示部8は、判定部6での判定結果を表示し、作業者11に提示する。蓄積部9は、判定部6での判定結果を格納して蓄積する。
【0021】
尚、視点検出デバイス10は、教育研修に実機を用いない場合に、作業対象物13をVR(バーチャルリアリティ)上で3Dモデルとして再現し表示させるために、図示しない3D表示部を更に備えてもよい。また熟練度判定システム1は、VR上の3Dモデルを操作するための図示しない入力装置を更に有してもよい。この3D表示部および入力装置には制限はなく、例えばVRの3D表示を実施するのに公知なヘッドマウントディスプレイを適用してもよい。
【0022】
現場端末20の対象物認識処理部4、マッチング処理部5、判定部6、指標値登録部7、表示部8および蓄積部9の各機能を、視点検出デバイス10(スマートグラス)内で実施してもよい。また、蓄積部9については、サーバなどの処理装置を別途設けて、この処理装置内に蓄積する構成であってもよい。
【0023】
図3は、視点検出デバイス10のハードウェア構成例を示す図である。視点検出デバイス10は、コントローラ101、入力デバイス110、出力デバイス111を有する。コントローラ101は、視点検出デバイス10の内部で動作する各ハードウェアを制御する。コントローラ101は、以下の構成を有する。
【0024】
CPU102(CPU:Central Processing Unit)は、フラッシュメモリ104に記憶されているプログラムを、RAM103(RAM:Random access memory)に展開し、演算実行する処理装置である。CPU102は、プログラムを演算実行することで、コントローラ101内部の各ハードウェアを統括的に制御する。RAM103は、揮発性メモリであり、CPU102が処理する際のワークメモリである。RAM103は、CPU102がプログラムを演算実行している間、必要なデータを一時的に記憶する。
【0025】
フラッシュメモリ104は、データを不揮発的に記憶する、データの書き替え可能な補助記憶装置である。フラッシュメモリ104は、CPU102が演算実行するプログラムや、制御データを記憶する。本実施形態では、以降に説明する各機能を提供するプログラムや各種データが事前にフラッシュメモリ104内に導入されている。
【0026】
ネットワークI/F106は、現場端末20などの外部機器との間で行われるデータ通信の制御を担う機器である。ネットワークI/F106によるデータ通信は、例えばIEEE802.11系やIEEE802.15.1系などの通信規格に適合した無線通信で行われるものとするが、ケーブル接続による有線通信であっても構わない。
【0027】
入力I/F107は、入力デバイス110との間で信号の入出力を制御するインターフェイスである。出力I/F108は、CPU102から指示を受けて、出力デバイス111に画像を描画させるか、音声を出力させる。
【0028】
入力デバイス110は、視点を検出するための内向きのCCDセンサ、外部(視野内画像)を撮像する外向きのCCDセンサ、音声を集音するマイク、物理的な押下スイッチなどのデバイス群やセンサ群である。出力デバイス111は、音声を出力するためのスピーカや、スマートグラスのレンズ部上に映像を映し出す小型プロジェクタなどである。
【0029】
尚、現場端末20も、従前のコンピュータであることから、図3に示すハードウェア構成と同様に、CPU、RAM、フラッシュメモリ、ネットワークI/F、入出力用のI/F、各種入力デバイス、出力デバイスを有している。尚、補助記憶装置として、例えばハードディスクドライブが備えられてもよい。また、入力デバイスとしては、マウス、キーボード、タッチパネルであってもよい。出力デバイスとしては、液晶モニタなどであってもよい。
【0030】
以下、熟練度判定システム1の動作例について説明する。尚、ここでは、昇降機であるエレベーターの保守作業におけるブレーキ整備の教習訓練を例にして説明する。また、作業対象物13は、ブレーキの摺動部品の1つであるコアであるものとして説明する。
【0031】
エレベーターのブレーキは、エレベーターの停止動作を担うため重要部品の一つであるため、定期的な整備作業が実施されており、分解、清掃、点検、組立の4つの作業項目により構成されている。作業項目内では、例えば下記のS1~S6に示す重要ポイント(バイタルポイント)など、目視で判定する項目が含まれている。本実施形態では、これらS1~S6の項目ごとに熟練度の判定処理を行うものとする。
S1.主レバーの汚れ錆、傷、摩耗、固渋を確認したか。
S2.ピンの汚れ錆、傷、摩耗、固渋を確認したか。
S3.コイルボビンの摩耗を確認したか。
S4.コアの傷を確認したか。
S5.プッシュロッドの傷、摩耗、錆、緩みを確認したか。
S6.DUブッシュの摩耗を確認したか。
【0032】
図4は、実施形態に係る熟練度判定システム1の動作例を示すフローチャートである。作業者11は、作業の前に、まずは視点検出デバイス10を頭に装着し、システムの起動操作を行う。そして視野内画像取得工程(S001)において、外部撮像部3は、作業者11の視野映像を逐次取得してこれを現場端末20に送信する。
【0033】
一方、視線検出工程(S002)において、視点検出部2は作業者11の視点座標を検出して、これを逐次現場端末20に送信する。
【0034】
対象物認識工程(S003)において、対象物認識処理部4は、外部撮像部3が撮像した映像データから数フレームごとに画像データを切り出す。そして対象物認識処理部4は、切り出された視野内画像12から、作業対象物13および周辺部品の認識を行う。自動認識の方法は、例えば、対象物認識処理部4が自動学習プログラムを実行することで行われる。対象物認識処理部4は、事前に、作業対象物13について視点方向、角度、照度および背景情報の条件を変化させた複数の画像データに対して、画像データに映し出された作業対象物13、作業者11の身体なども含めた周辺部品をアノテーションし、アノテーション結果を自動学習させておくことで、視野内画像12内に何が写っているかを認識する。
【0035】
マッチング処理工程(S004)において、マッチング処理部5は、視野内画像12に視点座標を重ね合わせる。これにより、作業者11が視野内画像12内のどこを見ており、何を見ていたかを認識することができる。マッチング処理部5は、例えば作業対象物13の領域と視点座標とが重なる場合、作業者11は作業対象物13を見ていたと判定し、重ならない場合、作業者11は作業対象物13を見ていなかったと判定する。周辺部品についても同様であり、視野内画像12内に映し出された周辺部品の領域と視点座標とが重なる場合、作業者11は当該周辺部品を見ていたと判定する。尚、ここでの「見ていた」は、単に視点が作業対象物13や周辺部品の上に位置していたことを意味し、「注視していたか」を問うものではない。
【0036】
作業認識工程(S005)において、判定部6は、ブレーキ整備作業手順の中で、ブレーキ整備作業手順の順番と、その作業の主体となる対象物を見ていた注視率の高さと、視野内画像12の領域内に図示しない作業者の手または図示しない工具が認識されていること、とを条件として、作業者11がブレーキ整備作業手順のどの工程(ここでは上記のS1~S6)を実施しているかを認識する。
【0037】
判定部6は、熟練度の判定工程(S006)において、得られる各種データと指標値登録部7に登録されている熟練作業者(経験者)の視点分析結果(指標値)とを基に、作業者11の熟練度を判定する。
【0038】
熟練度の判定は、例えば、作業者11の視点が作業対象物13や他の周辺部品に重なる時間と、作業者11の視点が作業対象物13や他の周辺部品を通過する回数と、を用いて実施する。
【0039】
図5は実施形態に係る視点の軌跡を例示する図であり、図5(A)は、作業対象物13の表面の摩耗や錆を目視判定すべく注視していることを図示している。作業者11が注視している場合、視点23の軌跡24aは、作業対象物13の描画領域の範囲内をなぞる。または、視点23の軌跡24aは、作業者11の手、把持している工具、その他周辺部品の描画領域の範囲内を、必要に応じてなぞる。これに対して、図5(B)は、作業対象物13に対して視点23の軌跡24bが単に通過し、作業対象物13を注視していないことを例示している。
【0040】
本実施形態では、作業者11の視点が作業対象物13や周辺部品に重なる時間と、作業者11の視点が作業対象物13上や周辺部品を通過する回数と、をそれぞれ導出し、目視判定の伴う作業項目ごとに、点数化して作業の良否判定を行う。
【0041】
この熟練度の判定工程(S006)において、判定部6は、熟練作業者の指標値(「良」判定とするか「否」判定とするかの指標値)を指標値登録部7から取得し、例えば次式(1A)、(1B)、(1C)の各数式を用いて判定する。いずれかが「否」判定となった場合、判定部6は、総合判定を「否」判定とし不合格とする。
「良」判定:Δt+Δt>ΔtB1×80(%) ・・・ (1A)
「良」判定:(Δt+Δt)/Δt>ΔtB2×80(%) ・・・ (1B)
「良」判定:N<(NBM+cnst) ・・・ (1C)
ただし、Δt:作業対象物13を注視していた時間
Δt:作業対象物13の周辺部品を注視していた時間
ΔtB1、ΔtB2:熟練作業者の作業分析結果(指標値)
Δt:作業項目ごとの総作業時間
:視点が作業対象物13を通過した回数
BM:熟練作業者の作業分析結果(指標値)
cnst:定数
尚、ΔtB1は、熟練作業者が同じ作業を実施したときに得られた、作業対象物を注視していた時間と周辺部品を注視していた時間との合計値である。またΔtB2は、この合計値を、熟練作業者が同作業を実施したときの総作業時間で除算した値である。NBMは、熟練作業者が同作業を実施したときの、視点が作業対象物を通過した回数である。本実施形態では、このように指標値を設けるが、これに限らない。
【0042】
例えば作業対象物13上を視点が規定時間以内に横切った場合、注視せずに通過したものとみなす。例えば、視点が、作業対象物13の領域に進入したその瞬間とする切り出し画像と、当該視点が、作業対象物13の領域から外れた瞬間とする切り出し画像との時間差が、上記の規定時間を超えない場合、判定部6は、注視せずに視点が作業対象物13を単に横切ったものとして判定する。作業対象物13の周辺部品に関しても同様の判定手法とする。そして判定部6は、単に横切った時間については、上記のΔt、Δtには加算せず、Nを1つカウントアップする。
【0043】
逆に、視点が作業対象物13の領域に進入したその瞬間とする切り出し画像と、外れた瞬間とする切り出し画像との時間差が、上記の規定時間を超えた場合、作業者11は作業対象物13を注視しているものとして扱い、この時間をΔtに累積加算する(周辺部品に関しても同様)。尚、このように注視していると判定する場合、Nをカウントアップしない。
【0044】
判定部6は、前式(1A)、(1B)、(1C)を用いて、作業項目(上記のS1~S6)ごとに判定を行う。そして判定部6は、前式(1A)、(1B)、(1C)の算出結果のうち、全てが「良」判定となる場合、総合判定を「良」として合格とし、いずれか一つでも「否」判定となった場合、総合判定を「否」として不合格とする。
【0045】
図6は、判定部6による判定結果のデータ構成例を示した図である。判定テーブル25は、作業項目ごとに割り振られた管理番号26と、作業項目(上記のS1~S6)の内容を記述した作業工程27と、前式(1A)、(1B)、(1C)の左辺の算出値となる作業者測定結果28とを含む。また判定テーブル25は、指標値登録部7から読み出した指標値に、例えば80(%)などの係数を演算した判定値29(前式(1A)、(1B)、(1C)の右辺の値)と、判定値29を基準(=100)とした場合の作業者測定結果28との割合(上限100)を算出したスコア値30とを含む。判定テーブル25は、前式(1A)、(1B)、(1C)による判定結果31と、判定結果31の全てが「良」判定となった場合は「良」判定とし、判定結果31のいずれかが「否」判定となった場合は「否」判定とする総合判定32とを有する。
【0046】
尚、判定結果31の判定方法は、スコア値30を使用し、一定の数値以上を「良」判定としてもよい。また、総合判定32の判定方法は、判定結果31の「良」判定の個数が一定以上ある場合を「良」判定としてもよい。
【0047】
また、図6に示す作業工程27については、上記のS1~S6の重要ポイント(バイタルポイント)ごとに分けて格納されている。仮に上記のS1~S6の順で保守作業を行う必要がある場合、本実施形態では、管理番号26もこの順序に応じて若い番号から順に採番される。そして判定部6は、ステップS005で得られる作業認識結果を用いて、管理番号26の順序(S1~S6の順序)のとおりに作業が行われたかも判定する。
【0048】
図7は、実施形態に係る判定部6による判定方法の一例を示すフローチャートである。各値算出工程(S101)において、判定部6は、マッチング処理工程(S004)での出力結果から判定に必要な各値(=Δt、Δt、Δt、N)を算出する。そして判定部6は、スコア算出工程(S102)において、判定値29を基準(=100)とした場合の作業者測定結果28との割合(上限100)から、スコア値30を算出する。
【0049】
また判定式による判定工程(S103)において、判定部6は、前式(1A)、(1B)、(1C)を用いた良否判定を行い、総合判定工程(S104、S105、S106)において、判定部6は、判定結果31の全てが「良」判定となった場合は「良」判定とし、判定結果31のいずれかが「否」判定となった場合は「否」判定とする。
【0050】
上記の工程を終え、図4の判定結果の表示工程(S007)において、表示部8は、各判定結果を表示する。これにより、作業者11に作業項目ごとの熟練度と判定結果を示すことができる。
【0051】
図8は、実施形態に係る判定結果表示画面の一例を示す図である。判定結果表示画面37は、判定テーブル25に格納された情報と同じ情報である作業工程27、スコア値30、判定結果31を表示する判定テーブル表示領域38を含む。このように良否の判定結果31のみならず、スコア値30を表示することで、作業者11は自身の行いがどの程度達しているのか(もしくは達していないのか)を、数値で把握することができる。また判定結果表示画面37は、総合判定結果32を表示する総合判定結果表示領域38aと、例えば作業工程27に対応した作業者11の作業時の視野内画像12を表示する作業振返り表示領域39とを表示する。
【0052】
作業振返り表示領域39は、作業者11への学習のために、図示しない熟練作業者の視野内画像を併せて表示してもよい。また作業振返り表示領域39は、作業項目ごとの総作業時間(Δt)に対する時系列データとして、作業対象物13を注視していた注視時間(Δt)、周辺部品を注視していた時間(Δt)、視点が作業対象物13を通過した回数(N)を、例えばガントチャートのように時系列でグラフ化して表示してもよい。このように表示することで、作業者11自身に熟練度の低い作業を認識させることができ、効率よく教育を実施することが可能である。
【0053】
図4の判定結果の蓄積工程(S008)では、熟練度の判定工程(S006)での良否判定結果とともに、作業対象物13を注視していた注視時間(Δt)、周辺部品を注視していた時間(Δt)、視点が作業対象物13を通過した回数(N)、作業項目ごとの総作業時間(Δt)を含めたデータが、蓄積部9に蓄積される。この蓄積されたデータは、今後行われる同作業の良否判定に用いられてもよい。すなわち判定部6は、蓄積した過去のデータの中で、「良」判定のデータを1もしくは複数読み出し、指標値や判定値を算出し(複数読み出した場合はその平均値を算出)、今現在行われている作業の結果とこの算出した指標値や判定値とを比較する機能を有してもよい。
【0054】
本実施形態では、自動学習プログラムを実行するなど、人工知能技術を用いて物体の識別を行っているが、例えば作業対象物に二次元バーコードなどの機械読取可能なマークを事前に貼り付けておき、これを読み取って当該作業対象物を特定する実装でもよい。
【0055】
また本実施形態では、「良」判定、「否」判定の2つを判定結果としているが、判定値を複数設けることで、「良」判定と「否」判定との間の中間層の結果を得る実装でもよい。
【0056】
また、対象物認識工程(S003)において、切り出し画像内に作業マニュアルが映し出されており、マッチング処理工程(S004)や熟練度の判定工程(S006)において、作業マニュアルが注視されていると判定する場合、この作業マニュアルを注視した時間を累積し、この累積時間が閾値を超える場合は、「否」判定などとしてもよい。
【0057】
尚、上記実施形態における「熟練作業者」がどの程度熟練しているのかについては、特に限定されない。すなわち「熟練作業者」は、少なくとも1回は、作業者11が行った作業と同じ作業を実施したことのある経験者を含む。
【0058】
上記実施形態では、エレベーターなどの昇降機設備についての保守作業や保守作業の教育に適用させた態様を一例にして説明したが、対象となる設備は、これに限定されない。また、本実施形態の使用用途は、教育や技術伝承などに限定されず、保守作業全般に適用される。
【0059】
また上記実施形態では、「作業対象物」を、設備の部品(より具体的にはエレベーターのコア)とし、この「作業対象物」の描画領域を注視したか否かを判定する態様について説明したが、これに限らない。例えば、部品に付着した汚れや錆、傷、摩耗した部分など、部品の特異箇所を特定し、これを「作業対象物」として扱ってもよい。このように扱うことで、部品全体のみならず、その特異箇所(汚れや錆、傷、摩耗した部分)を注視したか否かの判定を行うことができる。
【0060】
また、図6に示すとおり、本実施形態ではいずれの作業項目に対しても同じ係数(80%など)を用いて判定値を算出しているが、作業項目ごとに異なる係数を設けても構わない。
【0061】
本実施形態により、迷いによる視点の揺らぎなどの影響を取り除き、熟練度の判定精度を向上させることができる。
【0062】
尚、本発明は上記した実施形態に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施形態の構成の一部を他の実施形態の構成に置き換えることが可能であり、また、ある実施形態の構成に他の実施形態の構成を加えることも可能である。また、各実施形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。また、上記の各構成、機能、処理部、処理手段等は、それらの一部または全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。
【符号の説明】
【0063】
1:熟練度判定システム
2:視点検出部
3:外部撮像部
4:対象物認識処理部
5:マッチング処理部
6:判定部
7:指標値登録部
8:表示部
9:蓄積部
10:視点検出デバイス
20:現場端末
図1
図2
図3
図4
図5
図6
図7
図8