(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2024-08-01
(45)【発行日】2024-08-09
(54)【発明の名称】検査装置、検査方法、検査プログラム、学習装置、学習方法、及び学習プログラム
(51)【国際特許分類】
G01M 99/00 20110101AFI20240802BHJP
【FI】
G01M99/00 Z
(21)【出願番号】P 2024533902
(86)(22)【出願日】2023-02-22
(86)【国際出願番号】 JP2023006521
【審査請求日】2024-06-05
【早期審査対象出願】
(73)【特許権者】
【識別番号】000006013
【氏名又は名称】三菱電機株式会社
(73)【特許権者】
【識別番号】000236056
【氏名又は名称】三菱電機ビルソリューションズ株式会社
(74)【代理人】
【識別番号】100116964
【氏名又は名称】山形 洋一
(74)【代理人】
【識別番号】100120477
【氏名又は名称】佐藤 賢改
(74)【代理人】
【識別番号】100135921
【氏名又は名称】篠原 昌彦
(74)【代理人】
【識別番号】100203677
【氏名又は名称】山口 力
(72)【発明者】
【氏名】西川 敬士
(72)【発明者】
【氏名】福井 孝太郎
(72)【発明者】
【氏名】小林 翔一
(72)【発明者】
【氏名】関 哲朗
(72)【発明者】
【氏名】長徳 典宏
【審査官】佐々木 創太郎
(56)【参考文献】
【文献】特開2008-226506(JP,A)
【文献】特開2022-112143(JP,A)
【文献】特開2022-175940(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01M 99/00
G01M 13/00-13/045
(57)【特許請求の範囲】
【請求項1】
対象物の状態を検査する検査装置であって、
ユーザの手の指に取り付けられている力センサで検出される前記対象物を把持する力を示す第1の入力を取得する力取得部と、
前記手に取り付けられている加速度センサで検出される加速度を示す第2の入力を取得する加速度取得部と、
前記ユーザにより行われる前記対象物の加振動作の期間中に取得される前記第1の入力と前記第2の入力とから、前記ユーザに関するユーザ情報を用いて生成された、前記対象物の状態を判定するための学習済モデルを用いて、前記期間中に取得される前記第1の入力と前記第2の入力とから前記対象物の状態を判定する判定部と、
を有することを特徴とする検査装置。
【請求項2】
前記対象物の状態は、支持部材に対する前記対象物の固定状態であり、
前記判定部は、前記対象物の前記固定状態の良否を判定する
ことを特徴とする請求項1に記載の検査装置。
【請求項3】
前記第1の入力及び前記第2の入力の少なくとも一方に基づいて前記加振動作の前記期間を抽出する加振期間抽出部を更に有する
ことを特徴とする請求項1又は2に記載の検査装置。
【請求項4】
予め保存されている複数の学習済モデルから、前記ユーザの特定情報及び前記ユーザの属性の少なくとも一方を含む前記ユーザ情報に応じて前記判定部によって使用される前記学習済モデルを選択するユーザ適合処理部を更に有する
ことを特徴とする請求項1
又は2のいずれか1項に記載の検査装置。
【請求項5】
前記ユーザの属性は、検査作業についての前記ユーザの経験年数を含むことを特徴とする請求項4に記載の検査装置。
【請求項6】
前記ユーザの属性は、前記ユーザの身体情報を含むことを特徴とする請求項
4に記載の検査装置。
【請求項7】
前記第1の入力から第1の特徴量を抽出する力特徴量抽出部と、
前記第2の入力から第2の特徴量を抽出する加速度特徴量抽出部と、
を更に有し、
前記ユーザ適合処理部は、前記第1の特徴量と前記第2の特徴量と前記ユーザ情報とに基づいて前記学習済モデルを選択する
ことを特徴とする請求項
4に記載の検査装置。
【請求項8】
対象物の状態を検査する検査装置によって実行される検査方法であって、
ユーザの手の指に取り付けられている力センサで検出される前記対象物を把持する力を示す第1の入力を取得するステップと、
前記手に取り付けられている加速度センサで検出される加速度を示す第2の入力を取得するステップと、
前記ユーザにより行われる前記対象物の加振動作の期間中に取得される前記第1の入力と前記第2の入力とから、前記ユーザに関するユーザ情報を用いて生成された、前記対象物の状態を判定するための学習済モデルを用いて、前記期間中に取得される前記第1の入力と前記第2の入力とから前記対象物の状態を判定するステップと、
を有することを特徴とする検査方法。
【請求項9】
コンピュータに請求項8に記載の検査方法を実行させることを特徴とする検査プログラム。
【請求項10】
対象物の状態を判定するための学習済モデルを生成する学習装置であって、
ユーザの手の指に取り付けられている力センサで検出される前記対象物を把持する力を示す第1のデータと、前記手に取り付けられている加速度センサで検出される加速度を示す第2のデータと、前記ユーザにより行われる前記対象物の加振動作の期間中における前記第1のデータと前記第2のデータとの組み合わせに対する前記対象物の状態を示す第3のデータと、前記ユーザに関するユーザ情報と、を含む学習用データを取得するデータ取得部と、
前記学習用データを用いて前記対象物の状態を判定するための前記学習済モデルを生成するモデル生成部と、
を有することを特徴とする学習装置。
【請求項11】
前記対象物の状態は、支持部材に対する前記対象物の固定状態であり、
前記モデル生成部は、前記対象物の固定状態の良否を判定するための前記学習済モデルを生成する
ことを特徴とする請求項10に記載の学習装置。
【請求項12】
前記第1のデータ及び前記第2のデータの少なくとも一方に基づいて前記加振動作の前記期間を抽出する加振期間抽出部を更に有する
ことを特徴とする請求項10又は11に記載の学習装置。
【請求項13】
前記モデル生成部は、前記ユーザの特定情報及び前記ユーザの属性の少なくとも一方を含む前記ユーザ情報に対応する複数の前記学習済モデルを生成し、記憶部に保存する
ことを特徴とする請求項10
又は11のいずれか1項に記載の学習装置。
【請求項14】
前記ユーザの属性は、検査作業についての前記ユーザの経験年数を含むことを特徴とする請求項13に記載の学習装置。
【請求項15】
前記ユーザの属性は、前記ユーザの身体情報を含むことを特徴とする請求項
13に記載の学習装置。
【請求項16】
前記ユーザの属性は、前記ユーザの身体能力情報を含むことを特徴とする請求項
13に記載の学習装置。
【請求項17】
対象物の状態を判定するための学習済モデルを生成する学習装置によって実行される学習方法であって、
ユーザの手の指に取り付けられている力センサで検出される前記対象物を把持する力を示す第1のデータと、前記手に取り付けられている加速度センサで検出される加速度を示す第2のデータと、前記ユーザにより行われる前記対象物の加振動作の期間中における前記第1のデータと前記第2のデータとの組み合わせに対する前記対象物の状態を示す第3のデータと、前記ユーザに関するユーザ情報と、を含む学習用データを取得するステップと、
前記学習用データを用いて前記対象物の状態を判定するための前記学習済モデルを生成するステップと、
を有することを特徴とする学習方法。
【請求項18】
コンピュータに請求項17に記載の学習方法を実行させることを特徴とする学習プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、対象物の状態を検査するための検査装置、検査方法、及び検査プログラム、並びに対象物の状態の検査に使用される学習済モデルを生成するための学習装置、学習方法、及び学習プログラムに関する。
【背景技術】
【0002】
従来、機械設備の点検作業では、作業者が手で対象物(例えば、機器)を加振することで、対象物の状態(例えば、固定状態の良否)を判定する検査方法が用いられている。このような検査方法では、作業者は、自身の身体動作を通じて対象物の状態が正常であるか否かを感覚的に判定する。したがって、作業者の主観による判定結果のばらつきが生じやすい。
【0003】
また、人の手の指の振戦(すなわち、震え)を加速度センサによって客観的に評価する装置の提案がある(例えば、特許文献1参照)。しかし、この装置は、指の振戦を検出することで疾患の有無を評価する装置であり、対象物の状態の判定には適していない。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
上記したように、従来の方法及び装置には、対象物の状態を精度よく判定することが難しいという問題がある。
【0006】
本開示の目的は、対象物の状態を精度よく判定することを可能にする検査装置、検査方法、及び検査プログラム、並びに対象物の状態を精度よく判定する学習済モデルを生成する学習装置、学習方法、及び学習プログラムを提供することである。
【課題を解決するための手段】
【0007】
本開示の検査装置は、対象物の状態を検査する装置であって、ユーザの手の指に取り付けられている力センサで検出される前記対象物を把持する力を示す第1の入力を取得する力取得部と、前記手に取り付けられている加速度センサで検出される加速度を示す第2の入力を取得する加速度取得部と、前記ユーザにより行われる前記対象物の加振動作の期間中に取得される前記第1の入力と前記第2の入力とから、前記ユーザに関するユーザ情報を用いて生成された、前記対象物の状態を判定するための学習済モデルを用いて、前記期間中に取得される前記第1の入力と前記第2の入力とから前記対象物の状態を判定する判定部と、を有することを特徴とする。
【0008】
本開示の学習装置は、対象物の状態を判定するための学習済モデルを生成する装置であって、ユーザの手の指に取り付けられている力センサで検出される前記対象物を把持する力を示す第1のデータと、前記手に取り付けられている加速度センサで検出される加速度を示す第2のデータと、前記ユーザにより行われる前記対象物の加振動作の期間中における前記第1のデータと前記第2のデータとの組み合わせに対する前記対象物の状態を示す第3のデータと、前記ユーザに関するユーザ情報と、を含む学習用データを取得するデータ取得部と、前記学習用データを用いて前記対象物の状態を判定するための前記学習済モデルを生成するモデル生成部と、を有することを特徴とする。
【発明の効果】
【0009】
本開示の装置、方法、又はプログラムを用いることによって、対象物の状態を精度よく判定することができる。
【図面の簡単な説明】
【0010】
【
図1】実施の形態1に係る学習装置の構成を概略的に示す機能ブロック図である。
【
図2】
図1の学習装置のハードウェア構成の例を概略的に示す図である。
【
図3】
図1の学習装置の動作を示すフローチャートである。
【
図4】実施の形態1の変形例に係る学習装置の構成を概略的に示す機能ブロック図である。
【
図5】(A)から(C)は、力検出値特徴量と加速度検出値特徴量から抽出した特徴量と固定状態との関係を示す図である。
【
図6】
図4の学習装置の動作を示すフローチャートである。
【
図7】実施の形態2に係る検査装置の構成を概略的に示す機能ブロック図である。
【
図8】
図7の検査装置のハードウェア構成の例を概略的に示す図である。
【
図9】
図7の検査装置の動作を示すフローチャートである。
【
図10】実施の形態2の変形例に係る検査装置の構成を概略的に示す機能ブロック図である。
【
図11】
図10の検査装置の動作を示すフローチャートである。
【発明を実施するための形態】
【0011】
以下に、実施の形態に係る検査装置、検査方法、検査プログラム、学習装置、学習方法、及び学習プログラムを、図面を参照しながら説明する。以下の実施の形態は、例にすぎず、実施の形態を適宜組み合わせること及び各実施の形態を適宜変更することが可能である。
【0012】
《1》実施の形態1.
図1は、実施の形態1に係る学習装置10の構成を概略的に示す機能ブロック図である。学習装置10は、検査の対象物である機器30aの状態を判定するための学習済モデルを生成する装置である。学習装置10は、実施の形態1に係る学習方法を実施することができる装置である。学習装置10は、例えば、実施の形態1に係る学習プログラムを実行することができるコンピュータである。
【0013】
図1に示されるように、学習装置10は、データ取得部13と、モデル生成部14とを有している。データ取得部13は、記憶装置としての学習用データ記憶部12に保存されている学習用データを取得する。学習用データは、作業者としてのユーザの手40aの指に取り付けられている力センサ51aで検出される機器30aを把持する力を示す第1のデータ(センサ値)である力検出値D1aと、同じ手40aに取り付けられている加速度センサ52aで検出される加速度を示す第2のデータ(センサ値)である加速度検出値D2aと、同じ手40aにより行われる機器30aの加振動作の期間中における力検出値D1aと加速度検出値D2aとの組み合わせに対する機器30aの状態を示す第3のデータである状態情報D3a(正解)とを含む。学習用データは、ユーザに関するユーザ情報Uを含んでもよい。ユーザ情報Uについては、後述される。力センサ51a及び加速度センサ52aは、センサを指先又は手に貼り付ける構成のものであってもよく、或いは、指に巻き付ける部材によってセンサを指先又は手に固定する構成のものであってもよい。また、手40aには、複数の加速度センサ、又は複数の力センサ、又は複数の加速度センサと複数の力センサを備えてもよい。また、複数の加速度センサ又は複数の力センサは、手40aへの装着性又は手40aによる作業性を損なわないような個数、大きさ、取り付け位置であることが望ましい。
【0014】
モデル生成部14は、データ取得部13によって取得された学習用データを用いて検査の対象物である機器30aの状態を判定するために使用される学習済モデルを生成する。生成された学習済モデルは、記憶装置としての学習済モデル記憶部15に保存される。学習用データ記憶部12と学習済モデル記憶部15とは、同じ記憶装置であってもよい。生成された学習済モデルは、後述の実施の形態2(
図7)で説明される推論装置である検査装置20による検査の対象物である機器30bの状態の判定に使用される。機器30bの状態の判定は、例えば、支持部材31bに対する機器30bの固定状態の良否の判定である。
図1の機器30aと後述の
図7の機器30bとは、同じ機器であってもよいが、同様のタイプ(例えば、支持部材31a、31bに対する機器30a、30bの締結状態が同様であるタイプ)の異なる機器であってもよい。
【0015】
学習装置10に入力される学習用データは、学習用データ生成装置11によって作成され、学習用データ記憶部12に予め保存されている。学習用データ生成装置11は、例えば、コンピュータである。学習用データ生成装置11と学習装置10とは、同じコンピュータであってもよい。
【0016】
学習用データは、ユーザの手40aの指(
図1では、親指)で機器30aを把持する力を示す第1のデータである力検出値D1aと、同じ手40aの指(
図1では、人差し指)に取り付けられている加速度センサ52aで検出される加速度を示す第2のデータである加速度検出値D2aと、同じ手40aにより行われる機器30aの加振動作(すなわち、手40aで機器を揺らす動作)の期間中における力検出値D1aと加速度検出値D2aとの組み合わせに対する機器30aの状態(例えば、固定状態)を示す第3のデータである状態情報D3a(例えば、固定状態の良否)とを含む。状態情報D3aは、例えば、支持部材31aに対する機器30aの固定状態の良否を示す情報である。学習用データは、複数のユーザについて収集することが望ましい。この場合、学習用データは、ユーザに関するユーザ情報Uを含む。
【0017】
力センサ51aは、例えば、手40aの指の腹(すなわち、指の内側)であって、指との機器30aとの間に介在するように配置される。力センサ51aは、手40aの親指以外の指に取り付けられてもよい。力センサ51aは、圧力センサであってもよい。力センサ51aとして、複数台の力センサが備えられてもよい。例えば、力センサ51aとして、2台の力センサを、機器30aを把持する2本の指にそれぞれ備えてもよい。
【0018】
加速度センサ52aは、力センサ51aが取り付けられている手と同じ手に取り付けられる。加速度センサ52aは、手40aの人差し指以外の指に取り付けられてもよい。また、加速度センサ52aは、手40aの指以外の位置(例えば、手の平又は手の甲)に取り付けられてもよい。加速度センサ52aとしては、1軸、2軸、又は3軸の加速度センサを用いることができる。加速度センサ52aとして、加振動作を行う手40aに複数台の加速度センサが備えられてもよい。
【0019】
図2は、
図1の学習装置10のハードウェア構成の例を概略的に示す図である。
図2に示されるように、学習装置10は、CPU(Central Processing Unit)などのプロセッサ101と、揮発性の記憶装置であるメモリ102と、ハードディスクドライブ(HDD)又はソリッドステートドライブ(SSD)などの不揮発性の記憶装置103と、インタフェース104とを有している。メモリ102は、例えば、RAM(Random Access Memory)などの半導体メモリである。
【0020】
学習装置10の各機能は、例えば、処理回路により実現される。処理回路は、専用のハードウェアであってもよく、又はメモリ102に格納されるプログラムを実行するプロセッサ101であってもよい。プロセッサ101は、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、及びDSP(Digital Signal Processor)のいずれであってもよい。
【0021】
処理回路が専用のハードウェアである場合、処理回路は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、又はこれらのうちのいずれかを組み合わせたものである。
【0022】
処理回路がプロセッサ101である場合、実行される学習プログラムは、ソフトウェア、ファームウェア、又はソフトウェアとファームウェアとの組み合わせにより実現される。学習プログラムは、ネットワークを経由して又は記録媒体から学習装置10にインストールされる。ソフトウェア及びファームウェアは、プログラムとして記述され、メモリ102に格納される。プロセッサ101は、メモリ102に記憶された学習プログラムを読み出して実行することにより、
図1に示される各部の機能を実現することができる。
【0023】
なお、学習装置10は、一部を専用のハードウェアで実現し、一部をソフトウェア又はファームウェアで実現するようにしてもよい。このように、処理回路は、ハードウェア、ソフトウェア、ファームウェア、又はこれらのうちのいずれかの組み合わせによって、上述の各機能を実現することができる。
【0024】
図3は、
図1の学習装置10の動作を示すフローチャートである。
図3に示されるように、学習フェーズでは、ステップS11において、データ取得部13は、第1のデータである力検出値D1aと、第2のデータである加速度検出値D2aと、力検出値D1aと加速度検出値D2aとの組み合わせに対する機器30aの状態を示す第3のデータである状態情報D3a(すなわち、正解)と、ユーザ情報Uとを含む学習用データを取得する。
【0025】
ステップS12において、モデル生成部14は、取得された学習用データに基づいて作成される学習用データに従って学習済モデルを生成する。
【0026】
ステップS13において、学習済モデル記憶部15は、モデル生成部14が生成した学習済モデルを記憶する。
【0027】
実施の形態1に係る学習装置、学習方法、及び学習プログラムを使用して生成された学習済モデルを用いれば、作業者の主観が判定に影響しないので、対象物の状態を精度よく判定することができる。
【0028】
《2》実施の形態1の変形例.
図4は、実施の形態1の変形例に係る学習装置10aの構成を概略的に示す機能ブロック図である。学習装置10aは、検査の対象物である機器の状態を判定するための学習済モデルを生成する装置である。学習装置10aは、実施の形態1の変形例に係る学習方法を実施することができる装置であり、例えば、コンピュータである。
【0029】
学習装置10aは、
図1の学習装置10と同様に、データ取得部13と、モデル生成部14とを有している。また、学習装置10aは、加振期間抽出部16と、特徴量抽出部17と、ユーザ適合処理部18と、記録部19とを有している。
【0030】
加振期間抽出部16は、第1のデータ(センサ値)である力検出値D1a及び第2のデータ(センサ値)である加速度検出値D2aの少なくとも一方に基づいて加振動作の期間である加振期間を抽出する。例えば、加振期間抽出部16は、力検出値D1aが予め決められた第1の設定値を超えている期間を加振期間と判定することができる。また、加振期間抽出部16は、加速度検出値D2aが予め決められた第2の設定値を超えている期間を加振期間と判定することができる。また、加振期間抽出部16は、力検出値D1aが予め決められた第1の設定値を超えており且つ加速度検出値D2aが予め決められた第2の設定値を超えている期間を加振期間と判定してもよい。また、加振期間抽出部16は、ユーザ操作によって指定された期間を加振期間と判定してもよい。加振期間の抽出には、公知の他の方法を用いてもよい。
【0031】
特徴量抽出部17は、第1のデータである力検出値D1aから第1の特徴量である力検出値特徴量を抽出し、第2のデータである加速度検出値D2aから第2の特徴量である力検出値特徴量を抽出する。力検出値特徴量は、例えば、分散値、ピークツーピーク値、平均値などである。加速度検出値特徴量は、例えば、分散値、ピークツーピーク値、平均値などであり、3軸の加速度についての値を用いてもよい。
【0032】
ユーザ適合処理部18は、第1の特徴量である力検出値特徴量と第2の特徴量である力検出値特徴量とユーザ情報Uとに基づいて、特徴量を重み付けする。重み付けされた特徴量xは、例えば、以下の式(1)により計算される。
【0033】
【0034】
式(1)において、βaは加速度全体傾向を表すパラメータ、Accは加速度検出値特徴量、βpは力全体傾向を表すパラメータ、Prsは力検出値特徴量、βsbjは検査を行う作業者であるユーザごとに設定される個人差を表すパラメータである。
【0035】
モデル生成部14は、ユーザの特定情報及びユーザの属性の少なくとも一方を含むユーザ情報Uに対応する複数の学習済モデルを生成し、記憶部としての学習済モデル記憶部15に保存する。ユーザの属性は、検査作業についてのユーザの経験年数(すなわち、作業経験回数を示す情報)などを含む。また、ユーザの属性は、ユーザの身体情報を含む。身体情報は、例えば、ユーザの身長、体重、筋肉量、性別、年齢などうちの1つ以上の情報を含む。ここでは、ユーザの属性でグルーピングしてから、各々のグループでモデルを構築する。このようにすれば、モデルの構築に利用する学習データ及び推論に利用する推論対象データのばらつきを低減できるため、機器の状態を高精度に推定することができる。
【0036】
図5(A)から(C)は、力検出値特徴量と加速度検出値特徴量から得られた特徴量と固定状態との関係を示す図である。
図5(A)から(C)は、入力(横軸)をユーザによる加振動作計測センサである加速度センサ及び力センサ(例えば、圧力センサ)に基づく特徴量とし、出力(縦軸)を機器の固定状態を表す指標値とし、これらの関係を、階層ベイズモデルによって表現した図である。
図5(A)は、複数のユーザの全体傾向を示し、
図5(B)は、1人のユーザ(作業者#1)の傾向を示し、
図5(C)は、1人のユーザ(作業者#2)の傾向を示す。
図5(A)から(C)において、横軸は、力検出値特徴量と加速度検出値特徴量から得られた特徴量であり、例えば、検出された加速度の分散と検出された力(圧力)の最大値との和である。
図5(A)から(C)において、縦軸は、機器締結部のゆるみ度合いを示す。
【0037】
図6は、
図4の学習装置10aの動作を示すフローチャートである。
図6に示されるように、ステップS101において、特徴量抽出部17は、加振期間中の第1のデータである力検出値D1aから力検出値特徴量を抽出し、加振期間中の第2のデータである加速度検出値D2aから加速度検出値特徴量を抽出する。
【0038】
ステップS102において、ユーザ適合処理部18は、ユーザ情報Uに基づいて力検出値特徴量と加速度検出値特徴量の各々の重み付けを行う。
【0039】
ステップS103において、ユーザ適合処理部18は、重み付けされた力検出値特徴量及び重み付けされた加速度検出値特徴量の組み合わせと、このときの機器の固定状態に関する状態情報(第3のデータ)D3a(すなわち、正解)とを関連付ける。
【0040】
ステップS104において、モデル生成部14は、加速度全体傾向パラメータβaと、力全体傾向パラメータβpと、個人別パラメータβsbjと、をマルコフ連鎖モンテカルロ法で学習して学習済モデルを生成する。
【0041】
ステップS105において、記録部19は、加速度全体傾向パラメータβaと、力全体傾向パラメータβpと、個人別パラメータβsbjと、を学習済モデル記憶部15に保存する。記録部19は、対象物の状態を推定した結果である指標値(例えば、ガタツキの程度を示す数値)を、加振動作期間の時刻、対象物としての機器の名称などと紐づけて記録することができる。
【0042】
実施の形態1の変形例に係る学習装置10a、学習方法、及び学習プログラムを使用して生成された学習済モデルを用いれば、作業者の主観が判定に影響しないので、対象物の状態を精度よく判定することができる。
【0043】
また、加速度情報に加えて力情報を追加的に利用することで、加振力を入力とした際に機器を伝達系とし、固定状態をその出力とみなせるので、より高精度に機器の状態を推定することができる。
【0044】
また、ユーザごとのばらつきをパラメトリックに考慮することで、ばらつきに頑健且つ統一された指標で、機器の固定状態を推定することができる。
【0045】
また、新たに参入した作業者としての新たなユーザの学習データを取得する際に、すべての機器をゆるみ状態にしたうえで観測データを取得しなくとも、その他のユーザのデータを利用して新たなユーザによる固定状態の推定のための学習モデルを構築できるため、データ収集の負担を減らすことができる。
【0046】
《3》実施の形態2.
図7は、実施の形態2に係る検査装置20の構成を概略的に示す機能ブロック図である。検査装置20は、学習装置10又は10aで生成され記憶装置としての学習済モデル記憶部24に予め保存されている学習済モデルを使用して検査の対象物である機器30bの状態を検査するための推論装置である。検査装置20は、実施の形態2に係る検査方法を実施することができる装置である。検査装置20は、例えば、実施の形態2に係る検査プログラムを実行することができるコンピュータである。
【0047】
図7に示されるように、検査装置20は、力取得部21と、加速度取得部22と、判定部23(すなわち、推論部)とを有している。力取得部21は、ユーザの手40bの指に取り付けられている力センサ51bで検出される対象物である機器30bを把持する力を示す第1の入力としての力検出値D1bを取得する。加速度取得部22は、ユーザの手40bに取り付けられている加速度センサ52bで検出される加速度を示す第2の入力である加速度検出値D2bを取得する。判定部23は、ユーザにより行われる機器30bの加振動作の期間である加振期間中に取得される力検出値D1bと加速度検出値D2bとから機器30bの状態を判定するための学習済モデルを用いて、加振期間中に取得される力検出値D1bと加速度検出値D2bとから機器30bの状態を判定(すなわち、推論)する推論部である。機器30bの状態は、例えば、支持部材31bに対する機器30bの固定状態である。
【0048】
力センサ51bは、例えば、手40bの指の腹であって、指との機器30bとの間に介在するように配置される。力センサ51bは、手40bの親指以外の指に取り付けられてもよい。力センサ51bは、圧力センサであってもよい。力センサ51bとして、複数台の力センサが備えられてもよい。例えば、力センサ51bとして、2台の力センサを、機器30aを把持する2本の指に備えられもよい。力センサ51bは、作業者としてのユーザの手40bの指に取り付けられており、機器30bを把持する力を示す第1の入力(センサ値)である力検出値D1bを出力する。
【0049】
加速度センサ52bは、力センサ51bが取り付けられている手と同じ手に取り付けられる。加速度センサ52bは、手40bの人差し指以外の指に取り付けられてもよい。また、加速度センサ52bは、手40bの指以外の位置(例えば、手の平又は手の甲)に取り付けられてもよい。加速度センサ52bとしては、1軸、2軸、又は3軸の加速度センサを用いることができる。加速度センサ52bとして、加振動作を行う手40bに複数台の加速度センサが備えられてもよい。加速度センサ52bは、力センサ51bが取り付けられている手と同じ手40bに取り付けられており、加速度を示す第2の入力(センサ値)である加速度検出値D2bを出力する。力センサ51b及び加速度センサ52bは、センサを指先又は手に貼り付ける構成のものであってもよく、或いは、指に巻き付ける部材によってセンサを指先又は手に固定する構成のものであってもよい。また、手40bには、複数の加速度センサ、又は複数の力センサ、又は複数の加速度センサと複数の力センサを備えてもよい。また、複数の加速度センサ又は複数の力センサは、手40bへの装着性又は手40bによる作業性を損なわないような個数、大きさ、取り付け位置であることが望ましい。
【0050】
図8は、
図7の検査装置20のハードウェア構成の例を概略的に示す図である。
図8に示されるように、検査装置20は、CPUなどのプロセッサ201と、揮発性の記憶装置であるメモリ202と、HDD又はSSDなどの不揮発性の記憶装置203と、インタフェース204とを有している。メモリ202は、例えば、RAMなどの半導体メモリである。
【0051】
検査装置20の各機能は、例えば、処理回路により実現される。処理回路は、専用のハードウェアであってもよく、又はメモリ202に格納されるプログラムを実行するプロセッサ201であってもよい。
【0052】
処理回路が専用のハードウェアである場合、処理回路は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC、FPGA、又はこれらのうちのいずれかを組み合わせたものである。
【0053】
処理回路がプロセッサ201である場合、実行される検査プログラムは、ソフトウェア、ファームウェア、又はソフトウェアとファームウェアとの組み合わせにより実現される。検査プログラムは、ネットワークを経由して又は記録媒体から検査装置20にインストールされる。ソフトウェア及びファームウェアは、プログラムとして記述され、メモリ202に格納される。プロセッサ201は、メモリ202に記憶された学習プログラムを読み出して実行することにより、
図7に示される各部の機能を実現することができる。
【0054】
なお、検査装置20は、一部を専用のハードウェアで実現し、一部をソフトウェア又はファームウェアで実現するようにしてもよい。このように、処理回路は、ハードウェア、ソフトウェア、ファームウェア、又はこれらのうちのいずれかの組み合わせによって、上述の各機能を実現することができる。
【0055】
図9は、
図7の検査装置20の動作を示すフローチャートである。
図9に示されるように、推論フェーズでは、ステップS21において、力取得部21は、第1の入力である力検出値D1bを取得し、加速度取得部22は、第2の入力である加速度検出値D2bを取得する。
【0056】
ステップS22、S23において、判定部23は、使用する学習用データに力検出値D1bと加速度検出値D2とを入力して、判定結果(すなわち、推論結果)を出力する。
【0057】
実施の形態2に係る検査装置20、検査方法、及び検査プログラムを用いれば、作業者の主観が判定に影響しないので、対象物の状態を精度よく判定することができる。
【0058】
《4》実施の形態2の変形例.
図10は、実施の形態2の変形例に係る検査装置20aの構成を概略的に示す機能ブロック図である。検査装置20aは、学習装置10又は10aで生成され記憶装置としての学習済モデル記憶部24に予め保存されている学習済モデルを使用して検査の対象物である機器30bの状態を検査するための推論装置である。検査装置20aは、実施の形態2の変形例に係る検査方法を実施することができる装置であり、例えば、コンピュータである。
【0059】
検査装置20aは、
図7の検査装置20と同様に、力取得部21と、加速度取得部22と、推論部としての判定部23とを有している。また、検査装置20aは、力特徴量抽出部25と、加振期間抽出部26と、加速度特徴量抽出部27と、ユーザ適合処理部28と、判定結果記録部29とを有している。
【0060】
加振期間抽出部26は、第1の入力である力検出値D1b及び第2の入力である加速度検出値D2bの少なくとも一方に基づいて加振動作の期間である加振期間を抽出する。加振期間の抽出方法としては、実施の形態1の変形例で説明した方法を用いることができる。
【0061】
力特徴量抽出部25は、第1の入力である力検出値D1bから第1の特徴量である力検出値特徴量を抽出する。力検出値特徴量は、例えば、分散値、ピークツーピーク値、平均値などである。加速度特徴量抽出部27は、第2の入力である加速度検出値D2bから第2の特徴量である加速度検出値特徴量を抽出する。加速度検出値特徴量は、例えば、分散値、ピークツーピーク値、平均値などである。
【0062】
ユーザ適合処理部28は、第1の特徴量である力検出値特徴量と第2の特徴量である力検出値特徴量とユーザ情報Uとに基づいて、特徴量を重み付けする。重み付けされた特徴量xは、例えば、上記の式(1)により計算される。ユーザ適合処理部28は、ユーザ情報Uに基づいて、学習済モデル記憶部24から、使用する学習済モデルを選択する。具体的には、ユーザ適合処理部18は、学習済モデル記憶部15から加速度全体傾向パラメータと力全体傾向パラメータと個人別パラメータとを読み込み、入力された特徴量の重み付け処理を行う。ユーザの属性は、検査作業についてのユーザの経験年数(すなわち、作業経験回数を示す情報)などを含む。また、ユーザの属性は、ユーザの身体情報を含む。身体情報は、例えば、ユーザの身長、体重、筋肉量、性別、年齢、手の形状(掌の大きさ、指の長さ)、事前に測定した握力・筋持久力・瞬発力、などうちの1つ以上の情報を含む。ここでは、ユーザの属性でグルーピングされた学習済モデルから対応する学習済モデルを選択するようにすれば、学習済モデルの構築に利用する学習データ及び推論に利用する推論対象データのばらつきを低減できるため、機器の状態を高精度に推定することができる。手には、複数の加速度センサ、又は複数の力センサ、又は複数の加速度センサと複数の力センサを備えてもよい。この場合、それらの観測情報から手の状態(例えば、関節位置、関節角度)を推定し、その情報を新たなユーザの属性情報として利用し、新たな入力及び学習モデルの選択に利用してもよい。
【0063】
判定部23は、重み付けされた力検出値特徴量及び重み付けされた加速度検出値特徴量を入力とし、機器30bの状態のスコアgを計算し、そのスコアgに基づいて機器30bの固定状態を判定する。スコア計算では、学習済みのパラメータを用いたユーザ適合処理部28の処理結果を用いて非線形関数fを通じて、指標値を推定する。グループ分けした場合は、対応する学習済モデルを選択し、指標値を推定する。スコア計算は、例えば、階層ベイズモデルと回帰分析とを用いた、以下の式(2)を用いて行われる。
【0064】
【0065】
式(2)において、gは固定状態を示す指標値(例えば、ねじの回転量)、xは重み付けられた特徴量、βaは加速度全体傾向を表すパラメータ、Accは加速度検出値特徴量、βpは力全体傾向を表すパラメータ、Prsは力検出値特徴量、βsbjは検査を行う作業者であるユーザごとに設定される個人差を表すパラメータ、σsbjは確率モデルのもつばらつきを表すパラメータである。
【0066】
判定結果記録部29は、判定結果(すなわち、推論結果)を出力、又は、記憶装置に記録する。判定結果記録部29は、対象物としての機器30bの状態を推定した結果である指標値(例えば、ガタツキの程度を示す数値)を、加振動作期間の時刻、対象物としての機器の名称などと紐づけて記録することができる。
【0067】
図11は、
図10の検査装置20aの動作を示すフローチャートである。
図11に示されるように、ステップS201において、力取得部21は、加振期間中に、第1の入力である力検出値D1bを取得し、加速度取得部22は、第2の入力である加速度検出値D2bを取得する。
【0068】
ステップS202において、力特徴量抽出部25は、加振期間中の第1の入力である力検出値D1bから力検出値特徴量を計算し、加速度特徴量抽出部27は、加振期間中の第2の入力である加速度検出値(第2の入力)から加速度検出値特徴量を計算する。
【0069】
ステップS203において、ユーザ適合処理部18は、学習済モデル記憶部15から加速度全体傾向パラメータと力全体傾向パラメータと個人別パラメータとを読み込み、入力された特徴量の重み付け処理を行う。
【0070】
ステップS204において、判定部23は、重み付けされた特徴量xを入力とし、機器の状態のスコアgを計算し、そのスコアgに基づいて機器の固定状態を判定する。スコア計算は、例えば、階層ベイズモデルと回帰分析とを用いた、上記式(2)を用いて行われる。
【0071】
実施の形態2の変形例に係る検査装置20a、検査方法、及び検査プログラムを用いれば、作業者の主観が判定に影響しないので、対象物の状態を精度よく判定することができる。
【符号の説明】
【0072】
10、10a 学習装置、 11 学習用データ生成装置、 12 学習用データ記憶部、 13 データ取得部、 14 モデル生成部、 15 学習済モデル記憶部、 16 加振期間抽出部、 17 特徴量抽出部、 18 ユーザ適合処理部、 19 記録部、 D1a 力検出値(第1のデータ)、 D2a 加速度検出値(第2のデータ)、 D3a 状態情報(第3のデータ)、 U ユーザ情報、 20、20a 検査装置、 21 力取得部、 22 加速度取得部、 23 判定部、 24 学習済モデル記憶部、 25 力特徴量抽出部、 26 加振期間抽出部、 27 加速度特徴量抽出部、 28 ユーザ適合処理部、 29 判定結果記録部、 30a、30b 機器(対象物)、 31a、31b 支持部材、 40a、40b 手、 51a、51b 力センサ、 52a、52b 加速度センサ、 D1b 力検出値(第1の入力)、 D2b 加速度検出値(第2の入力)。
【要約】
検査装置(20)は、対象物(30b)を把持する力を示す第1の入力(D1b)を取得する力取得部(21)と、加速度を示す第2の入力(D2b)を取得する加速度取得部(22)と、第1の入力(D1b)と第2の入力(D2b)とから、ユーザ情報(U)を用いて生成された、対象物(30b)の状態を判定するための学習済モデルを用いて、第1の入力(D1b)と第2の入力(D2b)とから対象物(30b)の状態を判定する判定部(23)とを有する。学習装置(10)は、対象物(30a)を把持する力を示す第1のデータ(D1a)と、加速度を示す第2のデータ(D2a)と、第1のデータ(D1a)と第2のデータ(D2a)との組み合わせに対する対象物(30a)の状態を示す第3のデータ(D3a)とを含む学習用データを取得するデータ取得部(13)と、対象物の状態を判定するための学習済モデルを生成するモデル生成部(14)とを有する。