【文献】
伊藤 元昭,特集「ハプティクス技術」,Bulletin JASA,2018年,2018 Apr. vol.65,pp.1-15
(58)【調査した分野】(Int.Cl.,DB名)
前記通知手段は、前記ユーザが装着する通知装置から、前記判定手段の判定結果と共に、あるいは該判定結果に代えて、該判定結果に基づいた前記ユーザに対する作業指示を通知する、
ことを特徴とする請求項1から4の何れか1項に記載の状態判定システム。
【発明を実施するための形態】
【0011】
以下、添付の図面を参照して本発明の実施形態の一例について説明する。
【0012】
[システム構成]
図1は、本実施形態に係る状態判定システムSの全体構成を示すブロック図である。
図1に示すように、状態判定システムSは、状態判定装置1、ウェアラブル端末2、及びサーバ装置3を含む。また、図中には、ユーザU、ネットワークN、及び検査対象物4も図示する。
【0013】
これら状態判定装置1、ウェアラブル端末2、及びサーバ装置3は、それぞれ相互に通信可能に接続される。これら各装置の間での通信は、任意の通信方式に準拠して行われてよく、その通信方式は特に限定されない。また、これら各装置の間での通信は、無線通信であってもよく、有線通信であってもよく、あるいは、有線通信と無線通信の組み合わせであってもよい。加えて、これら各装置の間での通信は、装置間で直接行われてもよいし、ネットワークNや、図示しない中継装置を介して行われてもよい。ネットワークNは、例えば、LAN(Local Area Network)や、インターネットや、携帯電話網といったネットワークにより実現される。
【0014】
状態判定装置1は、ユーザUによる検査対象物4の破損に関する検査を補助する装置である。状態判定装置1は、ユーザUの操作に基づいて、検査対象物4を把持する把持装置として機能すると共に、その把持において用いられた力触覚に関する制御パラメータに基づいて、検査対象物4が破損しているか否かを判定する。
以下では、説明のための一例として、状態判定装置1は、ユーザUによる近傍からの操作、又は遠隔からの操作(すなわち、テレオペレーション)が可能なロボットマニピュレーターで実現されることを想定する。より詳細には、状態判定装置1は、検査対象物4を把持するための把持機構を含むと共に、ユーザUが携帯して使用可能な可搬型のリーチャー(すなわち、マジックハンド)であることを想定する。このリーチャーとしての機能を実現するために、状態判定装置1は、ユーザUの操作を受け付ける操作機構55と、操作機構55をマスタ装置として動作させるためのマスタ側ユニット50と、検査対象物4を把持する把持機構65と、把持機構65をスレーブ装置として動作させるためのスレーブ側ユニット60と、これらの動作を統合的に制御する制御ユニット10とを含む。
【0015】
状態判定装置1では、制御ユニット10を介して、マスタ側ユニット50と、スレーブ側ユニット60とが、相互に通信すると共に、制御ユニット10が備える動作制御部が動作の制御を行うことによって、一方がマスタ装置(ここでは、ユーザUの操作を受け付ける装置)として動作し、他方がスレーブ装置(ここでは、ロボットマニピュレーターとして検査対象物4を把持する装置)として動作する。この場合に、ユーザUは、スレーブ装置の動作を、直接又は動画等により観察しながらマスタ装置を操作することにより、近傍からの操作、又は遠隔操作を実現する。また、このユーザによる操作時には、状態判定装置1が備える制御ユニット10が動作の制御を行うことによって、マスタ装置の動作(ここでは、操作機構55が受け付けたユーザUによる操作)をスレーブ装置に伝達すると共に、スレーブ装置に対する物体からの反力(ここでは、把持機構65の把持に対する検査対象物4からの反力)の入力をマスタ装置にフィードバックする機能(すなわち、バイラテラル制御機能)が実現される。
【0016】
ここで、操作機構55の具体的な構成は特に限定されないが、例えば、ユーザUの手等による、握る、滑らせる(すなわち、スライドさせる)、捻る、あるいは押す等の、力触覚を伴う操作を受け付ける機構により実現することができる。また、同様に、把持機構65の具体的な構成は特に限定されないが、例えば、上述したようなユーザUの力触覚を伴う操作に応じて、検査対象物4を把持する部材が、開閉する、回転する、あるいは、昇降する等の力触覚を伴う把持を行う機構により実現することができる。
ただし、これら操作機構55及び把持機構65の構成は例示に過ぎず、ユーザUの操作における力触覚及び把持における力触覚を、制御パラメータとしてマスタ装置とスレーブ装置間で相互に伝達可能とする構成であればよい。すなわち、これら操作機構55及び把持機構65の具体的な構成は、上述の例示には特に限定されない。
【0017】
ウェアラブル端末2は、ユーザUに対して、検査対象物4の破損に関する検査を補助するための各種の情報(例えば、状態判定装置1による判定結果や、判定結果に対応した作業指示等)や、ユーザインタフェース等を通知する装置である。ウェアラブル端末2は、例えば、ユーザUの頭部に装着されて使用されるヘッドマウントディスプレイ(HMD:Head Mounted Display)により実現される。このようなヘッドマウントディスプレイでは、仮想現実(VR:Virtual Reality)や拡張現実(AR:Augmented Reality)、あるいは、複合現実(MR:Mixed Reality)といった技術を利用して、ユーザUに対する通知を行うことが可能である。例えば、拡張現実の技術を利用する場合、透過型のディスプレイを介してユーザUが視認できる現実の景色と、透過型ディスプレイに表示される仮想現実(例えば、仮想的に生成された画像やテキスト等を含む)とを重畳して、ユーザUに対して通知をすることができる。
【0018】
また、ウェアラブル端末2による通知は、このようなウェアラブル端末2が備えるディスプレイへの表示のみならず、ウェアラブル端末2が備えるスピーカからの音(音声や警告音等)の出力や、ウェアラブル端末2が備える警告灯の点滅等により実現することもできる。
なお、ウェアラブル端末2によるこれらの処理は、ウェアラブル端末2と、状態判定装置1と、サーバ装置3と、が通信を行い、これらが協働することによって実現される。
【0019】
サーバ装置3は、状態判定装置1と、ウェアラブル端末2とにより行われる処理に用いる情報を管理したり、画像認識により検査対象物4を識別したりするサーバである。なお。図中では、サーバ装置3を単一のサーバ装置として図示するが、例えば、クラウドサーバ等の形態で複数のサーバ装置によってサーバ装置3を実現するようにしてもよい。
【0020】
検査対象物4は、ユーザUによる破損に関する検査の対象となる物品である。検査対象物4は、特に限定されないが、以下では説明のための一例として、検査対象物4は、食品(例えば、ポテトチップス等のお菓子)等を内容物として包装する包装容器であることを想定する。ここで、このような包装容器では、食品等の劣化(例えば、酸化)や、破損を防止するために、酸素に代えて二酸化炭素や窒素ガスが内容物として充填されている。本実施形態では、このような包装容器を検査対象物4として破損に関する検査を行うことにより、内容物である、二酸化炭素や窒素ガスの漏れ(いわゆる空気漏れ)を検出したり、食品等が流体のような場合に、この流体である食品等の漏れを検出したりすることができる。これにより、空気漏れ等に伴う内容物の劣化や内容物の流出を、製品が消費者のもとに届く前に発見でき、製品としての品質を保証することが可能となる。
【0021】
次に、このような構成を有する状態判定システムSによる、検査対象物4の破損に関する検査を補助するための処理の概要について説明する。
まず、状態判定システムSは、ユーザUの操作に基づいて状態判定装置1の動作を制御(ここでは、バイラテラル制御機能による制御)することにより、状態判定装置1に検査対象物4を把持させる。また、状態判定システムSは、状態判定装置1の制御で用いた、力触覚に関する制御パラメータを取得する。さらに、状態判定システムSは、取得した力触覚に関する制御パラメータに基づいて、検査対象物の破損に関する判定をする。そして、状態判定システムSは、判定部114の判定結果をユーザに対して通知する。
【0022】
このように、状態判定システムSは、検査対象物4を状態判定装置1で把持した際の力触覚に関する制御パラメータに基づいて、客観的に検査対象物4の破損に関する判定をする。すなわち、状態判定システムSは、作業における感覚(ここでは、力触覚)をデータ化することで作業を見える化することができる。これにより、検査精度が属人的な感覚(すなわち、作業者の主観)に依存することなく、安定した精度で検査を行うことが可能となる。また、このような構成であることから、様々なセンサや検査用のコンベアといった大掛かりな設備を必要とすることなく、簡便に状態判定システムSを実現できる。そのため、様々な製品について、輸送途中での破損を発見するための物流センターや小売店舗等で行われる検査に適用することが可能となる。
すなわち、状態判定システムSによれば、破損に関する検査を行うに際し、客観的な指標に基づいた、安定した精度での検査を実現することができる。
【0023】
[制御対象装置に対する動作制御]
次に、上述した状態判定システムSでの具体的な処理の説明の前提として、本実施形態における、制御対象装置(ここでは、状態判定装置1が備える、マスタ側ユニット50、操作機構55、スレーブ側ユニット60、及び把持機構65)に対する動作制御の基本的原理について説明する。
【0024】
なお、人間の動作(すなわち、人間の身体的行為)は、1つの関節等の個別の「機能」が単独で、あるいは組み合わされて構成されるものである。
したがって、以下、本実施形態において、「動作」とは、人間の身体における部位の個別の「機能」を構成要素として実現される統合的な機能を表すものとする。例えば、状態判定装置1に対する操作を伴う動作(例えば、手によって状態判定装置1が備える操作機構55を操作させる動作)は、手の各指や手首、及びこれらに連結する腕や肩の関節等の機能を構成要素とする統合的な機能である。
【0025】
(基本的原理)
本実施形態における動作の制御の基本的原理は、どのような動作も力源と速度(位置)源及び動作を表す変換の三要素で数理的に表現できることから、変換及び逆変換により定義される変数群に対し、双対関係にある理想力源及び理想速度(位置)源より制御エネルギーを制御対象のシステムに供給することで、抽出した動作を構造化し、再構築あるいは拡張増幅し動作を可逆的に自動実現(再現)する、というものである。
【0026】
図2は、本実施形態における制御対象装置の動作の制御の基本的原理の概念を示す模式図である。
図2に示す基本的原理は、人間の動作を実現するために利用可能なアクチュエータ(ここでは、状態判定装置1が備える把持機構65を動作させるためのアクチュエータ)の制御則を表しており、アクチュエータの現在位置を入力として、位置(又は速度)あるいは力の少なくとも一方の領域における演算を行うことにより、アクチュエータの動作を決定するものである。
すなわち、本実施形態における制御対象装置の動作の制御の基本的原理は、制御対象システムCSと、機能別力・速度割当変換ブロックFTと、理想力源ブロックFCあるいは理想速度(位置)源ブロックPCの少なくとも1つと、逆変換ブロックIFTとを含む制御則として表される。
【0027】
制御対象システムCSは、アクチュエータによって作動するロボット(ここでは、状態判定装置1)であり、加速度等に基づいてアクチュエータの制御を行う。ここで、制御対象システムCSは、人間の身体における1つ又は複数の部位の機能を実現するものであるが、その機能を実現するための制御則が適用されていれば、具体的な構成は必ずしも人間の身体を模した形態でなくてもよい。例えば、制御対象システムCSは、アクチュエータによってリンクに一次元のスライド動作を行わせるロボットとすることができる。
【0028】
機能別力・速度割当変換ブロックFTは、制御対象システムCSの機能に応じて設定される速度(位置)及び力の領域への制御エネルギーの変換を定義するブロックである。具体的には、機能別力・速度割当変換ブロックFTでは、制御対象システムCSの機能の基準となる値(基準値)と、アクチュエータの現在位置とを入力とする座標変換が定義されている。この座標変換は、一般に、基準値及び現在速度(位置)を要素とする入力ベクトルを速度(位置)の制御目標値を算出するための速度(位置)からなる出力ベクトルに変換すると共に、基準値及び現在の力を要素とする入力ベクトルを力の制御目標値を算出するための力からなる出力ベクトルに変換するものである。具体的には、機能別力・速度割当変換ブロックFTにおける座標変換は、次式(1)及び(2)のように一般化して表される。
【0030】
ただし、式(1)において、x’
1〜x’
n(nは1以上の整数)は速度の状態値を導出するための速度ベクトルであり、x’
a〜x’
m(mは1以上の整数)は、基準値及びアクチュエータの作用に基づく速度(アクチュエータの移動子の速度又はアクチュエータが移動させる対象物の速度)を要素とするベクトル、h
1a〜h
nmは機能を表す変換行列の要素である。また、式(2)において、f’’
1〜f’’
n(nは1以上の整数)は力の状態値を導出するための力ベクトルであり、f’’
a〜f’’
m(mは1以上の整数)は、基準値及びアクチュエータの作用に基づく力(アクチュエータの移動子の力又はアクチュエータが移動させる対象物の力)を要素とするベクトルである。
【0031】
機能別力・速度割当変換ブロックFTにおける座標変換を、実現する機能に応じて設定することにより、各種動作を実現したり、スケーリングを伴う動作の再現を行ったりすることができる。
すなわち、本実施形態における制御対象装置の動作の制御の基本的原理では、機能別力・速度割当変換ブロックFTにおいて、アクチュエータ単体の変数(実空間上の変数)を、実現する機能を表現するシステム全体の変数群(仮想空間上の変数)に“変換”し、速度(位置)の制御エネルギーと力の制御エネルギーとに制御エネルギーを割り当てる。そのため、アクチュエータ単体の変数(実空間上の変数)のまま制御を行う場合と比較して、速度(位置)の制御エネルギーと力の制御エネルギーとを独立に与えることが可能となっている。
【0032】
理想力源ブロックFCは、機能別力・速度割当変換ブロックFTによって定義された座標変換に従って、力の領域における演算を行うブロックである。理想力源ブロックFCにおいては、機能別力・速度割当変換ブロックFTによって定義された座標変換に基づく演算を行う際の力に関する目標値が設定されている。この目標値は、実現される機能に応じて固定値又は可変値として設定される。例えば、基準値が示す機能と同様の機能を実現する場合には、目標値としてゼロを設定したり、スケーリングを行う場合には、再現する機能を示す情報を拡大・縮小した値を設定したりできる。
【0033】
理想速度(位置)源ブロックPCは、機能別力・速度割当変換ブロックFTによって定義された座標変換に従って、速度(位置)の領域における演算を行うブロックである。理想速度(位置)源ブロックPCにおいては、機能別力・速度割当変換ブロックFTによって定義された座標変換に基づく演算を行う際の速度(位置)に関する目標値が設定されている。この目標値は、実現される機能に応じて固定値又は可変値として設定される。例えば、基準値が示す機能と同様の機能を実現する場合には、目標値としてゼロを設定したり、スケーリングを行う場合には、再現する機能を示す情報を拡大・縮小した値を設定したりできる。
【0034】
逆変換ブロックIFTは、速度(位置)及び力の領域の値を制御対象システムCSへの入力の領域の値(例えば電圧値又は電流値等)に変換するブロックである。
このような基本的原理により、制御対象システムCSのアクチュエータにおける位置の情報が機能別力・速度割当変換ブロックFTに入力されると、位置の情報に基づいて得られる速度(位置)及び力の情報を用いて、機能別力・速度割当変換ブロックFTにおいて、機能に応じた位置及び力の領域それぞれの制御則が適用される。そして、理想力源ブロックFCにおいて、機能に応じた力の演算が行われ、理想速度(位置)源ブロックPCにおいて、機能に応じた速度(位置)の演算が行われ、力及び速度(位置)それぞれに制御エネルギーが分配される。
【0035】
理想力源ブロックFC及び理想速度(位置)源ブロックPCにおける演算結果は、制御対象システムCSの制御目標を示す情報となり、これらの演算結果が逆変換ブロックIFTにおいてアクチュエータの入力値とされて、制御対象システムCSに入力される。
その結果、制御対象システムCSのアクチュエータは、機能別力・速度割当変換ブロックFTによって定義された機能に従う動作を実行し、目的とするロボットの動作が実現される。
すなわち、本実施形態においては、ロボット(ここでは、状態判定装置1)によって所定の行為時の人間の動作をより適切に実現することが可能となる。
【0036】
(定義される機能例)
次に、機能別力・速度割当変換ブロックFTによって定義される機能の具体例について説明する。
機能別力・速度割当変換ブロックFTでは、入力されたアクチュエータの現在位置に基づいて得られる速度(位置)及び力を対象とした座標変換(実現する機能に対応した実空間から仮想空間への変換)が定義されている。
機能別力・速度割当変換ブロックFTでは、このような現在位置から速度(位置)及び力と、機能の基準値としての速度(位置)及び力とを入力として、速度(位置)及び力それぞれについての制御則が加速度次元において適用される。
すなわち、アクチュエータにおける力は質量と加速度との積で表され、アクチュエータにおける速度(位置)は加速度の積分によって表される。そのため、加速度の領域を介して、速度(位置)及び力を制御することで、アクチュエータの現在位置を取得して、目的とする機能を実現することができる。
【0037】
以下、各種機能の具体的な例を説明する。
(力・触覚伝達機能)
図3は、機能別力・速度割当変換ブロックFTにおいて力・触覚伝達機能が定義された場合の制御の概念を示す模式図である。また、
図4は、力・触覚伝達機能が適用されるマスタ装置(ここでは、状態判定装置1が備える、マスタ側ユニット50、及び操作機構55)及びスレーブ装置(ここでは、状態判定装置1が備える、状態判定装置1が備える、スレーブ側ユニット60、及び把持機構65)を含むマスタ・スレーブシステムの概念を示す模式図である。
【0038】
図4に示すように、機能別力・速度割当変換ブロックFTによって定義される機能として、マスタ装置の動作をスレーブ装置に伝達すると共に、スレーブ装置に対する物体(例えば、検査対象物4)からの反力の入力をマスタ装置にフィードバックする機能(バイラテラル制御機能)を実現することができる。
この場合、機能別力・速度割当変換ブロックFTにおける座標変換は、次式(3)及び(4)として表される。
【0040】
ただし、式(3)において、x’
pは速度(位置)の状態値を導出するための速度、x’
fは力の状態値に関する速度である。また、x’
mは基準値(マスタ装置からの入力)の速度(マスタ装置の現在位置の微分値)、x’
sはスレーブ装置の現在の速度(現在位置の微分値)である。また、式(4)において、f
pは速度(位置)の状態値に関する力、f
fは力の状態値を導出するための力である。また、f
mは基準値(マスタ装置からの入力)の力、f
sはスレーブ装置の現在の力である。
【0041】
(動作の抽出機能)
次に、本実施形態によって実現される人間の動作の抽出機能について詳細に説明する。
(基本原理)として上述したようにすれば、所定の機構のロボット(例えば、人間の身体の機能に対応する機構のロボット)を構成し、人間の動作をこのロボットに追従させて、その際のこのロボットの時系列の動作を検出することで、人間の動作を抽出することが可能となる。
【0042】
例えば、
図1に示すような状態判定装置1の場合、人間が手を動かして状態判定装置1を操作する動作に追従して、状態判定装置1が備える複数のアクチュエータ(後述の
図7にて図示する。)それぞれが動いた際の、それぞれのアクチュエータの位置を時系列に複数の位置センサ(後述の
図7にて図示する。)で検出し、これらの位置を記憶装置に記憶しておく。
この場合に、それぞれのアクチュエータの位置の検出結果に代えて、機能別力・速度割当変換ブロックFTにおいて座標変換結果として得られる状態値を導出するための各値(例えば、時系列で算出された式(4)の左辺の各値)を記憶装置に記憶しておくこととしてもよい。
【0043】
図5は、動作の抽出結果として記憶される情報例を示す模式図であり、
図5(a)は複数のアクチュエータ(ここでは、アクチュエータA1〜A4)の時系列の位置が記憶された場合、
図5(b)は時系列の式(4)の座標変換結果が記憶された場合を示している。
図5(a)を参照すると、例えば、アクチュエータA1について、時刻t1では位置p1、時刻t2では位置p2、時刻t3では位置p3・・・と時系列の位置が記憶されている。
また、
図5(b)を参照すると、例えば、座標変換結果x’’
a1について、時刻t1では座標変換結果q1、時刻t2では座標変換結果q2、時刻t3では座標変換結果q3・・・と時系列の値が記憶されている。
これにより、人間が一度だけ実際に所定の行為における所定の動作を行えば、それ以降、この所定の動作を行わなくても、所定の動作の学習及び再現機能等の動作をロボットによって再現することができる。また、この所定の動作において用いられた力触覚に関する制御パラメータをログとして保存しておくことができる。
【0044】
(スケーリング機能)
上述の力・触覚伝達機能において、位置、力及び時間のスケーリング機能をさらに実現することができる。
スケーリング機能とは、基準となる制御に対して、出力される位置、力あるいは時間のスケールを拡大あるいは縮小する機能である。スケーリング機能によって、例えば、マスタ装置の動きの大きさを縮小してスレーブ装置で再現したり、マスタ装置の動きの強さ(力)を強めてスレーブ装置で再現したり、あるいは、マスタ装置の動きの速度を低下させてスレーブ装置で再現したりすることができる。また、記憶装置に記憶された位置又は力の少なくとも一方の情報にスケーリング機能を用いることで、例えば、記憶された動きの大きさを縮小してスレーブ装置で再現したり、記憶された動きの強さ(力)を強めてスレーブ装置で再現したりすることができる。
以下、スケーリング機能を実現するための構成例について説明する。
【0045】
(スケーリングを伴う力・触覚伝達機能)
スケーリングを伴う力・触覚伝達機能が実現される場合、
図2における機能別力・速度割当変換ブロックFTにおける座標変換は、次式(5)及び(6)として表される。
【0047】
式(5)及び式(6)に示す座標変換とした場合、スレーブ装置の位置がα倍(αは正数)、スレーブ装置の力がβ倍(βは正数)されて、マスタ装置に伝達される。
このようなスケーリング機能によって、例えば、把持の際に、ユーザUの操作に伴う力触覚を抑制したり、強調したりすることができるため、より繊細な作業や、より力の必要な作業を行う場合に有効となる。
【0048】
(スケーリングによる力の制限を伴う力・触覚伝達機能)
スケーリングによる力の制限を伴う力・触覚伝達機能が実現される場合、
図2における機能別力・速度割当変換ブロックFTにおける座標変換は、例えば、次式(7)〜(10)として表される。
なお、このような機能を実現する場合、以下のような条件を考慮することが適当である。
・速度次元まで連続であること(ヤコビ行列の存在条件)
・制限後の力が元の力の単調増加関数であること(安定性の条件)
・f
s<aの時にはf
s=f
shatもしくはf
s≒f
shat(f
shatは式(9)及び式(10)において機能別力・速度割当変換ブロックFTに含まれるパラメータ)
(安全領域での制御性能を保証する条件)
・飽和関数であること(ポジションリミットを実現する条件)
これらの条件を満たす他の関数として、atan関数を採用することも可能である。
【0050】
式(7)〜式(10)に示す座標変換とした場合、スレーブ装置の力がa未満の場合、式(7)、(8)の座標変換を適用することで、スレーブ装置とマスタ装置とは同様の力に制御される。一方、スレーブ装置の力がa以上の場合、式(9)、(10)の座標変換を適用することで、スケーリング機能が作用し、スレーブ装置は(1/b+a)の力を超えないように制御される。
このようなスケーリング機能によって、例えば、本実施形態による処理において、把持における力を一定とした状態で、位置の変化(すなわち、移動量)に基づいて安定した精度で判定を行うことが可能となる。また、検査対象物4の破損を回避することが可能となる。なお、上述した(7)〜式(10)に示す座標変換において、例えば、スケーリングの対象を、力ではなく位置とすることで、位置の制限を伴う力・触覚伝達機能を実現することも可能である。
【0051】
(周波数領域におけるスケーリングを用いた力・触覚伝達機能)
図6は、周波数領域におけるスケーリングを用いた力・触覚伝達機能の制御の概念を示す模式図である。
図6において、マスタ装置及びスレーブ装置の出力は、ハイパスフィルタ(HPF)及びローパスフィルタ(LPF)をそれぞれ通過した後に、機能別力・速度割当変換ブロックFTに入力される。
機能別力・速度割当変換ブロックFTでは、ハイパスフィルタを通過したマスタ装置及びスレーブ装置の出力に対して、高周波域用の座標変換を適用し、ローパスフィルタを通過したマスタ装置及びスレーブ装置の出力に対して、低周波域用の座標変換を適用する。
すなわち、機能別力・速度割当変換ブロックFTは、マスタ装置及びスレーブ装置からの入力を高周波域及び低周波域の信号に分離し、それぞれの周波数域に対応する座標変換を適用する。
【0052】
図6に示すように、周波数領域におけるスケーリングを用いた力・触覚伝達機能が実現される場合、機能別力・速度割当変換ブロックFTにおける座標変換は、次式(11)〜(14)として表される。
【0054】
式(11)〜式(14)に示す座標変換とした場合、低周波域では、式(11)、(12)の座標変換を適用することで、スレーブ装置とマスタ装置とは同様の位置となるように制御され、高周波域では、式(13)、(14)の座標変換を適用することで、スレーブ装置の位置がα倍(αは正数)、スレーブ装置の力がβ倍(βは正数)されて、マスタ装置に伝達される。
このようなスケーリング機能によって、例えば、スレーブ装置が、物体を貫通したり、破断したりする際の感覚を強調してマスタ装置に伝達することが可能となる。
【0055】
(時間のスケーリングを用いた機能の再現)
状態判定装置1による機能の再現において、学習して記憶されている機能を示す情報(例えば、
図5に示す行為の抽出結果を表す時系列のデータ)を間引く、あるいは、補間する等して目標値とすることにより、時間のスケーリングを実現することができる。
具体的には、学習して記憶されている機能を示す情報を間引いた上で、理想力源ブロックFCあるいは理想速度(位置)源ブロックPCにおける演算の目標値として用いることにより、記憶されている機能(動作)を高速で再現することができる。同様に、学習して記憶されている機能を示す情報を補間した上で、目標値として用いることにより、記憶されている機能(動作)を低速で再現することができる。
【0056】
このように、記憶されている機能(動作)を高速で再現する場合、行為の抽出時には、低速且つ正確な動作を行えばよく、再現時には、高速且つ正確な動作とすることができる。
また、記憶されている機能(動作)を低速で再現する場合、通常の速度で行われている動作を緩やかに再現できる。
【0057】
[状態判定装置の構成]
次に、状態判定装置1の構成について、
図7を参照して説明をする。
図7は、状態判定装置1の基本的構成を示す模式図である。
【0058】
図7に示すように、状態判定装置1は、制御ユニット10と、マスタ側ユニット50と、操作機構55と、スレーブ側ユニット60と、把持機構65と、を含む。また、マスタ側ユニット50は、マスタ側ドライバ51と、マスタ側アクチュエータ52と、マスタ側位置センサ53と、を含む。さらに、マスタ側ユニット50は、マスタ側アクチュエータ52により、操作機構55を動作させる。同様に、スレーブ側ユニット60は、スレーブ側ドライバ61と、スレーブ側アクチュエータ62と、スレーブ側位置センサ63と、を含む。さらに、スレーブ側ユニット60は、スレーブ側アクチュエータ62により、把持機構65を動作させる。
なお、以下の説明において、マスタ側とスレーブ側を区別することなく説明する場合には、名称や符号の一部を省略して、単に「ユニット」、「ドライバ」、「アクチュエータ」、「位置センサ」と称する。
【0059】
状態判定装置1は、
図1を参照して上述したように制御ユニット10、マスタ側ユニット50、及びスレーブ側ユニット60が協働することにより、マスタ装置及びスレーブ装置として動作するものであり、マスタ装置及びスレーブ装置の一方の装置として動作する場合、他方の装置として動作するユニット(すなわち、マスタ側ユニット50又はスレーブ側ユニット60)のアクチュエータ(すなわち、マスタ側アクチュエータ52又はスレーブ側アクチュエータ62)に設置された位置センサ(すなわち、マスタ側位置センサ53又はスレーブ側位置センサ63)の検出結果を入力として、機能に応じた動作を行う。
状態判定装置1に実装される機能は、上述したように、制御ユニット10にて実現される機能別力・速度割当変換ブロックFTによって定義される座標変換を切り替えることで、種々変更することができる。
【0060】
制御ユニット10は、状態判定装置1全体を制御するものであり、CPU(Central Processing Unit)等のプロセッサと、メモリあるいはハードディスク等の記憶装置を含んだ情報処理装置によって構成される。
制御ユニット10は、
図2や
図3における機能別力・速度割当変換ブロックFTと、理想力源ブロックFCと、理想速度(位置)源ブロックPCと、逆変換ブロックIFTとの機能を備えている。そして、制御ユニット10では、これらの機能により、マスタ装置及びスレーブ装置の一方の装置として動作するための制御を行う。
【0061】
そのために、制御ユニット10は、状態判定装置1に備えられる機能毎の基準となる値(以下、「基準値」と称する。)を取得する。この基準値は、例えば、マスタ装置及びスレーブ装置の一方の装置として動作する場合、他方の装置として動作するユニットのアクチュエータに設置された位置センサから出力される時系列の検出値である。このように他方の装置として動作するユニットから時系列の検出値をリアルタイムで制御ユニット10に基準値として取得する場合、制御ユニット10は、通信インターフェース(通信I/F)によって構成することができる。また、上述した(動作の抽出機能)を実現するべく、他方の装置として動作するユニットの時系列の検出値を記憶しておき、基準値として順次読み出して制御ユニット10が取得する場合、制御ユニット10は、メモリあるいはハードディスク等の記憶装置によって構成することができる。
【0062】
すなわち、制御ユニット10には、まず、他方の装置として動作するユニットの位置センサによって検出された時系列の検出値が基準値として入力される。この時系列の検出値は、他方の装置として動作するユニットの動作を表すものであり、制御ユニット10は、入力された検出値(位置)から導出された速度(位置)及び力の情報に対して、機能に応じて設定されている座標変換を適用する。
【0063】
そして、制御ユニット10は、座標変換によって得られた速度(位置)の状態値を導出するための速度(位置)に対し、速度(位置)の領域における演算を行う。同様に、制御ユニット10は、座標変換によって得られた力の状態値を導出するための力に対し、力の領域における演算を行う。さらに、制御ユニット10は、算出した速度(位置)の領域における演算結果及び力の領域における演算結果に対して、加速度等への次元統一の処理を施し、また、機能に応じて設定されている座標変換の逆変換を適用する。これにより、制御ユニット10は、算出した速度(位置)の領域における演算結果及び力の領域における演算結果がアクチュエータへの入力の領域の値に変換される。
【0064】
また、制御ユニット10では、さらに、検査対象物4の破損に関する検査を補助するための処理を行うための機能ブロックが機能する。この機能ブロックについては、
図8を参照して後述する。
【0065】
ドライバは、制御ユニット10によって逆変換されたアクチュエータへの入力の領域の値をアクチュエータに対する具体的な制御指令値(電圧値又は電流値等)に変換し、その制御指令値をアクチュエータに出力する。
アクチュエータは、ドライバから入力された制御指令値に従って駆動され、制御対象装置の位置を制御する。
位置センサは、アクチュエータによって制御される制御対象装置の位置を検出し、検出値を制御ユニット10に出力する。
【0066】
このような構成により、状態判定装置1は、位置センサによって検出されたアクチュエータの位置から得られる速度(位置)及び力を、機能に応じた座標変換によって速度(位置)の領域及び力の領域の状態値に変換する。これにより、機能に応じて速度(位置)及び力それぞれに制御エネルギーが分配される。そして、それぞれの状態値が逆変換されて制御指令値とされ、この制御指令値に従って、ドライバによりアクチュエータが駆動される。
【0067】
したがって、状態判定装置1は、マスタ装置及びスレーブ装置の一方のアクチュエータの位置を検出することで、目的とする機能を実現するために必要な速度(位置)及び力の状態値を算出することができ、これらの状態値に基づいてマスタ装置及びスレーブ装置の他方のアクチュエータを駆動することで、マスタ装置及びスレーブ装置の位置及び力を目的とする状態に制御することができる。
【0068】
また、状態判定装置1は、制御ユニット10における機能に応じた座標変換を切り替えることで、異なる機能を実現することが可能となる。例えば、状態判定装置1に備えられた記憶装置に、複数の機能に対応して、各種機能に応じた座標変換を記憶しておき、目的に応じて、いずれかの機能に応じた座標変換を選択することで、状態判定装置1において種々の機能を実現させることが可能となる。
【0069】
例えば、(力・触覚伝達機能)として上述した機能を実現する場合、状態判定装置1は、制御ユニット10に対して入力される基準値を、他方の装置として動作するユニットからリアルタイムに入力される位置及び力の取得値とすることができる。この場合、他方の装置として動作するユニットの動作とリアルタイムに連動して、一方の装置を制御することができる。すなわち、この場合、制御ユニット10においては、式(2)として表される座標変換が定義されるため、マスタ装置として動作するマスタ側アクチュエータ52の位置とスレーブ装置として動作するスレーブ側アクチュエータ62の位置との差がゼロとなる状態に制御される。
【0070】
また、(力・触覚伝達機能)として上述した機能を実現する場合、マスタ装置として動作するマスタ側アクチュエータ52に操作者が加える操作における力触覚をスレーブ装置に伝達すると共に、スレーブ装置として動作するスレーブ側アクチュエータ62に作用する物体(例えば、検査対象物4)からの反力をマスタ装置として動作するマスタ側アクチュエータ52にフィードバックする。これにより、マスタ装置に対して行われた操作がスレーブ装置で正確に再現されると共に、スレーブ装置に入力された物体からの反力をマスタ装置に正確に伝達することができる。
【0071】
他にも、例えば、(動作の抽出機能)として上述した機能を実現する場合、状態判定装置1は、制御ユニット10に対して入力される基準値を、予め取得して記憶された他方の装置として動作するユニットの時系列の位置及び力の取得値とすることができる。この場合、予め用意された他方の装置として動作するユニットの動作を基準として、状態判定装置1の機能を実現することができる。すなわち、他方の装置として動作するユニットが存在しない状態で、状態判定装置1において、目的とする機能を再現することができる。
【0072】
他にも、例えば、(スケーリング機能)として上述した機能を実現する場合、状態判定装置1は、スケーリング機能によって、例えば、一方の装置として動作するユニットの動きの大きさを縮小して他方の装置として動作するユニットで再現したり、一方の装置として動作するユニットの動きの強さ(力)を強めて他方の装置として動作するユニットで再現したり、あるいは、一方の装置として動作するユニットの動きの速度を低下させて他方の装置として動作するユニットで再現したりすることができる。
【0073】
他にも、例えば、(動作の抽出機能)として上述した機能と、(スケーリング機能)として上述した機能の双方を実現した場合、状態判定装置1は、動作の抽出機能により記憶装置に記憶された位置又は力の少なくとも一方の情報にスケーリング機能を用いることで、例えば、記憶された動きの大きさを縮小して他方の装置として動作するユニットで再現したり、記憶された動きの強さ(力)を強めて他方の装置として動作するユニットで再現したりすることができる。
【0074】
上述のようにして、制御ユニット10は、マスタ側ユニット50のマスタ装置としての動作や、スレーブ側ユニット60のスレーブ装置としての動作を制御することにより把持装置として機能すると共に、さらに、ウェアラブル端末2やサーバ装置3と協働して「状態判定処理」を行なう。
ここで、状態判定処理は、検査対象物4の破損に関する検査を補助するために、検査対象物4が破損しているか否かを判定する一連の処理である。
【0075】
図8は、この状態判定処理を実現するための、制御ユニット10のハードウェア及び機能ブロックの一例を示すブロック図である。
図8に示すように、制御ユニット10は、プロセッサ11と、ROM12と、RAM13と、通信部14と、記憶部15と、入力部16と、出力部17と、ドライブ18と、を含む。また、
図8では図示を省略しているが、
図7において図示したように制御ユニット10には、ドライバと、位置センサとが接続される。これら各部は、信号線により接続されており、相互に信号を送受する。
【0076】
プロセッサ11は、ROM12に記録されているプログラム、又は、記憶部15からRAM13にロードされたプログラムに従って各種の処理を実行する。RAM13には、プロセッサ11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
なお、図中において、プロセッサ11は、単一のプロセッサとして図示されているが、これは一例に過ぎない。例えば、プロセッサ11を、複数のプロセッサにより実現するようにしてもよい。この場合、例えば、上述したマスタ装置やスレーブ装置としての動作を制御する機能(図中における「動作制御部111」や「パラメータ取得部112」に相当)と、これと協働して状態判定処理を行う機能(図中における「判定基準設定部113」や「判定部114」に相当)とを、それぞれ別のプロセッサにより実現してもよい。さらに、この場合、プロセッサは、シングルプロセッサ、マルチプロセッサ及びマルチコアプロセッサ等の各種処理装置単体によって構成されるものの他、これら各種処理装置と、ASIC(Application Specific Integrated Circuit)又はFPGA(Field−Programmable Gate Array)等の処理回路を含むものであってもよい。また、この場合、ROM12やRAM13等は、プロセッサ毎にそれぞれ設けられていてもよい。
【0077】
通信部14は、プロセッサ11が、他の装置(例えば、ウェアラブル端末2やサーバ装置3等)との間で通信を行うための通信制御を行う。記憶部15は、DRAM(Dynamic Random Access Memory)等の半導体メモリで構成され、各種データを記憶する。
【0078】
入力部16は、各種ボタン及びタッチパネル、又はマウス及びキーボード等の外部入力装置で構成され、ユーザの指示操作に応じて各種情報を入力する。出力部17は、ディスプレイやスピーカ等で構成され、画像や、音声や警告音等を出力する。
ドライブ18には、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリ等よりなる、リムーバブルメディア(図示を省略する。)が適宜装着される。ドライブ18よってリムーバブルメディアから読み出されたプログラムは、必要に応じて記憶部15にインストールされる。
【0079】
このようなハードウェア構成において、状態判定処理を実現する場合、
図8に示すようにプロセッサ11にて、動作制御部111と、パラメータ取得部112と、判定基準設定部113と、判定部114と、が機能する。
また、このようなハードウェア構成において、状態判定処理を実現する場合、
図8に示すように記憶部15の一領域には、パラメータ記憶部151と、判定基準記憶部152と、が設定される。
以下で特に言及しない場合も含め、これら機能ブロック間では、処理を実現するために必要なデータを、適切なタイミングで適宜送受信する。
【0080】
動作制御部111は、上述のようにして、マスタ装置として動作するマスタ側ユニット50や、スレーブ装置として動作するスレーブ側ユニット60に対して、力・触覚伝達機能を適用した動作の制御を行う。すなわち、動作制御部111は、
図2や
図3における機能別力・速度割当変換ブロックFTと、理想力源ブロックFCと、理想速度(位置)源ブロックPCと、逆変換ブロックIFTとの機能を実現する。また、この場合に動作制御部111は、
図3を参照して上述したようにして、機能別力・速度割当変換ブロックFTにおいて力・触覚伝達機能を定義して、力・触覚伝達機能を適用した動作の制御を行う。さらに、この場合に動作制御部111は、機能に応じた座標変換を切り替えることで、異なる機能を実現する。
【0081】
パラメータ取得部112は、動作制御部111による力・触覚伝達機能を適用した動作の制御で用いた制御パラメータ(以下、「力触覚に関する制御パラメータ」と称する。)を取得する。以下では、説明のための一例として、パラメータ取得部112は、位置センサによって検出されたアクチュエータの位置から得られる位置を示す値及び力を示す値を、力触覚に関する制御パラメータとして取得することを想定する。
【0082】
ここで、上述したように、アクチュエータにおける力は質量と加速度との積として算出でき、アクチュエータにおける速度(位置)は加速度の積分によって算出することができる。そこで、例えば、パラメータ取得部112は、
図5(a)を参照して上述した(動作の抽出機能)における各アクチュエータの時系列の位置や、
図5(b)を参照して上述した(動作の抽出機能)における時系列の式(4)の座標変換結果に対応する情報に基づいて、リアルタイムに積分等の演算を行うことで位置を示す値及び力を示す値を算出して、これら力触覚に関する制御パラメータを取得する。
【0083】
また、パラメータ取得部112は、取得した力触覚に関する制御パラメータをパラメータ記憶部151に記憶させる。すなわち、パラメータ記憶部151は、力触覚に関する制御パラメータを記憶する記憶部として機能する。
【0084】
判定基準設定部113は、後述の判定部114が、検査対象物4が破損しているか否かを判定するための基準を設定する。以下では、説明のための一例として、所定の閾値に基づいて判定を行うことを想定するので、判定基準設定部113は、この所定の閾値を設定し、設定した所定の閾値を判定基準として判定基準記憶部152に記憶させる。すなわち、判定基準記憶部152は、判定基準である所定の閾値を記憶する記憶部として機能する。
【0085】
ここで、本実施形態では、より適切に判定を行うために、今回判定対象とする検査対象物4の種類等に応じて、所定の閾値を適宜異ならせる。この今回判定対象とする検査対象物4の種類等に応じた所定の閾値の具体的な数値は、ウェアラブル端末2から判定基準設定部113に対して送信される。
【0086】
判定部114は、検査対象物4の破損に関する検査を補助するために、検査対象物4が破損しているか否かを判定する。この判定は、上述したように、判定基準設定部113が設定して、判定基準記憶部152に記憶させた所定の閾値に基づいて行われる。判定部114による具体的な判定方法については、
図11、
図12、
図13及び
図16のフローチャートを参照して後述する。
また、判定部114は、判定結果をウェアラブル端末2に対して送信する。
【0087】
[ウェアラブル端末の構成]
次に、ウェアラブル端末2の構成について、
図9を参照して説明をする。
図9は、ウェアラブル端末2のハードウェア及び機能ブロックの一例を示すブロック図である。
図9に示すように、ウェアラブル端末2は、プロセッサ21と、ROM22と、RAM23と、通信部24と、記憶部25と、入力部26と、出力部27と、カメラ28と、センサ29と、を備えている。これら各部は、信号線により接続されており、相互に信号を送受する。なお、これらの内、カメラ28及びセンサ29以外の各部のハードウェアとしての機能は、
図8を参照して上述した状態判定装置1が備える同名の各部と同様である。そのため、これら各部のハードウェアとしての機能については、重複する再度の説明を省略する。一方で、カメラ28及びセンサ29について、以下説明をする。
【0088】
カメラ28は、光学レンズやイメージセンサといった撮影用の素子や、これらを制御するための周辺回路を備えている。カメラ28により被写体を撮影することにより生成された画像データや、あるいは、ヘッドトラッキング用等の周辺環境を示す画像データは、適宜プロセッサ21に対して出力される。
【0089】
センサ29は、ウェアラブル端末2における、加速度、ジャイロ(すなわち、角度や加速度等)、及び方位を計測する。センサ29における計測結果についても、適宜プロセッサ21に対して出力される。
【0090】
プロセッサ21は、これらカメラ28やセンサ29の出力に基づいて、ユーザの頭の位置や向き等を特定し、この特定した頭の位置や向きに基づいて、出力部27に含まれる透過型のディスプレイの、適切な表示位置にユーザUに対する通知(ここでは、表示)を行う。これにより、上述したようにして、透過型のディスプレイを介してユーザUが視認できる現実の景色と、透過型ディスプレイに表示される仮想現実(例えば、仮想的に生成された画像やテキスト等を含む)とを重畳して、ユーザUに対して通知をすることができる。すなわち、本実施形態では、力触覚を伝達する技術と、複合現実の技術を組み合わせて、ユーザUの検査等における作業や判断を補助(すなわち、サポート)することができる。
【0091】
なお、これも上述したように、この通知は、出力部27が備えるスピーカからの音(音声や警告音等)の出力や、警告灯の点滅等により実現されてもよい。
また、プロセッサ21は、このような複合現実の技術に関する表示を行うために、CPUのみならず、GPU(Graphics Processing Unit)等の画像処理用のプロセッサを含んで実現されてもよい。
【0092】
このようなハードウェア構成において、状態判定処理を実現する場合、
図9に示すようにプロセッサ21にて、指示解釈部211と、対象物撮影部212と、対象物情報管理部213と、通知部214と、作業情報管理部215と、216と、が機能する。
また、この場合、
図9に示すように記憶部25の一領域には、対象物情報記憶部251と、作業情報記憶部252と、が設定される。
以下で特に言及しない場合も含め、これら機能ブロック間では、処理を実現するために必要なデータを、適切なタイミングで適宜送受信する。
【0093】
指示解釈部211は、ユーザUからの指示操作の内容を解釈する。ここで、ユーザUからの指示操作は、入力部26が備えるボタン等に対する押下操作等により受け付けられてもよいが、指示解釈部211が解釈のための処理を行うことにより、他の方法で受け付けられてもよい。そのようにする理由であるが、本実施形態では、ユーザUがウェアラブル端末2を用いながら、同時に状態判定装置1を手で携帯して、把持のための操作を行うことを想定しており、この場合、ボタンを押下する操作では、この把持操作の妨げになる可能性があるからである。そこで、ウェアラブル端末2では、例えば、入力部26が備えるスピーカが、ユーザUからの音声からなる指示(いわゆる、ボイスコマンド)で指示操作を受け付けるようにする。そして、指示解釈部211が、その音声からなる指示の内容を解釈するようにする。あるいは、カメラ28が、ユーザUの手の動き等のジェスチャーからなる指示操作を受け付けるようにする。そして、指示解釈部211が、そのジェスチャーからなる指示操作を解釈するようにする。
このように、音声からなる指示やジェスチャーからなる指示操作を受け付け可能とすることにより、ウェアラブル端末2に対する指示のための操作が、状態判定装置1に対する把持のための操作の妨げになることを防止し、ユーザUの利便性をより向上させることができる。
【0094】
対象物撮影部212は、カメラ28を用いた撮影を行うことにより、検査対象物4を被写体とした画像データ(以下、「検査対象物画像データ」と称する。)を生成する。そして、対象物撮影部212は、生成した検査対象物画像データをサーバ装置3に対して送信する。サーバ装置3は、この検査対象物画像データを画像解析することにより、被写体となっている検査対象物4が、何れの種類の検査対象物4であるかを識別する。
【0095】
対象物情報管理部213は、対象物情報を管理する。ここで、対象物情報とは、検査対象物4となり得る物品それぞれに関する情報である。例えば、検査対象物4となり得る物品の、製品名、外観(すなわち、包装容器)の画像データ、バーコード等の識別用の情報の画像データ、対応する所定の閾値の値、及び検査時に把持機構65において把持すべき位置の画像データ等が対象物情報に含まれる。なお、これは一例であり、他にも、検査対象物4となり得る物品の、製造業者、賞味期限、及び小売価格等の製品に関する一般的な情報が対象物情報に含まれていてもよい。
【0096】
対象物情報管理部213は、サーバ装置3や、検査対象物4を製造する製造業者のサーバ装置(図示を省略する)と通信を行うことにより、対象物情報を取得する。また、対象物情報管理部213は、このような通信を周期的に繰り返すことにより、対象物情報が最新の内容となるように更新をする。
そして、対象物情報管理部213は、このようにして取得及び更新した対象物情報を対象物情報記憶部251に記憶させる。すなわち、対象物情報記憶部251は、対象物情報を記憶する記憶部として機能する。
【0097】
通知部214は、ユーザUに対して、検査対象物4の破損に関する検査を補助するための各種の情報や、ユーザインタフェース等を通知する。各種の情報とは、例えば、サーバ装置3による画像解析による検査対象物4の識別結果や、状態判定装置1による検査対象物4が破損しているか否かの判定結果や、判定結果に対応した作業指示等である。また、ユーザインタフェースとは、例えば、状態判定処理に関連するユーザインタフェースである。
通知部214による通知は、上述したように、出力部27が備える透過型のディスプレイへの表示や、出力部27が備えるスピーカからの音(音声や警告音等)の出力や、警告灯の点滅等により実現される。なお、通知部214による通知の具体例については、
図15及び
図16を参照して後述する。
【0098】
作業情報管理部215は、作業情報を管理する。ここで、作業情報とは、検査対象物4に関連して行うべき作業の情報である。例えば、検査対象物4が破損しているか否かを検査するべき時間帯や、破損しているか否かの結果に応じた仕分け先の場所(例えば、仕分け先となる棚や格納容器の場所)や、このような検査を伴う仕分けやピッキングを行うべき時間帯等が作業情報に含まれる。また、実際に検査等の作業を行ったユーザUの識別情報や、実際に作業が行われた時間帯や、検査結果等の作業履歴が作業情報に含まれていてもよい。なお、これは一例であり、他にも、例えば、検査対象物4の、配送先の住所や、配送すべき時間帯や、配送すべき個数等の物流に関する情報が作業情報に含まれていてもよい。
【0099】
作業情報管理部215は、サーバ装置3や、検査対象物4を配送する物流業者のサーバ装置(図示を省略する)と通信を行うことにより、作業情報を取得する。また、作業情報管理部215は、このような通信を周期的に繰り返すことにより、作業情報が最新の内容となるように更新をする。
そして、作業情報管理部215は、このようにして取得及び更新した作業情報を作業情報記憶部252に記憶させる。すなわち、作業情報記憶部252は、作業情報を記憶する記憶部として機能する。
【0100】
[サーバ装置の構成]
次に、サーバ装置3の構成について、
図10を参照して説明をする。
図10は、サーバ装置3のハードウェア及び機能ブロックの一例を示すブロック図である。
図10に示すように、サーバ装置3は、プロセッサ31と、ROM32と、RAM33と、通信部34と、記憶部35と、入力部36と、出力部37と、ドライブ38と、を備えている。これら各部は、信号線により接続されており、相互に信号を送受する。なお、これら各部のハードウェアとしての機能は、
図8を参照して上述した状態判定装置1が備える同名の各部や、
図9を参照して上述したウェアラブル端末2が備える同名の各部と同様である。そのため、これら各部のハードウェアとしての機能については、重複する再度の説明を省略する。
【0101】
このようなハードウェア構成において、状態判定処理を実現する場合、
図10に示すようにプロセッサ31にて、対象物情報管理部311と、識別部312と、作業情報管理部313と、が機能する。
また、この場合、
図10に示すように記憶部35の一領域には、対象物情報管理部351と、作業情報記憶部352と、が設定される。
以下で特に言及しない場合も含め、これら機能ブロック間では、処理を実現するために必要なデータを、適切なタイミングで適宜送受信する。
【0102】
対象物情報管理部311は、ウェアラブル端末2が備える対象物情報管理部213と同様に、対象物情報を管理する。ここで、対象物情報の詳細については、対象物情報管理部213の説明の際に上述しているので、ここでは再度の説明を省略する。また、対象物情報管理部311は、これも対象物情報管理部213と同様であるが、対象物情報管理部213や、検査対象物4の製造業者のサーバ装置(図示を省略する)と通信を行うことにより、対象物情報を取得したり更新したりする。
そして、対象物情報管理部311は、このようにして取得及び更新した対象物情報を対象物情報管理部351に記憶させる。すなわち、対象物情報管理部351は、対象物情報を記憶する記憶部として機能する。
【0103】
識別部312は、検査対象物画像データを画像解析することにより、被写体となっている検査対象物4が、何れの種類の検査対象物4であるかを識別する。ここで、検査対象物画像データは、上述したように、ウェアラブル端末2の対象物撮影部212が、カメラ28を用いた撮影を行うことにより生成した、検査対象物4を被写体とした画像データである。識別部312は、人工知能(AI:Artificial Intelligence)や所定のアルゴリズムを用いた画像解析により、この識別を実現する。
【0104】
例えば、識別部312は、検査対象物画像データと、対象物情報に含まれる、検査対象物4となり得る物品それぞれの外観(すなわち、包装容器)の画像データやバーコード等の識別用の情報の画像データとを、既存の手法を利用したパターンマッチングで比較することにより、この識別を実現する。
【0105】
あるいは、識別部312は、例えば、機械学習により学習モデルを構築することにより、この識別を実現する。この場合、例えば、識別部312は、何れかの検査対象物4となり得る物品を被写体とした画像データと、被写体となっている検査対象物4の種類を示すラベル(すなわち、正解を示すラベル)とを組にして教師データを生成する。なお、この場合に、何れの検査対象物4も被写体となっていない画像データと、不正解を示すラベルとを組にした教師データを、さらに生成してもよい。そして、識別部312は、この教師データを用いて、教師あり機械学習を行う。この場合、例えば、識別部312は、パーセプトロンを組み合わせて構成したニューラルネットワークにより、機械学習を行う。具体的には、教師データに含まれる画像データの特徴量をニューラルネットワークの入力層に対して入力データとして与え、ニューラルネットワークの出力層の出力がラベルと同じとなるように、各パーセプトロンについての重み付けを変更しながら学習を繰り返す。
【0106】
そして、識別部312は、このようにして学習モデルを構築した後、検査対象物画像データの特徴量を、この学習モデルに入力し、その出力を識別結果とする。なお、機械学習の手法は必ずしも限定されず、例えば、畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)等の画像解析に好適な手法を用いたりしてもよい。
【0107】
識別部312は、このようにして人工知能や所定のアルゴリズムを用いた画像解析により、被写体となっている検査対象物4が、何れの種類の検査対象物4であるかを識別し、その識別結果をウェアラブル端末2に対して送信する。このように、本実施形態では、画像解析により検査対象物4を識別することができる。そのため、仮に、検査対象物4に、バーコードやICタグが添付されていないような場合であっても、多種多様な検査対象物4を識別することができる。すなわち、検査対象物4に対する変更や加工を必要とせず、現状の流通の仕組みのままで本実施形態を適用することができる。
【0108】
作業情報管理部313は、サーバ装置3が備える作業情報管理部215と同様に、作業情報を管理する。ここで、作業情報の詳細については、作業情報管理部215の説明の際に上述しているので、ここでは再度の説明を省略する。また、作業情報管理部313は、これも作業情報管理部215と同様であるが、作業情報管理部215や、検査対象物4を配送する物流業者のサーバ装置(図示を省略する)と通信を行うことにより、作業情報を取得したり更新したりする。
そして、作業情報管理部313は、このようにして取得及び更新した作業情報を作業情報記憶部352に記憶させる。すなわち、作業情報記憶部352は、作業情報を記憶する記憶部として機能する。
【0109】
なお、対象物情報管理部213及び対象物情報管理部311が管理する対象物情報や、作業情報管理部215及び作業情報管理部313が管理する作業情報は、上述したようにウェアラブル端末2、サーバ装置3、及び各事業者のサーバ間で通信する以外の方法で更新等されてもよい。例えば、ユーザUによる入力操作に基づいて、対象物情報や作業情報が追加や修正されることにより更新等されてもよい。
【0110】
[状態判定処理]
状態判定装置1、ウェアラブル端末2、及びサーバ装置3の構成について詳細に説明した。次に、これら各装置を含む状態判定システムSが実行する状態判定処理により行われる各処理の処理内容について、
図11、
図12、
図13及び
図16のフローチャートを参照して説明する。
図11は、状態判定処理における前処理の流れを説明するフローチャートである。
図12は、状態判定処理における把持開始処理の流れを説明するフローチャートである。
図13は、状態判定処理における判定処理の流れを説明するフローチャートである。
図16は、状態判定処理における把持終了処理の流れを説明するフローチャートである。なお、説明の前提として、対象物情報管理部213及び対象物情報管理部311による対象物情報の管理や、作業情報管理部215及び作業情報管理部313による作業情報の管理は、別途行われているものとする。
【0111】
状態判定処理は、ユーザUからの、ウェアラブル端末2に対する状態判定処理の開始指示操作に伴い実行される。なお、本指示操作も含め、例えば、後述のステップS1やステップS6等における指示操作は、ユーザUによる、音声からなる指示やジェスチャーからなる指示操作に基づいて行われてもよい点については上述した通りである。
【0112】
まず、
図11を参照すると、ステップS1において、対象物撮影部212は、ユーザUからの撮影指示操作に基づいて、カメラ28を用いた撮影を行うことにより、検査対象物4を被写体とした検査対象物画像データを生成する。
ステップS2において、対象物撮影部212は、生成した検査対象物画像データをサーバ装置3に対して送信する。
【0113】
ステップS3において、識別部312は、検査対象物画像データを画像解析することにより、被写体となっている検査対象物4が、何れの種類の検査対象物4であるかを識別する。
ステップS4において、識別部312は、識別結果(すなわち、何れの種類の検査対象物4であるか)をウェアラブル端末2に対して送信する。この場合に、識別部312は、識別結果のみならず、この識別結果に対応する検査対象物4の対象物情報を対象物情報管理部351から読み出し、この対象物情報もウェアラブル端末2に対して送信する。ただし、識別部312が識別結果のみを送信し、これを受信したウェアラブル端末2が対象物情報記憶部251から対象物情報を読み出すようにしてもよい。
【0114】
ステップS5において、通知部214は、識別結果に対応する対象物情報をユーザUに対して通知する。例えば、対象物情報に含まれている、製品名や、外観(すなわち、包装容器)の画像データを表示等することにより通知する。
【0115】
ステップS6において、通知部214は、サーバ装置3による識別結果は正しいか否かを判定する。この判定は、ステップS5における通知内容と、実物の検査対象物4とを見比べたユーザUから、識別結果が正しい旨の操作を受け付けたか否かに基づいて行われる。識別結果が正しい旨の操作を受け付けた場合は、ステップS6においてYesと判定され、処理はステップS7に進む。一方で、識別結果が正しい旨の操作を受け付けない場合は、ステップS6においてNoと判定され、処理はステップS1に戻り、ステップS1の撮影から再度繰り返される。
【0116】
ステップS7において、対象物情報管理部213は、識別結果に対応する対象物情報を状態判定装置1に対して送信する。
ステップS8において、判定基準設定部113は、識別結果に対応する対象物情報に含まれる所定の閾値を、検査対象物4が破損しているか否かを判定するための基準となる閾値として設定する。なお、詳細は後述するが、本実施形態では、判定するための基準となる閾値として、第1閾値と、第2閾値の2つの閾値を設定する。
【0117】
ステップS9において、判定基準設定部113は、基準となる閾値の設定が終了した旨をウェアラブル端末2に対して送信する。
ステップS10において、通知部214は、状態判定装置1の状態を示すスターテスを「準備完了」として、ユーザUに対して通知する。
【0118】
ステップS11において、通知部214は、識別結果に対応する対象物情報に含まれる検査時に把持機構65において把持すべき位置の画像データをユーザUに対して通知する。この場合に、例えば、単に把持すべき位置の画像データを包装容器の画像データと共に表示してもよい。
しかしながら、これに限らず、複合現実の技術を用いて、把持すべき位置の画像データと実物の包装容器の位置とが適合するように重畳表示してもよい。この場合に、さらに、「把持を開始して下さい。」といった旨のテキストを表示したり音声を出力したりするようにしてもよい。このようにすると、ユーザUが把持すべき位置や把持を開始するタイミングが容易に認識することが可能となる。
【0119】
このステップS11による通知に伴い、ユーザUは、検査対象物4を把持するために、操作機構55に対する操作を開始する。
【0120】
次に、
図12を参照すると、ステップS12において、動作制御部111は、ユーザUの操作機構55に対する操作に応じて、マスタ装置として動作するマスタ側ユニット50や、スレーブ装置として動作するスレーブ側ユニット60に対して、力・触覚伝達機能を適用した動作の制御を開始する。この動作制御は、ユーザUの操作機構55に対する操作が終了するまで(例えば、後述のステップS33まで)継続する。
【0121】
ステップS13において、パラメータ取得部112は、リアルタイムに算出した現時点での力触覚に関する制御パラメータを取得する。
ステップS14において、ステップS13にて取得した力触覚に関する制御パラメータにおける力を示す値が第1閾値以上であるか否かを判定する。この判定は、把持機構65により検査対象物4が把持されている状態であることを確認する意図で行われる。従って、第1閾値は、把持機構65により検査対象物4を把持することが可能な力の値以上の値に設定される。なお、検査対象物4の種類により、把持することが可能な力の値は異なる。そのため、上述したように、本実施形態では、検査対象物4の種類により、第1閾値を異ならせている。
【0122】
なお、第1閾値と比較する、本判定での「力を示す値」とは、例えば、スレーブ側アクチュエータ62に含まれる第1アクチュエータにより把持機構65に含まれる第1把持部材を移動させ、スレーブ側アクチュエータ62に含まれる第2アクチュエータにより把持機構65に含まれる第2把持部材を移動させ、これら第1把持部材と、第2把持部材の距離を縮めることにより(例えば、閉じることにより)把持を行うような構成の場合には、第1アクチュエータに対応する力を示す値と、第2アクチュエータに対応する力を示す値のそれぞれとなる。
【0123】
力を示す値が第1閾値以上である場合は、ステップS14においてYesと判定され、処理はステップS16に進む。一方で、力を示す値が第1閾値未満である場合は、ステップS14においてNoと判定され、処理はステップS15に進む。
【0124】
なお、上述したように、判定部114は、力を示す値が、第1閾値以上であるか否かを判定しており、力を示す値の上限については判定していない。しかしながら、第1閾値以上である場合で、且つ、過剰な力で把持されてしまうと、判定の条件が一定せず、安定した精度での判定が困難となる。また、もともと破損していない検査対象物4であったとしても、この把持が原因で破損してしまう可能性がある。そこで、このように、判定の精度が不安定となることや、破損が発生することを防止するために、把持における力が過剰とならないように(すなわち、把持における力が一定の強さ以上とならないように)抑制する処理をさらに行うようにするとよい。
【0125】
そのためには、例えば、動作制御部111による動作の制御において、上述した(スケーリング機能)を適用する。このスケーリング機能を適用した場合、基準となる制御に対して、出力される力のスケールを拡大あるいは縮小することができる。そして、動作制御部111は、このスケーリング機能によって、力を示す値が所定値以上となった場合には、マスタ装置の動きの強さ(力)を縮小してスレーブ装置で再現する。すなわち、動作制御部111は、マスタ装置の動きの強さ(力)が過剰となったとしても、これを縮小してスレーブ装置では所定の動きの強さ(力)以上とならないように動作を制御する。これにより、仮にマスタ装置において過剰な力での操作があった場合でも、スレーブ側ユニット60及び把持機構65における把持は過剰な力にならないように抑制される。そのため、判定の精度が不安定となることや、把持が原因で、もともと破損していない検査対象物4が破損してしまうことを防止することができる。
【0126】
ステップS15において、判定部114は、ステップS13〜ステップS17にて用いるカウンタの値をリセットする。そして、処理はステップS13に戻り、繰り返される。これは、把持機構65により検査対象物4が未だ把持されていない状態であるため、カウンタの値をリセットする意図で行われる処理である。
【0127】
ステップS16において、判定部114は、カウンタの値を1つカウントアップする。
ステップS17において、判定部114は、カウンタの値が規定カウント数に到達したか否かを判定する。到達した場合は、ステップS17においてYesと判定され、処理はステップS18に進む。一方で、到達していない場合は、ステップS17においてNoと判定され、処理はステップS13に戻り、繰り返される。これは、力が第1閾値以上の状態が所定時間継続しているということから、把持が適切に行われており次の処理に以降できることを確認する意図で行われる処理である。
【0128】
ステップS18において、判定部114は、ステップS13を繰り返すことにより取得した、力触覚に関する制御パラメータをパラメータ記憶部151に記憶する。この記憶された制御パラメータは、その後、検査対象物4の種類に応じた第1閾値の値を修正する場面等で、ユーザUが参考するために利用される。
【0129】
ステップS19において、判定部114は、検査対象物4が破損しているか否かの判定を開始する旨をウェアラブル端末2に対して送信する。
ステップS20において、通知部214は、状態判定装置1の状態を示すスターテスを「判定中」として、ユーザUに対して通知する。
【0130】
次に、
図13を参照すると、ステップS21において、パラメータ取得部112は、リアルタイムに算出した現時点での力触覚に関する制御パラメータを取得する。
ステップS22において、判定部114は、ステップS21にて取得した力触覚に関する制御パラメータにおける力を示す値が第1閾値以上を維持しているか否かを判定する。この判定は、把持機構65により検査対象物4が把持されている状態が、適切に継続していることを確認する意図で行われる処理である。
【0131】
力を示す値が第1閾値以上を維持している場合は、ステップS22においてYesと判定され、処理はステップS25に進む。一方で、力を示す値が第1閾値以上を維持していない場合(すなわち、力を示す値が第1閾値未満の場合)は、ステップS22においてNoと判定され、処理はステップS24に進む。
【0132】
ステップS23において、判定部114は、検査対象物4の把持の失敗を検出した旨をウェアラブル端末2に対して送信する。
ステップS24において、通知部214は、状態判定装置1の状態を示すスターテスを「エラー及びリトライ」として、ユーザUに対して通知する。そして、処理はステップS10に戻り、繰り返される。
【0133】
ステップS25において、判定部114は、ステップS21にて取得した力触覚に関する制御パラメータにおける位置を示す値が第2閾値未満であるか否かを判定する。この判定は、把持機構65により検査対象物4が破損していない状態であること確認する意図で行われる処理である。
【0134】
この点、検査対象物4が破損していないのであれば、内容物である二酸化炭素や窒素ガスといった気体の漏れ(いわゆる空気漏れ)や食品等の流出は発生しない。そのため、把持が継続したとしても、検査対象物4である包装容器は、所定の基準以上は潰れないはずである。これに対して、検査対象物4が破損しているのであれば、内容物である二酸化炭素や窒素ガスといった気体の漏れ(いわゆる空気漏れ)や食品等の流出が発生する。そのため、把持が継続すると、検査対象物4である包装容器は、所定の基準以上に潰れてしまう。
【0135】
従って、第2閾値は、検査対象物4が破損していないのであれば、把持機構65により検査対象物4を把持した場合に、位置を示す値がそれ未満とはならない値(すなわち、上述の所定の基準以上潰れないと移動しないはずの位置を示す値)に設定される。例えば、把持機構65が開閉することにより、検査対象物4を把持するような場合に、検査対象物4が破損していないのであれば、それ以上閉まらないはずの位置を示す位置を示す値が第2閾値に設定される。なお、検査対象物4の種類により、上述の所定の基準は異なる。そのため、上述したように、本実施形態では、検査対象物4の種類により、第2閾値を異ならせている。
【0136】
なお、第2閾値と比較する、本判定での「位置を示す値」とは、例えば、把持を開始する前のアクチュエータの位置を基準とした相対値となる。例えば、把持機構65に含まれる把持部材が開閉することで把持をする機構である場合、把持を開始する前の開いた状態でのアクチュエータの位置を基準とした相対値となる。
この場合に、判定の精度をより高めるには、基準となる、把持を開始する前の状態が毎回同じ状態であることが望ましい。そこで、例えば、動作制御部111による動作の制御において、力を示す値が所定値未満であり、把持が行われていないことが検出された場合には、スレーブ側アクチュエータ62を制御することにより把持機構65に含まれる把持部材が毎回同じ位置に移動するような制御を行う。例えば、把持機構65に含まれる把持部材が開閉することで把持をする機構である場合、毎回同じ広さで開くようにスレーブ側アクチュエータ62を制御する。これにより、基準となる、把持を開始する前の状態が毎回同じ状態となるので、判定の精度をより高めることが可能となる。
【0137】
なお、他の方法として、本判定での「位置を示す値」とは、例えば、スレーブ側アクチュエータ62に含まれる第1アクチュエータにより把持機構65に含まれる第1把持部材を移動させ、スレーブ側アクチュエータ62に含まれる第2アクチュエータにより把持機構65に含まれる第2把持部材を移動させ、これら第1把持部材と、第2把持部材の距離を縮めることにより(例えば、閉じることにより)把持を行うような構成の場合には、第1アクチュエータに対応する位置を示す値と、第2アクチュエータに対応する位置を示す値の、他方を基準とした相対値としてもよい。
【0138】
位置を示す値が第2閾値未満である場合は、ステップS25においてYesと判定され、処理はステップS28に進む。これは、位置が第2閾値未満の状態となっており、検査対象物4が所定の基準以上は潰れている状態のままであることから、検査対象物4が破損したと判定した意図で行われる処理である。一方で、位置を示す値が第2閾値未満である場合は、ステップS25においてNoと判定され、処理はステップS26に進む。
【0139】
ステップS26において、判定部114は、ステップS21〜ステップS27にて用いるカウンタの値を1つカウントアップする。
ステップS27において、判定部114は、カウンタの値が規定カウント数に到達したか否かを判定する。到達した場合は、ステップS27においてYesと判定され、処理はステップS28に進む。一方で、到達していない場合は、ステップS27においてNoと判定され、処理はステップS21に戻り、繰り返される。これは、位置が第2閾値未満とならない状態が所定時間継続しており、把持が行われても検査対象物4が所定の基準以上は潰れない状態のままであるので、検査対象物4が破損していないということを確認する意図で行われる処理である。
【0140】
上述したように、判定部114は、力を示す値が第1閾値を維持している状態で、且つ、位置を示す値が第2閾値未満とならないか、に基づいて検査対象物4の破損に関する判定を行う。すなわち、把持における力を一定とした状態で、位置の変化(すなわち、移動量)に基づいて判定を行う。このように、判定部114は、力触覚に関する制御パラメータに基づいて、把持におけるインピーダンスを適切に特定し、所定の基準(ここでは、力を一定として接触した場合の移動量という基準)という客観的な指標に基づいた判定を行うことにより、安定した精度での判定を実現することができる。
【0141】
ステップS28において、判定部114は、ステップS21を繰り返すことにより取得した、力触覚に関する制御パラメータをパラメータ記憶部151に記憶する。この記憶された制御パラメータは、その後、検査対象物4の種類に応じた第2閾値の値を修正する場面等で、ユーザUが参考するために利用される。
【0142】
ステップS29において、判定部114は、検査対象物4が破損しているか否かの判定結果をウェアラブル端末2に対して送信する。ここで、ステップS25においてYesと判定された後に行われるステップS29では、送信される判定結果は「検査対象物4が破損している。」というものになる。一方で、ステップS27においてYesと判定された後に行われるステップS29では、送信される判定結果は「検査対象物4が破損していない。」というものになる。
【0143】
ステップS30において、通知部214は、判定結果をユーザUに対して通知する。例えば、判定結果である「検査対象物4が破損している。」という旨、又は「検査対象物4が破損していない。」という旨の何れかを示すテキストを表示したり音声を出力したりする。
ステップS31において、通知部214は、作業情報をユーザUに対して通知する。例えば、この作業情報は、判定結果に応じたものとし、ユーザUが次に行うべき作業を具体的に指示する内容とする。
【0144】
これらステップS30及びステップS31における通知の具体例について、
図14及び
図15を参照して説明をする。
図14は、検査対象物4が破損していないと判定された場合の通知例を示す模式図である。
図15は、検査対象物4が破損していると判定された場合の通知例を示す模式図である。
【0145】
図14に、出力部27に含まれる透過型ディスプレイを示す。このディスプレイは透過型であるので、ユーザUは、ディスプレイを介して自身が操作する状態判定装置1と、この状態判定装置1で把持している検査対象物4と、格納先となるコンテナと、の実物を視認することができる。なお、
図14及び
図15では、これらディスプレイを透過して視認される実物を破線で表す。加えて、ディスプレイ上には、通知部214により通知された情報が表示される。具体的に、ディスプレイ上の領域AR1には、検査対象物4が破損していないという判定結果に対応する「OK」というテキストや、位置を示す値(図中では「測定値」)が、第2閾値(図中では「閾値」)未満であることを示すテキストが表示される。また、ディスプレイ上の領域AR2には、作業において格納すべき各製品の数と、格納すべき数に不足している製品の数とが表示される。この表示は、作業情報記憶部252に記憶されている作業情報等に基づいて生成することができる。さらに、ディスプレイ上の領域AR3には、ユーザUが次に行うべき作業を具体的に指示する内容として「コンテナABCに格納」という検査対象物4の格納先を示すテキストが表示される。
【0146】
図15にも、出力部27に含まれる透過型ディスプレイを示す。ユーザUは、ディスプレイを介して自身が操作する状態判定装置1と、この状態判定装置1で把持している検査対象物4と、廃棄先となるコンテナと、の実物を視認することができる。加えて、ディスプレイ上の領域AR4には、検査対象物4が破損しているという判定結果に対応する「NG」というテキストや、位置を示す値(図中では「測定値」)が、第2閾値(図中では「閾値」)を超えたことを示すテキストが表示される。また、ディスプレイ上の領域AR5には、ユーザUが次に行うべき作業を具体的に指示する内容として「廃棄コンテナに廃棄」という検査対象物4の廃棄先を示すテキストが表示される。
【0147】
ユーザUは、これら
図14や
図15に例示したような表示を参照することにより、判定結果や、作業の進捗状況や、自身が次に行うべき作業、といった様々な情報を容易に把握することができる。すなわち、本実施形態では、力触覚を伝達する技術と、複合現実の技術を組み合わせて、ユーザUの検査等における作業や判断を補助(すなわち、サポート)することができる。また、検査作業を、仕分けやピッキングといった作業と並行して行うことができるので、作業工程を圧縮することができる。
【0148】
次に、
図16を参照すると、ステップS32において、パラメータ取得部112は、リアルタイムに算出した現時点での力触覚に関する制御パラメータを取得する。
ステップS33において、判定部114は、ステップS32にて取得した力触覚に関する制御パラメータにおける力を示す値が第1閾値未満か否かを判定する。この判定は、ユーザUが
図15や
図16のような通知を参照して作業を完了し(例えば、検査対象物4をコンテナに格納し)、把持機構65により検査対象物4が把持されている状態が終了したことを確認する意図で行われる。
【0149】
力を示す値が第1閾値未満の場合は、ステップS33においてYesと判定され、処理はステップS34に進む。一方で、力を示す値が第1閾値以上の場合(すなわち、未だ把持が継続している場合)は、ステップS33においてNoと判定され、処理はステップS32に戻り、判定を繰り返す。
【0150】
ステップS34において、判定部114は、ステップS32を繰り返すことにより取得した、力触覚に関する制御パラメータをパラメータ記憶部151に記憶する。この記憶された制御パラメータは、その後、検査対象物4の種類に応じた第1閾値の値を修正する場面等で、ユーザUが参考するために利用される。
【0151】
ステップS35において、判定部114は、一連の状態判定処理が終了した旨をウェアラブル端末2に対して送信する。
ステップS30において、通知部214は、一連の状態判定処理が終了したことをユーザUに対して通知する。
ステップS37において、通知部214は、状態判定装置1の状態を示すスターテスを初期化する。
【0152】
ステップS38において、作業情報管理部215は、今回の作業内容を反映して、作業情報記憶部252が記憶する作業情報を更新する。例えば、検査対象物4が破損しておらず、コンテナに格納されたのであれば、このコンテナの現在の格納数を増加させる。あるいは、検査対象物4が破損しており、廃棄されたのであれば、廃棄数を増加させる。また、これらの作業を行ったユーザUの識別情報や、作業終了時刻等の情報も追加する。
ステップS39において、作業情報管理部215は、更新後の作業情報をサーバ装置3に対して送信する。
【0153】
ステップS40において、作業情報管理部313は、受信した更新後の作業情報に基づいて、作業情報記憶部352が記憶する作業情報を更新する。これにより、本処理は終了する。このように、ステップS38〜ステップS40の処理を行うことにより、ユーザUの検査等における作業や判断を補助(すなわち、サポート)するのみならず、現在の作業情報を簡便に更新したり、最終的な作業履歴を簡便に作成したりすることが可能となる。
【0154】
以上説明した、状態判定処理によれば、破損に関する検査を行うに際し、客観的な指標に基づいた、安定した精度での検査を実現することができる。
また、状態判定処理によれば、検査作業を、仕分けやピッキングといった作業と並行して行うことができる、すなわち、作業工程を圧縮することができる。
【0155】
[変形例]
以上、本発明の実施形態について説明したが、この実施形態は例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明は、本発明の要旨を逸脱しない範囲で、その他の様々な実施形態を取ることが可能である共に、省略及び置換等種々の変形を行うことができる。この場合に、これら実施形態及びその変形は、本明細書等に記載された発明の範囲及び要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
一例として、以上説明した本発明の実施形態を、以下のようにして変形してもよい。
【0156】
上述した実施形態では、単一のサーバ装置3が、対象物情報の管理、画像解析による検査対象物4の識別、及び製品情報の管理を行っていた。これに限らず、例えば、これら複数の機能を、複数のサーバ装置に分散して実現するようにしてもよい。また、例えば、状態判定装置1とウェアラブル端末2とを単一の装置として実現してもよい。
【0157】
さらに、上述の実施形態では、力を示す値が第1閾値を維持している状態で、且つ、位置を示す値が第2閾値未満とならないか、に基づいて検査対象物4の破損に関する判定を行っていた。すなわち、力を一定とした状態で、位置の変化(すなわち、移動量)に基づいて判定を行っていた。これに限らず、例えば、位置を一定とした状態で、力の変化に基づいて判定を行ってもよい。あるいは、力の変化と位置の変化の双方に基づいて判定を行ってもよい。すなわち、力触覚に関する制御パラメータに基づいて、把持におけるインピーダンスを適切に特定し、安定した精度で判定をすることが可能であれば、判定を行う基準を適宜変更してもよい。
【0158】
以上のように、本実施形態に係る状態判定システムSは、動作制御部111と、パラメータ取得部112と、判定部114と、通知部214と、を備える。
動作制御部111は、ユーザの操作に基づいて状態判定装置1の動作を制御することにより、状態判定装置1に検査対象物を把持させる。
パラメータ取得部112は、動作制御部111による状態判定装置1の制御で用いた、力触覚に関する制御パラメータを取得する。
判定部114は、パラメータ取得部112が取得した力触覚に関する制御パラメータに基づいて、検査対象物の破損に関する判定をする。
通知部214は、判定部114の判定結果をユーザに対して通知する。
このように、状態判定システムSは、検査対象物を把持機構で把持した際の力触覚に関する制御パラメータに基づいて、客観的に検査対象物の破損に関する判定をする。すなわち、状態判定システムSは、作業における感覚(ここでは、力触覚)をデータ化することで作業を見える化することができる。これにより、検査精度が属人的な感覚(すなわち、作業者の主観)に依存することなく、安定した精度で検査を行うことが可能となる。また、このような構成であることから、様々なセンサや検査用のコンベアといった大掛かりな設備を必要とすることなく、簡便に状態判定システムSを実現できる。そのため、様々な製品について、輸送途中での破損を発見するための物流センターや小売店舗等で行われる検査に適用することが可能となる。
すなわち、状態判定システムSによれば、破損に関する検査を行うに際し、客観的な指標に基づいた、安定した精度での検査を実現することができる。
【0159】
検査対象物は、包装容器であり、
判定部114は、包装容器の破損により、検査対象物である包装容器によって包装されている内容物が流出しているか否かを判定する。
これにより、包装容器の破損により、空気漏れ等が発生していないか否かを検査することができる。
【0160】
状態判定装置1は、ユーザの操作を受け付けるマスタ装置と、検査対象物の把持を実行するスレーブ装置とを含んでいる。
動作制御部111は、マスタ装置とスレーブ装置との間で力触覚に関する制御パラメータを伝達することにより、状態判定装置1の動作を制御する。
これにより、マスタ装置の動作とスレーブ装置の動作とを制御する際の、力触覚に関する制御パラメータを利用して検査を行うことができる。
【0161】
状態判定システムSは、識別部312をさらに備える。
識別部312は、検査対象物を認識することにより、該検査対象物の種類を識別する。
判定部114は、識別部312が識別した検査対象物の種類に対応する基準で、検査対象物の破損に関する判定をする。
これにより、様々な種類の検査対象物それぞれに対応した、適切な基準により検査を行うことができる。
【0162】
識別部312は、ユーザが装着する撮影装置により撮影された検査対象物の画像に基づいて、該検査対象物の種類を識別する。
これにより、画像識別によって、より簡便に、検査対象物の種類を識別することができる。
【0163】
通知部214は、ユーザが装着する通知装置から、判定部114の判定結果と共に、あるいは該判定結果に代えて、該判定結果に基づいたユーザに対する作業指示を通知する。
これにより、ユーザに対して、破損の有無等に応じた適切な作業指示を通知することができる。
【0164】
判定部114は、力触覚に関する制御パラメータに基づいて検出される、状態判定装置1が備える所定部位の位置に基づいて、検査対象物の破損に関する判定をする。
これにより、位置という明確な基準に基づいて、検査を行うことができる。
【0165】
状態判定システムSは、作業情報管理部216及び作業情報管理部313をさらに備える。
作業情報管理部216及び作業情報管理部313は、ユーザによる状態判定装置1を用いた作業の結果を管理する。
これにより、検査を行うのみならず、作業履歴の管理等を行うことができる。
【0166】
動作制御部111は、力触覚に関する制御パラメータを調整して状態判定装置1の把持を抑制することにより、該把持によって検査対象物が破損することを防止する。
これにより、検査中に誤って検査対象物を破損させてしまうような事態を防止することができる。
【0167】
動作制御部111は、前記ユーザによる操作に基づいて状態判定装置1を制御するために、位置センサと、力・速度割当変換ブロックFT理想力源ブロックFC及び理想速度(位置)源ブロックPCと、逆変換ブロックIFTと、を備える。
位置センサは、状態判定装置1の動作に伴う、位置に関する情報を検出する。
力・速度割当変換ブロックFTは、位置に関する情報に対応する所定の物理量の情報と、制御の基準となる情報とに基づいて、制御エネルギーを所定の物理量のエネルギーに対して割り当てる変換を行う。
理想力源ブロックFC及び理想速度(位置)源ブロックPCは、力・速度割当変換ブロックFTによって割り当てられた所定の物理量のエネルギーに基づいて、所定の物理量の制御量を算出する。
逆変換ブロックIFTは、理想力源ブロックFC及び理想速度(位置)源ブロックPCが算出した制御量に基づく出力を状態判定装置1に戻すべく、該制御量を逆変換して、状態判定装置1への入力を決定する。
これにより、各ユーザが力触覚を伴う動作を行う場合に、力触覚に関する制御パラメータに基づいて、状態判定装置1の動作を制御することができる。
【0168】
[ハードウェアやソフトウェアによる機能の実現]
上述した実施形態による一連の処理を実行させる機能は、ハードウェアにより実現することもできるし、ソフトウェアにより実現することもできるし、これらの組み合わせにより実現することもできる。換言すると、上述した一連の処理を実行する機能が、状態判定システムSの何れかにおいて実現されていれば足り、この機能をどのような態様で実現するのかについては、特に限定されない。
【0169】
例えば、上述した一連の処理を実行する機能を、演算処理を実行するプロセッサによって実現する場合、この演算処理を実行するプロセッサは、シングルプロセッサ、マルチプロセッサ及びマルチコアプロセッサ等の各種処理装置単体によって構成されるものの他、これら各種処理装置と、ASIC(Application Specific Integrated Circuit)又はFPGA(Field−Programmable Gate Array)等の処理回路とが組み合わせられたものを含む。
【0170】
また、例えば、上述した一連の処理を実行する機能を、ソフトウェアにより実現する場合、そのソフトウェアを構成するプログラムは、ネットワーク又は記録媒体を介してコンピュータにインストールされる。この場合、コンピュータは、専用のハードウェアが組み込まれているコンピュータであってもよいし、プログラムをインストールすることで所定の機能を実行することが可能な汎用のコンピュータ(例えば、汎用のパーソナルコンピュータ等の電子機器一般)であってもよい。また、プログラムを記述するステップは、その順序に沿って時系列的に行われる処理のみを含んでいてもよいが、並列的あるいは個別に実行される処理を含んでいてもよい。また、プログラムを記述するステップは、本発明の要旨を逸脱しない範囲内において、任意の順番に実行されてよい。
【0171】
このようなプログラムを記録した記録媒体は、コンピュータ本体とは別に配布されることによりユーザに提供されてもよく、コンピュータ本体に予め組み込まれた状態でユーザに提供されてもよい。この場合、コンピュータ本体とは別に配布される記憶媒体は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disc−Read Only Memory)、DVD(Digital Versatile Disc)、あるいはBlu−ray(登録商標) Disc(ブルーレイディスク)等により構成される。光磁気ディスクは、例えば、MD(Mini Disc)等により構成される。これら記憶媒体は、例えば、
図8のドライブ18や
図10のドライブ38に装着されて、コンピュータ本体に組み込まれる。また、コンピュータ本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている
図8のROM12、
図9のROM22、
図10のROM32、
図8の記憶部15、
図9の記憶部25、あるいは、
図10の記憶部35に含まれるハードディスク等により構成される。
【解決手段】状態判定システムSは、動作制御部111と、パラメータ取得部112と、判定部114と、通知部214と、を備える。動作制御部111は、ユーザの操作に基づいて状態判定装置1の動作を制御することにより、状態判定装置1に検査対象物を把持させる。パラメータ取得部112は、動作制御部111による状態判定装置1の制御で用いた、力触覚に関する制御パラメータを取得する。判定部114は、パラメータ取得部112が取得した力触覚に関する制御パラメータに基づいて、検査対象物の破損に関する判定をする。通知部214は、判定部114の判定結果をユーザに対して通知する。