(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-01-10
(45)【発行日】2023-01-18
(54)【発明の名称】作業分析装置及び作業分析プログラム
(51)【国際特許分類】
G05B 19/418 20060101AFI20230111BHJP
G06T 7/20 20170101ALI20230111BHJP
【FI】
G05B19/418 Z
G06T7/20 300A
(21)【出願番号】P 2019065318
(22)【出願日】2019-03-29
【審査請求日】2022-02-16
(73)【特許権者】
【識別番号】501428545
【氏名又は名称】株式会社デンソーウェーブ
(74)【代理人】
【識別番号】100095795
【氏名又は名称】田下 明人
(74)【代理人】
【識別番号】100143454
【氏名又は名称】立石 克彦
(72)【発明者】
【氏名】吉田 賢一
【審査官】石川 健一
(56)【参考文献】
【文献】特開2009-015529(JP,A)
【文献】特開2018-156279(JP,A)
【文献】特開2016-062365(JP,A)
【文献】国際公開第2018/179361(WO,A1)
【文献】米国特許出願公開第2013/0070056(US,A1)
【文献】特開2008-108008(JP,A)
【文献】特開2007-243846(JP,A)
【文献】特開2017-134666(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G05B 19/418
G06T 7/20
(57)【特許請求の範囲】
【請求項1】
複数の単位作業が所定の順番で行われる所定の作業を繰り返し撮像して作業分析用の作業動画を生成する作業分析装置であって、
作業者により繰り返しなされる前記所定の作業を撮像する撮像部と、
前記撮像部の撮像範囲内にて前記単位作業ごとに、少なくとも当該単位作業の第1の動作を検出するための第1の監視領域と当該単位作業の第2の動作を検出するための第2の監視領域とを含めた複数の監視領域を設定する監視領域設定部と、
前記撮像部により撮像された撮像画像のうち前記監視領域設定部により設定された前記監視領域に該当する部分と当該撮像画像よりも前の時点で撮像された他の撮像画像における前記監視領域に該当する部分との比較結果に基づいて、当該監視領域において前記単位作業に関する動作がなされていると判定される可能性が高くなるほど高くなるような信頼度を、前記監視領域ごとに設定する信頼度設定部と、
少なくとも前記信頼度設定部により前記第1の監視領域にて設定された前記信頼度と前記第2の監視領域にて設定された前記信頼度とに基づいて、対応する前記単位作業が行われているか否かについて判定する判定部と、
前記判定部により作業が行われていると判定された前記単位作業について、前記第1の監視領域にて前記信頼度を設定するための前記撮像画像を撮像したタイミングと前記第2の監視領域にて前記信頼度を設定するための前記撮像画像を撮像したタイミングとの少なくとも一方を利用して、前記撮像部により撮像された作業動画を前記単位作業ごとに区切るための区切情報を設定する区切情報設定部と、
を備えることを特徴とする作業分析装置。
【請求項2】
前記単位作業は、所定の部品箱から取り出した部品を被組付部材に組み付ける作業であり、
前記第1の動作は、前記部品箱から前記部品を取り出す動作であり、
前記第2の動作は、前記部品を前記被組付部材の組付予定位置に組み付ける動作であることを特徴とする請求項1に記載の作業分析装置。
【請求項3】
前記信頼度設定部は、前記第1の監視領域に関する前記信頼度について、前記撮像部により前記第1の監視領域を撮像した撮像画像の差分に基づいて前記部品が計数可能であるか否かに応じて、設定方式を変えることを特徴とする請求項2に記載の作業分析装置。
【請求項4】
前記判定部は、前記第2の監視領域にて設定された前記信頼度を前記第1の監視領域にて設定された前記信頼度よりも重みを増すようにして全ての前記信頼度を数値化して合算した合算値に基づいて、対応する前記単位作業が行われているか否かについて判定すること特徴とする請求項2又は3に記載の作業分析装置。
【請求項5】
複数の単位作業が所定の順番で行われる所定の作業を繰り返し撮像して作業分析用の作業動画を生成する作業分析装置の制御部に、
作業者により繰り返しなされる前記所定の作業を撮像部を利用して撮像する撮像処理と、
前記撮像部の撮像範囲内にて前記単位作業ごとに、少なくとも当該単位作業の第1の動作を検出するための第1の監視領域と当該単位作業の第2の動作を検出するための第2の監視領域とを含めた複数の監視領域を設定する監視領域設定処理と、
前記撮像処理により撮像された撮像画像のうち前記監視領域設定処理により設定された前記監視領域に該当する部分と当該撮像画像よりも前の時点で撮像された他の撮像画像における前記監視領域に該当する部分との比較結果に基づいて、当該監視領域において前記単位作業に関する動作がなされていると判定される可能性が高くなるほど高くなるような信頼度を、前記監視領域ごとに設定する信頼度設定処理と、
少なくとも前記信頼度設定処理により前記第1の監視領域にて設定された前記信頼度と前記第2の監視領域にて設定された前記信頼度とに基づいて、対応する前記単位作業が行われているか否かについて判定する判定処理と、
前記判定処理により作業が行われていると判定された前記単位作業について、前記第1の監視領域にて前記信頼度を設定するための前記撮像画像を撮像したタイミングと前記第2の監視領域にて前記信頼度を設定するための前記撮像画像を撮像したタイミングとの少なくとも一方を利用して、前記撮像部により撮像された作業動画を前記単位作業ごとに区切るための区切情報を設定する区切情報設定処理と、
を実行させることを特徴とする作業分析プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、複数の単位作業が所定の順番で行われる所定の作業を繰り返し撮像して作業分析用の作業動画を生成する作業分析装置及び作業分析プログラムに関するものである。
【背景技術】
【0002】
従来、製造現場では、例えばプリント基板や製造途中の装置等に対して、手作業で部品を組み付ける組み付け作業等が行われることがある。このような作業に関して作業効率の向上を図るために、繰り返される所定の作業を撮像して作業分析用の作業動画を生成し、この作業動画を解析等することで作業分析を行う手法が知られている。このような作業分析に関する技術として、例えば、下記特許文献1に開示される移動パターン特定装置が知られている。
【0003】
この移動パターン特定装置では、作業者の右手及び左手にそれぞれ付されたマーカの移動軌跡を動画像データから標準時系列データとして求め、この標準時系列データの中から作業の区切りの候補とみなすことができる点が区切り候補点として抽出される。そして、区切り候補点の近傍の動画像データを見たユーザから入力される入力指示に応じて、区切り位置を示す区切り位置情報及び当該区切り位置に対応する区切り内容情報が特定されると、このように特定された情報に基づいて、作業の種類及び作業の開始時刻・終了時刻を特定することができる。
【0004】
また、下記特許文献2に開示される画像抽出分析装置では、作業現場を撮像した動画像の中から指定された画像パターンを含む画像を抽出して、その繰り返し現れる時間間隔を算出し、その出現頻度が略同じとなる時間間隔ごとに当該時間間隔を基準にグループ分けしたヒストグラムが画面表示される。この表示に応じてユーザにより指定されたグループの画像及び時間間隔を画面表示することで、工程の区切りが動画像及び時間間隔とともに表示されることとなり、作業現場を撮像した動画像を順次的に見ることなしに各工程でどの作業に時間がかかっているかを容易に把握することができる。
【0005】
また、下記特許文献3に開示される作業分析装置にてなされる作業分析処理では、読み込んだ分析対象の作業動画が、計測状態表示領域等とともに作業分析画面に再生表示される。そして、動画再生中に再生画面の一部をマウスでクリックする区切操作が作業者により行われると、その再生画面の一部の上に選択画面が表示される。この表示状態で、その選択画面に表示されるいずれかの属性情報をマウスでクリックする選択操作が作業者により行われると、区切操作により区切られる動画範囲について、選択操作により選択される属性情報を含む分析データが関連付けられて記録される。
【先行技術文献】
【特許文献】
【0006】
【文献】特開2008-108008号公報
【文献】特開2007-243846号公報
【文献】特開2017-134666号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
ところで、例えば、部品箱に収容される部品を被組付部材に組み付けるような作業を分析対象とする場合、部品箱から部品を取り出したことを判定することで、作業動画を単位作業ごとに区切ることができる。しかしながら、例えば、部品箱から取り出す部品が細かいものであると、部品を部品箱から取り出したか否かについての判定があいまいとなり、精度良く作業動画を区切ることができない可能性がある。
【0008】
本発明は、上述した課題を解決するためになされたものであり、その目的とするところは、部品の取り出し判定があいまいとなるような作業であっても精度良く作業動画を区切ることができる構成を提供することにある。
【課題を解決するための手段】
【0009】
上記目的を達成するため、特許請求の範囲の請求項1に記載の発明は、
複数の単位作業が所定の順番で行われる所定の作業を繰り返し撮像して作業分析用の作業動画を生成する作業分析装置(10)であって、
作業者(M)により繰り返しなされる前記所定の作業を撮像する撮像部(13)と、
前記撮像部の撮像範囲内にて前記単位作業ごとに、少なくとも当該単位作業の第1の動作を検出するための第1の監視領域(P1a~P1d)と当該単位作業の第2の動作を検出するための第2の監視領域(P2a~P2d)とを含めた複数の監視領域を設定する監視領域設定部(11)と、
前記撮像部により撮像された撮像画像のうち前記監視領域設定部により設定された前記監視領域に該当する部分と当該撮像画像よりも前の時点で撮像された他の撮像画像における前記監視領域に該当する部分との比較結果に基づいて、当該監視領域において前記単位作業に関する動作がなされていると判定される可能性が高くなるほど高くなるような信頼度を、前記監視領域ごとに設定する信頼度設定部(11)と、
少なくとも前記信頼度設定部により前記第1の監視領域にて設定された前記信頼度と前記第2の監視領域にて設定された前記信頼度とに基づいて、対応する前記単位作業が行われているか否かについて判定する判定部(11)と、
前記判定部により作業が行われていると判定された前記単位作業について、前記第1の監視領域にて前記信頼度を設定するための前記撮像画像を撮像したタイミングと前記第2の監視領域にて前記信頼度を設定するための前記撮像画像を撮像したタイミングとの少なくとも一方を利用して、前記撮像部により撮像された作業動画を前記単位作業ごとに区切るための区切情報を設定する区切情報設定部(11)と、
を備えることを特徴とする。
なお、上記各括弧内の符号は、後述する実施形態に記載の具体的手段との対応関係を示すものである。
【発明の効果】
【0010】
請求項1の発明では、撮像部の撮像範囲内にて単位作業ごとに、少なくとも当該単位作業の第1の動作を検出するための第1の監視領域と当該単位作業の第2の動作を検出するための第2の監視領域とを含めた複数の監視領域が監視領域設定部により設定される。そして、撮像部により撮像された撮像画像のうち監視領域設定部により設定された監視領域に該当する部分と当該撮像画像よりも前の時点で撮像された他の撮像画像における監視領域に該当する部分との比較結果に基づいて、当該監視領域において単位作業に関する動作がなされていると判定される可能性が高くなるほど高くなるような信頼度が、監視領域ごとに信頼度設定部により設定される。そして、少なくとも信頼度設定部により第1の監視領域にて設定された信頼度と第2の監視領域にて設定された信頼度とに基づいて、対応する単位作業が行われているか否かについて判定部により判定され、判定部により作業が行われていると判定された単位作業について、第1の監視領域にて信頼度を設定するための撮像画像を撮像したタイミングと第2の監視領域にて信頼度を設定するための撮像画像を撮像したタイミングとの少なくとも一方を利用して、撮像部により撮像された作業動画を単位作業ごとに区切るための区切情報が区切情報設定部により設定される。
【0011】
これにより、少なくとも第1の監視領域にて設定された信頼度と第2の監視領域にて設定された信頼度とに基づいて、対応する単位作業が行われているか否かについて判定されるので、1つの監視領域の監視結果に基づいて判定する場合と比較して、判定精度を高めることができる。特に、判定基準として複数箇所での信頼度を採用するため、例えば、繊細な単位作業を行っているために1つの監視領域で低い信頼度が設定されたとしても、他の監視領域で高い信頼度が設定されることで当該単位作業が行われていると判定できるので、繊細な作業など、多種多様な単位作業を精度良く判定することができる。したがって、部品の取り出し判定があいまいとなるような作業であっても精度良く作業動画を区切ることが可能な作業分析装置を実現することができる。
【0012】
請求項2の発明では、単位作業は、所定の部品箱から取り出した部品を被組付部材に組み付ける作業であり、第1の動作は、部品箱から部品を取り出す動作であり、第2の動作は、部品を被組付部材の組付予定位置に組み付ける動作である。これにより、第1の監視領域での撮像画像の比較結果に基づいて、部品箱から部品を取り出す動作がなされている可能性が高くなるほど、第1の監視領域にて設定される信頼度が高くなる。また、第2の監視領域での撮像画像の比較結果に基づいて、部品を被組付部材の組付予定位置に組み付ける動作がなされている可能性が高くなるほど、第2の監視領域にて設定される信頼度が高くなる。このように、部品箱から部品を取り出す動作に基づく信頼度と部品を被組付部材の組付予定位置に組み付ける動作に基づく信頼度との双方を考慮するので、所定の部品箱から取り出した部品を被組付部材に組み付けるような単位作業が繰り返し行われる場合であっても、その作業動画を精度良く区切ることができる。
【0013】
請求項3の発明では、信頼度設定部は、第1の監視領域に関する信頼度について、撮像部により第1の監視領域を撮像した撮像画像の差分に基づいて部品が計数可能であるか否かに応じて、設定方式を変える。これにより、例えば、計数可能である部品については、部品個数が規定数だけ減少している場合に信頼度を高く設定し、部品個数が規定数だけ減少していない場合に信頼度を低く設定し、計数不能である部品については信頼度を最も高い信頼度と最も低い信頼度との間に設定することができる。このように、監視する部品に適した信頼度の設定方式に変更することで、より細かに信頼度を設定することができる。
【0014】
請求項4の発明では、第2の監視領域にて設定された信頼度を第1の監視領域にて設定された信頼度よりも重みを増すようにして全ての信頼度を数値化して合算した合算値に基づいて、対応する単位作業が行われているか否かについて判定部により判定される。これにより、判定部による判定に関して、被組付部材の組付予定位置に部品を組み付ける動作に関する信頼度の影響が、部品箱から部品を取り出す動作に関する信頼度の影響よりも高くなるので、より実状に即した信頼度を設定することができる。
【0015】
請求項5の発明によれば、請求項1と同様の効果を奏する作業分析プログラムを実現できる。
【図面の簡単な説明】
【0016】
【
図1】第1実施形態に係る作業分析装置の概略構成を示す説明図である。
【
図2】部品箱を撮像した撮像画像において、各マーカを利用して監視領域が設定された状態を説明する説明図である。
【
図3】作業分析装置の電気的構成を例示するブロック図である。
【
図4】
図4(A)は、ワークに対して部品が組み付けられる前の状態を各監視領域とともに示す説明図であり、
図4(B)は、ワークに対して部品が組み付けられた後の状態を各監視領域とともに示す説明図である。
【
図5】制御部にてなされる作業分析処理の流れを例示するフローチャートである。
【
図6】
図5の第1信頼度設定処理の流れを例示するフローチャートである。
【
図7】
図5の第2信頼度設定処理の流れを例示するフローチャートである。
【
図8】第1信頼度及び第2信頼度に基づいて設定される総合信頼度を説明する説明図である。
【発明を実施するための形態】
【0017】
[第1実施形態]
以下、本発明に係る作業分析装置及び作業分析プログラムを具現化した第1実施形態について、図面を参照して説明する。
本実施形態に係る作業分析装置10は、
図1に例示するように、作業台1等に設けられており、作業者Mにより複数の単位作業が所定の順番で行われる所定の作業を繰り返し撮像して作業分析用の作業動画を生成する装置として構成されている。
【0018】
組み付け作業が行われる作業台1には、プリント基板などの被組付部材(以下、単に、ワークWともいう)が搬送されて配置される。この作業台1の棚2には、複数の部品箱30が作業者Mから見て左右に並ぶように配置されており、各部品箱30には、ワークWに組み付けるための複数種類の部品20がそれぞれ個別に貯留されている。本実施形態では、
図2からわかるように、棚2上に4つの部品箱30a~30dが並んで配置され、部品箱30aに部品20aが収容され、部品箱30bに部品20bが収容され、部品箱30cに部品20cが収容され、部品箱30dに部品20dが収容されている。
【0019】
本実施形態では、各部品箱30a~30dの上縁の四隅には、部品箱による部品の収容範囲を撮像画像から認識するためのマーカ31a~31dが端子箱ごとに異なるように付されている。このため、撮像画像において、各マーカ31aを四隅とする範囲が後述する監視領域P1aとして設定され、各マーカ31bを四隅とする範囲が後述する監視領域P1bとして設定され、各マーカ31cを四隅とする範囲が後述する監視領域P1cとして設定され、各マーカ31dを四隅とする範囲が後述する監視領域P1dとして設定される。なお、本実施形態では、マーカ31aは黒丸状に形成され、マーカ31bは、黒星状に形成され、マーカ31cは、黒い菱形状に形成され、マーカ31dは、アスタリスク形状に形成されているが、これに限らず、撮像画像から部品箱の四隅を認識可能な形状であればよい。また、
図2では、後述する撮像部13により撮像される画像のうち部品箱30a~30dの近傍を拡大して示している。
【0020】
作業分析装置10は、
図1及び
図3に示すように、制御部11、記憶部12、撮像部13、表示部14、発光部15、スピーカ16、操作部17、通信部18などを備えている。制御部11は、マイコンを主体として構成されて、作業分析装置10の全体的制御や各種演算を行うものであり、例えば後述する作業分析処理を実行するように機能する。記憶部12は、ROM、RAM、HDD、不揮発性メモリなどの公知の記憶媒体によって構成されており、作業分析処理を実行するためのアプリケーションプログラム(以下、作業分析プログラムともいう)や所定のデータベース等が、制御部11により利用可能に予め格納されている。
【0021】
撮像部13は、受光センサ(例えば、C-MOSエリアセンサ、CCDエリアセンサ等)を備えたカメラとして構成されている。本実施形態では、撮像部13は、制御部11や表示部14等を備えた装置本体10aとは別体として構成されており、作業者Mの作業状態に加えて各部品箱30a~30d及びワークWの状態を動画で撮像するように、作業台1の上部に配置されている。本実施形態では、撮像部13は、例えば、30フレーム/秒で動画(連続静止画)を撮像し、撮像した動画が制御部11によって分析可能に記憶部12に記憶されるように構成されている。
【0022】
表示部14は、例えば、液晶ディスプレイであって、制御部11により制御されて、撮像部13により撮像された撮像画像や所定の情報等が表示されるように構成されている。この表示部14の表示画面が作業者Mによって視認されるように、装置本体10aが作業台1の背板等に取り付けられている。
【0023】
発光部15は、例えば、LEDであって、制御部11により制御されて、発光色や点灯・点滅状態が制御されるように構成され、作業者Mによって視認容易な位置に配置されている。スピーカ16は、公知のスピーカ等によって構成されており、制御部11により制御されて、予め設定された音声やアラーム音等の各種通知音を放音するように構成されている。
【0024】
操作部17は、入力操作に応じた操作信号を制御部11に対して出力する構成をなしており、制御部11は、この操作信号を受けて入力操作に応じた処理を行うようになっている。通信部18は、上位機器等の外部装置との間でデータ通信を行うための通信インタフェースとして構成されており、制御部11と協働して通信処理を行うように構成されている。
【0025】
次に、作業者Mにより、所定の作業手順に従って、複数の部品箱に収容された部品を順次ワークWに組み付ける所定の作業が行われる際に、制御部11にてよって実行される作業分析プログラムに基づいてなされる作業分析処理について説明する。
【0026】
本実施形態では、分析対象の所定の作業として、
図4(A)の状態のワークWに対して4種類の部品20a~20dを順番に組み付けることで
図4(B)の状態のワークWとするための単位作業A~Dが採用されている。単位作業Aは、部品箱30aから部品20aを取り出して、この部品20aをワークWの組付予定位置Waに組み付ける作業である。また、単位作業Bは、部品箱30bから部品20bを取り出して、この部品20bをワークWの組付予定位置Wbに組み付ける作業である。また、単位作業Cは、部品箱30cから部品20cを取り出して、この部品20cをワークWの組付予定位置Wcに組み付ける作業である。また、単位作業Dは、部品箱30dから部品20dを取り出して、この部品20dをワークWの組付予定位置Wdに組み付ける作業である。本実施形態では、単位作業A、単位作業B、単位作業C、単位作業Dの順で順次作業がなされるように所定の作業手順が決まっているものとする。
【0027】
このため、
図2及び
図4に示すように、単位作業Aの開始動作(部品箱30aから部品20aを取り出す動作)を検出するための第1の監視領域として、撮像部13による撮像範囲のうち各マーカ31aを四隅とする範囲(部品箱30aに相当する範囲)が監視領域P1aとして設定される。また、単位作業Aの完了動作(部品20aをワークWの組付予定位置Waに組み付ける動作)を検出するための第2の監視領域として、撮像部13による撮像範囲のうち組付予定位置Waを中心とする範囲が監視領域P2aとして設定される。また、単位作業Bの開始動作(部品箱30bから部品20bを取り出す動作)を検出するための第1の監視領域として、撮像部13による撮像範囲のうち各マーカ31bを四隅とする範囲(部品箱30bに相当する範囲)が監視領域P1bとして設定される。また、単位作業Bの完了動作(部品20bをワークWの組付予定位置Wbに組み付ける動作)を検出するための第2の監視領域として、撮像部13による撮像範囲のうち組付予定位置Wbを中心とする範囲が監視領域P2bとして設定される。また、単位作業Cの開始動作(部品箱30cから部品20cを取り出す動作)を検出するための第1の監視領域として、撮像部13による撮像範囲のうち各マーカ31cを四隅とする範囲(部品箱30cに相当する範囲)が監視領域P1cとして設定される。また、単位作業Cの完了動作(部品20cをワークWの組付予定位置Wcに組み付ける動作)を検出するための第2の監視領域として、撮像部13による撮像範囲のうち組付予定位置Wcを中心とする範囲が監視領域P2cとして設定される。また、単位作業Dの開始動作(部品箱30dから部品20dを取り出す動作)を検出するための第1の監視領域として、撮像部13による撮像範囲のうち各マーカ31dを四隅とする範囲(部品箱30dに相当する範囲)が監視領域P1dとして設定される。また、単位作業Dの完了動作(部品20dをワークWの組付予定位置Wdに組み付ける動作)を検出するための第2の監視領域として、撮像部13による撮像範囲のうち組付予定位置Wdを中心とする範囲が監視領域P2dとして設定される。なお、上記各開始動作は、「第1の動作」の一例に相当し、上記各完了動作は、「第2の動作」の一例に相当し得る。
【0028】
上述のように各監視領域P1a~P1d,P2a~P2dが設定されることで、作業分析処理では、第1の監視領域として設定される監視領域P1a~P1dにおいて、作業者Mの手が入り込んだ際の前後の撮像画像の比較結果に基づいて、その監視領域(部品箱)から部品を取り出す動作がなされていると判定される可能性が高くなるほど高くなるような信頼度(以下、第1信頼度ともいう)が設定される。また、第2の監視領域として設定される監視領域P2a~P2dにおいて、作業者Mの手が入り込んだ際の前後の撮像画像の比較結果に基づいて、その監視領域(ワークWの組付予定位置)に部品を組み付ける動作がなされていると判定される可能性が高くなるほど高くなるような信頼度(以下、第2信頼度ともいう)が設定される。
【0029】
そして、上述のように設定された2つの信頼度をそれぞれ数値化して合算した合算値に基づいて対応する単位作業が行われているか否かについて判定され、肯定判定時には、第1の監視領域にて信頼度を設定するための撮像画像を撮像したタイミングを作業開始タイミングとし、第2の監視領域にて信頼度を設定するための撮像画像を撮像したタイミングを作業完了タイミングとするように、作業動画を区切るための区切情報が設定される。
【0030】
なお、各監視領域P1a~P1dは、上述したように各部品箱30a~30dの上縁の四隅に付されたマーカ31a~31dを利用することで、作業分析処理を実施するごとにその都度設定されることに限らず、各部品箱30a~30dを個々に搖動等させた状態を連続撮像することで生じる画像差分に基づいて設定されてもよい。また、各監視領域P1a~P1dは、決められた形状の各部品箱30a~30dが決められた位置に配置されることを前提に、画像解析等を要することなく、規定範囲に設定されてもよい。
【0031】
以下、制御部11にてよってなされる作業分析処理について、
図5~
図7に示すフローチャートを参照して具体的に詳述する。
操作部17に対して所定の開始操作がなされることで、制御部11により作業分析処理が開始されると、
図5のステップS101に示す作業情報読込み処理がなされ、指定された所定の作業に関する作業情報(作業に使用する部品の種類や個数(既定数)やワークWの種類及び監視領域に関する情報等)が記憶部12から読み込まれる。この作業情報には、対象の部品を部品箱から取り出した際の撮像部13での画像差分に基づいて、その部品の取り出し個数が計数可能であるか否かについての情報が含まれる。すなわち、大きな部品等であることから、取り出し個数を画像差分から計数可能な部品には、計数可能情報が付与され、小さな部品等であることから、取り出し個数を画像差分から計数不能な部品には、計数不能情報が付与される。また、本実施形態では、上記作業情報は、その製造ロットに関する作業手順等を記載した作業指示書等に付された情報コードや無線タグを読み取ることでその都度記憶部12に記憶される。なお、上記作業情報は、例えば、操作部17による入力操作等に応じて記憶部12に記憶されてもよいし、予め、通信部18を介して上位機器等から受信することで記憶部12に記憶されてもよい。
【0032】
上述のように作業情報が読み込まれると、ステップS103の監視領域設定処理がなされる。この処理では、撮像部13により作業者Mの作業を作業動画として撮像する撮像処理がなされる状態での撮像画像において、1つの単位作業について、第1の監視領域及び第2の監視領域を設定するための処理がなされる。まず、1番目の単位作業となる単位作業Aについて、撮像部13の撮像画像から特定される各マーカ31aを四隅とする範囲が監視領域(第1の監視領域)P1aとして設定され、撮像部13による撮像範囲のうち組付予定位置Waを中心とする範囲が監視領域(第2の監視領域)P2aとして設定される。なお、上記ステップS103の監視領域設定処理を行う制御部11は、「監視領域設定部」の一例に相当し得る。
【0033】
上述のように第1の監視領域及び第2の監視領域が設定されると、ステップS105に示す第1信頼度設定処理がなされる。この処理では、監視領域P1aにおいて、作業者Mの手が入り込んだ際の前後の撮像画像の比較結果に基づいて、上記第1信頼度を設定するための処理がなされる。
【0034】
具体的には、まず、
図6のステップS201に示す判定処理にて、監視領域P1aに作業者Mの手が所定時間入ったか否かについて、撮像部13により撮像された動画を利用して判定され、監視領域P1aにおいて画像差分が生じるまでNoとの判定が繰り返される。そして、画像差分に応じて監視領域P1aに作業者Mの手が所定時間入ったと判定されると(S201でYes)、ステップS203の判定処理にて、取り出す部品が計数可能であるか否かについて判定される。すなわち、本実施形態では、第1の監視領域に関する第1信頼度について、部品が計数可能であるか否かに応じて、設定方式を変える。ここで、上述のように読み込まれた作業情報にて、監視領域P1aから取り出す部品に関して計数可能情報が付与されている場合には、部品が計数可能であるとして、ステップS203にてYesと判定される。
【0035】
続いて、ステップS205の判定処理にて、規定数の部品個数が減少しているか否かについて判定される。ここで、監視領域P1aに手が入る直前の撮像画像と監視領域P1aから手が出た直後の撮像画像との比較結果となる画像差分に基づいて、計数される部品個数が上記作業情報から把握される規定数だけ減少している場合には、監視領域P1aから規定数の部品20aが取り出されている可能性が高いとして、ステップS205にてYesと判定される。この場合には、第1信頼度が、最も高い「High」に設定される(S207)。
【0036】
また、監視領域P1aに手が入る直前の撮像画像と監視領域P1aから手が出た直後の撮像画像との画像差分に基づいて、計数される部品個数が上記規定数だけ減少していない場合、例えば、計数される部品個数が変化していない場合には、監視領域P1aから規定数の部品20aが取り出されている可能性が低いとして、ステップS205にてNoと判定される。この場合には、第1信頼度が、最も低い「Lo」に設定される(S209)。
【0037】
その一方で、上述のように読み込まれた作業情報にて、監視領域P1aから取り出す部品に関して計数不能情報が付与されている場合には、ステップS203にてNoと判定される。この場合には、第1信頼度が、最も高い「High」と最も低い「Lo」との間となる「Mid」に設定される(S211)。
【0038】
上述のように、第1信頼度が「High」、「Mid」、「Lo」のいずれかに設定されると、上記画像差分に利用した撮像画像のうち手を入れた直前の撮像画像を撮像したタイミング(時刻)を作業開始タイミングとして、この作業開始タイミングとともに第1信頼度が、記憶部12のデータベースを利用して登録されて(S213)、本第1信頼度設定処理が終了する。なお、作業内容等に応じて、上記画像差分に利用した撮像画像のうち手が出た直後の撮像画像を撮像したタイミング(時刻)を作業開始タイミングとしてもよい。
【0039】
続いて、ステップS107に示す第2信頼度設定処理がなされる。この処理では、監視領域P2aにおいて、作業者Mの手が入り込んだ際の前後の撮像画像の比較結果に基づいて、上記第2信頼度を設定するための処理がなされる。
【0040】
具体的には、まず、
図7のステップS301に示す判定処理にて、監視領域P2aに作業者Mの手が所定時間入ったか否かについて、撮像部13により撮像された動画を利用して判定され、監視領域P2aにおいて画像差分が生じるまでNoとの判定が繰り返される。そして、画像差分に応じて監視領域P2aに作業者Mの手が所定時間入ったと判定されると(S301でYes)、ステップS303の判定処理にて、ワークWの組付予定位置Waに部品20aが組み付けられている可能性が高いか否かについて判定される。
【0041】
ここで、監視領域P2aに手が入る直前の撮像画像と監視領域P2aから手が出た直後の撮像画像との比較結果(画像差分)に基づいて、画像差分が組付予定位置Waに組み付けた部品20aの画像にほぼ一致することから、ワークWの組付予定位置Waに部品20aが組み付けられている可能性が高いと判定されると、ステップS303にてYesと判定される。この場合には、第2信頼度が、最も高い「High」に設定される(S307)。
【0042】
また、監視領域P2aに手が入る直前の撮像画像と監視領域P2aから手が出た直後の撮像画像との比較結果(画像差分)に基づいて、画像差分が組付予定位置Waに組み付けた部品20aの画像に明らかに一致しないことから、ワークWの組付予定位置Waに部品20aが組み付けられている可能性が低いと判定されると、ステップS303にてNo、ステップS305にてYesと判定される。この場合には、第2信頼度が、最も低い「Lo」に設定される(S309)。
【0043】
その一方で、監視領域P2aに手が入る直前の撮像画像と監視領域P2aから手が出た直後の撮像画像との比較結果(画像差分)に基づいて、ワークWの組付予定位置Waに部品20aが組み付けられている可能性が高いとも低いとも判定できない場合がある。例えば、組付予定位置Waからずれた状態で部品20aが組み付けられている場合や部品20aに似た色・形状の別の部品が組付予定位置Waに組み付けられている場合、部品20aが小さいために、明確に部品20aを画像認識できない場合等である。このような場合には、ステップS303にてNo、ステップS305にてNoと判定されて、第2信頼度が、「Mid」に設定される(S311)。
【0044】
上述のように、第2信頼度が「High」、「Mid」、「Lo」のいずれかに設定されると、上記画像差分に利用した撮像画像のうち手が出た直後の撮像画像を撮像したタイミング(時刻)を作業完了タイミングとして、この作業完了タイミングとともに第2信頼度が、記憶部12のデータベースを利用して登録されて(S313)、本第2信頼度設定処理が終了する。なお、作業内容等に応じて、上記画像差分に利用した撮像画像のうち手を入れた直前の撮像画像を撮像したタイミング(時刻)を作業完了タイミングとしてもよい。
【0045】
なお、第2信頼度設定処理の変形例として、例えば、計数可能である部品については、画像差分が組付予定位置に組み付けた部品の画像にほぼ一致するか否かについて判定に対して、肯定判定時に第2信頼度を「High」に設定し、否定判定時に第2信頼度を「Lo」に設定し、計数不能である部品については、第2信頼度を「Mid」に設定するようにしてもよい。なお、上述したステップS105の第1信頼度設定処理及びステップS107の第2信頼度設定処理を行う制御部11は、「信頼度設定部」の一例に相当し得る。
【0046】
上述のように第1信頼度及び第2信頼度が設定されると、ステップS109に示す総合信頼度設定処理がなされる。この処理では、第1信頼度を数値化した信頼度スコアと第2信頼度を数値化した信頼度スコアとを合算した合算値が総合信頼度として設定される。具体的には、例えば、
図8に示すように、第1信頼度における「High」、「Mid」、「Lo」を「2」、「1」、「0」として数値化するとともに、第2信頼度における「High」、「Mid」、「Lo」を第1信頼度よりも重みを増すように「3」、「2」、「0」として数値化し、それぞれの数値を合算(加算)するようにして総合信頼度を設定(算出)する。例えば、第1信頼度及び第2信頼度がともに「High」に設定されていると、総合信頼度は、
図8からわかるように、「5」に設定される。
【0047】
続いて、ステップS111の判定処理にて、総合信頼度が規定値以上であるか否かについて判定される。本実施形態では、上記規定値は、「2」に設定されており(
図8参照)、例えば、第1信頼度及び第2信頼度がともに「High」であることから総合信頼度が規定値以上になると(S111でYes)、単位作業Aが行われていると判定されて、ステップS113に示す区切情報設定処理がなされる。この処理では、監視対象である単位作業Aについて、第1信頼度に関連付けられる撮像タイミングが作業開始タイミングとなり、第2信頼度に関連付けられる撮像タイミングが作業完了タイミングとなるように、作業動画を区切るための区切情報が設定されて、記憶部12に記憶される。なお、上記ステップS111の判定処理を行う制御部11は、「判定部」の一例に相当し、上記ステップS113の区切情報設定処理を行う制御部11は、「区切情報設定部」の一例に相当し得る。
【0048】
このように区切情報が設定されると、作業が終了していない場合には(S117でNo)、監視対象が次の単位作業である単位作業Bに設定されて(S119)、この単位作業Bについて、ステップS103からの処理がなされる。この場合には、ステップS103にて、単位作業Bについて、撮像部13の撮像画像から特定される各マーカ31bを四隅とする範囲が監視領域(第1の監視領域)P1bとして設定され、撮像部13による撮像範囲のうち組付予定位置Wbを中心とする範囲が監視領域(第2の監視領域)P2bとして設定される。そして、ステップS105に示す第1信頼度設定処理がなされ、監視領域P1bにおいて、作業者Mの手が入り込んだ際の前後の撮像画像の比較結果に基づいて、第1信頼度を設定するための処理がなされる。その後、ステップS107に示す第2信頼度設定処理がなされ、監視領域P2bにおいて、作業者Mの手が入り込んだ際の前後の撮像画像の比較結果に基づいて、上記第2信頼度を設定するための処理がなされる。そして、第1信頼度を数値化した信頼度スコアと第2信頼度を数値化した信頼度スコアとを合算した合算値が総合信頼度として設定され(S109)、このように設定された総合信頼度が規定値以上になると(S111でYes)、単位作業Bが行われていると判定されて、この単位作業Bについて、第1信頼度に関連付けられる撮像タイミングが作業開始タイミングとなり、第2信頼度に関連付けられる撮像タイミングが作業完了タイミングとなるように、作業動画を区切るための区切情報が設定されて、記憶部12に記憶される(S113)。
【0049】
その後、同様にして、単位作業Cについて、監視領域P1cにおいて、作業者Mの手が入り込んだ際の前後の撮像画像の比較結果に基づいて、第1信頼度が設定されるとともに(S105)、監視領域P2cにおいて、作業者Mの手が入り込んだ際の前後の撮像画像の比較結果に基づいて、第2信頼度が設定されることで(S107)、総合信頼度が設定される(S109)。このように設定された総合信頼度が規定値以上になると(S111でYes)、単位作業Cが行われていると判定されて、この単位作業Cについて、第1信頼度に関連付けられる撮像タイミングが作業開始タイミングとなり、第2信頼度に関連付けられる撮像タイミングが作業完了タイミングとなるように、作業動画を区切るための区切情報が設定されて、記憶部12に記憶される(S113)。
【0050】
また、同様にして、単位作業Dについて、監視領域P1dにおいて、作業者Mの手が入り込んだ際の前後の撮像画像の比較結果に基づいて、第1信頼度が設定されるとともに(S105)、監視領域P2dにおいて、作業者Mの手が入り込んだ際の前後の撮像画像の比較結果に基づいて、第2信頼度が設定されることで(S107)、総合信頼度が設定される(S109)。このように設定された総合信頼度が規定値以上になると(S111でYes)、単位作業Dが行われていると判定されて、この単位作業Dについて、第1信頼度に関連付けられる撮像タイミングが作業開始タイミングとなり、第2信頼度に関連付けられる撮像タイミングが作業完了タイミングとなるように、作業動画を区切るための区切情報が設定されて、記憶部12に記憶される(S113)。
【0051】
このように、所定の作業として4つの単位作業A~Dに関する区切情報が設定された後も、さらに単位作業A~Dが繰り返しなされることで、順次、単位作業ごとに区切情報が設定されることとなる。このように、多数の単位作業について区切情報が設定されるので、区切情報を利用して区切った作業動画を分析等することで、作業の手順チェックやサイクル時間の計測等の作業を支援するためのデータを生成することができる。また、正しい作業が行われているか否かを判定するための判定用データ(アノテーションデータ)を自動で生成することができる。
【0052】
一方、総合信頼度が規定値未満となる場合には(S111でNo)、ステップS115に示す仮区切情報設定処理がなされる。この処理では、上記ステップS113の区切情報設定処理と異なり、仮区切情報が設定される。すなわち、総合信頼度が規定値未満となる単位作業について、第1信頼度に関連付けられる撮像タイミングが仮作業開始タイミングとなり、第2信頼度に関連付けられる撮像タイミングが仮作業完了タイミングとなるように、仮区切情報が上記区切情報と区別されるように設定されて、記憶部12に記憶される。
【0053】
このように記憶部12に記憶された仮区切情報を、作業完了後等に、信頼度とともに表示部14等に対して編集可能に画面表示することで、作業者等が作業動画を見ながら仮区切情報を編集等して正しい区切情報とすることができる。特に、仮区切位置がグラフィカルに表示されるため、作業者等は信頼度の低い作業区切りや、正しく判定できなかった作業区切りを確認することができる。
【0054】
以上説明したように、本実施形態に係る作業分析装置10では、撮像部13の撮像範囲内にて単位作業ごとに、当該単位作業の開始動作(第1の動作)を検出するための第1の監視領域(P1a~P1d)と当該単位作業の完了動作(第2の動作)を検出するための第2の監視領域(P2a~P2d)とが設定される。そして、撮像部13により撮像された撮像画像のうち監視領域に該当する部分と当該撮像画像よりも前の時点で撮像された他の撮像画像における監視領域に該当する部分との比較結果に基づいて、当該監視領域において単位作業に関する動作がなされていると判定される可能性が高くなるほど高くなるような信頼度が、監視領域ごとに設定される。そして、第1の監視領域にて設定された第1信頼度と第2の監視領域にて設定された第2信頼度とに基づいて、対応する単位作業が行われているか否かについて判定され、作業が行われていると判定された単位作業について、第1の監視領域にて第1信頼度を設定するための撮像画像を撮像したタイミングを作業開始タイミングとし、第2の監視領域にて第2信頼度を設定するための撮像画像を撮像したタイミングを作業完了タイミングとするように、撮像部13により撮像された作業動画を単位作業ごとに区切るための区切情報が設定される。
【0055】
これにより、第1の監視領域にて設定された第1信頼度と第2の監視領域にて設定された第2信頼度とに基づいて、対応する単位作業が行われているか否かについて判定されるので、1つの監視領域の監視結果に基づいて判定する場合と比較して、判定精度を高めることができる。特に、判定基準として複数箇所での信頼度を採用するため、例えば、繊細な単位作業を行っているために1つの監視領域で低い信頼度が設定されたとしても、他の監視領域で高い信頼度が設定されることで当該単位作業が行われていると判定できるので、繊細な作業など、多種多様な単位作業を精度良く判定することができる。したがって、部品の取り出し判定があいまいとなるような作業であっても精度良く作業動画を区切ることが可能な作業分析装置を実現することができる。
【0056】
特に、単位作業は、所定の部品箱30a~30dから取り出した部品20a~20dをワーク(被組付部材)Wに組み付ける作業であり、開始動作は、部品箱から部品を取り出す動作であり、完了動作は、部品を被組付部材の組付予定位置に組み付ける動作である。これにより、第1の監視領域(P1a~P1d)での撮像画像の比較結果に基づいて、部品箱から部品を取り出す動作がなされている可能性が高くなるほど、第1の監視領域にて設定される第1信頼度が高くなる。また、第2の監視領域(P2a~P2d)での撮像画像の比較結果に基づいて、部品を被組付部材の組付予定位置に組み付ける動作がなされている可能性が高くなるほど、第2の監視領域にて設定される第2信頼度が高くなる。このように、部品箱から部品を取り出す動作に基づく信頼度と部品を被組付部材の組付予定位置に組み付ける動作に基づく信頼度との双方を考慮するので、所定の部品箱から取り出した部品を被組付部材に組み付けるような単位作業が繰り返し行われる場合であっても、その作業動画を精度良く区切ることができる。
【0057】
また、第1信頼度設定処理では、第1の監視領域に関する第1信頼度について、撮像部13により第1の監視領域を撮像した撮像画像の差分に基づいて部品が計数可能であるか否かに応じて、設定方式を変える。すなわち、計数可能である部品については、部品個数が規定数だけ減少している場合に信頼度を「High」に設定し、部品個数が規定数だけ減少していない場合に信頼度を「Lo」に設定し、計数不能である部品については信頼度を「Mid」に設定する。このように、監視する部品に適した信頼度の設定方式に変更することで、より細かに信頼度を設定することができる。
【0058】
さらに、作業分析処理では、第2の監視領域(P2a~P2d)にて設定された第2信頼度を第1の監視領域(P1a~P1d)にて設定された第1信頼度よりも重みを増すようにして全ての信頼度を数値化して合算した総合信頼度(合算値)に基づいて、対応する単位作業が行われているか否かについて判定される。これにより、総合信頼度を利用した判定に関して、ワークWの組付予定位置Wa~Wdに部品20a~20dを組み付ける動作に関する第2信頼度の影響が、部品箱30a~30dから部品20a~20dを取り出す動作に関する第1信頼度の影響よりも高くなるので、より実状に即した信頼度を設定することができる。
【0059】
なお、本発明は上記実施形態等に限定されるものではなく、例えば、以下のように具体化してもよい。
(1)作業分析処理は、撮像部13により撮像される作業動画に対してリアルタイムで行われてもよいし、所定の作業が終了した後で行われてもよい。特に、リアルタイムで行われる作業分析処理では、低い信頼度が設定された際に、発光部15及びスピーカ16等を利用して所定の報知を行うことで、作業者等に対して作業ミス等の可能性を知らせることができる。
【0060】
(2)作業分析処理では、2つの監視領域(第1の監視領域及び第2の監視領域)にてそれぞれ設定される信頼度に応じて総合信頼度を設定することに限らず、第1の監視領域及び第2の監視領域を加えた3つ以上の監視領域を設定して、各監視領域にて設定される信頼度に応じて総合信頼度を設定してもよい。
【0061】
(3)上記総合信頼度設定処理にて採用される信頼度スコアは、「High」、「Mid」、「Lo」の順に数値が小さくなることを前提に、作業内容等に応じて任意の数値に設定することができる。また、作業内容等に応じて、上述した重みを無くすために、第1信頼度及び第2信頼度において、「High」、「Mid」、「Lo」に対応する信頼度スコアが同じ数値となるように設定されてもよい。また、上記総合信頼度設定処理にて採用される信頼度スコアは、「High」、「Mid」、「Lo」の3段階にすることに限らず、4段階以上にしてもよい。具体的には、例えば、「High」、「Mid1」、「Mid2」、「Lo」のように4段階にすることができる。また、複数の監視領域での信頼度をそれぞれ数値として求め、任意の係数等を用いて合成してもよい。
【0062】
(4)本発明における分析対象の所定の作業として、4つの単位作業A~Dからなる組み付け作業が採用されることに限らず、例えば、1つ~3つの単位作業からなる組み付け作業が採用されてもよいし、5つ以上の単位作業からなる組み付け作業が採用されてもよい。
【0063】
(5)監視対象となる単位作業は、部品箱から取り出した部品をプリント基板等のワークWに対して組み付ける作業であることに限らず、例えば、多品種少量生産品の組み付けラインにおいて半完成品に対して部品を組み付ける作業であってもよい。また、監視対象となる単位作業は、例えば、被組付部材から部品を変形させたり取り外したりするような作業であってもよい。
【0064】
(6)第1信頼度を設定するための撮像タイミングを作業開始タイミング、第2信頼度を設定するための撮像タイミングを作業完了タイミングとすることに限らず、いずれか一方のタイミングを、前の単位作業(例えば、単位作業A)の作業完了タイミングであって後の単位作業(例えば、単位作業B)の作業開始タイミングとしてもよい。
【符号の説明】
【0065】
10…作業分析装置
11…制御部(監視領域設定部,信頼度設定部,判定部,区切情報設定部)
13…撮像部
20,20a~20d…部品
30,30a~30d…部品箱
31a~31d…マーカ
P1a~P1d,P2a~P2d…監視領域
W…ワーク(被組付部材)
Wa~Wd…組付予定位置