(58)【調査した分野】(Int.Cl.,DB名)
作業者が製品に対して作業を行う作業領域を撮影する撮影装置、前記作業を支援する作業支援情報が含まれた投影画像を入力して前記作業領域に投影する投影機、前記撮影装置により撮影された撮影画像に基づいて前記投影画像を生成し、当該投影画像を前記投影機に出力する作業支援装置を備えた作業支援システムにおいて、
前記作業支援装置は、
前記製品を認識可能な当該製品のうちの3箇所以上の特徴画像を当該各箇所の位置関係とともに登録する特徴画像登録部と、
前記製品に対する前記作業支援情報の表示位置を登録する支援情報登録部と、
前記撮影装置により撮影された撮影画像を取得する画像取得部と、
前記特徴画像登録部に登録された情報に基づいて、前記画像取得部により取得された撮影画像と前記特徴画像とを照合し、当該撮影画像の照合された各箇所の位置関係から、当該撮影画像における前記製品の位置を特定する位置特定部と、
前記位置特定部により特定された前記製品の位置及び前記支援情報登録部に登録された前記作業支援情報の表示位置から、当該作業支援情報の投影位置を算出する投影位置算出部と、
前記投影位置算出部により算出された投影位置に前記作業支援情報を配置した投影画像を生成する投影画像生成部と、
前記投影画像生成部により生成された投影画像を前記投影機に出力する投影画像出力部とを備えた
ことを特徴とする作業支援システム。
作業者が製品に対して作業を行う作業領域を撮影する撮影装置により撮影された撮影画像に基づいて前記作業を支援する作業支援情報が含まれた投影画像を生成し、前記撮影画像を入力して前記作業領域に投影する投影機に当該投影画像を出力する作業支援装置において、
前記製品を認識可能な当該製品のうちの3箇所以上の特徴画像を当該各箇所の位置関係とともに登録する特徴画像登録部と、
前記製品に対する前記作業支援情報の表示位置を登録する支援情報登録部と、
前記撮影装置により撮影された撮影画像を取得する画像取得部と、
前記特徴画像登録部に登録された情報に基づいて、前記画像取得部により取得された撮影画像と前記特徴画像とを照合し、当該撮影画像の照合された各箇所の位置関係から、当該撮影画像における前記製品の位置を特定する位置特定部と、
前記位置特定部により特定された前記製品の位置及び前記支援情報登録部に登録された前記作業支援情報の表示位置から、当該作業支援情報の投影位置を算出する投影位置算出部と、
前記投影位置算出部により算出された投影位置に前記作業支援情報を配置した投影画像を生成する投影画像生成部と、
前記投影画像生成部により生成された投影画像を前記投影機に出力する投影画像出力部と
を備えたことを特徴とする作業支援装置。
作業者が製品に対して作業を行う作業領域を撮影する撮影装置、前記作業を支援する作業支援情報が含まれた投影画像を入力して前記作業領域に投影する投影機、前記撮影装置により撮影された撮影画像に基づいて前記投影画像を生成し、当該投影画像を前記投影機に出力する作業支援装置を備えた作業支援システムの作業支援方法において、
前記作業支援装置は、
特徴画像登録部が、前記製品を認識可能な当該製品のうちの3箇所以上の特徴画像を当該各箇所の位置関係とともに登録する特徴画像登録ステップと、
支援情報登録部が、前記製品に対する前記作業支援情報の表示位置を登録する支援情報登録ステップと、
画像取得部が、前記撮影装置により撮影された撮影画像を取得する画像取得ステップと、
位置特定部が、前記特徴画像登録部に登録された情報に基づいて、前記画像取得部により取得された撮影画像と前記特徴画像とを照合し、当該撮影画像の照合された各箇所の位置関係から、当該撮影画像における前記製品の位置を特定する位置特定ステップと、
投影位置算出部が、前記位置特定部により特定された前記製品の位置及び前記支援情報登録部に登録された前記作業支援情報の表示位置から、当該作業支援情報の投影位置を算出する投影位置算出ステップと、
投影画像生成部が、前記投影位置算出部により算出された投影位置に前記作業支援情報を配置した投影画像を生成する投影画像生成ステップと、
投影画像出力部が、前記投影画像生成部により生成された投影画像を前記投影機に出力する投影画像出力ステップとを有する
ことを特徴とする作業支援方法。
【発明を実施するための形態】
【0010】
以下、この発明の実施の形態について図面を参照しながら詳細に説明する。
実施の形態1.
図1はこの発明の実施の形態1に係る作業支援システムの構成を示す図である。
作業支援システムは、
図1に示すように、撮影装置1、投影機(プロジェクタ)2及び作業支援装置3から構成されている。
【0011】
撮影装置1は、作業者が製品に対して作業を行う作業領域を撮影するものであり、例えばWebカメラ等が用いられる。この撮影装置1は、製品との間に作業者が重ならないような位置に設置される。
なお、作業者が行う作業としては、例えば、製品にネジを締付けたりコネクタを挿入したりする組立作業、製品にステッカー等を貼り付ける貼付作業、製品にコーティング剤を塗布する塗布作業、製品に設けられた複数のスイッチのうち指定されたスイッチのみを切替える切替作業や、これらの作業が正しく行われたかを検査する検査作業等が挙げられる。
【0012】
投影機2は、作業支援装置3から作業者による作業を支援するための情報(作業支援情報)が含まれた投影画像を入力し、当該投影画像を作業領域に投影するものである。これにより、作業領域上に位置する製品に対して作業支援情報が直接投影される。この投影機2は、製品との間に作業者が重ならないような位置に設置される。
なお、撮影装置1及び投影機2は汎用品でよい。また、撮影装置1における撮影領域の座標と、投影機2における投影領域の座標は、作業支援装置3にてそれぞれ変換可能に構成されている。また、作業支援装置3にてキャリブレーション値を指定しておくことで、任意に撮影装置1及び投影機2を変更可能である。
【0013】
作業支援装置3は、撮影装置1により撮影された撮影画像に基づいて作業支援情報を含む投影画像を生成し、当該投影画像を投影機2に出力するものである。この作業支援装置3は、
図2に示すように、特徴画像登録部31、支援情報登録部32、画像取得部33、位置特定部34、投影位置算出部35、投影画像生成部36及び投影画像出力部37から構成されている。なお、作業支援装置3の機能部33〜37は、ソフトウェアに基づくCPUを用いたプログラム処理によって実行される。また、登録部31,32は、HDD、DVD、メモリ等によって構成される。
【0014】
特徴画像登録部31は、上記製品毎に、当該製品を認識可能な当該製品のうちの3箇所以上の画像を特徴画像とし、当該各箇所の位置関係とともに登録するものである。
【0015】
支援情報登録部32は、上記製品毎に、作業支援情報と、当該製品に対する当該作業支援情報の表示位置を登録するものである。ここで、作業支援情報としては、例えば、作業箇所を指し示す矢印や○、作業工程順を示す数字、作業内容を示す文字列等が挙げられる。また、製品の取り付け位置に部品が取り付けられているかのように表示する部品画像を用いてもよいし、アニメーション等を用いてもよい。また、これらを組み合わせてもよい。
【0016】
画像取得部33は、撮影装置1により撮影された撮影画像を取得するものである。
位置特定部34は、特徴画像登録部31に登録された情報に基づいて、画像取得部33により取得された撮影画像と特徴画像とを照合して当該製品の検出を行い、当該撮影画像の照合された各箇所の位置関係から、当該撮影画像における当該製品の位置を特定するものである。
【0017】
投影位置算出部35は、位置特定部34により特定された撮影画像における製品の位置及び支援情報登録部32に登録された当該製品に対する該当する作業支援情報の表示位置から、当該作業支援情報の投影位置を算出するものである。
【0018】
投影画像生成部36は、投影位置算出部35により算出された投影位置に支援情報登録部32に登録された該当する作業支援情報を配置した投影画像を生成するものである。
投影画像出力部37は、投影画像生成部36により生成された投影画像を投影機2に出力するものである。
【0019】
次に、上記のように構成された作業支援装置3の動作について、
図3〜8を参照しながら説明する。
なお、特徴画像登録部31では、予め、上記製品毎に3箇所以上の特徴画像を、その位置関係とともに登録している(特徴画像登録ステップ)。この特徴画像としては、製品の全体画像のうち、一意となる形状で、光の反射の少ない画像を用いる。また、特徴画像の大きさは、位置特定部34での照合処理速度を考慮して設定する。
また、位置特定部34では、各特徴画像と撮影画像の照合を行い、各特徴画像の位置関係と、撮影画像上の照合された各箇所の位置関係とから、製品の位置(設置された角度)を特定する。そのため、特徴画像は少なくとも3箇所以上必要である。例えば
図4では、製品自体を撮影した全体画像401のうち、四隅の画像402a〜402dを切出して特徴画像としている。
【0020】
また、支援情報登録部32では、予め、上記製品毎に、作業支援情報、及び当該製品に対する当該作業支援情報の表示位置を示す情報を登録している(支援情報登録ステップ)。支援情報登録部32では、例えば
図5に示すようなテーブルが予め設定され、保持している。
図5に示すテーブルでは、製品を基準位置に設置した場合に投影機2で作業支援情報を投影する位置を示す投影座標上のX座標及びY座標(PRJ.X,PRJ.Y)と、作業支援情報の内容(PRJ.MARK)が登録されている。なお
図5において、「arrow」は矢印、「circle」は丸、「MSG」は文字列を示している。
【0021】
そして、作業支援装置3の動作では、
図3に示すように、まず、画像取得部33は、撮影装置1により撮影された撮影画像を取得する(ステップST1、画像取得ステップ)。すなわち、作業者が製品に対して作業を行う作業領域を撮影した撮影画像を取得する。
【0022】
次いで、位置特定部34は、特徴画像登録部31に登録された情報に基づいて、画像取得部33により取得された撮影画像と特徴画像を照合し、当該撮影画像の照合された各箇所の位置関係から、当該撮影画像における当該製品の位置を特定する(ステップST2、位置特定ステップ)。この際、位置特定部34は、撮影画像の特定箇所と特徴画像との照合率が予め設定された閾値を超えた場合に、当該特定箇所を照合された箇所として検出する。この照合には、例えばOpenCV(Open Source Computer Vision Library)等の技術を利用すればよい。また、上記閾値は設定変更可能である。
【0023】
次いで、投影位置算出部35は、位置特定部34により特定された撮影画像における製品の位置及び支援情報登録部32に登録された当該製品に対する該当する作業支援情報の表示位置から、当該作業支援情報の投影位置を算出する(ステップST3、投影位置算出ステップ)。
【0024】
次いで、投影画像生成部36は、投影位置算出部35により算出された投影位置に支援情報登録部32に登録された該当する作業支援情報を配置した投影画像を生成する(ステップST4、投影画像生成ステップ)。
【0025】
次いで、投影画像出力部37は、投影画像生成部36により生成された投影画像を投影機2に出力する(ステップST5、投影画像出力ステップ)。
【0026】
そして、投影機2は、作業支援装置3からの投影画像を入力し、この投影画像を製品に投影する。これにより、製品に対して作業支援情報を直接投影することができる。
図6〜8に投影イメージ図を示す。その後、作業者は、製品に投影された作業支援情報に従って作業を行えばよく、従来のような作業内容の見間違えや、作業内容を忘れてしまうこと、作業内容を確認せずに作業を行うことを抑制でき、作業ミスを低減することができる。また、本発明では、撮影装置1により撮影された撮影画像を用いて製品の位置を特定しているため、製品の設置位置がその都度違う場合であっても、作業支援情報を正しい位置に投影することができる。
なお
図6の例では、コネクタを挿入する箇所を指し示すように矢印を製品に投影した場合を示している。
図7の例では、コネクタを挿入する箇所を囲むように丸を製品に投影した場合を示している。
図8の例では、複数の作業工程について、作業箇所を囲む丸と、作業工程順を示す数字と、その作業内容を示す文字列を製品に投影した場合を示している。
【0027】
以上のように、この実施の形態1によれば、撮影画像と予め登録した特徴画像とを照合してその位置関係から当該撮影画像における製品の位置を特定し、その位置と予め登録した作業支援情報の製品に対する表示位置から当該作業支援情報の投影位置を算出して投影画像を生成し、投影機2により当該作業支援情報を当該製品に直接投影させるように構成したので、作業者が作業を行う製品の位置が変わる場合であっても、従来構成に対して作業ミスを低減することができる。また、作業箇所が複数ある場合に、作業に不慣れな作業者であっても、作業ミスを低減することができる。
【0028】
また本発明では、撮影装置1により撮影された撮影画像を用いて、リアルタイムに製品の特定を行うことが可能である。そのため、作業の途中で製品の設置位置が変わったとしても追従して位置を特定することが可能である。
【0029】
また
図1の構成では、撮影装置1及び投影機2を1台ずつ設けた場合を示している。しかしながら、作業者の移動等により、撮影装置1及び投影機2の前に作業者が位置してしまうと、製品の検出及び製品への作業支援情報の投影が行えなくなる場合がある。そこで、撮影装置1及び投影機2を複数台ずつ設け、例えば左右にそれぞれ設置してもよい。これにより、作業者の背後に位置してしまう撮影装置1及び投影機2があったとしても、他の撮影装置1及び投影機2で製品の検出及び製品への作業支援情報の投影を行うことができる。
【0030】
また、本発明では、撮影装置1による撮影領域内に製品が投入された時点で、位置特定部34による製品の検出が行われ次の作業指示準備を行う。そのため、作業者による作業をスムーズに開始することができる。
【0031】
また上記の位置特定部34では、撮影画像全体と特徴画像との照合を行う場合について示した。しかしながら、これに限るものではなく、撮影画像のうちの予め指定された一部分と特徴画像との照合を行い、製品の検出を行うようにしてもよい。すなわち、現場では、製品の設置位置は事前にある程度把握することができる。そのため、撮影画像全体を照合対象とはせずに、一部分のみを照合対象とする。これにより、位置特定部34による照合処理速度を向上させることができる。
【0032】
実施の形態2.
実施の形態2では、タブレット端末4を用いて、作業者が作業支援情報に従って作業を完了したかを確認するとともに、この確認に応じて次の作業支援情報の投影に移行する構成について示す。
図9はこの発明の実施の形態2に係る作業支援システムの構成を示す図であり、
図10はこの発明の実施の形態2に係る作業支援装置3の構成を示す図である。
図9に示す実施の形態2に係る作業支援システムは、
図1に示す実施の形態1に係る作業支援システムにタブレット端末4を追加したものである。また、
図10に示す実施の形態2に係る作業支援装置3は、
図2に示す実施の形態1に係る作業支援装置3に表示画像生成部38、表示画像出力部39及び作業完了検出部40を追加したものである。その他の構成は同様であり、同一の符号を付して異なる部分についてのみ説明を行う。
【0033】
タブレット端末4は、作業者が操作を行う端末である。このタブレット端末4は、投影機2による作業支援情報の投影と連動して、作業支援装置3から当該作業支援情報に対応する表示画像を入力し、当該表示画像を表示する。そして、作業者はその作業支援情報に対応した作業が完了した際に、タブレット端末4の表示画像上の所定箇所をタップすることで、作業支援装置3に作業完了を通知する。このタブレット端末4は汎用品でよい。
【0034】
また、作業支援装置3の支援情報登録部32では、実施の形態1での登録情報に加え、製品毎に、作業支援情報に対応する情報(例えば、当該製品の全体画像、作業支援情報に対応する当該全体画像上の作業箇所、その作業内容)を登録している。支援情報登録部32では、例えば
図11に示すようなテーブルが予め設定され、保持している。
図11に示すテーブルでは、
図5に示した登録情報に加え、タブレット端末4に表示される製品の全体画像上の作業箇所を示すタブレット座標上のX座標及びY座標(DSP.X,DSP.Y)と、製品の全体画像(DSP.IMAGE)と、その作業内容(DSP.MSG)が登録されている。
【0035】
表示画像生成部38は、支援情報登録部32の登録情報に基づいて、作業支援情報に対応する表示画像を生成するものである。
表示画像出力部39は、投影画像出力部37と連動して、表示画像生成部38により生成された表示画像をタブレット端末4に出力するものである。
【0036】
作業完了検出部40は、タブレット端末4による上記表示画像の表示後、作業者によるタップ操作から作業支援情報に対応する作業の完了を検出するものである。この際、以下に示す
図12の例では、作業完了検出部40は、作業者によるタップ位置と、支援情報登録部32に登録された全体画像上の作業箇所とを照合することで、該当する作業支援情報に対する作業の完了を検出する。
なお、表示画像生成部38、表示画像出力部39及び作業完了検出部40は、ソフトウェアに基づくCPUを用いたプログラム処理によって実行される。
【0037】
また、投影位置算出部35は、作業完了検出部38により作業支援情報に対応する作業の完了が検出された場合に、次の作業支援情報の投影位置を算出する。
【0038】
実施の形態2では、作業者が製品に対して作業を行う際に、投影機2により製品に対して作業支援情報が直接投影されるのとともに、タブレット端末4にも当該作業支援情報に対応する表示画像が表示される。例えば
図12では、
図11に示す登録情報に基づき、タブレット端末4に、製品の全体画像1201、作業箇所を示すマーク1202、及びその作業内容を示す情報1203を含む表示画像が表示される。
【0039】
そして、作業者は、製品に直接投影された作業支援情報に従って作業を行った後、
図12(a)に示すタブレット端末4の表示画像上のマーク1202をタップする。これを作業完了検出部40にて検出し、作業支援装置3では、作業支援情報に従った作業が完了したことを確認する。そして、投影機2は次の作業支援情報の投影を行い、また、タブレット端末4も次の画面に移行する(
図12(b))。
【0040】
以上のように、この実施の形態2によれば、投影機2による作業支援情報の製品への投影と連動して、タブレット端末4に当該作業支援情報に対応する表示画像を表示し、その後、作業者によるタップ操作から作業完了を確認して、次の作業支援情報の投影に移行するように構成したので、実施の形態1における効果に加え、タブレット端末4を用いた確認機能を付加することができ、作業ミスをより低減することができる。
【0041】
なお上記では、投影位置算出部35が作業工程順に沿って作業支援情報の投影位置を算出して、製品に直接投影させるとともにタブレット端末4に対応する表示をさせる場合を想定している。一方、作業支援情報が検査作業を支援する情報である場合には、投影位置算出部35が、上記作業工程順とは異なる順に作業支援情報の投影位置を算出するようにしてもよい。これにより、組立作業等の作業工程順とは異なる順序で検査を行うことができ、検査に対する意識向上を図ることができ、作業ミスのさらなる低減が期待できる。
【0042】
また、本発明はその発明の範囲内において、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。