(58)【調査した分野】(Int.Cl.,DB名)
前記予測部が、前記制御対象の移動方向及び移動速度に応じた第1の予測空間を決定すると共に、前記非制御対象の移動方向及び移動速度に応じた第2の予測空間を決定し、
前記制御部が、前記制御対象の周囲の前記第1の予測空間が前記非制御対象の周囲の前記第2の予測空間に重ならないように、前記制御対象の動きを軌道修正することを特徴とする請求項1に記載のロボットシステム。
【発明を実施するための形態】
【0009】
以下、添付図面を参照して、本実施の形態のロボットシステムについて説明する。
図1は、本実施の形態の生産ラインの模式図である。
図2は、比較例のロボットシステムの制御処理の説明図である。なお、本実施の形態では生産ラインのロボットシステムについて説明するが、生産ライン以外で作業するロボットにも適用することができる。また、以下の説明では、ロボットと人間とが同一空間で作業を実施している一例について説明するが、ロボット同士が同一空間で作業を実施していてもよい。
【0010】
図1に示すように、生産ラインの上流側には、ロボットスペース10と作業者スペース20が作業テーブル30を挟んで設けられており、ロボットスペース10のロボットアームRと作業者スペース20の人間Hによって作業テーブル30上の作業空間が共有されている。ロボットアームRはロボットスペース10内のボックス35からパーツ37を種類毎に振り分けて作業テーブル30上のボックス31に搬送し、人間Hはボックス31内のパーツ37をコンベア21上で組み立てている。このように、同一の作業空間でロボットアームRと人間Hとが協働作業しているため、ロボットアームRと人間Hが接触ないように安全性を確保する必要がある。
【0011】
通常は、例えば
図2Aに示すように、ロボットアームRと人間Hとが一定距離まで近づいた場合にロボットアームRを緊急停止させることで安全性を確保するが、ロボットアームRを停止状態から復帰させるために時間がかかって生産性が低下する。このため、人間HにはロボットアームRとの距離を常に保つような規則的な動きが求められる。一方で、
図2Bに示すように、ロボットアームRと人間Hとが一定距離まで近づいたとしても、ロボットアームRと人間Hの移動軌跡が交わらなければ接触することがないが、このような場合であってもロボットアームRが停止されてしまう。
【0012】
そこで、本実施の形態のロボットシステム1では、システムの制御対象ではない人間Hの動きを予測して、制御対象であるロボットアームRに人間Hとの接触を回避させている。このとき、ロボットアームRの動きを軌道修正することで人間Hの動きを避ける方向に動作を続けるため、ロボットアームRと人間Hとが近付いたとしてもロボットアームRが停止することがない。よって、ロボットアームRの作業を止めることなく人間Hとの接触を回避することができるため、生産性を悪化させることなく安全性を確保することが可能になっている。
【0013】
図1に戻り、ロボットシステム1は、筐体フレーム11の上部中央12にロボットアームRが取り付けられ、筐体フレーム11上の門型フレーム14に撮像装置(認識部)15が取り付けられている。ロボットアームRは先端のハンド部分を3次元空間の任意の位置に位置付ける多関節ロボットであり、ロボットコントローラ(制御部)16によってロボットアームRの動きが制御されている。撮像装置15は作業テーブル30上の作業空間で動作する人間Hを3次元で認識するものであり、撮像装置15からコンピュータ(予測部)17に距離画像(認識データ)がリアルタイムに出力されている。
【0014】
そして、コンピュータ17では距離画像の経時的な変化から人間Hの動きが予測され、ロボットコントローラ16ではコンピュータ17から出力された予測結果に基づいて人間Hを避ける方向で動作を維持するようにロボットアームRの動きが軌道修正されている。このようにして、ロボットシステム1では人間Hと同一空間でロボットアームRに所定の動作を実施させることが可能になっている。なお、ロボットアームRとしては、例えば、垂直多関節ロボット、水平多関節ロボットを用いることができる。撮像装置15としては、例えば、3Dスキャナ、ステレオカメラ、単眼カメラを用いることができる。ロボットコントローラ16としては、パーソナルコンピュータ、マイクロコントローラを用いることができる。
【0015】
また、ロボットシステム1の撮像装置15、コンピュータ17、ロボットコントローラ16の各種処理はプロセッサやメモリによって実行されている。メモリは、用途に応じてROM(Read Only Memory)、RAM(Random Access Memory)等の一つ又は複数の記憶媒体で構成される。また、メモリには、ロボットシステム1の各部の各種処理を実行するプログラムが記憶されている。
【0016】
以下、
図3から
図5を参照して、ロボットシステムの詳細について説明する。
図3は、本実施の形態の距離画像の生成処理の説明図である。
図4は、本実施の形態のロボットアームの軌道修正処理の説明図である。
図5は、本実施の形態の学習処理の説明図である。
【0017】
図3Aに示すように、撮像装置15によって作業テーブル30上の作業空間が撮像されると、撮像装置15から非制御対象である人間Hやパーツ37までの距離情報を含む距離画像が生成される。撮像装置15では連続的に距離画像が生成されており、撮像装置15から時系列に沿ってコンピュータ17(
図1参照)に距離画像が出力されている。このように、作業テーブル30上の作業空間の経時的な変化が、時間tにおける座標(x、y)の距離zとして出力されている。なお、本実施の形態では撮像対象を3次元に認識した認識データが距離画像として出力されているが、画像形式ではなく座標毎の距離情報として出力されてもよい。
【0018】
次に、
図3Bに示すように、コンピュータ17(
図1参照)では距離画像の点群データが作業テーブル30、人間H、パーツ37毎にグルーピングされる。この場合、時間が前後した距離画像の差分を取って、距離画像の差分を示す点群データが作業テーブル30の上面を基準にグルーピングされる。作業テーブル30自体はグループ1、作業テーブル30上の物体はパーツ37を示すグループ2、作業テーブル30の上方空間の物体は人間H(
図3では手のみ図示)を示すグループ3にそれぞれ設定される。このように、作業テーブル30の上面からの高さによってパーツ37と人間Hとが区別されている。
【0019】
例えば、時間t1から時間t2の間では、作業テーブル30の上面に新たに出現した静止物がパーツ37を示すグループ2に設定される。また、時間t2から時間t3の間では、作業テーブル30の上方空間に新たに出現した物体が人間Hを示すグループ3に設定される。なお、ロボットアームRも作業テーブル30の上方空間に位置するが、コンピュータ17がロボットアームRの動きを把握しているため、人間HとロボットアームRを区別することが可能になっている。また、ロボットアームRの点群データをグループ4に設定することも可能である。
【0020】
図4Aに示すように、グルーピングによって人間Hが認識されると、コンピュータ17(
図1参照)によって距離画像の経時的な変化から人間Hの動きが予測される。この場合、ロボットアームRの先端部分に注目点P
Rが設定されると共に、人間Hを示す点群データのうちロボットアームRの注目点P
Rから距離が最も近い点データに注目点P
Hが設定される。そして、距離画像の経時的な変化から人間Hの注目点P
Hの移動方向及び移動速度が算出される。なお、制御対象であるロボットアームRの注目点P
Rの移動方向及び移動速度はコンピュータ17によって把握されている。
【0021】
また、コンピュータ17では、ロボットアームRの注目点P
Rの移動方向及び移動速度に応じて注目点P
Rの周りに第1の予測空間S
Rが決定され、人間Hの注目点P
Hの移動方向及び移動速度に応じて注目点P
Hの周りに第2の予測空間S
Hが決定される。第1の予測空間S
RはロボットアームRの注目点P
Rが単位時間で移動できる範囲を予測しており、第2の予測空間S
Hは人間Hの注目点P
Hが単位時間で移動できる範囲を予測している。このようにして、作業空間ではロボットアームRの動きと人間Hの動きが常時監視されている。
【0022】
第1の予測空間S
Rは、ロボットアームRの注目点P
Rの移動方向に指向性を持ち、ロボットアームRの注目点P
Rの移動速度に応じた広さを持っている。第2の予測空間S
Hは、人間Hの注目点P
Hの移動方向に指向性を持ち、人間Hの注目点P
Hの移動速度に応じた広さを持っている。そして、ロボットアームRと人間Hとが近付くと、ロボットコントローラ16によってロボットアームRの注目点P
Rの周囲の第1の予測空間S
Rが人間Hの注目点P
Hの周囲の第2の予測空間S
Hに重ならないようにロボットアームRの動きが軌道修正される。
【0023】
実際には、
図4Bに示すように、ロボットアームRと人間Hの注目点P
R、P
Hの相対速度によってロボットアームRの動きが軌道修正される。この場合、ロボットアームRと人間Hの注目点P
R、P
Hを最短距離で結ぶ直線L上の相対速度が求められ、直線L上の相対速度によってロボットアームRの回避動作が制御される。このため、ロボットアームRと人間Hの移動方向が直線L上で向かい合っていれば、直線L上での相対速度が大きくなってロボットアームRと人間Hの注目点P
R、P
Hが遠くても回避動作が行われる。一方で、ロボットアームRと人間Hの移動方向が全く異なる方向であれば、直線L上での相対速度が小さくなってロボットアームRと人間Hの注目点P
R、P
Hが近くても回避動作が行われない。
【0024】
そして、現在の注目点P
R、P
H間の相対速度とこの2点間の最短距離で、ロボットアームRと人間Hとの接触が予測されると、第1、第2の予測空間S
R、S
Hが重なると判断されてロボットアームRの回避動作が行われる。一方で、現在の注目点P
R、P
H間の相対速度とこの2点間の最短距離で、ロボットアームRと人間Hとの接触がないと予測されると、第1、第2の予測空間S
R、S
Hが重ならないと判断されてロボットアームRの回避動作が行われない。すなわち、上記の第1、第2の予測空間S
R、S
Hは、ロボットアームRと人間Hの注目点P
R、P
Hの相対速度によって作業空間内に仮想的に認識される空間である。
【0025】
このように、ロボットアームRと人間Hの接触を予測してロボットアームRの動きが軌道修正されるため、ロボットアームRと人間Hの接触が抑えられている。特に、ロボットアームRの先端部分の注目点P
Rから人間Hまでの距離が最も近い箇所が人間Hの注目点P
Hに設定されるため、ロボットアームRと人間Hの最も接近した箇所の接触が回避されて安全性を確実に確保できる。また、第1、第2の予測空間S
R、S
Hが移動方向に応じた指向性と移動速度に応じた広さを持つため、ロボットアームRと人間Hの動きに応じて適切に軌道修正が行われる。
【0026】
すなわち、ロボットアームRと人間Hの距離が近づいても、ロボットアームRと人間Hの移動先が異なって接触の可能性が無い場合であれば、ロボットアームRによる回避動作が行われない。よって、ロボットアームR及び人間Hの作業が干渉することがないため、生産性が低下することがない。また、ロボットアームRと人間Hの距離が近づいて、ロボットアームRと人間Hの接触の可能性がある場合であっても、人間Hを回避しながらロボットアームRが動き続けるため、ロボットアームRの停止後の復帰動作が無くなって生産性を維持することができる。
【0027】
また、ロボットアームRの回避動作では、人間Hを避けながら別の動作に繋げる方向でロボットアームRの動きが軌道修正される。例えば、ロボットアームRが現在のターゲットから別のターゲットに移動先を変更する。ロボットアームRによる回避動作が別の作業の一部動作になるように軌道修正されるため、回避動作の動きが無駄になることがなく、さらに生産性を向上させることができる。
【0028】
さらに、
図5に示すように、ロボットシステム1(
図1参照)にランダムフォレスト等の学習機能を持たせるようにしてもよい。この場合、コンピュータ17(
図1参照)が距離画像を蓄積することによって人間Hの行動パターンを学習して、人間Hの動きを予測するようにしてもよい。例えば、撮像装置15(
図1参照)から距離画像が入力されると、距離画像の点群データが3次元のボクセルに振り分けられて人間Hの点群データを含むボクセルがマーキングされる。これらボクセルが1次元データに変換されて、人間Hの行動パターン毎にデータベースDBに蓄積される。
【0029】
そして、人間Hの現在の動きを示す1次元データが、データベースDBに蓄積された行動パターンに類似するか否かによって人間Hの動きが予測される。これにより、人間Hの作業を早期に予測して、ロボットアームRと人間Hが近付く前にロボットアームRの作業を切り替えることが可能になっている。例えば、ロボットアームRのターゲットを、人間Hがアクセスしようとするターゲットから切り替えることができる。このように、人間Hのターゲットを早期に予測してロボットアームRのターゲットを切り替えることで、人間HとロボットアームRの作業が互いに干渉することがなく生産性をさらに向上することができる。
【0030】
次に、
図6を参照して、ロボットシステムの制御方法について説明する。
図6は、本実施の形態のロボットシステムの制御方法を示すフローチャートである。なお、
図6の説明においては、
図1及び
図3の符号を適宜使用して説明する。
【0031】
図6に示すように、先ず撮像装置15によって作業テーブル30上の作業空間が撮像されて距離画像が生成され、撮像装置15からコンピュータ17に距離画像が出力される(ステップS01)。次に、コンピュータ17によって距離画像の点群データがグルーピングされる(ステップS02)。この場合、作業テーブル30の上面を基準に、作業テーブル30上の物体がパーツ37としてグルーピングされ、作業テーブル30の上方空間の物体が人間Hとしてグルーピングされる。非制御対象である人間Hはグルーピングによって初めて認識されるが、制御対象であるロボットアームRは常に認識されている。
【0032】
次に、コンピュータ17によってロボットアームRの注目点P
Rと人間Hの注目点P
Hが設定される(ステップS03)。この場合、ロボットアームRの先端部分に注目点P
Rが設定され、この注目点P
Rから距離が最も近い箇所に人間Hの注目点P
Hが設定される。次に、コンピュータ17によって距離画像の経時的な変化から人間Hの注目点P
Hの移動方向及び移動速度が算出される(ステップS04)。なお、制御対象のロボットアームRの注目点P
Rについては、コンピュータ17によって移動方向及び移動速度が常に把握されている。
【0033】
次に、制御対象であるロボットアームRの注目点P
Rと非制御対象である人間Hの注目点P
Hの相対速度が求められる(ステップS05)。この場合、ロボットアームRと人間Hの注目点P
R、P
Hを最短距離で結ぶ直線L上の相対速度が求められるため、注目点P
R、P
Hの相対的な移動方向によっては直線L上の相対速度が小さくなる。次に、ロボットアームRと人間Hとが接触するか否かが判断される(ステップS06)。現在の注目点P
R、P
H間の相対速度と最短距離でロボットアームRと人間Hとの接触が予測されると(ステップS06でYes)、ロボットアームRの動きが軌道修正される(ステップS07)。
【0034】
一方、現在の注目点P
R、P
H間の相対速度と最短距離でロボットアームRと人間Hとの接触がないと予測されると(ステップS06でNo)、ロボットアームRの動きが軌道修正されることなく動作が維持される。次に、ロボットシステム1が稼働停止か否かが判定され(ステップS08)、ロボットシステム1が稼働停止になるまでステップS01からステップS07までの処理が繰り返される。
【0035】
以上のように、本実施の形態のロボットシステム1では、人間Hの動きの予測結果に基づいてロボットアームRの動きが軌道修正されるため、同一空間でロボットアームRと人間Hと人間Hが別々の動作を実施する場合であっても干渉することがない。また、人間Hを避ける方向にロボットアームRの動きが軌道修正されて動作が維持されるため、ロボットアームRが動作中に停止することがない。よって、安全性を確保した状態で生産性を下げることなく、同一の作業空間でロボットアームRと人間Hに同時に作業させることができる。
【0036】
なお、本発明は上記実施の形態に限定されず、種々変更して実施することが可能である。上記実施の形態において、添付図面に図示されている大きさや形状などについては、これに限定されず、本発明の効果を発揮する範囲内で適宜変更することが可能である。その他、本発明の目的の範囲を逸脱しない限りにおいて適宜変更して実施することが可能である。
【0037】
例えば、上記の実施の形態では、ロボットシステム1が生産ラインの上流側に適用される構成にしたが、この構成に限定されない。
図7に示すように、ロボットシステム1は、ロボットアームRと人間Hとが交互に並ぶような他の生産ラインに適用されてもよい。このような構成であっても、隣り合うロボットアームRと人間Hを同一の作業空間で協働作業させることが可能である。
【0038】
また、上記の実施の形態では、距離画像の経時的な変化から人間Hの動きが予測され、ロボットコントローラ16が、予測結果に基づいて人間Hを避ける方向で動作を維持するようにロボットアームRの動きを軌道修正する構成にしたが、この構成に限定されない。ロボットコントローラ16が、予測結果に基づいてロボットアームRの動きを制御する構成であればよく、例えば、ロボットアームRが人間Hに近づいたときにロボットアームRを停止させるようにしてもよい。
【0039】
また、上記の実施の形態では、ロボットシステム1をロボットアームRと人間Hとが協働作業する構成に適用したが、協働作業する構成に限定されない。ロボットシステム1は、ロボットアームRと人間Hとが同一空間で動作する構成に適用可能であり、ロボットアームRと人間Hとが同一空間で無関係な作業を実施する構成に適用してもよい。
【0040】
また、上記の実施の形態では、ロボットシステム1が、人間Hを非制御対象とする構成にしたが、この構成に限定されない。ロボットシステム1は、例えば、別システムに属するロボットを非制御対象にしてもよい。
【0041】
また、上記の実施の形態では、制御対象が多関節のロボットアームRである構成にしたが、この構成に限定されない。制御対象は、ロボットシステム1に制御されて所定の動作を実施することが可能であればよく、例えば、ヒト型ロボット、自律飛行型ロボット、自律走行型ロボットでもよい。
【0042】
また、上記の実施の形態では、ロボットシステム1が、1つのロボットアームRを制御対象、1人の人間Hを非制御対象としたが、この構成に限定されない。ロボットシステム1は、複数の制御対象と複数の非制御対象を同一空間で作業させてもよい。
【0043】
また、上記の実施の形態では、人間Hを避けながらロボットアームRの動きを別の動作に繋げる方向に軌道修正する構成にしたが、人間Hを避ける方向にロボットアームRの動きを軌道修正すれば、特に別の動作に繋げなくてもよい。
【0044】
また、上記の実施の形態では、ロボットアームRの先端部分を注目点P
Rに設定し、この注目点P
Rから距離が最も近い箇所を人間Hの注目点P
Hに設定したが、この構成に限定されない。例えば、ロボットアームRの各関節に注目点を設定し、これらの各関節の注目点から人間Hまでの距離が最も近くなるように、ロボットアームRと人間Hに注目点を設定してもよい。
【0045】
下記に、上記の実施形態における特徴点を整理する。
上記実施形態に記載のロボットシステムは、非制御対象と同一空間で制御対象に所定の動作を実施させるロボットシステムであって、前記非制御対象を3次元で認識した認識データを時系列に沿って出力する認識部と、認識データの経時的な変化から前記非制御対象の動きを予測する予測部と、前記予測部の予測結果に基づいて前記制御対象の動きを制御する制御部とを備えたことを特徴とする。
【0046】
上記実施形態に記載のロボットシステムの制御方法は、非制御対象と同一空間で制御対象に所定の動作を実施させるロボットシステムの制御方法であって、前記非制御対象を3次元で認識した認識データを時系列に沿って出力するステップと、認識データの経時的な変化から前記非制御対象の動きを予測するステップと、予測結果に基づいて前記制御対象の動きを制御するステップとを有することを特徴とする。
【0047】
これらの構成によれば、非制御対象の動きの予測結果に基づいて制御対象の動きが制御されるため、同一空間で制御対象と非制御対象とが別々の動作を実施している場合であっても、非制御対象と制御対象が干渉することがない。よって、安全性を確保した状態で、同一空間で制御対象と非制御対象に同時に作業させることができる。
【0048】
また、上記実施形態に記載のロボットシステムにおいて、前記制御部は、前記予測部の予測結果に基づいて前記非制御対象を避ける方向で動作を維持するように前記制御対象の動きを起動修正する。この構成によれば、非制御対象の動きの予測結果に基づいて制御対象の動きが軌道修正されるため、同一空間で制御対象と非制御対象とが別々の動作を実施している場合であっても、非制御対象と制御対象が干渉することがない。また、非制御対象を避ける方向に制御対象の動きが軌道修正されて動作が維持されるため、制御対象が動作中に停止することがない。よって、安全性を確保した状態で生産性を下げることなく、同一空間で制御対象と非制御対象を同時に作業させることができる。
【0049】
また、上記実施形態に記載のロボットシステムにおいて、前記制御部が、前記予測部の予測結果に基づいて前記非制御対象を避けながら別の動作に繋げる方向に前記制御対象の動きを軌道修正する。この構成によれば、制御対象による回避動作が別の作業の一部動作になるように軌道修正されるため、回避動作の動きが無駄になることがなく、さらに生産性を向上させることができる。
【0050】
また、上記実施形態に記載のロボットシステムにおいて、前記予測部が、前記制御対象の移動方向及び移動速度に応じた第1の予測空間を決定すると共に、前記非制御対象の移動方向及び移動速度に応じた第2の予測空間を決定し、前記制御部が、前記制御対象の周囲の前記第1の予測空間が前記非制御対象の周囲の前記第2の予測空間に重ならないように、前記制御対象の動きを軌道修正する。この構成によれば、制御対象と非制御対象の接触を予測して制御対象の動きが軌道修正されるため、制御対象と非制御対象の接触が抑えることができる。
【0051】
また、上記実施形態に記載のロボットシステムにおいて、前記第1の予測空間が、前記制御対象の移動方向に指向性を持つと共に、前記制御対象の移動速度に応じた広さを持ち、前記第2の予測空間が、前記非制御対象の移動方向に指向性を持つと共に、前記非制御対象の移動速度に応じた広さを持つ。この構成によれば、制御対象と非制御対象の距離が近づいても、制御対象と非制御対象の接触の可能性が無ければ、制御対象による回避動作が行われない。よって、制御対象及び非制御対象の作業が干渉することがないため、生産性が低下することがない。
【0052】
また、上記実施形態に記載のロボットシステムにおいて、前記予測部が、前記制御対象の所定の注目点から最も距離が近い箇所に前記非制御対象の注目点を設定し、前記制御対象の注目点の周りの前記第1の予測空間を決定する共に、前記非制御対象の注目点の周りの前記第2の予測空間を決定する。この構成によれば、制御対象の所定の注目点から非制御対象までの距離が最も近くなる箇所に非制御対象の注目点が設定されるため、制御対象と非制御対象が最も接近した箇所の接触を回避することができる。
【0053】
また、上記実施形態に記載のロボットシステムにおいて、前記制御対象の所定の注目点がロボットアームの先端部分である。この構成によれば、ロボットアームの先端部分と非制御対象との接触を回避することができる。
【0054】
また、上記実施形態に記載のロボットシステムにおいて、前記予測部が、認識データの蓄積によって前記非制御対象の行動パターンを学習して前記非制御対象の動きを予測する。この構成によれば、非制御対象の作業を早期に予測して、制御対象に現在の作業とは別の作業を行わせることができる。
【0055】
上記実施形態に記載のプログラムは、非制御対象と同一空間でロボットシステムの制御対象に所定の動作を実施させるプログラムであって、前記非制御対象を3次元で認識した認識データを時系列に沿って出力するステップと、認識データの経時的な変化から前記非制御対象の動きを予測するステップと、予測結果に基づいて前記制御対象の動きを制御するステップとを前記ロボットシステムに実行させる。この構成によれば、ロボットシステムにプログラムをインストールすることで、生産性を下げずに安全性を確保した制御対象の制御機能をロボットシステムに追加することができる。