(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023081311
(43)【公開日】2023-06-09
(54)【発明の名称】把持生成の衝突処理方法
(51)【国際特許分類】
B25J 13/08 20060101AFI20230602BHJP
【FI】
B25J13/08 A
【審査請求】未請求
【請求項の数】20
【出願形態】OL
【外国語出願】
(21)【出願番号】P 2022183877
(22)【出願日】2022-11-17
(31)【優先権主張番号】17/538,380
(32)【優先日】2021-11-30
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】390008235
【氏名又は名称】ファナック株式会社
(74)【代理人】
【識別番号】100099759
【弁理士】
【氏名又は名称】青木 篤
(74)【代理人】
【識別番号】100123582
【弁理士】
【氏名又は名称】三橋 真二
(74)【代理人】
【識別番号】100112357
【弁理士】
【氏名又は名称】廣瀬 繁樹
(74)【代理人】
【識別番号】100130133
【弁理士】
【氏名又は名称】曽根 太樹
(72)【発明者】
【氏名】ファン ヨンシアン
(72)【発明者】
【氏名】リン シェン-チュン
【テーマコード(参考)】
3C707
【Fターム(参考)】
3C707AS04
3C707BS10
3C707DS01
3C707ES03
3C707KS03
3C707KS04
3C707KS06
3C707KS07
3C707KS09
3C707KS17
3C707KS20
3C707KT03
3C707KT06
3C707LS09
3C707LS15
3C707LS20
3C707LT06
3C707LV07
3C707LV09
3C707LV14
3C707MS08
3C707MS09
(57)【要約】
【課題】手作業による教示なしに高品質の把持候補を計算し、把持を不必要に除外しないロボット把持生成技術を実現する。
【解決手段】部品と把持部の形状はCADファイルからの入力として提供される。把持部の運動学も入力として定義される。任意の既知の予備把持生成ツールを使用して候補把持のセットが提供される。部品の点モデルとクリアランスマージンを備えた把持部接触面のモデルとを候補把持のそれぞれに適用された最適化計算で使用し、調整済み把持データベースが得られる。調整済み把持は、仮想把持部表面を使用して把持品質を最適化し、実際の把持部表面を部品から少し離して位置決めする。調整済みグリップのそれぞれに対して符号付きディスタンスフィールドの計算を実施し、把持部と部品との間に何らかの衝突があるものは破棄される。把持データベースはロボット部品のピックアンドプレース操作で使用するための高品質の衝突のない把持を含む。
【選択図】
図2
【特許請求の範囲】
【請求項1】
ロボットによる把持システムによって使用される衝突のない把持データベースを生成する方法であって、前記方法は、
把持対象の物体の3次元(3D)形状データを含む物体モデルと、把持部の3D形状データと指の運動学とを含む把持部モデルと、を提供するステップと、
前記物体上の前記把持部の候補把持のデータベースを提供するステップと、
所定のクリアランスマージンに基づいて、前記把持部の各指上の把持部指接触面から外れた把持部仮想接触面を定義するステップと、
プロセッサ及びメモリを有するコンピュータを使用して、調整済み把持のデータベースを生成するために、前記候補把持のそれぞれに対して把持の最適化を実施するステップであって、前記把持の最適化は、前記把持部仮想接触面と、前記物体モデルの点群表現とを使用して、把持品質値を最大化する、ステップと、
前記物体モデルの前記点群表現と前記把持部の符号付きディスタンスフィールドグリッドとを使用して、前記調整済み把持のそれぞれに対して符号付きディスタンスフィールド衝突検査を実施するステップと、
前記符号付きディスタンスフィールド衝突検査で衝突がないと判定された前記調整済み把持のそれぞれを含む前記衝突のない把持データベースを提供するステップと、を含む方法。
【請求項2】
前記把持部仮想接触面は、物体を把持するときに各把持部指が移動する方向に前記把持部指接触面から外れている、請求項1に記載の方法。
【請求項3】
作動中のロボットの操作中に衝突のない把持データベースを使用して、物体の容器から把持する目標物体を識別するステップであって、前記衝突のない把持データベースからの把持を、カメラまたはセンサデータから推定された物体の姿勢にマッピングすることによって前記目標物体を識別するステップと、前記把持部を取り付けたロボットに前記目標物体を把持するように指示するロボットコントローラに目標物体把持データを提供するステップと、を含むステップを、さらに含む、請求項1に記載の方法。
【請求項4】
候補把持、調整済み把持及び衝突のない把持がそれぞれ、前記物体の座標フレームでの前記把持部の姿勢を定義する、請求項1に記載の方法。
【請求項5】
前記物体の前記座標フレームでの前記把持部の前記姿勢は、3つの位置及び3つの回転並びに把持部幅を含む、請求項4に記載の方法。
【請求項6】
前記把持最適化は、前記把持部仮想接触面上のサンプリング点と、前記把持部仮想接触面上の前記サンプリング点のそれぞれに対応する前記物体上の最近傍点を含む前記物体モデルの前記点群表現と、を定義することによって定式化される、請求項1に記載の方法。
【請求項7】
前記把持最適化は、前記把持部仮想接触面上の各サンプリング点と、その前記物体上の対応する最近傍点との間の総距離に基づいて定義される局所的に最適な把持品質に収束する目的関数を含み、前記物体への前記把持部仮想接触面の侵入にペナルティを科す拘束方程式を含む、請求項1に記載の方法。
【請求項8】
前記把持部仮想接触面を使用する前記把持最適化は、前記把持部指接触面が前記クリアランスマージンによって前記物体から離間される調整済み把持をもたらす、請求項7に記載の方法。
【請求項9】
前記符号付きディスタンスフィールド衝突検査を実施するステップは、前記物体モデルの前記点群表現を、前記調整済み把持を定義する姿勢の逆数を使用して、前記把持部の前記符号付きディスタンスフィールドグリッドの座標フレームに変換するステップを含む、請求項1に記載の方法。
【請求項10】
前記符号付きディスタンスフィールド衝突検査を実施するステップは、前記物体モデルの前記点群表現内の点が前記把持部の前記符号付きディスタンスフィールドグリッドのグリッドセル内にない場合、前記調整済み把持が衝突なしであると判定するステップを含む、請求項9に記載の方法。
【請求項11】
前記候補把持のデータベースは多数の把持を含み、それぞれの把持は、前記物体に対する前記把持部の異なる位置及び向きを定義し、把持品質または物体と把持部の干渉について評価されていない、請求項1に記載の方法。
【請求項12】
衝突のない把持データベースを生成する方法であって、前記方法は、
把持対象の物体の3次元(3D)モデルと、把持部の3Dモデルとを提供するステップと、
前記物体上の前記把持部の候補把持のデータベースを提供するステップと、
プロセッサ及びメモリを有するコンピュータを使用して、調整済み把持のデータベースを生成するために、前記候補把持のそれぞれに対して把持最適化を実施するステップであって、前記把持最適化は、前記把持部の各指上の把持部指接触面と、前記物体モデルの点群表現とから外れた把持部仮想接触面を使用して把持品質値を最大化する、ステップと、
前記符号付きディスタンスフィールド衝突検査にて衝突がないと判定された前記調整済み把持のそれぞれを含む前記衝突のない把持データベースを提供するために、前記調整済み把持のそれぞれに対して符号付きディスタンスフィールド衝突検査を実施するステップと、を含む方法。
【請求項13】
プロセッサ及びメモリを有するコンピュータを具備する、ロボットによる把持生成システムであって、前記コンピュータは、
衝突のない把持データベースを生成するステップであって、
把持対象の物体の3次元(3D)形状データを含む物体モデルと、把持部の3D形状データと指の運動学とを含む把持部モデルとを提供するステップと、
前記物体上の前記把持部の候補把持のデータベースを提供するステップと、
所定のクリアランスマージンに基づいて、前記把持部の各指上の把持部指接触面から外れた把持部仮想接触面を定義するステップと、
前記候補把持のそれぞれに対して把持最適化を実施して、調整済み把持のデータベースを生成するステップであって、前記把持最適化は、前記把持部仮想接触面と前記物体モデルの点群表現とを使用して把持品質値を最大化する、ステップと、
前記物体モデルの前記点群表現と前記把持部の符号付きディスタンスフィールドグリッドとを使用して、前記調整済み把持のそれぞれに対して符号付きディスタンスフィールド衝突検査を実施するステップと、
前記符号付きディスタンスフィールド衝突検査にて衝突がないと判定された前記調整済み把持のそれぞれを含む前記衝突のない把持データベースを提供するステップと、を含むステップ、を実施するように構成される、システム。
【請求項14】
作動中のロボットの操作中に物体の容器の前記コンピュータに奥行き画像を提供する3Dカメラであって、前記コンピュータは、前記衝突のない把持データベースからの把持を、前記奥行き画像から推定された物体の姿勢にマッピングすることにより、物体の容器から把持する目標物体を識別する、3Dカメラと、
前記コンピュータと通信し、前記目標物体に関する把持データを受信するロボットコントローラと、
前記コントローラからのコマンドに基づいて、前記目標物体を把持して移動させる前記把持部を搭載したロボットと、をさらに具備する、請求項13に記載のシステム。
【請求項15】
前記把持部仮想接触面は、物体を把持するときに各把持部指が移動する方向に前記把持部指接触面から外れている、請求項13に記載のシステム。
【請求項16】
候補把持、調整済み把持及び衝突のない把持はそれぞれ、3つの位置及び3つの回転並びに把持部幅を含む、前記物体の座標フレームでの前記把持部の姿勢を定義する、請求項13に記載のシステム。
【請求項17】
前記把持最適化は、前記把持部仮想接触面上のサンプリング点と、前記把持部仮想接触面上の前記サンプリング点のそれぞれに対応する前記物体上の最近傍点を含む前記物体モデルの前記点群表現と、を定義することによって定式化される、請求項13に記載のシステム。
【請求項18】
前記把持最適化は、前記把持部仮想接触面上の各サンプリング点と、その前記物体上の対応する最近傍点との間の総距離に基づいて定義される局所的に最適な把持品質に収束する目的関数を含み、前記物体への前記把持部仮想接触面の侵入にペナルティを科す拘束方程式を含む、請求項13に記載のシステム。
【請求項19】
前記把持部仮想接触面を使用する前記把持最適化は、前記把持部指接触面が前記クリアランスマージンによって前記物体から離間される調整済み把持をもたらす、請求項17に記載のシステム。
【請求項20】
前記符号付きディスタンスフィールド衝突検査を実施するステップは、前記物体モデルの前記点群表現内の点が前記把持部の前記符号付きディスタンスフィールドグリッドのグリッドセル内にない場合、前記調整済み把持が衝突のないものであると判定するステップを含む、請求項13に記載のシステム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、部品のロボット把持のための良質の把持データを生成するための方法に概ね関し、さらに詳細には、特定の部品及び把持部のための把持候補のセットから開始し、把持の微調整を可能にする仮想把持部表面を使用して各把持候補を最適化し、次に、符号付きディスタンスフィールド計算を使用して、調整された把持を分析して、あらゆる衝突を除外するロボット把持生成のための方法に関する。
【背景技術】
【0002】
産業用ロボットを使用して、さまざまな製造、組み立て及び材料移動操作を実施することが周知である。そのような用途の1つに、ロボットが個々の部品を取り出し、各部品を所定の場所に載置して、さらに処理するか包装するピックアンドプレース操作が挙げられる。ピックアンドプレース操作の例には、容器から部品を抜き出して、次の操作のために部品を搬送するコンベアに部品を載置するステップと、容器から部品を抜き出して、その部品を工作機械の固定具に設置するステップと、次に、その後、工作機械から部品を取り外し、加工した部品をコンベアに載置するステップが挙げられる。
【0003】
上記のような用途では、容器内の個々の部品の位置と向きを識別するために、典型的には、視覚システム(vison system)(1つまたは複数のカメラ)が使用される。次に、特定の部品形状及び特定の把持部形状に対して生成された、事前に計算された把持のデータベースから把持を選択され得る、選択された部品に使用される特定のロボットによる把持が識別される。
【0004】
あらゆるロボットによる把持操作では、良質の把持のデータベースが必要である。多数の把持候補を自動的に生成することができる把持生成技術が知られている。しかし、このような既存の技術には、計算コストが非常に高く、処理速度が遅いか、あるいは単純化を実施するため、計算された把持品質が低くなるなどの欠点がある。さらに、一部の既存の把持生成技術では、実際には、そのような多くの把持では、把持中に部品がわずかに動くと思われるため、現実の世界では完全にうまく機能するであろうことから、質の高い把持につながる場合に、把持部と部品との間にごくわずかな衝突があると予測される把持候補を除外する。
【0005】
上記の状況に照らして、手作業による教示なしに高品質の把持候補を計算し、計算効率が高く、現実世界の把持部と部品によって容易に補償されるであろう予測衝突に基づいて把持を不必要に除外しないロボット把持生成技術が必要である。
【発明の概要】
【0006】
本開示の教示に従って、ロボットによる把持生成技術を提示する。部品と把持部の形状を、典型的には、CADファイルからの入力として提供する。このほか、把持部の運動学を入力として定義する。既知の予備把持生成ツールを使用して、候補把持のセットを提供する。部品の点モデルと、クリアランスマージンを備えた把持部接触面のモデルとを、候補把持のそれぞれに適用される最適化計算で使用すると、調整済み把持データベースが得られる。調整済み把持は、仮想把持部表面を使用して把持品質を最適化し、実際の把持部表面を部品から少し離して位置決めする。次に、調整済み把持のそれぞれに対して符号付きディスタンスフィールドの計算が実施され、把持部と部品との間に何らかの衝突があるものは破棄される。結果として得られる把持データベースには、ロボット部品のピックアンドプレース操作で使用するための高品質の衝突のない把持が含まれる。
【0007】
現在開示している方法の追加の特徴が、添付の図面と併せて、以下の説明及び添付の特許請求の範囲から明らかになるであろう。
【図面の簡単な説明】
【0008】
【
図1】
図1は、産業用ロボットが容器から部品を抜き出し、その部品をコンベアまたは機械加工ステーションに載置してさらに処理するロボットによるピックアンドプレースシステムの図である。
【
図2】
図2は、本開示の一実施形態による、
図1のロボットによるピックアンドプレースシステムで使用される衝突のない把持データベースを作成するために使用される把持生成プロセスに含まれるステップの例示的なフローチャート図である。
【
図3】
図3は、本開示の一実施形態による、部品に対する所望の把持部位置決めを達成するために仮想把持部表面を使用する把持調整最適化ステップを含む、
図2の把持生成プロセスのいくつかのステップの詳細を示す図である。
【
図4】
図4は、当技術分野で知られている、第1の物体と第2の物体との間の干渉を示す、一般的な符号付きディスタンスフィールド計算技術の図である。
【
図5】
図5は、本開示の一実施形態による、把持調整後に部品把持部干渉を有する把持を排除するために、
図2及び
図3の把持生成プロセスで使用される符号付きディスタンスフィールド衝突検査技法の詳細を示す図である。
【発明を実施するための形態】
【0009】
ロボットによる把持生成の衝突処理方法を対象とする本開示の実施形態の以下の考察は、本質的に単なる例示であり、開示した技術またはその用途または使用を決して限定することを意図するものではない。
【0010】
供給源から部品を抜き出し、目的地に載置するために産業用ロボットを使用することは周知である。典型的なピックアンドプレース操作では、部品の供給器を、部品をその容器内のランダムな姿勢から取り出し、目的地の場所にて特定の姿勢で載置する必要がある、鋳造されるか、成形されるか、部分的に組み立てられたばかりの部品のランダムな山を含む容器などの容器に設ける。
【0011】
図1は、産業用ロボット100が把持部120を使用して容器110から部品を取り出し、その部品を機械加工ステーション130またはコンベヤ140のいずれかに載置して、さらに加工するか包装するロボットピックアンドプレースシステムの図である。把持部120は、ロボット100によって処理される部品の形状に基づいて選択される指の形状と共に設計されてもよい。把持部指の形状については、以下でさらに考察する。
【0012】
ロボット100の運動を、典型的には、ケーブルを介してロボット100と通信するコントローラ150によって制御する。コントローラ150は、当技術分野で知られているように、関節運動コマンドをロボット100に提供し、ロボット100の関節内のエンコーダから関節位置データを受信する。コントローラ150はこのほか、把持部120の動作を制御するためのコマンド(把持/非把持コマンド及び幅)を提供する。
【0013】
コンピュータ160がコントローラ150と通信する。コンピュータ160は、プロセッサ及びメモリ/ストレージを備え、少なくとも1つのカメラ170からの画像及びデータに基づいて容器110内の部品の高品質把持を計算するように構成されたアルゴリズムを実施する。カメラ170は、典型的には、カラー画像データと画素深度図データの両方を提供する3次元(3D)カメラであるが、容器110内の部品の姿勢(位置及び向き)を判定するのに適したデータを提供する他のタイプの3Dセンサであってもよい。カメラ170はこのほか、2つ以上の2Dカメラまたは3Dカメラを含むマルチカメラシステムであることがあり得る。
【0014】
いくつかの用途では、容器110は、任意の位置及び向きにあり得る1つの部品のみを収容してもよい。これは、部品が容器110に到着するのと同じ速度で機械加工ステーション130によって処理される場合に当てはまるであろう。これとは別に、容器110は、(
図1に示すように)いくつかの部品または山のような部品を収容してもよい。いずれにせよ、最高品質の把持候補を、カメラ170からの画像データを事前計算された安定した把持のデータベースと照合することによって判定する。
【0015】
コンピュータ160は、目標把持データをコントローラ150に提供し、コントローラ150は、ロボット100及び把持部120を制御して、容器110からの部品を把持する。目標把持データは、把持目標点(x/y/z座標)、把持部120の追従角度、把持部の回転角度と幅を含む。把持データを使用して、コントローラ150は、把持部120に部品を把持させ、機械加工ステーション130またはコンベヤ140上に部品を載置させるロボット運動命令を計算することができる。これとは別に、カメラ170は、部品把持を直接計算するであろうコントローラ150に画像を提供してもよい。いずれにせよ、把持生成(多くの異なる安定把持のデータベースを提供すること)が事前に実施される。把持データベースの生成は、本開示の主題であり、以下で詳細に考察する。
【0016】
部品でいっぱいになった容器の中の個々の部品をリアルタイムで認識し、把持するようにロボットに教示することは、常に困難であった。ロボットによる部品抜き出し操作の速度と信頼性を向上させるために、特定の部品をさまざまな姿勢で把持する指定された把持部の把持を事前に計算することが知られている。この把持の事前計算は、把持生成として知られており、
図1を参照して上記で考察したように、事前計算された(生成された)把持は、次に、ロボットによる部品の抜き出し操作中にリアルタイムで決定を下すために使用される。
【0017】
歴史的に、把持生成方法には、物体の既知の3D特徴上の抜き出し点を手動で挟持するステップが含まれていた。このような方法では、最適な把持姿勢を特定するために経験則による設計にかなりの時間を費やす必要があり、このような手動で設計された発見的手法では、適切な数の高品質の把持が得られない場合がある。経験則による教示を使用することの難しさのために、自動把持生成方法が開発されてきた。
【0018】
しかし、既存の自動把持生成方法にも欠点がある。既知の学習ベースの技術の1つでは、数学的に厳密な把持品質を使用して、把持候補を検索してから、このような候補を畳み込みニューラルネットワーク(CNN)分類器に供給するが、計算コストが高く、計算で使用される単純化のために現実の状況では解が最適ではない可能性がある。別の把持生成方法では、経験的試行を使用してデータを収集し、現実的な把持を生成するが、この方法では、複雑な力制御を実施するために何万時間ものロボット時間が必要になる場合があり、把持部に何らかの変更を施すにはプロセス全体を繰り返す必要がある。さらに別のコンピュータベースの把持生成方法では、「衝突」のために多くの把持が除外される。この衝突は、実際には、把持部の指の接触面での通常の部品と把持部の接触にすぎない。一般に、既存の自動把持生成方法は、現実世界の条件でうまく機能する適切な数の高品質の把持を未だ提供してはいない。
【0019】
本開示では、把持部設計と部品設計の任意の組み合わせに自動的に適用することができ、多数の現実的で高品質の把持を効率的に生成する把持生成技術について説明する。開示した把持生成方法では、把持中のわずかな接触を補償するために候補把持を調整する仮想把持部表面による最適化計算を使用し、続いて、調整済み把持の符号付きディスタンスフィールド衝突検査を使用する。結果として得られる把持データベースは、従来技術によって不必要に排除されるであろう把持を含むが、把持データベースは、実際の干渉または衝突状態を伴う把持を含まない。良質な把持のデータベースを事前に生成することにより、コンピュータ160またはコントローラ150は、実際のロボットによるピックアンドプレース操作中にリアルタイムの把持計算を迅速かつ効率的に実施することができる。
【0020】
図2は、本開示の一実施形態による、
図1のロボットによるピックアンドプレースシステムで使用される衝突のない把持データベースを作成するために使用される把持生成プロセスに含まれるステップの図解入りフローチャート
図200である。
【0021】
まず、特定の部品及び把持部を選択する。
図2以降の図に示す把持部モデルは、2本指の平行把持部であるが、指を開いて物体を把持する把持部など、他の種類の把持部を使用してもよい。把持指は、ロボットが把持している部品(水道管バルブ)に対応するように選択された凹形状を有する指先端部を備える。すなわち、指先端部は、ハンドル、結合本体、バルブステムスロートなど、送水バルブの多数のさまざまな部品を安定して把持することができる。把持する部品の形状に基づいて、指先端部の設計が異なる把持部を採用してもよい。
【0022】
ボックス210では、所与の部品(ワークピース)及び把持部設計について、予備把持生成ツールを使用して多数の把持候補が提供される。予備把持生成ツールは、例えば、サンプリングベースのツールまたは学習ベースのツールであってもよい。把持候補のセット内の各把持は、部品/ワークピースの座標フレーム内の把持部(Tgripper)の姿勢を定義する。好ましい実施形態では、各把持iは、位置ベクトルpi、回転ベクトルRi及び把持部幅値wiを含む。
【0023】
把持候補のセット内の把持は、部品上の把持部の多数の異なる位置及び向きを含む。例えば、図に示し、本出願で考察する把持部は、アクチュエータと、互いに正反対に開閉する2つの把持部指とを含むハウジング本体を備えた平行指把持部であり、把持部幅値wiをもたらす。図に示し、本出願で考察する部品は、本体から延びる対向する円筒状の開口部を有する本体と、ネック及びシャフトを介して本体に結合されたハンドルとを有する送水バルブである。把持候補のセットの把持は、好ましくは、多くの異なる角度からハンドルの縁を把持したり、多くの異なる向きで本体を把持したり、各円筒端を把持したり、バルブのネックを把持したりする把持指を含む。候補把持の数はNとして識別される。
【0024】
把持候補のセット内の把持は、典型的には、把持品質または衝突検査のために分析されることはなく、候補把持は、部品に対する把持部の理論上の姿勢にすぎない。ロボットの操作中にロボットコントローラが把持候補のセットを直接使用した場合、把持品質が低いか、部品把持部の干渉が原因で、試行された把持の一部が機能しなくなるであろう。このため、
図2の残りの部分に示すように、把持を改善し、衝突を排除するには、追加のステップが必要である。
【0025】
ボックス220では、「クリアランスマージン(clearance margin)」または仮想把持部表面を使用して現実世界のグリッピングを現実的にシミュレートする一方で、干渉として解釈されることがあり得る部品と把持部の接触を回避する把持最適化技術が採用される。把持最適化技術は、仮想把持部表面モデルを使用して各把持を調整する。これにより、各把持が把持品質のために最適化されると同時に、把持部閉鎖によって容易に適応されるであろう部品把持部クリアランスマージンが残され、現実世界の把持ではわずかな部品芯出し動作が可能になる。ボックス220の把持最適化技術は、調整済み把持
【数1】
を含む調整済み把持データベース230をもたらす。すなわち、調整済み把持データベース230は、把持候補のセットと同じ数(N)の把持を含み、データベース230内の各把持は、上記で考察したようにわずかに調整される。
【0026】
ボックス240では、調整済み把持データベース230内の各把持に対して符号付きディスタンスフィールド衝突検査が実施される。符号付きディスタンスフィールド衝突検査は、データベース230内の調整済み把持での任意の衝突を迅速に識別する。上述のように、ボックス220での把持の最適化は、把持部接触面と部品との接触を最適化するように把持を調整し、最適化計算で使用される仮想把持部表面は、結果として得られる把持が、把持部と部品との間にわずかな隙間を含むようにする。しかし、データベース230内の調整済み把持のいくつかは、把持部接触面から離れた衝突または干渉を依然として含み、衝突または干渉は、そのような把持が実際のロボット部品把持動作で使用されることを妨げる可能性がある。符号付きディスタンスフィールド衝突検査により、そのような干渉のある把持が排除され、衝突のない把持データベース250が得られる。衝突のない把持データベース250は、把持
【数2】
を含む。すなわち、衝突のない把持データベース250は、調整済み把持データベース230からの把持のサブセット(M)を含む。
【0027】
ボックス220の把持最適化技術及びボックス240の符号付きディスタンスフィールド衝突検査をそれぞれ、
図3及び
図5に関連して以下で詳細に考察する。
【0028】
図3は、本開示の一実施形態による、部品に対する所望の把持部位置決めを達成するために仮想把持部表面を使用する把持調整最適化ステップを含む、
図2の把持生成プロセスのいくつかのステップの詳細を示す図である。ボックス300では、把持部302及び部品(ワークピース)304のCADモデルが提供される。CADモデルは典型的には立体モデルであるが、当業者には理解されるであろうように、完全な3D表面形状を含む表面モデルであってもよい。ボックス300では、把持部302の機械化運動学も提供される。平行指把持部の場合、これには、把持部幅wに関して把持部302の指要素の位置/形状を定義することが含まれる。
【0029】
ボックス310では、把持候補{p
i,R
i,w
i}
i=1,Nが提供される。これは、上記で考察した
図2のボックス210で提供される把持候補のセットである。把持候補のセットは、典型的には、数百または数千の把持候補を含む。各候補把持i(i=1,N)には、把持部幅w
iと共に、部品304に対する把持部302の位置ベクトルp
i(3つの位置;x、y、z)と回転ベクトルR
i(ヨー、ピッチ、ロールなどの3つの回転)が含まれる。ボックス310では、部品304は、それぞれの把持にて点群として示される。部品304の点群表現は、当業者には理解されるように、CAD立体モデルから容易に作成することができる。
【0030】
ボックス320では、把持部302の接触面に対して「クリアランスマージン」が作成される。クリアランスマージンの目的は、部品表面との実際の接触に必要な幅よりもわずかに広く把持部が開くように、各把持を調整することである。これは、結果として得られる把持が、後のステップで部品と把持部の干渉がある(ひいては、破棄される)と識別されないように実施される。クリアランスマージンは、以下の考察で説明するように、実際の把持部接触面に対して1~2mmほどのわずかな厚さだけ「パッドを付けられた」仮想把持部表面を定義することによって達成される。
【0031】
ボックス320では、部品330及び把持部指340A/340Bの2D断面図を示している。部品330及び把持部指接触面340A/340Bは、ボックス300内の部品及び把持部を表す。図を明確にするために、この
図3のボックス320以降では、単純化された2D断面形状を使用する。把持部指接触面340A/340Bは、ボックス300の平行指把持部の2つの対向する指の接触面である。(実際の把持部指接触面である)把持部指接触面340A/340Bに加えて、把持部仮想接触面342A/342Bを示す。把持部仮想接触面342A/342Bは、上記で考察したように、例えば、把持部指接触面340A/340Bから1~2mmの値を有し得るクリアランスマージンを使用して形成される。クリアランスマージンは、物体を把持するときに把持部指が移動する方向にある。把持部仮想接触面342A/342Bはこのほか、(開閉方向だけでなく)把持部指を横切る横方向にクリアランスマージンを作成するために、把持部指接触面340A/340Bよりもわずかに長くなるように形成されてもよい。
【0032】
ボックス350では、把持部仮想接触面342A/342Bを使用して把持最適化計算を実施する。各把持の最適化計算の結果は、把持部と部品との間に小さなクリアランスマージンを提供しながら最適化された把持品質を有する調整済み把持であり、その結果、把持が後の符号付きディスタンスフィールド計算にて衝突があるとして誤って除外されることがない。
【0033】
図解360では、部品330の断面を、把持部指接触面340A及び把持部仮想接触面342Aと共に示している。簡単にするために、把持部指のうちの1つだけ(左側)に対する実際の接触面及び仮想接触面を図解360に示す。反対側の把持部指にも同じ概念が適用される。把持部指接触面340A及び把持部仮想接触面342Aは、図解360にてその「初期」位置または構成で示される。すなわち、把持部指接触面340Aは、最適化対象のボックス310からの候補把持によって定義されるように、部品330に対して把持位置にある。
【0034】
初期構成は、ボックス310に示す例のいずれか1つまたは何百もの他の候補把持のいずれかであり得る。図解360に示す初期構成から始めて、部品330上の把持部の把持を調整するために最適化計算を実施する。(以下で考察する)最適化計算により、把持が調整される。
【0035】
最適化計算では、把持部の仮想接触面342A/342Bを使用して把持部を表し、これにより、把持品質が最適化され、把持部指接触面340A/340Bが部品330から離れる方向に「押される」。把持部仮想接触面342A/342Bのクリアランスマージンは、把持部指接触面340A/340Bと部品330との間に侵入も接触もないことを確実なものにし、その結果、調整済み把持が、後のステップにて、誤検出の部品と把持部の干渉によってフラグ付けされることはない。
【0036】
以下は、ボックス350で使用され得る把持最適化計算の一例の考察である。当業者には理解されるであろうように、把持部接触面と部品との間の安定した把持を計算することができる他の把持最適化の定式化を使用してもよい。把持最適化計算は、部品/ワークピース330の座標フレーム内の把持部の姿勢(Tgripper)である候補把持のうちの1つから始まる。座標フレームには、把持部幅wと共に、部品330に対する把持部指接触面340A/340Bの位置p及び向きRが含まれる。最適化計算は、把持部指接触面340A/340Bの代わりに把持部仮想接触面342A/342Bを使用する。ボックス350内の図解360に示すように、把持部仮想接触面342A/342Bは、最初に部品330を貫通する(干渉する)ことになる。
【0037】
把持部仮想接触面342A/342Bの面上に、任意の適切なサンプリング密度を使用して、点pt
iのセットを定義する。把持部仮想接触面342A上のサンプリング点pt
iのうちの1つを、図解360の366に示す。このほか、部品330の表面上にサンプリング点を定義する。
図3は、わかりやすくするために2D断面として示している。しかし、実際の最適化計算では、把持部仮想接触面342A/342Bと部品330の表面とはいずれも、サンプリング点pt
iの座標と同じように、3次元である。
【0038】
把持部仮想接触面342A/342B上の点ptiのそれぞれについて、部品330の表面上の最近傍点を判定する。最近傍点は、当技術分野で知られている方法で、点ptiから部品330の表面上のサンプリング点までの最短3D距離を計算することによって判定される。把持部仮想接触面342A/342B上の点pti及び対応する最近傍点から、最適化ループを使用して把持部の移動、回転及び開口幅を更新し、その結果、把持品質が向上し、干渉が減少する。把持部仮想接触面342A/342Bは最初に部品330に侵入する(干渉する)ことになるため、最適化計算の最初の反復は、部品330から離れる方向に把持部仮想接触面342A/342Bを、特に把持部幅wを開くことによって、「押す」制約ペナルティをもたらす。
【0039】
安定した把持を計算するために、(点ptiとその最近傍点を使用する)表面接触と厳密な数学的品質が最適化モデリングに採用される。把持部と部品の衝突は、前述のように、貫通を回避するための最適化にてペナルティが科せられる。最適化計算の考察全体を通して、点ptiによって定義される把持部仮想接触面342A/342BをSfと呼び、部品(または「物体」)表面(全サンプリング点、具体的には最近傍点)をSoと呼ぶ。
【0040】
最適化計算の各反復は、並進変換Δp、回転変換ΔR及び把持部幅変換Δwを含む変換Tに関して定義される把持部仮想接触面342A/342Bの移動をもたらす。例えば、最初の反復により、把持部仮想接触面342A/342Bは、360で示す初期構成から、部品330上の最近傍点が再び判定され、別の最適化の反復が実施される後続の(図示しない)中間構成に移動する。
【0041】
最適化の定式化について、式(1a)~(1d)として以下に提供し、次の段落で考察する。
【数3】
【数4】
【数5】
【数6】
【0042】
最適化の定式化には、把持品質Qgを最大化するように定義された目的関数(式1a)が含まれる。ここで、把持品質Qgは、接触面Sf及びSoの関数である。把持品質Qgは、任意の適切な方法で定義されてもよい。代表的な実施形態では、把持品質Qgは、把持部仮想接触面Sf上の点ptiと物体表面So上の一致する最近傍点NNとの間の総距離の負の値である。実際には、良質の把持が安定しており、把持部内の部品330の任意の小さな移動が、摩擦力及び/または法線力によって迅速に停止し、把持の喪失につながることはない。
【0043】
最適化の定式化は、変換(Δp、ΔR、Δw)に関して把持部仮想接触面Sfを定義する制約関数(式1b)を含む。制約関数(式1c)が、変換された仮想接触面(T(∂F;Δp,ΔR,Δw))が物体Oを貫通してはならないことを示す。すなわち、距離はゼロ以上である必要がある。この制約により、上述のように、把持部仮想接触面342A/342Bが部品330から離れる方向に「押される」。最後に、式(1d)は、変換T(Δp,ΔR,Δw)が変換の実施可能なセットXの要素であることを示す(一実施形態では、ΔpとΔRは事前定義された範囲内の任意の値を有してもよく、Δwは、ボックス300からの把持部モデルで定義された把持範囲によって制限される)。
【0044】
上記の式(1b)~(1c)の制約関数は、制約違反が把持品質計算でのコスト関数として扱われるペナルティ法によって考慮される。すなわち、制約違反が大きいほど、コスト関数が大きくなり、把持品質が低下する。把持品質に対するコストに制約を加えることにより、最適化の定式化を最小二乗法で解くことができる。
【0045】
式(1a)~(1d)の最適化の定式化に対して1ステップの最小二乗線形代数計算を実施して、部品330との把持部仮想接触面342A/342Bの貫通を低減/排除しながら把持品質を向上させる方向に把持部指を移動させる変換T(Δp、ΔR、Δw)を識別する。このプロセスは、把持位置が、部品330との把持部仮想接触面342A/342Bの貫通を最小化するか排除した極大把持品質に収束するまで繰り返される。
【0046】
図解362では、部品330の断面は、把持部指接触面340A及び把持部仮想接触面342Aと共に示される。ここでは、把持部指接触面340A及び把持部仮想接触面342Aは、図解362の最適化収束後の「調整済み」位置で示される。すなわち、把持部指接触面340Aは、把持品質を最適化すると共に把持部指接触面340Aを部品330から離れる方向に「押す」最適化計算の後、部品330に対して把持位置にある。把持部仮想接触面342Aのクリアランスマージンは、把持部指接触面340Aと部品330との間に侵入も点対点接触もないことを確実なものにし、その結果、調整済み把持が後のステップで(少なくとも把持部接触面のエリアで)衝突なしであると判定され得るようになる。
【0047】
把持候補のうちの1つに対する品質調整済み把持に収束した後、プロセスは新たな初期構成(すなわち、把持候補のうちの別の1つ)で最初からやり直される。この把持最適化計算は、ボックス310からの候補把持のそれぞれに対して実施され、ボックス370にて調整済み把持のセットが得られる。ボックス370の調整済み把持のセットは、
図2に関してこれまでに考察したように、
【数7】
として表される。ここで、「プライム記号」(´)は、各把持iが調整済みであることを示す。なお、調整済み把持の数Nは、候補把持の数と同じである。すなわち、ボックス350の最適化プロセスでは把持が除去されることはない。
【0048】
ボックス380では、ボックス370内のN個の調整済み把持のそれぞれに対して符号付きディスタンスフィールド衝突検査を実施する。符号付きディスタンスフィールド衝突検査は、把持が調整された後、部品と把持部との間に何らかの衝突があるかどうかを判定する。符号付きディスタンスフィールド衝突検査は、把持部指接触面だけでなく、部品330全体と把持部の任意の部分との間の衝突を検査する。それぞれの調整済み把持は、符号付きディスタンスフィールド計算を使用して評価される。衝突のない把持(ボックス390にてレで指定)は保持され、部品と把持部の衝突がある把持(×で指定)は破棄される。
【0049】
ボックス390では、廃棄される1つの調整済み把持(×で指定)は、把持部指表面から離れた干渉を有する。具体的には、バルブハンドルは、把持部アクチュエータ本体に近い場所で把持部指の一部と干渉する。この干渉は、ボックス350の最適化計算では、その最適化は把持部指接触面のみを考慮するため、考慮されない。ボックス380にて符号付きディスタンスフィールド衝突検査が使用されるのは、まさにこの理由からである。その結果、最適化計算により、把持部指接触面と部品との間に小さなクリアランスマージンを提供しながら、把持品質を最適化することができ、その後、符号付きディスタンスフィールド計算により、全体的な把持姿勢によって引き起こされる干渉を検出することができる。
【0050】
ボックス390では、衝突のない把持の最終セットを提供する。ボックス380の符号付きディスタンスフィールド衝突検査の詳細は、
図5を参照して後に考察する。ボックス390内の衝突のない把持の最終セットは、
図2に関してこれまでに考察したように、
【数8】
として表される。ここで、
図3のボックス390に示すように、一部の把持が破棄されているため、衝突のない把持の数Mは、調整済み把持の数Nよりも少ないことに留意されたい。
【0051】
図3に示す把持生成方法の利点は次のとおりである。
・ボックス350の最適化計算では、把持部指接触面のみを考慮する。これにより、最適化計算が、従来技術と同じように把持部指と本体の全体が考慮された場合よりもはるかに速く、調整済み把持を計算することができる。
・最適化計算では、把持部仮想接触面342A/342Bを使用する。これにより、実際の把持部指接触面340A/340Bと部品330との間の小さなクリアランスマージンを伴う調整済み把持が得られる。
・ボックス380の符号付きディスタンスフィールド衝突検査(詳細は以下で考察)は、把持部(その全体)と部品330との間の干渉を伴う任意の調整済み把持を識別して破棄するきわめて効率的な計算である。
・符号付きディスタンスフィールド衝突検査では、調整済み把持には小さなクリアランスマージンが含まれているため、把持部指接触面のエリアで衝突が誤検出されることはないことになる。
【0052】
図4は、当技術分野で知られている、第1の物体と第2の物体との間の干渉を示す一般的な符号付きディスタンスフィールド計算技術の図である。左側の図解400では、符号付きディスタンスフィールドグリッド410A及び410Bが、この考察の文脈での左右の把持部指を表す。物体420が、把持部指によって把持される部品を表す。ここで、物体420は表面点メッシュで定義される。符号付きディスタンスフィールドグリッド410A及び410B並びに物体420は、符号付きディスタンスフィールドグリッド410A及び410Bが特定の把持に従って物体420に対して位置決めされる構成で示される。
図4は、図をわかりやすくするために2Dの図解であるが、実際の符号付きディスタンスフィールド衝突検査計算では、物体420の表面点メッシュと符号付きディスタンスフィールドグリッド410A及び410Bはいずれも3次元であることを理解されたい。
【0053】
右側の図解430では、符号付きディスタンスフィールドグリッド410A及び410Bは、物体420のない状態で示される。符号付きディスタンスフィールドグリッド410A及び410Bは、物体420によるグリッドセルの占有を示すために(ハッチ線で)影を付けられている。参照番号432が、物体420によって占有されている6つの(影付き)グリッドセルの一群を示す。物体420のいくつかの部分(表面点メッシュの1つまたは複数の点)が432で示す6つのグリッドセル内にあることは、左側の図解400で容易に理解することができる。同じように、参照番号434が、物体420(ウサギの鼻の部分)によって占有される11個の(影付き)グリッドセルの一群を示し、参照番号436が、物体420(ウサギの耳の一方)によって占有される7個の(影付き)グリッドセルの一群を示す。
【0054】
各グリッドセルの占有を判定する(はい/いいえ)ために、各グリッドセルから物体420上の最も近い点までの距離を計算する。距離がゼロを上回るグリッドセルは占有されておらず(
図430では影が付けられていない)、距離がゼロ以下のグリッドセルは占有されている(影が付けられている)。
図4の単純な視覚的例では、
図3のボックス380で使用され、以下で詳細に説明する、符号付きディスタンスフィールドグリッド呼び出し占有率の概念を示している。
【0055】
図5は、本開示の一実施形態による、把持調整後に部品と把持部の干渉を有する把持を排除するために、
図2及び
図3の把持生成プロセスで使用される符号付きディスタンスフィールド衝突検査技術の詳細を示す図である。上記で考察したように、符号付きディスタンスフィールド衝突検査は、ボックス370からの調整済み把持のそれぞれについて、ボックス380にて実施される。このプロセスについて、
図5の考察で1つの特定の把持に対して説明する。
【0056】
ボックス510では、ボックス370からの調整済み把持のうちの1つを提供する。把持部512をCADモデル形式で示し、物体または部品514を点群形式で示す。把持は、部品514の座標フレーム内の把持部512(Tgripper)の姿勢として定義される。ボックス520では、把持部512の符号付きディスタンスフィールドグリッド522を生成する。符号付きディスタンスフィールドグリッド522の生成を、オフラインプロセスにて、評価対象の調整済み把持のセット全体に対して1回だけ実施する。換言すると、符号付きディスタンスフィールドグリッド522を生成しても、ボックス370からのあらゆる調整済み把持を評価するのにかかる計算時間に影響を及ぼすことない。符号付きディスタンスフィールドグリッド522は、六面体などの体積要素の3Dグリッドであり、レンガ形状または立方体であってもよい。グリッド要素のサイズは、把持部の本体/アクチュエータ部分のグリッド接線サイズが3mmであり、把持部指のグリッド接線サイズが0.3mmである場合など、精度要件に合わせて場所によって異なる場合がある。
【0057】
ボックス530では、特定の把持に対する符号付きディスタンスフィールド衝突検査の第1のステップを実施する。部品534をCADモデル形式で示す。ボックス530では、部品534は、把持T
gripperの逆数を使用することによって、把持部座標フレームに転置される。すなわち、部分534は
【数9】
によって転置され、把持部座標フレーム内の(再び点群形式で示す)部品544になる。
【0058】
ボックス550では、特定の把持に対する符号付きディスタンスフィールド衝突検査の第2のステップを実施する。ここでは、把持部座標フレーム内の部品544が、把持部512の符号付きディスタンスフィールドグリッド522と共に使用される。符号付きディスタンスフィールドグリッド522は、3Dグリッド空間(i,j,k)に関して定義される。部品544の(特に部品の表面上に数千の点が含まれる場合がある)点群内の各点544nについて、点のデカルト座標がグリッド空間(i,j,k)に変換される。点544nが符号付きディスタンスフィールドグリッド522の完全に外側にあるグリッドインデックス(i、j、k)を有する場合、点544nは把持部512から遠く離れており、プロセスは、部品544の点群の次の点544mを検査するために移動する。
【0059】
点544nが、符号付きディスタンスフィールドグリッド522の境界全体の内側に入るグリッドインデックス(i,j,k)を有する場合、点544nは、把持部512の近くにあるか、把持部512と干渉することが知られている。この場合、既知の3D距離計算を使用して、最も近いグリッド(SDF(i,j,k))までの距離の符号が検査される。SDF(i,j,k)>0の場合、点544nは把持部512との衝突がなく、プロセスは次の点544mの検査に移る。SDF(i,j,k)<0の場合、点544nは把持部512と衝突する。これは、部品514が把持部512と干渉することを意味する。
【0060】
(ボックス370の調整済み把持からの)特定の把持について、部品544の点群内のあらゆる点がゼロより大きい符号付きディスタンスフィールド値を有する場合、その把持は衝突なしであると判定され、把持は、ボックス390の最終的な衝突のない把持セットに入れられる。
【0061】
特定の把持について、部品544の点群内の点のいずれかが0未満の符号付きディスタンスフィールド値を有する場合、その把持は、部品と把持部の干渉を有すると判定され、把持はボックス390の最終的な衝突のない把持セットに入れられることはない。この場合、最小距離値(最大侵入)がリストされ、部品と把持部の干渉により特定の把持が破棄された理由をユーザが理解するように、対応する物体点が視覚的に表示される。
【0062】
図5に示し、上記で説明したプロセスは、ボックス370の調整済み把持での把持のそれぞれに対して実施され、ボックス390での把持の最終セットは、衝突がないと判定されたそのような調整済み把持のみを含む。ボックス390内の把持の最終セットは、
図1に示すように、ロボットがピックアンドプレース操作に使用することができるようになる。
【0063】
図2、
図3及び
図5に示す把持生成技術は、さまざまな実世界の部品で実証されており、高品質の把持データベースを生成する。このデータベースには、部品上のさまざまな把持位置と把持接近方向が含まれるのに対し、把持部と部品の干渉が排除される。計算された把持データベースではこのほか、
図1に示すタイプのロボットによる把持システムで迅速かつ効果的な把持識別を可能にすることが実証されている。
【0064】
上記で考察した把持生成技術は、既存の方法に対していくつかの利点を提供する。開示した方法は、不確実性及び外乱に対して堅固な、表面接触による高品質の全自由度把持を提供する。把持生成方法は、把持部接触面のみでモデル化された把持最適化を含むため、全体的な形状の従来技術の最適化方法よりもはるかに高速な計算を提供する。開示した方法は、仮想把持部表面を使用して把持の最適化を実施してクリアランスマージンを提供し、その結果、その後の符号付きディスタンスフィールド計算での誤った衝突警告が排除される。さらに、符号付きディスタンスフィールド衝突検査により、意図した把持部接触面と部品との相互作用から離れた場所で発生する実際の部品と把持部の干渉状態が迅速かつ効率的に検出される。
【0065】
これまでの考察を通じて、さまざまなコンピュータとコントローラを説明し、暗示している。このようなコンピュータ及びコントローラのソフトウェアアプリケーション及びモジュールは、プロセッサ及びメモリモジュールを有する1つまたは複数の計算装置上で実行されることを理解されたい。特に、これは、物体把持を実施するロボット100を制御するロボットコントローラ150内のプロセッサと、把持生成計算を実施するコンピュータ160内のプロセッサとを含む。これまでに考察したように、コントローラ150またはコンピュータ160のいずれかを、リアルタイム操作で把持する物体を識別するように構成してもよい。
【0066】
ロボットによる把持生成での衝突処理方法の多数の例示的な態様及び実施形態について上記で考察したが、当業者は、その修正、置換、追加及び部分的な組み合わせを認識するであろう。このため、以下の添付の特許請求の範囲と、その後に導入される特許請求の範囲は、その真の精神及び範囲内にあるようなあらゆる修正、置換、追加及び部分的な組み合わせを含むと解釈されることが意図されている。
【外国語明細書】