IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ トヨタ リサーチ インスティテュート,インコーポレイティドの特許一覧

特許7495485柔軟なエンドエフェクタによって保持された物体のポーズを求めるシステム及び方法
<>
  • 特許-柔軟なエンドエフェクタによって保持された物体のポーズを求めるシステム及び方法 図1
  • 特許-柔軟なエンドエフェクタによって保持された物体のポーズを求めるシステム及び方法 図2A
  • 特許-柔軟なエンドエフェクタによって保持された物体のポーズを求めるシステム及び方法 図2B
  • 特許-柔軟なエンドエフェクタによって保持された物体のポーズを求めるシステム及び方法 図3
  • 特許-柔軟なエンドエフェクタによって保持された物体のポーズを求めるシステム及び方法 図4A
  • 特許-柔軟なエンドエフェクタによって保持された物体のポーズを求めるシステム及び方法 図4B
  • 特許-柔軟なエンドエフェクタによって保持された物体のポーズを求めるシステム及び方法 図5
  • 特許-柔軟なエンドエフェクタによって保持された物体のポーズを求めるシステム及び方法 図6
  • 特許-柔軟なエンドエフェクタによって保持された物体のポーズを求めるシステム及び方法 図7
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-05-27
(45)【発行日】2024-06-04
(54)【発明の名称】柔軟なエンドエフェクタによって保持された物体のポーズを求めるシステム及び方法
(51)【国際特許分類】
   B25J 13/08 20060101AFI20240528BHJP
   B25J 9/16 20060101ALI20240528BHJP
【FI】
B25J13/08 Z
B25J9/16
【請求項の数】 18
(21)【出願番号】P 2022520488
(86)(22)【出願日】2020-09-30
(65)【公表番号】
(43)【公表日】2022-12-02
(86)【国際出願番号】 US2020053377
(87)【国際公開番号】W WO2021067339
(87)【国際公開日】2021-04-08
【審査請求日】2023-09-29
(31)【優先権主張番号】16/591,014
(32)【優先日】2019-10-02
(33)【優先権主張国・地域又は機関】US
【早期審査対象出願】
(73)【特許権者】
【識別番号】518102470
【氏名又は名称】トヨタ リサーチ インスティテュート,インコーポレイティド
(74)【代理人】
【識別番号】100099759
【弁理士】
【氏名又は名称】青木 篤
(74)【代理人】
【識別番号】100123582
【弁理士】
【氏名又は名称】三橋 真二
(74)【代理人】
【識別番号】100092624
【弁理士】
【氏名又は名称】鶴田 準一
(74)【代理人】
【識別番号】100147555
【弁理士】
【氏名又は名称】伊藤 公一
(74)【代理人】
【識別番号】100123593
【弁理士】
【氏名又は名称】関根 宣夫
(74)【代理人】
【識別番号】100133835
【弁理士】
【氏名又は名称】河野 努
(72)【発明者】
【氏名】ナビーン スレッシュ クップスワミー
(72)【発明者】
【氏名】アレクサンダー アルスパッチ
【審査官】杉山 悟史
(56)【参考文献】
【文献】特表2017-526543(JP,A)
【文献】L.U.ODHNER ET AL,A compliant, underactuated hand for robust,INTERNATIONAL JOURNAL OF ROBOTICS RESEARCH,vol.33,no.5,米国,2014年02月17日
(58)【調査した分野】(Int.Cl.,DB名)
B25J 1/00 ~ 21/02
(57)【特許請求の範囲】
【請求項1】
柔軟なエンドエフェクタにおいて位置決めされた1つ又は複数の触覚センサ及び1つ又は複数の曲率センサを有するロボットの柔軟なエンドエフェクタによって保持された物体を操作する方法であって、
処理装置により、前記1つ又は複数の触覚センサから触覚データを受け取るステップと、
前記処理装置により、前記1つ又は複数の曲率センサから曲率データを受け取るステップと、
前記処理装置により、前記曲率データから前記柔軟なエンドエフェクタの複数のセグメントを定めるステップと、
前記処理装置により、前記複数のセグメントの各々にフレームを割り当てるステップと、
前記処理装置により、前記触覚データから、前記物体と前記柔軟なエンドエフェクタとが接触する各ポイントの位置を求めるステップと、
前記処理装置により、相対変換の組を算出して、前記フレームの1つに対する各ポイントの位置を求めるステップと、
前記処理装置により、前記触覚データから求められた、前記物体と前記柔軟なエンドエフェクタとが接触する各ポイントの位置から連続データを生成するステップと、
前記処理装置により、前記連続データを使用して前記物体のポーズを求めるポーズ決定アルゴリズムに、前記連続データを提供するステップと、
前記処理装置により、求められた前記物体のポーズに基づいて前記物体を操作するように前記ロボットを制御するステップと、
を有し、
前記曲率データを受け取るステップは、前記柔軟なエンドエフェクタの指の内部側部材の複数のセグメントの曲率に対応する情報を受け取るステップを含み、
前記相対変換の組を算出するステップは、前記内部側部材の前記複数のセグメントの1つの曲率に沿った、
【数1】
を中心とした角度θの平行運動を得ることにより、変換
【数2】
との関係におけるフレームの変換を演算するステップを含む、方法。
【請求項2】
前記連続データをポーズ決定アルゴリズムに提供するステップは、前記連続データをICP(Iterative Closest Point)アルゴリズムに供給するステップを含む、請求項1に記載の方法。
【請求項3】
前記フレームの前記変換を演算するステップは、次式として演算され、
【数3】
ここで、相対位置ベクトル
【数4】
であり、θ=lκであり、κ及びR(θ)は、
【数5】
を中心とした角度θの回転を表す回転行列である、請求項に記載の方法。
【請求項4】
前記物体と前記柔軟なエンドエフェクタとが接触する各ポイントの位置を求めるステップは、前記柔軟なエンドエフェクタとの関係における前記触覚センサの少なくとも1つの位置を求めるステップと、前記触覚データから検知された圧力の特性を求めるステップと、を含む、請求項1~3のいずれか1項に記載の方法。
【請求項5】
前記フレームを前記複数のセグメントの各々に割り当てるステップは、前記柔軟なエンドエフェクタの曲率に沿った1つ又は複数の屈曲ポイントに基づいて前記フレームを割り当てるステップを含む、請求項1~4のいずれか1項に記載の方法。
【請求項6】
1つ又は複数の柔軟な指を有する柔軟なエンドエフェクタであって、前記柔軟な指の各々は、柔軟な内部側部材によって規定される、柔軟なエンドエフェクタと、
前記柔軟な指の各々の曲率を検出し、前記曲率に対応する曲率データを生成するように配置された1つ又は複数の曲率センサと、
前記柔軟な指の各々に隣接配置された1つ又は複数の触覚センサであって、前記柔軟なエンドエフェクタと前記柔軟なエンドエフェクタに保持された物体との間の接触によって生じる前記柔軟な内部側部材の1つ又は複数の変形の位置を検出し、前記1つ又は複数の変形の位置に対応する触覚データを生成するように構成された触覚センサと、
前記1つ又は複数の曲率センサ及び前記1つ又は複数の触覚センサと通信可能に接続された演算装置であって、前記曲率データ及び前記触覚データから連続データを生成し、前記連続データをポーズ推定アルゴリズムに供給することにより、前記柔軟なエンドエフェクタに保持された前記物体のポーズを求めるようにプログラミングされた演算装置と、
を有するロボット。
【請求項7】
前記1つ又は複数の柔軟な指の各々はフィンレイ指である、請求項に記載のロボット。
【請求項8】
前記1つ又は複数の曲率センサは、前記1つ又は複数の柔軟な指の各々の表面に配置された柔軟な材料のストリップを有する、請求項6又は7記載のロボット。
【請求項9】
前記柔軟な材料のストリップは、複数の曲率検出セグメントを有する、請求項に記載のロボット。
【請求項10】
前記柔軟な指の各々は、複数の指セグメントを規定し、
前記触覚センサを複数有し、
前記複数の触覚センサの少なくとも1つは、前記複数の指セグメントの各々に隣接配置されている、請求項に記載のロボット。
【請求項11】
前記1つ又は複数の触覚センサの各々は、計測されたエリア上に付与された力に起因した変形又は撓みの量を測定するためのフォースコレクタを使用するフォースコレクタ式装置である、請求項6~10のいずれか1項に記載のロボット。
【請求項12】
前記触覚データは圧力マップを有する、請求項6~11のいずれか1項に記載のロボット。
【請求項13】
前記1つ又は複数の曲率センサ及び前記1つ又は複数の触覚センサは、前記曲率データ及び前記触覚データを生成する単一装置内に統合されている、請求項6~12のいずれか1項に記載のロボット。
【請求項14】
前記演算装置は、プロセッサと、前記プロセッサと通信可能に接続された非一時的なプロセッサ可読ストレージ媒体とを有し、前記非一時的なプロセッサ可読ストレージ媒体は、1つ又は複数のプログラミング命令を含み、前記命令の実行により、前記プロセッサは、
前記1つ又は複数の触覚センサから前記触覚データを受け取り、
前記1つ又は複数の曲率センサから、前記柔軟なエンドエフェクタの指の内部側部材の複数のセグメントの曲率に対応する情報を含む前記曲率データを受け取り、
前記曲率データから、前記1つ又は複数の柔軟な指の各々の複数のセグメントを定め、
前記複数のセグメントの各々にフレームを割り当て、
前記触覚データから、前記物体と前記1つ又は複数の柔軟な指とが接触する各ポイントの位置を求め、
前記内部側部材の前記複数のセグメントの1つの曲率に沿った、
【数1】
を中心とした角度θの平行運動を得ることにより、変換
【数2】
との関係におけるフレームの変換を演算することにより相対変換の組を算出して、前記フレームの1つに対する各ポイントの位置を求め、
前記触覚データから求められた、前記物体と前記柔軟なエンドエフェクタとが接触する求められた各ポイントの位置から前記連続データを生成する、
請求項6~13のいずれか1項に記載のロボット。
【請求項15】
複数の柔軟な指を有する柔軟なエンドエフェクタを備えたロボットアームであって、前記柔軟な指の各々は、柔軟な内部側部材によって規定される、ロボットアームと、
前記柔軟な指の各々の曲率を検出し、前記曲率に対応する曲率データを生成する1つ又は複数の曲率センサと、
前記柔軟な指の各々に隣接配置された1つ又は複数の触覚センサであって、前記柔軟なエンドエフェクタと前記柔軟なエンドエフェクタに保持された物体との間の接触によって生じる前記柔軟な内部側部材の1つ又は複数の変形の位置を検出し、前記1つ又は複数の変形の位置に対応する触覚データを生成するように構成された触覚センサと、
前記1つ又は複数の曲率センサ及び前記1つ又は複数の触覚センサと通信可能に接続された演算装置であって、前記曲率データ及び前記触覚データから連続データを生成し、前記連続データをポーズ推定アルゴリズムに供給することにより、前記柔軟なエンドエフェクタによって保持された前記物体のポーズを求めるようにプログラミングされた演算装置と、
を有するロボット。
【請求項16】
前記複数の柔軟な指の各々はフィンレイ指である、請求項15に記載のロボット。
【請求項17】
前記1つ又は複数の曲率センサは、前記複数の柔軟な指の各々の表面に配置された柔軟な材料のストリップを有する、請求項15又は16に記載のロボット。
【請求項18】
前記柔軟な指の各々は、複数の指セグメントを規定し、
前記1つ又は複数の触覚センサは、複数の触覚センサを有し、
前記複数の触覚センサの少なくとも1つは、前記複数の指セグメントの各々に隣接配置されている、請求項15~17のいずれか1項に記載のロボット。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互参照
本出願は、2019年10月2日付けで出願された「Systems and Methods for Determining Pose of Objects Held By Flexible End Effectors」という名称を有する米国特許出願第16/591,014号の優先権の利益を主張するものであり、その内容の全ては、本参照を以って本明細書に包含されるものとする。
【0002】
本明細書は、広くは、ポーズ推定システムに関し、特には、ロボットの柔軟なエンドエフェクタに保持された物体のポーズを推定するコンピュータの能力を改善するシステムに関する。
【背景技術】
【0003】
柔軟なロボットエンドエフェクタは、奇妙な形状の物体、柔軟ではないエンドエフェクタによる把持が困難である物体、未知の形状特性を有する物体等を把持する際に特に有用である。
【発明の概要】
【発明が解決しようとする課題】
【0004】
柔軟なロボットエンドエフェクタは、(例えば、ビンピッキングシナリオ等の)ピックアンドドロップタイプのシナリオにおいて特に有用であるが、柔軟なロボットエンドエフェクタによって保持された際の操作された物体の正確なポーズに関係する情報を伴うことなしには、操作された物体の正確な配置を実現することが困難となり得る。
【課題を解決するための手段】
【0005】
一実施形態において、柔軟なエンドエフェクタにおいて位置決めされた1つ又は複数の触覚センサ及び1つ又は複数の曲率センサを有するロボットの柔軟なエンドエフェクタによって保持された物体のポーズを決定する方法は、処理装置により、1つ又は複数の触覚センサから触覚データを受け取るステップと、処理装置により、1つ又は複数の曲率センサから曲率データを受け取るステップと、処理装置により、曲率データから柔軟なエンドエフェクタの複数のセグメントを決定するステップと、処理装置により、各セグメントにフレームを割り当てるステップと、処理装置により、物体と柔軟なエンドエフェクタとが接触する各ポイントの位置を求めるステップと、処理装置により、相対変換の組を算出して、触覚データからフレームの1つに対する各ポイントの位置を求めるステップと、処理装置により、求められた各ポイントの位置から連続データを生成するステップと、処理装置により、連続データを使用して物体のポーズを求めるポーズ判定アルゴリズムに、連続データを提供するステップと、を含む。
【0006】
他の実施形態において、ロボットの柔軟なエンドエフェクタに保持された物体のポーズを決定するシステムは、1つ又は複数の柔軟な指を有する柔軟なエンドエフェクタを含み、1つ又は複数の柔軟な指の各々は、柔軟な内部側部材によって規定される。システムは、1つ又は複数の柔軟な指の各々の曲率を検出し、曲率に対応する曲率データを生成するように配置された1つ又は複数の曲率センサと、1つ又は複数の柔軟な指の各々に隣接配置された1つ又は複数の触覚センサとをさらに含み、1つ又は複数の触覚センサは、柔軟なエンドエフェクタと柔軟なエンドエフェクタに保持された物体との間の接触によって生じる柔軟な内部側部材の1つ又は複数の変形の位置を検出し、1つ又は複数の変形の位置に対応する触覚データを生成するように構成されている。システムはさらに、1つ又は複数の曲率センサ及び1つ又は複数の触覚センサと通信可能に接続された演算装置を更に含み、演算装置は、曲率データ及び触覚データから連続データを生成し、連続データをポーズ推定アルゴリズムに供給することにより、柔軟なエンドエフェクタに保持された物体のポーズを求めるようにプログラミングされている。
【0007】
さらなる他の実施形態において、ロボットに保持された物体のポーズを決定するシステムは、複数の柔軟な指を有する柔軟なエンドエフェクタを備えたロボットアームを含み、複数の柔軟な指の各々は、柔軟な内部側部材によって規定される。システムは、複数の柔軟な指の各々の曲率を検出し、曲率に対応する曲率データを生成するように配置された1つ又は複数の曲率センサと、複数の柔軟な指の各々に隣接配置された1つ又は複数の触覚センサと、をさらに含み、1つ又は複数の触覚センサは、柔軟なエンドエフェクタと柔軟なエンドエフェクタに保持された物体との間の接触によって生じる柔軟な内部側部材の1つ又は複数の変形の位置を検出し、1つ又は複数の変形の位置に対応する触覚データを生成するように構成されている。システムはさらに、1つ又は複数の曲率センサ及び1つ又は複数の触覚センサと通信可能に接続された演算装置をさらに含み、演算装置は、曲率データ及び触覚データから連続データを生成し、連続データをポーズ推定アルゴリズムに供給することにより、柔軟なエンドエフェクタに保持された物体のポーズを求めるようにプログラミングされている。
【0008】
本明細書に記載された実施形態によって提供されるこれらの及び他の特徴については、図面に関連する以下の詳細な説明に鑑み、さらに十分に理解されよう。
【0009】
図面に記載されている実施形態は、本来的に例示及び例証を目的としたものであり、特許請求の範囲に規定されている主題の限定を意図したものではない。例示的実施形態に関する以下の詳細な説明については、添付図面との関連において参照された際に理解可能であり、同様の構造は同一の参照符号によって示されており、図面は以下の通りである。
【図面の簡単な説明】
【0010】
図1】本明細書に図示及び記載されている1つ又は複数の実施形態に係る、柔軟なエンドエフェクタを有する例示的ロボットアームを概略的に示す。
【0011】
図2A】本明細書に図示及び記載されている1つ又は複数の実施形態に係る、目標物体を把持していないときの柔軟なエンドエフェクタの詳細を概略的に示す。
【0012】
図2B】本明細書に図示及び記載されている1つ又は複数の実施形態に係る、目標物体を把持しているときに目標物体の形状に倣う柔軟なエンドエフェクタの詳細を概略的に示す。
【0013】
図3】本明細書に図示及び記載されている1つ又は複数の実施形態に係る、屈曲センサを有する柔軟なエンドエフェクタの例示的な指を概略的に示す。
【0014】
図4A】本明細書に図示及び記載されている1つ又は複数の実施形態に係る、柔軟なエンドエフェクタを有するロボットアームと通信可能接続された装置の例示的ネットワークを概略的に示す。
【0015】
図4B】本明細書に図示及び記載されている1つ又は複数の実施形態に係る、柔軟なエンドエフェクタを有するロボットアームと通信可能に接続された装置のネットワーク内のサーバ演算装置の例示的な内部コンポーネントを概略的に示す。
【0016】
図5】本明細書に図示及び記載されている1つ又は複数の実施形態に係る、柔軟なエンドエフェクタによって保持された物体のポーズを求める例示的の方法のフロー図を示す。
【0017】
図6】本明細書に図示及び記載されている1つ又は複数の実施形態に係る、柔軟なエンドエフェクタの断片ごとの例示的な定曲率モデルを示す。
【0018】
図7】本明細書に図示及び記載されている1つ又は複数の実施形態に係る、柔軟なエンドエフェクタのセグメントの曲率を求めるために使用される例示用なセグメント円弧を示す。
【発明を実施するための形態】
【0019】
本開示は、広くは、ロボット装置の柔軟なエンドエフェクタによって把持された物体のポーズを推定するシステム及び方法に関する。システム及び方法は、1つ又は複数の触覚センサが柔軟なエンドエフェクタと把持された物体とが接触する1つ又は複数のポイントにおいて情報を検出し得るように、かつ1つ又は複数の曲率センサが柔軟なエンドエフェクタと把持された物体との間の接触によって生じる圧力に起因して変形した際に柔軟なエンドエフェクタの曲率を検出し得るように、ロボット装置の柔軟なエンドエフェクタ又はその近傍に配置された1つ又は複数の触覚センサ及び1つ又は複数の曲率センサを内蔵している。1つ又は複数のポイント及び柔軟なエンドエフェクタの曲率に対応するデータは、把持された物体のポーズを正確に決定するためのアルゴリズムにおいて使用可能である。把持された物体のポーズの正確な判定により、ロボット装置を制御するコンピュータシステムが、物体が柔軟なエンドエフェクタから解放された際の物体の正確な配置を保証することになるロボット運動を決定するが可能になる。このように、コンピュータシステム(のみならず、システム全体)の改善が実現されている。
【0020】
柔軟な構造は、これらが提供する追従性を理由として、ロボット工学において使用されており、このことは、不確実性又は環境との予期しない接触に対処において利点を有する。但し、柔軟な材料の機構は、モデルベースのロボット工学フレームワークにおける問題を提起しており、これにより、既存の最適化ベースの方法を解決困難にしている。このような柔軟な構造の一般的な一例は、構造化されていない不確実な環境において複数の操作の例で採用されている、いわゆるフィンレイ指(Finray finger)である。例えばFesto(Esslingen am Neckar, Germany)によって製造されたこれらの構造は、パラレルジョーグリッパ用の柔軟な指として使用されている。これらの構造は、マニピュランド(manipuland)(操作されている物体)の表面に追従し、例えば飲用カップ、マグ、小さな直方体等の様々な家庭内の物体の形状に対して大きな接触パッチを実現する一方で、本来的な構造特性によって何らかの形態の力及び/又は形態の閉鎖を実現するので、非常に信頼性の高い把持を呈する。このような構造は、ビンピッキングにおいてしばしば利用されるようなピックアンドドロップタイプのシナリオにおいて極めて有用である一方で、マニピュランドの正確な配置が望まれる状況においていくつかの困難性を呈する。この追従性は結果的に、安定した把持が実現された後に、グリッパに対するマニピュランドのポーズ(主に、向き)に関する不確実性をもたらす。容量性パッチ、抵抗性パッチ、及び/又はこれらに類似するものに基づく触覚センサ技術は、接触の有無を識別するために使用可能である一方で、圧力の検出を通じて接触パッチの正確な位置を演算することは困難である。この問題に対する鍵は、例えば、連続的に変形する表面に沿った接触の位置の決定等、接触表面の連続性である。
【0021】
本開示は、曲率運動学の一形態を開発するために、柔軟な表面に沿った複数の別個の曲率(屈曲)計測値を使用することで、この課題に対処するシステム及び方法に関する。このことは、接触ポイント及び/又はパッチの順運動学を演算し、故に接触経路の空間内の「ポイントクラウド」の形態を演算する、という課題に対処する。このアプローチにより、内部に埋め込まれた高密度の触覚センサを有する任意の柔軟な表面を、高密度の幾何学センサに使用できるようになる。本明細書に記載されているアプローチの基礎となる重要な仮定は、材料の屈曲が、平面的であるとともに、断片ごとに一定の曲率で近似できることである。
【0022】
本明細書において使用されるセンサのタイプは、柔軟なエンドエフェクタの他のコンポーネントに対する自由空間内でのセンサの位置を求めるために使用可能であることを理解されたい。即ち、1つ又は複数の触覚センサ及び/又は1つ又は複数の曲率センサから受け取られた情報は、特定のセンサがポーズを推定するという目的のために目標物体に接触しているか否かとは関係なく、そのセンサに対してローカライズすることができる。このようなローカライズされた情報は、例えば、特定の場所における温度等、様々な目的のために役立ち得る。
【0023】
ここで図面を参照すると、図1は、様々な実施形態に係る、目標物体150を操作する柔軟なエンドエフェクタ110を有し、全体的に100と表記された例示的ロボットアームを示す。図1に示す例示的ロボットアーム100は、ビンピッキング用途等のピックアンドドロップ用途において特定の使用法を提供し得る。但し、ロボットアーム100は、この使用法に限定されるものではなく、本開示の範囲を逸脱することなく、他の目的に使用可能であることを理解されたい。いくつかの実施形態において、ロボットアーム100は、ヘルスケア業界、製造業界、車両修理業界、及び/又はこれらに類似するものにおいて使用可能である。
【0024】
ロボットアーム100は概して、1つ又は複数の関節108a、108b、108cを介して1つ又は複数のアームセグメント(例えば、第1アームセグメント104及び/又は第2アームセグメント106)に連結されたベース102を有し得、これにより、ロボットアーム100に広範囲の動作を提供する。ピックアンドドロップ用途のロボットアームは広く理解されているので、本明細書では、図1に示すロボットアーム100のさらなる詳細な説明は省略する。
【0025】
いくつかの実施形態において、柔軟なエンドエフェクタ110は、第1指112及び第2指118等の1つ又は複数の柔軟な指を含み得る。図1は2本の指を示すが、本開示はこれに限定されない。即ち、柔軟なエンドエフェクタは、本開示の範囲を逸脱することなく、単一の指、2つの指、3つの指、又は3つ超の指を有し得る。1つ又は複数の指は、目標物体150をピックアップするために柔軟なエンドエフェクタ110を開閉すべく、互いに対して移動可能であり得る。例えば、図2A及び図2Bを参照すると、1つ又は複数の指は、目標物体150が1つ又は複数に指によって保持されていない開放位置(図2A)から、目標物体が1つ又は複数の指によって保持されている閉鎖位置(図2B)まで移動可能である。
【0026】
また図2A及び図2Bを参照すると、柔軟なエンドエフェクタ110の1つ又は複数の指に関するさらなる詳細が示されている。例えば、第1指112は、近位端141及び遠位端142を有し得る。把持メカニズム113は、遠位端142を、柔軟なエンドエフェクタ110が図2Bに示すように閉鎖位置にあるときは、第2指118に向かって内向きに移動させ、柔軟なエンドエフェクタ110が図2Aに示すように開放位置にあるときは、第2指118から離れるように外向きに移動させる。また第2指118も、近位端143及び遠位端144を有し得る。把持メカニズム119は、遠位端144を、柔軟なエンドエフェクタ110が図2Bに示すように閉鎖位置にあるときは、第1指112に向かって内向きに移動させ、柔軟なエンドエフェクタ110が図2Aに示すように開放位置にあるときは、第1指112から離れるように外向きに移動させる。
【0027】
図2Aを参照すると、第1指112及び第2指118の各々は、外部側部材114及び内部側部材116を有し得る。第1指112及び第2指118の外部側部材114は、概ね外側に面している(例えば、第1指112の外部側部材114は、第2指118とは反対側に面しており、第2指118の外部側部材114は、第1指112とは反対側に面している)。第1指112及び第2指118の内部側部材116は、概ね内側に面している(例えば、第1指112の内部側部材116は、第2指118に対向しており、第2指118の内部側部材116は、第1指112に対向している)。外部側部材114及び内部側部材116はいずれも、一般的には、柔軟なエンドエフェクタ110が図2Bに示すように目標物体150の周りで閉鎖位置にあるときに、目標物体150の周りで変形可能な柔軟な材料から製造可能である。フィンレイタイプの装置(フィンレイタイプのエンドエフェクタを含む)において使用される柔軟な材料については、一般に理解されているはずなので、本明細書では、さらなる詳細な説明はしない。
【0028】
また図2Aを参照すると、いくつかの実施形態において、外部側部材114及び内部側部材116は、外部側部材114及び内部側部材116が、それらの遠位端において(例えば、第1指112の遠位端142において、第2指118の遠位端144において)互いに連結するように、かつ、近位端において(例えば、第1指112の近位端141に向かって、第2指118の近位端143に向かって)横断方向に互いに離れるように延在するように、略三角形の構造として構成可能である。また、1つ又は複数の横断支柱120が、それぞれの外部側部材114と内部側部材116との間を延びてもよく、さらに、ピン122等を介してそれぞれの外部側部材114及び内部側部材116にヒンジ結合されてもよい。図2A及び図2Bは、第1指112及び第2指118のそれぞれの上に4つの横断支柱120を示すが、これは単なる例示である。即ち、本開示の範囲を逸脱することなく、任意数の横断支柱120が第1指112及び第2指118のそれぞれの外部側部材114と内部側部材116との間に存在し得る。横断支柱120は、内部側部材116が複数のセグメント124にセグメント化されるように、互いに離隔させ、内部側部材116との外部側部材114の交点から離隔させ、かつ、把持メカニズム113、119から離隔させることができる。本明細書においてさらに詳細に述べるように、複数のセグメントの各々は、圧力及び/又は曲率について検出可能である。
【0029】
一般に理解されるように、内部側部材116及び外部側部材114の柔軟な特性と、横断支柱120のヒンジによる装着とにより、柔軟なエンドエフェクタ110が図2Bに示すように目標物体150を把持したときに、内部側部材116が目標物体150の周囲で湾曲することが可能になる。この把持の結果、内部側部材116上の1つ又は複数のポイントが目標物体150に接触し、内部側部材116の各々は特定の曲率を有する。図2Bは、内部側部材116の各々を、目標物体150の円形形状に起因してその全長に沿って適合する曲率を有するものとして図示しているが、本開示はこれに限定されない。即ち、目標物体150が円形形状でない(例えば、不規則な形状を有する)実施形態では、内部側部材116と目標物体とが接触する1つ又は複数のポイントは、複数のセグメント124の1つ又は複数が、他の複数のセグメント124とは異なる曲率を有する場合がある。なお図2Bは、実質的にその全長に沿って目標部材150に接触する内部側部材116を示すが、本開示はこれに限定されない。即ち、目標物体150が円形形状でない(例えば、不規則な形状を有する)実施形態では、1つ又は複数の接触ポイントは、内部側部材の長さに沿った特定のポイントに分散し得る。目標物体150の形状とは無関係に、第1指112及び第2指118が目標物体150の周りの閉鎖された位置に対して互いに向かって移動したときは、第1指112及び第2指118の柔軟な特性により、一般に、目標物体の堅固な把持を維持し、かつ、柔軟な材料から形成されていないロボットエンドエフェクタに対する適所で目標物体を成功裏に保持するように、第1指112及び第2指118が目標物体の周りにおいて曲がることができる。
【0030】
再び図2A及び図2Bを参照すると、柔軟なエンドエフェクタ110は、1つ又は複数の曲率センサ130及び1つ又は複数の触覚センサ132を含み得る。1つ又は複数の曲率センサ130は、一般に、第1指112の内部側部材116及び第2指118の内部側部材116の各々の曲率を検出するように配置されており、これには、各セグメント124の曲率が含まれる。1つ又は複数の触覚センサ132は、一般に、目標物体150と内部側部材116との間の接触によって生じる内部側部材116内の1つ又は複数の変形の位置を検出するように配置されており、これにより、目標物体150が図2Bに示すように把持されたときに、内部側部材116と目標物体150とが接触するポイントを求めることが可能になる。
【0031】
図2A及び図2Bに示すように、曲率センサ130は、目標物体150から遠位側に(例えばそれぞれ、第1指112の遠位端142及び第2指118の遠位端144に向かって)配置される。但し、本開示はこれに限定されない。即ち、曲率センサ130は、各セグメント124の曲率が検出可能な任意の場所に配置可能である。例えば、図3に示すように、代替的な曲率センサ130’は、各指(図3では第2指を示す)の表面に配置された柔軟な材料のストリップであってもよい。例えば、柔軟な材料のストリップは、内部側部材116の全長に沿って延在し得る。図3では、代替的曲率センサ130’が内部側部材116の外側表面上にあるものとして示されているが、これは例示に過ぎない。即ち、代替的曲率センサ130’は、代替的曲率センサ130’が本明細書に記載されているように内部側部材116の曲率を適切に検出できる限り、内部側部材116の内側表面上、外部側部材114の外側表面上、外部側部材114の内部表面上、或いは、柔軟なエンドエフェクタ110に関連する任意の他の場所に、配置可能である。
【0032】
いくつかの実施形態では、代替的曲率センサ130’は、複数の曲率検出セグメント(例えば、第1曲率検出セグメント134a、第2曲率検出セグメント134b、第3曲率検出セグメント134c、第4曲率検出セグメント134d及び第5曲率検出セグメント134e)を有し得る。いくつかの実施形態では、曲率検出セグメントの各々は、内部側部材116の複数のセグメント124の各々に対応し得る。いくつかの実施形態では、曲率検出セグメントの1つ又は複数は、複数のセグメントに跨ってもよい。いくつかの実施形態では、曲率検出セグメントの1つ又は複数のスパンは、セグメントの長さ未満であってもよい。いくつかの実施形態では、1つの曲率検出セグメントは、他の曲率検出セグメント(例えば、オーバーラップしている複数の曲率検知セグメント)とオーバーラップしてもよい。
【0033】
再び図2A及び図2Bを参照すると、1つ又は複数の触覚センサ132は、一般に、目標物体150と内部側部材116との間の接触の結果としてもたらされる圧力が接触位置の決定を目的として検出されるように、第1指112及び第2指118の内部側部材116の長さに沿った位置に配置可能である。例えば、図2A及び図2Bに示すように、少なくとも1つの触覚センサ132は、そのセグメント124内の接触を検出するように、各セグメント124内に配置可能である。但し、1つ又は複数の触覚センサ132は、いくつかの実施形態では他の場所に配置可能であることを理解されたい。柔軟なエンドエフェクタ110の他の構成要素(例えば、他の触覚センサ132、複数のセグメント、遠位端142、144、近位端141、143、及び/又はこれらの類似物)に対する各触覚センサ132の正確な場所は、後のアクセスのために、ストレージ装置等に保存され得る。即ち、各触覚センサ132の場所が既知であることにより、ロボットアーム100及び/又はその構成要素(例えば、柔軟なエンドエフェクタ110)が移動したときの自由空間内での各触覚センサ132の場所がわかる。このような情報は、特定の触覚センサ132が目標物体150との接触を検知しているか否かとは関係なく、ローカライズされたデータを提供することができる。例えば、特定の触覚センサ132との接触ポイントにおける目標物体150の温度を取得してもよいし、目標物体150を取り囲む特定エリア内の温度を取得してもよいし、かつ/又は、これに類似した内容が実行されてもよい。
【0034】
曲率センサ130の各々は、一般に、物体の曲率、特に、第1指112及び第2指118の内部側部材116の曲率を検出でき、これに対応するデータ(例えば、曲率データ)を出力する任意の装置であり得る。いくつかの実施形態では、曲率センサ130は、曲率を検出するように特に構成されたホール効果センサであり得る。いくつかの実施形態では、曲率センサ130は、例えばTekscan,Inc.(South Boston,MA)から入手可能なセンサ等の、柔軟な触覚センサであり得る。他の実施形態では、曲率センサ130は、Flexpoint Sensor Systems Inc.(Draper,UT)から入手可能なBend Sensor(登録商標)等の物理的な屈曲センサであり得る。さらなる他の実施形態では、曲率センサ130は、曲率が(例えば、1つ又は複数の画像処理アルゴリズムを介して)決定され得るように内部側部材116の画像を取得する撮像装置等の、画像ベースのセンサであり得る。
【0035】
触覚センサ132の各々は、高分解能センサ又は低分解能センサであってもよい。高分解能センサは、一般に、比較的高レベルの精度又は空間密度で検出する任意の触覚センサのタイプを意味し、1つ又は複数のカメラ、高分解能圧力検出グリッド等を含み得る。低分解能センサは、一般に、比較的低レベルの精度又は空間密度で検出する任意の触覚センサのタイプを意味し、例えば単一ポイント圧力センサを含み得る。いくつかの実施形態では、触覚センサ132の各々は、計測され又は予め定めたエリアに付与された力に起因した変形又は撓みの量を計測するためにフォースコレクタ(例えば、ダイアフラム、ピストン、ブルドン管、ベローズ等)を使用する任意のフォースコレクタ式の装置であってもよく、これに対応するデータ(例えば、触覚データ)を出力する。従って、内部側部材116の変形が柔軟なエンドエフェクタ110と目標物体150との間の接触に起因して発生したときに、触覚センサ132は、変形の位置を正確に示すために、変形を検知するように配置及び構成されており、本明細書においてより詳細に述べるように、柔軟なエンドエフェクタ110の1つ又は複数の部分に対する目標物体150の位置、及び/又は把持されたときの目標物体150のポーズを判定するために使用可能である。いくつかの実施形態では、例えば温度等の他のデータを、触覚センサ132によって検出可能である。触覚センサの図示例は、ピエゾ抵抗歪ゲージセンサ、容量センサ、電磁センサ、圧電センサ、歪ゲージセンサ、光学センサ、及び電位差センサを含むが、これらに限定されない。いくつかの実施形態では、1つ又は複数の触覚センサ132は、圧力マップの形態でデータを生成する1つ又は複数の圧力マップセンサであり得る。他の実施形態では、1つ又は複数の触覚センサ132は、圧力を検出し、圧力データの形態で触覚データを生成す。他のタイプのセンサについても、一般に理解されているはずであり、本開示の範囲に含まれる。
【0036】
いくつかの実施形態では、曲率センサ130及び触覚センサ132は、単一の装置内に統合されてもよい。即ち、単一の装置は、曲率検出能力及び圧力検出能力の双方を有する。また単一の装置は、2つの別個のデータストリーム、即ち1つ又は複数のポイントにおける検出された曲率に関するもの(例えば、曲率データ)と、1つ又は複数のポイントにおける検出された圧力に関する他のもの(例えば、触覚データ)とを出力することができる。
【0037】
図4Aを参照すると、ロボットアーム100は、いくつかの実施形態では、把持されたときの目標物体150(図1)の向きを決定するためのプロセスを実行する1つ又は複数の演算装置と通信可能に接続可能である。但し、ロボットアーム100は、他の実施形態では、把持されたときの目標物体150(図1)の向きを決定するためのプロセスを実行する1つ又は複数の内部コンポーネント(例えば、プロセッサ、メモリ等)を有し得ることを理解されたい。さらなる他の実施形態では、把持されたときの目標物体150(図1)の位置及び/又は向きを決定するためのプロセスを実行するために、ロボットアーム100内の内部コンポーネントと1つ又は複数の他の演算装置との組合せを使用することができる。
【0038】
図4Aに示すように、ロボット通信ネットワーク400は、インターネット等のワイドエリアネットワーク(WAN)、ローカルエリアネットワーク(LAN)、モバイル通信ネットワーク、公衆サービス電話網(PSTN)、パーソナルエリアネットワーク(PAN)、メトロポリタンエリアネットワーク(MAN)、仮想プライベートネットワーク(VPN)、及び/又は別のネットワークを含み得る。ロボット通信ネットワーク400は、一般に、演算装置及び/又はそのコンポーネント等の1つ又は複数の装置を電子的に接続するように構成可能である。図示例の装置は、ロボットアーム100、サーバ演算装置410、及び/又はユーザ演算装置420を含み得るが、これに限定されない。
【0039】
さらに図4Aを参照すると、ユーザ演算装置420は、一般に、ユーザとロボット通信ネットワーク400に接続された他のコンポーネントとの間のインターフェイスとして使用可能である。従ってユーザ演算装置420は、ユーザから1つ又は複数の入力を受け付け、又はユーザに情報を提供する等の、ユーザに対する1つ又は複数の機能を実行するために使用可能である。従ってユーザ演算装置420は、少なくともディスプレイ及び/又は入力ハードウェアを含み得る。サーバ演算装置410が監視、更新及び/又は修正を要求している場合には、ユーザ演算装置420は、望ましい監視、更新及び/又は修正を提供するように構成可能である。またユーザ演算装置420は、サーバ演算装置410に保存されているデータのコーパス内にさらなるデータを入力するために使用することもできる。例えば、ユーザ演算装置420により、ユーザが目標物体の既知の寸法に関するデータ、ピックアンドドロップ表面に関する詳細等を入力することが可能になる。
【0040】
サーバ演算装置410は、1つ又は複数のソース(例えば、1つ又は複数の触覚センサ(触覚データ)及び/又は1つ又は複数の曲率センサ(曲率データ))からデータを受け取ってもよいし、受け取ったデータの分析(例えば、目標物体の形状及び/又は寸法特性の決定、把持された目標物体のポーズの決定、目標場所の向きの決定、把持された目標物体を配置するためのロボットアーム100への命令送信、等)を行ってもよいし、データを生成してもよいし、データを保存してもよいし、データにインデックスを付与してもよいし、データを探索してもよいし、かつ/又は、データをユーザ演算装置420及び/又はロボットアーム100(又はその構成要素)に提供してもよい。より詳しくは、サーバ演算装置410は、本明細書にさらに詳細に記載されているように、目標物体に関する情報(識別情報、形状情報、及び/又は寸法情報を含む)を受け取ってもよいし、1つ又は複数の曲率センサ130(図2A)及び1つ又は複数の触覚センサ132(図2A)からデータを受け取ってもよいし、曲率及び目標物体150(図1)とロボットアーム100(例えば、その柔軟なエンドエフェクタ110)とが接触する1つ又は複数のポイントを決定してもよいし、曲率及び1つ又は複数の接触ポイントから目標物体150のポーズを決定してもよいし、かつ/又は、これらに類似した内容を実行してもよい。いくつかの実施形態では、サーバ演算装置410は、本明細書にさらに詳細に記載されているように、上述のプロセスを実行するための1つ又は複数のソフトウェアモジュールを利用し得る。
【0041】
さらに図4Aを参照すると、ユーザ演算装置420はパーソナルコンピュータとして図示され、サーバ演算装置410はサーバとして図示されているが、これらは非限定的な例であることを理解されたい。いくつかの実施形態では、これらの任意の構成要素のために、任意のタイプの演算装置(例えば、モバイル演算装置、パーソナルコンピュータ、サーバ、クラウドベースの装置ネットワーク等)を使用することができる。また、これらの演算装置の各々は、図4Aではハードウェアの単一ピースとして示されているが、これも単なる一例である。ユーザ演算装置420及びサーバ演算装置410の各々は、複数のコンピュータ、サーバ、データベース、コンポーネント等を表し得る。
【0042】
図4Bは、本明細書に記載されている機能をサーバ演算装置410に提供する、サーバ演算装置410の例示的内部コンポーネントを示す。図4Bは、具体的にはサーバ演算装置410に関係しているが、同一又は類似のコンポーネントが、本開示の範囲を逸脱することなく、ロボットアーム100及び/又はユーザ演算装置420(図4A)内にも含まれ得ることを理解されたい。
【0043】
図4Bに示すように、サーバ演算装置410は、非一時的なメモリコンポーネント430、処理装置440、入出力(I/O)ハードウェア450、ネットワークインターフェイスハードウェア460、ユーザインターフェイスハードウェア470、及びデータストレージコンポーネント480を含み得る。バス等のローカルインターフェイス425が、様々なコンポーネントを相互接続し得る。
【0044】
コンピュータ処理ユニット(CPU)等の処理装置440は、プログラムを実行するために計算及び論理動作を実行するサーバ演算装置410の中央処理ユニットであり得る。処理装置440は、単独の又は他のコンポーネントと関連する例示的処理装置であるか、演算装置であるか、プロセッサであるか、又はこれらの組合せである。処理装置440は、(データストレージコンポーネント480及び/又はメモリコンポーネント430等からの)命令を受け取って実行するように構成された任意の処理コンポーネントを含み得る。
【0045】
メモリコンポーネント430は、揮発性及び/又は不揮発性のコンピュータ可読媒体として構成可能であり、故にランダムアクセスメモリ(SRAM、DRAM、及び他のタイプのランダムアクセスメモリを含む)、読み出し専用メモリ(ROM)、フラッシュメモリ、レジスタ、コンパクトディスク(CD)、デジタル多用途ディスク(DVD)、及び/又は他のタイプのストレージコンポーネントを含み得る。メモリコンポーネント430は、1つ又は複数のプログラミング命令を含むことができ、この命令は、処理装置440によって実行されると、図5に関して本明細書に記載されているプロセス等の種々のプロセスを処理装置440が完了させる。
【0046】
また図4Bを参照すると、メモリコンポーネント430に保存されているプログラミング命令は、複数のソフトウェアロジックモジュールとして具体化されてもよく、この場合には、各ロジックモジュールは、1つ又は複数のタスクを完了させるプログラミング命令を提供する。図4Bに示す例示的ロジックモジュールは、動作ロジック432、システムロジック434、物体決定ロジック436、及び/又はポーズ決定ロジック438を含むが、これに限定されない。図4Bに示すロジックモジュールの各々は、例えば、コンピュータプログラム、ファームウェア又はハードウェアとして具体化可能である。動作ロジック432は、オペレーティングシステム及び/又はサーバ演算装置410のコンポーネントを管理するための他のソフトウェアを含み得る。システムロジック434は、一般に、ロボットアーム100(図4A)の構成要素の動作を制御するためのロジックを含み得、この制御は例えば、ロボットアーム100(及び/又はその構成要素)の運動の制御、ロボットアーム100からのセンサデータ(例えば、触覚データ及び/又は曲率データ)の受信等である。図4Bをさらに参照すると、物体決定ロジック436は、1つ又は複数のプログラミング命令を含み得、該命令は、目標物体を決定するため、ロボットアーム100(又はその構成要素)に対する目標物体の位置を求めるため、目標物体の形状を求めるため、目標物体の寸法的外観を求めるため、及び/又はこれらに類似した内容を実行するためのものである。ポーズ決定ロジック438は、1つ又は複数のプログラミング命令を含み得、該命令は、1つ又は複数のセンサ(例えば、曲率センサ、触覚センサ等)からデータを受け取るため、ロボットアーム100の1つ又は複数の部分(例えば、1つ又は複数のセンサ)に対する目標物体の位置を求めるため、エンドエフェクタの1つ又は複数の部分の曲率を求めるため、エンドエフェクタと目標物体とが接触する1つ又は複数のポイントを求めるため、及び/又は、把持された目標物体のポーズを算出するためのものである。
【0047】
図4Bをさらに参照すると、I/Oハードウェア450は、ローカルインターフェイス425とロボットアーム100(図4A)の1つ又は複数の構成要素との間で情報を伝達することができる。例えば、I/Oハードウェア450は、ロボットアーム100(図4A)とサーバ演算装置410の他のコンポーネントとの間のインターフェイスとして機能することができ、本明細書にさらに詳細に記載されているように、サーバ演算装置410によるコマンド送信や、ロボットアーム100とサーバ演算装置410との間でのデータ送信等を促進する。
【0048】
ネットワークインターフェイスハードウェア460は、モデム、LANポート、無線フィデリティ(Wi-Fi)カード、WiMaxカード、モバイル通信ハードウェア、及び/又は他のハードウェア等の、他のネットワーク及び/又は装置と通信するための任意の有線又は無線ネットワーキングハードウェアを含み得る。例えば、ネットワークインターフェイスハードウェア460は、外部装置、ユーザ演算装置420(図4A)及びロボットアーム100間での通信を、ロボット通信ネットワーク400を介して促進するために使用可能である。いくつかの実施形態では、I/Oハードウェア450及びネットワークインターフェイスハードウェア460は、サーバ演算装置410との間での全ての通信を取り扱う単一の装置内に統合することができる。
【0049】
図4Bをさらに参照すると、データストレージコンポーネント480は、一般にストレージ媒体であってもよく、受け取ったかつ/又は生成されたデータを保存するための1つ又は複数のデータリポジトリを含み得る。データストレージコンポーネント480は、ハードディスクドライブ(HDD)、メモリ、着脱自在のストレージ等を含む任意の物理的なストレージ媒体であり得るが、これに限定されない。データストレージコンポーネント480は、ローカル装置として図示されているが、データストレージコンポーネント480は、例えば、サーバ演算装置、クラウドベースのストレージ装置等のリモートストレージ装置でもよいことを理解されたい。データストレージコンポーネント480内に含まれ得る例示的データは、物体データ482、センサデータ484、及び/又は他のデータ486を含むが、これに限定されない。物体データ482は、一般に、特定の目標物体を認識するためにサーバ演算装置410によって使用されるデータであり得る。例えば、サーバ演算装置410は、ロボットアーム100(図4A)によって把持されたときの目標物体のポーズを推定するために、基準画像及び/又は特定の目標物体に関する他のデータ(例えば、目標物体の寸法、目標物体の形状、目標物体の識別等)を取得すべく物体データ482にアクセスすることができる。図4Bをさらに参照すると、物体データ482は、予め入力されたデータであってもよいし、或いは、サーバ演算装置410が目標物体の特定の特性を認識するために機械学習アルゴリズムを使用するように画像によって継続的に更新されるデータであってもよい。センサデータ484は、一般に、ロボットアーム100(図4A)と関連する様々なセンサから取得されるデータを含み得、該データは例えば、1つ又は複数の曲率センサ130(図2A)から取得されるデータ(例えば、曲率データ)及び/又は1つ又は複数の触覚センサ132(図2A)から取得されるデータ(例えば、触覚データ)である。さらに図4Bを参照すると、他のデータ486は、一般に、他の任意のデータであってよく、該データは、本明細書に記載されているように、エンドエフェクタの曲率を求めるため、接触ポイントを求めるため、1つ又は複数の構成要素(例えば、1つ又は複数のセンサ)に対する目標物体の位置を求めるため、接触が発生しているか否かとは関係なく特定のセンサからのローカライズされた情報を求めるため、把持された物体のポーズを決定するため、ロボットアーム100(図4A)を制御するための命令を決定するために使用される。
【0050】
図4Bに示す構成要素は、単なる例示であり、本開示の範囲を限定することを意図するものではないことを理解されたい。より詳細には、図4Bの構成要素は、サーバ演算装置410内にあるものとして示されているが、これは、非限定的な例である。いくつかの実施形態では、構成要素の1つ又は複数は、サーバ演算装置410の外部に存在し得る。
【0051】
上述のように、図4A及び図4Bに関連して記載されている様々な構成要素は、目標物体を決定するため、目標物体の1つ又は複数の形状及び/又はサイズ特性を決定するため、目標物体に接触したときのロボットエンドエフェクタの曲率を決定するため、ロボットエンドエフェクタと目標物体とが接触する1つ又は複数のポイントを決定するため、把持された目標物体のポーズを決定するため、ロボットアームを動作させるための1つ又は複数の運動命令を決定するため、ロボットアームを運動させるように制御するために、1つ又は複数のプロセスを実行し、かつ/又は機能を提供するように使用可能である。以下、様々なプロセスの図示例が図5図7に関連して記載されている。図5図7に関連して記載されている様々なプロセスは、一般に、サーバ演算装置410、ユーザ演算装置420、ロボット100、又は、1つ又は複数の曲率センサ130及び/又は1つ又は複数の触覚センサ132(図2A)等の構成要素によって完了させることができる。図5は、把持された目標物体のポーズを決定する例示的方法を示しており、これは、目標物体を決定するステップと、目標物体の寸法及び/又は形状特性を決定するステップと、エンドエフェクタの曲率を決定するステップと、目標物体が把持されたときに(例えば、目標物体が操作されたときに)エンドエフェクタと目標物体とが接触する1つ又は複数のポイントを決定するステップと、を含む。図5に関連して記載されている様々なステップは、単なる例示であり、本開示の範囲を逸脱することなく、さらなる、少数の、又は代替のステップが想定される。なお、プロセスはサーバ演算装置410によって完了されるものとして記載されているが、本開示は、これに限定されない。即ち、様々なプロセスは、ロボットアーム100(若しくはその構成要素)、ユーザ演算装置420(若しくはその構成要素)、又は、サーバ演算装置410(若しくはその構成要素)、ユーザ演算装置420(若しくはその構成要素)及びロボットアーム100(若しくはその構成要素)の任意の組合せによって完了させることができる。
【0052】
また、図1図2A図2B及び図4Bを全般的に参照すると、ブロック502において、データ(例えば、触覚データ)を1つ又は複数の触覚センサ132から受信することができる。即ち、1つ又は複数の触覚センサ132は、目標物体150と柔軟なエンドエフェクタ110上の1つ又は複数の特定ポイント(例えば、第1指112及び/又は第2指118の内部側部材116に沿った1つ又は複数のポイント)との間の接触を表す圧力を検出可能であると共に、1つ又は複数の特定ポイントの位置に対応するデータ(例えば、触覚データ)をサーバ演算装置410に送信可能である。いくつかの実施形態では、1つ又は複数の触覚センサ132は、例えば、目標物体150と柔軟なエンドエフェクタ110(例えば、第1指112及び/又は第2指118の内部側部材116)との接触によって1つ又は複数の触覚センサ132の各々に対して付与される力の量又は大きさに関するデータ、目標物体150と柔軟なエンドエフェクタ110との接触によって1つ又は複数の触覚センサ132の各々に付与される力の方向等のさらなるデータを、サーバ演算装置410に送信することができる。
【0053】
ブロック504において、データ(例えば、曲率データ)を1つ又は複数の曲率センサ130から受信することができる。即ち、1つ又は複数の曲率センサ130は、第1指112及び/又は第2指118の内部側部材116の各々のセグメント124の曲率を検出できると共に、各セグメント124の曲率に対応するデータ(例えば、曲率データ)をサーバ演算装置410に送信することができる。
【0054】
ブロック506において、1つ又は複数の曲率センサ130及び1つ又は複数の触覚センサ132から受け取ったデータから、指セグメントの数が決定される。このような決定は、一般に、第1指112及び第2指118の各々がセグメント化された1つ又は複数のポイントを決定するステップを含み得る。いくつかの実施形態では、各セグメントは、関節(例えば、各内部側部材116が横断支柱120に連結されているヒンジ連結部位)に対応し得る。このような実施形態では、ブロック506に従って指セグメントを決定するステップは、内部側部材116が横断支柱120に連結されている部位を撮像し又は他の方法で検出するステップ、又は関節の位置に関する情報を提供するデータにアクセスするステップを含み得る。他の実施形態では、各セグメントは、内部側部材116の新しい曲率が検出された(例えば、セグメントが屈曲ポイントによって分割されている)部位に対応し得る。このような決定は、1つ又は複数の曲率センサ130から得られたデータを分析し、曲率が変化している1つ又は複数の部位を算出することにより、完了させることができる。さらなる他の実施形態では、各セグメントは、内部側部材の長さに沿って任意に割り当ることができる。例えば、特定の内部側部材116が図6に示すように6つのセグメント(例えば、S、S、S、S、S、及びS)に分割されるべき場合には、分割ポイントは、各セグメントの長さが特定の長さになるように(例えば、各セグメントが等しい長さを有するように)選択することができる。
【0055】
図1図2A図2B図4B図5及び図6を参照すると、ブロック508において、フレームが各指セグメントに割り当てられる。即ち、各指セグメントの近位端のポイントにおいて内部側部材116のカーブに接するフレームが割り当てられる。例えば、図6に示すように、フレームF、F、F、F、F、及びFは、それぞれ、各セグメントS、S、S、S、S、及びSの近位端のポイントにおいて、(例えば、近位端141に向かって)内部側部材116に配置される。但し、図6に示す割り当てられたフレームは、単なる例示であり、他の実施形態では、フレームに異なる場所を割り当て可能であることを理解されたい。フレームF、F、F、F、F、及びFは、各セグメントが対応する長さl及び曲率κを有するようにさらに規定されてもよい。曲率κは、特定のセグメントの半径rの逆数として定義される。曲率κは、一般に、各フレームF、F、F、F、F、及びFごとに一定であるが、フレームF、F、F、F、F、及びFのそれぞれの間においては変化してもよい。即ち、フレームF、F、F、F、F、及びFの各々は、曲率が変化している屈曲ポイントを規定することができる。従って、ブロック508に従ってフレームを割り当てるステップは、内部側部材116の曲率に沿った1つ又は複数の屈曲ポイントの決定に基づいてフレームを割り当てるステップを含み得る。
【0056】
さらに図1図2A図2B図4B図5及び図6を参照すると、ブロック510において、接触ポイントの位置を決定することができる。即ち、1つ又は複数の触覚センサ132から受信したデータは、目標物体150と内部側部材116とが接触するポイントの位置をマッピングするために使用可能である。図6に示すように、接触ポイントは、ポイントPにおいて規定されており、その理由は、1つ又は複数の触覚センサ132からのデータが、このポイントにおいて目標物体150と内部側部材116の間の接触を表しているからである(例えば、接触は、1つ又は複数の触覚センサ132の少なくとも1つに対して付与される力を生成する)。従って、ブロック510による決定は、内部側部材116に対する接触を表した触覚センサ132の位置を決定するステップと、触覚センサの位置及び検出された圧力の特性(例えば、位置、力の大きさ、力の方向等)に基づいて接触ポイントを決定するステップと、を含み得る。ブロック510によるこのような判定はまた、柔軟なエンドエフェクタ110の様々な他の部分に関する空間内の各触覚センサ132の位置を決定するステップを含んでもよく、これは、柔軟なエンドエフェクタ110及び/又はその1つ又は複数の構成要素に対する目標物体150の位置を決定するためにさらに使用可能であることを理解されたい。さらに、各触覚センサ132で受け取られた追加の情報は、目標物体150との接触が検出されているか否かとは関係なく、空間内の触覚センサ132の決定された位置と共に、場所に固有の情報(例えば温度等)を決定するために使用することもできる。
【0057】
ブロック512において、相対変換の組が算出され、フレームに対するポイントPの位置が求められる。即ち、相対変換の組
【数1】
と、それぞれのベースフレームFに対するポイントPの位置とが、ワールド基準フレームW内に決定される。内部側部材116に使用されている材料の屈曲が平面的になるように制約されており、かつ断片ごとに一定の曲率によって近似され得ると仮定されている場合は、湾曲した内部側部材116の形状を形態計測によって再構築することが可能であり、かつ、ワールド基準フレームW内のポイントPの一定の位置を、剛性構造運動学に類似した形態に低減することで計算することができる。
【0058】
図6を一例として使用すると、内部側部材116のカーブは、6つのセグメント(S、S、S、S、S、及びS)に分割される。各セグメントiに、フレームFiがその近位端において割り当てられており、座標フレームFiは、そのポイントにおけるそのxベクトルに沿ったカーブに接している。各セグメントは、対応する長さlと、(半径rの逆数として定義された)曲率kとを有する。相対変換の組
【数2】
と、そのベースフレームFに対するポイントPの位置とは、次式の通りであり、
【数3】
ここで、Iは0からcまで変化するセグメントインデックスであり、これは、接触が発生したセグメントであり、さらに、
【数4】
は、セグメントI及びI+1に関する座標フレーム間の相対変換である。上述の式(1)から、Pの位置は次式として得られ、
【数5】
ここで、Wppは、ワールド基準フレームW内のポイントPの座標であり、
【数6】
は、ワールド(W)フレーム及び接触(F)フレームに対応する回転行列であり、
【数7】
は、Fフレーム内のポイントPの座標であり、同様に、
【数8】
は、ワールドフレームとフレームFとの間の位置ベクトルを表す。
【0059】
図7に示す各セグメントiに対し、変換
【数9】
に対するフレームの変換は、
【数10】
を中心とした角度θだけのカーブに沿った平行移動として得られる。これは、次式として演算することが可能であり、
【数11】
ここで、相対位置ベクトル
【数12】
であり、且つ、θ=lκであり、κ及びR(θ)は、
【数13】
を中心とした角度θの回転を表す回転行列である。
【0060】
位置
【数14】
は、セグメントcに沿った接触部位の円弧長lが次式によって判明する場合は、同様に演算され、
【数15】
ここで、θ=κであり、κはセグメントcの曲率であり、フレームFは、セグメントと関連付けられている。
【0061】
再び図1図2A図2B図4B図5及び図6を参照すると、式(1)~式(4)に関連した上述の計算は、1つ又は複数の触覚センサ132から受け取られたデータが目標物体150と第1指112及び第2指118の内部側部材116との接触を表すポイントPごとに完了可能であることを理解されたい。従って、ブロック514において、さらなるポイントが存在しているか否かが判定されている。存在している場合には、プロセスは、ブロック510及びブロック512によるプロセスがさらなるポイントPごとに完了されるようにブロック510に戻ることができる。ポイントの全てが算出されたら、プロセスは、ブロック516に進むことができる。
【0062】
ブロック516では、ポーズ推定を目的として使用される連続データが全てのポイントから生成される。例えば、いくつかの実施形態では、ポイントは、後のアクセスのためにデータストレージコンポーネント480内において記録される連続データストリームとして保存可能である。他の実施形態では、連続データは、把持された目標物体150のポーズを決定するために使用されるアルゴリズム(例えば、ポーズ決定アルゴリズム)に連続的に供給可能である。
【0063】
従って、ブロック518では、把持された目標物体のポーズ(操作されるポーズ、把持ポーズ、又はインハンドポーズとも称される)が決定される。即ち、非限定的な例において、連続データは、把持された目標物体のポーズを決定するために使用されるICP(Iterative Closest Point)アルゴリズム等のポーズ決定アルゴリズムに供給可能である。また、把持された目標物体のポーズを決定するために、現在既知の、又は後に開発される他のアルゴリズムを使用することもできる。柔軟なエンドエフェクタ110(例えば、第1指112及び/又は第2指118)に接触しているマニピュランドからの接触ポイントの組[P、…、P]を考える。本明細書に記載されている方法を通じて、ポイントの位置をワールドフレーム内で演算することが可能であり、故に、これをICPスタイルの最小化等のアルゴリズムにおいて直接的に使用することができる。1つの可能性は、予め演算された符号付き距離関数(SDF)を通じてポーズを演算するためにDART(Dense Articulated Real Time Tracking)アルゴリズム(及び/又は、現在既知の、又は後に開発される他のアルゴリズム)等の方法を使用することである。
【0064】
ここで、本明細書に記載されているシステム及び方法は、ロボットアームの柔軟なエンドエフェクタによって把持された物体のポーズを決定し得ることを理解されたい。システム及び方法は、柔軟なエンドエフェクタと把持された物体との接触によって生じる圧力に起因して変形したときに、柔軟なエンドエフェクタと把持された物体とが接触する1つ又は複数のポイント及び柔軟なエンドエフェクタの曲率を検出するために、柔軟なエンドエフェクタ又はその近傍に配置された1つ又は複数の触覚センサ及び1つ又は複数の曲率センサを含む。物体がリアルタイムで把持されている間に把持された物体のポーズを正確に求めるために、1つ又は複数のポイント及び柔軟なエンドエフェクタの曲率に対応するデータを使用することができる。把持された物体のポーズを正確に決定することにより、ロボット装置を制御するコンピュータシステムは、物体がピックアンドドロップタイプのシナリオにおいて柔軟なエンドエフェクタから解放されたときに物体の正確な配置を保証することになるロボット運動を決定することができる。
【0065】
本明細書において特定の実施形態が図示及び記載されているが、特許請求の範囲の主題の精神及び範囲を逸脱することなく、様々な他の変更及び変形が可能であることを理解されたい。さらに、本明細書において特許請求の範囲の主題の様々な態様が記載されているが、このような態様は、組合せて利用する必要はない。従って、添付の請求項は、特許請求の範囲の主題の範囲に含まれる全てのそのような変更及び変形をカバーすることが意図されている。
[構成1]
柔軟なエンドエフェクタにおいて位置決めされた1つ又は複数の触覚センサ及び1つ又は複数の曲率センサを有するロボットの柔軟なエンドエフェクタによって保持された物体を操作する方法であって、
処理装置により、前記1つ又は複数の触覚センサから触覚データを受け取るステップと、
前記処理装置により、前記1つ又は複数の曲率センサから曲率データを受け取るステップと、
前記処理装置により、前記曲率データから前記柔軟なエンドエフェクタの複数のセグメントを定めるステップと、
前記処理装置により、前記複数のセグメントの各々にフレームを割り当てるステップと、
前記処理装置により、前記触覚データから、前記物体と前記柔軟なエンドエフェクタとが接触する各ポイントの位置を求めるステップと、
前記処理装置により、相対変換の組を算出して、前記フレームの1つに対する各ポイントの位置を求めるステップと、
前記処理装置により、前記触覚データから求められた、前記物体と前記柔軟なエンドエフェクタとが接触する各ポイントの位置から連続データを生成するステップと、
前記処理装置により、前記連続データを使用して前記物体のポーズを求めるポーズ決定アルゴリズムに、前記連続データを提供するステップと、
前記処理装置により、求められた前記物体のポーズに基づいて前記物体を操作するように前記ロボットを制御するステップと、
を有する方法。
[構成2]
前記連続データをポーズ決定アルゴリズムに提供するステップは、前記連続データをICP(Iterative Closest Point)アルゴリズムに供給するステップを含む、構成1に記載の方法。
[構成3]
前記曲率データを受け取るステップは、前記柔軟なエンドエフェクタの指の内部側部材の複数のセグメントの曲率に対応する情報を受け取るステップを含む、構成1又は2に記載の方法。
[構成4]
前記相対変換の組を算出するステップは、前記内部側部材の前記複数のセグメントの1つの曲率に沿った、
【数1】
を中心とした角度θの平行運動を得ることにより、変換
【数2】
との関係におけるフレームの変換を演算するステップを含む、構成3に記載の方法。
[構成5]
前記フレームの前記変換を演算するステップは、次式として演算され、
【数3】
ここで、相対位置ベクトル
【数4】
であり、θ =l κ であり、κ 及びR (θ )は、
【数5】
を中心とした角度θ の回転を表す回転行列である、構成4に記載の方法。
[構成6]
前記物体と前記柔軟なエンドエフェクタとが接触する各ポイントの位置を求めるステップは、前記柔軟なエンドエフェクタとの関係における前記触覚センサの少なくとも1つの位置を求めるステップと、前記触覚データから検知された圧力の特性を求めるステップと、を含む、構成1~5のいずれか1つに記載の方法。
[構成7]
前記フレームを前記複数のセグメントの各々に割り当てるステップは、前記柔軟なエンドエフェクタの曲率に沿った1つ又は複数の屈曲ポイントに基づいて前記フレームを割り当てるステップを含む、構成1~6のいずれか1つに記載の方法。
[構成8]
1つ又は複数の柔軟な指を有する柔軟なエンドエフェクタであって、前記柔軟な指の各々は、柔軟な内部側部材によって規定される、柔軟なエンドエフェクタと、
前記柔軟な指の各々の曲率を検出し、前記曲率に対応する曲率データを生成するように配置された1つ又は複数の曲率センサと、
前記柔軟な指の各々に隣接配置された1つ又は複数の触覚センサであって、前記柔軟なエンドエフェクタと前記柔軟なエンドエフェクタに保持された物体との間の接触によって生じる前記柔軟な内部側部材の1つ又は複数の変形の位置を検出し、前記1つ又は複数の変形の位置に対応する触覚データを生成するように構成された触覚センサと、
前記1つ又は複数の曲率センサ及び前記1つ又は複数の触覚センサと通信可能に接続された演算装置であって、前記曲率データ及び前記触覚データから連続データを生成し、前記連続データをポーズ推定アルゴリズムに供給することにより、前記柔軟なエンドエフェクタに保持された前記物体のポーズを求めるようにプログラミングされた演算装置と、
を有するロボット。
[構成9]
前記1つ又は複数の柔軟な指の各々はフィンレイ指である、構成8に記載のロボット。
[構成10]
前記1つ又は複数の曲率センサは、前記1つ又は複数の柔軟な指の各々の表面に配置された柔軟な材料のストリップを有する、構成8又は9に記載のロボット。
[構成11]
前記柔軟な材料のストリップは、複数の曲率検出セグメントを有する、構成10に記載のロボット。
[構成12]
前記柔軟な指の各々は、複数の指セグメントを規定し、
前記1つ又は複数の触覚センサは、複数の触覚センサを有し、
前記複数の触覚センサの少なくとも1つは、前記複数の指セグメントの各々に隣接配置されている、構成8に記載のロボット。
[構成13]
前記1つ又は複数の触覚センサの各々は、計測されたエリア上に付与された力に起因した変形又は撓みの量を測定するためのフォースコレクタを使用するフォースコレクタ式装置である、構成8~12のいずれか1つに記載のロボット。
[構成14]
前記触覚データは圧力マップを有する、構成8~13のいずれか1つに記載のロボット。
[構成15]
前記1つ又は複数の曲率センサ及び前記1つ又は複数の触覚センサは、前記曲率データ及び前記触覚データを生成する単一装置内に統合されている、構成8~14のいずれか1つに記載のロボット。
[構成16]
前記演算装置は、プロセッサと、前記プロセッサと通信可能に接続された非一時的なプロセッサ可読ストレージ媒体とを有し、前記非一時的なプロセッサ可読ストレージ媒体は、1つ又は複数のプログラミング命令を含み、前記命令の実行により、前記プロセッサは、
前記1つ又は複数の触覚センサから前記触覚データを受け取り、
前記1つ又は複数の曲率センサから前記曲率データを受け取り、
前記曲率データから、前記1つ又は複数の柔軟な指の各々の複数のセグメントを定め、
前記複数のセグメントの各々にフレームを割り当て、
前記触覚データから、前記物体と前記1つ又は複数の柔軟な指とが接触する各ポイントの位置を求め、
相対変換の組を算出して、前記フレームの1つに対する各ポイントの位置を求め、
前記触覚データから求められた、前記物体と前記柔軟なエンドエフェクタとが接触する求められた各ポイントの位置から前記連続データを生成する、
構成8~15のいずれか1つに記載のロボット。
[構成17]
複数の柔軟な指を有する柔軟なエンドエフェクタを備えたロボットアームであって、前記柔軟な指の各々は、柔軟な内部側部材によって規定される、ロボットアームと、
前記柔軟な指の各々の曲率を検出し、前記曲率に対応する曲率データを生成する1つ又は複数の曲率センサと、
前記柔軟な指の各々に隣接配置された1つ又は複数の触覚センサであって、前記柔軟なエンドエフェクタと前記柔軟なエンドエフェクタに保持された物体との間の接触によって生じる前記柔軟な内部側部材の1つ又は複数の変形の位置を検出し、前記1つ又は複数の変形の位置に対応する触覚データを生成するように構成された触覚センサと、
前記1つ又は複数の曲率センサ及び前記1つ又は複数の触覚センサと通信可能に接続された演算装置であって、前記曲率データ及び前記触覚データから連続データを生成し、前記連続データをポーズ推定アルゴリズムに供給することにより、前記柔軟なエンドエフェクタによって保持された前記物体のポーズを求めるようにプログラミングされた演算装置と、
を有するロボット。
[構成18]
前記複数の柔軟な指の各々はフィンレイ指である、構成17に記載のロボット。
[構成19]
前記1つ又は複数の曲率センサは、前記複数の柔軟な指の各々の表面に配置された柔軟な材料のストリップを有する、構成17又は18に記載のロボット。
[構成20]
前記柔軟な指の各々は、複数の指セグメントを規定し、
前記1つ又は複数の触覚センサは、複数の触覚センサを有し、
前記複数の触覚センサの少なくとも1つは、前記複数の指セグメントの各々に隣接配置されている、構成17~19のいずれか1つに記載のロボット。
図1
図2A
図2B
図3
図4A
図4B
図5
図6
図7