(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2022-08-31
(54)【発明の名称】統合された物理的環境および模擬された環境でロボットシステムを試験するための方法およびシステム
(51)【国際特許分類】
B25J 9/22 20060101AFI20220824BHJP
B25J 13/08 20060101ALI20220824BHJP
【FI】
B25J9/22 A
B25J13/08 A
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2021576574
(86)(22)【出願日】2020-06-26
(85)【翻訳文提出日】2022-02-16
(86)【国際出願番号】 US2020039998
(87)【国際公開番号】W WO2020264432
(87)【国際公開日】2020-12-30
(32)【優先日】2019-06-26
(33)【優先権主張国・地域又は機関】US
(32)【優先日】2020-06-26
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】521400279
【氏名又は名称】スカイラ テクノロジーズ, インク.
【氏名又は名称原語表記】SKYLLA TECHNOLOGIES, INC.
【住所又は居所原語表記】24 Hartwell Avenue, Lexington, MA 02421 (US)
(74)【代理人】
【識別番号】100098899
【氏名又は名称】飯塚 信市
(74)【代理人】
【識別番号】100163865
【氏名又は名称】飯塚 健
(72)【発明者】
【氏名】アサダ, ハルヒコ ハリー
(72)【発明者】
【氏名】ウィーバー, コータ
【テーマコード(参考)】
3C707
【Fターム(参考)】
3C707AS01
3C707CS08
3C707JS03
3C707JS07
3C707JU02
3C707KS03
3C707KS11
3C707KS15
3C707KT02
3C707KT04
3C707KV01
3C707LS20
3C707MS27
3C707WA16
3C707WA28
(57)【要約】
本明細書においては、物理的試験環境および仮想試験環境の両方を併せ持つ環境でロボットシステムを試験するための方法およびシステムが提供される。ロボットシステムを試験し、かつ、評価するための現実に即した三次元の物理的環境が、模擬された仮想要素を使用して強化される。この方法によれば、ロボットシステム、人間および他の機械が現実の要素および仮想要素の両方と動的に対話する。一態様では、物理的試験環境のモデルおよび仮想試験環境のモデルが結合され、また、結合されたモデルの状態を示す信号を使用してロボットシステムが制御される。さらなる態様では、物理的試験環境に存在する移動ロボットが、制御下にある仮想ロボットの動きを模倣するように指令される。別のさらなる態様では、仮想ロボットの存在および仮想ロボットによって取られるアクションの視覚表現を提供するために、制御下にある仮想ロボットの画像が物理的試験環境の上に投影される。
【特許請求の範囲】
【請求項1】
1つまたは複数のセンサと、制御下にあるロボット、人間、静止対象物、移動対象物またはそれらの任意の組合せのうちの少なくとも1つとを含む第1の物理的試験環境と、
制御下にある仮想ロボット、仮想人間、仮想静止対象物、仮想移動対象物、1つまたは複数の仮想センサまたはそれらの任意の組合せのうちの少なくとも1つを含む仮想試験環境と、
前記第1の物理的試験環境に配置された前記1つまたは複数のセンサから、前記第1の物理的試験環境の1つまたは複数の要素の物理的状態を示す1つまたは複数の信号を受け取り、
前記第1の物理的試験環境に配置された前記1つまたは複数のセンサから受け取った前記1つまたは複数の信号に少なくとも部分的に基づいて、前記第1の物理的試験環境のモデルの状態を決定し、
試験条件の所望のセットに基づいて、前記仮想試験環境のモデルの状態を決定し、
前記第1の物理的試験環境の前記モデルと前記仮想試験環境の前記モデルを結合し、
前記第1の物理的試験環境と前記仮想試験環境の前記結合されたモデルの状態を示すセンサ信号のセットを決定し、
前記センサ信号のセットを制御下にあるロボットまたは制御下にある仮想ロボットに通信し、
前記制御下にあるロボットまたは前記制御下にある仮想ロボットを前記センサ信号のセットに基づいて制御する
ように構成された計算システムと
を備えるロボットシステム試験環境。
【請求項2】
前記第1の物理的試験環境に配置された1つまたは複数の画像投影デバイス
をさらに備え、前記計算システムが、
前記制御下にある仮想ロボット、前記仮想人間、前記仮想静止対象物および前記仮想移動対象物のうちの少なくとも1つの状態を示す画像信号を前記1つまたは複数の画像投影デバイスに通信するようにさらに構成され、前記1つまたは複数の画像投影デバイスが、前記制御下にある仮想ロボット、前記仮想人間、前記仮想静止対象物および前記仮想移動対象物のうちの前記少なくとも1つの前記状態を示す画像を前記第1の物理的試験環境の上に投影する、
請求項1に記載のロボットシステム試験環境。
【請求項3】
前記1つまたは複数の画像投影デバイスが三次元ホログラフィ画像化デバイスを含む、請求項2に記載のロボットシステム試験環境。
【請求項4】
前記第1の物理的試験環境に配置された前記1つまたは複数のセンサからの前記1つまたは複数の信号が、前記第1の物理的試験環境上への、前記制御下にある仮想ロボット、前記仮想人間、前記仮想静止対象物および前記仮想移動対象物のうちの前記少なくとも1つの前記状態を示す前記画像を示す、請求項2に記載のロボットシステム試験環境。
【請求項5】
前記第1の物理的試験環境が制御下にあるロボットを含み、前記仮想試験環境が仮想人間を含み、前記仮想人間の状態を示す画像が前記第1の物理的試験環境の上に投影され、前記第1の物理的試験環境における前記制御下にあるロボットが、前記仮想人間の前記状態に応答して移動するように制御される、請求項2に記載のロボットシステム試験環境。
【請求項6】
前記仮想試験環境が制御下にある仮想ロボットを含み、前記制御下にある仮想ロボットの状態を示す画像が前記1つまたは複数の画像投影デバイスによって前記第1の物理的試験環境の上に投影される、請求項2に記載のロボットシステム試験環境。
【請求項7】
前記計算システムが、
前記結合されたモデルの前記状態を示す前記センサ信号のセットを物理的ロボット制御サブシステムに通信するようにさらに構成され、前記物理的ロボット制御サブシステムが前記センサ信号のセットに基づいて前記制御下にある仮想ロボットを制御する、請求項6に記載のロボットシステム試験環境。
【請求項8】
前記第1の物理的試験環境が移動ロボットの上に配置されたペイロードを含み、前記計算システムが、
前記第1の物理的試験環境において、前記制御下にある仮想ロボットの仮想の動きに従って制御下にあるペイロードロボットを移動させるように前記移動ロボットに指令するようにさらに構成される、請求項6に記載のロボットシステム試験環境。
【請求項9】
前記第1の物理的試験環境が人間を含み、前記仮想試験環境における前記制御下にある仮想ロボットが前記人間の状態に応答して仮想的に移動するように制御され、前記1つまたは複数の画像投影デバイスが、前記制御下にある仮想ロボットの前記動きを示す一連の画像を前記第1の物理的試験環境に表示する、請求項6に記載のロボットシステム試験環境。
【請求項10】
制御下にある第1のロボットを含む第2の物理的試験環境をさらに備え、前記センサ信号のセットが前記制御下にある第1のロボットに通信され、前記制御下にある第1のロボットが前記センサ信号のセットに基づいて制御される、請求項1に記載のロボットシステム試験環境。
【請求項11】
前記第2の物理的試験環境に配置された1つまたは複数の画像投影デバイス
をさらに備え、前記計算システムが、
前記第1の物理的試験環境の1つまたは複数の要素の状態を示す画像信号を前記1つまたは複数の画像投影デバイスに通信するようにさらに構成され、前記1つまたは複数の画像投影デバイスが、前記第1の物理的試験環境の前記1つまたは複数の要素の前記状態を示す画像を前記第2の物理的試験環境の上に投影する、請求項10に記載のロボットシステム試験環境。
【請求項12】
前記第1の物理的試験環境が制御下にある第2のロボットを含み、前記計算システムが、
前記制御下にある第1のロボットの動きに従って移動するように前記制御下にある第2のロボットに指令するようにさらに構成される、請求項10に記載のロボットシステム試験環境。
【請求項13】
第1の物理的試験環境に配置された1つまたは複数のセンサから1つまたは複数の信号を受け取るステップであって、前記1つまたは複数の信号が前記第1の物理的試験環境の1つまたは複数の要素の物理的状態を示し、前記1つまたは複数の要素が、制御下にあるロボット、人間、移動ロボットまたはそれらの任意の組合せのうちの少なくとも1つを含む、ステップと、
前記第1の物理的試験環境に配置された前記1つまたは複数のセンサから受け取った前記1つまたは複数の信号に少なくとも部分的に基づいて、前記第1の物理的試験環境のモデルの状態を決定するステップと、
試験条件の所望のセットに基づいて、仮想試験環境のモデルの状態を決定するステップと、
前記第1の物理的試験環境の前記モデルと前記仮想試験環境の前記モデルを結合するステップと、
前記第1の物理的試験環境と前記仮想試験環境の前記結合されたモデルの状態を示すセンサ信号のセットを決定するステップと、
前記センサ信号のセットを制御下にあるロボットまたは制御下にある仮想ロボットに通信するステップと、
前記制御下にあるロボットまたは前記制御下にある仮想ロボットを前記センサ信号のセットに基づいて制御するステップと
を含む方法。
【請求項14】
前記仮想試験環境の少なくとも1つの要素の状態を示す画像信号を前記第1の物理的試験環境に配置された1つまたは複数の画像投影デバイスに通信するステップであって、前記仮想試験環境の前記少なくとも1つの要素が、制御下にある仮想ロボット、仮想人間、仮想静止対象物および仮想移動対象物のうちの少なくとも1つを含む、ステップと、
前記仮想試験環境の前記少なくとも1つの要素の前記状態を示す画像を前記第1の物理的試験環境の上に投影するステップと
をさらに含む、請求項13に記載の方法。
【請求項15】
前記第1の物理的試験環境に配置された前記1つまたは複数のセンサからの前記1つまたは複数の信号が、前記第1の物理的試験環境の上に投影される前記仮想試験環境の前記少なくとも1つの要素の前記状態を示す前記画像を示す、請求項14に記載の方法。
【請求項16】
前記仮想試験環境が制御下にある仮想ロボットを含み、前記第1の物理的試験環境の上に投影される前記画像が前記制御下にある仮想ロボットの前記状態を示す、請求項14に記載の方法。
【請求項17】
前記第1の物理的試験環境における移動ロボットに、前記仮想試験環境における制御下にある仮想ロボットの仮想の動きに従って前記移動ロボットの上に配置されたペイロードを移動させるように制御コマンドを通信するステップ
をさらに含む、請求項13に記載の方法。
【請求項18】
前記第1の物理的試験環境とは異なる第2の物理的試験環境における、制御下にある第1のロボットに前記センサ信号のセットを通信するステップと、
前記センサ信号のセットに基づいて前記制御下にある第1のロボットを制御するステップと
をさらに含む、請求項13に記載の方法。
【請求項19】
1つまたは複数のセンサと、制御下にあるロボット、人間、静止対象物、移動対象物またはそれらの任意の組合せのうちの少なくとも1つとを含む第1の物理的試験環境と、
制御下にある仮想ロボット、仮想人間、仮想静止対象物、仮想移動対象物、1つまたは複数の仮想センサまたはそれらの任意の組合せのうちの少なくとも1つを含む仮想試験環境と、
非一時的コンピュータ可読媒体であって、1つまたは複数のプロセッサによって実行されると、前記1つまたは複数のプロセッサに、
前記第1の物理的試験環境に配置された前記1つまたは複数のセンサから、前記第1の物理的試験環境の1つまたは複数の要素の物理的状態を示す1つまたは複数の信号を受け取り、
前記第1の物理的試験環境に配置された前記1つまたは複数のセンサから受け取った前記1つまたは複数の信号に少なくとも部分的に基づいて、前記第1の物理的試験環境のモデルの状態を決定し、
試験条件の所望のセットに基づいて、前記仮想試験環境のモデルの状態を決定し、
前記第1の物理的試験環境の前記モデルと前記仮想試験環境の前記モデルを結合し、
前記第1の物理的試験環境と前記仮想試験環境の前記結合されたモデルの状態を示すセンサ信号のセットを決定し、
前記センサ信号のセットを制御下にあるロボットまたは制御下にある仮想ロボットに通信し、
前記制御下にあるロボットまたは前記制御下にある仮想ロボットを前記センサ信号のセットに基づいて制御する
ことを行わせる命令を記憶する非一時的コンピュータ可読媒体と
を備えるロボットシステム試験環境。
【請求項20】
前記第1の物理的試験環境に配置された1つまたは複数の画像投影デバイス
をさらに備え、計算システムが、
前記制御下にある仮想ロボット、前記仮想人間、前記仮想静止対象物および前記仮想移動対象物のうちの少なくとも1つの状態を示す画像信号を前記1つまたは複数の画像投影デバイスに通信するようにさらに構成され、前記1つまたは複数の画像投影デバイスが、前記制御下にある仮想ロボット、前記仮想人間、前記仮想静止対象物および前記仮想移動対象物のうちの前記少なくとも1つの前記状態を示す画像を前記第1の物理的試験環境の上に投影する、請求項19に記載のロボットシステム試験環境。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互参照
特許のための本出願は、米国特許法§119の下に、2019年6月26日に出願した、「Apparatus And Method Of Integrated Physical And Simulated Environment For Demonstrating And Testing Robotic Systems」という名称の米国仮特許出願第62/866,892号の優先権を主張する、2020年6月26日に出願した、「Methods And Systems For Testing Robotic Systems In An Integrated Physical And Simulated Environment」という名称の米国特許出願第16/914,217号の優先権を主張するものであり、これらの出願の主題は、いずれも参照によりそれらの全体が本明細書に組み込まれている。
【0002】
説明される実施形態は、複雑な環境でロボットシステムを試験するためのシステムおよび方法に関する。
【背景技術】
【0003】
ロボットシステムは、典型的には良好に制御された環境で、高度に反復的なタスクを実施するために広く展開されている。工場オートメーションのいくつかの例では、ロボットは、長い時間期間(例えば数カ月または数年)にわたって単一のタスクを繰り返し実施している。しかしながらロボットシステムは、あまり体系化されていない、それほどには予測可能ではない環境におけるタスクの実施に対しては、未だ広く展開されていない。ロボットシステムをこれらの環境により良好に統合するためには、新しいタスクおよび環境条件にロボットシステムを適合させることができなければならない。
【0004】
いくつかの例では、ロボットシステムが体系化されていない環境で広範囲にわたるタスクを実施することができるよう、知能が強化されたロボットシステムが開発されている。インテリジェントロボットシステムは、複雑なタスクをより良好に理解し、かつ、より少ない命令で手近なタスクを実行することができる。さらに、改良されたユーザインタフェースが人間とロボットシステムとの間の通信を強化し、手近なタスクをより良好に理解するべく共同的ロボットシステムを可能にしている。
【0005】
自律車両および移動マニピュレータなどのインテリジェントロボットシステムの現実のアプリケーション環境への展開を成功させるためには、現実に即した動作条件下でのシステムの広範囲にわたる試験および評価が必要である。ロボットシステムが環境内で人間と対話する場合、試験は決定的に重要である。安全性は、人間がとっぴに、また、不合理に振る舞う極端な状況を含む様々な条件下で徹底的に検証されるべき重大な問題である。さらに、アプリケーション環境は、動的に変化し、不確かであり、また、予測不可能であり得る。動的環境で人間と対話するロボットシステムは、考えられるあらゆる条件の下で試験されなければならない。
【0006】
従来、新しいロボットシステムは、そのロボットシステムを現実の環境に導入する前に、模擬環境を使用して試験され、かつ、評価されている。しかしながら現在の模擬環境は、現実の環境で物理的センサによって生成される現実に即したセンサ信号を作り出すことはできない。さらに、現在の模擬環境は、人間の挙動などの複雑な実体の挙動をモデル化することはできない。さらに、現在の模擬環境は、材料の流れ、人間-ロボット対話、偶発的な事象および例外的事例を含む多くの要因および動因の中で対話を効果的に表示し、立証し、また、よくわかるように説明することはできない。
【0007】
現在、ほとんどの模擬は、単に仮想環境で実施されている。この手法には多くの限界がある。例えばロボットデバイスの模擬された動きは正確ではないことがあり得る。多くのシナリオでは、スケール、およびロボットシステムが物理的世界へ移行することになる様子を理解することは困難である。
【0008】
残念なことには、現実の物理的環境における試験は、利用可能な時間、資源、物理的制約および安全性要求事項のために限られていることがしばしばである。可能であるのは、ごく限られた数の環境状況およびタスクシナリオを調査することのみであることがしばしばである。詳細には、このような試験がコマーシャルサイトで実施される場合、試験は極めて煩わしいか、危険であるか、あるいはその両方であり得る。最後に、極めて特殊なシナリオを物理的環境において他の対象物の正確なタイミングまたは動きで試験することは困難である。
【0009】
したがって模擬された環境または現実の物理的環境における試験だけでは、新しいロボットシステムの首尾の良い、かつ、安全な展開が保証されない。しかしながら安全性を保証するためには、多くの状況を可能な限り正確に試験することが重要である。
【0010】
要約すると、複雑で比較的非体系的なタスク環境に入る前のロボットシステムの厳しい試験を可能にするためには、試験環境に対する改善が望ましい。
【0011】
本明細書においては、物理的試験環境および仮想試験環境の両方を併せ持つロボットシステム試験環境でロボットシステムを試験するための方法およびシステムが提供される。1つまたは複数の現実の物理的環境と仮想環境とを併せ持つことにより、重要な動作シナリオを試験している間、周囲の潜在的な危険からロボットシステムを分離することができ、あるいはその逆についても同様である。さらに、1つまたは複数の現実の物理的環境と仮想環境とを併せ持つことにより、実際のロボットシステムを展開する前に、現実の動作環境におけるロボットシステムの能力を立証することができる。いくつかの実施形態では、ロボットシステムを試験し、かつ、評価するための現実に即した三次元の物理的環境が、模擬された仮想要素を使用して強化される。この方法によれば、ロボットシステム、人間および他の機械が現実の要素および仮想要素の両方と動的に対話する。
【0012】
一態様では、物理的試験環境のモデルおよび仮想試験環境のモデルが結合され、また、結合されたモデルの状態を示す信号を使用してロボットシステムが制御される。この方法によれば、ロボットシステムは、物理的環境の測定された要素および仮想環境の要素の両方に基づいて制御される。
【0013】
さらなる態様では、物理的試験環境に存在する移動ロボットが、制御下にある仮想ロボットの動きを模倣するように指令される。移動ロボットは、制御下にある仮想ロボットに構造的に対応していない。
【0014】
別のさらなる態様では、仮想ロボットの存在および仮想ロボットによって取られるアクションの視覚表現を提供するために、制御下にある仮想ロボットの画像が物理的試験環境の上に投影される。
【0015】
別のさらなる態様では、物理的試験環境における、制御下にあるロボットが、制御下にある仮想ロボットの動きを模倣するように指令される。制御下にあるロボットは、制御下にある仮想ロボットに構造的に対応している。
【0016】
別のさらなる態様では、局所化システムが制御下にあるロボットの物理的試験環境における場所を追跡し、かつ、時間の関数としてその場所を示す信号を仮想モデルエンジンに通信する。仮想モデルエンジンは、それに応答して、制御下にある対応するロボットの物理的試験環境における位置と対応するよう、制御下にある仮想ロボットの仮想試験環境における位置を更新する。
【0017】
以上は要約であり、したがって必要に応じて細部の単純化、一般化および省略を含み、したがってこの要約は単なる例証にすぎず、何ら制限するものではないことが当業者には認識されよう。本明細書において説明されているデバイスおよび/またはプロセスの他の態様、発明特徴および利点は、本明細書において示されている非制限の詳細説明で明らかになるであろう。
【図面の簡単な説明】
【0018】
【
図1】一実施形態におけるロボットシステム試験環境を示す図である。
【0019】
【
図2】別の実施形態におけるロボットシステム試験環境を示す図である。
【0020】
【
図3A】一実施形態における物理的試験環境を示す図である。
【0021】
【
図3B】
図3Aに示されている物理的環境の要素の仮想表現を含む仮想環境を示す図である。
【0022】
【
図3C】制御下にある仮想ロボットの画像を含む、
図3Aに示されている物理的試験環境を示す別の図である。
【0023】
【
図4】別の実施形態におけるロボットシステム試験環境を示す図である。
【0024】
【
図5A】別の実施形態における物理的試験環境を示す図である。
【0025】
【
図5B】
図5Aに示されている物理的環境の要素の仮想表現を含む仮想環境を示す図である。
【0026】
【
図5C】仮想対象物の画像を含む、
図5Aに示されている物理的試験環境を示す図である。
【0027】
【
図6】別の実施形態におけるロボットシステム試験環境を示す図である。
【0028】
【
図7A】別の実施形態における物理的試験環境を示す図である。
【0029】
【
図7B】
図7Aに示されている物理的環境の要素の仮想表現を含む仮想環境を示す図である。
【0030】
【
図7C】
図7Aに示されている物理的試験環境とは異なる物理的試験環境で動作している、制御下にあるロボットを示す図である。
【0031】
【
図8】本明細書において説明されている、統合された物理的環境および仮想環境を含むロボット試験を実施するために使用される計算システムを示す図である。
【0032】
【
図9】本明細書において説明されている、統合された物理的環境および仮想環境を含むロボット試験の方法200のフローチャートである。
【発明を実施するための形態】
【0033】
以下、本発明の背景例およびいくつかの実施形態を詳細に参照し、それらの例は添付の図面に示されている。
【0034】
本明細書においては、物理的試験環境および仮想試験環境の両方を併せ持つロボットシステム試験環境でロボットシステムを試験するための方法およびシステムが提供される。1つまたは複数の現実の物理的環境と仮想環境とを併せ持つことにより、重要な動作シナリオを試験している間、周囲の潜在的な危険からロボットシステムを分離することができ、あるいはその逆についても同様である。さらに、1つまたは複数の現実の物理的環境と仮想環境とを併せ持つことにより、実際のロボットシステムを展開する前に、現実の動作環境におけるロボットシステムの能力を立証することができる。いくつかの実施形態では、ロボットシステムを試験し、かつ、評価するための現実に即した三次元の物理的環境が、模擬された仮想要素を使用して強化される。この方法によれば、ロボットシステム、人間および他の機械が現実の要素および仮想要素の両方と動的に対話する。
【0035】
1つまたは複数の現実の物理的環境と仮想環境とを併せ持つことにより、ロボットシステムおよび他の機械は、現実に即した物理的環境で実時間信号を生成し、かつ、反応することができる。さらに、動作している機械およびロボットシステムを含む現実の物理的環境に対して人間が反応するとき、現実に即した人間挙動が測定される。画像または仮想対象物あるいは実際のロボットシステムを使用して現実の物理的環境を強化することにより、安全性を保証するための稀ではあるが重大な状況を含む多種多様な条件および状況を広範囲にわたって模擬することができる。さらに、混合された試験環境で試験されるロボットシステムのユーザは、現実に即したタスクの実行、材料の流れ、およびシステムの有用性を観察することによってシステムを評価することができ、また、現実に即した3つの物理的環境および仮想環境における人間-ロボット対話および考えられるあらゆる偶発的な事象、および非常事態を経験することができる。
【0036】
一態様では、物理的試験環境のモデルおよび仮想試験環境のモデルが結合され、また、結合されたモデルの状態を示す信号を使用してロボットシステムが制御される。このように、ロボットシステムは、物理的環境の測定された要素および仮想環境の要素の両方に基づいて制御される。
【0037】
図1は、一実施形態におけるロボットシステム試験環境100を示す図を描写したものである。ロボットシステム試験環境100は、物理的試験環境101、仮想試験環境102および別の物理的試験環境103を含む。一般に、物理的試験環境101は、制御下にあるロボット、局所化システム、機械設備、人間、1つまたは複数のセンサシステムおよび投影システムのうちの少なくとも1つを含む。同様に、物理的試験環境101は、制御下にあるロボット、局所化システム、機械設備、人間、1つまたは複数のセンサシステムおよび投影システムのうちの少なくとも1つを含む。仮想試験環境102は、1つまたは複数の計算システム上で動作する仮想モデルエンジン108を含む。仮想モデルエンジン108は、物理的試験環境101および103から信号104および107を受け取り、また、物理的試験環境101および103に信号105および106を通信し、かつ、物理的試験環境および仮想試験環境の両方を特性化する結合モデルを計算する。結合モデルの要素は、制御下にある仮想ロボット、仮想機械設備、仮想人間および仮想センサシステムのうちの少なくとも1つを含む。
【0038】
図2は、別の実施形態におけるロボットシステム試験環境110を示す図を描写したものである。ロボットシステム試験環境110は物理的試験環境111および仮想試験環境112を含む。物理的試験環境111は、移動ロボット120、機械設備121、一人または複数人の人間122、1つまたは複数のセンサシステム123、および1つまたは複数の投影システム124を含む。仮想試験環境112は、1つまたは複数の計算システム上で動作する仮想モデルエンジン113、および物理的ロボットコントローラ114を含む。ロボットコントローラは、ループ内ハードウェア模擬要素として仮想モデルエンジン113と共に動作し、仮想モデルエンジン113から信号116を受け取り、また、仮想モデルエンジン113に信号117を送り返す。
【0039】
図2に描写されている実施形態では、信号115は1つまたは複数のセンサシステム123から仮想モデルエンジン113に通信されている。信号115は、物理的試験環境111の要素の物理的状態を示す。いくつかの実施形態では、センサシステム123は、物理的試験環境111の要素の場所を示す画像を収集するカメラのネットワークを含む。例えば
図3Aは、一実施形態における物理的試験環境111を描写したものである。カメラシステム123は、物理的試験環境111における移動ロボット120ならびに人間122Aおよび122Bの場所を示す画像を生成するカメラ123Aおよび123Bを含む。この実施形態では、仮想モデルエンジン113は、移動ロボット120ならびに人間122Aおよび122Bの場所を示す信号115をカメラ123Aおよび123Bから受け取っている。仮想モデルエンジン113は、受け取った信号115に基づいて、物理的試験環境111の要素のモデルの状態を決定する。さらに、仮想モデルエンジン113は、少なくとも1つの仮想要素(例えば制御下にある仮想ロボット、仮想機械設備、仮想人間、仮想センサ、等々)の状態を含む仮想試験環境112の状態を決定する。仮想モデルエンジン113は、物理的環境および仮想環境の両方の要素のモデルを結合して、1つまたは複数の仮想対象物によって強化された物理的環境をモデル化する。
図3Bは、物理的環境111の要素の仮想表現を含む仮想環境112を描写したものである。例えば人間128Aおよび128Bは人間122Aおよび122Bの仮想表現である。移動ロボット127は移動ロボット120の仮想表現であり、また、ペイロード129は移動ロボット120の上に配置されたペイロード125の仮想表現である。さらに、仮想環境112は、ペイロード129を移動させるように動作する、制御下にある仮想ロボット126を含む。
【0040】
仮想モデルエンジン113は、制御下にある仮想ロボット126へのペイロード129の所望の動きを示す制御信号118を生成し、この制御信号118は、制御下にある仮想ロボット126に、ペイロード129を仮想試験環境112において所望の方法で移動させることになる。したがって仮想モデルエンジン113は、制御下にある仮想ロボット126による仮想ペイロード129の動きを模擬する。
【0041】
さらなる態様では、仮想モデルエンジン113は、制御信号118を移動ロボット120に通信する。移動ロボット120は、それに応答して、ペイロード125をペイロード129の同じ所望の動きに従って物理的試験環境において移動させる。この方法によれば、移動ロボット120は、制御下にある仮想ロボット126の動きを物理的試験環境111において模倣する。
【0042】
別のさらなる態様では、仮想モデルエンジン113は信号119を投影システム124に通信する。投影システム124は、それに応答して、制御下にある仮想ロボット126の画像を物理的試験環境111内に投影する。
図3Cは、プロジェクタデバイス124Aおよび124Bによって投影された、制御下にある仮想ロボット126の画像130を含む物理的試験環境111を描写したものである。いくつかの実施形態では、投影システム124は三次元ホログラフィ投影システムである。いくつかの実施形態では、投影システム124は、制御下にある仮想ロボット126の二次元画像を物理的試験環境111の床の上に投影する液晶ディスプレイシステムなどの二次元投影システムである。
【0043】
図4は、別の実施形態におけるロボットシステム試験環境140を示す図を描写したものである。ロボットシステム試験環境140は物理的試験環境141および仮想試験環境142を含む。物理的試験環境141は、制御下にあるロボット144、局所化システム145、一人または複数人の人間124、1つまたは複数のセンサシステム147、および1つまたは複数の投影システム148を含む。仮想試験環境142は、1つまたは複数の計算システム上で動作する仮想モデルエンジン143を含む。
【0044】
図4に描写されている実施形態では、信号149は1つまたは複数のセンサシステム147から仮想モデルエンジン143に通信されている。信号149は、物理的試験環境141の要素の物理的状態を示す。いくつかの実施形態では、センサシステム147は、物理的試験環境141の要素の場所を示す画像を収集するカメラのネットワークを含む。例えば
図5Aは、一実施形態における物理的試験環境141を描写したものである。カメラシステム147は、物理的試験環境141における、制御下にあるロボット144ならびに人間146Aおよび146Bの場所を示す画像を生成するカメラ147Aおよび147Bを含む。この実施形態では、仮想モデルエンジン143は、制御下にあるロボット144ならびに人間146Aおよび146Bの場所を示す信号149をカメラ147Aおよび147Bから受け取っている。仮想モデルエンジン143は、受け取った信号149に基づいて、物理的試験環境141の要素のモデルの状態を決定する。さらに、仮想モデルエンジン143は、少なくとも1つの仮想要素(例えば仮想対象物、仮想機械設備、仮想人間、仮想センサ、等々)の状態を含む仮想試験環境142の状態を決定する。仮想モデルエンジン143は、物理的環境および仮想環境の両方の要素のモデルを結合して、1つまたは複数の仮想対象物によって強化された物理的環境をモデル化する。
図5Bは、物理的環境141の要素の仮想表現を含む仮想環境142を描写したものである。例えば人間153Aおよび153Bは人間146Aおよび146Bの仮想表現である。制御下にある仮想ロボット152は、制御下にあるロボット144の仮想表現である。さらに、仮想環境142は仮想対象物154を含む。
【0045】
仮想モデルエンジン143は、制御下にある仮想ロボット152の所望の動きを示す制御信号150を生成し、この制御信号150は、制御下にある仮想ロボット152に、仮想試験環境142において所望の方法で対象物154ならびに人間153Aおよび153Bを回避するように移動させることになる。したがって仮想モデルエンジン143は、制御下にある仮想ロボット152の動きを模擬する。
【0046】
さらなる態様では、仮想モデルエンジン143は、制御信号150を制御下にあるロボット144に通信する。制御下にあるロボット144は、それに応答して、制御下にある仮想ロボット152の同じ所望の動きに従って物理的試験環境内を移動する。この方法によれば、制御下にあるロボット144は、制御下にある仮想ロボット152の動きを物理的試験環境141において模倣する。
【0047】
別のさらなる態様では、局所化システム145は、制御下にあるロボット144の物理的試験環境141における場所を追跡し、かつ、時間の関数としてその場所を示す信号157を仮想モデルエンジン143に通信する。仮想モデルエンジン143は、それに応答して、制御下にあるロボット144の物理的試験環境141における位置と対応するよう、制御下にある仮想ロボット152の仮想試験環境142における位置を更新する。
【0048】
別のさらなる態様では、仮想モデルエンジン143は信号151を投影システム148に通信する。投影システム148は、それに応答して、仮想対象物154の画像を物理的試験環境141内に投影する。
図5Cは、プロジェクタデバイス148Aおよび148Bによって投影された仮想対象物154の画像155を含む物理的試験環境141を描写したものである。いくつかの実施形態では、投影システム148は三次元ホログラフィ投影システムである。いくつかの実施形態では、投影システム148は、仮想対象物154の二次元画像155を物理的試験環境141の床の上に投影する液晶ディスプレイシステムなどの二次元投影システムである。
【0049】
図6は、別の実施形態におけるロボットシステム試験環境160を示す図を描写したものである。ロボットシステム試験環境160は、物理的試験環境161、仮想試験環境162および別の物理的試験環境163を含む。物理的試験環境161は、一人または複数人の人間164、1つまたは複数のセンサシステム165、機械設備166、および1つまたは複数の投影システム167を含む。仮想試験環境162は、1つまたは複数の計算システム上で動作する仮想モデルエンジン168を含む。物理的試験環境163は、制御下にあるロボット169および局所化システム170を含む。
【0050】
図6に描写されている実施形態では、信号171は1つまたは複数のセンサシステム165から仮想モデルエンジン168に通信されている。信号171は、物理的試験環境161の要素の物理的状態を示す。いくつかの実施形態では、センサシステム165は、物理的試験環境161の要素の場所を示す画像を収集するカメラのネットワークを含む。例えば
図7Aは、一実施形態における物理的試験環境161を描写したものである。カメラシステム165は、人間164Aおよび164Bならびに機械設備166を含む物理的試験環境161における対象物の場所を示す画像を生成するカメラ165Aおよび165Bを含む。この実施形態では、仮想モデルエンジン168は、機械設備166ならびに人間164Aおよび164Bを示す信号171をカメラ165Aおよび165Bから受け取っている。仮想モデルエンジン168は、受け取った信号171に基づいて、物理的試験環境161の要素のモデルの状態を決定する。さらに、仮想モデルエンジン168は、少なくとも1つの仮想要素(例えば制御下にある仮想ロボット、仮想機械設備、仮想人間、仮想センサ、等々)の状態を含む仮想試験環境162の状態を決定する。仮想モデルエンジン168は、物理的環境および仮想環境の両方の要素のモデルを結合して、1つまたは複数の仮想対象物によって強化された物理的環境をモデル化する。
図7Bは、物理的環境161の要素の仮想表現を含む仮想環境162を描写したものである。例えば人間172Aおよび172Bは人間164Aおよび164Bの仮想表現である。仮想機械設備171は機械設備166の仮想表現である。さらに、仮想環境162は、制御下にある仮想ロボット175を含む。
【0051】
仮想モデルエンジン168は、制御下にある仮想ロボット175の所望の動きを示す制御信号173を生成し、この制御信号173は、制御下にある仮想ロボット175に、仮想試験環境162において所望の方法で機械設備対象物171ならびに人間172Aおよび172Bの間を移動させることになる。したがって仮想モデルエンジン168は、制御下にある仮想ロボット175の動きを模擬する。
【0052】
さらなる態様では、仮想モデルエンジン168は、制御信号173を制御下にあるロボット169に通信する。制御下にあるロボット169は、それに応答して、制御下にある仮想ロボット175の同じ所望の動きに従って物理的試験環境163内を移動する。この方法によれば、制御下にあるロボット169は、制御下にある仮想ロボット175の動きを物理的試験環境163において模倣する。
図7Cは、物理的試験環境163で動作している、制御下にあるロボット169を描写したものである。
【0053】
別のさらなる態様では、局所化システム170は、制御下にあるロボット169の物理的試験環境163における場所を追跡し、かつ、時間の関数としてその場所を示す信号174を仮想モデルエンジン168に通信する。仮想モデルエンジン168は、それに応答して、制御下にあるロボット169の物理的試験環境163における位置と対応するよう、制御下にある仮想ロボット175の仮想試験環境162における位置を更新する。
【0054】
別のさらなる態様では、仮想モデルエンジン168は信号172を投影システム167に通信する。投影システム167は、それに応答して、制御下にあるロボット169の画像176を物理的試験環境161内に投影する。
図7Aは、プロジェクタデバイス167Aおよび167Bによって投影された、制御下にあるロボット169の画像176を含む物理的試験環境161を描写したものである。いくつかの実施形態では、投影システム167は三次元ホログラフィ投影システムである。いくつかの実施形態では、投影システム167は、制御下にあるロボット169の二次元画像を物理的試験環境161の床の上に投影する液晶ディスプレイシステムなどの二次元投影システムである。
【0055】
いくつかの実施形態では、本明細書で上記に説明したように、制御下にある仮想ロボットあるいは仮想対象物などの仮想要素の画像が物理的試験環境の上に投影される。これらの実施形態のうちのいくつかでは、物理的試験環境で動作している1つまたは複数の知覚システムが、投影される画像と関連する、位置、速度、等々などの情報を捕獲し、かつ、この情報を仮想モデルエンジンに通信する。例えば1つまたは複数のカメラが、画像化される対象物の時間による位置を捕獲することができる。仮想モデルエンジンは、この情報を使用して、現実のロボットまたは仮想ロボットを制御するために使用されるセンサ信号を決定することができる。
【0056】
本明細書において説明されているように、仮想対象物の画像を物理的タスク環境の上に投影することができ、それにより人間または知覚システムは、物理的タスク環境において仮想対象物の動きを視覚化することができる。例えばプロジェクタは、材料およびワークピースの流れ、仮想模擬ロボットおよび他の機械の外観および状態、ならびに関連する背景画像を含む、仮想環境の模擬された画像を投影する。いくつかの実施形態では、プロジェクタは、ロボットによって処理され、輸送されている材料およびワークピース、仮想環境における作り付け備品および壁、ならびに試験環境で動作しているロボットおよび他の機械を含む対象物を三次元で投影する三次元ホログラフィプロジェクタを含む。さらに、仮想対象物の画像を複数の物理的タスク環境の上に投影することも可能であり、それにより人間または知覚システムは、複数の物理的タスク環境(例えば物理的タスク環境161および163)において仮想対象物の動きを視覚化することができる。
【0057】
しかしながら一般的には、物理的タスク環境における画像の投影は任意選択であり、また、物理的タスク環境における画像の投影は、本明細書において説明されているすべての実施形態で任意選択である。
【0058】
本明細書において説明されているように、移動ロボットなどのロボットを物理的タスク環境で展開することができ、それにより人間または知覚システムは、別の物理的試験環境における制御下にあるロボットの動き、あるいは制御下にある仮想ロボットの動きを視覚化することができる。これらの例では、ロボットは、制御下にある仮想ロボットの動きまたは別の物理的試験環境における制御下にあるロボットの動きを模倣する。さらに、ロボットを複数の物理的タスク環境で展開することも可能であり、それにより人間または知覚システムは、制御下にある仮想ロボットの動きまたは別の物理的試験環境における制御下にあるロボットの動きを複数の物理的タスク環境で視覚化することができる。
【0059】
しかしながら一般的には、ロボットを物理的タスク環境で展開して、制御下にある仮想ロボットまたは別の物理的試験環境における制御下にあるロボットを模倣することは任意選択であり、また、ロボットを展開して、制御下にある仮想ロボットまたは別の物理的試験環境における制御下にあるロボットを模倣することは、本明細書において説明されているすべての実施形態で任意選択である。
【0060】
いくつかの実施形態では、制御下にある実際のロボットを模倣しているロボットの動きが、制御下にある実際のロボットの動きに対してスケール化される。例えば模倣ロボットは大規模工場環境で動作することができ、一方、制御下にあるロボットは比較的小規模の研究室で動作する。これらの実施形態では、研究室環境で、制御下にあるロボットによってなされる動きを、工場環境におけるより大きい動きにスケールアップすることが有利であり得る。
【0061】
通常、一連のセンサが物理的試験環境全体にわたって分散される。いくつかの実施形態では、センサは、物理的試験環境で動作している、制御下にあるロボットおよび他の機械に取り付けられたセンサを含む。これらのセンサは、エンコーダ、近接センサ、カメラ、加速度計、等々を含む。これらのセンサから収集されたセンサデータは、物理的試験環境のすべての関連する要素のモデルの状態を更新するために仮想モデルエンジンに通信される。
【0062】
いくつかの実施形態では、集中型または分散型計算システムが仮想モデルエンジンを実行し、仮想モデルエンジンは、物理的環境および仮想環境を統合して実験を実施する。これらの実施形態では、計算システムは、物理的試験環境に固定された様々なセンサノードからセンサ信号および情報を収集し、センサデータに基づいて物理的環境モデルを構築し、かつ、更新し、また、試験のために必要な要素およびシナリオを含むべく、環境の仮想模擬モデルを構築し、かつ、更新する。さらに、計算システムは、仮想対象物および条件が物理的環境に存在する場合に出現することになるセンサ信号を模倣するために、物理的モデルおよび仮想モデルの両方に基づいてセンサ信号を修正する。ロボットおよび他の機械は、修正されたセンサ信号に基づいて実時間で制御される。
【0063】
いくつかの実施形態では、物理的試験環境で、物理的ロボットを使用して仮想模擬対象物が輸送され、かつ、操作され、ロボットは、近くで働いている模擬された人間を含む仮想環境モデルを統合することによって修正された現実の物理的センサ信号に基づいて制御される。
【0064】
いくつかの実施形態では、仮想模擬ロボットを使用して現実の物理的対象物が輸送され、かつ、操作され、物理的対象物は、物理的対象物の動きを模倣する追加物理的車両を使用して移動される。
【0065】
いくつかの実施形態では、現実の人間の挙動が実験的に観察され、また、仮想模擬ロボットおよび対象物を使用して強化された物理的試験環境にそれらを露出することによって評価される。いくつかの例では、現実の人間がホログラフィプロジェクタを使用して三次元空間に投影された仮想ロボットおよび対象物と対話し、それにより安全性および有用性を評価する。
【0066】
計算システムを使用して、1つまたは複数の物理的試験環境からセンサ信号データが受け取られ、結合された物理的試験モデルおよび仮想試験モデルが構築され、かつ、更新され、また、本明細書において説明されている1つまたは複数の物理的試験環境の様々な要素にコマンド信号が通信される。いくつかの実施形態では、物理的試験環境の多くの要素が、その特定の要素、例えば移動ロボット、制御下にあるロボット、カメラシステム、投影システム、等々の機能を制御するための専用の計算システムを含む。
【0067】
図8に描写されているように、制御下にあるロボットは、センサインタフェース410、少なくとも1つのプロセッサ420、メモリ430、バス440、ワイヤレス通信トランシーバ450および制御されたデバイスインタフェース460を含む計算システム400を含む。センサインタフェース410、プロセッサ420、メモリ430、ワイヤレス通信トランシーバ450および制御されたデバイスインタフェース460は、バス440を介して通信するように構成されている。
【0068】
センサインタフェース410はアナログ-デジタル変換(ADC)電子回路411を含む。さらに、いくつかの実施形態では、センサインタフェース410はデジタル入力/出力インタフェース412を含む。いくつかの他の実施形態では、センサインタフェース410は、センサと通信してセンサから測定データを受け取るように構成されたワイヤレス通信トランシーバ(図示せず)を含む。
【0069】
制御されたデバイスインタフェース460は適切なデジタル-アナログ変換(DAC)電子回路を含む。さらに、いくつかの実施形態では、制御されたデバイスインタフェース460はデジタル入力/出力インタフェースを含む。いくつかの他の実施形態では、制御されたデバイスインタフェース460は、制御信号の送信を含む、デバイスと通信するように構成されたワイヤレス通信トランシーバを含む。
【0070】
図8に描写されているように、制御されたデバイスインタフェース460は、制御下にあるロボットを例えば所望の運動軌道に沿って移動させる1つまたは複数の車両アクチュエータ305に制御コマンド306を送信するように構成されている。
【0071】
メモリ430は、制御下にあるロボットによって使用されるセンサデータ、例えばエンコーダデータ、画像データ、等々を記憶する一定量のメモリ431を含む。また、メモリ430は、プロセッサ420によって実行されると、プロセッサ420が本明細書において説明されている運動機能性を実施することになるプログラムコードを記憶する一定量のメモリ432を同じく含む。
【0072】
いくつかの例では、プロセッサ420は、センサインタフェース410によって生成されるデジタル信号をメモリ430上に記憶するように構成される。さらに、プロセッサ420は、メモリ430上に記憶されているデジタル信号を読み出し、読み出したデジタル信号をワイヤレス通信トランシーバ450に送信するように構成されている。いくつかの実施形態では、ワイヤレス通信トランシーバ450は、デジタル信号を計算システム400から計算システム500または別の外部計算デバイス(図示せず)にワイヤレス通信リンクを介して通信するように構成される。
図8に描写されているように、ワイヤレス通信トランシーバ450は、アンテナ451を介して無線周波数信号452を送信している。無線周波数信号452は、計算システム400から計算システム500へ通信されるデジタル信号を表すデジタル情報を含む。
【0073】
いくつかの実施形態では、ワイヤレス通信トランシーバ450は、サーバ500または外部計算デバイス(図示せず)からワイヤレス通信リンクを介してデジタル信号を受け取るように構成される。無線周波数信号453は、サーバ500または外部計算システム(図示せず)から計算システム400へ通信されるデジタル信号を表すデジタル情報(例えば運動制御コマンド)を含む。
【0074】
非制限の例として、計算システム500は、1つまたは複数の物理的試験環境からセンサ信号データを受け取り、結合された物理的試験モデルおよび仮想試験モデルを構築し、かつ、更新し、また、本明細書において説明されている1つまたは複数の物理的試験環境の様々な要素にコマンド信号を通信するための仮想モデルエンジン501として使用されている。
【0075】
図8に描写されているように、計算システム500は、仮想モデルエンジン501として動作している、少なくとも1つのプロセッサ520、メモリ530、バス540およびワイヤレス通信トランシーバ550を含む。プロセッサ520、メモリ530およびワイヤレス通信トランシーバ550は、バス540を介して通信するように構成されている。
【0076】
いくつかの実施形態では、メモリ530は、物理的試験環境の1つまたは複数の要素から収集されたセンサデータを記憶する一定量のメモリ531を含む。また、メモリ530は、プロセッサ520によって実行されると、プロセッサ520が本明細書において説明されている、統合された物理的ロボットシステム試験および仮想ロボットシステム試験機能性を実施することになるプログラムコードを記憶する一定量のメモリ532を同じく含む。
【0077】
いくつかの例では、プロセッサ520は、物理的試験環境に配置された1つまたは複数のセンサから受け取ったデジタル信号をメモリ530上に記憶するように構成される。いくつかの実施形態では、プロセッサ520は、計算システム400から受け取ったデジタル信号をメモリ530上に記憶するように構成される。さらに、プロセッサ520は、メモリ530上に記憶されているデジタル信号を読み出し、読み出したデジタル信号をワイヤレス通信トランシーバ550に送信するように構成されている。いくつかの実施形態では、ワイヤレス通信トランシーバ550は、デジタル信号をサーバ500から計算システム400または外部計算デバイス(図示せず)にワイヤレス通信リンクを介して通信するように構成される。
図8に描写されているように、ワイヤレス通信トランシーバ550は、アンテナ551を介して無線周波数信号552を送信している。無線周波数信号552は、サーバ500から計算システム400、外部計算デバイス、等々へ通信されるデジタル信号(例えば運動制御コマンド)を表すデジタル情報を含む。
【0078】
いくつかの実施形態では、ワイヤレス通信トランシーバ550は、計算システム400または外部計算デバイス(図示せず)からワイヤレス通信リンクを介してデジタル信号を受け取るように構成される。無線周波数信号553は、計算システム400または外部計算システム(図示せず)からサーバ500へ通信されるデジタル信号(例えば物理的試験環境内の現在の位置)を表すデジタル情報を含む。
【0079】
計算システム400および500は、それらに限定されないが、パーソナルコンピュータシステム、本体コンピュータシステム、クラウドベース計算システム、ワークステーション、画像コンピュータ、パラレルプロセッサ、または当技術分野で知られている任意の他の計算デバイスを含むことができる。一般に、「計算システム」という用語は、メモリ媒体からの命令を実行する1つまたは複数のプロセッサを有する任意のデバイスまたはデバイスの組合せを包含するべく広義に定義することができる。一般に、計算システム400および500は、制御下にあるロボットなどのロボットと統合することができ、あるいは別法として、完全に、または部分的に、すべてのロボットとは別であってもよい。この意味では、計算システム400および500を遠隔で配置して、ロボットシステム試験環境の任意の要素からデータを受け取り、これらの任意の要素にデータを送り、また、コマンド信号を送信することができる。
【0080】
図9は、本明細書において説明されているロボット試験システムによって実施するのに適した方法200のフローチャートを示したものである。いくつかの実施形態では、
図1~
図7を参照して説明したロボットシステム試験環境は、
図9に示されている方法200に従って動作させることができる。しかしながら一般的には、方法200の実行は、
図1~
図7を参照して説明したロボットシステム試験環境の実施形態に限定されない。本特許文書の範囲には多くの他の実施形態および動作例を企図することができるため、これらの図解および対応する説明は、一例として提供されている。
【0081】
ブロック201で、第1の物理的試験環境に配置された1つまたは複数のセンサから1つまたは複数の信号が受け取られる。1つまたは複数の信号は、第1の物理的試験環境の1つまたは複数の要素の物理的状態を示す。1つまたは複数の要素は、制御下にあるロボット、人間、移動ロボットまたはそれらの任意の組合せのうちの少なくとも1つを含む。
【0082】
ブロック202で、第1の物理的試験環境に配置された1つまたは複数のセンサから受け取った1つまたは複数の信号に少なくとも部分的に基づいて、第1の物理的試験環境のモデルの状態が決定される。
【0083】
ブロック203で、試験条件の所望のセットに基づいて、仮想試験環境のモデルの状態が決定される。
【0084】
ブロック204で、第1の物理的試験環境のモデルが仮想試験環境のモデルと結合される。
【0085】
ブロック205で、第1の物理的試験環境と仮想試験環境の結合されたモデルの状態を示すセンサ信号のセットが決定される。
【0086】
ブロック206で、センサ信号のセットが制御下にあるロボットまたは制御下にある仮想ロボットに通信される。
【0087】
ブロック207で、制御下にあるロボットまたは制御下にある仮想ロボットがセンサ信号のセットに基づいて制御される。
【0088】
1つまたは複数の例示的実施形態では、説明されている機能は、ハードウェア、ソフトウェア、ファームウェアまたはそれらの任意の組合せで実施することができる。ソフトウェアで実施される場合、機能は、1つまたは複数の命令またはコードとしてコンピュータ可読媒体上に記憶することができ、あるいは伝送することができる。コンピュータ可読媒体は、コンピュータ記憶媒体と、1つの場所から別の場所へのコンピュータプログラムの転送を容易にする任意の媒体を含む通信媒体の両方を含む。記憶媒体は、汎用コンピュータまたは専用コンピュータがアクセスすることができる利用可能な任意の媒体であってもよい。非制限の一例として、このようなコンピュータ可読媒体は、RAM、ROM、EEPROM、CD-ROMまたは他の光ディスク記憶装置、磁気ディスク記憶装置または他の磁気記憶デバイス、あるいは命令またはデータ構造の形態の所望のプログラムコード手段を運び、あるいは記憶するために使用することができ、また、汎用コンピュータまたは専用コンピュータがアクセスすることができ、あるいは汎用プロセッサまたは専用プロセッサがアクセスすることができる任意の他の媒体を備えることができる。また、任意の接続も、コンピュータ可読媒体と適切に称することができる。例えば同軸ケーブル、光ファイバーケーブル、撚線対、デジタル加入者線(DSL)、または赤外線、無線およびマイクロ波などのワイヤレス技術を使用してソフトウェアがウェブサイト、サーバまたは他の遠隔ソースから伝送される場合、同軸ケーブル、光ファイバーケーブル、撚線対、DSL、または赤外線、無線およびマイクロ波などのワイヤレス技術は媒体の定義に含まれる。本明細書において使用されているように、ディスク(diskおよびdisc)は、コンパクトディスク(disc)(CD)、レーザディスク(disc)、光ディスク(disc)、デジタル汎用ディスク(disc)(DVD)、フロッピーディスク(disk)およびブルーレイディスク(disc)を含み、ディスク(disk)は、通常、データを磁気的に再生し、一方、ディスク(disc)は、レーザを使用してデータを光的に再生する。上記の組合せも同じくコンピュータ可読媒体の範囲内に含まれるべきである。
【0089】
教育を目的としてある特定の実施形態が説明されているが、本特許文書の教示は、包括的な適用性を有しており、上で説明した特定の実施形態に限定されない。したがって特許請求の範囲に示されている本発明の範囲を逸脱することなく、説明されている実施形態の様々な特徴の様々な修正、適合および組合せを実践することができる。
【手続補正書】
【提出日】2022-02-17
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
1つまたは複数のセンサと、制御下にあるロボット、人間、静止対象物、移動対象物またはそれらの任意の組合せのうちの少なくとも1つとを含む第1の物理的試験環境と、
制御下にある仮想ロボット、仮想人間、仮想静止対象物、仮想移動対象物、1つまたは複数の仮想センサまたはそれらの任意の組合せのうちの少なくとも1つを含む仮想試験環境と、
前記第1の物理的試験環境に配置された前記1つまたは複数のセンサから、前記第1の物理的試験環境の1つまたは複数の要素の物理的状態を示す1つまたは複数の信号を受け取り、
前記第1の物理的試験環境に配置された前記1つまたは複数のセンサから受け取った前記1つまたは複数の信号に少なくとも部分的に基づいて、前記第1の物理的試験環境のモデルの状態を決定し、
試験条件の所望のセットに基づいて、前記仮想試験環境のモデルの状態を決定し、
前記第1の物理的試験環境の前記モデルと前記仮想試験環境の前記モデルを結合し、
前記第1の物理的試験環境と前記仮想試験環境の前記結合されたモデルの状態を示すセンサ信号のセットを決定し、
前記センサ信号のセットを制御下にあるロボットまたは制御下にある仮想ロボットに通信し、
前記制御下にあるロボットまたは前記制御下にある仮想ロボットを前記センサ信号のセットに基づいて制御する
ように構成された計算システムと
を備えるロボットシステム試験環境。
【請求項2】
前記第1の物理的試験環境に配置された1つまたは複数の画像投影デバイス
をさらに備え、前記計算システムが、
前記制御下にある仮想ロボット、前記仮想人間、前記仮想静止対象物および前記仮想移動対象物のうちの少なくとも1つの状態を示す画像信号を前記1つまたは複数の画像投影デバイスに通信するようにさらに構成され、前記1つまたは複数の画像投影デバイスが、前記制御下にある仮想ロボット、前記仮想人間、前記仮想静止対象物および前記仮想移動対象物のうちの前記少なくとも1つの前記状態を示す画像を前記第1の物理的試験環境の上に投影する、
請求項1に記載のロボットシステム試験環境。
【請求項3】
前記1つまたは複数の画像投影デバイスが三次元ホログラフィ画像化デバイスを含む、請求項2に記載のロボットシステム試験環境。
【請求項4】
前記第1の物理的試験環境に配置された前記1つまたは複数のセンサからの前記1つまたは複数の信号が、前記第1の物理的試験環境上への、前記制御下にある仮想ロボット、前記仮想人間、前記仮想静止対象物および前記仮想移動対象物のうちの前記少なくとも1つの前記状態を示す前記画像を示す、請求項2に記載のロボットシステム試験環境。
【請求項5】
前記第1の物理的試験環境が制御下にあるロボットを含み、前記仮想試験環境が仮想人間を含み、前記仮想人間の状態を示す画像が前記第1の物理的試験環境の上に投影され、前記第1の物理的試験環境における前記制御下にあるロボットが、前記仮想人間の前記状態に応答して移動するように制御される、請求項2に記載のロボットシステム試験環境。
【請求項6】
前記仮想試験環境が制御下にある仮想ロボットを含み、前記制御下にある仮想ロボットの状態を示す画像が前記1つまたは複数の画像投影デバイスによって前記第1の物理的試験環境の上に投影される、請求項2に記載のロボットシステム試験環境。
【請求項7】
前記計算システムが、
前記結合されたモデルの前記状態を示す前記センサ信号のセットを物理的ロボット制御サブシステムに通信するようにさらに構成され、前記物理的ロボット制御サブシステムが前記センサ信号のセットに基づいて前記制御下にある仮想ロボットを制御する、請求項6に記載のロボットシステム試験環境。
【請求項8】
前記第1の物理的試験環境が移動ロボットの上に配置されたペイロードを含み、前記計算システムが、
前記第1の物理的試験環境において、前記制御下にある仮想ロボットの仮想の動きに従って制御下にあるペイロードロボットを移動させるように前記移動ロボットに指令するようにさらに構成される、請求項6に記載のロボットシステム試験環境。
【請求項9】
前記第1の物理的試験環境が人間を含み、前記仮想試験環境における前記制御下にある仮想ロボットが前記人間の状態に応答して仮想的に移動するように制御され、前記1つまたは複数の画像投影デバイスが、前記制御下にある仮想ロボットの前記動きを示す一連の画像を前記第1の物理的試験環境に表示する、請求項6に記載のロボットシステム試験環境。
【請求項10】
制御下にある第1のロボットを含む第2の物理的試験環境をさらに備え、前記センサ信号のセットが前記制御下にある第1のロボットに通信され、前記制御下にある第1のロボットが前記センサ信号のセットに基づいて制御される、請求項1に記載のロボットシステム試験環境。
【請求項11】
前記第2の物理的試験環境に配置された1つまたは複数の画像投影デバイス
をさらに備え、前記計算システムが、
前記第1の物理的試験環境の1つまたは複数の要素の状態を示す画像信号を前記1つまたは複数の画像投影デバイスに通信するようにさらに構成され、前記1つまたは複数の画像投影デバイスが、前記第1の物理的試験環境の前記1つまたは複数の要素の前記状態を示す画像を前記第2の物理的試験環境の上に投影する、請求項10に記載のロボットシステム試験環境。
【請求項12】
前記第1の物理的試験環境が制御下にある第2のロボットを含み、前記計算システムが、
前記制御下にある第1のロボットの動きに従って移動するように前記制御下にある第2のロボットに指令するようにさらに構成される、請求項10に記載のロボットシステム試験環境。
【請求項13】
第1の物理的試験環境に配置された1つまたは複数のセンサから1つまたは複数の信号を受け取るステップであって、前記1つまたは複数の信号が前記第1の物理的試験環境の1つまたは複数の要素の物理的状態を示し、前記1つまたは複数の要素が、制御下にあるロボット、人間、移動ロボットまたはそれらの任意の組合せのうちの少なくとも1つを含む、ステップと、
前記第1の物理的試験環境に配置された前記1つまたは複数のセンサから受け取った前記1つまたは複数の信号に少なくとも部分的に基づいて、前記第1の物理的試験環境のモデルの状態を決定するステップと、
試験条件の所望のセットに基づいて、仮想試験環境のモデルの状態を決定するステップと、
前記第1の物理的試験環境の前記モデルと前記仮想試験環境の前記モデルを結合するステップと、
前記第1の物理的試験環境と前記仮想試験環境の前記結合されたモデルの状態を示すセンサ信号のセットを決定するステップと、
前記センサ信号のセットを制御下にあるロボットまたは制御下にある仮想ロボットに通信するステップと、
前記制御下にあるロボットまたは前記制御下にある仮想ロボットを前記センサ信号のセットに基づいて制御するステップと
を含む方法。
【請求項14】
前記仮想試験環境の少なくとも1つの要素の状態を示す画像信号を前記第1の物理的試験環境に配置された1つまたは複数の画像投影デバイスに通信するステップであって、前記仮想試験環境の前記少なくとも1つの要素が、制御下にある仮想ロボット、仮想人間、仮想静止対象物および仮想移動対象物のうちの少なくとも1つを含む、ステップと、
前記仮想試験環境の前記少なくとも1つの要素の前記状態を示す画像を前記第1の物理的試験環境の上に投影するステップと
をさらに含む、請求項13に記載の方法。
【請求項15】
前記第1の物理的試験環境に配置された前記1つまたは複数のセンサからの前記1つまたは複数の信号が、前記第1の物理的試験環境の上に投影される前記仮想試験環境の前記少なくとも1つの要素の前記状態を示す前記画像を示す、請求項14に記載の方法。
【国際調査報告】