IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ Telexistence株式会社の特許一覧

特許7239916遠隔操作システム、情報処理方法、及びプログラム
<>
  • 特許-遠隔操作システム、情報処理方法、及びプログラム 図1
  • 特許-遠隔操作システム、情報処理方法、及びプログラム 図2
  • 特許-遠隔操作システム、情報処理方法、及びプログラム 図3
  • 特許-遠隔操作システム、情報処理方法、及びプログラム 図4
  • 特許-遠隔操作システム、情報処理方法、及びプログラム 図5
  • 特許-遠隔操作システム、情報処理方法、及びプログラム 図6
  • 特許-遠隔操作システム、情報処理方法、及びプログラム 図7
  • 特許-遠隔操作システム、情報処理方法、及びプログラム 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-03-07
(45)【発行日】2023-03-15
(54)【発明の名称】遠隔操作システム、情報処理方法、及びプログラム
(51)【国際特許分類】
   B25J 3/00 20060101AFI20230308BHJP
   G06F 3/01 20060101ALI20230308BHJP
【FI】
B25J3/00 B
G06F3/01 510
G06F3/01 560
【請求項の数】 11
(21)【出願番号】P 2020521223
(86)(22)【出願日】2019-05-20
(86)【国際出願番号】 JP2019019930
(87)【国際公開番号】W WO2019225548
(87)【国際公開日】2019-11-28
【審査請求日】2022-04-06
(31)【優先権主張番号】P 2018097145
(32)【優先日】2018-05-21
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】517135833
【氏名又は名称】Telexistence株式会社
(74)【代理人】
【識別番号】100134094
【弁理士】
【氏名又は名称】倉持 誠
(74)【代理人】
【識別番号】100166006
【弁理士】
【氏名又は名称】泉 通博
(74)【代理人】
【識別番号】100154070
【弁理士】
【氏名又は名称】久恒 京範
(74)【代理人】
【識別番号】100153280
【弁理士】
【氏名又は名称】寺川 賢祐
(72)【発明者】
【氏名】ロッド ヤン
(72)【発明者】
【氏名】チェン ホセ エンリケ
(72)【発明者】
【氏名】佐野 元紀
【審査官】仁木 学
(56)【参考文献】
【文献】米国特許出願公開第2013/0211592(US,A1)
【文献】国際公開第2018/061683(WO,A1)
【文献】特開2003-053685(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
B25J 3/00
G06F 3/01
(57)【特許請求の範囲】
【請求項1】
操作者の姿勢の変化に連動して動作するスレーブロボットと、
前記操作者の身体の姿勢を示す信号を取得するキャプチャ装置と、
制御装置と、を備え、
前記制御装置は、
前記スレーブロボットから当該スレーブロボットの姿勢を示す信号を受信するとともに、前記キャプチャ装置から前記操作者の身体の姿勢を示す信号を受信する受信制御部と、
前記スレーブロボットの姿勢と前記操作者の姿勢との差異を示す姿勢誤差を取得する姿勢比較部と、
前記姿勢誤差が所定の閾範囲内となることを条件として、前記操作者の姿勢の変化に基づいて生成された前記スレーブロボットを動作させるための動作信号を前記スレーブロボットに送信する動作連結部と、
前記操作者の動きと前記スレーブロボットの動きとの同期を開始する前に前記姿勢誤差を小さくするために前記スレーブロボットが動いている間、前記操作者に姿勢を静止していることを促すための情報を前記操作者に提示する連結情報提示部と、を備える、
遠隔操作システム。
【請求項2】
前記遠隔操作システムは、前記操作者の頭部に取り付けられたとき映像を前記操作者に提示するためのヘッドマウントディスプレイをさらに備え、
前記制御装置は、前記ヘッドマウントディスプレイに表示させる映像を制御する映像制御部をさらに備え、
前記映像制御部は、前記動作連結部が前記動作信号を前記スレーブロボットに送信する前に、前記スレーブロボットの姿勢と前記操作者の姿勢とを合わせるために前記操作者が取るべき姿勢に誘導するためのガイド映像を生成する、
請求項1記載の遠隔操作システム。
【請求項3】
前記映像制御部は、前記動作連結部が前記スレーブロボットに前記動作信号を送信している間は、前記スレーブロボットが備える撮像素子が撮像した映像を前記ヘッドマウントディスプレイに表示させる、
請求項に記載の遠隔操作システム。
【請求項4】
前記映像制御部は、前記スレーブロボットの頭部に備えられた撮像素子が撮像する映像が前記ヘッドマウントディスプレイに表示された場合に前記操作者によって前記スレーブロボットの手部が知覚される位置に仮想的な連結用マーカが表示されるように、前記ガイド映像を生成する、
請求項又はに記載の遠隔操作システム。
【請求項5】
前記遠隔操作システムは、前記操作者の手部に取り付けられたとき、前記スレーブロボットの手部に備えられた触覚センサが取得した触覚情報を前記操作者の手部に提示するための触覚提示装置をさらに備え、
前記制御装置は、前記触覚提示装置を動作させるための触覚提示信号を生成する触覚信号生成部をさらに備え、
前記触覚信号生成部は、前記映像における前記操作者の手部の位置と前記連結用マーカの表面の位置とが重なることを条件として、前記触覚提示信号を生成する、
請求項に記載の遠隔操作システム。
【請求項6】
前記映像制御部は、前記操作者の動作と前記スレーブロボットの動作との同期を切断するための仮想的な切断用マーカを生成し、
前記動作連結部は、前記映像における前記操作者の手部の位置と前記切断用マーカの表面の位置とが重なることを条件として、前記スレーブロボットへの前記動作信号の送信を停止する、
請求項からのいずれか一項に記載の遠隔操作システム。
【請求項7】
前記動作連結部は、前記姿勢誤差が所定の閾範囲内となる状態が所定の期間経過することを条件として、前記動作信号を前記スレーブロボットに送信する、
請求項1からのいずれか一項に記載の遠隔操作システム。
【請求項8】
前記動作連結部は、前記姿勢比較部が取得した姿勢誤差が所定の閾範囲内となるように、前記スレーブロボットを動作させるための動作信号を前記スレーブロボットに送信する、
請求項1に記載の遠隔操作システム。
【請求項9】
前記スレーブロボットは、前記操作者の頭部及び手部にそれぞれ対応する頭部及び手部を少なくとも備える人型ロボットであり、
前記姿勢比較部は、前記スレーブロボットと前記操作者とを仮想的に重ね合わせたときに、前記スレーブロボットの頭部の位置と前記操作者の頭部の位置との差異と前記スレーブロボットの手部の位置と前記操作者の手部の位置との差異との和を、前記姿勢誤差として取得する、
請求項1からのいずれか一項に記載の遠隔操作システム。
【請求項10】
操作者の姿勢の変化に連動して動作するスレーブロボットと、前記操作者の身体の姿勢を示す信号を取得するキャプチャ装置と、制御装置と、を備える遠隔操作システムにおける前記制御装置が備えるプロセッサが、
前記スレーブロボットから当該スレーブロボットの姿勢を示す信号を受信するステップと、
前記キャプチャ装置から前記操作者の身体の姿勢を示す信号を受信するステップと、
前記スレーブロボットの姿勢と前記操作者の姿勢との差異を示す姿勢誤差を取得するステップと、
前記姿勢誤差が所定の閾範囲内となることを条件として、前記操作者の姿勢の変化に基づいて生成された前記スレーブロボットを動作させるための動作信号を前記スレーブロボットに送信するステップと、
前記操作者の動きと前記スレーブロボットの動きとの同期を開始する前に前記姿勢誤差を小さくするために前記スレーブロボットが動いている間、前記操作者に姿勢を静止していることを促すための情報を前記操作者に提示するステップと、
を実行する情報処理方法。
【請求項11】
操作者の姿勢の変化に連動して動作するスレーブロボットと、前記操作者の身体の姿勢を示す信号を取得するキャプチャ装置と、制御装置と、を備える遠隔操作システムにおける前記制御装置に、
前記スレーブロボットから当該スレーブロボットの姿勢を示す信号を受信する機能と、
前記キャプチャ装置から前記操作者の身体の姿勢を示す信号を受信する機能と、
前記スレーブロボットの姿勢と前記操作者の姿勢との差異を示す姿勢誤差を取得する機能と、
前記姿勢誤差が所定の閾範囲内となることを条件として、前記操作者の姿勢の変化に基づいて生成された前記スレーブロボットを動作させるための動作信号を前記スレーブロボットに送信する機能と、
前記操作者の動きと前記スレーブロボットの動きとの同期を開始する前に前記姿勢誤差を小さくするために前記スレーブロボットが動いている間、前記操作者に姿勢を静止していることを促すための情報を前記操作者に提示する機能と、
を実現させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は遠隔操作システム、情報処理方法、及びプログラムに関する。
【背景技術】
【0002】
操作者とは離れた場所に存在するスレーブロボット(Slave Robot)を操作者が遠隔操作することによって、操作者が実際には存在しない場所に存在したとするならば得られる視覚、聴覚、及び触覚等の感覚を操作者に経験させるための技術が提案されている(例えば、非特許文献1を参照)。この技術は、telepresence(テレプレゼンス)やtelexistence(本願出願人の登録商標、テレイグジスタンス)等とも呼ばれている。非特許文献1における遠隔操作システムにおいて、スレーブロボットは人型のロボットであり、操作者の身体(頭部、胴部、腕部、及び手部等)の動きと同期して、スレーブロボットの対応する部位が動作する。
【0003】
スレーブロボットの操作者は、スレーブロボットの視界、すなわちスレーブロボットが備える撮像素子がとらえた映像を共有するために、遮蔽型のヘッドマウントディスプレイを装着する。操作者の動きとスレーブロボットとの同期が開始すると、操作者の視界も、ヘッドマウントディスプレイを介してスレーブロボットの視界と同期する。
【先行技術文献】
【非特許文献】
【0004】
【文献】Fernando, C. L., Furukawa, M., Kurogi, T., Kamuro, S., Sato, K., Minamizawa, and S. Tachi, “Design of TELESAR v for transferring bodily consciousness in telexistence”, IEEE International Conference on Intelligent Robots and Systems 2012, pp. 5112-5118.
【発明の概要】
【発明が解決しようとする課題】
【0005】
操作者の動きとスレーブロボットとの同期が開始したとき、操作者自身の身体の動きとヘッドマウントディスプレイに表示されるスレーブロボットの部位の動きとがずれていると、操作者は感覚の不一致によってスレーブロボットの操作に違和感が生じやすくなる。
【0006】
本発明はこれらの点に鑑みてなされたものであり、遠隔操作システムのスレーブロボットの動作と操作者の動作との同期を開始する際に操作者が感じる感覚の不一致を低減する技術を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の第1の態様は、遠隔操作システムである。このシステムは、操作者の姿勢の変化に連動して動作するスレーブロボットと、前記操作者の身体の姿勢を示す信号を取得するキャプチャ装置と、制御装置と、を備える。ここで、前記制御装置は、前記スレーブロボットから当該スレーブロボットの姿勢を示す信号を受信するとともに、前記キャプチャ装置から前記操作者の身体の姿勢を示す信号を受信する受信制御部と、前記スレーブロボットの姿勢と前記操作者の姿勢との差異を示す姿勢誤差を取得する姿勢比較部と、前記姿勢誤差が所定の閾範囲内となることを条件として、前記操作者の姿勢の変化に基づいて生成された前記スレーブロボットを動作させるための動作信号を前記スレーブロボットに送信する動作連結部と、を備える。
【0008】
前記制御装置は、前記動作連結部が前記動作信号を前記スレーブロボットに送信する前に、前記スレーブロボットの姿勢と前記操作者の姿勢とを合わせるために前記操作者が取るべき姿勢に誘導するための情報を前記操作者に提示する連結情報提示部をさらに備えてもよい。
【0009】
前記遠隔操作システムは、前記操作者の頭部に取り付けられたとき映像を前記操作者に提示するためのヘッドマウントディスプレイをさらに備えてもよく、前記制御装置は、前記ヘッドマウントディスプレイに表示させる映像を制御する映像制御部をさらに備えてもよく、前記映像制御部は、前記動作連結部が前記動作信号を前記スレーブロボットに送信する前に、前記スレーブロボットの姿勢と前記操作者の姿勢とを合わせるために前記操作者が取るべき姿勢に誘導するためのガイド映像を生成してもよい。
【0010】
前記映像制御部は、前記動作連結部が前記スレーブロボットに前記動作信号を送信している間は、前記スレーブロボットが備える撮像素子が撮像した映像を前記ヘッドマウントディスプレイに表示させてもよい。
【0011】
前記映像制御部は、前記スレーブロボットの頭部に備えられた撮像素子が撮像する映像が前記ヘッドマウントディスプレイに表示された場合に前記操作者によって前記スレーブロボットの手部が知覚される位置に仮想的な連結用マーカが表示されるように、前記ガイド映像を生成してもよい。
【0012】
前記遠隔操作システムは、前記操作者の手部に取り付けられたとき、前記スレーブロボットの手部に備えられた触覚センサが取得した触覚情報を前記操作者の手部に提示するための触覚提示装置をさらに備えてもよく、前記制御装置は、前記触覚提示装置を動作させるための触覚提示信号を生成する触覚信号生成部をさらに備えてもよく、前記触覚信号生成部は、前記映像における前記操作者の手部の位置と前記連結用マーカの表面の位置とが重なることを条件として、前記触覚提示信号を生成してもよい。
【0013】
前記映像制御部は、前記操作者の動作と前記スレーブロボットの動作との同期を切断するための仮想的な切断用マーカを生成してもよく、前記動作連結部は、前記映像における前記操作者の手部の位置と前記切断用マーカの表面の位置とが重なることを条件として、前記スレーブロボットへの前記動作信号の送信を停止してもよい。
【0014】
前記動作連結部は、前記姿勢誤差が所定の閾範囲内となる状態が所定の期間経過することを条件として、前記動作信号を前記スレーブロボットに送信してもよい。
【0015】
前記動作連結部は、前記姿勢比較部が取得した姿勢誤差が所定の閾範囲内となるように、前記スレーブロボットを動作させるための動作信号を前記スレーブロボットに送信してもよい。
【0016】
前記スレーブロボットは、前記操作者の頭部及び手部にそれぞれ対応する頭部及び手部を少なくとも備える人型ロボットであってもよく、前記姿勢比較部は、前記スレーブロボットと前記操作者とを仮想的に重ね合わせたときに、前記スレーブロボットの頭部の位置と前記操作者の頭部の位置との差異と前記スレーブロボットの手部の位置と前記操作者の手部の位置との差異との和を、前記姿勢誤差として取得してもよい。
【0017】
本発明の第2の態様は、操作者の姿勢の変化に連動して動作するスレーブロボットと、前記操作者の身体の姿勢を示す信号を取得するキャプチャ装置と、制御装置と、を備える遠隔操作システムにおける前記制御装置が備えるプロセッサが実行する情報処理方法である。この方法において、前記プロセッサが、前記スレーブロボットから当該スレーブロボットの姿勢を示す信号を受信するステップと、前記キャプチャ装置から前記操作者の身体の姿勢を示す信号を受信するステップと、前記スレーブロボットの姿勢と前記操作者の姿勢との差異を示す姿勢誤差を取得するステップと、前記姿勢誤差が所定の閾範囲内となることを条件として、前記操作者の姿勢の変化に基づいて生成された前記スレーブロボットを動作させるための動作信号を前記スレーブロボットに送信するステップと、を実行する。
【0018】
本発明の第3の態様は、プログラムである。このプログラムは、操作者の姿勢の変化に連動して動作するスレーブロボットと、前記操作者の身体の姿勢を示す信号を取得するキャプチャ装置と、制御装置と、を備える遠隔操作システムにおける前記制御装置に、前記スレーブロボットから当該スレーブロボットの姿勢を示す信号を受信する機能と、前記キャプチャ装置から前記操作者の身体の姿勢を示す信号を受信する機能と、前記スレーブロボットの姿勢と前記操作者の姿勢との差異を示す姿勢誤差を取得する機能と、前記姿勢誤差が所定の閾範囲内となることを条件として、前記操作者の姿勢の変化に基づいて生成された前記スレーブロボットを動作させるための動作信号を前記スレーブロボットに送信する機能と、を実現させる。
【0019】
なお、以上の構成要素の任意の組合せ、本発明の少なくとも一部の表現を方法、装置、システム、コンピュータプログラム、データ構造、記録媒体などの間で変換したものもまた、本発明の態様として有効である。このプログラムの少なくとも一部をアップデートするために、このプログラムを記録したコンピュータ読み取り可能な記録媒体が提供されてもよく、また、このプログラムが通信回線で伝送されてもよい。
【発明の効果】
【0020】
本発明によれば、遠隔操作システムのスレーブロボットの動作と操作者の動作との同期を開始する際に操作者が感じる感覚の不一致を低減することができる。
【図面の簡単な説明】
【0021】
図1】遠隔操作システムの構成要素の外観を模式的に示す図である。
図2】遠隔操作システムの構成要素と、各構成要素間でやり取りされる情報の流れを模式的に示す図である。
図3】実施の形態に係る制御装置の機能構成を模式的に示す図である。
図4】実施の形態に係る姿勢比較部が取得する姿勢誤差を説明するための図である。
図5】実施の形態に係る映像制御部が生成するガイド映像の一例を示す図である。
図6】スレーブロボットの動作と操作者の動作との同期を切断するための仮想的な切断用マーカの一例を示す図である。
図7】スレーブロボットの動作と操作者の動作との同期開始時及び同期終了時における制御装置の動作を表形式で示す図である。
図8】実施の形態に係る制御装置が実行する同期開始時の処理の流れを説明するためのフローチャートである。
【発明を実施するための形態】
【0022】
<遠隔操作システムの概要>
図1は、遠隔操作システムSの構成要素の外観を模式的に示す図である。また、図2は、遠隔操作システムSの構成要素と、各構成要素間でやり取りされる情報の流れを模式的に示す図である。以下、図1及び図2を参照して、遠隔操作システムSの概要についてまず説明する。
【0023】
図1に示すように、遠隔操作システムSを利用する操作者Uは、種々の提示装置2(ヘッドマウントディスプレイ2a、触覚提示装置2b、ヘッドフォン2c、及び撮像素子2d)を装着する。操作者Uの身体の動きはキャプチャ装置4によってトラッキングされる。キャプチャ装置4は、例えば赤外線又は可視光を用いた既知のモーションキャプチャ装置であり、操作者Uの身体に取り付けられたトラッキング用のマーカを撮像することによって操作者Uの身体の姿勢を示す信号を取得して制御装置1に送信する。
【0024】
スレーブロボットRは種々のセンサ3(撮像素子3a、触覚センサ3b、及びマイクロフォン3c)を備えており、各センサ3が取得したセンサ情報は制御装置1に送信される。なお、触覚センサ3bは、温度センサ31、加速度センサ32、及び圧力センサ33を含む。
【0025】
図1に示すように、スレーブロボットRは人の形を模した機械である。このため、撮像素子3aはスレーブロボットRの目に相当する個所に配置されている。同様に、触覚センサ3bはスレーブロボットRの指先に相当する個所に配置され、マイクロフォン3cはスレーブロボットRの耳に相当する個所に配置されている。
【0026】
制御装置1は、通信ネットワークN上に存在するクラウドサーバである。図2に示すように、制御装置1は操作者Uの身体の姿勢を示す信号に基づいて操作者Uの姿勢の変化を解析する。制御装置1は、操作者Uの姿勢の変化に基づいて、スレーブロボットRを動作させるための動作信号を生成し、スレーブロボットRに送信する。スレーブロボットRは、首部、肩部、肘部等の各部にアクチュエータを備えており、制御装置1が生成する動作信号はこれらのアクチュエータを動作させるための信号である。これにより、スレーブロボットRは、操作者Uの姿勢の変化に連動して動くことができる。
【0027】
制御装置1は、スレーブロボットRが備えるセンサ3から取得したセンサ情報に基づいて、操作者Uが装着している提示装置2を動作させるための提示信号を生成し、提示装置2に送信する。例えば、撮像素子3aが撮像して取得した画像情報は、制御装置1によってヘッドマウントディスプレイ2aに提示させる画像信号に変換される。これにより、操作者Uは、スレーブロボットRの「目」である撮像素子3aがとらえた映像をヘッドマウントディスプレイ2aのモニタ越しに見ることができる。図1は、ヘッドマウントディスプレイ2aのモニタに、スレーブロボットRの右手と、スレーブロボットRの右手が保持する接触対象Oである立方体とが映されている様子を示している。
【0028】
同様に、触覚センサ3bが取得した温度、振動、及び圧力を含む触覚情報は、制御装置1によって触覚提示装置2bを動作させるための触覚提示信号に変換される。これにより、操作者Uは、スレーブロボットRの「指先」がとらえた触覚を触覚提示装置2bを介して感じることができる。
【0029】
実施の形態に係る遠隔操作システムSにおいて、ヘッドマウントディスプレイ2aは遮蔽型のヘッドマウントディスプレイである。このため、操作者Uがヘッドマウントディスプレイ2aを介して撮像素子3aが撮像した映像を観察すると、あたかも操作者UがスレーブロボットRの存在場所にいるかのような没入感を得ることができる。
【0030】
一方で、ひとたび操作者Uがヘッドマウントディスプレイ2aを装着すると、操作者Uは自身の周囲を見ることができなくなる。ヘッドマウントディスプレイ2aはキャプチャ装置の一部としても動作するため、操作者Uは、操作者Uの動きとスレーブロボットRの動きとを同期する前にヘッドマウントディスプレイ2aを装着する必要がある。操作者Uは、制御装置1からヘッドマウントディスプレイ2aに画像信号が送られてくる前にヘッドマウントディスプレイ2aを装着することになるので、操作者Uの動きとスレーブロボットRの動きとの同期が完了するまで操作者Uは周囲を見ることができず不便である。
【0031】
そこで、図1に示すように、ヘッドマウントディスプレイ2aは、操作者Uに装着されたときに操作者Uの視線方向を撮像するための撮像素子2dを備えている。これにより、操作者Uは、ヘッドマウントディスプレイ2aを装着した状態で周囲を観察することができる。
【0032】
このように、スレーブロボットRは、操作者Uの姿勢の変化に連動して動作するとともに、操作者Uが装着する提示装置2を動作させる信号を取得するセンサ群を備える。操作者Uは、実施の形態に係る遠隔操作システムSを用いることにより、実際には存在しない場所であるスレーブロボットRの存在場所に存在したとするならば得られる視覚、聴覚、及び触覚等の感覚を経験することができる。
【0033】
<実施の形態に係る制御装置の機能構成>
以上を踏まえ、実施の形態に係る制御装置1について説明する。
図3は、実施の形態に係る制御装置1の機能構成を模式的に示す図である。制御装置1は、通信部10、記憶部11、及び制御部12を備える。
【0034】
通信部10は、通信ネットワークNを介して操作者Uが備える提示装置2、スレーブロボットRが備えるセンサ3、及びキャプチャ装置4との間でデータを送受信する。記憶部11は、制御装置1を実現するコンピュータのBIOS(Basic Input Output System)等を格納するROM(Read Only Memory)や制御装置1の作業領域となるRAM(Random Access Memory)、OS(Operating System)やアプリケーションプログラム、当該アプリケーションプログラムの実行時に参照される各種データベースを含む種々の情報を格納するHDD(Hard Disk Drive)やSSD(Solid State Drive)等の大容量記憶装置である。
【0035】
制御部12は、制御装置1のCPU(Central Processing Unit)やGPU(Graphics Processing Unit)等のプロセッサであり、記憶部11に記憶されたプログラムを実行することによって受信制御部120、送信制御部121、姿勢比較部122、動作連結部123、映像制御部124、触覚信号生成部125、連結情報提示部126、及び音声制御部127として機能する。
【0036】
なお、制御装置1は、例えばクラウドコンピューティングシステムのように複数のプロセッサやメモリ等の計算リソースによって実現されてもよい。この場合、制御部12を構成する各部は、複数の異なるプロセッサの中の少なくともいずれかのプロセッサがプログラムを実行することによって実現される。
【0037】
受信制御部120及び送信制御部121は、いずれも例えばLAN(Local Area Network)コントローラによって実現される。受信制御部120は、通信部10を介して制御装置1の外部の装置からデータを受信する。また、送信制御部121は、通信部10を介して制御装置1の外部の装置にデータを送信する。以下、受信制御部120又は送信制御部121が通信部10を介して外部の装置とデータを送受信することを前提として、単に「受信制御部120がデータを受信する」、「送信制御部121がデータを送信する」のように記載する。
【0038】
受信制御部120は、スレーブロボットRからスレーブロボットRの姿勢を示す信号を受信する。また、受信制御部120は、キャプチャ装置4から操作者Uの身体の姿勢を示す信号を受信する。姿勢比較部122は、スレーブロボットRの姿勢と操作者Uの姿勢との差異を示す姿勢誤差を取得する。具体的には、姿勢比較部122は、スレーブロボットRの姿勢を示す信号からスレーブロボットRの姿勢を算出し、操作者Uの身体の姿勢を示す信号から操作者Uの身体の姿勢を算出する。続いて、姿勢比較部122は、算出したスレーブロボットRの姿勢と操作者Uの身体の姿勢とに基づいてスレーブロボットRの姿勢と操作者Uの姿勢との差異を示す姿勢誤差を算出することで取得する。
【0039】
図4(a)-(b)は、実施の形態に係る姿勢比較部122が取得する姿勢誤差を説明するための図である。具体的には、図4(a)は、操作者UとスレーブロボットRとのそれぞれに設定された7つの特徴点を示す図である。図4(a)において、四角で囲った数字は操作者Uに設定された特徴点を示し、丸で囲った数字はスレーブロボットRに設定された特徴点を示す。
【0040】
実施の形態に係るスレーブロボットRは、操作者Uの頭部及び手部にそれぞれ対応する頭部及び手部を少なくとも備える人型ロボットである。操作者Uに設定された特徴点とスレーブロボットRに設定された特徴点とにおいて、同一の数字は対応する特徴点を示す。例えば、四角で囲われた「1」は、操作者Uの右目に設定された特徴点であり、丸で囲われた「1」はスレーブロボットRの右側に備えられた撮像素子3aに設定された特徴点である。以下、操作者Uに設定された特徴点とスレーブロボットRに設定された特徴点とを特に区別しない場合、「特徴点1」のように、各特徴点をその特徴点に割り当てた数字で表すことがある。
【0041】
なお、制御装置1は、キャプチャ装置4が操作者Uをトラッキングした情報を取得して解析することで、操作者Uに設定された各特徴点の位置を取得する。また、制御装置1は、スレーブロボットRの各アクチュエータの動作状態(例えば、モータの回転角等)を取得して解析することで、スレーブロボットRに設定された各特徴点の位置を取得する。
【0042】
図4(b)は、操作者Uに設定された特徴点とスレーブロボットRに設定された特徴点とを重ね合わせた結果を示す図であり、操作者Uの目に設定され特徴点に、スレーブロボットRに設定された特徴点を重ねた場合の例を示す図である。図4(b)は、特徴点1、特徴点2、特徴点3、特徴点4、及び特徴点5はおおむね重なっているが、「手部」の特徴点である特徴点6と特徴点7とはずれている様子を図示している。図4(b)では、操作者Uに設定された特徴点と、その特徴点に対応するスレーブロボットRの特徴点とのずれを差異Eで示している。
【0043】
操作者Uの動きとスレーブロボットRの動きとの同期が開始されたとき、操作者Uの視線方向とスレーブロボットRの視線方向とが合っていることは、操作者Uが感じる感覚の不一致を低減する上で好ましい。操作者Uの動きとスレーブロボットRの動きとの同期が開始されたときに視線方向がずれていると、操作者Uは酔いやすくなる傾向があるからである。
【0044】
また、操作者Uの動きとスレーブロボットRの動きとの同期が開始されたとき、操作者Uの手部の位置とスレーブロボットRの手部の位置とが合っていることも、操作者Uが感じる感覚の不一致を低減する上で好ましい。手部は、スレーブロボットRの操作時に操作者Uの動きが大きい部位であるため、操作者Uの手部の位置とスレーブロボットRの手部の位置とがずれていると遠近感に関する間隔の不一致が大きくなり、操作者UはスレーブロボットRの操作に違和感を感じやすくなる傾向があるからである。
【0045】
以上を踏まえ、姿勢比較部122は、スレーブロボットRと操作者Uとを仮想的に重ね合わせたときに、少なくともスレーブロボットRの頭部の位置と操作者Uの頭部の位置との差異Eと、スレーブロボットRの手部の位置と操作者Uの手部の位置との差異Eとの和あるいは各部ごとの差異を重みづけしたものの和や積などを、姿勢誤差として取得する。この他、姿勢比較部122は、スレーブロボットRの頭部の向きと操作者Uの頭部の向きとの差異、及びスレーブロボットRの手部の向きと操作者Uの手部の向きとの差異を、姿勢誤差に加えてもよい。また、頭部や手部のみでなく、腕部など他の身体部位の姿勢誤差を加えても良い。
【0046】
図3の説明に戻る。動作連結部123は、姿勢比較部122が取得した姿勢誤差が所定の閾範囲内となることを条件として、操作者Uの姿勢の変化に基づいて生成されたスレーブロボットRを動作させるための動作信号を、スレーブロボットRに送信する。なお、動作連結部123が動作信号をスレーブロボットRに送信することは、操作者Uの動きとスレーブロボットRの動きとの同期が開始することを意味する。
【0047】
ここで、「所定の閾範囲」とは、スレーブロボットRに動作信号の送信を開始するか否かを判定するために、動作連結部123が参照する「姿勢一致判定用閾範囲」である。姿勢一致判定用閾範囲が狭いほど、操作者Uの動きとスレーブロボットRの動きとの同期を開始したときに操作者Uが感覚の不一致を感じにくくなる。一方、姿勢一致判定用閾範囲が狭いほど、操作者Uの姿勢とスレーブロボットRの姿勢との一致に求められる精度が高くなるので、操作者Uの動きとスレーブロボットRの動きとの同期を開始するまでに時間がかかることになる。
【0048】
そこで、姿勢一致判定用閾範囲の具体的な値は、遠隔操作システムSの設計者が、スレーブロボットRの各部位の長さ、スレーブロボットRに搭載されているアクチュエータの性能等を考慮して、操作者Uに生じる感覚の不一致の低減と、操作者Uの動きとスレーブロボットRの動きとのスムースな同期とのバランスを取りながら実験によって定めればよい。
【0049】
このように、実施の形態に係る動作連結部123は、操作者Uの姿勢とスレーブロボットRの姿勢との差異が所定の閾範囲となることを条件として操作者Uの動きとスレーブロボットRの動きの同期を開始する。これにより、操作者Uは、スレーブロボットRの操作を開始したときに、操作者U自身の視線方向から期待される視界と、スレーブロボットRの撮像素子3aが撮像する視界とのずれが小さくなる。ゆえに、実施の形態に係る制御装置1は、遠隔操作システムSのスレーブロボットRの動作と操作者Uの動作との同期を開始する際に操作者Uが感じる感覚の不一致を低減することができる。
【0050】
操作者UとスレーブロボットRとが異なる場所に存在している場合、操作者UはスレーブロボットRの姿勢を直接見ることができない。そこで、連結情報提示部126は、動作連結部123が動作信号をスレーブロボットRに送信する前に、スレーブロボットRの姿勢と操作者Uの姿勢とを合わせるために操作者が取るべき姿勢に誘導するための情報を操作者Uに提示する。
【0051】
例えば、連結情報提示部126は、スレーブロボットRの姿勢と操作者Uの姿勢とを合わせるために操作者が取るべき姿勢に誘導するための音声によるガイダンスを操作者Uに提示してもよい。より具体的には、まず、連結情報提示部126は、スレーブロボットRの姿勢と操作者Uの姿勢とを合わせるために操作者が取るべき姿勢に誘導するための音声ガイダンス用音声データを音声制御部に生成させる。続いて、連結情報提示部126は、音声制御部127を制御して、音声ガイダンス用音声データをヘッドフォン2cに再生させるようにすればよい。
【0052】
また、連結情報提示部126は、スレーブロボットRの姿勢と操作者Uの姿勢とを合わせるために操作者が取るべき姿勢に誘導するための映像によるガイダンスを操作者Uに提示してもよい。
【0053】
操作者Uが装着するヘッドマウントディスプレイ2aは、操作者Uの頭部に取り付けられたとき映像を操作者Uに提示するため装置である。映像制御部124は、ヘッドマウントディスプレイ2aに表示させる映像を制御する。連結情報提示部126は、映像制御部124に、スレーブロボットRの姿勢と操作者Uの姿勢とを合わせるために操作者が取るべき姿勢に誘導するためのガイダンス映像を生成させる。映像制御部124は、ヘッドマウントディスプレイ2aに表示させるための映像信号を送信制御部121を介してヘッドマウントディスプレイ2aに送信することによって、ヘッドマウントディスプレイ2aに映像を表示させる。具体的には、映像制御部124は、操作者Uがヘッドマウントディスプレイ2aに表示されたガイド映像にしたがって動くと、スレーブロボットRの姿勢と操作者Uの姿勢との姿勢誤差が小さくなるようにガイド映像を生成する。これにより、操作者Uは、スレーブロボットRとスムースに同期することができる。
【0054】
以下、説明の便宜上、映像制御部124がヘッドマウントディスプレイ2aに表示させるための映像信号を送信制御部121を介してヘッドマウントディスプレイ2aに送信することによって、ヘッドマウントディスプレイ2aに映像を表示させることを前提として、「映像制御部124がヘッドマウントディスプレイ2aに映像を表示させる」のように記載する。
【0055】
図5(a)-(b)は、実施の形態に係る映像制御部124が生成するガイド映像の一例を示す図である。図5(a)-(b)に示す図は、いずれもスレーブロボットRの動作と操作者Uの動作との同期が開始される前に、ヘッドマウントディスプレイ2aのモニタに映し出される映像を示している。このため、図5(a)-(b)は、ヘッドマウントディスプレイ2aに設けられた撮像素子2dが撮像した操作者U自身の太もも、前腕、手部、及び下腹部が図示されている。
【0056】
図5(a)に示すように、映像制御部124は、ヘッドマウントディスプレイ2aに2つの仮想的な立方体Mcを表示させるとともに、その立方体に両手で触れることを指示するメッセージIを表示させる。仮想的な立方体McとメッセージIとはともに現実には存在せず、映像制御部124がAR(Augmented Reality)技術を用いて生成したガイド映像である。
【0057】
映像制御部124は、スレーブロボットRの頭部に備えられた撮像素子3aが撮像する立体映像がヘッドマウントディスプレイ2aに表示された場合に、操作者UによってスレーブロボットRの手部が知覚される位置に仮想的な立方体Mcが表示されるように、ガイド映像を生成する。したがって、図5(b)に示すように、操作者Uが左手及び右手でそれぞれ左右に表示された立方体Mcに「触れる」と、操作者Uの姿勢とスレーブロボットRの姿勢との間の姿勢誤差は、自然と所定の閾範囲となる。この意味で、映像制御部124が生成する仮想的な立方体Mcは、操作者Uの動きとスレーブロボットRの動きを連結するために表示する「連結用マーカ」といえる。
【0058】
映像制御部124は、操作者Uの姿勢とスレーブロボットRの姿勢との間の姿勢誤差が所定の閾範囲となると、カウントダウン映像Cをヘッドマウントディスプレイ2aに表示させる。図5(b)は、5秒間のカウントダウン映像Cが表示されている例を示している。操作者Uが立方体Mcに触れた状態で静止し、その状態で5秒間が経過すると、動作連結部123は、動作信号をスレーブロボットRに送信する。
【0059】
この場合、動作連結部123は、姿勢誤差が所定の閾範囲内となる状態が所定の期間経過することを条件として、動作信号をスレーブロボットRに送信することになる。ここで「所定の期間」とは、動作連結部123がスレーブロボットRの動作と操作者Uの動作との同期を開始する前に待機する「同期前待機期間」である。操作者Uは、姿勢誤差が所定の閾範囲内となる状態で所定の期間待機することになるので、スレーブロボットRの操作の心構えができる。動作連結部123がスレーブロボットRの動作と操作者Uの動作との同期が突然開始される場合と比較して、仮想空間に入ることの心構えができるので、制御装置1は操作者Uの感覚の不一致を低減することができる。
【0060】
映像制御部124は、動作連結部123が動作信号をスレーブロボットRに送信する前は、ヘッドマウントディスプレイ2aに備えられた撮像素子2dが取得した立体映像をヘッドマウントディスプレイ2aに表示させる。また、映像制御部124は、動作連結部123がスレーブロボットRに動作信号を送信している間は、スレーブロボットRの動作と操作者Uの動作とが同期することになるため、スレーブロボットRが備える撮像素子3aが撮像した立体映像をヘッドマウントディスプレイ2aに切り替えて表示させる。
【0061】
ここで、映像制御部124は、スレーブロボットRの動作と操作者Uの動作との同期時に、映像の切り替えに係る演出を施してもよい。例えば、映像制御部124は、撮像素子2dが取得した立体映像をフェードアウトさせつつ、撮像素子3aが取得した映像をフェードインしてもよい。自身が実際に存在する環境の映像とスレーブロボットRが存在する環境の映像との切り替えを意識しやすいため、操作者Uは、スレーブロボットRの操作の心構えをすることができる。
【0062】
また、映像制御部124は、動作連結部123がスレーブロボットRに動作信号の送信を開始する前であっても、カウントダウン映像Cをヘッドマウントディスプレイ2aに表示させるタイミングで、スレーブロボットRが備える撮像素子3aが撮像した立体映像をヘッドマウントディスプレイ2aに表示させるようにしてもよい。
【0063】
図示はしないが、映像制御部124は、動作連結部123がスレーブロボットRに動作信号の送信を開始する前にスレーブロボットRが備える撮像素子3aが撮像した立体映像をヘッドマウントディスプレイ2aに表示させる場合には、同期が開始されることを示すメッセージをヘッドマウントディスプレイ2aに表示させてもよい。また、映像制御部124は、動作連結部123がスレーブロボットRに動作信号の送信を開始する前にスレーブロボットRが備える撮像素子3aが撮像した立体映像をヘッドマウントディスプレイ2aに表示させる場合の立体映像の表示態様を送信開始後の表示態様と異ならせる(例えば、輝度値を変更する)ようにしてもよい。これにより、操作者Uは、これから同期するスレーブロボットRが置かれた環境の映像を同期前から観察できるため、スレーブロボットRの操作の心構えをすることができる。
【0064】
なお、音声制御部127は、映像制御部124がヘッドマウントディスプレイ2aに表示させる映像を撮像素子3aが撮像した立体映像に切り替えるタイミングと同じタイミングで、マイクロフォン3cが集音した音声をヘッドフォン2cに出力する。これにより、操作者Uは、視覚情報と聴覚情報とが不一致となることを抑制できる。
【0065】
ところで、映像制御部124がヘッドマウントディスプレイ2aに表示させる立方体McはAR映像であり、実際には存在しない仮想的な物体である。このため、操作者Uは、立方体Mcに実際に触れることはできない。そうすると、操作者Uが立方体Mcに「触れた」状態で静止することは、実際には何もない空間に手部を静止させることになる。
【0066】
ここで、図1を参照して上述したように、遠隔操作システムSの操作者Uは、操作者Uの手部を取り付けたとき、スレーブロボットRの手部に備えられた触覚センサ3bが取得した触覚情報を操作者Uの手部に提示するための触覚提示装置2bを装着している。そのため、制御装置1は、触覚提示装置2bを動作させるための触覚提示信号を生成する触覚信号生成部125を備えている。
【0067】
そこで、触覚信号生成部125は、ヘッドマウントディスプレイ2aが表示する立体映像における操作者Uの手部の位置と、連結用マーカである立方体Mcの表面の位置とが重なることを条件として、スレーブロボットRの撮像素子2dが触覚情報を取得したか否かに関わらず、触覚提示信号を生成してもよい。具体的には、触覚信号生成部125は、操作者Uが立方体に触れたときに感じられる触覚を再現する触覚提示信号を生成する。これにより、操作者Uは、立方体Mcに「触れた」感覚を得ることができるため、制御装置1は、操作者Uが立方体Mcに「触れた」状態で静止することを容易にさせることができる。
【0068】
以上、スレーブロボットRの動作と操作者Uの動作との同期を開始する際の制御装置1の動作について主に説明した。次に、スレーブロボットRの動作と操作者Uの動作との同期を終了する際の制御装置1の動作について説明する。
【0069】
ひとたびスレーブロボットRの動作と操作者Uの動作とが同期すると、操作者Uが装着しているヘッドマウントディスプレイ2aには、スレーブロボットRが備える撮像素子3aがとらえた映像が表示される。操作者Uは、操作者Uが実際に存在する環境の映像を観察していないという点において、操作者Uは一種のVR(Virtual Reality)映像を観察していることになる。
【0070】
そこで、触覚信号生成部125は、スレーブロボットRの動作と操作者Uの動作とが同期しているときは、操作者Uの動作とスレーブロボットRの動作との同期を切断するための仮想的な切断用マーカを生成し、ヘッドマウントディスプレイ2aに表示させる。
【0071】
図6は、実施の形態に係る映像制御部124が生成するガイド映像の別の例を示す図であり、スレーブロボットRの動作と操作者Uの動作との同期を切断するための仮想的な切断用マーカを示す図である。具体的には、図6は、切断用マーカが仮想的な球体Mdである場合に、操作者Uの動作とスレーブロボットRの動作との同期が切断された直後にヘッドマウントディスプレイ2aに表示される映像の例を示している。
【0072】
動作連結部123は、ヘッドマウントディスプレイ2aに表示されている立体映像中における操作者Uの手部の位置と切断用マーカである球体Mdの表面の位置とが重なることを条件として、スレーブロボットRへ動作信号の送信を停止する。動作連結部123がスレーブロボットRへ動作信号の送信を停止すると、映像制御部124は、ヘッドマウントディスプレイ2aに備えられた撮像素子2dが取得した立体映像をヘッドマウントディスプレイ2aに表示させる。
【0073】
また、触覚信号生成部125は、スレーブロボットRの動作と操作者Uの動作との同期が終了したことを示すメッセージIを生成し、ヘッドマウントディスプレイ2aに表示させる。これにより、操作者Uは、スレーブロボットRの動作と操作者Uの動作との同期が終了したことを知ることができるので、装備している各提示装置2を取り外すタイミングを知ることができる。
【0074】
触覚信号生成部125は、連結用マーカの場合と同様に、ヘッドマウントディスプレイ2aに表示されている立体映像におけるスレーブロボットRの手部の位置と切断用マーカである球体Mdの表面の位置とが重なることを条件として、触覚センサ3bが触覚情報を取得したか否かに関わらず、触覚提示信号を生成する。これにより、操作者Uは、スレーブロボットRとの同期を解除するための球体Mdに「触れた」ことを実感することができる。
【0075】
図7は、スレーブロボットRの動作と操作者Uの動作との同期開始時及び同期終了時における制御装置1の動作を表形式で示す図である。図7に示すように、映像制御部124は、スレーブロボットRの動作と操作者Uの動作との同期開始のためにヘッドマウントディスプレイ2aに表示させる連結用マーカの形状と、スレーブロボットRの動作と操作者Uの動作との同期終了のためにヘッドマウントディスプレイ2aに表示させる連結用マーカの形状とを異ならせる。また、触覚信号生成部125は、連結用マーカに設定する仮想的な手触りと、切断用マーカに設定する仮想的な手触りとを異ならせる。
【0076】
具体的には、図7に示すように、連結用マーカの形状は立方体であり、その手触りはなめらかである。また、切断用マーカの形状は球体であり、その手触りは粗い。したがって、操作者Uは、連結用マーカ又は切断用マーカを視認しなくても、その形状と手触りとでマーカを認識することができる。
【0077】
上述したように、スレーブロボットRの動作と操作者Uの動作との同期開始時には、映像制御部124は、ヘッドマウントディスプレイ2aに表示させる映像を徐々に切り替える。これは、操作者UにスレーブロボットRの操作の心構えをさせるためである。
【0078】
一方、スレーブロボットRの動作と操作者Uの動作との同期終了時には、映像制御部124は、ヘッドマウントディスプレイ2aに表示させる映像を瞬時に切り替える。撮像素子2dが撮像する映像は操作者U自身の目でとらえる映像とほぼ一致するため、操作者Uの感覚の不一致は起こりにくいからである。そのかわり、図6に示すように、映像制御部124は、スレーブロボットRの動作と操作者Uの動作との同期終了時には映像切り替え後にメッセージIを表示する。同期終了後はヘッドマウントディスプレイ2aの映像を見て作業をする必要はなく、むしろ、制御装置1は、装備している各提示装置2を取り外すタイミングを操作者Uに知らせる必要があるからである。
【0079】
このように、映像制御部124は、スレーブロボットRの動作と操作者Uの動作との同期開始時の演出と、同期終了時の演出を異ならせる。これにより、操作者Uは、スレーブロボットRの動作と操作者Uの動作との同期が開始されたのか終了したのかを直感的に認識することができる。
【0080】
<制御装置1が実行する学習方法の処理フロー>
図8は、実施の形態に係る制御装置1が実行する同期開始時の処理の流れを説明するためのフローチャートである。本フローチャートにおける処理は、例えばキャプチャ装置4が起動したことを示す情報を制御装置1が受信したときに開始する。
【0081】
映像制御部124は、スレーブロボットRの姿勢と操作者Uの姿勢とを合わせるために操作者Uが取るべき姿勢に誘導するためのガイド映像をヘッドマウントディスプレイ2aに表示させる(S2)。受信制御部120は、スレーブロボットRからスレーブロボットRの姿勢を示す信号を受信する(S4)。また、受信制御部120は、キャプチャ装置4から操作者Uの身体の姿勢を示す信号を受信する(S6)。
【0082】
姿勢比較部122は、スレーブロボットRの姿勢と操作者Uの姿勢との差異を示す姿勢誤差を取得する(S8)。姿勢比較部122が取得した姿勢誤差が所定の閾範囲内の場合(S10のYes)、映像制御部124は、所定の期間が経過するまでの間カウントダウン映像Cをヘッドマウントディスプレイ2aに表示させる(S12)。
【0083】
姿勢比較部122が取得した姿勢誤差が所定の閾範囲外の場合(S10のNo)、又は所定の期間が経過していない場合(S14のNo)、制御装置1はステップS4に戻ってステップS4の処理からステップS14の処理を繰り返す。
【0084】
姿勢比較部122が取得した姿勢誤差が所定の閾範囲内である状態が所定の期間経過すると(S14のYes)、動作連結部123は、操作者Uの姿勢の変化に基づいて生成されたスレーブロボットRを動作させるための動作信号の送信を開始する(S16)。動作連結部123が動作信号の送信を開始すると、本フローチャートにおける処理は終了する。
【0085】
<実施の形態に係る制御装置1が奏する効果>
以上説明したように、実施の形態に係る制御装置1によれば、遠隔操作システムSのスレーブロボットRの動作と操作者Uの動作との同期を開始する際に操作者Uが感じる感覚の不一致を低減することができる。
【0086】
なお、上記の処理の順序は一例であり、各ステップの順序を適宜変更したり、ステップの一部を省略したりすることができる。例えば、ステップS4の処理とステップS6の処理は順序を入れ替えてもよいし、並列に実行してもよい。また、スレーブロボットRの姿勢があらかじめ定まっている場合には、ステップS4の処理を省略してもよいし、ステップS2の前に一度だけ実行されてもよい。
【0087】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、装置の分散・統合の具体的な実施の形態は、以上の実施の形態に限られず、その全部又は一部について、任意の単位で機能的又は物理的に分散・統合して構成することができる。また、複数の実施の形態の任意の組み合わせによって生じる新たな実施の形態も、本発明の実施の形態に含まれる。組み合わせによって生じる新たな実施の形態の効果は、もとの実施の形態の効果を合わせ持つ。以下、そのような変形例を説明する。
【0088】
<第1の変形例>
上記では、映像制御部124が、スレーブロボットRの動作と操作者Uの動作との同期開始時に連結用マーカをヘッドマウントディスプレイ2aに表示させる場合について説明した。これに替えて、あるいはこれに加えて、例えば操作者Uが同期開始のために取るべき姿勢を記載した文章やイラストをヘッドマウントディスプレイに表示させてり、矢印等のアイコンによるガイダンス映像をヘッドマウントディスプレイに表示させたりしてもよい。
【0089】
<第2の変形例>
上記では、スレーブロボットRの動作と操作者Uの動作との同期開始時及び同期終了時に、連結情報提示部126が音声又は映像でガイダンス情報を操作者Uに提示する場合について説明した。これに替えて、あるいはこれに加えて、連結情報提示部126は、触覚によるガイダンスを操作者Uに提示してもよい。この場合、連結情報提示部126は、例えば操作者Uの姿勢がスレーブロボットRの姿勢と操作者Uの姿勢とを合わせるために操作者が取るべき姿勢に近づくほど、操作者Uに提示する触覚が小さくなるような信号を触覚信号生成部125に生成させればよい。
【0090】
<第3の変形例>
上記では、映像制御部124が、スレーブロボットRの動作と操作者Uの動作との同期終了時に、切断用マーカをヘッドマウントディスプレイ2aに表示させる場合について説明した。これに替えて、あるいはこれに加えて、制御装置1が操作者Uの発話による切断指示を受信することを契機として、スレーブロボットRの動作と操作者Uの動作との同期を終了するようにしてもよい。
【0091】
これを実現するために、操作者Uに図示しないマイクロフォンを装備させ、制御装置1が操作者の発話を取得できるようにする。また、制御装置1の制御部12が備える図示しない音声認識部が操作者Uの発話を解析し、切断指示を受信し場合にスレーブロボットRの動作と操作者Uの動作との同期を終了するようにすればよい。
【0092】
<第4の変形例>
1台のスレーブロボットRを複数の操作者Uで順番に操作するような場合には、スレーブロボットRを操作中の操作者Uに代わって、別の操作者UがスレーブロボットRの操作権を受け継ぐことがある。この場合、操作権を受け継ぐ操作者UがスレーブロボットRと同期しようとするとき、スレーブロボットRは前の操作者Uの動作に同期して動いていることもあり得る。
【0093】
そこで、映像制御部124は、スレーブロボットRの手部の位置を示す情報を時系列的に取得し、スレーブロボットRの手部の位置の変化に応じて連結用マーカの表示場所を変更してもよい。操作権を受け継ごうとする操作者Uのヘッドマウントディスプレイ2aには、時間の経過に伴って移動する連結用マーカが提示される。動作連結部123は、操作者Uが移動する連結用マーカに触れることを契機として、その操作者UとスレーブロボットRとの同期を開始する。これにより、制御装置1は、1台のスレーブロボットRを複数の操作者Uで順番に操作する場合に、スレーブロボットRの操作権を操作者U間でスムースに受け渡すことができる。
【0094】
<第5の変形例>
上記では、操作者Uの身体の動きを取得するためのキャプチャ装置4が、例えば赤外線又は可視光を用いたカメラで操作者Uの身体に取り付けられたトラッキング用のマーカを撮像する「outside-in」タイプのモーションキャプチャ装置である場合について説明した。これに替えて、あるいはこれに加えて、キャプチャ装置4は、操作者Uに取り付けられたカメラ(例えばヘッドマウントディスプレイ2aが備えるカメラ)が撮像した映像を解析して操作者Uの身体の動きを取得する「inside-out」タイプのモーションキャプチャ装置であってもよい。
【0095】
<第6の変形例>
上記では、姿勢比較部122が、スレーブロボットRと操作者Uとを仮想的に重ね合わせたときに、少なくともスレーブロボットRの頭部の位置と操作者Uの頭部の位置との差異Eと、スレーブロボットRの手部の位置と操作者Uの手部の位置との差異Eとの和を、姿勢誤差として取得する場合について説明した。ここで、姿勢比較部122は、操作者Uの身体の姿勢を示す信号に基づいて操作者Uの姿勢モデルをシミュレーションによって生成し、姿勢モデルとスレーブロボットRの姿勢とを比較して姿勢誤差を取得してもよい。
【0096】
<第7の変形例>
上記では、操作者Uの動きとスレーブロボットRの動きとの同期を開始する前に、操作者Uが動くことによって操作者Uの姿勢とスレーブロボットRの姿勢との間の姿勢誤差を小さくすることについて主に説明した。これに替えて、あるいはこれに加えて、操作者Uの動きとスレーブロボットRの動きとの同期を開始する前に、スレーブロボットRが動くことによって姿勢誤差を小さくしてもよい。
【0097】
具体的には、動作連結部123が、姿勢比較部122が取得した姿勢誤差が所定の閾範囲内となるように、スレーブロボットRを動作させるための動作信号をスレーブロボットに送信する。これにより、制御装置1は、操作者Uが動かなくても操作者Uの動きとスレーブロボットRの動きとの同期を開始することができる。
【0098】
連結情報提示部126は、操作者Uの動きとスレーブロボットRの動きとの同期を開始する前に姿勢誤差を小さくするためにスレーブロボットRが動いている間、操作者Uに姿勢を静止していることを促すための情報を操作者Uに提示してもよい。これにより、制御装置1は、スレーブロボットRが動いている間に操作者Uも動いてしまうことで姿勢誤差が増大することを抑制できる。
【0099】
上記では、映像制御部124は、スレーブロボットRの頭部に備えられた撮像素子3aが撮像する立体映像がヘッドマウントディスプレイ2aに表示された場合に、操作者UによってスレーブロボットRの手部が知覚される位置に仮想的な立方体Mcが表示されるように、ガイド映像を生成する場合について説明した。これに替えて、映像制御部124は、スレーブロボットRの手部の実際の位置にかかわらず、固定の位置に仮想的な立方体Mcを表示してもよい。
【0100】
この場合、動作連結部123は、仮想的な立方体Mcの表示位置にスレーブロボットRの手部が移動するようにスレーブロボットRを動作させる。一方、連結情報提示部126は、仮想的な立方体Mcの表示位置に操作者Uの手部を誘導するための情報を操作者Uに提示する。これにより、制御装置1は、常に同じ位置(すなわち、仮想的な立方体Mcの表示位置)から操作者Uの動きとスレーブロボットRの動きとの同期を開始させることができる。
【符号の説明】
【0101】
1・・・制御装置
10・・・通信部
11・・・記憶部
12・・・制御部
120・・・受信制御部
121・・・送信制御部
122・・・姿勢比較部
123・・・動作連結部
124・・・映像制御部
125・・・触覚信号生成部
126・・・連結情報提示部
127・・・音声制御部
2・・・提示装置
2a・・・ヘッドマウントディスプレイ
2b・・・触覚提示装置
2c・・・ヘッドフォン
2d・・・撮像素子
3・・・センサ
3a・・・撮像素子
3b・・・触覚センサ
3c・・・マイクロフォン
4・・・キャプチャ装置
N・・・通信ネットワーク
R・・・スレーブロボット
S・・・遠隔操作システム
図1
図2
図3
図4
図5
図6
図7
図8