(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-01-12
(45)【発行日】2022-01-25
(54)【発明の名称】遠隔力覚誘導システム、マスター装置及びスレーブ装置、並びにプログラム
(51)【国際特許分類】
G06F 3/01 20060101AFI20220118BHJP
G09B 21/00 20060101ALI20220118BHJP
【FI】
G06F3/01 560
G09B21/00 A
(21)【出願番号】P 2017193249
(22)【出願日】2017-10-03
【審査請求日】2020-09-03
(73)【特許権者】
【識別番号】000004352
【氏名又は名称】日本放送協会
(73)【特許権者】
【識別番号】505426071
【氏名又は名称】国立大学法人筑波技術大学
(73)【特許権者】
【識別番号】591053926
【氏名又は名称】一般財団法人NHKエンジニアリングシステム
(74)【代理人】
【識別番号】100143568
【氏名又は名称】英 貢
(72)【発明者】
【氏名】坂井 忠裕
(72)【発明者】
【氏名】清水 俊宏
(72)【発明者】
【氏名】坂尻 正次
(72)【発明者】
【氏名】大西 淳児
(72)【発明者】
【氏名】緒方 昭広
【審査官】滝谷 亮一
(56)【参考文献】
【文献】特開2014-164518(JP,A)
【文献】特開2008-213092(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01
G09B 21/00
(57)【特許請求の範囲】
【請求項1】
所定のネットワーク経由で接続されたマスター装置とスレーブ装置の遠隔間で、マスター装置から1台以上のスレーブ装置に対し視覚障害者を対象にコンテンツを伝えるためにマスター装置からスレーブ装置を誘導制御する遠隔力覚誘導システムであって、
前記マスター装置は、前記スレーブ装置に対し少なくとも力覚誘導の提示を可能とする操作デバイス、マスター側制御ユニット、及びモニターを備え、
前記スレーブ装置は、前記マスター装置からの遠隔操作信号に基づいて少なくとも力覚誘導を可能とする被操作デバイス、及びスレーブ側制御ユニットを備え、
前記マスター側制御ユニットは、前記操作デバイスから入力される操作情報を基に、前記スレーブ装置の接続状況及び使用者名、或いは使用状態を把握するための状態要求信号、前記スレーブ装置に対し少なくとも力覚誘導提示を行うコンテンツに関する提示データの書き込み信号と、及び触察部位を誘導する触察位置座標を示す触察位置座標信号と、前記スレーブ装置の動作モードを、前記マスター装置側の前記操作デバイスの操作触察位置座標を基に前記スレーブ装置側の前記被操作デバイスの触察部位を連動して誘導させるマスター誘導モード、又は前記スレーブ装置で予め設定された誘導順序を基に前記被操作デバイスの触察部位を自己誘導する自己誘導モードのいずれかに強制的に切り替えるスレーブモード制御信号と、のいずれかを含む遠隔操作信号を生成して前記スレーブ装置に送信する手段と、前記スレーブ装置からの状態通知信号又は要求信号を受信し、前記モニターに表示するか、又は前記操作デバイスへ反映する制御信号を生成する手段と、を備え、
前記スレーブ側制御ユニットは、前記遠隔操作信号を受信して前記状態要求信号を含む際には対応する接続状況及び使用者名、或いは提示中のコンテンツ名又は触察位置を含む使用状態を示す前記状態通知信号を生成し前記マスター装置に返信する手段と、前記遠隔操作信号を受信して前記書き込み信号を含む際には前記コンテンツに関する提示データをレジスタに書き込むとともに前記被操作デバイスに提示する手段と、前記遠隔操作信号を受信して
前記スレーブモード制御信号を含む際には
前記スレーブモード制御信号の指示に従う前記マスター誘導モード又は前記自己誘導モードに切り替えてモード遷移させる手段と、前記遠隔操作信号を受信して前記触察位置座標信号を含む際には、前記マスター誘導モードとして、前記触察位置座標を基に誘導力に変換し前記被操作デバイスを誘導制御する手段と、前記自己誘導モードとして、複数のコンテンツから選択的に前記レジスタに更新された提示データのコンテンツに関して前記被操作デバイスに提示している旨を前記状態通知信号として前記マスター装置に送信する手段と、所定の要求が有る旨を前記要求信号として前記マスター装置に送信する手段と、を備えることを特徴とする遠隔力覚誘導システム。
【請求項2】
前記操作デバイスは少なくとも力覚誘導の提示を可能とする機能を有し、前記被操作デバイスは前記操作デバイスの力覚誘導の提示に対応する力覚誘導の提示を可能とする機能を有することを特徴とする、請求項1に記載の遠隔力覚誘導システム。
【請求項3】
所定のネットワーク経由で接続されたマスター装置とスレーブ装置の遠隔間で、マスター装置から1台以上のスレーブ装置に対し視覚障害者を対象にコンテンツを伝えるためにマスター装置からスレーブ装置を誘導制御する遠隔力覚誘導システムにおける当該マスター装置であって、
当該マスター装置側の操作デバイスの触察位置座標を検出して当該スレーブ装置に伝送し、前記操作触察位置座標を誘導力に変換させて当該スレーブ装置側の被操作デバイスの触察位置を追従させることで誘導するように制御する手段と、
当該マスター装置側で提示されるコンテンツに関する提示データを当該スレーブ装置に送信して当該スレーブ装置側のレジスタに書き込ませ、前記被操作デバイスに提示するコンテンツを更新し識別させるとともに、当該送信した提示データのコンテンツを前記操作デバイスに提示するように更新する手段と、
当該スレーブ装置の動作モードを、当該マスター装置側の前記操作デバイスの操作触察位置座標を基に前記被操作デバイスの触察部位を連動して誘導させるマスター誘導モード、又は当該スレーブ装置側で予め設定された誘導順序を基に前記被操作デバイスの触察部位を誘導する自己誘導モードのいずれかに設定するよう制御する手段と、
を備えることを特徴とするマスター装置。
【請求項4】
請求項3に記載のマスター装置において、
当該スレーブ装置の状態を把握するための状態要求信号を当該スレーブ装置に送信し、当該スレーブ装置の接続状況及び使用者名と前記被操作デバイスに提示しているコンテンツに関する情報のいずれかを少なくとも含む状態通知信号を通知するよう応答させ、当該マスター装置のモニターに表示する手段と、
当該スレーブ装置側からの要求の有無を受け付け、その旨を当該マスター装置のモニターに表示する手段と、
を更に備えることを特徴とするマスター装置。
【請求項5】
請求項3又は4に記載のマスター装置において、
前記マスター誘導モード中の割込み動作として当該スレーブ装置側の触察位置を把握するためのスレーブ触察位置通知モードとして、当該スレーブ装置の被操作デバイスにおける触察位置座標を把握するための状態要求信号を当該スレーブ装置に送信し、当該被操作デバイスにおける触察位置座標を検出し通知するよう応答させ、当該マスター装置のモニターに表示するとともに、当該被操作デバイスにおける触察位置座標に基づき前記操作デバイスの触察位置を誘導する手段を更に備えることを特徴とするマスター装置。
【請求項6】
所定のネットワーク経由で接続されたマスター装置とスレーブ装置の遠隔間で、マスター装置から1台以上のスレーブ装置に対し視覚障害者を対象にコンテンツを伝えるためにマスター装置からスレーブ装置を誘導制御する遠隔力覚誘導システムにおける当該スレーブ装置であって、
当該マスター装置側の操作デバイスの触察位置座標を伝送取得し前記操作触察位置座標を誘導力に変換して当該スレーブ装置側の被操作デバイスの触察位置を追従させるように制御する手段と、
当該マスター装置側で提示されるコンテンツに関する提示データを伝送取得し当該スレーブ装置側のレジスタに書き込み、前記被操作デバイスに提示するコンテンツを更新する手段と、
当該マスター装置から、当該マスター装置側の前記操作デバイスの操作触察位置座標を基に前記被操作デバイスの触察部位を連動して誘導させるマスター誘導モード、又は当該スレーブ装置側で予め設定された誘導順序を基に前記被操作デバイスの触察部位を誘導する自己誘導モードのいずれかに設定するよう制御するスレーブモード制御信号を受け付け、前記スレーブモード制御信号に対応する動作モードで動作するよう制御する手段と、
を備えることを特徴とするスレーブ装置。
【請求項7】
請求項6に記載のスレーブ装置において、
当該マスター装置から、当該スレーブ装置の状態を把握するための状態要求信号を受信し、当該スレーブ装置の接続状況及び使用者名と前記被操作デバイスに提示しているコンテンツに関する情報のいずれかを少なくとも含む状態通知信号を通知するよう応答する手段と、
当該マスター装置に対し、当該スレーブ装置側からの要求の有無を通知する手段と、
を更に備えることを特徴とするスレーブ装置。
【請求項8】
請求項
6又は
7に記載のスレーブ装置において、
前記マスター誘導モード中の割込み動作として当該スレーブ装置側の触察位置を当該マスター装置が把握するためのスレーブ触察位置通知モードとして、当該マスター装置から、当該スレーブ装置の被操作デバイスにおける触察位置座標を把握するための状態要求信号を受信し、前記状態要求信号の応答として当該被操作デバイスにおける触察位置座標を検出し当該マスター装置に通知する手段を更に備えることを特徴とするスレーブ装置。
【請求項9】
請求項1又は2に記載の遠隔力覚誘導システムにおける前記マスター側制御ユニットをコンピューターとして機能させるためのプログラム。
【請求項10】
請求項1又は2に記載の遠隔力覚誘導システムにおける前記スレーブ側制御ユニットをコンピューターとして機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、所定のネットワーク経由で接続されたマスター装置とスレーブ装置の遠隔間で、マスター装置からスレーブ装置に対し視覚障害者を対象に文字やグラフ、地図などの情報を伝えるために所定の触察位置を誘導する遠隔力覚誘導システム、そのマスター装置及びスレーブ装置、並びにプログラムに関する。
【背景技術】
【0002】
従来、視覚に障害のある人に図や表、グラフ、メニュー画面などのように言葉で伝えにくい2次元情報を音声だけで伝えるのは困難であり、触図などが用いられている。触図を用いる情報提示では、実時間の情報提示やその触図上で触れた箇所を音声で読み上げることが難しいという課題がある。そこで、実時間で図やグラフを伝える第一の提示方法の例として、多数の微小アクチュエータによる振動、或いは凹凸提示で画像を触覚提示する触覚提示装置として触覚ディスプレイが知られている(例えば、非特許文献1参照)。
【0003】
この触覚ディスプレイでは、ユーザーは能動的に指を動かして図やグラフを認知する。また周知のように、触覚ディスプレイに提示された図やグラフの情報では、触れた位置の内容を音声で説明する方式も知られている(例えば、非特許文献2,3参照)。
【0004】
一方、バーチャルリアリティの分野では、3次元の立体形状を伝達することを目的に、仮想的な物体の形状を力覚で提示する力覚提示装置が開発されている。力覚提示装置では、ユーザーの指の3次元座標位置を検出しコンピューターで作成した仮想物体の3次元座標で衝突した場合に物理的な反力をフィードバックする。代表的な力覚提示装置には“PHANToM Haptic Interface”と称される3次元力覚入出力デバイスが知られている(例えば、非特許文献4参照)。
【0005】
また、触覚ディスプレイと力覚提示装置とを用いて複合し、空間または平面上存在するコンテンツのレイアウトやオブジェクトの位置などを伝えるために、コンテンツの全体の構成やオブジェクトの位置関係、グラフの軌跡などを、予めユーザーの手指を誘導して伝えた後に、触覚ディスプレイで触察させる触覚提示/力覚誘導方式の提示装置が本発明者らにより開示されている(例えば、特許文献1参照)。
【0006】
一方、遠隔間で力覚を制御する方式には、バーチャルリアティの分野において、一方の運動動作を遠隔の他方に伝え同期した運動を行う遠隔制御のテレイグジスタンス(マスター-スレーブ)方式が提案されている(例えば、非特許文献5参照)。この遠隔のマスター-スレーブ方式は、遠隔医療や遠隔教育にも適用され(例えば、非特許文献6,7参照)、応用の範囲を広げている。
【先行技術文献】
【特許文献】
【0007】
【非特許文献】
【0008】
【文献】“ドットビュー(登録商標)”, [online],ケージーエス株式会社,[平成29年9月25日検索],インターネット〈URL:http://www.kgs-jpn.co.jp/〉
【文献】半田,坂井,森田,伊藤:“タッチパネル搭載型触覚ディスプレイを用いたインタラクティブな提示方式”,信学技報,WIT2007-47,pp.83-86(2007)
【文献】山本,内田,島田,篠原,下条,清水:“インタラクティブ型触覚グラフィックディスプレイのユーザーインタフェース向上とその応用”,日本VR学会論文誌 13(1) ,pp.49-57(2008)
【文献】T.H.Massie, J.K.Salisbury, “The phantom haptic interface: A device for probing virtual objects,” Proc. ASME Haptic Interfaces for Virtual Environment and Teleoperator Systems In Dynamic Systems and Control 1994, vol.1, pp.295-301 (1994)
【文献】舘,“20年後のテレイグジスタンス”,日本バーチャルリアリティ学会誌, Vol.21(3),pp.34-37 (2016)
【文献】中尾,黒田,“情報通信技術によるユビキタス医療への挑戦 6.医療における力覚メディア”,信学会誌,Vol.90(8),pp.659-664 (2007)
【文献】柴田,松崎,美間,今村,三好 ,小山,大場,市村,沢口,“高専‐豊橋技科大間における遠隔制御システムを用いた体験型授業の実施”,日本ロボット学会学術講演会予稿集, Vol.30,ROMBUNNO.4L3-4 (2012)
【発明の概要】
【発明が解決しようとする課題】
【0009】
視覚に障害のある人が図やグラフを迅速に理解しやすい提示装置を提供することが望まれている。しかし、従来技術で述べたように、図やグラフなどを伝えるには、音声で説明する手段があるが、2次元の情報を音声の説明だけでは正確な位置の把握や迅速な把握が難しい。そこで、触覚ディスプレイや力覚提示装置などが開発されている。
【0010】
しかしながら、非特許文献1乃至3に開示される触覚ディスプレイを用いた従来技法の例では、ユーザーが能動的に触れて形状を認知する必要がある。この場合、初めて提示される図やグラフに触れて理解するには時間を要するほか、表示されたオブジェクトを見落とすなど全体の中ですべてを網羅して把握できないという課題がある。
【0011】
また、非特許文献4に開示される力覚提示装置を用いた従来技法の例は、グラフィックユーザーインターフェース(GUI)の仮想的なオブジェクトに触れて理解させる技法である。しかし、通常、触図や触覚ディスプレイで触察する場合には、手の指や掌全体を使って触れることが多いが、力覚提示装置単独ではそのような触察ができないので相対的な位置関係の把握が難しい。また、力覚提示では指先の接触が1点だけの点接触のためオブジェクトからの逸脱などの理由により、触覚ディスプレイでの触察と比較すると安定な触察に劣るという課題がある。
【0012】
また、特許文献1に開示される触覚提示/力覚誘導方式の提示装置の例では、2次元空間に存在するオブジェクトの全体の位置やグラフの軌跡などを力覚誘導によりユーザーに伝え、尚且つ触覚ディスプレイで確認できるので、上述した非特許文献1乃至4に係る課題を克服できる。しかし、本方式の提示装置は、予め作成されたコンテンツをユーザーに理解、把握させることができたが、例えば教育授業などで先生と生徒との間の遠隔間での利用を可能とするには更なる工夫が必要になる。
【0013】
一方、遠隔制御に関しては、非特許文献5乃至7に開示されるようにテレイグジスタンスを応用した技法が提案されている。しかし、これらの遠隔制御技法は遠隔間での忠実な制御を目的としており、特に、視覚障害者を対象としたシステムは考慮されていない。例えば、視覚障害者を生徒とする教育授業で図やグラフなどの内容を説明する際には、先生は極力指示語を使わないように配慮しなければならない。現状では、生徒が正確に内容を把握するために、先生のほかにアシスタントの方がサポートする必要があるなどの課題がある。また、遠隔で授業を行う場合には、先生は生徒の状態を把握する必要がある。
【0014】
そこで、マスター装置とスレーブ装置とを所定のネットワーク経由で接続し、例えば先生が遠隔間で視覚障害者を生徒とする教育授業として、マスター装置を先生が操作し、このマスター装置に従動するスレーブ装置を生徒が誘導操作可能とする遠隔力覚誘導システムの構築が望まれる。特に、マスター装置からスレーブ装置に対し視覚障害者を対象に所定のコンテンツ(文字やグラフ、地図などの情報)を的確に理解把握できるよう伝えるために生徒の指等の触察位置を誘導する技法が要望される。
【0015】
本発明の目的は、上述の問題に鑑みて、所定のネットワーク経由で接続されたマスター装置とスレーブ装置の遠隔間で、マスター装置からスレーブ装置に対し視覚障害者を対象にコンテンツ(文字やグラフ、地図などの情報)を伝えるためにマスター装置からスレーブ装置を誘導制御する遠隔力覚誘導システム、そのマスター装置及びスレーブ装置、並びにプログラムを提供することにある。
【課題を解決するための手段】
【0016】
即ち、本発明の遠隔力覚誘導システムは、所定のネットワーク経由で接続されたマスター装置とスレーブ装置の遠隔間で、マスター装置から1台以上のスレーブ装置に対し視覚障害者を対象にコンテンツを伝えるためにマスター装置からスレーブ装置を誘導制御する遠隔力覚誘導システムであって、前記マスター装置は、前記スレーブ装置に対し少なくとも力覚誘導の提示を可能とする操作デバイス、マスター側制御ユニット、及びモニターを備え、前記スレーブ装置は、前記マスター装置からの遠隔操作信号に基づいて少なくとも力覚誘導を可能とする被操作デバイス、及びスレーブ側制御ユニットを備え、前記マスター側制御ユニットは、前記操作デバイスから入力される操作情報を基に、前記スレーブ装置の接続状況及び使用者名、或いは使用状態を把握するための状態要求信号、前記スレーブ装置に対し少なくとも力覚誘導提示を行うコンテンツに関する提示データの書き込み信号と、及び触察部位を誘導する触察位置座標を示す触察位置座標信号と、前記スレーブ装置の動作モードを、前記マスター装置側の前記操作デバイスの操作触察位置座標を基に前記スレーブ装置側の前記被操作デバイスの触察部位を連動して誘導させるマスター誘導モード、又は前記スレーブ装置で予め設定された誘導順序を基に前記被操作デバイスの触察部位を自己誘導する自己誘導モードのいずれかに強制的に切り替えるスレーブモード制御信号と、のいずれかを含む遠隔操作信号を生成して前記スレーブ装置に送信する手段と、前記スレーブ装置からの状態通知信号又は要求信号を受信し、前記モニターに表示するか、又は前記操作デバイスへ反映する制御信号を生成する手段と、を備え、前記スレーブ側制御ユニットは、前記遠隔操作信号を受信して前記状態要求信号を含む際には対応する接続状況及び使用者名、或いは提示中のコンテンツ名又は触察位置を含む使用状態を示す前記状態通知信号を生成し前記マスター装置に返信する手段と、前記遠隔操作信号を受信して前記書き込み信号を含む際には前記コンテンツに関する提示データをレジスタに書き込むとともに前記被操作デバイスに提示する手段と、前記遠隔操作信号を受信して前記スレーブモード制御信号を含む際には前記スレーブモード制御信号の指示に従う前記マスター誘導モード又は前記自己誘導モードに切り替えてモード遷移させる手段と、前記遠隔操作信号を受信して前記触察位置座標信号を含む際には、前記マスター誘導モードとして、前記触察位置座標を基に誘導力に変換し前記被操作デバイスを誘導制御する手段と、前記自己誘導モードとして、複数のコンテンツから選択的に前記レジスタに更新された提示データのコンテンツに関して前記被操作デバイスに提示している旨を前記状態通知信号として前記マスター装置に送信する手段と、所定の要求が有る旨を前記要求信号として前記マスター装置に送信する手段と、を備えることを特徴とする。
【0017】
また、本発明の遠隔力覚誘導システムにおいて、前記操作デバイスは少なくとも力覚誘導の提示を可能とする機能を有し、前記被操作デバイスは前記操作デバイスの力覚誘導の提示に対応する力覚誘導の提示を可能とする機能を有することを特徴とする。
【0018】
更に、本発明のマスター装置は、所定のネットワーク経由で接続されたマスター装置とスレーブ装置の遠隔間で、マスター装置から1台以上のスレーブ装置に対し視覚障害者を対象にコンテンツを伝えるためにマスター装置からスレーブ装置を誘導制御する遠隔力覚誘導システムにおける当該マスター装置であって、当該マスター装置側の操作デバイスの触察位置座標を検出して当該スレーブ装置に伝送し、前記操作触察位置座標を誘導力に変換させて当該スレーブ装置側の被操作デバイスの触察位置を追従させることで誘導するように制御する手段と、当該マスター装置側で提示されるコンテンツに関する提示データを当該スレーブ装置に送信して当該スレーブ装置側のレジスタに書き込ませ、前記被操作デバイスに提示するコンテンツを更新し識別させるとともに、当該送信した提示データのコンテンツを前記操作デバイスに提示するように更新する手段と、当該スレーブ装置の動作モードを、当該マスター装置側の前記操作デバイスの操作触察位置座標を基に前記被操作デバイスの触察部位を連動して誘導させるマスター誘導モード、又は当該スレーブ装置側で予め設定された誘導順序を基に前記被操作デバイスの触察部位を誘導する自己誘導モードのいずれかに設定するよう制御する手段と、を備えることを特徴とする。
【0019】
また、本発明のマスター装置において、当該スレーブ装置の状態を把握するための状態要求信号を当該スレーブ装置に送信し、当該スレーブ装置の接続状況及び使用者名と前記被操作デバイスに提示しているコンテンツに関する情報のいずれかを少なくとも含む状態通知信号を通知するよう応答させ、当該マスター装置のモニターに表示する手段と、当該スレーブ装置側からの要求の有無を受け付け、その旨を当該マスター装置のモニターに表示する手段と、を更に備えることを特徴とする。
【0020】
また、本発明のマスター装置において、前記マスター誘導モード中の割込み動作として当該スレーブ装置側の触察位置を把握するためのスレーブ触察位置通知モードとして、当該スレーブ装置の被操作デバイスにおける触察位置座標を把握するための状態要求信号を当該スレーブ装置に送信し、当該被操作デバイスにおける触察位置座標を検出し通知するよう応答させ、当該マスター装置のモニターに表示するとともに、当該被操作デバイスにおける触察位置座標に基づき前記操作デバイスの触察位置を誘導する手段を更に備えることを特徴とする。
【0021】
更に、本発明のスレーブ装置は、所定のネットワーク経由で接続されたマスター装置とスレーブ装置の遠隔間で、マスター装置から1台以上のスレーブ装置に対し視覚障害者を対象にコンテンツを伝えるためにマスター装置からスレーブ装置を誘導制御する遠隔力覚誘導システムにおける当該スレーブ装置であって、当該マスター装置側の操作デバイスの触察位置座標を伝送取得し前記操作触察位置座標を誘導力に変換して当該スレーブ装置側の被操作デバイスの触察位置を追従させるように制御する手段と、当該マスター装置側で提示されるコンテンツに関する提示データを伝送取得し当該スレーブ装置側のレジスタに書き込み、前記被操作デバイスに提示するコンテンツを更新する手段と、当該マスター装置から、当該マスター装置側の前記操作デバイスの操作触察位置座標を基に前記被操作デバイスの触察部位を連動して誘導させるマスター誘導モード、又は当該スレーブ装置側で予め設定された誘導順序を基に前記被操作デバイスの触察部位を誘導する自己誘導モードのいずれかに設定するよう制御するスレーブモード制御信号を受け付け、前記スレーブモード制御信号に対応する動作モードで動作するよう制御する手段と、を備えることを特徴とする。
【0022】
また、本発明のスレーブ装置において、当該マスター装置から、当該スレーブ装置の状態を把握するための状態要求信号を受信し、当該スレーブ装置の接続状況及び使用者名と前記被操作デバイスに提示しているコンテンツに関する情報のいずれかを少なくとも含む状態通知信号を通知するよう応答する手段と、当該マスター装置に対し、当該スレーブ装置側からの要求の有無を通知する手段と、を更に備えることを特徴とする。
【0023】
また、本発明のスレーブ装置において、前記マスター誘導モード中の割込み動作として当該スレーブ装置側の触察位置を当該マスター装置が把握するためのスレーブ触察位置通知モードとして、当該マスター装置から、当該スレーブ装置の被操作デバイスにおける触察位置座標を把握するための状態要求信号を受信し、前記状態要求信号の応答として当該被操作デバイスにおける触察位置座標を検出し当該マスター装置に通知する手段を更に備えることを特徴とする。
【0024】
更に、本発明のプログラムは、本発明の遠隔力覚誘導システムにおける前記マスター側制御ユニットをコンピューターとして機能させるためのプログラムとして構成する。
【0025】
更に、本発明のプログラムは、本発明の遠隔力覚誘導システムにおける前記スレーブ側制御ユニットをコンピューターとして機能させるためのプログラムとして構成する。
【発明の効果】
【0026】
本発明によれば、所定のネットワーク経由で接続されたマスター装置とスレーブ装置の遠隔間で、マスター装置からスレーブ装置に対し視覚障害者を対象に文字やグラフ、地図などの情報を的確に理解把握できるよう伝えるために所定の触察位置(指等の位置)を誘導する遠隔力覚誘導システムが実現される。
【0027】
特に、本発明によれば、例えば先生が遠隔間で視覚障害者を生徒とする教育授業として本発明に係る遠隔力覚誘導システムを利用することで、マスター装置を先生が操作し、このマスター装置に従動するスレーブ装置を生徒が誘導操作可能となる。例えば、マスター装置を操作する先生が図を用いて教授する際に、その図の上で動かした指の動きに連動してスレーブ装置を操作する生徒の指を誘導することができる。これにより当該先生によって提示される図の内容を遠隔間で教授でき、指示語による実時間の授業ができる遠隔授業の環境を実現できる。
【0028】
更に、本発明に係る一態様の遠隔力覚誘導システムによれば、マスター装置からスレーブ装置に対し誘導操作するマスター誘導モードの他に、スレーブ装置の操作者自身が操作する自己誘導モードが提供され、マスター装置から、或いはスレーブ装置からマスター誘導モードと自己誘導モードの切り替え制御が可能となる。これにより、例えば遠隔間でマスター装置の操作者(例えば先生)によるスレーブ装置の操作者(例えば生徒)への力覚誘導により、実時間で教授される環境を実現することができ、相乗的にスレーブ装置の操作者(例えば生徒)の学習や理解の向上を支援できるようになる。
【0029】
更に、本発明に係る一態様の遠隔力覚誘導システムによれば、マスター装置の操作者(例えば先生)がスレーブ装置の操作者(例えば生徒)に対し提示する情報(図等の位置)を誘導することだけでなく、マスター装置の操作者(例えば先生)は、マスター装置とスレーブ装置の両者間の装置の接続状態、スレーブ装置の操作者(例えば生徒)が閲覧している提示ファイル名や当該操作者(例えば生徒)からの要求(例えば質問等を含む)、或いはスレーブ装置の操作者(例えば生徒)の操作状態(例えば先生に図の位置を示す状況など)を的確に把握できる。
【0030】
このように、本発明によれば、視覚障害者を対象に、遠隔で従来不可能に近かった実時間の教授や指示語での迅速な教授が可能となる。
【0031】
そして、本発明に係る遠隔力覚誘導システムは、遠隔授業だけにとどまらず、通信や放送を利用した教育用途への発展も期待でき、遠隔地での図の内容の情報伝送や、視覚と聴覚の重複障害者に対し手のひら書きなどの文字によるコミュニケーション環境に利用できる。
【図面の簡単な説明】
【0032】
【
図1】本発明による一実施形態のマスター装置及びスレーブ装置を備える遠隔力覚誘導システムの概略構成を示すブロック図である。
【
図2】本発明による一実施形態のマスター装置の概略構成を示すブロック図である。
【
図3】本発明による一実施形態のスレーブ装置の概略構成を示すブロック図である。
【
図4】本発明による一実施形態のマスター装置における操作デバイスの一例として構成される触覚提示/力覚誘導デバイスの概略構成を示すブロック図である。
【
図5】本発明による一実施形態のマスター装置における被操作デバイスの一例として構成される触覚提示/力覚誘導デバイスの概略構成を示すブロック図である。
【
図6】本発明による一実施形態のマスター装置及びスレーブ装置を備える遠隔力覚誘導システムの動作例を示すフローチャートである。
【
図7】本発明による一実施形態のマスター装置の動作例を示すフローチャートである。
【
図8】本発明による一実施形態のスレーブ装置の動作例を示すフローチャートである。
【
図9】本発明による一実施形態のマスター装置及びスレーブ装置の双方のユーザーインタフェース(UI)に関する機能の概要を一覧表示する図である。
【発明を実施するための形態】
【0033】
以下、図面を参照して、本発明による一実施形態のマスター装置1及びスレーブ装置3S‐N(Nは1以上の整数)を備える遠隔力覚誘導システム10を説明する。
【0034】
〔遠隔力覚誘導システムの全体構成〕
図1は、本発明による一実施形態のマスター装置1及びスレーブ装置3S‐Nを備える遠隔力覚誘導システム10の概略構成を示すブロック図である。遠隔力覚誘導システム10は、インターネット等の所定のネットワーク経由で接続されたマスター装置1とスレーブ装置3S‐Nの遠隔間で、マスター装置1からスレーブ装置3S‐Nに対し視覚障害者を対象に文字やグラフ、地図などの情報を伝えるために所定の触察位置(指等の位置)を誘導するシステムとして構成される。以下では、所定のネットワークの一例として、マスター装置1とスレーブ装置3S‐Nとがローカルエリアネットワーク(LAN)2で接続した例を代表して説明する。
【0035】
図1を参照するに、遠隔力覚誘導システム10は、1台のマスター装置1とN(Nは1以上の整数)台のスレーブ装置3S‐Nとがローカルエリアネットワーク(LAN)2で接続される。
【0036】
マスター装置1は、操作デバイス11、制御ユニット12及びモニター13を備える。
【0037】
操作デバイス11は、触覚提示及び力覚誘導提示を行う触覚提示/力覚誘導デバイス11aや力覚誘導提示のみを行う力覚誘導提示デバイス、或いはタブレットなどのタッチ操作、ジェスチャー操作、音声認識操作等の操作で、少なくとも力覚誘導の提示を可能とするデバイスであり、マスター装置1の操作者による操作デバイス11の操作を情報化し、その操作情報を制御ユニット12に出力する。以下に説明する例では、この操作デバイス11として、触覚提示及び力覚誘導提示を行う触覚提示/力覚誘導デバイス11aにより構成する。触覚提示/力覚誘導デバイス11aは、特許文献1に開示される提示装置と同様の構成とすることができ、その詳細は後述する。
【0038】
制御ユニット12は、その詳細は後述するが、操作デバイス11(触覚提示/力覚誘導デバイス11a)から入力される操作情報を基に、スレーブ装置3S‐Nの接続登録や接続状況の把握、スレーブ装置3S‐Nの使用者名の登録や把握、並びに、スレーブ装置3S‐Nに対し触覚提示及び力覚誘導提示を行うコンテンツ(文字やグラフ、地図などの情報)に関する提示データの書き込み等の各種信号(詳細に後述する)を含む遠隔操作信号を生成し、LAN2経由で、各スレーブ装置3S‐Nに送信する。
【0039】
この遠隔操作信号には、詳細に後述する種々の機能を実現する各種信号が含まれる。例えば、遠隔操作信号は、操作デバイス11(触覚提示/力覚誘導デバイス11a)から入力される操作情報を基に、スレーブ装置3S‐Nの接続状況及び使用者名、或いは使用状態を把握するための状態要求信号、スレーブ装置3S‐Nに対し少なくとも力覚誘導提示を行うコンテンツに関する提示データの書き込み信号、触察部位を誘導する触察位置座標を示す触察位置座標信号、及びスレーブ装置3S‐Nの動作モードを後述する「マスター誘導モード」と「自己誘導モード」のいずれかに強制的に切り替えるスレーブモード制御信号のいずれかを含む。
【0040】
ここで、「マスター誘導モード」は、マスター装置1側の操作デバイス11(触覚提示/力覚誘導デバイス11a)の操作触察位置座標を基に被操作デバイス31(触覚提示/力覚誘導デバイス31a)の触察部位を連動して誘導させる動作モードである。
【0041】
一方、「自己誘導モード」は、スレーブ装置3S‐Nの操作者自身の操作によって、スレーブ装置3S‐N内の所定の記憶部(図示せす)に格納されている複数のコンテンツから選択的にレジスタ(後述する触覚提示/力覚誘導XMLレジスタ323)に更新された提示データのコンテンツに関して予め設定された誘導順序を基に被操作デバイス31(触覚提示/力覚誘導デバイス31a)の触察部位を自己誘導する動作モードであり、即ち特許文献1の技法による動作と同様とする動作モードである。
【0042】
尚、スレーブ装置3S‐Nにおける「マスター誘導モード」と「自己誘導モード」は、マスター装置1とスレーブ装置3S‐Nの双方で切り替え制御可能に構成することも可能である。
【0043】
また、制御ユニット12は、その詳細は後述するが、各スレーブ装置3S‐Nから状態通知信号や要求信号を受信して、これらの信号に対応する各種情報をモニター13に表示することや、触覚提示/力覚誘導デバイス11aの動作へと反映する制御信号を生成する。この状態通知信号や要求信号についても詳細に後述する。
【0044】
このような制御ユニット12は、中央演算処理ユニット(CPU)を備えるコンピューターとして構成することができ、当該コンピューターが備える記憶部(図示せず)には、当該CPUにより読み出し制御ユニット12における各機能を実現するためのプログラムが格納される。
【0045】
一方、各スレーブ装置3S‐Nは、同様に構成され、それぞれ被操作デバイス31及び制御ユニット32を備える。
【0046】
被操作デバイス31は、触覚提示及び力覚誘導提示を行う触覚提示/力覚誘導デバイス31aや力覚誘導提示のみを行う力覚誘導提示デバイスであり、制御ユニット32によってマスター装置1から受信した遠隔操作信号を基に誘導制御される機能と、スレーブ装置1の操作者による被操作デバイス31の操作を情報化し、その操作情報を制御ユニット31に出力する。以下に説明する例では、この操作デバイス31として、触覚提示及び力覚誘導提示を行う触覚提示/力覚誘導デバイス31aにより構成する。触覚提示/力覚誘導デバイス31aは、特許文献1に開示される提示装置と同様の構成とすることができ、その詳細は後述する。
【0047】
制御ユニット32は、マスター装置1から遠隔操作信号を受信して、この遠隔操作信号が上記の状態要求信号を含む際には、対応する接続状況及び使用者名、或いは提示中のコンテンツ名又は触察位置を含む使用状態を示す状態通知信号を生成し、LAN2経由で、マスター装置1に返信する。
【0048】
また、制御ユニット32は、マスター装置1から遠隔操作信号を受信して、この遠隔操作信号が上記の書き込み信号を含む際には、そのコンテンツに関する提示データをレジスタ(後述する触覚提示/力覚誘導XMLレジスタ323)に書き込むとともに被操作デバイス31(触覚提示/力覚誘導デバイス31a)に提示する。
【0049】
また、制御ユニット32は、マスター装置1から遠隔操作信号を受信して、この遠隔操作信号が上記のスレーブモード制御信号を含む際には、スレーブモード制御信号の指示に従う「マスター誘導モード」又は「自己誘導モード」に切り替え、モード遷移させる。
【0050】
また、制御ユニット32は、マスター装置1から遠隔操作信号を受信して、この遠隔操作信号が上記の触察位置座標信号を含む際には、マスター装置1からスレーブ装置3S‐Nに対し誘導操作するマスター誘導モードとして、上記の触察位置座標を基に誘導力に変換し被操作デバイス31(触覚提示/力覚誘導デバイス31a)を誘導する。
【0051】
また、制御ユニット32は、当該スレーブ装置3S‐Nの操作者自身が操作する自己誘導モードとして、スレーブ装置3S‐N内の所定の記憶部(図示せす)に格納されている複数のコンテンツから選択的にレジスタ(後述する触覚提示/力覚誘導XMLレジスタ323)に更新された提示データのコンテンツに関して被操作デバイス31(触覚提示/力覚誘導デバイス31a)に提示している旨を当該状態通知信号としてマスター装置1に送信する。
【0052】
また、制御ユニット32は、所定の要求(質問を含む)が有る旨を当該要求信号として、LAN2経由で、マスター装置1に送信する。
【0053】
このような制御ユニット32は、中央演算処理ユニット(CPU)を備えるコンピューターとして構成することができ、当該コンピューターが備える記憶部(図示せず)には、当該CPUにより読み出し制御ユニット12における各機能を実現するためのプログラムが格納される。
【0054】
図1に示すように、マスター装置1は、1台だけでなく複数台のスレーブ装置3S‐Nに対して、同時に、文字やグラフ、地図などの情報を伝えるために指等の触察位置を誘導することができる。即ち、マスター装置1は、複数台のスレーブ装置3S‐Nの接続登録と、複数台のスレーブ装置3S‐Nに対する1名又は複数名の使用者名について予め登録している。そして、詳細は後述するが、マスター装置1の操作者による触覚提示/力覚誘導デバイス11aの所定の操作を経て、制御ユニット12が所定の状態要求を示す遠隔操作信号を複数台のスレーブ装置3S‐Nの各々に送信し、その応答をモニター13に自動表示することにより、どのスレーブ装置3S‐Nが接続され、どの使用者が使用しているかを把握できるようになっている。このため、マスター装置1は、複数台のスレーブ装置3S‐Nの各々に対し、同一のコンテンツを提示することだけでなく、個別に異なるコンテンツを提示することもできる。
【0055】
また、マスター装置1側の操作デバイス11として触覚提示及び力覚誘導提示を行う触覚提示/力覚誘導デバイス11aにより構成し、スレーブ装置3S‐N側の被操作デバイス31としてマスター装置1側と同形態の触覚提示及び力覚誘導提示を行う触覚提示/力覚誘導デバイス31aとするのが好適である(後述する
図4及び
図5参照)。即ち、マスター装置1側の触覚提示/力覚誘導デバイス11aは、スレーブ装置3S‐N側の触覚提示/力覚誘導デバイス31aへ触覚提示又は力覚誘導する際にマスター装置1の操作者の操作や動きを同期して伝えるためのデバイスとして機能するため、マスター装置1の操作者はスレーブ装置3S‐Nの操作者がどのような操作や動きをしているのかを直感的に把握するのが容易になる。
【0056】
以下、より具体的に、本発明による一実施形態のマスター装置1と、遠隔制御対象のスレーブ装置3S‐Nの詳細な構成について順に説明する。
【0057】
〔マスター装置〕
図2は、本発明による一実施形態のマスター装置1の概略構成を示すブロック図である。マスター装置1は、
図1に示したように、触覚提示/力覚誘導デバイス11a、制御ユニット12、及びモニター13を備える。制御ユニット12は、提示XML更新制御部121、触覚提示/力覚誘導XMLレジスタ122、更新XMLデータ書込/通知部123、触察位置座標検出部124、触察位置座標抽出部125、触覚提示/力覚誘導制御部126、LAN送信エンコード部127、スレーブモード制御/状態要求部128、及び状態通知信号/要求信号デコード部129を備える。
【0058】
提示XML更新制御部121は、マスター誘導モードにおいて、マスター装置1の操作者による触覚提示/力覚誘導デバイス11a上のメニュー操作でコンテンツが指定され、当該指定されたコンテンツに係るXML更新制御に係る信号を受け付けると、所定の記憶部(図示せず)に格納されている複数のコンテンツのうち、その指定したコンテンツに関するXML形式の提示データをスレーブ装置3S‐Nにおける触覚提示/力覚誘導デバイス31aへ力覚誘導や触覚ディスプレイに提示するものとして読み出し触覚提示/力覚誘導XMLレジスタ122に更新する。そして、提示XML更新制御部121は、更新した旨を更新XMLデータ書込/通知部123に通知し、触覚提示/力覚誘導XMLレジスタ122に更新した当該XML形式の提示データを基に当該コンテンツのレイアウトを生成しモニター13に表示する。尚、当該コンテンツに係る当該XML形式の提示データを基にした表示・誘導データは、後述する触覚提示/力覚誘導制御部126の機能により、触覚提示/力覚誘導デバイス11aにも反映される。
【0059】
触覚提示/力覚誘導XMLレジスタ122は、マスター誘導モード又は自己誘導モードにおいて、提示XML更新制御部121によって指定され更新されたコンテンツのXML形式の提示データを一時的に記憶保持する。尚、XML形式の提示データは、コンテンツ毎に予め定義されたオブジェクトの形状や空間位置座標、及び力覚誘導の速度や加速度などの物理的な提示パラメータが記述されている。
【0060】
更新XMLデータ書込/通知部123は、マスター誘導モードにおいて、提示XML更新制御部121から当該更新した旨を受け付けるとき(並びに、スレーブ装置3S‐Nを自己誘導モードから強制的にマスター誘導モードへとモード遷移させたとき)に、触覚提示/力覚誘導XMLレジスタ122から、対応するコンテンツ(触覚提示/力覚誘導デバイス11aにて現在表示しているコンテンツ)に関するXML形式の提示データを読み出し、スレーブ装置3S‐Nへの通知を兼ねてスレーブ装置3S‐Nに対し触覚提示及び力覚提示を行うコンテンツに関する提示データの書き込み信号を生成し、LAN送信エンコード部127に出力する。
【0061】
触察位置座標検出部124は、マスター誘導モードにおいて、マスター装置1の操作者による触覚提示/力覚誘導デバイス11aの触察操作に対し、その触察位置座標(例えば指位置の座標を示す情報)を検出し、スレーブ装置3S‐Nへ同期した力覚誘導動作を行わせるよう、スレーブ装置3S‐Nにおける触覚提示/力覚誘導デバイス31aの触察部位を誘導する触察位置座標を示す触察位置座標信号を生成し、LAN送信エンコード部127に出力する。
【0062】
触察位置座標抽出部125は、状態通知信号/要求信号デコード部129を経由して、スレーブ装置3S‐Nの操作者による触覚提示/力覚誘導デバイス31aの触察操作に対し検出された触察位置座標(例えば指位置の座標を示す情報)を含む状態通知信号を入力し、この状態通知信号から当該スレーブ装置3S‐Nの操作者による触察位置座標を抽出し、触覚提示/力覚誘導制御部126に出力する。
【0063】
この触察位置座標を含む状態通知信号は、後述するスレーブモード制御/状態要求部128によるスレーブ装置3S‐Nの使用状態を把握するための状態要求信号に対する応答信号として得られ、マスター誘導モードだけでなく、自己誘導モード時にも得られる。
【0064】
触覚提示/力覚誘導制御部126は、マスター誘導モードにおいて、触覚提示/力覚誘導XMLレジスタ122における現在提示しているコンテンツの提示データが更新されたか否かを常に監視し、更新されている場合、対応するコンテンツに関するXML形式の提示データを触覚提示/力覚誘導XMLレジスタ122から読み出す。そして、触覚提示/力覚誘導制御部126は、このXML形式の提示データに基づいて、力覚誘導提示デバイス11aに当該コンテンツを提示する。
【0065】
より具体的には、触覚提示/力覚誘導制御部126は、触覚提示/力覚誘導XMLレジスタ122から読み出した現在提示しているコンテンツに関するXML形式の提示データから当該コンテンツに係る予め設定されたオブジェクトの形状や位置情報のパラメータの情報を抽出し、このパラメータの情報を基に、触覚提示/力覚誘導デバイス11aにおける触覚ディスプレイへのコンテンツのレイアウト(例えば、凹凸データ)表示データを生成して、力覚誘導提示デバイス11aに提示する。触覚提示/力覚誘導デバイス11aでは、上記のように、触察位置座標検出部124によって、マスター装置1の操作者の指等の触察部位の可動状態が監視され、触察位置座標(例えば指位置の座標を示す情報)が検出される。
【0066】
一方で、触覚提示/力覚誘導制御部126は、マスター誘導モードにおいて、触察位置座標抽出部125から、状態通知信号に基づく当該スレーブ装置3S‐Nの操作者による触察位置座標を入力したときは、その触察位置座標に基づいて、力覚誘導提示デバイス11aを操作する操作者の触察部位(例えば指)を移動するよう制御する。特に、マスター誘導モードにおいて、スレーブ装置3S‐Nの操作者による触察位置座標を基に、力覚誘導提示デバイス11aを操作する操作者の触察部位(例えば指)を移動する動作モードを、本願明細書中、「スレーブ触察位置通知モード」と称する。
【0067】
スレーブモード制御/状態要求部128は、マスター誘導モード又は自己誘導モードにおいて、マスター装置1の操作者による触覚提示/力覚誘導デバイス11a上のキー操作で、スレーブモード制御に係る信号を受け付けると、マスター誘導モードから自己誘導モードへ、或いは自己誘導モードからマスター誘導モードへと強制的に切り替えるスレーブモード制御信号を生成し、LAN送信エンコード部127に出力する。
【0068】
これにより、マスター装置1の操作者によるキー操作でスレーブ装置3S‐Nの動作モードを強制的に変更することができる。例えば、マスター装置1の操作者による操作でマスター誘導モードが選択されると、スレーブモード制御/状態要求部128は、スレーブ装置3S‐Nの動作モードを強制的にマスター誘導モードで動作するよう制御する。
【0069】
尚、複数台のスレーブ装置3S‐Nを遠隔操作対象とするときも、マスター装置1は、当該キー操作を基に、スレーブモード制御/状態要求部128の機能により、その複数台のスレーブ装置3S‐Nの全てに対してマスター誘導モードへと強制的に切り替える。そして、マスター装置1は、マスター装置1の操作者によるメニュー操作で所定のコンテンツが指定された時も、提示XML更新制御部121、触覚提示/力覚誘導XMLレジスタ122、更新XMLデータ書込/通知部123の機能により、その複数台のスレーブ装置3S‐Nの全てに対して自動的に当該コンテンツに係るXML形式の提示データを更新制御する。
【0070】
マスター誘導モードでは、触察位置座標検出部124の機能により、マスター装置1で検出された触覚提示/力覚誘導デバイス11aの触察操作の触察位置座標(例えば指位置の座標を示す情報)が常に連続的にスレーブ装置3S‐Nに伝送され、スレーブ装置3S‐Nにおける触覚提示/力覚誘導デバイス31aの力覚誘導が同期して駆動制御される。
【0071】
一方で、スレーブモード制御/状態要求部128は、マスター誘導モード又は自己誘導モードにおいて、マスター装置1の操作者による触覚提示/力覚誘導デバイス11a上のキー操作で、選択指定したスレーブ装置3S‐Nについての状態要求に係る信号を受け付けると、当該スレーブ装置3S‐Nの接続状況及び使用者名、或いは使用状態を把握するための状態要求信号を生成し、LAN送信エンコード部127に出力する。このときのキー操作は、個々のスレーブ装置3S‐Nを選択指定でき、ウィンドウメッセージのような、連続動作中のキー割込みと同様に機能する。
【0072】
LAN送信エンコード部127は、更新XMLデータ書込/通知部123によって生成した書き込み信号、触察位置座標検出部124によって生成した触察位置座標信号、スレーブモード制御/状態要求部128によって生成したスレーブモード制御信号又は状態要求信号をそれぞれLAN2のプロトコルに従うコマンド形式のデータに変換し、エンコードした遠隔制御信号として生成し、スレーブ装置3S‐Nに向けて送信する。
【0073】
状態通知信号/要求信号デコード部129は、マスター誘導モード又は自己誘導モードにおいて、スレーブ装置3S‐Nから、当該状態要求信号の応答として対応する接続状況及び使用者名、或いは提示中のコンテンツ名(提示XML名)又は触察位置を含む使用状態を示す状態通知信号を受信したときはデコードし、当該デコードした状態通知信号に含まれる各種情報をモニター13に表示する。
【0074】
尚、状態通知信号/要求信号デコード部129は、当該デコードした状態通知信号に、前述したキー操作で選択指定したスレーブ装置3S‐Nからの応答として触察位置を含む使用状態を示す情報を含むとき、即ちスレーブ装置3S‐Nの操作者による触覚提示/力覚誘導デバイス31aの触察操作に対し検出された触察位置座標(例えば指位置の座標を示す情報)を含むときは、その状態通知信号を触察位置座標抽出部125に出力する。
【0075】
一方で、状態通知信号/要求信号デコード部129は、マスター誘導モード又は自己誘導モードにおいて、スレーブ装置3S‐Nから、所定の要求(質問を含む)が有る旨を示す要求信号を受信したときはデコードし、当該デコードした要求信号があった旨をモニター13に表示する。これにより、マスター装置1の操作者は、スレーブ装置3S‐Nの操作者が何らかの質問又は要求が有ることを把握することができ、必要に応じて、別の通信媒体を用いた音声コミュニケーション等による対応を図ることができる。
【0076】
〔スレーブ装置〕
図3は、本発明による一実施形態のスレーブ装置3S‐Nの概略構成を示すブロック図である。スレーブ装置3S‐Nは、
図1に示したように、制御ユニット32、及び触覚提示/力覚誘導デバイス31aを備える。制御ユニット32は、LAN受信デコード部321、XMLデータ書込/更新制御部322、触覚提示/力覚誘導XMLレジスタ323、レイアウト・誘導条件生成部324、触察位置座標抽出部325、力覚誘導データ生成部326、切り替え部327、触覚提示/力覚誘導制御部328、モード遷移制御部329、状態検出部330、触察位置座標検出部331、要求検出部332、及び状態通知信号/要求信号エンコード部333を備える。
【0077】
LAN受信デコード部321は、マスター装置1のLAN送信エンコード部127から送信された遠隔制御信号を受信してデコードする。そして、LAN受信デコード部321は、この遠隔操作信号が上記の状態要求信号を含む際にはその状態要求信号を状態検出部330へ出力し、この遠隔操作信号が上記の書き込み信号を含む際にはその書き込み信号をXMLデータ書込/更新制御部322へ出力し、この遠隔操作信号が上記の触察位置座標信号を含む際にはその触察位置座標信号を触察位置座標抽出部325へ出力し、この遠隔操作信号が上記のスレーブモード制御信号を含む際にはそのスレーブモード制御信号をモード遷移制御部329へ出力する。
【0078】
XMLデータ書込/更新制御部322は、マスター誘導モードにおいて、LAN受信デコード部321から書き込み信号を受け付けると、当該書き込み信号により、新たなコンテンツに関するXML形式の提示データ、及びコンテンツ名(提示XML名)が伝送されるときは、スレーブ装置3S‐Nにおける触覚提示/力覚誘導デバイス31aへ新たに提示するものとして触覚提示/力覚誘導XMLレジスタ323に更新し、以後、当該コンテンツ(提示データ、及びコンテンツ名)を読み出し可能に所定の記憶部(図示しない)に格納する。一方で、当該書き込み信号がコンテンツを指定するものであるときは、当該所定の記憶部(図示しない)に格納されている複数のコンテンツのうち対応するコンテンツに関するXML形式の提示データを読み出し、スレーブ装置3S‐Nにおける触覚提示/力覚誘導デバイス31aへ新たに提示するものとして触覚提示/力覚誘導XMLレジスタ323に更新する。
【0079】
一方で、XMLデータ書込/更新制御部322は、自己誘導モードにおいて、スレーブ装置3S‐Nの操作者による触覚提示/力覚誘導デバイス31a上のメニュー操作でコンテンツが指定され、当該指定されたコンテンツに係るXML更新制御に係る信号を受け付けると、当該所定の記憶部(図示しない)に格納されている複数のコンテンツのうち、その指定したコンテンツに関するXML形式の提示データを、スレーブ装置3S‐Nにおける触覚提示/力覚誘導デバイス31aへ新たに提示するものとして触覚提示/力覚誘導XMLレジスタ323に自己更新する。
【0080】
触覚提示/力覚誘導XMLレジスタ323は、マスター誘導モード又は自己誘導モードにおいて、XMLデータ書込/更新制御部322によって指定され更新されたコンテンツのXML形式の提示データを一時的に記憶保持する。尚、XML形式の提示データは、コンテンツ毎に予め定義されたオブジェクトの形状や空間位置座標、及び力覚誘導の速度や加速度などの物理的な提示パラメータが記述されている。
【0081】
レイアウト・誘導条件生成部324は、マスター誘導モード又は自己誘導モードにおいて、触覚提示/力覚誘導XMLレジスタ323における現在提示しているコンテンツの提示データが更新されたか否かを常に監視し、更新されている場合、対応するコンテンツに関するXML形式の提示データを触覚提示/力覚誘導XMLレジスタ323から読み出す。そして、レイアウト・誘導条件生成部324は、このXML形式の提示データに基づいて表示・誘導データ(表示・誘導に関する条件)を生成し、切り替え部327を介して、触覚提示/力覚誘導制御部328に出力する。
【0082】
より具体的には、レイアウト・誘導条件生成部324は、触覚提示/力覚誘導XMLレジスタ323から読み出した現在提示しているコンテンツに関するXML形式の提示データから当該コンテンツに係る予め設定されたオブジェクトの形状や位置情報及び力覚誘導のパラメータの情報を抽出し、このパラメータの情報を基に、触覚提示/力覚誘導デバイス31aにおける触覚ディスプレイへのコンテンツのレイアウト表示、並びに力覚誘導する際のオブジェクトの位置、誘導速度、誘導力、誘導経路、及び誘導順を含む表示・誘導データ(表示・誘導に関する条件)を生成して、切り替え部327を介して、触覚提示/力覚誘導制御部328に出力する。
【0083】
尚、レイアウト・誘導条件生成部324は、自己誘導モード時において、触覚提示/力覚誘導デバイス31aに対し現在提示しているコンテンツ名(提示XML名)を状態検出部330へ自動的に出力する。そして、状態検出部330は、自己誘導モード時に現在提示しているコンテンツ名(提示XML名)を含む使用状態を示す状態通知信号を生成し、状態通知信号/要求信号エンコード部333に出力する。状態通知信号/要求信号エンコード部333は、当該状態通知信号をマスター装置1に向けて送信する。
【0084】
触察位置座標抽出部325は、マスター誘導モードにおいて、LAN受信デコード部321から触察位置座標信号を受け付けると、この触察位置座標信号から、マスター装置1の操作者による触覚提示/力覚誘導デバイス11aの触察操作に対し検出された触察位置座標(例えば指位置の座標を示す情報)を抽出し、力覚誘導データ生成部326に出力する。
【0085】
力覚誘導データ生成部326は、マスター誘導モードにおいて、触察位置座標抽出部325によって抽出したマスター装置1の操作者による触覚提示/力覚誘導デバイス11aの触察操作に対し検出された触察位置座標(例えば指位置の座標を示す情報)に同期し追従して駆動するための駆動データを生成し、切り替え部327を介して、触覚提示/力覚誘導制御部328に出力する。
【0086】
切り替え部327は、モード遷移制御部329からの指示に基づき、マスター誘導モードと自己誘導モードとの切り替えを行う。例えば、マスター装置1からスレーブ装置3S‐Nの動作モードを自己誘導モードからマスター誘導モードへと強制的に移行させることができる。
【0087】
触覚提示/力覚誘導制御部328は、自己誘導モードにおいては、レイアウト・誘導条件生成部324から得られる表示・誘導データ(表示・誘導に関する条件)を基に、スレーブ装置3S‐Nの力覚誘導提示デバイス31aを操作する操作者の触察部位(例えば指)を移動するよう制御する。自己誘導モードにおける触覚提示/力覚誘導デバイス31aは、機械的に指等の触察部位を牽引してXML形式で記述した提示データで意図する動きに対応した誘導を行う。一方で、触覚提示/力覚誘導制御部328は、マスター誘導モードにおいては、力覚誘導データ生成部326によって生成された当該駆動データを基に、マスター装置1側と同期し追従して力覚誘導提示デバイス31aを操作する操作者の触察部位(例えば指)を移動するよう制御する。これにより、マスター誘導モードでは、マスター装置1の操作で動いたマスター装置1側の触察位置に追従して、スレーブ装置3S‐N側でも同期した力覚誘導が可能となる。
【0088】
モード遷移制御部329は、LAN受信デコード部321からスレーブモード制御信号を受け付けると、対応するマスター誘導モードと自己誘導モードとの切り替えを行うよう切り替え部327に対し指示する。
【0089】
状態検出部330は、LAN受信デコード部321から状態要求信号を受け付けると、当該状態要求信号の応答として、対応する接続状況及び使用者名、或いは触察位置座標検出部331、レイアウト・誘導条件生成部324、及び切り替え部327からの情報を基に提示中のコンテンツ名(提示XML名)又は触察位置を含む使用状態を示す状態通知信号を生成し、状態通知信号/要求信号エンコード部333に出力する。
【0090】
触察位置座標検出部331は、マスター誘導モード(正確には、後述する「スレーブ触察位置通知モード」)において、状態検出部330からの指示に基づき、スレーブ装置3S‐Nの操作者による触覚提示/力覚誘導デバイス31aの触察操作に関し触覚提示/力覚誘導制御部328に対して力覚誘導の拘束を解除させ、触察位置としてその触察位置座標(例えば指位置の座標を示す情報)を検出し、状態検出部330に出力する。
【0091】
要求検出部332は、マスター誘導モード又は自己誘導モードにおいて、スレーブ装置3S‐Nの操作者による触覚提示/力覚誘導デバイス31a上のキー操作で、所定の要求(質問を含む)が有る旨を示す要求信号を受け付け、状態通知信号/要求信号エンコード部333に出力する。
【0092】
状態通知信号/要求信号エンコード部333は、状態検出部330によって生成した状態通知信号、又は要求検出部332によって受け付けた要求信号をそれぞれLAN2のプロトコルに従うコマンド形式のデータに変換し、エンコードした状態通知信号又は要求信号として生成し、マスター装置1に向けて送信する。
【0093】
〔マスター装置側の触覚提示/力覚誘導デバイス〕
図4は、本発明による一実施形態のマスター装置1における操作デバイス11の一例として構成される触覚提示/力覚誘導デバイス11aの概略構成を示すブロック図である。
【0094】
図4に示す触覚提示/力覚誘導デバイス11aは、特許文献1に開示される提示装置と同様に構成されているため、ここでは本発明に係る要素について詳述する。
【0095】
まず、
図4に示す触覚提示/力覚誘導デバイス11aは、触覚提示デバイス111及び力覚誘導デバイス112から構成され、力覚誘導デバイス112には例えば指を装着する装着部112aが力覚誘導可能に可動する。
【0096】
触覚提示デバイス111は、2次元状に所定の間隔(例えば、1~3mm間隔)で配列された刺激ピン等を用いて、提示するオブジェクトに対応させて凹凸駆動させることや、振動させることができる触覚ディスプレイ111aを有する。そして、触覚ディスプレイ111は、触覚提示/力覚誘導制御部126の制御により提示されたピンの凹凸形状を、マスター装置1の操作者の指で触らせることで、提示中のコンテンツにおける各オブジェクトを触覚により当該操作者に認識させることができる。尚、触覚提示デバイス111としては、例えばドットビュー(登録商標)等を用いることができる。
【0097】
この触覚提示デバイス111の触覚ディスプレイ111a上に、各種の選択指定操作が可能なメニュー111bが提示される。従って、本実施形態の例ではコンテンツの選択指定によるXML形式の提示データの更新が可能となり、提示XML更新制御部121が、当該メニュー111bの操作に基づきXML更新制御に係る信号を受け付けてコンテンツを指定し、指定したコンテンツに関するXML形式の提示データを更新する。
【0098】
また、触覚ディスプレイ111aの周枠には、各種の割込み操作が可能なキー111cが提示される。従って、本実施形態の例ではキー111cのキー割込み操作で、スレーブモード制御及び状態要求が可能となり、スレーブモード制御/状態要求部128が、スレーブモード制御又は状態要求を受け付けてスレーブモード制御信号又は状態要求信号を生成する。特に、スレーブモード制御信号の伝送により、触覚提示デバイス111の装着部112aに装着した指の力覚誘導で、スレーブ装置3S‐Nにおける触覚提示/力覚誘導デバイス31aを同期させることが可能となる。
【0099】
そして、触覚提示/力覚誘導制御部126は、更新したXML形式の提示データに基づいて、触覚提示の駆動信号を生成し、触覚ディスプレイ111aへのコンテンツのレイアウト(例えば、刺激ピンのドット数に対応した凹凸データ)表示を行う。
【0100】
力覚誘導デバイス112は、手指に反力を与え仮想的なオブジェクトを提示することや手指を誘導できるデバイスとし、例えば非特許文献4に開示される3次元力覚入出力デバイス等を使用することができる。
【0101】
また、本実施形態では、操作者の指先が力覚誘導デバイス112に装着された状態で触覚提示デバイス111における触覚ディスプレイ111aの凹凸ピンを触察することができるように、
図4に示す装着部112aは、指腹部が触覚ディスプレイ111aの触覚提示面に触れることができる構造とすることが好ましい。
【0102】
尚、
図4の例において装着部112aに装着される指の本数は1本であるが、これに限定されるものではなく、複数本の指にそれぞれ装着して誘導してもよい。また、複数本の指を誘導する場合には、指の数に対応した複数の触覚提示/力覚誘導制御部126を設けてもよい。
【0103】
そして、触察位置座標検出部124は、マスター装置1の操作者による触覚提示/力覚誘導デバイス11aにおける力覚誘導デバイス112の触察操作に対し、その装着部112aの触察位置座標(例えば指位置の座標を示す情報)を検出する。これにより、スレーブ装置3S‐Nへ同期した力覚誘導動作を行わせることができる。
【0104】
〔スレーブ装置側の触覚提示/力覚誘導デバイス〕
図5は、本発明による一実施形態のスレーブ装置3S‐Nにおける操作デバイス31の一例として構成される触覚提示/力覚誘導デバイス31aの概略構成を示すブロック図である。
【0105】
図5に示す触覚提示/力覚誘導デバイス31aは、特許文献1に開示される提示装置と同様に構成されているため、ここでは本発明に係る要素について詳述する。
【0106】
まず、
図5に示す触覚提示/力覚誘導デバイス31aは、触覚提示デバイス311及び力覚誘導デバイス312から構成され、力覚誘導デバイス312には例えば指を装着する装着部312aが力覚誘導可能に可動する。
【0107】
触覚提示デバイス311は、2次元状に所定の間隔(例えば、1~3mm間隔)で配列された刺激ピン等を用いて、提示するオブジェクトに対応させて凹凸駆動させることや、振動させることができる触覚ディスプレイ311aを有する。そして、触覚ディスプレイ311は、触覚提示/力覚誘導制御部328の制御により提示されたピンの凹凸形状を、スレーブ装置3S‐Nの操作者の指で触らせることで、提示中のコンテンツにおける各オブジェクトを触覚により当該操作者に認識させることができる。尚、触覚提示デバイス311としては、例えばドットビュー(登録商標)等を用いることができる。
【0108】
この触覚提示デバイス311の触覚ディスプレイ311a上に、各種の選択指定操作が可能なメニュー311bが提示される。従って、本実施形態の例ではコンテンツの選択指定によるXML形式の提示データの更新が可能となり、XMLデータ書込/更新制御部322が、当該メニュー311bの操作に基づきXML更新制御に係る信号を受け付けてコンテンツを指定し、指定したコンテンツに関するXML形式の提示データを更新する。
【0109】
また、触覚ディスプレイ311aの周枠には、各種の割込み操作が可能なキー311cが提示される。従って、本実施形態の例ではキー311cのキー割込み操作で、所定の要求(質問を含む)が有る旨の通知が可能となり、要求検出部322が、その要求(質問を含む)が有る旨の要求信号を受け付けてマスター装置1側へ通知可能となる。
【0110】
そして、触覚提示/力覚誘導制御部328は、触覚提示/力覚誘導XMLレジスタ323に更新されたXML形式の提示データに基づいて、触覚提示の駆動信号を生成し、触覚ディスプレイ311aへのコンテンツのレイアウト(例えば、刺激ピンのドット数に対応した凹凸データ)表示を行う。
【0111】
また、触覚提示/力覚誘導制御部328は、自己誘導モードでは触覚提示/力覚誘導XMLレジスタ323に自己更新されたXML形式の提示データに基づいて、マスター誘導モードでは力覚誘導データ生成部326によって生成された駆動データに基づいて、力覚誘導の駆動信号を生成しスレーブ装置3S‐Nにおける触覚提示/力覚誘導デバイス31aの触覚提示デバイス311の装着部312aに装着した指の力覚誘導を行う。
【0112】
力覚誘導デバイス312は、手指に反力を与え仮想的なオブジェクトを提示することや手指を誘導できるデバイスとし、例えば非特許文献4に開示される3次元力覚入出力デバイス等を使用することができる。また、本実施形態では、操作者の指先が力覚誘導デバイス312に装着された状態で触覚提示デバイス311における触覚ディスプレイ311aの凹凸ピンを触察することができるように、
図5に示す装着部312aは、指腹部が触覚ディスプレイ311aの触覚提示面に触れることができる構造とすることが好ましい。
【0113】
尚、
図5の例においても、装着部312aに装着される指の本数は1本であるが、これに限定されるものではなく、複数本の指にそれぞれ装着して誘導してもよい。また、複数本の指を誘導する場合には、指の数に対応した複数の触覚提示/力覚誘導制御部328を設けてもよい。
【0114】
そして、触察位置座標検出部331は、スレーブ装置3S‐Nの操作者による触覚提示/力覚誘導デバイス31aにおける力覚誘導デバイス312の触察操作に対し、その装着部312aの触察位置座標(例えば指位置の座標を示す情報)を検出する。これにより、スレーブ装置3S‐Nにおける触察位置をマスター装置1に通知することができる。
【0115】
このように、本実施形態によれば、マスター装置1の操作と同期してスレーブ装置3S‐N側での力覚誘導を可能とするとともに、マスター装置1の提示しているコンテンツに対応してスレーブ装置3S‐Nのコンテンツを更新して提示や誘導することが可能となる。
【0116】
〔遠隔力覚誘導システムの全体動作〕
図6は、本発明による一実施形態のマスター装置1及びスレーブ装置3S‐Nを備える遠隔力覚誘導システム10の動作例を示すフローチャートである。また、
図7は、本発明による一実施形態のマスター装置1の動作例を示すフローチャートであり、
図8は、本発明による一実施形態のスレーブ装置3S‐Nの動作例を示すフローチャートである。
【0117】
以下、マスター装置1及びスレーブ装置3S‐Nの動作についての
図7及び
図8を参照しながら、
図6を基に動作を遠隔授業に適用した具体例を示して説明する。マスター装置1の操作者が先生であり、スレーブ装置3S‐Nの操作者が生徒である。
【0118】
まず、
図6を参照するに、本実施形態の遠隔力覚誘導システム10は、それぞれ起動することで動作が開始し(
図7:ステップS21,
図8:ステップS50)、マスター装置1はスレーブ装置3S‐Nとの通信を確立する(
図7:ステップS22)。
【0119】
マスター装置1は、
図4に示すキー操作に基づきスレーブモード制御/状態要求部128により、スレーブ装置3S‐Nの状態(接続状況及び使用者名、或いは使用状態)を把握するための状態要求信号のコマンドをスレーブ装置3S‐Nへ送信し(
図6:ステップS1)、その応答となる状態通知信号を状態通知信号/要求信号デコード部129により受信して、モニター13に表示する(
図6:ステップS2,
図7:S28,S29,S30)。尚、マスター装置1によるスレーブ装置3S‐Nの使用状態の検出は、現在提示しているコンテンツの更新(XML形式の提示データの更新)の有無、自己誘導モードで動作しているか否かの確認等の検出を含み、時事、マスター装置1側のキー操作に基づき行うことができる。
【0120】
ここでは、スレーブ装置3S‐Nがマスター装置1によって遠隔操作可能な状態であると確認したものとする。
【0121】
続いて、マスター装置1は、
図4に示すキー操作に基づきスレーブモード制御/状態要求部128の機能によるスレーブモード制御信号のコマンドをスレーブ装置3S‐Nに送信し、スレーブ装置3S‐Nの動作モードを設定する(
図6:ステップS3)。まずは、マスター装置1は、スレーブ装置3S‐Nの動作モードを自己誘導モードに強制的に移行するものとする(
図6:ステップS4,
図8:ステップS52)。
【0122】
スレーブ装置3S‐Nは、マスター装置1から自己誘導モードに強制移行するためのスレーブモード制御信号を受信すると、状態検出部330により切り替え部327を作動させ、スレーブ装置3S‐Nの操作者による触覚提示/力覚誘導デバイス31aの触察操作に関し触覚提示/力覚誘導制御部328に対して力覚誘導の拘束を解除させて、自己誘導モードに移行する(
図8:ステップS53)。
【0123】
例えば、マスター装置1の操作者(先生)は、複数台のスレーブ装置3S‐Nのそれぞれを使用する複数の生徒のうち、一部の生徒が使用するスレーブ装置3S‐Nを遠隔誘導から解除することを考慮すると、このような自己誘導モードへの強制的な移行機能が有効になる。
【0124】
スレーブ装置3S‐Nが自己誘導モードに移行すると(
図8:ステップS70)、
図5に示すメニュー311bの操作で所望のコンテンツを指定することで当該指定されたコンテンツに係るXML更新制御に係る信号がXMLデータ書込/更新制御部322に入力され、XMLデータ書込/更新制御部322の機能により触覚提示/力覚誘導XMLレジスタ323における現在提示しているコンテンツに関するXML形式の提示データが自己更新され、レイアウト・誘導条件生成部324が機能する(
図8:ステップS71)。
【0125】
そして、スレーブ装置3S‐Nにおけるレイアウト・誘導条件生成部324は、触覚提示/力覚誘導デバイス31aにおける触覚ディスプレイへのコンテンツのレイアウト表示、並びに力覚誘導する際の表示・誘導データ(表示・誘導に関する条件)を生成し(
図8:ステップS72)、触覚提示/力覚誘導制御部328が現在提示しているコンテンツに関して力覚誘導提示デバイス31aを操作する操作者の触察部位(例えば指)を移動するよう制御する。
【0126】
このとき、スレーブ装置3S‐Nは、レイアウト・誘導条件生成部324、及び状態検出部330の機能により自己誘導モード時に現在提示しているコンテンツ名(提示XML名)を含む使用状態を示す状態通知信号を生成し、状態通知信号/要求信号エンコード部333により当該状態通知信号をマスター装置1に向けて送信する(
図8:ステップS73)。
【0127】
そして、マスター装置1は、その状態通知信号を状態通知信号/要求信号デコード部129により受信して、スレーブ装置3S‐Nが自己誘導モード時に現在提示しているコンテンツ名(提示XML名)をモニター13に表示する(
図6:ステップS5,
図7:ステップS30)。
【0128】
次に、マスター装置1がスレーブ装置3S‐Nをマスター誘導モードで制御する動作シーケンスを説明する。
【0129】
マスター装置1は、
図4に示すキー操作に基づきスレーブモード制御/状態要求部128の機能によるスレーブモード制御のコマンド(スレーブモード制御信号)をスレーブ装置3S‐Nに送信し、スレーブ装置3S‐Nの動作モードを強制的にマスター誘導モードに設定する(
図7:ステップS26,S27)。
【0130】
これにより、スレーブ装置3S‐Nは、自己誘導モードから強制的にマスター誘導モードへとモード遷移する(
図6:ステップS6,
図8:ステップS74)。
【0131】
続いて、マスター装置1は、更新XMLデータ書込/通知部123により、触覚提示/力覚誘導デバイス11aにて現在表示しているコンテンツのXML形式の提示データを更新するよう制御し、更新通知を送信する(
図6:ステップS7,
図7:ステップS25)。
【0132】
尚、マスター装置1は、
図4に示すメニュー操作に基づき提示XML更新制御部121により触覚提示/力覚誘導デバイス11aにて現在表示しているコンテンツを新たに更新しレイアウト表示を変更した場合も、更新XMLデータ書込/通知部123により、触覚提示/力覚誘導デバイス11aにて現在表示しているコンテンツのXML形式の提示データを新たに更新するよう制御し、更新通知を送信する(
図7:ステップS23,S24,S25)。
【0133】
これにより、スレーブ装置3S‐Nは、XMLデータ書込/更新制御部322の機能により触覚提示/力覚誘導XMLレジスタ323における現在提示しているコンテンツに関するXML形式の提示データが強制的に更新され、レイアウト・誘導条件生成部324が触覚提示/力覚誘導デバイス31aにおける触覚ディスプレイへのコンテンツのレイアウト表示を行い、切り替え部327によりマスター装置1による遠隔操作を行うようスレーブ装置3S‐Nの操作者の触察部位を拘束しマスター装置1の触覚提示/力覚誘導デバイス11aにおける触察位置に誘導する(
図6:ステップS8)。
【0134】
また、マスター装置1は、触察位置座標検出部124によりマスター装置1の操作者による触覚提示/力覚誘導デバイス11aの触察操作に対し、その触察位置座標(例えば指位置の座標を示す情報)を検出し、その触察位置座標を示す触察位置座標信号をスレーブ装置3S‐Nに送信する(
図6:ステップS9)。
【0135】
スレーブ装置3S‐Nは、触察位置座標抽出部325によりマスター装置1から送信された触察位置座標信号を受け付け、力覚誘導データ生成部326によりマスター装置1側の触察位置座標に同期し追従して駆動するための駆動データを生成し、触覚提示/力覚誘導制御部328により当該駆動データを基に力覚誘導提示デバイス31aを制御させることで、スレーブ装置3S‐Nの操作者の触察部位をマスター装置1側の操作座標位置に誘導して同調させる(
図6:ステップS10,
図8:ステップS75)。
【0136】
これにより、マスター誘導モードに移行したスレーブ装置3S‐1の操作者の触察部位(例えば指)は、マスター装置1側の触覚提示/力覚誘導デバイス11aの触察位置に応じて同期して誘導されることになる。
【0137】
次に、マスター誘導モード中に動作可能とするスレーブ触察位置通知モードについて説明する。スレーブ触察位置通知モードは、マスター装置1側のキー操作に基づくマスター誘導モード中の割込み制御により作動し、スレーブ装置3S‐Nの操作者による触察位置座標を基に、力覚誘導提示デバイス11aを操作する操作者の触察部位(例えば指)を移動する動作モードである。
【0138】
例えば、本実施形態の遠隔力覚誘導システム10を遠隔授業に適用した場合に、マスター装置1の操作者である先生のキー操作で、提示中のコンテンツに対しスレーブ装置3S‐Nの操作者である生徒の触察部位(例えば指)の位置をマスター装置1に伝送させ、マスター装置1の力覚誘導提示デバイス11aにおいて自動的に当該生徒の触察部位(例えば指)の位置へと移動させることができる。
【0139】
まず、マスター装置1の操作者によって力覚誘導提示デバイス11a上のスレーブ触察位置通知モードを示すキー操作で、複数のスレーブ装置から対象とする当該スレーブ装置3S‐Nが選択指定されると、マスター装置1は、スレーブモード制御/状態要求部128により、当該選択指定したスレーブ装置3S‐Nについての使用状態を把握するための状態要求信号(ここでは、触察位置座標の取得要請の割込み信号)を生成し、当該選択指定したスレーブ装置3S‐Nに送信する(
図6:ステップS11,
図7:ステップS31,S32,S33)。
【0140】
スレーブ装置3S‐Nは、マスター装置1から触察位置座標の取得要請に関する状態要求信号を受信すると(
図8:ステップS56)、状態検出部330により、触察位置座標検出部331を機能させる。触察位置座標検出部331は、スレーブ触察位置通知モードにおいて、スレーブ装置3S‐Nの操作者による触覚提示/力覚誘導デバイス31aの触察操作に関し触覚提示/力覚誘導制御部328に対して力覚誘導の拘束を解除させ、触察位置としてその触察位置座標(例えば指位置の座標を示す情報)を検出し、状態検出部330により、当該状態要求信号の応答として、その触察位置座標を含む状態通知信号をマスター装置1に返信する(
図6:ステップS12)。
【0141】
ここで、触察位置座標検出部331は、スレーブ触察位置通知モードにおいて力覚誘導の拘束を解除させた時点で、要求検出部332によるスレーブ装置3S‐Nの操作者によるキー操作の検出に伴って、触察位置座標(例えば指位置の座標を示す情報)を検出し、状態検出部330に出力する構成とすることができる。例えば、スレーブ装置3S‐Nの操作者は、自身の触察位置を確認し確定した時点で所定のキーを操作することで、触察位置座標検出部331は、マスター装置1に割込み信号を送信するとともに、触察位置座標を含む状態通知信号をマスター装置1に送信する(
図8:ステップS57,S58,S59)。
【0142】
マスター装置1は、状態通知信号/要求信号デコード部129により当該割込み信号に伴って触察位置座標を含む状態通知信号を受信すると、触察位置座標抽出部125により当該スレーブ装置3S‐Nの操作者による触察位置座標を抽出し、触覚提示/力覚誘導制御部126によりその触察位置座標に基づいて、力覚誘導提示デバイス11aを操作する操作者の触察部位(例えば指)を移動するよう制御し同調させる(
図6:ステップS13,
図8:ステップS34,S35)。このとき、状態通知信号/要求信号デコード部129は、状態通知信号から当該触察位置座標を抽出しモニター13に表示するよう構成することもできる。
【0143】
これにより、マスター装置1の操作者は、スレーブ装置3S‐Nの操作者の触察位置を把握することができ、例えば、遠隔授業において、マスター装置1の操作者が視覚障害の先生である場合でも、スレーブ装置3S‐Nの操作者である生徒が示す触察位置を確認することができる。
【0144】
次に、スレーブ装置3S‐Nからマスター装置1に要求(質問を含む)が有る旨を伝送する動作シーケンスを説明する。
【0145】
スレーブ装置3S‐Nの操作者がマスター装置1の操作者に対し要求(質問を含む)が有る旨を伝送したい場合もあることが想定される。このため、スレーブ装置3S‐Nは、要求検出部332により、マスター誘導モード(又は自己誘導モード)において、スレーブ装置3S‐Nの操作者による触覚提示/力覚誘導デバイス31a上の要求(質問を含む)が有る旨を示す所定のキー操作で、所定の要求(質問を含む)が有る旨を示す要求信号を受け付け、このキー割込みによる要求信号をマスター装置1に出力する(
図6:ステップS14,
図8:ステップS54,S55)。
【0146】
マスター装置1は、状態通知信号/要求信号デコード部129により、マスター誘導モード(又は自己誘導モード)において、スレーブ装置3S‐Nから、当該要求信号を受信したときはデコードし、当該デコードした要求信号があった旨をモニター13に表示する(
図6:ステップS15,
図7:S28,S29,S30)。これにより、マスター装置1の操作者は、スレーブ装置3S‐Nの操作者が何らかの質問又は要求が有ることを把握することができ、必要に応じて、別の通信媒体を用いた音声コミュニケーション等による対応を図ることができる。
【0147】
〔マスター装置及びスレーブ装置の機能一覧〕
図9は、本発明による一実施形態の遠隔力覚誘導システム10におけるマスター装置1及びスレーブ装置3S‐Nの双方のユーザーインタフェース(UI)に関する機能の概要を一覧表示する図である。ここでは、代表的な機能を説明する。
【0148】
マスター装置1は、例えば遠隔授業では先生を操作者とする。そして、スレーブ装置3S‐Nは、例えば遠隔授業では視覚障害者の生徒を操作者とする。
【0149】
そして、マスター装置1は、提示XML更新スレーブ制御機能M1、スレーブモード制御機能M2、及びスレーブ装置側状態表示機能M3を有する。
【0150】
提示XML更新スレーブ制御機能M1は、提示XML更新制御部121によって機能し、マスター装置1側で提示するコンテンツに関するXML形式の提示データ(XMLデータ)を更新し提示する機能と、全スレーブ装置3S‐Nに対し当該XML形式の提示データの書込みと更新通知を行う機能と、を含む。
【0151】
スレーブモード制御機能M2は、スレーブモード制御/状態要求部128によって機能し、マスター誘導モードと自己誘導モードの切り替えを行う機能であり、全スレーブ装置3S‐Nを強制的にマスター誘導モードに移行させることができる。また、マスター誘導モードの一機能として、選択指定したスレーブ装置3S‐N側の触察位置に、マスター装置1の触察位置を移動させるために、触察位置座標を通知させるスレーブ触察位置通知モードを含む。また、自己誘導モードでは、全ての或いは選択指定したスレーブ装置3S‐Nに対し自己誘導での操作を可能とする。
【0152】
スレーブ装置側状態表示機能M3は、状態通知信号/要求信号デコード部129によって機能し、選択指定したスレーブ装置3S‐N側における、接続状況と使用者名の確認、提示中のコンテンツ名(提示XML名)、質問を含む要求の有無、及び触察位置に関するモニター13への表示を可能とする。
【0153】
マスター装置1に対応して、スレーブ装置3S‐Nは、XML提示更新機能SL1、モード遷移機能SL2、及び状態通知/要求機能SL3を有する。
【0154】
XML提示更新機能SL1は、XMLデータ書込/更新制御部322によって機能し、スレーブ装置3S‐N側で現在提示するコンテンツに関するXML形式の提示データ(XMLデータ)について、自己誘導モード時には自己更新が可能であり、マスター誘導モード時にはマスター装置1によって更新制御可能である。
【0155】
モード遷移機能SL2は、モード遷移制御部329によって機能し、マスター誘導モードと自己誘導モードの切り替えがマスター装置1から強制的に制御可能である。尚、自己誘導モードはマスター誘導モード時以外で動作可能とし、スレーブ触察位置通知モードでは触察位置の検出を行う。
【0156】
状態通知/要求機能SL3は、状態検出部330、触察位置座標検出部331、及び要求検出部332によって機能し、マスター装置1によって選択指定されたときに、当該スレーブ装置3S‐Nの接続状況と使用者名の確認、提示中のコンテンツ名(提示XML名)、質問を含む要求の有無、及び触察位置に関するモニター13への表示を可能とする。
【0157】
このように、本実施形態の遠隔力覚誘導システム10を遠隔授業で利用する例とした場合、スレーブ装置3S-Nの操作者である生徒には、授業中でもマスター装置1の操作者である先生が生徒の指を誘導して図などを教授するマスター誘導モードと、生徒が自ら学習するときなどの自己誘導モードの双方が提供され、これにより視覚障害者への遠隔授業環境を構築することができる。
【0158】
そして、先生と生徒の双方が、マスター誘導モードと自己誘導モードモードのモード選択を行うことができる。特に、先生はマスター装置1を操作して、全スレーブ装置3S-Nを強制的にマスター誘導モードに移行させる権限を有するとともに、全スレーブ装置3S-Nのマスター誘導モードを解除することができる。また、マスター誘導モードの場合には、コンテンツの更新(XML形式の提示データの更新)はマスター装置1の操作者である先生が権限を持つ。これにより視覚障害者への遠隔授業環境の利便性が向上する。
【0159】
また、遠隔授業においては、先生は生徒が閲覧する教材の図を提示するコンテンツ名(提示XML名)を知る必要がある。特に、遠隔授業では、先生は生徒の状況を把握し、生徒は先生に質問などを行うことができる環境が必要である。
【0160】
そこで、本実施形態の遠隔力覚誘導システム10を遠隔授業で利用した場合、マスター装置1側で、スレーブ装置3S‐N側の状態表示と、スレーブ装置3S‐Nの状態通知/要求が可能となる。即ち、先生はマスター誘導モード時に生徒のコンテンツの更新(XML形式の提示データの更新)の状況、マスター誘導モードを解除し生徒が自己誘導モードを選択した場合に生徒が閲覧している提示中のコンテンツ名(提示XML名)を知ることができる。
【0161】
また、生徒から質問などのアクションがあった場合に、先生がモニター13で認知することができる。さらに、先生が「XXの経穴はどこですか」などの問いに対し、生徒が「ここです」という位置を触察位置の通知で伝えることもできる。
【0162】
そして、本実施形態の遠隔力覚誘導システム10による遠隔力覚誘導を開始する際に、マスター装置1ではスレーブ装置3S‐Nの接続状況を確認することができ、正確、且つ円滑な遠隔授業が実現される。
【0163】
以上、包括するに、遠隔力覚誘導システム10において、マスター装置1は、マスター装置1側の操作デバイス11の触察位置座標を検出してスレーブ装置3S‐Nに伝送し、操作触察位置座標を誘導力に変換させてスレーブ装置3S‐N側の被操作デバイス31の触察位置を追従させることで誘導する制御する手段、マスター装置1側で提示されるコンテンツに関する提示データをスレーブ装置3S‐Nに送信してスレーブ装置3S‐N側のレジスタに書き込ませ(コピー又は指定させる)、被操作デバイス31に提示するコンテンツを更新し識別させるとともに、当該送信した提示データのコンテンツを操作デバイス11に提示するよう更新する手段、及び、スレーブ装置3S‐Nの動作モードを、マスター装置1側の操作デバイス11の操作触察位置座標を基に被操作デバイス31の触察部位を連動して誘導させるマスター誘導モード、又はスレーブ装置3S‐N側で予め設定された誘導順序を基に被操作デバイス31の触察部位を自己誘導する自己誘導モードのいずれかに強制的に切り替えるよう制御する手段を備える。そして、スレーブ装置3S‐Nは、このマスター装置1に対応する制御を行う手段を備える。これにより、視覚障害者への遠隔授業環境を構築できるだけでなく、視覚障害者への遠隔授業の正確性が向上する。
【0164】
また、マスター装置1は、スレーブ装置3S‐Nの状態を把握するための状態要求信号をスレーブ装置3S‐Nに送信し、スレーブ装置3S‐Nの接続状況及び使用者名と被操作デバイス31に提示しているコンテンツに関する情報のいずれかを少なくとも含む状態通知信号を通知するよう応答させ、マスター装置1のモニター13に表示する手段、及び、スレーブ装置3S‐N側からの要求(質問を含む)の有無を受け付け、その旨をマスター装置1のモニター13に表示する手段を備える。そして、スレーブ装置3S‐Nは、このマスター装置1に対応する制御を行う手段を備える。これにより、視覚障害者への遠隔授業の柔軟性が向上する。
【0165】
また、マスター装置1は、マスター誘導モード中の割込み動作として当該スレーブ装置スレーブ装置3S‐N側の触察位置を把握するためのスレーブ触察位置通知モードとして、スレーブ装置3S‐Nの被操作デバイス31における触察位置座標を把握するための状態要求信号をスレーブ装置3S‐Nに送信し、当該被操作デバイス31における触察位置座標を検出し通知するよう応答させ、マスター装置1のモニター13に表示するとともに、被操作デバイス31における触察位置座標に基づき操作デバイス11の触察位置を誘導する手段を備える。これにより、視覚障害者の状態把握が向上し、的確な遠隔授業が実現できる。
【0166】
尚、本発明に係る遠隔力覚誘導システム10は、遠隔授業だけにとどまらず、通信や放送を利用した教育用途への発展も期待でき、遠隔地での図の内容の情報伝送や、視覚と聴覚の重複障害者に対し手のひら書きなどの文字によるコミュニケーション環境に利用できる。
【0167】
以上、特定の実施形態の例を挙げて本発明を説明したが、本発明は前述の実施形態の例に限定されるものではなく、その技術思想を逸脱しない範囲で種々変形可能である。例えば、上述した実施形態の例では、XML形式の提示データを例に説明したが、同様な機能を生じさせるものであれば任意のファイル形式とすることができる。従って、本発明に係る送信装置及び受信装置は、上述した実施形態の例に限定されるものではなく、特許請求の範囲の記載によってのみ制限される。
【産業上の利用可能性】
【0168】
本発明によれば、所定のネットワーク経由で接続されたマスター装置とスレーブ装置の遠隔間で、マスター装置からスレーブ装置に対し視覚障害者を対象に文字やグラフ、地図などの情報を的確に理解把握できるよう伝えるために所定の触察位置(指等の位置)を誘導する遠隔力覚誘導システムが実現されるので、遠隔授業の用途や、通信や放送を利用した教育用途、遠隔地での図の内容の情報伝送や、視覚と聴覚の重複障害者に対し手のひら書きなどの文字によるコミュニケーション環境の用途に有用である。
【符号の説明】
【0169】
1 マスター装置
2 ネットワーク(LAN)
3S‐1,3S‐2,3S‐N スレーブ装置
10 遠隔力覚誘導システム
11 操作デバイス
11a 触覚提示/力覚誘導デバイス
12 制御ユニット
13 モニター
31 被操作デバイス
31a 触覚提示/力覚誘導デバイス
32 制御ユニット
111 触覚提示デバイス
111a 触覚ディスプレイ
111b メニュー
111c キー
112 力覚誘導デバイス
112a 装着部
121 提示XML更新制御部
122 触覚提示/力覚誘導XMLレジスタ
123 更新XMLデータ書込/通知部
124 触察位置座標検出部
125 触察位置座標抽出部
126 触覚提示/力覚誘導制御部
127 LAN送信エンコード部
128 スレーブモード制御/状態要求部
129 状態通知信号/要求信号デコード部
311 触覚提示デバイス
311a 触覚ディスプレイ
311b メニュー
311c キー
312 力覚誘導デバイス
312a 装着部
321 LAN受信デコード部
322 XMLデータ書込/更新制御部
323 触覚提示/力覚誘導XMLレジスタ
324 レイアウト・誘導条件生成部
325 触察位置座標抽出部
326 力覚誘導データ生成部
327 切り替え部
328 触覚提示/力覚誘導制御部
329 モード遷移制御部
330 状態検出部
331 触察位置座標検出部
332 要求検出部
333 状態通知信号/要求信号エンコード部