(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024052610
(43)【公開日】2024-04-11
(54)【発明の名称】通信管理サーバ、通信システム、通信管理方法、及びプログラム
(51)【国際特許分類】
H04N 7/15 20060101AFI20240404BHJP
H04N 23/60 20230101ALI20240404BHJP
【FI】
H04N7/15
H04N23/60 300
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2023168723
(22)【出願日】2023-09-28
(31)【優先権主張番号】P 2022158682
(32)【優先日】2022-09-30
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】荒海 雄一
(72)【発明者】
【氏名】新谷 忍
【テーマコード(参考)】
5C122
5C164
【Fターム(参考)】
5C122DA27
5C122EA42
5C122EA63
5C122FA03
5C122FB06
5C122FH04
5C122FH20
5C122FK37
5C122FK40
5C122FL03
5C122GC14
5C122GC52
5C122HA13
5C122HA35
5C122HA75
5C122HA82
5C122HA88
5C122HB01
5C122HB05
5C122HB09
5C122HB10
5C164FA10
5C164VA03S
5C164VA13P
5C164VA21P
(57)【要約】
【課題】本開示は、遠隔でイベントに参加する者が現場の者とコミュニケーションを取り易くすることを目的とする。
【解決手段】本開示の通信管理サーバ3は、実空間で音声の入出力が可能であって実空間位置情報で示される位置に自律移動が可能なロボットR1と実空間の生徒端末との間の音声通信を確立し(S32)、実空間の人に関するアイコンと実空間のロボットR1に関するアイコンとを示す仮想空間画像を作成し(S51)、生徒端末9fに仮想空間画像を送信し(S52)、生徒端末9fから仮想空間画像に対してロボットR1に関するアイコンの移動に基づく変更後の仮想空間位置情報を受信し(S54)、ロボットR1に対して変更後の仮想空間位置情報に対応する変更後の実空間位置情報を送信する(S55)。
【選択図】
図21
【特許請求の範囲】
【請求項1】
実空間で音声の入出力が可能であって実空間位置情報で示される位置に自律移動が可能な移動装置と前記実空間の所定の通信端末との間の音声通信を確立する通信確立部と、
前記実空間の人に関するアイコンと、当該実空間の前記移動装置に関するアイコンとを示す仮想空間画像を作成する画像作成部と、
前記所定の通信端末に前記仮想空間画像を送信する送信部と、
前記所定の通信端末から、前記仮想空間画像に対して前記移動装置に関するアイコンの移動に基づく変更後の仮想空間位置情報を受信する受信部と、
を有し、
前記送信部は、前記移動装置に対して、前記変更後の仮想空間位置情報に対応する変更後の実空間位置情報を送信する、
通信管理サーバ。
【請求項2】
前記通信確立部は、前記音声通信に加えて、前記移動装置と前記所定の通信端末との間の映像通信が可能な映像音声通信を確立し、
前記移動装置は撮影が可能であって、前記移動装置から前記所定の通信端末に前記撮影により得られた映像が送信される、
請求項1に記載の通信管理サーバ。
【請求項3】
前記所定の通信端末からのログイン要求に対するログインが成功した場合には、前記所定の通信端末を前記移動装置が存在する前記実空間のイベントに対する仮想空間のイベントに参加する登録を行う参加登録部を有する請求項1に記載の通信管理サーバ。
【請求項4】
前記画像作成部は、前記参加登録部によって前記仮想空間のイベントに参加する登録が行われた前記所定の通信端末に関するアイコンと、前記実空間の前記イベントに出席した人に関するアイコンを示す前記仮想空間画像を作成する、請求項3に記載の通信管理サーバ。
【請求項5】
前記実空間の前記所定の通信端末と、前記実空間で音声入出力デバイスと音声通信可能な他の通信端末との間の音声通信を確立する音声通信確立部を有する請求項3に記載の通信管理サーバ。
【請求項6】
前記画像作成部は、前記実空間の人に関するアイコンとして前記所定の通信端末に関するアイコン及び前記他の通信端末に関するアイコンを示す前記仮想空間画像を作成し、
前記音声通信確立部は、前記所定の通信端末から、当該所定の通信端末に関するアイコンを前記他の通信端末に関するアイコンに関連付ける操作を受け付けることにより、前記所定の通信端末及び前記他の通信端末の間の専用の音声通信を確立する、
請求項5に記載の通信管理サーバ。
【請求項7】
請求項1乃至6のいずれか一項に記載の通信管理サーバと、
前記移動装置と、
を有する通信システム。
【請求項8】
前記移動装置は、前記通信管理サーバによって確立された映像音声通信により、前記所定の通信端末から送られて来た映像を表示する、請求項7に記載の通信システム。
【請求項9】
実空間で音声の入出力が可能であって実空間位置情報で示される位置に自律移動が可能な移動装置と前記実空間の所定の通信端末との間の音声通信を確立する通信確立処理と、
前記実空間の人に関するアイコンと、当該実空間の前記移動装置に関するアイコンとを示す仮想空間画像を作成する画像作成処理と、
前記所定の通信端末に前記仮想空間画像を送信する送信処理と、
前記所定の通信端末から、前記仮想空間画像に対して前記移動装置に関するアイコンの移動に基づく変更後の仮想空間位置情報を受信する受信処理と、
を有し、
前記送信処理は、前記移動装置に対して、前記変更後の仮想空間位置情報に対応する変更後の実空間位置情報を送信する処理を含む、
通信管理方法。
【請求項10】
コンピュータに、請求項9に記載の方法を実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示内容は、通信管理サーバ、通信システム、通信管理方法、及びプログラムに関する。
【背景技術】
【0002】
近年、リモートワークの普及により、学校の通信端末と各生徒の通信端末を接続して遠隔授業が行わることが普及してきた。更に、ウィルス感染対策、及び新しい働き方の推進等によって、実際に学校に登校する場合に加えて、自宅等から通信端末で遠隔授業に参加できるニーズが大きくなってきた。
【0003】
また、教室等の実空間の現場に存在する通信可能なロボットを介して、授業に出席した生徒と遠隔授業に参加した生徒がコミュニケーションを取ることができる提案がなされている(特許文献1参照)。
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、遠隔授業等のイベントに参加した者からすると、ロボット等の移動装置は、必ずしも現場でコミュニケーションを取りたい相手の近くにいるとは限らないため、コミュニケーションが取りづらいという課題が生じる。
【0005】
本開示は、上述の課題を鑑みてなされたもので、遠隔でイベントに参加する者が現場の者とコミュニケーションを取り易くすることを目的とする。
【課題を解決するための手段】
【0006】
請求項1に係る発明は、実空間で音声の入出力が可能であって実空間位置情報で示される位置に自律移動が可能な移動装置と前記実空間の所定の通信端末との間の音声通信を確立する通信確立部と、前記実空間の人に関するアイコンと、当該実空間の前記移動装置に関するアイコンとを示す仮想空間画像を作成する画像作成部と、前記所定の通信端末に前記仮想空間画像を送信する送信部と、前記所定の通信端末から、前記仮想空間画像に対して前記移動装置に関するアイコンの移動に基づく変更後の仮想空間位置情報を受信する受信部と、を有し、前記送信部は、前記移動装置に対して、前記変更後の仮想空間位置情報に対応する変更後の実空間位置情報を送信する、通信管理サーバである。
【発明の効果】
【0007】
本開示によれば、遠隔でイベントに参加する者が現場の者とコミュニケーションを取り易くすることができる。
【図面の簡単な説明】
【0008】
【
図1】本実施形態の通信システムの全体構成図である。
【
図2】実空間における教室の状況を示した図である。
【
図3】通信管理システムのハードウェア構成図である。
【
図4】教師端末、ロボット端末、及び生徒端末のハードウェア構成図である。
【
図5】マイク付きイヤホンのハードウェア構成図である。
【
図7】広角撮影装置の使用イメージ図の一例である。
【
図8】広角撮影装置で撮像された画像から正距円筒射影画像及び全天球画像が作成されるまでの処理の概略を説明する図である。
【
図9】広角撮影装置で撮像された画像から正距円筒射影画像及び全天球画像が作成されるまでの処理の概略を説明する図である。
【
図10】全天球画像を三次元の立体球とした場合の仮想カメラ及び所定領域の位置を示した図である。
【
図12】所定領域情報と所定領域の画像の関係との関係を示した図の一例である。
【
図16】各端末及びロボットのログイン処理を示したシーケンス図である。
【
図17】音声通信及び映像音声通信の開始処理、並びに出席登録の処理を示すシーケンスである。
【
図19】仮想空間画像の表示の処理を示すシーケンスである。
【
図20】教師及びロボットの現在位置を示す各アイコン、各生徒の初期位置を示す各アイコン、並びにロボットからの映像を含む仮想空間画像を示す図である。
【
図21】ロボットのアイコンを移動させた後の仮想空間画像を示す図である。
【
図22】ロボットが移動後の実空間における教室の状況を示した図である。
【
図23】ロボット端末に映し出された遠隔の生徒の映像を示す図である。
【
図24】専用の音声通信を行う処理を示すシーケンス図である。
【
図25】専用の音声通信を行う相手のアイコンを選択した状態の仮想空間画像を示す図である。
【
図26】ヘッドマウントディスプレイのハードウェア構成図である。
【発明を実施するための形態】
【0009】
〔通信システムの概略〕
図1を用いて通信システム1の概略を説明する。
図1は、本実施形態の通信システムの全体構成図である。
【0010】
通信システム1は、通信管理サーバ3、教師端末5、マイク付きイヤホン6、生徒端末9、及びテレプレゼンスロボット(以降「ロボット」と示す)Rによって構築されている。
【0011】
ロボットRは、主に、ロボット端末7、広角撮影装置8、及びロボットRを移動させる車両装置10によって構成されている。本実施形態のロボットRは自律走行するが、自律走行しなくてもよい。なお、ロボットRは移動装置の一例であり、移動装置には、ドローンのように空中を移動するもの、潜水艦型ラジコンのように水中を移動するものも含まれる。また、車両装置10は、推進装置の一例である。なお、ロボットRには、温度センサ、湿度センサ、酸素センサ、又は二酸化炭素センサ等の環境センサが設けされ、ロボットRの周囲を照らす照明装置等も設けられている。
【0012】
通信管理サーバ3、教師端末5、生徒端末9、ロボットRのロボット端末7は、インターネット等の通信ネットワーク100を介して通信することができる。通信形態は、有線又は無線を問わない。
図1では、教師端末5、生徒端末9、及びロボット端末7は、無線通信することが示されている。また、マイク付きイヤホン6は、教師端末5とのペアリングにより近距離通信ができる。通信管理サーバ3は、複数のサーバによって構築されていてもよい。
【0013】
なお、教師端末5及び生徒端末9は通信端末の一例である。
【0014】
〔実空間の状況〕
続いて、
図2を用いて実空間(実世界)の現場としての教室の状況を説明する。
図2は、実空間における教室の状況を示した図である。
図2では、実空間の教室に、4名の生徒S1~S4が、予め定められた各自の机D1~D4のところに着席しており、教師T1が授業を行っている。生徒S5,S6は、教室の授業には出席しておらず、自宅等の遠隔地から遠隔授業に参加しているため、教室には、生徒S5,S6の机D5,D6はあるが、生徒S5,S6はいない。なお、教師T1,T2は「教師T」の一例、生徒S1~S6は「生徒S」の一例、机D1~D6は「机D」の一例、及びロボットR1,R2は「ロボットR」の一例である。また、教師端末5a,5bは「教師端末5」の一例、マイク付きイヤホン6a,6bは「マイク付きイヤホン6」の一例、ロボット端末7a,7bは「ロボット端末7」の一例、及び生徒端末9e,9fは「生徒端末9」の一例である。更に、広角撮影装置8a,8bは「広角撮影装置8」の一例、及び車両装置10a,10bは、「車両装置10」の一例である。
【0015】
また、
図2では、教室について説明するが、これに限るものではなく、展示会、セミナー会場等であってもよい。また、生徒数、机の数、及び教師数も、これに限るものではない。また、授業は「イベント」の一例であり、イベントには、展示、講演等も含まれる。
【0016】
更に、
図2に示すように、教室では、ロボットR1が初期位置として教壇の前に位置し、教室全体を撮影している。
【0017】
教師T1は教師端末5aを所持しており、いつでも操作することができる。なお、教師端末5aは、
図1の教師端末5の一例である。
【0018】
ロボットR1は、ロボット端末7a、広角撮影装置8a、及び車両装置10aによって構成されている。ロボット端末7aは、
図1のロボット端末7の一例である。広角撮影装置8aは、
図1の広角撮影装置8の一例である。車両装置10aは、
図1の車両装置10の一例である。
【0019】
〔ハードウェア構成〕
続いて、
図3乃至
図13を用いて、通信システム1を構築しているサーバ及び端末等のハードウェア構成を説明する。
【0020】
<通信システムのハードウェア構成>
図3は、通信管理システムのハードウェア構成図である。
【0021】
図3に示すように、通信管理サーバ3は、一般的なコンピュータの構成を有しており、例えば、CPU(Central Processing Unit)301、ROM(Read Only Memory)302、RAM(Random Access Memory)303,SSD(Solid State Drive)304、ディスプレイ308等を有する。また、通信管理サーバ3は、ネットワークI/F306、キーボード311、ポインティングデバイス312、メディアI/F307、及びバス310等を有する。なお、SSDではなくHDD(Hard Disk Drive)であってもよい。
【0022】
CPU301は、例えば、ROM302、SSD304等に格納されたプログラムやデータを読み出し、処理を実行することにより、通信管理サーバ3が備える各機能を実現する演算装置である。ROM302は、IPL等のCPU301の起動に用いられるプログラム等を予め記憶した不揮発性のメモリである。RAM303は、CPU301のワークエリア等として利用される揮発性のメモリである。
【0023】
SSD344は、例えば、OSや、アプリケーションソフトのプログラムや、各種のデータを記憶するストレージ装置である。ディスプレイ3058は、例えば、カーソル、メニュー、ウィンドウ、文字、又は画像等の各種の情報を表示する表示手段である。
【0024】
ネットワークI/F306は、通信ネットワーク2を利用してデータ通信を行うための通信インタフェースである。キーボード311は、システム管理者等による文字、数値、各種指示などの入力操作を受け付けるための入力手段の一例である。ポインティングデバイス312は、システム管理者等による各種指示の選択や実行、処理対象の選択、カーソルの移動等の操作を受け付ける。なお、マウス等であってもよい。
【0025】
メディアI/F307は、例えば、メモリカード等の記録メディア306に対するデータの読み出しや、書き込み(記憶)を制御する。上記の各構成要素を電気的に接続し、アドレス信号、データ信号、及び各種の制御信号等を伝達する。
【0026】
<教師端末、ロボット端末、及び生徒端末のハードウェア>
図4は、教師端末、ロボット端末、及び生徒端末のハードウェア構成図である。
【0027】
図4に示すように、教師端末5は、CPU501、ROM502、RAM503、EEPROM504、CMOSセンサ505、撮像素子I/F506、加速度・方位センサ507、メディアI/F509、GPS受信部511を備えている。
【0028】
これらのうち、CPU501は、教師端末5全体の動作を制御する。ROM502は、CPU501やIPL等のCPU501の駆動に用いられるプログラムを記憶する。RAM503は、CPU501のワークエリアとして使用される。EEPROM504は、CPU501の制御にしたがって、教師端末用プログラム等の各種データの読み出し又は書き込みを行う。CMOS(Complementary Metal Oxide Semiconductor)センサ505は、CPU501の制御に従って被写体(主に自画像)を撮像して画像データを得る内蔵型の撮像手段の一種である。なお、CMOSセンサではなく、CCD(Charge Coupled Device)センサ等の撮像手段であってもよい。撮像素子I/F506は、CMOSセンサ505の駆動を制御する回路である。加速度・方位センサ507は、地磁気を検知する電子磁気コンパスやジャイロコンパス、加速度センサ等の各種センサである。メディアI/F509は、フラッシュメモリ等の記録メディア508に対するデータの読み出し又は書き込み(記憶)を制御する。GPS受信部511は、GPS衛星からGPS信号を受信する。また、GPS受信部511は、IMES(Indoor MEssaging System)等の屋内の位置を示す信号を受信することも可能である。
【0029】
また、教師端末5は、遠距離通信回路512、CMOSセンサ513、撮像素子I/F514、マイク515、スピーカ516、音入出力I/F517、ディスプレイ518、外部機器接続I/F519、近距離通信回路520、近距離通信回路520のアンテナ520a、及びタッチパネル521を備えている。
【0030】
これらのうち、遠距離通信回路512は、通信ネットワーク100を介して、他の機器と通信する回路である。CMOSセンサ513は、CPU501の制御に従って被写体を撮像して画像データを得る内蔵型の撮像手段の一種である。撮像素子I/F514は、CMOSセンサ513の駆動を制御する回路である。マイク515は、音を電気信号に変える内蔵型の回路である。スピーカ516は、電気信号を物理振動に変えて音楽や音声などの音を生み出す内蔵型の回路である。音入出力I/F517は、CPU501の制御に従ってマイク515及びスピーカ516との間で音信号の入出力を処理する回路である。ディスプレイ518は、被写体の画像や各種アイコン等を表示する液晶や有機EL(Electro Luminescence)などの表示手段の一種である。外部機器接続I/F519は、各種の外部機器を接続するためのインタフェースである。近距離通信回路520は、NFC(Near Field Communication)やBluetooth(登録商標)等の通信回路である。タッチパネル521は、利用者がディスプレイ518を押下することで、教師端末5を操作する入力手段の一種である。
【0031】
また、教師端末5は、バスライン510を備えている。バスライン510は、
図4に示されているCPU401等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0032】
なお、ロボット端末7、及び生徒端末9は、教師端末5と同様の構成であるため、説明を省略する。
【0033】
<マイク付きイヤホンのハードウェア構成>
図5は、マイク付きイヤホンのハードウェア構成図である。
【0034】
図5に示すように、マイク付きイヤホン6は、マイク615、スピーカ616、音入出力I/F617、近距離通信回路620、近距離通信回路520のアンテナ620a、及びボタン621を備えている。
【0035】
マイク615は、音を電気信号に変える内蔵型の回路である。スピーカ616は、電気信号を物理振動に変えて音楽や音声などの音を生み出す内蔵型の回路である。音入出力I/F617は、マイク515及びスピーカ516との間で音信号の入出力を処理する回路である。近距離通信回路520は、NFC(Near Field Communication)やBluetooth(登録商標)等の通信回路である。ボタン621は、利用者がマイク付きイヤホン6を操作する操作手段の一種である。
【0036】
<広角撮影装置のハードウェア構成>
図6を用いて、広角撮影装置8のハードウェア構成を説明する。
図6は、広角撮影装置8のハードウェア構成図である。以下では、広角撮影装置8は、2つの撮像素子を使用した全天球(全方位)広角撮影装置8であるが、撮像素子は2つ以上いくつでもよい。また、必ずしも全方位撮像専用の装置である必要はなく、通常のデジタルカメラやスマートフォン等に後付けの全方位の撮像ユニットを取り付けることで、実質的に広角撮影装置8と同じ機能を有するようにしてもよい。
【0037】
図6に示されているように、広角撮影装置8は、撮像ユニット801、画像処理ユニット804、撮像制御ユニット805、マイク808、音処理ユニット809、CPU811、ROM812、SRAM813、DRAM814、操作部815、ネットワークI/F816、近距離通信回路817、アンテナ817a、電子コンパス818、ジャイロセンサ819、及び、加速度センサ820なども接続される。
【0038】
このうち、撮像ユニット801は、各々半球画像を結像するための180°以上の画角を有する広角レンズ(いわゆる魚眼レンズ)802a、802bと、各広角レンズに対応させて設けられている2つの撮像素子803a、803bを備えている。撮像素子803a、803bは、魚眼レンズ802a、802bによる光学像を電気信号の画像データに変換して出力するCMOS(Complementary Metal Oxide Semiconductor)センサやCCD( Charge Coupled Device)センサなどの画像センサ、この画像センサの水平又は垂直同期信号や画素クロックなどを生成するタイミング生成回路、この撮像素子の動作に必要な種々のコマンドやパラメータなどが設定されるレジスタ群などを有している。
【0039】
撮像ユニット801の撮像素子803a、803bは、各々、画像処理ユニット804とパラレルI/Fバスで接続されている。一方、撮像ユニット801の撮像素子803a、803bは、撮像制御ユニット805とは別に、シリアルI/Fバス(I2Cバス等)で接続されている。画像処理ユニット804、撮像制御ユニット805及び音処理ユニット809は、バス810を介してCPU811と接続される。更に、バス810には、ROM812、SRAM813、DRAM814、操作部815、ネットワークI/F816、近距離通信回路817、及び電子コンパス818なども接続される。
【0040】
画像処理ユニット804は、撮像素子803a、803bから出力される画像データをパラレルI/Fバスを通して取り込み、それぞれの画像データに対して所定の処理を施した後、これらの画像データを合成処理して、
図8(c)に示されているような正距円筒射影画像のデータを作成する。
【0041】
撮像制御ユニット805は、一般に撮像制御ユニット805をマスタデバイス、撮像素子803a、803bをスレーブデバイスとして、I2Cバスを利用して、撮像素子803a、803bのレジスタ群にコマンド等を設定する。必要なコマンド等は、CPU811から受け取る。また、撮像制御ユニット805は、同じくI2Cバスを利用して、撮像素子803a、803bのレジスタ群のステータスデータ等を取り込み、CPU811に送る。
【0042】
また、撮像制御ユニット805は、操作部815のシャッターボタンが押下されたタイミングで、撮像素子803a、803bに画像データの出力を指示する。広角撮影装置8によっては、ディスプレイによるプレビュー表示機能や動画表示に対応する機能を持つ場合もある。この場合は、撮像素子803a、803bからの画像データの出力は、所定のフレームレート(フレーム/分)によって連続して行われる。
【0043】
撮像制御ユニット805は、後述するように、CPU811と協働して撮像素子803a、803bの画像データの出力タイミングの同期をとる同期制御手段としても機能する。なお、本実施形態では、広角撮影装置8にはディスプレイが設けられていないが、表示部を設けてもよい。
【0044】
マイク808は、収録した音声を音声データに変換する。音処理ユニット809は、マイク808から出力される音声データをI/Fバスを通して取り込み、音声データに対して所定の処理を施す。
【0045】
CPU811は、広角撮影装置8の全体の動作を制御すると共に必要な処理を実行する 。ROM812は、CPU811のための種々のプログラムを記憶している。SRAM813及びDRAM814はワークメモリであり、CPU811で実行するプログラムや処理途中のデータ等を記憶する。特にDRAM814は、画像処理ユニット804での処理途中の画像データ及び処理済みの正距円筒射影画像のデータを記憶する。
【0046】
操作部815は、シャッターボタンなどの操作ボタンの総称である。操作者は操作部815を操作することで、種々の撮像モードや撮像条件などを入力する。
【0047】
ネットワークI/F816は、SDカード等の外付けのメディアやパーソナルコンピュータなどとのインタフェース回路(USBI/F等)の総称である。また、ネットワークI/F816としては、無線、有線を問わない。DRAM814に記憶された正距円筒射影画像のデータは、このネットワークI/F816を介して外付けのメディアに記録されたり、必要に応じてネットワークI/F816を介して外部(装置等)に送信されたりする。
【0048】
近距離通信回路817は、広角撮影装置8に設けられたアンテナ817aを介して、Wi-Fi、NFC、Bluetooth(登録商標)等の近距離無線通信技術によって、外部(ロボット端末7等)との通信を行う。この近距離通信回路817によっても、正距円筒射影画像のデータを外部に送信することができる。
【0049】
電子コンパス818は、地球の磁気から広角撮影装置8の方位を算出し、方位情報を出力する。この方位情報はExif(Exchangeable image file format)に沿った関連情報(メタデータ)の一例であり、撮像画像の画像補正等の画像処理に利用される。なお、関連情報には、画像の撮像日時、及び画像データのデータ容量の各データも含まれている。
【0050】
ジャイロセンサ819は、広角撮影装置8の移動に伴う角度の変化(ロール角、ピッチング角、ヨー角)を検出する。角度の変化はExifに沿った関連情報(メタデータ)の一例であり、撮像画像の画像補正等の画像処理に利用される。
【0051】
加速度センサ820は3軸方向の加速度を検出する。検出した加速度に基づいて広角撮影装置8の姿勢(重力方向に対する角度)を検出する。ジャイロセンサ819と加速度センサ820は両方を有することで画像補正の精度が向上する。
【0052】
(全天球映像について)
次に、
図7を用いて、広角撮影装置8の使用状況を説明する。なお、
図7は、広角撮影装置8の使用イメージ図である。広角撮影装置8は、
図7に示されているように、例えば、人が持って周りの被写体や風景を撮像するために用いられる。この場合、
図6に示されている撮像素子803a及び撮像素子803bによって、それぞれ、人の周りの被写体が撮像されることで、2つの半球画像を得ることができる。
【0053】
次に、
図8及び
図9を用いて、広角撮影装置8で撮像された画像から正距円筒射影画像EC及び全天球画像CEが作成されるまでの処理の概略を説明する。なお、
図8(a)は広角撮影装置8で撮像された半球画像(前側)、
図8(b)は広角撮影装置8で撮像された半球画像(後側)、
図8(c)は正距円筒図法により表された画像(以下、「正距円筒射影画像」という)を示した図である。
図9(a)は正距円筒射影画像で球を被う状態を示した概念図、
図9(b)は全天球画像を示した図である。
【0054】
図8(a)に示されているように、撮像素子803aによって得られた画像は、後述の魚眼レンズ802aによって湾曲した半球画像(前側)となる。また、
図8(b)に示されているように、撮像素子803bによって得られた画像は、魚眼レンズ802bによって湾曲した半球画像(後側)となる。そして、半球画像(前側)と、180度反転された半球画像(後側)とは、広角撮影装置8によって合成され、
図8(c)に示されているように、正距円筒射影画像ECが作成される。
【0055】
そして、OpenGL ES(Open Graphics Library for Embedded Systems)が利用されることで、
図9(a)に示されているように、正距円筒射影画像が球面を覆うように貼り付けられ、
図9(b)に示されているような全天球画像CEが作成される。このように、全天球画像CEは、正距円筒射影画像ECが球の中心を向いた画像として表される。なお、OpenGL ESは、2D(2-Dimensions) 及び3D(3-Dimensions)のデータを視覚化するために使用するグラフィックスライブラリである。なお、全天球画像CEは、静止画であっても動画であってもよい。
【0056】
以上のように、全天球画像CEは、球面を覆うように貼り付けられた画像であるため、人間が見ると違和感を持ってしまう。そこで、全天球画像CEの一部の所定領域(以下、上記の「所定領域映像」に相当)を湾曲の少ない平面画像として表示することで、人間に違和感を与えない表示をすることができる。これに関して、
図10及び
図11を用いて説明する。所定領域映像は動画でも静止画でもよい。
【0057】
図10は、全天球画像を三次元の立体球とした場合の仮想カメラ及び所定領域の位置を示した図である。仮想カメラICは、三次元の立体球として表示されている全天球画像CEに対して、その画像を見る操作者の視点の位置に相当するものである。また、
図11(a)は
図10の立体斜視図、
図11(b)はディスプレイに表示された場合の所定領域映像を表す図である。また、
図11(a)では、
図10に示されている全天球画像が、三次元の立体球CSで表されている。このように生成された全天球画像CEが、立体球CSであるとすると、
図11に示されているように、仮想カメラICが全天球画像CEの内部に位置している。全天球画像CEにおける所定領域Tは、仮想カメラICの撮像領域であり、全天球画像CEを含む三次元の仮想空間における仮想カメラICの撮像方向と画角を示す所定領域情報によって特定される。また、所定領域Tのズームは、仮想カメラICを全天球画像CEに近づいたり、遠ざけたりすることで表現することもできる。所定領域映像Qは、全天球画像CEにおける所定領域Tの画像である。したがって、所定領域Tは画角αと、仮想カメラICから全天球画像CEまでの距離fにより特定できる(
図12参照)。
【0058】
図11(a)に示されている所定領域映像Qは、
図11(b)に示されているように、所定のディスプレイに、仮想カメラICの撮像領域の画像として表示される。
図11(b)に示されている画像は、初期設定(デフォルト)された所定領域情報によって 表された所定領域映像である。以下では、仮想カメラICの撮像方向(ea、aa)と画角(α)を用いて説明する。なお、所定領域Tは、画角αと距離fではなく、所定領域Tである仮想カメラICの撮像領域(X、Y、Z)によって示してもよい。
【0059】
また、
図11(a)の状態から、
図11(c)に示されているように、仮想カメラICの仮想的な視点が右側(図面に向かって左側)に移動(「変更」ともいう)されると、これに応じて全天球画像CEにおける所定領域Tが所定領域T'に移動されるため、所定のディスプレイに表示される所定領域画像Qが所定領域画像Q'に変更される。これにより、送信先の教師端末5及び生徒端末9の各ディスプレイ518には、
図11(b)に示されている画像が、
図11(d)に示されている画像に変更表示される。
【0060】
次に、
図12を用いて、所定領域情報と所定領域Tの画像の関係について説明する。なお、
図12は、所定領域情報と所定領域Tの画像の関係との関係を示した図である。
図12に示されているように、「ea」はelevation angle(仰角)、「aa」はazimuth angle(方位角)、「α」は画角(Angle)を示す。即ち、撮像方向(ea、aa)で示される仮想カメラICの注視点が、仮想カメラICの撮像領域である所定領域Tの中心点CPとなるように、仮想カメラICの姿勢を変更することになる。
図12に示されているように、仮想カメラICの画角αによって表される所定領域Tの対角画角をαとした場合の中心点CPが、所定領域情報の(x、y)パラメータとなる。fは仮想カメラICから中心点CPまでの距離である。Lは所定領域Tの任意の頂点と中心点CPとの距離である(2Lは対角線)。そして、
図12では、一般的に以下の(式1)で示される三角関数が成り立つ。
(L/f)=tan(α/2)・・・(式1)
<車両装置のハードウェア構成>
図13は、車両装置のハードウェア構成図である。車両装置10は、例えば、CPU1001、ROM1002、RAM1003、外部機器接続I/F1019、近距離通信回路1020、近距離通信回路1020のアンテナ1020a、車輪駆動部1021、及び操舵部1022等を有する。
【0061】
CPU1001は、ROM1002等に格納されたプログラムを実行することにより、車両装置10の各機能を実現する演算装置である。ROM1002は、車両装置10のプログ ラム等を記憶する不揮発性のメモリである。ROM1002は、例えば、フラッシュROM等の書き換え可能な不揮発性メモリであっても良い。RAM1003は、CPU1001のワークエリア等として用いられる揮発性のメモリである。
【0062】
外部機器接続I/F1019は、ロボット端末7等と有線接続し、通信を行うための有線通信インタフェースである。
【0063】
近距離通信回路1020は、例えば、ロボット端末7等と同じ無線通信方式により無線通信を行うための無線通信インタフェースである。
【0064】
車輪駆動部1021は、車両装置10を移動させるための車輪を駆動させる駆動装置の一例である。車輪駆動部1021には、例えば、モータ等が含まれる。
【0065】
操舵部1022は、車輪駆動部1021によって移動する車両装置10の操舵を行う操舵装置の一例である。操舵部1022は、例えば、車輪の向きや傾きを変えるものであっても良いし、左右の車輪の回転数や速度等を制御することにより、車両装置10(ロボットR)の向きを変えるもの等であっても良い。
【0066】
〔通信システムの各機能構成〕
続いて、
図14を用いて、通信システム1の各機能構成を説明する。
図14は、通信システム1の各機能構成図である。
【0067】
<通信管理サーバ>
図14に示されているように、通信管理サーバ3は、送受信部31、認証部35、位置設定部36、画像作成部37、及び参加登録部38を有している。これら各部は、
図3に示されている各構成要素のいずれかが、SSD304からRAM303上に展開されたプログラムに従ったCPU301からの命令によって動作することで実現される機能又は手段である。また、通信管理サーバ3は、
図3に示されているROM302、RAM303、又はSSD304によって構築される記憶部40を有している。なお、記憶部40には、実空間上の位置と仮想空間上の位置との対応関係を示す位置対応情報(マッチング情報)が記憶されている。また、記憶部40には、各生徒Sの実空間における座席の位置を示す座席位置情報が記憶されている。
【0068】
(位置情報管理テーブル)
記憶部40には、
図15に示されているような位置情報管理テーブルが記憶されている。位置情報管理テーブルでは、人又はロボットの名称(人の場合は名前等)、ログインID、パスワード、アイコンID、アイコン画像、実空間位置情報、仮想空間位置情報、参加先、及び専用の音声通信の相手を示す各情報が関連付けて管理されている。なお、前半の情報(名称、ログインID、パスワード、アイコンID、及びアイコン画像)は、滅多に変更されない情報であり、後半の情報(実空間位置情報、仮想空間位置情報、参加先、及び専用の音声通信の相手)は、実空間の教室での状況及び遠隔授業に参加している生徒Sの操作により変更される可能性が高い情報である。なお、アイコン画像は、模式的に示しているに過ぎず、実際にはアイコンのデータ又はアイコンが記憶されている記憶部40におけるURL等が管理される。また、アイコンは、所定の人に関するものだけでなく、この同じ所定の人が使用する通信端末(教師端末5、生徒端末9等)に関するものと言うこともできる。
【0069】
また、「参加先」は、例えば、
図20において、教師T1のアイコンt1、各生徒Sのアイコンが関連付けられたロボットR1(ここでは、ロボットR1のアイコンID)を特定するための情報である。「専用の音声通信相手」は、教師Tが他の生徒には音声を聞こえない状態で音声通信する場合の相手先(ここでは、アイコンID)を特定するための情報である。
【0070】
(各機能構成)
送受信部31は、他の端末(装置)とデータ通信を行う。
【0071】
認証部35は、他の端末(装置)のログイン認証等を行う。
【0072】
位置設定部36は、実空間上の位置と仮想空間上の位置との対応関係を示す位置対応情報(マッチング情報)に基づいて、
図15の「仮想空間位置情報」フィールドに、実空間端末位置情報に対応する仮想空間上の位置を示す仮想空間端末(装置)位置情報を記憶して設定する等の処理を行う。また、位置設定部36は、逆に、位置対応情報に基づいて、「実空間位置情報」フィールドに、仮想空間端末(装置)位置情報に対応する実空間上の位置を示す実空間位置情報を記憶して設定する等の処理を行う。
【0073】
画像作成部37は、後述の
図18の出席登録画像、及び
図20等の仮想空間画像を作成する。
【0074】
参加登録部38は、仮想空間の遠隔授業へ、教師T(又は教師Tの通信端末)及び遠隔の生徒S(生徒Sの通信端末)を参加させる登録を行う。
【0075】
なお、通信管理サーバ3は、複数のサーバによって構築されていてもよい。この場合、位置情報管理テーブルの各フィールドは、各サーバの役割に応じて分割して記憶される。
【0076】
<教師端末>
図14に示されているように、教師端末5は、通信部50、送受信部51、受付部52、位置取得部53、及び表示制御部54を有している。これら各部は、
図3に示されている各構成要素のいずれかが、EEPROM504からRAM503上に展開されたプログラムに従ったCPU501からの命令によって動作することで実現される機能又は手段である。
【0077】
通信部50は、近距離通信回路520の処理等により、マイク付きイヤホン6との通信を行う。
【0078】
送受信部51は、通信ネットワーク100を介して、他の端末(装置)とデータ通信を行う。
【0079】
受付部52は、人(教師T等)の操作を受け付ける。
【0080】
位置取得部53は、GPS受信部511等の処理により、屋外又は屋内の位置を示す位置情報を取得する。
【0081】
表示制御部54は、教師端末5のディスプレイ518に対して、各種画像を表示させる。
【0082】
<ロボット端末>
図14に示されているように、ロボットR(ロボット端末7)は、送受信部71、受付部72、位置取得部73、表示制御部74、及び移動制御部78を有している。これら各部は、
図3に示されている各構成要素のいずれかが、EEPROM504からRAM503上に展開されたプログラムに従ったCPU501からの命令によって動作することで実現される機能又は手段である。
【0083】
送受信部71は、通信ネットワーク100を介して、他の端末(装置)とデータ通信を行う。
【0084】
受付部72は、人(教師T等)の操作を受け付ける。
【0085】
位置取得部73は、GPS受信部511等の処理により、屋外又は屋内の位置を示す位置情報を取得する。
【0086】
表示制御部74は、ロボット端末7のディスプレイ518に対して、各種画像を表示させる。
【0087】
移動制御部78は、通信管理サーバ3からの指示により、車両装置10を駆動させてロボットRを移動するための制御を行う。
【0088】
<生徒端末>
図14に示されているように、生徒端末9は、送受信部91、受付部92、及び表示制御部94有している。これら各部は、
図3に示されている各構成要素のいずれかが、EEPROM504からRAM503上に展開されたプログラムに従ったCPU501からの命令によって動作することで実現される機能又は手段である。
【0089】
送受信部71は、通信ネットワーク100を介して、他の端末(装置)とデータ通信を行う。
【0090】
受付部72は、人(生徒S等)の操作を受け付ける。
【0091】
表示制御部74は、生徒端末9のディスプレイ518に対して、各種画像を表示させる。
【0092】
〔通信システムの処理又は動作〕
続いて、
図16乃至
図25を用いて、通信システムの処理又は動作について説明する。
【0093】
<ログイン処理>
まずは、
図16を用いて、各端末及びロボットのログイン処理を説明する。
図16は、各端末及びロボットのログイン処理を示したシーケンス図である。なお、ロボットRの場合、実際にはロボット端末7がログインを行う。また、ここでは、マイク付きイヤホン6a、教師端末5a、ロボットR1(ロボット端末7a)、通信管理サーバ3、及び生徒端末9fの処理について説明する。
【0094】
S11:ロボットR1の受付部72は教師T1からログイン操作(ログインID及びパスワードの入力等)を受け付け、送受信部71が通信管理サーバ3に対して、映像音声通信へのログイン要求を送信する。また、このログイン要求には、ロボットR1のログインID及びパスワード等が含まれている。更に、ログイン要求には、ロボットR1の実空間上(ここでは、教室内)の位置を示す実空間装置位置情報も含まれている。ロボットR1の実空間装置位置情報は、ロボットR1の位置取得部73によって取得されたロボットR1の実空間内の位置を示す情報である。これにより、通信管理サーバ3の送受信部31は、ロボットR1からのログイン要求を受信する。
【0095】
S12:通信管理サーバ3では、認証部35が、送受信部31によって処理S11で受信されたログインID及びパスワードの組が、位置情報管理テーブルで管理されているログインID及びパスワードの組と一致するか否かによりログイン認証を行う。ログイン認証が成功した場合、位置設定部36は、この認証に用いたログインID及びパスワードを含むレコードの「実空間位置情報」フィールドに、処理S11で受信された実空間装置位置情報を記憶する。なお、後述の処理S51が開始される前であれば、実空間装置位置情報の送受信のタイミングは、処理S11に限らずいつでもよい。認証結果は、ロボット端末7aに返信される。
【0096】
S13:ログインの前に、マイク付きイヤホン6aと教師端末a5との間でペアリングを行うことで、マイク付きイヤホン6aを教師端末5aと近距離無線接続する。
【0097】
S14:教師端末5aの受付部52は教師T1からログイン操作(ログインID及びパスワードの入力等)を受け付け、送受信部51が通信管理サーバ3に対して、仮想空間及び音声通信へのログイン要求を送信する。また、このログイン要求には、教師T1のログインID及びパスワード等が含まれている。更に、ログイン要求には、教師端末5aの実空間上の位置を示す実空間端末位置情報も含まれている。教師端末5aの実空間端末位置情報は、教師端末5aの位置取得部53によって取得された教師端末5aの実空間内(ここでは、教室内)の位置を示す情報である。これにより、通信管理サーバ3の送受信部31は、教師端末5aからのログイン要求を受信する。なお、教師端末5aが移動する度に、教師端末5aから通信管理サーバ3に移動後の実空間端末位置情報が送信される。
【0098】
S15:通信管理サーバ3では、認証部35が、送受信部31によって処理S12で受信されたログインID及びパスワードの組が、位置情報管理テーブルで管理されているログインID及びパスワードの組と一致するか否かによりログイン認証を行う。ログイン認証が成功した場合、位置設定部36は、この認証に用いたログインID及びパスワードを含むレコードの「実空間位置情報」フィールドに、処理S12で受信された実空間位置情報を記憶する。なお、後述の処理S51が開始される前であれば、実空間端末位置情報の送受信のタイミングは、処理S12に限らずいつでもよい。認証結果は、教師端末5aに返信される。
【0099】
S16:参加登録部38は、処理S14で受信されたログインIDで特定されるレコードの「参加先」フィールドに、処理S12で登録されたロボットR1のログインID「L31」を登録することで、教師T1はロボットR1が存在する教室に対する遠隔授業に参加する。これにより、教師T1は、実空間の教室の授業に出席すると共に、仮想空間の遠隔授業にも参加する。
【0100】
S17:生徒端末9fの受付部92は生徒S6からログイン操作(ログインID及びパスワードの入力等)を受け付け、送受信部91が通信管理サーバ3に対して、通信管理サーバ3のサービスへのログイン要求を送信する。また、このログイン要求には、生徒端末9fのログインID及びパスワード等が含まれている。これにより、通信管理サーバ3の送受信部31は、生徒端末9fからのログイン要求を受信する。
【0101】
S18:通信管理サーバ3では、認証部35が、送受信部31によって処理S17で受信されたログインID及びパスワードの組が、位置情報管理テーブルで管理されているログインID及びパスワードの組と一致するか否かによりログイン認証を行う。ログイン認証が成功した場合、位置設定部36は、この認証に用いたログインID及びパスワードを含むレコードの「仮想空間位置情報」フィールドに、予め定められている仮想空間位置情報を登録する。この仮想空間位置情報が予め定められている例として、教室内の生徒の机の位置が固定されているために対応する仮想空間の位置が固定されている場合、授業の前に各生徒Sが自分の席を登録している場合等が考えられる。認証結果は、生徒端末9fに返信される。なお、以降は、上記全てのログイン認証が成功した場合について説明を続ける。
【0102】
S19:参加登録部38は、処理S17で受信されたログインIDで特定されるレコードの「参加先」フィールドに、処理S12で登録されたロボットR1のログインID「L31」を登録することで、ロボットR1が存在する教室に対する遠隔授業に参加する。なお、
図15では、生徒S6だけでなく、生徒端末9eを使用する生徒S5も、ロボットR1が存在する教室に対する遠隔授業に参加する場合が示されている。
【0103】
<音声通信、映像音声通信、及び出席登録>
続いて、
図17及び
図18を用いて、音声通信及び映像音声通信の開始処理、並びに出席登録の処理を説明する。
図17は、音声通信及び映像音声通信の開始処理、並びに出席登録の処理を示すシーケンスである。
【0104】
S31:通信管理サーバ3の送受信部31は、位置情報管理テーブルを参照し、「参加先」フィールドで、同じロボットR1のログインID「L31」が管理されている教師端末5(ここでは教師端末5a)及び生徒端末9(ここでは生徒端末9e,9f)との間で、音声の通信セッションを確立させる。また、マイク付きイヤホン6と教師端末5aとの間は、上述の処理S13により近距離無線接続が行われているため、マイク付きイヤホン6a、教師端末5a、及び生徒端末9eの間では、音声通信を行うことができる。
【0105】
S32:通信管理サーバ3の送受信部31は、位置情報管理テーブルを参照し、「参加先」フィールドで、ロボットR1のログインID「L31」が管理されている生徒端末9(ここでは生徒端末9e,9f)と、当該ロボットR1との間で、映像及び音声の通信セッションを確立させる。これにより、ロボットR1と生徒端末9e,9fは、通信管理サーバ3を介して、相互に映像音声通信を行うことができる。例えば、ロボットR1が撮影して得た教室の映像及び音声のデータを送信すると、生徒端末9e,9fのディスプレイ518上に教室の映像が表示され、教室内の音声が出力される。一方、生徒端末9e,9fが撮影して得た生徒S5,S6の顔の映像のデータ及び生徒S5,S6の音声のデータを送信すると、ロボットR1ではロボット端末7aのディスプレイ518上に生徒S5,S6の顔の映像が表示され、生徒S5,S6の音声が出力される(
図23参照)。
【0106】
S33:教師端末5aの受付部52は、教師T1から出席登録画像の要求を受け付ける。そして、送受信部51は通信管理サーバ3に対して出席登録画像の要求を送信する。これにより、通信管理サーバ3の送受信部31は出席登録画像の要求を受信する。
【0107】
S34:画像作成部37は、記憶部40に記憶されている座席位置情報を読み出して、出席登録画像を作成する。
【0108】
S35:送受信部31は、教師端末5aに対して、画像作成部37によって作成された出席登録画像のデータを送信する。これにより、教師端末5aの送受信部51は、出席登録画像のデータを受信する。
【0109】
S36:教師端末5aでは、
図18に示すように、表示制御部54が教師端末5aのディスプレイ518上に出席登録画像が示された画面110を表示させる。
図18は、生徒の出席登録画像を示す図である。
図18には、教室のレイアウトが表示され、予め定められた生徒の机の位置及び生徒名が示されたアイコンα1~α6が表示されている。また、出席登録画像の右下部には、出席を登録するための「登録」ボタン119が表示されている。
【0110】
ここで、受付部52が、教師T1からカーソルc1により各アイコンを選択することで、実空間の教室への出席の結果を受け付ける。
図18では、実空間の教室に、生徒S1~S4が出席し、生徒S5,S6が出席していない状態が示されている。そして、受付部52が、教師T1から「登録」ボタンの押下を受け付けると、送受信部51が通信管理サーバ3に対して、教師T1から受け付けた出席を示す出席情報を送信する。この出席情報には、出席した生徒を特定する生徒特定情報が含まれている。生徒特定情報は、生徒名、生徒のログインID、又は生徒のアイコンのアイコンIDである。これにより、通信管理サーバ3の送受信部31は、出席情報を受信する。
【0111】
S37:通信管理サーバ3では、位置設定部36が、位置情報管理テーブルにおいて、生徒特定情報で特定されるレコードの「仮想空間位置情報」フィールドに、予め定められている仮想空間位置情報を登録する。この仮想空間位置情報が予め定められている例として、教室内の生徒の机の位置が固定されている場合、授業の前に各生徒が自分の席を登録している場合等が考えられる。
【0112】
以上により、
図2に示すように、生徒S1~S4は実空間の教室の授業に出席し、生徒S5,S6は仮想空間の遠隔授業に参加した状態になる。
【0113】
<画像空間画像の表示>
続いて、
図19乃至
図23を用いて、画像空間画像の表示の処理を説明する。
図19は、仮想空間画像の表示の処理を示すシーケンスである。
【0114】
S51:通信管理サーバ3では、位置設定部36が、実空間上の位置と仮想空間上の位置との対応関係を示す位置対応情報(マッチング情報)に基づき、位置情報管理テーブルにおける教師T1のレコードの「仮想空間位置情報」フィールドに、「実空間位置情報」フィールドに記憶されている実空間端末位置情報に対応する仮想空間端末情報を記憶して設定する。同様に、位置設定部36が、位置対応情報(マッチング情報)に基づき、位置情報管理テーブルにおけるロボットR1のレコードの「仮想空間位置情報」フィールドに、「実空間位置情報」フィールドに記憶されている実空間端末位置情報に対応する仮想空間端末情報を記憶して設定する。これにより、教師T1及びロボットR1の実空間での移動は、仮想空間でのアイコンt1,r1の移動に反映される。更に、本実施形態では、ロボットR1のアイコンr1の仮想空間での移動は、実空間でのロボットR1の移動に反映される。
【0115】
また、画像作成部37は、
図20に示すように、実空間の教室を模式化したレイアウトマップm1に対して、座席位置情報、及び位置情報管理テーブルで管理されている仮想空間位置情報に基づき、この仮想空間位置情報に対応するアイコン画像をマッピングすることで、仮想空間画像を作成する。
【0116】
S52:送受信部31は、生徒端末9fに対して、画像作成部37によって作成された仮想空間画像のデータを送信する。これにより、生徒端末9fの送受信部91は、仮想空間画像のデータを受信する。
【0117】
S53:次に、生徒端末9fでは、表示制御部94がディスプレイ518上に
図20に示すような仮想空間画像が示された画面120を表示させる。
【0118】
図20は、教師及びロボットの現在位置を示す各アイコン、各生徒の初期位置を示す各アイコン、並びにロボットからの映像を含む仮想空間画像を示す図である。
図20に示すように、仮想空間画像には、実空間上の教室を模式化したレイアウトマップm1、教師T1のアイコンt1、ロボットR1のアイコンr1、各生徒S1~S6のアイコンs1~s6、及び各机D1~D6のアイコンd1~d6が示されている。ここでは、実空間上の現在位置の教師T1のアイコンt1、及び実空間上の現在位置のロボットRのアイコンr1が示されている。また、予め仮想空間上の位置が定められた各アイコンs1~s6,d1~d6が示されている。
【0119】
更に、画面120内の右側には、別画面(ポップアップ画面等)121として、処理32の映像音声通信によって、ロボットR1から送られて来た現在の実空間の教室の映像が示され、ロボットR1からの音声も出力されている。
【0120】
また、教師T1の教師端末5aと、生徒S5の生徒端末9e及び生徒S6の生徒端末9fは、処理S31の音声通信を行うことができる。そのため、教師T1はマイク付きイヤホン6aを用い、生徒S5,S6に対して実空間の教室の様子を説明することができ、生徒S5は生徒端末9eを用い、また生徒S6は生徒端末9fを用い、教師T1に対して実空間の授業に関する質問等を行うことができる。
【0121】
なお、ロボットR1は、映像音声の通信により、教室から遠隔の生徒端末9e,9fに音声のデータを送信することができるが、ロボットR1の周囲の雑音や会話等を収音してしまう。これに対して、上述の映像音声通信を用いる場合、教師T1は、ロボットR1に対して話しかけないで、マイク付きイヤホン6を用いて話すため、生徒S5,S6には、教師T1の声をクリアに聞くことができる。
【0122】
S54:生徒端末9eでは、受付部92が生徒S6から、
図21に示すようにカーソルc2を用いてアイコンr1を移動させる操作を受け付ける。そして、送受信部91は、通信管理サーバ3に対してアイコンr1の移動による変更後の仮想空間位置情報を送信する。この仮想空間位置情報には、ロボットR1のアイコンID「r31」が含まれている。これにより、通信管理サーバ3の送受信部31は、変更後の仮想空間位置情報を受信する。
【0123】
なお、位置設定部36は、位置情報管理テーブルにおいて、処理S54で受信されたアイコンIDに対応する「仮想空間位置情報」フィールドに、変更後の仮想空間位置情報を上書きする。これにより、画像作成部37は、上書きされた変更後の仮想空間位置情報を用いて最新の仮想空間画像を作成する。更に、位置設定部36は、位置対応情報(マッチング情報)を用いて、同じレコードの「実空間位置情報」フィールドに対し、変更後の仮想空間位置情報に対応する変更後の実空間位置情報を上書きする。このように、処理S51~S54が繰り返されることで、生徒端末9eに表示される仮想空間画像が更新される。
【0124】
S55:送受信部31は、ロボットR1に対して、処理S54で上書きされた変更後の実空間位置情報を送信する。これにより、ロボットR1の送受信部71は、変更後の実空間位置情報を受信する。
【0125】
S56:ロボットR1では、移動制御部78が処理S55によって受信された変更後の実空間位置情報に基づいて、この実空間位置情報で示される実空間の教室内の位置に移動するように、車両装置10に対して移動制御する。これにより、
図22に示すように、実空間の教室内では、ロボットR1が、生徒S3の近くに移動する。例えば、遠隔授業に参加している生徒S6が、実空間の教室の授業に出席している生徒S3と話し合うような場合、
図21に示すように、生徒S6が生徒端末9fの仮想空間画面上でロボットR1のアイコンr1を生徒S3のアイコンs3の近くに移動させる。これにより、
図22に示すように、実空間の教室内のロボットRが生徒S3の近くまで移動するため、教室内の生徒S3と遠隔の生徒S6は、ロボットR1を介して話し合うことができる。この場合、
図23に示すように、ロボットR1のロボット端末7aには、処理32の映像音声通信よって、遠隔の生徒S5,S6が映し出されているため、生徒S3は、実空間に近い感覚で、生徒S6と話し合うことができる。
【0126】
<専用の音声通信>
続いて、
図24及び
図25を用いて、専用の音声通信を行う処理を説明する。
図24は、専用の音声通信を行う処理を示すシーケンス図である。
図25は、専用の音声通信を行う相手のアイコンを選択した状態の仮想空間画像を示す図である。
【0127】
S71:生徒端末9aでは、受付部92が生徒S6から、
図25に示すようにカーソルc2を用いて、教師T1のアイコンt1を選択する操作を受け付ける。そして、送受信部91は、通信管理サーバ3に対して、専用の音声セッションの確立要求として、アイコンt1の選択を示す情報を送信する。この情報には、選択した者である生徒S6のアイコンID「s26」及び選択された教師T1のアイコンt1のアイコンID「t11」が含まれている。これにより、通信管理サーバ3の送受信部31は、アイコンの選択を示す情報を受信する。
【0128】
S72:通信管理サーバ3の送受信部31は、位置情報管理テーブルのアイコンID「t11」のレコードの「専用の音声通信相手」フィールドにログインID「L26」を記憶して管理すると共に、位置情報管理テーブルのアイコンID「s26」のレコードの「専用の音声通信相手」フィールドにログインID「L11」を記憶して管理する。これにより、送受信部91は、専用の音声通信相手として相互に管理しているログインID「L11」が用いられている教師端末5aと、専用の音声通信相手として相互に管理しているログインID「L26」が用いられている生徒端末9fとの間で、専用の音声の通信セッションを確立させる。また、マイク付きイヤホン6aと教師端末5aとの間は、上述の処理S13により近距離無線接続が行われているため、マイク付きイヤホン6a、教師端末5a、及び生徒端末9fの間では、専用の音声通信を行うことができる。これにより、生徒S6は、他の生徒S5等に音声内容を聞かれない状態で、教師T1に相談したり、逆に、教師T1は、他の生徒S5に等に音声内容を聞かれない状態で、生徒S6に回答したりすることができる。
【0129】
なお、
図25では、生徒S6は教師T1のアイコンt1を選択したが、これに限るものではない。例えば、生徒S6は遠隔の他の生徒S5のアイコンs5を選択して、生徒S5と専用の音声通信による話し合いを行ってもよい。
【0130】
また、教師端末5及び生徒端末9のうち少なくとも一方は、ヘッドマウントディスプレイ(HMD:Head Mounted Display)でもよい。ここで、
図26を用いて、HMDのハードウェア構成を説明する。
図26は、ヘッドマウントディスプレイのハードウェア構成図である。
【0131】
図26に示すように、HMDは、コンピュータとして、
図26に示されているように、CPU201、ROM202、RAM203、外部機器接続I/F205、ディスプレイ207、操作部208、メディアI/F209、バスライン210、スピーカ212、電子コンパス218、ジャイロセンサ219、加速度センサ220を備えている。
【0132】
これらのうち、CPU201は、HMD全体の動作を制御する。ROM202は、IPL等のCPU201の駆動に用いられるプログラムを記憶する。RAM203は、CPU201のワークエリアとして使用される。
【0133】
外部機器接続I/F205は、各種の外部機器を接続するためのインタフェースである。この場合の外部機器は、通信管理サーバ3、マイク付きイヤホン6等である。
【0134】
ディスプレイ207は、各種画像を表示する液晶や有機EL(Electro Luminescence)などの表示部の一種である。
【0135】
操作部208は、種々の操作ボタンや電源スイッチ、物理ボタン、ユーザの視線を検知して操作する視線操作回路等の各種指示の選択や実行、処理対象の選択、カーソルの移動等を行うための入力手段である。
【0136】
メディアI/F209は、フラッシュメモリ等の記録メディア209mに対するデータの読み出し又は書き込み(記憶)を制御する。記録メディア209mには、DVDやBlu-ray Disc(登録商標)等も含まれる。
【0137】
スピーカ212は、電気信号を物理振動に変えて音楽や音声などの音を生み出す回路である。
【0138】
電子コンパス218は、地球の磁気からHMDの方位を算出し、方位情報を出力する。
【0139】
ジャイロセンサ219は、HMDの移動に伴う角度の変化(roll角、Pitch角、Yaw角)を検出するセンサである。
【0140】
加速度センサ220は、三軸方向の加速度を検出するセンサである。
【0141】
バスライン210は、CPU201等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0142】
また、この場合、教師端末5及び生徒端末9の各機能構成(
図14参照)は、RAM253に記憶されたプログラムに従ったCPU201からの命令によって実現される。
【0143】
なお、この場合の教師端末5の位置取得部53は、電子コンパス218、ジャイロセンサ219、及び加速度センサ220の処理により、屋内の位置を示す位置情報を取得する。また、位置取得部53が屋外の位置を示す位置情報を取得するために、HMDは
図4のGPS受信部511と同様の構成を有していてもよい。更に、教師端末5の通信部50は、外部機器接続I/F205の処理等により、マイク付きイヤホン6との無線通信を行う。
【0144】
〔実施形態の主な効果〕
以上説明したように、本実施形態によれば、
図21に示すように、遠隔授業に参加している生徒S6が、仮想空間画像上でロボットR1のアイコンr1を移動させることで、実空間のロボットR1が
図2に示す位置から、アイコンr1の移動に応じた
図22の位置に移動する。これにより、遠隔授業等のイベントに参加する生徒S6が現場である教室の生徒S3とコミュニケーションを取り易くすることができる。
【0145】
更に、上述のように、教師Tは、ロボットRに対して話しかけないで、マイク付きイヤホン6を用いて、遠隔の生徒Sと会話をすることができるため、遠隔の生徒SはロボットRの周囲の雑音や会話等が混じった音声を聞くのではなく、生徒Sのクリアな音声を聞くことができる。
【0146】
また、
図25に示すように、遠隔授業等のイベントに参加している生徒S6が、直接話したい相手(ここでは、教師T1)のアイコンt1を選択することで、処理S31による音声の通信セッションとは別である専用の音声の通信セッションが確立するため(処理S72)、他の生徒S5等には聞かれたくない内容について教師T1と話すことができる。
【0147】
〔補足〕
上述の実施形態における各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本実施形態における「処理回路」は、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上述した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)、SOC(System on a chip)、GPU、及び従来の回路モジュール等のデバイスを含む。
【0148】
また、上記各プログラムは、(非一時的な)記録媒体に記録されることで、流通されるようにしてもよい。
【0149】
各CPU201,301,501,801,1001は、単一であってもよく複数であってもよい。
【符号の説明】
【0150】
R ロボット(移動装置の一例)
1 通信システム
3 通信管理サーバ
5 教師端末(他の通信端末の一例)
6 マイク付きイヤホン(音声入出力デバイスの一例)
7 ロボット端末
8 広角撮影装置
9 生徒端末
9e 生徒端末(他の通信端末の一例)
9f 生徒端末(所定の通信端末の一例)
10 車両装置
31 送受信部(送信部の一例、受信部の一例、音声通信確立部の一例、通信確立部の一例)
35 認証部
36 位置設定部
37 画像作成部
38 参加登録部
40 記憶部
【先行技術文献】
【特許文献】
【0151】