IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社リコーの特許一覧

特開2024-135598通信制御サーバ、通信システム、通信制御方法、及びプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024135598
(43)【公開日】2024-10-04
(54)【発明の名称】通信制御サーバ、通信システム、通信制御方法、及びプログラム
(51)【国際特許分類】
   G06Q 50/10 20120101AFI20240927BHJP
   H04N 23/661 20230101ALI20240927BHJP
   G16Y 20/10 20200101ALI20240927BHJP
   G16Y 20/20 20200101ALI20240927BHJP
   G16Y 40/10 20200101ALI20240927BHJP
   G16Y 40/20 20200101ALI20240927BHJP
   G16Y 40/30 20200101ALI20240927BHJP
   G16Y 40/60 20200101ALI20240927BHJP
【FI】
G06Q50/10
H04N23/661
G16Y20/10
G16Y20/20
G16Y40/10
G16Y40/20
G16Y40/30
G16Y40/60
【審査請求】未請求
【請求項の数】23
【出願形態】OL
(21)【出願番号】P 2023046375
(22)【出願日】2023-03-23
(71)【出願人】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100107515
【弁理士】
【氏名又は名称】廣田 浩一
(72)【発明者】
【氏名】荒海 雄一
(72)【発明者】
【氏名】永塚 広明
(72)【発明者】
【氏名】野澤 友志
【テーマコード(参考)】
5C122
5L049
5L050
【Fターム(参考)】
5C122DA27
5C122EA63
5C122EA67
5C122FA02
5C122GC14
5C122GC17
5C122HA86
5C122HB01
5L049CC11
5L049CC17
5L050CC11
5L050CC17
(57)【要約】
【課題】本開示は、移動装置の状態を考慮して遠隔操作対象の移動装置を切り替えることを目的とする。
【解決手段】本開示は、実空間で移動するロボットRと当該ロボットRを遠隔操作するユーザ端末9との通信を制御する通信制御サーバ3であって、ユーザ端末9と通信中のロボットR11から、ロボットR11の状態を示す状態情報を受信し(S51)、状態情報で示されるロボットR11の状態が所定状態であることに基づいて(S52)、ユーザ端末9との通信をロボットR11からロボットR12に切り替える制御を行う(S55,S56)通信制御サーバである。
【選択図】図25
【特許請求の範囲】
【請求項1】
実空間で移動する移動装置を遠隔操作する通信端末との通信を制御する通信制御サーバであって、
前記通信端末と通信中の第1の移動装置から、当該第1の移動装置の状態を示す状態情報を受信する状態受信部と、
前記状態情報で示される前記第1の移動装置の状態が所定状態であることに基づいて、前記通信端末との通信を前記第1の移動装置から第2の移動装置に切り替える制御を行う通信制御部と、
を有する通信制御サーバ。
【請求項2】
請求項1に記載の通信制御サーバであって、
前記状態情報で示される前記第1の移動装置の状態が所定状態の場合には、前記通信端末に対して、当該通信端末との通信を前記第1の移動装置から前記第2の移動装置に切り替えるための推奨を行う推奨部を有し、
前記通信制御部は、前記通信端末からの前記推奨に応じる旨の応答に基づき、前記通信端末との通信を前記第1の移動装置から前記第2の移動装置に切り替える、
通信制御サーバ。
【請求項3】
前記所定状態は、前記移動装置の電池残量が第1の残量未満の状態、前記移動装置の通信速度が第1の通信速度未満の状態、前記移動装置の前回のメンテナンスからの総操作時間が第1の時間以上の状態、又は前記移動装置に第1の故障が発生している状態である、請求項2に記載の通信制御サーバ。
【請求項4】
前記状態情報で示される前記第1の移動装置の状態が前記所定状態よりも悪い特定状態の場合には、前記推奨部は前記通信端末に対して前記推奨を行わずに、前記通信制御部は強制的に前記通信端末との通信を前記第1の移動装置から前記第2の移動装置に切り替える、請求項3に記載の通信制御サーバ。
【請求項5】
前記特定状態は、前記移動装置の電池残量が前記第1の残量より少ない第2の残量未満になった状態、前記移動装置の通信速度が前記第1の通信速度より遅い第2の通信速度未満になった状態、前記移動装置の前回のメンテナンスからの総操作時間が第1の時間より長い第2の時間以上の状態、又は前記移動装置に前記第1の故障より状態が悪い第2の故障が発生している状態である、請求項4に記載の通信制御サーバ。
【請求項6】
請求項5に記載の通信制御サーバであって、
前記特定状態が前記移動装置の電池残量が前記第1の残量より低い第2の値未満になった状態の場合、前記通信制御部が第2の通信端末に切り替えた後に、前記第1の移動装置に対して、充電ステーションに移動する指示を送信する指示送信部を有する通信制御サーバ。
【請求項7】
請求項1に記載の通信制御サーバであって、
前記第1の移動装置から当該第1の移動装置の位置である第1の位置を示す第1の位置情報を受信すると共に、前記第2の移動装置を含む複数の移動装置から当該複数の移動装置の各位置を示す各位置情報を受信する位置受信部を有し、
前記通信制御部は、前記各位置のうち前記第1の位置から所定距離内の位置の前記第2の移動装置に切り替える、
通信制御サーバ。
【請求項8】
請求項2に記載の通信制御サーバであって、
前記第1の移動装置から当該第1の移動装置の位置である第1の位置を示す第1の位置情報を受信すると共に、前記第2の移動装置を含む複数の移動装置から当該複数の移動装置の各位置を示す各位置情報を受信する位置受信部を有し、
前記推奨部は、前記各位置のうち前記第1の位置から所定距離内の位置の前記第2の移動装置に切り替えるための推奨を行う、
通信制御サーバ。
【請求項9】
前記状態受信部は、前記第2の移動装置を含む複数の移動装置から当該複数の移動装置の各状態を示す各状態情報を受信し、
前記通信制御部は、前記各状態のうち基準状態を満たす前記第2の移動装置に切り替える、
請求項1に記載の通信制御サーバ。
【請求項10】
前記基準状態は、前記移動装置の電池残量が基準量以上である状態、前記移動装置の通信速度が基準速度以上である状態、又は前記移動装置が故障していない状態である、請求項9に記載の通信制御サーバ。
【請求項11】
前記状態受信部は、前記第2の移動装置を含む複数の移動装置から当該複数の移動装置の各状態を示す各状態情報を受信し、
前記推奨部は、前記各状態のうち基準状態を満たす前記第2の移動装置に切り替えるための推奨を行う、
請求項2に記載の通信制御サーバ。
【請求項12】
前記基準状態は、前記移動装置の電池残量が基準量以上である状態、前記移動装置の通信速度が基準速度以上である状態、又は前記移動装置が故障していない状態である、請求項11に記載の通信制御サーバ。
【請求項13】
請求項1に記載の通信制御サーバであって、
前記第1の移動装置並びに前記第2の移動装置を含む複数の移動装置の各性能を記憶する記憶部を有し、
前記通信制御部は、前記記憶部で記憶されている前記各性能に基づいて、前記第1の移動装置と同様の所定性能を有する前記第2の移動装置に切り替える、
通信制御サーバ。
【請求項14】
前記所定性能は、前記第1の移動装置における撮影装置の種類、又は前記第1の移動装置の最大移動速度である、請求項13に記載の通信制御サーバ。
【請求項15】
請求項1に記載の通信制御サーバであって、
前記第2の移動装置を含む複数の移動装置から当該複数の移動装置の各位置を示す各位置情報を受信する位置受信部と、
他の通信端末又は人感センサから、混雑状況を示す状況情報を受信する状況受信部と、
を有し、
前記通信制御部は、前記混雑状況が所定未満の位置の前記第2の移動装置に切り替える、
通信制御サーバ。
【請求項16】
請求項15に記載の通信制御サーバであって、
前記状態情報で示される前記第1の移動装置の状態が所定状態の場合には、前記通信端末に対して、当該通信端末との通信を前記第1の移動装置から、前記混雑状況が所定未満の位置の前記第2の移動装置へ切り替えるための推奨を行う推奨部を有し、
前記通信制御部は、前記通信端末からの前記推奨に応じる旨の応答に基づき、前記通信端末との通信を前記第1の移動装置から前記第2の移動装置に切り替える、
通信制御サーバ。
【請求項17】
請求項1に記載の通信制御サーバであって、
前記第1の移動装置並びに前記第2の移動装置を含む複数の移動装置の操作予約を記憶する記憶部を有し、
前記通信制御部は、前記記憶部で記憶されている前記操作予約に基づいて、前記通信端末から遠隔操作可能な操作予約が行われている前記第2の移動装置に切り替える、
通信制御サーバ。
【請求項18】
請求項17に記載の通信制御サーバであって、
前記状態情報で示される前記第1の移動装置の状態が所定状態の場合には、前記通信端末に対して、前記通信端末から遠隔操作可能な操作予約が行われている前記第2の移動装置に切り替えるための推奨を行う推奨部を有し、
前記通信制御部は、前記通信端末からの前記推奨に応じる旨の応答に基づき、前記通信端末との通信を前記第1の移動装置から前記第2の移動装置に切り替える、
通信制御サーバ。
【請求項19】
請求項7に記載の通信制御サーバであって、
前記通信端末に対して、前記第1の位置を示す第1のアイコン及び前記各位置を示す各アイコンを表す画面のデータを送信する画面送信部を有する、通信制御サーバ。
【請求項20】
実空間で移動する第1の移動装置及び第2の移動装置と、
前記第1の移動装置又は前記第2の移動装置を遠隔操作する通信端末と、
前記第1の移動装置及び前記第2の移動装置と前記通信端末との通信を制御する通信制御サーバと、
を有する通信システムであって、
前記通信制御サーバは、
前記通信端末と通信中の第1の移動装置から、当該第1の移動装置の状態を示す状態情報を受信する状態受信部と、
前記状態情報で示される前記第1の移動装置の状態が所定状態であることに基づいて、前記通信端末との通信を前記第1の移動装置から第2の移動装置に切り替える制御を行う通信制御部と、
を実行する、
通信システム。
【請求項21】
実空間で移動する移動装置と当該移動装置を遠隔操作する通信端末との通信を制御する通信制御サーバが実行する通信制御方法であって、
前記通信制御サーバは、
前記通信端末と通信中の第1の移動装置から、当該第1の移動装置の状態を示す状態情報を受信する状態受信処理と、
前記状態情報で示される前記第1の移動装置の状態が所定状態であることに基づいて、前記通信端末との通信を前記第1の移動装置から第2の移動装置に切り替える切替処理と、
を実行する通信制御方法。
【請求項22】
実空間で移動する移動装置と当該移動装置を遠隔操作する通信端末との通信を制御するためのプログラムであって、
コンピュータに、
前記通信端末と通信中の第1の移動装置から、当該第1の移動装置の状態を示す状態情報を受信する状態受信処理と、
前記状態情報で示される前記第1の移動装置の状態が所定状態であることに基づいて、前記通信端末との通信を前記第1の移動装置から第2の移動装置に切り替える切替処理と、
を実行させるプログラム。
【請求項23】
前記所定状態は予め設定されている、請求項1乃至6のいずれか一項に記載の通信制御サーバ。
【発明の詳細な説明】
【技術分野】
【0001】
本開示内容は、通信制御サーバ、通信システム、通信制御方法、及びプログラムに関する。
【背景技術】
【0002】
実空間の展示場などにおいて、出展者がテレプレゼンスロボット(以下「ロボット」と示す)と共に展示場を見学するツアーが登場している。展示場の遠隔見学を希望するユーザは、自分のPC(Personal Computer)等で、通信ネットワークを介して、ロボットに搭載されたカメラからの映像を見たり、ロボットに搭載されたマイクからの出展者の音声を聞いたりすることにより、遠隔地からでもリアルに近い臨場感で見学をすることができることが既に知られている。
【0003】
また、様々な展示場に対応するため、一人のユーザが複数のロボットのそれぞれを切り替えて遠隔操作することが提案されている(特許文献1)。この特許文献1では、第1のロボットが実空間の走行路上の所定位置(切り替えポイント)に到達した場合に、第2のロボットに切り替えることができる。
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1では、第1のロボット等の第1の移動装置の位置を考慮して第2のロボット等の第2の移動装置に切り替えているが、移動装置の状態を考慮して、遠隔操作対象の移動装置を切り替えることができなかった。
【0005】
本開示は、上述の課題を鑑みてなされたもので、移動装置の状態を考慮して遠隔操作対象の移動装置を切り替えることを目的とする。
【課題を解決するための手段】
【0006】
請求項1に係る発明は、実空間で移動する移動装置と当該移動装置を遠隔操作する通信端末との通信を制御する通信制御サーバであって、前記通信端末と通信中の第1の移動装置から、当該第1の移動装置の状態を示す状態情報を受信する状態受信部と、前記状態情報で示される前記第1の移動装置の状態が所定状態であることに基づいて、前記通信端末との通信を前記第1の移動装置から第2の移動装置に切り替える制御を行う通信制御部と、を有する通信制御サーバである。
【発明の効果】
【0007】
本開示によれば、移動装置の状態を考慮して遠隔操作対象の移動装置を切り替えることができるという効果を奏する。
【図面の簡単な説明】
【0008】
図1】通信システムの全体構成図である。
図2】実空間における展示場の状況を示した図である。
図3】通信制御サーバのハードウェア構成図である。
図4】出展者端末、ロボット端末、及びユーザ端末のハードウェア構成図である。
図5】人感センサのハードウェア構成図である。
図6】広角撮影装置のハードウェア構成図である。
図7】広角撮影装置の使用イメージ図の一例である。
図8】(a)は広角撮影装置8で撮像された半球画像(前側)、(b)は広角撮影装置8で撮像された半球画像(後側)、(c)は正距円筒図法により表された画像(以下、「正距円筒射影画像」という)を示した図である。
図9】(a)は正距円筒射影画像で球を被う状態を示した概念図、(b)は全天球画像を示した図である。
図10】全天球画像を三次元の立体球とした場合の仮想カメラ及び所定領域の位置を示した図である。
図11】(a)は図10の立体斜視図、(b)は(a)の状態の所定領域画像がディスプレイに表示されている図、(c)は(a)における仮想カメラICの視点を変更後の所定領域を示した図、(d)は(c)の状態の所定領域画像がディスプレイに表示されている図である。
図12】所定領域情報と所定領域の画像の関係との関係を示した図の一例である。
図13】車両装置のハードウェア構成図である。
図14】通信システムの各機能構成図である。
図15】ユーザ管理テーブルの概念図である。
図16】出展者管理テーブルの概念図である。
図17】ロボット位置管理テーブルの概念図である。
図18】ロボット予約管理テーブルの概念図である。
図19】ロボット性能・状態管理テーブルの概念図である。
図20】ロボットの予約、ブースの状況等の管理、実空間上のロボットの位置の管理等を示すシーケンス図である。
図21】ユーザ端末で表示されるロボット予約画面を示す図である。
図22】ユーザ端末からロボットの遠隔操作を開始するための処理を示したシーケンス図である。
図23】ユーザ端末で表示される遠隔操作画面を示す図である。
図24】初期状態の各ロボットの位置を示す仮想空間画面の拡大図である。
図25】遠隔操作対象のロボットを切り替える処理を示すシーケンス図である。
図26】状態対応処理を示すフローチャートである。
図27】ユーザ端末で表示される遠隔操作画面を示す図である。
図28】遠隔操作対象のロボットを切り替えた後の各ロボットの位置を示す仮想空間画面の拡大図である。
【発明を実施するための形態】
【0009】
〔通信システムの概略〕
図1を用いて通信システム1の概略を説明する。図1は、テレプレゼンスロボット(以降「ロボット」と示す)Rを用いた通信システムの全体構成図である。
【0010】
通信システム1は、通信制御サーバ3、出展者端末5、人感センサ6、ユーザ端末9、及びロボットRによって構築されている。図1では、図面の制約上、出展者端末5、人感センサ6、ユーザ端末9、及びロボットRは、それぞれ1つずつ示されているが、実際の運用ではそれぞれ複数存在する。
【0011】
ロボットRは、主に、ロボット端末7、広角撮影装置8、及びロボットRを移動させる車両装置10によって構成されている。本実施形態のロボットRは基本的に自律走行するが、自律走行しなくてもよい。なお、ロボットRは移動装置の一例であり、移動装置には、ドローンのように空中を移動する装置、潜水艦型ラジコンのように水中を移動する装置も含まれる。また、車両装置10は、推進装置の一例である。
【0012】
また、ロボットR地下、狭路、地中を移動してもよい。また、陸上を移動する場合、車輪で移動するだけでなく、2足、3足、4足などの多脚移動を行ってもよいし、キャタピラ(登録商標)で移動してもよい。
【0013】
更に、ロボットRは、固定されていないロボットである。ロボットRが固定されていないとは、ロボットRが車輪等による移動のための駆動部を有する移動型である場合と、人が装着でき、マニピュレータ等の動作のための駆動部を有する装着型である場合とを含む。
移動型のロボットは、一輪、二輪又は多輪により走行するもの、キャタピラにより走行するもの、レールの上を走行するもの、飛び跳ねて移動するもの、二足歩行、四足歩行又は多足歩行するもの、スクリューにより水上又は水中を航行するもの及びプロペラ等により飛行するものを含む。装着型のロボットは、例えば参考文献1に開示されている。
<参考文献1>MHD Yamen Saraiji, Tomoya Sasaki, Reo Matsumura, Kouta Minamizawa and Masahiko Inami,"Fusion: full body surrogacy for collaborative communication," Proceeding SIGGRAPH '18 ACM SIGGRAPH 2018 Emerging Technologies Article No. 7.
更に、ロボットRは、スポーツスタジアム等に設置され、レールの上を移動可能なカメラを備えたロボットを含む。また、ロボットRは、宇宙空間に打ち上げられる衛星型ロボットであって、姿勢制御やカメラの撮影方向の制御が可能なロボットを含む。また、ロボットRは、いわゆるテレプレゼンスロボットやアバターロボットであってよい。
【0014】
なお、ロボットRには、温度センサ、湿度センサ、酸素センサ、又は二酸化炭素センサ等の環境センサが設けされ、ロボットRの周囲を照らす照明装置等も設けられている。
【0015】
通信制御サーバ3、出展者端末5、人感センサ6、ユーザ端末9、ロボットRのロボット端末7は、LAN(Local Area Network)やインターネット等の通信ネットワーク100を介して通信することができる。通信形態は、有線又は無線を問わない。図1では、出展者端末5、人感センサ6、ユーザ端末9、及びロボット端末7は、無線通信することが示されている。また、人感センサ6は、出展者端末5とのペアリングにより、出展者端末5を介して、通信ネットワークに接続してもよい。なお、出展者端末5及びユーザ端末9は通信端末の一例である。
【0016】
なお、通信制御サーバ3は、複数のサーバによって構築されていてもよい。この場合、各DB41~45は、各サーバに分散して構築されてもよい。
【0017】
〔実空間の状況〕
続いて、図2を用いて実空間の状況を説明する。図2は、実空間における展示場の状況を示した図である。なお、図2では、展示場のエリアαについて説明するが、これに限るものではない。図2では、6つのブースのそれぞれで、各出展者Eによる出展が行われている。
【0018】
展示場のエリアαでは、ロボットRの一例として、各ロボットR11,R12,R13,R14が位置している。ロボットRは、ロボット端末7、広角撮影装置8、及び車両装置10によって構成されている。場合によっては、広角撮影装置8ではなく、通常のデジタルカメラ等の撮影装置が設置されているロボットRも存在する。ロボットRの広角撮影装置8で得た映像及び音のデータはロボット端末7によって、ロボットRを遠隔操作中のユーザYのユーザ端末9に送信される。ユーザYは、映像及び音を考慮してロボットRを遠隔操作することで、車両装置10が駆動してロボットRを移動(回動を含む)させる。これにより、ユーザYは、わざわざ展示場に行かなくても、自宅や会社等で展示場に行ったような疑似体験をすることができる。
【0019】
また、例えば、1人のユーザが1台のロボットR11を遠隔操作している最中に、予め予約してあるロボットR12に切り替えて遠隔操作することも可能である。
【0020】
各出展者Eは出展者端末5を使用することができる。また、各ブースには人感センサ6が設置されており、通信制御サーバ3が、各人感センサ6からブース内及び周辺の人数を示す人数情報を取得して、各ブースやエリア全体の混雑を管理している。
【0021】
また、各出展者Eは出展者端末5を所持しており、通信制御サーバ3を介して遠隔の各ユーザYに、自分のブースの混雑状況やイベント等のメッセージを送る。
【0022】
〔ハードウェア構成〕
続いて、図3乃至図13を用いて、通信システム1を構築しているサーバ及び端末等のハードウェア構成を説明する。
【0023】
<通信システムのハードウェア構成>
図3は、通信制御サーバのハードウェア構成図である。
【0024】
図3に示すように、通信制御サーバ3は、一般的なコンピュータの構成を有しており、例えば、CPU(Central Processing Unit)301、ROM(Read Only Memory)302、RAM(Random Access Memory)303,SSD(Solid State Drive)304、ディスプレイ305、ネットワークI/F306、操作部307、メディアI/F309、及びバスライン310を有する。なお、SSDではなくHDD(Hard Disk Drive)であってもよい。
【0025】
CPU301は、例えば、ROM302、SSD304等に格納されたプログラムやデータを読み出し、処理を実行することにより、通信制御サーバ3が備える各機能を実現する演算装置である。ROM302は、IPL等のCPU301の起動に用いられるプログラム等を予め記憶した不揮発性のメモリである。RAM303は、CPU301のワークエリア等として利用される揮発性のメモリである。
【0026】
SSD304は、例えば、OSや、アプリケーションソフトのプログラムや、各種のデータを記憶するストレージ装置である。ディスプレイ305は、例えば、カーソル、メニュー、ウィンドウ、文字、又は画像等の各種の情報を表示する表示手段である。
【0027】
ネットワークI/F306は、通信ネットワーク100を利用してデータ通信を行うための通信インタフェースである。操作部307は、キーボードやポインティングデバイス等であり、文字、数値、各種指示などの入力操作を受け付けるための入力手段の一例である。
【0028】
メディアI/F309は、例えば、メモリカード等の記録メディア309mに対するデータの読み出しや書き込み(記憶)を制御する。バスライン310は、図3に示されているCPU301等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0029】
<出展者端末、ロボット端末、ユーザ端末のハードウェア>
図4は、出展者端末、ロボット端末及びユーザ端末のハードウェア構成図である。なお、出展者端末5、ロボット端末7及びユーザ端末9のハードウェア構成は、コンピュータとして同様であるため、以降、出展者端末5について説明する。
【0030】
図4に示すように、出展者端末5は、CPU501、ROM502、RAM503、EEPROM504、CMOSセンサ505、撮像素子I/F506、加速度・方位センサ507、メディアI/F509、GPS受信部511を備えている。
【0031】
これらのうち、CPU501は、出展者端末5全体の動作を制御する。ROM502は、CPU501やIPL等のCPU501の駆動に用いられるプログラムを記憶する。RAM503は、CPU501のワークエリアとして使用される。EEPROM504は、CPU501の制御にしたがって、出展者端末用プログラム等の各種データの読み出し又は書き込みを行う。CMOS(Complementary Metal Oxide Semiconductor)センサ505は、CPU501の制御に従って被写体(主に自画像)を撮像して画像データを得る内蔵型の撮像手段の一種である。なお、CMOSセンサではなく、CCD(Charge Coupled Device)センサ等の撮像手段であってもよい。撮像素子I/F506は、CMOSセンサ505の駆動を制御する回路である。加速度・方位センサ507は、地磁気を検知する電子磁気コンパスやジャイロコンパス、加速度センサ等の各種センサである。メディアI/F509は、フラッシュメモリ等の記録メディア508に対するデータの読み出し又は書き込み(記憶)を制御する。GPS受信部511は、GPS衛星からGPS信号を受信する。また、GPS受信部511は、IMES(Indoor MEssaging System)等の屋内の位置を示す信号を受信することも可能である。
【0032】
また、出展者端末5は、遠距離通信回路512、CMOSセンサ513、撮像素子I/F514、マイク515、スピーカ516、音入出力I/F517、ディスプレイ518、外部機器接続I/F519、近距離通信回路520、近距離通信回路520のアンテナ520a、及び操作部521を備えている。
【0033】
これらのうち、遠距離通信回路512は、通信ネットワーク100を介して、他の機器と通信する回路である。CMOSセンサ513は、CPU501の制御に従って被写体を撮像して画像データを得る内蔵型の撮像手段の一種である。撮像素子I/F514は、CMOSセンサ513の駆動を制御する回路である。マイク515は、音を電気信号に変える内蔵型の回路である。スピーカ516は、電気信号を物理振動に変えて音楽や音声などの音を生み出す内蔵型の回路である。音入出力I/F517は、CPU501の制御に従ってマイク515及びスピーカ516との間で音信号の入出力を処理する回路である。ディスプレイ518は、被写体の画像や各種アイコン等を表示する液晶や有機EL(Electro Luminescence)などの表示手段の一種である。外部機器接続I/F519は、各種の外部機器を接続するためのインタフェースである。近距離通信回路520は、Wi-Fi、NFC(Near Field Communication)、Bluetooth(登録商標)等の通信回路である。操作部521は、タッチパネル等であり、文字、数値、各種指示などの入力操作を受け付けるための入力手段の一例である。
【0034】
また、出展者端末5は、バスライン510を備えている。バスライン510は、図4に示されているCPU401等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0035】
なお、ロボット端末7のEEPROM504には、自端末(ロボット端末7)及び広角撮影装置8の故障を検知するためのプログラムが記憶されている。広角撮影装置8ではなく通常の撮影装置がロボットRに取り付けられている場合には、この通常の撮影装置の故障を検知することができる。
【0036】
<人感センサのハードウェア構成>
図5は、人感センサのハードウェア構成図である。
【0037】
図5に示すように、人感センサ6は、検知部601、操作部603、近距離通信回路605、近距離通信回路605のアンテナ605a、及びバスライン610を備えている。
【0038】
検知部601は、人の発する赤外線等を感知して人を検知する回路である。
【0039】
操作部603は、スイッチ、ボタン等であり、各種設定やID等のデータを入力することができる入力手段の一例である。なお、ID等のデータは、操作部603内のキャッシュメモリ等に記憶される。
【0040】
近距離通信回路605は、Wi-Fi、NFC(Near Field Communication)、Bluetooth(登録商標)等の通信回路である。
【0041】
バスライン610は、図5に示されている検知部601等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0042】
<広角撮影装置のハードウェア構成>
図6を用いて、広角撮影装置8のハードウェア構成を説明する。図6は、広角撮影装置8の一例のハードウェア構成図である。以下では、広角撮影装置8は、2つの撮像素子を使用した全天球(全方位)の撮影装置であるが、撮像素子は2つ以上いくつでもよい。また、必ずしも全方位撮像専用の装置である必要はなく、通常のデジタルカメラやスマートフォン等に後付けの全方位の撮像ユニットを取り付けることで、実質的に広角撮影装置8と同じ機能を有するようにしてもよい。
【0043】
図6に示されているように、広角撮影装置8は、撮像ユニット801、画像処理ユニット804、撮像処理ユニット805、マイク808、音処理ユニット809、CPU811、ROM812、SRAM813、DRAM814、操作部815、ネットワークI/F816、近距離通信回路817、アンテナ817a、電子コンパス818、ジャイロセンサ819、及び、加速度センサ820なども接続される。
【0044】
このうち、撮像ユニット801は、各々半球画像を結像するための180°以上の画角を有する広角レンズ(いわゆる魚眼レンズ)802a、802bと、各広角レンズに対応させて設けられている2つの撮像素子803a、803bを備えている。撮像素子803a、803bは、魚眼レンズ802a、802bによる光学像を電気信号の画像データに変換して出力するCMOS(Complementary Metal Oxide Semiconductor)センサやCCD( Charge Coupled Device)センサなどの画像センサ、この画像センサの水平又は垂直同期信号や画素クロックなどを生成するタイミング生成回路、この撮像素子の動作に必要な種々のコマンドやパラメータなどが設定されるレジスタ群などを有している。
【0045】
撮像ユニット801の撮像素子803a、803bは、各々、画像処理ユニット804とパラレルI/Fバスで接続されている。一方、撮像ユニット801の撮像素子803a、803bは、撮像処理ユニット805とは別に、シリアルI/Fバス(I2Cバス等)で接続されている。画像処理ユニット804、撮像処理ユニット805及び音処理ユニット809は、バス810を介してCPU811と接続される。更に、バス810には、ROM812、SRAM813、DRAM814、操作部815、ネットワークI/F816、近距離通信回路817、及び電子コンパス818なども接続される。
【0046】
画像処理ユニット804は、撮像素子803a、803bから出力される画像データをパラレルI/Fバスを通して取り込み、それぞれの画像データに対して所定の処理を施した後、これらの画像データを合成処理して、図8(c)に示されているような正距円筒射影画像のデータを作成する。
【0047】
撮像処理ユニット805は、一般に撮像処理ユニット805をマスタデバイス、撮像素子803a、803bをスレーブデバイスとして、I2Cバスを利用して、撮像素子803a、803bのレジスタ群にコマンド等を設定する。必要なコマンド等は、CPU811から受け取る。また、撮像処理ユニット805は、同じくI2Cバスを利用して、撮像素子803a、803bのレジスタ群のステータスデータ等を取り込み、CPU811に送る。
【0048】
また、撮像処理ユニット805は、操作部815のシャッターボタンが押下されたタイミングで、撮像素子803a、803bに画像データの出力を指示する。広角撮影装置8によっては、ディスプレイによるプレビュー表示機能や動画表示に対応する機能を持つ場合もある。この場合は、撮像素子803a、803bからの画像データの出力は、所定のフレームレート(フレーム/分)によって連続して行われる。
【0049】
撮像処理ユニット805は、後述するように、CPU811と協働して撮像素子803a、803bの画像データの出力タイミングの同期をとる同期制御手段としても機能する。なお、本実施形態では、広角撮影装置8にはディスプレイが設けられていないが、表示部を設けてもよい。
【0050】
マイク808は、収録した音声を音声データに変換する。音処理ユニット809は、マイク808から出力される音声データをI/Fバスを通して取り込み、音声データに対して所定の処理を施す。
【0051】
CPU811は、広角撮影装置8の全体の動作を制御すると共に必要な処理を実行する 。ROM812は、CPU811のための種々のプログラムを記憶している。SRAM813及びDRAM814はワークメモリであり、CPU811で実行するプログラムや処理途中のデータ等を記憶する。特にDRAM814は、画像処理ユニット804での処理途中の画像データ及び処理済みの正距円筒射影画像のデータを記憶する。
【0052】
操作部815は、シャッターボタンなどの操作ボタンの総称である。操作者は操作部815を操作することで、種々の撮像モードや撮像条件などを入力する。
【0053】
ネットワークI/F816は、SDカード等の外付けのメディアやパーソナルコンピュータなどとのインタフェース回路(USBI/F等)の総称である。また、ネットワークI/F816としては、無線、有線を問わない。DRAM814に記憶された正距円筒射影画像のデータは、このネットワークI/F816を介して外付けのメディアに記録されたり、必要に応じてネットワークI/F816を介して外部(装置等)に送信されたりする。
【0054】
近距離通信回路817は、広角撮影装置8に設けられたアンテナ817aを介して、Wi-Fi、NFC、Bluetooth(登録商標)等の近距離無線通信技術によって、外部(ロボット端末7等)との通信を行う。この近距離通信回路817によっても、正距円筒射影画像のデータを外部に送信することができる。
【0055】
電子コンパス818は、地球の磁気から広角撮影装置8の方位を算出し、方位情報を出力する。この方位情報はExif(Exchangeable image file format)に沿った関連情報(メタデータ)の一例であり、撮像画像の画像補正等の画像処理に利用される。なお、関連情報には、画像の撮像日時、及び画像データのデータ容量の各データも含まれている。
【0056】
ジャイロセンサ819は、広角撮影装置8の移動に伴う角度の変化(ロール角、ピッチング角、ヨー角)を検出する。角度の変化はExifに沿った関連情報(メタデータ)の一例であり、撮像画像の画像補正等の画像処理に利用される。
【0057】
加速度センサ820は3軸方向の加速度を検出する。検出した加速度に基づいて広角撮影装置8の姿勢(重力方向に対する角度)を検出する。ジャイロセンサ819と加速度センサ820は両方を有することで画像補正の精度が向上する。
【0058】
(全天球映像について)
次に、図7を用いて、広角撮影装置8の使用状況を説明する。なお、図7は、広角撮影装置8の使用イメージ図である。広角撮影装置8は、図7に示されているように、例えば、人が持って周りの被写体や風景を撮像するために用いられる。この場合、図6に示されている撮像素子803a及び撮像素子803bによって、それぞれ、人の周りの被写体が撮像されることで、2つの半球画像を得ることができる。
【0059】
次に、図8及び図9を用いて、広角撮影装置8で撮像された画像から正距円筒射影画像EC及び全天球画像CEが作成されるまでの処理の概略を説明する。なお、図8(a)は広角撮影装置8で撮像された半球画像(前側)、図8(b)は広角撮影装置8で撮像された半球画像(後側)、図8(c)は正距円筒図法により表された画像(以下、「正距円筒射影画像」という)を示した図である。図9(a)は正距円筒射影画像で球を被う状態を示した概念図、図9(b)は全天球画像を示した図である。
【0060】
図8(a)に示されているように、撮像素子803aによって得られた画像は、後述の魚眼レンズ802aによって湾曲した半球画像(前側)となる。また、図8(b)に示されているように、撮像素子803bによって得られた画像は、魚眼レンズ802bによって湾曲した半球画像(後側)となる。そして、半球画像(前側)と、180度反転された半球画像(後側)とは、広角撮影装置8によって合成され、図8(c)に示されているように、正距円筒射影画像ECが作成される。
【0061】
そして、OpenGL ES(Open Graphics Library for Embedded Systems)が利用されることで、図9(a)に示されているように、正距円筒射影画像が球面を覆うように貼り付けられ、図9(b)に示されているような全天球画像CEが作成される。このように、全天球画像CEは、正距円筒射影画像ECが球の中心を向いた画像として表される。なお、OpenGL ESは、2D(2-Dimensions) 及び3D(3-Dimensions)のデータを視覚化するために使用するグラフィックスライブラリである。なお、全天球画像CEは、静止画であっても動画であってもよい。
【0062】
以上のように、全天球画像CEは、球面を覆うように貼り付けられた画像であるため、人間が見ると違和感を持ってしまう。そこで、全天球画像CEの一部の所定領域(以下、上記の「所定領域映像」に相当)を湾曲の少ない平面画像として表示することで、人間に違和感を与えない表示をすることができる。これに関して、図10及び図11を用いて説明する。所定領域映像は動画でも静止画でもよい。
【0063】
図10は、全天球画像を三次元の立体球とした場合の仮想カメラ及び所定領域の位置を示した図である。仮想カメラICは、三次元の立体球として表示されている全天球画像CEに対して、その画像を見る操作者の視点の位置に相当するものである。また、図11(a)は図10の立体斜視図、図11(b)はディスプレイに表示された場合の所定領域映像を表す図である。また、図11(a)では、図10に示されている全天球画像が、三次元の立体球CSで表されている。このように生成された全天球画像CEが、立体球CSであるとすると、図11に示されているように、仮想カメラICが全天球画像CEの内部に位置している。全天球画像CEにおける所定領域Tは、仮想カメラICの撮像領域であり、全天球画像CEを含む三次元の仮想空間における仮想カメラICの撮像方向と画角を示す所定領域情報によって特定される。また、所定領域Tのズームは、仮想カメラICを全天球画像CEに近づいたり、遠ざけたりすることで表現することもできる。所定領域映像Qは、全天球画像CEにおける所定領域Tの画像である。したがって、所定領域Tは画角αと、仮想カメラICから全天球画像CEまでの距離fにより特定できる(図12参照)。
【0064】
図11(a)に示されている所定領域映像Qは、図11(b)に示されているように、所定のディスプレイに、仮想カメラICの撮像領域の画像として表示される。図11(b)に示されている画像は、初期設定(デフォルト)された所定領域情報によって 表された所定領域映像である。以下では、仮想カメラICの撮像方向(ea、aa)と画角(α)を用いて説明する。なお、所定領域Tは、画角αと距離fではなく、所定領域Tである仮想カメラICの撮像領域(X、Y、Z)によって示してもよい。
【0065】
また、図11(a)の状態から、図11(c)に示されているように、仮想カメラICの仮想的な視点が右側(図面に向かって左側)に移動(「変更」ともいう)されると、これに応じて全天球画像CEにおける所定領域Tが所定領域T'に移動されるため、所定のディスプレイに表示される所定領域画像Qが所定領域画像Q'に変更される。これにより、送信先のユーザ端末9では、図23に示す後述の表示領域150上において、図11(b)に示されている画像が、図11(d)に示されている画像に変更表示される。
【0066】
次に、図12を用いて、所定領域情報と所定領域Tの画像の関係について説明する。なお、図12は、所定領域情報と所定領域Tの画像の関係との関係を示した図である。図12に示されているように、「ea」はelevation angle(仰角)、「aa」はazimuth angle(方位角)、「α」は画角(Angle)を示す。即ち、撮像方向(ea、aa)で示される仮想カメラICの注視点が、仮想カメラICの撮像領域である所定領域Tの中心点CPとなるように、仮想カメラICの姿勢を変更することになる。図12に示されているように、仮想カメラICの画角αによって表される所定領域Tの対角画角をαとした場合の中心点CPが、所定領域情報の(x、y)パラメータとなる。fは仮想カメラICから中心点CPまでの距離である。Lは所定領域Tの任意の頂点と中心点CPとの距離である(2Lは対角線)。そして、図12では、一般的に以下の(式1)で示される三角関数が成り立つ。
(L/f)=tan(α/2)・・・(式1)
<車両装置のハードウェア構成>
図13は、車両装置のハードウェア構成図である。車両装置10は、例えば、CPU1001、ROM1002、RAM1003、状態センサ1008、外部機器接続I/F1019、近距離通信回路1020、近距離通信回路1020のアンテナ1020a、車輪駆動部1021、及び操舵部1022等を有する。
【0067】
CPU1001は、ROM1002等に格納されたプログラムを実行することにより、車両装置10の各機能を実現する演算装置である。ROM1002は、車両装置10のプログ ラム等を記憶する不揮発性のメモリである。ROM1002は、例えば、フラッシュROM等の書き換え可能な不揮発性メモリであっても良い。RAM1003は、CPU1001のワークエリア等として用いられる揮発性のメモリである。
【0068】
状態センサ1008は、ロボットRの移動(走行)、傾き、故障等の状態を検知するセンサである。
【0069】
外部機器接続I/F1019は、ロボット端末7等と有線接続し、通信を行うための有線通信インタフェースである。
【0070】
近距離通信回路1020は、例えば、ロボット端末7等と同じ無線通信方式により無線通信を行うための無線通信インタフェースである。
【0071】
車輪駆動部1021は、車両装置10を移動させるための車輪を駆動させる駆動装置の一例である。車輪駆動部1021には、例えば、モータ等が含まれる。
【0072】
操舵部1022は、車輪駆動部1021によって移動する車両装置10の操舵を行う操舵装置の一例である。操舵部1022は、例えば、車輪の向きや傾きを変えるものであっても良いし、左右の車輪の回転数や速度等を制御することにより、車両装置10(ロボットR)の向きを変えるもの等であっても良い。
【0073】
〔通信システムの各機能構成〕
続いて、図14を用いて、通信システム1の各機能構成を説明する。図14は、通信システム1の各機能構成図である。
【0074】
<通信制御サーバ>
図14に示されているように、通信制御サーバ3は、送受信部31、通信制御部32、認証部33、算出部35、設定部36、画像作成部37、及び状態判断部38を有している。これら各部は、図3に示されている各構成要素のいずれかが、SSD304からRAM303上に展開されたプログラムに従ったCPU301からの命令によって動作することで実現される機能又は手段である。また、通信制御サーバ3は、図3に示されているROM302、RAM303、又はSSD304によって構築される記憶部40を有している。なお、記憶部40には、実空間上の位置と仮想空間上の位置との対応関係を示す位置対応情報(マッチング情報)が記憶されている。
【0075】
(ユーザ管理テーブル)
図15は、ユーザ管理テーブルの概念図である。記憶部40にはユーザDB41が構築されており、ユーザDB41は図15に示すユーザ管理テーブルによって構成されている。ユーザ管理テーブルには、ユーザの名称、ユーザID、パスワード、及びユーザの属性等の各情報が関連付けて管理されている。
【0076】
これらのうち、「ユーザID」は、ユーザを識別するためのユーザ識別情報の一例である。「パスワード」は、各ユーザのパスワードである。
【0077】
「ユーザの属性等」は、ユーザの企業の業種、職業、役職等を示す情報である。
【0078】
(出展者管理テーブル)
図16は、出展者管理テーブルの概念図である。記憶部40には出展者DB42が構築されており、出展者DB42は図16に示す出展者管理テーブルによって構成されている。出展者管理テーブルには、出展者の名称、出展者ID、パスワード、出展者の属性、出展エリア、エリア混雑レベル、ブース名、ブース混雑レベル、出展者によるメッセージの各情報が関連付けて管理されている。
【0079】
これらのうち、「出展者ID」は、出展者を識別するための出展者識別情報の一例である。「パスワード」は、各出展者のパスワードである。
【0080】
「属性」は、出展者(企業、人等)の業種、又は取り扱う商品(若しくはサービス)等を示す情報である。
【0081】
「出展エリア」は、実空間の展示場内の予め定められた出展のエリアを示す。「エリア混雑レベル」は、各出展エリアの混雑レベルを示し、ここでは5段階で管理され、「レベル1」から「レベル5」になるにつれて混雑していることを示す。例えば、レベル1は0人~100人、レベル2は101人~200人、レベル3は201人~300人、レベル4は301人~400人、レベル5は401人以上を示す。
【0082】
「ブース名」は、各出展者Eが出展エリア内を区分けしているブースの名称を示す。「ブース混雑レベル」は、各ブースの混雑レベルを示し、ここでは5段階で管理され、「レベル1」から「レベル5」になるにつれて混雑していることを示す。例えば、レベル1は0人~10人、レベル2は11人~20人、レベル3は21人~30人、レベル4は31人~40人、レベル5は41人以上を示す。ブース混雑レベルは、各ブースに設置されている各人感センサ6からの人数情報に基づいて設定され、各人感センサ6から人数情報が送られて来る度に上書き保存される。なお、「エリア混雑レベル」は同じエリア内の「ブース混雑レベル」の平均値である。
【0083】
「出展者によるメッセージ」は、各出展者端末5から送られて来たメッセージである。
【0084】
(ロボット位置管理テーブル)
図17は、ロボット位置管理テーブルの概念図である。記憶部40にはロボット位置DB43が構築されており、ロボット位置DB43は図17に示すロボット位置管理テーブルによって構成されている。ロボット位置管理テーブルには、ロボットの名称、ロボットID、パスワード、ロボットのアイコン画像、最新の実空間上の位置、最新の仮想空間上の位置、遠隔操作中のユーザのユーザIDの各情報が関連付けて管理されている。
【0085】
これらのうち、「ロボットID」は、ロボットを識別するためのロボット(移動装置)識別情報の一例である。「パスワード」は、各ロボットのパスワードである。
【0086】
「アイコン画像」は、各ユーザ端末に表示される画像であり、ロボットを模式化した画像である。
「最新の実空間上の位置」は、各ロボットRから所定時間(例えば、1秒)毎に送られて来た実空間上の最新の位置情報を示す。
【0087】
「最新の仮想空間上の位置」は、設定部36が上記マッチング情報を用いて各ロボットRの実空間上の位置情報から求めた仮想空間上の最新の位置情報を示す。
【0088】
「遠隔操作中のユーザのユーザID」は、所定のロボットRを遠隔操作しているユーザのユーザIDを示す。これにより、ロボットRと遠隔操作中のユーザとの関係を特定することができる。
【0089】
(ロボット予約管理テーブル)
図18は、ロボット予約管理テーブルの概念図である。記憶部40にはロボット予約DB44が構築されており、ロボット予約DB44は展示日(例えば、2023年1月15日)毎にロボット予約管理テーブルによって構成されている。ロボット予約管理テーブルには、展示エリア、ロボットの名称、ロボットID、初期位置のブース、初期位置の出展者、出展者の属性、予約時間帯、及び参考情報の各情報が関連付けて管理されている。
【0090】
これらのうち、「展示エリア」、「ロボットの名称」、「ロボットID」、及び「出展者の属性」は上述の同じ名称の内容と同じである。
【0091】
「初期位置のブース」は、各ロボットが各展示日の最初(例えば、9:00)に設置された位置の最寄りのブースを示す。
【0092】
「初期位置の出展者」は、各ロボットが各展示日の最初(例えば、9:00)に設置された位置の最寄りのブースで出展している出展者を示す。
【0093】
「予約時間帯」は、時間帯(ここでは、1時間)毎にロボットを予約したユーザのユーザIDが示されている。同じユーザが同じ時間帯で複数のロボットRを予約することが可能である。
【0094】
「参考情報」は、予約するユーザYがロボットRを選択する際に参考にできる情報を示す。例えば、ユーザYが、全天球撮影をする広角撮影装置8が設けられたロボットRを予約したい場合等に参考にされる。
【0095】
(ロボット性能・状態管理テーブル)
図19は、ロボット性能・状態管理テーブルの概念図である。記憶部40にはロボット性能・状態DB45が構築されており、ロボット性能・状態DB45は図19に示すロボット性能・状態管理テーブルによって構成されている。ロボット性能・状態管理テーブルには、ロボットの名称、ロボットID、撮影装置の種類、最大移動速度、電池残量、通信状態、総操作時間、及び故障状態の各情報が関連付けて管理されている。
【0096】
これらのうち、「ロボットの名称」、及び「ロボットID」は上述の同じ名称の内容と同じである。なお、「撮影装置の種類」及び「最大移動速度」は、ロボットRの性能を示す情報の一例であり、予め登録された静的な情報である。また、「電池残量」、「通信状態」、「総操作時間」、及び「故障状態」は、ロボットRの状態を示す情報の一例であり、ロボットRから送られて来る状態情報(処理S51参照)によって上書き保存される動的な情報である。
【0097】
「撮影装置の種類」は、ロボットRに設置されている撮影装置が、全天球撮影が可能な広角撮影装置又は通常撮影が可能な通常撮影装置であるかを示す。
【0098】
「最大移動速度」は、各ロボットRの最大移動速度を示し、ここでは5段階で管理され、「レベル1」から「レベル5」になるにつれて高速であることを示す。例えば、レベル1は1km/h、レベル2は2km/h、レベル3は3km/h、レベル4は4km/h、レベル5は5km/h以上を示す。
【0099】
「電池残量」は、各ロボットRに設けられた電池の残量を示し、ここでは「%」で示されている。
【0100】
「通信状態」は、各ロボットRの通信状態(通信速度)を示し、ここでは5段階で管理され、「レベル1」から「レベル5」になるにつれて高速であることを示す。例えば、レベル1は0Mbps、レベル2は0Mbps超で10Mbps未満、レベル3は10Mbps以上で100Mbps未満、レベル4は100Mbps以上で1Gbps、レベル5は1Gbps以上を示す。
【0101】
「総操作時間」は、各ロボットRの前回のメンテナンスからの総操作時間を示し、ここでは「分」で示されている。
【0102】
「故障状態」は、各ロボットRの故障状態を示し、ここでは3段階で管理され、「レベル0」から「レベル2」になるにつれて重大な故障であることを示す。例えば、レベル0は故障していない状態、レベル1はロボットRの遠隔操作に与える影響が比較的少ない故障(例えば、集音ができない)、レベル2はロボットRの遠隔操作に与える影響が比較的大きい故障(例えば、撮影できない)を示す。
【0103】
(各機能構成)
送受信部31は、他の端末(装置)とデータ通信を行う。また、送受信部31は、推奨部としての役割を果たし、状態情報で示されるロボットRの状態が所定状態(例えば、電池残量が第1の残量未満の状態)の場合には、ユーザ端末9に対して、ユーザ端末9との通信を第1のロボットから第2のロボットに切り替えるための推奨等を行う。所定状態は、管理者等によって予め設定されているが、変更されることも可能である。
【0104】
通信制御部32は、ユーザ端末9とロボットRとの通信(通信セッション)を確立する制御を行う。また、通信制御部32は、切替部としての役割を果たし、ユーザ端末9との通信を第1のロボットから第2のロボットに切り替える制御等を行う。
【0105】
認証部33は、他の端末(装置)のログイン認証等を行う。
【0106】
算出部35は、出展者DB42(図16参照)において、送受信部31が受信した出展者IDを含むレコードの「出展者によるメッセージ」フィールドに、出展者端末5からのメッセージを記憶すると共に、「ブース混雑レベル」フィールドに人感センサ6からの人数情報(レベル)を上書き保存する。また、この際、算出部35は、出展エリア毎に、各ブースにおける混雑レベルの平均値を算出して、「エリア混雑レベル」フィールドの数値を上書き保存する。なお、メッセージに関しては、出展者端末5から通信制御サーバ3に対して、追加保存、上書き保存、又は、一部若しくは全部の削除(又は変更)が可能である。
【0107】
設定部36は、ロボット位置DB43(図17参照)に係る「最新の実空間上の位置」フィールドにロボットRから送られて来た最新の実空間上の位置情報を上書き保存する。また、設定部36は、実空間上の位置と仮想空間上の位置との対応関係を示す位置対応情報(マッチング情報)を用いて、ロボットRから送られて来た最新の実空間上の位置情報から最新の仮想空間上の位置情報を求めて、ロボット位置DB43に係る「最新の実空間上の位置」フィールドに上書き保存する。
【0108】
状態判断部38は、ロボットRから送られて来た状態情報に基づき、ロボットRに不具合が発生して所定状態になっているかを判断する。ロボットRが所定状態になっているか否かの判断基準は例えば以下の通りであり、以下の状態の場合に所定状態になっていると判断される。
(11)ロボットRの電池残量が第1の残量(例えば30%)未満の状態
(12)ロボットRの通信速度が第1の通信速度(例えば、レベル2)未満の状態
(13)ロボットRの前回のメンテナンスからの総操作時間が第1の時間(例えば、1000分)以上の状態
(14)ロボットRに第1の故障(例えば、集音ができない)が発生している状態
なお、所定状態とは、ロボットRを切り替えるか否か、又はロボットRを切り替える推奨をするか否かを判断する判断基準に対応付けられた状態であれば良く、不具合が発生した所定状態には限られない。
【0109】
画像作成部37は、後述の図23に示す遠隔操作画面の画像を作成する。
【0110】
また、状態判断部38は、処理S51で受信された状態情報に基づき、ロボットR11が上記所定状態よりも悪化している特定状態であるかを判断する。ロボットRが特定状態になっているか否かの判断基準は例えば以下の通りであり、以下の状態の場合に特定状態になっていると判断される。
(21)ロボットRの電池残量が第1の残量より少ない第2の残量(例えば10%)未満の状態
(22)ロボットRの通信速度が第1の通信速度(例えば、レベル2)より遅い第2の通信速度(例えば、レベル1)未満の状態
(23)ロボットRの前回のメンテナンスからの総操作時間が第1の時間(例えば、1000分)よりも長い第2の時間(例えば、1500分)以上の状態
(24)ロボットR11に第1の故障(例えば、集音ができない)より状態が悪い第2の故障(例えば、撮影ができない)が発生している状態
<出展者端末>
図14に示されているように、出展者端末5は、送受信部51、受付部52、及び表示制御部54を有している。これら各部は、図4に示されている各構成要素のいずれかが、EEPROM504からRAM503上に展開されたプログラムに従ったCPU501からの命令によって動作することで実現される機能又は手段である。
【0111】
送受信部51は、通信ネットワーク100を介して、他の端末(装置)とデータ通信を行う。
【0112】
受付部52は、人(出展者E等)の操作を受け付ける。
【0113】
表示制御部54は、出展者端末5のディスプレイ518に対して、各種画像を表示させる制御を行う。
【0114】
<ロボット端末>
図14に示されているように、ロボットR(ロボット端末7)は、送受信部71、受付部72、位置取得部73、表示制御部74、撮像部75、集音部76、移動制御部77、及び状態検出部78を有している。これら各部は、図4に示されている各構成要素のいずれかが、EEPROM504からRAM503上に展開されたプログラムに従ったCPU501からの命令によって動作することで実現される機能又は手段である。
【0115】
送受信部71は、通信ネットワーク100を介して、他の端末(装置)とデータ通信を行う。
【0116】
受付部72は、人(出展者E、展示場の管理者等)の操作を受け付ける。
【0117】
位置取得部73は、GPS受信部511等の処理により、屋外又は屋内の位置を示す位置情報を取得する。
【0118】
表示制御部74は、ロボット端末7のディスプレイ518に対して、各種画像を表示させる制御を行う。
【0119】
撮像部75は、広角撮影装置8又はCOMS513等により撮影されることで得られた映像データを出力する。この映像データは、遠隔操作を行っているユーザ端末9に送られ、ユーザ端末9側で映像として出力される。
【0120】
集音部76は、広角撮影装置8又はマイク515等により集音されることで得られた音データを出力する。この音データは、遠隔操作を行っているユーザ端末9に送られ、ユーザ端末9側で音として出力される。
【0121】
移動制御部77は、遠隔のユーザYの遠隔操作に基づき、車両装置10に対して移動(回動を含む)の制御を行う。
【0122】
状態検出部78は、所定時間(例えば、1分)毎に、自装置であるロボットRの状態(電池残量等)を検出する。この状態を示す状態情報は、通信制御サーバ3に送信されて、ロボット性能・状態DB45(図19参照)において、「電池残量」、「通信状態」、「総操作時間」、又は「故障状態」として管理される。
【0123】
<ユーザ端末>
図14に示されているように、ユーザ端末9は、送受信部91、受付部92、及び表示制御部94、及び音出力制御部95を有している。これら各部は、図4に示されている各構成要素のいずれかが、EEPROM504からRAM503上に展開されたプログラムに従ったCPU501からの命令によって動作することで実現される機能又は手段である。
【0124】
送受信部91は、通信ネットワーク100を介して、他の端末(装置)とデータ通信を行う。
【0125】
受付部92は、人(ユーザY等)の操作を受け付ける。
【0126】
表示制御部94は、ユーザ端末9のディスプレイ518に対して、各種画像を表示させる制御を行う。
【0127】
音出力制御部95は、ユーザ端末9のスピーカ516に対して、音を出力する制御を行う。
【0128】
〔通信システムの処理又は動作〕
続いて、図20乃至図28を用いて、通信システムの処理又は動作について説明する。
【0129】
<ログイン処理等>
まずは、図20及び図21を用いて、ロボットRの予約、ブースの状況等の管理、実空間上のロボットRの位置の管理等を説明する。図20は、ロボットの予約、ブースの状況等の管理、実空間上のロボットの位置の管理等を示すシーケンス図である。
【0130】
S11:図20に示すように、ユーザ端末9の送受信部91は、通信制御サーバ3に対して、ロボットRの予約を開始するためのログイン処理を行う。この場合、送受信部91は、通信制御サーバ3に対して、受付部92によって受け付けられたユーザID及びパスワードを送信する。一方、通信制御サーバ3の認証部33は、ユーザDB41(図15参照)に予め登録されているユーザID及びパスワードの組と同じ組が送受信部31で受信されたか否かにより認証を行う。以降、認証によりユーザY(ここでは、ユーザY1)が正当なユーザであると判断された場合の処理を説明する。
【0131】
S12:表示制御部94は、通信制御サーバ3から送られて来たロボットの予約画面のデータに基づいて、ユーザ端末9のディスプレイ518上に図21に示すロボットの予約画面120を表示させる。図21は、ユーザ端末で表示されるロボット予約画面を示す図である。なお、ロボットの予約画面120の画像は、画像作成部37がロボット予約DB44(図18参照)を用いて作成した画像である。
【0132】
図21に示すように、ロボットの予約画面120には、遠隔操作を行う日の表示領域121、ロボットの予約表122、及び入力した予約内容を確定するための「確定」ボタン125が表示されている。ユーザY(ここではユーザY1)が所望の日を選択すると、受付部92が選択を受け付け、表示制御部94が当該日の予約表122を表示させる。ユーザY1が予約表122における予約時間帯の空白部分を選択(指定)すると、受付部92が選択を受け付け、表示制御部94がユーザY1のユーザID「Y091」を表示させる。最後に、ユーザY1が「確定」ボタン125を押下すると、受付部92が予約情報を受け付けることで、送受信部91が通信制御サーバ3に対して、確定した旨の情報を送信する。
【0133】
S13:通信制御サーバ3では、画像作成部37がロボット予約DB(図18参照)に、確定した内容で予約の管理を行う。
【0134】
S14:出展者端末5の送受信部51は、通信制御サーバ3に対してログイン処理を行う。この場合、送受信部51は、通信制御サーバ3に対して、受付部52によって受け付けられた出展者ID及びパスワードを送信する。一方、通信制御サーバ3の認証部33は、出展者DB42(図16参照)に予め登録されている出展者ID及びパスワードの組と同じ組が送受信部31で受信されたか否かにより認証を行う。以降、認証により出展者E(ここでは、出展者E1)が正当な出展者であると判断された場合の処理を説明する。
【0135】
S15:出展者E1は、所定時間(例えば、30分)毎又は不定期に出展者端末5にメッセージを入力すると、受付部52がメッセージの入力を受け付け、送受信部51が通信制御サーバ3に対してメッセージを送信する。このメッセージには送信元の出展者E1の出展者IDが含まれている。これにより、通信制御サーバ3の送受信部31はメッセージを受信する。このメッセージには、例えば、出展者E1が使用しているブースAの混雑状況、イベントや実演等を開始する時間帯等が含まれており、最終的に図23に示す後述の表示領域170に表示される。
【0136】
S16:人感センサ6は、所定時間(例えば、1分)毎に、設置されたブース(ここでは、出展者E1のブースA)の内部及び周囲の人数を検知して、通信制御サーバ3に検知した人数を示す人数情報を送信する。この人数情報には、予め人感センサ6内に設定されている出展者E1の出展者IDが含まれている。これにより、通信制御サーバ3の送受信部31は人数情報を受信する。
【0137】
S17:通信制御サーバ3では、算出部35は、出展者DB42(図16参照)において、送受信部31が受信した出展者IDを含むレコードの「出展者によるメッセージ」フィールドに、処理S15で受信したメッセージを記憶すると共に、「ブース混雑レベル」フィールドに処理S16で受信した人数情報(レベル)を上書き保存する。また、この際、算出部35は、出展エリア毎に、各ブースにおける混雑レベルの平均値を算出して、「エリア混雑レベル」フィールドの数値を上書き保存する。
【0138】
S18:展示場の運営者等の操作によって、ロボットRの送受信部71は、通信制御サーバ3に対してログイン処理を行う。この場合、送受信部71は、通信制御サーバ3に対して、受付部72によって受け付けられたロボットID及びパスワードを送信する。一方、通信制御サーバ3の認証部33は、ロボット位置DB43(図17参照)に予め登録されているロボットID及びパスワードの組と同じ組が送受信部31で受信されたか否かにより認証を行う。以降、認証によりロボットRが正当なロボットであると判断された場合の処理を説明する。
【0139】
S19:ロボットRは、所定時間(例えば、1秒)毎に、最新の自装置(ロボットR)の実空間上の位置を示す位置情報を取得して、通信制御サーバ3に位置情報を送信する。この位置情報には、送信元のロボットRのロボットIDが含まれている。これにより、通信制御サーバ3の送受信部31は位置情報を受信する。
【0140】
S20:通信制御サーバ3では、設定部36は、ロボット位置DB43(図17参照)において、送受信部31が受信したロボットIDを含むレコードの「最新の実空間上の位置」フィールドに、処理S19で受信した実空間上の位置情報を上書き保存する。また、この際、設定部36は、上記マッチング情報に基づいて、処理S19で受信された実想空間上の位置情報に対応する仮想空間上の位置情報を求め、上記レコードの「最新の仮想空間上の位置」フィールドに仮想空間上の位置情報を上書き保存することで、位置情報を設定する。設定部36は、ロボットID及びパスワードを含むレコードの最新の「仮想空間位置情報」フィールドに、処理S19で受信された実空間上の位置情報に対応する仮想空間上の位置情報を記憶して設定する。更に、設定部36は、処理S17の認証に用いられたログインID及びパスワードを含むレコードの「最新の仮想空間位置情報」フィールドに、初期位置としての仮想空間(装置)位置情報を記憶して設定する。
【0141】
<遠隔操作の開始>
続いて、図22及び図24を用いて、ユーザ端末9からロボットR(ここでは、ロボットR11)の遠隔操作を開始するための処理を説明する。図22は、ユーザ端末からロボットの遠隔操作を開始するための処理を示したシーケンス図である。
【0142】
S31:図22に示すように、ユーザ端末9の送受信部91は、通信制御サーバ3に対して、ロボットR11の遠隔操作を開始するためのログイン処理を行う。この場合、送受信部91は、通信制御サーバ3に対して、受付部92によって受け付けられたユーザID及びパスワードを送信する。一方、通信制御サーバ3の認証部33は、ユーザDB41(図15参照)に予め登録されているユーザID及びパスワードの組と同じ組が送受信部31で受信されたか否かにより認証を行う。以降、認証によりユーザY1が正当なユーザであると判断された場合の処理を説明する。
【0143】
S32:通信制御サーバ3では、画像作成部37が、所定時間(例えば、(1/60)秒)毎に、予め作成されている遠隔操作画面のテンプレート上に、現場映像以外の情報を貼り付けて、後述の図23に示す遠隔操作画面140の画像を作成する。この場合、画像作成部37は、ロボット位置DB(図17参照)から、各ロボットRのアイコン画像及び最新の仮想空間上の位置の情報を読み出して、後述の表示領域160を形成する。また、画像作成部37は、出展者DB42(図16参照)に登録された「出展者によるメッセージ」カラムの各メッセージを読み出して、後述の表示領域170を形成する。そして、送受信部31が、ユーザ端末9に対して、画像作成部37によって遠隔操作画面が作成される度に遠隔操作画面のデータを送信する。これにより、ユーザ端末9の送受信部91は、所定時間(例えば、(1/60)秒)毎に遠隔操作画面のデータを受信する。
【0144】
S33:ユーザ端末9では、表示制御部94がユーザ端末9のディスプレイ518上に、図23に示すような遠隔操作画面140を表示させる。遠隔操作画面140は、遠隔操作中のロボットRからの現場映像を表示する表示領域150、各ロボットの位置を示す仮想空間の表示領域160、メッセージの表示領域170、及び各種の操作ボタン群180が表示される。なお、この時点では、ユーザ端末9とロボットRとの通信が確立していないため、表示領域150には映像が表示されていない。
【0145】
表示領域160には、実空間の展示場を模式図が示され、更に各ロボットRを示す各アイコンが表示されている。更に、表示領域160には、表示領域160を拡大するための「拡大」ボタン165も表示されている。なお、この時点では、遠隔操作するロボットが選択されていないため、各ロボットRのアイコンは全て中身が白色で表示されている。
【0146】
表示領域170には、各出展者端末5から通信制御サーバ3に送信されたメッセージの内容が表示されている。
【0147】
操作ボタン群180は、ユーザYが遠隔操作によりロボットRを移動(回動を含む)させるためのボタンである。ここでは、左側から、右へ回動、直進、後退、左へ回動、撮影装置による撮影の拡大及び縮小を行うための各ボタンが表示されている。
【0148】
S34:図22に戻り、ユーザY1が、「拡大」ボタン165を押下すると、受付部92が拡大表示の指示を受け付け、表示制御部94が図24に示すように表示領域160を拡大表示する。ここで、ユーザY1が、ロボットR11のロボットアイコンr11を選択すると、受付部92が遠隔操作対象としてロボットR11の選択を受け付ける。そして、送受信部91が、通信制御サーバ3に対して、ロボットR11が選択された旨の情報を送信する。この情報には、ユーザY1のユーザID「Y091」及びロボットR11のロボットID「R011」が含まれている。これにより、通信制御サーバ3の送受信部31は、ユーザY1によってロボットR11が選択された旨の情報を受信する。なお、ユーザY1は、ロボットR11の選択が終了すると、「戻る」ボタン166を押下することで、受付部92が図23の遠隔操作画面140に戻る指示を受け付け、表示制御部94が遠隔操作画面140の表示に戻す。
【0149】
S35:通信制御部32は、処理S34によって受信されたロボットID「R011」を検索キーとしてロボット予約DB44(図18参照)を検索することにより、現時間帯にユーザID「Y091」が登録されているかを確認する。そして、現時間帯にユーザID「Y091」が登録されている場合には、設定部36は、ロボット位置DB43(図17参照)のロボットID「RO11」のレコードの「遠隔操作中のユーザのユーザID」フィールドにユーザID「Y091」を設定(登録)する。なお、その後、ユーザID「Y091」の所定のユーザのユーザ端末9との通信先が他のロボットに切り替わる場合には、設定部36はユーザID「Y091」を他のロボットのレコードにおける「遠隔操作中のユーザのユーザID」フィールドに切り替える。以降は、現時間帯にユーザID「Y091」が登録されているため、ロボット位置DB43(図17参照)のロボットID「RO11」のレコードの「遠隔操作中のユーザのユーザID」フィールドにユーザID「Y091」が設定(登録された場合について説明する。
【0150】
S36:通信制御部32は、ユーザ端末9とロボットR11との間で通信(映像、音、操作)を確立する。これにより、図23に示すように、表示制御部94は、表示領域150上に、ロボットR11で撮影された映像を表示させることができる。
【0151】
<ロボットの切替>
続いて、図25乃至図28を用いて、ユーザ端末9との通信をロボットR11からロボットR12に切り替える処理について説明する。図25は、遠隔操作対象のロボットを切り替える処理を示すシーケンス図である。
【0152】
S50:まず図25に示すように、ロボットR11では状態検出部78が、所定時間(例えば、1分)毎に、自装置であるロボットR11の状態(電池残量等)を検出する。
【0153】
S51:ロボットR11の送受信部71は、通信制御サーバ3に対して、状態検出部78によって検出された状態を示す状態情報を送信する。この状態情報には、ロボットR11を識別するためのロボットID「RO11」が含まれている。これにより、通信制御サーバ3の送受信部31は、状態情報を受信し、ロボット性能・状態DB45(図19参照)のロボットID「R011」のレコードを書き替えて最新状態にする。なお、図19において、「撮影装置の種類」及び「最大移動速度」のフィールドは予め記憶されているため、「電池残量」、「通信状態」、「総操作時間」、「故障状態」の各フィールドが書き替えられる。
【0154】
S52:通信制御サーバ3は、処理S51によって受信した状態情報に基づいて、状態対応処理を行う。ここで、図26を用いて、状態対応処理について詳細に説明する。図26は、状態対応処理を示すフローチャートである。
【0155】
S111:状態判断部38は、処理S51で受信された状態情報に基づき、ロボットR11に不具合が発生して所定状態になっているかを判断する。
【0156】
ロボットR11が所定状態になっていない場合には(S111;NO)、処理S111が繰り返される。
【0157】
S112:ロボットR11が所定状態になっている場合(S111;YES)、状態判断部38は、処理S51で受信されたロボットID「R011」を検索キーとしてロボット位置DB43(図17参照)を検索することにより、対応する遠隔操作中のユーザのユーザID「Y091」を読み出す。次に、状態判断部38は、ユーザID「Y091」を検索キーとしてロボット予約DB44(図18参照)を検索することにより、現在時刻においてユーザY1が予約している全てのロボットのロボットID「R011」,「R012」,「R013」を読み出す。次に、状態判断部38は、読み出したロボットID「R011」,「R012」,「R013」を検索キーとしてロボット位置DB43を検索することにより、各ロボットR11,R12,R13の最新の実空間上の位置情報を読み出す。
【0158】
次に、状態判断部38は、処理S51で受信されたロボットID「R011」に対応するロボットR11の最新の実空間上の位置を中心として、ロボットID「R012」,「R013」に対応するロボットR12,R13の最新の実空間上の位置との間の距離を算出し、ロボットR11の位置から所定距離(所定範囲)内における所定のロボットのロボットID(ここでは、「R012」)を抽出する。これは第1の手法である。
【0159】
なお、第2の手法として、状態判断部38は、実空間上の位置を考慮せず、上記読み出したロボットID「R012」,「R013」を検索キーとしてロボット性能・状態DB45(図19参照)を検索することで、対応するロボットRの性能(撮影装置の種類、最大移動速度)を読み出し、更に、処理S51で受信されたロボットID「R011」に対応するロボットR11の所定性能(ここでは、「全天球撮影」と「最大移動速度のレベル3」の少なくとも一方)と同様の所定性能に係るロボットID「R012」を抽出してもよい。
【0160】
また、第3の手法として、状態判断部38は、実空間上の位置を考慮せず、上記読み出したロボットID「R012」,「R013」を検索キーとしてロボット性能・状態DB45(図19参照)を検索することで、対応するロボットRの状態(電池残量、通信状態、総操作時間、故障状態)を読み出し、下記4つの基準状態を全て満たす(又は「総操作時間」以外は全て満たす)ロボットID「R012」を抽出してもよい。基準状態は、例えば以下の通りである。
・電池残量:50%以上
・通信状態:レベル4以上
・総操作時間:500分未満
・故障状態:レベル0
更に、第4の手法として、状態判断部38は、上記読み出したロボットID「R012」,「R013」の最新の各実空間上の位置と、予め記憶部40に記憶されているマップ情報を照らし合わせて、各ロボットR12,R13が位置する所定ブースを特定する。マップ情報は、実空間の位置(座標)とブースとの関係を示した情報である。そして、状態判断部38は、出展者DB42(図16参照)から所定ブースの混雑状況を示す状況情報(混雑レベル)を読み出して、所定未満の位置のロボットID「R012」に絞り込んでもよい。所定未満は、例えば、混雑レベルが「5」未満である。なお、状態判断部38は、出展者DB42の「出展者によるメッセージ」欄のメッセージを自然言語処理して、混雑状況の単語を抽出することで、所定ブースの混雑状況を特定してもよい。
【0161】
更に、状態判断部38は、切り替え先のロボットRに関して、上記所定距離、上記所定性能、上記基準状態、及び上記状況情報のうち少なくとも2つの条件を満たすロボットRのロボットIDを抽出してもよい。
【0162】
S113:更に、状態判断部38は、処理S51で受信された状態情報に基づき、ロボットR11が上記所定状態よりも悪化している特定状態であるかを判断する。
【0163】
ロボットR11が所定状態になっているが特定状態までにはなっていない場合には(S113;NO)、図26に示す状態対応処理が終了する。
【0164】
S114:ロボットR11が特定状態になっている場合には(S113;YES)、通信制御部32は、切替部として、ユーザ端末9と通信を、ロボットR11から、処理S112で抽出された所定のロボット(ここでは、ロボットR12)に強制的に切り替える(S55,S56参照)。これにより、図26の状態対応処理が終了する。
【0165】
S53:図25に戻り、送受信部31は、処理S52によって読み出されたユーザID「Y091」で示すユーザ端末9に対して、このユーザ端末9との通信をロボットR11からロボットR12に切り替えることを促すための切替推奨の通知を行う。これにより、ユーザ端末9の送受信部91は、切替推奨の通知を受信する。
【0166】
S54:ユーザ端末9では、表示制御部94が、処理S53で受信された切替推奨の通知に基づき、図27に示すように、メッセージの表示領域170に切替推奨のメッセージを表示させる。図27は、ユーザ端末で表示される遠隔操作画面を示す図である。図27では、例えば、メッセージの一例として、「現在、遠隔操作中のロボットR11の電池の残量が僅かになって来ましたので、ロボットR12への切り替えをお勧めします。」と追加表示される。ここで、ユーザY1が「拡大」ボタン165を押下すると、受付部92が拡大指示を受け付け、表示制御部94がユーザ端末9のディスプレイ518上に、図24に示すようなロボット位置の表示領域160を表示させる。そこで、ユーザY1は、切替推奨のメッセージに従って、ロボットアイコンr12を選択すると、受付部92がロボットR12への切り替えの選択を受け付ける。そして、送受信部91は、通信制御サーバ3に対してロボットR12に切り替える旨の応答(ロボットID「R012」を含む)を送信する。これにより、通信制御サーバ3は、ロボットR12に切り替える旨の応答を受信する。
【0167】
S55:通信制御部32は、切替部として、処理S54で受信されたロボットR12に切り替える旨の応答に基づいて、ユーザ端末9とロボットR11との通信(映像、音、操作)を切断する。
【0168】
S56:通信制御部32は、切替部として、処理S54で受信されたロボットR12に切り替える旨の応答に基づいて、ユーザ端末9とロボットR12との通信(映像、音、操作)を接続(確立)する。これにより、ユーザ端末9では、通信制御サーバ3からの遠隔操作画面のデータに基づき、表示制御部94が図28に示すように、切り替え後のロボットR12のロボットアイコンr12を「操作中」の表示態様に変更し、ロボットR11のロボットアイコンr11を「非操作」の表示態様に変更する。これにより、ユーザY1は、自分が現在ロボットR12を操作中であることが分かる。なお、表示制御部94は、通信制御サーバ3からの遠隔操作画面のデータに基づき、図24の表示領域160において、ユーザY1が予約することで、この時点で選択可能なロボットのアイコンのみを表示してもよい。
【0169】
S57:図25に戻り、通信制御サーバ3では、処理S111によりロボットR11の電池残量が第1の残量未満であると判断されていた場合、又は処理S133によりロボットR11の電池残量が第2の残量未満であると判断されていた場合には、送受信部31はロボットR11に対して、予め位置が定められている充電ステーションstに移動するための移動制御を指示する。この移動制御の指示には、実空間上の充電ステーションstの位置を示す位置情報が含まれているため、ロボットR11はGPS受信部511を動作させながら自律走行により到着する。図28には、充電ステーションstにロボットR11が到着した状態のロボットアイコンr11が示されている。図28は、遠隔操作対象のロボットを切り替えた後の各ロボットの位置を示す仮想空間画面の拡大図である。
【0170】
〔実施形態の主な効果〕
以上説明したように、本実施形態によれば、ユーザ端末9が遠隔操作中のロボットR11の状態が所定状態(例えば、電池残量が30%未満)であることに基づいて、通信制御サーバ3の通信制御部32が切替部として、ユーザ端末9との通信をロボットR11からロボットR12に切り替える制御を行う。これにより、遠隔操作中のロボットR11の状態が所定状態になっている場合であっても、ユーザY1は続けてロボットR12を遠隔操作しながら展示場内を仮想的に移動して、各出展者の出展内容を閲覧することができる。
【0171】
また、通信制御サーバ3では、通信制御部32が通信を切り替える前に、送受信部31が推奨部として、ユーザ端末9に対して、ユーザ端末9との通信をロボットR11からロボットR12に切り替えるための推奨を行う。これにより、ユーザY1は、自分が承知の上で、ロボットR12への切り替えを行うことができる。
【0172】
更に、ユーザ端末9が遠隔操作中のロボットR11の状態が所定状態よりも悪い特定状態である場合には、ロボットR11が止まってしまう前に、送受信部31はユーザ端末9に対して推奨を行わずに、通信制御部32は切替部として、強制的にユーザ端末9との通信をロボットR11からロボットR12に切り替える(S55,S56参照)。そして、送受信部31は、ユーザ端末9に対して、強制切替を行った旨の通知を行う。これにより、ユーザY1が突然、ロボットR11の遠隔操作ができなくなることを防止することができる。また、通信制御サーバ3はロボットR11が移動できる余力があるうちに、充電ステーションstへ移動制御することができる。
【0173】
また、ロボットR11からの切り替え先のロボットRの抽出(選定)において、(第1手法)ロボットR11の位置から所定距離内に位置する、(第2手法)ロボットR11と同様の所定性能(例えば、全天球撮影可)を有する、(第3手法)基準状態(例えば、電池残量が半分以上ある)を満たす、(第4手法)混雑していないブースに位置する、という4手法(条件)のうち少なくとも1手法(条件)を満たすロボットRに切り替える(又は切り替えるように推奨する)ことで、切り替え後の動作に安定性があるロボットR12等に切り替えることができる。これにより、ユーザYは切り替え後のロボットR12等を安心して遠隔操作することができる。
【0174】
〔補足〕
(1)本開示の適用可能な場面として、展示会だけに限られず、大規模なショウルーム、工場、学校、会社等の見学にも適用可能である。また、美術館、水族館、科学館等の展示施設の鑑賞にも適用可能である。更に、道の駅、ショッピングモール等の大規模商業施設でのショッピング等にも適用できる。
【0175】
(2)上述の実施形態における各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本実施形態における「処理回路」は、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上述した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)、SOC(System on a chip)、GPU、及び従来の回路モジュール等のデバイスを含む。
【0176】
(3)また、上記各プログラムは、(非一時的な)記録媒体に記録されることで、流通されるようにしてもよい。
【0177】
(4)プロセッサとしての各CPU301,501,811,1001は、単一であってもよく複数であってもよい。
【符号の説明】
【0178】
R11 ロボット(第1の移動装置の一例)
R12 ロボット(第2の移動装置の一例)
1 通信システム
3 通信制御サーバ
5 出展者端末
6 人感センサ
7 ロボット端末
8 広角撮影装置
9 ユーザ端末(通信端末の一例)
10 車両装置
31 送受信部(状態受信部の一例、位置受信部の一例、状況受信部の一例、推奨部の一例、指示送信部の一例)
32 通信制御部(切替部とも示す)
33 認証部
34 算出部
36 設定部
37 画像作成部
40 記憶部
91 送受信部
92 受付部
94 表示制御部
95 音出力制御部
【先行技術文献】
【特許文献】
【0179】
【特許文献1】特開2022-67781号公報
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28