IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 沖電気工業株式会社の特許一覧

特開2022-116483遠隔操作装置、遠隔操作方法、及びプログラム
<>
  • 特開-遠隔操作装置、遠隔操作方法、及びプログラム 図1
  • 特開-遠隔操作装置、遠隔操作方法、及びプログラム 図2A
  • 特開-遠隔操作装置、遠隔操作方法、及びプログラム 図2B
  • 特開-遠隔操作装置、遠隔操作方法、及びプログラム 図2C
  • 特開-遠隔操作装置、遠隔操作方法、及びプログラム 図3
  • 特開-遠隔操作装置、遠隔操作方法、及びプログラム 図4
  • 特開-遠隔操作装置、遠隔操作方法、及びプログラム 図5
  • 特開-遠隔操作装置、遠隔操作方法、及びプログラム 図6
  • 特開-遠隔操作装置、遠隔操作方法、及びプログラム 図7A
  • 特開-遠隔操作装置、遠隔操作方法、及びプログラム 図7B
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022116483
(43)【公開日】2022-08-10
(54)【発明の名称】遠隔操作装置、遠隔操作方法、及びプログラム
(51)【国際特許分類】
   H04N 7/18 20060101AFI20220803BHJP
   H04Q 9/00 20060101ALI20220803BHJP
   G05D 1/00 20060101ALI20220803BHJP
【FI】
H04N7/18 D
H04N7/18 U
H04Q9/00 301Z
G05D1/00 B
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2021012664
(22)【出願日】2021-01-29
(71)【出願人】
【識別番号】000000295
【氏名又は名称】沖電気工業株式会社
(74)【代理人】
【識別番号】100140958
【弁理士】
【氏名又は名称】伊藤 学
(74)【代理人】
【識別番号】100137888
【弁理士】
【氏名又は名称】大山 夏子
(74)【代理人】
【識別番号】100190942
【弁理士】
【氏名又は名称】風間 竜司
(72)【発明者】
【氏名】川畑 尚也
(72)【発明者】
【氏名】菅田 悠平
(72)【発明者】
【氏名】村谷 正之
【テーマコード(参考)】
5C054
5H301
5K048
【Fターム(参考)】
5C054CA04
5C054CC02
5C054CF08
5C054CG05
5C054CG08
5C054DA07
5C054EA01
5C054EA03
5C054EA05
5C054FC12
5C054FC14
5C054FD03
5C054FD07
5C054FE12
5C054FE16
5C054FE26
5C054FF02
5C054FF03
5C054HA19
5C054HA26
5C054HA29
5C054HA37
5H301AA01
5H301AA10
5H301BB14
5H301CC03
5H301CC06
5H301CC10
5H301DD06
5H301DD17
5H301GG08
5H301GG09
5H301KK07
5H301KK20
5K048AA04
5K048BA01
5K048BA21
5K048BA41
5K048EB02
5K048EB15
5K048FB15
5K048HA01
5K048HA02
(57)【要約】
【課題】移動体を遠隔操作する操作者のユーザビリティをより向上させることが可能な遠隔操作装置、遠隔操作プログラム、及び遠隔操作方法を提供する。
【解決手段】操作対象の移動体の周囲の環境画像に前記移動体に対応する仮想画像を重畳した表示画像を生成する画像生成部と、前記移動体の操作者からの入力操作に関する情報を前記移動体に送信する通信部と、を備え、前記画像生成部は、所定量の前記入力操作に対応する前記移動体の移動量に基づいて、前記表示画像における前記環境画像の表示範囲を制御する、遠隔操作装置。
【選択図】図1

【特許請求の範囲】
【請求項1】
操作対象の移動体の周囲の環境画像に前記移動体に対応する仮想画像を重畳した表示画像を生成する画像生成部と、
前記移動体の操作者からの入力操作に関する情報を前記移動体に送信する通信部と、
を備え、
前記画像生成部は、所定量の前記入力操作に対応する前記移動体の移動量に基づいて、前記表示画像における前記環境画像の表示範囲を制御する、遠隔操作装置。
【請求項2】
前記画像生成部は、前記所定量の前記入力操作に対応する前記移動体の移動量が大きいほど前記環境画像の前記表示範囲を拡大し、前記所定量の前記入力操作に対応する前記移動体の移動量が小さいほど前記環境画像の前記表示範囲を縮小する、請求項1に記載の遠隔操作装置。
【請求項3】
前記画像生成部は、前記表示画像において、異なる複数の前記移動体の間で、前記所定量の前記入力操作に対する前記移動体の移動量が略同じとなるように前記環境画像の前記表示範囲の大きさを制御する、請求項2に記載の遠隔操作装置。
【請求項4】
前記画像生成部は、前記移動体に搭載された複数の撮像装置で撮像された画像を合成することで、前記移動体の周囲を俯瞰する前記環境画像を生成する、請求項1~3のいずれか一項に記載の遠隔操作装置。
【請求項5】
前記所定量の前記入力操作に対する前記移動体の移動量は、前記移動体の移動特性に関する情報に基づいて設定される、請求項1~4のいずれか一項に記載の遠隔操作装置。
【請求項6】
前記移動特性に関する情報は、前記移動体から取得される、請求項5に記載の遠隔操作装置。
【請求項7】
前記画像生成部は、前記環境画像に前記移動特性を示す画像をさらに重畳した前記表示画像を生成する、請求項5又は6に記載の遠隔操作装置。
【請求項8】
前記遠隔操作装置は、異なる複数の前記移動体をそれぞれ遠隔操作する、請求項1~7のいずれか一項に記載の遠隔操作装置。
【請求項9】
演算処理装置によって、
操作対象の移動体の周囲の環境画像に前記移動体に対応する仮想画像を重畳した表示画像を生成することと、
前記移動体の操作者からの入力操作に関する情報を前記移動体に送信することと、
を含み、
前記表示画像における前記環境画像の表示範囲は、所定量の前記入力操作に対応する前記移動体の移動量に基づいて制御される、遠隔操作方法。
【請求項10】
コンピュータを
操作対象の移動体の周囲の環境画像に前記移動体に対応する仮想画像を重畳した表示画像を生成する画像生成部と、
前記移動体の操作者からの入力操作に関する情報を前記移動体に送信する通信部と、
として機能させ、
前記画像生成部に、所定量の前記入力操作に対応する前記移動体の移動量に基づいて、前記表示画像における前記環境画像の表示範囲を制御させる、プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、遠隔操作装置、遠隔操作方法、及びプログラムに関する。
【背景技術】
【0002】
近年、ロボット関連技術の進歩に伴い、自律的に作業を行うロボットを運用するシステムの開発が進められている。このようなシステムは、人口減少に伴う人手不足を解消する手段として期待されている。
【0003】
例えば、人工知能(Artificial Intelligence:AI)等の技術を用いることで、ロボットを自律的に動作させる技術が開発されている。下記特許文献1には、建物内、及び建物間の地図データを用いることで、ロボットに建物内、及び建物間を自律的に移動走行させることが可能なシステムが開示されている。
【0004】
一方で、現状では、ロボットの作業中にロボットが対処又は判断することが困難な事象が発生し得る。このような場合、ロボットは、遠隔地のオペレータに操作を依頼する通知を発信する。発信された通知を確認したオペレータは、通知を発信したロボットを自律的に動作している状態から手動操作可能な状態に切り替える。これにより、ロボットは、オペレータに手動操作されることで発生した事象を解決している。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2019-3602号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
ここで、移動特性(例えば、移動速度、移動範囲、又は移動可能環境など)が異なる複数のロボット(以下、移動体とも称する)をオペレータ(以下、操作者とも称する)が操作する場合、操作者は、操作する移動体の移動特性を把握した上で移動体を操作することが望まれる。しかしながら、操作者が複数台の移動体の移動特性を全て把握することは困難である。
【0007】
また、操作者は、移動特性が大きく異なる移動体を切り替えて操作することがあり得る。このような場合、切り替え後の移動体では、操作感覚が切り替え前の移動体と全く異なること、及び移動特性がすぐには把握されないことから、操作者は、移動体の手動操作の対応が遅れたり、移動体の操作を間違えたりする可能性がある。
【0008】
したがって、操作者は、移動体を効率的に遠隔操作することが困難であった。
【0009】
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、操作者が遠隔地の移動体を操作するための遠隔操作装置であって、移動体を遠隔操作する操作者の使用性(ユーザビリティ)をより向上させることが可能な遠隔操作装置を提供することにある。
【課題を解決するための手段】
【0010】
上記課題を解決するために、本発明のある観点によれば、操作対象の移動体の周囲の環境画像に前記移動体に対応する仮想画像を重畳した表示画像を生成する画像生成部と、前記移動体の操作者からの入力操作に関する情報を前記移動体に送信する通信部と、を備え、記画像生成部は、所定量の前記入力操作に対応する前記移動体の移動量に基づいて、前記表示画像における前記環境画像の表示範囲を制御する、遠隔操作装置が提供される。
【0011】
前記画像生成部は、前記所定量の前記入力操作に対応する前記移動体の移動量が大きいほど前記環境画像の前記表示範囲を拡大し、前記所定量の前記入力操作に対応する前記移動体の移動量が小さいほど前記環境画像の前記表示範囲を縮小してもよい。
【0012】
前記画像生成部は、前記表示画像において、異なる複数の前記移動体の間で、前記所定量の前記入力操作に対する前記移動体の移動量の差異が小さくなるように前記環境画像の前記表示範囲の大きさを制御してもよい。
【0013】
前記画像生成部は、前記移動体に搭載された複数の撮像装置で撮像された画像を合成することで、前記移動体の周囲を俯瞰する前記環境画像を生成してもよい。
【0014】
前記所定量の前記入力操作に対する前記移動体の移動量は、前記移動体の移動特性に関する情報に基づいて設定されてもよい。
【0015】
前記移動特性に関する情報は、前記移動体から取得されてもよい。
【0016】
前記画像生成部は、前記環境画像に前記移動特性を示す画像をさらに重畳した前記表示画像を生成してもよい。
【0017】
前記遠隔操作装置は、異なる複数の前記移動体をそれぞれ遠隔操作してもよい。
【0018】
また、上記課題を解決するために、本発明の別の観点によれば、演算処理装置によって、操作対象の移動体の周囲の環境画像に前記移動体に対応する仮想画像を重畳した表示画像を生成することと、前記移動体の操作者からの入力操作に関する情報を前記移動体に送信することと、を含み、前記表示画像における前記環境画像の表示範囲は、所定量の前記入力操作に対応する前記移動体の移動量に基づいて制御される、遠隔操作方法が提供される。
【0019】
また、上記課題を解決するために、本発明の別の観点によれば、コンピュータを操作対象の移動体の周囲の環境画像に前記移動体に対応する仮想画像を重畳した表示画像を生成する画像生成部と、前記移動体の操作者からの入力操作に関する情報を前記移動体に送信する通信部と、として機能させ、前記画像生成部に、所定量の前記入力操作に対応する前記移動体の移動量に基づいて、前記表示画像における前記環境画像の表示範囲を制御させる、プログラムが提供される。
【発明の効果】
【0020】
以上説明したように本発明によれば、移動体を遠隔操作する操作者の使用性(ユーザビリティ)をより向上させることが可能である。
【図面の簡単な説明】
【0021】
図1】本発明の第1の実施形態に係る遠隔操作システムの機能構成の一例を示すブロック図である。
図2A】所定量の入力操作に対応する移動量が異なる移動体に対して画像生成部が生成する表示画像の一例を示す模式図である。
図2B】所定量の入力操作に対応する移動量が異なる移動体に対して画像生成部が生成する表示画像の一例を示す模式図である。
図2C】所定量の入力操作に対応する移動量が異なる移動体に対して画像生成部が生成する表示画像の一例を示す模式図である。
図3】同実施形態に係る遠隔操作装置の動作の流れを示すフローチャート図である。
図4】第1の変形例に係る遠隔操作システムの全体構成の一例を示すブロック図である。
図5】第2の変形例に係る遠隔操作システムの全体構成の一例を示すブロック図である。
図6】第3の変形例に係る遠隔操作システムの全体構成の一例を示すブロック図である。
図7A】本発明の第2の実施形態に係る遠隔操作システムにおいて、画像生成部が生成する表示画像の一例を示す模式図である。
図7B】本発明の第2の実施形態に係る遠隔操作システムにおいて、画像生成部が生成する表示画像の一例を示す模式図である。
【発明を実施するための形態】
【0022】
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書、及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0023】
<1.第1の実施形態>
(1.1.概要)
まず、図1を参照して、本発明の第1の実施形態に係る遠隔操作システムの概要について説明する。図1は、本実施形態に係る遠隔操作システム100の機能構成の一例を示すブロック図である。
【0024】
図1に示すように、遠隔操作システム100は、例えば、2台の移動体101-1,101-2と、遠隔操作装置102と、を含む。
【0025】
2台の移動体101-1,101-2は、遠隔操作装置102とネットワーク103を介して相互にデータを送受信可能に接続されている。遠隔操作システム100は、遠隔地に存在する2台の移動体101-1,101-2を操作者OPが遠隔操作装置102にて遠隔操作するためのシステムである。
【0026】
2台の移動体101-1,101-2(両者を区別しない場合にはまとめて移動体101とも称する)は、自律的に移動することが可能であり、且つ遠隔操作装置102からの制御(遠隔操作とも称する)によっても移動走行することが可能なロボットである。具体的には、移動体101は、自律的な移動走行、遠隔操作装置102への通知、遠隔操作装置102からの遠隔操作による移動走行、及び遠隔操作装置102の要求に応じたデータ送信等を行うことが可能である。
【0027】
ここで、ロボットとは、いわゆる「人造人間」、「人間に類似した動作、又は作業を行う装置」、又は「指示に基づいてコンピュータ制御されることで動作、又は作業を行う装置」などと定義される機械装置である。例えば、ロボットは、「自動制御によるマニピュレーション機能、又は移動機能をもち、各種の作業をプログラムによって実行でき、産業に使用される機械」(JIS B 0134-1998)、「人間にサービスするロボット」(JIS B 0187:2005)、又は「センサ、知能・制御系、駆動系の3つの要素技術を有する、知能化した機械システム」(経済産業省ロボット政策研究会)にて定義される機械装置であってもよい。
【0028】
本実施形態に係る遠隔操作システム100では、移動体101は、種々の用途、又は種々のオペレーションに用いられ得る。例えば、移動体101は、警備対象施設における巡回監視などの警備用途に用いられ得る。移動体101は、公共の施設、又は公共の設備の点検などの用途に用いられ得る。また、移動体101は、製造現場(工場内の設備点検、又は製造部品若しくは材料の搬送など)、又は建設現場(建築部品の搬送、又は施工状態の確認など)などの場所で用いられ得る。さらに、移動体101は、旅客事業分野(旅客若しくは荷物の搬送、観光地の案内、又は荷物の点検など)、又は物流事業分野(貨物若しくは貨物車両の点検、又は貨物の搬送など)などで用いられ得る。
【0029】
遠隔操作装置102は、操作者OPが移動体101を遠隔操作する際に使用する装置である。例えば、遠隔操作装置102は、パーソナルコンピュータ(Personal Computer:PC)又はスマートフォンなどの端末と、これら端末に接続される周辺機器とを含む装置である。具体的には、遠隔操作装置102は、移動体101の状態に関するデータ出力、操作者OPの入力操作に基づく移動体101への移動指示、移動体101からの通知の出力、又は操作者OPの状態に関する監視等を行うことが可能である。例えば、遠隔操作装置102は、移動体101と、移動体101の周囲の環境と含む画像を操作者OPに提示することで、操作者OPに移動体101の周囲の環境を把握させることができる。これにより、遠隔操作装置102は、操作者OPの入力に基づいて、移動体101を遠隔操作で移動させることができる。
【0030】
ネットワーク103は、移動体101と、遠隔操作装置102とを接続する通信網である。ネットワーク103は、移動体101と遠隔操作装置102との間で相互にデータを送受信することを可能とする。ネットワーク103は、インターネット、衛星通信網、移動通信網、LAN(Local Area Network)、又はWAN(Wide Area Network)などであってもよい。
【0031】
また、移動体101とネットワーク103との間の通信方式、及び遠隔操作装置102とネットワーク103との間の通信方式は、同じ通信方式であってもよく、異なる通信方式であってもよい。例えば、移動体101は、任意の位置でネットワーク103に接続可能なように無線LAN通信を用いてネットワーク103に接続してもよい。一方、遠隔操作装置102は、所定の位置に設置してネットワーク103に接続可能なように有線LAN通信を用いてネットワーク103に接続してもよい。ただし、移動体101とネットワーク103との間の通信方式、及び遠隔操作装置102とネットワーク103との間の通信方式は、上記に限定されず、他の通信方式であってもよい。
【0032】
本実施形態に係る遠隔操作システム100では、移動体101は、基本的に自律的に移動走行しながら、移動体101の周囲の環境画像を遠隔操作装置102に送信する。しかしながら、移動体101は、移動体101自体で解決する、又は移動体101自体で判断することが困難な状況(インシデントとも称される)に遭遇することがあり得る。
【0033】
このような場合、移動体101は、操作者OPに遠隔操作を依頼する通知を遠隔操作装置102に送信し、遠隔操作装置102は、受信した通知を操作者OPに知らせる。これにより、操作者OPは、通知を送信した移動体101の遠隔操作を行うことができる。したがって、移動体101は、移動体101の周囲の環境画像を視認した操作者OPに遠隔操作装置102を介して遠隔操作されることで、遭遇したインシデントを解消することができる。
【0034】
ただし、移動体101―1、101―2の移動特性が異なる場合、例えば、操作者OPが移動体101-2を遠隔操作した後に、移動体101-1を遠隔操作する際に、操作対象の移動体101の移動特性をすぐに把握することが困難となる。したがって、移動体101の移動特性を把握していない状態で移動体101を遠隔操作した操作者OPは、移動体101を過度に移動させてしまうことがあり得る。
【0035】
本実施形態に係る遠隔操作システム100では、操作対象の移動体101の移動特性に基づいて、操作者OPに提示される移動体101の周囲の環境画像の表示範囲を制御する。これにより、遠隔操作装置102は、移動特性が異なる複数の移動体101の間で、所定量の入力操作に対する移動体101の移動量の差異が小さくなるように環境画像の表示範囲の大きさを制御することができる。したがって、遠隔操作装置102は、操作者OPが移動体101を過度に移動させてしまうことを抑制することができる。
【0036】
遠隔操作装置102は、操作者OPが所定量の入力操作に対する移動体101の移動量の差異を操作者OPが感じなくなる程度に、移動体101の移動量の差異を小さくしてもよい。例えば、遠隔操作装置102は、所定量の入力操作に対する移動体101の移動量の差異が移動体101の移動量の10%以下となる程度まで移動体101の移動量の差異を小さくしてもよい。
【0037】
(1.2.詳細構成)
続いて、図1を参照して、本実施形態に係る遠隔操作システム100の各装置の詳細構成について説明する。
【0038】
(移動体101)
移動体101は、例えば、移動体制御部110と、移動体通信部111と、AI部112と、バッテリー部113と、移動部114と、カメラ部115と、センサ部116と、表示部117と、スピーカ118と、マイク119と、を備える。
【0039】
移動体制御部110は、移動体101にて取得された種々のデータを処理すると共に、移動体101の動作全般を制御する。移動体制御部110は、例えば、移動体101の動作全般を制御するプログラムを含むソフトウェアと、該ソフトウェアをインストールしたプロセッサ及びメモリを含むハードウェアとによって構成されてもよい。ソフトウェアをインストールしたハードウェアとしては、パーソナルコンピュータ(Personal Computer)、タブレット、マイクロコンピュータ、又はスマートフォンなどの端末を例示することができる。
【0040】
移動体通信部111は、ネットワーク103に接続するための通信インターフェースである。例えば、移動体通信部111は、ネットワーク103、又はネットワーク103に接続可能な基地局に無線又は有線で接続可能な通信インターフェースであってもよい。ただし、移動体通信部111は、携帯電話通信網、又は無線LANなどのネットワークを介してネットワーク103に接続が可能な通信インターフェースであってもよい。
【0041】
移動部114は、移動体制御部110による制御に基づいて、移動体101を任意の位置に移動させることが可能な移動機構である。移動部114は、例えば、車輪式、脚式、無限軌道式、又はエアクッション式などの種々の方式の移動機構であってもよい。また、移動部114は、三次元的な移動が可能な移動機構であってもよい。例えば、移動部114は、回転翼などにより空中を移動可能な移動機構であってもよく、スクリューなどにより水上又は水中を移動可能な移動機構であってもよい。
【0042】
カメラ部115は、移動体101の周囲の環境画像を取得可能な少なくとも1つ以上の撮像装置を含む。カメラ部115は、例えば、移動体101の全周囲を撮像した環境画像を取得可能な360度カメラを含んでもよい。また、カメラ部115は、移動体101の各方位に設けられた複数の魚眼カメラを含んでもよい。このような場合、移動体101の前後左右に設けられた複数の魚眼カメラにて撮像された画像は、遠隔操作装置102で互いに切れ目ない全方位の画像に合成されることで、移動体101の周囲の環境を上空から俯瞰する環境画像を生成することができる。
【0043】
センサ部116は、移動体101の周囲の環境の各パラメータをセンシング可能な少なくとも1種以上のセンサを含む。センサ部116は、対応するセンサによって、例えば、温度、湿度、照度、気圧、振動、移動体101から対象物までの距離、又は移動体101の傾きの変化をセンシングしたセンシング情報を取得してもよい。また、センサ部116は、対応するセンサによって、煙、化学物質、及び静電気等の発生をセンシングしたセンシング情報を取得してもよい。なお、上記における「センシング」とは、移動体101の周囲の環境の各種パラメータを検知することに加えて、検知したパラメータをさらに計測、判別、及び分析することをも含むものとする。
【0044】
センサ部116が含むセンサの種類は、特に限定されない。センサ部116は、例えば、温度計、湿度計、照度計、気圧計、LiDAR(Light Detection And Ranging)センサ、又は熱画像計測装置(サーモグラフィカメラ)の1種以上を含んでもよい。
【0045】
また、センサ部116は、移動体通信部111を介して、移動体101の外部に設けられたセンサ装置から移動体101の周囲の環境に対するセンシング情報を取得してもよい。このような場合、センサ部116は、例えば、920MHz帯マルチホップ無線通信によって、外部のセンサ装置からセンシング情報を取得してもよい。
【0046】
上記では、移動体101は、カメラ部115とセンサ部116とを備えるとして説明したが、本実施形態は上記例示に限定されない。例えば、移動体101は、センサ部116を備えず、カメラ部115のみを備えてもよい。
【0047】
表示部117は、移動体制御部110の制御に応じて、種々の情報を画像等にて出力する。表示部117は、例えば、種々の情報を画像にて出力するディスプレイ、又は種々の情報を発光にて出力するランプ等を含んでもよい。
【0048】
スピーカ118は、移動体制御部110の制御に応じて、移動体101の周囲に音声を出力する。例えば、スピーカ118は、移動体101の動作に応じた効果音、移動体101の動作に応じた合成音声、又は操作者OPが入力した音声を移動体101の周囲に出力してもよい。
【0049】
マイク119は、移動体101の周囲の音声を収音する。例えば、マイク119は、移動体101の周囲に存在する人の音声、又は移動体101の周囲の環境音を収音してもよい。
【0050】
AI部112は、カメラ部115で撮像した移動体101の周囲の環境画像、及び移動体101の周囲の環境の各パラメータをセンサ部116でセンシングしたセンシング情報に基づいて、移動体101の周囲の環境を認識し、認識した環境に応じて判断し、且つ決定する。AI部112は、例えば、機械学習アルゴリズムを用いることで、環境画像とセンシング情報とから移動体101の周囲の環境を認識し、認識した環境に応じて判断し、且つ決定してもよい。
【0051】
バッテリー部113は、移動体101の各部に電力を供給する。バッテリー部113は、例えば、リチウムイオン二次電池などの二次電池を含んで構成されてもよい。
【0052】
(遠隔操作装置102)
遠隔操作装置102は、例えば、画像生成部126を含む制御部120と、通信部121と、カメラ部124と、センサ部125と、表示部127と、スピーカ128と、マイク129と、操作部130と、移動体情報記憶部122と、電源部123と、を備える。
【0053】
通信部121は、ネットワーク103に接続するための通信インターフェースである。例えば、通信部121は、ネットワーク103、又はネットワーク103に接続可能な基地局に無線又は有線で接続可能な通信インターフェースであってもよい。ただし、通信部121は、携帯電話通信網、又は無線LANなどのネットワークを介してネットワーク103に接続が可能な通信インターフェースであってもよい。
【0054】
制御部120は、遠隔操作装置102にて取得された種々のデータを処理すると共に、遠隔操作装置102の動作全般を制御する。また、制御部120には、表示部127に表示される表示画像を生成する画像生成部126が含まれる。制御部120は、例えば、遠隔操作装置102の動作全般を制御するプログラムを含むソフトウェアと、該ソフトウェアをインストールしたプロセッサ及びメモリを含むハードウェアとによって構成されてもよい。ソフトウェアをインストールしたハードウェアとしては、パーソナルコンピュータ(Personal Computer)、タブレット、マイクロコンピュータ、又はスマートフォンなどの端末を例示することができる。
【0055】
カメラ部124は、遠隔操作装置102の周囲の画像を取得可能な撮像装置を含む。カメラ部124は、例えば、操作者OP、又は操作者OPの周囲を撮像する撮像装置を含んでもよい。
【0056】
センサ部125は、遠隔操作装置102の周囲の環境、又は操作者OPの各パラメータをセンシング可能な少なくとも1種以上のセンサを含む。センサ部125は、対応するセンサによって、例えば、操作者OPの体温、心拍数、血圧値、又は呼吸数などのバイタルサインをセンシングしたセンシング情報を取得してもよい。なお、センサ部125は、通信部121を介して、遠隔操作装置102の外部に設けられたセンサ装置から遠隔操作装置102の周囲の環境、又は操作者OPの周囲の環境に対するセンシング情報を取得してもよい。
【0057】
画像生成部126は、移動体101のカメラ部115にて取得された移動体101の周囲の環境画像に移動体101に対応する仮想画像を重畳することで表示画像を生成する。
【0058】
例えば、カメラ部115が移動体101の全周囲を撮像した画像を取得可能な360度カメラを含む場合、画像生成部126は、移動体101の全周囲を撮像した画像を補正し、補正後の画像から切り出すことで、環境画像を生成することができる。
【0059】
また、カメラ部115が移動体101の各方位に設けられた複数の魚眼カメラを含む場合、画像生成部126は、移動体101の前後左右に設けられた複数の魚眼カメラにて撮像された画像を切れ目ない全方位の映像に合成することで、移動体101の周囲の環境(ただし、移動体101は含まず)を上空から俯瞰する環境画像を生成することができる。
【0060】
ここで、魚眼カメラにて撮像された画像を接続することで生成された環境画像には、魚眼カメラ自体が設けられた移動体101の画像が含まれない。そのため、画像生成部126は、生成された環境画像内の移動体101に対応する位置に移動体101の仮想画像を重畳することで、移動体101と、移動体101の周囲の環境とを上空から俯瞰する表示画像を生成することができる。
【0061】
なお、移動体101の周囲の環境を示す環境画像の生成方法は、上記に限定されない。例えば、移動体101の周囲の環境を示す環境画像は、移動体101が存在する空間に設けられた監視カメラにて撮像された画像から生成されてもよい。
【0062】
さらに、画像生成部126は、移動体101の移動特性に関する情報に基づいて、表示画像における移動体101の周囲の環境画像の表示範囲を制御することができる。
【0063】
具体的には、画像生成部126は、操作者OPによる所定量の入力操作に対応する移動体101の移動量に基づいて、表示画像における移動体101の周囲の環境画像の表示範囲を制御してもよい。例えば、画像生成部126は、所定量の入力操作に対応する移動体101の移動量が大きいほど環境画像の表示範囲を拡大し、且つ所定量の入力操作に対応する移動体101の移動量が小さいほど環境画像の表示範囲を縮小してもよい。これによれば、画像生成部126は、移動特性が異なる移動体101の間で、所定量の入力操作に対する移動体101の移動量の差異が小さくなるように環境画像の表示範囲の大きさを制御することができる。
【0064】
表示部127は、制御部120に含まれる画像生成部126にて生成された環境画像を表示する。表示部127は、例えば、液晶ディスプレイ(Liquid Crystal Display:LCD)装置、OLED(Organic Light Emitting Diode)ディスプレイ装置、又はタッチパネルディスプレイ装置などの表示装置を含んでもよい。後述するが、表示部127には、移動体101のカメラ部115にて撮像された環境画像を用いて画像生成部126にて生成された表示画像が表示される。操作者OPは、表示部127に表示された表示画像を視認することで、移動体101の周囲の環境を把握することができる。
【0065】
スピーカ128は、制御部120の制御に応じて、遠隔操作装置102の周囲に音響を出力する。例えば、スピーカ128は、制御部120による制御に伴う音声、又は移動体101を遠隔操作している際に移動体101のマイク119で収音された移動体101の周囲の音声を遠隔操作装置102の周囲に出力してもよい。
【0066】
マイク129は、遠隔操作装置102の周囲の音声を収音する。例えば、マイク129は、遠隔操作装置102の周囲の操作者OPが発話した音声を収音してもよい。
【0067】
操作部130は、操作者OPからの操作を受け付けるための入力装置を含む。操作部130は、例えば、キーボード、マウス、タッチパネル、トラックパッド、十字キー、又は操作レバー等の入力装置を含んでもよい。これによれば、操作部130は、移動体101の移動走行の方向と速度とを指示する入力操作を操作者OPから受け付けることができる。
【0068】
移動体情報記憶部122は、遠隔操作装置102に接続される移動体101(具体的には、2台の移動体101-1,101-2)の移動特性に関する情報を記憶する。具体的には、移動体情報記憶部122は、遠隔操作装置102にて遠隔操作される可能性がある2台の移動体101-1,101-2の移動速度、移動範囲、又は移動可能領域などの移動特性に関する情報を記憶する。さらに、移動体情報記憶部122は、2台の移動体101-1,101-2の形状、全長、全幅、又は高さなどに関する情報を記憶してもよい。
【0069】
移動体情報記憶部122に記憶された移動体101の移動特性に関する情報は、操作部130からの入力操作に対する移動体101の移動方向及び移動量を設定するために用いられる。例えば、移動体101の移動特性に関する情報は、操作部130からの所定量の入力操作に対する移動体101の移動量を設定するために用いられてもよい。
【0070】
電源部123は、外部電源から、又は内蔵電源から遠隔操作装置102の各部に電力を供給する。例えば、電源部123は、入力された電力を変圧等した上で、外部電源から入力された電力を遠隔操作装置102の各部に供給してもよい。
【0071】
ここで、所定量の入力操作に対応する移動量が互いに異なる移動体101A,101B,101Cに対して画像生成部126が生成する表示画像について、図2A図2Cを参照して説明する。図2A図2Cは、所定量の入力操作に対応する移動量が異なる移動体101A,101B,101Cに対して画像生成部126が生成する表示画像の一例を示す模式図である。図2A図2Cでは、所定量の入力操作に対応する移動量は、移動体101A,101B,101Cの順で徐々に大きくなっているものとする。
【0072】
例えば、所定量の入力操作に対応する移動量が基準値となる移動体101Aでは、画像生成部126は、図2Aに示すように、表示範囲を拡大又は縮小していない環境画像311Aに仮想画像321Aを重畳させた表示画像301Aを生成する。所定量の入力操作に対応する移動量が移動体101Aより小さい移動体101Bでは、画像生成部126は、図2Bに示すように、表示範囲を環境画像311Aより縮小させた環境画像311Bに仮想画像321Bを重畳させた表示画像301Bを生成する。所定量の入力操作に対応する移動量が移動体101Aより大きい移動体101Cでは、画像生成部126は、図2Cに示すように、表示範囲を環境画像311Aより拡大させた環境画像311Cに仮想画像321Cを重畳させた表示画像301Cを生成する。
【0073】
これによれば、画像生成部126は、表示画像301A,301B,301Cの各々において、環境画像311A,311B,311Cの表示範囲を制御することで、所定の入力操作に対する仮想画像321A,321B,321C内の移動体101A,101B,101Cの移動量の差異を小さくすることができる。
【0074】
したがって、操作者OPは、表示画像301において、所定の入力操作に対する移動体101の移動量が異なる場合であっても、同様の操作感で移動体101を操作することができる。遠隔操作装置102は、移動特性が異なる移動体101を操作者OPが操作する場合でも、差異が感じられない程度に移動体101の各々の操作感を統一することができるため、操作者OPのユーザビリティを向上させることができる。
【0075】
(1.3.動作例)
次に、図3を参照して、本実施形態に係る遠隔操作装置102の動作例について説明する。図3は、本実施形態に係る遠隔操作装置102の動作の流れを示すフローチャート図である。
【0076】
まず、本実施形態に係る遠隔操作システム100において、移動体101が自律的に移動走行する状態(以下、自律制御状態とも称する)から遠隔操作によって移動走行する状態(以下、遠隔操作状態とも称する)に切り替わるまでの流れを説明する。
【0077】
遠隔操作システム100では、移動体101は、ネットワーク103を介して遠隔操作装置102と相互に接続されている。移動体101は、移動体制御部110の自律制御によって、移動ルートの設定、カメラ部115による撮像画像の取得、センサ部116によるセンシング情報の取得、及び自律的な移動走行を実行する。同時に、移動体101は、移動体制御部110の自律制御によって、カメラ部115にて取得された撮像画像、及びセンサ部116にて取得されたセンシング情報の一部を遠隔操作装置102に送信する。一方、遠隔操作装置102は、移動体101から受信した撮像画像などを用いて画像生成部126にて表示画像を生成する。生成された表示画像は、表示部127にて操作者OPに表示される。
【0078】
通常、移動体101は、自律的な判断と、自律的な制御とによって動作している。しかしながら、所定の事象(イベント)が確認された場合、移動体101は、自律制御を一時中断し、遠隔操作の依頼を遠隔操作装置102に通知する。以下では、移動体101が自律制御を一時中断すると判断した事象を「インシデント」と称する。
【0079】
具体的には、移動体101は、移動経路上に検出したオブジェクトが移動走行の障害となり、且つ移動体101の自律的な移動走行のみでは回避されないと判断した場合に、該オブジェクトを発生源とするインシデントを検出する。このような場合、移動体101は、遠隔操作装置102にインシデントの発生を通知する共に、遠隔操作装置102に操作者OPによる遠隔操作依頼を通知してもよい。
【0080】
なお、移動体101が移動走行の障害となるオブジェクトを検出する方法は特に限定されない。例えば、移動体101は、カメラ部115にて取得された撮像画像、又はセンサ部116にて取得されたセンシング情報(例えば、超音波センサ又はミリ波レーダーのセンシング情報)の少なくとも1つ以上に基づいて、移動走行の障害となるオブジェクトを検出してもよい。
【0081】
また、移動体101は、移動走行の経路上に検出したオブジェクトの種類を認識してもよい。例えば、移動体101は、カメラ部115にて取得された撮像画像、又はセンサ部116にて取得されたセンシング情報をAI部112の機械学習アルゴリズムにて認識することで、検出したオブジェクトの種類を特定する情報を取得してもよい。このようなオブジェクトの認識に用いる機械学習アルゴリズムとしては、移動走行の障害となり得るオブジェクトの画像等を教師データとしてあらかじめ学習させた機械学習アルゴリズムを採用することができる。
【0082】
例えば、移動走行の障害となり得るオブジェクトとしては、移動体101が移動を予定している経路を変更せずに回避可能であるもの(小さな木の枝など)、及び移動体101が移動を予定している経路を変更して回避するもの(道を塞ぐ大きな倒木など)などの様々な種類が存在する。したがって、移動体101は、あらかじめ移動走行の障害となり得るオブジェクトに対して頻度及び深刻さを考慮した種類分けをしておくことで、検出したオブジェクトの種類に応じて、自律的にインシデントを解消可能か否か、及び操作者OPによる遠隔操作を依頼するか否かを判断することができる。
【0083】
以上の流れにより、移動体101から遠隔操作を依頼する通知が遠隔操作装置102に送信された後、図3に示すように、遠隔操作装置102は、インシデントの発生を検出した移動体101から送信された遠隔操作依頼を受信する(S101)。移動体101からの遠隔操作依頼は、例えば、表示部127を介して操作者OPに出力されてもよく、スピーカ128を介して操作者OPに出力されてもよい。
【0084】
次に、遠隔操作装置102は、遠隔操作装置102の内部に存在する、又は遠隔操作装置102の外部に存在する移動体情報記憶部122から遠隔操作される移動体101の移動特性に関する情報を取得する(S102)。
【0085】
続いて、遠隔操作装置102は、移動体101のカメラ部115で撮像された移動体101の周囲の環境画像を受信する(S103)。
【0086】
次に、遠隔操作装置102の画像生成部126は、移動体101の周囲の環境画像に移動体101の仮想画像を重畳した表示画像を生成する(S104)。
【0087】
画像生成部126にて生成された表示画像は、表示部127を介して操作者OPに提示される(S105)。これにより、操作者OPは、表示画像を視認することで、移動体101を適切に遠隔操作することが可能になる。なお、このとき、遠隔操作装置102は、表示部127を介して、操作者OPに移動体101の移動特性に関する情報(特に、所定の操作量に対応する移動体101の移動量に関する情報)を画像で出力してもよい。また、遠隔操作装置102は、スピーカ128を介して、操作者OPに移動体101の移動特性に関する情報を音声で出力してもよい。
【0088】
遠隔操作装置102は、表示画像を視認した操作者OPから移動体101への入力操作を受け付け(S106)、操作者OPからの入力操作に関する情報を移動体101に送信する(S107)。
【0089】
これにより、遠隔操作装置102は、移動体101の周囲の環境画像を含む表示画像を操作者OPに提示すると共に、操作者OPから移動体101への入力操作を移動体101に伝達することができる。
【0090】
以上説明したように本実施形態に係る遠隔操作装置102によれば、移動特性が異なる移動体101を遠隔操作する場合に、操作者OPが視認する表示画像における移動体101の各々の操作感を統一することができる。したがって、遠隔操作装置102は、操作者OPのユーザビリティを向上させることができる。
【0091】
(1.4.変形例)
(第1の変形例)
続いて、図4を参照して、本実施形態の第1の変形例に係る遠隔操作システム100Aについて説明する。図4は、第1の変形例に係る遠隔操作システム100Aの全体構成の一例を示すブロック図である。
【0092】
図4に示すように、第1の変形例に係る遠隔操作システム100Aは、図1で示す遠隔操作システム100と比較して、移動体情報記憶部122が移動体101に設置されている点が異なる。
【0093】
移動体情報記憶部122は、移動体情報記憶部122が設けられたそれぞれの移動体101の移動特性に関する情報を記憶する記憶部である。移動体101は、遠隔操作を依頼する通知を遠隔操作装置102に送信する際に、移動体情報記憶部122に記憶された移動特性に関する情報を併せて遠隔操作装置102に送信する。
【0094】
これによれば、本変形例に係る遠隔操作システム100Aは、遠隔操作装置102で、遠隔操作する移動体101の移動特性に関するリアルタイムの情報を取得することが可能である。したがって、本変形例に係る遠隔操作システム100Aは、移動体101のリアルタイムの情報を取得できるため、操作者OPのユーザビリティをより向上させることが可能である。
【0095】
なお、移動体情報記憶部122は、遠隔操作装置102とネットワーク103で接続された外部のサーバに設けられてもよい。このような場合、遠隔操作装置102は、移動体101を遠隔操作する際に、遠隔操作する移動体101の移動特性に関する情報を外部サーバに設けられた移動体情報記憶部122から同様に取得することができる。
【0096】
(第2の変形例)
続いて、図5を参照して、本実施形態の第2の変形例に係る遠隔操作システム100Bについて説明する。図5は、第2の変形例に係る遠隔操作システム100Bの全体構成の一例を示すブロック図である。
【0097】
図5に示すように、第1の変形例に係る遠隔操作システム100Bは、N(Nは、3以上の整数)台の移動体101-1,101-2,…101-Nと、遠隔操作装置102と、を含む。第2の変形例に係る遠隔操作システム100Bは、図1で示す遠隔操作システム100と比較して、遠隔操作装置102と接続される移動体101の台数がより多くなっている点が異なる。
【0098】
N台の移動体101-1,101-2,…101-N(これらを区別しない場合にはまとめて移動体101とも称する)は、遠隔操作装置102とネットワーク103を介して相互にデータを送受信可能に接続されている。遠隔操作システム100Bは、遠隔地に存在するN台の移動体101-1,101-2,…101-Nを操作者OPが遠隔操作装置102にて遠隔操作するためのシステムである。
【0099】
第2の変形例に係る遠隔操作システム100Bに示すように、遠隔操作システム100Bに含まれる移動体101の台数は特に限定されない。ただし、遠隔操作システム100Bに含まれる移動体101の台数が増加するほど、遠隔操作装置102を扱う操作者OPは、多様な移動特性を有する移動体101を遠隔操作することになると考えられる。
【0100】
本変形例に係る遠隔操作システム100Bは、異なる移動特性を有する移動体101の間で、所定の操作量に対する表示画像上の移動体101の移動量の差異を小さくすることができる。したがって、本変形例に係る遠隔操作システム100Bは、より多くの移動体101を遠隔操作する操作者OPに対して、移動体101の各々の操作感を統一させることができるため、操作者OPのユーザビリティをより向上させることが可能である。
【0101】
(第3の変形例)
次に、図6を参照して、本実施形態の第3の変形例に係る遠隔操作システム100Cについて説明する。図6は、第3の変形例に係る遠隔操作システム100Cの全体構成の一例を示すブロック図である。
【0102】
図6に示すように、第3の変形例に係る遠隔操作システム100Cは、N(Nは、2以上の整数、且つM≦N)台の移動体101-1,101-2,…101-Nと、M(Mは、2以上の整数)台の遠隔操作装置102-1,…102-Mと、を含む。第2の変形例に係る遠隔操作システム100Cは、図1で示す遠隔操作システム100と比較して、複数の移動体101と、複数の遠隔操作装置102とがネットワーク103にて接続されている点が異なる。
【0103】
N台の移動体101-1,101-2,…101-N(これらを区別しない場合にはまとめて移動体101とも称する)は、M台の遠隔操作装置102-1,…102-M(これらを区別しない場合にはまとめて遠隔操作装置102とも称する)とネットワーク103を介して相互にデータを送受信可能に接続されている。遠隔操作システム100Cは、遠隔地に存在するN台の移動体101-1,101-2,…101-NをM人の操作者OP-1,…OP-MがM台の遠隔操作装置102-1,…102-Mの各々にて遠隔操作するためのシステムである。
【0104】
第3の変形例に係る遠隔操作システム100Cに示すように、遠隔操作システム100Cに含まれる遠隔操作装置102の台数は2台以上、且つ移動体101の台数以下(M≦N)である。これは、移動体101の台数より遠隔操作装置102の台数が多くなる場合、1人のオペレータに対する移動体101の台数が最小で1台未満となるためである。第3の変形例に係る遠隔操作システム100Cでは、移動体101からの遠隔操作依頼に応じて、遠隔操作装置102及び操作者OPを遠隔操作される移動体101に適宜割り当てることで、より多くの移動体101を効率的に監視及び遠隔操作することが可能である。
【0105】
本変形例に係る遠隔操作システム100Cは、所定の操作量に対する表示画像上の移動体101の移動量を制御することが可能である。したがって、本変形例に係る遠隔操作システム100Cは、操作者OPに対して、表示画像上の移動体101の移動量を最適化することができるため、操作者OPのユーザビリティをより向上させることが可能である。
【0106】
<2.第2の実施形態>
図7A及び図7Bを参照して、本発明の第2の実施形態に係る遠隔操作システム100について説明する。第2の実施形態に係る遠隔操作システム100は、第1の実施形態に係る遠隔操作システム100に対して、画像生成部126が移動体101の移動特性に関する情報を示す情報画像をさらに重畳した表示画像を生成する点が異なる。図7A及び図7Bは、画像生成部126が生成する表示画像の一例を示す模式図である。
【0107】
具体的には、図7A及び図7Bに示すように、画像生成部126は、移動体101の周囲の環境画像311に、移動体101の仮想画像321と、移動体101の移動特性に関する情報を示す情報画像331とを重畳させた表示画像301を生成してもよい。例えば、画像生成部126は、移動体101を遠隔操作する操作者OPの視界を遮らないようにするために、環境画像311の四隅のいずれかに情報画像331を重畳してもよい。
【0108】
情報画像331には、例えば、移動体101の移動速度、移動範囲、又は移動可能領域などを示す文字データが含まれてもよい。また、情報画像331には、移動体101の名称、移動場所、及び大きさを示す文字データがさらに含まれてもよい。画像生成部126は、移動体情報記憶部122に記憶された移動体101の移動特性に関する情報を用いることにより、上記の情報画像331を生成することができる。
【0109】
また、画像生成部126は、移動体101の移動特性を矢印又はハッチングなどで示す情報画像331を表示画像301に重畳させてもよい。
【0110】
これによれば、操作者OPは、表示画像301に含まれる情報画像331を視認することで移動体101の移動特性を把握することができるため、移動体101の操作感を自身の感覚の中で補正することができる。したがって、遠隔操作装置102は、移動特性が異なる移動体101を操作者OPが操作する場合に、操作者OPのユーザビリティを向上させることができる。
【0111】
上記では、第2の実施形態に係る技術は、第1の実施形態に係る技術と組み合わせて使用されるとして説明したが、本発明は上記例示に限定されない。第2の実施形態に係る遠隔操作システム100では、画像生成部126は、操作者OPによる所定量の入力操作に対応する移動体101の移動量に基づいて表示範囲が制御されない環境画像311に、移動体101の仮想画像321と、移動体101の情報画像331とを重畳してもよい。
【0112】
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
【0113】
また、コンピュータに内蔵されるCPU(Central Processing Unit)、ROM(Read Only Memory)及びRAM(Random Access Memory)などのハードウェアに、本発明の第1又は第2の実施形態に係る遠隔操作装置102が備える構成と同等の機能を発揮させるためのプログラムも作成可能である。さらに、該プログラムを記録した、コンピュータに読み取り可能な記録媒体も提供され得る。
【符号の説明】
【0114】
100,100A,100B,100C 遠隔操作システム
101,101A,101B,101C 移動体
102 遠隔操作装置
103 ネットワーク
110 移動体制御部
111 移動体通信部
112 AI部
113 バッテリー部
114 移動部
115 カメラ部
116 センサ部
117 表示部
118 スピーカ
119 マイク
120 制御部
121 通信部
122 移動体情報記憶部
123 電源部
124 カメラ部
125 センサ部
126 画像生成部
127 表示部
128 スピーカ
129 マイク
130 操作部
OP 操作者
図1
図2A
図2B
図2C
図3
図4
図5
図6
図7A
図7B