IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 楽天株式会社の特許一覧

特許7572517表示制御装置、表示制御方法、情報処理端末、及びプログラム
<>
  • 特許-表示制御装置、表示制御方法、情報処理端末、及びプログラム 図1
  • 特許-表示制御装置、表示制御方法、情報処理端末、及びプログラム 図2
  • 特許-表示制御装置、表示制御方法、情報処理端末、及びプログラム 図3
  • 特許-表示制御装置、表示制御方法、情報処理端末、及びプログラム 図4
  • 特許-表示制御装置、表示制御方法、情報処理端末、及びプログラム 図5
  • 特許-表示制御装置、表示制御方法、情報処理端末、及びプログラム 図6
  • 特許-表示制御装置、表示制御方法、情報処理端末、及びプログラム 図7
  • 特許-表示制御装置、表示制御方法、情報処理端末、及びプログラム 図8
  • 特許-表示制御装置、表示制御方法、情報処理端末、及びプログラム 図9
  • 特許-表示制御装置、表示制御方法、情報処理端末、及びプログラム 図10
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2024-10-15
(45)【発行日】2024-10-23
(54)【発明の名称】表示制御装置、表示制御方法、情報処理端末、及びプログラム
(51)【国際特許分類】
   G08G 1/09 20060101AFI20241016BHJP
   G08G 1/005 20060101ALI20241016BHJP
【FI】
G08G1/09 H
G08G1/005
【請求項の数】 15
(21)【出願番号】P 2023122093
(22)【出願日】2023-07-27
【審査請求日】2023-07-27
【新規性喪失の例外の表示】特許法第30条第2項適用 援用された意願2023-15382について提出された新規性の喪失の例外証明書提出書に添付された次の3点。(1)2022年8月3日~同年8月5日に国立大学法人筑波大学構内での実験の公開。(2)2022年9月13日に行われたウェブサイトでの公開。(3)2022年11月29日~同年12月1日に開催された展示会であるACM VRST 2022での公開。
(73)【特許権者】
【識別番号】399037405
【氏名又は名称】楽天グループ株式会社
(74)【代理人】
【識別番号】100105957
【弁理士】
【氏名又は名称】恩田 誠
(74)【代理人】
【識別番号】100068755
【弁理士】
【氏名又は名称】恩田 博宣
(72)【発明者】
【氏名】ケルビン カ シン チェング
(72)【発明者】
【氏名】幸田 健介
(72)【発明者】
【氏名】井上 円
(72)【発明者】
【氏名】仁科 宏治
【審査官】佐藤 吉信
(56)【参考文献】
【文献】国際公開第2021/130980(WO,A1)
【文献】特開2019-032234(JP,A)
【文献】米国特許出願公開第2018/0061137(US,A1)
【文献】米国特許出願公開第2021/0097866(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G08G 1/00-99/00
G01C 21/00-21/36
G01C 23/00-25/00
B60W 10/00-10/30
B60W 30/00-60/00
G09B 23/00-29/14
G06T 1/00- 1/40
G06T 3/00- 5/94
G06T 7/00- 7/90
G06T 11/60-13/80
G06T 17/05
G06T 19/00-19/20
(57)【特許請求の範囲】
【請求項1】
無人機の移動ルートの周囲に存在する基準視覚的特徴点を含む三次元地図情報を保持する保持部と、
前記基準視覚的特徴点と、前記無人機の無人機オブジェクトを含む端末画像に含まれる視覚的特徴点と、をマッチングすることで、前記端末画像に含まれる前記無人機オブジェクトが示す前記無人機を識別するように構成される無人機特定部と、
前記端末画像を提供した端末の表示面に、前記無人機特定部で識別された前記無人機の移動に関連する関連情報を示すAR関連オブジェクトを前記端末画像に重畳して表示させるように構成される表示制御部と、
を備える表示制御装置。
【請求項2】
前記三次元地図情報は、VPS(Visual Positioning System)で利用可能な地図情報である
請求項1に記載の表示制御装置。
【請求項3】
前記無人機に割り振られた無人機識別データに関連付けて、前記関連情報を管理するデータベースを更に備え、
前記三次元地図情報は、GNSS座標に関連付けられており、
前記無人機特定部は、前記無人機から取得したGNSS座標と、前記マッチングから求められた前記端末画像内のGNSS座標と、に基づいて、前記端末画像に含まれる前記無人機オブジェクトが示す前記無人機の無人機識別データを特定するように構成され、
前記表示制御部は、前記表示面に、前記無人機特定部によって特定された無人機識別データに関連付けられた前記関連情報を示す前記AR関連オブジェクトを前記端末画像に重畳して表示させるように構成される
請求項1に記載の表示制御装置。
【請求項4】
前記表示制御部は、前記表示面に、前記AR関連オブジェクトとして、前記無人機オブジェクトから前記無人機オブジェクトの進行方向に延びる進行方向表示オブジェクトを前記端末画像に重畳して表示させるように構成される
請求項1から3のうちいずれか一項に記載の表示制御装置。
【請求項5】
前記表示制御部は、前記表示面に、前記AR関連オブジェクトとして、前記無人機オブジェクトの進行方向に位置する領域に、立入禁止領域を示す警告表示オブジェクトを前記端末画像に重畳して表示させるように構成される
請求項1から3のうちいずれか一項に記載の表示制御装置。
【請求項6】
前記表示制御部は、前記表示面に、前記AR関連オブジェクトとして、前記無人機の移動速度を示す速度表示オブジェクトを前記端末画像に重畳して表示させるように構成される
請求項1から3のうちいずれか一項に記載の表示制御装置。
【請求項7】
前記表示制御部は、前記表示面に、前記AR関連オブジェクトとして、前記移動ルートを示すルートオブジェクトを含む地図オブジェクトを前記端末画像に重畳して表示させるように構成される
請求項1から3のうちいずれか一項に記載の表示制御装置。
【請求項8】
前記表示制御部は、前記地図オブジェクトに、前記無人機の現在位置を示す現在位置オブジェクトを重畳して表示させる
請求項7に記載の表示制御装置。
【請求項9】
前記表示制御部は、前記表示面に、前記基準視覚的特徴点に関連づいた追加情報を示すAR追加オブジェクトを前記端末画像に重畳して表示させるように構成される
請求項1から3のうちいずれか一項に記載の表示制御装置。
【請求項10】
前記無人機及び前記端末のうち少なくとも1つの装置と移動通信システムを利用して通信を行うように構成される
請求項1に記載の表示制御装置。
【請求項11】
コンピュータが、
保持部が保持する情報であって無人機の移動ルートの周囲に存在する基準視覚的特徴点を含む三次元地図情報と、前記無人機の無人機オブジェクトを含む端末画像に含まれる視覚的特徴点と、をマッチングすることで、前記端末画像に含まれる前記無人機オブジェクトが示す前記無人機を識別し、
前記端末画像を提供した端末の表示面に、識別された前記無人機の移動に関連する関連情報を示すAR関連オブジェクトを前記端末画像に重畳して表示させる
表示制御方法。
【請求項12】
コンピュータに、
保持部が保持する情報であって無人機の移動ルートの周囲に存在する基準視覚的特徴点を含む三次元地図情報と、前記無人機の無人機オブジェクトを含む端末画像に含まれる視覚的特徴点と、をマッチングすることで、前記端末画像に含まれる前記無人機オブジェクトが示す前記無人機を識別し、
前記端末画像を提供した端末の表示面に、識別された前記無人機の移動に関連する関連情報を示すAR関連オブジェクトを前記端末画像に重畳して表示させる
表示制御方法を実行させるプログラム。
【請求項13】
撮像部が撮像した、無人機の無人機オブジェクトを含む端末画像を生成するように構成される生成部と、
前記生成部が生成した前記端末画像を表示制御装置に送信するとともに、表示面に、前記表示制御装置が保持する三次元地図情報の基準視覚的特徴点と前記端末画像に含まれる視覚的特徴点とをマッチングすることで識別された前記無人機の移動に関連する関連情報を示すAR関連オブジェクトを前記端末画像に重畳して表示させるためのコマンドを受信する、ように構成される通信部と、
前記表示面に、前記コマンドに従った前記AR関連オブジェクトを前記端末画像に重畳して表示させるように構成される端末制御部と、
を備える情報処理端末。
【請求項14】
情報処理端末が、
撮像部が撮像した、無人機の無人機オブジェクトを含む端末画像を生成し、
前記生成した前記端末画像を表示制御装置に送信し、
表示面に、前記表示制御装置が保持する三次元地図情報の基準視覚的特徴点と前記端末画像に含まれる視覚的特徴点とをマッチングすることで識別された前記無人機の移動に関連する関連情報を示すAR関連オブジェクトを前記端末画像に重畳して表示させるためのコマンドを受信し、
前記表示面に、前記コマンドに従った前記AR関連オブジェクトを前記端末画像に重畳して表示させる
表示制御方法。
【請求項15】
情報処理端末に、
撮像部が撮像した、無人機の無人機オブジェクトを含む端末画像を生成し、
前記生成した前記端末画像を表示制御装置に送信し、
表示面に、前記表示制御装置が保持する三次元地図情報の基準視覚的特徴点と前記端末画像に含まれる視覚的特徴点とをマッチングすることで識別された前記無人機の移動に関連する関連情報を示すAR関連オブジェクトを前記端末画像に重畳して表示させるためのコマンドを受信し、
前記表示面に、前記コマンドに従った前記AR関連オブジェクトを前記端末画像に重畳して表示させる
表示制御方法を実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示の実施形態は、表示制御装置、表示制御方法、情報処理端末、及びプログラムに関する。
【背景技術】
【0002】
従来、移動体等の無人機により、商品等の物品を配送する技術が知られている(例えば、特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2022-99338号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
走行している無人機の周囲にいる人にとって、無人機が今後どの程度の速度で、どの方向に進むのか等予測がつかず、無人機の動向が分からないことによって、無人機の周囲にいる人が不安を感じるおそれがある。
【課題を解決するための手段】
【0005】
上記課題を解決する表示制御装置は、無人機の移動ルートの周囲に存在する基準視覚的特徴点を含む三次元地図情報を保持する保持部と、前記基準視覚的特徴点と、前記無人機の無人機オブジェクトを含む端末画像に含まれる視覚的特徴点と、をマッチングすることで、前記端末画像に含まれる前記無人機オブジェクトが示す前記無人機を識別するように構成される無人機特定部と、前記端末画像を提供した端末の表示面に、前記無人機特定部で識別された前記無人機の移動に関連する関連情報を示すAR関連オブジェクトを前記端末画像に重畳して表示させるように構成される表示制御部と、を備える。
【0006】
上記構成によれば、端末画像には、端末画像に含まれている無人機オブジェクトに関連する関連情報がAR関連オブジェクトとして表示される。これにより、無人機の周囲にいる者の不安感を低減できる。
【0007】
上記表示制御装置において、前記三次元地図情報は、VPS(Visual Positioning System)で利用可能な地図情報であることが好ましい。
上記構成によれば、実際の無人機の現在位置を特定することができる。
【0008】
上記表示制御装置において、前記無人機に割り振られた無人機識別データに関連付けて、前記関連情報を管理するデータベースを更に備え、前記三次元地図情報は、GNSS座標に関連付けられており、前記無人機特定部は、前記無人機から取得したGNSS座標と、前記マッチングから求められた前記端末画像内のGNSS座標と、に基づいて、前記端末画像に含まれる前記無人機オブジェクトが示す前記無人機の無人機識別データを特定ように構成され、前記表示制御部は、前記表示面に、前記無人機特定部によって特定された無人機識別データに関連付けられた前記関連情報を示す前記AR関連オブジェクトを前記端末画像に重畳して表示させるように構成されてもよい。
【0009】
上記構成によれば、データベースで各無人機の状態等を管理することができる。データベースが無人機の現在位置をGPS座標で管理し、かつ三次元地図情報が含む基準視覚的特徴点にGPS座標が関連付けられている。これにより、データベースが管理している無人機の関連情報を端末画像にAR関連オブジェクトとして重畳して表示することができる。
【0010】
上記表示制御装置において、前記表示制御部は、前記表示面に、前記AR関連オブジェクトとして、前記無人機オブジェクトから前記無人機オブジェクトの進行方向に延びる進行方向表示オブジェクトを前記端末画像に重畳して表示させるように構成されてもよい。
【0011】
上記構成によれば、端末画像には、進行方向表示オブジェクトが重畳して表示される。これにより、情報処理端末の所有者は、近くを移動する無人機の進行方向を知ることができる。
【0012】
上記表示制御装置において、前記表示制御部は、前記表示面に、前記AR関連オブジェクトとして、前記無人機オブジェクトの進行方向に位置する領域に、立入禁止領域を示す警告表示オブジェクトを前記端末画像に重畳して表示させるように構成されてもよい。
【0013】
上記構成によれば、端末画像には、無人機オブジェクトの進行方向に位置する領域に、立入禁止領域を示す警告表示オブジェクトが表示される。これにより、情報処理端末の所有者は、近くを移動する無人機の立入禁止の領域を把握することができる。
【0014】
上記表示制御装置において、前記表示制御部は、前記表示面に、前記AR関連オブジェクトとして、前記無人機の移動速度を示す速度表示オブジェクトを前記端末画像に重畳して表示させるように構成されてもよい。
【0015】
上記構成によれば、端末画像には、無人機の移動速度を示す速度表示オブジェクトが表示される。これにより、情報処理端末の所有者は、近くを移動する無人機の移動速度を把握することができる。
【0016】
上記表示制御装置において、前記表示制御部は、前記表示面に、前記AR関連オブジェクトとして、前記移動ルートを示すルートオブジェクトを含む地図オブジェクトを前記端末画像に重畳して表示させるように構成されてもよい。
【0017】
上記構成によれば、端末画像には、ルートオブジェクトを含む地図オブジェクトを表示される。これにより、情報処理端末の所有者は、地図上での移動ルートを把握することができる。
【0018】
上記表示制御装置において、前記表示制御部は、前記地図オブジェクトに、前記無人機の現在位置を示す現在位置オブジェクトを重畳して表示させるように構成されてもよい。
上記構成によれば、地図オブジェクトには、無人機の現在位置を示す現在位置オブジェクトを重畳して表示させる。これにより、情報処理端末の所有者は、地図上での現在位置を把握することができる。
【0019】
上記表示制御装置において、前記表示制御部は、前記表示面に、前記基準視覚的特徴点に関連づいた追加情報を示すAR追加オブジェクトを前記端末画像に重畳して表示させるように構成されてもよい。
【0020】
上記構成によれば、端末画像には、追加情報として、AR追加オブジェクトが表示される。これにより、情報処理端末の所有者は、無人機の周囲の追加情報を知ることもできる。
【0021】
上記表示制御装置において、前記無人機及び前記端末のうち少なくとも1つの装置と移動通信システムを利用して通信を行うように構成されてもよい。
上記構成によれば、ネットワークは、第5世代移動通信システム等の高速大容量で低遅延の移動通信システムを含んでいる。したがって、端末画像には、AR関連オブジェクトを、ほぼリアルタイムに重畳して表示することができる。すなわち、AR関連オブジェクトを端末画像の中で適当な位置に表示することができる。
【0022】
また、上記課題を解決する表示制御方法は、コンピュータが、保持部が保持する情報であって無人機の移動ルートの周囲に存在する基準視覚的特徴点を含む三次元地図情報と、前記無人機の無人機オブジェクトを含む端末画像に含まれる視覚的特徴点と、をマッチングすることで、前記端末画像に含まれる前記無人機オブジェクトが示す前記無人機を識別し、前記端末画像を提供した端末の表示面に、識別された前記無人機の移動に関連する関連情報を示すAR関連オブジェクトを前記端末画像に重畳して表示させる。
【0023】
このような表示制御方法は、コンピュータに、上記表示制御方法を実行させるプログラムをインストールすることによって実現できる。プログラムは、ネットワークを通じて、又は光ディスク、半導体メモリなどの可搬性記録媒体を通じて拡布されコンピュータにインストールされる。
【0024】
また、上記課題を解決する情報処理端末は、撮像部が撮像した、無人機の無人機オブジェクトを含む端末画像を生成するように構成される生成部と、前記生成部が生成した前記端末画像を表示制御装置に送信するとともに、表示面に、前記無人機の移動に関連する関連情報を示すAR関連オブジェクトを前記端末画像に重畳して表示させるためのコマンドを受信する、ように構成される通信部と、前記表示面に、前記コマンドに従った前記AR関連オブジェクトを前記端末画像に重畳して表示させるように構成される端末制御部と、を備える。
【0025】
また、上記課題を解決する表示制御方法は、情報処理端末が、撮像部が撮像した、無人機の無人機オブジェクトを含む端末画像を生成し、前記生成した前記端末画像を表示制御装置に送信し、表示面に前記無人機の移動に関連する関連情報を示すAR関連オブジェクトを前記端末画像に重畳して表示させるためのコマンドを受信し、前記表示面に、前記コマンドに従った前記AR関連オブジェクトを前記端末画像に重畳して表示させる。
【0026】
このような表示制御方法は、情報処理端末に、上記表示制御方法を実行させるプログラムをインストールすることによって実現できる。プログラムは、ネットワークを通じて、又は光ディスク、半導体メモリなどの可搬性記録媒体を通じて拡布され情報処理端末にインストールされる。
【発明の効果】
【0027】
本開示によれば、無人機の周囲にいる者の無人機に対する不安感を低減できる。
【図面の簡単な説明】
【0028】
図1図1は、実施形態に係る無人機の移動システムの構成の一例を示す図である。
図2図2は、図1に示す無人機の一構成例を示すブロック図である。
図3図3は、図1に示す情報処理端末の一構成例を示すブロック図である。
図4図4は、図1に示す管理サーバの一構成例を示すブロック図である。
図5図5は、三次元地図情報を説明するための図である。
図6図6は、図4に示す管理サーバが備えるデータベースの一構成例を示す図である。
図7図7は、図1に示す無人機が移動するときの無人機の処理手順を示すフローチャートである。
図8図8は、図1に示す無人機が移動するときの管理サーバの処理手順を示すフローチャートである。
図9図9は、無人機を撮像している情報処理端末の処理手順と管理サーバの処理手順を示すフローチャートである。
図10図10は、ユーザ端末の表示面にAR関連オブジェクトが表示された端末画像を示す図である。
【発明を実施するための形態】
【0029】
以下、図面を参照し、表示制御装置、表示制御方法、情報処理端末、及びプログラムが適用される無人機の移動システムについて説明する。
<第1実施形態>
[全体構成]
図1に示すように、無人機の移動システム1は、1つ以上の無人機10と、1つ以上の情報処理端末20と、1つ以上の管理サーバ30と、を備える。そして、無人機10、情報処理端末20、及び管理サーバ30は、ネットワーク2によって相互に接続されている。
【0030】
ネットワーク2は、無線移動システムとして、好ましくは第5世代移動通信システムを少なくとも一部に利用している。ネットワーク2は、高速大容量で低遅延の移動通信システムを利用することで、動画や画像の装置間のデータのやり取りをほぼリアルタイムに行うことができるようにしている。ネットワーク2は、その他、インターネット、WAN(Wide Area Network)、LAN(Local Area Network)、プロバイダ端末、無線通信網、無線基地局、専用回線等を含んでいる。無人機10と無人機制御装置との通信、無人機10と管理サーバ30との通信、及び管理サーバ30と情報処理端末20との通信は、ネットワーク2を通じて行われる。
【0031】
無人機10は、一例として、運転手等の乗員が乗車せず、自動制御により地上を走行するUGV(Unmanned Ground Vehicle)等である。無人機10は、一例として移動ルート3に従って配送先の場所に物品を配送する。
【0032】
移動ルート3は、例えば無人機10の移動を制御する無人機制御装置によって生成され、ネットワーク2を通じて無人機10に提供される。移動ルート3は、出発地と、到着地と、出発地と到着地との間の複数の集配場所と、を繋ぐルートである。移動ルート3は、一例として道路4に設定される。道路4は、車道、車道脇の歩道、歩行者専用道、自転車専用道、自転車歩行者道等である。無人機10は、一例として、歩行速度程度又は自転車走行速度程度の移動速度で移動する。移動ルート3は、道路4の中でも、車両、二輪車、歩行者等の通行の妨げにならないように、道路幅方向における端部分に設定されることが好ましい。
【0033】
移動ルート3において、出発地、到着地、及び集配場所のいずれの場所も、無人機10が停止する停止場所である。一例として、出発地は、倉庫等において、物品を積み込むための停止場所である。集配場所は、集配先となる住戸、集合住宅前、オフィスビル等の建築物の前の停止場所である。集配場所では、物品の受け渡しが行われる。到着地は、無人機10を待機させる駐車場等に設けられた駐車スペースである。到着地は、出発地と同じ場所であってもよい。無人機10は、周囲に歩行者や自転車の運転者等から視認されながら、街中等を移動することになる。
【0034】
また、移動ルート3は、無人機10が大規模集合住宅や大規模オフィスビル等の建築物の内部を移動するとき場合、移動ルート3における集配場所は、一例として、共用廊下の住戸玄関前又はオフィス玄関前である。出発地及び到着地は、一例として、配送する物品を積み込む積込場所であり、また、駐車場である。
【0035】
情報処理端末20は、歩行者が所持するスマートフォン、タブレット型端末、携帯電話等の携帯型又は小型の端末である。情報処理端末20は、ネットワーク2を通じて他の装置と通信することができる。情報処理端末20は、一例として、撮像部を備えている。また、情報処理端末20は、タッチパネルを備えた操作表示部を備えている。操作表示部は、表示面を備えている。また、情報処理端末20のメモリには、複数のアプリケーションプログラムがインストールされている。
【0036】
一例として、被写体を撮像するカメラ制御プログラムが起動されたとき、表示面には、撮像部が撮像している画像が表示される。表示面に表示されたシャッタボタンオブジェクトがタッチされたときは、その時点の画像をメモリに保存する。また、撮像した無人機10を含む端末画像5を表示する表示制御プログラムが起動されたとき、情報処理端末20は、撮像部が撮像している端末画像5を随時管理サーバ30に送信する。そして、情報処理端末20は、管理サーバ30から、表示面に表示される端末画像5の中に、撮像した無人機10に関連する関連情報を示すAR関連オブジェクト6を表示するコマンドを受信する。そして、情報処理端末20は、コマンドに従ってAR関連オブジェクト6を端末画像5に重畳して表示する。
【0037】
管理サーバ30は、事前に無人機10の移動ルート3及び移動ルート3の周囲の環境を連続撮影することによって得られた各画像に視覚的特徴点を関連付けた三次元地図情報を保持している。この三次元地図情報は、例えばVPS(Visual Positioning Service/System)で利用可能である。また、この三次元地図情報は、GNSS(Global Navigation Satellite System/全球測位衛星システム)座標、例えばGPS(Global Positioning System/全地球測位システム)座標にも関連付けられている。
【0038】
管理サーバ30は、複数の無人機10の関連情報を管理するためのデータベースを備えている。データベースは、各無人機10に割り振られた無人機識別データに関連付けて、各無人機10に関連する関連情報を管理している。管理サーバ30は、無人機10の移動に関する移動関連情報を、各無人機10からネットワーク2を通じて取得する、又は無人機制御装置から取得する。移動関連情報は、関連情報として、データベースで管理される。
【0039】
データベースは、関連情報として、各無人機10における、出発地、目的地、状態(走行中/停止中、等)、現在速度、移動ルート、GPS座標で特定される現在地、目的地までの所要時間、目的地までの距離等を管理している。ここで、目的地は、無人機10の次の停車場所である。例えば、無人機10が出発地を出発した後であれば、目的地は、無人機10が最初の集配場所である。無人機10が最初の集配場所を出発した後であれば、目的地は、無人機10が停止する次の集配場所である。無人機10が最後の集配場所を出発したときの目的地は、到着地である。停車場所は、信号機が停止信号の場合に無人機10が停止する場合、無人機10が障害物との衝突回避のための一時停止した場合等は、目的地から除かれる。
【0040】
管理サーバ30は、ネットワーク2を通じて、情報処理端末20から、情報処理端末20が撮像した端末画像5を順次取得する。管理サーバ30は、端末画像5に対して視覚的特徴点を付与する。そして、管理サーバ30は、三次元地図情報に含まれる基準視覚的特徴点と、端末画像5に含まれる視覚的特徴点と、をマッチングすることで、マッチング結果から端末画像5に含まれる無人機10を識別する。そして、管理サーバ30は、データベースで管理している複数の無人機10の中から、端末画像5に含まれる無人機オブジェクト10aが示す実際の無人機10を特定し、その無人機10の無人機識別データに関連づいた関連情報を取得する。関連情報は、無人機10の移動に関連する情報である。
【0041】
そして、管理サーバ30は、特定された無人機識別データに関連付けられた関連情報を、端末画像5の送信元の情報処理端末20に対してネットワーク2を通じて送信する。あわせて、管理サーバ30は、情報処理端末20の表示面に、端末画像5に重畳して、関連情報を示すAR関連オブジェクト6を表示させるためのコマンドを送信する。
【0042】
かくして、情報処理端末20の表示面には、撮像部で撮像している、無人機10を含む端末画像5が表示される。そして、端末画像5には、コマンドに従った関連情報を示すAR関連オブジェクト6が重畳して表示される。AR関連オブジェクト6は、端末画像5に含まれる無人機オブジェクト10aから無人機オブジェクト10aの進行方向に延びる進行方向表示オブジェクである。また、AR関連オブジェクト6は、端末画像5に含まれる無人機オブジェクト10aの進行方向に位置する領域に表示される、立入禁止領域を示す警告表示オブジェクトである。更に、AR関連オブジェクト6は、無人機10の移動速度を示す速度表示オブジェクトである。更に、AR関連オブジェクト6は、無人機10の移動ルート3を含む地図オブジェクトである。更に、AR関連オブジェクト6は、地図オブジェクトに表示される、無人機10の現在位置を示す現在位置オブジェクトである。更に、端末画像5に含まれかつ追加情報が関連付けられている視覚的特徴点については、AR追加オブジェクトが端末画像5に重畳して表示される。
【0043】
[無人機10]
図2に示すように、無人機10は、駆動部11と、測位部12と、通信部13と、撮像部14と、操作表示部15と、音声出力部16と、メモリ17と、制御部18と、を備える。また、無人機10は、無人機10の各部へ電力を供給するバッテリ、車輪、物品を格納する格納庫等を備える。
【0044】
駆動部11は、モータ及び回転軸等を備える。駆動部11は、制御部18から出力された制御信号に従って駆動するモータ及び回転軸等により複数の車輪を回転させる。
測位部12は、電波受信機等を備える。測位部12は、例えば、GPSの衛星から発信された電波を電波受信機により受信し、当該電波に基づいて無人機10の現在位置(緯度及び経度)を検出する。
【0045】
通信部13は、ネットワーク2を通じて、無人機制装置及び管理サーバ30と通信を行う。
撮像部14は、例えば全方位カメラ等の広角カメラを備える。広角カメラは、無人機10の走行制御、及び物品の配送先における監視に用いられる。撮像部14は、例えば広角カメラの画角に収まる撮像領域(撮像範囲)内の実空間を連続的に撮像する。特に、撮像された撮像領域の動画は、物品の受取人及び第三者を検知するために用いられる。また、移動ルート3に存在する障害物検知、信号の状態検知(青信号か、赤信号か等)のために用いられる。
【0046】
操作表示部15は、受取人等のユーザの操作を受け付ける入力機能と、情報を表示する表示機能とを有するディスプレイ(タッチパネル)を備える。例えば、受取人によりディスプレイから解錠コードが入力されると、格納庫の扉が解錠されて開放される。音声出力部16は、音声出力するスピーカを備える。
【0047】
メモリ17は、不揮発性メモリ等から構成され、各種プログラム及びデータを記憶する。また、メモリ17は、無人機10を識別する無人機識別データを記憶している。また、無人機識別データに関連付けられた移動ルート3、出発日時、集配日時、到着日時、移動速度等の移動計画を記憶している。
【0048】
制御部18は、CPU(Central Processing Unit)、ROM(Read Only Memory)、及びRAM(Random Access Memory)等を備え、ROM又はメモリ17に記憶されたプログラムに従って各種処理を実行する。制御部18は、無人機制御装置から移動計画を取得し、移動プログラムに従って、駆動部11等を制御して自立走行する。また、制御部18は、自身の無人機識別データと関連付けて移動プログラムの一部又は全部、現在位置(GPS座標)等をネットワーク2を通じて管理サーバ30に送信する。
【0049】
[情報処理端末20]
図3に示すように、情報処理端末20は、測位部21と、通信部22と、撮像部23と、操作表示部24と、音声出力部25と、メモリ26と、制御部27と、を備える小型コンピュータである。情報処理端末20は、歩行者が所持するスマートフォン、タブレット型端末等の携帯型又は小型の端末である。
【0050】
測位部21は、電波受信機等を備える。測位部21は、例えば、GPSの衛星から発信された電波を電波受信機により受信し、当該電波に基づいて無人機10の現在位置(緯度及び経度)を検出する。
【0051】
通信部22は、ネットワーク2を通じて、管理サーバ30、基地局等と通信を行う。
撮像部23は、例えば全方位カメラ等の広角カメラを備える。広角カメラは、表示面と反対側に配置されたアウトカメラである。撮像部23は、ユーザから離れた被写体を撮像することができる。撮像部23は、無人機10及び無人機10の周辺部分を撮像することができる。
【0052】
操作表示部24は、タッチパネルである。操作表示部24は、表示面を備えている。操作表示部24は、撮像部23が撮像した画像である端末画像5を表示する。また、操作表示部24は、ユーザの操作を受け付ける。例えば、操作表示部24が備える表示面に表示されたシャッタボタンオブジェクトがタッチされると、静止画を撮像する。また、動画撮影の際は、シャッタボタンオブジェクトがタッチされると、動画撮影を開始し、再度タッチされると、撮像を停止する。音声出力部25は、音声出力するスピーカを備える。
【0053】
メモリ26は、不揮発性メモリ等から構成され、各種プログラム及びデータを記憶する。例えば、メモリ26は表示制御プログラム26aを保持している。表示制御プログラム26aは、路上の無人機10を撮像することによって得られた端末画像5を管理サーバ30に送信するとともに、操作表示部24の表示面に表示するためのプログラムである。表示制御プログラム26aは、端末画像5にAR関連オブジェクト6を重畳して表示するためのARオブジェクトのデータを備えている。また、メモリ26は、撮像部23が撮像した端末画像5を保存することができる。
【0054】
制御部27は、CPU、ROM、及びRAM等を備え、ROM又はメモリ26に記憶されたプログラムに従って各種処理を実行する。例えば、制御部27は、表示制御プログラム26aを実行することで端末画像5を生成する生成部及びAR関連オブジェクト6を端末画像5に重畳して表示させるための端末制御部として機能する。制御部27は、撮像した端末画像5のデータを生成して表示面に表示させるとともに、端末画像5のデータを管理サーバ30に送信する。また、制御部27は、管理サーバ30からAR関連オブジェクト6を表示するためのコマンドを受信すると、端末画像5に、撮像している無人機10の関連情報をAR関連オブジェクト6として重畳して表示させる。
【0055】
[管理サーバ30]
図4に示すように、管理サーバ30は、通信部31と、記憶部32と、制御部33と、を備えるコンピュータである。通信部31は、ネットワーク2を通じて、無人機10、情報処理端末20、及び無人機制装置と通信を行う。
【0056】
記憶部32は、ハードディスクドライブ、SSD(Solid State Drive)等から構成され、各種プログラム及びデータを記憶する。例えば、記憶部32には、三次元地図情報を保持する保持部32aと、各無人機10の関連情報を管理するデータベース32bと、を備える。記憶部32には更に、端末画像5にAR関連オブジェクト6を重畳して表示するための表示制御プログラム32cがインストールされている。
【0057】
保持部32aは、VPSで利用可能なように、各画像に視覚的特徴点を含む三次元地図情報を保持している。三次元地図情報は、無人機10が移動する地域の地図情報である。三次元地図情報は、実在する建物等の構造物の三次元データである。例えば、三次元地図情報は、都市の表面を示す点群データ(視覚的特徴点)を含んでいる。そして、三次元地図情報は、例えば、視覚的特徴点をGPS座標と関連付けたものである。保持部32aに保持されている三次元地図情報は、情報処理端末20から送信された端末画像5の視覚的特徴点とマッチングするための三次元地図情報である。三次元地図情報に含まれる視覚的特徴点は、情報処理端末20から送信された端末画像5に付与された視覚的特徴点とマッチングするための基準視覚的特徴点である。保持部32aに保持される三次元地図情報は、無人機10を所定の移動ルート3を走行させる際に、事前に生成される情報である。
【0058】
図5は、三次元地図情報における基準視覚的特徴点36を説明する図である。基準視覚的特徴点36は、出っ張りや、へこみ、角張っている、明暗部分等の建物、壁や床、家具、照明といった動かない部分に対し点群を付与したものである。また、基準視覚的特徴点36は、動かない部分である。
【0059】
基準視覚的特徴点36の幾つかには、追加情報が関連付けられている。追加情報は、基準視覚的特徴点が建物xの所定位置を示しているとき、その建物名等である。また、追加情報は、他の基準視覚的特徴点がレストランyの所定位置を示しているとき、そのレストラン名、営業時間等である。更に、追加情報は、更に他の基準視覚的特徴点が図書館zの所定位置を示しているとき、その図書館の開館時間等である。
【0060】
図6は、データベース32bの一構成例を示す図である。データベース32bは、複数の無人機10を管理している。各無人機10には、固有の無人機識別データが付与されている。データベース32bは、各無人機識別データに関連付けて、出発地、目的地、状態(走行中/停止中等)、現在速度、移動ルート、GPS座標で特定される現在地、目的地までの所要時間、目的地までの距離等を管理している。例えば、無人機識別データ(No.1)では、現在の状態が「走行中」であり、その際の出発地が「倉庫A」であり、目的地が「ビルA」である。そして、現在の移動速度は、「4km/h」であり、到着地までの移動ルート3は、「XXX」である。また、無人機識別データ(No.1)において、現在位置は、「35…,136…」である。現在速度、現在位置、及び状態は、無人機10又は無人機制御装置から受信したデータに基づいて、随時又は所定間隔毎に更新される。出発地及び目的地は、変化があったときに更新される。例えば、「ビルA」に到着した場合、次に、「ビルA」は、出発地に設定されるとともに、目的地には、次の目的地(例えば「ビルB」)が設定される。目的地までの距離は、例えば出発地と目的地との間の距離及び現在位置を使って算出される。目的地までの距離は、出発地と目的地との間の距離から、出発地から現在位置までの距離を減じることで算出される。また、目的地までの時間は、例えば移動計画に従った移動速度及び目的地までの距離から算出される。移動ルート3を含む移動計画等は、無人機10又は無人機制御装置から取得する。なお、データベース32bで管理するデータは、図6に限定されるものではなく、図6に示したデータ以外も無人機識別データに関連付けて管理してもよい。
【0061】
制御部33は、CPU、ROM、及びRAM等を備え、ROM又はメモリ17に記憶されたプログラムに従って各種処理を実行する。制御部33は、例えば、表示制御プログラム32cを実行することで表示制御部として機能する。制御部33は、通信部31を通じて情報処理端末20から、情報処理端末20が撮像した端末画像5を順次取得する。制御部33は、端末画像5に対して視覚的特徴点を付与する。制御部33は、三次元地図情報に含まれる基準視覚的特徴点36と、端末画像5に含まれる視覚的特徴点と、をマッチングする。そして、マッチング結果から端末画像5に含まれる無人機オブジェクト10aが示す無人機10を識別する。
【0062】
具体的に、制御部33は、データベース32bが管理している複数の無人機識別データの各々に関連付けられている現在位置のGPS座標の中から、端末画像5に含まれる視覚的特徴点のGPS座標と最も近いGPS座標を特定する。そして、制御部33は、そのGPS座標に関連付けられている無人機識別データを特定する。制御部33は、特定した無人機識別データが示す無人機10を、端末画像5に含まれる無人機オブジェクト10aが示す無人機10として識別することができる。このように、制御部33は、無人機10を特定する無人機特定部としても機能する。
【0063】
制御部33は、情報処理端末20の表示面に表示された端末画像5において、無人機オブジェクト10aと重畳させて、又は無人機オブジェクト10aの周囲に、AR関連オブジェクト6を表示できるよう表示制御する。
【0064】
[無人機10の動作]
図7は、無人機10が移動するときの無人機10のフローチャートである。
ステップS1において、無人機10の制御部18は、無人機制御装置にアクセスし、移動ルート3等を含む移動計画を取得する。ステップS2において、制御部18は、移動計画に従って出発地から目的地に向かって移動を開始する。制御部18は、測位部12で現在位置を随時又は所定間隔毎に算出する。また、制御部18は、撮像部23で無人機10の周囲の状態を撮像する。ステップS3において、制御部18は、自身の無人機識別データに関連付けて、現在位置(GPS座標)、移動画像、走行中/停止中を示す状態等を含む移動関連情報を随時又は所定間隔毎に管理サーバ30に送信する。ステップS3の処理は、無人機10が移動プログラムで設定された到着地に到着するまで繰り返し実行される。
【0065】
この間も、無人機10は、移動計画に従って移動しており、ステップS4において、無人機10が目的地に到着すると、制御部18は、移動を停止する。制御部18は、物品の受け渡しが終了し、再出発の時刻になると、ステップS5において、移動計画に従って移動を開始する。ステップS6において、制御部18は、目的地に到着すると、移動を停止する。制御部18は、到着地に到着するまで、ステップS2~ステップS6までの処理を繰り返す。
【0066】
かくして、無人機10は、移動計画に従って、移動ルート3を、周囲の歩行者や自転車の運転者等から視認されながら、街中等の道路4を移動することになる。
[管理サーバ30の動作]
図8は、無人機10が移動するときの管理サーバ30の処理手順を示すフローチャートである。
【0067】
ステップS11において、管理サーバ30の制御部27は、無人機10、無人機制御装置のうち少なくとも1つの装置から移動ルート3を含む移動計画の全部又は一部を取得する。
【0068】
ステップS12において、制御部18は、無人機10から送信された移動関連情報を受信する。ステップS13において、制御部18は、データベース32bを更新する。具体的に、制御部18は、受信した無人機識別データに関連づく、出発地、目的地、状態、現在速度、移動ルート、現在位置、目的地までの所要時間、目的地までの距離を更新する。
【0069】
[情報処理端末20の動作]
走行する無人機10の周囲の人から見れば、無人機10が今後どの程度の速度で、どの方向に進むのか等予測がつかず、無人機10の動向が分からないことによって、無人機10の周囲にいる人が不安を感じるおそれがある。無人機10の周囲の人は、自身が所持する情報処理端末20で、視認している無人機10の関連情報を知ることができる。
【0070】
図9は、無人機10を撮像している情報処理端末20の処理手順と管理サーバ30の処理手順を示すフローチャートである。
ステップS31において、管理サーバ30の制御部27は、保持部32aに三次元地図情報を記憶し、保持する。この三次元地図情報は、事前に無人機10の移動ルート3及び移動ルート3の周囲の環境を連続撮影することによって得られた各画像に、基準となる視覚的特徴点を関連付けた三次元地図情報である。この三次元地図情報は、例えばVPSで利用可能である。三次元地図情報は、無人機10の移動に先立って、保持部32aに保存されている。
【0071】
情報処理端末20において、操作表示部24が備える表示面に表示された表示制御プログラム26aを起動するためのアイコンがタッチされると、制御部27は、ステップS41において、表示制御プログラム26aを起動する。情報処理端末20は、撮像部23で無人機10を撮像し端末画像5のデータを生成する。すると、制御部27は、ステップS42において、表示面に、撮像部23が撮像している端末画像5を表示する。そして、制御部27は、ステップS43において、端末画像5を管理サーバ30に送信する。端末画像5は、撮像している無人機10の無人機オブジェクト10aを含んでいることが多い。
【0072】
ここで、制御部27は、撮像部で連続撮影をしており、各端末画像5を管理サーバ30に送信する。なお、制御部27は、時間軸方向に並ぶ全ての端末画像5ではなく、所定数おきに管理サーバ30に送信するようにしてもよい。
【0073】
管理サーバ30の制御部33は、ステップS32において、情報処理端末20から送信された端末画像5を受信する。ステップS33において、制御部33は、端末画像5に無人機オブジェクト10aが含まれているかを判断し、端末画像5に無人機オブジェクト10a含まれているとき、ステップS34に進む。
【0074】
ステップS34において、制御部33は、端末画像5に対して視覚的特徴点を付与する。そして、制御部33は、三次元地図情報に含まれる基準視覚的特徴点36と、端末画像5に含まれる視覚的特徴点と、をマッチングする。そして、ステップS35において、マッチング結果から端末画像5に含まれる無人機オブジェクト10aが示す無人機10を識別する。
【0075】
例えば、制御部33は、三次元地図情報に含まれる基準視覚的特徴点36と、端末画像5に含まれる視覚的特徴点と、をマッチングする。そして、制御部33は、三次元地図情報に関連付けられたGPS座標を参酌して、端末画像5に含まれる建物等のオブジェクトの視覚的特徴点のGPS座標を求める。また、無人機オブジェクト10aの周囲に位置する建物等のオブジェクトのGPS座標を参酌して、無人機オブジェクト10aが示す無人機10のGPS座標を求める。そして、制御部33は、データベース32bが管理している複数の無人機識別データの各々に関連付けられている現在位置のGPS座標の中から、求めた端末画像5に含まれる建物等のオブジェクトの視覚的特徴点のGPS座標に最も近いGPS座標に関連づいた無人機識別データを特定する。または、求めた無人機10のGPS座標に最も近いGPS座標に関連づいた無人機識別データを特定する。制御部33は、特定した無人機識別データが示す無人機10を、端末画像5に含まれる無人機オブジェクト10aが示す無人機10として識別する。
【0076】
ステップS36において、制御部33は、データベース32bにアクセスし、特定した無人機識別データに関連づいた関連情報を取得し、情報処理端末20に送信する。例えば、情報処理端末20に送信する関連情報は、無人機識別データである。また、関連情報は、無人機10の進行方向である。進行方向は、時間軸上前後する端末画像5を比較することによって求めることができる。また、進行方向は、例えば現在位置(GPS座標)の変化によって特定することができる。更に、関連情報は、無人機10の移動速度である。更に、関連情報は、無人機10の移動ルート3である。更に、関連情報は、移動ルート3を含む現在位置周辺の地図オブジェクトである。更に、関連情報は、無人機10の現在位置である。更に、関連情報は、目的地までの所要時間である。更に、関連情報は、目的地までの距離である。
【0077】
ステップS37において、制御部33は、このような関連情報と共に、情報処理端末20の表示面にAR関連オブジェクト6を表示するためのコマンドを、端末画像5の送信元の情報処理端末20に送信する。
【0078】
ステップS44において、情報処理端末20の制御部27は、管理サーバ30から送信された関連情報及びAR関連オブジェクト6を表示するためのコマンドを受信する。ステップS45において、制御部27は、操作表示部24が備える表示面に表示されている端末画像5にコマンドに従ったAR関連オブジェクト6を、表示制御プログラム26aでの定義に従って所定位置に表示する。
【0079】
図10は、端末画像5の一例である。端末画像5は、無人機10が移動ルート3に従って道路4を走行している状態を撮像した画像の1つである。端末画像5は、図中左右に延びる道路4に沿って、建物xを示す建物オブジェクト7x、レストランを示すレストランオブジェクト7y、図書館を示す図書館オブジェクト7z等を含んでいる。そして、無人機オブジェクト10aは、図中右側に位置している。
【0080】
例えば、制御部27は、端末画像5において、AR関連オブジェクト6として、無人機10の無人機識別データオブジェクト6aを表示する。無人機識別データオブジェクト6aは、数字、アルファベット等の文字や記号のオブジェクトで構成されている。無人機識別データは、関連情報として、管理サーバ30から取得した情報である。無人機識別データオブジェクト6aは、無人機オブジェクト10aから引出線オブジェクトによって繋がれており、無人機オブジェクト10aと重ならない位置に表示される。本実施形態において、無人機識別データオブジェクト6aは、「No.1」である。これにより、情報処理端末20の所有者は、無人機オブジェクト10aが示す無人機10を識別できる。
【0081】
また、制御部27は、無人機オブジェクト10aを特定し、無人機オブジェクト10aに対して位置オブジェクト6bを表示する。位置オブジェクト6bは、例えば無人機オブジェクト10aのコーナを囲むL字状の印によって構成されている。
【0082】
制御部27は、端末画像5の中で無人機オブジェクト10aを特定し、AR関連オブジェクト6として、進行方向表示オブジェクト6cを端末画像5に重畳して表示する。進行方向表示オブジェクト6cは、無人機オブジェクト10aから無人機オブジェクト10aの進行方向に延びるように構成されている。進行方向表示オブジェクト6cは、進行方向を示す矢印、三角印等の形状のオブジェクトで構成されている。これにより、情報処理端末20の所有者は、近くを移動する無人機10の進行方向を知ることができる。
【0083】
制御部27は、端末画像5において、無人機オブジェクト10aの進行方向の前方に位置する領域に、立入禁止領域を示す警告表示オブジェクト6dを表示する。警告表示オブジェクト6dは、例えば扇型形状のオブジェクトであって、無人機オブジェクト10aの進行方向の先頭から進行方向に広がる形状を有している。これにより、情報処理端末20の所有者は、近くを移動する無人機10の周囲の立入禁止の領域を把握することができる。
【0084】
制御部27は、端末画像5において、無人機10の移動速度を示す速度表示オブジェクト6eを表示する。速度表示オブジェクト6eは、無人機オブジェクト10aに重畳して表示される。速度表示オブジェクト6eは、数字、アルファベット等の文字や記号のオブジェクトで構成され、例えば時速で表記する。無人機10の移動速度は、関連情報として、管理サーバ30から取得した情報である。本実施形態において、速度表示オブジェクト6eは、「4km/h」である。これにより、情報処理端末20の所有者は、近くを移動する無人機10の移動速度を把握することができる。
【0085】
制御部27は、端末画像5において、移動ルート3を含む地図オブジェクト6fを表示する。地図オブジェクト6fは、端末画像5において、無人機オブジェクト10aと重ならない部分、例えば端末画像5のコーナ部に表示する。地図オブジェクト6fは、無人機10の現在位置を中心とした半径、数十mの範囲の地図である。制御部27は、地図オブジェクト6fを、例えば管理サーバ30から送信されたリンク先から取得する。地図オブジェクト6fは、高い透明度を有し、これにより、地図オブジェクト6fを通して端末画像5が透けて見えるようになっている。そのため、端末画像5の一部が地図オブジェクト6fで隠れることを防ぐことができる。制御部27は、管理サーバ30から関連情報として取得した移動ルート3のルートオブジェクト6gを地図オブジェクト6fに重畳して表示する。ルートオブジェクト6gは、例えば線オブジェクトである。これにより、情報処理端末20の所有者は、地図上での移動ルート3を把握することができる。
【0086】
更に、制御部27は、地図オブジェクト6fに、無人機10の現在位置を示す現在位置オブジェクト6hを表示する。現在位置オブジェクト6hは、点オブジェクトである。これにより、情報処理端末20の所有者は、地図上での現在位置を把握することができる。
【0087】
更に、制御部27は、端末画像5において、無人機10の行先を示す目的地オブジェクト6iを表示する。目的地オブジェクト6iは、数字、アルファベット等の文字や記号のオブジェクトで構成されている。目的地は、関連情報として、管理サーバ30から取得した情報である。目的地オブジェクト6iは、端末画像5中に目的地が存在する場合、その目的地の建物などのオブジェクトから引出線オブジェクトによって繋がれており、また、無人機オブジェクト10aと重ならない位置に表示される。これにより、情報処理端末20の所有者は、無人機オブジェクト10aが示す無人機10の行先を識別できる。
【0088】
更に、管理サーバ30の保持部32aが保持する三次元地図情報は、基準視覚的特徴点36の幾つかに追加情報が関連付けられている。本実施形態では、建物オブジェクト7xが示す建物xには、追加情報として、建物名等が関連付けられている。また、レストランオブジェクト7yが示すレストランには、追加情報として、レストラン名、営業時間等が関連付けられている。図書館オブジェクト7zには、追加情報として、開館時間等が関連付けられている。
【0089】
制御部27は、操作表示部24が備える表示面に表示されている端末画像5にコマンドに従ったAR追加オブジェクト8を、表示制御プログラム26aでの定義に従って所定位置に表示する。
【0090】
具体的に、制御部27は、端末画像5において、AR追加オブジェクト8として、建物追加オブジェクト8xを表示する。建物追加オブジェクト8xは、建物オブジェクト7xから引出線オブジェクトによって繋がれており、また、無人機オブジェクト10aと重ならない位置に表示される。建物追加オブジェクト8xは、建物xの建物名等を表示する。これにより、情報処理端末20の所有者は、無人機10の周囲の追加情報として建物xに関連する情報を知ることもできる。
【0091】
AR追加オブジェクト8としてのレストラン追加オブジェクト8yは、レストランオブジェクト7yから引出線オブジェクトによって繋がれており、また、無人機オブジェクト10aと重ならない位置に表示される。レストラン追加オブジェクト8yは、レストランyのレストラン名、営業時間等を表示する。これにより、情報処理端末20の所有者は、無人機10の周囲の追加情報としてレストランyに関連する情報を知ることもできる。
【0092】
AR追加オブジェクト8としての図書館追加オブジェクト8zは、図書館オブジェクト7zから引出線オブジェクトによって繋がれており、また、無人機オブジェクト10aと重ならない位置に表示される。図書館追加オブジェクト8zは、図書館zの開館時間等表示する。これにより、情報処理端末20の所有者は、無人機10の周囲の追加情報として、図書館zに関連する情報を知ることもできる。
【0093】
[実施形態の効果]
以上詳述した実施形態によれば、以下の効果を奏する。
(1-1)端末画像5には、端末画像5に含まれている無人機オブジェクト10aに関連する関連情報がAR関連オブジェクト6として表示される。これにより、無人機10の周囲にいる者の不安感を低減できる。
【0094】
(1-2)VPSを利用することで、実際の無人機10の現在位置及びその無人機10の無人機識別データを特定し、無人機識別データに関連付けて管理されている種々の関連情報を端末画像5にAR関連オブジェクト6として重畳して表示することができる。
【0095】
(1-3)管理サーバ30がデータベース32bで各無人機10の状態等を管理することができる。データベース32bが無人機10の現在位置をGPS座標で管理し、かつ三次元地図情報が含む基準視覚的特徴点36にGPS座標が関連付けられている。これにより、データベース32bが管理している無人機10の関連情報を端末画像5にAR関連オブジェクト6として重畳して表示することができる。
【0096】
(1-4)端末画像5には、進行方向表示オブジェクト6cが重畳して表示される。これにより、情報処理端末20の所有者は、近くを移動する無人機10の進行方向を知ることができる。
【0097】
(1-5)端末画像5には、無人機オブジェクト10aの進行方向に位置する領域に、立入禁止領域を示す警告表示オブジェクト6dが表示される。これにより、情報処理端末20の所有者は、近くを移動する無人機10の立入禁止の領域を把握することができる。
【0098】
(1-6)端末画像5には、無人機10の移動速度を示す速度表示オブジェクト6eが表示される。これにより、情報処理端末20の所有者は、近くを移動する無人機10の移動速度を把握することができる。
【0099】
(1-7)端末画像5には、ルートオブジェクト6gを含む地図オブジェクト6fが表示される。これにより、情報処理端末20の所有者は、地図上での移動ルート3を把握することができる。
【0100】
(1-8)地図オブジェクト6fには、無人機10の現在位置を示す現在位置オブジェクト6hを重畳して表示させる。これにより、情報処理端末20の所有者は、地図上での現在位置を把握することができる。
【0101】
(1-9)端末画像5には、AR追加オブジェクト8が重畳して表示される。これにより、情報処理端末20の所有者は、無人機10の周囲の追加情報を知ることもできる。
(1-10)ネットワーク2は、第5世代移動通信システム等の高速大容量で低遅延の移動通信システムを含んでいる。したがって、端末画像5には、AR関連オブジェクト6及びAR追加オブジェクト8を、ほぼリアルタイムに重畳して表示することができる。すなわち、AR関連オブジェクト6及びAR追加オブジェクト8を端末画像5の中で適当な位置に表示することができる。
【0102】
<変形例>
以下、上述した実施形態に係る変形例について説明する。
[移動通信システムの変形例]
移動通信システムとしては、第5世代移動通信システムに限定されるものではなく、例えば更に次世代の移動通信システムであってもよい。すなわち、端末画像5にAR関連オブジェクト6及びAR追加オブジェクト8を、ほぼリアルタイムに表示できれば、他の無線通信を用いてもよい。
【0103】
[AR関連オブジェクト6の変形例]
・端末画像5には、更に、無人機10の現在から後の推定速度、推定進行方向等をAR関連オブジェクトとして重畳して表示するようにしてもよい。例えば、交差点の近くにおいて、直進、右折、左折、一時停止等を示すAR関連オブジェクト6を端末画像5に重畳して表示するようにしてもよい。また、駐車場の近くでは、後進を示すAR関連オブジェクト6を示すようにしてもよい。
【0104】
・情報処理端末20が、無人機10の現在位置の近くであって、かつ移動ルート3上やその近くに位置する場合、警告メッセージオブジェクトを重畳して表示するようにしてもよい。また、立入禁止を示す警告表示オブジェクト6dの範囲に、情報処理端末20の現在位置が含まれる場合に警告メッセージオブジェクトを端末画像5に重畳して表示するようにしてもよい。例えば、警告メッセージオブジェクトとしては、「近づかないでください!」等のテキストメッセージである。情報処理端末20の位置は、VPSや管理サーバ30に送信した情報処理端末20のGPS座標を使って、管理サーバ30に対して情報処理端末20の現在位置を特定可能である。
【0105】
・地図オブジェクト6fから、現在位置オブジェクト6hの表示が省略されてもよい。また、地図オブジェクト6fから、ルートオブジェクト6gの表示が省略されてもよい。例えば、ルートオブジェクト6gの表示を省略して現在位置オブジェクト6hだけを表示するようにしてもよい。更に、地図オブジェクト6f、ルートオブジェクト6g、及び現在位置オブジェクト6hの全ての表示を省略するようにしてもよい。
【0106】
・速度表示オブジェクト6eの表示を省略するようにしてもよい。また、警告表示オブジェクト6dの表示を書略するようにしてもよい。
・全てのAR関連オブジェクト6の表示及び非表示の切替は、表示制御プログラム26aの設定画面で切り替えることができるようにしてもよい。また、複数種類のAR関連オブジェクト6の中で表示されるAR関連オブジェクト6を選択できるようにしてもよい。
【0107】
・情報処理端末20は、音声認識機能を備えていてもよい。この場合、情報処理端末20は、AR関連オブジェクト6が原則表示するようにして、音声で表示を消すコマンドを認識したとき、非表示とするようにしてもよい。また、原則非表示として、音声で表示するコマンドを認識したとき、端末画像5に重畳表示するようにしてもよい。AR関連オブジェクト6の表示及び非表示の切替は、情報処理端末20にインストールされている表示制御プログラム26aで行うようにしてもよい。また、管理サーバ30にインストールされている表示制御プログラム32cで行うようにしてもよい。
【0108】
・管理サーバ30は、情報処理端末20に対して、AR関連オブジェクト6を表示するためのコマンドを送信するのではなく、AR関連オブジェクト6を情報処理端末20に送信するようにしてもよい。また、管理サーバ30は、情報処理端末20に対して、AR関連オブジェクト6を重畳した端末画像5を情報処理端末20に送信し、情報処理端末20の表示面に表示させるようにしてもよい。
【0109】
[追加オブジェクト8の変形例]
・AR追加オブジェクト8としては、建物にテナントとして入居している店舗の広告、近隣でのイベントの告知等のAR広告オブジェクトであってもよい。
【0110】
・AR追加オブジェクト8の表示は省略するようにしてもよい。
・AR追加オブジェクト8の表示及び非表示の切替は、表示制御プログラム26aの設定画面で切り替えることができるようにしてもよい。情報処理端末20は、音声認識機能を備えている場合、情報処理端末20は、AR追加オブジェクト8を原則表示するようにして、音声で表示を消すコマンドを認識したとき、AR追加オブジェクト8を非表示とするようにしてもよい。また、AR追加オブジェクト8を原則非表示として、音声で表示するコマンドを認識したとき、端末画像5にAR追加オブジェクト8を重畳表示するようにしてもよい。AR関連オブジェクト6の表示及び非表示の切替は、情報処理端末20にインストールされている表示制御プログラム26aで行うようにしてもよいし、管理サーバ30にインストールされている表示制御プログラム32cで行うようにしてもよい。
【0111】
・管理サーバ30は、情報処理端末20に対して、AR追加オブジェクト8を表示するためのコマンドを送信するのではなく、AR追加オブジェクト8を情報処理端末20に送信するようにしてもよい。また、管理サーバ30は、情報処理端末20に対して、AR追加オブジェクト8を重畳した端末画像5を情報処理端末20に送信し、情報処理端末20の表示面に表示させるようにしてもよい。
【0112】
[VPSの変形例]
・SLAM(Simultaneous Localization and Mapping)をVPSに代えて利用してもよいし、又は併用して利用してもよい。
【0113】
・移動システムにおいて、GNSSの利用を省略してもよい。このような場合であっても、視覚的特徴点のマッチング処理によって無人機10の位置を特定可能である。
[情報処理端末20の変形例]
情報処理端末20において、撮像部は、情報処理端末20の端末本体と有線又は無線で接続されたカメラであってもよい。また、端末画像5を表示する表示面は、情報処理端末20の端末本体と有線又は無線で接続されたモニタであってもよい。
【0114】
[無人機10の変形例]
・移動システムで管理する無人機10の数は、1台でもよい。
・無人機としては、路上を走行する無人機10ではなく、無人航空機等の飛翔体であってもよい。また、無人機10は、物品の配送システム以外に利用されるものであってもよい。
【0115】
・各制御部18,27,33は、CPU、RAM、及びROMを備えて、ソフトウェア処理を実行するものに限らない。すなわち、各制御部18,27,33は、以下(a)~(c)の何れかの構成を有する処理回路を備えていればよい。
【0116】
(a)コンピュータプログラムに従って各種処理を実行する一つ以上のプロセッサを備えている処理回路。プロセッサは、CPU並びに、RAM及びROMなどのメモリを含んでいてもよい。メモリは、処理をCPUに実行させるように構成されたプログラムコード又は指令を格納していてもよい。メモリ、すなわちコンピュータ可読媒体は、汎用又は専用のコンピュータでアクセスできるあらゆる利用可能な媒体を含みうる。プロセッサは、ネットワーク等を通じて受信されたコンピュータプログラムに従って各種処理を実行するように構成されてもよい。
【0117】
(b)各種処理を実行する一つ以上の専用のハードウェア回路を備えている処理回路。専用のハードウェア回路としては、例えば、特定用途向け集積回路、すなわちASIC又はFPGA等を挙げることができる。
【0118】
(c)各種処理の一部をコンピュータプログラムに従って実行するプロセッサと、各種処理のうちの残りの処理を実行する専用のハードウェア回路とを備えている処理回路。
【符号の説明】
【0119】
2…ネットワーク
3…移動ルート
4…道路
5…端末画像
6…AR関連オブジェクト
6a…無人機識別データオブジェクト
6b…位置オブジェクト
6c…進行方向表示オブジェクト
6d…警告表示オブジェクト
6e…速度表示オブジェクト
6f…地図オブジェクト
6g…ルートオブジェクト
6h…現在位置オブジェクト
6i…目的地オブジェクト
8…AR追加オブジェクト
8x…建物追加オブジェクト
8y…レストラン追加オブジェクト
10…無人機
10a…無人機オブジェクト
20…情報処理端末
30…管理サーバ
36…基準視覚的特徴点
【要約】
【課題】無人機の周囲にいる者の無人機に対する不安感を低減できる表示制御装置を提供する。
【解決手段】 表示制御装置は、保持部が保持する無人機の移動ルートの周囲に存在する基準視覚的特徴点を含む三次元地図情報と、無人機の無人機オブジェクトを含む端末画像に含まれる視覚的特徴点と、をマッチングすることで、端末画像に含まれる無人機オブジェクトが示す無人機を識別し、端末画像を提供した端末の表示面に、無人機特定部で識別された無人機の移動に関連する関連情報を示すAR関連オブジェクトを端末画像に重畳して表示させる。
【選択図】図1
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10