(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023123913
(43)【公開日】2023-09-06
(54)【発明の名称】情報処理装置、情報処理システム、情報処理方法、およびプログラム
(51)【国際特許分類】
G06F 3/01 20060101AFI20230830BHJP
G08B 23/00 20060101ALI20230830BHJP
G08B 25/14 20060101ALI20230830BHJP
H04M 11/04 20060101ALI20230830BHJP
【FI】
G06F3/01 510
G08B23/00 510Z
G08B25/14 Z
H04M11/04
【審査請求】未請求
【請求項の数】13
【出願形態】OL
(21)【出願番号】P 2022027386
(22)【出願日】2022-02-25
(71)【出願人】
【識別番号】000000295
【氏名又は名称】沖電気工業株式会社
(74)【代理人】
【識別番号】100140958
【弁理士】
【氏名又は名称】伊藤 学
(74)【代理人】
【識別番号】100137888
【弁理士】
【氏名又は名称】大山 夏子
(74)【代理人】
【識別番号】100190942
【弁理士】
【氏名又は名称】風間 竜司
(72)【発明者】
【氏名】中溝 祐樹
【テーマコード(参考)】
5C087
5E555
5K201
【Fターム(参考)】
5C087AA02
5C087AA03
5C087AA09
5C087AA10
5C087AA21
5C087BB20
5C087BB64
5C087DD02
5C087DD04
5C087FF01
5C087FF02
5C087FF04
5C087GG02
5C087GG66
5C087GG83
5E555AA41
5E555BA22
5E555BA38
5E555BB38
5E555BC01
5E555CA42
5E555CA44
5E555CA45
5E555CA46
5E555CA47
5E555CB21
5E555CB66
5E555CB82
5E555CC26
5E555DA08
5E555DA09
5E555DB53
5E555DC09
5E555DC19
5E555DD01
5E555FA00
5K201AA05
5K201BA03
5K201BA20
5K201CA04
5K201CC01
5K201CC04
5K201DC05
5K201EB07
5K201EC06
5K201ED04
5K201EF04
5K201EF10
(57)【要約】
【課題】緊急通報に応じた指令業務において指令業務の精度をさらに向上させる、新規かつ改良された技術を提供する。
【解決手段】緊急通報に応じた指令内容に係る画像を仮想オブジェクトとして生成し、前記仮想オブジェクトを装着型ディスプレイに表示させ、検出部により検出されたユーザの操作を前記仮想オブジェクトに反映する制御を行う、出力制御部を備える、情報処理装置が提供される。
【選択図】
図4
【特許請求の範囲】
【請求項1】
緊急通報に応じた指令内容に係る画像を仮想オブジェクトとして生成し、
前記仮想オブジェクトを装着型ディスプレイに表示させ、
検出部により検出されたユーザの操作を前記仮想オブジェクトに反映する制御を行う、出力制御部を備える、情報処理装置。
【請求項2】
前記装着型ディスプレイは、ユーザが前記装着型ディスプレイを頭部に装着した状態で周囲の実空間を視認可能な光学透過型ディスプレイであり、
前記出力制御部は、前記仮想オブジェクトを、前記装着型ディスプレイにおいて実空間に重畳させて出力させる、
請求項1に記載の情報処理装置。
【請求項3】
前記出力制御部は、前記ユーザの操作、または、前記検出部により検出された前記ユーザの位置姿勢に基づき、前記仮想オブジェクトの表示を制御する、請求項1または2に記載の情報処理装置。
【請求項4】
前記出力制御部は、前記装着型ディスプレイにおける前記仮想オブジェクトの表示位置を、前記ユーザの位置姿勢の変化に対応して変化させる、請求項3に記載の情報処理装置。
【請求項5】
前記装着型ディスプレイにおける前記仮想オブジェクトの表示位置は、前記ユーザの位置姿勢の変化によって変化しない、請求項3に記載の情報処理装置。
【請求項6】
前記出力制御部は、前記ユーザによる所定の操作に基づいて、前記仮想オブジェクトの透過度を変化させる、
請求項1~5のいずれか一項に記載の情報処理装置。
【請求項7】
前記出力制御部は、前記ユーザによる所定の操作に基づいて、前記仮想オブジェクトの表示および非表示を切り替える、
請求項1~5のいずれか一項に記載の情報処理装置。
【請求項8】
センサにより検出された実空間における物体の特徴量を取得する取得部と、
前記物体の特徴量に基づき、前記物体が所定の物体であるか否かを判定する判定部をさらに備え、
前記出力制御部は、ユーザの向いている方向において前記所定の物体が検出されたことに基づいて、前記仮想オブジェクトの表示を変化させる、請求項1~3のいずれか一項に記載の情報処理装置。
【請求項9】
前記指令内容に係る画像は、消防業務における指令内容、航空管制業務における指令内容、または、救助活動における指令内容のいずれかに係る画像である、請求項1~8のいずれか一項に記載の情報処理装置。
【請求項10】
前記出力制御部は、訓練用の指令内容に係る画像を仮想オブジェクトとしてさらに生成し、前記装着型ディスプレイに表示させる、請求項1~9のいずれか一項に記載の情報処理装置。
【請求項11】
緊急通報に応じた指令内容に係る画像を仮想オブジェクトとして生成し、
前記仮想オブジェクトを装着型ディスプレイに表示させ、
検出部により検出されたユーザの操作を前記仮想オブジェクトに反映する制御を行う、出力制御部を含む、情報処理システム。
【請求項12】
緊急通報に応じた指令内容に係る画像を仮想オブジェクトとして生成することと、
前記仮想オブジェクトを装着型ディスプレイに表示させることと、
検出部により検出されたユーザの操作を前記仮想オブジェクトに反映する制御を行うことと、を含む、コンピュータにより実行される情報処理方法。
【請求項13】
コンピュータを、
緊急通報に応じた指令内容に係る画像を仮想オブジェクトとして生成し、
前記仮想オブジェクトを装着型ディスプレイに表示させ、
検出部により検出されたユーザの操作を前記仮想オブジェクトに反映する制御を行う、出力制御部
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理システム、情報処理方法、およびプログラムに関する。
【背景技術】
【0002】
近年、火災等の災害または救急要請等の緊急通報に応じ、緊急車両の出動または現場での活動を指令する指令業務、および、現場活動を支援する様々な技術が検討されている。例えば、消防活動においては、隊員に対し指令員が指令を行うための消防指令システムが利用されている。消防指令システムによれば、指令員が、緊急通報に係る情報の聴取、出動隊の編成、または、隊員への指令内容の作成等の業務を行うことが出来る。
【0003】
このような消防指令システムの一例として、特許文献1には、指令員が消防指令業務を行う際、災害地点が近い、または、発生した季節や災害種別が共通している、等の条件で抽出された過去の災害事案に係る情報を、出動指令書に含まれる地図情報に重ねて画面出力させるシステムが開示されている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
上記のような消防指令システムでは、従来、指令員が3台または4台の複数のモニタ、ハードウェアキーボード、および、指令室に表示される大画面を交互に確認しながら指令業務を行う構成がとられている。このため、指令員は、複数のモニタとキーボード上で目線を移動しながら操作を行う必要があった。この点、さらに迅速かつ的確な指令業務を実現し、指令業務の精度を向上させるためには、消防指令システムにおける操作性の向上が望まれる。
【0006】
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、緊急通報に応じた指令業務において指令業務の精度をさらに向上させる、新規かつ改良された技術を提供することにある。
【課題を解決するための手段】
【0007】
上記課題を解決するために、本発明のある観点によれば、緊急通報に応じた指令内容に係る画像を仮想オブジェクトとして生成し、前記仮想オブジェクトを装着型ディスプレイに表示させ、検出部により検出されたユーザの操作を前記仮想オブジェクトに反映する制御を行う、出力制御部を備える、情報処理装置が提供される。
【0008】
前記装着型ディスプレイは、ユーザが前記装着型ディスプレイを頭部に装着した状態で周囲の実空間を視認可能な光学透過型ディスプレイであってもよく、前記出力制御部は、前記仮想オブジェクトを、前記装着型ディスプレイにおいて実空間に重畳させて出力させてもよい。
【0009】
前記出力制御部は、前記ユーザの操作、または、前記検出部により検出された前記ユーザの位置姿勢に基づき、前記仮想オブジェクトの表示を制御してもよい。
【0010】
前記出力制御部は、前記装着型ディスプレイにおける前記仮想オブジェクトの表示位置を、前記ユーザの位置姿勢の変化に対応して変化させてもよい。
【0011】
前記装着型ディスプレイにおける前記仮想オブジェクトの表示位置は、前記ユーザの位置姿勢の変化によって変化しなくてもよい。
【0012】
前記出力制御部は、前記ユーザによる所定の操作に基づいて、前記仮想オブジェクトの透過度を変化させてもよい。
【0013】
前記出力制御部は、前記ユーザによる所定の操作に基づいて、前記仮想オブジェクトの表示および非表示を切り替えてもよい。
【0014】
前記情報処理装置は、センサにより検出された実空間における物体の特徴量を取得する取得部と、前記物体の特徴量に基づき、前記物体が所定の物体であるか否かを判定する判定部をさらに備えていてもよく、前記出力制御部は、ユーザの向いている方向において前記所定の物体が検出されたことに基づいて、前記仮想オブジェクトの表示を変化させてもよい。
【0015】
前記指令内容に係る画像は、消防業務における指令内容、航空管制業務における指令内容、または、救助活動における指令内容のいずれかに係る画像であってもよい。
【0016】
前記出力制御部は、訓練用の指令内容に係る画像を仮想オブジェクトとしてさらに生成し、前記装着型ディスプレイに表示させてもよい。
【0017】
また、上記課題を解決するために、本発明の別の観点によれば、緊急通報に応じた指令内容に係る画像を仮想オブジェクトとして生成し、前記仮想オブジェクトを装着型ディスプレイに表示させ、検出部により検出されたユーザの操作を前記仮想オブジェクトに反映する制御を行う、出力制御部を含む、情報処理システムが提供される。
【0018】
また、上記課題を解決するために、本発明の別の観点によれば、緊急通報に応じた指令内容に係る画像を仮想オブジェクトとして生成することと、前記仮想オブジェクトを装着型ディスプレイに表示させることと、検出部により検出されたユーザの操作を前記仮想オブジェクトに反映する制御を行うことと、を含む、コンピュータにより実行される情報処理方法が提供される。
【0019】
また、上記課題を解決するために、本発明の別の観点によれば、コンピュータを、緊急通報に応じた指令内容に係る画像を仮想オブジェクトとして生成し、前記仮想オブジェクトを装着型ディスプレイに表示させ、検出部により検出されたユーザの操作を前記仮想オブジェクトに反映する制御を行う、出力制御部として機能させるためのプログラムが提供される。
【発明の効果】
【0020】
以上説明したように本発明によれば、緊急通報に応じた指令業務において指令業務の精度をさらに向上させることが可能である。
【図面の簡単な説明】
【0021】
【
図1】本発明の一実施形態による情報処理システム1の概要を説明する説明図である。
【
図2】本実施形態による情報処理装置20の機能構成例を示すブロック図である。
【
図3】本実施形態による装着型ディスプレイ端末30の機能構成例を示すブロック図である。
【
図4】本実施形態による装着型ディスプレイ端末30に表示される仮想オブジェクトの一例を示す説明図である。
【
図5】本実施形態による情報処理システム1の動作例を示すフローチャート図である。
【
図6】本実施形態による情報処理システム1の現場での活動終了までの隊員支援および情報共有における動作例を説明するフローチャート図である。
【
図7】本発明の一実施形態による情報処理装置20のハードウェア構成例を示す図である。
【発明を実施するための形態】
【0022】
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書および図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0023】
また、本明細書および図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットまたは数字を付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、複数の構成要素の各々に同一符号のみを付する。
【0024】
<<1.本発明の一実施形態による情報処理システムの概要>>
本発明の実施形態は、緊急通報に応じた指令業務において、指令員に対し通報内容に係る情報を提示し、また、通報内容に応じた指令を行うための機能を提供する、指令業務支援システムを、MR(Mixed Reality、複合現実)ゴーグル等の装着型ディスプレイ端末を用いて実現する技術に関する。本実施形態では、本発明の適用先として、消防業務における指令業務に用いられる消防指令システムを例に説明する。なお、本発明の適用先は消防支援システムに限られない。例えば、本発明の適用先は、救急要請等の緊急通報に応じた指令業務支援システムであってもよいし、航空管制業務における航空管制システムであってもよい。なお、緊急通報とは、119番等の通報に限られず、現場と異なる位置に設置された指令室、または指令員に、緊急の対応方法の指示を仰ぐ内容の通報を広く含むことが出来る。
【0025】
図1は、本発明の一実施形態による情報処理システム1の概要を説明する説明図である。
図1に示したように、情報処理システム1は、指令制御装置10、情報処理装置20、装着型ディスプレイ端末30、大型表示盤40、および、携帯端末50を含む。指令制御装置10と情報処理装置20は、ネットワーク5により通信可能に構成されている。また、情報処理装置20、装着型ディスプレイ端末30A、および、大型表示盤40は、ネットワーク6を介して通信可能に構成されている。さらに、情報処理装置20と装着型ディスプレイ端末30Bは、ネットワーク7、および、携帯端末50を介して、通信可能に構成されている。
【0026】
指令制御装置10は、図示しない固定電話網の中継交換機、または、IP電話網の中継ルータと、電話回線又はIP回線を通じて通信を行い、119番等の緊急通報を受電する電話交換機としての機能を有する。また、指令制御装置10は、受電した電話を、ネットワーク5を介して情報処理装置20に転送する。
【0027】
情報処理装置20は、指令制御装置10から緊急通報が転送されると、ネットワーク6を通じて、装着型ディスプレイ端末30Aに緊急通報の着信を通知する。情報処理装置20は、通話が開始されると、装着型ディスプレイ端末30Aに当該通話音声を送信する。また、情報処理装置20は、上記緊急通報の通話が開始されると、装着型ディスプレイ端末30Aに、消防指令に係る画面を表示させる制御を行う。より詳細には、情報処理装置20は、消防指令に係る画面を仮想オブジェクトとして生成し、当該画面を仮想空間に配置して、さらに当該画面を装着型ディスプレイ端末30Aに表示させる制御を行う。
【0028】
装着型ディスプレイ端末30は、ユーザの頭部に装着され、ユーザに仮想空間を提示する機能を有する。本実施形態では、装着型ディスプレイ端末30は、情報処理装置20の制御に従って、消防指令に係る画面の仮想オブジェクトが配置された仮想空間を表示する。
図1に示した例では、指令室で消防指令を行う指令員UO1が、装着型ディスプレイ端末30Aを頭部に装着していることが理解される。また、現場にいる隊員UM1が、装着型ディスプレイ端末30Bを頭部に装着していることが理解される。なお、指令員UO1および隊員UM1は、ユーザの一例である。以下、本明細書において、装着型ディスプレイ端末30を装着しているユーザが指令員UO1であるか、隊員UM1であるかを特に区別する必要がない場合には、指令員UO1および隊員UM1を単にユーザとも称する。
【0029】
このような装着型ディスプレイ端末30は、例えば、ユーザの眼に実空間が直接見える状態で当該実空間に仮想空間の情報である画像(仮想オブジェクト)を重畳的に表示することが可能な、拡張現実(AR:Augmented Reality)技術、または、MR技術を実現する光学透過型ディスプレイにより実現される。この場合、装着型ディスプレイ端末30は、メガネ型端末、または、ゴーグル型の端末であってもよい。
【0030】
または、装着型ディスプレイ端末30は、ユーザの視界を表示部で覆う非透過型ディスプレイにより実現されてよい。この場合、情報処理装置20は、3Dモデル等が配置された仮想空間内をユーザが任意の視点から視聴することが出来るVR(Virtual Reality)技術を用いて、ユーザに消防指令に係る画面を表示してもよい。
【0031】
本実施形態では、装着型ディスプレイ端末30が、MR技術を実現する光学透過型ディスプレイ端末である例を主に説明する。
【0032】
大型表示盤40は、消防指令室等に設置される表示装置であり、情報処理装置20の制御に従って、進行中の災害事案の情報、または、管轄車両の活動状況等の各種情報を表示する。大型表示盤40により、指令室にいる指令員UO1を含む関係者は、同一の画面を同時に閲覧し、情報共有を行うことが出来る。また、情報処理装置20は、大型表示盤40に、装着型ディスプレイ端末30Aに表示されている画面の内容を表示させることもできる。
【0033】
携帯端末50は、消防活動を行う現場で、消防活動を行う隊員UM1により利用される通信端末である。携帯端末50は、例えば、テザリング機能を有するスマートフォン、または、無線LANルータにより実現される。このような携帯端末50は、無線LAN通信のアクセスポイントとしての機能を有する。装着型ディスプレイ端末30Bは、携帯端末50と通信を行うことにより、携帯端末50およびネットワーク7を介して、情報処理装置20と通信を行うことが出来る。
【0034】
(課題の整理)
ここで、緊急通報に応じた指令業務の一例として、消防指令業務においては、消防指令システムが利用されている。消防指令システムによれば、指令員が実施する、緊急通報に係る情報の聴取、出動隊の編成、または、隊員への指令内容の作成等の、一連の指令業務を支援することが出来る。
【0035】
上記のような消防指令業務においては、通報があった災害地点の情報の他に、気象情報、交通状況、および、河川または消火栓の位置等の水利情報といった、様々な情報を確認しながら指令を行う必要がある。そのため、上記のような消防指令システムが実現されるハードウェア構成としては、従来、指令員が閲覧する3台または4台の複数のモニタと、ハードウェアキーボードと、指令室に表示される大型表示盤と、による構成がとられていた。この構成では、指令員は、複数のモニタ、キーボード、および、大型表示盤の間で目線を移動しながら、操作を行う必要があった。
【0036】
この点、緊急通報に応じた指令業務には迅速さが求められる。そのため、さらに迅速かつ的確な指令業務を実現し、指令業務の精度を向上させるためには、消防指令システムにおける操作性のさらなる向上が望まれる。
【0037】
そこで、本件発明者は、上記事情を一着眼点にして本発明の実施形態を創作するに至った。本発明の実施形態によれば、緊急通報に応じた指令業務において指令業務の精度をさらに向上させることが可能である。以下、このような本発明の実施形態による指令制御装置10、情報処理装置20、装着型ディスプレイ端末30、大型表示盤40、および、携帯端末50の機能構成例および動作を、順次詳細に説明する。
【0038】
<<2.機能構成例>>
<2-1.指令制御装置10>
指令制御装置10は、
図1を参照して上記説明したように、固定電話網の中継交換機、または、IP電話網の中継ルータと、電話回線又はIP回線を通じて通信を行い、119番等の緊急通報を受電する、電話交換機としての機能を有する。また、指令制御装置10は、受電した通話を、ネットワーク5を介して情報処理装置20に転送する機能を有する。例えば、指令制御装置10は、受電した通話の音声信号をIPパケットに変換し、当該IPパケットを、ネットワーク5を介して情報処理装置20に送信することにより、上記通話を情報処理装置20に転送してもよい。
【0039】
<2-2.情報処理装置20>
続いて、本実施形態による情報処理装置20の機能構成例を説明する。
図2は、本実施形態による情報処理装置20の機能構成例を示すブロック図である。
図2に示したように、情報処理装置20は、通信部210、記憶部220、制御部230、および、操作部240としての機能を有する。
【0040】
(通信部210)
通信部210は、制御部230の制御に従って、他の装置とデータの送受信を行う機能を有する。例えば、通信部210は、指令制御装置10と通信を行い、指令制御装置10から転送された緊急通報の通話の音声データを受信する。また、通信部210は、装着型ディスプレイ端末30Aから、装着型ディスプレイ端末30Aにより検出された指令員UO1の操作の情報を受信する。
【0041】
(記憶部220)
記憶部220は、制御部230を動作させるためのプログラムおよびデータを記憶することが可能な記憶装置である。また、記憶部220は、制御部230の動作の過程で必要となる各種データを一時的に記憶することもできる。例えば、記憶装置は、不揮発性の記憶装置であってもよい。
【0042】
(制御部230)
制御部230は、情報処理装置20における動作全般を制御する。例えば、制御部230は、通信部210と指令制御装置10、装着型ディスプレイ端末30、大型表示盤40、および、携帯端末50との通信を制御する。また、制御部230は、通信部210が指令制御装置10から受信した緊急通報の通話の音声データを、装着型ディスプレイ端末30に出力させる。このような制御部230は、出力制御部232としての機能を有する。
【0043】
出力制御部232は、仮想オブジェクトを生成し、仮想空間に配置して、装着型ディスプレイ端末30に表示させる制御を行う機能を有する。例えば、出力制御部232は、指令制御装置10から緊急通報の通話の音声データが転送されると、指令員UO1が消防指令を行うための情報を提示し、また、指令員UO1からの情報の入力を受け付ける、消防指令に係る画像の仮想オブジェクトを生成する。出力制御部232は、生成した仮想オブジェクトを仮想空間に配置し、装着型ディスプレイ端末30Aに表示させる。
【0044】
また、出力制御部232は、装着型ディスプレイ端末30により検出されたユーザの操作およびユーザの位置姿勢に基づいて、仮想オブジェクトの表示を制御する。例えば、出力制御部232は、装着型ディスプレイ端末30により検出されたユーザの操作を、上記仮想オブジェクトに反映させる制御を行う機能を有する。この構成により、指令員UO1は、装着型ディスプレイ端末30A上に表示される消防指令に係る画像の仮想オブジェクトを、手を使って、直感的または簡易なジェスチャーで操作することが可能となる。このような、出力制御部232による、指令員UO1の操作を仮想オブジェクトへ反映させる制御は、後に
図4を参照してより詳細に説明する。
【0045】
また、出力制御部232は、ユーザの位置姿勢の変化に対応して、装着型ディスプレイ端末30における仮想オブジェクトの表示位置を変化させる制御を行う。例えば、出力制御部232は、消防指令に係る画像の仮想オブジェクトを、仮想空間上のある一地点に配置する。出力制御部232は、ユーザの位置姿勢から、ユーザが仮想空間上でどの方角を向いているかを検出する。出力制御部232は、ユーザの向いている方角が、ユーザの視野に上記一地点が含まれないような方角に変化したことを検知すると、ユーザに表示される画面上で上記仮想オブジェクトが画面外へ徐々にフェードアウトするように、上記仮想オブジェクトの表示位置を変化させる。この時、上記仮想オブジェクトが配置される一地点は、実空間において大型表示盤40と重ならない位置に設定されることが望ましい。この構成により、指令員UO1は、ある方角を向くことによって消防指令に係る画像の仮想オブジェクトを視認し、操作を行うことが出来る。また、指令員UO1は、消防指令業務を行っている間に、実空間にある大型表示盤40を直接視認したい時には、大型表示盤40の方角を向く動作を行うだけで上記仮想オブジェクトを非表示とすることが出来る。
【0046】
または、出力制御部232は、装着型ディスプレイ端末30における仮想オブジェクトの表示位置を、ユーザの位置姿勢の変化によって変化させずに、指令員UO1が装着型ディスプレイ端末30と大型表示盤40それぞれを視認しやすいよう、装着型ディスプレイ端末30への表示制御を行うこともできる。例えば、出力制御部232は、指令員UO1が所定のジェスチャー等の操作をしたことに基づいて、仮想オブジェクトの透過度を変化させてもよい。または、出力制御部232は、指令員UO1による所定の操作に基づいて、仮想オブジェクトの表示および非表示を切り替えてもよい。この構成により、指令員UO1が大型表示盤40などの実空間のモニタを見たい時、または、他の指令員の顔を見て会話をしたい時等に、指令員UO1は、仮想オブジェクトの透過度を高く設定して、実空間を視認することが出来る。
【0047】
(操作部240)
操作部240は、情報処理装置20の操作者が情報処理装置20に指示または情報を入力するために操作する構成である。例えば、情報処理装置20の操作者は、操作部240を操作することにより、装着型ディスプレイ端末30Aに表示されている画面の内容を大型表示盤40に出力させる指示を入力することが出来る。制御部230は、操作部240から当該指示を受信すると、装着型ディスプレイ端末30Aに表示されている画面の内容を、大型表示盤40にも表示させる。この構成により、指令員UO1がある災害事案について指令業務を行っている間に、必要に応じて、他の指令員にも上記災害事案の状況を共有することが出来る。また、指令員UO1一人では対応が困難な災害事案において、経験豊富な他の指令員に上記画面を共有して、指示を仰ぐことも出来る。
【0048】
<2-3.装着型ディスプレイ端末30>
以上、
図2を参照して、本実施形態による情報処理装置20の機能構成例を説明した。続いて、
図3を参照して、本実施形態による装着型ディスプレイ端末30の機能構成例を説明する。
【0049】
図3は、本実施形態による装着型ディスプレイ端末30の機能構成例を示すブロック図である。
図3に示すように、装着型ディスプレイ端末30は、通信部310、カメラ320、センサ部340、制御部350、表示部360、音出力部370、および、記憶部390を有する。本実施形態による装着型ディスプレイ端末30は、一例として、MRを提示し得るゴーグル型デバイス(光学透過型ディスプレイ)により実現され得る。
【0050】
(通信部310)
通信部310は、制御部350の制御に従って、他の装置とデータの送受信を行う機能を有する。例えば、通信部310は、情報処理装置20から、緊急通報の着信の通知、および、緊急通報の通話の音声データを受信する。また、通信部310は、情報処理装置20から、表示部360に表示させる仮想オブジェクトのデータを受信する。さらに、通信部310は、カメラ320およびセンサ部340により検出された装着型ディスプレイ端末30のユーザの操作および位置姿勢の情報を、情報処理装置20に送信する。
【0051】
(カメラ320)
カメラ320は、実空間を撮像する機能を有する撮像部である。カメラ320は、装着型ディスプレイ端末30がメガネ型デバイスの光学透過型ディスプレイ端末により実現される場合、ユーザの視線方向を向くよう設けられるカメラにより実現される。この場合、カメラ320の画角は、ユーザの視界を含む画角であることが望ましい。カメラ320は、例えば、装着型ディスプレイ端末30を装着しているユーザの手を撮像する機能を有する。また、カメラ320は、災害の現場に居る隊員UM1が装着している装着型ディスプレイ端末30Bにおいては、災害の現場の様子を撮像する。
【0052】
(センサ部340)
センサ部340は、装着型ディスプレイ端末30の位置または動き、周辺の状況など、実空間をセンシングする機能を有する。センサ部340は、例えば、位置測位部、加速度センサ、角速度センサ、地磁気センサ、赤外線センサ、測距センサ(実空間に存在する物体との距離を測定するセンサ)、生体センサ、マイクロフォン等を含む。
【0053】
位置測位部は、装着型ディスプレイ端末30の絶対的または相対的な位置を算出する機能を有する。例えば、位置測位部は、外部からの取得信号に基づいて現在位置を検知してもよい。具体的には、例えば人工衛星からの電波を受信して、装着型ディスプレイ端末30が存在している現在位置を検知するGNSS(Global Navigation Satellite System)が用いられてもよい。また、GNSSの他、Wi-Fi(登録商標)、Bluetooth(登録商標)、携帯電話・PHS・スマートフォン等との送受信、または近距離通信等により位置を検知する方法が用いられてもよい。また、位置測位部は、加速度センサまたは角速度センサ等の検出結果に基づいて、装着型ディスプレイ端末30の位置の相対的な変化を示す情報を推定してもよい。
【0054】
センサ部340は、装着型ディスプレイ端末30の位置姿勢を検出し、制御部350に出力する。また、センサ部340は、音を検出する機能を有する。例えば、センサ部340は、装着型ディスプレイ端末30を装着している指令員UO1、または、隊員UM1の会話音声を検出する。センサ部340は、検出した音声のデータを制御部350に出力する。
【0055】
また、センサ部340は、ユーザの眼を撮像する内向きカメラを含んでいてもよい。内向きカメラにより、例えばユーザの視線方向が検出されてもよい。
【0056】
(制御部350)
制御部350は、演算処理装置および制御装置として機能し、各種プログラムに従って装着型ディスプレイ端末30内の動作全般を制御する。
【0057】
制御部350は、通信部310を介して情報処理装置20から受信した指示に従って表示部360を制御し、ユーザの視覚に仮想空間の情報を提示する制御を行う。より具体的には、制御部350は、情報処理装置20から受信した消防指令に係る画面の仮想オブジェクトを、表示部360に表示させる。また、制御部350は、情報処理装置20から受信した指示に従って音出力部370を制御し、情報処理装置20から受信した音声データに基づいて、音を出力させる。
【0058】
また、制御部350は、カメラ320により撮像されたユーザの手を物体認識することにより、ユーザの操作を検出する。この構成により、指令員UO1および隊員UM1は、手を用いて装着型ディスプレイ端末30における操作を行うことが出来る。例えば、指令員UO1および隊員UM1は、手のジェスチャーにより、表示部360に表示されている仮想オブジェクトの表示を切り替える、または、当該仮想オブジェクト内で情報の入力操作を行うことが出来る。また、制御部350は、センサ部340により検出された装着型ディスプレイ端末30の位置姿勢に基づいて、ユーザの位置姿勢を検出する。このような制御部350は、検出部の一例である。制御部350は、検出された上記ユーザの操作およびユーザの位置姿勢を、通信部310から情報処理装置20へ送信する。
【0059】
また、制御部350は、情報処理装置20からの指示に従って、ユーザの視覚または聴覚に提示する仮想空間の情報を変化させる制御を行う。例えば、情報処理装置20は、装着型ディスプレイ端末30から受信した上記ユーザの操作および位置姿勢の変化に基づいて、消防指令に係る画面の仮想オブジェクトの表示を変化させた画像データを生成する。制御部350は、情報処理装置20から受信した当該画像データに基づいて、表示部360における表示を制御する。
【0060】
(表示部360)
表示部360は、光学透過型ディスプレイにより実現される。光学透過型ディスプレイとは、実空間の光を直接ユーザの眼に届けることが可能なディスプレイである。指令員UO1および隊員UM1は、光学透過型ディスプレイを介して実空間を直接視認し得る。光学透過型ディスプレイは、ハーフミラー方式、導光板方式、網膜直描方式等を含む既知の形態を採用し得る。表示部360は、制御部350の制御に従い、情報処理装置20から受信した仮想オブジェクトを含む仮想空間を表示する。ここで、
図4を参照して、情報処理装置20により生成される消防指令に係る画面の仮想オブジェクトと、表示部360に表示される当該仮想オブジェクトを含む表示画面の例を説明する。
【0061】
図4は、装着型ディスプレイ端末30に表示される仮想オブジェクトの一例を示す説明図である。
図4に示したように、表示画面D1は、仮想オブジェクトOb1~仮想オブジェクトOb8を含む。表示画面D1は、装着型ディスプレイ端末30を装着しているユーザが視認可能な範囲に表示された画面を示す。
図4に示した例では、表示画面D1は、ユーザの視認可能な範囲全体を占めるサイズで表示されていることが理解される。
【0062】
仮想オブジェクトOb1~仮想オブジェクトOb5は、それぞれ、消防指令業務に必要な情報を表示し、かつ、指令員UO1からの情報の入力を受け付ける画面の仮想オブジェクトである。また、仮想オブジェクトOb1~仮想オブジェクトOb5には、指令業務の一連の流れに応じて、情報処理装置20の出力制御部232により表示順序が予め設定されているものとする。
【0063】
仮想オブジェクトOb1~仮想オブジェクトOb5は、画面ごとに異なる役割を有する。例えば、仮想オブジェクトOb1は、装着型ディスプレイ端末30が情報処理装置20から受信した緊急通報の着信の通知を表示する、通話管理画面の役割を有する仮想オブジェクトである。指令員UO1は、例えば仮想オブジェクトOb1内に表示される通話ボタンの位置で、ボタンを押下するジェスチャーを行うことにより、緊急通報に応答して通話を開始することが出来る。
【0064】
仮想オブジェクトOb2は、指令員UO1が通話を行いながら聴取した通報内容を入力し、記録することができる事案作成画面である。
図4に示した例では、仮想オブジェクトOb2は、入電時刻、経過時刻、通報者、および、発信番号位置情報等の情報を表示する。また、指令員UO1は、聴取内容欄に聴取内容を入力することが出来る。なお、この時、出力制御部232は、図示しない仮想キーボードを生成し、当該仮想キーボードを、表示画面D1内の仮想オブジェクトOb2の下部に位置するように、装着型ディスプレイ端末30に表示させる制御を行ってもよい。また、仮想オブジェクトOb2は、通話終了ボタンを含んでいてもよい。
【0065】
仮想オブジェクトOb3は、仮想オブジェクトOb2において入力された災害種別または災害地点等の情報に基づいて自動編成される出動編成の情報が表示される、出動編成画面である。なお、出動編成は、情報処理装置20の制御部230により自動で行われてもよい。または、情報処理装置20は、通信可能に構成された他のサーバから、自動編成された出動編成の結果を受信し、当該出動編成の内容を仮想オブジェクトOb3に表示してもよい。指令員UO1は、仮想オブジェクトOb3で上記出動編成の内容を確認することが出来る。また、情報処理装置20は、仮想オブジェクトOb3において、上記出動編成の内容の変更を受け付けてもよい。または、仮想オブジェクトOb3において、指令員UO1が手動で出動編成を行えるようにしてもよい。
【0066】
仮想オブジェクトOb4は、指令員UO1が聴取した緊急通報の内容に応じて現場の隊員への指令内容を入力することが可能な指令画面である。例えば、仮想オブジェクトOb4には、仮想オブジェクトOb3において決定された出動編成の内容が表示される。また、仮想オブジェクトOb4には、仮想オブジェクトOb2において入力された災害種別、災害地点、および、その他の現場での活動に必要な情報が自動で表示されてもよい。指令員UO1は、仮想オブジェクトOb4において指令内容を作成し、現場の隊員へ送信する操作を行う。情報処理装置20は、上記指令内容を送信する操作が行われたことを検出すると、仮想オブジェクトOb4において作成された指令内容を所定の連絡先へ送信する。例えば、情報処理装置20は、当該指令内容を、隊員UM1が装着している装着型ディスプレイ端末30Bに送信し、表示させてもよい。または、携帯端末50がスマートフォンである場合には、情報処理装置20は携帯端末50へ指令内容を送信してもよい。
【0067】
仮想オブジェクトOb5は、緊急車両等の、消防活動に係る車両を管理する車両管理画面である。例えば、仮想オブジェクトOb5に、現在出動可能な待機中の車両の種類または台数などの情報が表示されてもよい。
【0068】
仮想オブジェクトOb6は、災害地点を含む地図情報である。仮想オブジェクトOb6は、2次元の地図画像であってもよいし、3次元の地図画像であってもよい。あるいは、緊急通報時に災害地点の映像または画像が情報処理装置20に対して送信されている場合には、仮想オブジェクトOb6は当該映像または画像を表示してもよい。また、情報処理装置20は、指令員UO1の操作に基づいて、仮想オブジェクトOb6の位置を変更してもよい。または、情報処理装置20は、指令員UO1の操作に基づいて、仮想オブジェクトOb6の表示サイズを変更してもよい。例えば、指令員UO1が仮想オブジェクトOb6を拡大する操作を行ったことが検出された場合には、情報処理装置20は、仮想オブジェクトOb6の表示サイズを拡大して表示部360に表示させてもよい。
【0069】
情報処理装置20は、仮想オブジェクトOb1~仮想オブジェクトOb5において所定の完了操作が行われたことを検出すると、自動で次の画面を最も手前に表示させる。同時に、情報処理装置20は、完了操作が行われた画面を、最も手前に表示されている画面よりもユーザから見て奥の位置に表示されるように、装着型ディスプレイ端末30への制御を行う。
図4に示した例では、仮想オブジェクトOb2が最も手前に表示されており、仮想オブジェクトOb1、および、仮想オブジェクトOb3~仮想オブジェクトOb5は、仮想オブジェクトOb2よりも奥に表示されている状態であることが理解される。
【0070】
または、情報処理装置20は、指令員UO1のその他のジェスチャー操作に基づいて、仮想オブジェクトOb1~仮想オブジェクトOb5の位置を切り替えてもよい。または、情報処理装置20は、指令員UO1が仮想オブジェクトOb7または仮想オブジェクトOb8などの画面切り替えボタンを表す仮想オブジェクトが表示されている位置に手を移動し、当該位置で画面を押すジェスチャーをしたことに基づいて、各画面を切り替えてもよい。上記の構成により、指令員UO1は、例えば仮想オブジェクトOb1を横にスライドさせる、または、つかんで移動させる、といった直感的な操作で、各画面を切り替えることが出来る。従って、指令員UO1が消防指令業務を行う際の操作性が向上する。
【0071】
以上、
図4を参照して、装着型ディスプレイ端末30に表示される仮想オブジェクトを含む画面表示の一例を説明した。上記説明したように、出力制御部232による装着型ディスプレイ端末30への表示制御によれば、消防指令業務において必要な各種の情報を含む仮想オブジェクトOb1~仮想オブジェクトOb6の複数の画面が、仮想空間上で位置を切り替えながら、表示部360に表示される。この構成により、指令員UO1は、複数のモニタ間で目線を移動させることなく、消防指令業務を行うことが出来る。さらに、指令員UO1は、手のジェスチャーによって仮想オブジェクトOb1~仮想オブジェクトOb6の複数の画面を切り替えることが出来る。また、装着型ディスプレイ端末30が情報処理装置20と通信可能な状態であれば、複数台のモニタおよびハードウェアキーボードがその場にない場合でも、指令員UO1が消防指令業務を行うことが可能となる。
【0072】
なお、
図4に示した仮想オブジェクトOb1~仮想オブジェクトOb6は、表示部360に表示される消防指令に係る画面の仮想オブジェクトの一例である。出力制御部232は、仮想オブジェクトOb1~仮想オブジェクトOb6の他に、消防業務指令に必要な画面の仮想オブジェクトを生成し、表示部360に表示させてもよい。
【0073】
(音出力部370)
音出力部370は、音声を出力する機能を有する。例えば音出力部370は、ヘッドホン、イヤホン、若しくは骨伝導スピーカとして構成されてもよい。音出力部370は、例えば、情報処理装置20から受信した緊急通報の通話の音声データに基づき、音声を出力する。
【0074】
(記憶部390)
記憶部390は、制御部350を動作させるためのプログラムおよびデータを記憶することが可能な記憶装置である。また、記憶部390は、制御部350の動作の過程で必要となる各種データを一時的に記憶することもできる。例えば、記憶装置は、不揮発性の記憶装置であってもよい。
【0075】
<2-4.大型表示盤40>
大型表示盤40は、上記で
図1を参照して説明した通り、消防指令室等に設置される表示装置である。大型表示盤40は、例えば、液晶ディスプレイ(LCD)装置であってもよいし、OLED(Organic Light Emitting Diode)装置であってもよい。大型表示盤40は、情報処理装置20の制御に従って、進行中の災害事案の情報、または、管轄車両の活動状況等の各種情報を表示する。このような大型表示盤40により、指令室にいる指令員UO1を含む関係者は、同一の画面を同時に閲覧し、情報共有を行うことが出来る。また、情報処理装置20は、大型表示盤40に、装着型ディスプレイ端末30Aに表示されている画面の内容を表示させることもできる。この構成により、指令員UO1一人では対応が困難な災害事案等が発生した場合に、指令員UO1は、装着型ディスプレイ端末30Aに表示されている画面を大型表示盤40上で共有しながら、経験豊富な他の指令員と連携して指令業務を行うことが出来る。
【0076】
<2-5.携帯端末50>
携帯端末50は、上記で
図1を参照して説明したように、消防活動を行う現場で、消防活動を行う隊員UM1により利用される通信端末である。携帯端末50は、例えば、テザリング機能を有するスマートフォン、または、無線LANルータにより実現される。このような携帯端末50は、無線LAN通信のアクセスポイントとしての機能を有する。装着型ディスプレイ端末30Bは、携帯端末50と通信を行うことにより、携帯端末50およびネットワーク7を介して、情報処理装置20と通信を行うことが出来る。なお、携帯端末50がスマートフォンである場合、装着型ディスプレイ端末30Bは、携帯端末50と有線接続または無線接続することにより、通信を行ってもよい。
【0077】
以上、本実施形態による指令制御装置10、情報処理装置20、装着型ディスプレイ端末30、大型表示盤40、および、携帯端末50の機能構成例を説明した。続いて、
図5を参照して、本実施形態による情報処理システム1の動作例を整理する。
【0078】
<<3.動作>>
図5は、本実施形態による情報処理システム1の動作例を示すフローチャート図である。まず、指令制御装置10が緊急通報を受け付ける(S802)。指令制御装置10は、緊急通報を受電したことを情報処理装置20に通知する。情報処理装置20は、装着型ディスプレイ端末30Aに緊急通報の着信を通知する画像を出力させる。または、情報処理装置20は、大型表示盤40に緊急通報の着信を通知する画像を出力させてもよく、この場合、指令員UO1は、当該画像を確認してから装着型ディスプレイ端末30Aを装着してもよい。また、情報処理装置20は、消防指令に係る画像の仮想オブジェクトを生成し、装着型ディスプレイ端末30Aの表示部360に表示させる。さらに、情報処理装置20は、指令制御装置10から転送された緊急通報の通話の音声データを、装着型ディスプレイ端末30に転送し、装着型ディスプレイ端末30Aの音出力部370に出力させる。
【0079】
指令員UO1は、装着型ディスプレイ端末30Aにおいて通話を行いながら、通報内容を聴取する。また、指令員UO1は、表示部360に表示される事案作成画面の仮想オブジェクトにおいて、聴取内容を入力する(S804)。
【0080】
続いて、事案作成画面において入力された聴取内容に基づき、災害種別および災害地点が決定される(S806)。決定された災害種別および災害地点に基づいて、予告指令が送出される(S808)。この時、災害種別および災害地点の決定は、情報処理装置20が、指令員UO1によって事案作成画面に入力された内容から自動で判別してもよい。また、予告指令とは、災害地点を管轄する消防署等に、指令内容の送出に先立って、災害種別および災害地点の情報を伝える情報である。例えば、予告指令は、「A市B区C町 火災入電中 おわり」といったような自動音声であってもよい。情報処理装置20は、当該予告指令の音声データを上記消防署等に設置された端末に送信する。
【0081】
次に、情報処理装置20は、上記聴取内容に基づいて、自動で出動編成を行う(S810)。情報処理装置20は、自動編成した出動編成の内容を出動編成画面の仮想オブジェクトに反映し、当該仮想オブジェクトを、装着型ディスプレイ端末30Aの表示部360に表示させる。指令員UO1は、表示部360上で上記出動編成の内容を確認し、必要に応じて変更を行う。
【0082】
指令員UO1は、表示部360に仮想オブジェクトとして表示されている指令内容作成画面において、指令内容を作成する。情報処理装置20は、装着型ディスプレイ端末30Aにおいて、指令員UO1が指令内容を送出する操作を行ったことが検出されると、当該指令内容を画像またはテキスト等の所定の形式に編集し、消防署等の設置端末、出動編成に含まれる出動隊を指揮する隊員の携帯端末50、または、当該隊員が装着している装着型ディスプレイ端末30に送信する(S812)。本動作例では、情報処理装置20は、隊員UM1が装着している装着型ディスプレイ端末30Bに、指令内容を示す画像を仮想オブジェクトとして表示させるものとする。
【0083】
指令員UO1は、現場での消防活動終了まで、隊員UM1を含む現場の隊員を支援し、情報共有を行う(S814)。このとき、情報処理装置20は、装着型ディスプレイ端末30のセンサ部340により検出される指令員UO1の会話音声、および、隊員UM1の会話音声を、装着型ディスプレイ端末30Aと装着型ディスプレイ端末30Bの間で転送することにより、指令員UO1および隊員UM1に通話機能を提供してもよい。さらに、情報処理装置20は、隊員UM1が装着している装着型ディスプレイ端末30Bのカメラ320により撮像された現場の画像を、装着型ディスプレイ端末30Aに表示させてもよい。
【0084】
指令員UO1は、現場での活動が終了したことを確認すると、装着型ディスプレイ端末30Aの表示部360に表示される事案作成画面から、報告書を作成し(S816)、当該事案にかかる指令業務を終了する。
【0085】
以上、
図5を参照して、本実施形態による情報処理システム1の動作例を説明した。なお、本実実施形態による情報処理装置20は、上記動作例におけるS814において、装着型ディスプレイ端末30Bでの仮想オブジェクトの表示を制御することにより、指令員UO1および隊員UM1による緊急通報に応じた指令業務および現場での活動をさらに効果的に支援することが出来る。ここで、
図6を参照して、このような本実施形態による情報処理システム1での、現場での活動終了までの隊員支援および情報共有における動作例を説明する。
【0086】
図6は、本実施形態による情報処理システム1での、現場での活動終了までの隊員支援および情報共有における動作例を説明するフローチャート図である。情報処理装置20は、上記動作例のS812において出動指令が送出されると、装着型ディスプレイ端末30Aおよび装着型ディスプレイ端末30Bにおいて検出される会話音声を互いに転送させる制御を行い、指令員UO1および隊員UM1に通話機能の提供を開始する。また、情報処理装置20は、装着型ディスプレイ端末30Bから、現場の映像、または、画像等の情報を取得する(S902)。情報処理装置20は、取得した映像を、指令員UO1の操作に基づいて、装着型ディスプレイ端末30Aに表示させる制御を行う。例えば、情報処理装置20は、隊員UM1が、装着型ディスプレイ端末30Bにおいて、指令員UO1に映像を送信する操作を行ったことに基づいて、装着型ディスプレイ端末30Bのカメラ320が撮像している映像を、リアルタイムに装着型ディスプレイ端末30Aの表示部360に表示させてもよい。または、情報処理装置20は、当該映像を大型表示盤40に表示させてもよい。
【0087】
指令員UO1は、装着型ディスプレイ端末30Bから送信された上記映像または画像等の情報、および、隊員UM1との通話によって、現場の状況を確認する(S904)。この構成により、指令室にいる指令員UO1は、現場に居る隊員UM1が視認可能な範囲での現場の状況を、映像および通話で得た情報に基づいてより詳細に把握することが出来、より的確な隊員支援を行うことが可能となる。
【0088】
指令員UO1は、確認できた情報に基づいて、現場の活動を支援する支援情報を、装着型ディスプレイ端末30Aから装着型ディスプレイ端末30Bに送信する操作を行う(S906)。例えば、指令員UO1は、装着型ディスプレイ端末30Aの表示部360に表示される仮想オブジェクト上で操作を行うことにより、災害現場付近の水利情報、ガソリンスタンド等の危険物取扱所等の施設情報を、装着型ディスプレイ端末30Bへ送信させてもよい。情報処理装置20は、指令員UO1の上記操作に基づいて、上記水利情報または危険物取扱所等の施設情報を、装着型ディスプレイ端末30Aから装着型ディスプレイ端末30Bへ送信させる制御を行ってもよい。
【0089】
または、情報処理装置20は、通信可能な他のサーバから災害現場付近の3次元地図情報を取得し、当該3次元地図情報を装着型ディスプレイ端末30Aの表示部360に表示させてもよい。指令員UO1は、当該3次元地図情報を、装着型ディスプレイ端末30Bに送信する操作を行ってもよい。情報処理装置20は、当該操作に基づいて、3次元地図情報を装着型ディスプレイ端末30Bに表示させる制御を行ってもよい。この構成により、例えば、災害地点の周辺の障害物、危険物、または、水利情報等の情報を、装着型ディスプレイ端末30Bにおいて立体的に表示する事が可能である。従って、隊員UM1は、現場での活動に役立つ支援情報を、より詳細に確認することが可能となる。
【0090】
隊員UM1は、装着型ディスプレイ端末30Bに表示された上記支援情報を活用しながら、現場での災害対応活動を行う(S908)。また、隊員UM1は、活動終了後、通話等の手段により、指令員UO1に活動が終了したことを連絡する(S910)。
【0091】
指令員UO1は、活動終了後、装着型ディスプレイ端末30Aの表示部360に表示される事案作成画面において、報告書を作成する(S912)。
【0092】
以上、
図6を参照して、本実施形態による情報処理システム1の、現場での活動終了までの隊員支援および情報共有における動作例を説明した。上記説明したように、情報処理装置20が装着型ディスプレイ端末30Aおよび装着型ディスプレイ端末30B間での通話音声、映像、画像、その他の情報の通信を介したやり取りを制御することにより、指令員UO1と隊員UM1が、より効果的に連携することが可能となる。さらに、情報処理装置20は、隊員UM1が装着している装着型ディスプレイ端末30Bの表示部360に表示させる画像を、仮想空間における3次元の画像として生成することが可能である。例えば、情報処理装置20の出力制御部232が災害現場付近の3次元の地図情報を装着型ディスプレイ端末30Bに表示させることにより、隊員UM1は、2次元の地図情報と比べて、災害地点の状況を立体的に、より詳細に確認することが可能となる。
【0093】
なお、上記動作例では、情報処理装置20の出力制御部232は、3次元の地図情報等の支援情報を、装着型ディスプレイ端末30Bの表示部360に表示させる制御を行うとした。ここで、情報処理装置20は、上記3次元の地図情報等の仮想オブジェクトを表示部360に表示させる際に、隊員UM1が表示部360を通して直接視認している実空間との位置合わせを行ってもよい。出力制御部232は、実空間と位置合わせをした状態で、当該仮想オブジェクトを実空間に重畳させて、装着型ディスプレイ端末30Bの表示部360に表示させてもよい。
【0094】
例えば、情報処理装置20は、装着型ディスプレイ端末30Bにより検出される隊員UM1の位置姿勢に基づき、隊員UM1が向いている方角を検出する。さらに、情報処理装置20は、実空間において隊員UM1が向いている方角に消火栓がある場合、当該消火栓の位置と重畳するように、当該消火栓を強調するような仮想オブジェクトの画像を生成して表示させてもよい。この項背により、指令員UO1により装着型ディスプレイ端末30Aから送信される支援情報を、装着型ディスプレイ端末30Bが視認している実空間と重畳させて表示することが出来る。従って、隊員UM1は、例えば紙に印刷された消火栓の位置、または、音声通話で伝達された消火栓の位置の情報等の支援情報よりも、より速く消火栓を見つけることが可能となる。このように、情報処理装置20が、指令員UO1から隊員UM1に提供される支援情報を、装着型ディスプレイ端末30Bの表示部360に、仮想オブジェクトとして実空間とリンクさせながら表示させることで、より効果的な隊員支援、および、より迅速な消防活動を実現することが可能となる。
【0095】
<4.ハードウェア構成図>
以上、本発明の一実施形態を説明した。上述した、情報処理装置20による、緊急通報に応じた指令内容に係る画像の仮想オブジェクトの生成、および、当該仮想オブジェクトの装着型ディスプレイ端末30への表示制御は、ソフトウェアと、情報処理装置20のハードウェアとの協働により実現される。以下では、本発明の実施形態による情報処理装置20のハードウェア構成例について説明する。装着型ディスプレイ端末30のハードウェア構成も、情報処理装置20のハードウェア構成と同様に実現され得る。
【0096】
なお、以下に説明する情報処理装置20のハードウェア構成例は、情報処理装置20および装着型ディスプレイ端末30のハードウェア構成の一例に過ぎない。したがって、情報処理装置20および装着型ディスプレイ端末30のそれぞれのハードウェア構成は、以下に説明する情報処理装置20のハードウェア構成から不要な構成が削除されてもよいし、新たな構成が追加されてもよい。また、情報処理装置20のハードウェア構成例の各部は、同一の装置上で実現されてもよいし、複数の装置の組み合わせによって実現されてもよい。
【0097】
図7は、本発明の一実施形態による情報処理装置20のハードウェア構成例を示す図である。情報処理装置20は、CPU(Central Processing Unit)1001と、ROM(Read Only Memory)1002と、RAM(Random Access Memory)1003と、内部バス1004と、入出力インターフェース1010と、表示装置1011と、入力装置1012と、音声出力部1013と、記憶装置1014と、ドライブ1015と、ネットワークインターフェース1016と、外部インターフェース1017と、を備えることができる。
【0098】
CPU1001は、演算処理装置および制御装置として機能し、各種プログラムに従って情報処理装置20内の動作全般を制御する。CPU1001が後述するROM1002、RAM1003およびソフトウェアと協働することにより、例えば、制御部230の機能が実現され得る。なお、装着型ディスプレイ端末30にも同様にCPU、ROMおよびRAMが設けられ、これらCPU、ROMおよびRAMなどのハードウェアとソフトウェアとの協働により制御部350の機能が実現され得る。
【0099】
ROM1002は、CPU1001が使用するプログラムおよび演算パラメータ等を記憶する。RAM1003は、CPU1001の実行において使用するプログラム、およびその実行において適宜変化するパラメータ等を一時記憶する。
【0100】
CPU1001、ROM1002、RAM1003は、内部バス1004によって相互に接続され、さらに入出力インターフェース1010を介して後述する表示装置1011、入力装置1012、音声出力部1013、記憶装置1014、ドライブ1015、ネットワークインターフェース1016および外部インターフェース1017と接続される。
【0101】
表示装置1011は、例えば、CRTディスプレイ装置、液晶ディスプレイ(LCD)、OLED装置などの表示装置であり、映像データを映像に変換して出力する。また、入力装置1012は、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、センサ、スイッチおよび制御回路などから構成され得る。また、音声出力部1013は、スピーカおよびヘッドホンなどの音声出力装置であり、音声データなどを音声に変換して出力する。
【0102】
記憶装置1014は、本実施形態による記憶部220および記憶部390の一例として構成されたデータ記憶用の装置である。記憶装置1014は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置などを含んでいてもよい。記憶装置1014は、例えば、HDD(Hard Disk Drive)またはSSD(Solid State Drive)、あるいは同等の機能を有するメモリ等で構成される。この記憶装置1014は、ストレージを駆動し、CPU1001が実行するプログラムまたは各種データを記憶する。
【0103】
ドライブ1015は、記憶媒体用リーダライタであり、情報処理装置20に内蔵、または外付けされる。ドライブ1015は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブル記憶媒体に記憶されている情報を読み出して、RAM1003に出力する。また、ドライブ1015は、リムーバブル記憶媒体に情報を書き込むことも可能である。
【0104】
ネットワークインターフェース1016は、例えば、インターネットなどの通信網に接続するためのデバイス等で構成された通信インターフェースである。また、ネットワークインターフェース1016は、有線LAN(Local Area Network)または無線LAN対応通信装置であってもよいし、有線による通信を行うワイヤー通信装置であってもよい。
【0105】
外部インターフェース1017は、例えばUSB(Universal Serial Bus)ポート、IEEE1394ポート、SCSI(Small Computer System Interface)ポート、RS-232Cポートまたは光オーディオ端子などのような外部接続機器を接続するための接続ポートで構成された接続インターフェースである。
【0106】
<6.むすび>
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
【0107】
例えば、上記実施形態では、本発明の好適な実施形態として、消防業務における消防指令業務を説明したが、本発明はかかる例に限定されない。例えば、本発明は、災害を想定した、消防指令訓練に適用されてもよいし、同時に、現場で活動する隊員の消防活動訓練に適用されてもよい。この場合、情報処理装置20は、例えば装着型ディスプレイ端末30Bにおいてユーザが視認可能な実空間に重ね合わせて、火災時の状況を再現した、炎、出火原因事象、または、障害物等の仮想オブジェクトを生成して、装着型ディスプレイ端末30Bに表示させてもよい。また、情報処理装置20は、当該火災時の状況において緊急通報があったものとして、消防指令に係る画像の仮想オブジェクトを生成し、装着型ディスプレイ端末30Aに表示させてもよい。この構成により、指令員UO1が、消防指令の訓練を、隊員UM1と連携しながら行うことが出来る。
【0108】
さらに、本発明の好適な他の実施形態として、消防活動の他、救急要請に応じた救助活動に係る指令業務、または、航空機からの緊急通報に応じた航空管制に係る指令業務があげられる。
【0109】
また、上記実施形態では、装着型ディスプレイ端末30の制御部350は、カメラ320により撮像されたユーザの手の映像に基づいてユーザの操作を検出するとした。しかし、本発明は係る例に限定されない。例えば、制御部350は、ユーザが手にもって操作できる専用の操作用端末に備え付けられたセンサにより、当該操作用デバイスの動作を検出してもよい。この場合、装着型ディスプレイ端末30は、当該操作用デバイスの動作に基づいて、ユーザの操作を検出してもよい。
【0110】
また、上記実施形態では、出力制御部232は、装着型ディスプレイ端末30における仮想オブジェクトの表示を、ユーザの位置姿勢の変化、および、ユーザの所定の操作によって変化させるとした。しかし、本発明は係る例に限定されない。例えば、情報処理装置20は、装着型ディスプレイ端末30のカメラ320およびセンサ部340により、実空間において所定の物体が検出されたことに基づいて、仮想オブジェクトの表示を変化させてもよい。この場合、情報処理装置20は、実空間の映像から物体の特徴量を抽出して取得する取得部と、上記物体の特徴量に基づき、前記物体が所定の物体であるか否かを判定する判定部をさらに備えていてもよい。あるいは、上記取得部は、装着型ディスプレイ端末30に備えられていてもよい。
【0111】
上記取得部及び判定部は、装着型ディスプレイ端末30を装着しているユーザの向いている方角の映像から、特徴量を抽出し、当該方角に所定の物体があるか否かを検出してもよい。さらに、情報処理装置20は、当該所定の物体が検出された場合、上記仮想オブジェクトの表示を変化させてもよい。このような構成により、情報処理装置20は、装着型ディスプレイ端末30Aを装着している指令員UO1が向いている方角の映像から、大型表示盤40を検出することが出来る。
【0112】
情報処理装置20の出力制御部232は、指令員UO1が向いている方角の映像から大型表示盤40が検出されたことに基づいて、装着型ディスプレイ端末30Aの表示部360に表示させる仮想オブジェクトの透過度を変化させてもよい。または、出力制御部232は、当該仮想オブジェクトを非表示にする、等の制御を行ってもよい。出力制御部232が上記のような制御を行うことにより、指令員UO1が大型表示盤40の方角を向くだけで、表示部360に表示されている仮想オブジェクトが非表示になる、または、透過度が高く変化する。従って、指令員UO1は、指令内容に係る画像の仮想オブジェクト、および、大型表示盤40の両方を見ながら、指令業務を行うことが出来る。
【0113】
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本発明に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
【0114】
また、本実施形態による情報処理装置20の動作の処理におけるステップは、必ずしもフローチャートに記載された順序に沿って時系列に処理する必要はない。例えば、情報処理装置20の動作の処理における各ステップは、フローチャートに記載した順序と異なる順序で処理されてもよく、並列的に処理されてもよい。
【0115】
また、コンピュータに内蔵されるCPU、ROMおよびRAMなどのハードウェアに、上述した指令制御装置10または情報処理装置20が有する構成と同等の機能を発揮させるための1以上のプログラムも作成可能である。
【符号の説明】
【0116】
1 情報処理システム
10 指令制御装置
20 情報処理装置
210 通信部
220 記憶部
230 制御部
232 出力制御部
240 操作部
30 装着型ディスプレイ端末
310 通信部
320 カメラ
340 センサ部
350 制御部
360 表示部
370 音出力部
390 記憶部
40 大型表示盤
50 携帯端末
UO1 指令員
UM1 隊員