(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024108068
(43)【公開日】2024-08-09
(54)【発明の名称】遠隔監視装置
(51)【国際特許分類】
H04N 7/18 20060101AFI20240802BHJP
【FI】
H04N7/18 D
H04N7/18 K
H04N7/18 U
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2023012350
(22)【出願日】2023-01-30
(71)【出願人】
【識別番号】000202361
【氏名又は名称】綜合警備保障株式会社
(74)【代理人】
【識別番号】100179969
【弁理士】
【氏名又は名称】駒井 慎二
(72)【発明者】
【氏名】関谷 俊一
(72)【発明者】
【氏名】池田 康臣
【テーマコード(参考)】
5C054
【Fターム(参考)】
5C054CA04
5C054CA06
5C054CC02
5C054EA05
5C054EA07
5C054FA00
5C054FC12
5C054FD02
5C054FD03
5C054FD07
5C054FE23
5C054FE28
5C054GB01
5C054GB06
5C054GD05
5C054GD07
5C054HA19
5C054HA20
(57)【要約】
【課題】監視した内容を知ることができるようにする。
【解決手段】遠隔監視装置は、監視エリアを撮像すると共に前記撮像により取得した画像データを送信する複数の撮像部の各々により送信された前記画像データを受信する受信部と、前記監視エリアにおいて複数の監視領域を選択的に指定するための指定部と、前記受信された前記複数の撮像部の各々の前記画像データと前記選択的に指定された前記監視領域とに基づいて、前記選択的に指定される毎に前記監視領域を表示する表示部と、前記監視エリアが監視された様子を表示するためのデータを記憶する記憶部と、前記記憶されたデータに基づいて、前記監視エリアにおいて監視された様子が表示されるように前記表示部を制御する制御部と、を備える。
【選択図】
図11
【特許請求の範囲】
【請求項1】
監視エリアを撮像すると共に前記撮像により取得した画像データを送信する複数の撮像部の各々により送信された前記画像データを受信する受信部と、
前記監視エリアにおいて複数の監視領域を選択的に指定するための指定部と、
前記受信された前記複数の撮像部の各々の前記画像データと前記選択的に指定された前記監視領域とに基づいて、前記選択的に指定される毎に前記監視領域を表示する表示部と、
前記監視エリアが監視された様子を表示するためのデータを記憶する記憶部と、
前記記憶されたデータに基づいて、前記監視エリアにおいて監視された様子が表示されるように前記表示部を制御する制御部と、
を備える遠隔監視装置。
【請求項2】
前記指定部は、前記監視エリアに対する視点および視線方向を変化させることにより、前記監視エリアの前記視点および前記視線方向に基づいて定まる領域を、前記監視領域として選択的に指定する、請求項1に記載の遠隔監視装置。
【請求項3】
前記記憶部に記憶されるデータは、前記選択的に指定される毎に前記表示部に表示された前記監視領域のデータであり、
前記監視エリアにおいて監視された様子は、前記選択的に指定される毎に前記表示部に表示された前記監視領域である、
請求項1または請求項2に記載の遠隔監視装置。
【請求項4】
前記記憶部に記憶されるデータは、少なくとも前記変化された前記視点の各データであり、
前記監視エリアにおいて監視された様子は、前記視点の各データに基づいて定まる監視ルートである、
請求項2に記載の遠隔監視装置。
【請求項5】
前記監視エリアにおいて監視された様子の少なくとも一部が表示されるように指定するための指定部を更に備え、
前記制御部は、前記監視エリアにおいて監視された様子の内の前記指定された少なくとも一部が表示されるように前記表示部を制御する、
請求項1に記載の遠隔監視装置。
【請求項6】
前記記憶部は、さらに、前記指定部による前記監視エリアにおいて監視された様子の少なくとも一部が表示されるための指定の履歴を記憶し、
前記制御部は、さらに、前記記憶部が記憶した前記指定の履歴が表示されるように前記表示部を制御する、請求項5に記載の遠隔監視装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、遠隔監視装置に関する。
【背景技術】
【0002】
従来、視点位置(カメラ位置)を基準にして監視エリアの3次元モデルから生成した2次元投影画像の所定領域に、当該カメラで撮像した撮像画像を合成する技術が開示されている(特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、上記従来技術では、監視した内容を後から知ることができない。
【0005】
本開示の技術は、上記事実に鑑み成されたもので、監視した内容を知ることができる遠隔監視装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するため本開示の技術の第1の態様の遠隔監視装置は、 監視エリアを撮像すると共に前記撮像により取得した画像データを送信する複数の撮像部の各々により送信された前記画像データを受信する受信部と、前記監視エリアにおいて複数の監視領域を選択的に指定するための指定部と、前記受信された前記複数の撮像部の各々の前記画像データと前記選択的に指定された前記監視領域とに基づいて、前記選択的に指定される毎に前記監視領域を表示する表示部と、前記監視エリアが監視された様子を表示するためのデータを記憶する記憶部と、前記記憶されたデータに基づいて、前記監視エリアにおいて監視された様子が表示されるように前記表示部を制御する制御部と、を備える。
【発明の効果】
【0007】
本開示の技術は、監視した内容を知ることができることができる。
【図面の簡単な説明】
【0008】
【
図1】第1の実施の形態における遠隔監視システムのブロック図である。
【
図2】第1の実施の形態における現実世界の監視エリア10の一例の斜視図である。
【
図3】VR監視卓に設けられた遠隔監視装置50の一例の斜視図である。
【
図4】VR監視卓に設けられた遠隔監視装置50の一例の上面図である。
【
図5】遠隔監視装置50の電気系のハードウェア構成の一例を示すブロック図である。
【
図6】監視エリア10の仮想空間100を構築し、構築した仮想空間100で監視員が監視エリア10を監視し、当該監視の履歴を記憶する構築・監視記憶処理の流れの一例を示すフローチャートである。
【
図7A】(a)は、分割3次元モデルの各範囲10DM1~10DM4の一例を示し、(b)は、監視エリア10における監視セクション10s1~10s4の一例を示す図である。
【
図7B】構築された監視エリア10の仮想空間100、監視員の視点および視線方向の履歴を示した一例を示す概念図である。
【
図8】仮想空間100の第1の視点から第1の視線方向に仮想空間100を見たように、構築された仮想空間100から生成された画像の一例を示す概念図である。
【
図9】仮想空間100の第2の視点から第2の視線方向に仮想空間100を見たように、構築された仮想空間100から生成された画像の一例を示す概念図である。
【
図10】仮想空間100の第2の視点から第3の視線方向に仮想空間100を見たように、構築された仮想空間100から生成された画像の一例を示す概念図である。
【
図11】監視員が、監視エリア10を、その仮想空間100を見ながら監視した履歴を監査するために監視履歴を再生する再生処理の流れの一例を示すフローチャートである。
【
図12】監視エリア10の仮想空間100を俯瞰した俯瞰画像150において、監視員が視点位置p1で視線方向d1を指定していたことを表示した図である。
【
図13】監視エリア10の仮想空間100を俯瞰した俯瞰画像150において、監視員が視点位置p2で視線方向d2を指定していたことを表示した図である。
【
図14】監視エリア10の仮想空間100を俯瞰した俯瞰画像150において、監視員が視点位置p2で視線方向d3を指定していたことを表示した図である。
【
図15】監視員による監視履歴と監査者による監査内容とを重畳表示する重畳表示処理の流れの一例を示すフローチャートである。
【
図16】監視エリア10の仮想空間100の俯瞰画像105に、監査ルートを一点鎖線で表示し且つ監査履歴の範囲Kを点線で表示した例を示す図である。
【
図17A】表示方式の場合の監視エリア10の概念斜視図である。
【
図17B】順次切り替え表示方式の場合の、監視エリア10の仮想空間100における視点、視線方向を順次切り替える様子を示す図である。
【
図18】第2の変形例のヘッドマウントディスプレイを用いた場合の遠隔監視装置の一例を示す図である。
【発明を実施するための形態】
【0009】
以下、図面を参照して、本開示の技術の実施の形態を説明する。
【0010】
[第1の実施の形態]
第1の実施の形態を説明する。
(構成)
図1は、第1の実施の形態における遠隔監視システムのブロック図である。遠隔監視システムでは、監視センター300に、複数の監視員の各々が操作する複数の遠隔監視装置50が備えられている。ある監視員により操作される遠隔監視装置50では、例えば、地下1階および地上複数階からなる建物200Aの各階の監視エリアが監視される。他の監視員により操作される他の遠隔監視装置50では、他の建物200B、200C、200Dの各監視エリアが監視される。遠隔監視装置50は、監視員の操作によって、監視する対象の建物を状況に応じて選択したり切り替えたりすることができるようになっている。以下、遠隔監視装置50により、建物200Aの地下1階の監視エリア10が監視される場合を例にとり説明する。
【0011】
図2は、第1の実施の形態における現実世界の監視エリア10の一例の斜視図である。
図2に示すように、監視エリア10は、例えば、百貨店の食品フロアであり、複数のショーケース14N1~14N5が配置されている。また、監視エリア10の天井には、複数の撮像部12A~12Dが異なる位置に設置されている。複数の撮像部12A~12Dの各々は、監視エリア10の被撮像領域を撮像すると共に当該撮像により取得した画像データを、監視エリア10から遠隔に位置する遠隔監視装置50(
図3~
図5も参照)に、例えば、インターネット等を介して送信する。複数の撮像部12A~12Dの各々の撮像方向は、天井から床に向かう方向である。複数の撮像部12A~12Dの各々は、当該撮像方向を中心に所定の画角(例えば、180°)の被撮像領域を撮像可能である。なお、画角は、固定でもよく、また、変更可能であってもよい。画像データは、動画像の画像データである。即ち、複数の撮像部12A~12Dの各々は、所定のフレームレートで、監視エリア10を撮像し且つ当該撮像により取得した画像データを遠隔監視装置50に送信する。なお、複数の撮像部12A~12Dの各々は、例えば、3D-LiDAR(Light Detection And Ranging)カメラである。この場合、複数の撮像部12A~12Dは、撮像により画像データを取得すると同時に、点群データ(撮像部からの測距データ)を取得する。本実施の形態では、撮像部12A~12Dとして3D-LiDARカメラを使用する場合について説明する。
【0012】
図3は、VR(Virtual Reality)監視卓に設けられた遠隔監視装置50の一例の斜視図であり、
図4は、VR監視卓に設けられた遠隔監視装置50の一例の上面図である。
図3および
図4に示すように遠隔監視装置50は、VR監視卓に設けられている。VR監視卓は、テーブル70、椅子72、および表示装置62を備えている。表示装置62は、左側スクリーン62L、中央スクリーン62C、および右側スクリーン62Rを備えている。テーブル70には、押しボタン64Aおよびジョイスティック64Bと、再生指示キーのキーボード65と、が設けられている。ジョイスティック64Bは、前後および左右に倒されるように操作可能に構成されている。ジョイスティック64Bは、スティック状の操作部が前後および左右に倒されるように操作可能に構成されている。ジョイスティック64Bは、操作部が倒された方向に応じた指示(例えば、視点の移動、または視線方向の変更、指示内容一覧からの指示内容の選択、等)を、遠隔監視装置50に入力する。押しボタン64Aは、操作部が押下操作されたことに応じた指示(例えば、ジョイスティック64Bの操作対象を、視点の移動、または視線方向の変更のいずれかに切り替える指示、指示内容一覧から選択した指示の確定、等)を遠隔監視装置50に入力する。
【0013】
監視員は、椅子72に座り、押しボタン64Aおよびジョイスティック64Bを操作する。表示装置62は、詳細には後述するが複数の撮像部12A~12Dの各々から取得した画像データに基づいて構築された監視エリア10の仮想空間100(
図7も参照)を表示する。監視員は、表示装置62に表示された監視エリア10の仮想空間100を見て、監視エリア10をリアルタイムに遠隔監視することができる。監視員は、押しボタン64Aおよびジョイスティック64Bを操作することにより、視点および視線方向を遠隔監視装置50に入力する。そうすると、監視エリア10の仮想空間100を入力された視点から入力された視線方向に見たような画像が仮想空間100から生成され、表示装置62に表示される。
【0014】
図5は、遠隔監視装置50の電気系のハードウェア構成の一例を示すブロック図である。
図5に示すように、遠隔監視装置50は、コンピュータ52と、表示装置62と、押しボタン64Aおよびジョイスティック64Bと、キーボード65、通信I/F66とを含む。キーボード65には、停止キー65A1、巻き戻しキー65A2、早送りキー65A3、再生キー65A4、および一時停止キー65A5を備えている。
【0015】
コンピュータ52は、プロセッサ54、NVM(Non-volatile memory)56、およびRAM(Random Access Memory)60を備えている。プロセッサ54、NVM56、およびRAM60は、バス68に接続されている。
【0016】
プロセッサ54は、DSP(Digital Signal Processor)、CPU(Central Processing Unit)、およびGPU(Graphics Processing Unit)を含む処理装置であり、DSPおよびGPUは、CPUの制御下で動作し、後述する処理の実行を担う。ここでは、プロセッサ54の一例として、DSP、CPU、およびGPUを含む処理装置を挙げているが、これはあくまでも一例に過ぎず、プロセッサ54は、GPU機能を統合した1つ以上のCPUおよびDSPであってもよいし、GPU機能を統合していない1つ以上のCPUおよびDSPであってもよいし、TPU(Tensor Processing Unit)が搭載されていてもよい。
【0017】
NVM56は、各種プログラムおよび各種パラメータ等を記憶する不揮発性の記憶装置である。NVM56としては、例えば、フラッシュメモリ(例えば、EEPROM(Electrically Erasable and Programmable Read Only Memory))が挙げられる。RAM60は、一時的に情報が記憶されるメモリであり、プロセッサ54によってワークメモリとして用いられる。RAM60としては、例えば、DRAM(Dynamic Random Access Memory)またはSRAM(Static Random Access Memory)等が挙げられる。
【0018】
本実施形態では、NVM56には、遠隔監視プログラム58、具体的には、構築・監視記憶処理プログラム(
図6参照)および再生処理プログラム(
図11参照)が格納されている。プロセッサ54は、遠隔監視プログラム58をRAM60に展開して実行する。プロセッサ54が遠隔監視プログラム58を実行すると、プロセッサ54は、構築部54A、記憶処理部54B、判断部54C、および再生処理部54Dとして機能する。
【0019】
表示装置62と、押しボタン64Aおよびジョイスティック64Bと、キーボード65とは、バス68に接続されている。
【0020】
通信I/F66は、通信プロセッサおよびアンテナ等を含むインタフェースであり、バス68に接続されている。通信I/F66に対して適用される通信規格は、例えば、5G(5th Generation Mobile Communication System)、Wi-Fi(登録商標)、またはBluetooth(登録商標)等を含む無線通信規格である。遠隔監視装置50は、通信I/F66により、詳細には後述する複数の撮像部12A~12Dの各々により送信された画像データを受信する。
【0021】
通信I/F66は、本開示の技術の「受信部」の一例である。表示装置62は、本開示の技術の「表示部」の一例である。プロセッサ54は、本開示の技術の「制御部」の一例である。
【0022】
(作用)
次に、本実施の形態の作用を説明する。
(監視員による遠隔監視)
図6は、監視エリア10の仮想空間100を構築し、構築した仮想空間100で監視員が監視エリア10を監視し、当該監視の履歴を記憶する構築・監視記憶処理の流れの一例を示すフローチャートである。プロセッサ54は、遠隔監視プログラム58の記憶処理プログラムを実行することにより、構築・監視記憶処理を実行する。
【0023】
ステップ78で、記憶処理部54Bは、構築した仮想空間100で監視員が監視エリア10を監視した履歴のデータ(監視履歴)の記憶を開始する。監視の履歴のデータを記憶するのは、詳細には後述する再生処理において監視の履歴を再生し、監視員の監視を監査するためのものである。監視の履歴のデータ(監視履歴)は、NVM56に記憶される。
【0024】
ステップ80で、構築部54Aは、監視エリア10を仮想空間100に再現する。具体的には、構築部54Aは、各撮像部12A~12Dが監視エリア10を予め撮像してNVM56に記憶しておいた所定の時点の画像データ(静止画像)および点群データ(撮像部からの測距データ)、ならびに各撮像部12A~12Dの設置位置、撮像方向、画角の情報を読み出す。ここで、所定の時点とは、監視員に対して監視エリア10の基準の状態として認識させるための画像データが取得可能な時点であり、例えば監視エリア10が無人の状態である時点である。構築部54Aは、まず監視エリア10の3次元モデル(ワイヤフレーム)を構築する。次に構築部54Aは、構築した3次元モデル(ワイヤフレーム)の対応する位置に、NVM56から読み出した画像データ(静止画像)、点群データ、それらを撮像した撮像部の設置位置、撮像方向、画角の情報に基づいて、テクスチャを合成する。具体的には、構築部54Aは、複数の撮像部12A~12Dの各々を中心とする範囲に4分割された監視エリア10のそれぞれの範囲10DM1~10DM4(
図7Aも参照)を、複数の撮像部12A~12Dの各々に対応する分割3次元モデル(ワイヤフレーム)として構築する。構築部54Aは、その分割3次元モデル(ワイヤフレーム)の対応する位置に、NVM56から読み出した画像データ(静止画像)、点群データ、それらを撮像した撮像部の設置位置、撮像方向、画角の情報に基づいて、テクスチャを合成する。最後に、構築部54Aは、その合成した分割3次元モデルを組み合わせて、監視エリア10の全体の3次元モデル(仮想空間100)を構築する。以上により、監視エリア10が仮想空間100に再現される。なお、この段階では、仮想空間100にはまだ各撮像部12A~12Dが撮像したリアルタイムの画像データ(動画像)および点群データに基づくテクスチャは合成されていない。
【0025】
ステップ82で、構築部54Aは、各撮像部12A~12Dで撮像して得られたリアルタイムの画像データおよび点群データ(各撮像部からの測距データ)を取得する。
【0026】
ステップ84で、構築部54Aは、各撮像部12A~12Dから取得した画像データおよび点群データ、ならびにNVM56から読み出した各撮像部12A~12Dの設置位置、撮像方向、画角に基づいて、テクスチャを、仮想空間100に合成する。
【0027】
ステップ86で、構築部54Aは、監視員により押しボタン64Aおよびジョイスティック64Bが操作されて指定された視点および視線方向を特定する。
【0028】
ステップ88で、構築部54Aは、仮想空間100内の、特定された視点および視線方向で見たような画像(平面画像)を、仮想空間100から生成する。
【0029】
ステップ90で、構築部54Aは、仮想空間100から生成した、特定された視点および視線方向で仮想空間100を見たような画像(平面画像)を、表示装置62に表示する。
【0030】
ステップ92で、判断部54Cは、例えば、監視エリア10に、人物の侵入または火災の発生等の異常が発生しているか否かを判断する。具体的には、判断部54Cは、AI(Artificial Intelligence)により監視エリア10に、人物が侵入しているか否かを判断する。より具体的には、監視エリア10の上記画像(平面画像)を入力とし且つ人物が侵入しているか否かの結論を出力とする教師データを用いて学習された学習済みモデルと、監視エリア10の上記画像(平面画像)とに基づいて、監視エリア10に人物が侵入しているか否かを判断する。なお、AIにより監視エリア10に人物が侵入しているか否かを判断することに限定されない。例えば、所定時間間隔で監視エリア10の画像データを2回取り込み、取り込んだ画像の差分から人物を検出したり、予め用意した人物の画像と監視エリア10の画像とのマッチングにより人物の侵入を判断したりしてもよい。なお、火災の発生の判断も、AI、画像の差分、または画像マッチングにより判断することができる。
【0031】
ステップ92で、人物の侵入または火災等の異常が発生していると判断した場合(ステップ92:Y)には、本対処処理はステップ94に進む。発生していないと判断した場合(ステップ92:N)には、本対処処理は、ステップ95に進む。
【0032】
ステップ94は、構築部54Aは、異常事象に対処する。例えば、人物が侵入していると判断した場合には、図示しない威嚇装置(例えば、スピーカー)から威嚇音を発生させる。また、火災が発生していると判断した場合には、図示しないスプリンクラーを作動させる。
【0033】
ステップ95で、構築部54Aは、ステップ88で生成されステップ90で表示装置62に表示した、特定された視点および視線方向で仮想空間100を見たような画像(平面画像)を、その特定された視点および視線方向、異常事象の発生の有無、異常事象への対処内容ならびに現在時刻とともに、監視の履歴のデータ(監視履歴)としてNVM56に記憶する。
【0034】
ステップ96で、構築部54Aは、押しボタン64Aおよびジョイスティック64Bにより終了指示がされたか否かを判断する。
【0035】
終了指示がされたと判断されなかった場合(ステップ96:N)には、本構築処理は、ステップ82に戻って、以上の処理(ステップ82~96)を再度実行する。処理(ステップ82~96)が繰り返し実行されることにより、各撮像部12A~12Dが撮像したリアルタイムの各画像データ(動画像)および点群データが取得され、それらに基づいて監視エリア10の仮想空間100にテクスチャが合成され、特定された視点および視線方向で見たような画像(平面画像)が、合成した仮想空間100から生成され、表示装置62に表示される。つまり、監視エリア10の仮想空間100がリアルタイムに動画像で表示される。
【0036】
終了指示がされたと判断された場合(ステップ96:Y)、ステップ98に進む。
【0037】
以上のステップ80~96により、
図7Bに示すように、
図2に示す現実世界の監視エリア10に対応する仮想空間100が構築される。上記のように、監視エリア10に複数のショーケース14N1~14N5(
図2参照)が配置されているので、仮想空間100にも複数のショーケース14N1~14N5が再現される。なお、現実世界の監視エリア10に存在する物体と、監視エリア10の仮想空間100に再現された物体で、対応するものには同じ符号を付すものとする。(例えば監視エリア10のショーケース14N1と仮想エリア100に再現されたショーケース14N1)
【0038】
上記のように構築部54Aは、各撮像部12A~12Dで撮像して得られた画像データに基づいて、テクスチャを仮想空間100に合成するので、監視員は、監視エリア10の仮想空間100を見ながら、現実世界の監視エリア10をリアルタイムに監視することができる。なお、上記の「リアルタイム」は、複数の撮像部12A~12Dが監視エリア10を撮像した時刻と略同じ時刻に、という意味で用いている。即ち、「リアルタイム」は、複数の撮像部12A~12Dが監視エリア10を撮像した時刻と、仮想空間100において当該事象が表示された時刻との間に時間的なずれがないことを意味しない。上記の「リアルタイム」は、各撮像部12A~12Dが撮像してから、監視エリア10の仮想空間100が構築され、構築された仮想空間100が表示されるまでの通信、処理に最低限必要な所要時間分のずれがあることも含めて用いている。
【0039】
上記のように監視エリア10の仮想空間100で監視員が現実世界の監視エリア10を監視する。具体的には、監視員は、押しボタン64Aおよびジョイスティック64Bを操作して、視点および視線方向の各々を指定する。これにより、視点および視線方向が遠隔監視装置50に入力され、特定される(ステップ86)。
【0040】
例えば、監視員は、
図7Bに示した監視エリア10の仮想空間100において第1の視点p1および第1の視線方向d1を指定する。第1の視点p1および第1の視線方向d1が遠隔監視装置50に入力され、ステップ86で、第1の視点p1および第1の視線方向d1が特定される。ステップ88では、構築部54Aは、上記のように指定された第1の視点p1から上記のように指定された第1の視線方向d1に仮想空間100を見たような画像(平面画像、監視領域(
図8参照))を、仮想空間100から生成し、ステップ90で、表示装置62に表示する。このように、第1の視点p1および第1の視線方向d1を指定することにより、監視エリア10における監視領域が指定される。なお、指定された視点から指定された視線方向に仮想空間100を見たような画像(平面画像、監視領域)の画角は、予め固定の画角が定められていてもよく、また監視員が押しボタン64Aおよびジョイスティック64Bを操作することなどにより変更可能であってもよい。第1の視点p1は、ショーケース14N1とショーケース14N2との間の監視エリア10の手前の壁の位置である。よって、ステップ90で表示装置62に表示される画像には、
図8に示すように、監視エリア10の仮想空間100には、ショーケース14N1とショーケース14N2とが手前に位置し、奥側に、ショーケース14N5と、ショーケース14N5の右隣りにショーケース14N3、14N4とが位置する。第1の視点p1および第1の視線方向d1を指定することにより生成され、表示された、監視領域の画像データが、指定された視点(第1の視点p1)および指定された視線方向(第1の視線方向d1)とともに、監視員が監視エリア10を監視した履歴のデータ(監視履歴)として記憶される。
【0041】
次に、監視員は、例えば、監視エリア10の第1の視点p1から、ショーケース14N1とショーケース14N2との間の通路に沿って、更に奥に進むように視点を変化させる。例えば、ショーケース14N5の手前の第2の視点p2まで進める。視点が変化される毎に、その変化した視点から視線方向に見たような画像が生成され、表示される。例えば、監視員は、第1の視点p1から奥に進んだ第2の視点p2および第1の視線方向d1と同じ第2の視線方向d2を指定する。これにより、
図9に示すように、第2の視点p2から第2の視線方向d2に監視エリア10を見たような画像(監視領域)が生成され、表示される。このように、第2の視点p2および第2の視線方向d2を指定することにより、監視エリア10における別の監視領域が指定される。第2の視点p2はショーケース14N5の手前であり、第2の視線方向d2はショーケース14N5に向かう方向である。よって、ステップ90で表示装置62に表示される画像には、
図9に示すように、ショーケース14N5が正面に位置し、ショーケース14N5の右隣りにショーケース14N3、14N4が位置する。第2の視点p2および第2の視線方向d2を指定することにより生成され、表示された、監視領域の画像データが、指定された視点(第2の視点p2)および指定された視線方向(第2の視線方向d2)とともに、監視員が監視エリア10を監視した履歴のデータ(監視履歴)として記憶される。
【0042】
次に、監視員は、例えば、第2の視点p2から右側、即ち、ショーケース14N2とショーケース14N3の間の通路に沿って、監視エリア10を監視するため、まず、第2の視点p2において、第2の視線方向d2と直交する、第3の視線方向d3を指定する。これにより、
図10に示すように、第2の視点p2から第2の視線方向d3に監視エリア10を見たような画像(監視領域)が生成され、表示される。このように、第2の視点p2および第3の視線方向d3を指定することにより、監視エリア10における更に別の監視領域が指定される。第2の視点p2はショーケース14N5の手前であり、第3の視線方向d3はショーケース14N2とショーケース14N3の間の通路に沿った方向である。よって、ステップ90で表示装置62に表示される画像には、
図10に示すように、ショーケース14N2とショーケース14N3の間の通路が正面に位置し、ショーケース14N3の左隣りにショーケース14N4が位置する。第2の視点p2および第3の視線方向d3を指定することにより生成され、表示された、監視領域の画像データが、指定された視点(第2の視点p2)および指定された視線方向(第3の視線方向d3)とともに、監視員が監視エリア10を監視した履歴のデータ(監視履歴)として記憶される。
【0043】
このように監視員は、視点および視線方向を変化させなら当該視点から当該視線方向に監視エリア10の仮想空間100を見たような画像を見ながら、監視エリア10を監視する。
【0044】
監視員は、監視エリア10の監視が終了したと判断した場合には、押しボタン64Aおよびジョイスティック64Bを操作して終了を指示する。終了指示がされたと判断された場合には、ステップ96が肯定判定となり、ステップ98へ進む。
【0045】
ステップ98で、記憶処理部54Bは、上記記憶を停止する。NVM56には、ステップ80~96において、仮想空間100から生成された、各特定された視点および視線方向で見たような画像(平面画像)が、指定された視点(第2の視点p2)および指定された視線方向(第2の視線方向d2)とともに、監視員が監視エリア10を監視した履歴のデータ(監視履歴)として記憶されている。
【0046】
ステップ100で、判断部54Cは、監視エリア10の監視中(ステップ82~ステップ96)に異常が発生していたか否かを判断する。警報が発生していたと判断されなかった場合(ステップ100:Y)には、ステップ102で、上記記憶した監視員が監視エリア10を監視した履歴のデータ(監視履歴)の記憶期間(当該データがNVM56に記憶された状態を保持する期間)として第1の記憶期間を設定し、異常が発生していたと判断された場合には、ステップ104で、上記記憶したデータ(監視履歴)の記憶期間として、第1の記憶期間よりも長い第2の記憶期間を設定する。
【0047】
ステップ102またはステップ104の処理が終了すると、本構築・監視記憶処理は終了する。
【0048】
(監査者による、監視員による監視の監査)
図11は、監視員が、監視エリア10を、仮想空間100を見ながら監視した履歴を監査するために監視履歴を再生する再生処理の流れの一例を示すフローチャートである。
【0049】
上記のように監視員は、監視エリア10を、仮想空間100を見ながら監視するが、例えば監視員による監視サービスの提供を受けている、当該監視エリア10のある施設の管理者(以下、「監査者」とする)は、監視員が監視エリア10を適切に監視しているのかを監査する必要がある。そこで、本実施の形態では、監視員による監視履歴を再生する再生処理を実行することができる。
【0050】
本実施の形態の再生処理には、第1に、そのまま再生モードと、第2に、俯瞰再生モードと、がある。そのまま再生モードは、監視員の見た通りの監視内容、つまり表示装置62に表示された画像の履歴を、監視履歴としてそのまま再生するモードである。俯瞰再生モードは、監視エリア10の仮想空間100を俯瞰した俯瞰画像150において、表示装置62に表示される画像の基となる、監視員が指定した仮想空間100の視点および視線方向の履歴を監視履歴として再生するモードである。
【0051】
監査者は、監視履歴を監査するために、押しボタン64Aおよびジョイスティック64Bを操作して、監査する監視履歴を選択し、図示しない再生モード選択ボタンを操作することにより再生モードを選択し、再生キー65A4を操作する。これにより、再生処理がスタートする。
【0052】
監査者は、監視員が、監視エリア10を、仮想空間100を見ながら監視した履歴の全てを監査したい場合もあるが、当該履歴の一部を監査したい場合がある。そこで、監査者は、押しボタン64Aおよびジョイスティック64Bを操作して、当該履歴の全ての再生を指示したり、当該履歴の一部の再生を指示したりする。即ち、監査者は、押しボタン64Aおよびジョイスティック64Bを操作して、当該履歴の少なくとも一部の再生を指示する。
【0053】
ステップ112で、再生処理部54Dは、監査者により、図示しないそのまま再生モード選択ボタンが操作されることにより、そのまま再生モードが選択されたか否かを判断する。
【0054】
そのまま再生モードが監査者により選択されたと判断された場合(ステップ112:Y)には、ステップ114で、再生処理部54Dは、監視の履歴データを、そのまま再生モードで再生する。よって、上記例では、
図8~
図10に示すように、監視員が視点および視線方向を次々に指定して、その結果として表示装置62に表示された、当該視点から当該視線方向に監視エリア10の仮想空間100を見たような画像の履歴を、そのまま再生する。
【0055】
そのまま再生モードが監査者により選択されたと判断されなかった場合(即ち、図示しない俯瞰モード選択ボタンが操作された場合)(ステップ112:N)、ステップ116で、再生処理部54Dは、監視エリア100の記憶データを、俯瞰モードで再生する。具体的には、再生処理部54Dは、監視の履歴データに基づいて、
図12~
図14に示すように、監視エリア100を俯瞰した俯瞰画像150において、監視員が指定した視点位置および視線方向を、時系列に表示する。具体的には、例えば、
図12に示すように、視点位置p1で視線方向d1を指定していたことが表示される。その後、例えば、
図13に示すように、視点位置p2で視線方向d2を指定していたことが表示される。その後、例えば、
図14に示すように、視点位置p2で視線方向d3を指定していたことが表示される。
【0056】
なお、監査者により、押しボタン64Aおよびジョイスティック64Bが操作され、当該履歴の一部の再生が指示された場合には、当該一部の履歴が再生される。
【0057】
各モードでの再生の際、停止キー67A、巻き戻しキー67B、早送りキー67C、再生キー67D、または一時停止キー67Eが操作されると、操作されたキーに応じて再生処理が変更される。例えば、巻き戻しキー67Bまたは早送りキー67Cが操作されると、巻き戻し再生または早送り再生がされる。なお、早送り再生では、早送りのスピードを調整するようにしてもよい。例えば、2倍速再生、3倍速再生等、更には、早送りキー67Cが操作されている時間に応じて、再生速度が速くなるようにしてもよい。なお、巻き戻し再生も、早送り再生のようにスピードを調整できるようにしてもよい。停止キー67Aが操作されると、再生が停止し、再生キー67Dが操作されると、再生が再開する。一時停止キー67Eが操作されると、再生が一時停止する。更に、スロー再生キーを設け、スロー再生するようにしてもよい。
【0058】
図11のステップ114またはステップ116の処理が終了すると、ステップ118で、再生処理部54Dは、監査のため再生された監視の履歴データの記憶期間として、第1の記憶期間または第2の記憶期間に代えて、第2の記憶期間より長い第3の記憶期間を設定され、本再生処理は終了する。
【0059】
本実施の形態では、記憶処理部54Dは、定期的に記憶されている監視の履歴のデータを管理する。具体的には、記憶処理部54Dは、記憶データに設定した記憶期間が、記憶停止時刻から経過しているか否かを判断し、記憶停止時刻から記憶期間が経過している判断した場合、記憶データをNVM56から削除する。
【0060】
(監視員による遠隔監視と監査者による監査との重畳表示)
上記のように監視員は、監視エリア10を、仮想空間100を見ながら監視し、監査者が、監視員の監視履歴を監査する。この場合、監視員やその監視員の業務を指導・監督する監督者等(以下、あわせて「監視員等」とする)は、監査者が監視員の監視した内容の中でどのような部分を監査したのかを、知りたい場合もある。そこで、本実施の形態では、監視員による監視履歴と監査者による監査履歴とを重畳表示する重畳表示処理を実行することができる。
【0061】
図15は、監視員による監視履歴と監査者による監査履歴とを重畳表示する重畳表示処理の流れの一例を示すフローチャートである。ステップ112で、再生処理部54Dは、
図16に示すように、監視履歴と監査履歴とを重畳して表示する。
図16に示すように、再生処理部54Dは、俯瞰画像150において、監視履歴として、監査ルートを、一点鎖線で表示する。その際、各視点位置p1~p5等での視線方向を矢印d1~d5で表示する。また、再生処理部54Dは、俯瞰画像150において、監査履歴として、監査した監視履歴の、対応する視点および視線方向の範囲Kを点線で表示する。
図16に示す例では、監査履歴の範囲Kとして、監視履歴の、対応する視点および視線方向の一部が表示されている。具体的には、監視履歴としては、視点p1(視線方向d1)から監視が始まり、奥側(
図16の上側)の視点p2(視線方向d2)まで監視し、視点p2で視線方向が
図16の右側の視線方向d3になり、視線方向d3の方向に沿って、
図16の奥側の壁付近まで監視している。これに対し、監査履歴の範囲Kでは、監視履歴の全てではなく、視点p1及び視線方向d1は監査の対象ではなく、その後の点k1から、視点p2から
図16の奥側の壁付近までの監視の途中の点k2までが、監査の対象となっている。
【0062】
(効果)
以上説明したように本実施の形態では、監視エリアにおいて監視された様子が表示されるので、監査者は、監視員の監視を知る(監査する)ことができる。
【0063】
また、上記のように本実施の形態では、監視履歴と監査履歴とを重畳して表示するので、監視員等は、監査者が監視員の監視した内容の履歴の中でどのような部分を監査したのかを知ることができる。
【0064】
[変形例]
【0065】
(第1の変形例)
図17Aは、第1の変形例として、監視エリア10における各撮像部の設置位置に対応する、仮想空間100における視点を、順次切り替えて表示装置62に表示する順次切り替え表示方式の場合の、監視エリア10の概念斜視図である。
図17Bは、その順次切り替え表示方式の場合の、監視エリア10の仮想空間100における視点、視線方向を順次切り替える様子を示す図である。なお、
図17A、
図17Bには、容易に理解するために、
図7B等に示す複数のショーケース14N1~14N5は省略している。
【0066】
第1の変形例では、監視エリア10の天井には、第1の実施の形態と同様の複数の撮像部12A~12Dが異なる位置に設置されている。具体的には、複数の撮像部12A~12Dの各々の撮像方向は、天井から床に向かう方向である。撮像部12Aの撮像方向は、撮像部12Aから、撮像部12Aの真下の床の位置22Aに向かう方向である。その他の撮像部12B~12Dの撮像方向も同様である。複数の撮像部12A~12Dの各々は、当該撮像方向を中心に180°の画角の領域を撮像可能である。これと対応して、監視エリア10の仮想空間100においては、
図17Bに示すように、複数の撮像部12A~12Dの設置位置に対応する位置が、視点として順次切り替えて指定される。各視点における視線方向は、初期状態として現在の視点から次に切り替わる視点に向けた方向が指定される。視線方向は、押しボタン64Aおよびジョイスティック64Bを操作して、任意に変更することができる。
【0067】
監視員は、押しボタン64Aおよびジョイスティック64Bを操作して、表示装置62に表示する仮想空間100の視点を順次指定する。例えば、
図17Bに示す例では、視点p100→視点p200→視点p300→視点p400順に視点が指定されている。
【0068】
視点p100が指定されると、遠隔監視装置50は、撮像部12A~撮像部12Aの真下の床の位置22Aに向かう撮像方向を中心に180°の画角の領域を撮像部12Aが撮像して得られた画像データ(動画像)および点群データ、ならびに撮像部12Aの設置位置、撮像方向および画角に基づいて、仮想空間100にテクスチャを合成し、その合成した仮想空間100を、視点p100、視線方向d100(即ち、視点p100から視点p200に向かう方向)で見たような画像(平面画像)を生成し、表示装置62に表示する。なお、当該画像(平面画像)には、ショーケース14N2が表示される。このとき、表示する画像(平面画像)中に他の視点が含まれる場合は、その視点の位置に、押しボタン64Aおよびジョイスティック64Bで選択可能なマークを表示する。このマークを選択することによって、対応する視点を指定する。
【0069】
次に、視点p200が指定されると、遠隔監視装置50は、撮像部12B~撮像部12Bの真下の床の位置22Bに向かう撮像方向を中心に180°の画角の領域を撮像部12Bが撮像して得られた画像データ(動画像)および点群データ、ならびに撮像部12Aの設置位置、撮像方向および画角に基づいて、仮想空間100にテクスチャを合成し、その合成した仮想空間100を、視点p200、視線方向d200(即ち、視点p200から視点p300に向かう方向)で見たような画像(平面画像)を生成し、表示装置62に表示する。なお、当該画像(平面画像)には、ショーケース14N3、14N4が表示される。
【0070】
更に、視点p300が指定されると、遠隔監視装置50は、撮像部12C~撮像部12Cの真下の床の位置22Cに向かう撮像方向を中心に180°の画角の領域を撮像部12Cが撮像して得られた画像データ(動画像)および点群データ、ならびに撮像部12Cの設置位置、撮像方向および画角に基づいて、仮想空間100にテクスチャを合成し、その合成した仮想空間100を、視点p300、視線方向d300(即ち、視点p300から視点p400に向かう方向)で見たような画像(平面画像)を生成し、表示装置62に表示する。なお、当該画像(平面画像)には、手前に、ショーケース14N3、14N4が、これらの奥側にショーケース14N5表示される。
【0071】
(第2の変形例)
図18は、第2の変形例のヘッドマウントディスプレイを用いた場合の遠隔監視装置を示す図である。第2の変形例では、上記各実施の形態のVR監視卓に代えて、ヘッドマウントディスプレイ62HDが用いられる。ヘッドマウントディスプレイ62HDは、表示スクリーン、および監視員の頭部の動きを検知する加速度センサが設けられており、加速度センサが検知した加速度情報に基づいて、指定する視点および視線方向を遠隔監視装置50に有線または無線で送信する。遠隔監視装置50は、指定された視点および視線方向に基づいて仮想空間100を当該視点および視線方向でみたような画像(平面画像)を生成し、ヘッドマウントディスプレイ62HDへ送信する。ヘッドマウントディスプレイ62Dは遠隔監視装置50から受信した当該画像(平面画像)を表示スクリーンに表示する。また、押しボタン64Aおよびジョイスティック64Bに代えて、押しボタン64Aおよびジョイスティック64Bの機能と同様の機能の第1の操作装置65Aおよび第2の操作装置65Bを備えている。第1の操作装置65Aおよび第2の操作装置65Bは、操作された内容を示す情報を、遠隔監視装置50に有線または無線で送信する。このようにして、監視員は、ヘッドマウントディスプレイ62HDの表示スクリーンに表示された監視エリア10の仮想空間100を見て、監視エリア10を遠隔監視することができる。
【0072】
(第3の変形例)
上記実施の形態では、NVM56には、仮想空間100から生成された、各特定された視点および視線方向で見たような画像(平面画像)が、監視員が監視エリア10を監視した履歴のデータとして記憶される。本開示の技術はこれに限定されない。例えば、各撮像部12A~12Dからの画像データ、撮像部12A~12Dの位置関係を示すデータ、および視点の各位置のデータを記憶するようにしてもよい。そして、監視エリアにおいて監視された様子を表示する場合、これらのデータに基づいて監視エリアにおいて視点の変化の軌跡(つまり、監視ルート)を表示する。
【0073】
なお、NVM56には、各特定された視点の位置が、監視員が監視エリア10を監視した履歴のデータとして記憶され、視点の変化の軌跡(つまり、監視ルート)を、監視エリアにおいて監視された様子として、表示してもよい。
【0074】
(その他の変形例)
上記実施の形態では、遠隔監視装置50に含まれるコンピュータ52のプロセッサ54によって上記構築監視記憶処理、再生処理、及び重畳表示処理が行われる形態例を挙げて説明したが、本開示の技術はこれに限定されず、上記構築監視記憶処理、再生処理、及び重畳表示処理を行う装置は、遠隔監視装置50以外の更に設けた少なくとも1台のサーバ及び/または少なくとも1台のパーソナル・コンピュータ等でもよい。更に、上記構築監視記憶処理、再生処理、及び重畳表示処理は、遠隔監視装置50及び更に設けた少なくとも1台のサーバ及び/または少なくとも1台のパーソナル・コンピュータ等で分散して行われるようにしてもよい。
【0075】
上記実施の形態では、NVM56に遠隔監視プログラム58(具体的には、構築監視記憶処理プログラム(
図6参照)、再生処理プログラム(
図11参照)、及び重畳表示処理(
図15))が記憶されている形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、遠隔監視プログラム58がSSD(Solid State Drive)またはUSB(Universal Serial Bus)メモリなどの可搬型の非一時的記憶媒体に記憶されていてもよい。非一時的記憶媒体に記憶されている遠隔監視プログラム58は、遠隔監視装置50に含まれるコンピュータ52にインストールされる。プロセッサ54は、遠隔監視プログラム58に従って上記構築監視記憶処理、再生処理、及び重畳表示処理を実行する。
【0076】
また、ネットワークを介して遠隔監視装置50に接続される他のコンピュータまたはサーバ等の記憶装置に遠隔監視プログラム58を記憶させておき、遠隔監視プログラム58が他のコンピュータまたはサーバ等の記憶装置からダウンロードされ、コンピュータ52にインストールされるようにしてもよい。
【0077】
上記構築監視記憶処理、再生処理、及び重畳表示処理を実行するハードウェア資源としては、次に示す各種のプロセッサを用いることができる。プロセッサとしては、例えば、ソフトウェア、すなわち、プログラムを実行することで、上記構築監視記憶処理、再生処理、及び重畳表示処理を実行するハードウェア資源として機能する汎用的なプロセッサであるCPUが挙げられる。また、プロセッサとしては、例えば、FPGA(Field Programmable Gate Array)、PLD(Programmable Logic Device)、PLD(Programmable Logic Device)、またはASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路が挙げられる。何れのプロセッサにもメモリが内蔵または接続されており、何れのプロセッサもメモリを使用することで上記構築監視記憶処理、再生処理、及び重畳表示処理を実行する。
【0078】
上記構築監視記憶処理、再生処理、及び重畳表示処理を実行するハードウェア資源は、これらの各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせ、またはCPUとFPGAとの組み合わせ)で構成されてもよい。
【0079】
1つのプロセッサで構成する例としては、第1に、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが、上記構築監視記憶処理、再生処理、及び重畳表示処理を実行するハードウェア資源として機能する形態がある。第2に、SoC(System on a chip)などに代表されるように、上記構築監視記憶処理、再生処理、及び重畳表示処理を実行する複数のハードウェア資源を含むシステム全体の機能を1つのICチップで実現するプロセッサを使用する形態がある。このように、上記構築監視記憶処理、再生処理、及び重畳表示処理は、ハードウェア資源として、上記各種のプロセッサの1つ以上を用いて実現される。
【0080】
更に、これらの各種のプロセッサのハードウェア的な構造としては、より具体的には、半導体素子などの回路素子を組み合わせた電気回路を用いることができる。また、上記構築監視記憶処理、再生処理、及び重畳表示処理はあくまでも一例である。従って、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよいことは言うまでもない。
【0081】
以上に示した記載内容および図示内容は、本開示の技術に係る部分についての詳細な説明であり、本開示の技術の一例に過ぎない。例えば、上記の構成、機能、作用、および効果に関する説明は、本開示の技術に係る部分の構成、機能、作用、および効果の一例に関する説明である。よって、本開示の技術の主旨を逸脱しない範囲内において、以上に示した記載内容および図示内容に対して、不要な部分を削除したり、新たな要素を追加したり、置き換えたりしてもよいことは言うまでもない。また、錯綜を回避し、本開示の技術に係る部分の理解を容易にするために、以上に示した記載内容および図示内容では、本開示の技術の実施を可能にする上で特に説明を要しない技術常識等に関する説明は省略されている。
【0082】
本明細書に記載された全ての文献、特許出願および技術規格は、個々の文献、特許出願および技術規格が参照により取り込まれることが具体的かつ個々に記された場合と同程度に、本明細書中に参照により取り込まれる。
【符号の説明】
【0083】
10 監視エリア
12A~12E 撮像部
54 プロセッサ
62 表示装置
66 通信I/F
100 監視エリア