IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ セーフィー株式会社の特許一覧

特許7352762情報処理システム、情報処理方法、プログラム
<>
  • 特許-情報処理システム、情報処理方法、プログラム 図1
  • 特許-情報処理システム、情報処理方法、プログラム 図2
  • 特許-情報処理システム、情報処理方法、プログラム 図3
  • 特許-情報処理システム、情報処理方法、プログラム 図4
  • 特許-情報処理システム、情報処理方法、プログラム 図5
  • 特許-情報処理システム、情報処理方法、プログラム 図6
  • 特許-情報処理システム、情報処理方法、プログラム 図7
  • 特許-情報処理システム、情報処理方法、プログラム 図8
  • 特許-情報処理システム、情報処理方法、プログラム 図9
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2023-09-20
(45)【発行日】2023-09-29
(54)【発明の名称】情報処理システム、情報処理方法、プログラム
(51)【国際特許分類】
   H04N 7/18 20060101AFI20230921BHJP
【FI】
H04N7/18 U
【請求項の数】 15
(21)【出願番号】P 2023084570
(22)【出願日】2023-05-23
【審査請求日】2023-05-26
【早期審査対象出願】
(73)【特許権者】
【識別番号】515029558
【氏名又は名称】セーフィー株式会社
(74)【代理人】
【識別番号】110001416
【氏名又は名称】弁理士法人信栄事務所
(72)【発明者】
【氏名】大場 悠介
(72)【発明者】
【氏名】江守 巧
(72)【発明者】
【氏名】土山 裕介
(72)【発明者】
【氏名】坂元 宏範
【審査官】長谷川 素直
(56)【参考文献】
【文献】登録実用新案第3234061(JP,U)
【文献】特開2022-42303(JP,A)
【文献】特開2022-40981(JP,A)
【文献】特開2015-70483(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
H04N 23/00
H04N 7/14-17/15
H04N 21/00-21/858
G08B 25/00
G06Q 50/00
(57)【特許請求の範囲】
【請求項1】
撮像装置で撮影された映像を情報処理装置においてビューアに表示する情報処理システムであって、
建設現場の遠隔臨場を行うための遠隔臨場モードのON/OFFが切り替え可能であり、
前記遠隔臨場モードがONの場合、前記情報処理装置のユーザの撮影を許可するためのオブジェクトを前記ビューアに表示し、
前記オブジェクトを介して前記ユーザの撮影が許可された場合、前記ビューアに前記ユーザの映像を表示する、
情報処理システム。
【請求項2】
前記情報処理システムは、
前記遠隔臨場モードがOFFの場合、前記オブジェクトを表示しない、
請求項1に記載の情報処理システム。
【請求項3】
前記情報処理システムは、
初期設定における前記遠隔臨場モードはOFFである、
請求項1に記載の情報処理システム。
【請求項4】
前記情報処理システムは、
前記撮像装置ごとに、前記遠隔臨場モードのON/OFFを切り替え可能である、
請求項1に記載の情報処理システム。
【請求項5】
前記情報処理システムは、
前記遠隔臨場モードのON/OFFの切り替えボタンの表示の有無を設定可能である、
請求項1に記載の情報処理システム。
【請求項6】
前記情報処理システムは、
前記遠隔臨場モードがONの場合、前記撮像装置で撮影された前記映像の時間情報、及び前記撮像装置の位置情報の少なくとも一方を前記ビューアに表示する、
請求項1に記載の情報処理システム。
【請求項7】
前記情報処理システムは、
前記撮像装置により撮影された前記映像を、サーバを介して前記情報処理装置に送信し、
前記ユーザの映像を、前記サーバ、または、前記情報処理装置に送信しない、
請求項1に記載の情報処理システム。
【請求項8】
前記情報処理システムは、
情報処理装置の内蔵カメラが使用不可の場合、前記遠隔臨場モードをONに切り替え不可とする、
請求項1に記載の情報処理システム。
【請求項9】
前記情報処理システムは、
前記建設現場の作業員により前記撮像装置が操作される、
請求項1に記載の情報処理システム。
【請求項10】
前記情報処理システムは、
前記ユーザが前記建設現場の監督員である、
請求項1に記載の情報処理システム。
【請求項11】
前記情報処理システムは、
前記撮像装置と前記情報処理装置を含むグループ通話が可能であり、
前記グループ通話中でない場合、前記遠隔臨場モードのON/OFFに関わらず、前記オブジェクトを前記ビューアに表示しない、
請求項1に記載の情報処理システム。
【請求項12】
前記情報処理システムは、
ユーザごとに権限を設定することが可能であり、
前記ユーザが現場監督員の権限を有さない場合、前記遠隔臨場モードのON/OFFに関わらず、前記オブジェクトを前記ビューアに表示しない、
請求項1に記載の情報処理システム。
【請求項13】
前記情報処理システムは、
ライブ映像と過去の映像を表示することが可能であり、
前記過去の映像を表示している場合、前記ビューアに前記ユーザの映像を表示しない、
請求項1に記載の情報処理システム。
【請求項14】
情報処理装置によって実行される情報処理方法であって、
前記情報処理装置は、通信ネットワークを介してサーバに通信可能に接続され、建設現場の遠隔臨場を行うための遠隔臨場モードのON/OFFが切り替え可能であり、
前記サーバは、通信ネットワークを介して撮像装置に通信可能に接続され、
前記情報処理方法は、
前記遠隔臨場モードがONの場合、前記情報処理装置のユーザの撮影を許可するためのオブジェクトをビューアに表示するステップと、
前記オブジェクトを介して前記ユーザの撮影が許可された場合、前記ビューアに前記ユーザの映像を表示するステップと、
を含む、
情報処理方法。
【請求項15】
請求項14に記載の情報処理方法を、前記情報処理装置に実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理システム及び情報処理方法に関する。さらに、本開示は、当該情報処理方法をコンピュータに実行させるためのプログラムに関する。
【背景技術】
【0002】
近年、国土交通省等が関与していることもあり、建設現場の「遠隔臨場」が広まりつつある。
「遠隔臨場」とは、建設現場に固定カメラや作業員用のウェアラブルカメラ等を導入し、それらを介して取得された建設現場の映像を監督員が情報端末等で確認することで、遠隔地から臨場を行うものである。国土交通省の定義によれば、「遠隔臨場」とは、「材料確認」、「段階確認」、「立会」を遠隔で行うこととされている。
【0003】
遠隔臨場の実施要領については、国土交通省が基本的な事項を定めているところ、詳細は建設工事の発注者である公共機関や地方自治体等に委ねられている。その中で、例えば、建設工事の発注者の実施要領にて「現場と立合者の双方が映った画面を、確認、検査及び立ち合いを行った記録として保存する。」と要求しているところもあり、カメラシステムの対応が急務となっている。
【0004】
例えば、特許文献1では、遠隔臨場に対応した情報処理システムが開示されている。
【先行技術文献】
【特許文献】
【0005】
【文献】実登3234061号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、特許文献1に開示された情報処理システムは、遠隔臨場用の専用端末等から構成される専用システムであるため、当該システムを構築するのに多大なコストや時間がかかってしまう恐れがある。
【0007】
そこで、例えば、作業員が携帯するウェアラブルカメラで撮影した映像を監督員用端末においてビューアで表示するような既存システムがある場合、当該既存システムを用いて、上述した遠隔臨場の要求に対応することが考えられる。
【0008】
具体的には、監督員用端末においてビューアとWeb会議システムを立ち上げ、作業員が携帯するウェアラブルカメラで撮影した映像をビューアで表示した状態で、その画面をWeb会議システムの画面共有にて表示するとともに、監督員用端末のカメラで監督員の顔を撮影して、Web会議システムの会議参加者として表示する、という方法が考えられる。この状態でスクリーンショットすることにより、建設現場の映像と監督員の顔を同時に含む画像データを取得できる。
【0009】
しかしながら、当該方法では、ビューアとWeb会議システムを同時に立ち上げる必要があり、監督員用端末の処理負荷が大きくなってしまう。また、煩雑な画面操作が要求されるため、監督員のITリテラシーレベル等によっては、所望の画像データを取得できない可能性もある。
【0010】
本開示は、撮像装置で撮影した映像を情報処理装置においてビューアで表示する、遠隔臨場の要求に適切に対応可能な情報処理システム、情報処理方法、プログラムを提供することを目的とする。
【課題を解決するための手段】
【0011】
本開示の一態様に係る情報処理システムは、撮像装置で撮影された映像を情報処理装置においてビューアに表示する。当該情報処理システムは、建設現場の遠隔臨場を行うための遠隔臨場モードのON/OFFが切り替え可能であり、前記遠隔臨場モードがONの場合、前記情報処理装置のユーザの撮影を許可するためのオブジェクトを前記ビューアに表示し、前記オブジェクトを介して前記ユーザの撮影が許可された場合、前記ビューアに前記ユーザの映像を表示する。
【0012】
上記構成によれば、情報処理装置におけるビューア内で、撮像装置で撮影された映像を表示し、かつ、遠隔臨場モードのON/OFFを容易に切り替えられる。これにより、情報処理装置の処理負荷を抑制し、簡易な画面操作で遠隔臨場の要求に適切に対応できる。
【0013】
また、前記情報処理システムは、前記遠隔臨場モードがOFFの場合、前記オブジェクトを表示しなくてもよい。
【0014】
上記構成によれば、遠隔臨場モードがOFFの場合、オブジェクト及びユーザの映像を表示しないことで、ビューア内における撮像装置で撮影された映像の視認性の低減を抑制できる。
【0015】
また、前記情報処理システムは、初期設定における前記遠隔臨場モードはOFFであってもよい。
【0016】
上記構成によれば、初期設定では、遠隔臨場モードをOFFにしてオブジェクト及びユーザの映像を表示しないことで、ビューア内における撮像装置で撮影された映像の視認性の低減を抑制できる。
【0017】
また、前記情報処理システムは、前記撮像装置ごとに、前記遠隔臨場モードのON/OFFを切り替え可能であってもよい。
【0018】
上記構成によれば、遠隔臨場モードにする必要がある撮像装置のみ遠隔臨場モードをONにすることが可能となり、遠隔臨場モードにする必要がない撮像装置については、遠隔臨場モードをOFFにしてオブジェクト及びユーザの映像を表示しないことで、ビューア内における撮像装置で撮影された映像の視認性の低減を抑制できる。
【0019】
また、前記情報処理システムは、前記遠隔臨場モードのON/OFFの切り替えボタンの表示の有無を設定可能であってもよい。
【0020】
上記構成によれば、遠隔臨場モードにする必要がない撮像装置については、遠隔臨場モードのON/OFFの切り替えボタンの表示を行わないことで、ビューア内における撮像装置で撮影された映像の視認性の低減を抑制できる。
【0021】
また、前記情報処理システムは、前記遠隔臨場モードがONの場合、前記撮像装置で撮影された前記映像の時間情報、及び前記撮像装置の位置情報の少なくとも一方を前記ビューアに表示してもよい。
【0022】
上記構成によれば、遠隔臨場モードにおいて、撮像装置で撮影された映像の時間や場所をビューア上で特定することができる。
【0023】
また、前記情報処理システムは、前記撮像装置により撮影された前記映像を、サーバを介して前記情報処理装置に送信し、前記ユーザの映像を、前記サーバ、または、前記情報処理装置に送信しなくてもよい。
【0024】
上記構成によれば、撮像装置により撮影された映像を、サーバを介して情報処理装置に送信することで、遠隔臨場の要求に対応することが可能となる。また、遠隔臨場の要求に対応するためにはユーザの映像は情報処理装置に表示すれば十分であるため、ユーザの映像を、サーバ、または、情報処理装置に送信しないことで、個人情報の流出、サーバの負荷の増大を抑制できる。
【0025】
また、前記情報処理システムは、情報処理装置の内蔵カメラが使用不可の場合、前記遠隔臨場モードをONに切り替え不可としてもよい。
【0026】
上記構成によれば、情報処理装置の内蔵カメラが使用不可の場合、オブジェクトを表示しないことで、ビューア内における撮像装置で撮影された映像視認性の低減を抑制できる。
【0027】
また、前記情報処理システムは、前記建設現場の作業員により前記撮像装置が操作されてもよい。
【0028】
また、前記情報処理システムは、前記ユーザが前記建設現場の監督員であってもよい。
【0029】
情報処理装置によって実行される情報処理方法であって、前記情報処理装置は、通信ネットワークを介してサーバに通信可能に接続され、建設現場の遠隔臨場を行うための遠隔臨場モードのON/OFFが切り替え可能である。前記サーバは、通信ネットワークを介して撮像装置に通信可能に接続される。前記情報処理方法は、前記遠隔臨場モードがONの場合、前記情報処理装置のユーザの撮影を許可するためのオブジェクトを前記ビューアに表示するステップと、前記オブジェクトを介して前記ユーザの撮影が許可された場合、前記ビューアに前記ユーザの映像を表示するステップと、を含む。
【0030】
上記構成によれば、情報処理装置におけるビューア内で、撮像装置で撮影された映像を表示し、かつ、遠隔臨場モードのON/OFFを切り替えられる。これにより、情報処理装置の処理負荷を抑制し、簡易な画面操作で遠隔臨場の要求に適切に対応できる。
【0031】
また、前記情報処理方法を前記情報処理装置に実行させるためのプログラムが提供されてもよい。
【発明の効果】
【0032】
本開示によれば、撮像装置で撮影した映像を情報処理装置においてビューアで表示する、遠隔臨場の要求に適切に対応可能な情報処理システム、情報処理方法、プログラムを提供することができる。
【図面の簡単な説明】
【0033】
図1】本開示の実施形態に係る情報処理システムの構成の一例を示す図である。
図2】カメラのハードウェア構成の一例を示す図である。
図3】サーバのハードウェア構成の一例を示す図である。
図4】ユーザ端末のハードウェア構成の一例を示す図である。
図5】本実施形態に係る情報処理システムによって実行される一連の処理を説明するためのシーケンス図である。
図6】遠隔臨場モードがOFFに設定されている場合のユーザ端末に表示される映像表示画面の一例を示す図である。
図7】遠隔臨場モードがONに設定されていて、ユーザの映像を表示しない場合のユーザ端末に表示される映像表示画面の一例を示す図である。
図8】遠隔臨場モードがONに設定されていて、ユーザの映像を表示する場合のユーザ端末に表示される映像表示画面の一例を示す図である。
図9】ユーザ端末の設定画面の一例を示す図である。
【発明を実施するための形態】
【0034】
以下、本実施形態について図面を参照しながら説明する。なお、実施形態の説明において既に説明された部材と同一の参照番号を有する部材については、説明の便宜上、その説明は省略する。また、本図面に示された各部材の寸法は、説明の便宜上、実際の各部材の寸法とは異なる場合がある。
【0035】
図1は、本開示の実施形態に係る情報処理システムの構成の一例を示す図である。図1に示すように、情報処理システム1は、撮像装置であるカメラ2と、サーバ3と、ユーザ端末4とを備える。これらは通信ネットワーク5に接続されている。例えば、カメラ2は、通信ネットワーク5を介してサーバ3に通信可能に接続されているライブカメラである。また、カメラ2は、建設現場の作業員Oの身体の一部に装着されているウェアラブルカメラである。なお、カメラ2は、車両、無人航空機(ドローン)等の移動体に搭載されているモバイルカメラであってもよいし、建設現場に設置されている固定カメラであってもよい。また、複数台のカメラ2が通信ネットワーク5を介してサーバ3に通信可能に接続されてもよい。ユーザ端末4は、通信ネットワーク5を介してサーバ3に通信可能に接続されている。
【0036】
通信ネットワーク5は、例えば、LAN(Local Area Network)、WAN(Wide Area Network)、インターネット、無線コアネットワークのうちの少なくとも一つによって構成されている。
【0037】
次に、図2を参照してカメラ2のハードウェア構成について以下に説明する。カメラ2は、建設現場を示す映像を撮影すると共に、当該撮影された映像を、図1に示す通信ネットワーク5を介してサーバ3に送信するように構成されている。図2に示すように、カメラ2は、制御部20と、記憶装置21と、位置情報取得部22と、RTC(Real Time Clock)23と、通信部24と、入力操作部25と、撮像部26と、音声入出力部27とを備える。これらの要素は通信バス28に接続されている。また、カメラ2にはバッテリ(図示せず)が内蔵されてもよい。
【0038】
制御部20は、メモリとプロセッサを備えている。メモリは、コンピュータ可読命令(プログラム)を記憶するように構成されている。例えば、メモリは、各種プログラム等が格納されたROM(Read Only Memory)やプロセッサにより実行される各種プログラム等が格納されるRAM(Random Access Memory)等から構成される。プロセッサは、例えば、CPU(Central Processing Unit)、MPU(Micro Processing Unit)及びGPU(Graphics Processing Unit)のうちの少なくとも一つにより構成される。プロセッサは、記憶装置21又はROMに組み込まれた各種プログラムから指定されたプログラムをRAM上に展開し、RAMとの協働で各種処理を実行するように構成されてもよい。
【0039】
記憶装置21は、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)、フラッシュメモリ等の記憶装置(ストレージ)であって、プログラムや各種データ(映像データや位置情報等)を格納するように構成されている。位置情報取得部22は、カメラ2の現在位置(経度θ、緯度φ)に関する情報を取得するように構成されており、例えば、GPS(Global Positioning System)受信機である。例えば、位置情報取得部22は、所定の時間間隔(例えば、10秒)毎にカメラ2の現在位置に関する情報を取得してもよい。
【0040】
RTC23は、現在時刻を示す情報を取得するように構成されている。制御部20は、RTC23により取得された現在時刻tを示す時間情報と、位置情報取得部22により取得されたカメラ2の現在位置X(経度θ、緯度φ)を示す位置情報とを互いに関連付けする。
【0041】
通信部24は、カメラ2を通信ネットワーク5に接続するように構成されている。通信部24は、例えば、基地局や無線LANルータ等の外部機器と無線通信するための無線通信モジュールを含んでいる。無線通信モジュールは、送受信アンテナと、信号処理回路とを備える。無線通信モジュールは、Wi-Fi(登録商標)やBluetooth(登録商標)等の近距離無線通信規格に対応した無線通信モジュールであってもよいし、SIM(Subscriber Identity Module)を用いた第X世代移動体通信システム(例えば、LTE等の第4世代移動通信システム)に対応する無線通信モジュールであってもよい。
【0042】
入力操作部25は、操作者(作業員O)の入力操作を受け付けると共に、操作者の入力操作に応じた操作信号を生成するように構成されている。撮像部26は、カメラ2の周辺環境(例えば、建設現場)を示す映像を撮像するように構成されている。特に、撮像部26は、カメラ2の周辺環境を示す映像信号を生成するように構成されており、光学系と、イメージセンサと、アナログ処理回路とを備える。光学系は、例えば、光学レンズと、カラーフィルタとを含む。イメージセンサは、CCD(Charge-Coupled Device)又はCMOS(相補型MOS)等によって構成される。アナログ処理回路は、イメージセンサによって光電変換された映像信号(アナログ信号)を処理するように構成され、例えば、増幅器及びAD変換器を含む。制御部20は、撮像部26から受信した映像信号(デジタル信号)に基づいて映像データ(画像データの一例)を生成する。映像データのフレームレートは、例えば、30fpsである。
【0043】
音声入出力部27は、カメラ2の周囲の音声が入力されて音声信号を生成し、ユーザ端末4等の通信先から受信する音声信号をアナログ音声データに変換して出力するように構成されている。音声入出力部27は、例えば、マイクロフォンとスピーカーを含む。
【0044】
カメラ2は、通信ネットワーク5を介してカメラ2の周辺環境を示す映像(映像データストリーム)をサーバ3にリアルタイムに送信することができる。また、カメラ2は、通信ネットワーク5を介してカメラ2の時間情報及び位置情報をサーバ3に送信してもよい。
【0045】
次に、図3を参照してサーバ3のハードウェア構成について以下に説明する。サーバ3は、カメラ2に関連するカメラ情報テーブルと、映像データと、ユーザに関連するユーザ情報テーブルとを管理する管理サーバとして機能する。カメラ情報テーブルは、1台または複数台のカメラ2のネットワークアドレス(例えば、IPアドレス)、識別情報、設定情報、及び位置情報を含んでもよい。ユーザ情報テーブルは、ユーザの属性情報及び契約情報と、ユーザに関連付けられたカメラの識別情報とを含んでもよい。
【0046】
さらに、サーバ3は、ユーザ端末4からのリクエストに応じて映像表示画面(ビューア)を表示するためのデータ(後述する)を送信するWEBサーバとしても機能する。このように、サーバ3は、SaaS(System as a Service)を提供するためのサーバとして機能しており、複数のサーバによって構成されていてもよい。また、サーバ3は、オンプレミスで構築されてもよいし、クラウドサーバであってもよい。
【0047】
サーバ3は、通信ネットワーク5を介してカメラ2及びユーザ端末4に通信可能に接続されており、ユーザ端末4からのリクエストに応じてカメラ2の映像データを送信するように構成されている。サーバ3は、制御部30と、記憶装置31と、通信部32と、入力操作部33と、表示部34とを備える。これらの要素は通信バス35に接続されている。
【0048】
制御部30は、メモリとプロセッサを備えている。メモリは、コンピュータ可読命令(プログラム)を記憶するように構成されている。例えば、メモリは、ROM及びRAMにより構成されている。プロセッサは、例えば、CPU、MPU及びGPUのうちの少なくとも一つにより構成される。
【0049】
記憶装置31は、例えば、HDD、SSD、フラッシュメモリ等の記憶装置(ストレージ)であって、プログラムや各種データを格納するように構成されている。記憶装置31には、各種データベースが構築されている。特に、記憶装置31には、各カメラに関連するカメラ情報テーブル、カメラによって撮像された映像データ、ユーザに関連するユーザ情報テーブルが保存されてもよい。
【0050】
通信部32は、サーバ3を通信ネットワーク5に接続するように構成されている。具体的には、通信部32は、通信ネットワーク5上の外部端末と通信するための各種有線接続端子を含んでもよい。入力操作部33は、例えば、表示部34上に重ねて配置されたタッチパネル、マウス、及び/又はキーボード等であって、操作者の入力操作を受け付けると共に、操作者の入力操作に応じた操作信号を生成するように構成されている。表示部34は、例えば、液晶パネル又は有機ELパネルによって構成されている。
【0051】
次に、図4を参照してユーザ端末4のハードウェア構成について以下に説明する。ユーザ端末4は、例えば、パーソナルコンピュータ、スマートフォン、タブレット又はユーザ端末4のユーザUに装着されたウェアラブルデバイス(例えば、ARグラスやヘッドマウントディスプレイ)であってもよい。ユーザ端末4は、WEBサーバから受信したデータを表示するためのWEBブラウザを有してもよい。ユーザ端末4は、制御部40と、記憶装置41と、撮像部42と、通信部43と、入力操作部44と、表示部45と、音声入出力部46とを備える。これらの要素は通信バス47に接続されている。
【0052】
制御部40は、メモリとプロセッサを備えている。メモリは、コンピュータ可読命令(プログラム)を記憶するように構成されている。例えば、メモリは、ROM及びRAMにより構成されている。プロセッサは、例えば、CPU、MPU及びGPUのうちの少なくとも一つにより構成される。
【0053】
記憶装置41は、例えば、HDD、SSD、フラッシュメモリ等の記憶装置(ストレージ)であって、プログラムや各種データを格納するように構成されている。撮像部42は、ユーザ端末4に内蔵されていて、ユーザ端末4のユーザUを示す映像を撮像するように構成されている。特に、撮像部42は、ユーザ端末4のユーザUを示す映像信号を生成するように構成されており、光学系と、イメージセンサと、アナログ処理回路とを備える。光学系は、例えば、光学レンズと、カラーフィルタとを含む。イメージセンサは、CCD(Charge-Coupled Device)又はCMOS(相補型MOS)等によって構成される。アナログ処理回路は、イメージセンサによって光電変換された映像信号(アナログ信号)を処理するように構成され、例えば、増幅器及びAD変換器を含む。制御部40は、撮像部42から受信した映像信号(デジタル信号)に基づいて映像データ(画像データの一例)を生成する。映像データのフレームレートは、例えば、30fpsである。通信部43は、ユーザ端末4を通信ネットワーク5に接続するように構成されている。通信部43は、基地局または無線LANルータと無線通信するための無線通信モジュール及び/又は有線接続端子を備える。入力操作部44は、例えば、表示部45上に重ねて配置されたタッチパネル、マウス、及び/又はキーボード等であって、ユーザUの入力操作を受け付けると共に、ユーザUの入力操作に応じた操作信号を生成するように構成されている。表示部45は、例えば、液晶パネル又は有機ELパネルによって構成されている。本実施形態では、カメラ2の映像を含む映像表示画面50(図6参照)が表示部45に表示される。音声入出力部46は、ユーザ端末4の周囲の音声が入力されて音声信号を生成し、カメラ2等の通信先から受信する音声信号をアナログ音声データに変換して出力するように構成されている。音声入出力部46は、例えば、マイクロフォンとスピーカーを含む。
【0054】
(情報処理システム1によって実行される一連の処理)
次に、図5を参照して本実施形態に係る情報処理システム1によって実行される一連の処理について以下に説明する。本例では、カメラ2がユーザUに関連付けられている。換言すれば、ユーザUは、通信ネットワーク5を介したカメラ2の映像提供サービスに係る契約を締結している。なお、サーバ3の各処理はサーバ3の制御部30により実行される。同様に、ユーザ端末4の各処理はユーザ端末4の制御部40により実行される。
【0055】
図5に示すように、ステップS1において、サーバ3は、通信ネットワーク5を通じてカメラ2から映像(映像データ)を受信する。なお、サーバ3は、通信ネットワーク5を通じてカメラ2から時間情報、及び位置情報を受信してもよい。また、サーバ3は、受信した映像、時間情報、及び位置情報を記憶装置31に保存する。ここで、カメラ2は、リアルタイムで映像データストリームをサーバ3に送信し続ける一方で、所定の時間間隔で時間情報、及び位置情報をサーバ3に送信してもよい。
【0056】
次に、ステップS2において、ユーザ端末4は、ユーザUがユーザ端末4にログインする際に入力するログイン情報(例えば、ログインIDとログインパスワード)をサーバ3に送信する。ステップS3において、サーバ3は、ユーザ端末4から受信したログイン情報に基づいてユーザUを認証する。なお、ユーザUの認証はログイン認証に限定されるものではなく、顔認証や指紋認証等の生体認証方法が適用されてもよい。サーバ3は、ユーザUの認証を実行した後に、ユーザ情報テーブルを参照することで、ユーザUに関連付けられたカメラ2を特定する。
【0057】
ステップS4において、サーバ3は、通信ネットワーク5を介して、図6~8に示す映像表示画面50を表示するためのデータ(以下、映像表示用データという。)と、カメラ2の映像データをユーザ端末4に送信する。このとき、カメラ2の時間情報、及び位置情報をユーザ端末4に送信してもよい。
【0058】
映像表示用データは、映像表示画面50をユーザ端末4のWEBブラウザ上に表示するためのファイル(例えば、HTMLファイル、CSSファイル、プログラムファイル等)であってもよい。ここで、プログラムファイルは、JavaScriptファイルであってもよい。なお、映像表示用データ(HTMLファイル等)は一回だけ送信されてもよい。その一方で、カメラ2の映像データストリームは、リアルタイムで送信され続ける。
【0059】
ステップS5において、ユーザ端末4は、遠隔臨場モードのON/OFFを判断する。なお、この直前に、後述する通話オブジェクト51Cを介してグループ通話が開始され、それを以てステップS5に移行するものとしてもよい。遠隔臨場モードがOFFの場合(ステップS5のNo)、ステップS10において、ユーザ端末4は、サーバ3から受信した映像表示用データに基づいて映像表示画面50を表示し、映像表示画面50内にカメラ2の映像51を表示する。なお、ユーザ端末4は、サーバ3から受信した時間情報51Aと位置情報51Bの少なくとも一方を映像表示画面50内に表示してもよい。
【0060】
ここで、図6を用いて遠隔臨場モードがOFFに設定されている場合のユーザ端末4に表示される映像表示画面50の一例を説明する。図6に示すように、映像表示画面50内には、カメラ2の映像51、カメラ2の名称やデバイスID(不図示)、時間情報51A、及び位置情報51B、通信相手先(例えば、カメラ2を装着する作業員O)とのグループ通話を開始するための通話オブジェクト51C(不図示)、映像51のスナップショットを撮影するための撮影オブジェクト51D(不図示)が表示される。このとき、遠隔臨場モードに関連するオブジェクト及びユーザの映像は不要であるため表示されない。このように、映像表示画面50内に遠隔臨場モードに関連するオブジェクト及びユーザの映像が表示されないことで、映像表示画面50内における映像51の視認性の低減を抑制できる。遠隔臨場モードに関連するオブジェクトの詳細については後述する。
【0061】
図5の説明に戻る。ステップS5において、遠隔臨場モードがONに設定されている場合(ステップS5のYes)、ステップS6において、ユーザ端末4は、サーバ3から受信した映像表示用データに基づいて映像表示画面50を表示し、映像表示画面50内にカメラ2の映像51を表示する。また、ユーザ端末4は、映像表示画面50内に遠隔臨場モードに関連するオブジェクトを表示する。なお、ユーザ端末4は、サーバ3から受信したカメラ2の映像51と時間情報51A、及び位置情報51Bとを映像表示画面50内に表示してもよい。
【0062】
次に、ステップS7において、ユーザ端末4は、撮影オブジェクト53BのON/OFFを判断する。撮影オブジェクト53BがONに設定されている場合(ステップS7のYes)、ステップS8において、ユーザ端末4は、映像表示画面50内にユーザUの映像52を表示する。この状態で、例えば撮影オブジェクト51Dをクリックして映像51のスナップショットを撮影することにより、建設工事の発注者の実施要領にて要求される「現場と立合者の双方が映った画面」を得ることができる。撮影オブジェクト53BがOFFに設定されている場合(ステップS7のNo)、ステップS9において、ユーザ端末4は、映像表示画面50内にユーザUの映像52を表示せず、撮影オブジェクト53BがOFFに設定されていることを示すために、撮影オブジェクト53Bをグレーアウトで表示する。
【0063】
ここで、図7、8を用いて、遠隔臨場モードがONに設定されている場合のユーザ端末4に表示される映像表示画面50の一例を説明する。図7は、遠隔臨場モードがONに設定されていて、ユーザの映像を表示しない場合のユーザ端末に表示される映像表示画面の一例を示す図である。図8は、遠隔臨場モードがONに設定されていて、ユーザの映像を表示する場合のユーザ端末に表示される映像表示画面の一例を示す図である。
【0064】
図7、8に示すように、映像表示画面50内には、カメラ2の映像51、カメラ2の名称やデバイスID(不図示)、時間情報51A、及び位置情報51B、通信相手先(例えば、カメラ2を装着する作業員O)とのグループ通話を開始するための通話オブジェクト51C(不図示)、映像51(図8では映像52を含む)のスナップショットを撮影するための撮影オブジェクト51D(不図示)が表示される。また、カメラ2の映像51に重畳するように、遠隔臨場モードに関連するオブジェクト群53が表示される。オブジェクト群53は、ユーザ端末4におけるユーザの音声入力をON/OFFするための音声出力オブジェクト53A、ユーザ端末4におけるユーザの撮影の許可をON/OFFするための撮影オブジェクト53B、通信相手先(例えば、カメラ2を装着する作業員O)とのグループ通話を終了するための通話オブジェクト53Cとを含む。
【0065】
音声出力オブジェクト53Aを介して、音声入出力部46の音声出力ミュート機能がONに設定されると、ユーザ端末4の周囲の音声がグループ通話先に出力されないようになり、OFFに設定されると、ユーザ端末4の周囲の音声がグループ通話先に出力されるようになる。図7、8の例示では、音声入出力部46の音声出力ミュート機能はONに設定されている。なお、初期設定では音声出力ミュート機能はOFFに設定されてもよい。
【0066】
撮影オブジェクト53Bを介して、ユーザUの撮影が許可されると、撮像部42でユーザUが撮影されて、カメラ2の映像51に重畳するように、撮像部42で撮影されたユーザUの映像52が表示される。また、ユーザの撮影が許可されないと、ユーザUの映像52が表示されない。図7の例示では、撮影オブジェクト53BがOFFに設定されていてユーザUの撮影が許可されていないため、撮像部42でユーザUが撮影されず、ユーザUの映像52が表示されていない。このとき、撮影オブジェクト53Bは、図7に示すようにOFFに設定されていることを表すためにグレーアウトで表示されてもよい。図8の例示では、撮影オブジェクト53BがONに設定されていてユーザUの撮影が許可されているため、撮像部42でユーザUが撮影されて、カメラ2の映像51に重畳するようにユーザUの映像52が表示される。この場合、ユーザUは建設現場の監督員であることを示すために、図8に示すように映像52の下段にユーザUの氏名が表示されてもよい。ユーザUの氏名は、図4の記憶装置41に記憶された、ユーザUがユーザ端末4にログインする際にユーザ認証に用いられるユーザIDであってもよい。なお、初期設定では遠隔臨場モードはOFFに設定される。
【0067】
通話オブジェクト51Cを介して、グループ通話機能がONに設定されると、例えば、通信相手先であるカメラ2を装着する作業員Oとのグループ通話が可能になる。また、通話オブジェクト53Cを介して、通話機能がOFFに設定されると、例えば、通信相手先であるカメラ2を装着する作業員Oとのグループ通話が不可になる。なお、ユーザ端末4以外の他の端末でもカメラ2とのグループ通話を開始すると、これを加えた3つのデバイス間でのグループ通話が開始されることとなる。また、この状態であるデバイスがグループ通話を終了すると、そのデバイスがグループ通話から抜けることとなる。図7、8の例示では、通話機能はONに設定されている。なお、初期設定では通話機能はOFFに設定されてもよい。
【0068】
このように、遠隔臨場モードがONに設定されていて、ユーザUの撮影が許可されている場合に、ユーザ端末4に表示される映像表示画面50内に、監督者であるユーザUの映像52を表示できる。これにより、複数の表示画面(ビューアとWeb会議システム)を同時に起動する必要がなく、ユーザ端末4の処理負荷を抑制し、簡易な画面操作で遠隔臨場の要求に適切に対応できる。また、遠隔臨場モードがOFFに設定されている場合に、撮影オブジェクト53B及びユーザUの映像51を表示せず、遠隔臨場モードがOFFに設定されていて、ユーザUの撮影が許可されていない場合に、ユーザUの映像を表示しない。これにより、映像表示画面50内における映像51の視認性の低減を抑制できる。また、ユーザUの映像52は、サーバ3、または、カメラ2に送信しなくてもよい。遠隔臨場の要求に対応するためにはユーザUの映像52はユーザ端末4に表示すれば十分であり、ユーザUの映像52を、サーバ3、または、カメラ2に送信しないことで、個人情報の流出、サーバの負荷の増大を抑制できる。
【0069】
次に、図9を用いて、ユーザ端末4の設定画面60の一例を説明する。設定画面60は、映像表示画面50に関連する各種設定を行うためのユーザインターフェースである。図9に示すように、設定画面60にはデバイス設定領域70及び遠隔モード設定領域80が含まれる。
【0070】
デバイス設定領域70は、ユーザUがユーザ端末4の各種デバイスやシステムに関する設定を行うための領域であり、具体的には、ストリーミング設定タブ71、マイク設定タブ72、マイク音量設定スライダ73、映像画質設定タブ74、LIVE配信モード設定タブ75、イメージ回転設定タブ76、スピーカー音量設定スライダ77、時刻表示設定タブ78を含む。遠隔モード設定領域80は、ユーザUが遠隔臨場モードのON/OFFの設定を行うための領域であり、遠隔臨場設定タブ81を含む。
【0071】
例えば、ユーザUが、ストリーミング設定タブ71をNOに設定すると、映像表示画面50内にカメラ2の映像51がデータストリーム形式で表示され、OFFに設定すると映像表示画面50内にカメラ2の映像51がダウンロード形式で表示される。また、例えば、ユーザUが、マイク設定タブ72をONに設定すると、ユーザ端末4の音声入出力部46のマイクロフォンがONに設定されて、音声入出力部46から入力されたユーザ端末4の周囲の音声が、カメラ2等の通信先から出力される。また、例えば、ユーザUが、マイク音量設定スライダ73でマイクの所望の音量を指定すると、ユーザ端末4の周囲の音声が、指定された音量でカメラ2等の通信先から出力される。また、例えば、ユーザUが、映像画質設定タブ74で所望の映像画質を指定すると、映像表示画面50内にカメラ2の映像51が指定された画質で表示される。また、例えば、ユーザUが、LIVE配信モード設定タブ75でLIVE配信の通常モード又は低遅延モードを指定すると、映像表示画面50内にカメラ2の映像51が指定したモードで表示される。また、例えば、ユーザUが、イメージ回転設定タブ76で所望の映像の回転角度を指定すると、映像表示画面50内にカメラ2の映像51が指定された回転角度で表示される。また、例えば、ユーザUが、スピーカー音量設定スライダ77でスピーカーの所望の音量を指定すると、指定された音量で音声入出力部46のスピーカーから音声が出力される。また、例えば、ユーザUが、時刻表示設定タブ78をNOに設定すると、映像表示画面50内に現在の時刻が表示される。
【0072】
例えば、ユーザUが、遠隔臨場設定タブ81をONに設定すると、遠隔臨場モードがONに設定され、映像表示画面50内にカメラ2の映像51に重畳するようにオブジェクト群53が表示される。また、ユーザUが、遠隔臨場設定タブ81をOFFに設定すると、遠隔臨場モードがOFFに設定され、映像表示画面50内にオブジェクト群53が表示されない。
【0073】
なお、初期設定における遠隔臨場モードはOFFとする。これにより、初期設定では遠隔臨場モードをOFFにしてオブジェクト及びユーザの映像を表示しないことで、映像表示画面50内における映像51の視認性の低減を抑制できる。
【0074】
なお、ユーザ端末4と通信可能なカメラ2が複数ある場合は、カメラごとに、遠隔臨場モードのON/OFFを切り替え可能であってもよい。これにより、遠隔臨場モードにする必要があるカメラ2のみ遠隔臨場モードをONにすることが可能となり、遠隔臨場モードにする必要がないカメラ2については、遠隔臨場モードをOFFにしてオブジェクト群53及びユーザUの映像52を表示しないことで、映像表示画面50内におけるカメラ2の映像51の視認性の低減を抑制できる。
【0075】
また、カメラごとに、遠隔臨場モードのON/OFFの切り替えボタンである遠隔臨場設定タブ81の表示の有無を設定可能であってもよい。これにより、カメラが遠隔臨場に用いる予定がないものである場合、遠隔臨場設定タブ81を表示しないことで、設定画面60内におけるデバイス設定領域70の視認性、及び映像表示画面50内における映像51の視認性の低減を抑制できるだけでなく、誤って遠隔臨場モードをONにしてしまうのを防止することもできる(特にカメラを複数ユーザで共有する場合に有効)。
【0076】
また、ユーザ端末4の撮像部42が使用不可の場合、遠隔臨場モードをONに切り替え不可としてもよい。これにより、ユーザ端末4の撮像部42が使用不可の場合、オブジェクト群53を表示しないことで、映像表示画面50内におけるカメラ2の映像51の視認性の低減を抑制できる。
【0077】
なお、以上の説明では、単に遠隔臨場モードのON/OFFに応じて、オブジェクト群53の表示のON/OFFを制御した。これに対して、更にグループ通話中であるか否かも考慮して、オブジェクト群53の表示を制御してもよい。具体的には、グループ通話中でないときは、遠隔臨場モードがON/OFF何れの場合でも、オブジェクト群53を表示しない(例えば図6と同様の画面を表示)。一方、グループ通話中であるときは、遠隔臨場モードがONの場合は、オブジェクト群53を表示し(例えば図7と同様の画面を表示)、遠隔臨場モードがOFFの場合は、オブジェクト群53を表示するが撮影オブジェクト53Bは除いて表示する(例えば図7の画面で撮影オブジェクト53Bのみ削除したものを表示する)。これにより、オブジェクト群53や撮影オブジェクト53Bを更に必要な場合に限って表示することで、映像表示画面50内におけるカメラ2の映像51の視認性の低減を抑制できる。
【0078】
また、以上の説明では、単に遠隔臨場モードのON/OFFに応じて、オブジェクト群53の表示のON/OFFを制御した。これに対して、更にユーザUの権限も考慮して、オブジェクト群53の表示を制御してもよい。具体的には、ユーザUが現場監督員の権限を有する場合には、前述と同様に制御する。一方、ユーザUが現場監督員の権限を有さない場合には、遠隔臨場モードがON/OFF何れの場合でも、撮影オブジェクト53BやユーザUの映像52を表示しない。これにより、撮影オブジェクト53Bを更に必要な場合に限って表示することで、映像表示画面50内におけるカメラ2の映像51の視認性の低減を抑制できる。
【0079】
また、以上の説明では、単に撮影オブジェクト53BのON/OFFに応じて、ユーザUの映像52の表示のON/OFFを制御した。これに対して、更に映像51がライブ映像であるか否かも考慮して、ユーザUの映像52の表示のON/OFFを制御してもよい。具体的には、映像51がライブ映像である場合には、前述と同様に制御する。一方、映像51がライブ映像でない(例えばクラウドに録画された過去の映像である)場合には、ユーザUの映像52は表示しない。この場合、撮影オブジェクト53Bをグレーアウトし、その理由を映像52に代えて表示する等してもよい。これにより、過去の映像に対して事後的にユーザUの映像52を重畳して表示することができなくなるため、建設工事の発注者の実施要領にて要求される「現場と立合者の双方が映った画面」が不正に得られてしまうのを防止することができる。
【0080】
また、以上の説明では、映像51をクラウド等に記憶させる際にユーザUの映像52を含めるか否かについては、特に言及しなかった。この点に関しては、常にユーザUの映像52は含まない状態で記憶してもよいし、常に映像51に表示された通り(ユーザUの映像52が表示されるときはそれを含めて)記憶してもよいし、それらを設定により切替可能としてもよい。
【0081】
本実施形態によれば、ユーザ端末4に表示される映像表示画面50内に、カメラ2で撮影された監督者であるユーザUの映像を表示する。そのため、複数の表示画面(ビューアとWeb会議システム)を同時に起動する必要がなく、ユーザ端末4の処理負荷を抑制し、簡易な画面操作で遠隔臨場の要求に適切に対応できる。また、遠隔臨場モードのON/OFFを切り替えられる構成であるため、ユーザUの撮影が許可されていない場合には、ユーザUの映像や撮影オブジェクト53Bを表示しないことで、映像表示画面50内におけるカメラ2の映像51の視認性の低減を抑制できる。
【0082】
以上、本実施形態について説明をしたが、本実施形態に係る技術的範囲が本実施形態の説明によって限定的に解釈されるべきではないのは言うまでもない。本実施形態は単なる一例であって、特許請求の範囲に記載された発明の範囲内において、様々な実施形態の変更が可能であることが当業者によって理解されるところである。本実施形態に係る技術的範囲は特許請求の範囲に記載された発明の範囲及びその均等の範囲に基づいて定められるべきである。
【符号の説明】
【0083】
1:情報処理システム
2:カメラ
3:サーバ
4:ユーザ端末
5:通信ネットワーク
20:制御部
21:記憶装置
22:位置情報取得部
23:RTC
24:通信部
25:入力操作部
26:撮像部
27:音声入出力部
28:通信バス
30:制御部
31:記憶装置
32:通信部
33:入力操作部
34:表示部
35:通信バス
40:制御部
41:記憶装置
43:通信部
44:入力操作部
45:表示部
46:音声入出力部
47:通信バス
50:映像表示画面60:設定画面
70:デバイス設定領域
80:遠隔モード設定領域
【要約】
【課題】撮像装置で撮影した映像を情報処理装置においてビューアで表示する、遠隔臨場の要求に適切に対応可能な情報処理システム、情報処理方法、プログラムを提供する。
【解決手段】情報処理システムは、撮像装置で撮影された映像を情報処理装置においてビューアに表示する。当該情報処理システムは、建設現場の遠隔臨場を行うための遠隔臨場モードのON/OFFが切り替え可能であり、遠隔臨場モードがONの場合、情報処理装置のユーザの撮影を許可するためのオブジェクトをビューアに表示し、オブジェクトを介してユーザの撮影が許可された場合、ビューアにユーザの映像を表示する。
【選択図】図1
図1
図2
図3
図4
図5
図6
図7
図8
図9