(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-11-14
(45)【発行日】2022-11-22
(54)【発明の名称】映像制御装置、映像制御システム、映像制御方法及びプログラム
(51)【国際特許分類】
H04N 7/14 20060101AFI20221115BHJP
H04N 21/44 20110101ALI20221115BHJP
H04L 67/00 20220101ALI20221115BHJP
【FI】
H04N7/14 110
H04N21/44
H04L67/00
(21)【出願番号】P 2020050163
(22)【出願日】2020-03-19
【審査請求日】2021-07-02
(73)【特許権者】
【識別番号】000232140
【氏名又は名称】NECフィールディング株式会社
(74)【代理人】
【識別番号】100080816
【氏名又は名称】加藤 朝道
(74)【代理人】
【識別番号】100098648
【氏名又は名称】内田 潔人
(72)【発明者】
【氏名】藤原 伸二
【審査官】鈴木 隆夫
(56)【参考文献】
【文献】特開2018-036812(JP,A)
【文献】特開2018-207271(JP,A)
【文献】特開2010-011017(JP,A)
【文献】特開2000-278584(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/14- 7/173
H04N 21/00-21/858
H04L 67/00
(57)【特許請求の範囲】
【請求項1】
作業領域において、遠隔支援作業者との映像共有が許可される撮像可能領域が設定されており、前記撮像可能領域ではない前記作業領域をマスキングしたマスキング映像を遠隔支援作業者向けの遠隔地端末に送信する、映像制御装置であって、前記映像制御装置は、
前記作業領域を撮像した映像データを取得する映像取得部と、
前記映像データから、前記作業領域のうち前記撮像可能領域ではないと判断される、共有不可映像領域をマスキングしたマスキング映像を生成する、映像処理部と、
前記マスキング映像を、前記遠隔地端末に送信するマスキング映像送信部と、を有し、さらに、
前記映像処理部は、
前記映像データ内に含まれるマーカを検出するマーカ検出部と、
前記マーカ検出部で検出された前記マーカから、前記撮像可能領域を示すマーカ情報を抽出し、前記映像データのうち前記撮像可能領域の外にあると判断される映像領域を、前記共有不可映像領域として決定する、撮像可能領域決定部と、
前記共有不可映像領域をマスキングして、前記マスキング映像を生成する、映像マスキング部と、を有
し、
前記マーカ情報を入力する撮像可能領域設定部と、前記撮像可能領域設定部への入力に基づいて、マーカ画像を出力するマーカ画像出力部を備える、マーカ表示制御装置によって、前記マーカ画像が出力される、
映像制御装置。
【請求項2】
前記マーカ情報には、前記マーカにおいて定義される三次元配向方向に基づいて、前記マーカの中心位置からの、前記撮像可能領域の幅方向の長さを示すマーカ幅長と、前記撮像可能領域の奥行方向の長さを示すマーカ奥行長と、前記撮像可能領域の高さ方向の長さを示すマーカ高と、を含み、
前記撮像可能領域決定部は、前記マーカの中心位置を原点とし、前記マーカにおいて定義される三次元配向方向に基づいて、前記マーカ幅長、前記マーカ奥行長、前記マーカ高とから形成される直方体空間領域を、前記撮像可能領域とする、
ことを特徴とする、請求項1に記載の映像制御装置。
【請求項3】
前記マーカ情報には、前記撮像可能領域の下面中心位置であることを示す中心マーカ位置と、前記中心マーカ位置からの前記マーカの上方向に直交する方向における長さを示すマーカ半径と、前記中心マーカ位置からのマーカ上方向ベクトル方向の長さを示すマーカ高と、を含み、
前記撮像可能領域決定部は、前記中心マーカ位置を原点とし、前記マーカの上方向に直交する方向における前記マーカ半径を有する円形と、前記マーカ高から形成される円筒空間領域を、撮像可能領域とする、
ことを特徴とする、請求項1に記載の映像制御装置。
【請求項4】
前記映像制御装置の映像制御部はさらに、
現地作業者が前記撮像可能領域の高さを変更する、高さ変更部を含み、ここで、
前記高さ変更部への入力により、前記撮像可能領域の前記マーカ高を変更する、
ことを特徴とする、
請求項2又は3に記載の映像制御装置。
【請求項5】
前記作業領域内に表示される前記マーカは2以上であり、
前記2以上の前記マーカのそれぞれの前記マーカ情報は、同一の前記撮像可能領域を示すものであって、
前記マーカ検出部は、前記2以上のマーカのうち1つ以上のマーカを検出し、
前記撮像可能領域決定部は、検出された前記1つ以上のマーカから、撮像可能領域を決定する、
ことを特徴とする、
請求項1乃至4のいずれか一に記載の映像制御装置。
【請求項6】
前記作業領域内に表示される前記マーカは2以上であり、
前記マーカの前記マーカ情報は、異なる前記撮像可能領域を示すものであって、
前記マーカ検出部は、前記2以上のマーカのうち少なくとも2つのマーカを検出し、
前記撮像可能領域決定部は、検出された前記少なくとも2つのマーカから、それぞれのマーカ情報から決定される前記撮像可能領域を併せた領域を、前記撮像可能領域として決定する、
ことを特徴とする、
請求項1乃至4のいずれか一に記載の映像制御装置。
【請求項7】
前記マーカ情報には、さらには、作業開始時刻と作業終了時刻を含み、
前記撮像可能領域決定部は、現在時刻が前記作業開始時刻以降であり、かつ、前記作業終了時刻以前である場合にのみ、前記撮像可能領域を決定する、
ことを特徴とする、
請求項1乃至6のいずれか一に記載の映像制御装置。
【請求項8】
前記映像取得部で用いる撮像する装置は、前記作業領域内で作業する作業者が装着するスマートグラスであり、
前記スマートグラスには、ビデオ撮影部及びビデオ表示部を有し、
ここで、前記ビデオ表示部には、前記マスキング映像送信部が出力する前記マスキング映像を表示する、
ことを特徴とする、
請求項1乃至7のいずれか一に記載の映像制御装置。
【請求項9】
作業領域において、遠隔支援作業者との映像共有が許可される撮像可能領域が設定されており、前記撮像可能領域ではない前記作業領域をマスキングしたマスキング映像を遠隔支援作業者向けの遠隔地端末に送信する、映像制御装置を有する、映像制御システムであって、
前記作業領域を撮像した映像データを取得する映像取得部と、
前記映像データから、前記作業領域のうち前記撮像可能領域ではないと判断される、共有不可映像領域をマスキングしたマスキング映像を生成する、映像処理部と、
前記マスキング映像を、前記遠隔地端末に送信するマスキング映像送信部と、を有し、さらに、
前記映像処理部は、
前記映像データ内に含まれるマーカを検出するマーカ検出部と、
前記マーカ検出部で検出された前記マーカから、前記撮像可能領域を示すマーカ情報を抽出し、前記映像データのうち前記撮像可能領域の外にあると判断される映像領域を、前記共有不可映像領域として決定する、撮像可能領域決定部と、
前記共有不可映像領域をマスキングして、前記マスキング映像を生成する、映像マスキング部と、を有
し、
前記マーカ情報を入力する撮像可能領域設定部と、前記撮像可能領域設定部への入力に基づいて、マーカ画像を出力するマーカ画像出力部を備える、マーカ表示制御装置によって、前記マーカ画像が出力される、
ことを特徴とする、映像制御システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、遠隔作業を支援する映像制御装置、映像制御システム、映像制御方法及びプログラムに関する。
【背景技術】
【0002】
近年、システム保守作業を行うにあたり、セキュリティ管理の観点から保守作業員は、ハードウェアが物理的に設置されたデータセンタへの入室は厳しく制限されている。これは、ハードウェアの構成情報が外部に漏れた際にサイバー攻撃の対象になってしまうことや、実取引データを参照されて業務上の機密情報が洩れる可能性があること、などが理由となっている。しかし、ハードウェア故障などが起こった際には、どうしても保守作業員はハードウェアを直接操作しなければならなくなる。このときは、厳しいチェックを受けて、データセンタに入室することなる。このとき、多くの場合、ビデオ撮影機能を有するスマートフォンの使用は禁止されている。これは、録画あるいはリアルタイム映像を共有させるアプリケーションによって、セキュリティ情報が洩れる可能性が高いためである。しかし、データセンタに入室する現地作業者は、必ずしも故障原因全般に通じている場合には限られない。このとき、特定の技術分野に詳しい遠隔支援作業者による、現地作業者への支援が必要となる。
【0003】
遠隔支援作業者は、他の作業との兼ね合い等からデータセンタから遠隔地に居る場合が多い。セキュリティ制限を受けている場合、現地作業者は、作業する領域(以下、作業領域と称す)からセキュリティ制限を受けていない一般外部領域に出た上で、電話などを用いて遠隔支援作業者の支援を受けることとなる。これらの事情から、保守作業の作業効率が低下する、という問題が発生している。
【0004】
上記問題はハードウェアが設置されたデータセンタにおけるものには限られない。顧客ワークスペース(オフィス)内の端末、プリンタ、ネットワーク機器などの不具合に対応する場合には、オフィス内に機密情報が表示されていることなどから、やはり現地作業員は遠隔作業支援者とその場で、故障状況動画を共有することができず、作業効率が低下する。
【0005】
一方、セキュリティ管理の問題のない場所においては、近年において、スマートグラス等のウェアラブルデバイスを用いた遠隔作業支援が実用化されている。スマートグラスにはビデオ映像取得機能と、ビデオ映像表示機能が付与されている。現地作業者は、眼鏡を装着するのと同じ態様によってスマートグラスを装着する。現地作業者の作業中の視野映像は、スマートグラスのビデオ映像取得機能によって、遠隔地作業支援者に送信され、遠隔地作業支援者向けの遠隔地端末に同様の映像として表示される。これにより、現地作業者と遠隔支援作業者は、同一の映像をみながら、作業を行うことができるようになる。これにより、保守作業効率の向上を実現している。
【0006】
スマートデバイスをセキュリティ管理の制限のある場所において使用する技術について、特許文献1に開示されている。特許文献1においては、作業対象となる機器にID媒体(識別情報)が貼り付けられている。ID媒体はバーコード等であり、ID媒体は機器との関連付け情報や、機器に対するユーザの参照権限等が設定される。映像共有機器は、ID媒体をID媒体であると認識した場合、そのID媒体が含まれる映像以外をマスキングして、遠隔支援作業者と映像を共有する。この際、複数の機器を作業対象とする場合には、それぞれの機器にID媒体を貼り付けることで対応している。
【先行技術文献】
【特許文献】
【0007】
【非特許文献】
【0008】
【文献】OpenCV(cv:QRCodeDetector Class Reference) (2020年3月20日、インターネット検索結果)https://docs.opencv.org/3.4/de/dc3/classcv_1_1QRCodeDetector.html
【発明の概要】
【発明が解決しようとする課題】
【0009】
なお、上記先行技術文献の開示を、本書に引用をもって繰り込むものとする。以下の分析は、本発明者らによってなされたものである。
【0010】
特許文献1によれば、現地作業者は事前に対象とする機器すべてにID媒体を貼り付ける必要がある。また、マスキングする映像範囲は、ID媒体を含む所定の範囲である輪郭として、事前に定義されていなければならない。マスキング解除される映像は、ID媒体が貼り付けられた機器について事前登録された輪郭内に制限されているか、あるいは、ID媒体の位置を中心とした、例えば矩形平面領域に制限されている。
【0011】
多くの場合、遠隔支援作業者と共有する映像は、対象とする機器など、状況によって変化する。ハードウェア機器を取り外して背面コネクタの状況を見る必要があるかもしれない。また例えば、ハードウェア機器の警告画面を参照して、ネットワークエラーが出力されている場合、関連するルータ故障や、配線の断線が発生したかもしれず、または無線ルータのアンテナ状態が変化したかもしれない。あるいは、ハードディスク装置のエラー表示を確認する必要もあるかもしれない。これらのさまざまな対応が必要な方向や機器に、あらかじめすべて、ID媒体を貼り付けることや、機器輪郭を登録しておくことは、現実的ではない。
【0012】
本発明においては、遠隔支援作業者が、セキュリティを確保しつつ現地作業者に対し遠隔作業支援を効率的に行うことに貢献する、映像制御装置、映像制御システム、映像制御方法およびプログラムを提供することを主要な目的とする。
【課題を解決するための手段】
【0013】
本発明の第1の視点によれば、作業領域において、遠隔支援作業者との映像共有が許可される撮像可能領域が設定されており、前記撮像可能領域ではない前記作業領域をマスキングしたマスキング映像を遠隔支援作業者向けの遠隔地端末に送信する、映像制御装置が提供される。前記映像制御装置は、前記作業領域を撮像した映像データを取得する映像取得部と、前記映像データから、前記作業領域のうち前記撮像可能領域ではないと判断される、共有不可映像領域をマスキングしたマスキング映像を生成する、映像処理部と、前記マスキング映像を、前記遠隔地端末に送信するマスキング映像送信部と、を有し、さらに、前記映像処理部は、前記映像データ内に含まれるマーカを検出するマーカ検出部と、前記マーカ検出部で検出された前記マーカから、前記撮像可能領域を示すマーカ情報を抽出し、前記映像データのうち前記撮像可能領域の外にあると判断される映像領域を、前記共有不可映像領域として決定する、撮像可能領域決定部と、前記共有不可映像領域をマスキングして、前記マスキング映像を生成する、映像マスキング部と、を有する。
【0014】
本発明の第2の視点によれば、作業領域において、遠隔支援作業者との映像共有が許可される撮像可能領域が設定されており、前記撮像可能領域ではない前記作業領域をマスキングしたマスキング映像を遠隔支援作業者向けの遠隔地端末に送信する、映像制御装置を有する、映像制御システムが提供される。前記映像制御システムが有する映像制御装置は、前記作業領域を撮像した映像データを取得する映像取得部と、前記映像データから、前記作業領域のうち前記撮像可能領域ではないと判断される、共有不可映像領域をマスキングしたマスキング映像を生成する、映像処理部と、前記マスキング映像を、前記遠隔地端末に送信するマスキング映像送信部と、を有し、さらに、前記映像処理部は、前記映像データ内に含まれるマーカを検出するマーカ検出部と、前記マーカ検出部で検出された前記マーカから、前記撮像可能領域を示すマーカ情報を抽出し、前記映像データのうち前記撮像可能領域の外にあると判断される映像領域を、前記共有不可映像領域として決定する、撮像可能領域決定部と、前記共有不可映像領域をマスキングして、前記マスキング映像を生成する、映像マスキング部と、を有する。
【0015】
本発明の第3の視点によれば、作業領域において、遠隔支援作業者との映像共有が許可される撮像可能領域が設定されており、前記撮像可能領域ではない前記作業領域をマスキングしたマスキング映像を遠隔支援作業者向けの遠隔地端末に送信する、映像制御装置を用いた、映像制御方法が提供される。前記映像制御方法は、前記作業領域を撮像した映像データを取得する映像取得手段と、前記映像データから、前記作業領域のうち前記撮像可能領域ではないと判断される、前記作業領域をマスキングしたマスキング映像を生成する、映像処理手段と、前記マスキング映像を、前記遠隔地端末に送信するマスキング映像送信手段と、を有し、さらに、前記映像処理手段は、前記映像データ内に含まれる前記マーカを検出するマーカ検出手段と、前記マーカ検出手段で検出された前記マーカから、前記撮像可能領域を示すマーカ情報を抽出し、前記映像データのうち前記撮像可能領域の外にあると判断される映像領域を、前記共有不可映像領域として決定する、撮像可能領域決定手段と、前記共有不可映像領域をマスキングして、前記マスキング映像を生成する、映像マスキング手段と、を有する。
【0016】
本発明の第4の視点によれば、作業領域において、遠隔支援作業者との映像共有が許可される撮像可能領域が設定されており、前記撮像可能領域ではない前記作業領域をマスキングしたマスキング映像を遠隔支援作業者向けの遠隔地端末に送信する、映像制御装置であるコンピュータに実行させるプログラムが提供される。前記プログラムは、前記映像制御装置に、前記作業領域を撮像した映像データを取得する映像取得処理と、前記映像データから、前記作業領域のうち前記撮像可能領域ではないと判断される、共有不可映像領域をマスキングしたマスキング映像を生成する、映像生成処理と、前記マスキング映像を、前記遠隔地端末に送信するマスキング映像送信処理と、を有し、さらに、前記映像生成処理は、前記映像データ内に含まれる前記マーカを検出するマーカ検出処理と、前記マーカ検出処理で検出された前記マーカから、前記撮像可能領域を示すマーカ情報を抽出し、前記映像データのうち前記撮像可能領域の外にあると判断される映像領域を、前記共有不可映像領域として決定する、撮像可能領域決定処理と、前記共有不可映像領域をマスキングして、前記マスキング映像を生成する、映像マスキング処理と、を実行させる。
【発明の効果】
【0017】
本発明の各視点によれば、撮像禁止領域に囲まれるか隣接する特定の三次元空間内である撮像可能領域の映像を共有することによって、スマートデバイスを用いた遠隔作業支援を効率的に行うことに貢献する。
【図面の簡単な説明】
【0018】
【
図1】本発明の一実施形態における、映像制御装置を含む全体構成を示す図である。
【
図2】本発明の一実施形態における、撮像可能領域を特定するマーカの表示事例と、マーカの表示を制御するマーカ表示制御装置を示す図である。
【
図3】本発明の一実施形態における、映像制御装置のハードウェア構成を示す図である。
【
図4】本発明の第1の実施形態例において、撮像可能領域を特定するマーカの事例について、三次元俯瞰図を用いて示す図である。
【
図5】本発明の第1の実施形態例において、作業対象機器の一部が撮像可能領域外にある場合の表示事例を示す図である。
【
図6】本発明の第1の実施形態の変形例において、1つのマーカによって円柱空間を撮像可能領域として決定する事例を示す図である。
【
図7】本発明の第1の実施形態例において、映像制御装置(現地作業者)の作用、および遠隔支援作業者の作業を示すフローチャートを示す図である。
【
図8】本発明の第2の実施形態例における、映像制御装置を含む全体構成を示す図である。
【
図9】本発明の第2の実施形態例において、ユーザ管理者、現地作業者、遠隔支援作業者、およびマーカ状態の時系列における関係を示す図である。
【
図10】本発明の第3の実施形態例における、撮像可能領域を決定するスマートグラス装置と、マーカの配置の事例を示す図である。
【発明を実施するための形態】
【0019】
初めに、一実施形態の概要について説明する。なお、この概要に付記した図面参照符号は、理解を助けるための一例として各要素に便宜上付記したものであり、この概要の記載はなんらの限定を意図するものではない。また、各ブロック図のブロック間の接続線は、双方向及び単方向の双方を含む。一方向矢印については、主たる信号(データ)の流れを模式的に示すものであり、双方向性を排除するものではない。
【0020】
現地作業者と遠隔支援作業者とは、対象とする機器を含む空間を共有し、この共有空間の映像を共有できれば好都合である。この共有空間内には、対象とする機器が配され、その他、接続した保守端末の画面、関係する器具・配線を共有空間内に移動させてもよい。すなわち、セキュリティ制限を受けない、非マスキング領域は三次元空間とすることが好都合である。この特定の非マスキング領域としての三次元空間である撮像可能領域の映像を、現地作業者と遠隔支援作業者とが共有することによって、遠隔作業支援を効率的に行うことができる。
【0021】
図1に映像制御装置100を含む全体構成を示す。映像制御装置100は、作業領域200を撮像し、動画である映像データ400を取得する、映像取得部110と、取得した映像データ400をマスキングする映像処理部120と、マスキングされたマスキング映像データ401を遠隔地端末300に送信するマスキング映像送信部130、を含んで構成される。さらに映像処理部120は、取得した映像データ400からマーカ220を検出し、マーカ220から取得される撮像可能領域210に関する情報(以下マーカ情報500と称する)を取得するマーカ検出部121と、撮像可能領域210を決定する撮像可能領域決定部122と、作業領域200全体の映像データ400のうち、撮像可能領域210以外の領域をマスキングする、映像マスキング部123、を含んで構成される。遠隔地端末300は、映像制御装置100のマスキング映像送信部130が送信するマスキング映像データ401を受信する、マスキング映像受信部310を含んで構成される。
【0022】
作業領域200は、例えばデータセンタ内のフロア内の一区画である。作業領域200には、保守作業に関連する機器と、関係しない機器が混在しているものとする。このうち、保守作業にのみ関係する、部分区画(撮像可能領域210)が設定できるものとする。撮像可能領域210内においては、セキュリティ管理上許可される、現地作業者1と遠隔支援作業者2とが映像を共有可能な領域である。撮像可能領域210は、例えばデータセンタの特定のラック周辺の三次元領域であって、ラックの一定幅、一定高さ、一定前面方向距離によって定義される三次元領域である。あるいは、オフィス作業においては、作業対象機器230を集めて机上に並べた状態における、机平面の幅と奥行き、机からの高さによって定義される、三次元領域である。撮像可能領域210に関する情報は、以下に述べるように、マーカ220のマーカ情報500によって設定される。
【0023】
マーカ220から得られるマーカ情報500とは、例えば以下のとおりである。ここで、マーカ220の例はQRコード(登録商標)規格に従うものとしているが、本発明はQRコード(登録商標)を利用することに限定されない。
「位置:左下、撮像可能横幅:150、撮像可能奥行幅:150、撮像可能高さ:100、撮像端末:0010、撮像可能開始日時:202003201200、撮像可能終了日時:202003202000、管理者:USER001、作業者:AA社」
図1内のマーカ220は、実際に上記マーカ情報500を指定して生成されたものであり、マーカ220を例えばQRコード(登録商標)読取アプリケーションから読み込めば、上記マーカ情報500を得ることができる。あるいは、マーカ情報500を与えて、マーカ220の表示を得ることができる。
【0024】
マーカ検出部121は、映像取得部110が取得した映像データ400内に映りこんでいる、マーカ220を検出する。これは、必ずしも映像データ400がマーカ220を正面から撮像しているものでなくてもよい。非特許文献1には、マーカ220が歪んだ画像、一部欠損のある画像であったとしても、マーカ情報500が抽出可能であることが示されている。またQRコード(登録商標)の規格に従えば、検出されたマーカ220の中心座標と、マーカ三次元配向方向も抽出できる。ここで、中心座標は正方形であるマーカ220の中心の座標である。QRコード(登録商標)の大きさ(例えばセンチメートル単位)は事前に決められているものとすると、ビデオ映像を撮影したビデオ装置1100からの距離も求めることができる。
【0025】
図1内のマーカ220の画像からは、その三次元配向方向を示す方向を得ることができる。この三次元配向方向は、マーカ220の中心座標を原点として、マーカ220を構成する正方形の4角のうち3角に存在する、隅を示す隅マークから判断して、黒い四角が存在しない角を右下として、図示されるとおりに(x、y)方向が決定される。さらに、z方向は、マーカ220をなす平面に対し直交する方向で、表示面を上面とするものとして、決定される。ここではQRコード(登録商標)を例として説明したが、同様の結果が得られれば他のマーカであってもよい。例えばカメレオンコード(商標登録)、ArUcoマーカであってもよい。
【0026】
前述したマーカ220のマーカ情報500の例によれば、撮像可能領域210は次のようにして求められる。すなわち、
図1に示した撮影可能横幅は150センチメートル、撮影可能奥行幅は150センチメートル、撮像可能高さ(z方向高さ)は100センチメートル、である。これらの値は、マーカ情報500内の「撮像可能横幅」「撮像可能奥行幅」「撮像可能高さ」に対応する属性値、に基づいている。この例によれば、撮像可能領域決定部122は、撮像可能領域210を前述した直方体領域として決定される。
【0027】
ここで、「位置」属性は、参考情報として用いられることを意図している。「位置」が左下である場合には、横幅、奥行幅はそれぞれプラスの値となる。例えば「位置」が右下である場合には、横幅がマイナスの値になるものとする。奥行幅はプラスの値である。同様に「位置」が左上である場合には、横幅がプラス、奥行幅がマイナスの値となり、右上である場合には、横幅と奥行幅がマイナスとなる。
【0028】
映像マスキング部123は、撮像可能領域決定部122が決定した撮像可能領域210内以外の映像をマスキングする。映像内の物体と認識されるものは、単一の画像データからは撮像可能領域210内かどうか必ずしも決定できないかもしれないが、映像データ400(動画)により同一の映像内の物体として認識されるものを特定し、マーカ220に対する相対距離ベクトルを計算することにより、撮像可能領域210内にあるものかどうか、を判定する。例えば、映像データ400が1秒内に60フレーム静止画が得られる動画であれば、60フレームがそれぞれ異なる視野を持つものであり(後述するビデオ装置1100の位置が変化した場合)、それぞれのフレーム内の作業対象機器230のマーカ220からの相対距離から48フレーム(80%)においてマーカ220からの距離ベクトルを考慮して、撮像可能領域210内座標空間内であれば、作業対象機器230は撮像可能領域210内である、と判断される。あるいは、後述する
図3に示されるようにマーカ221とマーカ222が同じ撮像可能領域210を示す場合、三角点法を用いて、作業対象機器230が撮像可能領域210内にあるかどうかを判断することもできる。映像マスキング部123は、映像内の作業対象機器230をこのようにして撮像可能領域210内であるか否かを判定し、撮像可能領域210内である物体映像についてはマスキング処理を行わない。それ以外の領域についてはマスキング処理を行う。
【0029】
マスキング処理とは、取得した映像に対しノイズを加える、および/または、フィルタを通すことによって、映像部分の視認性を減ずる処理のことである。これにより、マスキング処理された撮像物体は、判別できなくなる。ここで好ましくは、同一の撮像物体であっても、撮像物体全体にマスキング処理を行うのではなく、撮像物体であって、撮像可能領域210内に存在すると判断される映像については、マスキング処理を加えないこととしてもよい。このとき、撮像可能領域210である立方体内の含まれる物体(部分)はマスキングされない。
図5内に、マスキングされた画像の事例を示す。ここでは、マーカ221のマーカ情報500によって定義される、撮像可能領域210内に、3つの作業対象機器(231、232、233)が存在している。この事例では、作業対象機器231および作業対象機器233の一部が、撮像可能領域210の外に存在している。外に存在している部分の映像は、図示されているように、グレイ化されることにより、マスキングされている。マスキング処理された映像(マスキング映像データ401)は、マスキング映像送信部130に渡される。改めて述べると、映像データ400と、マスキング映像データ401との差は、映像データ400のうち撮像可能領域210の外と推定される部分がマスキングされている、ことである。
【0030】
マスキング映像送信部130は、マスキング映像データ401を、遠隔地端末300に送信する。遠隔地端末300のマスキング映像受信部310は、ネットワークを経由してマスキング処理されたマスキング映像データ401を受信する。受信したマスキング映像データ401は、遠隔地端末300に存在する(図示せず)任意の映像表示部(動画表示プログラム等)により、表示させることができるものとする。
【0031】
[ハードウェア構成]
次に、映像制御装置100のハードウェア構成について、
図2を参照して述べる。映像制御装置100は、ビデオ装置1100、補助記憶装置1200、CPU(Central Processing Unit)1300、メモリ1400、入出力装置1500、通信装置1600を含んで構成される。これらの構成要素は、内部バス1700により接続されている。補助記憶装置1200はROM(Read Only Memory)やハードディスクによって実現されていてもよく、メモリ1400はRAM(Random Access Memory)を実現するメモリ素子によって実現されていてよい。入出力装置1500は、キーボードなどによる入力を受け付ける入力部と、マスキング映像データ401を表示する機能を有するビデオ出力部を有するものとする。
【0032】
ここで、ビデオ装置1100は、動画を撮像するものであるが、好ましくは、ビデオ装置1100と、入出力装置1500の一つである、ビデオ出力部とを一体として構成されていてもよい。スマートグラス装置1101は、このようにして構成されたビデオ装置1100とビデオ表示部を含む装置であり、作業者の目を覆うゴーグル様の形態として提供される。スマートグラス装置1101を用いることで、現地作業者1の視点から撮像された映像データ400は、マスキング映像データ401としてスマートグラス装置1101内に表示される。マスキング映像データ401は、遠隔支援作業者2が見る映像と同じとすることもでき、このように構成することで現地作業者1と遠隔支援作業者2が同一の映像を基にして、共同作業をすすめることができる。スマートグラス装置1101は、現地作業者1が装着するものであるため、無線、および/または、有線の通信装置1600に接続されていてもよい。あるいは、スマートグラス装置1101が、他の構成要素を含むシングルボードコンピュータであって、スマートグラス装置1101は内部バス1700に直接接続されていてもよい。
【0033】
さらには、ビデオ装置1100(あるいはスマートグラス装置1101)は、映像制御装置100内で一つには限られず、複数であってもよい。これは、現地作業者1が一名には限られないことによる。この場合、現地作業者1、遠隔支援作業者2は、複数のうち任意のマスキング処理済映像を選択することができるものとする。
【0034】
[第1の実施形態例]
図3を参照して、第1の実施形態例について述べる。本実施形態例には、マーカ表示制御装置600を含む。マーカ表示制御装置600は、セキュリティ管理を行うユーザ管理者3向けのものであり、後述するユーザ管理端末601と同じ態様であってもよい。マーカ表示制御装置600には、撮像可能領域設定部610と、マーカ画像出力部620を含む。本実施形態例は、複数のマーカ(221、222、223、224)により、同一の撮像可能領域210が形成され、映像制御装置100が多くの視野角から作業対象機器230を保守操作することを一つの特徴とする。
【0035】
マーカ表示制御装置600は、データセンタやオフィスを管理する、ユーザ管理者3が操作する装置である。ユーザ管理者3は、システムを利用する、システムオーナの責任者であってもよい。ここで、ユーザ管理者3は、現地作業者1と遠隔支援作業者2に作業実施を許可する、撮像可能領域210に関する情報を、撮像可能領域設定部610に入力する。本実施形態例においては、該入力により、マーカ画像出力部620は4つのマーカ(221、222、223、224)を出力する。尚、マーカ画像出力部620が出力するマーカ画像は4つに限られず、同じ撮像可能領域210に対応していれば、任意の数であってよい。
【0036】
ユーザ管理者3は、例えば、ある撮像可能領域210をあらわす空間領域(幅150センチ、奥行き150センチ、高さ100センチ)を特定の場所に設定するものとする。映像を許可するスマートグラス装置1101の識別子は0010であり、共同作業許可期間として2020年3月20日の12時より、同日20時までとし、さらにユーザ管理者3の識別ID(USER001)、作業者組織(AA社)も設定するものとする。
【0037】
上記撮像可能領域設定部610への入力に従い、マーカ画像出力部620は、
図3に示す4つのマーカ画像(221、222、223,224)を出力する。これらは、以下のとおり別々の場所に表示されることが規定された、以下に示すマーカ情報(501、502、504、505)から生成されたものである。ここで、「位置」に対応する属性値(「:左下」「:右下」「:左上」「:右上」)に対応して、撮像可能幅と撮像可能奥行幅がマイナスで示されることがある。
マーカ221のマーカ情報501:
「位置:左下、撮像可能横幅:150、撮像可能奥行幅:150、撮像可能高さ:100、撮像端末:0010、撮像可能開始日時:202003201200、撮像可能終了日時:202003202000、管理者:USER001、作業者:AA社」
マーカ222のマーカ情報502:
「位置:右下、撮像可能横幅:-150、撮像可能奥行幅:150、撮像可能高さ:100、撮像端末:0010、撮像可能開始日時:202003201200、撮像可能終了日時:202003202000、管理者:USER001、作業者:AA社」
マーカ223のマーカ情報503:
「位置:左上、撮像可能横幅:150、撮像可能奥行幅:-150、撮像可能高さ:100、撮像端末:0010、撮像可能開始日時:202003201200、撮像可能終了日時:202003202000、管理者:USER001、作業者:AA社」
マーカ224のマーカ情報504:
「位置:右上、撮像可能横幅:-150、撮像可能奥行幅:-150、撮像可能高さ:100、撮像端末:0010、撮像可能開始日時:202003201200、撮像可能終了日時:202003202000、管理者:USER001、作業者:AA社」
これらの値は、各マーカ(221~224)の表す撮像可能領域210を、同一の、幅150センチ、奥行き150センチの正方形と高さ100センチの直方体としている。
【0038】
マーカ(221~224)は、ユーザ管理者3が印刷し、例えばデータセンタ内の区域に撮像可能領域210の指定サイズに合わせて貼り付けてもよい。あるいは、データセンタの床面、あるいはラック面の所定場所に表示する、ディスプレイ装置によって表示されてもよい。好ましくは、ディスプレイ装置によって表示される場合、あらかじめ各場所にはディスプレイ装置(例えば簡易液晶ディスプレイ)が埋め込まれており、撮像可能領域210の情報に応じてディスプレイ表示内容を変更することができるものとしてもよい。このための簡易液晶ディスプレイは各位置にマーカを表示するだけの機能を有していればよい。
【0039】
図4に、上述したとおりに貼り付けられた、および/または、表示されたマーカ(221~224)と、設定された撮像可能領域210、スマートグラス装置1101、および作業対象機器230の三次元俯瞰図を示す。図示された状態において、スマートグラス装置1101は、4つのマーカ(221~224)のすべてを視野角内に有している。このため、作業対象機器230は、どのマーカによっても撮像可能領域210内にあるものと判定され、作業対象機器230の映像データ400は、マスキング処理されずに、マスキング映像データ401として遠隔支援作業者2と共有することができる。
【0040】
図4におけるスマートグラス装置1101の位置は全体を俯瞰できる位置にある。しかしながら、実際の作業においては、作業対象機器230に近接し、視野角が変化することにより、4つのマーカ(221~224)のうち、例えば1つ(例えば221)だけが視野内に存在することとなる。この場合においても、撮像可能領域210は同一であるため、作業対象機器230の映像データ400を、遠隔支援作業者2と共有することができる。あるいは、現地作業者1が位置を変え、別のマーカ(例えば222)だけが視野内に存在する場合であっても、作業対象機器230の映像データ400を、遠隔支援作業者2と共有することができる。他のマーカについても同様であり、視野内に2から4つのマーカが存在する場合についても同様である。視野内により多くマーカが存在する場合には、映像データ400内に作業対象機器230が存在しているかどうか、より正確に判定することができる(三角点測定法を重ね合わせて実施することができる)。
【0041】
すなわち、本実施形態例によれば、マーカ(221~224)のうち、1つ以上のマーカがスマートグラス装置1101の視野内にあれば、作業対象機器230の映像を遠隔支援作業者2と共有することが可能となる。特許文献1によるマスキング処理によれば、実質的に作業対象機器230の正面からの映像のみをマスキング対象外とするのに対し、本実施形態例によれば、作業対象機器230の三次元空間周りの、全領域からの視野に応じてマスキング対象を判別することができる。
【0042】
図5の例を参照すると、作業対象機器が3つあり、そのうち2つの作業対象機器(231、233)が部分的に撮像可能領域210の外に存在する。また、スマートグラス装置1101の視野に映るマーカ(221、222)は2つである。撮像可能領域決定部122は、マーカ検出部121が検出するマーカ221、および/または、マーカ222から取得される(対応した)マーカ情報(501、502)により、撮像可能領域210を決定する。映像マスキング部123は、撮像可能領域210と、作業対象機器(231、232、233)との、三次元空間における重なりを計算し、撮像可能領域210外の部分を検出する。マスキング映像データ401としては、
図5に例示したように、撮像可能領域210以外の部分については、グレイ化され、この場合は輪郭のみが表示されている。すなわち、映像データ400では映されていたかもしれない、作業対象機器(231、233)内のグレイ化部分に表示されているはずの数値やランプ点灯状況は、マスキング映像データ401内では遠隔支援作業者2は視認できない。これらの数値やランプ点灯状況を、遠隔支援作業者2と共有するには、現地作業者1は作業対象機器(231、233)を撮像可能領域210内に移動させればよい。
【0043】
[変形例1-1]
次に、第1の実施形態例の変形例1-1として、マーカ表示制御装置600の構成を変更した実施形態例を示す。第1の実施形態例において、撮像可能領域210を指定するのは、直方体形状であった。本変形例においては、円柱形状とする。
【0044】
図6を参照して、本変形例を説明する。マーカ表示制御装置600における、撮像可能領域設定部610には、マーカ中心周りの半径と、高さを指定する。例えば、
図6内のマーカ225に対応するマーカ情報505は次のとおりである。
「位置:円中心、撮像可能半径:150、撮像可能高さ:100、撮像端末:0010、撮像可能開始日時:202003201200、撮像可能終了日時:202003202000、管理者:USER001、作業者:AA社」
【0045】
マーカ画像出力部620は、上述したマーカ情報505に応じたマーカ225を表示する。
【0046】
映像制御装置100の撮像可能領域決定部122は、マーカ情報505内の「位置」情報が、「円中心」であることを判断基準として、撮像可能領域210を形成する、「撮像可能半径」および「撮像可能高さ」に対応する値を読み出し、それぞれ150センチメートル、100センチメートルと決定する。すなわち、
図6に示す撮像可能領域210は、マーカ225の中心からの半径が150センチメートル、高さ100センチメートルの円筒領域と決定する。その他の処理については、一実施形態例および第1の実施形態例において説明した内容と同じであるため、説明を省略する。
【0047】
[第1の実施形態例の作用]
図7を用いて、第1の実施形態例の作用を詳細に説明する。
図7においては、現地作業者1の動作と、遠隔支援作業者2の動作とを左右に分けて表示している。現地作業者1が操作する装置は、映像制御装置100であり、遠隔支援作業者2が操作する装置は、遠隔地端末300である。ここで、ユーザ管理者3が操作する、マーカ表示制御装置600による、マーカ表示は完了しているものとする。
【0048】
はじめに、現地作業者1の操作および作用(映像制御装置100の作用)について説明する。はじめに、映像取得部110により映像データ400(動画)を取得する(ステップS-101)。取得した映像データ400は、次のステップ(S-102)に引き渡される。ステップS-102において、取得した映像データ400から、マーカ画像であると推定される部分を検出し、マーカ情報500を取得する。マーカ画像は1つ以上であってもよく、マーカ画像から、例えば非特許文献1に記載されたアプリケーションインタフェースによって、マーカ情報500を取得する。
【0049】
取得した映像データ400に、マーカ画像が一つもない場合には、マスキング映像データ401は、すべての映像をマスキングしたものとなる。あるいは、マーカ画像を一つでも取得した後は、所定の一定時間内にはマーカ画像があったものとして、ステップS-102以降に遷移してもよい。所定の一定時間とは、人間が一定期間の映像データ400から詳細情報を認識できる程度の時間であり、好ましくは0.5秒乃至2秒程度であるものとしてもよい。
【0050】
ステップS-103において、マーカ情報500の有効性を判断する。
図7の記載によれば、現在時刻が、マーカ情報500に記載された有効期間内であるかどうか、を判断している。有効期間とは具体的には、マーカ情報500内の「撮像開始日時」から「撮像終了日時」までの間のことである。上述したマーカ221のマーカ情報501の事例によれば、これは2020年3月20日の、12時から20時までの間、となる。現在時刻がこの有効期間内であれば、S-104以降のステップに進む(YES判定)。そうでなければ(NO判定)、作業領域200内の共同作業は終了する(ステップS-109)。なお、これらの日時は秒単位で示されていてもよい。
【0051】
ステップS-103における、マーカ情報500の有効性判定は他の情報に対して行うこともできる。上述したマーカ221のマーカ情報501の事例によれば、ユーザ管理者3が映像制御装置100の補助記憶装置1200内に事前に記憶されたものと一致するかどうか、あるいは同様に、現地作業者1の所属会社が記憶されたものと一致するかどうか、などをチェックすることもできる。
図7内ではこれらの追加されたチェック内容の記載は省略されている。
【0052】
ステップS-104において、マーカ情報500から、撮像可能領域210を形成する、撮像可能領域情報を取得する。これは例えば、第1の実施形態例によれば、「位置」「撮像可能横幅」「撮像可能奥行幅」「撮像可能高さ」に相当する(直方体領域)。第1の実施形態例の変形例1-1によれば、「位置」「撮像可能半径」「撮像可能高さ」に相当する(円筒領域)。これらの情報から、撮像可能領域210を決定する。
【0053】
ステップS-105において、映像データ400から、撮像可能領域210内の部分を抽出する。これは、映像データ400内の物体が、1つのマーカ220を基準位置とした直方体領域、または円筒領域内である撮像可能領域210内であるかどうかを判断することに相当する。このためには、映像データ400の複数フレーム(例えば1秒間内の50フレーム)で映像視野が変化した際に、基準となるマーカ220と作業対象機器230の相対位置を計算し、全フレーム内で相対位置を、撮像可能領域210を構成する絶対座標に変換した上で、撮像可能領域210内であると判断された場合に、撮像可能領域210内であるものと判断する。この処理の最小単位としては、例えば1秒毎の代表フレーム画像サイズ(例えば1280x1024ピクセル)における、小領域(例えば4ピクセルx4ピクセル)毎に、写りこんでいる物体が撮像可能領域210部分内であるかどうかを示す、判定ラベルを設定する。全体画像サイズにわたって、小領域毎のラベル判定を行って後述するマスキング処理を行う。
【0054】
ステップS-106において、代表フレーム画像内の小領域毎の判定ラベルに応じて、撮像可能領域210内ではないとされる小領域すべてを、マスキング処理する。マスキング処理とは、撮像可能領域210ではないとラベリングされた小領域にノイズを加えるか、モザイク模様を重ね合わせるフィルタリングを行うか、解像度を下げるか、のいずれか、またはすべての処理を行うことに相当する。これにより、該当小領域における作業対象機器230の視認性は下がることとなる。
【0055】
ステップS-107において、マスキング映像データ401を遠隔地端末300に送信する。上述した例によれば、1秒毎に、4x4ピクセルに区分化された小領域毎にマスキングされた映像と、マスキングされない元映像と、を合成した映像(マスキング映像データ401)を送信する。
【0056】
ステップS-101からステップS-107は、例えば0.1秒毎に、繰り返し実行される。この処理の間でマスキング映像データ401が送信されている間は、現地作業者1は、遠隔支援作業者2とマスキング映像データ401を共有して、共同作業を実施することができる(ステップS-108)。この共同作業は、ステップS-103において現在時刻が、有効期間でないとき、終了する(ステップS-109)。あるいは、映像データ400にマーカ画像が検出されないときは、マスキング映像データ401は全領域がマスキングされており、実質的に共同作業は実施できない。
【0057】
現地作業者1がスマートグラス装置1101を装着して、マスキング映像データ401を見ながら作業する場合、上記例によれば、4x4ピクセルに区分化された小領域毎にマスキングされた映像を、1秒遅れで、共有することとなる。現地作業者1にとっては、実際の映像データ400を見て作業をするより、加工映像によって作業するために作業効率がさがる可能性もあるが、これは現地作業者1が頻繁に視野を変えるなどの動作を行わないことで、回避することもできる。
【0058】
好ましくは、実運用として、ユーザ管理者3は、現地作業者1にスマートグラス装置1101を装着することを義務付けることもできる。これにより、現地作業中に偶然見えてしまう、機密データ表示領域を現地作業者1に見せないようすることができる。
【0059】
次に、遠隔支援作業者2の作用について説明する。遠隔支援作業者2は、遠隔地端末300においてマスキング映像データ401を受信し(ステップS-201)、これを任意の動画再生アプリケーションで再生する。再生している間は、共同作業を実施することができる(ステップS-202)。共同作業中のコミュニケーションは、別途通信設定される音声回線によって行うか、作業内容をテキストデータ化したチャットアプリケーション、メールアプリケーションを用いて行うことができるものとする。あるいは、マスキング映像データ401を保存した上で、過去画像を再生させることで、状況の確認を行うこともできる。
【0060】
[第2の実施形態例]
次に、本発明の第2の実施形態例について述べる。
図8に第2の実施形態例の全体構成を示す。本実施形態例においては、第1の実施形態例を以下の2点について拡張している。以下において、第1の実施形態例と同じ部分についての記載は省略する。
(1)撮像可能領域210のうち、高さ方向について変更可能とする(高さ制御)。
(2)ユーザ管理者3は、共通作業の監査を行う(ユーザ監査)。
【0061】
本実施形態例における1点目の拡張は、高さ制御である。これは、撮像可能空間において、高さ方向はあらかじめ規定された高さで足りなくなることがある、という経験に基づく。このため、共同作業中に、マーカ情報500に含まれる「高さ」を、変更可能とするものである(本実施形態例においては、ユーザ管理者3の許可がある場合にのみ、変更可能としている)。
【0062】
本実施形態例における2点目の拡張は、ユーザ監査である。これは、現地作業者1と遠隔支援作業者2が共有するマスキング映像データ401を、ユーザ管理端末601のマスキング映像受信部630においても受信することである。ユーザ管理者3は、このマスキング映像データ401を見て、保守作業の進捗やセキュリティ遵守状況を確認することができる。ここで、前述した1点目の拡張である、高さ制御は、ユーザ管理者3の監査時においてのみ可能とする。すなわち、セキュリティ条件を変えるとき(撮像可能領域210のうち、特に高さ、を変更するとき)は、ユーザ管理者3の許可が必要になるものとする。
【0063】
図8における、本実施形態の1点目の変更は、映像制御装置100内の映像処理部120内に、高さ変更部124を設けたことによって実現される。高さ変更部124は、撮像可能領域決定部122が決定した撮像可能領域210を変更できるようにするものである。変更できるのは、前述したように高さのみである。この変更結果(撮像可能領域210の変更)に応じて、映像マスキング部123の処理を実施する。すなわち、本実施形態例で映像制御装置100に対する変更は、高さ変更部124が追加されたことである。
【0064】
図8における、本実施形態例の2点目の変更は、マスキング映像データ401を、ユーザ管理端末601の、マスキング映像受信部630にも送信することで実現される。すなわち、映像制御装置100のマスキング映像送信部130は、送信先として遠隔地端末300に加え、ユーザ管理端末601にも送信する。
【0065】
本実施形態例における、ユーザ管理者3、現地作業者1、遠隔支援作業者2との作業の時系列における作業の関連状況を、
図9に示す。
図9にはさらに、表示されるマーカの状態についても示している。
【0066】
はじめに、ハードウェアなどに故障が起きた場合には、現地作業者1は、ユーザ管理者3に保守作業実施依頼を行う。これは紙ベース、メールベースで行ってよいものであり、任意の手段で行われるものとする。あるいは、保守作業実施依頼は、ユーザ管理者3から、現地作業者1に対して行われるものであってもよい。
【0067】
次に、ユーザ管理者3は、データセンタやオフィス内の作業領域200内において、現地作業者1と遠隔支援作業者2が共同作業することを許可する、撮像可能領域210を決定する。ここでは同様に、作業実施期間、作業許可管理者、作業者組織なども同様に決定する。ステップS-1000において、決定した内容を入力する。これはマーカ表示制御装置600の、撮像可能領域設定部610への入力に対応する。
【0068】
ユーザ管理者3は、ステップS-1000の入力に応じ、マーカ220の画像を表示する(ステップS-1010)。これは、マーカ表示制御装置600のマーカ画像出力部620に相当する。ユーザ管理者3は、マーカ220の画像を印刷した上で対応する位置にマーカ220を貼り付けるか、フロア各所に配置されたディスプレイ装置にマーカ220の表示を行うよう指示する。これによって、マーカ状態として、マーカが表示されることになる(ステップS-3000)。
【0069】
現地作業者1は、作業領域200内に入って保守作業準備を行う。具体的には、スマートグラス装置1101を装着し、映像制御装置100を起動する(ステップS-2010)。
【0070】
マーカから検出されるマーカ情報500に含まれる有効期間開始日時が、現在時刻を超えたとき(ステップS-3010)、現地作業者1のスマートグラス装置1101の映像(マスキング映像データ401)は、ユーザ管理者3、遠隔支援作業者2に送信される(ステップS-1020、ステップS-2020、ステップS-3020)。ここから、マーカ表示に含まれる有効期間終了日時になるまで、現地作業者1と遠隔支援作業者2は共同作業を実施することができる(マスキング映像データ401を共有できる)。また、同じマスキング映像データ401は、ユーザ管理者3にも送信される(ユーザ管理者3は共同作業をモニタできる)。
【0071】
この間においては、第2の実施形態例の1番目の変更点(高さ変更)を行うことができる。遠隔支援作業者2の要求(ステップS-3030)により、現地作業者1が、映像制御装置100の高さ変更部124により、高さ変更を入植する(ステップS-2030)。ここで高さ変更は、モニタしているユーザ管理者3の承認を受けないと変更できないようにするよう構成される(ステップS-1030)。このときは、ユーザ管理端末601には「高さ変更承認部640」機能を付加し、この機能による承認によって、高さ変更部124は実行できないようにする、などとして構成する。
【0072】
現地作業者1と、遠隔作業者との音声通信は、マスキング映像共有期間に限定するようにしてもよい。このように構成するには、映像制御装置100の入出力装置1500の音声出力機能と通信装置1600によって実現される音声共有のための機能を、マスキング映像共有期間にのみ有効とすればよい。
【0073】
先に述べたように、マーカ有効期間終了(ステップS-4030)をもって、共同作業(ステップS-1020、ステップS-2020、ステップS-3020)は終了となる。以上が、共同作業を実施する時系列における関係となる。
【0074】
本実施形態例によれば、現地作業員と遠隔作業者との作業をユーザ管理者3が監査することが可能となっている。ここでは、撮像可能領域210の高さを変更することをユーザが承認することとしている。また、音声による通信はマスキング映像共有の期間内(現在時刻が、スマートグラス装置1101がマーカ画像を検出して、そこから得られるマーカ情報500に記載される有効期間内であること)である場合に限り、許可されるよう、構成されている。
【0075】
[第3の実施形態例]
第1の実施形態においては、表示されるマーカはすべて、同じ撮像可能領域210を示すものとしていた。本実施形態例においては、マーカ情報500から得られる撮像可能領域210を、マーカ位置毎に求め、これの和集合をもって撮像可能領域210と決定することについて述べる。
【0076】
図10に、マーカ2001~2008によって形成される、これらのマーカ内部+高さ方向空間を、撮像可能領域210とする事例を示す。
【0077】
各マーカのそれぞれのマーカ情報500は次の通りとする。
マーカ2001:
「位置:左下、撮像可能横幅:200、撮像可能奥行幅:150、撮像可能高さ:150」
マーカ2002:
「位置:右下、撮像可能横幅:-200、撮像可能奥行幅:150、撮像可能高さ:150」
マーカ2003:
「位置:右上、撮像可能横幅:-200、撮像可能奥行幅:-150、撮像可能高さ:150」
マーカ2004:
「位置:右下、撮像可能横幅:-150、撮像可能奥行幅:200、撮像可能高さ:150」
マーカ2005:
「位置:右上、撮像可能横幅:-150、撮像可能奥行幅:-200、撮像可能高さ:150」
マーカ2006:
「位置:右上、撮像可能横幅:-200、撮像可能奥行幅:-200、撮像可能高さ:150」
マーカ2007:
「位置:左上、撮像可能横幅:200、撮像可能奥行幅:-200、撮像可能高さ:150」
マーカ2008:
「位置:左上、撮像可能横幅:200、撮像可能奥行幅:-200、撮像可能高さ:150」
【0078】
本実施形態例において、映像制御装置100の撮像可能領域決定部122は、各マーカ情報500から形成される撮像可能領域210を、同じものでなくても許容するものとする。すなわち、各マーカが写りこんでいる画像から、撮像可能領域210を決定するものする。
【0079】
例えば、マーカ2001とマーカ2002だけが映像データ400内に含まれている場合には、
図10におけるマーカ2001、2002、2003、2008で囲まれた平面(幅200センチx奥行150センチx高さ150センチ)を有する直方対領域が撮像可能領域210となる。
【0080】
また例えば、
図10において、マーカ2005、2006、2007が映像データ400内に含まれている場合には、
図10におけるマーカ2008、2004、2005、2007で囲まれた領域(幅350センチx奥行200センチx高さ150センチ)を有する直方体領域が撮像可能領域210となる。
【0081】
さらに例えば、すべてのマーカ2001~2008が映像データ400内に含まれている場合には、上述した直方体を結合した領域が、撮像可能領域210となる。
【0082】
本実施形態例は、第1の実施形態例に比較して、同一の撮像可能領域210を規定するものではなく、より広い(自由度の高い)撮像可能領域210を決定できるよう構成されるものである。現地作業者1と遠隔支援作業者2は、この広い撮像可能領域210の映像を共有できる。
【0083】
[モード]
上記の実施形態例の一部または全部は、以下のようにも記載され得るが、以下には限られない。
<モード1>
上述の第1の視点に係る映像制御装置のとおりである。
<モード2>
前記マーカ情報には、前記マーカにおいて定義される三次元配向方向に基づいて、前記マーカの中心位置からの、前記撮像可能領域の幅方向の長さを示すマーカ幅長と、前記撮像可能領域の奥行方向の長さを示すマーカ奥行長と、前記撮像可能領域の高さ方向の長さを示すマーカ高と、を含み、
前記撮像可能領域決定部は、前記マーカの中心位置を原点とし、前記マーカにおいて定義される三次元配向方向に基づいて、前記マーカ幅長、前記マーカ奥行長、前記マーカ高とから形成される直方体空間領域を、前記撮像可能領域とする、
ことを特徴とする、モード1に記載の映像制御装置。
<モード3>
前記マーカ情報には、前記撮像可能領域の下面中心位置であることを示す中心マーカ位置と、前記中心マーカ位置からの前記マーカの上方向に直交する方向における長さを示すマーカ半径と、前記中心マーカ位置からのマーカ上方向ベクトル方向の長さを示すマーカ高と、を含み、
前記撮像可能領域決定部は、前記中心マーカ位置を原点とし、前記マーカの上方向に直交する方向における前記マーカ半径を有する円形と、前記マーカ高から形成される円筒空間領域を、撮像可能領域とする、
ことを特徴とする、モード1に記載の映像制御装置。
<モード4>
前記マーカ情報を入力する撮像可能領域設定部と、前記撮像可能領域設定部への入力に基づいて、マーカ画像を出力するマーカ画像出力部を備える、マーカ表示制御装置によって、前記マーカ画像が出力される、
ことを特徴とする、モード1乃至3のいずれかに記載の映像制御装置。
<モード5>
前記映像制御装置の映像制御部はさらに、
現地作業者が前記撮像可能領域の高さを変更する、高さ変更部を含み、ここで、
前記高さ変更部への入力により、前記撮像可能領域の前記マーカ高を変更する、
ことを特徴とする、モード2乃至4のいずれかに記載の映像制御装置。
<モード6>
前記作業領域内に表示される前記マーカは2以上であり、
前記2以上の前記マーカのそれぞれの前記マーカ情報は、同一の前記撮像可能領域を示すものであって、
前記マーカ検出部は、前記2以上のマーカのうち1つ以上のマーカを検出し、
前記撮像可能領域決定部は、検出された前記1つ以上のマーカから、撮像可能領域を決定する、
ことを特徴とする、モード1乃至5のいずれかに記載の映像制御装置。
<モード7>
前記作業領域内に表示される前記マーカは2以上であり、
前記マーカの前記マーカ情報は、異なる前記撮像可能領域を示すものであって、
前記マーカ検出部は、前記2以上のマーカのうち少なくとも2つのマーカを検出し、
前記撮像可能領域決定部は、検出された前記少なくとも2つのマーカから、それぞれのマーカ情報から決定される前記撮像可能領域を併せた領域を、前記撮像可能領域として決定する、
ことを特徴とする、モード1乃至5のいずれかに記載の映像制御装置。
<モード8>
前記マーカ情報には、さらには、作業開始時刻と作業終了時刻を含み、
前記撮像可能領域決定部は、現在時刻が前記作業開始時刻以降であり、かつ、前記作業終了時刻以前である場合にのみ、前記撮像可能領域を決定する、
ことを特徴とする、モード1乃至7のいずれかに記載の映像制御装置。
<モード9>
前記映像取得部で用いる撮像する装置は、前記作業領域内で作業する作業者が装着するスマートグラスであり、
前記スマートグラスには、ビデオ撮影部及びビデオ表示部を有し、
ここで、前記ビデオ表示部には、前記マスキング映像送信部が出力する前記マスキング映像を表示する、
ことを特徴とする、モード1乃至8のいずれかに記載の映像制御装置。
<モード10>
上述の第2の視点に係る映像制御システムのとおり。
<モード11>
上述の第3の視点に係る映像制御方法のとおり。
<モード12>
上述の第4の視点に係る映像制御プログラムのとおり。
なお、モード10から12は、モード1と同様に、モード2~モード9のように展開することが可能である。
【0084】
なお、引用した上記の特許文献等の各開示は、本書に引用をもって繰り込むものとする。本発明の全開示(請求の範囲を含む)の枠内において、さらにその基本的技術思想に基づいて、実施形態例ないし実施例の変更・調整が可能である。また、本発明の全開示の枠内において種々の開示要素(各請求項の各要素、各実施形態例ないし実施例の各要素、各図面の各要素等を含む)の多様な組み合わせ、ないし、選択(部分的削除を含む)が可能である。すなわち、本発明は、請求の範囲を含む全開示、技術的思想にしたがって当業者であればなし得るであろう各種変形、修正を含むことは勿論である。特に、本書に記載した数値範囲については、当該範囲内に含まれる任意の数値ないし小範囲が、別段の記載のない場合でも具体的に記載されているものと解釈されるべきである。さらに、上記引用した文献の各開示事項は、必要に応じ、本発明の趣旨に則り、本発明の開示の一部として、その一部又は全部を、本書の記載事項と組み合わせて用いることも、本願の開示事項に含まれるものと、みなされる。
【符号の説明】
【0085】
1: 現地作業者
2: 遠隔支援作業者
3: ユーザ管理者
100: 映像制御装置
110: 映像取得部
120: 映像処理部
121: マーカ検出部
122: 撮像可能領域決定部
123: 映像マスキング部
124: 高さ変更部
130: マスキング映像送信部
200: 作業領域
210: 撮像可能領域
221、222、223、224、225: マーカ
230、231、232、233: 作業対象機器
300: 遠隔地端末
310: マスキング映像受信部
400: 映像データ
401: マスキング映像データ
500: マーカ情報
600: マーカ表示制御装置
601: ユーザ管理端末
610: 撮像可能領域設定部
620: マーカ画像出力部
630: マスキング映像受信部
640: 高さ変更承認部
1100: ビデオ装置
1101: スマートグラス装置
1200: 補助記憶装置
1300: CPU
1400: メモリ
1500: 入出力装置
1600: 通信装置
1700: 内部バス
2001、2002、2003、2004、2005、2006、2007: マーカ