(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-07-07
(45)【発行日】2023-07-18
(54)【発明の名称】画像センサシステム、制御方法、ゲートウェイ装置及びコンピュータプログラム
(51)【国際特許分類】
H04N 7/18 20060101AFI20230710BHJP
H04N 5/765 20060101ALI20230710BHJP
G08B 25/00 20060101ALI20230710BHJP
G06T 7/20 20170101ALI20230710BHJP
G08C 15/06 20060101ALI20230710BHJP
G08C 19/00 20060101ALI20230710BHJP
【FI】
H04N7/18 D
H04N7/18 U
H04N5/765
G08B25/00 510M
G06T7/20 300Z
G08C15/06 F
G08C19/00 301A
(21)【出願番号】P 2018179293
(22)【出願日】2018-09-25
【審査請求日】2021-06-17
(73)【特許権者】
【識別番号】000003078
【氏名又は名称】株式会社東芝
(73)【特許権者】
【識別番号】598076591
【氏名又は名称】東芝インフラシステムズ株式会社
(74)【代理人】
【識別番号】110001634
【氏名又は名称】弁理士法人志賀国際特許事務所
(72)【発明者】
【氏名】榎原 孝明
(72)【発明者】
【氏名】齋藤 禎敏
【審査官】秦野 孝一郎
(56)【参考文献】
【文献】特開2015-128261(JP,A)
【文献】特開2014-064054(JP,A)
【文献】特開2017-212641(JP,A)
【文献】特開2011-054060(JP,A)
【文献】特開2012-083676(JP,A)
【文献】特開2015-152496(JP,A)
【文献】特開2016-171526(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
G08B 25/00
H04N 5/765
G06T 7/20
G08C 13/00-25/04
(57)【特許請求の範囲】
【請求項1】
魚眼レンズにより対象空間を俯瞰した画像データを取得する撮像部と、
前記画像データに対する画像処理により、前記対象空間における人の在又は不在、人数、活動量、照度又は歩行の滞留を検知する画像処理部と、
前記画像データ又は前記画像処理部の検知結果に基づくセンシングデータを出力する出力部と、
を備える画像センサと、
前記画像センサから前記センシングデータ又は前記画像データを取得するデータ取得部と、
取得された前記センシングデータ又は前記画像データを記憶する第1の記憶部と、
前記センシングデータ又は前記画像データに関する設定データを記憶する第2の記憶部と、
前記センシングデータ又は前記画像データを加工するデータ加工部と、
を備えるゲートウェイ装置と、
を備え、
前記センシングデータ又は前記画像データに関する設定データは、前記センシングデータの取得又は前記画像データの取得もしくは保存に関するデータであ
り、
前記データ加工部は、前記画像データを分割した領域ごとに前記センシングデータが取得される場合、前記センシングデータの各値を、対応する領域に重畳させる、
画像センサシステム。
【請求項2】
前記ゲートウェイ装置は、外部からの指示に応じて、前記第1の記憶部に記憶されている前記センシングデータ又は画像データを提供するデータ提供部をさらに備える、
請求項
1に記載の画像センサシステム。
【請求項3】
前記データ提供部は、外部からの指示に応じて、前記第2の記憶部に記憶されている前記設定データを提供する、
請求項
2に記載の画像センサシステム。
【請求項4】
前記データ提供部は、外部からの指示に応じて、前記設定データを登録又は更新する、
請求項
3に記載の画像センサシステム。
【請求項5】
前記データ提供部は、前記画像データの取得動作を予約する条件を前記設定データとして登録又は更新する、
請求項
3又は
4に記載の画像センサシステム。
【請求項6】
前記データ提供部は、前記画像データの取得元となる画像センサを選択する手段を提供する、
請求項
3から
5のいずれか一項に記載の画像センサシステム。
【請求項7】
前記データ提供部は、取得された前記画像データの記憶領域を設定する手段を提供する、
請求項
3から
6のいずれか一項に記載の画像センサシステム。
【請求項8】
前記条件は、自装置と通信可能な通信装置から通知される情報、又は前記センシングデータ又は前記画像データに基づいて判定される条件である、
請求項
5に記載の画像センサシステム。
【請求項9】
前記データ提供部は、前記画像センサの動作に関する設定の妥当性をチェックする機能を有する、
請求項
2から
8のいずれか一項に記載の画像センサシステム。
【請求項10】
複数の画像センサと、前記複数の画像センサと通信可能なゲートウェイ装置と、を備える画像センサシステムの制御方法であって、
前記画像センサが、魚眼レンズにより対象空間を俯瞰した画像データを取得するステップと、
前記画像センサが、前記画像データに対する画像処理により、前記対象空間における人の在又は不在、人数、活動量、照度又は歩行の滞留を検知するステップと、
前記画像センサが、前記画像データ又は前記画像処理による検知結果に基づくセンシングデータを出力するステップと、
前記ゲートウェイ装置が、前記画像センサから前記センシングデータ又は前記画像データを取得するステップと、
前記ゲートウェイ装置が、取得された前記センシングデータ又は前記画像データを記憶するステップと、
前記ゲートウェイ装置が、前記センシングデータ又は前記画像データに関する設定データを記憶するステップと、
前記ゲートウェイ装置が、前記センシングデータ又は前記画像データを加工するステップと、
を有し、
前記センシングデータ又は前記画像データに関する設定データは、前記センシングデータの取得又は前記画像データの取得もしくは保存に関するデータであ
り、
前記画像データを加工するステップは、前記画像データを分割した領域ごとに前記センシングデータが取得される場合、前記センシングデータの各値を、対応する領域に重畳させることを有する、
制御方法。
【請求項11】
魚眼レンズにより対象空間を俯瞰した画像データを取得する撮像部と、前記画像データに対する画像処理により、前記対象空間における人の在又は不在、人数、活動量、照度又は歩行の滞留を検知する画像処理部と、前記画像データ又は前記画像処理部の検知結果に基づくセンシングデータを出力する出力部と、を備える画像センサから前記センシングデータ又は前記画像データを取得するデータ取得部と、
取得された前記センシングデータ又は前記画像データを記憶する第1の記憶部と、
前記センシングデータ又は前記画像データに関する設定データを記憶する第2の記憶部と、
前記センシングデータ又は前記画像データを加工するデータ加工部と、
を備え、
前記センシングデータ又は前記画像データに関する設定データは、前記センシングデータの取得又は前記画像データの取得もしくは保存に関するデータであ
り、
前記データ加工部は、前記画像データを分割した領域ごとに前記センシングデータが取得される場合、前記センシングデータの各値を、対応する領域に重畳させる、
ゲートウェイ装置。
【請求項12】
魚眼レンズにより対象空間を俯瞰した画像データを取得する撮像部と、前記画像データに対する画像処理により、前記対象空間における人の在又は不在、人数、活動量、照度又は歩行の滞留を検知する画像処理部と、前記画像データ又は前記画像処理部の検知結果に基づくセンシングデータを出力する出力部と、を備える画像センサから前記センシングデータ又は前記画像データを取得するステップと、
取得された前記センシングデータ又は前記画像データを記憶するステップと、
前記センシングデータ又は前記画像データに関する設定データを記憶するステップと、
前記センシングデータ又は前記画像データを加工するステップと、
をコンピュータに実行させるためのコンピュータプログラムであり、
前記センシングデータ又は前記画像データに関する設定データは、前記センシングデータの取得又は前記画像データの取得もしくは保存に関するデータであ
り、
前記画像データを加工するステップは、前記画像データを分割した領域ごとに前記センシングデータが取得される場合、前記センシングデータの各値を、対応する領域に重畳させることを有する、
コンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、画像センサシステム、制御方法、ゲートウェイ装置及びコンピュータプログラムに関する。
【背景技術】
【0002】
従来、各種センサのセンシング結果に基づいてビル管理に係る各種装置を制御するビル管理システムがある。このようなビル管理には、用途に応じた多種多様なセンサの設置及び管理が必要となるため、センサの導入や管理に多大なコストを要する場合があった。例えば、同じエリアに複数の用途の異なるセンサを設置する必要がある場合には、設置場所の確保に大きな労力を要する場合がある。また、多数のセンサを設置する必要がある場合には、配線や設置等の工事に大きな労力を要する場合もある。このような背景により、多くの用途に対応したセンサシステムが望まれている。
【先行技術文献】
【特許文献】
【0003】
【文献】国際公開第2013/187047号
【文献】特許第5903634号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明が解決しようとする課題は、より多くの用途に対応した画像センサシステム、制御方法、ゲートウェイ装置及びコンピュータプログラムを提供することである。
【課題を解決するための手段】
【0005】
実施形態の画像センサシステムは、画像センサと、ゲートウェイ装置と、を持つ。画像センサは、撮像部と、画像処理部と、出力部と、を持つ。撮像部は、魚眼レンズにより対象空間を俯瞰した画像データを取得する。画像処理部は、前記画像データに対する画像処理により、前記対象空間における人の在又は不在、人数、活動量、照度又は歩行の滞留を検知する。出力部は、前記画像データ又は前記画像処理部の検知結果に基づくセンシングデータを出力する。ゲートウェイ装置は、データ取得部と、第1の記憶部と、第2の記憶部と、を持つ。データ取得部は、前記画像センサから前記センシングデータ又は前記画像データを取得する。第1の記憶部は、取得された前記センシングデータ又は前記画像データを記憶する。第2の記憶部は、前記センシングデータ又は前記画像データに関する設定データを記憶する。
【図面の簡単な説明】
【0006】
【
図1】第1の実施形態の画像センサシステムの構成例を示す図。
【
図2】第1の実施形態の画像センサ1の機能構成例を示すブロック図。
【
図3】第1の実施形態のゲートウェイ装置2の機能構成例を示すブロック図。
【
図4】第1の実施形態の画像センサ1において取得されたセンサデータがゲートウェイ装置2に提供される処理の流れを示すフローチャート。
【
図5】第1の実施形態のゲートウェイ装置2に蓄積されたセンサデータが外部システムに提供される処理の流れを示すフローチャート。
【
図6】第2の実施形態における録画設定画面の具体例を示す図。
【
図7】第2の実施形態における期間設定画面の具体例を示す図。
【
図8】第2の実施形態におけるグループ登録画面の具体例を示す図。
【
図9】第2の実施形態におけるセンサ登録画面の具体例を示す図。
【
図10】第2の実施形態の画像センサシステム100において動画データが外部システムに提供される処理の流れを示すフローチャート。
【
図11】第4の実施形態のゲートウェイ装置2aの機能構成例を示すブロック図。
【
図12】第4の実施形態におけるセンサデータの加工例を示す図。
【発明を実施するための形態】
【0007】
以下、実施形態の画像センサシステム、制御方法、ゲートウェイ装置及びコンピュータプログラムを、図面を参照して説明する。
【0008】
(第1の実施形態)
図1は、第1の実施形態の画像センサシステム100の構成例を示す図である。例えば、
図1は、BEMS(Building Energy Management System)200や照明制御システム300、空調制御システム400などの外部システムに対して、画像によるセンシング機能を提供する画像センサシステム100を示す。画像センサシステム100は、1つ以上の画像センサ1とゲートウェイ装置2とを備え、ハブ装置3を介して外部システムに接続する。画像センサ1は、自装置の周辺を撮像した画像に基づいて自装置周辺における諸事象を検知するセンサである。
図1に示す画像センサシステム100は、1つ以上の画像センサ1として画像センサ1-1~1-N(Nは1以上の整数)を備える。
【0009】
ゲートウェイ装置2は、外部システムとの間で通信プロトコルの変換等を行うゲートウェイとして機能する装置である。保守端末4は、画像センサシステム100の保守に用いられる端末装置である。保守端末4は、ハブ装置3を介して画像センサシステム100と通信可能に接続される。
【0010】
図2は、第1の実施形態の画像センサ1の機能構成例を示すブロック図である。画像センサ1は、バスで接続されたCPU(Central Processing Unit)やメモリや補助記憶装置などを備え、プログラムを実行する。画像センサ1は、プログラムの実行によって通信部11、画像データ記憶部12、設定データ記憶部13、撮像部14、画像処理部15及びデータ出力部16を備える装置として機能する。なお、画像センサ1の各機能の全て又は一部は、ASIC(Application Specific Integrated Circuit)やPLD(Programmable Logic Device)やFPGA(Field Programmable Gate Array)等のハードウェアを用いて実現されてもよい。プログラムは、コンピュータ読み取り可能な記録媒体に記録されてもよい。コンピュータ読み取り可能な記録媒体とは、例えばフレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置である。プログラムは、電気通信回線を介して送信されてもよい。
【0011】
通信部11は、画像センサ1をゲートウェイ装置2と通信可能に接続する通信インタフェースである。通信部11は、有線通信インタフェースであってもよいし、無線通信インタフェースであってもよい。各画像センサ1とゲートウェイ装置2との接続は、スター型やリング型など、どのようなネットワークトポロジーで構成されてもよい。また、通信プロトコルは、汎用プロトコルであってもよいし、産業用プロトコルであってもよい。また、通信部11は、1つの通信プロトコルを用いてもよいし、複数の通信プロトコルを用いてもよい。通信部11は、暗号化通信を行ってもよい。
【0012】
画像データ記憶部12は、例えばバッファメモリであり、画像データをFIFO(First In, First Out)方式で入出力する記憶装置である。画像データ記憶部12は、撮像部14が出力する画像データを記憶し、記憶した画像データを画像処理部15及びデータ出力部16に出力する。
【0013】
設定データ記憶部13は、磁気ハードディスク装置や半導体記憶装置などの記憶装置を用いて構成される。設定データ記憶部13は画像センサ1の動作に関する設定データを記憶する。例えば、設定データは、撮像部14の撮像設定(例えば、フレームレート、ゲイン、ホワイトバランスなど)や画像データの設定(例えば、解像度、圧縮率、枚数など)、画像処理の設定(例えば、各種閾値、マスク設定、エリア(部分空間)設定、保持時間など)、センサデータの生成に関する設定(例えば、データ種別、データ形式、プライバシー保護のためのマスクの有無、暗号化設定など)、通信設定(例えば、通信プロトコル、暗号化など)等の各種設定値を含む。
【0014】
撮像部14は、魚眼レンズを備えるカメラを用いて構成される。撮像部14は、前記カメラにより自装置周辺を撮像した画像データを取得する。具体的には、撮像部14は、撮像対象の空間(以下「対象空間」という。)の天井部に設置され、天井から俯瞰した対象空間の画像データを取得する。撮像部14は、取得した画像データを画像データ記憶部12に出力する。
【0015】
画像処理部15は、画像データ記憶部12から画像データを取得し、取得した画像データに基づいて自装置周辺における諸事象を検知するための画像処理を行う。以下、画像処理部15が前記諸事象を検知することを「センシング」という。
【0016】
データ出力部16は、ゲートウェイ装置2にセンサデータを出力する機能を有する。センサデータは、撮像部14によって取得された画像データ、画像処理部15によるセンシングの結果を示すデータ(以下「センシングデータ」という。)を含むデータである。この出力機能により、データ出力部16はセンサデータをゲートウェイ装置2に提供することができる。
【0017】
なお、データ出力部16は、画像データ又はセンシングデータを加工する機能を有してもよい。データの加工は、画像データ又はセンシングデータの編集であってもよいし、データ形式の変換や暗号化などであってもよい。この場合、データ出力部16は、加工によって得られたデータをセンサデータに含めてゲートウェイ装置2に提供してもよい。
【0018】
データ出力部16は、所定のタイミングで所定のセンサデータを出力するように構成されてもよいし、ゲートウェイ装置2の要求に応じて要求されたセンサデータを出力するように構成されてもよい。
【0019】
図3は、第1の実施形態のゲートウェイ装置2の機能構成例を示すブロック図である。ゲートウェイ装置2は、バスで接続されたCPU(Central Processing Unit)やメモリや補助記憶装置などを備え、プログラムを実行する。ゲートウェイ装置2は、プログラムの実行によって第1通信部21、第2通信部22、センサデータ記憶部23(第1の記憶部の一例)、設定データ記憶部24(第2の記憶部の一例)、データ取得部25及びデータ提供部26を備える装置として機能する。なお、ゲートウェイ装置2の各機能の全て又は一部は、ASIC(Application Specific Integrated Circuit)やPLD(Programmable Logic Device)やFPGA(Field Programmable Gate Array)等のハードウェアを用いて実現されてもよい。プログラムは、コンピュータ読み取り可能な記録媒体に記録されてもよい。コンピュータ読み取り可能な記録媒体とは、例えばフレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置である。プログラムは、電気通信回線を介して送信されてもよい。
【0020】
第1通信部21は、ゲートウェイ装置2を画像センサ1と通信可能に接続する通信インタフェースである。第1通信部21は、複数台の画像センサ1と交互に通信するように構成されてもよいし、同時に通信するように構成されてもよい。第2通信部22は、ゲートウェイ装置2をハブ装置3と通信可能に接続する通信インタフェースである。第1通信部21及び第2通信部22は、有線通信インタフェースであってもよいし、無線通信インタフェースであってもよい。ゲートウェイ装置2と各画像センサ1との接続は、スター型やリング型など、どのようなネットワークトポロジーで構成されてもよい。また、通信プロトコルは、汎用プロトコルであってもよいし、産業用プロトコルであってもよい。また、第1通信部21及び第2通信部22は、1つの通信プロトコルを用いてもよいし、複数の通信プロトコルを用いてもよい。第1通信部21及び第2通信部22は、暗号化通信を行ってもよい。第1通信部21及び第2通信部22は、通信先に応じて、通信プロトコルを変換可能である。例えば、通信プロトコルはEtherCAT(登録商標)やBACnet(登録商標)、TCP/IP、UDP/IPなどであってもよいし、独自伝送プロトコルであってもよい。
【0021】
センサデータ記憶部23及び設定データ記憶部24は、磁気ハードディスク装置や半導体記憶装置などの記憶装置を用いて構成される。センサデータ記憶部23は、画像センサ1から取得されたセンサデータを記憶する。設定データ記憶部24は、センサデータの取得に関する設定データを記憶する。例えば、設定データは、画像データの取得に関する設定(例えば、取得対象、取得間隔など)や画像データの保存に関する設定(例えば、解像度、圧縮率、枚数など)、通信設定(例えば、通信プロトコル、暗号化など)等の各種設定値を含む。
【0022】
データ取得部25は、第1通信部21を介して画像センサ1からセンサデータを取得する機能を有する。データ取得部25は、取得したセンサデータをセンサデータ記憶部23に保存する。
【0023】
データ提供部26は、自装置に蓄積されているセンサデータを、自装置と通信可能な外部システム(通信装置の一例)に提供する機能を有する。例えば、外部システムは、
図1に示すBEMS200、照明制御システム300、空調制御システム400、保守端末4である。データ提供部26は、センサデータを所定のタイミングで送信するように構成されてもよいし、外部システムの要求に応じて送信するように構成されてもよい。
【0024】
図4は、第1の実施形態の画像センサ1において取得されたセンサデータがゲートウェイ装置2に提供される処理の流れを示すフローチャートである。まず、画像センサ1において、撮像部14が、対象空間を撮像した画像データを取得する(ステップS101)。撮像部14は、取得した画像データを画像データ記憶部12に出力する(ステップS102)。
【0025】
続いて、画像処理部15が、取得された画像データに基づいて対象空間における諸事象を検知するための画像処理を実行する(ステップS103)。画像処理部15は、この画像処理の実行により自装置周辺に関するセンシングデータを出力する。例えば、画像処理部15は、自装置周辺における(1)人の有無、(2)人数、(3)人の活動量、(4)照度、(5)歩行者の滞留状況(歩行滞留)を検知する。画像処理部15は、画像データの取得に応じて、常時これらの全項目の検知を行うように構成されてもよいし、必要に応じて必要な項目の検知を行うように構成されてもよい。また、各項目の検知動作は同じ周期で行われてもよいし、異なる周期で行われてもよい。
【0026】
(1)人の有無(人の在又は不在)の検知
例えば、画像処理部15は、画像間の差分に基づいて画像内の人物領域を識別することにより人の有無を検知してもよいし、画像内の人を認識する任意の人物認識技術を用いて人の有無を検知してもよい。画像間の差分には、背景画像との差分や、時間的に連続する画像間の差分(フレーム間差分)などが用いられてもよい。また、画像処理部15は、対象空間全体としての人の有無を検知してもよいし、対象空間を構成する部分空間ごとの人の有無を検知してもよい。なお、(4)の照度が推定される場合には、誤検知の可能性を低くするために、人物領域の識別において照度の変動が考慮されてもよい。
【0027】
(2)人数の推定
例えば、画像処理部15は、(1)と同様の方法で画像内の人物領域を識別し、識別された人物領域の画像について、個々の人を識別する画像処理を行うことにより、対象空間に存在する人の人数を推定してもよい。(1)と同様に、人数は部分空間ごとに推定されてもよい。
【0028】
(3)人の活動量の推定
例えば、画像処理部15は、フレーム間差分などを用いて動き領域を抽出し、抽出された動き領域の大きさや形状等に基づいて活動量を推定してもよい。例えば、活動量は“無”、“小”、“中”、“大”などの段階で推定されてもよいし、METs(Metabolic Equivalents)等の指標値として推定されてもよい。画像処理部15は、部分空間ごとに動き領域を抽出し、部分空間ごとの活動量を推定してもよい。
【0029】
(4)照度の推定
例えば、画像処理部15は、画像と、撮像部14の撮像設定値(例えばゲインや露光時間など)とに基づいて対象空間の照度を推定してもよい。画像処理部15は、部分空間ごとに照度を推定してもよい。
【0030】
(5)歩行滞留の検知
例えば、画像処理部15は、フレーム間差分などを用いて動き領域を抽出し、抽出された動き領域の大きさや形状等に基づいて歩行滞留を検知してもよい。画像処理部15は、部分空間ごとに歩行滞留を検知してもよい。
【0031】
画像処理部15は、このような画像処理に基づく対象空間のセンシングデータをデータ出力部16に出力する。画像処理部15は、センシングデータを画像データ記憶部12又は設定データ記憶部13に保存してもよい。
【0032】
続いて、データ出力部16が、画像処理部15から出力されたセンシングデータや、画像データ記憶部12に蓄積されている画像データなどを用いてセンサデータを生成する(ステップS104)。データ出力部16は、生成したセンサデータをゲートウェイ装置2に出力する(ステップS105)。
【0033】
なお、センサデータは、センシングデータ及び画像データの一方又は両方を含むデータとして出力されてもよいし、データの種別に応じて異なるタイミングで出力されてもよい。例えば、データ出力部16は、外部システムにおける制御用のデータとしてセンシングデータのみを出力し、ゲートウェイ装置2に蓄積するデータとしてセンシングデータ又は画像データを送信してもよい。また、センサデータの形式は、バイナリ形式であってもよいし、テキスト形式であってもよいし、各種の画像形式であってもよい。各種の画像形式は、非圧縮形式であってもよいし、圧縮形式であってもよい。圧縮形式は、PNG(Portable Network Graphics)等の可逆圧縮形式であってもよいし、JPEG(Joint Photographic Experts Group)等の不可逆圧縮形式であってもよい。センシングデータは、画像データに埋め込まれてもよい。また、データ出力部16は、センサデータを暗号化して送信してもよい。暗号化は、パスワードによる圧縮であってもよい。
【0034】
続いて、ゲートウェイ装置2では、データ取得部25が、第1通信部21を介して受信されたセンサデータを取得する(ステップS106)。データ取得部25は、取得したセンサデータをセンサデータ記憶部23に保存する(ステップS107)。以上の処理によって、センサデータがゲートウェイ装置2に提供される。そして、以上の処理が繰り返し実行されることにより、センサデータがゲートウェイ装置2に蓄積される。
【0035】
なお、
図4では簡単のため、対象空間のセンシング処理(画像処理)が画像データの取得に応じて実行される例を示したが、画像データの取得処理と画像処理とは独立して実行されてもよい。
【0036】
図5は、第1の実施形態のゲートウェイ装置2に蓄積されたセンサデータが外部システムに提供される処理の流れを示すフローチャートである。ここでは、ゲートウェイ装置2が外部システムの要求(ステップS301:センサデータ取得要求)に応じてセンサデータを提供する場合を想定する。この場合、まずゲートウェイ装置2において、データ提供部26がセンサデータ取得要求を受け付ける(ステップS201)。このとき、センサデータに含まれる各種データ(画像データ、センシングデータ、又はそれらに基づいて生成されたデータ)のうち、どのデータが取得対象であるかは、センサデータ取得要求とともにゲートウェイ装置2に通知されるものとする。
【0037】
続いて、データ提供部26は、センサデータ記憶部23に蓄積されているセンサデータのうち、取得対象として要求されているセンサデータ(対象データ)を取得する(ステップS202)。データ提供部26は、取得した対象データをセンサデータ取得要求に対する応答として外部システムに送信する(ステップS203)。
【0038】
なお、提供すべきセンサデータが提供先に応じて予め定められている場合などにおいては、データ提供部26は、ステップS201~S203を定期的に実行するように構成されてもよい。例えば、データ提供部26は、
図4に示したステップS101~S107に続けてステップS201~S203を実行してもよい。
【0039】
このように構成された第1の実施形態の画像センサシステム100では、ゲートウェイ装置2が画像センサ1から取得されるセンサデータを蓄積するとともに、蓄積したセンサデータの一部又は全部を外部提供データとして必要に応じて外部システムに提供する。このような構成を備える第1の実施形態の画像センサシステム100によれば、用途の異なる各種センサシステムを画像センサシステムに統合することが可能になる。例えば、第1の実施形態の画像センサシステム100によって取得される画像データが外部システムに提供されることにより、画像センサシステム100を監視カメラシステムとしても用いることができる。このため、第1の実施形態の画像センサシステム100は、センサシステム及び監視カメラシステムとして機能することにより、ビル内の機器制御とビル内の監視とを両立して実現することができる。
【0040】
また、このような外部提供データが外部システムに提供されることにより、ユーザは保守端末4を介して所望のセンサデータを取得することができる。このようなセンサデータがユーザに供給されることにより、ユーザはオフィスの改善やセキュリティの向上、セーフティの向上を実現することができる。例えば、ユーザは、会議室などの利用率を分析し、利用率の低い領域を別用途に変更することができる。また、ユーザは、フリーアドレスのオフィスや複数の事業所の兼務者の領域などについて在籍率を分析することで、不要な領域を別用途に変更することができる。
【0041】
また、ユーザは、深夜などに人の動きがあった画像を取得しておくことで、有事の際の状況証拠を残すことができる。また、ユーザは、火災や地震などが発生した前後の画像を取得しておくことで、被害の原因究明や状況把握を行うことができる。
【0042】
(第2の実施形態)
第2の実施形態は、ゲートウェイ装置2における画像データの蓄積に関する設定の具体例について説明する。第2の実施形態における画像センサシステム100の構成は第1の実施形態と同様である。例えば、第2の実施形態におけるゲートウェイ装置2は、以下に示す各種設定画面を保守端末4に表示させる。
【0043】
図6は、第2の実施形態における録画設定画面の具体例を示す図である。
図6に示す録画設定画面G1は、画像センサ1に対して対象空間の録画に関する各種設定を行うために用いられる画面である。ここでいう録画とは、時系列に連続して取得される対象空間の画像データに基づいて動画データを生成する動作を意味する。
【0044】
録画設定画面G1は、ゲートウェイ装置2の設定データにアクセスする手段の一例として提供される画面であり、例えばデータ提供部26によって生成される。データ提供部26は、生成した録画設定画面G1を保守端末4に表示させ、この録画設定画面G1又は録画設定画面G1から呼び出される関連画面を介して各種設定値の入力を受け付ける。
【0045】
例えば、録画設定画面G1には、設定対象の画像センサ1(取得元の一例)のグループ(センサグループ)の選択を受け付ける入力インタフェースA11や、センサグループの登録画面(グループ登録画面)を呼び出すボタンA12、設定対象のセンサグループについて指定された録画時間帯を表示する領域A13、表示対象期間の指定を受け付ける入力インタフェースA14、その他の各種設定値を表示する領域A15、画像データの取得期間を登録する画面(期間登録画面)を呼び出すボタンA16、入力された設定内容の保存を指示するボタンA17、入力された設定内容の破棄を指示するボタンA18などが表示される。
【0046】
図7は、第2の実施形態における期間設定画面の具体例を示す図である。例えば、期間設定画面G2は、データ提供部26により、録画設定画面G1のボタンA17の押下に応じて生成される。例えば、期間設定画面G2には、一日の時間帯の繰り返しとして取得期間を指定する入力インタフェースA21(繰り返し指定)や、開始日時及び終了日時で取得期間を指定する入力インタフェースA22、設定内容の保存を指示するボタンA23、設定内容の破棄を指示するボタンA24などが表示される。
【0047】
図8は、第2の実施形態におけるグループ登録画面の具体例を示す図である。例えば、グループ登録画面G3は、データ提供部26により、録画設定画面G1のボタンA12の押下に応じて生成される。例えば、グループ登録画面G3には、新たなセンサグループを追加するボタンA31や、新たな画像センサ1を登録する画面(センサ登録画面)を呼び出すボタンA32、画像センサ1とセンサグループとの対応関係を一覧表示する領域A33、指定されたセンサグループを削除するボタンA34、削除対象のセンサグループの選択を受け付ける入力インタフェースA35、設定内容の保存を指示するボタンA36、設定内容の破棄を指示するボタンA37などが表示される。
【0048】
図9は、第2の実施形態におけるセンサ登録画面の具体例を示す図である。例えば、センサ登録画面G4には、画像データの保存先の指定を受け付ける入力インタフェースA41や、登録対象の画像センサ1と対応づけるセンサグループの選択を受け付ける入力インタフェースA42、グループ登録画面を呼び出すボタンA43、登録対象の画像センサ1に付与する識別情報(センサID)の入力インタフェースA44、画像データの取得間隔(録画間隔)の入力インタフェースA45、録画間隔の適用レベル(ベストエフォート)を指定する入力インタフェースA46、予め予約された録画動作(予約録画)の無効化を指定する入力インタフェースA47、設定内容の保存を指示するボタンA48、設定内容の破棄を指示するボタンA49などが表示される。
【0049】
データ提供部26は、上記の録画設定画面G1や関連画面(期間設定画面G2、グループ登録画面G3、センサ登録画面G4)を介して入力された各種設定値をゲートウェイ装置2の設定データに反映させる。このような設定データへのアクセス手段が提供されることにより、ゲートウェイ装置2の設定データを外部から参照又は更新することが可能になる。
【0050】
図10は、第2の実施形態の画像センサシステム100においてゲートウェイ装置2が対象空間の様子が撮像された動画データを生成して外部システムに提供する処理の流れを示すフローチャートである。まず、ゲートウェイ装置2において、データ取得部25が、設定データに基づく録画開始タイミングにおいて、画像センサ1に動画データの外部出力開始を指示する(ステップS401)。
【0051】
画像センサ1では、ゲートウェイ装置2から動画データの外部出力の開始を指示されたことに応じて、データ出力部16が動画データの外部出力処理を実行する(ステップS402)。具体的には、データ出力部16は、撮像部14によって取得される時系列の画像データを画像データ記憶部12から順次取得する(ステップS4021)とともに、取得された画像データを順次エンコードしていくことによって動画データを生成する(ステップS4022)。
【0052】
動画データは、任意の形式で生成されてよい。例えば、動画データは、AVI(Audio Video Interleave)形式で生成されてもよいし、MPEG(Moving Picture Experts Group)形式で生成されてもよい。また、データ出力部16は、所定の録画間隔時間(
図10の例では10秒)ごとに取得された画像データを用いて動画データを生成してもよい。データ出力部16は、生成された動画データを順次ストリーミング形式に変換して外部出力する(ステップS4023)。
【0053】
続いて、データ出力部16は、ゲートウェイ装置2から動画データの外部出力の終了を指示されたか否かを判定する(ステップS4024)。動画データの外部出力の終了を指示されていない場合(ステップS4024-NO)、データ出力部16はステップS4021に処理を戻し、動画データの外部出力処理を継続する。一方、動画データの外部出力の終了が指示された場合(ステップS4024-YES)、データ出力部16は動画データの外部出力処理を終了する。
【0054】
一方、ゲートウェイ装置2では、データ取得部25が画像センサ1から受信される動画データをセンサデータ記憶部23に保存することで、動画データを録画する(ステップS403)。データ取得部25は、設定データに基づく録画終了タイミングにおいて、画像センサ1に動画データの外部出力終了を指示する(ステップS404)。
【0055】
続いて、外部システム4がゲートウェイ装置2に対して動画データの配信を要求する(ステップS405)。この動画データの配信要求を受けて、ゲートウェイ装置2では、データ提供部26が要求されている動画データをセンサデータ記憶部23から取得し、外部システム4に配信する(ステップS406)。具体的には、データ提供部26は、取得した動画データに基づいてストリーミング再生用の配信データを生成し、生成した配信データを外部システム4に送信する。配信データの送信には任意のプロトコルが用いられてよい。例えば、配信データの送信には、RTSP(Real Time Streaming Protocol)やHLS(HTTP Live Streaming)等のプロトコルが用いられてもよい。外部システム4は、ゲートウェイ装置2から受信された配信データを受信して再生する(ステップS407)。
【0056】
なお、ここでは、ゲートウェイ装置2が録画終了後に外部システム4の配信要求を受けつける場合について説明したが、ゲートウェイ装置2は録画実行中に配信要求を受け付けてもよい。この場合、ゲートウェイ装置2は録画中の動画データを配信してもよい。
【0057】
また、画像センサ1は画像データの圧縮機能を備えてもよく、圧縮した画像データを用いて動画データを生成してもよい。また、画像データの圧縮機能や動画データの生成機能はゲートウェイ装置2に備えられてもよい。
【0058】
このように構成された第2の実施形態の画像センサシステム100は、予め登録された録画設定に基づいて、対象空間が撮像された動画データを取得することができる。そのため、第2の実施形態の画像センサシステム100によれば、1つのシステムで画像センサシステムと監視カメラシステムとの両方を実現することが可能になる。
【0059】
なお、第2の実施形態では、ゲートウェイ装置2の設定データにアクセスする手段の一例として、画像センサ1の録画設定を外部から実施可能にするユーザインタフェースについて説明したが、外部からアクセス可能に制御される情報は設定データに限定されない。データ提供部26は、自装置に蓄積されているセンサデータへのアクセス可能にするユーザインタフェースを提供してもよい。例えば、データ提供部26は、画像データの表示や削除を可能にするユーザインタフェースを提供してもよい。また、これらのユーザインタフェースは、専用のアプリケーションとして提供されてもよいし、ウェブブラウザを介して利用することができるように提供されてもよい。
【0060】
(変形例)
録画設定に関するユーザインタフェース(以下「録画設定インタフェース」という。)は、画像センサ1のグループごとの設定を可能にするほか、個々の画像センサ1ごと、又はイベントごとの設定(イベント録画)を可能にするものであってもよい。イベントは、画像センサ1において検知しうる任意の事象であってよい。例えば、イベントは特定の日時の到来であってもよいし、画像センサ1や外部システムからの通知、ゲートウェイ装置2内部における異常の発生などであってもよい。この場合、例えば、ゲートウェイ装置2は、各画像センサ1のセンシング結果に応じて録画設定を切り替えてもよい。このようにすれば、例えば、対象空間に人が存在してないときには1分ごとの画像データを取得し、人が存在しているときには1秒ごとの画像データを取得するといったことが可能になる。
【0061】
録画設定インタフェースは、録画動作に関してセンシング結果が満たすべき条件の指定を可能にするものであってもよい。例えば、対象空間が人が存在していない状況から人が存在している状況に変化したことを録画動作の開始条件としてもよいし、人が存在している状況から人が存在していない状況に変化したことを録画動作の停止条件としてもよい。また、例えば、対象空間に存在する人の人数が所定数以上となったことを録画動作の開始条件としてもよいし、所定数未満となったことを録画動作の停止条件としてもよい。
【0062】
録画設定インタフェースは、設定情報の入力又は情報選択の入力を、テキスト形式、リスト形式又はマップ形式で受け付けるように構成されてもよい。
【0063】
センサグループは、グループ間における画像センサ1の重複を許容するものであってもよい。例えば、個々の画像センサ1ごとに、その周囲の画像センサ1を含むセンサグループが構成されてもよい。また、例えば、セキュリティエリアと出入り口とで異なるセンサグループが構成されてもよい。
【0064】
録画設定インタフェースは、予約動作に加えて、手動による録画開始指示又は終了指示の入力を受け付けるように構成されてもよい。
【0065】
録画設定インタフェースは、日時指定での録画動作を設定するものであってもよいし、録画動作の繰り返しを設定するものであってもよい。また、録画設定インタフェースは、所定期間における間欠的な撮像動作を設定するものであってもよいし、所定期間における常時の撮像動作を設定するものであってもよい。
【0066】
録画設定インタフェースは、録画動作に関する各種設定の妥当性をチェックする機能を有してもよい。例えば、録画設定インタフェースは、予約の重複や、記憶領域の空き容量、イベント録画及び予約録画の同時実行の有無等をチェックする機能を有してもよい。また、録画設定インタフェースは、チェック結果の通知機能を有してもよい。また、録画設定インタフェースは、録画間隔にベストエフォートが指定されている場合に、画像センサ1の台数におじた実現可能な録画間隔を提示する機能を有してもよい。また、録画設定インタフェースは、イベント録画及び予約録画に対して優先度を設定する機能を有してもよい。また、録画設定インタフェースは、センサグループ間での画像センサ1の重複を許容しない場合、グループ間での重複の有無をチェックする機能を有してもよい。
【0067】
センサデータ記憶部23は、BEMSなどの外部システムに設けられてもよい。この場合、ゲートウェイ装置2は、画像センサ1から取得されたセンサデータをそのまま外部システムに提供するように構成されてもよい。
【0068】
画像センサ1のデータ出力部16は、設定データ記憶部13に記憶されている設定データをセンサデータに含めてゲートウェイ装置2に出力してもよい。この場合、ゲートウェイ装置2のデータ提供部26は、画像センサ1の設定データに外部からアクセス(参照又は更新)することを可能にするユーザインタフェースを提供してもよい。また、ゲートウェイ装置2のデータ提供部26は、このようなユーザインタフェースを介して更新された設定データを画像センサ1に提供してもよい。このようなユーザインタフェースが提供されることにより、画像センサシステム100の外部から各画像センサ1の設定データを管理することが可能になる。
【0069】
第2の実施形態では、ゲートウェイ装置2は、動画データの態様で提供される対象空間の画像データを画像センサ1から取得して蓄積するとともに、蓄積した動画データを外部システムの要求に応じて配信する例を説明したが、画像センサ1がゲートウェイ装置2に提供する画像データは必ずしも動画データの態様である必要はなく、撮像部14によって取得された個々の画像データ(以下、「動画データ」と区別するために「静止画像データ」という。)がそのままゲートウェイ装置2に提供されてもよい。この場合、ゲートウェイ装置2は、画像センサ1から配信された静止画像データを外部システムに配信してもよい。また、この場合、画像センサ1に代えてゲートウェイ装置2が、動画データを生成する機能を有してもよい。この場合、ゲートウェイ装置2は、画像センサ1から連続して配信される静止画像データに基づいて動画データを生成し、生成した動画データを外部システムに配信するように構成されてもよい。
【0070】
(第3の実施形態)
図11は、第3の実施形態のゲートウェイ装置2aの機能構成例を示すブロック図である。ゲートウェイ装置2aは、データ加工部27をさらに備える点で第1の実施形態のゲートウェイ装置2と異なる。その他の構成は第1の実施形態と同様であるため、
図3と同じ符号を付すことにより説明を省略する。
【0071】
データ加工部27は、センサデータを加工する機能を有する。データ加工部27は、加工したセンサデータをセンサデータ記憶部23に保存してもよいし、データ提供部26を介して外部システムに提供してもよい。例えば、データ加工部27は、プライバシー保護のために、画像データに含まれる個人情報をぼかす、塗りつぶす、又は透過させる等の処理を行ってもよい。加工の対象となる領域は人手で設定されてもよいし、センシング結果を用いて設定されてもよい。例えば、画像から検出された動体や人物等の領域が加工の対象に設定されてもよい。また、データ加工部27は、センサデータの暗号化又は復号化を行ってもよい。また、データ加工部27は、センサデータを加工することによって外部提供データを生成してもよい。
【0072】
図12は、第3の実施形態におけるセンサデータの加工例を示す図である。
図12(A)は、
図12(B)に示す対象空間の画像データに基づいて取得されたセンシングデータを示し、
図12(B)は
図12(A)のセンシングデータが取得された対象空間の画像データを示す。この場合、データ加工部27は、画像データを加工することによって、
図12(C)に示すようなセンシングデータが重畳された画像データを生成してもよい。センシングデータはどのような態様で重畳されてもよい。例えば、画像データを分割した各領域ごとにセンシングデータが取得される場合、センシングデータの各値を対応する領域に重畳させてもよい。また、データ加工部27は、複数の画像データを連携してパノラマ画像を生成してもよい。また、データ加工部27は、画像センサ1のデータ出力部16と同様の加工機能を有してもよい。
【0073】
このように構成された第3の実施形態のゲートウェイ装置2aは、センサデータの加工機能を有するため、より安全に外部提供データを提供することができる。また、この加工機能により、ゲートウェイ装置2aは、より付加価値が高い外部提供データを提供することができる。
【0074】
以上説明した少なくともひとつの実施形態によれば、画像データ又は画像処理部15の検知結果に基づくセンサデータを出力するデータ出力部16を持つ画像センサ1と、画像センサ1からセンサデータを取得するデータ取得部25と、取得されたセンサデータを記憶するセンサデータ記憶部23と、センサデータの取得に関する設定データを記憶する設定データ記憶部24と、を備えるゲートウェイ装置2と、を持つことにより、より多くの用途に対応した画像センサシステム、制御方法、ゲートウェイ装置及びコンピュータプログラムを提供することができる。
【0075】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【符号の説明】
【0076】
1…画像センサ、2,2a…ゲートウェイ装置、3…ハブ装置、4…保守端末、11…通信部、12…画像データ記憶部、13…設定データ記憶部、14…撮像部、15…画像処理部、16…データ出力部、21…第1通信部、22…第2通信部、23…センサデータ記憶部、24…設定データ記憶部、25…データ取得部、26…データ提供部、27…データ加工部、100…画像センサシステム、200…BEMS(Building Energy Management System)、300…照明制御システム、400…空調制御システム