【実施例1】
【0020】
本実施例は、監視用カメラで撮りためた映像を閲覧しやすい形に加工して保存するもので、トリガーが生じた部分を抽出して繋ぎ合わせて合成して表示するものである。詳細には、ネットワークを介して録画サーバで監視用カメラを作動させて、録画サーバが動画及び静止画のカメラ画像を撮影・収集して作成した一次データを元に、カメラ毎に所定の時間単位で動画として完結した二次映像データである個別映像データを作成し、複数の二次映像データを結合加工して三次映像データである結合映像データを作成し、録画サーバがユーザの端末に端末からの要求に応じてネットワークを介して、トリガーが生じた部分を抽出して繋ぎ合わせて合成して、モニターする映像を送信するものである。なお、再生のみならず、巻戻し・早送りも可能である。したがって、本実施例では、保存した映像の有効利用を実現できる。例えば、ある作業室において、材料投入時に異物混入のあった時間帯がなかったかを後日確認しようとした際、すぐに知ることができるし、問題のあったロットについて従業員に不審な動きがなかったかを後日確認しようとした際も、すぐに知ることができるし、作業室の不審者が入らなかったかを、扉があいた時の映像のみ同時再生してすぐに知ることができる。したがって、本実施例によれば、後日確認時の閲覧性が向上し、これまで長時間労力をかけて調べていた問題究明を、極めて短時間に、小さな労力で調べることができる。
【0021】
{構成}
図1は、本発明の監視カメラシステムの実施例1のネットワーク構成の一例を示す図である。LANやインターネット、Wi−Fi回線、3G/LTE回線、専用線等の通信網の組み合わせから構成されるネットワーク500上には、(1)画像を撮影するカメラとして、複数台の監視用カメラ(静止画用)400A〜C及び監視用カメラ(動画用)401、(2)ネットワーク500を介して監視用カメラ400、401と接続され、カメラで撮影した画像データを取得し蓄積し端末に送信する録画サーバとして、録画サーバ100、(3)ネットワーク500を介して録画サーバ100と接続され、録画サーバ100からの画像データを受信して表示する端末として、スマートフォンなどのモバイル端末200A〜Cや、デスクトップPC(パーソナルコンピュータ)やノートPCなどの閲覧PC300A〜C、(4)ネットワーク500を介して録画サーバ100と接続され、録画サーバ100に計測データを送信する計測デバイスとして、RFIDセンサ700Aや、ビーコンセンサ700Bや、自動ドア等のON/OFFセンサ700Cや、温度センサ700Dが接続されている。また、オープンデータベース等の他システムデータベースを介して、センサ700Eが接続されている。カメラは、監視用静止画カメラのみでもよいし、監視用動画カメラのみでもよいし、共に、録画サーバの処理範囲内であれば台数に制限はない。なお、以下、モバイル端末と閲覧PCとをまとめるときは、「端末」又は「Viewer」という。計測デバイスは例示であって、計測機器やセンサ等であってもよい。本実施例では、ON/OFFセンサ700Cは、HTTP接続のセンサであり、温度センサ700DはSOCKET接続であるが、FTP接続等、他の接続方法であってもよい。計測デバイスから録画サーバへのデータの送信方法は、計測デバイス側から録画サーバに、例えば5分、10分、1時間といった間隔で送信するものであってもよいし、録画サーバ側から計測デバイスに1秒毎のように短い間隔でデータを取得しにいくものでもよい。温度センサ700Dからは温度情報等を直接録画サーバに取得させるため、短い周期での情報取得が可能となる。カメラと同じ接続になるので、ローカルネットワーク外からの接続には、ルータにポートフォワーディング等の設定を行う。センサ700Eに接続された他システムデータベースは、センサ700Eの独自のクラウドデータベースであって、センサ700Eは10分毎にかかるデータベースにアップロードし、録画サーバは、かかるデータベースからデータを取得する。かかる方法によれば、短い周期の情報取得はできないが、デバイスの設置環境に影響しない情報取得が可能となる。計測デバイスの種類や数は、1以上いくつでもよい。また録画サーバとの接続方法についても、上述した接続方法以外の接続でもよい。
【0022】
録画サーバ100は、動画を撮影する監視用カメラ(動画用)401と同じLAN内に存在するが、静止画を撮影する監視用カメラ(静止画用)400が同じLAN内に存在する場合に限らず、インターネットやLAN等、複数のネットワークを介して接続されていてもよい。また、同じネットワーク上に複数の録画サーバがあってもよい。本実施例では、監視用カメラ400、401と録画サーバ100との通信がTCP/IP方式で、静止画を撮影する監視用カメラ(静止画用)400では、同じLAN内にカメラと録画サーバが存在しなくても、確実に画像データの送受信ができ、信頼性が高い。監視用カメラ400、401は、本実施例ではIPカメラであるが、アナログカメラでもよい。画像表示用の端末である閲覧PC300も、録画サーバ100と同じLAN内に存在する場合に限らず、インターネットやLANやWi-Fi回線等、複数のネットワークを介して接続されていてもよい。画像表示用の端末であるモバイル端末200についても、LAN、インターネット、携帯電話用ネットワーク(Wi−Fi回線や3G/LTE回線等)等、複数のネットワークを介して接続されていてもよい。なお、LANとインターネット間や静止画を撮影する監視用カメラとインターネット間やHTTP接続の計測デバイスとインターネット間はルータ600を介する。
図1は、監視用カメラ(動画用)及び監視用カメラ(静止画用)や閲覧PCやモバイル端末や計測デバイスを、録画サーバと複数のネットワークを介して接続した接続例を示すものであり、これに限定されない。本実施例では、監視用カメラ400、401と録画サーバ100との通信は、セッションを確立してから通信を開始する信頼性の高いTCPで行うが、セッションを確立しないでデータを送信する早くてリアルタイム性に優れたUDPでもよく、TCP、UDPどちらのプロトコルでも画像を取得できる。各種センサやバーコード読取装置やRFIDの情報読取装置等の計測デバイスから録画サーバに送信された計測データから、1又は複数種類のトリガーの有無を検出する。
【0023】
1台の録画サーバ100は、複数台の監視カメラ400、401から画像を取得することができる。本実施例では、録画サーバ100側がネットワークトラフィックを自動的に分散させるので、ネットワーク設計が不要で、カメラをポートに繋ぐだけで済むため、作業が非常に簡便となる。また、通信が不通になった場合にも再開が容易である。
【0024】
図2は、本発明の監視カメラシステムの実施例1の録画サーバの構成図である。録画サーバ100は、キャッシュメモリであるメモリ102を伴うCPU101やデバイスドライバ等を有する制御・演算装置と、DRAM等の主記憶装置やハードディスク等の補助記憶装置を有する記憶装置110と、ネットワークインターフェース104等の通信制御装置や表示装置としてのディスプレイ103、キーボード105、マウス106等で構成される入出力装置とを備えている。記憶装置110には、一次画像フォルダ111と二次映像フォルダ112と三次映像フォルダ116と動画連結・結合プログラム113をはじめとする各種プログラムと認証用データベースと環境設定フォルダ等の他、オペレーティングシステム114が格納されている。二次映像データである個別映像データから三次映像データである結合映像データを作成するための結合用映像データも記憶装置110内のフォルダに格納されている。また、計測デバイスから取得した計測データも記憶装置110内のフォルダに格納されている。さらに、計測デバイスの計測データ種別とカメラを紐づけたデータベースも、記憶装置110内に格納されている。動画連結・結合プログラム113をはじめとする各種プログラムは、通常、記憶装置110の補助記憶装置に格納されており、実行時には主記憶装置にロードされる。一次画像フォルダ111には、カメラ画像を一次データとして蓄積し、二次映像フォルダ112には、一次画像フォルダ111内に蓄積された一定時間分の一次データを動画圧縮変換して二次映像データとして蓄積する。かかる二次映像データが、カメラが撮影したカメラ画像を動画形式にした個別映像データである。認証用データベースには、モバイル端末200及び閲覧PC300の受付情報であるID、パスワード、個体識別情報(UID)が蓄積され、各監視用カメラ400、401や計測デバイス700のアクセス情報であるIPアドレス、ポート番号、ID、パスワードが蓄積されている。本実施例では、録画サーバ100は、録画サーバと端末が一体となっており、自ら画像を表示する端末の役割も果たすため、また、メンテナンスや管理のため、ディスプレイ103、また入力手段としてのキーボード105やマウス106を有している。録画サーバでカメラ画像の再生を要しない場合は、画像表示装置としての端末機能はなくてもよい。環境設定フォルダには、各監視用カメラの画像取得タイミング、一次データや二次映像データの作成間隔、圧縮条件、三次映像データ(結合映像データ)作成時のレイアウト等の条件、一次データや二次画像データの作成間隔、圧縮条件、計測データ取得タイミング、計測データから作成する計測データ表示画像の各種条件やレイアウト等が蓄積されている。録画サーバ100は、設置型のサーバであるが、クラウドサーバであってもよい。
【0025】
本実施例における録画サーバは、また、各計測デバイスの計測データ種別ごとに再生単位時間長データを有するデータベースを有する。
【0026】
録画サーバ100は、CPU101が、動画連結・結合プログラム113をメモリ102にロードして実行することにより本発明の動画結合編集処理等が可能なコンピュータの機能を実現する。CPU101は、通常のコンピュータに搭載する演算処理装置であり、各種プログラムを実行し、各種制御等を行う。
【0027】
録画サーバ100は、1台のサーバとする他、複数のサーバからなるサーバ群であってもよい。例えば、二次映像フォルダについて、一定期間(例えば24時間)経過後の二次映像データについては、保存先を、カメラ画像を取得する録画サーバと別の録画サーバに設けた二次映像フォルダとしてもよい。頻繁には再生しない過去の保存データを別にすることで、さらに多くの台数のカメラを同一ネットワーク上で監視可能となる。
【0028】
録画サーバ100は、監視用カメラとの接続を行い、一定時間(例えば1秒)毎に、接続した静止画撮影用の監視用カメラに静止画を撮影させ撮影したカメラ画像を録画サーバに入力させ、一定時間(例えば10秒)ずつ、接続した動画撮影用の監視用カメラに動画を連続撮影させ撮影したカメラ画像を録画サーバに入力させ、圧縮して一次データを作成し記憶装置110の一次画像フォルダ111に蓄積する。そして一次データを、一定時間(例えば10分)毎に結合させタイムスタンプを付して動画形式で圧縮した二次映像データに変換する。本実施例では、二次映像データすなわち個別映像データは、それぞれ、同じ時間分のデータであり、全て同じフレーム数に調整してある。本実施例では、10分間分の個別映像データとしてあるが、これに限らない。
【0029】
本実施例において、映像の結合方法は、1つのカメラについてトリガーの前後一定時間の映像を時系列で並べて連続表示するか、1つのカメラについてトリガーの前後一定時間の映像を合成して1画面に表示するか、複数のカメラについてトリガーの前後一定時間の映像を合成して1画面に表示するかのいずれかとする、トリガー結合である。
【0030】
録画サーバ100は、計測デバイス700との接続を行い、一定時間(例えば、5分、10分、1時間)毎に計測デバイスから送信された計測データを取得し、あるいは、一定時間(例えば1秒)毎に計測デバイスに計測データを送信させて計測データを取得し、記憶装置110のフォルダに蓄積する。
【0031】
図3は、本発明の監視カメラシステムの実施例1の録画サーバのデータベースと計測デバイスの計測データと画像での表示方法(温度計測例)のイメージ図である。録画サーバ100は、データベースに、計測デバイス毎に計測デバイスキーや情報収集間隔や接続方法等を紐づけたセンサマスタと、カメラ毎にカメラキーや画像収集間隔や接続方法等を紐づけたカメラマスタと、計測デバイスの計測種別すなわちセンサ項目毎にセンサ項目キーと計測デバイス(センサ)キーや項目名や単位等を紐づけたセンサ項目マスタと、センサ項目キーとカメラキーを紐づけたセンサ項目カメラ紐付マップとを有する。
【0032】
動画連結・結合プログラムは、コンピュータに、(1)計測データ種別毎に、計測データから指定する条件に合致するものを選択し、当該計測データの時刻情報を抽出しトリガーデータとするトリガーデータ抽出機能、(2)当該計測データ種別が紐付けられたカメラ毎に、フォルダから結合するトリガーデータの時刻を含む所定の時間帯の個別映像データを1又は複数選択する個別映像データ選択機能、(3)選択された個別映像データについて、複数連結の要否及び/又は一部削除の要否に応じて連結及び/又は一部削除を行い、それぞれ結合用映像データとする結合用映像データ作成機能、(4)結合用映像データを1つの動画に合成して結合映像データとする結合映像データ作成機能、(5)端末との接続を行う端末接続機能、(6)端末から動画閲覧要求を受け付ける閲覧要求受付機能、(7)端末に、結合映像データを送出して表示させる送出機能を実現させるためのプログラムである。どのカメラの映像をどのレイアウトで結合させるかの設定及び複数連結の要否及び/又は一部削除の要否や、トリガー毎のトリガー何分間前からトリガー何分後までの映像とするかの時間要件やどの計測装置のトリガーに基づいてどのカメラの映像をピックアップするかについては、予め録画サーバ100のデータベースに結合条件として記憶されている。
【0033】
本実施例では、動画連結・結合プログラムは、さらに、(8)選択された個別映像データのカメラに紐づけられた計測データ種別のうち表示する計測データ種別全てについて前記所定の時間帯の計測データを選択して計測データ表示画像を作成する計測データ表示画像作成機能を有し、(4)の結合映像データ作成機能が、結合用映像データのうち、同時に表示させる結合用映像データ同士は、フレーム数を同数に調整しフレーム間隔を同じに調整し、順次表示させる結合用映像データは表示順に並べて、前記結合用映像データに、計測データ表示画像を合成し、調整後の結合用映像データ全てを1つの動画に合成して結合映像データとする結合映像データ作成機能を実現させるためのプログラムである。
【0034】
なお、本実施例では、端末に表示した結合映像データについての巻戻し要求及び早送り要求及び再生要求を端末から受け付け、要求により、表示する結合映像データの巻戻し・早送り・再生を行う。
【0035】
本実施例では、一定時間(例えば10分)分毎に二次映像データが作成され、二次映像データがあれば三次映像データである結合映像データが作成できる。複数カメラのトリガーのある映像のみを、一画面もしくは連続して見ることができ、かつ一つの動画として録画サーバから端末へ送出されるためデータ量が小さくて済む。
【0036】
本実施例では、監視カメラと録画サーバとの接続はTCP/IP方式で行い、監視カメラを特定するため、認証を行ってからカメラ画像の撮影等の要求を行う。端末と録画サーバとの接続もTCP/IP方式で行い、端末が録画サーバに登録してある端末であることを確認してから画像送信を行う。認証は、録画サーバ上の認証用データベースによる認証が好ましい。
【0037】
録画サーバ100は、接続開始時毎に、監視用カメラや端末や計測デバイスのIPアドレス及びポート番号、UIDを調べ、ローカル環境(例えば、同じLAN上)にあるカメラや端末や計測デバイスとの接続開始時には、IPアドレス及びポート番号やUIDを用いた接続によって接続相手を特定でき、録画サーバ側で設定したユーザIDとパスワードで認証する。録画サーバ100は、インターネット網を介する等、遠隔環境にある監視用カメラとの接続では、ルータのポート転送(ポートフォワーディングなどとも表現される)を用いることで、グローバルIPアドレス及びポート番号を用いて接続相手を特定する。録画サーバ100は、モバイル端末200又は閲覧PC300の接続開始時にUIDを用いた端末固有情報を元に端末を特定するため、ユーザIDとパスワードの認証及び端末固有情報の一致により画像表示を可能とする。
【0038】
図4は、本発明の監視カメラシステムの実施例1の計測デバイス(HTTP接続)の構成図である。HTTP接続の計測デバイス700は、メモリ702を伴うCPU701やデバイスドライバ等を有する制御・演算装置と、DRAM等の主記憶装置やハードディスク等の補助記憶装置を有する記憶装置710と、ネットワークインターフェース704等の通信制御装置や表示装置としてのディスプレイ703等で構成される入出力装置とを備えている。記憶装置710には、データ収集プログラム等を含むプログラム713やオペレーティングシステム714やHTTPサービスプログラム717やデジタル/アナログ変換718が格納されている。HTTP接続の計測デバイス700は、例えば、市販のHTTP接続タイプの計測デバイスでもよい。CPU701は、通常の計測デバイスに搭載する演算処理装置であり、各種プログラムを実行し、各種制御等を行う。アナログで計測を行う場合、アナログセンサ716に記憶装置710に格納されているデジタル/アナログ変換718に接続して、デジタルデータに変換してデータ収集を行い、録画サーバにデータを送信する。他の接続方法の計測デバイス700でも、データ収集を行い、録画サーバにデータを送信する。シリアル接続の計測デバイス700では、RS232C/RS485シリアルデバイスを用いる。ソケット接続すなわちTCP/IP接続の計測デバイス700では、TCP/IP通信で録画サーバにデータを送信する。
【0039】
図5は、本発明の監視カメラシステムの実施例1の端末(モバイル)の構成図である。モバイル端末200は、メモリ202を伴うCPU201やデバイスドライバ等を有する制御・演算装置と、記憶装置210、データの送受信等を行う通信制御装置、表示装置としてのディスプレイ203、操作ボタンあるいはタッチパネル等の入出力装置を備えている。記憶装置210には、画像表示プログラム213やオペレーティングシステム214が格納されている。モバイル端末200は、例えばスマートフォン等の携帯電話等であり、CPU201が画像表示プログラム213をメモリ202にロードして実行することにより本発明の画像表示が可能なコンピュータの機能を実現する。CPU201は、通常のモバイル端末に搭載する演算処理装置であり、各種プログラムを実行し、各種制御等を行う。
【0040】
本実施例においては、録画サーバ100と閲覧PC300とは、ともにパーソナルコンピュータとして構成され、通常のパーソナルコンピュータが有するクロック機能等を備えている。モバイル端末200もクロック機能等を備えている。
【0041】
図6は、本発明の監視カメラシステムの実施例1の端末(PC)の構成図である。閲覧PC300は、メモリ302を伴うCPU301やデバイスドライバ等を有する制御・演算装置と、DRAM等の主記憶装置やハードディスク等の補助記憶装置を有する記憶装置310と、ネットワークインターフェース304等の通信制御装置や表示装置としてのディスプレイ303、キーボード305、マウス306等で構成される入出力装置とを備えている。記憶装置310には、画像表示プログラム313やオペレーティングシステム314が格納されている。閲覧PC300は、例えばデスクトップPCやノートPC、タブレット端末等であり、CPU301が画像表示プログラム313をメモリ302にロードして実行することにより本発明の画像表示が可能なコンピュータの機能を実現する。CPU301は、通常のPCに搭載する演算処理装置であり、各種プログラムを実行し、各種制御等を行う。
【0042】
画像表示プログラムは、コンピュータに、録画サーバとの接続を行う端末接続機能、録画サーバから送信された画像を表示する画像表示機能を実現させるためのプログラムである。
【0043】
本実施例では、画像表示プログラムは、より好ましい態様として、さらに、コンピュータに、巻戻し又は早送りの要求の入力を受け付け、録画サーバに三次映像データである結合映像データの一定単位分前又は後の映像を要求する巻戻し・早送り要求機能をも実現させるためのプログラムである。
【0044】
本実施例では、複数カメラの映像を結合して動画としてあるため、表示中の全てのカメラの映像を一度に巻き戻し・早送りすることができる。
【0045】
動画連結・結合プログラムと画像表示プログラムとを有する動画閲覧方法のプログラムは、それぞれのプログラムによるステップをコンピュータに実行させるものである。
【0046】
監視用カメラに併設される各種センサやバーコード読取装置やRFIDの情報読取装置は、録画サーバとネットワーク接続やシリアル接続もしくは中継器で変換された情報を録画サーバーに送る。例えば、トラックに搭載された監視用カメラに扉の開閉センサが併設されている場合、扉の開閉情報とカメラ画像を録画サーバに送信される。録画サーバは、センサ情報をデータベース管理し、動画結合指示と照合し目的の結合映像データを生成する。例えば、製品を製造するベルトコンベア上に設置された複数の監視用カメラとRFID情報読取装置が設置されている場合、あらかじめ監視カメラとRFID情報読取装置を紐付けし、商品のRFタグに入っている情報をリーダで読み取り、地点通過情報を管理する。
【0047】
本実施例では、画像を撮影する監視用カメラ400、401にネットワーク500を介して接続された録画サーバ100と、録画サーバ100にネットワーク500を介して接続され画像を表示する端末200、300とを具備しており、録画サーバ100には、監視用カメラとの接続を行い、一定時間(例えば1秒)毎に、接続した静止画撮影用の監視用カメラに静止画を撮影させ撮影したカメラ画像を録画サーバに入力させ、一定時間(例えば10秒)ずつ、接続した動画撮影用の監視用カメラに動画を連続撮影させ撮影したカメラ画像を録画サーバに入力させ、圧縮して一次データを作成し記憶装置110の一次画像フォルダ111に蓄積する。そして一次データを、一定時間(例えば10分)分毎に結合させタイムスタンプを付して動画形式で圧縮した二次映像データに変換する、各手段を設けてある。さらに、録画サーバ100には、(1)計測データ種別毎に、計測データから指定する条件に合致するものを選択し、当該計測データの時刻情報を抽出しトリガーデータとするトリガーデータ抽出手段、(2)当該計測データ種別が紐付けられたカメラ毎に、フォルダから結合するトリガーデータの時刻を含む所定の時間帯の個別映像データを1又は複数選択する個別映像データ選択手段、(3)選択された個別映像データについて、複数連結の要否及び/又は一部削除の要否に応じて連結及び/又は一部削除を行い、それぞれ結合用映像データとする結合用映像データ作成手段、(4)結合用映像データを1つの動画に合成して結合映像データとする結合映像データ作成手段、(5)端末との接続を行う端末接続手段、(6)端末から動画閲覧要求を受け付ける閲覧要求受付手段、(7)端末に、結合映像データを送出して表示させる送出手段をも設けてある。
【0048】
本実施例では、録画サーバ100には、さらに、(8)選択された個別映像データのカメラに紐づけられた計測データ種別のうち表示する計測データ種別全てについて前記所定の時間帯の計測データを選択して計測データ表示画像を作成する計測データ表示画像作成手段を有し、(4)の結合映像データ作成手段が、結合用映像データのうち、同時に表示させる結合用映像データ同士は、フレーム数を同数に調整しフレーム間隔を同じに調整し、順次表示させる結合用映像データは表示順に並べて、前記結合用映像データに、計測データ表示画像を合成し、調整後の結合用映像データ全てを1つの動画に合成して結合映像データとする結合映像データ作成手段である。
【0049】
本実施例では、録画サーバ100は、前述のハードウェア構成と動画連結・結合プログラム113によって、(1)〜(8)の手段として機能する。
【0050】
また、端末(モバイル端末200及び閲覧PC300)に、(1)録画サーバ100から送信された画像を表示する画像表示手段及び(2)巻戻し要求及び早送り要求及び再生手段を設けてある。
【0051】
本実施例では、端末200、300は、前述のハードウェア構成と画像表示プログラム213、313によって、(1)〜(2)の手段として機能する。例えば、録画翌日等に再生を行うとき、何日の何時の録画について再生をしたいかを選択し、10分分ずつ2次データに変換されたファイルを呼び出して、再生を行う。再生中の巻戻しや早送りも可能である。
【0052】
本実施例の監視カメラシステムは、静止画又は動画を撮影するカメラ群にネットワークを介して接続された録画サーバが、一定時間毎に、前記カメラ群からTCP/IP方式で、カメラ画像を静止画又は動画で取得し、圧縮して一次データを作成して、一定期間内は一次データのまま保存し、一定期間経過後に、タイムスタンプ情報を付加した高圧縮動画ファイルの二次映像データに変換して保存し直す。本実施例では、H.264形式で圧縮して動画ファイルに変換する。さらに、録画サーバで定めた形式又は端末からの要望に従った形式で、二次映像データである個別映像データを複数組み合わせて同時に並行して組合せ表示するための合成をした動画として三次映像データすなわち結合映像データを作成して端末に表示する。
【0053】
本実施例の監視カメラシステムは、必要な部分のみの閲覧ですみ、後日確認時の閲覧性を向上することができる。複数のカメラの動画を同時に再生でき、例えば、問題発覚から問題究明までの時間が短縮できる。
【0054】
{手順}
上述した本発明の監視カメラシステムの実施例1における動画結合方法及び、本発明の動画結合方法の実施例1を使用した動画閲覧方法の手順について次に説明する。なお、図を用いた手順の説明には、温度計測の例と自動ドアの例とトラック配送の例を適宜用いる。いずれも基本的な手順は同じであり、計測デバイスの種類やトリガーの種類や結合条件等が異なる。
【0055】
本実施例の動画結合方法における動画閲覧方法は、ネットワークを介して、画像を撮影する1又は複数のカメラ及び1又は複数の計測デバイス及び1又は複数の端末に接続され、カメラが撮影したカメラ画像を動画形式にしてフォルダに個別映像データとして保存し、計測デバイスから取得した計測データをフォルダに保存し、計測デバイスの計測データ種別とカメラを紐付けたデータベースを有する録画サーバが、(1)計測データ種別毎に、計測データから指定する条件に合致するものを選択し、当該計測データの時刻情報を抽出しトリガーデータとするトリガーデータ抽出ステップ、(2)当該計測データ種別が紐付けられたカメラ毎に、フォルダから結合するトリガーデータの時刻を含む所定の時間帯の個別映像データを1又は複数選択する個別映像データ選択ステップ、(3)選択された個別映像データについて、複数連結の要否及び/又は一部削除の要否に応じて連結及び/又は一部削除を行い、それぞれ結合用映像データとする結合用映像データ作成ステップ、(4)選択された個別映像データのカメラに紐づけられた計測データ種別全てについてカメラ毎に前記所定の時間帯の計測データを選択する計測データ選択ステップ、(5)結合用映像データを1つの動画に合成して結合映像データとする結合映像データ作成ステップ、(6)端末に、前記結合映像データを送出して表示させる送出ステップを含む。
【0056】
さらに、本実施例においては、(4)の計測データ選択ステップ後、(5)の結合映像データ作成ステップの前に、(8)選択された個別映像データのカメラに紐づけられた計測データ種別のうち表示する計測データ種別全てについて前記所定の時間帯の計測データを選択して計測データ表示画像を作成する計測データ表示画像作成ステップを含み、(5)の結合映像データ作成ステップが、結合用映像データのうち、同時に表示させる結合用映像データ同士は、フレーム数を同数に調整しフレーム間隔を同じに調整し、順次表示させる結合用映像データは表示順に並べて、結合用映像データに、計測データ表示画像を合成し、調整後の結合用映像データ全てを1つの動画に合成して結合映像データとする結合映像データ作成ステップである。
【0057】
録画サーバには、断続的にあるいは連続的に複数の監視用カメラから送信されるカメラ画像が一次画像フォルダに一次データとして蓄積され、一次データから作成された二次映像データが二次映像フォルダに蓄積される。二次映像データは、カメラ画像を動画形式にしてフォルダに保存された個別映像データである。対象となる個別映像データが作成された時点以降は端末からの結合映像データの表示要求に答えられるため、早い段階で複数カメラの映像を一度に確認でき、閲覧性が高い。
【0058】
本実施例においては、カメラやトリガーの種類や結合方法等については録画サーバにあらかじめ記憶されているが、端末から再生する対象となるカメラの選択やトリガーの選択を受け付け、次に映像の結合方法の選択を受け付け、受け付けた結合方法に応じて個別映像を連結・結合を行って表示させてもよい。
【0059】
本実施例では、録画サーバで予め定めた方法で選択した全てのカメラについて、トリガーデータの時刻を含む所定の時間帯の個別映像データを1又は複数選択する。本実施例の動画結合方法は、例えば、所定のカメラに紐付けられた温度湿度センサで計測された温度が一定以上となった時の前後の映像のみを連続して確認したいときや、扉を開けたときの複数方向に設置したカメラの映像のみを一度に確認したいときなどに有用な結合方法である。
【0060】
端末から動画閲覧要求を受け付けると、本実施例では、選択した全てのカメラについて、トリガーデータの時刻を含む所定の時間帯の個別映像データを1又は複数選択する。トリガーデータは、計測データ種別ごとに指定する条件に合致して選択された計測データの時刻情報である。例えば、
図3に示した例で説明すると、カメラ001(キーC01)に紐付けられた温度湿度センサである計測デバイス「温湿計A」(キーS01)の計測データ種別が温度(キーI01)と湿度(キーI02)であって、計測データ種別の一つである温度(キーI01)について指定する条件が25℃以上であるときに、温度湿度センサ(キーS01)で25℃以上を記録した計測データ(キーI01)の時刻情報が12時5分から12時7分までと13時15分から13時20分までであるとき、トリガーデータは、計測デバイスが温度湿度センサで計測データ種別が温度(キーI01)では、12時5分から12時7分と13時15分から13時20分までとなり、トリガーデータの時刻を含む所定の時間帯を、前2分、後3分とすると、選択されるカメラ0011(キーC01)の個別映像データは、12時3分から12時10分と13時13分から13時23分までのデータとなる。
【0061】
表示方法が複数のカメラの映像についての同時表示の場合、カメラ001(キーC01)に紐付けられた温度湿度センサである計測デバイス「温湿計A」(キーS01)の計測データ種別が温度(キーI01)と湿度(キーI02)であって、計測データ種別の一つである温度(キーI01)について指定する条件が25℃以上であるときに、温度湿度センサで25℃以上を記録した計測データ(キーI01)の時刻情報が12時5分から12時7分であり、別のカメラであるカメラ002(キーC02)に紐づけられた温度湿度センサ「温度計B」(キーS02)でも同じ指定条件であって、温度湿度センサ(キーS02)で25℃以上を記録した計測データの時刻情報が13時15分から13時20分であるとき、トリガーデータは、計測デバイスが温度湿度センサ(キーS01、キーS02)で計測データ種別が温度(キーI01、I03)では、カメラ001(キーC01)では12時5分から12時7分まで、カメラ002(キーC02)では13時15分から13時20分までとなり、トリガーデータの時刻を含む所定の時間帯を、前2分、後3分とすると、選択される個別映像データは、カメラ001(キーC01)では12時3分から12時10分、カメラ002(キーC02)では13時13分から13時23分のデータとなる。カメラ001(キーC01)の12時3分から12時10分までの個別映像データと、カメラ002(キーC02)の13時13分から13時23分までの個別映像データを、フレーム間隔及びフレーム数をデータ間でそれぞれ同数に調整し、調整後の結合用映像データを全て1画面に分割して表示されるように1つの動画に合成したもの、あるいは調整後の結合用映像データに計測データ表示画像を合成して1つの動画としたものが、結合映像データとなる。
【0062】
表示方法が1つのカメラの映像についての連続表示の場合、次のようになる。
図7は、本発明の動画結合方法の実施例1の動画連結方法(温度計測例)のイメージ図である。指定する条件を、「温湿計A」(キーS01)の計測データ種別が温度(キーI01)について30℃とし、トリガーデータの時刻を含む所定の時間帯を、前2秒前、後5秒とし、動画単位を1時間とすると、カメラ0011(キーC01)の12時26分25秒から12時26分37秒までの個別映像データと12時28分6秒から12時28分13秒までの個別映像データを連結して結合用映像データとし、その結合用映像データ、あるいはその結合用映像データに所定の計測データ種別(I01、I02、I03)の計測データ表示画像を合成して1つの動画としたものが、結合映像データとなる。
【0063】
表示方法が1つのカメラの映像についての同時表示の場合、当該カメラの12時26分25秒から12時26分37秒までの個別映像データと12時28分6秒から12時28分13秒までの個別映像データを、フレーム間隔及びフレーム数をデータ間でそれぞれ同数に調整し、調整後の結合用映像データを全て1画面に分割して表示されるように1つの動画に合成したもの、あるいは調整後の結合用映像データに計測データ表示画像を合成して1つの動画としたものが、結合映像データとなる。
【0064】
図8は、本発明の動画結合方法の実施例1の計測データ取得フロー(自動ドア例)の概略図である。録画サーバは、計測デバイス(例えば、自動ドアが「開」のとき「ON」、「閉」のとき「OFF」となるHTTP接続のセンサに対し、HTTP通信接続を要求し、ユーザ・パスワード認証で接続を完了し、一定時間毎にセンサに対し計測データ(センサーデータ)を要求すると、センサ側で取得した計測データを録画サーバへ送信し、録画サーバのデバイスデータベースに取得した計測データを保存する。
【0065】
図9は、本発明の動画結合方法の実施例1の動画連結フロー(自動ドア例)の概略図である。端末から、閲覧要求を受け付けると、予め録画サーバで設定された方法で三次映像データである結合映像データの作成を開始する。本実施例においては、同一のカメラの映像の連結であり、自動ドアが「開」のときセンサが「ON」の計測データとなる計測デバイスで、録画サーバは、「ON」の計測データとなる時刻情報すなわちトリガーデータを、9時5分2秒、9時13分7秒、9時20分17秒とし、動画単位を1分間、開始条件をトリガーデータが含まれる動画単位の開始時、終了条件をトリガーデータが含まれる動画単位の終了時、すなわち1つの動画単位を個別映像データの単位として、9時台の入出写動画を生成する。対象となるカメラ、
図9の場合で、自動ドア正面のカメラの二次映像データから、トリガーデータに基づいて、個別映像データとして、9時5分0秒から1分間、9時13分0秒から1分間、9時20分0秒から1分間、の各映像データをピックアップし、それらの動画を時系列で連結して結合用映像データとし、かかる結合用データを1つの動画として結合映像データすなわち三次映像データとして保存する。
【0066】
図10は、本発明の動画結合方法の実施例1の連結手順のイメージ図である。第一のトリガーデータと紐づけられたカメラの個別映像データが、カメラCAM01の10時00分からの映像と10時20分からの映像と10時30分からの映像であって、第二のトリガーデータと紐づけられたカメラの個別映像データが、カメラCAM01の10時40分からの映像と、CAM03の10時00分からの映像と10時20分からの映像と、CAM04の10時10分からの映像と、CAM06の10時20分からの映像である場合であって、トリガーとして第一のトリガーが選択されたとき、CAM01の10時00分からの映像と10時20分からの映像と10時30分からの映像を連結して合成する。トリガーが同時刻で別の個別映像データで重なる場合、そのタイミングの画面を、重なったカメラの映像で複数分割して一画面にするのか時系列に単純に並べるかを指定する。トリガーとして第二のトリガーが選択されたとき、同時刻の時は結合する場合には、CAM03とCAM06の10時20分の映像については1画面で表示するように合成し、複数のカメラの対象となる映像を撮影時間順に連結して合成する。例えば、CAM01について1日毎に黒丸のトリガー映像を連結したもの(フレーム数がすべて同一)が、
図10の左下のCAM01_201604151のような映像になる。CAM01_201604151は、対象カメラ映像が完全に完成する時刻を経過した後に、ピックアップから連結が開始される。黒丸のトリガーの場合、最後に完成する二次映像データはCAM01_1030であるので、対象カメラCAM01の三次映像データについては、10時30分以降に動画生成が開始される。完成時間は不明となる。複数のカメラについて白丸のトリガー映像を連結したもの(フレーム数がすべて同一)であって重なったカメラの映像を複数分割して一画面にしたものが、
図10の右下のCAM01_201604152のような映像になる。
【0067】
複数の個別映像データを連結する方法は、例えば、9時20分から10分間の個別映像データと9時30分から10分間の個別映像データと9時40分から10分間の個別映像データと9時50分から10分間の個別映像データから、9時25分から9時55分の結合用映像データを作成するときは、まずは個別映像を連結して、9時20分から5分間分の映像と9時55分から5分間分の映像を削除するトリミングをすることで行う。
【0068】
複数の結合用映像データについてフレーム間隔及びフレーム数を映像データ間でそれぞれ同数に調整する方法は、元となる個別映像データが、例えば、A、B、Cのカメラで、Aのカメラの一次データが1秒間に1フレーム、Bのカメラの一次データが1秒間に5フレーム、Cのカメラの一次データが1秒間に10フレームであるとき、全てを1秒間に5フレームの動画とする場合、足りない分は直前のフレームで補い、多い分は間引きする。
【0069】
図11は、本発明の動画結合方法の実施例1のフレーム数調整手順のイメージ図である。複数の結合用映像データについてフレーム間隔及びフレーム数を映像データ間でそれぞれ同数に調整する方法は、元となる個別映像データが、例えば、A、B、Cのカメラで、Aのカメラの一次データが1秒間に1フレーム、Bのカメラの一次データが1秒間に5フレーム、Cのカメラの一次データが1秒間に10フレームであるとき、全てを1秒間に5フレームの動画とする場合、足りない分は直前のフレームで補い、多い分は間引きする。
【0070】
図12は、本発明の動画結合方法の実施例1における監視カメラの設置状況(トラック配送例)のイメージ図である。
図12に示した監視カメラの設置例では、トラックの後部扉と各集配拠点に監視カメラを設置していて、トラックの後部扉には、監視カメラ(Tカメラ)と扉の開閉センサが設置されており、連続的なTカメラの映像が録画サーバに送信されるとともに、扉が開いた時に、「ON」の計測データとなり「ON」となったときの時刻情報がトリガーデータとして録画サーバに蓄積される。さらに、トラックの集配拠点である、A拠点、B拠点、及びC拠点において、商品の箱等に埋め込まれているRFタグの情報を読み取り地点通過情報を管理するRFIDの読み取り装置が設けられており、各集配拠点の監視カメラ(A〜Cカメラ)は、それぞれの拠点のRFIDの読み取り装置に紐付けられており、連続的なA〜Cカメラの映像が録画サーバに送信されるとともに、地点通過情報のデータが録画サーバに送信され、地点通過情報と共に、地点通過情報を読み取ったときの時刻情報がトリガーデータとして録画サーバに蓄積される。RFIDによりトラックが各拠点に入庫したことを検知するものであってもよい。
【0071】
図13は、本発明の動画結合方法の実施例1における二次映像データ(トラック配送例)を示すイメージ図である。A拠点においてトラックが9時30分から9時45分までに扉を開けて荷物を降ろして読取装置で地点通過情報を取得し、B拠点においてトラックが11時20分から11時40分までに扉を開けて荷物を降ろして読取装置で地点通過情報を取得し、C拠点においてトラックが15時00分から15時25分までに扉を開けて荷物を降ろして読取装置で地点通過情報を取得した場合に、二次映像データには、Aカメラ、Bカメラ、Cカメラの連続的映像データと、Tカメラの断続的映像データが蓄積される。Tカメラでは扉が開いたときのみ明るくなるため、9時30分から9時45分まで、11時20分から11時40分まで、15時00分から15時25分まで以外は真っ暗な映像となる。
図12に示した例では、トラックに搭載したカメラからは各拠点のベルトコンベアが写り、各拠点のカメラには、トラックからの荷卸し状況が写る。
【0072】
図14は、本発明の動画結合方法の実施例1の動画連結フロー(トラック配送例)のイメージ図である。AカメラとBカメラとCカメラとTカメラについて、トリガーデータをRFID読取装置での地点通過情報読み取り時、すなわち、A拠点では9時30分から9時45分まで、B拠点では11時20分から11時40分まで、C拠点では15時00分から15時25分まで、トラックの扉センサでは9時30分から9時45分までと11時20分から11時40分までと15時00分から15時25分までとすると、まずはこれらのトリガーデータを抽出し、個別映像データとして、9時30分から9時45分までのAカメラ及びTカメラの映像と、11時20分から11時40分までのBカメラ及びTカメラの映像と、15時00分から15時25分までのCカメラ及びTカメラの映像とをピックアップし、動画連結を行って結合用映像データを作成し、全ての結合用映像データについてフレーム調整を行って1つの動画に結合し、結合映像データすなわち三次映像データを作成して保存する。
【0073】
図15は、本発明の動画結合方法の実施例1の表示画面(トラック配送例)を示すイメージ図である。トラックの扉の開閉に合わせて映像を確保し、トラックに設置したRFIDにより各拠点の到達を認識する。トラックのカメラ(Tカメラ)と、各拠点のカメラ(A,B,Cカメラ)を結合し、それぞれを連結することで映像を生成する。
【0074】
結合映像データは、9時30分から9時45分までのAカメラ及びTカメラの映像と、11時20分から11時40分までのBカメラ及びTカメラの映像と、15時00分から15時25分までのCカメラ及びTカメラの映像を1つの動画に合成したもので、短時間で各拠点の映像とトラックの映像を同時に確認することができる。異なる時間帯でも全てのカメラについて1つの画面に分割して表示することができる。その他、1つのカメラを対象にトリガーのあった動画だけを結合する場合、例えば、トラックの配送などで積み荷の中に設置したカメラの映像について扉が開いている時だけを集めることが可能となる。その場合、画面内を分割して一度に閲覧したり、画面内を分割せずに1つ目の動画の後ろに結合して連結することで、クレームなどがあった時の状況確認や、配送の早い人の作業方法を確認したりすることも可能となる。トリガーとなる情報は、扉の開閉だったり、映像が明るくなった時など、状況により様々可能であり、段ボールにRFIDやバーコード等を設置すればゲート通過時等の映像をすべて結合することも可能となる。
【0075】
{効果}
本実施例によれば、必要な部分のみの閲覧ですみ、後日確認時の閲覧性を向上することができる。1又は複数のカメラの動画を同時に再生でき、例えば、温度異常や入場者確認や荷物紛失等、問題発覚から問題究明までの時間が短縮できる。
【0076】
より詳細には、本実施例によれば、時間単位の単純な閲覧ではなく全く新しい切り口で新たな用途の動画を生成することができる。例えば、製造現場でのロット(段ボール)単位であったり、配送トラックの荷物の出し入れタイミングなど、後日確認時の閲覧性を向上させることができる。また不要な録画情報を削減できる。さらに独自の再生機をソフト開発することで、結合した三次映像データから目的動画を拡大表示し、詳細な閲覧も可能にする。
【0077】
本実施例の動画結合方法によれば、トリガーのある映像のみを集めて一度に見ることができるので、閲覧性を向上させることができる。
【0078】
今までは、問題発生時にしかカメラ映像は閲覧されなかったが、本実施例の監視カメラシステムによれば、短時間で確認できるため日常的にチェックすることも可能となり、業務改善や問題行動の早期発見に効果がある。また、結合映像データすなわち三次映像データのみあれば事足りるような場面では、元となった一次データのみならず二次映像データも削除することで、ストレージを劇的に削減できる。
【0079】
本実施例によれば、問題発生時に多くの動画ファイルを長時間かけて見つけていた労力が削減できる。また、複数同時閲覧は業務に組み込んでも負担にならないので業務改善される。また、保存動画を多く見るようになることで、抑止力が強まる。また、配送時のクレームなどの真偽が確認できる。なお、これによる波及効果として配送業者への嘘のクレームが減ると考えられる。
【0080】
本実施例によれば、一部のカメラの映像についてフレーム数を減らしても、全体として意味のある三次映像データができる。
【0081】
なお、本発明は、上記実施の形態に限定されず、その発明の趣旨を逸脱しない範囲で種々と変形実施が可能である。また、上記各実施の形態の構成要素を発明の趣旨を逸脱しない範囲で任意に組み合わせることができる。