【実施例1】
【0019】
実施例1の監視方法は、ネットワークを介して録画サーバで監視用カメラを作動させて、録画サーバが動画や静止画のカメラ画像を撮影・収集・編集・保存し、録画サーバがユーザの端末に端末からの要求に応じてネットワークを介してモニターする画像を送信する監視カメラシステムであって、なかでも、録画サーバと同じLANネットワーク上になくインターネットを介して録画サーバと接続された動画撮影用カメラがある監視カメラシステムにおける監視方法である。実施例1の監視方法に用いる実施例1の動画分割装置についても合わせて説明する。
【0020】
上記監視カメラシステムは、録画サーバにおいて復元された画像や映像を端末等に送信して、ライブ画像の再生・巻戻し・早送りもリライブ再生も行うことができるものである。また、上記監視カメラシステムは、復元された画像を圧縮して保存し、画像を端末等に送信して、過去の画像の再生・巻戻し・早送りも行うことができるものである。本実施例では、カメラで撮影した動画を分割して動画分割装置から録画サーバにTCP/IPで転送することにより、動画分割装置と録画サーバの間の回線が安定しない環境でも最大限データを収集することができ、現地に録画サーバを設置せずにクラウドサーバ等での動画収集が可能となる。また、単純な動画収集に比べて、高画質の映像復元を可能としながら回線状況の悪化に強いデータ送信が可能となる。さらに、動画分割装置における動画を分割した後の送信する順序及び送信タイミング並びに録画サーバでの処理によって、録画サーバへの映像送信の遅延を防止し、録画サーバで動画収集中にも高画質のライブ画像を再生・巻戻し・早送りでき、さらに、高画質で再生・巻戻し・早送り可能な動画での保存もできる。
【0021】
{構成}
図1は、本発明の監視方法における監視カメラシステムの構成の一例を示す図である。LANやインターネット、Wi−Fi回線、3G/LTE回線、専用線等の通信網の組み合わせから構成されるネットワーク500上には、(1)画像を撮影するカメラとして、複数台の監視用カメラ(動画用)700A〜Cと複数台の監視用カメラ(静止画用)701A、(2)監視用カメラ(動画用)700B、Cのそれぞれに接続されており、監視用カメラで撮影した映像を取得して録画サーバ100に転送する動画分割装置400B、C、(2)ネットワーク500を介して監視用カメラ(静止画用)701や監視用カメラ(動画用)700と接続され、カメラで撮影した画像データや映像データを取得し蓄積し端末に送信する録画サーバとして、録画サーバ100、(3)ネットワーク500を介して録画サーバ100と接続され、録画サーバ100からの画像データを受信して表示する端末として、スマートフォンなどのモバイル端末200A、Bや、デスクトップPC(パーソナルコンピュータ)やノートPCなどの閲覧PC300A〜Cが接続されている。
図1中では、監視用カメラ(動画用)で撮影された動画(ストリーム動画)の流れを点線矢印で図示している。なお、以下、モバイル端末と閲覧PCとをまとめるときは、「端末」又は「Viewer」という。
【0022】
録画サーバ100は、監視用カメラ(動画用)700B、Cとは、インターネットを含むネットワーク500を介して接続されている。本実施例における監視カメラシステムでは、録画サーバ100と同じLAN以外のネットワーク上にも、静止画を撮影する監視用カメラ(静止画用)のみならず、動画を撮影する監視用カメラ(動画用)を設けてある。本実施例は、録画サーバと同じLAN以外のネットワーク上にある監視用カメラ(動画用)を含む監視カメラシステムにおける監視方法であり、監視用カメラ(静止画用)や録画サーバと同じLANネットワーク上にある監視用カメラ(動画用)はなくてもよい。また、閲覧する端末は、録画サーバと同じLANネットワーク上だけでもよいし、録画サーバとインターネットを介して接続されたものだけでもよいし、録画サーバが閲覧端末を兼ねてもよい。録画サーバ100は、監視用カメラ(動画用)700Bとは、動画分割装置400B、ルータ600B、インターネット、ルータ600A及びLANネットワークを介して接続されており、監視用カメラ(動画用)700Cとは、動画分割装置400C、ルータ600C、インターネット、ルータ600A及びLANネットワークを介して接続されており、監視用カメラ(動画用)700B、Cからは、それぞれ動画分割装置400B、Cから画像データを取得する。録画サーバ100が接続されたLANとルータ600Aを介して接続されたインターネット網には、3G/LTE回線が接続され、またルータ600Cを介して別のLANが接続されている。動画分割装置400Bは、ルータ600Bと3G/LTE回線を介してインターネット網に接続されており、動画分割装置400Cは、ルータ600CとLANネットワークを介してインターネット網に接続されている。動画分割装置400Cは、録画サーバ100とは異なるLANに接続されている。
図1は、監視用カメラ(動画用)及び監視用カメラ(静止画用)や閲覧PCやモバイル端末を、録画サーバと複数のネットワークを介して接続した接続例を示すものであり、これに限定されない。本実施例では、監視用カメラ(静止画用)701と録画サーバ100との通信及び監視用カメラ(動画用)700と録画サーバ100との通信は、セッションを確立してから通信を開始する信頼性の高いTCPで行うが、セッションを確立しないでデータを送信する早くてリアルタイム性に優れたUDPでもよく、TCP、UDPどちらのプロトコルでも画像を取得できる。
【0023】
監視用カメラ(動画用)や監視用カメラ(静止画用)は、本実施例ではIPカメラであるが、アナログカメラでもよい。ただし、アナログの場合、変換器を要する。画像表示用の端末である閲覧PC300も、録画サーバ100と同じLAN内に存在する場合に限らず、インターネットやLANやWi-Fi回線等、複数のネットワークを介して接続されていてもよい。画像表示用の端末であるモバイル端末200についても、LAN、インターネット、携帯電話用ネットワーク(Wi−Fi回線や3G/LTE回線等)等、複数のネットワークを介して接続されていてもよい。なお、LANとインターネット間や、監視用カメラ(動画用)及び監視用カメラ(静止画用)とインターネット間は、ルータ600を介する。
【0024】
1台の録画サーバ100は、複数台の監視カメラ(動画用)700からカメラ動画を、また複数台の監視カメラ(静止画用)701からカメラ静止画を取得することができる。本実施例では、録画サーバ100側がネットワークトラフィックを自動的に分散させるので、ネットワーク設計が不要で、カメラをポートに繋ぐだけで済むため、作業が非常に簡便となる。また、通信が不通になった場合にも再開が容易である。
【0025】
録画サーバ100にはLANを介して監視用カメラ(動画用)700Aと監視用カメラ(静止画用)701Aにも接続されているが、本実施例の監視方法は、監視用カメラ(動画用)のみを対象とし、また、録画サーバ100とLAN上で接続されたカメラについては対象としていないため、以下で述べるカメラには、監視用カメラ(静止画用)(
図1では監視用カメラ(静止画用)701Aで例示される)及び、録画サーバ100とLAN上で接続された監視用カメラ(動画用)(
図1では監視用カメラ(動画用)700Aで例示される)を含まない。
【0026】
従来のIPカメラシステムでは、動画を取得する監視カメラは、録画サーバと同じLAN上に置かないと、回線状況が悪化したときに映像が粗くなる可能性が高かったが、本実施例では、クラウド環境で安定的な監視カメラ映像の収集を可能とするので、インターネット上、また、携帯端末等、3G/LTE回線上にも動画用の監視カメラを設けることができるため、自由度が非常に高くなる。
【0027】
図2は、本発明の監視方法の実施例1における監視カメラシステムの録画サーバの構成図である。録画サーバ100は、キャッシュメモリであるメモリ102を伴うCPU101やデバイスドライバ等を有する制御・演算装置と、DRAM等の主記憶装置やハードディスク等の補助記憶装置を有する記憶装置110と、ネットワークインターフェース104等の通信制御装置や表示装置としてのディスプレイ103、キーボード105、マウス106等で構成される入出力装置とを備えている。記憶装置110には、一次画像フォルダ111と一次映像フォルダ115と二次映像フォルダ112とプログラム113と認証用データベースと環境設定フォルダ等の他、オペレーティングシステム114が格納されている。プログラム113は、通常、記憶装置110の補助記憶装置に格納されており、実行時には主記憶装置にロードされる。一次画像フォルダ111には、動画分割装置400から取得した分割データから抽出した、Iフレームの静止画を一次画像データとして蓄積し、一次映像フォルダ115には、動画分割装置400から取得した分割データをシリアルナンバー順に結合して作成された動画を一次映像データとして蓄積し、二次映像フォルダ112には、一次映像フォルダ111内に蓄積された一定時間分の一次映像データを動画圧縮変換して二次映像データとして蓄積する。プログラム113には、収集・編集プログラムや送信プログラム等、各種プログラムを含む。認証用データベースには、ID、パスワード、各監視用カメラ700、701やモバイル端末200や閲覧PC300のポート番号とIPアドレス、IPアドレスのない端末では個体識別情報(UID)が蓄積されている。本実施例では、録画サーバ100は、録画サーバと端末が一体となっており、自ら画像を表示する端末の役割も果たすため、また、メンテナンスや管理のため、ディスプレイ103、また入力手段としてのキーボード105やマウス106を有している。録画サーバでカメラ画像の再生を要しない場合は、画像表示装置としての端末機能はなくてもよい。環境設定フォルダには、各動画分割装置からの映像取得タイミング、一次画像データや一次映像データや二次映像データの作成間隔、圧縮条件等が蓄積されている。録画サーバ100は、クラウドサーバであるが、設置型のサーバであってもよい。
【0028】
録画サーバ100は、インターネットを介して接続された監視カメラ(動画用)700B、Cには、それぞれ動画分割装置400B、Cを通じて接続要求し、動画分割装置400B、Cから監視カメラ(動画用)700B、Cに動画の撮影を要求することにより動画分割装置400B、Cが監視カメラ(動画用)700B、Cから取得した動画を、動画分割装置400B、Cにおいて分割し、録画サーバから動画分割装置400B、Cに動画の分割データを要求することにより、録画サーバ100は、動画分割装置400B、Cに、後で復元できるように分割したデータで個々に録画サーバ100に送信させる。
【0029】
録画サーバ100は、CPU101が、収集・編集プログラムをメモリ102にロードして実行することにより本実施例の監視方法における動画分割装置からの画像取得から編集保存までが可能なコンピュータの機能を実現する。録画サーバ100は、CPU101が、送信プログラムをメモリ102にロードして実行することにより端末への画像送出処理が可能なコンピュータの機能を実現する。CPU101は、通常のコンピュータに搭載する演算処理装置であり、各種プログラムを実行し、各種制御等を行う。
【0030】
録画サーバ100は、1台のサーバとする他、複数の録画サーバからなるサーバ群であってもよい。例えば、二次映像フォルダについて、一定期間(例えば24時間)経過後の二次映像データについては、保存先を、カメラ画像を取得する録画サーバと別の録画サーバに設けた二次映像フォルダとしてもよい。頻繁には再生しない過去の保存データを別にすることで、さらに多くの台数のカメラを同一ネットワーク上で監視可能となる。
【0031】
収集・編集プログラムは、コンピュータに、(1)動画分割装置との接続を行う動画分割装置接続機能、(2)一定時間(例えば3秒)毎に、接続した動画分割装置に最新の分割データを録画サーバに入力させる最新の分割データ取得機能、(3)動画分割装置に補完の分割データを録画サーバに入力させる補完の分割データ取得機能、(4)動画分割装置から取得した分割データからIフレームを抽出するIフレーム抽出機能、(5)抽出したIフレームをメモリに展開するIフレームメモリ展開機能、(6)抽出したIフレームを一次画像データとして一次画像データフォルダに保存する一次画像データ保存機能、(7)動画分割装置から取得した分割データを一次映像データ生成単位の時間(例えば10分)分ずつ結合して一次映像データとして一次映像データフォルダに保存する一次映像データ保存機能、(8)一次映像データ生成単位の時間を経過したかを判断する一次映像データ生成単位時間経過判断機能、(9)取得した分割データのシリアルナンバーに抜けがないかを判断する補完要否判断機能、(10)動画分割装置に所定の分割データを削除させる分割データ削除要求機能を実現させるためのプログラムである。
【0032】
本実施例では、収集・編集プログラムは、より好ましい態様として、さらに、コンピュータに、一次映像データを、一定時間(例えば10分)分毎に結合させタイムスタンプを付して動画形式で圧縮した二次映像データに変換する二次映像データ作成機能をも実現させるためのプログラムである。一次画像データは、全て全画像(Iフレーム(イントラフレーム))であり、一次映像データは、取得した分割データを撮影順(すなわちシリアルナンバー順)に並べて結合させた、IフレームとPフレーム(予測インターフレーム)とで構成される動画のデータであり、二次映像データは、一次映像データを動画形式のまま圧縮し、例えば、Iフレームを200フレームにつき1枚の割合とし、Pフレーム(予測インターフレーム)だけでなくBフレーム(双方向予測インターフレーム)を組み合わせて挿入してもよく、劣化せずに容量を削減する。本実施例では、未来のIフレームを参照することができるので、Bフレームを挿入できる。Bフレームは前後比較差分であるので、Pフレームよりも小さくなる。
【0033】
送信プログラムは、コンピュータに、端末との接続を行う端末接続機能、端末にカメラ一覧を表示して端末からのカメラの選択を受け付ける画像選択受付機能、選択されたカメラについて一次データの画像をライブ画像として端末に送信するライブ画像送信機能、端末よりライブ画像からの巻戻し要求を受け付けるライブ画像巻戻し受付機能、巻戻し要求毎に、端末に前回送信した画像より一定時間分(例えば1秒分)過去の時点の一次データを抽出して巻戻しライブ画像として端末に送信する巻戻しライブ画像送信機能、端末より巻戻しライブ画像からの早送り要求を受け付ける巻戻しライブ画像早送り受付機能、早送り要求毎に、現時点の画像に達するまでは、端末に前回送信した画像より一定時間分(例えば1秒分)未来の時点の一次データを抽出して早送りライブ画像として端末に送信する早送りライブ画像送信機能をも実現させるためのプログラムである。「現時点の画像」とは、動画分割装置から取得した分割データから抽出したIフレームのうち一番新しいものを意味する。したがって、現時点の画像は、動画分割装置からの分割データが録画サーバに入力される度に、新しい画像に変わる。
【0034】
送信プログラムは、さらに、コンピュータに、端末より巻戻しライブ画像からのリライブ画像要求を受け付けるリライブ画像受付機能、リライブ画像要求毎に、端末に前回送信した画像より一定時間分、詳細には、動画分割装置400から録画サーバ100への最新の分割データの取得間隔分、未来の時点の一次画像データを抽出して早送りライブ画像として端末に送信するリライブ画像送信機能をも実現させるためのプログラムである。なお、ここで「リライブ画像」は、ライブ画像から過去へ巻き戻しての再生画像を指す。
【0035】
また、送信プログラムは、さらに、コンピュータに、二次映像データ作成後に、端末より映像の再生要求があった場合は、一次画像データの代わりに二次映像データを抽出し、再生や巻戻しや早送りといった端末からの求めに応じ、端末に映像を送信する二次映像送信機能をも実現するためのプログラムである。
【0036】
本実施例では、端末200、300と録画サーバ100との接続もTCP/IP方式で行い、ユーザIDとパスワードで認証を行って、端末が録画サーバに登録してある端末であることを確認してから画像送信を行う。認証は、録画サーバ上の認証用データベースによる認証が好ましい。
【0037】
端末が同じLAN上になくても録画サーバがルータを介してネットワークで繋がっていれば、接続するルータのIPアドレスとルータに割り振られたポート番号で録画サーバから画像(全画像、若しくは圧縮画像)の取得を行う。端末の接続には、端末認証時に登録したUIDを利用して端末の認証を行う。
【0038】
録画サーバ100は、モバイル端末200の接続開始時にUIDを用いた端末固有情報を元に端末を特定するため、ユーザIDとパスワードの認証及び端末固有情報の一致により画像表示を可能とする。
【0039】
図3は、本発明の動画分割装置の実施例1の構成図である。動画分割装置400は、メモリ402を伴うCPU401やデバイスドライバ等を有する制御・演算装置と、DRAM等の主記憶装置やハードディスク等の補助記憶装置を有する記憶装置410と、ネットワークインターフェース404等の通信制御装置や、メンテナンス時のみ接続して用いる表示装置としてのディスプレイ403、キーボード405、マウス406等で構成される入出力装置とを備えている。記憶装置410には、蓄積フォルダ411や環境設定フォルダや動画分割プログラム413やオペレーティングシステム414が格納されている。蓄積フォルダ411は、画像を保存するフォルダであって、蓄積フォルダ411には、監視用カメラ(動画用)から取得して分割長をGOP単位(例えば1秒分)にしてIフレームが先頭の画像となるように分割して撮影時刻順にシリアルナンバーを付した分割データを蓄積する。環境設定フォルダには、Iフレームの出現を判断する条件や分割長の条件等が蓄積されている。シリアルナンバーは、撮影時刻が早い方から順に連続した番号となるように付与され、例えば、00001、00002、00003のような形式でも良いし、撮影日時と分割長から0201153059、0201153100、0201153101のような形式でも良い。
【0040】
動画分割装置400は、録画サーバ100とインターネットを介して接続された監視用カメラ(動画用)700に、一台につき一台ずつ接続されている。
【0041】
動画分割装置400は、本実施例では、録画サーバ100によって、動画分割装置400が接続している監視用カメラ(動画用)700への接続要求を制御され、監視用カメラ(動画用)700から動画分割装置400が取得したカメラ映像を所定の分割データにして、所定の間隔で最新の分割データを録画サーバ100に送信し、その間に補完の分割データを録画サーバ100に送信する。
【0042】
動画分割装置400は、CPU401が、動画分割プログラム413をメモリ402にロードして実行することにより、本実施例の監視方法におけるカメラ画像取得から編集保存、そして録画サーバへの送信までが可能なコンピュータの機能を実現する。CPU401は、通常のコンピュータに搭載する演算処理装置であり、各種プログラムを実行し、各種制御等を行う。
【0043】
動画分割プログラム413は、コンピュータに、(1)録画サーバと接続した後、監視用カメラ(動画用)との接続を行うカメラ接続機能、(2)接続した監視用カメラ(動画用)に動画を要求し、当該監視用カメラ(動画用)から撮影した動画をベースラインプロファイルでストリーム方式で動画として取得する動画取得機能、(3)取得した動画からIフレームを検出して、Iフレームが先頭の画像となるGOP単位で撮影時刻順にシリアルナンバーを付した分割データを作成し蓄積フォルダに蓄積することを繰り返す分割データ作成機能、(4)録画サーバから最新の分割データの要求を受信する毎に、蓄積フォルダから最新の分割データを抽出する最新の分割データ抽出機能、(5)抽出した最新の分割データを録画サーバに転送する最新の分割データ転送機能、(6)録画サーバから補完の映像要求を受信する毎に、蓄積フォルダから分割データを、1つずつ、補完の分割データとして、録画サーバに転送する補完の分割データ転送機能、を実現させるためのプログラムである。
【0044】
本実施例では、収集・編集プログラムは、より好ましい態様として、さらに、コンピュータに、補完の分割データについて、蓄積フォルダに残っている分割データのうち、一次映像データ生成単位の先頭及び最終の分割データがあれば優先して補完の分割データとし、次に、付されたシリアルナンバーについて最も連続性が高い群の中でシリアルナンバーが中央値に最も近いもののうち撮影時刻が現在時刻に近い方の分割データを優先して補完の分割データとする補完の分割データ作成機能をも実現されるためのプログラムである。
【0045】
本実施例では、監視カメラと動画分割装置との接続はTCP/IP方式で行い、監視カメラを特定するため、録画サーバ側で設定したユーザIDとパスワードで動画分割装置を介して認証を行ってからカメラ画像の撮影等の要求を行う。認証は、動画分割装置を介して録画サーバ上の認証用データベースによる認証が好ましい。
【0046】
本実施例の監視方法における、動画分割装置400B、Cは録画サーバと同じLAN上になくルータを介してネットワークで繋がっているため、接続するルータのIPアドレスとルータに割り振られたポート番号で動画分割装置から動画の取得を行う。グローバルIPを持たない環境で接続されているときは、動画分割装置から録画サーバに向けて動画転送を行う。この際は、録画サーバ側ルータのポート番号を開放し、録画サーバにポート転送する。動画分割装置400B、Cは、それぞれ監視用カメラ(動画用)700B、Cと同じLAN上にネットワークで繋がっており、録画サーバの要求に関係なく動画の取得、分割、蓄積を行う。
【0047】
録画サーバ100は、ローカル環境(例えば、同じLAN上)にある監視用カメラの場合、接続開始時にIPアドレス及びポート番号を用いた接続によって接続相手を特定でき、ユーザIDとパスワードで認証するが、インターネット網を介する等、遠隔環境にある監視用カメラとの接続では、ルータのポート転送(ポートフォワーディングなどとも表現される)を用いることで、グローバルIPアドレス及びポート番号を用いて接続相手を特定する。
【0048】
図4は、本発明の監視方法の実施例1における監視カメラシステムの端末(モバイル)の構成図である。モバイル端末200は、メモリ202を伴うCPU201やデバイスドライバ等を有する制御・演算装置と、記憶装置210、データの送受信等を行う通信制御装置、表示装置としてのディスプレイ203、操作ボタンあるいはタッチパネル等の入出力装置を備えている。記憶装置210には、画像表示プログラム213やオペレーティングシステム214が格納されている。モバイル端末200は、例えばスマートフォン等の携帯電話等であり、CPU201が画像表示プログラム213をメモリ202にロードして実行することにより本実施例の監視方法における画像表示が可能なコンピュータの機能を実現する。CPU201は、通常のモバイル端末に搭載する演算処理装置であり、各種プログラムを実行し、各種制御等を行う。
【0049】
図5は、本発明の監視方法の実施例1における監視カメラシステムの端末(PC)の構成図である。閲覧PC300は、メモリ302を伴うCPU301やデバイスドライバ等を有する制御・演算装置と、DRAM等の主記憶装置やハードディスク等の補助記憶装置を有する記憶装置310と、ネットワークインターフェース304等の通信制御装置や表示装置としてのディスプレイ303、キーボード305、マウス306等で構成される入出力装置とを備えている。記憶装置310には、画像表示プログラム313やオペレーティングシステム314が格納されている。閲覧PC300は、例えばデスクトップPCやノートPC、タブレット端末等であり、CPU301が画像表示プログラム313をメモリ302にロードして実行することにより本実施例の監視方法における画像表示が可能なコンピュータの機能を実現する。CPU301は、通常のPCに搭載する演算処理装置であり、各種プログラムを実行し、各種制御等を行う。
【0050】
画像表示プログラムは、コンピュータに、録画サーバとの接続を行う端末接続機能、録画サーバから送信された画像を表示する画像表示機能を実現させるためのプログラムである。
【0051】
画像表示プログラムは、より好ましい態様として、さらに、コンピュータに、ライブ画像表示中に、監視用カメラから録画サーバへのカメラ画像取得間隔毎に、ライブ画像を録画サーバに要求するライブ画像要求機能、ライブ画像表示中に、巻戻し要求の入力を受け付け、巻戻しライブ画像を録画サーバに要求する巻戻し開始要求機能、巻戻しライブ画像表示中に、ライブ画像の要求間隔より短い一定時間(例えば0.2秒)毎に、巻戻しライブ画像を録画サーバに要求する巻戻し継続要求機能、巻戻しライブ画像表示中に、ユーザからの早送り要求の入力を受け付け、早送りライブ画像を録画サーバに要求する巻戻しライブ画像早送り開始要求機能、早送りライブ画像表示中に、ライブ画像の要求間隔より短い一定時間(例えば0.2秒)毎に、早送りライブ画像を録画サーバに要求する巻戻しライブ画像早送り継続要求機能をも実現させるためのプログラムである。
【0052】
本実施例では、画像表示プログラムは、より好ましい態様として、さらに、コンピュータに、巻戻しライブ画像表示中に、リライブ画像要求の入力を受け付け、リライブ画像を録画サーバに要求するリライブ画像開始要求機能、リライブ画像表示中に、カメラから録画サーバへのカメラ画像取得間隔毎に、リライブ画像を録画サーバに要求するリライブ画像継続要求機能をも実現させるためのプログラムである。
【0053】
本実施例においては、録画サーバ100と閲覧PC300と動画分割装置400とは、ともにパーソナルコンピュータとして構成され、通常のパーソナルコンピュータが有するクロック機能等を備えている。モバイル端末200もクロック機能等を備えている。
【0054】
本実施例の監視方法では、実施例1の動画分割装置400は、動画を撮影するカメラ群の各カメラ(監視用カメラ(動画用)700B、C)に接続され、ルータ600とインターネットとを含むネットワーク500とを介して録画サーバ100に接続され、データを保存する蓄積フォルダ411を有する動画分割装置であって、(1)接続された監視用カメラ(動画用)700に動画を要求し、監視用カメラ(動画用)700から撮影した動画をベースラインプロファイルでストリーム方式で動画として取得する動画取得手段、(2)取得した動画からIフレームを検出し、Iフレームが先頭の画像となるGOP単位で撮影時刻順にシリアルナンバーを付した分割データを作成し蓄積フォルダ411に蓄積することを繰り返す分割データ作成手段、(3)録画サーバ100から最新の分割データの要求を受信する毎に、蓄積フォルダ411から最新の分割データを抽出する最新の分割データ抽出手段、(4)抽出した最新の分割データを録画サーバ100に転送する最新の分割データ転送手段、(5)録画サーバ100から補完の映像要求を受信する毎に、蓄積フォルダ411から分割データを、1つずつ、補完の分割データとして、録画サーバ100に転送する補完の分割データ転送手段、を設けてある。本実施例では、さらに、(6)蓄積フォルダ411に残っている分割データのうち、一次映像データ生成単位の先頭及び最終の分割データがあれば優先して補完の分割データとし、次に、付されたシリアルナンバーについて最も連続性が高い群の中でシリアルナンバーが中央値に最も近いもののうち撮影時刻が現在時刻に近い方の分割データを優先して補完の分割データとする補完の分割データ作成手段をも設けてある。
【0055】
動画分割装置400は、前述のハードウェア構成と動画分割プログラム413によって、(1)〜(6)の手段として機能する。
【0056】
本実施例の監視方法では、録画サーバ100は、(1)動画分割装置との接続を行う動画分割装置接続手段、(2)一定時間(例えば3秒)毎に、接続した動画分割装置に最新の分割データを録画サーバに入力させる最新の分割データ取得手段、(3)動画分割装置に補完の分割データを録画サーバに入力させる補完の分割データ取得手段、(4)動画分割装置から取得した分割データからIフレームを抽出するIフレーム抽出手段、(5)抽出したIフレームをメモリに展開するIフレームメモリ展開手段、(6)抽出したIフレームを一次画像データとして一次画像データフォルダに保存する一次画像データ保存手段、(7)動画分割装置から取得した分割データを一次映像データ生成単位の時間(例えば10分)分ずつ結合して一次映像データとして一次映像データフォルダに保存する一次映像データ保存手段、(8)一次映像データ生成単位の時間を経過したかを判断する一次映像データ生成単位時間経過判断手段、(9)取得した分割データのシリアルナンバーに抜けがないかを判断する補完要否判断手段、(10)動画分割装置に所定の分割データを削除させる分割データ削除要求手段を設けてあり、さらに、(11)一次映像データを、一定時間(例えば10分)分毎に結合させタイムスタンプを付して動画形式で圧縮した二次映像データに変換する二次映像データ作成手段を設けてある。
【0057】
録画サーバ100は、前述のハードウェア構成と収集・編集プログラムによって、(1)〜(11)の手段として機能する。また、録画サーバ100は、前述のハードウェア構成と送信プログラムによって、端末へのライブ画像やリライブ画像やそれらの画像の巻戻しや早送り等の画像送信手段として機能する。
【0058】
また、端末200、300に、(1)録画サーバ100との接続を行う端末接続手段、(2)録画サーバ100から送信された画像を表示する画像表示手段を設けてある。端末は、前述のハードウェア構成と画像表示プログラム213、313によって、(1)〜(2)の手段として機能する。画像表示手段は、詳細には、さらに、(2−1)監視権限のある1又は複数の監視用カメラ700、701についてカメラ動画のライブ再生を録画サーバ100に要求するライブ再生要求手段、(2−2)録画サーバ100から送信された一次画像データを表示するライブ再生表示手段、(2−3)監視権限のある1又は複数の監視用カメラ700、701について過去のカメラ動画の再生を録画サーバ100に要求する過去映像再生要求手段、(2−4)録画サーバ100から送信された一次映像データ又は二次映像データを表示する過去映像再生表示手段を含む。
【0059】
なお、カメラ画像データを圧縮して作成された二次映像データは、一定時間毎に録画サーバで二次映像データに変換されているので、端末は、ライブ画像の巻戻しや巻戻し後の早送り以外に、従来の録画再生装置で可能な、過去のカメラ画像の再生や巻戻し、早送りも可能である。高画質でありながらデータ量が小さく、巻戻しライブ合成画像や早送りライブ合成画像は、一次的な保存用に圧縮した一次データを使用するため、高画質ながらデータ量が小さい。頻繁には使用しない、二次データ作成単位以上に過去分の再生や早送り巻戻しは、圧縮変換した動画ファイルである二次映像データを使用するため、動画ながら保存に要するデータ量が小さくて済む。また、ライブ合成画像の巻戻し後の再生が可能となる。
【0060】
上述した監視カメラと動画分割装置と録画サーバと端末とによって構成される監視カメラシステムは、実施例1の監視方法を実現する監視カメラシステムであり、動画分割装置から録画サーバへの送信データの転送制御を行うことで、ローカル環境以外に設置した動画撮影用カメラでもデータ遅延等の問題が生じにくく、カメラで撮影した動画を分割して録画サーバに転送することにより、動画分割装置と録画サーバの間の回線が安定しない環境でも最大限データを収集することができ、現地に録画サーバを設置せずにクラウドサーバ等での動画収集が可能となる。すなわち、クラウド環境で安定的な監視カメラ映像の収集を可能とする。また、解像度が高く高画質ながら回線状況の悪化に強いデータ送信が可能となる監視システムを実現できる。ネットワーク上に同時に流れるデータの転送制御を行うので、一般のインターネット回線などを通じてカメラ画像を録画サーバに流すことができ、また、一般のインターネット回線などにも、ネットワークカメラ情報を流すことができる。したがって、インターネット回線(WAN)越しのクラウドサーバでの監視用カメラからの動画データ蓄積を可能にする。録画サーバへの映像送信の遅延を防止し、録画サーバで動画収集中にも高画質のライブ画像を再生・巻戻し・早送りでき、さらに、高画質で再生・巻戻し・早送り可能な動画での保存もできる。上述した監視カメラシステムによれば、ストリーミングの映像録画で、カメラと録画サーバをインターネットを介して接続しているのにLANと同じように接続しただけでは回線状況が悪化した時に映像が汚くなったりフレームが抜けてしまう現象を、回線の影響を受けないカメラ近くの装置で安定的に録画し、それを分割し転送制御しながら録画サーバに送ることで、映像の劣化、フレームの欠損をなくすことを実現できる。
【0061】
{手順}
本発明の監視カメラシステムによる監視方法の実施例1の監視手順について次に説明する。本手順では、上述した、監視用カメラ(動画用)と、動画分割装置と、かかる監視用カメラ(動画用)とインターネットを介して接続された録画サーバと、端末とによって構成される監視カメラシステムを使用する。
【0062】
図6は、本発明の監視方法の実施例1における監視用カメラ(動画用)から録画サーバへのデータ送信のイメージ図である。監視用カメラ(動画用)であるストリームIPカメラは、ネットワークHUBを介して動画分割装置に接続されており、動画分割装置は、ネットワークHUBを介してインターネット網に接続されており、録画サーバであるサーバ機は、インターネット網に接続されている。
【0063】
録画サーバから動画分割装置へは分割データの要求が送信され、動画分割装置は、録画サーバから接続要求を受けて、監視用カメラ(動画用)に接続して動画を要求する。動画分割装置からの要求に基づいて、監視用カメラ(動画用)はストリーム動画を動画分割装置に送信する。動画分割装置に送信されたストリーム動画は、動画分割装置において、GOP単位に分割した分割データに編集して録画サーバにTCP/IPで送信する。
【0064】
ストリームデータ(RTSP:リアルタイムストリーミングプロトコル)は回線状況により転送容量が変化したり寸断するような状況に非常に弱いプロトコルであり、3G/LTE等、LAN以外の回線を介してやり取りすると安定した動画取得が行えないという問題があり、回線が細くなったときに著しくフレームが少なかったり、映像が粗くなり、さらに回線状況が悪化して通信が寸断すると再接続に非常に時間がかかる。しかし、本発明の監視方法の実施例1によれば、動画分割装置と録画サーバの間の回線が安定しない環境でも最大限データを収集することができ、回線状況の悪化に強いデータ送信が可能となる。回線状況が安定している場合は、本発明の監視方法の実施例1はストリーム動画をそのまま送信する従来方法と同レベルの動画を生成可能であるが、回線状況が悪化して、例えば、データ伝送速度が300kbps(キロビット毎秒)から37.5kbpsになった場合、ストリーム動画をそのまま送信する従来方法ではフレーム数を維持しようとするので映像が粗くなる可能性が高く、300kbpsをフルに利用していたとすると画質は8分の1となり、解像度でいえば、VGA(640×480ドット)が160×120ドットを引き延ばした映像になるところ、本発明の監視方法の実施例1では飛び飛びの映像になり、単純に考えると8秒毎の映像になる。そして、本発明の監視方法の実施例1では回線状況が改善されると、補完処理が機能するので、8秒の飛びは補完される可能性がある。なお、カメラと動画分割装置との間はLANであるので、その間を流れる映像は、録画サーバと動画分割装置の間の回線の状況に左右されない。ストリーム動画をそのまま送信する従来方法では、回線状況が悪化した後改善されても、補完処理しないので映像は荒いままとなる。ストリーム動画をそのまま送信する従来方法では、回線状況がさらに悪化して通信が寸断し場合、簡単には復旧しにくい。LANであれば比較的早い時間(1分程度)で再接続される可能性もあるが、3G/LTE等、LAN以外の回線では復旧しない可能性が高い。これは、接続する録画サーバがLAN以外の接続を考慮していない場合が多いためであるが、多少リトライ回数を多くしても、接続途中で寸断が発生すると、中途半端な状態で認識されカメラからの応答が取れないことがある。一方で、本発明の監視方法の実施例1では、そもそも、分割して転送する、1回ずつ途切れた通信であるので、寸断しても映像に影響は出ない。寸断している時間の長さが長くなるとフレームが抜けることになるが、補完機能があるので後から埋まる可能性も高い。補完を意識すると、300kbpsを最大とするならば256kbpsを基準に設定すると回線状況が悪くなっても問題が生じにくい。
【0065】
図7は、本発明の監視方法の実施例1におけるカメラと録画サーバとの接続から一次映像データ書き込みまでの手順概要を示すフロー図である。
【0066】
本実施例の監視方法では、動画を撮影するカメラ群と、カメラ群のカメラ(監視用カメラ(動画用))に接続されデータを保存する蓄積フォルダを有する動画分割装置と、動画分割装置にルータ及びインターネットを介して接続された録画サーバと、を有する監視カメラシステムにおける監視方法であって(1)動画分割装置が、監視用カメラ(動画用)に動画を要求し、監視用カメラ(動画用)から撮影した動画をベースラインプロファイルでストリーム方式で動画として取得する動画取得ステップ、(2)動画分割装置が、取得した動画からIフレームを検出し、Iフレームが先頭の画像となるGOP単位で撮影時刻順にシリアルナンバーを付した分割データを作成し蓄積フォルダに蓄積することを繰り返す分割データ作成ステップ、(3)録画サーバが、動画分割装置に、所定の時間毎に最新の分割データを要求する定時収集要求ステップ、(4)動画分割装置が、録画サーバから最新の分割データの要求を受信する毎に、蓄積フォルダから最新の分割データを抽出する最新の分割データ抽出ステップ、(5)動画分割装置が、抽出した最新の分割データを録画サーバに転送する最新の分割データ転送ステップ、(6)録画サーバが、動画分割装置に、繰り返し補完の分割データを要求する補完の分割データ収集要求ステップ、(7)動画分割装置が、録画サーバから補完の分割データの要求を受信する毎に、最新の分割データ転送ステップのタイミング以外で、蓄積フォルダから分割データを、1つずつ、補完の分割データとして、録画サーバに転送する補完の分割データ転送ステップ、(8)録画サーバが、最新の分割データ又は補完の分割データを受信する毎に、Iフレームを抽出し、Iフレームを一次画像データとして保存する画像保存ステップ、(9)録画サーバが、最新の分割データと補完の分割データを一次映像データ生成単位の時間分ずつ結合して一次映像データとして保存する映像保存ステップ、を含む。また、本実施例では、(10)録画サーバが、動画分割装置に、一次映像データ生成単位の時間経過毎に、蓄積フォルダ内の分割データを削除する削除ステップをも含む。また、本実施例では、上述した補完の分割データ転送ステップにおいて、蓄積フォルダに残っている分割データのうち、一次映像データ生成単位の先頭及び最終の分割データがあれば優先して補完の分割データとし、次に、付されたシリアルナンバーについて最も連続性が高い群の中でシリアルナンバーが中央値に最も近いもののうち撮影時刻が現在時刻に近い方の分割データを優先して補完の分割データとする。
【0067】
収集・編集プログラムと、動画分割プログラムとを有する監視カメラシステムのプログラムは、これらのステップをコンピュータに実行させるものである。
【0068】
(ステップS)
まず、録画サーバは、TCP/IP方式で動画分割装置に接続を要求する。動画分割装置は、かかる接続要求を受けて監視用カメラ(動画用)に接続要求する。監視用カメラ(動画用)は1又は複数台で構成され、各カメラと録画サーバは、動画分割装置を介して、ユーザID及びパスワードで認証を行う。動画分割装置が各カメラからの接続応答を受けて、動画分割装置は、監視用カメラ(動画用)に、動画を撮影し撮影したストリーム動画のカメラ画像を動画分割装置に送信することを要求する、動画要求をする。
【0069】
(ステップ1)
図8は、本発明の監視カメラシステムによる監視方法の実施例1におけるカメラから動画分割装置までの動画の送信方法と分割データの保存方法の説明図である。監視用カメラ(動画用)は、動画要求を受けて、動画を連続撮影して、撮影して得られた動画をストリーム方式でH.264ベースラインプロファイルのカメラ映像を動画として動画分割装置に送信する。動画分割装置は、監視用カメラ(動画用)からストリーム方式で動画を受信すると、接続応答を録画サーバに送信し、録画サーバの認証用データベースを参照して認証に成功すると、録画サーバと監視用カメラ(動画用)は動画分割装置を介して接続状態となる。接続が確立できなくなったら、ステップSに戻る。
【0070】
(ステップ2)
動画分割装置は、監視用カメラ(動画用)から取得した動画からIフレームを検出し、Iフレームが先頭の画像となるGOP単位で撮影時刻順にシリアルナンバーを付した分割データを作成し前記蓄積フォルダに蓄積する。監視カメラ(動画用)から動画を受信している間はこれを繰り返す。本実施例では、Iフレームを検出すると、次のIフレームを検出した直前のフレームまでを1つの分割データとする。本実施例では、GOP単位は1秒とするが、それに限られない。本実施例では、1秒に1つIフレームを含む動画とするが、何秒毎にIフレームを入れるかは動画分割装置で設定して、監視用カメラ(動画用)に、動画要求する際に指示する。本実施例では、1つの分割データは、例えば、Iフレームが1つと1又は複数のPフレームからなる。本実施例では、一つの分割データに1つのIフレームとするが、一つの分割データに2以上の所定の数のIフレームを含んでもよく、それに限られない。所定の数のIフレームを検出したら、次のIフレームを検出した直前のフレームまでを1つの分割データとする。ただし、インターネット網に送信するデータ量が大きくなり、録画サーバでの処理の負荷も大きくなるので、Iフレームを検出する毎に一つの分割データを作成することが好ましい。その場合、分割データには先頭のみIフレームを含む。
【0071】
(ステップ3)
次に、録画サーバから動画分割装置に、所定の時間(例えば3秒)毎に、最新の分割データを要求する定時収集要求を行う。動画分割装置は、かかる最新の分割データの要求を受けて、蓄積データフォルダの中で、最新の分割データ、すなわちシリアルナンバーが最も大きい分割データを抽出し、録画サーバに送信する。例えば、蓄積データフォルダ内に分割データが、シリアルナンバーで00005、00006、00007の3件であるとき、定時の収集では最新の分割データであるシリアルナンバー00007の分割データを録画サーバに送信する。
【0072】
(ステップ4)
録画サーバは、動画分割装置から分割データを取得すると、分割データからIフレームを抽出し、抽出したIフレームをメモリ展開し、また、抽出したIフレームを一次画像フォルダに一次画像データとして保存する。また、取得した分割データを一次映像データ生成単位の時間(例えば10分)分ずつ結合して一次映像データフォルダに一次映像データとして保存する。さらに、録画サーバは、一次映像データ生成単位の時間を経過したかを判断する。一次映像データ生成単位の時間を経過していなかった場合はステップ5に進み、一次映像データ生成単位の時間を経過していた場合は、ステップ8に進む。
【0073】
(ステップ5)
一次映像データ生成単位の時間を経過していなかった場合、次に、取得した分割データのシリアルナンバーに抜けがないかを判断する。シリアルナンバーに抜けがあった場合はステップ6に進み、シリアルナンバーに抜けがなかった場合はステップ8に進む。
【0074】
(ステップ6)
シリアルナンバーに抜けがあった場合、動画分割装置に、補完の分割データを要求する。動画分割装置が、録画サーバから補完の分割データの要求を受信する毎に、最新の分割データを録画サーバに転送するタイミング以外のタイミングで、蓄積フォルダから分割データを、1つずつ、補完の分割データとして、録画サーバに転送し、ステップ4に戻る。補完の分割データについて、蓄積フォルダに残っている分割データのうち、一次映像データ生成単位の先頭及び最終の分割データがあれば優先して補完の分割データとし、次に、付されたシリアルナンバーについて最も連続性が高い群の中でシリアルナンバーが中央値に最も近いもののうち撮影時刻が現在時刻に近い方の分割データを優先して補完の分割データとする。すなわち、補完の分割データの収集では、間隔のあいている箇所から対象とする。例えば、蓄積データフォルダ内に、シリアルナンバーで00001、00002、00005、00010、00012の5件があるとき、補完の分割データの収集では、一番間隔のあいているシリアルナンバー00005と00010の間を補完するので、シリアルナンバー00007と00008のうち現在時刻に近い00008が対象となる。なお、一次映像データ生成単位の先頭と最終の分割データについては、常に最優先で補完する。
【0075】
(ステップ7)
ステップ4において、一次映像データ生成単位の時間を経過していた場合、動画分割装置に、所定の分割データを削除させる分割データ削除要求をする。原則として、定時で収集された最新の分割データの群と、その間に補完的に収集された補完の分割データの群によって、動画分割装置の蓄積データフォルダにある分割データが全て録画サーバに送信され結合されて蓄積されるため、蓄積データフォルダ内の分割データは削除する。定期的蓄積データフォルダが空になることにより、動画分割装置の空き容量が増える。トラブル等により、一次映像データ生成単位の時間を経過しても補完の分割データを収集しきれなかったときも、蓄積データフォルダ内の分割データを削除する。その場合は、一次映像データフォルダに蓄積される一次映像データには、データの欠損に伴い生じる映像飛びが発生する。分割データ削除後、ステップ8に進む。
【0076】
(ステップ8)
ここで、ステップ3に戻る。所定の時間が経過していない場合は、経過するまでスリープする。
【0077】
(ステップT)
録画サーバは、負荷が集中しないタイミングで、一次映像データを、一定時間(例えば10分)分毎に結合させタイムスタンプを付して動画形式で圧縮した二次映像データに変換し、二次映像データフォルダに蓄積する。
【0078】
なお、蓄積された一次画像データ、二次映像データは、上述の通り、端末に送信して、再生・巻戻し・早送りを行うことができる。
【0079】
{効果}
本実施例によれば、クラウド環境で安定的な監視カメラ映像の収集を可能とする。
【0080】
本実施例によれば、カメラから録画サーバへデータを送信する際に、動画分割装置と録画サーバの間の回線が安定しない環境でも最大限データを収集することができる。したがって、回線状況の悪化に強いデータ送信が可能となり、インターネット回線(WAN)越しのクラウドサーバでの安定的なデータ蓄積が可能となる。現地に録画サーバを設置必要がなくなり、自由度が高くなる。また、高画質の映像復元を可能に分割してあり、動画分割装置における動画を分割した後の送信する順序及び送信タイミング並びに録画サーバでの処理により、常に最新の画像を高画質で端末に送信でき、さらに、動画での確認もスムーズとなる。
【0081】
なお、本発明は、上記実施の形態に限定されず、その発明の趣旨を逸脱しない範囲で種々と変形実施が可能である。また、上記各実施の形態の構成要素を発明の趣旨を逸脱しない範囲で任意に組み合わせることができる。
【0082】
例えば、動画を撮影するカメラ群から取得した映像の動画分割装置への送信は、H.264が好ましいが、これに限られず、MotionJPEGやMPEG2でもよく、H.264のベースラインプロファイルと同値とみなされる方法、すなわち、Iフレームと同値とみなされる全画像とPフレームと同値とみなされる差分画像との組み合わせによる方法で、連続的に動画分割装置へ送信してもよい。圧縮形式は、現時点で高圧縮であるH.264であることが、軽量で、ハードウェア、ソフトウェアいずれであっても実装が容易であるので、好ましいが、動画分割装置への送信方法に合わせた他の方法でもよい。