【実施例1】
【0022】
実施例1の差分画像作成方法は、ネットワークを介して録画サーバで監視用カメラを作動させて、録画サーバが動画及び静止画のカメラ画像を撮影・収集・編集・保存し、録画サーバがユーザの端末に端末からの要求に応じてネットワークを介してモニターする画像を送信する監視カメラシステムにおける監視方法に用いる差分画像作成方法である。実施例1の差分画像作成方法に用いる実施例1の差分検出装置と、上記監視カメラシステムにおける実施例1の監視カメラの画像転送方法と実施例1の画像復元方法についても合わせて説明する。
【0023】
上記監視カメラシステムは、実施例1の画像復元方法によって復元された画像を端末等に送信して、ライブ画像の再生・巻戻し・早送りもリライブ再生も行うものである。また、上記監視カメラシステムは、復元された画像を圧縮して保存し、画像を端末等に送信して、過去の画像の再生・巻戻し・早送りも行うものである。本実施例では、静止画像の差分転送により、カメラから録画サーバへの転送容量を少なくでき、現地に録画サーバを設置せずにクラウドサーバ等での静止画像収集が可能となる。また、単純な静止画像収集に比べて、フレーム数の増加、もしくは解像度の拡大が可能となる。
【0024】
{構成}
図1は、本発明の差分画像作成方法の実施例1を利用する監視カメラシステムのシステム構成の一例を示す図である。LANやインターネット、Wi−Fi回線、3G/LTE回線、専用線等の通信網の組み合わせから構成されるネットワーク500上には、(1)画像を撮影するカメラとして、複数台の監視用カメラ(動画用)700A〜Cと複数台の監視用カメラ(静止画用)701A〜C、(2)監視用カメラ(動画用)700B、C・監視用カメラ(静止画用)701B、Cのそれぞれに接続されており、監視用カメラで撮影した画像を取得して録画サーバ100に転送する差分検出装置400A〜D、(2)差分検出装置400にルータ600A〜D及びインターネットを介して接続され、差分検出装置400から画像データを取得し蓄積し端末に送信する録画サーバ100、(3)ネットワーク500を介して録画サーバ100と接続され、録画サーバ100からの画像データを受信して表示する端末として、スマートフォンなどのモバイル端末200A、Bや、デスクトップPC(パーソナルコンピュータ)やノートPCなどの閲覧PC300A〜Cが接続されている。録画サーバ100にはLANを介して監視用カメラ(動画用)700Aと監視用カメラ(静止画用)701Aにも接続されているが、本実施例の差分画像作成方法は、録画サーバ100とLAN上で接続されたカメラについては対象としていないため、以下で述べるカメラには、録画サーバ100とLAN上で接続されたカメラ(
図1では監視用カメラ(動画用)700Aと監視用カメラ(静止画用)701Aで例示される)を含まない。
図1中では、監視用カメラ(動画用)で撮影された動画(ストリーム動画)の流れを点線矢印で図示している。なお、以下、モバイル端末と閲覧PCとをまとめるときは、「端末」又は「Viewer」という。
【0025】
録画サーバ100は、監視用カメラ(動画用)700B、C及び監視用カメラ(静止画用)701B、Cとは、インターネットを含むネットワーク500を介して接続されている。本実施例では、録画サーバ100と同じLAN以外のネットワーク上にも、静止画を撮影する監視用カメラのみならず、動画を撮影する監視用カメラを設けることができる。監視用カメラ(動画用)700B、C、監視用カメラ(静止画用)701B、Cには、それぞれ差分検出装置400D、C、B、Aが接続されている。録画サーバ100が接続されたLANとルータ600Aを介して接続されたインターネット網には、3G/LTE回線が接続され、またルータ600Cを介して別のLANが接続されている。差分検出装置400Dは、ルータ600Dと3G/LTE回線を介してインターネット網に接続されており、差分検出装置400Bは、ルータ600Bと3G/LTE回線を介してインターネット網に接続されている。差分検出装置400A、Cは、録画サーバ100とは異なるLANに接続されている。
図1は、監視用カメラ(動画用)及び監視用カメラ(静止画用)や閲覧PCやモバイル端末を、録画サーバと複数のネットワークを介して接続した接続例を示すものであり、これに限定されない。本実施例では、監視用カメラ(静止画用)401と録画サーバ100との通信及び監視用カメラ(動画用)400と録画サーバ100との通信は、セッションを確立してから通信を開始する信頼性の高いTCPで行うが、セッションを確立しないでデータを送信する早くてリアルタイム性に優れたUDPでもよく、TCP、UDPどちらのプロトコルでも画像を取得できる。
【0026】
監視用カメラ(動画用)や監視用カメラ(静止画用)は、本実施例ではIPカメラであるが、アナログカメラでもよい。ただし、アナログの場合、変換器を要する。画像表示用の端末である閲覧PC300も、録画サーバ100と同じLAN内に存在する場合に限らず、インターネットやLANやWi-Fi回線等、複数のネットワークを介して接続されていてもよい。画像表示用の端末であるモバイル端末200についても、LAN、インターネット、携帯電話用ネットワーク(Wi−Fi回線や3G/LTE回線等)等、複数のネットワークを介して接続されていてもよい。なお、LANとインターネット間や、監視用カメラ(動画用)及び監視用カメラ(静止画用)とインターネット間は、ルータ600を介する。
【0027】
1台の録画サーバ100は、複数台の監視用カメラ(動画用)700からカメラ動画を、また複数台の監視用カメラ(静止画用)701からカメラ静止画を取得することができる。本実施例では、録画サーバ100側がネットワークトラフィックを自動的に分散させるので、ネットワーク設計が不要で、カメラをポートに繋ぐだけで済むため、作業が非常に簡便となる。また、通信が不通になった場合にも再開が容易である。
【0028】
なお、本実施例と異なるが、録画サーバから差分検出装置にアクセスせずに、差分検出装置から録画サーバに画像を転送する方式(変形例)でも良い。かかる変形例の場合は、通信が不通になったときに録画サーバ側で状況把握できない一方、ルータのポート変更の必要がないというメリットがある。変形例での処理としては、差分検出装置内のタイマーで、1秒などのタイミングで画像取得を行い録画サーバに転送し、転送が正常に終わってから、1秒等の設定時間でスリープをする。
【0029】
従来のIPカメラシステムでは、動画を取得する監視用カメラは、録画サーバと同じLAN上に置かないとネットワークへの負担が過大となったが、本実施例では、録画サーバへの転送フレーム数を落とさず、また解像度も落とさずに、録画サーバへの転送容量の削減を可能とするので、インターネット上、また、携帯端末等、3G/LTE回線上にも動画用の監視用カメラを設けることができるため、自由度が非常に高くなる。
【0030】
図2は、本発明の差分画像作成方法の実施例1の録画サーバの構成図である。録画サーバ100は、キャッシュメモリであるメモリ102を伴うCPU101やデバイスドライバ等を有する制御・演算装置と、DRAM等の主記憶装置やハードディスク等の補助記憶装置を有する記憶装置110と、ネットワークインターフェース104等の通信制御装置や表示装置としてのディスプレイ103、キーボード105、マウス106等で構成される入出力装置とを備えている。記憶装置110には、一次画像フォルダ111と二次映像フォルダとプログラム113と認証用データベースと環境設定フォルダ等の他、オペレーティングシステム114が格納されている。プログラム113は、通常、記憶装置110の補助記憶装置に格納されており、実行時には主記憶装置にロードされる。一次画像フォルダ111には、差分検出装置400から取得した、全画像と、差分画像から作成された全画像と、で構成される全画像のみからなる動画を一次データとして蓄積し、二次映像フォルダには、一次画像フォルダ111内に蓄積された一定時間分の一次データを動画圧縮変換して二次データとして蓄積する。プログラム113には、撮影・収集・編集プログラムや送信プログラム等、各種プログラムを含む。認証用データベースには、ID、パスワード、各監視用カメラ700、701やモバイル端末200や閲覧PC300のポート番号とIPアドレス、IPアドレスのない端末では個体識別情報(UID)が蓄積されている。本実施例では、録画サーバ100は、録画サーバと端末が一体となっており、自ら画像を表示する端末の役割も果たすため、また、メンテナンスや管理のため、ディスプレイ103、また入力手段としてのキーボード105やマウス106を有している。録画サーバでカメラ画像の再生を要しない場合は、画像表示装置としての端末機能はなくてもよい。環境設定フォルダには、各差分検出装置からの画像取得タイミング、一次データや二次データの作成間隔、圧縮条件等が蓄積されている。録画サーバ100は、設置型のサーバであるが、クラウドサーバであってもよい。
【0031】
録画サーバ100は、インターネットを介して接続された監視用カメラ(静止画用)701には、差分検出装置400に画像要求することにより、静止画で画像を取得させて、監視用カメラ毎の差分検出装置400において、全画像のまま或いは差分画像に変換して録画サーバ100に送信させる。録画サーバ100は、インターネットを介して接続された監視用カメラ(動画用)700には、差分検出装置400に画像要求することにより、動画で画像を取得させて、監視用カメラ毎の差分検出装置400において、全画像のまま或いは差分画像に変換して録画サーバ100に送信させる。
【0032】
録画サーバ100は、CPU101が、撮影・収集・編集プログラムをメモリ102にロードして実行することにより本実施例の差分画像作成方法を利用する監視方法における差分検出装置からの画像取得から編集保存までが可能なコンピュータの機能を実現する。録画サーバ100は、CPU101が、送信プログラムをメモリ102にロードして実行することにより端末への画像送出処理が可能なコンピュータの機能を実現する。CPU101は、通常のコンピュータに搭載する演算処理装置であり、各種プログラムを実行し、各種制御等を行う。
【0033】
録画サーバ100は、1台のサーバとする他、複数の録画サーバからなるサーバ群であってもよい。例えば、二次映像フォルダについて、一定期間(例えば24時間)経過後の二次データについては、保存先を、カメラ画像を取得する録画サーバと別の録画サーバに設けた二次映像フォルダとしてもよい。頻繁には再生しない過去の保存データを別にすることで、さらに多くの台数のカメラを同一ネットワーク上で監視可能となる。
【0034】
撮影・収集・編集プログラムは、コンピュータに、(1)差分検出装置との接続を行う差分検出装置接続機能、(2)一定時間(例えば1秒)毎に、接続した差分検出装置に画像を録画サーバに入力させる画像取得機能、(3)差分検出装置から取得した画像が差分画像かを判断する差分画像判断機能、差分検出装置から取得した全画像を保存する全画像保存機能、(4)差分検出装置から取得した差分画像をその一つ前の時点の全画像に合成して全画像として保存する差分画像変換機、(5)取得又は合成した全画像を次回画像生成までメモリに保持する画像保持機能、(6)取得又は合成した全画像を一次データとして一次画像フォルダに蓄積する一次データ作成機能を実現させるためのプログラムである。
【0035】
本実施例では、撮影・収集・編集プログラムは、より好ましい態様として、さらに、コンピュータに、一次データを、一定時間分(例えば10分分)毎に結合させタイムスタンプを付して動画形式で圧縮した二次データに変換する二次データ作成機能をも実現させるためのプログラムである。一次データは、全て全画像(カメラ画像が動画の場合はIフレーム(イントラフレーム))であり、二次データは、カメラ画像が静止画の場合でも動画形式に圧縮し、カメラ画像が動画の場合、例えば、Iフレームを200フレームにつき1枚の割合とし、Pフレーム(予測インターフレーム)だけでなくBフレーム(双方向予測インターフレーム)を組み合わせて挿入し、劣化せずに容量を削減する。本実施例では、未来のIフレームを参照することができるので、Bフレームを挿入できる。Bフレームは前後比較差分であるので、Pフレームよりも小さくなる。
【0036】
送信プログラムは、コンピュータに、端末との接続を行う端末接続機能、端末にカメラ一覧を表示して端末からのカメラの選択を受け付ける画像選択受付機能、選択されたカメラについて一次データの画像をライブ画像として端末に送信するライブ画像送信機能、端末よりライブ画像からの巻戻し要求を受け付けるライブ画像巻戻し受付機能、巻戻し要求毎に、端末に前回送信した画像より一定時間分(例えば1秒分)過去の時点の一次データを抽出して巻戻しライブ画像として端末に送信する巻戻しライブ画像送信機能、端末より巻戻しライブ画像からの早送り要求を受け付ける巻戻しライブ画像早送り受付機能、早送り要求毎に、現時点の画像に達するまでは、端末に前回送信した画像より一定時間分(例えば1秒分)未来の時点の一次データを抽出して早送りライブ画像として端末に送信する早送りライブ画像送信機能をも実現させるためのプログラムである。「現時点の画像」とは、差分検出装置から取得した最新の画像を意味する。したがって、現時点の画像は、差分検出装置からの画像が録画サーバに入力される度に、新しい画像に変わる。
【0037】
送信プログラムは、さらに、コンピュータに、端末より巻戻しライブ画像からのリライブ画像要求を受け付けるリライブ画像受付機能、リライブ画像要求毎に、端末に前回送信した画像より一定時間分、詳細には、差分検出装置400から録画サーバ100への画像取得間隔分、未来の時点の一次データを抽出して早送りライブ画像として端末に送信するリライブ画像送信機能をも実現させるためのプログラムである。なお、ここで「リライブ画像」は、ライブ画像から過去へ巻き戻しての再生画像を指す。
【0038】
本実施例では、端末200、300と録画サーバ100との接続もTCP/IP方式で行い、ユーザIDとパスワードで認証を行って、端末が録画サーバに登録してある端末であることを確認してから画像送信を行う。認証は、録画サーバ上の認証用データベースによる認証が好ましい。
【0039】
端末が同じLAN上になくても録画サーバがルータを介してネットワークで繋がっていれば、接続するルータのIPアドレスとルータに割り振られたポート番号で録画サーバから画像(全画像若しくは圧縮画像)の取得を行う。端末の接続には、端末認証時に登録したUIDを利用して端末の認証を行う。
【0040】
録画サーバ100は、モバイル端末200の接続開始時にUIDを用いた端末固有情報を元に端末を特定するため、ユーザIDとパスワードの認証及び端末固有情報の一致により画像表示を可能とする。
【0041】
図3は、本発明の差分画像作成方法の実施例1の差分検出装置の構成図である。差分検出装置400は、メモリ402を伴うCPU401やデバイスドライバ等を有する制御・演算装置と、DRAM等の主記憶装置やハードディスク等の補助記憶装置を有する記憶装置410と、ネットワークインターフェース404等の通信制御装置や、メンテナンス時のみ接続して用いる表示装置としてのディスプレイ403、キーボード405、マウス406等で構成される入出力装置とを備えている。記憶装置410には、蓄積フォルダ411や環境設定フォルダや差分検出プログラム413やオペレーティングシステム414が格納されている。蓄積フォルダ411は、画像を保存するフォルダであって、蓄積フォルダ411には、監視用カメラ(動画用)700及び監視用カメラ(静止画用)701から取得したカメラ画像の全画像と、先に記憶した全画像と次に記憶した差分画像転送用の全画像とが相違しないエリアをマスクエリアとした第1の差分画像と、第1の差分画像のマスクエリア以外については差分画像転送用の全画像の対応部分とし第1の差分画像のマスクエリアについては透明色情報を設定した第2の差分画像と、を蓄積する。環境設定フォルダには、ノイズ除去条件や、全画像を保存するカメラ画像か差分画像を保存するカメラ画像かを判断する条件等が蓄積されている。
【0042】
差分検出装置400は、録画サーバ100とインターネットを介して接続された監視用カメラ(動画用)700及び監視用カメラ(静止画用)701に、一台につき一台ずつ接続されている。
【0043】
差分検出装置400は、本実施例では、録画サーバ100によって、差分検出装置400が接続している監視用カメラ(動画用)700或いは監視用カメラ(静止画用)701への接続要求及びカメラ画像要求を制御され、監視用カメラ(動画用)700や監視用カメラ(静止画用)701から取得したカメラ画像を所定の画像にして録画サーバ100に送信する。
【0044】
差分検出装置400は、CPU401が、差分検出プログラム413をメモリ402にロードして実行することにより本実施例の差分画像作成方法を利用する監視方法におけるカメラ画像取得から編集保存、そして録画サーバへの送信までが可能なコンピュータの機能を実現する。CPU401は、通常のコンピュータに搭載する演算処理装置であり、各種プログラムを実行し、各種制御等を行う。
【0045】
差分検出プログラム413は、コンピュータに、(1)録画サーバからの監視用カメラとの接続要求を受信する毎に、監視用カメラとの接続を行うカメラ接続機能、(2)録画サーバからの全画像要求を受信する毎に、接続した監視用カメラ(動画用)或いは監視用カメラ(静止画用)から全画像を取得し、全画像転送用の全画像とし、蓄積フォルダに全画像転送用の全画像を保存するとともに、録画サーバに全画像転送用の全画像を転送する全画像転送機能、(3)録画サーバからの差分画像要求を受信する毎に、接続した監視用カメラ(動画用)或いは監視用カメラ(静止画用)から全画像を取得し、差分画像転送用の全画像とする差分画像用全画像取得機能、(4)蓄積フォルダに保存されている全画像を抽出する抽出機能、(5)抽出機能により抽出された全画像と差分画像用全画像取得機能により取得された差分画像転送用の全画像との差分画像であって、抽出機能により抽出された全画像と差分画像用全画像取得機能により取得された差分画像転送用の全画像とが相違しないエリアをマスクエリアとした第1の差分画像を作成する第1の差分画像作成機能、(6)差分画像用全画像取得機能により取得された差分画像転送用の全画像から第1の差分画像との差分画像であって、第1の差分画像のマスクエリア以外については、差分画像用全画像取得機能により取得された差分画像転送用の全画像の対応部分とし、第1の差分画像のマスクエリアについては透明色情報を設定した第2の差分画像を作成する第2の差分画像作成機能、(7)録画サーバに第2の差分画像を転送する差分画像転送機能、(8)蓄積フォルダに保存されている全画像を差分画像用全画像取得機能により取得された差分画像転送用の全画像に置き換える全画像置換機能、を実現させるためのプログラムである。
【0046】
なお、録画サーバからの全画像要求や差分画像要求を受信する毎にカメラから全画像を取得する代わりに、一定時間(例えば1秒)毎に、接続した監視用カメラ(動画用)或いは監視用カメラ(静止画用)から全画像を取得するものであってもよい。
【0047】
なお、差分画像用全画像取得機能は、本実施例においては、さらに、監視用カメラ(動画用)又は監視用カメラ(静止画用)から全画像を取得した後、蓄積フォルダに保存されている全画像と画像の色構成を比較し、光量変化によるノイズを除去してから保存する機能を含む。
【0048】
本実施例では、差分検出装置を介しての監視用カメラと録画サーバとの接続はTCP/IP方式で行い、監視用カメラを特定するため、録画サーバ側で設定したユーザIDとパスワードで認証を行ってからカメラ画像の撮影等の要求を行う。認証は、録画サーバ上の認証用データベースによる認証が好ましい。
【0049】
カメラが同じLAN上になくてもルータを介してネットワークで繋がっていれば、接続するルータのIPアドレスとルータに割り振られたポート番号で差分検出装置から画像(全画像若しくは差分画像)の取得を行う。グローバルIPを持たない環境で接続されているときは、差分検出装置から録画サーバに向けて画像(全画像若しくは差分画像)転送を行う。この際は、録画サーバ側ルータのポート番号を開放し、録画サーバにポート転送する。
【0050】
録画サーバ100は、ローカル環境(例えば、同じLAN上)にある監視用カメラ接続開始時にIPアドレス及びポート番号を用いた接続によって接続相手を特定でき、ユーザIDとパスワードで認証する。録画サーバ100は、インターネット網を介する等、遠隔環境にある監視用カメラとの接続では、ルータのポート転送(ポートフォワーディングなどとも表現される)を用いることで、グローバルIPアドレス及びポート番号を用いて接続相手を特定する。
【0051】
図4は、本発明の差分画像作成方法の実施例1の端末(モバイル)の構成図である。モバイル端末200は、メモリ202を伴うCPU201やデバイスドライバ等を有する制御・演算装置と、記憶装置210、データの送受信等を行う通信制御装置、表示装置としてのディスプレイ203、操作ボタンあるいはタッチパネル等の入出力装置を備えている。記憶装置210には、画像表示プログラム213やオペレーティングシステム214が格納されている。モバイル端末200は、例えばスマートフォン等の携帯電話等であり、CPU201が画像表示プログラム213をメモリ202にロードして実行することにより本発明の画像表示が可能なコンピュータの機能を実現する。CPU201は、通常のモバイル端末に搭載する演算処理装置であり、各種プログラムを実行し、各種制御等を行う。
【0052】
図5は、本発明の差分画像作成方法の実施例1の端末(PC)の構成図である。閲覧PC300は、メモリ302を伴うCPU301やデバイスドライバ等を有する制御・演算装置と、DRAM等の主記憶装置やハードディスク等の補助記憶装置を有する記憶装置310と、ネットワークインターフェース304等の通信制御装置や表示装置としてのディスプレイ303、キーボード305、マウス306等で構成される入出力装置とを備えている。記憶装置310には、画像表示プログラム313やオペレーティングシステム314が格納されている。閲覧PC300は、例えばデスクトップPCやノートPC、タブレット端末等であり、CPU301が画像表示プログラム313をメモリ302にロードして実行することにより本発明の画像表示が可能なコンピュータの機能を実現する。CPU301は、通常のPCに搭載する演算処理装置であり、各種プログラムを実行し、各種制御等を行う。
【0053】
画像表示プログラムは、コンピュータに、録画サーバとの接続を行う端末接続機能、録画サーバから送信された画像を表示する画像表示機能を実現させるためのプログラムである。
【0054】
画像表示プログラムは、より好ましい態様として、さらに、コンピュータに、ライブ画像表示中に、監視用カメラから録画サーバへのカメラ画像取得間隔毎に、ライブ画像を録画サーバに要求するライブ画像要求機能、ライブ画像表示中に、巻戻し要求の入力を受け付け、巻戻しライブ画像を録画サーバに要求する巻戻し開始要求機能、巻戻しライブ画像表示中に、ライブ画像の要求間隔より短い一定時間(例えば0.2秒)毎に、巻戻しライブ画像を録画サーバに要求する巻戻し継続要求機能、巻戻しライブ画像表示中に、ユーザからの早送り要求の入力を受け付け、早送りライブ画像を録画サーバに要求する巻戻しライブ画像早送り開始要求機能、早送りライブ画像表示中に、ライブ画像の要求間隔より短い一定時間(例えば0.2秒)毎に、早送りライブ画像を録画サーバに要求する巻戻しライブ画像早送り継続要求機能をも実現させるためのプログラムである。
【0055】
本実施例では、画像表示プログラムは、より好ましい態様として、さらに、コンピュータに、巻戻しライブ画像表示中に、リライブ画像要求の入力を受け付け、リライブ画像を録画サーバに要求するリライブ画像開始要求機能、リライブ画像表示中に、カメラから録画サーバへのカメラ画像取得間隔毎に、リライブ画像を録画サーバに要求するリライブ画像継続要求機能をも実現させるためのプログラムである。
【0056】
本実施例においては、録画サーバ100と閲覧PC300と差分検出装置400とは、ともにパーソナルコンピュータとして構成され、通常のパーソナルコンピュータが有するクロック機能等を備えている。モバイル端末200もクロック機能等を備えている。
【0057】
本実施例の差分検出方法では、実施例1の差分検出装置400は、動画を撮影するカメラ群と静止画を撮影するカメラ群の各カメラ(監視用カメラ(動画用)700・監視用カメラ(静止画用)701)に接続され、ルータ600とインターネットを含むネットワーク500とを介して録画サーバ100に接続され、画像を保存する蓄積フォルダ411を有する差分検出装置であって、(1)録画サーバ100からの監視用カメラ(動画用)700又は監視用カメラ(静止画用)701との接続要求を受信する毎に、監視用カメラ(動画用)700又は監視用カメラ(静止画用)701との接続を行うカメラ接続手段、(2)一定時間毎又は録画サーバ100からの全画像要求を受信する毎に、差分検出装置400が接続している監視用カメラ(動画用)700或いは監視用カメラ(静止画用)701から全画像を取得し、全画像転送用の全画像とし、蓄積フォルダ411に全画像転送用の全画像を保存するとともに、録画サーバ100に前記全画像転送用の全画像を転送する全画像転送手段、(3)一定時間中の所定時間毎又は録画サーバ100からの差分画像要求を受信する毎に、差分検出装置400が接続している監視用カメラ(動画用)700或いは監視用カメラ(静止画用)701から全画像を取得し、差分画像転送用の全画像とする差分画像用全画像取得手段、(4)蓄積フォルダ411に保存されている全画像を抽出する抽出手段、(5)抽出手段で抽出された全画像と差分画像用全画像取得手段で取得された差分画像転送用の全画像との差分画像であって、抽出手段で抽出された全画像と差分画像用全画像取得手段で取得された差分画像転送用の全画像とが相違しないエリアをマスクエリアとした第1の差分画像を作成する第1の差分画像作成手段、(6)差分画像用全画像取得手段で取得された差分画像転送用の全画像から第1の差分画像との差分画像であって、第1の差分画像のマスクエリア以外については、差分画像用全画像取得手段で取得された差分画像転送用の全画像の対応部分とし、第1の差分画像のマスクエリアについては透明色情報を設定した第2の差分画像を作成する第2の差分画像作成手段、(7)録画サーバ100に第2の差分画像を転送する差分画像転送手段、(8)蓄積フォルダ411に保存されている全画像を差分画像用全画像取得手段で取得された差分画像転送用の全画像に置き換える全画像置換手段、を設けてある。本実施例では、差分画像用全画像取得手段は、さらに、監視用カメラ(動画用)700又は監視用カメラ(静止画用)701から全画像を取得した後、蓄積フォルダ411に保存されている全画像と画像の色構成を比較し、光量変化によるノイズを除去してから保存する。
【0058】
差分検出装置400は、前述のハードウェア構成と差分検出プログラム413によって、(1)〜(8)の手段として機能する。
【0059】
本実施例の差分検出方法では、録画サーバ100は、(1)差分検出装置との接続を行う差分検出装置接続手段、(2)一定時間(例えば1秒)毎に、接続した差分検出装置に画像を録画サーバに入力させる画像取得手段、(3)差分検出装置から取得した画像が差分画像かを判断する差分画像判断手段、差分検出装置から取得した全画像を保存する全画像保存手段、(4)差分検出装置から取得した差分画像をその一つ前の時点の全画像に合成して全画像として保存する差分画像変換手段、(5)取得又は合成した全画像を次回画像生成までメモリに保持する画像保持手段、(6)取得又は合成した全画像を一次データとして一次画像フォルダに蓄積する一次データ作成手段、(6)一次データを、一定時間分(例えば10分分)毎に結合させタイムスタンプを付して動画形式で圧縮した二次データに変換する二次データ作成手段を設けてある。
【0060】
録画サーバ100は、前述のハードウェア構成と撮影・収集・編集プログラムによって、(1)〜(6)の手段として機能する。また、録画サーバ100は、前述のハードウェア構成と送信プログラムによって、端末へのライブ画像やリライブ画像やそれらの画像の巻戻しや早送り等の画像送信手段として機能する。
【0061】
また、端末200、300に、(1)監視権限のある1又は複数の監視用カメラ700についてカメラ動画のライブ再生を録画サーバ100に要求するライブ再生要求手段、(2)録画サーバ100から送信された一次データを表示するライブ再生表示手段、(3)監視権限のある1又は複数の監視用カメラ700について過去のカメラ動画の再生を録画サーバ100に要求する過去映像再生要求手段、(4)録画サーバ100から送信された二次データを表示する過去映像再生表示手段を設けてある。端末は、前述のハードウェア構成と画像表示プログラム213、313によって、(1)〜(4)の手段として機能する。
【0062】
なお、カメラ画像データを圧縮して作成された一次データは、一定時間毎に録画サーバで二次データに変換されているので、端末は、ライブ画像の巻戻しや巻戻し後の早送り以外に、従来の録画再生装置で可能な、過去のカメラ画像の再生や巻戻し、早送りも可能である。高画質でありながらデータ量が小さく、巻戻しライブ合成画像や早送りライブ合成画像は、一次的な保存用に圧縮した一次データを使用するため、高画質ながらデータ量が小さい。頻繁には使用しない、二次データ作成単位以上に過去分の再生や早送り巻戻しは、圧縮変換した動画ファイルである二次データを使用するため、動画ながら保存に要するデータ量が小さくて済む。また、ライブ合成画像の巻戻し後の再生が可能となる。
【0063】
上述した監視用カメラと差分検出装置と録画サーバと端末とによって構成される監視用カメラシステムは、実施例1の差分画像作成方法と、かかる差分画像作成方法を利用した実施例1の画像転送方法と、かかる画像転送方法によって転送された画像の復元方法である実施例1の画像復元方法を実現する監視カメラシステムであり、差分検出装置から録画サーバへの送信データ量が小さく、ローカル環境以外に動画撮影用カメラを設けてもデータ遅延等の問題が生じにくく、また、録画サーバから端末への送信データ量も小さく、解像度が高く高画質ながらネットワークにかかる負荷が小さい監視システムを実現できる。すなわち、録画サーバへの転送フレーム数を落とさず、また解像度も落とさずに、録画サーバへの転送容量の削減を可能とする。ネットワーク上に同時に流れるデータ量が少なくなるので、一般のインターネット回線などを通じてカメラ画像を録画サーバに流すことができ、また、一般のインターネット回線などにも、ネットワークカメラ情報を流すことができる。さらに、インターネット回線(WAN)越しのクラウドサーバでのデータ蓄積を可能にする。
【0064】
{手順}
本発明の差分画像作成方法の実施例1の差分画像作成手順について次に説明する。本手順では、上述した監視用カメラと差分検出装置と録画サーバと端末とによって構成される監視カメラシステムを使用する。
【0065】
図6は、本発明の差分画像作成方法の実施例1における監視用カメラから録画サーバへのデータ送信のイメージ図である。監視用カメラ(動画用)であるストリームIPカメラも、監視用カメラ(静止画用)である静止画IPカメラも、ネットワークHUBを介して差分検出装置に接続されており、差分検出装置は、ネットワークHUBを介してインターネット網に接続されており、録画サーバであるサーバ機は、インターネット網に接続されている。
【0066】
録画サーバから差分検出装置へ全画像要求や差分画像要求が送信され、差分検出装置は、録画サーバから受信した要求に基づいて監視用カメラ(動画用)や、監視用カメラ(静止画用)に画像要求する。差分検出装置からの要求に基づいて、監視用カメラ(動画用)はストリーム動画を差分検出装置に送信し、監視用カメラ(静止画用)は静止画像を差分検出装置に送信する。差分検出装置に送信されたストリーム動画や静止画像は、差分検出装置において、静止画像である全画像又は差分画像に編集して録画サーバに送信する。したがって、インターネット網には静止画像のみ流れることになり、しかも差分画像では全画像よりデータ量が小さくなるので、ネットワークへの負荷が小さくて済む。
【0067】
図7は、本発明の差分画像作成方法の実施例における差分抽出方法及び本発明の差分画像作成方法の実施例により作成された差分画像からの画像復元方法の説明図である。
【0068】
本実施例の差分画像作成方法では、(1)第1の全画像(
図7における「A画像」)と、第1の全画像の次に連続して取得した第2の全画像(
図7における「B画像」)に基づき、第1の全画像と第2の全画像の差分画像であって、第1の全画像と第2の全画像とが相違しないエリアをマスクエリアとした第1の差分画像(
図7における「A画像とB画像の差分」)を作成するステップ、(2)第2の全画像から第1の差分画像との差分画像であって、第1の差分画像のマスクエリア以外については第2の全画像の対応部分とし、第1の差分画像のマスクエリアについては透明色情報を設定した第2の差分画像(
図7における「B画像から差分発生エリアを抽出」=「差分画像」)を作成するステップ、を含む。
図7における「A画像とB画像の差分」の絵において、マスクエリアは黒く塗りつぶした部分である。
図7における「B画像から差分発生エリアを抽出」の絵において、黒く塗りつぶした部分は、αチャンネルとし透明色を扱えるフォーマットに変換して、透明色情報を設定したエリアである。これにより、画像容量を削減できる。
【0069】
上述した差分画像作成方法によって作成された差分画像の復元方法では、第1の全画像(
図7における「A画像」)に第2の差分画像(
図7における「B画像から差分発生エリアを抽出」=「差分画像」)を合成するステップを含む。第1の全画像に第2の差分画像を重ね合わせると第2の全画像(
図7における「A画像に差分画像のみを描画」=「B画像」)を復元できる。
【0070】
本実施例の差分画像作成方法では、特に定点で設置する監視カメラのシステムにおいては、差分が小さいので、転送容量の縮小に極めて効果的である。
【0071】
本実施例の差分画像作成方法を含む監視カメラの画像転送方法は、動画を撮影するカメラ群と静止画を撮影するカメラ群と、カメラ群の各カメラ(監視用カメラ(動画用)・監視用カメラ(静止画用))に接続され画像を保存するフォルダを有する差分検出装置と、差分検出装置にルータ及びインターネットを介して接続された録画サーバと、を有する監視カメラシステムにおける画像転送方法であって、(1)一定時間毎又は録画サーバからの全画像要求を受信する毎に、差分検出装置が、カメラから全画像を取得し、全画像転送用の全画像とし、蓄積フォルダに全画像転送用の全画像を保存するとともに、録画サーバに全画像転送用の全画像を転送する全画像転送ステップを含み、かつ、一定時間中の所定時間毎又は録画サーバからの差分画像要求を受信する毎に、(2)差分検出装置が、前記カメラから全画像を取得し、差分画像転送用の全画像とする差分画像用全画像取得ステップと、(3)差分検出装置が、蓄積フォルダに保存されている全画像を抽出する抽出ステップと、(4)差分検出装置が、抽出ステップで抽出された全画像と差分画像用全画像取得ステップで取得された差分画像転送用の全画像との差分画像であって、抽出ステップで抽出された全画像と差分画像用全画像取得抽出ステップで取得された差分画像転送用の全画像とが相違しないエリアをマスクエリアとした第1の差分画像を作成する第1の差分画像作成ステップと、(5)差分検出装置が、差分画像用全画像取得ステップで取得された差分画像転送用の全画像から第1の差分画像との差分画像であって、第1の差分画像のマスクエリア以外については、差分画像用全画像取得ステップで取得された差分画像転送用の全画像の対応部分とし、第1の差分画像のマスクエリアについては透明色情報を設定した第2の差分画像を作成する第2の差分画像作成ステップと、(6)差分検出装置が、録画サーバに第2の差分画像を転送する差分画像転送ステップと、(7)差分検出装置が、蓄積フォルダに保存されている全画像を差分画像用全画像取得ステップで取得された差分画像転送用の全画像に置き換える全画像置換ステップの(2)〜(7)の各ステップを順に繰り返すことを含み、かつ、(8)録画サーバが、差分検出装置から取得した全画像を保存する全画像保存ステップ、(9)録画サーバが、差分検出装置から取得した差分画像をその一つ前の時点の全画像に合成して全画像として保存する差分画像変換ステップを含む。また、上述した全画像転送ステップ及び差分画像用全画像取得ステップにおいて、本実施例においては、カメラから全画像を取得した後、蓄積フォルダに保存されている全画像と画像の色構成を比較し、光量変化によるノイズを除去してから保存する。ノイズの除去は、第1の全画像と第2の全画像のそれぞれから差分量を減らすために行うものであって、大きく画像の色構成が変更されたタイミング(屋外日中、屋外夜間、屋内蛍光灯、屋内照明なしなど)の数枚の静止画像を用いて差分量の少なくなる調整をノイズ除去強度を変化割り出しして行う。
【0072】
撮影・収集・編集プログラムと、差分検出プログラムとを有する監視カメラシステムのプログラムは、これらのステップをコンピュータに実行させるものである。図を用いて、さらに具体的に説明する。
【0073】
図8は、本発明の差分画像作成方法の実施例1における監視用カメラ(静止画用)と録画サーバとの接続から一次画像データ書き込みまでの手順概要を示すフロー図である。まず、録画サーバは、TCP/IP方式で差分検出装置に接続を要求する。差分検出装置は、かかる接続要求を受けて監視用カメラ(静止画用)に接続要求をする。監視用カメラ(静止画用)は1又は複数台で構成され、各カメラと録画サーバは、差分検出装置を介して、ユーザID及びパスワードで認証を行う。差分検出装置が各カメラからの接続応答を受けて、録画サーバの認証用データベースを参照して認証に成功すると、接続状態となる。
【0074】
次に、録画サーバから差分検出装置に、画像要求を行う。差分検出装置は、かかる画像要求を受けて、監視用カメラ(静止画用)に、静止画を撮影し撮影したカメラ画像をJPEG形式で差分検出装置に送信することを要求(画像要求)する。監視用カメラ(静止画用)は、画像要求を受けて、スナップショット(静止画)を撮影して、撮影して得られた静止画をJPEG形式でカメラ画像としてTCP/IP方式で差分検出装置に送信する。本実施例では、録画サーバ側で一定時間毎に二次データに動画圧縮変換するため、静止画を撮影するカメラに動画フォーマットの機能が備わっている必要がない。
【0075】
差分検出装置は、静止画のカメラ画像を受信すると、上述のようにノイズ除去を行い、録画サーバから全画像要求が送信されてから監視用カメラ(静止画用)から送信された画像(1枚目)かを判断する。1枚目である場合は、全画像転送用の全画像とし、蓄積フォルダに全画像転送用の全画像として保存するとともに、録画サーバに全画像転送用の全画像を転送する全画像転送を行う。録画サーバから差分画像要求が送信されてから監視用カメラ(静止画用)から送信された画像である(1枚目でない)場合は、差分画像転送用の全画像とし、蓄積フォルダに保存されている全画像との差分から、上述のようにして透明色情報を設定した第2の差分画像を作成し、録画サーバに第2の差分画像を転送する差分画像転送を行う。差分検出装置は、蓄積フォルダに保存されている全画像を上述した差分画像転送用の全画像(第2の全画像)に置き換える。録画サーバから画像要求が送信される毎にこれらのステップを繰り返す。
【0076】
録画サーバは、差分検出装置から画像を取得すると、画像復元を行う。まずは、取得した画像が差分画像かを判断し、取得した画像が差分画像の場合は、その一つ前の時点の全画像に合成して全画像を生成し、取得した画像が全画像の場合は、そのままとし、いずれの場合も、画像をメモリに展開し、次の画像生成まで保持する。そして、保持した画像を一次データとして、一次画像フォルダに蓄積する。その後、一次データを動画圧縮変換して二次映像フォルダに蓄積する。
【0077】
図9は、本発明の差分画像作成方法の実施例1におけるカメラ(動画撮影)と録画サーバとの接続から一次画像データ書き込みまでの手順概要を示すフロー図である。まず、録画サーバは、TCP/IP方式で差分検出装置に接続を要求する。差分検出装置は、かかる接続要求を受けて監視用カメラ(動画用)に接続要求をする。監視用カメラ(動画用)は1又は複数台で構成され、各カメラと録画サーバは、差分検出装置を介して、ユーザID及びパスワードで認証を行う。差分検出装置が各カメラからの接続応答を受けて、差分検出装置は、監視用カメラ(動画用)に、動画を撮影し撮影したストリーム動画のカメラ画像を差分検出装置に送信することを要求(画像要求)する。
【0078】
監視用カメラ(動画用)は、画像要求を受けて、動画を連続撮影して、撮影して得られた動画をストリーム方式でH.264ベースラインプロファイルの動画のカメラ画像として差分検出装置に送信する。差分検出装置は、動画のカメラ画像を受信すると、接続応答を録画サーバに送信し、録画サーバの認証用データベースを参照して認証に成功すると、接続状態となる。
【0079】
次に、録画サーバから差分検出装置に、画像要求を行う。差分検出装置は、かかる画像要求を受けて、受信済の動画のカメラ画像から所定の間隔で静止画像を抽出し、ノイズを除去する。受信済の動画のカメラ画像から抽出した1枚目の静止画像は、全画像転送用の全画像とし、蓄積フォルダに全画像転送用の全画像として保存するとともに、録画サーバに全画像転送用の全画像を転送する全画像転送を行う。2枚目以降の静止画像は、差分画像転送用の全画像とし、蓄積フォルダに保存されている全画像との差分から、上述のようにして透明色情報を設定した第2の差分画像を作成し、録画サーバに第2の差分画像を転送する差分画像転送を行う。差分検出装置は、蓄積フォルダに保存されている全画像を上述した差分画像転送用の全画像(第2の全画像)に置き換える。録画サーバから画像要求が送信される毎にこれらのステップを繰り返す。
【0080】
録画サーバは、差分検出装置から画像を取得すると、画像復元を行う。まずは、取得した画像が差分画像かを判断し、取得した画像が差分画像の場合は、その一つ前の時点の全画像に合成して全画像を生成し、取得した画像が全画像の場合は、そのままとし、いずれの場合も、画像をメモリに展開し、次の画像生成まで保持する。そして、保持した画像を一次データとして、一次画像フォルダに蓄積する。その後、一次データを動画圧縮変換して二次映像フォルダに蓄積する。
【0081】
図10は、本発明の差分画像作成方法の実施例1における画像の変換方法を示すイメージ図である。
図10は、監視用カメラ(動画用)から取得した画像に基づいて差分検出装置が作成した全画像(Iフレーム)と差分画像(Wフレーム)を録画サーバに送信する状態を示しており、Wフレームは透明色を含む差分画像である。録画サーバの一次画像フォルダに蓄積される一次データは、全フレームがIフレームであって、二次映像フォルダに蓄積される二次データは、一次データからIフレームを200フレームに1枚の割合まで減少させ、BフレームとPフレームとを含む圧縮した動画ファイルである。
【0082】
本実施例は、防犯や管理等のための監視用カメラシステムに利用できる差分画像作成方法であって、撮影した画像やデータをサーバに転送し、蓄積させる。これを用いた画像転送方法によって録画サーバに転送されたデータは、上述した画像復元方法により、端末で表示できる画像に復元される。
【0083】
{効果}
本実施例によれば、録画サーバへの転送フレーム数を落とさず、また解像度も落とさずに、録画サーバへの転送容量の削減を可能とする。
【0084】
また、インターネット回線等を経由してクラウドサーバでのデータ蓄積も可能となる。単純な静止画像収集に比べて、フレーム数の増加、若しくは解像度の拡大が可能である。例えば、従来、Iフレームのみで1秒1コマの画像取得が限界であった場合でもIフレームとWフレームとすることで、1秒3コマの画像取得が可能となり、したがって、一定時間に対するフレーム数を上げることが可能となる。同じ条件で解像度を上げた場合は、1枚目は遅延が発生するものの、それ以降は差分となり容量が減るので、オンタイムをキープできるようになる。
【0085】
カメラから端末へデータを送信する際にパケット紛失が起きにくく、データ転送量が少なくて済む。したがって、インターネット回線(WAN)越しのクラウドサーバでのデータ蓄積が可能となる。
【0086】
なお、本発明は、上記実施の形態に限定されず、その発明の趣旨を逸脱しない範囲で種々と変形実施が可能である。また、上記各実施の形態の構成要素を発明の趣旨を逸脱しない範囲で任意に組み合わせることができる。