IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社日立製作所の特許一覧 ▶ 東京都下水道サービス株式会社の特許一覧 ▶ 一般社団法人日本下水道光ファイバー技術協会の特許一覧

特開2024-179143水環境リモートセンシング装置、水環境リモートセンシングシステム及びタイムラプス動画を生成する方法
<>
  • 特開-水環境リモートセンシング装置、水環境リモートセンシングシステム及びタイムラプス動画を生成する方法 図1
  • 特開-水環境リモートセンシング装置、水環境リモートセンシングシステム及びタイムラプス動画を生成する方法 図2
  • 特開-水環境リモートセンシング装置、水環境リモートセンシングシステム及びタイムラプス動画を生成する方法 図3
  • 特開-水環境リモートセンシング装置、水環境リモートセンシングシステム及びタイムラプス動画を生成する方法 図4
  • 特開-水環境リモートセンシング装置、水環境リモートセンシングシステム及びタイムラプス動画を生成する方法 図5
  • 特開-水環境リモートセンシング装置、水環境リモートセンシングシステム及びタイムラプス動画を生成する方法 図6
  • 特開-水環境リモートセンシング装置、水環境リモートセンシングシステム及びタイムラプス動画を生成する方法 図7
  • 特開-水環境リモートセンシング装置、水環境リモートセンシングシステム及びタイムラプス動画を生成する方法 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024179143
(43)【公開日】2024-12-26
(54)【発明の名称】水環境リモートセンシング装置、水環境リモートセンシングシステム及びタイムラプス動画を生成する方法
(51)【国際特許分類】
   H04N 7/18 20060101AFI20241219BHJP
   G01F 23/292 20060101ALI20241219BHJP
【FI】
H04N7/18 D
G01F23/292 Z
【審査請求】未請求
【請求項の数】15
【出願形態】OL
(21)【出願番号】P 2023097738
(22)【出願日】2023-06-14
(71)【出願人】
【識別番号】000005108
【氏名又は名称】株式会社日立製作所
(71)【出願人】
【識別番号】000220675
【氏名又は名称】東京都下水道サービス株式会社
(71)【出願人】
【識別番号】500343371
【氏名又は名称】一般社団法人日本下水道光ファイバー技術協会
(74)【代理人】
【識別番号】110001678
【氏名又は名称】藤央弁理士法人
(72)【発明者】
【氏名】菊池 信彦
(72)【発明者】
【氏名】戸叶 勝則
(72)【発明者】
【氏名】土橋 昌郎
(72)【発明者】
【氏名】一色 充也
【テーマコード(参考)】
2F014
5C054
【Fターム(参考)】
2F014FA04
2F014GA10
5C054CA04
5C054CC02
5C054DA07
5C054DA09
5C054GB02
5C054HA37
(57)【要約】
【課題】水環境の監視に適切なタイムラプス動画を生成する。
【解決手段】センサノード110-1には、一定の時間間隔で画像撮影を行うカメラ111-1と水位センサ113-1が搭載されている。親局102-1は水位判定部114を備え、水位センサ113-1の測定する水位が上回った際にカメラ111-1の撮影間隔を短縮する。親局102-1はタイムラプス動画生成部105を備え、記憶装置106内部に蓄積された過去撮影画像からタイムラプス動画を生成する際に、撮影画像の撮影時刻ないしは撮影間隔情報を利用して、タイムラプス動画の各フレームの再生時刻が撮影時刻に均一、すなわち時間圧縮率が均一となるようなタイムラプス動画を生成する。
【選択図】図5
【特許請求の範囲】
【請求項1】
カメラを搭載した一つ以上のセンサノードと、
上位装置と、を含み、
前記センサノード又は前記上位装置は、前記カメラで撮影した撮影画像を利用してタイムラプス動画を生成する、水環境リモートセンシング装置。
【請求項2】
請求項1に記載の水環境リモートセンシング装置であって、
前記カメラは、撮影間隔を可変であり、
前記センサノード又は前記上位装置は、
前記撮影画像の撮影時刻又は撮影間隔情報を利用して前記タイムラプス動画を生成し、
生成された前記タイムラプス動画のフレーム画像の再生時刻の、前記撮影画像の撮影時刻に対する時間圧縮率が略均一である、水環境リモートセンシング装置。
【請求項3】
請求項2に記載の水環境リモートセンシング装置であって、
前記カメラを搭載したセンサノード又は他のセンサノードは、水環境を測定し、前記水環境の測定値が第一の規定値を越えた際に前記カメラの撮影間隔を短縮し、前記水環境の測定値が第二の規定値を下回った際に前記撮影間隔を延長する水環境リモートセンシング装置。
【請求項4】
請求項2に記載の水環境リモートセンシング装置であって、
前記カメラ、前記センサノード又は前記上位装置は、
前記撮影画像から水位又は流量を測定し、
測定した前記水位又は流量が第一の規定値を越えた際に前記カメラの撮影間隔を短縮し、測定した前記水位又は流量が第二の規定値を下回った際に前記撮影間隔を延長する、水環境リモートセンシング装置。
【請求項5】
請求項2に記載の水環境リモートセンシング装置であって、
前記センサノード又は前記上位装置は、
外部から水環境情報を受信し、
受信した前記水環境情報が示す値が第一の規定値を越えた際に前記カメラの撮影間隔を短縮し、受信した前記水環境情報が示す値が第二の規定値を下回った際に前記撮影間隔を延長する、水環境リモートセンシング装置。
【請求項6】
請求項2に記載の水環境リモートセンシング装置であって、
前記センサノード又は前記上位装置は、
撮影間隔短縮コマンドを外部から受信した際に前記カメラの撮影間隔を短縮し、撮影間隔延長コマンドを外部から受信した際に前記撮影間隔を延長する、水環境リモートセンシング装置。
【請求項7】
請求項2に記載の水環境リモートセンシング装置であって、
前記カメラ、前記センサノード又は前記上位装置は、
前記撮影画像を解析し、異常の検出中及び検出終了後の所定時間の間、前記カメラの撮影間隔を短縮する、水環境リモートセンシング装置。
【請求項8】
請求項2に記載の水環境リモートセンシング装置であって、
前記センサノード又は前記上位装置は、
前記カメラの撮影間隔に比例して再生時のフレームレートを変化させることで、前記フレーム画像の再生時刻が、前記撮影画像の撮影時刻に対する時間圧縮率が略均一な前記タイムラプス動画を生成し、
前記タイムラプス動画の特定フレームの再生時刻に対応した撮影画像が存在しない場合に、前後いずれかの直近撮影画像を複写することで前記タイムラプス動画を生成する、水環境リモートセンシング装置。
【請求項9】
請求項2に記載の水環境リモートセンシング装置であって、
前記タイムラプス動画は、固定フレームレート動画であり、
前記タイムラプス動画を構成する各フレーム画像は、前記タイムラプス動画の先頭からの再生時刻と前記タイムラプス動画の時間圧縮率の積で決まる撮影時刻の撮影画像、又は、該撮影時刻の前後いずれかの直近の撮影画像の複写である、水環境リモートセンシング装置。
【請求項10】
請求項2に記載の水環境リモートセンシング装置であって、
前記センサノード又は前記上位装置は、前記タイムラプス動画に含まれるフレーム画像に、撮影時刻、又は一つ以上の水環境の測定値及び測定時刻を文字列として焼きこむ、水環境リモートセンシング装置。
【請求項11】
請求項1に記載の水環境リモートセンシング装置であって、
前記センサノード又は前記上位装置は、
前記カメラによる撮影画像シーケンスから得られた撮影画像から、前記タイムラプス動画のフレーム画像を作成し、
前記タイムラプス動画におけるフレーム画像それぞれの、前記タイムラプス動画の先頭から再生時刻までの時間圧縮率の差が小さくなるように、前記フレーム画像それぞれの再生時刻を決定する、水環境リモートセンシング装置。
【請求項12】
請求項11に記載の水環境リモートセンシング装置であって、
前記センサノード又は前記上位装置は、前記時間圧縮率の差が最小となるように、前記タイムラプス動画の固定又は可変フレームレートと前記フレーム画像それぞれの再生時刻との関係を決定する、水環境リモートセンシング装置。
【請求項13】
カメラを搭載した一つ以上のセンサノードと、
一つ以上の上位装置と、を含み、
前記一つ以上の上位装置は、ユーザの要求に応じて、過去の蓄積された撮影画像から、指定カメラの撮影画像を用いて指定時刻のタイムラプス動画を生成し、前記ユーザに返送する又はネットワーク経由での前記ユーザの閲覧を処理する、水環境リモートセンシングシステム。
【請求項14】
請求項13に記載の水環境リモートセンシングシステムであって、
前記一つ以上の上位装置は、自動的に過去の蓄積された撮影画像から前記指定カメラの撮影画像を用いたタイムラプス動画を生成して、所定の場所に保存又はネットワーク経由で閲覧可能とする、水環境リモートセンシングシステム。
【請求項15】
水環境リモートセンシング装置が、タイムラプス動画を生成する方法であって、
前記水環境リモートセンシング装置は、水環境に設置されたカメラを含み、
前記方法は、前記水環境リモートセンシング装置が、
前記カメラで撮影した、撮影間隔が変化する過去の撮影画像を取得し、
前記撮影画像の撮影時刻又は撮影間隔情報を利用して前記タイムラプス動画を生成し、
生成された前記タイムラプス動画のフレーム画像の再生時刻は、前記撮影画像の撮影時刻に対する時間圧縮率が略均一である、方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、水環境において利用されるカメラを用いたリモートセンシング装置、リモートセンシングシステム、及びタイムラプス動画の生成法に関するものである。
【背景技術】
【0002】
上下水道や水路・河川・湖沼などに代表される水環境領域においては、洪水防止や環境改善、汚染防止などの観点から水位や水質などのセンシングに対するニーズが高まっている。一般に水環境の特徴としては、測定対象となる地域や施設が広く、電源・通信ケーブル等へのアクセスが悪い、測定地点には水没や腐食のリスクがあるため情報機器の配置に適さない、作業員の立ち入りが困難などがあり、情報機器の配置に適さないケースが多い。このようなケースでは、観測地点にはセンサないしはセンサノードを配置し、遠方に配置した本体(親機)に対して測定結果を送信するリモートセンシングが利用される。
【0003】
このようなリモートセンシングで測定される水環境指標は、水位、水質(pH、濁度、塩分濃度、電気伝導度、各種イオン濃度等)、水温、流速、流量など目的に応じてさまざまである。近年では、水位、異物・侵入者の有無、構造物の異常などの監視を目的に、静止画や動画を取得するカメラも重要な監視手段であり、河川・港湾・堰などの監視に導入が進められている。
【0004】
図1は特開2014-70998「流水監視装置」(特許文献1)に開示された、従来のカメラを搭載した水環境監視装置の構成例を示している。流水監視装置(本体ケース)300は下水管中に設置されて長期間動作する装置であり、その主電源は内部のバッテリ308であり、本バッテリは下水の流れで発電を行う発電機309の起電力によって補助的に充電を行われている。バッテリに充電された電力は電源回路306を経て主CPUを搭載した主基板301及び低電力マイコン305に供給される。本監視装置にはセンサとして監視カメラ302と水位センサ307が搭載されており、測定した下水の水位や撮影画像は外部記憶媒体303に記録され、必要に応じて通信モジュール304から無線回線などを通じて外部に取り出すことが可能である。
【0005】
本監視装置はバッテリ及び下水の水力発電という限られた電力で動作するため、電力消費の大きい画像撮影の頻度を高めると短期間でバッテリを消費してしまい、装置稼働時間が短くなってしまう点が問題となる。このため通常は1時間間隔などの長い間隔で監視カメラ302を起動して下水管内の画像撮影を行い、撮影終了と共に主基板301ないしは監視カメラ302は電力を遮断して電力の節減を図る。一方、低電力マイコン305はより短い10分間隔で起動して水位センサ307を用いて下水水位を観測し、降雨などで下水水位が所定の値を越えている際は主基板と監視カメラを起動して画像の撮影を行う。このように通常は1時間間隔、水位上昇の際は10分間隔と画像の撮影頻度を動的に変更する方式が記載されている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2014-70998号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
カメラを用いた水環境の画像監視においては、前述のような動作電力以外にも、撮影画像の評価の負荷が急増し有効活用が困難となる点が大きな課題となる。撮影頻度を高めるほど詳細かつリアルタイム性の高い監視情報が得られるが、同時に撮影画像数は10分間隔の撮影で1日あたり144枚、1分間隔であれば1日1440枚と増加する。このような大量の類似した画像を、逐一監視員が目視チェックする作業は所要時間的にも精神的にも負荷が大きく異常や変化の見逃しなどのミスも増加してしまう。このように撮影頻度を上げても、作業員の負荷が増すばかりで監視効率は必ずしも向上しない。
【0008】
またカメラを搭載したリモートセンシング装置で取得した大量の撮影画像をユーザが活用しやすい形態でリアルタイムに提供することも難しい点も課題となる。水環境における画像監視の目的としては、例えば「現在までの数時間の水位変動を知りたい」、「過去の特定の降雨時の水位の挙動を見たい」、「昨日1日の水環境施設の運転状況を俯瞰したい」などさまざまである。それぞれ該当期間に撮影した数100~数1000枚の画像を閲覧する必要があるが、大量の画像だけあってもそこから短時間でトレンドや状況変化を把握することは困難であり、ユーザ利便性が悪いという課題がある。
【課題を解決するための手段】
【0009】
上記に示す本発明の課題は、カメラを搭載した水環境リモートセンシング装置においてタイムラプス動画の生成機能を備えることによって解決できる。
【0010】
また電力節減や撮影効率化の目的で撮影間隔を可変できるカメラを搭載する場合、撮影頻度の変化によってタイムラプス動画の再生速度が不均一、すなわち時間圧縮率が不均一となってしまうが、これは各撮影画像の撮影時刻ないしは撮影間隔情報を利用してタイムラプス動画を生成する機能をもち、生成されたタイムラプス動画の各フレーム画像の再生時刻を撮影時刻に対して時間的に略均一、すなわち時間圧縮率を均一とすることによって解決できる。
【0011】
また前記のようなタイムラプス動画の再生速度(時間圧縮率)の均一化は、カメラを搭載したセンサノードないしは他のセンサノードが水位や水質などの水環境情報の測定機能を持ち、これらの測定値のいずれかがあらかじめ定めた第一の規定値を越えた際にカメラの撮影間隔を短縮し、またあらかじめ定めた第二の規定値を下回った際にカメラの撮影間隔を延長するような機構を持つ場合に特に有効となる。これは前記のカメラやセンサノードないしは上位装置が、カメラの画像から水位や流量を測定する画像処理機能を持ち測定した水位や流量に応じて測定間隔を可変する場合や、本装置が外部から水環境情報ないしは外部コマンドを受信する機能をもち、受信した水環境情報やコマンドに応じてカメラの撮影間隔を可変する場合、もしくはカメラないしはセンサノードないしは上位装置が撮影したカメラの画像を解析する画像処理機能を持ち、画像中に異物や異常画像を検出した際に異物の検出中及び検出終了後の予め定めた一定時間の間、撮影間隔を短縮する機能を持つ場合などについても同様である。
【0012】
また本発明で生成するタイムラプス動画の各フレーム画像の再生時刻を撮影時刻に対して均一とする手段としては、第一に静止画像の撮影間隔に比例して再生時のフレームレートを可変することで実現できる。ただし現実には、動画規格や再生アプリ等の制約によりフレームレートを完全に任意の値にすることはできないため、前記可変フレーム動画の生成時に各フレームに対してちょうど対応する撮影時刻の撮影画像が存在せず不足する場合には、前後直近時刻の画像を複写することで、また静止画像が過剰となる際には間引きを行うことで、再生時刻が撮影時刻に対して略均一、すなわち時間圧縮率が略均一なタイムラプス動画が生成できる。
【0013】
また第二の手法としては、生成するタイムラプス動画を固定フレームレート動画とし、動画を構成する各フレーム画像は動画の先頭からの再生時刻とタイムラプス動画の時間圧縮率の積で決まる撮影時刻の画像、ないしは当該撮影時刻の前後いずれかの直近の撮影画像を選択・複写することによっても実現できる。
【0014】
またタイムラプス動画を提供する際には各フレーム画像に撮影時刻、ないしは水環境情報の測定値とその測定時刻を文字列として焼きこむことによって、画像の撮影時刻や測定時間の認識しやすくなりその有効性が増す。
【0015】
また前述の課題のように本発明のセンシングシステムにおいては、ユーザの要望に応じて任意の場所・時間のタイムラプス動画を生成・提供することで撮影画像を有効に活用できる。このような動画の提供機構は、ネットワークないしは通信経路を介して送付されたユーザの要求に応じて、過去の蓄積された撮影画像から、指定カメラの撮影画像を用いて指定時刻のタイムラプス動画を生成し、要求したユーザに返送する機能ないしネットワーク経由で閲覧可能とすることで実現できる。また動画を構成する各フレーム画像の再生時刻が撮影時刻に対して略均一、すなわち時間圧縮率が略均一なタイムラプス動画を生成する機能を備え、所定ないしは指定の時間間隔で自動的に過去の蓄積された撮影画像から指定カメラの撮影画像を用いたタイムラプス動画を生成して、所定の場所に保存ないしはネットワーク経由で閲覧可能とすることでも達成できる。
【発明の効果】
【0016】
本発明では、水環境の監視カメラで得られた大量の画像をタイムラプス動画として提供することにより、撮影画像のチェックやトレンドの把握に要する時間を大幅に短縮し、作業者の負荷を軽減できるという効果がある。
【0017】
またカメラの撮影頻度を変更した際には、生成したタイムラプス動画の各フレームの再生時刻が撮影時刻と均一、すなわち時間圧縮率が略均一になるようにすることで、水位の上昇速度や急増の様子など変化のトレンドを閲覧者に正しく伝えることが可能になり、堰の越流や貯水上限までの時間などの運転情報の予測が容易となる効果がある。
【0018】
またユーザの指定する過去から現在の指定期間の撮影画像を一本のタイムラプス動画に変換してユーザに提供することで、撮影画像の閲覧性・利便性・活用性を大幅に向上することが可能になる。
【図面の簡単な説明】
【0019】
図1】従来のカメラを搭載した水環境監視装置を示す構成図である。
図2】撮影頻度の可変機構をもつ関連技術のタイムラプスカメラによる撮影時刻と再生時刻の関係を示す説明図である。
図3】実施例1を示す構成図である。
図4】実施例1における可変フレームレートのタイムラプス動画の生成法を示す説明図である。
図5】実施例2を示す構成図である。
図6】実施例2における固定フレームレートのタイムラプス動画の生成法を示す説明図である。
図7】実施例3における水環境センシングシステムの構成図である。
図8】実施例4におけるタイムラプス動画への撮影時刻・水環境測定データの書き込み例を示す説明図である。
【発明を実施するための形態】
【0020】
以下、本発明の幾つかの実施例を、図面を参照して説明する。
【実施例0021】
水環境のリモート監視装置に搭載したカメラで撮影した大量の画像の閲覧方法としてはタイムラプス動画の利用が有効と考えられる。タイムラプス動画は一定間隔で撮影された静止画(ないしは長時間の動画から所定の間隔で抽出した静止画)を連結して短時間の動画に変換することで、数時間から数日といった長時間の撮影を数分~数秒の早回し動画として短時間で観察できるようにする手法である。タイムラプス動画は、大量の画像を短時間で閲覧することができる、画像の変化やその傾向が把握しやすいなどの利点があり、定点カメラで撮影した夜間の動物の出現などのイベント監視、ゆっくりとした植物の成長や天体の動きの時短観察などに用いられる。
【0022】
図3は、本明細書の実施例1を示す構成図であり、基本的な実施形態を示している。下水管の要所の水面、下水管の合流点や堰、河川への放出口、堤防などの水環境の監視点の近傍にはセンサノード110-1、110-2が配置される。本例はセンサノード110-1に1台のカメラ111-1を、センサノード110-2に2台のカメラ111-2、111-3を接続して監視点の画像監視を行う例を示している。
【0023】
親局102-1は複数のセンサノード110-1、110-2にノード接続ケーブル112を介して接続された上位の管理装置であり、各センサノードへの測定・撮影コマンドの送付、各センサノードの状態管理や測定データの集約/蓄積などを行う。遠隔監視端末(RT)100は、水環境の監視を行う自治体や管理会社等に設置されるさらなる上位装置である。遠隔監視端末100は、ネットワーク101を介して、複数の親局102-1、102-2に接続されており、各親局の集約した測定データや画像を閲覧したり、各装置を遠隔管理する役割を持つ。
【0024】
また親局102-1中には、CPU103、リアルタイムクロック104、タイムラプス動画生成部105、記憶装置106が配置される。CPU103は、リアルタイムクロック104を元に所定の間隔でセンサノード110-1、110-2に画像撮影コマンドを送る。
【0025】
センサノード110-1は、画像撮影コマンドを受け取ると、カメラ111-1で撮影を行い、カメラから撮影画像107-1を受け取り、これを親局102-1に返送する。親局102-1内のCPU103は、センサノード110-1から送付された撮影画像107-2を、撮影したセンサノードやカメラの個体番号(本例では110-1、111-1)や、リアルタイムクロック104から得られる撮影時刻ないしは撮影間隔などの情報とともに記憶装置106中に保存する。
【0026】
タイムラプス動画生成部105は、記憶装置106中にある過去の撮影画像、及びその撮影時刻情報・撮影間隔情報を利用してタイムラプス動画を生成する。タイムラプス動画の生成のタイミングや対象期間は、任意に設定することが可能である。例えば1日一回1日分のように所定のタイミングで所定期間のタイムラプス動画を自動的に生成したり、遠隔監視端末100から送られたコマンド中で指示された日時・期間などに従って都度タイムラプス動画を生成するような利用形態が考えられる。
【0027】
なお本図中のノード接続ケーブル112としては一般的な電気多芯ケーブル、イーサネットケーブル(イーサネットは登録商標)などの有線電気ケーブルが利用可能であり、本ケーブルを用いて親局とセンサノード間の上下通信信号の伝送が可能である。これ以外にも光ファイバ回線や無線通信を利用することも可能であり、後者の場合であれば実際にはノード接続ケーブル112は存在しないことになる。
【0028】
またセンサノードの動作電力はノード接続ケーブル112を利用して供給することも可能であるし、他の手段を併用してもかまわない。例えば通信用多芯ケーブル中に電力供給用の電線を設けたり、PoE(パワーオーバーイーサ)のように通信用ケーブルをそのまま電力供給に併用してもかまわない。また光ファイバを利用して親局側からセンサノードに向けて強いレーザ光を利用して電力を光で送信する光給電技術も利用可能であり、センサノードをバッテリ動作としてもかまわない。また上記のうち任意の手段の組み合わせ、例えば無線通信とバッテリ動作、光ファイバ通信と電気ケーブルによる電力供給などを併用することも可能である。
【0029】
なお、既存の定点カメラを動物の出現などのイベント監視に用いる場合には、撮影電力や画像の記憶容量の節約のために、人感センサによる動物の検知やカメラ画像の異常を検知して撮影頻度を高める機構が用いられる場合がある。このような撮影頻度の変更は水環境リモートセンシング装置においても、画像の保存に必要な記憶容量の節減や動作電力の節減においても有効な機能となる。特に、センサノードがバッテリ動作を行う場合や、光ファイバ給電や環境発電など給電量に制限のある給電方法を用いる場合には特に重要となる。
【0030】
図2は、このような撮影頻度の可変機構をもつ関連技術のタイムラプスカメラによる画像撮影と、再生画像と、の関係を示している。図2(a)の横軸は実際の画像の撮影時刻を示している。逆三角印は画像撮影のタイミング、#1~#15は順に撮影画像の番号である。本図では画像#1~#4は10分間隔で撮影を行い、#4~#12は動物の出現などのイベントの検知をトリガに撮影間隔を30秒に短縮、ついでイベントの終了した#12以後は再び撮影間隔を10分間隔に戻している。
【0031】
一方、図2(b)は撮影画像#1~#15から作成したタイムラプス動画の再生の様子を示している。横軸は各画像(フレーム)の再生時刻、すなわち表示タイミングを示している。本例では各画像を1秒間隔(フレームレート1fps(フレーム/秒))で表示することで1時間強に撮影した全画像を15秒間の動画に圧縮し、短時間で閲覧することが可能になる。
【0032】
この際、撮影間隔を短縮した画像#4~#12の区間は元の撮影時間は計8分と短時間であったにも関わらず、撮影枚数が多いためタイムラプス動画中での再生時間は14秒中8秒と大半を占める。動物の観察などのイベント検知においては撮影対象の写っている時間が興味の中心でありその他の時間の撮影画像は不要と考えられるため、このように撮影頻度を高めた部分の再生時間が拡張されることはむしろ好ましいものと言える。
【0033】
しかしながら、このようなタイムラプス動画をカメラの撮影速度を可変とした水環境センシング装置に適用する際には、撮影頻度を短縮した部分で再生時間が伸張され、各フレーム画像の再生時刻と実際の撮影時刻の対応、すなわち時間圧縮率が不均一となってしまう点が大きな問題となってしまう。
【0034】
水環境においてタイムラプス動画を活用する際には、過去の水位や流量の変化のトレンドから、堰の越流、堤防上端への到達時刻、貯水地の貯留限界を推定する用途が考えられる。このような用途においては、タイムラプス動画の各フレームの再生時刻が実際の撮影時刻の対応、ないしは時間圧縮率が不均一であると、重要事象の切迫度や発生予想時間を間違えて解釈し、運転操作を誤ることでポンプや処理施設の故障、汚水の逆流、街路の浸水などの重大事故につながる可能性がある。特に水位監視においては、降雨などで水位が高くなる際ほど監視カメラの撮影頻度を高くする必要があるが、上述のタイムラプス動画生成方法においてはこの期間の再生速度がスローとなり、水位の急上昇など危険情報を見逃してしまうリスクがある。
【0035】
このため、本明細書の一実施例では、各フレームの再生時刻が撮影時刻に対して略均一(完全均一を含む)に対応する時間圧縮率が略均一なタイムラプス動画を生成することによって、水環境における水位の上昇速度、堰の越流までの時間、ないしは越流状態にあった時間長などを、時間間隔を損なわずに動画化を行う。その結果、ポンプや堰の操作担当者の錯誤を防ぎ、正確な判断をすることが可能とする。
【0036】
本明細書の一実施例は、カメラによる撮影画像シーケンスから得られた撮影画像から、前記タイムラプス動画のフレーム画像を作成し、タイムラプス動画におけるフレーム画像それぞれの、タイムラプス動画の先頭から再生時刻までの時間圧縮率の差が小さくなるように、フレーム画像それぞれの再生時刻を決定する。これにより、フレーム画像の再生時刻と実際の撮影時刻の対応を均一なものに近づけ、時間圧縮率を略均一にすることができる。タイムラプス動画の各部における時間圧縮率の差が最小となるように、タイムラプス動画の固定又は可変フレームレートと前記フレーム画像それぞれの再生時刻との関係を決定する。これにより、効果的にフレーム画像の再生時刻と実際の撮影時刻の対応を均一なものに近づけることができる。
【0037】
図4は、図3中のタイムラプス動画生成部105における、撮影時刻と再生時刻が略均一に対応した本実施例の可変フレームレートのタイムラプス動画の生成法を示す説明図である。図4(a)の横軸はカメラ111-1の実際の撮影時刻であり、逆三角印は画像撮影のタイミング、#1~#15は順に撮影画像の番号を示している。本実施例のカメラ111-1は撮影間隔が可変である。本図では画像#1~#4は10分間隔で撮影を行い、#4~#12は水位の上昇などのイベントの検知をトリガに撮影間隔を30秒に短縮しており、イベント検知の終了した#12以後は再び撮影間隔を10分間隔に戻している。
【0038】
図4(b)は本実施例によって生成した各フレームの再生時刻が撮影時刻に対して均一とした、時間圧縮率の略均一なタイムラプス動画の例であり、本例ではタイムラプス動画のフレームレートを可変にすることによって実現している。すなわち実際の撮影時刻に対してタイムラプス動画の時間圧縮率を1/300とする。撮影間隔が10分の部分では、動画のフレーム間隔が10分/300=2秒となるようにフレームレートを0.5fpsに設定し、また撮影間隔が30秒の部分では動画のフレーム間隔を30秒/300=0.1秒となるようにフレームレートを10fpsに加速する。これにより、撮影時刻と再生時刻の対応を均一にすることが可能となる。
【0039】
なお動画のフレームレートは動画の規格や動画の再生及び生成に用いるソフトウェアの制約などにより必ずしも任意な値を選択することができない。一方で元画像の撮影時刻及び撮影間隔、タイムラプス動画の長さ(再生に必要な時間)などのパラメータは、ユーザの要望などによって任意に設定できることが望ましい。この場合は必ずしもタイムラプス動画の各フレームにぴったり合致する時刻の撮影画像が存在するとは限らない。
【0040】
図4(c)はこのような場合に、各フレームの再生時刻が撮影時刻に対して略均一となる、時間圧縮率の略均一なタイムラプス動画の生成方法を示している。本例では、撮影間隔が10分の期間ではタイムラプス動画のフレームレートを0.5fpsの代わりに1fps、また撮影間隔を30秒に短縮した期間ではフレームレートを10fpsの代わりに12fpsとした例である。タイムラプス動画の時間圧縮率は1/300のままであり、タイムラプス動画が1fps(フレーム間隔1秒)の区間では300秒毎に1枚の実撮影画像が必要となるが、実際の撮影間隔は10分(600秒)である。
【0041】
よって図4(c)においては、実撮影画像の存在しない先頭から偶数番目のフレーム(黒逆三角)では、直前の実撮影画像を複写して代用するものとした。例えば2番目のフレームで利用する画像#1'は画像#1の、4番目のフレームで利用する画像#2'画像
#2を複写したものである。
【0042】
またフレームレートを12fpsに上げた区間では、フレーム間隔が0.083秒となりいずれも実撮影時刻がちょうど合致する撮影画像が存在しなくなる。それぞれ直前ないしは直近の撮影画像を用いたり、図4(c)の#6'/#9'のように実画像の不足が生
じる場合には適宜直前の実撮影画像を複写して利用することによって、本実施例のタイムラプス動画を生成することができる。
【0043】
なお上記の図4(c)の例では動画のフレームレートを1fps、12fpsとしたがこれらはあくまで例であり、実際には作成する動画の種別(例:MJPEG/MP4/H.264など)や、再生に利用する機材やソフトウェアに応じたフレームレートから選択するのが望ましい。また対応する画像が存在しないフレームではそれぞれ直前の画像を複写するものとしたが、直後の画像ないしは時間的もっとも近い画像を選択するなどによってもほぼ同等のタイムラプス動画を生成することが可能となる。
【0044】
また撮影間隔やフレームレートは長短の2種としているが、必要に応じてこれらを段階的又は連続的に短縮又は伸張することも可能であり、各場合においては図4(c)同様にタイムラプス動画のフレーム毎に、時間圧縮率が略均一となるよう実際の撮影画像から撮影時刻の近いものを選択すればよい。
【0045】
なお図3においては、親局102-1中のタイムラプス動画生成部105はCPU103とは異なる部品として表記しているが、本機能は図に示すようにCPU103とは異なる別のCPUや内蔵GPUなどのCPU103の外部ないしは内部のハードウェアで実現してもよいし、CPU103の実行する親局制御プログラムの一部などのソフトウェアであってもよい。上記タイムラプス動画生成機能は、センサノードに実装されてもよい。この点は、他の実施例において同様である。
【実施例0046】
図5は、本明細書実施例2を示す構成図であり、下水や河川の水位に応じてカメラの撮影間隔を変更する例である。図中のセンサノード110-1はカメラ111-1と水位センサ113-1を、またセンサノード110-2はカメラ111-2と水位センサ113-2を搭載している。
【0047】
本例では、親局102-1中のCPU103は例えば10秒間隔などの一定の周期でセンサノード110-1、110-2に測定コマンドを送付して水位センサ113-1、113-2で水位測定を行なう。CPU103はこれと並行して通常は10分間隔でセンサノード110-1、110-2に撮影コマンドを送付してカメラ111-1、111-2で画像撮影を行う。
【0048】
各センサの水位測定値は、水位判定部114において水位センサ113-1で測定した水位が規定値Aを越えたかどうか、また規定値Bを下回ったかどうかを判定し、CPU103は前者の場合にはカメラ111-1の撮影間隔を短縮し、後者の場合には撮影間隔を延長する。なお一般にはA>Bとしてヒステリシスを設けることによって画像撮影間隔の変更が頻繁に発生することを防ぐことができる。また水位が一定値Aを越えたないしはBを下回った状態が一定時間継続したことを条件として撮影頻度の変更を行うなどでも、測定値の雑音や異常値による誤動作を防ぐことができる。
【0049】
なお上記ではセンサノード110-1で測定した水位に基づいてカメラ111-1の撮影間隔を可変するものとしたが、同時に他のノード110-2に搭載したカメラの撮影頻度を変えてもかまわない。またカメラ毎に撮影頻度の基準水位A、Bを独立に設定したり、他のノードないしは親局から得られた他の水位センサの測定水位に基づいて別のノードに搭載されたカメラの撮影頻度を変更するなどは、測定対象となる水環境の状況に応じて任意に設定してもかまわない。このような例としては、例えば河川や下水管渠の数m~数km上流で水位測定を行い、下流の堰やポンプ所流入渠に設置したカメラの撮影間隔を変更するなどが考えられる。
【0050】
また撮影間隔を変更するトリガとして用いる水環境測定量も水位に限る必要はない。例えば、雨水流入によって生じる水温の低下を利用し、水温の逆数が一定値を超える(水温が一定値以下に低下)ことをトリガとして撮影間隔を短縮するなどの使い方も可能である。同様にpH、電気伝導度、濁度などの測定値を撮影頻度の変更に利用してもかまわない。
【0051】
また水位センサ113-1、113-2を利用せず、カメラで撮影した画像から水位を求めてもかまわない。この場合には水位判定部114では、撮影画像ごとに画像処理を実施し、画像から得られた水面の高さなどから水位を計算し前記の規定値Aを越えたか、もしくは規定値Bを下回ったかの判定を行えばよい。
【0052】
測定及び判定される対象は、流量であってもよい。親局102-1は、撮影画像ごとに画像処理を実施し、画像から得られた水面の高さなどから流量を計算し規定値Aを越えたか、もしくは規定値Bを下回ったかの判定を行えばよい。他の例において、親局102-1は、撮影したカメラの画像を解析する画像処理機能を持ち、画像中に異常を検出した際に異常の検出中及び検出終了後の予め定めた所定時間の間、撮影間隔を短縮してもよい。画像処理機能は、例えば機械学習モデル又はルールベースのモデルを使用してよい。画像処理機能は、親機に代えて、センサノード又はカメラに実装されてもよい。
【0053】
なお水位判定部114についても前述のタイムラプス動画生成部105と同様に、ハードウェアとしてもしくは親局制御プログラムの一部などのソフトウェアとして実装することが可能である。
【0054】
また図6は、図5中のタイムラプス動画生成部105で生成する、撮影時刻と再生時刻の均一な固定フレームレートのタイムラプス動画の生成法を示す説明図である。一般にデジタル動画においては、可変フレームレートより固定フレームレートの動画の方が対応機器及びソフトウェアが多く、より広く一般的に利用されている。図6(a)は図4(a)と同様に、カメラ111-1における画像の撮影タイミングを示している。図6(b)は本明細書の実施例によって各フレームの再生時刻が撮影時刻に対して均一となる、時間圧縮率の略均一なタイムラプス動画の一例であり、本例ではタイムラプス動画のフレームレートを固定値の10fpsとしている。
【0055】
前記の例と同様にタイムラプス動画の時間圧縮率を1/300とすると、撮影間隔が10分の区間のタイムラプス動画での画像更新頻度は2秒間隔、撮影間隔が30秒の区間では0.1秒間隔に相当する。よって前者の区間ではタイムラプス動画の先頭フレームに撮影画像#1を配置し、その後19フレームには#1画像を複写(画像#1')する。以下
、撮影間隔が30秒の区間では同様に20フレームごとに同一画像を複写して配置する。また後者の撮影間隔が30秒の区間では撮影画像をそのまま0.1秒間隔のフレームに配置することで、所望の10fpsの固定フレームレートのタイムラプス動画が生成できる。
【0056】
なお図6(c)は固定フレームレートを12fpsに設定した場合であり、画像撮影タイミングとタイムラプス動画のフレームのタイミングが合致しない例である。このような場合には前述の図4(c)と同様にタイムラプス動画の各フレームタイミングに対応した撮影画像を適宜選択し、複写して割りつけることで、任意の固定フレームレートのタイムラプス動画を生成することが可能になる。
【0057】
なお本実施例を含め、本願においては、カメラ111はもっぱら静止画を撮影し、タイムラプス動画は親局102中の記憶装置106に蓄積された静止画から作成する例を説明するものとしたが、これらの静止画の一部ないしはすべては動画から抽出した静止画を利用して生成してもかまわない。
【0058】
カメラ111で動画を撮影する場合でも、センシング装置の電力ないしは記憶容量には制限があるため、消費電力やデータ量のおおきな動画を常時撮影し全てを記録することは困難である。このため通常時は静止画のみを撮影して水位上昇時にのみ5分間ごとに1分間の動画を間歇的するようなユースケースや、通常時は10分毎に1分間の動画を間歇的に撮影し水位上昇時は連続的に動画を撮影するような場合、常時フレームレートを落とした動画を撮影し水位が上がったときのみフレームレートを向上させるようなケースが考えられる。
【0059】
このようなケースでは、間歇撮影の頻度や動画フレームレートの変化が本願の撮影頻度の変更に該当し、撮影した静止画、ないしは各動画から抽出した1枚ずつないしは複数枚ずつの静止画を、前述の図4ないしは図6の例のように可変ないしは固定フレームレートのタイムラプス動画の各フレームに割り当てることで、所望のタイムラプス動画を生成することが可能になる。
【0060】
なおセンサノードがバッテリ電力を利用して動作する場合、カメラの撮影頻度の変更には前述のセンサ測定値のみならず、バッテリの残量をも考慮するのが望ましい。これはセンサノードへの電力供給手段が環境発電、光ファイバ給電などの給電能力に制限がありバッテリを併用する場合も同様である。
【0061】
一般にカメラは大きな電力を必要とするセンサであり、特に暗所において撮影時にLEDフラッシュなどを点灯して照明を行う必要がある場合にはさらに撮影電力が大きくなる。このため撮影頻度を高めると急激にバッテリ消費量が増えてしまう可能性があるため、バッテリ残量が規定値を下回った場合にはカメラの撮影頻度を定常状態に戻す、ないしは通常よりもさらに下げるなどの対策を用いるのが望ましい。このようにバッテリ残量などの要因が原因で、撮影頻度が可変とする場合についても本明細書の実施例によって画像フレームの再生時刻が撮影時刻に対して均一に対応する、時間圧縮率の略均一なタイムラプス動画を作成する手法が有効である。
【実施例0062】
図7は本明細書の実施例3を示す構成図であり、本明細書の実施例のタイムラプス動画生成機能と動画閲覧機能をネットワーク上の上位サーバに配置した水環境センシングシステムの構成図である。本構成では、降雨による増水などが予想される際に管理者はあらかじめ遠隔監視端末100を操作して親局102-1に対して撮影頻度変更コマンド127を送付し、例えば12時間後から48時間後までなどの指定した期間、センサノード110-1に搭載されたカメラ111-1の撮影間隔を変更することができる。
【0063】
他の例において、親局102-1は、水環境情報を外部から受信し、その水環境情報が示す値があらかじめ定めた第一の規定値を越えた際にカメラの撮影間隔を短縮し、水環境情報が示す値があらかじめ定めた第二の規定値を下回った際に撮影間隔を延長してもよい。水環境情報は、天気についての情報やいずれかの場所の水位や流量の情報であってもよい。なお、親局に代えて、センサノードが外部からコマンド又は水環境情報を受信して、撮影頻度を制御してもよい。
【0064】
一方、画像・動画サーバ120は、ネットワーク101を介して自動的に任意のタイミングで親局102-1中の記憶装置106に蓄積された画像データ124を受領し、タイムラプス動画生成部105にて本願のタイムラプス動画を生成、これを大容量記憶装置121中に保存する。
【0065】
これらのタイムラプス動画は必要に応じてサーバ122上のウェブページに表示することで、遠隔監視端末100や、ネットワーク101に接続された他のユーザPC123から閲覧することが可能となる。このようにすることで、例えば毎日1日分の撮影画像をタイムラプス動画に変換して蓄積し、過去のタイムラプス動画をいつでも閲覧できるようにすることが可能である。
【0066】
また、遠隔監視端末100やユーザPC123から画像・動画サーバ120に直接動画要求コマンド125を送ったり、サーバ122上のウェブページに必要情報を入力することによって、指定のカメラで所望の期間に撮影した画像のタイムラプス動画作成要求を行うことも可能である。その場合には、画像・動画サーバ120は、自装置内の大容量記憶装置121ないしは親局102ー1などの記憶装置106から必要な画像データを取得し、タイムラプス動画生成部105にて要求されたタイムラプス動画を生成する。
【0067】
作成したタイムラプス動画は、サーバ122から動画データ126としてファイルやストリーミングの形態で要求元の監視端末100やユーザPC123に送付したり、大容量記憶装置121内に保存しそのリンクをサーバ122上のウェブページに掲載したりすることで、要求元ユーザから閲覧可能とすることができる。
【実施例0068】
水環境など画像の変化の少ない場所で画像による定点観測を行う場合、タイムラプス動画上では画像変化のタイミングがわかりにくい、画像の撮影間隔より短い間隔で測定する水環境情報を画像上に表示すると測定情報の大半が欠落してしまうなどの課題もある。一般にタイムラプス動画は画像が一定間隔で変化し続けるため、本明細書の実施例のようにタイムラプス動画の再生速度が途中で変化してもユーザが気づきにくい点も課題となる。
【0069】
またタイムラプス動画では、画像の撮影間隔より短い情報変化を伝える手段が無いため、その時点の撮影間隔(例えば10分)より短い時間で生じた重要な水環境指標の急変(例:違法廃液により5分間水質が悪化、など)を見逃してしまう可能性もある。
【0070】
図8は本明細書の実施例4におけるタイムラプス動画への撮影時刻及び水環境測定データの書き込み例を示す説明図である。本例に置いては前述の図6の構成を想定し、図8(a)はカメラ111-1の撮影タイミング、図8(b)は水位センサ113-1で測定した水位のグラフを示している。図8(a)と図8(b)の横軸はそれぞれグラフの左端を0sとし、また横軸の表題はそれぞれ撮影時刻(T)、測定時刻(T)としているが、両者は同一であり実際にはリアルタイムクロック104の示す現在時刻である。
【0071】
またカメラ111-1の撮影間隔は通常10分とし、センサ113-1で測定した水位が規定値Aを越えた際に撮影間隔30秒に短縮し、また水位Bを下回った際には撮影間隔を10分に戻すものとした。一方、図8(b)中の一部〇印で示しているのが水位の測定点の例であり、本例では画像の撮影間隔より短い15秒間隔で常時水位を測定するものとした。
【0072】
図8(c)は図8(a)で撮影した画像を10fpsの固定フレームレートのタイムラプス動画に変換した例であり、また図8(d)~8(f)はタイムラプス動画の再生時刻tにおける表示画像の例を示している。タイムラプス動画生成部105においては各画像の左上1行目に実際の撮影時刻を秒で焼きこんでいる。例えば、図8(d)の再生時刻t=0.0秒、図8(e)の再生時刻t=0.1秒、図8(f)の再生時刻t=0.2秒のフレームは、それぞれ撮影時刻0sで得られた画像#1を利用している。そのため、撮影時刻は共通の“0s”を焼き込む。
【0073】
また、図8(g)の再生時刻t=2.0s、図8(h)の撮影時刻t=2.1s、図8(i)の撮影時刻t=2.2sのフレームは、それぞれ撮影時刻600sに取得した2枚目の撮影画像#2を利用する。そのため、画像中に焼きこむ撮影時刻は“600s”とする。このようにすることであまり変化の無い類似した画像であっても、正確に画像の撮影時刻を表示することが可能となる。
【0074】
なお本例では便宜的に撮影時刻は撮影開始を0sとして秒単位で焼きこむ例を示したが、実際には撮影時刻を年月日時分秒などの任意のフォーマットで焼きこめばよい。
【0075】
また画像中にはカメラと同じセンサノード、ないしは近隣のノード等で得られた複数個の水環境の測定値を任意に書き込むことが可能である。その代表が水位であるが、前述のように水位の測定間隔と画像の撮影間隔は必ずしも一致しない。そこで本例では、タイムラプス動画中で同一の画像を表示する図8(d)、図8(e)、図8(f)、図8(g)、図8(h)、図8(i)の各フレームにおいては実時間に対応したより詳細な水位データを記載するものとした。本例ではタイムラプス動画の時間圧縮率は1/300であり、図8(e)のタイムラプス動画のタイムフレームt=0.1s及び図8(f)のタイムラプス動画のタイムフレームt=0.2sは、図8(b)中の実際の測定時刻ではそれぞれ30秒及び60秒に対応する。
【0076】
このため本実施例においては、焼き込み文字列の2行目に各フレームに対応する測定時刻の水位を、図8(d)、図8(e)、図8(f)のタイムフレームでは、それぞれ水位W(0s)、W(30s)、W(60s)のように焼きこむものとした(実際の水位は“45cm”のように数値表示とする)。これによって、画像の撮影間隔とは独立に、水位などの重要な水環境測定値の詳細な変化をタイムラプス動画上で把握できるようになる。なお、撮影時刻又測定値及び測定時刻、の一方のみが焼きこまれてもよい。
【0077】
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明したすべての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
【0078】
また、上記の各構成・機能・処理部等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、または、ICカード、SDカード等の記録媒体に置くことができる。
【0079】
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしもすべての制御線や情報線を示しているとは限らない。実際には殆どすべての構成が相互に接続されていると考えてもよい。
【産業上の利用可能性】
【0080】
本発明は、上下水道や処理場、河川などの水環境をセンサ及びカメラを用いて監視する水環境センシング装置に対して適用することが可能である。
【符号の説明】
【0081】
100:遠隔監視端末、101:ネットワーク、102:親局
103:CPU、104:リアルタイムクロック、105:タイムラプス動画生成部
106:記憶装置、107:撮影画像
110:センサノード、111:カメラ、112:ノード接続ケーブル
113:水位センサ、114:水位判定部
120:画像・動画サーバ、121:大容量記憶装置、122:サーバ
123:ユーザPC、124:画像データ、125:動画要求コマンド
126:動画データ、127:撮影頻度変更コマンド
300:流水監視装置(本体ケース)、301:主基板、302:監視カメラ
303:外部記憶媒体、304:通信モジュール、305:低電力マイコン
306:電源回路、307:水位センサ、308:バッテリ、309:発電機
図1
図2
図3
図4
図5
図6
図7
図8