IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本放送協会の特許一覧

<>
  • 特許-映像解析装置及びそのプログラム 図1
  • 特許-映像解析装置及びそのプログラム 図2
  • 特許-映像解析装置及びそのプログラム 図3
  • 特許-映像解析装置及びそのプログラム 図4
  • 特許-映像解析装置及びそのプログラム 図5
  • 特許-映像解析装置及びそのプログラム 図6
  • 特許-映像解析装置及びそのプログラム 図7
  • 特許-映像解析装置及びそのプログラム 図8
  • 特許-映像解析装置及びそのプログラム 図9
  • 特許-映像解析装置及びそのプログラム 図10
  • 特許-映像解析装置及びそのプログラム 図11
  • 特許-映像解析装置及びそのプログラム 図12
  • 特許-映像解析装置及びそのプログラム 図13
  • 特許-映像解析装置及びそのプログラム 図14
  • 特許-映像解析装置及びそのプログラム 図15
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-10-19
(45)【発行日】2022-10-27
(54)【発明の名称】映像解析装置及びそのプログラム
(51)【国際特許分類】
   G06T 7/207 20170101AFI20221020BHJP
   H04N 5/232 20060101ALI20221020BHJP
【FI】
G06T7/207
H04N5/232 939
H04N5/232 290
H04N5/232 941
【請求項の数】 6
(21)【出願番号】P 2018089915
(22)【出願日】2018-05-08
(65)【公開番号】P2019197310
(43)【公開日】2019-11-14
【審査請求日】2021-04-09
(73)【特許権者】
【識別番号】000004352
【氏名又は名称】日本放送協会
(74)【代理人】
【識別番号】110001807
【氏名又は名称】弁理士法人磯野国際特許商標事務所
(72)【発明者】
【氏名】荒井 敦志
(72)【発明者】
【氏名】林田 哲哉
【審査官】岡本 俊威
(56)【参考文献】
【文献】特開2009-294983(JP,A)
【文献】特開2006-270274(JP,A)
【文献】特開2015-039242(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/20- 7/292
H04N 5/232
(57)【特許請求の範囲】
【請求項1】
被写体の移動方向及び移動量を解析する映像解析装置であって、
入力映像の解像度及びフレームレートの少なくとも一方をダウンコンバートすることで、縮小映像を生成するダウンコンバート手段と、
前記縮小映像のオプティカルフローを算出するオプティカルフロー算出手段と、
前記入力映像の解像度及びフレームレートに対応付けて、前記オプティカルフロー算出手段が算出したオプティカルフローの移動量を線形補完する移動量対応付け手段と、
前記オプティカルフロー算出手段が算出したオプティカルフローの移動方向と、前記移動量対応付け手段が線形補完したオプティカルフローの移動量とを、前記被写体の移動方向及び移動量として、前記縮小映像に合成表示する移動量表示手段と、
予め設定された視距離に応じて、前記移動量対応付け手段が線形補完したオプティカルフローの移動量を補正する移動量補正手段と、
を備え
前記移動量表示手段は、前記オプティカルフローの移動方向と、前記移動量補正手段が補正したオプティカルフローの移動量とを合成表示することを特徴とする映像解析装置。
【請求項2】
被写体の移動方向及び移動量を解析する映像解析装置であって、
入力映像の解像度及びフレームレートの少なくとも一方をダウンコンバートすることで、縮小映像を生成するダウンコンバート手段と、
前記縮小映像のオプティカルフローを算出するオプティカルフロー算出手段と、
前記入力映像の解像度及びフレームレートに対応付けて、前記オプティカルフロー算出手段が算出したオプティカルフローの移動量を線形補完する移動量対応付け手段と、
前記オプティカルフロー算出手段が算出したオプティカルフローの移動方向と、前記移動量対応付け手段が線形補完したオプティカルフローの移動量とを、前記被写体の移動方向及び移動量として、前記縮小映像に合成表示する移動量表示手段と、
を備え、
前記オプティカルフロー算出手段は、前記縮小映像から特徴点を抽出し、抽出した前記特徴点についての前記オプティカルフローを算出し、
前記移動量表示手段は、移動量が予め設定された第1閾値を超える前記特徴点の数と、前記縮小映像から抽出した全特徴点の数との割合を算出し、算出した前記割合が予め設定された第2閾値を超えた場合、警告を行うことを特徴とする映像解析装置。
【請求項3】
前記ダウンコンバート手段は、前記入力映像の全部又は一部に予め設定された縮小領域をダウンコンバートすることで前記縮小映像を生成し、
前記移動量対応付け手段は、前記縮小映像と前記入力映像の縮小領域との画素数の比に基づいて解像度縮小率Aを算出し、前記縮小映像と前記入力映像とのフレームレートの比に基づいてフレームレート縮小率Bを算出し、以下の式(1)を用いて、
【数1】
前記オプティカルフローの移動量xを線形補完することを特徴とする請求項1又は請求項2に記載の映像解析装置。
【請求項4】
前記オプティカルフロー算出手段は、前記縮小映像に予め設定された検出領域のオプティカルフローを算出し、
前記移動量表示手段は、前記検出領域に含まれる前記オプティカルフローの移動方向及び移動量を合成表示することを特徴とする請求項1から請求項3の何れか一項に記載の映像解析装置。
【請求項5】
前記移動量対応付け手段が線形補完したオプティカルフローの移動量に基づいて、映像解析処理を行う映像解析手段、をさらに備えることを特徴とする請求項1から請求項の何れか一項に記載の映像解析装置。
【請求項6】
コンピュータを、請求項1から請求項の何れか一項に記載の映像解析装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像に含まれる被写体の移動量を解析する映像解析装置及びそのプログラムに関する。
【背景技術】
【0002】
従来より、防犯カメラを始めとする監視システムにおいて、オプティカルフローが、被写体の特異的な動きの判定に使用されている(特許文献1,2)。このオプティカルフローについては、幾つか計算手法が存在する。代表的な手法として、大きな固有値を持つ特徴点を抽出した上で、画像ピラミッドの小さいものからLK(Lucas-Kanade)法により反復計算するものがあげられる。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2016-207185号公報
【文献】特開2012-22370号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
被写体撮影時に、撮影者は、主にビューファインダを使用してカメラ映像の確認を行い、被写体のサイズや動きに合わせて画角調整を行う。ここで、カメラ映像に動きがある場合、解像度やフレームレートによって映像の見え方が異なることから、解像度とフレームレートに適した被写体の移動量を知る必要がある。つまり、映像制作では、撮影者が解像度とフレームレートに適した被写体の動きを知る必要があり、その指標としてオプティカルフローを用いる手法を検討する。例えば、時間的に連続する画像間からオプティカルフローを算出することで、動きベクトルとして被写体の移動量を数値化し、被写体の移動量に応じた動きベクトルをビューファインダに表示して可視化すればよい。
【0005】
しかし、オプティカルフローを映像制作の指標として用いた場合、以下のような問題がある。ここで、カメラ映像のフレームレートが高くなる程、時間的に連続する画像間で被写体の動きが少なくなるので、精度の高いオプティカルフローを算出できる。その一方、カメラ映像の解像度やフレームレートが高くなると、オプティカルフローの計算が間に合わないために表示のフレームレートが低下し、リアルタイム性が失われてしまう。
【0006】
そこで、本発明は、リアルタイムで被写体の移動量を表示できる映像解析装置及びそのプログラムを提供することを課題とする。
【課題を解決するための手段】
【0007】
前記した課題に鑑みて、本発明に係る映像解析装置は、被写体の移動方向及び移動量を解析する映像解析装置であって、ダウンコンバート手段と、オプティカルフロー算出手段と、移動量対応付け手段と、移動量表示手段と、移動量補正手段と、を備える構成とした。
【0008】
かかる構成によれば、映像解析装置は、ダウンコンバート手段によって、入力映像の解像度及びフレームレートの少なくとも一方をダウンコンバートすることで、縮小映像を生成する。
映像解析装置は、オプティカルフロー算出手段によって、縮小映像のオプティカルフローを算出する。
このように、映像解析装置は、ダウンコンバートによりオプティカルフローの計算量を抑制することができる。
【0009】
映像解析装置は、移動量対応付け手段によって、入力映像の解像度及びフレームレートに対応付けて、オプティカルフロー算出手段が算出したオプティカルフローの移動量を線形補完する。
映像解析装置は、移動量表示手段によって、オプティカルフロー算出手段が算出したオプティカルフローの移動方向と、移動量対応付け手段が線形補完したオプティカルフローの移動量とを、被写体の移動方向及び移動量として、縮小映像に合成表示する。
移動量表示手段は、オプティカルフローの移動方向と、移動量補正手段が補正したオプティカルフローの移動量とを合成表示する。
このように、映像解析装置は、入力映像の解像度及びフレームレートに対応付けてオプティカルフローの移動量を線形補完する。
【0010】
なお、本発明に係る映像解析装置は、一般的なコンピュータを前記した各手段として協調動作させる映像解析プログラムで実現することもできる。
【発明の効果】
【0011】
本発明によれば、以下のような優れた効果を奏する。
本発明によれば、ダウンコンバートによりオプティカルフローの計算量を抑制し、入力映像の解像度及びフレームレートに対応付けてオプティカルフローの移動量を線形補完するので、リアルタイムで被写体の移動量を表示することができる。
【図面の簡単な説明】
【0012】
図1】第1実施形態に係る映像解析装置を装着するカメラの外観図である。
図2】第1実施形態に係る映像解析装置の構成を示すブロック図である。
図3】第1実施形態における縮小映像を説明する説明図である。
図4】第1実施形態における、水平方向への移動量対応付けの一例を説明する説明図である。
図5】第1実施形態における、垂直方向への移動量対応付けの一例を説明する説明図である。
図6】第1実施形態における、斜め方向への移動量対応付けの一例を説明する説明図である。
図7】第1実施形態における、合成映像の一例を説明する説明図である。
図8】第1実施形態における、オプティカルフローの表示例を説明する説明図である。
図9】第1実施形態における合成映像の一例を説明する説明図であり、(a)は被写体の移動量が小さいとき、(b)は被写体の移動量が大きいときを表す。
図10】第1実施形態における、警告表示の一例を説明する説明図である。
図11図2の映像解析装置の動作を示すフローチャートである。
図12】第2実施形態に係る映像解析装置の構成を示すブロック図である。
図13】第3実施形態において、映像解析装置を内蔵する映像監視装置の外観図である。
図14】第3実施形態に係る映像解析装置の構成を示すブロック図である。
図15】変形例1における縮小映像を説明する説明図である。
【発明を実施するための形態】
【0013】
(第1実施形態)
以下、本発明の各実施形態について、適宜図面を参照しながら詳細に説明する。なお、各実施形態において、同一の手段には同一の符号を付し、説明を省略した。
【0014】
[カメラ]
図1及び図2を参照し、第1実施形態に係る映像解析装置1の構成を説明する。
第1実施形態では、図1に示すように、映像解析装置1がカメラCに装着されていることとする。
まず、映像解析装置1の説明に先立ち、カメラCを簡単に説明する。例えば、カメラCは、超高精細映像(例えば、解像度7680×4320画素、フレームレート120Hz)を撮影できる一般的な撮影カメラである。このカメラCは、カメラ本体Cと、ビューファインダCとを備える。カメラ本体Cは、レンズ等の光学系や撮像素子等で構成され、被写体が含まれる撮影映像(入力映像)を生成する。ビューファインダCは、カメラマンが撮影映像を確認できるように、撮影映像の縮小映像を表示する。
【0015】
[映像解析装置]
図2を参照し、映像解析装置1の構成について説明する。
図2に示すように、映像解析装置1は、カメラ本体Cから撮影映像が入力され、入力された撮影映像をダウンコンバートして縮小映像を生成し、生成した縮小映像をビューファインダCに表示する。このとき、映像解析装置1は、被写体の移動方向及び移動量を解析し、その解析結果を縮小映像に合成表示するものである。映像解析装置1は、映像入力手段10と、ダウンコンバート手段20と、オプティカルフロー算出手段30と、移動量対応付け手段40と、移動量表示手段50とを備える。
【0016】
映像入力手段10は、カメラC(カメラ本体C)から撮影映像が入力され、入力された撮影映像の解像度とフレームレート(例えば、解像度7680×4320画素、フレームレート120Hz)を取得するものである。そして、映像入力手段10は、入力された撮影映像をダウンコンバート手段20に出力する。さらに、映像入力手段10は、その撮影映像の解像度及びフレームレートを表す縮小前解像度・フレームレート情報を、移動量対応付け手段40に出力する。
【0017】
ダウンコンバート手段20は、映像入力手段10からの撮影映像をダウンコンバートすることで、縮小映像を生成するものである。本実施形態では、ダウンコンバート手段20は、オプティカルフローの算出と合成表示がリアルタイムで行える現実的な解像度及びフレームレートまで、撮影映像をダウンコンバートする(例えば、解像度1920×1080画素、フレームレート30Hz)。また、撮影映像Lの全部が縮小領域として設定されているので、図3に示すように、撮影映像Lの全部を縮小し、縮小映像Sを生成することになる。この縮小領域とは、撮影映像Lのうち、縮小画像Sを生成する領域のことである。
【0018】
ここで、ダウンコンバート手段20は、一般的な手法でダウンコンバートを行うことができる。例えば、ダウンコンバート手段20は、解像度については、撮影映像に平滑化フィルタを施した後に画素を間引きし、フレームレートについては、撮影映像を構成するフレームを等間隔で間引く。この他、ダウンコンバート手段20は、2フレームの加算平均を1フレームとして出力するなどのフレームブレンディングを用いて、ダウンコンバートしてもよい。
【0019】
その後、ダウンコンバート手段20は、ダウンコンバートした縮小映像をオプティカルフロー算出手段30及び移動量表示手段50に出力する。さらに、ダウンコンバート手段20は、縮小映像の解像度及びフレームレートを表す縮小後解像度・フレームレート情報を、移動量対応付け手段40に出力する。
【0020】
オプティカルフロー算出手段30は、ダウンコンバート手段20からの縮小映像のオプティカルフローを算出するものである。すなわち、オプティカルフロー算出手段30は、縮小映像で連続したフレームから、固有値を持つ特徴点のオプティカルフローを算出する。例えば、オプティカルフロー算出手段30は、LK法、Horn-Shunck法等の一般的な手法でオプティカルフローを算出できる。本実施形態では、オプティカルフロー算出手段30は、LK法でオプティカルフローを算出することとする。
【0021】
ここで、オプティカルフロー算出手段30は、縮小映像全体から特徴点を抽出し、オプティカルフローを算出してもよい。
その一方、オプティカルフロー算出手段30は、縮小映像に予め設定された検出領域のみから特徴点を抽出し、オプティカルフローを算出してもよい。この検出領域とは、縮小映像内でオプティカルフローの算出対象となる領域のことであり、カメラマン等のユーザが任意のサイズ及び形状で設定できる。本実施形態では、検出領域が、被写体が存在する可能性の高い縮小映像の中央部に矩形状で設定されていることとする。この場合、オプティカルフロー算出手段30では、縮小映像全体よりも検出領域の空間周波数成分が失われにくいので、より高精度なオプティカルフローを算出できる。
その後、オプティカルフロー算出手段30は、特徴点毎に算出したオプティカルフローを移動量対応付け手段40に出力する。
【0022】
移動量対応付け手段40は、撮影映像の解像度及びフレームレートに対応付けて、オプティカルフロー算出手段30が算出したオプティカルフローの移動量を線形補完するものである。
【0023】
まず、移動量対応付け手段40は、映像入力手段10からの縮小前解像度・フレームレート情報と、ダウンコンバート手段20からの縮小後解像度・フレームレート情報とを用いて、解像度縮小率A及びフレームレート縮小率Bを算出する。本実施形態では、解像度縮小率Aについては、撮影映像全体を縮小したので、縮小映像と撮影映像との画素数の比に基づいたものとなる(縮小映像の画素数を撮影映像の画素数で除算)。例えば、撮影映像が7680×4320画素、縮小映像が1920×1080画素なので、解像度縮小率A=(1920×1080)/(7680×4320)=1/16となる。また、フレームレート縮小率Bについては、縮小映像と撮影映像とのフレームレートの比に基づいたものとなる(縮小映像のフレームレートを撮影映像のフレームレートで除算)。例えば、撮影映像が120Hz、縮小映像が30Hzなので、フレームレート縮小率B=30/120=1/4となる。このように、移動量対応付け手段40は、フィルタやフレームブレンディングの有無とは関係なく、ダウンコンバート前後の解像度及びフレームレートの比から、解像度縮小率A及びフレームレート縮小率Bを算出する。
【0024】
次に、移動量対応付け手段40は、オプティカルフロー算出手段30で求めたオプティカルフローの移動量を、解像度とフレームレートの両方で線形補完することにより、撮影映像に対応させる。具体的には、移動量対応付け手段40は、オプティカルフロー算出手段30が求めたオプティカルフローの移動量をxとすると、以下の式(1)を用いて、撮影映像に対応付けたオプティカルフローの移動量を算出する。以後、線形補間後の移動量をyとする。
【0025】
【数1】
【0026】
その後、移動量対応付け手段40は、オプティカルフロー算出手段30からのオプティカルフローの移動方向と、線形補完したオプティカルフローの移動量yとを表す移動方向・移動量情報を、移動量表示手段50に出力する。
【0027】
<水平方向、垂直方向での移動量の対応付け>
図4図6を参照し、水平方向、垂直方向、斜め方向での移動量の対応付けを具体的に説明する。
図4図6の上段には、縮小映像(解像度1920×1080画素、フレームレート30Hz)を図示した。また、図4図6の中段には、第1撮影映像(解像度3840×2160画素、フレームレート60Hz)を図示した。また、図4図6の下段には、第2撮影映像(解像度7680×4320画素、フレームレート120Hz)を図示した。
図4図6では、マス目が画素を表し、ハッチングされたマス目が特徴点となる画素を表し、横軸が時間軸を表している。
なお、図4図6では、説明を簡易にするために解像度やフレームレートが異なる撮影映像を図示しているが、実際には、解像度やフレームレートが異なる撮影映像を同時に扱う必要はない。
【0028】
まず、縮小映像と第1撮影映像との関係で考える。図4及び図5に示すように、縮小映像の1フレーム間で、特徴点が水平又は垂直に1画素移動したこととする(x=1)。第1撮影映像の解像度が3840×2160画素なので、解像度縮小率A=1/4となり、縮小映像で1画素の移動が、第1撮影映像の2画素に相当する。つまり、式(1)のフレームレート縮小率Bを無視すると、移動量y=1÷√A=1÷√(1/4)=2画素となる。
【0029】
また、第1撮影映像のフレームレートが60Hzなので、フレームレート縮小率B=1/2となり、縮小映像で1フレーム(1/30フレーム→2/30フレーム)当たりの移動量が、第1撮影映像で2フレーム分(1/60フレーム→3/60フレーム)の移動量に相当する。このとき、60Hzの第1撮影映像で1フレーム当たり移動量は、第1撮影映像の2フレーム分の移動量を線形補間(×1/2)することで求められる。具体的には、第1撮影映像で1フレーム当りの移動量yは、式(1)より、1÷√(1/4)×1/2=1画素となる。
【0030】
このように、縮小映像において、1/30フレームから2/30フレームの間で1画素移動した場合を考える(図4及び図5の上段参照)。この場合、第1撮影映像では、1/60フレームから2/60フレームの間で1画素移動し、2/60フレームから3/60フレームの間でも1画素移動するので、合計2画素移動する(図4及び図5の中段参照)。
【0031】
次に、縮小映像と第2撮影映像との関係で考える。第2撮影映像の解像度が7680×4320画素なので、解像度縮小率A=1/16となり、縮小映像で1フレーム当たり1画素の移動が、第2撮影映像の4画素に相当する。さらに、第2撮影映像のフレームレートが120Hzなので、フレームレート縮小率B=1/4となり、縮小映像で1フレーム(1/30フレーム→2/30フレーム)当たりの移動量が、第2撮影映像で4フレーム分(1/120フレーム→5/120フレーム)の移動量に相当する。このとき、120Hzの第2撮影映像で1フレーム当たり移動量は、第2撮影映像の4フレーム分の移動量を線形補間(×1/4)することで求められる。具体的には、第2撮影映像で1フレーム当りの移動量yは、式(1)より、1÷√(1/16)×1/4=1画素となる。
【0032】
このように、縮小映像において、1/30フレームから2/30フレームの間で1画素移動した場合を考える(図4及び図5の上段参照)。この場合、第2撮影映像では、1/120フレームから2/120フレームの間で1画素移動し、2/120フレームから3/120フレームの間でも1画素移動し、3/120以後のフレームでも同様に1画素移動するので、合計4画素移動する(図4及び図5の下段参照)。
【0033】
<斜め方向での移動量の対応付け>
図6に示すように、1フレーム当たりの斜め移動量は、水平移動量成分の二乗と垂直移動量成分の二乗の和の平方で求められる。このため、解像度縮小率A及びフレームレート縮小率Bは、水平方向、垂直方向及び斜め方向で全て同一となる。ここで、縮小映像において、1フレーム当たりの斜め移動量は、水平移動量成分が1画素、垂直移動量成分が1画素であるため、図4及び図5で説明した通り、水平方向及び垂直方向と同様の対応付けとなる。
【0034】
このように、撮影映像の解像度やフレームレートが異なる場合でも、縮小映像における1フレーム当りの移動量は、水平、垂直及び斜めといった方向に関係なく、その撮影映像における移動量に対応付けることができる。これにより、図4図6における2/60フレームでのオプティカルフローFの移動量や、2/120フレーム~4/120フレームでのオプティカルフローFの移動量を線形補完できる。
【0035】
図2に戻り、映像解析装置1の構成について、説明を続ける。
移動量表示手段50は、移動量対応付け手段40からの移動方向・移動量情報を、ダウンコンバート手段20からの縮小映像に合成し、被写体の移動方向及び移動量として、ビューファインダCに表示するものである。つまり、移動量表示手段50は、オプティカルフロー算出手段30が算出したオプティカルフローFの移動方向と、移動量対応付け手段40が線形補完したオプティカルフローFの移動量yとを縮小映像に合成した合成映像を生成する。
【0036】
本実施形態では、移動量表示手段50は、縮小映像に対して1フレーム遅延させて、移動方向・移動量情報を合成する。図4の例では、移動量表示手段50は、1/30フレームから2/30フレームまでの縮小映像で求めた移動方向・移動量情報を、その2/30フレーム目の縮小映像に合成する(図3不図示)。なお、移動量表示手段50は、求めた移動方向・移動量情報を、1フレーム以上遅延させて縮小映像に合成してもよい。
その後、移動量表示手段50は、生成した合成映像をビューファインダCに出力する。
【0037】
<合成映像の一例>
図7を参照し、移動量表示手段50が生成する合成映像の一例を説明する
図7に示すように、合成映像αでは、被写体Tの移動方向及び移動量を矢印で表す。
また、図7では、矩形状の検出領域βが、合成映像αの中央部に設定されている。従って、合成映像αに含まれる3個の被写体Tのうち、検出領域βに含まれる被写体T,TのオプティカルフローF,Fが算出されている。一方、検出領域βに含まれない被写体Tについては、オプティカルフローが算出されていない。従って、合成映像αでは、被写体T,TのオプティカルフローF,Fのみが表示され、被写体Tのオプティカルフローが表示されていない。なお、図7では、検出領域βは、合成映像αに表示せずともよい。
【0038】
オプティカルフローFの方向が被写体Tの移動方向を表し、オプティカルフローFの長さが被写体Tの移動量を表す。つまり、オプティカルフローFが長くなる程、被写体Tの移動量が大きく、オプティカルフローFが短くなる程、被写体Tの移動量が小さくなることを表す。
【0039】
ここで、移動量表示手段50は、数段階の移動量範囲毎にオプティカルフローFを色分し、オプティカルフローFの長さを変更してもよい。この移動量範囲の値、色及び長さは、各段階でユーザが任意に設定できる。図7では、オプティカルフローFの移動量範囲及び色は、1以上5未満で紺色、5以上15未満で水色、15以上30未満で緑色、30以上100未満で黄色、100以上500未満で赤色のように5段階で設定されている。また、図7では、この移動量範囲に対応させて、オプティカルフローFの長さを5段階で表している。例えば、被写体TのオプティカルフローFは、その移動量が15以上30未満なので、中程度の長さで緑色で表示されている。また、被写体TのオプティカルフローFは、移動量が5以上15未満なので、オプティカルフローFより短く、水色で表示されている。
【0040】
さらに、移動量表示手段50は、設定情報として、設定されている移動量範囲の値及び色を合成映像αの左側に表示してもよい。また、移動量表示手段50は、解析情報として、その移動量範囲に含まれるオプティカルフローFの割合も表示してもよい。図7では、オプティカルフローFが合計10個であり、15以上30未満の移動量範囲に5個のオプティカルフローFが含まれ、5以上15未満の移動量範囲に5個のオプティカルフローFが含まれている。このため、オプティカルフローFの割合は、5以上15未満及び15以上30未満の移動量範囲で50%となり、他の移動量範囲で0%となる。
【0041】
さらに、移動量表示手段50は、解析情報として、オプティカルフローFに対応する特徴点の数を合成映像αの下部左側に表示してもよい。図7では、特徴点の数は、オプティカルフローFと同数の10個となる。
さらに、移動量表示手段50は、全方向、垂直方向及び水平方向のそれぞれで、オプティカルフローFの移動量平均値を算出し、合成映像αの下部中央に表示してもよい。図7では、オプティカルフローFの移動量平均値は、全方向で20.2となり、垂直方向で14.5となり、水平方向で15.7となる。
【0042】
さらに、移動量表示手段50は、表示したい移動量範囲をユーザが設定した場合、その移動量範囲のみでオプティカルフローFのみを表示してもよい。例えば、移動量表示手段50は、移動量範囲が15以上30未満のオプティカルフローFのみを表示する。
さらに、移動量表示手段50は、図8に示すように、オプティカルフローFを表す矢印の周縁側を異なる色で表示してもよい。例えば、オプティカルフローFを表す矢印の内側が緑色や水色の場合、矢印の周縁側が黒色や白色となる。
【0043】
図8では、オプティカルフローFを説明するために合成映像αを抽象的に図示したが、実際には図9のようになる(自然風景の撮影例)。図9(a)では、図9(b)に比べて、被写体の移動量が小さいことから、オプティカルフローFを表す矢印が短くなっている。
なお、移動量表示手段50は、設定情報や解析情報を合成映像αに表示すると見づらくなる場合、図9に示すように設定情報や解析情報を表示せずともよい。
【0044】
<警告表示の一例>
図10を参照し、移動量表示手段50による警告表示の一例を説明する
図10に示すように、カメラCが急激なカメラワーク(例えば、高速なパン操作)を行うと映像酔いが懸念されるので、急激なカメラワークを避けることが好ましい。そこで、移動量表示手段50は、特徴点の移動量(オプティカルフローFの移動量)に基づいて、急激なカメラワークを判定し、映像酔いが懸念される場合、警告表示を行う。
【0045】
具体的には、移動量表示手段50は、移動量が予め設定された第1閾値を超える特徴点の数を求める。次に、移動量表示手段50は、第1閾値を超える特徴点の数と、縮小映像から抽出した全特徴点の数との割合を算出する。そして、移動量表示手段50は、算出した割合が予め設定された第2閾値を超えた場合、任意の方法で警告表示を行う。この第1閾値及び第2閾値は、ユーザが任意に設定できる。本実施形態では、移動量表示手段50は、警告表示として、図10の合成映像αの下部右側に「Warning!」という警告メッセージWを表示する。
なお、警告メッセージWは任意であり、例えば、「Rate of Arrow5 Exeed ○%」であってもよい(なお、‘○’は第2閾値に対する超過を表す数値)。
【0046】
この警告表示により、映像解析装置1は、カメラマン等のユーザーに対して、パン速度を抑えるように促すことができる。これにより、ユーザーは、自らのカメラワークの中で警告が出るような動きを意図的に避けることができる。
【0047】
[映像解析装置の動作]
図11を参照し、映像解析装置1の動作について説明する。
図11に示すように、映像入力手段10は、カメラ本体Cから撮影映像が入力され、入力された撮影映像の解像度とフレームレートを取得する(ステップS1)。
【0048】
ダウンコンバート手段20は、映像入力手段10に入力された撮影映像の解像度及びフレームレートの両方をダウンコンバートすることで、縮小映像を生成する。例えば、ダウンコンバート手段20は、撮影映像の画素やフレームを間引くことで、撮影映像をダウンコンバートする(ステップS2)。
【0049】
オプティカルフロー算出手段30は、ダウンコンバート手段20が生成した縮小映像のオプティカルフローFを算出する。例えば、オプティカルフロー算出手段30は、LK法でオプティカルフローFを算出する(ステップ3)。
【0050】
移動量対応付け手段40は、撮影映像の解像度及びフレームレートに対応付けて、オプティカルフロー算出手段30が算出したオプティカルフローFの移動量を線形補完する。
まず、移動量対応付け手段40は、撮影映像の解像度及びフレームレートと、縮小映像の解像度及びフレームレートとの比から、解像度縮小率A及びフレームレート縮小率Bを算出する。
次に、移動量対応付け手段40は、前記した式(1)を用いて、ステップS3で求めたオプティカルフローFの移動量を、解像度とフレームレートの両方で線形補完することにより、撮影映像に対応させる(ステップS4)。
【0051】
移動量表示手段50は、ステップS3で算出したオプティカルフローFの移動方向と、ステップS4で線形補完したオプティカルフローFの移動量とを、被写体Tの移動方向及び移動量として縮小映像に合成し、ビューファインダCに表示する(ステップS5)。
【0052】
[作用・効果]
以上のように、映像解析装置1は、ダウンコンバートによりオプティカルフローFの計算量を抑制し、撮影映像の解像度及びフレームレートに対応付けてオプティカルフローFの移動量を線形補完するので、リアルタイムで被写体の移動量を表示することができる。
これにより、映像解析装置1では、カメラマンがビューファインダCを視認することで被写体の移動量をリアルタイムで知ることができ、制作映像の解像度及びフレームレートから撮影したい移動量が決まっている場合、その移動量に合わせてカメラCのズームや画角を調整することができる。さらに、映像解析装置1では、撮影映像の特徴点の移動量がビューファインダCに表示されるので、制作映像の解像度及びフレームレートに合わせたカメラワークをカメラマンが容易に行うことができる。
【0053】
(第2実施形態)
図12を参照し、第2実施形態に係る映像解析装置1Bについて、第1実施形態と異なる点を説明する。
映像解析装置1Bは、視距離に応じてオプティカルフローFの移動量を補正する点が、第1実施形態と異なる。図12に示すように、映像解析装置1Bは、映像入力手段10と、ダウンコンバート手段20と、オプティカルフロー算出手段30と、移動量対応付け手段40と、移動量表示手段50Bと、移動量補正手段60とを備える。
なお、移動量表示手段50B及び移動量補正手段60以外は、第1実施形態と同様のため、説明を省略する。
【0054】
ここで、オプティカルフローFの移動量は、画素単位で規定されているため、映像観視時の視距離によっては、眼の網膜上での移動量と異なってしまう。例えば、表示画面の解像度が解像度7680×4320画素、3840×2160画素又は1920×1080画素で、視距離が画面高の0.75倍(0.75H)、1.5(1.5H)倍又は3.0(3.0H)倍というように、撮影映像の観視条件は様々である。この観視条件が既知の場合、その観視条件に応じて、オプティカルフローFの移動量そのもの、又は、オプティカルフローFの移動量範囲を変化させることで、眼の網膜上での移動量に対応付けることができる。
【0055】
例えば、視距離が0.75Hのときを基準とし、移動量範囲が5以上10未満と10以上30未満で設定されていることとする。この場合、オプティカルフローFの移動量は、画面中心から画面高×0.75だけ離れた位置(視距離0.75H)での移動量を表す。視距離が2倍になった場合(1.5H)、このオプティカルフローFの移動量は、見かけ上半分となる。すなわち、視距離1.5Hでの移動量の2倍が、視距離0.75Hでの移動量に相当する。
【0056】
そこで、移動量補正手段60は、移動量対応付け手段40からの移動方向・移動量情報を参照し、視距離に比例するように、オプティカルフローFの移動量範囲を変化させる。具体的には、移動量補正手段60は、視距離が2倍になった場合、移動量範囲も2倍(10以上20未満、20以上60未満)に補正する。この補正により、オプティカルフローFの移動量が実質的に半分になる。さらに、移動量補正手段60は、視距離が4倍になった場合、移動量範囲も4倍(20以上40未満、40以上120未満)に補正する。
【0057】
その後、移動量補正手段60は、移動量対応付け手段40からのオプティカルフローの移動方向、及び、視距離に応じて補正したオプティカルフローの移動量yを表す移動方向・移動量情報を、移動量表示手段50Bに出力する。
なお、移動量補正手段60は、オプティカルフローFの移動量範囲ではなく、視距離に反比例するように、オプティカルフローFの移動そのものを補正してもよい。
【0058】
移動量表示手段50Bは、移動量補正手段60からの移動方向・移動量情報を、ダウンコンバート手段20からの縮小映像に合成し、被写体の移動方向及び移動量として、ビューファインダCに表示するものである。
なお、移動量表示手段50Bが表示する合成映像は、第1実施形態と同様のため、これ以上の説明を省略する。
【0059】
[作用・効果]
以上のように、映像解析装置1Bは、観視条件(視距離)に応じてオプティカルフローFの移動量を補正するので、正確な被写体Tの移動量を合成表示することができる。
【0060】
(第3実施形態)
図13及び図14を参照し、第3実施形態に係る映像解析装置1について、第1実施形態と異なる点を説明する。
図13に示すように、映像解析装置1が映像監視装置100に内蔵されている点が、第1実施形態と異なる。
図14に示すように、映像監視装置100は、映像蓄積装置200に蓄積されている映像について、被写体の移動量を監視するものであり、映像解析装置1と、モニタ110とを備える。
【0061】
映像解析装置1は、映像蓄積装置200から蓄積映像(入力映像)が入力され、入力された蓄積映像像をダウンコンバートして縮小映像を生成し、生成した縮小映像をモニタ110に表示する。このとき、映像解析装置1は、被写体の移動方向及び移動量を解析し、その解析結果を縮小映像に合成表示する。
なお、映像解析装置1は、有線又は無線のネットワークで映像蓄積装置200と接続され、このネットワークを介して、映像蓄積装置200から蓄積映像を入力することとする。他の点、映像解析装置1は、第1実施形態と同様のため、これ以上の説明を省略する。
【0062】
[作用・効果]
以上のように、映像解析装置1は、映像監視装置100に内蔵されている場合でも、第1実施形態と同様、リアルタイムで被写体の移動量を表示できるので、適切な映像監視を行うことができる。
【0063】
(変形例1)
以上、本発明の各実施形態を詳述してきたが、本発明は前記した各実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。
前記した実施形態では、撮影映像全体から縮小映像を生成することとして説明したが、これに限定されない。例えば、撮影映像の一部領域を切り出して、縮小映像を生成してもよい。つまり、前記した実施形態では、撮影映像全体が縮小領域として設定されているのに対し、変形例1では撮影映像の一部が縮小領域として設定されている。
【0064】
図2及び図15を参照し、変形例1に係る映像解析装置1Dについて、第1実施形態と異なる点を説明する。
変形例1に係る映像解析装置1Dは、映像入力手段10と、ダウンコンバート手段20Bと、オプティカルフロー算出手段30と、移動量対応付け手段40Bと、移動量表示手段50とを備える。
【0065】
ダウンコンバート手段20Dは、解像度については、図15に示すように、撮影映像Lの中央部から矩形状の縮小領域Mを切り出して、縮小映像Sを生成する。この変形例1では、撮影映像Lが7680×4320画素、縮小領域Mが3840×2160画素、縮小映像Sが1920×1080画素である。なお、縮小領域Mの位置やサイズは任意である。
移動量対応付け手段40Bは、撮影映像Lの一部領域を縮小したので、縮小映像Sと縮小領域Mとの画素数の比に基づいて、解像度縮小率Aを算出する(縮小映像Sの画素数を縮小領域Mの画素数)。例えば、解像度縮小率A=(1920×1080)/(3840×2160)=1/4となる。
他の点、映像解析装置1Dは、第1実施形態と同様のため、説明を省略する。
【0066】
(その他)
前記した各実施形態では、式(1)を用いて線形補完を行うこととして説明したが、線形補完の手法は、これに限定されない。
前記した各実施形態では、縮小映像に検出領域を設定した場合、縮小映像の検出領域から特徴点を抽出することとして説明したが、これに限定されない。例えば、縮小映像に検出領域を設定した場合でも、縮小映像全体から特徴点を抽出してもよい。
【0067】
前記した映像解析装置は、移動量対応付け手段が線形補完したオプティカルフローを記憶するHDD(Hard Disk Drive)やUSB(Universal Serial Bus)メモリに記録しておき、撮影終了後に映像解析処理(例えば、被写体の移動判定や追跡)を行う映像解析手段(不図示)を備えてもよい。
前記した各実施形態では、撮影映像及び縮小映像のそれぞれについて、解像度及びフレームレートを例示したが、解像度及びフレームレートは、特に限定されない。
前記した各実施形態では、撮影映像の解像度やフレームレートを手動で設定することとして説明したが、自動で検出してもよい(縮小映像の解像度やフレームレートも同様)。
【0068】
前記した各実施形態では、解像度及びフレームレートの両方をダウンコンバートすることとして説明したが、解像度又はフレームレートの一方のみをダウンコンバートしてもよい。なお、フレームレートをダウンコンバートしない場合、フレームレート縮小率Bが1となる。また、解像度をダウンコンバートしない場合、解像度縮小率Aが1となる。
【0069】
前記した実施形態では、映像解析装置を独立したハードウェアとして説明したが、本発明は、これに限定されない。例えば、本発明は、コンピュータが備えるCPU、メモリ、ハードディスク等のハードウェア資源を、前記した映像解析装置として協調動作させるプログラムで実現することもできる。これらのプログラムは、通信回線を介して配布してもよく、CD-ROMやフラッシュメモリ等の記録媒体に書き込んで配布してもよい。
【符号の説明】
【0070】
1,1B 映像解析装置
10 映像入力手段
20 ダウンコンバート手段
30 オプティカルフロー算出手段
40 移動量対応付け手段
50,50B 移動量表示手段
60 移動量補正手段
100 映像監視装置
110 モニタ
C カメラ
カメラ本体
ビューファインダ
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15