IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本電気株式会社の特許一覧

特許7521590撮像状況監視システム、撮像状況監視方法、及び記録媒体
<>
  • 特許-撮像状況監視システム、撮像状況監視方法、及び記録媒体 図1
  • 特許-撮像状況監視システム、撮像状況監視方法、及び記録媒体 図2
  • 特許-撮像状況監視システム、撮像状況監視方法、及び記録媒体 図3
  • 特許-撮像状況監視システム、撮像状況監視方法、及び記録媒体 図4
  • 特許-撮像状況監視システム、撮像状況監視方法、及び記録媒体 図5
  • 特許-撮像状況監視システム、撮像状況監視方法、及び記録媒体 図6
  • 特許-撮像状況監視システム、撮像状況監視方法、及び記録媒体 図7
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-16
(45)【発行日】2024-07-24
(54)【発明の名称】撮像状況監視システム、撮像状況監視方法、及び記録媒体
(51)【国際特許分類】
   H04N 7/18 20060101AFI20240717BHJP
   H04N 23/63 20230101ALI20240717BHJP
   H04N 23/66 20230101ALI20240717BHJP
   H04N 23/60 20230101ALI20240717BHJP
   G06T 7/33 20170101ALI20240717BHJP
【FI】
H04N7/18 E
H04N23/63 310
H04N23/66
H04N23/60 300
G06T7/33
【請求項の数】 9
(21)【出願番号】P 2022558615
(86)(22)【出願日】2020-10-26
(86)【国際出願番号】 JP2020040119
(87)【国際公開番号】W WO2022091182
(87)【国際公開日】2022-05-05
【審査請求日】2023-04-03
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100104765
【弁理士】
【氏名又は名称】江上 達夫
(74)【代理人】
【識別番号】100107331
【弁理士】
【氏名又は名称】中村 聡延
(74)【代理人】
【識別番号】100131015
【弁理士】
【氏名又は名称】三輪 浩誉
(72)【発明者】
【氏名】田原 裕司
【審査官】鈴木 隆夫
(56)【参考文献】
【文献】国際公開第2014/010174(WO,A1)
【文献】特開2002-157676(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
H04N 23/63
H04N 23/66
H04N 23/60
G06T 7/33
(57)【特許請求の範囲】
【請求項1】
所定期間中に撮像対象を撮像した第1撮像画像に基づいて、基準部分を含む基準画像に関する基準画像情報を生成する基準画像生成部と、
前記所定期間後に前記撮像対象を撮像した第2撮像画像を取得する画像取得部と、
前記基準画像における前記基準部分の位置と、前記第2撮像画像における前記基準部分に対応する対応部分の位置との関係に基づいて、前記撮像対象を撮像できているか否かの撮像状況を判別する撮像状況監視部と
を備え、
前記基準画像生成部は、前記基準画像における前記基準部分の位置と、前記対応部分の位置とが異なる場合、生成後の前記基準画像情報に含まれる前記基準部分の位置を、前記対応部分の位置に更新する
撮像状況監視システム。
【請求項2】
前記基準画像情報は、撮像環境に関する情報を有し、
前記撮像状況監視部は、前記基準部分の位置と前記対応部分の位置との差分と所定の閾値とに基づいて、前記撮像状況を判別し、
前記所定の閾値は、前記撮像環境に基づいて設定される、請求項1に記載の撮像状況監視システム。
【請求項3】
前記基準部分の位置と前記対応部分の位置との差分に基づいて、前記撮像状況に関する出力をユーザに対して行う出力に関する処理を行う出力部を、更に備える、請求項1又は2に記載の撮像状況監視システム。
【請求項4】
前記撮像対象の形状情報を含み、
前記基準画像生成部は、前記第1撮像画像において、前記形状情報に対応する部分を前記基準部分とする、請求項1~3のいずれか一項に記載の撮像状況監視システム。
【請求項5】
前記第2撮像画像から前記対応部分が抽出されない場合は、撮像装置に前記撮像対象を再撮像させ、前記第2撮像画像を再取得する画像再取得部を、更に備える、
請求項1~4のいずれか一項に記載の撮像状況監視システム。
【請求項6】
前記基準画像生成部は、前記所定期間中に前記撮像対象を撮像した複数の前記第1撮像画像に基づいて、前記複数の第1撮像画像のうち変化がない部分を前記基準部分として、前記基準画像に関する前記基準画像情報を生成する、請求項1~5のいずれか一項に記載の撮像状況監視システム。
【請求項7】
前記基準部分は前記撮像対象の少なくとも一つの特徴点を不動点として含み、
前記基準画像情報は、前記基準部分に含まれる前記不動点に関する不動点情報を含み、
前記撮像状況監視部は、前記基準画像における前記不動点の位置と、前記対応部分の位置との関係に基づいて、前記撮像状況を判別し、
前記基準画像生成部は、前記基準画像における前記不動点の位置が、前記対応部分の位置と異なる場合、生成後の前記基準画像情報に含まれる前記基準部分の位置を前記第2撮像画像における前記対応部分の位置に更新する、請求項1~6のいずれか一項に記載の撮像状況監視システム。
【請求項8】
所定期間中に撮像対象を撮像した第1撮像画像に基づいて、基準部分を含む基準画像に関する基準画像情報を生成し、
前記所定期間後に前記撮像対象を撮像した第2撮像画像を取得し、
前記基準画像における前記基準部分の位置と、前記第2撮像画像における前記基準部分に対応する対応部分の位置との関係に基づいて、前記撮像対象を撮像できているか否かの撮像状況を判別し、
前記基準画像における前記基準部分の位置と、前記対応部分の位置とが異なる場合、生成後の前記基準画像情報に含まれる前記基準部分の位置を、前記対応部分の位置に更新する、撮像状況監視方法。
【請求項9】
コンピュータを、
所定期間中に撮像対象を撮像した第1撮像画像に基づいて、基準部分を含む基準画像に関する基準画像情報を生成する基準画像生成部、
前記所定期間後に前記撮像対象を撮像した第2撮像画像を取得する画像取得部、及び、
前記基準画像における前記基準部分の位置と、前記第2撮像画像における前記基準部分に対応する対応部分の位置との関係に基づいて、前記撮像対象を撮像できているか否かの撮像状況を判別する撮像状況監視部として機能させ、
前記基準画像生成部は、前記基準画像における前記基準部分の位置と、前記対応部分の位置とが異なる場合、生成後の前記基準画像情報に含まれる前記基準部分の位置を、前記対応部分の位置に更新するように構成されたコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像画像の撮像状況を監視する撮像状況監視システム、撮像状況監視方法、及び記録媒体に関する。
【背景技術】
【0002】
この種のシステムとして、撮像装置の画角から特定される不動点の位置とその不動点の特徴を示す特徴量とを含む不動点情報に基づいて、撮像装置が撮像した画像から撮像装置の画角変動を検出するように構成されたシステムが知られている(例えば、特許文献1参照。)。
【先行技術文献】
【特許文献】
【0003】
【文献】国際公開第2014/010174号
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に開示されているシステムにおいては、撮像装置の画角変動が検出されると、画角が手動、又は自動で変動前の状態に戻されるだけである。従って、画角が変化した後の状態で、撮像状況を監視し続けることができるように構成されていないという技術的問題点がある。
【0005】
本発明は、撮像装置の画角の変化等、撮像対象の撮像状況が変化しても、変化後の状態で撮像状況を監視し続けることが可能な撮像状況監視システム、撮像状況監視方法、及び記録媒体を提供することを課題とする。
【課題を解決するための手段】
【0006】
本発明に係る撮像状況監視システムの一の態様は、所定期間中に撮像対象を撮像した第1撮像画像に基づいて、基準部分を含む基準画像に関する基準画像情報を生成する基準画像生成部と、前記所定期間後に前記撮像対象を撮像した第2撮像画像を取得する画像取得部と、前記基準画像における前記基準部分の位置と、前記第2撮像画像における前記基準部分に対応する対応部分の位置との関係に基づいて、前記撮像対象を撮像できているか否かの撮像状況を判別する撮像状況監視部とを備え、前記基準画像生成部は、前記基準画像における前記基準部分の位置と、前記対応部分の位置とが異なる場合、前記基準画像情報に含まれる前記基準部分の位置を、前記対応部分の位置とする。
【0007】
本発明に係る撮像状況監視方法の一の態様は、所定期間中に撮像対象を撮像した第1撮像画像に基づいて、基準部分を含む基準画像に関する基準画像情報を生成し、前記所定期間後に前記撮像対象を撮像した第2撮像画像を取得し、前記基準画像における前記基準部分の位置と、前記第2撮像画像における前記基準部分に対応する対応部分の位置との関係に基づいて、前記撮像対象を撮像できているか否かの撮像状況を判別し、前記基準画像における前記基準部分の位置と、前記対応部分の位置とが異なる場合、前記基準画像情報に含まれる前記基準部分の位置を、前記対応部分の位置とする。
【0008】
本発明に係るコンピュータプログラムの一の態様は、コンピュータを、所定期間中に撮像対象を撮像した第1撮像画像に基づいて、基準部分を含む基準画像に関する基準画像情報を生成する基準画像生成部、前記所定期間後に前記撮像対象を撮像した第2撮像画像を取得する画像取得部、及び、前記基準画像における前記基準部分の位置と、前記第2撮像画像における前記基準部分に対応する対応部分の位置との関係に基づいて、前記撮像対象を撮像できているか否かの撮像状況を判別する撮像状況監視部として機能させ、前記基準画像生成部は、前記基準画像における前記基準部分の位置と、前記対応部分の位置とが異なる場合、前記基準画像情報に含まれる前記基準部分の位置を、前記対応部分の位置とするように構成されたコンピュータプログラムが記録されている。
【0009】
上述した撮像状況監視システム、撮像状況監視方法、及び記録媒体のそれぞれの一の態様によれば、撮像対象の撮像状況が変化しても、変化後の状態で撮像状況を監視し続けることが可能である。
【図面の簡単な説明】
【0010】
図1】撮像状況監視システム1に係る全体構造の一例を示す図。
図2】基準画像の一例を示す図。
図3】比較画像の一例を示す図。
図4】サーバの構成の一例を示すブロック図。
図5】基準画像の生成に関する処理の流れの一例を示すフローチャート。
図6】複数の第1撮像画像から基準部分が検出されるようすを示す図。
図7】撮像状況の監視に関する処理の流れの一例を示すフローチャート。
【発明を実施するための形態】
【0011】
1.撮像状況監視システム
まず、本形態に係る撮像状況監視システム1(以下、“システム1”という。)に係る全体構成について、図1を参照しながら説明する。図1は、システム1に係る全体構成の一例を示す。
【0012】
システム1は、撮像装置としてのカメラ20によって撮像される撮像対象50の撮像画像における撮像状況を監視する。そして、システム1は、撮像状況が変化しても、変化後の状態で撮像対象50の撮像状況を監視し続けることが可能なように構成されている。このようなシステム1を実現すべく、システム1は、カメラ20によって撮像された撮像画像を取得可能なサーバ10を含む。サーバ10とカメラ20との接続態様は問わない。例えば、当該接続態様は、インターネット30等の通信ネットワークを経由したネットワーク接続型でもよいし、直接接続型でもよい。また、当該接続態様は、有線無線を問わない。サーバ10は物理的に1つのサーバ装置として形成されてもよいし、物理的に複数のサーバ装置によってクラウド上に形成されるクラウドサーバとして形成されてもよい。
【0013】
カメラ20は、例えば、建物40の屋内Idr又は屋外Odrのいずれかの所定位置に設置されてよい。図1の例では、カメラ20は、屋内Idrの所定位置であるカメラ位置CPに設置されている。カメラ20は、撮像対象50を撮像するように撮像対象50側を向いている。図1の例では、カメラ20のカメラ位置CPは、カメラ20を設置するための部材の店舗40に対する接着部20aとしているが、これに限らない。カメラ位置CPは、カメラ20が設置される店舗内Idrの位置として特定可能な位置であればよい。カメラ20は、例えば、撮像対象50を定期的(例えば、1時間に1回~数回)に撮像するように構成されてよい。なお、撮像対象50が屋外Odrの所定位置に配置されているときは、カメラ20は屋外Odrのカメラ位置に設置されて屋外Odrに配置された撮像対象50を撮像してもよい。本形態では、建物40を、一例として、食品を販売する店舗40(スーパーマーケットやデパート等の食品フロア、食品専門店、食品を販売する売店や販売コーナー等を含む)とする。
【0014】
撮像対象50は、屋内Idrの所定位置である配置位置APに配置された個体である。或いは、撮像対象50は、屋内Idrの不動体の所定位置にある一部であってもよい。撮像対象50は、所定の形状を有している。撮像対象50は、例えば、配置位置APに固定されていてもよいし、何らかの条件が満たされると(例えば、何らかの力が加わると)可動であってもよい。本形態では、撮像対象50を、一例として、店舗40内で食品が陳列される什器50とする。なお、図1において、什器50の配置位置APは、什器50の脚部の端部50aの位置で特定されているが、これに限らない。配置位置APは、什器50が配置される店舗内Idrの位置として特定可能な位置であればよい。
【0015】
サーバ10は、カメラ20によって撮像対象50が撮像された(即ち、写り込んだ)撮像画像に基づいて、撮像対象50の撮像状況を監視する。即ち、本形態では、サーバ10は、什器50がカメラ20によって撮像された撮像画像に基づいて、什器50の撮像状況を監視して当該撮像状況が変化したか否かを判別する。撮像状況には、例えば、カメラ20の画角、撮像環境(天候、照度等)等が含まれる。本形態において、「画角」とは、撮像対象50とカメラ20との相対的位置関係をいう。「画角の変化」は、撮像対象50とカメラ20との相対的位置関係の変化をいう。「画角の変化」には、例えば、什器50の位置の変化、カメラ20の向きの変化、カメラ20の位置の変化等が含まれてよい。
2. 撮像状況の監視のために使用される画像
サーバ10は、撮像状況の変化があったか否かを、基準画像と比較画像とを参照して比較することにより判別する。基準画像と比較画像について図2及び図3を参照しながら説明する。
【0016】
2.1 基準画像
図2は、サーバ10が参照する基準画像Imrの一例である。基準画像Imrは、配置位置APに配置された什器50の撮像画像である。基準画像Imrは、サーバ10が撮像状況の変化があったか否かを判別する際に、基準として参照される。基準画像Imrは、例えば、所定期間中にカメラ20によって什器50が経時的に撮像された複数の第1撮像画像Im1に基づいて生成されてよい。基準画像Imrの生成方法については後述する。
図2の例では、基準画像Imrは、カメラ20の視野範囲に撮像対象である什器50と什器50に隣接する什器51とが写り込んだ状態を示している。図2に示すように、基準画像Imrにおいて、什器50の各棚には複数の商品60が陳列され、什器51の各棚には複数の商品61が陳列されていてよい。以下、什器50、什器51、複数の商品60及び複数の商品61のそれぞれが基準画像Imrに写り込んだ画像部分にも同じ参照符号を付して説明する。
【0017】
以下、基準画像Imrにおいて、什器50に対応する部分を“基準部分RP”(点線部分)という。基準画像Imrにおいて、基準部分RPの位置は、写り込んだ什器50の1つの脚部の端部50aの位置として特定されてよい。基準画像Imrにおいて、基準部分RPの位置(以下“基準位置Pr”という。)は、店舗40における什器50の配置位置APに対応する。基準部分RPは、複数の不動点を含んでいる。不動点とは、複数の第1撮像画像間で、位置が不変の、或いは位置が不変と見做され得る点である。複数の不動点のそれぞれは、什器50の複数の特徴点のそれぞれに対応してよい。什器50の各特徴点は、典型的には、什器50の形状の特徴となる箇所であり、例えば、什器50の各端点、各角部の頂点等である。什器50の複数の特徴点は、例えば、特徴点の集合体によって什器50の形状が特定であるように設定されてよい。各特徴点は、例えば、位置と特徴量(画像勾配等)によって特定される。図2に示す基準画像Imrにおいて、例えば、写り込んだ什器50の1つの脚部の端部50aは、不動点であってもよい。
【0018】
基準画像Imrは、例えば、サーバ10によって生成されてよい。また、基準画像Imrは、例えば、サーバ10によって適宜更新されてよい。基準画像Imrに関する情報である基準画像情報は、例えば、サーバ10によって保持されてよい。基準画像情報には、基準部分RPに含まれる複数の不動点のそれぞれを特定できる不動点情報(例えば、位置及び特徴量)が含まれる。
【0019】
2.2 比較画像
図3は、サーバ10が参照する比較画像Imcの一例を示す。比較画像Imcは、例えば、第1撮像画像Im1を撮像するための所定期間後(例えば、基準画像Imrの基準画像情報の生成後)に、カメラ20によって撮像された第2撮像画像Im2でよい。比較画像Imcにおいて、基準部分RPに対応する基準部分RP´(一点鎖線部分)は、位置Pr´に位置している。即ち、図3の例においては、比較画像Imcは、基準部分RPが基準位置Prから位置Pr´に移動した(即ち、変化した)状態を示している。基準部分RPに含まれる不動点としての端部50aの位置に注目した場合、基準位置Prにあるべき端部(不動点)50aが、比較画像Imc(図3)では、基準位置Prとは異なる位置Pr´にある。
3. サーバの構成
サーバ10の構成について、図4を参照しながら説明する。図4は、サーバ10の構成の一例を示すブロック図である。図4に示すように、サーバ10は、記憶装置11と、演算装置12と、入力装置13とを備えている。更に、サーバ10は、出力装置14を備えていてもよい。記憶装置11と、演算装置12と、入力装置13と、出力装置14とは、データバス15を介して接続されていてもよい。
【0020】
記憶装置11は、所望のデータを記憶可能である。例えば、記憶装置11は、演算装置12が実行するコンピュータプログラムを一時的に記憶していてもよい。記憶装置11は、演算装置12がコンピュータプログラムを実行している際に演算装置12が一時的に使用するデータを一時的に記憶してもよい。記憶装置11は、例えば、基準画像Imrに関する基準画像情報等、サーバ10が長期的に保存するデータを記憶してもよい。なお、記憶装置11は、RAM(Random Access Memory)、ROM(Read Only Memory)、ハードディスク装置、光磁気ディスク装置、SSD(Solid State Drive)及びディスクアレイ装置のうちの少なくとも一つを含んでいてもよい。つまり、記憶装置11は、揮発性記録媒体及び不揮発性記録媒体を含んでいてもよい。
【0021】
演算装置12は、例えば、CPU(Central Proecssing Unit)を含む。演算装置12は、例えば、CPU及びCPUの動作に必要な各種情報を記録するRAM及びROM等の記録媒体を含むコンピュータユニットであってもよい。演算装置12は、コンピュータプログラムを読み込む。例えば、演算装置12は、記憶装置11が記憶しているコンピュータプログラムを読み込んでもよい。例えば、演算装置12は、コンピュータで読み取り可能であって且つ不揮発性記録媒体が記憶しているコンピュータプログラムを、不図示の記録媒体読み取り装置を用いて読み込んでもよい。演算装置12は、入力装置13を介して、サーバ10の外部に配置される不図示の装置からコンピュータプログラムを取得してもよい(つまり、ダウンロードしてもよい又は読み込んでもよい)。演算装置12は、読み込んだコンピュータプログラムを実行する。その結果、演算装置12内には、サーバ10が行うべき動作を実行するための論理的な機能ブロックが実現される。つまり、演算装置12は、サーバ10が行うべき動作を実行するための論理的な機能ブロックを実現するためのコントローラとして機能可能である。
【0022】
図4には、システム1における各処理を行うために、演算装置12内に実現される論理的な機能ブロックの一例が示されている。図4に示すように、演算装置12内には、基準画像生成部121と、画像取得部122と、撮像状況監視部123と、出力部124と、画像再取得部125とが実現される。各部121~125の動作の詳細については後述する。
【0023】
入力装置13は、サーバ10の外部からのサーバ10に対する情報の入力を受け付ける装置である。入力装置13は、通信による情報の入力(即ち、受信)を受け付けてもよい。例えば、入力装置13は、カメラ20によって撮像された撮像画像等の各種情報を、カメラ20から直接的に、或いは間接的に取得(即ち、受信)してもよい。
【0024】
出力装置14は、サーバ10の外部に対して情報を出力する装置である。例えば、出力装置14は、サーバ10が行う各処理に関する情報をユーザの認知可能な出力態様で出力してもよい。更に、出力装置14は、各種情報を、他のサーバやシステムに対して出力(即ち、送信)してもよい。ユーザの認知可能な出力態様には、例えば、出力装置14としての画面等による表示出力、出力装置14としてのスピーカ等による音声出力、出力装置14としてのプリンタ等による印刷出力等が含まれる。
【0025】
4. サーバに形成される各機能ブロックの動作
サーバ10の演算装置12に形成される各機能ブロック121~125の動作について説明する。
【0026】
基準画像生成部121は、例えば、店舗内Idrの配置位置APに配置された什器50が所定期間中に撮像された複数の第1撮像画像Im1に基づいて、基準部分RPを検出して基準画像Imrに関する基準画像情報を生成する。更に、基準画像生成部121は、例えば、カメラ20の画角が変化した場合(例えば、什器50が移動した場合)、変化後の什器50の状態に基づいて新基準画像Imrを生成してもよい。
【0027】
画像取得部122は、例えば、第1撮像画像Im1が撮像される所定期間後(例えば、基準画像情報の生成後)、什器50がカメラ20によって撮像された比較画像Imc(即ち、第2撮像画像Im2)を、入力装置13を介して取得する。画像取得部122は、比較画像Imcを所定時間毎(例えば、30分に1回又は1時間に1回)に定期的に取得してもよい。更に、画像取得部122は、基準画像Imrを生成するための複数の第1撮像画像Im1を、入力装置13を介して取得してもよい。
【0028】
撮像状況監視部123は、基準画像Imrと比較画像Imc(第2撮像画像Im2)とに基づいて、什器50の撮像画像における撮像状況を監視する。撮像状況監視部123は、例えば、基準画像Imrにおける基準部分RPの基準位置Prと比較画像Imc(第2撮像画像Im2)における基準部分RP´の位置Pr´との関係に基づいて、什器50が撮像できているか否かの撮像状況を判別する。撮像状況監視部123は、例えば、比較画像Imcにおいて、基準部分RP´が基準位置Prの近くで検出されない場合(例えば、基準位置Prと位置Pr´との差分が所定の第1閾値を超える場合)、什器50を撮像できていないと判別してよい。
【0029】
出力部124は、例えば、基準部分RPの基準位置Prと基準部分RP´の位置Pr´との差分に応じて、比較画像Imcの撮像状況に関する情報を出力装置14から出力させる。例えば、当該差分に関して複数のレベルが設定されているときは、出力部124は、各レベルに応じた通知(例えば、警告や確認勧告)を出力装置14から出力させてよい。或いは、例えば、当該差分に関して所定の第2閾値(>第1閾値)が設定されているときは、出力部124は、当該差分が第2閾値を超える場合に、所定の通知(例えば、警告や確認勧告)を出力装置14から出力させてもよい。「通知」には、例えば、撮像画像の異常発生警告、カメラ20の状態確認勧告、什器50の状態確認勧告等がある。
【0030】
画像再取得部125は、第1撮像画像Im1又は第2撮像画像Im2に関して什器50が撮像されていない場合に、カメラ20に什器50を再撮像させて、画像取得部122に、再撮像された第1撮像画像Im1又は再撮像された第2撮像画像Im2を再取得させる。カメラ20が撮像画像を記憶する機能を有しているときは、カメラ20が記憶する第1撮像画像Im1又は第2撮像画像Im2を、画像取得部122に再取得させてもよい。
【0031】
5. サーバによる処理
サーバ10は、基準画像Imrを生成し、基準画像Imrと比較画像Imcとに基づいて、什器50の撮像状況を監視する。そして、サーバ10は、例えば、カメラ20の画角が変化すると、基準画像Imrを更新する。サーバ10が行う処理の流れについて、図5図7を参照して説明する。まず、基準画像Imrの生成に関する処理の流れの一例について、図5を参照しながら説明する。図5に示す処理ルーチンは、サーバ10の基準画像生成部121によって行われる。
【0032】
サーバ10は、まず、第1撮像画像取得処理を行う(ステップS100)。第1撮像画像取得処理では、サーバ10は、所定時間内に撮像された複数の第1撮像画像Im1を、例えば画像取得部122に取得させる。「所定時間」は、例えば、基準画像Imrを生成するための複数の第1撮像画像Im1を撮像する時間として予め設定された時間である。「所定時間」は、例えば、数秒間程度でよい。撮像される第1撮像画像Im1の数は、所定時間内に撮像可能な数であればよい。
【0033】
続いて、サーバ10は、基準部分検出処理を行う(ステップS101)。基準部分検出処理では、サーバ10は、まず、複数の第1撮像画像Im1のそれぞれから複数の特徴点を抽出する。特徴点は、上述したように、例えば、位置及び特徴量によって特定される。従って、サーバ10は、例えば、各特徴点に関して、位置及び特徴量を含む特徴点情報を生成して記憶装置11に記憶してよい。サーバ10は、図6に示すように、複数の第1撮像画像Im1間で位置が不変の、或いは位置が不変と見做され得る特徴点を不動点として特定する。不動点も特徴点と同様に、例えば、位置及び特徴量によって特定される。従って、サーバ10は、例えば、特定された各不動点に関して、位置及び特徴量を含む不動点情報を生成して記憶装置11に記憶してよい。サーバ10は、例えば、対応する特徴点の特徴点情報を不動点情報として記憶装置11に記憶してよい。特定された不動点の集合体は、基準部分RPに対応する。これにより、基準部分RPが検出される。
【0034】
サーバ10は、特徴点を抽出する際に、什器50がカメラ20の撮像画像に写り込んだ形状(即ち、二次元形状)に関する形状情報を使用してもよい。この場合、サーバ10は、形状情報を使用して、各第1撮像画像Im1から什器50が写り込んだ画像部分を抽出し、その抽出した画像部分に的を絞って特徴点を抽出してもよい。これにより、什器50に商品60が陳列されたままの状態が撮像された第1撮像画像Im1であっても、商品60の特徴点が抽出されることを回避することができる。什器50の形状情報は、例えば、記憶装置11に長期的に記憶されていてもよい。或いは、什器50の形状情報は、使用する度に入力装置13を介して入力され、記憶装置11に一時的に記憶されてもよい。
【0035】
図5に戻って、サーバ10は、基準部分検出処理(ステップS101)に続いて基準画像生成処理を行う(ステップS102)。基準画像生成処理では、特定された不動点の集合体である基準部分RPを含む基準画像Imrを生成する。サーバ10は、生成された基準画像Imrに関する基準画像情報を生成して、例えば、記憶装置11に記憶する。基準画像情報には、基準部分RPに含まれる複数の不動点に関する不動点情報が含まれる。サーバ10は、例えば、基準画像Imrに関する処理の際に基準画像情報を適宜参照してよい。
【0036】
サーバ10は、撮像環境に応じた基準画像Imrを生成してもよい。サーバ10は、例えば、店舗内Idrの照度レベル(即ち、明るさレベル)に応じた基準画像Imrを生成してもよい。この場合、サーバ10は、例えば、基準画像Imrを生成した際の店舗内Idrの照度レベルを特定し、生成した基準画像Imrを特定された照度レベル用の基準画像Imrとして設定してよい。例えば、サーバ10は、撮像時の天候情報を所定の天候情報提供サイトから取得し、取得した天候情報から撮像時の照度レベルを特定してよい。かつ/或いは、例えば、サーバ10は、撮像日時から撮像時の照度レベルを特定してよい。
サーバ10は、例えば、異なる照度レベル毎に、上述した生成方法によって基準画像Imrを生成してもよい。或いは、サーバ10は、生成した基準画像Imrに対応する照度レベルに基づいて、他の照度レベル用の基準画像Imrを所定の式や所定の演算モデル等により得てもよい。各照度レベルは、実際の撮像現場の撮像環境に応じて、適宜設定されればよい。サーバ10は、撮像環境に関する撮像環境情報(例えば、照度レベル)と基準画像Imrとを対応付けて、例えば、記憶装置11に記憶してよい。
【0037】
なお、サーバ10は、1つの第1撮像画像Im1から什器50に関する複数の特徴点を複数の不動点として抽出することにより、基準部分RPを検出し、基準画像Imrを生成してもよい。また、ステップS101において、例えば、少なくとも1つの第1撮像画像Im1の不具合等により基準部分RPが検出できない場合は、サーバ10は画像再取得部125によって、少なくとも1つの第1撮像画像Im1を再取得してもよい。
【0038】
サーバ10によって行われる什器50の撮像状況の監視に関する処理の流れの一例について、図7を参照しながら説明する。図7に示される処理ルーチンは、例えば、最初の基準画像Imrに関する基準画像情報の生成後に行われる。図7に示される処理ルーチンは、サーバ10の演算装置12によって実行される。
【0039】
サーバ10は、まず、画像取得部122が比較画像Imcをカメラ20から取得したか否かを判別する(ステップS200)。サーバ10は、カメラ20から比較画像Imcが取得されるまでステップS200を繰り返す。画像取得部122が比較画像Imcを取得した場合は(ステップS200:Yes)、サーバ10は、特徴点抽出処理を行う(ステップS201)。特徴点抽出処理では、サーバ10は取得した比較画像Imcから複数の特徴点を抽出し、各特徴点の特徴点情報(位置及び特徴量)を取得する。サーバ10は、特徴点の抽出の際に、上述した形状情報を使用してもよい。
【0040】
続いて、サーバ10は、撮像状況に変化があったか否かを判別する(ステップS202)。ステップS201において、例えば、比較画像Imcにおいて、基準部分RPに含まれる各不動点の位置(或いは、各不動点の位置として見做され得る位置)に特徴点を抽出できた場合、サーバ10は、撮像状況に変化なしと判別してよい。例えば、サーバ10は、基準部分RPに含まれる不動点の位置Prと、比較画像Imcにおいて不動点に対応する特徴点の位置Pr´との差分が第1閾値内である場合、不動点の位置(或いは、不動点の位置として見做され得る位置)に特徴点を抽出できたと判断してよい。また、サーバ10は、不動点の位置Prと特徴点の位置Pr´との差分が第1閾値を超えている場合、不動点の位置(或いは、不動点の位置として見做され得る位置)に特徴点を抽出できなかったと判断してよい。即ち、サーバ10は、基準部分RPの基準位置Prと、比較画像Imcにおいて基準部分RPに対応する基準部分RP´の位置Pr´との差分が第1閾値内である場合、不動点の位置(或いは、不動点の位置として見做され得る位置)に特徴点を抽出できたと判断してよい。また、サーバ10は、基準部分RPの基準位置Prと基準部分RP´の位置Pr´との差分が第1閾値を超えている場合、不動点の位置(或いは、不動点の位置として見做され得る位置)に特徴点を抽出できなかったと判断してよい。なお、例えば、不動点の位置Prの近くに複数の特徴点が抽出された場合、サーバ10は、不動点の位置Prに最も近い特徴点を、不動点に対応する特徴点として特定してよい。
【0041】
撮像状況に変化なしと判別した場合(ステップS202:No)、サーバ10はステップS200に戻る。一方、ステップS201において、例えば、比較画像Imcにおいて、いずれかの不動点の位置(或いは、不動点の位置として見做され得る位置)に特徴点が抽出できなかった場合、サーバ10は撮像状況に変化ありと判別する。撮像状況に変化ありと判別した場合(ステップS202:Yes)、サーバ10は、カメラ20の画角が変化したか否かを判別する(ステップS203)。
【0042】
サーバ10は、例えば、基準部分RPに含まれる不動点の位置Prと、比較画像Imcにおいて不動点に対応する特徴点の位置Pr´との差分が第2閾値内である場合、(例えば、什器50の位置が移動して)カメラ20の画角が変化したと判別してよい。即ち、サーバ10は、例えば、基準部分RPの基準位置Prと、比較画像Imcにおいて基準部分RPに対応する基準部分RP´の位置Pr´との差分が第2閾値内である場合、カメラ20の画角が変化したと判別してよい。サーバ10は、カメラ20の画角が変化したと判別した場合(ステップS203:Yes)、カメラ20の画角が変化した際の処理のため、ステップS204へ進む。一方、例えば、基準部分RPの基準位置Prと、基準部分RP´の位置Pr´との差分が第2閾値を超えている場合、或いは、比較画像Imcから不動点に対応する特徴点が抽出できなかった場合、サーバ10は、撮像状況に異常が発生したと判別してよい。サーバ10は、撮像状況に異常が発生したと判別した場合(ステップS203:No)、ステップS205へ進む。
【0043】
ステップS202及びステップS203のそれぞれにおいて使用される差分の閾値(第1閾値及び第2閾値の少なくとも一方)は、撮像環境に応じて設けられてもよい。例えば、店舗内Idrの照度レベルに応じて差分の閾値が設けられてもよい。サーバ10は、例えば、店舗内Idrの照度レベルに合った差分の閾値を使用することにより、天候や日時に基づく店舗内Idrの照度の違いを考慮して撮像状況を判別することができる。例えば、サーバ10は、撮像時の天候情報を所定の天候情報提供サイトから取得し、取得した天候情報から撮像時の照度レベルを特定してよい。かつ/或いは、例えば、サーバ10は、撮像日時から撮像時の照度レベルを特定してよい。
【0044】
ステップS204では、サーバ10は基準部分更新処理を行う。基準部分更新処理は、上述したように、カメラ20の画角が変化したと判別された際に行われる。基準部分更新処理では、サーバ10は、基準部分RPが移動した状態(即ち、比較画像Imc)に基づいて、新基準画像Imrを生成し、新基準画像Imrに基づいて基準画像情報を更新する。サーバ10は、例えば、比較画像Imcを新基準画像Imrとして設定してよい。従って、サーバ10は、比較画像Imcにおける基準部分RP´を新基準画像Imrにおける新基準部分RPとしてよい。即ち、サーバ10は、例えば、比較画像Imcにおける位置Pr´にある特徴点を、新基準画像Imrにおける新基準位置Prにある新不動点として設定してよい。比較画像Imcにおける基準部分RP´の複数の特徴点が、新基準画像Imrにおける複数の不動点として設定されことにより、新基準画像Imrにおける新基準部分RPが特定される。サーバ10は、基準画像情報が新基準画像Imrに関する情報になるように、新基準部分RPに含まれる複数の新不動点によって、基準画像情報を更新する。サーバ10は、更新された基準画像情報に基づいて監視処理を継続するように、ステップS200に戻る。
【0045】
なお、サーバ10は、新基準画像Imrを、図6で示した処理ルーチンにより生成してもよい。即ち、サーバ10は、新基準画像Imrを、所定期間に経時的に撮像された複数の第1撮像画像Im1に基づいて生成してもよい。また、新基準画像Imrは、撮像環境に応じて生成されてもよい。例えば、サーバ10は、上述したように、店舗内Idrの照度レベルに応じた新基準画像Imrを生成してもよい。
【0046】
ステップS205では、サーバ10は、比較画像Imcが再取得したものか否か判別する。比較画像Imcが再取得したものではない場合(ステップS205:No)、比較画像Imcを再取得するためにステップS200へ戻る。比較画像Imcが再取得したものである場合(ステップS205:Yes)、異常状況処理を行う(ステップS206)。なお、サーバ10は比較画像Imcを2回以上取得してもよい。この場合、サーバ10は比較画像Imcを再取得する回数を管理してもよい。
【0047】
ステップS206の異常状況処理では、サーバ10は、例えば、比較画像Imcが撮像された撮像状況を判別し、判別された撮像状況に応じたユーザへの通知を、出力装置14を介して出力してもよい。ユーザへの通知には、例えば、警告及び確認勧告等が含まれる。例えば、比較画像Imcにおける基準部分RP´の位置Pr´と基準位置Prとの差分が第2閾値を超える場合、カメラ20の画角が想定範囲を超えて変化した状況と判別し、ユーザに対して現場確認を勧告してもよい。例えば、比較画像Imcから基準部分RP´が検出されない場合、サーバ10は、何等かの異常が発生したと判別し、ユーザに対して現場確認を勧告してもよい。例えば、サーバ10は、比較画像Imcが悪天候と判断され得る状態(例えば、積雪又は雨粒の影響を受けたと判断され得る状態)を比較画像Imcが示すと判断した場合、悪天候のため比較画像Imcが得られないことを、ユーザに通知してもよい。これにより、悪天候による比較画像Imcの異常を、撮像状況の異常とすることを回避することができる。例えば、サーバ10は、悪天天候と判断され得る状態を示す画像に関する情報を、記憶装置11に有していてもよい。サーバ10は、ステップS206の後、図7の処理ルーチンを終了する。
【0048】
異常状況処理では、悪天候と判断され得る状態を比較画像Imcが示す場合、サーバ10はユーザへの通知をしなくてもよい。この場合、サーバ10は、例えば、比較画像Imcが得られる天候になったと判断した場合、図7の処理ルーチンを再開してもよい。或いは、サーバ10は、例えば、図7の処理ルーチンの終了から所定時間経過後、図7の処理ルーチンを再開してもよい。図7の処理ルーチンの再開のため、サーバ10は、例えば、ユーザによる入力装置13を介した入力を受け付けてもよい。或いは、図7の処理ルーチンの再開のため、サーバ10は、天候情報を提供する天候情報提供サイトにより、店舗40付近の天候に関する情報を取得してもよい。
【0049】
図7に示される処理ルーチンにおいて、サーバ10は、撮像環境に適合する基準画像Imrを適宜特定して使用してもよい。例えば、サーバ10は、撮像時の日時(或いは、店舗40内に設けられた照度センサ)から撮像時の照度レベルを特定し、特定された照度レベルに対応する基準画像Imrを使用してよい。例えば、サーバ10は、撮像時の天候情報を所定の天候情報提供サイトから取得し、取得した天候情報から撮像時の照度レベルを特定し、特定された照度レベルに対応する基準画像Imrを使用してよい。或いは、サーバ10は、撮像日時から撮像時の照度レベルを特定してもよい。
【0050】
図7に示す処理ルーチンにおいて、ステップS200は、サーバ10の画像取得部122によって行われる。ステップS201~ステップS203は、サーバ10の撮像状況監視部123によって行われる。ステップS204は、サーバ10の基準画像生成部121によって行われる。ステップS205は、サーバ10の画像再取得部125によって行われる。ステップS206は、サーバ10の出力部124によって行われる。
【0051】
<付記>
以上説明した実施形態に関して、更に以下の付記を開示する。
【0052】
(付記1)
付記1に記載の撮像状況監視システムは、所定期間中に撮像対象を撮像した第1撮像画像に基づいて、基準部分を含む基準画像に関する基準画像情報を生成する基準画像生成部と、前記所定期間後に前記撮像対象を撮像した第2撮像画像を取得する画像取得部と、前記基準画像における前記基準部分の位置と、前記第2撮像画像における前記基準部分に対応する対応部分の位置との関係に基づいて、前記撮像対象を撮像できているか否かの撮像状況を判別する撮像状況監視部とを備え、前記基準画像生成部は、前記基準画像における前記基準部分の位置と、前記対応部分の位置とが異なる場合、前記基準画像情報に含まれる前記基準部分の位置を、前記対応部分の位置とする、撮像状況監視システムである。
【0053】
付記1に記載の撮像状況監視システムによれば、撮像対象の撮像状況の監視下において、撮像対象の位置の基準となる基準部分の位置が変化したと判別された場合、基準画像情報の基準部分の位置が変化後の位置に更新される。これにより、撮像対象の位置が変化しても、自動的に更新された基準画像によって撮像状況を監視し続けることが可能となる。
【0054】
(付記2)
付記2に記載の撮像状況監視システムは、前記基準画像情報は、撮像環境に関する情報を有し、前記撮像状況監視部は、前記基準部分の位置と前記対応部分の位置との差分と所定の閾値とに基づいて、前記撮像状況を判別し、前記所定の閾値は、前記撮像環境に基づいて設定される、付記1に記載の撮像状況監視システムである。
【0055】
付記2に記載された撮像状況監視システムによれば、撮像環境に応じた閾値で基準部分の位置と対応部分の位置との差分に基づいて、撮像状況を判別することができる。これにより、例えば、第2画像が取得された照度レベルを撮像環境として考慮でき、より的確な判別をすることが可能となる。
【0056】
(付記3)
付記3に記載の撮像状況監視システムは、前記基準部分の位置と前記対応部分の位置との差分に基づいて、前記撮像状況に関する出力をユーザに対して行う出力に関する処理を行う出力部を、更に備える、付記1又は付記2に記載の撮像状況監視システムである。
【0057】
付記3に記載された撮像状況監視システムによれば、例えば、基準部分の位置と対応部分の位置との差分が想定範囲を超える大きさである場合、ユーザに警告や確認勧告の通知をすることが可能となる。或いは、差分の大きさのレベルに応じて、ユーザに必要な通知をしてもよい。
【0058】
(付記4)
付記4に記載の撮像状況監視システムは、前記撮像対象の形状情報を含み、前記基準画像生成部は、前記第1撮像画像において、前記形状情報に対応する部分を前記基準部分とする、付記1~3のいずれか一項に記載の撮像状況監視システムである。
【0059】
付記4に記載された撮像状況監視システムによれば、第1撮像画像における特徴点の抽出の際に、基準画像生成部は、形状情報をテンプレートのように使用することができる。これにより、基準画像生成部は、この形状情報を使用することにより、第1撮像画像から撮像対象が写り込んだ画像部分を抽出し、その抽出した画像部分に的を絞って特徴点を抽出できる。従って、撮像対象ではない他の物体が写り込んだ画像部分の特徴点まで抽出することを回避することができる。例えば、撮像対象以外の他の物体が存在する場合において、他の物体が存在したままの状態で撮像対象を撮像した撮像画像を第1撮像画像として使用することを可能にする。
【0060】
(付記5)
付記5に記載の撮像状況監視システムは、前記第2撮像画像から前記対応部分が抽出されない場合は、撮像装置に前記撮像対象を再撮像させ、前記第2撮像画像を再取得する画像再取得部を、更に備える、付記1~4のいずれか一項に記載の撮像状況監視システムである。
【0061】
付記5に記載された撮像状況監視システムによれば、例えば、一時的な要因(例えば、物体や人が撮像対象とカメラとの間を通り過ぎた瞬間が撮像された場合)のため特徴点が抽出されない場合、第2撮像画像が再取得される。これにより、撮像状況監視部が、一時的な要因のために撮像状況が変化したと判断することを回避することが可能となる。
基準画像生成手段は、撮像環境に応じた基準画像を生成してもよい。従って、前記基準画像生成手段は、(i)前記撮像対象が第1の撮像環境にある前記撮像装置によって撮像されることで生成される前記複数の第1撮像画像に基づいて、第1の基準画像情報を生成し、(ii)前記撮像対象が前記第1の撮像環境とは異なる第2の撮像環境にある前記撮像装置によって撮像されることで生成される前記複数の第1撮像画像に基づいて、前記第1の基準画像情報とは異なる第2の基準画像情報を生成してもよい。
【0062】
(付記6)
付記6に記載の撮像状況監視システムは、前記基準画像生成部は、前記所定期間中に前記撮像対象を撮像した複数の前記第1撮像画像に基づいて、前記複数の第1撮像画像のうち変化がない部分を前記基準部分として、前記基準画像に関する前記基準画像情報を生成する、付記1~5のいずれか一項に記載の撮像状況監視システムである。
【0063】
付記6に記載された撮像状況監視システムによれば、基準画像生成部は、複数の第1撮像画像によって基準画像を生成する。例えば、一時的な要因(例えば、物体や人が撮像対象とカメラとの間を通り過ぎた瞬間が撮像された場合)により正常でない状態の第1撮像画像が取得された場合でも、基準画像生成部は、他の正常な状態の第1撮像画像に基づいて変化しない部分を基準部分として基準画像を生成することが可能となる。
【0064】
(付記7)
付記7に記載の撮像状況監視システムは、前記基準部分は前記撮像対象の少なくとも一つの特徴点を不動点として含み、前記基準画像情報は、前記基準部分に含まれる前記不動点に関する不動点情報を含み、前記撮像状況監視部は、前記基準画像における前記不動点の位置と、前記対応部分の位置との関係に基づいて、前記撮像状況を判別し、前記基準画像生成部は、前記基準画像における前記不動点の位置が、前記対応部分の位置と異なる場合、前記基準画像情報に含まれる前記基準部分の位置を前記第2撮像画像における前記対応部分の位置とする、付記1~6のいずれか一項に記載の撮像状況監視システムである。
【0065】
付記7に記載された撮像状況監視システムによれば、基準画像の基準部分を複数の不動点の集合体として扱うことができる。従って、例えば、基準部分の位置を不動点の位置として特定することができる。
【0066】
(付記8)
付記8に記載の撮像状況監視方法は、所定期間中に撮像対象を撮像した第1撮像画像に基づいて、基準部分を含む基準画像に関する基準画像情報を生成し、前記所定期間後に前記撮像対象を撮像した第2撮像画像を取得し、前記基準画像における前記基準部分の位置と、前記第2撮像画像における前記基準部分に対応する対応部分の位置との関係に基づいて、前記撮像対象を撮像できているか否かの撮像状況を判別し、前記基準画像における前記基準部分の位置と、前記対応部分の位置とが異なる場合、前記基準画像情報に含まれる前記基準部分の位置を、前記対応部分の位置とする、撮像状況監視方法である。
【0067】
付記8に記載された撮像状況監視方法によれば、付記1に記載された撮像状況監視システムと同様に、撮像対象の撮像状況の監視下において、撮像対象の位置の基準となる基準部分の位置が変化したと判別された場合、基準画像情報の基準部分の位置が変化後の位置に更新される。これにより、撮像対象の位置が変化しても、自動的に更新された基準画像によって撮像状況を監視し続けることが可能となる。
【0068】
(付記9)
付記9に記載の記録媒体は、コンピュータを、所定期間中に撮像対象を撮像した第1撮像画像に基づいて、基準部分を含む基準画像に関する基準画像情報を生成する基準画像生成部、前記所定期間後に前記撮像対象を撮像した第2撮像画像を取得する画像取得部、及び、前記基準画像における前記基準部分の位置と、前記第2撮像画像における前記基準部分に対応する対応部分の位置との関係に基づいて、前記撮像対象を撮像できているか否かの撮像状況を判別する撮像状況監視部として機能させ、前記基準画像生成部は、前記基準画像における前記基準部分の位置と、前記対応部分の位置とが異なる場合、前記基準画像情報に含まれる前記基準部分の位置を、前記対応部分の位置とするように構成されたコンピュータプログラムが記録された記録媒体である。
【0069】
付記9に記載された記録媒体に記憶されたコンピュータプログラムによれば、付記1に記載された撮像状況監視システムを実現することができる。
【0070】
本発明は、請求の範囲及び明細書全体から読み取るこのできる発明の要旨又は思想に反しない範囲で適宜変更可能であり、そのような変更を伴う撮像状況監視システム、撮像状況監視方法、及び記録媒体もまた本発明の技術思想に含まれる。
【符号の説明】
【0071】
1 撮像状況監視システム
10 サーバ
20 カメラ(撮像装置)
50 什器(撮像対象)
RP、RP´ 基準部分
Imr 基準画像
Im1 第1撮像画像
Im2 第2撮像画像
121 基準画像生成部
122 画像取得部
123 撮像状況監視部
124 出力部
125 画像再取得部
図1
図2
図3
図4
図5
図6
図7