【国等の委託研究の成果に係る記載事項】(出願人による申告)平成28年度、総務省、自律型モビリティシステムの共通プラットフォーム構築に関する研究開発の委託事業、産業技術力強化法第19条の適用を受ける特許出願
(58)【調査した分野】(Int.Cl.,DB名)
前記見守り対象者が迷子であると判定された場合に、迷子が検出されたことを報知するアラームを発報するステップをさらに有することを特徴とする請求項9ないし請求項15のいずれかに記載の迷子検出方法。
【発明を実施するための形態】
【0009】
上記課題を解決するためになされた第1の発明は、プロセッサと、撮像装置と通信を実行する通信部とを備え、前記プロセッサは、前記撮像装置から人物を含む撮像画像を取得し、前記撮像画像から、行動を見守る対象である見守り対象者と該見守り対象者の行動を見守る人物である見守り者とを検出するとともに、前記見守り者と前記見守り対象者との間の距離を検出し、前記撮像画像に含まれる人物の顔の画像に基づき、前記見守り者の視界範囲を算出し、前記距離が予め定められた閾値以上と判定され、かつ、前記見守り対象者が前記見守り者の視界範囲から外れていると判定された場合に、前記見守り対象者が迷子であると判定することを特徴とする迷子検出装置である。
【0010】
この第1の発明に係る迷子検出装置によれば、見守り対象者が見守り者から離れている場合において、見守り者の視界範囲に基づき見守り対象者が迷子であるか否かを判定するので、見守り対象者を離れた距離から見守っている場合における迷子の誤判定を防ぐことが可能となる。
【0011】
また、第2の発明は、上記第1の発明において、前記視界範囲は、前記見守り者の顔の向きに基づき算出されることを特徴とする。
【0012】
この第2の発明に係る迷子検出装置によれば、撮像画像の解像度の不足等により見守り者の目を認識できなくとも、見守り者の顔の向きが見守り対象者が見守り者の視界範囲から外れているか否かの判定を容易に行うことが可能となる。
【0013】
また、第3の発明は、上記第2の発明において、前記視界範囲は、前記見守り者の前記顔の向きに基づき設定される予め定められた角度の範囲であることを特徴とする。
【0014】
この第3の発明に係る迷子検出装置によれば、視界範囲の算出を容易に行うことができる。
【0015】
また、第4の発明は、上記第1の発明ないし第3の発明のいずれかにおいて、前記プロセッサは、前記撮像画像から障害物を検出し、前記距離が予め定められた閾値以上と判定され、かつ、前記見守り者と前記見守り対象者との間に前記障害物が存在する場合において、前記見守り対象者が前記視界範囲内に存在していても、前記見守り対象者が迷子であると判定することを特徴とする。
【0016】
この第4の発明に係る迷子検出装置によれば、見守り者から直接的に視認しにくい場所に見守り対象者がいる場合でも、見守り対象者が迷子であるか否かを適切に判定できる。
【0017】
また、第5の発明は、上記第1の発明ないし第4の発明のいずれかにおいて、前記プロセッサは、前記撮像画像から、前記見守り者と異なる人物を検出し、前記距離が予め定められた閾値以上と判定され、かつ、前記見守り者と前記見守り者と異なる人物とが対向している場合において、前記見守り対象者が前記視界範囲内に存在していても、前記見守り対象者が迷子であると判定することを特徴とする。
【0018】
この第5の発明に係る迷子検出装置によれば、例えば、見守り者が他の人物と会話を行っているなどの事情により、見守り者の注意が見守り対象者から逸れている場合でも、見守り対象者が迷子であるか否かを適切に判定できる。
【0019】
また、第6の発明は、上記第1の発明ないし第5の発明のいずれかにおいて、前記プロセッサは、前記撮像画像に含まれる人物の年層を推定し、推定された年層に基づき、年層の高い人物を見守り者と判定し、年層の低い人物を見守り対象者であると判定することを特徴とする。
【0020】
この第6の発明に係る迷子検出装置によれば、例えば親子連れのような、見守り者と見守り対象者の年層に差がある状況で検出することが可能となる。
【0021】
また、第7の発明は、上記第6の発明において、前記プロセッサは、前記撮像画像から前記人物の輪郭を抽出し、抽出された輪郭に基づき前記年層を推定することを特徴とする。
【0022】
この第7の発明に係る迷子検出装置によれば、撮像画像から年層を容易に検出することが可能となる。
【0023】
また、第8の発明は、上記第1の発明ないし第7の発明のいずれかにおいて、迷子が検出されたことを報知するアラームを発報するアラーム発報部をさらに備え、前記プロセッサは、前記見守り対象者が迷子であると判定された場合には、前記アラーム発報部により前記アラームを発報することを特徴とする。
【0024】
この第8の発明に係る迷子検出装置によれば、見守り対象者が迷子であると判定された場合に、迷子が検出されたことを報知するアラームを発報することが可能となる。
【0025】
また、第9の発明は、撮像装置から人物の撮像画像を取得するステップと、前記撮像画像から、行動を見守る対象である見守り対象者と該見守り対象者の行動を見守る人物である見守り者とを検出するとともに、前記見守り者と前記見守り対象者との間の距離を検出するステップと、前記撮像画像に含まれる人物の顔の画像に基づき、前記見守り者の視界範囲を算出するステップと、前記距離が予め定められた閾値以上と判定され、かつ、前記見守り対象者が前記見守り者の視界範囲から外れていると判定された場合に、前記見守り対象者が迷子であると判定するステップとを有することを特徴とする迷子検出方法である。
【0026】
この第9の発明に係る迷子検出方法によれば、見守り対象者が見守り者から離れている場合において、見守り者の視界範囲に基づき見守り対象者が迷子であるか否かを判定するので、見守り対象者を離れた距離から見守っている場合における迷子の誤判定を防ぐことが可能となる。
【0027】
また、第10の発明は、上記第9の発明において、前記視界範囲は、前記見守り者の顔の向きに基づき算出されることを特徴とする。
【0028】
この第10の発明に係る迷子検出方法によれば、撮像画像の解像度の不足等により見守り者の目を認識できなくとも、見守り者の顔の向きが見守り対象者が見守り者の視界範囲から外れているか否かの判定を容易に行うことが可能となる。
【0029】
また、第11の発明は、上記第10の発明において、前記視界範囲は、前記見守り者の前記顔の向きに基づき設定される予め定められた角度の範囲であることを特徴とする。
【0030】
この第11の発明に係る迷子検出方法によれば、視界範囲の算出を容易に行うことができる。
【0031】
また、第12の発明は、上記第9の発明ないし第11の発明のいずれかにおいて、前記撮像画像から障害物を検知するステップと、前記距離が予め定められた閾値以上と判定され、かつ、前記見守り者と前記見守り対象者との間に前記障害物が存在する場合、前記見守り対象者が前記視界範囲内に存在していても、前記見守り対象者が迷子であると判定するステップとをさらに有することを特徴とする。
【0032】
この第12の発明に係る迷子検出方法によれば、見守り者から直接的に視認しにくい場所に見守り対象者がいる場合にも、見守り対象者が迷子であるか否かを適切に判定できる。
【0033】
また、第13の発明は、上記第9の発明ないし第12の発明のいずれかにおいて、前記撮像画像から、前記見守り者と異なる人物を検知するステップと、前記距離が予め定められた閾値以上と判定され、かつ、前記見守り者と前記見守り者と異なる人物とが対向している場合、前記見守り対象者が前記視界範囲内に存在していても、前記見守り対象者が迷子であると判定するステップとをさらに有することを特徴とする。
【0034】
この第13の発明に係る迷子検出方法によれば、例えば、見守り者が他の人物と会話を行っているなどの事情により、見守り者の注意が見守り対象者から逸れている場合にも、見守り対象者が迷子であるか否かを適切に判定できる。
【0035】
また、第14の発明は、上記第9の発明ないし第13の発明のいずれかにおいて、前記撮像画像に含まれる人物の年層を推定するステップと、推定された年層に基づき、年層の高い人物を見守り者と判定し、年層の低い人物を見守り対象者であると判定するステップとをさらに有することを特徴とする。
【0036】
この第14の発明に係る迷子検出方法によれば、例えば親子連れのような、見守り者と見守り対象者の年層に差がある状況で検出することが可能となる。
【0037】
また、第15の発明は、上記第14の発明において、前記年層は、前記撮像画像から抽出した前記人物の輪郭に基づき推定されることを特徴とする。
【0038】
この第15の発明に係る迷子検出方法によれば、撮像画像から年層を容易に検出することが可能となる。
【0039】
また、第16の発明は、上記第9の発明ないし第15の発明のいずれかにおいて、前記見守り対象者が迷子であると判定された場合に、迷子が検出されたことを報知するアラームを発報するステップをさらに有することを特徴とする。
【0040】
この第16の発明に係る迷子検出方法によれば、見守り対象者が迷子であると判定された場合に、迷子が検出されたことを報知するアラームを発報することが可能となる。
【0041】
以下、本開示の実施形態について、図面を参照しながら説明する。本実施形態では、例えばショッピングモールやテーマパーク等の商業施設において、撮像装置で撮像した撮像画像に基づき迷子を検出する場合について説明する。本実施形態では、見守り者は親であり、見守り対象者は子供であるとする。
【0042】
図1は、本開示に係る迷子検出装置3を含む迷子検出システム1の概要を示す構成図である。
図1に示すように、この迷子検出システム1は、撮像装置2と、迷子検出装置3とを主として備えている。撮像装置2と迷子検出装置3とは、専用回線やLAN(Local Area Network)等のネットワーク4を介して互いに接続されている。
【0043】
撮像装置2は、公知の撮影機能や通信機能を有する監視カメラ(ビデオカメラ)であり、商業施設の各所の壁、天井、ポール等に設置され、予め定められた監視領域を静止画像または動画像として時系列に撮像する。撮像装置2の撮像により生成された撮像画像(静止画像または動画像)は、ネットワーク4を介して迷子検出装置3に適宜送信される。なお、撮像装置2は、予め定められた監視領域を撮像可能な限りにおいて、その形態、機能、配置、数量等については、特に限定されるものではなく種々の変更が可能である。
【0044】
迷子検出装置3は、公知の構成を有するコンピュータからなり、撮像装置2から取得した撮像画像を解析して迷子を検出する。そして、迷子が検出された場合には、迷子が検出されたこと報せるアラートを発報する。
【0045】
図2は、迷子検出装置3の概略構成を示すブロック図である。迷子検出装置3は、公知のハードウェア構成を備えており、所定の制御プログラム(例えば迷子検出プログラム)に基づき迷子検出の各処理を統括的に実行するプロセッサ11、このプロセッサ11のワークエリア等として機能する揮発性メモリであるRAM12、プロセッサ11が実行する制御プログラムやデータを格納する不揮発性メモリであるROM13、HDDやフラッシュメモリ等からなる記憶部14、液晶モニタ等からなる表示部15、キーボードおよびマウス等の入力デバイスからなる入力部16、ネットワーク4を介した通信を実行する通信部17等を有している。
【0046】
迷子検出装置3の各機能は、
図2に示したハードウェア構成において、プロセッサ11が所定の制御プログラムを実行することによって実現可能である。なお、迷子検出装置3は、コンピュータに限らず、同様の機能を果たすことが可能な他の情報処理装置(例えばサーバ等)を用いることもできる。また、迷子検出装置3の機能の少なくとも一部を他の公知のハードウェアによる処理によって代替してもよい。
【0047】
図3は、迷子検出装置3における迷子検出処理の流れを示すフロー図である。以下の処理は、迷子検出装置3のプロセッサ11で行われ、撮像装置2から撮像画像を取得したときに開始される。
【0048】
まず、撮像画像から人物を検出する(ステップST101)。人物の検出は、統計的または非統計的識別器を用いる手法やテンプレートマッチングを用いる手法等の公知の手法を用いて行う。
【0049】
続いて、ステップST101で検出された人物の人物属性を推定する(ステップST102)。本実施形態では、人物属性として年層を推定する。これにより、ステップST101で検出された人物が大人であるかそれとも子供であるかを判断することができる。人物属性の推定方法について詳しく説明すると、まず、撮像画像から人物の輪郭(シルエット)または輪郭の一部を抽出する。そして、抽出された輪郭または輪郭の一部に基づき、予め用意した統計的または非統計的識別器を用いて、その人物の年層を推定する。なお、人物の輪郭の抽出は、エッジ特徴量を用いる手法等の公知の手法を用いて行う。例えば、輪郭からその人物の身長や体形を検出し、検出された身長や体形に基づき、その人物の年層(すなわち、その人物が大人であるかそれとも子供であるか)を判断することができる。
【0050】
次に、ステップST101で検出された人物を追跡する(ステップST103)。具体的には、ステップST101で検出された人物に対して固有の識別子(ID)を付与し、識別子(ID)が付与された人物毎に、予め定められた所定数のフレームにわたって追跡を行う。
【0051】
続くステップST104では、迷子の検出対象である親子を検出する。具体的には、ステップST103での人物追跡の結果に基づき、予め定められた所定数のフレームにわたって一緒に写っており、かつ、各フレームにおいて互いの距離が予め定められた閾値以下である2人の人物を検出する。そして、そのような2人の人物が検出され、かつ、その2人の人物の一方が大人であり他方が子供である場合は、その2人の人物が親子であると判定される。2人の人物のそれぞれが大人であるかそれとも子供であるかは、ステップST102での人物属性(年層)の推定結果に基づき判断する。
【0052】
図4は、ステップST104での親子検出処理の一例を示す図である。
図4の例では、フレームA・・・フレームB・・・フレームCの時系列に連続する所定数のフレームにわたって、第1の人物21と第2の人物22が一緒に写っている。また、第1の人物21と第2の人物22との間の距離Dは、フレームA、フレームB、およびフレームCの各フレームにおいて予め定められた閾値D
th1よりも小さい。そして、ステップST102での人物属性推定処理により、第1の人物21は大人と判定され、第2の人物22は子供と判定されているものとする。このような場合、第1の人物21と第2の人物22は親子であると判定される。このようにして、迷子の検出対象である親子を検出することができる。
【0053】
続くステップST105では、ステップST104で検出された親子をその後のフレームにおいて追跡するとともに、予め定められた所定のフレーム数毎に、親子間の距離が予め定められた閾値以上であるか否かを判定する。具体的には、親21と子供22の間の距離Dを検出し、検出された距離Dが予め定められた閾値
Dth2以上であるか否かを判定する。これにより、子供22が親21から離れているか否かを判断することができる。子供22が親21から離れている場合は、子供22が迷子の可能性がある。検出された距離Dが閾値
Dth2以上であると判定された場合(ステップST105:Yes)は、ステップST106に進み、検出された距離Dが閾値
Dth2以上ではないと判定された場合(ステップST105:No)は、処理を終了する。
【0054】
図5は、ステップST105での親子間の距離Dの判定処理の一例を示す図である。
図5(a)では、親21と子供22との間の距離Dが予め定められた閾値D
th2以上であるので、子供22が親21から離れている、すなわち子供22が迷子の可能性があると判定される。
図5(b)では、親21と子供22との間の距離Dが予め定められた閾値D
th2未満であるので、子供22が親21から離れていない、すなわち、子供22が迷子の可能性はないと判定される。
【0055】
次のステップST106では、親21の顔の向きを検出する。具体的には、第1の人物21の顔領域から公知の手法を用いて顔特徴量を抽出し、抽出された顔特徴量に基づき、予め用意した統計的または非統計的識別器を用いて顔の向きを検出する。なお、顔領域の検出は、統計的または非統計的識別器を用いる手法やテンプレートマッチングを用いる手法等の公知の手法を用いて行う。
【0056】
ステップST107では、親21の顔の向きが子供22から逸れているか否かを判定する。具体的には、まず、ステップST106で検出された親21の顔の向きに基づき、予め定められた角度αの視界範囲23を設定する。次に、子供22が、親21の視界範囲23内に存在するか否かを判定する。そして、子供22が親21の視界範囲23内に存在しないと判定され、かつ、それが予め定められた時間(例えば10秒〜60秒)を超えた場合に、親21の顔の向きが子供22から逸れていると判定する。親21の顔の向きが子供22から逸れている場合、すなわち、親21の注意が子供22から逸れている場合は、子供22は迷子であると判定することができる。親21の顔の向き(注意)が子供22から逸れていると判定された場合(ステップST107:Yes)は、ステップST108に進み、親21の顔の向き(注意)が子供22から逸れていないと判定された場合(ステップST107:No)は、処理を終了する。
【0057】
図6は、ステップST107での親の顔の向きの判定処理の一例を示す図である。この
図6は
図5(a)に対応する図であり、子供22が迷子の可能性がある場合を示す。
図6(a)では、子供22は、親21の視界範囲23内に存在しないので、親21の顔の向き(注意)が子供22から逸れている、すなわち子供22は迷子であると判定される。
図6(b)では、子供22は、親21の視界範囲23内に存在するので、親21の顔の向き(注意)が子供22から逸れていない、すなわち子供22は迷子ではないと判定される。
【0058】
そして、ステップST108では、迷子が検出されたことを報知するアラームを発報する。具体的には、迷子検出装置3の表示部15(
図2参照)に、例えば「迷子検出」の文字等の警報情報を表示することによって、迷子検出のアラームを発報する。すなわち、本実施形態では、表示部15はアラーム発報部としての役割を果たす。なお、警報情報の表示による発報とともに警報音声を出力するようにしてもよい。また、警報ブザーや警報ランプ等の図示しない発報装置を使用して、迷子検出のアラームを発報するようにしてもよい。
【0059】
このように、上述した迷子検出処理によれば、子供22が親21から離れている場合において、親21の顔の向きに基づき子供22が迷子であるか否かを判定するので、親21が子供22を離れた距離から見守っている場合における迷子の誤検出を防ぐことができる。
【0060】
なお、本実施形態では、親が1人で、子供が1人の場合について説明したが、親または親に相当する保護者は複数であってもよい。例えば、親が2人で、子供が1人の場合であってもよい。この場合は、複数の親(または保護者)の全員の顔の向きが子供から逸れた場合に、迷子検出のアラームを発報するようにするとよい。
【0061】
また、本実施形態では、見守り者・見守り対象者は親子としたが、見守り者・見守り対象者は、親子に限定されるものではなく、例えば、幼稚園や小学校の先生と児童であってもよい。また、旅行や行楽等での、引率者と被引率者であってもよい。また、飼い主とペットなど、見守り対象者が人物以外であってもよい。
【0062】
また、本実施形態では、子供22が親21の視界範囲23内に存在しないと判定され、かつ、それが予め定められた時間を超えた場合に、親21の顔の向きが子供22から逸れていると判定していたが、これに限られるものではない。迷子を即座に検知したい場合などには、子供22が親21の視界範囲23内に存在しないと判定されれば、すぐに親21の顔の向きが子供22から逸れていると判定してもよい。予め定められた時間を超えるまで親21の顔の向きが子供22から逸れていると判定しないように制御するか否か、および、この時間をどの程度の長さにするかは、迷子の早期発見と誤検出の頻度のバランスを考慮して本実施形態を適用する状況に応じて適宜選択してよい。
【0063】
また、本実施の形態では、見守り者と見守り対象者の間の距離を撮像画像に基づいて検出していたが、距離を検出する手順は撮像画像に基づくものには限られない。例えば、見守り者と見守り対象者にGPS等の測位機能、および、迷子検出装置3との通信機能を備えた端末を所持させ、それによって距離を計測するものとしてもよい。
【0064】
また、本実施形態では、迷子検出装置3が自ら警報表示あるいは警報を発報するものとしたが、これに限られるものではない。例えば、迷子検出装置から、親21が所持する端末等に対して警報表示あるいは警報の発報を無線通信等で指示してもよい。また、迷子検出装置3から施設内を巡回する警備員あるいはロボットなどに対して、親21に警告を行うよう指示するなどとしてもよい。すなわち、迷子が検出された場合に、少なくとも親21にその旨が伝わればよく、警報の形式は問わない。
【0065】
また、本実施形態では、親21の顔の向きから視界範囲を推定していたが、これに限られるものではない。高解像度カメラが使用されている場合など、親21の黒目の位置を追跡できるようであれば、それに基づいて視界範囲を推定してもよい。また、監視カメラから離れている親21の視界範囲は顔の向きから推定し、監視カメラに近い親21の視界範囲は黒目の位置から推定するなど、複数の手段を併用してもよい。
【0066】
また、本実施形態では、人物の輪郭から年層を推定していたが、これに限られるものではない。例えば、人物の顔のしわや色などから年層を推定してもよい。これらの他にも、人物の画像のテクスチャの特徴量を抽出し、抽出された特徴量に基づいて年層を推定する手法は様々なものが知られているが、どの手法によって年層を推定してもよい。すなわち、本実施の形態においては、撮像された人物の年層が推定できればよいのであり、輪郭を用いた推定手法は一例に過ぎない。
【0067】
また、本実施形態では、人物が所定数のフレームの間、近い距離にいる場合に親子であると判定したが、親子判定の手法は、これに限るものではない。何らかの手段で親子であることが判断できれば十分であり、その手法は問わない。例えば、親と子それぞれに対応する発信機を持たせることなどが考えられる。
【0068】
また、本実施形態では、親21の顔の向きが子供22から逸れていない場合(すなわち、親21の視界範囲内に子供22が存在する場合)に子供22は迷子ではないと判定したが、他の条件を追加してもよい。例えば、
図7(a)に示すように、親21と子供22の間に壁などの障害物24が存在する場合や、
図7(b)に示すように、親21が他の人物25と会話をしている場合は、たとえ親21の顔の向きが子供22から逸れていなくとも、親21が子供22を視認できなかったり、親21の注意が子供22から逸れていたりする可能性がある。このような場合、たとえ親21の顔の向きが子供22から逸れていなくても子供22が迷子であると判定するようにしてもよい。ここで、障害物24の有無は、例えば、監視カメラの映像を複数フレーム解析し、動きのない領域を検知することなどで得られる。また、親21が他の人物25と会話しているか否かは、例えば、親21の顔の向きと他の人物25の顔の向きが対向しているか否かを確認することで判定できる。
【0069】
また、
図7(a)および
図7(b)に示したような親21の顔の向きが子供22に向いているが親21が子供22を視認できなかったり注意が逸れていたりする可能性がある場合と、
図6(a)に示したような親21の顔の向きが子供22から逸れている場合とで、警告の強度を変えてもよい。すなわち、親21の顔の向きが子供22から逸れている場合の方が、親21の注意が子供22から逸れている可能性が高いため、より強い警告を発するようにしてもよい。警告の強度の変え方としては、同一の種類の警告の強度を変える(例えば、発報装置から発する音量や振動の量や頻度を変える)ようにしてもよいし、警告の種類自体を変えるようにしてもよい。警告の種類自体を変える場合は、例えば、強度の低い警告は、親21のみに対して発し、強度の強い警告は、館内放送や一斉配信などにより親21以外の第三者に対しても発するようにするとよい。
【0070】
また、本実施形態では、親21と子供22との間の距離が閾値D
th2以上離れており、かつ、親21の視界範囲内に子供22がいない場合に、迷子である可能性があると判定したが、閾値を1つに限る必要はない。例えば、親21の視界範囲内に子供22がいない場合に、親21と子供22の距離が離れていくにつれて段階的に警告の強度を強めていくなどとしてもよい。
【0071】
以上、本開示を特定の実施形態に基づいて説明したが、これらの実施形態はあくまでも例示であって、本開示はこれらの実施形態によって限定されるものではない。また、上記実施形態に示した本開示に係る迷子検出装置および迷子検出方法の各構成要素は、必ずしも全てが必須ではなく、少なくとも本開示の範囲を逸脱しない限りにおいて適宜取捨選択することが可能である。