(58)【調査した分野】(Int.Cl.,DB名)
前記出力部は、前記提示された類似候補領域のうち前記ユーザ入力部を介して前記オペレータから除外の指示がなされた類似候補領域については、前記配信用画像生成処理を施すことなく前記配信用画像に含める、
請求項5に記載の情報処理装置。
【発明を実施するための形態】
【0011】
次に実施形態について図面を参照して説明する。
図1は、実施形態の情報処理装置を備えた駅混雑状況配信システムの概要構成ブロック図である。
駅混雑状況配信システム10は、駅構内の各部(改札、切符売り場、ホーム、駅内通路等)に配置され所定の監視対象領域の撮像を行い、撮像データを出力する複数のカメラ11と、複数のカメラ11が出力した撮像データを収集、管理し、所定の送信タイミング毎に送信するカメラサーバ12と、カメラサーバ12が送信した撮像データ及びデータベース(広告データベース)13に格納した広告データに基づいて配信対象の画像データである配信画像データを生成する情報処理装置14と、情報処理装置14とインターネット等の通信ネットワーク15を介して接続され、情報処理装置14から配信画像データがアップロードされるWEBサーバ16と、通信ネットワーク15に接続されて、WEBサーバ16から配信される配信画像データをスマートフォン等として構成された移動端末装置17に無線通信により配信する複数の無線基地局18と、を備えている。
【0012】
図2は、情報処理装置の概要構成ブロック図である。
情報処理装置14は、いわゆるコンピュータとして構成され、大別すると、情報処理装置本体21と、情報処理装置本体21の制御下で各種情報を表示する表示装置22と、キーボード、マウス、タッチパネルなどのユーザインタフェースを備え、各種指示、各種データの入力を行うための入力装置23と、ハードディスクドライブ、SSD(Solid State Disk)等としてハードウェア的に構成され、各種データベース等を記憶する記憶装置24と、外部機器との通信インタフェース動作を行う通信インタフェース装置25と、を備えている。
【0013】
図3は、情報処理装置本体の概要構成ブロック図である。
上記構成において、情報処理装置本体21は、情報処理装置本体21全体の制御を行うMPU31と、MPU31が実行する制御プログラム、各種データ等を不揮発的に記憶するROM(Read Only Memory)32と、MPU31のワーキングエリアとしても利用され、各種データを一時的に記憶するRAM33と、各種データを不揮発的に更新可能に記憶するEEPROM34と、各種インタフェース動作を行うインタフェース部35と、各部を通信可能に接続する通信バス36と、を備えている。
【0014】
図4は、実施形態の情報処理装置の機能ブロック図である。
情報処理装置14の機能としては、ユーザに配信処理(主としてマスク処理)対象の領域(広告領域)を特定させるための情報を提供し、特定を促すための各種処理を実現するユーザ入力部41と、撮像画像中の配信処理対象の領域を登録する領域登録部42と、領域登録部42において登録された配信処理対象の領域を含む撮像画像及び他の撮像画像中において、登録された配信処理対象の領域と同一の領域とみなせる他の配信処理対象の領域を検索する領域検索部43と、配信処理対象の領域を随時更新する領域更新部44と、更新された配信処理対象の領域に基づいて配信対象の配信画像を生成し出力する出力部45と、を備えている。
【0015】
次に実施形態の動作を説明する。
図5は、実施形態の処理フローチャートである。
まず情報処理装置14は、ユーザ入力部41として機能し、カメラサーバ12から配信処理対象の画像データ(カメラ11が出力した撮像データ)を取得し、データベース(広告データベース)13に格納する(ステップS11)。
【0016】
次にユーザ入力部41として機能している情報処理装置14は、データベース13に格納されている画像データのうち、入力装置23を介して入力されるユーザの指示あるいは予め設定された選択条件に基づいて、処理対象データを選択する(ステップS12)。
【0017】
さらにユーザ入力部14として機能している情報処理装置14は、選択した処理対象データを表示装置22に表示し、配信処理としてのマスク処理を施すべき広告領域を処理対象領域として指定するように促す(ステップS13)。
【0018】
図6は、画像データに対応する画像の一例の説明図である。
図6は、駅構内50に配置されたいずれかのカメラ11により撮像された撮像データに対応する画像G1の一例であり、駅構内50には、壁51、壁52、柱53及び通路54が設けられているのがわかる。
【0019】
壁51には、広告Aの広告媒体(ポスター)61及び広告Bの広告媒体(ポスター)62が貼付されている。また壁52には、広告Aの広告媒体(ポスター)63が貼付されている。また柱53のある一面には、広告Cの広告媒体(ポスター)64が貼付され、他の一面には、広告Dの広告媒体(ポスター)65が貼付されている。
さらに通路54上を、複数の歩行者71A〜71Jが行き来している。
【0020】
図7は、処理対象指定画面の一例の説明図である。
処理対象指定画面G2は、処理対象の広告表示領域を含む画像領域の選択をオペレータに促すためのメッセージが表示されたメッセージ表示領域画面G21と、
図6に示した画像G1が表示された作業領域画面G22と、を備えている。
【0021】
これにより、オペレータは、処理対象指定画面G2上のメッセージ表示領域画面G21に表示されたメッセージに従って、処理対象領域である広告表示領域を含む画像領域を入力装置23を介して指定する(ステップS14)。
この場合において、広告表示領域を含む画像領域の指定としては、広告が表示されている領域の周囲をユーザがマウス、タッチペンなどにより多角形状(六角形状、長方形状、正方形状等)に囲むことにより処理対象領域である広告表示領域を指定すればよい。
【0022】
オペレータによる処理対象領域を含む画像領域の指定がなされると、次に情報処理装置14は、オペレータに処理対象領域の確認を促すために処理対象領域確認画面G3を表示する(ステップS15)。
【0023】
図8は、処理対象領域確認画面の説明図である。
情報処理装置14は、表示画面を処理対象領域確認画面G3に遷移する。
処理対象領域確認画面G3は、
図8に示すように、処理対象領域の確認のための登録操作を促すための各種情報が表示された登録操作情報画面G31と、実際に登録操作を行うための登録操作画面G32と、を備えている。
【0024】
登録操作情報画面G31は、ユーザが選択した処理対象領域である広告表示領域を含む画像領域を示す選択領域表示画面G311と、
図6で示した画像G1の取得時に稼働中であったカメラ11において撮像された画像のうち、選択領域表示画面G311に表示されている広告表示領域の画像に類似の画像を含む領域数を表示する類似領域数表示画面G312と、ユーザが処理対象を確定するための処理内容と当該処理内容の実行を促すメッセージを表示するメッセージ表示領域A1と、
図6で示した画像G1の取得時に稼働中であったカメラ11の台数及び類似領域数表示画面G312に表示されている数が類似領域数であることを通知するメッセージを表示するメッセージ表示領域A2と、を備えている。
【0025】
登録操作画面G32は、選択中の画像領域に含まれる広告表示領域であることを示すために表示態様が変更された広告表示領域A3と、広告表示領域A3に類似する広告類似表示領域であることを示すために表示態様が変更された広告類似表示領域A4と、広告表示領域の選択をオペレータが行うための登録ボタンB1と、が表示されている。
【0026】
この場合において広告表示領域A3及び広告類似表示領域A4の表示態様の変更としては、所定の色の枠で囲むようにする表示態様、領域を点滅する表示態様など任意の態様が考えられる。
【0027】
そして情報処理装置14は、処理対象領域確認画面G3上で、オペレータにより登録ボタンB1がクリックされ、処理対象領域である広告表示領域の確認指示がなされたか否かを判別する(ステップS16)。
【0028】
ステップS16の判別において、オペレータによる登録ボタンB1のクリックがなされず処理対象の確認指示が未だなされていない場合には(ステップS16;No)、待機状態となる。
【0029】
ステップS16の判別においてオペレータにより登録ボタンB1がクリックされ、処理対象領域である広告表示領域の確認指示がなされた場合には(ステップS16;Yes)、情報処理装置14は領域登録部42として機能し、処理対象領域である広告表示領域をデータベース13に登録する。
【0030】
さらに情報処理装置14は、領域検索部43として機能し、他の広告表示領域をカメラ11により撮像された他の画像から検索するために、指定された広告表示領域の中に含まれる広告画像の局所特徴量を抽出する(ステップS17)。
【0031】
この場合において、抽出する局所特徴量としては、例えば、HOG(Histograms of Oriented Gradients)、SIFT(Scale Invariant Feature Transform)、SURF(Speeded Up Robust Features),KAZE等が挙げられる。
【0032】
次に情報処理装置14は、抽出した局所特徴量に基づいて、ステップS13で指定された処理対象領域である広告表示領域と同一の画像を含む類似候補領域画像(広告画像;同一広告画像)を他の処理対象の撮像画像中から抽出する(ステップS18)。
【0033】
本実施形態において、「同一」の意味するところは、物理的な同一に限らず、同一と見做せるという概念も含むものであり、「同一の画像(広告)」の意味することは、外観的に同一という意味のみならず、概念的に同一と見做せる画像(広告)も含むものである。例えば、同一の広告を違う角度から撮像した複数の画像は、同一の画像として取り扱われる。また、主要部部分は同一の画像の広告であるが、付記的部分が異なる様な広告(亜種広告)も同一の広告として取り扱われる。
同一広告画像の抽出に用いる類似画像検索技術としては、例えば、Bag of
Visual Words、Bag of Feature等の技術が挙げられる。
【0034】
また対象の広告が平面であると仮定できる場合、より精度の高い対応付けを行うために、幾何情報を用いた対応付けを行ってもよい。広告画像と、処理対象の広告画像候補との間で局所特徴量同士の対応付けを行い、対応付けられたペアの集合から、処理対象の広告画像候補との間の幾何変換を表す射影変換行列を推定する。
【0035】
ここで、射影変換行列は、4点以上の局所特徴量のペアから算出でき、対象が平面である場合に計算可能である。推定した幾何変換から大きく外れる対応ペアは除外した後、画像間の類似度を算出する。どちらかの画像を射影変換し、テンプレートマッチングを行ってもよいし、対応付けられた局所特徴間の類似度の平均を画像間の類似度としてもよい。
【0036】
ここで、画像領域間の類似度の算出について説明する。
図9は、画像領域間の類似度の算出処理の処理フローチャートである。
本実施形態においては、画像領域間の類似度の算出には、両画像領域間の類似性と、両画像が広告画像であることから一般的に文字が含まれると考えられるので情景文字認識技術を用いて算出を行っている。
【0037】
換言すれば、外観が類似しており、使用されている文字も似たような文字列を含んだ画像であれば、類似度が高い、すなわち、同一の広告画像である可能性が高いとしているのである。
【0038】
次に具体的な処理を説明する。
まず情報処理装置14は、オペレータが選択した画像の局所特徴量と、類似候補領域画像の局所特徴量に基づいて類似画像検索技術を用いて外観類似度(見え方の類似性)を検出する(ステップS31)。
外観類似度の検出においては、文字列の有無を判断することなく、文字列が含まれていても単純に画像として似ているか否かを判別するための類似度を検出するのである。
【0039】
一方、情報処理装置14は、外観類似度の検出と並行して、すなわち、オペレータが選択した画像及び類似候補領域画像のそれぞれに含まれる情景文字列(撮像画像に含まれる文字列)を検出する(ステップS32)。
そして情景文字列が検出された場合には情景文字の認識(文字認識:OCR)を行う(ステップS33)。
【0040】
そして各画像において認識された文字列の類似度(同一の文字列が含まれている同様の数含まれている割合)を検出する(ステップS34)。
すなわち、同一の広告画像であれば、同一の文字列が含まれているのが当然であり、文字列の類似度が高いほど、同一の広告画像である確率が高いからである。
【0041】
そして、情報処理装置14は、算出した外観類似度及び文字列類似度に基づいて、画像領域間の類似度を検出する(ステップS35)。
すなわち、外観類似度及び文字列類似度の双方が高ければ、画像領域間の類似度が高く、同一の広告画像である確率が高いと判別し、少なくともいずれか一方が低ければ画像領域間の類似度が低く、同一の広告画像である確率が低いと判別する。
【0042】
そして、情報処理装置14は、画像領域間の類似度が所定の閾値類似度より高い画像を類似候補領域画像として抽出することとなる。
【0043】
そして類似候補領域画像の抽出が完了すると、情報処理装置14は、領域更新部44として機能し、抽出した類似候補領域画像を類似領域登録画面に表示し(ステップS19)、オペレータに類似領域に対する処理を選択させる(ステップS20)。
【0044】
ここで、オペレータに類似領域に対する処理を選択させる第1の理由は、広告によって特徴量が大きく異なるとともに、カメラ11の配置によって見え方が大きく異なるため、自動的に識別することが非常に困難だからである。さらに、部分的に異なる広告(亜種)についても実際的には同一の広告であると判定するのが好ましいが、処理上は特徴量が異なるため自動的に同一の広告であるとは判定されない虞があるため、オペレータにこのような広告も同一の広告であるとして選択させる方が効率的に処理が行えると考えられるからである。
【0045】
第2の理由は、広告としては自動的に認識できる対象であっても、その内容によっては、配信画像から除去する必要がないものがあるため、これを処理対象から除外するためである。例えば、駅構内監視システムにおいては、当該駅を管理している鉄道会社の広告について除去する必要がないのでこれを指定する。
【0046】
第3の理由は、デジタルサイネージは、広告を更新しつつ表示しているため、カメラ11の撮影タイミングによって同一のデジタルサイネージ装置であっても表示している広告内容が異なり、処理対象が確定できない虞があるためである。
【0047】
図10は、類似領域登録画面の説明図である。
類似領域登録画面G4は、大きく二つの画面に分けられており、既にオペレータにより登録された登録領域を表示する登録領域表示画面G41と、登録領域に対応する類似領域を表示する類似領域表示画面G42と、を備えている。
【0048】
登録領域表示画面G41は、同時に複数(
図9では、二つ)の登録領域を表示する既登録領域表示画面G411、G412と、現在表示されている既登録領域以外の他の既登録領域をスクロールして表示させるための操作を行うためのスクロール操作領域G413と、を備えている。
【0049】
既登録領域表示画面G411、G412は、同一構成であり、対応する既登録領域を撮像したカメラを特定するためのカメラIDを表示するカメラID表示領域A11と、既登録領域を含む周囲画像を表示する既登録領域画像表示領域A12と、を備えている。
【0050】
一方、類似領域表示画面G42は、類似領域の表示条件を表示する表示条件表示画面G420と、それぞれが抽出した類似領域を表示し、類似領域として登録するかをオペレータに操作させるための複数(
図9では、五つ)の類似表示操作画面G421〜G425と、を備えている。
ここで、類似表示操作画面G421〜G425は、同一構成であるので、類似表示操作画面G421を例として説明する。
【0051】
図11は、類似表示操作画面の説明図である。
類似表示操作画面G421は、情報処理装置14が抽出した登録領域に類似した領域の画像を表示する類似候補画像表示領域A21と、類似候補画像表示領域A21に表示した画像を撮像したカメラを特定するためのカメラIDを表示するカメラID表示領域A22と、類似候補画像表示領域A21に表示された画像を類似画像であるとし処理対象の画像として登録するための操作を行う登録ボタンB11と、類似候補画像表示領域A21に表示された画像がデジタルサイネージ(D−S)の画像であるとして例外処理の登録を行うためのデジタルサイネージ登録ボタンB12と、類似候補画像表示領域A21に表示された画像がのぼり旗、垂れ幕などの一時的に設置された広告の画像であるとして例外処理の登録を行うための、のぼり登録ボタンB13と、類似候補画像表示領域A21に表示された画像を、類似画像ではないとして処理対象の画像から除外するための操作を行う除外ボタンB14と、を備えている。
【0052】
上記構成において、デジタルサイネージ登録ボタンB12が登録状態とされた場合には、同一カメラIDの同一の撮像領域では、画像内容にかかわらず類似画像であるとみなして処理対象の画像として登録がなされる。したがって、表示内容に関わらず、配信画像に表示がなされることはない。
【0053】
のぼり登録ボタンB13が登録状態とされた場合には、風などで広告形状が変動しやすいため、形状が多少異なっても登録画像であるとみなして処理対象の画像とするように登録がなされる。
【0054】
除外ボタンB14が登録状態とされた場合には、類似候補画像表示領域A21に表示された画像が類似であったとしても、常に処理対象の画像から除外して、配信画像にそのまま含めるとする登録がなされる。従って、自社の広告(本例の場合、例えば、鉄道会社の広告)はそのまま配信画像に表示されて配信されることとなる。
【0055】
続いて情報処理装置14は、処理内容の指定が確定したか否かを判別する(ステップS21)。
ステップS21の判別において、処理の内容の指定が確定していない場合には(ステップS21;No)、再び処理をステップS20に戻して待機状態となる。
【0056】
ステップS21の判別において、処理内容の指定が確定した場合には(ステップS21;Yes)、情報処理装置14は、処理対象領域である類似画像(広告として同一の広告であるとみなされた広告画像)に対する対象領域処理を行うを行う(ステップS22)。
【0057】
この場合において処理対象の領域である類似画像、すなわち、オペレータが処理対象として指定した広告と、同一の広告であるとされた広告画像に対する対象領域処理としては、例えば、広告画像を塗りつぶす塗りつぶし(インペイント)処理、広告画像をモザイク画像とするモザイク処理、当該広告画像の表示領域に自社広告画像などの予め準備した所定の画像を重畳する重畳表示処理などが挙げられ、少なくとも、塗りつぶし処理、モザイク処理あるいは重畳表示処理のいずれか一つを行うようにすれば良い。
【0058】
ここで対象領域処理として予め準備した所定の画像を重畳する場合には、処理対象の領域である類似画像である広告画像がカメラ11に対して斜めに位置している場合のように処理対象領域が傾いて変形している場合等には、予め準備した所定の画像を検出した処理対象領域の傾きに基づいて射影変換した画像を重畳するようにしてもよい。
【0059】
また、上記類似画像に対する処理において、人が広告前を通過したタイミングでカメラ11により撮像がなされた場合等のように、処理対象領域である類似画像内に歩行者(人)が位置している場合には、歩行者検出により検出した歩行者の画像領域を除いた後の領域に対して対象領域処理を行う。
【0060】
図12は、撮影画像に歩行者の画像が広告画像内に位置している場合の処理の説明図である。
図12(a)に示すように、広告画像G51前に歩行者71Xが位置している場合には、
図12(b)に示すように広告画像G51に対応する長方形状の領域から歩行者71Xの画像が重なっている領域を除いた処理対象領域A51となる。
【0061】
次に広告画像に対する処理が終了した画像に対し、情報処理装置14は、配信用画像生成処理を行う(ステップS23)。
具体的には、プライバシの保護のため、
図12(a)に示した歩行者71Xの画像が表示されていた位置に当該歩行者を特定出来ないように歩行者を表す画像(アバター画像)71XAに置換して、
図12(c)に示すように表示して配信用画像とする。
【0062】
図13は、配信用画像(配信用画像データ)の一例を説明する図である。
図13は、
図6に示した撮像画像に配信用画像生成処理を行ったものであり、
図6に示した広告Aの広告媒体61、広告Aの広告媒体63、広告Cの広告媒体64及び広告Dの広告媒体65については、処理対象としてオペレータに指定され、広告Bの広告媒体62については処理対象から除外することがオペレータから指定された場合のものである。
この場合において、処理対象の領域である広告画像については、対象領域処理として塗りつぶしの処理が指定されている。
【0063】
配信用画像G6において、広告Aの広告媒体61、広告Aの広告媒体63、広告Cの広告媒体64及び広告Dの広告媒体65の表示位置には、処理対象領域として塗りつぶしがなされ処理画像61P、63P、64P、65Pが表示される。
【0064】
また、歩行者71A〜71Jの画像が表示されていた位置には、配信用画像生成処理として当該歩行者を特定出来ないように歩行者を表す画像(アバター画像)71AA〜71JAに置換されて表示がなされている。
なお、配信用画像生成処理としては、撮影時間等他の情報を追加するように処理することも可能である。
【0065】
以上の説明のように、本実施形態によれば、オペレータは、処理対象の広告画像について一つ指定すれば、情報処理装置14が同一の広告画像を可能な限りカメラ11の撮像画像から類似候補画像として抽出してくれ、オペレータは類似候補画像を同一の広告画像であると指示するだけで、同一性の高い広告画像に対するマスク処理等の配信用画像作成処理を行わせることができ、オペレータの作業量を低減しつつ、所望の配信用画像データを作成することができる。
【0066】
以上の説明においては、配信処理の対象となる画像領域が広告領域である場合について説明したが、これに限らず所定の画像領域(=所定領域)、例えば、所定のマーク(商標、ロゴマーク等)が表示されている領域、所定の人物写真が表示されている領域、選挙ポスター等任意の画像(=所定画像)が含まれる画像領域に対しても同様に適用が可能である。
【0067】
以上の説明においては、配信用画像生成処理として、歩行者を表す画像(アバター画像)に置換する処理を行っていたが、これに代えて、歩行者を特定出来ないように歩行者の画像にモザイク処理を施したり、ぼかし処理を施したりすることも可能である。
【0068】
以上の説明においては、カメラ11により撮像した画像をデータベース13に格納する構成を採っていたが、情報処理装置14の記憶装置24、RAM33あるいはEEPROM34に記憶する構成を採ることも可能である。
【0069】
以上の説明においては、配信用画像データの作成において、抽出された類似画像に対して施す対象領域処理については、塗りつぶし(インペイント)処理、モザイク処理、重畳表示処理を例として挙げたが、これに限定されるものではなく、配信用画像において元の広告用画像が認識できないような処理であれば、様々な処理が適用可能である。
【0070】
以上の説明においては、類似候補画像の抽出に際し、対応するカメラ11の撮像画像に何ら制限を設けていなかったが、広告媒体の更新時期(張り替え時期)などの情報を用いて、更新がなされた場所を含む撮像画像のみを類似候補画像の抽出対象として選択するように構成することも可能である。これによれば、より一層の作業量の低減が図れる。
【0071】
以上の説明においては、情報処理装置14とは別個にカメラサーバ12、データベース13及びWEBサーバ16を設ける構成としていたが、カメラサーバ12、データベース13及びWEBサーバ16(の機能)のうち、少なくともいずれか一つ(の機能)を情報処理装置14として一体に設けるように構成することも可能である。
【0072】
本実施形態の情報処理装置で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されて提供されるようにしても良い。
【0073】
また、本実施形態の情報処理装置で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成しても良い。また、本実施形態の情報処理装置で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成しても良い。
また、本実施形態のプログラムを、ROM等に予め組み込んで提供するように構成してもよい。
【0074】
本実施形態の情報処理装置で実行されるプログラムは、上述した各部(ユーザ入力部、領域登録部、領域検索部、領域更新部、出力部)を含むモジュール構成となっており、実際のハードウェアとしてはMPU(プロセッサ)が上記記憶媒体からプログラムを読み出して実行することにより上記各部が主記憶装置上にロードされユーザ入力部、領域登録部、領域検索部、領域更新部、出力部…が主記憶装置上に生成されるようになっている。
【0075】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。