(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-05-08
(45)【発行日】2024-05-16
(54)【発明の名称】情報処理装置、情報処理方法、およびプログラム
(51)【国際特許分類】
G06Q 30/06 20230101AFI20240509BHJP
【FI】
G06Q30/06
(21)【出願番号】P 2021111725
(22)【出願日】2021-07-05
(62)【分割の表示】P 2018506787の分割
【原出願日】2017-01-04
【審査請求日】2021-07-05
【審判番号】
【審判請求日】2023-11-02
(31)【優先権主張番号】P 2016056565
(32)【優先日】2016-03-22
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100110928
【氏名又は名称】速水 進治
(72)【発明者】
【氏名】守谷 厚志
【合議体】
【審判長】伏本 正典
【審判官】佐藤 智康
【審判官】松田 直也
(56)【参考文献】
【文献】特開2012-174154(JP,A)
【文献】特開2015-219781(JP,A)
【文献】特表2012-531971(JP,A)
【文献】米国特許出願公開第2012/0150677(US,A1)
【文献】特開2000-30138(JP,A)
【文献】特開2011-61586(JP,A)
【文献】特開2000-184361(JP,A)
【文献】特許第6943236(JP,B2)
(58)【調査した分野】(Int.Cl.,DB名)
G06Q 10/00-99/00
(57)【特許請求の範囲】
【請求項1】
物品の配置場所とマーカを撮像した画像に対する画像認識処理により、前記画像に含まれる第2のマーカと以前の前記画像に含まれる第1のマーカとの差分を検出する検出手段と、
所定値の前記差分の変化に要した時間に応じて、前記第2のマーカに基づく所定の処理を実行する実行手段と、を備える、情報処理装置。
【請求項2】
前記マーカは、以下に記載する1)~3)のいずれかを含む、請求項1に記載の情報処理装置。
1)当該マーカに対応する前記物品が載置されている商品棚の少なくとも一部。
2)当該マーカに対応する前記物品が載置されている場所周辺の什器、壁、天井、床、及び建具の少なくともいずれか一つの少なくとも一部。
3)当該マーカと対応する前記物品が載置されている商品棚の一部、又は周辺に設けられているディスプレイに表示される画像。
【請求項3】
前記所定の処理は、前記第2のマーカに対応付けられた前記物品に関する情報を出力する、請求項1又は2に記載の情報処理装置。
【請求項4】
前記所定の処理は、前記第2のマーカに関する画像の情報を出力する、請求項1又は2に記載の情報処理装置。
【請求項5】
情報処理装置が、
物品の配置場所とマーカを撮像した画像に対する画像認識処理により、前記画像に含まれる第2のマーカと以前の前記画像に含まれる第1のマーカとの差分を検出し、
所定値の前記差分の変化に要した時間に応じて、前記第2のマーカに基づく所定の処理を実行する、情報処理方法。
【請求項6】
コンピュータに、
物品の配置場所とマーカを撮像した画像に対する画像認識処理により、前記画像に含まれる第2のマーカと以前の前記画像に含まれる第1のマーカとの差分を検出する手順、
所定値の前記差分の変化に要した時間に応じて、前記第2のマーカに基づく所定の処理を実行する手順、を実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理方法、およびプログラムに関する。
【背景技術】
【0002】
陳列された商品の状況を監視する装置の一例が特許文献1に記載されている。特許文献1の監視装置は、撮像カメラの画像データを元に商品の移動の有無を検知し、さらに、商品の配置領域の周囲に位置する人物の向きを検知し、それぞれの検知結果に基づいて、警告情報を出力する。たとえば、商品配置領域から商品がなくなったことが検知され、かつ、顧客の向きが商品配置領域の向きでないことが検知された場合に、商品が万引きなどの不正行為によりなくなった可能性があることを通知するメッセージを出力する。
【0003】
また、特許文献2には、在庫切れを確認する在庫管理装置が記載されている。特許文献2に記載の在庫管理装置は、赤外領域の光に対して反射率が高いインクで印刷された目印と、目印上に配置される管理対象物と、目印を撮像する撮像手段と、撮像画像から目印を識別する画像処理手段と、目印が識別されない場合は、管理対象物が存在し在庫があると判断し、目印が識別された場合は管理対象物が存在せず在庫なしと判断するとともに、識別した目印から存在しない管理対象物の情報を獲得する中央処理装置と、を備える。この構成により容易に在庫切れを確認できる。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2015-176227号公報
【文献】特開平11-281754号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上述した特許文献記載の技術においては、商品がなくなったことを検知し、なくなった商品の周辺にいる人物の向きを検知し、万引きなどの不正行為を検出することや、商品がなくなったことを検知し、なくなった商品を特定することで在庫管理を行うことはできるが、情報処理装置の処理負荷が高くなってしまう。
【0006】
本発明は上記事情に鑑みてなされたものであり、その目的とするところは、商品の増減を簡易に効率よく検知する情報処理装置、情報処理方法およびプログラムを提供することにある。
【課題を解決するための手段】
【0007】
本発明の各側面では、上述した課題を解決するために、それぞれ以下の構成を採用する。
【0008】
第一の側面は、情報処理装置に関する。
第一の側面に係る情報処理装置は、
物品の配置場所とマーカを撮像した画像に対する画像認識処理により、前記画像に含まれる第2のマーカと以前の前記画像に含まれる第1のマーカとの差分を検出する検出手段と、
所定値の前記差分の変化に要した時間に応じて、前記第2のマーカに基づく所定の処理を実行する実行手段と、を有する。
【0009】
第二の側面は、少なくとも1つのコンピュータにより実行される情報処理方法に関する。
第二の側面に係る情報処理方法は、
情報処理装置が、
物品の配置場所とマーカを撮像した画像に対する画像認識処理により、前記画像に含まれる第2のマーカと以前の前記画像に含まれる第1のマーカとの差分を検出し、
所定値の前記差分の変化に要した時間に応じて、前記第2のマーカに基づく所定の処理を実行する、ことを含む。
【0010】
なお、本発明の他の側面としては、上記第二の側面の方法を少なくとも1つのコンピュータに実行させるプログラムであってもよいし、このようなプログラムを記録したコンピュータが読み取り可能な記録媒体であってもよい。この記録媒体は、非一時的な有形の媒体を含む。
このコンピュータプログラムは、コンピュータにより実行されたとき、コンピュータに、情報処理装置上で、その情報処理方法を実施させるコンピュータプログラムコードを含む。
【0011】
なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。
【0012】
また、本発明の各種の構成要素は、必ずしも個々に独立した存在である必要はなく、複数の構成要素が一個の部材として形成されていること、一つの構成要素が複数の部材で形成されていること、ある構成要素が他の構成要素の一部であること、ある構成要素の一部と他の構成要素の一部とが重複していること、等でもよい。
【0013】
また、本発明の方法およびコンピュータプログラムには複数の手順を順番に記載してあるが、その記載の順番は複数の手順を実行する順番を限定するものではない。このため、本発明の方法およびコンピュータプログラムを実施するときには、その複数の手順の順番は内容的に支障のない範囲で変更することができる。
【0014】
さらに、本発明の方法およびコンピュータプログラムの複数の手順は個々に相違するタイミングで実行されることに限定されない。このため、ある手順の実行中に他の手順が発生すること、ある手順の実行タイミングと他の手順の実行タイミングとの一部ないし全部が重複していること、等でもよい。
【発明の効果】
【0015】
上記各側面によれば、商品の増減を簡易に効率よく検知する情報処理装置、情報処理方法およびプログラムを提供することができる。
【図面の簡単な説明】
【0016】
上述した目的、およびその他の目的、特徴および利点は、以下に述べる好適な実施の形態、およびそれに付随する以下の図面によってさらに明らかになる。
【0017】
【
図1】本発明の実施の形態に係る情報処理装置の構成を論理的に示す機能ブロック図である。
【
図2】本発明の実施の形態に係る情報処理装置を含む情報処理システムのシステム構成を概念的に示す図である。
【
図4】本発明の実施の形態に係る各装置を実現するコンピュータの構成の一例を示す図である。
【
図5】本実施形態の情報処理装置がアクセスする記憶装置に記憶される各情報に関する記憶部のデータ構造の例を示す図である。
【
図6】本実施形態の情報処理装置がアクセスする記憶装置の検出結果記憶部のデータ構造の一例を示す図である。
【
図7】本実施形態の情報処理装置の処理条件の一例を示す図である。
【
図8】本実施形態の情報処理装置の動作の一例を示すフローチャートである。
【
図9】本実施形態の情報処理装置のマーカ検出処理を説明するための図である。
【
図10】本発明の実施の形態に係る情報処理装置の論理的な構成を示す機能ブロック図である。
【
図11】本実施形態の情報処理装置のマーカ検出処理を説明するための図である。
【
図12】本実施形態の情報処理装置の処理条件の一例を示す図である。
【
図13】本実施形態の情報処理装置のマーカ設置例を示す図である。
【
図14】本実施形態の情報処理装置のマーカ検出処理を説明するための図である。
【
図15】本実施形態の情報処理装置の処理条件の一例を示す図である。
【
図16】本実施形態の情報処理装置の動作の一例を示すフローチャートである。
【
図17】本発明の実施の形態に係る情報処理装置の論理的な構成を示す機能ブロック図である。
【
図18】本実施形態の情報処理装置のマーカ検出処理を説明するための図である。
【
図19】本実施形態の情報処理装置がアクセスする記憶装置の検出結果記憶部のデータ構造の一例を示す図である。
【
図20】本実施形態の情報処理装置の処理条件の一例を示す図である。
【
図21】本実施形態の情報処理装置の動作の一例を示すフローチャートである。
【
図22】本実施形態の情報処理装置のマーカ設置例を示す図である。
【
図23】本発明の情報処理装置の実施例のシステム構成例を概念的に示す図である。
【発明を実施するための形態】
【0018】
以下、本発明の実施の形態について、図面を用いて説明する。尚、すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。
【0019】
(第1の実施の形態)
本発明の第1の実施の形態に係る情報処理装置、情報処理方法およびプログラムについて、以下説明する。
図1は、本発明の実施の形態に係る情報処理装置100の構成を論理的に示す機能ブロック図である。
情報処理装置100は、商品が置かれている場所を撮像した画像に対する画像認識処理により、商品とは異なっていて、予め定められているマーカを検出する検出部102と、マーカの検出結果が予め定められた条件を満たすときに、予め定められた処理を実行する実行部104と、を備える。
【0020】
情報処理装置100は、さらに、記憶装置110にアクセス可能に接続される。記憶装置110は、たとえば、ハードディスク、SSD(Solid State Drive)、またはメモリカードなどであり、情報処理装置100に含まれてもよいし、外部装置であってもよい。
【0021】
図2は、本発明の実施の形態に係る情報処理装置100を含む情報処理システム1のシステム構成を概念的に示す図である。
本明細書の各図において、本発明の本質に関わらない部分の構成については省略してあり、図示されていない。
情報処理システム1は、撮像カメラ10と、サーバコンピュータ20と、レジ端末30と、を有する。
【0022】
撮像カメラ10は、売り場または在庫保管場所等の商品棚40を撮像するものである。図では、1台のみ図示してあるが、複数台有してよい。撮像カメラ10は、商品棚40に陳列または保管されている商品42と、商品42が置かれている場所の周辺の予め定められた位置に設置されるマーカ50とを撮像する。商品棚40には、商品42が複数個、置かれているものとする。たとえば、商品棚40に商品42が残っている場合には、マーカ50の少なくとも一部は、商品42により隠され、撮像カメラ10により撮像された映像データ12にもマーカ50の少なくとも一部が写らないようになっている。
【0023】
マーカ50は、商品42とは異なるものとする。マーカ50は、たとえば、ロゴタイプ、シンボルマーク、記号、図案、模様、写真、絵、文字、数字、傷、およびバーコード等、様々な形態で表現でき、さらに、これらのうちいずれか複数を組み合わせてもよい。また、マーカ50は、商品42に関連があってもなくてもよく、また、意味があってもなくてもよい。また、マーカ50のサイズ、形状、配色、光沢の度合い、発光の有無、個数等も特に限定されず、様々な形態のものが考えられる。また、マーカ50は、平面構造でなくてもよく、立体的な構造を有していてもよい。また、後述する実施形態では、マーカ50の種類や個数に応じて、処理を変える構成について説明する。
【0024】
マーカ50の設置方法は、特に限定されない。たとえば、商品棚40の棚板、背板、支柱の表面に貼付されても、載置されても、掛けられても、取り付けられても、埋め込まれても、印刷されても、または描かれてもよい。また、マーカ50の設置場所は、商品棚40だけでなく、商品42が置かれている場所周辺の什器、壁、天井、床および建具の少なくともいずれか一つであってもよい。
【0025】
また、マーカ50は商品棚40等に設置される以外に、商品棚40そのものの少なくとも一部、または、商品42が置かれている場所周辺の什器、壁、天井、床および建具の少なくともいずれか一つの少なくとも一部をマーカ50としてもよい。あるいは、商品棚40の一部または周辺(たとえば、背面や棚板等)にディスプレイを設け、ディスプレイにマーカ50を表示してもよい。
【0026】
また、商品棚40全体、または各棚板をマーカ50とする仕様では、各商品棚40または各棚板に収容される商品のサイズ、形状、色等が異なるので、商品が収容されている各商品棚40全体または各棚板をマーカ50とすることができる。たとえば、各商品棚40または各棚板に対応する撮像画像領域の中で、時間経過の中で一定の差分が検出された場合に、所定のメッセージ(大量盗難発生等のアラート情報)を送信してもよく、商品棚40または棚板毎に、条件および処理内容を設定できてよい。
【0027】
マーカ50の設置位置と撮像カメラ10の設置位置(撮影方向、視野角、および撮影範囲の設定も含む)と物品(以後、「商品」とも呼ぶ)42の配置の関係は、以下に示すようになるのが好ましい。
商品42が存在している場合と、商品42がなくなった場合に、撮像カメラ10の撮影範囲内に入るマーカ50の数や範囲が変わるような位置関係にそれぞれ設置される。
【0028】
図3は、本実施形態のマーカ50の設置例を示す。たとえば、
図3(a)は、商品棚40の棚板44の表面にマーカ50が貼付されている様子を示している。
図3(b)は、複数の商品42が棚板44の上に置かれ、マーカ50が商品42によって隠れて見えなくなっている様子を示している。
図3(c)は、商品42がほとんどなくなり、マーカ50が現れている様子を示している。
【0029】
撮像カメラ10は商品棚40の棚板44の上方に設けられる。さらに、商品42が存在している時はマーカ50が映像データ12にほとんど写らず、商品42がなくなった時はマーカ50が映像データ12に写るように撮影できるように、撮像カメラ10の撮影方向、視野角、および撮影範囲が設定される。
【0030】
図2に戻り、撮像カメラ10で撮像された映像データ12は、サーバコンピュータ20に送信される。撮像カメラ10とサーバコンピュータ20間の接続および通信方法は特に限定されないが、所定の暗号化処理および認証手続きを行い、セキュアな通信環境にあるものとする。接続は、有線でも無線でもよい。
【0031】
また、撮像カメラ10とサーバコンピュータ20は直接接続されてもよいし、間接的に接続されてもよい。
たとえば、撮像カメラ10で撮像された映像データ12が、情報処理装置100に直接送信されて情報処理装置100が逐次受信してもよい。あるいは、撮像カメラ10と、情報処理装置100とがアクセス可能な記憶装置(たとえば、記憶装置110)を設けてもよい。撮像カメラ10により撮像された映像データ12が、記憶装置110に格納され、情報処理装置100が記憶装置110から映像データ12を読み出して取得してもよい。
【0032】
本実施形態では、たとえば、撮像カメラ10にIP(Internet Protocol)カメラ等のウェブカメラを用いる。IPカメラは、たとえば、無線LAN(Local Area Network)通信機能を有し、ルータなどの中継装置(不図示)を介してサーバコンピュータ20に接続されてもよい。
【0033】
本実施形態では、撮像カメラ10から映像データ12が出力される構成としているが、これに限定されない。動画および静止画の少なくともいずれかの画像データであってよい。データ形式も特に限定されず、撮像カメラ10およびサーバコンピュータ20の仕様、規格、性能等に合わせて、様々な形式のものを採用し得る。
【0034】
本実施形態では、たとえば、撮像カメラ10は、ONVIF(Open Network Video Interface Forum)準拠したものを用いる。映像データ12は、たとえば、Motion-JPEG(Joint Photographic Experts Group)またはH.264(MPEG-4(Moving Picture Experts Group phase 4) AVC(Part 10 Advanced Video Coding))等に準拠したファイル形式で、記憶装置110に格納されてもよい。
【0035】
サーバコンピュータ20は、たとえば、本体22と、モニタ24と、キーボード26とを含む。
図1の情報処理装置100を実現するコンピュータであり、本体22は、後述する
図4にその構成の一例が示される。
【0036】
モニタ24は、液晶ディスプレイ等であり、本実施形態の情報処理装置100の各種操作画面、および情報処理装置100の検出部102によるマーカ50の検出結果データ28等を表示できる。また、マーカ50の検出結果データ28は、後述するレジ端末30に出力されてもよい。
【0037】
キーボード26は、サーバコンピュータ20の操作部の一例であり、これに限定されない。サーバコンピュータ20の操作部は、マウス、モニタ24と一体となったタッチパネル等、様々考えられる。
【0038】
レジ端末30は、たとえば、店員用ディスプレイ32と、顧客用ディスプレイ(不図示)と、スキャナ(不図示)と、入力ボタン(不図示)と、ドロアー(不図示)と、カメラ(不図示)と、を有する。
【0039】
店員用ディスプレイ32は、タッチパネルの機能を有するディスプレイであり、各種画面を表示するとともに、店員Uaがレジ端末30を操作するための入力を受け付ける。顧客用ディスプレイは、タッチパネルの機能を有するディスプレイであり、各種画面を表示するとともに、顧客が画面を操作するための入力を受け付けてもよい。
【0040】
スキャナは、ハンディタイプ、または定置型のスキャナであり、精算対象の商品を登録するために利用される種々の読み取り装置である。スキャナは、商品に添付されているコードを読み取るバーコードリーダや、商品や商品に添付されているコードを画像認識するためのカメラである。入力ボタンは、店員Uaの押下操作を受け付ける入力手段である。ドロアーは硬貨や紙幣を格納する。カメラは、レジ端末30の近傍に居る顧客Ub、たとえば、レジ端末30で商品の精算を行っている顧客Ubの顔を撮像してもよい。
【0041】
上述したように、レジ端末30は、サーバコンピュータ20に接続され、サーバコンピュータ20から検出結果データ28を受信してもよい。レジ端末30の店員用ディスプレイ32は、受信した検出結果データ28を元にマーカ50の検出結果を表示してもよい。レジ端末30とサーバコンピュータ20間の接続および通信方法は特に限定されないが、所定の暗号化処理および認証手続きを行い、セキュアな通信環境にあるものとする。接続は、有線でも無線でもよい。また、図ではレジ端末30は1台のみ示しているが、複数であってもよい。
【0042】
本実施形態において、レジ端末30、およびサーバコンピュータ20(情報処理装置100)は、いずれもコンピュータを用いて実現される。
図4は、このようなコンピュータの構成の一例を示す図である。
【0043】
本実施形態のコンピュータ80は、CPU(Central Processing Unit)82、メモリ84、メモリ84にロードされた
図1の構成要素を実現するプログラム90、そのプログラム90を格納するストレージ85、I/O(Input/Output)86、およびネットワーク接続用インタフェース(通信I/F(InterFace)87)を備える。
【0044】
CPU82、メモリ84、ストレージ85、I/O86、通信I/F87は、バス89を介して互いに接続され、CPU82により情報処理装置100全体が制御される。ただし、CPU82などを互いに接続する方法は、バス接続に限定されない。
【0045】
メモリ84は、RAM(Random Access Memory)やROM(Read Only Memory)などのメモリである。ストレージ85は、ハードディスク、SSD(Solid State Drive)、またはメモリカードなどの記憶装置である。
【0046】
ストレージ85は、RAMやROMなどのメモリであってもよい。ストレージ85は、コンピュータ80の内部に設けられてもよいし、コンピュータ80がアクセス可能であれば、コンピュータ80の外部に設けられ、コンピュータ80と有線または無線で接続されてもよい。あるいは、コンピュータ80に着脱可能に設けられてもよい。
【0047】
CPU82が、ストレージ85に記憶されるプログラム90をメモリ84に読み出して実行することにより、
図1の情報処理装置100の各ユニットの各機能を実現することができる。
【0048】
I/O86は、コンピュータ80と他の入出力装置間のデータおよび制御信号の入出力制御を行う。他の入出力装置とは、たとえば、コンピュータ80に接続されるキーボード26、タッチパネル(不図示)、マウス(不図示)、およびマイクロフォン(不図示)等の入力装置(不図示)と、ディスプレイ、プリンタ、およびスピーカ等の出力装置(不図示)と、これらの入出力装置とコンピュータ80のインタフェースとを含む。さらに、I/O86は、他の記録媒体の読み取りまたは書き込み装置(不図示)とのデータの入出力制御を行ってもよい。
【0049】
通信I/F87は、コンピュータ80と外部の装置との通信を行うためのネットワーク接続用インタフェースである。通信I/F87は、有線回線と接続するためのネットワークインタフェースでもよいし、無線回線と接続するためのネットワークインタフェースでもよい。
【0050】
図1の本実施形態の情報処理装置100の各構成要素は、
図4のコンピュータ80(サーバコンピュータ20)のハードウェアとソフトウェアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。以下説明する各実施形態の情報処理装置を示す機能ブロック図は、ハードウェア単位の構成ではなく、論理的な機能単位のブロックを示している。
【0051】
情報処理装置100は、複数のコンピュータ80により構成されてもよいし、仮想サーバにより実現されてもよい。本実施形態では、情報処理装置100は、サーバコンピュータ20により構成されているが、これに限定されない。
【0052】
図1に戻り、情報処理装置100において、検出部102は、商品42が置かれている場所(商品棚40)を撮像した画像に対する画像認識処理により、マーカ50を検出する。
図2に示すように、情報処理装置100(サーバコンピュータ20)は、撮像カメラ10から映像データ12を取得する。
【0053】
本明細書において、「取得」とは、自装置が他の装置や記憶媒体に格納されているデータまたは情報を取りに行くこと(能動的な取得)、たとえば、他の装置にリクエストまたは問い合わせして受信すること、他の装置や記憶媒体にアクセスして読み出すこと等、および、自装置に他の装置から出力されるデータまたは情報を入力すること(受動的な取得)、たとえば、配信(または、送信、プッシュ通知等)されるデータまたは情報を受信すること等、の少なくともいずれか一方を含む。また、受信したデータまたは情報の中から選択して取得すること、または、配信されたデータまたは情報を選択して受信することも含む。
【0054】
図5は、本実施形態の情報処理装置100がアクセスする記憶装置110に記憶される各情報に関する記憶部のデータ構造の例を示す図である。
図5(a)のマーカ情報記憶部112は、予め定められているマーカ50の識別情報(マーカID)と、その特徴情報が記憶される。マーカ50の特徴情報とは、たとえば、マーカ50の画像データであってもよいし、マーカ50の少なくとも一部から抽出される特徴点とその特徴量を少なくとも含む特徴情報でもよい。また、情報処理装置100が検出するマーカ50が1種類の場合、マーカ50の識別情報はなくてもよい。
【0055】
さらに、マーカ50の設置領域に対する相対位置、他のマーカ50に対する相対位置等の情報を含んでもよい。
マーカ50の特徴点とその特徴量は、検出部102が映像データ12からマーカ50を検知するのに必要な特徴点の数と、各特徴点の特徴量を有する。検出部102が用いる画像認識処理の性能等と、マーカ50の種類等により決定されてよい。
【0056】
図5(b)のマーカ位置情報記憶部114は、マーカ50の識別情報と、マーカ50が設置された位置情報を、関連付けて記憶する。図では位置情報に対してマーカIDを紐付けている例を示しているが、他の例では、マーカ毎に位置情報を紐付けて記憶してもよい。
【0057】
マーカ50の位置情報は、マーカ50が設置されている場所を特定できる情報である。たとえば、店舗のフロアを示す情報、フロア内のエリアを示す情報、商品棚40を示す情報、商品棚40内の棚の位置、または棚の中の位置(たとえば、座標または基準からの相対位置で示される)を示す情報の少なくともいずれか一つを含む。あるいは、マーカ50を撮像する撮像カメラ10を特定する情報であってもよい。さらに、撮像カメラ10の撮影範囲が変更可能な場合、マーカ50が設置された位置に対応する撮像カメラ10の撮影範囲を特定する情報を含んでもよい。
【0058】
また、マーカ50が設置された位置に対応する、GPS(Global Positioning System)から取得される位置情報も排除されない。
【0059】
たとえば、検出部102は、画像認識処理により、撮像カメラ10の撮像画像から特徴を抽出し、抽出された特徴の特徴量とマーカ50の特徴量と照合し、マーカ50の少なくとも一部の領域に対応する領域で閾値以上の類似度を有する場合、マーカ50として検出する。
【0060】
マーカ50の全ての領域ではなく、少なくとも一部の領域とする理由は、後述するように、マーカ50の一部が商品42によって隠されている場合であっても、マーカ50を検出したい場合があるからである。マーカ50の一部が商品42によって隠されていて、マーカ50の全領域が認識されている場合にはマーカ50を検出しないことを検出条件とすることもでき、その場合は、マーカ50の全領域を照合対象としてよい。
【0061】
検出部102により検出されたマーカ50の検出結果は、
図6の検出結果記憶部120に記憶される。
図6に示すように、検出結果記憶部120は、検出されたマーカ50のマーカIDに、検出日時情報を関連付けて記憶する。この例では、検出されたマーカ50毎に検出日時を関連付ける構成としたが、他の例では、検出日時に検出されたマーカ50のマーカIDが関連付けられてもよい。
さらに、検出結果記憶部120は、画像から抽出されたマーカ50に対応する画像領域の特徴情報をさらに関連付けて記憶してもよい。
【0062】
検出部102は、さらに、マーカ50に対応する画像領域から、予めマーカ50に埋め込まれている情報、たとえば、QRコード(登録商標)等に含まれる商品42の各種情報を抽出してもよい。商品42の各種情報とは、たとえば、商品名、ブランド名、メーカ名、店舗名、販売フロア、販売エリア、および商品棚40のうちの少なくとも一つであってもよい。
【0063】
画像領域の特徴情報は、たとえば、抽出された特徴量の情報であってもよいし、マーカ50の一部なのか全部なのかを示す情報、マーカ50のどの部分が検出されたかを示す情報、の少なくともいずれか一つを含む。ここで、マーカ50の一部が検出された場合とは、たとえば、商品42が残っていてマーカ50の他の部分を隠しているために画像に含まれない状況が想定される。マーカ50の全部が検出された場合とは、たとえば、商品42のほとんどが商品棚40からなくなった状況が想定される。
【0064】
マーカ50の一部か全部のいずれが検出されたかの判断方法は様々考えられ、以下に例示されるがこれに限定されない。また、以下を複数組み合わせてもよい。
(a1)マーカ50の特徴情報に、マーカ50内の各特徴点の特徴量に位置情報を対応付けて含めて予め記憶しておく。そして、検出された特徴量に対応する特徴点の位置情報から、検出された特徴点が含まれる領域のマーカ50内での範囲が特定できる。
(a2)マーカ50の特徴情報に、撮像カメラ10の所定の撮影範囲内において(撮像カメラ10と撮影対象との相対位置や距離等により定まる)、マーカ50全体が占める領域の大きさ(位置)を予め記憶しておく。検出されたマーカ50の領域の面積を算出し、マーカ50全体の面積と比較する。
【0065】
実行部104は、マーカ50の検出結果が予め定められた条件を満たすときに、予め定められた処理を実行する。実行部104により実行される予め定められた処理は、所定の情報を端末に送信する処理を含む。所定の情報は、アラート情報を含む。
【0066】
さらに、所定の情報は、たとえば、大量盗難の発生の可能性があること、または、爆買いなどにより、在庫切れが生じる可能性があること等を示す情報を含んでもよい。さらに、これらが発生した場所(売り場、棚等)および時刻を特定できる情報を含んでもよい。
【0067】
さらに、所定の情報は、検出されたマーカ50に対応する撮像カメラ10で撮像した画像を特定する情報を含む。画像を特定する情報は、たとえば、撮像カメラ10の識別情報、撮影時刻、および映像データ12のファイル名のうち少なくともいずれか一つを含む。また、映像データ12は、複数フレームで構成される。画像を特定する情報は、たとえば、マーカ50が検出された時のフレーム番号をさらに含んでもよい。この構成によれば、マーカ50が検出された時のフレームを特定できるので、特定されたフレームの前後の映像データ12を管理者が確認することができ、たとえば、不審者等が映像に写っていないかを効率よく行えるようになる。
【0068】
図7に示す処理条件130の例では、マーカ50の検出条件と、条件が満たされた場合(True)と、満たされない場合(False)のそれぞれ処理を関連付けて示してある。
この例では、マーカIDがM002のマーカ50(以下、マーカ(M002)とも呼ぶ。)の全領域(または特徴点の特徴量)に対して、所定割合(たとえば、80%)以上の領域(または特徴点の特徴量)が画像認識処理より認識されたことをマーカ(M002)の検出条件とする。すなわち、マーカ(M002)の全領域(または特徴点の特徴量)の20%より大きい領域(または特徴点の特徴量)が画像認識処理により認識されなかった場合は、検出条件を満たさないと判定する。
【0069】
そして、条件が満たされた場合(True)には、通知を行い、満たされない場合(False)には、何もしないことが定められているものとする。
【0070】
ここでは、たとえば、マーカ50が検出されたことを示すメッセージを通知する。あるいは、他の例では、マーカ50に対応する商品42の名称や商品棚40の位置情報をメッセージに含めて通知してもよい。たとえば、サーバコンピュータ20のモニタ24にメッセージを表示したり、レジ端末30にメッセージを送信して店員用ディスプレイ32にメッセージを表示させてもよい。
【0071】
送信先の宛先情報は、処理条件130に関連付けて記憶し、検出条件毎に宛先を変えられる構成としてもよいし、検出条件に依らず所定の宛先に送信する構成としてもよい。
【0072】
処理条件130は、所定の記憶部(不図示)に記憶しておいて、画像認識処理時に記憶部を参照して処理条件130を取得して判定処理を行ってもよいし、処理条件130による判定処理をプログラムに記載してもよい。
【0073】
処理条件130は、マーカ50毎に定めてもよいし、マーカ50の種類毎に定めてもよいし、マーカ50の設置場所毎に定めてもよいし、マーカ50の種類と設置場所の組み合わせに応じて定めてもよい。異なる種類や異なる設置場所に同じ処理条件130を定めてもよい。
処理条件130については、後述する実施形態でさらに詳細に説明する。
【0074】
このように構成された情報処理装置100を実現するコンピュータプログラムについて以下説明する。
本実施形態の情報処理装置100は、
図4のコンピュータ80のCPU82が、ストレージ85に記憶されるプログラム90をメモリ84に読み出して実行することにより、その各機能を実現することができる。
【0075】
本発明の実施の形態に係るコンピュータプログラム90は、情報処理装置100を実現させるためのコンピュータ80に、商品42が置かれている場所(商品棚40)を撮像した画像に対する画像認識処理により、商品42とは異なっていて、予め定められているマーカ50を検出する手順、マーカ50の検出結果が予め定められた条件を満たすときに、予め定められた処理を実行する手順、を実行させるように記述されている。
【0076】
本実施形態のコンピュータプログラム90は、コンピュータ80で読み取り可能な記録媒体に記録されてもよい。記録媒体は特に限定されず、様々な形態のものが考えられる。また、プログラム90は、記録媒体からコンピュータ80のメモリ84にロードされてもよいし、ネットワークを通じてコンピュータ80にダウンロードされ、メモリ84にロードされてもよい。
【0077】
コンピュータプログラム90を記録する記録媒体は、非一時的な有形のコンピュータ80が使用可能な媒体を含み、その媒体に、コンピュータ80が読み取り可能なプログラムコードが埋め込まれる。コンピュータプログラム90が、コンピュータ80上で実行されたとき、コンピュータ80に、情報処理装置100を実現する以下の情報処理方法を実行させる。
【0078】
このように構成された本実施形態の情報処理装置100の情報処理方法について、以下説明する。
図8は、本実施形態の情報処理装置100の動作の一例を示すフローチャートである。
本発明の実施の形態に係る情報処理方法は、情報処理装置100の情報処理方法であり、情報処理装置100を実現するコンピュータ80により実行される情報処理方法である。
本実施形態の情報処理方法は、情報処理装置100が、商品42が置かれている場所を撮像した画像に対する画像認識処理により、予め定められているマーカ50を検出し(ステップS103)、マーカ50の検出結果が予め定められた条件を満たすときに、予め定められた処理を実行する(ステップS107)、ことを含む。
【0079】
より詳細には、検出部102が、映像データ12の任意のまたは各フレームに対して画像認識処理を行い、特徴を抽出する(ステップS101)。そして、検出部102が、予め登録されているマーカ50の特徴と閾値以上の類似度を有する画像領域をマーカ50の画像領域として検出する(ステップS103のYES)。
【0080】
このとき、検出部102が、検出結果記憶部120にマーカ50のマーカIDと、検出日時を関連付けて記憶する。さらに、マーカ50が検出された検出場所(たとえば、商品棚40、その棚、および棚の中の位置、あるいは、撮像画像内の位置等)の情報、撮像カメラ10の識別情報、を含んでもよい。
【0081】
たとえば、
図3(a)に示すように、マーカ50は商品棚40の所定の位置に設置されている。
図3(b)に示すように、複数の商品42が商品棚40に載っている場合、マーカ50は商品42によって隠されているため、映像データ12からマーカ50は検出されない(ステップS103のNO)。この場合、ステップS105とステップS107をバイパスして、何もせずに本処理を終了する。
【0082】
また、
図3(b)に示すように、商品42が配置されるべき位置とマーカ50の相対位置を予め定めておき、マーカ位置情報記憶部114に記憶してもよい。そのようにすれば、マーカ50のうち見えた領域によって、どの位置の商品42が無くなり、または残っているか、あるいは、商品42全体の何割が無くなり、または残っているか等を判別できる。
【0083】
一方、
図3(c)に示すように、商品棚40から少なくとも一部の商品42がなくなった場合、商品棚40に設置されているマーカ50が少なくとも一部現れるため(
図3(c)ではほとんどの商品42がなくなり、マーカ50は全部が現れている。)、映像データ12からマーカ50が検出される(ステップS103のYES)。たとえば、
図3(c)では、ほとんどの商品42が商品棚40からなくなっている。また、
図9に示すように、商品棚40から商品42が一部だけなくなった場合、マーカ50は一部だけ現れるため、映像データ12からマーカ50の一部が検出される(ステップS103のYES)。
【0084】
そして、実行部104が、マーカ50の検出結果が予め定められた条件を満たすか否かを判定する(ステップS105)。実行部104は、たとえば、
図7の処理条件130に示す条件、マーカ(M002)が所定割合(たとえば、80%)以上、検出されたことを条件として、条件が満たされた場合(True)、予め定められた宛先(ここでは、レジ端末30)に、所定のメッセージを通知する(ステップS107)。
【0085】
本実施形態では、所定のメッセージは、マーカ(M002)が検出されたことを含む。あるいは、所定のメッセージは、マーカ(M002)に対応する商品42の名称や商品42が置かれている位置情報(フロアや売り場、商品棚40の番号等)を含んでもよい。さらに、所定のメッセージは、商品42の不明ロスが発生したこと含んでもよい。これらは、いずれか一つでもよいし、複数を組み合わせてもよい。所定のメッセージは、さらに、不明ロスの発生時刻等の情報を含んでもよい。
【0086】
たとえば、レジ端末30では、情報処理装置100(サーバコンピュータ20)からメッセージを受信し、受信したメッセージを店員用ディスプレイ32に表示する。これにより、店員Uaは、マーカ(M002)が検出されたこと(あるいは、不明ロスが発生したことや、その発生場所)を知ることができる。
【0087】
また、実行部104は、マーカ(M002)が検出された場合(True)、検出されたマーカ50のマーカID(M002)と、検出日時情報を検出結果記憶部120に記憶してもよい。さらに、マーカ(M002)が検出されない場合(False)、マーカ50が検出されなかったことを、日時情報に関連付けて検出結果記憶部120に記録してもよい。マーカ50未検出の記録は、所定の期間おき(たとえば、30分間等)に行ってもよい。
【0088】
また、
図9に示すように、商品棚40から商品42が一部だけなくなった場合、マーカ50は一部だけ現れるため、映像データ12からマーカ50の一部が画像認識処理により認識される。ここでは、たとえば、マーカ50の60%程度が認識されたとする。そのため(80%未満)、実行部104は、マーカ(M002)が検出されないと判定し(ステップS105のNO)、ステップS107をバイパスして、何もせずに本処理を終了する。
【0089】
このとき、実行部104は、認識されたマーカ50のマーカID(M002)と、日時情報と、マーカ50の60%程度が認識されたこととを関連付けて検出結果記憶部120にさらに記録してもよい。
【0090】
以上説明したように、本実施形態の情報処理装置100において、検出部102により、商品42が置かれている場所を撮像した画像に対する画像認識処理により、予め定められているマーカ50が検出され、実行部104により、マーカ50の検出結果が予め定められた条件を満たすときに、予め定められた処理が実行される。
【0091】
このように、本実施形態の情報処理装置100によれば、予め定められているマーカ50を商品42が置かれている場所(商品棚40)に設置し、その場所を撮像した画像を画像認識処理して、マーカ50を検出するだけで、商品42が大量になくなる等の不明ロスを、簡易に検知して通報できるという効果を奏する。
【0092】
商品棚40を撮像した映像データ12の時系列的な変化の差分を検出し、商品棚40から商品42がなくなったことを検出することもできるが、その場合、画像処理の負荷が高くなるといった課題があった。本実施形態の情報処理装置100によれば、マーカ50の検出結果のみで不明ロスを検知して通知できるので、画像処理の負荷も低いので効率がよく、画像処理に関するコストも低く抑えられる。
【0093】
(第2の実施の形態)
次に、本発明の第2の実施の形態に係る情報処理装置200について、以下説明する。
図10は、本発明の第2の実施の形態に係る情報処理装置200の論理的な構成を示す機能ブロック図である。
本実施形態の情報処理装置200は、検出部202と、実行部204と、特定部206と、を備える。検出部202および実行部204は、
図1の情報処理装置100の検出部102および実行部104と同様な機能を有するとともに、さらに、後述する機能を有する。
なお、本実施形態の情報処理装置200の構成は、後述する他の実施形態の情報処理装置の構成と組み合わせることもできる。
【0094】
情報処理装置200は、さらに、記憶装置210にアクセス可能に接続される。記憶装置210は、上記実施形態の記憶装置110と同様な記憶部を含む。記憶装置210は、たとえば、ハードディスク、SSD(Solid State Drive)、またはメモリカードなどであり、情報処理装置200に含まれてもよいし、外部装置であってもよい。
【0095】
本実施形態の情報処理装置200において、複数のマーカ50が、商品42が置かれている場所に設定される。
特定部206は、検出部202により検出されたマーカ50の種類または場所を特定する。
実行部204は、特定されたマーカ50の種類または場所に応じた処理を実行する。
【0096】
また、実行部204は、検出されたマーカ50の組み合わせに応じた処理を実行してもよい。
【0097】
マーカ50の種類とは、共通の特徴や質で区別されるもの、共通の属性を有するもの、差異が認識されるもの等、様々考えられる。予め特定する種類を登録しておき、いずれの種類に該当するかを特定してもよいし、検出された複数のマーカ50の特徴に応じて、特定部206が種類を分けてもよい。たとえば、赤い円形のマーカ50と、黒い四角形のマーカ50と、青いロゴタイプのマーカ50とがある場合、図形(円形や四角形等の図形と、ロゴタイプ)でマーカ50を2種類に分けてもよいし、色あいでたとえば、カラーとモノクロの2種類に分けてもよい。
【0098】
マーカ50の場所は、上述したマーカ50の位置情報で特定される。たとえば、マーカ50の場所は、店舗のフロア、エリア、商品棚40、棚の位置、棚の中の位置、撮像カメラ10の位置、撮像カメラ10の撮影範囲等によって特定できる。さらに、撮像カメラ10の撮影範囲に含まれるマーカ50が複数の場合、他のマーカ50または所定の基準となる位置との相対位置情報を含む情報によって、マーカ50の場所を特定できてもよい。
【0099】
以下、マーカ50の種類に応じて処理を変える例を
図11と
図12を用いて説明する。
図11(a)は、2種類のマーカ50aとマーカ50bが棚板44に貼付されている様子を示している。マーカ50aは、ブランドABCのロゴタイプが印刷されている。マーカ50bは、ブランドXYZのロゴタイプが印刷されている。
マーカ50aのマーカIDはM004で、マーカ50bのマーカIDはM006であるとする。
【0100】
棚板44の各マーカ50が貼付されている場所には、それぞれロゴタイプに対応するブランドの衣料品が平積みされるものとする。
図11(b)は、マーカ50aの上にブランドABCの衣料品である商品42aが平積みされ、マーカ50bの上にブランドXYZの衣料品である商品42bが平積みされているものとする。
【0101】
図11(b)では、各商品42が各マーカ50の上に載っているため、映像データ12には各商品42が写り、マーカ50は写らない(破線で示す)。よって、検出部102はいずれのマーカ50も検出しない。
【0102】
図11(c)では、ブランドABCの商品42aのみが棚板44に残っていて、ブランドXYZの商品42bはなくなっている様子を示している。映像データ12には、商品42aと、マーカ50bが写り、マーカ50aは写らない(破線で示す)。よって、検出部102はマーカ50bのみを検出し、マーカ50aは検出しない。
【0103】
図12は、本実施形態の情報処理装置200の処理条件232の一例を示す図である。
処理条件232に示すように、この例では、映像データ12から検出されるマーカ50の種類(ここでは、マーカID)に応じて、メッセージに、マーカ50に対応するブランド名を含めて通知するようになっている。これにより、不明ロスが発生した商品42がどのブランドのものかを簡易に通知することができる。
【0104】
この例の変形例では、たとえば、商品情報が記録されているバーコードをマーカ50として利用すれば、マーカ50が検出された時、バーコードを読み取り、解読し、商品情報を通知する構成とすることもできる。
【0105】
また、本実施形態では、特定部206は、マーカ50のうち検出できた範囲を特定してもよい。
実行部204は、特定部206により特定された範囲に応じた処理を実行してもよい。
【0106】
本実施形態では、
図13(a)に示すように、マーカ50の所定位置に連番数字(1~7)を含めることで、検出部102によって認識された数字から、数字に対応する検出範囲が特定できる。
【0107】
図13(a)の例では、数字の1は棚板44の一番手前の位置に対応し、数字が大きくなる程、棚板44の奥側の位置に対応し、数字の7は棚板44の一番奥の位置に対応する。ここで特定されるマーカ50内で認識される範囲は、商品42がなくなった範囲に相当する。
【0108】
図13(b)の例では、商品棚40の背面板46に、所定位置に連番数字(1~6)を含めたマーカ50が貼付されている。数字の1は棚板44に一番近い位置に対応し、数字が大きくなる程、棚板44から高さ方向により離れた位置に対応し、数字の6は棚板44から高さ方向に一番遠い位置に対応する。ここで特定されるマーカ50内で認識される範囲は、棚板44に平積みされている商品42がなくなった範囲に相当する。
【0109】
図13(a)の例では、撮像カメラ10は、マーカ50が設置されている商品棚40の棚板44の上面に対面する上方位置に設置され、商品棚40の棚板44方向を撮像する。
図13(b)の例では、撮像カメラ10は、マーカ50が設置されている商品棚40の背面板46の表面と対面する横方向の位置に設置され、商品棚40の背面板46方向を撮像する。
【0110】
実行部204は、このようにして特定されるマーカ50の範囲に応じて処理を変えてもよい。本実施形態では、マーカ50の検出範囲を示す数字に対応する処理が、後述する処理条件230により予め定義される。
【0111】
図14(a)は、
図13(a)の棚板44を上から見た図である。
図14(b)は、商品棚40に商品42が多数陳列されている様子を示している。このように、多数の商品42が商品棚40の棚板44上に陳列されている場合には、マーカ50のほとんどの部分は商品42によって隠されている。よって検出部102は、画像認識処理により、マーカ50を認識しない。
【0112】
図14(c)は、商品42が数個なくなり、マーカ50の一部が現れている様子を示している。ここではマーカ50の数字の1~7のうち、1のみが見えるようになっている。よって検出部102は、画像認識処理により、マーカ50の数字の1のみを認識する。特定部206は、マーカ50の範囲を棚板44の手前44a側の範囲(0~1)と特定する。
【0113】
図14(d)は、商品42が半分ほどなくなり、マーカ50が半分現れている様子を示している。ここでは、マーカ50の数字の1~7のうち、1~4が見えている。よって検出部102は、画像認識処理により、マーカ50の数字の1~4を認識する。特定部206は、マーカ50の範囲を棚板44の手前44aから中程までの範囲(2~5)と特定する。
【0114】
このように、商品棚40の棚板44の奥行き方向に向かって配置されたマーカ50の複数の数字(ここでは、マーカ50内の各数字が位置情報を兼ねている)の見える範囲によって、なくなった商品42のおよその数量が推定できる。たとえば、マーカ50の数字の7まで認識された場合、多数の商品42がなくなった状態であることが推定できる。
【0115】
図15は、本実施形態の情報処理装置200の処理条件230の一例を示す図である。
処理条件230に示すように、本実施形態では、
図14(a)のマーカ(M003)の検出結果から、たとえば、マーカ(M003)に記載されている数字の1~7の見え方(マーカ50の検出範囲に相当)によって通知するアラームのレベルを変えるようになっている。すなわち、検出されたマーカ50の検出範囲に応じて処理を変えている。処理条件230では、検出される数字の最大値(たとえば、1~5が見える場合、最大値5)が含まれる範囲が検出範囲として設定されている。
【0116】
たとえば、マーカの数字が全て見えない(0)か、数字の1が見える(検出部102により認識される)場合、アラームをレベル1に設定する。レベルは数字が大きい程、警告レベルが高いものとする。そして、マーカの数字の2~5のうち少なくともいずれかが見える(検出部102により認識される)場合、アラームレベルを2に設定する。さらに、マーカの数字の6~7うち少なくともいずれかが見える(検出部102により認識される)場合、アラームレベルを3に設定する。
この例では、検出結果が条件を満たす場合に設定されるアラームレベルを実行部104はメッセージとして出力する。
【0117】
すなわち、
図14(b)の例では、映像データ12からマーカの数字が検出されないので、検出範囲(0~1)に対応するアラームレベルに1が設定され、メッセージが出力される。
すなわち、
図14(c)の例では、映像データ12からマーカの数字の1が検出されるので、アラームレベルに1が設定され、メッセージが出力される。
図14(d)の例では、映像データ12からマーカの数字の1~4が検出されるので、最大値4が含まれる検出範囲(2~5)に対応するアラームレベルに2が設定され、メッセージが出力される。
図14(a)の例では、映像データ12からマーカの数字の1~7が検出されるので、最大値7が含まれる検出範囲(6~7)に対応するアラームレベル3が設定され、メッセージが出力される。
【0118】
また、アラームレベルに応じて、メッセージを送信する宛先を変えてもよい。別途、アラームレベル毎に宛先情報を対応付けて宛先テーブル(不図示)に予め記憶しておく。そして、実行部204が宛先テーブルからアラームレベルに対応する宛先情報を取得し、送信してもよい。
【0119】
本実施形態の検出部202は、
図1の上記実施形態の情報処理装置100と同様な機能を有するとともに、さらに、機械学習により学習されたマーカ50の特徴を用いてマーカ50を検出する。
【0120】
機械学習は、たとえば、機械学習型検知エンジンにより実現できる。
マーカ50の画像データからマーカ50の特徴を機械学習型検知エンジンにより学習させ、その特徴を学習ライブラリ(マーカ情報記憶部112に相当)に登録する。さらに、学習されたマーカ50を、その設置場所の情報に関連付けてマーカ位置情報記憶部114に登録する。または、設置場所の情報(場所を特定できる画像または情報を用いる)も機械学習により学習させて学習ライブラリ(マーカ位置情報記憶部114に相当)に登録させてもよい。
【0121】
たとえば、
図14(a)~
図14(d)の状態をそれぞれ機械学習により学習させ、マーカ(M002)の形状や見え方(部分的、全体、または位置等)を場合分けして、管理者に提示し、管理者が処理条件230を対応付けて登録してもよい。さらに、棚板44の位置情報(フロア、売り場、および商品棚40の棚を識別する情報)を示すマーカ50(たとえば、バーコード)等をさらに棚板44に設置し、撮像カメラ10により、上記マーカ(M002)と一緒に撮像することで、バーコードから位置情報を取得し、学習したマーカ(M002)の位置情報として自動的に関連付けてマーカ情報記憶部112に記憶してもよい。
【0122】
このように構成された本実施形態の情報処理装置200のコンピュータプログラムについて、以下説明する。
本実施形態のコンピュータプログラムは、情報処理装置200を実現させるためのコンピュータ80に、検出されたマーカ50の種類または場所を特定する手順、特定されたマーカ50の種類または場所に応じた処理を実行する手順、を実行させるように記述されている。
【0123】
このように構成された本実施形態の情報処理装置200の情報処理方法について、以下説明する。
図16は、本実施形態の情報処理装置200の動作の一例を示すフローチャートである。
本実施形態の情報処理装置200におけるフローチャートは、
図8の上記実施形態の情報処理装置100のフローチャートと同様な手順(ステップS101、ステップS103、およびステップS107)を有するとともに、さらに、ステップS201とステップS203を有する。
【0124】
本発明の実施の形態に係る情報処理方法は、情報処理装置200の情報処理方法であり、情報処理装置200を実現するコンピュータ80により実行される情報処理方法である。
本実施形態の情報処理方法は、情報処理装置200が、検出されたマーカ50の種類または場所(または範囲)を特定し(ステップS201)、特定されたマーカ50の種類または場所に応じた処理を実行する(ステップS107)、ことを含む。
【0125】
以下、マーカの範囲に応じて処理を変える例について、
図14~
図16を用いて詳細に説明する。
図8で説明したように、ステップS103で、検出部202が、予め登録されているマーカ50の特徴と閾値以上の類似度を有する画像領域をマーカ50の画像領域として検出する(ステップS103のYES)。
さらに、特定部206が、検出できたマーカ50の範囲を特定する(ステップS201)。ここでは、マーカ50内の数字を画像認識処理により認識する。たとえば、
図14(d)の場合、数字1~4が特定される。
そして、実行部204が、処理条件230を参照し、特定された範囲は、条件(2~5)を満たすので(ステップS203のYES)、対応する処理として、アラームレベル2に設定し、メッセージを所定の端末に通知する処理を行う(ステップS107)。
【0126】
また、
図14(c)の場合、ステップS201において、特定部206がマーカ50の範囲として、数字1を特定する。そして、実行部204が、処理条件230を参照し、特定された範囲は、条件(0~1)を満たすので(ステップS203のYES)、対応する処理として、アラームレベル1を設定し、メッセージを所定の端末に通知する処理を行う(ステップS107)。
【0127】
更に、
図14(a)の場合、ステップS201において、特定部206がマーカ50の範囲として、数字1~7を特定する。そして、実行部204が、処理条件230を参照し、特定された範囲は、条件(6~7)を満たすので(ステップS203のYES)、対応する処理として、アラームレベル3を設定し、メッセージを所定の端末に通知する処理を行う(ステップS107)。
【0128】
このように、本実施形態によれば、マーカ50の範囲、種類、および場所の少なくともいずれかに応じて、予め定められた処理を行うことができる。
図14(c)のように、商品42が少しだけなくなった場合は、アラームレベル1が通知され、
図14(d)のように、商品42の半数がなくなった場合は、アラームレベル2が通知され、
図14(a)のように、商品42がすべてなくなった場合、アラームレベル3が通知されることになる。
【0129】
以上説明したように、本実施形態の情報処理装置200において、特定部206により検出されたマーカ50の種類、場所、および範囲の少なくともいずれか一つが特定され、特定された種類、場所、および範囲の少なくともいずれか一つ、およびこれらの組み合わせに応じた処理が実行される。
この構成によれば、上記実施形態と同様な効果を奏するとともに、さらに、マーカ50の種類、場所、および範囲に応じて、様々な処理を対応させて実行させることが可能になる。
【0130】
(第3の実施の形態)
次に、本発明の第3の実施の形態に係る情報処理装置300について、以下説明する。
図17は、本発明の実施の形態に係る情報処理装置300の論理的な構成を示す機能ブロック図である。
本実施形態の情報処理装置300は、上記実施形態とは、マーカ50の検出結果を時系列で記憶し、以前に検出されたマーカ50と今回検出されたマーカ50の差分に応じて処理を変える点で相違する。
【0131】
情報処理装置300は、さらに、記憶装置310にアクセス可能に接続される。記憶装置310は、上記実施形態の記憶装置110および記憶装置210の少なくともいずれか一方と同様な記憶部を含む。記憶装置310は、たとえば、ハードディスク、SSD(Solid State Drive)、またはメモリカードなどであり、情報処理装置300に含まれてもよいし、外部装置であってもよい。
【0132】
本実施形態の情報処理装置300の構成は、本発明の他の実施形態の構成と矛盾のない範囲で適宜組み合わせることができる。
【0133】
本実施形態の情報処理装置300は、検出部302と、実行部304と、を備える。情報処理装置300は、さらに、
図10の上記実施形態と情報処理装置200と同様な構成を備えてもよい。
検出部302は、上記実施形態の検出部102と同様な機能を有するとともに、さらに、検出されたマーカ50の検出結果を時系列で記憶装置310に記憶し、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求める。
実行部304は、検出部302により検出されたマーカ50の差分に応じた処理を実行する。
【0134】
本実施形態において、検出部302は、所定の周期でマーカ50の検出処理を行っているものとし、たとえば、検出結果は、その全てを記録してもよい。あるいは、前回の検出結果から閾値以上の特徴量の変化が検出された場合にのみ検出結果を記録する構成としてもよい。
本実施形態では、後者とし、前回の検出結果から閾値以上の特徴量の変化が検出された場合にのみ検出結果が記録される。
【0135】
本実施形態において、「以前」と「今回」は、所定期間離れた2つの時点の検出結果を指し、「今回」より「以前」の方が過去の(古い)情報とする。「今回」は、現在でなくてもよく、過去(履歴情報の中)のある時点であってよい。
【0136】
検出部302により検出される差分とは、様々考えられ、以下に例示されるが、これに限定されない。また、以下は複数を組み合わせることもできる。
(b1)検出されるマーカ領域の面積の差分
(b2)検出されるマーカに含まれる所定のオブジェクト(たとえば、文字、マーク等)の数の差分
(b3)検出されるマーカに含まれる所定の数字の最大値または最小値(あるいは、範囲)の差分
(b4)検出されるマーカの種類の数の差分
【0137】
差分を求めるタイミングも様々考えられ、以下に例示されるが、これに限定されない。また、以下の複数を組み合わせてもよい。
(c1)検出処理の周期毎
(c2)検出結果が記録される毎
(c3)所定時間毎(5分毎等)、所定時刻毎(毎時等)等
【0138】
ここで、上記(b3)および上記(c2)の例を以下に説明する。
図13(b)に示すように、本実施形態では、商品棚40の背面板46に下から上に向かって1~6の数字が並んでいるマーカ50が設置されている。
【0139】
図19は、本実施形態の検出結果記憶部320のデータ構造の一例を示す図である。
この例では、商品棚40の棚板44毎に検出結果を記憶しているが、これに限定されない。
検出結果記憶部320aは、棚板44(T1001)におけるマーカ50の検出結果が記録されている。
【0140】
図19では、検出部302により検出されたマーカの数字の最大値(または最小値)を、検出日時情報とともに、棚板44毎に検出結果記憶部320aまたは検出結果記憶部320bに記憶している。
【0141】
図18(a)に示すように、商品42が商品棚40いっぱいに置かれている場合は、商品42によってマーカ50が隠され見えなくなる。撮像カメラ10により撮像された映像データ12には、マーカ50はほとんど写らない。よって、検出部302は、映像データ12からマーカ50を検出しない。何も検出されなかった場合は、数字0が検出結果記憶部320に時刻情報に関連付けて検出結果記憶部320a(
図19(a))に記憶される。または他の実施形態では、検出結果記憶部320に何も記録しない構成でもよい。
【0142】
次に、
図18(b)に示すように、商品42が数個なくなると、マーカ50が上部の一部が見えるようになる。撮像カメラ10により撮像された映像データ12には、マーカ50の一部、数字の6が写るようになる。よって、検出部302は、映像データ12からマーカ50の一部を検出し、数字の6を認識する。
そして、検出部302は、数字6を検出日時情報に関連付けて検出結果記憶部320a(
図19(a))に記憶する。本実施形態では、認識された数字の最小値が検出結果に記録される。マーカ50に記載される数字の順序と商品42の陳列方法によって、数字の最小値、最大値、および範囲のいずれかを検出結果として記録するか決めることができる。本実施形態では、商品42が減少するにつれて、現れる数字が6から1に徐々に小さくなるので、商品42の減り具合を示す指標として、数字の最小値を用いる。
【0143】
一方、
図14(a)に示したマーカ50の場合は、商品42が減少するにつれて、現れる数字が1から7に徐々に大きくなるので、商品42の減り具合を示す指標として、数字の最大値を用いる。
【0144】
はじめに、通常の商品販売時について説明する。この場合、商品42は徐々に減るので、数字の5~4が時間経過とともに順に検出され、
図19(a)に示すように、検出時刻情報に関連付けて検出結果記憶部320aに記憶されている。さらに、たとえば、13時に商品42の補充などが行われることにより、マーカが全て隠れるため、マーカが検出されない。そこで、数字0が検出結果記憶部320に時刻情報に関連付けて検出結果記憶部320a(
図19(a))に記憶される。
【0145】
次に、大量盗難や爆買い等により、商品が急激になくなる場合について説明する。
はじめ、商品42が商品棚40いっぱいに置かれている状態(
図18(a))であるため、マーカは検出されない。そこで、何も検出されなかったことを示す数字0が検出結果記憶部320に時刻情報に関連付けて検出結果記憶部320b(
図19(b))に記憶される。
【0146】
そして、少し時間が経過した時、商品42が少し減り、
図18(a)のように数字の6が現れるので、数字6が認識され、数字6が検出結果記憶部320b(
図19(b))に記録される。
【0147】
そして、さらに、少し時間が経過した時(たとえば、前回マーカ検出後から2分後)に、商品が一気に大量になくなり、
図18(d)のようになったとする。このとき、検出部302により、数字の1~6が認識され、最小値の数字1が検出結果記憶部320b(
図19(b))に記録される。
【0148】
本実施形態では、検出部302は、上述したように、検出されたマーカ50の検出結果を時系列で検出結果記憶部320に記憶する。そして、検出部302は、さらに、検出結果記憶部320を参照し、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求める。
【0149】
求められた差分は、
図19に示すように、検出結果記憶部320aたまは検出結果記憶部320bにそれぞれ記録できる。
そして、実行部304が、検出されたマーカ50の差分に応じた処理を実行する。
【0150】
図20は、本実施形態の情報処理装置300の処理条件330の一例を示す図である。
処理条件330に示すように、本実施形態では、マーカの差分に応じた処理が対応付けられている。たとえば、この例では、検出されたマーカの数字の最小値の差分が、-5以下を検出条件として、条件を満たす場合の処理が定められている。
差分が-5より小さい場合は、通知を行う。条件を満たさない場合は、何も処理を行わない。
【0151】
本実施形態では、所定周期で行われる画像認識処理により変化が検出された場合にのみ、検出結果を記録し、かつ、記録された検出結果毎に差分を求めているが、所定周期毎に検出結果を記録する場合、差分を算出して記録するタイミングは、たとえば、所定期間毎(たとえば、5分おき等)に行うことができる。そして、このタイミングで記録される場合、たとえば、5分毎の差分だけでなく、30分毎の差分(検出結果記録の所定回数分の合計)もさらに求めて検出条件としてもよい。
【0152】
また、処理条件330の他の例では、所定値以上の差分の変化が短時間であった場合に、アラームレベルを高く設定して通知してもよい。すなわち、所定値以上の差分の変化の時間を条件として、アラームレベルを段階的に設定してもよい。
【0153】
このように構成された本実施形態の情報処理装置300のコンピュータプログラムについて、以下説明する。
本実施形態のコンピュータプログラムは、情報処理装置300を実現させるためのコンピュータ80に、検出されたマーカ50の検出結果を時系列で記憶装置310に記憶する手順、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求める手順、検出されたマーカ50の差分に応じた処理を実行する手順、を実行させるように記述されている。
【0154】
このように構成された本実施形態の情報処理装置300の情報処理方法について、以下説明する。
図21は、本実施形態の情報処理装置300の動作の一例を示すフローチャートである。
本実施形態の情報処理装置300におけるフローチャートは、
図8の上記実施形態の情報処理装置100のフローチャートと同様な手順(ステップS101~ステップS107)を有するとともに、さらに、ステップS301とステップS303を有する。
【0155】
本発明の実施の形態に係る情報処理方法は、情報処理装置300の情報処理方法であり、情報処理装置200を実現するコンピュータ80により実行される情報処理方法である。
本実施形態の情報処理方法は、情報処理装置300が、検出されたマーカ50の検出結果を時系列で記憶装置310に記憶し(ステップS301)、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求め(ステップS303)、検出されたマーカ50の差分に応じた処理を実行する(ステップS105、ステップS107)、ことを含む。
【0156】
以下、詳細に説明する。
はじめに、通常の商品販売時の動作例について説明する。
まず、
図8で説明したように、ステップS103で検出部302予め登録されているマーカ50の特徴と閾値以上の類似度を有する画像領域をマーカ50の画像領域として検出する(ステップS103のYES)。
【0157】
たとえば、
図18(a)と
図18(b)に示すように、商品42が時間経過とともに、徐々に減っていった場合、
図19(a)の検出結果記憶部320aに示すような検出結果が得られる。
【0158】
検出部302は、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求め(ステップS303)、さらに、検出結果記憶部320aに記録する。
そして、実行部304が、処理条件330を参照し、マーカ50の差分が-5以下ではないので(ステップS105のNO)、ステップS107をバイパスし、何も処理せずに、本処理を終了する。
【0159】
次に、大量盗難や爆買い等により、商品が急激になくなる場合の動作例について説明する。
まず、
図8で説明したように、ステップS103で検出部302予め登録されているマーカ50の特徴と閾値以上の類似度を有する画像領域をマーカ50の画像領域として検出する(ステップS103のYES)。
【0160】
たとえば、
図18(b)の状態から
図18(d)の状態に、2分程度で変化した場合、
図19(b)の検出結果記憶部320bに示すような検出結果が得られる。
【0161】
検出部302は、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求め(ステップS303)、さらに、検出結果記憶部320bに記録する。
そして、実行部304が、処理条件330を参照し、マーカ50の差分が-5以下の検出条件を満たすことを判定し(ステップS105のYES)、商品42が大量になくなったことを示すメッセージ等を所定の端末に通知する処理を行い(ステップS107)、本処理を終了する。
【0162】
このように、本実施形態によれば、以前に検出されたマーカ50と、今回検出されたマーカ50の差分を求め、差分に応じて、予め定められた処理を行うことができる。通常の商品販売時のように徐々に商品42が減った場合は、メッセージの通知処理は行われず、一気に大量の商品42がなくなった場合は、メッセージの通知処理が行われることになる。
【0163】
以上説明したように、本実施形態の情報処理装置300において、検出部302により、以前に検出されたマーカ50と、今回検出されたマーカ50の差分が求められ、実行部304により、差分に応じた処理が実行される。
【0164】
この構成によれば、上記実施形態と同様な効果を奏するとともに、さらに、マーカ50の時間変化に応じて、処理を変えることができるので、短時間で商品42が大量になくなったことを検出して、報知することが可能になる。したがった、本実施形態の情報処理装置300によれば、簡単な構成で大量盗難や爆買いなどを検出し、通知することができる。
【0165】
以上、図面を参照して本発明の実施形態について述べたが、これらは本発明の例示であり、上記以外の様々な構成を採用することもできる。
たとえば、検出部によるマーカ検出対象範囲を定めるための基準となる基準マーカ60をマーカ50とは別に設置してもよい。
【0166】
検出部(102、202、または302)は、基準マーカ60を検出し、検出された基準マーカ60に対応する検出範囲を対象として、マーカ50の検出処理を行う。
【0167】
基準マーカ60は、それぞれ検出範囲が予め設定されているものとする。まず、検出部により基準マーカ60が検出され、検出された基準マーカ60に対応する検出範囲を対象として、マーカ50の検出処理を行われる。また、検出範囲毎に処理条件を設けてもよい。すなわち、同じマーカ50であっても、異なる基準マーカ60の検出範囲に含まれてもよく、検出範囲毎に異なる処理条件に従った処理を行うこともできる。
【0168】
図22に示すように、棚板44に2種類のマーカ50aとマーカ50bが設置されているとする。
基準マーカ60aの検出範囲62aは破線で示され、基準マーカ60bの検出範囲62bは、一点鎖線で示されている。
【0169】
また、異なる商品棚40の棚板44に同じ基準マーカ60(たとえば、基準マーカ60a)を設置した場合、異なる商品棚40に対して基準マーカ60aの検出範囲62aでマーカ50の検出を行うことができる。また、異なる商品棚40について、同じ基準マーカ60aによる検出範囲62aに対して、同じ処理条件を用いてもよいし、異なる処理条件を用いてもよい。たとえば、同じ基準マーカ60の検出範囲62であっても商品棚40やフロア等の場所によって処理条件を変えてもよい。
【0170】
この構成によれば、検出範囲を絞ってマーカ50の検出処理が行えるとともに、同じマーカ50であっても異なる処理条件を設定し、条件に応じた異なる処理を行うことができる。
【実施例】
【0171】
(実施例1)
図23は、本発明の情報処理装置400の実施例のシステム構成例を概念的に示す図である。
この例では、情報処理装置400は、映像取得機能部402と、検知エンジン制御機能部404と、マーカ学習機能部406と、結果閲覧ビューワ408と、を有する。
【0172】
映像取得機能部402は、IPカメラ420から撮像画像データ(映像データ424)を随時取得してもよいし、予め撮像され、記憶装置(不図示)に記録された映像ファイル422を任意のタイミングで読み込んで取得してもよい。
【0173】
映像取得機能部402が取得した映像データ424は検知エンジン制御機能部404に受け渡される。
【0174】
検知エンジン制御機能部404は、さらに、機械学習型検知エンジン410と、設定機能部412を含む。マーカ学習機能部406がマーカ50を撮像した静止画像データ430を用いてマーカ50を学習して生成した学習ライブラリ432が機械学習型検知エンジン410に受け渡され、登録される。
【0175】
さらに、設定機能部412は、学習ライブラリ432に登録されたマーカ50の情報に対して、対応する処理の設定を受け付け、学習ライブラリ432に登録する。すなわち、設定機能部412は、上記実施形態で説明した各種処理条件を設定する機能を有する。
【0176】
検知エンジン制御機能部404は、上記実施形態の検出部に相当する。映像データ424からマーカ50を検出し、その結果データ434を結果閲覧ビューワ408に受け渡す。ここでは、検出結果として、上記実施形態の実行部により設定されメッセージ(所定の情報)を結果データ434に含めてよい。結果閲覧ビューワ408は、検出結果情報を管理者に閲覧可能に提供する。たとえば、
図2のサーバコンピュータ20のモニタ24またはレジ端末30の店員用ディスプレイ32に検出結果情報を表示させる。
【0177】
以上、実施形態および実施例を参照して本願発明を説明したが、本願発明は上記実施形態および実施例に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
なお、本発明において利用者に関する情報を取得、利用する場合は、これを適法に行うものとする。
【0178】
以下、参考形態の例を付記する。
1. 物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカのうち以前に検出されたマーカとの差分を検出する検出手段と、
前記差分に応じた処理を実行する実行手段と、を備える、情報処理装置。
2. 複数の前記マーカが前記場所に設定されており、
前記検出手段は、
検出された前記マーカの検出結果を時系列で記憶装置に記憶し、
以前に検出された前記マーカと、今回検出された前記マーカの差分を求める、1.に記載の情報処理装置。
3. 複数の前記マーカが前記場所に設定されており、
検出された前記マーカの種類または場所を特定する特定手段をさらに備え、
前記実行手段は、
特定された前記マーカの種類または場所に応じた処理を実行する、1.または2.に記載の情報処理装置。
4. 複数の前記マーカが前記場所に設定されており、
前記実行手段は、
検出された前記マーカの組み合わせに応じた処理を実行する、3.に記載の情報処理装置。
5. 前記特定手段は、さらに、前記マーカのうち検出できた範囲を特定し、
前記実行手段は、
前記特定手段により特定された前記範囲に応じた処理を実行する、3.または4.に記載の情報処理装置。
6. 前記検出手段は、
機械学習により学習されたマーカの特徴を用いて前記マーカを検出する、1.から5.いずれか一つに記載の情報処理装置。
7. 前記実行手段により実行される前記予め定められた処理は、所定の情報を所定の端末に送信する処理を含む、1.から6.いずれか一つに記載の情報処理装置。
8. 前記所定の情報は、検出された前記マーカに対応する撮像部で撮像した画像を特定する情報を含む、7.に記載の情報処理装置。
9. 前記所定の情報は、アラート情報を含む、7.または8.に記載の情報処理装置。
10. 前記実行手段により実行される前記予め定められた処理は、前記検出手段による前記マーカの検出結果に関する情報を通知する処理を含む、1.から9.いずれか一つに記載の情報処理装置。
【0179】
11. 情報処理装置が、
物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカのうち以前に検出されたマーカとの差分を検出し、
前記差分に応じた処理を実行する情報処理方法。
12. 複数の前記マーカが前記場所に設定されており、
前記情報処理装置が、
検出された前記マーカの検出結果を時系列で記憶装置に記憶し、
以前に検出された前記マーカと、今回検出された前記マーカの差分を求める、11.に記載の情報処理方法。
13. 複数の前記マーカが前記場所に設定されており、
前記情報処理装置が、
検出された前記マーカの種類または場所を特定し、
特定された前記マーカの種類または場所に応じた処理を実行する、11.または12.に記載の情報処理方法。
14. 複数の前記マーカが前記場所に設定されており、
前記情報処理装置が、
検出された前記マーカの組み合わせに応じた処理を実行する、13.に記載の情報処理方法。
15. 前記情報処理装置が、
さらに、前記マーカのうち検出できた範囲を特定し、
特定された前記範囲に応じた処理を実行する、13.または14.に記載の情報処理方法。
16. 前記情報処理装置が、
機械学習により学習されたマーカの特徴を用いて前記マーカを検出する、11.から15.いずれか一つに記載の情報処理方法。
17. 実行される前記予め定められた処理は、所定の情報を所定の端末に送信する処理を含む、11.から16.いずれか一つに記載の情報処理方法。
18. 前記所定の情報は、検出された前記マーカに対応する撮像部で撮像した画像を特定する情報を含む、17.に記載の情報処理方法。
19. 前記所定の情報は、アラート情報を含む、17.または18.に記載の情報処理方法。
20. 実行される前記予め定められた処理は、前記マーカの検出結果に関する情報を通知する処理を含む、11.から19.いずれか一つに記載の情報処理方法。
【0180】
21. コンピュータに、
物品の配置場所を撮像した画像に対する画像認識処理により、予め定められているマーカのうち以前に検出されたマーカとの差分を検出する手順、
前記差分に応じた処理を実行する手順、を実行させるためのプログラム。
22. 複数の前記マーカが前記場所に設定されており、
コンピュータに、
検出された前記マーカの検出結果を時系列で記憶装置に記憶する手順、
以前に検出された前記マーカと、今回検出された前記マーカの差分を求める手順、を実行させるための21.に記載のプログラム。
23. 複数の前記マーカが前記場所に設定されており、
コンピュータに、
検出された前記マーカの種類または場所を特定する手順、
特定された前記マーカの種類または場所に応じた処理を実行する手順、21.または22.に記載のプログラム。
24. 複数の前記マーカが前記場所に設定されており、
コンピュータに、
検出された前記マーカの組み合わせに応じた処理を実行する手順、23.に記載のプログラム。
25. コンピュータに、
さらに、前記マーカのうち検出できた範囲を特定する手順、
前記特定する手順により特定された前記範囲に応じた処理を実行する手順、23.または24.に記載のプログラム。
26. コンピュータに、
機械学習により学習されたマーカの特徴を用いて前記マーカを検出する手順、21.から25.いずれか一つに記載のプログラム。
27. 前記実行する手順により実行される前記予め定められた処理は、所定の情報を所定の端末に送信する処理を含む、21.から26.いずれか一つに記載のプログラム。
28. 前記所定の情報は、検出された前記マーカに対応する撮像部で撮像した画像を特定する情報を含む、27.に記載のプログラム。
29. 前記所定の情報は、アラート情報を含む、27.または28.に記載のプログラム。
30. 前記実行する手順により実行される前記予め定められた処理は、前記検出する手順による前記マーカの検出結果に関する情報を通知する処理を含む、21.から29.いずれか一つに記載のプログラム。
【0181】
この出願は、2016年3月22日に出願された日本出願特願2016-056565号を基礎とする優先権を主張し、その開示の全てをここに取り込む。