【0008】
以下、図面を適宜参照しながら本発明を実施するための形態について詳細に説明する。
[1.POS端末装置の構成]
図1は、本発明の第1実施形態に係るPOS端末装置100と、サーバ200との一例を示すブロック図である。本発明のPOS端末装置100は、制御部101と、撮像部102と、特定情報抽出部103と、特定情報推定部104と、記憶部105と、通信部106と、を備えている。サーバ200は、サーバ記憶部210を備えている。POS端末装置100は、通信部106を介してサーバ200と接続している。
まず、POS端末装置100を構成する各部について説明する。制御部101は、例えばCPU(Central Processing Unit)であって、POS端末装置100が実行する処理を制御することができる。具体的には、制御部101は、撮像部102と、特定情報抽出部103と、特定情報推定部104等の処理を制御する。
撮像部102は、被写体を撮像することができる。本発明のPOS端末装置100は店舗等に設置するため、被写体は例えば店舗等が売買する商品である。また、撮像部102は商品を撮影すると共に、その商品の画像を生成する機能も有している。なお、以下では被写体を店舗等が売買する商品として説明するが、これは被写体が商品であることを限定するものではない。
特定情報抽出部103は、商品の画像から特定情報を抽出することができる。商品の画像は、撮像部102が生成した画像であってもよいし、外部機器等が入力した画像であってもよい。特定情報は、POS端末装置100を店舗等に設置する場合、例えば店鋪等が売買する商品が値引品であることを示す値引ラベルである。特定情報抽出部103は、商品の画像から値引ラベルを抽出すると共に、その商品と値引ラベルとを関連付けた被写体情報を生成する。また、特定情報抽出部103は、商品から値引ラベルを抽出できなかった場合には、その商品には値引ラベルが貼付されていない(商品は値引品ではない)という被写体情報を生成する。さらに、特定情報抽出部103は、生成した被写体情報を記憶部105に格納する。この時、特定情報抽出部103は、被写体情報を記憶部105ではなく、サーバ200が備えるサーバ記憶部210に格納してもよい。この場合、特定情報抽出部103は、通信部106を介して特定サーバ記憶部210に被写体情報を格納することができる。なお、以下では、特定情報を値引ラベルとして説明するが、これは特定情報が値引ラベルであることを限定するものではない。
特定情報推定部104は、記憶部105が保持する被写体情報に基づいて撮像部102が撮像した商品に関連付いている値引ラベルを推定することができる。特定情報推定部104は、同一の商品に種類の異なる複数の値引ラベルが関連付いている場合、その中で記憶部105が保持する一番総数の多い値引ラベルを、その商品に関連付いている値引ラベルであると推定する。また、特定情報推定部104は、サーバ記憶部210が保持する被写体情報に基づいて撮像部102が撮像した商品に関連付いている値引ラベルを推定してもよい。この時、特定情報推定部104は、記憶部105が保持する全ての被写体情報から値引ラベルを推定してもよいし、所定の期間内に撮像部102が生成した被写体情報から値引ラベルを推定してもよい。なお、所定の期間とは、ユーザの任意で自由に設定することのできる期間である。
撮像部102が撮像した画像と、被写体情報との照合には、例えばパターン認識等の一般的な画像処理を用いることができる。即ち、特定情報推定部104は値引ラベルからではなく、あくまで商品の画像に基づいて、その商品に貼付された値引ラベルを推定する。したがって、特定情報推定部104は、撮像部102が撮像した商品に値引ラベルが貼付されていない場合でも、商品に関連付いている値引ラベルを推定することができる。さらに、特定情報推定部104は、例えば撮像部102が撮像したのは商品の一部分の画像であり、記憶部105が保持する画像が商品の全体の画像であっても、その商品に関連付いている特定情報を推定することができる。これは、特定情報推定部104は、2つの画像の特徴量を比較しているためであり、商品の一部分の画像の特徴量が、商品の全体の画像の一部分の特徴量と、所定の範囲で類似していれば2つの商品は同一であると推定することができる。
ここで、店舗側のミス等の理由で値引品に値引ラベルを貼付していなかった場合に、特定情報抽出部103がその商品に対して本来とは異なる被写体情報を生成していることも想定される。しかしながら、特定情報抽出部103は、撮像部102が画像を生成する度に被写体情報を生成している。したがって、撮像部102が同一商品の撮像を重ねるほど、その商品本来の被写体情報の総数の方が誤った被写体情報の総数よりも相対的に多くなる。即ち、特定情報推定部104は、同一の商品に種類の異なる複数の被写体情報が関連付いている場合、記憶部105が保持する一番総数の多い被写体情報に基づいて値引ラベルを推定するため、誤った被写体情報を推定する可能性は小さい。また、このことにより、特定情報推定部104の商品の認識率は、撮像部102が撮像を重ねるごとに向上する。
記憶部105は、被写体情報を保持している。記憶部105としては、例えばHDD(Hard Disk Drive)、SSD(Solid State Drive)等を使用することができる。
通信部106は、POS端末装置100とサーバ200とを接続する通信インターフェースである。通信部106は、有線LAN(Local Area Network)であってもよいし、無線LANであってもよい。POS端末装置100は、通信部106を介して外部のサーバ等と接続することができる。
サーバ200は、複数のPOS端末装置と接続しており、例えば店舗等に設置する店舗サーバである。サーバ200は、各POS端末装置から受信した被写体情報を保持するサーバ記憶部210を備えている。サーバ記憶部210は、サーバ200と接続している各POS端末装置が保持する全ての被写体情報を保持している。以下において、各POS端末装置とサーバ200が接続されたネットワークについて説明する。
[2.POS端末装置とサーバとの接続]
図2は、各POS端末装置と、サーバとが接続した様子を示す概略図である。
図2では、サーバ200と、3台のPOS端末装置とがネットワーク300を介して接続した例を図示しているが、これはサーバ200に接続するPOS端末装置の台数を何等限定するものではない。サーバ200に接続するPOS端末装置の台数は、ユーザの任意で自由に設定することが可能である。以下、
図2を参照しながら、各POS端末装置とサーバとの間で被写体情報を送受信する方法について説明する。
図2を参照すると、サーバ200は、第1POS端末装置110と、第2POS端末装置120と、第3POS端末装置130と、ネットワーク300を介して接続している。
サーバ200は、ネットワーク300を介して、3台全てのPOS端末装置との間で被写体情報を送受信する。ネットワーク300は、例えばインターネットである。したがって、第1POS端末装置110〜第3POS端末装置130のそれぞれは、他のPOS端末装置がサーバ200に送信した被写体情報を同期することができる。第1POS端末装置110〜第3POS端末装置130は、保持する被写体情報が増えるに連れて認識率が向上するため、複数のPOS端末装置と同期することにより認識率は更に向上する。以下で、各POS端末装置が実行する処理および各POS端末装置が他のPOS端末装置との間で被写体情報を同期する処理について詳しく説明する。
[3.POS端末装置の処理の流れ]
図3は、POS端末装置100の各部が実行する処理の流れを示すフローチャートである。以下では、
図3および
図1を適宜参照し、本発明の第1実施形態に係るPOS端末装置100が実行する処理について詳細に説明する。
まず、撮像部102が、商品を撮像すると共に、撮像した商品の画像を生成する(ステップS301)。次いで、撮像部102は、特定情報抽出部103および特定情報推定部104に生成した商品の画像を送信する。なお、特定情報推定部104は、受信した商品の画像が撮像部102の初回の撮像である場合には被写体情報が存在しないため、撮像部102から受信した商品の画像に基づいて、その商品に貼付されている値引ラベルを推定することはできない。
特定情報抽出部103は、撮像部102から受信した商品の画像から、その商品に貼付されている値引ラベルを抽出する(ステップS302)。この処理において、特定情報抽出部103は、商品に貼付された値引ラベルの有無を最初に判定する(ステップS303)。
次いで、特定情報抽出部103は、商品に値引ラベルが貼付されている場合には(ステップS303において「YES」)、商品と値引ラベルとを関連付けた被写体情報を生成する(ステップS304)。
また、特定情報抽出部103は、商品に値引ラベルが貼付されていない場合には(ステップS303において「NO」)、その商品には値引ラベルは貼付されていないという被写体情報を生成する(ステップS305)。即ち、特定情報抽出部103は、商品に貼付された値引ラベルの有無に依らず被写体情報を生成する。
さらに特定情報抽出部103は、生成した被写体情報を記憶部105に格納する。この時、特定情報抽出部103は、通信部106を介してサーバ記憶部210に被写体情報を格納してもよい(ステップS306)。この時、例えば値引ラベルが剥がれた等の理由により、本来は値引ラベルが貼付されている商品に値引ラベルが貼付されていなかった場合に、特定情報抽出部103は、その商品について、本来とは異なる被写体情報を生成し、記憶部105に格納することになる。しかしながら特定情報抽出部103が、本来とは異なる被写体情報を生成したとしても、その総数は、正しい被写体情報の総数よりも相対的に少ない。また、特定情報抽出部103が同一商品の被写体情報の生成を重ねるほど、本来とは異なる被写体情報の総数は、正しい被写体情報の総数よりも相対的に更に少なくなる。
次いで撮像部102は、次の商品を撮像するとともに、撮像した商品の画像を生成する(ステップS307)。ステップS307の処理はステップS301の処理と同様であり、撮像部102は、商品を撮像して画像を生成し、生成した画像を、特定情報抽出部103および特定情報推定部104に入力する。
ここでは、特定情報推定部104は、記憶部105およびサーバ記憶部210が被写体情報を保持しているため、撮像部102から受信した商品の画像に基づいて、その商品に貼付されている値引ラベルを推定することができる。なお、特定情報抽出部103が行う処理については、ステップS302からステップS306と同様であるため、説明は省略する。
次いで、特定情報推定部104は、記憶部105、またはサーバ記憶部210が保持する被写体情報に基づいて、撮像部102が撮像した商品に関連付いている値引ラベルを推定する(ステップS308)。この時、特定情報抽出部104は、商品について異なる複数の被写体情報が存在する場合には、相対的に総数の多い被写体情報を、その商品の正しい被写体情報であると推定する。各POS端末装置は、サーバ200を介して同期しているため、撮像部102が初めて撮像する商品であっても、他のPOS端末装置で撮像したことのある商品であれば、特定情報推定部104は、その商品に関連付いている値引ラベルを推定することができる。また、特定情報推定部104は、撮像した商品の画像が商品の一部分であり、記憶部105またはサーバ記憶部210が保持する画像が商品の全体像であっても、その商品に関連付いた値引ラベルを推定することができる。同様に、特定情報推定部104は、撮像された商品の画像が商品の全体であって、サーバ記憶部210が保持する画像が商品の一部の画像であっても、その商品に関連付いた値引ラベルを推定することができる。
POS端末装置100は、特定情報推定部104が商品に値引ラベルが関連付いていると推定すると、その旨をPOS端末装置100のオペレータ等に報知する(ステップS309)。報知の方法は、POS端末装置100が備える表示部にメッセージを表示させてもよいし、例えばPOS端末装置100が特定情報報知部を更に備え、この特定情報報知部によって報知するようにしてもよい。特定情報報知部は、例えば視覚的に判断できる形態であってもよいし、音を鳴らす形態であってもよい。POS端末装置100のオペレータ等は、商品に値引ラベルを貼付していない場合でも、その商品が値引品であることを報知によって認識できるため、間違うこと無く値引することができる。
[4.その他の実施形態]
(4−1.第2実施形態)
次に、
図4を参照しながら本発明の第2実施形態に係るPOS端末装置について説明する。
第2実施形態のPOS端末装置は、第1実施形態のPOS端末装置に、撮像した商品を特定できる被写体特定部を更に備える形態である。具体的に説明すると、第2実施形態のPOS端末装置は、商品に関連付いた値引ラベルを推定できると共に、撮像した商品を特定することのできる商品特定部420を備えている。なお、第2実施形態のPOS端末装置について説明するが、商品特定部420以外、例えばPOS端末装置とサーバとの間での通信方法等に関しては第1実施形態のPOS端末装置100と同様であるため、説明は省略する。
図4(a)は、商品特定部420が、被写体画像400をサーバ410に格納する様子を示した模式図である。
図4(b)は、商品特定部420の処理の流れを示すフローチャートである。以下、
図1、
図4(a)および
図4(b)を適宜参照しながら、商品特定部420の説明をする。
まず、商品特定部420は、被写体画像400を受信する(ステップS401)。被写体画像400は、例えば
図1において撮像部102が撮像し、生成した商品の画像である。
被写体画像400を受信した商品特定部420は、被写体画像400と同一の画像を記憶部105およびサーバ410から検索する(ステップS402)。検索の結果、記憶部105およびサーバ410から被写体画像400と同一の商品があった場合(ステップS403において「YES」)、商品特定部420は、商品を表示する表示部等に特定した商品を表示させて(ステップS404)処理を終了する。検索の結果、記憶部105およびサーバ410から被写体画像400と同一商品を検索できなかった場合(ステップS403において「NO」)、商品特定部420は、被写体画像400に基づいて、新たに商品登録を行う(ステップS405)。ここで、商品特定部420は、サーバ410に商品の登録を行うことで、サーバ410に接続されている全てのPOS端末装置間で新たに登録された商品の情報を共有することができる。その結果、他のPOS端末装置は、被写体画像400を初めて受信した時でも、その被写体画像400に写っている商品が既に登録されている商品であることを特定することができる。
(4−2.第3実施形態)
次に、
図5(a)を参照して第3実施形態に係るPOS端末装置を説明する。
第3実施形態のPOS端末装置は、撮像部102のみを備えており、サーバ510が特定情報抽出部511と、特定情報推定部512および記憶部513とを備える形態である。即ち、第3実施形態のPOS端末装置は、特定情報の抽出および特定情報の推定は行わず、サーバ510が特定情報の抽出および特定情報の推定を行う。その他の機能、例えばPOS端末装置とサーバとの間での通信方法等に関しては第1実施形態のPOS端末装置100と同様であるので説明は省略する。以下では、
図5(b)を参照しながら、第3実施形態に係るPOS端末装置の処理の流れについて説明する。
まず、第3実施形態のPOS端末装置は、例えば
図1において、撮像部102が撮像し生成した商品の被写体画像500をサーバ510に送信する(ステップS501)。次に、被写体画像500を受信したサーバ510は、その商品の画像を特定情報抽出部511および特定情報推定部512に入力する。特定情報抽出部511は、被写体画像500から値引ラベルを抽出し、その商品と抽出した値引ラベルとを関連付けたデータを作成する(ステップS502)。この時、特定情報抽出部511は、商品と値引ラベルとを関連付けたデータを記憶部513に格納する。
次に、特定情報推定部512は、撮像した商品に関連付いている商品の値引ラベルを、記憶部513が保持する被写体情報に基づいて推定する(ステップS503)。
したがって、サーバ510が特定情報抽出部511および特定情報推定部512を備えている形態でも、商品の画像に基づいて特定情報を推定することができる。また、サーバ510が、第2実施形態のPOS端末装置が備える商品特定部420を、さらに備えていてもよい。
(4−3.第4実施形態)
次に、
図6を参照して、第4実施形態のPOS端末装置として、サーバと接続する機能を有していない、最小の構成からなるPOS端末装置を説明する。
図6(a)は、第4実施形態に係るPOS端末装置の構成を示すブロック図である。第4実施形態に係るPOS端末装置は、撮像部600と、特定情報推定部610と、記憶部620と、を備えている。
図6(b)は、第4実施形態に係るPOS端末装置が実行する処理を示すフローチャートである。以下では、
図6(b)を参照しながら第4実施形態に係るPOS端末装置が実行する処理について説明する。
撮像部600は、商品を撮像すると共に、その商品の画像を生成する(ステップS601)。また撮像部600は、生成した画像を特定情報推定部610に入力する。
次いで、特定情報推定部610は、撮像部600が撮像した商品の画像に関連付いている値引ラベルを、記憶部620が保持する被写体情報に基づいて推定する(ステップS602)。即ち、第4実施形態のPOS端末装置は、他のPOS端末装置とは同期していないが、記憶部620が保持する被写体情報のみに基づいて撮像部600が撮像した商品に関連付いている値引ラベルを推定できる。また第4実施形態のPOS端末装置は、繰り返し使用することで記憶部620が保持する被写体情報の総数が多くなることに伴い、特定情報推定部610の認識率も向上する。したがって、第4実施形態のPOS端末装置においても、第1実施形態のPOS端末装置100と同様の効果を奏することができる。
以上の説明において、第1実施形態〜第4実施形態のPOS端末装置が備える各部は、ハードウエアによって実現してもよいし、ソフトウエアによって実現してもよい。また、各部は、ハードウエアとソフトウエアの組み合わせによって実現してもよい。例えば、制御部101が、記憶部105が保持するプログラムを読み出すことによって、コンピュータを第1実施形態〜第4実施形態のPOS端末装置として動作させてもよい。また、プログラムは、コンピュータが読み取り可能な媒体が保持していればよいし、例えば、ネットワークに接続された記憶装置が保持していてもよい。
[5.画像認識方法]
次に、
図7を参照して、本発明に係る最小の構成から実行する画像認識方法について説明する。
図7(a)は、本発明に係る画像認識を示すブロック図であり、
図7(b)は、本発明に係る画像認識の流れを示すフローチャートである。以下では、
図7(a)および
図7(b)を適宜参照し、本発明に係る画像認識方法について詳細に説明する。
本発明に係る画像認識方法は、まず、画像データ700に対して、特定情報推定710を実行する(ステップS701)。
次いで、特定情報推定710は、入力された画像データ700に関連付いている特定情報を推定する。具体的には、特定情報推定710は、被写体データ700と同一、または類似する画像を記憶部720が保持する被写体情報から検索する。この時、特定情報推定710は、画像データ700が被写体の一部分の画像であって、記憶部720が保持する画像が被写体の全体の画像であっても検索することができる。また同様に、特定情報推定710は、画像データ700が被写体の全体の画像であって、記憶部720が保持する画像が被写体の一部分の画像であっても検索することができる。
以上、実施形態を参照して本発明を説明したが、本発明は上記実施形態に限定されない。本発明の構成や詳細には、本発明のスコープ内で当事者が理解し得る様々な変更をすることができる。
また上記の実施形態の一部、または全部は、以下のようにも記載されうる。なお、以下の付記は本発明を何等限定するものではない。
[付記1]
被写体と特定情報とを関連付けた被写体情報を保持する記憶部と、
前記被写体を撮像し画像を生成する撮像部と、
前記撮像部が撮像した前記被写体に関連付いている前記特定情報を前記被写体情報に基づいて推定する特定情報推定部と、
を備える、
ことを特徴とするPOS端末装置。
[付記2]
前記撮像部が生成した前記被写体の画像から前記特定情報を抽出すると共に、前記特定情報を前記被写体に関連付けて前記被写体情報を生成し前記記憶部に格納する特定情報抽出部をさらに備える、
ことを特徴とする上記付記に記載のPOS端末装置。
[付記3]
前記特定情報推定部が前記被写体には前記特定情報が含まれていると推定した場合に、前記被写体には前記特定情報が含まれていることを報知する特定情報報知部をさらに備える、
ことを特徴とする上記付記に記載のPOS端末装置。
[付記4]
前記特定情報推定部は、前記被写体の少なくとも一部分の画像に基づいて前記商品に関連付いている前記特定情報を推定する、
ことを特徴とする上記付記に記載のPOS端末装置。
[付記5]
前記撮像部が撮像した前記被写体の画像に基づいて前記商品を特定する被写体特定部をさらに備える、
ことを特徴とする上記付記に記載のPOS端末装置。
[付記6]
前記被写体は、店舗で売買される商品である、
ことを特徴とする上記付記に記載のPOS端末装置。
[付記7]
前記特定情報は、商品の値引を示す印である、
ことを特徴とする上記付記に記載のPOS端末装置。
[付記8]
被写体と特定情報を関連付けた被写体情報を保持する記憶部と、
前記被写体の画像を受けると共に前記被写体に関連付いている前記特定情報を前記被写体情報に基づいて推定する特定情報推定部と、
を備える、
ことを特徴とする情報処理装置。
[付記9]
前記被写体の画像から前記特定情報を抽出すると共に、前記特定情報を前記被写体に関連付けて前記被写体情報を生成し前記記憶部に格納する特定情報抽出部をさらに備える、
ことを特徴とする上記付記に記載の情報処理装置。
[付記10]
上記付記に記載のPOS端末装置と、
情報処理装置と、
を含み、
前記POS端末装置は、前記情報処理装置との間で被写体情報を送受信する通信部とをさらに備える、
ことを特徴とする情報処理システム。
[付記11]
前記POS端末装置は、前記情報処理装置を介して他のPOS端末装置との間で前記被写体情報を同期する、
ことを特徴とする上記付記に記載の情報処理システム。
[付記12]
前記POS端末装置は、前記情報処理装置を介して、他のPOS端末装置が保持する前記被写体情報を互いに同期する、
ことを特徴とする上記付記に記載の情報処理システム。
[付記13]
被写体を撮像し画像を生成する撮像部を備えるPOS端末装置と、
情報処理装置と、
を含み、
前記情報処理装置は、
前記被写体と特定情報を関連付けた被写体情報を保持する記憶部と、
前記撮像部が撮像した被写体に関連付いている特定情報を前記被写体情報に基づいて推定する特定情報推定部と、を備える
ことを特徴とする情報処理システム。
[付記14]
前記情報処理装置は、前記被写体の画像から前記特定情報を抽出すると共に、前記特定情報を前記被写体に関連付けて前記被写体情報を生成し前記記憶部に格納する特定情報抽出部をさらに備える、
ことを特徴とする上記付記に記載の情報処理システム。
[付記15]
被写体を撮像して画像を生成し、
前記撮像した被写体に関連付いている特定情報を記憶部が保持する被写体情報に基づいて推定する、
ことを特徴とする画像認識方法。
[付記16]
前記撮像した被写体の画像から特定情報を抽出すると共に前記特定情報を前記被写体に関連付けた被写体情報を生成し、前記記憶部に格納する、
ことを特徴とする上記付記に記載の画像認識方法。
[付記17]
前記被写体に前記特定情報が含まれていると推定された場合に、前記商品には前記特定情報が含まれていることを報知する、
ことを特徴とする上記付記に記載の画像認識方法。
[付記18]
前記被写体の少なくとも一部分の画像に基づいて前記商品に関連付いている前記特定情報を推定する、
ことを特徴とする上記付記に記載の画像認識方法。
[付記19]
前記被写体の画像に基づいて前記被写体を特定する、
ことを特徴とする上記付記に記載の画像認識方法。
[付記20]
前記被写体は、店舗で売買される商品である、
ことを特徴とする上記付記に記載の画像認識方法。
[付記21]
前記特定情報は、商品の値引を示す印である、
ことを特徴とする上記付記に記載の画像認識方法。
[付記22]
コンピュータを、
被写体と特定情報とを関連付けた被写体情報を保持する記憶手段と、
前記被写体を撮像し画像を生成する撮像手段と、
前記撮像部が撮像した被写体に関連付いている特定情報を前記被写体情報に基づいて推定する特定情報推定手段と、
して動作させる、
ことを特徴とする画像認識プログラム。
[付記23]
前記コンピュータを、前記撮像部が生成した前記被写体の画像から前記特定情報を抽出すると共に、前記特定情報を前記被写体に関連付けて前記被写体情報を生成し前記記憶部に格納する特定情報抽出手段として、さらに動作させる、
ことを特徴とする上記付記に記載の画像認識プログラム。
[付記24]
前記コンピュータを、前記被写体に前記特定情報が含まれていると推定された場合に、前記被写体には前記特定情報が含まれていることを報知する報知手段として、さらに動作させる、
ことを特徴とする上記付記に記載の画像認識プログラム。
[付記25]
前記コンピュータに、前記被写体の少なくとも一部分の画像に基づいて前記商品に関連付いている前記特定情報を推定させる、
ことを特徴とする上記付記に記載の画像認識プログラム。
[付記26]
前記コンピュータを、前記被写体の画像に基づいて前記商品を特定する商品特定部として、さらに動作させる、
ことを特徴とする上記付記に記載の画像認識プログラム。
[付記27]
前記被写体は、店舗で売買される商品である、
ことを特徴とする上記付記に記載の画像認識プログラム。
[付記28]
前記特定情報は、商品の値引を示す印である、
ことを特徴とする上記付記に記載の画像認識プログラム。
この出願は、2014年3月27日に出願された日本出願特願第2014−065285号を基礎とする優先権を主張し、その開示のすべてをここに取り込む。