(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0009】
以下、図面を参照して本発明の実施の形態に係る情報解析システムについて説明する。
図1は、実施の形態に係る情報解析システム2の構成を示すブロック図である。情報解析システム2は、例えば、スーパーマーケットやコンビニエンスストア等の商品販売店舗に備えられているものであり、情報解析システム2の各部を統括的に制御する制御部4を備えている。制御部4には、商品を購入しようとする購入者を撮影する商品カメラ6、商品カメラ6による画像の撮影タイミングを入力する入力部8、商品カメラ6により撮影された画像の画像データを記憶する画像記憶部10、購入者が商品を見ていた時間等に関する履歴情報を記憶する情報記憶部12、商品棚に配置されている商品の商品IDに関する情報を記憶する商品記憶部14、購入された商品の売上会計を行うレジスタであるキャッシュレジスタ16、キャッシュレジスタ16の近傍に配置され、会計処理を行う際に購入者の顔を撮影するレジカメラ18、及びレジカメラ18により撮影された画像の画像データを記憶するレジ画像記憶部20が接続されている。
【0010】
ここで、商品カメラ6には、商品カメラ6a、商品カメラ6b、…、商品カメラ6nのn個のカメラが含まれ、商品カメラ6a、商品カメラ6b、…、商品カメラ6nはそれぞれ店舗内の商品陳列棚に一定の区画ごとに設置されている。例えば、
図2に示すように、横に5個の商品、縦に3個の商品(商品A〜E、商品F〜J、商品K〜O)から成る区画に商品カメラ6aが設置され、同様の個数の商品から成る区画ごとに商品カメラ6b、…、商品カメラ6nが設置されている。
【0011】
また、キャッシュレジスタ16には、キャッシュレジスタ16a、キャッシュレジスタ16b、…、キャッシュレジスタ16mのm個のキャッシュレジスタが含まれ、キャッシュレジスタ16a、キャッシュレジスタ16b、…、キャッシュレジスタ16mは、それぞれ店舗内のレジカウンタに設置されている。なお、各々のキャッシュレジスタは、購入された商品の商品コードを読み取るバーコードスキャナ(不図示)、及びレシートに購入金額等を印字するレジプリンタ(不図示)を備えている。
【0012】
また、レジカメラ18には、レジカメラ18a、レジカメラ18b、…、レジカメラ18mのm個のカメラが含まれている。ここで、レジカメラ18aは、キャッシュレジスタ16aの近傍に設置されている。同様に、レジカメラ18bは、キャッシュレジスタ16bの近傍に設置され、レジカメラ18mは、キャッシュレジスタ16mの近傍に設置されている。なお、レジカメラ18a、レジカメラ18b、…、レジカメラ18mは、会計処理を行う際に購入者の顔を撮影できる位置に設置されている。
【0013】
また、情報記憶部12には、
図3に示す履歴ファイル30が記憶されている。この履歴ファイル30には、一つの履歴を他の履歴と区別するための履歴番号、商品カメラ6により撮影された購入者の顔の画像の顔画像データ、顔画像データに基づく購入者の購入者ID、購入者IDを有する人物が見ていた商品の商品ID、購入者IDを有する人物が商品IDの商品を見ていた時間、商品カメラ6による撮影日付、及び商品IDを有する商品の購入結果が履歴番号順に記憶される。
【0014】
図4は、実施の形態に係る情報解析システム2の撮影処理を示すフローチャートである。まず、商品カメラ6により静止画像の撮影を行う撮影タイミングが入力部8を介して入力される(ステップS1)。例えば、5秒ごとに商品カメラ6による静止画像の撮影を行う場合、5秒という撮影タイミングが入力部8を介して入力される。なお、以下のフローチャートでは、商品カメラ6aにより撮影が行われる場合の撮影処理を例として説明する。
【0015】
撮影タイミングが入力されると、制御部4は、商品カメラ6aによる撮影を行い(ステップS2)、撮影した画像の画像データを画像記憶部10に記憶する。次に、制御部4は、画像記憶部10から画像データを読み出し、画像データに基づく画像に人物の顔が含まれているか否かを判定する(ステップS3)。ここで、人物の顔の検出は、一般的に知られている顔認識技術により行われる。
【0016】
画像データに基づく画像に人物の顔が含まれていない場合(ステップS3:No)、ステップS11の処理に進む。一方、画像データに基づく画像に人物の顔が含まれている場合(ステップS3:Yes)、制御部4は、画像データに基づく画像に購入者IDを有さない人物の顔が含まれているか否かを判定する(ステップS4)。即ち、制御部4は、情報記憶部12から履歴ファイル30(
図3参照)を読み出し、画像データに基づく画像に含まれている人物の顔と履歴ファイル30に記憶されている顔画像データに基づく購入者の顔とを比較することにより、画像データに基づく画像に購入者IDを有さない人物の顔が含まれているか否かを判定する。
【0017】
画像データに基づく画像に購入者IDを有さない人物の顔が含まれている場合(ステップS4:Yes)、制御部4は、画像データから購入者IDを有さない人物の顔の画像の顔画像データを抽出し、抽出した顔画像データを新たな購入者IDと共に履歴ファイル30に記憶する(ステップS5)。例えば、画像データに基づく画像に購入者ID「0001」の人物、購入者ID「0002」の人物、及び購入者IDを有さない人物が含まれている場合、制御部4は、画像データから購入者IDを有さない人物の顔の画像の顔画像データを抽出する。そして、
図3に示すように、抽出した画像データ及び新たな購入者ID「0003」を有する履歴番号3の履歴を履歴ファイル30に追加する。
【0018】
画像データに基づく画像に購入者IDを有さない人物の顔が含まれていない場合(ステップS4:No)、または、ステップS5の処理が完了した場合、制御部4は、画像データに基づく画像から人物の顔の視線を検出し(ステップS6)、視線の方向を示す視線ベクトルを作成する。例えば、
図5に示すように、画像データに基づく画像に購入者ID「0001」の人物の顔、購入者ID「0002」の人物の顔、及び購入者ID「0003」の人物の顔が含まれていたとする。この場合、制御部4は、まず、画像データに基づく画像から購入者ID「0001」の人物の視線、購入者ID「0002」の人物の視線、及び購入者ID「0003」の人物の視線を検出する。そして、検出した視線に基づいて、購入者ID「0001」の人物の視線ベクトル32、購入者ID「0002」の人物の視線ベクトル34、及び購入者ID「0003」の人物の視線ベクトル36を作成する。ここで、視線の検出は、一般的に知られている視線検出技術により行われる。
【0019】
次に、制御部4は、作成した視線ベクトルに基づいて購入者が見ている商品を特定する(ステップS7)。例えば、
図6に示すように、視線ベクトル32の先端が商品Kの区画の範囲に位置する場合、購入者ID「0001」の人物が見ている商品が商品Kであると特定する。同様に、視線ベクトル34の先端が商品Hの区画の範囲に位置する場合、購入者ID「0002」の人物が見ている商品が商品Hであると特定し、視線ベクトル36の先端が商品Eの区画の範囲に位置する場合、購入者ID「0003」の人物が見ている商品が商品Eであると特定する。
【0020】
なお、視線ベクトルには誤差が生じることがあるため、商品を特定する際には若干の誤差が許容される。例えば、
図7に示すように、商品Kの区画40の周囲には補助区画42が設定されており、前回の撮影タイミング(例えば5秒前)で購入者ID「0001」の人物が見ている商品が商品Kであると特定されている場合、今回の撮影タイミングでは視線ベクトル32の先端が区画40からはみ出していても補助区画42の範囲内に位置していれば購入者ID「0001」の人物が見ている商品が商品Kであると特定される。
【0021】
次に、制御部4は、商品記憶部14から商品棚に配置されている商品の商品IDに関する情報を読み出し、読み出した情報に基づいてステップS7で検出した商品の商品IDを特定する。例えば、購入者ID「0001」の人物が見ている商品Kの商品IDを商品ID「A001」と特定する。同様に、購入者ID「0002」の人物が見ている商品Hの商品IDを商品ID「A002」と特定し、購入者ID「0003」の人物が見ている商品Eの商品IDを商品ID「A003」と特定する。
【0022】
次に、制御部4は、履歴ファイル30を参照して、商品IDを特定した商品が同じ購入者が今日見たことのある商品であるか否かを判定する(ステップS8)。商品IDを特定した商品が同じ購入者が今日見たことのある商品である場合(ステップS8Yes)、制御部4は、履歴ファイル30において購入者が商品を見ていた時間に撮影タイミングとして入力した時間を加算する(ステップS9)。
【0023】
例えば、今日の日付が2011年12月10日であり、また、撮影タイミングが5秒であり、履歴ファイル30には履歴番号1〜3の情報が記憶されていたとする(
図3参照)。そして、今回の撮影タイミングにおいて、購入者ID「0001」の人物が見ている商品Kの商品IDが商品ID「A001」と特定され、購入者ID「0002」の人物が見ている商品Hの商品IDが商品ID「A002」と特定され、購入者ID「0003」の人物が見ている商品Eの商品IDが商品ID「A003」と特定されたとする。この場合、制御部4は、履歴番号1の履歴において購入者ID「0001」の人物が商品ID「A001」の商品Kを見ていた時間である15秒に撮影タイミングの5秒を加算して20秒を記憶する。同様に、履歴番号2の履歴において購入者ID「0002」の人物が商品ID「A002」の商品Hを見ていた時間である10秒に5秒を加算して15秒を記憶し、履歴番号3の履歴において購入者ID「0003」の人物が商品ID「A003」の商品Eを見ていた時間である20秒に5秒を加算して25秒を記憶する。
【0024】
一方、商品IDを特定した商品が同じ購入者が今日見たことのある商品でない場合(ステップS8:No)、制御部4は、新たな履歴番号の履歴を履歴ファイル30に追加する(ステップS10)。例えば、購入者ID「0001」の人物が今日初めて商品ID「A004」の商品を見た場合、制御部4は、
図3に示すように、購入者ID「0001」の人物が商品ID「A004」の商品を見ていた時間を5秒とする新たな履歴番号4の履歴を履歴ファイル30に追加する。
【0025】
次に、制御部4は、情報解析システム2の撮影処理を終了する操作が行われたか否かを判定する(ステップS11)。情報解析システム2の撮影処理を終了する操作が行われた場合、制御部4は、一連の処理を終了する。一方、情報解析システム2の撮影処理を終了する操作が行われていない場合、制御部4は、前回の撮影が行われた時から撮影タイミングである5秒が経過した後に商品カメラ6aによる撮影を行う(ステップS2)。
【0026】
なお、商品カメラ6b〜6nにより撮影が行われた場合においてもステップS2〜ステップS11で説明した処理と同様の処理が行われる。
【0027】
図8は、実施の形態に係る情報解析システム2における購入処理を示すフローチャートである。なお、以下のフローチャートでは、キャッシュレジスタ16aにより会計処理が行われ、レジカメラ18aにより購入者が撮影された場合を例として説明する。まず、購入者が購入したい商品をレジカウンタに持ち込み、キャッシュレジスタ16aによる会計処理が開始されると、制御部4は、レジカメラ18aにより購入者を撮影し(ステップS21)、撮影した画像の画像データをレジ画像記憶部20に記憶する。
【0028】
次に、制御部4は、レジ画像記憶部20から画像データを読み出して人物の顔を検出する(ステップS22)。次に、制御部4は、情報記憶部12から履歴ファイル30を読み出し、検出した人物の顔を有する購入者の購入者IDを特定する(ステップS23)。
【0029】
次に、キャッシュレジスタ16aに備えられたバーコードスキャナにより購入者が購入する商品の商品コードが読み取られると、制御部4は、読み取られた商品コードに対応する商品の商品IDを特定し(ステップS24)、特定した商品IDの商品について履歴ファイル30に商品が購入された旨の購入結果を記憶する(ステップS25)。例えば、レジカウンタに商品を持ち込んだ購入者が購入者ID「0001」の人物であり、バーコードスキャナにより読み取られた商品が商品ID「A001」の商品である場合、制御部4は、購入者ID「0001」の人物と商品ID「A001」が記憶されている履歴番号1に商品が購入された旨の購入結果を記憶する(
図3参照)。
【0030】
次に、キャッシュレジスタ16aによる会計処理が終了し(ステップS26)、会計処理の終了操作が行われると、制御部4は、購入者が今日見ていた商品のうち購入されなかった商品について、履歴ファイル30に商品が購入されなかった旨の購入結果を記憶する(ステップS27)。例えば、今日の日付が2011年12月10日であり、購入者が購入者ID「0001」の人物である場合において、商品ID「A004」の商品の商品コードがバーコードスキャナにより読み取られないまま会計処理の終了操作が行われた場合、制御部4は、2011年12月10日の日付で購入者ID「0001」の人物及び商品ID「A004」の商品が記憶されている履歴番号4に商品が購入されなかった旨の購入結果を記憶する(
図3参照)。
【0031】
次に、制御部4は、キャッシュレジスタ16aのレジプリンタにより、レシートに購入者が購入した商品の商品名及び購入金額を印字し、また、レシートの下端の部分に購入者が見ていたが購入しなかった商品の商品名を印字して出力する(ステップS28)。例えば、今日購入者ID「0001」の人物が商品ID「A001」の商品Kと商品ID「A004」の商品Oを見ており、商品ID「A001」の商品Kを購入し、商品ID「A004」の商品Oを購入しなかった場合、制御部4は、レシートに商品Kの商品名及び金額を印字し、また、レシートの下端の部分に商品Oの商品名を印字して出力する。
【0032】
なお、キャッシュレジスタ16b〜16mにより会計処理が行われた場合においても
図8のフローチャートを用いて説明した処理と同様の処理が行われる。
【0033】
本実施の形態に係る情報解析システム2によれば、購入者が見ていたが購入しなかった商品の商品名をレシートに印字するため、購入者が次回の購入の際に参考にすることができる有益な情報を提供することができる。
【0034】
なお、上述の実施の形態において、消耗商品に関する情報、セットとなる商品に関する情報、及び類似する商品に関する情報が商品記憶部14に記憶されていてもよい。そして、購入者が商品を購入した場合、
図9に示すフローチャートに従ってレシートの印字処理を行うようにしてもよい。
【0035】
例えば、商品Kを購入した購入者ID「0001」の人物がレジカメラ18aにより撮影され、キャッシュレジスタ16aで会計処理が行われたとする。この場合、制御部4は、まず、履歴ファイル30を参照し、購入者ID「0001」の人物が今日よりも前に購入した商品の商品IDを検出する。次に、商品記憶部14に記憶されている消耗商品に関する情報に基づいて、検出した商品IDの商品のうち、例えば、商品ID「Z001」の商品S、商品ID「Z002」の商品T、商品ID「Z003」の商品Uが定期的に消費される生活雑貨等の消耗商品であると特定する。
【0036】
次に、制御部4は、消耗商品S、消耗商品T、消耗商品Uの中で所定の日数、例えば、5日以内に購入者ID「0001」の人物が購入していない消耗商品があるか否かを判定する(ステップS31)。5日以内に購入者ID「0001」の人物が購入していない消耗商品がある場合(ステップS31:Yes)、例えば、消耗商品Sが5日以内に購入されていない場合、制御部4は、キャッシュレジスタ16aのレシートプリンタによりレシートに購入者が購入した商品Kの商品名及び購入金額を印字し、また、レシートの下端の部分に消耗商品Sの商品名を印字して出力する(ステップS32)。
【0037】
一方、5日以内に購入者ID「0001」の人物が購入していない消耗商品がない場合(ステップS31:No)、制御部4は、商品記憶部14に記憶されているセットとなる商品に関する情報に基づいて、商品Kとセットになる商品があるか否かを判定する(ステップS33)。商品Kとセットになる商品がある場合(ステップS33:Yes)、例えば、商品Kがコーヒーであり、コーヒーとクリームがセットになる場合、制御部4は、キャッシュレジスタ16aのレシートプリンタによりレシートにコーヒーの商品名及びコーヒーの金額を印字し、また、レシートの下端の部分にクリープの商品名をレシートに印字して出力する(ステップS34)。
【0038】
一方、商品Kとセットになる商品がない場合(ステップS33:No)、制御部4は、商品記憶部14に記憶されている類似する商品に関する情報に基づいて、商品Kと類似する商品があるか否かを判定する(ステップS35)。商品Kと類似する商品がある場合(ステップS35:Yes)、例えば、商品Kがコーヒーであり、コーヒーと紅茶が類似する場合、制御部4は、キャッシュレジスタ16aのレシートプリンタによりレシートにコーヒーの商品名及びコーヒーの金額を印字し、また、レシートの下端の部分にコーヒーと類似する紅茶の商品名を印字して出力する(ステップS36)。一方、商品Kと類似する商品がない場合(ステップS35:No)、レシートプリンタにより商品Kの商品名及び商品Kの金額をレシートに印字して出力する(ステップS37)。これにより、消費期限が経過している商品、消費期限が経過しそうな商品、購入した商品とセットとなる商品、また購入した商品と類似する商品の買い忘れを防止することができる。
【0039】
なお、
図9のフローチャートによらず、所定の日数以内に購入者が購入していない消耗商品があるか否かの判定(ステップS31)、購入者が購入した商品とセットになる商品があるか否かの判定(ステップS33)、及び購入者が購入した商品とセットになる商品があるか否かの判定(ステップS35)を全て会計処理の際に行うようにしてもよい。これにより、例えば、購入者ID「0001」の人物がコーヒーを購入した場合において、消耗商品Sが5日以内に購入されておらず(ステップS31:Yes)、コーヒーとセットなる商品としてクリームがあり(ステップS33:Yes)、コーヒーと類似する商品として紅茶がある場合(ステップS35:Yes)、一枚のレシートにコーヒーの商品名と金額、消耗商品Sの商品名、クリームの商品名、紅茶の商品名を全て印字することができ、更に的確に商品の買い忘れを防止することができる。
【0040】
また、上述の実施の形態において、購入者が購入しなかった商品のうち、購入者が所定の時間を超えて見ていた商品の商品名をレシートに印字するようにしてもよい。例えば、購入者ID「0001」の人物が商品Kを購入したとする。ここで、購入者ID「0001」の人物は、商品Vを10秒、商品Wを15秒、商品Xを15秒、商品Yを20秒、商品Zを30秒見ていたが購入しなかったとする。この場合、レシートの下端の部分に15秒を超えて見ていたが買わなかった商品Yの商品名及び商品Zの商品名を印字するようにしてもよい。これにより、購入者が見ていたが購入しなかった商品の数が多い場合、レシートに印字する商品名を購入者が次回の購入の際に真に参考にすることができる商品の商品名のみに限定することができる。
【0041】
また、購入者が見ていたが購入しなかった商品の商品名を、見ていた時間が長い順に所定の個数レシートに印字するようにしてもよい。例えば、購入者ID「0001」の人物は、商品Vを10秒、商品Wを15秒、商品Xを15秒、商品Yを20秒、商品Zを30秒見ていたが購入しなかったとする。この場合、見ていた時間が長い順に二つの商品の商品名、即ち、商品Zの商品名、商品Yの商品名をレシートの下端の部分に印字するようにしてもよい。
【0042】
また、上述の実施の形態において、情報解析システム2が購入者の顔の画像データ、購入者の住所及びメールアドレス等の個人情報を予め記憶する個人情報記憶部、メールサーバとの間で電子メールの送受信を行う無線通信部を備えていてもよい。そして、購入処理において特定された購入者(
図4、ステップS23)が個人情報記憶部に記憶されている購入者と一致する場合、制御部4は、無線通信部及びメールサーバを介して、購入者が見ていたが購入しなかった商品の商品名を記載した電子メールを購入者のメールアドレスに送信するようにしてもよい。これにより、購入者に対して的確に有益な情報を提供することができる。なお、購入処理において特定された購入者が個人情報記憶部に記憶されている購入者と一致した場合、購入者が見ていたが購入しなかった商品の商品名をダイレクトメールに印字するようにしてもよい。
【0043】
また、上述の実施の形態において、商品に関連するおすすめの情報が商品記憶部14に記憶されていてもよい。例えば、カニという商品に関連して北海道旅行に関する情報が記憶されていてもよい。そして、購入者がカニを購入した場合、北海道旅行に関する情報をレシートの下端の部分に印字するようにしてもよい。
【0044】
また、上述の実施の形態において、キャッシュレジスタ16に購入金額等を購入者が確認することができるように表示する表示部を備えてもよい。そして、会計処理の終了操作が行われたときに、制御部4は、購入者が見ていたが購入しなかった商品の商品名を表示部に表示するようにしてもよい。これにより、効果的に商品の買い忘れを防止することができる。