(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0008】
以下、店舗会計システムの実施形態について、図面を用いて説明する。この実施形態は、スーパーマーケット等の店舗に設けられた会計カウンタに立設される縦型の商品読取装置を含む店舗会計システムに適用した場合である。
【0009】
図1は、一実施形態に係る店舗会計システムの外観図である。このシステムは、登録部としての商品読取装置1と、決済部としてのPOS(Point Of Sales)端末2とを含む。商品読取装置1は、会計カウンタ3の上に取り付けられる。POS端末2は、レジ台4の上にドロワ5を介して設置される。商品読取装置1とPOS端末2とは、図示しない通信ケーブルにより電気的に接続される。
【0010】
商品読取装置1は、商品の登録に必要なデバイスとしてキーボード11、タッチパネル12及び客用ディスプレイ13を備える。これらの表示・操作デバイス(キーボード11、タッチパネル12、客用ディスプレイ13)は、商品読取装置1の本体を構成する薄型矩形形状のハウジング1Aに取り付けられる。
【0011】
ハウジング1Aには、撮像部14が内蔵される。また、矩形状の読取窓1Bが、ハウジング1Aの正面に形成される。撮像部14は、エリアイメージセンサであるCCD(Charge Coupled Device)撮像素子及びその駆動回路と、撮像領域の画像をCCD撮像素子に結像させるための撮像レンズとを備える。撮像領域とは、読取窓1Bから撮像レンズを通してCCD撮像素子のエリアに結像するフレーム画像の領域を指す。撮像部14は、撮像レンズを通ってCCD撮像素子に結像した撮像領域の画像を出力する。ここに、撮像部14は、読取窓1Bにかざされた商品を含む画像を撮像する撮像手段として機能する。
【0012】
POS端末2は、決済に必要なデバイスとしてキーボード21、オペレータ用ディスプレイ22、客用ディスプレイ23及びレシートプリンタ24を備える。
【0013】
会計カウンタ3は、その奥側の顧客通路に沿って細長い形状である。レジ台4は、会計カウンタ3に沿って移動する顧客の移動方向に対して下流側の会計カウンタ3の端部手前側に、会計カウンタ3に対して略垂直に置かれる。そして、この会計カウンタ3の手前側とレジ台4の手前側が、会計担当の店員いわゆるキャッシャのスペースとなる。
【0014】
会計カウンタ3の略中央には、商品読取装置1のハウジング1Aが、キーボード11、タッチパネル12及び読取窓1Bをそれぞれ手前側のキャッシャ側に向けて立設される。商品読取装置1の客用ディスプレイ13は、顧客通路側を向いてハウジング1Aに取り付けられる。
【0015】
会計カウンタ3の商品読取装置1を挟んで顧客移動方向上流側の荷受面は、買物客が購入する未登録の商品Mが入れられた買物カゴ6を置くためのスペースとなる。また、下流側の荷受面は、商品読取装置1により登録された商品Mを入れる買物カゴ7を置くためのスペースとなる。
【0016】
図2は、商品読取装置1とPOS端末2とのハードウェア構成を示すブロック図である。商品読取装置1は、制御部本体としてCPU(Central Processing Unit)101を搭載する。そして商品読取装置1は、前記CPU101に、アドレスバス,データバス等のバスライン102を介して、ROM103及びRAM104を接続する。ROM103は、CPU101によって実行されるプログラムを記憶する。RAM104は、後述する異物認識辞書ファイル9を記憶する。
【0017】
また商品読取装置1は、前記撮像部14と音声出力部105とを搭載する。これら撮像部14及び音声出力部105も、それぞれバスライン102を介してCPU101に接続される。音声出力部105は、音声ガイダンスを出力する音声出力手段として機能する。
【0018】
バスライン102にはさらに、接続インターフェース106及び接続インターフェース107を介して、表示・操作デバイスであるキーボード11、タッチパネル12及び客用ディスプレイ13が接続される。タッチパネル12は、例えば液晶ディスプレイを用いたパネル表示部121と、このパネル表示部121の画面上に重ねて配置されたタッチパネルセンサ122とを備える。
【0019】
POS端末2も、制御部本体としてCPU201を搭載する。そしてPOS端末2は、前記CPU201に、バスライン202を介して、ROM203、RAM204、HDD(Hard Disk Drive)装置205、通信インターフェース206及び接続インターフェース207を接続する。また、前記キーボード21、オペレータ用ディスプレイ22、客用ディスプレイ23、プリンタ24及びドロワ5の各部も、それぞれバスライン202を介してCPU201に接続される。
【0020】
通信インターフェース206は、LAN(Local Area Network)等のネットワークを介して、店舗の中枢を担うストアコンピュータSCと接続される。この接続により、POS端末2は、ストアコンピュータSCとデータの送受信が可能となる。例えばPOS端末2は、ストアコンピュータSCから商品データファイル8を受信する。受信した商品データファイル8は、HDD装置205に保存される。
【0021】
接続インターフェース207は、通信ケーブルを介して、商品読取装置1の両接続インターフェース106,107と接続される。この接続により、POS端末2は、商品読取装置1とデータの送受信が可能となる。例えばPOS端末2は、商品読取装置1で読み取られた商品情報を受信する。またPOS端末2は、前記商品データファイル8のデータを商品読取装置1に送信する。
【0022】
図3は、商品データファイル8のデータ構造を示す模式図である。
図3に示すように、商品データファイル8には、各商品を識別する商品コードに関連付けて、その商品の属性(商品分類)、名称(商品名)、単価、外観特徴パラメータ等が記憶される。外観特徴パラメータは、商品の形状、表面の色合い、模様、凹凸状況等のような商品の標準的な外観の特徴量を商品毎に数値化したものである。
【0023】
図4は、異物認識辞書ファイル9のデータ構造を示す模式図である。
図4に示すように、異物認識辞書ファイル9には、種々の異物の外観特徴パラメータと、それぞれの異物に対応するガイダンスデータとが記憶される。ここで、異物とは、読取部である前記読取窓1Bにかざされ、撮像手段である撮像部14によって撮像された場合であっても決済部であるPOS端末2にて売上処理がされない商品以外の物体であり、代表的な物としては、商品を読取窓1Bにかざす際のオペレータの手や、商品を包装するトレイ,ネットなどの包装容器である。一方、ガイダンスデータは、対応する異物を認識したときに音声出力されるデータであり、例えば異物である手に対しては、「手を認識しています。」というようなガイダンスデータが設定される。
【0024】
本実施形態では、商品読取装置1のオペレータとなり得る各キャッシャの左右の手の甲や指の形、色合い、凹凸状況等のような外観の特徴量をそれぞれ数値化して、異物外観特徴データとして異物認識辞書ファイル9に保存している。上記異物認識辞書ファイル9は、予めストアコンピュータSCで作成され、POS端末2を介して商品読取装置1のRAM104に格納される。ここに、異物認識辞書ファイル9は、読取窓1B(読取部)にかざされ、撮像部14(撮像手段)によって撮像された場合であってもPOS端末2(決済部)にて売上処理がされない商品以外の物体の外観を表わすデータを記憶する記憶手段として機能する。
【0025】
しかして、商品読取装置1のCPU101は、
図5に示すように、撮像部14により撮像された画像から読取窓1Bにかざされた物体を認識する認識手段31と、この認識手段31により認識された物体がPOS端末2(決済部)で売上処理される商品であると、当該商品の情報をPOS端末2に出力する出力手段32と、認識手段31により認識された物体がPOS端末2で売上処理されない商品以外の物体であると報知する報知手段33とを備える。またCPU101は、認識手段31により認識された物体がPOS端末2で売上処理される商品であるのか売上処理されない商品以外の物体であるのか否かを判定する判定手段34を備え、報知手段33は、判定手段34により商品以外の物体が認識されたと判定されると報知する。さらにCPU101は、撮像手段により撮像される画像をタッチパネル12に表示させる表示手段35を備え、報知手段33は、タッチパネル12に表示された画像のなかの認識手段31により認識した商品以外の物体を示すことで報知する。また、報知手段33は、タッチパネル12に表示された画像のなかの認識手段31により認識した商品以外の物体(異物)を示した後、一定時間が経過すると、音声出力部105から前記異物認識辞書ファイル9において当該異物に対応して設定されているガイダンスデータの音声ガイダンスを出力する。
【0026】
図6の流れ図を用いて上記CPU101の各機能について説明する。この流れ図は、前記商品読取プログラムにしたがってCPU101が実行する情報処理の要部手順を示すものである。
【0027】
この処理は、例えばPOS端末2から接続インターフェース106を介して商品登録の開始を指令するコマンドが入力されると開始される。先ず、CPU101は、タッチパネル12のパネル表示部121に画像認識画面50を表示させる(ST1)。
【0028】
画像認識画面50の一例を、
図7に示す。図示するように画像認識画面50は、画像表示領域Rを含み、登録画面60の上に重ねてポップアップ表示される。登録画面60は、カレントエリア61と明細エリア62とを有する。カレントエリア61は、最新の登録商品の商品名、単価、数量、金額等を表示するための領域である。明細エリア62は、1商取引で登録された各商品の商品名、単価、数量、金額等を表示するための領域である。
【0029】
次に、CPU101は、撮像部14に対して撮像オン信号を出力する(ST2)。この撮像オン信号により、撮像部14は撮像領域の撮像を開始する。撮像部14で撮像された撮像領域のフレーム画像は、RAM104に順次保存される。
【0030】
CPU101は、RAM104に保存されたフレーム画像を取り込む(ST3)。そしてCPU101は、このフレーム画像を画像認識画面50の画像表示領域Rに表示させる(ST4)。
【0031】
次に、CPU101は、画像表示領域Rに表示されたフレーム画像から、その画像に含まれる物体を認識する(ST5)。具体的には、CPU101は先ず、フレーム画像を二値化した画像から輪郭線等を抽出する。これにより、CPU101は、フレーム画像に映し出されている物体の輪郭抽出を試みる。物体の輪郭が抽出されると、CPU101は、その輪郭内の画像から、物体の形状、表面の色合い、模様、凹凸状況等の特徴量を読み取る。そしてCPU101は、読み取った特徴量データを、異物認識辞書ファイル9に保存されている各外観特徴パラメータと照合して、特徴量データに類似した外観特徴パラメータが検出されるか否かを判定する(ST6)。
【0032】
その結果、異物認識辞書ファイル9に保存されている特徴量データに類似した外観特徴パラメータが検出されない場合には、CPU101は商品Mを検知したと認識する(ST6にてYES)。これに対し、異物認識辞書ファイル9に保存されている特徴量データに類似した外観特徴パラメータが検出された場合には、CPU101は商品以外の異物Nを検知したと認識する(ST6にてNO)。
【0033】
このような画像中に含まれる物体を認識する技術は、一般物体認識(generic object recognition)と呼ばれる。この一般物体認識の技術については、下記の文献において各種認識技術が解説されている。
柳井 啓司,“一般物体認識の現状と今後”,情報処理学会論文誌,Vol.48,No.SIG16[平成22年8月10日検索],インターネット< URL: http://mm.cs.uec.ac.jp/IPSJ-TCVIM-Yanai.pdf >
また、画像をオブジェクト毎に領域分割することによって、一般物体認識を行う技術が、下記の文献において解説されている。
Jamie Shottonら,“Semantic Texton Forests for Image Categorization and Segmentation”,[平成22年8月10日検索],インターネット< URL: http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.145.3036&rep=repl&type=pdf >
CPU101は、商品Mまたは商品以外の異物Nを認識するまで、画像認識画面50に表示されるフレーム画像の認識処理を繰り返す。
【0034】
例えば
図7に示すように、オペレータが商品Mの輪郭が抽出されるように商品Mを読取窓1Bにかざすと、フレーム画像から商品Mの輪郭が抽出されて商品Mが認識される。商品Mが認識されると(ST6にてYES)、CPU101は、認識された商品Mの特徴量データをPOS端末2に出力する(ST7)。このとき、CPU101は、フレーム画像から認識した物体(商品M)を囲うように枠を画像表示領域R内に表示させる。
【0035】
POS端末2のCPU201は、商品読取装置1から商品Mの特徴量データを入力すると、その特徴量データを、商品データファイル8に記憶されている各商品の商品別外観特徴パラメータと照合する。そして、商品Mの特徴量に最も類似した外観特徴パラメータを有する商品を、商品Mとして確定する。
【0036】
商品Mが確定されると、CPU201は、商品データファイル8からこの商品Mの商品コード、商品名、単価等を読出す。また、販売点数を“1”として販売金額を算出する。そしてこの商品コード、商品名、単価、販売点数、販売金額等を含む商品販売データを、RAM204に売上処理する。また、この商品販売データを確定商品情報として、接続インターフェース207を介して商品読取装置1に出力する。
【0037】
ステップST7にて商品Mの特徴量データをPOS端末2に出力したCPU101は、確定商品情報を待機する(ST8)。そして、接続インターフェース106を介してPOS端末2から確定商品情報を受信したならば(ST8にてYES)、CPU101は、登録画面60のカレントエリアに、確定商品情報の商品コード、商品名、単価、販売点数、販売金額等を表示させる(ST9)。
【0038】
しかる後、CPU101は、商品登録の終了を指令するコマンドが入力されたか否かを判断する(ST10)。終了指令コマンドが入力されていない場合(ST10にてNO)、CPU101は、RAM104から次のフレーム画像を取り込む(ST3)。
【0039】
前記終了指令コマンドは、例えばキーボード11に配置された[合計]キーが入力操作されたことに応じて、POS端末2から商品読取装置1に出力される。すなわち、POS端末2のCPU201は、商品読取装置1から[合計]キーのキー信号が入力されると、終了指令コマンドを商品読取装置1に出力する。また、RAM204に登録された商品販売データに基づいて、1商取引の登録締め処理を実行する。
【0040】
接続インターフェース106を介して終了指令コマンドが入力されると(ST10にてYES)、CPU101は、撮像部14に対して撮像オフ信号を出力する(ST11)。また、CPU101は、パネル表示部121から画像認識画面50を消去する(ST12)。前記撮像オフ信号により、撮像部14は撮像領域の撮像を終了する。
【0041】
一方、例えば
図8に示すように、オペレータが商品Mを手の甲と指で隠して読取窓1Bにかざすと、商品Mの輪郭は抽出されず、手の輪郭が抽出される。このため、商品Mは認識されず、オペレータの手が商品以外の異物Nとして認識される。商品以外の異物Nが認されると(ST6にてNO)、CPU101は、
図9に示すように、異物Nとして認識している手を囲うように、矩形状の枠51を画像表示領域R内に表示させる(ST13)。このときの枠51は、認識した商品Mを囲うときの枠とは例えば色や形状などが異なるようにする。
【0042】
また、CPU101は、画像認識画面50に確認ボタン52の画像を表示させる。そして、この確認ボタン52の画像がタッチ操作されるのを待機する(ST14)。この待機期間中、CPU101は、所定時間(例えば5秒)が経過したか否かを判断する(ST15)。確認ボタン52の画像がタッチ操作されることなく(ST14にてNO)、所定時間が経過した場合(ST15にてYES)、CPU101は、所定の音声ガイダンス、例えば「商品をかざしてください」を音声出力部105から出力させる(ST16)。しかる後、CPU101は、再び確認ボタン52の画像がタッチ操作されるのを待機する(ST14)。
【0043】
タッチパネルセンサ122からの信号により、確認ボタン52の画像がタッチ操作されたことを検知すると(ST14のYES)、CPU101は、RAM104から次のフレーム画像を取り込む(ST3)。そしてCPU101は、ステップST3以降の処理を再度実行する。
【0044】
このように、商品読取装置1においては、商品読取プログラムにしたがってCPU101が実行する情報処理手順のステップST1の処理により表示手段35が構成され、ステップST5の処理により認識手段31が構成され、ステップST6の処理により判定手段34が構成され、ステップST7の処理により出力手段32が構成され、ステップST13〜ST16の処理により報知手段33が構成される。すなわち報知手段33は、撮像画像から商品以外の物体が異物Nとして認識されると、タッチパネル12に表示される撮像画像に表示される異物Nを枠51で囲うことにより報知し、その後、確認ボタン52の画像がタッチ操作されることなく一定時間が経過すると、音声出力部105から音声ガイダンスを出力することで報知する。
【0045】
本実施形態の店舗会計システムが導入された店舗のキャッシャは、買物カゴ6から未登録の商品Mを取り出したならば、その商品Mを商品読取装置1の読取窓1Bにかざす。そうすると、タッチパネル12に表示されている画像認識画面50の画像表示領域R内に、撮像部14で撮像されている画像が表示される。
【0046】
このとき、
図7に示すように、キャッシャが商品Mの外観がわかるように商品Mを読取窓1Bにかざした場合は、商品読取装置1において商品Mが認識される。その結果,POS端末2では、商品Mの販売データが売上処理される。
【0047】
ところが、
図8に示すように、キャッシャが商品Mを手で隠した状態で読取窓1Bにかざしてしまうと、商品Mは認識されない。商品読取装置1においては、キャッシャの手が異物Nとして認識される。このとき、
図9に示すように、画像認識画面50では、CPU101の認識手段31が現在認識する物体としてキャッシャの手を囲うように矩形状の枠51が表示される。したがってキャッシャは、手の画像に枠51が表示されたことにより、商品Mでなく手が認識されてしまったと容易に確認することができる。
【0048】
また、枠51が表示された後、確認ボタン52の画像がタッチ操作されることなく一定時間が経過すると、音声ガイダンスによって商品Mが認識されていないことが報知される。したがって、枠51の表示に気づかなくても、直ぐにキャッシャは商品Mが認識されていないことに気がつくので、迅速な対応をとることができる。
【0049】
なお、本発明は、前記実施形態に限定されるものではない。
例えば前記実施形態では、商品以外の物体を認識すると、タッチパネル12に表示されている撮像画像のなかの認識した物体を囲うように枠51を表示し、さらに一定時間が経過すると、所定の音声ガイダンスを出力して商品Mを認識していないことを報知したが、音声出力を省略し、枠51の表示だけで報知してもよい。あるいは、逆に音声出力だけで報知してもよい。また、報知の内容は、枠51の表示やガイダンスの音声出力に限定されるものではなく、要は、オペレータに商品が認識されていないことを通知できればよい。
【0050】
また、前記実施形態では、異物認識辞書ファイル9の格納場所を商品読取装置1のRAM104としたが、格納場所はこれに限定されるものではない。例えば、POS端末2のHDD装置205に格納してもよい。また、前記実施形態では、先に認識物が商品以外の異物か否かを判定し、異物でなければ商品Mを特定したが、先に認識物が商品であるか否かを判定し、商品であると特定できない場合に認識物が異物であると判定してもよい。この場合、必ずしも異物認識辞書ファイル9は必要としない。
【0051】
また、前記実施形態は、キャッシャが対応する会計カウンタの商品読取装置1に適用したが、適用事例はこれに限定されるものではない。例えば、客自身が自ら会計を行うセルフチェックアウトシステムの商品読取装置に適用することも可能である。また、商品読取装置1がPOS端末2に組み込まれて一体として構成されていてもよい。要は、商品読取装置1とPOS端末2とからなるチェックアウトシステムに適用可能である。
【0052】
また、前記実施形態は、装置内部のプログラム記憶部であるROM103に発明の機能を実現させる商品読取プログラムが予め記録されているものとした。しかしこれに限らず、同様のプログラムがネットワークから装置にダウンロードされてもよい。あるいは、記録媒体に記録された同様のプログラムが、装置にインストールされてもよい。記録媒体は、CD−ROM,メモリカード等のようにプログラムを記憶でき、かつ装置が読み取り可能であれば、その形態は問わない。また、プログラムのインストールやダウンロードにより得る機能は、装置内部のOS(オペレーティング・システム)等と協働してその機能を実現させるものであってもよい。
【0053】
この他、本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
以下に、本願出願の当初の特許請求の範囲に記載された発明を付記する。
[1]撮像手段により撮像された画像から読取部にかざされた物体を認識する認識手段と、前記認識手段により認識された物体が決済部で売上処理される商品であると、当該商品の情報を前記決済部へ出力する出力手段と、前記認識手段により認識された物体が前記決済部で売上処理されない商品以外の物体であると報知する報知手段と、を具備したことを特徴とする商品読取装置。
[2]前記認識手段により認識された物体が前記決済部で売上処理される商品であるのか売上処理されない商品以外の物体であるのかを判定する判定手段、をさらに具備したことを特徴とする付記[1]記載の商品読取装置。
[3]前記読取部にかざされ、前記撮像手段で撮像された場合であっても前記決済部で売上処理がされない商品以外の物体の外観を表わすデータを記憶する記憶手段、をさらに具備し、前記判定手段は、前記記憶手段に記憶されるデータに基づいて判定することを特徴とする付記[2]記載の商品読取装置。
[4]前記撮像手段により撮像される画像を表示する表示手段、をさらに具備し、前記報知手段は、前記表示手段により表示された画像のなかの前記認識手段により認識した前記商品以外の物体を示すことで報知することを特徴とする付記[1]乃至[3]のうちいずれか1に記載の商品読取装置。
[5]音声ガイダンスを出力する音声出力手段、をさらに具備し、前記報知手段は、前記表示手段により表示された画像のなかの前記認識手段により認識した前記商品以外の物体を示した後、一定時間が経過すると、前記音声出力手段により所定の音声ガイダンスを出力することで報知することを特徴とする付記[4]に記載の商品読取装置。
[6]コンピュータに、撮像手段により撮像された画像から読取部にかざされた物体を認識させる認識機能と、この認識機能により認識された物体が決済部で売上処理される商品であると、当該商品の情報を前記決済部へ出力させる出力機能と、前記認識機能により認識された物体が前記決済部で売上処理されない商品以外の物体であると報知させる報知機能と、を実現させるための商品読取プログラム。