(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-07-15
(45)【発行日】2022-07-26
(54)【発明の名称】商品読取システム
(51)【国際特許分類】
G07G 1/00 20060101AFI20220719BHJP
【FI】
G07G1/00 311E
G07G1/00 331Z
(21)【出願番号】P 2018077898
(22)【出願日】2018-04-13
【審査請求日】2021-01-19
(73)【特許権者】
【識別番号】000003562
【氏名又は名称】東芝テック株式会社
(74)【代理人】
【識別番号】100108855
【氏名又は名称】蔵田 昌俊
(74)【代理人】
【識別番号】100103034
【氏名又は名称】野河 信久
(74)【代理人】
【識別番号】100075672
【氏名又は名称】峰 隆司
(74)【代理人】
【識別番号】100153051
【氏名又は名称】河野 直樹
(74)【代理人】
【識別番号】100179062
【氏名又は名称】井上 正
(74)【代理人】
【識別番号】100189913
【氏名又は名称】鵜飼 健
(72)【発明者】
【氏名】平原 嘉幸
【審査官】永安 真
(56)【参考文献】
【文献】特開平05-303660(JP,A)
【文献】特開2016-175162(JP,A)
【文献】特開平05-217014(JP,A)
【文献】特開2012-232749(JP,A)
【文献】特開2013-100118(JP,A)
【文献】特開2014-109924(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G07G 1/00 - 1/14
(57)【特許請求の範囲】
【請求項1】
商品が置かれる台を上方から撮影するカメラと、
前記台に置かれた商品を把持するアーム装置と、
読取位置にある前記商品の外観に存在する商品特定情報を読み取るスキャナと、
前記カメラが撮影した画像から検出される前記商品の形状に応じて
異なるアルゴリズムを用いた把持設定で前記アーム装置に前記商品を把持させ、前記アーム装置が把持する前記商品を前記スキャナの読取位置で回転させて前記スキャナに商品特定情報を読み取らせるコントローラと、
を有する商品読取システム。
【請求項2】
前記アーム装置は、それぞれに把持機構を設けた第1アームと第2アームとを有し、
前記コントローラは、前記商品の形状が袋状である場合、
前記第1アームに設けた把持機構と前記第2アームに設けた把持機構とを前記台における商品の載置面に沿って移動させ、前記第1アームに設けた把持機構で前記商品の第1端部を把持し、前記第2アームに設けた把持機構で前記第1端部とは前記台上の前記商品を挟んで反対側にある第2端部を把持する把持設定とする、
請求項1に記載の商品読取システム。
【請求項3】
前記コントローラは、前記商品の形状が箱状である場合、前記第1アームに設けた把持機構と
前記第2アームに設けた把持機構とがそれぞれ前記商品の両端を
上方から把持する把持設定とする、
請求項2に記載の商品読取システム。
【請求項4】
前記カメラが撮影した画像に対する画像認識によって商品特定情報を認識するプロセッサを有し、
前記コントローラは、前記スキャナが前記商品の商品特定情報を読み取れない場合、前記アーム装置が把持する前記商品を前記カメラの撮影領域において回転させて前記カメラが撮影する画像に基づいて前記プロセッサに前記商品の商品特定情報を認識させる、
請求項1乃至3の何れか1項に記載の商品読取システム。
【請求項5】
前記アーム装置が把持する前記商品の商品特定情報を前記商品の精算処理を行う精算装置へ出力する通信装置を有する、
請求項1乃至4の何れか1項に記載の商品読取システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、商品読取システムに関する。
【背景技術】
【0002】
従来、コンビニエンスストアやスーパーマーケットなどの小売店では、精算装置にバーコードなどの商品特定情報を読み取らせてから当該商品の精算処理を実施している。精算装置は、小売店の係員が操作し、係員の手作業によって商品に印刷されているバーコードを読取るものが多い。近年では、人手不足などから精算装置が精算の対象とする商品を読み取らせる作業(商品読取業務)を省力化することが要望されている。
【0003】
従来の技術としては、商品などの物品を把持するためのロボットアームを備える装置が提案されている。しかしながら、従来の装置が備えるロボットアームは、把持した物品を所定の場所に移動させたり、把持した物品を袋や箱などの収納部に入れたりするものである。このため、従来の技術では、商品のバーコードなどを読み取る商品読取業務を省力化することはできない。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明は、上記した課題を解決するために、商品にある商品特定情報を読み取る作業を省力化することができる商品読取システムを提供することを目的とする。
【課題を解決するための手段】
【0006】
実施形態によれば、商品読取システムは、カメラと、アーム装置と、スキャナと、コントローラとを有する。カメラは、商品が置かれる台を上方から撮影する。アーム装置と、前記台に置かれた商品を把持する。スキャナは、読取位置にある前記商品の外観に存在する商品特定情報を読み取る。コントローラは、前記カメラが撮影した画像から検出される前記商品の形状に応じて異なるアルゴリズムを用いた把持設定で前記アーム装置に前記商品を把持させ、前記アーム装置が把持する前記商品を前記スキャナの読取位置で回転させて前記スキャナに商品特定情報を読み取らせる。
【図面の簡単な説明】
【0007】
【
図1】
図1は、実施形態に係る商品読取システム(商品読取の支援システム)の外観構成を概略的に示す模式図である。
【
図2】
図2は、実施形態に係る商品読取システムとしてのロボット1の制御系の構成例を示すブロック図である。
【
図3】
図3は、実施形態に係る商品読取システムとしてのロボットの動作例を説明するためのフローチャートである。
【
図4】
図4は、実施形態に係る商品読取システムとしてのロボットの動作例を説明するためのフローチャートである。
【
図5】
図5は、実施形態に係る商品読取システムが袋状の商品をアームで把持する場合の動作例を説明するための図である。
【
図6】
図6は、実施形態に係る商品読取システムが箱状の商品をアームで把持した状態の例を説明するための図である。
【
図7】
図7は、実施形態に係る商品読取システムにおけるアームスキャナによるバーコードの読取処理の動作例を説明するためのフローチャートである。
【
図8】
図8は、実施形態に係る商品読取システムにおいて筒状の商品の高さが所定高以内である場合のアームスキャナの動作例を説明するための図である。
【
図9】
図9は、実施形態に係る商品読取システムにおいて筒状の商品の高さが所定高を超える場合のアームスキャナの動作例を説明するための図である。
【
図10】
図10は、実施形態に係る商品読取システムにおけるカメラの撮影画像に対する商品認識処理の動作例を説明するためのフローチャートである。
【発明を実施するための形態】
【0008】
以下、図面を参照しながら実施形態について説明する。
図1は、実施形態に係る商品読取システムとしての商品読取の支援システム(ロボット)1の外観構成を概略的に示す模式図である。
商品読取の支援システム(以下、単にロボットとも称する)1は、商品を特定する情報(商品特定情報)を取得(読取)するための装置である。
図1に示す構成例において、ロボット1は、精算装置(レジ)2で代金を精算すべき商品を特定する情報を取得するレジ業務を支援する。たとえば、ロボット1は、利用者が利用しやすいように、人物の上半身を模した人型の外観を有する。
【0009】
ロボット1は、商品の代金などを精算する精算装置2に接続する。ロボット1と精算装置2とは、商品の精算業務を行う取引システムを構成する。ロボット1および精算装置2を含む取引システムは、たとえば、コンビニエンスストアやスーバーマーケットなどの小売店などに設置される。取引システムにおいて、ロボット1は、精算装置2を設置する精算用のレジ台3の近傍に設ける。利用者は、ロボット1の手前にあるレジ台3に精算装置2で代金を精算する精算対象の商品を置く。ロボット1は、利用者がレジ台3に置いた商品から商品特定情報を読み取り、読取った商品特定情報を精算装置2へ供給する。
【0010】
商品特定情報は、商品の外観から読み取れる情報であれば良い。商品特定情報は、商品のパッケージに印刷されているバーコードである。また、商品特定情報は、商品を識別可能な数字や文字などの文字列でも良いし、商品に添付されたラベルの画像でも良いし、商品全体のシルエットなどであっても良い。ロボット1は、商品の外観にあるバーコードなどの商品特定情報がスキャナやカメラで読み取れるように、レジ台3上の商品を持ち上げて動かす。また、ロボット1は、持ち上げられない商品に沿ってスキャナを動かしてバーコードなどの商品特定情報を読み取る機能も有する。
【0011】
図1に示す構成例において、ロボット(本体)1は、センサ11、カメラ12、スキャナ13、第1アーム14、第2アーム15、アームスキャナ16、スピーカ17、マイク18、表示器19などを有する。
センサ11は、レジ台3に接近してきた人物、または、レジ台3に商品が置かれたことを検知するセンサである。たとえば、センサ11は、赤外線を用いて人物または商品を検知する赤外線センサである。センサ11は、人物または商品の有無を検知できるセンサであれば良い。
【0012】
カメラ12は、レジ台3周辺の画像を撮影する。カメラ12は、撮影方向あるいは撮影距離などを調整することにより撮影領域を変更する機能を有する。たとえば、カメラ12は、レジ2を利用者する人物(又はレジ台3に商品を置いた人物)を撮影するための撮影領域を設定し、レジ台3の近傍にいる人物を撮影する機能を有する。また、カメラ12は、レジ台3に置かれた商品を撮影するための撮影領域を設定し、レジ台3上の画像を撮影する機能も有する。
【0013】
スキャナ13は、商品の外観から商品特定情報を読み取る。本実施形態において、スキャナ13は、商品特定情報として、商品のパッケージの一部に印刷されたバーコードを読取るバーコードスキャナであるものとする。なお、スキャナ13は、商品の外観から商品特定情報であれば良く、2次元バーコードや文字列などを読み取るビデオカメラなどで構成しても良い。
【0014】
第1アーム14および第2アーム15は、レジ台3に置かれた商品に対して相対的に動作する。第1アーム14および第2アーム15は、アーム部14a、15aと把持機構14b、15bとを有する。アーム部14a、15aは、ロボット1本体に取り付けられた多関節のロボットアームである。把持機構14b、15bは、商品を把持する機構である。アーム部14a、15aは、把持機構14b、15bによる把持位置を3次元的に自在に移動させるものであれば良い。たとえば、第1アーム14および第2アーム15において、把持機構14b、15bは、それぞれアーム部14a、15aの先端部分に設けられる。すなわち、第1アーム14および第2アーム15は、把持機構14b、15bで商品を把持した状態でアーム部14a、15aを動かして当該商品を持ち上げたり、回転させたりする。
【0015】
把持機構14b、15bは、レジ台3上の商品を挟持したり摘まんだり吸着したりするように構成する。たとえば、把持機構14b、15bは、複数の指(2つの挟持部材、又は3~5本の指など)で構成される。また、把持機構14b、15bは、複数の指で構成するものに限定されるものではなく、商品の一部を吸着させる機構であっても良い。また、把持機構14b、15bは、複数の指、挟持部材、および、吸着させる機構などを組み合わせて構成しても良い。
【0016】
また、アームスキャナ16は、第1アーム14の動作によって読取位置が移動するスキャナである。たとえば、アームスキャナ16は、第1アーム14の先端部分に設けられ、第1アーム14の動作によって読取位置が移動する。本実施形態において、アームスキャナ16は、第1アーム14によって移動される読取位置において商品の外観から商品特定情報としてのバーコードを読み取るものとする。なお、アームスキャナ16は、第2アーム15に設けても良いし、第1アーム14および第2アーム15の両方に設けても良い。また、アームスキャナ16は、第1アーム14および第2アーム15とは別に設けても良い。
【0017】
スピーカ17は、音声を出力する。スピーカ17は、利用者に対して案内などの音声を出力する。マイク18は、音声を入力する。マイク18は、利用者が発した音声を入力する。スピーカ17およびマイク18は、利用者と対話形式で音声の入出力を行う対話装置を構成するものとしても良い。表示器19は、画像を表示する。たとえば、表示器19は、画像またはテキストなどによる利用者に対する案内を表示する。スピーカ17、マイク18および表示器19は、ユーザインターフェースとして機能する。
【0018】
次に、実施形態に係る商品読取装置としてのロボット1における制御系の構成について説明する。
図2は、実施形態に係る商品読取システム(商品読取の支援システム)としてのロボット1の制御系の構成例を示すブロック図である。
ロボット1は、システムコントローラ(制御装置)21、商品読取装置(商品リーダ)22、アーム装置23、対話装置(ユーザインターフェース)24、通信装置(通信モジュール)25などを有する。
【0019】
システムコントローラ21は、ロボットにおける各装置を統括的に制御する。
図2に示す構成例において、システムコントローラ21は、プロセッサ31、メモリ32、インターフェース(I/F)33を有する。
プロセッサ31は、プログラムを実行することにより各種の処理を実現する。プロセッサ31は、たとえば、CPUである。メモリ32は、ROM、RAMおよび書換え可能な不揮発性メモリなどのメモリで構成する。たとえば、メモリ32は、プログラムおよび制御データなどを記憶する不揮発性のメモリを含む。また、メモリ32は、データを一時的に格納するためのRAMなどのワーキングメモリを含む。
【0020】
メモリ32が記憶するプログラムには、基本プログラム(OS)の他、各種のアプリケーションプログラムが含まれる。アプリケーションプログラムには、後述する各種の処理を実行するためのプログラムなどが含まれる。プロセッサ31は、メモリ32が記憶する各種のプログラムを実行することにより後述する各種の処理を実現する。
【0021】
インターフェース(I/F)33は、ロボット1にける各装置と通信するためのインターフェースである。
プロセッサ31は、インターフェース33を介して各装置に制御指示を与えたり、各装置からの情報を取得したりする。たとえば、プロセッサ31は、商品読取装置22から商品特定情報の読取結果や人物の検知結果などを示す情報を取得する。また、プロセッサ31は、第1アーム14および第2アーム15を用いて商品を把持することをアーム装置23へ指示する。
【0022】
次に、商品読取装置22の制御系の構成例について説明する。
商品読取装置22は、商品から商品特定情報を読み取るものである。また、商品読取装置22は、人物や商品などを検知する機能を有する。
図2に示す構成例において、商品読取装置22は、プロセッサ41、メモリ42、インターフェース(I/F)43、画像メモリ44、カメラ駆動機構45、センサ11、カメラ12およびスキャナ13などを有する。
【0023】
プロセッサ41は、プログラムを実行することにより各種の処理を実現する。プロセッサ41は、たとえば、CPUである。メモリ42は、ROM、RAMおよび書換え可能な不揮発性メモリなどのメモリで構成する。たとえば、メモリ42は、プログラムおよび制御データなどを記憶する不揮発性のメモリを含む。また、メモリ42は、データを一時的に格納するためのRAMなどのワーキングメモリを含む。
【0024】
インターフェース(I/F)43は、システムコントローラ21と通信するためのインターフェースである。
画像メモリ44は、カメラ12が撮影した画像を記憶する。カメラ駆動機構45は、カメラ12を制御する。カメラ駆動機構45は、カメラ12の向きなどを移動させてカメラ12が撮影する領域を制御するようにしても良い。
【0025】
プロセッサ41は、メモリ42の記憶領域42a~42eに記憶するプログラムを実行することにより種々の処理を実現する。たとえば、記憶領域42aは、人物および物を特定する処理を実行するためのプログラムを格納するものとする。プロセッサ41は、記憶領域42aが記憶するプログラムを実行することにより、人物特定部あるいは物特定部として機能する。たとえば、プロセッサ41は、人物特定部として、カメラ12が撮影した画像を用いて利用者がレジ2の前(レジ台3の前)にいるかを確認する。また、プロセッサ41は、カメラ12が撮影した画像から利用者の特徴(性別、年齢など)を推測するようにしても良い。また、プロセッサ41は、物特定部として、レジ台3の上に商品があるかを確認するようにしても良い。
【0026】
記憶領域42bは、物品の大きさおよび形状などを認識する処理を行うためのプログラムを格納するものとする。プロセッサ41は、記憶領域42bが記憶するプログラムを実行することにより、物の大きさおよび形状などを認識する外観認識部として機能する。たとえば、プロセッサ41は、カメラ12が撮影した画像から、レジ台3上にある商品の大きさおよび形状などの特徴を示す情報を認識する。本実施形態において、プロセッサ41は、外観認識部として、商品が袋状の商品か箱状の形状を有する商品か、筒状の形状を有する商品か、袋状の外観を有する商品かを確認する。
【0027】
記憶領域42cは、位置を検出する処理を実行するためのプログラムを格納するものとする。プロセッサ41は、記憶領域42cが記憶するプログラムを実行することにより、位置を検出する位置検出部として機能する。たとえば、プロセッサ41は、カメラ12が撮影した画像に基づいてレジ台3上にある商品の位置を検出する。
【0028】
記憶領域42dは、商品特定情報としてのバーコードを検出する処理を実行するためのプログラムを格納するものとする。プロセッサ41は、記憶領域42dが記憶するプログラムを実行することにより商品に付されているバーコードを検出するバーコード検出部として機能する。たとえば、プロセッサ41は、スキャナ13またはアームスキャナ16が読取る画像からレジ台3上にある商品に付されたバーコードを検出する。
【0029】
記憶領域42eは、商品特定情報としての文字を認識する処理を実行するためのプログラムを格納するものとする。プロセッサ41は、記憶領域42eが記憶するプログラムを実行することにより商品に付されている文字を認識する文字認識部(OCR処理部)として機能する。たとえば、プロセッサ41は、カメラ12が撮影する画像からレジ台3上にある商品に付された商品特定情報としての文字を認識する。
【0030】
次に、アーム装置23の制御系の構成例について説明する。
アーム装置23は、第1アーム14および第2アーム15を動作させるものである。
図2に示す構成例において、アーム装置23は、プロセッサ51、メモリ52、インターフェース(I/F)53、アーム駆動機構54、第1アーム14、第2アーム15およびアームスキャナ16などを有する。
【0031】
プロセッサ51は、プログラムを実行することにより各種の処理を実現する。プロセッサ51は、たとえば、CPUである。メモリ52は、ROM、RAMおよび書換え可能な不揮発性メモリなどのメモリで構成する。たとえば、メモリ52は、プログラムおよび制御データなどを記憶する不揮発性のメモリを含む。また、メモリ52は、データを一時的に格納するためのRAMなどのワーキングメモリを含む。
インターフェース(I/F)53は、システムコントローラ21と通信するためのインターフェースである。
【0032】
アーム駆動機構54は、第1アーム14および第2アーム15の動きを制御する。たとえば、アーム駆動機構54は、システムコントローラ21からの動作指示に応じて第1アーム14および第2アーム15をそれぞれ動かす。たとえば、アーム駆動機構54は、システムコントローラ21からの指示に応じてレジ台3上にある商品を把持する。また、アーム駆動機構54は、指示に応じて把持した商品を動かす。さらに、アーム駆動機構54は、指示に応じて第1アーム14を動かしてアームスキャナ16による読取位置を移動させる。
【0033】
次に、対話装置24の制御系の構成例について説明する。
対話装置24は、ユーザインターフェースとして機能する。対話装置24は、ユーザに音声や画像などで情報を提供する。また、対話装置24は、ユーザからの情報を入力し、入力した情報に対する応答としての情報を出力する。
図2に示す構成例において、対話装置24は、プロセッサ61、メモリ62、インターフェース(I/F)63、スピーカ17、マイク18、表示器19などを有する。
【0034】
プロセッサ61は、プログラムを実行することにより各種の処理を実現する。プロセッサ61は、たとえば、CPUである。メモリ62は、ROM、RAMおよび書換え可能な不揮発性メモリなどのメモリで構成する。インターフェース(I/F)63は、システムコントローラ21と通信するためのインターフェースである。
【0035】
プロセッサ61は、システムコントローラ21からの指示などに応じてスピーカ17から音声を出力する。また、プロセッサ61は、マイク18に入力された音声情報をシステムコントローラ21へ供給する。これにより、プロセッサ61は、スピーカ17およびマイク18を用いて利用者との対話形式による音声の入出力を行う。また、プロセッサ61は、システムコントローラ21からの指示などに応じて表示器19に情報を表示する。
【0036】
次に、通信装置25の制御系の構成例について説明する。
通信装置25は、外部装置と通信するための通信インターフェースである。本実施形態において、通信装置25は、精算装置2と通信する。
図2に示す構成例において、通信装置25は、プロセッサ71、メモリ72、インターフェース(I/F)73、通信部74などを有する。
【0037】
プロセッサ71は、プログラムを実行することにより各種の処理を実現する。プロセッサ71は、たとえば、CPUである。メモリ72は、ROM、RAMおよび書換え可能な不揮発性メモリなどのメモリで構成する。インターフェース(I/F)73は、システムコントローラ21と通信するためのインターフェースである。通信部74は、外部装置と通信するためのインターフェースである。
図2に示す構成例では、通信部74は、精算装置2と通信するためのインターフェースを含む。
【0038】
なお、商品読取システムとしてのロボット1は、精算装置2と一体的に構成しても良い。また、ロボット1には、商品の代金を精算する機能を具備しても良い。たとえば、ロボット1には、クレジットカードあるいは電子マネーなどでの決済機能を設けても良い。この場合、ロボット1は、商品特定情報の読取りだけでなく、商品特定情報に基づくクレジットカードあるいは電子マネー等での決済も可能となる。
【0039】
次に、実施形態に係る商品読取装置としてのロボット1による商品読取業務の支援処理(商品読取処理)の動作について説明する。
図3及び
図4は、実施形態に係るロボット1の動作例を説明するためのフローチャートである。
待機状態において、商品読取装置22のプロセッサ41は、レジ台3の近傍を検知範囲として人物を検知するセンサ11を用いて人物の有無を監視する(ACT11)。センサ11が人物を検知すると(ACT11、YES)、プロセッサ41は、撮影領域をレジ台3の近傍となる人物検出用の撮影領域にセットしたカメラ12で画像を撮影する(ACT12)。人物検出用の撮影領域は、センサ11が検知した人物、あるいは、商品の精算などでレジ台3の手前に現れた人物を撮影できるような撮影領域であれば良い。
【0040】
たとえば、プロセッサ41は、カメラ駆動機構45によりレジ台3の手前の空間を含む領域を人物検出用の撮影範囲としてカメラ12に設定する。また、プロセッサ41は、センサ11が検知した人物の位置を推定し、推定した人物の位置に応じてカメラ12の向きや位置などを制御しても良い。なお、プロセッサ41は、カメラ12が撮影した画像を画像メモリ44に保存する。また、プロセッサ41は、連続的に複数の画像をカメラ12で撮影し、撮影した複数の画像を画像メモリ44に保存しても良い。
【0041】
カメラ12によりレジ台3近傍の画像を撮影すると、プロセッサ41は、カメラ12が撮影した撮影画像に人物が存在するかを判断する(ACT13)。これにより、プロセッサ41は、カメラ12が撮影する撮影画像からレジ台3の近傍にいる人物(利用者)を検出できる。プロセッサ41は、撮影画像からの人物の検出結果に基づいてレジ台3の近傍に利用者がいるか否かを判断する。利用者がいると判断できない場合(ACT13、NO)、プロセッサ41は、ACT11へ戻り、上述の処理を再度実行する。
【0042】
利用者がいると判断した場合(ACT13、YES)、プロセッサ41は、コントローラ21へ利用者を検知した旨を通知する。利用者を検知した旨の通知を受けると、システムコントローラ21は、対話装置24を用いた当該利用者に対する案内を行う(ACT14)。たとえば、システムコントローラ21は、対話装置24に対して音声指示を出力することにより、スピーカ17から「いらっしゃいませ」などの挨拶の音声を出力する。また、システムコントローラ21は、音声案内とともに表示器19に案内を表示するようにしても良い。
【0043】
また、利用者を検知した場合、プロセッサ41は、撮影領域としてレジ台3上の商品配置位置を含む商品検出用の撮影領域をセットしたカメラ12で画像を撮影する(ACT15)。商品検出用の撮影領域は、レジ台3上に置かれた精算(登録)対象の商品が置かれる領域を含むものであれば良い。たとえば、商品検出用の撮影領域は、レジ台3上の商品が載置可能な領域、あるいは、レジ台3上に設けた商品の配置位置を含む領域であっても良い。ここで、プロセッサ41は、カメラ12が撮影する商品検出用の撮影領域の画像を画像メモリ44に保存するようにしても良い。
【0044】
カメラ12により商品検出用の撮影領域を撮影すると、プロセッサ41は、カメラ12が撮影した画像(商品検出用の撮影画像)に商品が存在するかを判断する(ACT16)。これにより、商品読取装置22は、レジ台3上に置かれた商品を検出できる。なお、プロセッサ41は、カメラ12の撮影画像から商品を検出する手法以外の手法でレジ台3上の商品の有無を判断するようにしても良い。
【0045】
レジ台3上に商品がないと判断した場合(ACT16、NO)、プロセッサ41は、ACT15へ戻り、上述の処理を再度実行する。すなわち、商品が検出できなければ、プロセッサ41は、対話装置24を用いてレジ台3に商品を置くことを促す案内を音声や表示などで行う。たとえば、プロセッサ41は、対話装置24のスピーカ17から「商品をレジ台の上に置いて下さい」と発話するようにしても良い。このような案内と共に、プロセッサ41は、レジ台3上の画像撮影と商品検出とを繰り返し実行する。
【0046】
レジ台3上に商品があると判断した場合(ACT16、YES)、プロセッサ41は、レジ台3上にある商品がアーム装置23で把持すべきものであるかを判定する。すなわち、プロセッサ41は、レジ台3上にある商品の形状を特定する(ACT17)。本実施形態において、プロセッサ41は、商品の形状が、袋状、箱状、筒状の何れであるかを特定するものとする。
【0047】
ここで、袋状の商品とは、所定の把持サイズ以内であれば、アーム装置23が把持できるものであり、外観の形状が変形するものとする。袋状の商品は、所定の大きさ以内であれば、アーム装置23が把持した状態で持ち上げたり回転させたりできる形状であれば良い。また、箱状の商品とは、所定の把持サイズ以内であれば、アーム装置23が把持できる形状を有する固形の物品であるものとする。箱状の商品は、6面体の形状に限定されるものではなく、所定の大きさ以内であれば、アーム装置23が把持した状態で持ち上げたり回転させたりできる形状であれば良い。
【0048】
なお、袋状の商品または箱状の商品が把持できるか否かは、把持サイズではなく、当該商品の重さで判定しても良い。この場合、レジ台3上の商品の重さは、レジ台3に設けた重量センサなどで計測するようにすれば良い。
【0049】
また、筒状の商品とは、袋状および箱状以外のものであり、アーム装置23で把持できない(把持すべきでない)形状を有する物品であるものとする。筒状の商品としては、円筒形状の物品に限らず、多角柱、円錐、角錐などのアーム装置23で把持できない形状の物品も含むものとする。たとえば、筒状の商品は、ペットボトル、缶、瓶、カップなどの物品を想定する。
【0050】
レジ台3上にある商品の形状が袋状であると判断した場合(ACT18、YES)、プロセッサ41は、当該商品のサイズが袋の把持サイズ以内であるかを判断する(ACT19)。本実施形態において、アーム装置23は、袋の把持サイズを超えるサイズの袋状の商品を把持できない(把持すべきでない)ものとする。なお、袋状の商品が把持できるか否かは、当該商品の重さで判定するようにしても良い。
【0051】
商品が袋状であると判断した場合、プロセッサ41は、当該商品を把持するか(把持できるか)どうかを当該商品の大きさで判断する。プロセッサ41は、レジ台3上を撮影した画像(商品検出用の撮影画像)における当該商品の画像領域から当該商品の大きさを特定(推定)する。本実施形態において、袋状の商品の大きさは、商品検出用の撮影画像において検出する当該商品のエッジ位置から特定する対角線の長さとする。ただし、袋状の商品の大きさは、当該商品の画像領域の画素数や当該商品の画像領域の面積の推定値などで定義しても良い。
【0052】
たとえば、プロセッサ41は、商品検出用の撮影画像において当該商品の画像領域とする矩形領域のエッジとなる4点を検出する。プロセッサ41は、検出した4点からなる矩形の対角線の長さを当該商品の大きさとする。この場合、袋の把持サイズとしては、2つのアーム14,15で両端を摘まんで持ち上げられる商品の大きさ(対角線の長さ)の最大値が設定される。たとえば、袋の把持サイズを500mmすれば、プロセッサ41は、撮影画像における商品のエッジから特定する対角線の長さが500mm以内であるか否かを判定する。
【0053】
袋状と判定した当該商品の大きさが袋の把持サイズを超えると判断した場合(ACT19、NO)、プロセッサ41は、当該商品をアーム装置23で把持できないと判断する。当該商品をアーム装置23で把持できないと判断した場合、プロセッサ41は、ACT24へ進み、アームスキャナ16による商品特定情報の読取処理を行う。
【0054】
袋状と判定した当該商品が袋の把持サイズ以内であると判断した場合(ACT19、YES)、プロセッサ41は、当該商品をアーム装置23で把持することをシステムコントローラ21に指示する。当該商品をアーム装置23で把持することをシステムコントローラ21に指示する。プロセッサ41は、レジ台3上を撮影した撮影画像に基づき、当該商品の位置を示す位置情報と、形状、大きさ、中心、向き等の当該商品の形状を示す形状情報とを特定する。プロセッサ41は、撮影画像から特定した商品の位置情報および形状情報を当該商品が把持対象である旨とともにシステムコントローラ21へ通知する。
【0055】
システムコントローラ21のプロセッサ31は、商品読取装置22からの情報に基づいて当該商品をアーム装置23で把持するための把持設定を行う(ACT20)。当該商品が袋状である場合、プロセッサ31は、袋状の商品を把持するためのアルゴリズムと当該商品の位置情報と形状情報とに基づいて当該商品に対する把持設定を行う。ここで、プロセッサ31は、2つのアーム14,15が袋状の商品の両端を摘まむように把持するようにアーム装置23に対する把持設定を行うものとする。
【0056】
図5は、袋状の商品P1を2つのアーム14および15で把持する場合の動作例を説明するための図である。
アーム装置23は、各アーム部14a,15aの先端部に設けた把持機構14b,15bが袋状の商品の両端をそれぞれ摘まむように各アーム14,15を動かす。各アーム14,15は、把持機構14b、15bが商品の両端の外側から商品の中心に向かって商品と平行にレジ台3の上面をこするように動かす。アーム装置23は、一方のアーム14(15)の把持機構14b(15b)が商品の長手方向の一端を摘まんだ後、他方のアーム15(14)の把持機構15b(14b)が当該商品の長手方向の反対側の一端を摘まむように動かす。
【0057】
図5に示す例では、第1アーム14が把持機構14bで商品P1の一端を摘まんだ後、第2アーム15が、把持機構15bを矢印a方向に動かす。第2アーム15は、把持機構15bの把持位置が当該商品の端部に到達すると、把持機構15bが当該商品の端部を摘まむ。これにより、把持機構14bと15bとは、商品の長手方向における両端を摘まむことができる。
システムコントローラ21のプロセッサ31は、アーム装置23を上述の動作で商品の両端を把持できるように当該商品の位置情報および形状情報に応じて把持設定を行う。
【0058】
また、レジ台3上にある商品の形状が箱状であると判断した場合(ACT21、YES)、プロセッサ41は、箱状の商品のサイズが箱の把持サイズ以内であるかを判断する(ACT22)。本実施形態において、アーム装置23は、箱の把持サイズを超える幅を有する箱状の商品を把持できない(把持すべきでない)ものとする。すなわち、商品が箱状であると判断した場合、プロセッサ41は、当該商品を把持するか(把持できるか)どうかを当該商品の幅で判断する。
【0059】
たとえば、プロセッサ41は、レジ台3上を撮影した画像(商品検出用の撮影画像)から当該商品の幅を特定(推定)する。商品検出用の撮影画像はレジ台3を上方から撮影した画像であるので、商品検出用の撮影画像にはレジ台3上に置かれた箱状の商品が矩形の画像として撮影される。プロセッサ41は、商品検出用の撮影画像における当該商品の矩形領域のエッジとなる4点を検出する。また、箱状と判定した商品が完全な矩形の画像として撮影されない場合、プロセッサ41は、当該商品の画像領域に外接する矩形領域のエッジとなる4点を検出しても良い。
【0060】
プロセッサ41は、商品検出用の撮影画像から検出した当該商品の矩形領域のエッジとする4点から当該商品の幅を推定する。商品の幅は、把持機構14b、15bが把持する部分の幅であるものとする。この場合、箱の把持サイズとしては、アーム14、15の把持機構14b、15bが商品の側面から挟持できる商品の幅の最大値が設定される。たとえば、箱の把持サイズを100mmすれば、プロセッサ41は、商品検出用の撮影画像から検出した箱状の商品の幅が100mm以内であるか否かを判定する。なお、箱状の商品が把持できるか否かは、当該商品の重さで判定するようにしても良い。
【0061】
プロセッサ41は、レジ台3上にある箱状の商品の幅が箱の把持サイズを超えると判断した場合(ACT22、NO)、当該商品をアーム装置23で把持できないと判断する。当該商品を把持できないと判断した場合、プロセッサ41は、ACT24へ進み、アームスキャナ16を用いた商品特定情報の読取処理を行う。
【0062】
当該商品の幅が箱の把持サイズ以内であると判断した場合(ACT22、YES)、プロセッサ41は、当該商品をアーム装置23で把持することをシステムコントローラ21に指示する。プロセッサ41は、レジ台3上を撮影した撮影画像に基づき、当該商品の位置を示す位置情報と、形状、大きさ、中心、向き等の当該商品の形状を示す形状情報とを特定する。プロセッサ41は、当該商品の位置情報および形状情報を当該商品が把持対象である旨とともにシステムコントローラ21へ通知する。
【0063】
システムコントローラ21のプロセッサ31は、商品読取装置22からの情報に基づいて、当該商品をアーム装置23で把持するための把持設定を行う(ACT22)。当該商品が箱状である場合、プロセッサ31は、箱状の商品を把持するためのアルゴリズムと当該商品の位置情報と形状情報とに基づいて当該商品に対する把持設定を行う。
【0064】
図6は、箱状の商品P2を2つのアーム14および15で把持した状態の例を説明するための図である。
図6に示す例において、アーム装置23は、各アーム部14a、15aの先端部に設けた把持機構14b、15bで箱状の商品の両側を把持するものとする。たとえば、アーム装置23は、商品に対して垂直方向の上方からレジ台3に向かって各アーム部14a、15aの先端部(把持機構14b、15b)を動かして商品の両側を把持する。プロセッサ31は、アーム装置23が上述したような動作で商品の両側を把持できるように、当該商品の位置情報および形状情報に応じた把持設定を行う。
【0065】
また、レジ台3上にある商品の形状が筒状であると判断した場合(ACT21、NO)、プロセッサ41は、当該商品をアーム装置23で把持できない形状であると判断する。当該商品をアーム装置23で把持できないと判断した場合、プロセッサ41は、ACT24へ進み、アームスキャナ16による商品特定情報の読取処理を行う。
【0066】
システムコントローラ21による商品の把持設定が実施されると、アーム装置23のプロセッサ51は、把持設定に従って各アーム14.15を駆動させて商品を把持する(ACT30)。
たとえば、袋状の商品を把持する場合、プロセッサ51は、把持設定に従って把持機構14bを商品の外側から当該商品の中心に向かって動かして商品の一端を摘まむ。把持機構14bが商品の一端を摘まんだ後、プロセッサ51は、
図5に示すように、第2アーム15を把持設定に従って動かして把持機構15bで当該商品の反対側の一端を摘まむ。これにより、アーム装置23は、2つのアーム14、15で商品の両端を摘まむように把持する。
【0067】
また、箱状の商品を把持する場合、プロセッサ51は、把持設定で指定される位置に基づいてアーム14、15の先端部(把持機構)をレジ台3の上方から当該商品の両側に動かす。プロセッサ51は、アーム14で商品の一端部を上から把持し、アーム15で当該商品の他端部を把持する。これにより、アーム装置23は、
図6に示すように、2つのアーム14、15で商品の両側をそれぞれ把持する。
【0068】
アーム14、15が商品を把持すると、プロセッサ51は、システムコントローラ21の指示に応じて、把持した商品を持ち上げてスキャナ13の読取位置までに移動させる(ACT31)。持ち上げた商品をスキャナ13の読取位置まで移動させると、プロセッサ51は、当該商品をスキャナ13の読取位置において所定の方向および角度で回転させる(ACT32)。プロセッサ51は、システムコントローラ21が指定する回転手順でアーム14、15が把持する商品を回転させる。
【0069】
たとえば、プロセッサ51は、商品を前方向(スキャナ13に向かって下方向)に90回転させた後、前方向とは逆の後方向に180℃回転させる。なお、商品が箱状であれば、システムコントローラ21は、箱の側面がスキャナ13で読み取れるように前方向及び後方向とは直交する横方向に回転させても良い。
【0070】
アーム装置23により商品を回転させるとともに、システムコントローラ21のプロセッサ31は、当該商品の商品特定情報(バーコード)の読取りを商品読取装置22へ指示する。これに応じて、商品読取装置22のプロセッサ41は、スキャナ13を用いてアーム装置23が回転させる商品からバーコードを読み取る読取処理を行う(ACT33)。本実施形態では、スキャナ13が読取る商品特定情報がバーコードであるものとしている。
【0071】
すなわち、プロセッサ41は、アーム装置23が商品の回転させている間、スキャナ13によるバーコードの読取処理を実行する。スキャナ13は、アーム14、15によって読取位置で回転される商品の外観からバーコードを読取る。これにより、プロセッサ41は、スキャナ13が商品特定情報としてのバーコードを読取ったか否かを判断する(ACT34)。
【0072】
スキャナ13によりバーコードが読取れた場合(ACT34、YES)、プロセッサ41は、バーコードとして読取った商品特定情報を読取結果として出力する(ACT43)。たとえば、商品からバーコードが読取ると、プロセッサ41は、スキャナ13で読取ったバーコードで特定される商品を示す情報を通信装置25を介して精算装置2へ出力する。
【0073】
また、スキャナ13によりバーコードが読み取れなかった場合(ACT34、NO)、プロセッサ41は、所定の条件に基づいてバーコードの読取処理をリトライするか否かを判断する(ACT35)。たとえば、プロセッサ41は、上述したアーム装置23による商品の回転を2回実行し、バーコードの読取りを試みるものとする。
スキャナ13によるバーコードの読取処理をリトライすると判断した場合(ACT35、YES)、プロセッサ41は、ACT32へ戻り、上述した処理を繰り返す。
【0074】
また、リトライしないと判断した場合(ACT35、NO)、プロセッサ41は、商品のパッケージを引き伸ばした状態でスキャナ13による商品特定情報(パーコード)の読取処理(引き伸ばし状態での読取処理)を実行するか否かを判断する(ACT36)。商品のパッケージを引き伸ばした状態とは、当該商品の両端を把持している2つのアーム14、15が把持位置間を引っ張った状態である。
【0075】
商品パッケージの引き伸ばしは、商品のパッケージにおける折れやしわ等が原因でパッケージに印刷されているバーコードが読取れない場合であることを想定している。つまり、パッケージの両端(2つのアームによる把持位置間)を引っ張ってバーコードが読取れる可能性がある商品が引き伸ばしの対象となる。本実施形態では、袋状の商品に対して、引き伸ばし状態でのバーコードの読取処理を実行するものとする。この場合、プロセッサ41は、当該商品が袋状あるか否かにより、当該商品に対して引き伸ばし状態での読取処理を行うか否かを判断する。
【0076】
引き伸ばし状態での読取処理を実行すると判断した場合(ACT36、YES)、プロセッサ41は、システムコントローラ21に対して引き伸ばし状態での読取処理を実行する旨を指示する。引き伸ばし状態の読取処理の指示を受けると、システムコントローラ21のプロセッサ31は、アーム装置23に対して当該商品のパッケージを引き伸ばす指示を送る(ACT37)。
【0077】
アーム装置23は、システムコントローラ21からの指示に応じて、両アーム14、15が把持している商品の両端を互いに引っ張るように動作させる。ここで、第1アーム14の把持機構14bと第2アーム15の把持機構15bとは、それぞれ商品の両端を把持している。このため、プロセッサ51は、把持機構14b(第1アーム14の把持位置)と把持機構15b(第2アーム15の把持位置)とを互いに反対向きに一定の動力で動かすように制御する。つまり、プロセッサ51は、各アーム14、15の把持位置間を一定の力で引っ張るように、アーム駆動機構54でアーム部14aとアーム部15aとを動作させる。把持位置間を一定の力で引っ張ると、アーム14、15は、商品のパッケージを引き伸ばした状態で当該商品の両端を把持するものとなる。
【0078】
把持位置間を引っ張ると、プロセッサ51は、把持位置間を引っ張った状態(パッケージを引き伸ばした状態)のままで把持する商品をスキャナ13の読取位置で回転させる(ACT38)。たとえば、アーム装置23のプロセッサ51は、把持位置間を引っ張った状態で当該商品をスキャナ13の読取位置に持ち上げる。スキャナ13の読取位置に当該商品を持ち上げた後、プロセッサ51は、当該商品をスキャナ13の読取位置において所定の方向および角度で回転させる。アーム14、15が引っ張った状態で把持する商品を回転させる回転手順は、上記ACT32と同様な手順であっても良い。
【0079】
アーム装置23に引き伸ばした状態の商品を回転させるとともに、システムコントローラ21のプロセッサ31は、当該商品のバーコード(商品特定情報)の読取りを商品読取装置22へ指示する。これに応じて、商品読取装置22のプロセッサ41は、スキャナ13を用いてアーム装置23が回転させる商品から商品特定情報としてのバーコードを読み取る処理を行う(ACT39)。
【0080】
すなわち、プロセッサ41は、アーム装置23が引き伸ばした状態の商品の回転させている間、スキャナ13によるバーコードの読取処理を実行する。スキャナ13は、アーム14、15によって読取位置で回転される商品の外観からバーコードを読取る。これにより、プロセッサ41は、スキャナ13が商品特定情報としてのバーコードを読取ったか否かを判断する(ACT40)。
【0081】
スキャナ13によりバーコードが読取れた場合(ACT40、YES)、プロセッサ41は、バーコードとして読取った商品特定情報を読取結果として出力する(ACT43)。たとえば、商品からバーコードを読取ると、プロセッサ41は、スキャナ13で読取ったバーコードで特定される商品を示す情報を通信装置25を介して精算装置2へ出力する。
【0082】
また、スキャナ13が商品特定情報を読み取れなかった場合(ACT40、NO)、プロセッサ41は、所定の条件に基づいて引き伸ばした状態での読取処理をリトライするか否かを判断する(ACT41)。引き伸ばした状態でのバーコードの読取処理をリトライすると判断した場合(ACT35、YES)、プロセッサ41は、ACT38へ戻り、上述した処理を繰り返す。
【0083】
リトライしないと判断した場合(ACT41、NO)、プロセッサ41は、カメラ12が撮影する撮影画像による商品認識処理(商品特定情報の読取処理)を実行する(ACT42)。カメラ12の撮影画像による商品認識処理は、汚れなどでバーコードが読取れなかった商品を処理対象として想定する。商品認識処理において、プロセッサ41は、アーム装置23が把持する商品をカメラ12で撮影し、カメラ12が撮影した撮影画像から商品を認識する。商品認識処理については、後で詳細説明するものとする。
【0084】
プロセッサ41は、商品認識処理による認識結果を商品特定情報の読取結果として出力する(ACT43)。たとえば、商品認識処理で商品が認識できなかった場合、プロセッサ41は、通信装置25を介して商品特定情報が読取れなった旨を精算装置2へ出力する。商品認識処理で商品が認識できた場合、プロセッサ41は、通信装置25を介して認識した商品を示す情報を精算装置2へ出力する。
【0085】
次に、アームスキャナ16によるバーコードの読取処理について説明する。
図7は、アームスキャナ16によるバーコードの読取処理の動作例を説明するためのフローチャートである。
上述した動作例によれば、本システムは、形状が袋状又は箱状でない商品、或は、サイズが規定値を超える商品をアームスキャナ16による読取処理の対象とする。アームスキャナ16は、アーム14の先端部に設けられ、アーム14の移動によって読取位置が動作する。アームスキャナ16による読取処理では、レジ台3に置かれた商品に沿ってアーム14の先端部を動かすことによりアームスキャナ16で商品面をスキャンする。
【0086】
商品読取装置22のプロセッサ41は、商品がアームスキャナ16による読取処理の対象と判断すると、システムコントローラ21へアームスキャナ16による読取処理を要求する。また、プロセッサ41は、カメラ12が撮影した商品検出用の画像から特定した種々の情報(商品の形状、商品の中心位置、商品のエッジ位置など)をシステムコントローラ21へ供給する。アームスキャナ16による読取処理を実行する場合、システムコントローラ21のプロセッサ31は、当該商品の形状を確認する。
【0087】
当該商品が袋状と判断した場合(ACT61、YES)、システムコントローラ21のプロセッサ31は、商品の上面をスキャナするようにアームスキャナ16を動かすことをアーム装置23へ指示する。たとえば、プロセッサ31は、当該商品のエッジ位置に基づいてアームスキャナ16がスキャンする位置(移動経路)を決定する。
【0088】
たとえば、プロセッサ31は、当該商品の4隅と推定される4つのエッジを結ぶようにロの字型にアームスキャナ16を移動させる第1経路を設定する。さらに、プロセッサ31は、第1経路でバーコードが読取れなかった場合に4つのエッジからなる対角線に沿ってアームスキャナ16を移動させる第2経路を設定する。これにより、アームスキャナ16は、レジ台3上に置かれた商品の上面を全体的にスキャナすることが可能となる。また、第1経路と第2経路とを設定することで、アームスキャナ16は、第1経路で商品の外周付近を先にスキャナした後に第2経路で商品全体をスキャナできる。
【0089】
アーム装置23のプロセッサ51は、システムコントローラ21からの指示に従ってアームスキャナ16を移動させて袋状の商品の上面をスキャンする(ACT62)。プロセッサ51は、アーム駆動機構54によりシステムコントローラ21から指示される経路をアームスキャナ16が移動するようにアーム14を駆動させる。アームスキャナ16は、アーム14によってスキャン位置を移動しながらレジ台3上に置かれた袋状の商品の上面からバーコードをスキャンする。
【0090】
アーム装置23のプロセッサ51は、アームスキャナ16による読取り結果をシステムコントローラ21へ供給する。システムコントローラ21のプロセッサ31は、アーム装置23からのバーコードの読取結果を商品特定情報の読取結果として通信装置25を介して精算装置2へ出力する。
【0091】
また、当該商品が箱状と判断した場合(ACT63、YES)、システムコントローラ21のプロセッサ31は、商品の上面をスキャナするようにアームスキャナ16を動かすことをアーム装置23へ指示する。たとえば、プロセッサ31は、当該商品のエッジ位置に基づいてアームスキャナ16がスキャンする位置(移動経路)を決定する。たとえば、プロセッサ31は、上述した例と同様、商品の4隅と推定される4つのエッジを結ぶロの字型の第1経路と4つのエッジの対角線に沿う第2経路とを設定する。
【0092】
アーム装置23のプロセッサ51は、システムコントローラ21からの指示に従ってアームスキャナ16を移動させて箱状の商品の上面をスキャンする(ACT64)。プロセッサ51は、アーム駆動機構54によりシステムコントローラ21から指示される経路をアームスキャナ16が移動するようにアーム14を駆動させる。アームスキャナ16は、アーム14によってスキャン位置を移動しながらレジ台3上に置かれた箱状の商品の上面からバーコードをスキャンする。
【0093】
アーム装置23のプロセッサ51は、アームスキャナ16によるバーコードの読取結果をシステムコントローラ21へ供給する。システムコントローラ21のプロセッサ31は、アーム装置23からの読取結果によってアームスキャナ16が当該商品の上面からバーコードを読み取れたか否かを判断する(ACT65)。商品の上面からバーコードが読取れた場合(ACT65、NO)、プロセッサ31は、バーコードの読取結果を通信装置25を介して精算装置2へ出力する。
【0094】
商品の上面からバーコードが読取れなかった場合(ACT65、YES)、プロセッサ31は、当該商品の側面をアームスキャナ16でスキャンすることをアーム装置23へ指示する。たとえば、プロセッサ31は、当該商品のエッジ位置に基づいてアームスキャナ16が当該商品の側面をスキャンするための経路を設定する。
【0095】
アーム装置23のプロセッサ51は、システムコントローラ21からの指示に従ってアームスキャナ16を移動させて箱状の商品の側面をスキャンする(ACT66)。プロセッサ51は、アーム駆動機構54によりアームスキャナ16をレジ台3上の商品の側面に沿って移動させながら当該商品の側面からバーコードをスキャンする。システムコントローラ21のプロセッサ31は、アーム装置23からのバーコードの読取結果を商品特定情報の読取結果として通信装置25を介して精算装置2へ出力する。
【0096】
当該商品が筒状(袋状でも箱状でもない)と判断した場合(ACT63、NO)、システムコントローラ21のプロセッサ31は、レジ台3上の商品の高さが所定高(たとえば、高さ100mm)以内であるか否かを判断する(ACT70)。ここで、商品の高さとは、レジ台3の上面(商品の載置面)からレジ台3に置かれた状態の商品の最上部までの高さである。商品の高さは、たとえば、カメラ12が撮影する撮影画像から推定する。また、商品の高さを検知する高さ検知用のセンサを設けても良い。所定高は、アーム14を商品の上方で動かせるかを判断する閾値である。つまり、アーム14は、所定高よりも低い位置では自在に動くことができ、所定高以上の高さでは自在に動けないものとする。
【0097】
商品の高さが所定高以内である場合(ACT70、YES)、プロセッサ31は、アーム14を商品の上方で動かすことによりアームスキャナ16で商品の周面からバーコードを読取る(ACT71)。すなわち、筒状の高さが所定高以内の商品に対しては、アーム部14aを商品の上方で円を描くように動かしてアームスキャナ16で商品の周面を読取る。
【0098】
図8は、筒状の商品P3の高さが所定高以内である場合のアームスキャナ16の動作例を説明するための図である。
本実施形態において、アーム14は、所定高以内の低い位置では自在に動くことができるものとしている。このため、商品の高さが所定高以内であれば、アーム14は、商品の上方を自在に移動できる。この結果、アーム部14aを商品の上方で動かして商品の上方から延びるアーム部14aの先端部に設けたアームスキャナ16が商品の周面を自在に移動できることとなる。
図8に示す例では、アーム部14aは、商品の上方を含む空間において、矢印b1で示すように動かす。アーム部14aの先端部に設けたアームスキャナ16は、矢印b2で示すように、商品の上方を含む空間を動くアーム部14aの動作に伴って商品の周面に沿って移動する。
【0099】
システムコントローラ21のプロセッサ31は、アームスキャナ16を商品の周面において所定の角度分(たとえば360度)動かてばバーコードをスキャンするようアーム装置23に指示する。ただし、商品の周面においてスキャナ13に対向する面のバーコードは、スキャナ13が読取れるものとしても良い。この場合、アームスキャナ16は、商品の周面に沿って270度程度移動するものとしても良い。
【0100】
アーム装置23のプロセッサ51は、システムコントローラ21からの指示に従ってアームスキャナ16が商品の周面に沿って移動するようにアーム駆動機構54によりアーム14を駆動させる。これにより、アームスキャナ16は、レジ台3上に置かれた商品の周面に沿って移動しながら商品の周面に印刷されているバーコードをスキャンする。
【0101】
アーム装置23のプロセッサ51は、アームスキャナ16によるバーコードの読取結果をシステムコントローラ21へ供給する。システムコントローラ21のプロセッサ31は、アーム装置23からのバーコードの読取結果を当該商品の商品特定情報として通信装置25を介して精算装置2へ出力する。
【0102】
また、商品の高さが所定高を超える場合(ACT70、YES)、プロセッサ31は、アーム14を商品の側方で動かすことによりアームスキャナ16で商品の周面からバーコードを読取る。アーム14を商品の側方で動かす場合、アームスキャナ16を360度回転させることは難しい。このため、プロセッサ31は、商品の周面を幾つかの領域ごとに分けてバーコードのスキャンを実施する。本実施形態では、商品を上部と下部とに分けて下部および上部をそれぞれ半周分ずつスキャンする動作例について説明する。
【0103】
図9は、筒状の商品P4の高さが所定高を超える場合のアームスキャナ16の動作例を説明するための図である。
図9に示す例では、アーム14の先端に設けたアームスキャナ16で、筒状の商品P4の下部の周面と上部の周面とを半周分ずつスキャンする様子を示す。たとえば、アームスキャナ16は、矢印c1に示すように、商品P4の下部の初期位置から時計まわりに周面を半周してバーコードをスキャンする。これでバーコードが読取れなければ、アームスキャナ16は、矢印c2に示すように、商品P4の上部の初期位置へ移動して商品の周面を時計まわりに半周してバーコードをスキャンする。
【0104】
これでもバーコードが読取れなければ、アームスキャナ16は、再度、商品P4の下部の初期位置へ移動して商品P4の周面を反時計まわり(点線の矢印c3)に半周してバーコードをスキャンする。これでもバーコードが読取れなければ、アームスキャナ16は、再度、商品P4の上部の初期位置へ移動して商品P4の周面を反時計まわりに半周してバーコードをスキャンする。これらの動作によって、アーム14は、商品P4の側方からアームスキャナ16を動かすことで、商品P4の周面全体をアームスキャナ16でスキャンする。
【0105】
まず、プロセッサ31は、アームスキャナ16を商品の下部の初期位置から商品の周面に沿って時計周りに半周分移動させてバーコードをスキャンすることをアーム装置23へ指示する。アーム装置23のプロセッサ51は、アーム14を動作させてアームスキャナ16を商品の下部の初期位置へ移動させる。アームスキャナ16を商品の下部の初期位置に移動させると、プロセッサ51は、アーム14を当該商品の側方で動作させてアームスキャナ16を商品の周面に沿って時計周りに半周分移動させる(ACT72)。これにより、アームスキャナ16は、商品の下部における半周分の周面にあるバーコードをスキャンする。
【0106】
商品の下部における半周分の周面からバーコードが読取れなかった場合(ACT73、YES)、プロセッサ31は、商品の上部の半周面を時計周りにスキャンすることをアーム装置23へ指示する。アーム装置23のプロセッサ51は、システムコントローラ21からの指示に応じてアーム14を動作させてアームスキャナ16を商品の上部の初期位置へ移動させる。アームスキャナ16が商品の上部の初期位置に移動すると、プロセッサ51は、アーム14を商品の側方で動作させることで、アームスキャナ16を商品の周面に沿って時計周りに半周分移動させる(ACT74)。これにより、アームスキャナ16は、商品の上部における半周分の周面にあるバーコードをスキャンする。
【0107】
商品の上部における半周分の周面からバーコードが読取れなかった場合(ACT75、YES)、プロセッサ31は、商品の下部の残りの半周面をスキャンすることをアーム装置23へ指示する。アーム装置23のプロセッサ51は、システムコントローラ21からの指示に応じてアーム14を動作させてアームスキャナ16を商品の下部の初期位置へ移動させる。アームスキャナ16が商品の下部の初期位置に移動すると、プロセッサ51は、アーム14を商品の側方で動作させることで、アームスキャナ16を商品の周面に沿って反時計周りに半周分移動させる(ACT76)。これにより、アームスキャナ16は、商品の下部における残りの半周分の周面にあるバーコードをスキャンする。
【0108】
商品の下部における残りの半周分の周面からもバーコードが読取れなかった場合(ACT77、YES)、プロセッサ31は、商品の上部の残りの半周面をスキャンすることをアーム装置23へ指示する。アーム装置23のプロセッサ51は、システムコントローラ21からの指示に応じてアーム14を動作させてアームスキャナ16を商品の上部の初期位置へ移動させる。アームスキャナ16が商品の上部の初期位置に移動すると、プロセッサ51は、アーム14を商品の側方で動作させることで、アームスキャナ16を商品の周面に沿って反時計周りに半周分移動させる(ACT78)。これにより、アームスキャナ16は、商品の上部における残りの半周分の周面にあるバーコードをスキャンする。
【0109】
システムコントローラ21のプロセッサ31は、上記のように動作させるアーム装置23からアームスキャナ16によるバーコードの読取結果を取得する。システムコントローラ21のプロセッサ31は、アーム装置23からのバーコードの読取結果を当該商品の商品特定情報として通信装置25を介して精算装置2へ出力する。
【0110】
次に、カメラ12が撮影する撮影画像に対する商品認識処理について説明する。
図10は、カメラ12が撮影する撮影画像に対する商品認識処理の動作例を説明するためのフローチャートである。
上述した
図3及び
図4に示す動作例において、システムコントローラ21は、スキャナ13でバーコードが読取れない場合にカメラ12の撮影画像による商品認識処理を実行する。システムコントローラ21は、カメラ12の撮影画像による商品認識処理を行う場合、カメラ12の撮影位置へ商品を移動するようにアーム装置23へ指示する。アーム装置23のプロセッサ51は、システムコントローラ21からの指示に従ってアーム14、15が把持する商品をカメラ12の撮影位置へ移動させる(ACT81)。
【0111】
商品がカメラ12の撮影位置へ移動すると、システムコントローラ21は、商品特定情報を含む画像を撮影するため、アーム14、15が把持する商品を回転させる。システムコントローラ21は、アーム装置23で商品を回転させながら商品読取装置22でカメラ12が撮影する撮影画像から商品特定情報の画像を検出するものとする。
【0112】
本実施形態では、商品をカメラ12に向かって前後方向(前方(手前)とその逆の後方)に所定角度(たとえば、15度)ずつ回転させてカメラ12が撮影する画像から商品特定情報の画像を検出するものとする。また、本実施形態では、汚れ等によってスキャナ13でバーコードが読取れなかった場合を想定し、バーコード領域においてバーコードの下側に付記される数字列によって商品を認識するものとする。このため、以下の処理では、商品読取装置は、商品特定情報の画像としてバーコード領域の画像(バーコード画像)を検出し、バーコード画像における数字列から商品を認識するものとする。
【0113】
すなわち、システムコントローラ21は、アーム14、15が把持する商品の回転させる角度を決定し、決定した角度での商品の回転をアーム装置23へ指示する。アーム装置23は、システムコントローラ21からの指示に応じてアーム14、15が把持する商品を回転させる(ACT82)。たとえば、システムコントローラ21は、商品を前方(手前)に所定角度(たとえば、15度)ずつ回転させる。前方への回転角度が90度に達すると、システムコントローラ21は、当該商品を後方に所定角度(たとえば、15度)ずつ回転させ、後方への回転角度が180度に達するまで商品を回転させる。
【0114】
アーム装置23が商品を回転させると、システムコントローラ21は、商品読取装置22にカメラ12による撮影画像からの商品特定情報の画像(バーコード画像)の検出を指示する。商品読取装置22のプロセッサ41は、システムコントローラ21からの指示に応じてカメラ12により画像を撮影する(ACT83)。カメラ12が画像を撮影すると、商品読取装置22のプロセッサ41は、カメラ12が撮影した撮影画像からバーコード画像を検出する(ACT84)。商品読取装置22のプロセッサ41は、バーコード画像の検出の有無を示す情報をシステムコントローラ21へ通知する。
【0115】
カメラ12の撮影画像からバーコード画像が検出されなかった場合(ACT85、NO)、システムコントローラ21は、さらに商品を回転させてバーコード画像の検出を行うかを判断する(ACT86)。さらに商品を回転させてバーコード画像を検出すると判断した場合(ACT86、NO)、システムコントローラ21は、ACT82へ戻り、上述した処理を再度実行する。バーコード画像の検出を終了すると判断した場合(ACT86、YES)、システムコントローラ21は、カメラ12の撮影画像による商品認識が失敗したものとし、処理を終了する。
【0116】
また、カメラ12の撮影画像からバーコード画像が検出できた場合(ACT85、NO)、システムコントローラ21は、商品の向きを調整して商品認識処理用の画像をカメラ12で撮影する。たとえば、システムコントローラ21は、商品をカメラ12に向かって左右方向に所定角度(たとえば、5度)ずつ回転させた(傾けた)状態でカメラ12が撮影する撮影画像を取得する。この場合、システムコントローラ21は、アーム14、15が把持する商品を右に5度ずつ回転させてカメラ12で画像を撮影させる。右への回転角が45度になると、システムコントローラ21は、商品を元の角度に戻した後、商品を左に5度ずつ回転させてカメラ12で画像を撮影させる。左への回転角が45度になると、システムコントローラ21は、各角度で撮影した撮影画像に基づく商品認識を商品読取装置22に実行させる。
【0117】
すなわち、システムコントローラ21は、アーム14、15が把持する商品の向きを決定し、決定した商品の向きをアーム装置23へ指示する。アーム装置23は、システムコントローラ21からの指示に応じてアーム14、15が把持する商品の向きを調整させる(ACT87)。たとえば、システムコントローラ21は、右への回転角度が45度に達するまで、商品を右に5度回転させることをアーム装置23に指示する。また、システムコントローラ21は、右への回転角度が45度に達すると、商品を元の角度に戻した後に商品を左に5度回転させることをアーム装置23に指示する。
【0118】
アーム装置23が商品の向きを調整すると、システムコントローラ21は、商品読取装置22に商品認識用の画像の撮影を指示する。商品読取装置22は、システムコントローラ21からの指示に応じてカメラ12により画像を撮影する(ACT88)。商品読取装置22は、カメラ12が撮影した撮影画像を商品認識用の画像として画像メモリ44に保存する(ACT89)。
【0119】
カメラ12で撮影した画像を商品認識用の画像として保存すると、システムコントローラ21は、カメラ12による商品認識用の画像の撮影を終了するか否かを判断する(ACT90)。カメラ12による撮影を終了しないと判断した場合(ACT90、NO)、システムコントローラ21は、ACT87へ戻り、上述した処理を再度実行する。
【0120】
カメラ12による撮影を終了すると判断した場合(ACT90、NO)、システムコントローラ21は、画像処理による商品認識を商品読取装置22へ指示する。商品読取装置22のプロセッサ41は、画像メモリ44に保存したカメラ12の撮影画像(商品認識処理用の画像)に基づいて商品認識処理を実行する(ACT91)。商品読取装置22のプロセッサ41は、文字認識用のプログラムを実行することにより、カメラ12による複数の撮影画像を元にバーコード下にある数字を認識する。
【0121】
たとえば、プロセッサ41は、各撮影画像からバーコード画像を抽出し、バーコード画像からバーコードの下にある数字を検出する。バーコードの下にある全ての数字を検出すると、プロセッサ41は、検出した数字を認識し、認識した数字を並べた数字情報を商品認識結果とする。プロセッサ41は、商品認識結果をシステムコントローラ21へ通知する。システムコントローラ21は、商品認識装置からの商品認識結果を通信装置25を介して精算装置2へ送信する。精算装置2は、バーコードの下の数字情報から当該商品を識別し、当該商品の精算処理を実行する。
【0122】
以上のように、本実施形態に係る商品読取システムは、カメラ、アーム装置、バーコードを読取るスキャナ、プロセッサ、および、コントローラなどを有する。カメラは、レジ台に置かれた商品を撮影する。プロセッサはカメラが撮影した画像から当該商品の形状を特定する。コントローラは、当該商品の形状に応じてアーム装置が商品を把持するための把持設定を行う。アーム装置は、把持設定に従って当該商品を把持し、把持した商品をスキャナの読取位置で回転させる。スキャナは、アーム装置が読取位置で回転させる商品から商品特定情報としてのバーコードを読取る。これにより、本実施形態に係る商品読取システムは、形状に応じた把持設定で商品を確実に把持することができ、スキャナの読取位置でバーコードが読取り易いように当該商品を回転させることができる。
【0123】
また、実施形態に係る商品読取システムのコントローラは、商品が袋状である場合、第1アームで商品の第1端部を摘まみ、第2アームで前記第1端部とは商品を挟んで反対側にある第2端部を摘まむ。これにより、商品読取システムは、袋状の商品の両端部を確実に摘まむことができ、袋状の商品におけるバーコードをスキャナが読取り易いように動かすことができる。
【0124】
また、実施形態に係る商品読取システムのコントローラは、商品が箱状である場合、第1アームの把持機構と第2アームの把持機構とで当該商品の両端を挟持するように把持させる。これにより、商品読取システムは、箱状の商品の両端部を確実に挟持することでき、箱状の商品におけるバーコードをスキャナに読取り易いように動かすことができる。
【0125】
また、実施形態に係る商品読取システムは、コントローラは、スキャナで前記商品の商品特定情報を読み取れない場合、アーム装置が把持する商品をカメラの撮影領域において回転させてカメラに画像を撮影させる。プロセッサは、カメラが撮影する画像に対する文字認識によって商品特定情報を認識する。これにより、商品読取システムは、スキャナでバーコードが読取れない商品であっても、アームが把持する当該商品を動かしながらカメラで撮影する画像に対する画像認識によって商品特定情報を特定することができる。
【0126】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
以下、本願の出願当初の特許請求の範囲に記載した内容を付記する。
[1]
商品が置かれる台を上方から撮影するカメラと、
前記台に置かれた商品を把持するアーム装置と、
読取位置にある前記商品の外観に存在する商品特定情報を読み取るスキャナと、
前記カメラが撮影した画像から検出される前記商品の形状に応じた把持設定で前記アーム装置に前記商品を把持させ、前記アーム装置が把持する前記商品を前記スキャナの読取位置で回転させて前記スキャナに商品特定情報を読み取らせるコントローラと、
を有する商品読取システム。
[2]
前記アーム装置は、それぞれに把持機構を設けた第1アームと第2アームとを有し、 前記コントローラは、前記商品の形状が袋状である場合、前記第1アームに設けた把持機構で前記商品の第1端部を把持し、前記第2アームに設けた把持機構で前記第1端部とは前記台上の前記商品を挟んで反対側にある第2端部を把持する把持設定とする、
[1]に記載の商品読取システム。
[3]
前記コントローラは、前記商品の形状が箱状である場合、前記第1アームに設けた把持機構と前記前記第2アームに設けた把持機構とがそれぞれ前記商品の両端を把持する把持設定とする、
[2]に記載の商品読取システム。
[4]
前記カメラが撮影した画像に対する画像認識によって商品特定情報を認識するプロセッサを有し、
前記コントローラは、前記スキャナが前記商品の商品特定情報を読み取れない場合、前記アーム装置が把持する前記商品を前記カメラの撮影領域において回転させて前記カメラが撮影する画像に基づいて前記プロセッサに前記商品の商品特定情報を認識させる、
[1]乃至[3]の何れか1つに記載の商品読取システム。
[5]
前記アーム装置が把持する前記商品の商品特定情報を前記商品の精算処理を行う精算装置へ出力する通信装置を有する、
[1]乃至[4]の何れか1つに記載の商品読取システム。
【符号の説明】
【0127】
1…商品読取システム(ロボット)、2…精算装置(レジ)、3…レジ台(台)、11…センサ、12…カメラ、13…スキャナ(固定スキャナ)、14…第1アーム、15…第2アーム、14b、15b…把持機構、16…アームスキャナ、21…システムコントローラ(制御装置)、22…商品読取装置(商品リーダ)、23…アーム装置、25…通信装置、31、41、51、61、71…プロセッサ。