IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本電気株式会社の特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024159948
(43)【公開日】2024-11-08
(54)【発明の名称】情報処理装置及び制御方法
(51)【国際特許分類】
   G07G 1/00 20060101AFI20241031BHJP
   G06K 7/10 20060101ALI20241031BHJP
【FI】
G07G1/00 311D
G07G1/00 311Z
G06K7/10 372
G06K7/10 416
G06K7/10 428
【審査請求】有
【請求項の数】9
【出願形態】OL
(21)【出願番号】P 2024148325
(22)【出願日】2024-08-30
(62)【分割の表示】P 2023030848の分割
【原出願日】2015-03-31
(71)【出願人】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100110928
【弁理士】
【氏名又は名称】速水 進治
(72)【発明者】
【氏名】土持 和記
(57)【要約】
【課題】複数の撮像手段が生成した複数の画像を用いて商品を特定する際に生じる問題を解決することである。
【解決手段】情報処理装置は、取得部と認識部2030と通知部を備えている。取得部は、複数の撮像部2020により撮像された精算対象の商品の画像を取得する。認識部2030は、当該画像に基づいて商品を認識する。通知部は、各撮像部2020により撮像された画像に基づく認識結果が異なる場合に通知を行う。
【選択図】図1
【特許請求の範囲】
【請求項1】
商品を撮像して画像を生成する複数の撮像手段を、異なる位置に有し、
各前記撮像手段によって生成された画像に写っている、前記商品の画像又は前記商品に付されていて前記商品を特定するシンボルである商品情報シンボルの画像を用いて、前記商品を認識する認識手段を有し、
各前記撮像手段によって生成された画像が異なる商品を示すと認識した場合に通知を行い、
操作者を撮像した複数の時系列な操作者画像に写っている商品の位置の変化に基づいて、前記操作者画像に写っている商品が各前記撮像手段の撮像範囲に配置されるタイミングを特定し、特定した前記タイミングで各前記撮像手段に撮像させる制御手段をさらに有する情報処理装置。
【請求項2】
商品を撮像して画像を生成する複数の撮像手段を、異なる位置に有し、
各前記撮像手段によって生成された画像に写っている、前記商品の画像又は前記商品に付されていて前記商品を特定するシンボルである商品情報シンボルの画像を用いて、前記商品を認識する認識手段を有し、
各前記撮像手段によって生成された画像が異なる商品を示すと認識した場合に通知を行い、
操作者を撮像した複数の時系列な操作者画像に写っている商品の位置の変化に基づいて、前記操作者画像に写っている商品が各前記撮像手段の撮像範囲に配置されるタイミングを特定し、特定した前記タイミングで撮像され、生成された前記画像を、商品の認識に用いる画像として決定する制御手段をさらに有する情報処理装置。
【請求項3】
前記複数の撮像手段は、
精算対象の商品を撮像して画像を生成する第1の撮像手段と、
前記第1の撮像手段と鉛直方向及び水平方向に異なる位置に設けられ、精算対象の商品を撮像して画像を生成する第2の撮像手段と第3の撮像手段とである請求項1または2に記載の情報処理装置。
【請求項4】
前記複数の撮像手段それぞれの撮像範囲は、精算対象の商品を登録するために当該商品が通過する商品通過エリアの一部又は全部を含む、請求項1から3のいずれか1項に記載の情報処理装置。
【請求項5】
前記第1の撮像手段、前記第2の撮像手段及び前記第3の撮像手段は、互いに異なる方向から精算対象の商品を撮像する請求項3に記載の情報処理装置。
【請求項6】
前記第1の撮像手段は、上方から精算対象の商品を撮像し、
前記第2の撮像手段及び前記第3の撮像手段は、側方から精算対象の商品を撮像する請求項5に記載の情報処理装置。
【請求項7】
前記第2の撮像手段及び前記第3の撮像手段は、精算対象の商品が認識されるエリアを挟んで互いに対向する請求項6に記載の情報処理装置。
【請求項8】
異なる位置に備えられる、商品を撮像して画像を生成する複数の撮像手段と共に使用されるコンピュータが、
各前記撮像手段によって生成された画像に写っている、前記商品の画像又は前記商品に付されていて前記商品を特定するシンボルである商品情報シンボルの画像を用いて、前記商品を認識し、
各前記撮像手段によって生成された画像が異なる商品を示すと認識した場合に通知を行い、
操作者を撮像した複数の時系列な操作者画像に写っている商品の位置の変化に基づいて、前記操作者画像に写っている商品が各前記撮像手段の撮像範囲に配置されるタイミングを特定し、特定した前記タイミングで各前記撮像手段に撮像させる、制御方法。
【請求項9】
異なる位置に備えられる、商品を撮像して画像を生成する複数の撮像手段と共に使用されるコンピュータが、
各前記撮像手段によって生成された画像に写っている、前記商品の画像又は前記商品に付されていて前記商品を特定するシンボルである商品情報シンボルの画像を用いて、前記商品を認識し、
各前記撮像手段によって生成された画像が異なる商品を示すと認識した場合に通知を行い、
操作者を撮像した複数の時系列な操作者画像に写っている商品の位置の変化に基づいて、前記操作者画像に写っている商品が各前記撮像手段の撮像範囲に配置されるタイミングを特定し、特定した前記タイミングで撮像され、生成された前記画像を、商品の認識に用いる画像として決定する、制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置及び制御方法に関する。
【背景技術】
【0002】
スーパーマーケット等の店舗において、操作者が自分で操作するレジ端末が運用され始めている。操作者は、購入する商品に付されているバーコードなどをレジ端末に認識させることで、購入する商品の登録を行う。その後、操作者は、画面に表示される代金をレジ端末に投入することで、登録した商品を購入する。
【0003】
このようなレジ端末に関連する技術を開示する文献として、例えば特許文献1がある。特許文献1は、スキャナとカメラを1つずつ有し、商品をスキャンした結果と、カメラによる商品の撮像結果とを利用して、スキャンされた商品と撮像された商品の異同を判定する技術を開示している。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2014-160493号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
商品の認識精度を高めるためには、複数の撮像手段が生成した複数の画像を用いて商品を特定することが考えられる。
【0006】
本発明は、上記の課題に鑑みてなされたものである。本発明の目的は、複数の撮像手段が生成した複数の画像を用いて商品を特定する際に生じる問題を解決することにある。
【課題を解決するための手段】
【0007】
本発明の第1の情報処理装置は、複数の撮像手段により撮像された精算対象の商品の画像を取得する取得手段と、前記画像に基づいて前記商品を認識する認識手段と、各撮像手段により撮像された画像に基づく認識結果が異なる場合に通知を行う通知手段と、を備えている。
【0008】
本発明の第2の情報処理装置は、第1の撮像手段、第2の撮像手段及び第3の撮像手段により撮像された精算対象の商品の画像を取得する取得手段と、前記画像に基づいて前記商品を認識する認識手段と、を備え前記第2の撮像手段及び前記第3の撮像手段は、前記第1の撮像手段と鉛直方向及び水平方向に異なる位置に配置されている。
【0009】
本発明の第3の情報処理装置は、精算対象の商品を撮像する第1の撮像手段と、前記第1の撮像手段と鉛直方向及び水平方向に異なる位置に設けられ、前記商品を撮像する第2の撮像手段及び第3の撮像手段と、前記第1の撮像手段、前記第2の撮像手段、及び前記第3の撮像手段により撮像された画像に基づいて認識された商品に関する情報を出力する出力手段と、を備えている。
【0010】
本発明の第1の制御方法は、コンピュータが、複数の撮像手段により撮像された精算対象の商品の画像を取得し、前記画像に基づいて前記商品を認識し、各前記撮像手段により撮像された画像に基づく認識結果が異なる場合に通知をする。
【0011】
本発明の第2の制御方法は、コンピュータが、第1の撮像手段、第2の撮像手段及び第3の撮像手段により撮像された精算対象の商品の画像を取得し、前記画像に基づいて前記商品を認識し、前記第2の撮像手段及び前記第3の撮像手段は、前記第1の撮像手段と鉛直方向及び水平方向に異なる位置に配置されている。
【0012】
本発明の第3の制御方法は、コンピュータが、第1の撮像手段を用いて精算対象の商品を撮像し、前記第1の撮像手段と鉛直方向及び水平方向に異なる位置に設けられた第2の撮像手段及び第3の撮像手段を用いて、前記商品を撮像し、前記第1の撮像手段、前記第2の撮像手段、及び前記第3の撮像手段により撮像された画像に基づいて認識された商品に関する情報を出力する。
【発明の効果】
【0013】
本発明によれば、複数の撮像手段が生成した複数の画像を用いて商品を特定する際に生じる問題を解決することができる。
【図面の簡単な説明】
【0014】
図1】実施形態1に係る商品登録装置を例示するブロック図である。
図2】商品通過エリアを例示する図である。
図3】商品登録装置の実装に用いられる計算機のハードウエア構成を例示するブロック図である。
図4】2つの認識部の配置を例示する第1の斜視図である。
図5図4の配置に対応する平面図である。
図6】2つの認識部の配置を例示する第2の斜視図である。
図7図6の配置に対応する平面図である。
図8】2つの認識部の配置を例示する第3の斜視図である。
図9図8の配置に対応する平面図である。
図10】4つの認識部の配置を例示する第1の斜視図である。
図11図10の配置に対応する平面図である。
図12】4つの認識部の配置を例示する第2の斜視図である。
図13図12の配置に対応する平面図である。
図14】8つの認識部の配置を例示する図である。
図15図14の配置に対応する平面図である。
図16】実施形態1の商品登録装置によって実行される処理の流れを例示するフローチャートである。
図17】3つの認識部の配置を例示する斜視図である。
図18図16の配置に対応する平面図である。
図19】8つの認識部の配置を例示する斜視図である。
図20図18の配置に対応する平面図である。
図21】実施形態3に係る商品登録装置を例示するブロック図である。
図22】実施形態3の商品登録装置を具体的に例示する図である。
図23】実施形態3の商品登録装置によって実行される処理の流れを例示するフローチャートである。
図24】実施形態4の商品登録装置によって実行される処理の流れを例示するフローチャートである。
図25】実施形態5の商品登録装置によって実行される処理の流れを例示するフローチャートである。
図26】実施形態6に係る精算システムを例示するブロック図である。
【発明を実施するための形態】
【0015】
以下、本発明の実施の形態について、図面を用いて説明する。尚、すべての図面において、同様な構成要素には同様の符号を付し、適宜説明を省略する。
【0016】
[実施形態1]
図1は、実施形態1に係る商品登録装置2000を例示するブロック図である。図1において、各ブロックは、ハードウエア単位の構成ではなく、機能単位の構成を表している。
【0017】
商品登録装置2000は、複数の撮像部2020、及び認識部2030を有する。撮像部2020は商品を撮像して画像を生成する。以下、この画像を商品画像と表記する。
【0018】
各撮像部2020の撮像範囲は、商品通過エリアの一部又は全部を含む。商品通過エリアは、商品登録装置2000を操作する操作者が、精算対象の商品を登録するためにその商品を通過させる空間である。ここで、操作者は店員であってもよいし、顧客であってもよい。
【0019】
図2は商品通過エリアを例示する図である。台20は、商品かごなどを載せる台である。商品通過エリア10は、商品通過エリアである。このように、例えば商品通過エリアは、台20上の空間である。ただし、商品通過エリア10は、撮像部2020に対して商品情報を読み取らせるために操作者が商品を通過させる空間であればよく、図2に例示する空間に限定されない。また、商品登録装置2000を運用する店舗は、商品かごを利用する店舗に限定されない。
【0020】
認識部2030は、各撮像部2020が生成した商品画像を用いて商品を認識する。商品の認識とは、商品を特定し、その商品を精算対象として登録することを意味する。
【0021】
例えば認識部2030は、商品画像に写っている商品情報シンボルの画像を解析することで商品の特定を行う。商品情報シンボルは、商品に関する情報を認識するシンボルである。ここで、シンボルとは、バーコード、2次元コード(QRコード(登録商標)など)、又は文字列シンボルなどである。なお、ここでいう文字列には、数値列も含まれる。そして、商品情報シンボルは、商品情報を認識する情報(商品情報のIDなど)が符号化されたバーコード等、又は商品情報を認識する情報を表す文字列シンボルなどである。
【0022】
また例えば、認識部2030は、商品画像に写っている商品自体の画像に対してオブジェクト認識を行うことで、商品の特定を行う。
【0023】
<作用・効果>
本実施形態の商品登録装置2000は、複数の撮像部2020を有する。そのため、いずれかの撮像部2020によって商品が撮像されれば、認識部2030がその商品を認識できる可能性がある。例えば操作者が商品通過エリアで商品を移動させた場合に、その商品が、ある撮像部2020の撮像範囲に配置されなかったとする。この場合、商品登録装置2000が他に撮像部2020を備えていなければ、この商品は認識部2030によって認識されず、精算対象として登録されない。よって、操作者は、撮像部2020に商品情報の読み取りを行わせる作業をやり直す必要がある。一方、商品登録装置2000が他の撮像部2020を備えていれば、商品が当該他の撮像部2020の撮像範囲内に配置される可能性があるため、認識部2030が商品を認識できる可能性がある。
【0024】
また、前述した通り、商品画像を用いた商品の認識は、商品情報シンボルを解析したり、オブジェクト認識で商品を特定したりすることで行われる。ここで、商品情報シンボルを解析するためには、商品画像に商品情報シンボルが写っている必要がある。また、オブジェクト認識で商品を特定するためには、商品の特徴的な部分が商品画像に写っている必要がある。例えば缶コーヒーの種類をオブジェクト認識で特定する場合、缶の底のみが写っている商品画像では特定を行うことができず、ラベル等が写っている商品画像が必要となる。本実施形態の商品登録装置2000によれば、いずれかの撮像部2020によって商品情報シンボル又は商品の特徴的な部分が撮像されれば、認識部2030がその商品を認識できる。
【0025】
よって、本実施形態の商品登録装置2000によれば、撮像部2020を1つしか備えない場合と比較し、商品が認識部2030によって認識される確率が高くなる。そのため、商品が精算対象として登録される確率が高くなるため、商品登録装置2000に商品を認識させる作業の効率が高くなる。
【0026】
以下、本実施形態の商品登録装置2000について、さらに詳細に説明する。
【0027】
<商品登録装置2000のハードウエア構成の例>
商品登録装置2000は、ハードウエア(例:ハードワイヤードされた電子回路など)のみで実現されてもよいし、ハードウエアとソフトウエアとの組み合わせ(例:電子回路とそれを制御するプログラムの組み合わせなど)で実現されてもよい。
【0028】
商品登録装置2000は、例えばレジ端末などの専用端末を用いて実装される。ただし商品登録装置2000は、このような専用端末ではなく、PC(Personal Computer)やサーバマシンなどの種々の汎用計算機を用いて実装されてもよい。
【0029】
図3は、商品登録装置2000の実装に用いられる計算機1000のハードウエア構成を例示するブロック図である。計算機1000は、バス1020、プロセッサ1040、メモリ1060、ストレージ1080、及び入出力インタフェース1100を有する。バス1020は、プロセッサ1040、メモリ1060、ストレージ1080、及び入出力インタフェース1100が、相互にデータを送受信するためのデータ伝送路である。ただし、プロセッサ1040などを互いに接続する方法は、バス接続に限定されない。プロセッサ1040は、例えば CPU (Central Processing Unit) や GPU (Graphics Processing Unit) などの演算処理装置である。メモリ1060は、例えば RAM (Random Access Memory) や ROM (Read Only Memory) などのメモリである。ストレージ1080は、例えばハードディスク、SSD (Solid State Drive)、又はメモリカードなどの記憶装置である。また、ストレージ1080は、RAM や ROM 等のメモリであってもよい。ストレージ1080は各種データやプログラムを記憶する。
【0030】
入出力インタフェース1100は、計算機1000と入出力デバイスとを接続するためのインタフェースである。計算機1000は、入出力インタフェース1100を介して、キーボード、マウス、又はディスプレイなどと接続される。
【0031】
<<撮像部2020のハードウエア構成>>
例えば撮像部2020は、撮像素子を有するカメラ90によって実現される。また例えば、撮像部2020はバーコードリーダによって実現されてもよい。この場合、撮像部2020は、商品に対して光を照射し、反射した光を受光素子で受光することで、バーコードのパターンを表すデータを生成する。商品画像には、このバーコードのパターンを表すデータも含まれる。
【0032】
<撮像部2020の配置>
撮像部2020の数は2つ以上の任意の数である。以下、撮像部2020の数が2つ、4つ、及び8つのそれぞれの場合について、具体的な撮像部2020の配置を例示する。なお、各配置における撮像部2020の間の距離は任意である。例えばこの距離は 5cm である。
【0033】
<<配置1>>
図4は、2つの撮像部2020の配置を例示する第1の斜視図である。図4において、x方向は操作者が商品を移動させる方向である。y方向は、台20の奥行き方向である。またz方向は鉛直方向である。
【0034】
図5は、図4の配置に対応する平面図である。図5(a)は図4のyz平面図であり、図5(b)は図4のxy平面図である。撮像範囲30は、撮像部2020の撮像範囲を表す。また、撮像方向40は、撮像部2020を始点として、その撮像部2020の撮像範囲30の中心を通る方向である。以下、撮像部2020の撮像方向40を、「撮像部2020の向き」とも表記する。
【0035】
図5(a)が示すように、撮像部2020-1と撮像部2020-2のy方向の位置は異なる位置である。具体的には、撮像部2020-1のy方向の位置は、y方向における台20の一端であり、撮像部2020-2のy方向の位置は、y方向における台20の別の一端である。一方、撮像部2020-1と撮像部2020-2のz方向の位置は同じ位置である。これらはいずれも、台20上に設置されている。また、図5(b)に示すように、撮像部2020-1と撮像部2020-2のx方向の位置は同じ位置である。
【0036】
図5(a)に示すように、撮像部2020-1と撮像部2020-2の向きはいずれも、yz平面視において商品通過エリア10を斜め下から見上げる方向である。なお、図5(b)に示すように、撮像部2020-1と撮像部2020-2は、撮像範囲30の一部が互いに重複していることが好ましい。
【0037】
このような配置により、商品がy方向について異なる複数の方向から撮像されるようになる。よって、商品がいずれか一方向からのみ撮像される場合と比較し、商品情報シンボル又は商品の特徴的な部分が商品画像に写る確率が高くなるため、認識部2030が商品を認識できる確率が高くなる。
【0038】
なお、図4及び図5の配置における各撮像部2020の向きはz方向であってもよい。
【0039】
<<配置2>>
図6は、2つの撮像部2020の配置を例示する第2の斜視図である。ここで、保持部2040は、撮像部2020を保持するための部材である。
【0040】
図7は、図6の配置に対応する平面図である。図7(a)は図6のyz平面図、図7(b)は図6のxy平面図である。図7(a)が示すように、撮像部2020-1と撮像部2020-2のy方向の位置は異なる位置であり、その位置関係は図4の場合と同様である。また、撮像部2020-1と撮像部2020-2のz方向の位置は同じ位置であるが、図4の場合とは異なる位置である。具体的には、撮像部2020-1と撮像部2020-2は、商品通過エリア10の上に位置している。図7(b)が示すように、撮像部2020-1と撮像部2020-2のx方向の位置は同じ位置である。
【0041】
図7(a)に示すように、撮像部2020-1と撮像部2020-2の向きはいずれも、yz平面視において商品通過エリア10を斜め上から見下ろす方向である。なお、図7(b)に示すように、撮像部2020-1と撮像部2020-2は、撮像範囲30が一部の範囲で重複していることが好ましい。
【0042】
このような配置により、商品がy方向について異なる複数の方向から撮像されるようになる。よって、商品がいずれか一方向からのみ撮像される場合と比較し、商品情報シンボル又は商品の特徴的な部分が商品画像に写る確率が高くなるため、認識部2030が商品を認識できる確率が高くなる。
【0043】
なお、図6及び図7の配置おける各撮像部2020の向きは、-z方向の向きであってもよい。
【0044】
<<配置3>>
図8は、2つの撮像部2020の配置を例示する第3の斜視図である。図9は、図8の配置に対応する平面図である。図9(a)は図8のyz平面図であり、図9(b)は図8のxy平面図である。図9(a)が示すように、撮像部2020-1と撮像部2020-2のy方向の位置は異なる位置であり、その位置関係は図4の場合と同様である。また、撮像部2020-1と撮像部2020-2のz方向の位置は異なる位置である。具体的には、撮像部2020-1は台20上に設置されており、撮像部2020-2は保持部2040に保持されて商品通過エリア10の上に位置している。図9(b)が示すように、撮像部2020-1と撮像部2020-2のx方向の位置は異なる位置である。
【0045】
図9(a)に示すように、撮像部2020-1と撮像部2020-2の向きは、yz平面視において、商品通過エリア10を挟んで互いに対向している。また、図9(b)に示すように、撮像部2020-1と撮像部2020-2の向きは、xy平面視においても互いに対向している。なお、撮像部2020-1と撮像部2020-2は、撮像範囲30が一部の範囲で重複していることが好ましい。
【0046】
このような配置により、商品がy方向について異なる複数の方向から撮像されるようになる。よって、商品がいずれか一方向からのみ撮像される場合と比較し、商品情報シンボル又は商品の特徴的な部分が商品画像に写る確率が高くなるため、認識部2030が商品を認識できる確率が高くなる。さらに、商品が上下双方から撮像されるため、商品が上から又は下からのみ撮像される場合と比較し、商品情報シンボル又は商品の特徴的な部分が商品画像に写る確率が高くなるため、認識部2030が商品を認識できる確率が高くなる。
【0047】
なお、図8及び図9の配置において、撮像部2020-1の向きを-z方向にし、撮像部2020-2の向きをz方向にしてもよい。
【0048】
<<配置4>>
図10は、4つの撮像部2020の配置を例示する第1の斜視図である。図11は、図10の配置に対応する平面図である。図11(a)は図10のyz平面図であり、図11(b)は図10のxy平面図である。図11(a)に示すように、y方向については、撮像部2020-1と撮像部2020-2の位置が同じであり、撮像部2020-3と撮像部2020-4の位置が同じである。具体的には、撮像部2020-1及び撮像部2020-2のy方向の位置は、台20の一端であり、撮像部2020-3及び撮像部2020-4のy方向の位置は、台20の別の一端である。z方向については、撮像部2020-1と撮像部2020-4の位置が同じであり、撮像部2020-2及び撮像部2020-3の位置が同じである。具体的には、撮像部2020-1及び撮像部2020-4は保持部2040に保持されて商品通過エリア10の上に位置しており、撮像部2020-2及び撮像部2020-3は台20上に設置されている。図11(b)に示すように、各撮像部2020のx方向の位置は同じである。
【0049】
撮像部2020-1と撮像部2020-3の撮像方向40は互いに対向している。また、撮像部2020-2と撮像部2020-4の撮像方向40は互いに対向している。なお、撮像部2020-1から撮像部2020-4の撮像方向40はそれぞれ、撮像部2020-1から撮像部2020-4の中心点を向いていることが好ましい。また、各撮像部2020は、撮像範囲30が一部の範囲で互いに重複していることが好ましい。
【0050】
このように4つの撮像部2020がそれぞれ異なる方向から商品を撮像するため、撮像部2020の数が2つの場合と比較し、撮像部2020の死角が少なくなる。よって、撮像部2020の数が2つの場合と比較し、商品情報シンボル又は商品の特徴的な部分が商品画像に写る確率が高くなるため、認識部2030が商品を認識できる確率が高くなる。
【0051】
なお、図8及び図9に示す配置における各撮像部2020の向きは、図8及び図9に示す向きに限定されない。例えば撮像部2020-1と撮像部2020-4がz方向を向いており、撮像部2020-2と撮像部2020-3が-z方向を向いていてもよい。
【0052】
<<配置5>>
図12は、4つの撮像部2020の配置を例示する第2の斜視図である。図13は、図12の配置に対応する平面図である。図13(a)は図12のyz平面図であり、図13(b)は図12のxy平面図である。図13(a)に示すように、これらのy方向の位置及びz方向の位置関係は、図11(a)の場合と同様である。一方、図13(b)に示すように、これらのx方向の位置関係は、図11(b)の場合と異なる。具体的には、撮像部2020-1と撮像部2020-4のx方向の位置が、図11(b)の場合と異なる。
【0053】
各撮像部2020の撮像方向40の関係は、図8及び図9における関係と同様である。
また、各撮像部2020は、撮像範囲30が一部の範囲で互いに重複していることが好ましい。
【0054】
図12及び図13の配置は、図10及び図11の配置と異なり、x方向について異なる方向から商品が撮像されるようになる。よって、図10及び図11の配置と比較し、商品情報シンボル又は商品の特徴的な部分が商品画像に写る確率が高くなるため、認識部2030が商品を認識できる確率が高くなる。
【0055】
なお、図12及び図13の配置における各撮像部2020の向きは、図12及び図13に示す向きに限定されない。例えば撮像部2020-1と撮像部2020-2が互いに対応する向きを向いており、撮像部2020-3と撮像部2020-4が互いに対向する向きを向いていてもよい。
【0056】
<<配置6>>
図14は、8つの撮像部2020の配置を例示する図である。図15は、図14の配置に対応する平面図である。図15(a)は図14のyz平面図であり、図15(b)は図14のxy平面図である。これらの図が示すように、撮像部2020-1から撮像部2020-4の位置関係、及び撮像部2020-5から撮像部2020-8の位置関係はそれぞれ、図10及び図11の配置における位置関係と同様となっている。ただし、図15(b)に示すように、撮像部2020-1から撮像部2020-4と、撮像部2020-5から撮像部2020-8とは、x方向の位置が異なる。
【0057】
撮像部2020-1と撮像部2020-7の撮像方向40、撮像部2020-2と撮像部2020-8の撮像方向40、撮像部2020-3と撮像部2020-5の撮像方向40、及び撮像部2020-4と撮像部2020-6の撮像方向40はそれぞれ、互いに対向している。なお、各撮像部2020の撮像方向40はいずれも、全ての撮像部2020の中心位置を向いていることが好ましい。また、各撮像部2020は、撮像範囲30が一部の範囲で互いに重複していることが好ましい。
【0058】
図14及び図15の配置によれば、撮像部2020の数が2つの場合や4つの場合と比較し、撮像部2020の死角が少なくなる。よって、商品情報シンボル又は商品の特徴的な部分が商品画像に写る確率が高くなるため、認識部2030が商品を認識できる確率が高くなる。
【0059】
<<保持部2040について>>
保持部2040は可視光を通過させる部材で構成されることが好ましい。例えばこの部材は、透明なプラスチックやガラスなどで出来た棒、柱、又は板などである。保持部2040が可視光を通過するようにすることで、保持部2040によって商品に光が当たらなくなることを防ぐことができる。その結果、認識部2030による商品の認識の精度が低下することを防ぐことができる。
【0060】
<処理の流れ>
図16は、実施形態1の商品登録装置2000によって実行される処理の流れを例示するフローチャートである。撮像部2020は商品画像を生成する(S102)。認識部2030は商品画像を用いて商品を認識する(S104)。
【0061】
<撮像部2020が行う処理の詳細>
撮像部2020は商品画像を生成する(S102)。撮像部2020は静止画像を撮像してもよいし、動画を撮像してもよい。後者の場合、操作者画像は動画を構成する各フレームである。
【0062】
撮像部2020が撮像を行うタイミングは様々である。例えば撮像部2020は、操作者が商品登録装置2000に商品を認識させるタイミング及びその前後で撮像を行う。例えば商品登録装置2000の付近に人の検出を行う赤外線センサなどを設ける。商品登録装置2000は、この赤外線センサからの通知を受けることで、商品登録装置2000の付近に操作者がいることを把握することができる。そこで例えば、撮像部2020は、この赤外線センサによって商品登録装置2000の付近に操作者がいることが検出された時から、この赤外線センサによって操作者が検出されなくなるまでの間、撮像を行う。
【0063】
また例えば撮像部2020は、定期的に繰り返し撮像を行ってもよい。撮像部2020が繰り返し撮像を行う頻度は、例えば一般的な動画のフレームレートと同じ 1/30 秒である。
【0064】
<認識部2030が行う処理の詳細>
認識部2030は、撮像部2020が生成した商品画像を用いて商品の認識を行う(S104)。例えば認識部2030は、各撮像部2020によって生成された各商品画像について、商品画像に写っている商品情報シンボルの検出及び検出した商品情報シンボルの解析を行うことで、商品の特定を行う。また例えば、認識部2030は、各撮像部2020が生成した商品画像に写っている商品自体についてオブジェクト認識を行うことにより、商品の特定を行う。そして、いずれかの商品画像から商品を特定できた場合、特定した商品を精算対象として登録する。
【0065】
ここで、複数の商品画像それぞれについて行った特定の結果が、異なる商品を示す可能性がある。例えば、ある撮像部2020によって生成された商品画像を用いた特定の結果が「商品はXである」という結果を示し、別の撮像部2020によって生成された商品画像を用いた特定の結果が「商品はYである」という結果を示しているとする。この場合、例えば認識部2030は、最も確からしい結果を用いて商品を特定する。例えば認識部2030は、同じ特定結果となった商品画像が最も多い結果を採用する。例えば、ある3つの商品画像それぞれを解析した結果が「商品はXである」という結果を示しており、別の5つの商品画像それぞれを解析した結果が「商品はYである」という結果を示しているとする。この場合、認識部2030は、商品画像の数が多い「商品はYである」という結果を採用し、商品Yを精算対象として登録する。ただし認識部2030は、このように商品を一意に特定できなかった場合、警告を出してもよい。
【0066】
[実施形態2]
実施形態2の商品登録装置2000は、実施形態1の商品登録装置2000と同様に図1で表される。実施形態2の商品登録装置2000は、撮像部2020の配置が異なる点を除き、実施形態1の商品登録装置2000と同様である。
【0067】
実施形態2の商品登録装置2000は、複数の撮像部2020のうち、少なくとも2つ以上の商品登録装置2000が、互いに異なる方向にある商品を撮像するように配置される。以下、撮像部2020の配置について具体的に説明する。
【0068】
<配置1>
図17は、3つの撮像部2020の配置を例示する斜視図である。x方向、y方向、及びz方向はそれぞれ、操作者が商品を移動させる方向、台20の奥行き方向、及び鉛直方向である。撮像範囲30は、撮像部2020の撮像範囲である。撮像方向40は、撮像部2020を始点として、その撮像部2020の撮像範囲30の中心を通る方向である。
【0069】
図17に示すように、各撮像部2020の撮像方向40は互いに異なる向きとなっている。そして、各撮像部2020は、同じ筐体100に収められている。
【0070】
図18は、図17の配置に対応する平面図である。図18(a)は図17のyz平面図であり、図18(b)は図17のxy平面図である。図18(b)に示すように、各撮像部2020は、互いに異なる方向にある商品50を撮像する。
【0071】
このように撮像部2020を配置することで、商品が互いに異なる複数の方向から撮像されるため、商品情報シンボル又は商品の特徴的な部分が商品画像に写る確率が高くなり、認識部2030が商品を認識できる確率が高くなる。また、図17及び図18の配置に示すように、複数の撮像部2020を近い位置に配置することができるため、複数の撮像部2020同じ筐体に収めることができる。よって、撮像部2020の設置が容易になる。
【0072】
<配置2>
図19は、8つの撮像部2020の配置を例示する斜視図である。図19において、撮像部2020-1から撮像部2020-3が同じ筐体100-1に収められている。同様に、撮像部2020-4から撮像部2020-6が同じ筐体100-2に収められている。筐体100-1と筐体100-2は、互いに対向するように設置されている。撮像部2020-7は、台20上に設置されている。一方、撮像部2020-8は、商品通過エリア10の上に設置されている。図示は省略しているが、撮像部2020-8は保持部2040によって保持される。
【0073】
図20は、図19の配置に対応する平面図である。図20(a)は図19のyz平面図であり、図20(b)は図19のxy平面図である。図20(b)に示すように、撮像部2020-1から撮像部2020-3は、図17の配置と同様に、互いに異なる方向にある商品50を撮像する。また、撮像部2020-4から撮像部2020-6も、互いに異なる方向にある商品50を撮像する。撮像部2020-2と撮像部2020-5、及び撮像部2020-3と撮像部2020-6はそれぞれ、同じ位置にある商品50を互いに異なる方向から撮像する。また、撮像部2020-1、撮像部2020-4、撮像部2020-7及び撮像部2020-8は、同じ位置にある商品50を互いに異なる方向から撮像する。
【0074】
図19及び図20の配置によれば、図17及び図18の場合よりも多くの撮像部2020によって様々な方向から商品50を撮像できるため、商品情報シンボル又は商品の特徴的な部分が商品画像に写る確率が高くなり、認識部2030が商品を認識できる確率が高くなる。
【0075】
実施形態2の商品登録装置2000のハードウエア構成は、撮像部2020の配置を除き、実施形態1の商品登録装置2000と同様である。
【0076】
また、実施形態2の商品登録装置2000の各機能構成部が実行する処理は、実施形態1の商品登録装置2000の各機能構成部が実行する処理と同様である。
【0077】
<作用・効果>
本実施形態の商品登録装置2000によれば、複数の撮像部2020によって商品を互いに異なる方向から撮像するため、撮像部2020の数が1つの場合と比較し、商品情報シンボル又は商品の特徴的な部分が商品画像に写る確率が高くなる。よって、認識部2030が商品を認識できる確率が高くなる。さらに、本実施形態の商品登録装置2000は、同じ又は近い位置に複数の商品登録装置2000を設置し、これらの撮像部2020が異なる方向にある商品を撮像する。そのため、これらの撮像部2020を共通の筐体に収めることができるため、撮像部2020の設置が容易になる。
【0078】
[実施形態3]
図21は、実施形態3に係る商品登録装置2000を例示するブロック図である。図21において、各ブロックは、ハードウエア単位の構成ではなく、機能単位の構成を表している。
【0079】
実施形態3の商品登録装置2000は制御部2060を有する。制御部2060は、操作者の動作を撮像して画像を生成する。以下、制御部2060によって生成される画像を操作者画像と表記する。そして制御部2060は、操作者画像を用いて撮像部2020の制御を行う。
【0080】
<商品登録装置2000のハードウエア構成>
実施形態3の商品登録装置2000のハードウエア構成は、実施形態1の商品登録装置2000のハードウエア構成と同様に図3で表される。
【0081】
制御部2060は操作者画像を生成するための撮像素子を有する。例えば制御部2060は、撮像素子を有するカメラを用いて実装される。図22は、実施形態3の商品登録装置2000を具体的に例示する図である。図22の商品登録装置2000は、制御部2060を実現するためのカメラ110が、保持部2040の上に設置されている。ただし、カメラ110の設置位置は図22に示す位置に限定されない。
【0082】
なお、制御部2060が有するカメラは1つであってもよいし、複数であってもよい。
【0083】
ここで、制御部2060の撮像素子の解像度は、撮像部2020の撮像素子の解像度よりも低くてよい。これは、後述するように商品や商品情報シンボルの位置などの検出に利用できればよい操作者画像の解像度は、商品の特定に利用できる必要がある商品画像の解像度と比べ、必要となる解像度が低いためである。このように制御部2060の撮像素子の解像度を低くすることで、商品登録装置2000の製造コストを安くすることができる。ただし、制御部2060の撮像素子の解像度は、撮像部2020の撮像素子の解像度以上であってもよい。
【0084】
実施形態3のストレージ1080は、実施形態3の各機能構成部を実現するためのプログラムモジュールをさらに記憶する。そして、プロセッサ1040は、これら各プログラムモジュールを実行することで、実施形態4の各機能構成部の機能を実現する。
【0085】
<処理の流れ>
図23は、実施形態3の商品登録装置2000によって実行される処理の流れを例示するフローチャートである。制御部2060は操作者画像を生成する(S202)。制御部2060は、操作者画像に基づいて撮像部2020を制御する(S204)。撮像部2020は、制御部2060による制御に基づいて商品を撮像し、商品画像を生成する(S206)。認識部2030は生成された商品画像を用いて商品を認識する(S208)。
【0086】
<制御部2060が行う処理の詳細>
制御部2060は、操作者画像を生成する(S202)。制御部2060は、静止画像を撮像してもよいし、動画を撮像してもよい。後者の場合、操作者画像は動画を構成する各フレームである。
【0087】
制御部2060が撮像を行うタイミングは様々である。そのタイミングは、実施形態1で説明した撮像部2020が撮像を行うタイミングと同様である。
【0088】
さらに制御部2060は、操作者画像を用いて撮像部2020を制御する(S204)。制御部2060が撮像部2020を制御する具体的な方法は様々である。以下、その方法を例示して説明する。
【0089】
<<制御方法1>>
制御部2060は、各撮像部2020が商品の撮像を行うタイミングを制御する。まず制御部2060は、操作者画像を用いて、商品の検出、並びに商品の移動方向及び移動速度の算出を行う。ここで、画像から商品を検出する方法には、オブジェクト認識等の技術を利用できる。また制御部2060は、複数の操作者画像に写っている商品の位置の変化に基づいて、商品の移動方向や移動速度を算出する。
【0090】
そして、制御部2060は、操作者画像の撮像時点、商品の移動方向、及び商品の移動速度を用いて、撮像部2020ごとに、商品が撮像部2020の撮像範囲内に配置されるタイミングを算出する。そして、制御部2060は、各撮像部2020について算出した上記タイミングで、各撮像部2020に商品を撮像させる。こうすることで、認識部2030が商品を認識できる確率が高いタイミングで各撮像部2020を動作させることができるため、認識部2030商品を認識できる確率が高くなる。
【0091】
また、制御部2060は、商品が撮像範囲内に配置されない撮像部2020については、商品の撮像を行わせなくてもよい。こうすることで、撮像部2020の電力消費を抑え、かつ撮像部2020の劣化を防ぐことができる。
【0092】
ここで、商品が撮像部2020によって撮像される際、その商品は操作者の手に保持されているため、その商品の表面の一部が、操作者の手で覆われている状態にある。そのため、操作者画像には、商品の一部が欠けているような状態で商品が写る場合がある。
【0093】
このような場合、操作者画像に写っていない部分を補完して商品全体を再現した上で、撮像部2020の撮像タイミングを決定する制御を行うという方法も考えられる。しかし制御部2060は、このような補完を行わず、操作者画像に写っている商品の領域を用いて撮像部2020の撮像タイミングを決定することが好ましい。このように操作者の手で覆われていたりする部分は撮像部2020が生成する商品画像にも写らない確率が高いため、このような部分が配置されるタイミングで撮像部2020に商品を撮像させることは適切でないためである。
【0094】
そこで例えば、制御部2060は、商品の領域のうち、操作者画像に写っている部分の領域のみがその商品を表すものとして、各撮像部2020の撮像タイミングを決定する。こうすることで、制御部2060は、商品画像に写る商品の領域(手などで覆われていない部分)が撮像範囲内に配置されるタイミングで撮像部2020に撮像を行わせることができる。また、制御部2060は、商品画像に写る商品の領域が撮像範囲内に配置される撮像部2020のみに撮像を行わせることができる。
【0095】
なお、商品の移動速度は、操作者画像を用いて算出するのではなく、予め固定値として設定されていてもよい。例えば、商品登録装置2000の運用を開始する前に、商品登録装置2000の開発者等が、商品登録装置2000に商品を認識させる運用テストを行う。こうすることで、開発者等は、商品登録装置2000に商品を認識させる際の商品の移動速度を繰り返し実測し、その結果を用いて開発者等が上記固定値を決定する。この場合、制御部2060は、操作者画像の撮像時間、操作者画像から割り出した商品の移動方向、及び予め固定値として設定されている商品の移動速度を用いて、前述と同様の制御を行う。
【0096】
また、商品の移動方向も、予め固定値として設定されていてもよい。例えばこの固定値は、台60の長辺方向である。
【0097】
上述の各固定値は、制御部2060に予め設定されていてもよいし、制御部2060からアクセス可能な記憶部に記憶されていてもよい。後者の場合、制御部2060は、この記憶部から各固定値を読み出して利用する。
【0098】
また、制御部2060が有するカメラ等の位置及び撮像方向、並びに撮像部2020の位置及び認識方向が固定であれば、操作者画像内の商品の位置に関連付けて、その位置で商品が検出された場合にどの撮像部2020に撮像を行わせるかを予め決定しておくことができる。そこで、このように予め決定した制御方法を、制御部2060からアクセス可能な記憶部に記憶しておく。この場合、制御部2060は、操作者画像から商品を検出した際、この記憶部に記憶されている情報を参照動作することで、撮像部2020を制御する。
【0099】
<<制御方法2>>
制御部2060は、商品情報シンボルの位置、移動速度、及び移動方向を算出し、これらに基づいて撮像部2020を制御する。例えば制御部2060は、商品情報シンボルが撮像部2020の撮像範囲内に配置されるタイミングで、撮像部2020に撮像を行わせる。また例えば制御部2060は、商品情報シンボルが撮像範囲内に配置される撮像部2020のみに撮像を行わせ、商品情報シンボルが撮像範囲内に配置されない撮像部2020に撮像を行わせないように撮像部2020を制御する。ここで、商品情報シンボルの位置、移動速度、及び移動方向を算出する方法は、商品の位置、移動速度、及び移動方向を算出する方法と同様である。また、商品情報シンボルの位置、移動速度、及び移動方向に基づいて、各撮像部2020に撮像を行わせるタイミングを決定したり、一部の撮像部2020のみに撮像を行わせたり方法は、商品の位置、移動速度、及び移動方向に基づいて、各撮像部2020に撮像を行わせるタイミングを決定したり、一部の撮像部2020のみに撮像を行わせたりする方法と同様である。
【0100】
ここで、商品情報シンボルは操作者画像に写らない場合もある。例えば制御部2060が操作者の動作を斜め上から撮像する場合、商品の下に付されている商品情報シンボルは写らない場合がある。そこで、制御部2060は、操作者画像から商品を検出したものの商品情報シンボルを検出できない場合、制御部2060のカメラの死角になる位置に配置されている撮像部2020に撮像を行わせ、それ以外の撮像部2020に撮像を行わせないように撮像部2020を制御してもよい。制御部2060のカメラの死角になる位置に配置されている撮像部2020は、制御部2060の位置及び撮像方向、並びに各撮像部2020の配置から予め把握することができる。
【0101】
このように商品情報シンボルの位置などに基づいて撮像部2020を制御する方法によれば、商品の位置などに基づいて撮像部2020を制御させる方法よりもさらに適切なタイミングで撮像部2020に撮像を行わせたり、商品情報シンボルを読み取ることができる撮像部2020のみに撮像を行わせたりすることができる。なおこの場合、認識部2030は、商品情報シンボルを解析することで商品を認識する。
【0102】
<作用・効果>
本実施形態によれば、操作者画像に基づいて撮像部2020の制御が行われる。そのため、前述したように、認識部2030が商品を認識できる確率を高くすることができ、撮像部2020の電力消費を減らすことができ、かつ撮像部2020の劣化を防ぐことができる。
【0103】
[実施形態4]
実施形態4の商品登録装置2000は、実施形態3の商品登録装置2000と同様に図21によって表される。下記で説明する点を除き、実施形態4の商品登録装置2000は、実施形態3の商品登録装置2000と同様である。
【0104】
実施形態4の制御部2060は、操作者画像及び各撮像部2020の位置や向きに基づき、商品の認識に用いる1つ以上の商品画像を決定する。認識部2030は、制御部2060によって決定された商品画像を用いて商品を認識する。
【0105】
<ハードウエア構成>
実施形態4の商品登録装置2000のハードウエア構成は、実施形態1の商品登録装置2000のハードウエア構成と同様に図3で表される。実施形態4のストレージ1080は、実施形態4の各機能構成部を実現するためのプログラムモジュールをさらに記憶する。そして、プロセッサ1040は、これら各プログラムモジュールを実行することで、実施形態4の各機能構成部の機能を実現する。
【0106】
<処理の流れ>
図24は、実施形態4の商品登録装置2000によって実行される処理の流れを例示するフローチャートである。各撮像部2020は商品画像を生成する(S302)。制御部2060は操作者画像を生成する(S304)。制御部2060は、操作者画像を用いて、商品の認識に用いる商品画像を決定する(S306)。認識部2030は、決定された商品画像を用いて商品を認識する(S308)。
【0107】
<制御部2060が行う処理の詳細>
制御部2060は操作者画像を用いて商品画像を決定する(S306)。そのために、制御部2060は、実施形態3の制御部2060と同様の方法で、商品が各撮像部2020の撮像範囲内に配置されるタイミングなどを算出する。ただし、本実施形態では、このように算出するタイミングなどの利用方法が、実施形態3と異なる。以下、詳細に説明する。
【0108】
<<制御方法1>>
例えば制御部2060は、実施形態3で説明した制御方法1と同様の方法により、各撮像部2020について、商品が撮像範囲内に配置されるタイミングを割り出す。そして、制御部2060は、撮像部2020ごとに、その撮像部2020によって生成された各商品画像のうち、商品が撮像範囲内に配置されるタイミングで撮像された商品画像を特定する。そして、制御部2060は、特定された各商品画像を商品の認識に用いることを決定する。
【0109】
また例えば制御部2060は、実施形態3で説明した制御方法1と同様の方法により、撮像範囲内に商品が配置される撮像部2020を割り出す。そして、制御部2060は、撮像範囲内に商品が配置される撮像部2020によって生成された商品画像を商品の認識に用いることを決定する。
【0110】
<<制御方法2>>
例えば制御部2060は、実施形態3で説明した制御方法2と同様の方法により、商品情報シンボルが撮像範囲内に配置されるタイミングを割り出す。そして、制御部2060は、撮像部2020ごとに、その撮像部2020によって生成された各商品画像のうち、商品情報シンボルが撮像範囲内に配置されるタイミングで撮像された商品画像を特定する。そして、制御部2060は、特定された各商品画像を商品の認識に用いることを決定する。
【0111】
また例えば制御部2060は、実施形態3で説明した制御方法2と同様の方法により、撮像範囲内に商品情報シンボルが配置される撮像部2020を割り出す。そして、制御部2060は、撮像範囲内に商品情報シンボルが配置される撮像部2020によって生成された商品画像を商品の認識に用いることを決定する。
【0112】
<作用・効果>
本実施形態によれば、実施形態3と同様の理由により、商品登録装置2000が商品を認識できる確率が高くなる。さらに、本実施形態によれば、制御部2060は撮像部2020を制御する必要がない。そのため、商品登録装置2000による撮像部2020の制御がシンプルになる。
【0113】
[実施形態5]
実施形態5の商品登録装置2000は、実施形態4の商品登録装置2000と同様に、図21で表される。下記で説明する点を除き、実施形態5の商品登録装置2000は、実施形態4の商品登録装置2000と同様である。
【0114】
実施形態4の制御部2060は、商品又は商品情報シンボルが各撮像部2020の撮像範囲内に配置されるタイミングを算出する。しかし、制御部2060が算出するタイミングは予測値であるため、実際に商品又は商品情報シンボルが各撮像部2020の撮像範囲内に配置されるタイミングは、この予測値とずれることがある。
【0115】
また、実施形態4の制御部2060は、商品の移動方向などを算出することで、商品又は商品情報シンボルが撮像範囲内に配置される撮像部2020を予測する。しかし、商品の移動方向は変化することがあるため、「商品が撮像範囲内に配置される」と予測された撮像部2020の撮像範囲内に商品が配置されなかったり、「商品が撮像範囲内に配置されない」と予測された撮像部2020の撮像範囲内に商品が配置されることがある。
【0116】
そこで実施形態5の制御部2060は、撮像部2020によって撮像された商品画像に対して重み付けを行う。そして、認識部2030は、重み付けがされた各商品画像を用いて、商品の認識を行う。
【0117】
<処理の流れ>
図25は、実施形態5の商品登録装置2000によって実行される処理の流れを例示するフローチャートである。S302及びS304で行われる処理は、図23の場合と同様である。制御部2060は、各商品画像に対して重み付けを行う(S402)。認識部2030は、重み付けされた商品画像を用いて商品を認識する(S404)。
【0118】
<制御部2060が行う処理の詳細>
実施形態5の制御部2060は、操作者画像を用いて、各商品画像に対して重みをつける(S402)。具体的には、実施形態3や実施形態4で説明した各制御方法を利用して、商品画像に対して重み付けを行う。例えば制御部2060は、「商品又は商品情報シンボルが撮像範囲内に配置される」と予測された撮像部2020の重みを、「商品又は商品情報シンボルが撮像範囲内に配置されない」と予測された撮像部2020の重みよりも大きくする。また、制御部2060は、商品又は商品情報シンボルが撮像範囲内に配置されると予測されたタイミングに近い時点で撮像された商品画像ほど、重みを大きくする。
【0119】
ここで、制御部2060が商品又は商品情報シンボルが撮像範囲内に配置されるか否かに基づいて商品画像iにつける重みを ai とし、制御部2060が商品又は商品情報シンボルが撮像範囲内に配置されるタイミングと商品画像の撮像時点との乖離に基づいて商品画像iにつける重みを bi とする。この場合、例えば制御部2060は商品画像iに対して ai*bi の重みをつける。ただし制御部2060は、商品画像iに対して、ai 又は bi のみをつけてもよい。
【0120】
<認識部2030が行う処理の詳細>
認識部2030は、重み付けがされた商品画像を用いて商品を認識する(S404)。ここで、認識部2030は、商品画像につけられた重みを、その商品画像を用いて認識される商品の確からしさの指標として用いる。具体的には、認識部2030は、同じ商品が写っている商品画像それぞれについて、その商品画像に写っている商品を特定する。そして認識部2030は、商品を一意に特定できなかった場合、各商品画像につけられた重みをその商品画像に基づく特定の確からしさとすることで、商品を一意に特定する。
【0121】
例えば、ある1つの商品について生成された複数の商品画像のうち、一部の商品画像については、オブジェクト認識等により、「商品はXである」と特定されたとする。一方、別の商品画像については、オブジェクト認識等の結果により、「商品はYである」と特定されたとする。この場合、認識部2030は、各商品画像につけられた重みを用いて上記2つの特定の確からしさを算出し、より確からしい方の結果を、商品の特定結果とする。例えば認識部2030は、「商品はXである」という特定がされた商品画像の重みと、「商品はYである」という特定がされた商品画像の重みを、それぞれの特定の確からしさとして用いる。そして認識部2030は、重みが大きい方の特定を、最終的な特定結果とする。
【0122】
なお上述の例において、「商品はXである」という特定がされた商品画像と、「商品はYである」という特定がされた商品画像が、それぞれ複数あるとする。この場合、認識部2030は、「商品はXである」という特定がされた商品画像の重みの合計値と、「商品はYである」という特定がされた商品画像の重みの合計値を比較し、重みの合計値が大きい方の特定を、最終的な特定結果とする。
【0123】
<作用・効果>
本実施形態の商品登録装置2000によれば、商品が撮像部2020の撮像範囲内に配置されるタイミングの予測値などを用いて各商品画像に重み付けをすることで、商品を高い精度で一意に特定することができる。よって、商品登録装置2000による商品の認識の精度が高くなる。
【0124】
[実施形態6]
図26は、実施形態6に係る精算システム4000を例示するブロック図である。図1において、各ブロックは、ハードウエア単位の構成ではなく、機能単位の構成を表している。
【0125】
精算システム4000は、実施形態1から実施形態5の商品登録装置2000のいずれか、及び精算装置3000を有する。精算装置3000は、認識部2030によって認識された商品の精算処理を行う装置である。
【0126】
商品登録装置2000は、認識部2030によって認識することで精算対象として登録した商品について、その商品の精算に用いる精算情報を生成する。ここで、1つの精算処理における精算対象には、複数の商品が含まれうる。例えば商品登録装置2000は、精算対象の登録処理の開始を指示する操作を受け付けた後、精算対象の登録処理の終了を指示する操作を受け付けるまでの間に認識部2030によって認識された1つ又は複数の商品を、1つの精算処理における精算対象として登録する。ある精算処理に関する精算情報は、その精算処理の対象として登録された各商品のIDなどを示す。また精算情報は、取引番号、各商品の金額、及び合計金額などをさらに示してもよい。
【0127】
精算装置3000は、精算対象として登録された商品の精算処理に用いられる。具体的には、精算装置3000は、合計金額を提示する処理、代金の投入を受け付ける処理、投入された代金を数え上げる処理、おつりを返却する処理、及びレシートを発行する処理などを行う。
【0128】
精算装置3000は、商品登録装置2000と一体に設けられてもよいし、別体に設けられてもよい。精算装置3000が商品登録装置2000と一体に設けられる場合、計算機1000は、商品登録装置2000として動作する機能だけでなく、精算装置3000として動作する機能も有する。
【0129】
精算装置3000が商品登録装置2000と別体に設けられる場合、精算装置3000は、レジ端末などの専用端末で実装されてもよいし、汎用計算機で実装されてもよい。精算装置3000を実現する計算機のハードウエア構成は、例えば図3の計算機1000のハードウエア構成と同様である。さらに、精算装置3000を実現する計算機の入出力インタフェースには、顧客が代金を投入するためのデバイス、おつりを返金するためのデバイス、及びレシートを発行するためのデバイスなどが接続される。
【0130】
以上、図面を参照して本発明の実施形態について述べたが、これらは本発明の例示であり、上記以外の様々な構成を採用することもできる。
【0131】
以下、参考形態の例を付記する。
1. 商品を撮像して商品画像を生成する複数の撮像手段を、互いに異なる位置に有し、
各前記撮像手段によって生成された商品画像に写っている、商品の画像又はその商品に付されていてその商品を特定するシンボルである商品情報シンボルの画像を用いて、その商品を認識する認識手段を有する商品登録装置。
2. 第1の前記撮像手段と第2の前記撮像手段は、互いに異なる方向から商品を撮像する、1.に記載の商品登録装置。
3. 第1の前記撮像手段と第2の前記撮像手段は、商品が通過する商品通過エリアを挟んで互いに対向する位置に設けられている、1.又は2.に記載の商品登録装置。
4. 商品を撮像して商品画像を生成する複数の撮像手段と、
各前記撮像手段によって生成された商品画像に写っている、商品の画像又はその商品に付されていてその商品を特定するシンボルである商品情報シンボルの画像を用いて、その商品を認識する認識手段と、を有し、
各前記撮像手段は、異なる方向にある商品を撮像する、商品登録装置。
5. 各前記撮像手段は、撮像範囲に、商品が通過する商品通過エリアの一部又は全てを含む、1.乃至4.いずれか一つに記載の商品登録装置。
6. 前記撮像手段を保持し、かつ可視光を通過させる保持手段を有し、
前記保持手段を通過した可視光は、商品が通過する商品通過エリアを通る、1.乃至5.いずれか一つに記載の商品登録装置。
7. 操作者の動作を撮像して操作者画像を生成し、その操作者画像を用いて、複数の前記撮像手段の内、一部の前記撮像手段に商品を撮像させる制御手段を有する1.乃至6.いずれか一つに記載の商品登録装置。
8. 操作者の動作を撮像して操作者画像を生成し、その操作者画像を用いて、各撮像手段によって撮像された商品画像の中から、商品の認識に用いる商品画像を決定する制御手段と、
前記認識手段は、前記制御手段によって決定された商品画像を用いて商品の認識を行う、1.乃至6.いずれか一つに記載の商品登録装置。
9. 操作者の動作を撮像して操作者画像を生成し、その操作者画像を用いて、商品の認識に用いる商品画像を決定する制御手段を有し、
前記認識手段は、重み付けがされた各前記商品画像を用いて商品の認識を行う1.乃至6.いずれか一つに記載の商品登録装置。
10. コンピュータを、1.乃至9.いずれか一つに記載の商品登録装置として動作させるプログラム。
11. コンピュータによって実行させる制御方法であって、
互いに異なる位置に設けられた撮像手段が、商品を撮像して商品画像を生成する撮像ステップと、
各前記撮像手段によって生成された商品画像に写っている、商品の画像又はその商品に付されていてその商品を特定するシンボルである商品情報シンボルの画像を用いて、その商品を認識する認識ステップと、を有する制御方法。
12. 第1の前記撮像手段と第2の前記撮像手段は、互いに異なる方向から商品を撮像する、11.に記載の制御方法。
13. 第1の前記撮像手段と第2の前記撮像手段は、商品が通過する商品通過エリアを挟んで互いに対向する位置に設けられている、11.又は12.に記載の制御方法。
14. コンピュータによって実行される制御方法であって、複数の撮像手段が、商品を撮像して商品画像を生成する撮像ステップと、
各前記撮像手段によって生成された商品画像に写っている、商品の画像又はその商品に付されていてその商品を特定するシンボルである商品情報シンボルの画像を用いて、その商品を認識する認識ステップと、を有し、
各前記撮像手段は、異なる方向にある商品を撮像する、制御方法。
15. 各前記撮像手段は、撮像範囲に、商品が通過する商品通過エリアの一部又は全てを含む、請求項11.乃至14.いずれか一項に記載の制御方法。
16. 前記撮像手段を保持し、かつ可視光を通過させる保持手段を有し、
前記保持手段を通過した可視光は、商品が通過する商品通過エリアを通る、11.乃至15.いずれか一つに記載の制御方法。
17. 操作者の動作を撮像して操作者画像を生成し、その操作者画像を用いて、複数の前記撮像手段の内、一部の前記撮像手段に商品を撮像させる制御ステップを有する11.乃至16.いずれか一つに記載の制御方法。
18. 操作者の動作を撮像して操作者画像を生成し、その操作者画像を用いて、各撮像手段によって撮像された商品画像の中から、商品の認識に用いる商品画像を決定する制御ステップと、
前記認識ステップは、前記制御ステップによって決定された商品画像を用いて商品の認識を行う、11.乃至16.いずれか一つに記載の制御方法。
19. 操作者の動作を撮像して操作者画像を生成し、その操作者画像を用いて、商品の認識に用いる商品画像を決定する制御ステップを有し、
前記認識ステップは、重み付けがされた各前記商品画像を用いて商品の認識を行う11.乃至16.いずれか一つに記載の制御方法。
20. 1.乃至9.いずれか一項に記載の商品登録装置と、その商品登録装置の前記認識手段によって認識された商品の精算処理を行う精算装置と、を有する精算システム。
【符号の説明】
【0132】
10 商品通過エリア
20 台
30 撮像範囲
40 撮像方向
50 商品
60 台
90 カメラ
100 筐体
110 カメラ
1000 計算機
1020 バス
1040 プロセッサ
1060 メモリ
1080 ストレージ
1100 入出力インタフェース
2000 商品登録装置
2020 撮像部
2030 認識部
2040 保持部
2060 制御部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26