IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社日立エルジーデータストレージの特許一覧

特開2024-25061物品特定システム、物品特定方法、物品特定プログラム及び物品取得判断システム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024025061
(43)【公開日】2024-02-26
(54)【発明の名称】物品特定システム、物品特定方法、物品特定プログラム及び物品取得判断システム
(51)【国際特許分類】
   G06Q 30/06 20230101AFI20240216BHJP
   G06T 7/20 20170101ALI20240216BHJP
   G06V 40/20 20220101ALI20240216BHJP
   B65G 1/137 20060101ALI20240216BHJP
【FI】
G06Q30/06
G06T7/20 300Z
G06V40/20
B65G1/137 C
【審査請求】未請求
【請求項の数】19
【出願形態】OL
(21)【出願番号】P 2022128199
(22)【出願日】2022-08-10
(71)【出願人】
【識別番号】501009849
【氏名又は名称】株式会社日立エルジーデータストレージ
(74)【代理人】
【識別番号】110001689
【氏名又は名称】青稜弁理士法人
(72)【発明者】
【氏名】赤星 健司
(72)【発明者】
【氏名】林 久紘
(72)【発明者】
【氏名】市川 紀元
【テーマコード(参考)】
3F522
5L049
5L096
【Fターム(参考)】
3F522AA04
3F522BB06
3F522BB19
3F522BB24
3F522DD04
3F522DD22
3F522DD32
3F522DD38
3F522EE13
3F522FF02
3F522FF06
3F522FF17
3F522FF21
3F522FF28
3F522GG44
3F522GG47
3F522LL62
5L049BB72
5L096AA09
5L096CA27
5L096DA02
5L096EA39
5L096FA32
5L096FA69
5L096GA51
5L096KA04
(57)【要約】
【課題】同じ棚の異なる位置から同時に取り上げられた物品を精度よく特定することができる物品特定システム、物品特定方法、物品特定プログラム及び物品取得判断システムを提供する。
【解決手段】物品特定システムは、棚に設置された重量センサと、人物の距離データを取得する測距センサと、重量センサから重量計測データ及び測距センサから人物の距離データを取得する情報処理装置を含む物品特定装置と、含む。情報処理装置は、重量計測データに基づき、複数の取り上げ推定商品の第1物品取り上げ位置及び取り上げ推定商品の推定の正しさの程度を示す確度を計算する。情報処理装置は、人物の距離データに基づいて、第2物品取り上げ位置を取得する。情報処理装置は、第1物品取り上げ位置及び第2物品取り上げ位置に基づいて、取り上げ推定物品の確度を補正することにより補正確度を計算し、補正確度に基づいて取り上げ物品を特定する。
【選択図】図3
【特許請求の範囲】
【請求項1】
物品が載置された棚に設置された前記物品の重量を計測する重量センサと、
前記棚及び前記棚の前方の所定の領域を測定範囲に含み、前記測定範囲に存在する測定対象物までの距離を測定する測距センサと、
前記重量センサによって計測された前記重量である重量計測データを取得し、前記測距センサによって計測された前記測定範囲内に存在する人物を表す前記距離である距離データを取得する情報処理装置を含む物品特定装置と、
を含む物品特定システムであって、
前記情報処理装置は、
前記物品が前記棚から取り上げられるときの前記重量計測データに基づいて、前記棚から取り上げられた物品を推定し、推定した複数の前記物品である複数の取り上げ推定物品のそれぞれについて、前記取り上げ推定物品の取り上げ推定位置である第1物品取り上げ位置及び前記取り上げ推定物品の推定の正しさの程度を示す確度を計算し、
前記人物の距離データに基づいて、前記人物が前記棚から前記物品を取り上げるときの前記人物の所定部位の位置に基づく第2物品取り上げ位置を取得し、
複数の前記取り上げ推定物品のそれぞれについて、前記確度を前記第1物品取り上げ位置及び前記第2物品取り上げ位置に基づいて補正することにより補正確度を計算し、前記補正確度に基づいて、複数の前記取り上げ推定物品の中から前記棚から取り上げられた1又は複数の前記物品である取り上げ物品を特定する、
ように構成された、
物品特定システム。
【請求項2】
請求項1に記載の物品特定システムにおいて、
前記情報処理装置は、
前記確度から、前記第1物品取り上げ位置と前記第2物品取り上げ位置との差分の絶対値に重み付け係数を乗じた値を減じることにより、前記確度を補正する、
ように構成された、
物品特定システム。
【請求項3】
請求項1に記載の物品特定システムにおいて、
前記情報処理装置は、
複数の前記取り上げ推定物品の中に、同時に取り上げられた複数の取り上げ推定物品である同時取り上げ推定物品が存在し、且つ、前記第2物品取り上げ位置が1か所だけ取得された場合、
前記同時取り上げ推定物品を構成する複数の前記取り上げ推定物品の前記補正確度の平均を更に計算し、
前記同時取り上げ推定物品ではない前記取り上げ推定物品の前記補正確度及び前記補正確度の平均に基づいて、
最も高い確度を有する、同時取り上げ推定物品ではない前記取り上げ推定物品又は前記同時取り上げ推定物品を、前記取り上げ物品として特定する、
ように構成された、
物品特定システム。
【請求項4】
請求項1に記載の物品特定システムにおいて、
前記情報処理装置は、
複数の前記取り上げ推定物品の中に、同時に取り上げられた複数の取り上げ推定物品である同時取り上げ推定物品が存在し、且つ、前記第2物品取り上げ位置が2か所取得された場合、
前記同時取り上げ推定物品を構成する複数の前記取り上げ推定物品の前記補正確度の平均を更に計算し、
前記同時取り上げ推定物品を構成する複数の前記取り上げ推定物品の前記補正確度の和を更に計算し、
前記同時取り上げ推定物品ではない前記取り上げ推定物品の前記補正確度、前記補正確度の平均、及び、前記補正確度の和に基づいて、
前記補正確度が最も高い場合、最も高い確度を有する、同時取り上げ推定物品ではない前記取り上げ推定物品を、前記取り上げ物品として特定し、
前記補正確度の平均が最も高い場合、又は、前記補正確度の和が最も高い場合、同時取り上げ推定物品を、前記取り上げ物品として特定する、
ように構成された、
物品特定システム。
【請求項5】
請求項1に記載の物品特定システムにおいて、
前記情報処理装置は、
複数の前記取り上げ推定物品の中に、同時に取り上げられた複数の取り上げ推定物品である同時取り上げ推定物品が存在し、且つ、異なる二人の前記人物の所定部位に基づく前記第2物品取り上げ位置が2か所取得された場合、
前記同時取り上げ推定物品を構成する複数の前記取り上げ推定物品の前記補正確度の平均を更に計算し、
前記同時取り上げ推定物品を構成する複数の前記取り上げ推定物品の前記補正確度の和を更に計算し、
前記同時取り上げ推定物品ではない前記取り上げ推定物品の前記補正確度、前記補正確度の平均、及び、前記補正確度の和に基づいて、
前記補正確度が最も高い場合、最も高い確度を有する、同時取り上げ推定物品ではない前記取り上げ推定物品を、前記取り上げ物品として特定し、更に、特定した前記取り上げ物品を取り上げた前記人物を特定し、
前記補正確度の平均が最も高い場合、又は、前記補正確度の和が最も高い場合、同時取り上げ推定物品を、前記取り上げ物品として特定し、更に、特定した前記取り上げ物品を取り上げた前記人物を特定する、
ように構成された、
物品特定システム。
【請求項6】
請求項1に記載の物品特定システムにおいて、
前記情報処理装置は、
前記補正確度を計算する前に、前記確度に重み付けを行う、
ように構成された、
物品特定システム。
【請求項7】
請求項1に記載の物品特定システムにおいて、
前記情報処理装置は、
前記確度が、所定の閾値確度以上である場合、前記補正確度を計算することなく、前記閾値確度以上の前記確度を有する取り上げ推定物品を、取り上げ物品として特定する、
ように構成された、
物品特定システム。
【請求項8】
請求項1に記載の物品特定システムにおいて、
前記情報処理装置は、
前記人物の所定部位の位置として、前記人物が前記棚から前記物品を取り上げるときの前記人物の手の位置を取得する、
ように構成された、
物品特定システム。
【請求項9】
請求項8に記載の物品特定システムにおいて、
前記情報処理装置は、
前記人物の手の位置を取得できなかった場合において、前記人物の所定部位の位置として、前記人物の手の位置以外の所定の位置を取得できる場合、前記人物が前記棚から前記物品を取り上げるときの前記所定の位置を前記第2物品取り上げ位置として取得する、
ように構成された、
物品特定システム。
【請求項10】
請求項1に記載の物品特定システムにおいて、
前記情報処理装置は、
前記第1物品取り上げ位置を取得でき、
前記第2物品取り上げ位置を取得できなかった場合、前記第1物品取り上げ位置に基づいて、前記取り上げ物品を特定する、
ように構成された、
物品特定システム。
【請求項11】
請求項1に記載の物品特定システムにおいて、
前記情報処理装置は、
前記第2物品取り上げ位置に基づいて所定の物品取り上げ可能性範囲を設定し、
前記物品取り上げ可能性範囲以外に存在する前記取り上げ推定物品を前記取り上げ物品の特定対象から除外する、
ように構成された、
物品特定システム。
【請求項12】
請求項1に記載の物品特定システムにおいて、
前記情報処理装置は、
前記第1物品取り上げ位置に基づいて所定の第1物品取り上げ可能性候補範囲を設定し、
前記第2物品取り上げ位置に基づいて所定の第2物品取り上げ可能性候補範囲を設定し、
前記第1物品取り上げ可能性候補範囲及び前記第2物品取り上げ可能性候補範囲に基づく範囲を、物品取り上げ可能性範囲として設定し、
前記物品取り上げ可能性範囲以外に存在する前記取り上げ推定物品を前記取り上げ物品の特定対象から除外する、
ように構成された、
物品特定システム。
【請求項13】
物品が載置された棚に設置された前記物品の重量を計測する重量センサと、
前記棚及び前記棚の前方の所定の領域を測定範囲に含み、前記測定範囲に存在する測定対象物までの距離を測定する測距センサと、
前記重量センサによって計測された前記重量である重量計測データを取得し、前記測距センサによって計測された前記測定範囲内に存在する人物を表す前記距離である距離データを取得する情報処理装置を含む物品特定装置と、
を用いた物品特定方法であって、
前記情報処理装置によって、
前記物品が前記棚から取り上げられるときの前記重量計測データに基づいて、前記棚から取り上げられた物品を推定し、推定した複数の前記物品である複数の取り上げ推定物品のそれぞれについて、前記取り上げ推定物品の取り上げ推定位置である第1物品取り上げ位置及び前記取り上げ推定物品の推定の正しさの程度を示す確度を計算し、
前記人物の距離データに基づいて、前記人物が前記棚から前記物品を取り上げるときの前記人物の所定部位の位置に基づく第2物品取り上げ位置を取得し、
複数の前記取り上げ推定物品のそれぞれについて、前記確度を前記第1物品取り上げ位置及び前記第2物品取り上げ位置に基づいて補正することにより補正確度を計算し、前記補正確度に基づいて、複数の前記取り上げ推定物品の中から前記棚から取り上げられた1又は複数の前記物品である取り上げ物品を特定する、
物品特定方法。
【請求項14】
コンピュータに、
物品が載置された棚に設置された前記物品の重量を計測する重量センサから取得した前記重量センサによって計測された前記重量である重量計測データ、及び、
前記棚及び前記棚の前方の所定の領域を測定範囲に含み、前記測定範囲に存在する測定対象物までの距離を測定する測距センサから取得した、前記測距センサによって計測された前記測定範囲内に存在する人物を表す前記距離である距離データを用いた処理を実行させる物品特定プログラムであって、
前記コンピュータに、
前記物品が前記棚から取り上げられるときの前記重量計測データに基づいて、前記棚から取り上げられた物品を推定し、推定した複数の前記物品である複数の取り上げ推定物品のそれぞれについて、前記取り上げ推定物品の取り上げ推定位置である第1物品取り上げ位置及び前記取り上げ推定物品の推定の正しさの程度を示す確度を計算し、
前記人物の距離データに基づいて、前記人物が前記棚から前記物品を取り上げるときの前記人物の所定部位の位置に基づく第2物品取り上げ位置を取得し、
複数の前記取り上げ推定物品のそれぞれについて、前記確度を前記第1物品取り上げ位置及び前記第2物品取り上げ位置に基づいて補正することにより補正確度を計算し、前記補正確度に基づいて、複数の前記取り上げ推定物品の中から前記棚から取り上げられた1又は複数の前記物品である取り上げ物品を特定する処理を実行させる、
物品特定プログラム。
【請求項15】
複数の物品を載置可能な棚に、互いに離間して設けられた、前記物品の重量を検出する複数の重量センサと、
前記重量センサの検出結果を用いて、前記物品が載置された前記棚における重量分布を含む情報を検出する第1の検出部と、
前記第1の検出部によって検出された情報を用いて、前記棚から取得された物品の候補と、当該物品の候補に対する妥当性とを判断する第1の判断部であって、複数通りの前記物品の候補に対して妥当性を判断する前記第1の判断部と、
前記棚の付近の物品及び人物までの距離を検出する測距センサと、
前記測距センサにおける検出結果を用いて、前記棚付近における物品、人物及び人物の動作を検出する第2の検出部と、
前記第2の検出部の検出結果を用いて、どの人物が、どの物品に向けた動作を行ったかを判断する第2の判断部と、
前記第1の判断部の判断結果及び前記第2の判断部の判断結果を用いて、どの人物が、どの物品を取得したかを判断する第3の判断部と、
を備え、
前記棚の一の方向における前記棚の略中央の第1領域、前記第1領域を前記一の方向の両側で挟む第2領域及び第3領域の前記第1領域に第1物品が載置され、前記第2領域に第2物品が載置され、前記第3領域に第3物品が載置されている第1の状況において、
前記第1の判断部が、前記複数通りの前記物品の候補が一つの第2物品及び一つの第3物品を含み、且つ、最も妥当性の高い前記物品の候補が一つの第2物品であり、その次に妥当性の高い前記物品の候補が、一つの第3物品であると判断し、
かつ、
前記第2の判断部が、第1人物が第3物品にむけた動作を行ったと判断した場合、前記第3の判断部は、前記第1人物が第3物品を取得したと判断する、
ことを特徴とする物品取得判断システム。
【請求項16】
複数の物品を載置可能な棚に、互いに離間して設けられた、前記物品の重量を検出する複数の重量センサと、
前記重量センサの検出結果を用いて、前記物品が載置された前記棚における重量分布を含む情報を検出する第1の検出部と、
前記第1の検出部によって検出された情報を用いて、前記棚から取得された物品の候補と、当該物品の候補に対する妥当性とを判断する第1の判断部であって、複数通りの前記物品の候補に対して妥当性を判断する前記第1の判断部と、
前記棚の付近の物品及び人物までの距離を検出する測距センサと、
前記測距センサにおける検出結果を用いて、前記棚付近における物品、人物及び人物の動作を検出する第2の検出部と、
前記第2の検出部の検出結果を用いて、どの人物が、どの物品に向けた動作を行ったかを判断する第2の判断部と、
前記第1の判断部の判断結果及び前記第2の判断部の判断結果を用いて、どの人物が、どの物品を取得したかを判断する第3の判断部と、
を備え、
前記棚の一の方向における前記棚の略中央の第1領域、前記第1領域を前記一の方向の両側で挟む第2領域及び第3領域の前記第1領域に第1物品が載置され、前記第2領域に第2物品が載置され、前記第3領域に第3物品が載置され、かつ、第2物品の重量と第3物品の重量とが略等しく、かつ、前記第1物品の重量は前記第2物品の重量の略2倍である第2の状況において、
前記第1の判断部が、前記複数通りの前記物品の候補が一つの前記第1物品、並びに、一つの前記第2物品及び一つの前記第3物品であり、且つ、最も妥当性の高い前記物品の候補が一つの前記第1物品であり、その次に妥当性の高い前記物品の候補が、一つの前記第2物品及び一つの前記第3物品であると判断し、
且つ、
前記第2の判断部が、第1人物が前記第2物品に向けた動作を行うとともに第2人物が前記第3物品に向けた動作を行ったと判断した場合、
前記第3の判断部は、前記第1人物が前記第2物品を取得し、前記第2人物が前記第3物品を取得したと判断する、
ことを特徴とする物品取得判断システム。
【請求項17】
複数の物品を載置可能な棚に、互いに離間して設けられた、前記物品の重量を検出する複数の重量センサと、
前記重量センサの検出結果を用いて、前記物品が載置された前記棚における重量分布を含む情報を検出する第1の検出部と、
前記第1の検出部によって検出された情報を用いて、前記棚から取得された物品の候補と、当該物品の候補に対する妥当性とを判断する第1の判断部であって、複数通りの前記物品の候補に対して妥当性を判断する前記第1の判断部と、
前記棚の付近の物品及び人物までの距離を検出する測距センサと、
前記測距センサにおける検出結果を用いて、前記棚付近における物品、人物及び人物の動作を検出する第2の検出部と、
前記第2の検出部の検出結果を用いて、どの人物が、どの物品に向けた動作を行ったかを判断する第2の判断部と、
前記第1の判断部の判断結果及び前記第2の判断部の判断結果を用いて、どの人物が、どの物品を取得したかを判断する第3の判断部と、
を備え、
前記棚の一の方向における前記棚の略中央の第1領域、前記第1領域を前記一の方向の両側で挟む第2領域及び第3領域の前記第1領域に第1物品が載置され、前記第2領域に第2物品が載置され、前記第3領域に第3物品が載置され、かつ、第2物品の重量と第3物品の重量とが略等しく、かつ、前記第1物品の重量は前記第2物品の重量の略2倍である第2の状況において、
前記第1の判断部が、前記複数通りの前記物品の候補が一つの前記第1物品、並びに、一つの前記第2物品及び一つの前記第3物品であり、且つ、最も妥当性の高い前記物品の候補が一つの前記第2物品及び一つの前記第3物品であり、その次に妥当性の高い前記物品の候補が、一つの前記第1物品であると判断し、
且つ、
前記第2の判断部が、第1人物が前記第1物品に向けた動作を行ったと判断した場合、
前記第3の判断部は、前記第1人物が前記第1物品を取得したと判断する、
ことを特徴とする物品取得判断システム。
【請求項18】
複数の物品を載置可能な棚に、互いに離間して設けられた、前記物品の重量を検出する複数の重量センサと、
前記重量センサの検出結果を用いて、前記物品が載置された前記棚における重量分布を含む情報を検出する第1の検出部と、
前記第1の検出部によって検出された情報を用いて、前記棚から取得された物品の候補と、当該物品の候補に対する妥当性とを判断する第1の判断部であって、複数通りの前記物品の候補に対して妥当性を判断する前記第1の判断部と、
前記棚の付近の物品及び人物までの距離を検出する測距センサと、
前記測距センサにおける検出結果を用いて、前記棚付近における物品、人物及び人物の動作を検出する第2の検出部と、
前記第2の検出部の検出結果を用いて、どの人物が、どの物品に向けた動作を行ったかを判断する第2の判断部と、
前記第1の判断部の判断結果及び前記第2の判断部の判断結果を用いて、どの人物が、どの物品を取得したかを判断する第3の判断部と、
を備え、
前記棚の一の方向における前記棚の略中央の第1領域、前記第1領域を前記一の方向の両側で挟む第2領域及び第3領域の前記第1領域に第1物品が載置され、前記第2領域に第2物品が載置され、前記第3領域に第3物品が載置され、かつ、第2物品の重量と第3物品の重量とが略等しく、かつ、前記第1物品の重量は前記第2物品の重量の略2倍である第2の状況において、
前記第1の判断部が、前記複数通りの前記物品の候補が一つの前記第1物品、並びに、一つの前記第2物品及び一つの前記第3物品であり、且つ、最も妥当性の高い前記物品の候補が一つの前記第1物品であり、その次に妥当性の高い前記物品の候補が、一つの前記第2物品及び一つの前記第3物品であると判断し、
且つ、
前記第2の判断部が、第1人物が前記第2物品及び前記第3物品に向けた動作を行ったと判断した場合、
前記第3の判断部は、前記第1人物が一つの前記第2物品及び一つの前記第3物品を取得したと判断する、
ことを特徴とする物品取得判断システム。
【請求項19】
複数の物品を載置可能な棚に、互いに離間して設けられた、前記物品の重量を検出する複数の重量センサと、
前記重量センサの検出結果を用いて、前記物品が載置された前記棚における重量分布を含む情報を検出する第1の検出部と、
前記第1の検出部によって検出された情報を用いて、前記棚から取得された物品の候補と、当該物品の候補に対する妥当性とを判断する第1の判断部であって、複数通りの前記物品の候補に対して妥当性を判断する前記第1の判断部と、
前記棚の付近の物品及び人物までの距離を検出する測距センサと、
前記測距センサにおける検出結果を用いて、前記棚付近における物品、人物及び人物の動作を検出する第2の検出部と、
前記第2の検出部の検出結果を用いて、どの人物が、どの物品に向けた動作を行ったかを判断する第2の判断部と、
前記第1の判断部の判断結果及び前記第2の判断部の判断結果を用いて、どの人物が、どの物品を取得したかを判断する第3の判断部と、
を備え、
前記第1の判断部において最も妥当度が高いと判断された前記物品が前記第2の判断部で判断された前記物品と一致せず、かつ、第1の判断部において2番目に妥当度が高いと判断された前記物品が第2の判断部で判断された前記物品と一致するとき、前記第3の判断部は、前記第2の判断部で判断された前記物品が取得されたと判断する、
ことを特徴とする物品取得判断システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、物品特定システム、物品特定方法、物品特定プログラム及び物品取得判断システムに関する。
【背景技術】
【0002】
特許文献1は、複数の物品が載置された棚から取り上げられた物品を推定する物品推定装置(以下、「従来装置」と称呼される。)を開示する。従来装置は、複数の物品が載置された棚に設けられた重量センサの検出値の変化に基づく重量変化データ及び棚の前の空間である棚前空間に位置する人物の手の動きを示す動作データを取得する。従来装置は、重量変化データ及び動作データを用いて、人物の手によって、異なる高さの棚から取り上げられた物品を推定する。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】国際公開第2020/179480号
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、従来装置は、同じ棚の異なる位置から同時に取り上げられた物品を推定することができなかった。本発明は上記課題を解決するためになされた。即ち、本発明の目的の一つは、同じ棚の異なる位置から同時に取り上げられた物品を精度よく特定することができる物品特定システム、物品特定方法、物品特定プログラム及び物品取得判断システムを提供することにある。
【課題を解決するための手段】
【0005】
上記課題を解決するために、本発明の物品特定システムは、物品が載置された棚に設置された前記物品の重量を計測する重量センサと、前記棚及び前記棚の前方の所定の領域を測定範囲に含み、前記測定範囲に存在する測定対象物までの距離を測定する測距センサと、前記重量センサによって計測された前記重量である重量計測データを取得し、前記測距センサによって計測された前記測定範囲内に存在する人物を表す前記距離である距離データを取得する情報処理装置を含む物品特定装置と、を含む物品特定システムであって、前記情報処理装置は、前記物品が前記棚から取り上げられるときの前記重量計測データに基づいて、前記棚から取り上げられた物品を推定し、推定した複数の前記物品である複数の取り上げ推定物品のそれぞれについて、前記取り上げ推定物品の取り上げ推定位置である第1物品取り上げ位置及び前記取り上げ推定物品の推定の正しさの程度を示す確度を計算し、前記人物の距離データに基づいて、前記人物が前記棚から前記物品を取り上げるときの前記人物の所定部位の位置に基づく第2物品取り上げ位置を取得し、複数の前記取り上げ推定物品のそれぞれについて、前記確度を前記第1物品取り上げ位置及び前記第2物品取り上げ位置に基づいて補正することにより補正確度を計算し、前記補正確度に基づいて、複数の前記取り上げ推定物品の中から前記棚から取り上げられた1又は複数の前記物品である取り上げ物品を特定する、ように構成されている。
【0006】
本発明の物品特定方法は、物品が載置された棚に設置された前記物品の重量を計測する重量センサと、前記棚及び前記棚の前方の所定の領域を測定範囲に含み、前記測定範囲に存在する測定対象物までの距離を測定する測距センサと、前記重量センサによって計測された前記重量である重量計測データを取得し、前記測距センサによって計測された前記測定範囲内に存在する人物を表す前記距離である距離データを取得する情報処理装置を含む物品特定装置と、を用いた物品特定方法であって、前記情報処理装置によって、前記物品が前記棚から取り上げられるときの前記重量計測データに基づいて、前記棚から取り上げられた物品を推定し、推定した複数の前記物品である複数の取り上げ推定物品のそれぞれについて、前記取り上げ推定物品の取り上げ推定位置である第1物品取り上げ位置及び前記取り上げ推定物品の推定の正しさの程度を示す確度を計算し、前記人物の距離データに基づいて、前記人物が前記棚から前記物品を取り上げるときの前記人物の所定部位の位置に基づく第2物品取り上げ位置を取得し、複数の前記取り上げ推定物品のそれぞれについて、前記確度を前記第1物品取り上げ位置及び前記第2物品取り上げ位置に基づいて補正することにより補正確度を計算し、前記補正確度に基づいて、複数の前記取り上げ推定物品の中から前記棚から取り上げられた1又は複数の前記物品である取り上げ物品を特定する。
【0007】
本発明の物品特定プログラムは、コンピュータに、物品が載置された棚に設置された前記物品の重量を計測する重量センサから取得した前記重量センサによって計測された前記重量である重量計測データ、及び、前記棚及び前記棚の前方の所定の領域を測定範囲に含み、前記測定範囲に存在する測定対象物までの距離を測定する測距センサから取得した、前記測距センサによって計測された前記測定範囲内に存在する人物を表す前記距離である距離データを用いた処理を実行させる物品特定プログラムであって、前記コンピュータに、前記物品が前記棚から取り上げられるときの前記重量計測データに基づいて、前記棚から取り上げられた物品を推定し、推定した複数の前記物品である複数の取り上げ推定物品のそれぞれについて、前記取り上げ推定物品の取り上げ推定位置である第1物品取り上げ位置及び前記取り上げ推定物品の推定の正しさの程度を示す確度を計算し、前記人物の距離データに基づいて、前記人物が前記棚から前記物品を取り上げるときの前記人物の所定部位の位置に基づく第2物品取り上げ位置を取得し、複数の前記取り上げ推定物品のそれぞれについて、前記確度を前記第1物品取り上げ位置及び前記第2物品取り上げ位置に基づいて補正することにより補正確度を計算し、前記補正確度に基づいて、複数の前記取り上げ推定物品の中から前記棚から取り上げられた1又は複数の前記物品である取り上げ物品を特定する処理を実行させる。
【0008】
本発明の物品取得判断システムは、複数の物品を載置可能な棚に、互いに離間して設けられた、前記物品の重量を検出する複数の重量センサと、前記重量センサの検出結果を用いて、前記物品が載置された前記棚における重量分布を含む情報を検出する第1の検出部と、前記第1の検出部によって検出された情報を用いて、前記棚から取得された物品の候補と、当該物品の候補に対する妥当性とを判断する第1の判断部であって、複数通りの前記物品の候補に対して妥当性を判断する前記第1の判断部と、前記棚の付近の物品及び人物までの距離を検出する測距センサと、前記測距センサにおける検出結果を用いて、前記棚付近における物品、人物及び人物の動作を検出する第2の検出部と、前記第2の検出部の検出結果を用いて、どの人物が、どの物品に向けた動作を行ったかを判断する第2の判断部と、前記第1の判断部の判断結果及び前記第2の判断部の判断結果を用いて、どの人物が、どの物品を取得したかを判断する第3の判断部と、を備え、前記棚の一の方向における前記棚の略中央の第1領域、前記第1領域を前記一の方向の両側で挟む第2領域及び第3領域の前記第1領域に第1物品が載置され、前記第2領域に第2物品が載置され、前記第3領域に第3物品が載置されている第1の状況において、前記第1の判断部が、前記複数通りの前記物品の候補が一つの第2物品及び一つの第3物品を含み、且つ、最も妥当性の高い前記物品の候補が一つの第2物品であり、その次に妥当性の高い前記物品の候補が、一つの第3物品であると判断し、かつ、前記第2の判断部が、第1人物が第3物品にむけた動作を行ったと判断した場合、前記第3の判断部は、前記第1人物が第3物品を取得したと判断する、ことを特徴とする。
【0009】
本発明の物品取得判断システムは、複数の物品を載置可能な棚に、互いに離間して設けられた、前記物品の重量を検出する複数の重量センサと、前記重量センサの検出結果を用いて、前記物品が載置された前記棚における重量分布を含む情報を検出する第1の検出部と、前記第1の検出部によって検出された情報を用いて、前記棚から取得された物品の候補と、当該物品の候補に対する妥当性とを判断する第1の判断部であって、複数通りの前記物品の候補に対して妥当性を判断する前記第1の判断部と、前記棚の付近の物品及び人物までの距離を検出する測距センサと、前記測距センサにおける検出結果を用いて、前記棚付近における物品、人物及び人物の動作を検出する第2の検出部と、前記第2の検出部の検出結果を用いて、どの人物が、どの物品に向けた動作を行ったかを判断する第2の判断部と、前記第1の判断部の判断結果及び前記第2の判断部の判断結果を用いて、どの人物が、どの物品を取得したかを判断する第3の判断部と、を備え、前記棚の一の方向における前記棚の略中央の第1領域、前記第1領域を前記一の方向の両側で挟む第2領域及び第3領域の前記第1領域に第1物品が載置され、前記第2領域に第2物品が載置され、前記第3領域に第3物品が載置され、かつ、第2物品の重量と第3物品の重量とが略等しく、かつ、前記第1物品の重量は前記第2物品の重量の略2倍である第2の状況において、前記第1の判断部が、前記複数通りの前記物品の候補が一つの前記第1物品、並びに、一つの前記第2物品及び一つの前記第3物品であり、且つ、最も妥当性の高い前記物品の候補が一つの前記第1物品であり、その次に妥当性の高い前記物品の候補が、一つの前記第2物品及び一つの前記第3物品であると判断し、且つ、前記第2の判断部が、第1人物が前記第2物品に向けた動作を行うとともに第2人物が前記第3物品に向けた動作を行ったと判断した場合、前記第3の判断部は、前記第1人物が前記第2物品を取得し、前記第2人物が前記第3物品を取得したと判断する、ことを特徴とする。
【0010】
本発明の物品取得判断システムは、複数の物品を載置可能な棚に、互いに離間して設けられた、前記物品の重量を検出する複数の重量センサと、前記重量センサの検出結果を用いて、前記物品が載置された前記棚における重量分布を含む情報を検出する第1の検出部と、前記第1の検出部によって検出された情報を用いて、前記棚から取得された物品の候補と、当該物品の候補に対する妥当性とを判断する第1の判断部であって、複数通りの前記物品の候補に対して妥当性を判断する前記第1の判断部と、前記棚の付近の物品及び人物までの距離を検出する測距センサと、前記測距センサにおける検出結果を用いて、前記棚付近における物品、人物及び人物の動作を検出する第2の検出部と、前記第2の検出部の検出結果を用いて、どの人物が、どの物品に向けた動作を行ったかを判断する第2の判断部と、前記第1の判断部の判断結果及び前記第2の判断部の判断結果を用いて、どの人物が、どの物品を取得したかを判断する第3の判断部と、を備え、前記棚の一の方向における前記棚の略中央の第1領域、前記第1領域を前記一の方向の両側で挟む第2領域及び第3領域の前記第1領域に第1物品が載置され、前記第2領域に第2物品が載置され、前記第3領域に第3物品が載置され、かつ、第2物品の重量と第3物品の重量とが略等しく、かつ、前記第1物品の重量は前記第2物品の重量の略2倍である第2の状況において、前記第1の判断部が、前記複数通りの前記物品の候補が一つの前記第1物品、並びに、一つの前記第2物品及び一つの前記第3物品であり、且つ、最も妥当性の高い前記物品の候補が一つの前記第2物品及び一つの前記第3物品であり、その次に妥当性の高い前記物品の候補が、一つの前記第1物品であると判断し、且つ、前記第2の判断部が、第1人物が前記第1物品に向けた動作を行ったと判断した場合、前記第3の判断部は、前記第1人物が前記第1物品を取得したと判断する、ことを特徴とする。
【0011】
本発明の物品取得判断システムは、複数の物品を載置可能な棚に、互いに離間して設けられた、前記物品の重量を検出する複数の重量センサと、前記重量センサの検出結果を用いて、前記物品が載置された前記棚における重量分布を含む情報を検出する第1の検出部と、前記第1の検出部によって検出された情報を用いて、前記棚から取得された物品の候補と、当該物品の候補に対する妥当性とを判断する第1の判断部であって、複数通りの前記物品の候補に対して妥当性を判断する前記第1の判断部と、前記棚の付近の物品及び人物までの距離を検出する測距センサと、前記測距センサにおける検出結果を用いて、前記棚付近における物品、人物及び人物の動作を検出する第2の検出部と、前記第2の検出部の検出結果を用いて、どの人物が、どの物品に向けた動作を行ったかを判断する第2の判断部と、前記第1の判断部の判断結果及び前記第2の判断部の判断結果を用いて、どの人物が、どの物品を取得したかを判断する第3の判断部と、を備え、前記棚の一の方向における前記棚の略中央の第1領域、前記第1領域を前記一の方向の両側で挟む第2領域及び第3領域の前記第1領域に第1物品が載置され、前記第2領域に第2物品が載置され、前記第3領域に第3物品が載置され、かつ、第2物品の重量と第3物品の重量とが略等しく、かつ、前記第1物品の重量は前記第2物品の重量の略2倍である第2の状況において、前記第1の判断部が、前記複数通りの前記物品の候補が一つの前記第1物品、並びに、一つの前記第2物品及び一つの前記第3物品であり、且つ、最も妥当性の高い前記物品の候補が一つの前記第1物品であり、その次に妥当性の高い前記物品の候補が、一つの前記第2物品及び一つの前記第3物品であると判断し、且つ、前記第2の判断部が、第1人物が前記第2物品及び前記第3物品に向けた動作を行ったと判断した場合、前記第3の判断部は、前記第1人物が一つの前記第2物品及び一つの前記第3物品を取得したと判断する、ことを特徴とする。
【0012】
本発明の物品取得判断システムは、複数の物品を載置可能な棚に、互いに離間して設けられた、前記物品の重量を検出する複数の重量センサと、前記重量センサの検出結果を用いて、前記物品が載置された前記棚における重量分布を含む情報を検出する第1の検出部と、前記第1の検出部によって検出された情報を用いて、前記棚から取得された物品の候補と、当該物品の候補に対する妥当性とを判断する第1の判断部であって、複数通りの前記物品の候補に対して妥当性を判断する前記第1の判断部と、前記棚の付近の物品及び人物までの距離を検出する測距センサと、前記測距センサにおける検出結果を用いて、前記棚付近における物品、人物及び人物の動作を検出する第2の検出部と、前記第2の検出部の検出結果を用いて、どの人物が、どの物品に向けた動作を行ったかを判断する第2の判断部と、前記第1の判断部の判断結果及び前記第2の判断部の判断結果を用いて、どの人物が、どの物品を取得したかを判断する第3の判断部と、を備え、前記第1の判断部において最も妥当度が高いと判断された前記物品が前記第2の判断部で判断された前記物品と一致せず、かつ、第1の判断部において2番目に妥当度が高いと判断された前記物品が第2の判断部で判断された前記物品と一致するとき、前記第3の判断部は、前記第2の判断部で判断された前記物品が取得されたと判断する、ことを特徴とする。
【発明の効果】
【0013】
本発明によれば、同じ棚の異なる位置から同時に取り上げられた物品を精度よく特定することができる。
【図面の簡単な説明】
【0014】
図1図1は本発明の第1実施形態に係る物品特定システムが適用される無人商品販売店舗の例を説明するための図である。
図2図2はユーザが無人商品販売店舗に入店してから退店するまでの動作を示すフローチャートである。
図3図3は本発明の第1実施形態に係る物品特定システムの構成例を示す概略構成図である。
図4図4は商品管理情報を説明するための図である。
図5図5は商品管理情報に格納する棚に関する情報を説明するための図である。
図6図6は物品特定装置のハードウェア構成例を示す概略構成図である。
図7図7は参考例の物品特定システムの問題点を説明するための図である。
図8A図8Aは物品特定装置の作動の具体例1を説明するための図である。
図8B図8Bは物品特定装置の作動の具体例1を説明するための図である。
図9A図9Aは物品特定装置の作動の具体例2を説明するための図である。
図9B図9Bは物品特定装置の作動の具体例2を説明するための図である。
図10A図10Aは物品特定装置の作動の具体例3を説明するための図である。
図10B図10Bは物品特定装置の作動の具体例3を説明するための図である。
図11A図11Aは物品特定装置の作動の具体例4を説明するための図である。
図11B図11Bは物品特定装置の作動の具体例4を説明するための図である。
図12A図12Aは物品特定装置の作動の具体例5を説明するための図である。
図12B図12Bは物品特定装置の作動の具体例5を説明するための図である。
図13図13は物品特定システムが実行する処理フローを示すフローチャートである。
図14図14は物品特定装置の商品位置決定部(統合用)が実行する処理フローを示すフローチャートである。
図15図15は第2実施形態に係る物品特定システムの物品特定装置の作動を説明するための図である。
図16図16は第3実施形態に係る物品特定システムの物品特定装置の作動を説明するための図である。
図17図17は他の変形例の物品取得判断システムを説明するための図である。
【発明を実施するための形態】
【0015】
以下、本発明の各実施形態について図面を参照しながら説明する。なお、実施形態の全図において、同一又は対応する部分には同一の符号を付す場合がある。
【0016】
以下の説明では、表形式で各種情報を説明したり、レコード等の表現で各種情報を説明したりすることがあるが、各種情報は、これら以外のデータ構造で表現されてもよい。更に、識別情報について説明する際、「名称」、「識別ID」、「番号」等の表現を用いるが、これらについてはお互いに置換が可能である。更に、以下の説明では、プログラム又は機能ブロックを主語として処理を説明する場合があるが、処理の主語が、プログラム又は機能ブロックに代えて、CPU又は情報処理装置とされてもよい。
【0017】
<<第1実施形態>>
図1は本発明の第1実施形態に係る物品特定システムが適用される無人商品販売店舗SP1の例を説明するための図である。図2はユーザが無人商品販売店舗SP1に入店してから退店するまでの動作を示すフローチャートである。
【0018】
図1に示すように、無人店舗販売店舗SP1には、チェックイン用端末100と、天井(不図示)に配設された測距センサ200a及び測距センサ200bと、商品が載置された棚SB1乃至棚SB3を含む商品棚SH1及び商品が載置された棚SB11乃至棚SB13を含む商品棚SH2とが設置されている。なお、商品棚SH1及び商品棚SH2は、これらを特に区別する必要がない場合、「商品棚SH」とも称呼される場合がある。棚SB1乃至棚SB3、及び、棚SB11乃至棚SB13は、これらを特に区別する必要がない場合、「棚SB」とも称呼される場合がある。「棚SB」は棚板とも呼ばれる。商品は「物品」とも称呼される場合がある。
【0019】
チェックイン用端末100は、ユーザ認証用の端末である。測距センサ200a及び測距センサ200bは、測定範囲に存在する測定対象物(物体)までの距離(距離データ)を測定する。
【0020】
測距センサ200aは、商品棚SHの棚SBに載置された商品(物品)に向かって伸ばした手の位置を検出するための距離データを取得するための測距センサである。測距センサ200bは、店内の人物の動線(人物の移動軌跡を示す線)を生成するための距離データを取得するための動線追跡用の測距センサである。本例において、測距センサ200a及び測距センサ200bは、TOF(Time Of Flight)センサである。
【0021】
図1及び図2に示すように、ユーザUs1は、無人商品販売店舗SP1に入店する(S101)と矢印a1に沿って移動する。ユーザUs1はチェックイン用端末100で個人認証を行う(S102)。ユーザUs1は商品棚SHの棚SBに載置された商品を選択し手で取り上げる(S103)。このとき物品特定装置400(図3を参照。)によって、ユーザUs1が取り上げた商品(「取り上げ商品」と称呼される。)が決定(特定)される。決済処理装置500(図3を参照。)によって、取り上げ商品の自動決済が行われる。ユーザUs1は、無人商品販売店舗SP1から退店する(S104)と、ユーザ端末110で決済情報を受け取る(S105)。
【0022】
図3は本発明の第1実施形態に係る物品特定システムの構成例を示す概略構成図である。図3に示すように、この物品特定システムは、測距センサ200aと、測距センサ200bと、重量センサ300と、物品特定装置400と、決済処理装置500と、を含む。これらは図示しないネットワークを介して、通信可能に接続されている。従って、物品特定装置400は、測距センサ200a、測距センサ200b及び重量センサ300から情報(データ)を受信できるようになっており、決済処理装置500は、物品特定装置400から情報を受信できるようになっている。なお、物品特定システムは決済処理装置500が省略された構成であってもよい。物品特定システムは「物品取得判断システム」とも称呼される場合がある。
【0023】
測距センサ200aは、無人商品販売店舗SP1の図示しない天井面に設置されている。測距センサ200aは、その測定範囲に商品棚SH1及び商品棚SH2の前方の所定領域を含む。
【0024】
重量センサ300は、商品棚SH1の各棚SBに設置され、商品棚SH1から商品が取り上げられるときの重量変化(総重量の変化及び重量バランスの変化)を取得するために、商品の重量を計測する。なお、重量センサ300が計測する重量(計測値)は、便宜上、「重量計測データ」とも称呼される場合がある。
【0025】
本例において、商品棚SH1は、矩形の平面形状を有する棚SB1乃至棚SB3を含み、各棚SB1乃至棚SB3の4隅に重量センサ300が設置されている。商品棚SH2は、矩形の平面形状を有する棚SB11乃至棚SB13を含み、各棚SB11乃至棚SB13の4隅に重量センサ300が設置されている。
【0026】
物品特定装置400は、商品位置決定部(棚用)410、手伸ばし位置決定部420、最終商品位置決定部(統合用)430及び商品管理情報440を含む。
【0027】
商品位置決定部(棚用)410は、重量センサ300によって検出された重量変化(総重量の変化及び重量バランスの変化)に基づいて、棚SBから取り上げられたと推定される推定商品(以下、「取り上げ推定商品」と称呼される。)の位置を決定(判定、取得)する。なお、この位置は「商品取得発生イベント位置」とも称呼される。「商品取得発生イベント位置のX方向位置Xw」は、単に「X方向位置Xw」とも称呼される場合がある。X方向位置Xwは、便宜上、「第1物品取り上げ位置」とも称呼される場合がある。なお、物品特定装置400は、商品棚SHの幅方向をX方向とし、地面と平行な水平面においてX方向に直交する方向をY方向としている。
【0028】
手伸ばし位置決定部420は、ユーザUs1が商品を商品棚SHから取り上げるときの手の位置を決定(判定、取得)する。手伸ばし位置決定部420は、この手の位置として、測距センサ200a及び測距センサ200bによって検出されたユーザUs1の距離データ(点群)のユーザUs1の手を表す点群が商品棚SHの手前の所定の位置を通過する位置を取得する。
【0029】
なお、この位置は「物品取り上げ位置Xt」とも称呼される。物品取り上げ位置Xtは、便宜上、「第2物品取り上げ位置」とも称呼される場合がある。なお、上述したX方向位置Xw及び物品取り上げ位置Xtは、共通の座標系の座標値で表される。
【0030】
図4は商品管理情報440を説明するための図である。図4に示すように、商品管理情報440は、情報(値)を格納するカラムとして、♯441と、商品名442と、バーコード(id)443と、重さ444と、価格445と、棚番号446と、棚板番号447と、棚割番号448と、棚割開始位置449と、棚割終了位置450と、を含む。商品管理情報440には、商品棚SHに載置される商品を管理するための各列に対応する情報が互いに対応付けられて行単位の情報(レコード)として、格納されている。
【0031】
具体的に述べると、♯441には、行番号が格納されている。商品名442には、商品の名称が格納されている。バーコード(id)443には、商品の識別IDが格納されている。重さ444には、商品の重さが格納されている。価格445には、商品の価格が格納されている。棚番号446には、図5に示す商品棚SH1及び商品棚SH2に対応する棚番号が格納されている。棚板番号447には、図5に示す各棚SBに対応する棚板番号が格納されている。棚割番号448には、図5に示す各棚割列の棚割番号が格納されている。棚割開始位置449には、図5に示す棚割列の範囲の開始位置が格納されている。棚割終了位置450には、図5に示す棚割列の範囲の終了位置が格納されている。
【0032】
決済処理装置500は、決済処理部510を含む。決済処理部510は、物品特定装置400によって特定された商品を決済する処理を行う。
【0033】
図6は物品特定装置400のハードウェア構成例を示す概略構成図である。図6に示すように、物品特定装置400は、CPU2001、ROM2002、RAM2003、記憶装置2004、ネットワークインタフェース2005及び入出力インタフェース2006等を含む。これらは、バス2007を介して互いに通信可能に接続されている。CPU2001、ROM2002、RAM2003、記憶装置2004、ネットワークインタフェース2005、入出力インタフェース2006及びバス2007を含む装置は、便宜上、「情報処理装置」とも称呼される。情報処理装置は、複数の情報処理装置であってもよく、クラウド上の仮想的な情報処理装置であってもよい。
【0034】
CPU2001はROM2002及び/又は記憶装置2004に格納された図示しない各種プログラムをRAM2003にロードし、RAM2003にロードされたプログラムを実行することによって、各種機能を実現する。RAM2003には、上述したようにCPU2001が実行する各種プログラムがロードされ、CPU2001が各種プログラムを実行する際に使用するデータが一時的に記憶される。ROM2002は、不揮発性の記憶媒体であり、各種プログラムが記憶されている。記憶装置2004は、データの読み出し及び書き込み可能な不揮発性の記憶装置である。ネットワークインタフェース515は、物品特定装置400がネットワークに接続されるためのインタフェースである。入出力インタフェース2006は、外部装置(例えば、キーボード、マウス等の操作装置及びディスプレイ(表示装置))に接続されるためのインタフェースである。
【0035】
商品位置決定部(棚用)410、手伸ばし位置決定部420及び商品位置決定部(統合用)430は、CPU2001により実行されるROM2002及び/又は記憶装置2004に格納された各種プログラムで構成される。商品管理情報440は、記憶装置2004に格納されたデータベースにより構成される。なお、決済処理装置500のハードウェア構成例は、図6と同様の構成である。決済処理部510は、CPU2001により実行されるROM2002及び/又は記憶装置2004に格納された各種プログラムで構成される。
【0036】
<参考例の物品特定装置の問題点>
本発明の理解を容易にするため、重量センサのみを用いた参考例の物品特定システムの問題点について説明する。図7は参考例の物品特定システムの問題点を説明するための図である。以下に説明する例では、棚板番号1の商品棚SH1の最上の棚SB1から商品を取り上げるときの例(後述する具体例1乃至具体例5についても同様。)について説明する。
【0037】
図7に示すように、棚SB1は、X方向位置(幅方向の位置)0以上0.3未満の棚割列aと、X方向位置0.3以上0.6未満の棚割列bと、X方向位置0.6以上1.0未満の棚割列cと、に区分されている。なお、図7中のマークMK1は、商品取得イベント発生位置を示す。商品取得イベント発生位置は、重量センサ300の計測値を用いて計算(推定)される位置である。なお、商品取得イベント発生位置の計算方法の詳細は、後述する。
【0038】
棚割列aには、複数個の商品Cが載置されており、棚割列bには、複数個の商品Bが載置されており、棚割列cには、複数個の商品Aが載置されている。なお、物品特定装置は、商品管理情報440を参照することにより、各棚割列に載置された商品の種類、重さ、価格等を示す情報を取得することができる。
【0039】
ユーザUs1がX方向位置0.6の右側の近傍に存在する商品Aを取り上げた場合、マークMK1が示すX方向位置Xw0.55で商品取得イベントが発生する場合がある。この場合、X方向位置Xwのみに基づいて取り上げ商品を決定すると、取り上げ商品は商品Bとなる。従って、実際には商品Aが棚SB1から取り上げられているにも関わらず、取り上げ商品として、商品Bが決定(特定)されてしまうことが生じ得る。このように、参考例の物品特定装置には、取り上げ商品(物品)の特定精度が低いという問題点がある。
【0040】
<本発明の作動の概要>
このような問題点を解消するため、本発明の物品特定システムの物品特定装置400は、重量センサ300の計測値を用いて、取り上げ推定商品を推定し、取り上げ推定商品の位置及び取り上げ推定商品の推定の正しさの程度を示すパラメータである確度(本例において、尤度Pw)を各取り上げ推定商品について計算する。
【0041】
更に、物品特定装置400は、X方向位置Xw及び測距センサ200a及び測距センサ200bによって検出されたユーザUs1が商品を取り上げるときの手の位置に基づいて、各取り上げ推定商品の確度(本例において、尤度Pw)を補正する。物品特定装置400は、補正した確度(本例において、補正尤度Pnew)に基づいて、取り上げ推定商品の中から取り上げ商品を特定(決定)する。これにより、物品特定装置400は、取り上げ商品の特定精度を向上することができる。
【0042】
(商品取得イベント発生位置及び尤度Pwの計算)
物品特定装置400の商品位置決定部(棚用)410が実行する商品取得イベント発生位置及び尤度Pwの計算方法について説明する。商品棚SHの各棚SBの4隅には、重量センサ300が設置されている。棚SBの上の商品が取り上げられると、商品及び棚SBの重量バランスが変化し、4隅の各重量センサ300の計測値が変化する。物品特定装置400は、各重量センサ300によって計測される商品及び棚SBの総重量及び重量バランスの変化に基づき、取り上げ推定商品を推定し、取り上げ推定商品の位置(即ち、商品取得イベント発生位置)及び取り上げ推定商品の尤度Pwを各取り上げ推定商品について計算する。
【0043】
一例として、棚SBの上の商品が取り上げられたときの取り上げ推定商品、各取り上げ推定商品の位置(商品取得イベント発生位置)及び尤度Pwは、所定の測定時間内の各重量センサ300の測定値を入力として、取り上げ推定商品、各取り上げ推定商品の商品取得イベント発生位置及び尤度Pwを出力とする演算モデルを用いることにより、計算することができる。
【0044】
なお、尤度Pwは、各重量センサ300の所定時間内の計測値(所定の時間内の棚SB(商品が載置された状態の棚SB)の総重量の変化及び重量バランスの変化)に応じて、その取り上げ推定商品(1の取り上げ推定商品又は複数同時の取り上げ推定商品)が実際に取り上げられたという事象がおこり得る確率を示す。尤度Pwは、0から1までの範囲内の数値で表される。尤度Pwは、取り上げ推定商品の推定の正しさの程度を示すパラメータである確度の一例であり、確度は、尤度Pw以外のパラメータであってもよい。
【0045】
各重量センサ300による重量の計測は1回だけでなくてもよく、重量の変化を所定時間または所定回数にわたり、連続的、周期的またはランダムに計測するように、行われてもよい。 商品位置決定部(棚用)410は、米国特許出願公開第US2021/0148751号明細書などに開示されているように、棚SB上の重量分布を演算し、これをマッピングして評価することによって、取り上げ推定商品、各取り上げ推定商品の商品取得イベント発生位置及び確度(event likeliness score)を計算してもよい。
【0046】
実際には、4つの重量センサ300の計測値には、誤差が含まれており、それによって計算される商品及び棚SBの総重量及び重量バランスにも、誤差が含まれている。例えば、ユーザUs1が商品を取り上げるときに棚SBを押圧したり、ユーザUs1が棚SBに接触したりすること等により、棚SBが振動したり揺動したりすることによって、各重量センサ300の重量の計測値が変動したりして、商品取得のみに起因する総重量の変化及び重量バランスの変化を正確に測定できない場合もある。この対策の一例として、次のようにしてもよい。商品位置決定部(棚用)410は、重量センサ300によって、所定時間または所定回数にわたり、連続的、周期的またはランダムに複数回重量を計測する。商品位置決定部(棚用)410は、各重量センサ300の計測値が所定の閾値を超えて変動していた場合、所定回数又は所定時間を限度として、再計測を行う。商品位置決定部(棚用)410は、再計測の結果、各重量センサ300の計測値が前記所定の閾値以内に収まったときは再計測結果(各重量センサ300の計測値)を採用する。
【0047】
なお、尤度Pwが所定値よりも低かった取り上げ推定商品については、会計時(決済前)に、ユーザUs1の確認を求めたり、ユーザUs1による対象商品の修正を認めたりしてもよい。例えば、当初提示の候補商品(取り上げ推定商品)と、ユーザUs1が修正した商品との尤度Pw(や価格)の差が所定範囲内であれば、顧客の修正を受け入れてもよい。また、前記の所定範囲を超えていたときには、ユーザUs1へ再確認を促したり、店員を確認に向かわせたりしてもよい。
【0048】
(手伸ばし位置の決定方法)
物品特定装置400の手伸ばし位置決定部420は、測距センサ200a及び測距センサ200bによって、測距データ(点群)が示す人物の手が、商品SH(棚SB)の手前の所定位置に設置(設定)された商品棚SHの高さ方向に平行な仮想の面(「バーチャルスクリーン」とも称呼される。)を通過したときのX方向位置を「ユーザUs1が商品を棚SBから取り上げるときの手の位置(以下、単に「手伸ばし位置」とも称呼される。)」として検出し、検出したX方向位置を、物品取り上げ位置Xtとして取得する。
【0049】
(尤度の補正)
物品特定装置400の商品位置決定部(統合用)430は、尤度Pw、商品取得イベント発生位置のX方向位置Xw及び物品取り上げ位置Xtを下記計算式(1)に適用することにより、取り上げ推定商品についての尤度Pwを補正し、補正尤度Pnewを計算する。
【0050】
Pnew=Pw-α×|Xw-Xt|・・・計算式(1)
(計算式(1)において、Pnewは補正尤度Pnewである。Xwは商品取得イベント発生位置のX方向位置Xwである。Xtは物品取り上げ位置Xtである。αは重み付け係数である。)
なお、以下に説明する具体例1乃至具体例5で用いる計算式(1)のαの値は「2」としている。
【0051】
<具体例1>
図8A及び図8Bを用いて物品特定装置400の作動の具体例1を説明する。図8A及び図8Bは物品特定装置400の作動の具体例1を説明するための図である。図8Aに示すように、測距センサ200a及び測距センサ200bによって、位置P11で手伸ばし位置が検出され、重量センサ300によって、重量変化(総重量の変化及び重量バランスの変化)が検出され、位置P21、位置P22及び位置P23で、商品取得イベントが発生した状況を想定する。なお、図8Aにおいて、バーチャルスクリーンの位置を破線L1で示している。
【0052】
物品特定装置400の商品位置決定部(棚用)410は、重量センサ300の測定値及び商品管理情報440に基づいて、図8Bに示す重量センサ情報を計算する。重量センサ情報は、情報(値)を格納する列(カラム)として、#801と、X方向(0~1)Xw802と、Y方向(0~1)803と、推定商品804と、尤度(0~1)Pw805とを含む。
【0053】
重量センサ情報には、重量センサ300の測定値に基づく各列に対応する情報が互いに対応付けられて行単位の情報(レコード)として格納されている。
【0054】
具体的に述べると、#801には、行番号が格納されている。X方向(0~1)Xw802には、商品取得イベント発生位置のX方向位置Xwが格納されている。Y方向(0~1)803には、商品取得イベント発生位置のY方向位置が格納されている。推定商品804には、X方向位置Xwでの取り上げ推定商品を示す情報(商品の名称)が格納されている。尤度(0~1)Pw805には、取り上げ推定商品の尤度Pwが格納されている。
【0055】
物品特定装置400の手伸ばし位置決定部420は、測距センサ200a及び測距センサ200bによって検出されたユーザUs1の所定部位の位置(具体例1においては手伸ばし位置)及び商品管理情報440に基づいて、図8Bに示すTOFセンサ情報を計算する。TOFセンサ情報は、情報(値)を格納する列(カラム)として、#811と、X方向(0~1)Xt812とを含む。TOFセンサ情報には、測距センサ200a及び測距センサ200bによって検出された情報に基づく各列に対応する情報が互いに対応付けられて行単位の情報(レコード)として格納されている。#811には、行番号が格納されている。X方向(0~1)Xt812には、手伸ばし位置が物品取り上げ位置Xtとして格納されている。推定商品813には、物品取り上げ位置Xtで取り上げられた取り上げ推定商品を示す情報(商品の名称)が格納されている。
【0056】
具体例1において、重量センサ情報は、行番号1の情報、行番号2の情報及び行番号3の情報を含む。行番号1の情報のX方向位置Xwは0.55であり、取り上げ推定商品はBであり、尤度Pwは0.8である。行番号2の情報のX方向位置Xwは0.80であり、取り上げ推定商品はAであり、尤度Pwは0.6である。行番号3の情報のX方向位置Xwは0.20であり、取り上げ推定商品はCであり、尤度Pwは0.3である。
【0057】
TOFセンサ情報は、行番号1の情報を含む。行番号1の情報の物品取り上げ位置Xtは、0.65であり、取り上げ推定商品はAである。
【0058】
物品特定装置400の商品位置決定部(統合用)430は、重量センサ情報及びTOFセンサ情報を、計算式(1)に適用して補正尤度情報を計算する。即ち、商品位置決定部(統合用)430は、各取り上げ推定商品について、計算式(1)により、補正尤度Pnewを計算する。
【0059】
補正尤度情報は、情報(値)を格納する列(カラム)として、#821と、推定商品822と、補正尤度(Pnew)823と、Pnew824とを含む。補正尤度情報には、補正尤度Pnewの計算に関する各列に対応する情報が互いに対応付けられて行単位の情報(レコード)として格納されている。
【0060】
具体的に述べると、#821には、行番号が格納されている。推定商品822には、取り上げ推定商品を示す情報(商品の名称)が格納されている。補正尤度(Pnew)823には、各変数に数値が代入された計算式(1)が格納されている。Pnew824には、計算式(1)により計算された補正尤度Pnewの値が格納されている。
【0061】
補正尤度情報の計算方法について、具体的に述べると、商品位置決定部(統合用)430は、重量センサ情報の行番号1の情報及びTOFセンサ情報の行番号1の情報から、計算式(1)により、補正尤度情報の行番号1の行の補正尤度を計算する。商品位置決定部(統合用)430は、重量センサ情報の行番号2の情報及びTOFセンサ情報の行番号1の情報から、計算式(1)により、補正尤度情報の行番号2の行の補正尤度を計算する。商品位置決定部(統合用)430は、重量センサ情報の行番号3の情報及びTOFセンサ情報の行番号1の情報から、計算式(1)により、補正尤度情報の行番号3の行の補正尤度を計算する。
【0062】
具体例1において、計算された補正尤度情報は、行番号1の情報と、行番号2の情報と、行番号3の情報とを含む。行番号1の情報の取り上げ推定商品はBであり、補正尤度Pnewは0.6である。行番号1の情報は、ユーザUs1が商品Bを取り上げたときの情報に対応する。行番号2の情報の取り上げ推定商品はAであり、補正尤度Pnewは0.3である。行番号2の情報は、ユーザUs1が商品Aを取り上げたときの情報に対応する。行番号3の情報の取り上げ推定商品はCであり、補正尤度Pnewは-0.6となる。行番号3の情報は、ユーザUs1が商品Cを取り上げたときの情報に対応する。
【0063】
商品位置決定部(統合用)430は、取り上げ推定商品の中から、その補正尤度Pnewが最も高い取り上げ推定商品を棚SB1から取り上げられた取り上げ商品として決定(特定)する。具体例1では、商品位置決定部(統合用)430は、取り上げ推定商品Bの補正尤度Pnewが最も高いので、商品Bを取り上げ商品として決定する。
【0064】
なお、具体例1において、重量センサ情報の取り上げ推定商品のうち最も高い尤度を有する取り上げ推定商品は、推定商品Bであり、補正尤度情報の取り上げ推定商品のうち最も高い尤度を有する取り上げ推定商品は、推定商品Bである。それぞれの情報の最も高い尤度を有する取り上げ推定商品が一致している。
【0065】
<具体例2>
図9A及び図9Bを用いて物品特定装置400の作動の具体例2を説明する。図9A及び図9Bは物品特定装置400の作動の具体例2を説明するための図である。図9Aに示すように、測距センサ200a及び測距センサ200bによって、位置P31で手伸ばし位置が検出され、重量センサ300によって重量変化(総重量の変化及び重量バランスの変化)が検出され、位置P41、位置P42及び位置P43で、商品取得イベントが発生した状況を想定する。
【0066】
物品特定装置400の商品位置決定部(棚用)410及び手伸ばし位置決定部420は、具体例1と同様、重量センサ情報及びTOFセンサ情報を計算する。
【0067】
具体例2において、重量センサ情報は、行番号1の情報、行番号2の情報及び行番号3の情報を含む。行番号1の情報のX方向位置Xwは0.55であり、取り上げ推定商品はBであり、尤度Pwは0.8である。行番号2の情報のX方向位置Xwは0.80であり、取り上げ推定商品はAであり、尤度Pwは0.6である。行番号3の情報のX方向位置Xwは0.20であり、取り上げ推定商品はCであり、尤度Pwは0.3である。
【0068】
TOFセンサ情報は、行番号1の情報を含む。行番号1の情報の物品取り上げ位置Xtは、0.95であり、取り上げ推定商品はAである。
【0069】
物品特定装置400の商品位置決定部(統合用)430は、重量センサ情報及びTOFセンサ情報を、計算式(1)に適用して補正尤度情報を計算する。即ち、商品位置決定部(統合用)430は、各取り上げ推定商品について、計算式(1)により、補正尤度Pnewを計算する。なお、この補正尤度Pnewの計算方法は具体例1と同様である。
【0070】
具体例2において、計算された補正尤度情報は、行番号1の情報と、行番号2の情報と、行番号3の情報とを含む。行番号1の情報の取り上げ推定商品はBであり、補正尤度Pnewは0である。行番号1の情報は、ユーザUs1が商品Bを取り上げたときの情報に対応する。行番号2の情報の取り上げ推定商品はAであり、補正尤度Pnewは0.3である。行番号2の情報は、ユーザUs1が商品Aを取り上げたときの情報に対応する。行番号3の情報の取り上げ推定商品はCであり、補正尤度Pnewは-1.2となる。行番号3の情報は、ユーザUs1が商品Cを取り上げたときの情報に対応する。
【0071】
商品位置決定部(統合用)430は、取り上げ推定商品の中から、その補正尤度Pnewが最も高い取り上げ推定商品を棚SB1から取り上げられた取り上げ商品として決定(特定)する。具体例2では、商品位置決定部(統合用)430は、取り上げ推定商品Aの補正尤度Pnewが最も高いので、商品Aを取り上げ商品として決定する。
【0072】
なお、具体例2において、重量センサ情報の取り上げ推定商品のうち最も高い尤度を有する取り上げ推定商品は、推定商品Bであり、補正尤度情報の取り上げ推定商品のうち最も高い補正尤度Pnewを有する取り上げ推定商品は、推定商品Aである。即ち、参考例のように重量センサ情報のみに基づいて、取り上げ商品を特定すると、取り上げ商品は商品Bに特定され、取り上げ商品として誤った商品が特定される。これに対して、具体例2では、重量センサ情報の尤度Pwが補正され、補正尤度Pnewに基づいて取り上げ商品が特定されることにより、取り上げ商品として、正しい商品Aが特定される。
【0073】
<具体例3>
図10A及び図10Bを用いて物品特定装置400の作動の具体例3を説明する。図10A及び図10Bは物品特定装置400の作動の具体例3を説明するための図である。図10Aに示すように、測距センサ200a及び測距センサ200bによって、位置P51で手伸ばし位置が検出され、重量センサ300によって、重量変化(総重量の変化及び重量バランスの変化)が検出され、位置P61a、位置P61b及び位置P62で、商品取得イベントが発生した状況を想定する。なお、重量変化(総重量の変化及び重量バランスの変化)に基づき、位置P61aの商品及び位置p61bの商品が2つ同時に取り上げられたことが検出(推定)される。
【0074】
物品特定装置400の商品位置決定部(棚用)410及び手伸ばし位置決定部420は、具体例1と同様、重量センサ情報及びTOFセンサ情報を取得する。なお、同時に取り上げられた複数の商品(本例において、商品C及び商品A)に関する情報は、2つの行を含む1つの行番号の情報にまとめられる。
【0075】
具体例3において、重量センサ情報は、2つの行を含む行番号1の情報及び行番号2の情報を含む。行番号1の一の行の情報のX方向位置Xwは0.20であり、取り上げ推定商品はCであり、尤度Pwは0.8である。行番号1の他の行の情報のX方向位置Xwは0.70であり、取り上げ推定商品はAであり、尤度Pwは0.8である。行番号2の情報のX方向位置Xwは0.5であり、取り上げ推定賞品はBであり、尤度Pwは0.7である。
【0076】
TOFセンサ情報は、行番号1の情報を含む。行番号1の情報の物品取り上げ位置Xtは、0.5であり、推定商品はBである。
【0077】
物品特定装置400の商品位置決定部(統合用)430は、重量センサ情報及びTOFセンサ情報を、計算式(1)に適用して補正尤度情報を計算する。即ち、商品位置決定部(統合用)430は、各取り上げ推定商品について、計算式(1)により、補正尤度Pnewを計算する。更に、商品位置決定部(統合用)430は、同時に取り上げられたと推定された取り上げ推定商品C及び推定商品Aの補正尤度Pnewの平均Pnew’(平均補正尤度Pnew’)を計算する。なお、補正尤度情報は、情報を格納する列(カラム)として、Pnew’825を更に含む。Pnew’825には、補正尤度Pnewの平均Pnew’が格納される。
【0078】
具体的に述べると、商品位置決定部(統合用)430は、各取り上げ推定商品について、計算式(1)により、補正尤度Pnewを計算する。商品位置決定部(統合用)430は、重量センサ情報の行番号1の一の行の情報及びTOFセンサ情報の行番号1の情報から、計算式(1)により、補正尤度情報の行番号1の補正尤度Pnewを計算する。商品位置決定部(統合用)430は、重量センサ情報の行番号1の他の行の情報及びTOFセンサ情報の行番号1の情報から、計算式(1)により、補正尤度情報の行番号1の他の行の補正尤度Pnewを計算する。商品位置決定部(統合用)430は、重量センサ情報の行番号2の情報及びTOFセンサ情報の行番号1の情報から、計算式(1)により、補正尤度情報の行番号2の補正尤度Pnewを計算する。商品位置決定部(統合用)430は、行番号1の一の行の補正尤度及び他の行の補正尤度Pnewの平均Pnew’を求めることにより、推定商品C及び推定商品Aの補正尤度Pnewの平均Pnew’を計算し、Pnew’824aの行番号1の一の行及び他の行に対応する行に格納する。
【0079】
具体例3において、計算された補正尤度情報は、2つの行を含む行番号1の情報と、行番号2の情報と、行番号3の情報とを含む。
【0080】
行番号1の一の行の情報の取り上げ推定商品はCであり、補正尤度Pnewは0.2であり、平均補正尤度Pnew’は0.3である。行番号1の一の行の情報は、ユーザUs1が商品CをAと同時に取り上げたときの情報に対応する。行番号1の他の行の情報の取り上げ推定商品はAであり、補正尤度Pnewは0.4であり、平均補正尤度Pnew’は0.3である。行番号1の他の行の情報は、ユーザUs1が商品AをCと同時に取り上げたときの情報に対応する。行番号2の情報の取り上げ推定商品はBであり、補正尤度Pnewは0.7である。行番号2の情報は、ユーザUs1が商品Bを取り上げたときの情報に対応する。
【0081】
商品位置決定部(統合用)430は、取り上げ推定商品の中から、その補正尤度Pnew又は平均補正尤度Pnew’が最も高い取り上げ推定商品を棚SB1から取り上げられた取り上げ商品として決定(特定)する。具体例3では、商品位置決定部(統合用)430は、取り上げ推定商品Bの補正尤度Pnewが最も高いので、商品Bを取り上げ商品として決定する。
【0082】
<具体例4>
図11A及び図11Bを用いて物品特定装置400の作動の具体例4を説明する。図11A及び図11Bは物品特定装置400の作動の具体例4を説明するための図である。図11Aに示すように、測距センサ200a及び測距センサ200bによって、位置P71及び位置P72で手伸ばし位置が検出され、重量センサ300によって、重量変化(総重量の変化及び重量バランスの変化)が検出され、位置P81、位置P82a及び位置P82bで、商品取得イベントが発生した状況を想定する。なお、重量変化(総重量の変化及び重量バランスの変化)に基づき、位置P82aの商品及び位置P82bの商品が同時に取り上げられたことが検出される。
【0083】
物品特定装置400の商品位置決定部(棚用)410及び手伸ばし位置決定部420は、具体例1と同様、図11Bに示す重量センサ情報及びTOFセンサ情報を取得する。なお、同時に取り上げられた複数の商品(本例において、商品C及び商品A)に関する情報は、2つの行を含む1つの行番号の情報にまとめられる。
【0084】
具体例4において、重量センサ情報は、行番号1の情報及び2つの行を含む行番号2の情報を含む。行番号1の情報のX方向位置Xwは0.50であり、取り上げ推定商品はBであり、尤度Pwは0.8である。行番号2の一の行の情報のX方向位置Xwは0.20であり、取り上げ推定商品はCであり、尤度Pwは0.7である。行番号2の他の行の情報のX方向位置Xwは0.7であり、取り上げ推定商品はAであり、尤度Pwは0.7である。
【0085】
TOFセンサ情報は、2つの行を含む行番号1の情報を含む。行番号1の一の行の情報の物品取り上げ位置Xtは、0.25であり、取り上げ推定商品はCである。行番号1の他の行の情報の物品取り上げ位置Xtは、0.65であり、取り上げ推定商品はAである。
【0086】
物品特定装置400の商品位置決定部(統合用)430は、重量センサ情報及びTOFセンサ情報を、計算式(1)に適用して補正尤度情報を計算する。なお、補正尤度情報は、情報を格納する列(カラム)として、Pnew選択824aと、Pnew_sum826とを更に含む。Pnew選択824aには、その行の補正尤度Pnewが選択されたか否かを示す情報が格納されている。Pnew_sum826には、補正尤度Pnewの和Pnew_sumが格納されている。
【0087】
具体的に述べると、商品位置決定部(統合用)430は、各取り上げ推定商品について、計算式(1)により、補正尤度Pnewを計算する。商品位置決定部(統合用)430は、重量センサ情報の行番号1の情報及びTOFセンサ情報の行番号1の一の行の情報から、計算式(1)により、補正尤度情報の行番号1の一の行の補正尤度Pnewを計算する。商品位置決定部(統合用)430は、重量センサ情報の行番号1の一の行の情報及びTOFセンサ情報の行番号1の他の行の情報から、計算式(1)により、補正尤度情報の行番号1の他の行の補正尤度Pnewを計算する。そして、商品位置決定部(統合用)430は、補正尤度情報の行番号1の一の行の補正尤度Pnew、及び、補正尤度情報の行番号1の他の行の補正尤度Pnewのうち、大きい方を選択し、その大きい方の補正尤度が選択されたことを示す情報「本例において、〇」をPnew選択824aの選択された補正尤度Pnewに対応する行に格納する。
【0088】
商品位置決定部(統合用)430は、重量センサ情報の行番号2の一の行の情報及びTOFセンサ情報の行番号1の一の行の情報から、計算式(1)により、補正尤度情報の行番号2の第1の行の補正尤度Pnewを計算する。商品位置決定部(統合用)430は、重量センサ情報の行番号2の一の行の情報及びTOFセンサ情報の行番号1の他の行の情報から、計算式(1)により、補正尤度情報の行番号2の第2の行の補正尤度Pnewを計算する。そして、商品位置決定部(統合用)430は、補正尤度情報の行番号2の第1の行の補正尤度Pnew、及び、補正尤度情報の行番号2の第2の行の補正尤度Pnewのうち、大きい方を選択し、その大きい方の補正尤度が選択されたことを示す情報「本例において、〇」をPnew選択824aの選択された補正尤度Pnewに対応する行に格納する。
【0089】
商品位置決定部(統合用)430は、重量センサ情報の行番号2の他の行の情報及びTOFセンサ情報の行番号1の一の行の情報から、計算式(1)により、補正尤度情報の行番号2の第3の行の補正尤度Pnewを計算する。商品位置決定部(統合用)430は、重量センサ情報の行番号2の他の行の情報及びTOFセンサ情報の行番号1の他の行の情報から、計算式(1)により、補正尤度情報の行番号2の第4の行の補正尤度Pnewを計算する。そして、商品位置決定部(統合用)430は、補正尤度情報の行番号2の第3の行の補正尤度Pnew、及び、補正尤度情報の行番号2の第4の行の補正尤度Pnewのうち、大きい方を選択し、その大きい方の補正尤度Pnewが選択されたことを示す情報「本例において、〇」をPnew選択824aの選択された補正尤度Pnewに対応する行に格納する。
【0090】
更に、商品位置決定部(統合用)430は、同時に取り上げられたと推定された推定商品C及び推定商品Aの補正尤度Pnewの平均Pnew’を計算する。商品位置決定部(統合用)430は、選択した補正尤度Pnewの平均Pnew’を求めることにより、推定商品C及び推定商品Aの補正尤度Pnewの平均Pnew’を計算し、Pnew’824aの行番号2の第1乃至第4の行に対応する行に格納する。
【0091】
更に、商品位置決定部(統合用)430は、同時に同一の手で取り上げられたと推定された推定商品C及び推定商品Aの補正尤度Pnewの和Pnew_sumを計算する。商品位置決定部(統合用)430は、行番号2の第1の行の情報の補正尤度Pnew及び行番号2の第3の行の情報の補正尤度Pnewの和Pnew_sumを求めることにより、同時に左手で取り上げられたと推定された推定商品C及び推定商品Aの補正尤度Pnewの和Pnew_sumを計算し、行番号2の第5の行のPnew_sum826に格納する。
【0092】
商品位置決定部(統合用)430は、行番号2の第2の行の情報の補正尤度Pnew及び行番号2の第4の行の情報の補正尤度Pnewの和Pnew_sumを求めることにより、同時に右手で取り上げられたと推定された推定商品C及び推定商品Aの補正尤度Pnewの和Pnew_sumを計算し、行番号2の第6の行のPnew_sum826に格納する。
【0093】
具体例4において、計算された補正尤度情報は、2つの行を含む行番号1の情報と、6つの行を含む行番号2の情報とを含む。
【0094】
行番号1の一の行の情報の取り上げ推定商品はBであり、補正尤度Pnewは0.3である。行番号1の一の行の情報は、ユーザUs1が左手で商品Bを取り上げたときの情報に対応する。行番号1の他の行の情報の取り上げ推定商品はBであり、補正尤度Pnewは0.5である。行番号1の他の行の情報は、ユーザUs1が右手で商品Bを取り上げたときの情報に対応する。
【0095】
行番号2の第1の行の情報の取り上げ推定商品はCであり、補正尤度Pnewは0.6であり、平均補正尤度Pnew’は0.6である。行番号2の第1の行の情報は、ユーザUs1が左手で商品Cを取り上げたときの情報に対応する。
【0096】
行番号2の第2の行の情報の取り上げ推定商品はCであり、補正尤度Pnewは-0.2であり、平均補正尤度Pnew’は0.6である。行番号2の第2の行の情報は、ユーザUs1が右手で商品Cを取り上げたときの情報に対応する。
【0097】
行番号2の第3の行の情報の取り上げ推定商品はAであり、補正尤度Pnewは-0.2であり、平均補正尤度Pnew’は0.6である。行番号2の第3の行の情報は、ユーザUs1が左手で商品Aを取り上げたときの情報に対応する。
【0098】
行番号2の第4の行の情報の取り上げ推定商品はAであり、補正尤度Pnewは0.6であり、平均補正尤度Pnew’は0.6である。行番号2の第4の行の情報は、ユーザUs1が右手で商品Aを取り上げたときの情報に対応する。
【0099】
行番号2の第5の行の情報の取り上げ推定商品はC及びAであり、補正尤度Pnewの和Pnew_sumは0.4(=0.6+(-0.2))である。行番号2の第5の行の情報は、ユーザUs1が左手で商品C及び商品Aを取り上げたときの情報に対応する。
【0100】
行番号2の第6の行の情報の取り上げ推定商品はC及びAであり、補正尤度Pnewの和Pnew_sumは0.4(=0.6+(-0.2))である。行番号2の第6の行の情報は、ユーザUs1が右手で商品C及び商品Aを取り上げたときの情報に対応する。
【0101】
商品位置決定部(統合用)430は、取り上げ推定商品の中から、補正尤度Pnew、平均補正尤度Pnew’及び補正尤度Pnewの和Pnew_sumのうち最も高い尤度を有する取り上げ推定商品を棚SB1から取り上げられた取り上げ商品として決定(特定)する。具体例4では、商品位置決定部(統合用)430は、取り上げ推定商品A及び取り上げ推定商品Cの平均補正尤度Pnew’が最も高いので、商品A及び商品Cを取り上げ商品として決定する。
【0102】
<具体例5>
図12A及び図12Bを用いて物品特定装置400の作動の具体例5を説明する。図12A及び図12Bは物品特定装置400の作動の具体例5を説明するための図である。図12Aに示すように、測距センサ200a及び測距センサ200bによって、位置P91X1でユーザXの手伸ばし位置が検出され、位置P91Y1でユーザYの手伸ばし位置が検出される。重量センサ300によって、重量変化(総重量の変化及び重量バランスの変化)が検出され、位置P101、位置P102a及び位置P102bで、商品取得イベントが発生した状況を想定する。なお、重量変化(総重量の変化及び重量バランスの変化)に基づき、位置P102a及び位置102bでは、商品が同時に取得されたことが検出される。
【0103】
物品特定装置400の商品位置決定部(棚用)410及び手伸ばし位置決定部420は、具体例1と同様、図12Bに示す重量センサ情報及びTOFセンサ情報を取得する。なお、同時に取り上げられた複数の商品(本例において、商品C及び商品A)に関する情報は、2つの行を含む1つの行番号の情報にまとめられる。
【0104】
具体例5において、重量センサ情報は、行番号1の情報及び2つの行を含む行番号2の情報を含む。
【0105】
行番号1の情報のX方向位置Xwは0.50であり、取り上げ推定商品はBであり、尤度Pwは0.8である。行番号2の一の行の情報のX方向位置Xwは0.20であり、取り上げ推定商品はCであり、尤度Pwは0.7である。行番号2の他の行の情報のX方向位置Xwは0.70であり、取り上げ推定商品はAであり、尤度Pwは0.7である。
【0106】
TOFセンサ情報は、行番号X及び行番号Yの情報を含む。行番号Xの情報の物品取り上げ位置Xtは0.25であり、取り上げ推定商品はCである。行番号Xの情報はユーザXの距離データ(点群)に基づいて取得された情報である。行番号Yの情報の物品取り上げ位置Xtは0.80である。行番号Yの情報はユーザYの距離データ(点群)に基づいて取得された情報である。
【0107】
物品特定装置400は、重量センサ情報及びTOFセンサ情報を、計算式(1)に適用して補正尤度情報を計算する。
具体的に述べると、物品特定装置400の商品位置決定部(統合用)430は、各取り上げ推定商品について、計算式(1)により、補正尤度Pnewを計算する。商品位置決定部(統合用)430は、重量センサ情報の行番号1の情報及びTOFセンサ情報の行番号Xの情報から、計算式(1)により、補正尤度情報の行番号1の一の行の補正尤度Pnewを計算する。商品位置決定部(統合用)430は、重量センサ情報の行番号1の及びTOFセンサ情報の行番号Yの情報から、計算式(1)により、補正尤度情報の行番号1の他の行の補正尤度Pnewを計算する。そして、商品位置決定部(統合用)430は、補正尤度情報の行番号1の一の行の補正尤度Pnew、及び、補正尤度情報の行番号1の他の行の補正尤度Pnewのうち、大きい方を選択し、その大きい方の補正尤度Pnewが選択されたことを示す情報「本例において、〇」をPnew選択824aの選択された補正尤度Pnewに対応する行に格納する。
【0108】
商品位置決定部(統合用)430は、重量センサ情報の行番号2の一の行の情報及びTOFセンサ情報の行番号Xの情報から、計算式(1)により、補正尤度情報の行番号2の第1の行の補正尤度Pnewを計算する。商品位置決定部(統合用)430は、重量センサ情報の行番号2の一の行の情報及びTOFセンサ情報の行番号Yの情報から、計算式(1)により、補正尤度情報の行番号2の第2の行の補正尤度Pnewを計算する。そして、商品位置決定部(統合用)430は、補正尤度情報の行番号2の第1の行の補正尤度、及び、補正尤度情報の行番号2の第2の行の補正尤度Pnewのうち、大きい方を選択し、その大きい方の補正尤度Pnewが選択しされたことを示す情報「本例において、〇」をPnew選択824aの選択された補正尤度Pnewに対応する行に格納する。
【0109】
商品位置決定部(統合用)430は、重量センサ情報の行番号2の他の行の情報及びTOFセンサ情報の行番号Xの情報から、計算式(1)により、補正尤度情報の行番号2の第3の行の補正尤度Pnewを計算する。商品位置決定部(統合用)430は、重量センサ情報の行番号2の他の行の情報及びTOFセンサ情報の行番号Yの情報から、計算式(1)により、補正尤度情報の行番号2の第4の行の補正尤度Pnewを計算する。そして、商品位置決定部(統合用)430は、補正尤度情報の行番号2の第3の行の補正尤度Pnew、及び、補正尤度情報の行番号2の第4の行の補正尤度Pnewのうち、大きい方を選択し、その大きい方の補正尤度が選択されたことを示す情報「本例において、〇」をPnew選択824aの選択された補正尤度Pnewに対応する行に格納する。
【0110】
更に、商品位置決定部(統合用)430は、同時に取り上げられたと推定された推定商品C及び推定商品Aの補正尤度Pnewの平均Pnew’を計算する。商品位置決定部(統合用)430は、選択した補正尤度Pnewの平均Pnew’を求めることにより、推定商品C及び推定商品Aの補正尤度Pnewの平均Pnew’を計算し、Pnew’824aの行番号2の第1乃至第4の行に対応する行に格納する。
【0111】
更に、商品位置決定部(統合用)430は、同時にユーザX又はユーザYの手で取り上げられたと推定された推定商品C及び推定商品Aの補正尤度Pnewの和Pnew_sumを計算する。商品位置決定部(統合用)430は、行番号2の第1の行の情報の補正尤度Pnew及び行番号2の第3の行の情報の補正尤度Pnewの和Pnew_sumを求めることにより、同時にユーザXにより取り上げられたと推定された推定商品C及び推定商品Aの補正尤度Pnewの和Pnew_sumを計算し、行番号2の第5の行のPnew_sum826に格納する。
【0112】
商品位置決定部(統合用)430は、行番号2の第2の行の情報の補正尤度Pnew及び行番号2の第4の行の情報の補正尤度Pnewの和Pnew_sumを求めることにより、同時にユーザYにより取り上げられたと推定された推定商品C及び推定商品Aの補正尤度Pnewの和Pnew_sumを計算し、行番号2の第6の行のPnew_sum826に格納する。
【0113】
具体例5において、計算された補正尤度情報は、2つの行を含む行番号1の情報と、6つの行を含む行番号2の情報とを含む。
【0114】
行番号1の一の行の情報の取り上げ推定商品はBであり、補正尤度Pnewは0.3である。行番号1の一の行の情報は、ユーザXが商品Bを取り上げた情報に対応する。
【0115】
行番号1の他の行の情報の取り上げ推定商品はBであり、補正尤度Pnewは0.2である。行番号1の他の行の情報は、ユーザYが商品Bを取り上げた情報に対応する。
【0116】
行番号2の第1の行の情報の取り上げ推定商品はCであり、補正尤度は0.6であり、平均補正尤度Pnew’は0.55である。行番号2の第1の行の情報は、ユーザXが商品Cを商品Aと同時に取り上げた情報に対応する。
【0117】
行番号2の第2の行の情報の取り上げ推定商品はCであり、補正尤度Pnewは-0.5であり、平均補正尤度Pnew’は0.55である。行番号2の第2の行の情報は、ユーザYが商品Cを商品Aと同時に取り上げた情報に対応する。
【0118】
行番号2の第3の行の情報の取り上げ推定商品はAであり、補正尤度Pnewは-0.2であり、平均補正尤度Pnew’は0.55である。行番号2の第3の行の情報は、ユーザXが商品Aを商品Cと同時に取り上げた情報に対応する。
【0119】
行番号2の第4の行の情報の取り上げ推定商品はAであり、補正尤度Pnewは0.5であり、平均補正尤度Pnew’は0.55である。行番号2の第4の行の情報は、ユーザYが商品Aを商品Cと同時に取り上げた情報に対応する。
【0120】
行番号2の第5の行の情報の取り上げ推定商品はC及びAであり、補正尤度Pnewの和Pnew_sumは0.4(=0.6+(-0.2))である。行番号2の第5の行の情報は、ユーザXが商品C及び商品Aを取り上げた情報に対応する。
【0121】
行番号2の第6の行の情報の取り上げ推定商品はC及びAであり、補正尤度Pnewの和Pnew_sumは0(=0.5+(-0.5))である。行番号2の第6の行の情報は、ユーザXが商品C及び商品Aを取り上げた情報に対応する。
【0122】
商品位置決定部(統合用)430は、取り上げ推定商品の中から、補正尤度Pnew、平均補正尤度Pnew’及び補正尤度の和のうち最も高い尤度を有する取り上げ推定商品を棚SB1から取り上げられた取り上げ商品として決定(特定)する。具体例5では、取り上げ推定商品A及び取り上げ推定商品Cの平均補正尤度Pnew’が最も高いので、商品位置決定部(統合用)430は、商品A及び商品Cを取り上げ商品として決定する。更に、商品位置決定部(統合用)430は、補正尤度Pnewが選択された行に基づいて、商品CをユーザXの取り上げ商品として決定し、商品AをユーザYの取り上げ商品として決定する。
【0123】
<具体的作動>
図13は物品特定システムが実行する処理フローを示すフローチャートである。システムは、S1300から処理を開始して、以下に述べるS1305及びS1310の処理と、S1315及びS1320の処理とを並列的に実行する。
【0124】
S1305:重量センサ300が重量変化を検知する。
【0125】
S1310:物品特定装置400の商品位置決定部(棚用)410は各重量センサ300の重量センサ300の測定値及び商品管理情報400に基づき、商品が取り上げられたと推定される取り上げ推定商品の位置の候補(即ち、商品取得イベント発生位置(X方向位置Xw))をいくつか算出する。即ち、商品位置決定部(棚用)410は上述した重量センサ情報を算出する。
【0126】
S1315:測距センサ200a及び測距センサ200bが手伸ばし位置を検知する。
【0127】
S1320:物品特定装置400の手伸ばし位置決定部420は検知した位置情報及び商品管理情報400から商品が取り上げられたと推定される推定商品の取り上げ位置(即ち、物品取り上げ位置Xt)の候補をいくつか算出する。即ち、手伸ばし位置決定部420は上述したTOFセンサ情報を算出する。
【0128】
その後、物品特定システムは、以下に述べるS1325を実行した後、S1395に進んで本処理フローを一旦終了する。
【0129】
S1325:物品特定装置400の商品位置決定部(統合用)430は2つのセンサ情報(重量センサ情報及びTOFセンサ情報)から補正尤度情報を計算し、補正尤度情報に基づいて、取り出された商品を決定(特定)する。なお、S1325の処理の詳細は後述する。
【0130】
<S1325>
上述したS1325の処理の詳細について説明する。図14は物品特定装置400の商品位置決定部(統合用)430が実行する処理フローを示すフローチャートである。商品位置決定部(統合用)430はステップ1400から処理を開始してステップ1405に進み、重量センサ情報に同時取得された取り上げ推定商品が存在するか否かを判定する。
【0131】
重量センサ情報に同時取得された取り上げ推定商品が存在しない場合、商品位置決定部(統合用)430はステップ1405にて「NO」と判定して以下に述べるステップ1410及びステップ1415の処理を順に実行した後、ステップ1495に進んで本処理フローを一旦終了する。
【0132】
ステップ1410:商品位置決定部(統合用)430は、図8B図9B)を参照して説明した上述した計算方法で補正尤度情報を計算する。
【0133】
ステップ1415:商品位置決定部(統合用)430は、補正尤度情報に基づき、最も高い補正尤度Pnewを有する取り上げ推定商品を取り上げ商品として特定する。
【0134】
重量センサ情報に同時取得された取り上げ推定商品が存在する場合、商品位置決定部(統合用)430はステップ1405にて「YES」と判定してステップ1420に進み、TOFセンサ情報に基づき、ユーザの人数が一人か否かを判定する。
【0135】
ユーザの人数が一人である場合、商品位置決定部(統合用)430はステップ1420にて「YES」と判定してステップ1425に進み、TOFセンサ情報に含まれる手伸ばし検出位置(物品取り上げ位置Xt)が一箇所だけであるか否かを判定する。
【0136】
TOFセンサ情報に含まれる手伸ばし検出位置(物品取り上げ位置Xt)が一箇所だけである場合、商品位置決定部(統合用)430はステップ1425にて「YES」と判定して以下に述べるステップ1430及びステップ1435の処理を順に実行した後、ステップ1495に進んで本処理フローを一旦終了する。
【0137】
ステップ1430:商品位置決定部(統合用)430は、図10Bを参照して説明した上述した計算方法で補正尤度情報を計算する。
【0138】
ステップ1435:商品位置決定部(統合用)430は、上述したように、補正尤度Pnew及び平均尤度に基づき取り上げ商品を特定する。
【0139】
TOFセンサ情報に含まれる手伸ばし検出位置(物品取り上げ位置Xt)が二箇所以上である場合、商品位置決定部(統合用)430はステップ1425にて「NO」と判定して以下に述べるステップ1440及びステップ1445の処理を順に実行した後、ステップ1495に進んで本処理フローを一旦終了する。
【0140】
ステップ1440:商品位置決定部(統合用)430は、図11Bを参照して説明した上述した計算方法で補正尤度情報を計算する。
【0141】
ステップ1445:商品位置決定部(統合用)430は、上述したように、補正尤度情報に基づき、補正尤度Pnew、平均補正尤度Pnew’及び補正尤度の和Pnew_sumの中で最も高い尤度を有する取り上げ推定商品を取り上げ商品として特定する。
【0142】
上述したステップ1420にて、ユーザの人数が二人以上である場合、商品位置決定部(統合用)430はステップ1420にて「NO」と判定して以下に述べるステップ1450及びステップ1455の処理を順に実行した後、ステップ1495に進んで本処理フローを一旦終了する。
【0143】
ステップ1450:商品位置決定部(統合用)430は、図12Bを参照して説明した上述した計算方法で補正尤度情報を計算する。
【0144】
ステップ1455:商品位置決定部(統合用)430は、上述したように。補正尤度情報に基づき、補正尤度Pnew、平均尤度及び補正尤度Pnewの和Pnew_sumの中で最も高い尤度を有する取り上げ推定商品を取り上げ商品として特定する。更に、商品位置決定部(統合用)430は、特定した取り上げ商品のユーザを特定する。
【0145】
<効果>
以上説明したように、本発明の第1実施形態に係る物品特定システムは、重量センサ300の測定値に基づく取り上げ推定商品の尤度Pwを、重量センサ300の測定値に基づくX方向位置Xw、並びに、測距センサ200a及び測距センサ200bによって検出した取り上げ位置Xtを用いて補正することにより補正尤度Pnewを計算する。物品特定システムは、補正尤度Pnewに基づいて、取り上げ商品を決定(特定)する。これにより、物品特定システムは、同じ棚SBの異なる位置から同時に取り上げられた商品を精度よく特定できる。
【0146】
<<変形例1>>
上記第1実施形態において、物品特定装置400は、重量センサ情報の各尤度Pwに重み係数を乗じることにより、尤度Pwに重み付けを行い、重み付けを行った後の尤度を用いて(計算式(1)に代入して)補正尤度Pnewを計算するようにしてもよい。
【0147】
<<変形例2>>
上記第1実施形態において、物品特定装置400は、重量センサ情報の各尤度Pwのうちの最も高い尤度Pwが、所定の閾値尤度以上である場合、補正尤度Pnewを考慮しないで、その最も高い尤度Pwの商品を棚SBから取り上げられた取り上げ商品として決定(特定)してもよい。
【0148】
<<変形例3>
上記第1実施形態において、物品特定装置400は、商品取得イベント発生位置を取得することができなかった取り上げ推定商品がある場合、その取り上げ推定商品の商品取得イベント発生位置のX方向位置Xwが、その商品が配置された位置に基づく所定位置であるとみなしてもよい。例えば、商品取得イベント発生位置を取得することができなかった取り上げ推定商品が商品Cである場合、商品Cは、X方向位置0以上0.3未満の範囲に存在するので、この範囲に基づいて、その取り上げ推定商品の商品取得イベント発生位置のX方向位置Xwが0.15であると計算してもよい。
【0149】
<<変形例4>>
上記第1実施形態において、物品特定装置400は、測距センサ200a及び測距センサ200bによって手伸ばし位置が検出できなかったことにより、物品取り上げ位置Xtを取得することができなかった場合、補正尤度Pnewを計算しないで、重量センサ情報の尤度Pwのみに基づいて、棚SBから取り上げられた商品を推定するようにしてもよい。
【0150】
<<変形例5>>
上記第1実施形態において、物品特定装置400は、測距センサ200a及び測距センサ200bによって手伸ばし位置が検出できなかった場合であって、ユーザUS1の頭がバーチャルスクリーンに現れた位置を検出できる場合、その検出できた頭の位置を物品取り上げ位置Xtとして採用し、補正尤度Pnewを計算するようにしてもよい。なお、この場合、物品特定装置400は、計算式(1)の重み付け係数を通常より小さくして(例えば、手伸ばし位置が検出できる場合に比べて小さくして)、補正尤度Pnewを計算するようにしてもよい。
【0151】
<<変形例6>>
上記第1実施形態において、物品特定装置400は、計算式(1)の重み付け係数の値を、機械学習により決定してもよい。例えば、正解(正しい取り上げ商品)が分かっている場合の重量センサ情報及びTOFセンサ情報(学習用データ)を多数用いて、機械学習により最適な重み付け係数が決定されてもよい。
【0152】
<<変形例7>>
上記第1実施形態において、物品特定装置400は、取り上げ商品の特定において、測距センサ200a及び測距センサ200bの結果を重視したい程度に応じて、重視したい程度が大きくなるほど、計算式(1)の重み付け係数を大きくなるように設定してもよい。
【0153】
<<第2実施形態>>
本発明の第2実施形態に係る物品特定システムについて説明する。本発明の第2実施形態に係る物品特定システムは、以下の点のみにおいて、第1実施形態に係る物品特定システムと相違点を有する。
・物品特定装置400は、測距センサ200a及び測距センサ200bを用いて検出した物品取り上げ位置Xtに基づいて、X方向において物品取り上げ可能性範囲を計算する。物品特定装置400は、物品取り上げ可能性範囲及び重量センサ情報の尤度Pwに基づいて、取り上げ商品を特定する。
【0154】
以下、この相違点を中心として説明する。
【0155】
図15は物品特定装置400の作動を説明するための図である。図15に示すように、物品特定装置400は、物品取り上げ位置Xtとして位置P111を取得すると、位置P111に基づいて物品取り上げ可能性範囲R111を設定する。物品特定装置400は、物品取り上げ可能性範囲R111に基づいて、商品の取り上げる可能性がない範囲の商品を、商品取り上げ候補から除外する。例えば、本例において、商品A及び商品Bは取り上げられた可能性があるのに対して、商品Cは取り上げられる可能性がないので、商品Cを商品取り上げ候補から除外する。物品特定装置400は、商品Cが除外された商品A及び商品Bの中から、重量センサ情報の各取り上げ推定商品の尤度Pwに基づいて、尤度Pwが最も高い商品を棚SB1から取り上げられた物品として決定する。
【0156】
<効果>
以上説明したように、本発明の第2実施形態に係る物品特定システムは、第1実施形態と同様、同じ棚SBの異なる位置から同時に取り上げられた商品を精度よく特定できる。
【0157】
<<第3実施形態>>
本発明の第3実施形態に係る物品特定システムについて説明する。本発明の第3実施形態に係る物品特定システムは、以下の点のみにおいて、第1実施形態に係る物品特定システムと相違点を有する。
・物品特定装置400は、測距センサ200a及び測距センサ200bを用いて検出した物品取り上げ位置Xt及び重量センサ300を用いて検出した商品取得イベント発生位置のX方向位置Xwに基づいて、X方向において物品取り上げ可能性範囲を計算する。物品特定装置400は、物品取り上げ可能性範囲及び重量センサ情報の尤度Pwに基づいて、取り上げ物品を特定する。
【0158】
以下、この相違点を中心として説明する。
【0159】
図16は物品特定装置400の作動を説明するための図である。図16に示すように、物品特定装置400は、物品取り上げ位置Xtとして位置P211を取得すると、位置P211に基づいて第1物品取り上げ可能性候補範囲R211を設定する。物品特定装置400は、商品取得イベント発生位置のX方向位置Xwとして位置P311と、位置P312と、位置P313とを取得すると、位置P311に基づいて第2物品取り上げ可能性候補範囲R311を設定し、位置P312に基づいて第2物品取り上げ可能性候補範囲R312を設定し、位置P313に基づいて第2物品取り上げ可能性候補範囲R313を設定する。
【0160】
物品特定装置400は、X方向の第1物品取り上げ可能性候補範囲R211と第2物品取り上げ可能性候補範囲R311乃至R313とがY方向において重なる範囲を、物品取り上げ可能性範囲R400として設定する。
【0161】
物品特定装置400は、物品取り上げ可能性範囲R400に基づいて、商品の取り上げる可能性がない範囲の商品を、商品取り上げ候補から除外する。例えば、本例において、商品Aは取り上げられた可能性があるのに対して、商品B及び商品Cは取り上げられる可能性がないので、商品B及び商品Cを商品取り上げ候補から除外する。物品特定装置400は、商品B及び商品Cが除外された商品Aを棚SB1から取り上げ商品として決定する。なお、商品が除外された後の残りの商品が複数存在する場合、重量センサ情報の各取り上げ推定商品の尤度Pwに基づいて、尤度Pwが最も高い商品を棚SB1から取り上げられた取り上げ商品として特定する。
【0162】
<効果>
以上説明したように、本発明の第3実施形態に係る物品特定システムは、第1実施形態と同様、同じ棚SBの異なる位置から同時に取り上げられた商品を精度よく特定できる。
【0163】
<<他の変形例>>
本発明は上記各実施形態及び各変形例に限定されることなく、本発明の範囲内において種々の変形例を採用することができる。更に、上記各実施形態及び各変形例は、本発明の範囲を逸脱しない限り、互いに組み合わせることが可能である。
【0164】
なお、上記各実施形態及び各変形例において、重量センサ300によって計測された計測値に基づいて尤度Pwを求めるときには、その商品が購入される率、商品がセールや割引の対象になっているかどうかを考慮してもよい。上記各実施形態及び各変形例において、重量センサ300によって検出された計測された計測値に基づいて尤度Pwを求めるときには、対象商品が互いに近い距離に配置されている他の商品との属性が同じ又は類似であるとの推定が考慮されてもよい。また、上記実施形態において、尤度Pwを求めるときには、過去の尤度Pwとその当否結果の履歴を考慮してもよい。更には、上記実施形態において、重量センサ300によって検出された棚SBの重量変化に基づいて尤度Pwを求めるときには、機械学習、線形回帰、ロジスティック回帰、決定木分析、サポートベクターマシンなどの手法を用いて尤度Pwを求めてもよい。
【0165】
なお、本発明は以下の構成を採ることもできる。
【0166】
[1]
物品が載置された棚に設置された前記物品の重量を計測する重量センサと、
前記棚及び前記棚の前方の所定の領域を測定範囲に含み、前記測定範囲に存在する測定対象物までの距離を測定する測距センサと、
前記重量センサによって計測された前記重量である重量計測データを取得し、前記測距センサによって計測された前記測定範囲内に存在する人物を表す前記距離である距離データを取得する情報処理装置を含む物品特定装置と、
を用いた物品特定方法であって、
前記情報処理装置によって、
前記物品が前記棚から取り上げられるときの前記重量計測データに基づいて、前記棚から取り上げられた物品を推定し、推定した複数の前記物品である複数の取り上げ推定物品のそれぞれについて、前記取り上げ推定物品の取り上げ推定位置である第1物品取り上げ位置及び前記取り上げ推定物品の推定の正しさの程度を示す確度を計算し、
前記人物の距離データに基づいて、前記人物が前記棚から前記物品を取り上げるときの前記人物の所定部位の位置に基づく第2物品取り上げ位置を取得し、
複数の前記取り上げ推定物品のそれぞれについて、前記確度を前記第1物品取り上げ位置及び前記第2物品取り上げ位置に基づいて補正することにより補正確度を計算し、前記補正確度に基づいて、複数の前記取り上げ推定物品の中から前記棚から取り上げられた1又は複数の前記物品である取り上げ物品を特定する、
物品特定方法。
【0167】
[2]
コンピュータに、
物品が載置された棚に設置された前記物品の重量を計測する重量センサから取得した前記重量センサによって計測された前記重量である重量計測データ、及び、
前記棚及び前記棚の前方の所定の領域を測定範囲に含み、前記測定範囲に存在する測定対象物までの距離を測定する測距センサから取得した、前記測距センサによって計測された前記測定範囲内に存在する人物を表す前記距離である距離データを用いた処理を実行させる物品特定プログラムであって、
前記コンピュータに、
前記物品が前記棚から取り上げられるときの前記重量計測データに基づいて、前記棚から取り上げられた物品を推定し、推定した複数の前記物品である複数の取り上げ推定物品のそれぞれについて、前記取り上げ推定物品の取り上げ推定位置である第1物品取り上げ位置及び前記取り上げ推定物品の推定の正しさの程度を示す確度を計算し、
前記人物の距離データに基づいて、前記人物が前記棚から前記物品を取り上げるときの前記人物の所定部位の位置に基づく第2物品取り上げ位置を取得し、
複数の前記取り上げ推定物品のそれぞれについて、前記確度を前記第1物品取り上げ位置及び前記第2物品取り上げ位置に基づいて補正することにより補正確度を計算し、前記補正確度に基づいて、複数の前記取り上げ推定物品の中から前記棚から取り上げられた1又は複数の前記物品である取り上げ物品を特定する処理を実行させる、
物品特定プログラム。
【0168】
以下の[3]乃至[8]の物品取得判断システムについては、図17を参照しながら説明する。
【0169】
[3]
複数の物品を載置可能な棚に、互いに離間して設けられた、前記物品の重量を検出する複数の重量センサと、
前記重量センサの検出結果を用いて、前記物品が載置された前記棚における重量分布を含む情報を検出する第1の検出部と、
前記第1の検出部によって検出された情報を用いて、前記棚から取得された物品の候補と、当該物品の候補に対する妥当性とを判断する第1の判断部であって、複数通りの前記物品の候補に対して妥当性を判断する前記第1の判断部と、
前記棚の付近の物品及び人物までの距離を検出する測距センサと、
前記測距センサにおける検出結果を用いて、前記棚付近における物品、人物及び人物の動作を検出する第2の検出部と、
前記第2の検出部の検出結果を用いて、どの人物が、どの物品に向けた動作を行ったかを判断する第2の判断部と、
前記第1の判断部の判断結果及び前記第2の判断部の判断結果を用いて、どの人物が、どの物品を取得したかを判断する第3の判断部と、
を備え、
前記棚の一の方向における前記棚の略中央の第1領域、前記第1領域を前記一の方向の両側で挟む第2領域及び第3領域の前記第1領域に第1物品(図17のB)が載置され、前記第2領域に第2物品(図17のA)が載置され、前記第3領域に第3物品(図17のC)が載置されている第1の状況(図17の行Rw1を参照。)において、
行Rw1に示すように、前記第1の判断部が、前記複数通りの前記物品の候補が一つの第2物品(A)及び一つの第3物品(C)を含み、且つ、最も妥当性の高い前記物品の候補が一つの第2物品(A)であり、その次に妥当性の高い前記物品の候補が、一つの第3物品(C)であると判断し、
かつ、
前記第2の判断部が、第1人物(図17のX)が第3物品(C)にむけた動作を行ったと判断した場合、前記第3の判断部は、前記第1人物(X)が第3物品(C)を取得したと判断する、
ことを特徴とする物品取得判断システム。
【0170】
[4]
複数の物品を載置可能な棚に、互いに離間して設けられた、前記物品の重量を検出する複数の重量センサと、
前記重量センサの検出結果を用いて、前記物品が載置された前記棚における重量分布を含む情報を検出する第1の検出部と、
前記第1の検出部によって検出された情報を用いて、前記棚から取得された物品の候補と、当該物品の候補に対する妥当性とを判断する第1の判断部であって、複数通りの前記物品の候補に対して妥当性を判断する前記第1の判断部と、
前記棚の付近の物品及び人物までの距離を検出する測距センサと、
前記測距センサにおける検出結果を用いて、前記棚付近における物品、人物及び人物の動作を検出する第2の検出部と、
前記第2の検出部の検出結果を用いて、どの人物が、どの物品に向けた動作を行ったかを判断する第2の判断部と、
前記第1の判断部の判断結果及び前記第2の判断部の判断結果を用いて、どの人物が、どの物品を取得したかを判断する第3の判断部と、
を備え、
前記棚の一の方向における前記棚の略中央の第1領域、前記第1領域を前記一の方向の両側で挟む第2領域及び第3領域の前記第1領域に第1物品(B)が載置され、前記第2領域に第2物品が載置され、前記第3領域に第3物品(C)が載置され、かつ、第2物品の重量と第3物品(C)の重量とが略等しく、かつ、前記第1物品(B)の重量は前記第2物品の重量の略2倍である第2の状況(図17の行Rw2を参照。)において、
行Rw2に示すように、前記第1の判断部が、前記複数通りの前記物品の候補が一つの前記第1物品(B)、並びに、一つの前記第2物品(A)及び一つの前記第3物品(C)であり、且つ、最も妥当性の高い前記物品の候補が一つの前記第1物品(B)であり、その次に妥当性の高い前記物品の候補が、一つの前記第2物品(A)及及び一つの前記第3物品(C)であると判断し、
且つ、
前記第2の判断部が、第1人物(X)が前記第2物品(A)に向けた動作を行うとともに第2人物(図17のY)が前記第3物品(C)に向けた動作を行ったと判断した場合、
前記第3の判断部は、前記第1人物(X)が前記第2物品(A)を取得し、前記第2人物(Y)が前記第3物品(C)を取得したと判断する、
ことを特徴とする物品取得判断システム。
【0171】
なお、略等しくは同一を含む。略2倍は2倍を含む。
【0172】
[5]
複数の物品を載置可能な棚に、互いに離間して設けられた、前記物品の重量を検出する複数の重量センサと、
前記重量センサの検出結果を用いて、前記物品が載置された前記棚における重量分布を含む情報を検出する第1の検出部と、
前記第1の検出部によって検出された情報を用いて、前記棚から取得された物品の候補と、当該物品の候補に対する妥当性とを判断する第1の判断部であって、複数通りの前記物品の候補に対して妥当性を判断する前記第1の判断部と、
前記棚の付近の物品及び人物までの距離を検出する測距センサと、
前記測距センサにおける検出結果を用いて、前記棚付近における物品、人物及び人物の動作を検出する第2の検出部と、
前記第2の検出部の検出結果を用いて、どの人物が、どの物品に向けた動作を行ったかを判断する第2の判断部と、
前記第1の判断部の判断結果及び前記第2の判断部の判断結果を用いて、どの人物が、どの物品を取得したかを判断する第3の判断部と、
を備え、
前記棚の一の方向における前記棚の略中央の第1領域、前記第1領域を前記一の方向の両側で挟む第2領域及び第3領域の前記第1領域に第1物品(B)が載置され、前記第2領域に第2物品(A)が載置され、前記第3領域に第3物品(C)が載置され、かつ、第2物品(A)の重量と第3物品(C)の重量とが略等しく、かつ、前記第1物品(B)の重量は前記第2物品(A)の重量の略2倍である第2の状況(図17の行Rw3を参照。)において、
行Rw3に示すように、前記第1の判断部が、前記複数通りの前記物品の候補が一つの前記第1物品(B)、並びに、一つの前記第2物品(A)及び一つの前記第3物品(C)であり、且つ、最も妥当性の高い前記物品の候補が一つの前記第2物品(A)及び一つの前記第3物品(C)であり、その次に妥当性の高い前記物品の候補が、一つの前記第1物品(B)であると判断し、
且つ、
前記第2の判断部が、第1人物(X)が前記第1物品(B)に向けた動作を行ったと判断した場合、
前記第3の判断部は、前記第1人物(X)が前記第1物品(B)を取得したと判断する、
ことを特徴とする物品取得判断システム。
【0173】
[6]
複数の物品を載置可能な棚に、互いに離間して設けられた、前記物品の重量を検出する複数の重量センサと、
前記重量センサの検出結果を用いて、前記物品が載置された前記棚における重量分布を含む情報を検出する第1の検出部と、
前記第1の検出部によって検出された情報を用いて、前記棚から取得された物品の候補と、当該物品の候補に対する妥当性とを判断する第1の判断部であって、複数通りの前記物品の候補に対して妥当性を判断する前記第1の判断部と、
前記棚の付近の物品及び人物までの距離を検出する測距センサと、
前記測距センサにおける検出結果を用いて、前記棚付近における物品、人物及び人物の動作を検出する第2の検出部と、
前記第2の検出部の検出結果を用いて、どの人物が、どの物品に向けた動作を行ったかを判断する第2の判断部と、
前記第1の判断部の判断結果及び前記第2の判断部の判断結果を用いて、どの人物が、どの物品を取得したかを判断する第3の判断部と、
を備え、
前記棚の一の方向における前記棚の略中央の第1領域、前記第1領域を前記一の方向の両側で挟む第2領域及び第3領域の前記第1領域に第1物品(B)が載置され、前記第2領域に第2物品(A)が載置され、前記第3領域に第3物品(C)が載置され、かつ、第2物品(A)の重量と第3物品(C)の重量とが略等しく、かつ、前記第1物品(B)の重量は前記第2物品(A)の重量の略2倍である第2の状況(図17の行Rw4を参照。)において、
行Rw4に示すように、前記第1の判断部が、前記複数通りの前記物品の候補が一つの前記第1物品(B)、並びに、一つの前記第2物品(A)及び一つの前記第3物品(C)であり、且つ、最も妥当性の高い前記物品の候補が一つの前記第1物品(B)であり、その次に妥当性の高い前記物品の候補が、一つの前記第2物品(A)及び一つの前記第3物品(C)であると判断し、
且つ、
前記第2の判断部が、第1人物(X)が前記第2物品(A)及び前記第3物品(C)に向けた動作を行ったと判断した場合、
前記第3の判断部は、前記第1人物(X)が一つの前記第2物品(A)及び一つの前記第3物品(C)を取得したと判断する、
ことを特徴とする物品取得判断システム。
【0174】
[7]
複数の物品を載置可能な棚に、互いに離間して設けられた、前記物品の重量を検出する複数の重量センサと、
前記重量センサの検出結果を用いて、前記物品が載置された前記棚における重量分布を含む情報を検出する第1の検出部と、
前記第1の検出部によって検出された情報を用いて、前記棚から取得された物品の候補と、当該物品の候補に対する妥当性とを判断する第1の判断部であって、複数通りの前記物品の候補に対して妥当性を判断する前記第1の判断部と、
前記棚の付近の物品及び人物までの距離を検出する測距センサと、
前記測距センサにおける検出結果を用いて、前記棚付近における物品、人物及び人物の動作を検出する第2の検出部と、
前記第2の検出部の検出結果を用いて、どの人物が、どの物品に向けた動作を行ったかを判断する第2の判断部と、
前記第1の判断部の判断結果及び前記第2の判断部の判断結果を用いて、どの人物が、どの物品を取得したかを判断する第3の判断部と、
を備え、
図17に示すように、前記第1の判断部において最も妥当度が高いと判断された前記物品が前記第2の判断部で判断された前記物品と一致せず、かつ、第1の判断部において2番目に妥当度が高いと判断された前記物品が第2の判断部で判断された前記物品と一致するとき、前記第3の判断部は、前記第2の判断部で判断された前記物品が取得されたと判断する、
ことを特徴とする物品取得判断システム。
【0175】
なお、[3]から[7]の物品取得判断システムにおいて、第1の判断部、第2の判断部及び第3の判断部は、物品特定装置400のCPU2001により実行されるROM2002及び/又は記憶装置2004に格納された各種プログラムで構成されてもよい。[3]から[7]の物品取得判断システムにおいて、妥当性又は妥当度は、上述した確度により判断されてもよい。
【符号の説明】
【0176】
200a…測距センサ、300…重量センサ、400…物品特定装置、410…商品位置決定部(棚用)、420…手伸ばし位置決定部、430…商品位置決定部(統合用)
図1
図2
図3
図4
図5
図6
図7
図8A
図8B
図9A
図9B
図10A
図10B
図11A
図11B
図12A
図12B
図13
図14
図15
図16
図17