(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-04-01
(45)【発行日】2024-04-09
(54)【発明の名称】処理装置、処理方法及びプログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20240402BHJP
G07G 1/00 20060101ALI20240402BHJP
G07G 1/12 20060101ALI20240402BHJP
【FI】
G06T7/00 300F
G07G1/00 311D
G07G1/00 331Z
G07G1/12 361C
(21)【出願番号】P 2023036253
(22)【出願日】2023-03-09
(62)【分割の表示】P 2020572043の分割
【原出願日】2019-02-15
【審査請求日】2023-03-09
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100110928
【氏名又は名称】速水 進治
(72)【発明者】
【氏名】白石 壮馬
(72)【発明者】
【氏名】岩元 浩太
(72)【発明者】
【氏名】山崎 晋哉
【審査官】高野 美帆子
(56)【参考文献】
【文献】特開2017-220206(JP,A)
【文献】特開2018-132869(JP,A)
【文献】特開2016-157328(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00
G07G 1/00
G07G 1/12
(57)【特許請求の範囲】
【請求項1】
物を容器に収容している商品であって、サイズ違いの商品は互いに異なる容器に物を収容している商品を含む処理対象画像に基づき、前記商品の容器の識別スコアを算出する容器識別スコア算出手段と、
前記処理対象画像に基づき、前記商品の識別スコアを算出する商品識別スコア算出手段と、
算出された前記容器の識別スコアと前記商品の識別スコアとに基づき、前記商品の識別情報を決定し、前記容器の識別スコアに基づきサイズ違いの商品を互いに識別する第1の識別手段と、
を有し、
前記商品の識別スコアは、前記処理対象画像に含まれる前記商品が予め登録された複数の商品各々である確信度を示し、前記容器の識別スコアは、前記処理対象画像に含まれる前記商品の容器が予め登録された複数の容器各々である確信度を示す処理装置。
【請求項2】
請求項1に記載の処理装置において、
前記第1の識別手段は、前記商品の識別スコアが第1の基準値以上である前記商品の識別情報の候補の中の、前記容器の識別スコアが第2の基準値以上の前記容器の識別情報の候補に対応する商品の識別情報を前記商品の識別情報として決定する処理装置。
【請求項3】
請求項1に記載の処理装置において、
前記第1の識別手段は、前記容器の識別スコアに基づき、前記商品の識別情報の候補を決定し、
前記商品識別スコア算出手段は、決定した前記商品の識別情報の候補各々の前記識別スコアを算出する処理装置。
【請求項4】
請求項1から3のいずれか1項に記載の処理装置において、
前記商品の識別情報に対応する容器画像と、前記商品の識別情報に対応しない容器画像とに基づき、前記識別情報に対応する容器画像と前記識別情報に対応しない容器画像の類似度を算出する類似度算出手段と、
前記類似度に基づき、前記商品の識別情報に対応しない商品の容器を提案する提案手段と、
を有する処理装置。
【請求項5】
コンピュータが、
物を容器に収容している商品であって、サイズ違いの商品は互いに異なる容器に物を収容している商品を含む処理対象画像に基づき、前記商品の容器の識別スコアを算出する容器識別スコア算出工程と、
前記処理対象画像に基づき、前記商品の識別スコアを算出する商品識別スコア算出工程と、
算出された前記容器の識別スコアと前記商品の識別スコアとに基づき、前記商品の識別情報を決定し、前記容器の識別スコアに基づきサイズ違いの商品を互いに識別する第1の識別工程と、
を実行し、
前記商品の識別スコアは、前記処理対象画像に含まれる前記商品が予め登録された複数の商品各々である確信度を示し、前記容器の識別スコアは、前記処理対象画像に含まれる前記商品の容器が予め登録された複数の容器各々である確信度を示す処理方法。
【請求項6】
コンピュータを、
物を容器に収容している商品であって、サイズ違いの商品は互いに異なる容器に物を収容している商品を含む処理対象画像に基づき、前記商品の容器の識別スコアを算出する容器識別スコア算出手段、
前記処理対象画像に基づき、前記商品の識別スコアを算出する商品識別スコア算出手段、
算出された前記容器の識別スコアと前記商品の識別スコアとに基づき、前記商品の識別情報を決定し、前記容器の識別スコアに基づきサイズ違いの商品を互いに識別する第1の識別手段、
として機能させ、
前記商品の識別スコアは、前記処理対象画像に含まれる前記商品が予め登録された複数の商品各々である確信度を示し、前記容器の識別スコアは、前記処理対象画像に含まれる前記商品の容器が予め登録された複数の容器各々である確信度を示すプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、処理装置、処理方法及びプログラムに関する。
【背景技術】
【0002】
特許文献1は、画像解析で商品を識別し、識別した商品を会計対象として登録する技術を開示している。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
外観が類似する商品群を画像解析で精度よく識別することは難しい。本発明は、外観が互いに類似する商品群を画像解析で精度よく識別することを課題とする。
【課題を解決するための手段】
【0005】
本発明によれば、
物を容器に収容している商品であって、サイズ違いの商品は互いに異なる容器に物を収容している商品を含む処理対象画像に基づき、前記商品の容器の識別スコアを算出する容器識別スコア算出手段と、
前記処理対象画像に基づき、前記商品の識別スコアを算出する商品識別スコア算出手段と、
算出された前記容器の識別スコアと前記商品の識別スコアとに基づき、前記商品の識別情報を決定し、前記容器の識別スコアに基づきサイズ違いの商品を互いに識別する第1の識別手段と、
を有し、
前記商品の識別スコアは、前記処理対象画像に含まれる前記商品が予め登録された複数の商品各々である確信度を示し、前記容器の識別スコアは、前記処理対象画像に含まれる前記商品の容器が予め登録された複数の容器各々である確信度を示す処理装置が提供される。
【0006】
また、本発明によれば、
コンピュータが、
物を容器に収容している商品であって、サイズ違いの商品は互いに異なる容器に物を収容している商品を含む処理対象画像に基づき、前記商品の容器の識別スコアを算出する容器識別スコア算出工程と、
前記処理対象画像に基づき、前記商品の識別スコアを算出する商品識別スコア算出工程と、
算出された前記容器の識別スコアと前記商品の識別スコアとに基づき、前記商品の識別情報を決定し、前記容器の識別スコアに基づきサイズ違いの商品を互いに識別する第1の識別工程と、
を実行し、
前記商品の識別スコアは、前記処理対象画像に含まれる前記商品が予め登録された複数の商品各々である確信度を示し、前記容器の識別スコアは、前記処理対象画像に含まれる前記商品の容器が予め登録された複数の容器各々である確信度を示す処理方法が提供される。
【0007】
また、本発明によれば、
コンピュータを、
物を容器に収容している商品であって、サイズ違いの商品は互いに異なる容器に物を収容している商品を含む処理対象画像に基づき、前記商品の容器の識別スコアを算出する容器識別スコア算出手段、
前記処理対象画像に基づき、前記商品の識別スコアを算出する商品識別スコア算出手段、
算出された前記容器の識別スコアと前記商品の識別スコアとに基づき、前記商品の識別情報を決定し、前記容器の識別スコアに基づきサイズ違いの商品を互いに識別する第1の識別手段、
として機能させ、
前記商品の識別スコアは、前記処理対象画像に含まれる前記商品が予め登録された複数の商品各々である確信度を示し、前記容器の識別スコアは、前記処理対象画像に含まれる前記商品の容器が予め登録された複数の容器各々である確信度を示すプログラムが提供される。
【0008】
また、本発明によれば、
商品を含む処理対象画像に基づき、前記商品の形状、色及び大きさの中の少なくとも1つである外観特徴を特定する特定手段と、
前記処理対象画像に基づき、前記商品の識別情報を推定する商品推定手段と、
特定した前記外観特徴と、推定した前記商品の識別情報とに基づき、前記商品の識別情報を決定する第2の識別手段と、
を有する処理装置が提供される。
【0009】
また、本発明によれば、
コンピュータが、
商品を含む処理対象画像に基づき、前記商品の形状、色及び大きさの中の少なくとも1つである外観特徴を特定する特定工程と、
前記処理対象画像に基づき、前記商品の識別情報を推定する商品推定工程と、
特定した前記外観特徴と、推定した前記商品の識別情報とに基づき、前記商品の識別情報を決定する第2の識別工程と、
を実行する処理方法が提供される。
【0010】
また、本発明によれば、
コンピュータを、
商品を含む処理対象画像に基づき、前記商品の形状、色及び大きさの中の少なくとも1つである外観特徴を特定する特定手段、
前記処理対象画像に基づき、前記商品の識別情報を推定する商品推定手段、
特定した前記外観特徴と、推定した前記商品の識別情報とに基づき、前記商品の識別情報を決定する第2の識別手段、
として機能させるプログラムが提供される。
【発明の効果】
【0011】
本発明によれば、外観が互いに類似する商品群を画像解析で精度よく識別できるようになる。
【図面の簡単な説明】
【0012】
上述した目的、及び、その他の目的、特徴及び利点は、以下に述べる好適な実施の形態、及び、それに付随する以下の図面によって、さらに明らかになる。
【0013】
【
図1】本実施形態の処理装置のハードウエア構成の一例を示す図である。
【
図2】本実施形態の処理装置の機能ブロック図の一例である。
【
図3】本実施形態の処理装置が処理する情報の一例を模式的に示す図である。
【
図4】本実施形態の処理装置の処理を説明するための図である。
【
図5】本実施形態の処理装置の処理の流れの一例を示すフローチャートである。
【
図6】本実施形態の処理装置の処理の流れの一例を示すフローチャートである。
【
図7】本実施形態の処理装置の機能ブロック図の一例である。
【
図8】本実施形態の処理装置の処理の流れの一例を示すフローチャートである。
【
図9】本実施形態の処理装置の機能ブロック図の一例である。
【
図10】本実施形態の処理装置が処理する情報の一例を模式的に示す図である。
【
図11】本実施形態の処理装置の処理を説明するための図である。
【
図12】本実施形態の処理装置の処理の流れの一例を示すフローチャートである。
【
図13】本実施形態の処理装置の処理の流れの一例を示すフローチャートである。
【
図14】本実施形態の会計システムの機能ブロック図の一例である。
【
図15】本実施形態の会計システムのカメラ20の設置例を示す図である。
【
図16】本実施形態の会計装置の処理の流れの一例を示すフローチャートである。
【発明を実施するための形態】
【0014】
<第1の実施形態>
まず、本実施形態の前提事項を説明する。本実施形態の識別対象は、容器に商品を収容したものである。容器に収容される物は、食物や飲物であってもよいし、その他の物であってもよい。容器は、皿、トレー等が例示されるが、これらに限定されない。外観が互いに類似する商品群に含まれる複数の商品は、互いに異なる容器に物を収容している。互いに異なる容器は、色、形状、大きさ、模様等の外観の特徴が互いに異なる。
【0015】
なお、全ての商品各々の容器は、互いに異なってもよい。この場合、商品の種類の数をMとすると、容器の種類の数もMとなる。
【0016】
1つの容器を複数の商品に併用してもよい。なお、外観が互いに類似する商品群に含まれる商品の容器は互いに異なる容器とし、同一の上記商品群に含まれない複数の商品間で1つの容器を併用する。
【0017】
次に、本実施形態の処理装置の概要を説明する。処理装置は、コンビニエンスストア、スーパーマーケット、飲食店などの店舗で利用される。処理装置は、第1の容器に第1の物を収容した第1の商品を含む処理対象画像に基づき、第1の容器の識別スコアを算出する。第1の容器の識別スコアは、「第1の容器と、予め登録されている複数の容器各々との類似度を示す値」、「第1の容器が、予め登録されている複数の容器各々である確信度を示す値」、「第1の容器が、予め登録されている複数の容器各々である信頼度を示す値」等である。処理装置は、処理対象画像に含まれる第1の容器の外観の特徴に基づき、第1の容器の識別スコアを算出する。
【0018】
また、処理装置は、上記処理対象画像に基づき、第1の商品の識別スコアを算出する。第1の商品の識別スコアは、「第1の商品と、予め登録されている複数の商品各々との類似度を示す値」、「第1の商品が、予め登録されている複数の商品各々である確信度を示す値」、「第1の商品が、予め登録されている複数の商品各々である信頼度を示す値」等である。処理装置は、処理対象画像に含まれる第1の商品の外観の特徴に基づき、第1の容器の識別スコアを算出する。
【0019】
処理装置は、算出された容器の識別スコアと商品の識別スコアとに基づき、第1の商品の識別情報を決定する。
【0020】
次に、処理装置の構成を詳細に説明する。まず、処理装置のハードウエア構成の一例について説明する。本実施形態の処理装置が備える各機能部は、任意のコンピュータのCPU(Central Processing Unit)、メモリ、メモリにロードされるプログラム、そのプログラムを格納するハードディスク等の記憶ユニット(あらかじめ装置を出荷する段階から格納されているプログラムのほか、CD(Compact Disc)等の記憶媒体やインターネット上のサーバ等からダウンロードされたプログラムをも格納できる)、ネットワーク接続用インターフェイスを中心にハードウエアとソフトウエアの任意の組合せによって実現される。そして、その実現方法、装置にはいろいろな変形例があることは、当業者には理解されるところである。
【0021】
図1は、本実施形態の処理装置のハードウエア構成を例示するブロック図である。
図1に示すように、処理装置は、プロセッサ1A、メモリ2A、入出力インターフェイス3A、周辺回路4A、バス5Aを有する。周辺回路4Aには、様々なモジュールが含まれる。処理装置は周辺回路4Aを有さなくてもよい。なお、処理装置は物理的及び/又は論理的に分かれた複数の装置で構成されてもよい。この場合、複数の装置各々が上記ハードウエア構成を備えることができる。
【0022】
バス5Aは、プロセッサ1A、メモリ2A、周辺回路4A及び入出力インターフェイス3Aが相互にデータを送受信するためのデータ伝送路である。プロセッサ1Aは、例えばCPU、GPU(Graphics Processing Unit)などの演算処理装置である。メモリ2Aは、例えばRAM(Random Access Memory)やROM(Read Only Memory)などのメモリである。入出力インターフェイス3Aは、入力装置、外部装置、外部サーバ、外部センサ、カメラ等から情報を取得するためのインターフェイスや、出力装置、外部装置、外部サーバ等に情報を出力するためのインターフェイスなどを含む。入力装置は、例えばキーボード、マウス、マイク、物理ボタン、タッチパネル等である。出力装置は、例えばディスプレイ、スピーカ、プリンター、メーラ等である。プロセッサ1Aは、各モジュールに指令を出し、それらの演算結果をもとに演算を行うことができる。
【0023】
次に、処理装置の機能構成の一例について説明する。
図2の機能ブロック図に示すように、処理装置10は、容器識別スコア算出部11と、商品識別スコア算出部12と、第1の識別部13とを有する。
【0024】
容器識別スコア算出部11は、商品を含む処理対象画像に基づき、商品の容器の識別スコアを算出する。例えば、容器識別スコア算出部11は、第1の容器に第1の物を収容した第1の商品を含む処理対象画像に基づき、第1の容器の識別スコアを算出する。第1の容器の識別スコアは、「第1の容器と、予め登録されている複数の容器各々との類似度を示す値」、「第1の容器が、予め登録されている複数の容器各々である確信度を示す値」、「第1の容器が、予め登録されている複数の容器各々である信頼度を示す値」等である。
【0025】
容器識別スコア算出部11は、第1の容器の識別情報の候補と各候補の識別スコアとを対応付けた算出結果を生成する。容器識別スコア算出部11は、識別スコアが閾値以上の容器の識別情報を、上記候補としてもよい。
【0026】
容器識別スコア算出部11は、例えば、機械学習で生成された第1の推定モデルを用いて上記識別スコアの算出を実現することができる。具体的には、オペレータは、複数の容器各々の外観画像と各容器の識別情報とを対応付けた第1の教師データを多数生成する。なお、第1の教師データとする容器の外観画像は、容器のみを撮影した画像や、物を収容した容器を撮影した画像等を含んでもよい。そして、コンピュータが、第1の教師データに基づく機械学習を実行し、画像から容器の識別情報を推定する第1の推定モデルを生成する。なお、あらゆる機械学習の手法を採用できる(以下同様)。
【0027】
容器識別スコア算出部11は、このようにして生成された第1の推定モデルと、処理対象画像とに基づき、処理対象画像に含まれる第1の容器の識別情報の候補、及び、各候補の識別スコアを算出する。
【0028】
その他、容器識別スコア算出部11は、テンプレートマッチング技術等を用いて、処理対象画像内から容器の外観の特徴を検出する処理により、上記識別スコアの算出を実現してもよい。この場合、予め、複数の容器各々の識別情報と、各容器の外観の特徴量(色、形状、大きさ、模様等)とを対応付けた情報が処理装置10に記憶される。この場合、容器識別スコア算出部11は、識別スコアとして、SSD(Sum of Squared Difference)、SAD(Sum of Absolute Difference)、NCC(Normalized Cross-Correlation)等の類似度(テンプレートとの類似度)を算出することができる。
【0029】
商品識別スコア算出部12は、上記処理対象画像に基づき、商品の識別スコアを算出する。例えば、商品識別スコア算出部12は、第1の容器に第1の物を収容した第1の商品を含む処理対象画像に基づき、第1の商品の識別スコアを算出する。第1の商品の識別スコアは、「第1の商品と、予め登録されている複数の商品各々との類似度を示す値」、「第1の商品が、予め登録されている複数の商品各々である確信度を示す値」、「第1の商品が、予め登録されている複数の商品各々である信頼度を示す値」等である。
【0030】
商品識別スコア算出部12は、第1の商品の識別情報の候補と各候補の識別スコアとを対応付けた算出結果を生成する。商品識別スコア算出部12は、識別スコアが閾値以上の商品の識別情報を、上記候補としてもよい。
【0031】
商品識別スコア算出部12は、例えば、機械学習で生成された第2の推定モデルを用いて上記識別スコアの算出を実現することができる。具体的には、オペレータは、複数の商品各々の外観画像と各商品の識別情報とを対応付けた第2の教師データを多数生成する。なお、第2の教師データとする商品の外観画像は、物のみを撮影した画像や、容器に収容された物を撮影した画像等を含んでもよい。そして、コンピュータが、第2の教師データに基づく機械学習を実行し、画像から商品の識別情報を推定する第2の推定モデルを生成する。
【0032】
商品識別スコア算出部12は、このようにして生成された第2の推定モデルと、処理対象画像とに基づき、処理対象画像に含まれる第1の商品の識別情報の候補、及び、各候補の識別スコアを算出する。
【0033】
その他、商品識別スコア算出部12は、テンプレートマッチング技術等を用いて、処理対象画像内から商品の外観の特徴を検出する処理により、上記識別スコアの算出を実現してもよい。この場合、予め、複数の商品各々の識別情報と、各商品の外観の特徴量(色、形状、大きさ、模様等)とを対応付けた情報が処理装置10に記憶される。この場合、商品識別スコア算出部12は、識別スコアとして、SSD、SAD、NCC等の類似度(テンプレートとの類似度)を算出することができる。
【0034】
第1の識別部13は、容器識別スコア算出部11が算出した第1の容器の識別スコアと、商品識別スコア算出部12が算出した第1の商品の識別スコアと、容器情報とに基づき、第1の商品の識別情報を決定する。
【0035】
容器情報は、処理装置10が有する記憶装置に記憶されている。
図3に、容器情報の一例を模式的に示す。図示するように、容器情報は、商品の識別情報と各商品の容器の識別情報とを対応付けた情報である。上述の通り、1つの容器を複数の商品に併用することができる。このようにすれば、容器の種類を減らすことができ、容器の準備や管理等が容易になる。
【0036】
次に、第1の識別部13が、第1の容器の識別スコアと、第1の商品の識別スコアと、容器情報とに基づき第1の商品の識別情報を決定する処理を詳細に説明する。
【0037】
第1の識別部13は、商品の識別スコアが第1の基準値以上である第1の商品の識別情報の候補の中の、容器の識別スコアが第2の基準値以上の第1の容器の識別情報の候補に対応する第1の商品の識別情報を、第1の商品の識別情報として決定する。
図4を用いて、当該処理の具体例を説明する。
【0038】
図示するように、商品の中に「ライス普通盛」と「ライス大盛」が存在するものとする。これら2つの商品は、外観が互いに類似するため、互いに異なる容器に物を収容している。図示する「容器の推定結果」は容器識別スコア算出部11が生成した容器の識別スコアであり、「商品の推定結果」は商品識別スコア算出部12が生成した商品の識別スコアであり、「識別結果」は第1の識別部13が決定した識別内容である。また、上述した第1の基準値は例えば「85%」であり、上述した第2の基準値は例えば「90%」とする。
【0039】
ここでは、処理対象画像が「ライス普通盛」を含む場合について説明する。商品識別スコア算出部12による商品の識別スコア(商品の推定結果)を参照すると、識別スコアが第1の基準値(85%)以上である第1の商品の識別情報の候補の中には、「ライス普通盛」や「ライス大盛」等が含まれる。
【0040】
容器識別スコア算出部11による容器の識別スコア(容器の推定結果)を参照すると、識別スコアが第2の基準値(90%)以上である第1の容器の識別情報の候補は、「容器A」となる。
【0041】
第1の識別部13は、商品の識別スコアが第1の基準値(85%)以上である第1の商品の識別情報の候補(「ライス普通盛」や「ライス大盛」等)の中の、容器の識別スコアが第2の基準値(90%)以上である第1の容器の識別情報の候補(「容器A」)と容器情報(
図3参照)において対応付けられている「ライス普通盛」を、第1の商品の識別情報として決定する。
【0042】
次に、
図5のフローチャートを用いて、処理装置10の処理の流れの一例を説明する。
【0043】
まず、処理装置10は、第1の容器に第1の物を収容した第1の商品を含む処理対象画像を取得する(S10)。なお、本明細書において、「取得」とは、ユーザ入力に基づき、又は、プログラムの指示に基づき、「自装置が他の装置や記憶媒体に格納されているデータを取りに行くこと(能動的な取得)」、たとえば、他の装置にリクエストまたは問い合わせして受信すること、他の装置や記憶媒体にアクセスして読み出すこと等、および、ユーザ入力に基づき、又は、プログラムの指示に基づき、「自装置に他の装置から出力されるデータを入力すること(受動的な取得)」、たとえば、配信(または、送信、プッシュ通知等)されるデータを受信すること、また、受信したデータまたは情報の中から選択して取得すること、及び、「データを編集(テキスト化、データの並び替え、一部データの抽出、ファイル形式の変更等)などして新たなデータを生成し、当該新たなデータを取得すること」の少なくともいずれか一方を含む。
【0044】
その後、処理装置10は、処理対象画像に基づき第1の容器の識別スコアを算出する処理、及び、処理対象画像に基づき第1の商品の識別スコアを算出する処理を実行する(S11)。処理装置10は、第1の容器の識別スコアを算出する処理において、第1の容器の識別情報の候補と各候補の識別スコアとを対応付けた算出結果を生成する。そして、処理装置10は、第1の商品の識別スコアを算出する処理において、第1の商品の識別情報の候補と各候補の識別スコアとを対応付けた算出結果を生成する。これらの処理の具体例は上述の通りであるので、ここでの説明は省略する。なお、これら2つの処理の処理順は制限されない。
【0045】
次に、処理装置10は、S11で生成した「第1の容器の識別情報の候補と各候補の識別スコアとを対応付けた算出結果」及び「第1の商品の識別情報の候補と各候補の識別スコアとを対応付けた算出結果」と、予め保持している「商品の識別情報と各商品の容器の識別情報とを対応付けた容器情報(
図3参照)」に基づき、第1の商品の識別情報を決定する(S13)。
【0046】
具体的には、処理装置10は、識別スコアが第1の基準値以上である第1の商品の識別情報の候補の中の、識別スコアが第2の基準値以上の第1の容器の識別情報の候補と容器情報において対応付けられている第1の商品の識別情報の候補を、第1の商品の識別情報として決定する。
【0047】
次に、本実施形態の処理装置10の作用効果を説明する。本実施形態では、外観が互いに類似する複数の商品(「ライス普通盛」と「ライス大盛」等)が存在する場合、それらの容器を互いに異ならせる。そして、処理装置10は、画像解析で商品の識別情報を推定する処理に加えて、画像解析で容器の識別情報を推定する処理を行い、それら2つの推定結果に基づき処理対象画像に含まれる商品の識別情報を決定する。
【0048】
画像解析で商品の識別情報を推定する処理により、「処理対象画像に含まれる商品及び当該商品に外観が類似する商品を含む商品群」と「その他の商品群」とを識別することができる。そして、画像解析で容器の識別情報を推定する処理により、「処理対象画像に含まれる商品」と「当該商品に外観が類似する商品」とを識別することができる。このため、上記2つの推定結果を用いることで、「処理対象画像に含まれる商品」と「その他の商品」とを識別することができる。
【0049】
なお、上述の通り、画像解析で商品の識別情報を推定する処理により、「処理対象画像に含まれる商品」と「当該商品に外観が類似しない商品」との識別が実現されるため、画像解析で容器の識別情報を推定する処理においては、少なくとも「処理対象画像に含まれる商品」と「当該商品に外観が類似する商品」とを識別できればよい。すなわち、画像解析で容器の識別情報を推定する処理においては、「処理対象画像に含まれる商品」と「当該商品に外観が類似しない商品」とは識別できなくてもよい。このため、上述の通り、1つの容器を外観が互いに類似しない複数の商品に併用することができる。このようにすれば、容器の種類の数を減らすことができるので、容器の準備や管理等が容易になる。
【0050】
<第2の実施形態>
本実施形態の処理装置10は、容器識別スコア算出部11の算出結果と商品識別スコア算出部12の算出結果に基づき処理対象画像に含まれる第1の商品の識別情報を決定する第1の識別部13の処理の内容が、第1の実施形態と異なる。本実施形態の処理装置10のその他の構成は、第1の実施形態と同様である。以下、異なる点を説明する。なお、本実施形態の前提事項は、第1の実施形態と同様である。
【0051】
第1の識別部13は、容器識別スコア算出部11の算出結果(容器の識別スコア)及び容器情報(
図3参照)に基づき、第1の商品の識別情報の候補を決定する。具体的には、第1の識別部13は、識別スコアが第2の基準値以上の第1の容器の識別情報の候補と容器情報において対応付けられている商品の識別情報を、第1の商品の識別情報の候補として決定する。
図4を用いて、当該処理の具体例を説明する。なお、第2の基準値は例えば「90%」とする。
【0052】
ここでは、処理対象画像が「ライス大盛」を含む場合について説明する。容器識別スコア算出部11の算出結果(容器の推定結果)を参照すると、識別スコアが第2の基準値(90%)以上である第1の容器の識別情報の候補は、「容器B」となる。そこで、第1の識別部13は、識別スコアが第2の基準値(90%)以上である第1の容器の識別情報の候補(「容器B」)と容器情報(
図3参照)において対応付けられている商品の識別情報(「ライス大盛」、「コンソメスープ」等)を、第1の商品の識別情報の候補として決定する。
【0053】
上述のようにして第1の商品の識別情報の候補を決定した後、第1の識別部13は、決定した第1の商品の識別情報の候補を照合対象として、商品識別スコア算出部12に第1の商品の識別スコアを算出する処理を実行させる。
【0054】
第1の実施形態同様、例えば、商品識別スコア算出部12は、機械学習で生成された第2の推定モデルを用いて上記識別スコアの算出を実現することができる。具体的には、オペレータは、複数の商品各々の外観画像と各商品の識別情報とを対応付けた第2の教師データを多数生成する。なお、第2の教師データとする商品の外観画像は、物のみを撮影した画像や、物を収容した容器を撮影した画像等を含んでもよい。そして、コンピュータが、第2の教師データに基づく機械学習を実行し、画像から商品の識別情報を推定する第2の推定モデルを生成する。
【0055】
なお、コンピュータは、容器が同一である商品群毎に上記教師データに基づく機械学習を実行し、容器が同一である商品群毎に上記第2の推定モデルを生成することができる。そして、商品識別スコア算出部12は、識別スコアが第2の基準値以上の第1の容器の識別情報の候補に対応した上記第2の推定モデルと、処理対象画像とに基づき、上記識別スコアの算出を実行することができる。
【0056】
その他、商品識別スコア算出部12は、第1の実施形態同様、テンプレートマッチング技術等を用いて、処理対象画像内から商品の外観の特徴を検出する処理により、上記識別スコアの算出を実現してもよい。この場合、商品識別スコア算出部12は、第1の識別部13により決定された第1の商品の識別情報の候補のテンプレートのみを用いたテンプレートマッチング技術等により、上記識別スコアの算出を実行することができる。
【0057】
次に、
図6のフローチャートを用いて、処理装置10の処理の流れの一例を説明する。
【0058】
まず、処理装置10は、第1の容器に第1の物を収容した第1の商品を含む処理対象画像を取得する(S20)。
【0059】
次に、処理装置10は、処理対象画像に基づき第1の容器の識別スコアを算出する(S21)。当該処理の具体例は第1の実施形態で説明したので、ここでの説明は省略する。
【0060】
次に、処理装置10は、S21で算出した識別スコア及び予め保持している容器情報(
図3参照)に基づき、第1の商品の識別情報の候補を決定する(S22)。具体的には、処理装置10は、識別スコアが第2の基準値以上の第1の容器の識別情報の候補と容器情報において対応付けられている商品の識別情報を、第1の商品の識別情報の候補として決定する。当該処理の具体例は上述の通りであるので、ここでの説明は省略する。
【0061】
次に、処理装置10は、S22で決定した第1の商品の識別情報の候補を照合対象として、第1の商品の識別スコアを算出する処理を実行する(S23)。当該処理の具体例は上述の通りであるので、ここでの説明は省略する。
【0062】
そして、処理装置10は、S23の算出結果に基づき、処理対象画像に含まれる第1の商品の識別情報を決定する(S24)。例えば、処理装置10は、識別スコアが第1の基準値以上である第1の商品の識別情報の候補を、処理対象画像に含まれる第1の商品の識別情報として決定する。
【0063】
以上説明した本実施形態の処理装置10によれば、第1の実施形態と同様の作用効果が実現される。また、容器の推定結果に基づき照合対象とする商品を絞り込んだのちに、商品の識別情報を推定する処理を実行するので、推定精度の向上が期待される。
【0064】
<第3の実施形態>
本実施形態の処理装置10は、画像に基づき複数の商品の外観の類似度を算出し、算出結果に基づき各商品の容器を提案する(例:外観が互いに類似する商品は異なる容器となるように提案する)機能を有する。なお、本実施形態の前提事項は、第1及び第2の実施形態と同様である。以下、詳細に説明する。
【0065】
本実施形態の処理装置10のハードウエア構成の一例は、第1及び第2の実施形態と同様である。
【0066】
図7に、本実施形態の処理装置10の機能ブロック図の一例を示す。図示するように、処理装置10は、類似度算出部14と、提案部15とを有する。なお、処理装置10は、容器識別スコア算出部11、商品識別スコア算出部12及び第1の識別部13をさらに有してもよい。容器識別スコア算出部11、商品識別スコア算出部12及び第1の識別部13の構成は、第1又は第2の実施形態と同様であるので、ここでの説明は省略する。
【0067】
類似度算出部14は、商品の識別情報に対応する容器画像と、商品の識別情報に対応しない容器画像とに基づき、商品の識別情報に対応する容器画像と商品の識別情報に対応しない容器画像の類似度を算出する。
【0068】
「商品の識別情報に対応する容器画像」は、容器情報(
図3参照)に識別情報が登録されている登録済商品(第2の商品)の画像である。「商品の識別情報に対応する容器画像」は、容器情報に識別情報が登録されていない対象商品(第3の商品)の画像である。
【0069】
本実施形態では、処理装置10が有する記憶装置に、登録済商品各々の画像が記憶されている。そして、類似度算出部14は、対象商品の画像を取得すると、登録済商品各々の画像と対象商品の画像とに基づき、登録済商品各々と対象商品の外観の類似度を算出する。類似度を算出する手段は特段制限されず、あらゆる技術を採用できる。
【0070】
提案部15は、類似度算出部14が算出した類似度と、容器情報(
図3参照)とに基づき、対象商品の容器を提案する。具体的には、提案部15は、対象商品との類似度が第4の基準値以上である登録済商品と異なる容器を、対象商品の容器として提案する。
【0071】
次に、
図8のフローチャートを用いて、処理装置10の処理の流れの一例を説明する。
【0072】
まず、処理装置10は、対象商品を含む画像を取得する(S30)。次いで、処理装置10は、容器情報(
図3参照)に識別情報が登録されている登録済商品各々の画像と対象商品の画像とに基づき、登録済商品各々と対象商品の外観の類似度を算出する(S31)。
【0073】
次いで、処理装置10は、対象商品との類似度が第4の基準値以上である登録済商品を抽出する(S32)。
【0074】
S32で少なくとも1つの登録済商品が抽出された場合(S33のYes)、処理装置10は、容器情報(
図3参照)を参照し、抽出された登録済商品と異なる容器を対象商品の容器として提案する(S34)。
【0075】
一方、S32で登録済商品が1つも抽出されなかった場合(S33のNo)、処理装置10は、例えば、いずれの容器も対象商品の容器として使用できることを提案する(S35)。
【0076】
以上説明した本実施形態の処理装置10によれば、外観が互いに類似する商品群を画像解析で精度よく識別できるように、各商品の容器を提案することができる。結果、第1及び第2の実施形態で説明した手法で、外観が互いに類似する商品群を画像解析で精度よく識別できるようになる。
【0077】
また、本実施形態の処理装置10は、第1及び第2の実施形態の処理装置10と同様の構成を有する場合、第1及び第2の実施形態の処理装置10と同様の作用効果を実現できる。
【0078】
<第4の実施形態>
本実施形態では、第1の実施形態で説明した前提事項が存在してもよいし、存在しなくてもよい。
【0079】
次に、本実施形態の処理装置10の概要を説明する。処理装置10は、第4の商品を含む処理対象画像に基づき、第4の商品の形状、色及び大きさの中の少なくとも1つである外観特徴を特定する。また、処理装置10は、上記処理対象画像に基づき、第4の商品の識別情報を推定する。そして、処理装置10は、外観特徴の特定結果、第4の商品の識別情報の推定結果、及び、商品の識別情報と各商品の外観特徴とを対応付けた商品特徴情報に基づき、第4の商品の識別情報を決定する。
【0080】
本実施形態の処理装置10のハードウエア構成の一例は、第1乃至第3の実施形態と同様である。
【0081】
図9に、本実施形態の処理装置10の機能ブロック図の一例を示す。図示するように、処理装置10は、特定部16と、商品推定部17と、第2の識別部18とを有する。なお、処理装置10は、容器識別スコア算出部11、商品識別スコア算出部12及び第1の識別部13を有してもよい。また、処理装置10は、類似度算出部14及び提案部15を有してもよい。容器識別スコア算出部11、商品識別スコア算出部12、第1の識別部13、類似度算出部14及び提案部15の構成は、第1乃至第3の実施形態と同様であるので、ここでの説明は省略する。
【0082】
特定部16は、第4の商品を含む処理対象画像に基づき、第4の商品の形状、色及び大きさの中の少なくとも1つである外観特徴を特定する。このような外観特徴を特定する手段は設計的事項であり、あらゆる技術を採用できる。なお、特定する形状は、画像に現れている商品の平面形状(2次元形状)であってもよいし、画像に現れている商品の所定の面の平面形状(2次元形状)であってもよいし、その他であってもよい。
【0083】
商品推定部17は、処理対象画像に基づき、第4の商品の識別情報を推定する。商品推定部17は、第4の商品の識別情報の候補と各候補の識別スコアとを対応付けた算出結果を生成する。商品推定部17は、商品識別スコア算出部12が処理対象画像に基づき第1の商品の識別スコアを算出する処理と同様の処理で、上記算出を実現する。
【0084】
第2の識別部18は、特定部16の特定結果、商品推定部17の算出結果、及び、商品特徴情報に基づき、第4の商品の識別情報を決定する。
【0085】
商品特徴情報は、処理装置10が有する記憶装置に記憶されている。
図10に、商品特徴情報の一例を模式的に示す。図示するように、商品特徴情報は、商品の識別情報と各商品の外観特徴とを対応付けた情報である。図示する例では、外観特徴の一例として形状が示されているが、外観特徴は、色、大きさ等その他であってもよい。
【0086】
次に、第2の識別部18が、特定部16の特定結果、商品推定部17の推定結果、及び、上記商品特徴情報に基づき第4の商品の識別情報を決定する処理を詳細に説明する。
【0087】
第2の識別部18は、識別スコアが第3の基準値以上である第4の商品の識別情報の候補の中の、特定部16が特定した外観特徴と商品特徴情報において対応付けられている第4の商品の識別情報の候補を、第4の商品の識別情報として決定する。
図11を用いて、当該処理の具体例を説明する。
【0088】
図示するように、商品の中に「紅茶の王様(ティーバッグ)」と「紅茶の王様(粉末)」が存在するものとする。これら2つは同じブランドの商品であり、パッケージのデザインが互いに同一又は類似する。図示する「形状の特定結果」は特定部16が生成した特定結果であり、「商品の推定結果」は商品推定部17が生成した算出結果であり、「識別結果」は第2の識別部18が決定した識別内容である。また、上述した第3の基準値は例えば「85%」とする。
【0089】
ここでは、処理対象画像が「紅茶の王様(ティーバッグ)」を含む場合について説明する。商品推定部17の算出結果(商品の推定結果)を参照すると、識別スコアが第3の基準値(85%)以上である第4の商品の識別情報の候補の中には、「紅茶の王様(ティーバッグ)」や「紅茶の王様(粉末)」等が含まれる。
【0090】
特定部16の特定結果(形状の特定結果)を参照すると、第4の商品の形状として「四角」が特定されている。
【0091】
第2の識別部18は、識別スコアが第3の基準値(85%)以上である第4の商品の識別情報の候補(「紅茶の王様(ティーバッグ)」や「紅茶の王様(粉末)」等)の中の、特定部16が特定した外観特徴である「四角」と商品特徴情報(
図10参照)において対応付けられている「紅茶の王様(ティーバッグ)」を、第4の商品の識別情報として決定する。
【0092】
次に、
図12のフローチャートを用いて、処理装置10の処理の流れの一例を説明する。
【0093】
まず、処理装置10は、第4の商品を含む処理対象画像を取得する(S40)。
【0094】
次に、処理装置10は、処理対象画像に基づき第4の商品の外観特徴(形状、色及び大きさの中の少なくとも1つ)を特定する処理、及び、処理対象画像に基づき第4の商品の識別スコアを算出する処理を実行する(S41)。処理装置10は、第4の商品の識別スコアを算出する処理において、第4の商品の識別情報の候補と各候補の識別スコアとを対応付けた算出結果を生成する。なお、これら2つの処理の処理順は制限されない。
【0095】
次に、処理装置10は、S41で生成した「第4の商品の外観特徴の特定結果」及び「第4の商品の識別情報の候補と各候補の識別スコアとを対応付けた算出結果」と、予め保持している「商品の識別情報と各商品の外観特徴とを対応付けた商品特徴情報(
図10参照)」に基づき、第4の商品の識別情報を決定する(S42)。
【0096】
具体的には、処理装置10は、識別スコアが第3の基準値以上である第4の商品の識別情報の候補の中の、特定部16が特定した外観特徴と商品特徴情報において対応付けられている第4の商品の識別情報の候補を、第4の商品の識別情報として決定する。
【0097】
次に、本実施形態の処理装置10の作用効果を説明する。本実施形態の処理装置10は、画像解析で商品の識別情報を推定する処理に加えて、画像解析で商品の外観特徴(形状、色及び大きさの中の少なくとも1つ)を特定する処理を行い、当該推定結果と当該特定結果の2つに基づき処理対象画像に含まれる商品の識別情報を決定する。
【0098】
画像解析で商品の識別情報を推定する処理により、「処理対象画像に含まれる商品及び当該商品に外観が類似する商品を含む商品群」と「その他の商品群」とを識別することができる。そして、画像解析で商品の外観特徴を特定する処理により、「処理対象画像に含まれる商品」と「当該商品に外観が類似する商品」とを識別できる場合がある。このため、当該推定結果と当該特定結果の2つを用いることで、「処理対象画像に含まれる商品」と「その他の商品」とを識別し易くなる。結果、外観が互いに類似する商品群を画像解析で精度よく識別できるようになる。
【0099】
また、本実施形態の処理装置10は、第1乃至第3の実施形態の処理装置10と同様の構成を有する場合、第1乃至第3の実施形態の処理装置10と同様の作用効果を実現できる。
【0100】
<第5の実施形態>
本実施形態の処理装置10は、特定部16の特定結果と商品推定部17の算出結果に基づき処理対象画像に含まれる第4の商品の識別情報を決定する第2の識別部18の処理の内容が、第4の実施形態と異なる。本実施形態の処理装置10のその他の構成は、第4の実施形態と同様である。以下、異なる点を説明する。なお、本実施形態の前提事項は、第4の実施形態と同様である。
【0101】
第2の識別部18は、特定部16の特定結果及び商品特徴情報(
図10参照)に基づき、第4の商品の識別情報の候補を決定する。具体的には、第2の識別部18は、特定部16が特定した外観特徴と商品特徴情報において対応付けられている商品の識別情報を、第4の商品の識別情報の候補として決定する。
図10を用いて、当該処理の具体例を説明する。
【0102】
ここでは、処理対象画像が「紅茶の王様(粉末)」を含む場合について説明する。特定部16の特定結果(形状の特定結果)を参照すると、第4の商品の形状として「丸」が特定されている。そこで、第2の識別部18は、商品特徴情報(
図10参照)において形状「丸」と対応付けられている商品の識別情報(「紅茶の王様(粉末)」、「ピザーノ」等)を、第4の商品の識別情報の候補として決定する。
【0103】
上述のようにして第4の商品の識別情報の候補を決定した後、第2の識別部18は、決定した第4の商品の識別情報の候補を照合対象として、商品推定部17に第4の商品の識別スコアを算出する処理を実行させる。商品推定部17による当該処理は、第2の実施形態で説明した商品識別スコア算出部12による推定処理と同様である。
【0104】
次に、
図13のフローチャートを用いて、処理装置10の処理の流れの一例を説明する。
【0105】
まず、処理装置10は、第4の商品を含む処理対象画像を取得する(S50)。
【0106】
次に、処理装置10は、処理対象画像に基づき第4の商品の外観特徴(形状、色及び大きさの中の少なくとも1つ)を特定する(S51)。
【0107】
次に、処理装置10は、S51の特定結果及び予め保持している商品特徴情報(
図10参照)に基づき、第4の商品の識別情報の候補を決定する(S52)。具体的には、処理装置10は、特定部16が特定した外観特徴と商品特徴情報において対応付けられている商品の識別情報を、第4の商品の識別情報の候補として決定する。当該処理の具体例は上述の通りであるので、ここでの説明は省略する。
【0108】
次に、処理装置10は、S52で決定した第4の商品の識別情報の候補を照合対象として、第4の商品の識別スコアを算出する処理を実行する(S53)。当該処理の具体例は上述の通りであるので、ここでの説明は省略する。
【0109】
そして、処理装置10は、S53の算出結果に基づき、処理対象画像に含まれる第4の商品の識別情報を決定する(S54)。例えば、処理装置10は、識別スコアが第3の基準値以上である第4の商品の識別情報の候補を、処理対象画像に含まれる第4の商品の識別情報として決定する。
【0110】
以上説明した本実施形態の処理装置10によれば、第4の実施形態と同様の作用効果が実現される。また、商品の外観特徴の特定結果に基づき照合対象とする商品を絞り込んだのちに、商品の識別情報を推定する処理を実行するので、推定精度の向上が期待される。
【0111】
<第6の実施形態>
本実施形態の処理装置10は、店舗等に設置されたカメラ及び会計装置と連動して使用される。
図14に、本実施形態の会計システムの機能ブロック図の一例を示す。図示するように、会計システムは、処理装置10と、カメラ20と、会計装置30(例:POS(point of sales)システム)とを有する。処理装置10とカメラ20は、有線及び/又は無線で通信する。また、処理装置10と会計装置30は、有線及び/又は無線で通信する。
【0112】
図15に、カメラ20の設置例を示す。図示する例では、台23の上に商品を載置する載置エリア22が設けられている。会計対象の商品が載置エリア22に載置される。カメラ20は、支柱21に接続されている。カメラ20は、載置エリア22を撮影する位置及び向きに設置されている。すなわち、カメラ20は、載置エリア22に載置された商品を上方から撮影する位置及び向きに設置されている。カメラ20は、生成した画像データを処理装置10に送信する。なお、複数のカメラ20が設置されてもよい。この場合、少なくとも1つのカメラ20は、台23に設置され、商品を横から撮影してもよい。
【0113】
処理装置10は、カメラ20が生成した画像データを取得する。そして、処理装置10は、取得した画像データに基づき第1乃至第5の実施形態の中のいずれかで説明した処理を実行し、画像に含まれる商品(第1の商品又は第4の商品)の識別情報を決定する。次いで、処理装置10は、決定した商品の識別情報を会計装置30に送信する。
【0114】
会計装置30は、処理装置10から受信した情報に基づき、会計処理を実行する。
図16のフローチャートを用いて、会計装置30の処理の流れの一例を説明する。
【0115】
会計装置30は、商品の識別情報待ち状態となっている(S60)。会計装置30は、処理装置10から商品の識別情報を取得すると(S60のYes)、その商品を会計対象として登録する(S61)。例えば、会計装置30は、予め店舗システム等に登録されている商品マスタを参照し、取得した商品の識別情報に対応付けられた商品情報(例:単価、商品名等)を取得し、取得した商品情報を会計対象として登録する。
【0116】
少なくとも1つの商品が会計対象として登録されると、会計装置30は、精算処理を開始する入力待ち状態(S62)、及び、商品の識別情報待ち状態となる(S60)。
【0117】
そして、精算処理を開始するユーザ入力(商品登録完了を示す入力)を受付けると(S62のYes)、会計装置30は精算処理を実行する(S63)。S62の入力は、物理ボタン、タッチパネル、マイク等の任意の入力装置を介して実現される。精算処理では、例えば、会計装置30は決済方法を選択するユーザ入力を受付ける。決済方法は、現金、クレジットカード決済、電子マネー決済、生体(顔、光彩、指紋、静脈など)認証を用いた決済等が例示されるが、これらに限定されない。そして、会計装置30は、顧客により選択された決済方法での決済を実行する。例えば、会計装置30は、登録されている商品に基づき算出された支払合計金額の支払いとして、現金の入力を受付け、必要に応じて釣銭の出力やレシートの出力を行ってもよい。また、会計装置30は、クレジットカード情報の入力を受付け、クレジット会社のシステムと通信し、決済処理を行ってもよい。また、会計装置30は、精算処理のための情報(登録された商品を示す情報、支払合計金額等)を他の精算装置に送信してもよい。また、会計装置30は、顧客から預かった預かり金額の入力を受付けたり、それに基づき釣銭額を算出してディスプレイに表示したり、算出した釣銭を払い出したりしてもよい。また、会計装置30は、会計内容を示す電子レシートを外部装置に送信してもよい。例えば、会計装置30は、近距離無線通信で顧客端末に電子レシートを送信してもよい。その他、会計装置30は、会計内容を示す情報を店舗サーバに送信してもよい。そして、店舗サーバは、会計内容を示す電子レシートを所定のサーバに送信してもよい。精算処理が終了すると、会計装置30は、再び商品の識別情報待ち状態となる(S60)。
【0118】
以上説明した本実施形態の会計システムによれば、第1乃至第5の実施形態と同様な作用効果が実現される。また、処理装置10は、外観が互いに類似する商品群を画像解析で精度よく識別できるので、会計対象として商品を登録する処理に要する人手を減らすことができる。
【0119】
以上、実施形態(及び実施例)を参照して本願発明を説明したが、本願発明は上記実施形態(及び実施例)に限定されるものではない。例えば、上記複数の実施形態(及び実施例)を任意の組合せで組み合わせることができる。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
【0120】
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限定されない。
1. 商品を含む処理対象画像に基づき、前記商品の容器の識別スコアを算出する容器識別スコア算出手段と、
前記処理対象画像に基づき、前記商品の識別スコアを算出する商品識別スコア算出手段と、
算出された前記容器の識別スコアと前記商品の識別スコアとに基づき、前記商品の識別情報を決定する第1の識別手段と、
を有する処理装置。
2. 1に記載の処理装置において、
前記第1の識別手段は、前記商品の識別スコアが第1の基準値以上である前記商品の識別情報の候補の中の、前記容器の識別スコアが第2の基準値以上の前記容器の識別情報の候補に対応する商品の識別情報を前記商品の識別情報として決定する処理装置。
3. 1に記載の処理装置において、
前記第1の識別手段は、前記容器の識別スコアに基づき、前記商品の識別情報の候補を決定し、
前記商品識別スコア算出手段は、決定した前記商品の識別情報の候補各々の前記識別スコアを算出する処理装置。
4. 1から3のいずれかに記載の処理装置において、
前記商品の識別情報に対応する容器画像と、前記商品の識別情報に対応しない容器画像とに基づき、前記識別情報に対応する容器画像と前記識別情報に対応しない容器画像の類似度を算出する類似度算出手段と、
前記類似度に基づき、前記商品の識別情報に対応しない商品の容器を提案する提案手段と、
を有する処理装置。
5. コンピュータが、
商品を含む処理対象画像に基づき、前記商品の容器の識別スコアを算出する容器識別スコア算出工程と、
前記処理対象画像に基づき、前記商品の識別スコアを算出する商品識別スコア算出工程と、
算出された前記容器の識別スコアと前記商品の識別スコアとに基づき、前記商品の識別情報を決定する第1の識別工程と、
を実行する処理方法。
6. コンピュータを、
商品を含む処理対象画像に基づき、前記商品の容器の識別スコアを算出する容器識別スコア算出手段、
前記処理対象画像に基づき、前記商品の識別スコアを算出する商品識別スコア算出手段、
算出された前記容器の識別スコアと前記商品の識別スコアとに基づき、前記商品の識別情報を決定する第1の識別手段、
として機能させるプログラム。
7. 商品を含む処理対象画像に基づき、前記商品の形状、色及び大きさの中の少なくとも1つである外観特徴を特定する特定手段と、
前記処理対象画像に基づき、前記商品の識別情報を推定する商品推定手段と、
特定した前記外観特徴と、推定した前記商品の識別情報とに基づき、前記商品の識別情報を決定する第2の識別手段と、
を有する処理装置。
8. 7に記載の処理装置において、
前記第2の識別手段は、識別スコアが基準値以上である前記商品の識別情報の候補の中から、前記特定手段が特定した前記外観特徴に基づいて、前記商品の識別情報を決定する処理装置。
9. 7に記載の処理装置において、
前記第2の識別手段は、前記特定手段が特定した前記外観特徴に基づき、前記商品の識別情報の候補を決定し、決定した前記商品の識別情報の候補を照合対象として、前記商品推定手段に前記商品の識別情報を推定する処理を実行させる処理装置。
10. コンピュータが、
商品を含む処理対象画像に基づき、前記商品の形状、色及び大きさの中の少なくとも1つである外観特徴を特定する特定工程と、
前記処理対象画像に基づき、前記商品の識別情報を推定する商品推定工程と、
特定した前記外観特徴と、推定した前記商品の識別情報とに基づき、前記商品の識別情報を決定する第2の識別工程と、
を実行する処理方法。
11. コンピュータを、
商品を含む処理対象画像に基づき、前記商品の形状、色及び大きさの中の少なくとも1つである外観特徴を特定する特定手段、
前記処理対象画像に基づき、前記商品の識別情報を推定する商品推定手段、
特定した前記外観特徴と、推定した前記商品の識別情報とに基づき、前記商品の識別情報を決定する第2の識別手段、
として機能させるプログラム。