IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 京セラ株式会社の特許一覧

<>
  • 特開-情報処理装置及び情報処理方法 図1
  • 特開-情報処理装置及び情報処理方法 図2
  • 特開-情報処理装置及び情報処理方法 図3
  • 特開-情報処理装置及び情報処理方法 図4
  • 特開-情報処理装置及び情報処理方法 図5
  • 特開-情報処理装置及び情報処理方法 図6
  • 特開-情報処理装置及び情報処理方法 図7
  • 特開-情報処理装置及び情報処理方法 図8
  • 特開-情報処理装置及び情報処理方法 図9
  • 特開-情報処理装置及び情報処理方法 図10
  • 特開-情報処理装置及び情報処理方法 図11
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024081061
(43)【公開日】2024-06-17
(54)【発明の名称】情報処理装置及び情報処理方法
(51)【国際特許分類】
   G07G 1/01 20060101AFI20240610BHJP
   G07G 1/00 20060101ALI20240610BHJP
【FI】
G07G1/01 301D
G07G1/00 311E
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2022194500
(22)【出願日】2022-12-05
(71)【出願人】
【識別番号】000006633
【氏名又は名称】京セラ株式会社
(74)【代理人】
【識別番号】100147485
【弁理士】
【氏名又は名称】杉村 憲司
(74)【代理人】
【識別番号】230118913
【弁護士】
【氏名又は名称】杉村 光嗣
(74)【代理人】
【識別番号】100132045
【弁理士】
【氏名又は名称】坪内 伸
(74)【代理人】
【識別番号】100203264
【弁理士】
【氏名又は名称】塩川 未久
(72)【発明者】
【氏名】戴 暁艶
(72)【発明者】
【氏名】謝 依珊
(72)【発明者】
【氏名】谷本 寛樹
【テーマコード(参考)】
3E142
【Fターム(参考)】
3E142AA01
3E142AA03
3E142CA12
3E142DA08
3E142EA02
3E142GA02
3E142GA41
(57)【要約】
【課題】改善された、撮像画像から識別子を検出するための技術を提供する。
【解決手段】情報処理装置は、制御部を備える。制御部は、撮像装置が物体を撮像した撮像画像に含まれる物体の画像から物体の属性を取得するための識別子が検出されない場合、報知情報を出力装置に出力させる。
【選択図】図3
【特許請求の範囲】
【請求項1】
撮像装置が物体を撮像した撮像画像に含まれる前記物体の画像から前記物体の属性を取得するための識別子が検出されない場合、報知情報を出力装置に出力させる制御部を備える、情報処理装置。
【請求項2】
前記制御部は、
前記撮像画像から前記物体に対応する第1部分画像及び前記識別子に対応する第2部分画像を検出し、
前記第1部分画像と前記第2部分画像との間の包含関係の有無に基づいて、前記報知情報を前記出力装置に出力させる、請求項1に記載の情報処理装置。
【請求項3】
前記制御部は、
前記第1部分画像に包含される前記第2部分画像が検出されない場合、前記第2部分画像が検出されない前記物体を報知する前記報知情報を前記出力装置に出力させる、請求項2に記載の情報処理装置。
【請求項4】
前記制御部は、
前記物体の個数が検出された前記識別子の個数と一致しない場合、前記報知情報を前記出力装置に出力させる、請求項1に記載の情報処理装置。
【請求項5】
前記制御部は、
前記撮像画像から前記物体に対応する第1部分画像及び前記識別子に対応する第2部分画像を検出し、
検出した前記物体の個数と前記識別子の個数とが一致し、前記第2部分画像を含まない前記第1部分画像を検出した場合、前記報知情報を前記出力装置に出力させる、請求項1に記載の情報処理装置。
【請求項6】
前記出力装置は、表示装置であり、
前記制御部は、前記物体に対応する第1部分画像及び前記識別子に対応する第2部分画像を強調表示する処理を施した前記撮像画像を、前記表示装置に表示させる、請求項1に記載の情報処理装置。
【請求項7】
前記出力装置は、表示装置であり、
前記制御部は、識別子が検出されない物体に対応する第1部分画像を強調表示する処理が施された前記撮像画像を、前記表示装置に表示させる、請求項1に記載の情報処理装置。
【請求項8】
撮像装置が物体を撮像した撮像画像に含まれる前記物体の画像から前記物体の属性を取得するための識別子を検出することと、
前記識別子が検出されない場合、報知情報を出力装置に出力させることと、を含む、情報処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理装置及び情報処理方法に関する。
【背景技術】
【0002】
従来、商品代金の精算処理のために、物体を撮像装置等によって撮像し、物体が何れの商品であるかを認識する技術が知られている。例えば、特許文献1に記載のセルフレジ端末は、バックスケール上に置かれた商品をカメラで撮影して、撮影された商品と登録された登録商品とが一致するか否かを判定する。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2015-153224号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
商品には、バーコード等の識別子が付されている。撮像画像から識別子を検出するための技術を改善することができれば、有益である。
【0005】
かかる点に鑑みてなされた本開示の目的は、改善された、撮像画像から識別子を検出するための技術を提供することにある。
【課題を解決するための手段】
【0006】
本開示の一実施形態に係る情報処理装置は、
撮像装置が物体を撮像した撮像画像に含まれる前記物体の画像から前記物体の属性を取得するための識別子が検出されない場合、報知情報を出力装置に出力させる制御部を備える。
【0007】
本開示の一実施形態に係る情報処理方法は、
撮像装置が物体を撮像した撮像画像に含まれる前記物体の画像から前記物体の属性を取得するための識別子を検出することと、
前記識別子が検出されない場合、報知情報を出力装置に出力させることと、を含む。
【発明の効果】
【0008】
本開示の一実施形態によれば、改善された、撮像画像から識別子を検出するための技術を提供することができる。
【図面の簡単な説明】
【0009】
図1】本開示の一実施形態に係る精算システムの概略構成を示す図である。
図2図1に示す情報処理システムの概略構成を示す図である。
図3図2に示す情報処理装置のブロック図である。
図4】撮像画像の一例を示す図である。
図5】表示装置に表示される画像の一例を示す図である。
図6】表示装置に表示される画像の一例を示す図である。
図7】本開示の一実施形態に係る情報処理方法の手順を示すフローチャートである。
図8】撮像画像の一例を示す図である。
図9】本開示の他の実施形態に係る情報処理方法の手順を示すフローチャートである。
図10】本開示のさらに他の実施形態に係る情報処理方法の手順を示すフローチャートである。
図11】本開示のさらに他の実施形態に係る情報処理方法の手順を示すフローチャートである。
【発明を実施するための形態】
【0010】
以下、本開示に係る実施形態について、図面を参照して説明する。
【0011】
図1に示すような精算システム1は、POS(Point Of Sales)システムとして構成される。精算システム1は、少なくとも1つの情報処理システム3と、サーバ4とを含んで構成される。本実施形態では、精算システム1は、複数の情報処理システム3を含んで構成される。
【0012】
情報処理システム3とサーバ4とは、ネットワーク2を介して通信可能である。ネットワーク2は、インターネット等を含む任意のネットワークであってよい。
【0013】
情報処理システム3は、任意の店舗に設けられてよい。例えば、情報処理システム3は、コンビニエンスストア、スーパーマーケット又はレストラン等に設けられる。
【0014】
情報処理システム3は、無人レジとして構成される。無人レジは、セルフレジとも称される。無人レジは、店舗の従業員ではなく店舗の顧客がレジに対する一連の操作を行うレジである。例えば、情報処理システム3では、店舗の顧客が購入したい商品を後述の図2に示すような載置台10に配置する。情報処理システム3は、顧客が配置した商品を撮像する。商品(物体)には、商品を識別するための識別子が付されている。識別子は、商品の属性を取得するための識別子である。商品の属性は、例えば、商品名及び価格の情報を含む。本実施形態では、識別子は、1次元のバーコードであるものとする。ただし、識別子は、1次元のバーコードに限定されない。情報処理システム3は、撮像して生成した撮像画像に対してバーコードを検出する処理等を実行することにより、店舗の顧客に対して請求する商品の合計金額を算出することができる。
【0015】
情報処理システム3は、POSシステムのレジとして構成される。情報処理システム3は、商品の合計金額等の処理結果を、ネットワーク2を介してサーバ4に送信する。
【0016】
サーバ4は、ネットワーク2を介して情報処理システム3から、情報処理システム3の処理結果を受信する。サーバ4は、受信した処理結果に基づいて、情報処理システム3が設けられた店舗の在庫状況等を管理する。
【0017】
図2に示すように、情報処理システム3は、撮像部12(撮像装置)と、表示装置13(出力装置)と、情報処理装置20とを含んで構成される。情報処理システム3は、載置台10と、支持柱11とをさらに含んで構成されてもよい。
【0018】
載置台10は、上面10sを含む。顧客は、購入したい商品を上面10sに載置する。顧客は、情報処理システム3のユーザとなる。本実施形態では、上面10sは、略長方形状である。ただし、上面10sは、任意の形状であってよい。
【0019】
支持柱11は、撮像部12を支持する。支持柱11は、載置台10の側部から上面10sの上方に向けて延びる。ただし、撮像部12を支持する方法は、支持柱11に限定されない。撮像部12は、任意の方法で、載置台10の上面10sの少なくとも一部を撮像可能に支持されてよい。
【0020】
撮像部12は、撮像により画像に相当する画像信号を生成可能である。撮像部12は、載置台10の表面の少なくとも一部例えば上面10sの少なくとも一部を、撮像可能に固定されている。撮像部12は、上面10sに光軸が垂直になるように、固定されてよい。例えば、撮像部12は、載置台10の上面10sの全面を撮像可能であり、且つ撮像部12の光軸が上面10sに垂直になるように、固定されている。撮像部12は、支持柱11の先端に、固定されてよい。撮像部12は、任意のフレームレートで連続的に撮像を実行してよい。
【0021】
表示装置13は、任意のディスプレイであってよい。表示装置13は、情報処理装置20から送信される画像信号に相当する画像を表示する。表示装置13は、タッチスクリーンとして機能してよい。
【0022】
図3に示すように、情報処理装置20は、通信部21と、入力部22と、記憶部23と、制御部24とを含んで構成される。
【0023】
通信部21は、ネットワーク2に接続可能な少なくとも1つの通信モジュールを含む。通信モジュールは、例えば、有線LAN(Local Area Network)又は無線LAN等の規格に対応した通信モジュールである。通信部21は、この通信モジュールによって有線LAN又は無線LANを介して、ネットワーク2に接続される。
【0024】
通信部21は、通信線を介して撮像部12及び表示装置13と通信可能な通信モジュールを含む。通信モジュールは、通信線の規格に対応した通信モジュールである。通信線は、有線及び無線の少なくとも何れかを含んで構成される。
【0025】
入力部22は、ユーザからの入力を受付可能である。入力部22は、ユーザからの入力を受付可能な少なくとも1つの入力用インタフェースを含む。入力用インタフェースは、例えば、物理キー、静電容量キー、ポインティングデバイス、ディスプレイと一体的に設けられたタッチスクリーン又はマイク等である。本実施形態では、入力部22は、表示装置13と一体的に設けられたタッチスクリーンである。
【0026】
記憶部23は、少なくとも1つの半導体メモリ、少なくとも1つの磁気メモリ、少なくとも1つの光メモリ又はこれらのうちの少なくとも2種類の組み合わせを含んで構成される。半導体メモリは、例えば、RAM(Random Access Memory)又はROM(Read Only Memory)等である。RAMは、例えば、SRAM(Static Random Access Memory)又はDRAM(Dynamic Random Access Memory)等である。ROMは、例えば、EEPROM(Electrically Erasable Programmable Read Only Memory)等である。記憶部23は、主記憶装置、補助記憶装置又はキャッシュメモリとして機能してよい。記憶部23は、情報処理装置20の動作に用いられるデータと、情報処理装置20の動作によって得られたデータとを記憶する。
【0027】
制御部24は、少なくとも1つのプロセッサ、少なくとも1つの専用回路又はこれらの組み合わせを含んで構成される。プロセッサは、CPU(Central Processing Unit)若しくはGPU(Graphics Processing Unit)等の汎用プロセッサ又は特定の処理に特化した専用プロセッサである。専用回路は、例えば、FPGA(Field-Programmable Gate Array)又はASIC(Application Specific Integrated Circuit)等である。制御部24は、情報処理装置20の各部を制御しながら、情報処理装置20の動作に関わる処理を実行する。
【0028】
制御部24は、撮像開始を指示する入力を、入力部22によって受け付け得る。この入力は、例えば、店舗の開店時等に店舗の従業員によって入力部22から入力され得る。制御部24は、この入力を受け付けると、撮像部12に、撮像開始を指示する信号を、通信部21によって送信する。制御部24は、情報処理装置20の起動時等に、撮像部12に撮像開始を指示する信号を送信してもよい。
【0029】
制御部24は、会計開始を指示する入力を入力部22によって受け付け得る。この入力は、商品の会計をしたい顧客によって入力部22から入力される。顧客は、情報処理装置20のユーザとなる。顧客は、この入力を入力部22から入力すると、購入したい商品を載置台10の上面10sに配置する。
【0030】
制御部24は、会計開始を指示する入力を受け付けると、撮像画像のデータを取得する。本実施形態では、制御部24は、撮像部12から画像信号を通信部21によって受信することにより、画像信号に相当する撮像画像のデータを取得する。この撮像画像には、顧客が載置台10の上面10sに配置した商品が物体として含まれる。また、この撮像画像には、商品に付されたバーコードが含まれる。本実施形態において、撮像画像に含まれる物体及びバーコードは、それぞれ、撮像画像内に描画されている物体及びバーコードを意味する。
【0031】
制御部24は、撮像画像から物体及びバーコードを検出する。本実施形態では、制御部24は、撮像画像から物体及びバーコードを検出することとして、撮像画像から物体に対応する第1部分画像及びバーコードに対応する第2部分画像を検出する。物体に対応する第1部分画像は、撮像画像のうちの物体画像を含む部分である。物体画像は、物体が描画されている画像部分である。バーコードに対応する第2部分画像は、撮像画像のうちのバーコード画像を含む部分である。バーコード画像は、バーコードが描画されている画像部分である。制御部24は、撮像画像に対して任意の画像解析を実行することにより、第1部分画像及び第2部分画像を検出してよい。制御部24は、例えば後述の第1部分画像31(図4参照)のように、撮像画像のうちの、物体画像の外接矩形に含まれる部分を第1部分画像として検出してもよい。また、制御部24は、例えば後述の第2部分画像32(図4参照)のように、撮像画像のうちの、バーコード画像の外接矩形に含まれる部分を第2部分画像として検出してもよい。
【0032】
制御部24は、撮像画像から物体及びバーコードを検出した検出結果に基づいて、未検出のバーコードが存在するか否かを判定する。本実施形態では、撮像画像から物体及びバーコードを検出することとして第1部分画像及び第2部分画像を検出することにより、未検出のバーコードが存在するか否かの判定は、撮像画像から検出されない未検出の第2部分画像が存在するか否かの判定になる。制御部24は、第1部分画像と第2部分画像との間の包含関係の有無に基づいて、未検出のバーコードすなわち第2部分画像が存在するか否かを判定する。制御部24は、第1部分画像と第2部分画像との間の包含関係の有無を判定するにあたり、第1部分画像に第2部分画像が含まれるか否かを判定する。ここで、バーコードに対応する第2部分画像が未検出である場合、そのバーコードが付された商品である物体に対応する第1部分画像には、第2部分画像が含まれないため、包含関係は存在しない。一方、バーコードに対応する第2部分画像が検出された場合すなわち未検出ではない場合、そのバーコードが付された商品である物体に対応する第1部分画像には、第2部分画像が含まれるため、包含関係は存在する。そこで、制御部24は、第1部分画像に第2部分画像が含まれると判定した場合すなわち第1部分画像と第2部分画像との間に包含関係が存在すると判定した場合、その第1部分画像に対応する物体について未検出のバーコードが存在しないと判定する。一方、制御部24は、第1部分画像に第2部分画像が含まれないすなわち第1部分画像と第2部分画像との間に包含関係が存在しないと判定した場合、その第1部分画像に対応する物体について未検出のバーコードが存在すると判定する。
【0033】
本実施形態では、制御部24は、撮像画像から第1部分画像を検出する毎に、検出した第1部分画像から第2部分画像を検出する処理を実行する。制御部24は、この検出する処理において第1部分画像から第2部分画像が検出されない場合、その第1部分画像に対応する物体について未検出のバーコードが存在すると判定する。一方、制御部24は、この検出する処理において第1部分画像から第2部分画像が検出された場合、その第1部分画像に対応する物体について未検出のバーコードが存在しないと判定する。
【0034】
例えば、制御部24は、図4に示すような撮像画像30のデータを取得する。撮像画像30は、お弁当及びおにぎりを物体として含む。まず、制御部24は、撮像画像30から、お弁当に対応する第1部分画像31を検出する。制御部24は、第1部分画像31を検出すると、第1部分画像31から第2部分画像を検出する処理を実行する。第1部分画像31には、第2部分画像32が含まれる。そのため、制御部24は、第2部分画像を検出する処理において、第1部分画像31から第2部分画像32を検出する。制御部24は、第1部分画像31から第2部分画像32が検出されたと判定し、お弁当としての物体ついて未検出のバーコードが存在しないと判定する。次に、制御部24は、撮像画像30から、おにぎりに対応する第1部分画像33を検出する。制御部24は、第1部分画像33からバーコードに対応する第2部分画像を検出する処理を実行する。第1部分画像33には、第2部分画像が含まれない。そのため、制御部24は、第2部分画像を検出する処理において、第1部分画像33から第2部分画像を検出できない。制御部24は、第1部分画像33からは第2部分画像が検出されないと判定し、おにぎりとしての物体について未検出のバーコードが存在すると判定する。
【0035】
制御部24は、撮像画像に含まれる全ての物体について未検出のバーコードが存在するか否かを判定する。制御部24は、少なくとも1つの物体について未検出のバーコードが存在すると判定した場合、検出されないバーコードすなわち未検出のバーコードの存在を報知するための報知情報を出力装置に出力させる。例えば、図3では、制御部24は、撮像画像30に含まれる全ての物体すなわちお弁当及びおにぎりについて未検出のバーコードが存在するか否かを判定する。制御部24は、おにぎりについて未検出のバーコードが存在すると判定し、報知情報を出力装置に出力させる。本実施形態では、制御部24は、出力装置としての表示装置13に、報知情報に対応する画像信号を通信部21によって送信することにより、報知情報を画像として表示させる。
【0036】
制御部24は、報知情報として、物体に対応する第1部分画像及びバーコードに対応する第2部分画像を強調表示する処理が施された後の撮像画像を表示装置13に表示させてよい。部分画像の強調表示は、撮像画像の他の部分よりも、視覚的に目立つ任意の態様での表示であってよい。部分画像の強調表示は、例えば、部分画像のハイライト表示又は部分画像を枠で囲む表示等である。例えば、制御部24は、図5に示すような撮像画像30aを表示装置13に表示させる。撮像画像30aは、図4に示すような第1部分画像31,33及び第2部分画像32を強調表示する処理が施された後の撮像画像30である。撮像画像30aでは、強調表示する処理として、第1部分画像31,33及び第2部分画像32のそれぞれを枠で囲む処理が施されている。顧客は、撮像画像30aを見ることにより、おにぎりのバーコードが未検出であることを知ることができる。また、顧客は、撮像画像30aを見ることにより、お弁当のバーコードが検出されたことを知ることができる。
【0037】
制御部24は、報知情報として、未検出のバーコードが存在する(バーコードが検出されない)と判定した物体に対応する第1部分画像を強調表示する処理が施された後の撮像画像を、表示装置13に表示させてもよい。例えば、制御部24は、図4に示すような第1部分画像33のみを枠で囲む処理が施された後の撮像画像30を表示装置13に表示させる。顧客は、強調表示された第1部分画像33を見ることにより、おにぎりのバーコードが未検出であることを知ることができる。
【0038】
制御部24は、報知情報として物体とバーコードとの対応関係を示す情報を、表示装置13に表示させてもよい。物体とバーコードとの対応関係を示す情報が表示装置13に表示されることにより、顧客は、物体とバーコードとの対応関係から、未検出のバーコードが存在することを知ることができる。
【0039】
制御部24は、上述した物体とバーコードとの対応関係を示す情報として、検出した物体の個数とバーコードの個数を表示装置13に表示させてよい。未検出のバーコードが存在する場合、表示装置13に表示されるバーコードの個数は、表示装置13に表示される物体の個数よりも、未検出のバーコードの個数分だけ少なくなる。顧客は、表示装置13に表示されたバーコードの個数と物体の個数とを比較することにより、未検出のバーコードの個数を把握することができる。
【0040】
制御部24は、上述した物体とバーコードとの対応関係を示す情報として、検出した物体の識別情報と検出したバーコードに対応する第2部分画像とを対応付けたリストを表示装置13に表示させてもよい。物体の識別情報は、商品の会計において顧客が商品を一意に区別可能な任意の情報であってよい。例えば、制御部24は、図6に示すような画像40を表示装置13に表示させる。画像40には、検出した物体の識別情報として、撮像画像30から物体が検出された順序が表示されている。例えば、お弁当は1点目に検出された物体であるため、画像40には、お弁当の識別情報として1点目と表示されている。おにぎりは、2点目に検出された物体であるため、画像40には、おにぎりの識別情報として2点目と表示されている。また、画像40において1点目の表示には、お弁当のバーコードに対応する第2部分画像32が対応付けられている。おにぎりのバーコードは未検出であるため、画像40において2点目の表示には、第2部分画像が対応付けられていない。顧客は、画像40を見ることにより、おにぎりのバーコードが未検出であることを知ることができる。
【0041】
このように報知情報が表示装置13に表示されることにより、顧客は、未検出のバーコードの存在を知ることができる。顧客は、未検出のバーコードの存在を知ると、未検出のバーコードが検出されるように、未検出のバーコードが付された載置台10上の商品を置き直したり又は撮像部12に近づけたりする。例えば、図4では、顧客は、おにぎりのパッケージの裏面に貼られたバーコードが撮像されるように、載置台10上のおにぎりの上下を反転させる。
【0042】
制御部24は、報知情報を表示装置13に表示させると、新たな撮像画像のデータを取得する。新たな撮像画像は、顧客が未検出のバーコードが付された商品を置き直したり又は撮像部12に近づけたりしたことにより、前回の撮像画像から検出されなかったバーコードに対応する第2部分画像を含み得る。制御部24は、新たな撮像画像から前回の撮像画像から検出されなかった第2部分画像を検出してよい。
【0043】
制御部24は、未検出のバーコードが存在しなくなると、検出済みのバーコードのデータによって商品代金を精算する精算処理を実行する。例えば、制御部24は、検出済みの第2部分画像のデータから、バーコードを読み取る。制御部24は、バーコードの読み取ることにより、商品の価格のデータを取得する。制御部24は、商品の価格を加算していくことにより、商品の合計金額を算出する。精算処理において、制御部24は、合計金額のデータを表示装置13に表示させてよい。また、精算処理において、検出済みの第2部分画像のデータからバーコードを読み取る際、制御部24は、検出した物体と、当該検出した物体のバーコードとを対応付けて表示装置13に表示させてもよい。例えば、制御部24は、検出した物体の第1部分画像と、当該第1部分画像に含まれる第2部分画像とを対応付けて表示装置13に表示させてもよい。
【0044】
図7は、本開示の一実施形態に係る情報処理方法の手順を示すフローチャートである。例えば、制御部24は、会計開始を指示する入力を入力部22によって受け付けると、ステップS1の処理を開始する。
【0045】
制御部24は、撮像部12から画像信号を通信部21によって受信することにより、画像信号に相当する撮像画像のデータを取得する(ステップS1)。
【0046】
制御部24は、撮像画像から物体に対応する第1部分画像を検出する(ステップS2)。制御部24は、ステップS2の処理で検出した第1部分画像からバーコードに対応する第2部分画像を検出する処理を実行する(ステップS3)。ここで、第1部分画像に第2部分画像が含まれない場合、ステップS3の処理において、第1部分画像から第2部分画像が検出されない。一方、第1部分画像に第2部分画像が含まれる場合、ステップS3の処理において、第1部分画像から第2部分画像が検出される。
【0047】
制御部24は、ステップS3の処理において第1部分画像から第2部分画像が検出されたか否かを判定する(ステップS4)。制御部24は、ステップS3の処理において第1部分画像から第2部分画像が検出されないと判定した場合(ステップS4:NO)、ステップS5の処理に進む。一方、制御部24は、ステップS3の処理において第1部分画像から第2部分画像が検出されたと判定した場合(ステップS4:YES)、ステップS6の処理に進む。
【0048】
ステップS5の処理では、制御部24は、ステップS2の処理で検出した第1部分画像に対応する物体について未検出のバーコードが存在すると判定する。ステップS6の処理では、制御部24は、ステップS2の処理で検出した第1部分画像に対応する物体について未検出のバーコードが存在しないと判定する。ステップS5又はステップS6の処理の実行後、制御部24は、ステップS7の処理に進む。
【0049】
ステップS7の処理では、制御部24は、撮像画像に含まれる全ての物体について、未検出のバーコードが存在するか否かを判定したか否かを判定する。つまり、制御部24は、撮像画像に含まれる全ての第1部分画像についてステップS5又はステップS6の処理が実行されたか否かを判定する。制御部24は、全ての物体について未検出のバーコードが存在するか否かを判定したと判定した場合(ステップS7:YES)、ステップS8の処理に進む。一方、制御部24は、全ての物体について未検出のバーコードが存在するか否かを判定したと判定しない場合(ステップS7:NO)、ステップS2の処理に戻る。
【0050】
ステップS8の処理では、制御部24は、少なくとも1つの物体について未検出のバーコードが存在するか否かを判定する。制御部24は、ステップS5の処理を少なくとも1回実行した場合、少なくとも1つの物体について未検出のバーコードが存在すると判定する。制御部24は、少なくとも1つの物体について未検出のバーコードが存在すると判定した場合(ステップS8:YES)、ステップS9の処理に進む。制御部24は、少なくとも1つの物体について未検出のバーコードが存在すると判定しない場合(ステップS8:NO)、ステップS10の処理に進む。
【0051】
ステップS9の処理では、制御部24は、表示装置13に、報知情報に対応する画像信号を通信部21によって送信することにより、報知情報を画像として表示させる。ステップS9の処理が実行されることにより、顧客は、未検出のバーコードの存在を知ることができる。顧客は、未検出のバーコードが検出されるように、未検出のバーコードが付された載置台10上の商品を置き直したり又は撮像部12に近づけたりする。
【0052】
ステップS9の処理の実行後、制御部24は、ステップS1の処理に戻る。新たに実行するステップS1の処理では、制御部24は、新たな撮像画像のデータを取得する。新たな撮像画像は、ステップS9の処理によって顧客が未検出のバーコードが付された商品を置き直したり又は撮像部12に近づけたりしたことにより、前回のステップS3の処理で検出されなかった第2部分画像を含み得る。制御部24は、新たな撮像画像から前回のステップS3の処理で検出されなかった第2部分画像のみを検出してもよい。この場合、新たに実行するステップS2の処理では、制御部24は、前回のステップS3の処理で第2部分画像が検出されなかった物体に対応する第1部分画像のみを検出してよい。
【0053】
ステップS10の処理では、制御部24は、検出済みのバーコードのデータによって商品代金を精算する精算処理を実行する。
【0054】
このように本実施形態に係る情報処理装置20では、制御部24は、撮像画像から物体及び物体に付されたバーコードを検出し、撮像画像から検出されないバーコードが存在すると判定した場合、報知情報を表示装置13に表示させる。報知情報が表示装置13に表示されることにより、ユーザに未検出のバーコード(バーコードが検出されない商品)の存在を知らせることができる。ユーザに未検出のバーコードの存在を知らせることにより、ユーザに、未検出のバーコードが検出されるように、未検出のバーコードが付された商品を置き直したり又は撮像部12に近づけたりさせることができる。このような構成により、制御部24は、新たな撮像画像から未検出のバーコードを検出することができる。そのため、本実施形態では、バーコードの検出漏れが生じる可能性を低減することができる。バーコードの検出漏れが生じる可能性が低減することにより、商品代金を精度良く算出することができる。よって、本実施形態によれば、改善された、撮像画像から識別子を検出するための技術を提供することができる。
【0055】
(他の実施形態)
他の実施形態では、制御部24は、撮像画像から物体及びバーコードを検出することとして、撮像画像から物体の個数及びバーコードの個数を検出する。制御部24は、検出した物体の個数がバーコードの個数と一致するか否かを判定する。ここで、商品には1個のバーコードが付されているため、未検出のバーコードが存在しない場合、物体の個数はバーコードの個数と一致する。一方、未検出のバーコードが存在する場合、物体の個数は、バーコードの個数よりも多くなる。そこで、制御部24は、検出した物体の個数がバーコードの個数と一致すると判定した場合、未検出のバーコードが存在しないと判定する。一方、制御部24は、検出した物体の個数がバーコードの個数と一致しないと判定した場合、未検出のバーコードが存在すると判定する。
【0056】
他の実施形態では、制御部24は、撮像画像から物体の個数及びバーコードの個数を検出する処理に加えて、撮像画像から価格の割引を示す割引バーコードを検出する処理を実行してもよい。制御部24は、割引バーコードを検出した場合、割引バーコードの情報に基づいて、検出したバーコードの個数を補正してよい。バーコードの個数を補正した場合、制御部24は、物体の個数がバーコードの補正後の個数と一致するか否かを判定してよい。例えば、割引バーコードの縦に対する横のサイズ比率は、通常のバーコードの縦に対する横のサイズ比率とは異なる。制御部24は、このサイズ比率によって、割引バーコードを検出してよい。制御部24は、撮像画像から割引バーコードを検出した場合、割引バーコードと他のバーコードとが同じ物体に付されているか否かを判定する。制御部24は、割引バーコードに対応する第2部分画像と他のバーコードに対応する第2部分画像とが同じ物体に対応する第1部分画像に含まれるか否かを判定することにより、割引バーコードと他のバーコードとが同じ物体に付されているか否かを判定してよい。また、より精度良く判定するために、制御部24は、例えば、割引バーコードと通常のバーコードとの位置関係に基づき、割引バーコードと通常のバーコードとが同じ物体に付されているか否かを判定してもよい。例えば、制御部24は、通常バーコードの上に割引バーコードが付されていることをさらに検出した場合、割引バーコードと通常のバーコードとが同じ物体に付されていると判定してもよい。制御部24は、割引バーコードと他のバーコードとが同じ物体に付されていると判定した場合、割引バーコードと他のバーコードとを合わせた個数が1個になるように、バーコードの個数を補正してよい。制御部24は、検出したバーコードの個数を割引バーコードの個数に基づいて減算し、例えば検出したバーコードの個数から割引バーコードの個数を減算し、減算後の個数を取得することにより、バーコードの個数を補正してもよい。この場合、制御部24は、同じ物体に複数の割引バーコードが付されていると判定した場合、同じ物体に付された複数の割引バーコードを1個とみなし、検出したバーコードの個数から割引バーコードの個数を減算してよい。制御部24は、上述した処理により、同じ物体に複数の割引バーコードが付されているか否かを判定してよい。バーコードの個数を補正することにより、未検出のバーコードが存在するか否かを精度良く判定することができる。
【0057】
例えば、制御部24は、図8に示すような撮像画像30bのデータを取得する。撮像画像30bは、第1部分画像33に加えて、お弁当に対応する第1部分画像31aと、割引バーコードに対応する第2部分画像34と、通常のバーコードに対応する第2部分画像35を含む。制御部24は、撮像画像30bから、物体の個数を2個と検出する。この2個の物体は、お弁当及びおにぎりである。また、制御部24は、撮像画像30bから、バーコードの個数を2個と検出する。この2個のバーコードは、両方とも、お弁当に付されたものである。制御部24は、撮像画像30bから、第2部分画像34に対応する割引バーコードを検出する。制御部24は、割引バーコードを検出すると、第2部分画像34と第2部分画像35とが同じ物体に対応する第1部分画像31aに含まれると判定する。つまり、制御部24は、割引バーコードと他のバーコートとが同じ物体に付されていると判定する。制御部24は、割引バーコードと他のバーコードとを合わせた個数が1個になるように、バーコードの個数を補正する。補正後のバーコードの個数は、1個になる。制御部24は、物体の個数である2個と補正後のバーコードの個数である1個とが一致しないと判定し、未検出のバーコードが存在すると判定する。ここで、バーコードの個数を補正せずに、制御部24は、物体の個数である2個がバーコードの個数である2個と一致するか否かを判定すると、未検出のバーコードが存在しないと判定してしまう。このようにバーコードの個数を補正することにより、未検出のバーコードが存在するか否かをより精度よく判定することができる。
【0058】
図9は、本開示の他の実施形態に係る情報処理方法の手順を示すフローチャートである。例えば、制御部24は、会計開始を指示する入力を入力部22によって受け付けると、ステップS11の処理を開始する。
【0059】
制御部24は、図7に示すようなステップS1と同じ又は類似に、ステップS11の処理を実行する。
【0060】
制御部24は、ステップS11の処理で取得した撮像画像から、物体の個数及びバーコードの個数を検出する(ステップS12)。制御部24は、ステップS12の処理で検出した物体の個数がバーコードの個数と一致するか否かを判定する(ステップS13)。制御部24は、物体の個数がバーコードの個数と一致しないと判定した場合(ステップS13:NO)、ステップS14の処理に進む。制御部24は、物体の個数がバーコードの個数と一致すると判定した場合(ステップS13:YES)、ステップS16の処理に進む。
【0061】
ステップS14の処理では、制御部24は、未検出のバーコードが存在すると判定する。制御部24は、図7に示すようなステップS9の処理と同じ又は類似に、ステップS15の処理を実行する。制御部24は、ステップS15の処理を実行した後、ステップS11の処理に戻る。
【0062】
ステップS16の処理では、制御部24は、未検出のバーコードが存在しないと判定する。制御部24は、図7に示すようなステップS10の処理と同じ又は類似に、ステップS17の処理を実行する。
【0063】
ステップS12の処理では、制御部24は、撮像画像から物体の個数及びバーコードの個数を検出する処理に加えて、撮像画像から価格の割引を示す割引バーコードを検出する処理を実行してもよい。制御部24は、割引バーコードを検出した場合、割引バーコードの情報に基づいて、検出したバーコードの個数を補正してよい。バーコードの個数を補正した場合、ステップS13の処理では、制御部24は、物体の個数がバーコードの補正後の個数と一致するか否かを判定してよい。
【0064】
ステップS17の処理では、制御部24は、精算処理において、検出済みの第2部分画像のデータからバーコードを読み取る際、検出した物体と、当該検出した物体の通常のバーコードとを対応付けて表示装置13に表示させてもよい。さらに、制御部24は、割引バーコードが付されている物体については、当該物体に、当該検出した物体に付された割引バーコードを優先して対応付けて表示装置13に表示させてよい。例えば、制御部24は、検出した物体の第1部分画像と、当該第1部分画像に含まれる通常のバーコードに対応する第2部分画像、又は、割引バーコードに対応する第2部分画像とを対応付けて表示装置13に表示させてもよい。
【0065】
このように他の実施形態では、制御部24は、撮像画像から物体及びバーコードを検出することとして、撮像画像から物体の個数及びバーコードの個数を検出する。撮像画像から物体の個数及びバーコードの個数を検出する処理は、比較的に高速に実行可能である。また、制御部24は、物体の個数を検出する処理と並行して、バーコードの個数を検出する処理を実行することもできる。よって、他の実施形態では、制御部24は、未検出のバーコードが存在するか否かをより高速に判定することができる。
【0066】
他の実施形態に係る情報処理装置20のその他の構成及び効果は、上述した実施形態に係る情報処理装置の構成及び効果と同じ又は類似である。
【0067】
(さらに他の実施形態)
さらに他の実施形態では、制御部24は、撮像画像から物体及びバーコードを検出することとして、撮像画像から物体に対応する第1部分画像及びバーコードに対応する第2部分画像を検出する。さらに他の実施形態では、制御部24は、撮像画像から第1部分画像を検出する処理に並行して第2部分画像を検出する処理を実行する。第1部分画像を検出する処理に並行して第2部分画像を検出する処理を実行することにより、制御部24は、第1部分画像及び第2部分画像をより高速に検出することができる。
【0068】
さらに他の実施形態では、制御部24は、第1部分画像と第2部分画像との間の包含関係に基づいて、未検出のバーコードが存在するか否かを判定する。制御部24は、第1部分画像と第2部分画像との間の包含関係として、検出した第1部分画像のうちで第2部分画像を含まない第1部分画像が存在するか否かを判定する。制御部24は、検出した第1部分画像のうちで第2部分画像を含まない第1部分画像が存在すると判定した場合、未検出のバーコードが存在すると判定する。制御部24は、検出した第1部分画像のうちで第2部分画像を含まない第1部分画像が存在しないと判定した場合、未検出のバーコードが存在しないと判定する。
【0069】
例えば、制御部24は、図8に示すような撮像画像30bから、第1部分画像を検出する処理に平行して第2部分画像を検出する処理を実行することにより、第1部分画像31a,33及び第2部分画像34,35を一度に検出する。制御部24は、検出した第1部分画像31a,33のうちで第2部分画像を含まない第1部分画像33が存在すると判定し、未検出のバーコードが存在すると判定する。ここで、上述したように、撮像画像30bには、2個のバーコード及び2個の物体が含まれる。そのため、上述したように、制御部24が、バーコードの個数を補正せずに、物体の個数がバーコードの個数と一致するか否かによって未検出のバーコードが存在するか否かを判定すると、未検出のバーコードが存在しないと判定してしまう。制御部24は、検出した第1部分画像のうちで第2部分画像を含まない第1部分画像が存在するか否かを判定することにより、未検出のバーコードが存在するか否かをより精度良く判定することができる。
【0070】
図10は、本開示のさらに他の実施形態に係る情報処理方法の手順を示すフローチャートである。例えば、制御部24は、会計開始を指示する入力を入力部22によって受け付けると、ステップS21の処理を開始する。
【0071】
制御部24は、図7に示すようなステップS1と同じ又は類似に、ステップS21の処理を実行する。
【0072】
制御部24は、ステップS21の処理で取得した撮像画像から、第1部分画像及び第2部分画像を検出する(ステップS22)。ステップS22の処理では、制御部24は、第1部分画像を検出する処理に並行して第2部分画像を検出する処理を実行することにより、第1部分画像及び第2部分画像を一度に検出する。
【0073】
制御部24は、ステップS22の処理で検出した第1部分画像のうちで第2部分画像を含まない第1部分画像が存在するか否かを判定する(ステップS23)。制御部24は、第2部分画像を含まない第1部分画像が存在すると判定した場合(ステップS23:YES)、ステップS24の処理に進む。制御部24は、第2部分画像を含まない第1部分画像が存在しないと判定した場合(ステップS23:NO)、ステップS26の処理に進む。
【0074】
ステップS24の処理では、制御部24は、未検出のバーコードが存在すると判定する。制御部24は、図7に示すようなステップS9の処理と同じ又は類似に、ステップS25の処理を実行する。制御部24は、ステップS25の処理を実行した後、ステップS21の処理に戻る。
【0075】
ステップS26の処理では、制御部24は、未検出のバーコードが存在しないと判定する。制御部24は、図7に示すようなステップS10の処理と同じ又は類似に、ステップS27の処理を実行する。
【0076】
このようにさらに他の実施形態では、制御部24は、撮像画像から第1部分画像を検出する処理に並行して第2部分画像を検出する処理を実行する。第1部分画像を検出する処理に並行して第2部分画像を検出する処理を実行することにより、制御部24は、第1部分画像及び第2部分画像をより高速に検出することができる。また、上述したように、第2部分画像を含まない第1部分画像が存在するか否かを判定することにより、制御部24は、未検出のバーコードが存在するか否かをより精度良く判定することができる。
【0077】
さらに他の実施形態に係る情報処理装置20のその他の構成及び効果は、上述した実施形態に係る情報処理装置の構成及び効果と同じ又は類似である。
【0078】
(さらに他の実施形態)
さらに他の実施形態では、制御部24は、撮像画像から物体及びバーコードを検出することとして、撮像画像から物体の個数及びバーコードの個数を検出する。さらに、制御部24は、撮像画像から物体及びバーコードを検出することとして、撮像画像から物体に対応する第1部分画像及びバーコードに対応する第2部分画像を検出する。上述した実施形態と同じ又は類似に、制御部24は、撮像画像から第1部分画像を検出する処理に並行して第2部分画像を検出する処理を実行してよい。
【0079】
さらに他の実施形態では、制御部24は、物体の個数がバーコードの個数と一致するか否かを判定する。制御部24は、物体の個数がバーコードの個数と一致しないと判定した場合、未検出のバーコードが存在すると判定する。さらに他の実施形態では、制御部24は、物体の個数がバーコードの個数と一致すると判定した場合、検出した第1部分画像のうちで第2部分画像を含まない第1部分画像が存在するか否かを判定する。制御部24は、検出した第1部分画像のうちで第2部分画像を含まない第1部分画像が存在すると判定した場合、未検出のバーコードが存在すると判定する。一方、制御部24は、検出した第1部分画像のうちで第2部分画像を含まない第1部分画像が存在しないと判定した場合、未検出のバーコードが存在しないと判定する。
【0080】
図11は、本開示のさらに他の実施形態に係る情報処理方法の手順を示すフローチャートである。例えば、制御部24は、会計開始を指示する入力を入力部22によって受け付けると、ステップS31の処理を開始する。
【0081】
制御部24は、図7に示すようなステップS1と同じ又は類似に、ステップS31の処理を実行する。
【0082】
制御部24は、図9に示すステップS12の処理と同じ又は類似にして、ステップS31の処理で取得した撮像画像から物体の個数及びバーコードの個数を検出する(ステップS32)。制御部24は、図10に示すステップS22の処理と同じ又は類似にして、ステップS31の処理で取得した撮像画像から、第1部分画像及び第2部分画像を検出する(ステップS33)。ステップS33の処理では、図10に示すようなステップS22の処理と同じ又は類似に、制御部24は、第1部分画像を検出する処理に並行して第2部分画像を検出する処理を実行する。制御部24は、ステップS32の処理と並行して、ステップS33の処理を実行してもよい。
【0083】
制御部24は、ステップS32の処理で検出した物体の個数がバーコードの個数と一致するか否かを判定する(ステップS34)。制御部24は、物体の個数がバーコードの個数と一致すると判定した場合(ステップS34:YES)、ステップS35の処理に進む。一方、制御部24は、物体の個数がバーコードの個数と一致しないと判定した場合(ステップS34:NO)、ステップS36の処理に進む。
【0084】
ステップS35の処理では、制御部24は、ステップS33の処理で検出した第1部分画像のうちで第2部分画像を含まない第1部分画像が存在するか否かを判定する。制御部24は、検出した第1部分画像のうちで第2部分画像を含まない第1部分画像が存在すると判定した場合(ステップS35:YES)、ステップS36の処理に進む。一方、制御部24は、検出した第1部分画像のうちで第2部分画像を含まない第1部分画像が存在しないと判定した場合(ステップS35:NO)、ステップS38の処理に進む。
【0085】
ステップS36の処理では、制御部24は、未検出のバーコードが存在すると判定する。制御部24は、図7に示すようなステップS9の処理と同じ又は類似に、ステップS37の処理を実行する。制御部24は、ステップS37の処理を実行した後、ステップS31の処理に戻る。
【0086】
ステップS38の処理では、制御部24は、未検出のバーコードが存在しないと判定する。制御部24は、図7に示すようなステップS10の処理と同じ又は類似に、ステップS39の処理を実行する。
【0087】
このようにさらに他の実施形態では、制御部24は、撮像画像から物体の個数及びバーコードの個数を検出する。撮像画像から物体の個数及びバーコードの個数を検出する処理は、比較的に高速に実行可能である。さらに、制御部24は、撮像画像から第1部分画像を検出する処理に並行して第2部分画像を検出する処理を実行する。第1部分画像を検出する処理に並行して第2部分画像を検出する処理を実行することにより、制御部24は、第1部分画像及び第2部分画像をより高速に検出することができる。このような構成により、撮像画像から物体及びバーコードを検出する処理をより高速に実行することができる。さらに、制御部24は、物体の個数とバーコードの個数とが一致する場合であって、検出した第1部分画像のうちで第2部分画像を含まない第1部分画像が存在すると判定した場合、未検出のバーコードが存在すると判定する。このような構成により、制御部24は、物体の個数とバーコードの個数とが一致するか否かを単に判定して未検出のバーコードが存在するか否かを判定する場合よりも、未検出のバーコードが存在するか否かをより精度よく判定することができる。よって、さらに他の実施形態によれば、より高速により精度よく、未検出のバーコードが存在するか否かを判定することができる。
【0088】
さらに他の実施形態に係る情報処理装置20のその他の構成及び効果は、上述した実施形態に係る情報処理装置の構成及び効果と同じ又は類似である。
【0089】
一実施形態において、(1)情報処理装置は、
撮像装置が物体を撮像した撮像画像に含まれる前記物体の画像から前記物体の属性を取得するための識別子が検出されない場合、報知情報を出力装置に出力させる制御部を備える。
【0090】
(2)上記(1)の情報処理装置では、
前記制御部は、
前記撮像画像から前記物体に対応する第1部分画像及び前記識別子に対応する第2部分画像を検出し、
前記第1部分画像と前記第2部分画像との間の包含関係の有無に基づいて、前記報知情報を前記出力装置に出力させてもよい。
【0091】
(3)上記(1)又は(2)の情報処理装置では、
前記制御部は、
前記第1部分画像に包含される前記第2部分画像が検出されない場合、前記第2部分画像が検出されない前記物体を報知する前記報知情報を前記出力装置に出力させてもよい。
【0092】
(4)上記(1)から(3)までの何れか1に記載の情報処理装置では、
前記制御部は、
前記物体の個数が検出された前記識別子の個数と一致しない場合、前記報知情報を前記出力装置に出力させてもよい。
【0093】
(5)上記(1)から(4)までの何れか1に記載の情報処理装置では、
前記制御部は、
前記撮像画像から前記物体に対応する第1部分画像及び前記識別子に対応する第2部分画像を検出し、
検出した前記物体の個数と前記識別子の個数とが一致し、前記第2部分画像を含まない前記第1部分画像を検出した場合、前記報知情報を前記出力装置に出力させてもよい。
【0094】
(6)上記(1)から(5)までの何れか1に記載の情報処理装置では、
前記出力装置は、表示装置であり、
前記制御部は、前記物体に対応する第1部分画像及び前記識別子に対応する第2部分画像を強調表示する処理を施した前記撮像画像を、前記表示装置に表示させてもよい。
【0095】
(7)上記(1)から(6)までの何れか1に記載の情報処理装置では、
前記出力装置は、表示装置であり、
前記制御部は、識別子が検出されない物体に対応する第1部分画像を強調表示する処理が施された前記撮像画像を、前記表示装置に表示させてもよい。
【0096】
一実施形態において、(8)情報処理方法は、
撮像装置が物体を撮像した撮像画像に含まれる前記物体の画像から前記物体の属性を取得するための識別子を検出することと、
前記識別子が検出されない場合、報知情報を出力装置に出力させることと、を含む。
【0097】
本開示を諸図面及び実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形又は修正を行うことが容易であることに注意されたい。したがって、これらの変形又は修正は本開示の範囲に含まれることに留意されたい。例えば、各機能部に含まれる機能等は論理的に矛盾しないように再配置可能である。複数の機能部等は、1つに組み合わせられたり、分割されたりしてよい。上述した本開示に係る各実施形態は、それぞれ説明した各実施形態に忠実に実施することに限定されるものではなく、適宜、各特徴を組み合わせたり、一部を省略したりして実施され得る。つまり、本開示の内容は、当業者であれば本開示に基づき種々の変形及び修正を行うことができる。したがって、これらの変形及び修正は本開示の範囲に含まれる。例えば、各実施形態において、各機能部、各手段又は各ステップ等は論理的に矛盾しないように他の実施形態に追加し、若しくは、他の実施形態の各機能部、各手段又は各ステップ等と置き換えることが可能である。また、各実施形態において、複数の各機能部、各手段又は各ステップ等を1つに組み合わせたり、或いは分割したりすることが可能である。また、上述した本開示の各実施形態は、それぞれ説明した各実施形態に忠実に実施することに限定されるものではなく、適宜、各特徴を組み合わせたり、一部を省略したりして実施することもできる。
【0098】
例えば、上述した実施形態では、出力装置は、表示装置13であるものとして説明した。ただし、出力装置は、表示装置13に限定されない。出力装置は、報知情報を顧客に対して出力可能であれば、任意の装置であってよい。他の例として、出力装置は、報知情報を音声として出力する音声出力装置であってもよい。
【0099】
例えば、制御部24は、未検出のバーコードが存在すると判定した場合、バーコードが未検出である物体については、物体認識処理によって物体が何れの商品であるかを認識してもよい。制御部24は、深層学習等の機械学習によって生成された学習モデルによって、物体認識処理を実行してもよい。制御部24は、バーコードが未検出である物体が物体認識処理によって何れの商品であるかを認識できた場合、報知情報を出力装置に出力させなくてもよい。例えば、図7に示すようなステップS8において少なくとも1つの物体について未検出のバーコードが存在すると判定した場合(ステップS8:YES)、ステップS9の処理の前にステップS8Aの処理を実行してもよい。このステップS8Aの処理では、制御部24は、物体認識処理によって、未検出のバーコードが存在すると判定した物体が何れの商品であるかを認識する。制御部24は、ステップS8Aの処理において未検出のバーコードが存在すると判定した物体が何れの商品であるかを認識できない場合、ステップS9の処理に進んでもよい。一方、制御部24は、ステップS8Aの処理において未検出のバーコードが存在すると判定した物体が何れの商品であるかを認識できた場合、ステップS9の処理に進まず、ステップS10の処理に進んでもよい。この場合、ステップS10の処理では、制御部24は、ステップS8Aの処理による物体認識処理の結果と、検出済みのバーコードのデータとによって商品代金を精算する精算処理を実行する。物体認識処理の認識結果は、商品名及び商品の価格のデータ等を含んでよい。このような構成により、顧客の利便性を向上させることができる。制御部24は、ステップS8Aと同じ又は類似の処理を、図9に示すようなステップS14とステップS15との間、図10に示すようなステップS24とステップS25との間又は図11に示すようなステップS36とステップS37との間に実行してもよい。
【0100】
例えば、制御部24は、撮像部12から撮像画像のデータを取得すると、取得した撮像画像のデータに対して物体認識処理を実行してもよい。制御部24は、物体認識処理を実行することにより、撮像画像に含まれる物体が何れの商品であるかを認識し、その商品の価格等のデータを取得してもよい。制御部24は、撮像画像に含まれる物体のうち物体認識処理によって認識できない物体の価格等のデータを取得するために、上述した実施形態に係る処理を実行してもよい。例えば、図7において、制御部24は、ステップS1とステップS2との間にステップS1Aを実行してもよい。ステップS1Aの処理では、制御部24は、ステップS1の処理で取得した撮像画像のデータに対して物体認識処理を実行する。ステップS2の処理では、ステップS1Aの処理で認識できない物体に対応する第1部分画像を検出する。ステップS10の処理では、制御部24は、ステップS1Aの処理で認識できた商品の価格等のデータと、検出済みのバーコードのデータとによって商品代金を精算する精算処理を実行する。
【0101】
例えば、上述した実施形態では、情報処理システム3は、無人レジとして構成されるものとして説明した。ただし、情報処理システム3は、店舗の従業員がレジに対する一連の操作を行う有人レジとして構成されてもよい。この場合、上述した実施形態において、顧客と記載した箇所を、必要に応じて、店舗の従業員と読み替えてよい。情報処理システム3が有人レジとして構成される場合、制御部24は、複数のバーコードの検出結果を表示装置13に表示させることにより、店舗の従業員にまとめて読み取らせることができるため、POS作業の効率を高めることができる。
【0102】
例えば、上述した実施形態では、制御部24が読み取ったバーコードのデータによって商品代金を精算する精算処理を実行するものとして説明した。ただし、制御部24の代わりに、読取装置がバーコードを読み取ってもよい。この場合、情報処理システム3は、読取装置をさらに含んで構成されてもよい。読取装置は、例えば、バーコードスキャナ等である。読取装置は、バーコードを読み取り、バーコードの読み取り結果を制御部24に送信してよい。この場合、制御部24は、読取装置から送信されたバーコードの読み取り結果を用いて、商品名及び商品の価格のデータを取得してもよい。また、顧客又は店舗の従業員等のユーザが、読取装置によってバーコードをスキャンしてもよい。ユーザが読取装置によってバーコードをスキャンすることにより、読取装置は、効率良く、バーコードを読み取りことができる。この場合、制御部24は、検出済みの第2部分画像のデータを表示装置13に表示させてもよい。検出済みの第2部分画像が表示装置13に表示させることにより、ユーザは、効率良く、読取装置によって第2部分画像に対応するバーコードをスキャンすることができる。また、制御部24は、検出した物体と、当該検出した物体のバーコードとを対応付けて表示装置13に表示させてもよい。例えば、制御部24は、検出した物体の第1部分画像と、当該第1部分画像に含まれる通常のバーコードに対応する第2部分画像、又は、割引バーコードに対応する第2部分画像とを対応付けて表示装置13に表示させてもよい。
【符号の説明】
【0103】
1 精算システム
2 ネットワーク
3 情報処理システム
4 サーバ
10 載置台
10s 上面
11 支持柱
12 撮像部
13 表示装置
20 情報処理装置
21 通信部
22 入力部
23 記憶部
24 制御部
30,30a,30b 撮像画像
31,31a,33 第1部分画像
32,34,35 第2部分画像
40 画像
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11