(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024164393
(43)【公開日】2024-11-27
(54)【発明の名称】在庫管理システム
(51)【国際特許分類】
F25D 23/00 20060101AFI20241120BHJP
B65G 1/137 20060101ALI20241120BHJP
G06Q 10/00 20230101ALI20241120BHJP
【FI】
F25D23/00 301G
B65G1/137 A
G06Q10/00
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2023079838
(22)【出願日】2023-05-15
(71)【出願人】
【識別番号】399048917
【氏名又は名称】日立グローバルライフソリューションズ株式会社
(74)【代理人】
【識別番号】110000350
【氏名又は名称】ポレール弁理士法人
(72)【発明者】
【氏名】栗山 哲
(72)【発明者】
【氏名】林 正二
(72)【発明者】
【氏名】梅澤 功一
(72)【発明者】
【氏名】京谷 浩平
【テーマコード(参考)】
3F522
3L345
5L010
5L049
【Fターム(参考)】
3F522AA10
3F522BB16
3F522BB22
3F522CC09
3F522DD03
3F522DD23
3F522DD26
3F522DD32
3F522FF12
3F522FF24
3F522GG03
3F522GG17
3F522GG37
3F522HH22
3F522LL36
3L345AA02
3L345AA21
3L345EE03
3L345JJ03
3L345JJ13
3L345JJ14
3L345JJ23
3L345JJ26
3L345KK02
3L345KK03
3L345KK04
5L010AA22
5L049AA22
(57)【要約】
【課題】撮像した画像と、在庫リストに格納された食材情報とを、少ない演算量で紐づけることのできる在庫管理システムを提供する。
【解決手段】食材に貼付されたIDを読み取る読取部と、前記食材を含む第1画像を取得するカメラと、を用いて、前記食材の在庫を管理する在庫管理システムにおいて、前記読取部による読取結果に基づき、前記IDに対応した食材情報が格納される在庫リストを生成する在庫リスト生成部と、前記カメラが取得した前記第1画像と、前記在庫リストに格納された前記食材情報と、に基づき類似度を算出する類似度算出部と、前記類似度が所定の閾値以上となる前記食材情報を、前記第1画像に紐付ける統合部と、を備えたことを特徴とする。
【選択図】
図2
【特許請求の範囲】
【請求項1】
食材に貼付されたIDを読み取る読取部と、前記食材を含む第1画像を取得するカメラと、を用いて、前記食材の在庫を管理する在庫管理システムにおいて、
前記読取部による読取結果に基づき、前記IDに対応した食材情報が格納される在庫リストを生成する在庫リスト生成部と、
前記カメラが取得した前記第1画像と、前記在庫リストに格納された前記食材情報と、に基づき類似度を算出する類似度算出部と、
前記類似度が所定の閾値以上となる前記食材情報を、前記第1画像に紐付ける統合部と、を備えたことを特徴とする在庫管理システム。
【請求項2】
請求項1において、
前記第1画像は、前記食材が貯蔵された状態の貯蔵室内をカメラで撮影した画像であり、
前記第1画像のうち前記食材の領域が指定された場合に、前記統合部によって紐付けられた前記食材情報を表示する表示部を、さらに備えたことを特徴とする在庫管理システム。
【請求項3】
請求項2において、
前記類似度が所定の閾値以上となる前記食材情報が複数あるとき、前記表示部は、それぞれの前記食材情報を並べて表示することを特徴とする在庫管理システム。
【請求項4】
請求項1において、
前記在庫リストには、前記食材情報として、前記IDに対応する外観画像である第2画像も格納され、
前記類似度算出部は、前記第1画像と前記第2画像を比較して、類似度を算出することを特徴とする在庫管理システム。
【請求項5】
請求項4において、
前記第1画像から、前記食材の種別またはパッケージに関する第1の特徴情報を抽出する特徴抽出部を、さらに備え、
前記在庫リストには、前記食材情報として、前記IDに対応する第2の特徴情報も格納され、
前記類似度算出部は、第1画像から抽出された前記第1の特徴情報と、前記在庫リストに格納された前記第2の特徴情報と、を比較して、類似度を算出することを特徴とする在庫管理システム。
【請求項6】
請求項1において、
前記カメラが、取得した動画に基づき前記食材の入庫動作があったと判断したときの時刻を第1の入庫時刻とし、
前記在庫リスト生成部が、前記読取部による読取結果に基づき前記食材の入庫を判定したときの時刻を第2の入庫時刻とすると、
前記類似度算出部は、前記第1画像と、前記第1の入庫時刻と前記第2の入庫時刻との差異が所定の閾値以下となる前記食材情報と、に基づき類似度を算出することを特徴とする在庫管理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、在庫管理システムに関する。
【背景技術】
【0002】
食材の過剰な在庫による食品ロスの低減に向けて、冷蔵庫などの貯蔵庫に貯蔵される食材の在庫管理システムが提案されている。在庫管理システムの中には、貯蔵庫の内部をカメラで撮影し、撮影画像をスマートフォンなどで確認できるようにしたものもある。さらに、在庫管理システムの中には、食材に付されたRFID(Radio Frequency Identifier)などのタグを元に在庫管理をするものもある。
【0003】
また、撮像した物品の画像と、読み取られたタグ情報と、に基づき、テーブル形式の物品管理情報(在庫リスト)を生成して、当該情報に基づいて在庫管理を行う技術として、特許文献1が知られている。この特許文献1には、「画像物品特定部236は、例えば、複数の物品名と複数の画像とを対応付けた対応付けデータにおける複数の画像に対して、撮像部224が撮像した物品10の画像をもとに類似画像検索を実行する。そして、画像物品特定部236は、類似度が最も高い画像の類似度が予め定められた閾値より大きい場合に、当該画像に対応付けられた物品名を取得して、物品管理情報更新部232に通知する」との記載もある(段落0036)。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1に記載の技術では、カメラで撮像した物品画像に類似する画像を検索し、類似度の高い画像から物品名を特定するとともに、タグ情報から特定される物品名との対応付けを行っている。このとき検索される対象は、流通している物品に関する画像であるが、その数は膨大であるため、類似度を計算するための負荷が高くなってしまう。
【0006】
本発明の目的は、撮像した画像と、在庫リストに格納された食材情報とを、少ない演算量で紐づけることのできる在庫管理システムを提供することにある。
【課題を解決するための手段】
【0007】
前述の改題を解決するため、本発明は、食材に貼付されたIDを読み取る読取部と、前記食材を含む第1画像を取得するカメラと、を用いて、前記食材の在庫を管理する在庫管理システムにおいて、前記読取部による読取結果に基づき、前記IDに対応した食材情報が格納される在庫リストを生成する在庫リスト生成部と、前記カメラが取得した前記第1画像と、前記在庫リストに格納された前記食材情報と、に基づき類似度を算出する類似度算出部と、前記類似度が所定の閾値以上となる前記食材情報を、前記第1画像に紐付ける統合部と、を備えたことを特徴とする。
【発明の効果】
【0008】
本発明によれば、撮像した画像と、在庫リストに格納された食材情報とを、少ない演算量で紐づけることのできる在庫管理システムを提供することが可能となる。上記した以外の課題、構成および効果は、以下の発明を実施するための形態の説明により明らかにされる。
【図面の簡単な説明】
【0009】
【
図2】実施例1に係る在庫管理に関する機能ブロック図
【
図4A】在庫管理のアプリ画面の一例(類似する食材のうち、一方がタップされた状態)
【
図4B】在庫管理のアプリ画面の一例(類似する食材のうち、他方がタップされた状態)
【
図4C】在庫管理のアプリ画面の一例(同一の食材のうち、一方がタップされた状態)
【
図4D】在庫管理のアプリ画面の一例(同一の食材のうち、他方がタップされた状態)
【
図5】実施例1に係る在庫管理の動作を示したフロー図
【
図6】実施例2に係る在庫管理に関する機能ブロック図
【
図8】実施例3に係る在庫管理に関する機能ブロック図
【
図9】実施例3に係る在庫管理の動作を示したフロー図
【
図10】
図9におけるステップS120bの詳細を示したフロー図
【
図11】実施例4に係る在庫管理の動作を示したフロー図
【発明を実施するための形態】
【0010】
以下、図面を参照して本発明の実施形態を説明する。実施例は、本発明を説明するための例示であって、説明の明確化のため、適宜、省略および簡略化がなされている。本発明は、他の種々の形態でも実施することが可能である。特に限定しない限り、各構成要素は単数でも複数でも構わない。
【0011】
また、発明を実施するための形態では、貯蔵庫として冷蔵庫を例に説明するが、収納棚やストッカーなど他の収容庫であっても構わない。
【0012】
同一あるいは同様の機能を有する構成要素が複数ある場合には、同一の符号に異なる添字を付して説明する場合がある。また、これらの複数の構成要素を区別する必要がない場合には、添字を省略して説明する場合がある。
【実施例0013】
本発明の実施例1に係る貯蔵庫の構造ついて、
図1を用いて説明する。
【0014】
図1は貯蔵庫の構造を示した鳥観図である。1は冷蔵庫であり、10は冷蔵庫1が具備する回転扉貯蔵室であり、11は回転扉貯蔵室10を封止するための左扉であり、12は回転扉貯蔵室10を封止するための右扉であり、20は第1の引出扉貯蔵室であり、21は第2の引出扉貯蔵室であり、30は第3の引出扉貯蔵室であり、40は第4の引出扉貯蔵室であり、100は庫内アンテナであり、110は庫外アンテナであり、120aはカメラである。
図1では、回転扉貯蔵室の左扉11および右扉12は閉鎖されており、第1の引出扉貯蔵室20~第4の引出扉貯蔵室40も閉鎖されている状態を示している。
【0015】
第1の引出扉貯蔵室20と第2の引出扉貯蔵室21は同一の高さ位置に設置され、第3の引出扉貯蔵室30は第1の引出扉貯蔵室20および第2の引出扉貯蔵室21より低い位置に設置され、第4の引出扉貯蔵室40は第3の引出扉貯蔵室30より低い位置に設置される。また、回転扉貯蔵室10は第1の引出扉貯蔵室20および第2の引出扉貯蔵室21より高い位置に設置される。ここで、回転扉貯蔵室10は冷蔵室であり、第1の引出扉貯蔵室20は製氷室であり、第2の引出扉貯蔵室21は冷凍室であり、第3の引出扉貯蔵室30は冷凍室であり、第4の引出扉貯蔵室40は野菜室である。なお、上記貯蔵室の分類は一例であり、第3の引出扉貯蔵室30が野菜室で、第4の引出扉貯蔵室40が冷凍室であっても構わない。
【0016】
庫内アンテナ100は回転扉貯蔵室10の庫内天井に設置され、庫外アンテナ110およびカメラ120aは冷蔵庫1の上部に左扉11および右扉12が開放された状態においても冷蔵庫1より前面方向に突出するように設置された突起部に設置される。庫内アンテナ100は回転扉貯蔵室10内に存在するRFIDタグを読み取り、庫外アンテナ110は回転扉貯蔵室10外に存在するRFIDタグを読み取るように各々読取領域が設定される。カメラ120aは食材が貯蔵された状態の少なくとも回転扉貯蔵室10の内部を正面方向から撮影できるように設定され、食材を含む画像(第1画像)を取得する。
【0017】
次に、本発明の実施例1に係る在庫管理動作について、
図2~
図5を用いて説明する。
【0018】
図2は回転扉貯蔵室10での在庫管理に関する機能ブロック図であり、
図3は在庫リストの一例であり、
図4A~
図4Dはユーザーに提供される在庫管理結果表示の一例であり、
図5は回転扉貯蔵室10での在庫管理に関するシステム動作フローである。
【0019】
図2において、200は読取部であり、210は扉開閉情報生成部であり、220は在庫リスト生成部であり、230はID-食材情報データベースであり、240は類似度算出部であり、250は統合部であり、260は表示部であり、300はカメラ画像(第1画像)であり、410は食材の外観画像(第2画像)である。読取部200は、食材に貼付されたRFIDタグを読み取るものであり、庫内アンテナ100および庫外アンテナ110を含む。扉開閉情報生成部210は、回転扉貯蔵室10などの扉の開閉を検知するセンサを含む。在庫リスト生成部220は、読取部200による読取結果に基づき、IDに対応した食材情報が格納される在庫リストを生成する。ID-食材情報データベース230は、流通している食材に付されるIDごとに、対応する食材情報が記録されたデータベースである。類似度算出部240は、カメラ120aが取得したカメラ画像300と、在庫リストに格納された食材情報(例えば外観画像410)と、に基づき、類似度を算出する。統合部250は、類似度が所定の閾値以上となる食材情報を、カメラ画像300に紐付ける。表示部260は、回転扉貯蔵室10などの貯蔵室の内部を撮影したカメラ画像300や在庫リストなどを表示するものであり、カメラ画像300のうち所定の食材の領域が指定(タップ)された場合、統合部250によって紐付けられた食材情報を、カメラ画像300に重畳させて表示する。
【0020】
図3において、400は在庫リストであり、401aはIDに対応する食材情報であり、410はIDに対応する食材の外観画像であり、420はIDに対応する食材の品名であり、430は食材の貯蔵場所(回転扉貯蔵室10、第1の引出扉貯蔵室20~第4の引出扉貯蔵室40)であり、440は食材の消費期限(または賞味期限)である。つまり、在庫リスト400には、冷蔵庫1に貯蔵される食材ごとに、少なくともこれら4つの要素から構成される食材情報401aが格納される。外観画像410、品名420および消費期限440については、在庫リスト生成部220が、読取部200が読み取ったIDをID-食材情報データベース230と照合することで、格納される。なお、ここでは説明の簡便化のため、在庫リストを構成する要素としてこれら4つを挙げているが、これ以外に食材が冷蔵庫1に最初に入庫された日時に加えて、RFIDタグのIDに紐づく生産国、生産者などの要素を具備しても構わない。
【0021】
図4A~
図4Dにおいて、600はアプリ画面であり、700はアプリ画面をタップするユーザーであり、500a~500cはカメラ画像300aまたはカメラ画像300b内の食材位置(領域)に対応した食材候補の内容であり、510a~510dは食材である。なお、
図4Aおよび
図4Bにおいては、カメラ画像300aは同一であり、パッケージは類似するものの異なる食材(食材500aが〇〇〇納豆、食材500bが〇〇〇豆腐)が貯蔵されている。
図4Cおよび
図4Dにおいては、カメラ画像300bは同一であり、同一の食材であるが消費期限(または賞味期限)が異なる(食材500cも食材500dも〇〇〇納豆)が複数貯蔵されている。また、
図4Aではユーザーは食材500aをタップしており、
図4Bではユーザーは食材500bをタップしており、
図4Cではユーザーは食材500cをタップしており、
図4Dではユーザーは食材500dをタップしている。
【0022】
図4A~
図4Dでは、類似度が所定値以上となる食材情報が複数(2つ)あるため、表示部260は、それぞれの食材情報を候補として上下に並べて表示している。また、
図4Aおよび
図4Bでは、類似度の高い食材を優先して上方に表示している。さらに、
図4Cおよび
図4Dでは、消費期限(または賞味期限)が近い食材を優先して上方に表示しても良い。このように、カメラ画像内の食材位置と、食材情報を厳密に1対1対応させていないので、類似または同一の食材が複数ある場合でも、食材の在庫管理が可能となる。
【0023】
図5を用いて、本発明の実施例1に係る在庫管理動作フローを説明する。まず、扉開閉情報生成部210が「開」情報を出力するか否かが判定される(ステップS100)。ユーザーが回転扉貯蔵室10の左扉11または右扉12を開放した場合、扉開閉情報生成部210は「開」情報を出力するため、読取部200はRFIDタグの読み取りを開始し、少なくともタグID、読取時刻、読み取ったアンテナ名称(庫内アンテナ100または庫外アンテナ110)を出力する(ステップS110)。また、扉開閉情報生成部210が「開」情報を出力した場合、カメラ120aは撮影を開始し、少なくともカメラ画像を出力する(ステップS120a)。
【0024】
次に、扉開閉情報生成部210が「閉」情報を出力するか否かが判定される(ステップS130)。所定時間が経過しても「閉」情報が出力されない場合は、再びステップS110およびステップS120aに戻り、RFIDタグの読み取りおよび画像の撮影が繰り返される。
【0025】
一方、ユーザーが回転扉貯蔵室10の左扉11および右扉12を閉鎖した場合、扉開閉情報生成部210は「閉」情報を出力するため、在庫リスト生成部220は読取部200から出力されるRFIDタグの読取結果に基づく在庫判定を実施する(ステップS140)。具体的には、あるIDを有するRFIDタグを庫内アンテナの方が庫外アンテナより遅い時刻まで読み取っていた場合は「入庫」と判定され、逆に庫外アンテナの方が庫内アンテナより遅い時刻まで読み取っていた場合は「出庫」と判定される。また、庫内アンテナでしか読み取れていない場合は「入庫」と判定され、逆に庫外アンテナでしか読み取れていない場合は「出庫」と判定される。さらに、いずれのアンテナでも読み取れていないものの在庫リストにIDが存在する場合は「在庫」と判定される。そして、庫内アンテナの方が庫外アンテナより遅い時刻まで読み取っていたものの、在庫リストにIDが存在する場合も「在庫」と判定される。
【0026】
ステップS140にて「入庫」または「在庫」と判定された場合、在庫リスト生成部220は、対象の食材のRFIDタグが持つID情報をID-食材情報データベース230と照合し、在庫リスト400を生成する(ステップS150)。なお、ステップS140にて「出庫」と判定された場合、在庫リスト生成部220は、対象の食材に関する情報を在庫リスト400から削除する。この削除された食材に関する情報は、「出庫リスト」や冷蔵庫1に貯蔵された履歴がある「履歴リスト」など他のリストとして管理されても構わない。
【0027】
その後、類似度算出部240は、ステップS120aにおいて出力されたカメラ画像300と、ステップS150で生成された在庫リスト400に格納された外観画像410と、を比較し、類似度を算出する(ステップS160)。さらに、統合部250は、類似度が予め設定された閾値以上となる食材情報401aを、カメラ画像300内の食材が写っている画素領域に紐付け、食材位置に対応した食材候補の内容500として出力する(ステップS170)。最後に、表示部260は、カメラ画像300内の食材が写っている画素領域をユーザーがタップした場合、同領域に紐付けられた食材候補の内容500をアプリ画面上に表示する(ステップS180)。
【0028】
以上のシステム動作により、パッケージは類似するものの、異なる食材が貯蔵されている場合において、ユーザーがカメラ画像の食材が写っている画素領域をタップ(指定)すると、その食材情報の候補が表示され、ユーザーにカメラ画像をベースとしてより詳細な食材情報を提供できる(
図4Aおよび
図4B)。また、同一の食材であるが消費期限(または賞味期限)が異なる食材が複数貯蔵されている場合においても、ユーザーがカメラ画像の食材が写っている画素領域をタップ(指定)すると、その食材情報の候補が表示されるため、ユーザーにカメラ画像をベースとしてより詳細な食材情報を提供できる(
図4Cおよび
図4D)。また、冷蔵庫1に貯蔵されている食材の数、つまり在庫リスト400が有する食材情報401aの数は多くても100オーダーであり、世の中で流通している食材(商品)の数に比べて圧倒的に少ないため、カメラ画像と食材情報に紐づけられた食材の外観画像との類似度算出の精度を高められると同時に、演算量を低減できる。
【0029】
なお、本発明の実施例1に係る類似度算出部240は、カメラ画像300と在庫リスト400に格納された食材の外観画像410とを比較する動作において、カメラ120aが撮影した貯蔵室(本実施例では回転扉貯蔵室10)に貯蔵された食材に対応する食材情報401aを在庫リスト400から予め選択し、当該食材情報401a(外観画像410)とカメラ画像300とを比較しても構わない。この場合、比較する食材情報401aが選択しない場合に比べて少なくなるため、比較結果の精度が向上するとともに、演算量を低減できる効果がある。
【0030】
また、本発明の実施例1ではRFIDタグを読み取る庫内アンテナは回転扉貯蔵室10のみに設置したが、第1の引出扉貯蔵室20~第4の引出扉貯蔵室40にも設置して、第1の引出扉貯蔵室~第4の引出扉貯蔵室に貯蔵される食材の在庫リストを生成しても構わない。また、カメラ120aは少なくとも回転扉貯蔵室10内部に貯蔵された状態の食材の画像(カメラ画像)を取得するように設置したが、第1の引出扉貯蔵室20~第4の引出扉貯蔵室40内部に貯蔵された状態の食材の画像(カメラ画像)を取得できるように設置しても構わない。この場合、食材の管理範囲が冷蔵庫1全体に拡張できるという効果がある。
【0031】
なお、食材情報と紐付けるカメラ画像は、カメラが撮像した生画像でも、カメラが撮像した生画像を加工した画像でも、どちらでも良い。さらに、食材情報と紐付けるカメラ画像は、カメラによって取得した動画を画像に加工したものでも良い。
【0032】
なお、扉開閉情報生成部210による扉開閉状態の検知は、貯蔵室側に磁気センサを設置し、扉側に磁石を設置し、磁気センサの出力電力の変化量が所定の閾値を超えた場合に「開」または「閉」を判定する構造が望ましい。ただし、磁気センサに限らず、回転扉に設置した角速度センサや加速度センサ、引出扉に設置した加速度センサ、引出扉と貯蔵室との距離を検知するTOF(Time of Flight)センサなどを用いて、センサ出力の変化量が所定の閾値を超えた場合に「開」または「閉」を判定する構造であっても構わない。また、各貯蔵室内に温度センサまたは湿度センサを設置し、温度または湿度の変化量が所定の閾値を超えた場合に「開」または「閉」を判定する構造であっても構わない。
本発明の実施例2において、類似度算出部240は、カメラ画像300と外観画像410との類似度を算出する際に、特徴抽出部270が抽出した第1の特徴情報と、在庫リスト400に格納された第2の特徴情報460と、の比較結果を用いることができる。このとき、類似度算出部240は、在庫リスト400に格納された食材の品名420も用いて、類似度を算出しても良い。本発明の実施例2では、類似度を算出するための要素が実施例1に比べて増えるため、類似度算出の精度を高められる効果がある。