IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日立アプライアンス株式会社の特許一覧

<>
  • 特開-在庫管理システム 図1
  • 特開-在庫管理システム 図2
  • 特開-在庫管理システム 図3
  • 特開-在庫管理システム 図4A
  • 特開-在庫管理システム 図4B
  • 特開-在庫管理システム 図4C
  • 特開-在庫管理システム 図4D
  • 特開-在庫管理システム 図5
  • 特開-在庫管理システム 図6
  • 特開-在庫管理システム 図7
  • 特開-在庫管理システム 図8
  • 特開-在庫管理システム 図9
  • 特開-在庫管理システム 図10
  • 特開-在庫管理システム 図11
  • 特開-在庫管理システム 図12
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024164393
(43)【公開日】2024-11-27
(54)【発明の名称】在庫管理システム
(51)【国際特許分類】
   F25D 23/00 20060101AFI20241120BHJP
   B65G 1/137 20060101ALI20241120BHJP
   G06Q 10/00 20230101ALI20241120BHJP
【FI】
F25D23/00 301G
B65G1/137 A
G06Q10/00
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2023079838
(22)【出願日】2023-05-15
(71)【出願人】
【識別番号】399048917
【氏名又は名称】日立グローバルライフソリューションズ株式会社
(74)【代理人】
【識別番号】110000350
【氏名又は名称】ポレール弁理士法人
(72)【発明者】
【氏名】栗山 哲
(72)【発明者】
【氏名】林 正二
(72)【発明者】
【氏名】梅澤 功一
(72)【発明者】
【氏名】京谷 浩平
【テーマコード(参考)】
3F522
3L345
5L010
5L049
【Fターム(参考)】
3F522AA10
3F522BB16
3F522BB22
3F522CC09
3F522DD03
3F522DD23
3F522DD26
3F522DD32
3F522FF12
3F522FF24
3F522GG03
3F522GG17
3F522GG37
3F522HH22
3F522LL36
3L345AA02
3L345AA21
3L345EE03
3L345JJ03
3L345JJ13
3L345JJ14
3L345JJ23
3L345JJ26
3L345KK02
3L345KK03
3L345KK04
5L010AA22
5L049AA22
(57)【要約】
【課題】撮像した画像と、在庫リストに格納された食材情報とを、少ない演算量で紐づけることのできる在庫管理システムを提供する。
【解決手段】食材に貼付されたIDを読み取る読取部と、前記食材を含む第1画像を取得するカメラと、を用いて、前記食材の在庫を管理する在庫管理システムにおいて、前記読取部による読取結果に基づき、前記IDに対応した食材情報が格納される在庫リストを生成する在庫リスト生成部と、前記カメラが取得した前記第1画像と、前記在庫リストに格納された前記食材情報と、に基づき類似度を算出する類似度算出部と、前記類似度が所定の閾値以上となる前記食材情報を、前記第1画像に紐付ける統合部と、を備えたことを特徴とする。
【選択図】 図2
【特許請求の範囲】
【請求項1】
食材に貼付されたIDを読み取る読取部と、前記食材を含む第1画像を取得するカメラと、を用いて、前記食材の在庫を管理する在庫管理システムにおいて、
前記読取部による読取結果に基づき、前記IDに対応した食材情報が格納される在庫リストを生成する在庫リスト生成部と、
前記カメラが取得した前記第1画像と、前記在庫リストに格納された前記食材情報と、に基づき類似度を算出する類似度算出部と、
前記類似度が所定の閾値以上となる前記食材情報を、前記第1画像に紐付ける統合部と、を備えたことを特徴とする在庫管理システム。
【請求項2】
請求項1において、
前記第1画像は、前記食材が貯蔵された状態の貯蔵室内をカメラで撮影した画像であり、
前記第1画像のうち前記食材の領域が指定された場合に、前記統合部によって紐付けられた前記食材情報を表示する表示部を、さらに備えたことを特徴とする在庫管理システム。
【請求項3】
請求項2において、
前記類似度が所定の閾値以上となる前記食材情報が複数あるとき、前記表示部は、それぞれの前記食材情報を並べて表示することを特徴とする在庫管理システム。
【請求項4】
請求項1において、
前記在庫リストには、前記食材情報として、前記IDに対応する外観画像である第2画像も格納され、
前記類似度算出部は、前記第1画像と前記第2画像を比較して、類似度を算出することを特徴とする在庫管理システム。
【請求項5】
請求項4において、
前記第1画像から、前記食材の種別またはパッケージに関する第1の特徴情報を抽出する特徴抽出部を、さらに備え、
前記在庫リストには、前記食材情報として、前記IDに対応する第2の特徴情報も格納され、
前記類似度算出部は、第1画像から抽出された前記第1の特徴情報と、前記在庫リストに格納された前記第2の特徴情報と、を比較して、類似度を算出することを特徴とする在庫管理システム。
【請求項6】
請求項1において、
前記カメラが、取得した動画に基づき前記食材の入庫動作があったと判断したときの時刻を第1の入庫時刻とし、
前記在庫リスト生成部が、前記読取部による読取結果に基づき前記食材の入庫を判定したときの時刻を第2の入庫時刻とすると、
前記類似度算出部は、前記第1画像と、前記第1の入庫時刻と前記第2の入庫時刻との差異が所定の閾値以下となる前記食材情報と、に基づき類似度を算出することを特徴とする在庫管理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、在庫管理システムに関する。
【背景技術】
【0002】
食材の過剰な在庫による食品ロスの低減に向けて、冷蔵庫などの貯蔵庫に貯蔵される食材の在庫管理システムが提案されている。在庫管理システムの中には、貯蔵庫の内部をカメラで撮影し、撮影画像をスマートフォンなどで確認できるようにしたものもある。さらに、在庫管理システムの中には、食材に付されたRFID(Radio Frequency Identifier)などのタグを元に在庫管理をするものもある。
【0003】
また、撮像した物品の画像と、読み取られたタグ情報と、に基づき、テーブル形式の物品管理情報(在庫リスト)を生成して、当該情報に基づいて在庫管理を行う技術として、特許文献1が知られている。この特許文献1には、「画像物品特定部236は、例えば、複数の物品名と複数の画像とを対応付けた対応付けデータにおける複数の画像に対して、撮像部224が撮像した物品10の画像をもとに類似画像検索を実行する。そして、画像物品特定部236は、類似度が最も高い画像の類似度が予め定められた閾値より大きい場合に、当該画像に対応付けられた物品名を取得して、物品管理情報更新部232に通知する」との記載もある(段落0036)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2015-125535号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1に記載の技術では、カメラで撮像した物品画像に類似する画像を検索し、類似度の高い画像から物品名を特定するとともに、タグ情報から特定される物品名との対応付けを行っている。このとき検索される対象は、流通している物品に関する画像であるが、その数は膨大であるため、類似度を計算するための負荷が高くなってしまう。
【0006】
本発明の目的は、撮像した画像と、在庫リストに格納された食材情報とを、少ない演算量で紐づけることのできる在庫管理システムを提供することにある。
【課題を解決するための手段】
【0007】
前述の改題を解決するため、本発明は、食材に貼付されたIDを読み取る読取部と、前記食材を含む第1画像を取得するカメラと、を用いて、前記食材の在庫を管理する在庫管理システムにおいて、前記読取部による読取結果に基づき、前記IDに対応した食材情報が格納される在庫リストを生成する在庫リスト生成部と、前記カメラが取得した前記第1画像と、前記在庫リストに格納された前記食材情報と、に基づき類似度を算出する類似度算出部と、前記類似度が所定の閾値以上となる前記食材情報を、前記第1画像に紐付ける統合部と、を備えたことを特徴とする。
【発明の効果】
【0008】
本発明によれば、撮像した画像と、在庫リストに格納された食材情報とを、少ない演算量で紐づけることのできる在庫管理システムを提供することが可能となる。上記した以外の課題、構成および効果は、以下の発明を実施するための形態の説明により明らかにされる。
【図面の簡単な説明】
【0009】
図1】貯蔵庫の構造を示した鳥観図
図2】実施例1に係る在庫管理に関する機能ブロック図
図3】実施例1に係る在庫リストの一例
図4A】在庫管理のアプリ画面の一例(類似する食材のうち、一方がタップされた状態)
図4B】在庫管理のアプリ画面の一例(類似する食材のうち、他方がタップされた状態)
図4C】在庫管理のアプリ画面の一例(同一の食材のうち、一方がタップされた状態)
図4D】在庫管理のアプリ画面の一例(同一の食材のうち、他方がタップされた状態)
図5】実施例1に係る在庫管理の動作を示したフロー図
図6】実施例2に係る在庫管理に関する機能ブロック図
図7】実施例2に係る在庫リストの一例
図8】実施例3に係る在庫管理に関する機能ブロック図
図9】実施例3に係る在庫管理の動作を示したフロー図
図10図9におけるステップS120bの詳細を示したフロー図
図11】実施例4に係る在庫管理の動作を示したフロー図
図12】実施例5に係る在庫リストの一例
【発明を実施するための形態】
【0010】
以下、図面を参照して本発明の実施形態を説明する。実施例は、本発明を説明するための例示であって、説明の明確化のため、適宜、省略および簡略化がなされている。本発明は、他の種々の形態でも実施することが可能である。特に限定しない限り、各構成要素は単数でも複数でも構わない。
【0011】
また、発明を実施するための形態では、貯蔵庫として冷蔵庫を例に説明するが、収納棚やストッカーなど他の収容庫であっても構わない。
【0012】
同一あるいは同様の機能を有する構成要素が複数ある場合には、同一の符号に異なる添字を付して説明する場合がある。また、これらの複数の構成要素を区別する必要がない場合には、添字を省略して説明する場合がある。
【実施例0013】
本発明の実施例1に係る貯蔵庫の構造ついて、図1を用いて説明する。
【0014】
図1は貯蔵庫の構造を示した鳥観図である。1は冷蔵庫であり、10は冷蔵庫1が具備する回転扉貯蔵室であり、11は回転扉貯蔵室10を封止するための左扉であり、12は回転扉貯蔵室10を封止するための右扉であり、20は第1の引出扉貯蔵室であり、21は第2の引出扉貯蔵室であり、30は第3の引出扉貯蔵室であり、40は第4の引出扉貯蔵室であり、100は庫内アンテナであり、110は庫外アンテナであり、120aはカメラである。図1では、回転扉貯蔵室の左扉11および右扉12は閉鎖されており、第1の引出扉貯蔵室20~第4の引出扉貯蔵室40も閉鎖されている状態を示している。
【0015】
第1の引出扉貯蔵室20と第2の引出扉貯蔵室21は同一の高さ位置に設置され、第3の引出扉貯蔵室30は第1の引出扉貯蔵室20および第2の引出扉貯蔵室21より低い位置に設置され、第4の引出扉貯蔵室40は第3の引出扉貯蔵室30より低い位置に設置される。また、回転扉貯蔵室10は第1の引出扉貯蔵室20および第2の引出扉貯蔵室21より高い位置に設置される。ここで、回転扉貯蔵室10は冷蔵室であり、第1の引出扉貯蔵室20は製氷室であり、第2の引出扉貯蔵室21は冷凍室であり、第3の引出扉貯蔵室30は冷凍室であり、第4の引出扉貯蔵室40は野菜室である。なお、上記貯蔵室の分類は一例であり、第3の引出扉貯蔵室30が野菜室で、第4の引出扉貯蔵室40が冷凍室であっても構わない。
【0016】
庫内アンテナ100は回転扉貯蔵室10の庫内天井に設置され、庫外アンテナ110およびカメラ120aは冷蔵庫1の上部に左扉11および右扉12が開放された状態においても冷蔵庫1より前面方向に突出するように設置された突起部に設置される。庫内アンテナ100は回転扉貯蔵室10内に存在するRFIDタグを読み取り、庫外アンテナ110は回転扉貯蔵室10外に存在するRFIDタグを読み取るように各々読取領域が設定される。カメラ120aは食材が貯蔵された状態の少なくとも回転扉貯蔵室10の内部を正面方向から撮影できるように設定され、食材を含む画像(第1画像)を取得する。
【0017】
次に、本発明の実施例1に係る在庫管理動作について、図2図5を用いて説明する。
【0018】
図2は回転扉貯蔵室10での在庫管理に関する機能ブロック図であり、図3は在庫リストの一例であり、図4A図4Dはユーザーに提供される在庫管理結果表示の一例であり、図5は回転扉貯蔵室10での在庫管理に関するシステム動作フローである。
【0019】
図2において、200は読取部であり、210は扉開閉情報生成部であり、220は在庫リスト生成部であり、230はID-食材情報データベースであり、240は類似度算出部であり、250は統合部であり、260は表示部であり、300はカメラ画像(第1画像)であり、410は食材の外観画像(第2画像)である。読取部200は、食材に貼付されたRFIDタグを読み取るものであり、庫内アンテナ100および庫外アンテナ110を含む。扉開閉情報生成部210は、回転扉貯蔵室10などの扉の開閉を検知するセンサを含む。在庫リスト生成部220は、読取部200による読取結果に基づき、IDに対応した食材情報が格納される在庫リストを生成する。ID-食材情報データベース230は、流通している食材に付されるIDごとに、対応する食材情報が記録されたデータベースである。類似度算出部240は、カメラ120aが取得したカメラ画像300と、在庫リストに格納された食材情報(例えば外観画像410)と、に基づき、類似度を算出する。統合部250は、類似度が所定の閾値以上となる食材情報を、カメラ画像300に紐付ける。表示部260は、回転扉貯蔵室10などの貯蔵室の内部を撮影したカメラ画像300や在庫リストなどを表示するものであり、カメラ画像300のうち所定の食材の領域が指定(タップ)された場合、統合部250によって紐付けられた食材情報を、カメラ画像300に重畳させて表示する。
【0020】
図3において、400は在庫リストであり、401aはIDに対応する食材情報であり、410はIDに対応する食材の外観画像であり、420はIDに対応する食材の品名であり、430は食材の貯蔵場所(回転扉貯蔵室10、第1の引出扉貯蔵室20~第4の引出扉貯蔵室40)であり、440は食材の消費期限(または賞味期限)である。つまり、在庫リスト400には、冷蔵庫1に貯蔵される食材ごとに、少なくともこれら4つの要素から構成される食材情報401aが格納される。外観画像410、品名420および消費期限440については、在庫リスト生成部220が、読取部200が読み取ったIDをID-食材情報データベース230と照合することで、格納される。なお、ここでは説明の簡便化のため、在庫リストを構成する要素としてこれら4つを挙げているが、これ以外に食材が冷蔵庫1に最初に入庫された日時に加えて、RFIDタグのIDに紐づく生産国、生産者などの要素を具備しても構わない。
【0021】
図4A図4Dにおいて、600はアプリ画面であり、700はアプリ画面をタップするユーザーであり、500a~500cはカメラ画像300aまたはカメラ画像300b内の食材位置(領域)に対応した食材候補の内容であり、510a~510dは食材である。なお、図4Aおよび図4Bにおいては、カメラ画像300aは同一であり、パッケージは類似するものの異なる食材(食材500aが〇〇〇納豆、食材500bが〇〇〇豆腐)が貯蔵されている。図4Cおよび図4Dにおいては、カメラ画像300bは同一であり、同一の食材であるが消費期限(または賞味期限)が異なる(食材500cも食材500dも〇〇〇納豆)が複数貯蔵されている。また、図4Aではユーザーは食材500aをタップしており、図4Bではユーザーは食材500bをタップしており、図4Cではユーザーは食材500cをタップしており、図4Dではユーザーは食材500dをタップしている。
【0022】
図4A図4Dでは、類似度が所定値以上となる食材情報が複数(2つ)あるため、表示部260は、それぞれの食材情報を候補として上下に並べて表示している。また、図4Aおよび図4Bでは、類似度の高い食材を優先して上方に表示している。さらに、図4Cおよび図4Dでは、消費期限(または賞味期限)が近い食材を優先して上方に表示しても良い。このように、カメラ画像内の食材位置と、食材情報を厳密に1対1対応させていないので、類似または同一の食材が複数ある場合でも、食材の在庫管理が可能となる。
【0023】
図5を用いて、本発明の実施例1に係る在庫管理動作フローを説明する。まず、扉開閉情報生成部210が「開」情報を出力するか否かが判定される(ステップS100)。ユーザーが回転扉貯蔵室10の左扉11または右扉12を開放した場合、扉開閉情報生成部210は「開」情報を出力するため、読取部200はRFIDタグの読み取りを開始し、少なくともタグID、読取時刻、読み取ったアンテナ名称(庫内アンテナ100または庫外アンテナ110)を出力する(ステップS110)。また、扉開閉情報生成部210が「開」情報を出力した場合、カメラ120aは撮影を開始し、少なくともカメラ画像を出力する(ステップS120a)。
【0024】
次に、扉開閉情報生成部210が「閉」情報を出力するか否かが判定される(ステップS130)。所定時間が経過しても「閉」情報が出力されない場合は、再びステップS110およびステップS120aに戻り、RFIDタグの読み取りおよび画像の撮影が繰り返される。
【0025】
一方、ユーザーが回転扉貯蔵室10の左扉11および右扉12を閉鎖した場合、扉開閉情報生成部210は「閉」情報を出力するため、在庫リスト生成部220は読取部200から出力されるRFIDタグの読取結果に基づく在庫判定を実施する(ステップS140)。具体的には、あるIDを有するRFIDタグを庫内アンテナの方が庫外アンテナより遅い時刻まで読み取っていた場合は「入庫」と判定され、逆に庫外アンテナの方が庫内アンテナより遅い時刻まで読み取っていた場合は「出庫」と判定される。また、庫内アンテナでしか読み取れていない場合は「入庫」と判定され、逆に庫外アンテナでしか読み取れていない場合は「出庫」と判定される。さらに、いずれのアンテナでも読み取れていないものの在庫リストにIDが存在する場合は「在庫」と判定される。そして、庫内アンテナの方が庫外アンテナより遅い時刻まで読み取っていたものの、在庫リストにIDが存在する場合も「在庫」と判定される。
【0026】
ステップS140にて「入庫」または「在庫」と判定された場合、在庫リスト生成部220は、対象の食材のRFIDタグが持つID情報をID-食材情報データベース230と照合し、在庫リスト400を生成する(ステップS150)。なお、ステップS140にて「出庫」と判定された場合、在庫リスト生成部220は、対象の食材に関する情報を在庫リスト400から削除する。この削除された食材に関する情報は、「出庫リスト」や冷蔵庫1に貯蔵された履歴がある「履歴リスト」など他のリストとして管理されても構わない。
【0027】
その後、類似度算出部240は、ステップS120aにおいて出力されたカメラ画像300と、ステップS150で生成された在庫リスト400に格納された外観画像410と、を比較し、類似度を算出する(ステップS160)。さらに、統合部250は、類似度が予め設定された閾値以上となる食材情報401aを、カメラ画像300内の食材が写っている画素領域に紐付け、食材位置に対応した食材候補の内容500として出力する(ステップS170)。最後に、表示部260は、カメラ画像300内の食材が写っている画素領域をユーザーがタップした場合、同領域に紐付けられた食材候補の内容500をアプリ画面上に表示する(ステップS180)。
【0028】
以上のシステム動作により、パッケージは類似するものの、異なる食材が貯蔵されている場合において、ユーザーがカメラ画像の食材が写っている画素領域をタップ(指定)すると、その食材情報の候補が表示され、ユーザーにカメラ画像をベースとしてより詳細な食材情報を提供できる(図4Aおよび図4B)。また、同一の食材であるが消費期限(または賞味期限)が異なる食材が複数貯蔵されている場合においても、ユーザーがカメラ画像の食材が写っている画素領域をタップ(指定)すると、その食材情報の候補が表示されるため、ユーザーにカメラ画像をベースとしてより詳細な食材情報を提供できる(図4Cおよび図4D)。また、冷蔵庫1に貯蔵されている食材の数、つまり在庫リスト400が有する食材情報401aの数は多くても100オーダーであり、世の中で流通している食材(商品)の数に比べて圧倒的に少ないため、カメラ画像と食材情報に紐づけられた食材の外観画像との類似度算出の精度を高められると同時に、演算量を低減できる。
【0029】
なお、本発明の実施例1に係る類似度算出部240は、カメラ画像300と在庫リスト400に格納された食材の外観画像410とを比較する動作において、カメラ120aが撮影した貯蔵室(本実施例では回転扉貯蔵室10)に貯蔵された食材に対応する食材情報401aを在庫リスト400から予め選択し、当該食材情報401a(外観画像410)とカメラ画像300とを比較しても構わない。この場合、比較する食材情報401aが選択しない場合に比べて少なくなるため、比較結果の精度が向上するとともに、演算量を低減できる効果がある。
【0030】
また、本発明の実施例1ではRFIDタグを読み取る庫内アンテナは回転扉貯蔵室10のみに設置したが、第1の引出扉貯蔵室20~第4の引出扉貯蔵室40にも設置して、第1の引出扉貯蔵室~第4の引出扉貯蔵室に貯蔵される食材の在庫リストを生成しても構わない。また、カメラ120aは少なくとも回転扉貯蔵室10内部に貯蔵された状態の食材の画像(カメラ画像)を取得するように設置したが、第1の引出扉貯蔵室20~第4の引出扉貯蔵室40内部に貯蔵された状態の食材の画像(カメラ画像)を取得できるように設置しても構わない。この場合、食材の管理範囲が冷蔵庫1全体に拡張できるという効果がある。
【0031】
なお、食材情報と紐付けるカメラ画像は、カメラが撮像した生画像でも、カメラが撮像した生画像を加工した画像でも、どちらでも良い。さらに、食材情報と紐付けるカメラ画像は、カメラによって取得した動画を画像に加工したものでも良い。
【0032】
なお、扉開閉情報生成部210による扉開閉状態の検知は、貯蔵室側に磁気センサを設置し、扉側に磁石を設置し、磁気センサの出力電力の変化量が所定の閾値を超えた場合に「開」または「閉」を判定する構造が望ましい。ただし、磁気センサに限らず、回転扉に設置した角速度センサや加速度センサ、引出扉に設置した加速度センサ、引出扉と貯蔵室との距離を検知するTOF(Time of Flight)センサなどを用いて、センサ出力の変化量が所定の閾値を超えた場合に「開」または「閉」を判定する構造であっても構わない。また、各貯蔵室内に温度センサまたは湿度センサを設置し、温度または湿度の変化量が所定の閾値を超えた場合に「開」または「閉」を判定する構造であっても構わない。
【実施例0033】
本発明の実施例2に係る貯蔵庫の動作ついて、図6および図7を用いて説明する。
図6は回転扉貯蔵室10での在庫管理に関する機能ブロック図であり、図7は在庫リストの一例である。
【0034】
図6において、270はカメラ画像300から第1の特徴情報を抽出する特徴抽出部であり、310はカメラ画像300に第1の特徴情報が付加されたものである。ここで、特徴情報とは、食材の種別情報(乳製品、加工肉類、練り製品など)、食材のパッケージ情報(ペットボトル、缶、瓶、紙パックなど)、食材に印字された文字認識情報などである。また、在庫リスト生成部220は、ID-食材情報データベース230と照合し、食材情報として第2の特徴情報を含む在庫リスト400を生成する。図7において、461は食材の種別情報であり、462は食材のパッケージ情報であり、これらは第2の特徴情報460に相当する。
【0035】
本発明の実施例2において、類似度算出部240は、カメラ画像300と外観画像410との類似度を算出する際に、特徴抽出部270が抽出した第1の特徴情報と、在庫リスト400に格納された第2の特徴情報460と、の比較結果を用いることができる。このとき、類似度算出部240は、在庫リスト400に格納された食材の品名420も用いて、類似度を算出しても良い。本発明の実施例2では、類似度を算出するための要素が実施例1に比べて増えるため、類似度算出の精度を高められる効果がある。
【実施例0036】
本発明の実施例3に係る貯蔵庫の動作ついて、図8~10を用いて説明する。
図8は回転扉貯蔵室10での在庫管理に関する機能ブロック図であり、図9は回転扉貯蔵室10での在庫管理に関するシステム動作フローであり、図10図9におけるステップS120bの内部動作に関する動作フローである。
【0037】
図8において、120bはカメラであり、320はカメラが取得した動画に基づき食材の入庫動作があったと判断した第1の入庫時刻であり、330はトラッキングした物体(食材)が写った画素領域に第1の入庫時刻320が紐づけられたカメラ画像であり、450はRFIDタグの読取結果に基づく在庫判定により在庫リスト生成部220が食材の「入庫」と判定した第2の入庫時刻であり、280は在庫リスト候補絞り込み部であり、410aは絞り込まれた食材の外観画像である。なお、本発明の実施例3における在庫リストには、第2の入庫時刻450も食材情報として格納されている。
【0038】
図9および図10を用いて、本発明の実施例3に係る在庫管理動作フローを説明する。まず、扉開閉情報生成部210が「開」情報を出力するか否かが判定される(ステップS100)。ユーザーが回転扉貯蔵室10の左扉11または右扉12を開放した場合、扉開閉情報生成部210は「開」情報を出力するため、読取部200はRFIDタグの読み取りを開始し、少なくともタグID、読取時刻、読み取ったアンテナ名称(庫内アンテナ100または庫外アンテナ110)を出力する(ステップS110)。また、扉開閉情報生成部210が「開」情報を出力した場合、カメラ120bは撮影を開始し、少なくともカメラ画像を出力する(ステップS120b)。
【0039】
次に、ステップS120bの内部動作フローを、図10を用いて説明する。カメラ120bが画像の取得を開始した後、ユーザーの手に相当する体の一部を認識した場合、ユーザーの手に相当する体の一部の近傍に存在する物体を認識する(ステップS200~ステップS220)。さらに、入庫途中の物体をトラッキングし(ステップS230)、トラッキングした物体とユーザーの手に相当する体の一部との距離が閾値を超過したか否かを判定する(ステップS240)。閾値を超過した場合、トラッキングした物体は回転扉貯蔵室10内に貯蔵されたと判断し、第1の入庫時刻として時刻情報を取得する(ステップS250)。さらに、回転扉貯蔵室10を正面方向から見たカメラ画像300を取得した後、カメラ画像300において物体が写っている画素領域に第1の入庫時刻を紐付ける(ステップS260~ステップS270)。その後、トラッキングした物体が写った画素領域に第1の入庫時刻320が紐付けられたカメラ画像330を出力する(ステップS280)。
【0040】
続いて、図9に戻り、ステップS130以降の動作フローを説明する。ステップS130では、扉開閉情報生成部210が「閉」情報を出力するか否かが判定される。所定時間が経過しても「閉」情報が出力されない場合は、再びステップS110およびステップS120bに戻り、RFIDタグの読み取りおよび画像の撮影が繰り返される。
【0041】
一方、ユーザーが回転扉貯蔵室10の左扉11および右扉12を閉鎖した場合、扉開閉情報生成部210は「閉」情報を出力するため、在庫リスト生成部220は読取部200から出力されるRFIDタグの読取結果に基づく在庫判定を実施する(ステップS140)。
【0042】
ステップS140にて「入庫」または「在庫」と判定された場合、在庫リスト生成部220は、対象の食材のRFIDタグが持つID情報をID-食材情報データベース230と照合し、在庫リスト400を生成する(ステップS150a)。このステップS150aにおいて、在庫リスト生成部220は、在庫判定が実行された時刻を第2の入庫時刻として食材情報に付与する。なお、ステップS140にて「出庫」と判定された場合、在庫リスト生成部220は、対象の食材に関する情報を在庫リスト400から削除する。
【0043】
次に、在庫リスト候補絞り込み部280は、カメラ画像330から取得された第1の入庫時刻と、在庫リスト400に付与された第2の入庫時刻と、を比較し、時刻の差異が所定の閾値以下となる食材情報を在庫リスト400から選択する(ステップS190)。
【0044】
その後、類似度算出部240は、ステップS120bにおいて出力されたカメラ画像300と、ステップS190で選択された食材情報に対応する外観画像410aと、を比較し、類似度を算出する(ステップS160a)。さらに、統合部250は、類似度が予め設定された閾値以上となる食材情報を、カメラ画像300内の食材が写っている画素領域に紐付け、食材位置に対応した食材候補の内容として出力する(ステップS170)。最後に、表示部260は、カメラ画像300内の食材が写っている画素領域をユーザーがタップした場合、同領域に紐付けられた食材候補の内容をアプリ画面上に表示する(ステップS180)。
【0045】
本発明の実施例3では、カメラ120bが取得した動画に基づく第1の入庫時刻と、在庫リスト400に格納された第2の入庫時刻とを用いることで、カメラ画像330と比較する対象である食材の外観画像410aの数を実施例1または2より低減できるため、類似度算出の精度を高められるとともに、演算量を低減できる効果がある。
【0046】
なお、本実施例において、カメラ120bの設置位置は図1におけるカメラ120aと同様の位置に設置して構わない。また、カメラ120bは回転扉貯蔵室10の正面方向から撮影できるように設定され、少なくとも回転扉貯蔵室10内部に貯蔵された状態の食材の画像(カメラ画像)を取得できると同時に、回転扉貯蔵室10に入出庫する途中の食材の画像を取得できる任意の位置に設置して構わない。
【実施例0047】
本発明の実施例4に係る貯蔵庫の動作ついて、図11を用いて説明する。
図11は回転扉貯蔵室10での在庫管理に関するシステム動作フローである。ステップS100からステップS180aまでは、実施例3と同様である。
【0048】
ステップS180aの後、類似度算出部240は、ユーザーが選択した食材情報を正解値として認識する(ステップS300)。次に、在庫リスト生成部220は、当該食材をトラッキングしている最中(図10のステップS230)に様々な角度から撮影された画像を、食材情報に紐づく食材の外観画像410として、ID-食材情報データベース230に追加登録する(ステップS310)。なお、トラッキングしている最中にて取得した画像から、トラッキングした物体のみを輪郭抽出などの画像処理方法を用いて切り出し、背景情報を削除することが望ましい。
【0049】
本発明の実施例4では、ユーザーが回転扉貯蔵室10に食材を入出庫する度に、様々な角度から撮影された画像を、食材の外観画像410として、在庫リストに追加できるため、類似度算出の精度が、冷蔵庫1の利用頻度とともに向上させることが可能となる。
【実施例0050】
本発明の実施例5に係る貯蔵庫の動作ついて、図12を用いて説明する。
図12は在庫リストの一例である。470はユーザー入力領域であり、471はユーザー入力領域470を構成する文字情報入力領域であり、472はユーザー入力領域470を構成する発注登録領域である。
【0051】
本発明の実施例5では、ユーザーがカメラ画像をタップした後、表示されたカメラ画像内の食材位置に対応した食材候補の内容よりユーザーが所望の食材情報401cを選択し、さらにユーザー入力領域470に所望の情報を入力する。例えば、文字情報入力領域471には食材の占有者情報やアレルゲンを含むため食してはいけないユーザーがいることなど、ユーザーがメモしておきたい情報を入力する。また、発注登録領域472には食材を使い切った場合は使い切ったことを通知する、自動的に発注リストに追加する、自動発注を実施するなどの登録を行う。
【0052】
本発明の実施例5では、ユーザーがメモしておきたい情報を管理することが可能となる。さらに、食材が使い切られた場合の買い忘れを低減でき、ユーザーの利便性向上が可能となる。
【0053】
以上の各実施例では説明の簡便化のため、在庫リストを生成するための手段としてRFIDタグを例に挙げて説明したが、二次元バーコードなど他のIDを取得可能な媒体を用いても構わない。また、IDとしてはEPC(Electronic Product Code)コードのようなシリアル番号を具備するIDが望ましいが、JAN(Japanese Article Number)コードのようなシリアル番号を具備しないIDであっても構わない。
【0054】
また、各実施例において、カメラ120aまたは120bの設置位置は冷蔵庫1の回転扉貯蔵室10を正面方向から撮影できる位置に設置する構造を説明したが、回転扉貯蔵室10内部の天井や側面、左扉11の貯蔵室側、右扉12の貯蔵室側など任意の位置に、また複数設置しても構わない。また、各実施例ではカメラが画像を取得するタイミングは扉開閉情報生成部210が「開」を出力(ステップS100)してから扉開閉情報生成部210が「閉」を出力(ステップS130)するまでの間とする動作フローを説明したが、カメラ120が回転扉貯蔵室10内部の天井や側面、左扉11の貯蔵室側、右扉12の貯蔵室側などに設置される場合は扉開閉情報生成部210が「閉」を出力(ステップS130)する前に限らず「閉」を出力した後の所定のタイミング(次に扉開閉情報生成部210が「開」を出力するまでの間)であって構わない。なお、カメラ120が回転扉貯蔵室10内部の天井や側面などに設置される場合はカメラ120が画像を取得するタイミングで庫内灯またはカメラ120に併設された照明、またはそれら両方を点灯させることが望ましい。
【0055】
さらに、各実施例において、RFIDタグを読み取るアンテナとして庫内アンテナ100および庫外アンテナ110の2つのアンテナを用いる構造および在庫判定方法を説明したが、庫内アンテナ100のみを用いても構わない。また、各実施例ではRFIDタグを読み取るタイミングは扉開閉情報生成部210が「開」を出力(ステップS100)してから扉開閉情報生成部210が「閉」を出力(ステップS130)するまでの間とする動作フローを説明したが、庫内アンテナ100のみを用いる場合は扉開閉情報生成部210が「閉」を出力(ステップS130)する前に限らず「閉」を出力した後の所定のタイミング(次に扉開閉情報生成部210が「開」を出力するまでの間)であって構わない。同様に在庫リスト生成部220が在庫判定を実施し、在庫リスト400を生成する(ステップS140~ステップS150)のタイミングも扉開閉情報生成部210が「閉」を出力(ステップS130)した直後ではなく、扉開閉情報生成部210が「閉」を出力(ステップS130)しかつRFIDタグの読み取り動作(ステップS110)が終了した後の所定のタイミング(次に扉開閉情報生成部210が「開」を出力するまでの間)であって構わない。
【0056】
また、カメラ120で動画を取得するタイミングが任意の場合は、動画が取得されたタイミングに最も近い過去に格納された外観画像とカメラ画像300とを比較して、類似度を算出しても構わない。さら、ある実施例の構成や動作の一部を他の実施例の構成や動作に置き換えたり、追加したりしても良いし、カメラおよびアンテナの設置位置を任意の形で組み合わせても良い。
【符号の説明】
【0057】
1 冷蔵庫
10 回転扉貯蔵室
11 (回転扉貯蔵室の)左扉
12 (回転扉貯蔵室の)右扉
20 第1の引出扉貯蔵室
21 第2の引出扉貯蔵室
30 第3の引出扉貯蔵室
40 第4の引出扉貯蔵室
100 庫内アンテナ
110 庫外アンテナ
120 カメラ
200 読取部
210 扉開閉情報生成部
220 在庫リスト生成部
230 ID-食材情報データベース
240 類似度算出部
250 統合部
260 表示部
270 特徴抽出部
280 在庫リスト候補絞り込み部
300 カメラ画像
310 カメラ画像に第1の特徴情報が付加されたもの
320 第1の入庫時刻
330 第1の入庫時刻が紐付けられたカメラ画像
400 在庫リスト
401 食材情報
410 外観画像
420 (食材の)品名
430 (食材の)貯蔵場所
440 (食材の)消費期限(または賞味期限)
450 第2の入庫時刻
460 第2の特徴情報
461 (食材の)種別情報
462 (食材の)パッケージ情報
470 ユーザー入力領域
471 文字情報入力領域
472 発注登録領域
500 カメラ画像内の食材位置に対応した食材候補の内容
510 食材
600 アプリ画面
700 ユーザー
図1
図2
図3
図4A
図4B
図4C
図4D
図5
図6
図7
図8
図9
図10
図11
図12