(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-06
(45)【発行日】2024-11-14
(54)【発明の名称】画像管理システム、画像管理サーバ、画像管理方法、および、画像管理システムを生産する方法
(51)【国際特許分類】
F25D 23/00 20060101AFI20241107BHJP
【FI】
F25D23/00 301K
(21)【出願番号】P 2022025691
(22)【出願日】2022-02-22
【審査請求日】2023-09-26
(73)【特許権者】
【識別番号】399048917
【氏名又は名称】日立グローバルライフソリューションズ株式会社
(74)【代理人】
【識別番号】110001807
【氏名又は名称】弁理士法人磯野国際特許商標事務所
(72)【発明者】
【氏名】草野 慎太郎
(72)【発明者】
【氏名】長谷川 亮
(72)【発明者】
【氏名】船山 敦子
(72)【発明者】
【氏名】青山 勝
【審査官】西山 真二
(56)【参考文献】
【文献】特開2003-042626(JP,A)
【文献】特開2019-100633(JP,A)
【文献】中国特許出願公開第113468937(CN,A)
【文献】特開平10-009753(JP,A)
【文献】特開2016-223735(JP,A)
【文献】特開2016-057022(JP,A)
【文献】国際公開第2018/020541(WO,A1)
【文献】国際公開第2014/171119(WO,A1)
【文献】特開2021-071237(JP,A)
【文献】米国特許出願公開第2020/0404137(US,A1)
【文献】中国特許出願公開第111288744(CN,A)
(58)【調査した分野】(Int.Cl.,DB名)
F25D 23/00
(57)【特許請求の範囲】
【請求項1】
物品を収納する収納領域と、
前記収納領域を含む物品範囲を撮像する撮像部と、を備える収納庫と、
前記撮像部で撮像した加工前画像を取得する加工前画像取得手段と、
前記加工前画像を記憶する第1記憶手段と、
前記加工前画像
に顔を検出すると、当該顔が写っている領域に対して
、情報量を低下させる加工を実行させて、加工後画像を作成する加工後画像作成手段と、
前記加工後画像を記憶する第2記憶手段と、
前記加工前画像を、前記加工後画像の作成後に削除する削除手段と、
を備えることを特徴とする画像管理システム。
【請求項2】
物品を収納する収納領域を備える収納庫と、
前記収納領域を含む物品範囲を撮像する撮像部と、
前記撮像部で撮像した加工前画像を取得する加工前画像取得手段と、
前記加工前画像を記憶する第1記憶手段と、
前記加工前画像に
顔を検出すると、当該顔が写っている領域に対して
、情報量を低下させる加工を実行させて、加工後画像を作成する加工後画像作成手段と、
ユーザが使用する端末が前記加工後画像を閲覧可能にさせる手段と、
を備えることを特徴とする画像管理システム。
【請求項3】
前記加工後画像を閲覧可能なユーザを、前記収納庫又は前記撮像部の個体番号に紐付けて登録する登録手段、
新たに前記個体番号に紐づけるユーザの登録にあたり、当該ユーザに対して、既に登録済のユーザに関する情報を提示する登録済ユーザ情報提示手段、
を更に備えることを特徴とする請求項1
又は2に記載の画像管理システム。
【請求項4】
新たに前記個体番号に紐づけるユーザの登録にあたり、当該ユーザに既に登録済のユーザを選択させて、選択された前記登録済のユーザの閲覧権限を削除する登録済ユーザ権限削除手段、
を更に備えることを特徴とする請求項
3に記載の画像管理システム。
【請求項5】
前記第1記憶手段に付与されているIPアドレスは、前記第2記憶手段に付与されているIPアドレスとは異なる、
ことを特徴とする請求項1に記載の画像管理システム。
【請求項6】
物品を収納する収納領域を含む物品範囲を撮像部で撮像した加工前画像を取得する加工前画像取得手段と、
前記加工前画像を記憶する第1記憶手段と、
前記加工前画像
に顔を検出すると、当該顔が写っている領域に対して
、情報量を低下させる加工を実行させて、加工後画像を作成する加工後画像作成手段と、
前記加工後画像を記憶する第2記憶手段と、
前記加工前画像を、少なくとも前記加工後画像が削除されるよりも前に削除する削除手段と、
を備えることを特徴とする画像管理サーバ。
【請求項7】
1以上の演算部が、
収納庫の物品収納領域を含む物品範囲を撮像部で撮像した加工前画像を取得する手順、
前記加工前画像を記憶させる手順、
前記加工前画像
に顔を検出すると、当該顔が写っている領域に対して
、情報量を低下させる加工を実行させて、加工後画像を作成させる手順、
前記加工後画像を記憶させる手順、
前記加工前画像を、少なくとも前記加工後画像が削除されるよりも前に削除する手順、
を実行することを特徴とする画像管理方法。
【請求項8】
物品を収納する収納領域と、
前記収納領域を含む物品範囲を撮像する撮像部と、を備える収納庫と、
前記撮像部で撮像した加工前画像を取得する加工前画像取得手段と、
前記加工前画像を記憶する第1記憶手段と、
前記加工前画像
に顔を検出すると、当該顔が写っている領域に対して
、情報量を低下させる加工を実行させて、加工後画像を作成する加工後画像作成手段と、
前記加工後画像を記憶する第2記憶手段と、
前記加工前画像を、前記加工後画像の作成後に削除する削除手段と、
を備える画像管理システムを生産する方法であって、
前記収納庫、又はユーザが使用する端末に、前記撮像部を制御させるための制御プログラムを提供することで当該画像管理システムを生産する方法。
【請求項9】
物品を収納する収納領域を備える収納庫と、
前記収納領域を含む物品範囲を撮像する撮像部と、
前記撮像部で撮像した加工前画像を取得する加工前画像取得手段と、
前記加工前画像を記憶する第1記憶手段と、
前記加工前画像に顔を
検出すると、当該顔が写っている領域に対して
、情報量を低下させる加工を実行させて、加工後画像を作成する加工後画像作成手段と、
前記加工後画像を記憶する第2記憶手段と、
を備える画像管理システムを生産する方法であって、
前記加工後画像を閲覧可能にさせる制御プログラムを、ユーザが使用する端末に提供することで画像管理システムを生産する方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像管理システム、画像管理サーバ、画像管理方法、および、画像管理システムを生産する方法に関する。
【背景技術】
【0002】
近年、冷蔵庫の庫内を撮影した画像をサーバにアップロードして、アップロードされた画像を画像処理することで、ユーザが携帯端末で庫内を閲覧可能とするサービスが提供されている。特許文献1には、少ないカメラ台数で多くの場所を撮影することが可能する発明が記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
お客様の冷蔵庫内を撮影した画像については、個人情報保護の観点から注意して扱わなければならない。お客様や、お客様の住環境が意図せずに他人に見られてしまうおそれがあるためである。
【課題を解決するための手段】
【0005】
前記した課題を解決するため、本発明の画像管理システムは、物品を収納する収納領域と、前記収納領域を含む物品範囲を撮像する撮像部と、を備える収納庫と、前記撮像部で撮像した加工前画像を取得する加工前画像取得手段と、前記加工前画像を記憶する第1記憶手段と、前記加工前画像に顔を検出すると、当該顔が写っている領域に対して、情報量を低下させる加工を実行させて、加工後画像を作成する加工後画像作成手段と、前記加工後画像を記憶する第2記憶手段、前記加工前画像を、前記加工後画像の作成後に削除する削除手段と、を備える。
【0006】
本発明の画像管理サーバは、物品を収納する収納領域を含む物品範囲を撮像部で撮像した加工前画像を取得する加工前画像取得手段と、前記加工前画像を記憶する第1記憶手段と、前記加工前画像に顔を検出すると、当該顔が写っている領域に対して、情報量を低下させる加工を実行させて、加工後画像を作成する加工後画像作成手段と、前記加工後画像を記憶する第2記憶手段と、前記加工前画像を、少なくとも前記加工後画像が削除されるよりも前に削除する削除手段と、を備えることを特徴とする。
本発明の画像管理システムは、物品を収納する収納領域を備える収納庫と、前記収納領域を含む物品範囲を撮像する撮像部と、前記撮像部で撮像した加工前画像を取得する加工前画像取得手段と、前記加工前画像を記憶する第1記憶手段と、前記加工前画像に顔を検出すると、当該顔が写っている領域に対して、情報量を低下させる加工を実行させて、加工後画像を作成する加工後画像作成手段と、ユーザが使用する端末が前記加工後画像を閲覧可能にさせる手段と、を備えることを特徴とする。
【0007】
本発明の画像管理方法は、1以上の演算部が、収納庫の物品収納領域を含む物品範囲を撮像部で撮像した加工前画像を取得する手順、前記加工前画像を記憶させる手順、前記加工前画像に顔を検出すると、当該顔が写っている領域に対して、情報量を低下させる加工を実行させて、加工後画像を作成させる手順、前記加工後画像を記憶させる手順、前記加工前画像を、少なくとも前記加工後画像が削除されるよりも前に削除する手順、を実行することを特徴とする。
本発明の画像管理システムを生産する方法は、物品を収納する収納領域と、前記収納領域を含む物品範囲を撮像する撮像部と、を備える収納庫と、前記撮像部で撮像した加工前画像を取得する加工前画像取得手段と、前記加工前画像を記憶する第1記憶手段と、前記加工前画像に顔を検出すると、当該顔が写っている領域に対して、情報量を低下させる加工を実行させて、加工後画像を作成する加工後画像作成手段と、前記加工後画像を記憶する第2記憶手段と、前記加工前画像を、前記加工後画像の作成後に削除する削除手段と、を備える画像管理システムの生産方法であって、前記収納庫、又はユーザが使用する端末に、前記撮像部を制御させるための制御プログラムを提供する。
本発明の画像管理システムを生産する方法は、物品を収納する収納領域を備える収納庫と、前記収納領域を含む物品範囲を撮像する撮像部と、前記撮像部で撮像した加工前画像を取得する加工前画像取得手段と、前記加工前画像を記憶する第1記憶手段と、前記加工前画像に顔を検出すると、当該顔が写っている領域に対して、情報量を低下させる加工を実行させて、加工後画像を作成する加工後画像作成手段と、前記加工後画像を記憶する第2記憶手段と、を備える画像管理システムを生産する方法であって、前記加工後画像を閲覧可能にさせる制御プログラムを、ユーザが使用する端末に提供する。
【0008】
その他の手段については、発明を実施するための形態のなかで説明する。
【図面の簡単な説明】
【0009】
【
図1】本実施形態に係る冷蔵庫のブロック図である。
【
図7】冷蔵庫の冷蔵室の左右扉が開かれた状態の正面図である。
【
図8】冷蔵庫の冷蔵室の左右扉が開かれた状態の平面図である。
【
図9】冷蔵庫のカメラユニットを斜め下から見上げた場合の斜視図である。
【
図11】冷蔵庫のカメラで撮影した加工前画像を示す図である。
【
図12】不要部分をマスクした加工前画像を示す図である。
【
図14】携帯端末に表示される選択画面を示す図である。
【
図23】第2実施形態の画像加工処理のシーケンス図である。
【発明を実施するための形態】
【0010】
以降、本発明を実施するための形態を、各図を参照して詳細に説明する。本実施形態の画像管理システムは、
図1の冷蔵庫1と、
図2のサーバ2a,2bおよびストレージサーバ6a,6bと、
図3の携帯端末3とが連携して、ユーザに対してサービスを提供する。なお、冷蔵庫1と、サーバ2a,2bおよびストレージサーバ6a,6bと、携帯端末3とは、それぞれ異なるIPアドレスが付与されている。
【0011】
図1を参照して、冷蔵庫1の構成を説明する。
冷蔵庫1は、ハードウェア構成として、カメラユニット10と、演算部112と、ROM(Read Only Memory)113と、RAM(Random Access Memory)114と、通信部115、カメラLED(Light Emitting Diode)100とを有する。冷蔵庫1は更に、
図1に示した左扉12と、右扉13と、扉センサ117と、冷蔵室116を備える。
【0012】
演算部112は、例えばCPU(Central Processing Unit)であり、冷蔵庫1を統括制御する。RAM114は、演算部112の作業エリアとなる。また、RAM114は、各種プログラムやデータを記憶する非一時的なまたは一時的な記録媒体であり、不図示のプログラムが格納される。
【0013】
カメラユニット10は、冷蔵室116を撮影する撮像部であり、例えば魚眼カメラやパノラマカメラである。カメラユニット10は、冷蔵室116の上側に取り付けられている。カメラLED100は、カメラユニット10が撮像している際に点灯するインジケータである。左扉12と右扉13は、冷蔵室116に設けられている扉であり、扉センサ117によって開閉状態が検知される。ユーザが左扉12または/および右扉13を開くことで、カメラユニット10が動作して冷蔵室116を撮像する。冷蔵室116は、食品を代表とする物品を収納する収納庫である。
【0014】
通信部115は、ネットワークと接続し、外部装置であるサーバ2aとの間でデータを送受信する。
【0015】
図2を参照して、サーバ2a,2bとストレージサーバ6a,6bの構成を説明する。サーバ2a,2bとストレージサーバ6a,6bは、それぞれCPU21と、ROM22と、RAM23と、記憶部24と、通信部25とを有する。
【0016】
CPU21は、サーバ2a,2bを統括制御する。ROM22は、不揮発性メモリであり、例えばBIOS(Basic I/O System)が格納されている。RAM23は、CPU21の作業エリアとなる。また、RAM23は、各種プログラムやデータを記憶する非一時的なまたは一時的な記録媒体であり、不図示のプログラムが格納される。
【0017】
記憶部24は、各種プログラムやデータを記憶する非一時的なまたは一時的な記録媒体であり、例えばHDD(Hard Disk Drive)、フラッシュメモリなどで構成される。なお、ストレージサーバ6a,6bの記憶部24は、大容量かつ高速アクセス可能なものであることが望ましい。通信部25は、ネットワークと接続し、外部装置との間でデータを送受信する。
【0018】
図3を参照して、携帯端末3の構成を説明する。携帯端末3は、それぞれCPU31と、ROM32と、RAM33と、記憶部34と、通信部35と、タッチパネルディスプレイ36とを有する。
【0019】
CPU31は、携帯端末3を統括制御する。ROM32は、不揮発性メモリであり、例えばBIOSが格納されている。RAM33は、CPU31の作業エリアとなる。また、RAM33は、各種プログラムやデータを記憶する非一時的なまたは一時的な記録媒体であり、不図示のプログラムが格納される。
【0020】
記憶部34は、各種プログラムやデータを記憶する非一時的なまたは一時的な記録媒体であり、例えばフラッシュメモリなどで構成される。通信部35は、ネットワークと接続し、外部装置との間でデータを送受信する。タッチパネルディスプレイ36は、平面状のディスプレイの上にタッチパネルが積層されて構成される。タッチパネルディスプレイ36は、文字、画像または図形を表示する表示手段であると共に、ユーザ操作を検知する入力手段でもある。
【0021】
図4は、画像管理システムの論理ブロック図である。
加工前画像取得手段81は、カメラユニット10で撮像した加工前画像を取得する。この加工前画像取得手段81は、サーバ2aのCPU21がプログラムを実行することで具現化される。
第1記憶手段82は、加工前画像を記憶する。この第1記憶手段82は、ストレージサーバ6aに該当する。
【0022】
加工後画像作成手段84は、加工前画像に対して、物品範囲以外の少なくとも一部の範囲を削除または情報量を低下させる加工を実行させて、加工後画像を作成する。この加工後画像作成手段84は、加工前画像に対して、予め定められた範囲を含んで削除または情報量を低下させて、加工後画像を作成する。そして加工後画像作成手段84は、加工前画像の何れかに人の身体部分が写り込んでいた場合に、この人の身体部分を含んで削除または情報量を低下させて、加工後画像を作成する。この加工後画像作成手段84は、サーバ2bのCPU21がプログラムを実行することで具現化される。
【0023】
削除手段83は、加工前画像を、この加工後画像の作成後に削除する。そして削除手段83は、少なくとも加工後画像が削除されるよりも前に加工前画像を削除する。サーバ2aのCPU21がプログラムを実行することで具現化される。
【0024】
第2記憶手段85は、加工後画像を記憶する。この第2記憶手段85は、ストレージサーバ6aに該当する。
登録手段86は、加工後画像を閲覧可能なユーザを、収納庫又は撮像部の個体番号に紐付けて登録する。登録済ユーザ情報提示手段87は、新たに個体番号に紐づけるユーザの登録にあたり、このユーザに対して、既に登録済のユーザに関する情報を提示する。
【0025】
登録済ユーザ権限削除手段88は、新たにこの個体番号に紐づけるユーザの登録にあたり、このユーザに既に登録済のユーザを選択させて、選択された登録済のユーザの閲覧権限を削除する。登録手段86と登録済ユーザ情報提示手段87と登録済ユーザ権限削除手段88は、携帯端末3のCPU31がプログラムを実行することで具現化される。
【0026】
図5は、冷蔵庫1の正面図である。
冷蔵庫1は、食品等を冷やす機器であり、冷蔵室116の左扉12と右扉13と、カメラユニット10と、を備えている。冷蔵庫1は、その筐体内部に複数の貯蔵室を有している。冷蔵庫1の貯蔵室として、上から順に、冷蔵室116と、左右に並ぶ製氷室14および上段冷凍室15の他、野菜室16と、下段冷凍室17と、が設けられている。
【0027】
冷蔵庫1の筐体は、鋼板製の外箱と、樹脂製の内箱(図示せず)と、の間に発泡ウレタン等の断熱材(図示せず)が充填された構成になっている。冷蔵庫1の筐体の前側(正面側)には、各室に対応する複数の開口が設けられている。例えば、冷蔵室116の開口を介して食品等が入れられる際には、左扉12と右扉13とが開けられる。また、左扉12と右扉13が閉じられると、冷蔵室116の開口が閉塞された状態になる。このように、左扉12と右扉13は、冷蔵室116の開口を塞ぐ機能等を有している。なお、他の各ドアについても同様である。
【0028】
冷蔵庫1は、筐体とともに冷蔵室116を形成するフレンチ式ドアとして、左扉12と右扉13を備えている。左扉12は、左端のヒンジ121(
図8参照)の軸を中心として、回動可能になっている。なお、右扉13についても同様である。また、冷蔵庫1は、引出し式のドアとして、製氷室ドアや上段冷凍室ドアの他、野菜室ドアや下段冷凍室ドアを備えている。
【0029】
冷蔵室116には、この冷蔵室116を所定に仕切る複数の棚板が設けられている。左扉12の庫内側には、食品等を収容するための複数のドアポケット123(
図7参照)が設けられている。左扉12も同様である。製氷室14には、製氷室ドアと一体に引き出される製氷室容器(図示せず)が設けられている。同様に、上段冷凍室15には上段冷凍室容器(図示せず)が設けられ、また、野菜室16には野菜室容器(図示せず)が設けられている他、下段冷凍室17には下段冷凍室容器(図示せず)が設けられている。
【0030】
また、冷蔵庫1は、図示はしないが、圧縮機と、放熱器(凝縮器)と、キャピラリチューブ(絞り機構)と、蒸発器と、を備えている。そして、圧縮機、放熱器、キャピラリチューブ、及び蒸発器を順次に介して冷媒が循環し、蒸発器を通流する冷媒との間の熱交換で、貯蔵室の空気が冷やされるようになっている。
図5に示すカメラユニット10は、冷蔵庫1の貯蔵室等を撮像するものであり、筐体の上面に設置されている。
【0031】
図6は、冷蔵庫1の側面図である。
図6に示すように、カメラユニット10は、本体部101と、支持部102と、を備えている。本体部101は、貯蔵室等を撮像する機能を有している。支持部102は、本体部101を支持するものであり、冷蔵庫1の筐体上面に設置されている。
【0032】
本体部101の前端付近には、レンズ103(
図6も参照)が設けられている。レンズ103は、光を屈折させて集束させる光学素子である。このようなレンズ103として、例えば、魚眼レンズが用いられる。そして、左扉12または/および右扉13(
図5参照)が開かれた場合に、カメラユニット10で冷蔵室116(
図7参照)を撮像できるように、レンズ103が下側に臨んだ状態になっている。カメラユニット10は、冷蔵室116外の住空間を含む住空間範囲を撮像する可能性がある位置に取付けられている。
【0033】
図6に示すように、レンズ103は、筐体の前端(筐体の開口)よりも前側に位置している。より好ましくは、レンズ103は、閉状態の左扉12および右扉13(
図5参照)の前面よりもさらに前側に位置している。これによって、例えば、冷蔵室116の左扉12および右扉13が開けられた際、レンズ103の視野に冷蔵室116が入りやすくなる。なお、野菜室ドア等の引出し式のドアが開かれた状態で、カメラユニット10によって野菜室16等(
図5参照)を撮像することも可能である。このように、それぞれの貯蔵室を上から見下ろせる位置にレンズ103が設けられている。
【0034】
図7は、冷蔵庫1の左扉12および右扉13が開かれた状態の正面図である。
前記したように、左扉12の内板122には、食品等を収容するための複数のドアポケット123が設けられている(右扉13も同様)。そして、左扉12および右扉13が開けられると、冷蔵室116やドアポケット123,133の食品等が、カメラユニット10のレンズ103の視野に俯瞰的に入るようになっている。
【0035】
図7に示す回転仕切124は、左扉12および右扉13の間の隙間からの冷気漏れを抑制するための仕切体である。
図7の例では、左扉12において、ヒンジ121(
図8参照)の軸とは反対側の端部に回転仕切124が設けられ、左扉12の開閉に伴って所定に回転するようになっている。
【0036】
また、カメラユニット10を用いて冷蔵室116を手動で撮影する際、ユーザによって押される撮影ボタン125が左扉12に設けられ、撮影ボタン135が右扉13に設けられている。
図7の例では、左扉12において、この左扉12のヒンジ121(
図8参照)とは反対側の面の下部に、撮影ボタン135が設けられている(右扉13も同様)。別の観点から説明すると、左扉12および右扉13が閉まっている状態(
図5参照)において、左扉12および右扉13の一方が他方と対向している面(
図7の回転仕切124の付近)に撮影ボタン125が設けられている。
【0037】
これら撮影ボタン125,135のうち少なくとも一方がユーザによって押された場合に行う撮影を「手動撮影」という。また、左扉12および右扉13の開き始めのタイミングからの経過時間に基づいて、演算部112が行う撮影を「自動撮影」という。
【0038】
図8は、冷蔵庫1の左扉12および右扉13が開かれた状態の平面図である。
図8の例では、左右方向において、冷蔵庫1の筐体中央よりも若干左側にカメラユニット10の本体部101が配置されている。より詳しく説明すると、閉状態の左扉12および右扉13の合わせ目の真上にカメラユニット10の本体部101が配置されている(
図5と
図6も参照)。このように本体部101を配置することで、例えば、左扉12および右扉13が開けられた場合に、ドアポケット123,133(
図7参照)の食品等がカメラユニット10の視野に入りやすくなる。
【0039】
また、冷蔵庫1を使用する際、ユーザは、左扉12および右扉13の合わせ目(境界部)を意識することが多い。したがって、左扉12および右扉13の合わせ目の真上に本体部101を配置することで、本体部101の左右方向の位置が合わせ目から外れている場合に比べて、ユーザが違和感を感じることを抑制できる。
【0040】
図8は、カメラユニット10を斜め下から見上げた場合の斜視図である。
図8に示すカメラユニット10の本体部101は、前記したレンズ103(
図6も参照)の他に、ケース31bと、カメラLED100(Light Emitting Diode:照明部)と、を備えている。
図6の例では、本体部101のケースは、概ね、前後方向に細長い直方体状を呈している。本体部101のケースの前端付近の下面には、円形状の孔(符号は図示せず)が設けられ、この孔を介してレンズ103が露出している。また、レンズ103の後側(奥側)にカメラLED100が設けられている。
【0041】
カメラLED100は、カメラユニット10が冷蔵室116(
図7参照)やドアポケット123,133(
図7参照)を適度な明るさのもとで撮影できるように、冷蔵室116等に光を照射する光源である。また、カメラLED100(照明部)は、冷蔵庫1の筐体(
図6参照)の外側に設けられている。詳細については後記するが、本実施形態では、冷蔵庫1の庫内灯を消灯しつつ、カメラLED100を点灯させた状態で、カメラユニット10が冷蔵室116等(
図7参照)を撮影するようにしている。
【0042】
図9に示すように、カメラLED100の前側にレンズ103を設けることで、左扉12および右扉13が開けられた状態で、冷蔵室116等(
図5参照)からの反射光がレンズ31aに入射しやすくなる。したがって、冷蔵室116等に収容されている食品を適切に撮影できる。なお、冷蔵庫1の筐体(
図6参照)の前端(筐体の開口)よりも前側にカメラLED100が位置していることが好ましい。これによって、カメラLED100から照射された光が冷蔵室116等に入射しやすくなり、ひいては、鮮明な撮影結果が得られやすくなる。
【0043】
冷蔵庫1は、物品を収納する収納領域である冷蔵室116と、冷蔵室116を含む物品範囲を撮像するカメラユニット10と、を備える収納庫である。
【0044】
図10は、第1実施形態の画像加工処理のシーケンス図である。
ユーザが冷蔵庫1の扉を開くと、演算部112は、扉センサ117によって扉が開かれたことを検知する。これにより演算部112は、カメラユニット10により、食品が収納されている冷蔵室116を撮像する(ステップS10)。演算部112は、撮像した冷蔵室116のカメラ画像をサーバ2aにアップロードする(ステップS11)。このカメラ画像は、ユーザ閲覧可能な加工を行う前の画像である。
【0045】
サーバ2aのCPU21は、カメラユニット10で撮像した加工前画像を取得する加工前画像取得手段として機能する。サーバ2aは、この加工前のカメラ画像をストレージサーバ6aに送信する(ステップS12)。
【0046】
ストレージサーバ6aは、サーバ2bにイベントを通知すると(ステップS13)、加工前のカメラ画像を保存する(ステップS14)。ストレージサーバ6aは、加工前画像を記憶する第1記憶手段として機能する。
そしてストレージサーバ6aは、サーバ2bに加工前のカメラ画像を送信すると(ステップS15)、自身に保存した加工前のカメラ画像を削除する(ステップS16)。つまりストレージサーバ6aのCPU21は、加工前のカメラ画像を削除する削除手段として機能する。
【0047】
サーバ2bは、加工前のカメラ画像のレンズによる歪みを補正し(ステップS17)、台形補正により正面視の画像に加工する(ステップS18)。そしてサーバ2bは、ストレージサーバ6bに既存の加工後の画像を要求し(ステップS19)、ストレージサーバ6bから加工後の画像を受信する(ステップS20)。
【0048】
サーバ2bは、既存の加工後の画像と台形補正した画像とを合成すると(ステップS21)、合成した加工後画像をストレージサーバ6bに送信して保存させる(ステップS22)。サーバ2bのCPU21は、加工前画像に対して、物品範囲以外の少なくとも一部の範囲を削除または情報量を低下させる加工を実行させて、加工後画像を作成する加工後画像作成手段として機能する。
【0049】
ストレージサーバ6bは、サーバ2bから受信した加工後画像を保存する(ステップS23)。ストレージサーバ6bは、加工後画像を記憶する第2記憶手段として機能する。
そしてストレージサーバ6bは、携帯端末3からの要求に応じて、加工後画像を携帯端末3に送信する(ステップS24)。これにより顧客は、携帯端末3により冷蔵室116の画像を閲覧できる。
【0050】
加工前画像をストレージサーバ6aが保存し、合成した加工後画像をストレージサーバ6bが保存することで、各画像を管理しやすくなる。携帯端末3は、ストレージサーバ6bにアクセスするだけで、容易に合成した加工後画像を取得することができる。
【0051】
携帯端末3は、ストレージサーバ6aにアクセスすることはなく、よってストレージサーバ6aのIPアドレスを知ることはない。これにより、携帯端末3からストレージサーバ6aへのアクセス方法をしることはできず、よって加工前の画像に写り込んだお客様や、お客様の住環境が意図せずに他人に見られてしまうことを抑止できる。
【0052】
ストレージサーバ6bは、加工後画像を保存したのち所定期間が経過すると、この加工後画像を消去する。つまり、ストレージサーバ6bが加工後画像を消去するよりも前に、ストレージサーバ6aは、自身が保存した加工前の画像を消去する。これにより、加工前の画像に写り込んだお客様や、お客様の住環境が意図せずに他人に見られてしまうことを抑止できる。
【0053】
図11は、冷蔵庫1のカメラユニット10で撮影した加工前の画像を示す図である。画像の下半分には、冷蔵室116が写っている。画像の左側には、左扉12の内側が写っている。画像の右側には、右扉13の内側が写っている。そして、画像の上半分には、お客様の住環境が写り込んでいる。この部分は、加工後の画像から見ると不要部分である。
【0054】
図12は、不要部分を塗りつぶした加工前の画像を示す図である。
本システムは、魚眼画像の不要部分をマスキング処理する。本システムが実行するマスキング処理は、物品範囲以外の少なくとも一部の範囲を削除する加工処理である。これにより、お客様の冷蔵庫内を撮影した画像を閲覧させるにあたり、お客様およびお客様の住環境が意図せずに他人に見られてしまうことを抑止できる。
なお、この不要部分のマスキング処理は、サーバ2bが実行するが、サーバ2aや冷蔵庫1が実行してもよい。
【0055】
図13は、加工後画像の一例を示す図である。
サーバ2bは、冷蔵庫1のカメラユニット10で撮影した加工前の画像に対してレンズの歪みを補正し、台形補正を行って正面視の画像に加工する。このときサーバ2bは、画像中に顔を検出すると、この顔が写っている領域に対してモザイク処理する。
【0056】
本システムが実行するモザイク処理は、物品範囲以外の少なくとも一部の範囲の情報量を低下させる加工処理である。これにより、お客様の冷蔵庫内を撮影した画像を閲覧させるにあたり、お客様が意図せずに他人に見られてしまうことを抑止できる。なお、この顔検出処理とモザイク処理は、サーバ2bが実行するが、サーバ2aや冷蔵庫1が加工前の画像に対して実行してもよい。
【0057】
図14から
図20は、携帯端末3と冷蔵庫1とのペアリング時に、顧客に対してカメラ画像の取り扱いに関する注意事項を確認するための一連の画像を示している。これら画面は、携帯端末3のCPU31が、携帯端末3にインストールされた冷蔵庫管理プログラムを実行することによって表示される。
【0058】
図14は、携帯端末3に表示される新規・中古の選択画面41を示す図である。
選択画面41は、新規購入ボタン411と、その他ボタン412と、戻るボタン419を含んでいる。
【0059】
新規購入ボタン411は、新規に購入したユーザ向けのボタンである。このボタンをタップすると、携帯端末3は、冷蔵庫1とペアリングしたのち、ユーザ登録する。
【0060】
その他ボタン412は、冷蔵庫1を中古で購入された方向けのボタンである。このボタンをタップすると、携帯端末3は、
図15の警告画面42に遷移する。
戻るボタン419は、この選択画面41に遷移するひとつ前に遷移するボタンである。
【0061】
図15は、警告画面42を示す図である。
警告画面42は、冷蔵庫1が中古の場合の注意点を警告する画面である。
確認ボタン421は、この警告画面42による確認を終了するボタンである。この確認ボタン421をタップすると、携帯端末3は、冷蔵庫1とペアリングしたのち、ユーザ登録する。
戻るボタン429は、警告画面42に遷移するひとつ前に遷移するボタンである。
【0062】
ユーザ登録により、冷蔵庫1の識別番号(個体番号)と、この携帯端末3との紐付けが行われる。なお、冷蔵庫1の識別番号(個体番号)に限られず、カメラユニット10の個体番号を、携帯端末3に紐付けることで、ユーザ登録を行ってもよい。
【0063】
そしてユーザ登録後に、既に登録されているユーザが存在するならば、
図16の登録継続ユーザ選択画面43に遷移する。ユーザ登録後に、既に登録されているユーザが存在しないならば、
図18の譲渡時注意画面45に遷移する。
【0064】
図16は、登録継続ユーザ選択画面43を示す図である。
登録継続ユーザ選択画面43は、この冷蔵庫1への登録を継続するユーザを選択する画面である。そしてチェックボックス431~433は、登録を継続するユーザを選択するためのチェックボックスである。
【0065】
決定ボタン435は、登録を継続するユーザを選択したのち、それを決定するためのボタンである。決定ボタン435のタップにより、携帯端末3は、
図17の確認ダイアログボックス44に遷移する。戻るボタン439は、登録継続ユーザ選択画面43に遷移するひとつ前に遷移するボタンである。
【0066】
図17は、確認ダイアログボックス44を示す図である。
確認ダイアログボックス44は、登録を継続しないユーザの登録抹消を確認するためのダイアログである。
【0067】
はいボタン441は、選択されていないユーザの登録を抹消するためのボタンである。
いいえボタン442は、選択されていないユーザの登録を抹消しないボタンである。はいボタン441または、いいえボタン442をタップすると、
図14の譲渡時注意画面45に遷移する。
【0068】
図18は、譲渡時注意画面45を示す図である。
譲渡時注意画面45は、この冷蔵庫1を譲渡する場合の注意を表示する画面である。確認ボタン451は、この注意を確認したことを示すボタンである。
戻るボタン459は、譲渡時注意画面45に遷移するひとつ前に遷移するボタンである。
【0069】
図19は、カメラ使用注意画面46を示す図である。
カメラ使用注意画面46は、冷蔵庫1のカメラであるカメラユニット10で撮影することについて顧客に注意喚起するための画面である。この画面をスワイプして下端に達すると、次の画像活用注意画面47に遷移するための確認ボタンが表示される。
戻るボタン469は、カメラ使用注意画面46に遷移するひとつ前に遷移するボタンである。
【0070】
図20は、画像活用注意画面47を示す図である。
画像活用注意画面47は、冷蔵庫1のカメラであるカメラユニット10で撮影した画像を活用することについて、顧客の承諾を得るための画面である。
同意ボタン471は、顧客が画像の活用に同意するためのボタンである。同意ボタン471をタップすると、一連の設定が終了してホーム画面50に遷移する。
戻るボタン479は、画像活用注意画面47に遷移するひとつ前に遷移するボタンである。
【0071】
図21は、ホーム画面50を示す図である。
ホーム画面50は、この冷蔵庫管理プログラムを起動した後に表示される画面である。
冷蔵庫の中身チェックボタン501は、顧客の冷蔵庫1の収納物を閲覧するためのボタンである。冷蔵庫の中身チェックボタン501をタップすると、携帯端末3は、
図17の冷蔵庫の中身画面51に遷移する。
使い方コンシェルジュボタン502は、この冷蔵庫1の使い方を説明するボタンである。
【0072】
図22は、冷蔵庫の中身画面51を示す図である。
冷蔵庫の中身画面51は、この冷蔵庫1の冷蔵室116の正面視画像を閲覧するための画面である。
室内選択ボタン512は、冷蔵室116と、左扉12の内側と、右扉13の内側のうち何れを表示するかを選択するボタンである。
戻るボタン519は、冷蔵庫の中身画面51に遷移するひとつ前であるホーム画面50に遷移するボタンである。
【0073】
《第2実施形態》
第2実施形態では、レンズ補正処理や台形補正処理などを、サーバ2bではなく冷蔵庫1の演算部112が実施する。加工前のカメラ画像をネットワーク上に送信しなくてもよいので、お客様や、お客様の住環境が意図せずに他人に見られてしまうことを抑止できる。
【0074】
図23は、第2実施形態の画像加工処理のシーケンス図である。
ユーザが冷蔵庫1の扉を開くと、演算部112は、扉センサ117によって扉が開かれたことを検知する。これにより演算部112は、カメラユニット10により、食品が収納されている冷蔵室116を撮像する(ステップS30)。このカメラ画像は、ユーザ閲覧可能な加工を行う前の画像である。
【0075】
演算部112は、加工前のカメラ画像を保存する(ステップS31)。演算部112は、加工前のカメラ画像のレンズによる歪みを補正し(ステップS32)、台形補正により正面視の画像に加工する(ステップS33)。そして演算部112は、加工前のカメラ画像を削除する(ステップS34)。演算部112は、ストレージサーバ6bに既存の加工後の画像を要求し(ステップS35)、ストレージサーバ6bから加工後の画像を受信する(ステップS36)。
【0076】
演算部112は、既存の加工後の画像と台形補正した画像とを合成すると(ステップS37)、合成した加工後画像をサーバ2bに送信する(ステップS38)。サーバ2bは、加工後画像をストレージサーバ6bに送信して保存させる(ステップS39)。ストレージサーバ6bは、サーバ2bから受信した加工後画像を保存する(ステップS40)。そしてストレージサーバ6bは、携帯端末3からの要求に応じて、加工後画像を携帯端末3に送信する(ステップS41)。これにより顧客は、携帯端末3により冷蔵室116の画像を閲覧できる。
【0077】
ストレージサーバ6bは、加工後画像を保存したのち所定期間が経過すると、この加工後画像を消去する。つまり、ストレージサーバ6bが加工後画像を消去するよりも前に、ストレージサーバ6aは、自身が保存した加工前の画像を消去する。これにより、加工前の画像に写り込んだお客様や、お客様の住環境が意図せずに他人に見られてしまうことを抑止できる。
【0078】
本発明は上記した実施形態に限定されるものではなく、様々な変形例が含まれる。例えば上記した実施形態は、本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。ある実施形態の構成の一部を他の実施形態の構成に置き換えることが可能であり、ある実施形態の構成に他の実施形態の構成を加えることも可能である。また、各実施形態の構成の一部について、他の構成の追加・削除・置換をすることも可能である。
【0079】
上記の各構成、機能、処理部、処理手段などは、それらの一部または全部を、例えば集積回路などのハードウェアで実現してもよい。上記の各構成、機能などは、プロセッサがそれぞれの機能を実現するプログラムを解釈して実行することにより、ソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイルなどの情報は、メモリ、ハードディスク、SSD(Solid State Drive)などの記録装置、または、フラッシュメモリカード、DVD(Digital Versatile Disk)などの記録媒体に置くことができる。
【0080】
各実施形態に於いて、制御線や情報線は、説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には、殆ど全ての構成が相互に接続されていると考えてもよい。
本発明の変形例として、例えば、次の(a)~(d)のようなものがある。
【0081】
(a) お客様および、お客様の住環境が意図せずに他人に見られてしまうことを抑止するモザイク処理は、冷蔵庫1とサーバ2aとサーバ2bのうち何れが実行してもよい。
(b) お客様および、お客様の住環境が意図せずに他人に見られてしまうことを抑止するマスキング処理は、冷蔵庫1とサーバ2aとサーバ2bのうち何れが実行してもよい。
(c) モザイク処理とマスキング処理は、何れか一方を実施してもよく、両方を実施してもよい。
【0082】
(d) 本発明は冷蔵庫の冷蔵室の閲覧に限られず、任意の収納庫の収納領域の閲覧に適用してもよい。
【符号の説明】
【0083】
1 冷蔵庫 (収納庫)
100 カメラLED
10 カメラユニット
112 演算部
113 ROM
114 RAM
115 通信部
116 冷蔵室 (収納領域)
117 扉センサ
12 左扉
124 回転仕切
13 右扉
14 製氷室
15 上段冷凍室
16 野菜室
17 下段冷凍室
2a サーバ (加工前画像取得手段、削除手段)
2b サーバ (加工後画像作成手段)
21 CPU
22 ROM
23 RAM
24 記憶部
25 通信部
3 携帯端末
31 CPU
32 ROM
33 RAM
34 記憶部
35 通信部
36 タッチパネルディスプレイ
41 選択画面
411 新規購入ボタン
412 その他ボタン
419 戻るボタン
42 警告画面
429 戻るボタン
43 登録継続ユーザ選択画面
431 チェックボックス
432 チェックボックス
433 チェックボックス
435 決定ボタン
439 戻るボタン
44 確認ダイアログボックス
441 はいボタン
442 いいえボタン
45 譲渡時注意画面
451 確認ボタン
459 戻るボタン
46 カメラ使用注意画面
469 戻るボタン
47 画像活用注意画面
479 戻るボタン
50 ホーム画面
501 冷蔵庫の中身チェックボタン
502 使い方コンシェルジュボタン
51 冷蔵庫の中身画面
512 室内選択ボタン
6a ストレージサーバ (第1記憶手段)
6b ストレージサーバ (第2記憶手段)
81 加工前画像取得手段
82 第1記憶手段
83 削除手段
84 加工後画像作成手段
85 第2記憶手段
86 登録手段
87 登録済ユーザ情報提示手段
88 登録済ユーザ権限削除手段