IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日立アプライアンス株式会社の特許一覧 ▶ 株式会社日立パワーソリューションズの特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023108265
(43)【公開日】2023-08-04
(54)【発明の名称】ドア開角度算出方法及び収納庫
(51)【国際特許分類】
   G06T 7/60 20170101AFI20230728BHJP
   F25D 29/00 20060101ALI20230728BHJP
   F25D 23/00 20060101ALI20230728BHJP
【FI】
G06T7/60 150Z
F25D29/00 Z
F25D23/00 307
F25D23/00 301G
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2022009288
(22)【出願日】2022-01-25
(71)【出願人】
【識別番号】399048917
【氏名又は名称】日立グローバルライフソリューションズ株式会社
(71)【出願人】
【識別番号】000233044
【氏名又は名称】株式会社日立パワーソリューションズ
(74)【代理人】
【識別番号】110001807
【氏名又は名称】弁理士法人磯野国際特許商標事務所
(72)【発明者】
【氏名】青山 勝
(72)【発明者】
【氏名】三浦 孝典
(72)【発明者】
【氏名】草野 慎太郎
【テーマコード(参考)】
3L045
3L345
5L096
【Fターム(参考)】
3L045AA02
3L045AA05
3L045BA01
3L045CA02
3L045NA15
3L045PA01
3L045PA02
3L045PA03
3L045PA04
3L345AA02
3L345DD42
3L345EE13
3L345EE45
3L345EE46
3L345FF45
3L345FF46
3L345HH06
3L345JJ26
3L345JJ27
3L345KK01
3L345KK02
3L345KK03
3L345KK04
5L096AA06
5L096BA02
5L096CA04
5L096DA02
5L096FA54
5L096FA59
5L096FA67
(57)【要約】
【課題】ドアの開角度を適切に算出するドア開角度算出方法等を提供する。
【解決手段】ドア開角度算出方法は、筐体に設けられるヒンジ式のドアが開かれた場合、撮影手段による撮影画像上の筐体のエッジである第1エッジと、撮影画像上のドアのエッジである第2エッジと、の間の画素数に基づいて、ドアの開角度を算出する開角度算出ステップと、撮影画像における所定の基準線又は基準位置と、第1エッジと、の位置関係に基づいて、開角度を補正する開角度補正ステップと、を含む。
【選択図】図11
【特許請求の範囲】
【請求項1】
筐体に設けられるヒンジ式のドアが開かれた場合、撮影手段による撮影画像上の前記筐体のエッジである第1エッジと、前記撮影画像上の前記ドアのエッジである第2エッジと、の間の画素数に基づいて、前記ドアの開角度を算出する開角度算出ステップと、
前記撮影画像における所定の基準線又は基準位置と、前記第1エッジと、の位置関係に基づいて、前記開角度を補正する開角度補正ステップと、を含むドア開角度算出方法。
【請求項2】
前記ドアは、右ドア及び左ドアを有するフレンチ式ドアであり、
前記撮影画像を横方向の中央付近で分割するように前記基準線が設定され、
前記開角度補正ステップでは、前記筐体の右側及び左側のそれぞれの前記第1エッジの端点を結んだ線分の中点と、前記基準線と、の間の横方向の画素数に基づいて、前記開角度を補正すること
を特徴とする請求項1に記載のドア開角度算出方法。
【請求項3】
前記開角度補正ステップにおいて、前記基準線を境とする一方側に前記中点が位置している場合、前記右ドア及び前記左ドアのうち、前記一方側に対応するものの前記開角度を補正前よりも大きくし、他方側に対応するものの前記開角度を補正前よりも小さくするように補正すること
を特徴とする請求項2に記載のドア開角度算出方法。
【請求項4】
前記撮影手段が正しく設置された状態での前記第1エッジの端点の位置が、前記基準位置として設定され、
前記開角度補正ステップでは、前記基準位置と、前記第1エッジの端点の実際の位置と、の間の画素数に基づいて、前記開角度を補正すること
を特徴とする請求項1に記載のドア開角度算出方法。
【請求項5】
前記撮影画像上で前記第1エッジ及び前記第2エッジが通るように所定の領域が設定され、
前記開角度算出ステップでは、前記第1エッジにおいて前記領域に含まれる線分と、前記第2エッジにおいて前記領域に含まれる別の線分と、の間で、前記領域に含まれている部分の前記撮影画像上の画素数に基づいて、前記開角度を算出し、
前記開角度補正ステップでは、前記第1エッジにおいて、当該第1エッジの端点から前記領域の境界線までの線分の長さに基づいて、前記開角度を補正すること
を特徴とする請求項1に記載のドア開角度算出方法。
【請求項6】
前記開角度補正ステップでは、前記第1エッジにおいて前記撮影手段に近い側の端点から前記領域の境界線までの線分の長さを算出し、当該線分の長さから所定値を減算した値が負である場合には、前記開角度を補正前よりも小さくし、当該線分の長さから前記所定値を減算した値が正である場合には、前記開角度を補正前よりも大きくすること
を特徴とする請求項5に記載のドア開角度算出方法。
【請求項7】
前記開角度補正ステップでは、前記第1エッジにおいて前記撮影手段から遠い側の端点から前記領域の境界線までの線分の長さを算出し、当該線分の長さから所定値を減算した値が負である場合には、前記開角度を補正前よりも大きくし、当該線分の長さから前記所定値を減算した値が正である場合には、前記開角度を補正前よりも小さくすること
を特徴とする請求項5に記載のドア開角度算出方法。
【請求項8】
前記第1エッジが第1許容範囲に含まれているか否かを判定する判定ステップをさらに含み、
前記開角度算出ステップを行った後に前記判定ステップを行い、
前記判定ステップにおいて、前記第1エッジが前記第1許容範囲から外れている場合には、前記撮影画像を携帯端末への表示には用いないこと
を特徴とする請求項1から請求項7のいずれか一項に記載のドア開角度算出方法。
【請求項9】
前記第2エッジが第2許容範囲に含まれているか否かを判定する判定ステップをさらに含み、
前記開角度算出ステップを行った後に前記判定ステップを行い、
前記判定ステップにおいて、前記第2エッジが前記第2許容範囲から外れている場合には、前記撮影画像を携帯端末への表示には用いないこと
を特徴とする請求項1から請求項7のいずれか一項に記載のドア開角度算出方法。
【請求項10】
請求項1から請求項9のいずれか一項に記載のドア開角度算出方法を実行する制御部を備えること
を特徴とする収納庫。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、ドア開角度算出方法等に関する。
【背景技術】
【0002】
冷蔵庫のドアの開角度を算出する方法として、例えば、特許文献1には、「冷蔵室のヒンジに装着されたボリューム抵抗とを備えた冷蔵庫において、・・・上記ボリューム抵抗によって冷蔵室の扉の開閉角度を検知」することが記載されている。
また、特許文献2には、「扉の開閉角度に基づいた異なる角度から前記撮像部で撮影された複数の前記画像のデータを用いて新たな画像を作成する」ことが記載されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2005-164196号公報
【特許文献2】特許第6323279号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1に記載の技術は、冷蔵庫のドアのヒンジにボリューム抵抗を設ける必要があるため、製造コストの増加を招く。また、特許文献2に記載の技術は、冷蔵庫の庫内をさまざまな角度から撮影して、3次元的な合成画像を作成するようにしているが、処理の簡素化を図る余地がある。
【課題を解決するための手段】
【0005】
本開示に係るドア開角度算出方法は、筐体に設けられるヒンジ式のドアが開かれた場合、撮影手段による撮影画像上の前記筐体のエッジである第1エッジと、前記撮影画像上の前記ドアのエッジである第2エッジと、の間の画素数に基づいて、前記ドアの開角度を算出する開角度算出ステップと、前記撮影画像における所定の基準線又は基準位置と、前記第1エッジと、の位置関係に基づいて、前記開角度を補正する開角度補正ステップと、を含むこととした。
【図面の簡単な説明】
【0006】
図1】第1実施形態に係る冷蔵庫の正面図である。
図2】第1実施形態に係る冷蔵庫の側面図である。
図3】第1実施形態に係る冷蔵庫の左右の冷蔵室ドアが開かれた状態の正面図である。
図4】第1実施形態に係る冷蔵庫から各ドアや棚等が取り外された状態の正面図である。
図5】第1実施形態に係る冷蔵庫の左右の冷蔵室ドアが開かれた状態の平面図である。
図6】第1実施形態に係る冷蔵庫のカメラユニットを斜め下から見上げた場合の斜視図である。
図7A】第1実施形態に係る冷蔵庫のカメラユニットの正面図である。
図7B】第1実施形態に係る冷蔵庫における図7AのII-II線矢視断面図である。
図8】第1実施形態に係る冷蔵庫のカメラユニットを含むシステム構成図である。
図9】第1実施形態に係る冷蔵庫のカメラユニットによる撮影結果であって、画像処理が行われていない状態の例である。
図10】第1実施形態に係る冷蔵庫のカメラユニットによる撮影結果であって、所定の画像処理が行われた状態の例である。
図11】第1実施形態に係る冷蔵庫の制御部が実行する処理のフローチャートである。
図12A】第1実施形態に係る冷蔵庫における撮影画像上の特徴点の抽出に関する説明図である。
図12B】第1実施形態に係る冷蔵庫における撮影画像上の特徴点の連なりを示す説明図である。
図12C】第1実施形態に係る冷蔵庫における撮影画像上の領域に含まれる台形状の部分を示す説明図である。
図13】第1実施形態に係る冷蔵庫における第1エッジと第2エッジとの間の台形状の部分に関する説明図である。
図14】第1実施形態に係る冷蔵庫における台形状の部分の面積と、冷蔵室ドアの開角度と、の間の関係を示す説明図である。
図15A】第1実施形態に係る冷蔵庫において、カメラユニットが傾いていない場合の撮影画像に関する説明図である。
図15B】第1実施形態に係る冷蔵庫において、カメラユニットが左側に傾いた場合の撮影画像に関する説明図である。
図15C】第1実施形態に係る冷蔵庫において、カメラユニットが右側に傾いた場合の撮影画像に関する説明図である。
図16】第2実施形態に係る冷蔵庫の制御部が実行する処理のフローチャートである。
図17】第2実施形態に係る冷蔵庫において、カメラユニットが傾いていない場合の撮影画像を示す説明図である。
図18】第3実施形態に係る冷蔵庫において、カメラユニットが傾いていない場合の撮影画像を示す説明図である。
図19】第4実施形態に係る冷蔵庫において、カメラユニットが傾いていない場合の撮影画像を示す説明図である。
図20A】第5実施形態に係る冷蔵庫において、撮影画像における第1エッジの許容範囲を示す説明図である。
図20B】第5実施形態に係る冷蔵庫において、撮影画像における第2エッジの許容範囲を示す説明図である。
図21A】第5実施形態に係る冷蔵庫の制御部が実行する処理のフローチャートである。
図21B】第5実施形態に係る冷蔵庫の制御部が実行する処理のフローチャートである。
【発明を実施するための形態】
【0007】
≪第1実施形態≫
図1は、第1実施形態に係る冷蔵庫100の正面図である。
冷蔵庫100(収納庫)は、食品等を冷やす機器であり、筐体1の他、冷蔵室ドア211,212等の各ドアと、カメラユニット3(撮影手段)と、を備えている。筐体1は、その内部に複数の貯蔵室を有している。図1の例では、冷蔵庫100の貯蔵室として、上から順に、冷蔵室21と、左右に並ぶ製氷室22・上段冷凍室23と、野菜室24と、下段冷凍室25と、が設けられている。
【0008】
筐体1は、貯蔵室を形成している樹脂製の内箱12(図4参照)と、鋼板製の外箱11と、の間に発泡ウレタン等の断熱材(図示せず)が充填された構成になっている。図1に示すように、冷蔵庫100は、筐体1とともに冷蔵室21を形成するヒンジ式のドアとして、左右の冷蔵室ドア211,212を備えている。左側の冷蔵室ドア211(ドア、左ドア)は、ヒンジ211a(図5参照)の軸を中心として回動可能になっている。なお、右側の冷蔵室ドア212(ドア、右ドア)についても同様である。このように、左右の冷蔵室ドア211,212は、フレンチ式ドアになっている。また、冷蔵庫100は、引出し式のドアとして、製氷室ドア221や上段冷凍室ドア231の他、野菜室ドア241や下段冷凍室ドア251を備えている。
【0009】
冷蔵庫100は、図示はしないが、圧縮機と、放熱器(凝縮器)と、キャピラリチューブ(絞り機構)と、冷却器(蒸発器)と、を備えている。そして、圧縮機、放熱器、キャピラリチューブ、及び冷却器を順次に介して冷媒が循環し、冷却器を流れる冷媒との熱交換で貯蔵室の空気が冷やされるようになっている。図1に示すカメラユニット3は、冷蔵庫100の貯蔵室や冷蔵室ドア211,212を撮像するものであり、筐体1の上面に設置されている。なお、図1に示す白抜き矢印71,72については後記する。
【0010】
図2は、冷蔵庫100の側面図である。
図2に示すように、カメラユニット3は、本体部31と、支持部32と、を備えている。本体部31は、冷蔵庫100の貯蔵室や冷蔵室ドア211,212を撮像するものである。支持部32は、本体部31を支持するものであり、筐体1の上面に設置されている。
【0011】
本体部31の前端付近には、レンズ31a(図6も参照)が設けられている。レンズ31aは、光を屈折させて集束させる光学素子である。このようなレンズ31aとして、例えば、魚眼レンズが用いられる。そして、冷蔵室ドア211,212(図3も参照)が開かれた場合、カメラユニット3によって冷蔵室21(図3参照)や冷蔵室ドア211,212が撮像されるように、レンズ31aが下側に臨んだ状態になっている。
【0012】
図2に示すように、レンズ31aは、筐体1の前端(つまり、開口10a)よりも前側に位置している。より好ましくは、レンズ31aは、閉状態の冷蔵室ドア211,212(図1参照)の前面よりもさらに前側に位置している。これによって、例えば、冷蔵室ドア211,212が開けられた際、レンズ31aの視野に冷蔵室21が入りやすくなる。なお、野菜室ドア241等の引出し式のドアが開かれた状態で、カメラユニット3によって野菜室24等(図1参照)を撮像することも可能である。このように、それぞれの貯蔵室を上から見下ろせる位置にレンズ31aが設けられている。
【0013】
図3は、冷蔵庫100の左右の冷蔵室ドア211,212が開かれた状態の正面図である。
図3に示すように、冷蔵室21には、この冷蔵室21を所定に仕切る複数の棚板213が設けられている。左側の冷蔵室ドア211の内板211bには、食品等を収容するための複数のドアポケット211cが設けられている(右側の冷蔵室ドア212も同様)。そして、左右の冷蔵室ドア211,212が開けられると、冷蔵室21やドアポケット211c,212cの食品等が、カメラユニット3のレンズ31aの視野に俯瞰的に入るようになっている(図9も参照)。
【0014】
左側の冷蔵室ドア211において、内板211bの縁付近には、四角枠状のパッキン211dが設けられている。パッキン211dは、冷蔵室21の気密性を高めるための樹脂製部材である。そして、冷蔵室ドア211が閉じられた場合、筐体1の開口10a(図4参照)の周囲にパッキン211dが接触(密着)するようになっている。
【0015】
図3に示すサイドピース211eは、冷蔵室ドア211の側面を形成している板状部材であり、上下方向に細長く延びている。なお、冷蔵室ドア211は、ヒンジ211a(図5参照)の軸に対して反対側に設けられるサイドピース211eの他、ヒンジ211aの軸の付近に設けられる別のサイドピース211f(図5参照)も備えている。これらのサイドピース211e,211f(図5参照)は、いずれも上下方向に延びており、ヒンジ211a(図5参照)の軸に対して平行になっている。サイドピース211e,211fは、前記した四角枠状のパッキン211d(図3参照)に隣接していてもよいし、また、パッキン211dと部分的に重なっていてもよい。なお、右側の冷蔵室ドア212についても同様である。
【0016】
また、カメラユニット3を用いて冷蔵室21を手動で撮影する際、ユーザによって押される撮影ボタン5が、左右の冷蔵室ドア211,212にひとつずつ設けられている。図3の例では、左右のサイドピース211e,212eの下部に撮影ボタン5がひとつずつ設けられている。
【0017】
図4は、冷蔵庫100から各ドアや棚等が取り外された状態の正面図である。
図4に示すように、筐体1の前側(正面側)には、冷蔵室21に対応する開口10aや、他の各室に対応する開口10b,10c,10d,10eが設けられている。冷蔵室21の開口10aは、左側の横板1aと、右側の横板1bと、天板1cと、断熱仕切壁1dと、で囲まれている。断熱仕切壁1dは、冷蔵室21と製氷室22とを仕切るとともに、冷蔵室21と上段冷凍室23とを仕切る断熱性の壁である。
【0018】
横板1a,1b及び天板1cは、筐体1の正面の一部を形成している薄板状の部材であり、内箱12の開口10aの付近に設けられている。左側の横板1aは、冷蔵室21の開口10aの左側に設けられ、ヒンジ211a(図5参照)の軸に対して平行に(つまり、上下方向に)延びている。右側の横板1bは、冷蔵室21の開口10aの右側に設けられ、ヒンジ212a(図5参照)の軸に対して平行に延びている。これらの横板1a,1bは、冷蔵室21の開口10aの他、製氷室22の開口10bや、野菜室24の開口10d、下段冷凍室25の開口10eの横側においても、上下方向に細長く延びている。
【0019】
天板1cは、左側の横板1aの上端付近と、右側の横板1bの上端付近と、を接続するように横方向に細長く延びている。そして、例えば、左側の冷蔵室ドア211(図3参照)が閉められると、この冷蔵室ドア211の四角枠状のパッキン211d(図3参照)が、左側の横板1aや天板1c(左半分)の他、断熱仕切壁1dの正面に密着するようになっている。
【0020】
図5は、冷蔵庫100の左右の冷蔵室ドア211,212が開かれた状態の平面図である。
図5に示すように、筐体1の上面には、ヒンジ211a,212aが設けられている。左側のヒンジ211aは、冷蔵室ドア211を回動自在に軸支する部材である(右側のヒンジ212aも同様)。カメラユニット3は、冷蔵室21(図3参照)や冷蔵室ドア211,212を撮影する機能を有し、筐体1の外側に設けられている。カメラユニット3は、冷蔵室ドア211,212が開けられた場合、冷蔵室ドア211,212と筐体1との間の隙間が視野に入るように配置されている。
【0021】
カメラユニット3は、筐体1の上側において、左右方向の中央付近に設置されている。図5の例では、左右方向において、冷蔵庫100の筐体1の中央よりも若干左側にカメラユニット3が配置されている。より詳しく説明すると、閉状態の冷蔵室ドア211,212の合わせ目の真上にカメラユニット3が配置されている(図1も参照)。これによって、冷蔵室ドア211,212が開けられた場合に、ドアポケット211c,212cの食品等がカメラユニット3の視野に入りやすくなる。
【0022】
図6は、カメラユニット3を斜め下から見上げた場合の斜視図である。
図6に示すカメラユニット3の本体部31は、前記したレンズ31a(図2も参照)の他、ケース31bと、カバー31cと、を備えている。本体部31のケース31bは、概ね、前後方向に細長い直方体状を呈している。ケース31bの前端付近の下面には、円形状の孔(符号は図示せず)が設けられ、この孔を介してレンズ31aが露出している。
【0023】
ケース31bにおいて、レンズ31aの後側(奥側)には、左右方向に細長い孔(符号は図示せず)が設けられ、この孔にカバー31cが嵌め込まれている。カバー31cは、カメラLED31d(図7B参照)を保護する透光性の樹脂製部材である。
【0024】
図7Aは、カメラユニット3の正面図である。
図7Aに示すように、カメラユニット3の本体部31が支持部32の上側に設置されている。また、左右方向において、支持部32の中央付近に本体部31が設置されている。
【0025】
図7Bは、図7AのII-II線矢視断面図である。
図7Bに示すように、カメラユニット3は、前記したレンズ31a(図6も参照)やカバー31c(図6も参照)、ケース31bを備えている他、カメラLED31dと、回路基板31eと、を備えている。
【0026】
カメラLED31dは、カメラユニット3が冷蔵室21(図3参照)やドアポケット211c,212c(図3参照)を適度な明るさのもとで撮影できるように、冷蔵室21等に光を照射する光源である。カメラLED31dの下側には、透光性のカバー31c(図6も参照)が設けられている。
【0027】
回路基板31eは、後記する撮像素子31f(図8参照)やカメラ/通信制御SoC31g(System-on-a-Chip:図8参照)が実装されたプリント基板である。このように、レンズ31aやカメラLED31d、回路基板31eを一つのケース31bに収容することで、これらを別体で設ける場合と比べて、カメラユニット3を小型化できるとともに、配線の長さを短縮できる。
【0028】
図8は、冷蔵庫100のカメラユニット3を含むシステム構成図である。
図8に示すように、冷蔵庫100は、カメラユニット3の他に、ドアセンサ4と、撮影ボタン5と、制御部6と、を備えている。
ドアセンサ4は、冷蔵室ドア211,212の開閉状態を示す所定の信号を制御部6に出力する。なお、図8ではひとつのドアセンサ4を示しているが、実際には、左側の冷蔵室ドア211(図1参照)に対応するドアセンサ4と、右側の冷蔵室ドア212(図1参照)に対応する別のドアセンサ4と、が設けられている。例えば、左側の冷蔵室ドア211が開かれた場合には、この冷蔵室ドア211に対応するドアセンサ4から制御部6に所定の開信号が出力される。
【0029】
撮影ボタン5(図3も参照)は、前記したように、カメラユニット3を用いて手動で撮影する際、ユーザによって押されるボタンである。
制御部6は、例えば、マイコンであり、図示はしないが、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、各種インタフェース等の電子回路を含んで構成されている。そして、ROMに記憶されたプログラムを読み出してRAMに展開し、CPUが各種処理を実行するようになっている。なお、制御部6が行う処理については後記する。
【0030】
カメラユニット3は、レンズ31a(図7Bも参照)やカメラLED31d(図7Bも参照)の他、撮像素子31fと、カメラ/通信制御SoC31gと、無線LANユニット31hと、を備えている。撮像素子31fは、レンズ31aを介して入射する光を光電変換し、撮影画像データを生成する素子である。このような撮像素子31fとして、例えば、CCDセンサ(Charge Coupled Device)やCMOSセンサ(Complementary Metal Oxide Semiconductor)が用いられる。
【0031】
カメラ/通信制御SoC31gは、マイコンの機能や他の応用的な機能を有する回路を1チップ上に集積し、連携して機能するよう設計された集積回路である。カメラ/通信制御SoC31gは、制御部6との間で所定に通信を行い、撮像素子31fに撮影指令を出力する。これによって、撮像素子31fからカメラ/通信制御SoC31gに撮影画像データが入力される。なお、カメラ/通信制御SoC31gは集積回路の一例であり、他の種類のものを用いるようにしてもよい。
【0032】
無線LANユニット31hは、カメラ/通信制御SoC31gから出力される撮影画像データをルータ51に送信する。ルータ51は、通信の中継機器であり、無線LANユニット31hから受信した撮影画像データをネットワーク52を介して、サーバ53に送信する。サーバ53は、撮影画像データについて所定の処理を行い、冷蔵庫100の識別情報に対応付けて保存する。また、サーバ53は、ユーザの携帯端末54から冷蔵庫100の庫内画像の要求信号を受信した場合、撮影画像データを携帯端末54に送信する。このような携帯端末54として、携帯電話やスマートフォンの他、タブレットやウェアラブル端末等が用いられる。
【0033】
図9は、カメラユニットによる撮影結果であって、画像処理が行われていない状態の例である。
なお、図9では、紙面上側を前方とし、紙面下側を後方としている関係上、図3等に対して、左右が反転している。図9の例では、左右の冷蔵室ドア211,212の両方が開かれており、冷蔵室21の他、左右のドアポケット211c,212cも撮影されている。特に、カメラユニット3(図6参照)のレンズ31aとして魚眼レンズが用いられることで、広範囲の画角で撮像できる。ただし、画像処理が行われていない状態では、図9に示すように、実際には直線状の稜線が湾曲して写る他、同じ長さの稜線であっても、カメラユニット3から遠くなるにつれて、撮影画像における画素数が少なくなる。
【0034】
図10は、カメラユニット3による撮影結果であって、所定の画像処理が行われた状態の例である。
例えば、図9の撮影結果に基づいて、サーバ53(図8参照)で所定の画像処理が行われることで、あたかも冷蔵室21や左右の冷蔵室ドア211,212のそれぞれを正面から見たような画像に変換される。このような画像が携帯端末54(図8参照)に表示されることで、ユーザは、冷蔵室21等にどのような食品が収容されているかを一目で把握できる。
【0035】
<制御部の処理>
例えば、冷蔵室ドア211,212(図1参照)のうち少なくとも一方が開かれて、ドアセンサ4(図8参照)から開信号が入力された場合、制御部6(図8参照)は、カメラLED31dを点灯させ、カメラユニット3による撮影を所定に繰り返す。このような撮影が行われるたびに撮影画像データが生成されるが、カメラユニット3からサーバ53(図8参照)に送信される撮影画像データは、冷蔵室ドア211,212のうち少なくとも一方が十分に開かれたときに撮影されたものであることが望ましい。
【0036】
そこで、第1実施形態では、制御部6が、撮影画像データを用いて、冷蔵室ドア211,212の開角度を検出するようにしている。なお、「開角度」とは、冷蔵室ドア211,212が開いている角度である。カメラユニット3から所定の撮影画像データが入力された場合、制御部6は、例えば、撮影画像データ(カラーの画像)をグレースケールに変換した上で、図11に示す一連の処理を行う。
【0037】
図11は、冷蔵庫の制御部が実行する処理のフローチャートである(適宜、図8を参照)。
なお、図11では主に、冷蔵室ドア211,212の開角度の算出に関する処理を示している。ステップS101において制御部6は、二値化処理を行う。例えば、制御部6は、撮影画像において、輝度が所定値以上の画素の値を‘1’(白色)とし、輝度が所定値未満の画素の値を‘0’(黒色)にすることで、2値化処理を行う。
【0038】
次に、ステップS102において制御部6は、撮影画像上のエッジを抽出する。制御部6は、例えば、Sobelフィルタを用いることで、撮影画像上のエッジを抽出する。なお、エッジの抽出する手法は、Sobelフィルタに限定されず、LaplacianフィルタやCanny法といった他の周知の手法が用いられてもよい。
ステップS103において制御部6は、撮影画像上の特徴点を抽出する。
【0039】
図12Aは、撮影画像上の特徴点の抽出に関する説明図である。
なお、図12Aでは、左右の冷蔵室ドア211,212が開かれた状態の撮影画像に2値化処理が施されたものを示している。また、図12Aでは、紙面上側を前方とし、紙面下側を後方としている関係上、図3等に対して、左右が反転している(図12B図12Cも同様)。
【0040】
図12Aでは、内箱12(図4も参照)や左側の冷蔵室ドア211のパッキン211d(図3も参照)の他、右側の冷蔵室ドア212のパッキン212d(図3も参照)が撮影画像に含まれている。また、図12Aでは符号を示していないが、左右の横板1a,1b(図4参照)の他、左右のサイドピース211f,212f(図5参照)も撮影画像に含まれている。これらの符号を図12Aに示していないのは、2値化処理で画素の値が‘0’(黒色)になっているためである。
【0041】
図12Aに示す矩形状の領域7aは、右側の冷蔵室ドア212の開角度の算出に用いられる領域であり、撮影画像上の位置・大きさが予め設定されている。具体的には、右側の冷蔵室ドア212が開かれた状態で、内箱12(図4参照)と右側の横板1b(図4参照)との間の境目が撮影画像上で領域7aを通るように、この領域7aが予め設定されている。また、右側の冷蔵室ドア212が開かれた状態で、この冷蔵室ドア212のパッキン212d(図3参照)とサイドピース212f(図5参照)との間の境目が撮影画像上で領域7aを通るように、この領域7aが予め設定されている。なお、他方の矩形状の領域7bについても同様である。
【0042】
図12Aに示す特徴点8mは、撮影画像において、右側の冷蔵室ドア212のパッキン212d(図3参照)とサイドピース212f(図5参照)との間の境目に含まれる点の候補である。例えば、図12Aの下向き矢印に示すように、制御部6(図8参照)は、撮影画像の領域7aに含まれる所定の縦一列の画素の値を上から順に読み込んでいく。この場合、画素の値が‘1’(白色)から‘0’(黒色)に変わる点は、パッキン212d(図3参照)とサイドピース212f(図5参照)との間の境目に含まれる可能性が高い特徴点8mである。
【0043】
なお、撮影画像上でパッキン212d(図3参照)とサイドピース212f(図5参照)との間に輝度差が生じるように、パッキン212d及びサイドピース212fのそれぞれが所定の色で塗装されていてもよい。これによって、パッキン212dとサイドピース212fとの間の境目が、後記する第2エッジ92a(図13参照)として抽出されやすくなる。
【0044】
図12Aに示す特徴点8nは、撮影画像において、筐体1の内箱12(図4参照)と横板1b(図4参照)との間の境目に含まれる点の候補である。例えば、図12Aの下向き矢印に示すように、制御部6(図8参照)は、撮影画像の領域7aに含まれる所定の縦一列の画素の値を上から順に読み込んでいく。この場合に、画素の値が‘0’(黒色)から‘1’(白色)に変わる点は、内箱12(図4参照)と横板1b(図4参照)との間の境目に含まれる可能性が高い特徴点8nである。
【0045】
なお、撮影画像上で内箱12と横板1b(図4参照)との間に輝度差が生じるように、内箱12及び横板1bのそれぞれが所定の色で塗装されていてもよい。これによって、内箱12と横板1bとの間の境目が、後記する第1エッジ91a(図13参照)として抽出されやすくなる。
【0046】
制御部6は、例えば、領域7aにおける所定の縦一列について特徴点を抽出した後、隣の縦一列の特徴点を抽出するといったように、特徴点の抽出対象の列をひとつずつ横方向にずらしていく(図12Aの右向き矢印を参照)。そして、制御部6は、領域7aに含まれる縦の全ての列について、特徴点を抽出する(図11のS103)。なお、他方の領域7bにおいても同様の処理が行われる。
【0047】
次に、図11のステップS104において制御部6は、近似線を算出する。すなわち、制御部6は、ステップS103で抽出した複数の特徴点に基づいて、撮影画像上のエッジを示す2本の近似線(直線)を特定する。なお、これらの近似線の算出において、最小二乗法等の周知の手法が用いられてもよい。
【0048】
図12Bは、撮影画像上の特徴点の連なりを示す説明図である。
図12Bの例では、矩形状の領域7aにおいて、内箱12と横板1b(図4参照)との間の境目に複数の特徴点8nが連なるように分布している。これらの特徴点8nに基づいて、撮影画像上の筐体1(図4参照)のエッジである第1エッジ91a(図13参照)が、所定の近似線として算出される。この第1エッジ91aは、内箱12と横板1b(図4参照)との間の境目に対応する撮影画像上のエッジである。
【0049】
また、図12Bの例では、矩形状の領域7aにおいて、冷蔵室ドア212のパッキン212dとサイドピース212f(図5参照)との間の境目に複数の特徴点8mが連なるように分布している。これらの特徴点8mに基づいて、撮影画像上の冷蔵室ドア212(ドア)のエッジである第2エッジ92a(図13参照)が、所定の近似線として算出される。この第2エッジ92aは、冷蔵室ドア212のパッキン212dとサイドピース212f(図5参照)との間の境目に対応する撮影画像上のエッジである。
【0050】
第1エッジ91a(図13参照)及び第2エッジ92a(図13参照)は、実空間上では、冷蔵室ドア212のヒンジ212a(図5参照)の軸に対して平行になっている。例えば、右側の冷蔵室ドア212が開けられたとき、内箱12の右側の縁付近に照射される光の大部分は、冷蔵庫100の庫内灯(図示せず)やカメラLED31d(図7B参照)の光であることが多い。したがって、冷蔵庫100の周囲の光や物体等が、第1エッジ91aや第2エッジ92aの抽出に悪影響を及ぼすことはほとんどない。その結果、制御部6が、第1エッジ91aや第2エッジ92aを高精度に抽出できる。
次に、図11のステップS105において制御部6は、台形状の部分の面積を算出する。
【0051】
図12Cは、撮影画像上の領域7aに含まれる台形状の部分9aを示す説明図である。
図12Cに示す台形状の部分9aは、第1エッジ91a(図13参照)において領域7aに含まれる線分L1(図13参照)と、第2エッジ92a(図13参照)において領域7aに含まれる別の線分L2(図13参照)との間で、領域7aに含まれている部分である。
【0052】
第1エッジ91a(図13参照)は、内箱12と横板1b(図4参照)との間の境目であるため、冷蔵室ドア212が開かれても、撮影画像上の第1エッジ91aの位置が変わることはほとんどない。これに対して、第2エッジ92a(図13参照)は、冷蔵室ドア212のパッキン212dとサイドピース212f(図5参照)との間の境目であるため、冷蔵室ドア212の開角度が大きくなるにつれて、領域7aの上側の境界線に第2エッジ92aが近づいていく。その結果、冷蔵室ドア212の開角度が大きくなるほど、台形状の部分9aの面積(画素数)も大きくなる。そこで、第1実施形態では、制御部6が、台形状の部分9aの撮影画像上の面積(画素数)に基づいて、冷蔵室ドア212(ドア)の開角度を算出するようにしている。
【0053】
図13は、第1エッジ91aと第2エッジ92aとの間の台形状の部分9aに関する説明図である。
なお、図13では、図12Cの領域7aを取り出して示している。図13に示すように、直線状の第1エッジ91a及び第2エッジ92aは、矩形状の領域7aにおける縦方向の一対の対辺(境界線)に交わっている。言い換えると、撮影画像上で第1エッジ91a及び第2エッジ92aが通るように、矩形状の領域7aが予め設定されている。
【0054】
図13に示す点61,62は、矩形状の領域7aの一対の対辺と、第1エッジ91aと、の交点である。点63,64は、矩形状の領域7aの一対の対辺と、第2エッジ92aと、の交点である。図13に示すように、点61,63を結ぶ線分L3の長さ(画素数)よりも、点62,64を結ぶ線分L4の長さ(画素数)の方が短くなっている。これは、線分L3よりも線分L4の方が、実空間上での高さ位置が低く、撮影画像上での画素数が少ないからである。
【0055】
前記したステップS105(図11参照)において制御部6は、第1エッジ91aと第2エッジ92aとの間であって、領域7aに含まれている台形状の部分9aの面積を算出する。次に、ステップS106(図11参照)において制御部6は、冷蔵室ドア212の開角度を算出する。すなわち、制御部6は、ステップS105で算出した台形状の部分9aの面積に対応する開角度を算出する(開角度算出ステップ)。
【0056】
図14は、台形状の部分の面積と、冷蔵室ドアの開角度と、の間の関係を示す説明図である。
なお、図14の横軸は、領域7aに含まれる台形状の部分9a(図12C図13参照)の面積(画素数)である。また、図14の縦軸は、冷蔵室ドア212の開角度である。図14に曲線C1は、台形状の部分9aの面積から、冷蔵室ドア212の開角度を導くためのデータであり、予め設定されている。なお、曲線C1のデータとして、例えば、所定のデータテーブルが用いられてもよいし、また、単調増加の所定の関数が用いられてもよい。
【0057】
制御部6は、例えば、台形状の部分9a(図13参照)の面積S1と、図14に示す曲線C1のデータと、に基づいて、冷蔵室ドア212の開角度θ1を算出する(S106:図11参照)。このように、制御部6は、筐体1(図3参照)に設けられるヒンジ式の冷蔵室ドア212(ドア)が開かれた場合、カメラユニット3(撮影手段:図8参照)による撮影画像上の筐体1のエッジである第1エッジ91a(図13参照)と、撮影画像上の冷蔵室ドア212のエッジである第2エッジ92a(図13参照)と、の間の画素数に基づいて、冷蔵室ドア212の開角度を算出する(開角度算出ステップ)。また、制御部6は、左側の冷蔵室ドア211(図3参照)の開角度も同様にして算出する。
【0058】
なお、冷蔵庫100の筐体1(図1参照)に対してカメラユニット3(図1参照)が傾いていなければ、冷蔵室ドア212の開角度の算出値の誤差は、無視できる程度に小さい。しかしながら、場合によっては、外箱11と内箱12との間に充填されている断熱材(発泡ウレタン等:図示せず)が変形したり、冷蔵庫100の製造時に組付け誤差が生じたりして、外箱11の上面の一部が水平面に対して若干傾く可能性がある。
【0059】
具体的には、カメラユニット3の左側が右側よりも若干下がったり(図1の白抜き矢印71)、また、カメラユニット3の右側が左側よりも若干下がったりする可能性がある(図1の白抜き矢印72)。このようにカメラユニット3が傾いた状態になると、図13の領域7aに含まれる台形状の部分9aの面積が、冷蔵室ドア211等の実際の開角度に対応する面積よりも大きくなったり、小さくなったりするため、開角度の算出値に誤差が生じる。そこで、第1実施形態では、撮影画像における所定の基準線73(図15A参照)と、第1エッジ91a,91b(図15A参照)と、の位置関係に基づいて、制御部6が、冷蔵室ドア211,212の開角度を補正するようにしている。
【0060】
図15Aは、カメラユニットが傾いていない場合の撮影画像に関する説明図である。
なお、図15Aでは、紙面上側を前方とし、紙面下側を後方としている関係上、図3等に対して、左右が反転している(図15B図15Cも同様)。
図15Aに示す矩形状の領域74は、縦・横にマトリクス状に配列された多数の撮像素子31f(図8参照)の電気信号に基づく撮影画像の領域を示している。矩形状の領域74において、レンズ31a(図8参照)を介して入射する光が反映された円形状の領域75の外側は、実際は黒色の画像になっている(例えば、図12Aを参照)。
【0061】
矩形状の領域74における一つの角部(図15Aの例では、紙面左上の角部)を原点として、横方向をx軸とし、縦方向をy軸とする。x軸・y軸の座標の値に基づいて、撮影画像における各画素が特定される。図15Aに示す基準線73は、カメラユニット3(図1参照)が傾いているか否かを制御部6が判定する際の基準となる線であり、予め設定されている。図15Aの例では、矩形状の領域74をx軸方向の中央で左右均等に分割するように、y軸方向の基準線73が予め設定されている。ちなみに、カメラユニット3(図1参照)が傾いた場合でも、矩形状の領域74に対する基準線73の位置関係は一定に保たれている。
【0062】
図11のステップS106において冷蔵室ドア212の開角度を算出した後、ステップS107において制御部6は、第1エッジ91a,91bの端点を特定する。すなわち、制御部6は、内箱12と右側の横板1b(図4参照)との間の境目である第1エッジ91aの上側(図15Aでは、紙面の左下側)の端点81aを特定する。同様に、制御部6は、内箱12と左側の横板1a(図4参照)との間の境目である別の第1エッジ91bの上側(図15Aでは、紙面の右下側)の端点81bを特定する。
【0063】
ちなみに、第2エッジ92a(冷蔵室ドア212のエッジ)は、冷蔵室ドア212の開閉に伴って撮影画像上で動くが、第1エッジ91a(筐体1のエッジ)が動くことはほとんどない。したがって、第1実施形態では、第1エッジ91aをカメラユニット3(図1参照)の傾きの検出に用いるようにしている。
【0064】
なお、左右の冷蔵室ドア211,212の両方が開かれた場合に、制御部6がステップS107(図11参照)の処理を行うようにしてもよい。その他にも、例えば、左右の冷蔵室ドア211,212の一方が開かれ、他方が閉じた状態になっている場合、閉じた状態の冷蔵室ドアについては、過去に取得された直近の撮影画像の第1エッジを用いて、制御部6がステップS107の処理を行うようにしてもよい。
【0065】
次に、図11のステップS108において制御部6は、端点81a,81bの間の中点82を特定する。すなわち、制御部6は、図15Aに示す右側の端点81aと、左側の端点81bと、を結ぶ線分の中点82の位置(座標の値)を特定する。カメラユニット3(図1参照)が傾いていない場合には、図15Aに示すように、中点82のx軸方向の位置が、基準線73のx軸方向の位置に略一致する。
【0066】
図11のステップS109において制御部6は、中点82が基準線73からずれているか否かを判定する。図15Aの例では、前記したように、カメラユニット3(図1参照)が傾いていないため、中点82のx軸方向の位置が基準線73のx軸方向の位置に略一致している。このように、中点82が基準線73からずれていない場合(S109:No)、制御部6は、図11に示す一連の処理を終了する(END)。この場合には、ステップS106で算出した開角度が、冷蔵室ドア211,212の開角度の算出値として用いられる。図11に示す一連の処理は、新たな撮影画像データが入力されるたびに行われる。
【0067】
図15Bは、カメラユニットが左側に傾いた場合の撮影画像に関する説明図である。
図1の白抜き矢印71で示すように、カメラユニット3が左側(図15Bの紙面右側)に傾くと、カメラユニット3が傾いていない場合(図15A参照)に比べて、撮影される範囲が右寄り(図15Bの紙面の左寄り)になる。一方、撮影画像の領域74に対して、矩形状の領域7a,7bの位置関係は一定に保たれている。その結果、撮影画像の紙面右側の矩形状の領域7bには、図15Aの場合よりも高さ位置が高い部分(カメラユニット3に近い部分)が写るため、台形状の部分9bの面積が本来の値よりも大きくなる。一方、撮影画像の紙面左側の矩形状の領域7aには、図15Aの場合よりも高さ位置が低い部分(カメラユニット3から遠い部分)が写るため、台形状の部分9aの面積が本来の値よりも小さくなる。
【0068】
また、カメラユニット3(図1参照)が左側(図15Bの紙面右側)に傾くと、第1エッジ91a,91bの上側の端点81a,81bのx軸方向の位置が、それぞれ、右側(図15Bの紙面では左側)にずれる。その結果、端点81a,81bの中点82の位置が基準線73よりも右側にずれる。このような場合には、図11のステップS109において制御部6は、中点82が基準線73からずれていると判定する(S109:Yes)。
【0069】
そして、ステップS110において制御部6は、冷蔵室ドア211,212の開角度を補正する(開角度補正ステップ)。すなわち、制御部6は、撮影画像における所定の基準線73と、第1エッジ91a,91bと、の位置関係に基づいて、冷蔵室ドア211,212の開角度を補正する。具体例を挙げると、右側の冷蔵室ドア212の開角度の算出値が100°であり、基準線73からx軸方向に-5ピクセルだけ中点82がずれていたとする。このような場合、制御部6は、冷蔵室ドア212の開角度の算出値(例えば、100°)と、基準線73からの中点82のずれを示す画素数(例えば、-5ピクセル)と、に基づいて、冷蔵室ドア212の開角度を補正する。また、制御部6は、左側の冷蔵室ドア211の開角度についても同様に補正する。
【0070】
なお、開角度の算出値と、基準線73から中点82がずれている程度を示す画素数と、に対応付けて、左右の冷蔵室ドア211,212のそれぞれの開角度の補正値が、予め記憶されているものとする。このように、制御部6は、筐体1(図1参照)の右側及び左側のそれぞれの第1エッジ91a,91bの端点81a,81bを結んだ線分の中点82と、基準線73と、の間のx軸方向(横方向)の画素数に基づいて、開角度を補正する。具体的には、制御部6は、基準線73を境とする一方側(図15Bの例では紙面左側)に中点82が位置している場合、右側の冷蔵室ドア212(右ドア)及び左側の冷蔵室ドア211(左ドア)のうち、一方側(例えば、図15Bの紙面左側)に対応するものの開角度を補正前よりも大きくし、他方側(例えば、図15Bの紙面右側)に対応するものの開角度を補正前よりも小さくするように補正する。このように、制御部6が冷蔵室ドア211,212の開角度を補正することで、カメラユニット3(図1参照)が傾いている状態でも、冷蔵室ドア211,212の開角度を高精度に算出できる。
【0071】
図15Cは、カメラユニットが右側に傾いた場合の撮影画像に関する説明図である。
図1の白抜き矢印72で示すように、カメラユニット3が右側(図15Cの紙面左側)に傾くと、カメラユニット3が傾いていない場合(図15A参照)に比べて、撮影される範囲が左寄り(図15Cの紙面の右寄り)になる。したがって、第1エッジ91aの上側の端点81a,81bにおけるx軸方向の位置が左側(図15Cの紙面では右側)にずれる。その結果、端点81a,81bの間の中点82の位置が、基準線73よりも左側にずれる。このような場合、図11のステップS109において制御部6は、中点82が基準線73からずれていると判定する(S109:Yes)。そして、ステップS110において制御部6は、冷蔵室ドア211,212の開角度を補正する。具体的には、制御部6は、左側の冷蔵室ドア211の開角度を補正前よりも大きくし、右側の冷蔵室ドア212の開角度を補正前よりも小さくする。
【0072】
第1実施形態によれば、撮影画像における第1エッジ91aと第2エッジ92aとの間の画素数(台形状の部分9aの面積:図13参照)に基づいて、制御部6が、冷蔵室ドア211,212の開角度を算出する。これによって、冷蔵室ドア211,212の開角度を容易かつ高精度に算出できる。また、冷蔵室ドア211,212の開角度の算出のための専用の部材を追加で設ける必要が特にないため、冷蔵庫100の製造コストを削減できる。
【0073】
また、第1実施形態によれば、カメラユニット3(図1参照)が傾いている場合でも、制御部6が冷蔵室ドア211,212の開角度の算出値を補正することで、開角度を高精度に算出できる。これによって、冷蔵室ドア211,212が開けられた状態の画像をユーザの携帯端末54(図8参照)に適切に表示させることができる。
【0074】
≪第2実施形態≫
第2実施形態は、第1エッジ91a(図17参照)の上側の端点81a(図17参照)から領域7a(図17参照)の境界線までの線分83a(図17参照)の長さに基づいて、制御部6が冷蔵室ドア212の開角度を補正する点が、第1実施形態とは異なっている。なお、その他の点(冷蔵庫100の構成等)については、第1実施形態と同様である。したがって、第1実施形態とは異なる部分について説明し、重複する部分については説明を省略する。
【0075】
図16は、第2実施形態に係る冷蔵庫の制御部が実行する処理のフローチャートである(適宜、図8を参照)。
なお、図16のステップS101~S107の処理は、第1実施形態(図11参照)で説明したステップS101~S107の処理と同様であるから、説明を省略する。
ステップS107において第1エッジ91a,91b(図17参照)の端点81a,81bを特定した後、制御部6の処理はステップS121に進む。
ステップS121において制御部6は、例えば、右側の第1エッジ91a(図17参照)については、その端点81a(図17参照)から領域7a(図17参照)の境界線までの線分83a(図17参照)の長さを算出する。同様にして、制御部6は、左側の第1エッジ91b(図17参照)に含まれる線分83b(図17参照)の長さを算出する。
【0076】
図17は、第2実施形態に係る冷蔵庫において、カメラユニットが傾いていない場合の撮影画像を示す説明図である。
なお、図17では、右側の第1エッジ91aの端点81aから矩形状の領域7aの境界線までの線分83aを太い実線で示している(左側の線分83bも同様)。
図16のステップS121において線分83a,83bの長さを算出した後、ステップS122において制御部6は、線分83a,83bのそれぞれの長さが既定値とは異なっているか否かを判定する。ここで、右側の線分83aの長さの「既定値」とは、カメラユニット3(図1参照)が傾いていない場合での線分83aの長さの値(画素数)であり、予め設定されている(左側の線分83bも同様)。なお、右側の線分83aと、左側の線分83bとは、その長さの既定値が等しい値に設定されてもよいし、また、異なる値に設定されていてもよい。
【0077】
ステップS122において、線分83a,83bのそれぞれの長さが既定値に等しい場合(S122:No)、制御部6は、一連の処理を終了する(END)。この場合には、ステップS106における開角度の算出値が、冷蔵室ドア211,212の開角度として用いられる。また、ステップS122において、線分83a,83bの少なくとも一方の長さが既定値とは異なる場合(S122:Yes)、制御部6の処理はステップS123に進む。
【0078】
ステップS123において制御部6は、冷蔵室ドア211,212の開角度を補正する(開角度補正ステップ)。すなわち、制御部6は、第1エッジ91a(図17参照)において、この第1エッジ91aの端点81aから領域7aの境界線までの線分83aの長さに基づいて、冷蔵室ドア212の開角度を補正する(左側の冷蔵室ドア211も同様)。
【0079】
例えば、カメラユニット3が右側(図17の紙面左側)に傾いていた場合(図1の白抜き矢印72を参照)、図17の右側の線分83aは本来の長さよりも短くなり、左側の線分83bは本来の長さよりも長くなる。つまり、冷蔵庫100の右側では、線分83aの実際の長さから既定値を減算した値が負になり、冷蔵庫100の左側では、線分83bの実際の長さから既定値を減算した値が正になる。このような場合、制御部6は、右側の冷蔵室ドア212の開角度を補正前よりも小さくし、左側の冷蔵室ドア211の開角度を補正前よりも大きくするように補正する。
【0080】
すなわち、制御部6は、開角度補正ステップ(S123)では、第1エッジ91aにおいてカメラユニット3(撮影手段:図1参照)に近い側(上側)の端点81aから領域7aの境界線までの線分83aの長さを算出し、この線分83aの長さから既定値(所定値)を減算した値が負である場合には、冷蔵室ドア212の開角度を補正前よりも小さくする。また、制御部6は、線分83aの長さから既定値(所定値)を減算した値が正である場合には、冷蔵室ドア212の開角度を補正前よりも大きくする。なお、冷蔵室ドア212の開角度の算出値と、線分83aに関する差分の値と、に対応付けて、補正後の開角度が予め記憶されているものとする。また、左側の冷蔵室ドア211の開角度の補正についても同様のことがいえる。
【0081】
第2実施形態によれば、第1エッジ91aの端点81aから矩形状の領域7aの境界線までの線分83aの長さに基づいて、制御部6が冷蔵室ドア212の開角度を補正する。撮影画像上では、第1エッジ91aの下側よりも上側の方が庫内灯の光が照射されやすいため、端点81aを高精度で抽出できる。また、第1実施形態のように、冷蔵室ドア211,212の開角度を補正する際、左右の端点81a,81bの間の中点を用いる必要が特にないため、例えば、片開きの冷蔵室ドアを備える冷蔵庫にも第2実施形態を適用できる。
【0082】
≪第3実施形態≫
第3実施形態は、第1エッジ91a,91b(図18参照)の下側の端点84a,84b(図18参照)の間の中点85(図18参照)に基づいて、制御部6が冷蔵室ドア211,212の開角度を補正する点が、第1実施形態とは異なっている。なお、その他の点(冷蔵庫100の構成等)については、第1実施形態と同様である。したがって、第1実施形態とは異なる部分について説明し、重複する部分については説明を省略する。
【0083】
図18は、第3実施形態に係る冷蔵庫において、カメラユニットが傾いていない場合の撮影画像を示す説明図である。
なお、制御部6(図8参照)の処理については、第1エッジ91a,91bの下側の端点84a,84bを用いること以外は第1実施形態と同様であるから、図11を用いて説明する。
制御部6は、図11のステップS101~S106と同様の処理を行い、左右の冷蔵室ドア211,212の開角度を算出する。そして、制御部6は、第1エッジ91a,91bの下側の端点84a,84bを特定する。すなわち、制御部6は、内箱12(図4参照)と右側の横板1b(図4参照)との間の境目である第1エッジ91aの下側(図18の紙面では右上側)の端点84aを特定する。なお、左側の第1エッジ91bの端点84bも同様に特定される。
【0084】
これらの端点84a,84bを抽出する際、制御部6が、矩形状の領域7cでの処理に基づいて、内箱12の底12aの縁を示す第3エッジ87を抽出するようにしてもよい。そして、制御部6が、第3エッジ87と右側の第1エッジ91aとの交点を端点84aとして特定するとともに、第3エッジ87と左側の第1エッジ91bとの交点を別の端点84bとして特定するようにしてもよい。これによって、内箱12の底12aの付近に光がそれほど照射していない場合でも、下側の端点84a,84bを高精度で特定できる。
【0085】
このように第1エッジ91a,91bの下側の端点84a,84bを特定した後、図11のステップS108において制御部6は、端点84a,84bの間の中点85を特定する。カメラユニット3(図1参照)が傾いていない場合には、図18に示すように、中点85のx軸方向の位置が、基準線73のx軸方向の位置に略一致する。
【0086】
一方、中点85のx軸方向の位置が基準線73からずれている場合、制御部6は、冷蔵室ドア212の開角度と、基準線73からの中点85のずれを示す画素数と、に基づいて、冷蔵室ドア212の開角度を補正する(左側の冷蔵室ドア211についても同様)。なお、開角度の補正方法については第1実施形態と同様であるから、説明を省略する。
【0087】
本実施形態によれば、例えば、ユーザの影が撮影画像に入り込んで、制御部6が第1エッジ91a,91bの上側の端点を特定しにくい場合でも、下側の端点84aに基づいて、冷蔵室ドア211,212の開角度を適切に補正できる。
【0088】
≪第4実施形態≫
第4実施形態は、第1エッジ91a(図19参照)において、下側の端点84a(図19参照)から領域7a(図19参照)の境界線までの線分86a(図19参照)の長さに基づいて、制御部6が冷蔵室ドア212の開角度を補正する点が、第2実施形態とは異なっている。なお、その他の点については、第2実施形態と同様である。したがって、第2実施形態とは異なる部分について説明し、重複する部分については説明を省略する。
【0089】
図19は、第4実施形態に係る冷蔵庫において、カメラユニットが傾いていない場合の撮影画像を示す説明図である。
なお、制御部6(図8参照)の処理については、第1エッジ91a,91bの下側の端点84a,84bを用いること以外は第2実施形態と同様であるから、図16を用いて説明する。
【0090】
制御部6は、図16のステップS101~S106と同様の処理を行い、冷蔵室ドア211,212の開角度を算出する。次にステップS107において制御部6は、第1エッジ91a(図19参照)の下側の端点84a(図19参照)を特定する。
次に、ステップS121において制御部6は、第1エッジ91aの下側の端点84a(図19参照)から領域7aの境界線までの線分86a(図19参照)の長さを算出する。
【0091】
ステップS122において制御部6は、線分86aの長さが既定値とは異なっているか否かを判定する。線分86aの長さが既定値に等しい場合(S122:No)、制御部6は処理を終了する(END)。この場合には、カメラユニット3(図1参照)が傾いておらず、冷蔵室ドア212の開角度を補正する必要が特にないからである。
【0092】
また、ステップS122において、線分86aの長さが既定値とは異なっている場合(S122:Yes)、ステップS123において制御部6は、冷蔵室ドア212の開角度を補正する(開角度補正ステップ)。例えば、カメラユニット3が右側(図19の紙面左側)に傾いていた場合(図1の白抜き矢印72を参照)、右側の線分86aは本来の長さよりも長くなり、左側の線分86bは本来の長さよりも短くなる。このような場合、制御部6は、右側の冷蔵室ドア212の開角度を補正前よりも小さくし、左側の冷蔵室ドア211の開角度を補正前よりも大きくするように補正する。
【0093】
すなわち、制御部6は、開角度補正ステップ(S123)では、第1エッジ91aにおいてカメラユニット3(撮影手段:図1参照)から遠い側の端点84aから領域7aの境界線までの線分86aの長さを算出し、この線分86aの長さから既定値(所定値)を減算した値が負である場合には、冷蔵室ドア212の開角度を補正前よりも大きくする。また、制御部6は、線分86aの長さから既定値(所定値)を減算した値が正である場合には、冷蔵室ドア212の開角度を補正前よりも小さくする。
なお、冷蔵室ドア212の開角度の算出値と、線分86aに関する差分の値と、に対応付けて、補正後の開角度が予め記憶されているものとする。また、左側の冷蔵室ドア211の開角度の補正についても同様のことがいえる。
【0094】
第4実施形態によれば、下側の線分86a,86bの長さに基づいて、冷蔵室ドア211,212の開角度を適切に補正できる。また、冷蔵室ドア211,212の開角度を補正する際、左右の端点81a,81bの間の中点を用いる必要が特にないため、例えば、片開きの冷蔵室ドアを備える冷蔵庫にも第4実施形態を適用できる。
【0095】
≪第5実施形態≫
第5実施形態は、第1エッジ91a(図20A参照)や第2エッジ92a(図20A参照)が所定の許容範囲から外れていた場合、そのときの撮影画像を携帯端末54(図8参照)の表示には用いない点が、第1実施形態とは異なっている。なお、その他の点(冷蔵庫100の構成等)については、第1実施形態同様である。したがって、第1実施形態とは異なる部分について説明し、重複する部分については説明を省略する。
【0096】
図20Aは、第5実施形態に係る冷蔵庫において、撮影画像における第1エッジ91aの許容範囲93aを示す説明図である。
図20Aに破線で示す許容範囲93a(第1許容範囲)は、その内側に第1エッジ91aが存在することが想定される範囲であり、予め設定されている。図20Aの例では、点P1から延びる2本の半直線L5,L6の間の範囲として、許容範囲93aが設定されている。前記したように、第1エッジ91aは、内箱12の縁付近のエッジであり、冷蔵室ドア212の開角度に関わらず、ほとんど動かない。したがって、第1エッジ91aの許容範囲93aは、次に説明する第2エッジ92aの許容範囲94a(図21A参照)よりも狭い範囲に設定されている。
【0097】
なお、カメラユニット3(図1参照)が若干傾いている場合でも、第1エッジ91aが許容範囲93aに含まれるように、この許容範囲93aが適宜に設定されていてもよい。また、図20Aでは、左側の第1エッジ91bの許容範囲の図示を省略しているが、この許容範囲も右側と同様に設定されている。
【0098】
図20Bは、撮影画像における第2エッジ92aの許容範囲94aを示す説明図である。
図20Bに破線で示す許容範囲94a(第2許容範囲)は、冷蔵室ドア212の開角度が所定範囲内(例えば、80°以上140°以下)の場合、その内側に第2エッジ92aが存在することが想定される範囲であり、予め設定されている。図20Bの例では、点P2から延びる2本の半直線L7,L8の間の範囲として、許容範囲94aが設定されている。
【0099】
なお、カメラユニット3(図1参照)が若干傾いている場合でも、第2エッジ92aが許容範囲94aに含まれるように、この許容範囲94aが適宜に設定されていてもよい。また、図20Bでは、左側の第2エッジ92bの許容範囲の図示を省略しているが、この許容範囲も右側と同様に設定されている。
【0100】
例えば、非常に稀なケースではあるが、光の当たり具合等によっては、特徴点8m,8n(図12B参照)が誤って抽出され、第1エッジ91aや第2エッジ92aが撮影画像上の本来の位置からずれた箇所で抽出される可能性がある。そこで、第5実施形態では、第1エッジ91aが所定の許容範囲93a(図20A参照)から外れていたり、また、第2エッジ92aが所定の許容範囲94a(図20B参照)から外れていたりした場合には、そのときの撮影画像を携帯端末54(図8参照)への表示に用いないようにしている。
【0101】
図21A図21Bは、冷蔵庫の制御部が実行する処理のフローチャートである。
なお、図21AのステップS101~S106の処理は、第1実施形態で説明したもの(図11のS101~S106)と同様であるから、説明を省略する。
ステップS106において冷蔵室ドア212の開角度を算出した後、ステップS131において制御部6は、冷蔵室ドア212の開角度が所定範囲内(例えば、80°以上140°以下)であるか否かを判定する。この所定範囲は、第1エッジ91aや第2エッジ92a等の近似線の適否の判定(S134)を行うか否かの基準となる範囲であり、予め設定されている。
【0102】
ステップS131において冷蔵室ドア212の開角度が所定範囲外である場合(S131:Yes)、制御部6は、ステップS131の処理を繰り返す。一方、ステップS131において冷蔵室ドア212の開角度が所定範囲内である場合(S131:Yes)、制御部6の処理はステップS132に進む。
【0103】
ステップS132において制御部6は、第1エッジ91aが許容範囲93a(図20A参照)に含まれているか否かを判定する(判定ステップ)。第1エッジ91aが許容範囲93aに含まれている場合(S132:Yes)、制御部6の処理はステップS133に進む。なお、ステップS132の処理において、第1エッジ91aを含む直線の傾き及び切片のそれぞれが、所定の範囲に含まれているか否かを制御部6が判定するようにしてもよい。
【0104】
ステップS133において制御部6は、第2エッジ92aが許容範囲94a(図20B参照)に含まれているか否かを判定する。第2エッジ92aが許容範囲94aに含まれている場合(S133:Yes)、制御部6の処理は、図21BのステップS107に進む。なお、ステップS133の処理において、第2エッジ92aを含む直線の傾き及び切片のそれぞれが、所定の範囲に含まれているか否かを制御部6が判定するようにしてもよい。また、ステップS107~S110の処理(開角度の補正に関する処理)については、第1実施形態(図11参照)と同様であるから、説明を省略する。
【0105】
図21AのステップS132(判定ステップ)において第1エッジ91aが許容範囲93a(第1許容範囲)から外れている場合(S132:No)、制御部6の処理はステップS134に進む。
ステップS134において制御部6は、第1エッジ91a等の近似線が不適切と判定する。次に、ステップS135において制御部6は、今回の撮影画像を携帯端末54(図8)への表示には用いないようにする。これによって、不適切な近似線に基づいて所定の処理が行われた画像が携帯端末54(図8参照)に表示されること防止できる。
【0106】
同様に、ステップS133(判定ステップ)において第2エッジ92aが許容範囲94a(第2許容範囲)から外れている場合(S133:No)、制御部6の処理はステップS134に進む。この場合にも、制御部6は、第2エッジ92a等の近似線が不適切と判定し(S134)、今回の撮影画像を携帯端末54(図8)への表示には用いないようにする(S135)。そして、制御部6は、図21BのステップS107~S110の処理(開角度の補正に関する処理)は特に行わずに、一連の処理を終了する(END)。なお、左側の第1エッジ91b(図20A参照)や第2エッジ92b(図20B参照)についても同様の処理が行われる。
【0107】
ちなみに、カメラユニット3(図1参照)による撮影は所定に繰り返されるが、次回の撮影画像では第1エッジ91a(図20A参照)や、第2エッジ92a(図20B参照)が正しく抽出されることもある。制御部6は、カメラユニット3による撮影のたびに、図21A図21Bの処理を実行する。
【0108】
第5実施形態によれば、第1エッジ91a(図20A参照)が許容範囲93aから外れている場合や、第2エッジ92a(図20B参照)が許容範囲94aから外れている場合、制御部6は、そのときの撮影画像を携帯端末54(図8参照)への表示には用いないようにする。これによって、不適切な近似線に基づく所定の画像が携帯端末54に表示されることを防止できる。
【0109】
≪変形例≫
以上、本開示に係る冷蔵庫100等について各実施形態により説明したが、これらの記載に限定されるものではなく、種々の変更を行うことができる。
例えば、冷蔵室ドア211,212の開角度の補正方法は、各実施形態で説明したものに限定されない。例えば、カメラユニット3(撮影手段)が正しく設置された状態での第1エッジ91a(図15A参照)の端点81aの位置が、所定の「基準位置」として設定され、開角度補正ステップでは、前記した「基準位置」と、第1エッジ91aの端点81aの実際の位置と、の間の画素数(横方向の画素数)に基づいて、制御部6が冷蔵室ドア212(ドア)の開角度を補正するようにしてもよい。このような処理も、撮影画像における所定の「基準位置」(又は基準線)と、第1エッジ91aと、の位置関係に基づいて、冷蔵室ドア212の開角度を補正する、という事項に含まれる。
なお、第1エッジ91aにおける上側の端点81a(図15A参照)に代えて、下側の端点84a(図18参照)が用いられてもよい。このような構成によれば、片開きの冷蔵室ドアの開角度を補正することが可能になる。
【0110】
また、各実施形態では、撮影画像を横方向で均等に分割するように、縦方向の基準線73(図15A参照)が撮影画像の中央に設けられる場合について説明したが、基準線73の位置は、冷蔵庫100の構成に伴って適宜に変更可能である。例えば、撮影画像を横方向の中央付近で分割するように基準線73が設定されていてもよい。
【0111】
また、第1実施形態では、冷蔵室ドア211,212の開角度の算出値と、中点の位置に関する差分(基準線とのx軸方向の差分)と、に対応して、補正後の開角度が読み出される場合について説明したが、これに限らない。例えば、前記した差分に対応する所定の係数が、予め記憶されているようにしてもよい。そして、冷蔵室ドア211,212の開角度の算出値に、前記した差分に対応する係数を乗算することで、補正後の開角度が算出されるようにしてもよい。なお、第2~第4実施形態についても同様のことがいえる。
【0112】
また、第2実施形態では、第1エッジ91a(図17参照)に含まれる線分83aの長さと既定値との差に基づいて、制御部6が冷蔵室ドア212の開角度を補正する場合について説明したが、これに限らない。例えば、右側の第1エッジ91a(図17参照)に含まれる線分83aの長さと、左側の第1エッジ91b(図17参照)に含まれる線分83bの長さと、の比に基づいて、制御部6が冷蔵室ドア212の開角度を補正するようにしてもよい。なお、第4実施形態についても同様のことがいえる。
【0113】
また、第5実施形態では、第1エッジ91a(図20A参照)が許容範囲93aに含まれているか否かの判定(図21AのS132)と、第2エッジ92a(図20A参照)が許容範囲94aに含まれているか否かの判定(図21AのS133)と、の両方が行われる場合について説明したが、これに限らない。すなわち、図21AのステップS132,S123のうち一方を適宜に省略するようにしてもよい。
また、第5実施形態では、冷蔵室ドア211,212の開角度が所定範囲内である場合(S131)、制御部6がステップS132,S133の処理を順次に行うことを説明したが、これに限らない。例えば、ステップS131の処理が適宜に省略されてもよい。
【0114】
また、各実施形態は、適宜に組み合わせることができる。例えば、第1実施形態と第2実施形態とを組み合わせ、第1実施形態の方法に基づく補正後の開角度と、第2実施形態の方法に基づく補正後の開角度と、の平均値を冷蔵室ドア211,212の開角度として用いるようにしてもよい。同様にして、第1~第4実施形態のうちの複数を適宜に組み合わせることも可能である。
その他にも、例えば、第2実施形態と第5実施形態とを組み合わせ、第1エッジ91a及び第2エッジ92aが許容範囲内である場合に(第5実施形態)、第2実施形態の方法に基づいて、制御部6が冷蔵室ドア212の開角度を補正するようにしてもよい。
【0115】
また、各実施形態では、撮影画像を生成するカメラユニット3(図2参照)が筐体1の上面に設けられる構成について説明したが、これに限らない。すなわち、筐体1の外側における別の所定位置にカメラユニット3が設けられるようにしてもよい。
【0116】
また、各実施形態では、冷蔵室ドア211,212の開角度の算出において、矩形状の領域7a(図13参照)が用いられる場合について説明したが、これに限らない。例えば、制御部6が、矩形状の領域7aを特に用いることなく、第1エッジ91aと第2エッジ92aとの間の画素数に基づいて、冷蔵室ドア211,212の開角度を算出するようにしてもよい。
【0117】
また、各実施形態では、第1エッジ91aとして、内箱12(図4参照)と横板1b(図4参照)との間の境目に対応する撮影画像上のエッジが用いられる場合について説明したが、これに限らない。すなわち、第1エッジ91aとして、筐体1における他の所定の境目が用いられてもよい。
また、各実施形態では、第2エッジ92aとして、冷蔵室ドア212のパッキン212d(図3参照)とサイドピース212f(図5参照)との間の境目に対応する撮影画像上のエッジが用いられる場合について説明したが、これに限らない。すなわち、第2エッジ92aとして、冷蔵室ドア212における他の所定の境目が用いられてもよい。
【0118】
また、各実施形態では、フレンチ式の冷蔵室ドア211,212(図3参照)を備える冷蔵庫100について説明したが、これに限らない。例えば、片開き式の冷蔵室ドア(図示せず)を備える冷蔵庫や、ポータブル冷蔵庫(図示せず)にも各実施形態を適用できる。また、各実施形態を適用可能な「収納庫」は、冷蔵庫に限定されるものではない。すなわち、さまざまな種類のヒンジ式の「収納庫」にも各実施形態を適用できる。この場合において、「収納庫」の筐体は、外箱・内箱といった区別が特にないような構成であってもよい。また、例えば、チェスト式の冷凍庫や収納庫にも各実施形態を適用できる。また、上開き式のドア(跳ね上げ式のドア)や下開き式のドアや折れ戸等を備える収納庫にも各実施形態を適用できる。また、例えば、折れ戸を備えるクローゼット等にも各実施形態を適用できる。
【0119】
また、各実施形態で説明した冷蔵室ドア211,212の開角度の算出方法(ドア開角度算出方法)を実現するプログラムの全部又は一部を、一つ又は複数のコンピュータが実行するようにしてもよい。前記したプログラムは、通信回線を介して提供することもできるし、CD-ROM等の記録媒体に書き込んで配布することも可能である。
【0120】
また、各実施形態は、本開示を分かりやすく説明するために詳細に記載したものであり、必ずしも説明した全ての構成を備えるものに限定されない。また、実施形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
また、前記した機構や構成は説明上必要と考えられるものを示しており、製品上必ずしも全ての機構や構成を示しているとは限らない。
【符号の説明】
【0121】
1 筐体
3 カメラユニット(撮影手段)
6 制御部
7a,7b 領域
54 携帯端末
73 基準線
81a,81b 端点(撮影手段に近い側の端点)
82 中点
83a,83b 線分(撮影手段に近い側の端点から領域の境界線までの線分)
84a,84b 端点(撮影手段から遠い側の端点)
85 中点
86a,86b 線分(撮影手段から遠い側の端点から領域の境界線までの線分)
91a,91b 第1エッジ
92a,92b 第2エッジ
93a 許容範囲(第1許容範囲)
94a 許容範囲(第2許容範囲)
100 冷蔵庫(収納庫)
211 冷蔵室ドア(ドア、左ドア)
212 冷蔵室ドア(ドア、右ドア)
L1 線分(第1エッジの線分)
L2 線分(第2エッジの線分)
S106 開角度算出ステップ
S110,S123 開角度補正ステップ
S132,S133 判定ステップ
図1
図2
図3
図4
図5
図6
図7A
図7B
図8
図9
図10
図11
図12A
図12B
図12C
図13
図14
図15A
図15B
図15C
図16
図17
図18
図19
図20A
図20B
図21A
図21B