IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 東芝ライフスタイル株式会社の特許一覧

<>
  • 特許-加熱調理器システム 図1
  • 特許-加熱調理器システム 図2
  • 特許-加熱調理器システム 図3
  • 特許-加熱調理器システム 図4
  • 特許-加熱調理器システム 図5
  • 特許-加熱調理器システム 図6
  • 特許-加熱調理器システム 図7
  • 特許-加熱調理器システム 図8
  • 特許-加熱調理器システム 図9
  • 特許-加熱調理器システム 図10
  • 特許-加熱調理器システム 図11
  • 特許-加熱調理器システム 図12
  • 特許-加熱調理器システム 図13
  • 特許-加熱調理器システム 図14
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-10-25
(45)【発行日】2024-11-05
(54)【発明の名称】加熱調理器システム
(51)【国際特許分類】
   F24C 7/04 20210101AFI20241028BHJP
   A47J 37/06 20060101ALI20241028BHJP
   A47J 37/08 20060101ALI20241028BHJP
【FI】
F24C7/04 301Z
A47J37/06 371
A47J37/08
【請求項の数】 11
(21)【出願番号】P 2021064993
(22)【出願日】2021-04-06
(65)【公開番号】P2022160322
(43)【公開日】2022-10-19
【審査請求日】2023-12-11
(73)【特許権者】
【識別番号】503376518
【氏名又は名称】東芝ライフスタイル株式会社
(74)【代理人】
【識別番号】100141139
【弁理士】
【氏名又は名称】及川 周
(74)【代理人】
【識別番号】100205785
【弁理士】
【氏名又は名称】▲高▼橋 史生
(74)【代理人】
【識別番号】100203297
【弁理士】
【氏名又は名称】橋口 明子
(74)【代理人】
【識別番号】100175824
【弁理士】
【氏名又は名称】小林 淳一
(74)【代理人】
【識別番号】100135301
【弁理士】
【氏名又は名称】梶井 良訓
(72)【発明者】
【氏名】磯貝 俊紀
【審査官】礒部 賢
(56)【参考文献】
【文献】特表2021-508811(JP,A)
【文献】特開2020-139697(JP,A)
【文献】米国特許出願公開第2019/0242584(US,A1)
【文献】特開2020-153945(JP,A)
【文献】特開平05-172337(JP,A)
【文献】特開平04-269489(JP,A)
【文献】韓国公開特許第10-2019-0105531(KR,A)
【文献】特開2005-172267(JP,A)
【文献】特開昭59-038529(JP,A)
【文献】特開2008-286466(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
F24C 1/00 - 15/36
A47J 37/00 - 37/12
(57)【特許請求の範囲】
【請求項1】
調理対象が載せられる載置部を含む筐体と、
前記筐体内に設けられ、前記調理対象を加熱する加熱部と、
前記調理対象を撮影し、前記加熱部の温度によって撮影される画像に含まれる前記調理対象の色が異なる撮像部と、
前記撮像部により撮影された画像をモノクロ画像に変換し、変換したモノクロ画像と、学習により内部変数が調整された学習済みモデルとに基づき、前記調理対象の調理具合を判定する判定部と、
前記判定部の判定結果に基づき前記加熱部を制御する制御部と、
を備え、
前記筐体は、開口を有した筐体本体と、前記開口を閉じる扉とを有し、
前記撮像部は、前記筐体本体の天井または前記扉の内面に設けられ、
前記判定部は、前記撮像部のレンズに付着した汚れの量を直接的または間接的に示す情報と、前記モノクロ画像と、前記学習済みモデルとに基づき、前記調理具合を判定し、
前記撮像部のレンズに付着した汚れの量を直接的または間接的に示す情報は、前記調理対象として過去に調理された食材の種類を示す使用履歴を含む、
加熱調理器システム。
【請求項2】
調理対象が載せられる載置部を含む筐体と、
前記筐体内に設けられ、前記調理対象を加熱する加熱部と、
前記調理対象を撮影し、前記加熱部の温度によって撮影される画像に含まれる前記調理対象の色が異なる撮像部と、
前記撮像部により撮影された画像をモノクロ画像に変換し、変換したモノクロ画像と、学習により内部変数が調整された学習済みモデルとに基づき、前記調理対象の調理具合を判定する判定部と、
前記判定部の判定結果に基づき前記加熱部を制御する制御部と、
を備え、
前記筐体は、開口を有した筐体本体と、前記開口を閉じるとともに前記筐体本体の内部を外部から視認可能な窓部と取手とを含む扉とを有し、
前記撮像部は、前記取手に設けられ、前記窓部を通じて前記筐体本体の内部に収容された前記調理対象を撮影し、
前記判定部は、前記窓部に付着した汚れの量を直接的または間接的に示す情報と、前記モノクロ画像と、前記学習済みモデルとに基づき、前記調理具合を判定し、
前記窓部に付着した汚れの量を直接的または間接的に示す情報は、前記調理対象として過去に調理された食材の種類を示す使用履歴を含む、
加熱調理器システム。
【請求項3】
前記調理対象の種類を示すユーザの入力を受け付ける種類受付部をさらに備え、
前記学習済みモデルは、前記調理対象の種類に対応する複数の学習済みモデルを含み、 前記判定部は、前記種類受付部により受け付けられた前記調理対象の種類に基づき前記複数の学習済みモデルのなかから1つの学習済みモデルを選択し、選択した学習済みモデルに基づき前記調理対象の調理具合を判定する、
請求項1または請求項2に記載の加熱調理器システム。
【請求項4】
前記学習済みモデルは、前記調理具合の判定に用いられる第1学習済みモデルと、前記調理対象の種類の判定に用いられる第2学習済みモデルとを含み、
前記判定部は、前記モノクロ画像と前記第1学習済みモデルとに基づき前記調理具合を判定する第1判定部と、前記撮像部により撮影された画像または前記モノクロ画像と、前記第2学習済みモデルとに基づき前記調理対象の種類を判定する第2判定部と、を含む、 請求項1または請求項2に記載の加熱調理器システム。
【請求項5】
前記第2判定部により判定された前記調理対象の種類を表示部に出力する情報出力部と、
前記表示部に表示された前記調理対象の種類が誤っている場合に、前記調理対象の種類を訂正するユーザの入力を受け付け可能である訂正受付部と、
をさらに備えた、
請求項に記載の加熱調理器システム。
【請求項6】
前記筐体、前記加熱部、前記撮像部、および前記制御部を含む加熱調理器と、
前記加熱調理器とネットワークを介して接続可能であるサーバと、
を備え、
前記第1判定部は、前記加熱調理器に設けられ、
前記第2判定部は、前記サーバに設けられている、
請求項または請求項に記載の加熱調理器システム。
【請求項7】
前記第1判定部は、前記モノクロ画像と前記第1学習済みモデルとに基づき前記調理具合を判定し、
前記第2判定部は、前記撮像部により撮影されたカラー画像と前記第2学習済みモデルとに基づき前記調理対象の種類を判定する、
請求項から請求項のうちいずれか1項に記載の加熱調理器システム。
【請求項8】
前記撮像部により撮影される画像は、前記調理対象の焼き具合を示す内容を含む、
請求項1から請求項のうちいずれか1項に記載の加熱調理器システム。
【請求項9】
運転終了後に前記調理具合に関するユーザの評価を受け付ける評価受付部と、
前記評価受付部により受け付けられた前記ユーザの評価に基づき前記学習済みモデルの追加学習を行う学習部と、
をさらに備える、
請求項1から請求項のうちいずれか1項に記載の加熱調理器システム。
【請求項10】
前記調理具合に関するユーザの好みを受け付ける嗜好受付部をさらに備え、
前記判定部は、前記嗜好受付部により受け付けられた前記ユーザの好みに基づき、前記調理対象の調理具合に関する判定結果を異ならせる、
請求項1から請求項のうちいずれか1項に記載の加熱調理器システム。
【請求項11】
前記筐体、前記加熱部、前記撮像部、および前記制御部を含む加熱調理器を備え、
前記加熱調理器は、トースターまたはオーブントースターである、
請求項1から請求項10のうちいずれか1項に記載の加熱調理器システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、加熱調理器システムに関する。
【背景技術】
【0002】
庫内に配置された被調理体を監視するモニタカメラを備え、モニタカメラが捉えた被調理体の画像情報に基づき料理素材を特定する電子レンジが提案されている。ところで、加熱調理器は、利便性のさらなる向上が期待されている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開平6-257756号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明が解決しようとする課題は、利便性の向上を図ることができる加熱調理器システムを提供することである。
【課題を解決するための手段】
【0005】
実施形態の加熱調理器システムは、筐体と、加熱部と、撮像部と、判定部と、制御部とを持つ。前記筐体は、調理対象が載せられる載置部を含む。前記加熱部は、前記筐体内に設けられ、前記調理対象を加熱する。前記撮像部は、前記調理対象を撮影し、前記加熱部の温度によって撮影される画像に含まれる前記調理対象の色が異なる。前記判定部は、前記撮像部により撮影された画像をモノクロ画像に変換し、変換したモノクロ画像と、学習により内部変数が調整された学習済みモデルとに基づき、前記調理対象の調理具合を判定する。前記制御部は、前記判定部の判定結果に基づき前記加熱部を制御する。前記筐体は、開口を有した筐体本体と、前記開口を閉じる扉とを有する。前記撮像部は、前記筐体本体の天井または前記扉の内面に設けられている。前記判定部は、前記撮像部のレンズに付着した汚れの量を直接的または間接的に示す情報と、前記モノクロ画像と、前記学習済みモデルとに基づき、前記調理具合を判定する。前記撮像部のレンズに付着した汚れの量を直接的または間接的に示す情報は、前記調理対象として過去に調理された食材の種類を示す使用履歴を含む。
【図面の簡単な説明】
【0006】
図1】第1実施形態の加熱調理器システムの全体構成を示す図。
図2】第1実施形態の加熱調理器を示す正面図。
図3図2中に示された加熱調理器のF3-F3線に沿う断面図。
図4】第1実施形態の加熱調理器のシステム構成を示すブロック図。
図5】第1実施形態の画像処理部の処理を示す図。
図6】第1実施形態の学習済みモデルの一例を示す図。
図7】第1実施形態の評価受付部によって表示される内容の一例を示す図。
図8】第1実施形態の制御ユニットによる処理の流れを示すフローチャート。
図9】第2実施形態の加熱調理器のシステム構成を示すブロック図。
図10】第3実施形態の加熱調理器のシステム構成を示すブロック図。
図11】第3実施形態のカメラのレンズの汚れ情報の一例を示す図。
図12】第4実施形態のサーバのシステム構成を示すブロック図。
図13】第4実施形態の訂正受付部により訂正を受け付ける画面の一例を示す図。
図14】第4実施形態のサーバによる処理の流れを示すフローチャート。
【発明を実施するための形態】
【0007】
以下、実施形態の加熱調理器システムを、図面を参照して説明する。以下の説明では、同一または類似の機能を有する構成に同一の符号を付す。そして、それら構成の重複する説明は省略する場合がある。「XXに基づく」とは、「少なくともXXに基づく」ことを意味し、XXに加えて別の要素に基づく場合も含み得る。「XXに基づく」とは、XXを直接に用いる場合に限定されず、XXに対して演算や加工が行われたものに基づく場合も含み得る。「XXまたはYY」とは、XXとYYのうちいずれか一方の場合に限定されず、XXとYYの両方の場合も含み得る。これは選択的要素が3つ以上の場合も同様である。「XX」および「YY」は、任意の要素(例えば任意の情報)である。
【0008】
(第1実施形態)
<1.全体構成>
図1は、第1実施形態の加熱調理器システム1の全体構成を示す図である。加熱調理器システム1は、例えば、加熱調理器100と、サーバ200とを備える。加越調理器システム1は、ネットワークNWを介してまたは直接に、ユーザUの端末装置300と通信可能である。ネットワークNWは、例えば、インターネット、セルラー網、Wi-Fi(登録商標)網、LPWA(Low Power Wide Area)、WAN(Wide Area Network)、LAN(Local Area Network)、またはその他の公衆回線や専用回線などを状況に応じて利用すればよい。
【0009】
加熱調理器100は、調理対象を加熱して調理する調理家電機器である。加熱調理器100は、ユーザUの住居内に配置されている。加熱調理器100は、例えば、トースター、オーブントースター、またはオーブンレンジなどであるが、オーブン機能を有しない電子レンジや他の調理家電機器などでもよい。以下では、加熱調理器100がオーブントースターである例を取り上げて説明する。
【0010】
加熱調理器100は、例えば、ユーザUの住居内に設置された無線ルータRを介してネットワークNWと接続可能である。加熱調理器100は、ネットワークNWを介して、サーバ200と通信可能である。加熱調理器100は、直接またはネットワークNWを介して、ユーザUの端末装置300と通信可能でもよい。ただし本実施形態において、加熱調理器100は、通信機能を有さず、サーバ200と通信可能でなくてもよい。すなわち、サーバ200は存在しなくてもよい。この場合は、加熱調理器100単独によって「加熱調理器システム」の一例が構成される。
【0011】
サーバ200は、加熱調理器100の動作を管理するサーバである。サーバ200は、ネットワークNWに接続された1台以上のサーバ装置(例えばクラウドサーバ)で構成される。サーバ200は、ネットワークNW中のルータに含まれる情報処理部など、エッジコンピューティングやフォグコンピューティングを行う情報処理部を含んでもよい。サーバ200は、ネットワークNWを介して、ユーザUの端末装置300と通信可能である。
【0012】
ユーザUの端末装置300は、例えば、スマートフォンまたはタブレット端末装置のような携帯端末装置である。端末装置300は、種々の情報を表示可能な表示画面を含む表示装置301と、ユーザUの操作を受け付け可能な操作部302とを含む。表示装置301は、「表示部」の一例である。操作部302は、例えば、表示装置301の表示画面に重ねて設けられたタッチセンサである。端末装置300には、加熱調理器システム1を利用するためのアプリケーションプログラムがインストールされ、以下に説明する機能がサポートされる。なお、端末装置300は、携帯端末装置に限定されず、パーソナルコンピュータでもよい。
【0013】
<2.加熱調理器>
<2.1 加熱調理器の全体構成>
次に、加熱調理器100について説明する。
図2は、加熱調理器100を示す正面図である。図3は、図2中に示された加熱調理器100のF3-F3線に沿う断面図である。図2および図3に示すように、加熱調理器100は、例えば、機器本体(加熱調理器本体)101と、通信部102と、制御ユニット103とを有する。
【0014】
機器本体101は、例えば、筐体111、載置部112、加熱部113、表示装置114、操作部115、カメラ116、温度センサ117、および湿度センサ118を有する。
【0015】
筐体111は、例えば、筐体本体121と、扉122とを有する。筐体本体121は、前面の一部が開放された箱型に形成されている。すなわち、筐体本体121の前面は、筐体本体121の内部を外部に露出させる開口121aを有する。扉122は、筐体本体121の前方に設けられている。扉122は、筐体本体121に回動可能に連結され、開口121aを開閉可能に閉じる。
【0016】
扉122は、扉本体131と、窓部132と、取手133とを有する。扉本体131は、筐体本体121の開口121aを覆う板状に形成されている。窓部132は、扉本体131を貫通して設けられている。窓部132は、透明なガラス素材またはプラスチック素材により形成されている。ユーザUは、窓部132を通じて筐体本体121の内部を外部から視認可能である。取手133は、扉122の前面に設けられ、窓部132の前面と比べて前方に突出している。取手133は、筐体本体121に対して扉122を開閉する際にユーザUが把持する部分である。取手133は、扉本体131から離れて設けられた取手本体133aと、取手本体133aの両端部に設けられ、扉本体131に接続された接続部133bとを有する。
【0017】
載置部112は、筐体111の内部に設けられている。載置部112は、例えば皿状または網状に形成され、調理対象Oが載せられる。
【0018】
加熱部113は、筐体111の内部に設けられ、載置部112に載せられた調理対象Oを加熱する。加熱部113は、例えば、第1ヒータ113aおよび第2ヒータ113bを含む。第1ヒータ113aは、調理対象Oの上方に位置し、調理対象Oの上面を加熱する。第2ヒータ113bは、調理対象Oの下方に位置し、調理対象の下面を加熱する。ここで、加熱部113は、当該加熱部113の発熱状態に応じて異なる色を発する。例えば、加熱部113は、第1温度状態にある場合に黄色またはオレンジ色に発光し、第1温度状態よりも高い第2温度状態にある場合に、より強いオレンジ色(より濃いオレンジ色)に発光する。このため、加熱部113によって照らされる調理対象Oの表面の色は、加熱部113の温度の状態に応じて異なる。
【0019】
表示装置114は、例えば、筐体本体121の前面に設けられている。表示装置114は、種々の情報を表示可能な表示画面を有する。表示装置114は、例えば、液晶ディスプレイまたは有機EL(Electro Luminescence)ディスプレイであるが、これらに限定されない。表示装置114は、「表示部」の一例である。
【0020】
操作部115は、例えば、筐体本体121の表面に設けられている。操作部115は、ユーザUの操作を受け付け可能である。操作部115は、例えば、表示装置114の表示画面に重ねて設けられたタッチセンサである。ただし、操作部115は、筐体本体121の表面に設けられた物理的なボタンなどでもよい。ユーザUは、操作部115に対する操作を通じて、調理対象Oの種類を入力することができる。「調理対象の種類」とは、食材の種類(例えば、食パン、マフィン、小麦パンなどパンの種類)、調理対象の数(食パンが1枚/2枚/3枚…など)、調理対象の大きさまたは厚さ(6枚切りの食パン/8枚切りの食パン…など)などのうち1つ以上を含む。
【0021】
カメラ116は、筐体111に設けられ、載置部112に載置された調理対象Oを撮影する。カメラ116は、調理対象Oの表面(例えば上面)の画像を撮影する。本出願で「画像」とは静止画に限定されず、動画(映像)も含む。カメラ116により撮影される画像は、調理対象Oの焼き具合を示す内容を含む。例えば、カメラ116は、調理対象Oの表面のカラー画像を撮影する。本実施形態では、カメラ116によって撮影される画像に含まれる調理対象Oの色は、加熱部113の温度の状態に応じて異なる。すなわち、加熱部113が上記第1温度状態にある場合、調理対象Oの表面は加熱部113によって黄色またはオレンジ色に照らされている。一方で、加熱部113が上記第2温度状態にある場合、調理対象Oの表面は加熱部113によって、より強いオレンジ色に照らされている。カメラ116は、撮像素子を含むカメラ本体116aと、カメラ本体116aと被写体(調理対象O)との間に位置するレンズ116bとを含む。カメラ116は、「撮像部」の一例である。
【0022】
カメラ116は、例えば、筐体本体121の天井面121bに設けられ、調理対象Oの上方に位置する。カメラ116は、例えば、調理対象Oの大きさ(例えば上方から見た大きさ)に加え、調理対象Oの厚さが分かる角度で調理対象Oを撮影可能な場所に配置される。なお、カメラ116は、筐体本体121の天井面121bに代えて、扉本体131の内面に設けられてもよい。また、カメラ116は、筐体本体121の外部において、扉122の取手本体133aの後面に設けられてもよい。この場合、カメラ116は、扉122の窓部132を通じて、筐体本体121の内部に収容された調理対象Oの表面の画像を撮影する。
【0023】
温度センサ117は、筐体111内に設けられ、筐体111内の温度を検出する。
湿度センサ(水蒸気センサ)117は、筐体111内に設けられ、筐体111内の湿度を検出する。加熱調理器100は、例えば、給水部に給水された水を加熱することで水蒸気を発生させ、調理中の調理対象Oに対して水分を供給する水蒸気発生部(不図示)を有する。湿度センサ118は、例えば、水蒸気発生部を有する加熱調理器100に設けられ、調理対象Oに供給される水分を検出する。
【0024】
本実施形態では、カメラ116、温度センサ117、および湿度センサ118によりセンサ部SUの一例が構成されている。以下の説明では、カメラ116により撮影された画像、温度センサ117の検出結果、および湿度センサ118による検出結果を纏めて、「センサ部SUの検出結果」と称する場合がある。なお、センサ部SUは、上述した以外のセンサを含んでもよい。また、温度センサ117および湿度センサ118のうち一方または両方は、省略されてもよい。
【0025】
<2.2 加熱調理器のシステム構成>
図4は、加熱調理器100のシステム構成を示すブロック図である。
通信部102は、例えば、アンテナと高周波回路とを含む無線通信モジュールである。通信部102は、ネットワークNWを介してサーバ200と通信可能である。通信部102は、ネットワークNWを介して、または短距離無線通信(例えばBluetooth(登録商標))を用いて直接に、端末装置300と通信可能である。
【0026】
制御ユニット103は、情報処理部PU1と、記憶部157とを含む。情報処理部PU1は、種類受付部151、画像処理部152、調理具合判定部153、制御部154、評価受付部155、および学習部156を含む。情報処理部PU1に含まれる各機能部は、制御ユニット103に搭載されたCPU(Central Processing Unit)のようなハードウェアプロセッサがプログラムを実行することにより実現される。ただし、これら機能部の一部または全部は、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、またはFPGA(Field Programmable Gate Array)などのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアとの協働によって実現されてもよい。記憶部157は、RAM(Random Access Memory)、ROM(Read Only Memory)、HDD(Hard Disk Drive)、フラッシュメモリ、またはこれらのうち複数の組み合わせにより実現される。記憶部157には、複数の学習済みモデルMAおよび閾値情報TIが記憶されている。
【0027】
種類受付部151は、加熱調理器100の操作部115または端末装置300の操作部302に対して行われたユーザUの操作に基づき、調理対象Oの種類を示すユーザUの入力を受け付ける。例えば、種類受付部151は、加熱調理器100の表示装置114または端末装置300の表示装置301に調理対象Oの種類の複数の候補を表示させ、複数の候補のなかから1つを選択するユーザUの入力を受け付ける。上述したように、「調理対象の種類」は、食材の種類、調理対象の数、調理対象の大きさまたは厚さなどのうち1つ以上を含む。本実施形態では、種類受付部151により、入力受付部IUの一例が構成されている。
【0028】
画像処理部152は、カメラ116により撮影された画像に対して画像処理を行う。例えば、画像処理部152は、カメラ116により撮影されたカラー画像をモノクロ画像に変換する画像処理を行う。本出願で言う「モノクロ画像」とは、白黒画像(1画素を白と黒の2階調(1ビット)で表現した画像)でもよく、グレースケール画像(中間階調を含む画像)でもよい。本実施形態では、画像処理部152は、カメラ116により撮影されたカラー画像を白黒画像に変換する。ただし、画像処理部152は、カメラ116により撮影されたカラー画像をグレースケール画像に変換してもよい。
【0029】
図5は、画像処理部152の処理を示す図である。図5中の(a)および(b)は、加熱部113の温度の状態が異なる場合を示す。図5中の(a)および(b)に示される「変換前」の画像IMは、カメラ116により撮影されたカラー画像であり、画像処理部152により処理が行われる前の画像である。上述したように、2つの画像IMに含まれる調理対象Oの色は、加熱部113の温度の状態に応じて異なる。
【0030】
一方で、図5中の(a)および(b)に示される「変換後」の画像IMAは、画像処理部152により処理が行われた後の画像であり、モノクロ画像である。2つの画像IMに含まれる調理対象Oの色は、ほぼ同じ色となる。すなわち、画像IMをモノクロ画像に変換することで、画像IMに含まれる調理対象Oの色の影響を小さくすることができる。
【0031】
調理具合判定部153は、画像処理部152により変換されたモノクロ画像と、学習により内部変数が調整された学習済みモデルMAとに基づき、調理対象Oの調理具合を判定する。学習済みモデルMAは、ニューラルネットワークを含むモデルであり、例えばディープラーニングにより学習が行われている。
【0032】
図6は、学習済みモデルMAの一例を示す図である。学習済みモデルMAは、入力層、隠れ層(中間層)、および出力層を含むニューラルネットワークによって構成される。例えば、学習済みモデルMAは、予め行われた実験により得られた教師データを用いたディープラーニングによって入力層、隠れ層、および出力層に含まれるノードnの間の重み付け係数w(内部変数)などが調整されることで学習が行われている。
【0033】
学習済みモデルMAは、センサ部SUの検出結果(例えば、カメラ116の画像、温度センサ117の検出結果、湿度センサ118の検出結果)が入力情報として入力された場合に、調理対象Oの調理具合を示す判定結果を出力情報として出力するように学習が行われている。「調理具合を示す判定結果」とは、例えば、調理開始時の状態を「0」とし、焼き過ぎの状態(焦げた状態)を「1」とした場合における0~1の間の数値で表される。
【0034】
ここで、記憶部157に記憶された閾値情報TIには、丁度良い調理具合(例えば丁度良い焼き具合)に対応する閾値(例えば、「0.7」)が含まれる。本実施形態では、調理具合判定部153は、所定の周期(例えば5秒毎)にセンサ部SUの最新の検出結果を入力情報として学習済みモデルMAに入力する。そして、調理具合判定部153は、学習済みモデルMAから出力される判定結果としての数値が所定回数に亘り上記閾値を上回る場合(例えば5回連続で上記閾値を上回る場合)に、調理対象Oの調理具合が丁度良いと判定する。本実施形態では、画像処理部152と調理具合判定部153とにより判定部DUの一例が構成されている。調理具合判定部153は、「第1判定部」の一例である。
【0035】
本実施形態では、記憶部157には、調理対象Oの複数の種類に対応する複数の学習済みモデルMAが記憶されている。調理具合判定部153は、ユーザUにより入力されて種類受付部151により受け付けられた調理対象Oの種類に基づき複数の学習済みモデルMAのなかから1つの学習済みモデルMAを選択する。そして、調理具合判定部153は、選択した学習済みモデルMAに基づき調理対象Oの調理具合を判定する。
【0036】
制御部154は、調理具合判定部153の判定結果に基づき加熱部113を制御する。例えば、制御部154は、加熱調理器100の操作部115または端末装置300の操作部302に対するユーザUの操作に基づき、加熱調理器100の運転を開始し、加熱部113を加熱させる。制御部154は、例えば、加熱部113に電力を供給するスイッチング素子をON/OFF制御することで、加熱部113の加熱状態を制御する。そして、制御部154は、調理具合判定部153により調理対象Oの調理具合が丁度良いと判定された場合に、加熱部113の加熱を終了し、加熱調理器100の運転を終了する。なお、制御部154は、加熱調理器100の運転の終了に代えて/加えて、調理具合判定部153の判定結果に基づき加熱部113の温度調整などを行ってもよい。
【0037】
評価受付部155は、加熱調理器100の運転終了後に、調理対象Oの調理具合に関するユーザUの評価を受け付ける。例えば、評価受付部155は、加熱調理器100の表示装置114または端末装置300の表示装置301に調理具合に関する質問をアンケート形式で表示させ、質問に対する回答を調理具合に関するユーザUの評価として受け付ける。
【0038】
図7は、評価受付部155により表示される内容の一例を示す図である。評価受付部155は、例えば、焼き具合に関する5段階評価や、しっとり具合に関する5段階評価をユーザUに質問し、質問に対する5段階評価の選択をユーザUの評価として受け付ける。
【0039】
学習部156は、評価受付部155により受け付けられたユーザUの評価に基づき、学習済みモデルMAの追加学習を行う。例えば、学習部156は、ユーザUによって調理具合が良いと評価されたときの運転内容(センサ部SUの検出結果と調理具合判定部153の判定内容の組み合わせ)を新しい教師データとして、ユーザUの評価を最大化するように強化学習を行う。これにより、ユーザUの好みに合うように学習済みモデルMAの内部変数が調整される。
【0040】
<3.処理の流れ>
図8は、制御ユニット103による処理の流れを示すフローチャートである。まず、種類受付部151は、加熱調理器100の操作部115(または端末装置300の操作部302)に対するユーザUの操作に基づき、調理対象Oの種類を受け付ける(S101)。そして、調理具合判定部153は、種類受付部151により受け付けられた調理対象Oの種類に基づき、複数の学習済みモデルMAのなかから使用する学習済みモデルMAを選択する(S102)。
【0041】
次に、制御部154は、加熱調理器100の運転を開始する(S103)。すなわち、制御部154は、加熱部113を加熱させることで、調理対象Oの調理を開始する。そして、判定部DUは、所定の周期でセンサ部SUの検出結果を取得する(S104)。
【0042】
画像処理部152は、センサ部SUの検出結果が入力される場合、センサ部SUの検出結果に含まれるカメラ116により撮影されたカラー画像をモノクロ画像に変換する(S105)。そして、調理具合判定部153は、画像処理部152により変換されたモノクロ画像と、選択された学習済みモデルMAとを用いて調理対象Oの調理具合の判定を行い、その判定結果を出力する(S106)。
【0043】
次に、制御部154は、調理具合判定部153により出力される判定結果が所定の終了条件を満たすか否かを判定する(S107)。例えば、制御部154は、調理具合判定部153により出力される判定結果に含まれる数値が所定回数に亘り所定の閾値を上回る場合に、所定の終了条件が満たされると判定する。
【0044】
制御部154は、所定の終了条件が満たされない場合(S107:NO)、S104に戻り、S104からS106の処理を繰り返す。一方で、制御部154は、所定の終了条件が満たされる場合(S107:YES)、加熱調理器100の運転を終了する(S108)。すなわち、制御部154は、加熱部113の加熱を終了させる。これにより、調理対象Oの調理が完了する。
【0045】
<4.利点>
比較例として、タイマにより調理具合が調整される加熱調理器について考える。このような加熱調理器では、調理具合をユーザが都度確認する必要がある場合がある、または毎回の調理具合に差が生じる場合がある。また、カメラにより撮影された画像をそのまま利用して調理具合を判定する場合において、調理対象の表面の色が加熱部の温度の状態に応じて異なる場合、調理具合を精度良く判定することが難しい場合がある。
【0046】
一方で、本実施形態の加熱調理器システム1は、カメラ116により撮影された画像をモノクロ画像に変換し、変換したモノクロ画像と、学習済みモデルMAとに基づき、調理対象Oの調理具合を判定する判定部DUと、判定部DUの判定結果に基づき加熱部113を制御する制御部154とを備える。このような構成によれば、まず、判定部DUにより調理具合が判定され、その判定結果に基づき加熱部113の制御が行われるため、調理具合をユーザUが都度確認する必要が無くなるか少なくなり、また毎回の調理具合の差が小さくなる。さらに、調理対象Oの表面の色が加熱部113の温度の状態に応じて異なる場合においてモノクロ画像に基づいて調理具合を判定することで、調理具合の判定精度を高めることができる。これにより、ユーザUの利便性の向上を図ることができる。
【0047】
本実施形態では、加熱調理器システム1は、調理対象Oの種類を示すユーザの入力を受け付ける種類受付部151をさらに備える。判定部DUは、種類受付部151により受け付けられた調理対象Oの種類に基づき複数の学習済みモデルMAのなかから1つの学習済みモデルMAを選択し、選択した学習済みモデルMAに基づき調理対象Oの調理具合を判定する。このような構成によれば、調理対象毎に準備された学習済みモデルMAによって、調理具合の判定精度をさらに高めることができる。これにより、ユーザUの利便性を向上させることができる。
【0048】
本実施形態では、加熱調理器システム1は、運転終了後に調理具合に関するユーザUの評価を受け付ける評価受付部155と、評価受付部155により受け付けられたユーザUの評価に基づき学習済みモデルMAの追加学習を行う学習部156とをさらに備える。このような構成によれば、ユーザUによる評価が高くなるように学習済みモデルMAを更新することができる。これにより、ユーザUの利便性を向上させることができる。
【0049】
(変形例)
上述した第1実施形態では、種類受付部151、画像処理部152、調理具合判定部153、制御部154、評価受付部155、学習部156、および記憶部157は、加熱調理器100に設けられている。これに代えて、種類受付部151、画像処理部152、調理具合判定部153、制御部154、評価受付部155、学習部156、および記憶部157のうち1つ以上、サーバ200に設けられてもよい。また、評価受付部155および学習部156は、省略されてもよい。
【0050】
(第2実施形態)
次に、第2実施形態について説明する。第2実施形態は、加熱調理器システム1が調理具合に関するユーザUの好みを受け付ける嗜好受付部161を有する点で、第1実施形態とは異なる。なお以下に説明する以外の構成は、第1実施形態の構成と同じである。
【0051】
図9は、第2実施形態の加熱調理器100Aのシステム構成を示すブロック図である。本実施形態では、入力受付部IUは、嗜好受付部161を含む。嗜好受付部161は、加熱調理器100の操作部115または端末装置300の操作部302に対して行われたユーザUの操作に基づき、調理対象Oの調理具合に関するユーザUの好みを受け付ける。例えば、嗜好受付部161は、加熱調理器100の表示装置114または端末装置300の表示装置301に、調理具合の複数の候補を表示させ、複数の候補から1つを選択するユーザUの入力を受け付ける。調理具合に関するユーザUの好みは、例えば、「カリっとした食感」、「しっとりとした食感」、「よく焼けているのが好き」、「焼き過ぎは苦手」などである。
【0052】
本実施形態では、記憶部157には、調理具合の複数の好みに対応する複数の閾値情報TIが記憶されている。複数の閾値情報TIは、丁度良い調理具合と判定するための閾値(加熱調理器100Aの運転を終了させるための閾値)が互いに異なる。調理具合判定部153は、嗜好受付部161により受け付けられたユーザUの好みに応じて複数の閾値情報TIのなかから1つの閾値情報TIを選択し、選択した閾値情報TIを用いて加熱調理器100Aの運転の終了タイミングを決定する。言い換えると、調理具合判定部153は、嗜好受付部161により受け付けられたユーザUの好みに基づき、調理対象の調理具合に関する判定結果(例えば運転の終了タイミングを示す判定結果)を異ならせる。
【0053】
このような構成によれば、ユーザUの好みに対してより適した調理具合で調理対象Oを調理することができる。これにより、ユーザUの利便性を向上させることができる。例えば、本実施形態の構成によれば、評価受付部155および学習部156が省略された場合でも、ユーザUの好みに対してより適した調理具合で調理対象Oを調理することができる。
【0054】
(第3実施形態)
次に、第3実施形態について説明する。第3実施形態は、カメラ116のレンズ116bに関する汚れの量も反映させて調理具合に関する判定が行われる点で、第1実施形態とは異なる。なお以下に説明する以外の構成は、第1実施形態の構成と同じである。
【0055】
図10は、第3実施形態の加熱調理器100Bのシステム構成を示すブロック図である。ここで、加熱調理器100Bは、冷蔵庫など他の家電機器と比べて清掃される頻度が少ない家電機器であり、カメラ116のレンズ116bに付着した汚れ(例えば油汚れ)が溜まることがある。レンズ116bに付着した汚れが溜まると、カメラ116により撮影される画像が変色する(例えば茶色くなる)場合がある。カメラ116により撮影される画像が変色すると、調理具合の判定精度が低下する可能性がある。
【0056】
本実施形態では、情報処理部PU1は、状態管理部171を含む。状態管理部171は、カメラ116のレンズ116bに付着した汚れの量を直接的または間接的に示す情報(以下「汚れ情報」と称する)を管理する。例えば、状態管理部171は、カメラ116のレンズ116bの汚れ情報を所定の周期(例えば1週間に1度)収集し、記憶部157に記憶される履歴情報HIの一部として保存する。
【0057】
図11は、カメラ116のレンズ116bの汚れ情報の一例を示す図である。カメラ116のレンズ116bの汚れ情報は、例えば、カメラ116のレンズ116bに付着した汚れの量を直接的に示す汚れ情報HIAと、カメラ116のレンズ116bに付着した汚れの量を間接的に示す汚れ情報HIBとのうち少なくとも一方を含む。汚れ情報HIAは、例えば、カメラ116により撮影された画像の履歴を含む。例えば、汚れ情報HIAは、加熱調理器100Bの使用初期時に撮影された画像1と、直近に撮影された画像Nとを含む。汚れ情報HIBは、加熱調理器100Bの使用履歴を含む。使用履歴は、例えば、調理した食材の種類、加熱部113の加熱温度、加熱部113の加熱時間などのうち1つ以上の情報を含む。
【0058】
本実施形態では、学習済みモデルMAは、入力情報としてセンサ部SUの検出結果およびカメラ116のレンズ116bの汚れ情報が入力された場合に、調理対象Oの調理具合を示す判定結果を出力するように学習されている。入力情報として入力されるカメラ116のレンズ116bの汚れ情報は、例えば、直近に撮影した画像N(例えばカラー画像の画像N)でもよく、画像1と画像Nの組でもよく、画像1と画像Nの差分を示す情報でもよい。これに代えて/加えて、カメラ116のレンズ116bの汚れ情報は、調理した食材の履歴、加熱部113の加熱温度の積算値、または加熱部113の加熱時間の累積値などでもよい。本実施形態では、調理具合判定部153は、センサ部SUの検出結果およびカメラ116のレンズ116bの汚れ情報に基づき、調理具合を判定する。
【0059】
このような構成によれば、カメラ116のレンズ116bに付着した汚れも考慮して調理対象Oの調理具合を判定することができる。これにより、調理具合に関する判定精度を高めることができる。
【0060】
(変形例)
カメラ116が筐体111の内部ではなく、扉122の取手133に設けられた場合、汚れが問題になるのはカメラ116のレンズ116bの汚れではなく、扉122の窓部132の汚れになる。このため、カメラ116が扉122の取手133に設けられた場合は、状態管理部171は、窓部132に付着した汚れの量を直接的または間接的に示す汚れ情報を管理する。本変形例における汚れ情報の内容の詳細は、第3実施形態で説明した汚れ情報の内容において、「カメラのレンズ」を「窓部」と読み替えればよい。例えば、本変形例の状態管理部171は、窓部132に付着した汚れの量を直接的または間接的に示す情報(汚れ情報HIA,HIB)を管理する。
【0061】
汚れ情報HIAは、例えば、カメラ116または別のカメラにより撮影された窓部132の画像の履歴を含む。例えば、汚れ情報HIAは、加熱調理器100Bの使用初期時に撮影された窓部132の画像1と、直近に撮影された窓部132の画像Nとを含む。汚れ情報HIBは、加熱調理器100Bの使用履歴を含む。使用履歴は、例えば、調理した食材の種類、加熱部113の加熱温度、加熱部113の加熱時間などのうち1つ以上の情報を含む。このような構成によっても、調理具合に関する判定精度を高めることができる。
【0062】
(第4実施形態)
次に、第4実施形態について説明する。第4実施形態は、調理対象Oの種類の判定が加熱調理器システム1によって行われる点で、第1実施形態とは異なる。なお以下に説明する以外の構成は、第1実施形態の構成と同じである。本実施形態では区別のため、上述した学習済みモデルMAを「第1学習済みモデルMA」と称する。
【0063】
図12は、第4実施形態のサーバ200Cのシステム構成を示すブロック図である。サーバ200Cは、例えば、情報処理部PU2と、記憶部206とを有する。情報処理部PU2は、例えば、情報取得部201、種類判定部202、情報出力部203、訂正受付部204、および学習部205を含む。情報処理部PU2に含まれる各機能部は、サーバ200Cに搭載されたCPUのようなハードウェアプロセッサがプログラムを実行することにより実現される。ただし、これら機能部の一部または全部は、ASIC、PLD、またはFPGAなどのハードウェア(回路部;circuitryを含む)によって実現されてもよいし、ソフトウェアとハードウェアとの協働によって実現されてもよい。記憶部206は、RAM、ROM、HDD、フラッシュメモリ、またはこれらのうち複数の組み合わせにより実現される。記憶部206には、第2学習済みモデルMBが記憶されている。
【0064】
情報取得部201は、加熱調理器100のカメラ116によって撮影されたカラー画像(または画像処理部152により変換されたモノクロ画像)を、加熱調理器100から取得する。以下では、カメラ116によって撮影されたカラー画像と、画像処理部152により変換されたモノクロ画像とを総称して「情報取得部により取得された画像」と称する。
【0065】
種類判定部202は、情報取得部201により取得された画像(例えばカラー画像)と、第2学習済みモデルMBとに基づき、調理対象Oの種類を判定する。第2学習済みモデルMBは、ニューラルネットワークを含むモデルであり、例えばディープラーニングにより学習が行われている。種類判定部202は、「第2判定部」の一例である。本実施形態では、加熱調理器100に設けられた画像処理部152および調理具合判定部153と、サーバ200Cに設けられた種類判定部202とにより、判定部DUの一例が構成されている。
【0066】
例えば、第2学習済みモデルMBは、図6に示された第1学習済みモデルMAと同様に、入力層、隠れ層(中間層)、および出力層を含むニューラルネットワークによって構成される。例えば、学習済みモデルMBは、予め行われた実験により得られた教師データを用いたディープラーニングによって入力層、隠れ層、および出力層に含まれるノードnの間の重み付け係数w(内部変数)などが調整されることで学習が行われている。
【0067】
第2学習済みモデルMBは、情報取得部201により取得された画像が入力情報として入力された場合に、調理対象Oの種類を示す判定結果を出力情報として出力するように学習が行われている。調理対象Oの種類は、上述したように、食材の種類、調理対象の数、調理対象の大きさまたは厚さなどのうち1つ以上を含む。第2学習済みモデルMBから出力される出力情報は、調理対象Oの種類の判定結果の尤度を示す情報(例えば、判定結果が正しい確率を示す情報を含む)を含む。
【0068】
情報出力部203は、種類判定部202により判定された調理対象Oの種類を示す情報を加熱調理器100または端末装置300に出力させ、調理対象Oの種類を示す情報を加熱調理器100の表示装置114または端末装置300の表示装置301に表示させる。
【0069】
訂正受付部204は、種類判定部202により判定されて情報出力部203により出力された調理対象Oの種類の判定結果に対する訂正を受け付ける。例えば、訂正受付部204は、加熱調理器100の操作部115または端末装置300の操作部302に対するユーザUの操作に基づき、調理対象Oの種類の判定結果に対する訂正を受け付ける。
【0070】
図13は、訂正受付部204により訂正を受け付ける画面の一例を示す図である。本実施形態では、種類判定部202による調理対象Oの種類の判定結果が加熱調理器100の表示装置114または端末装置300の表示装置301に表示される。そして、訂正受付部204は、まず、調理対象Oの種類の判定結果に対する訂正の有無を受け付ける。そして、訂正がある場合は、訂正受付部204は、訂正の具体的な内容を受け付ける。
【0071】
学習部205は、訂正受付部204により受け付けられたユーザUの訂正内容に基づき、第2学習済みモデルMBの追加学習を行う。例えば、学習部205は、情報取得部201により取得された画像と、ユーザUによって訂正された調理対象Oの正しい種類との組み合わせを新しい教師データとして、第2学習済みモデルMBの追加学習を行う。これにより、種類判定部202の判定精度の向上を図ることができる。
【0072】
本実施形態では、加熱調理器100の制御部154は、加熱調理器100の運転の終了に代えて/加えて、種類判定部202の判定結果に基づき加熱部113の温度調整などを行ってもよい。
【0073】
図14は、サーバ200Cによる処理の流れを示すフローチャートである。まず、種類判定部202は、情報取得部201により取得された画像と、第2学習済みモデルMBとに基づき、調理対象Oの種類を判定する(S201)。次に、種類判定部202は、判定結果に間違いがないか(判定結果が正しい確率が閾値以上であるか)を判定する(S202)。
【0074】
情報出力部203は、判定結果が間違っていない場合(判定結果が正しい確率が閾値以上である場合、S202:YES)、調理対象Oの種類の判定結果を加熱調理器100に出力する。この場合、加熱調理器100は、調理対象Oの種類の判定結果に基づき、加熱調理器100の運転条件(加熱部113の加熱温度および加熱時間など)を自動で選択(自動で設定)し、加熱調理器100の運転を開始する(S206)。なお、情報出力部203は、判定結果が間違っていない場合(判定結果が正しい確率が閾値以上である場合)であっても、調理対象Oの種類を示す判定結果を加熱調理器100の表示装置114または端末装置300の表示装置301に表示させてもよい。
【0075】
一方で、情報出力部203は、判定結果が間違っている可能性がある場合(判定結果が正しい確率が閾値未満である場合、S202:NO)、調理対象Oの種類の判定結果を加熱調理器100の表示装置114または端末装置300の表示装置301に表示させる(S203)。次に、訂正受付部204は、調理対象Oの種類の判定結果に対する訂正を受け付ける(S204)。
【0076】
情報出力部203は、訂正がないことを示すユーザUの入力を受け付けた場合(S204:NO)、調理対象Oの種類の判定結果を加熱調理器100に出力する。そして、S206の処理に進む。一方で、訂正受付部204は、調理対象Oの種類を訂正するユーザUの入力を受け付けた場合(S204:YES)は、調理対象Oの種類を訂正する(S205)。そして、情報出力部203は、訂正された調理対象Oの種類を加熱調理器100に出力する。そして、S206の処理に進む。以降の処理は、第1実施形態の処理と同様である。
【0077】
このような構成によれば、第1実施形態と同様に、ユーザUの利便性の向上を図ることができる。さらに本実施形態では、種類判定部202により調理対象Oの種類が自動で判別される。これにより、ユーザUの利便性のさらなる向上を図ることができる。
【0078】
本実施形態では、種類判定部202により判定された調理対象Oの種類を表示装置114,301に出力する情報出力部203と、調理対象Oの種類を訂正するユーザUの入力を受け付け可能である訂正受付部204とをさらに備える。このような構成によれば、調理対象Oの種類の判定が誤っている場合にユーザUによって訂正された正しい内容に基づいて調理を行うことができる。これにより、ユーザUの利便性のさらなる向上を図ることができる。
【0079】
本実施形態では、調理具合判定部153は、加熱調理器100に設けられている。種類判定部202は、サーバ200Cに設けられている。これにより、速やかな判定が必要な調理具合については加熱調理器100で判定を行い、調理具合と比べて時間に余裕がある調理対象Oの種類はサーバ200Cで判定を行うことができる。これにより、加熱調理器100の記憶部157の必要容量を少なくすることができ、処理の安定性と加熱調理器100のコストダウンを図ることができる。
【0080】
本実施形態では、調理具合判定部153は、モノクロ画像に基づき調理具合を判定する。種類判定部202は、カラー画像に基づき調理対象Oの種類を判定する。このような構成によれば、加熱部113の温度に応じて異なる色になる場合において、加熱部113に照らされる調理対象Oの色の差の影響を小さくするとともに、調理対象Oの種類を判定ではカラー画像に基づいて高い精度の判定を行うことができる。
【0081】
(変形例)
上述した第4実施形態では、情報取得部201、種類判定部202、情報出力部203、訂正受付部204、学習部205、および記憶部206は、サーバ200Cに設けられている。これに代えて、情報取得部201、種類判定部202、情報出力部203、訂正受付部204、学習部205、および記憶部206のうち1つ以上は、加熱調理器100に設けられてもよい。
【0082】
以上、いくつかの実施形態および変形例について説明した。ただし、実施形態および変形例は上記例に限定されない。例えば、上述した実施形態および変形例は、互いに組み合わされて実現されてもよい。本出願でいう「サーバ」は、クラウドサーバに限定されず、ユーザUの自宅に設けられたコンピュータなどでもよい。
【0083】
以上説明した少なくともひとつの実施形態によれば、加熱調理器システムは、撮像部により撮影された画像をモノクロ画像に変換し、変換したモノクロ画像と、学習により内部変数が調整された学習済みモデルとに基づき、調理対象の調理具合を判定する判定部を備える。このような構成によれば、利便性の向上を図ることができる。
【0084】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【符号の説明】
【0085】
1…加熱調理器システム、100,100A,100B…加熱調理器、111…筐体、112…載置部、113…加熱部、114…表示装置(表示部)、116…カメラ(撮像部)、151…種類受付部、152…画像処理部、153…調理具合判定部(第1判定部)、154…制御部、155…評価受付部、156…学習部、161…嗜好受付部、200,200C…サーバ、202…種類判定部(第2判定部)、204…訂正受付部、205…学習部、300…端末装置、301…表示装置(表示部)、DU…判定部、MA…第1学習済みモデル、MB…第2学習済みモデル、O…調理対象。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14