(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-05-02
(45)【発行日】2024-05-14
(54)【発明の名称】加熱調理システムおよび加熱調理方法、学習装置および学習方法
(51)【国際特許分類】
F24C 3/12 20060101AFI20240507BHJP
F24C 7/04 20210101ALI20240507BHJP
H05B 6/12 20060101ALI20240507BHJP
G06T 7/00 20170101ALI20240507BHJP
【FI】
F24C3/12 E
F24C7/04 301A
H05B6/12 302
G06T7/00 350B
G06T7/00 660B
(21)【出願番号】P 2020088290
(22)【出願日】2020-05-20
【審査請求日】2022-12-21
(73)【特許権者】
【識別番号】000115854
【氏名又は名称】リンナイ株式会社
(74)【代理人】
【識別番号】110000110
【氏名又は名称】弁理士法人 快友国際特許事務所
(72)【発明者】
【氏名】杉本 喜輝
【審査官】土屋 正志
(56)【参考文献】
【文献】特開2014-202414(JP,A)
【文献】米国特許出願公開第2019/0110638(US,A1)
【文献】米国特許出願公開第2019/0200797(US,A1)
【文献】特開2015-068542(JP,A)
【文献】特開2011-033312(JP,A)
【文献】登録実用新案第3036671(JP,U)
【文献】国際公開第2005/088542(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
F24C 3/12
F24C 7/04
H05B 6/12
G06T 7/00
(57)【特許請求の範囲】
【請求項1】
加熱対象物を加熱する加熱部と、
前記加熱部と隣接するとともに、前記加熱対象物に対して前記加熱部で加熱するための準備を施すための加熱前準備スペースにおける前記準備中の前記加熱対象物の状態を含む画像である加熱前対象物画像を撮像可能に構成されている撮像装置から、前記加熱前対象物画像を取得する画像取得部と、
ユーザが前記加熱対象物を前記加熱部で加熱して調理する調理メニューを、前記加熱前対象物画像に基づいて推定するための機械学習を行った学習済みの学習器に、前記画像取得部が取得した前記加熱前対象物画像を入力し、前記学習済みの学習器の演算処理を実行することで、前記調理メニューを前記学習器から取得する調理メニュー推定部と、
前記調理メニュー推定部が推定した前記調理メニューに基づいて、前記加熱部の加熱量を制御する加熱量制御部と、を備えている、加熱調理システム。
【請求項2】
前記加熱前対象物画像に基づいて前記加熱対象物が含んでいる食材に関する情報である食材情報を解析する食材情報解析部をさらに備えており、
前記学習器は、前記食材情報にも基づいて前記調理メニューを推定するための機械学習を行っており、
前記調理メニュー推定部は、前記食材情報解析部が解析した前記食材情報も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで、前記調理メニューを前記学習器から取得する、請求項1に記載の加熱調理システム。
【請求項3】
前記撮像装置は、前記加熱部により加熱されている前記加熱対象物の状態を含む画像である加熱中対象物画像も撮像可能に構成されており、
前記画像取得部は、前記撮像装置から前記加熱中対象物画像も取得し、
前記学習器は、前記加熱中対象物画像にも基づいて前記調理メニューを推定するための機械学習を行っており、
前記調理メニュー推定部は、前記画像取得部が取得した前記加熱中対象物画像も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで前記調理メニューを前記学習器から取得する、請求項1または2に記載の加熱調理システム。
【請求項4】
前記撮像装置は、前記加熱部により前記加熱対象物を加熱している前記ユーザの状態を含む画像である加熱中ユーザ画像も撮像可能に構成されており、
前記画像取得部は、前記撮像装置から前記加熱中ユーザ画像も取得し、
前記学習器は、前記加熱中ユーザ画像にも基づいて前記調理メニューを推定するための機械学習を行っており、
前記調理メニュー推定部は、前記画像取得部が取得した前記加熱中ユーザ画像も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで、前記調理メニューを前記学習器から取得する、請求項1から3のいずれか一項に記載の加熱調理システム。
【請求項5】
前記加熱中ユーザ画像に基づいて前記ユーザに関する情報であるユーザ情報を解析するユーザ情報解析部をさらに備えており、
前記学習器は、前記ユーザ情報にも基づいて前記調理メニューを推定するための機械学習を行っており、
前記調理メニュー推定部は、前記ユーザ情報解析部が解析した前記ユーザ情報も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで、前記調理メニューを前記学習器から取得する、請求項4に記載の加熱調理システム。
【請求項6】
コンピュータが、
加熱部と隣接するとともに、加熱対象物に対して前記加熱部で加熱するための準備を施すための加熱前準備スペースにおける前記準備中の前記加熱対象物の状態を含む画像である加熱前対象物画像を撮像可能に構成されている撮像装置から、前記加熱前対象物画像を取得する加熱前画像取得ステップと、
ユーザが前記加熱対象物を前記加熱部で加熱して調理する調理メニューを、前記加熱前対象物画像に基づいて推定するための機械学習を行った学習済みの学習器に、取得した前記加熱前対象物画像を入力し、前記学習済みの学習器の演算処理を実行することで、前記調理メニューを前記学習器から取得する調理メニュー推定ステップと、
前記調理メニュー推定ステップで取得した前記調理メニューに基づいて、前記加熱部の加熱量を制御する加熱量制御ステップと、を実行する、加熱調理方法。
【請求項7】
前記コンピュータが、前記加熱前対象物画像に基づいて前記加熱対象物が含んでいる食材に関する情報である食材情報を解析する食材情報解析ステップをさらに実行し、
前記学習器は、前記食材情報にも基づいて前記調理メニューを推定するための機械学習を行っており、
前記コンピュータは、前記調理メニュー推定ステップにおいて、前記食材情報解析ステップで解析した前記食材情報も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで前記調理メニューを前記学習器から取得する、請求項6に記載の加熱調理方法。
【請求項8】
前記撮像装置は、前記加熱部により加熱されている前記加熱対象物の状態を含む画像である加熱中対象物画像も撮像可能に構成されており、
前記学習器は、前記加熱中対象物画像にも基づいて前記調理メニューを推定するための機械学習を行っており、
前記コンピュータは、
前記撮像装置から前記加熱中対象物画像を取得する加熱中対象物画像取得ステップをさらに実行し、
前記調理メニュー推定ステップにおいて、前記加熱中対象物画像取得ステップで取得した前記加熱中対象物画像も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで前記調理メニューを前記学習器から取得する、請求項6または7に記載の加熱調理方法。
【請求項9】
前記撮像装置は、前記加熱部により前記加熱対象物を加熱している前記ユーザの状態を含む画像である加熱中ユーザ画像も撮像可能に構成されており、
前記学習器は、前記加熱中ユーザ画像にも基づいて前記調理メニューを推定するための機械学習を行っており、
前記コンピュータは、
前記撮像装置から前記加熱中ユーザ画像を取得する加熱中ユーザ画像取得ステップをさらに実行し、
前記調理メニュー推定ステップにおいて、前記加熱中ユーザ画像取得ステップで取得した前記加熱中ユーザ画像も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで、前記調理メニューを前記学習器から取得する、請求項6から8のいずれか一項に記載の加熱調理方法。
【請求項10】
前記コンピュータが、前記加熱中ユーザ画像に基づいて前記ユーザに関する情報であるユーザ情報を解析するユーザ情報解析ステップをさらに実行し、
前記学習器は、前記ユーザ情報にも基づいて前記調理メニューを推定するための機械学習を行っており、
前記コンピュータは、前記調理メニュー推定ステップにおいて、前記ユーザ情報解析ステップで解析した前記ユーザ情報も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで前記調理メニューを前記学習器から取得する、請求項9に記載の加熱調理方法。
【請求項11】
ユーザが加熱対象物を加熱部で加熱して調理する調理メニューと、前記調理メニューに対応付けられており、
前記加熱部と隣接するとともに、前記加熱対象物に対して前記加熱部で加熱するための準備を施すための加熱前準備スペースにおける前記準備中の前記加熱対象物の状態を含む画像である加熱前対象物画像を撮像可能に構成されている撮像装置から取得される前記加熱前対象物画像と、を含む学習データを取得する学習データ取得部と、
前記加熱前対象物画像を含む入力に対して、前記調理メニューに対応する出力値を含む出力を得るように学習器の機械学習を行う学習処理部と、を備えている、学習装置。
【請求項12】
前記学習データは、前記調理メニューに対応付けられており、前記加熱前対象物画像に基づいて解析される情報であるとともに前記加熱対象物が含んでいる食材に関する情報である食材情報をさらに含んでおり、
前記学習器の前記機械学習における前記入力が、前記食材情報も含む、請求項11に記載の学習装置。
【請求項13】
前記撮像装置は、前記加熱部により加熱されている前記加熱対象物の状態を含む画像である加熱中対象物画像も撮像可能に構成されており、
前記学習データは、前記調理メニューに対応付けられた前記加熱中対象物画像をさらに含んでおり、
前記学習器の前記機械学習における前記入力が、前記加熱中対象物画像も含む、請求項11または12に記載の学習装置。
【請求項14】
前記撮像装置は、前記加熱部により前記加熱対象物を加熱している前記ユーザの状態を含む画像である加熱中ユーザ画像も撮像可能に構成されており、
前記学習データは、前記調理メニューに対応付けられた前記加熱中ユーザ画像をさらに含んでおり、
前記学習器の前記機械学習における前記入力が、前記加熱中ユーザ画像も含む、請求項11から13のいずれか一項に記載の学習装置。
【請求項15】
前記学習データは、前記調理メニューに対応付けられており、前記加熱中ユーザ画像に基づいて解析される情報であるとともに前記ユーザに関する情報であるユーザ情報をさらに含んでおり、
前記学習器の前記機械学習における前記入力が、前記ユーザ情報も含む、請求項14に記載の学習装置。
【請求項16】
コンピュータが、
ユーザが加熱対象物を加熱部で加熱して調理する調理メニューと、前記調理メニューに対応付けられており、
前記加熱部と隣接するとともに、前記加熱対象物に対して前記加熱部で加熱するための準備を施すための加熱前準備スペースにおける前記準備中の前記加熱対象物の状態を含む画像である加熱前対象物画像を撮像可能に構成されている撮像装置から取得される前記加熱前対象物画像と、を含む学習データを取得する学習データ取得ステップと、
前記加熱前対象物画像を含む入力に対して、前記調理メニューに対応する出力値を含む出力を得るように学習器の機械学習を行う学習処理ステップと、実行する、学習方法。
【請求項17】
前記学習データは、前記調理メニューに対応付けられており、前記加熱前対象物画像に基づいて解析される情報であるとともに前記加熱対象物が含んでいる食材に関する情報である食材情報をさらに含んでおり、
前記学習器の前記機械学習における前記入力が、前記食材情報も含む、請求項16に記載の学習方法。
【請求項18】
前記撮像装置は、前記加熱部により加熱されている前記加熱対象物の状態を含む画像である加熱中対象物画像も撮像可能に構成されており、
前記学習データは、前記調理メニューに対応付けられた前記加熱中対象物画像をさらに含んでおり、
前記学習器の前記機械学習における前記入力が、前記加熱中対象物画像も含む、請求項16または17に記載の学習方法。
【請求項19】
前記撮像装置は、前記加熱部により前記加熱対象物を加熱している前記ユーザの状態を含む画像である加熱中ユーザ画像も撮像可能に構成されており、
前記学習データは、前記調理メニューに対応付けられた前記加熱中ユーザ画像をさらに含んでおり、
前記学習器の前記機械学習における前記入力が、前記加熱中ユーザ画像も含む、請求項16から18のいずれか一項に記載の学習方法。
【請求項20】
前記学習データは、前記調理メニューに対応付けられており、前記加熱中ユーザ画像に基づいて解析される情報であるとともに前記ユーザに関する情報であるユーザ情報をさらに含んでおり、
前記学習器の前記機械学習における前記入力が、前記ユーザ情報も含む、請求項19に記載の学習方法。
【発明の詳細な説明】
【技術分野】
【0001】
本明細書が開示する技術は、加熱調理システムおよび加熱調理方法、学習装置および学習方法に関する。
【背景技術】
【0002】
特許文献1に、撮像装置(例えば、カメラ)で加熱対象物(特許文献1では被写体画像と称している)の画像を撮像し、その画像に基づいて加熱部の加熱量を制御する加熱調理器が開示されている。特許文献1の加熱調理器は、撮像装置が撮像した加熱対象物の画像から加熱対象物を収容している調理容器の種類を識別する。特許文献1の加熱調理器は、識別した調理容器の種類に基づいて、加熱部の加熱量を制御する。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1の加熱調理器では、調理メニューが異なる場合であっても、同じ種類の調理容器で調理する場合には、同じ加熱量で加熱部が制御される。このため、調理メニューによっては、加熱部の加熱量が過大になったり過少になったりするおそれがある。本明細書では、ユーザが調理する調理メニューに対応して、加熱部の加熱量を制御することができる技術を提供する。
【課題を解決するための手段】
【0005】
上記一側面に係る加熱調理システムは、加熱部と、画像取得部と、調理メニュー推定部と、加熱量制御部と、を備えている。加熱部は、加熱対象物を加熱する。画像取得部は、前記加熱部と隣接するとともに、前記加熱対象物に対して前記加熱部で加熱するための準備を施すための加熱前準備スペースにおける前記準備中の前記加熱対象物の状態を含む画像である加熱前対象物画像を撮像可能に構成されている撮像装置から、前記加熱前対象物画像を取得する。調理メニュー推定部は、ユーザが前記加熱対象物を前記加熱部で加熱して調理する調理メニューを、前記加熱前対象物画像に基づいて推定するための機械学習を行った学習済みの学習器に、前記画像取得部が取得した前記加熱前対象物画像を入力し、前記学習済みの学習器の演算処理を実行することで、前記調理メニューを前記学習器から取得する。加熱量制御部は、前記調理メニュー推定部が推定した前記調理メニューに基づいて、前記加熱部の加熱量を制御する。
【0006】
上記の加熱調理システムによれば、調理する際にユーザが実行する加熱前準備の画像に基づいて、調理メニューを推定し、推定された調理メニューに対応して加熱部の加熱量を制御することができる。
【0007】
また、上記一側面に係る加熱調理システムは、前記加熱前対象物画像に基づいて前記加熱対象物が含んでいる食材に関する情報である食材情報を解析する食材情報解析部をさらに備えていてもよい。その場合、前記学習器は、前記食材情報にも基づいて前記調理メニューを推定するための機械学習を行ってもよい。前記調理メニュー推定部は、前記食材情報解析部が解析した前記食材情報も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで、前記調理メニューを前記学習器から取得してもよい。
【0008】
上記の加熱調理システムによれば、食材情報解析部が解析した食材情報にも基づいて調理メニューを推定することで、調理メニューの推定精度を向上させることができる。
【0009】
さらに、上記一側面に係る加熱調理システムでは、前記撮像装置は、前記加熱部により加熱されている前記加熱対象物の状態を含む画像である加熱中対象物画像も撮像可能に構成されてもよい。その場合、前記画像取得部は、前記撮像装置から前記加熱中対象物画像も取得してもよい。前記学習器は、前記加熱中対象物画像にも基づいて前記調理メニューを推定するための機械学習を行ってもよい。前記調理メニュー推定部は、前記画像取得部が取得した前記加熱中対象物画像も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで前記調理メニューを前記学習器から取得してもよい。
【0010】
上記の加熱調理システムによれば、加熱中対象物画像にも基づいて調理メニューを推定することで、調理メニューの推定精度を向上させることができる。
【0011】
また、上記一側面に係る加熱調理システムでは、前記撮像装置は、前記加熱部により前記加熱対象物を加熱している前記ユーザの状態を含む画像である加熱中ユーザ画像も撮像可能に構成されてもよい。その場合、前記画像取得部は、前記撮像装置から前記加熱中ユーザ画像も取得してもよい。前記学習器は、前記加熱中ユーザ画像にも基づいて前記調理メニューを推定するための機械学習を行ってもよい。前記調理メニュー推定部は、前記画像取得部が取得した前記加熱中ユーザ画像も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで、前記調理メニューを前記学習器から取得してもよい。
【0012】
上記の加熱調理システムによれば、加熱中ユーザ画像にも基づいて調理メニューを推定することで、調理メニューの推定精度を向上させることができる。
【0013】
また、上記一側面に係る加熱調理システムは、前記加熱中ユーザ画像に基づいて前記ユーザに関する情報であるユーザ情報を解析するユーザ情報解析部をさらに備えてもよい。その場合、前記学習器は、前記ユーザ情報にも基づいて前記調理メニューを推定するための機械学習を行ってもよい。前記調理メニュー推定部は、前記ユーザ情報解析部が解析した前記ユーザ情報も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで、前記調理メニューを前記学習器から取得してもよい。
【0014】
上記の加熱調理システムによれば、ユーザ情報にも基づいて調理メニューを推定することで、調理メニューの推定精度を向上させることができる。
【0015】
上記一側面に係る加熱調理方法では、コンピュータが、加熱前画像取得ステップと、調理メニュー推定ステップと、加熱量制御ステップと、を実行してもよい。加熱前画像取得ステップでは、コンピュータが、加熱部と隣接するとともに、加熱対象物に対して前記加熱部で加熱するための準備を施すための加熱前準備スペースにおける前記準備中の前記加熱対象物の状態を含む画像である加熱前対象物画像を撮像可能に構成されている撮像装置から、前記加熱前対象物画像を取得する。調理メニュー推定ステップでは、コンピュータが、ユーザが前記加熱対象物を前記加熱部で加熱して調理する調理メニューを、前記加熱前対象物画像に基づいて推定するための機械学習を行った学習済みの学習器に、取得した前記加熱前対象物画像を入力し、前記学習済みの学習器の演算処理を実行することで、前記調理メニューを前記学習器から取得する。加熱量制御ステップでは、コンピュータが、前記調理メニュー推定ステップで取得した前記調理メニューに基づいて、前記加熱部の加熱量を制御する。
【0016】
上記一側面に係る加熱調理方法では、前記コンピュータが、前記加熱前対象物画像に基づいて前記加熱対象物が含んでいる食材に関する情報である食材情報を解析する食材情報解析ステップをさらに実行してもよい。その場合、前記学習器は、前記食材情報にも基づいて前記調理メニューを推定するための機械学習を行ってもよい。前記コンピュータは、前記調理メニュー推定ステップにおいて、前記食材情報解析ステップで解析した前記食材情報も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで前記調理メニューを前記学習器から取得してもよい。
【0017】
上記一側面に係る加熱調理方法では、前記撮像装置は、前記加熱部により加熱されている前記加熱対象物の状態を含む画像である加熱中対象物画像も撮像可能に構成されていてもよい。その場合、前記学習器は、前記加熱中対象物画像にも基づいて前記調理メニューを推定するための機械学習を行ってもよい。前記コンピュータは、前記撮像装置から前記加熱中対象物画像を取得する加熱中対象物画像取得ステップをさらに実行してもよい。コンピュータは、前記調理メニュー推定ステップにおいて、前記加熱中対象物画像取得ステップで取得した前記加熱中対象物画像も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで前記調理メニューを前記学習器から取得してもよい。
【0018】
上記一側面に係る加熱調理方法では、前記撮像装置は、前記加熱部により前記加熱対象物を加熱している前記ユーザの状態を含む画像である加熱中ユーザ画像も撮像可能に構成されてもよい。その場合、前記学習器は、前記加熱中ユーザ画像にも基づいて前記調理メニューを推定するための機械学習を行ってもよい。前記コンピュータは、前記撮像装置から前記加熱中ユーザ画像を取得する加熱中ユーザ画像取得ステップをさらに実行してもよい。コンピュータは、前記調理メニュー推定ステップにおいて、前記加熱中ユーザ画像取得ステップで取得した前記加熱中ユーザ画像も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで、前記調理メニューを前記学習器から取得してもよい。
【0019】
上記一側面に係る加熱調理方法では、前記コンピュータが、前記加熱中ユーザ画像に基づいて前記ユーザに関する情報であるユーザ情報を解析するユーザ情報解析ステップをさらに実行してもよい。その場合、前記学習器は、前記ユーザ情報にも基づいて前記調理メニューを推定するための機械学習を行ってもよい。前記コンピュータは、前記調理メニュー推定ステップにおいて、前記ユーザ情報解析ステップで解析した前記ユーザ情報も前記学習器に入力し、前記学習済みの学習器の演算処理を実行することで前記調理メニューを前記学習器から取得してもよい。
【0020】
上記一側面に係る学習装置は、学習データ取得部と、学習処理部と、を備えてもよい。学習データ取得部は、ユーザが加熱対象物を加熱部で加熱して調理する調理メニューと、前記調理メニューに対応付けられており、前記加熱部と隣接するとともに、前記加熱対象物に対して前記加熱部で加熱するための準備を施すための加熱前準備スペースにおける前記準備中の前記加熱対象物の状態を含む画像である加熱前対象物画像を撮像可能に構成されている撮像装置から取得される前記加熱前対象物画像と、を含む学習データを取得する。学習処理部は、前記加熱前対象物画像を含む入力に対して、前記調理メニューに対応する出力値を含む出力を得るように学習器の機械学習を行う。
【0021】
上記の学習装置によれば、調理する際にユーザが実行する加熱前準備の画像に基づいて、ユーザが調理する調理メニューを推定するための学習済みの学習器を構築することができる。
【0022】
上記一側面に係る学習装置では、前記学習データは、前記調理メニューに対応付けられており、前記加熱前対象物画像に基づいて解析される情報であるとともに前記加熱対象物が含んでいる食材に関する情報である食材情報をさらに含んでもよい。その場合、前記学習器の前記機械学習における前記入力が、前記食材情報も含んでもよい。
【0023】
上記の学習装置によれば、食材情報にも基づいて、ユーザが調理する調理メニューを推定するための学習済みの学習器を構築することができる。
【0024】
上記一側面に係る学習装置では、前記撮像装置は、前記加熱部により加熱されている前記加熱対象物の状態を含む画像である加熱中対象物画像も撮像可能に構成されてもよい。その場合、前記学習データは、前記調理メニューに対応付けられた前記加熱中対象物画像をさらに含んでもよく、前記学習器の前記機械学習における前記入力が、前記加熱中対象物画像も含んでもよい。
【0025】
上記の学習装置によれば、加熱中対象物画像にも基づいて、ユーザが調理する調理メニューを推定するための学習済みの学習器を構築することができる。
【0026】
上記一側面に係る学習装置では、前記撮像装置は、前記加熱部により前記加熱対象物を加熱している前記ユーザの状態を含む画像である加熱中ユーザ画像も撮像可能に構成されてもよい。その場合、前記学習データは、前記調理メニューに対応付けられた前記加熱中ユーザ画像をさらに含んでもよく、前記学習器の前記機械学習における前記入力が、前記加熱中ユーザ画像も含んでもよい。
【0027】
上記の学習装置によれば、加熱中ユーザ画像にも基づいて、ユーザが調理する調理メニューを推定するための学習済みの学習器を構築することができる。
【0028】
上記一側面に係る学習装置では、前記学習データは、前記調理メニューに対応付けられており、前記加熱中ユーザ画像に基づいて解析される情報であるとともに前記ユーザに関する情報であるユーザ情報をさらに含んでもよい。その場合、前記学習器の前記機械学習における前記入力が、前記ユーザ情報も含んでもよい。
【0029】
上記の学習装置によれば、ユーザ情報にも基づいて、ユーザが調理する調理メニューを推定するための学習済みの学習器を構築することができる。
【0030】
上記一側面に係る学習方法では、コンピュータが、学習データ取得ステップと、学習処理ステップと、を備えてもよい。学習データ取得ステップでは、コンピュータが、ユーザが加熱対象物を加熱部で加熱して調理する調理メニューと、前記調理メニューに対応付けられており、前記加熱部と隣接するとともに、前記加熱対象物に対して前記加熱部で加熱するための準備を施すための加熱前準備スペースにおける前記準備中の前記加熱対象物の状態を含む画像である加熱前対象物画像を撮像可能に構成されている撮像装置から取得される前記加熱前対象物画像と、を含む学習データを取得する。学習処理ステップでは、コンピュータが、前記加熱前対象物画像を含む入力に対して、前記調理メニューに対応する出力値を含む出力を得るように学習器の機械学習を行う。
【0031】
上記一側面に係る学習方法では、前記学習データは、前記調理メニューに対応付けられており、前記加熱前対象物画像に基づいて解析される情報であるとともに前記加熱対象物が含んでいる食材に関する情報である食材情報をさらに含んでもよい。その場合、前記学習器の前記機械学習における前記入力が、前記食材情報も含んでもよい。
【0032】
上記一側面に係る学習方法では、前記撮像装置は、前記加熱部により加熱されている前記加熱対象物の状態を含む画像である加熱中対象物画像も撮像可能に構成されてもよい。その場合、前記学習データは、前記調理メニューに対応付けられた前記加熱中対象物画像をさらに含んでもよく、前記学習器の前記機械学習における前記入力が、前記加熱中対象物画像も含んでもよい。
【0033】
上記一側面に係る学習方法では、前記撮像装置は、前記加熱部により前記加熱対象物を加熱している前記ユーザの状態を含む画像である加熱中ユーザ画像も撮像可能に構成されてもよい。その場合、前記学習データは、前記調理メニューに対応付けられた前記加熱中ユーザ画像をさらに含んでもよく、前記学習器の前記機械学習における前記入力が、前記加熱中ユーザ画像も含んでもよい。
【0034】
上記一側面に係る学習方法では、前記学習データは、前記調理メニューに対応付けられており、前記加熱中ユーザ画像に基づいて解析される情報であるとともに前記ユーザに関する情報であるユーザ情報をさらに含んでもよい。その場合、前記学習器の前記機械学習における前記入力が、前記ユーザ情報も含んでもよい。
【0035】
本明細書が開示する技術の詳細とさらなる改良は以下の「発明を実施するための形態」にて説明する。
【図面の簡単な説明】
【0036】
【
図1】一側面に係る実施形態の加熱調理システムの斜視図を示す。
【
図3】加熱調理システムのハードウェアの構成を示す。
【
図9】加熱調理システムの使用状況の別の一例を示す。
【
図10】制御装置が実行する処理のフロー図(1)を示す。
【
図11】制御装置が実行する処理のフロー図(2)を示す。
【
図12】学習装置が実行する処理のフロー図を示す。
【発明を実施するための形態】
【0037】
(実施形態)
図1は、一側面に係る実施形態の加熱調理システム2を模式的に示した斜視図である。
図1に示されるように、加熱調理システム2は、レンジフード4と、加熱調理器10を備えている。加熱調理器10は、システムキッチンに組み込んで使用されるガス燃焼式のビルトインコンロである。レンジフード4は、加熱調理器10の上方に配置された換気装置である。
【0038】
加熱調理器10の天板10uには、第1コンロ11aと、第2コンロ11bと、第3コンロ11cと、グリル28に連通する排気口17が配置されている。また、加熱調理器10の前側(すなわち、
図1の右側)の面である前面10fには、コンロ操作部20と、グリル28が設けられている。本明細書では、理解を助けるため、加熱調理器10の前面10fが設けられている側を単に「前側」と表現し、その反対側を単に「後側」と表現することがある。また、前側と後側を結ぶ方向を前後方向とする。前後方向と直交する水平方向の左右については、加熱調理器10の前側に位置し、前面10fと対向するユーザの右側および左側と同様とする。また、加熱調理器10の前面10fの左側には、グリル28内のグリルバーナ29a(
図3参照)を操作するグリル操作部が設けられているが、本明細書では説明を省略する。
【0039】
第1コンロ11aと、第2コンロ11bと、第3コンロ11cは、天板10uの上面に前後方向に2列に配置されている。第1コンロ11aは、第1コンロバーナ12aと、第1センサ14aと、五徳16aを備えている。第1コンロバーナ12aには、ガス供給路(図示省略)が接続されている。ガス供給路には、第1コンロバーナ12aへのガス供給量を調整するための流量調整弁(図示省略)が設けられている。第1コンロバーナ12aは、第1コンロバーナ12aにガスが供給されている状態でイグナイタ(図示省略)を動作させることによって点火する。第1コンロ11aは、点火した第1コンロバーナ12aによって、上方に載置される鍋やフライパン等の調理容器を加熱する。第1コンロバーナ12aへのガス供給量を調整することにより、第1コンロバーナ12aの加熱量を調整することができる。また、第1コンロバーナ12aへのガスの供給が停止されることにより、第1コンロバーナ12aは消火される。なお、第2コンロ11bが備えている第2コンロバーナ12bと、第3コンロ11cが備えている第3コンロバーナ12cは、第1コンロバーナ12aと同様の構造を有している。
【0040】
第1センサ14aは、第1コンロ11aの調理容器の存在を検出するとともに、調理容器の温度を検出する。第1コンロ11aの上に調理容器が配置されると、第1センサ14aが調理容器によって押圧される。第1センサ14aは、調理容器によって押圧されると、第1コンロ11aの上に調理容器が載置されたことを検知する。第1コンロ11aの上に調理容器が載置されていない場合は、第1センサ14aが押圧されない。第1センサ14a内には熱電対が配置されており、第1センサ14aに接触している対象物の温度を検出することができる。なお、第2コンロ11bが備えている第2センサ14bと、第3コンロ11cが備えている第3センサ14cは、第1センサ14aと同様の構造を有する。また、五徳16a~16cは、それぞれのコンロの上方に載置される調理容器を、それぞれのコンロバーナから一定の距離を維持して支持する。
【0041】
コンロ操作部20は、加熱調理器10の電源スイッチ24と、第1加熱量操作部20aと、第2加熱量操作部20bと第3加熱量操作部20cと、パネル操作部22を備えている。電源スイッチ24は、加熱調理器10を起動させるスイッチであり、電源スイッチ24をオンすることで各コンロバーナへの点火が可能になる。第1加熱量操作部20aは、第1コンロ11aに対応する。同様に、第2加熱量操作部20bは第2コンロ11bに対応し、第3加熱量操作部20cは第3コンロ11cに対応する。第1加熱量操作部20aは、第1コンロバーナ12aの点火および消火を行うとともに、第1コンロバーナ12aの加熱量の調整を行うためのオルタネイト型のスイッチである。第2加熱量操作部20bと第3加熱量操作部20cも、第1加熱量操作部20aと同様の構造を有している。
【0042】
パネル操作部22には、第1コンロバーナ12a、第2コンロバーナ12b、第3コンロバーナ12c、グリルバーナ29a(
図3参照)の動作状態などが表示される。ユーザは、パネル操作部22によって各コンロバーナおよびグリルバーナ29aを所定の時間経過後に消火する、消火タイマーの設定等をすることができる。また、パネル操作部22は、後述する自動加熱モードを設定可能である。
【0043】
加熱調理器10は、制御装置40を内部に収容している。制御装置40は、第1コンロ11aと、第2コンロ11bと、第3コンロ11cと、グリル28内のグリルバーナ29a(
図3参照)の火力(すなわち、加熱量)を自動制御するためのコンピュータである。制御装置40は、インターネットを介して、学習装置30に接続されている。制御装置40および学習装置30の詳細については後述する。
【0044】
次に、レンジフード4について説明する。レンジフード4は、内部に不図示のファンを収容している。レンジフード4は、ファンを下方から覆うレンジカバー6と、カメラカバー8と、スピーカ9cと、を備えている。
【0045】
図2に示されるように、カメラカバー8は、レンジカバー6の後側中央部に配置されている。カメラカバー8の左右両側の端部には、下方に延びているフランジが設けられている。カメラカバー8の中央部には、加熱中カメラ9bと、加熱前カメラ9aが配置されている。加熱中カメラ9bと、加熱前カメラ9aは、ともに半球形状を有している。加熱前カメラ9aと加熱中カメラ9bは、同様の構造を備えており、それぞれの撮像可能な範囲が異なるだけである。加熱前カメラ9aと加熱中カメラ9bが画像を撮像する技術については、既知であるためここでは説明を省略する。
【0046】
また、
図1に示されるように、レンジフード4の前面の左側端部には、スピーカ9cが配置されている。スピーカ9cは、加熱調理器10のユーザに音声を伝える。
【0047】
図3を参照して、加熱調理システム2が備えている制御構成について説明する。なお、
図3では、第1コンロ11aの第1コンロバーナ12aのみを記載して、第2コンロバーナ12bと第3コンロバーナ12cの記載を省略している。同様に、
図3では、第1コンロ11aの第1センサ14aのみを記載して、第2センサ14bと第3センサ14cの記載を省略している。電源スイッチ24がオンされると、コンロ操作部20、パネル操作部22、制御装置40等が起動する。
【0048】
制御装置40は、ハードウェアプロセッサであるCPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)を備えている。コンロ操作部20が操作されると、その操作に基づいて、制御装置40は、第1コンロバーナ12aの火力を調整する。制御装置40は、例えば、ECU(Electronic Control Unit)により構成される。
【0049】
制御装置40は、例えばRAM,ROM等で構成されている学習記憶部46と、メニュー記憶部48と、外部インターフェース(
図3では外部I/Fと記載されている)42と、を備えている。学習記憶部46は、プログラム46pと、学習結果データ32rを記憶している。プログラム46pは、制御装置40に加熱調理器10でユーザが調理する調理メニューを推定する処理を実行させるための命令を含んでいる。学習結果データ32rは、学習済みの学習器の設定を行うためのデータであり、
図1に示す学習装置30で生成され、インターネットを介して制御装置40に送信される。
【0050】
メニュー記憶部48は、複数のメニュー名称と、各メニュー名称のそれぞれに対応する加熱量のパターンによって構成された加熱量テーブル48tを記憶している。メニュー名称は、例えばカレー、煮物のようなユーザが加熱調理器10を利用して調理するメニューの名称である。加熱量のパターンは、例えば第1コンロバーナ12aの火力を、15分間強火で設定し、その後火力を弱めて20分間弱火に設定するといった経時的な制御パターンである。なお、加熱量テーブル48tは、加熱調理器10の製造時にメニュー記憶部48に予め記憶されていてもよいし、外部サーバとの通信が可能な外部インターフェース42を介して、外部サーバからダウンロードしてメニュー記憶部48に記憶されていてもよい。
【0051】
外部インターフェース42は、制御装置40と外部の装置を接続するインターフェースである。
図3に示されるように、外部インターフェース42は、制御装置40と加熱前カメラ9a、加熱中カメラ9b、スピーカ9cを接続する。外部インターフェース42は、例えば、Wi-Fi(登録商標)方式によって、加熱前カメラ9a、加熱中カメラ9b、スピーカ9cに接続される。
【0052】
図4を参照して、学習装置30について説明する。学習装置30は、記憶部32と、入力装置34iと、出力装置34оと、制御部36と、通信インターフェース(
図4では、通信I/Fと記載している)38と、ドライブ39を備えている。
図3に示されるように、学習装置30は、各デバイスが電気的に接続されているコンピュータである。
【0053】
制御部36は、ハードウェアプロセッサであるCPU、RAM、ROM等を含み、プログラムおよびデータに基づいて各種情報処理を実行するように構成される。記憶部32は、例えば、ハードディスクドライブ、ソリッドステートドライブ等で構成される。記憶部32は、制御部36で実行される学習プログラム32p、学習器の機械学習に利用する学習データ32d、学習プログラム32pを実行して作成した学習結果データ32rを記憶する。
【0054】
学習プログラム32pは、後述する機械学習の処理(
図12)を学習装置30に実行させ、当該機械学習の結果として学習結果データ32rを生成させるためのプログラムである。学習データ32dは、入力された情報から調理メニューを推定するように学習器の機械学習を行うためのデータである。詳細は後述する。
【0055】
通信インターフェース38は、例えば、有線LAN(Local Area Network)モジュール、無線LANモジュール等であり、ネットワークを介した有線又は無線通信を行うためのインターフェースである。学習装置30は、当該通信インターフェース38を介して、作成した学習結果データ32rを外部の装置に配信してもよい。
【0056】
入力装置34iは、例えば、マウス、キーボード等の入力を行うための装置である。また、出力装置34оは、例えば、ディスプレイ、スピーカ等の出力を行うための装置である。学習装置30のオペレータは、入力装置34iおよび出力装置34оを介して、学習装置30を操作することができる。
【0057】
ドライブ39は、例えば、CDドライブ、DVDドライブ等であり、記憶媒体30mに記憶されたプログラムを読み込むためのドライブ装置である。ドライブ39の種類は、記憶媒体30mの種類に応じて適宜選択されてよい。上記学習プログラム32pおよび学習結果データ32rは、この記憶媒体30mに記憶されていてもよい。
【0058】
記憶媒体30mは、コンピュータその他の装置、機械等が記録されたプログラム等の情報を読み取り可能なように、当該プログラム等の情報を、電気的、磁気的、光学的、機械的又は化学的作用によって蓄積する媒体である。学習装置30は、この記憶媒体30mから、学習プログラム32p、学習データ32dを取得してもよい。
【0059】
図4では、記憶媒体30mの一例として、CD、DVD等のディスク型の記憶媒体を例示している。しかしながら、記憶媒体30mは、ディスク型に限定されない。記憶媒体30mは、例えば、フラッシュメモリ等の半導体メモリであってもよい。
【0060】
なお、学習装置30の具体的なハードウェア構成に関しては、実施形態に応じて、適宜、構成要素の省略、置換および追加が可能である。例えば、制御部36は、複数のハードウェアプロセッサを含んでもよい。ハードウェアプロセッサは、マイクロプロセッサ、FPGA(field-programmable gate array)等で構成されてよい。学習装置30は、複数台の情報処理装置で構成されてもよい。また、学習装置30は、提供されるサービス専用に設計された情報処理装置の他、汎用のサーバ装置、PC(Personal Computer)等であってもよい。
【0061】
図5を参照して、制御装置40の制御構成について説明する。
図5では、制御装置40の制御構成を模式的に示している。
【0062】
制御装置40は、学習記憶部46に記憶されたプログラム46pをRAMに展開する。制御装置40は、RAMに展開されたプログラム46pをCPUにより解釈および実行して、各構成要素を制御する。これによって、
図5に示されるとおり、制御装置40は、ソフトウェアモジュールとして、画像取得部51、画像解析部52、解像度変換部53、加熱量情報取得部54、調理メニュー推定部55、警報部56、および加熱量制御部57を備えるコンピュータとして構成される。
【0063】
画像取得部51は、加熱前カメラ9a、加熱中カメラ9bから撮像画像9iを取得する。詳細は
図7から
図9を参照して説明するが、撮像画像9iには、加熱調理器10の各コンロバーナで加熱する前の準備が施されている食材の状態や、加熱中のユーザ、食材、調理容器等の状態が含まれている。なお、画像取得部51は、例えばユーザが携帯端末で撮像した画像を受信してもよい。
【0064】
画像解析部52は、画像取得部51が取得した撮像画像9iを解析して、撮像画像9iから食材に関する情報である食材情報52fとユーザに関する情報であるユーザ情報52uを抽出する。また、加熱量情報取得部54は、加熱調理器10の各コンロバーナから、各コンロバーナの加熱量に関する情報である加熱量情報57qを取得する。
【0065】
解像度変換部53は、画像取得部51により取得した撮像画像9iの解像度を低下させる。これにより、解像度変換部53は、低解像度撮像画像62を生成する。
【0066】
調理メニュー推定部55は、ユーザが加熱調理器10の各コンロバーナで加熱して調理する調理メニューを推定するための機械学習を行った学習済みの学習器(ニューラルネットワーク70)に、撮像画像9iを低解像度化することで得られた低解像度撮像画像62を入力する。また、食材情報52f、ユーザ情報52u、加熱量情報57qも、補足情報60として同様に入力される。これにより、調理メニュー推定部55は、調理メニュー情報64を学習器から取得する。低解像度化することで得られた低解像度撮像画像62をニューラルネットワーク70に入力することで、ニューラルネットワーク70の演算処理の計算量を低減することができ、プロセッサの負荷を低減することができる。なお、低解像度化の処理は省略されてもよい。この場合、調理メニュー推定部55は、撮像画像9iを学習器(ニューラルネットワーク70)に入力してもよい。
【0067】
調理メニュー情報64は、
図3のメニュー記憶部48が記憶している加熱量テーブル48tのメニュー名称を含んでいる。加熱量制御部57は、調理メニュー推定部55が学習器から取得した調理メニュー情報64に含まれるメニュー名称に対応する加熱量パターンで、加熱調理器10の各コンロバーナおよびグリル28内のグリルバーナ29aの加熱量(すなわち、火力)を制御する。
【0068】
また、警報部56は、調理メニュー情報64に含まれるメニュー名称に対応する加熱量のパターンが終了したときに、スピーカ9c(
図3参照)を介してユーザに加熱が終了したことを報知する。また、警報部56は、例えば撮像画像9iが正常に取得されなかった場合等に、ユーザにそのことを報知してもよい。また、警報部56は、スピーカ9cを介してユーザに報知せずに、例えば、ユーザの携帯端末にメッセージを送ることで加熱が終了したことを報知してもよい。さらに、スピーカ9cは、加熱調理器10に配置されていてもよい。
【0069】
図5に示されるとおり、制御装置40は、ユーザが加熱調理器10の各コンロバーナで加熱する調理メニューを推定するための機械学習を行った学習済みの学習器として、ニューラルネットワーク70を利用する。ニューラルネットワーク70は、複数種類のニューラルネットワークを組み合わせることで構成されている。
【0070】
ニューラルネットワーク70は、全結合ニューラルネットワーク72、畳み込みニューラルネットワーク74、結合層76、およびLSTMネットワーク78の4つの部分に分かれている。全結合ニューラルネットワーク72および畳み込みニューラルネットワーク74は入力側に並列に配置されており、全結合ニューラルネットワーク72には補足情報60が入力され、畳み込みニューラルネットワーク74には低解像度撮像画像62が入力される。結合層76は、全結合ニューラルネットワーク72および畳み込みニューラルネットワーク74の出力を結合する。LSTMネットワーク78は、結合層76からの出力を受けて、調理メニュー情報64を出力する。
【0071】
全結合ニューラルネットワーク72は、いわゆる多層構造のニューラルネットワークであり、入力側から順に、入力層72i、中間層(隠れ層)72m、および出力層72оを備えている。ただし、全結合ニューラルネットワーク72の層の数は、このような例に限定されなくてもよく、実施形態に応じて適宜選択されてよい。
【0072】
全結合ニューラルネットワーク72の各層72i、72m、72оは、1又は複数のニューロン(ノード)を備えている。各層に含まれるニューロンの個数は、実施形態に応じて適宜設定されてよい。各層に含まれる各ニューロンが、隣接する層に含まれる全てのニューロンに結合されていることで、全結合ニューラルネットワーク72は構成される。各結合には、重み(結合荷重)が適宜設定されている。
【0073】
畳み込みニューラルネットワーク74は、畳み込み層74aおよびプーリング層74bを交互に接続した構造を有する順伝播型ニューラルネットワークである。本実施形態に係る畳み込みニューラルネットワーク74では、複数の畳み込み層74aおよびプーリング層74bが入力側に交互に配置されている。そして、最も出力側に配置されたプーリング層74bの出力が全結合層74cに入力され、全結合層74cの出力が出力層74оに入力される。
【0074】
畳み込み層74aは、画像の畳み込みの演算を行う層である。画像の畳み込みとは、画像と所定のフィルタとの相関を算出する処理に相当する。そのため、画像の畳み込みを行うことで、例えば、フィルタの濃淡パターンと類似する濃淡パターンを入力される画像から検出することができる。
【0075】
プーリング層74bは、プーリング処理を行う層である。プーリング処理は、画像のフィルタに対する応答の強かった位置の情報を一部捨て、画像内に現れる特徴の微小な位置変化に対する応答の不変性を実現する。
【0076】
全結合層74cは、隣接する層の間のニューロン全てを結合した層である。すなわち、全結合層74cに含まれる各ニューロンは、隣接する層に含まれる全てのニューロンに結合される。全結合層74cは、2層以上で構成されてもよい。また、全結合層74cに含まれるニューロンの個数は、実施形態に応じて適宜設定されてもよい。
【0077】
出力層74оは、畳み込みニューラルネットワーク74の最も出力側に配置される層である。出力層74оに含まれるニューロンの個数は、実施形態に応じて適宜設定されてよい。なお、畳み込みニューラルネットワーク74の構成は、このような例に限定されなくてもよく、実施形態に応じて適宜設定されてもよい。
【0078】
結合層76は、全結合ニューラルネットワーク72および畳み込みニューラルネットワーク74とLSTMネットワーク78との間に配置される。結合層76は、全結合ニューラルネットワーク72の出力層72оからの出力および畳み込みニューラルネットワーク74の出力層74оからの出力を結合する。結合層76の出力は、LSTMネットワーク78に入力される。結合層76に含まれるニューロンの個数は、全結合ニューラルネットワーク72および畳み込みニューラルネットワーク74の出力の数に応じて適宜設定されてもよい。
【0079】
LSTMネットワーク78は、LSTMブロック78bを備える再帰型ニューラルネットワークである。再帰型ニューラルネットワークは、例えば、中間層から入力層への経路のように、内部にループを有するニューラルネットワークのことである。LSTMネットワーク78は、一般的な再帰型ニューラルネットワークの中間層をLSTMブロック78bに置き換えた構造を有する。
【0080】
LSTMネットワーク78は、入力側から順に、入力層78i、LSTMブロック78b、および出力層78оを備えており、順伝播の経路の他、LSTMブロック78bから入力層78iに戻る経路を有している。入力層78iおよび出力層78оに含まれるニューロンの個数は、実施形態に応じて適宜設定されてもよい。
【0081】
LSTMブロック78bは、入力ゲートおよび出力ゲートを備え、情報の記憶および出力のタイミングを学習可能に構成されたブロックである。また、LSTMブロック78bは、情報の忘却のタイミングを調節する忘却ゲートを備えてもよい。LSTMネットワーク78の構成は、実施形態に応じて適宜設定可能である。
【0082】
各ニューロンには閾値が設定されており、基本的には、各入力と各重みとの積の和が閾値を超えているか否かによって各ニューロンの出力が決定される。制御装置40は、全結合ニューラルネットワーク72に補足情報60を入力し、畳み込みニューラルネットワーク74に低解像度撮像画像62を入力する。そして、制御装置40は、入力側から順に、各層に含まれる各ニューロンの発火判定を行う。このように、ニューラルネットワーク70は、入力に対する演算処理を実行する。制御装置40は、調理メニュー情報64に対応する出力値をニューラルネットワーク70の出力層78оから取得する。
【0083】
なお、このようなニューラルネットワーク70の構成(例えば、各ネットワークの層数、各層におけるニューロンの個数、ニューロン同士の結合関係、各ニューロンの伝達関数)、各ニューロン間の結合の重み、および各ニューロンの閾値を示す情報は、学習結果データ32rに含まれている。制御装置40は、学習結果データ32rを参照して、ユーザが加熱調理器10の各コンロバーナで加熱する調理メニューを推定する処理に用いる学習済みニューラルネットワーク70の設定を行う。
【0084】
図6を用いて、学習装置30について説明する。学習装置30の制御部36は、記憶部32に記憶された学習プログラム32pをRAMに展開する。そして、制御部36は、RAMに展開された学習プログラム32pをCPUにより解釈および実行して、各構成要素を制御する。これによって、
図6に示されるとおり、学習装置30は、ソフトウェアモジュールとして、学習データ取得部31および学習処理部33を備えるコンピュータとして構成される。
【0085】
学習データ取得部31は、加熱前カメラ9aおよび加熱中カメラ9bが撮像した撮像画像9iを低解像度化することで得られた低解像度撮像画像62tと、加熱量情報57qと食材情報52fとユーザ情報52uからなる補足情報60tと、低解像度撮像画像62tおよび補足情報60tに対応する調理メニュー情報64tの組を学習データ66として取得する。低解像度撮像画像62tおよび補足情報60tはそれぞれ、
図5を参照して説明した低解像度撮像画像62および補足情報60に対応し、入力データとして利用される。調理メニュー情報64tは、
図5の調理メニュー情報64に対応し、教師データ(正解データ)として利用される。学習処理部33は、低解像度撮像画像62tおよび補足情報60tを入力すると、調理メニュー情報64tに対応する出力値を出力するように学習器の機械学習を行う。
【0086】
図6に示されるとおり、制御装置40(
図5参照)と同様に、学習装置30は、ニューラルネットワーク70tを備えている。学習装置30のニューラルネットワーク70tは、全結合ニューラルネットワーク72t、畳み込みニューラルネットワーク74t、結合層76t、およびLSTMネットワーク78tを備えている。学習装置30のニューラルネットワーク70tは、制御装置40のニューラルネットワーク70と同様に構成される。そのため、学習装置30の全結合ニューラルネットワーク72t、畳み込みニューラルネットワーク74t、結合層76t、およびLSTMネットワーク78tはそれぞれ、制御装置40の全結合ニューラルネットワーク72、畳み込みニューラルネットワーク74、結合層76、およびLSTMネットワーク78と同様である。すなわち、学習装置30のニューラルネットワーク70tは、制御装置40のニューラルネットワーク70と同様に演算処理を実行する。
【0087】
学習処理部33は、全結合ニューラルネットワーク72tに補足情報60tを入力し、畳み込みニューラルネットワーク74tに低解像度撮像画像62tを入力すると、調理メニュー情報64tに対応する出力値をLSTMネットワーク78tから出力するニューラルネットワーク70tを構築する。そして、学習処理部33は、構築したニューラルネットワーク70の構成、各ニューロン間の結合の重みおよび各ニューロンの閾値を示す情報を、学習結果データ32rとして記憶部32に格納する。学習処理部33は、記憶部32に格納した学習結果データ32rを、インターネットを介して定期的に制御装置40に送信する。これにより、制御装置40の学習結果データ32rが定期的に更新される。
【0088】
図7~
図9を参照して、加熱調理システム2が、制御装置40に入力する撮像画像9iを撮像する構造について説明する。なお、以下では、主に加熱調理器10の第1コンロ11aおよびグリル28で食材を加熱する場合について説明するが、第2コンロ11b、第3コンロ11cを用いて加熱する場合も同様である。
【0089】
加熱前カメラ9aと加熱中カメラ9bは、左右方向に並べて配置されている。加熱前カメラ9aは右側に配置されている。加熱前カメラ9aは、右方に延びる撮像エリアa20を有している。加熱調理器10の右側には、加熱前準備スペース80が設けられている。すなわち、加熱前カメラ9aは、カメラカバー8の加熱前準備スペース80側に設けられている。
【0090】
加熱前準備スペース80には、まな板82が配置されており、まな板82の上面には、加熱前食材84aが載置されている。
図7に示されるように、加熱前食材84aの一部は、切断されている。加熱前食材84aは、加熱調理器10の第1コンロ11aで加熱する前の準備が施されている。
図7に示されるように、加熱前食材84aは、加熱前カメラ9aの撮像エリアa20内に載置されている。すなわち、加熱前カメラ9aは、加熱前食材84aを第1コンロ11aで加熱する前の準備が施されている加熱前食材84aの状態を含む加熱前食材画像を撮像可能に構成されている。
【0091】
加熱前食材画像には、加熱前食材84aの食材の種類、切り方、加熱前準備において加熱前食材84aに加えられた調味料の種類、量などの情報が含まれる。このため、
図5を参照して説明したように、画像解析部52が加熱前食材画像を解析して、調理メニュー推定部55がこれらの情報を補足情報60としてニューラルネットワーク70に入力することができる。これにより、調理メニュー推定部55の推定精度を向上させることができる。
【0092】
加熱中カメラ9bは、下方に延びる撮像エリアa10を有している。
図7に示されるように、加熱中カメラ9bの撮像エリアa10は、第1コンロ11a、第2コンロ11b、第3コンロ11cを収めている。加熱中カメラ9bは、第1コンロ11aの上に載置されている鍋86の内部に収容されている加熱中食材84bが、第1コンロ11aによって加熱されている状態を撮像することができる。すなわち、加熱中カメラ9bは、第1コンロ11aにより加熱されている加熱中食材84bの状態を含む加熱中食材画像を撮像可能に構成されている。なお、加熱前カメラ9aと加熱中カメラ9bは一体で形成されていてもよく、その場合、撮像エリアが左右方向に変更可能に構成されてもよい。
【0093】
加熱中食材画像には、調理容器(
図7では、鍋86)の大きさ、調理容器の種類(例えば、フライパンなど)、加熱中食材84bの加熱状況(色、沸騰状況など)、調理容器内の水分量、油分量、調理容器内に加えられた調味料の種類、量などの情報が含まれる。このため、
図5を参照して説明したように、画像解析部52が加熱中食材画像を解析して、調理メニュー推定部55がこれらの情報を補足情報60としてニューラルネットワーク70に入力することができる。これにより、調理メニュー推定部55の推定精度を向上させることができる。
【0094】
図8に示されるように、加熱中カメラ9bは、撮像エリアa11も撮像可能に構成されている。これにより、加熱中カメラ9bは、加熱調理器10によって調理を実行するユーザ100の加熱中ユーザ画像も撮像することができる。
【0095】
加熱中ユーザ画像には、ユーザ100の姿勢(頭や体の向き、手の位置など)、ユーザ100が所持している調理具(
図8では、おたま90)の大きさ、調理具の種類(例えば、菜箸など)の情報も含まれる。また、加熱中カメラ9bがユーザ100の状態を連続して撮像することで、ユーザ100の動き(例えば、調味料を入れる動き、調理容器内をかき混ぜる動きなど)の情報も加熱中ユーザ画像に含めることができる。このため、
図5を参照して説明したように、画像解析部52が加熱中ユーザ画像を解析して、調理メニュー推定部55がこれらの情報を補足情報60としてニューラルネットワーク70に入力することができる。これにより、調理メニュー推定部55の推定精度を向上させることができる。
【0096】
図9に示されるように、加熱中カメラ9bは、撮像エリアa13も撮像可能に構成されている。これにより、加熱中カメラ9bは、グリル28内で加熱されている加熱中食材88の状態を含むグリル内食材画像も撮像することができる。
【0097】
グリル内食材画像にも、加熱中食材画像と同様に、加熱中食材88の加熱状況、グリル28内の水分量、油分量、グリル28内に加えられた調味料の種類、量などの情報が含まれる。このため、
図5を参照して説明したように、画像解析部52が加熱中食材画像を解析して、調理メニュー推定部55がこれらの情報を補足情報60としてニューラルネットワーク70に入力することができる。これにより、調理メニュー推定部55の推定精度を向上させることができる。
【0098】
また、
図5で説明したように、制御装置40は、加熱量情報取得部54によって、各コンロおよびグリル28の加熱量に関する情報である加熱量情報57qも取得可能である。このため、
図5を参照して説明したように、調理メニュー推定部55が加熱量情報57qも補足情報としてニューラルネットワーク70に入力することができる。これにより、調理メニュー推定部55の推定精度を向上させることができる。
【0099】
図10および
図11を参照して、制御装置40(
図3参照)が実行する処理について説明する。なお、
図10および
図11で説明する制御装置40が実行する処理が、「加熱調理方法」の一例である。
【0100】
ユーザは、電源スイッチ24をオンにして加熱調理器10を起動させる。その後、ユーザは、パネル操作部22で設定することよって自動加熱モードを開始する(ステップS2)。ユーザは、自動加熱モードを設定する際、自動加熱モードで加熱するコンロバーナまたはグリルバーナを選択する。以下では、第1コンロ11aの第1コンロバーナ12aが選択された場合について説明する。
【0101】
自動加熱モードが開始されると、
図7を参照して説明したように、制御装置40は、加熱前カメラ9aに加熱前食材画像を撮像させ、加熱前カメラ9aから加熱前食材画像を取得する(ステップS4)。また、制御装置40は、
図5に示した画像解析部52によって、食材情報52fを補足情報60として取得する(ステップS6)。次いで、制御装置40は、
図5に示した解像度変換部53によって、加熱前食材画像の解像度を低くする(ステップS8)。なお、先に述べたように、加熱前食材画像の解像度を低くするステップS8は、省略可能である。
【0102】
その後、制御装置40は、
図5を参照して説明したように、調理メニュー推定部55によって、低解像度撮像画像62と補足情報60(すなわち、食材情報52f)をニューラルネットワーク70に入力する。先に述べたように、ニューラルネットワーク70は、学習装置30から学習結果データ32rを、インターネットを介して受信済みである。すなわち、ニューラルネットワーク70は、加熱前食材画像に基づいて調理メニューを推定するための機械学習器を行った学習済みの学習器である。低解像度撮像画像62を入力されたニューラルネットワーク70は、先に述べたように、調理メニュー情報64(
図5参照)に対応する出力値を出力する。これにより、制御装置40は、調理メニュー推定部55によって、調理メニュー情報64を取得する(ステップS12)。
【0103】
その後、ユーザがステップS2で選択した第1コンロバーナ12aに点火する(ステップS14)。制御装置40は、加熱量制御部57によってステップS2で選択された第1コンロバーナ12aに点火したことを検知する。制御装置40は、加熱量制御部57によって、メニュー記憶部48(
図3参照)に記憶している加熱量テーブル48t内の、ステップS12にて取得した調理メニュー情報64に対応している加熱量(火力)のパターンを用いて第1コンロバーナ12aの加熱量の制御を開始する(ステップS16)。これにより、加熱量制御部57は、調理メニュー推定部55が推定した調理メニューに基づいて、第1コンロバーナ12aの加熱量を制御する。
【0104】
調理メニュー情報64に対応している加熱量のパターンが終了すると、制御装置40は、加熱量制御部57によって加熱量(火力)のパターン制御を終了する(ステップS18)。その後、制御装置40は、警報部56(
図5参照)によってスピーカ9c(
図3参照)を介してユーザに加熱が完了したことを報知する(ステップS20)。これにより、制御装置40、ユーザに対して、ユーザが行った加熱前処理によって推定された調理メニューの加熱が完了したことを知らせることができる。
【0105】
先に述べたように、実施例の加熱調理システム2(
図1参照)は、加熱中の画像も取得することができる。
図11に示されるように、制御装置40は、
図10のステップ16の後に加熱中食材(またはユーザ)画像を取得する(ステップS4b)。
図7および
図8を参照して説明したように、加熱中カメラ9bによって、加熱中食材(またはユーザ)画像を取得する。ステップ4bで加熱中ユーザ画像を取得した場合には、制御装置40は、
図5に示した画像解析部52によって、ユーザ情報52uを補足情報60として取得する(ステップS6b)。また、制御装置40は、
図5に示した加熱量情報取得部54によって、加熱量情報57qを補足情報60としても取得してもよい。
【0106】
次いで、制御装置40は、
図5に示した解像度変換部53によって、加熱中食材(またはユーザ)画像の解像度を低くする(ステップS8b)。その後、制御装置40は、調理メニュー推定部55によって、低解像度撮像画像62と補足情報60(すなわち、ユーザ情報52uと加熱量情報57q)をニューラルネットワーク70に入力する。先に述べたように、調理メニュー推定部55は、ニューラルネットワーク70によって調理メニューを推定する。以下、
図11のステップS10bからステップS16bの処理については、上記の
図10のステップと同様であるため説明は省略する。このように、加熱前食材画像および食材情報52fによって調理メニューを推定した後に、加熱中食材画像および加熱中ユーザ画像によって再度推定することで、調理メニュー推定部55(
図5参照)の推定精度を向上させることができる。また、加熱中の画像に加え、画像を解析したユーザ情報52uや、加熱中の加熱量に関する情報である加熱量情報57qを補足情報60として取得することで、さらに調理メニュー推定部55(
図5参照)の推定精度を向上させることができる。なお、画像取得部51は、加熱中食材画像と加熱中ユーザ画像の双方を同時に取得してもよいし、どちらか一方を先に取得し、その後に他方を取得してもよい。
【0107】
図12を参照して、学習装置30(
図6参照)が実行する処理について説明する。
図12を参照して説明する学習装置30が実行する処理が「学習方法」の一例である。
【0108】
学習装置30は、
図6に示すように、学習データ取得部31によって、低解像度撮像画像62t、補足情報60t、および調理メニュー情報64tの組を学習データ66として取得する(ステップS30)。
【0109】
学習データ66は、ニューラルネットワーク70tに対して、調理メニューを推定可能にするための機械学習に利用するデータである。このような学習データ66は、加熱前の準備が施された様々な食材の画像と、推定される調理メニューを紐づけることで作成することができる。その際、加熱前の準備が施された様々な食材の画像は、
図5の低解像度撮像画像62と同等の解像度で保存される。加熱前の準備が施された様々な食材の画像は、少なくとも食材の切り方や大きさ、色、等を判別可能であればよい。
【0110】
また、学習データ66は、加熱中の様々な食材や調理容器の画像と、調理メニューを紐づけても作成することができる。その際、加熱中の様々な食材や調理容器の画像は、
図5の低解像度撮像画像62と同等の解像度で保存される。加熱中の様々な食材や調理容器の画像は、少なくとも食材の色、大きさ、色、調理容器の色、大きさ、調理容器内の色等を判別可能であればよい。
【0111】
さらに、学習データ66は、加熱中のユーザの画像と、調理メニューを紐づけても作成することができる。その際、加熱中のユーザの画像は、
図5の低解像度撮像画像62と同等の解像度で保存される。加熱中のユーザの画像は、少なくともユーザの姿勢、顔の向き、所持している調理器具の種類、大きさ、色、を判別可能であればよい。
【0112】
補足情報60に含まれる食材情報52fは、加熱前の準備が施された様々な食材の画像を解析して、食材の種類、切り方などに関する情報を抽出することで取得することができる。同様に、補足情報60に含まれるユーザ情報52uは、加熱中のユーザの画像を解析して、ユーザの姿勢、所持している調理器具などに関する情報を抽出することで取得することができる。学習データ66は、これらの抽出した情報と調理メニューを紐づけることでも作成することができる。
【0113】
この学習データ66の作成は、オペレータ等が入力装置34i(
図4参照)を用いて手動で行ってもよいし、プログラムの処理により自動的に行われてもよい。この学習データ66は、制御装置40から随時収集されてもよい。また、学習データ66の作成は、学習装置30以外の他の情報処理装置により行われてもよい。学習装置30が学習データ66を作成する場合には、制御部36は、本ステップS30において、学習データ66の作成処理を実行することで、学習データ66を取得することができる。一方、学習装置30以外の他の情報処理装置が学習データ66を作成する場合には、学習装置30は、ネットワーク、記憶媒体30m(
図4参照)等を介して、他の情報処理装置により作成された学習データ66を取得することができる。なお、本ステップS30で取得する学習データ66の件数は、ニューラルネットワーク70tの機械学習を行うことができるように、実施形態に応じて適宜決定されてよい。
【0114】
次いで、学習装置30は、学習処理部33によって、ステップS30で取得した学習データ66を用いて、低解像度撮像画像62tおよび補足情報60tを入力すると調理メニュー情報64tに対応する出力値を出力するようにニューラルネットワーク70tの機械学習処理を実行する(ステップS32)。
【0115】
学習装置30の制御部36(
図4参照)は、学習処理を行う対象となるニューラルネットワーク70tを用意する。用意するニューラルネットワーク70tの構成、各ニューロン間の結合の重みの初期値、および各ニューロンの閾値の初期値は、テンプレートにより与えられてもよいし、オペレータの入力により与えられてもよい。また、再学習を行う場合には、制御部36は、再学習を行う対象となる学習結果データ32rに基づいて、ニューラルネットワーク70tを用意してもよい。
【0116】
次に、制御部36は、ステップS30で取得した学習データ66に含まれる低解像度撮像画像62tおよび補足情報60tを入力データとして用い、調理メニュー情報64tを教師データ(正解データ)として用いて、ニューラルネットワーク70の学習処理を行う。このニューラルネットワーク70の学習処理には、確率的勾配降下法等が用いられてよい。
【0117】
例えば、制御部36は、全結合ニューラルネットワーク72tの入力層に補足情報60tを入力し、畳み込みニューラルネットワーク74tの最も入力側に配置された畳み込み層に低解像度撮像画像62tを入力する。そして、制御部36は、入力側から順に、各層に含まれる各ニューロンの発火判定を行う。これにより、制御部36は、LSTMネットワーク78tの出力層から出力値を得る。次に、制御部36は、LSTMネットワーク78tの出力層から取得した出力値と調理メニュー情報64tに対応する値との誤差を算出する。続いて、制御部36は、通時的誤差逆伝搬(Back propagation through time)法により、算出した出力値の誤差を用いて、各ニューロン間の結合の重みおよび各ニューロンの閾値それぞれの誤差を算出する。そして、制御部36は、算出した各誤差に基づいて、各ニューロン間の結合の重みおよび各ニューロンの閾値それぞれの値の更新を行う。
【0118】
制御部36は、各件の学習データ66について、ニューラルネットワーク70tから出力される出力値が調理メニュー情報64tに対応する値と一致するまでこの一連の処理を繰り返す。これにより、制御部36は、低解像度撮像画像62tおよび補足情報60tを入力すると調理メニュー情報64tに対応する出力値を出力するニューラルネットワーク70tを構築することができる。
【0119】
制御部36は、学習処理部33によって、構築したニューラルネットワーク70の構成、各ニューロン間の結合の重み、および各ニューロンの閾値を示す情報を学習結果データ32rとして記憶部32に記憶する(ステップS34)。これにより、制御部36は、本動作例に係るニューラルネットワーク70の学習処理を終了する。
【0120】
なお、制御部36は、上記のステップS36の処理が完了した後に、作成した学習結果データ32rを制御装置40に転送してもよい。また、制御部36は、上記ステップS30~S36の学習処理を定期的に実行することで、学習結果データ32rを定期的に更新してもよい。そして、制御部36は、作成した学習結果データ32rを当該学習処理の実行毎に制御装置40に転送することで、制御装置40の保持する学習結果データ32rを定期的に更新してもよい。また、例えば、制御部36は、作成した学習結果データ32rを別のデータサーバに保管してもよい。この場合、制御装置40は、このデータサーバから学習結果データ32rを取得してもよい。
【0121】
(対応関係)食材84a、84b、88が、それぞれ、「加熱対象物」の一例である。加熱調理器10の各コンロバーナおよびグリルバーナ29aが「加熱部」の一例である。加熱前カメラ9aおよび加熱中カメラ9bが「撮像装置」の一例である。画像解析部52が、「食材情報解析部」、「ユーザ情報解析部」の一例である。
【0122】
以上、実施例について詳細に説明したが、これらは例示に過ぎず、特許請求の範囲を限定するものではない。特許請求の範囲に記載の技術には、以上に例示した具体例を様々に変形、変更したものが含まれる。上記の実施例の変形例を以下に列挙する。
【0123】
(変形例1)上記の加熱調理システム2では、加熱前食材画像から、画像解析部52によって食材情報52fを抽出し、補足情報60として学習済みの学習器(ニューラルネットワーク70)に入力している。これに代えて、変形例では、食材情報52fを入力しない構成としてもよい。その場合、制御装置40は、画像解析部52を備えなくてもよい。
【0124】
(変形例2)上記の加熱調理システム2では、加熱中カメラ9bが撮像した加熱中食材画像も画像取得部51によって取得し、学習済みの学習器(ニューラルネットワーク70)に入力している。これに代えて、変形例では、加熱中食材画像は取得しなくてもよい。
【0125】
(変形例3)上記の加熱調理システム2では、加熱中カメラ9bが撮像した加熱中ユーザ画像も画像取得部51によって取得し、学習済みの学習器(ニューラルネットワーク70)に入力している。これに代えて、変形例では、加熱中ユーザ画像は取得しなくてもよい。
【0126】
(変形例4)上記の加熱調理システム2では、加熱中ユーザ画像から、画像解析部52によってユーザ情報52uを抽出し、補足情報60として学習済みの学習器(ニューラルネットワーク70)に入力している。これに代えて、変形例では、ユーザ情報52uを入力しない構成としてもよい。その場合、制御装置40は、画像解析部52を備えなくてもよい。
【0127】
(変形例5)上記の加熱調理システム2では、制御装置40は、ユーザが選択したコンロまたはグリルが、ユーザによって点火されたことを検知して、選択したコンロまたはグリルの加熱量のパターン制御を開始する。これに代えて、変形例では、選択されたコンロまたはグリルのセンサによって選択されたコンロまたはグリルに調理容器や食材が載置されたことを検知した場合に、制御装置が選択されたコンロまたはグリルに点火してもよい。
【0128】
(変形例6)上記の加熱調理システム2は、システムキッチンに組み込んで使用されるガス燃焼式のビルトインコンロである。これに代えて、変形例では、電磁誘導加熱調理器(IH調理器)であってもよい。その場合、制御装置40の加熱量制御部57は、火力に代えて各調理器の電力を制御してもよい。
【0129】
以上、本発明の具体例を詳細に説明したが、これらは例示に過ぎず、特許請求の範囲を限定するものではない。特許請求の範囲に記載の技術には、以上に例示した具体例を様々に変形、変更したものが含まれる。本明細書または図面に説明した技術要素は、単独であるいは各種の組合せによって技術的有用性を発揮するものであり、出願時請求項記載の組合せに限定されるものではない。また、本明細書または図面に例示した技術は複数目的を同時に達成し得るものであり、そのうちの一つの目的を達成すること自体で技術的有用性を持つものである。
【符号の説明】
【0130】
2 :加熱調理システム
4 :レンジフード
6 :レンジカバー
8 :カメラカバー
9a :加熱前カメラ
9b :加熱中カメラ
9c :スピーカ
10 :加熱調理器
11a :第1コンロ
12a :第1コンロバーナ
14a :第1センサ
16a :五徳
17 :排気口
20 :コンロ操作部
20a :第1加熱量操作部
22 :パネル操作部
24 :電源スイッチ
28 :グリル
29a :グリルバーナ
30 :学習装置
30m :記憶媒体
31 :学習データ取得部
32 :記憶部
33 :学習処理部
34i :入力装置
34о :出力装置
36 :制御部
38 :通信インターフェース
39 :ドライブ
40 :制御装置
42 :外部インターフェース
46 :学習記憶部
48 :メニュー記憶部
48t :加熱量テーブル
51 :画像取得部
52 :画像解析部
53 :解像度変換部
54 :加熱量情報取得部
55 :調理メニュー推定部
56 :警報部
57 :加熱量制御部
70、70t :ニューラルネットワーク
80 :加熱前準備スペース
84a :加熱前食材
84b、88 :加熱中食材
86 :鍋