特許第6567511号(P6567511)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカの特許一覧

特許6567511空気調和装置が実行するセンサの制御方法
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6567511
(24)【登録日】2019年8月9日
(45)【発行日】2019年8月28日
(54)【発明の名称】空気調和装置が実行するセンサの制御方法
(51)【国際特許分類】
   F24F 11/63 20180101AFI20190819BHJP
   G06T 1/00 20060101ALI20190819BHJP
   G01J 5/48 20060101ALI20190819BHJP
   F24F 120/10 20180101ALN20190819BHJP
【FI】
   F24F11/63
   G06T1/00 440
   G01J5/48 A
   F24F120:10
【請求項の数】11
【全頁数】45
(21)【出願番号】特願2016-523116(P2016-523116)
(86)(22)【出願日】2015年5月19日
(86)【国際出願番号】JP2015002503
(87)【国際公開番号】WO2015182061
(87)【国際公開日】20151203
【審査請求日】2017年12月4日
(31)【優先権主張番号】特願2014-109064(P2014-109064)
(32)【優先日】2014年5月27日
(33)【優先権主張国】JP
(31)【優先権主張番号】特願2015-75930(P2015-75930)
(32)【優先日】2015年4月2日
(33)【優先権主張国】JP
【前置審査】
(73)【特許権者】
【識別番号】514136668
【氏名又は名称】パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ
【氏名又は名称原語表記】Panasonic Intellectual Property Corporation of America
(74)【代理人】
【識別番号】110001276
【氏名又は名称】特許業務法人 小笠原特許事務所
(72)【発明者】
【氏名】シラワン ナワット
(72)【発明者】
【氏名】楠亀 弘一
【審査官】 田中 一正
(56)【参考文献】
【文献】 特開平03−269384(JP,A)
【文献】 特開平04−013036(JP,A)
【文献】 特開平09−113634(JP,A)
【文献】 特開昭64−020474(JP,A)
【文献】 特開2011−208936(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
F24F 11/63
G01J 5/48
G06T 1/00
F24F 120/10
(57)【特許請求の範囲】
【請求項1】
複数の赤外線受光素子から構成されたライン型の赤外線センサを搭載した空気調和装置が実行するセンサの制御方法であって、
前記赤外線センサを用いて、前記空気調和装置が配置された空調空間を第1の走査手法に従って走査し、第1の熱画像を取得するステップと、
対象物が存在しない空調空間の背景熱画像と前記第1の熱画像との差に基づいて、前記第1の熱画像から対象物熱画像を抽出するステップと、
前記抽出するステップで前記対象物熱画像が抽出された後に、前記赤外線センサを用いて、前記対象物熱画像に対応する領域を前記第1の走査手法に従って再走査し、再熱画像を取得するステップと、
前記第1の熱画像と前記再熱画像との間に生じた熱画像の変化を検出するステップと、
前記対象物熱画像のサイズが閾値サイズよりも小さく、かつ、前記検出するステップで検出された熱画像の変化が所定値よりも小さい場合、前記第1の走査手法とは異なる第2の走査手法を決定するステップと、
前記赤外線センサを用いて、空調空間内の前記対象物熱画像に対応する領域を前記第2の走査手法に従って走査し、第2の熱画像を取得するステップとを備える、制御方法。
【請求項2】
前記決定するステップは、前記対象物熱画像の解像度と前記空気調和装置が必要とする解像度とに基づいて前記第2の走査手法を決定する、請求項1に記載の制御方法。
【請求項3】
前記第2の走査手法は、前記第1の走査手法と走査速度が異なる、請求項2に記載の制御方法。
【請求項4】
前記第2の走査手法は、前記第1の走査手法と走査間隔が異なる、請求項2に記載の制御方法。
【請求項5】
前記抽出するステップは、前記第1の熱画像のうち、前記背景熱画像との温度差が所定の閾値温度よりも大きい画素の領域を、前記対象物熱画像として抽出する、請求項1に記載の制御方法。
【請求項6】
前記背景熱画像は、前記赤外線センサを用いて、空調空間内に存在する特定の領域に前記空気調和装置が吹き出す風を当てた状態で取得される、請求項1に記載の制御方法。
【請求項7】
前記特定の領域に対して反復した走査が行われる、請求項に記載の制御方法。
【請求項8】
前記特定の領域に対して走査の頻度が変更される、請求項に記載の制御方法。
【請求項9】
前記第2の熱画像を用いて超解像再構成処理を実行するステップをさらに備える、請求項1に記載の制御方法。
【請求項10】
前記超解像再構成処理の結果に従って、対象物に対する前記空気調和装置を介した空調制御を提供するステップをさらに備える、請求項に記載の制御方法。
【請求項11】
前記超解像再構成処理の結果に従って、対象物の状態に関する通知を行うステップをさらに備える、請求項に記載の制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、空気調和装置が実行するセンサの制御方法に関し、具体的には空気調和及び他の応用のため、赤外線センサの認識性能を高め、かつ、赤外線センサで取得された熱画像の画像解像度を高める、赤外線センサの制御スキーム及び画像処理に関する。
【背景技術】
【0002】
赤外線センサは、空気調和装置のため、空調空間内の温度環境及び人の存在を取得するのに活用されてきた。空気調和装置は、それらのデータを活用して気温、風向、風の強さ等を制御することで、その空調空間内にいる人にとって快適な空気状態を実現する。また、空気調装置は、空調空間内の火災の検出や火災を報知等の他の応用のためにそれらのデータを活用してもよい。
【0003】
赤外線センサは、その構造によって2つの種類に分類される。一方は、複数の赤外線受光素子が1列に配置されたライン赤外線センサである。本開示で述べるライン赤外線センサには、赤外線受光素子が複数の線状に配置された赤外線センサも含まれる。他方は、複数の赤外線受光素子が平面状に配置されたマトリックス赤外線センサである。本開示では、主にライン赤外線センサを用いて説明を行うが、マトリックス赤外線センサを応用してもよい。
【0004】
空調空間の熱画像を取得するために、ライン赤外線センサは、関心領域にわたって走査を行う。異なる走査角度において取得されたライン画像データは、空調空間内の対象物体又は熱事象を認識するための後画像処理用の平面画像を構築するために活用される。しかし、ライン赤外線センサ内の赤外線受光素子の数が少ないため、取得された平面画像の解像度は低い。従って、空調空間内の対象物体又は熱事象の詳細はほとんど認識できない。
【0005】
低解像度の問題を解決するため、画像処理法の一種である超解像再構成が活用される。超解像再構成は、モーション効果、ボケ効果、及びダウンサンプリング効果を含む画像デジタル化による画像劣化への対処である。画像処理と共に赤外線センサの光学的特性を活用して画像の異なる眺めを取得することで、その画像の解像度を向上することが可能である。従って、センサのコストを増加させるような赤外線センサ内の赤外線受光素子の数を増加させる必要もなく、空調空間内の対象物体又は熱事象の詳細をよく認識できる。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特許第5111417号公報
【発明の概要】
【0007】
本開示のセンサの制御方法は、複数の赤外線受光素子から構成されたライン型の赤外線センサを搭載した空気調和装置が実行するセンサの制御方法であって、
前記赤外線センサを用いて、前記空気調和装置が配置された空調空間を第1の走査手法に従って走査し、第1の熱画像を取得するステップと、
対象物が存在しない空調空間の背景熱画像と前記第1の熱画像との差に基づいて、前記第1の熱画像から対象物熱画像を抽出するステップと、
前記対象物熱画像のサイズが閾値サイズよりも小さい場合、前記第1の走査手法とは異なる第2の走査手法を決定するステップと、
前記赤外線センサを用いて、空調空間内の前記対象物熱画像に対応する領域を前記第2の走査手法に従って走査し、第2の熱画像を取得するステップとを備える。
【0008】
上述の構成により、抽出された対象物熱画像のうち閾値サイズに満たない特定の領域だけを、第2の走査手法によって再走査することが可能となる。従って、空調空間の熱画像を効率的に取得することができる。
【図面の簡単な説明】
【0009】
図1図1は、空気調和装置の概略構成の一例を示す図である。
図2図2は、図1の処理部のハードウエア構成例を示す図である。
図3図3は、空気調和装置の外観構成の一例を示す図である。
図4A図4Aは、赤外線センサの構造例1を示す図である。
図4B図4Bは、赤外線センサの構造例1を示す図である。
図5図5は、赤外線センサの走査手法を説明するための図である。
図6図6は、赤外線センサの走査スキームの一例を説明するための図である。
図7図7は、赤外線センサの走査スキームの他の一例を説明するための図である。
図8図8は、赤外線センサの走査スキームの他の一例を説明するための図である。
図9図9は、赤外線センサの走査スキームの他の一例を説明するための図である。
図10A図10Aは、赤外線センサの構造例2を示す図である。
図10B図10Bは、赤外線センサの構造例2を示す図である。
図11A図11Aは、絶縁板を有する赤外線センサの構造の一例を示す図である。
図11B図11Bは、絶縁板を有する赤外線センサの構造の一例を示す図である。
図11C図11Cは、絶縁板を通過する赤外線の様子を説明するための図である。
図11D図11Dは、絶縁板を通過する赤外線の様子を説明するための図である。
図12A図12Aは、絶縁板を傾斜させるメカニズムの一例を示す図である。
図12B図12Bは、絶縁板を傾斜させるメカニズムの一例を示す図である。
図12C図12Cは、絶縁板を傾斜させるメカニズムの一例を示す図である。
図13A図13Aは、赤外線センサを傾斜させるメカニズムの一例を示す図である。
図13B図13Bは、赤外線センサを傾斜させるメカニズムの一例を示す図である。
図14図14は、空気調和装置の前方から空調空間である部屋を眺めた様子を示す図である。
図15図15は、空気調和装置の使用事例1−1を示す図である。
図16図16は、空気調和装置の使用事例1−1を示す図である。
図17A図17Aは、空気調和装置のユーザインタフェースの一例を示す図である。
図17B図17Bは、空気調和装置のユーザインタフェースの一例を示す図である。
図18図18は、空気調和装置の使用事例1−2を示す図である。
図19図19は、空気調和装置の使用事例1−2を示す図である。
図20A図20Aは、空気調和装置のユーザインタフェースの一例を示す図である。
図20B図20Bは、空気調和装置のユーザインタフェースの一例を示す図である。
図21図21は、第1の実施形態に係る空気調和装置が実行する処理の一例を説明するフローチャートである。
図22図22は、第1の実施形態に係る空気調和装置が実行する処理の一例を説明するフローチャートである。
図23図23は、第1の実施形態に係る空気調和装置が実行する処理の一例を説明するフローチャートである。
図24図24は、空気調和装置の使用事例2−1を示す図である。
図25図25は、空気調和装置の使用事例2−1を示す図である。
図26A図26Aは、空気調和装置のユーザインタフェースの一例を示す図である。
図26B図26Bは、空気調和装置のユーザインタフェースの一例を示す図である。
図27A図27Aは、空気調和装置のユーザインタフェースの一例を示す図である。
図27B図27Bは、空気調和装置のユーザインタフェースの一例を示す図である。
図28図28は、空気調和装置の使用事例2−3を示す図である。
図29図29は、第2の実施形態に係る空気調和装置が実行する処理の一例を説明するフローチャートである。
図30図30は、第2の実施形態に係る空気調和装置が実行する処理の一例を説明するフローチャートである。
図31図31は、第2の実施形態に係る空気調和装置が実行する処理の一例を説明するフローチャートである。
図32図32は、空気調和装置の使用事例3−1を示す図である。
図33A図33Aは、空気調和装置の使用事例3−2を示す図である。
図33B図33Bは、空気調和装置の使用事例3−2を示す図である。
図34A図34Aは、第3の実施形態に係る空気調和装置が実行する処理の一例を説明するフローチャートである。
図34B図34Bは、第3の実施形態に係る空気調和装置が実行する処理の一例を説明するフローチャートである。
図35図35は、第3の実施形態に係る空気調和装置が実行する処理の一例を説明するフローチャートである。
図36図36は、空気調和装置の使用事例4−1を示す図である。
図37A図37Aは、空気調和装置のユーザインタフェースの一例を示す図である。
図37B図37Bは、空気調和装置のユーザインタフェースの一例を示す図である。
図38図38は、第4の実施形態に係る空気調和装置が実行する処理の一例を説明するフローチャートである。
図39図39は、第4の実施形態に係る空気調和装置が実行する処理の一例を説明するフローチャートである。
【発明を実施するための形態】
【0010】
以下に、添付図面を参照しつつ本技術革新の様々な実施形態を説明する。以下の記述によって本技術革新の原理は明確に理解可能である。以下の実施形態に加え、実施形態の任意の組み合わせ又は実施形態の幾つかの部分も本技術革新に適用可能である。
【0011】
まず、本発明者らが本開示に係る各態様の発明をするにあたって、検討した事項を説明する。
【0012】
(本発明の基礎となった知見)
特許文献1の先行技術やテクノロジーにおいて、垂直ライン赤外線センサを活用して空調空間全体の熱画像データを取得するために空調空間が走査される。その熱画像データは、その後超解像再構成によって空調空間全体の高解像度熱画像を再構成するのに活用される。空調空間内の領域全体の再構成された高解像度熱画像は、その後、より高い精度及び精密さで空調空間内の熱事象又は対象物体の位置や熱状態を取得するのに活用される。
【0013】
しかし、上記特許文献1による再構成された高解像度熱画像は、空調空間内の領域全体に関するもので特定の関心領域に限定されていない。従って、超解像再構成に活用された熱画像データは大き過ぎるため、再構成された高解像度熱画像の複数の部分を活用するにあたって演算コストがかかる。その結果、大きな演算負荷によって、高いエネルギー消費量と演算効率の低下につながる。さらに、空調空間内の領域全体を走査することは長時間を要するため、空気調和装置の制御処理に遅延が生じる。また、空調空間内の異なる領域に依存する可能性のある超解像再構成のアルゴリズムは柔軟性に欠ける。
【0014】
本技術革新において、トリガー事象を採用することで超解像再構成のために空調空間の特定の関心領域が識別される。その特定の関心領域の特徴に応じて、超解像再構成の必要事項やそのアルゴリズムが決定される。本技術革新の説明にて詳細に記述されるように、トリガー事象には様々な種類が存在し、それによって赤外線センサの異なる移動パターンが引き起こされる。
【0015】
上述の構成により、必要情報が要求される空調空間内の特定の関心領域においてのみ超解像再構成を行うことが可能である。従って、エネルギー消費量及び演算の効率を向上させることができ、取得された熱画像データによって空気調和装置の制御処理をより小さな遅延で実行させることができる。さらに、超解像再構成処理の柔軟性が向上し、各アプリケーションのための再構成された適切な高解像度熱画像が取得可能である。
【0016】
本開示は、複数の赤外線受光素子から構成されたライン型の赤外線センサを搭載した空気調和装置が実行するセンサの制御方法であって、赤外線センサを用いて、空気調和装置が配置された空調空間を第1の走査手法に従って走査し、第1の熱画像を取得するステップと、対象物が存在しない空調空間の背景熱画像と第1の熱画像との差に基づいて、第1の熱画像から対象物熱画像を抽出するステップと、対象物熱画像のサイズが閾値サイズよりも小さい場合、第1の走査手法とは異なる第2の走査手法を決定するステップと、赤外線センサを用いて、空調空間内の対象物熱画像に対応する領域を第2の走査手法に従って走査し、第2の熱画像を取得するステップとを備える。
【0017】
この制御により、抽出された対象物熱画像のうち閾値サイズに満たない特定の領域だけを、第2の走査手法によって再走査することが可能となる。従って、空調空間の熱画像を効率的に取得することができる。
【0018】
また、決定するステップは、対象物熱画像の解像度と空気調和装置が必要とする解像度とに基づいて第2の走査手法を決定してもよい。この場合、第2の走査手法は、第1の走査手法と走査速度が異なってもよいし、第1の走査手法と走査間隔が異なってもよい。
【0019】
この制御により、空気調和装置にとって最適な熱画像を取得することができる。
【0020】
また、抽出するステップは、第1の熱画像のうち、背景熱画像との温度差が所定の閾値温度よりも大きい画素の領域を、対象物熱画像として抽出してもよい。
【0021】
この制御により、対象物の検出精度を向上させることができる。
【0022】
また、抽出するステップで対象物熱画像が抽出された後に、赤外線センサを用いて、対象物熱画像に対応する領域を第1の走査手法に従って再走査し、再熱画像を取得するステップと、第1の熱画像と再熱画像との間に生じた熱画像の変化を検出するステップとをさらに備え、決定するステップは、検出するステップで検出された熱画像の変化が所定値よりも小さい場合に、第2の走査手法を決定してもよい。
【0023】
この制御により、移動している対象物に対して適切な制御を行うことができる。
【0024】
また、背景熱画像は、赤外線センサを用いて、空調空間内に存在する特定の領域に空気調和装置が吹き出す風を当てた状態で取得されてもよい。この特定の領域に対しては、反復した走査が行われてもよいし、走査の頻度が変更されてもよい。
【0025】
この制御により、対象物の検出精度を向上させることができる。
【0026】
また、第2の熱画像を用いて超解像再構成処理を実行するステップをさらに備えてもよい。そして、この超解像再構成処理の結果に従って、対象物に対する空気調和装置を介した空調制御を提供するステップをさらに備えてもよいし、対象物の状態に関する通知を行うステップをさらに備えてもよい。
【0027】
この制御により、空調空間の熱画像を高解像度で取得することができる。
【0028】
<空気調和装置の概要>
まず、図1図3を参照して、本開示における全ての実施形態に関わる空気調和装置100の概要を説明する。
【0029】
図1は、空気調和装置100の概略構成の一例を示す図である。図2は、図1に示す処理部800のハードウエア構成例を示す図である。図3は、空気調和装置100の外観構成の一例を示す図である。
【0030】
(1)空気調和装置の概略構成
図1に示す本開示の空気調和装置100は、ルーバ110、ファン120、エアコンプレッサ130、赤外線センサ300、温度センサ600、アクチュエータコントローラ710、リモコン720、ネットワークモジュール730、及び処理部800から構成される。赤外線センサ300の数は、1つでも複数であってもよい。破線で示される赤外線センサ300のブロックは、空気調和装置100の態様に応じて付加されても除去されてもよい赤外線センサであることを示す。
【0031】
なお、空気調和装置100は、厳密に上記説明した全ての部品から構成されなくてもよい。幾つかの部品を取り除いてよいし、新規の他の部品を加えてもよい。例えば、空気調和装置100からリモコン720を取り除いてよいし、ユーザとの対話用にスピーカ及びマイクを空気調和装置100内に設置してもよい。
【0032】
赤外線センサ300は、空気調和装置100が設置された空調空間(例えば部屋)にある対象物の熱データを取得する。赤外線センサ300は、例えばサーモパイルセンサ、焦電センサ、又はボロメータ等でもよい。温度センサ600は、空調空間の温度を取得する。温度センサ600は、例えば一般的な温度計でもよい。赤外線センサ300及び温度センサ600の両方で取得されたデータは、処理部800へ転送される。
【0033】
アクチュエータコントローラ710は、所定のアクチュエータを制御する。所定のアクチュエータは、空気調和装置100のルーバ110、ファン120、及びエアコンプレッサ130を含む。所定のアクチュエータの状況データは、アクチュエータコントローラ710によって把握され、要求に応じて処理部800に転送される。
【0034】
空気調和装置100のユーザは、リモコン720を活用して処理部800に対して指示又は要求を送信する。さらに、リモコン720は、処理部800から空気調和装置100の現在状況データを取得し、その状況をユーザに対してリモコン720が有する状況表示部721に表示する。状況表示部721は、ユーザがデータを入力したり対話したりすることを可能とする、例えばタッチセンサ式の表示部でもよい。
【0035】
ネットワークモジュール730は、空気調和装置100をローカルネットワーク又はインターネット等のネットワークに接続する。空気調和装置100内のデータは、ネットワークモジュール730を介してネットワークに転送されてもよい。さらに、ネットワーク上のデータが、ネットワークモジュール730を介して空気調和装置100に取り込まれてもよい。
【0036】
処理部800は、接続された構成からデータを取得し、プログラム又はアプリケーションに従ってそのデータを処理する。このプログラム又はアプリケーションは、ネットワークモジュール730を介して接続されたネットワーク上に保持されていてもよいし、処理部800の中に格納されていてもよい。次に、処理部800は、処理されたデータを用いて、アクチュエータコントローラ710がルーバ110、ファン120、及びエアコンプレッサ130等のアクチュエータを使用して空調空間内の空気状態を制御するための指示を決定する。例えば、空調空間の温度を取得した後、処理部800が、現在の温度とリモコン720を介してユーザが設定した要求温度とが異なることを認識した場合、処理部800は、アクチュエータコントローラ710に現在の室温と要求温度との差を出力する。アクチュエータコントローラ710は、処理部800から与えられた温度の差に応じてアクチュエータを制御する。
【0037】
さらに、処理データは、特定の対象物の熱データを取得するため、赤外線センサ300に対して与える指示を決定するために使用される。例えば、処理部800は、空調空間内に人がいない場合には、赤外線センサ300に対して、粗くかつ高速に走査するよう指示し、空調空間内に人がいる場合には、赤外線センサ300に対して、密にかつ低速に走査するように指示する。
【0038】
処理部800は、リモコン720を介してユーザからの要求を取得するだけではなく、ユーザと対話するため又はユーザに対して表示するため、様々な種類のデータをリモコン720に転送する。その様々な種類のデータとしては、空調空間内の空気状態の現在状況、ユーザの現在の熱データ、過去にわたって取得されたユーザ又は空調空間の熱データ、ネットワークモジュール730を介して接続されたネットワークから取得したデータ、アプリケーション、又はプログラム等が挙げられる。状況表示部721は、ユーザがそれらのアプリケーションやプログラムに対してデータを入力したり対話したりすることが可能な、タッチセンサ式の表示部を有するインタフェースであってもよい。
【0039】
また、処理部800は、その内部でデータを処理するだけではなく、特定の宛先にてデータを処理するために、ネットワークモジュール730を介して接続されたネットワークにデータを転送してもよい。特定の宛先は、ネットワークサーバ、分散されたコンピュータネットワーク、又はクラウド演算サービスなどであってもよい。接続されたネットワークにてデータが処理された後、処理部800は、空気調和装置100内で使用するために処理されたデータを取得してもよい。
【0040】
また、処理部800は、その内部でデータを格納するだけではなく、特定の宛先にデータを格納するために、ネットワークモジュール730を介して接続されたネットワークにデータを転送してもよい。特定の宛先は、ネットワークサーバ、分散されたネットワークストレージ、又はクラウドストレージサービスなどであってもよい。
【0041】
また、処理部800のソフトウェア及びオペレーティングシステムは、ネットワークモジュール730を介した接続されたネットワークからのデータ転送を活用してアップデートされてもよい。
【0042】
さらに、処理部800上で実行されるプログラム又はアプリケーションは、最初にインストールされたプログラム又はアプリケーションに限らず、ネットワークモジュール730を介して接続されたネットワークから新規にダウンロードされるプログラム又はアプリケーションであってもよい。ユーザは、プログラム又はアプリケーションのダウンロードを、リモコン720を介して要求してもよい。
【0043】
ユーザは、ネットワークモジュール730に接続されたネットワークを介して空気調和装置100に接続してもよい。例えば、ユーザは、スマートフォンを介して空気調和装置100のネットワークモジュール730に接続するネットワークに接続して、そのスマートフォンを空気調和装置100と通信する装置として使用してもよい。ユーザの要求を空気調和装置100に送信するためにスマートフォンを活用してもよく、空気調和装置100からデータを取得するのにスマートフォンを活用してもよい。
【0044】
(2)処理部のハードウエア構成
図2に、処理部800のハードウエア構成例を示す。図2における点線の構成は、それらの構成が処理部800の外部にあることを示しており、処理部800の内部と外部との接続を明確にするために示されている。
【0045】
処理部800は、CPU(Central Processing Unit)801、ROM(Read Only Memory)802、RAM(Random Access Memory)803、メモリストレージ804、インタフェース(図2において「I/F」と表記)820、及び母線830から構成される。
【0046】
ROM802は、処理部800の基本的動作を定義する所定のコンピュータプログラム及びデータを保持する。メモリストレージ804は、フラッシュメモリ、ソリッドステートドライブ、又はハードディスクドライブを有していてもよい。メモリストレージ804は、空気調和装置100のために他のコンピュータプログラム、アプリケーション、及びデータを保持する。メモリストレージ804内に格納されたプログラム、アプリケーション、及びデータは、ネットワークモジュール730を介して接続されたネットワーク経由で、リモコン720又はスマートフォンを介したユーザの要求に応じてアップデート又は変更されてもよい。さらに、メモリストレージ804内に格納されたプログラム、アプリケーション、及びデータは、ネットワークモジュール730を介して接続されたネットワーク内のサーバからの指示で、自動的にアップデートされてもよい。
【0047】
CPU801、ROM802、及びRAM803は、母線830に接続されている。メモリストレージ804は、インタフェース820を介して母線830と接続されている。点線で示された、赤外線センサ300、温度センサ600、アクチュエータコントローラ710、リモコン720、及びネットワークモジュール730の外部構成は、インタフェース820を介して処理部800の母線830にそれぞれ接続されている。
【0048】
CPU801は、母線830を介してROM802から基本的動作のためのコンピュータプログラムやデータを読み取り、インタフェース820及び母線830を介してメモリストレージ804から他のコンピュータプログラム、アプリケーション、及びデータを読み取る。RAM803は、CPU801が動作している間、一時的にコンピュータプログラムやデータを格納してもよい。本実施形態において、CPU801は、単一のCPUである。あるいは、処理部800として数個のCPUを活用してもよい。
【0049】
処理部800とリモコン720とは、無線信号で接続されてもよい。この場合には、例えば、処理部800とリモコン720との間に無線信号を送受信するモジュール(図示せず)が含まれていてもよい。
【0050】
外部ユニットである、赤外線センサ300、温度センサ600、アクチュエータコントローラ710、リモコン720、及びネットワークモジュール730からCPU801が取得するデータは、CPU801によって使用される前に、インタフェース820及び母線830を介してRAM803又はメモリストレージ804に転送されてもよい。
【0051】
(3)空気調和装置の外観構成
図3に、空気調和装置100の外観構成の一例を示す。図3に例示する空気調和装置100は、いわゆるエアコンであり、空気調和装置100の筐体150には、左右のルーバ110、空気吸入口140、赤外線センサ300が設けられている。
【0052】
[赤外線センサの構造例1]
図4A図4Bは、赤外線センサ300の構造の一例(構造例1)を示す図である。構造例1の赤外線センサ300は、図4Aに示すように、複数の赤外線受光素子311を有する素子体及びパンモータ312を構成に含むライン型の赤外線センサである。
【0053】
図4Bは、図4Aに示す赤外線センサ300における複数の赤外線受光素子311の拡大図である。
【0054】
複数の赤外線受光素子311は、図4Bの拡大図で示すように、2つ以上の赤外線受光素子311(図4A図4Bの例では8素子)が1列に並んだライン素子群を、素子体の表面に2つ並設して構成されている。この並設された2つのライン素子群は、素子数が等しく、また赤外線受光素子の高さ(h)の半分だけシフトさせて配置されている。この複数の赤外線受光素子311は、ボロメータ、サーモパイル、又は量子型検出素子であってもよい。量子型検出素子は、InSb検出器、HgCdTe検出器、又はInGaAs検出器であってもよい。各ライン素子群の赤外線受光素子311の数は、8つ以外の16又は32素子であってもよい。
【0055】
パンモータ312は、赤外線受光素子311が1列に並んだ方向と平行に設けられた素子体の回転軸に接続されており、回転軸を回転させることで素子体を回転させる。このパンモータ312は、複数の赤外線受光素子311を、赤外線受光素子311が1列に並んだ方向と垂直な水平方法にパンするために使用される。
【0056】
図5は、空調空間内の熱画像を取得するために行われる、図4A図4Bに示す赤外線センサ300の走査手法を説明するための図である。その走査は、パンモータ312によって赤外線センサ300を水平方向に回転させることで行われる。走査によって取得された複数のライン熱画像314は、赤外線センサ300の視野範囲方向に行われた赤外放射を反映する。
【0057】
以下で説明するように、ライン熱画像314は、異なる走査スキーム(走査手法)によって取得可能である。
【0058】
図6は、赤外線センサ300の走査スキームの一例を説明するための図である。この走査スキームでは、赤外線センサ300が2つの素子幅(2W)間隔のステップで水平に走査され、各ステップにおいてライン熱画像314が取得される。取得されたライン熱画像314は、2次元(2D)熱画像を構築するために、図6に示されるようにタイル状に配置される。この走査スキームにより構築された2次元熱画像内における最小素子のサイズは、赤外線受光素子311の1素子分のサイズを有する。
【0059】
図7は、赤外線センサ300の走査スキームの他の一例を説明するための図である。この走査スキームでは、赤外線センサ300が1つの素子幅(1W)間隔のステップで水平に走査され、各ステップにおいてライン熱画像314が取得される。この結果、取得されたライン熱画像314を、タイル状に配置した2次元熱画像は、図7に示すような走査方向と垂直な方向に重複したパターンを有している。このため、超解像再構成(SRR)によって再構成された2次元熱画像の解像度は、垂直方向に沿って2倍となる。よって、図7の走査スキームによって取得された2次元熱画像は、図6の走査スキームによって取得された2次元熱画像よりも2倍高い解像度を有する。
【0060】
図8は、赤外線センサ300の走査スキームの他の一例を説明するための図である。この走査スキームでは、赤外線センサ300が1/2素子幅(0.5W)間隔のステップで水平に走査され、各ステップにおいてライン熱画像314が取得される。この結果、取得されたライン熱画像314を、タイル状に配置した2次元熱画像は、図8に示すような走査方向(水平方向)及び走査方向と垂直な方向の双方に重複したパターンを有している。このため、超解像再構成(SRR)によって再構成された2次元熱画像の解像度は、垂直方向及び水平の両方に沿ってそれぞれ2倍となる。よって、図8の走査スキームによって取得された2次元熱画像は、図6の走査スキームによって取得された2次元熱画像よりも4倍高い解像度を有する。
【0061】
図9は、赤外線センサ300の走査スキームの他の一例を説明するための図である。この走査スキームでは、赤外線センサ300が1/4素子幅(0.25W)間隔のステップで水平に走査され、各ステップにおいてライン熱画像314が取得される。この結果、取得されたライン熱画像314を、タイル状に配置した2次元熱画像は、図9に示すような走査方向(水平方向)及び走査方向と垂直な方向の双方に重複したパターンを有している。このため、超解像再構成(SRR)によって再構成された2次元熱画像の解像度は、垂直方向に沿って2倍となり、かつ水平方向に沿って4倍となる。よって、図9の走査スキームによって取得された2次元熱画像は、図6の走査スキームによって取得された2次元熱画像よりも8倍高い解像度を有する。
【0062】
なお、上記図6図9に説明した走査スキームは例示である。2次元熱画像の異なる解像度を取得する走査スキームは、図6図9にて説明されたものに限定されない。異なる応用又は目的によっては、より細かい又はより粗い走査ステップパターン、あるいは間隙を走査するために異なる素子幅を適用してもよい。
【0063】
[赤外線センサの構造例2]
図10A図10Bは、赤外線センサ300の構造の他の一例(構造例2)を示す図である。構造例2の赤外線センサ300は、図10Aに示すように、複数の赤外線受光素子311を有する素子体及びパンモータ312を構成に含むライン型の赤外線センサである。
【0064】
図10Bは、図10Aに示す構造例2の赤外線センサ300における、複数の赤外線受光素子311の拡大図である。
【0065】
複数の赤外線受光素子311は、図10Bの拡大図で示すように、2つ以上の赤外線受光素子311(図10A図10Bの例では8素子)が1列に並んで構成されている。この複数の赤外線受光素子311の構造や数は、上記構造例1で説明した通りである。パンモータ312は、複数の赤外線受光素子311を、赤外線受光素子311が1列に並んだ方向と垂直な水平方向にパンするために使用される。
【0066】
構造例2の赤外線センサ300を上記図7図9の走査スキームに従って走査することで取得される2次元熱画像は、構造例1の赤外線センサ300で取得された2次元熱画像のように垂直方向に重複パターンを有さない。そこで、複数の赤外線受光素子311を垂直方向に沿ってシフトさせるために、例えば図11Aに示す構造が活用される。
【0067】
図11A図11Bは、絶縁板を有する赤外線センサの構造の一例を示す図である。
【0068】
図11Cは、図11Aの状態において、絶縁板350を通過する赤外線の様子を説明するための図である。
【0069】
図11Dは、図11Bの状態において、絶縁板350を通過する赤外線の様子を説明するための図である。
【0070】
図11Aの構造では、赤外線を透過可能な均一の厚みを有する絶縁板350が赤外線センサ300の前に設置される。この絶縁板350は、素子体の回転軸と直交する回転軸351を中心に任意の角度で傾斜可能である。絶縁板350の入射面が赤外線センサ300の放射面に対して平行である場合(図11A)、図11Cに示すように、絶縁板350に到達した赤外線は絶縁板350をそのまま通過(または透過)する。絶縁板350を通過した赤外線は、赤外線受光素子311に到達する。
【0071】
一方、絶縁板350の入射面が赤外線センサ300の放射面に対して傾斜している場合(図11B)、図11Dに示すように、絶縁板350に到達した赤外線は垂直方向にδだけずれて透過出力される。従って、絶縁板350を適切な角度で傾斜させることによって、取得されるライン熱画像314をシフトさせることが可能である。
【0072】
ここで、絶縁板350を傾斜させるための異なる手法を例示的に説明する。
【0073】
図12A図12Cは、それぞれ、絶縁板を傾斜させるメカニズムの一例を示す図である。
【0074】
図12Aは、絶縁板350の回転軸351にモータ313を取り付け、モータ313を回転させて絶縁板350を傾斜させる例である。
【0075】
図12Bは、絶縁板350の両端をスライディング機構で支持し、絶縁板350をスライドさせて絶縁板350を傾斜させる例である。
【0076】
図12Bで示す例では、スライディング機構は、例えば、押圧部材355a、台356、弾性部材357、台358を有する。台356は、例えば窪みを有し、断面が凹形状である。押圧部材355aは、例えば、棒状の部材を有し、この棒状の部材の一端に力を加える手段を有する。押圧部材355aの一端は、台356の壁面に固着されている。台358は、例えば窪みを有し、断面が凹形状である。弾性部材357は、例えばバネ、ゴムといった弾性変形する部材である。弾性部材357の一端は、例えば、の壁面に固着されている。
【0077】
例えば、絶縁板350の入射面が赤外線センサ300の放射面に対して平行である場合、図12Bの左側の図に示すように、絶縁板350の一方の端部は、弾性部材357と台358の壁面との間に挟まれて支持されている。また、押圧部材355aが有する棒状の部材の一端は、絶縁板350の他方の端部付近と接触している。
【0078】
この状態で、押圧部材355aが有する棒状の部材の一端に力が加えられると、絶縁板350は、回転軸351の周りを時計回りに回転する。
【0079】
このとき、絶縁板350の他方の端部は、台356の壁面に接触する位置まで移動する。
【0080】
また、絶縁板350の一方の端部は、弾性部材357を押圧した状態となる。
【0081】
このとき、絶縁板350の入射面が赤外線センサ300の放射面に対して傾斜した状態となる。この状態が、図12Bの右側に示した図である。
【0082】
また、図12Bの右側に示した状態において、押圧部材355aが有する棒状の部材の一端に加えた力をなくすと、弾性部材357の復元力により、絶縁板350は、回転軸351の周りを反時計回りに回転し、図12Bの左側に示す状態となる。
【0083】
図12Cは、絶縁板350の一方端をスライディング機構で支持し、絶縁板350をスライドさせて絶縁板350を傾斜させる例である。
【0084】
図12Cに示す例では、スライディング機構は、例えば、押圧部材355a、355b台356を有する。
【0085】
押圧部材355bは、例えば、棒状の部材を有し、この棒状の部材の一端に力を加える手段を有する。押圧部材355bの一端は、台356の壁面に固着されている。押圧部材355aと固着する台356の壁面と、押圧部材355bと固着する台356の壁面とは互いに対向する。
【0086】
例えば、絶縁板350の入射面が赤外線センサ300の放射面に対して平行である場合、図12Cの左側の図に示すように、絶縁板350の一方の端部の両側は、押圧部材355aの棒状の部材、押圧部材355bの棒状の部材に挟まれて支持されている。このとき、押圧部材355aの棒状の部材に与えられた力と、押圧部材355bの棒状の部材に与えられた力とは互いに等しい。
【0087】
次に、押圧部材355aの棒状の部材に与えられた力を押圧部材355bの棒状の部材に与えられた力よりも大きくすると、絶縁板350は、回転軸351の周りを時計回りに回転する。このとき、絶縁板350の入射面が赤外線センサ300の放射面に対して傾斜した状態となる。この状態を示す図が、図12Cの中央に示す図である。
【0088】
次に、押圧部材355aの棒状の部材に与えられた力を押圧部材355bの棒状の部材に与えられた力よりも更に大きくすると、絶縁板350は、回転軸351の周りを更に時計回りに回転する。このとき、絶縁板350の入射面が赤外線センサ300の放射面に対して更に傾斜した状態となる。この状態を示す図が、図12Cの右側に示す図である。
【0089】
また、図12Cの右側に示すような状態において、押圧部材355aの棒状の部材に与えられた力を押圧部材355bの棒状の部材に与えられた力を小さくしていくと、絶縁板350は、回転軸351の周りを更に反時計回りに回転し、図12Cの中央に示すような状態となる。
【0090】
また、図12Cの中央に示すような状態において、押圧部材355aの棒状の部材に与えられた力を押圧部材355bの棒状の部材に与えられた力を等しくなるように小さくしていくと、絶縁板350は、回転軸351の周りを更に反時計回りに回転し、図12Cの左側に示すような状態となる。
【0091】
また、絶縁板350を用いない赤外線センサ300に関しては、次のような構造が考えられる。図13A図13Bは、赤外線センサ300を傾斜させるメカニズムの一例を示す図である。図13Aは、構造例2の赤外線センサ300の筐体にチルトモータ313を取り付け、チルトモータ313を回転させて複数の赤外線受光素子311を垂直方向に傾斜させる例である。なお、図13Bのように、構造例1の赤外線センサ300の筐体にチルトモータ313を取り付け、チルトモータ313を回転させて複数の赤外線受光素子311を垂直方向に傾斜させても構わない。
【0092】
上述構造によって、垂直方向及び水平方向の双方に重複部分を有する2次元熱画像を取得することが可能であるため、超解像再構成によって垂直及び水平解像度の両方を増加させることが可能である。もちろん、上述した図6図9の走査スキームを、絶縁板350を有する赤外線センサ300に対して適用することも可能である。
【0093】
<空気調和装置による制御方法>
以下、上述した構造を有する空気調和装置100によって実現される特徴的なセンサの制御方法を、図面をさらに参照して説明する。
【0094】
図14は、空気調和装置100の前方から空調空間である部屋を眺めた様子を示す図である。図14に示すように、空気調和装置100は、部屋の熱データを取得するために、赤外線センサ300を用いて部屋を走査し、様々な位置におけるライン熱画像314を取得する。なお、図14では、空気調和装置100を図示していないが、空気調和装置100は、例えば、後に説明をする図32図33A図33B等で示した位置と同様の位置にある。
【0095】
なお、以下の各実施形態では、内容の理解を容易にするために、空気調和装置100が構造例2の赤外線センサ300を搭載しており、この赤外線センサ300によって取得されるライン熱画像314が1列のライン画像である場合を説明している。しかし、空気調和装置100が構造例1の赤外線センサ300を搭載する場合には、赤外線センサ300によって2列のライン画像によるライン熱画像314が取得されることとなる。
【0096】
(1)第1の実施形態
第1の実施形態に係る空気調和装置100が実行するセンサの制御方法(赤外線センサ300に行わせる走査スキームの決定方法)を、使用事例を用いて具体的に説明する。
【0097】
[使用事例1−1]
図15及び図16は、空気調和装置の使用事例1−1を説明するための図である。具体的には、図15及び図16は、使用事例1−1における、空気調和装置100の前方から部屋を眺めた様子を示す図である。この使用事例1−1は、部屋の中に2人の人物がいる例である。第1人物201は、第2人物202よりも空気調和装置100の近くにおり、第2人物202は、第1人物201よりも空気調和装置100から離れた位置にいる。なお、図15、及び図16では、空気調和装置100を図示していないが、空気調和装置100は、例えば、後に説明をする図32図33A図33B等で示した位置と同様の位置にある。
【0098】
空気調和装置100は、例えば部屋全体の熱データを取得するために部屋を粗く走査する(第1の走査手法)。空気調和装置100は、人物の熱画像(対象物熱画像)と人物が存在しない場所の熱画像(背景熱画像)とを区別するために、バックグラウンド減算法を用いて2人の存在を検出してもよい。バックグラウンド減算法は、まず部屋の中に人がいないときの熱画像を登録しておいて、現在の熱画像からその登録された熱画像を減算することで行われる。例えば、現在の熱画像の画素の値から対応する登録された熱画像の画素の値の減算値(または減算値の絶対値)が所定の値よりも大きければ、背景熱画像とは異なる画素(つまり対象物熱画像を構成する画素)であると判断する。この減算によって得られる背景熱画像とは異なる部分が対象物熱画像となる。対象物熱画像が検出された後、対象物熱画像のサイズが取得される。なお、対象物熱画像のサイズは、対象物熱画像を構成する画素数と同義である。
【0099】
対象物熱画像のサイズが予め定めたサイズ(閾値サイズ)以下の場合、対象物熱画像に対して超解像再構成の処理が行われる。この閾値は、処理部800が実行しているアプリケーションが必要とする解像度に従って設定される画像のサイズである。超解像再構成の処理が行われると決定された場合、対象物熱画像の現在の解像度と実行中のアプリケーションに依存する期待解像度とによって走査スキーム(第2の走査手法)が決定される。対象物熱画像の走査スキームが決定した後、赤外線センサ300が決定した走査スキームを用いて対象物熱画像によって特定された対象領域を再走査する。その後、超解像再構成の処理が行われ、対象領域の熱画像について向上した解像度が得られる。
【0100】
一方、対象物熱画像のサイズが閾値サイズよりも大きい場合、対象物熱画像に対して超解像再構成の処理は行われない。
【0101】
図16は、第1人物201及び第2人物202の熱画像を取得するための超解像再構成の異なる走査スキームを説明する図である。第2人物202は空気調和装置100から離れた位置にいるため、赤外線センサ300による粗い走査によって取得された第2人物202の熱画像の解像度は、同じ走査によって取得された第1人物201の熱画像の解像度よりも低い。従って、第1人物201と第2人物202とで、熱画像のための超解像再構成の走査スキームは異なっているべきである。第2人物202の熱画像を取得するための走査スキームは、第1人物201の熱画像を取得するための走査スキームと比べてより細かい走査のステップを有していてもよい。
【0102】
一方、第1人物201の熱画像のサイズが閾値サイズよりも大きく、粗い走査によって取得された第1人物201の熱画像が適切な解像度を有している場合、第1人物201の領域の再走査は行われない。
【0103】
図17Aおよび図17Bは、それぞれ、部屋の中の関心領域と各領域の取得された熱データの質とを示すユーザインタフェース例を示す図である。具体的には、図17Aは、空気調和装置100を操作するリモコン720の一例を示す図、図17Bは、ネットワークを介して空気調和装置100を操作する携帯電話722の一例を示す図である。
【0104】
ユーザインタフェースとは、例えば、リモコン720が備える表示画面または携帯電話722が備える表示画面に表示される情報を例に説明をする。これらの表示画面には、例えば、空気調和装置100において処理された結果に基づく情報が表示される。
【0105】
また、リモコン720が、または携帯電話722が図示しないスピーカを備える場合、ユーザインタフェースは、スピーカから出力される音声であっても良い。リモコン720、または携帯電話722が備える図示しないスピーカは、例えば、空気調和装置100において処理された結果に対する情報を音声として出力される。
【0106】
図15及び図16において説明される使用事例1−1においては、第1人物201及び第2人物202が存在する領域が関心領域である。
【0107】
例えば、図17Aおよび図17Bの領域R201は第1人物201の領域を表しており、領域R201に付された丸印は関心領域内の熱データが良好に取得されたことを示唆している。また例えば、図17Aおよび図17Bの領域R202は第2人物202の領域を表しており、領域R202に付された疑問符は関心領域内の熱データが現在取得中であること又は適切に取得されなかったことを示唆している。そのデータは、リモコン720を介してユーザに表示されてもよいし、又はネットワークモジュール730を介して接続されたネットワーク、そしてユーザの携帯電話722への表示用に送信されてもよい。
【0108】
[使用事例1−2]
図18及び図19は、空気調和装置100の使用事例1−2を示す図である。具体的には、図18及び図19は、使用事例1−2における、空気調和装置100の前方から部屋を眺めた様子を示す図である。この使用事例1−2は、部屋の中で火災が発生している場合(図18)や、熱いコーヒーカップ又はアイロン等の高温物体が部屋の中で使用されている場合(図19)の例である。なお、図18、及び図19では、空気調和装置100を図示していないが、空気調和装置100は、例えば、後に説明をする図32図33A図33B等で示した位置と同様の位置にある。
【0109】
多くの場合、初期の火災場所や高温物体のサイズは人体の大きさと比較して小さい。従って、それらの熱画像の解像度が高いこと及びそれらの熱データの精度が高いことは重要であり、超解像再構成が必要となる。火災を検出する場合、火災がひどくなる前に消火できるように、空気調和装置100は火災警報の通知をユーザに送信してもよい。火災警報の通知は、空気調和装置100に設置されたスピーカを介した音声通知でもよいし、又は携帯電話722での通知等の他の方法によってユーザに通知するため、ネットワークモジュール730を介して接続されたネットワークに信号が送信されてもよい。高温物体の場合、幾つかのアプリケーションを適用してもよい。
【0110】
部屋の中で小型高温物体を検出するために、空気調和装置100は、例えば最初に部屋全体の熱データを取得するために部屋を粗く走査する。そして、バックグラウンド減算法により、小型高温物体の対象物熱画像が取得される。小型高温物体の対象物熱画像のサイズが閾値サイズよりも小さい場合、超解像再構成の処理が行われる。
【0111】
従って、超解像再構成の走査スキーム(第2の走査手法)は、対象物熱画像の現在の解像度と実行中のアプリケーションに依存する期待解像度によって決定される。対象物熱画像の現在の解像度が期待解像度よりもずっと小さい場合、より細かい走査ステップが必要となる。
【0112】
特に、対象物熱画像のサイズが1〜9ピクセル等と小さ過ぎる場合、赤外線センサ300によるガウスサーマルノイズの効果を減少させるべく、同じ位置の熱データの時間平均を可能にするために、赤外線センサ300が同じ位置でしばらく停止できるよう、決定された走査スキームの走査速度は遅くあるべきである。
【0113】
対象物熱画像の走査スキームと速度とが決定した後、赤外線センサ300が決定した走査スキームを用いて対象物熱画像によって特定された対象領域を再走査する。その後、超解像再構成の処理が行われ、高温物体の熱画像について向上した解像度が得られる。高温物体の再構成熱画像が取得された後、画像内の最高温度と火災の発生を示す閾値温度とが比較される。
【0114】
画像内の最高温度が閾値温度よりも高い場合、空気調和装置100は、高温物体が火災箇所であると推定し、ユーザに対して火災警報の通知が送信される。火災警報の通知は、様々な異なる形式であってもよい。例えば、空気調和装置100は、ユーザに警報を伝えるために付属のスピーカを介して大きな音声を発生させてもよい。空気調和装置100は、ネットワークモジュール730を介して接続されたネットワークに警報を送信して、そのネットワークに接続しているユーザが遠隔地でその警報を受信できるようにしてもよい。
【0115】
図20A図20Bは、それぞれ、空気調和装置100のユーザインタフェースの一例を示す図である。具体的には、図20A図20Bは、それぞれ、ネットワークを介して空気調和装置100を操作する携帯電話722の一例を示す図である。
【0116】
図20Aは、ユーザの携帯電話722宛に送信された警報を表示しているユーザインタフェース例である。携帯電話722は、空気調和装置100からネットワークを介して警報を受信する。図20Aに示すように、警報画面には、空気調和装置100によって火災が発生していると予測する領域の位置が表示されてもよい。さらに、画面には、ユーザが既に警報を受け取ったか確認するため、ユーザのフィードバックが含まれていてもよい。図20Aにおいて、火災領域の表示の下に例示的なフィードバックが表示されている。ユーザからのフィードバックは、次に接続されたネットワークを介して空気調和装置100に送信される。
【0117】
一方、画像内の最高温度が閾値温度以下の場合、空気調和装置100は、その高温物体が火災ではないと推定する。この場合、検出後の動作はアプリケーションプログラムに依存してもよい。例えば、空気調和装置100は、ユーザに対して、人がいない部屋で家電機器が動作していて発熱している状況かもしれないことを知らせる通知を送信してもよい。それによって、携帯電話722からの通知を確認したユーザは安全面と経済面の観点からその機器の電源を切るために部屋に戻ることが可能である。例示的なユーザインタフェースは、図20Bに示すようなものでもよい。
【0118】
[本実施形態にて実行される処理例]
図21は、処理部800が行う処理の一例を説明するフローチャートである。図21では、処理部800が部屋内を監視し、監視によって検出された内容に基づいて、空気調和、火災報知、及び熱した物体について通知する等の異なる種類のアプリケーションに応じた処理を実行する場合を説明している。使用事例1−1及び1−2における処理部800の動作は、図21のフローチャートによって体系的に説明できる。なお、図21のフローチャートは例示に過ぎない。そのため、処理部800は、図21のステップに加えて様々な補助ステップを実行してもよい。
【0119】
ステップS110において、処理部800は、部屋における現在の熱データを取得し、背景の熱データと比較した場合の現在の熱データを解析して、背景熱画像と背景熱画像内に含まれる対象物熱画像とを区別する。背景の熱データは、部屋の中に人物がいないときに集めてもよいし、部屋の熱データに関する統計に応じて決定されてもよい。背景の熱データは、ブラインドアップデート(blind update)又は選択的アップデート(selective update)等の様々な方法によってアップデートされてもよい。このステップS110の出力は、検出された対象物である。その後、ステップS120が実行される。
【0120】
ステップS120において、処理部800は、ステップS110の結果に基づいて、背景熱画像と区別される対象物熱画像が取得できたか否か、つまり部屋の中に対象物が存在するかどうかを確認する。対象物が存在しない場合、処理部800は、現在の熱データを用いて背景の熱データをアップデートし、再びステップS110の処理を実行する。対象物が存在する場合、ステップS130が実行される。
【0121】
ステップS130において、処理部800は、取得された対象物熱画像のサイズが、処理部800が実行している各アプリケーションが必要とする解像度に従って設定される閾値サイズよりも大きいかどうかを決定する。対象物熱画像のサイズが閾値サイズよりも大きい場合(ステップS130、Yes)、対象物熱画像の解像度は十分であり、超解像再構成は不要と判定される。一方、対象物熱画像のサイズが閾値サイズ以下の場合(ステップS130、No)、対象物熱画像の解像度は不十分であり、超解像再構成が必要と判断される。そのため、処理部800はステップS140へと進む。
【0122】
ステップS140において、現在の解像度と、処理部800が実行している各アプリケーションによって設定される期待解像度とによって、超解像再構成のための走査スキーム(第2の走査手法)が決定される。例えば、期待解像度が現在の解像度より高い場合、より密な走査ステップを有する走査スキームが選択され、期待解像度が現在の解像度より低い場合、通常の走査ステップを有する走査スキームが選択される。その後、ステップS150が実行される。
【0123】
ステップS150において、対象物熱画像のサイズに応じて、超解像再構成の走査速度が決定される。例えば、対象物熱画像のサイズが9ピクセル以下の場合は、走査速度は登録された通常の速度よりも遅く設定され、対象物熱画像のサイズが9ピクセルを超える場合は、走査速度は通常の走査速度と同じかそれより速く設定される。走査速度を決定するために使用される対象物熱画像のサイズは、処理部800が実行している各アプリケーションに応じて設定されてもよい。
【0124】
ステップS160において、処理部800は、赤外線センサ300に指示を与え、ステップS140及びS150にて決定された走査スキームと走査速度とによって、検出された対象物熱画像によって特定された領域を再走査させる。走査の処理が完了後、ステップS170が実行される。
【0125】
ステップS170において、処理部800は、ステップS160における走査から得られたデータトークンを使用して超解像再構成を演算する。このステップS170が完了すれば、より高い解像度を有する再構成された対象物熱画像が得られる。ステップS170が適切に実行された後、処理は終了する。
【0126】
なお、処理部800によって、複数の対象物熱画像が検出されてもよい。この場合、超解像再構成の処理は、複数の対象物熱画像の各々に対して個別に上述した処理ステップが実行される。
【0127】
図22は、図21のステップS110の詳細な処理の一例を説明するフローチャートである。なお、図22のフローチャートは例示に過ぎない。そのため、処理部800は、図22のステップに加えて様々な補助ステップを実行してもよい。
【0128】
ステップS111において、処理部800は、減算によって背景の熱データに対する現在の熱データの温度差を演算する。その後、ステップS112が実行される。ステップS112において、処理部800は、ステップS111で演算された温度差の絶対値が対象物検出用の閾値温度よりも高いかどうか決定する。温度差が閾値温度よりも高い場合、ステップS113において、温度差を有している領域は対象物であると判定される。温度差が閾値温度以下の場合、ステップS114において、温度差を有している領域は対象物でない、つまり背景であると判定される。
【0129】
上述した図21及び図22に示すフローチャートに基づいた処理によって得られた対象物熱画像は、アプリケーションに応じた処理に利用される。例えば、部屋の空気調和のアプリケーションであれば、ルーバ110、ファン120、及びエアコンプレッサ130等を制御し、火災報知や熱い物体の通知のアプリケーションであれば、ユーザに知らせる動作を行う。
【0130】
図23は、火災報知のアプリケーションにおける動作の一例を説明するフローチャートである。図21及び図22に示すフローチャートによって対象物熱画像が得られると、部屋の中で火災が発生しているか否かを評価する。この評価は、対象物熱画像内の最大温度が火災検出アプリケーションで設定される閾値温度よりも高いか否かで行われる(ステップS210)。対象物熱画像内の最大温度が閾値温度よりも高い場合に、火災警報の通知がユーザ及び空気調和装置100に送信される(ステップS220)。
【0131】
処理部800は、この処理を終了する前に、ユーザがその通知を受け取ったというフィードバックの受信を待ってもよい。ユーザが通知を受け取ったというフィードバックがユーザから得られない場合、処理部800は、所定時間の経過後に通知を再送信してもよいし、所定時間の経過後に処理は終了してもよい。
【0132】
なお、図23で示した処理は、図21のステップS110において背景熱画像と背景熱画像内に含まれる対象物熱画像とを区別することなく、背景熱画像の全体について実行してもよい。
【0133】
上述した第1の実施形態には、2つの主たる使用事例があることを考慮すべきである。使用事例1−1は、異なるサイズの熱画像を有する複数の物体の解像度を高めることに焦点が置かれている。使用事例1−2は、火災や熱した機器等の小型で高温の物体を検出することに焦点が置かれている。
【0134】
使用事例1−1において重要な点は、対象物熱画像のサイズが特定のアプリケーションにとっての十分な解像度に適合するように、図21のステップS140における赤外線センサ300の適切な走査スキーム(第2の走査手法)を決定することである。この場合、超解像再構成のトリガーは、対象物熱画像のサイズであると結論付けられる。トリガーに応じて、赤外線センサ300は、図6図9に示す走査スキーム又はその他の走査スキームで走査してもよい。図17A図17Bに示すように、走査(検出)の質をユーザに提供してもよい。
【0135】
使用事例1−2において重要な点は、図21のステップS140における赤外線センサ300の適切な走査スキーム(第2の走査手法)を決定することと、図21のステップS150における赤外線センサ300の適切な走査速度を決定することである。その理由は、この使用事例1−2における大部分の対象物は小型であり、ノイズ削減のアルゴリズムのために低い走査速度が必要だからである。超解像再構成のトリガーは、小型で熱を発するスポットの対象物検出の事象であると結論付けられる。トリガーに応じて、赤外線センサ300の走査速度と走査スキームが調整される。実行中のアプリケーションは、図20にて例示されているような異なる種類のユーザインタフェースをユーザに送信してもよい。
【0136】
[本実施形態による処理の利点]
なお、本開示における異なるトリガーに応じて熱画像の解像度を改善するために超解像再構成を行う決定は、従来の技術と比べて以下のように利点がある。
【0137】
1)少ない遅延時間:超解像再構成を特定の領域のみで行うことにより、全領域にわたって超解像再構成を行う従来のスキームと比較して、部屋データを取得する処理時間を削減可能である。これは、超解像再構成による走査スキームが通常の走査スキームよりも遅いことにも起因する。
【0138】
2)効率的な演算力の活用:これは、超解像再構成が特定の関心領域のみにおいて行われると指定されてことで実現する。再構成された画像の一部だけが使用されるにもかかわらず部屋の領域の全体に対して超解像再構成が行われる場合に比べて、演算の負荷が低くなる。
【0139】
3)適応的向上:超解像再構成の処理に活用されるデータを収集するための走査スキームは、各領域の期待解像度と元の解像度とによって特定される。そのため、解像度の向上は適応的に行われる。
【0140】
4)高い精度:サイズが小さい対象物がある場合、走査の速度や赤外線センサが各走査位置で停止する時間は、サイズが大きな物体の場合と異なっているべきである。対象物の特徴によって決定される走査速度や停止時間は、各アプリケーションが要求する良好な精度を可能にする。
【0141】
(2)第2の実施形態
第2の実施形態に係る空気調和装置100が実行するセンサの制御方法(赤外線センサ300に行わせる走査スキームの決定方法)を、使用事例を用いて説明する。
【0142】
[使用事例2−1]
図24及び図25は、空気調和装置の使用事例2−1を示す図である。具体的には、図24及び図25は、使用事例2−1における、空気調和装置100の前方から部屋を眺めた様子を示す図である。この使用事例2−1は、部屋の中に2人の人物がいる例である。第1人物201は静止しており、第2人物202は移動している。なお、図24、及び図25では、空気調和装置100を図示していないが、空気調和装置100は、例えば、後に説明をする図32図33A図33B等で示した位置と同様の位置にある。
【0143】
空気調和装置100は、例えば部屋全体の熱データを取得するために部屋を粗くに走査する。空気調和装置100は、背景熱画像とこれら2人の対象物熱画像とを区別するために、バックグラウンド減算法を用いて2人の存在を検出してもよい。超解像再構成が必要かどうかを決定する前に、各対象物熱画像の動きの調査を行うべきである。その理由は、その動きが、特にリアルタイム2次元熱画像を取得できないライン型の赤外線センサを活用するシステムにおいて、超解像再構成の処理にエラーを容易に引き起こすためである。その動きは、検出された対象物熱画像の領域上とその回りを高速に再走査することによって調査される。
【0144】
図24に示すように、対象領域の動きとその動きの方向を調査するために、再走査の領域は検出された対象物熱画像の領域より広くてもよい。対象物の動きは、第1の走査で収集された熱画像(第1の熱画像)と領域を再走査した際に収集された他の熱画像(第2の熱画像)とを比較することで決定される。走査時と再走査時との間で対象領域熱画像の変化が小さい場合、対象物は静止物体であると決定される。対象物が静止している場合に、超解像再構成が必要であるかどうかが決定される。対象物が動いている場合には、超解像再構成の処理は行われない。超解像再構成の必要事項を決定する前に、対象物熱画像のサイズが取得される。
【0145】
対象物熱画像のサイズが閾値サイズ以下の場合、超解対象物熱画像に対して像再構成の処理が行われる。超解像再構成の処理が行われると決定された場合、対象物熱画像の現在の解像度と実行中のアプリケーションに依存する期待解像度とによって走査スキーム(第2の走査手法)が決定される。対象物熱画像の走査スキームが決定した後、赤外線センサ300が決定された走査スキームを用いて対象物熱画像によって特定された対象領域を再走査する。その後、超解像再構成の処理が行われ、向上した解像度が対象領域の熱画像について得られる。対象物熱画像のサイズが閾値サイズよりも大きい場合、超解像再構成の処理は行われない。
【0146】
図25は、動き調査後の超解像再構成の実行状態を示す図である。図25は、第1人物201が座って静止している、又は比較的小さな動きをしている領域にわたって、超解像再構成の処理が行われることを示す。一方、第2人物202が早く移動している領域に対しては超解像再構成の処理が行われない。
【0147】
図26A図26Bは、空気調和装置100のユーザインタフェースの一例を示す図である。
【0148】
具体的には、図26A図26Bは、部屋の中の関心領域と各領域の取得された熱データの質を示すユーザインタフェースの一例を示す図である。
【0149】
より具体的には、図26Aは、空気調和装置100を操作するリモコンの一例を示す図、図26Bは、空気調和装置100とネットワークを介して接続する携帯電話722の一例を示す図である。
【0150】
ユーザインタフェースには、各領域における移動の方向等の移動データが表示されてもよい。図24及び図25にて説明される使用事例2−1においては、第1人物201及び第2人物202が存在する領域が関心領域である。例えば、図26A図26Bの領域R201は第1人物201の領域を表しており、領域R201に付された丸印は関心領域内の熱データが良好に取得されたことを示唆している。また例えば、図26A図26Bの領域R202は第2人物202の領域を表しており、領域R202に付された三角印は関心領域の熱データが丸印の領域と比較して低い質で取得されたことを示唆している。さらに、領域R202は、領域中の対象物の動きの方向を表示する矢印を有していてもよい。そのデータは、リモコン720を介してユーザに表示されてもよいし、又はネットワークモジュール730を介して接続されたネットワーク、そしてユーザの携帯電話722に表示されるために送信されてもよい。
【0151】
[使用事例2−2]
図27Aは、空気調和装置100のユーザインタフェースの一例を示す図である。ユーザが空気調和装置100のアプリケーションの実行を要求し、そのアプリケーションが超解像再構成を必要とした場合、空気調和装置100は、図27Aに示すようなリモコン720等のユーザインタフェースを介して、超解像再構成による走査処理のために人物(ユーザなど)に静止するように要求してもよい。図27Aの紙面左側に示す図では、例えば、リモコン720の表示画面に「静止してください」というメッセージが表示されることにより、人物(ユーザなど)に静止するように要求している。
【0152】
その要求が人物に送信された後、確認のために人物の動きを調査すべきである。人物がまだ静止していない場合、空気調和装置100は、人物が静止していると確認できるまで人物に対して再度要求してもよい。人物が静止していると確認された場合、超解像再構成の処理が行われる。
【0153】
そして、空気調和装置100のアプリケーションが超解像再構成の処理を完了した場合、空気調和装置100は、リモコン720等のユーザインタフェースを介してアプリケーションが超解像再構成の処理が完了したことを通知する。
【0154】
図27Aの紙面右側に示す図では、例えば、リモコン720の表示画面に「操作処理完了しました。くつろいでください!」というメッセージが表示されることにより、人物(ユーザなど)に、アプリケーションによる超解像再構成の処理が完了したことを通知する。
【0155】
図27Bは、空気調和装置100の他のユーザインタフェースの一例を示す図である。空気調和装置100が複数の対象物熱画像を発見し、ユーザが超解像再構成を必要とするアプリケーションを実行するように要求した場合、ユーザは、リモコン720またはネットワークを介して空気調和装置100と接続している携帯電話722等のユーザインタフェースを通して、検出された対象物熱画像の中から特定の対象物熱画像を識別してもよい。図27Bにおいて、対象物熱画像の中央にある指示矢印は、アプリケーションのためにユーザがその領域を対象領域として選択したことを意味する。
【0156】
[使用事例2−3]
図28は、空気調和装置100の使用事例2−3を示す図である。具体的には、図28は、使用事例2−3における、空気調和装置100の前方から部屋を眺めた様子を示す図である。この使用事例2−3は、最初の部屋の中には、静止している第1人物201と第2人物202の2人しかおらず、その後に第3人物203が部屋に入室した例である。なお、図28では、空気調和装置100を図示していないが、空気調和装置100は、例えば、後に説明をする図32図33A図33B等で示した位置と同様の位置にある。
【0157】
超解像再構成の際に動きによってエラーが生じるのを防止する前述のアルゴリズムによって、空気調和装置100は第1人物201と第2人物202が存在する両方の領域に対して超解像再構成の処理を行うことを決定する。再走査の処理が行われている途中に、第3人物203が部屋に入室したため、空気調和装置100は、再走査した熱画像データから、第2人物202の領域の再走査において突然の変化が生じたことを発見する。その結果、空気調和装置100は、超解像再構成の処理にエラーが生じるのを防止するため、第2人物202の対象物熱画像に対する超解像再構成の処理を停止する。
【0158】
空気調和装置100内の処理部800は、その人工知能によって、ドアが位置している図28内の領域等のような部屋の中の領域において、突然の変化が高頻度で起きることを学習していてもよい。そのため、超解像再構成を実行する対象領域が複数存在する場合、突然の変化が高頻度である領域から遠い領域ほど超解像再構成による再走査の優先度が高く設定される。
【0159】
[本実施形態にて実行される処理例]
図29は、第2の実施形態に係る空気調和装置100が実行する処理の一例を説明するフローチャートである。具体的には、図29は、処理部800が行う処理の一例を説明するフローチャートである。図29では、処理部800が部屋内を監視し、監視によって検出された内容に基づいて、自動気温設定等の異なる種類のアプリケーションに応じた処理を実行する場合を説明している。図29のフローチャートは、超解像再構成のための再走査処理が行われている間の物体の動きによるエラーを防止する処理も含む。使用事例2−1による処理部800の動作は、図29のフローチャートによって体系的に説明できる。なお、図29のフローチャートは例示に過ぎない。そのため、処理部800は、図29のステップに加えて様々な補助ステップを実行してもよい。
【0160】
図29におけるステップS110及びステップS140〜ステップS170の処理は、第1の実施形態において図21を参照して説明したステップと同じである。よって、ステップS110及びステップS140〜ステップS170の処理の説明は、第2の実施形態にも適用される。
【0161】
図29のフローチャートにおいて、処理部800は、図21のステップS120とステップS130のそれぞれの代わりに、ステップS120AとステップS130Aを実行する。また、ステップS121とステップS122がさらに加えられている。
【0162】
ステップS120Aにおいて、処理部800は、ステップS110の結果に基づいて、背景熱画像と区別される対象物熱画像が取得できたか否か、つまり部屋の中に対象物が存在するかどうか検出処理を行う。対象物が存在しない場合、処理部800は、現在の熱データを用いて背景の熱データをアップデートし、再びステップS110の処理を実行する。対象物が存在する場合、ステップS121が実行される。
【0163】
ステップS121において、対象物熱画像の動きは、ステップS110で検出された対象物熱画像の領域上とその回りを高速に再走査することによって調査される。対象物の動きは、第1の走査で収集された熱画像と領域を再走査した際に収集された他の熱画像とを比較することで決定される。第1の走査時と再走査時との間で対象領域の変化が小さい場合、対象物が静止物体であると決定される。その後、ステップS122が実行される。
【0164】
ステップS122では、対象物が静止物体であるか否かが判断される。対象物が完全に停止している場合以外に、対象物の動きが予め定めた量より少ない場合にも、対象物が静止物体であると判断されてもよい。対象物が静止物体であると判断された場合、ステップS130Aへ進む。それ以外の場合は処理が終了する。
【0165】
ステップS130Aにおいて、処理部800は、対象物熱画像のサイズが、処理部800が実行している各アプリケーションが必要とする解像度に応じて設定される閾値サイズよりも大きいかどうかを決定する。対象物熱画像のサイズが閾値サイズよりも大きい場合、前景熱画像の解像度は十分であり、超解像再構成は不要と判定される。対象物熱画像のサイズが閾値サイズ以下の場合、対象物熱画像の解像度は不十分であり、超解像再構成が必要と判定される。そのため、処理部800はステップS140へと進む。以降は、図21で説明したステップS140〜S170の処理が実行される。
【0166】
図30は、第2の実施形態に係る空気調和装置100が実行する処理の一例を説明するフローチャートである。具体的には、図30は、処理部800が行う他の処理の一例を説明するフローチャートである。図30では、空気調和装置100のユーザによって超解像再構成が必要なアプリケーションが要求された場合を説明している。使用事例2−2による処理部800の動作は、図30のフローチャートによって体系的に説明できる。なお、図30のフローチャートは例示に過ぎない。そのため、処理部800は、図30のステップに加えて様々な補助ステップを実行してもよい。
【0167】
図30におけるステップS150〜ステップS170の処理は、第1の実施形態において図21を参照して説明したステップと同じである。よって、ステップS150〜ステップS170の処理の説明は、第2の実施形態にも適用される。
【0168】
図30のフローチャートにおいて、処理部800は、図21のステップS140の代わりにステップS140Aを実行する。図21のステップS110〜ステップS130の処理は削除され、新たにステップS101〜ステップS103の処理が加えられている。
【0169】
ステップS101において、超解像再構成が必要な特定のアプリケーションを実行する要求をユーザから受信した後、処理部800は、人物(ユーザなど)に対して静止するように依頼する要求を、ユーザの携帯電話又はリモコン720等のユーザインタフェース装置を通して行う。これは、対象物の動きによって超解像再構成の処理にエラーが生じるのを防止する目的で行われる。その後、ステップS102が実行される。
【0170】
なお、処理が開始される前に対象物熱画像は既に取得される。部屋の中に複数の人物がいることによって複数の対象物熱画像が検出された場合、ユーザインタフェース装置を持っているユーザがアプリケーションの対象ユーザを特定してもよい。
【0171】
ステップS102において、対象ユーザの対象物熱画像の動きは、対象物熱画像の領域上とその回りを高速に再走査することによって調査される。その後、ステップS103が実行される。
【0172】
ステップS103では、対象物が静止物体であるか否かが判断される。対象物が完全に停止している場合以外に、対象物の動きが予め定めた量より少ない場合にも、対象物が静止物体であると判断されてもよい。対象物が静止物体であるかと判断された場合、ステップS140Aへ進む。それ以外の場合は、処理はステップS101へと戻る。
【0173】
ステップS140Aにおいて、現在の解像度と、処理部800が実行している各アプリケーションによって設定される期待解像度とによって、超解像再構成のための走査スキーム(第2の走査手法)が決定される。例えば、期待解像度が現在の解像度より高い場合、より密な走査ステップを有する走査スキームが選択され、期待解像度が現在の解像度より低い場合、通常の走査ステップを有する走査スキームが選択される。その後、以降は、図21で説明したステップS150〜S170の処理が実行される。
【0174】
図31は、第2の実施形態に係る空気調和装置100が実行する処理の一例を説明するフローチャートである。具体的には、図31は、処理部800が行う処理の一例を説明するフローチャートである。図31では、処理部800が部屋内を監視し、監視によって検出された内容に基づいて、自動気温設定等の異なる種類のアプリケーションに応じた処理を実行する場合を説明している。図31のフローチャートは、超解像再構成の再走査処理の間の物体の動きによるエラーを防止するための処理が含まれる。物体の動きは、物体そのものの動き、あるいは物体の回りの背景熱画像の変化であってもよい。使用事例2−3による処理部800の動作は、図31のフローチャートによって体系的に説明できる。なお、図31のフローチャートは例示に過ぎない。そのため、処理部800は、図31のステップに加えて様々な補助ステップを実行してもよい。
【0175】
図31におけるステップS110〜ステップS150の処理は、図29を参照して説明されたステップと同じである。よって、図29のステップS110〜ステップS150の処理の説明は、図31にも適用される。
【0176】
図31のフローチャートにおいて、処理部800は、図29のステップS160とステップS170のそれぞれの代わりに、ステップS160AとステップS170Aを実行する。また、ステップS161がさらに加えられている。
【0177】
ステップS160Aにおいて、処理部800は、赤外線センサ300に指示を与え、ステップS140及びS150にて決定された走査スキームと走査速度とによって、検出された対象物熱画像によって特定された領域を再走査させる。ステップS160Aの走査処理の間に、走査領域において対象物熱画像における変化によるかもしれない突然の変化があった場合、ステップS161において処理が停止される。それ以外の場合はステップS170Aが実行される。なお、対象物熱画像の突然の変化は、ステップS160Aの走査処理の間に同じ位置で取得されたライン熱画像の別のフレームを比較することで検出可能である。
【0178】
ステップS170Aにおいて、処理部800は、ステップS160における走査から得られたデータトークンを使用して超解像再構成の演算を行う。このステップS170Aが完了すれば、より高い解像度を有する再構成された対象物熱画像が得られる。ステップS170が適切に実行された後、処理は終了する。
【0179】
上述した第2の実施形態には、3つの主たる使用事例があることを考慮すべきである。使用事例2−1は、空気調和装置100によって自動的に行われる、超解像再構成の処理において対象物の動きによってエラーが生じるのを防止することに焦点が置かれている。使用事例2−2は、空気調和装置100のユーザによって指示された、超解像再構成の処理において対象物の動きによってエラーが生じるのを防止することに焦点が置かれている。使用事例2−3は、超解像再構成において背景熱画像の突然の変化によるエラーが生じるのを防止することに焦点が置かれている。
【0180】
使用事例2−1において重要な点は、超解像再構成において対象物の動きによるエラーを防止することである。従って、ステップS121及びステップS122は、図29又は図31の処理に含まれる。この場合、処理は空気調和装置100によって自動的に行われる。図29又は図31の処理における超解像再構成において、エラーを防止するスキームによる空気調和装置100の動作は、容易に評価可能である。事象のトリガーは、人物の移動状態である。トリガーに応じて、赤外線センサ300により走査パターンが変わる。さらに、異なる種類のトリガーによる空気調和装置100の動作の効果は、図26A図26Bに例示されるように様々なユーザインタフェースを介してユーザに対して明確に通信可能である。
【0181】
使用事例2−2において重要な点は、ユーザによって要求された実行中のアプリケーションに指示された超解像再構成における対象物の動きによるエラーを防止することである。従って、図30に示すステップS101〜ステップS103の処理が含まれる。図30の処理における超解像再構成のエラーを防止するスキームによる空気調和装置100の動作は、容易に評価可能である。事象のトリガーは、ユーザが超解像再構成を必要なアプリケーションを要求することである。トリガーに応じて、空気調和装置100は、ユーザインタフェースを介して対象ユーザに対して静止するように要求し、各アプリケーションの詳細によって赤外線センサ300の走査パターンが変わる。さらに、選択されたアプリケーションに応じて、処理の出力が変わる。自動温度選択アプリケーションよって自動的に選択された温度を表示したり等、出力はユーザインタフェースを介してユーザに対して通信されてもよい。
【0182】
使用事例2−3において重要な点は、超解像再構成における対象物の回りの背景の突然の変化によるエラーを防止することである。従って、図31に示すステップS161の処理が含まれる。図31の処理における超解像再構成のエラーを防止するスキームによる空気調和装置100の動作は、評価可能である。事象のトリガーは、対象物の回りの背景の突然の変化である。トリガーに応じて、空気調和装置100の赤外線センサ300の動きは変えられる。さらに、異なる種類のトリガーによる空気調和装置100の動作の効果は、図26A図26Bに例示されるように様々なユーザインタフェースを介してユーザに対して明確に通信可能である。
【0183】
(3)第3の実施形態
第3の実施形態に係る空気調和装置100が実行するセンサの制御方法(赤外線センサ300に行わせる走査スキームの決定方法)を、使用事例を用いて説明する。
【0184】
[使用事例3−1]
図32は、空気調和装置100の使用事例3−1を示す図である。具体的には、図32は、使用事例3−1における、空気調和装置100の前方から部屋を眺めた様子を示す図である。この使用事例3−1は、部屋の中に人がいないときのように部屋にて対象物が検出されない場合の例である。
【0185】
空気調和装置100は、例えば、背景特徴取得モードを動作させ、部屋の中の各領域の熱に関する特徴を収集する。カーテン401、壁501、床502、及びドア503等の部屋の中の異なる物体は、異なる材料によって製作され、異なる体積を有しているかもしれない。従って、それらは異なる熱容量を有する。熱エネルギーは、部屋の中の空気とそれらの物体との間で伝達され、その結果温度変化が生じる。特に、風が直接ルーバ110から物体に対して吹き付けられる場合、物体と空気との間に温度の差があると熱エネルギーの伝達のプロセスは加速される。温度変化は、物体の熱容量次第で、大きかったり小さかったり、遅かったり早かったりし得る。
【0186】
部屋の中の物体の各熱容量に差がある場合、背景の熱データが適切にアップデートされないため、対象物検出処理にエラーが起きる可能性がある。従って、本実施形態の空気調和装置100は、対象物が検出されていない間に部屋の中の各領域の背景における熱伝達の特徴をテストし記憶する。関心領域の背景における熱伝達の特徴をテストするために、空気調和装置100は、ルーバ110からの風をテスト領域599に向け、赤外線センサ300を対象領域の温度を測るために移動し、風質による温度変化率等テストした領域の特徴データを記憶する。記憶された特徴データは、対象物検出処理の精度を高めるために背景の熱データをアップデートする処理に活用されてもよい。
【0187】
背景の温度変化があったことの情報は、風向や部屋中の物体の熱伝達の特徴によって、著しく影響される。ルーバ110からの風が向けられた領域あるいは背景の熱容量が低い領域は、他の領域と比較してより頻繁に繰り返し走査してもよい。
【0188】
[使用事例3−2]
図33A及び図33Bは、空気調和装置100の使用事例3−2を示す図である。具体的には、図33A及び図33Bは、使用事例3−2における、空気調和装置100の前方から部屋を眺めた様子を示す図である。この使用事例3−2は、部屋の中には第1人物201の一人しかいない例である。
【0189】
空気調和装置100は、第1人物201の存在を検出し、風を第1人物201に向ける。そのため、第1人物201の回りの背景領域の温度はその風によって影響を受ける可能性がある。その領域の背景の熱データを効果的にアップデートするために、赤外線センサ300は、領域A201を他の領域よりも頻繁に走査してもよい。さらに、領域A202の中には比較的熱容量の低いカーテン401がある。そのため、赤外線センサ300は、領域A202の適切なアップデートデータを取得するために、領域A201を除く他の領域よりも領域A202をより反復して走査してもよい。
【0190】
図33Bに示すように、第2人物202が部屋の中に入って領域A202へ移動する場合、領域A202の背景の熱データを適切にアップデートすることで、第2人物202は適切かつ正確に検出される。
【0191】
[本実施形態にて実行される処理例]
図34Aは、第3の実施形態に係る空気調和装置100が実行する処理の一例を説明するフローチャートである。具体的には、図34Aは、処理部800が行う処理の一例を説明するフローチャートである。図34Aでは、処理部800が動作して空気調和装置100が設置された空調空間(部屋)の背景の特徴を取得する場合を説明している。使用事例3−1による処理部800の動作は、図34Aのフローチャートによって体系的に説明できる。なお、図34Aのフローチャートは例示に過ぎない。そのため、処理部800は、図34Aのステップに加えて様々な補助ステップを実行してもよい。
【0192】
ステップS310において、処理部800は、背景の熱データと比較した場合の現在の熱データを解析して、対象物を表す背景熱画像と背景熱画像内に含まれる対象物熱画像とを区別する。その後、ステップS320が実行される。ステップS320において、処理部800は、ステップS310の結果に基づいて、対象物が存在するかどうか検出処理を行う。対象物が存在しない場合、処理部800は、背景の特徴を取得するためにステップS330に進む。それ以外の場合は、処理部800は、処理を終了する前に、他の動作モードのためにステップS390へと進む。ステップS330において、処理部800は、部屋中の領域の背景の特徴を取得する。その後、処理が終了する。
【0193】
図34Bは、第3の実施形態に係る空気調和装置100が実行する処理の一例を説明するフローチャートである。具体的には、図34Bは、図34AのステップS330における詳細な処理の一例を説明するフローチャートである。
【0194】
ステップS331において、ルーバ110の方向は、背景の熱に関する特徴を取得する対象領域に対して風が吹き付けられるように制御される。その後、ステップS332が実行される。ステップS332において、赤外線センサ300の方向は、ルーバ110からの風が向けられた領域の回りの熱データを取得するために制御される。その後、ステップS333が実行される。ステップS333において、風が領域に吹き付けられる間に収集された熱データに応じて、その領域の熱に関する特徴が決定され、登録される。その後、ステップS334が実行される。ステップS334において、処理部800は、背景の特徴を取得すべき他の領域が残っているか確認する。背景の特徴を取得すべき領域が残っている場合、処理部800はステップS331を再実行する。それ以外の場合、ステップS330は終了する。
【0195】
図35は、第3の実施形態に係る空気調和装置100が実行する処理の一例を説明するフローチャートである。具体的には、図35は、ルーバ110が風を向けた領域の背景データのアップデートのために、処理部800が赤外線センサ300を動作して適切なデータを得る場合の、処理部800の処理の一例を説明するフローチャートである。
【0196】
ステップS410において、処理部800は、ルーバ110の方向をアクチュエータコントローラ710から取得する。その後、ステップS420が実行される。ステップS420において、処理部800は、ステップS410にて取得されたルーバ110の方向に応じて赤外線センサ300の走査頻度を修正する。その後、処理が終了する。
【0197】
上述した第3の実施形態には、互いに関連の深い2つの主たる使用事例があることを考慮すべきである。使用事例3−1は、部屋中の領域の背景の特徴を取得することに焦点が置かれている。使用事例3−2は、風向と既に取得した背景の特徴によって格納された背景データを適切にアップデートすることに焦点が置かれている。
【0198】
使用事例3−1において重要な点は、部屋の中に重要な熱事象が無い場合、背景の物体の体積とそれらの材料によって違う、背景の特徴を取得することである。そのため、背景特徴取得モードを動作させると決定する前に、部屋の中に重要な熱事象が無いか調査するためにステップS310とステップS320が実行される。上述の走査スキームによる空気調和装置100の動作は、容易に評価可能である。事象のトリガーは、部屋の中に人がいない等、現在の部屋の中の状態によって起こる対象物の不在である。トリガーに応じて、ルーバ110の動きや赤外線センサ300の走査方向が変わる。
【0199】
使用事例3−2において重要な点は、以前に取得した背景の熱伝達の特徴と向けられた風向(又はルーバの方向)に応じて、赤外線センサ300の走査スキームを適切に調整することである。図35にて例示されるように、赤外線センサ300の走査頻度は、ルーバ110の方向に応じて修正されてもよい。上述の走査スキームによる空気調和装置100の動作は、容易に評価可能である。事象のトリガーは、ルーバ110の方向である。トリガーに応じて、赤外線センサ300の走査スキームが変わる。
【0200】
上述の説明に加え、部屋中の各領域の背景の熱伝達特徴に応じた赤外線センサ300による走査頻度の修正以外にも、走査速度又は走査ステップの修正も可能である。赤外線センサは、熱容量の高い領域に関してはその領域の背景温度はほとんど変化しない可能性があるため、粗い走査ステップ又は高速度で大雑把に走査してもよい。赤外線センサは、熱容量の小さな領域に関してはその領域の背景温度は容易に変化する可能性があるため、細かな走査ステップ又は低速度で綿密に走査してもよい。
【0201】
(4)第4の実施形態
第4の実施形態に係る空気調和装置100が実行するセンサの制御方法(赤外線センサ300に行わせる走査スキームの決定方法)を、使用事例を用いて説明する。
【0202】
[使用事例4−1]
図36は、空気調和装置100の使用事例4−1を示す図である。具体的には、図36は、使用事例4−1における、空気調和装置100の前方から部屋を眺めた様子を示す図である。この使用事例4−1は、部屋の中にいる人物201が横になって寛いでいる例である。部屋の中の光強度が低くなった場合、人物201がこれから休養すると推察できる。例えば、人物201は昼寝又は就寝するなど休養を取るため、天井灯402を消すか調光する可能性がある。なお、図36では、空気調和装置100を図示していないが、空気調和装置100は、例えば、図32図33A図33B等で示した位置と同様の位置にある。
【0203】
人物201が、赤外線センサ300が通常走査する領域A301から空気調和装置100の近く又は下の位置等の異なる位置に移動して場所を変えた場合、赤外線センサ300は、人物201の足跡を見失う可能性がある。そのため、赤外線センサ300は、通常走査する領域A301を再走査し、人物201が領域A301内の新規の位置に移動したかを調べる。空気調和装置100が人物201を通常走査する領域A301の中に見つけられなかった場合、空気調和装置100は、赤外線センサ300を下向きに傾倒して、図36に示すように取得ライン熱画像314がより低い位置へ移動するようにする。その後、赤外線センサ300は、人物201の存在を検出するために部屋全体にわたってその低い位置を水平に走査する。人物201をその低い位置で検出した場合、空気調和装置100は、動作モードを人物201や人物201の状態に応じて変更してもよい。空気調和装置100が人物201を部屋の中で検出できなかった場合、省エネのために自分自身のスイッチを切ってもよい。
【0204】
人物201が通常走査される領域A301内を移動して場所を変える場合、又は人物201が場所を変えない場合において、空気調和装置100の動作モードを人物201や人物201の状態に応じて変更してもよい。
【0205】
上記説明の動作モードの変更に関して、空気調和装置100は、人物201の動き等の人物の状態を使用して自動的にモードの変更を決定してもよい。あるいは、空気調和装置100は、睡眠モード等の所望の動作モードを選択するように人物201に対して質問をしてもよい。
【0206】
部屋の中の光強度が外の光強度等の外的要因で小さくなった場合、空気調和装置100は、図36に説明した上述の動作を実行してもよい。
【0207】
一方、人物201自身がインタフェースを介して睡眠モード等の異なるモードに変更するように空気調和装置100に要求した場合、空気調和装置100は、人物201を通常走査する領域A301にて検出できないときには赤外線センサ300を下向きに傾倒して低い位置を走査してもよい。
【0208】
なお、部屋の中の光条件は、空気調和装置100に設置された照度センサによって取得されてもよいし、又は天井灯402のオン/オフや調光状態に関するネットワーク情報を取得してもよい。ネットワーク情報は、空気調和装置100と天井灯402との間のローカルの共通ネットワーク、又はインターネットのような公衆ネットワークを介して転送されてもよい。
【0209】
一方、空気調和装置100を睡眠モードにするのは、空気調和装置100の人工知能によって学習されたユーザの日常生活のパターンを活用して行ってもよい。
【0210】
図37A図37Bは、空気調和装置100のユーザインタフェースの一例を示す図である。具体的には、図37A図37Bは、空気調和装置100の動作モード選択のためのユーザインタフェースの一例を示す図である。ユーザインタフェースは、リモコン720または空気調和装置100との共通ネットワークに接続された携帯電話(スマートフォン)を介してユーザと通信してもよい。ユーザインタフェースは、動作モードの変更の確認をユーザに対して通信してもよい。また、ユーザインタフェースは、空気調和装置100の動作モード選択を行ってもよい。
【0211】
[本実施形態にて実行される処理例]
図38は、第4の実施形態に係る空気調和装置100が実行する処理の一例を説明するフローチャートである。具体的には、図38は、処理部800が行う処理の一例を説明するフローチャートである。図38では、部屋の中の光条件が変化する場合を説明している。使用事例4−1による処理部800の動作は、図38のフローチャートによって体系的に説明できる。なお、図38のフローチャートは例示に過ぎない。そのため、処理部800は、図38のステップに加えて様々な補助ステップを実行してもよい。
【0212】
ステップS510において、部屋の中の光条件が調査される。光強度が低い場合、ステップS520へ進む。それ以外の場合は、ステップS599へ進む。ステップS520において、通常走査される領域にわたって、ユーザに対する対象物検出処理が実行される。その後、ステップS530が実行される。ステップS530において、処理部800は、ステップS520の結果に基づいて、通常走査される領域内に対象物が存在するかどうか検出処理を行う。対象物が存在しない場合、処理部800はステップS540へと進む。対象物が存在する場合、ステップS580が実行される。
【0213】
ステップS540において、空気調和装置100は、赤外線センサ300を下向きに傾倒して低い位置へ向ける。その後、ステップS550が実行される。ステップS550において、空気調和装置100は、赤外線センサ300にて部屋の低い位置を水平に走査し、その走査した領域にてユーザに対する対象物検出処理を実行する。その後、ステップS560が実行される。ステップS560において、処理部800は、ステップS550の結果に基づいて、対象物が低い領域に存在するかどうか確認する。対象物が存在しない場合、処理部800はステップS570へと進む。対象物が存在する場合、ステップS580が実行される。ステップS570において、空気調和装置100のスイッチが切られ、処理が終了する。
【0214】
ステップS580において、空気調和装置100の動作モードは、ユーザによって又は/あるいはユーザの状態に応じて決定される。その後、ステップS590が実行される。ステップS590において、ステップS580にて決定された動作モードが実行され、処理が終了する。ステップS599において、現在のモードが継続して実行され、光条件を調査する処理が終了する。
【0215】
図39は、第4の実施形態に係る空気調和装置100が実行する処理の一例を説明するフローチャートである。具体的には、図39は、図38のステップS580における詳細な処理の一例を説明するフローチャートである。
【0216】
ステップS581において、ユーザの対象物熱画像の動きは、対象物熱画像の領域上とその回りを高速に再走査することによって調査される。その後、ステップS582が実行される。ステップS582において、対象物熱画像が、静止しているか静止物体として考慮可能なぐらいその動きが少ない場合、ステップS585へと進む。それ以外の場合、処理はステップS583へと進む。ステップS583において、空気調和装置100は、ユーザに対して、ユーザが動作モードを睡眠モードへ変更したいかどうか尋ねる。ユーザが動作モードを睡眠モードへと変更することを確認した場合、ステップS585が実行される。それ以外の場合はステップS584が実行される。ステップS584において、処理部は、空気調和装置100の現在の動作モードを継続して実行する。ステップS585において、処理部800は、空気調和装置100の動作モードを睡眠モードへと変更する。
【0217】
上述した第4の実施形態の使用事例4−1は、部屋の中の光条件に基づく空気調和装置100とその赤外線センサ300の動作に焦点が置かれている。上述の走査スキームによる空気調和装置100の動作は、容易に評価可能である。事象のトリガーは部屋の中の光条件である。トリガーに応じて、赤外線センサ300の動きと空気調和装置100の動作モードが変更可能である。
【0218】
<応用例>
異なる反復走査スキームによって熱画像の質を改善する方法を説明する。この方法は、上述した全ての実施形態に適用可能である。
【0219】
[反復走査スキーム例1]
対象物の熱画像サイズが小さい場合、その画像の解像度を向上するために超解像再構成が必要となる可能性がある。赤外線センサは、比較的ノイズが高く、上記実施形態において述べたように適切な走査スキームと走査速度が選択されているが、熱画像の再構成が上手く実行できない可能性がある。そのため、対象物の熱画像が小さい場合は、同じ領域にわたって反復走査をする必要がある。反復走査することにより、超解像再構成が多数回実行可能となり、反復データによる統計量によって再構成された結果の信頼性を向上することができる。
【0220】
一方、物体に動きが無いと推測される場合、最初の走査とは異なる走査角度で異なる画像データを反復走査することにより、解像度の向上のために超解像再構成において集合的なデータが使用できる。よって、より多くの反復が行われるほど、解像度が向上する。さらに、反復走査によって最初の走査と同じ走査角度からの画像データが取得された場合、反復データは熱ノイズ減少を平均するのに使用されてもよい。
【0221】
この第1の反復走査スキームによる空気調和装置100の動作は、容易に評価可能である。事象のトリガーは、対象物の熱画像のサイズである。トリガーに応じて、走査の反復が変更される。
【0222】
[反復走査スキーム例2]
部屋の中に多くの対象物が存在する場合、反復走査は、より動きが遅い対象物に対して優先的に行われる。スキャン型ライン赤外線センサによって移動体の熱データを取得するのは困難であるため、高速移動体の熱データは遅い動きの物体の熱データよりも信頼性が低い可能性がある。従って、多くの対象物がある場合、反復走査は、動きの遅い物体に対して優先的に行われる。そのため、検出の信頼性と空気状態制御の信頼性が向上する。
【0223】
この第2の反復走査スキームによる空気調和装置100の動作は、容易に評価可能である。事象のトリガーは、対象物の動きである。トリガーに応じて、走査の反復が変更される。
【0224】
<変形例>
上述した実施形態では、赤外線センサ300を用いて対象物を検出する例を説明した。ここでは、赤外線センサ300とは異なるセンサをさらに用いて、対象物を高精度に及び/又は素早く検出できる変形例を説明する。
【0225】
[変形例1]
人物などの対象物の検出に、赤外線センサ300に加えて人感センサを使用してもよい。人感センサにより、対象物の有無を検出したり、対象物の位置を特定したり、対象物が移動又は静止の状態を判定したり、することができる。赤外線センサ300は、部屋全体ではなく、人感センサで特定された対象物の位置のみを走査することができる。また、赤外線センサ300は、人感センサで対象物が移動していると判定されれば、超解像再構成のために実行している走査を停止することができる。また、赤外線センサ300は、人感センサで人物が部屋にいないことが検出されると、背景の熱データをアップデートしたり、熱伝達の特徴をテストしたり(使用事例3−1)、することができる。
【0226】
これにより、対象物検出までの時間を短縮することができる。また、部屋全体の熱データを処理する必要がなくなるため、消費電力も低減させることができる。なお、夜間などにおいては、部屋に人物がいないことの検出を、照度センサで行うことも可能である。
【0227】
[変形例2]
高温物体などの対象物の検出に、赤外線センサ300に加えてCO2センサを使用してもよい。CO2センサにより、部屋内の二酸化炭素の濃度を測定することができる。赤外線センサ300は、CO2センサで測定された二酸化炭素の濃度が所定の閾値を超えた場合、部屋全体の走査速度を上げたり、対象物熱画像の領域に注目して超解像再構成処理を行ったり、することができる。
【0228】
これにより、より早い段階で火災検知などを行うことができる。なお、さらに人感センサを組み合わせることで、無人での火災発生なのか、人物によるコーヒーブレーク中又はアイロン掛け中なのかなどを、効率的に判定することも可能である。
【0229】
<応用形態>
上記実施形態では、赤外線センサや処理部を組み込んだ空気調和装置を説明した。しかし、赤外線センサや処理部やその他の構成をモジュール化して別個の構成とすることも可能である。また、上記実施形態に記載した処理部等による各処理をソフトウェアとして別個の構成とすることも可能である(図示せず)。すなわち、各処理(プログラム)が書き込まれた記録媒体(ディスク、外付けメモリ等を含む)であってもよい。また、各処理(プログラム)をネットワークを介して提供する行為も含むものとする。この場合、当該ソフトウェアを処理する主体は、空気調和装置に搭載される演算部であってもよいし、PC(パーソナルコンピュータ)やスマートフォン等に含まれる演算部であってもよい。また、当該ソフトウェアは、ネットワークを介してクラウドサーバ等で処理されてもよい。
【産業上の利用可能性】
【0230】
本開示によれば、空気調和装置が実行するセンサの制御方法として有用である。
【符号の説明】
【0231】
100 空気調和装置
110 ルーバ
201〜203 人物
300 赤外線センサ
311 赤外線受光素子
312 パンモータ
313 チルトモータ
314 ライン熱画像
350 絶縁板
599 テスト領域
710 アクチュエータコントローラ
720 リモコン
721 状況表示部
730 ネットワークモジュール
800 処理部
図1
図2
図3
図4A
図4B
図5
図6
図7
図8
図9
図10A
図10B
図11A
図11B
図11C
図11D
図12A
図12B
図12C
図13A
図13B
図14
図15
図16
図17A
図17B
図18
図19
図20A
図20B
図21
図22
図23
図24
図25
図26A
図26B
図27A
図27B
図28
図29
図30
図31
図32
図33A
図33B
図34A
図34B
図35
図36
図37A
図37B
図38
図39