特許第6827758号(P6827758)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 東芝映像ソリューション株式会社の特許一覧

特許6827758移動式アシスト装置及び移動式アシスト方法
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6827758
(24)【登録日】2021年1月22日
(45)【発行日】2021年2月10日
(54)【発明の名称】移動式アシスト装置及び移動式アシスト方法
(51)【国際特許分類】
   G08B 13/08 20060101AFI20210128BHJP
   G08B 13/16 20060101ALI20210128BHJP
   G08B 13/196 20060101ALI20210128BHJP
   G08B 25/04 20060101ALI20210128BHJP
   H05B 47/11 20200101ALI20210128BHJP
【FI】
   G08B13/08 Z
   G08B13/16 Z
   G08B13/196
   G08B25/04 E
   H05B47/11
【請求項の数】11
【全頁数】29
(21)【出願番号】特願2016-200994(P2016-200994)
(22)【出願日】2016年10月12日
(65)【公開番号】特開2018-63826(P2018-63826A)
(43)【公開日】2018年4月19日
【審査請求日】2018年11月12日
(73)【特許権者】
【識別番号】000214984
【氏名又は名称】東芝映像ソリューション株式会社
(74)【代理人】
【識別番号】110001737
【氏名又は名称】特許業務法人スズエ国際特許事務所
(72)【発明者】
【氏名】野本 弘之
(72)【発明者】
【氏名】平尾 駿
(72)【発明者】
【氏名】井澤 秀人
(72)【発明者】
【氏名】嘉和知 玲子
(72)【発明者】
【氏名】本沢 邦朗
【審査官】 大橋 俊之
(56)【参考文献】
【文献】 特表2016−513981(JP,A)
【文献】 特開2005−103678(JP,A)
【文献】 特開2007−133669(JP,A)
【文献】 韓国公開特許第10−2016−0028239(KR,A)
【文献】 特開2005−259437(JP,A)
【文献】 特開2006−210114(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G08B 13/08
G08B 13/16
G08B 13/196
G08B 25/04
H05B 47/11
(57)【特許請求の範囲】
【請求項1】
移動装置と、
前記移動装置に搭載され、周囲の明度を検出する照度センサ、人感センサを含む複数のセンサと、
前記移動装置に搭載され複数のエリアを記憶しているマッピング部と、
カメラと、
制御部とを有し、
前記制御部は、
前記複数のエリアのうち移動先エリアを決定する手段と、
前記移動先エリアで、前記照度センサの検出出力から周囲空間の明度を計測すると共に、計測結果に基づいて、照明具の動作を制御するための制御信号を出力する手段を有し、
前記明度の計測値が所定値に満たない場合、前記明度の計測値を一時記憶し、前記移動先エリアの前記照明具の明るさを大きくなる方向へ調整したとき、前記カメラにより撮影を行い、前記カメラによる撮影終了後、前記一時記憶している前記明度の計測値になるように前記照明具の明るさを調整する手段を有する、
移動式アシスト装置。
【請求項2】
前記制御部は、
前記人感センサが人を検出していると判断したとき、前記照明具の照度の調整を停止する、請求項1記載の移動式アシスト装置。
【請求項3】
前記制御部は、
前記人感センサが人を検出しているときは、前記照明具の照度の調整を停止し、マイク及び又はスピーカを起動する、請求項1記載の移動式アシスト装置。
【請求項4】
前記制御部は、
前記照明具の明るさを調整する前の照明による色味も記憶し、前記カメラによる撮影終了後、前記照明具の明るさを調整して照明による色味を調整前の状態に戻す、請求項1記載の移動式アシスト装置。
【請求項5】
前記制御部は、
前記マイクにより検出された音の音データを取得する手段と、
前記音の方向及び前記音の発生エリアを推定する手段と、
前記移動装置を制御して前記音の発生エリアへ本移動式アシスト装置を移動させ、前記カメラに前記音の方向を撮像させる手段を備えている、請求項3記載の移動式アシスト装置。
【請求項6】
前記制御部は、
前記音の種類により、前記推定、前記移動装置の制御、前記撮像を制限する手段を備える、請求項5記載の移動式アシスト装置。
【請求項7】
前記制御部は、
前記音に関する学習手段を備え、前記音が学習手段で記憶されている音の場合は、前記推定、前記移動装置の制御、前記撮像を制限する手段を備える、請求項6記載の移動式アシスト装置。
【請求項8】
前記制御部は、
前記移動装置を制御して、移動している途中で、撮影に必要な明るさが不足する場合、移動系路の照明を点灯する手段を備える、請求項5記載の移動式アシスト装置。
【請求項9】
前記制御部は、
前記移動装置を制御して、移動している途中で、移動系路を撮像し、過去の撮像データと今回の移動途中の撮像データとの差分から、障害物の有無を判断し、障害物を避けるように前記移動装置を制御する手段を備える、請求項記載の移動式アシスト装置。
【請求項10】
前記制御部は、
照明の照度を計測し、前記照明の明るさが不十分であった場合、警告を行う手段を備える請求項1記載の移動式アシスト装置。
【請求項11】
移動装置と、前記移動装置に搭載され、周囲の明度を検出する照度センサ、人感センサを含む複数のセンサと、前記移動装置に搭載され複数のエリアを記憶しているマッピング部と、カメラと、制御部とを有する移動式アシスト装置のアシスト方法であって、
前記制御部は、
前記複数のエリアのうち移動先エリアを決定し、
前記移動先エリアで、前記照度センサの検出出力から周囲空間の明度を計測すると共に、計測結果に基づいて、照明具の動作を制御するための制御信号を出力し、
前記明度の計測値が所定値に満たない場合、前記明度の計測値を一時記憶し、前記移動先エリアの前記照明具の明るさを大きくなる方向へ調整したとき、前記カメラにより撮影を行い、前記カメラによる撮影終了後、前記一時記憶している前記明度の計測値になるように前記照明具の明るさを調整する、
移動式アシスト装置のアシスト方法。
【発明の詳細な説明】
【技術分野】
【0001】
本実施形態は、移動式アシスト装置及び移動式アシスト方法に関する。
【背景技術】
【0002】
最近では、各種の監視システムが開発されている。監視システムには、カメラ、マイクなどが利用され、映像データ及び又はオーディオデータが取得され解析される。解析結果に応じて、不審者侵入などの各種の判定がなされる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第4819221号公報
【特許文献2】特許第4245367号公報
【特許文献3】特開2004−295408号公報
【特許文献4】特開2007−133625号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
最近では、監視カメラ、マイクの他に、各種のセンサが開発されている。温度センサ、ガスセンサ、圧力センサ等は勿論であるが、小規模のデータプロセッサ、メモリ、通信機能を備えたセンサ(インターネット・オブ・シング:IoTと称されるものもある)も開発されている。このために監視システムとしては、各種センサの出力を情報取得源として利用し、総合的な状況判定を行う近代的な監視システムが要望されている。
【0005】
そこで本実施形態では、各種センサからのデータを総合的に判断して、次に制御すべき内容を判断し、監視効果を向上できる移動式アシスト装置を提供することを目的とする。
【0006】
また他の実施形態では、複数の監視センサの連携を実現し、アシスト機能を一層向上しえる移動式アシスト装置及び移動式アシスト方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
一実施形態によれば、移動装置と、
前記移動装置に搭載され、周囲の明度を検出する照度センサ、人感センサを含む複数のセンサと、
前記移動装置に搭載され複数のエリアを記憶しているマッピング部と、
カメラと、
制御部とを有し、
前記制御部は、
前記複数のエリアのうち移動先エリアを決定する手段と、
前記移動先エリアで、前記照度センサの検出出力から周囲空間の明度を計測すると共に、計測結果に基づいて、照明具の動作を制御するための制御信号を出力する手段を有し、
前記明度の計測値が所定値に満たない場合、前記明度の計測値を一時記憶し、前記移動先エリアの前記照明具の明るさを大きくなる方向へ調整したとき、前記カメラにより撮影を行い、前記カメラによる撮影終了後、前記一時記憶している前記明度の計測値になるように前記照明具の明るさを調整する手段を有する、
移動式アシスト装置を提供できる
【図面の簡単な説明】
【0008】
図1図1は、移動式アシスト装置の概要を示す図である。
図2図2は、HGW600の内部構成と、ネットワークとの関係を示す図である。
図3A図3Aは、移動式のHGW600が明るい状態の部屋800aに侵入した場合を示す図である。
図3B図3Bは、移動式のHGW600が暗い状態の部屋800bに侵入した場合を示す図である。
図4図4は、HGW600の制御動作の例を示すフローチャートである。
図5図5は、HGW600とスマートフォーンとの関係の一例を示す図である。
図6図6は、家庭内のセンサ群及び被制御装置とHGW600との概略的な相互関係を示す説明図である。
図7図7は、本実施形態が適用されたシステムにおいて、フル警備モードが設定されているときのシステム動作例を示すフローチャートである。
図8図8は、本実施形態が適用されたシステムにおいて、フル警備モードが設定されているときの他のシステム動作例を示すフローチャートである。
図9図9は、本実施形態が適用されたシステムにおいて、エアコンの動作を監視するときのシステム動作例を示すフローチャートである。
図10図10は、本実施形態が適用されたシステムにおいて、センサ及び被制御装置に対する点検が行われる際の動作を説明するために示した参考図である。
図11図11は本実施形態が適用される他のネットワークシステムの全体構成例を示す図である。
図12図12図11に示した実施形態においてイベント関連データと監視データのストリームが記録される一例をタイムラインに示す説明図である。
図13図13図11の実施形態における要部を取り出して示すブロック構成図である。
図14図14はイベント関連データ及び又は監視データをアクセスすることができるユーザインターフェースとしてのスマートフォーンのメニュー例を示す図である。
図15A図15Aは、スマートフォーンで監視データをアクセスするための手順を示す説明図である。
図15B図15Bは、スマートフォーンで監視データをアクセスするための他の手順を示す説明図である。
図16A図16Aは、スマートフォーンに表示される操作画面の一例を示す図である。
図16B図16Bは、スマートフォーンに表示される操作画面の他の例を示す図である。
図17図17は、あるイベントに関する監視データ(映像データ)が再生されたときの画像例を示す図である。
図18A図18Aは、スマートフォーンとこのスマートフォーンに表示されるイベント関連データの関係及び操作方法の一例を説明する図である。
図18B図18Bは、スマートフォーンとこのスマートフォーンに表示されるイベント関連データの他の関係及び他の操作方法の一例を説明する図である。
図19図19は、スマートフォーンとこのスマートフォーンに表示されるイベント関連データのさらに他の関係及びさらに他の操作方法の一例を説明する図である。
図20図20は、イベント関連データと監視データの記録位置の関連性の一例を説明する階層図である。
【発明を実施するための形態】
【0009】
以下、実施の形態について図面を参照して説明する。図1において、移動式アシスト装置の概要について説明する。600はホームゲートウエイ(HGWと記述する)であり、後述するようにネットワークに接続されることが可能である。このHGW600は、移動装置(キャリング装置と称してもよい)618と一体となった移動型である。なおHGW600は、静止型(固定型と称してもよい)もあり、移動型と合わせて総称としてアシスト装置650と称されてもよい。
【0010】
HGW600(アシスト装置650)は、カメラ611、マイク613、スピーカ615を少なくとも備えている。カメラ611、マイク613などは大きな意味でセンサと称されてもよい。カメラは複数備わってもよい。HGW600は、センサからピックアップデータと、内部の制御用アプリケーションに基づいて、移動装置618を制御することができる。この自己制御に基づいて、所在地の変更、オブジェクトの追跡などを行うことができる。
【0011】
図2は、上記HGW600の内部構成と、ネットワークとの関係を示している。
【0012】
サーバ1000は、インターネット300を介してHGW600と接続可能である。HGW600は、メモリ601、制御部(システムコントローラと称してもよい)602、デバイス管理器603、ネットワークインターフェース(以下ネットワークI/F)605、センサ制御テーブル609、カメラ611、マイク613、スピーカ615などを備える。
【0013】
HGW600は、通信機能(通信装置と称してもよい)であるネットワークI/F)605を介して、各種の通信方式に対応可能である。センサは、メーカにより通信方式が異なる場合がある。例えば、通信方式としてIEEE802.15.4を採用しているセンサが存在したり、IEEE802.151を採用しているセンサが存在したり、IEEE802.15.3aを採用しているが存在したりする。さらには、IEEE802.11b、IEEE802.11a、IEEE802.11g、を採用しているセンサもある。
【0014】
そこで本実施形態のHGW600は、ネットワークインターフェースとして各方式に対応できるインターフェースを装備することができる。
【0015】
またHGW600は、先の移動装置618を駆動制御する駆動部618aを備える。さらにHGW600は、移動位置を記憶して地図を作成することができるマッピング部619を備える。
【0016】
またHGW600は、周囲の明るさを検出する照明センサ622、周囲に人がいるかいないかを感知することができる人感センサ623を備えている。なお周囲照明が十分である場合、カメラ611が人感センサ623を兼用する場合もある。
【0017】
メモリ601(制御データ管理部と称されてもよい)は、アプリケーションマネージャ(以下APP−Mg)、イベントマネージャ(以下EVT−Mg)、コンフィギュレーションマネージャ(以下CONFIG−Mg)を含む。APP−Mgは、HGW600の各種動作を制御するための複数のアプリケーションを管理している。EVT−Mgは、各種イベントの発生に起因する各種動作を制御するためのイベント用アプリケーションなどを管理している。さらにCONF−Mgは、HGW600内の機能とこのHGW600が関連している各種機能を認識して、例えば動作順位、動作制限などを行う構成用アプリケーションを管理している。
【0018】
システムコントローラ602は、HGW600内の各ブロックを統括してシーケンス制御することができる。また後でフローチャートを示して説明するHGWの動作(判定、データ処理、解析動作、通信)等は、このシステムコントローラ602とメモリ601に格納されているアプリケーションに基づいて、実行される。
【0019】
EVT−Mgは、カメラ611、マイク613、スピーカ615、記録管理器(図示せず)等の制御を行うことができる。またEVT−Mgは、ネットワークI/F605から取り込まれた外部センサからの検出データ及び又はカメラ611、マイク613からのデータを判定し、次のアクションや振る舞いを制御することができる。CONFG−Mgは、HGW600内部の各機能ブロックの初期設定、機能の制限、機能の拡張、優先順位、動作時間などの設定を行うことができる。
【0020】
デバイス管理器603は、HGW600に関連して動作する他の装置を認証し、メモリ601に登録することができる。したがって、デバイス管理器603は、ネットワークI/F605を介して、接続される複数の他のセンサ、照明具120等、・・・・を管理することができる。またデバイス管理器603は、インターネット300を介して接続されるサーバ1000の識別データも登録しており、サーバ1000を認識することができる。さらにまたデバイス管理器603は、インターネット300を介して接続されるスマートフォーン等の識別データも登録しており、該スマートフォーンを認識することができる。
【0021】
またセンサ及び器具制御テーブル609は、各種センサ及び器具の名前、各種センサ及び器具の位置情報、各センサ及び器具を制御及び又は制御を制限するためのデータを記憶している。また各センサの名前や位置情報は、スマートフォーン等に表示させることができ、これにより、ユーザはセンサの種類や取り付け位置を確認することができる。
【0022】
ネットワークI/F605は、近距離無線を介して例えば家庭内の他のセンサや、制御対象(照明具120、・・・・)と接続される。図では、照明具120を代表して示している。この照明具120は、ネットワークとつながるI/F部122と、調光部123と、発光部124を備える。調光部123は、I/F部122を介して外部から与えられる指令に基づいて、発光部124の電流を制御することができ、この制御により、照明を明るく制御することも、暗く制御することも可能である。その他、情報取得用のセンサ、制御用のセンサ、制御されるセンサとしては、各種のセンサが存在する。
【0023】
ここで、移動位置を記憶して地図を作成することができるマッピング部619についてさらに説明する。マッピング部619は、例えば搭載しているカメラ611からの画像を応用することができる。マッピング部619のマッピング機能として、SLAM(Simultaneous Localization and Mapping: 自己位置推定と環境マップ生成の同時実行)機能がある。このSLAM機能は、従来の移動体が、床の上をランダムに走行したのに対して、対象エリアの地図を作成し、その地図に従って動作(移動)系路を構築しながら動作する。このSLAM機能は、カメラからの撮像データを参照して動作し、周囲の環境マップを内部生成し、そして現在位置情報を出力することができる。
【0024】
<照明制御と撮像>
図3A図3Bは、上記移動式のHGW600が明るい状態の部屋800aに侵入した場合と、暗い状態の部屋800bに侵入した場合を示している。HGW600は、例えば定期点検で部屋を撮影するため部屋800aに侵入した場合、照度センサ622の測定値をチェックする。部屋800aは、明るいので、撮影を行う。部屋800aが明るいケースとしては、照明具120が十分な明るさで点灯している場合、或は窓802からの外光があり、部屋の中が十分な明るさである場合がある。
【0025】
これに対して、定期点検で部屋を撮影するため部屋800bに侵入した場合、照度センサ622の測定値は、照度が低いことを示す。この場合、HGW600は、照明具120を制御し、点灯或いは調光制御により部屋を明るくし、撮影を行う。
【0026】
上記の説明は一例であり、HGW600による照明制御としては単純な例である。HGW600は、環境に応じてさらに複雑な制御を実施することができる。
【0027】
図4を参照して、HGW600の制御動作のさらなる例を説明する。この制御動作は、HGW600内のシステムコントローラ602により統括的に行われる。
【0028】
HGW600は、例えばユーザが設定したタイマーによる動作設定、或はユーザによる直接操作、さらには、他のセンサからの何らかの検出情報に基づいて動作を開始する。ユーザによる直接操作は、インターネットを介して例えばスマートフォーンからの指示を操作指令としてもよい。或いはユーザによる特定の音声指令に基づいて動作開始してもよい。HGW600の移動体が、後述する静止型のアシスト装置からの指令に基づき、移動を開始してもよい(アシスト装置の連携動作である)。
【0029】
ここで示す動作フローでは、予め過去に実行したSLAM機能により宅内の部屋のマップが完成しているものとする。また、HGW600は、宅内マップデータと、他のセンサ(カメラ、GPSなど)との組み合わせに基づいて、自己の移動位置を把握しているものとする。
【0030】
動作が開始すると、移動対象となるエリアの一覧を取得する(ステップSB1)。次に、HGW600の未到達エリアがあるかどうかの判定が行われる。この判定は、システムコントローラ602が、動作対象となるエリアの一覧を参照し、未到達のエリアが残っているかどうかを判定する(ステップSB2)。未到達エリアが残っていない場合は、動作終了し、未到達エリアが残っている場合は、例えば優先順位の高い未到達エリアを判定する。次に未到達エリアと判定されたエリアは、HGW600が到達可能なエリアであるかどうかの判定を行う(ステップSB3)。
【0031】
ステップSB3で、到達可能なエリアであると判断した場合、ステップSB4に進み、到達不可能なエリアであると判断した場合、ステップSB21に進む。到達不可能なエリアとして判断する材料としては、例えば部屋のセンサ付鍵がロックされている、或は、カメラでチェックした結果、途中に回避不可能な障害物がある、などがある。
【0032】
到達可能なエリアに到達した後(ステップSB4)、HGW600は、周囲の照度を計測(ステップSB5)。照度を計測した後、周囲空間の光色は、SLAM機能が正常に動作できる明るさであるかどうかの判定を行う(ステップSB6)。
【0033】
SLAM機能が正常に動作できる明るさであった場合、所定動作を実行する(ステップSB7)。所定動作とは、HGW600がこの位置に移動してきた目的に応じた動作である。
【0034】
例えば、部屋の温度測定のために移動してきた場合、HGW600は、部屋の温度センサからの温度情報を取得する。或は部屋に飾ってある花の撮影のために移動してきた場合、HGW600は、カメラ611を使って花を撮影する。さらには、部屋の窓の開閉状態などの監視のために移動してきた場合、部屋の窓センサからの開閉情報を取得、或はカメラを使って窓を撮影する。このような動作が完了しない場合は、ステップSB5に戻る。なお、HGW600は、花の状態が水不足であると判断した場合は、自動給水器をオン制御し、予め設定されている水分を花に供給することができる。HGW600は、花を撮影する場合も、照明の状態を制御することができる。
【0035】
上記したような動作が完了した場合(ステップSB8)、HGW600は、動作前に照明を制御したどうかの判定を行う(ステップSB9)。HGW600は、動作前に照明を制御している場合、照明を制御前の状態に戻す制御行い(ステップSB10)、ステップSB2に戻る。
【0036】
先のステップSB3において、未到達のエリアには到達することが不可能であると判断した場合、当該エリアを動作(監視)対象エリアから除外し(ステップSB21)、ステップSB2に戻る。
【0037】
先のステップSB6において、HGW600が、周囲空間の光色は、SLAM機能が正常に動作できない明るさであるとの判定をしたとする。この場合は、ステップSB22に移行し、照明具がネットワーク制御対象であるかどうかの判定がなされる。次にネットワーク制御対象の照明具である場合は、照明具の制御が禁止されていないかどうかの判定がなされる(ステップSB23)。この時の参照データとしては、デバイス管理器603及び又はセンサ制御テーブル609(図2参照)のデータが利用される。
【0038】
照明具がネットワーク制御対象でない場合や、制御が禁止されている場合は、ステップSB21において、当該エリアが移動対象エリアから除外される。
【0039】
照明具の制御が禁止されていない場合、さらに人感センサ623が人を検出していないかどうかの判定がなされる。人感センサ623が人を検出していた場合、特定の動作目的を除いて、基本的には当該エリアでは動作対象エリアから除外する(ステップSB21)。特定の動作目的とは、部屋に人が存在する場合でも監視対象として設定されている場合は特定の動作目的である。例えば、病院のベッドに人が存在した場合でも、窓やカーテンの開閉状態を監視する場合がある。そこでこのような部屋は、予め例外の部屋(エリア)として登録される、つまりチェック必須エリアとして例えばマッピング部619に登録することができる。
【0040】
ステップSB24において、人感センサが人を検出していない場合、調光の試行回数の上限に達していないかどうかが判定される。これは、これまでの現在のエリアにおける照明の制御回数を参照し、規定の制御回数を超えていないかどうかをチェックするためである。そして照明の制御回数に制限を設けている。照明の制御回数に制限を設ける理由としてはSLAM機能のための最適な照明環境はエリアごとに異なり、調光に複数回の試行を要する場合がある。しかしこの試行過程において、調光が上手くいかない場合、調光作業の無限ループとなる恐れがある。そこで無限ループを回避するために、調光回数に制限を設けている。
【0041】
上限に達していない場合は、照明の初期状態を記録(記憶)し(ステップSB26)、照明の制御を開始する(ステップSB27)。しかし上限を超えている場合は、ステップSB10に移る。
【0042】
照明の制御に関しては、全灯、色味の調整などが可能である。照明の制御が開始されると、ステップSB5に移る。上記した制御ループにおいて、除外した対象エリアを除いて、未到達のエリアが零になったら、動作を終了する。そして例えば、自動的に充電台戻り充電を開始する。
【0043】
上記した例は、HGW600が、周囲の明るさ環境に応じて照明具の調光を行う例を述べた。しかし、照明具の調光と共に、カメラ611による撮影と連動させてもよいことは勿論である。或いは、ステップSB23において、人感センサが人を検出しているときは、調光を行わないとしたが、このとき、マイク613及び又はスピーカ615を動作オンさせてもよい。
【0044】
図5は、HGW600の照明制御動作の設定を、外部のスマートフォーンGUI−1から行う例を示している。スマートフォーンGUI−1のHGWアプリケーションを起動し、HGW600をアクセスし、照明具のリストを表示することができる。そして各照明具に対して制御禁止時間帯を設定することができる。
【0045】
図5の例では、照明G(例えば玄関の照明具)に対しては、19:00〜21:00までは制御を禁止した例である。数値(この場合は時刻)の入力方法は各種の方法が可能であり、数字選択方式、或は画面に表示されたテンキーを選択して入力する方法がある。
【0046】
照明F1−1(例えば一階のリビングルーム)では、17:00〜23:00までを制御を禁止した例である。
【0047】
上記はスマートフォーンGUI−1により、HGW600による照明制御の禁止を設定する例を示した。しかし、他の指令をスマートフォーンGUI−1から、HGW600に送ることも可能である。HGW600は、スマートフォーンGUI−1からの指令により、例えば移動先エリアを撮影した映像をスマートフォーンGUI−1に送信することも可能である。例えば1日の中で、どのような種類の制御を行ったかを示すリストをスマートフォーンGUI−1に送ることも可能である。
【0048】
さらにまた、上記アシストシステムは、フル警備モードに設定されることができる。例えば、家主がしばらく(例えば1乃至2週間)外出し、部外者が家に来る予定がないときである。この場合は、スマートフォーンGUI−1のメニュー画面からフル警備モードを選択し、ボタンAraS101の操作により、フル警備をオンに設定することができる。
【0049】
上記したように、本アシスト装置は、
(A1)・・・移動体と、移動体に搭載されたセンサと、前記センサの出力から周囲空間の明度を判断すると共に、判断結果に基づいて、他の器具の動作を制御するための制御信号を出力する制御部を備える。
【0050】
(A2)・・・(A1)において、複数のエリアを記憶しているマッピング部をさらに備え、前記制御部は、前記複数のエリアのうち移動先エリアを決定し、決定した移動先エリアにおいて、照度を計測する。
【0051】
(A3)・・・(A1)において、複数のエリアを記憶しているマッピング部をさらに備え、
前記制御部は、前記複数のエリアのうち移動先エリアを決定し、決定した移動先エリアにおいて、照度を計測し、前記照度の計測値が所定値に満たない場合、当該決定した移動先エリアの照明具の照度を調整する。
【0052】
(A4)・・・(A3)において、さらにカメラを備え、前記決定した移動先エリアの前記照明具の照度を大きく調整したとき、前記カメラにより撮影を行う。
【0053】
(A5)・・・(A3)において、前記制御部は、人感センサを備え、前記人感センサが人を検出しているときは、前記照明具の照度の調整を停止する。
【0054】
(A6)・・・(A3)において、前記制御部は、人感センサを備え、前記人感センサが人を検出しているときは、前記照明具の照度の調整を停止し、マイク及び又はスピーカを起動する。
【0055】
(A7)・・・(A3)において、カメラと、複数のエリアを記憶している前記マッピング部を備え、前記制御部は、前記照度の計測値が所定値に満たない場合、前記照度の計測値を一時記憶し、
前記決定した移動先エリアの前記照明具の照度を大きく調整したとき、前記カメラにより撮影を行い、
前記カメラによる撮影終了後、前記照明具の照明が前記一時記憶している計測値になるように該照明具を調整する。
【0056】
(A8)・・・(A7)において、前記制御部は、前記照明具の照度を調整する前の照明の色味も記憶し、前記カメラによる撮影終了後、前記照明具の照明の色味を調整前の状態に戻す。
【0057】
(A9)・・・・(A3)において、前記制御部は、前記照明具の照度の制御が禁止されている時間帯は、前記照明具の制御を行わない。
【0058】
(A10)・・・(A3)において、前記制御部は、前記照明具をフラッシュ動作するように制御してもよい。
【0059】
(A11)・・・(A3)において、前記移動体が静止型のアシスト装置からの指令に基づき、移動先に移動したとき、前記制御装置が、前記照明を制御するための制御信号を出力する。
【0060】
<センサ情報の連携>
上記した移動式のアシスト装置650は、第1のセンサからの何らかの検出情報に基づいて動作を開始することができる。この場合、さらに第2、第3のセンサと連携を行ってもよい。
【0061】
図6は、家庭内のセンサ群及び被制御装置(照明具、エアコンディショナ、冷蔵庫、テレビジョン装置、アイロン、自動ドア、消化設備等を含む)とHGW600との概略的な相互関係を示す説明図である。
【0062】
例えば、エアコンディショナを制御し、部屋の温度を下げた場合、なかなか温度が下がらない場合がある。このような場合、エアコンディショナが原因ではなく、窓が開いていたために、冷気が外部に漏れている場合がある。また、エアコンディショナを制御し、部屋の温度を下げたのであるが、室内温度センサが壊れているために、正確な温度に調整できない場合がある。
【0063】
これから説明する実施形態は、上記したような不具合が生じた場合、他のセンサとの連携を図り、良好な室内環境を整えることができるシステムを提供できる。
【0064】
図6において、HGW600は、家庭内のセンサ群及び被制御装置と有線或いは無線を通じて、通信を行うことができる。通信方式としては、Bluetooth(登録商標)、ZigBee(登録商標)、Z−Wave(登録商標)、Wi−Fi(登録商標)などが採用される。
【0065】
2000は、各種センサ群と被制御装置群を示す。これらをホームネットワーク端末群或いはインターネットオブシングス(いわゆるIoT素子群)と称してもよい。以下、このIoT素子群2000に含まれる各センサ、各被制御装置を説明する。
【0066】
センサ2100は、イベントを検出するセンサの一例である。例えば基板2101にスイッチ2102が設けられている。翌片2103は、一端がヒンジを介して基板2101の一端に取り付けられている。翌片2103は、例えばドア或いは窓が開いたときは、その回動部が基板2101から離れ、スイッチ2102をオンにする。これにより、基板2101に構成されている電源回路に対して電源からの電力が供給され、基板2101の電波発信器が起動し、所定のセンサIDを含む電波が出力される。このときは、スイッチ2102がオンした(つまりドア或いは窓が開いた)ことであり、この電波がHGW600でキャッチされ、HGW600は、ドア或いは窓が開いていることを認識できる。前記した所定のセンサIDを含む電波が受信されていないときは、HGW600は、ドア或いは窓が閉じていることを認識できる。
【0067】
センサ2110は、他のイベントを検出するセンサの一例である。例えば基板2111に光電変換器(光電変換パネル)2112が取り付けられている。この光電変換器2112の出力は、電波発信器2113を駆動する。光電変換器2112は、光が照射されていないとすぐに放電して電力を失うように構成されている。したがって、例えば、カーテンが開いた、或いは照明が照射したような場合は、電波発信器2113からセンサIDを含む電波が出力される。逆にカーテンが閉じた、或いは照明がオフしたような場合は、電波発信器2113が停止し、電波出力が停止する。したがって、上記センサ2110は、カーテンが開閉、或いは照明のオンオフなどを検出するセンサとして利用可能である。
【0068】
さらには、光電変換器2112の受光面に、カラーフィルタを設けて、不要な光には反応しないように構成してもよい。
【0069】
なお、カーテンの開閉検出のために、上記センサ2110と、さらに同様な第2センサを追加してもよい。そして第2センサは、カーテンが開いたときは、カーテンにより光が遮られスイッチがオフし、カーテンが閉じたときは光が照射されるようになりスイッチがオンし、一定時間第2センサのIDを含む電波が出力されるように構成してもよい。このようにすると、一方のセンサが故障した場合、HGW600は、容易にその異常を判断することができる。したがって、HGW600システムは、カーテン開閉検出機能の検出能力を高めることができる。
【0070】
センサ101は、集積回路で構成される高度のセンサである。メモリ112、ネットワークI/F115を含む。またセンシング要素としての機能116、117を含む。しかしセンサの種類は、このような種類に限定されるものではなく各種の種類を使用することが可能である。
【0071】
メモリ112は、アプリケーションマネージャ(APP−Mg)、イベントマネージャ(EVT−Mg)、コンフィギュレーションマネージャ(CONFIG−Mg)を含む。CONFIG−Mgは、センサシステム全体動作をコントロールするための各種アプリケーションを管理している。EVT−Mgは、機能116、117からの検出データに基づいて、センサ101の次の動作を実行させるためのイベントアプリケーションを管理している。機能116、117は、センシング目的に応じて各種の要素がある。各種要素としては、例えば、カメラ、マイクである場合もある。さらに各種要素としては、熱センサ、温度センサ、湿度センサ、照明センサ、圧力センサ、スイッチ、などが含まれる。センサ101は、その利用目的において、1つ或いは複数のセンシング要素を備える場合もある。
【0072】
上記のセンサ101,102、103・・・・は、ドアの開閉を検知するセンサ、一定の大きさの音の発音を検知するセンサ、人の動きを検知するセンサ、窓の開閉を検知するセンサ、撮影を行うセンサとして利用することができ、例えば家庭内の種々の箇所に配置される。
【0073】
上記では移動型のHGW600として説明したが、さらに、静止型のHGW600aが増設されてもよい。この場合、静止型のHGW600aは、例えばスレーブHGW600aとして設定されている。このHGW600aも移動体を除いて、図2で説明したHGW600と同様な構成と機能を有するので、詳しい説明は省略する。
【0074】
2121は、例えば駐車場、玄関先、門に備えられる固定カメラであり、センサとして機能する。照明2131、2132、2133、消化設備2126等は、家庭内の各部屋の被制御装置である。また台所や室内温度測定箇所等に設置される温度センサ2122、窓ガラスの縁、扉などに取り付けられる圧力センサ2133、火災報知センサ2125、マイク(図示せず)もセンサ群に所属する。
【0075】
上記移動型HGW600、及び静止型のHGW600aは、上記したセンサ群及び被制御装置群の特性を組み合わせることで効率的に活用し、1つのセンサ或いは1つの被制御装置以上の種々の能力を発揮することができる。
【0076】
図7は、フル警備モードのときのシステム動作を示すフローチャートである。家主が例えば1週間乃至2週間外出する場合がある。このようなとき実施形態のシステムは、フル警備モードを設定することができる。
【0077】
現在、フル警備モードがスタートしているものとする(ステップSC1)。今、静止型のHGW600aのカメラにより不審移動体が検出されたものとする(ステップSC2)。HGW600aは、例えば、定期的、或いは、音、人感センサなどからの検出信号に基づいて、カメラが起動し、撮像を開始する。撮像した映像データが、動き検出回路にて処理されることで、HGW600aは不審移動体を検出することが可能である。不審移動体が検出された場合、HGW600aはイベントとして、被写体を撮像する。撮像データは家庭内のネットワークに接続されている記録媒体(例えばUSB接続記録再生装置が用いられてもよい)に記録される。または、ネットワークを介してサーバ内の記録媒体に記録されてもよい。
【0078】
HGW600aは、不審移動体を検出した場合、このことを移動型のHGW600に通知する(ステップSC3)。HGW600aは、不審移動体の撮像を継続するが、不審移動体が視野の外に出てしまう場合がある(ステップSC4)。例えば不審移動体が、ほかの部屋或いは玄関等へ移動する場合がある。このような場合、HGW600aは、不審移動体がほかの部屋或いは玄関に移動したことを移動型のHGW600に通知する(ステップSC5)。
【0079】
この場合、HGW600aは、不審移動体が移動した部屋を、予め登録されているマップ情報に基づいて、どの部屋に移動したかを移動型のHGW600に通知することが好ましい。
【0080】
移動型のHGW600は、不審移動体が移動した部屋或いは玄関に自らが移動し、当該不審移動体を撮影し、記録媒体に記録するために映像データを送信することができる。
【0081】
図8は、フル警備モードのときの他のシステム動作を示すフローチャートである。家主が例えば1週間乃至2週間外出する場合がある。このようなとき実施形態のシステムは、フル警備モードを設定することができる。
【0082】
例えば、移動型のHGW600がマイクにより不審音を検出したとする(ステップSD1、SD2)。ここで、移動型のHGW600は、カメラにより周囲を撮像しても不審音の原因となっている不審物を撮像できない場合がある。
【0083】
すると、移動型のHGW600は、各部屋など家庭内に設置されているセンサ(窓センサ、扉センサ、圧力センサ、温度センサ等)からのデータを取得し、データ解析を行う(ステップSD3)。
【0084】
移動型のHGW600は、データ解析により、不審音の信ぴょう性があるかどうか、つまり今までに習慣的になかった音(異常音)であるかどうかを判定する。この判定には、過去に検出した音の学習結果も利用される。例えば、常に近くを列車や車が通過して振動音がするエリアでは、学習結果が利用され、同じような音が検出されても、移動型のHGW600は、不審音であると決定することはない。異常音としては、例えば窓ガラスをたたく、或は破壊するような音、衝突するような音、きしむ音などがある。
【0085】
なおペット(犬、猫、鳥など)が家庭内に居る場合、これらの鳴き声は、音声分析機能に基づいて分析され、異常音判定から除外することができる。
【0086】
不審音の信ぴょう性が高い場合、不審音の発生方向、発生場所が推定される(ステップSD5)。そして移動型のHGW600は、マップ情報に基づいて不審音がしたエリアに移動し、音の方向へカメラを向けて、イベントとして撮影を行う(ステップSD6)。
【0087】
移動型のHGW600は、移動途中においてもカメラにより、移動路の撮影を行い、障害物がある場合には、その障害物を避けて移動することができる。移動型のHGW600は、マッピング部619内に障害物の無い撮像画像を予め登録している。このために、障害物が移動系路にあると、画像比較によりすぐに障害物が存在することを判断することが可能である。
【0088】
上記のようにカメラを用いた撮像を行う場合、HGW600は、先に説明したように、周囲空間が暗い場合は、近くの照明を点灯することができる。またこの時、照明の照度データも取得し、照度が不十分であった場合、警告として管理者に通知することが可能である。
【0089】
図9は、移動型のHGW600が、被制御装置(例えばエアコン)をオン制御した後、エアコンが正常に機能しているかどうかを判定する実施形態を示している。移動型のHGW600が、例えば遠隔操作やユーザの音声指令により部屋A1の冷房エアコンをオンしたとする(ステップSE1、SE2)。エアコンが冷房運転を開始し、一定時間が経過すると(SE3、SE4)、部屋A1の温度が設定値近傍まで下がったかどうかをチェックする(ステップSE5)。移動型のHGW600は、冷房エアコンがスタートしたときの部屋A1の温度を記憶し、該温度と一定時間経過後の部屋A1の温度とを比較することができる。
【0090】
ここで部屋A1の温度が所望の温度範囲であれば、処理は終了する(ステップSE6)。しかし、部屋A1の温度が所定範囲内に下がっていない場合、部屋A1に設置されている各種センサからデータを収集する。
【0091】
センサとしては、例えば窓センサ、ドアセンサ、熱源(ガスコンロ、ヒータ等)のセンサからデータを収集する。ここで窓が開いていたり、ドアが開いていたり、熱源がオンしていた場合、部屋A1の温度が下がらない原因となっている確率が高い。そこで、移動型のHGW600は、現場に移動して、撮影を行い、管理者に通知する(ステップSE15)。
【0092】
またセンサからのデータを解析した後、原因が不明の場合も現場に移動して、撮影を行い、管理者に通知する(ステップSE14)。
【0093】
上記した実施形態において、冷房エアコンは、暖房エアコンと交換しても同様な処理により暖房エアコンの正常運転、或は異常状態を判断することができる。
【0094】
図10は、上記した移動式のHGW600のさらなる他の実施形態を説明するための説明図である。本移動式のHGW600は、家庭内に設置されている各種センサ、各種被制御装置の正常異常状態を定期的或いはユーザの指令よりチェックする機能を備える。
【0095】
例えば、照明具120をオンオフ制御し、カメラ611及び又は照度センサの出力をチェックする。これにより、照明具120が正常に動作しているかどうかを判断することができる。また、複数の照明具を別々にオンオフ制御し、カメラ611及び又は照度センサが正常に動作しているかどうかの確認を行うこともできる。複数の照明具を別々にオンオフ制御したとき、いずれもカメラ611及び又は照度センサが反応しない場合は、カメラ611及び又は照度センサが故障している可能性がある。
【0096】
また照明具の制御を行い、照明具の照度を計測し、過去の計測データと比較することにより照明具の交換時期を判断することも可能である。なお照明具は、照度センサを内蔵するタイプもあるので、この照度センサからの出力データがHGW600で採用されてもよい。
【0097】
さらに、HGW600は、エアコン2127をオンオフ制御し、温度センサ2122からの検出データに基づいて、エアコン2127が正常に動作しているかどうかを判定することもできる。エアコンが正常な場合、複数の温度センサからの検出出力を取得して解析すると、いずれかの温度センサが故障しているか否かを判断することも可能となる。
【0098】
さらにまた、窓2128の開閉状態をカメラ611により撮影し、画像データから窓2128が開いているかどうかを判断することができる。この時、窓センサ2100がオンかオフかを判断することで、窓センサ2100が正常か否かを判定することも可能である。
【0099】
このように被制御装置との制御状態とセンサの検出出力との論理的な整合性をチェック
することができる。
【0100】
上記したように本実施形態のHGW600は、各種センサや各種被制御装置の点検を実施することができる。以下その主要な機能をまとめる。
【0101】
(1B)カメラ、マイク、通信装置、制御装置を搭載した移動装置を備え、
前記制御装置が、前記マイクにより検出された音の音データを取得する手段と、前記音の方向及び前記音の発生エリアを推定する手段と、前記移動装置を制御することで、前記音の発生エリアへ移動して、前記カメラに前記音の方向を撮像させる手段を備えている。
【0102】
(2B)・・・(1B)において前記音の種類により、前記推定、前記移動装置の制御、前記撮像を制限する手段を備える。
【0103】
(3B)・・・(1B)において、前記音に関する学習手段を備え、前記音が学習手段で記憶されている音の場合は、前記推定、前記移動装置の制御、前記撮像を制限する手段を備えることができる。
【0104】
(4B)・・・(1B)において、前記移動装置を制御して、移動している途中で、撮影に必要な明るさが不足する場合、移動系路の照明を点灯する手段を備える。
【0105】
(5B)・・・(1B)において、前記移動装置を制御して、移動している途中で、移動系路を撮像し、過去の撮像データと今回の移動途中の撮像データとの差分から、障害物の有無を判断し、障害物を避けるように前記移動装置を制御する手段を備える。
【0106】
(6B)・・・(4B)において、前記照明の照度を計測し、前記照明の明るさが不十分であった場合、警告を行うことができる。
【0107】
(7B)・・・(1B)において第1の被制御装置を制御する手段と、前記第1の被制御装置に基づく現象に反応する第1のセンサの検出出力を取得する手段と、前記第1の被制御装置との制御状態と前記第1のセンサの検出出力との論理的な整合性をチェックする手段を備える。
【0108】
(8B)・・・(7B)において、前記第1の被制御装置が照明具であり、前記第1のセンサが照度センサである。
【0109】
(9B)・・・(7B)において、前記第1の被制御装置が1つであり、前記第1のセンサが複数である。
【0110】
(10B)・・(7B)において、前記第1の被制御装置が1つであり、前記第1のセンサが複数であり、前記複数の第1のセンサが時間をずらしてオンし、前記複数の第1のセンサのいずれが故障かを判定する手段を備える。
【0111】
<イベントの記録と、イベントのチェック機能>
本実施形態は、上記に限定されるものではない。
【0112】
図11は、一実施形態である移動式アシスト装置が利用されるネットワークシステムの全体構成例を示す図である。
【0113】
図11において、サーバ1000は、インターネット300を介してホームゲートウエイ(以下HGWと記す)600と接続可能である。HGW600は、システムコントローラ602、デバイス管理器603、ネットワークインターフェース(以下ネットワークI/F)605、記録管理器607、カメラ611、マイク613、スピーカ615などを備える。またHGW600は、センサ制御テーブル609を含む。
【0114】
メモリ(制御データ管理部)601は、先に説明した通りである。システムコントローラ602は、HGW600内の各ブロックを統括してシーケンス制御することができる。
【0115】
EVT−MGは、さらに記録管理器607の制御を行うことができる。
【0116】
またセンサ制御テーブル609は、センサ101、102、103、104が登録された各センサの名前、各センサの位置情報、各センサを制御するためのデータを記憶している。また各センサの名前や位置情報は、スマートフォーンGUI−1に表示されることができ、これにより、ユーザはセンサの種類や取り付け位置を確認することができる。
【0117】
ネットワークI/F605は、近距離無線を介して例えば家庭内の他のセンサ101、102、103、・・・・と接続される。他のセンサ101の構成を代表して示している。センサ101も制御データ管理部112、ネットワークI/F115を含む。またセンシング要素としての機能116、117を含む。しかしセンサの種類は、このような種類に限定されるものではなく各種の種類を使用することが可能である。
【0118】
メモリ(制御データ管理部)112は、アプリケーションマネージャ(APP−MG)、イベントマネージャ(EVT−Mg)、コンフィギュレーションマネージャ(CONFIG−Mg)を含む。CONFIG−Mgは、センサシステム全体動作をコントロールするための各種アプリケーションを管理している。EVT−Mgは、機能116、117からの検出データに基づいて、センサ101の次の動作を実行させるためのイベントアプリケーションを管理している。機能116、117は、センシング目的に応じて各種の要素がある。各種要素としては、例えば、HGW600と同様に、カメラ、マイクである場合もある。さらに各種要素としては、熱センサ、温度センサ、湿度センサ、照明センサ、圧力センサ、スイッチ、などが含まれる。センサ101は、その利用目的において、1つ或いは複数のセンシング要素を備える場合もある。
【0119】
上記のセンサ101,102、103・・・・は、ドアの開閉を検知するセンサ、一定の大きさの音の発音を検知するセンサ、人の動きを検知するセンサ、窓の開閉を検知するセンサ、撮影を行うセンサとして、例えば家庭内の種々の箇所に配置される。
【0120】
上記したシステムでは、センサ611(カメラ)、613(マイク)、他のセンサ101,102、・・・のいずれか1又は複数から検出信号が出力された場合、制御データ管理部601はイベント発生として認識する。すると制御データ管理部601は、記録管理器607を介してカメラ611を制御する。これにより、カメラ611は、イベント発生時点より以前(例えば10分前)からキャッシュしている監視データを記録管理器607、制御データ管理部601を介して記憶媒体に送るとともに、続けて一定時間(例えば3分、5分、10分、20分或いは30分など)撮像した監視データを送り続ける。この監視データとともに、本システムでは前記イベントが検出されたときのイベント関連データ(イベント属性データと称してもよい)も記憶媒体1010に送られる。
【0121】
イベント関連データは、例えばイベントの発生時刻、該イベントを検出したセンサの種類、センサの位置データ、記録開始時間、記録終了時間などのいずれか1つ或いは複数を含むことができる。
【0122】
図11では、上記記憶媒体は、例えばサーバ1000内のメモリであるが、必ずしもサーバ内の記憶媒体である必要はない。監視データの記憶場所は、HGW600内の記憶媒体でもよいし、ネットワークI/F605を介して接続された記憶媒体であってもよい。記憶媒体1010は、データ領域1011、管理領域1021を備える。データ領域1011に監視データ1012が格納され、管理領域1021にイベント関連データ1022が格納される。
【0123】
監視データ1012は、映像データのみならず、センサからの計測データも含む場合がある。例えば特定の箇所の温度の変化状況、湿度の変化状況、或いは圧力の変化状況などである。管理領域1021には、監視データを再生するための管理データが記述されている。この管理データが、先のイベント関連データも含む。管理データは、イベント関連データ、及びイベント関連データに対応する監視データの記録アドレスを含む。複数のイベントが発生した場合、複数のイベント関連データ、及び複数のイベント関連データに対応する複数の監視データが、存在する。
【0124】
イベント関連データは、イベント(センサ出力と称してもよい)の種類を含む。またイベントに基づいて監視データ(例えば監視映像)が記録されるが、イベント関連データは、その記録開始時間、記録終了時間なども含む。
【0125】
図12は、イベントが発生したときに、記憶媒体に監視データが記録された場合の時間経過を示している。ここでは、ホームのリビングルームの各種センサを想定している。センサとして、ドア1の開閉検出センサ、ドア2の開閉検出センサ、窓1の開閉検出センサ、窓2の開閉検出センサ、マイク、動き検出センサ(撮像映像或いは赤外線センサなどが利用される)が存在するものとする。またHGW600は、リビングルームの天井のコーナに配置され、そのカメラがリビングルーム内を撮影できるものとする。
【0126】
今、ドア1から子供1が入室して、時刻t1にドア1が開き時刻t2に閉じたものとする。時刻t1には、カメラにより人の動きが検出される。ドアの開閉があると、例えば3分程度の録画が行われる。動き検出が連続するとこの検出期間は、録画が連続して行われる。録画が行われている間は、マイク613からも音声がピックアップされる。この結果、記憶媒体1010(但しHGW600内或いはHGW600に直接接続された記憶媒体があればその記憶媒体でも可)には、第1イベント(2つのイベントが発生している)に起因する監視データが記録データRec1として記憶媒体に記録される。またこの時のイベント関連データとしては、ドア1に取り付けられているセンサID,カメラ611のID,記録Rec1の開始時間、終了時間を含む。また管理データ(イベント関連データ)には、記録Rec1が格納されている記憶媒体上のアドレスを含む。
【0127】
暫くして、今、ドア2から子供2が入室して、ドア2から時刻t3にドア2が開き時刻t4でドア2が閉じられたものとする。また時刻t3では、カメラにより人の動きが検出される。この第2イベント(2つのイベントが発生している)に起因する監視データが記録データRec2として記憶媒体に記録される。
【0128】
次に、時刻t5で大きな音がマイク613によりピックアップされ、時刻t6で人の動きが検出され、時刻t7、t8でドア1の開、閉が検出されたものとする。例えば、子供2が大声で歌を歌い、子供2の動きが検出され、子供1がドア1から出て行ったものとする。これにより、第3イベント(3つのイベントが発生している)に起因する監視データが記録データRec3として記憶媒体に記録される。
【0129】
暫く経過後、時刻t9で大きな音がマイク613によりピックアップされ、時刻t10でカメラ611により人の動きが検出され、時刻t11で窓1が開かれ、そして時刻t12で再度大きな音がマイク613によりピックアップされたものとする。例えば、子供2が大きな声で歌を歌い、次に子供2が窓1まで動き、窓1を開き、また大声で歌を歌ったものとする。これによりこの第4イベント(4つのイベントが発生している)に起因する監視データが記録データRec4として記憶媒体に記録される。
【0130】
次に、時刻t13で子供1がドア1から入出し、時刻t14で窓1が閉じられたものとする。これによりこの第5イベント(3つのイベントが発生している)に起因する監視データが記録データRec5として記憶媒体に記録される。
【0131】
上記のようにイベント関連データと監視データが記憶媒体に記録された場合、監視データがチェックされる場合、HGW600は、スマートフォーンGUI−1に対して種々の形で監視データを提示することができる。
【0132】
図13は、図11に示したシステムコントローラ602の内部の構成例を示している。
【0133】
図12で説明したような各センサからの検出信号は、イベント判定器625で判定される。イベントが検出された場合、記録指令器621が記録媒体1010へ監視データ1012を送り、記録を指令する。また同時にイベント関連データも記録媒体1010に送られて記録される。
【0134】
上記イベント判定器625は、スマートフォーンGUI−1から特定の指令信号が送られた場合、イベントとして判定することもできる。例えばスマートフォーンGUI−1を有する第1ユーザが、家に在宅する第2ユーザと電話会話しているとき、第1ユーザは、スマートフォーンGUI−1の特定キーを操作してイベント起動信号をHGW600に送ることができる。また第1ユーザは、会話していないときであっても、スマートフォーンGUI−1の特定キーを操作してイベント起動信号をHGW600に送ることができる。さらにまた、家庭内に在宅する第2ユーザは、センサを意識的に操作して、イベント起動信号をHGW600に送ることができる。例えば、点検のために、照明のオンオフを感知するセンサを第2ユーザが意識的に操作して(例えば受光部を遮蔽・解放して)、イベント起動信号をHGW600に送ることができる。
【0135】
監視データをチェックしたい場合、ユーザは、スマートフォーンGUI−1或いはネット接続されたテレビジョン受信装置GUI−2を介して、所望のイベントに関する監視データの再生を、HGW600(システムコントローラ602)へ要求することができる。
【0136】
そのためにシステムコントローラ602は、記憶媒体1030から任意のイベント関連データ及び監視データを再生するための再生制御器623を備える。この再生制御器623は、早送り機能、逆送り機能、コマ送り機能、さらにはイベントを丸め込み処理を行うイベント処理器を含む。また大量のイベント関連データ及び監視データが記憶媒体1010に格納されているので、システムコントローラ602は、ユーザが効率的に希望の監視データをチェックできるように振る舞うことができる。このために、システムコントローラ602は、各種イベントの分類、選択を行い、表示リスト或いは表示配列を生成することができるフィルタリング部631、表示スタイル処理部629、を備える。生成された表示配列や再生された監視データは、表示用データ出力部627を介してスマートフォーンGUI−1或いはテレビジョン受信装置GUI−2などのモニタへ送信される。またシステムコントローラ602は、データやリストを一時的に保存するためのメモリ624を含む。
【0137】
システムコントローラ602は、スマートフォーンGUI−1或いはテレビジョン受信装置GUI−2と互いに通話を行い、上記した生成された表示配列や再生された監視データを当該モニタへ送信する。また、上記再生制御器623は、スマートフォーンGUI−1或いはテレビジョン受信装置GUI−2からの指令に応じて、イベントを撮影している映像の早送り機能、逆送り機能、コマ送り機能を実行することができる。また再生制御器623は、イベント関連データを処理するイベント処理器を含み、イベントの配列順、イベントの選択処理などを実行することができる。
【0138】
図14は、例えばスマートフォーンGUI−1の画面にメニューが表示された状態を示す。このメニュー内の選択ボタンとして、例えば監視データ要求ボタン501、インターネット(1)接続ボタン502、インターネット(2)接続ボタン503、ホーン起動ボタン504、ゲーム(1)スタートボタン505、ゲーム(2)スタートボタン506などがある。また、センサリストボタン507を有し、このボタン507を操作すると、イベントを検出するための各種センサのリストを表示することができる。
【0139】
ここで監視データ要求ボタン501がタッチ操作されたものとする。すると、スマートフォーンGUI−1には、例えば図15A或いは図15Bに示すように「どのようなイベントの画像をチェックしますか?」というメッセージと共に、ユーザに対して「全て」、「指定する」、「いつもの」と言うようなボタン512、513、514が表示される。
【0140】
ユーザが「全て」のボタン512をタッチ操作により選択すると、制御データ管理部601による制御の基で、イベント(センサを問わない全てのイベント)発生日時データと、各イベント発生時の監視データ(カメラにより撮像された画像データ)の一部(サムネール)が、スマートフォーンGUI−1に送られてくる。大量のイベント関連データ及び監視データが記憶媒体1010に格納されているので、表示スタート時の表示用データとしては、現在時刻よりも例えば5時間前に発生したイベントを中心に、その前後の時間の複数(3乃至5個)のイベントに関わるイベント関連データ及び対応する監視データの代表サムネールが選択されて表示される。代表サムネールは、例えばイベント発生時刻に対応する監視データ(画像データ)である。
【0141】
スマートフォーンGUI−1に「どのようなイベントの画像をチェックしますか?」というメッセージが表示されたとき、ユーザは「指定する」のボタン513をタッチ操作により選択することができる。この時は、起動しているセンサを取り付けた箇所の例えば名称(ドア1開閉、ドア2開閉、窓1開閉、窓2開閉、・・・等)のリスト517が表示される。ユーザは、画像チックを希望する発生イベントを、タッチ操作により、1つまたは複数選択することができる。図15Aでは、ドア1開閉、窓1開閉、動き検出・・等)の項目が選択されて、決定された例を示している。この例では、イベントの簡単な例を示しているが、現実ではさらに多くのイベントとイベント名称が設定されている。
【0142】
ユーザは、画像チェックを希望する発生イベントを、選択し、決定操作518を行うと、後で示すように、選択されたイベントが発生したときの監視データの代表サムネールと、対応するイベント関連データが表示される。この場合も、大量のイベント関連データ及び監視データが記憶媒体1010に格納されているので、表示スタート時の表示用データとしては、現在時刻よりも例えば5時間前に発生したイベントを中心に、その前後の時間の複数(3乃至5個)のイベントに関わるイベント関連データ及び対応する監視データの代表サムネールが選択されて表示される。
【0143】
スマートフォーンGUI−1に「どのようなイベントの画像をチェックしますか?」というメッセージが表示されたとき、ユーザは「いつもの」のボタン514をタッチ操作により選択することができる。このボタン514は、すでに「指定する」のボタン513が操作され、且つ決定操作518が行われた後に有効となる。この場合は、すでに指定されているイベントに基づいて、現在時刻よりも例えば5時間前に発生したイベントを中心に、その前後の時間の複数(3乃至5個)のイベントに関わるイベント関連データ及び対応する監視データの代表サムネールが選択されて表示される。
【0144】
図15Aは、選択された種類毎に独立して管理され、イベント関連データが時間順に配列される例を説明した。この配列例は、後の図18Aで説明する。しかしイベント関連データの表示例をこれに限らず図15Bに示す設定により、種類が異なるイベントのイベント関連データを組み合わせて表示させることも可能である。
【0145】
即ち図15Bに示すように、決定ボタン518bを操作する前に、組み合わせボタン518aが表示されてもよい。組み合わせボタン518aが操作された場合は、イベントリストの中で選択されている項目(今はドア2開閉と、動き検出の2つの項目が選択されている)のイベント関連データが時間順で組み合わせられて表示されるように設定することができる。即ち、組み合わせボタン518aと決定ボタン518bが連続して操作された場合は、例えば後の図18Bで説明するようなイベント関連データの配列と表示が行われる。
【0146】
上記したように、ユーザは、所望のイベントに関する監視データの再生を、制御データ管理部601に要求するのに先立って、ユーザは、どのようなイベントの画像再生を希望するのかを、制御データ管理部601に通知することができる。
【0147】
図16Aは、図14に示したスマートフォーンGUI−1のメニューで、監視データ要求ボタン501が操作された後に、続いて表示される操作画面を示している。ここでは、先に説明したように、「どのようなイベントの画像をチェックしますか?」というメッセージと共に、ユーザに対して「全て」、「指定する」、「いつもの」と言うようなボタン512、513、514が表示される。ここで、例えば「いつもの」のボタン514が選択されたものとする。すると、例えば図16Bに示すようなイベントリストが表示される。このイベントリストは、図13に示した再生制御器623が記憶媒体1030からイベント関連データ及び監視データを読み取り、フィルタリング部631でフィルタ処理を行い、表示スタイル処理部629で生成したリストである。なお、フィルタリングは、まず再生制御部623がイベント関連データを記憶媒体1010から読み取り、イベント関連データに対するフィルタ処理を行い、抽出したイベント関連データに対応する監視データを記憶媒体1010から再生する順番であってもよい。
【0148】
上記の説明は、スマートフォーンGUI−1により、イベントリストを要求し、表示したが、テレビジョン受信装置GUI−2によっても同様な動作が可能である。なおテレビジョン受信装置GUI−2により操作を行うときは、リモートコントローラを介して画面上のカーソルを操作することで実現できる。
【0149】
また図16Bでは、監視データのサムネールは、簡略化して示しているが、実際には、カメラ611の視野角の範囲の映像が撮影されている。
【0150】
今、図16Bのリストの中からイベント521のサムネール522が、タッチ操作により選択されたとする。するとこのイベント521が発生した時点の例えば5分前から例えば10分程度の監視データの連続再生が、再生制御器623(図13に示した)により開始され、モニタへ送られる。このときの映像を図17に示している。
【0151】
図17の映像は、人物525が、ドア526を開けて部屋に入室し、ベッド527まで歩き、ベッド527に就寝した様子が撮影されている。再生制御器623は、スマートフォーンGUI−1或いはテレビジョン受信装置GUI−2からの指令に応じて、複数のイベント関連データに対応する複数の監視データがリスト表示され、前記リスト表示された前記複数の前記監視データの中から任意の監視データが選択された場合、当該指定された監視データの記録期間を連続再生する。
【0152】
また、再生制御器623(図13に示した)は、スマートフォーンGUI−1或いはテレビジョン受信装置GUI−2からの指令に応じて、以下に述べるように、イベントを撮影している映像の早送り機能、逆送り機能、コマ送り機能を実行することができる。
【0153】
さらに、再生制御器623はイベント関連データを参照することができるので、複数の前記イベントに関連する複数の前記監視データを、順次連続して早送り再生又は通常再生することができる。
【0154】
さらにまた、再生制御器623は、指定された特定のイベントに関連する複数の監視データを、順次連続して早送り再生又は通常再生することができる。
【0155】
また、図13に示した再生制御器623は、複数のイベント関連データを処理するイベント処理器を有し、イベント処理器は、特定のイベントに対応する複数のイベント関連データを纏めて丸めこむことができる。例えば、イベントは、パルス的に発生する場合もある。例えば大きな音の検出や、動き検出(例えばブラインドが風で揺れたときの動き検出)は単発的に発生する。このような場合は、検出時刻を一連の連続的な流れとして、丸め処理し、丸め処理したイベント関連情報に基づいて、監視データをチェックするとよい場合がある。
【0156】
上記した実施形態においては、イベント検出時にカメラ611で撮像した一定時間長(5分、10分、15分或いは20分)の画像データを監視データとして保存した。ここでイベント毎に監視データを保存する時間長は、任意に変更可能であってもよい。またイベントの種類に応じて前記期間が異なっていてもよい。さらにまた、時間帯に応じて、監視データを保存する時間長が異なってもよい。
【0157】
イベントの配列方法(イベント関連データと対応するサムネールの配列方法)は、配列用アプリケーションにより、どのようにでも配列することが可能であり、当該イベント関連データと対応するサムネールを配列に応じて表示することができる。
【0158】
図18Aは、イベント関連データと、当該イベント関連データに関連する監視データのサムネールが、イベント毎に分類された場合の表示例を示している。分類は、動き検出のイベント、ドア1開閉のイベント、窓1開閉のイベント、照明1オンオフのイベントが例として示されている。
【0159】
今、スマートフォーンGUI−1には、ドア1開閉に関するイベント関連データ526a−526dと対応するサムネール525a―525dが示されている。イベント関連データ526a−526dはイベント発生時間順に配列されている。ここでユーザが、スマートフォーンGUI−1のタッチ操作面を矢印531aの方向へ擦るように操作すれば、さらに時刻の遅いイベント関連データ及び対応サムネールが表示され、矢印531bの方向へ擦るように操作すれば、さらに時刻の早いイベント関連データ及び対応サムネールが表示される。
【0160】
また、ユーザが、スマートフォーンGUI−1のタッチ操作面を矢印532aの方向へ擦るように操作すれば、さらに窓1開閉に関するイベント関連データ及び対応サムネールが表示され、矢印532bの方向へ擦るように操作すれば、動き検出に関するイベント関連データ及び対応サムネールが表示される。
【0161】
上記した実施形態においては、図13図15Bで説明したように、イベント関連データ及び対応するサムネールを表示する場合、複数のイベントを組み合わせて表示することも可能である。図13に示すように、制御データ管理部601は、フィルタリング部631を含む。このフィルタリング部631により、イベント関連データをその種類別にフィルタリングして分類したり、種類が異なるイベントのイベント関連データを組み合わせてリストアップ表示することができる。図18Bではドア2開閉のイベントが生じたときと、音検出のイベントがあったときのイベント関連データ及び対応する監視データのサムネールを表示した例である。
【0162】
この場合もユーザが、スマートフォーンGUI−1のタッチ操作面を矢印531aの方向へ擦るように操作すれば、さらに時刻の遅いイベント関連データ及び対応サムネールが表示され、矢印531bの方向へ擦るように操作すれば、さらに時刻の早いイベント関連データ及び対応サムネールが表示される。
【0163】
図19は、スマートフォーンとこのスマートフォーンに表示されるイベント関連データのさらに他の関係及びさらに他の操作方法の一例を説明する図である。先の表示例(図18A図18B)は、イベント関連データがリスト表示された。しかし、監視データの表示が指定された後に、各イベントの発生ソース名が図19に示すようにタイルスタイルで表示されていてもよい。この複数のタイル(ドア1、ドア2、窓1−窓4、照明1−5、音561、音・女子562、音・男子563・・・)の中から、ユーザが希望するタイルをプレスしたときに、例えば図16Bに示すような表示状態に移行してもよい。音561が選択されたときは、全ての音に関するイベント関連データが表示対象となる。しかし、音・女子562が選択された場合は、女子の音に関するイベント関連データが表示対象となり、音・男子563が選択された場合は、男子の音に関するイベント関連データが表示対象となる。
【0164】
図20には、管理領域1021に記録されるイベント関連データの構造と、データ領域1011に記録される監視データを示している。イベント関連データは、イベントの種類毎に分類されている。例えばドアの開閉、窓の開閉、照明のオンオフ、エアコンディショナのオンオフ、テレビジョン受信装置のオンオフ、動き検出などである。各種類の項目には、センサ識別データが付加されたセンサ項目(センサ1、センサ2、・・・・)が所属している。さらに各センサ項目に対しては、イベントデータが記述されている。イベントデータは、例えば、イベントの発生時刻、監視データの記録開始時刻、監視データの記録終了時刻、監視データの記録開始アドレス、監視データの記録終了アドレス、更にはサムネールアドレスなどが記述されている。監視データの記録開始アドレス、監視データの記録終了アドレス、更にはサムネールアドレスは、データ領域1011のアドレスを示しており、再生制御器623は、上記アドレスを参照して、必要なデータを記憶媒体1030から読出し再生することができる。
【0165】
この実施形態では、例えばテレビジョン受信装置GUI−2において、監視データを高画質で表示可能とすることが容易である。また監視データは、インターネット300を介して外部に送信されないので、特に個人的な監視データを管理する場合に有効である。なおインターネット300を介して、サーバ1000に送られるデータや、サーバ1000からHGWに送られてくるデータは、秘匿処理が施されている。
【0166】
本発明のいくつかの実施形態を説明したが、これらの実施形態は例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0167】
120・・・照明具、300・・・インターネット、600・・・HGW、601・・・メモリ、603・・・デバイス管理器、605・・・ネットワークI/F部、609・・・センサ及び器具制御テーブル、618・・・移動装置、618a・・・駆動部、619・・・マッピング部、622・・・照度センサ、人感センサ・・・623、1000・・・サーバ、800a,800b・・・部屋、2000・・・各種センサ群と被制御装置群。
図1
図2
図3A
図3B
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15A
図15B
図16A
図16B
図17
図18A
図18B
図19
図20