(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-09
(45)【発行日】2024-07-18
(54)【発明の名称】宅内表示システム
(51)【国際特許分類】
G06F 3/01 20060101AFI20240710BHJP
G06Q 10/06 20230101ALI20240710BHJP
G06Q 30/02 20230101ALI20240710BHJP
G06F 3/0481 20220101ALI20240710BHJP
G06T 19/00 20110101ALI20240710BHJP
【FI】
G06F3/01 510
G06Q10/06
G06Q30/02
G06F3/0481
G06T19/00 600
(21)【出願番号】P 2021059006
(22)【出願日】2021-03-31
【審査請求日】2023-06-29
(73)【特許権者】
【識別番号】307042385
【氏名又は名称】ミサワホーム株式会社
(74)【代理人】
【識別番号】100090033
【氏名又は名称】荒船 博司
(72)【発明者】
【氏名】守谷 一希
【審査官】相川 俊
(56)【参考文献】
【文献】特開2018-124515(JP,A)
【文献】特開2018-187712(JP,A)
【文献】国際公開第2019/021575(WO,A1)
【文献】特開2019-169154(JP,A)
【文献】特開2015-156125(JP,A)
【文献】特開2020-000279(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01
G06Q 10/06
G06Q 30/02
G06F 3/0481
G06T 19/00
(57)【特許請求の範囲】
【請求項1】
ユーザの状態及び住宅内のユーザの位置に係るユーザ情報を取得するためのユーザ情報取得部と、
前記ユーザによって使用されて、現実世界の前記住宅における宅内風景に重ね合わせて仮想現実キャラクターを表示するための表示用デバイスと、
前記ユーザ情報取得部と前記表示用デバイスの各々と通信可能に接続されて、前記表示用デバイスに表示される前記仮想現実キャラクターの演出を制御する演出制御手段と、を備えており、
前記ユーザ情報取得部は、前記住宅の屋内空間の複数箇所に設置され、
前記住宅の屋内空間には、宅内座標情報が定義付けられ、
前記演出制御手段は、
仮想的に構築された仮想世界のうち前記宅内座標情報に対応付けられた位置であって、かつ、前記ユーザ情報取得部によって取得した前記ユーザの位置に係るユーザ情報に対応した位置に、前記仮想現実キャラクターを表示させる制御を行い、さらに、前記ユーザ情報に基づいて生成された前記ユーザに伝達するためのメッセージ情報の出力と、前記メッセージ情報に対応する前記仮想現実キャラクターのアニメーション表示と、を含む演出の制御を行うことを特徴とする宅内表示システム。
【請求項2】
請求項1に記載の宅内表示システムにおいて、
前記住宅内の機器
及び設
備に係る宅内情報を取得するための宅内情報取得部を更に備えており、
前記演出制御手段は、前記宅内情報取得部と通信可能に接続されており、前記宅内情報及び前記ユーザ情報に基づいて生成された前記メッセージ情報の出力と、前記メッセージ情報に対応する前記仮想現実キャラクターのアニメーション表示と、を含む演出の制御を行うことを特徴とする宅内表示システム。
【請求項3】
請求項1又は2に記載の宅内表示システムにおいて、
前
記演出制御手段は、仮想的に構築された仮想世界のうち前記宅内座標情報に対応付けられた位置
であって、かつ、前記ユーザ情報取得部によって取得した前記ユーザの位置に係るユーザ情報に対応した位置で、前記アニメーション表示の一つとして前記仮想現実キャラクターが消える演出の制御を行うことを特徴とする宅内表示システム。
【請求項4】
請求項1から3のいずれか一項に記載の宅内表示システムにおいて、
前記演出制御手段は、前記ユーザと前記仮想現実キャラクターとの間で交わされた会話から前記ユーザと前記仮想現実キャラクターとの親密度を推定する分析部を更に備えることを特徴とする宅内表示システム。
【請求項5】
請求項1から4のいずれか一項に記載の宅内表示システムにおいて、
前記演出制御手段と連携し、かつ、前記住宅内に設けられた操作対象デバイスを操作する宅内デバイス操作手段を更に備えることを特徴とする宅内表示システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、拡張現実を利用した宅内表示システムに関する。
【背景技術】
【0002】
従来、省エネルギーを目的とするものに限らず、住宅に設置されたセンサーや住宅設備に備えられたセンサーなどを用いて住民の行動パターンを解析し、さらに、ユーザと交わした会話の情報を加味してユーザの行動を支援する住宅エージェントサーバに係る技術が提案されている(特許文献1参照)。
このような技術によれば、住宅の住み心地を損なうことなく、ユーザの行動を支援することができる。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
ユーザの行動を支援する一環として、ユーザに対してアドバイスや提案を行い、ユーザが、それに従って行動できるようにすることが求められている。
ところが、システムからのアドバイスや提案は、あくまでもコンピュータープログラムに基づくものであるため、ユーザが、そのアドバイスや提案に従ったとしても上手く行動を支援できない場合もある。そうした時にユーザは、システムに対し、例えば「この機械はアドバイスや提案の精度が低い」等のように、機械としての性能評価を下そうとする。そのため、システムに対する愛着が湧くこともなく、使用頻度の低下を招き、結果的にその分野の技術の発展を遅滞させることがある。
【0005】
本発明は上記事情に鑑みてなされたものであり、その課題は、ユーザに対して、アドバイスや提案を行うシステムへの愛着が湧くように促し、システムの使用頻度の向上を図ることである。
【課題を解決するための手段】
【0006】
請求項1に記載の発明は、例えば
図1~
図8に示すように、ユーザUの状態及び住宅1内のユーザUの位置に係るユーザ情報を取得するためのユーザ情報取得部3と、
前記ユーザUによって使用されて、現実世界の前記住宅1における宅内風景S1,S2に重ね合わせて仮想現実キャラクターCを表示するための表示用デバイス4,5と、
前記ユーザ情報取得部3と前記表示用デバイス4,5の各々と通信可能に接続されて、前記表示用デバイス4,5に表示される前記仮想現実キャラクターCの演出を制御する演出制御手段(表示制御部6、第一サーバ7、第二サーバ8)と、を備えており、
前記ユーザ情報取得部3は、前記住宅1の屋内空間の複数箇所に設置され、
前記住宅1の屋内空間には、宅内座標情報10が定義付けられ、
前記演出制御手段は、
仮想的に構築された仮想世界のうち前記宅内座標情報10に対応付けられた位置であって、かつ、前記ユーザ情報取得部3によって取得した前記ユーザUの位置に係るユーザ情報に対応した位置に、前記仮想現実キャラクターCを表示させる制御を行い、さらに、前記ユーザ情報に基づいて生成された前記ユーザUに伝達するためのメッセージ情報の出力と、前記メッセージ情報に対応する前記仮想現実キャラクターCのアニメーション表示と、を含む演出の制御を行うことを特徴とする。
【0007】
請求項1に記載の発明によれば、演出制御手段は、ユーザ情報に基づいて生成されたユーザUに伝達するためのメッセージ情報の出力を含む演出の制御を行うので、メッセージ情報には必然的にユーザU自身に関する情報が含まれたものとなり、ユーザUに、メッセージ情報に対する興味を抱かせやすくすることができる。また、演出制御手段は、このようなメッセージ情報に対応する仮想現実キャラクターCのアニメーション表示を含む演出の制御を行うので、ユーザUに、仮想現実キャラクターCに対する興味を抱かせやすくすることができ、ユーザUには、仮想現実キャラクターCに対する愛着心が湧きやすくなる。これにより、ユーザUに対して、アドバイスや提案等のメッセージ情報の出力を行うシステムへの愛着が湧くように促し、システムの使用頻度の向上を図ることができる。
また、演出制御手段は、仮想的に構築された仮想世界のうち宅内座標情報10に対応付けられた位置に、仮想現実キャラクターCを表示させる制御を行うので、宅内座標情報10に対応付けられた位置であれば、どこでも仮想現実キャラクターCを表示させることができる。これにより、住宅1内の様々な場所で仮想現実キャラクターCの演出を楽しむことができるので、ユーザUには、仮想現実キャラクターCに対する愛着心が湧きやすくなり、結果的に、システムの使用頻度の向上に貢献できる。
【0008】
請求項2に記載の発明は、例えば
図1~
図8に示すように、請求項1に記載の宅内表示システムにおいて、
前記住宅1内の機器
及び設
備に係る宅内情報を取得するための宅内情報取得部2を更に備えており、
前記演出制御手段は、前記宅内情報取得部2と通信可能に接続されており、前記宅内情報及び前記ユーザ情報に基づいて生成された前記メッセージ情報の出力と、前記メッセージ情報に対応する前記仮想現実キャラクターCのアニメーション表示と、を含む演出の制御を行うことを特徴とする。
【0009】
請求項2に記載の発明によれば、演出制御手段は、宅内情報及びユーザ情報に基づいて生成されたメッセージ情報の出力を含む演出の制御を行うので、メッセージ情報には必然的にユーザUが居住する住宅1の情報とユーザU自身に関する情報が含まれたものとなり、ユーザUに、メッセージ情報に対する興味を抱かせやすくすることができる。また、演出制御手段は、このようなメッセージ情報に対応する仮想現実キャラクターCのアニメーション表示を含む演出の制御を行うので、ユーザUに、仮想現実キャラクターCに対する興味を抱かせやすくすることができ、ユーザUには、仮想現実キャラクターCに対する愛着心が湧きやすくなる。これにより、ユーザUに対して、アドバイスや提案等のメッセージ情報の出力を行うシステムへの愛着が湧くように促し、システムの更なる使用頻度の向上を図ることができる。
【0010】
請求項3に記載の発明は、例えば
図5,
図8に示すように、請求項1又は2に記載の宅内表示システムにおいて、
前
記演出制御手段は、仮想的に構築された仮想世界のうち前記宅内座標情報10に対応付けられた位置
であって、かつ、前記ユーザ情報取得部3によって取得した前記ユーザUの位置に係るユーザ情報に対応した位置で、前記アニメーション表示の一つとして前記仮想現実キャラクターが消える演出の制御を行うことを特徴とする。
【0011】
請求項3に記載の発明によれば、住宅1内の様々な場所で仮想現実キャラクターCの演出を楽しむことができるので、ユーザUには、仮想現実キャラクターCに対する愛着心が湧きやすくなり、結果的に、システムの使用頻度の向上に貢献できる。
【0012】
請求項4に記載の発明は、例えば
図6に示すように、請求項1から3のいずれか一項に記載の宅内表示システムにおいて、
前記演出制御手段は、前記ユーザUと前記仮想現実キャラクターCとの間で交わされた会話から前記ユーザUと前記仮想現実キャラクターCとの親密度を推定する分析部7dを更に備えることを特徴とする。
【0013】
請求項4に記載の発明によれば、演出制御手段は、ユーザUと仮想現実キャラクターCとの間で交わされた会話からユーザUと仮想現実キャラクターCとの親密度を推定する分析部7dを更に備えるので、推定された親密度の高低に合わせて仮想現実キャラクターCからユーザUに対する好感度を増減し、好感度が高くなるにつれて、仮想現実キャラクターCの態度を他人行儀なものから親密なものへと変化させる。これにより、好感度に応じてユーザUを思いやる発言や行動をとる等の演出を行うことができるので、ユーザUには、仮想現実キャラクターCに対する愛着心が更に湧きやすくなり、結果的に、システムの使用頻度の向上に貢献できる。
【0014】
請求項5に記載の発明は、例えば
図5に示すように、請求項1から4のいずれか一項に記載の宅内表示システムにおいて、
前記演出制御手段と連携し、かつ、前記住宅1内に設けられた操作対象デバイスを操作する宅内デバイス操作手段22を更に備えることを特徴とする。
【0015】
請求項5に記載の発明によれば、演出制御手段と連携し、かつ、住宅1内に設けられた操作対象デバイスを操作する宅内デバイス操作手段22を更に備えるので、演出制御手段と連携する宅内デバイス操作手段22によって、ユーザUと仮想現実キャラクターCとの会話や動作を通じて、操作対象デバイスの操作を行うことができる。これにより、ユーザUは、単に仮想現実キャラクターCの演出を楽しむだけでなく、仮想現実キャラクターCを通じて住宅1の設備等をコントロールする楽しみを味わうことができる。しかも、ユーザUが操作対象デバイスを直接操作したわけではなく、ユーザUとの会話を通じて「(見かけ上は)仮想現実キャラクターCが自分のために操作対象デバイスを操作してくれた」とユーザUが感じることができるので、仮想現実キャラクターCに対する愛着心が湧きやすくなり、結果的に、システムの使用頻度の向上に貢献できる。
【発明の効果】
【0016】
本発明によれば、ユーザに対して、アドバイスや提案を行うシステムへの愛着が湧くように促し、システムの使用頻度の向上を図ることができる。
【図面の簡単な説明】
【0017】
【
図8】現実世界に対応する仮想世界の概念図である。
【発明を実施するための形態】
【0018】
以下、図面を参照して本発明の実施の形態について説明する。ただし、以下に述べる実施形態には、本発明を実施するために技術的に好ましい種々の限定が付されているが、本発明の技術的範囲を以下の実施形態及び図示例に限定するものではない。
【0019】
図1において符号1は、ユーザUが居住する住宅を示す。この住宅1は、戸建て住宅とされているが、マンションやアパート等における住居でもよく、特に限定されるものではない。住宅1内には複数の部屋が設けられている。また、住宅1に居住するユーザUは、一人でもよいし、複数人でもよい。
このような住宅1には、現実世界の宅内風景S1,S2に重ね合わせて仮想現実キャラクターCを表示するための表示用デバイス4,5を用いることで、ユーザUに対して仮想現実キャラクターCを認識させ、仮想現実キャラクターCを通じてアドバイスや提案を受けたり、会話をしたりする宅内表示システムが導入されている。
【0020】
宅内表示システムは、
図2,
図3に示すように、宅内情報取得部2と、ユーザ情報取得部3と、表示用デバイス4,5(表示用デバイス4、表示用デバイス5)と、表示制御部6と、第一サーバ7と、第二サーバ8と、を備える。本実施形態においては、表示制御部6と、第一サーバ7と、第二サーバ8によって、演出制御手段を構成している。
なお、本実施形態における宅内又は住宅内とは、ユーザUが居住する家屋そのものだけを指すものではなく、その家屋が建つ敷地を含んでもよいし、含まなくてもよく、本実施形態においては敷地も含んでいる。
【0021】
〔宅内情報取得部について〕
まず、宅内情報取得部2は、住宅1内の機器や設備等に係る宅内情報を取得するための手段であり、表示制御部6と通信可能に接続されている。この宅内情報取得部2は、例えば、住宅1内の各所に配置された各種センサー又は各種センサーを利用したシステムや装置、デバイス等である。
宅内情報取得部2から取得した宅内情報は、仮想現実キャラクターCがユーザUに対する発言(アドバイス、提案等)や演出に影響を与えるものであり、表示制御部6は、取得した住宅1内の諸情報に基づいて、表示用デバイス4,5に表示する仮想現実キャラクターCの発言や演出を制御することができる。
【0022】
より具体的に説明すると、宅内情報取得部2としては、電力センサー、水道流量計、ガス流量計、温湿度センサー、開口部開閉センサー、在庫管理システム、傾きセンサー、二酸化炭素センサー等が挙げられる。住宅1に導入される宅内表示システムにおいては、宅内情報取得部2として、上記の各種センサー等のうち少なくとも電力センサー、温湿度センサーが採用されるが、
これに限られるものではなく、本発明の趣旨を逸脱しない範囲で適宜変更可能である。本実施形態における以下の説明においても、最適な宅内情報取得部2としての各種センサー等が適宜選択されるものとする。
【0023】
電力センサーは、例えば、分電盤や、太陽光発電システム等の自家発電設備、蓄電池設備、住宅1内の各コンセントなどに接続されており、住宅1内における電力使用量を計測することができる。
このような電力センサーを住宅1内に適宜配置接続することにより、住宅1の全体の電力使用量はもちろんのこと、分電盤の構成や使用される電力センサーの数によっては、部屋ごとの電力使用量や、家電ごとの電力使用量を計測できるようになっている。電力使用量を計測することで、電力の使い過ぎを警告したり、電力が全く使われていないことを異変として察知したり、ユーザUに提供される生活情報に役立てたりすることができる。また、ユーザUの行動推定や行動予測にも活用できるほか、住宅1内で使用される各種家電製品、その他センサー類、デバイス類等の異常検知などにも活用できる。
【0024】
水道流量計は、例えば水道メーターに接続されており、住宅1内における水道使用量を計測することができる。住宅1内の水道使用量を計測することで、水の使い過ぎを警告したり、水が全く使われていないことを異変として察知したり、ユーザUに提供される生活情報に役立てたりすることができる。また、ユーザUの行動推定や行動予測、給湯設備等の各種設備における異常検知にも活用できる。
【0025】
ガス流量計は、例えばガスメーターに接続されており、住宅1内におけるガス使用量を計測することができる。ガスの使い過ぎを警告したり、ガスが全く使われていないことを異変として察知したり、ユーザUに提供される生活情報に役立てたりすることができる。また、ユーザUの行動推定や行動予測、給湯設備等の各種設備における異常検知にも活用できる。
【0026】
温湿度センサーは、住宅1内の各部屋及び屋外に設けられており、温湿度センサーが設けられた周囲の温度及び湿度を計測することができる。温度や湿度を計測することで、住宅1内の温熱環境が正常であるか否かを確認したり、ユーザUに提供される生活情報に役立てたりすることができる。また、ユーザUの好みの温熱環境などを記憶し、学習することができる。
【0027】
開口部開閉センサーは、窓や出入口に設けられた建具の開閉を検知することができる。建具の開閉を検知することで、ユーザUによる住宅や部屋の出入りを確認したり、住宅1のセキュリティに役立てたりすることができる。また、窓や出入口に設けられた建具の閉め忘れ警告や、ユーザUの宅内移動軌跡の推定などができる。
また、気象情報と建具の開閉検知情報に基づいて、仮想現実キャラクターCによるユーザUへのアドバイスや提案を適宜変更できる。
【0028】
在庫管理システムは、住宅1内の所定の場所(冷蔵庫やパントリー、その他の収納スペース)に収納された物品の在庫管理を行うために、住宅1に導入されたシステムである。カメラによって撮影された画像や重量センサーによる測定結果と、記憶された在庫データと、に基づいて物品の増減を検知できるようになっている。
【0029】
傾きセンサーは、加速度センサーとも称し、住宅1の構造部分に設けられて、住宅1内に生じた振動を計測できるようになっている。この傾きセンサーは、住宅1に設けられる地震計を構成しており、地震計と宅内表示システムとを連携させることで、地震計によって計測された計測結果を表示用デバイス4,5によって確認することが可能となる。
なお、地震計は、例えば、住宅1内に生じた振動の計測結果と、予め記憶されている住宅1の構成部材や構造に係る住宅情報から、地震によって住宅1に水平に力が作用した際に生じる層間変位角を算出して、その算出結果を被災度ランクとして表示できるようになっている。
【0030】
二酸化炭素センサーは、住宅1内の二酸化炭素濃度を計測するためのものであり、住宅1内の二酸化炭素濃度が高くなった場合に、二酸化炭素を検知できる。高い濃度の二酸化炭素を検知した場合は、その検知情報に基づいて、仮想現実キャラクターCによるユーザUへのアドバイスや提案を適宜変更できる。
【0031】
〔ユーザ情報取得部について〕
続いて、ユーザ情報取得部3は、ユーザUの状態や住宅1内における位置等に係るユーザ情報を取得するための手段であり、表示制御部6と通信可能に接続されている。このユーザ情報取得部3は、例えば、住宅1内の各所に配置された各種デバイス又は各種センサーである。
より具体的に説明すると、ユーザ情報取得部3としては、カメラ、マイク、ビーコン、圧電センサー、電波式測距センサー、ウェアラブル端末等が挙げられる。住宅1に導入される宅内表示システムにおいては、ユーザ情報取得部3として、上記の各種デバイスや各種センサーのうち少なくともカメラが採用されるが、これに限られるものではなく、本発明の趣旨を逸脱しない範囲で適宜変更可能である。本実施形態における以下の説明においても、最適なユーザ情報取得部3としての各種デバイスや各種センサーが適宜選択されるものとする。
【0032】
カメラは、住宅1内の様々な箇所に複数設置されており、ユーザUを撮影するのはもちろんのこと、住宅1内の各所を撮影したり、冷蔵庫や収納スペースにおける物品の撮影を行ったりすることができる。
カメラには、ユーザUの顔を判別する顔認証機能が付与されてもよく、その場合は、住宅1内の様々な箇所に設置されることで、ユーザUがどこに移動したか追尾できるようになっている。すなわち、住宅1内におけるユーザUの位置情報を取得することができる。
さらに、カメラには、熱画像センサー(サーモグラフィ)機能が付与されてもよく、その場合は、ユーザUの体温を一時的又は継続的に計測することができるので、ユーザUの健康状態や感情の起伏に基づく体温の変化を察知し、会話に活かすことができる。
また、カメラによって撮影された画像から、ユーザUの状態を取得することができる。ユーザUの状態とは、例えば立ったり座ったり、寝転がったり、歩いたり、といったユーザUの立ち居振る舞い・日常の動作を指す。
ただし、カメラは、プライバシー保護が求められる場所には設置されないようにすることが望ましい。そのため、プライバシー保護が求められる場所においてはカメラ以外のセンサーやデバイス等の情報に基づいてユーザUの情報を取得する。
【0033】
マイクは、住宅1内の様々な箇所に複数設置されており、ユーザUの声やその他の音声を収音することができる。マイクでユーザUの声を聞き取ることによって、ユーザUの位置情報を取得できる。さらに、マイクを利用することで、ユーザUと仮想現実キャラクターCとが会話できるようにしたり、生活音や生活音とは異なる異常音を聞き取ったりすることができる。また、マイクで収音したユーザUの声やその他の音声の情報は、表示制御部6を介して第一サーバ7に送信される。
このようなマイクは、ユーザ情報取得部3としてユーザUが発声している状態を取得するとともに、宅内情報取得部2として周囲の他の音声を取得するように機能する。また、マイクは、上記のようにユーザUと仮想現実キャラクターCとの会話に用いられるため、当該マイクの近傍には仮想現実キャラクターCの声を出力するスピーカーが備えられていてもよい。すなわち、ユーザ情報取得部3には、マイクと共にスピーカーが含まれてもよいものとする。
【0034】
ビーコンは、ビーコン信号を発信する信号発生器であって、住宅1内の様々な箇所に複数設置されており、ビーコン信号には、ビーコン信号発生器の位置情報が含まれている。
ビーコン信号発生器から発信されたビーコン信号は、表示用デバイス4,5が受信し、表示用デバイス4,5は、ビーコン信号に含まれる位置情報と表示用デバイス4,5を識別する識別情報とを表示制御部6に送信する設定となっている。表示制御部6は、これにより、表示用デバイス4,5の現在位置の情報を取得できるようになっている。
【0035】
圧電センサーは、圧力により歪を発生させて電圧を生じさせるものであり、住宅1の床に組み込まれている。このような圧電センサーが床に組み込まれていれば、ユーザUの位置情報を容易に取得することができる。また、検知範囲が狭い面積であればユーザUの姿勢が立ったり歩いたりしていることを判別でき、広い面積であればユーザUの姿勢が座っていたり寝転んでいたりしていることを判別できる。
【0036】
電波式測距センサーは、部屋内に電波を発信し、部屋内にいるユーザUに当たって反射した電波を受信することでユーザUの位置情報を取得するためのセンサーである。発信する電波としては、ミリ波やマイクロ波がし合用され、特に、浴室や脱衣所、トイレ、寝室等のようにプライベート性の高い部屋に設けられることが好ましい。
なお、電波式のセンサーには、特定条件下(当該電波式のセンサーから近い、対象者が動いていない等)で人の心拍や呼吸数を計測できるものがあり、このようなユーザUの生体情報を取得する電波式のセンサーを併せて用いてもよい。
【0037】
ウェアラブル端末は、ユーザUが身体に装着し、ユーザUの位置情報を表示制御部6に発信したり、ユーザUの健康管理に係る情報を取得して表示制御部6に発信したりすることができる。本実施形態においては、特に、ユーザUの血圧や心拍、体温など、ユーザUの健康状態を把握できるものが採用される。
【0038】
〔表示用デバイスについて〕
続いて、表示用デバイス4,5は、
図3,
図4,
図8に示すように、現実世界の宅内風景S1,S2に重ね合わせて仮想現実キャラクターCを表示するための手段であり、表示制御部6と通信可能に接続されている。表示用デバイス4,5は、表示制御部6からの制御信号を受信し、その制御信号に基づいて動作して、各々の表示部4a,5aに仮想現実キャラクターCを表示することができる。
また、表示用デバイス4,5は、ビーコンからのビーコン信号を受信し、そのビーコン信号に含まれる位置情報と表示用デバイス4,5を識別する識別情報とを表示制御部6に送信するための機能を有する。
表示用デバイス4,5は、これらの機能を発揮するのに必要な演算部や記憶部、通信部等を有するものとし、記憶部には、仮想現実キャラクターCを表示させるのに必要な各種データや各種プログラム(アプリケーション)が記憶されている。
【0039】
このような表示用デバイス4,5としては、例えばスマートフォン4、AR眼鏡5、ホログラム装置、プロジェクター等が挙げられる。
住宅1に導入される宅内表示システムにおいては、表示用デバイス4,5として、上記の各種デバイスのうち少なくともスマートフォン4又は/及びAR眼鏡5が好適に採用されるが、これに限られるものではなく、本発明の趣旨を逸脱しない範囲で適宜変更可能である。本実施形態における以下の説明においても、最適な表示用デバイスが適宜選択されるものとする。
【0040】
スマートフォン4は、携帯情報端末の一つであり、スマートフォン4に代えてタブレット端末等の携帯情報端末が用いられてもよい。このようなスマートフォン4としては、
図3に示すように、演算部や記憶部、通信部等のような携帯情報端末としての機能の他に、少なくとも、図示しないカメラ(アウトカメラ)と、表示部4aと、スピーカー4bと、図示しないマイクと、インカメラ4cと、を備える。
記憶部は、仮想現実キャラクターCを表示部4aに表示させるのに必要な各種データや各種プログラムを記憶しており、演算部は、各種プログラムとの協働により、仮想現実キャラクターCを表示部4aに表示する処理を始めとする各種処理を行う。
【0041】
表示部4aは、指等で触れることによってスマートフォン4の操作を行うことができるタッチパネルであり、アウトカメラ又はインカメラ4cの機能によって映し出される撮影対象(宅内風景S1やユーザUの顔・体)を表示するとともに、仮想現実キャラクターCを表示する。
【0042】
スピーカー4bは、仮想現実キャラクターCの映像に対応する音(仮想現実キャラクターCの発言や効果音、音楽等)を発する。なお、イヤフォンを接続することで代用することができる。
【0043】
マイクは、ユーザUの声や周囲のその他の音を収音することができる。スマートフォン4における当該マイクは、住宅1内の各所に設けられた上記複数のマイクと同様の目的で使用される。すなわち、マイクを利用することで、ユーザUと仮想現実キャラクターCとが会話できるようにしたり、生活音や生活音とは異なる異常音を聞き取ったりすることができる。したがって、このスマートフォン4におけるマイクは、ユーザ情報取得部3としてユーザUが発声している状態を取得することができる。
また、マイクに代えて、テキスト入力又はボタン操作によってユーザUの意思を伝えられるようにしてもよい。この場合、仮想現実キャラクターCの発言等も表示部4a上でテキスト出力される。すなわち、ユーザUと仮想現実キャラクターCとの会話は、筆談で行われてもよい。
【0044】
スマートフォン4は、ユーザUが例えば手に持って使用する。そして、スマートフォン4に組み込まれたカメラ機能を利用する専用のアプリケーションを起動することで、スマートフォン4の表示部4aに表示された現実世界の宅内風景S1に、表示制御部6から受信した制御信号に基づく仮想現実キャラクターCの画像を重ね合わせて表示できるようになっている。
【0045】
なお、表示用デバイス4がスマートフォン4の場合は、専用のアプリケーションを通じてユーザIDを入力し、ユーザ登録を行うことができる。すなわち、住宅1内にユーザUが複数いる場合(例えば家族と同居の場合)に、ユーザUの判別を行うことができる。
【0046】
AR眼鏡5は、ヘッドアップディスプレイ又はヘッドマウントディスプレイであり、
図4に示すように、ユーザUの視線の前方に透明な2つの表示部5aが配置される。そして、上記スマートフォン4の場合における専用のアプリケーションを起動したときと同等の機能を発揮するのに必要な演算部や記憶部、通信部等を有する。これにより、表示部5aに表示される情報(仮想現実キャラクターC)が、ユーザUの通常の視界と重なって表示される。すなわち、現実世界の宅内風景S2に、表示制御部6から受信した制御信号に基づく仮想現実キャラクターCの画像を重ね合わせて表示できるようになっている。
記憶部は、仮想現実キャラクターCを表示部5aに表示させるのに必要な各種データや各種プログラムを記憶しており、演算部は、各種プログラムとの協働により、仮想現実キャラクターCを表示部5aに表示する処理を始めとする各種処理を行う。
【0047】
本実施形態におけるAR眼鏡5は、眼鏡型であるため、表示部5aを保持するリム5bと、2つのリム5b間のブリッジ5cと、鼻に当たるパッド5dと、リム5bから突出するヨロイ5eと、ヨロイ5eに回動可能に連結されて折りたたみ可能なテンプル5fと、を有する。
また、図示はしないが、ユーザUの耳の近傍に配されるテンプル5fには、骨伝導スピーカー(通常のスピーカーでもよい)が設けられており、仮想現実キャラクターCの映像に対応する音(仮想現実キャラクターCの発言や効果音、音楽等)を聞くことができる。
さらに、図示はしないが、ユーザUの声を収集するマイクを備えてもよい。すなわち、このAR眼鏡5におけるマイクは、ユーザ情報取得部3としてユーザUが発声している状態を取得することができる。マイクを備えない場合は、住宅1内の各所に設けられた上記複数のマイクを使用してユーザUと仮想現実キャラクターCとの会話を成立させる。
なお、眼鏡型に代えて、ゴーグル型を採用してもよいし、ヘルメット型でもよい。
【0048】
このようなAR眼鏡5は、ヘッドトラッキング機能やポジショナルトラッキング機能を有する。ヘッドトラッキング機能とは、頭の動きなど見ている方向に合わせて、映像が変化する機能を指し。ポジショナルトラッキング機能とは、空間認識により場所に合わせて映像が変化する機能を指す。これらのトラッキング機能があることで、没入感や一体感が生じやすく、高品質な拡張現実が可能となる。
【0049】
なお、このAR眼鏡5でも、ユーザ登録を行うことも可能であるが、複数のユーザUが使うことを考えると、AR眼鏡5ではユーザUを特定しなくてもよい。
【0050】
ホログラム装置は、図示はしないが、3Dホログラム技術を用いて3次元映像(以下、3D映像)を映し出す装置を指す。すなわち、3D映像を何もない空間に投影し、まるで本物が目の前にあるかのように見せることができる。なお、非3Dホログラムによる一般的な3D映像では、正面からしか映像が立体的に見えないが、3Dホログラム技術による3D映像では、3D眼鏡を必要とせずに、側面や背面からも、本物同様に立体的な映像を見ることが可能となる。
本実施形態におけるホログラム装置は、3D映像作り出す光を照射する照射部と、スピーカーと、マイクと、を有する。このようなホログラム装置を使用すれば、スマートフォン4やAR眼鏡5のようにデバイスを手に持ったり身に着けたりする必要なく、仮想現実キャラクターCを空間に表示することができる。すなわち、現実世界の宅内風景(ホログラム装置のある部屋の風景)に、表示制御部6から受信した制御信号に基づく仮想現実キャラクターCの画像を重ね合わせて表示できるようになる。
なお、ホログラム装置は、ペッパーズ・ゴースト、ボリュームディスプレイ、ファン型ディスプレイといった類似技術を採用したものでもよい。
【0051】
プロジェクターは、住宅1内に設けられた部屋の壁面等(壁面だけでなく、天井や床、家具の表面など)に映像を投影する装置であり、部屋内の高い位置に設置されている。本実施形態におけるプロジェクターは、シーリング照明と一体に構成されており、天井に設置されている。
本実施形態におけるプロジェクターは、映像を投影する投影部と、スピーカーと、マイクと、を有する。プロジェクターは、装置全体を回転させる機構や投影部に首振り機能に持たせることで、仮想現実キャラクターCを部屋内の広い範囲で移動させる演出を行うことができる。
このようなプロジェクターを使用すれば、スマートフォン4やAR眼鏡5のようにデバイスを手に持ったり身に着けたりする必要なく、仮想現実キャラクターCを部屋の壁面等に表示することができる。すなわち、現実世界の宅内風景(プロジェクターのある部屋の風景)に、表示制御部6から受信した制御信号に基づく仮想現実キャラクターCの画像を重ね合わせて表示できるようになる。
【0052】
〔表示制御部について〕
続いて、表示制御部6は、表示用デバイス4,5に対して仮想現実キャラクターCを表示させるための制御信号を送信して表示用デバイス4,5を動作させ、当該表示用デバイス4,5の表示部4a,5aに仮想現実キャラクターCを表示させるためのものである。
このような表示制御部6は、本実施形態における宅内表示システムを実現する上で必要な手段として、
図5に示すように、演算部6aと、記憶部6bと、通信部6c~6fと、を有する。このような構成とすることで、表示制御部6によって、住宅1内の各種センサーや各種デバイス等に係るデータを収集し、収集したデータを分析したり判定・判断したりして、その結果に基づいて表示用デバイス4,5の制御を行うことができる。
【0053】
本実施形態における表示制御部6は、例えばホームゲートウェイによって構成されている。ホームゲートウェイは、通信部6c~6fとして、プロバイダへの接続設定等を作成するルーター機能と、Wi-Fi接続可能になる無線LAN機能と、電話機やFAXを繋いで音声通話やFAXの送受信を行うVoIPゲートウェイ電話網とIPネットワークの間の中継を行う機能と、光回線の回線終端装置としての機能と、を併せ持つ装置を指す。
なお、本実施形態における表示制御部6は、例えばホームゲートウェイによって構成されているものとしたが、これに限られるものではなく、パソコンやスマートフォン、タブレット端末等の他のコンピューター装置によって構成されてもよい。
【0054】
本実施形態における表示制御部6は、上記のように、ホームゲートウェイ4に対し、必要な機能を持たせて宅内表示システムを実現させることができるものである。そのため、後述する第一サーバ7や第二サーバ8等の外部装置との連携を行わずに本実施形態における宅内表示システムを構築してもよい。つまり、後述する第一サーバ7や第二サーバ8等の外部装置における全ての機能を表示制御部6に統合してもよい。
また、後述する第一サーバ7や第二サーバ8等の外部装置との連携の度合いも適宜変更してもよい。そのため、外部装置が備える機能を、表示制御部6に適用してもよいものとする。反対に、本実施形態における表示制御部6を、単にルーターやハブ等の機能を有する中継器として使用し、第一サーバ7や第二サーバ8等の外部装置との連携により本実施形態における宅内表示システムを構築してもよい。
なお、宅内表示システムにおけるセットアップや設定変更、メンテナンスは、スマートフォン4やパソコン等を通じて行うことができる。
【0055】
以上のような表示制御部6のうち演算部6aは、CPU(Central Processing Unit)、ROM(Read Only Memory)及びRAM(Random Access Memory)等から構成され、宅内表示システムにおける各部の処理動作を統括的に制御する。具体的には、演算部6aのCPUは、ROMに記憶されている各種処理プログラムを読み出してRAMに展開し、当該プログラムとの協働により各種処理を行う。
【0056】
記憶部6bは、HDD(Hard Disk Drive)や不揮発性メモリー等により構成され、宅内表示システムを実現させるのに必要な各種データや各種プログラムを記憶している。具体的には、例えば、住宅1内に予め設定された宅内座標情報10、仮想現実キャラクターCを表示用デバイス4,5に表示させて適切に動作させるための表示制御プログラム20等を記憶している。また、記憶部6bは、宅内表示システムに連携させた操作対象デバイスの操作を行うための宅内デバイス操作プログラム21を記憶している。
なお、宅内情報取得部2から取得した宅内情報や、ユーザ情報取得部3から取得したユーザ情報、表示用デバイス4,5の位置情報は、演算部6aのメモリーに記憶されるが、データ収集やデータベース構築のために記憶部6bに記憶させてもよい。記憶部6bに記憶された各情報は、後述する第一サーバ7に送信されて、データ収集やデータベース構築のために用いられる。
【0057】
通信部6c~6fは、ネットワークインターフェース等により構成され、通信ネットワークNを介して接続された他の機器との間でデータの送受信を行う。当該他の機器には、宅内情報取得部2、ユーザ情報取得部3、表示用デバイス4,5、第一サーバ7、第二サーバ8の他にも、住宅1内で使用されるパソコン等の情報端末や電話機等の通信機、各種家電製品、その他センサー類、デバイス類等が含まれる。
本実施形態における通信部6c~6fは、宅内用の各通信部6c~6eと、宅外用通信部6fと、を有する。
【0058】
宅内用の通信部6c~6eには、無線用通信部6cと、有線用通信部6dと、電話用通信部6eと、が含まれる。
無線用通信部6cは、表示制御部6に無線アクセスする他の機器との無線通信を可能にする無線通信インタフェースである。
有線用通信部6dは、表示制御部6に有線アクセスする他の機器との無線通信を可能にする無線通信インタフェースである。
電話用通信部6eは、図示しない電話機との適切な接続を可能にする音声通話接続インタフェースである。
宅内用の通信部としては、その他にも、USBデバイスとの接続を可能にする通信インタフェースが含まれていてもよい。USBデバイスとしては、例えばUSBメモリーが挙げられ、このUSBメモリー内に、宅内表示システムを実現させるのに必要な各種データや各種プログラムが記憶されていてもよい。
なお、住宅1内にはLAN(Local Area Network)による通信ネットワークが構築されており、この宅内通信ネットワークは、WiFi(Wireless Fidelity)、Bluetooth(登録商標)、NFC(Near Field Communication)等の様々な通信網が互いに通信可能に接続された集合的な通信網であってもよい。
【0059】
宅外用通信部6fは、後述する第一サーバ7や第二サーバ8等の外部装置との間に構築された通信ネットワークNとの接続のための通信インタフェースである。
なお、通信ネットワークNは、電話回線網、ISDN回線網、光ファイバー、移動体通信網、通信衛星回線、CATV回線網、その他の専用線等の各種通信回線網と、それらを接続するインターネットサービスプロバイダ(すなわち、インターネット)等を含んでいてもよい。また、LANやWAN(Wide Area Network)、WiFi、Bluetooth、NFC等の様々な通信網が互いに通信可能に接続された集合的な通信網であってもよい。また、接続の形態について、有線、無線及び有線と無線の混在を問わない。
【0060】
このような表示制御部6は、各通信部6c~6fを通じて他の機器との間で通信を行いつつ、表示制御プログラム20を実行して、表示用デバイス4,5の表示部4a,5aに仮想現実キャラクターCを表示させることができる。表示制御プログラム20は、演出制御手段における主要な構成要素の一つであり、表示用デバイス4,5の表示部4a,5aに仮想現実キャラクターCを表示させて、ユーザ情報に基づいて仮想現実キャラクターCの発言や動作を制御するプログラムである。
このとき、表示用デバイス4,5を使用しているユーザUの位置情報(宅内座標12)と宅内座標情報10との照合を行い、住宅1内の場所に対応した仮想現実キャラクターCの演出を行うことができるようになっている。
また、表示制御プログラム20は、仮想現実キャラクターCの制御だけでなく、その他の情報の表示制御も行うことができる。すなわち、表示用デバイス4,5の表示部4a,5aに、現実世界の住宅1における宅内風景S1,S2に重ね合わせて表示される全ての情報の制御を行うことができる。
【0061】
また、表示制御部6は、宅内デバイス操作手段を構成する宅内デバイス操作プログラム21を実行して、操作対象デバイスの操作を行うことができる。この宅内デバイス操作プログラム21は、ユーザUが表示用デバイス4,5を使用している時のみ実行可能としてもよい。
なお、操作対象デバイスは、例えば各種スマート家電やIoT機器、各種住設備を指している。各種スマート家電やIoT機器としては、エアコンや洗濯機、ヘルスメーター、テレビ、ロボット掃除機、スマートLED照明、防犯カメラ等、様々なものが挙げられ、そのどれもが、表示制御部6と通信可能に接続されて連携している。
また、各種住設備としては、例えば窓やドア、シャッター装置、給湯器、蓄電池等、様々なものが挙げられ、そのどれもが、表示制御部6と通信可能に接続されて連携している。
宅内デバイス操作プログラム21の実行は、基本的に、ユーザUと仮想現実キャラクターCとの会話を通じて行われる。例えばユーザUからの指示や承認(発言や拡張現実上での操作の動作)によって実行されてもよいし、仮想現実キャラクターCからのアドバイスや提案によって実行されてもよい。これにより、見かけ上ではあるものの、「仮想現実キャラクターCが自分のために操作対象デバイスを操作してくれた」とユーザUが感じることができる。
例えばユーザUが一定の場所から一定時間以上移動しない、ウェアラブル端末の判定で健康状態の悪化が疑われる等の緊急時には、ユーザUと仮想現実キャラクターCとの会話が無くても、宅内デバイス操作プログラム21の実行のみによって電話機を操作できるようにしたり医療機関等に通報したりするような緊急時対応ができるようにしてもよい。
【0062】
記憶部6bに記憶された宅内座標情報10は、例えば、ユーザ情報取得部3として利用する上記のカメラから取得できる座標情報に基づいて算出することができる。すなわち、表示制御部6の記憶部6bには、宅内座標算出プログラム22が記憶されており、演算部6aによって実行されて宅内座標情報10を算出する。
なお、宅内座標情報10を算出するためのカメラは、部屋全体を見渡すことができるように、部屋の天井に設けられていることが好ましい。
また、宅内座標情報10は、電波式測距センサーから取得できる座標情報や、住宅1の間取りを含む設計情報、操作対象デバイスである上記のロボット掃除機から取得できる座標情報、スマートフォン4の測距用アプリケーションによる測定情報等に基づいて補正することができる。特に、ロボット掃除機は、周囲にあるオブジェクト(定着設置物や家具等)までの距離や方向を正確に把握する空間センサーを備えるため、日常的に座標情報を取得できる。
【0063】
図8は、現実世界に対応する仮想世界の概念図であり、仮想世界には、宅内座標算出プログラム22によって算出された宅内座標情報10が対応付けられている。つまり、宅内座標算出プログラム22によって算出された宅内座標情報10は、現実世界における住宅1の屋内空間を定義しており、仮想世界はそれに則って概念的に構築されていることになる。
仮想現実キャラクターCは、宅内座標情報10が対応付けられた仮想世界上のうち、あらゆる座標の位置で出現可能となっている。そのため、仮想現実キャラクターCは、ある座標に唐突に出現したり、出発点となる一の座標から到達点となる他の座標までの間を移動したりすることができる。
【0064】
住宅1には、
図8に示すように、例えばキッチン台1aのような定着設置物が種々設けられている。このような定着設置物については、リフォームを行わない限り、その場所から移動することがないため、宅内座標情報10を算出する際に座標が付与される。
図8に示すキッチン台1aにも宅内座標11が付与されている。すなわち、仮想世界には、現実世界の住宅1におけるキッチン台1aのある場所に、キッチン台1aを示す宅内座標11が対応付けられている。
なお、定着設置物ではないが、家具や家電のように移動頻度が低いものや移動が容易でない物についても、宅内座標情報10を算出する際に座標が付与されてもよい。
仮想現実キャラクターCは、このような定着設置物等の内部に入り込まないよう、定着設置物等の表面部分よりも外側の宅内座標11に基づいて表示される。同様に、仮想現実キャラクターCは、壁や床の内部に入り込まないように表示される。すなわち、宅内座標情報10は、定着設置物等を含む各部屋の表層に設定されていることとなる。
【0065】
また、
図8に示すように、仮想世界におけるユーザUの位置(宅内座標12)は、現実世界におけるユーザUの位置に対応する。ユーザUが現実世界の住宅1における屋内空間を動き回るとき、ユーザUはまた、仮想世界における仮想空間を定義する宅内座標情報10の座標範囲内を動き回る。具体的には、ユーザ情報取得部3によって取得することが可能なユーザUの位置情報が反映されている。
【0066】
なお、本実施形態における宅内座標情報10は、x軸とy軸とz軸を含む三次元座標とされているが、これに限られるものではなく、x軸とy軸を含む二次元座標とされてもよい。二次元座標の場合、仮想現実キャラクターCが出現する高さ位置は、表示用デバイス4,5における表示部4a,5aの高さ位置に対応する。
【0067】
〔第一サーバについて〕
続いて、第一サーバ7は、ユーザUの行動を支援するための機能を備えたコンピューター装置であり、通信ネットワークNを介して表示制御部6と通信可能に接続されている。そして、表示制御部6から、宅内情報取得部2によって取得した宅内情報や、ユーザ情報取得部3によって取得したユーザ情報(ユーザUの声の情報を含む)、表示用デバイス4,5の位置情報等を受信し、その受信した情報に基づいて生成されたメッセージ情報を表示制御部6に送信する。メッセージ情報は、仮想現実キャラクターCを通じてユーザUに伝えられ、ユーザUにアドバイスや提案を行うことで、ユーザUの行動を支援することが可能となる。
このような第一サーバ7は、
図6に示すように、少なくとも演算部7a、記憶部7b、通信部7c、分析部7dを備えて構成されている。その他に、マウスやキーボード等の操作部や、ディスプレイ等の表示部などを適宜備えるものとする。
【0068】
演算部7aは、CPU、ROM及びRAM等から構成され、第一サーバ7の処理動作を統括的に制御する。具体的には、演算部7aのCPUは、ROMに記憶されている各種処理プログラムを読み出してRAMに展開し、当該プログラムとの協働により各種処理を行う。
【0069】
記憶部7bは、HDDや不揮発性メモリー等により構成され、宅内表示システムを実現させるのに必要な各種データや各種プログラムを記憶している。具体的には、例えば、表示制御部6から受信した情報に基づくメッセージ情報を生成するためのメッセージ生成プログラム30等を記憶している。
メッセージ生成プログラム30は、演出制御手段における主要な構成要素の一つであって、表示制御部6から受信した情報に基づいて、仮想現実キャラクターCが発言するメッセージ(アドバイスや提案を含む)を生成するためのものであり、仮想現実キャラクターCは、第一サーバ7で生成されたメッセージ情報に基づいて、表示用デバイス4,5上で発言を行う。
メッセージ生成プログラム30によって生成されたメッセージ情報は音声出力されてもよいし、表示用デバイス4,5上でテキスト出力されてもよい。
音声出力する場合は、表示用デバイス4,5のスピーカー4bから出力してもよいし、ユーザ情報取得部3における複数のスピーカーから出力してもよい。なお、メッセージ情報の種類は多岐にわたり、音声を事前に用意しておくことは困難であるため、いわゆるボーカロイド技術が取り入れられている。
表示部4a,5aにテキスト出力する場合は、漫画の吹き出しのように表現したり、映画の字幕のように表現したり、その他の映像コンテンツの表現を採用したりする。これにより、例えばユーザUに聴覚障害があっても仮想現実キャラクターCの発言等を把握することができる。
【0070】
また、記憶部7bは、表示制御部6から受信した情報と、メッセージ生成プログラム30によって生成されたメッセージ情報と、仮想現実キャラクターの宅内座標情報や好感度が記憶されたデータベース40を有する。データベース40に記憶された各種情報は蓄積されて最適化される。
【0071】
通信部7cは、ネットワークインターフェース等により構成され、通信ネットワークNを介して接続された外部機器(表示制御部6、第二サーバ8)との間でデータの送受信を行う。
【0072】
分析部7dは、AI(artificial intelligence)であり、CPUと分析部7d内に記憶されている各種学習プログラムとの協働により実現されることとするが、専用のハードウエアにより構成されることとしてもよい。また、分析部7dは、記憶部7b及びデータベース40に蓄積された情報の機械学習を行うことができる。これにより、ユーザUは、あたかも育成ゲームのような感覚で、仮想現実キャラクターCと会話することができるようになる。
【0073】
より詳細に説明すると、分析部7dは、ユーザUと仮想現実キャラクターCとの間で交わされた会話のテキスト分析を行い、ユーザUと仮想現実キャラクターCとの親密度を推定する。この推定には、テキストに対して公知の親密度推定手法を用いる他、ユーザUと仮想現実キャラクターCとの会話のテキストと親密度とを関連付けた教師データを用いてもよい。
そして、推定された親密度の高低に合わせて仮想現実キャラクターCからユーザUに対する好感度を増減し、好感度が高くなるにつれて、メッセージ生成プログラムによるメッセージ情報の生成や、演出制御手段による仮想現実キャラクターCのアニメーション表示を制御し、仮想現実キャラクターCの態度を他人行儀なものから親密なものへと変化させる。これにより、好感度に応じてユーザUを思いやる発言や行動をとる等の演出を行うことができる。なお、会話の情報は、会話の内容もさることながら、会話の量も親密度を量る上で重要となる。つまり、ユーザUと仮想現実キャラクターCとの会話が増える(接点が増える)ことも重視される。そのため、上述の親密度推定に、会話の量が多い場合に親密度を高めに推定しても良いし、会話の量のみから親密度を推定しても良い。
また、分析部7dは、ユーザUと仮想現実キャラクターCとの間で交わされた会話の情報(会話の内容)の自然言語処理分析を行い、ユーザの趣味嗜好や性格なども分析してもよい。この場合、ユーザの趣味嗜好や性格など抽出したユーザ情報の量が多いほど親密度を高くする。また、ユーザ情報の量を蓄積させ、この蓄積量に比例して好感度を設定しても良い。なお、このユーザの趣味嗜好や性格の内容自体をメッセージ生成プログラム30において生成されるメッセージ情報に反映しても良い。
さらに、分析部7dは、ユーザUから会話を振られたタイミングの情報と、ユーザUから会話を断られたタイミングの情報と、を学習用データとして蓄積記憶して機械学習を行うことにより、会話を開始するのに最適なタイミングを分析する。これにより、どのようなタイミングで話しかければよいか、あるいは話しかけない方がよいのかを学習することができる。
なお、タイミングの分析を行う場合は、上記の各タイミングの情報だけでなく、会話の前後におけるユーザUの位置情報や、カメラによるユーザUの顔認識情報、マイクによるユーザUの声認識情報、ウェアラブル端末による汗や体温、脈拍等の生体情報等を加味して分析を行ってもよい。これにより、どのようなシチュエーションで話しかければよいか、あるいは話しかけない方がよいのかを学習することができる。
【0074】
また、分析部7dは、カメラによるユーザUの顔認識情報や、マイクによるユーザUの声認識情報、ウェアラブル端末による汗や体温、脈拍等の生体情報、ユーザUの外出情報、気象情報等を蓄積記憶して機械学習を行うことにより、ユーザUの健康状態を分析する。その分析の結果次第で、仮想現実キャラクターCからユーザUに投げかけられる発言や動作等の演出を変化させていくように設定されている。
例えば、ユーザUが汗をかいていたり暑がっていたりすると、学習データに基づいて仮想現実キャラクターCからユーザUに対して暑いか否かを問いかけ、ユーザUが暑いと答えた場合には、宅内デバイス操作プログラム21を実行してエアコンを稼働させる。
また、予め設定された閾値以上の温度になった場合には、仮想現実キャラクターCも暑さを感じさせる発言や動作等の演出を行う。反対に、予め設定された閾値以下の温度になった場合には、仮想現実キャラクターCも寒さを感じさせる発言や動作等の演出を行う。
【0075】
また、分析部7dは、その他にも、仮想現実キャラクターCからのアドバイスや提案を受けて、ユーザUがどのように対応したかを情報として蓄積記憶して機械学習を行うことにより、ユーザUの行動パターンや嗜好等を分析する。さらに、ユーザUの発言や行動を受けて、仮想現実キャラクターCがどのような発言や演出を行ったかも情報として蓄積記憶して機械学習を行うことにより、ユーザUの行動パターンや嗜好等を分析する。その分析の結果次第で、仮想現実キャラクターCからユーザUに投げかけられる発言や動作等の演出を変化させていくように設定されている。
【0076】
なお、仮想現実キャラクターCの発言(メッセージ情報)や動作は、ユーザUの発言や行動にしっかりと対応することが求められる。つまり、ユーザUと仮想現実キャラクターCとの会話において双方の受け答えが成立することが求められるが、必ずしも規則正しいものである必要はない。分析部7dによる分析の結果に応じて、メッセージ生成プログラム30によってメッセージ情報を生成し、さらに、生成したメッセージ情報に応じて、表示制御プログラム20によって仮想現実キャラクターCの動作を制御し、発言や動作をランダムに生成してユーザUとの会話を行ってもよい。
【0077】
〔第二サーバについて〕
続いて、第二サーバ8は、外部の各種情報配信サーバから諸情報を取得して宅内表示システムに提供するためのコンピューター装置であり、通信ネットワークNを介して表示制御部6又は第一サーバ7と通信可能に接続されている。
外部の各種情報配信サーバから取得する諸情報としては、例えば、気象情報や交通情報、各種店舗等から提供された買い物情報、スポーツ・アート・花火大会等のイベント情報、桜の開花情報・紅葉の色づき情報・スキー場の積雪量等の行楽や観光に関する季節の情報などが含まれている。
このような第二サーバ8は、
図7に示すように、少なくとも演算部8a、記憶部8b、通信部8cを備えて構成されている。その他に、マウスやキーボード等の操作部や、ディスプレイ等の表示部などを適宜備えるものとする。
【0078】
演算部8aは、CPU、ROM及びRAM等から構成され、第二サーバ8の処理動作を統括的に制御する。具体的には、演算部8aのCPUは、ROMに記憶されている各種処理プログラムを読み出してRAMに展開し、当該プログラムとの協働により各種処理を行う。
【0079】
記憶部8bは、HDDや不揮発性メモリー等により構成され、宅内表示システムを実現させるのに必要な各種データや各種プログラムを記憶している。具体的には、例えば、外部の各種情報配信サーバから諸情報を取得するための情報取得プログラムや、表示制御部6又は第一サーバ7からの情報提供要求の信号を受け付けて該当する情報の送信を行う情報送信プログラム等を記憶している。
【0080】
通信部8cは、ネットワークインターフェース等により構成され、通信ネットワークNを介して接続された外部機器(表示制御部6、第一サーバ7、外部の各種情報配信サーバ)との間でデータの送受信を行う。
【0081】
なお、第二サーバ8は、外部の各種情報配信サーバから諸情報を取得して宅内表示システムに提供する機能に特化したサーバであるが、第一サーバ7に統合されていてもよい。すなわち、第二サーバ8の記憶部8bに記憶される各種データや各種プログラムを、第一サーバ7の記憶部7bに記憶して演算部7aで実行できるようにする。
【0082】
〔仮想現実キャラクターについて〕
次に、仮想現実キャラクターCについて詳細に説明する。
仮想現実キャラクターCは、基本的には1軒の住宅1につき1体とするが、これに限られるものではなく、1軒の住宅1につき複数体としてもよい。複数体とする場合は、例えば同種の色違いにしたり、完全に別種にしたりして、複数体同時に出現できるようにしてもよい。
1軒の住宅1につき1体の仮想現実キャラクターCのみ出現可能な設定とする場合、複数の表示用デバイス4,5が起動していても同時には出現しない設定とすることが好ましいが、複数の表示用デバイス4,5の位置が離間している場合は利便性向上のため、各表示用デバイス4,5に同時に出現できる設定としてもよい。
複数体の仮想現実キャラクターCが出現可能な設定とする場合は、表示用デバイス4,5ごとに1体ずつ出現させてもよいし、同時に出現させてもよい。表示用デバイス4,5ごとに1体ずつ出現させる場合は、どの種類の仮想現実キャラクターCが出現するかは完全にランダムにしてもよいし、表示用デバイス4,5ごとに割り振ってもよい。
【0083】
仮想現実キャラクターCは、ただの「召使い」として扱われるのではなく、性格や感情を持ち合わせ、好き/嫌い等の価値観を持つように設定される。その結果、ユーザUは、仮想現実キャラクターCに対して愛情・愛着が湧くようになり、親近感を覚え、思い入れがあり、放っておけない存在となり得る。
このような仮想現実キャラクターCの容姿は、愛着が湧きやすく親近感を覚えやすいものが好ましい。本実施形態における仮想現実キャラクターCは「妖精」の容姿となっているが、これに限られるものではない。例えば、デフォルメした動物や、子供の好きなテレビアニメとコラボレーションしてそのキャラクターを登場させてもよいし、スポンサー契約している有名人を実写で登場させてもよいし、その他のオリジナルのキャラクターを創作してもよい。また、都度更新し、新しい仕草や表情を取得したり、仮想現実キャラクターCの入れ替えを行なったり、期間限定の仮想現実キャラクターCを登場させたりして、ユーザUの興味を継続させるようにしてもよい。
【0084】
仮想現実キャラクターCは、表示用デバイス4,5の表示部4a,5aに表示可能であり、表示用デバイス4,5の位置や向きに応じてどこにでも現れる設定となっている。さらに、アニメーション技術によって動作し、仮想現実キャラクターCが現れた場所に合わせた様々な演出を行うことができ、演出に合わせて仕草や表情を変えることができる。
例えば
図4に示す仮想現実キャラクターCは、現実世界の宅内風景S2(キッチン)に出現した状態である。現実世界のキッチンでは鍋に火が掛けられており、仮想現実キャラクターCは、一緒に料理を行うように演出されている。図示はしないが、仮想現実キャラクターCは、一生懸命に調味料を振りかける仕草や表情をしており、ユーザUは、一生懸命に料理を手伝う仮想現実キャラクターCに対して親近感を覚える。また、ダイニングでは食事を楽しませる仕草をしたり、一緒に食事をしたりする。
【0085】
仮想現実キャラクターCの発言(メッセージ情報)は、メッセージ生成プログラム30によってランダムに生成されることがある。これにより、仮想現実キャラクターCを、気まぐれな性格であるように見せかけることができ、仮想現実キャラクターCには仮想現実キャラクターCの性格・価値観・考え方がある、と思わせるような演出を行うことができる。このような仮想現実キャラクターCの気質に係る部分の設定については、例えばスマートフォン4における専用のアプリケーションで変更できるようにしてもよい。仮想現実キャラクターCの性格としては、気まぐれの他にも、真面目、丁寧、目立ちたがり屋、臆病、楽観的、悲観的、ひょうきん等、様々なものが挙げられる。
【0086】
なお、本実施形態における仮想現実キャラクターCは、ユーザUに対してアドバイスや提案を行ったり、ユーザUと会話したりすることでユーザUの行動を支援するものであるが、これに限られるものではない。例えば容姿を、デフォルメした動物に変更し、単に愛玩用のバーチャルペットとして利用できるようにしてもよい。
【0087】
以上のような仮想現実キャラクターCは、上記のように、住宅1内に予め設定された宅内座標情報10に基づいて表示される。換言すれば、座標が設定された場所であれば、どこでも出現可能となっている。そして、表示用デバイス4,5の表示部4a,5aに表示されて、表示部4a,5a内で動き回ったり、時には消えたり、身振り手振りを交えながら動作するとともに、アドバイスや提案を含む発言を行ってユーザUと会話する。
また、ユーザUとのやり取りを通じて宅内デバイス操作プログラム21を実行し、各種宅内デバイスを操作することもできる。
【0088】
さらに、スマートフォン4等の携帯情報端末を表示用デバイス4とする場合は、住宅1の外部(敷地外)に仮想現実キャラクターCを連れ出すことができる。換言すれば、専用のアプリケーションに対して、仮想現実キャラクターCの連れ出し機能を付与する。外部に連れ出した場合は、例えばGPS(Global Positioning System)等の測位システムを利用し、専用のアプリケーションを起動させた場所に係る情報(第二サーバ8を通じて取得できる情報)と、仮想現実キャラクターCの発言や動作をリンクさせるような演出を行ってもよい。
なお、スマートフォン4以外の表示用デバイス5であっても、スマートフォン4の場合と同様の機能を付与すれば、住宅1の外部(敷地外)に仮想現実キャラクターCを連れ出すことができる。
【0089】
〔宅内表示システムの機能〕
本実施形態における宅内表示システムは、表示用デバイス4,5の表示部4a,5aに表示される仮想現実キャラクターCをユーザインターフェースとして機能させており、ユーザUは、仮想現実キャラクターCを通じて宅内表示システムを利用する。宅内表示システムは、上記の各部(宅内情報取得部2、ユーザ情報取得部3、表示用デバイス4,5、表示制御部6、第一サーバ7、第二サーバ8)の構成を適宜組み合わせることにより、例えば以下のような機能を発揮する。すなわち、以下の機能は、ユーザUと仮想現実キャラクターCとの間でのやり取りを通じて実行される。
【0090】
●住宅1で使用されるエネルギー(電気、水道、ガス)の使用状況を判定する。判定の結果に応じてユーザUにアドバイスや提案を行う。
●住宅1内の温湿度管理を行う。すなわち、温湿度センサー等によって取得した住宅1内の温熱環境情報(温湿度、電力使用状況など)、及びユーザUとの会話等やユーザ情報取得部3によって取得したユーザUの状態(暑いと感じている、今から外出しようとしている等)を考慮した宅内デバイス操作のアドバイスや提案を行う。
●ユーザUとの会話等やユーザ情報取得部3によって、ユーザUが家電の操作に困っていることを検知した場合に、その家電の周囲に仮想現実キャラクターCを表示させ、仮想現実キャラクターCの手足を使って操作方法を教えたり、家電のボタン上に、仮想の目印やマークを重ね合わせて表示して説明したりする。
●ユーザUとの会話等やユーザ情報取得部3によって、ユーザUが調理方法に困っていることを検知した場合に、キッチン台1aの周囲に仮想現実キャラクターCを表示させ、仮想現実キャラクターCの手足を使って操作方法を教えたり、食材の上に、仮想の目印やマークを重ね合わせて表示して説明したりする。
●ユーザUとの会話等やユーザ情報取得部3によって、ユーザUが勉強に困っていることを検知した場合に、ユーザUの周囲に仮想現実キャラクターCを表示させ、仮想現実キャラクターCがヒントや正しい解答へのアプローチを教える。
●ユーザUとの会話等やユーザ情報取得部3によって、ユーザUが探し物を探していることを検知した場合に、住宅1内に配置されたカメラに写り込んだ物品の中から、ユーザUの探し物を見つけ出して、仮想現実キャラクターCがユーザUに教える。
●食品やその他の収納物品の在庫管理を行う。食品や物品の増減を検知して買い物の提案を行う。
●食品の在庫管理を行うことに加えて、ユーザUとの会話等により取得したユーザUの気分(今日は○○を食べたい)を考慮したレシピの提案と、必要に応じて買い物の提案を行う。
●気象情報、災害情報や防災情報等を含む情報のお知らせを行う。気象情報のうち、今日の天気等の情報は、表示部4a,5aの表示画面における隅角に簡易表示する形でお知らせするようにしてもよい。
●交通情報のお知らせを行う。ユーザUとの会話等やユーザ情報取得部3によって取得したユーザUの状態(今から外出しようとしている)を考慮して交通情報をお知らせする。
●各種店舗等から提供された買い物情報のお知らせを行う。食品やその他の物品の在庫管理と連動してもよく、各種店舗等から広告収入を得て宣伝広告活動を行うようにしてもよい。その場合、宅内表示システムと、各種店舗等が構築した商品販売システム(例えば通販システム、宅配システム)とを連動させてもよい。
●スポーツ・アート・花火大会等のイベント情報のお知らせを行う。イベントの主催者や興行主、チケット販売業者等から広告収入を得て宣伝広告活動を行うようにしてもよい。その場合、宅内表示システムと、チケット販売システムとを連動させてもよい。
●桜の開花情報・紅葉の色づき情報・スキー場の積雪量等の行楽や観光に関する季節の情報のお知らせを行う。
●ユーザUが表示用デバイス4,5を使用している場所やシチュエーションに応じた会話等を行う。
●ユーザUの顔の表情や声のトーンを読み取り、その表情や声のトーンに応じた会話等を行う。例えば、ユーザUが楽しげな時には、それに応じて楽しげな会話等を行う。ユーザUが悲しそうな時には、それに応じた励ましの言葉を含むような会話や動作を行う。
●ユーザUとの会話等を蓄積記憶して、ユーザUの行動パターンや嗜好等を分析し、分析の結果に基づく会話や動作を行う。
●住宅1内におけるユーザUの行動を蓄積記憶して、ユーザUの行動パターンや嗜好等を分析し、分析の結果に基づく会話や動作を行う。また、ユーザUの行動予測を行って、住宅1内における生活での安全性向上に係るアドバイスや提案を行う。
●ヘルスメーターやウェアラブル端末等によるユーザUの身体測定や健康状態等の情報を蓄積記憶し、それに応じてユーザUに健康に関するアドバイスや提案を行う。
●住宅1における防犯性の向上を図る。すなわち、住宅1内に配置されたカメラを含むユーザ情報取得部3によってユーザUの判別ができるため、ユーザU以外の人を判別することが容易であり、ユーザU以外の人を確認した場合には、スマートフォン4にその情報を送信したり、場合によっては警察や警備会社に通報したりする。
●表示用デバイス4,5を使用していない時に、ユーザUにお知らせがある場合は、住宅1内に配置されたスピーカーのうちユーザUに近い場所に配置されたスピーカーから音声を発したり、呼び鈴等の合図の音で知らせたりする。また、スマートフォン4に通知を行うようにしてもよい。
●スマートフォン4等の携帯情報端末における専用のアプリケーションに対して、仮想現実キャラクターCの連れ出し機能を付与し、住宅1の外部(敷地外)に仮想現実キャラクターCを連れ出すことができる。撮影した写真や行った場所の情報を蓄積記憶し、今後のユーザUとの会話に活かすようにする。
●外出時において地図情報システム及び測位システムと連携することで、目的地までのナビゲーションを行う。
●外出時において周辺地域の店舗情報や、スマートフォン4等の携帯情報端末におけるカメラに写り込んだ店舗の情報のお知らせを行う。
●外出時において食品やその他の収納物品の在庫のお知らせを行う。
●ユーザUと、そのユーザUと一緒にいる第三者(撮影した写真に写っている人物)との間の会話のきっかけを作るような発言等を行う。
【0091】
本実施形態における宅内表示システムの機能は以上のものに限られるものではなく、本発明の趣旨を逸脱しない範囲で適宜追加や変更が可能となっている。
【0092】
本実施形態によれば、以下のような優れた効果を奏する。
すなわち、演出制御手段(表示制御部6、第一サーバ7、第二サーバ8)は、ユーザ情報に基づいて生成されたユーザUに伝達するためのメッセージ情報の出力を含む演出の制御を行うので、メッセージ情報には必然的にユーザU自身に関する情報が含まれたものとなり、ユーザUに、メッセージ情報に対する興味を抱かせやすくすることができる。また、演出制御手段は、このようなメッセージ情報に対応する仮想現実キャラクターCのアニメーション表示を含む演出の制御を行うので、ユーザUに、仮想現実キャラクターCに対する興味を抱かせやすくすることができ、ユーザUには、仮想現実キャラクターCに対する愛着心が湧きやすくなる。これにより、ユーザUに対して、アドバイスや提案等のメッセージ情報の出力を行うシステムへの愛着が湧くように促し、システムの使用頻度の向上を図ることができる。
【0093】
また、演出制御手段(表示制御部6、第一サーバ7、第二サーバ8)は、宅内情報及びユーザ情報に基づいて生成されたメッセージ情報の出力を含む演出の制御を行うので、メッセージ情報には必然的にユーザUが居住する住宅1の情報とユーザU自身に関する情報が含まれたものとなり、ユーザUに、メッセージ情報に対する興味を抱かせやすくすることができる。また、演出制御手段は、このようなメッセージ情報に対応する仮想現実キャラクターCのアニメーション表示を含む演出の制御を行うので、ユーザUに、仮想現実キャラクターCに対する興味を抱かせやすくすることができ、ユーザUには、仮想現実キャラクターCに対する愛着心が湧きやすくなる。これにより、ユーザUに対して、アドバイスや提案等のメッセージ情報の出力を行うシステムへの愛着が湧くように促し、システムの更なる使用頻度の向上を図ることができる。
【0094】
また、演出制御手段(表示制御部6、第一サーバ7、第二サーバ8)は、仮想的に構築された仮想世界のうち宅内座標情報10に対応付けられた位置に、仮想現実キャラクターCを表示させる制御を行うので、宅内座標情報10に対応付けられた位置であれば、どこでも仮想現実キャラクターCを表示させることができる。これにより、住宅1内の様々な場所で仮想現実キャラクターCの演出を楽しむことができるので、ユーザUには、仮想現実キャラクターCに対する愛着心が湧きやすくなり、結果的に、システムの使用頻度の向上に貢献できる。
【0095】
また、演出制御手段(表示制御部6、第一サーバ7、第二サーバ8)は、ユーザUと仮想現実キャラクターCとの間で交わされた会話からユーザUと仮想現実キャラクターCとの親密度を推定する分析部7dを更に備えるので、推定された親密度の高低に合わせて仮想現実キャラクターCからユーザUに対する好感度を増減し、好感度が高くなるにつれて、仮想現実キャラクターCの態度を他人行儀なものから親密なものへと変化させる。これにより、好感度に応じてユーザUを思いやる発言や行動をとる等の演出を行うことができるので、ユーザUには、仮想現実キャラクターCに対する愛着心が更に湧きやすくなり、結果的に、システムの使用頻度の向上に貢献できる。
【0096】
また、演出制御手段(表示制御部6の表示制御プログラム20、第一サーバ7、第二サーバ8)と連携し、かつ、住宅1内に設けられた操作対象デバイスを操作する宅内デバイス操作手段22(宅内デバイス操作プログラム21)を更に備えるので、演出制御手段と連携する宅内デバイス操作手段22によって、ユーザUと仮想現実キャラクターCとの会話や動作を通じて、操作対象デバイスの操作を行うことができる。これにより、ユーザUは、単に仮想現実キャラクターCの演出を楽しむだけでなく、仮想現実キャラクターCを通じて住宅1の設備等をコントロールする楽しみを味わうことができる。しかも、ユーザUが操作対象デバイスを直接操作したわけではなく、ユーザUとの会話を通じて「(見かけ上は)仮想現実キャラクターCが自分のために操作対象デバイスを操作してくれた」とユーザUが感じることができるので、仮想現実キャラクターCに対する愛着心が湧きやすくなり、結果的に、システムの使用頻度の向上に貢献できる。
【符号の説明】
【0097】
U ユーザ
C 仮想現実キャラクター
N 通信ネットワーク
S1 宅内風景(本棚のある部屋)
S2 宅内風景(調理中の鍋)
1 住宅
1a キッチン台
2 宅内情報取得部
3 ユーザ情報取得部
4 表示用デバイス(スマートフォン)
4a 表示部
4b スピーカー
4c インカメラ
5 表示用デバイス(AR眼鏡)
5a 表示部
6 表示制御部
6a 演算部
6b 記憶部
6c 無線用通信部
6d 有線用通信部
6e 電話用通信部
6f 宅外用通信部
7 第一サーバ
7a 演算部
7b 記憶部
7c 通信部
7d 分析部
8 第二サーバ
8a 演算部
8b 記憶部
8c 通信部
10 宅内座標情報
11 宅内座標(キッチン台の位置)
12 宅内座標(ユーザの位置)
20 表示制御プログラム
21 宅内デバイス操作プログラム
22 宅内座標算出プログラム
30 メッセージ生成プログラム
40 データベース