(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024123613
(43)【公開日】2024-09-12
(54)【発明の名称】情報処理装置、情報処理システム、およびプログラム
(51)【国際特許分類】
G06F 3/01 20060101AFI20240905BHJP
A63B 69/00 20060101ALI20240905BHJP
【FI】
G06F3/01 510
A63B69/00 A
A63B69/00 C
【審査請求】未請求
【請求項の数】18
【出願形態】OL
(21)【出願番号】P 2023031182
(22)【出願日】2023-03-01
(71)【出願人】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100107515
【弁理士】
【氏名又は名称】廣田 浩一
(72)【発明者】
【氏名】川瀬 勉
(72)【発明者】
【氏名】池田 淳
(72)【発明者】
【氏名】渡辺 隼人
(72)【発明者】
【氏名】鈴木 恭介
【テーマコード(参考)】
5E555
【Fターム(参考)】
5E555AA11
5E555AA76
5E555BA02
5E555BA87
5E555BB02
5E555BC04
5E555BE17
5E555CA41
5E555CA42
5E555CB65
5E555DA21
5E555DA26
5E555DA27
5E555DA30
5E555DB57
5E555DC84
5E555FA00
(57)【要約】
【課題】リアリティに優れた外出体験を利用者にさせることができる技術を提供すること。
【解決手段】本発明の一態様に係る情報処理装置は、表示装置に表示される動画を視認する利用者の歩行状態を検出する歩行センサからの前記歩行状態に関する情報に基づいて、前記動画の再生を制御する再生制御部と、前記歩行状態に応じた前記動画の再生時間に基づいて、外部装置による前記利用者の感覚に作用する動作を制御する動作制御部と、を有する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
表示装置に表示される動画を視認する利用者の歩行状態を検出する歩行センサからの前記歩行状態に関する情報に基づいて、前記動画の再生を制御する再生制御部と、
前記歩行状態に応じた前記動画の再生時間に基づいて、外部装置による前記利用者の感覚に作用する動作を制御する動作制御部と、を有する、情報処理装置。
【請求項2】
前記再生制御部は、前記利用者の視線方向に関する情報にさらに基づいて、前記動画を再生する、請求項1に記載の情報処理装置。
【請求項3】
前記利用者の感覚に作用する動作は、前記利用者の周囲における照度、風、匂い、水滴、煙および気温の少なくとも1つに関する動作を含む、請求項1または請求項2に記載の情報処理装置。
【請求項4】
表示装置に表示される動画を視認する利用者の歩行状態を検出する歩行センサと、
前記動画の識別情報と、前記利用者の歩行状態に応じた前記動画の再生時間情報と、を送信する情報処理装置と、
前記再生時間情報に含まれる前記歩行状態に関する情報に基づいて、前記動画の識別情報に対応する前記動画の再生を制御する再生制御装置と、
前記再生時間情報に基づいて、外部装置による前記利用者の感覚に作用する動作を制御する動作制御装置と、を有する情報処理システム。
【請求項5】
前記動作制御装置は、前記利用者の視線方向に関する情報にさらに基づいて、前記外部装置による前記利用者の感覚に作用する動作を制御する、請求項4に記載の情報処理システム。
【請求項6】
前記再生制御装置は、前記情報処理装置からの前記動画の識別情報に基づき、それぞれが前記識別情報に対応付けられた複数の動画を記憶する第1記憶部を参照して取得される前記動画を前記表示装置に表示させる、請求項4に記載の情報処理システム。
【請求項7】
前記動作制御装置は、前記情報処理装置からの前記再生時間情報に基づき、前記再生時間情報に対応付けられた前記外部装置の動作に関する情報を記憶する第2記憶部を参照して取得される前記動作に関する情報に応じて、前記外部装置による前記利用者の感覚に作用する動作を制御する、請求項4に記載の情報処理システム。
【請求項8】
前記動画の識別情報と前記再生時間情報とに基づいてウェブ情報を表示するとともに、前記ウェブ情報に関連する処理を実行するように外部端末の動作を制御する端末制御装置をさらに有する、請求項4に記載の情報処理システム。
【請求項9】
前記端末制御装置は、前記利用者の視線方向に関する情報にさらに基づいて、前記ウェブ情報を表示するとともに、前記ウェブ情報に関連する処理を実行するように前記外部端末の動作を制御する、請求項8に記載の情報処理システム。
【請求項10】
前記情報処理装置は、前記利用者に関する情報をさらに送信し、
前記動作制御装置は、前記利用者に関する情報にさらに基づいて、前記外部装置による前記利用者の感覚に作用する動作を制御する、請求項4に記載の情報処理システム。
【請求項11】
前記再生制御装置は、前記動画の識別情報と前記再生時間情報とを示す識別コードを前記表示装置に表示させ、
前記表示装置に表示された前記識別コードに基づいて前記動画に関連するウェブ情報を表示するとともに、前記ウェブ情報に関連する処理を実行するように外部端末の動作を制御する端末制御装置をさらに有する、請求項4に記載の情報処理システム。
【請求項12】
前記再生制御装置は、前記動画の識別情報と前記再生時間情報と前記利用者の視線方向に関する情報を示す識別コードを前記表示装置に表示させる、請求項4に記載の情報処理システム。
【請求項13】
前記再生制御装置は、前記動画の識別情報と前記再生時間情報とを示す音声を前記表示装置により発生させ、
前記動作制御装置は、前記音声を介して取得される前記再生時間情報に基づき、前記外部装置による前記利用者の感覚に作用する動作を制御する、請求項4に記載の情報処理システム。
【請求項14】
前記再生制御装置は、前記動画の識別情報と前記再生時間情報と前記利用者の視線方向に関する情報を示す音声を前記表示装置により発生させる、請求項4に記載の情報処理システム。
【請求項15】
前記表示装置は頭部装着型の表示装置であって、
前記再生制御装置は、前記頭部装着型の表示装置に表示される動画の再生を制御する、請求項4に記載の情報処理システム。
【請求項16】
歩行センサにより、表示装置に表示される動画を視認する利用者の歩行状態を検出し、
情報処理装置により、前記動画の識別情報と、前記利用者の歩行状態に応じた前記動画の再生時間情報と、を送信し、
再生制御装置により、前記歩行状態に関する情報に基づいて、前記動画の識別情報に対応する前記動画の再生を制御し、
動作制御装置により、前記再生時間情報に基づいて、外部装置による前記利用者の感覚に作用する動作を制御する
処理を、情報処理システムに実行させるプログラム。
【請求項17】
前記情報処理装置は、さらに前記利用者の視線方向に関する情報を送信し、
前記動作制御装置は、前記利用者の視線方向に関する情報をさらに基づいて、前記外部装置による前記利用者の感覚に作用する動作を制御する、請求項16に記載のプログラム。
【請求項18】
表示装置に表示される動画を視認する利用者の歩行状態を検出する歩行センサと、
前記動画の識別情報と、前記利用者の歩行状態に応じた前記動画の再生時間情報を送信する情報処理装置と、
前記再生時間情報に含まれる前記歩行状態に関する情報に基づいて、前記動画の識別情報に対応する前記動画の再生を制御する再生制御装置と、
前記動画の識別情報と前記再生時間情報とに基づいてウェブ情報を表示するとともに、前記ウェブ情報に関連する処理を実行するように外部端末の動作を制御する端末制御装置と、を有する情報処理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理システム、およびプログラムに関する。
【背景技術】
【0002】
例えば特許文献1には、利用者の歩行状態に応じて表示装置に表示させる再生画像を変更することにより、利用者に様々な外出体験をさせる技術が開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0003】
しかしながら、特許文献1に記載の技術では、主に再生画像に基づき利用者に外出体験をさせるため、リアリティの観点で改善の余地がある。
【0004】
本発明は、リアリティに優れた外出体験を利用者にさせることができる技術を提供することを目的とする。
【課題を解決するための手段】
【0005】
本発明の一態様に係る情報処理装置は、表示装置に表示される動画を視認する利用者の歩行状態を検出する歩行センサからの前記歩行状態に関する情報に基づいて、前記動画の再生を制御する再生制御部と、前記歩行状態に応じた前記動画の再生時間に基づいて、外部装置による前記利用者の感覚に作用する動作を制御する動作制御部と、を有する。
【発明の効果】
【0006】
本発明によれば、リアリティに優れた外出体験を利用者にさせることができる技術を提供できる。
【図面の簡単な説明】
【0007】
【
図1】第1実施形態に係る情報処理装置の利用例を示す図である。
【
図2】第1実施形態に係る情報処理装置の構成例を示すブロック図である。
【
図3】第1実施形態に係る情報処理装置の機能構成例のブロック図である。
【
図4】第1実施形態に係る情報処理装置による処理例を示すフロー図である。
【
図5】動画の識別情報と動画の対応テーブルの一例を示す図である。
【
図6】動画と再生時間との関係を説明する図である。
【
図7】再生時間に応じた送風装置の制御の様子の一例を示す図である。
【
図8】再生時間に応じた照明装置の制御の様子の一例を示す図である。
【
図9】動画と再生時間情報と動作情報との関係の一例を説明する図である。
【
図10】第2実施形態に係る情報処理システムの構成例を示す図である。
【
図11】第2実施形態に係る情報処理システムの構成例のブロック図である。
【
図12】第2実施形態に係る再生制御装置の構成例を示すブロック図である。
【
図13】第2実施形態に係る情報処理装置の機能構成例のブロック図である。
【
図14】第2実施形態に係る再生制御装置の機能構成例のブロック図である。
【
図15】第2実施形態に係る動作制御装置の機能構成例のブロック図である。
【
図16】第2実施形態に係る端末制御装置の機能構成例のブロック図である。
【
図17】第2実施形態に係る情報処理システムの動作の第1例を示すシーケンス図である。
【
図18】スーパーマーケット内の動画における動線の一例を示す図である。
【
図19】
図18におけるXIX領域で表示されるフレームの一例とウェブ情報の一例を示す図である。
【
図20】
図18におけるXX領域で表示されるフレームの一例とウェブ情報の一例を示す図である。
【
図21】観光地の動画とウェブ情報の第1例を示す図である。
【
図22】観光地の動画とウェブ情報の第2例を示す図である。
【
図23】観光地の動画とウェブ情報の第3例を示す図である。
【
図24】第2記憶部に記憶させる情報の一例を示す図である。
【
図25】表示装置に識別コードを表示させるボタンの一例を示す図である。
【
図26】表示装置に表示された識別コードの一例を示す図である。
【
図27】第2実施形態に係る情報処理システムの動作の第2例を示すシーケンス図である。
【
図29】第1変形例に係る情報処理システムを示す図である。
【
図30】第2変形例に係る情報処理システムを示す図である。
【
図31】第3変形例に係る情報処理システムを示す図である。
【
図32】その他の変形例について説明する第1図である。
【
図33】その他の変形例について説明する第2図である。
【発明を実施するための形態】
【0008】
以下、図面を参照して発明を実施するための形態について詳細に説明する。各図面において、同一構成部には同一符号を付し、重複した説明を適宜省略する。
【0009】
本明細書では、利用者の運動を支援可能な情報処理装置または情報処理システムを一例として実施形態を説明する。なお、実施形態の用語における動画は、映像と称することもできる。
【0010】
[第1実施形態]
<情報処理装置100の利用例>
図1は、本実施形態に係る情報処理装置100の利用例を示す図である。
図1に示すように、情報処理装置100は、操作部150と、歩行センサ200と、視線センサ250と、表示装置300と、照明装置350と、空調装置400と、匂い発生装置450と、送風装置500と、に対し、有線または無線により通信可能に接続されている。無線は、赤外線、電波、音波等のいずれを利用するものであってもよい。なお、
図1では、利用者Uが1人である場合を例示する。但し、利用者Uは複数人であってもよい。利用者Uが複数人の場合は、利用者Uの人数に合わせて複数の歩行センサ200が設けられる。
【0011】
照明装置350、空調装置400、匂い発生装置450および送風装置500のそれぞれは、利用者Uの感覚に作用する(働きかける)動作を行う外部装置1000に対応する。感覚とは外部からの刺激を感じる働きや意識であり、たとえば、人の視覚、聴覚、嗅覚、触覚の内の少なくとも1つの感覚である。
図1では、照明装置350、空調装置400、匂い発生装置450および送風装置500のそれぞれが外部装置1000に対応するという意味において、これら各装置を示す符号に外部装置1000の符号を括弧書きで併記している。換言すると、外部装置1000は、利用者Uの視覚、聴覚、嗅覚、触覚などの感覚に作用する(働きかける)物理的事象を発生する装置である。
【0012】
本実施形態では、利用者の感覚に作用する動作は、利用者Uの周囲における照度、風、匂い、水滴、煙および気温の少なくとも1つに関する動作を含む。
図1に示す例では、これらの動作のうち、照度、風、匂いおよび気温に関する動作を制御する。情報処理装置100は、照明装置350により照度を、送風装置500により風を、匂い発生装置450により匂いを、空調装置400により気温を、それぞれ制御する。なお、情報処理装置100は、表示装置300を外部装置1000とし、利用者Uの視覚および聴覚に作用する動作を行うように、表示装置300の動作を制御してもよい。また、情報処理装置100は、空調装置400、匂い発生装置450および送風装置500以外の利用者Uの感覚に作用する動作を行う外部装置1000と通信可能に接続されてもよい。
【0013】
歩行センサ200は、表示装置300に表示される動画MVを視認する利用者Uの歩行状態を検出する。歩行状態には、歩行速度、歩行による進行方向等が含まれる。歩行センサ200は、歩行検出パッド211~214を含むシート状部材210と、把持部材220と、を有する。利用者Uは、部屋の床等に敷いた歩行センサ200上に自身の身体を乗せ、歩行検出パッド211~214のいずれかの上に足裏を接触させて足踏みをすることにより、歩行運動を行うことができる。把持部材220は、利用者Uが歩行運動中に倒れないようにつかまるための部材である。
【0014】
歩行検出パッド211~214のそれぞれは圧力センサを含む。歩行センサ200は、歩行検出パッド211~214により、利用者Uの歩行運動に伴う足裏の圧力から利用者Uの歩行状態を検出する。歩行センサ200は、検出した利用者Uの歩行状態に関する情報を情報処理装置100に出力する。
【0015】
視線センサ250は、表示装置300に表示される動画MVを視認する利用者Uの視線方向を検出する。例えば視線センサ250は、カメラと画像処理回路とを含む。視線センサ250は、カメラにより利用者Uの顔画像を撮影し、画像処理回路により、顔画像に含まれる目の画像領域における黒目部分の位置を特定することによって、利用者Uの視線方向を検出する。もしくは、視線センサ250は、利用者Uによる操作部150のボタン操作によって指示された利用者Uの視線方向を検出してもよい。視線センサ250は、検出した利用者Uの視線方向に関する情報を情報処理装置100に出力する。
【0016】
操作部150は、利用者U等の操作者が情報処理装置100を操作するために使用される。例えば利用者Uは、操作部150を用いて、表示装置300に表示させる動画MVを、予め準備された複数の動画の中から選択することができる。操作部150は、情報処理装置100に一体に設けられていてもよいし、リモコンとして情報処理装置100に対して着脱可能であってもよい。
【0017】
表示装置300は、動画MVを表示する。表示装置300は、スピーカー等の音声発生部を含み、動画MVに含まれる音声を、音声発生部を通じて発生させることもできる。
【0018】
照明装置350は、利用者Uが所在する室内を照明する装置である。情報処理装置100は、照明装置350の点灯、消灯、照度等を制御することにより、室内における照明装置350による照明照度を制御する。
【0019】
空調装置400は、利用者Uが所在する室内の温度、湿度等を調節する装置である。情報処理装置100は、空調装置400の動作を制御することにより、室内の温度、湿度等を制御する。
【0020】
匂い発生装置450は、利用者Uが所在する室内に所望の匂いを発生させる装置である。匂い発生装置450は、それぞれが異なる匂いを発生させる複数の物質を、対をなす複数の容器内に備えている。匂い発生装置450は、情報処理装置100からの指令に応じた匂いに対応する物質の容器を開放することにより、この匂いを発生させることができる。情報処理装置100は、匂いを選択する指令等を匂い発生装置450に送信することにより、室内の匂いを制御する。
【0021】
送風装置500は、利用者Uが所在する室内に送風する装置である。送風装置500は、例えば扇風機である。情報処理装置100は、送風装置500による風量、風速、風向等を制御する。
【0022】
本実施形態では、情報処理装置100は、歩行センサ200からの利用者Uの歩行状態に関する情報と、視線センサ250からの利用者Uの視線方向に関する情報と、に基づいて、動画MVの再生を制御する。例えば情報処理装置100は、利用者Uの歩行速度が速いときには動画MVの再生速度を速くしたり、利用者Uが後ろ向きに進んだときには動画MVの再生をリワード(逆再生)したりする。また情報処理装置100は、利用者Uの視線方向が右向きのときには、表示装置300に表示される動画MVにおける映像の視野を全体に左側にシフトさせる等して、利用者Uの視線方向に応じて表示装置300に表示される動画MVの映像の視野を変化させる。自身の歩行に応じて表示装置300を通して視認される景色が変わることにより、利用者Uは、動画MVに表示されている場所を散歩しているような外出体験をすることができる。
【0023】
また本実施形態では、情報処理装置100は、利用者Uの歩行状態に応じた動画MVの再生時間に基づいて、外部装置1000による利用者の感覚に作用する動作を制御する。ここで、表示装置300により表示される動画MVは、その再生時間に応じて、表示する内容が変化する。例えば動画MVが山を散策するものである場合、ある再生時間では、動画MVは山の中を表示し、別の再生時間では、動画MVは山の中から抜け出た場所を表示する等して、再生時間に応じて表示する内容が変化する。なお、ここでの再生時間は、動画の再生を開始してからの経過時間を意味する。「再生時間」という用語は、「時刻」という用語に置換されてもよい。
【0024】
例えば、情報処理装置100は、動画MVが山の中を表示する場合には、照明装置350の照度を低くすることで、あたかも暗い山の中を歩いているかのように利用者Uに感じさせることができる。また動画MVが崖を表示する場合には、山の中と比較して照明装置350の照度を高くし、また送風装置500により風を発生させることで、あたかも山の中から抜け出て、風が吹き抜ける明るい場所を歩いているかのように利用者Uに感じさせることができる。自身の歩行に応じて表示装置300を通して視認される景色が変わるとともに、景色に応じて人の感覚(たとえば、視覚や触覚)が刺激されることによって、利用者Uは、動画MVに表示されている場所を歩いているかのようなリアルな外出体験をすることができる。換言すると、本実施形態では、リアリティに優れた外出体験を利用者Uにさせることができる技術を提供できる。また本実施形態では、リアリティに優れた外出体験を利用者Uにさせることで、利用者Uに歩行運動を行う動機付けを与え、利用者Uの運動を促進し、また支援することができる。
【0025】
<情報処理装置100の構成例>
(ハードウェア構成)
図2は、情報処理装置100の構成の一例を示すブロック図である。
図2に示すように、情報処理装置100は、CPU(Central Processing Unit)101と、ROM(Read Only Memory)102と、RAM(Random Access Memory)103と、HDD(Hard Disk Drive)/SSD(Solid State Drive)104と、I/F(Interface)105と、を有する。これらは、バスラインBを介して電気的に接続されている。
【0026】
CPU101は、ROM102に記憶されたプログラムを実行することにより、順次、分岐処理、反復処理等を実行する演算装置である。ROM102は、CPU101で実行されるプログラム等が記憶された不揮発性メモリである。RAM103は、CPU101の動作のワークエリア(作業領域)として機能するメモリである。バスラインBは、CPU101等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0027】
I/F105は、操作部150、歩行センサ200および視線センサ250それぞれの出力信号を入力する。またI/F105は、外部装置1000としての表示装置300、照明装置350、空調装置400、匂い発生装置450および送風装置500それぞれに制御信号を出力するインターフェースである。
【0028】
(機能構成例)
図3は、情報処理装置100の機能構成の一例を示すブロック図である。
図3に示すように、情報処理装置100は、記憶部120と、選択受付部111と、動画取得部112と、歩行状態取得部113と、視線方向取得部114と、を有する。また情報処理装置100は、再生制御部115と、出力部116と、再生時間取得部117と、動作取得部118と、動作制御部119と、を有する。
【0029】
記憶部120の機能は、
図2のHDD/SSD104等により実現される。動画取得部112、歩行状態取得部113、視線方向取得部114と、再生制御部115、再生時間取得部117、動作取得部118および動作制御部119の各機能は、CPU101がROM102またはHDD/SSD104に記憶されたプログラムに規定される処理を実行すること等により実現される。選択受付部111および出力部116の各機能は、CPU101がI/F105の動作を制御すること等により実現される。
【0030】
CPU101により実現される機能は、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)等の電子回路を用いて実現されてもよい。またCPU101により実現される機能は、CPU、ASICまたはFPGA等を組み合わせて実現されてもよいし、情報処理装置100以外の構成との分散処理により実現されてもよい。
【0031】
記憶部120は、第1記憶部121と、第2記憶部122と、を有する。記憶部120は、USBメモリ、SDカード等を含んでもよい。第1記憶部121は、それぞれが識別情報Nに対応付けられた複数の動画MVを記憶する。第2記憶部122は、再生時間情報TIに対応付けられた外部装置1000による利用者Uの感覚に作用する動作に関する情報である動作情報IVを記憶する。例えば動作情報IVは、照明装置350、空調装置400、匂い発生装置450および送風装置500のうちのどの装置を制御対象とし、制御対象とする装置におけるどの制御項目をどのように制御するかを具体的に示す情報を含む。動作情報IVは、所定の時間ごとに設定された再生時間情報TIに対応付けて予め定められている。なお、記憶部120は外部の記憶サーバで実現してもよい。
【0032】
選択受付部111は、操作部150を用いた操作者による第1入力信号S1を受け付ける。動画取得部112は、第1入力信号S1に応じて選択受付部111から出力される動画MVの識別情報Nに基づいて、記憶部120の第1記憶部121を参照して動画MVを取得する。なお、外部の記憶サーバで記憶部120を実現する場合には、動画取得部112はネットワーク経由で外部の記憶サーバ上の第1記憶部121を参照して動画MVを取得してもよい。
【0033】
歩行状態取得部113は、歩行センサ200からの第2入力信号S2に基づいて、歩行センサ200との通信を制御することで、利用者Uの歩行状態に関する情報である歩行情報Wを取得する。視線方向取得部114は、視線センサ250からの第3入力信号S3に基づいて、視線センサ250との通信を制御することで、利用者Uの視線方向に関する情報である視線情報Eを取得する。
【0034】
再生制御部115は、歩行状態取得部113から入力した歩行情報Wと、視線方向取得部114から入力した視線情報Eと、に基づいて、動画取得部112から入力した動画MVの再生を制御する。再生制御部115は、出力部116を介して第1制御信号D1を出力することにより、表示装置300に表示される動画MVの再生を制御できる。なお、再生制御部115は、動画MVの再生制御のために視線情報Eを必ずしも用いなくてもよい。
【0035】
再生時間取得部117は、利用者Uの歩行状態に応じた動画MVの再生時間に関する再生時間情報TIを取得する。例えば再生時間取得部117は、再生制御部115を介して再生時間情報TIを取得できる。動作取得部118は、再生時間取得部117から入力した再生時間情報TIと視線情報Eに基づいて、記憶部120における第2記憶部122を参照して動作情報IVを取得する。視線情報Eを必ずしも用いなくてもよい。
動作制御部119は、利用者Uの歩行状態に応じた動画MVの再生時間に基づいて、外部装置1000による利用者Uの感覚に作用する動作を制御する。なお、外部の記憶サーバで記憶部120を実現する場合には、動作取得部118はネットワーク経由で外部の記憶サーバ上の第2記憶部122を参照して動作情報IVや視線情報Eを取得してもよい。
【0036】
動作制御部119は、利用者Uの歩行状態に応じた動画MVの再生時間に基づいて、外部装置1000による利用者Uの感覚に作用する動作を制御する。例えば動作制御部119は、再生時間情報TIに基づいて動作取得部118が取得した動作情報IVに基づき、照明装置350、空調装置400、匂い発生装置450および送風装置500のうちの少なくとも1つの動作を制御する。動作制御部119は、出力部116を介して第2制御信号D2、第3制御信号D3、第4制御信号D4および第5制御信号D5を出力することにより、照明装置350、空調装置400、匂い発生装置450および送風装置500の動作を制御できる。
【0037】
<情報処理装置100による処理例>
図4は、情報処理装置100による処理の一例を示すフローチャートである。例えば、情報処理装置100は、利用者U等の操作者による動画MVの選択操作を、操作部150を介して受け付けたときに、
図4の処理を開始する。
【0038】
まず、ステップS11において、情報処理装置100は、動画取得部112により、操作入力信号S1に応じて選択受付部111から出力される動画Mの識別情報Nに基づいて、第1記憶部121を参照して動画MVを取得する。
【0039】
続いて、ステップS12において、情報処理装置100は、歩行状態取得部113により、歩行センサ200との通信を制御し、歩行センサ200からの第2入力信号S2に基づいて歩行情報Wを取得する。
【0040】
続いて、ステップS13において、情報処理装置100は、視線方向取得部114により、視線センサ250との通信を制御し、視線センサ250からの第3入力信号S3に基づいて視線情報Eを取得する。なお、ステップS12とステップS13は、適宜順番が変更されてもよいし、両者が並行に行われてもよい。
【0041】
続いて、ステップS14において、情報処理装置100は、再生制御部115により、歩行情報Wと視線情報Eとに基づいて、表示装置300に表示される動画MVの再生を制御する。以降、情報処理装置100は、動画MVの再生を継続して制御し、表示装置300は動画MVを継続して表示する。
【0042】
続いて、ステップS15において、情報処理装置100は、所定時間が経過したか否かを判定する。第2記憶部122は、所定時間ごとに設定された再生時間情報TIに対応付けられた動作情報IVを記憶している。
【0043】
ステップS15において、所定時間が経過していないと判定された場合には(ステップS15、NO)、情報処理装置100は、ステップS12以降の処理を再度行う。一方、ステップS15において、所定時間が経過したと判定された場合には(ステップS15、YES)、情報処理装置100は、ステップS16において、再生時間取得部117により、再生制御部115から再生時間情報TIを取得する。
【0044】
続いて、ステップS17において、情報処理装置100は、動作取得部118により、再生時間取得部117から入力した再生時間情報TIと視線情報Eに基づいて、第2記憶部122を参照して動作情報IVを取得する。視線情報Eを必ずしも用いなくてもよい。
【0045】
続いて、ステップS18において、情報処理装置100は、動作制御部119により、動作情報IVに基づいて、外部装置1000による利用者Uの感覚に作用する動作を制御する。
【0046】
続いて、ステップS19において、情報処理装置100は、処理を終了するか否かを判定する。例えば情報処理装置100は、操作部150を介して、操作者による処理終了に関する操作入力を受け付けた場合に、処理を終了すると判定する。あるいは、情報処理装置100は、動画MVの全ての再生が終了した場合に、処理を終了すると判定する。
【0047】
ステップS19において、終了しないと判定された場合には(ステップS19、NO)、情報処理装置100は、ステップS12以降の処理を再度行う。一方、ステップS19において、終了すると判定された場合には(ステップS19、YES)、情報処理装置100は、再生制御部115により、動画MVの再生を停止し、表示装置300による動画MVの表示を停止させた後、処理を終了する。
【0048】
以上のようにして、情報処理装置100は、利用者Uに外出体験をさせる処理を実行することができる。
【0049】
<情報処理装置100における様々な情報の一例>
図5~9を参照して情報処理装置100における様々な情報を説明する。まず
図5は、動画MVの識別情報Nと動画MVとの対応テーブルの一例を示す図である。
図5に示すように、対応テーブル125は、第1列目に識別情報Nとして、識別情報N1、N2、N3、・・・・を含んでいる。また対応テーブル125は、第2列目に動画MVとして、動画MV1、MV2、MV3、・・・・を含んでいる。識別情報N1、N2、N3、・・・・と、動画MV1、MV2、MV3、・・・・は、1対1で対応付けられている。第1記憶部121は、このような対応テーブル125を記憶している。動画取得部112は、識別情報Nに基づき、対応テーブル125を参照して動画MVを取得できる。
【0050】
次に
図6は、動画MVと再生時間との関係を説明する図である。動画MVは、複数のフレーム(画像)が時間tに応じて再生される。
図6は、動画MVに含まれる4つのフレームが再生される様子を示している。例えば動画MVにおいて、フレームが切り替わる速度である再生速度は、再生制御部115により、利用者Uの歩行速度に応じて変更される。また動画MVにおける映像の視野は、再生制御部115により、利用者Uの視線方向に応じて変更される。
【0051】
再生時間情報TI1では、再生時間は「0秒000ミリ秒」である。このとき、視線センサ250により検出された利用者Uの視線方向が正面であると、再生制御部115は、視線方向に応じて表示される動画MVの映像の視野を変化させる。同様に、再生時間情報TI2では、再生時間は「10秒000ミリ秒」である。視線センサ250により検出された利用者Uの視線方向は正面である。再生時間情報TI3では、再生時間は「20秒000ミリ秒」である。視線センサ250により検出された利用者Uの視線方向は右90度である。再生時間情報TI4では、再生時間は「30秒000ミリ秒」である。視線センサ250により検出された利用者Uの視線方向は左60度である。再生時間情報TI5では、再生時間は「40秒201ミリ秒」である。視線センサ250により検出された利用者Uの視線方向は上30度である。
【0052】
再生時間情報TIは、所定の時間ごとに限らず、所定のフレーム数ごと等に応じて設定されてもよい。視線情報Eでは、映像の全体視野におけるどの位置を視野中心にするかによって、表示装置300に表示される映像の視野が変更される。情報処理装置100は、再生時間情報TIに応じた制御信号を、所定の時間間隔で外部装置1000へ出力する。この時間間隔は、情報処理装置100と外部装置1000との間の通信速度や、情報処理装置100または外部装置1000での処理時間等を考慮して設定される。また、情報処理装置100は、利用者Uが歩行運動を停止し、動画MVが止まったときや、操作部150等を介して情報処理装置100に対する操作が行われたときに、再生時間情報TIに応じた制御信号を外部装置1000に出力してもよい。情報処理装置100は、動画MVをリワードする場合にも、再生時間情報TIに応じた第1制御信号D1を表示装置300に出力する。
【0053】
次に
図7は、再生時間に応じた送風装置500の制御の様子の一例を示す図である。
図7において、表示装置300は、高い山を山歩きする景色を示す動画MVを表示している。高い山では風が吹く。このため、
図7に示すフレームを表示する再生時間では、情報処理装置100は、動作制御部119により、送風装置500に送風を開始させて風を発生させる。これにより情報処理装置100は、利用者Uに風を感じさせることができる。
【0054】
次に
図8は、再生時間に応じた照明装置350の制御の様子の一例を示す図である。
図8において、表示装置300は、洞窟内を散策する景色を示す動画MVを表示している。洞窟内は暗い。このため、
図8に示すフレーム(画像)を表示する再生時間では、情報処理装置100は、動作制御部119により、照明装置350に照明照度を低下させる。これにより情報処理装置100は、利用者Uに洞窟内の暗さを感じさせることができる。
【0055】
次に
図9は、動画MVと再生時間情報TIと視線情報Eと動作情報IVとの関係の一例を説明する図である。
図9は、相互に対応付けられた7つの再生時間情報TIと、7フレーム分の動画MVと、7つの動作情報IVと、を示している。
図3に示した第2記憶部122は、例えば動画MVと再生時間情報TIと動作情報IVとの関係を表す対応テーブルとして、
図9に示す情報を記憶している。
【0056】
再生時間1分05秒における城と石橋を含むフレームは、城と石橋における照度、気温、風および匂いを定めた動作情報IVと対応付けられている。再生時間3分10秒におけるポプラ並木を含むフレームは、ポプラ並木における照度、気温、風および匂いを定めた動作情報IVと対応付けられている。
【0057】
再生時間3分55秒における行列ができる店を含むフレームは、行列ができる店における照度、気温、風および画像内の視線方向右側にある匂いを定めた動作情報IVと対応付けられている。再生時間4分40秒における神社を含むフレームは、神社における照度、気温、風および匂いを定めた動作情報IVと対応付けられている。再生時間5分10秒における川を含むフレームは、川における照度、気温、風および匂いを定めた動作情報IVと対応付けられている。
【0058】
再生時間5分48秒における雪山を含むフレームは、雪山における照度、気温、風および匂いを定めた動作情報IVと対応付けられている。再生時間6分25秒における夜を含むフレームは、右に月、左に花火、夜間における照度、気温、風および匂いを定めた動作情報IVと対応付けられている。
【0059】
情報処理装置100は、
図9に示すような再生時間情報TIと視線情報Eに対応付けられた動作情報IVを、第2記憶部122を参照して取得することができる。
【0060】
[第2実施形態]
次に、第2実施形態に係る情報処理システムについて説明する。なお、第1実施形態と同じ構成部には同じ符号を付し、重複する説明を適宜省略する。この点は、以降における他の実施形態および変形例においても同様とする。
【0061】
<情報処理システム1の構成例>
図10および
図11を参照して、本実施形態に係る情報処理システム1の構成について説明する。
図10は情報処理システム1の構成の一例を示す図であり、
図11はそのブロック図である。
【0062】
図10および
図11に示すように、情報処理システム1は、情報処理装置100aと、操作部150と、歩行センサ200と、視線センサ250と、再生制御装置550と、動作制御装置600と、端末制御装置650と、を有する。
図10および
図11では、情報処理装置100a、操作部150、歩行センサ200、視線センサ250、再生制御装置550、動作制御装置600および端末制御装置650を情報処理システム1が有するという意味において、各装置を示す符号に情報処理システム1の符号を括弧書きで併記している。なお、
図10では、利用者Uが1人である場合を例示する。但し、利用者Uは複数人であってもよい。利用者Uが複数人の場合は、情報処理システム1は、利用者Uの人数に合わせて複数の歩行センサ200を有する。
【0063】
情報処理装置100aは、操作部150、歩行センサ200、視線センサ250、再生制御装置550、動作制御装置600および端末制御装置650のそれぞれに対し、有線または無線により通信可能に接続されている。再生制御装置550は、表示装置300に対し、有線または無線により通信可能に接続されている。動作制御装置600は、照明装置350、空調装置400、匂い発生装置450および送風装置500のそれぞれに対し、有線または無線により接続されている。無線は、赤外線、電波、音波等のいずれを利用するものであってもよい。
【0064】
再生制御装置550、動作制御装置600、端末制御装置650、外部記憶サーバ700、外部端末750および外部ウェブサーバのそれぞれは、LAN(Local Area Network)、インターネット等のネットワーク2000を介して相互に通信可能に接続されている。
【0065】
情報処理装置100aは、動画の識別情報と、利用者Uの歩行状態に応じた動画MVの再生時間情報と、を送信する。
【0066】
再生制御装置550は、再生時間情報に含まれる利用者Uの歩行状態に関する情報に基づいて、動画の識別情報に対応する動画の再生を制御する。例えば再生制御装置550は、情報処理装置100aからの動画の識別情報に基づき、それぞれが外部記憶サーバ700を参照して取得される動画を表示装置300に表示させる。この再生制御装置550は、第1実施形態における再生制御部115とほぼ同じ機能を含む。
【0067】
動作制御装置600は、再生時間情報に基づいて、外部装置1000による利用者Uの感覚に作用する動作を制御する。例えば動作制御装置600は、情報処理装置100aからの再生時間情報に基づき、外部記憶サーバ700を参照して取得される動作に関する情報に応じて、外部装置1000による利用者Uの感覚に作用する動作を制御する。この動作制御装置600は、第1実施形態における動作制御部119とほぼ同じ機能を含む。
【0068】
端末制御装置650は、動画の識別情報と再生時間情報とに基づいて動画に関連するウェブ情報を表示するとともに、ウェブ情報に関連する処理を実行するように外部端末750の動作を制御する。
【0069】
本実施形態では、情報処理システム1は、情報処理装置100aと、再生制御装置550と、動作制御装置600と、を有することにより、第1実施形態に係る情報処理装置100とほぼ同じ作用効果を得ることができる。
【0070】
また、本実施形態では、動画MVに関連するウェブ情報を利用者Uの外部端末750または表示装置300に表示するとともに、ウェブ情報に関連する処理を外部端末に実行させる。動画MVに関連するウェブ情報は、例えば動画MVがスーパーマーケット内を散策する景色を表示するものである場合には、このスーパーマーケットで販売されている様々な商品の外観や特性を示す情報等である。あるいは、動画MVが観光地を散策する景色を表示するものである場合には、動画MVに関連するウェブ情報は、観光地のガイド情報や、お土産品に関する情報、チャット情報等である。外部端末750は、ネットワーク2000を介して外部ウェブサーバ800からこれらのウェブ情報を取得できる。なお、外部ウェブサーバ800は、様々なウェブ情報に関連する複数の外部ウェブサーバの総称表記である。
【0071】
本実施形態では、ウェブ情報を表示させるとともに、ウェブ情報に関連する処理を実行させることにより、あたかも外出先に関するウェブ情報を外出先で見ているかのようなリアリティに優れた外出体験を利用者Uにさせることができる技術を提供できる。また、リアリティに優れた外出体験を利用者Uにさせることで、本実施形態では、利用者Uに歩行運動を行う動機付けを与え、利用者Uの運動を促進し、また支援することができる。
【0072】
また、本実施形態では、情報処理装置は、利用者Uに関する情報をさらに送信し、動作制御装置600は、利用者Uに関する情報に基づいて、外部装置1000による利用者Uの感覚に作用する動作を制御してもよい。利用者Uに関する情報を用いることで、利用者Uの感じやすい効果や嫌いな効果刺激を知り、制御から除外したり強調したりすることができる。
【0073】
また本実施形態では、再生制御装置550は、動画MVの識別情報と再生時間情報とを示す識別コードを表示装置300に表示させ、端末制御装置650は、表示装置300により表示された識別コードに基づいて動画に関連するウェブ情報を表示するとともに、ウェブ情報に関連する処理を実行するように外部端末750の動作を制御してもよい。識別コードには、バーコード等の一次元コード、QRコード(登録商標)等の二次元コード等が含まれる。識別コードを用いることで、電波通信機能を持ったアプリケーションプログラムを用いなくても、カメラ機能を有する複数の外部端末750のそれぞれに情報を送ることができる。
【0074】
また本実施形態では、再生制御装置550は、動画MVの識別情報と再生時間情報とを示す音声を表示装置300により発生させ、動作制御装置600は、表示装置300により発生させる音声を介して取得される再生時間情報に基づき、外部装置1000による利用者Uの感覚に作用する動作を制御してもよい。音声を介することで、電波通信機能を持ったアプリケーションプログラムを用いたり、外部端末750に含まれるカメラをかざすといった動作を行ったりせずに、音が聞こえる範囲に位置する外部端末750に含まれるマイクを利用して情報を送ることができる。
【0075】
(ハードウェア構成例)
図11に示す情報処理装置100aのハードウェア構成は、第1実施形態に係る情報処理装置100のハードウェア構成と同じである。但し、情報処理装置100aのハードウェア構成は、情報処理装置100のハードウェア構成と異なってもよい。
【0076】
図12は、再生制御装置550のハードウェア構成の一例を示す図である。再生制御装置550、動作制御装置600および端末制御装置650は、例えばコンピュータにより構築でき、共通の構成を採用できる。このため、
図12では、再生制御装置550だけでなく、動作制御装置600および端末制御装置650それぞれの構成を示しているという意味において、再生制御装置550、動作制御装置600および端末制御装置650それぞれの符号を併記している。以下では、再生制御装置550を代表して説明する。なお、再生制御装置550、動作制御装置600および端末制御装置650は、相互に異なるハードウェア構成を有することもできる。
【0077】
図12に示すように、再生制御装置550は、CPU101aと、ROM102aと、RAM103aと、HDD/SSD104aと、I/F105aと、を有する。これらは、バスラインBaを介して電気的に接続されている。再生制御装置550は、上記構成部の他にマイク等の機器を含むことができる。
【0078】
CPU101aは、ROM102aに記憶されたプログラムを実行することにより、順次、分岐処理、反復処理等を実行する演算装置である。ROM102aは、CPU101aで実行されるプログラム等が記憶された不揮発性メモリである。RAM103aは、CPU101aの動作のワークエリアとして機能するメモリである。バスラインBaは、CPU101a等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0079】
I/F105aは、再生制御装置550以外の機器からの情報または信号を入力し、再生制御装置550以外の機器に情報または信号を出力するインターフェースである。
【0080】
(機能構成例)
((情報処理装置100a))
図13は、情報処理装置100aの機能構成の一例を示すブロック図である。
図13に示すように、情報処理装置100aは、再生時間取得部131と、利用者情報取得部132と、送信部133と、を有する点が、情報処理装置100と異なる。また情報処理装置100aは、
図3に示した記憶部120、動画取得部112、再生制御部115、出力部116、再生時間取得部117、動作取得部118および動作制御部119を有さない点が情報処理装置100と異なる。
【0081】
再生時間取得部131は、歩行状態取得部113から入力した歩行情報Wに基づいて、再生時間情報TIを取得する。再生時間情報TIは、歩行情報Wを含んでいる。
【0082】
利用者情報取得部132は、利用者Uに関する情報である利用者情報UDを取得する。利用者情報UDは、利用者Uの名前、利用者Uの識別情報等である。例えば利用者情報取得部132は、操作入力信号S1に応じて選択受付部111から出力される情報から利用者情報UDを取得する。あるいは、利用者情報取得部132は、
図11におけるHDD/SSD104等に予め記憶された利用者情報UDを、HDD/SSD104等から読み出して取得してもよい。
【0083】
送信部133は、操作入力信号S1に応じて選択受付部111から出力される動画MVの識別情報Nと、再生時間取得部131から入力した動画MVの再生時間情報TIと、を送信する。また、送信部133は、視線方向取得部114から入力した視線情報Eと、利用者情報取得部132から入力した利用者情報UDと、を送信する。例えば送信部133は、識別情報Nと、再生時間情報TIと、視線情報Eと、を再生制御装置550に送信する。また送信部133は、識別情報Nと、再生時間情報TIと、を動作制御装置600に送信する。また送信部133は、識別情報Nと、再生時間情報TIと、利用者情報UDと、を端末制御装置650に送信する。
【0084】
((再生制御装置550))
図14は、再生制御装置550の機能構成の一例を示すブロック図である。
図14に示すように、再生制御装置550は、受信部551と、動画取得部552と、送信部553と、コード生成部554と、音声生成部555と、再生制御部556と、出力部557と、を有する。
【0085】
受信部551、送信部553および出力部557の各機能は、
図12のCPU101aがI/F105aの動作を制御すること等により実現される。動画取得部552、コード生成部554、音声生成部555および再生制御部556の各機能は、CPU101aがROM102aまたはHDD/SSD104aに記憶されたプログラムに規定される処理を実行すること等により実現される。
【0086】
CPU101aにより実現される機能は、ASIC、FPGA等の電子回路を用いて実現されてもよい。またCPU101aにより実現される機能は、CPU、ASICまたはFPGA等を組み合わせて実現されてもよいし、情報処理装置100以外の構成部との分散処理により実現されてもよい。
【0087】
動画取得部552は、受信部551を介して動画MVの識別情報Nを取得する。動画取得部552は、送信部553およびネットワーク2000を介して外部記憶サーバ700に識別情報Nを送信し、識別情報Nに基づき外部記憶サーバ700に記憶された第1記憶部121を参照して、動画MVを取得する。動画取得部552は、要求に応じて外部記憶サーバ700から送信される動画MVを、ネットワーク2000および受信部551を介して取得できる。
【0088】
コード生成部554は、受信部551を介して取得した動画MVの識別情報Nと再生時間情報TIと視線情報Eに基づき、動画MVと識別情報Nとを示す識別コードQを生成する。コード生成部554は、QRコード生成プログラム等の公知の技術を用いて識別コードQを生成できる。視線情報Eを必ずしも用いなくてもよい。
【0089】
音声生成部555は、受信部551を介して取得した動画MVの識別情報Nと再生時間情報TIと視線情報Eに基づき、動画MVと識別情報Nとを示す音声Vを生成する。音声生成部555は、公知の音声変換プログラム等を用いて音声Vを生成できる。視線情報Eを必ずしも用いなくてもよい。
【0090】
再生制御部556は、受信部551を介して歩行情報Wと視線情報Eとを取得する。また再生制御部556は、動画取得部552から動画MVを取得する。再生制御部556は、歩行情報Wと視線情報Eとに基づいて、動画MVの再生を制御する。再生制御部556は、出力部557を介して第1制御信号D1を表示装置300に出力することにより、表示装置300に表示される動画MVの再生を制御する。また再生制御部556は、コード生成部554が生成した識別コードQを、出力部557を介して表示装置300に出力することで、識別コードQを表示装置300に表示させることができる。さらに再生制御部556は、音声生成部555が生成した音声Vを、出力部557を介して表示装置300に出力することで、音声Vを表示装置300により発生させることができる。
【0091】
((動作制御装置600))
図15は、動作制御装置600の機能構成の一例を示すブロック図である。
図15に示すように、動作制御装置600は、受信部601と、音声変換部602と、動作取得部603と、送信部604と、動作制御部605と、出力部606と、を有する。
【0092】
受信部601、送信部604および出力部606の各機能は、
図12のCPU101aがI/F105aの動作を制御すること等により実現される。音声変換部602、動作取得部603および動作制御部605の各機能は、CPU101aがROM102aまたはHDD/SSD104aに記憶されたプログラムに規定される処理を実行すること等により実現される。
【0093】
CPU101aにより実現される機能は、ASIC、FPGA等の電子回路を用いて実現されてもよい。またCPU101aにより実現される機能は、CPU、ASICまたはFPGA等を組み合わせて実現されてもよいし、情報処理装置100以外の構成部との分散処理により実現されてもよい。
【0094】
音声変換部602は、動作制御装置600に含まれるマイク等を用いて取得される音声Vを動画MVの再生時間情報TIと視線情報Eに変換することによって、再生時間情報TIと視線情報を取得する。視線情報Eを必ずしも用いなくてもよい。
【0095】
動作取得部603は、受信部601を介して動画MVの再生時間情報TIを取得する。あるいは、動作取得部603は、音声変換部602から再生時間情報TIを取得してもよい。動作取得部603は、送信部604およびネットワーク2000を介して外部記憶サーバ700に再生時間情報TIを送信し、再生時間情報TIに基づき外部記憶サーバ700に記憶された第2記憶部122を参照して、動作情報IVを取得する。動作取得部603は、要求に応じて外部記憶サーバ700から送信される動作情報IVを、ネットワーク2000および受信部601を介して取得できる。
【0096】
動作制御部605は、利用者Uの歩行状態に応じた動画MVの再生時間に基づいて、外部装置1000による利用者Uの感覚に作用する動作を制御する。例えば動作制御部605は、再生時間情報TIに基づいて動作取得部603が取得した動作情報IVに基づき、照明装置350、空調装置400、匂い発生装置450および送風装置500のうちの少なくとも1つの動作を制御する。動作制御部605は、出力部606を介して第2制御信号D2、第3制御信号D3、第4制御信号D4および第5制御信号D5を出力することにより、照明装置350、空調装置400、匂い発生装置450および送風装置500の動作を制御できる。
【0097】
外部記憶サーバ700に含まれる第2記憶部122は、再生時間情報TIと視線情報Eと、利用者情報UDと、対応付けられた動作情報IVを記憶してもよい。この場合、動作制御部605は、受信部601を介して取得される利用者情報UDと、再生時間情報TIと、に基づいて取得される動作情報IVに基づき、外部装置1000による利用者Uの感覚に作用する動作を制御できる。
【0098】
((端末制御装置650))
図16は、端末制御装置650の機能構成の一例を示すブロック図である。
図16に示すように、端末制御装置650は、受信部651と、コード復号部652と、端末制御部653と、送信部654と、を有する。
【0099】
受信部651および送信部654の各機能は、
図12のCPU101aがI/F105aの動作を制御すること等により実現される。コード復号部652と、端末制御部653の各機能は、CPU101aがROM102aまたはHDD/SSD104aに記憶されたプログラムに規定される処理を実行すること等により実現される。
【0100】
CPU101aにより実現される機能は、ASIC、FPGA等の電子回路を用いて実現されてもよい。またCPU101aにより実現される機能は、CPU、ASICまたはFPGA等を組み合わせて実現されてもよいし、情報処理装置100以外の構成部との分散処理により実現されてもよい。
【0101】
コード復号部652は、表示装置300に表示された識別コードQを外部端末750が備えるカメラにより撮影した画像Imを、受信部651を介して外部端末750から受信する。コード復号部652は、画像Imに含まれる識別コードQを復号化して動画MVの識別情報Nと再生時間情報TIと視線情報Eを取得する。視線情報Eを必ずしも用いなくてもよい。
【0102】
端末制御部653は、受信部651を介して動画MVの識別情報Nと、再生時間情報TIと視線情報Eを取得する。視線情報Eを必ずしも用いなくてもよい。
端末制御部653は、送信部654およびネットワーク2000を介して外部端末750に識別情報Nと再生時間情報TIとを送信することにより、動画MVに関連するウェブ情報を表示するとともに、ウェブ情報に関連する処理を実行するように外部端末750の動作を制御する。端末制御部653は、動画MVに関連するウェブ情報を、外部端末750が備えるディスプレイに表示させてもよいし、再生制御装置550を介して表示装置300に表示させてもよい。
【0103】
また端末制御装置650は、コード復号部652から入力した動画MVの識別情報Nと再生時間情報TIと視線情報Eに基づいて、動画MVに関連するウェブ情報を表示するとともに、ウェブ情報に関連する処理を実行するように外部端末750の動作を制御してもよい。
【0104】
<情報処理システム1の動作例>
図17は、情報処理システム1の動作の第1例を示すシーケンスチャートである。例えば、情報処理システム1は、利用者U等の操作者による動画MVの選択操作を、操作部150を介して受け付けたときに、
図17の処理を開始する。
【0105】
まず、ステップS21において、情報処理装置100aは、利用者情報取得部132により、利用者Uに関する情報である利用者情報UDを取得する。
【0106】
続いて、ステップS22において、情報処理装置100aは、歩行状態取得部113により取得された歩行情報Wに基づいて、再生時間取得部131により、歩行情報Wを含む再生時間情報TIを取得する。
【0107】
ステップS21~S22における利用者情報UDおよび再生時間情報TIの取得順序は適宜変更可能であり、それぞれが並行に行われてもよい。
【0108】
続いて、ステップS23において、情報処理装置100aは、操作入力信号S1に応じて選択受付部111から入力された動画MVの識別情報Nと、視線方向取得部114から入力された視線情報Eと、再生時間情報TIと、を送信部133により再生制御装置550に送信する。
【0109】
続いて、ステップS24において、情報処理装置100aは、送信部133により、再生時間情報TIと視線情報Eを動作制御装置600に送信する。
【0110】
続いて、ステップS25において、情報処理装置100aは、送信部133により、識別情報Nと再生時間情報TIと視線情報Eを利用者情報UDとを端末制御装置650に送信する。
【0111】
ステップS23~S25における識別情報N、視線情報E、利用者情報UDおよび再生時間情報TIの送信順序、並びに再生制御装置550、動作制御装置600および端末制御装置650それぞれへの送信順序は適宜変更可能であり、それぞれが並行に送信されてもよい。
【0112】
続いて、ステップS26において、再生制御装置550は、動画取得部552により、識別情報Nに基づき、第1記憶部121を参照して動画MVを取得する。
【0113】
続いて、ステップS27において、再生制御装置550は、再生制御部556により、歩行情報Wと視線情報Eとに基づいて、表示装置300に表示される動画MVの再生を制御する。
【0114】
続いて、ステップS28において、動作制御装置600は、動作取得部603により、再生時間情報TIと視線情報Eに基づき外部記憶サーバ700に記憶された第2記憶部122を参照して、動作情報IVを取得する。
【0115】
続いて、ステップS29において、動作制御装置600は、動作制御部605により、動作情報IVに基づき、外部装置1000の動作を制御する。
【0116】
続いて、ステップS30において、端末制御装置650は、端末制御部653により、動画MVに関連するウェブ情報を外部端末750のディスプレイに表示するように、外部端末750の動作を制御する。
【0117】
続いて、ステップS31において端末制御装置650は、端末制御部653により、動画MVに関連するウェブ情報に関連する処理を実行するように外部端末750の動作を制御する。
【0118】
情報処理システム1は、ステップS21~S31の処理を、動作を終了すると判定するまで繰り返して行う。例えば、情報処理システム1は、操作部150を介して操作者による処理終了に関する操作入力を受け付けた場合、あるいは動画MVの全ての再生が終了した場合に、処理を終了すると判定する。
【0119】
以上のようにして、情報処理システム1は、利用者Uに外出体験をさせる動作を行うことができる。
【0120】
<情報処理システム1におけるウェブ情報の一例>
図18~23を参照して情報処理システム1におけるウェブ情報について説明する。まず、
図18~
図20は、スーパーマーケット内を歩行する動画に関連するウェブ情報を説明する図である。
図18は、スーパーマーケット内での歩行の動線の一例を示す図である。
図19は、
図18のXIX領域において表示されるフレームの一例とウェブ情報の一例を示す図である。
図20は、
図18のXX領域において表示されるフレームの一例とウェブ情報の一例を示す図である。
【0121】
図18は、スーパーマーケット内のフロアを模式的に上面視した図であるフロアマップを示している。破線の矢印で示した動線181は、スーパーマーケット内を人が歩行する動線を表している。スーパーマーケット内を歩行する動画は、この動線181に沿ってスーパーマーケット内を歩行する人が視認する風景を、この人の視点で撮影した動画である。
図10および
図11に示した再生制御装置550は、利用者Uの歩行情報Wおよび視線情報Eに応じて、表示装置300に表示される動画を再生制御する。
【0122】
図18における領域XIXは野菜売り場である。
図19において、表示装置300は、領域XIXにおける野菜売り場の1フレームを表示している。
【0123】
図10および
図11に示した端末制御装置650は、動画に関連するウェブ情報として、スーパーマーケット内の野菜売り場に関するウェブ情報を、このスーパーマーケットのウェブサイトから取得し、外部端末750のディスプレイに表示するように、外部端末750の動作を制御する。
図19に示すように、外部端末750のディスプレイには、野菜の一覧画面751が表示される。
【0124】
一方、
図18における領域XXは、パン売り場である。
図20において、表示装置300は、領域XXにおけるパン売り場の1フレームを表示している。
【0125】
端末制御装置650は、動画に関連するウェブ情報として、スーパーマーケット内のパン売り場に関するウェブ情報を、このスーパーマーケットのウェブサイトから取得し、外部端末750のディスプレイに表示するように、外部端末750の動作を制御する。
図20に示すように、外部端末750のディスプレイには、パンの一覧画面752が表示される。
【0126】
次に、
図21は、観光地の動画とウェブ情報の第1例を示す図である。
図21は、観光地としての温泉地を歩行する動画を示している。
図21において、表示装置300は、温泉地の動画の1フレームを表示している。
【0127】
端末制御装置650は、動画に関連するウェブ情報として、上記温泉地でのお土産情報を、この温泉地のウェブサイトから取得し、外部端末750のディスプレイに表示するように、外部端末750の動作を制御する。
図21に示すように、外部端末750のディスプレイには、お土産の一覧画面753が表示される。
【0128】
次に、
図22は、観光地の動画とウェブ情報の第2例を示す図である。
図22は、観光地としての大阪城を歩行する動画を示している。
図22において、表示装置300は、大阪城の動画の1フレームを表示している。
【0129】
端末制御装置650は、動画に関連するウェブ情報として、大阪城のガイド情報を、大阪城のウェブサイトから取得し、外部端末750のディスプレイに表示するように、外部端末750の動作を制御する。
図22に示すように、外部端末750のディスプレイには、大阪城のガイド画面754が表示される。
【0130】
次に、
図23は、観光地の動画とウェブ情報の第3例を示す図である。
図23は、観光地としての温泉に立ち寄った動画を示している。
図23において、表示装置300は、温泉の動画の1フレームを表示している。
【0131】
端末制御装置650は、動画に関連するウェブ情報として、温泉のチャット情報を、温泉のウェブサイトから取得し、外部端末750のディスプレイに表示するように、外部端末750の動作を制御する。
図23に示すように、外部端末750のディスプレイには、温泉のチャット画面755が表示される。
【0132】
以上のように、本実施形態では、ウェブ情報を表示させるとともに、ウェブ情報に関連する処理を実行させることにより、あたかも外出先に関するウェブ情報を外出先で見ているかのようなリアリティに優れた外出体験を利用者Uにさせることができる。
【0133】
図24は、第2記憶部122に記憶させる情報の一例を示す図である。
図24は、再生時間情報TIと動画MVと動作情報IVとの関係を示している。動画MVの再生に従って、何が映し出されているのかをイベントとして関連情報を記録して、情報ファイル化していくことができる。
【0134】
<識別コードQの利用例>
図25~
図27を参照して、識別コードQの利用の一例を説明する。
図25は、表示装置300に識別コードを表示させるボタンの一例を示す図である。
図26は、表示装置300に表示された識別コードQの一例を示す図である。
【0135】
図25に示すように、例えば利用者Uは、リモコン等の操作部150を操作することにより、表示装置300に識別コードQを表示させるためのボタン301を表示させる。利用者Qが操作部150を用いてボタン301のプッシュ操作を行うことで、
図26に示すように、表示装置300に識別コードQを表示させることができる。
【0136】
識別コードQは、動画MVの識別情報Nと、再生時間情報TIと視線情報E、を含んでいる。例えば、外部端末750は、利用者Uの操作に応じて、内蔵されたカメラにより識別コードQを撮影し、撮影画像を端末制御装置650に送信する。端末制御装置650は、受信した識別コードQを復号することで、動画MVの識別情報Nと再生時間情報TIとを取得できる。
【0137】
図27は、情報処理システム1の動作の第2例を示すシーケンスチャートである。
図27におけるステップS41~S49の動作は、
図17におけるステップS21~S29の動作と同じであるため、ここでは重複する説明を省略し、
図17との相違点を主に説明する。
【0138】
ステップS50において、再生制御装置550は、コード生成部554により、動画MVと識別情報Nとを示す識別コードQを生成する。
【0139】
続いて、ステップS51において、再生制御装置550は、再生制御部556により、コード生成部554が生成した識別コードQを、出力部557を介して表示装置300に出力することで、識別コードQを表示装置300に表示させる
【0140】
続いて、ステップS52において、端末制御装置650は、表示装置300に表示された識別コードQを外部端末750が備えるカメラにより撮影された画像Imを、受信部651を介して外部端末750から受信する。その後、端末制御装置650は、コード復号部652により、画像Imに含まれる識別コードQを復号化して動画MVの識別情報Nと再生時間情報TIと視線情報Eを取得する。
【0141】
続いて、ステップS53において、端末制御装置650は、端末制御部653により、外部端末750に識別情報Nと再生時間情報TIとを送信することによって、動画MVに関連するウェブ情報を外部端末750のディスプレイに表示するように、外部端末750の動作を制御する。
【0142】
続いて、ステップS54において端末制御装置650は、端末制御部653により、動画MVに関連するウェブ情報に関連する処理を実行するように外部端末750の動作を制御する。
【0143】
情報処理システム1は、ステップS41~S54の処理を、動作を終了すると判定するまで繰り返して行う。例えば、情報処理システム1は、操作部150を介して、操作者による処理終了に関する操作入力を受け付けた場合、あるいは動画MVの全ての再生が終了した場合に、処理を終了すると判定する。
【0144】
以上のようにして、情報処理システム1は、利用者Uに外出体験をさせる動作を行うことができる。
【0145】
<音声Vの利用例>
図28は、音声の利用の一例を説明する図である。
図28において、動画MVは、動画に含まれる4つのフレームを切り出して示したものである。動画音声V0は、動画MVに含まれる音声を表している。音声Vは、動画音声Vに埋め込まれた、再生時間情報TIおよび動画MVの識別情報Nの少なくとも一方を含む音声である。音声Vは、16kHz以上20kHz以下の非可聴領域の音としてもよいし、可聴領域の音を足踏み音のような音に埋め込んでもよい。
【0146】
<変形例>
次に、
図29~
図31を参照して、第2実施形態に係る情報処理システム1の変形例について説明する。
【0147】
(第1変形例)
図29は、第1変形例に係る情報処理システム1aを示す図である。情報処理システム1aは、表示装置として、頭部装着型の表示装置を有する点が、第2実施形態に係る情報処理システム1と異なる。
【0148】
図29に示すように、情報処理システム1aは、VR(Virtual Reality)グラス300aを有する点が情報処理システム1と異なる。VRグラス300aは、頭部装着型の表示装置の一例である。
【0149】
図29に示す例では、利用者U-1、利用者U-2および利用者U-3を含む3人の利用者Uが、情報処理システム1aを利用している。VRグラス300aは、利用者Uの1人につき1台が装着される。このため
図29に示す例では、情報処理システム1aは、3台のVRグラス300aとして、VRグラス300a-1、VRグラス300a-2およびVRグラス300a-3を有している。但し、利用者Uの人数は適宜変更可能であり、VRグラス300aの台数は、利用者Uの人数に応じて適宜変更可能である。
【0150】
VRグラス300aを装着する利用者Uは、VRグラス300aを用いて動画を視認しつつ、VR体験できる。なお、頭部装着型の表示装置は、VRグラス300aに限らず、ヘッドマウントディスプレイ(HMD:Head Mounted Display)等であってもよい。
【0151】
(第2変形例)
図30は、第2変形例に係る情報処理システム1bの一例を示す図である。情報処理システム1bは、複数の利用者により利用される点、並びに利用者Uの人数に合わせて複数の歩行センサ200を有する点が、第2実施形態に係る情報処理システム1と異なる。
【0152】
図30に示す例では、利用者Uは、利用者U-1、利用者U-2および利用者U-3の3人の利用者を含む。情報処理システム1bは、利用者Uの人数に合わせて、歩行センサ200-1、歩行センサ200-2および歩行センサ200-3の3台の歩行センサを含む。このように、実施形態に係る情報処理システムは、複数の利用者Uにより利用されてもよい。
【0153】
(第3変形例)
図31は第3変形例に係る情報処理システム1cを示す図である。情報処理システム1cは、着座している利用者を含む複数の利用者によって利用される点が、第2実施形態に係る情報処理システム1と異なる。
【0154】
図31に示す例では、利用者Uは、利用者U-1、利用者U-2、利用者U-3および利用者U-4の4人の利用者を含む。4人の利用者Uのうち、利用者U-2、利用者U-3および利用者U-4の3人は着座している。このように、実施形態に係る情報処理システムは、着座している利用者を含む複数の利用者によって利用されてもよい。
【0155】
(その他の変形例)
図32および
図33を参照してその他の変形例について説明する。
図32および
図33は、表示部6に表示する動画として、全天球カメラにより撮影された全天球画像を表示している。視界81は利用者Uに見えている視界を表す。
図32に示すように、情報処理システム1は、表示制御部107により、動画Im内でのイベントに応じた文字列およびマーカーを表示部6に表示して、利用者Uに認識させることができる。
図33は、
図32の状態から利用者Uの視線方向に応じて視界が変化した後の状態の一例を示している。視界84は利用者Uに見えている視界を表す。視界84は、利用者Uの視線方向に応じ、全天球画像内で視界81とは異なる領域となっている。情報処理システム1は、文字列、マーカー等の他に音声を発生して、利用者Uにイベントを認識させてもよい。音声は、「右にお風呂屋さん見えてきました。」というアナウンスに対応する音声等である。
【0156】
以上、実施形態を説明したが、本発明は、具体的に開示された上記の実施形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。
【0157】
実施形態に係る情報処理システムは、情報処理装置100が有する機能の一部または全部を、クラウドサーバ等の外部装置により実現する構成であってもよい。また実施形態に係る情報処理システムは、情報処理装置100が有する機能の一部または全部を、複数のコンピュータが分散処理することにより実現する構成であってもよい。
【0158】
また、上述した第2実施形態では、表示装置300が再生制御装置550を含んでもよい。また、外部装置1000が動作制御装置600を含んでもよく、外部端末750が端末制御装置650を含んでもよい。例えば、再生制御装置550が実行する処理を表示装置300に実行させるプログラムが、表示装置300にインストールされることにより、表示装置300は、再生制御装置550を含むことができる。同様に、動作制御装置600が実行する処理を外部装置1000に実行させるプログラムが、外部装置1000にインストールされることにより、外部装置1000は、動作制御装置600を含むことができる。また端末制御装置650が実行する処理を外部端末750に実行させるプログラムが、外部端末750にインストールされることにより、外部端末750は、端末制御装置650を含むことができる。
【0159】
実施形態の説明で用いた序数、数量等の数字は、全て本発明の技術を具体的に説明するために例示するものであり、本発明は例示された数字に制限されない。また、構成要素間の接続関係は、本発明の技術を具体的に説明するために例示するものであり、本発明の機能を実現する接続関係をこれに限定するものではない。
【0160】
実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC、DSP(digital signal processor)、FPGAや従来の回路モジュール等のデバイスを含むものとする。
【0161】
本発明の態様は、例えば、以下のとおりである。
<1> 表示装置に表示される動画を視認する利用者の歩行状態を検出する歩行センサからの前記歩行状態に関する情報に基づいて、前記動画の再生を制御する再生制御部と、前記歩行状態に応じた前記動画の再生時間に基づいて、外部装置による前記利用者の感覚に作用する動作を制御する動作制御部と、を有する、情報処理装置である。
<2> 前記再生制御部は、前記利用者の視線方向に関する情報にさらに基づいて、前記動画を再生する、前記<1>に記載の情報処理装置である。
<3> 前記利用者の感覚に作用する動作は、前記利用者の周囲における照度、風、匂い、水滴、煙および気温の少なくとも1つに関する動作を含む、前記<1>または前記<2>に記載の情報処理装置である。
<4> 表示装置に表示される動画を視認する利用者の歩行状態を検出する歩行センサと、前記動画の識別情報と、前記利用者の歩行状態に応じた前記動画の再生時間情報と、を送信する情報処理装置と、前記再生時間情報に含まれる前記歩行状態に関する情報に基づいて、前記動画の識別情報に対応する前記動画の再生を制御する再生制御装置と、前記再生時間情報に基づいて、外部装置による前記利用者の感覚に作用する動作を制御する動作制御装置と、を有する情報処理システムである。
<5> 前記動作制御装置は、前記利用者の視線方向に関する情報にさらに基づいて、前記外部装置による前記利用者の感覚に作用する動作を制御する、前記<4>に記載の情報処理システムである。
<6> 前記再生制御装置は、前記情報処理装置からの前記動画の識別情報に基づき、それぞれが前記識別情報に対応付けられた複数の動画を記憶する第1記憶部を参照して取得される前記動画を前記表示装置に表示させる、前記<4>または前記<5>に記載の情報処理システムである。
<7> 前記動作制御装置は、前記情報処理装置からの前記再生時間情報に基づき、前記再生時間情報に対応付けられた前記外部装置の動作に関する情報を記憶する第2記憶部を参照して取得される前記動作に関する情報に応じて、前記外部装置による前記利用者の感覚に作用する動作を制御する、前記<4>から前記<6>のいずれか1つに記載の情報処理システムである。
<8> 前記動画の識別情報と前記再生時間情報とに基づいてウェブ情報を表示するとともに、前記ウェブ情報に関連する処理を実行するように外部端末の動作を制御する端末制御装置をさらに有する、前記<4>から前記<7>のいずれか1つに記載の情報処理システムである。
<9> 前記端末制御装置は、前記利用者の視線方向に関する情報にさらに基づいて、前記ウェブ情報を表示するとともに、前記ウェブ情報に関連する処理を実行するように前記外部端末の動作を制御する、前記<8>に記載の情報処理システムである。
<10> 前記情報処理装置は、前記利用者に関する情報をさらに送信し、前記動作制御装置は、前記利用者に関する情報にさらに基づいて、前記外部装置による前記利用者の感覚に作用する動作を制御する、前記<4>から前記<9>のいずれか1つに記載の情報処理システムである。
<11> 前記再生制御装置は、前記動画の識別情報と前記再生時間情報とを示す識別コードを前記表示装置に表示させ、前記表示装置に表示された前記識別コードに基づいて前記動画に関連するウェブ情報を表示するとともに、前記ウェブ情報に関連する処理を実行するように外部端末の動作を制御する端末制御装置をさらに有する、前記<4>から前記<10>のいずれか1つに記載の情報処理システムである。
<12> 前記再生制御装置は、前記動画の識別情報と前記再生時間情報と前記利用者の視線方向に関する情報を示す識別コードを前記表示装置に表示させる、前記<4>から前記<11>のいずれか1つに記載の情報処理システムである。
<13> 前記再生制御装置は、前記動画の識別情報と前記再生時間情報とを示す音声を前記表示装置により発生させ、前記動作制御装置は、前記音声を介して取得される前記再生時間情報に基づき、前記外部装置による前記利用者の感覚に作用する動作を制御する、前記<4>から前記<12>のいずれか1つに記載の情報処理システムである。
<14> 前記再生制御装置は、前記動画の識別情報と前記再生時間情報と前記利用者の視線方向に関する情報を示す音声を前記表示装置により発生させる、前記<4>から前記<13>のいずれか1つに記載の情報処理システムである。
<15> 前記表示装置は頭部装着型の表示装置であって、前記再生制御装置は、前記頭部装着型の表示装置に表示される動画の再生を制御する、前記<4>から前記<14>のいずれか1つに記載の情報処理システムである。
<16> 歩行センサにより、表示装置に表示される動画を視認する利用者の歩行状態を検出し、情報処理装置により、前記動画の識別情報と、前記利用者の歩行状態に応じた前記動画の再生時間情報と、を送信し、再生制御装置により、前記歩行状態に関する情報に基づいて、前記動画の識別情報に対応する前記動画の再生を制御し、動作制御装置により、前記再生時間情報に基づいて、外部装置による前記利用者の感覚に作用する動作を制御する処理を、情報処理システムに実行させるプログラムである。
<17> 前記情報処理装置は、さらに前記利用者の視線方向に関する情報を送信し、前記動作制御装置は、前記利用者の視線方向に関する情報をさらに基づいて、前記外部装置による前記利用者の感覚に作用する動作を制御する、前記<16>に記載のプログラムである。
<18> 表示装置に表示される動画を視認する利用者の歩行状態を検出する歩行センサと、前記動画の識別情報と、前記利用者の歩行状態に応じた前記動画の再生時間情報を送信する情報処理装置と、前記再生時間情報に含まれる前記歩行状態に関する情報に基づいて、前記動画の識別情報に対応する前記動画の再生を制御する再生制御装置と、前記動画の識別情報と前記再生時間情報とに基づいてウェブ情報を表示するとともに、前記ウェブ情報に関連する処理を実行するように外部端末の動作を制御する端末制御装置と、を有する情報処理システムである。
【符号の説明】
【0162】
1、1a、1b、1c 情報処理システム
100、100a 情報処理装置
101、101a CPU
102、102a ROM
103、103a RAM
104、104a HDD/SSD
105、105a I/F
111 選択受付部
112 動画取得部
113 歩行状態取得部
114 視線方向取得部
115 再生制御部
116 出力部
117 再生時間取得部
118 動作取得部
119 動作制御部
120 記憶部
121 第1記憶部
122 第2記憶部
125 対応テーブル
131 再生時間取得部
132 利用者情報取得部
150 操作部
181 動線
200 歩行センサ
210 シート状部材
211~214 歩行検出パッド
220 把持部材
250 視線センサ
300 表示装置
300a VRグラス(頭部装着型の表示装置の一例)
350 照明装置
400 空調装置
450 匂い発生装置
500 送風装置
550 再生制御装置
551 受信部
552 動画取得部
553 送信部
554 コード生成部
555 音声生成部
556 再生制御部
557 出力部
600 動作制御装置
601 受信部
602 音声変換部
603 動作取得部
604 送信部
605 動作制御部
606 出力部
650 端末制御装置
651 受信部
652 コード復号部
653 端末制御部
654 送信部
700 外部記憶サーバ
750 外部端末
751 野菜の一覧画面
752 パンの一覧画面
753 お土産の一覧画面
754 ガイド画面
755 チャット画面
800 外部ウェブサーバ
1000 外部装置
2000 ネットワーク
B、Ba バスライン
D1~D4 第1~第4制御信号
E 視線情報
Im 画像
IV 動作情報
MV 動画
N 識別情報
Q 識別コード
S1~S3 第1~第3入力信号
TI 再生時間情報
U 利用者
UD 利用者情報
V 音声
W 歩行情報
【先行技術文献】
【特許文献】
【0163】