(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024047677
(43)【公開日】2024-04-08
(54)【発明の名称】情報処理システム、情報処理装置及び情報処理方法
(51)【国際特許分類】
G06Q 50/20 20120101AFI20240401BHJP
【FI】
G06Q50/20
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2022153304
(22)【出願日】2022-09-27
(71)【出願人】
【識別番号】521122094
【氏名又は名称】株式会社バイタルDX
(74)【代理人】
【識別番号】100114306
【弁理士】
【氏名又は名称】中辻 史郎
(72)【発明者】
【氏名】朴 元浩
(72)【発明者】
【氏名】福田 佳子
(72)【発明者】
【氏名】久保 貴史
【テーマコード(参考)】
5L049
【Fターム(参考)】
5L049CC34
(57)【要約】
【課題】イベントに参加する利用者の心理状態を効率良く把握することを課題とする。
【解決手段】生徒が装着した計測端末30は脈拍を測定し、ゲートウェイ装置20を介して情報処理装置10に通知する(S1)。情報処理装置10は脈拍データを用いて集中度を判定する(S2)。その後、生徒の授業への集中状況を表示制御する(S3)。また、生徒の集中度の平均値を示し、時間帯aでは集中度が低下していることが分かる。10:25において生徒の平均集中度が60であり、生徒Aの集中度が40であることなどが分かる。平均集中度と生徒Aの集中度が示され、時間帯bでは生徒Aの集中度が特に低いことが分かる。教師の集中度が示され、時間帯cでは教師の集中度が低くなっていることが分かる。
【選択図】
図1
【特許請求の範囲】
【請求項1】
複数の利用者にそれぞれ装着され、各利用者の生体情報を計測する計測端末と、前記複数の利用者の心理データを算出する情報処理装置とを通信可能に接続した情報処理システムであって、
前記情報処理装置は、
前記計測端末から受け付けた利用者ごとの生体情報を記憶する記憶手段と、
前記記憶手段に記憶された生体情報に基づいて、前記複数の利用者の心理データをそれぞれ算出する算出手段と、
前記算出手段により算出された前記複数の利用者の心理データに基づいて、前記複数の利用者に係る心理分析情報を生成する生成手段と、
前記生成手段により生成された心理分析情報を所定の端末装置に対して通知する心理分析情報通知手段と
を備えたことを特徴とする情報処理システム。
【請求項2】
前記計測端末は、
前記利用者の生体情報を取得する生体情報取得手段と、
前記生体情報取得手段により取得された前記生体情報を通知する生体情報通知手段と
を備えたことを特徴とする請求項1に記載の情報処理システム。
【請求項3】
前記心理分析情報は、
前記複数の利用者の時系列ごとの心理データの平均値を含むことを特徴とする請求項1に記載の情報処理システム。
【請求項4】
前記心理分析情報は、
前記複数の利用者の時系列ごとの心理データの平均値と、各利用者の時系列ごとの心理データを含むことを特徴とする請求項1に記載の情報処理システム。
【請求項5】
前記心理分析情報は、
前記複数の利用者の時系列ごとの心理データの平均値と、各利用者の時系列ごとの心理データと、所定の主催者の時系列ごとの心理データとを含むことを特徴とする請求項1に記載の情報処理システム。
【請求項6】
前記主催者により主催された状況の音声を含む映像を取得する映像取得装置をさらに備え、
前記情報処理装置は、
前記撮像装置から前記映像を受け付ける映像受付手段と、
前記映像受付手段により受け付けた前記映像を前記所定の端末装置に対して通知する映像通知手段と
をさらに備えたことを特徴とする請求項5に記載の情報処理システム。
【請求項7】
前記所定の端末装置は、
前記複数の利用者の時系列ごとの心理データの平均値、各利用者の時系列ごとの心理データ又は所定の主催者の時系列ごとの心理データに対応付けて前記映像を記憶する映像記憶手段と、
前記複数の利用者の時系列ごとの心理データの平均値、各利用者の時系列ごとの心理データ又は所定の主催者の時系列ごとの心理データを所定の表示部にグラフ表示するとともに、前記表示部にグラフ表示された前記複数の利用者の時系列ごとの心理データの平均値、各利用者の時系列ごとの心理データ又は所定の主催者の時系列ごとの心理データのグラフ上の所定の位置が選択操作された場合に、該所定の位置に対応付けられた映像を前記表示部に表示制御する表示制御手段と
を備えたことを特徴とする請求項6に記載の情報処理システム。
【請求項8】
前記計測端末は、
複数の利用者にそれぞれ装着され、各利用者の脈拍データを含む前記心理データを計測するウエアラブル端末であることを特徴とする請求項1~7のいずれか一つに記載の情報処理システム。
【請求項9】
複数の利用者にそれぞれ装着され、各利用者の生体情報を計測する計測端末と通信可能に接続され、前記複数の利用者の心理データを算出する情報処理装置であって、
前記計測端末から受け付けた利用者ごとの生体情報を記憶する記憶手段と、
前記記憶手段に記憶された生体情報に基づいて、前記複数の利用者の心理データをそれぞれ算出する算出手段と、
前記算出手段により算出された前記複数の利用者の心理データに基づいて、前記複数の利用者に係る心理分析情報を生成する生成手段と、
前記生成手段により生成された心理分析情報を所定の端末装置に対して通知する心理分析情報通知手段と
を備えたことを特徴とする情報処理装置。
【請求項10】
複数の利用者にそれぞれ装着され、各利用者の生体情報を計測する計測端末と、前記複数の利用者の心理データを算出する情報処理装置とを通信可能に接続した情報処理システムにおける情報処理方法であって、
前記情報処理装置が、前記計測端末から受け付けた利用者ごとの生体情報を記憶部に記憶する記憶工程と、
前記情報処理装置が、前記記憶部に記憶された生体情報に基づいて、前記複数の利用者の心理データをそれぞれ算出する算出工程と、
前記情報処理装置が、前記算出工程により算出された前記複数の利用者の心理データに基づいて、前記複数の利用者に係る心理分析情報を生成する生成工程と、
前記情報処理装置が、前記生成工程により生成された心理分析情報を所定の端末装置に対して通知する心理分析情報通知工程と
を含むことを特徴とする情報処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、イベントに参加する利用者の心理状態を効率良く把握することができる情報処理システム、情報処理装置及び情報処理方法に関する。
【背景技術】
【0002】
従来、教師が小学校等の各種学校で授業を行う場合に、受講生である生徒の学習効果を高めることが重要となる。このため、教師は、どのようにして授業を進めるかを周到に計画した後、授業時間中における各生徒の状況を観察しつつ、授業を進めることになる。
【0003】
ここで、一つの教室内で授業を受ける生徒数が多い場合には、教師が各生徒の授業態度を十分に観察することが難しくなる。このため、授業を受ける各生徒の集中度を推定し、推定結果を活用して学習効率を高める方策が考えられる。例えば、特許文献1の技術を用いることにより、計測対象者の生体情報から集中度を推定することができる。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上記特許文献1のものは、計測対象者である特定の生徒が授業に集中していたか否かを推定し、この推定結果を用いて該当する生徒に対する注意喚起の指導を行う対応策しか採ることができず、授業における学習効果を高めることが難しいという問題がある。
【0006】
このため、授業における生徒の学習効果をいかに高めるかが重要な課題となっている。特に、オンライン授業を行う場合には、先生から各生徒へ一方向的に情報を伝える形式の授業となりがちであるため、いかにして生徒の心理状態を効率良く把握するかが大きな課題となる。かかる課題は、学校の先生が生徒に授業を行う場合だけではなく、主催者が利用者に対してイベントを提供する様々なケースにおいても生ずる課題である。例えば、エンターテイメントのイベントを主催する主催者が、イベントに参加する利用者の心理状態を把握する場合などが該当する。
【0007】
本発明は、上記従来技術の課題を解決するためになされたものであって、イベントに参加する利用者の心理状態を効率良く把握することができる情報処理システム、情報処理装置及び情報処理方法を提供することを目的とする。
【課題を解決するための手段】
【0008】
上記課題を解決するため、本発明は、複数の利用者にそれぞれ装着され、各利用者の生体情報を計測する計測端末と、前記複数の利用者の心理データを算出する情報処理装置とを通信可能に接続した情報処理システムであって、前記情報処理装置は、前記計測端末から受け付けた利用者ごとの生体情報を記憶する記憶手段と、前記記憶手段に記憶された生体情報に基づいて、前記複数の利用者の心理データをそれぞれ算出する算出手段と、前記算出手段により算出された前記複数の利用者の心理データに基づいて、前記複数の利用者に係る心理分析情報を生成する生成手段と、前記生成手段により生成された心理分析情報を所定の端末装置に対して通知する心理分析情報通知手段とを備えたことを特徴とする。
【0009】
また、本発明は、上記発明において、前記計測端末は、前記利用者の生体情報を取得する生体情報取得手段と、前記生体情報取得手段により取得された前記生体情報を通知する生体情報通知手段とを備えたことを特徴とする。
【0010】
また、本発明は、上記発明において、前記心理分析情報は、前記複数の利用者の時系列ごとの心理データの平均値を含むことを特徴とする。
【0011】
また、本発明は、上記発明において、前記心理分析情報は、前記複数の利用者の時系列ごとの心理データの平均値と、各利用者の時系列ごとの心理データを含むことを特徴とする。
【0012】
また、本発明は、上記発明において、前記心理分析情報は、前記複数の利用者の時系列ごとの心理データの平均値と、各利用者の時系列ごとの心理データと、所定の主催者の時系列ごとの心理データとを含むことを特徴とする。
【0013】
また、本発明は、上記発明において、前記主催者により主催された状況の音声を含む映像を取得する映像取得装置をさらに備え、前記情報処理装置は、前記映像取得装置から前記映像を受け付ける映像受付手段と、前記映像受付手段により受け付けた前記映像を前記所定の端末装置に対して通知する映像通知手段とをさらに備えたことを特徴とする。
【0014】
また、本発明は、上記発明において、前記所定の端末装置は、前記複数の利用者の時系列ごとの心理データの平均値、各利用者の時系列ごとの心理データ又は所定の主催者の時系列ごとの心理データに対応付けて前記映像を記憶する映像記憶手段と、前記複数の利用者の時系列ごとの心理データの平均値、各利用者の時系列ごとの心理データ又は所定の主催者の時系列ごとの心理データを所定の表示部にグラフ表示するとともに、前記表示部にグラフ表示された前記複数の利用者の時系列ごとの心理データの平均値、各利用者の時系列ごとの心理データ又は所定の主催者の時系列ごとの心理データのグラフ上の所定の位置が選択操作された場合に、該所定の位置に対応付けられた映像を前記表示部に表示制御する表示制御手段とを備えたことを特徴とする。
【0015】
また、本発明は、上記発明において、前記計測端末は、複数の利用者にそれぞれ装着され、各利用者の脈拍データを含む前記心理データを計測するウエアラブル端末であることを特徴とする。
【0016】
また、本発明は、複数の利用者にそれぞれ装着され、各利用者の生体情報を計測する計測端末と通信可能に接続され、前記複数の利用者の心理データを算出する情報処理装置であって、前記計測端末から受け付けた利用者ごとの生体情報を記憶する記憶手段と、前記記憶手段に記憶された生体情報に基づいて、前記複数の利用者の心理データをそれぞれ算出する算出手段と、前記算出手段により算出された前記複数の利用者の心理データに基づいて、前記複数の利用者に係る心理分析情報を生成する生成手段と、前記生成手段により生成された心理分析情報を所定の端末装置に対して通知する心理分析情報通知手段とを備えたことを特徴とする。
【0017】
また、本発明は、複数の利用者にそれぞれ装着され、各利用者の生体情報を計測する計測端末と、前記複数の利用者の心理データを算出する情報処理装置とを通信可能に接続した情報処理システムにおける情報処理方法であって、前記情報処理装置が、前記計測端末から受け付けた利用者ごとの生体情報を記憶部に記憶する記憶工程と、前記情報処理装置が、前記記憶部に記憶された生体情報に基づいて、前記複数の利用者の心理データをそれぞれ算出する算出工程と、前記情報処理装置が、前記算出工程により算出された前記複数の利用者の心理データに基づいて、前記複数の利用者に係る心理分析情報を生成する生成工程と、前記情報処理装置が、前記生成工程により生成された心理分析情報を所定の端末装置に対して通知する心理分析情報通知工程とを含むことを特徴とする。
【発明の効果】
【0018】
本発明によれば、イベントに参加する利用者の心理状態を効率良く把握することができる。
【図面の簡単な説明】
【0019】
【
図1】
図1は、実施形態1に係る情報処理システムの概要を説明するための説明図である。
【
図2】
図2は、実施形態1に係る情報処理システムのシステム構成を示す図である。
【
図3】
図3は、
図2に示した情報処理装置の構成を示す機能ブロック図である。
【
図4】
図4は、
図3に示した対象者データ、計測データ、集中度データ及び平均集中度データの一例を示す図である。
【
図5】
図5は、
図2に示した教師用端末の構成を示す機能ブロック図である。
【
図6】
図6は、実施形態1に係る集中度を判定する方法の一例を示す図(その1)である。
【
図7】
図7は、実施形態1に係る集中度を判定する方法の一例を示す図(その2)である。
【
図8】
図8は、実施形態1に係る教師用端末における表示の一例を示す図(その1)である。
【
図9】
図9は、実施形態1に係る教師用端末における表示の一例を示す図(その2)である。
【
図10】
図10は、実施形態1に係る教師用端末における表示の一例を示す図(その3)である。
【
図11】
図11は、実施形態1に係る情報処理装置における処理手順を示すフローチャートである。
【
図12】
図12は、実施形態2に係る情報処理システムの概要を説明するための説明図である。
【
図13】
図13は、実施形態2に係る情報処理システムのシステム構成を示す図である。
【発明を実施するための形態】
【0020】
[実施形態1]
以下に、本実施形態1に係る情報処理システム、情報処理装置及び情報処理方法について詳細に説明する。なお、本実施形態1では、教師と生徒が対面で授業を行う場合について示し、本実施形態2では、教師と生徒がオンラインで授業を行う場合について示すことする。以下に示す実施形態における「生徒」は特許請求の範囲に記載の「利用者」に対応し、「教師」は特許請求の範囲に記載の「主催者」に対応し、「授業」は特許請求の範囲に記載の「イベント」に対応する。
また、以下に示す実施形態における「集中度」は特許請求の範囲に記載の「心理データ」に対応し、「平均集中度データ」は特許請求の範囲に記載の「心理分析情報」に対応する。
【0021】
<実施形態1に係る情報処理システムの概要>
まず、本実施形態1に係る情報処理システムの概要について説明する。
図1は、本実施形態1に係る情報処理システムの概要を説明するための説明図である。
図1(a)では、生徒Aが計測端末30aを手首に装着して授業を受け、生徒Bが計測端末30aを手首に装着して授業を受けている状況を示している。また、教師は、手首に計測端末30cを装着して授業を行っている。以下では、生徒A、生徒B及び教師を含む計測対象者を「対象者」と言い、計測端末30a、30b及び30cを計測端末30と総称する。
【0022】
かかる計測端末30は、例えばスマートウオッチなどのウエアラブル端末である。この計測端末30は、計測対象者(生徒A、生徒B、教師)の脈波あるいは脈拍を測定し、所定の時間毎(例えば、4秒毎)に脈波・脈拍データとしてゲートウェイ装置20に通知する(S1)。ゲートウェイ装置20は、かかる脈拍データを情報処理装置10に通知する。ここでは、無線通信により脈波・脈拍データを通知するものとする。
【0023】
情報処理装置10は、脈波・脈拍データを受信したならば、該脈波・脈拍データを用いて対象者の集中度を判定する(S2)。その後、情報処理装置10は、所定の操作を受け付けたならば、
図1(b)に示すように、対象者である生徒の授業への集中状況を表示制御する(S3)。ここでは、横軸を時間とし、縦軸を集中度とした生徒の集中度を示すグラフを表示している。図中の時間帯aでは、各生徒の集中度が低下していることが分かる。
図1(c)には、時刻「10:25」において、生徒Aの集中度が「40」であり、生徒Cの集中度が「55」であり、生徒Fの集中度が「50」であり、生徒の平均集中度が「60」である状況を示している。
【0024】
図1(d)には、生徒の集中度の平均値と、生徒Aの集中度がそれぞれグラフで示されており、時間帯bにおいて、生徒Aの集中度が特に低いことが分かる。
図1(e)には、横軸を時間とし、縦軸を集中度とした教師の集中度が示されており、時間帯cにおいて教師の集中度が低くなっていることが分かる。
【0025】
このように、本実施形態1に係る情報処理システムでは、対象者である各生徒の脈波・脈拍データにより判定した集中度を用いて、各生徒に対する学習指導のための情報を提供することができる。また、全体的に生徒の集中度が低下する時間帯を特定し、この時間帯で行うべき授業内容を見直すこともできる。この際、授業中の映像を授業の進行と同時に撮像しておき、生徒の集中度が低下する時間帯の映像を確認することにより、例えば授業内容が難しすぎる又は易しすぎる等の原因を効率良く把握することができる。また、教師の集中度を参照することにより、教師側に問題がないかを併せて確認することができる。なお、本実施形態における「映像」は、マイクで集音された音声データを含むものとする。
【0026】
<実施形態1に係るシステム構成>
次に、本実施形態1に係る情報処理システムのシステム構成について説明する。
図2は、本実施形態1に係る情報処理システムのシステム構成を示す図である。
図2に示すように、生徒が装着する計測端末30は、無線通信によりゲートウェイ装置20に接続され、このゲートウェイ装置20及びインターネットを介して情報処理装置10に通信可能に接続される。
【0027】
情報処理装置10は、インターネットを介して教師用端末40及び通信制御端末50と接続される。通信制御端末50は、無線通信によりカメラ60と接続される。
【0028】
情報処理装置10は、計測端末30により取得された脈波・脈拍データを用いて、対象者の集中度を判定し、この集中度に係る情報を教師用端末40に通知する装置である。情報処理装置10は、教師用端末40から開始指示を受信してから終了指示を受信するまでの間、ゲートウェイ装置20から脈波・脈拍データを受信したならば、対象者IDに関連付けて計測データとして記憶する。
【0029】
また、情報処理装置10は、計測データを用いて、所定時間毎(例えば、1分毎)に対象者毎の集中度を判定し、集中度データとして記憶する。情報処理装置10は、集中度データが更新されたならば、対象者の集中度の平均値を算出し、平均集中度データとして記憶する。
【0030】
また、情報処理装置10は、通信制御端末50から映像データを受信したならば、受信した映像データとして記憶する。情報処理装置10は、教師用端末40からのWebアクセスを受け付け、教師用端末40の配信依頼に基づいて、集中度に係る情報をWeb情報として、該教師用端末40に対して配信する。
【0031】
計測端末30は、計測端末30を装着した者の脈波・脈拍を計測する装置である。計測端末30は、Bluetooth(登録商標)等の近距離無線通信により、ゲートウェイ装置20と通信可能に接続される。計測端末30は、装着者の脈波・脈拍を計測し、ゲートウェイ装置20を介して、所定の時間毎(例えば、4秒毎)に計測端末IDを含めて脈拍データとして情報処理装置10に通知する。
【0032】
ゲートウェイ装置20は、計測端末30が送信する脈波・脈拍データを中継する装置である。ゲートウェイ装置20は、LTE(Long Term Evolution)等の無線通信及びインターネットを介して、情報処理装置10と通信可能に接続される。
【0033】
教師用端末40は、情報処理装置10が判定した対象者の集中度に係る情報及び集中度判定した対象者を撮影した映像を表示する装置である。教師用端末40は、LTE等の無線通信及びインターネットを介して、情報処理装置10と通信可能に接続される。
【0034】
また、教師用端末40は、開始指示の操作を受け付けたならば、情報処理装置10に対して開始指示を通知し、終了指示の操作を受け付けたならば、情報処理装置10に対して終了指示を通知する。
【0035】
また、教師用端末40は、「平均集中度情報」、「低集中度者情報」、「個別集中度情報」、「教師集中度情報」及び「映像情報」の配信を情報処理装置10に対して依頼し、配信された情報を受け付けたならば、該情報を表示する。
【0036】
通信制御端末50は、カメラ60が撮影した映像データを情報処理装置10に通知する端末である。通信制御端末50は、LTE等の無線通信及びインターネットを介して、情報処理装置10と通信可能に接続される。通信制御端末50は、送信開始の操作を受け付けたならば、カメラ60から受信した映像を情報処理装置10に通知する。通信制御端末50は、送信停止の操作を受け付けたならば、情報処理装置10に対する映像の通知を停止する。
【0037】
カメラ60は、授業の状況を撮影する撮影装置である。なお、カメラ60で撮影された映像にはマイクで集音された音声データが含まれる。カメラ60は、Bluetooth(登録商標)等の近距離無線通信により、通信制御端末50と通信可能に接続される。
【0038】
<情報処理装置10の構成>
次に、
図2に示した情報処理装置10の構成について説明する。
図3は、
図2に示した情報処理装置10の構成を示す機能ブロック図である。
図3に示すように、情報処理装置10は、表示部11及び入力部12と接続され、通信部13と、記憶部14と、制御部15とを有する。
【0039】
表示部11は、液晶パネルやディスプレイ装置等の表示デバイスである。入力部12は、キーボードやマウス等の入力デバイスである。通信部13は、インターネットを介してゲートウェイ装置20、教師用端末40及び通信制御端末50とデータ通信するためのインタフェース部である。
【0040】
記憶部14は、不揮発性のメモリ又はハードディスク装置等からなる記憶デバイスであり、対象者データ14a、計測データ14b、集中度データ14c、平均集中度データ14d及び映像データ14eを記憶する。
【0041】
対象者データ14aは、情報処理システムを利用する生徒及び教師などの対象者に係る情報を示すデータである。計測データ14bは、計測端末30により計測された脈波・脈拍データを示すデータである。
【0042】
集中度データ14cは、計測データ14bを用いて判定された集中度を示すデータである。平均集中度データ14dは、集中度データ14cに記憶された対象者の集中度の平均値を示すデータである。映像データ14eは、カメラ60が撮影した授業中の映像を示すデータである。
【0043】
制御部15は、情報処理装置10の全体制御を行う制御部であり、対象者データ管理部15a、計測データ管理部15b、集中度判定部15c、映像管理部15d及び配信部15eを有する。実際には、これらの機能部に対応するプログラムを図示しないROM等の不揮発性メモリに記憶しておき、これらのプログラムをCPU(Central Processing Unit)にロードして実行することにより、対象者データ管理部15a、計測データ管理部15b、集中度判定部15c、映像管理部15d及び配信部15eにそれぞれ対応するプロセスを実行させることになる。
【0044】
対象者データ管理部15aは、対象者データ14aを管理する処理部である。対象者データ管理部15aは、入力部12から対象者に係るデータを受け付けたならば、このデータを対象者データ14aに記憶する。
【0045】
計測データ管理部15bは、計測データ14bを管理する処理部である。計測データ管理部15bは、教師用端末40から開始指示を受信してから終了指示を受信するまでの間、次の処理を行う。計測データ管理部15bは、ゲートウェイ装置20から脈波・脈拍データを受信したならば、この脈波・脈拍データに含まれる計測端末IDを用いて対象者データ14aから対象者IDを抽出し、この対象者IDに関連付けて脈拍データを計測データ14bに記憶する。
【0046】
集中度判定部15cは、計測データ14bを用いて対象者の集中度を判定するとともに、集中度データ14c及び平均集中度データ14dを管理する処理部である。集中度判定部15cは、計測データ14bが更新されたならば、この計測データ14bを用いて、所定時間毎(例えば、1分毎)に対象者毎の集中度を判定し、集中度データ14cに記憶する。なお、集中度の判定方法については後述する。
【0047】
また、集中度判定部15cは、集中度データ14cが更新されたならば、この集中度データ14cに記憶された対象者の集中度の平均値を算出し、平均集中度データ14dに記憶する。なお、集中度の平均値の算出においては、集中度データ14c内の教師に係る集中度は除外し、生徒に係る集中度のみを算出の対象とする。
【0048】
映像管理部15dは、映像データ14eを管理する処理部である。映像管理部15dは、通信制御端末50から映像データを受信したならば、受信した映像データを映像データ14eに記憶する。
【0049】
配信部15eは、集中度に係る情報の配信を行う処理部である。配信部15eは、教師用端末40からのWebアクセスを受け付け、教師用端末40の配信依頼に基づいて、集中度に係る情報をWeb情報として、該教師用端末40に対して配信する。
【0050】
例えば、配信部15eは、「平均集中度情報」、「低集中度者情報」、「個別集中度情報」、「教師集中度情報」及び「映像情報」を配信する。「平均集中度情報」では、対象となる生徒の集中度の平均値を時系列にグラフ化して配信する。「低集中度者情報」では、指定された時刻において、平均集中度未満の集中度となっていた生徒名及びその集中度を表形式で配信する。
【0051】
「個別集中度情報」では、指定された生徒の集中度と平均集中度を時系列にグラフ化して配信する。「教師集中度情報」では、対象となる教師の集中度を時系列にグラフ化して配信する。「映像情報」では、指定された時刻からの映像データ14eを配信する。
【0052】
次に、
図3に示した情報処理装置10の記憶部14が記憶するデータの一例について説明する。
図4は、
図3に示した対象者データ14a、計測データ14b、集中度データ14c及び平均集中度データ14dの一例を示す図である。
【0053】
図4(a)に示すように、対象者データ14aは、対象者ID「KD12345」に対して、氏名「特許太郎」、学年「中学2年」、性別「男」、年齢「13」歳、計測端末ID「kt0001」を対応付け、対象者ID「KD67890」に対して、氏名「開発花子」、学年「中学2年」、性別「女」、年齢「14」歳、計測端末ID「kt0002」を対応付けている。
【0054】
図4(b)に示すように、計測データ14bは、対象者ID「KD12345」、日時「2022/07/01 16:10:04」に対して、心拍間隔「900」ミリ秒を対応付け、対象者ID「KD12345」、日時「2022/07/01 16:10:08」に対して、心拍間隔「910」ミリ秒を対応付け、対象者ID「KD12345」、日時「2022/07/01 16:10:12」に対して、心拍間隔「950」ミリ秒を対応付けている。
【0055】
図4(c)に示すように、集中度データ14cは、対象者ID「KD12345」、日時「2022/07/01 16:15:00」に対して、集中度「45」を対応付け、対象者ID「KD12345」、日時「2022/07/01 16:16:00」に対して、集中度「50」を対応付け、対象者ID「KD12345」、日時「2022/07/01 16:17:00」に対して、集中度「70」を対応付けている。
【0056】
図4(d)に示すように、平均集中度データ14dは、日時「2022/07/01 16:15:00」に対して、平均集中度「55」を対応付け、日時「2022/07/01 16:16:00」に対して、平均集中度「60」を対応付け、日時「2022/07/01 16:17:00」に対して、平均集中度「65」を対応付けている。
【0057】
<教師用端末40の構成>
次に、
図2に示した教師用端末40の構成について説明する。
図5は、
図2に示した教師用端末40の構成を示す機能ブロック図である。
図5に示すように、教師用端末40は、操作表示部41と、通信部43と、記憶部44と、制御部45とを有する。
【0058】
操作表示部41は、タッチパネル式液晶ディスプレイ等の入出力デバイスである。通信部43は、インターネットを介して情報処理装置10とデータ通信するためのインタフェース部である。
【0059】
記憶部44は、不揮発性のメモリ又はハードディスク装置等からなる記憶デバイスであり、自端末データ44aを記憶する。自端末データ44aは、自端末の端末IDを示すデータである。
【0060】
制御部45は、教師用端末40の全体制御を行う制御部であり、自端末管理部45a、通知部45b及び表示制御部45cを有する。実際には、これらの機能部に対応するプログラムを図示しないROM等の不揮発性メモリに記憶しておき、これらのプログラムをCPUにロードして実行することにより、自端末管理部45a、通知部45b及び表示制御部45cにそれぞれ対応するプロセスを実行させることになる。
【0061】
自端末管理部45aは、自端末データ44aを管理する処理部である。自端末管理部45aは、操作表示部41から端末IDを受け付けたならば、この端末IDを自端末データ44aに記憶する。
【0062】
通知部45bは、授業の開始及び終了の通知を行う処理部である。通知部45bは、操作表示部41から開始指示の操作を受け付けたならば、情報処理装置10に対して開始指示を通知する。通知部45bは、操作表示部41から終了指示の操作を受け付けたならば、情報処理装置10に対して終了指示を通知する。
【0063】
表示制御部45cは、情報処理装置10に対してWebアクセスを行い、集中度に係る情報の表示の依頼及び表示制御を行う処理部である。表示制御部45cは、「平均集中度情報」、「低集中度者情報」、「個別集中度情報」、「教師集中度情報」及び「映像情報」の配信を情報処理装置10に対して依頼し、配信された情報を受け付けたならば、該情報を操作表示部41に表示する。
【0064】
表示制御部45cは、各種集中度情報と映像情報(音声データを含む)と関連付けておき、各種集中度情報を操作表示部41にグラフ表示するとともに、グラフ上の所定の位置が選択操作された場合に、この位置に対応する映像情報を操作表示部41に表示制御することもできる。
【0065】
<集中度を判定する方法の一例>
次に、本実施形態1に係る集中度を判定する方法の一例について説明する。
図6及び
図7は、本実施形態1に係る集中度を判定する方法の一例を示す図である。本実施形態においては、脈拍データから算出するHF(Hi Frequency)及びLF(Low Frequency)を用いた指標に基づいて集中度を判定する。
【0066】
人の脈拍は、心身正常な状態においても常に変化している。例えば、
図6に示すように、心拍間隔時間を時系列にグラフ化してみると、心拍間隔時間が、約800~1200ミリ秒の範囲で変化している。
【0067】
図6に示すグラフを時間軸信号とみなして、この時間軸信号に含まれる周波数毎のパワー(単位時間当たりのエネルギー)を抽出する。抽出方法には、時間軸信号を離散フーリエ変換して抽出するピリオドグラムによる方法と、ユールウォーカー法による自己回帰モデルによる方法があるが、本実施形態においては、自己回帰モデルによる方法を採用する。
【0068】
図7は、自己回帰モデルによる方法を用いて、時間軸信号に含まれる周波数毎のパワーを抽出して表示したグラフである。このグラフの0.05Hzから0.15Hzまでの領域の強度を合計した値(積分値)がLF値であり、0.15Hzから0.40Hzまでの領域の強度を合計した値(積分値)がHF値である。
【0069】
LF値をHF値で除した値(LF/HF)は、自律神経のバランスを示す指標とされ、LF/HFが小さいほどリラックスしている状態であり、高いほど緊張している(集中している)状態であるとされている。
【0070】
また、LF/HFは、2.0未満であれば基準値とされ、2.0以上であれば注意すべき状態とされている。このため、LF/HFの値が2.0以上の場合は、高ストレス状態として集中度の判定から除外し、LF/HFの値が2.0未満の場合にのみ、次の式を用いて集中度を算出する。
(LF/HF)×(100/2) (式1)
【0071】
<教師用端末40における表示の一例>
次に、教師用端末40における表示の一例について説明する。
図8~
図10は、本実施形態1に係る教師用端末40における表示の一例を示す図である。
【0072】
図8(a)に示すように、「平均集中度情報」においては、時系列における生徒の平均集中度をグラフ化して表示する。例えば、10:00に始まった授業において、10:20頃までは70前後の高い集中度が続いていたものの、その後、急激に集中度が低下しているのが分かる。
【0073】
図8(b)に示すように、「低集中度者情報」においては、指定した時刻における平均集中度と、集中度がこの平均集中度未満であった生徒を抽出して表形式で表示する。例えば、時刻「10:25」における平均集中度は「60」であり、生徒Aが集中度「40」、生徒Cが集中度「55」、生徒Fが集中度「50」として表示される。
【0074】
図8(c)に示すように、「映像情報」においては、指定された時刻からの映像データ14eを表示する。例えば、最も平均集中度が低かった時刻「10:25」は
図8(a)によって示されるが、その時間を教師が選択することで、「2×3=6」の授業を行っている映像データが表示され、その時間帯の授業あるいは生徒の学習状況の様子が再現される。
【0075】
また、教師が検索条件(例えば、「最もクラスの集中度が上がったタイミングは?」)を入力して検索をかけ、該当する画像を表示することもできる。また、その時点から映像を再生することもできる。
【0076】
図9は、学習状況の様子の映像データの一例を示す図である。ここでは、15時25分から15時29分までの映像データが存在する状況を示している。ここでは、興奮度を指標として採用した場合を示している。なお、説明の便宜上、映像データは圧縮されておらず、複数の画像からなることとする。
【0077】
知りたい事項について検索をかけると、そのタイミングの音声、映像(インデックス)が表示され、時々の授業の様子を遡って検証することができる。例えば、「最もクラスが盛り上がったタイミングは?」と検索をかけると、その時点の画像が表示される。また、「最も理解不足の生徒がいたタイミングは?」と検索をかけると、その時点の画像が表示される。
【0078】
図10(a)に示すように、「個別集中度情報」においては、指定された生徒の集中度と平均集中度を時系列にグラフ化して表示する。例えば、生徒Aは、10:00に始まった授業において、10:20頃までは70以上の高い集中度が続いていたものの、その後、急激に集中度が低下し、そのまま授業終了まで低い集中度であったことが分かる。
【0079】
図10(b)に示すように、「教師集中度情報」においては、対象となる教師の集中度を時系列にグラフ化して表示する。例えば、授業全体として、70前後の高い集中度であったものの、10:25前後の時間帯においては集中度がやや低下し、中だるみ状態であったことが分かる。
【0080】
<情報処理装置10における処理手順>
次に、本実施形態1に係る情報処理装置10における処理手順について説明する。
図11は、本実施形態1に係る情報処理装置10における処理手順を示すフローチャートである。
【0081】
情報処理装置10は、教師用端末40から開始指示を受信していないならば(ステップS101;No)、ステップS105に移行する。教師用端末40から開始指示を受信し(ステップS101;Yes)、ゲートウェイ装置20から計測データを受信したならば(ステップS102;Yes)、受信した計測データを計測データ14bに記憶するとともに、この計測データ14bを用いて集中度を判定し(ステップS103)、集中度データ14cに記憶する。
【0082】
教師用端末40から終了指示を受信していないならば(ステップS104;No)、ステップS102に移行する。教師用端末40から終了指示を受信し(ステップS104;Yes)、配信依頼を受信したならば(ステップS105;Yes)、配信依頼内容を該教師用端末40に対して配信し(ステップS106)、処理を終了する。
【0083】
上述してきたように、本実施形態1に係る情報処理システムでは、計測端末30で計測した対象者の脈拍データを用いて該対象者の集中度を判定し、この判定した集中度に係る情報を教師用端末40に表示できるよう構成したので、対象者の集中度に基づいて対象者に対する学習効果を効率良く高めることができる。
【0084】
[実施形態2]
ところで、上記の実施形態1では、学習を行う生徒と同じ教室内で教師が授業を行う場合について説明したが、本発明はこれに限定されるものではく、生徒が自宅などで学習を行うオンライン授業を行う場合に適用することもできる。本実施形態2では、生徒が自宅などで学習を行うオンライン授業を行う場合において、生徒の集中度に係る情報を提供する情報処理システムについて説明する。
【0085】
<実施形態2に係る情報処理システムの概要>
まず、本実施形態2に係る情報処理システムの概要について説明する。
図12は、本実施形態2に係る情報処理システムの概要を説明するための説明図である。
【0086】
図12(a)に示すように、生徒Aは、計測端末30を装着し、学習用端末200を用いてオンライン授業を受講する(S11)。計測端末30により取得された生徒Aの脈拍データは、図示しない情報処理装置100に通知されて記憶される。
【0087】
生徒A又は生徒Aの保護者は、学習用端末200を用いて情報処理装置100にWebアクセスし、生徒Aの集中度を表示させる。例えば、
図12(b)に示すように、授業開始から時間帯dでは、生徒Aの集中度は高かったものの、時間帯eで急激に集中度が低下し、時間帯fでは集中度が低いまま推移したことが分かる。
【0088】
このように、本実施形態2に係る情報処理システムでは、生徒が自宅などで学習を行うオンライン授業を行う場合において、生徒の集中度に係る情報を提供することができる。
【0089】
<実施形態2に係るシステム構成>
次に、本実施形態2に係る情報処理システムのシステム構成について説明する。
図13は、本実施形態2に係る情報処理システムのシステム構成を示す図である。
図13に示すように、対象者が装着する計測端末30は、無線通信により学習用端末200に接続され、この学習用端末200及びインターネットを介して情報処理装置100に通信可能に接続される。
【0090】
情報処理装置100は、インターネットを介して教師用端末40及び通信制御端末50と接続される。通信制御端末50は、無線通信によりカメラ60と接続される。
【0091】
情報処理装置100は、計測端末30が取得した脈波・脈拍データを用いて、対象者の集中度を判定し、この集中度に係る情報を配信する装置である。情報処理装置100は、教師用端末40から開始指示を受信してから終了指示を受信するまでの間、学習用端末200から脈拍データを受信したならば、対象者IDに関連付けて計測データに記憶する。
【0092】
また、情報処理装置100は、学習用端末200からのWebアクセスを受け付け、学習用端末200の配信依頼に基づいて、集中度に係る情報をWeb情報として、該学習用端末200に対して配信する。
【0093】
学習用端末200は、オンライン授業において、生徒が授業を受講するための装置である。学習用端末200は、LTE等の無線通信及びインターネットを介して、情報処理装置100と通信可能に接続される。
【0094】
また、学習用端末200は、計測端末30から脈波・脈拍データを受信したならば、学習用端末IDを含めて脈波・脈拍データとして情報処理装置10に通知する。
【0095】
<情報処理装置100の構成>
次に、
図13に示した情報処理装置100の構成について説明する。
図14は、
図13に示した情報処理装置100の構成を示す機能ブロック図である。
図14に示すように、情報処理装置100は、表示部11及び入力部12と接続され、通信部13と、記憶部110と、制御部120とを有する。なお、
図3に示した情報処理装置10と同様の機能部についての説明は省略する。
【0096】
記憶部110は、不揮発性のメモリ又はハードディスク装置等からなる記憶デバイスであり、対象者データ111、計測データ14b、集中度データ14c、平均集中度データ14d及び映像データ14eを記憶する。対象者データ111は、情報処理システムを利用する生徒及び教師などの対象者に係る情報を示すデータである。
【0097】
制御部120は、情報処理装置100の全体制御を行う制御部であり、対象者データ管理部121、計測データ管理部122、集中度判定部15c、映像管理部15d及び配信部123を有する。実際には、これらの機能部に対応するプログラムを図示しないROM等の不揮発性メモリに記憶しておき、これらのプログラムをCPUにロードして実行することにより、対象者データ管理部121、計測データ管理部122、集中度判定部15c、映像管理部15d及び配信部123にそれぞれ対応するプロセスを実行させることになる。
【0098】
対象者データ管理部121は、対象者データ111を管理する処理部である。対象者データ管理部121は、入力部12から対象者に係るデータを受け付けたならば、このデータを対象者データ111に記憶する。
【0099】
計測データ管理部122は、計測データ14bを管理する処理部である。計測データ管理部122は、教師用端末40から開始指示を受信してから終了指示を受信するまでの間、次の処理を行う。計測データ管理部122は、学習用端末200から脈波・脈拍データを受信したならば、この脈拍データに含まれる学習用端末IDを用いて対象者データ111から対象者IDを抽出し、この対象者IDに関連付けて脈波・脈拍データを計測データ14bに記憶する。
【0100】
配信部123は、集中度に係る情報の配信を行う処理部である。配信部123は、学習用端末200からのWebアクセスを受け付け、学習用端末200の配信依頼に基づいて、集中度に係る情報をWeb情報として、該学習用端末200に対して配信する。
【0101】
次に、
図14に示した情報処理装置100の記憶部110が記憶するデータの一例について説明する。
図15は、
図14に示した対象者データ111の一例を示す図である。
【0102】
図15に示すように、対象者データ111は、対象者ID「KD12345」に対して、氏名「特許太郎」、学年「中学2年」、性別「男」、年齢「13」歳、学習用端末ID「gt0001」を対応付け、対象者ID「KD67890」に対して、氏名「開発花子」、学年「中学2年」、性別「女」、年齢「14」歳、学習用端末ID「gt0002」を対応付けている。
【0103】
上述してきたように、本実施形態2に係る情報処理システムでは、計測端末30で計測したオンライン授業を受講する対象者の脈拍データを用いて該対象者の集中度を判定し、この判定した集中度に係る情報を学習用端末200に表示できるよう構成したので、生徒が自宅などで学習を行うオンライン授業を行う場合において、生徒の集中度に係る情報を提供することができる。
【0104】
なお、上記の実施形態1及び2では、脈波・脈拍データを用いる場合を示したが、本発明はこれに限定されるものではなく、集中度を求めることができる生体情報であれば、各種の生体情報を用いることもできる。
【0105】
また、上記の実施形態1及び2では、心理データとして集中度を判定する場合について説明したが、本発明はこれに限定されるものではなく、リラックス度・興奮度等の各種心理データを対象とする場合に適用することもできる。
【0106】
また、上記の各実施形態で図示した各構成は機能概略的なものであり、必ずしも物理的に図示の構成をされていることを要しない。すなわち、各装置の分散・統合の形態は図示のものに限られず、その全部又は一部を各種の負荷や使用状況などに応じて、任意の単位で機能的又は物理的に分散・統合して構成することができる。
【産業上の利用可能性】
【0107】
本発明に係る情報処理システム、情報処理装置及び情報処理方法は、イベントに参加する利用者の心理状態を効率良く把握する場合に適している。
【符号の説明】
【0108】
10 情報処理装置
11 表示部
12 入力部
13 通信部
14 記憶部
14a 対象者データ
14b 計測データ
14c 集中度データ
14d 平均集中度データ
14e 映像データ
15 制御部
15a 対象者データ管理部
15b 計測データ管理部
15c 集中度判定部
15d 映像管理部
15e 配信部
20 ゲートウェイ装置
30 計測端末
40 教師用端末
41 操作表示部
43 通信部
44 記憶部
44a 自端末データ
45 制御部
45a 自端末管理部
45b 通知部
45c 表示制御部
50 通信制御端末
60 カメラ
100 情報処理装置
110 記憶部
111 対象者データ
120 制御部
121 対象者データ管理部
122 計測データ管理部
123 配信部
200 学習用端末