(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-31
(45)【発行日】2024-08-08
(54)【発明の名称】教育支援システム、方法およびプログラム
(51)【国際特許分類】
G09B 5/02 20060101AFI20240801BHJP
G06Q 50/20 20120101ALI20240801BHJP
G06T 19/00 20110101ALI20240801BHJP
G06F 3/01 20060101ALN20240801BHJP
【FI】
G09B5/02
G06Q50/20
G06T19/00 A
G06F3/01 510
(21)【出願番号】P 2020113655
(22)【出願日】2020-06-30
【審査請求日】2023-05-26
(73)【特許権者】
【識別番号】000221096
【氏名又は名称】東芝システムテクノロジー株式会社
(74)【代理人】
【識別番号】100112003
【氏名又は名称】星野 裕司
(74)【代理人】
【識別番号】100177312
【氏名又は名称】辰己 雄一
(72)【発明者】
【氏名】平野 茂
【審査官】安田 明央
(56)【参考文献】
【文献】特開2020-080154(JP,A)
【文献】特表2020-515891(JP,A)
【文献】米国特許出願公開第2009/0253109(US,A1)
【文献】特開平10-011253(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G09B 5/00-5/14
G09B 7/00-7/12
G09B 9/00-9/56
G09B 19/00-19/26
G06Q 50/20
G06T 19/00
G06F 3/01
(57)【特許請求の範囲】
【請求項1】
受講者が装着し、仮想空間上に教育用モデルを表示するバーチャルコンテンツ表示装置と、教師側に設けられ、前記教育用モデルに対する動作指示を送信する教育指示装置と、を有する教育支援システムであって、
前記バーチャルコンテンツ表示装置は、
前記教育用モデルを表示するためのデータを保存する教育用モデル記憶部と、
前記教育用モデルに変化を与えるイベント情報を
予め保存するイベント情報記憶部と、
前記教育指示装置から送られてくる指示情報をトリガとして、前記イベント情報によって前記教育用モデルを変化させて仮想空間上に表示する教育用モデル表示部と、
を備えたことを特徴とする教育支援システム。
【請求項2】
前記教育用モデルは、一又は二以上の部品からなり、
前記イベント情報は、前記部品に関連付けられた視聴覚的な変化を規定する変化定義情報を含み、
前記教育用モデル表示部は、前記指示情報を受信すると、該指示情報に対応する前記変化定義情報に基づいて前記教育用モデルを変化させることを特徴とする
請求項1に記載の教育支援システム。
【請求項3】
前記教育指示装置は、前記教育用モデルの部品ごとにイベント情報を変更、追加するイベント情報更新部と、前記イベント情報を前記バーチャルコンテンツ表示装置へ送信するイベント情報送信部を備え、
前記バーチャルコンテンツ表示装置は、前記イベント情報送信部から送られてくるイベント情報を受信すると、前記イベント情報記憶部に保存されているイベント情報を部品単位で更新するイベント情報受信部を備えたことを特徴とする請求項2に記載の教育支援システム。
【請求項4】
前記教育用モデルに対する受講者の動きを検知する操作検知部と、
前記操作検知部で検知した受講者の動きを前記教育指示装置へ送信するイベント送信部と、を備え、
前記教育用モデル表示部は、前記操作検知部によって検知する受講者の動きを表す映像を仮想空間上に表示し、
前記教育指示装置は、
前記教育用モデルを仮想空間上に表示する教師側教育用モデル表示部と、
前記バーチャルコンテンツ表示装置の前記イベント送信部から送られてくる受講者の動きを表示するイベント表示部と、
を備えたことを特徴とする請求項1乃至3のいずれか一項に記載の教育支援システム。
【請求項5】
前記操作検知部は、受講者の視線によって受講者の動きを検知することを特徴とする請求項4に記載の教育支援システム。
【請求項6】
前記教育用モデルには、複数の受講者に対してそれぞれ異なる着席位置を示す座標情報が関連付けられ、
各受講者が装着するバーチャルコンテンツ表示装置の前記教育用モデル表示部は、各受講者にそれぞれ割付けられた着席位置から見た教育用モデルを表示することを特徴とする請求項1乃至5のいずれか一項に記載の教育支援システム。
【請求項7】
前記教育指示装置は、教育用モデルと共に前記受講者の着席位置に該受講者の識別情報を表示することを特徴とする請求項6に記載の教育支援システム。
【請求項8】
受講者が装着し、仮想空間上に教育用モデルを表示するバーチャルコンテンツ表示装置と、教師側に設けられ、前記教育用モデルに対する動作指示を送信する教育指示装置と、を用いて行う教育
支援方法であって、
前記バーチャルコンテンツ表示装置に、前記教育用モデルと、前記教育用モデルに変化を与えるイベント情報とを
予め保存しておき、前記教育指示装置から送られてくる指示情報をトリガとして、前記イベント情報によって前記教育用モデルの一部又は全部を変化させて仮想空間上に表示することを特徴とする教育支援
方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、VR(Virtual Reality,仮想現実)、AR(Augmented Reality,拡張現実)、あるいはMR(Mixed Reality, 複合現実)等(以下単に「VR」という。)の技術を用いて、教師(先生)が遠隔から受講者(生徒)に対して教育や訓練を行うことのできる教育支援システム、方法およびプログラムに関する。
【背景技術】
【0002】
従来、VR等の技術を用いて教育を行うシステムが提案されている。
例えば、特許文献1では、教師側の機器と生徒側の機器との間で、仮想空間を描画するための講義の信号を送受信するネットワーク手段を備え、講義資料のデータを仮想空間内の空間スクリーンに描画して、講義を行う学習システムが記載されている。
【0003】
このシステムは、教師側のパーソナルコンピュータ(以下、「PC」又は「パソコン」ともいう。)で講義を開始する等の処理が行れたり、生徒側のPCで講義中に当てられてチャット形式で返答する等、各PCで何らかのイベントが発生した際には、接続されたPC間で仮想空間学習ソフトウェアのオブジェクトやデータについて同期をとり、他のPCでは受信したデータをもとに当該イベントを再現するというものである。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、特許文献1に記載の技術は、イベント発生時に、イベントの発生したPCから他のPCにそのイベント情報を送信して、各PC間の同期をとるというものである。しかしながら、ネットワークを介して接続されるPC数(受講者数)が少ない場合や、イベント情報が比較的小容量の場合は、イベント発生の都度イベント情報を送信して各PC間の同期をとることも可能であるが、PC数(受講者数)やイベント情報が大きくなると、ネットワーク負荷が大きくなり、各PC間の同期が取りづらくなる。
【0006】
本発明は、上述のかかる事情に鑑みてなされたものであり、仮想現実技術を利用した教育支援システムにおいて、受講者数やイベント情報の大きさの影響を低減し、イベント発生時に効率よく同期をとることのできる教育支援システム、方法およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0007】
上記目的を達成するため、本開示に係る教育支援システムは、受講者が装着し、仮想空間上に教育用モデルを表示するバーチャルコンテンツ表示装置と、教師側に設けられ、前記教育用モデルに対する動作指示を送信する教育指示装置とを有する教育支援システムであって、
前記バーチャルコンテンツ表示装置は、
前記教育用モデルを表示するためのデータを保存する教育用モデル記憶部と、
前記教育用モデルに変化を与えるイベント情報を予め保存するイベント情報記憶部と、
前記教育指示装置から送られてくる指示情報をトリガとして、前記イベント情報によって前記教育用モデルを変化させて仮想空間上に表示する教育用モデル表示部と、
を備えたことを特徴とする。
【0008】
本開示では、教育用モデルに変化を与えるイベント情報を受講者側のバーチャルコンテンツ表示装置に予め保存しておき、教師側から送られてくる指示情報をトリガとして、このイベント情報に基づいて教育用モデルを変化させる。
【0009】
好ましくは、前記教育用モデルは、一又は二以上の部品からなり、前記イベント情報は、前記部品に関連付けられた視聴覚的な変化を規定する変化定義情報を含み、前記教育用モデル表示部は、前記指示情報を受信すると、該指示情報に対応する前記変化定義情報に基づいて該当する部品を変化させることによって、前記教育用モデルを変化させるようにすると良い。
【0010】
これにより、教育用モデルを、当該モデルを構成する部品単位で変化させることができる。ここで、部品に関連付けられた視聴覚的な変化とは、部品の縮小・拡大・回転・移動など(以下、総称して「アニメーション」という。)、部品自体のアニメーションのみならず、当該部品に限定されない例えば背景等を含めたアニメーションや音声など、ユーザ(教師や受講者)の五感を通して与える変化を含む趣旨である。また、部品は、ある装置を構成する部品に限らず、背景や気流など擬似的に部品として扱うものも含む。
【0011】
また、本開示による教育支援システムでは、前記教育指示装置は、前記教育用モデルの部品ごとにイベント情報を変更、追加、削除するイベント情報更新部と、前記イベント情報を前記バーチャルコンテンツ表示装置へ送信するイベント情報送信部を備え、
前記バーチャルコンテンツ表示装置は、前記イベント情報送信部から送られてくるイベント情報を受信すると、前記イベント情報記憶部に保存されているイベント情報を部品単位で更新するイベント情報受信部を備えたことを特徴とする。
【0012】
本開示によれば、必要により教師側で教育用モデルの変化を定義し、この定義データをイベント情報として受講者のバーチャルコンテンツ表示装置へ送信し、保存することができる。これにより、教育時にこのイベント情報を利用することにより、効率的に教育指示装置、バーチャルコンテンツ表示装置間の同期を取ることができる。
【0013】
また、本開示に係る教育支援システムでは、さらに、前記教育用モデルに対する受講者の動きを検知する操作検知部と、
前記操作検知部で検知した受講者の動きを前記教育指示装置へ送信するイベント送信部と、を備え、
前記教育用モデル表示部は、前記操作検知部によって検知する受講者の動きを表す映像を仮想空間上に表示し、
前記教育指示装置は、
教育用モデルを仮想空間上に表示する教師側教育用モデル表示部と、
前記バーチャルコンテンツ表示装置の前記イベント送信部から送られてくる受講者の動きを表示するイベント表示部と、
を備えたことを特徴とする。
【0014】
本開示によれば、教師側の教育指示装置において、受講者の反応を知ることができる。
なお、操作検知部はバーチャルコンテンツ表示装置とは別の装置で実現しても良いし、バーチャルコンテンツ表示装置が有する機能、例えば視線トラッキング機能により受講者の視線を追うことにより受講者の動きを検知するようにしても良い。
【0015】
また、本開示に係る教育支援システムは、前記教育用モデルには、複数の受講者に対してそれぞれ異なる着席位置を示す座標情報が関連付けられ、
各受講者が装着するバーチャルコンテンツ表示装置の前記教育用モデル表示部は、各受講者にそれぞれ割付けられた着席位置から見た教育用モデルを表示することを特徴とする。
【0016】
本開示によれば、各受講者は、それぞれ異なる位置から教育用モデルを見ることができ、実際の教室での講義に近い、より臨場感のある教育が可能となる。
【0017】
また、本開示に係るプログラムは、受講者が装着し、仮想空間上に教育用モデルを表示するバーチャルコンテンツ表示装置上、又は、教師側に設けられ、前記教育用モデルに対する動作指示を送信する教育指示装置の少なくとも一方で動作するプログラムであって、
前記教育用モデルを表示するためのデータを保存するステップと、
前記教育用モデルに変化を与えるイベント情報を保存するステップと、
前記イベント情報を特定するコマンドを入力するステップと、
前記コマンドを入力したとき、前記イベント情報によって前記教育用モデルを変化させて表示装置に表示するステップと、
をコンピュータに実行させることを特徴とする。
【発明の効果】
【0018】
本発明によれば、仮想現実技術を利用した教育支援システムにおいて、受講者数やイベント情報の大きさの影響を低減し、イベント発生時に効率よく同期をとることが可能となる。
【図面の簡単な説明】
【0019】
【
図1】本発明の実施の形態による教育支援システムの機能ブロック図である。
【
図2】
図1の教育支援システムの概要の説明図である。
【
図3】
図1の教育用モデル記憶部31,61のデータ構成図である。
【
図4】
図1のイベント情報記憶部32,62のデータ構成図である。
【
図5】
図1の教育シナリオ記憶部63のデータ構成図である。
【
図6】
図1の教育指示装置(教師用パソコン)での概略の処理手順を示すフローチャートである。
【
図7】
図1のバーチャルコンテンツ表示装置(受講者用HMD)の指示情報としてイベント番号受信時の処理手順を示すフローチャートである。
【
図8】
図1のバーチャルコンテンツ表示装置(受講者用HMD)の操作用装置を用いた部品選択時の処理手順を示すフローチャートである。
【
図9】本発明の実施の形態による3次元表示例の説明図である。
【
図10】
図9の教育用モデルに受講者のポインタ位置を示す説明図である。
【
図11】
図1の教育用モデル表示部14,54の3Dモデル表示処理手順を示すフローチャートである。
【
図12】本発明の実施の形態による教育用モデルの配置と視線ベクトル(初期値)との関係を示す説明図である。
【
図13】本発明の実施の形態による教師側と受講者側の教育用モデルの回転・移動時の連動のしかたの説明図である。
【
図15】本発明の実施の形態によるイベント発生時の教師側と受講者側の同期の取り方の説明図である。
【
図16】本発明の実施の形態による教師側から受講者側へのポインタ情報の通知・表示方法の説明図である。
【
図17】本発明の実施の形態による受講者側から教師側へのイベント情報の通知・表示方法の説明図である。
【発明を実施するための形態】
【0020】
以下に本発明の実施の形態に係る教育支援システムについて図面を参照しながら説明する。
図1において、教育支援システム1は、主に複数の受講者がそれぞれ装着するバーチャルコンテンツ表示装置10と、教師が受講者のバーチャルコンテンツ表示装置10に対して教育コンテンツの表示等に関して指示を行うための教育指示装置50とで構成される。教育指示装置50とバーチャルコンテンツ表示装置10は有線又は無線の通信回線2を介して接続される。この教育支援システム1の受講者側にはバーチャルコンテンツ表示装置10のほかバーチャル空間で操作するための操作用装置40を備えることができる。
【0021】
この教育支援システム1の概要を
図2に基づいて説明すると、バーチャルコンテンツ表示装置10と教育指示装置50には、仮想空間上に表示するための3次元(3D)モデルである教育用モデル(CG)を予め記憶させておく。ここで、教育用モデルとは、教育用のコンテンツであり、コンピュータグラフィックス技術を用いた3Dモデルをいう。そして教師側の教育指示装置50からの指示により、受講者側の各バーチャルコンテンツ表示装置10の教育用モデルを同時に表示・動作させる。更に教育指示装置50からの仮想空間上での教師の指示(教育用モデルの動作やポインタなど)
をバーチャルコンテンツ表示装置10へ送信して、同時に受講者が見ている教育用モデル上に表示等する。更に、各受講者が操作用装置40を介してVR空間内で操作した内容をイベント情報として教師指示装置50へ送信する。教師はその内容を確認すると共に、受講者の各操作内容・イベントを教師指示装置50に記憶保存する。
【0022】
(構成)
図1において、教育指示装置50は、教育用モデルのデータを格納する教育用モデル記憶部61、教育用モデルの部品に関連付けられた視聴覚的に何らかの変化を発生させる情報(イベント情報)を格納するイベント情報記憶部62、教育シナリオデータを格納する教育シナリオ記憶部63、各受講者のバーチャルコンテンツ表示装置10から送られてくる受講者の操作等に関する情報をイベント情報として保存する受講者イベント情報記憶部64を備える。
【0023】
教育指示装置50は、また、教育用モデルをディスプレイ(図示せず)に表示出力する教育用モデル表示部54、教師から各バーチャルコンテンツ表示装置10へ向けての指示情報(コマンド)を送信する指示情報送信部53、各バーチャルコンテンツ表示装置10から送られてくる受講者の操作等に関するイベント情報を受信するイベント情報受信部55、受信したイベント情報をディスプレイに表示出力するイベント表示部56、受講者のイベント情報の統計データを演算する受講データ計算処理部57、教師の音声を検知したり、受信した音声データを再生する音声再生・検知部51、および、バーチャルコンテンツ表示装置10との間で音声データを送受信する音声送受信部52を備えている。なお上記の教育用モデル表示部54は、教師からの指示情報をもとに、当該指示情報に対応するイベント処理を実行してディスプレイに表示している教育用モデルを変化させる機能も有する。
【0024】
一方、バーチャルコンテンツ表示装置10は、教育指示装置50と同様に、教育用モデルを格納する教育用モデル記憶部31、イベント情報を格納するイベント情報記憶部32を備えている。なお、受講者側の教育用モデルおよびイベント情報は教育の開始迄に教育指示装置50から送られ、バーチャルコンテンツ表示装置10の夫々の記憶部31,32に保存される。
【0025】
またバーチャルコンテンツ表示装置10は、受講者の音声を検知したり、受信した音声データを再生する音声再生・検知部11、教育指示装置50との間で音声データを送受信する音声送受信部12、教育指示装置50から送られてくる指示情報を受信する指示情報受信部13、教育用モデルをディスプレイに表示出力したり、受信した指示情報をもとに教育用モデルを変化させる教育用モデル表示部14を備えている。
【0026】
受講者側は、コントローラやハンドトラッキングなどの操作用装置40を用いて、受講者の操作を受け付ける。この操作用装置40は、受講者の操作内容を検知する操作検知部41を備え、検知した操作内容をバーチャルコンテンツ表示装置10へ送る。バーチャルコンテンツ表示装置10では、操作受信部15によって操作検知部41から送られてきた操作内容を受信して、教育用モデル表示部14を介してその操作内容をディスプレイ(図示せず)に表示出力する。また、操作受信部15によって受信した受講者の操作内容は、イベント送信部16によって教育指示装置50へ送られる。この他、バーチャルコンテンツ表示装置10は、視線判定部17を備え、受講者の視線を検知して教育用モデル表示部14を介してディスプレイに表示したり、イベント送信部16によってこの視線情報を教育指示装置50へ送信するようにしてもよい。
【0027】
上記において、バーチャルコンテンツ表示装置10における各部11~17、および教育指示装置50の各部51~57は、コンピュータの機能としてプログラムによって実現することができる。
【0028】
教育指示装置50は、前述したように汎用のパーソナルコンピュータのほか、頭部装着型ヘッドマウントディスプレイ(以下、「HMD」という。)で実現することができる。HMDを用いた場合は、受講生側と同様にコントローラやハンドトラッキングなどの操作用装置40を用いて指示を行う。
【0029】
バーチャルコンテンツ表示装置10は、仮想空間上に3次元(3D)表示する機能を有するHMDで実現することができる。本実施の形態では、受講者側は3次元で表示・指示されるのに対して、教師側は必ずしも3次元に限らず、パーソナルコンピュータを用いた場合は2次元表示によって教育コンテンツを確認し、バーチャルコンテンツ表示装置10へ指示を送ることができる点や通信トラフィックを軽減して効率的な指示を可能にするためのデータベース(記憶部)の構成を特徴の一つとしている。
【0030】
以下、教師指示装置50としてパーソナルコンピュータ(パソコン)を用い、バーチャルコンテンツ表示装置10としてHMD(ヘッドマウントディスプレイ)を用いた場合を例にして説明する。
【0031】
<教育用モデル記憶部61,31のデータ構造>
本実施の形態による教育コンテンツの3Dモデル(教育用モデル)は、
図3に示すように複数の部品の3Dモデルの集合で構成される。具体的には、
図3に示すように、教育コンテンツ(例えば、ある装置)を構成する部品のアセット番号(ID)および当該部品の名称、および部品の形態を3D仮想空間上で定義するための座標データや色彩データなどの属性情報(以下、単に「座標データ」という。)が互いに関連付けられて保存される。
【0032】
なお、各部品は、さらに詳細の部品に分けることができる。この場合、その部品の階層構造がわかるように保存される。下位の部品に対する上位の部品は、それ自体座標データを有していても良し、有していなくても良い。たとえば、階層的に下位の複数の部品の集合で上位の部品が形成されることを示すような場合は、上位の部品の外形を半透明で仮想空間上に表するように属性情報を規定することができる。この属性情報は、3Dモデルのプラットフォーム(例えば、Unity(登録商標))側でデータを保有することができる。教育用モデルを用いて3次元表示した例を
図9に示す。
【0033】
(3Dモデル構造の他の実施例)
なお、3Dモデルの部品の形状よりも更に細かい部分を受講者にチェックさせたいような場合は、実際には見えない(透明な)仮の部品を作って、3Dモデル上に配置するようにしてもよい。これであれば、更に細かい部分に範囲を絞って確認箇所を指定することができる。透明な部品もUNITY上で管理し、ツリー構成(階層構造)上の確認対象部品の下位に配置される。
【0034】
<イベント情報記憶部62,32のデータ構造>
図4に、イベント情報記憶部に保存されるイベント情報の構造を示す。
この図に示すように、イベント情報は、イベント番号ごとに、動作部位を示すアセット番号、動作(アニメーション)内容、解説テキスト、音響データなどが関連付けられて保存される。ここで、イベント情報のアセット番号は、教育用モデルデータのアセット番号に対応している。あるイベント番号が指定されると、受講者のHMD10の仮想空間上に表示されている該当する部品(アセット)に対して、設定された動作(アニメーション)内容が実行され、また解説テキストが表示され、音響データが再生される。
【0035】
<教育シナリオ記憶部63のデータの構造>
図5に、教育シナリオ記憶部63に保存されるシナリオデータの構造を示す。
この図に示すように、シナリオデータは、教育カリキュラムごとに、講義の順番にしたがって、シナリオ名、イベント番号、受講者チェック有無、正解データなどが保存される。イベント番号は、イベント情報記憶部のイベント番号に対応している。
【0036】
なお、本実施の形態では、受講者チェックの方法は、ポインタで答えの部品を指示することとしているが、複数の方法によって回答するような場合は、回答の種別(方法)を保存するようにしても良い。そして、HMD10は、回答の種別に応じて、どのよう回答するかのメッセージをディスプレイ上に表示して、受講生はその表示にしたがって回答を行う。
【0037】
<機能概要>
次に本実施の形態による教育支援システム1の機能概要を説明する。
(1)メニュー/ログイン機能
受講者は、HMD10を装着して起動すると、VR空間でシステムメニューが表示される。受講者はカリキュラム及び番号(受講者番号)を設定して、スタートボタンを選択する等のトリガによって教育カリキュラムが開始される。
【0038】
(2)カリキュラム進行・イベント同期機能
受講者が装着するHMD10には、上述したように予め各カリキュラムで使用する教育コンテンツ(教育用モデル)及びイベント情報(CG動作・解説説明再生など)を登録しておく。そして指示情報受信部13が教師側のパソコン50から送られてくるカリキュラムIDを含む開始指示を受信すると、教育用モデル表示部14は該当するカリキュラムの教育用モデルをHMD10のディスプレイに表示する。次にHMD10は、教師指示装置50から送られてくる指示情報に含まれているイベント番号を検出すると、イベント情報記憶部32にアクセスして、該当するイベント番号の内容を実行する。これにより、教師指示装置50は、ネットワークに負荷をかけずに複数台のHMD10に同時に指示したり、教育コンテンツの再生等の制御をしたりすることができる。
【0039】
(3)受講者イベント収集・収録機能
各受講者は、HMD10に表示されている3D教育用モデルに対して、操作用装置40(例えば、コントローラ)を用いてアクションをすることができる。受講者は、教育用モデルのある部位に対してコントローラの向きによって移動するポインタをあてて、確認のアクション(例えば、コントローラボタンの押下)をする。これにより、ポインタのあてられた3D教育用モデル上の位置座標がイベント情報としてイベント送信部16から教師側のパソコン50へ送られる。パソコン50のイベント受信部55は、イベント情報を受け取ると、受講者イベント情報記憶部64に保存する。またイベント表示部56は、イベント情報に含まれている位置座標をもとに、パソコン50のディスプレイ上に表示されている教育用モデルに対してポインタを表示する。これにより教師は、各受講者の確認状態を知ることができる。
【0040】
(4)教師用パソコン50からの詳細指示機能
教師が教育用モデル上で指示している位置を教師用ポインタで表示する。その位置情報は教師用パソコン50から各受講者のHMD10に送られる。HMD10の指示情報受信部13はこのポインタ位置情報を受信すると、教育用モデル表示部14を介して受講者のHMD10のディスプレイに表示されている教育用モデルに重ねて教師用ポインタを表示する。なお、教師側において、3D座標での正確なポインタの位置を指示する必要がある場合は、教師側もゴーグル(HMD)をつけて指示することができる。
【0041】
(5)音声配信機能
教育カリキュラムの中で、教師が表示されている教育用モデルのCG画像を説明する場合は、音声を受講者側のHMD10に配信する。具体的には、音声再生・検知部51によって教師の音声を検知すると、音声送受信部52によって音声データをHMD10に送信する。HMD10では、音声送受信部12によって音声データを受け取ると音声再生・検知部11によって音声データを再生する。これにより、受講者は、教師の音声を聞くことができる。一方、受講者から質問がある場合は、逆の流れで受講者の音声が教師用パソコン50に送られ教師側で再生される。
【0042】
(6)コンテンツ配信機能
教育カリキュラムの追加や変更などに対して、容易に変更反映ができるように、コンテンツ(教育用モデルやイベント情報を含む)の配信機能を設ける。教師用のパソコン50から複数台のHMD10に対してコンテンツを配信してインストール可能に構成する。
【0043】
<作用>
次に上述した機能を実現するための教師用パソコン50、HMD10の主な処理手順について説明する。
(1)教師用パソコン50の処理手順
上記の動作を実行する教師用パソコン50の処理手順を
図6に示す。
教師用パソコン50は起動されると、指示情報送信部53は教育シナリオ記憶部63にアクセスして、教育対象カリキュラムの全ての項目について以下の処理を実行する(S101a,101b)。なお、教育シナリオのカリキュラムには、
図5に示すようにシナリオ順に番号が付されており順に実行される。なお、あるシナリオの終了後自動的に次のシナリオが実行されるようにしてもよいし、教師の所定の確認アクションを検知して次のシナリオに進むようにしてもよい。
図5に示すデータ例に、次のシナリオに進むための教師の確認アクションが必要かどうかを設定するフラグをシナリオごとに設けるようにしてもよい。教師用パソコン50にはシナリオの進行状況が表示される。
【0044】
指示情報送信部53は教育シナリオ中にイベント番号が存在する場合は(S102で「YES」)、そのイベント番号を指示情報(コマンド)として受講者のHMD10に送信する(S103)。このとき、教育用モデル表示部54も、送信されたイベント番号をコマンドとして指示情報送信部53から受け取り、イベント情報記憶部62に格納されている当該イベント番号のイベントを実行する。これにより、パソコン50側と受講者のHMD10側で、略同時にイベントが実行される。なお、指示情報送信部53によってイベント番号を送信後、教師用パソコン50側で同じイベント番号のイベントを実行する際、遅延時間を設定可能にしておいてもよい。指示情報送信部53がHMD10にイベント番号送信してから遅延時間後に教育用モデル表示部54によってイベントを実行する等である。この遅延時間を教師用パソコン50側で調整可能にすることにより、より精度良く教師用パソコン50とHMD10の同期をとることができる。
【0045】
次に、指示情報送信部53は、受講者チェック欄にフラグ「1」がセットされているかどうかかを判定して(S104)、フラグがセットされている場合は、各受講者からのイベント受信を待つ(S105、S109、S110)。そして受講者からのイベント情報を受信すると(S105で「YES」)、その情報を受講者イベント情報記憶部64へ保存する(S106)。次に受講者ごとの正解判定処理を行い(S107)、またイベント表示部56を介して、受講者のイベント情報を教師用パソコン50のディスプレイに表示する(S108)。
【0046】
(2)HMD10の処理手順
次に、上記の動作を実行する各受講者用HMD10の処理手順を
図7,
図8を用いて説明する。
(2-1)表示処理
受講者用HMD10は起動されると、指示情報受信部13は教師用パソコン50から送られてくる指示情報に含まれているカリキュラムIDを抽出する。そして教育用モデル表示部14は対象カリキュラムの3DモデルをHMD10のディスプレイに表示する(S301)。なお、対象カリキュラムは予め自身で選択して事前に教育用モデルを表示させるようにしてもよい。
そして指示情報受信部13は教師用パソコン50から送られてくるイベント番号を受信すると(S302)、イベント情報記憶部32にアクセスして該当するイベントを実行する(S303)。
【0047】
なお、
図4に例示するイベント情報は、部品ごとにその動作内容が規定されているが、この部品は、ある装置を構成する物理的な部品に限らず、たとえば背景などであってもよい。たとえば
図4において、部品b1がタービンの場合、イベント番号001を実行することにより、部品b1を回転させると共に、当該部品の回転に伴って予め定められた表示範囲(背景)で流体(気体や液体)が流れるアニメーション(流体フロー)を合成して表示するようにしてもよい。装置を構成する部品以外のアニメーションであっても、イベント番号を付して部品として扱うことにより統一的な処理が可能となり、処理手順が簡素化される。
【0048】
(2-2)操作検知処理
操作用装置40の操作検知部41はユーザによる操作を検知するとその操作情報(例えばポインタの位置や方向、ボタン押下などのデータ)を送信する。
図8において、HMD10の操作受信部15は、操作用装置40から送られてきた操作情報をもとにポインタの位置、方向を検出すると(S201)、教育用モデル表示部14を介してディスプレイに表示されている教育用モデルと交差したか否かを判定する(S202)。ポインタが教育用モデルと交差した場合は、その交差位置をディスプレイ上に表示する(S203)。その後操作受信部15は操作用装置40のボタン押下などによってトリガを検出すると、交差位置をワールド座標から相対座標に変換して、ポインタのあてられた部品のアセット番号を特定する(S206)。そしてイベント送信部16を介して、特定したアセット番号および交差位置の座標をイベント情報として教師用パソコン50へ送信する(S207)。
教師用パソコン50は、イベント受信部55によってこれを受信すると、教師用パソコン50のディスプレイ上に表示されている教育用モデルに重ねてポインタ位置を表示する。この表示例を
図10に示す。
【0049】
(3)教育用モデル表示部14,54の処理手順
次に、教師用パソコン50の教育用モデル表示部54、受講者用HMD10の教育用モデル表示部14の3Dモデル表示処理について説明する。なお、両部54,14はこの他イベント情報をもとにアニメーション表示も行うがこの処理は3Dモデル表示後に独立して実行可能であるため説明を省略する。
【0050】
図11において、
図11(a)は教育用モデル表示部54の処理手順、
図11(b)は教育用モデル表示部14の処理手順を示している。このフローチャートからわかるように、教育用モデル表示部54,14は同様の処理を実行し、教育用モデル表示部14は最後にローカル座標をワールド座標に変換する点が異なっている。
図11(c)は、教育用モデル表示部54,14の両方に共通のサブルーチンの処理手順を示している。
【0051】
以下個々の処理手順について具体的に説明する。
教育用モデル表示部54は起動されると、教育用モデル記憶部61にアクセスして、教師によって指定された教育用モデルデータを順次抽出する。教育用モデルデータは、
図3に示すように階層構造になっており、教育用モデル表示部54は最上位階層の全ての部品IDについて、ステップS402の座標データ抽出・表示ルーチンを呼び出して実行する(S401a,S401b)。この座標データ抽出・表示ルーチンの処理は、
図11(c)に示されているように、まず対象となっている部品IDの一つしたの階層のデータフィールドにアクセスして(S501)、そのデータフィールドに座標データが有るか否かを判定する(S502)。その結果座標データが有る場合は、その座標データをもとに3Dモデルイメージを作成する(S503)。即ち対象部品の3DモデルデータをもとにレンダリングによりCG化する。
【0052】
一方、ステップS502の判定の結果、座標データが存在しない場合は、すなわちデータフィールドに座標データではなく下位の部品IDが保存されている場合は、最終階層でない場合、対象部品IDをその部品IDに更新して(S507)、ステップS501に戻り以降の処理を繰り返す。なお最終階層(最も低い階層)に達しても座標データが存在していない場合はエラーメッセージを出力するなどのエラー処理を行う。
【0053】
ステップS503の処理の後、同じ階層に他の部品IDが存在するか否かを判定し、存在する場合は(S504で「NO」)、部品IDを当該他の部品IDに更新して(S508)、ステップS501に戻り以降の処理を実行する。ステップS504でYES、即ち同じ階層に他の部品IDが存在しない場合は主ルーチンにリターンする。
【0054】
以上の処理により、教育対象の3Dモデルを部品ごとにレンダリングして、ディスプレイに表示する。なお、教育用モデルデータは、固定の視点位置を基準にしたローカル座標系、すなわち当該視点位置からの相対座標で表されている。したがって、講師がパソコン50を移動させたり向きを変えたりしても、画面に表示されている3Dモデルは変化しない。
【0055】
受講者HMD10の教育用モデル表示部14の処理も、教育用モデル表示部54の処理と同様に、まずローカル座標系で3Dモデルを作成し、その後HMD10の位置や向きを基準に3Dモデルの座標をワールド座標系に変換する(S403)。したがって、受講者が移動して視点を変えるとこれに伴い3Dモデルの見え方が変化する。
【0056】
(4)教育用モデルの保存方法
教師用パソコン50と受講者用HMD10に予め同じ教育用モデルとイベント情報が保存される。なお、教師用パソコン50側で、教育用モデルやイベント情報が追加・更新された場合は、通信回線2を介して各受講者HMD10に送信される。
【0057】
(5)教育用モデルの表示方法
教師用パソコン50と受講者用HMD10のそれぞれで教育用モデルを表示する。
図12に示すように、教師用パソコン50と受講者用HMD10共に3Dモデル(教育用モデル)の配置と最初の視点・向き(視線ベクトル)は固定である。受講者用HMD10側の教育用モデル表示部14は、その後本システムを起動したときのヘッドマウントの位置(実空間)を基準位置として、それからの移動は基準位置からの移動量で計算する。
【0058】
すなわち、HMD10では起動されたときの実空間上での座標(ワールド座標)を基準として、3DモデルをHMD10の有するディスプレイ(表示装置)に投影する。その後、HMD10が向きを変えたり移動したりする場合は、その視点初期値からの移動量として視点の動きが反映されて3Dモデルの見え方が変わる。一方、教師用パソコン50ではワールド座標系への変換は行われない。したがって、教師用パソコン50の向きを変えても3Dモデルの見え方は変わらない。
このように、受講者側では3Dモデルの座標は、初期値の座標(予め定めた視点からの相対座標)がワールド座標系に変換されるのに対して、教師用パソコン50ではワールド座標系への変換が行わないのが本実施の形態の特徴の一つである。
【0059】
なお、受講者側での3Dモデルの相対座標系からワールド座標系(絶対座標系)への変換は、受講者のアクション、例えば、コントローラ40のボタンを押下するとか、HMD10に視線トラッキング機能がある場合は、一定時間視線を固定するなど、を検知したときに行うようにしてもよい。これにより、受講者は所望の位置に3Dモデル(教育用モデル)を配置することができる。そして、所望の位置に配置後は、受講者が自ら移動して、視点位置を変えることにより、3Dモデルを任意の位置から見ることができる。
教師側では、専ら教師用パソコン50での操作によって3Dモデルを回転・移動させるが、この教師側での操作に関して、受講者側では次の2通りの反映のしかたがある。
【0060】
(VRコンテンツ表示移動及び視点の移動パターン1)
図13
このパターンは、教師が各受講者側での3Dモデルの回転・移動を制御できるパターンであり、次のステップにより実現することができる。
(ステップa1)教師用パソコン50の操作(マウスなど)によりパソコンに表示されている3Dモデルを回転・移動させる。このとき視線位置・向きは固定である。即ち3Dモデルの座標は視点を基準とした相対座標(パソコン上のローカル座標)である。
(ステップa2)3Dモデル表示位置情報を送信する。この表示位置情報は3Dモデルの新たな相対座標を送信するようにしてもよいが、初期値からの回転量・移動量で表すことにより通信時のデータ量を削減することができる。
【0061】
(ステップa3)教師用パソコン50の操作により回転・移動した3Dモデルの表示位置情報をもとに受講者用VR空間内で回転・移動させる。
(ステップa4)その後、受講者が移動や頭の向きを変えた場合は、ジャイロセンサで移動量を検知して、その差分をVR空間内で移動させる。
【0062】
これにより、教師用パソコン50で、教師のマウス等の操作によって移動や回転をした3Dモデルは、各受講者用HMD10において、起動時のワールド座標を初期値として相対的に同じ量・方向へ移動する。
なお、受講者側のVR空間内に教師の視点を表示するようにしてもよい。ちなみに、教師の視点位置は、ローカル座標系(講師側の座標系)での回転・移動量に基づいて変わる。これにより、受講者は常に教師がどの位置から3Dモデルを見ているかを把握することができる。
【0063】
(VRコンテンツ表示移動及び視点の移動パターン2)
図14
このパターンは、専ら受講者側が主体で3Dモデルを回転・移動させるものである。
(ステップb1)教師用パソコン50の操作(マウスなど)によりパソコンに表示されている3Dモデルを回転・移動させる(視線位置・向きは固定)。
この移動操作はあくまでも教師がパソコンの画面で見て操作するための移動操作であって受講者が見るヘッドマウント側の見え方をコントロールするものではない。
【0064】
(ステップb2)受講者側での視線位置・向きは、上述したように初期は固定であるが、受講者が移動や頭の向きを変えた場合は、ジャイロセンサで移動量を検知して、その差分をVR空間内で移動させる。
受講者側ではVR座標系は絶対座標で表されるため、3Dモデルの座標は固定であり、その固定された3Dモデルの周りを自分(視点)が移動するというものである。この移動パターン2では、教師側の3Dモデルの移動・回転操作は、受講者用HMD10には反映しない。
【0065】
上述した移動パターン1と移動パターン2の動作モードは、システムにおいて予め決めておいてもよいが、教師用パソコン50側において、3Dモデルを回転・移動させる前にこの動作モードを選択できるようにしても良い。このようにすれば、移動パターン1が選択されている場合は、教師用パソコン50側での3Dモデルの移動・回転操作に伴って、教師用パソコン50側からHMD10に移動量(基準点からの変化量)・移動方向が送られ、その結果HMD10側でも3Dモデルが教師側と同じ移動量・移動方向へ変位する。 一方、移動パターン2が選択されている場合は、教師用パソコン50側での移動操作に係わらず、教師用パソコン50から受講者用HMD10に移動量・方向等の情報は送信されない。その結果、教師用パソコン上で3Dモデルが変位をしても、受講者用HMD10上では変位しない。
【0066】
(6)教育用モデルの動作制御方法(
図15)
次に、教師用パソコン50から指示したタイミングで、受講者用HMD10に表示している教育用モデルを動作させる方法について説明する。
【0067】
教師用パソコン50において、イベントが指定されると(ステップc1)、そのイベント番号が対象の受講者用HMD10へ送信される(ステップc2)。このイベント番号は、
図6で示したように教育シナリオの実行に伴って自動的に送信されるが、教師がイベント番号を指定して送信するようにしてもよい。
【0068】
受講者側のHMD10においてイベント番号を受信すると、教育用モデル表示部14はイベント情報記憶部32を参照して、そのイベント番号に対応する動作を実行する(ステップc3)。
例えば、イベント番号001を受信すると、3Dモデルにおいて、そのイベント番号に対応する部位(ブレード)が回転し、それに伴うフローの映像が表示される。
【0069】
(7)教師用パソコン50からHMD10へのポインタ表示方法(
図16)
次の手順により、教師用パソコン50からの指示(座標ポインタ)を受講者用HMD10へ送信して、受講者側の3Dモデル上の同じ位置にポインタを表示する。
(ステップd1)教師用パソコン画面(2D)に表示されている3Dモデル上に指示用ポインタを表示させる。
(ステップd2)パソコン画面は2Dのため、3Dモデルの裏側などを示したいときは、3Dモデル自体をマウスで回転させて、ポインタを投射する。そして、投射して3Dモデルにぶつかった位置をポインタの座標とし、その位置にポインタ表示をする。このとき、上述した移動パターン2を選択しておく。
【0070】
(ステップd3)教師用パソコン50の指示情報送信部53は、受講者用HMD10へ指示情報としてポインタ位置情報(3Dモデル上の位置座標)を送信する。
(ステップd4)HMD10の支持情報受信部13はポインタ位置情報を受信すると、教育用モデル表示部14を介してそのポインタ位置情報に基づいてVR空間上の3Dモデル上にポインタを表示させる(3D空間)。
これにより、教師は、2Dのパソコン画面上でポインタ位置を指定して、受講者用HMD10の仮想空間上に3D表示させることができる。
【0071】
(8)受講者用HMD10から教師用パソコン50へのイベント情報送信方法(
図17)
受講者の動作(操作)をトラッキングして、HMD10へ表示し、更にその操作情報を教師用パソコン50へ送信して、受講者イベント情報として表示する。(N台分)
(ステップe1)まず、教師から設問(予め設定されている)を出題する。
(ステップe2)受講者はコントローラ40を使用して、教師から指示された部位を指し示す。コントローラボタンを押下することにより部位が確定する。
【0072】
(ステップe3)指し示した部位の座標をイベント情報として受講者用HMD10から教師用パソコン50へ送信する。
(ステップe4)教師用パソコン50の教育シナリオデータには、設問に対する正解の位置(部位・アセット)が設定されており、ポインタが正解部位にフォーカスされたかを判定する。各受講者から送られてきたイベント情報や判定結果は受講者イベント情報記憶部64に保存される。また、各受講者の判定結果はイベント表示部56によりチェックリストとしてディスプレイに表示される。
【0073】
(9)教師用パソコン50でのイベント情報の処理方法
受講者イベント情報記憶部64に保存されているイベント情報や設問に対する解答結果は、受講データ計算処理部57の演算処理(例えば統計処理)によって集計される。
【0074】
(他の実施例)
上記の実施形態では、教育シナリオデータを教師用パソコン50側にのみ持たせることとしたが、各受講者用HMD10にも同じ教育シナリオデータを持たせるようにしても良い。このようにすれば、教師側からの出題後、受講者の回答は、HMD10に保存されている教育シナリオデータによって判定し、その判定結果を教師用パソコン50へ送信することができるので、教師用パソコン50の負荷を軽減することができる。
【0075】
以上、本実施の形態によれば、従来のVR技術を使った教育支援システムでは実現できなかった、複数人が見ている教育用モデル(CG)を同期表示させて、教師からの指示を同時に全受講者へ配信・表示することができ、教育を同時進行、更には教師の説明とCG映像を同期させて、受講者から見たら、教師の説明と自身が見ている教育用モデル(CG)映像が一致する。更に、受講者イベント(操作・視線など)を教師が確認しながら教育を進行することができ、受講者の理解を把握しながら、よりスムーズな教育をVR空間で実現することができる。
【0076】
次に本発明の第2の実施の形態を説明する。
本実施の形態は、教育用モデルの周りに複数の受講者の座席(すなわち異なる視点位置)を仮想的に設けるものである。各受講者は仮想空間内において、それぞれ異なる座席に座り、その席から3次元表示される教育用モデルを見る。
本実施の形態では、HMD10において、教育用モデルの座標の他、受講者の座席の座標を保存する。各受講者の座席の座標は次の方法で指定することができる。
【0077】
教師用パソコン50と複数の受講者のHMD10には、教育用モデルの座標のほか、対象となる全受講者の座席座標が保存される。各座席座標には、座席番号が付されている。この座席座標は教育用モデルとの相対的な位置関係が分かればよい。
すなわち、第1の実施の形態で説明したように、教育用モデルはある基準位置(例えば
図12の視点位置)からの相対座標で表されている。本実施の形態では、受講者の座席座標についても、この教育用モデルの基準位置からの相対座標で表すことを特徴の一つとしている。同じ基準位置を用いることにより後述するように各HMD10での教育用モデル表示処理を効率的に行うことができる。
【0078】
受講者がHMD10を起動すると、受講者IDが教師用パソコン50に送られる。教師用パソコン50では、受講者IDを受信した順番に、座席番号に紐付けて保存し、その座席番号を対応する受講者のHMD10に送信する。受講者のHMD10は、教師用パソコン50から送られてきた座席番号を受信すると、その座席番号に該当する座標を自装置の座標として記憶する。
【0079】
そして、各HMD10の教育用モデル表示部14は、該当する座席座標を基準位置(視点位置)として、その位置から見た3D教育用モデルをディスプレイに表示する。このときの処理を説明すると、教育用モデル表示部14は、教育用モデル記憶部31から教育用モデルデータを抽出する。そして、(教育用モデルデータの座標-自身の座席座標)を演算して、この演算結果を
図11(c)のステップS503の座標データとして用いて3Dモデルイメージを作成する。この処理により各受講者のHMD10には自身の座席位置から見た3Dモデルイメージが表示される。
【0080】
なお、教師用パソコン50で座席番号と参加する全ての受講者IDとを関連付けた座席受講者対応テーブルを作成して保存することになるが、この座席受講者対応テーブルを全受講者のHMD10に送信するようにしてもよい。他の受講者の座席も共通の基準位置からの相対座標で表されているので、(他の受講者の座席座標-自身の座席座標)を演算することにより、各受講者は自身の位置を基準にして他の受講者の位置を特定することができる。これにより、各受講者は、他の受講者がどの位置関係にいるかを知ることができる。そして、例えば、受講者IDに対応するアバタをHMD10のディスプレイに表示することにより、各受講者は、3D教育用モデル以外にアバタを通して他の受講者の受講状況を見ることができる。これによって、仮想空間を利用した教育により臨場感を与えることができる。
【0081】
また、第1の実施の形態では、主に教師用パソコン50側の教師と、夫々の受講者との質問応答について説明をしたが、その仕組みを利用して、他の受講者の情報を教師用パソコン(もしくは各HMD10から直接)を通して、他の受講者の回答情報および受講者IDを各受講者のHMD10に送信する。各受講者のHMD10では、その情報を受信すると、受講者IDの対応するアバタおよび回答情報(例えば回答したポインタ位置)を識別可能に表示することにより、他の受講者の回答状況を知ることができ、臨場感を更に増すことができる。
【0082】
なお、第1の実施の形態の作用を利用すれば、受講者の移動に伴い、3Dモデルと受講者の相対位置が変わるが、相対位置の変化に伴い、他の受講者のHMD10上で移動した(席を離れた)受講者のアバタを移動させるようにしてもよい。
このようにすれば、共同で作業するような教育に対して、例えば、ある受講者がある部位を抑えている状態で、他の受講者が当該部位にあるオペレーション(例えばネジを嵌める等)をするような作業を行うといったより複雑な教育訓練も可能となる。
【符号の説明】
【0083】
1 教育支援システム
2 通信回線
10 バーチャルコンテンツ表示装置(ヘッドマウントディスプレイ,HMD)
11,51 音声再生・検知部
12,52 音声送受信部
13 指示情報受信部
14,54 教育用モデル表示部
15 操作受信部
16 イベント送信部
17 視線判定部
40 操作用装置
41 操作検知部
50 教育指示装置(教師用パソコン)
53 指示情報送信部
55 イベント受信部
56 イベント表示部
57 受講データ計算処理部
31,61 教育用モデル記憶部
32,62 イベント情報記憶部
63 教育シナリオ記憶部
64 受講者イベント情報記憶部