(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-03-11
(45)【発行日】2024-03-19
(54)【発明の名称】言語学習装置及びプログラム
(51)【国際特許分類】
G09B 5/06 20060101AFI20240312BHJP
G09B 19/04 20060101ALI20240312BHJP
G09B 19/06 20060101ALI20240312BHJP
G09B 19/00 20060101ALI20240312BHJP
G10L 15/00 20130101ALI20240312BHJP
G06F 3/16 20060101ALI20240312BHJP
【FI】
G09B5/06
G09B19/04
G09B19/06
G09B19/00 H
G10L15/00 200E
G06F3/16 620
G06F3/16 650
(21)【出願番号】P 2021022967
(22)【出願日】2021-02-17
【審査請求日】2023-09-29
【早期審査対象出願】
(73)【特許権者】
【識別番号】518070995
【氏名又は名称】ゲシピ株式会社
(74)【復代理人】
【識別番号】100147142
【氏名又は名称】石森 昭慶
(74)【代理人】
【識別番号】230122390
【氏名又は名称】石原 一樹
(72)【発明者】
【氏名】真鍋 拓也
【審査官】前地 純一郎
(56)【参考文献】
【文献】国際公開第2019/245003(WO,A1)
【文献】特開2002-175003(JP,A)
【文献】特開2007-163801(JP,A)
【文献】特開2020-038371(JP,A)
【文献】特開2018-081191(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G09B 1/00- 9/56
G09B 17/00-19/26
(57)【特許請求の範囲】
【請求項1】
ユーザが言語学習を行うための言語学習装置であって、
動画を含むコンテンツの情報を取得するコンテンツ情報取得部と、
前記コンテンツに関連する字句の字句情報を取得する字句情報取得部と、
前記コンテンツの再生に合わせて前記ユーザが発した音声の音声情報を認識する音声情報認識部と、
前記字句情報取得部が取得した前記字句情報と前記音声情報認識部が認識した前記音声情報とを比較することにより、前記ユーザに対する評価を行う評価部と、を有
し、
前記コンテンツは、複数の前記ユーザにより行われる対戦形式又は協力形式のゲームであり、
前記複数のユーザのユーザ端末と通信を行う通信部を更に有し、
前記通信部は更に、前記ユーザに対して前記言語学習に関する指導を行う指導者の指導者端末と通信を行い、当該指導者端末から前記ユーザに支援を行うための支援情報を受信するとともに、当該支援情報を前記ユーザ端末に送信する、言語学習装置。
【請求項2】
前記評価部は、前記音声情報のうち前記字句情報に適合する音声情報の量に応じて前記評価を行う、請求項1に記載の言語学習装置。
【請求項3】
前記字句情報取得部は、前記コンテンツにおける所定のシーンに関連する前記字句情報を取得し、
前記評価部は、前記所定のシーンに関連する前記字句情報と適合する音声情報に応じて前記評価を行う、請求項1に記載の言語学習装置。
【請求項4】
前記評価部は、前記音声情報の量に基づいて前記ユーザの発声量を評価する、請求項1に記載の言語学習装置。
【請求項5】
前記コンテンツから前記字句情報を自動的に抽出する抽出部を有し、
前記字句情報取得部は、前記抽出部が自動的に抽出した前記字句情報を取得する、請求項1に記載の言語学習装置。
【請求項6】
前記評価に基づく情報を前記ユーザに通知する通知部を有し、
前記通知部は、前記評価部が、前記コンテンツが再生されている間に行った評価に基づく情報の通知を前記コンテンツが再生されている間に行う、請求項1に記載の言語学習装置。
【請求項7】
前記評価部は、前記ゲームの結果を含めた評価を行う、
請求項1に記載の言語学習装置。
【請求項8】
前記通信部は、前記支援情報を送信することを促進する促進情報を前記指導者端末に送信する、
請求項1に記載の言語学習装置。
【請求項9】
前記支援情報には、前記ユーザへのメッセージの情報が含まれる、
請求項1又は8に記載の言語学習装置。
【請求項10】
再生された前記コンテンツ及び前記音声情報を関連付けて記憶する記憶部を有する、請求項1に記載の言語学習装置。
【請求項11】
ユーザが言語学習を行うための言語学習装置のコンピュータを、
動画を含むコンテンツの情報を取得するコンテンツ情報取得部と、
前記コンテンツに関連する字句の字句情報を取得する字句情報取得部と、
前記コンテンツの再生に合わせて前記ユーザが発した音声の音声情報を認識する音声情報認識部と、
前記字句情報取得部が取得した前記字句情報と前記音声情報認識部が認識した前記音声情報を比較することにより、前記ユーザに対して評価を行う評価部と、
として機能させ
、
前記コンテンツは、複数の前記ユーザにより行われる対戦形式又は協力形式のゲームであり、
前記複数のユーザのユーザ端末と通信を行う通信部として更に機能させ、
前記通信部は更に、前記ユーザに対して前記言語学習に関する指導を行う指導者の指導者端末と通信を行い、当該指導者端末から前記ユーザに支援を行うための支援情報を受信するとともに、当該支援情報を前記ユーザ端末に送信する、言語学習用のプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、言語学習装置及びプログラムに関する。
【背景技術】
【0002】
英語等の外国語学習にパーソナルコンピュータやスマートフォンなどを用いて利用できるアプリケーションを使用するユーザが増加している。このような言語学習アプリは英会話教室等による学習とは異なり、場所や時間の制約が少なく安価に利用できるという利点がある。一方で、学習意欲が持続せずに挫折してしまうユーザも少なからず存在するため、遊戯性のある学習用コンテンツを用いた語学習装置が知られている。(例えば特許文献1)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明は、ユーザが言語学習を行う場合において、再生されるコンテンツの内容に合わせてユーザが発する音声に基づいた評価を行うことを目的にしている。
【課題を解決するための手段】
【0005】
本発明によれば、ユーザが言語学習を行うための言語学習装置であって、動画を含むコンテンツの情報を取得するコンテンツ情報取得部と、前記コンテンツに関連する字句の字句情報を取得する字句情報取得部と、前記コンテンツの再生に合わせて前記ユーザが発した音声の音声情報を認識する音声情報認識部と、前記字句情報取得部が取得した前記字句情報と前記音声情報認識部が認識した前記音声情報とを比較することにより、前記ユーザに対する評価を行う評価部とを有する、言語学習装置が提供される。
【0006】
好ましくは、前記評価部は、前記音声情報のうち前記字句情報に適合する音声情報の量に応じて前記評価を行う、言語学習装置が提供される。
好ましくは、前記字句情報取得部は、前記コンテンツにおける所定のシーンに関連する前記字句情報を取得し、前記評価部は、前記所定のシーンに関連する前記字句情報と適合する音声情報に応じて前記評価を行う、言語学習装置が提供される。
好ましくは、前記評価部は、前記音声情報の量に基づいて前記ユーザの発声量を評価する、言語学習装置が提供される。
好ましくは、前記コンテンツから前記字句情報を自動的に抽出する抽出部を有し、前記字句情報取得部は、前記抽出部が自動的に抽出した前記字句情報を取得する、言語学習装置が提供される。
好ましくは、前記評価に基づく情報を前記ユーザに通知する通知部を有し、前記通知部は、前記評価部が前記コンテンツが再生されている間に行った評価に基づく情報の通知を前記コンテンツが再生されている間に行う、言語学習装置が提供される。
好ましくは、前記コンテンツは、複数の前記ユーザにより行われる対戦形式又は協力形式のゲームであり、複数の前記ユーザのユーザ端末と通信を行う通信部を有する、言語学習装置が提供される。
好ましくは、前記評価部は、前記ゲームの結果を含めた評価を行う、言語学習装置が提供される。
好ましくは、前記通信部は更に、前記ユーザに対して前記言語学習に関する指導を行う指導者の指導者端末と通信を行い、当該指導者端末から前記ユーザに支援を行うための支援情報を受信するとともに、当該支援情報を前記ユーザ端末に送信する、言語学習装置が提供される。
好ましくは、前記通信部は、前記支援情報を送信することを促進する促進情報を前記指導者端末に送信する、言語学習装置が提供される。
好ましくは、前記支援情報には、前記ユーザへのメッセージの情報が含まれる、言語学習装置が提供される。
好ましくは、再生された前記コンテンツ及び前記音声情報を関連付けて記憶する記憶部を有する、言語学習装置が提供される。
【0007】
実施形態の別の観点によれば、ユーザが言語学習を行うための言語学習装置のコンピュータを、動画を含むコンテンツの情報を取得するコンテンツ情報取得部と、前記コンテンツに関連する字句の字句情報を取得する字句情報取得部と、前記コンテンツの再生に合わせて前記ユーザが発した音声の音声情報を認識する音声情報認識部と、前記字句情報取得部が取得した前記字句情報と前記音声情報認識部が認識した前記音声情報を比較することにより、前記ユーザに対して評価を行う評価部として機能させる、言語学習用のプログラムが提供される。
【0008】
本発明によれば、言語学習装置が、動画を含むコンテンツの情報を取得するコンテンツ情報取得部とコンテンツに関連する字句情報を取得する字句情報取得部と、コンテンツの再生に合わせてユーザの発声を認識する音声情報認識部と、字句情報と音声情報とを比較しユーザに対する評価を行う評価部とを有するので、ユーザが言語学習を行う場合において、再生されるコンテンツの内容に合わせてユーザが発する音声に基づいた評価を行うことができる。
【図面の簡単な説明】
【0009】
【
図1】
図1は、言語学習装置100の構成のブロック図を示している。
【
図2】
図2は、言語学習装置100により、取得したコンテンツに関連する字句情報とユーザの発声に基づく音声情報の適合性を評価し、ユーザへ通知を行う場合のフローチャートを示している。
【
図3】
図3は、言語学習装置100により取得するコンテンツのシーン一例を示している。
【
図4】
図4は、オンラインゲームコンテンツを利用した言語学習を行う場合の言語学習装置100とユーザ端末101との関係を示している。
【発明を実施するための形態】
【0010】
以下、本発明の実施形態について説明する。以下に示す実施形態中で示した各種特徴事項は、互いに組み合わせ可能である。また、各特徴について独立して発明が成立する。
【0011】
実施形態
1 言語学習装置100
図1は、本実施形態の言語学習装置100の機能ブロック図である。
図1示すように、実施形態の言語学習装置100は、コンテンツ情報取得部1、字句情報取得部2、音声情報認識部3、評価部4、抽出部5、通知部6、通信部7及び記憶部8を備えている。
【0012】
実施形態における、言語学習装置100はサーバ装置であり、学習言語は英語であり、動画を含むコンテンツは複数人で行う対戦形式のゲームである。
図4の示す通り、英語学習者が同じゲーム内で2つのチームを形成し対戦を行うことを想定する。ユーザ端末101及び対戦チーム側の対戦者端末103が言語学習装置100に接続される。
【0013】
1-1 コンテンツ情報取得部1
コンテンツ情報取得部1は、
図1に示すように、言語学習装置100に配置されている。コンテンツ情報取得部1は、コンテンツ情報をインターネット等のネットワークを介して取得しても良く、あるいは、コンテンツ情報を記録したSDカード等のコンピュータで読み取り可能な記録媒体から取得しても良い(
図2のS101)。
【0014】
1-2 字句情報取得部2
字句情報取得部2は、
図1に示すように、言語学習装置100に配置されている。字句情報とは、コンテンツ情報取得部1で取得したゲームコンテンツに関連する英単語やフレーズを含む情報である。例えば、
図3に示すようなゲームの1シーンにおいては、表示されているhouse, car, tree等が字句情報の一部となる。
【0015】
字句情報は、ユーザのゲームコンテンツ再生前に、英語の指導者やコンテンツ管理者によって、コンテンツに応じた英単語やフレーズが予め手入力等で生成されても良く、人工知能(AI)等によって、抽出部5でコンテンツから自動的に抽出し生成されても良い。また、字句情報は、ユーザのコンテンツ再生と同時に、AI等によって、抽出部5で自動的に抽出され生成されても良い。この場合、ゲームの進行状況に応じて柔軟に字句情報を生成できるため、字句情報がより広く網羅される。
【0016】
また、ゲームのシーン毎に景色や対象が大きく変化する場合は、再生時間を基にしてシーンを区分けし字句情報を生成し、字句情報取得部2で取得しても良い。例えば、再生時間(区間)1:10~1:30をシーン1、再生時間(区間)2:05~2:30をシーン2、再生時間(区間)2:45~3:00をシーン3というようにシーンを指定することができる。また、コンテンツに関連する字句情報の中に、学習者が間違えやすい英単語やフレーズがあれば、類似する字句情報として間違った字句情報も字句情報取得部2で取得する。
【0017】
字句情報取得部2は、上記生成された字句情報を、ユーザのコンテンツを再生前、再生中又は再生後にインターネット等のネットワークを介して取得(ダウンロード及びインストール)しても良く、あるいは、字句情報を記録したSDカード等のコンピュータで読み取り可能な記録媒体から取得しても良い(
図2のS102)。また、コンテンツの再生前、再生中又は再生後において、一度生成された字句情報の一部に変更を加えた字句情報を取得することもできる。すなわち、字句情報取得部2が取得した字句情報は適宜変更することができる。
【0018】
1-3 音声情報認識部3
音声情報認識部3は、
図1に示すように、言語学習装置100に配置されている。音声情報認識部3は、コンテンツ再生中にユーザから発せられた英単語やフレーズを音声情報として認識する。発音やフレーズの正誤があってもユーザの発声は全て認識するものとする(
図2のS103)。
【0019】
1-4 評価部4
評価部4は、
図1に示すように、言語学習装置100に配置されている。評価部4は、コンテンツ再生中にユーザが発声し音声情報認識部3で認識した音声情報と、字句情報取得部2で取得した字句情報とを、コンテンツ再生中にリアルタイムに比較し、ユーザへフィードバックできるように、情報を処理する(
図2のS104)。具体的には、ユーザの発声情報を、予め定めた基準に沿って字句情報と比較し、同一、類似、その他に分類するとともに後述する各回数を記録する。更に、上記3分類の順番で重み付けされた点数と、回数から得点を付け英語の習熟度を評価する。
【0020】
例えば、ユーザの発声情報が字句情報と、発音や使い方も含めて同一と判定された場合は、同一の回数に1を追加し、得点に10点を加算する(
図2のS105)。また、ユーザの発声情報が字句情報と類似と判定された場合、つまり、発音が似ていたり、使い方が違っていたりする場合は、類似の回数に1を追加し、得点に8点を加算する(
図2のS106)。同一或いは類似に当てはまらない場合はその他とし、その他の回数に1を追加し、得点に3点を加算する(
図2のS107)。ユーザの発声情報が字句情報と同一となった回数は少ないものの、類似やその他となった回数が多い場合でも、発声回数の多さから取組姿勢への評価が可能となる。
【0021】
また、指導者が所定シーンでユーザに期待するフレーズを設け、字句情報取得部2で取得させておき、評価部4でユーザの発声が字句情報と同一と分類された場合には、得点を更に追加するといった評価を行っても良い。点数評価の他、A~Eといった複数段階評価でも良い。評価部4の結果は、コンテンツ再生中、例えば、ユーザの発声の度に、或いはゲーム終了後に利用され、通知部6からユーザへ通知される(
図2のS108)。つまり、評価部4は、ユーザの発声情報から、ユーザに対して効果的な動機付けを行ったり、学習への意欲度、習熟度をユーザ及び指導者が確認したりするために必要な情報処理を行う。また、実施形態によれば、評価部4では言語学習の結果だけでなく、ゲームの結果を含めた評価を行うことができる。
【0022】
1-5 抽出部5
抽出部5は、
図1に示すように、言語学習装置100に配置されている。抽出部5は、再生中のコンテンツにAIを利用した画像認識技術や音声認識技術等を用いて字句情報を自動的に抽出する。例えば、
図3のようなゲームコンテンツの1シーンにおいて、映し出された家や車が画像認識され、house, carという英単語が自動抽出され、近づく足音があれば音声認識により、hear footstepsや、someone coming.というフレーズが自動的に生成される。抽出された字句情報は字句情報取得部2によって取得される。
【0023】
1-6 通知部6
通知部6は、
図1に示すように、言語学習装置100に配置されている。通知部6は、評価部4で行った評価に基づく情報をコンテンツ再生中にユーザの情報端末(ユーザ端末101)へ通知する(
図2のS108)。例えば、通知部6は、評価部4で発声情報と字句情報が一致と評価された場合「その調子です」、所定の時間の発声回数が少ない場合「発声してみましょう」等のテキストや画像、音声情報等をユーザへ通知されるようにユーザ端末101へ通知する。また、ゲーム対戦終了後に、ゲームの勝敗結果とともに英語学習への意欲度や習熟度を表す点数や、指導者の観点で優れた点、改善点等に基づく学習支援情報が通知されても良い。また、通知は、発声した特定のユーザ端末101だけではなく、チーム全体のユーザ端末101に通知されても良い。
【0024】
1-7 通信部7
通信部7は、
図1に示すように、言語学習装置100に配置されている。通信部7は、指導者の情報端末(指導者端末102)及びユーザ端末101と通信を行い、指導者が指導者端末102から入力した支援情報を受信するとともに、ユーザ端末101へ指導者からの支援情報を送信する。支援情報には、指導者からユーザへのアドバイス等のメッセージの情報が含まれる。また、通信部7は、評価部4での評価やゲーム対戦内容や結果に基づきユーザへの支援を促進させる促進情報を指導者端末102へ送信する。
【0025】
促進情報としては、例えば、ユーザが難易度の高い英単語を発声できている、発声回数が増加した、といったユーザの習熟度や意欲度を示す情報、或いは前回からの変化点等の情報であり、評価部4で分類したデジタルデータに基づいて判断される情報が含まれる。更に、支援情報として、指導者が上記促進情報を基に、「難しい表現が言えました。〇〇〇のように使うとより良いです。」「発声できるようになっています。その調子で次回も頑張りましょう。」等のメッセージの情報を作成する。なお、具体的なメッセージでなく、スタンプであってもよい。通信部7は支援情報を指導者端末102から受信し、通信部7は支援情報をユーザ端末101へ送信する。
【0026】
1-8 記憶部8
記憶部8は、
図1に示すように、言語学習装置100に配置されている。記憶部8は、再生したゲームコンテンツと、再生中にユーザから発せられた音声情報とを関連付けて記憶する。更に、促進情報や支援情報等も記憶する。つまり、コンテンツ再生中の全ての画像情報、音声情報及び端末間で行われる通信情報を記憶部8で保存する。これにより、ユーザの復習及び指導者の確認に役立てることができる。
【0027】
上記の各構成要素(コンテンツ情報取得部1、字句情報取得部2、音声情報認識部3、評価部4、抽出部5、通知部6、通信部7)は、ソフトウェアによって実現してもよいし、ハードウェアによって実現してもよい。ソフトウェアによって実現する場合には、CPUがコンピュータプログラムを実行することによって各種機能を実現することができる。プログラムは、内蔵の記憶部に格納してもよく、コンピュータ読み取り可能な非一時的な記録媒体に格納してもよい。また、外部の記憶部に格納されたプログラムを読み出して、いわゆるクラウドコンピューティングにより実現することもできる。ハードウェアによって実現する場合には、ASIC、FPGA、又はDRPなどの種々の回路によって実現することができる。本実施形態においては、様々な情報やこれを包含する概念を取り扱うが、これらは、0又は1で構成される2進数のビット集合体として信号値の高低によって表され、上記のソフトウェア又はハードウェアの態様によって通信や演算が実行され得るものである。
【0028】
2 実施形態の効果
本実施形態における言語学習装置100は、字句情報と音声情報とを比較しユーザに対する評価を行うことが可能に構成されているので、ユーザが言語学習を行う場合において、再生されるコンテンツの内容に合わせてユーザが発する音声に基づいた評価を行うことができる。
【0029】
また、英語等の外国語学習にパーソナルコンピュータやスマートフォンなどを用いて利用できるアプリケーションを使用するユーザが増加している。このような言語学習アプリは場所や時間の制約が少なく安価に利用できる面がある一方で、単独での学習や、学習教材の遊戯性が低いために、学習意欲が持続しない面もある。
【0030】
実施形態における言語学習装置100は、ユーザの好むゲームに組み合わせことができるため、気軽に英語学習を開始することができる。また、対戦に勝つという目的の下、チーム内のコミュニケーションが必然的に活発化し、英語の瞬発力が鍛えられる効果がある。加えて、ゲーム内での仮面効果により、発声の恥ずかしさが抑制され積極的に学習に取り組むことができる。更に、点数や複数段階評価といった見える形での評価を行うことにより、ユーザに達成感を味わわせることができ、学習意欲の維持・向上を図ることができる。また、学習用コンテンツを限定せず、幅広い年齢・性別・嗜好のユーザの言語学習意欲の減退を抑制することも可能となる。なお、これらの効果は本発明の必須の効果ではなく、好ましい効果の一例である。
【0031】
ユーザの発声データの蓄積や分析を容易に行えることから、評価においては、属人的評価に比べ、速く精度の高い公平な評価が可能となり、ユーザへの適切なフィードバック及びアドバイスを行うことができる。
【0032】
更に、AIを利用した画像認識、音声認識により、あらゆる大量のコンテンツが言語学習の教材となり得るため、言語学習を飛躍的に促進させる機会を提供することができる。
【0033】
3 変形例
・言語学習の対象は英語だけでなく、中国語、韓国語等でも良く、限定しないものとする。
・複数人で行われる対戦形式のゲームの場合、言語学習装置100を利用するユーザのチームは言語学習者同士だけでなく、言語指導者が加わっても良い。対戦者チームは、言語学習者であっても無くても良く、言語学習者でない場合は、対戦者端末103は言語学習装置100に必ずしも接続されなくても良い。
・動画を含むコンテンツは、複数人で行われる対戦形式のゲームだけでなく、協力形式のゲーム、アニメーション、映画、ドラマ、音楽、漫画等でも良く、静止画を切替えて動画にしているものを含んでも良い。言語学習に特化したコンテンツでも良い。また、必ずしも複数人で行われる必要はなく、単独で行われても良い。また、コンテンツの再生はストリーミング再生のみならず、ダウンロード再生でも良い。更にライブ配信(生配信)されたコンテンツをリアルタイムで再生するようにしても良い。
・言語学習装置100は、サーバ装置だけでなく、パーソナルコンピュータやタブレット、スマートフォン等の家庭用情報機器でも良い。
【符号の説明】
【0034】
100 :言語学習装置
1 :コンテンツ情報取得部
2 :字句情報取得部
3 :音声情報認識部
4 :評価部
5 :抽出部
6 :通知部
7 :通信部
8 :記憶部
101 :ユーザ端末
102 :指導者端末
103 :対戦者端末