(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024122293
(43)【公開日】2024-09-09
(54)【発明の名称】情報処理システム、情報処理装置、情報処理方法、及びプログラム
(51)【国際特許分類】
H04N 7/15 20060101AFI20240902BHJP
【FI】
H04N7/15 120
【審査請求】未請求
【請求項の数】16
【出願形態】OL
(21)【出願番号】P 2023029754
(22)【出願日】2023-02-28
(71)【出願人】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100107515
【弁理士】
【氏名又は名称】廣田 浩一
(72)【発明者】
【氏名】鴻上 和彦
【テーマコード(参考)】
5C164
【Fターム(参考)】
5C164FA10
5C164UB81S
5C164VA06S
5C164VA07P
5C164VA10S
5C164VA51P
(57)【要約】
【課題】コミュニケーションに参加した参加者、又は管理者等が、コミュニケーションの内容を後から確認することを容易にする情報処理システムを提供する。
【解決手段】情報処理システムは、コミュニケーションに参加する参加者と他の参加者の発話音声を取得する取得部と、前記コミュニケーションにおいて、前記参加者による所定の操作を受け付ける受付部と、前記所定の操作を受け付けたときに、前記所定の操作を受け付けた時刻を示す時刻情報を記録する記録部と、前記発話音声に基づいて、前記参加者と前記他の参加者の発話状況を示す指標を表示させるとともに、前記時刻情報に基づいて、前記コミュニケーションにおいて、前記所定の操作を受け付けた箇所を把握可能に表示させる表示画面を提供する情報提供部と、を有する。
【選択図】
図9
【特許請求の範囲】
【請求項1】
コミュニケーションに参加する参加者と他の参加者の発話音声を取得する取得部と、
前記コミュニケーションにおいて、前記参加者による所定の操作を受け付ける受付部と、
前記所定の操作を受け付けたときに、前記所定の操作を受け付けた時刻を示す時刻情報を記録する記録部と、
前記発話音声に基づいて、前記参加者と前記他の参加者の発話状況を示す指標を表示させるとともに、前記時刻情報に基づいて、前記コミュニケーションにおいて、前記所定の操作を受け付けた箇所を把握可能に表示させる表示画面を提供する情報提供部と、
を有する、情報処理システム。
【請求項2】
前記情報提供部は、
前記発話音声に基づいて、前記指標を前記表示画面に図示し、
前記時刻情報に基づいて、前記所定の操作を受け付けた時刻に対応するマーカを前記表示画面に表示する、
請求項1に記載の情報処理システム。
【請求項3】
前記情報提供部は、前記表示画面において前記マーカが選択された場合、前記マーカに対応するコメントの入力を受け付けるコメント欄を前記表示画面に表示する、請求項2に記載の情報処理システム。
【請求項4】
前記コメント欄は、前記コメント欄に入力された1つ以上のコメントを表示する、請求項3に記載の情報処理システム。
【請求項5】
前記コメント欄は、前記コメントを入力したユーザの情報をさらに表示する、請求項4に記載の情報処理システム。
【請求項6】
前記情報処理システムは、前記参加者、又は管理者が利用する端末装置に、前記表示画面を提供し、
前記コメント欄は、前記参加者、又は前記管理者がコメントを入力可能である、
請求項3乃至5のいずれか一項に記載の情報処理システム。
【請求項7】
前記参加者は、端末装置を用いて前記コミュニケーションに参加し、
前記端末装置は、
前記参加者と前記他の参加者の発話音声を前記取得部に送信する音声送信部と、
前記参加者による前記所定の操作を受け付ける操作画面を表示部に表示する表示制御部と、
前記操作画面が前記所定の操作を受け付けたことを前記受付部に通知する通知部と、
を有する、請求項1に記載の情報処理システム。
【請求項8】
前記操作画面は、互いに異なるマーキング操作を受け付ける複数の表示要素を含み、
前記情報提供部は、前記参加者が選択した前記表示要素によって異なるマーカを前記表示画面に表示する、請求項7に記載の情報処理システム。
【請求項9】
前記情報提供部は、
前記参加者の発話音量と前記他の参加者の発話音量とを前記表示画面に時系列に図示し、
発話音量が第1の閾値を超えた箇所に、前記マーカとは別のマーカを表示する、
請求項2に記載の情報処理システム。
【請求項10】
前記情報提供部は、
前記参加者の会話密度と前記他の参加者の会話密度とを前記表示画面に時系列に図示し、
会話密度が第2の閾値を超えた箇所に、前記マーカとは別のマーカを表示する、
請求項2に記載の情報処理システム。
【請求項11】
前記情報提供部は、前記表示画面において前記別のマーカが選択された場合、前記別のマーカに対応するコメント欄を前記表示画面に表示する、請求項9又は10に記載の情報処理システム。
【請求項12】
前記表示画面に示した前記発話状況を示す指標から、選択された箇所の発話音声を再生する音声再生部を有する、請求項1に記載の情報処理システム。
【請求項13】
前記情報提供部は、前記表示画面に示した前記発話状況を示す指標から、選択された箇所の発話音声をテキスト化した文字列を、前記表示画面に表示する、請求項1に記載の情報処理システム。
【請求項14】
コミュニケーションに参加する参加者と他の参加者の発話音声を取得する取得部と、
前記コミュニケーションにおいて、前記参加者による所定の操作を受け付ける受付部と、
前記所定の操作を受け付けたときに、前記所定の操作を受け付けた時刻を示す時刻情報を記録する記録部と、
前記発話音声に基づいて、前記参加者と前記他の参加者の発話状況を示す指標を表示させるとともに、前記時刻情報に基づいて、前記コミュニケーションにおいて、前記所定の操作を受け付けた箇所を把握可能に表示させる表示画面を提供する情報提供部と、
を有する、情報処理装置。
【請求項15】
コミュニケーションに参加する参加者と他の参加者の発話音声を取得する取得処理と、
前記コミュニケーションにおいて、前記参加者による所定の操作を受け付ける受付処理と、
前記所定の操作を受け付けたときに、前記所定の操作を受け付けた時刻を示す時刻情報を記録する記録処理と、
前記発話音声に基づいて、前記参加者と前記他の参加者の発話状況を示す指標を表示させるとともに、前記時刻情報に基づいて、前記コミュニケーションにおいて、前記所定の操作を受け付けた箇所を把握可能に表示させる表示画面を提供する情報提供処理と、
をコンピュータが実行する、情報処理方法。
【請求項16】
コミュニケーションに参加する参加者と他の参加者の発話音声を取得する取得処理と、
前記コミュニケーションにおいて、前記参加者による所定の操作を受け付ける受付処理と、
前記所定の操作を受け付けたときに、前記所定の操作を受け付けた時刻を示す時刻情報を記録する記録処理と、
前記発話音声に基づいて、前記参加者と前記他の参加者の発話状況を示す指標を表示させるとともに、前記時刻情報に基づいて、前記コミュニケーションにおいて、前記所定の操作を受け付けた箇所を把握可能に表示させる表示画面を提供する情報提供処理と、
をコンピュータに実行させる、プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理システム、情報処理装置、情報処理方法、及びプログラムに関する。
【背景技術】
【0002】
複数の端末装置の間で、映像、又は音声等のコンテンツデータを送受信する会議システムが普及している。
【0003】
また、録画再生装置において、一方の視聴者が作成したブックマークを他方の視聴者に伝えることにより、一方の視聴者が見たい場面を、他方の視聴者と共有する技術が知られている(例えば、特許文献1参照)。
【発明の概要】
【発明が解決しようとする課題】
【0004】
例えば、オンラインで商談を行う会議システムにおいて、商談を行った担当者、又は担当者を管理する管理者等が、商談内容を後から確認したいという要求がある。しかし、従来の技術では、商談を行った担当者、又は担当者を管理する管理者等が、商談内容を後から確認することには困難を伴っていた。
【0005】
なお、このような問題は、商談を行う会議システムに限られず、例えば、遠隔医療、カウンセリング、遠隔授業、又は就学相談等のコミュニケーションを行う様々なコミュニケーションシステムに共通に存在する。
【0006】
このように、従来のコミュニケーションシステムでは、コミュニケーションに参加した参加者、又は管理者等が、コミュニケーションの内容を後から確認することには困難を伴っていた。
【0007】
本発明の一実施形態は、上記の問題点に鑑みてなされたものであって、コミュニケーションに参加した参加者、又は管理者等が、コミュニケーションの内容を後から確認することを容易にする情報処理システムを提供する。
【課題を解決するための手段】
【0008】
上記の課題を解決するため、本発明の一実施形態に係る情報処理システムは、コミュニケーションに参加する参加者と他の参加者の発話音声を取得する取得部と、前記コミュニケーションにおいて、前記参加者による所定の操作を受け付ける受付部と、前記所定の操作を受け付けたときに、前記所定の操作を受け付けた時刻を示す時刻情報を記録する記録部と、前記発話音声に基づいて、前記参加者と前記他の参加者の発話状況を示す指標を表示させるとともに、前記時刻情報に基づいて、前記コミュニケーションにおいて、前記所定の操作を受け付けた箇所を把握可能に表示させる表示画面を提供する情報提供部と、を有する。
【発明の効果】
【0009】
本発明の一実施形態によれば、コミュニケーションに参加した参加者、又は管理者等が、コミュニケーションの内容を後から確認することを容易にする情報処理システムを提供することができる。
【図面の簡単な説明】
【0010】
【
図1】一実施形態に係る情報処理システムのシステム構成の一例を示す図である。
【
図2】一実施形態に係る情報処理システムのシステム構成の別の一例を示す図である。
【
図3】一実施形態に係る端末装置の操作画面の例を示す図である。
【
図4】一実施形態に係る表示画面の一例を示す図(1)である。
【
図5】一実施形態に係る表示画面の一例を示す図(2)である。
【
図6】一実施形態に係る表示画面の別の一例を示す図である。
【
図7】一実施形態に係るコンピュータのハードウェア構成の例を示す図である。
【
図8】一実施形態に係る端末装置のハードウェア構成の一例を示す図である。
【
図9】一実施形態に係る情報処理システムの機能構成の例を示す図である。
【
図10】一実施形態に係るデータ処理部の機能構成の例を示す図である。
【
図11】第1の実施形態に係る端末装置の処理の例を示すフローチャートである。
【
図12】第1の実施形態に係るデータ処理の例を示すフローチャートである。
【
図13】第1の実施形態に係る表示画面の提供処理の例を示すフローチャートである。
【
図14】第1の実施形態に係るコメント欄の表示処理の例を示すフローチャートである。
【
図15】第1の実施形態に係る会議音声の再生処理の例を示す図である。
【
図16】第2の実施形態に係るデータ処理の例を示すフローチャートである。
【
図17】第2の実施形態に係る表示画面の提供処理の例を示すフローチャートである。
【
図18】第3の実施形態に係る端末装置の処理の例を示すフローチャートである。
【
図19】第3の実施形態に係るデータ処理の例を示すフローチャートである。
【
図20】第3の実施形態に係る表示画面の提供処理の例を示すフローチャートである。
【
図21】一実施形態に係るマーカの追加処理の例を示すフローチャートである。
【発明を実施するための形態】
【0011】
以下、本発明の実施形態について、図面を参照しながら詳細に説明する。
【0012】
<システム構成>
図1、2は、一実施形態に係る情報処理システムのシステム構成の例を示す図である。情報処理システム1は、例えば、
図1に示すように、インターネット、又はLAN(Local Area network)等の通信ネットワーク2に接続する会議サーバ10、情報処理装置20、複数の端末装置100a、100b、100c、100d、・・・、及び管理者端末101等を含む。なお、以下の説明において、複数の端末装置100a、100b、100c、100d、・・・のうち、任意の端末装置を示す場合、「端末装置100」を用いる。また、
図1に示した複数の端末装置100の数は一例である。
【0013】
情報処理システム1は、端末装置100と、1つ以上の他の端末装置100との間で、少なくとも音声を送受信する、例えば、商談、会議、診療、授業、又はカウンセリング等の様々なコミュニケーションを支援するシステムである。ここで、情報処理システム1が支援するコミュニケーションの「支援」とは、コミュニケーションの内容を後から確認することの支援を含む。ここでは、一例として、情報処理システム1が、端末装置100のユーザと、他の端末装置100のユーザとの間で、音声を含む映像を送受信し、商談を行うウェブ会議の内容を後から確認することを支援するものとして、以下の説明を行う。
【0014】
端末装置100は、ウェブ会議に参加するユーザが利用する、例えば、PC(Personal Computer)、タブレット端末、又はスマートフォン等の汎用の情報端末である。或いは、端末装置100は、ビデオ会議装置、又はIWB(Interactive White Board)等のウェブ会議の機能を有する電子機器であってもよい。なお、IWBは、相互通信が可能な電子式の黒板機能を有する白板であり、電子黒板とも呼ばれる。ここでは、一例として、端末装置100が、汎用の情報端末であるものとして、以下の説明を行う。
【0015】
ウェブ会議に参加する参加者は、例えば、端末装置100にインストールされたウェブ会議用のアプリケーション、又はウェブブラウザ等を利用して、会議サーバ10が提供する会議用のアドレスにアクセスすることにより、ウェブ会議に参加する。
【0016】
会議サーバ10は、コンピュータの構成を有する情報処理装置、又は複数のコンピュータを含むシステムである。会議サーバ10は、複数の端末装置100の間で、音声、又は音声を含む映像を送受信するウェブ会議サービスを提供する。なお、本実施形態では、会議サーバ10が提供するウェブ会議サービスは、任意のウェブ会議サービスであってよい。
【0017】
情報処理装置20は、例えば、コンピュータの構成を有する情報処理装置、又は複数のコンピュータを含むシステムである。情報処理装置20は、本実施形態に係るコミュニケーション支援サービスを提供する。
【0018】
管理者端末101は、本実施形態に係るコミュニケーション支援サービスを利用する管理者等が利用する、例えば、PC、タブレット端末、又はスマートフォン等の情報端末である。管理者等は、例えば、管理者端末101が備えるウェブブラウザ、又は管理者端末101が実行する情報処理システム1用のアプリケーションプログラム(以下、アプリと呼ぶ)等を利用して、コミュニケーション支援サービスを利用する。
【0019】
また、ウェブ会議に参加した参加者は、例えば、参加者が利用する端末装置100、又は管理者端末101等を用いて、管理者と同様に、コミュニケーション支援サービスを利用することができる。
【0020】
なお、
図1に示した情報処理システム1のシステム構成は一例である。例えば、情報処理システム1は、
図2に示すように、会議サーバ10を有していなくてもよい。この場合、端末装置100は、情報処理システム1の外部のウェブ会議サービスを利用して、ウェブ会議を行うものであってよい。或いは、情報処理装置20が会議サーバ10の機能を有しており、端末装置100は、情報処理装置20が提供するウェブ会議サービスを利用して、ウェブ会議を行うものであってもよい。
【0021】
(処理の概要)
例えば、会議サーバ10が提供するウェブ会議を利用して商談を行う場合、商談を行った担当者、又は担当者を管理する管理者等が、後から商談内容を確認したいという要求がある。しかし、商談を行った担当者、又は担当者を管理する管理者等が、情報処理システム1等に記録した商談内容を後から確認することには困難を伴っていた。
【0022】
例えば、商談に要した時間が1時間である場合、仮に音声を2倍速で早送り再生できたとしても、全ての音声を再生すると30分を要する。従って、例えば、複数の担当者を管理する管理者等が、複数の担当者が行った商談の音声を再生して、全ての商談内容を把握することは困難である。なお、商談に参加した担当者が、面談の音声を再生して、商談内容を確認する場合にも、同様の問題がある。
【0023】
そこで、本実施形態に係る情報処理システム1は、商談を行ったウェブ会議の内容を後から確認することを容易にするコミュニケーション支援サービスを提供する。例えば、端末装置100は、情報処理システム1に対応するアプリを実行することにより、端末装置100の表示部に、
図3(A)に示すような操作画面310を表示する。
【0024】
図3(A)に示した操作画面310において、ウェブ会議に参加する参加者が、「記録する」ボタン311を選択すると、情報処理システム1は、ウェブ会議に参加する参加者、及び他の参加者の発話音声の記録を開始する。
【0025】
例えば、端末装置100が実行するアプリは、端末装置100が備える音声回路等を用いて、ウェブ会議に参加する参加者、及び他の参加者の発話音声を取得し、取得した発話音声を情報処理装置20へ送信する。情報処理装置20は、端末装置100から受信したウェブ会議に参加する参加者、及び他の参加者の発話音声等を記憶する。
【0026】
また、端末装置100が実行するアプリは、発話音声を記録中に、端末装置100の表示部に、例えば、
図3(B)に示すような操作画面320を表示する。
図3(B)に示した操作画面320において、ウェブ会議に参加する参加者が、「停止する」ボタン321を選択すると、情報処理システム1は、ウェブ会議に参加する参加者、及び他の参加者の発話音声の記録を停止する。また、参加者は、「マーキングする」ボタン322を選択すると、記録中の発話音声にマーカを付加するマーキングを行うことができる。
【0027】
例えば、端末装置100が実行するアプリは、「マーキングする」ボタン322が選択されると、マーキング操作を受け付けたことを情報処理装置20に通知する。これに応じて、情報処理装置20は、参加者によるマーキング操作を受付し、マーキング操作を受け付けた時刻を示す時刻情報と、会議を識別する会議IDとを、所定のDB(Database)等に記憶する。
【0028】
別の一例として、端末装置100が実行するアプリは、発話音声を記録中に、端末装置100の表示部に、例えば、
図3(C)に示すような操作画面330を表示してもよい。
図3(C)の例では、操作画面330には、記録中の発話音声に、互いに異なるマーカを付加する、「マーキングA」ボタン331a、「マーキングB」ボタン331b、・・・が表示されている。これにより、参加者は、記録中の発話音声に、異なるマーカを付加することができる。
【0029】
例えば、端末装置100が実行するアプリは、「マーキングA」ボタン331aが選択されると、選択されたマーキングの情報(例えば、マーキングA)を、情報処理装置20に通知する。これに応じて、情報処理装置は、参加者によるマーキング操作を受付し、選択されたマーキングの情報、マーキング操作を受け付けた時刻を示す時刻情報、及び会議ID等を、DB等に記憶する。なお、「マーキングA」ボタン331a、「マーキングB」ボタン331b、・・・は、互いに異なるマーキング操作を受け付ける複数の表示要素の一例である。
【0030】
図4は、一実施形態に係る表示画面の一例を示す図(1)である。この図は、情報処理システム1が、管理者端末101、又は端末装置100等に提供する表示画面400の一例を示している。
図4の例では、情報処理システム1が提供する表示画面400には、会議の概要410、及び音量タイムライン420が表示されている。
【0031】
会議の概要410には、一例として、ウェブ会議(以下、会議と呼ぶ)に参加した参加者(担当者)の名前、会議に参加した他の参加者(顧客)の名前、会議を開始した日時、及び評価等の情報が表示されている。ここで、評価は、例えば、会議に参加した担当者が、商談内容を、星の数等で自己評価した結果等である。
【0032】
音量タイムライン420は、横軸を時間として、会議に参加した参加者の発話音量421aと、会議に参加した他の参加者の発話音量421bとを時系列に表示している。なお、参加者の発話音量421a、及び他の参加者の発話音量421bは、会議に参加した参加者と他の参加者の発話状況を示す指標の一例である。
【0033】
好ましくは、情報処理システム1は、発話音量のデータから、所定の期間(例えば、数秒~十数分程度)の移動平均を算出して、参加者の発話音量421a、及び他の参加者の発話音量421bとする。
【0034】
また、情報処理システム1は、DB等に記憶した時刻情報に基づいて、マーキング操作を受け付けた時刻に対応するマーカ422a、422b、422c、・・を、音量タイムライン420に表示する。これにより、管理者、又は参加者等は、音量タイムライン420から、マーキングされた箇所を容易に特定することができる。これにより、コミュニケーションに参加した参加者、又は管理者等は、コミュニケーションの内容を後から確認することが容易になる。
【0035】
好ましくは、情報処理システム1は、表示画面400において、マーカ422aが選択された場合、例えば、
図5に示すようなコメント欄501を、表示画面400に表示する。
図5の例では、情報処理システム1は、ポップアップウィンドウ500を使って、コメント欄501を表示している。ただし、コメント欄501を表示する方法は、これに限られない。
【0036】
参加者、及び管理者は、コメント欄501にコメントを入力し、「追加する」ボタン502を選択することにより、マーカ422aに、コメントを追加することができる。例えば、管理者は、管理者端末101を用いて、
図5に示すような表示画面400を表示し、
図5に示すようなコメント503を追加することができる。同様に、参加者(担当者)は、端末装置100、又は管理者端末101を用いて、
図5に示すような表示画面400を表示し、例えば、
図5に示すようなコメント503を追加することができる。
【0037】
なお、
図5に示したコメント503は、管理者、又は参加者等が自分で入力してもよいし、情報処理システム1が、ログインしたユーザのユーザ名等を自動的に表示してもよい。このコメント欄501にコメントを残すことにより、コミュニケーションに参加した参加者、又は管理者等は、コミュニケーションの内容を後から確認することが、さらに容易になる。
【0038】
また、情報処理システム1は、時系列に表示した参加者の発話音量421a、及び他の参加者の発話音量421bから、問題がありそうな箇所にマーカ423a、423bを表示してもよい(表示しなくてもよい)。ここで、問題がありそうな箇所には、例えば、発話音量が、所定の閾値を超えた箇所(発話音量が大きい、又は小さい)等が含まれる。
【0039】
さらに、情報処理システム1は、例えば、
図4に示すような表示画面400において、時系列に表示した参加者の発話音量421a、又は他の参加者の発話音量421bから、選択された箇所の発話音声を再生する機能を有している。例えば、管理者等が、発話音声の再生位置を示すバー424を、マーカ422a付近に移動させ、「再生」ボタン425を選択したものとする。この場合、情報処理システム1は、バー424が示す再生位置から、発話音声(参加者の発話音声、又は他の参加者の発話音声)の再生を開始する。この発話音声の再生機能により、コミュニケーションに参加した参加者、又は管理者等は、参加者によってマーキングされた箇所の発話音声を、後から容易に確認することができる。
【0040】
図6は、一実施形態に係る表示画面の別の一例を示している。
図6の例では、情報処理システム1が提供する表示画面600には、
図4で説明した音量タイムライン420に代えて、会話密度610が表示されている。会話密度610は、横軸を時間として、参加者(担当者)の会話密度611aと、他の参加者(顧客)の会話密度611bとを、時系列に図示している。ここで、会話密度は、例えば、所定の時間内における発話文字数(又は発話語数)等で表される。なお、会話密度610は、参加者と他の参加者の発話状況を示す指標の別の一例である。
【0041】
好ましくは、情報処理システム1は、算出した会話密度のデータから、所定の期間(例えば、数秒~十数分程度)の移動平均を算出して、参加者の会話密度611a、及び他の参加者の会話密度611bとする。
【0042】
図6の例では、情報処理システム1は、参加者の会話密度611aと、他の参加者の会話密度611bのうち、管理者等によって選択された他の参加者の会話密度611bの表示をアクティブとし、参加者の会話密度411を非アクティブとしている。
【0043】
また、情報処理システム1は、DBに記憶した時刻情報、及び選択されたマーキングの情報等に基づいて、マーキング操作を受け付けた時刻に対応するマーカを、会話密度610に表示する。このとき、情報処理システム1は、例えば、
図3(C)に示すような操作画面330で選択されたマーキングの情報に応じて、異なるマーカを表示する。
【0044】
例えば、情報処理装置20は、操作画面330で「マーキングA」ボタン331aが選択された箇所に、マーカA612a、612bを表示し、「マーキングB」ボタン331bが選択された箇所に、マーカB613を表示する。
【0045】
これにより、参加者は、用途に応じて異なるマーカを、会話密度610に表示することができる。なお、参加者は、同様にして、用途に応じて異なるマーカを、
図4に示すような表示画面400の音量タイムライン420に表示するものであってもよい。
【0046】
なお、
図4、5に示した表示画面400、及び
図6に示した表示画面600は、情報処理システム1が提供する表示画面の一例である。例えば、情報処理システム1は、音量タイムライン420と、会話密度610とを同時に表示する表示画面を提供してもよい。
【0047】
このように、本実施形態によれば、コミュニケーションに参加した参加者、又は管理者等が、コミュニケーションの内容を後から確認することを容易にする情報処理システム1を提供することができる。
【0048】
<ハードウェア構成>
(コンピュータのハードウェア構成)
会議サーバ10、情報処理装置20、及び管理者端末101は、例えば、
図7に示すようなコンピュータ700のハードウェア構成を備えている。なお、会議サーバ10、及び情報処理装置20は、複数のコンピュータ700によって実現されるものであってもよい。また、端末装置100は、一例として、
図7に示すようなコンピュータ700のハードウェア構成を有していてもよい。
【0049】
図7は、一実施形態に係るコンピュータのハードウェア構成の例を示す図である。コンピュータ700は、例えば、
図7に示されるように、CPU(Central Processing Unit)701、ROM(Read Only Memory)702、RAM(Random Access Memory)703、HD(Hard Disk)704、HDD(Hard Disk Drive)コントローラ705、ディスプレイ706、外部機器接続I/F(Interface)707、ネットワークI/F708、キーボード709、ポインティングデバイス710、DVD-RW(Digital Versatile Disk Rewritable)ドライブ712、メディアI/F714、及びバスライン715等を備えている。
【0050】
また、コンピュータ700が端末装置100である場合、コンピュータ700は、例えば、マイク721、スピーカ722、音入出力I/F723、CMOS(Complementary Metal Oxide Semiconductor)センサ724、及び撮像素子I/F725等を、さらに備える。
【0051】
これらのうち、CPU701は、コンピュータ700全体の動作を制御する。ROM702は、例えば、IPL(Initial Program Loader)等のコンピュータ700の起動に用いられるプログラムを記憶する。RAM703は、例えば、CPU701のワークエリア等として使用される。HD704は、例えば、OS(Operating System)、アプリケーション、デバイスドライバ等のプログラムや、各種データを記憶する。HDDコントローラ705は、例えば、CPU701の制御に従ってHD704に対する各種データの読み出し又は書き込みを制御する。なお、HD704、及びHDDコントローラ705は、コンピュータ700が備えるストレージデバイスの一例である。
【0052】
ディスプレイ706は、例えば、カーソル、メニュー、ウィンドウ、文字、又は画像などの各種情報を表示する。なお、ディスプレイ706は、コンピュータ700の外部に設けられていてもよい。外部機器接続I/F707は、コンピュータ700に、様々な外部装置を接続するためのインタフェースである。ネットワークI/F708は、コンピュータ700を通信ネットワーク2に接続して、他の装置と通信するためのインタフェースである。
【0053】
キーボード709は、文字、数値、各種指示などの入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス710は、各種指示の選択や実行、処理対象の選択、カーソルの移動などを行なう入力手段の一種である。なお、キーボード709、及びポインティングデバイス710は、コンピュータ700の外部に設けられていてもよい。
【0054】
DVD-RWドライブ712は、着脱可能な記録媒体の一例としてのDVD-RW711に対する各種データの読み出し又は書き込みを制御する。なお、DVD-RW711は、DVD-RWに限らず、他の記録媒体であってもよい。メディアI/F714は、フラッシュメモリ等のメディア713に対するデータの読み出し又は書き込み(記憶)を制御する。バスライン715は、上記の各構成要素を電気的に接続するためのアドレスバス、データバス及び各種の制御信号等を含む。
【0055】
マイク721は、音を電気信号に変える内蔵型の回路である。スピーカ722は、電気信号を物理振動に変えて音楽や音声などの音を生み出す内蔵型の回路である。音入出力I/F723は、CPU701の制御に従ってマイク721及びスピーカ722との間で音信号の入出力を処理する回路である。
【0056】
CMOSセンサ724は、CPU701の制御に従って被写体(例えば自画像)を撮像して画像データを得る内蔵型の撮像手段の一種である。なお、コンピュータ700は、CMOSセンサ724に代えて、CCD(Charge Coupled Device)センサ等の撮像手段を有していてもよい。撮像素子I/F725は、CMOSセンサ724の駆動を制御する回路である。
【0057】
(端末装置のハードウェア構成の一例)
図8は、一実施形態に係る端末装置のハードウェア構成の一例を示す図である。ここでは、端末装置100が、例えば、スマートフォン、又はタブレット端末等の情報端末である場合における端末装置100のハードウェア構成の例について説明する。なお、端末装置100は、例えば、ビデオ会議装置、又はIWB等のコンピュータの構成と、ウェブ会議の機能を備えた電子機器であってもよい。また、管理者端末101は、
図8に示すような端末装置100のハードウェア構成を有していてもよい。
【0058】
図8の例では、端末装置100は、CPU801、ROM802、RAM803、ストレージデバイス804、CMOSセンサ805、撮像素子I/F806、加速度・方位センサ807、メディアI/F809、GPS(Global Positioning System)受信部810等を備えている。
【0059】
これらのうち、CPU801は、所定のプログラムを実行することにより端末装置100全体の動作を制御する。ROM802は、例えば、IPL等のCPU801の起動に用いられるプログラムを記憶する。RAM803は、CPU801のワークエリアとして使用される。ストレージデバイス804は、OS、アプリ等のプログラム、及び各種のデータ等を記憶する大容量の記憶装置であり、例えば、SSD(Solid State Drive)、又はフラッシュROM等によって実現される。
【0060】
CMOSセンサ805は、CPU801の制御に従って被写体(主に自画像)を撮像して画像データを得る内蔵型の撮像手段の一種である。なお、端末装置100は、CMOSセンサ805に代えて、CCDセンサ等の撮像手段を有していてもよい。撮像素子I/F806は、CMOSセンサ805の駆動を制御する回路である。加速度・方位センサ807は、地磁気を検知する電子磁気コンパスやジャイロコンパス、加速度センサ等の各種センサである。メディアI/F809は、フラッシュメモリ等のメディア(記憶メディア)808に対するデータの読み出し又は書き込み(記憶)を制御する。GPS受信部810は、GPS衛星からGPS信号(測位信号)を受信する。
【0061】
また、端末装置100は、遠距離通信回路811、遠距離通信回路811のアンテナ811a、CMOSセンサ812、撮像素子I/F813、マイク814、スピーカ815、音入出力I/F816、ディスプレイ817、外部機器接続I/F818、近距離通信回路819、近距離通信回路819のアンテナ819a、及びタッチパネル820を備えている。
【0062】
これらのうち、遠距離通信回路811は、例えば、通信ネットワーク2を介して、他の装置と通信する回路である。CMOSセンサ812は、CPU801の制御に従って被写体を撮像して画像データを得る内蔵型の撮像手段の一種である。撮像素子I/F813は、CMOSセンサ812の駆動を制御する回路である。マイク814は、音を電気信号に変える内蔵型の回路である。スピーカ815は、電気信号を物理振動に変えて音楽や音声などの音を生み出す内蔵型の回路である。音入出力I/F816は、CPU801の制御に従ってマイク814及びスピーカ815との間で音信号の入出力を処理する回路である。
【0063】
ディスプレイ817は、被写体の画像や各種アイコン等を表示する液晶や有機EL(Electro Luminescence)等の表示手段の一種である。外部機器接続I/F818は、各種の外部機器を接続するためのインタフェースである。近距離通信回路819は、近距離無線通信を行う回路を含む。タッチパネル820は、利用者がディスプレイ817を押下することで、端末装置100を操作する入力手段の一種である。
【0064】
また、端末装置100は、バスライン821を備えている。バスライン821は、
図8に示されているCPU801等の各構成要素を電気的に接続するためのアドレスバスやデータバス等を含む。
【0065】
なお、
図8に示した端末装置100のハードウェア構成は一例である。端末装置100は、コンピュータの構成、通信回路、ディスプレイ、マイク、及びスピーカ等を有していれば、他の様々なハードウェア構成であってもよい。
【0066】
<機能構成>
続いて、情報処理システム1の機能構成の例について説明する。
図9は、一実施形態に係る情報処理システムの機能構成の例を示す図である。
【0067】
(端末装置の機能構成)
ここでは、端末装置100が、
図7に示すようなコンピュータ700のハードウェア構成を有しているものとして、以下の説明を行う。
【0068】
端末装置100は、CPU701が所定のプログラムを実行することにより、例えば、通信部911、会議制御部912、音声送信部913、表示制御部914、操作受付部915、及び通知部916等の機能構成を実現している。なお、上記の各機能構成のうち、少なくとも一部は、ハードウェアによって実現されるものであってもよい。なお、本実施形態では、端末装置100bは、会議サーバ10を介して、端末装置100aと同じ会議に参加できるものであれば、任意の機能構成であってよい。
【0069】
通信部911は、例えば、ネットワークI/F708等を用いて、端末装置100を通信ネットワーク2に接続して、例えば、会議サーバ10、情報処理装置20、又は他の端末装置100等と通信する通信処理を実行する。
【0070】
会議制御部912は、例えば、会議への接続、会議映像(又は会議音声)の送受信、及び会議映像(又は会議音声)の入出力等、ウェブ会議に関する一連の処理を実行する。なお、会議制御部912が実行する処理は、一般的なウェブ会議と同様の処理であってよい。なお、会議は、本実施形態に係るコミュニケーションの一例である。
【0071】
音声送信部913は、会議に参加する参加者(例えば、端末装置100aを利用する利用者)の発話音声、及び会議に参加する他の参加者(例えば、端末装置100bを利用する利用者)の発話音声を取得し、情報処理装置20に送信する音声送信処理を実行する。例えば、音声送信部913は、音入出力I/F723等から、マイクで取得した音声、及びスピーカから出力する音声等の発話音声を取得し、取得した発話音声(音声データ)を情報処理装置20に送信する。これにより、情報処理システム1は、ウェブ会議に限られず、通常の会議等のコミュニケーションを支援することも可能になる。
【0072】
ただし、これに限られず、音声送信部913は、会議制御部912から、参加者の発話音声、及び他の参加者の発話音声を取得し、取得した発話音声(音声データ)を情報処理装置20に送信してもよい。
【0073】
表示制御部914は、例えば、ディスプレイ706等の表示部に表示画面を表示する表示制御処理を実行する。操作受付部915は、例えば、キーボード709、又はポインティングデバイス710等の入力デバイスを用いて、参加者による操作を受け付ける操作受付処理を実行する。なお、会議制御部912、表示制御部914、及び操作受付部915は、例えば、端末装置100が備えるウェブブラウザ等によって実現されるものであってもよい。
【0074】
通知部916は、表示制御部914が表示部に表示した操作画面が所定の操作を受け付けたときに、所定の操作を受け付けたことを情報処理装置20に通知する通知処理を実行する。例えば、通知部916は、例えば、
図3(B)に示すような操作画面320において、「マーキングする」ボタン322が選択されると、マーキング操作を受け付けたことを示す情報を情報処理装置20に通知する。
【0075】
(情報処理装置の機能構成)
情報処理装置20は、1つ以上のコンピュータ700が所定のプログラムを実行することにより、例えば、通信部901、取得部902、受付部903、記録部904、データ処理部905、情報提供部906、及び音声再生部907等の機能構成を実現している。なお、上記の各機能構成のうち、少なくとも一部は、ハードウェアによって実現されるものであってもよい。
【0076】
また、情報処理装置20は、例えば、HD704、及びHDDコントローラ705等のストレージデバイスにより、記憶部908を実現している。
【0077】
通信部901は、例えば、ネットワークI/F708等を用いて、情報処理装置20を通信ネットワーク2に接続し、端末装置100、及び管理者端末101等と通信する通信処理を実行する。
【0078】
取得部902は、会議(コミュニケーション)に参加する参加者の発話音声と、同じ会議に参加する他の参加者の発話音声とを取得する取得処理を実行する。例えば、取得部902は、参加者が利用する端末装置100の音声送信部913が、情報処理装置20に送信する、参加者の発話音声と他の参加者の発話音声を取得する。
【0079】
受付部903は、会議(コミュニケーション)において、参加者による所定の操作を受け付ける受付処理を実行する。例えば、受付部903は、端末装置100が、マーキング操作を受け付けたときに送信する、マーキング操作を受け付けたことを示す情報を受信したときに、参加者によるマーキング操作を受け付ける。なお、マーキング操作は、所定の操作の一例である。
【0080】
記録部904は、受付部903が、参加者による所定の操作を受け付けたときに、所定の操作を受け付けた時刻を示す時刻情報と、会議を識別する会議IDとを、DB等に記録する。
【0081】
データ処理部905は、取得部902が取得した参加者、及び他の参加者の発話音声(音声データ)に対してデータ処理を実行する。データ処理部905は、一例として、
図10に示すように、会議音声作成部1001、指標算出部1002、及びマーキング部1003等を含む。
【0082】
会議音声作成部1001は、取得部902が取得した参加者の発話音声と他の参加者の発話音声とを合成して、参加者の発話音声と他の参加者の発話音声とを含む会議音声を作成する会議音声作成処理を実行する。
【0083】
指標算出部1002は、例えば、
図4で説明した音量タイムライン、又は
図6で説明した会話密度等、会議に参加する参加者と他の参加者の発話状況を示す指標を算出する指標算出処理を実行する。
【0084】
例えば、指標算出部1002は、取得部902が取得した参加者と他の参加者の発話音声に基づいて、参加者の発話音量と、他の参加者の発音量とを算出する。好ましくは、指標算出部1002は、参加者の発話音量と他の参加者の発話音量の所定の期間(例えば、数秒~十数分程度)の移動平均を算出することにより、所定の期間ごとの参加者の発話音量と他の参加者の発話音量とを算出する。
【0085】
或いは、指標算出部1002は、取得部902が取得した参加者と他の参加者の発話音声をテキスト化して発話文字数を抽出し、参加者の発話速度と他の参加者の発話速度とを算出する。また、指標算出部1002は、算出した発話速度のデータに基づいて、所定の期間(例えば、数秒~十数分程度)の移動平均を算出することにより、所定の期間ごとの参加者の会話密度と他の参加者の会話密度とを算出する。ここで、会話密度は、所定の時間内における発話文字数(又は発話語数)を表す指標である。
【0086】
マーキング部1003は、指標算出部1002が算出した、参加者の発話状況を示す指標、又は他の参加者の発話状況を示す指標が所定の条件を満たす箇所にマーキングするマーキング処理を実行する。例えば、マーキング部1003は、所定の期間ごとの参加者の発話音量、又は所定の期間ごとの他の参加者の発話音量が、第1の閾値を超えた箇所にマーキングする。或いは、マーキング部1003は、所定の期間ごとの参加者の会話密度、又は所定の期間ごとの他の参加者の会話密度が、第2の閾値を超えた箇所にマーキングする。
【0087】
ここで、
図9に戻り、情報処理装置20の機能構成の説明を続ける。情報提供部906は、取得部902が取得した発話音声に基づいて、参加者と他の参加者の発話状況を示す指標を表示させるとともに、時刻情報に基づいて、所定の操作を受け付けた箇所を把握可能に表示させる表示画面を提供する。具体的な例として、情報提供部906は、取得部902が取得した発話音声に基づいて、参加者と他の参加者の発話状況を示す指標を時系列に図示するとともに、DB等に記憶した時刻情報に基づいて、所定の操作を受け付けた時刻に対応するマーカを表示する表示画面を提供する。例えば、情報提供部906は、
図4で説明した表示画面400、又は
図6で説明した表示画面600等を、管理者端末101、又は端末装置100等に提供する情報提供処理を実行する。
【0088】
音声再生部907は、情報提供部906が提供する表示画面に図示した参加者と他の参加者の発話状況を示す指標から、選択された箇所の発話音声を再生する音声再生処理を実行する。例えば、音声再生部907は、参加者と他の参加者の発話状況を示す指標から、選択された箇所の時刻を取得し、取得した時刻から、会議音声作成部1001が作成した会議音声を再生する。
【0089】
記憶部908は、例えば、取得部902が取得した発話音声、データ処理部905が作成した会議音声等のデータ、及び閾値等の設定情報等を記憶する。
【0090】
(会議サーバの機能構成)
会議サーバ10は、1つ以上のコンピュータ700が所定のプログラムを実行することにより、例えば、通信部921、会議管理部922、及び中継部923等の機能構成を実現している。なお、上記の各機能構成のうち、少なくとも一部は、ハードウェアによって実現されるものであってもよい。
【0091】
通信部921は、例えば、ネットワークI/F708等を用いて、会議サーバ10を通信ネットワーク2に接続し、端末装置100a、100b、・・・等と通信する通信処理を実行する。
【0092】
会議管理部922は、同じウェブ会議用のURL(Uniform Resource Locator)にアクセスする複数の端末装置100を同じ会議(セッション)に参加させる会議管理処理を実行する。
【0093】
中継部923は、同じ会議に参加する複数の端末装置100の間で、音声、及び画像を含むコンテンツデータを中継する中継処理を実行する。なお、会議管理部922、及び中継部923の機能は、既存のウェブ会議システムの機能を流用するものであってよい。
【0094】
また、本実施形態では、会議サーバ10は、情報処理システム1の外部の任意のウェブ会議サービスであってもよい。
【0095】
(管理者端末の機能構成)
管理者端末101は、例えば、コンピュータ700が所定のプログラムを実行することにより、通信部931、表示制御部932、及び操作受付部933等を実現している。なお、上記の各機能構成のうち、少なくとも一部は、ハードウェアによって実現されるものであってもよい。
【0096】
通信部931は、例えば、ネットワークI/F708等を用いて、管理者端末101を通信ネットワーク2に接続して、例えば、情報処理装置20等と通信する通信処理を実行する。
【0097】
表示制御部932は、例えば、情報提供部906等から提供される表示画面を、ディスプレイ706等の表示部に表示する表示制御処理を実行する。操作受付部933は、例えば、表示制御部932が表示した表示画面に対する管理者等の操作等を受け付ける操作受付処理を実行する。なお、表示制御部932、及び操作受付部933は、例えば、管理者端末101が備えるウェブブラウザ等によって実現されるものであってもよい。例えば、管理者端末101は、ウェブブラウザを備えた汎用の情報端末等であってもよい。
【0098】
なお、
図9に示した情報処理システム1の機能構成は一例である。例えば、会議サーバ10の機能は、情報処理装置20が有していてもよいし、情報処理システム1の外部のコンピュータ700、又はクラウドサービス等が有していてもよい。また、情報処理装置20の機能構成の少なくとも一部は、端末装置100、又は管理者端末101等が有していてもよい。さらに、端末装置100が備える機能構成の少なくとも一部は、情報処理装置20、又は会議サーバ10等が備えていてもよい。要するに、
図9に示した、情報処理システム1の各機能構成は、情報処理システム1に含まれる、いずれかの装置が有していればよい。
【0099】
<処理の流れ>
続いて、本実施形態に係る情報処理支援方法の処理の流れについて説明する。
【0100】
[第1の実施形態]
(端末装置の処理)
図11は、第1実施形態に係る端末装置の処理の例を示すフローチャートである。この処理は、例えば、
図9で説明した機能構成を有する端末装置100(例えば、端末装置100a)が実行する処理の例を示している。なお、
図11に示す処理の開始時点において、参加者が利用する端末装置100(例えば、端末装置100a)は、他の参加者が利用する端末装置(例えば、端末装置100b)と同じ会議に参加し、少なくとも音声による会話が可能な状態であるものとする。
【0101】
ステップS1101において、操作受付部915は、会議音声の記録の開始操作を受け付けると、処理をステップS1102に移行させる。なお、参加者は、例えば、
図3(A)に示すような操作画面310において、「記録する」ボタン311を選択することにより、会議音声の記録の開始操作を行うことができる。
【0102】
ステップS1102において、音声送信部913は、会議に参加する参加者の発話音声、及び会議に参加する他の参加者の発話音声を取得し、取得した発話音声を情報処理装置20に送信する発話音声の送信処理を開始する。
【0103】
ステップS1103において、操作受付部915は、マーキング操作を受け付けたかを判断する。なお、参加者は、例えば、
図3(B)に示すような操作画面320において、「マーキングする」ボタン322を選択することにより、マーキング操作を行うことができる。マーキング操作を受け付けた場合、操作受付部915は、処理をステップS1104に移行させる。一方、マーキング操作を受け付けていない場合。操作受付部915は、処理をステップS1105に移行させる。
【0104】
ステップS1104において、通知部916は、マーキング操作を受け付けたことを、通信部911を介して、情報処理装置20に通知する。
【0105】
ステップS1105に移行すると、操作受付部915は、記録の停止操作を受け付けたか否かを判断する。なお、参加者は、例えば、
図3(B)に示すような操作画面320において、「停止する」ボタン321を選択することにより、記録の停止操作を行うことができる。記録の停止操作を受け付けていない場合、操作受付部915は、処理をステップS1103に戻す。一方、記録の停止操作を受け付けた場合、操作受付部915は、処理をステップS1106に移行させる。
【0106】
ステップS1106に移行すると、音声送信部913は、発話音声の送信処理を停止、又は終了する。
【0107】
図11の処理により、端末装置100は、参加者と他の参加者の発話音声を情報処理装置20に送信するとともに、参加者によるマーキング操作を受け付けたことを情報処理装置20に通知することができる。
【0108】
(データ処理)
図12は、第1の実施形態に係るデータ処理の例を示すフローチャートである。この処理は、例えば、
図11で説明した端末装置の処理により、端末装置100が情報処理装置20に送信する参加者と参加者の発話音声を受信したときに、情報処理装置20が実行するデータ処理の一例を示している。
【0109】
ステップS1201において、取得部902は、端末装置100が送信する参加者と他の参加者の発話音声の受信を開始すると、処理をステップS1202、S1204に移行させる。
【0110】
ステップS1202において、受付部903は、マーキング操作を受け付けたかを判断する。例えば、受付部903は、端末装置100が送信する、マーキング操作を受け付けたことを示す通知を受信したときに、マーキング操作を受け付けたと判断する。マーキング操作を受け付けた場合、受付部903は、処理をステップS1203に移行させる。一方、マーキング操作を受け付けていない場合、受付部903は、処理をステップS1205に移行させる。なお、マーキング操作は、所定の操作の一例である。
【0111】
ステップS1203に移行すると、記録部904は、受付部903がマーキング操作を受け付けた時刻を示す時刻情報と、会議を識別する会議IDとを、DB等に記録する。ここで、会議IDは、記録部904が付与するものであってもよいし、端末装置100から通知されるものであってもよい。
【0112】
ステップS1204において、データ処理部905は、例えば、ステップS1202、S1203の処理と並行して、取得部902が取得した参加者と他の参加者の発話音声の発話音量を算出し、記憶する。例えば、データ処理部905は、算出した発話音量にタイムスタンプを付けて、記憶部908等に記憶する。
【0113】
ステップS1205において、取得部902は、発話音声の受信を停止したかを判断する。発話音声の受信を停止していない場合、取得部902は、処理をステップS1202、S1204に戻す。一方、発話音声の受信を停止した場合、取得部902は、処理をステップS1206に移行させる。
【0114】
ステップS1206に移行すると、データ処理部905は、取得部902が取得した参加者の発話音声と他の参加者の発話音声とを合成して、参加者の発話音声と他の参加者の発話音声とを含む会議音声を作成する。
【0115】
ステップS1207において、データ処理部905は、所定の期間ごとの指標を算出する。例えば、データ処理部905は、会議の各時点において、参加者の発話音量データから所定の期間の移動平均を算出することにより、所定の期間ごとの参加者の発話音量を算出する。同様にして、データ処理部905は、会議の各時点において、他の参加者の発話音量データから所定の期間の移動平均を算出することにより、所定の期間ごとの他の参加者の発話音量を算出する。なお、所定の期間ごとの参加者の発話音量と他の参加者の発話音量は、参加者と他の参加者の発話状況を示す指標の一例である。
【0116】
ステップS1208において、データ処理部905は、算出した指標、及び作成した会議音声を、記憶部908等に記憶する。
【0117】
図12の処理により、情報処理装置20は、会議に参加する参加者と他の参加者の発話音声、マーキング操作を受け付けた時刻情報、及び参加者と他の参加者の発話状況を示す指標等を取得し、記憶することができる。
【0118】
(表示画面の提供処理)
図13は、第1の実施形態に係る表示画面の提供処理の例を示すフローチャートである。この処理は、情報処理装置20が、例えば、
図4に示すような表示画面400、又は
図6に示すような表示画面600を、管理者端末101、又は端末装置100等に提供する表示画面の提供処理の一例を示している。ここでは、情報処理装置20が、管理者端末101に表示画面400を提供するものとして以下の説明を行う。
【0119】
ステップS1301において、情報提供部906は、例えば、
図12で説明したデータ処理でデータを記憶した会議の一覧を、管理者端末101に表示させる。例えば、管理者等は、管理者端末101が備えるウェブブラウザ等を用いて、所定のURLにアクセスすることにより、会議の一覧を表示することができる。
【0120】
ステップS1302において、情報提供部906は、会議の一覧から選択された会議の会議音声、及び参加者と他の参加者の発話状況を示す指標を、記憶部908等から取得する。なお、ステップS1301、S1302の処理は一例である。例えば、情報提供部906は、管理者等によって入力された会議ID等に基づいて、会議音声、及び指標を記憶部908等から取得してもよい。
【0121】
ステップS1303において、情報提供部906は、選択された会議に対応するマーキング情報を、DB等から取得する。このマーキング情報には、例えば、会議ID、及びマーキング操作が行われた時刻を示す時刻情報等が含まれる。
【0122】
ステップS1304において、情報提供部906は、参加者と発話者の発話音声である会議音声に基づいて、参加者と他の参加者の発話状況を示す指標を時系列に図示する表示画面を作成する。例えば、情報提供部906は、
図4に示すような音量タイムライン420を図示する表示画面400を作成する。なお、この時点では、音量タイムライン420には、マーカ422a、422b、422c、及びマーカ423a、423b等は表示されていない。
【0123】
ステップS1305において、情報提供部906は、取得したマーキング情報に含まれる時刻情報に基づいて、マーキング操作を受け付けた時刻に対応するマーカを、表示画面に描画する。例えば、情報提供部906は、
図4に示すような音量タイムライン420に、マーカ422a、422b、422cを描画する。なお、この時点では、音量タイムライン420には、マーカ423a、423bは表示されていない。
【0124】
ステップS1306において、情報提供部906は、作成した表示画面を管理者端末101に提供する。
【0125】
図13の処理により、情報処理装置20は、管理者端末101等に、例えば、
図4に示すような表示画面400を表示させることができる。ただし、第1の実施形態で情報提供部906が提供する表示画面には、マーカ423a、423bは表示されていない。
【0126】
(コメント欄の表示処理)
図14は、第1の実施形態に係るコメント欄の表示処理の例を示すフローチャートである。この処理は、例えば、
図4に示すような表示画面400に、
図5に示すようなコメント欄501を表示するコメント欄の表示処理の例を示している。
【0127】
ステップS1401において、情報処理装置20の情報提供部906は、マーカの選択を受け付けると、ステップS1402以降の処理を実行する。なお、管理者等は、
図4に示すような表示画面40において、例えば、マーカ422aをクリックすること、マーカ422aをタップすること、又はマーカ422aの上にカーソルを移動すること等により、マーカ422aを選択することができる。また、情報提供部906は、例えば、管理者端末101から、例えば、マーカ422aの選択操作を受け付けたことを示す通知を受け付けたときに、マーカ422aの選択操作を受け付けたと判断する。
【0128】
ステップS1402において、情報提供部906は、選択されたマーカのマーキング情報に基づいてコメント欄を表示する。例えば、情報提供部906は、
図4に示すような表示画面400に、
図5に示すような、選択されたマーカに対応する入力を受け付けるコメント欄501を表示する。
【0129】
ステップS1403において、情報提供部906は、表示したコメント欄にコメントが入力されているかを判断する。コメントが入力されている場合、情報提供部906は、ステップS1404の処理を実行する。一方、コメントが入力されていない場合、情報提供部906は、
図14の処理を終了する。
【0130】
ステップS1404に移行すると、情報提供部906は、コメント欄に入力されたコメントを、選択されたマーカのマーキング情報に記憶する。
【0131】
図14の処理により、情報提供部906は、コメント欄に入力されたコメントをマーキング情報に記憶し、次にコメント欄を表示するときに、マーキング情報に記憶したコメントをコメント欄に表示することができる。
【0132】
(会議音声の再生処理)
図15は、第1の実施形態に係る会議音声の再生処理の例を示すフローチャートである。この処理は、例えば、
図4に示すような表示画面400において、管理者等が選択した箇所の会議音声を再生する会議音声の再生処理の一例を示している。
【0133】
ステップS1501において、情報処理装置20は、例えば、
図4に示すような表示画面400において、再生位置の指定操作を受け付けると、ステップS1502以降の処理を実行する。なお、管理者等は、表示画面400において、発話音声の再生位置を示すバー424を移動させることにより、再生位置を指定することができる。
【0134】
ステップS1502において、音声再生部907は、管理者等によって指定された再生位置に対応する時間tを取得する。
【0135】
ステップS1503において、音声再生部907が、再生ボタンの選択を受け付けると、ステップS1504において、音声再生部907は、取得した時間tから、会議音声(参加者の発話音声、又は他の参加者の発話音声)を再生する。例えば、
図4に示すような表示画面400において、管理者等が「再生」ボタン425を選択すると、音声再生部907は、時間t以降の会議音声の音声データを管理者端末101に送信する。これにより、管理者端末101は、時間t以降の会議音声を出力する。
【0136】
なお、
図15に示した会議音声の再生処理は一例である。例えば、音声再生部907は、ステップS1503の処理を省略して、ステップS1504において、ステップS1502で取得した時間tから、会議音声の再生を開始してもよい。また、会議音声の再生を開始する時間tの指定方法は、例えば、シークバー等を用いて指定するもの等であってもよい。
【0137】
このように、本実施形態に係る情報処理システム1によれば、表示画面に時系列に表示した、参加者と他の参加者の発話状況を示す指標において、管理者等が指定した箇所の会議音声を、容易に再生することができる。
【0138】
[第2の実施形態]
第2の実施形態では、情報処理装置20が、例えば、
図4に示すような表示画面400において、音量タイムライン420の問題がありそうな箇所に、マーカ423a、423bを表示する場合の処理の例について説明する。
【0139】
(データ処理)
図16は、第2の実施形態に係るデータ処理の例を示すフローチャートである。この処理は、例えば、
図11で説明した端末装置の処理により、端末装置100が情報処理装置20に送信する参加者と参加者の発話音声を受信したときに、情報処理装置20が実行するデータ処理の別の一例を示している。
【0140】
なお、
図16に示した処理のうち、ステップS1201~S1207の処理は、
図12で説明した第1の実施形態に係るデータ処理と同様なので、ここでは説明を省略する。また、ここでは、第1の実施形態と同様の処理内容に対する詳細な説明は省略する。
【0141】
ステップS1207において、データ処理部905が、所定の期間ごとの指標(所定の期間ごとの参加者の発話音量と他の参加者の発話音量)算出した後、ステップS1601において、データ処理部905は、閾値を超えた指標があるかを判断する。
【0142】
ここで、閾値には、指標の値に問題がある可能性の有無を判断するための値が予め設定されているものとする。なお、閾値の設定は、情報処理装置20に予め設定された値であってもよいし、管理者、又は参加者等が設定した値等であってもよい。また、閾値の設定は、例えば、情報処理システム1が記憶している過去の会議のデータと、問題があった過去の会議の事例等に基づいて、機械学習により決定してもよい。
【0143】
ここで、機械学習とは、コンピュータに人のような学習能力を獲得させるための技術であり、コンピュータが、データ識別等の判断に必要なアルゴリズムを、事前に取り込まれる学習データから自律的に生成し、新たなデータについてこれを適用して予測を行う技術のことをいう。また、機械学習のための学習方法は、教師あり学習に限られず、例えば、教師なし学習、半教師学習、強化学習、又は深層学習等であってもよい。
【0144】
閾値を超えた指標がある場合、データ処理部905は、処理をステップS1602に移行させる。一方、閾値を超えた指標がない場合、データ処理部905は、処理をステップS1603に移行させる。
【0145】
ステップS1602に移行すると、データ処理部905は、閾値を超えた指標にマーキングする。なお、本実施形態では、情報処理装置20が自動的にマーキングすることを「マーキング(自動)」と呼び、自動的にマーキングされたマーカを「マーカ(自動)」と呼ぶ場合がある。また、マーカ(自動)のマーキング情報を「マーキング情報(自動)」と呼ぶ場合がある。
【0146】
ステップS1603に移行すると、データ処理部905は、算出した指標、マーキング情報(自動)、及び作成した会議音声を、記憶部908等に記憶する。
【0147】
図16の処理により、情報処理装置20は、会議に参加する参加者と他の参加者の発話音声、マーキング操作を受け付けた時刻情報、参加者と他の参加者の発話状況を示す指標、及びマーキング情報(自動)等を取得し、記憶することができる。
【0148】
(表示画面の提供処理)
図17は、第2の実施形態に係る表示画面の提供処理の例を示すフローチャートである。この処理は、情報処理装置20が、例えば、
図4に示すような表示画面400を、管理者端末101、又は端末装置100等に提供する表示画面の提供処理の別の一例を示している。ここでは、情報処理装置20が、管理者端末101に表示画面400を提供するものとして以下の説明を行う。
【0149】
なお、
図17に示した処理のうち、ステップS1301~S1305の処理は、
図13で説明した第1の実施形態に係る表示画面の提供処理と同様なので、ここでは説明を省略する。また、ここでは、第1の実施形態と同様の処理内容に対する詳細な説明は省略する。
【0150】
ステップS1701において、情報提供部906は、例えば、
図16のステップS1603で記憶したマーキング情報(自動)に基づいて、表示画面にマーカ(自動)を描画する。例えば、情報提供部906は、ステップS1305において、
図4に示すような音量タイムライン420に、マーカ422a、422b、422cを描画した後、ステップS1701において、マーカ423a、423bを描画する。
【0151】
ステップS1702において、情報提供部906は、作成した表示画面を管理者端末101に提供する。
【0152】
図17の処理により、情報処理装置20は、管理者端末101等に、例えば、
図4に示すような表示画面400を表示させることができる。
【0153】
[第3の実施形態]
第3の実施形態では、情報処理装置20が、例えば、
図6に示すような表示画面600を提供する場合の処理の例について説明する。
【0154】
(端末装置の処理)
図18は、第3の実施形態に係る端末装置の処理の例を示すフローチャートである。なお、
図18に示した処理のうち、ステップS1101~S1103、S1105~S1106の処理は、
図11で説明した第1の実施形態に係る端末装置の処理と同様なので、ここでは説明を省略する。
【0155】
ステップS1103において、操作受付部915が、マーキング操作を受け付けた場合、ステップS1801において、通知部916は、選択されたマーキングの情報を、通信部911を介して、情報処理装置20に通知する。
【0156】
図18の処理により、端末装置100は、例えば、
図3(C)に示すような操作画面330において、「マーキングA」ボタン331aが選択された場合、「マーキングA」ボタン331aが選択されたことを示す情報を、情報処理装置20に通知することができる。同様に、端末装置100は、操作画面330において、「マーキングB」ボタン331bが選択された場合、「マーキングB」ボタン331bが選択されたことを示す情報を、情報処理装置20に通知することができる。
【0157】
(データ処理)
図19は、第3の実施形態に係るデータ処理の例を示すフローチャートである。なお、
図19に示した処理のうち、ステップS1201、S1205~S1206の処理は、
図12で説明した第1の実施形態に係るデータ処理と同様なので、ここでは説明を省略する。また、ここでは、第1の実施形態と同様の処理内容に対する詳細な説明は省略する。
【0158】
ステップS1901において、受付部903は、マーキング操作を受け付けたかを判断する。例えば、受付部903は、端末装置100が送信する、選択されたマーキングの情報を受信した場合、マーキング操作を受け付けたと判断する。マーキング操作を受け付けた場合、受付部903は、処理をステップS1902に移行させる。一方、マーキング操作を受け付けていない場合、受付部903は、処理をステップS1205に移行させる。
【0159】
ステップS1902に移行すると、記録部904は、受付部903がマーキング操作を受け付けた時刻を示す時刻情報と、会議を識別する会議IDとを含む、選択されたマーキングの情報をDB等に記録する。
【0160】
ステップS1903において、データ処理部905は、例えば、ステップS1901、S1902の処理と並行して、取得部902が取得した参加者と他の参加者の発話音声を、発話ごとにテキスト化して発話文字数を抽出する。
【0161】
ステップS1904において、データ処理部905は、抽出した発話文字数と発話時間とから、発話速度(発話文字数/発話時間)を算出し、記憶する。例えば、データ処理部905は、算出した発話速度にタイムスタンプを付けて、記憶部908等に記憶する。
【0162】
また、発話音声の受信を停止した後に、ステップS1911において、データ処理部905は、所定の期間ごとの指標を算出する。例えば、データ処理部905は、会議の各時点において、参加者の発話速度データから所定の期間の移動平均を算出することにより、所定の期間ごとの参加者の会話密度を算出する。なお、会話密度は、前述したように、所定の期間内における発話文字数(又は発話語数)を示す指標である。同様に、データ処理部905は、会議の各時点において、他の参加者の発話速度データから所定の期間の移動平均を算出することにより、所定の期間ごとの他の参加者の会話密度を算出する。
【0163】
ステップS1912において、データ処理部905は、閾値を超えた指標があるかを判断する。閾値を超えた指標がある場合、データ処理部905は、処理をステップS1913に移行させる。一方、閾値を超えた指標がない場合、データ処理部905は、処理をステップS1914に移行させる。
【0164】
ステップS1913に移行すると、データ処理部905は、閾値を超えた指標にマーキング(自動)する。なお、本実施形態においても、情報処理装置20が自動的にマーキングすることを「マーキング(自動)」と呼び、自動的にマーキングされたマーカを「マーカ(自動)」と呼ぶ場合がある。また、マーカ(自動)のマーキング情報を「マーキング情報(自動)」と呼ぶ場合がある。
【0165】
ステップS1914に移行すると、データ処理部905は、算出した指標(会話密度)、マーキング情報(自動)、及び作成した会議音声等を、記憶部908等に記憶する。
【0166】
図19の処理により、情報処理装置20は、会議に参加する参加者と他の参加者の発話音声、マーキング操作を受け付けた時刻情報、参加者と他の参加者の発話状況を示す指標、及びマーキング情報(自動)等を取得し、記憶することができる。
【0167】
(表示画面の提供処理)
図20は、第3の実施形態に係る表示画面の提供処理の例を示すフローチャートである。この処理は、情報処理装置20が、例えば、
図6に示すような表示画面600を、管理者端末101、又は端末装置100等に提供する表示画面の提供処理の例を示している。ここでは、情報処理装置20が、管理者端末101に表示画面600を提供するものとして以下の説明を行う。
【0168】
なお、
図20に示した処理のうち、ステップS1301~S1303の処理は、
図13で説明した第1の実施形態に係る表示画面の提供処理と同様なので、ここでは説明を省略する。また、ここでは、第1の実施形態と同様の処理内容に対する詳細な説明は省略する。
【0169】
ステップS2001において、情報提供部906は、参加者と発話者の発話音声である会議音声に基づいて、参加者と他の参加者の発話状況を示す指標を時系列に図示する表示画面を作成する。例えば、情報提供部906は、
図6に示すような会話密度610を図示する表示画面600を作成する。なお、この時点では、会話密度610には、マーカ612a、612b、マーカ613、及びマーカ614a、616b等は表示されていない。
【0170】
ステップS2002において、情報提供部906は、取得したマーキング情報に含まれる時刻情報に基づいて、マーキング操作を受け付けた時刻に対応するマーカを、表示画面に描画する。例えば、情報提供部906は、
図6に示すような会話密度610に、マーカ612a、612b、及びマーカ613を描画する。なお、この時点では、会話密度610には、マーカ614a、614bは表示されていない。
【0171】
ステップS2003において、情報提供部906は、例えば、
図19のステップS1914で記憶したマーキング情報(自動)に基づいて、表示画面にマーカ(自動)を描画する。例えば、情報提供部906は、ステップS2002において、
図6に示すような会話密度610に、マーカ612a、612b、及びマーカ613を描画した後、ステップS2003において、マーカ614a、614bを描画する。
【0172】
ステップS2004において、情報提供部906は、作成した表示画面を管理者端末101に提供する。
【0173】
図20の処理により、情報処理装置20は、管理者端末101等に、例えば、
図6に示すような表示画面600を表示させることができる。
【0174】
(マーカの追加処理)
第1~3の実施形態では、参加者が、会議中にリアルタイムにマーカを付加するものとして説明を行った。ただし、これに限られず、例えば、
図4に示すような表示画面400において、参加者、又は管理者等が、後からマーカを追加することもできる。
【0175】
図21は、一実施形態に係るマーカの追加処理の例を示すフローチャートである。なお、
図21に示す処理の開始時点おいて、例えば、管理者端末101が、
図4に示すような表示画面400を表示しているものとする。
【0176】
ステップS2101において、管理者端末101が、時系列に図示した指標に対してマーキング操作を受け付けるものとする。例えば、管理者等は、
図4に示すような表示画面400の音量タイムライン420において、参加者の発話音量421a、又は他の参加者の発話音量421bに対して所定の操作(例えば、右クリック、長押し等)を行うことにより、マーキング操作を行うことができる。
【0177】
ステップS2102において、情報処理装置20の記録部904は、マーキング操作を受け付けた位置に対応する時刻を取得する。
【0178】
ステップS2103において、記録部904は、取得した時刻を示す時刻情報と会議IDとを含むマーキング情報を作成し、DB等に記録する。
【0179】
ステップS2104において、情報処理装置20の情報提供部906は、記録部904が作成したマーキング情報に基づいて、表示画面400の音量タイムライン420に、新たなマーカを追加する。ここで、追加されたマーカは、例えば、会議中に付与されたマーカ422a、422b、422cと同様にして表示され、コメント欄の利用も可能である。
【0180】
図21の処理により、情報処理システム1は、会議中だけではなく、会議が終了した後からでも、表示画面にマーカを追加することができる。
【0181】
以上、本発明の各実施形態によれば、コミュニケーションに参加した参加者、又は管理者等が、コミュニケーションの内容を後から確認することを容易にする情報処理システム1を提供することができる。
【0182】
<補足>
上記で説明した各実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)や従来の回路モジュール等のデバイスを含むものとする。
【0183】
また、実施例に記載された装置群は、本明細書に開示された実施形態を実施するための複数のコンピューティング環境のうちの1つを示すものに過ぎない。ある実施形態では、会議サーバ10、及び情報処理装置20等は、サーバクラスタといった複数のコンピューティングデバイスを含む。複数のコンピューティングデバイスは、ネットワークや共有メモリなどを含む任意のタイプの通信リンクを介して互いに通信するように構成されており、本明細書に開示された処理を実施する。
【0184】
さらに、情報処理装置20、端末装置100、及び管理者端末101は、開示された処理ステップ、例えば、
図11~21に示す処理を様々な組み合わせで共有するように構成できる。例えば、情報処理装置20によって実行されるプロセスは、端末装置100、又は管理者端末101によって実行され得る。また、端末装置100によって実行されるプロセス、及び管理者端末101によって実行されるプロセスは、情報処理装置20によって実行され得る。さらに、情報処理装置20の各要素は、1つの装置にまとめられていても良いし、複数の装置に分けられていてもよい。
【0185】
<付記>
本明細書には、下記の各項の情報処理システム、情報処理装置、情報処理方法、及びプログラムが開示されている。
(第1項)
コミュニケーションに参加する参加者と他の参加者の発話音声を取得する取得部と、
前記コミュニケーションにおいて、 前記参加者による所定の操作を受け付ける受付部と、
前記所定の操作を受け付けたときに、前記所定の操作を受け付けた時刻を示す時刻情報を記録する記録部と、
前記発話音声に基づいて、前記参加者と前記他の参加者の発話状況を示す指標を表示させるとともに、前記時刻情報に基づいて、前記コミュニケーションにおいて、前記所定の操作を受け付けた箇所を把握可能に表示させる表示画面を提供する情報提供部と、
を有する、情報処理システム。
(第2項)
前記情報提供部は、
前記発話音声に基づいて、前記指標を前記表示画面に図示し、
前記時刻情報に基づいて、前記所定の操作を受け付けた時刻に対応するマーカを前記表示画面に表示する、
第1項に記載の情報処理システム。
(第3項)
前記情報提供部は、前記表示画面において前記マーカが選択された場合、前記マーカに対応するコメントの入力を受け付けるコメント欄を前記表示画面に表示する、第2項に記載の情報処理システム。
(第4項)
前記コメント欄は、前記コメント欄に入力された1つ以上のコメントを表示する、第3項に記載の情報処理システム。
(第5項)
前記コメント欄は、前記コメントを入力したユーザの情報をさらに表示する、第4項に記載の情報処理システム。
(第6項)
前記情報処理システムは、前記参加者、又は管理者が利用する端末装置に、前記表示画面を提供し、
前記コメント欄は、前記参加者、又は前記管理者がコメントを入力可能である、
第3項~第5項のいずれかに記載の情報処理システム。
(第7項)
前記参加者は、端末装置を用いて前記コミュニケーションに参加し、
前記端末装置は、
前記参加者と前記他の参加者の発話音声を前記取得部に送信する音声送信部と、
前記参加者による前記所定の操作を受け付ける操作画面を表示部に表示する表示制御部と、
前記操作画面が前記所定の操作を受け付けたことを前記受付部に通知する通知部と、
を有する、第1項~第6項のいずれかに記載の情報処理システム。
(第8項)
前記操作画面は、互いに異なるマーキング操作を受け付ける複数の表示要素を含み、
前記情報提供部は、前記参加者が選択した前記表示要素によって異なるマーカを前記表示画面に表示する、第7項に記載の情報処理システム。
(第9項)
前記情報提供部は、
前記参加者の発話音量と前記他の参加者の発話音量とを前記表示画面に時系列に図示し、
発話音量が第1の閾値を超えた箇所に、前記マーカとは別のマーカを表示する、
第2項~第6項のいずれかに記載の情報処理システム。
(第10項)
前記情報提供部は、
前記参加者の会話密度と前記他の参加者の会話密度とを前記表示画面に時系列に図示し、
会話密度が第2の閾値を超えた箇所に、前記マーカとは別のマーカを表示する、
第2項~第6項のいずれかに記載の情報処理システム。
(第11項)
前記情報提供部は、前記表示画面において前記別のマーカが選択された場合、前記別のマーカに対応するコメント欄を前記表示画面に表示する、第9項又は第10項に記載の情報処理システム。
(第12項)
前記表示画面に示した前記発話状況を示す指標から、選択された箇所の発話音声を再生する音声再生部を有する、第1項~第11項のいずれかに記載の情報処理システム。
(第13項)
前記情報提供部は、前記表示画面に示した前記発話状況を示す指標から、選択された箇所の発話音声をテキスト化した文字列を、前記表示画面に表示する、第1項~第11項のいずれかに記載の情報処理システム。
(第14項)
コミュニケーションに参加する参加者と他の参加者の発話音声を取得する取得部と、
前記コミュニケーションにおいて、前記参加者による所定の操作を受け付ける受付部と、
前記所定の操作を受け付けたときに、前記所定の操作を受け付けた時刻を示す時刻情報を記録する記録部と、
前記発話音声に基づいて、前記参加者と前記他の参加者の発話状況を示す指標を示すとともに、前記時刻情報に基づいて、前記コミュニケーションにおいて、前記所定の操作を受け付けた箇所を把握可能に表示する表示画面を提供する情報提供部と、
を有する、情報処理装置。
(第15項)
コミュニケーションに参加する参加者と他の参加者の発話音声を取得する取得処理と、
前記コミュニケーションにおいて、前記参加者による所定の操作を受け付ける受付処理と、
前記所定の操作を受け付けたときに、前記所定の操作を受け付けた時刻を示す時刻情報を記録する記録処理と、
前記発話音声に基づいて、前記参加者と前記他の参加者の発話状況を示す指標を表示させるとともに、前記時刻情報に基づいて、前記コミュニケーションにおいて、前記所定の操作を受け付けた箇所を把握可能に表示させる表示画面を提供する情報提供処理と、
をコンピュータが実行する、情報処理方法。
(第16項)
コミュニケーションに参加する参加者と他の参加者の発話音声を取得する取得処理と、
前記コミュニケーションにおいて、前記参加者による所定の操作を受け付ける受付処理と、
前記所定の操作を受け付けたときに、前記所定の操作を受け付けた時刻を示す時刻情報を記録する記録処理と、
前記発話音声に基づいて、前記参加者と前記他の参加者の発話状況を示す指標を表示させるとともに、前記時刻情報に基づいて、前記コミュニケーションにおいて、前記所定の操作を受け付けた箇所を把握可能に表示させる表示画面を提供する情報提供処理と、
をコンピュータに実行させる、プログラム。
【0186】
以上、本発明の実施形態について説明したが、本発明はかかる特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形、及び応用が可能である。
【符号の説明】
【0187】
1 情報処理システム
2 通信ネットワーク
10 会議サーバ
20 情報処理装置
100、100a、100b、100c、100d 端末装置
101 管理者端末(管理者が利用する端末装置)
400、600 表示画面
422a、422b、422c、612a、612b、613 マーカ
423a、423b、614a、614b マーカ(別のマーカ)
501 コメント欄
700 コンピュータ
706 ディスプレイ(表示部の一例)
902 取得部
903 受付部
904 記録部
906 情報提供部
913 音声送信部
914 表示制御部
916 通知部
【先行技術文献】
【特許文献】
【0188】