IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社ABELONの特許一覧

特開2024-25880情報処理装置、情報処理方法、およびプログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024025880
(43)【公開日】2024-02-28
(54)【発明の名称】情報処理装置、情報処理方法、およびプログラム
(51)【国際特許分類】
   G16H 10/00 20180101AFI20240220BHJP
【FI】
G16H10/00
【審査請求】未請求
【請求項の数】15
【出願形態】OL
(21)【出願番号】P 2022129221
(22)【出願日】2022-08-15
(71)【出願人】
【識別番号】518244150
【氏名又は名称】株式会社ABELON
(74)【代理人】
【識別番号】100115749
【弁理士】
【氏名又は名称】谷川 英和
(72)【発明者】
【氏名】慎 征範
【テーマコード(参考)】
5L099
【Fターム(参考)】
5L099AA22
(57)【要約】
【課題】従来、ウェブ会議中における画像とユーザのバイタル情報とを対応付けて蓄積することができなかった。
【解決手段】ウェブ会議中の2以上の各ユーザの各ユーザ端末から送信された画像を含むユーザ情報を受信する情報受信部321と、情報受信部321が受信した2以上のユーザ中の1以上の各ユーザのバイタル情報を取得するバイタル取得部330と、2以上の各ユーザ端末から受信された画像または2以上の画像に基づく画像である蓄積画像を取得する蓄積画像取得部335と、情報取得部が取得した1以上の各ユーザのバイタル情報を含む付加情報を、蓄積画像取得部335が取得した蓄積画像に対応付けて蓄積する蓄積部336とを具備する情報処理装置3により、ウェブ会議中における画像とユーザのバイタル情報とを対応付けて蓄積できる。
【選択図】図15
【特許請求の範囲】
【請求項1】
ウェブ会議を行う2以上の各ユーザの各ユーザ端末から送信された画像を含むユーザ情報を受信する情報受信部と、
前記ウェブ会議を行う前記2以上のユーザ中の1以上の各ユーザのバイタル情報を取得するバイタル取得部と、
前記2以上の各ユーザ端末から送信された画像または当該2以上の画像に基づく画像である蓄積画像を取得する蓄積画像取得部と、
前記情報取得部が取得した前記1以上の各ユーザのバイタル情報を含む付加情報を、前記蓄積画像取得部が取得した前記蓄積画像に対応付けて蓄積する蓄積部とを具備する情報処理装置。
【請求項2】
前記ユーザ情報は、前記ウェブ会議中のユーザの発話に基づく音声情報または当該音声情報から取得された会話テキストも含み、
前記音声情報から取得される会話テキストを取得するテキスト取得部をさらに具備し、
前記蓄積部は、
前記会話テキストを含む前記付加情報を、前記蓄積画像に対応付けて蓄積する請求項1記載の情報処理装置。
【請求項3】
前記情報受信部は、
ユーザ識別子に対応付けて前記ユーザ情報を受信し、
前記蓄積部は、
前記会話テキストを前記ユーザ識別子に対応付けて蓄積する請求項2記載の情報処理装置。
【請求項4】
前記ウェブ会議中のユーザの発話に対する通訳音声情報または当該通訳音声情報から取得された通訳テキストである通訳情報を受信する通訳情報受信部をさらに具備し、
前記蓄積部は、
前記通訳音声情報または前記通訳テキストである通訳情報を含む前記付加情報を、前記蓄積画像に対応付けて蓄積する請求項1記載の情報処理装置。
【請求項5】
前記ウェブ会議における発話に対して、通訳が行われ、
前記通訳の音声を聞く1以上の各ユーザのバイタル情報を用いて、前記通訳者の評価を示す評価情報を取得する通訳評価部と、
前記評価情報を出力する評価出力部とをさらに具備する請求項1記載の情報処理装置。
【請求項6】
前記通訳評価部は、
通訳の対象の発話の言語である原言語に対応する1以上のユーザのバイタル情報と、前記通訳の目的言語に対応する1以上のユーザのバイタル情報とを用いて、前記評価情報を取得する請求項5記載の情報処理装置。
【請求項7】
ユーザが発話していないタイミングにおけるバイタル情報が、着目条件に合致するか否かを判断する判断部と、
前記判断部が前記着目条件に合致すると判断した前記バイタル情報に対する第一ユーザ識別子と、当該タイミングにおける発話者の第二ユーザ識別子とを対応付ける関係情報を取得する関係検出部と、
前記関係情報を出力する関係出力部とをさらに具備する請求項1記載の情報処理装置。
【請求項8】
前記関係出力部は、
前記関係情報を前記タイミングにおける画像または前記バイタル情報に対応付けて出力する請求項7記載の情報処理装置。
【請求項9】
前記1以上のユーザの前記バイタル情報を統計処理し、処理結果を取得する統計処理部と、
前記処理結果を出力する結果出力部とをさらに具備する請求項1記載の情報処理装置。
【請求項10】
前記バイタル情報は、ユーザ識別子に対応付いており、
前記統計処理部は、
ユーザ識別子ごと、またはユーザ識別子と対になるユーザ属性値ごとに、前記バイタル情報を統計処理し、処理結果を取得する請求項9記載の情報処理装置。
【請求項11】
前記ウェブ会議中の2以上の各ユーザのユーザ領域を含む画面画像を出力する画面出力部と、
前記情報取得部が取得した前記バイタル情報が、着目条件に合致するか否かを判断する判断部をさらに具備し、
前記画面出力部は、
前記判断部が前記着目条件に合致すると判断した前記バイタル情報に対応するユーザのユーザ領域を他のユーザのユーザ領域と視覚的に区別可能な態様の画面を出力する請求項1から請求項10いずれか一項に記載の情報処理装置。
【請求項12】
バイタル情報またはバイタル情報の処理結果または会話テキストである付加情報に関する検索条件を受け付ける検索受付部と、
前記蓄積部が蓄積した蓄積画像の中で、前記検索条件に合致する付加情報に対応付く蓄積画像を検知し、当該蓄積画像または当該蓄積画像から取得される画像を出力する検索部とをさらに具備する請求項1から請求項11いずれか一項に記載の情報処理装置。
【請求項13】
前記バイタル情報は、呼吸、体温、血圧、意識レベル、心拍変動、交感神経、副交感神経、またはLF(低周波)/HF(高周波)である請求項1から請求項12いずれか一項に記載の情報処理装置。
【請求項14】
情報受信部と、バイタル取得部と、蓄積画像取得部と、蓄積部とにより実現される情報処理方法であって、
前記情報受信部が、ウェブ会議中の2以上の各ユーザの各ユーザ端末から送信された画像を含むユーザ情報を、順次、受信する情報受信ステップと、
前記バイタル取得部が、前記情報受信ステップで受信された2以上のユーザ中の1以上の各ユーザのバイタル情報を取得するバイタル取得ステップと、
前記蓄積画像取得部が、前記2以上の各ユーザ端末から受信された画像または当該2以上の画像に基づく画像である蓄積画像を取得する蓄積画像取得ステップと、
前記蓄積部が、前記情報取得ステップで取得された前記1以上の各ユーザのバイタル情報を含む付加情報を、前記蓄積画像取得ステップで取得された前記蓄積画像に対応付けて蓄積する蓄積ステップとを具備する情報処理方法。
【請求項15】
コンピュータを、
ウェブ会議を行う2以上の各ユーザの各ユーザ端末から送信された画像を含むユーザ情報を受信する情報受信部と、
前記ウェブ会議を行う前記2以上のユーザ中の1以上の各ユーザのバイタル情報を取得するバイタル取得部と、
前記2以上の各ユーザ端末から送信された画像または当該2以上の画像に基づく画像である蓄積画像を取得する蓄積画像取得部と、
前記情報取得部が取得した前記1以上の各ユーザのバイタル情報を含む付加情報を、前記蓄積画像取得部が取得した前記蓄積画像に対応付けて蓄積する蓄積部として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ウェブ会議に利用される情報処理装置等に関するものである。
【背景技術】
【0002】
従来、ネットワークを介して接続された複数の端末を利用して、仮想的な会議を行うウェブ会議システムが知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2019-117998号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
このようなウェブ会議システムにおいては、ユーザ同士が直接会う場合とは異なり、ユーザの状態を詳細に見たり、話したりすること等が難しく、ウェブ会議に参加しているユーザの状態(例えば、健康状態等)を容易に把握することが困難である、という課題があった。
【0005】
また、従来技術においては、ウェブ会議中における画像とユーザのバイタル情報とを対応付けて蓄積することができなかった。
【0006】
また、従来技術においては、例えば、ウェブ会議中における画像とユーザのバイタル情報とを利用することができなかった。
【課題を解決するための手段】
【0007】
本第一の発明の情報処理装置は、ウェブ会議中の2以上の各ユーザの各ユーザ端末から送信された画像を含むユーザ情報を受信する情報受信部と、情報受信部が受信した2以上のユーザ中の1以上の各ユーザのバイタル情報を取得するバイタル取得部と、2以上の各ユーザ端末から受信された画像または2以上の画像に基づく画像である蓄積画像を取得する蓄積画像取得部と、情報取得部が取得した1以上の各ユーザのバイタル情報を含む付加情報を、蓄積画像取得部が取得した蓄積画像に対応付けて蓄積する蓄積部とを具備する情報処理装置である。
【0008】
かかる構成により、ウェブ会議中における画像とユーザのバイタル情報とを対応付けて蓄積できる。
【0009】
また、本第二の発明の情報処理装置は、第一の発明に対して、ユーザ情報は、ウェブ会議中のユーザの発話に基づく音声情報または音声情報から取得された会話テキストも含み、音声情報から取得される会話テキストを取得するテキスト取得部をさらに具備し、蓄積部は、会話テキストを含む付加情報を、蓄積画像に対応付けて蓄積する情報処理装置である。
【0010】
かかる構成により、ウェブ会議中における画像と会話テキストとユーザのバイタル情報とを対応付けて蓄積できる。
【0011】
また、本第三の発明の情報処理装置は、第二の発明に対して、情報受信部は、ユーザ識別子に対応付けてユーザ情報を受信し、蓄積部は、会話テキストをユーザ識別子に対応付けて蓄積する情報処理装置である。
【0012】
かかる構成により、会話テキストとユーザ識別子とを対応付けて蓄積できる。
【0013】
また、本第四の発明の情報処理装置は、第一の発明に対して、ウェブ会議中のユーザの発話に対する通訳音声情報または通訳音声情報から取得された通訳テキストである通訳情報を受信する通訳情報受信部をさらに具備し、蓄積部は、通訳音声情報または通訳テキストである通訳情報を含む付加情報を、蓄積画像に対応付けて蓄積する情報処理装置である。
【0014】
かかる構成により、発話の通訳情報と画像とを対応付けて蓄積できる。
【0015】
また、本第五の発明の情報処理装置は、第一の発明に対して、ウェブ会議における発話に対して、通訳が行われ、通訳の音声を聞く1以上の各ユーザのバイタル情報を用いて、通訳者の評価を示す評価情報を取得する通訳評価部と、評価情報を出力する評価出力部とをさらに具備する情報処理装置である。
【0016】
かかる構成により、バイタル情報を用いて通訳者の評価ができる。
【0017】
また、本第六の発明の情報処理装置は、第五の発明に対して、通訳評価部は、通訳の対象の発話の言語である原言語に対応する1以上のユーザのバイタル情報と、通訳の目的言語に対応する1以上のユーザのバイタル情報とを用いて、評価情報を取得する情報処理装置である。
【0018】
かかる構成により、バイタル情報を用いて通訳者の精度の高い評価ができる。
【0019】
また、本第七の発明の情報処理装置は、第一の発明に対して、ユーザが発話していないタイミングにおけるバイタル情報が、着目条件に合致するか否かを判断する判断部と、判断部が着目条件に合致すると判断したバイタル情報に対する第一ユーザ識別子と、タイミングにおける発話者の第二ユーザ識別子とを対応付ける関係情報を取得する関係検出部と、関係情報を出力する関係出力部とをさらに具備する情報処理装置である。
【0020】
かかる構成により、聞き手のユーザのバイタル情報を用いて、聞き手と発話者の関係を特定できる。
【0021】
また、本第八の発明の情報処理装置は、第七の発明に対して、関係出力部は、関係情報をタイミングにおける画像またはバイタル情報に対応付けて出力する情報処理装置である。
【0022】
かかる構成により、聞き手と発話者の関係を特定する関係情報を出力できる。
【0023】
また、本第九の発明の情報処理装置は、第一の発明に対して、1以上のユーザのバイタル情報を統計処理し、処理結果を取得する統計処理部と、処理結果を出力する結果出力部とをさらに具備する情報処理装置である。
【0024】
かかる構成により、ウェブ会議中のユーザのバイタル情報を統計処理できる。
【0025】
また、本第十の発明の情報処理装置は、第九の発明に対して、バイタル情報は、ユーザ識別子に対応付いており、統計処理部は、ユーザ識別子ごと、またはユーザ識別子と対になるユーザ属性値ごとに、バイタル情報を統計処理し、処理結果を取得する情報処理装置である。
【0026】
かかる構成により、ウェブ会議中のユーザのバイタル情報を、ユーザごとまたはユーザ属性値ごとに統計処理できる。
【0027】
また、本第十一の発明の情報処理装置は、第一から第十いずれか1つの発明に対して、ウェブ会議中の2以上の各ユーザのユーザ領域を含む画面画像を出力する画面出力部と、情報取得部が取得したバイタル情報が、着目条件に合致するか否かを判断する判断部をさらに具備し、画面出力部は、判断部が着目条件に合致すると判断したバイタル情報に対応するユーザのユーザ領域を他のユーザのユーザ領域と視覚的に区別可能な態様の画面を出力する情報処理装置である。
【0028】
かかる構成により、着目条件を満たすバイタル情報に対応するユーザを明示できる。
【0029】
また、本第十二の発明の情報処理装置は、第一から第十一いずれか1つの発明に対して、バイタル情報またはバイタル情報の処理結果または会話テキストである付加情報に関する検索条件を受け付ける検索受付部と、蓄積部が蓄積した蓄積画像の中で、検索条件に合致する付加情報に対応付く蓄積画像を検知し、蓄積画像または蓄積画像から取得される画像を出力する検索部とをさらに具備する情報処理装置である。
【0030】
かかる構成により、バイタル情報等を用いて、ウェブ会議の画像を検索できる。
【0031】
また、本第十三の発明の情報処理装置は、第一から第十二いずれか1つの発明に対して、バイタル情報は、呼吸、体温、血圧、意識レベル、心拍変動、交感神経、副交感神経、またはLF(低周波)/HF(高周波)である情報処理装置である。
【0032】
かかる構成により、ウェブ会議中における画像とユーザの特定のバイタル情報とを対応付けて蓄積できる。
【0033】
本発明のサーバは、2以上のユーザ端末の間におけるウェブ会議を行うサーバであって、ウェブ会議を行っている間に、2以上の各ユーザ端末から送信される画像を受信する情報受信部と、情報受信部が受信した2以上の画像の中の1以上の画像に含まれるユーザの人物領域から、1以上のユーザのバイタル情報を、画像に対応付けて取得する情報取得部と、ウェブ会議を行っている間に、情報取得部が取得したバイタル情報に対応する情報を、2以上のユーザ端末のうちの1以上のユーザ端末に送信する情報送信部と、を具備するサーバである。
【0034】
かかる構成により、ウェブ会議に参加しているユーザの状態を容易に把握することができる。
【0035】
また、本発明のサーバは、前記サーバにおいて、情報取得部は、情報受信部が受信した2以上の画像の中の画像であり、予め決められたユーザ端末から送信された画像のみに含まれるユーザの人物領域から、1以上のユーザのバイタル情報を取得するようにしてもよい。
【0036】
かかる構成により、ウェブ会議に参加しているユーザのうちの予め決められたユーザの状態を選択的に、容易に把握することができる。
【0037】
また、本発明のサーバは、前記サーバにおいて、情報送信部は、バイタル情報を取得する元になった画像を送信したユーザ端末を除く1以上の他のユーザ端末のみにバイタル情報を送信するようにしてもよい。
【0038】
かかる構成により、バイタル情報を提供するユーザにバイタル情報を提供しないようにできる。これにより、例えば、バイタル情報を利用して、ユーザの状態等を把握することが好ましいユーザにのみ、バイタル情報に対応する情報を提供できる。
【0039】
また、本発明のサーバは、前記サーバにおいて、情報取得部が取得したバイタル情報が、出力条件に合致するか否かを判断する判断部をさらに具備し、情報送信部は、判断部が出力条件に合致すると判断したバイタル情報に対応する情報のみを送信するようにしてもよい。
【0040】
かかる構成により、出力条件に合致しないバイタル情報に対応する情報を送信しないようにでき、例えば、観察や確認等が不要なバイタル情報を送信しないようにできる。例えば、かかる構成により、正常なバイタル情報に関する情報を送信しないようにできる。
【0041】
また、本発明のサーバは、前記サーバにおいて、情報取得部は、情報受信部が受信した2以上の画像の中の1以上の画像に含まれるユーザの人物領域から、1以上のユーザのバイタル情報を取得し、情報受信部が受信した画像を含む2以上のユーザ領域を含む画面画像であって、着目条件を満たすバイタル情報が情報取得部により取得された画像を含むユーザ領域が、他のユーザ領域と視覚的に区別可能な画面画像を構成する構成部をさらに備え、情報送信部は、構成部が構成した画面画像を送信するようにしてもよい。
【0042】
かかる構成により、バイタル情報を利用して着目することが好ましいユーザを視覚的に示すことができる。例えば、バイタル情報が正常値でないユーザを視覚的に示すことが可能となる。
【0043】
また、本発明のサーバは、前記サーバにおいて、バイタル情報を用いた保険条件と提案する保険に関する保険情報とを有する1以上の提案情報が格納される提案格納部を参照し、情報取得部が取得したバイタル情報が満たす保険条件を決定し、保険条件と対になる保険情報を提案格納部から取得する保険情報取得部と、保険情報取得部が取得した保険情報をバイタル情報を取得する元になった画像を送信したユーザ端末に送信する保険情報送信部と、をさらに具備するようにしてもよい。
【0044】
かかる構成により、バイタル情報に応じた適切な保険情報をユーザに提示することができる。
【0045】
また、本発明のサーバは、前記サーバにおいて、情報取得部は、1以上の特定のユーザ端末から受信された時系列の各画像から、バイタル情報を取得し、情報取得部が取得した時系列のバイタル情報を、蓄積する蓄積部をさらに具備するようにしてもよい。
【0046】
かかる構成により、ウェブ会議に利用される画像から、時系列のバイタル情報を取得することができる。
【0047】
また、本発明のサーバは、前記サーバにおいて、情報取得部は、2以上の各ユーザ端末から受信された時系列の各画像から、バイタル情報を取得し、2以上の各ユーザ端末に対応付けて、情報取得部が取得した時系列のバイタル情報を蓄積する蓄積部をさらに具備してもよい。
【0048】
かかる構成により、ウェブ会議に利用される画像から、2以上のユーザについての時系列のバイタル情報を取得することができる。
【0049】
また、本発明のサーバは、前記サーバにおいて、蓄積部は、情報受信部が受信した時系列の各画像に対応付けて、時系列のバイタル情報を蓄積するようにしてもよい。
【0050】
かかる構成により、時系列のバイタル情報と、その取得元の画像とを対応付けて蓄積することにより、時系列のバイタル情報と画像を参照して、ユーザの状況等を確認することができる。
【発明の効果】
【0051】
本発明による情報処理装置によれば、ウェブ会議中における画像とユーザのバイタル情報とを対応付けて蓄積できる。
【図面の簡単な説明】
【0052】
図1】本発明の実施の形態におけるウェブ会議システムのブロック図
図2】同ウェブ会議システムのサーバの動作について説明するフローチャート
図3】同ウェブ会議システムのサーバの動作について説明するフローチャート
図4】同ウェブ会議システムの具体例の構成を示す模式図
図5】同ウェブ会議システムのサーバの特定情報管理表を示す図
図6】同サーバの出力条件管理表を示す図(図6(a))、および着目条件管理表を示す図(図6(b))
図7】同サーバの提案情報管理表を示す図(図7(a))、および保険送信管理情報を示す図(図7(b))
図8】同ウェブ会議システムのサーバのバイタル情報管理表を示す図
図9】同サーバが構成する画面画像を説明するための図(図9(a)-図9(d))
図10】同サーバが構成する画面画像を説明するための図(図10(a)-図10(c))
図11】同ウェブ会議システムのユーザ端末による表示例を示す図(図11(a)および図11(b))
図12】同ウェブ会議システムのユーザ端末による表示例を示す図(図12(a)および図12(b))
図13】実施の形態2における情報システム2000の概念図
図14】同情報システム2000のブロック図
図15】同情報処理装置3のブロック図
図16】同情報処理装置3の動作例について説明するフローチャート
図17】同情報処理装置3の動作例について説明するフローチャート
図18】同統計処理の例について説明するフローチャート
図19】同ユーザ毎統計処理の例について説明するフローチャート
図20】同属性値毎統計処理の例について説明するフローチャート
図21】同ウェブ会議統計処理の例について説明するフローチャート
図22】同評価処理の例について説明するフローチャート
図23】同関係検出処理の例について説明するフローチャート
図24】同検索処理の例について説明するフローチャート
図25】同ユーザ端末4の動作例について説明するフローチャート
図26】同通訳者端末5の動作例について説明するフローチャート
図27】同ユーザ管理表を示す図
図28】同バイタル情報管理表を示す図
図29】同テキスト等管理表を示す図
図30】上記実施の形態におけるコンピュータシステムの概観図
図31】同コンピュータシステムのブロック図
【発明を実施するための形態】
【0053】
以下、情報処理装置等の実施形態について図面を参照して説明する。なお、実施の形態において同じ符号を付した構成要素は同様の動作を行うので、再度の説明を省略する場合がある。
【0054】
(実施の形態1)
図1は、本実施の形態におけるウェブ会議システム1000のブロック図である。
【0055】
ウェブ会議システム1000は、サーバ1と、1または2以上のユーザ端末2を備える。サーバ1と、1または2以上のユーザ端末2とは、インターネット等のネットワークを介して、情報の送受信が可能となるよう接続される。なお、図1においては、一例として、ウェブ会議システム1000が、3以上のユーザ端末2を備えている場合を示している。
【0056】
サーバ1は、情報受信部100、特定情報格納部101、情報取得部102、出力条件格納部103、着目条件格納部104、判断部105、構成部106、情報送信部107、蓄積部108、バイタル情報格納部109、提案格納部110、保険情報取得部111、および保険情報送信部112を備える。
【0057】
サーバ1は、クラウドサーバや、アプリケーションサーバである。サーバ1は、例えば、ウェブ会議を提供するサーバである。ここでのウェブ会議は、ネットワークを介して接続された複数の端末を利用して行われるセミナーや、授業等も含む概念である。サーバ1は、例えば、コンピュータ等により実現される。
【0058】
情報受信部100は、ウェブ会議を行っている間に、2以上の各ユーザ端末2から送信される画像を受信する。情報受信部100がユーザ端末2から受信する画像は、例えば、会議に参加するユーザ(例えば、ユーザの顔を含む領域)を撮影した画像である。情報受信部100が受信する画像は、動画像であっても静止画像であってもよい。情報受信部100が受信する画像は、例えば、時系列の画像である。時系列の画像は、例えば、動画像であってもよく、時系列に沿って送信される複数の静止画像であってもよい。ただし、情報受信部100が受信する画像は、画像からバイタル情報が取得可能な画像であることが好ましい。情報受信部100は、通常、ユーザ端末2と対応付けられた画像を受信する。例えば、情報受信部100は、ユーザ端末2の端末識別子と対応付けられた画像を受信する。端末識別子は、例えば、ユーザ端末2の名前であってもよく、ユーザ端末2に割り当てられたコードや、ユーザ端末2のIPアドレス等のアドレス情報であってもよい。また、セッション識別子等を端末識別子として用いてもよい。また、端末識別子として、ユーザ端末2を利用するユーザのユーザ識別子を用いてもよい。情報受信部100は、通常、画像に加えて、音声も受信する。
【0059】
情報受信部100は、通常、無線または有線の通信手段で実現される。情報受信部100は、通信デバイスを含むと考えても、含まないと考えてもよい。
【0060】
特定情報格納部101は、特定のユーザ端末2を指定する特定情報が格納される。特定情報は、例えば、ユーザ端末2の端末識別子である。特定情報は、例えば、バイタル情報の取得対象となるユーザ端末2を指定する情報である。また、特定情報は、バイタル情報に対応する情報の送信先となるユーザ端末2を指定する情報である。特定情報は、どのような対象として特定されるユーザ端末2であるかを指定する情報をさらに有していてもよい。
【0061】
特定情報格納部101は、不揮発性の記録媒体が好適であるが、揮発性の記録媒体でも実現可能である。かかることは、他の格納部についても同様である。
【0062】
情報取得部102は、情報受信部100が受信した2以上の画像の中の1以上の画像に含まれるユーザの人物領域から、1以上のユーザのバイタル情報を、画像に対応付けて取得する。情報受信部100が受信した2以上の画像は、2以上の各ユーザ端末2から送信される画像である。画像に含まれるユーザの人物領域は、例えば、画像内のユーザが写っている領域である。ユーザの人物領域は、ユーザの顔を含む領域であることが好ましい。バイタルとは、脈拍、呼吸、体温、血圧、意識レベル等である。バイタルは、バイタルサインとも呼ばれる。バイタル情報は、例えば、呼吸数や、脈拍数等のバイタルを表す情報である。ここでのバイタル情報は、心拍変動、交感神経、副交感神経、LF(低周波)/HF(高周波)、等の、1または2以上のバイタル情報を加工して得られる情報であってもよい。LF/HFは、例えば、ストレスの指標として用いられる情報である。情報取得部102は、各ユーザについて異なる複数の種類のバイタル情報を取得してもよい。画像に対応付けてバイタル情報を取得する、ということは、画像を送信したユーザ端末2に対応付けてバイタル情報を取得することと考えてもよい。情報取得部102は、例えば、予め決められた期間内に受信した画像(例えば時系列の画像)からバイタル情報を取得する。画像に含まれるユーザの人物領域から、ユーザのバイタル情報を取得する技術は公知技術であるため、ここでは詳細な説明を省略する。このようなバイタル情報を取得する技術としては、例えば、以下のURLに記載されたような技術が利用可能である(URL:https://sensing-art.com/#tech-feature)。ただし、ここで利用する画像の人物領域からバイタル情報を取得する技術は、上記の技術に限定されない。
【0063】
情報取得部102は、情報受信部100が受信した2以上の画像の中の画像であり、予め決められた1以上のユーザ端末2から送信された画像のみに含まれるユーザの人物領域から、1以上のユーザのバイタル情報を取得する。ユーザ端末2から送信された画像に含まれるユーザは、例えば、ユーザ端末2を利用してウェブ会議に参加しているユーザである。
【0064】
情報取得部102は、例えば、1以上の特定のユーザ端末2から受信された時系列の各画像から、バイタル情報を取得してもよい。特定のユーザ端末2とは、例えば、特定のユーザが利用するユーザ端末2である。特定のユーザは、例えば、患者や生徒、社員等である。また、情報取得部102は、2以上の各ユーザ端末から受信された時系列の各画像から、バイタル情報を取得してもよい。バイタル情報の取得対象となる特定のユーザ端末2は、例えば、特定情報格納部101に格納される特定情報により特定される。
【0065】
情報取得部102が、1以上のユーザ端末2から情報受信部101が受信する時系列の各画像からバイタル情報を取得する時期等は問わない。例えば、情報取得部102は、一定または任意の時間間隔ごとに、各画像からバイタル情報を取得する。また、情報受信部100が、バイタル情報に対応する情報の送信先となるユーザ端末2から受信する指示に応じて、情報取得部102が1以上の特定のユーザ端末2から受信した画像からバイタル情報を取得してもよい。この指示は、バイタル情報を取得する画像を送信するユーザ端末2を指定する情報をさらに有していてもよい。
【0066】
出力条件格納部103には、1または2以上の出力条件が格納される。出力条件は、情報取得部102が取得したバイタル情報を送信してよいか判断するための条件である。出力条件は、例えば、情報取得部102が取得するユーザの1以上のバイタル情報に関する条件である。ユーザのバイタル情報は、例えば、ユーザ端末2から受信した画像から取得されるこのユーザ端末2を利用するユーザのバイタル情報である。
【0067】
出力条件は、例えば、数値や指標で表されるバイタル情報についての閾値である。例えば、出力条件は、心拍数が閾値以上であるという条件や、呼吸数が閾値以上であるという条件や、LF/HFが示すストレスの指標となる値が、閾値以上であるという条件である。出力条件格納部103には、バイタル情報の種類ごとに異なる出力条件が格納されていてもよい。出力条件格納部103には、例えば、1または2以上の異なるバイタル情報についての出力条件が、バイタル情報の種類を識別するバイタル識別子と対応付けて格納されていてもよい。バイタル識別子は、例えば、バイタル名や、バイタルに割り当てられたコード等であってもよい。出力条件は、複数の種類のバイタル情報についての条件の組み合わせ(例えば、AND条件やOR条件等)であってもよい。
【0068】
着目条件格納部104は、1または2以上の着目条件が格納される。着目条件は、ユーザの1以上のバイタル情報に関する条件であって、ユーザに対応するユーザ領域を、他のユーザ領域に対して視覚的に区別可能とした画面画像を構成部106が構成するか判断するための条件である。
【0069】
着目条件は、例えば、数値や指標で表されるバイタル情報についての閾値である。例えば、着目条件は、例えば、心拍数が閾値以上であるという条件や、呼吸数が閾値以上であるという条件や、LF/HFが示すストレスの指標となる値が、閾値以上であるという条件である。着目条件格納部104には、バイタル情報の種類ごとに異なる着目条件が格納されていてもよい。着目条件格納部104には、例えば、1または2以上の異なるバイタル情報についての着目条件が、バイタル識別子と対応付けて格納されていてもよい。着目条件は、複数の種類のバイタル情報についての条件の組み合わせ(例えば、AND条件やOR条件等)であってもよい。
【0070】
なお、本実施の形態においては、サーバ1が出力条件格納部103および着目条件格納部104を有している場合について説明するが、これらの少なくとも一方は、サーバ1が有する代わりに、サーバ1がアクセス可能な他の装置等が有していてもよい。
【0071】
また、着目条件として、出力条件と同じ条件を用いてもよく、この場合、着目条件や、着目条件格納部104を省略し、着目条件を用いる処理において、出力条件を用いるようにしてもよい。
【0072】
判断部105は、情報取得部102が取得したバイタル情報が、出力条件格納部103に格納されている出力条件に合致するか判断する。出力条件格納部103に複数の種類のバイタル情報についての出力条件が格納されている場合、判断部105は、情報取得部102が取得した複数のバイタル情報が、それぞれの種類に対応する出力条件を満たすか判断してもよい。出力条件が複数の条件の組み合わせである場合、判断部105は、複数の条件にそれぞれ対応するバイタル情報が、各条件を満たすか否かを判断し、その判断結果の組み合わせにより、出力条件を満たすか判断してもよい。
【0073】
構成部106は、情報受信部100が受信した画像を含む1以上、好ましくは2以上のユーザ領域を含む画面画像を構成する。一のユーザ領域は、例えば、情報受信部100が一のユーザ端末2から受信した画像を含む(例えば、画像が配置される)領域である。構成部106は、情報受信部100が受信した画像(を含む1または2以上のユーザ領域を含む画面画像を構成する。構成部106が構成する画面画像は、例えば、2以上のユーザ領域をタイル状に配列した画面画像である。構成部106が構成する画面画像は、例えば、情報受信部100が2以上のユーザ端末からそれぞれ受信する画像のすべてをタイル状に配列した画面画像であってもよい。
【0074】
構成部106は、画面画像の送信先となるユーザ端末2ごとに異なる画面画像を構成してもよく、同じ画面画像を構成してもよい。例えば、構成部106は、画面画像の送信先となるユーザ端末2に対応するユーザのユーザ領域を他のユーザ領域よりも小さくした画面画像を構成してもよい。また、例えば、構成部106は、画面画像の送信先となるユーザ端末2に対応するユーザ以外の、情報受信部100が音声を受信したユーザ端末に対応するユーザのユーザ領域を他のユーザ領域よりも大きくした画面画像を構成してもよい。
【0075】
構成部106は、情報取得部102が取得したバイタル情報に対応する画面画像を構成する。バイタル情報に対応する画面画像は、例えば、バイタル情報を配置した画面画像であってもよい。例えば、構成部106は、情報取得部102が取得した1または2以上のバイタル情報を、各バイタル情報が取得された画像を含むユーザ領域に配置した画面画像を構成する。また、構成部106は、情報取得部102が取得した1または2以上のバイタル情報に対応するグラフやマークや記号を、各バイタル情報が取得された画像を含むユーザ領域に配置した画面画像を構成してもよい。
【0076】
構成部106は、例えば、情報取得部102が取得したバイタル情報を、このバイタル情報を取得する元になった画像に対応する態様とした画面画像を構成する。この画面画像も、バイタル情報に対応する画面画像と考えてよい。バイタル情報を、バイタル情報を取得する元になった画像に対応する態様とした画面画像とは、例えば、情報取得部102が取得したバイタル情報を埋め込んだ画面画像であってもよく、情報取得部102が取得したバイタル情報を、このバイタル情報を取得した画像を含むユーザ領域内の所定の位置(例えば、ユーザ領域の下部や上部等)に配置した画面画像であってもよい。また、バイタル情報を、バイタル情報を取得する元になった画像に対応する態様とした画面画像は、例えば、情報取得部102が取得したバイタル情報を、このバイタル情報を取得した画像を含むユーザ領域内の、ユーザの人物領域(好ましくは人物の顔や額等の領域)と重なる位置や、人物領域に隣接する位置(例えば、顔の横や、頭上等)に配置した画面画像であってもよい。例えば、ユーザの人物領域や、顔や、頭等は、画像認識処理により実現可能である。
【0077】
構成部106は、例えば、情報受信部100が受信した画像を含む2以上のユーザ領域を含む画面画像であって、着目条件を満たすバイタル情報が情報取得部102により取得された画像を含むユーザ領域が、他のユーザ領域と視覚的に区別可能な画面画像を構成する。視覚的に区別可能な画面情報とは、例えば、着目条件を満たすバイタル情報が取得された画像を含むユーザ領域の枠が、ハイライト表示された画面画像であってもよく、着目条件を満たすバイタル情報が取得された画像を含むユーザ領域が他のユーザ領域よりも大きく表示された画面画像であってもよい。なお、着目条件を満たすバイタル情報が取得された画像を含むユーザ領域が視覚的に区別可能であれば、上記のような態様に限定されない。ここでの着目条件は、例えば、着目条件格納部104に格納された着目条件である。
【0078】
画面画像とは、例えば、ユーザ端末2の画面に表示される画像である。画面画像は、例えば、動画像等の時系列の画像である。ただし、画面画像は、1または2以上の静止画像であってもよい。なお、画面画像は、例えば、結果的にユーザ端末2の画面に上述したような画像を表示することが可能な情報であってもよい。例えば、画面画像は、画面の1以上のユーザ領域に配置される画像(例えば、情報受信部100が各ユーザ端末2から受信する動画像)と、画面の構造を示すHTML等で記述されたデータとの組み合わせや、これらに対し、さらにCSSファイル等のレイアウトやスタイルを示すデータを加えた情報であってもよい。また、画面の構造を示すデータやレイアウトやスタイルを示すデータの少なくとも一部を、各ユーザ端末2が有していてもよい。画面画像は、例えば、画面に表示される上述したようなバイタル情報を有する情報であってもよく、このバイタル情報の配置される位置を指定する情報をさらに有していてもよい。また、画面画像は、着目条件を満たすバイタル情報が配置されたユーザ領域の表示態様を、他と異なる表示態様となるよう指定する情報を有していてもよく、その表示態様を指定する情報を有していてもよい。
【0079】
情報送信部107は、構成部106が構成した画面画像を、2以上のユーザ端末2に送信する。また、情報送信部107は、情報受信部100が受信した音声を、画面画像と対応付けて、2以上のユーザ端末2に送信してもよい。
【0080】
情報送信部107は、ウェブ会議を行っている間に、情報取得部102が取得したバイタル情報に対応する情報を、2以上のユーザ端末2のうちの1以上のユーザ端末2に送信する。情報送信部107は、バイタル情報に対応する情報として、情報取得部102が取得したバイタル情報を送信してもよく、構成部106が構成した画面画像であって、バイタル情報に対応する情報が配置された画面画像を送信してもよい。
【0081】
情報送信部107は、情報取得部102が取得したバイタル情報を、このバイタル情報を取得する元になった画像に対応する態様で送信してもよい。例えば、バイタル情報を、このバイタル情報を取得する元になった画像に埋め込んで送信してもよく、構成部106が構成した画面画像であって、上記のように、バイタル情報を、バイタル情報を取得する元になった画像を含むユーザ領域内の予め決められた位置に配置した画面画像を送信してもよい。
【0082】
情報送信部107は、例えば、予め決められた1以上のユーザ端末2に、情報取得部102が取得したバイタル情報に対応する情報を送信する。情報送信部107は、例えば、バイタル情報を取得する元になった画像を送信したユーザ端末2を除く1以上の他のユーザ端末2のみにバイタル情報に対応する情報を送信する。この場合の他のユーザ端末2が、予め決められたユーザ端末2でもよい。予め決められたユーザ端末は、例えば、医師や看護士等の医療関係者が利用するユーザ端末や、企業等において社員等の健康管理等を行う管理者等が利用するユーザ端末である。
【0083】
情報送信部107は、判断部105が出力条件に合致すると判断したバイタル情報に対応する情報のみを送信するようにしてもよい。例えば、情報送信部107は、複数のユーザ端末2から情報受信部100がそれぞれ受信したバイタル情報が、出力条件を満たすか判断し、出力条件を満たすバイタル情報に対応する情報のみを送信してもよい。また、例えば、情報送信部107は、一のユーザ端末について情報取得部102が取得した異なる種類のバイタル情報が、それぞれの種類に対応するバイタル条件を満たすか判断し、バイタル条件を満たす種類のバイタル情報に対応する情報のみを送信してもよい。
【0084】
蓄積部108は、情報取得部102が取得した時系列のバイタル情報をバイタル情報格納部109に蓄積する。蓄積部108は、例えば、2以上の各ユーザ端末2に対応付けて、情報取得部102が2以上の各ユーザ端末2から受信した時系列の各画像から取得した時系列のバイタル情報を蓄積する。蓄積部108は、例えば、情報受信部100が受信した時系列の各画像に対応付けて、この時系列の各画像から取得した時系列のバイタル情報を蓄積してもよい。
【0085】
また、蓄積部108は、情報取得部102が取得した時系列のバイタル情報を、このバイタル情報を取得した時系列の画像と対応付けて蓄積してもよい。
【0086】
バイタル情報格納部109には、時系列のバイタル情報が格納される。例えば、1または2以上のユーザ端末2から受信した時系列の各画像から取得された時系列のバイタル情報が、対応する1または2以上のユーザ端末2に対応付けて格納される。また、例えば、情報受信部100が1または2以上のユーザ端末2から受信した時系列の各画像に対応付けて、この時系列の各画像から取得した時系列のバイタル情報が格納されてもよい。
【0087】
提案格納部110には、1以上の提案情報が格納される。提案情報は、保険条件と保険情報とを有する情報である。
【0088】
保険情報は、保険に関する情報である。ここでの保険は、例えば、情報取得部102が取得する1以上の種類のバイタル情報に関連した保険である。バイタル情報に関連した情報は、例えば、バイタル情報が示すユーザの健康状態に関連して提案される入院保険や、通院保険、生命保険等である。また、バイタル情報に関連した情報は、例えば、1以上の種類のバイタル情報の異常により検出されうる特定の疾病に対する保険(例えば、がん保険等)であってもよい。保険情報は、例えば、ユーザに提案する保険を示す情報(例えば、保険名や保険の識別子等)や、その保険の補償内容等を示す情報である。また、保険情報は、保険に加入するための申込書等の情報や、申し込みを行うためのウェブサイト等を示す情報であってもよい。ウェブサイトを示す情報は、例えば、ウェブサイト名や、ウェブサイトのURL等)また、保険情報は、保険を提供する企業等を示す情報や、その企業や保険を紹介するためのウェブサイトを示す情報であってもよい。
【0089】
保険条件は、対応する保険をユーザ端末2に送信するか判断するために用いられる、ユーザのバイタル情報に関する条件である。保険条件は、例えば、数値で表されるバイタル情報についての閾値である。保険条件は、例えば、心拍数が閾値以上であるという条件や、呼吸数が閾値以上であるという条件や、LF/HFが示すストレスの指標となる値が、閾値以上であるという条件である。バイタル情報格納部109には、バイタル情報の種類ごとに異なる保険条件が格納されていてもよい。バイタル情報格納部109には、例えば、1または2以上の異なるバイタル情報についての保険条件が、バイタル識別子と対応付けて格納されていてもよい。保険条件は、複数の種類のバイタル情報についての条件の組み合わせ(例えば、AND条件やOR条件等)であってもよい。
【0090】
なお、本実施の形態においては、サーバ1が提案格納部110を有している場合について説明するが、これらの少なくとも一方は、サーバ1が有する代わりに、サーバ1がアクセス可能な他の装置等が有していてもよい。
【0091】
また、保険条件として、出力条件または着目条件と同じ条件を用いてもよく、この場合、出力条件または着目条件を省略し、出力条件または着目条件を用いる処理において、提案格納部110に格納された保険条件を用いてもよい。
【0092】
保険情報取得部111は、提案格納部110を参照し、情報取得部102が取得したバイタル情報が満たす保険条件を決定し、保険条件と対になる保険情報を提案格納部110から取得する。
【0093】
保険情報送信部112は、保険情報取得部111が取得した保険情報を、バイタル情報を取得する元になった画像を送信したユーザ端末2に送信する。
【0094】
保険情報送信部112は、通常、無線または有線の通信手段で実現される。保険情報送信部112は、通信デバイスを含むと考えても、含まないと考えても良い。
【0095】
ユーザ端末2は、ユーザが利用する装置である。ユーザ端末2は、コンピュータや、いわゆるスマートフォン等の多機能携帯電話、タブレット型端末等により実現可能である。また、ユーザ端末2は、ウェブ会議専用の端末装置等であってもよい。
【0096】
ユーザ端末2は、例えば、ユーザを撮影可能なカメラ(図示せず)と、カメラが撮影した画像をサーバ1に送信する端末送信部(図示せず)と、サーバ1から送信される画面画像を受信する端末受信部(図示せず)と、端末受信部が受信した画面画像等の画像を表示する端末表示部(図示せず)と、ユーザからの操作を受け付ける端末受付部(図示せず)と、受け付けた操作に応じた処理(例えば、ウェブ会議を開始させる処理や、終了させる処理、ウェブ会議の設定等を行う処理等)を実行する処理部(図示せず)等を備えている。端末表示部は、モニタ等の表示デバイス(図示せず)を有していてもよい。ユーザ端末2は、さらに、ユーザの音声を取得可能なマイクロフォン(図示せず)を備えており、端末送信部が、マイクロフォンが取得した音声をサーバ1に送信してもよい。また、端末受信部が、さらに、サーバ1から送信される音声を受信し、ユーザ端末2が、端末受信部が受信した音声等を出力する音声出力部(図示せず)等を有していてもよい。音声出力部は、スピーカー等の音声出力デバイス(図示せず)を有していてもよい。
【0097】
次に、ウェブ会議システム1000のサーバ1の動作の一例について図2のフローチャートを用いて説明する。
【0098】
(ステップS101)サーバ1は、ウェブ会議を開始するか判断する。例えば、予定された時刻になった場合に、サーバ1の処理部(図示せず)等が、開始することを決定してもよい。また、情報受信部100等が、1以上のユーザ端末2からウェブ会議を開始する指示を受信した場合に、ウェブ会議を開始してもよい。ウェブ会議を開始することを決定した場合、ウェブ会議を開始して、ステップS102に進み、開始しない場合、ステップS101に戻る。
【0099】
(ステップS102)情報受信部100は、ウェブ会議に参加している各ユーザ端末2からの画像の受信を開始する。そして、情報受信部100は、例えば、各ユーザ端末2から送信される画像を受信する。受信する画像は、例えば、動画像等の時系列の画像である。複数のユーザ端末2からの画像の受信は、例えば並列処理で行ってもよく、時分割で行ってもよく、どのように受信するかは、これらに限定されない。また、情報受信部100は、さらに、音声を受信してもよい。情報受信部100は、例えば、端末識別子と対応付けられた画像を受信する。
【0100】
(ステップS103)情報取得部102は、ステップS102で受信した各画像から、バイタル情報を取得する時期であるか判断する。例えば、画像の受信を開始してから一定の時間が経過するごとに、バイタル情報を取得する時期であると判断してもよい。また、予め決められた時刻や、ランダムに決定した時期を、バイタル情報を取得する時期であると判断してもよい。取得する時期をどのように決定するかは問わない。また、取得する時期間の長さ等は問わない。取得する時期である場合、ステップS104に進み、取得時期でない場合、ステップS115に進む。
【0101】
(ステップS104)情報取得部102は、カウンターnの値に1を代入する。
【0102】
(ステップS105)情報取得部102は、ウェブ会議に参加しているユーザ端末2において、n番目のバイタル情報の取得対象となるユーザ端末2があるか判断する。バイタル情報の取得対象となるユーザ端末2とは、バイタル情報の取得対象となる画像を送信するユーザ端末である。取得対象となるユーザ端末2は、例えば、特定情報格納部101に格納される特定情報を用いて検出する。ある場合、ステップS106に進み、ない場合、ステップS115に進む。
【0103】
(ステップS106)情報取得部102は、ステップS102でn番目のユーザ端末2から受信した画像に含まれるユーザの人物領域から、予め決められた1以上の種類のバイタル情報を取得する。情報取得部102は、例えば、時系列の画像からバイタル情報を取得する。
【0104】
(ステップS107)蓄積部108は、ステップS106で取得したバイタル情報を、バイタル情報格納部109に蓄積する。例えば、取得した時系列の順番で蓄積してもよく、取得した時刻と対応付けて蓄積してもよい。蓄積部108は、例えば、ステップS102で受信した画像を、送信したユーザ端末2と対応付けて、取得したバイタル情報を蓄積してもよい。また、蓄積部108は、例えば、取得した異なる種類のバイタル情報に、バイタル情報の種類を示す種類識別子等を対応付けて蓄積してもよい。また、蓄積部108は、情報受信部100が受信した時系列の各画像に対応付けて、ステップS106で取得した時系列のバイタル情報を蓄積してもよい。例えば、受信した時系列の画像のうちの、バイタル情報を取得する際に利用した期間内の画像を、取得したバイタル情報と対応付けて蓄積してもよい。また、受信した時系列の画像を蓄積するとともに、その画像内のステップS106においてバイタル情報の取得に利用した部分を特定する情報(例えば、タイムコードの開始時刻や、終了時刻等)をバイタル情報と対応付けて蓄積してもよい。
【0105】
(ステップS108)判断部105は、ステップS106で取得したバイタル情報が、出力条件に合致するか判断する。例えば、取得したバイタル情報が、異なる複数の種類のバイタル情報である場合、判断部105は、それぞれの種類ごとに、対応する出力条件を満たすか判断してもよい。合致する場合、ステップS109に進み、合致しない場合、ステップS110に進む。なお、合致する場合とは、例えば、合致するバイタル情報が1以上ある場合と考えてもよく、合致しない場合とは、合致するバイタル情報が一つもない場合と考えてもよい。
【0106】
(ステップS109)判断部105は、出力条件に合致するバイタル情報に対応する情報の送信を行うことを決定する。例えば、ステップS106で取得した出力条件に合致するバイタル情報と、n番目のユーザ端末2の端末識別子とを、対応付けて、格納部(図示せず)等に蓄積する。なお、合致するバイタル情報の種類を示す情報等をさらに対応付けて蓄積してもよい。
【0107】
(ステップS110)構成部106は、ステップS106で取得したバイタル情報が、着目条件に合致するか判断する。合致する場合、ステップS111に進み、合致しない場合、ステップS112に進む。
【0108】
(ステップS111)構成部106は、バイタル情報を取得した画像を含むユーザ領域を他のユーザ領域に対して視覚的に区別可能な画面画像を構成することを決定する。構成部106は、例えば、視覚的に区別可能とするユーザ領域に対応するユーザ端末2の端末識別子を、格納部(図示せず)等に蓄積する。
【0109】
(ステップS112)保険情報取得部111は、ステップS106で取得したバイタル情報が、提案格納部110に格納されている保険条件に合致するか判断する。例えば、ステップS104で取得した複数種類のバイタル情報について、それぞれの種類に対応する保険条件を満たすか判断する。保険条件に合致する場合、ステップS113に進み、合致しない場合、ステップS114に進む。なお、保険条件に合致する場合とは、例えば、保険情報に合致する種類のバイタル情報が1以上ある場合と考えてもよく、合致しない場合は、合致する種類のバイタル情報が一つもない場合と考えてもよい。
【0110】
(ステップS113)保険情報取得部111は、バイタル情報と合致する保険条件に対応する保険情報の送信を行うことを決定する。例えば、バイタル情報と合致する保険条件に対応する保険情報と、n番目のユーザ端末2の端末識別子との組を対応付けて格納部(図示せず)等に蓄積する。例えば、保険情報取得部111は、バイタル情報と合致する保険条件に対応する保険情報を提案格納部110から取得し、取得した保険情報をn番目のユーザ端末2の端末識別子と対応付けて格納部(図示せず)等に蓄積してもよい。バイタル情報と合致する保険条件に対応する保険情報は、例えば、バイタル情報と合致する保険情報と同じ提案情報に含まれる保険情報である。なお、既に同じ保険情報とユーザ端末2との組を対応付けた情報が格納部(図示せず)に格納されている場合、新たに保険情報とユーザ端末2とを対応付ける情報を蓄積しなくてもよく、新たに保険情報を取得しなくてもよい。
【0111】
(ステップS114)情報取得部102は、カウンターnの値を1インクリメントする。そして、ステップS105に戻る。
【0112】
(ステップS115)サーバ1は、ステップS102で受信した画像を用いて画面画像を構成する。そして、構成された画面画像を2以上のユーザ端末2に送信する。また、例えば、画像を受信する際に受信した音声も送信する。なお、ステップS115の処理の詳細については後述する。そして、ステップS116に進む。
【0113】
(ステップS116)サーバ1は、ウェブ会議を終了するか判断する。例えば、情報受信部100が1以上のユーザ端末2からウェブ会議を終了する指示を受信した場合に、サーバ1は、ウェブ会議を終了することを決定する。また、予め決められた時刻等に、ウェブ会議を終了することを決定してもよい。終了する場合、ステップS117に進み、終了しない場合、ステップS103に戻る。
【0114】
(ステップS117)サーバ1は、ウェブ会議を終了する。また、画像の受信等も終了する。
【0115】
(ステップS118)保険情報取得部111は、保険情報の送信先となるユーザ端末2があるか判断する。例えば、保険情報取得部111は、ステップS113で対応付けて蓄積した保険情報とユーザ端末との1以上の組が、格納部(図示せず)に格納されているか判断し、格納されている場合、保険情報の送信先となるユーザ端末2があると判断して、ステップS119に進み、格納されていない場合、保険情報の送信先となるユーザ端末2がないと判断して、ステップS101に戻る。
【0116】
(ステップS119)保険情報取得部111は、ステップS113でユーザ端末2に対応付けて蓄積した保険情報を取得する。ここでの取得は、上記で保険情報を端末識別子と対応付けて蓄積したメモリ等の格納部(図示せず)からの読み出し等であってもよい。
【0117】
(ステップS120)保険情報送信部112は、ステップS119で取得した各保険情報を、ステップS113で各保険情報に対応づけられたユーザ端末2に送信する。そして、ステップS101に戻る。
【0118】
なお、図2のフローチャートにおいて、ウェブ会議の終了直後に、保険情報を送信する場合について説明したが、保険情報を送信する時期は、ウェブ会議終了直後でなくてもよく、例えば、ウェブ会議中に送信してもよく、ウェブ会議終了後の任意の時機等に送信してもよい。
【0119】
なお、図2のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
【0120】
次に、サーバ1が、画面画像を構成して、2以上のユーザ端末2に送信する処理の一例について、図3のフローチャートを用いて説明する。なお、この処理は、図2のステップS115の処理の一例に相当する。
【0121】
(ステップS201)構成部106は、ステップS102で複数のユーザ端末2からそれぞれ受信した画像を含む複数のユーザ領域を配置して画面画像を構成する。例えば、構成部106は、複数のユーザ端末2からそれぞれ受信した動画像であって、動画像が有するタイムコード等により同期させた動画像をそれぞれ含む複数のユーザ領域を配置して画面画像を構成する。例えば、複数のユーザ領域をタイル状に配置して画面画像を構成する。
【0122】
(ステップS202)情報送信部107はステップS201で構成した画面画像を、バイタル情報に対応する情報の送信先として予め決められたユーザ端末2以外のユーザ端末2に送信する。例えば、情報送信部107は、特定情報格納部101に格納された特定情報を用いて、バイタル情報に対応する情報の送信先として予め決められたユーザ端末2以外のユーザ端末2を決定する。
【0123】
(ステップS203)構成部106は、ステップS109でバイタル情報に対応する情報の送信を行うことを決定したバイタル情報があるか判断する。ある場合、ステップ204に進み、ない場合、ステップS205に進む。
【0124】
(ステップS204)構成部106は、ステップS201で構成した画面画像の、構成部106がステップS109で出力条件と対応付けて蓄積した端末識別子に対応するユーザ領域に、ステップS109で各端末識別子と対応付けて蓄積した出力条件に合致する1以上のバイタル情報を、それぞれ配置する。例えば、各ユーザ領域に含まれる画像に対応する態様でバイタル情報を配置する。
【0125】
(ステップS205)構成部106は、ステップS111で視覚的に区別可能に出力することを決定したユーザ領域があるか判断する。ある場合、ステップS206に進み、ない場合、ステップS207に進む。
【0126】
(ステップS206)構成部106は、ステップS111で取得した視覚的に区別可能に出力することを決定したユーザ領域に対応するユーザ端末2の端末識別子を用いて、ステップS201で構成した画面画像、またはステップS204でバイタル情報を配置した画面画像を、この端末識別子に対応するユーザ領域を視覚的に区別可能とした画面画像となるよう変更する。
【0127】
(ステップS207)情報送信部107は、特定情報格納部101に格納された特定情報を用いて、ステップS201で構成された画面画像であって、ステップS204およびステップS206の判断に応じた処理を経た画面画像(例えば、判断結果に応じて、バイタル情報が配置されたり、ユーザ領域が変更されたりした画面画像や、変更が加えられたかった画面画像等)を、バイタル情報に対応する情報の送信先として予め決められたユーザ端末2に送信する。そして、上位の処理にリターンする。
【0128】
次に、ユーザ端末2の動作について簡単に説明する。ユーザ端末2のカメラが撮影した画像と、マイクロフォンが取得した音声を、端末送信部がサーバ1に送信する。また、ユーザ端末2の端末受信部が、サーバ1から送信される画面画像および音声を受信し、受信した画面画像を端末表示部がモニタ等に表示し、受信した音声を音声出力部がスピーカーやヘッドホン等の音声出力デバイスから出力する。
【0129】
以下、本実施の形態におけるウェブ会議システム1000の具体的な動作について一例を挙げて説明する。
【0130】
図4は、ウェブ会議システム1000の具体例を示す模式図である。ここでは、ユーザ端末2が、いずれもコンピュータである場合を例に挙げて説明する。また、ここでは、4つのユーザ端末2を、ユーザ端末2a-2dとして表している。ただし、ユーザ端末2a-2dのそれぞれを区別せずにユーザ端末2と呼ぶ場合もある。
【0131】
ここでは、サーバ1がウェブ会議を開始しており、4人のユーザがそれぞれユーザ端末2を利用してウェブ会議に参加しているものとする。4人のユーザの1人は企業において、社員の健康管理を行う産業医であり、他の3人は、企業に勤務する社員であるとする。ウェブ会議に参加しているユーザ端末2を管理するために、例えば、参加しているユーザ端末2a-2dに対応する端末識別子と、ウェブ会議の会議名やウェブ会議に割り当てられたコード等の会議識別子とが対応付けられて、メモリ等格納部(図示せず)に格納されているものとする。
【0132】
図5は、特定情報格納部101に格納されている特定情報を管理する特定情報管理表である。特定情報管理表は、「端末ID」と、「指定」という属性を有している。「端末ID」は、ユーザ端末2の端末識別子であり、ここでは、値「U001」から「U004」までの4つの端末識別子にそれぞれ対応するユーザ端末2が、ウェブ会議に参加しているものとする。「指定」は、ユーザ端末2を利用するユーザが、バイタル情報の取得対象となるユーザであるか否かを指定する情報、およびバイタル情報に対応する情報の送信先となるユーザであるか否かを指定する情報であり、値「1」は、バイタル情報の取得対象となるユーザであることを示し、値「2」は、バイタル情報に対応する情報の送信先となるユーザであることを示し、値「0」は、そのいずれでもないユーザであることを示す。なお、ユーザ端末2aの端末識別子が「U001」、ユーザ端末2bの端末識別子が「U002」、ユーザ端末2cの端末識別子が「U003」、ユーザ端末2dの端末識別子が「U004」であるとする。
【0133】
図6(a)は、出力条件格納部103に格納されている出力条件を管理する出力条件管理表である。出力条件管理表は、「出力バイタルID」と「出力条件」という属性を有している。「出力バイタルID」は、対応する出力条件を満たす場合に出力されるバイタル情報の種類を示す識別子であり、ここでは種類名であるとする。「出力条件」は、対応するバイタル情報を出力するための出力条件である。なお、出力条件のX-X等は、予め決められた値であるとする。かかることは、着目条件のXや保険条件のX等についても同様である。
【0134】
図6(b)は、着目条件格納部104に格納されている着目条件を管理する着目条件管理表である。着目条件管理表において、属性「着目条件」は、着目条件を示している。
【0135】
図7(a)は、提案格納部110に格納されている提案情報を管理する提案情報管理表である。提案管理表において、属性「保険情報」は保険情報であり、ここでは、保険情報のファイル名を示している。属性「保険条件」は、保険条件を示している。
【0136】
なお、図6(a)、図6(b)、および図7においては、出力条件、着目条件、および保険条件を、それぞれ自然言語で表しているが、これらの条件は、例えば、これらの自然言語に相当する一以上の関数や、メソッド名や、「if」、「then」等で示される制御構文等で構成されていてもよい。また、これらの条件は、これらの自然言語に対応する判断処理等を行うためのアルゴリズムであってもよい。
【0137】
ウェブ会議が開始されると、4つのユーザ端末2a-2dが、サーバ1に、それぞれが撮影した時系列の画像である動画像およびそれぞれが取得した音声を、自端末の端末識別子と対応付けて順次送信する。
【0138】
ここで、例えば、情報取得部102が、バイタル情報を取得する時期になった、と判断したとする。例えば、情報取得部102は、画像の受信開始から一定の時間が経過するごとに、バイタル情報を取得する処理を行っており、前回のバイタル情報を取得する時期から、予め決められた時間が経過したとする。
【0139】
情報取得部102は、まず、図5に示した特定情報管理表を用いて、現在ウェブ会議に参加している4台のユーザ端末2のうち、バイタル情報の取得の対象となるユーザ端末2を検出する。例えば、情報取得部102は、図5に示した特定情報管理表の、「端末ID」の値が、ウェブ会議に参加しているユーザ端末2に対応する端末識別子が「U001」から「U004」のいずれかであるレコード(行)において、「指定」の値が、バイタル情報の取得対象であることを示す値「1」であるレコードを検出し、検出したレコードの「端末ID」の値である端末識別子を、バイタル情報の取得対象となるユーザ端末2の端末識別子として取得する。ここでは、端末識別子「U003」および「U004」が取得されたとする。
【0140】
なお、対応する「指定」の値が「0」としたユーザ端末2が送信する画像からバイタル情報を取得しないようにすることで、例えば、バイタル情報に対応した情報の送信先以外のユーザのうちの、予め決められたユーザを、バイタル情報の取得対象から除外することができる。これにより、例えば、ユーザの意思を尊重して、バイタル情報を取得するか否かを設定したり、ユーザの状態を観察する必要があるユーザから選択的にバイタル情報を取得したりすることができる。
【0141】
次に、情報取得部102は、取得した端末識別子のうちの1番目の端末識別子「U003」を取り出し、端末識別子「U003」と対応付けられて送信される画像から、バイタル情報を取得する。例えば、バイタル情報を取得する時期から、一定時間経過するまでに送信された画像からバイタル情報を取得する。なお、取得した端末識別子から、端末識別子を取り出す順番は、どのように割り当ててもよい。
【0142】
例えば、情報取得部102は、予め決められたバイタル情報として、ここでは、脈拍数と、心拍数と、LF/HFの値とを取得する。例えば、情報受信部100が受信した予め決められた長さの動画像において、ユーザが撮影されている領域である人物領域を検出し、この人物領域から上記の3種類のバイタル情報を取得する。例えば、取得した脈拍数がx110、心拍数がx210、LF/HFの値がx310であったとする。また、これらの値を取得した時刻はtであったとする。なお、x110、x210、x310、t等はそれぞれ特定の値であるとする。
【0143】
蓄積部108は、上記で情報取得部102が取得した各バイタル情報を、各バイタル情報の種類名と、端末識別子「U003」と、取得時刻と対応付けて、バイタル情報格納部109に蓄積する。また、ここでは、さらに、バイタル情報を取得する際に利用した画像(ここでは、動画像の一部)を切り出したファイル「0035.mp4」を、バイタル情報と対応付けて、バイタル情報格納部109に蓄積する。
【0144】
図8は、バイタル情報格納部109に蓄積されたバイタル情報を管理するバイタル情報管理表である。バイタル情報格納部109は、「時刻」、「端末ID」、「脈拍数」、「心拍数」、「LF/HF」、および「画像」という属性を有している。「時刻」はバイタル情報を取得した時刻であり、t、t等は異なる特定の時刻であるとする。「端末ID」は端末識別子である。「脈拍数」は脈拍数、「心拍数」は心拍数、「LF/HF」はLF/HFの値であり、これらの3つが、情報取得部102が取得したバイタル情報である。「画像」は、バイタル情報を取得した画像のファイルのファイル名である。この画像は、例えば、バイタル情報を取得するために利用した予め決められた長さの動画像のファイルである。
【0145】
次に、判断部105は、上記で情報取得部102が1番目の端末識別子「U003」について取得したバイタル情報が、出力条件に合致するか判断する。具体的には、判断部105は、図6(a)に示した出力条件格納部103に格納された出力条件を管理する出力条件管理表の各レコード(行)の「出力条件」が示す出力条件に、上記で取得したバイタル情報が合致するか判断する。そして、合致する場合、同じレコードの「出力バイタルID」が示す種類のバイタル情報に対応する情報を送信することを決定する。
【0146】
まず、判断部105は、図6(a)に示した出力条件管理表の上から1番目のレコード(行)の「出力条件」の値「1分当たりの脈拍数がX回以上である」を読み出し、上記で取得したバイタル情報がこの出力条件に合致するか、具体的には、上記で取得したバイタル情報の一つである脈拍数x110が、X回以上であるか判断する。ここでは、x110が、X以上の値であったとすると、判断部105は、この出力条件に合致すると判断し、取得したバイタル情報である脈拍数x110に対応する情報を送信することを決定する。
【0147】
また、図6(a)に示した出力条件管理表の上から2番目のレコード(行)の「出力条件」の値「1分当たりの呼吸数がX回以上である」を読み出し、上記で取得したバイタル情報の一つである呼吸数x210が、X回以上であるか判断する。ここでは、x回以上でないため、この呼吸数x210に対応する情報を送信しないことを決定する。
【0148】
また、図6(a)に示した出力条件管理表の上から3番目のレコード(行)の「出力条件」の値「LF/HFの値がX以上である」を読み出し、上記で取得したバイタル情報の一つであるLF/HFの値x310が、X回以上であるか判断する。ここでは、x回以上であるため、この呼吸数x310に対応する情報を送信することを決定する。
【0149】
そして、対応する情報を送信することを決定したバイタル情報である脈拍数x101と、LF/HFの値x301とを、端末識別子「U003」と対応付けて、メモリ等の格納部(図示せず)等に一時記憶する。
【0150】
次に、構成部106は、上記で情報取得部102が取得したバイタル情報が、着目条件格納部104に格納された着目条件に合致するか判断する。具体的には、構成部106は、図6(b)に示した着目条件管理表で管理される着目条件「呼吸数が24回/分以上、または、LF/HFの値がX以上である」を読み出し、この着目条件に上記で取得したバイタル情報が合致するか判断する。例えば、構成部106は、まず、上記で取得したバイタル情報のうちの呼吸数x210が、24回以上であるか判断し、24回以上であれば、条件に合致すると判断する。ここでは、24回以上でなく、この条件に合致しないとする。この場合、さらに、上記で取得したバイタル情報のうちのLF/HFの値x310が、X以上であるか判断し、X以上であればこの条件に合致すると判断する。ここでは、X以上であったとすると、LF/HFの値がX以上であるという条件に合致するため、構成部106は、取得したバイタル情報が着目条件に合致すると判断する。このため、構成部106は、端末識別子「U003」が識別するユーザ端末2から受信した画像を含むユーザ領域を、他のユーザ領域に対して視覚的に区別可能な画面画像を構成することを決定する。そして、端末識別子「U003」を、対応するユーザ領域を視覚的に区別可能なユーザ領域とする端末識別子として、メモリ等の格納部(図示せず)等に一時記憶する。
【0151】
次に、保険情報取得部111は、提案格納部110に格納されている各提案情報が有する保険条件に、上記で情報取得部102が取得したバイタル情報が合致するか判断する。そして、合致する保険条件を有する提案情報の保険情報を、取得したバイタル情報に対応するユーザ端末2に送信する保険情報に決定する。
【0152】
例えば、保険情報取得部111は、まず、図7(a)に示した提案情報管理表の上から1行目のレコード(行)の提案情報の「保険条件」である「LF/HFの値がX以上」を取得し、取得した保険条件に、上記で取得したバイタル情報が合致するか判断する。ここでは、上記で取得したバイタル情報のLF/HFの値x310が、X以上であったとすると、この保険条件を満たすため、保険情報取得部111は、上から1行目のレコードの提案情報の「保険情報」の値が示すファイル名が「F001.htm」である保険情報を、端末識別子「U003」が識別するユーザ端末2に送信する保険情報に決定する。そして、この保険情報のファイル名「F001.htm」を、端末識別子「U003」と対応付けた情報を、保険情報の送信を管理するための保険送信管理情報として、メモリ等の格納部(図示せず)に蓄積する。なお、既に同じ保険情報のファイル名と、端末識別子との組を有する保険送信管理情報が格納されている場合、新たな保険送信管理情報を蓄積しなくてもよく、既に蓄積されている同じ保険送信管理情報を、新たな保険送信管理情報で上書きしてもよい。
【0153】
図7(b)は、格納部(図示せず)に格納されている保険送信管理情報を示す図である。保険送信管理情報は、保険情報のファイル名である「保険情報」と、端末識別子である「端末ID」という属性を有している。ここでは、既に、保険情報「F002.htm」と、端末ID「U004」とを有する情報が蓄積されており、上記の保険情報等が新たに蓄積されたものする。
【0154】
情報取得部102は、同様にして、バイタル情報の取得対象であるユーザ端末2のうちの、2番目以降のユーザ端末2から送信される画像についても、上記と同様にバイタル情報を順次取得し、順次取得されるバイタル情報について、判断部105、構成部106、および保険情報取得部111等が、上記と同様の、出力条件に合致するか、着目条件に合致するか、保険情報に合致するか等の処理を行う。ここでは、端末識別子が「U004」から受信した画像から取得されたバイタル情報について上記と同様の処理を行い、その結果、出力条件と、着目条件と、保険条件とのいずれも満たさなかったものとする。
【0155】
そして、バイタル情報の取得対象であるユーザ端末2から送信される画像についてバイタル情報等を取得する処理を行った後、構成部106は、判断部105による出力条件についての判断結果や、構成部106による着目条件についての判断結果に応じて、情報受信部100が受信した画像を含むユーザ領域を有する画面画像を構成する。
【0156】
図9(a)-図9(d)、および図10(a)-図10(c)は、構成部106が構成する画面画像を説明するための画面画像の例を示す図である。
【0157】
例えば、情報受信部100が、同じウェブ会議に参加している端末識別子が「U001」-「U004」であるユーザ端末2から、同じタイミングで、それぞれ図9(a)-図9(d)のような画像71-74を受信したとすると、構成部106は、これらの画像71-74をそれぞれ含むユーザ領域1001-1005をタイル状に配列した図10(a)に示すような画面画像1005を構成する。なお、画像71-74および画面画像1005の画像の大きさや解像度等は問わない。例えば、これらの全てが同じであってもよく、少なくとも一部が異なっていてもよい。
【0158】
そして、情報送信部107は、端末識別子が「U001」-「U004」である画像を送信した4つのユーザ端末2のうちの、図5に示した特定情報管理表により各端末識別子と対応付けられた「指定」の値が、バイタル情報の送信先であることを示す値「2」であるユーザ端末2以外のユーザ端末2に、上記で構成した画面画像を送信する。ここでは、端末識別子「U001」に対応する「指定」の値だけが「2」であるため、情報送信部107は、端末識別子が「U001」であるユーザ端末2aを除いた、端末識別子が「U002」-「U004」であるユーザ端末2b-2dに、上記で取得した画面画像1005を送信する。また、上記で受信した音声も、画像1005に対応付けて送信する。
【0159】
例えば、端末識別子が「U002」であるユーザ端末2bが、端末受信部(図示せず)によりこの画面画像1005および音声を受信すると、端末表示部(図示せず)がこの画面画像1005をユーザ端末2が有するモニタに表示する。また、音声出力部(図示せず)が受信した音声を出力する。
【0160】
図11(a)は、ユーザ端末2bによる画面画像1005の表示例を示す図である。なお、ユーザ端末2cおよび2dも同様の画面画像1005を表示する。
【0161】
また、ここでは、端末識別子が「U003」であるユーザ端末2cが受信した画像から取得したバイタル情報が、上記のように1以上の出力条件に合致しており、バイタル情報である脈拍数x110と、LF/HFの値x310とが、端末識別子「U003」と対応付けられて、メモリ等の格納部(図示せず)等に一時記憶されているため、構成部106は、これらの情報を読み出して、上記で構成した図10(a)に示すような画面画像1005の、端末識別子「U003」に対応するユーザ領域1003に、バイタル情報である脈拍数x110と、LF/HFの値x310と、を配置する。ここでは、バイタル情報を取得する元となった画像に対応する態様として、ユーザ領域内の画像の、人物領域の横に読み出したバイタル情報を配置する。なお、出力条件に合致するバイタル情報が、端末識別子が「U003」であるユーザ端末2cが送信した画像から取得できなかった場合、ユーザ領域1003に上記のようなバイタル情報は配置されない。
【0162】
また、ここでは、端末識別子が「U003」であるユーザ端末2が受信した画像から取得したバイタル情報が、上記のように着目条件に合致しており、端末識別子「U003」を、対応するユーザ領域を視覚的に区別可能なユーザ領域とする端末識別子として、メモリ等の格納部(図示せず)等に一時記憶しているため、構成部106は、この端末識別子を読み出して、上記で構成した図10(b)に示すような画面画像1005の、端末識別子「U003」に対応するユーザ領域1003を、視覚的に他のユーザ領域と区別可能なユーザ領域となるよう画面画像を変更する。図10(c)に示すように、ここでは、ユーザ領域1003に強調表示(例えば、ハイライトカラーの枠線を配置)した枠50を配置した画面画像1005に変更する。なお、着目条件に合致するバイタル情報が、端末識別子が「U003」であるユーザ端末2cが送信した画像から取得できなかった場合、ユーザ領域1003は、上記のように視覚的に区別可能となるよう変更されない。
【0163】
そして、上記で構成した図10(c)に示したような画面画像1005aと音声とを、図5に示した特定情報管理表により端末識別子と対応付けられた「指定」の値が「2」である端末識別子が「U001」であるユーザ端末2aに送信する。
【0164】
このユーザ端末2aの端末受信部(図示せず)が、図10(c)に示したような画面画像1005aと音声を受信すると、端末表示部(図示せず)が受信した画面画像1005aをモニタに表示する。また、音声出力部(図示せず)が、受信した音声を出力する。
【0165】
図11(b)は、端末識別子が「U001」であるユーザ端末2aによる画面画像1005aの表示例を示す図である。
【0166】
図11(b)に示すように、予め決められたユーザ端末2aに表示される画面画像において、バイタル情報に応じて、他のユーザ端末2のユーザのユーザ領域が視覚的に識別可能に示されるため、例えば、ユーザ端末2aのユーザは、ウェブ会議の他のユーザの状態に応じて適切な対応を行うことが可能である。例えば、体調の悪いユーザに注意を払うことが可能となる。
【0167】
また、ウェブ会議システム1000を利用して講義等を行っている場合、予め決められたユーザ端末2aを利用する講師が、視覚的に識別可能に表示されるユーザ領域を参照して、例えば、状態が好ましくないユーザを、できるだけ指名したりしないようにすることができる。
【0168】
なお、バイタル情報を取得する時期以外やバイタル情報の取得中等において情報受信部100が受信した画像についても、構成部106が上記と同様に、各ユーザ端末2が送信する画像をタイル状に配列した画面画像を構成して、情報送信部107が、端末識別子が「U002」-「U004」であるユーザ端末2b-2dにこの画面画像を送信する。また、端末識別子が「U001」であるユーザ端末2aに送信する画面画像としては、一のユーザ端末2が送信した画像から直近に取得したバイタル情報が、出力条件に合致していた場合には、構成部106は、上記と同様に構成した各ユーザ端末2が送信する画像をタイル状に配列した画面画像の、この画像を含むユーザ領域にバイタル情報を配置した画面画像を、ユーザ端末2aに送信し、一のユーザ端末2が送信した画像から直近に取得したバイタル情報が、着目条件に合致していた場合には、構成部106は、上記と同様に構成した各ユーザ端末2が送信する画像をタイル状に配列した画面画像の、この画像を含むユーザ領域を視覚的に識別可能とした画面画像を、ユーザ端末2aに送信する。また、一のユーザ端末2が送信した画像から直近に取得したバイタル情報が、出力条件および着目条件のいずれとも合致していない場合には、ユーザ端末2b-2dに送信した画面画像と同じ画面画像をユーザ端末2aに送信する。
【0169】
ここで、ユーザ端末2a等から送信される指示等に応じて、サーバ1が上記のウェブ会議を終了したとすると、保険情報取得部111は、バイタル情報に応じて取得した保険情報の送信先があるか判断する。具体的には、バイタル情報に応じて取得した保険情報の送信先となるユーザ端末2の端末識別子を有する保険送信管理情報が、格納部(図示せず)に格納されているか判断する。ここでは、図7(b)に示すように、2つの保険送信管理情報が格納部に格納されているため、保険情報の送信先があると判断する。このため、保険情報取得部111は、図7(b)に示す2つの保険情報管理情報から、それぞれ、保険情報のファイル名と、保険情報の送信先となる端末識別子との組を読み出し、読み出した組ごとに、ファイル名が示す保険情報を提案格納部110から取得して、対応する端末識別子に送信する。
【0170】
例えば、保険情報取得部111は、図7(b)に示す上から1番目のレコードから、「保険情報」の値であるファイル名「F002.htm」と、「端末ID」の値「U003」とを取得し、ファイル名が「F002.htm」である保険情報のファイルを、提案格納部110から読み出して、端末識別子が「U003」であるユーザ端末2cに送信する。
【0171】
端末識別子が「U003」であるユーザ端末2cの端末受信部(図示せず)が、ファイル名が「F002.htm」である保険情報のファイルを受信すると、端末表示部(図示せず)が、この保険情報を、モニタに表示する。
【0172】
図12(a)は、ユーザ端末2bが表示する保険情報の表示例を示す図である。ここでは、例えば、がん保険についての情報がユーザ端末2cのモニタに表示されるものとする。
【0173】
また、例えば、保険情報取得部111は、図7(b)に示す上から2番目のレコードから、「保険情報」の値であるファイル名「F001.htm」と、「端末ID」の値「U004」とを取得し、ファイル名が「F001.htm」である保険情報のファイルを、提案格納部110から読み出して、端末識別子が「U004」であるユーザ端末2dに送信する。
【0174】
端末識別子が「U004」であるユーザ端末2cの端末受信部(図示せず)が、ファイル名が「F001.htm」である保険情報のファイルを受信すると、端末表示部(図示せず)が、この保険情報を、モニタに表示する。
【0175】
図12(b)は、ユーザ端末2dが表示する保険情報の表示例を示す図である。ここでは、例えば、医療保険についての情報がユーザ端末2dのモニタに表示されるものとする。
【0176】
以上、本実施の形態によれば、ユーザ端末から送信された画像から取得したバイタル情報に対応する情報を送信することにより、ウェブ会議に参加しているユーザの状態を容易に把握できる。
【0177】
(実施の形態2)
本実施の形態において、ウェブ会議中の1以上の各ユーザのバイタル情報を取得し、当該バイタル情報とウェブ会議における画像とを対応付けて蓄積する情報処理装置について説明する。
【0178】
また、本実施の形態において、ウェブ会議中のユーザの発話を音声認識し、取得されたテキストである会話テキストもバイタル情報に対応付けて蓄積する情報処理装置について説明する。なお、会話テキストは、通常、発話したユーザのユーザ識別子に対応付けられて蓄積される。
【0179】
また、本実施の形態において、ユーザの発話の通訳の音声情報、または当該音声情報を音声認識した通訳テキストもバイタル情報に対応付けて蓄積する情報処理装置について説明する。
【0180】
また、本実施の形態において、通訳者の通訳を聞くユーザのバイタル情報を用いて、通訳者の評価を行う情報処理装置について説明する。なお、かかる評価は、例えば、通訳の原言語の発話を聞くユーザのバイタル情報と、目的言語の通訳の結果を聞くユーザのバイタル情報との比較に基づく。
【0181】
また、本実施の形態において、発話者の発話を聞いたユーザのバイタル情報が着目条件を満たす場合に、発話者のユーザ識別子と、発話の聞き手のユーザのユーザ識別子とを対応付ける情報処理装置について説明する。
【0182】
また、本実施の形態において、1または2以上のユーザのバイタル情報を統計処理し、処理結果を出力する情報処理装置について説明する。なお、統計処理は、例えば、ユーザごとのバイタル情報の統計処理、ユーザ属性値ごとのバイタル情報の統計処理、ウェブ会議全体のバイタル情報の統計処理である。
【0183】
また、本実施の形態において、着目条件を満たすバイタル情報が取得された画像を含むユーザ領域が他のユーザ領域と視覚的に異なるような画面画像を出力する情報処理装置について説明する。
【0184】
さらに、本実施の形態において、バイタル情報やテキストや統計処理の結果を用いて、ウェブ会議における画像の検索が可能な情報処理装置について説明する。
【0185】
なお、本実施の形態において、情報Xが情報Yに対応付いていることは、情報Xから情報Yを取得できること、または情報Yから情報Xを取得できることであり、その対応付けの方法は問わない。情報Xと情報Yとがリンク付いていても良いし、同じバッファに存在していても良いし、情報Xが情報Yに含まれていても良いし、情報Yが情報Xに含まれている等でも良い。
【0186】
図13は、本実施の形態における情報システム2000の概念図である。情報システム2000は、情報処理装置3、2以上のユーザ端末4、および1または2以上の通訳者端末5を備える。
【0187】
情報処理装置3は、2以上のユーザによるウェブ会議を支援するための装置である。情報処理装置3は、ウェブ会議における1または2以上のユーザ端末4から送信された画像、とユーザのバイタル情報とを対応付けて蓄積する。情報処理装置3は、ウェブ会議の機能を有することは好適であるが、ウェブ会議の機能を有さなくても良い。ウェブ会議の機能とは、例えば、Zoom、Teams(登録商標)が有する機能である。
【0188】
ここでのウェブ会議は、ネットワークを介して接続された複数の端末を利用して行われるセミナー、授業、医者による1または2以上の患者の診察等も含む概念である。なお、ウェブ会議の内容は問わない。情報処理装置3は、サーバ1の機能の全部または一部を実現できることは好適である。
【0189】
実施の形態1において、サーバ1は、画像からバイタル情報を取得する処理を行ったが、ウェブ会議システム1000や情報システム2000において、ユーザ端末2やユーザ端末4がウェブ会議における画像からバイタル情報を取得しても良い。かかる場合、サーバ1、情報処理装置3は、ユーザ端末2またはユーザ端末4から、画像に対応付けて、バイタル情報を受信する。ユーザ端末2やユーザ端末4は、センサ(例えば、心拍センサ、血圧センサ等)が取得した1または2種類以上のバイタル情報をサーバ1または情報処理装置3に送信しても良い。
【0190】
情報処理装置3は、いわゆるサーバである。情報処理装置3は、例えば、クラウドサーバやASPサーバであるが、その種類は問わない。
【0191】
ユーザ端末4は、ウェブ会議に参加するユーザが使用する端末である。通訳者端末5は、ユーザの発話を翻訳する通訳者が使用する端末である。通訳者は、通常、人であるが、音声翻訳を行う装置でも良い。なお、かかる翻訳は、同時通訳であることは好適である。ユーザ端末4、および通訳者端末5は、例えば、いわゆるパソコン、タブレット端末。スマートフォンであるが、その種類は問わない。
【0192】
情報処理装置3と2以上の各ユーザ端末4、および情報処理装置3と1または2以上の各通訳者端末5とは、インターネットやLAN等のネットワークにより、通信可能である。
【0193】
図14は、本実施の形態における情報システム2000のブロック図である。図15は、情報処理装置3のブロック図である。
【0194】
情報処理装置3は、格納部31、受信部32、処理部33、および出力部34を備える。
【0195】
格納部31は、情報格納部311を備える。受信部32は、情報受信部321、通訳情報受信部322、および検索受付部323を備える。処理部33は、バイタル取得部330、テキスト取得部331、通訳情報取得部332、判断部333、関係検出部334、蓄積画像取得部335、蓄積部336、通訳評価部338、統計処理部337、および検索部339を備える。出力部34は、画面出力部341、関係出力部342、評価出力部343、および結果出力部344を備える。
【0196】
ユーザ端末4は、ユーザ格納部41、ユーザ受付部42、ユーザ処理部43、ユーザ送信部44、ユーザ受信部45、およびユーザ出力部46を備える。
【0197】
通訳者端末5は、通訳者格納部51、通訳者受信部52、通訳者処理部53、通訳者出力部54、通訳者受付部55、および通訳者送信部56を備える。
【0198】
情報処理装置3を構成する格納部31には、各種の情報が格納される。各種の情報は、例えば、特定情報、各種の条件、情報格納部311に格納される情報である。各種の条件は、例えば、1または2以上の着目条件、1または2以上の出力条件、1または2以上の減点条件である。
【0199】
減点条件とは、通訳者の評価を減じるための条件である。減点条件は、通訳者の通訳音声を聞くユーザのバイタル情報に基づく条件である。減点条件は、例えば、通訳者の通訳音声を聞くユーザのバイタル情報と、ユーザの人数または割合いとに関する条件である。減点条件は、例えば、「心拍数が閾値以上(例えば、不快な感情を抱いている)であるユーザが存在すること」「心拍数が第一閾値以上であるユーザ数が第二閾値以上であること」「心拍数が第一閾値未満(寝ている)であるユーザが存在すること」「心拍数が第一閾値未満であるユーザの割合いが第二閾値以上であること」である。
【0200】
情報格納部311には、各種の情報が格納される。各種の情報は、蓄積画像、バイタル情報、音声情報、会話テキスト、通訳音声情報、通訳テキストである。蓄積画像は、2以上の各ユーザ端末4から受信された画像のうちの1または2以上の画像、または2以上の各ユーザ端末4から受信された2以上の画像に基づく画像を含む。2以上の画像に基づく画像は、例えば、2以上の画像を合成した画像である。蓄積画像は、2以上の各ユーザ端末4から受信された画像のうちの1または2以上の画像、および2以上の各ユーザ端末4から受信された2以上の画像に基づく画像であっても良い。なお、画像は、動画像であっても静止画像であってもよい。情報格納部311の蓄積画像は、通常、時系列の画像である。時系列の画像は、例えば、動画像であってもよく、時系列に沿って送信される複数の静止画像であってもよい。
【0201】
蓄積画像には、付加情報が対応付いていることは好適である。蓄積画像と、当該蓄積画像に対応付く付加情報は、各々、概ね同じ時に取得された情報である。なお、付加情報とは、ウェブ会議における付加的な情報である。付加情報は、バイタル情報、バイタル情報の処理結果、会話テキスト、通訳音声情報、通訳テキストのうちの1または2以上の情報である。バイタル情報の処理結果は、バイタル情報を解析した結果を示す情報、バイタル情報の統計処理結果である。バイタル情報の処理結果は、例えば、「緊張」「ネガティブ」「ポジティブ」である。
【0202】
受信部32は、各種の情報を受信する。各種の情報は、例えば、ユーザ情報、画像、付加情報、バイタル情報、音声情報、通訳音声情報、会話テキスト、通訳テキストである。
【0203】
情報受信部321は、ウェブ会議中の2以上の各ユーザの各ユーザ端末4が送信した画像を含むユーザ情報を受信する。情報受信部321は、例えば、ウェブ会議中の2以上の各ユーザの各ユーザ端末4から、画像を含むユーザ情報を、順次、受信する。情報受信部321は、例えば、ウェブ会議中の2以上の各ユーザの各ユーザ端末4から画像を受信した図示しないサーバから、ユーザ情報を受信しても良い。情報受信部321は、通常、ユーザ識別子に対応付けてユーザ情報を受信する。かかるユーザ識別子は、ユーザ情報を送信したユーザ端末4のユーザの識別子である。
【0204】
ユーザ情報は、通常、音声情報も含む。音声情報は、ユーザがウェブ会議中に発話した音声の情報である。ユーザ情報は、例えば、ユーザ端末4で取得されたバイタル情報を含む。ユーザ情報は、例えば、ユーザの発話に基づく音声情報に対して音声認識処理が行われて取得された会話テキストを含む。
【0205】
バイタル情報は、上述した通りであるが、呼吸、体温、血圧、意識レベル、心拍変動、交感神経、副交感神経、またはLF(低周波)/HF(高周波)のうちの1以上の情報であることは好適である。
【0206】
通訳情報受信部322は、ウェブ会議中のユーザの発話に対する通訳音声情報または通訳音声情報から取得された通訳テキストである通訳情報を受信する。通訳情報受信部322は、通訳音声情報と通訳テキストとを含む通訳情報を受信しても良い。通訳情報受信部322は、通常、1または2以上の各通訳者端末5から通訳情報を受信する。
【0207】
検索受付部323は、検索条件を受け付ける。検索受付部323は、通常、ユーザ端末4から検索条件を受け付ける。検索条件は、例えば、画像を検索するための条件である。検索条件は、例えば、バイタル情報、音声情報、会話テキスト、通訳テキストを検索するための条件でも良い。検索条件は、通常、付加情報に関する情報である。
【0208】
ここでは、受け付けとは、通常、有線もしくは無線の通信回線を介して送信された情報の受信であるが、キーボードやマウス、タッチパネルなどの入力デバイスから入力された情報の受け付け、光ディスクや磁気ディスク、半導体メモリなどの記録媒体から読み出された情報の受け付けなどを含む概念であっても良い。
【0209】
処理部33は、各種の処理を行う。各種の処理は、例えば、バイタル取得部330、テキスト取得部331、通訳情報取得部332、蓄積部336、判断部333、関係検出部334、蓄積画像取得部335、通訳評価部338、統計処理部337、検索部339が行う処理である。
【0210】
バイタル取得部330は、ウェブ会議を行う2以上のユーザ中の1以上の各ユーザのバイタル情報を取得する。バイタル取得部330は、通常、ユーザ識別子に対応付けて、当該ユーザ識別子で識別されるユーザの1以上のバイタル情報を取得する。
【0211】
バイタル取得部330は、通常、画像に対応付けて、1以上のバイタル情報を取得する。かかる1以上のバイタル情報は、例えば、対応付く画像から取得されたバイタル情報、または対応付く画像が撮影された時に取得されたバイタル情報である。画像が撮影された時とバイタル情報が発生した時は一致することが好適であるが、多少のずれがあっても良い。なお、多少のずれの間隔は問わない。
【0212】
バイタル取得部330は、例えば、ユーザ端末4から受信されたユーザ情報に含まれるバイタル情報を取得する。かかるバイタル情報は、ユーザ端末4が取得したバイタル情報である。ユーザ端末4からバイタル情報が受信される場合、ユーザ端末4は画像に含まれるユーザの人物領域から取得した1以上のバイタル情報を送信しても良いし、センサが取得した1以上のバイタル情報を送信しても良い。
【0213】
バイタル取得部330は、例えば、1以上の各ユーザ端末4から受信されたユーザ情報に含まれる画像に含まれるユーザの人物領域から、ユーザの1以上のバイタル情報を取得しても良い。かかる処理は、情報取得部102の処理と同様である。
【0214】
テキスト取得部331は、音声情報から取得される会話テキストを取得する。テキスト取得部331は、通常、ユーザ識別子に対応付けて、会話テキストを取得する。かかるユーザ識別子は、音声情報の元になった発話を行ったユーザの識別子である。テキスト取得部331は、通常、画像や音声情報に対応付けて、会話テキストを取得する。
【0215】
テキスト取得部331は、例えば、受信された音声情報に対して音声認識処理を行い、会話テキストを取得する。
【0216】
テキスト取得部331は、例えば、ユーザ端末4から受信されたユーザ情報に含まれる会話テキストを取得する。かかる場合、ユーザ端末4が、通常、ユーザの発話に対応する音声情報を取得し、当該音声情報に対して音声認識処理を行い、会話テキストを取得し、当該会話テキストを情報処理装置3に送信する。
【0217】
通訳情報取得部332は、通訳情報を取得する。通訳情報とは、通訳音声情報、通訳テキストのうちの1または2種類の情報である。通訳音声情報とは、ユーザの発話に対する通訳の結果の音声情報である。通訳音声情報は、通常、通訳者端末5から送信される情報である。
【0218】
通訳情報取得部332は、通訳情報受信部322が受信した通訳音声情報を取得する。通訳情報取得部332は、例えば、取得した通訳音声情報に対して音声認識処理を行って、通訳テキストを取得するが、通訳情報受信部322が受信した通訳テキストを取得しても良い。つまり、通訳音声情報に対する音声認識処理は、通訳情報取得部332が行っても良いし、通訳者端末5が行っても良い。
【0219】
通訳情報取得部332が取得する通訳情報は、通常、画像や音声情報に対応付いている。かかる画像は、通訳情報の元になった音声情報と同じタイミングで取得された画像である。なお、同じタイミングとは、完全に一致するタイミングであることは好適であるが、完全に一致するタイミングでなくても良い。
【0220】
判断部333は、バイタル取得部330が取得したバイタル情報が、着目条件に合致するか否かを判断する。
【0221】
判断部333は、例えば、ユーザが発話していないタイミングにおける当該ユーザのバイタル情報が、着目条件に合致するか否かを判断する。
【0222】
着目条件とは、ユーザの1以上のバイタル情報に関する条件である。着目条件は、例えば、関係情報を取得するための条件である。着目条件は、例えば、ユーザに対応するユーザ領域を、他のユーザ領域に対して視覚的に区別可能とした画面画像を構成するか判断するための条件である。
【0223】
なお、画面画像とは、ユーザ端末4の画面に出力される画像である。画面画像は、ユーザ端末4の画面に出力される画像を構成するための情報でも良い。画面画像は、蓄積画像と同じであることは好適であるが、異なる画像であっても良い。画面画像は、例えば、2以上のユーザ領域をタイル状に配列した画像である。画面画像は、例えば、情報受信部321が2以上のユーザ端末4からそれぞれ受信されるすべての画像をタイル状に配列した画像であっても良いし、特定のユーザ(例えば、診察を行う医師)のユーザ端末4から受信される画像を除いた1以上の画像を配列した画像等であっても良い。
【0224】
関係検出部334は、判断部333が着目条件に合致すると判断したバイタル情報に対する第一ユーザ識別子と、当該タイミングにおける発話者の第二ユーザ識別子とを対応付ける関係情報を取得する。当該タイミングとは、バイタル情報が取得されたタイミングである。
【0225】
なお、かかる着目条件は、例えば、1または2種類以上のバイタル情報がネガティブな感情であると推定されるバイタル情報であることを判断するための条件である。かかる着目条件は、例えば、「脈拍数が閾値以上または閾値より多い」「血圧が閾値以上または閾値より高い」「LF/HFが閾値以上または閾値よりおお大きい」である。
【0226】
関係検出部334は、例えば、判断部333が着目条件に合致すると判断したバイタル情報と対になるユーザ識別子である1または2以上の第一ユーザ識別子を取得する。また、関係検出部334は、例えば、当該バイタル情報と対になる音声情報に対応するユーザ識別子を第二ユーザ識別子として取得する。そして、関係検出部334は、例えば、第一ユーザ識別子と第二ユーザ識別子とを対応付ける関係情報を構成する。なお、関係情報は、例えば、1以上の第一ユーザ識別子と第二ユーザ識別子とを有する。
【0227】
着目条件がネガティブな感情であると推定されるバイタル情報を特定する条件である場合、当該関係情報は不良な関係である二人のユーザを特定する情報である。かかる状況を確認し、例えば、当該二人のユーザを同じプロジェクトに配属しないようにする、といったことが可能になる。着目条件がポジティブな感情であると推定されるバイタル情報を特定する条件である場合、当該関係情報は良好な関係である二人のユーザを特定する情報である。かかる状況を確認し、例えば、当該二人のユーザを同じチームで仕事をさせるようにする、といったことが可能になる。
【0228】
蓄積画像取得部335は、蓄積画像を取得する。蓄積画像とは、バイタル情報に対応付けて蓄積される画像である。蓄積画像は、通常、Web会議中にユーザ端末4で出力される画面画像である。ただし、蓄積画像は、2以上の各ユーザ端末4から受信された画像でも良い。蓄積画像は、画面画像と2以上の各ユーザ端末4から受信された画像の両方でも良い。
【0229】
蓄積画像取得部335は、例えば、2以上の各ユーザ端末4から受信された画像に基づく画像である画面画像を取得する。蓄積画像取得部335は、例えば、2以上の各ユーザ端末4から受信された画像を取得する。
【0230】
蓄積部336は、バイタル取得部330が取得した1以上の各ユーザのバイタル情報と、蓄積画像取得部335が取得した蓄積画像とを、対応付けて蓄積する。バイタル情報と蓄積画像との対応付けは、通常、各々、同様のタイミングにおけるバイタル情報と蓄積画像との対応付けである。同様のタイミングとは、一致するタイミングであることは好適であるが、少しのずれは許容するものとする。
【0231】
蓄積部336は、通常、バイタル取得部330が取得したバイタル情報を、情報受信部321が受信した時系列の画像であって、当該バイタル情報の取得に利用した期間内の時系列の画像と対応付けて蓄積する。
【0232】
蓄積部336は、例えば、テキスト取得部331が取得した会話テキストを蓄積画像に対応付けて蓄積する。なお、対応付く会話テキストと蓄積画像とは、各々、同様のタイミングで発話された音声と撮影された画像に基づく。
【0233】
蓄積部336は、例えば、1または2以上の各会話テキストをユーザ識別子に対応付けて蓄積する。ここでのユーザ識別子は、当該会話テキストの元になる音声を発話をしたユーザの識別子である。
【0234】
蓄積部336は、例えば、通訳情報取得部332が取得した通訳情報を蓄積画像に対応付けて蓄積する。通訳情報は、通訳音声情報または通訳テキストのうちの1種類以上の情報である。対応付く通訳情報と蓄積画像とは、各々、同様のタイミングで発話された会話に対する通訳と撮影された画像に基づく。
【0235】
統計処理部337は、1以上のユーザのバイタル情報を統計処理し、処理結果を取得する。
【0236】
統計処理部337は、ユーザ識別子ごと、またはユーザ識別子と対になるユーザ属性値ごとに、バイタル情報を統計処理し、処理結果を取得する。なお、ユーザ属性値ごととは、ユーザ属性値の条件ごと、と言っても良い。統計処理部337は、ウェブ会議全体のバイタル情報を統計処理し、処理結果を取得しても良い。
【0237】
統計処理部337は、例えば、1以上の各ユーザ識別子と対になるバイタル情報(例えば、血圧、脈拍数)の集合を取得する。次に、統計処理部337は、例えば、1以上の各ユーザ識別子ごとに、バイタル情報の集合の代表値を取得する。なお、代表値は、例えば、平均値、中央値、最低値、最高値である。
【0238】
統計処理部337は、例えば、ユーザ識別子と対になるユーザ属性値ごと(例えば、「男性」「女性」)に、当該ユーザ属性値対になるバイタル情報(例えば、血圧、脈拍数)の集合を取得する。次に、統計処理部337は、例えば、1以上の各ユーザ属性値ごとに、バイタル情報の集合の代表値を取得する。なお、代表値は、例えば、平均値、中央値、最低値、最高値である。また、ユーザ属性値は、例えば、性別、目的言語が原言語か、年齢、年齢層、部署である。
【0239】
通訳評価部338は、通訳の音声を聞く1以上の各ユーザのバイタル情報を用いて、通訳者の評価を示す評価情報を取得する。なお、通訳者は、通常、同時通訳者である。ただし、通訳者は、音声翻訳を行う図示しない装置でも良い。
【0240】
通訳評価部338は、例えば、通訳の対象の発話の言語である原言語に対応する1以上の各ユーザの時系列のバイタル情報を取得する。次に、通訳評価部338は、例えば、単位期間(例えば、5秒、1分)ごとに、1以上の各ユーザのバイタル情報の集合が減点条件に合致するか否かを判断する。次に、通訳評価部338は、例えば、減点条件に合致する単位期間の数を取得する。次に、通訳評価部338は、例えば、減点条件に合致する単位期間の数が多いほど、低い評価を示す評価情報を取得する。通訳評価部338は、例えば、減点条件に合致する単位期間の数をパラメータとする減少関数により、評価情報を算出する。
【0241】
なお、減点条件は、例えば、「一の単位期間における血圧と平常時(例えば、ウェブ会議の開始時)の血圧との差異の平均値が第一閾値以上であるユーザの割合いが第二閾値以上であること」「一の単位期間における脈拍数と平常時(例えば、ウェブ会議の開始時)の脈拍数との差異の平均値が第一閾値以上であるユーザの割合いが第二閾値以上であること」「脈拍数が第一閾値以下のユーザが第二閾値の割合い以上、存在すること」である。
【0242】
通訳評価部338は、通訳の対象の発話の言語である原言語に対応する1以上のユーザのバイタル情報と、通訳の目的言語に対応する1以上のユーザのバイタル情報とを用いて、評価情報を取得する。
【0243】
通訳評価部338は、例えば、一の期間での原言語に対応する1以上のユーザのバイタル情報と、当該一の期間での目的言語に対応する1以上のユーザのバイタル情報との差異に関する情報が減点条件に合致する場合に、当該一の期間の翻訳は上手くなかった、と判断する。そして、通訳評価部338は、例えば、減点条件に合致する期間の数を取得する。次に、通訳評価部338は、例えば、減点条件に合致する単位期間の数が多いほど、低い評価を示す評価情報を取得する。
【0244】
なお、減点条件は、例えば、一の期間での原言語に対応する1以上のユーザのバイタル情報(例えば、血圧、脈拍数、呼吸数)の平均値と、当該一の期間での目的言語に対応する1以上のユーザのバイタル情報(例えば、血圧、脈拍数、呼吸数)の平均値との差異が閾値以上または閾値より大きいことである。
【0245】
原言語に対応するユーザとは、発話者の発話をそのまま聞くユーザである。目的言語に対応するユーザとは、通訳された音声を聞くユーザである。
【0246】
通訳評価部338は、例えば、統計処理部337が取得した処理結果を用いて、通訳者の評価を示す評価情報を取得する。
【0247】
通訳評価部338は、通訳の音声を聞く1以上の各ユーザのバイタル情報に基づいて、通訳者の評価を示す評価情報を取得すれば良く、そのアルゴリズムは問わない。
【0248】
検索部339は、蓄積部336が蓄積した蓄積画像の中で、検索条件に合致する付加情報に対応付く蓄積画像を検知し、蓄積画像または蓄積画像から取得される画像を出力する。検索条件は、例えば、付加情報に関する条件、バイタル情報に関する条件、会話テキストに関する条件、通訳テキストに関する条件、またはこれらの組み合わせの条件である。
【0249】
検索部339は、例えば、情報格納部311を参照し、検索条件に合致する付加情報に対応付く蓄積画像を取得する。検索部339は、例えば、情報格納部311を参照し、検索条件に合致する付加情報に対応付く蓄積画像の中の箇所を示す情報を取得する。蓄積画像の中の箇所を示す情報は、例えば、ウェブ会議全体の画像である蓄積画像の中のオフセットである。オフセットは、動画の中の箇所を示す情報であり、例えば、時刻、フレーム数である。
【0250】
検索部339は、例えば、検索条件に合致する付加情報を情報格納部311から検索し、当該付加情報と対になる蓄積画像を取得し、当該蓄積画像を出力する。検索部339は、例えば、検索条件に合致する付加情報を情報格納部311から検索し、当該付加情報と対になる蓄積画像を取得し、当該付加情報と当該蓄積画像とを出力する。
【0251】
なお、ここでの出力とは、通常、ユーザ端末4への送信である。ただし、出力は、ディスプレイへの表示、プロジェクターを用いた投影、プリンタでの印字、記録媒体への蓄積、他の処理装置や他のプログラムなどへの処理結果の引渡しなどを含む概念であっても良い。
【0252】
出力部34は、各種の情報を出力する。各種の情報は、例えば、画面画像、関係情報、評価情報、処理結果である。
【0253】
なお、ここでの出力とは、通常、ユーザ端末4への送信である。ただし、出力は、ディスプレイへの表示、プロジェクターを用いた投影、プリンタでの印字、記録媒体への蓄積、他の処理装置(例えば、通訳者端末5)や他のプログラムなどへの処理結果の引渡しなどを含む概念であっても良い。
【0254】
画面出力部341は、ウェブ会議中の2以上の各ユーザのユーザ領域を含む画面画像を出力する。画面出力部341は、蓄積画像取得部335が取得した画面画像を出力する。
【0255】
画面出力部341は、判断部333が着目条件に合致すると判断したバイタル情報に対応するユーザのユーザ領域を他のユーザのユーザ領域と視覚的に区別可能な態様の画面を出力することは好適である。
【0256】
画面出力部341は、通常、画面画像をユーザ端末4に送信する。画面出力部341は、画面画像を通訳者端末5に送信しても良い。
【0257】
関係出力部342は、関係検出部334が取得した関係情報を出力する。関係出力部342は、関係情報を、当該関係情報に対応するタイミングにおける画像またはバイタル情報に対応付けて出力する。
【0258】
ここで、関係出力部342は、関係情報に対応するタイミングにおける画像またはバイタル情報に対応付けて、当該関係情報を蓄積することは好適である。
【0259】
評価出力部343は、通訳評価部338が取得した評価情報を出力する。評価出力部343は、例えば、評価情報を通訳者端末5に送信する。評価出力部343は、例えば、評価情報を蓄積する。評価出力部343は、例えば、評価情報を通訳者識別子と対にして蓄積する。評価情報の蓄積先は、例えば、格納部31であるが、他の装置でも良く、問わない。
【0260】
結果出力部344は、統計処理部337が取得した処理結果を出力する。処理結果の蓄積先は、例えば、格納部31であるが、他の装置でも良く、問わない。結果出力部344は、例えば、統計処理部337が取得した処理結果を、ウェブ会議の会議識別子と対にして蓄積する。
【0261】
ユーザ端末4は、ユーザを撮影可能なカメラ(図示せず)を具備する。ユーザ端末4は、通常、音声を取得するマイク(図示せず)を具備する。
【0262】
ユーザ端末4を構成するユーザ格納部41には、各種の情報が格納される。各種の情報は、例えば、ユーザ識別子、画像、バイタル情報、音声情報、出力条件である。
【0263】
ここでの出力条件は、ユーザ処理部43が取得したバイタル情報を情報処理装置3に送信して良いか否かを判断するための条件である。出力条件は、例えば、ユーザ処理部43が取得するユーザの1以上のバイタル情報に関する条件である。ユーザのバイタル情報は、例えば、ユーザ受付部42に有するカメラが撮影した画像から取得されるこのユーザ端末4を利用するユーザのバイタル情報である。
【0264】
出力条件は、例えば、数値や指標で表されるバイタル情報についての閾値である。例えば、出力条件は、心拍数が閾値以上であるという条件や、呼吸数が閾値以上であるという条件や、LF/HFが示すストレスの指標となる値が、閾値以上であるという条件である。ユーザ格納部41には、バイタル情報の種類ごとに異なる出力条件が格納されていてもよい。ユーザ格納部41には、例えば、1または2以上の異なるバイタル情報についての出力条件が、バイタル情報の種類を識別するバイタル識別子と対応付けて格納されていてもよい。バイタル識別子は、例えば、バイタル名や、バイタルに割り当てられたコード等であってもよい。出力条件は、複数の種類のバイタル情報についての条件の組み合わせ(例えば、AND条件やOR条件等)であってもよい。
【0265】
ユーザ受付部42は、各種の情報や指示等を受け付ける。各種の情報や指示等とは、例えば、検索条件である。
【0266】
各種の情報や指示等の入力手段は、タッチパネルやキーボードやマウスやメニュー画面によるもの等、何でも良い。
【0267】
ユーザ処理部43は、各種の処理を行う。各種の処理は、例えば、受け付けられた情報や指示等を、送信する構造の情報や指示等にする処理である。各種の処理は、例えば、受信された情報を出力する構造の情報にする処理である。
【0268】
ユーザ処理部43は、例えば、図示しないカメラが撮影した画像に含まれるユーザの人物領域からユーザのバイタル情報を、当該画像に対応付けて取得する。かかる場合、ユーザ処理部43は、情報取得部102の機能を有する。対応付く画像とバイタル情報とは、各々、同様のタイミングで取得された情報である。
【0269】
ユーザ処理部43は、例えば、図示しないセンサが取得したユーザのバイタル情報を、当該画像に対応付けて取得する。なお、図示しないセンサは、例えば、血圧計、脈拍計、体温計である。対応付く画像とバイタル情報とは、各々、同様のタイミングで取得された情報である。
【0270】
ユーザ処理部43は、例えば、マイクが集音したユーザの音声から音声情報を構成する。
【0271】
ユーザ処理部43は、例えば、カメラが撮影した画像と、取得した音声情報と、取得した1または2以上のバイタル情報とを対応付ける。
【0272】
ユーザ処理部43は、例えば、取得したバイタル情報が出力条件を満たすか否かを判断する。ユーザ処理部43は、例えば、取得したバイタル情報が2以上のすべての出力条件を満たすか否かを判断する。ユーザ処理部43は、例えば、取得したバイタル情報が2以上のいずれかの出力条件を満たすか否かを判断する。
【0273】
ユーザ送信部44は、カメラが撮影した画像を情報処理装置3に送信する。ユーザ送信部44は、ユーザ処理部43が取得した音声情報を情報処理装置3に送信する。ユーザ送信部44は、例えば、ユーザ処理部43が取得したバイタル情報を情報処理装置3に送信する。ユーザ送信部44は、例えば、対応付いた画像と音声情報とバイタル情報とを情報処理装置3に送信する。
【0274】
ユーザ送信部44は、例えば、ユーザ処理部43が出力条件を満たすと判断した1または2種類以上のバイタル情報を情報処理装置3に送信する。ユーザ送信部44は、例えば、ユーザ処理部43がすべての出力条件を満たすと判断した1または2種類以上のバイタル情報を情報処理装置3に送信する。ユーザ送信部44は、例えば、ユーザ処理部43がいずれかの出力条件を満たすと判断した1または2種類以上のバイタル情報を情報処理装置3に送信する。なお、ユーザ送信部44は、取得されたすべてのバイタル情報を情報処理装置3に送信しても良い。
【0275】
ユーザ受信部45は、各種の情報を受信する。各種の情報は、例えば、画面画像、音声情報、検索された蓄積画像または当該蓄積画像から取得される画像である。
【0276】
ユーザ出力部46は、各種の情報を出力する。各種の情報は、例えば、ウェブ会議における画面画像、ウェブ会議における音声情報、検索された蓄積画像または当該蓄積画像から取得される画像である。
【0277】
通訳者端末5を構成する通訳者格納部51には、各種の情報が格納される。各種の情報は、例えば、通訳者識別子である。通訳者識別子とは、通訳者を識別する情報である。通訳者識別子は、例えば、ID、氏名、メールアドレス、電話番号である。
【0278】
通訳者受信部52は、各種の情報を受信する。各種の情報は、例えば、通訳対象(原言語)の音声情報、画面画像である。
【0279】
通訳者処理部53は、各種の処理を行う。各種の処理は、例えば、受け付けられた情報や指示等を、送信する構造の情報や指示等にする処理である。各種の処理は、例えば、受信された情報を出力する構造の情報にする処理である。
【0280】
通訳者処理部53は、例えば、受け付けられた通訳音声から通訳音声情報を構成する。
【0281】
通訳者処理部53は、例えば、構成した通訳音声情報に対して音声認識処理を行い、通訳テキストを取得する。
【0282】
通訳者出力部54は、各種の情報を出力する。各種の情報は、例えば、音声情報に基づく音声、画面画像に基づく画面である。音声は、通常、通訳対象の音声である。
【0283】
通訳者受付部55は、各種の情報や指示を受け付ける。各種の情報や指示は、例えば、通訳音声である。通訳者受付部55は、例えば、マイクにより実現される。
【0284】
通訳者送信部56は、各種の情報や指示等を情報処理装置3に送信する。各種の情報や指示等は、例えば、通訳音声情報、通訳テキストである。
【0285】
格納部31、情報格納部311、ユーザ格納部41、および通訳者格納部51は、不揮発性の記録媒体が好適であるが、揮発性の記録媒体でも実現可能である。
【0286】
格納部31等に情報が記憶される過程は問わない。例えば、記録媒体を介して情報が格納部31等で記憶されるようになってもよく、通信回線等を介して送信された情報が格納部31等で記憶されるようになってもよく、あるいは、入力デバイスを介して入力された情報が格納部31等で記憶されるようになってもよい。
【0287】
受信部32、情報受信部321、通訳情報受信部322、検索受付部323、ユーザ受信部45、および通訳者受信部52は、通常、無線または有線の通信手段で実現されるが、放送を受信する手段で実現されても良い。
【0288】
処理部33、バイタル取得部330、テキスト取得部331、通訳情報取得部332、蓄積部336、判断部333、関係検出部334、蓄積画像取得部335、通訳評価部338、統計処理部337、検索部339、ユーザ処理部43、および通訳者処理部53は、通常、プロセッサやメモリ等から実現され得る。処理部33等の処理手順は、通常、ソフトウェアで実現され、当該ソフトウェアはROM等の記録媒体に記録されている。但し、ハードウェア(専用回路)で実現しても良い。なお、プロセッサは、CPU、MPU、GPU等であり、その種類は問わない。
【0289】
出力部34、画面出力部341、関係出力部342、評価出力部343、結果出力部344、ユーザ送信部44、および通訳者送信部56は、通常、無線または有線の通信手段で実現される。
【0290】
画面出力部341、関係出力部342、評価出力部343、および結果出力部344は、プロセッサやメモリ等から実現されても良い。なお、プロセッサは、CPU、MPU、GPU等であり、その種類は問わない。
【0291】
ユーザ受付部42、および通訳者受付部55は、マイク、カメラ、タッチパネルやキーボード等の入力手段のデバイスドライバーや、メニュー画面の制御ソフトウェア等で実現され得る。
【0292】
ユーザ出力部46、および通訳者出力部54は、ディスプレイやスピーカー等の出力デバイスを含むと考えても含まないと考えても良い。ユーザ出力部46は、出力デバイスのドライバーソフトまたは、出力デバイスのドライバーソフトと出力デバイス等で実現され得る。
【0293】
次に、情報システム2000の動作例について説明する。まず、情報処理装置3の動作例について、図16図17のフローチャートを用いて説明する。
【0294】
(ステップS1601)情報処理装置3は、ウェブ会議を開始するか否かを判断する。ウェブ会議を開始する場合はステップS1602に行き、開始しない場合はステップS1619に行く。なお、例えば、受信部32がウェブ会議の開始指示を受信した場合に、ウェブ会議を開始すると判断される。
【0295】
(ステップS1602)情報受信部321は、1または2以上の各ユーザ端末4または通訳者端末5から、ユーザ情報等を受信したか否かを判断する。ユーザ情報等を受信した場合はステップS1603に行き、ユーザ情報等を受信しなかった場合はステップS1617に行く。なお、情報受信部321は、通常、ユーザ識別子に対応付けて、ユーザ情報等を受信する。また、ユーザ情報等は、通訳情報でも良い。
【0296】
(ステップS1603)処理部33は、ステップS1602で受信されたユーザ情報等を、送信した端末を識別する識別子と対にして、一時蓄積する。なお、識別子は、例えば、ユーザ識別子、通訳者識別子である。
【0297】
(ステップS1604)処理部33は、ステップS1602で受信されたユーザ情報等から、1または2以上の各ユーザ識別子に対応付くバイタル情報を取得する。なお、ここでバイタル情報を取得できない場合があっても良い。また、取得したバイタル情報は、2以上の時系列のバイタル情報でも良い。時系列のバイタル情報とは、取得された時刻が異なるバイタル情報である。時系列のバイタル情報は、通常、連続して取得された2以上のバイタル情報である。連続して取得された2以上のバイタル情報は、時間的な間隔が空いて取得されたバイタル情報でも良い。
【0298】
(ステップS1605)判断部333は、ステップS1604で取得された1または2以上の各ユーザ識別子に対応付くバイタル情報が、1または2以上の各着目条件に合致するか否かを判断する。着目条件に合致するバイタル情報が存在する場合はステップS1606に行き、存在しない場合はステップS1607に行く。
【0299】
(ステップS1606)判断部333は、着目条件に合致するバイタル情報と対になる1以上のユーザ識別子を図示しないバッファに蓄積する。なお、2以上の着目条件が存在する場合、判断部333は、着目条件を識別する条件識別子に対応付けて、1以上のユーザ識別子を図示しないバッファに蓄積することは好適である。
【0300】
(ステップS1607)テキスト取得部331は、ステップS1602で受信された1または2以上の各ユーザ情報等から会話テキストを、ユーザ識別子と対にして取得する。テキスト取得部331は、例えば、受信された1または2以上の各ユーザ情報等に含まれる音声情報に対して音声認識処理を行い、1以上の各ユーザの会話テキストを、ユーザ識別子と対にして取得する。テキスト取得部331は、例えば、受信された1または2以上の各ユーザ情報等に含まれる会話テキストを、ユーザ識別子と対にして取得する。
【0301】
(ステップS1608)蓄積画像取得部335は、2以上のユーザ端末4から送信された画像を用いて、画面画像を構成する。また、蓄積画像取得部335は、図示しないバッファに蓄積されたユーザ識別子で識別される画面上の領域を、他の領域と比較して、区別可能な画面画像を構成することは好適である。蓄積画像取得部335は、図示しないバッファに蓄積されたユーザ識別子で識別される画面上の領域を、着目条件を識別する条件識別子を特定できる態様にした画面画像を構成することは好適である。
【0302】
(ステップS1609)処理部33は、画面画像と受信された音声情報とを有する会議情報を構成する。なお、かかる構成の処理は、公知のウェブ会議システムで行われている処理である。処理部33は、通訳音声情報をも含む会議情報を構成することは好適である。処理部33は、会話テキスト、または通訳テキストを含む会議情報を構成しても良い。なお、ここでの会議情報を構成する処理は、蓄積画像取得部335が行っても良い。また、会議情報は、ユーザ端末4で出力される情報である。
【0303】
(ステップS1610)出力部34は、ステップS1609で構成された会議情報を2以上のユーザ端末4に送信する。また、出力部34は、ステップS1609で構成された会議情報を1以上の通訳者端末5に送信することは好適である。
【0304】
(ステップS1611)通訳情報取得部332は、ステップS1602で受信されたユーザ情報等の中に、通訳情報が含まれるか否かを判断する。通訳情報が含まれる場合はステップS1612に行き、含まれない場合はステップS1614に行く。
【0305】
(ステップS1612)通訳情報取得部332は、ステップS1602で受信されたユーザ情報等の中の通訳音声情報を取得する。
【0306】
(ステップS1613)通訳情報取得部332は、通訳音声情報に基づく、通訳テキストを取得する。
【0307】
(ステップS1614)蓄積部336は、ステップS1608で取得された画面画像を含む蓄積画像を取得する。
【0308】
(ステップS1615)蓄積部336は、付加情報を取得する。蓄積部336は、例えば、ステップS1602で受信されたユーザ情報等の中に含まれる付加情報を取得する。なお、かかる付加情報は、例えば、1以上の各ユーザ識別子に対応付く1または2種類以上のバイタル情報、1以上の各ユーザ識別子に対応付く音声情報、通訳音声情報である。蓄積部336は、ステップS1602で受信されたユーザ情報等の中に含まれる音声情報を音声認識した結果である会話テキスト、ステップS1602で受信されたユーザ情報等の中に含まれる通訳音声情報を音声認識した結果である通訳テキストを含む付加情報を取得することは好適である。なお、付加情報の中の会話テキストはユーザ識別子に対応付いている。
【0309】
(ステップS1616)蓄積部336は、ステップS1614で取得した蓄積画像と、音声情報と、ステップS1615で取得した付加情報とを、対応付けて蓄積する。ステップS1602に戻る。なお、蓄積画像等の蓄積先は、例えば、情報格納部311であるが、他の装置でも良い。
【0310】
(ステップS1617)処理部33は、ウェブ会議を終了するか否かを判断する。ウェブ会議を終了する場合はステップS1618に行き、終了しない場合はステップS1602に戻る。なお、ウェブ会議を終了する場合は,例えば、終了指示をユーザ端末4から受信した場合であるが、そのトリガーは問わない。
【0311】
(ステップS1618)処理部33は、ウェブ会議の終了処理を行う。ステップS1601に戻る。なお、ウェブ会議の終了処理は、公知技術である。
【0312】
(ステップS1619)処理部33は、統計処理のタイミングであるか否かを判断する。統計処理のタイミングであればステップS1620に行き、統計処理のタイミングでなければステップS1621に行く。なお、統計処理のタイミングは、例えば、ウェブ会議が終了したタイミング、ユーザからの指示を受信したこと等である。
【0313】
(ステップS1620)統計処理部337は、一のウェブ会議の蓄積画像に対応付いているバイタル情報に対して、統計処理を行う。統計処理の例について、図18のフローチャートを用いて説明する。
【0314】
(ステップS1621)処理部33は、通訳者評価を行うか否かを判断する。通訳者評価を行う場合はステップS1622に行き、通訳者評価を行わない場合はステップS1623に行く。なお、通訳者評価を行う場合は、例えば、ウェブ会議の開始後、所定時間が経過した時、ウェブ会議の開催中の所定時間ごと、ウェブ会議の終了後、ユーザからの指示を受信したこと等である。
【0315】
(ステップS1622)通訳評価部338は、一のウェブ会議における通訳者の評価処理を行う。評価処理の例について、図22のフローチャートを用いて説明する。
【0316】
(ステップS1623)処理部33は、関係検出を行うか否かを判断する。関係検出を行う場合はステップS1624に行き、関係検出を行わない場合はステップS1625に行く。なお、関係検出を行う場合は、例えば、ウェブ会議の終了後であるが、ユーザからの指示を受信した時等、そのタイミングやトリガーは問わない。
【0317】
(ステップS1624)関係検出部334は、関係検出処理を行う。関係検出処理の例について、図23のフローチャートを用いて説明する。
【0318】
(ステップS1625)検索受付部323は、検索条件を受信したか否かを判断する。検索条件を受信した場合はステップS1626に行き、受信しなかった場合はステップS1601に戻る。
【0319】
(ステップS1626)検索部339は、検索処理を行う。検索処理の例について、図24のフローチャートを用いて説明する。
【0320】
(ステップS1627)検索部339は、ステップS1626における検索結果である画像等をユーザ端末4に送信する。
【0321】
なお、図16図17のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
【0322】
次に、ステップS1620の統計処理の例について、図18のフローチャートを用いて説明する。
【0323】
(ステップS1801)統計処理部337は、カウンタiに1を代入する。
【0324】
(ステップS1802)統計処理部337は、統計処理の対象のi番目のユーザ識別子が存在するか否かを判断する。i番目のユーザ識別子が存在する場合はステップS1803に行き、存在しない場合はステップS1805に行く。
【0325】
(ステップS1803)統計処理部337は、ユーザ毎統計処理を行う。ユーザ毎統計処理の例について、図19のフローチャートを用いて説明する。なお、ユーザ毎統計処理とは、一のユーザのバイタル情報の統計処理である。
【0326】
(ステップS1804)統計処理部337は、カウンタiを1、インクリメントする。ステップS1802に戻る。
【0327】
(ステップS1805)統計処理部337は、カウンタjに1を代入する。
【0328】
(ステップS1806)統計処理部337は、統計処理の対象のj番目のユーザ属性値の条件が存在するか否かを判断する。j番目のユーザ属性値の条件が存在する場合はステップS1807に行き、存在しない場合はステップS1809に行く。
【0329】
(ステップS1807)統計処理部337は、j番目のユーザ属性値の条件に合致する1または2以上のユーザのバイタル情報に対する統計処理を行う。かかる統計処理は、属性値毎統計処理である。属性値毎統計処理の例について、図20のフローチャートを用いて説明する。
【0330】
(ステップS1808)統計処理部337は、カウンタjを1、インクリメントする。ステップS1806に戻る。
【0331】
(ステップS1809)統計処理部337は、ウェブ会議統計処理を行う。上位処理にリターンする。ウェブ会議統計処理の例について、図21のフローチャートを用いて説明する。なお、ウェブ会議統計処理とは、ウェブ会議における対象ユーザの全部のバイタル情報を用いた統計処理である。
【0332】
なお、統計処理部337は、取得した統計処理の結果は、通常、統計処理対象のウェブ会議の蓄積画像と対にして蓄積する。
【0333】
次に、ステップS1803のユーザ毎統計処理の例について、図19のフローチャートを用いて説明する。
【0334】
(ステップS1901)統計処理部337は、カウンタiに1を代入する。
【0335】
(ステップS1902)統計処理部337は、統計処理するi番目のバイタル情報が存在するか否かを判断する。統計処理するi番目のバイタル情報が存在する場合はステップS1903に行き、存在しない場合はステップS1905に行く。なお、統計処理するバイタル情報は、通常、予め決まっている。
【0336】
(ステップS1903)統計処理部337は、統計処理対象のウェブ会議のバイタル情報の中から、着目ユーザ識別子(S1802のi番目のユーザ識別子)と対になるi番目のバイタル情報をすべて取得する。次に、統計処理部337は、取得したすべてのバイタル情報の代表値を取得する。次に、統計処理部337は、着目ユーザ識別子と対にして、バイタル情報の代表値を格納部31に蓄積する。かかるバイタル情報の代表値は、統計処理対象のウェブ会議の蓄積画像に対応付いている。また、バイタル情報の代表値は、例えば、平均値、中央値、最高値、最低値である。
【0337】
(ステップS1904)統計処理部337は、カウンタiを1、インクリメントする。ステップS1902に戻る。
【0338】
(ステップS1905)統計処理部337は、カウンタjに1を代入する。
【0339】
(ステップS1906)統計処理部337は、j番目の着目条件が存在するか否かを判断する。j番目の着目条件が存在する場合はステップS1907に行き、存在しない場合は上位処理にリターンする。なお、ここでの着目条件は、ウェブ会議中に発生した回数を測定したい着目条件である。着目条件は、例えば、「心拍数が第一閾値以上のユーザの割合いが第二閾値以上であったこと(例えば、興奮状態のユーザの割合いが第二閾値以上)」「心拍数が第一閾値未満のユーザの割合いが第二閾値以上であったこと(例えば、寝ているユーザの割合いが第二閾値以上」である。
【0340】
(ステップS1907)統計処理部337は、変数jを初期化する。つまり、変数jに0を代入する。
【0341】
(ステップS1908)統計処理部337は、カウンタkに1を代入する。
【0342】
(ステップS1909)統計処理部337は、ウェブ会議のk番目の検査単位が存在するか否かを判断する。k番目の検査単位が存在する場合はステップS1910に行き、存在しない場合はステップS1914に行く。なお、ウェブ会議のk番目の検査単位とは、着目条件を満たすか否かを判断するための対象のバイタル情報の集合であり、例えば、ウェブ会議中の所定時間(例えば、1分)の中でのバイタル情報の集合である。
【0343】
(ステップS1910)統計処理部337は、統計処理対象のウェブ会議のバイタル情報の中から、着目ユーザ識別子と対になるバイタル情報であり、k番目の検査単位に対応するバイタル情報であり、j番目の着目条件の判断に使用するバイタル情報を、すべて取得する。
【0344】
(ステップS1911)統計処理部337は、ステップS1910で取得したバイタル情報が、j番目の着目条件に合致するか否かを判断する。j番目の着目条件に合致する場合はステップS1912に行き、合致しない場合はステップS1913に行く。なお、かかる判断処理は、判断部333が行っても良い。
【0345】
(ステップS1912)統計処理部337は、変数jに1を加える。
【0346】
(ステップS1913)統計処理部337は、カウンタkを1、インクリメントする。ステップS1909に戻る。
【0347】
(ステップS1914)統計処理部337は、変数jの値を、j番目の着目条件と着目ユーザ識別子と対にして蓄積する。統計処理部337は、変数jの値を、通常、統計処理対象のウェブ会議の蓄積画像と対にして、格納部31に蓄積する。
【0348】
(ステップS1915)統計処理部337は、カウンタjを1、インクリメントする。ステップS1906に戻る。
【0349】
次に、ステップS1807の属性値毎統計処理の例について、図20のフローチャートを用いて説明する。図20のフローチャートにおいて、図19のフローチャートと同一のステップについて、説明を省略する。
【0350】
(ステップS2001)統計処理部337は、統計処理の対象のj番目のユーザ属性値の条件に対応するバイタル情報であり、統計処理の対象のi番目のバイタル情報をすべて取得する。統計処理部337は、取得したすべてのバイタル情報の代表値(例えば、平均値、最大値等)を取得し、j番目のユーザ属性値の条件と対にして蓄積する。ステップS1904に行く。
【0351】
(ステップS2002)統計処理部337は、統計処理の対象のj番目のユーザ属性値の条件に対応する変数jの値を、すべて取得する。統計処理部337は、取得したすべての変数jの値の代表値を取得する。
【0352】
(ステップS2003)統計処理部337は、ステップS2002で取得した代表値を、j番目の着目条件と当該ユーザ属性値の条件と対にして、格納部31に蓄積する。
【0353】
次に、ステップS1809のウェブ会議統計処理の例について、図21のフローチャートを用いて説明する。図21のフローチャートにおいて、図19のフローチャートと同一のステップについて、説明を省略する。
【0354】
(ステップS2101)統計処理部337は、ウェブ会議全体のバイタル情報の中から、統計処理の対象のi番目のバイタル情報をすべて取得する。統計処理部337は、取得したすべてのバイタル情報の代表値(例えば、平均値、最大値等)を取得する。ステップS1904に行く。
【0355】
(ステップS2102)統計処理部337は、ウェブ会議全体の変数jの値のすべてを取得する。統計処理部337は、取得した変数jの値の代表値を取得する。
【0356】
(ステップS2103)統計処理部337は、ステップS2102で取得した変数jの値の代表値を、j番目の着目条件と当該ウェブ会議の蓄積画像と対にして、格納部31に蓄積する。ステップS1915に行く。
【0357】
次に、ステップS1622の評価処理の例について、図22のフローチャートを用いて説明する。
【0358】
(ステップS2201)通訳評価部338は、カウンタiに1を代入する。
【0359】
(ステップS2202)通訳評価部338は、i番目の減点条件が存在するか否かを判断する。
【0360】
(ステップS2203)通訳評価部338は、i番目の減点条件を格納部31から取得する。
【0361】
(ステップS2204)通訳評価部338は、カウンタjに1を代入する。
【0362】
(ステップS2205)通訳評価部338は、j番目の検査単位が存在するか否かを判断する。j番目の検査単位が存在する場合はステップS2206に行き、存在しない場合はステップS2210に行く。検査単位は、例えば、通訳音声情報が存在する区間である。
【0363】
(ステップS2206)通訳評価部338は、j番目の検査単位に対応するバイタル情報であり、通訳音声を聞く1または2以上の各ユーザ(対象ユーザ)のバイタル情報であり、i番目の減点条件の判断に使用されるバイタル情報を情報格納部311から取得する。
【0364】
(ステップS2207)通訳評価部338は、ステップS2206で取得したバイタル情報が、i番目の減点条件に合致するか否かを判断する。i番目の減点条件に合致する場合はステップS2208に行き、合致しない場合はステップS2209に行く。
【0365】
(ステップS2208)通訳評価部338は、i番目の減点条件に対応する減点度(例えば、減点する点数)を取得し、図示しないバッファに蓄積する。なお、i番目の減点条件に対応する減点度は、例えば、i番目の減点条件に対応付けて、格納部31で格納されているが、すべての減点条件に共通でも良い。
【0366】
(ステップS2209)通訳評価部338は、カウンタjを1、インクリメントする。ステップS2204に戻る。
【0367】
(ステップS2210)通訳評価部338は、カウンタiを1、インクリメントする。ステップS2202に戻る。
【0368】
(ステップS2211)通訳評価部338は、ステップS2208で図示しないバッファに蓄積された減点度の累積を取得する。通訳評価部338は、当該減点度の累積が多いほど、低い評価を示す評価情報を取得する。
【0369】
(ステップS2212)評価出力部343は、ステップS2211で取得された評価情報を出力する。上位処理にリターンする。ここで、評価出力部343は、例えば、評価情報を、翻訳者識別子と対にして、格納部31に蓄積する。評価出力部343は、例えば、評価情報を、翻訳者識別子に対応する通訳者端末5に送信する。
【0370】
なお、図22のフローチャートにおいて、通訳者は一人であることが前提であったが、2以上の通訳者の評価を行っても良い。かかる場合、通訳者ごとに、S2201からS2212の処理が繰り返し実行される。
【0371】
次に、ステップS1624の関係検出処理の例について、図23のフローチャートを用いて説明する。
【0372】
(ステップS2301)関係検出部334は、カウンタiに1を代入する。
【0373】
(ステップS2302)関係検出部334は、検査対象のウェブ会議の蓄積画像と対になる音声情報または会話テキストと対になるユーザ識別子を、ウェブ会議の時系列に検査し、i番目の発話者の音声情報または会話テキストと対になるユーザ識別子が存在するか否かを判断する。ユーザ識別子が存在する場合はステップS2303に行き、存在しない場合は上位処理にリターンする。
【0374】
(ステップS2303)関係検出部334は、カウンタjに1を代入する。
【0375】
(ステップS2304)関係検出部334は、i番目の発話者のユーザ識別子に対応する音声情報または会話テキストに対応するバイタル情報であり、i番目の発話者の発話を聞いているj番目のユーザ識別子に対応するバイタル情報が存在するか否かを判断する。j番目のユーザ識別子に対応するバイタル情報が存在する場合はステップS2305に行き、存在しない場合はステップS2313に行く。なお、i番目の発話者の発話を聞いているj番目のユーザ識別子に対応するバイタル情報が存在する場合は、通常、i番目の発話者の発話を聞いているj番目のユーザ識別子が存在する場合である。
【0376】
(ステップS2305)関係検出部334は、i番目の発話者の発話を聞いているj番目のユーザ識別子に対応するバイタル情報であり、i番目の発話者の発話のタイミングにおけるバイタル情報を、情報格納部311から取得する。i番目の発話者の発話のタイミングにおけるバイタル情報とは、i番目の発話者の音声情報または会話テキストと対になる(タイミング的に同様である)バイタル情報である。なお、取得されるバイタル情報は、着目条件の判断に使用されるバイタル情報であり、1または2種類以上のバイタル情報である。
【0377】
(ステップS2306)関係検出部334は、カウンタkに1を代入する。
【0378】
(ステップS2307)関係検出部334は、k番目の着目条件が存在するか否かを判断する。k番目の着目条件が存在する場合はステップS2308に行き、存在しない場合はステップS2312に行く。
【0379】
(ステップS2308)関係検出部334は、ステップS2305で取得した1または2種類以上のバイタル情報が、k番目の着目条件に合致するか否かを判断する。k番目の着目条件に合致する場合はステップS2309に行き、合致しない場合はステップS2311に行く。
【0380】
(ステップS2309)関係検出部334は、i番目の発話者のユーザ識別子である第二ユーザ識別子と、j番目のユーザ識別子である第一ユーザ識別子とを取得する。
【0381】
(ステップS2310)関係検出部334は、第一ユーザ識別子と第二ユーザ識別子とを対応付ける関係情報を構成する。関係検出部334は、当該関係情報を、蓄積画像に対応付けて、格納部31に蓄積する。関係検出部334は、当該関係情報を、上記の音声情報または会話テキストに対応付けて、格納部31に蓄積することは好適である。
【0382】
(ステップS2311)関係検出部334は、カウンタkを1、インクリメントする。ステップS2307に戻る。
【0383】
(ステップS2312)関係検出部334は、カウンタjを1、インクリメントする。ステップS2304に戻る。
【0384】
(ステップS2313)関係検出部334は、カウンタiを1、インクリメントする。ステップS2302に戻る。
【0385】
次に、ステップS1626の検索処理の例について、図24のフローチャートを用いて説明する。
【0386】
(ステップS2401)検索部339は、カウンタiに1を代入する。
【0387】
(ステップS2402)検索部339は、蓄積画像に対応付く付加情報の集合の中で、i番目のタイミングにおける付加情報が存在するか否かを判断する。i番目のタイミングにおける付加情報が存在する場合はステップS2403に行き、存在しない場合は上位処理にリターンする。
【0388】
(ステップS2403)検索部339は、蓄積画像に対応付く付加情報の集合の中で、i番目のタイミングにおける付加情報が、受信された検索条件に合致するか否かを判断する。検索条件に合致する場合はステップS2404に行き、合致しない場合はステップS2405に行く。
【0389】
(ステップS2404)検索部339は、蓄積画像におけるi番目のタイミングに、フラグを対応付ける。なお、かかるフラグは、ユーザ端末4で、フラグが付された箇所の蓄積画像にジャンプするためのフラグである。
【0390】
(ステップS2405)検索部339は、カウンタiを1、インクリメントする。ステップS2402に戻る。
【0391】
次に、ユーザ端末4の動作例について、図25のフローチャートを用いて説明する。
【0392】
(ステップS2501)ユーザ受付部42は、ウェブ会議の開始指示を受け付けたか否かを判断する。開始指示を受け付けた場合はステップS2502に行き、受け付けなかった場合はステップS2513に行く。
【0393】
(ステップS2502)ユーザ処理部43は、ユーザ格納部41のユーザ識別子を取得し、当該ユーザ識別子を有する開始指示を構成する。ユーザ送信部44は、当該開始指示を情報処理装置3に送信する。
【0394】
(ステップS2503)ユーザ受付部42は、カメラを用いて、当該カメラで撮影した画像を取得する。
【0395】
(ステップS2504)ユーザ受付部42は、マイクを用いて、当該マイクで集音した音声から音声情報を取得する。
【0396】
(ステップS2505)ユーザ処理部43は、画像と音声情報とを有するユーザ情報を構成する。ここで、ユーザ処理部43は、当該画像に含まれるユーザの人物領域からユーザの1または2種類以上のバイタル情報を取得し、当該1または2種類以上のバイタル情報を含むユーザ情報を構成することは好適である。
【0397】
(ステップS2506)ユーザ送信部44は、ステップS2505で構成されたユーザ情報を情報処理装置3に送信する。
【0398】
(ステップS2507)ユーザ受信部45は、情報処理装置3から会議情報を受信したか否かを判断する。会議情報を受信した場合はステップS2508に行き、受信しなかった場合はステップS2507に戻る。
【0399】
(ステップS2508)ユーザ処理部43は、ステップS2507で受信された会議情報を用いて、出力する画面画像を構成する。ユーザ出力部46は、当該画面画像を出力する。なお、ユーザ出力部46は、画面画像に加えて、1以上のユーザのバイタル情報、会話テキストのうちの1または2種類の情報を出力しても良い。
【0400】
(ステップS2509)ユーザ処理部43は、通訳音声を出力するか否かを判断する。通訳音声を出力する場合はステップS2510に行き、出力しない場合はステップS2511に行く。
【0401】
(ステップS2510)ユーザ出力部46は、ユーザの発話の通訳音声を出力する。ステップS2512に行く。
【0402】
(ステップS2511)ユーザ出力部46は、ユーザの発話である音声情報を出力する。
【0403】
(ステップS2512)ユーザ処理部43は、ウェブ会議を終了するか否かを判断する。ウェブ会議を終了する場合はステップS2501に戻り、ウェブ会議を終了しない場合はステップS2503に戻る。なお、ウェブ会議を終了する場合は、例えば、ユーザ受付部42がウェブ会議の終了指示を受け付けた場合である。
【0404】
(ステップS2513)ユーザ受付部42は、検索条件を受け付けたか否かを判断する。検索条件を受け付けた場合はステップS2514に行き、検索条件を受け付けなかった場合はステップS2501に戻る。
【0405】
(ステップS2514)ユーザ処理部43は、ユーザ格納部41からユーザ識別子を取得し、当該ユーザ識別子に対応付く検索条件を構成する。ユーザ送信部44は、ユーザ識別子に対応付く検索条件を情報処理装置3に送信する。
【0406】
(ステップS2515)ユーザ受信部45は、検索条件に合致する画像等を受信したか否かを判断する。画像等を受信した場合はステップS2516に行き、受信しなかった場合はステップS2515に戻る。なお、画像等は、例えば、蓄積画像に加えて、付加情報、フラグを有する。なお、フラグは、検索条件に合致する箇所を特定する情報である。
【0407】
(ステップS2516)ユーザ処理部43は、出力する画像等を構成する。ユーザ出力部46は、当該画像等を出力する。なお、出力する画像等は、例えば、検索条件に合致した最初の付加情報に対応するフラグが付された箇所の蓄積画像と、当該付加情報である。
【0408】
(ステップS2517)ユーザ受付部42は、ユーザから指示を受け付けたか否かを判断する。指示を受け付けた場合はステップS2518に行き、指示を受け付けなかった場合はステップS2519に行く。なお、指示は、1または2以上のフラグが特定する蓄積画像の箇所にジャンプする指示である。
【0409】
(ステップS2518)ユーザ処理部43は、指示に対応するフラグの箇所であり、蓄積画像の箇所を含む画面画像を構成する。ユーザ出力部46は、当該画面画像を出力する。なお、ユーザ出力部46は、当該画面画像に加えて、フラグに対応する付加情報も出力することは好適である。
【0410】
(ステップS2519)ユーザ処理部43は、検索結果の出力を終了するか否かを判断する。出力を終了する場合はステップS2501に戻り、出力を終了しない場合はステップS2517に戻る。
【0411】
なお、図25のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
【0412】
次に、通訳者端末5の動作例について、図26のフローチャートを用いて説明する。
【0413】
(ステップS2601)通訳者受信部52は、通訳対象の音声情報を含む情報を受信したか否かを判断する。情報を受信した場合はステップS2602に行き、情報を受信しなかった場合はステップS2603に行く。なお、受信する情報は、例えば、通訳対象の音声情報と、ウェブ会議中の画面画像である。
【0414】
(ステップS2602)通訳者処理部53は、受信された音声情報を用いて、出力する音声を構成する。通訳者出力部54は、当該通訳対象の音声を出力する。なお、通訳者出力部54は、ウェブ会議中の画面画像も出力することは好適である。ステップS2601に戻る。
【0415】
(ステップS2603)通訳者受付部55は、通訳者からの通訳音声を受け付けたか否かを判断する。通訳音声を受け付けた場合はステップS2604に行き、受け付けなかった場合はステップS2605に行く。なお、通訳者は、通常、人であるが、音声翻訳を行う装置でも良い。
【0416】
(ステップS2604)通訳者処理部53は、受け付けられた通訳音声から送信する通訳音声情報を構成する。通訳者送信部56は、当該通訳音声情報を情報処理装置3に送信する。ステップS2601に戻る。
【0417】
(ステップS2605)通訳者受信部52は、評価情報を受信したか否かを判断する。評価情報を受信した場合はステップS2606に行き、受信しなかった場合はステップS2601に戻る。
【0418】
(ステップS2606)通訳者処理部53は、ステップS2605で受信された評価情報を用いて、出力する評価情報を構成する。通訳者出力部54は、当該評価情報を出力する。ステップS2601に戻る。
【0419】
なお、図26のフローチャートにおいて、電源オフや処理終了の割り込みにより処理は終了する。
【0420】
以下、本実施の形態における情報システム2000の具体的な動作例について説明する。情報システム2000の概念図は、図13である。本具体例において、ユーザ端末4がユーザの1以上のバイタル情報を取得し、情報処理装置3に送信するものとする。なお、上述した通り、情報処理装置3が受信した画像からユーザの1以上のバイタル情報を取得しても良い。
【0421】
今、情報処理装置3の格納部31には、図6(b)に示す着目条件が格納されている、とする。
【0422】
また、格納部31には、減点条件「LF/HFが第一閾値以下のユーザが第二閾値以上の割合い、存在すること」が格納されている、とする。
【0423】
また、情報格納部311には、図27に示すユーザ管理表が格納されている。ユーザ管理表とは、ユーザ情報を管理する表である。ユーザ管理表は、「ID」「ユーザID」「ユーザ属性値」を有する1以上のレコードを管理する。「ユーザ属性値」は、ここでは、「年齢」「性別」「所属」「役職」「言語」を有する。「ID」は、レコードを識別する情報である。「ユーザID」は、ユーザ識別子である。「所属」は、ユーザが所属する会社名である。「言語」は、ウェブ会議でユーザが使用する言語である。
【0424】
また、情報格納部311には、図28に示すに示す構造を有するバイタル情報管理表が格納されている。バイタル管理表とは、ウェブ会議中のユーザのバイタル情報を管理する表である。バイタル管理表は、「会議ID」「蓄積画像」「ユーザID」「オフセット」「バイタル情報」「フラグ」を有する1以上のレコードを管理する。「バイタル情報」は、ここでは「脈波数」「心拍数」「LF/HF」を有する。「会議ID」は、ウェブ会議を識別する情報である。「蓄積画像」は、ウェブ会議における蓄積画像の識別情報である。「蓄積画像」は、ここでは、ウェブ会議における蓄積画像のファイル名である。「オフセット」は、蓄積画像における箇所や範囲を特定する情報であり、「バイタル情報」に対応する箇所や範囲を特定する情報である。ここでは、「オフセット」は、蓄積画像の開始時からの経過時間であるが、蓄積画像におけるフレームのID等でも良く、蓄積画像における箇所や範囲を特定する情報であれば良い。「オフセット」は、バイタル情報が発生したタイミングを特定する情報である。「フラグ」とは、着目条件に合致したバイタル情報を特定する情報である。フラグ「1」は着目条件に合致したバイタル情報を示し、フラグ「0は着目条件に合致しなかったバイタル情報を示す。
【0425】
また、情報格納部311には、図29に示す構造を有するテキスト等管理表が格納されている。テキスト等管理表とは、ウェブ会議中のユーザの発話の会話テキスト、通訳情報等を管理する表である。テキスト等管理表は、「会議ID」「蓄積画像」「オフセット」「ユーザID」「会話テキスト」「通訳テキスト」「通訳音声情報」「通訳者ID」を有する1以上のレコードを管理する。「通訳音声情報」は、例えば、通訳した音声情報のファイル名であるが、音声情報のファイル名とファイルの中の箇所(例えば、オフセット)を示す情報でも良い。
【0426】
さらに、ユーザ端末4のユーザ格納部41には、図6(a)に示す出力条件が格納されている、とする。
【0427】
かかる状況において、以下の2つの具体例について説明する。具体例1は、蓄積画像と付加情報とが蓄積される場合である。具体例2は、蓄積画像を検索する場合である。
【0428】
(具体例1)
今、ユーザID「U001」「U002」「U003」「U004」の4名が、ウェブ会議を開始した、とする。
【0429】
そして、ウェブ会議中において、4名の各ユーザのユーザ端末4は、画像と音声情報とを取得し、情報処理装置3に送信する。
【0430】
また、4名の各ユーザのユーザ端末4のユーザ処理部43は、例えば、定期的に、取得された画像から「脈拍数」「心拍数」「LF/HF」を取得する。そして、ユーザ処理部43は、取得した1種類以上のバイタル情報が、図6のいずれかの出力条件に合致するか否かを判断する。そして、いずれかの出力条件に合致した場合、ユーザ処理部43は、画像と音声情報に加えて、バイタル情報(ここでは、「脈拍数」「心拍数」「LF/HF」)を含むユーザ情報を構成する。なお、ユーザ処理部43は、取得されたバイタル情報を、常に含むユーザ情報を構成しても良い。
【0431】
次に、ユーザ送信部44は、構成されたユーザ情報を、ユーザ識別子に対応付けて、情報処理装置3に送信する。4名の各ユーザに対するユーザ情報に含まれる画像は、例えば、図9(a)(b)(c)(d)である。
【0432】
次に、情報処理装置3の情報受信部321は、4名の各ユーザのユーザ端末4からユーザ情報を受信する。
【0433】
次に、処理部33は、受信されたユーザ情報等を、ユーザ識別子と対にして、一時蓄積する。
【0434】
次に、処理部33は、受信されたユーザ情報等から、1または2以上の各ユーザ識別子に対応付くバイタル情報を取得する。
【0435】
次に、判断部333は、取得された1または2以上の各ユーザ識別子に対応付くバイタル情報が、着目条件(図6(b))に合致するか否かを判断する。なお、ユーザ端末4で、同じ着目条件に合致するバイタル情報のみが送信される場合には、判断部333によるかかる判断は不要である。
【0436】
ここで、例えば、判断部333は、いずれのバイタル情報も着目条件に合致しない、と判断したとする。
【0437】
また、テキスト取得部331は、受信された各ユーザのユーザ情報に含まれる音声情報に対して、音声認識処理を行い、各ユーザの会話テキストを、各ユーザ識別子およびオフセットと対にして取得する。
【0438】
また、蓄積画像取得部335は、例えば、4つの各ユーザ端末4から送信された画像をそれぞれ含むユーザ領域1001-1005をタイル状に配列した図10(a)に示すような画面画像1005を構成する。
【0439】
次に、処理部33は、蓄積画像取得部335が構成した画面画像と受信された音声情報とを有する会議情報を構成する。
【0440】
次に、出力部34は、構成された会議情報を4つの各ユーザ端末4と4つの通訳者端末5に送信する。4つの通訳者端末5の各々は、通訳対象の担当のユーザが決まっている、とする。
【0441】
なお、ユーザ識別子「U001」のユーザに対する通訳者は、「日本語→英語」の通訳を行い、その通訳者IDは「TR11」である。ユーザ識別子「U002」のユーザに対する通訳者は、「英語→日本語」の通訳を行い、その通訳者IDは「TR21」である。ユーザ識別子「U003」のユーザに対する通訳者は、「日本語→英語」の通訳を行い、その通訳者IDは「TR12」である。ユーザ識別子「U004」のユーザに対する通訳者は、「日本語→英語」の通訳を行い、その通訳者IDは「TR13」である。
【0442】
次に、4つの各ユーザ端末4は、会議情報を受信し、当該会議情報に含まれる画面画像を表示し、自分の言語に対応する音声情報を出力する。
【0443】
また、通訳者端末5は、会議情報を受信し、当該会議情報に含まれる画面画像を表示し、通訳者が担当するユーザの発話に対する音声情報を出力する。
【0444】
次に、翻訳者は、担当するユーザの発話に対する音声情報を聞き、同時通訳の音声を発する。次に、通訳者端末5は、当該音声を受け付け、通訳音声情報を構成し、当該通訳音声情報を、通訳者IDと対にして情報処理装置3に送信する。
【0445】
情報処理装置3は、通訳音声情報を受信し、4つの各ユーザ端末4または、対象となる1以上のユーザ端末4に、当該通訳音声情報を送信する。
【0446】
また、情報処理装置3の通訳情報取得部332は、受信された通訳音声情報に対して音声認識処理を行い、通訳テキストを取得し、元の音声情報を発したユーザのユーザ識別子とオフセットと対にする。また、通訳情報取得部332は、通訳音声情報も当該通訳テキストと通訳者IDと対にする。
【0447】
蓄積部336は、取得された蓄積画像をファイル「M01.mp4」に蓄積する。また、蓄積部336は、オフセット(例えば、ウェブ開始からの時間)を取得する。また、蓄積部336は、ファイル識別子「M01.mp4」とオフセットとに対応付けて、取得された付加情報(各ユーザ識別子に対応付くバイタル情報(脈拍数、心拍数、LF/HF))を、図28に示すバイタル情報管理表に蓄積する。
【0448】
また、蓄積部336は、ファイル識別子「M01.mp4」とオフセットとに対応付けて、発話したユーザのユーザ識別子に対応付く、会話テキスト、通訳テキスト、通訳音声情報と通訳者IDとを図29に示すテキスト等管理表に蓄積する。
【0449】
そして、ウェブ会議の進行中、上述の処理が繰り返される。そして、例えば、図28に示すバイタル情報管理表のレコード、図29に示すテキスト等管理表のレコードが蓄積されていく、とする。
【0450】
また、例えば、判断部333は、ウェブ会議の進行中、受信されたバイタル情報の中で、ユーザ識別子「U003」と対になるバイタル情報が着目条件に合致する、と判断したとする。
【0451】
かかる場合、判断部333は、着目条件に合致するバイタル情報と対になる1以上のユーザ識別子「U003」を図示しないバッファに蓄積する。また、蓄積部336は、着目条件に合致するバイタル情報と対に、フラグ「1」を、図28のバイタル情報管理表に書き込む。
【0452】
そして、蓄積画像取得部335は、図10(c)に示すように、ユーザ識別子「U003」で識別されるユーザの領域が、他のユーザの領域と比較して、視覚的に区別可能となる画面画像を構成する。
【0453】
次に、処理部33は、構成された画面画像と受信された音声情報とを有する会議情報を構成する。
【0454】
次に、出力部34は、構成された会議情報を4つの各ユーザ端末4、および4つの各通訳者端末5に送信する。
【0455】
次に、4つの各ユーザ端末4は、会議情報を受信し、図11(b)に示すような画面画像を出力する。また、4つの各ユーザ端末4は、自分の言語に対応する音声情報、通訳音声情報を出力する。
【0456】
また、4つの各通訳者端末5は、会議情報を受信し、図11(b)に示すような画面画像を出力し、かつ自分の担当するユーザの音声情報を出力する。
【0457】
以上、本具体例において、ウェブ会議において取得された蓄積画像と、各ユーザのバイタル情報を含む付加情報とが、対応付けられて、蓄積された。なお、付加情報は、ここでは、ユーザ識別子とオフセットとに対応付く会話テキスト、ユーザ識別子とオフセットとに対応付く通訳テキスト、ユーザ識別子とオフセットとに対応付く通訳音声情報を含む。
【0458】
(具体例2)
ユーザは、ここで、バイタル情報に関する検索条件、着目条件に合致したバイタル情報に関する検索条件、会話テキストに関する検索条件、通訳テキストに関する検索条件等の多様な検索条件をユーザ端末4に入力できる、とする。
【0459】
そして、ユーザ端末4は、検索条件を受け付け、情報処理装置3に送信した、とする。情報処理装置3は、検索条件を受信し、検索部339は、当該検索条件に合致する蓄積画像とオフセットとの組を、図28または図29の表から検索する。そして、結果出力部344は、検索条件にヒットした蓄積画像とオフセットの情報をユーザ端末4に送信する。なお、ここで、結果出力部344は、検索条件にヒットしたオフセットに対応するバイタル情報と、当該バイタル情報と対になるユーザ識別子をも、図28または図29の表から取得し、ユーザ端末4に送信することは好適である。
【0460】
次に、ユーザ端末4は、蓄積画像とオフセットの情報とを受信し、当該蓄積画像の当該オフセットの箇所の画像を出力する。なお、ユーザ端末4は、受信されたバイタル情報とユーザ識別子をも出力することは好適である。
【0461】
なお、上記の具体例において、例えば、会議ID「M01」で識別されるウェブ会議の終了後に、図18図19の処理により、統計処理部337は、当該ウェブ会議のバイタル情報を用いて、4人の各ユーザのバイタル情報の統計処理の結果を取得しても良い。また、統計処理部337は、図18図20の処理により、ユーザ属性値の条件ごと(例えば、役職「部長」と「部長以外」)のバイタル情報の統計処理の結果を取得しても良い。また、統計処理部337は、図18図21の処理により、ウェブ会議全体のバイタル情報の統計処理の結果を取得しても良い。そして、結果出力部344は、取得した統計処理の結果を、会議ID「M01」、または会議ID「M01」とユーザ識別子と対にして、蓄積しても良い。
【0462】
また、上記の具体例において、例えば、会議ID「M01」で識別されるウェブ会議の終了後に、図22に示す処理により、4名の各通訳者の評価情報を取得し、通訳者IDと対にして、蓄積しても良い。
【0463】
さらに、上記の具体例において、例えば、会議ID「M01」で識別されるウェブ会議の終了後に、関係検出部334は、1以上の関係情報を取得し、ユーザ識別子「U001」の部長と会議することに対して、ストレスがある部下のユーザ識別子「U003」を検出し、関係情報「U001,U003」を取得し、蓄積しても良い。かかることにより、部下のユーザ識別子「U003」のユーザを、もっと能力が発揮されるであろう部署に異動させることを考慮できる。
【0464】
以上、本実施の形態によれば、ウェブ会議における画像とユーザのバイタル情報とを対応付けて蓄積できる。
【0465】
また、本実施の形態によれば、ウェブ会議における画像と会話テキストとユーザのバイタル情報とを対応付けて蓄積できる。
【0466】
また、本実施の形態によれば、ウェブ会議における会話テキストとユーザ識別子とを対応付けて蓄積できる。
【0467】
また、本実施の形態によれば、ウェブ会議における発話の通訳情報と画像とを対応付けて蓄積できる。
【0468】
また、本実施の形態によれば、バイタル情報を用いて通訳者の評価ができる。
【0469】
また、本実施の形態によれば、発話の聞き手のユーザのバイタル情報を用いて、聞き手と発話者の関係を特定できる。
【0470】
また、本実施の形態によれば、ウェブ会議におけるユーザのバイタル情報を統計処理できる。
【0471】
さらに、本実施の形態によれば、バイタル情報等を用いて、ウェブ会議の画像を検索できる。
【0472】
なお、本実施の形態において、情報処理装置3は、2以上の図示しないウェブ会議サーバと連携し、バイタル情報を用いた上述の機能を提供できる。かかる場合の情報処理装置3は、ウェブ会議を行う2以上の各ユーザの各ユーザ端末から送信された画像を含むユーザ情報を受信する情報受信部と、前記ウェブ会議を行う前記2以上のユーザ中の1以上の各ユーザのバイタル情報を取得するバイタル取得部と、前記2以上の各ユーザ端末から送信された画像または当該2以上の画像に基づく画像である蓄積画像を取得する蓄積画像取得部と、前記情報取得部が取得した前記1以上の各ユーザのバイタル情報を含む付加情報を、前記蓄積画像取得部が取得した前記蓄積画像に対応付けて蓄積する蓄積部である。そして、かかる場合の情報処理装置3の蓄積部は、例えば、付加情報をウェブ会議サーバに蓄積しても良いし、情報格納部311に蓄積しても良い。
【0473】
さらに、本実施の形態における処理は、ソフトウェアで実現しても良い。そして、このソフトウェアをソフトウェアダウンロード等により配布しても良い。また、このソフトウェアをCD-ROMなどの記録媒体に記録して流布しても良い。なお、このことは、本明細書における他の実施の形態においても該当する。なお、本実施の形態における情報処理装置を実現するソフトウェアは、以下のようなプログラムである。つまり、このプログラムは、コンピュータを、ウェブ会議を行う2以上の各ユーザの各ユーザ端末から送信された画像を含むユーザ情報を受信する情報受信部と、前記ウェブ会議を行う前記2以上のユーザ中の1以上の各ユーザのバイタル情報を取得するバイタル取得部と、前記2以上の各ユーザ端末から送信された画像または当該2以上の画像に基づく画像である蓄積画像を取得する蓄積画像取得部と、前記情報取得部が取得した前記1以上の各ユーザのバイタル情報を含む付加情報を、前記蓄積画像取得部が取得した前記蓄積画像に対応付けて蓄積する蓄積部として機能させるためのプログラムである。
【0474】
また、図30は、本明細書で述べたプログラムを実行して、上述した種々の実施の形態のサーバ1や情報処理装置3等を実現するコンピュータの外観を示す。上述の実施の形態は、コンピュータハードウェア及びその上で実行されるコンピュータプログラムで実現され得る。図30は、このコンピュータシステム300の概観図であり、図31は、システム300のブロック図である。
【0475】
図30において、コンピュータシステム300は、CD-ROMドライブを含むコンピュータ301と、キーボード302と、マウス303と、モニタ304とを含む。
【0476】
図31において、コンピュータ301は、CD-ROMドライブ3012に加えて、MPU3013と、CD-ROMドライブ3012等に接続されたバス3014と、ブートアッププログラム等のプログラムを記憶するためのROM3015と、MPU3013に接続され、アプリケーションプログラムの命令を一時的に記憶するとともに一時記憶空間を提供するためのRAM3016と、アプリケーションプログラム、システムプログラム、及びデータを記憶するためのハードディスク3017とを含む。ここでは、図示しないが、コンピュータ301は、さらに、LANへの接続を提供するネットワークカードを含んでも良い。
【0477】
コンピュータシステム300に、上述した実施の形態の情報処理装置3等の機能を実行させるプログラムは、CD-ROM3101に記憶されて、CD-ROMドライブ3012に挿入され、さらにハードディスク3017に転送されても良い。これに代えて、プログラムは、図示しないネットワークを介してコンピュータ301に送信され、ハードディスク3017に記憶されても良い。プログラムは実行の際にRAM3016にロードされる。プログラムは、CD-ROM3101またはネットワークから直接、ロードされても良い。
【0478】
プログラムは、コンピュータ301に、上述した実施の形態の情報処理装置3等の機能を実行させるオペレーティングシステム(OS)、またはサードパーティープログラム等は、必ずしも含まなくても良い。プログラムは、制御された態様で適切な機能(モジュール)を呼び出し、所望の結果が得られるようにする命令の部分のみを含んでいれば良い。コンピュータシステム300がどのように動作するかは周知であり、詳細な説明は省略する。
【0479】
なお、上記プログラムにおいて、情報を送信するステップや、情報を受信するステップなどでは、ハードウェアによって行われる処理、例えば、送信ステップにおけるモデムやインターフェースカードなどで行われる処理(ハードウェアでしか行われない処理)は含まれない。
【0480】
また、上記プログラムを実行するコンピュータは、単数であってもよく、複数であってもよい。すなわち、集中処理を行ってもよく、あるいは分散処理を行ってもよい。
【0481】
また、上記各実施の形態において、一の装置に存在する2以上の通信手段は、物理的に一の媒体で実現されても良いことは言うまでもない。
【0482】
また、上記各実施の形態において、各処理は、単一の装置によって集中処理されることによって実現されてもよく、あるいは、複数の装置によって分散処理されることによって実現されてもよい。
【0483】
本発明は、以上の実施の形態に限定されることなく、種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることは言うまでもない。
【産業上の利用可能性】
【0484】
以上のように、本発明にかかる情報処理装置3は、ウェブ会議中における画像とユーザのバイタル情報とを対応付けて蓄積できるという効果を有し、ウェブ会議を支援するサーバ等として有用である。
【符号の説明】
【0485】
1 サーバ
2、2a-2d ユーザ端末
100 情報受信部
101 特定情報格納部
102 情報取得部
103 出力条件格納部
104 着目条件格納部
105 判断部
106 構成部
107 情報送信部
108 蓄積部
109 バイタル情報格納部
110 提案格納部
111 保険情報取得部
112 保険情報送信部
1000 ウェブ会議システム
3 情報処理装置
4 ユーザ端末
5 通訳者端末
31 格納部
32 受信部
33 処理部
34 出力部
41 ユーザ格納部
42 ユーザ受付部
43 ユーザ処理部
44 ユーザ送信部
45 ユーザ受信部
46 ユーザ出力部
51 通訳者格納部
52 通訳者受信部
53 通訳者処理部
54 通訳者出力部
55 通訳者受付部
56 通訳者送信部
311 情報格納部
321 情報受信部
322 通訳情報受信部
323 検索受付部
330 バイタル取得部
331 テキスト取得部
332 通訳情報取得部
333 判断部
334 関係検出部
335 蓄積画像取得部
336 蓄積部
337 統計処理部
338 通訳評価部
339 検索部
341 画面出力部
342 関係出力部
343 評価出力部
344 結果出力部
2000 情報システム
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30
図31