(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024131836
(43)【公開日】2024-09-30
(54)【発明の名称】電子会議システム、電子会議システムの制御方法、及びプログラム
(51)【国際特許分類】
H04N 7/15 20060101AFI20240920BHJP
H04N 21/442 20110101ALI20240920BHJP
【FI】
H04N7/15
H04N21/442
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2023042313
(22)【出願日】2023-03-16
(71)【出願人】
【識別番号】000005326
【氏名又は名称】本田技研工業株式会社
(74)【代理人】
【識別番号】110001081
【氏名又は名称】弁理士法人クシブチ国際特許事務所
(72)【発明者】
【氏名】野口 敬史
【テーマコード(参考)】
5C164
【Fターム(参考)】
5C164FA10
5C164UB41P
5C164UB81S
5C164VA07P
5C164VA35P
5C164YA21
(57)【要約】
【課題】ユーザが移動体に搭乗して電子会議に参加する場合に、会議に関する画面の表示を適切な状態に維持する。
【解決手段】電子会議に参加する複数のユーザのそれぞれに対応する表示オブジェクトを含む電子会議画面を端末装置に表示させ、移動体で撮影された画像のデータ、及び、移動体で検出された音声のデータのうち少なくともいずれかを用いてユーザの状態を解析し、解析結果に基づいて表示オブジェクトを変化させるオブジェクト変更処理と、端末装置が備えるプロセッサの負荷の判定、及び、サーバと端末装置との通信の状態の判定を実行し、これらの判定結果に応じてオブジェクト変更処理に用いるデータの選択またはオブジェクト変更処理の実行の可否の決定を行う調整処理と、を実行する、電子会議システム。
【選択図】
図1
【特許請求の範囲】
【請求項1】
サーバと、前記サーバと通信する端末装置と、を備え、
前記サーバは、電子会議に参加する複数のユーザのそれぞれに対応する表示オブジェクトを含む電子会議画面を、前記端末装置に表示させ、
前記端末装置は、移動体に搭乗する前記ユーザを前記電子会議に参加させる電子会議プログラムを含む、複数のアプリケーションプログラムを実行するプロセッサを備え、
前記移動体で撮影された画像のデータ、及び、前記移動体で検出された音声のデータのうち少なくともいずれかを用いて前記ユーザの状態を解析し、解析結果に基づいて前記表示オブジェクトを変化させるオブジェクト変更処理と、
前記端末装置が備える前記プロセッサの負荷の判定、及び、前記サーバと前記端末装置との通信の状態の判定を実行し、これらの判定結果に応じて前記オブジェクト変更処理に用いるデータの選択または前記オブジェクト変更処理の実行の可否の決定を行う調整処理と、を実行する、
電子会議システム。
【請求項2】
前記オブジェクト変更処理を前記端末装置により実行する端末モードと、前記オブジェクト変更処理を前記サーバにより実行するサーバモードと、を実行可能であり、
前記端末モードを実行する場合、
前記端末装置は、前記オブジェクト変更処理で変化させた前記表示オブジェクトを前記サーバに送信し、
前記サーバは、前記端末装置から送信される前記表示オブジェクトを含む前記電子会議画面を前記端末装置に表示させ、
前記サーバモードを実行する場合、
前記端末装置は、前記移動体で撮影された画像のデータ、及び、前記移動体で検出された音声のデータのうち少なくともいずれかを含む検出データを前記サーバに送信し、
前記サーバは、前記端末装置から送信される前記検出データを用いて前記オブジェクト変更処理を実行し、前記オブジェクト変更処理で変化させた前記表示オブジェクトを含む前記電子会議画面を前記端末装置に表示させる、
請求項1に記載の電子会議システム。
【請求項3】
前記調整処理によって、前記端末モード及び前記サーバモードのどちらを実行しているかに応じて、前記オブジェクト変更処理に用いるデータの選択または前記オブジェクト変更処理の実行の可否の決定を行う、請求項2に記載の電子会議システム。
【請求項4】
前記調整処理によって、前記サーバモードを実行する場合であって前記サーバと前記端末装置との通信の状態が良好であると判定した場合は、前記プロセッサの負荷の判定結果に関わらず、前記オブジェクト変更処理によって前記画像のデータを用いて前記ユーザの状態を解析することを決定する、請求項3に記載の電子会議システム。
【請求項5】
前記調整処理によって、前記端末モードを実行する場合であって前記プロセッサの負荷が高負荷であると判定した場合は、前記サーバと前記端末装置との通信の状態の判定結果が良好であっても、前記オブジェクト変更処理によって前記音声のデータを用いて前記ユーザの状態を解析することを決定する、請求項3に記載の電子会議システム。
【請求項6】
前記調整処理によって、
前記サーバと前記端末装置との通信の状態として、前記端末装置から前記サーバにデータを送信する方向における通信の状態を判定し、
前記サーバモードを実行する場合であって、前記サーバと前記端末装置との通信の状態が良好でないと判定した場合に、前記オブジェクト変更処理によって前記音声のデータを用いて前記ユーザの状態を解析することを決定する、請求項3に記載の電子会議システム。
【請求項7】
前記調整処理によって、
前記サーバと前記端末装置との通信の状態として、前記端末装置から前記サーバにデータを送信する方向における通信の状態を判定し、
前記端末モードを実行する場合であって、前記サーバと前記端末装置との通信の状態が良好でないと判定した場合に、前記オブジェクト変更処理を実行しないことを決定する、請求項3に記載の電子会議システム。
【請求項8】
前記調整処理によって、前記サーバと前記端末装置との通信の状態として、前記端末装置から前記サーバにデータを送信する第1方向における通信の状態、及び、前記サーバから前記端末装置にデータを送信する第2方向における通信の状態をそれぞれ判定し、
前記端末装置は、前記サーバモードまたは前記端末モードを実行する場合であって、前記第1方向の通信の状態が良好であると判定し、かつ、前記第2方向の通信の状態が良好でないと判定した場合に、前記電子会議画面に前記表示オブジェクトを表示しない、請求項3に記載の電子会議システム。
【請求項9】
前記オブジェクト変更処理は、前記移動体で撮影された画像のデータ、及び、前記移動体で検出された音声のデータのうち少なくともいずれかを解析することにより、前記ユーザの感情を推定し、推定した前記ユーザの感情に応じて前記表示オブジェクトを変化させる処理である、請求項1から請求項8のいずれか1項に記載の電子会議システム。
【請求項10】
サーバと、前記サーバと通信する端末装置と、を備える電子会議システムにおいて、
前記サーバによって、電子会議に参加する複数のユーザのそれぞれに対応する表示オブジェクトを含む電子会議画面を、前記端末装置に表示させ、
前記端末装置によって、プロセッサにより、移動体に搭乗する前記ユーザを前記電子会議に参加させる電子会議プログラムを含む、複数のアプリケーションプログラムを実行し、
前記移動体で撮影された画像のデータ、及び、前記移動体で検出された音声のデータのうち少なくともいずれかを用いて前記ユーザの状態を解析し、解析結果に基づいて前記表示オブジェクトを変化させるオブジェクト変更処理と、
前記端末装置が備える前記プロセッサの負荷の判定、及び、前記サーバと前記端末装置との通信の状態の判定を実行し、これらの判定結果に応じて前記オブジェクト変更処理に用いるデータの選択または前記オブジェクト変更処理の実行の可否の決定を行う調整処理と、を実行する、
電子会議システムの制御方法。
【請求項11】
サーバと、前記サーバと通信する端末装置と、を備え、
前記サーバは、電子会議に参加する複数のユーザのそれぞれに対応する表示オブジェクトを含む電子会議画面を、前記端末装置に表示させ、
前記端末装置が、移動体に搭乗する前記ユーザを前記電子会議に参加させる電子会議プログラムを含む、複数のアプリケーションプログラムを実行するプロセッサを備える構成とした電子会議システムが構成される場合に、
前記プロセッサに、
前記移動体で撮影された画像のデータ、及び、前記移動体で検出された音声のデータのうち少なくともいずれかを用いて前記ユーザの状態を解析し、解析結果に基づいて前記表示オブジェクトを変化させるオブジェクト変更処理と、
前記端末装置が備える前記プロセッサの負荷の判定、及び、前記サーバと前記端末装置との通信の状態の判定を実行し、これらの判定結果に応じて前記オブジェクト変更処理に用いるデータの選択または前記オブジェクト変更処理の実行の可否の決定を行う調整処理と、を実行させる、プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、電子会議システム、電子会議システムの制御方法、及びプログラムに関する。
【背景技術】
【0002】
近年、交通参加者の中でも高齢者や障がい者や子供といった脆弱な立場にある人々にも配慮した持続可能な輸送システムへのアクセスを提供する取り組みが活発化している。この実現に向けて車両の居住性に関する開発を通して交通の安全性や利便性をより一層改善する研究開発に注力している。
例えば、特許文献1は、移動体に会議の設備を設け、移動体内のユーザが通信を利用して会議を行うことが可能な構成を開示する。また、電子会議において、装置の表示画面に、会議参加者に対応する画像を表示することが知られている(例えば、特許文献2参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2021-047501号公報
【特許文献2】特開2023-012077号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
オンライン会議、或いは電子会議と呼ばれる会議では、会議に関する多くのデータを送受信する必要がある。このため、通信の状態が良好でない場合は、会議に関する画面が適切に表示されない等の事象が発生する。具体的には、会議に関して表示される画面の変化が遅延したり、画面が変化しなくなったりする。しかしながら、移動体においてユーザが電子会議を利用する場合、移動体の移動に伴って通信の状態が変化するので、通信の状態を良好に維持することは難しい。また、移動体においてユーザが使用する機器の負荷が高い場合にも、会議に関する画面が適切に表示されない等の事象が発生する。
本発明は、上述した事情に鑑みてなされたものであり、ユーザが移動体に搭乗して電子会議に参加する場合に、会議に関する画面の表示を適切な状態に維持することを目的とする。
【課題を解決するための手段】
【0005】
本発明の一態様は、サーバと、前記サーバと通信する端末装置と、を備え、前記サーバは、電子会議に参加する複数のユーザのそれぞれに対応する表示オブジェクトを含む電子会議画面を、前記端末装置に表示させ、前記端末装置は、移動体に搭乗する前記ユーザを前記電子会議に参加させる電子会議プログラムを含む、複数のアプリケーションプログラムを実行するプロセッサを備え、前記移動体で撮影された画像のデータ、及び、前記移動体で検出された音声のデータのうち少なくともいずれかを用いて前記ユーザの状態を解析し、解析結果に基づいて前記表示オブジェクトを変化させるオブジェクト変更処理と、前記端末装置が備える前記プロセッサの負荷の判定、及び、前記サーバと前記端末装置との通信の状態の判定を実行し、これらの判定結果に応じて前記オブジェクト変更処理に用いるデータの選択または前記オブジェクト変更処理の実行の可否の決定を行う調整処理と、を実行する、電子会議システムである。
【発明の効果】
【0006】
本発明の一態様によれば、端末装置のプロセッサの負荷や通信の状態に対応して、表示オブジェクトを変化させる処理を調整するので、移動体に搭乗するユーザが使用する端末装置において、会議に関する画面の表示を適切な状態に維持できる。
【図面の簡単な説明】
【0007】
【
図1】
図1は、電子会議システムの構成例を示す図である。
【
図2】
図2は、端末装置が表示する画面の例を示す図である。
【
図3】
図3は、電子会議システムの動作例を示すシーケンス図である。
【
図4】
図4は、電子会議システムの動作例を示すシーケンス図である。
【
図5】
図5は、処理条件データの構成例を示す模式図である。
【
図6】
図6は、端末装置の動作例を示すフローチャートである。
【発明を実施するための形態】
【0008】
[1.電子会議システムの構成]
図1は、電子会議システム1000の構成例を示す図である。
電子会議システム1000は、会議サーバ2と、複数の端末装置を含み、端末装置を使用する複数のユーザUが参加する電子会議を実行する。電子会議は、オンライン会議とも呼ばれ、会議の参加者が端末装置を利用して、通信ネットワークNWを通じて音声や情報を共有することによって実行される会議である。電子会議に参加するユーザUの数、及び、端末装置の数に制限はない。
図1には、電子会議の参加者であるユーザU1、U2、U3がそれぞれ使用する端末装置10、4、5を含む電子会議システム1000を一例として示す。以下では、ユーザU1、U2、U3を区別しない場合にユーザUと記載する。
【0009】
会議サーバ2は、通信ネットワークNWを介して端末装置10、4、5に接続され、電子会議に関するデータを送受信するコンピュータである。会議サーバ2は、単一のサーバコンピュータであってもよいし、複数のサーバコンピュータにより構成されてもよいし、クラウドサーバであってもよい。
【0010】
会議サーバ2は、会議の参加者として登録された端末装置4、5、10からのアクセスに応じて、端末装置4、5、10による電子会議への参加を受け付ける。会議サーバ2は、端末装置4、5、10から音声データを受信し、受信した音声データに基づいて電子会議の音声データを生成する。電子会議の音声データは、電子会議に参加しているユーザUの音声を重畳または集約した音声のデータである。また、会議サーバ2は、端末装置4、5、10から映像や画像のデータを受信し、受信した映像や画像を用いて会議画面51(
図2)のデータを生成する。会議画面51は、例えば、電子会議に参加している各ユーザUに対応するユーザ画像を配置した画面である。会議画面51の詳細は後述する。通信ネットワークNWは、公衆回線網や、専用線、その他の通信回路などで構成される通信ネットワークである。会議画面51は、「電子会議画面」の一例に対応する。会議サーバ2は、会議画面51のデータを端末装置4、5、10に送信することにより、会議画面51を端末装置4、5、10に表示させる。
【0011】
本実施形態では、ユーザU1が車両1の中において端末装置10を使用し、ユーザU2が住宅Hにおいて端末装置4を使用し、ユーザU3が住宅Hにおいて端末装置5を使用する例を説明する。車両1は「移動体」の一例である。車両1は、ユーザU1が搭乗するキャビン(乗員室)を備えていればよく、「移動体」は、4輪の車両に限定されず、5輪以上の車両でもよく、3輪以下の車両でもよい。また、「移動体」としての車両は、バス等の大型車両、商用車両、或いは作業用車両等であってもよい。また、移動体としては、上記の自動車のような陸上移動体のほか、船舶、潜水艇等の海洋移動体、eVTOL(Electric Vertical Take-Off and Landing aircraft)を含む航空機、飛行船等の空中移動体、あるいは、宇宙船、人工衛星などの宇宙移動体であってもよい。住宅Hは、一般的な建物である。
【0012】
ユーザU1は、車両1に搭乗し、車両1に搭乗している間に電子会議に参加する人物である。ユーザU1は、車両1を操縦する運転者であってもよいし、ユーザU1とは異なる人が操縦する車両1に乗車する乗員であってもよい。
【0013】
[2.端末装置の構成]
端末装置10は、車両1に搭載される装置であり、プロセッサ100を有するコンピュータである。端末装置10は、車両1に固定された装置であってもよいし、携帯可能な装置であって車両1に一時的に設置される装置であってもよい。例えば、端末装置10として、スマートフォン、タブレット型コンピュータ、その他の形態のパーソナルコンピュータ、カーナビゲーション装置、または、ディスプレイオーディオ装置を採用できる。
【0014】
端末装置10には、通信装置13、GNSS(Global Navigation Satellite System)14、タッチパネル15、スピーカ16、マイク17、及び、カメラ18が接続される。これらの装置を端末装置10が内蔵する構成であってもよい。
【0015】
通信装置13は、データを送信するトランスミッタ、及び、データを受信するレシーバを備える無線通信装置であり、セルラー通信を実行する。通信装置13は、プロセッサ100の制御に従って通信ネットワークNWに接続し、通信ネットワークNWを通じて会議サーバ2との間でデータ通信を実行する。
【0016】
GNSS14は、人工衛星からの信号を受信することによって車両1の位置を検出し、車両1の位置情報を生成し、位置情報を端末装置10に出力する。
タッチパネル15は、液晶表示パネルや有機EL(Electro Luminescence)パネルで構成される表示画面、及び、表示画面に重畳配置されたタッチセンサを有する。タッチパネル15は、端末装置10が出力する表示信号またはデジタル表示データに基づいて、表示画面に文字や画像を表示する。タッチパネル15は、ユーザU1による表示画面へのタッチ操作を検出し、検出したタッチ操作の操作位置を特定し、特定した操作位置を示すデータを端末装置10に出力する。
【0017】
スピーカ16は、端末装置10が出力する音声信号、または、デジタル音声データに基づいて音を出力する。マイク17は、音を集音し、集音した音の音声信号またはデジタル音声データを、端末装置10に出力する。カメラ18は、端末装置10の制御に従って撮影を実行するデジタルカメラであり、撮影画像データを端末装置10に出力する。スピーカ16、マイク17、及び、カメラ18は、車両1のキャビンに複数設置されてもよい。
【0018】
端末装置10は、プロセッサ100、及び、メモリ120を備える。プロセッサ100は、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、或いはその他の集積回路で構成されるコンピュータである。メモリ120は、プログラムやデータを記憶する記憶装置である。プロセッサ100は、揮発性のRAM(Random Access Memory)をワークエリアとして利用してもよい。RAMは、プロセッサ100に統合して実装されてもよいし、メモリ120がRAMを備える構成であってもよい。
【0019】
メモリ120は、書き換え可能な不揮発性の記憶装置であり、プロセッサ100が実行するプログラム、及び、プロセッサ100により処理されるデータを記憶する。メモリ120は、例えば、フラッシュROM(Read Only Memory)やSSD(Solid State Disk)等の半導体記憶デバイス、或いは、磁気的記憶デバイスで構成される。メモリ120は、制御プログラム121、会議アプリ122、AV(Audio Visual)処理アプリ123、設定情報124、及び、会議情報125を記憶する。
【0020】
制御プログラム121、会議アプリ122及びAV処理アプリ123はプロセッサ100が実行するプログラムであり、プロセッサ100により読み取り可能にメモリ120に記憶される。制御プログラム121は、プロセッサ100が端末装置10の各部を制御するための基本制御プログラムであり、OS(Operating System)である。会議アプリ122及びAV処理アプリ123は、OS上で実行されるアプリケーションプログラムである。
【0021】
プロセッサ100は、機能部として、会議クライアント101、画像処理部102、及び、調整処理部104を有する。これらの機能部は、プロセッサ100が会議アプリ122を実行することにより、実現される。会議アプリ122は、「プログラム」及び「電子会議プログラム」の一例である。また、プロセッサ100は、AV処理部105を有する。AV処理部105は、プロセッサ100がAV処理アプリ123を実行することにより、実現される。AV処理部105は、プロセッサ100が実行する機能のうち、電子会議とは異なる機能を実行する構成の一例である。AV処理アプリ123は「アプリケーションプログラム」の一例である。つまり、プロセッサ100は、ユーザU1を電子会議に参加させる会議アプリ122を含む複数のアプリケーションプログラムを実行する。
【0022】
会議クライアント101は、電子会議の参加者が使用する端末装置としての機能を実行し、通信装置13により会議サーバ2に接続する。会議クライアント101は、電子会議の参加者であるユーザU1のアカウントで会議サーバ2にログインする処理を実行してもよい。
【0023】
会議クライアント101は、マイク17により集音された音声のデータを会議サーバ2に送信する。会議クライアント101は、画像処理部102が送信する電子会議の音声のデータを受信し、受信したデータに基づきスピーカ16から電子会議の音声を出力させる。
【0024】
会議クライアント101は、カメラ18の撮影画像データを取得し、取得した撮影画像データ、または、取得した撮影画像データを用いて生成するユーザ画像を、画像処理部102に送信する。
会議クライアント101は、画像処理部102が送信する会議画面51のデータを受信し、受信したデータに基づいて、会議画面51をタッチパネル15に表示させる。
【0025】
図2は、会議画面51の構成例を示す図である。
図2に示すように、会議画面51は、電子会議に参加するユーザUの様子を示す第1ユーザ画像511、第2ユーザ画像512、及び、自装置画像513を含む。自装置画像513は、会議画面51が表示される装置を使用するユーザU1自身の様子を示す画像である。
図2の会議画面51は、ユーザU1が使用するタッチパネル15に表示される画面であるため、ユーザU1の様子を示す画像が自装置画像513として表示される。第1ユーザ画像511及び第2ユーザ画像512は、電子会議に参加するユーザのうち、ユーザU1とは異なるユーザの様子を示す画像である。本実施形態では、第1ユーザ画像511はユーザU2の様子を示す画像であり、第2ユーザ画像512はユーザU3の様子を示す画像である。また、会議画面51は、電子会議に参加するユーザUの氏名やアカウント名を一覧表示する参加者表示部514を含んでもよい。
【0026】
第1ユーザ画像511は、端末装置4が撮影したユーザU2の撮影画像であってもよい。同様に、第2ユーザ画像512は端末装置5が撮影したユーザU3の撮影画像であってもよく、自装置画像513は、カメラ18が撮影したユーザU1の撮影画像であってもよい。
電子会議システム1000では、第1ユーザ画像511、第2ユーザ画像512、及び、自装置画像513として、撮影画像ではなく、ユーザ画像を用いる。ユーザ画像は、現実の撮影画像とは異なる、いわゆるアバターと呼ばれる画像である。具体的には、ユーザ画像は、例えば、予め用意されたイラスト、アイコン、或いはその他の静止画像である。ユーザ画像は会議参加者であるユーザUの名前が重畳された画像であってもよい。電子会議システム1000は、ユーザ画像として、人間または人間を模したキャラクタの顔の画像を利用する。
【0027】
図2に示す会議画面51は、端末装置10がタッチパネル15に表示させる画面である。会議サーバ2は、端末装置4、5、10のそれぞれに対応する会議画面51のデータを生成する。例えば、端末装置4が表示する会議画面51では、ユーザU2のユーザ画像が自装置画像513に配置され、端末装置5が表示する会議画面51では、ユーザU3のユーザ画像が自装置画像513に配置される。
【0028】
電子会議システム1000は、キャラクタの顔の画像であるユーザ画像を、ユーザUの状態に応じて変化させる機能を有する。ユーザUの状態とは、ユーザUの動作であってもよい。例えば、電子会議システム1000は、ユーザU1が発話しているときと、ユーザU1が発話していないときとで、ユーザ画像である自装置画像513を変化させてもよい。本実施形態では、ユーザUの状態として、ユーザUの感情の推定結果を利用する。すなわち、電子会議システム1000は、ユーザUの感情を推定し、推定したユーザUの感情を表す画像となるように、ユーザ画像を変化させる。例えば、電子会議システム1000は、ユーザUの感情が、喜、怒、哀、楽、平穏のいずれであるかを推定し、推定結果に応じて、喜、怒、哀、楽、平穏のそれぞれに対応する5つの画像のいずれかをユーザ画像とする。電子会議システム1000は、ユーザUの感情を、より細かく推定することも可能であり、ユーザ画像を、より多くの状態に変化させてもよい。
【0029】
電子会議システム1000がユーザUの状態に応じてユーザ画像を変化させる処理を、ユーザ画像変更処理と呼ぶ。ユーザ画像変更処理は、「オブジェクト変更処理」の一例である。すなわち、第1ユーザ画像511、第2ユーザ画像512、及び、自装置画像513として用いられるユーザ画像は、「表示オブジェクト」の一例である。
【0030】
電子会議システム1000は、ユーザ画像変更処理を会議サーバ2が実行する動作状態と、ユーザ画像変更処理を端末装置4、5、10が実行する動作状態との両方を実行可能である。以下では、ユーザ画像変更処理を会議サーバ2が実行する動作状態をサーバモードと呼び、ユーザ画像変更処理を端末装置4、5、10が実行する動作状態を端末モードと呼ぶ。電子会議システム1000は、サーバモードと端末モードとを切り替えて実行する。この切替は、端末装置4、5、10毎に行ってもよい。例えば、電子会議システム1000は、ユーザU1のユーザ画像に関するユーザ画像変更処理と、ユーザU2のユーザ画像に関するユーザ画像変更処理と、ユーザU3のユーザ画像に関するユーザ画像変更処理とを、個別に、サーバモードまたは端末モードで実行してもよい。
【0031】
画像処理部102は、端末装置10が端末モードを実行する場合に、ユーザ画像変更処理を実行する。ユーザ画像変更処理において、画像処理部102は、ユーザ画像の生成、及び、ユーザ画像を変化させる処理を行う。画像処理部102は、感情推定部103を有する。感情推定部103は、マイク17により集音されたユーザU1の音声、及び、カメラ18が撮影したユーザU1の撮影画像を解析することにより、ユーザU1の感情を推定する。ユーザU1の感情を推定する処理としては、種々の公知の技術を利用できる。
【0032】
感情推定部103は、マイク17が集音した音声のデータ、及び、カメラ18の撮影画像データの少なくともいずれかを利用して、ユーザU1の感情を推定する。音声のデータを利用する場合、感情推定部103は、例えば、マイク17が集音した音声のデータを解析し、声の抑揚、声の大きさの変化、声質、ユーザU1が発話した語の早さ、口調等の項目についてスコアを求め、求めたスコアからユーザU1の感情を推定する。例えば、感情推定部103は、マイク17が集音した音声のデータを解析し、声の抑揚、声の大きさの変化、声質、ユーザU1が発話した語の早さ、口調等の項目についてスコアを求め、求めたスコアからユーザU1の感情を推定する。撮影画像データを利用する場合、感情推定部103は、例えば、撮影画像データからユーザU1の表情を解析して、ユーザU1の目、口、鼻の形状や動きを特定することにより、ユーザU1の感情を推定する。
【0033】
画像処理部102は、感情推定部103が推定したユーザU1の感情に対応するように、ユーザ画像を生成し、或いは、ユーザ画像を変化させる。画像処理部102は、ユーザ画像変更処理の後のユーザ画像を、会議サーバ2に送信する。会議サーバ2は、端末装置10から受信したユーザ画像を利用して会議画面51のデータを生成し、端末装置4、5、10に送信する。
【0034】
このように、画像処理部102は、ユーザ画像変更処理において、車両1で撮影された撮影画像データ、及び、車両1で検出された音声のデータのうち少なくともいずれかを用いてユーザU1の状態を解析する。そして、画像処理部102は、ユーザU1の感情を推定し、推定したユーザU1の感情に応じてユーザ画像を変化させる。
【0035】
画像処理部102及び感情推定部103は、ユーザU1に関するユーザ画像変更処理がサーバモードで実行される場合、動作しない。
【0036】
調整処理部104は、ユーザ画像変更処理に関する調整処理を実行する。調整処理は、ユーザ画像変更処理の内容を調整する処理であり、例えば、ユーザ画像変更処理に用いるデータの選択、及び、ユーザ画像変更処理の実行の可否の決定の少なくともいずれかを含む。
【0037】
調整処理部104は、プロセッサ100の負荷の判定、及び、端末装置10と会議サーバ2との間の通信の状態の判定を行い、これらの判定結果に応じてユーザ画像変更処理を調整する。調整処理部104は、例えば、プロセッサ100の使用率を算出し、使用率が、予め設定された閾値以上である場合に、プロセッサ100の負荷が高負荷であると判定する。この場合、プロセッサ100の使用率が閾値より低い場合に、プロセッサ100の負荷が低負荷であると判定する。また、調整処理部104は、端末装置10と会議サーバ2との間の通信の状態として、例えば、通信速度、遅延またはping値、ジッタ値を測定する。この測定は、例えば、端末装置10から会議サーバ2にデータを送信する方向である上り方向と、会議サーバ2から端末装置10にデータを送信する方向である下り方向とのそれぞれにおいて行われる。上り方向は「第1方向」の一例であり、下り方向は「第2方向」の一例である。調整処理部104は、測定した通信速度が予め設定された閾値以上であり、かつ、遅延が予め設定された閾値より小さい値である場合に、通信の状態が良好であると判定し、それ以外の場合に通信の状態が良好でないと判定する。調整処理部104は、端末装置10と会議サーバ2とを接続する通信経路における通信の状態を直接判定しなくてもよい。例えば、調整処理部104は、端末装置10が会議サーバ2との間のデータ通信で使用する通信経路の一部を対象として、通信の状態を判定してもよい。調整処理部104が使用する各種の閾値は、例えば、設定情報124に含まれてメモリ120に記憶される。
【0038】
調整処理部104は、プロセッサ100の負荷が高負荷であるか低負荷であるか、及び、通信の状態が良好であるか否かをもとに、ユーザ画像変更処理で用いるデータを選択する。具体的には、調整処理部104は、ユーザ画像変更処理で映像データを用いるか、映像データを用いず音声データのみを用いるかを決定する。ユーザ画像変更処理で映像データを用いることは、映像データのみを用いること、及び、音声データを合わせて用いることを含む。調整処理部104は、ユーザ画像変更処理をサーバモードで実行するか、端末モードで実行するかのそれぞれに応じて、ユーザ画像変更処理で用いるデータを選択する。さらに、調整処理部104は、プロセッサ100の負荷と通信の状態の判定結果に基づき、ユーザ画像変更処理を行わないことを決定してもよい。この場合、ユーザ画像変更処理は実行されず、会議画面51におけるユーザ画像は変化しない。
【0039】
AV処理部105は、ユーザU1の操作に従って、映像コンテンツや音楽コンテンツの管理および再生を行う。AV処理部105は、ユーザU1により指定される映像コンテンツを再生し、映像をタッチパネル15に表示させ、映像コンテンツに含まれる音声をスピーカ16から出力させる。また、AV処理部105は、ユーザU1により指定される音楽コンテンツを再生し、スピーカ16から音声を出力させる。AV処理部105が再生する映像コンテンツや音楽コンテンツのデータは、例えば、メモリ120に記憶される。また、AV処理部105は、ユーザU1の操作に従って、映像コンテンツや音楽コンテンツのデータを、通信装置13を利用してダウンロードする。また、AV処理部105は、メモリ120が記憶する映像コンテンツや音楽コンテンツの削除等を、ユーザU1の操作に従って実行する。
【0040】
AV処理部105は、会議クライアント101、画像処理部102及び調整処理部104とは独立して動作を実行する。例えば、会議クライアント101が電子会議に参加している間に、AV処理部105は、音楽コンテンツの再生や映像コンテンツのダウンロード等を実行できる。
【0041】
AV処理部105は、プロセッサ100が、電子会議に関するプログラムとは異なるアプリケーションプログラムを実行する機能の一例である。プロセッサ100は、例えば、AV処理部105の代わりに、或いは、AV処理部105に加えて、他の機能を有する構成であってもよい。例えば、プロセッサ100は、ナビゲーション用のアプリケーションプログラムを実行することにより、カーナビゲーション装置としての機能を実行してもよい。
【0042】
端末装置4、及び、端末装置5は、端末装置10と同様に構成することができる。この場合、端末装置4、5は、端末装置10が備えるプロセッサ100、及び、メモリ120を有する構成とすることができる。また、端末装置4、5は、AV処理部105、及び、AV処理アプリ123を有しない構成とすることができる。また、端末装置4、5は、通信装置13、タッチパネル15、スピーカ16、マイク17、カメラ18の各部に相当する構成を備えることが好ましく、GNSS14に相当する構成は必須ではない。
【0043】
[3.会議サーバの構成]
会議サーバ2は、プロセッサ200、及び、メモリ220を備える。プロセッサ200は、CPU、MPU、或いはその他の集積回路で構成される。メモリ220は、プログラムやデータを記憶する記憶装置である。プロセッサ200は、揮発性のRAMをワークエリアとして利用してもよい。RAMは、プロセッサ200に統合して実装されてもよいし、メモリ220がRAMを備える構成であってもよい。
【0044】
メモリ220は、書き換え可能な不揮発性の記憶装置であり、プロセッサ200が実行するプログラム、及び、プロセッサ200により処理されるデータを記憶する。メモリ220は、例えば、フラッシュROMやSSD(等の半導体記憶デバイス、或いは、磁気的記憶デバイスで構成される。メモリ220は、制御プログラム221、及び、会議データ222を記憶する。
【0045】
制御プログラム221はプロセッサ200が実行するプログラムであり、プロセッサ200により読み取り可能にメモリ220に記憶される。制御プログラム221は、プロセッサ200が会議サーバ2の各部を制御するための基本制御プログラムであり、いわゆるOSである。
【0046】
プロセッサ200は、機能部として、会議処理部201及び画像処理部202を有する。これらの機能部は、プロセッサ200がプログラムを実行することにより、実現される。
会議処理部201は、複数のユーザUが参加する電子会議を実行する。会議処理部201は、端末装置4、5、10が送信する音声のデータを受信し、受信したデータに基づいて会議の音声のデータを生成し、端末装置4、5、10に送信する。
【0047】
会議処理部201は、端末装置4、5、10が送信するデータに基づいて、各ユーザUに対応するユーザ画像を含む会議画面51のデータを生成し、端末装置4、5、10に送信する。
【0048】
画像処理部202は、サーバモードにおいてユーザ画像変更処理を実行する。画像処理部202は、感情推定部203を有する。感情推定部203は、端末装置4、5、10が送信する音声のデータ、及び、端末装置4、5、10が送信する撮影画像データを解析することにより、ユーザUの感情を推定する。ユーザUの感情を推定する処理としては、種々の公知の技術を利用できる。例えば、感情推定部203は、感情推定部103と同様の処理を行う。
【0049】
画像処理部202は、感情推定部203が推定したユーザUの感情に対応するように、ユーザ画像を生成し、或いは、ユーザ画像を変化させる。画像処理部202は、ユーザ画像変更処理の後のユーザ画像を含む会議画面51を生成し、端末装置4、5、10に送信する。
【0050】
例えば、画像処理部202は、ユーザU1に関するユーザ画像変更処理をサーバモードで実行する場合、車両1で撮影された撮影画像データ、及び、車両1で検出された音声のデータのうち少なくともいずれかを用いてユーザU1の状態を解析する。そして、画像処理部202は、ユーザU1の感情を推定し、推定したユーザU1の感情に応じてユーザ画像を変化させる。
【0051】
画像処理部202及び感情推定部203は、ユーザU1に関するユーザ画像変更処理が端末モードで実行される場合、ユーザU1に関する処理を行わない。
【0052】
また、画像処理部202は、ユーザ画像変更処理をサーバモードで実行するときに、端末装置10から、ユーザ画像変更処理の条件を示す通知を受信した場合、通知された条件に従ってユーザ画像変更処理を実行する。
【0053】
[4.電子会議システムの動作]
図3及び
図4は、電子会議システム1000の動作例を示すシーケンス図である。
図3は、サーバモードにおけるユーザ画像変更処理を示し、
図4は端末モードにおけるユーザ画像変更処理を示す。ステップSA1-SA5は端末装置10の会議クライアント101により実行され、ステップSA11-SA14は画像処理部102により実行される。ステップSB1、SB5-SB6、SB11-SB13は会議サーバ2の会議処理部201により実行され、SB2-SB4は画像処理部202により実行される。
【0054】
図3において、端末装置10は、マイク17により音声を検出し(ステップSA1)、カメラ18の撮影画像データを取得する(ステップSA2)。端末装置10は、マイク17で検出した音声のデータと撮影画像データとを、通信装置13によって会議サーバ2に送信する(ステップSA3)。ステップSA3で端末装置10が会議サーバ2に送信するデータは、「検出データ」の一例である。
【0055】
会議サーバ2は、端末装置10が送信したデータを受信し(ステップSB1)、受信したデータから、感情推定部203が使用する解析用のデータを取得する(ステップSB2)。会議サーバ2は、感情推定部203による感情推定処理を実行し(ステップSB4)、推定したユーザU1の感情に応じて、ユーザU1のユーザ画像を更新する(ステップSB4)。最初にステップSB4を実行する場合、会議サーバ2はユーザ画像を生成する。会議サーバ2は、更新後のユーザU1のユーザ画像を含む会議画面51のデータを生成する(ステップSB5)。会議サーバ2は、会議画面51を表示するためのデータを端末装置10に送信する(ステップSB6)。
【0056】
端末装置10は、会議画面51を表示するためのデータを会議サーバ2から受信し(ステップSA4)、タッチパネル15における会議画面51の表示を更新する(ステップSA5)。
【0057】
図4の動作において、
図3と共通する処理には同じステップ番号を付して説明を省略する。
図4において、端末装置10は、ステップSA1-SA2を実行し、感情推定部103が用いる解析用のデータを取得する(ステップSA11)。ステップSA11で、端末装置10は、例えば、音声のデータ、及び、撮影画像データの少なくともいずれかを取得する。
【0058】
端末装置10は、感情推定部103による感情推定処理を実行し(ステップSA12)、推定したユーザU1の感情に応じて、ユーザU1のユーザ画像を更新する(ステップSA13)。最初にステップSA13を実行する場合、端末装置10はユーザU1のユーザ画像を生成する。端末装置10は、更新後のユーザU1のユーザ画像を、会議サーバ2に送信する(ステップSA14)。
【0059】
会議サーバ2は、端末装置10によって更新されたユーザU1のユーザ画像を受信し(ステップSB11)、受信したユーザ画像を含む会議画面51のデータを生成する(ステップSB12)。会議サーバ2は、会議画面51を表示するためのデータを端末装置10に送信する(ステップSB13)。
【0060】
端末装置10は、会議画面51を表示するためのデータを会議サーバ2から受信し(ステップSA4)、タッチパネル15における会議画面51の表示を更新する(ステップSA5)。
【0061】
このように、ユーザ画像変更処理を端末モードで実行する場合、端末装置10は、ユーザ画像変更処理で変化させたユーザ画像を会議サーバ2に送信し、会議サーバ2は、端末装置10から送信されるユーザ画像を含む会議画面51を端末装置10に表示させる。また、ユーザ画像変更処理をサーバモードで実行する場合、端末装置10は、車両1で撮影された画像のデータ、及び、車両1で検出された音声のデータのうち少なくともいずれかを含む検出データを会議サーバ2に送信し、会議サーバ2は、端末装置10から送信される検出データを用いてユーザ画像変更処理を実行し、ユーザ画像変更処理で変化させたユーザ画像を含む会議画面51を端末装置10に表示させる。
【0062】
続いて、調整処理部104が実行する調整処理を説明する。
図5は、処理条件データ126の構成例を示す図である。処理条件データ126は、調整処理において調整処理部104が参照するデータであり、通信の状態、プロセッサ100の負荷、及び、ユーザ画像変更処理がサーバモードであるか端末モードであるかに対応付けて、ユーザ画像変更処理の条件を定めるデータである。処理条件データ126は、例えば、設定情報124に含まれてメモリ120に記憶される。
【0063】
図3及び
図4に示したように、ユーザ画像変更処理では、カメラ18の撮影画像データ及びマイク17の音声データの送受信、または、端末装置10が変更したユーザU1のユーザ画像の送受信が発生する。また、会議サーバ2が生成する会議画面51のデータを通信装置13が受信する処理も発生する。車両1は走行する移動体であるから、通信装置13と会議サーバ2との間の通信の状態は、常に良好とは限らない。端末装置10と会議サーバ2との間の通信の状態が良好でない場合には、通信の遅延により、会議画面51におけるユーザ画像の変化のタイミングが遅れたり、会議画面51の乱れを生じたりするなど、会議画面51を適切に維持することが難しくなる。また、プロセッサ100は、上述したように、会議アプリ122以外のアプリケーションプログラムを実行する。このため、電子会議にユーザU1が参加している間に、プロセッサ100の負荷が高負荷となり、電子会議の音声の出力や会議画面51の表示が乱れる可能性がある。また、ユーザ画像変更処理によってプロセッサ100の負荷が高まると、プロセッサ100が過負荷となり、会議アプリ122以外のアプリケーションプログラムの実行に影響を及ぼす可能性がある。
【0064】
そこで、調整処理部104が、処理条件データ126に示すように調整処理を実行して、ユーザ画像変更処理の条件を決定する。これにより、電子会議システム1000は、通信の遅延に起因する会議画面51の表示の乱れ、及び、プロセッサ100の過負荷を防止する。
【0065】
処理条件データ126は、上り方向の通信の状態と、下り方向の通信の状態とのそれぞれを区別して、ユーザ画像変更処理の条件を定める。
図5において、「○」は通信状態が良好であることを示し、「×」は通信状態が良好でないことを示す。また、
図5において、「LOW」はプロセッサ100の負荷が低負荷であることを示し、「HIGH」はプロセッサ100の負荷が高負荷であることを示す。
図5において、動作モードはユーザ画像変更処理のモードを指し、「サーバ」はサーバモードを実行中の場合を示し、「端末」は端末モードを実行中の場合を示す。
【0066】
調整処理部104は、処理条件データ126に従ってユーザ画像変更処理の条件を決定する。例えば、上りの通信状態と下りの通信状態とが良好である場合の端末モードの条件は、No.2及びNo.4に示すように、プロセッサ100の負荷が低負荷である場合は、ユーザ画像変更処理において画像処理部102が撮影画像を解析することに決定され、プロセッサ100の負荷が高負荷である場合は音声を解析することに決定される。言い換えれば、
図5のNo.4は、端末モードを実行する場合であって、プロセッサ100の負荷が高負荷であると判定した場合は、通信の状態が良好であっても、ユーザ画像変更処理で音声のデータを用いることを示す。ユーザ画像変更処理で音声のデータを用いることは、撮影画像データを用いないことを意味する。
【0067】
つまり、プロセッサ100の負荷が低負荷であれば、画像処理部102は、カメラ18の撮影画像データを利用して、ユーザU1の状態の判定とユーザ画像の変更を行う。プロセッサ100の負荷が高負荷である場合、画像処理部102は、マイク17が集音した音声のデータを利用してユーザU1の状態の判定とユーザ画像の変更を行う。画像処理部102が音声データを処理する場合、撮影画像データを処理する場合に比べ、処理するデータ量が小さいことから、ユーザU1の状態を判定するための演算量が小さい。このため、プロセッサ100が高負荷の状態であっても、ユーザ画像変更処理の遅延等を発生させることがなく、会議画面51の乱れや遅延を防止し、会議画面51を適切な状態で表示できる。
【0068】
また、例えば、上りの通信状態と下りの通信状態とが良好である場合、
図5のNo.1及びNo.3に示すように、サーバモードの条件は、プロセッサ100の負荷が低負荷であっても高負荷であっても、画像処理部202が撮影画像を解析することに決定される。この場合、画像処理部202は、端末装置10が送信する撮影画像データを利用して、ユーザU1の状態の判定とユーザ画像の変更を行う。サーバモードでは、ユーザ画像変更処理を会議サーバ2が実行するため、プロセッサ100の負荷が高負荷であっても撮影画像データを問題なく処理できる。
【0069】
また、例えば、No.6及びNo.8に示すように、端末モードを実行する場合であって、上り方向の通信の状態が良好でない場合、プロセッサ100の負荷に関わらず、ユーザ画像変更処理を行わない。端末装置10は、画像処理部102によるユーザU1のユーザ画像を変更する処理を行わず、会議サーバ2にユーザ画像を送信しない。また、会議画面51において自装置画像513に、ユーザ画像の代わりに、予めメモリ120に記憶したアイコンやその他の静止画像を表示する。これにより、端末装置10から会議サーバ2へ送信するデータの容量が低減される。このため、ユーザ画像を用いて会議サーバ2が会議画面51のデータを生成する処理の遅延を防止できる。また、端末装置10が電子会議とは異なる機能に基づき通信装置13による通信を行う場合に、その通信の帯域を阻害しないという利点がある。
【0070】
また、例えば、No.5及びNo.7に示すように、サーバモードを実行する場合であって、会議サーバ2から端末装置10への上り方向の通信の状態が良好でないと判定した場合に、ユーザ画像変更処理で音声のデータを解析することを決定する。この場合、さらに、調整処理部104は、会議サーバ2から端末装置10に撮影画像データを送信しないことを決定してもよい。この場合、会議サーバ2から端末装置10へ大容量の画像データを送信せずに画像処理部202がユーザ画像変更処理を実行できる。
【0071】
No.9-No.12で、調整処理部104は、会議サーバ2が送信する会議画面51のデータを用いずに、会議画面51を表示することを決定する。No.9-No.12では、上り方向の通信の状態が良好であり、下り方向の通信の状態が良好でない。この場合に、端末装置10は、会議サーバ2が送信する会議画面51のデータを利用しない。具体的には、会議クライアント101は、会議画面51を表示せずに、ユーザU1を音声のみで電子会議に参加させる。また、会議クライアント101は、ユーザ画像を含まない会議画面51を表示してもよい。具体的には、会議クライアント101は、第1ユーザ画像511、第2ユーザ画像512、及び、自装置画像513に、予めメモリ120に記憶したアイコンやその他の静止画像を配置した会議画面51を生成し、表示する。これにより、端末装置10は、会議サーバ2が送信する会議画面51のデータを待たずに、会議画面51を表示できる。このため、会議サーバ2から端末装置10への通信の状態が良好でなくても、会議画面51の表示の乱れ等を防止できる。
【0072】
さらに、No.9-No.12で、調整処理部104は、会議サーバ2及び端末装置10におけるユーザ画像変更処理を実行することを決定してもよい。例えば、ユーザ画像変更処理の条件として、サーバモードでは撮影画像データを用い、端末モードでは、プロセッサ100の負荷に応じて撮影画像データの利用と音声データの利用とを切り替える。つまり、電子会議システム1000は、ユーザU1のユーザ画像を変更するユーザ画像変更処理を行うが、端末装置10においてはユーザU1のユーザ画像を使用しない。これにより、上り方向の通信の状態が良好であることから、端末装置10以外の端末装置4、5では会議画面51を通常通り表示できる。
【0073】
また、例えば、No.13-No.16で、調整処理部104は、ユーザ画像変更処理を実行しないことを決定する。これらのケースでは上り方向の通信及び下り方向の通信のいずれも状態が良好でないことから、端末装置10を用いて電子会議を安定的に実行することが難しい。このため、調整処理部104は、ユーザ画像変更処理を行わないことで、プロセッサ100、200のリソースの利用を効率化できる。
【0074】
図6は、端末装置10の動作例を示すフローチャートであり、調整処理を示す。ステップSA21-SA28は、調整処理部104により実行される。
端末装置10は、ユーザ画像変更処理のモードがサーバモードであるか端末モードであるかを判定する(ステップSA21)。端末装置10は、端末装置10と会議サーバ2との間における上り方向の通信の状態を判定し(ステップSA22)、下り方向の通信の状態を判定する(ステップSA23)。端末装置10は、プロセッサ100の負荷を判定する(ステップSA24)。
【0075】
端末装置10は、ステップSA21-SA24の判定結果に基づいて、処理条件データ126を参照することにより、ユーザ画像変更処理の条件を決定する(ステップSA25)。ステップSA25で、端末装置10は、ユーザ画像変更処理を行わないことを含む決定を行う。
【0076】
端末装置10は、ステップSA25で決定した条件を、ユーザ画像変更処理に反映させる(ステップSA26)。すなわち、ユーザ画像変更処理のうち端末装置10が実行するステップSA3-SA4、SA11-SA14の内容を、ステップSA25で決定した条件に合わせて変更する。さらに、端末装置10は、ステップSA25で決定した条件を会議サーバ2に通知し、ユーザ画像変更処理に反映させる(ステップSA27)。すなわち、ユーザ画像変更処理のうち会議サーバ2が実行するステップSB2-SB5、SB11-SB13の内容を、ステップSA25で決定した条件に合わせて変更するよう通知する。
【0077】
調整処理部104は、電子会議が終了するか否かを判定し(ステップSA28)、終了しない場合は(ステップSA28;NO)、ステップSA21に戻る。また、電子会議が終了する場合は(ステップSA28;YES)、本処理を終了する。
【0078】
[5.他の実施形態]
上述した実施形態は、あくまでも一態様を示すものであり任意に変形及び応用が可能である。
【0079】
上記実施形態では、調整処理部104が調整処理において処理条件データ126を参照する動作を説明したが、これは一例である。例えば、処理条件データ126と同様の判定が行われるように構成したアルゴリズムを調整処理において実行し、処理条件データ126を利用しなくてもよい。
【0080】
上記実施形態では、調整処理を端末装置10の調整処理部104が実行する場合を説明したが、これは一例である。例えば、調整処理を、端末装置10と会議サーバ2とが協働して実行してもよい。例えば、通信の状態の判定及びプロセッサ100の負荷の判定を端末装置10が実行し、判定結果に基づきユーザ画像変更処理の条件を決定する処理を会議サーバ2が実行してもよい。
【0081】
また、端末装置10は、車両1に固定された装置でなくてもよく、携帯可能な装置であって車両1に一時的に設置される装置であってもよい。例えば、端末装置10は、スマートフォン、タブレット型コンピュータ、その他の形態のパーソナルコンピュータ、カーナビゲーション装置、または、ディスプレイオーディオ装置であってもよい。
【0082】
プロセッサ100及びプロセッサ200は、単一のプロセッサにより構成されてもよいし、複数のプロセッサにより構成されていてもよい。プロセッサ100及びプロセッサ200は、対応する機能部を実現するようプログラムされたハードウェアでもよい。すなわち、プロセッサ100及びプロセッサ200は、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)で構成されてもよい。
【0083】
また、
図2に示した電子会議システム1000の各部の構成は一例であって、具体的な実装形態は特に限定されない。つまり、必ずしも各部に個別に対応するハードウェアが実装される必要はなく、一つのプロセッサがプログラムを実行することで各部の機能を実現する構成とすることも勿論可能である。また、上述した実施形態においてソフトウェアで実現される機能の一部をハードウェアとしてもよく、或いは、ハードウェアで実現される機能の一部をソフトウェアで実現してもよい。
【0084】
また、
図3、
図4、及び
図6に示す動作のステップ単位は、動作の理解を容易にするために、主な処理内容に応じて分割したものであり、処理単位の分割の仕方や名称によって、本発明が限定されることはない。処理内容に応じて、さらに多くのステップ単位に分割してもよい。また、1つのステップ単位がさらに多くの処理を含むように分割してもよい。また、そのステップの順番は、本発明の趣旨に支障のない範囲で適宜に入れ替えてもよい。
【0085】
また、上述した電子会議システム1000の制御方法を、プロセッサ100を用いて実現する場合、プロセッサ100に実行させるプログラムを非一時的な記録媒体、又はこのプログラムを伝送する伝送媒体の態様で構成することも可能である。すなわち、会議アプリ122は、可搬型の情報記録媒体に会議アプリ122を記録した状態で実現することも可能である。情報記録媒体は、ハードディスク等の磁気的記録媒体、CD等の光学的記録媒体、USB(Universal Serial Bus)メモリやSSD(Solid State Drive)等の半導体記憶デバイスが挙げられるが、その他の記録媒体を用いることも可能である。
【0086】
[6.上記実施形態によりサポートされる構成]
上記実施形態は、以下の構成をサポートする。
【0087】
(構成1)サーバと、前記サーバと通信する端末装置と、を備え、前記サーバは、電子会議に参加する複数のユーザのそれぞれに対応する表示オブジェクトを含む電子会議画面を、前記端末装置に表示させ、前記端末装置は、移動体に搭乗する前記ユーザを前記電子会議に参加させる電子会議プログラムを含む、複数のアプリケーションプログラムを実行するプロセッサを備え、前記移動体で撮影された画像のデータ、及び、前記移動体で検出された音声のデータのうち少なくともいずれかを用いて前記ユーザの状態を解析し、解析結果に基づいて前記表示オブジェクトを変化させるオブジェクト変更処理と、前記端末装置が備える前記プロセッサの負荷の判定、及び、前記サーバと前記端末装置との通信の状態の判定を実行し、これらの判定結果に応じて前記オブジェクト変更処理に用いるデータの選択または前記オブジェクト変更処理の実行の可否の決定を行う調整処理と、を実行する、電子会議システム。
構成1の電子会議システムによれば、端末装置のプロセッサの負荷や通信の状態に対応して、表示オブジェクトを変化させる処理を調整できる。このため、通信状態が不安定になり易い移動体からユーザが電子会議に参加する場合に、通信状態に起因する表示の乱れ等を防止できる。また、端末装置のプロセッサが過負荷になることを防止し、ユーザが端末装置の機能を快適に利用できる等の種々の効果が得られる。これにより、移動体に搭乗するユーザが使用する端末装置において、会議に関する画面の表示を適切な状態に維持できる。
【0088】
(構成2)前記オブジェクト変更処理を前記端末装置により実行する端末モードと、前記オブジェクト変更処理を前記サーバにより実行するサーバモードと、を実行可能であり、前記端末モードを実行する場合、前記端末装置は、前記オブジェクト変更処理で変化させた前記表示オブジェクトを前記サーバに送信し、前記サーバは、前記端末装置から送信される前記表示オブジェクトを含む前記電子会議画面を前記端末装置に表示させ、前記サーバモードを実行する場合、前記端末装置は、前記移動体で撮影された画像のデータ、及び、前記移動体で検出された音声のデータのうち少なくともいずれかを含む検出データを前記サーバに送信し、前記サーバは、前記端末装置から送信される前記検出データを用いて前記オブジェクト変更処理を実行し、前記オブジェクト変更処理で変化させた前記表示オブジェクトを含む前記電子会議画面を前記端末装置に表示させる、構成1に記載の電子会議システム。
構成2の電子会議システムによれば、オブジェクト変更処理を端末装置が実行する場合と、サーバが実行する場合とのそれぞれに対応して、表示オブジェクトを変化させる処理を調整できる。このため、移動体に搭乗するユーザが使用する端末装置において、会議に関する画面の表示を適切な状態に維持できる。
【0089】
(構成3)前記調整処理によって、前記端末モード及び前記サーバモードのどちらを実行しているかに応じて、前記オブジェクト変更処理に用いるデータの選択または前記オブジェクト変更処理の実行の可否の決定を行う、構成2に記載の電子会議システム。
構成3の電子会議システムによれば、オブジェクト変更処理を端末装置が実行する場合と、サーバが実行する場合とのそれぞれに対応して、オブジェクト変更処理を行わないことを含む調整を実施できる。このため、移動体に搭乗するユーザに電子会議を快適に利用させることができる。
【0090】
(構成4)前記調整処理によって、前記サーバモードを実行する場合であって前記サーバと前記端末装置との通信の状態が良好であると判定した場合は、前記プロセッサの負荷の判定結果に関わらず、前記オブジェクト変更処理によって前記画像のデータを用いて前記ユーザの状態を解析することを決定する、構成3に記載の電子会議システム。
構成4の電子会議システムによれば、サーバと端末装置との通信の状態が良好である場合に、画像のデータを利用することによって、ユーザの状態をより詳細に反映するオブジェクト変更処理を実行できる。
【0091】
(構成5)前記調整処理によって、前記端末モードを実行する場合であって前記プロセッサの負荷が高負荷であると判定した場合は、前記サーバと前記端末装置との通信の状態の判定結果が良好であっても、前記オブジェクト変更処理によって前記音声のデータを用いて前記ユーザの状態を解析することを決定する、構成3に記載の電子会議システム。
構成5の電子会議システムによれば、オブジェクト変更処理において音声のデータを利用することによって、端末装置のプロセッサの過負荷を防止でき、移動体に搭乗するユーザが端末装置の機能を快適に利用できる。
【0092】
(構成6)前記調整処理によって、前記サーバと前記端末装置との通信の状態として、前記端末装置から前記サーバにデータを送信する方向における通信の状態を判定し、前記サーバモードを実行する場合であって、前記サーバと前記端末装置との通信の状態が良好でないと判定した場合に、前記オブジェクト変更処理によって前記音声のデータを用いて前記ユーザの状態を解析することを決定する、構成3に記載の電子会議システム。
構成6の電子会議システムによれば、端末装置からサーバにデータを送信する方向における通信の状態が良好でない場合に、通信の遅延に起因する表示の乱れ等を防止し、移動体に搭乗するユーザに電子会議を快適に利用させることができる。
【0093】
(構成7)前記調整処理によって、前記サーバと前記端末装置との通信の状態として、前記端末装置から前記サーバにデータを送信する方向における通信の状態を判定し、前記端末モードを実行する場合であって、前記サーバと前記端末装置との通信の状態が良好でないと判定した場合に、前記オブジェクト変更処理を実行しないことを決定する、構成3に記載の電子会議システム。
構成7の電子会議システムによれば、端末装置からサーバにデータを送信する方向における通信の状態が良好でない場合に、オブジェクト変更処理を実行させないことによって、電子会議に関する表示を安定させ、さらに、端末装置のプロセッサの負荷を軽減し、プロセッサのリソースを効率よく利用できる。
【0094】
(構成8)前記調整処理によって、前記サーバと前記端末装置との通信の状態として、前記端末装置から前記サーバにデータを送信する第1方向における通信の状態、及び、前記サーバから前記端末装置にデータを送信する第2方向における通信の状態をそれぞれ判定し、前記端末装置は、前記サーバモードまたは前記端末モードを実行する場合であって、前記第1方向の通信の状態が良好であると判定し、かつ、前記第2方向の通信の状態が良好でないと判定した場合に、前記電子会議画面に前記表示オブジェクトを表示しない、構成3に記載の電子会議システム。
構成8の電子会議システムによれば、第1方向と第2方向の通信の状態に対応して、サーバがデータを利用できる状態を維持しながら、通信の遅延に起因する表示の乱れ等を防止し、移動体に搭乗するユーザに電子会議を快適に利用させることができる。
【0095】
(構成9)前記オブジェクト変更処理は、前記移動体で撮影された画像のデータ、及び、前記移動体で検出された音声のデータのうち少なくともいずれかを解析することにより、前記ユーザの感情を推定し、推定した前記ユーザの感情に応じて前記表示オブジェクトを変化させる処理である、構成1から構成8のいずれか1項に記載の電子会議システム。
構成9の電子会議システムによれば、ユーザの感情を表示オブジェクトに反映させることにより、より臨場感に富む電子会議を実現できる。
【0096】
(構成10)サーバと、前記サーバと通信する端末装置と、を備える電子会議システムにおいて、前記サーバによって、電子会議に参加する複数のユーザのそれぞれに対応する表示オブジェクトを含む電子会議画面を、前記端末装置に表示させ、前記端末装置によって、プロセッサにより、移動体に搭乗する前記ユーザを前記電子会議に参加させる電子会議プログラムを含む、複数のアプリケーションプログラムを実行し、前記移動体で撮影された画像のデータ、及び、前記移動体で検出された音声のデータのうち少なくともいずれかを用いて前記ユーザの状態を解析し、解析結果に基づいて前記表示オブジェクトを変化させるオブジェクト変更処理と、前記端末装置が備える前記プロセッサの負荷の判定、及び、前記サーバと前記端末装置との通信の状態の判定を実行し、これらの判定結果に応じて前記オブジェクト変更処理に用いるデータの選択または前記オブジェクト変更処理の実行の可否の決定を行う調整処理と、を実行する、電子会議システムの制御方法。
構成10の電子会議システムの制御方法によれば、端末装置のプロセッサの負荷や通信の状態に対応して、表示オブジェクトを変化させる処理を調整できる。このため、移動体に搭乗するユーザが使用する端末装置において、会議に関する画面の表示を適切な状態に維持できる。
【0097】
(構成11)サーバと、前記サーバと通信する端末装置と、を備え、前記サーバは、電子会議に参加する複数のユーザのそれぞれに対応する表示オブジェクトを含む電子会議画面を、前記端末装置に表示させ、前記端末装置が、移動体に搭乗する前記ユーザを前記電子会議に参加させる電子会議プログラムを含む、複数のアプリケーションプログラムを実行するプロセッサを備える構成とした電子会議システムが構成される場合に、前記プロセッサに、前記移動体で撮影された画像のデータ、及び、前記移動体で検出された音声のデータのうち少なくともいずれかを用いて前記ユーザの状態を解析し、解析結果に基づいて前記表示オブジェクトを変化させるオブジェクト変更処理と、前記端末装置が備える前記プロセッサの負荷の判定、及び、前記サーバと前記端末装置との通信の状態の判定を実行し、これらの判定結果に応じて前記オブジェクト変更処理に用いるデータの選択または前記オブジェクト変更処理の実行の可否の決定を行う調整処理と、を実行させる、プログラム。
構成11のプログラムを実行することにより、端末装置のプロセッサの負荷や通信の状態に対応して、表示オブジェクトを変化させる処理を調整できる。このため、移動体に搭乗するユーザが使用する端末装置において、会議に関する画面の表示を適切な状態に維持できる。
【符号の説明】
【0098】
1…車両(移動体)、2…会議サーバ(サーバ)、4、5…端末装置、10…端末装置、13…通信装置、14…GNSS、15…タッチパネル、16…スピーカ、17…マイク、18…カメラ、51…会議画面、100…プロセッサ、101…会議クライアント、102…画像処理部、103…感情推定部、104…調整処理部、105…AV処理部、120…メモリ、121…制御プログラム、122…会議アプリ、123…AV処理アプリ、124…設定情報、125…会議情報、126…処理条件データ、200…プロセッサ、201…会議処理部、202…画像処理部、203…感情推定部、220…メモリ、221…制御プログラム、511…第1ユーザ画像(表示オブジェクト)、512…第2ユーザ画像(表示オブジェクト)、513…自装置画像(表示オブジェクト)、514…参加者表示部、1000…電子会議システム、NW…通信ネットワーク、U、U1、U2、U3…ユーザ。