(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-05-24
(54)【発明の名称】AV会議実現方法、AV会議システム及びコンピュータプログラム
(51)【国際特許分類】
H04N 7/15 20060101AFI20240517BHJP
【FI】
H04N7/15
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2023571700
(86)(22)【出願日】2022-06-17
(85)【翻訳文提出日】2023-11-17
(86)【国際出願番号】 CN2022099302
(87)【国際公開番号】W WO2023005487
(87)【国際公開日】2023-02-02
(31)【優先権主張番号】202110875339.6
(32)【優先日】2021-07-30
(33)【優先権主張国・地域又は機関】CN
(81)【指定国・地域】
(71)【出願人】
【識別番号】517392436
【氏名又は名称】▲騰▼▲訊▼科技(深▲セン▼)有限公司
【氏名又は名称原語表記】TENCENT TECHNOLOGY (SHENZHEN) COMPANY LIMITED
【住所又は居所原語表記】35/F,Tencent Building,Kejizhongyi Road,Midwest District of Hi-tech Park,Nanshan District, Shenzhen,Guangdong 518057,CHINA
(74)【代理人】
【識別番号】100110364
【氏名又は名称】実広 信哉
(74)【代理人】
【識別番号】100150197
【氏名又は名称】松尾 直樹
(72)【発明者】
【氏名】薛 笛
【テーマコード(参考)】
5C164
【Fターム(参考)】
5C164FA10
5C164GA01
5C164VA13P
(57)【要約】
本出願はAV会議実現方法、AV会議システム及び関連装置を開示し、本出願は複数のデバイス群に関し、それぞれのデバイス群には複数のインタフェース機が含まれ、それぞれのインタフェース機は、会議アクセス端末がインタフェース機を介して会議ルームにアクセスするように、会議アクセス端末を接続する。会議アクセス端末を異なるインタフェース機に分散し、複数のインタフェース機により負荷を分担し、大規模な会議の支持を実現する。各デバイス群にバックソースデバイスがあり、第2のインタフェース機を介して会議ルームにアクセスされてメディアデータストリームが発生され、それぞれのデバイス群、例えば第1のデバイス群におけるバックソースデバイスは第1のデバイス群における第1のインタフェース機のプルストリーム要求を受信した後、第1の識別情報に対応するメディアデータストリームを第1のインタフェース機に転送し、第1のインタフェース機はメディアデータストリームを対応する会議アクセス端末に転送する。バックソースデバイスによりデータ配信圧力を分担するため、超大規模な会議の支持を容易にし、同時にマイクやビデオを開くことができ、リダイレクトする必要がなく、体験が順調である。
【特許請求の範囲】
【請求項1】
AV会議実現方法であって、
第1のデバイス群におけるバックソースデバイスが、前記第1のデバイス群における第1のインタフェース機のプルストリーム要求を受信するステップであって、前記プルストリーム要求にはメディアデータストリームの第1の識別情報が含まれ、前記第1のデバイス群が複数のデバイス群のうちのいずれか1つであり、前記複数デバイス群のうちの各デバイス群にバックソースデバイスがあり、各デバイス群に複数のインタフェース機が含まれ、前記複数のインタフェース機のそれぞれは、会議アクセス端末がインタフェース機を介して会議ルームにアクセスするように、会議アクセス端末を接続するために用いられ、前記第1のインタフェース機は前記第1のデバイス群におけるいずれか1つのインタフェース機である、ステップと、
前記第1のデバイス群におけるバックソースデバイスは、前記第1のインタフェース機が前記メディアデータストリームを対応する会議アクセス端末に転送するように、前記第1の識別情報に対応する前記メディアデータストリームを前記第1のインタフェース機に転送するステップであって、前記メディアデータストリームは、前記第1のデバイス群におけるバックソースデバイスによって第2のデバイス群における第2のインタフェース機から取得されたものであり、前記メディアデータストリームを発生させる会議アクセス端末は、前記第2のインタフェース機により前記会議ルームにアクセスされるステップであって、前記第2のデバイス群は前記複数のデバイス群のうちのいずれか1つである、ステップと、を含む、AV会議実現方法。
【請求項2】
前記第1のデバイス群におけるバックソースデバイスは前記第1の識別情報に対応する前記メディアデータストリームを前記第1のインタフェース機に転送するステップは、
前記第1の識別情報に応じて、対応する前記第2のインタフェース機のメディアデータストリームを検索するステップと、
前記第2のインタフェース機のメディアデータストリームを検索して見つからないと、前記第2のインタフェース機に前記プルストリーム要求を転送するステップと、
前記第2のインタフェース機によって前記プルストリーム要求における第1の識別情報に応じて転送された前記メディアデータストリームを受信し、前記メディアデータストリームを前記第1のインタフェース機に転送するステップと、を含む、請求項1に記載の方法。
【請求項3】
対応する前記第2のインタフェース機のメディアデータストリームを検索して見つかると、前記メディアデータストリームを前記第1のインタフェース機に転送するステップをさらに含む、請求項2に記載の方法。
【請求項4】
前記第1のデバイス群と前記第2のデバイス群とが異なるローカルエリアネットワークにある場合、前記第2のインタフェース機に前記プルストリーム要求を転送するステップは、
中継エージェントデバイスを介して前記第2のインタフェース機に前記プルストリーム要求を転送するステップを含み、
前記第2のインタフェース機によって前記プルストリーム要求における第1の識別情報に応じて転送された前記メディアデータストリームを受信するステップは、前記中継エージェントデバイスを介して、前記第2のインタフェース機から転送された前記メディアデータストリームを受信するステップを含む、請求項2に記載の方法。
【請求項5】
前記第1のデバイス群におけるバックソースデバイスは、前記第1のインタフェース機により予め設定されたルールに従って特定されて得られたものであり、前記予め設定されたルールは、同一メディアデータストリームが、同一バックソースデバイスを介して、その所属しているデバイス群におけるインタフェース機にルーティングされるようなものである、請求項1~4のいずれか1項に記載の方法。
【請求項6】
第3のデバイス群における第3のインタフェース機が前記会議ルームに入ることを要求すると、前記第3のデバイス群における群内サーバーは、前記第3のインタフェース機から送信された登録要求を受信するステップであって、前記第3のデバイス群は前記複数のデバイス群のうちのいずれか1つであり、前記第3のインタフェース機は前記第3のデバイス群におけるいずれか1つのインタフェース機である、ステップと、
ローカルで前記会議ルームの情報を検索して見つからないと、前記第3のデバイス群における群内サーバーは、センターサーバーが前記第3のデバイス群における群内サーバーの第2の識別情報を第1の会議登録リストに記録し、前記第3のデバイス群における群内サーバーに登録成功情報を返送するように、前記センターサーバーに前記登録要求を送信するステップと、
前記第3のデバイス群における群内サーバーは、前記第3のインタフェース機の第3の識別情報を第2の会議登録リストに記録し、前記第3のインタフェース機に前記登録成功情報を返送するステップと、をさらに含む、請求項1~4のいずれか1項に記載の方法。
【請求項7】
ローカルで前記会議ルームの情報を検索して見つかると、前記第3のデバイス群における群内サーバーは、前記第3のインタフェース機の第3の識別情報を前記第2の会議登録リストに記録し、前記第3のインタフェース機に前記登録成功情報を返送するステップをさらに含む、請求項6に記載の方法。
【請求項8】
第3のデバイス群における第3のインタフェース機に接続される会議アクセス端末が状態変更されると、前記第3のデバイス群における群内サーバーが前記第3のインタフェース機から送信された通知メッセージを受信するステップと、
前記第3のデバイス群における群内サーバーは、前記センターサーバーが前記通知メッセージをそれぞれのデバイス群の群内サーバーに送信するように、前記通知メッセージを前記センターサーバーに送信するステップであって、各デバイス群の群内サーバーは、前記通知メッセージを登録成功されたインタフェース機に送信するために用いられる、ステップと、をさらに含む、請求項6に記載の方法。
【請求項9】
第3のデバイス群における第3のインタフェース機が参加リストのプルを要求すると、前記第3のデバイス群における群内サーバーが前記第3のインタフェース機のリストプル要求を受信するステップと、
ローカルで前記参加リストを検索して見つからない場合、前記第3のデバイス群における群内サーバーが、前記センターサーバーに前記リストプル要求を送信するステップと、
前記第3のデバイス群における群内サーバーが前記センターサーバーから送信された前記参加リストを受信し、前記参加リストを前記第3のインタフェース機に送信するステップと、さらに含む、請求項6に記載の方法。
【請求項10】
前記第3のデバイス群における群内サーバーは、ローカルで前記参加リストを検索して見つかり、且つ前記参加リストの有効期限が切れない場合、前記参加リストを前記第3のインタフェース機に返送するステップ、をさらに含む、請求項6に記載の方法。
【請求項11】
メディアデータストリームにオーディオデータストリームが含まれる場合、ミキシングエンジンにおけるセレクタを介して、取得されたマルチオーディオデータストリームを同一デバイス群にあるミキサーに送信するステップであって、前記マルチオーディオデータストリームのそれぞれは、異なるデバイス群における第4のインタフェース機からのものである、ステップと、
ミキサーにより前記マルチオーディオデータストリームのうちから目標オーディオデータストリームを選択し、目標インタフェース機に当選の通知を送信するステップであって、前記目標インタフェース機は前記目標オーディオデータストリームを発生させる会議アクセス端末に接続されるインタフェース機である、ステップと、
前記ミキサーを介して前記目標インタフェース機によって送信される目標オーディオデータストリームを受信し、前記目標オーディオデータストリームをミキシングするステップと、
ミキシングされたオーディオデータストリームを前記第4のインタフェース機に対応するセレクタに転送するステップであって、前記第4のインタフェース機は前記目標インタフェース機を含む、ステップと、
前記第4のインタフェース機がその所属しているデバイス群における他のインタフェース機に前記ミキシングされたオーディオデータストリームを転送するように、前記第4のインタフェース機に対応するセレクタにより、ミキシングされたオーディオデータストリームを前記第4のインタフェース機に送信するステップと、を含む、請求項1~4のいずれか1項に記載の方法。
【請求項12】
ロボット端末により前記会議ルームで生成されたメディアデータストリームをプルし、前記メディアデータストリームを処理するステップをさらに含む、請求項1~4のいずれか1項に記載の方法。
【請求項13】
AV会議実現装置であって、
第1のデバイス群における第1のインタフェース機のプルストリーム要求を受信するために用いられる受信ユニットであって、前記プルストリーム要求にメディアデータストリームの第1の識別情報が含まれ、前記第1のデバイス群が複数デバイス群のうちのいずれか1つであり、前記複数のデバイス群のうちの各デバイス群にバックソースデバイスがあり、各デバイス群に複数のインタフェース機が含まれ、前記複数のインタフェース機のそれぞれは、会議アクセス端末がインタフェース機を介して会議ルームにアクセスするように、会議アクセス端末を接続するために用いられ、前記第1のインタフェース機は前記第1のデバイス群のうちのいずれか1つである、受信ユニットと、
前記第1のインタフェース機が前記メディアデータストリームを対応する会議アクセス端末に転送するように、前記第1の識別情報に対応する前記メディアデータストリームを前記第1のインタフェース機に転送するために用いられる転送ユニットであって、前記メディアデータストリームは前記第1のデバイス群におけるバックソースデバイスによって第2のデバイス群における第2のインタフェース機から取得されたものであり、前記メディアデータストリームを発生させる会議アクセス端末は、前記第2のインタフェース機により前記会議ルームにアクセスされ、前記第2のデバイス群が前記複数のデバイス群のうちのいずれか1つである、転送ユニットと、を含む、AV会議実現装置。
【請求項14】
AV会議システムであって、
前記AV会議システムはデータ伝送ネットワークとルーム管理サブシステムを含み、
前記データ伝送ネットワークは会議ルームで生成されたメディアデータストリームを伝送するために用いられ、前記データ伝送ネットワークは複数のデバイス群を含み、それぞれのデバイス群は複数のインタフェース機を含み、
前記複数のインタフェース機のそれぞれは、前記会議アクセス端末がインタフェース機を介して前記会議ルームにアクセスするように、会議アクセス端末を接続するために用いられ、
前記複数のデバイス群のうちの各デバイス群にバックソースデバイスがあり、第1のデバイス群におけるバックソースデバイスは、前記第1のデバイス群における第1のインタフェース機のプルストリーム要求を受信し、前記プルストリーム要求にはメディアデータストリームの第1の識別情報が含まれ、前記第1の識別情報に対応する前記メディアデータストリームを前記第1のインタフェース機に転送するために用いられ、前記メディアデータストリームは、前記第1のデバイス群におけるバックソースデバイスによって第2のデバイス群における第2のインタフェース機から取得されたものであり、前記メディアデータストリームを発生させる会議アクセス端末は、前記第2のインタフェース機により前記会議ルームにアクセスされ、前記第1のデバイス群と前記第2のデバイス群は、それぞれ前記複数のデバイス群のうちのいずれか1つであり、
前記第1のインタフェース機は前記第1のデバイス群におけるいずれか1つのインタフェース機であり、前記第1のインタフェース機は、前記メディアデータストリームを対応する会議アクセス端末に転送するために用いられ、
前記ルーム管理サブシステムは、前記複数のデバイス群とセンターサーバーを含み、それぞれのデバイス群に群内サーバーが含まれ、前記群内サーバーは、前記センターサーバーが前記会議ルームを管理することを補助するために用いられる、AV会議システム。
【請求項15】
AV会議実現のための電子デバイスであって、
前記電子デバイスはプロセッサ及びメモリを含み、
前記メモリは、プログラムコードを記憶し、前記プログラムコードを前記プロセッサに伝送するために用いられ、
前記プロセッサは、前記プログラムコードにおけるコマンドに応じて、請求項1~12のいずれか1項に記載の方法を実行するために用いられる、AV会議実現のための電子デバイス。
【請求項16】
プログラムコードを記憶したコンピュータ読み取り可能な記憶媒体であって、
前記プログラムコードが電子デバイスで実行されるとき、前記電子デバイスに請求項1~12のいずれか1項に記載の方法を実行させる、コンピュータ読み取り可能な記憶媒体。
【請求項17】
コンピュータプログラム製品であって、
前記コンピュータプログラム製品が実行されるとき、電子デバイスに請求項1~12のいずれか1項に記載の方法を実行させる、コンピュータプログラム製品。
【発明の詳細な説明】
【技術分野】
【0001】
本出願は2021年07月30日に中国特許局に提出した、出願番号が202110875339.6であり、発明名称が「AV会議実現方法、AV会議システム及び関連装置」である中国特許出願の優先権を主張し、その全ての内容は援用により本出願に組み込まれる。
【0002】
本出願は、コンピュータ分野に関し、特にAV会議実現方法、AV会議システム及び関連装置に関する。
【背景技術】
【0003】
ネットワーク技術、通信技術とストリームメディア技術の迅速発展、及び人間の仕事、学習の流動性の増加に伴い、企業及び個人のビデオコミュニケーションに対するニーズもますます多く、AV会議システムが登場している。
【0004】
従来のAV会議(音声・ビデオ会議とも呼ばれる)は、選択的転送ユニット(Selective Forwarding Unit:SFU)に基づく会議アーキテクチャを採用することが多く、1つのサーバーと複数端末から構成され、サーバーは、会議ルームのうちある端末によって共有されるAVストリーム(即ちメディアデータストリーム)を受信した後、直接に該AVストリームを該会議ルーム内のその他の端末に転送する。
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、この会議アーキテクチャでは、1つの会議ルームに入る人数が多すぎると、サーバーのデータ配信圧力を大幅に増加するため、この会議アーキテクチャでは、1つの会議の参加人数が限られており、且つ同時にマイクやビデオを開くことができる人数が限られており、一般視聴者が手を挙げ発言しようとするとリダイレクトする必要があり、体験にはあまり順調ではない。
【課題を解決するための手段】
【0006】
上記の技術問題を解決するために、本出願は、第2のインタフェース機などのメディアソースデバイスのデータ配信圧力を大幅に軽減させる、AV会議実現方法、AV会議システム及び関連装置を提供する。したがって、より多くの参加人数を支持でき、さらに数百万人の参加を支持でき、同時にメディアデータストリームの伝送際のデータ配信圧力が大幅に軽減されるため、リダイレクトなしで、全ての参加人員が同時にマイクやビデオを開くことができ、体験が順調である。
【0007】
本出願の実施例は、以下のような技術案を開示する。
【0008】
第1の態様において、本出願の実施例は、AV会議実現方法を提供し、前記方法は、
第1のデバイス群におけるバックソース(back-to-source)デバイスが、前記第1のデバイス群における第1のインタフェース機のプルストリーム要求を受信するステップであって、前記プルストリーム要求にメディアデータストリームの第1の識別情報が含まれ、前記第1のデバイス群が複数のデバイス群のうちのいずれか1つであり、前記複数デバイス群のうちの各デバイス群にバックソースデバイスがあり、各デバイス群に複数のインタフェース機が含まれ、前記複数のインタフェース機のそれぞれのインタフェース機は、会議アクセス端末がインタフェース機を介して会議ルームにアクセスするように、会議アクセス端末を接続するために用いられ、前記第1のインタフェース機は前記第1のデバイス群におけるいずれか1つである、ステップと、
前記第1のデバイス群におけるバックソースデバイスは、前記第1のインタフェース機が前記メディアデータストリームを対応する会議アクセス端末に転送するように、前記第1の識別情報に対応する前記メディアデータストリームを前記第1のインタフェース機に転送するステップであって、前記メディアデータストリームは、前記第1のデバイス群におけるバックソースデバイスによって第2のデバイス群における第2のインタフェース機から取得されたものであり、前記メディアデータストリームを発生させる会議アクセス端末は、前記第2のインタフェース機により前記会議ルームにアクセスされ、前記第2のデバイス群は前記複数のデバイス群のうちのいずれか1つである、ステップと、を含む。
【0009】
第2の態様において、本出願の実施例はAV会議実現装置を提供し、前記装置は、
第1のデバイス群における第1のインタフェース機のプルストリーム要求を受信するために用いられる受信ユニットであって、前記プルストリーム要求にメディアデータストリームの第1の識別情報が含まれ、前記第1のデバイス群が複数デバイス群のうちのいずれか1つであり、前記複数のデバイス群のうちの各デバイス群にバックソースデバイスがあり、各デバイス群に複数のインタフェース機が含まれ、前記複数のインタフェース機のそれぞれは、前記会議アクセス端末がインタフェース機を介して会議ルームにアクセスするように、会議アクセス端末を接続するために用いられ、前記第1のインタフェース機が前記第1のデバイス群のうちのいずれか1つである、受信ユニットと、
前記第1のインタフェース機が前記メディアデータストリームを対応する会議アクセス端末に転送するように、前記第1の識別情報に対応する前記メディアデータストリームを前記第1のインタフェース機に転送するために用いられる転送ユニットであって、前記メディアデータストリームは前記第1のデバイス群におけるバックソースデバイスによって第2のデバイス群における第2のインタフェース機から取得されたものであり、前記メディアデータストリームを発生させる会議アクセス端末は、前記第2のインタフェース機により前記会議ルームにアクセスされ、前記第2のデバイス群が前記複数のデバイス群のうちのいずれか1つのデバイス群である、転送ユニットと、を含む。
【0010】
第3の態様において、本出願の実施例はAV会議システムを提供し、前記システムはデータ伝送ネットワークとルーム管理サブシステムを含み、
前記データ伝送ネットワークは会議ルームで生成されたメディアデータストリームを伝送するために用いられ、前記データ伝送ネットワークは複数のデバイス群を含み、それぞれのデバイス群は複数のインタフェース機を含み、
前記複数のインタフェース機のうちのそれぞれのインタフェース機は、前記会議アクセス端末がインタフェース機を介して前記会議ルームにアクセスするように、会議アクセス端末を接続するために用いられ、
前記複数のデバイス群のうちの各デバイス群にバックソースデバイスがあり、第1のデバイス群におけるバックソースデバイスは、前記第1のデバイス群における第1のインタフェース機のプルストリーム要求を受信し、前記プルストリーム要求にメディアデータストリームの第1の識別情報が含まれ、前記第1の識別情報に対応する前記メディアデータストリームを前記第1のインタフェース機に転送するために用いられ、前記メディアデータストリームは、前記第1のデバイス群におけるバックソースデバイスによって第2のデバイス群における第2のインタフェース機から取得されたものであり、前記メディアデータストリームを発生させる会議アクセス端末は、前記第2のインタフェース機により前記会議ルームにアクセスされ、前記第1のデバイス群と前記第2のデバイス群は、それぞれ前記複数のデバイス群のうちのいずれか1つであり、
前記第1のインタフェース機は前記第1のデバイス群におけるいずれか1つのインタフェース機であり、前記第1のインタフェース機は、前記メディアデータストリームを対応する会議アクセス端末に転送するために用いられ、
前記ルーム管理サブシステムは、前記複数のデバイス群とセンターサーバーを含み、それぞれのデバイス群には群内サーバーが含まれ、前記群内サーバーは、前記センターサーバーが前記会議ルームを管理することを補助するために用いられる。
【0011】
第4の態様において、本出願の実施例は、AV会議実現のための電子デバイスを提供し、前記電子デバイスはプロセッサ及びメモリを含み、
前記メモリは、プログラムコードを記憶し、前記プログラムコードを前記プロセッサに伝送するために用いられ、
前記プロセッサは、前記プログラムコードにおけるコマンドに応じて、第1の態様に記載の方法を実行するために用いられる。
【0012】
第5の態様において、本出願の実施例はコンピュータ読み取り可能な記憶媒体を提供し、前記コンピュータ読み取り可能な記憶媒体はプログラムコードを記憶するために用いられ、プログラムコードが電子デバイスで実行されるとき、電子デバイスに第1の態様に記載の方法を実行させる。
【0013】
第6の態様において、本出願の実施例はコンピュータプログラムを提供し、前記コンピュータプログラムが実行されると、電子デバイスに第1の態様に記載の方法を実行させる。
【0014】
上記技術案によれば、本出願は、複数のデバイス群に関し、それぞれのデバイス群に複数のインタフェース機が含まれ、複数のインタフェース機のそれぞれのインタフェース機は、会議アクセス端末がインタフェース機を介して会議ルームにアクセスするように、会議アクセス端末を接続するために用いられる。複数の会議アクセス端末が1つのサーバーを介して会議ルームにアクセスする関連技術に比べて、複数のインタフェース機は関連技術におけるサーバーと類似する役割を果たし、会議アクセス端末を異なるインタフェース機に分散し、複数のインタフェース機により負荷を分担するため、より多くの会議アクセス端末へのアクセスが容易になり、大規模会議を支持する。複数のデバイス群のうちの各デバイス群にバックソースデバイスがあり、第2のインタフェース機を介して会議ルームにアクセスしてメディアデータストリームが発生(生成)され、それぞれのデバイス群、例えば第1のデバイス群におけるバックソースデバイスは、第1のデバイス群における第1のインタフェース機のプルストリーム要求を受信した後、プルストリーム要求がメディアデータストリームの第1の識別情報を含むので、第1の識別情報に対応するメディアデータストリームを第1のインタフェース機に転送することができ、第1のインタフェース機はメディアデータストリームを対応する会議アクセス端末に転送するために用いられる。このように、それぞれのインタフェース機がいずれも第2のインタフェース機のメディアデータストリームをプルする必要がある時、第2のインタフェース機は個々デバイス群におけるバックソースデバイスのみとインタラクションを行う必要があり、さらに、バックソースデバイスによりメディアソースデバイス、例えば第2のインタフェース機のデータ配信圧力を分担し、その他のインタフェース機とインタラクションを行い、第2のインタフェース機はそれぞれのインタフェース機とインタラクションを行う必要がなく、デバイス、例えば第2のインタフェース機のデータ配信圧力を大幅に軽減させる。したがって、該AV会議実現方法は、より多くの参加人数を支持でき、さらに数百万人の参加を支持でき、同時にメディアデータストリームの伝送際のデータ配信圧力が大幅に軽減されるため、全ての参加人員(即ちユーザー)は、リダイレクトすることなく、同時にマイクやビデオを開くことができ、体験が順調である。
【図面の簡単な説明】
【0015】
【
図1】関連技術が提供するSFUに基づく会議アーキテクチャ図である。
【
図2】関連技術が提供する別のSFUに基づく会議アーキテクチャ図である。
【
図3】関連技術が提供するAV会議システムの構成図である。
【
図4a】本出願の実施例が提供するAV会議実現方法のフローチャートである。
【
図4b】本出願の実施例が提供するデータ伝送ネットワークの構成図である
【
図5】本出願の実施例が提供するAV会議システムに基づいてビデオ会議を行うインタフェース図である。
【
図6】本出願の実施例が提供するルーム管理サブシステムの構成図である。
【
図7】本出願の実施例が提供するミキシングエンジンに基づくオーディオ処理アーキテクチャ図である。
【
図8】本出願の実施例が提供する第三者会議デバイスに対接するアーキテクチャ図である。
【
図9】本出願の実施例が提供する別のオーディオ処理アーキテクチャ図である。
【
図10】本出願の実施例が提供するAV会議実現装置の構成図である。
【
図11】本出願の実施例が提供する端末の構成図である。
【
図12】本出願の実施例が提供するサーバーの構成図である。
【発明を実施するための形態】
【0016】
本出願の実施例又は従来の技術における技術案をより明瞭的に説明するために、以下に実施例又は従来の技術の記述に必要な図面を簡単に紹介し、自明的に、以下の記述における図面は本出願の一部の実施例にすぎなく、当業者にとって、進歩性に値する労働性を付しない場合、これらの図面に応じてその他の図面を得ることもできる。
以下に図面を結合して、本出願の実施例を記述する。
【0017】
従来のAV会議は、SFUに基づく会議アーキテクチャを採用することが多く、
図1を参照すると、図面において、ブラックノードがサーバーであり、グレーノードが端末であり、複数の端末がサーバーに接続され、ユーザーA、ユーザーB及びユーザーCはそれぞれ対応する端末を介して会議ルームにアクセスし、会議に参加する。
【0018】
しかしながら、この会議アーキテクチャでは、1つの会議ルームに入る人数が多すぎると、サーバーのデータ配信圧力を大幅に増加するため、この会議アーキテクチャでは、1つの会議の参加人数が限られており、且つ同時にマイクやビデオを開くことができる人数が限られており、一般視聴者が手を挙げ発言しようとするとリダイレクトする必要があり、体験にはあまり順調ではない。
【0019】
また、この方式において、参加人員が同時にビデオやマイクを開くことができなく、従って、
図1に示すSFUアーキテクチャに基づいて拡散エージェント(
図2に破線ブロックに含まれるノードに示す)を増加し、発言しないユーザーを拡散エージェントに置いて、手を挙げて発言するとき、通話ノード(
図2に実線ブロックに含まれるノードに示す)にリダイレクトして、拡散エージェントの配信優勢を利用して会議参加人数を拡大する。しかし、この方式はリダイレクトする必要があり、体験にはあまり順調ではない。
【0020】
上記の技術問題を解決するために、本出願の実施例はAV会議実現方法を提供し、該方法によれば、それぞれのインタフェース機がいずれも第2のインタフェース機のメディアデータストリームをプルする必要がある時、第2のインタフェース機は個々デバイス群におけるバックソースデバイスのみとインタラクションを行う必要があり、さらに、バックソースデバイスにより第2のインタフェース機のデータ配信圧力を分担し、その他のインタフェース機とインタラクションを行い、第2のインタフェース機はそれぞれのインタフェース機とインタラクションを行う必要がなく、メディアソースデバイス、例えば第2のインタフェース機のデータ配信圧力を大幅に軽減させる。したがって、該AV会議実現方法はより多くの参加人数を支持でき、さらに数百万人の参加を支持でき、同時にメディアデータストリームの伝送際のデータ配信圧力が大幅に軽減されるため、全ての参加人員は、リダイレクトする必要がなく、同時にマイクやビデオを開くことができ、体験が順調である。
【0021】
なお、本出願の実施例が提供するAV会議実現方法は、種々のAV会議シーンに適用でき、特に単一会議で数百万人が参加する超大規模なAV会議に利用する。
【0022】
次に、本出願の実施例が提供するAV会議システムアーキテクチャを紹介する。参加人員がAV会議システムに基づいて会議ルームに入って会議を参加する時、参加人員は主にAVを開く必要があるゲスト、及び一般視聴者を含み、ゲストがAVを開くときメディアデータストリームを発生して、メディアデータストリームを一般視聴者に対応する会議アクセス端末、及びその他のゲストに対応する会議アクセス端末に伝送する。ここで、会議アクセス端末が会議ルームにアクセスする時に使用される端末であり、会議アクセス端末がユーザー端末であってもよい。したがって、AV会議は、主に参加人員がAV、例えばビデオやマイクを開く時にメディアデータストリームの伝送にあり、メディアデータストリームの伝送が会議ルームにおける参加人員の人数によって制限されないと、AV会議システムは大規模な会議を支持することができ、したがって、本出願の実施例の重点は、データ伝送ネットワークアーキテクチャの改良にある。
【0023】
また、個々の会議は1つの会議ルームに対応して、ルーム情報と参加リストを保存して、ユーザー状態を管理する(AVをオン又はオフし、即ちマイクを開く又は閉じる、ビデオを開く又は閉じる、シュート、ルームの入りや退出など)。超大規模な会議の場合、全員は不断にビデオをオン又はオフし、或いはルームに入り又や退出をして、多量な状態変更を表す通知メッセージを発生し、大規模なAV会議の参加リストのプルと同期もルーム管理サブシステムに大きい圧力を与える。したがって、本出願の実施例のルーム管理サブシステムに対する改良は、AV会議システムが超大規模なAV会議を支持することも可能にする。
【0024】
したがって、本実施例では、AV会議システムアーキテクチャは、
図3に示すように、主にデータ伝送ネットワーク301とルーム管理サブシステム302を含み、データ伝送ネットワーク301は会議ルームで生成されたメディアデータストリームを伝送するために用いられ、ルーム管理サブシステム302は会議ルームに対して管理を行うために用いられる。
【0025】
本出願の実施例は、まず、データ伝送ネットワーク301がメディアデータストリームを伝送する観点から、AV会議実現方法を紹介する。
図4aを参照して、前記方法は、以下の内容を含む。
【0026】
S401において、第1のデバイス群におけるバックソースデバイスは前記第1のデバイス群における第1のインタフェース機のプルストリーム要求を受信する。
【0027】
データ伝送ネットワーク301は、
図4bに示すように、複数のデバイス群401を含み、例えば、
図4bにそれぞれの破線ブロックに示す。それぞれのデバイス群401には複数のインタフェース機が含まれ、それぞれのインタフェース機は例えば
図4bにデバイス群401における丸が示すノードである。複数のインタフェース機のうちそれぞれのインタフェース機は会議アクセス端末を接続するために用いられ、これにより、会議アクセス端末がインタフェース機を介して会議ルームにアクセスし、会議アクセス端末に対応する参加人員は会議ルームに入って会議を参加することができる。ここで、デバイス群はSETで示されてもよく、即ち複数のインタフェース機はSETに応じて区画され、インタフェース機はサーバーであってもよい。複数のデバイス群401のうちそれぞれのデバイス群401にはバックソースデバイスがある。
【0028】
ここで、第1のデバイス群は複数のデバイス群のうちのいずれか1つのデバイス群であってもよく、第1のインタフェース機は第1のデバイス群におけるいずれか1つのインタフェース機であってもよい。
【0029】
あるデバイス群(例えば第1のデバイス群)におけるあるインタフェース機(例えば第1のインタフェース機)がメディアデータストリームをプルする必要がある時、第1のインタフェース機は第1のデバイス群におけるバックソースデバイスにプルストリーム要求を送信してもよい。プルストリーム要求にはメディアデータストリームの第1の識別情報が含まれてもよく、第1の識別情報は購読されたメディアデータのメディアデータストリームを識別し、これにより、バックソースデバイスはどのメディアデータストリームをプルする必要があるかを知ることができる。ここで、第1のインタフェース機はメディアデータを購読したユーザーに対応する会議アクセス端末に接続されるインタフェース機であってもよい。つまり、第1のインタフェース機におけるユーザーがあるインタフェース機のメディアデータを購読すると、第1のインタフェース機が第1のデバイス群におけるバックソースデバイスにプルストリーム要求を送信することをトリガする。
【0030】
S402において、第1のデバイス群におけるバックソースデバイスは、前記第1の識別情報に対応する前記メディアデータストリームを前記第1のインタフェース機に転送することで、前記第1のインタフェース機に前記メディアデータストリームを対応する会議アクセス端末に転送するようにする。
【0031】
第1のデバイス群におけるバックソースデバイスがプルストリーム要求を受信した後、第1の識別情報に対応するメディアデータストリームを第1のインタフェース機に転送し、第1のインタフェース機によりメディアデータストリームを対応する会議アクセス端末に転送する。ここで、メディアデータストリームを発生させる会議アクセス端末は、第2のインタフェース機を介して会議ルームにアクセスし、第2のデバイス群は複数のデバイス群のうちのいずれか1つのデバイス群である。
【0032】
第2のインタフェース機はAVをオンしたユーザーに対応する会議アクセス端末に接続されるインタフェース機であってもよい。例えば、あるユーザー、例えば第2のユーザーがその会議アクセス端末でビデオをオンしたとき、第2のユーザーに対応する会議アクセス端末が第2のインタフェース機を介して会議にアクセスし、第2のインタフェース機が第2のデバイス群にある。会議を参加したいずれか1つのユーザー、例えば第1のユーザーが第2のユーザーのビデオ(例えば第2のユーザーのビデオを購読)を見たいとき、第1のユーザーに対応する会議アクセス端末に接続される第1のインタフェース機はその所属しているデバイス群、例えば第1のデバイス群におけるバックソースデバイスを見つけてもよく、第1のデバイス群におけるバックソースデバイスにプルストリーム要求を送信し、これにより、バックソースデバイスはプルストリーム要求に応じて第2のインタフェース機から取得されるメディアデータストリームを第1のインタフェース機に転送し、第1のインタフェース機はメディアデータストリームを対応する会議アクセス端末に転送する。ここで、本出願の実施例が関するユーザーは参加人員であってもよい。
【0033】
なお、バックソースデバイスにおけるメディアデータストリームは第2のインタフェース機からプルされ、プルされるメディアデータストリームはバックソースデバイスローカルに保存してもよい。つまり、一般的に、バックソースデバイスが初回にメディアデータストリームをプルするプルストリーム要求を受信したとき、ローカルに該メディアデータストリームを保存していないため、第2のインタフェース機からプルする必要があり、その前、その他のインタフェース機が要求したことがある場合、ローカルに該メディアデータストリームを保存し、第2のインタフェース機からプルする必要がない。
【0034】
したがって、本実施例では、第1のデバイス群におけるバックソースデバイスがローカルにメディアデータストリームを検索して見つかったか否かに応じて異なるメディアデータストリームプル方式を採用してもよい。
【0035】
1つの可能な実施形態において、第1のデバイス群におけるバックソースデバイスが第1の識別情報に対応するメディアデータストリームを第1のインタフェース機に転送する具体的な方式は、第1のデバイス群におけるバックソースデバイスが第1のインタフェース機から送信されたプルストリーム要求を受信し、第1の識別情報に応じて対応する第2のインタフェース機のメディアデータストリームを検索し、第2のインタフェース機のメディアデータストリームを検索して見つからないと、第2のインタフェース機に該プルストリーム要求を転送し、第2のインタフェース機によってプルストリーム要求における第1の識別情報に応じて転送されたメディアデータストリームを受信し、メディアデータストリームを第1のインタフェース機に転送する、ことであってもよい。
【0036】
理解できるように、第1のユーザーが第2のユーザーのビデオを購読した時にプルストリーム要求が送信されると、第2のインタフェース機は、プルストリーム要求を受信した後、第2のインタフェース機のローカルに、該バックソースデバイスが第2のインタフェース機を購読したことを記録してもよく、その後、第2のインタフェース機は、メディアデータストリームをバックソースデバイスに送信する。バックソースデバイスは受信されたメディアデータストリームをローカルに保存し、これにより、その後のその他のインタフェース機が該メディアデータストリームを要求するとき、バックソースデバイスは第2のインタフェース機とインタラクションを行う必要がなく、直接にメディアデータストリームを第1のインタフェース機に戻ってもよい。
【0037】
例えば、
図4bに示すように、ここで、ノードAが第2のインタフェース機としてもよく、第2のインタフェース機はゲストの位置するインタフェース機であり、即ち第2のインタフェース機における会議アクセス端末に対応するユーザーは、ビデオをオンしてもよく、ビデオデータストリームを上りし、この際、ビデオデータストリームがメディアデータストリームとする。ノードBが第1のインタフェース機としてもよく、ノードDはそれが位置するデバイス群、例えば第1のデバイス群のバックソースデバイスとしてもよく、ノードBにおけるユーザーはノードAの上りのビデオデータストリームを購読し、ノードBは第1のデバイス群内においてノードDを見つけ、ノードDにプルストリーム要求を発する。ノードDがノードBのプルストリーム要求を受信した後、ローカルにノードAのメディアデータストリームがあるか否かを検索し、ローカルにノードAのメディアデータストリームを検索して見つからない場合、ノードAにプルストリーム要求を発する。ノードAがノードDのプルストリーム要求を受信した後、ローカルにノードDがノードAを購読したことを記録して、ビデオデータストリームをノードDに転送し、ノードDがビデオデータストリームを受信してからノードBに転送し、ノードBは最終にビデオデータストリームを対応する会議アクセス端末に送信する。
【0038】
第1のデバイス群におけるバックソースデバイスが第1の識別情報に応じて第2のインタフェース機のメディアデータストリームを検索するとき、第2のインタフェース機のメディアデータストリームを検索して見つかった場合、直接に検索して得られたメディアデータストリームを第1のインタフェース機に転送する。この方式により、メディアデータストリームのプル効率を向上でき、さらにメディアソースデバイス、例えば第2のインタフェース機のデータ配信圧力を低減する。
【0039】
例えば、
図4bに示すように、ここで、ノードAが第2のインタフェース機としてもよく、第2のインタフェース機はゲストの位置するインタフェース機であり、即ち第2のインタフェース機における会議アクセス端末に対応するユーザーはビデオをオンしてもよく、ビデオデータストリームを上りし、この際、ビデオデータストリームがメディアデータストリームとする。ノードCは第1のインタフェース機としてもよく、ノードDはその所属しているデバイス群、例えば第1のデバイス群のバックソースデバイスとしてもよく、ノードCにおけるユーザーはノードAの上りのビデオデータストリームを購読し、ノードCは第1のデバイス群内においてノードDを見つけ、ノードDにプルストリーム要求を発する。同一デバイス群におけるノードBとノードCは整合性ハッシュ又は別の方法によりいずれも同一ノードDを見つけ、ノードDにプルストリーム要求を発する。ノードDはローカルにこのビデオデータストリーム(この前ノードBが要求した)があったことを検索して見つかり、ノードDは直接に検索して得られたビデオデータストリームをノードCに転送し、ノードCがノードDから転送されたビデオデータストリームを受信し、最終にビデオデータストリームを対応する会議アクセス端末に転送する。
【0040】
理解できるように、第1のデバイス群におけるバックソースデバイスは、メディアデータストリームを要求する必要があるインタフェース機、例えば第1のインタフェース機により予め設定されたルールに応じて特定されて得られたものであり、該予め設定されたルールは、同一メディアデータストリームが、同一バックソースデバイスを介して、その所属しているデバイス群におけるインタフェース機にルーティングされるようなものである。例えば、上記同一デバイス群におけるノードBとノードCは整合性ハッシュ又は別の方法によりいずれも同一ノードDを見つける。それにより、同一デバイス群において同一メディアデータストリームに対して統括に配信管理を行うことが容易となる。
【0041】
なお、第1のデバイス群と第2のデバイス群は同一ローカルエリアネットワーク(即ち内網で)に位置してもよく、異なるローカルエリアネットワーク(即ち外網で、国内ネットワークと国外ネットワークの外網を含む)に位置してもよい。第1のデバイス群と第2のデバイス群は同一ローカルエリアネットワークに位置すると、第1のデバイス群におけるバックソースデバイスは直接に第2のインタフェース機にプルストリーム要求を転送し、第2のインタフェース機は直接にバックソースデバイスにメディアデータストリームを送信する。第1のデバイス群と第2のデバイス群は異なるローカルエリアネットワークに位置すると、データ伝送ネットワーク301にはさらに中継エージェントデバイス402が含まれ、例えば、
図4bにおける402が示すデバイスである。第一デバイス群におけるバックソースデバイスは中継エージェントデバイス402を介して第2のインタフェース機にプルストリーム要求を転送する必要があり、相応的に、第2のインタフェース機は中継エージェントデバイス402を介してメディアデータストリームを第1のデバイス群におけるバックソースデバイスに転送する。
【0042】
例えば、
図4bに示すように、ここで、ノードAが第2のインタフェース機としてもよく、第2のインタフェース機はゲスト位置するインタフェース機であり、即ち第2のインタフェース機における会議アクセス端末に対応するユーザーはビデオをオンしてもよく、ビデオデータストリームを上りして、この際、ビデオデータストリームがメディアデータストリームとする。ノードGが第1のインタフェース機としてもよく、ノードFはその所属しているデバイス群、例えば第1のデバイス群のバックソースデバイスとしてもよく、この際、ノードGが位置する第1のデバイス群とノードAが位置する第2のデバイス群は同一ローカルエリアネットワークに位置しなくて、即ちノードGがエッジノードである。ノードGにおけるユーザーはノードAの上りのビデオデータストリーム(該ビデオデータストリームがメディアデータストリームとして)を購読し、ビデオデータストリームを取得するパスは相対的に長く、ノードGは第1のデバイス群内においてノードFを見つけ、ノードFにプルストリーム要求を発する。ノードFがノードGのプルストリーム要求を受信した後、ローカルにノードAのビデオデータストリームがあるか否かを検索し、検索して見つからなければ、中継エージェントデバイス402(例えば
図4bにおけるノードE)を介してノードAにプルストリーム要求を発する。ノードAがノードFのプルストリーム要求を受信した後、ローカルにノードFがノードAを購読したことを記録し、その後、ノードEを介してビデオデータストリームをノードFに転送し、ノードFはビデオデータストリームをノードGに転送し、ノードGは最終にビデオデータストリームを対応する会議アクセス端末に転送する。
【0043】
図4bにおけるノードHがノードAのビデオデータストリームをプルする過程は、途中でノードEも経由することを除けば、ノードCと類似し、ここで重複な説明を省略する。この過程において、中継エージェントデバイス402、例えばノードEの検索は、予め設定されてもよく、動的割り当てられてもよく、ここで制限しない。構造的には、本出願の実施例は、AV会議にアクセスするためのインタフェース機をデバイス群(SET)で区画し、あるデバイス群におけるインタフェース機がメディアデータストリームをプルする必要がある時、位置するデバイス群においてバックソースデバイスを特定することにより、バックソースデバイスによりメディアデータストリームを発生させるインタフェース機(即ちメディアソースデバイス)にプルストリーム要求を発してもよい。この設計はメディアソースデバイスのデータ配信圧力を大幅に低減し、会議ルームにおける参加人員の人数を大幅に向上させる。例を挙げて、それぞれのSETには100台のインタフェース機があり、全体のAV会議システムが100個のSETを有し、台ごとの8核16Gのインタフェース機は100パスのメディアデータストリームの転送を支持できると仮定すると、1つの会議が1つのゲストのみを有し、その他は視聴者であれば、この会議の最大な規模は100(台)*100(SET)*100(配信)=100万人である。ゲストが一人だけでなければ、最寄りアクセス原則に基づいて、異なるSETの異なるインタフェース機を割り当て、上り転送の負荷も分散され、百万人の会議を支持することが容易である。
【0044】
上記技術案によれば、本出願は複数のデバイス群に関し、それぞれのデバイス群には複数のインタフェース機が含まれ、複数のインタフェース機のうちのそれぞれのインタフェース機は、会議アクセス端末がインタフェース機を介して会議ルームにアクセスするように、会議アクセス端末を接続するために用いられる。複数の会議アクセス端末が1つのサーバーを介して会議ルームにアクセスする関連技術に比べて、複数のインタフェース機は関連技術におけるサーバーと類似する役割を果たし、会議アクセス端末を異なるインタフェース機に分散し、複数のインタフェース機により負荷を分担するため、より多くの会議アクセス端末へのアクセスが容易になり、大規模な会議を支持する。複数のデバイス群のうちのデバイス群ごとにバックソースデバイスがあり、第2のインタフェース機を介して会議ルームにアクセスしてメディアデータストリームが発生され、それぞれのデバイス群、例えば第1のデバイス群におけるバックソースデバイスは、第1のデバイス群における第1のインタフェース機のプルストリーム要求を受信した後、プルストリーム要求がメディアデータストリームの第1の識別情報を含むので、第1の識別情報に対応するメディアデータストリームを第1のインタフェース機に転送することができ、第1のインタフェース機はメディアデータストリームを対応する会議アクセス端末に転送するために用いられる。このように、それぞれのインタフェース機がいずれも第2のインタフェース機のメディアデータストリームをプルする必要がある時、第2のインタフェース機は個々デバイス群におけるバックソースデバイスのみとインタラクションを行う必要があり、さらに、バックソースデバイスによりメディアソースデバイス、例えば第2のインタフェース機のデータ配信圧力を分担し、その他のインタフェース機とインタラクションを行い、第2のインタフェース機はそれぞれのインタフェース機とインタラクションを行う必要がなく、デバイス、例えば第2のインタフェース機のデータ配信圧力を大幅に軽減させる。したがって、該AV会議実現方法は、より多くの参加人数を支持でき、さらに数百万人の参加を支持でき、同時にメディアデータストリームの伝送際のデータ配信圧力が大幅に軽減されるため、全ての参加人員(即ちユーザー)は、リダイレクトすることなく、同時にマイクやビデオを開くことができ、体験が順調である。
【0045】
マルチポイントコントロールユニット(Multipoint Control Unit:MCU)に基づく会議アーキテクチャに比べて、運営やメンテナンスは簡単であり、性能とハードウェア価格により制限されなく、実際のベアラ数を大幅に向上させ、超大規模な会議を実現することが容易である。
【0046】
本出願の実施例が提供するAV会議実現方法及びAV会議システムに基づいてビデオ会議を行うインタフェース図は、
図5を参照でき、該インタフェースにおいて、ビデオをオンした参加人員の画像、参加リスト、関連ファンクションキーのアイコン(例えばマイクアイコン、カメラアイコン、管理メンバーアイコン、会議から退出するアイコンなど)を表示でき、マイクを開く参加人員について、マイクのアイコンを表示でき、マイクを開かない参加人員について、マイクのアイコンにスラッシュを描くことができる。本出願の実施例が提供するAV会議システムにおいて、超大規模な会議を実現し、例えば、会議に入る人数の上限は50000であってもよく、即ち、50000の管理メンバーである。
【0047】
次に、本出願の実施例は、ルーム管理サブシステム302が会議ルームを管理する観点からAV会議実現方法を紹介する。
【0048】
ルーム管理サブシステム302は、
図6に示すように、上記複数のデバイス群601とセンターサーバー(RoomSvc)602を含み、ここでのデバイス群601は、同様に前記複数のインタフェース機を含み、
図4bに示すデバイス群に類似し、同時に、それぞれのデバイス群601にはさらに群内サーバー(RoomSvcInSet)が含まれ、群内サーバーはセンターサーバー602が会議ルームを管理することを補助するために用いられる。ここで、群内サーバーは、
図6におけるそれぞれのデバイス群601における円環に示すように、例えば
図6におけるノードB、ノードC、ノードD、ノードE、ノードF、ノードGであり、センターサーバー602は、例えば
図6におけるノードAである。
【0049】
なお、本実施例では、同一デバイス群における群内サーバーとバックソースデバイスは同一デバイスでもよく、異なるデバイスでもよく、本実施例はこれを限定しない。
【0050】
会議ルームを管理することは、主に会議ルームのルーム情報、状態変更の通知メッセージ、参加リストのプルなどを管理することを含む。ここで、ルーム情報は、例えば会議ルームの名称、作成時間、参加人員、会議時間などを含む。
【0051】
本出願の実施例は、ルーム管理システムをセンターサーバーと群内サーバーに分けて、センターサーバーがただ1つあり、群内サーバーはインタフェース機と同様にSETに応じて配置され、それにより、通知メッセージの同期と参加リストのプルはいずれも群内サーバーによりセンターサーバーの管理圧力を緩和するようにしてもよく、超大規模な会議を実現することが容易である。
【0052】
デバイス群の内部において、同一会議ルームに対して、全部のインタフェース機は、一定のアルゴリズムにより同じRoomSvcInSetを登録し、ハートビートにより1つの長い接続を維持し、その後、会議ルームにおいてメディアデータストリームのプルを行う。会議ルーム内において同期を行う必要がある通知メッセージ(例えば会議ルームに入って会議を参加すること、会議ルーム退出をすること、マイクを開く又は閉じること、ビデオを開く又は閉じることなど、ユーザーの状態変更)があり、又は参加リストをプルしたいとき、このRoomSvcInSetにより完成する。
【0053】
まず、会議ルームに入って会議を参加する登録フローを紹介する。いずれか1つのデバイス群、例えば第3のデバイス群におけるいずれか1つのインタフェース機、例えば第3のインタフェース機が会議ルームに入ることを要求するとき、第3のデバイス群における群内サーバーは第3のインタフェース機から送信された登録要求を受信し、登録要求にはどの会議ルームに入る必要があるかを指示するために用いられるルーム識別子が含まれてもよい。第3のデバイス群における群内サーバーがローカルに該会議ルームの情報を検索して見つからないと、センターサーバーに該登録要求を送信する。センターサーバーは第3のデバイス群における群内サーバーの第2の識別情報を第1の会議登録リストに記録し、第3のデバイス群における群内サーバーに登録成功情報を返送する。第3のデバイス群における群内サーバーは第3のインタフェース機の第3の識別情報を第2の会議登録リストに記録し、第3のインタフェース機に登録成功情報を返送することにより、第3のインタフェース機の登録を完成する。ここで、第2の識別情報と第3の識別情報は同種の識別情報であり、対応するデバイスの唯一識別子であり、識別情報は例えばアドレスでもよく、つまり、第2の識別情報は群内サーバーのアドレスであってもよく、第3の識別情報は第3のインタフェース機のアドレスであってもよい。ここで、第3のデバイス群が複数のデバイス群のうちいずれか1つのデバイス群であり、第3のインタフェース機が第3のデバイス群におけるいずれか1つのインタフェース機であり、第3のデバイス群は前記実施例における第1のデバイス群又は第2のデバイス群であってもよく、第3のインタフェース機は前記実施例における第1のインタフェース機又は第2のインタフェース機であってもよい。
【0054】
例えば、
図6に示すように、ここで、ノードaは第3のインタフェース機としてもよく、第3のインタフェース機は会議を登録したいインタフェース機であり、即ち、第3のインタフェース機における会議アクセス端末に対応するユーザーは会議ルームに入って会議を参加したい。ノードAはセンターサーバーとしてもよく、ノードBは第3のインタフェース機が位置するデバイス群、例えば第3のデバイス群の群内サーバーとしてもよい。ここで、ノードBはノードaにより一定のルール(整合性ハッシュ又は割り当てスケジュール)に応じて特定されてもよい。ノードaはノードBに登録要求を送信し、ノードBがノードaの登録要求を受信した後、スケジュールシステム(Scheduler)に該会議に対応するRoomSvcを検索して見つかり、即ちノードAである。ノードBはノードAに登録要求を送信し、ノードAがノードBから送信された登録要求を受信し、ノードBのアドレスを該会議の登録リスト(ノードAに保存された第1の会議登録リスト)に記録し、Bに登録成功情報を返送する。ノードBがノードAから戻られる登録成功情報を受信した後、ノードaのアドレスを該会議の登録リスト(ノードBに保存された第2の会議登録リスト)に記録し、ノードaに登録成功情報を返送する。
【0055】
理解できるように、本実施例では、登録成功した後、群内サーバーとセンターサーバー、群内サーバーと登録成功したインタフェース機、例如第3のインタフェース機は、長い接続を保持でき、その後の両者の間のインタラクションが容易になる。例えば、ノードBは定期的にノードAにハートビートを送信してもよく、ノードAと長い接続のチャネルを保持し、ノードaがノードBから戻られる登録成功情報を受信した後、定期的にハートビートを送信し、ノードBと長い接続のチャネルを保持する。
【0056】
第3のデバイス群における群内サーバーは登録要求に応じてローカルに会議ルームの情報を検索するとき、ローカルに会議ルームの情報を検索して見つかった時、第3のインタフェース機の第3の識別情報を第2の会議登録リストに記録し、第3のインタフェース機に登録成功情報を戻ってもよい。
【0057】
例えば、
図6に示すように、ここで、ノードbは第3のインタフェース機としてもよく、第3のインタフェース機は会議を登録したいインタフェース機であり、即ち第3のインタフェース機における会議アクセス端末に対応するユーザーは会議ルームに入って会議を参加したい。ノードAはセンターサーバーとしてもよく、ノードBは第3のインタフェース機が位置するデバイス群、例えば第3のデバイス群の群内サーバーとしてもよい。ここで、ノードBはノードbにより一定のルール(整合性ハッシュ又は割り当てスケジュール)に応じて特定されてもよい。ノードbはノードBに登録要求を送信し、ノードBはノードbの登録要求を受信し、ローカルに該会議ルームの情報があったことを発現し、ノードbのアドレスを該会議の登録リスト(ノードBに保存された第2の会議登録リスト)に記録し、ノードbに登録成功情報を返送する。ノードbがノードBから戻られる登録成功情報を受信した後、定期的にハートビートを送信し、ノードBと長い接続のチャネルを保持する。
【0058】
同様に、エッジノード(即ちデバイス群とセンターサーバーは同一ローカルエリアネットワークにあることはなく、デバイス群におけるインタフェース機とセンターサーバーは同一ローカルエリアネットワークにあることはない)にあるユーザーが同じ会議ルームを登録するとき、登録フローについて、ただ中継エージェントデバイス、例えば
図6におけるノードO、ノードP、ノードQを介して中継する必要があり、その他のフローが類似する。
【0059】
会議ルームにアクセスされる会議アクセス端末が状態変更されるとき、例えばユーザーがAVをオン又はオフする時、AVをオン又はオフするこの状態変更を会議ルームにおけるその他のユーザーに通知する必要がある。状態変更された会議アクセス端末が第3のデバイス群における第3のインタフェース機にあることを例にして、この際、第3のデバイス群における群内サーバーは第3のインタフェース機から送信された通知メッセージを受信し、該通知メッセージをセンターサーバーに送信する。センターサーバーは該通知メッセージをそれぞれのデバイス群の群内サーバーに送信し、それぞれのデバイス群の群内サーバーは該通知メッセージを登録成功されたインタフェース機に送信する。
【0060】
続いて、上記
図6を例にして、ここで、ノードaは第3のインタフェース機としてもよく、ノードaはゲストの位置するインタフェース機であり、ノードAはセンターサーバーとしてもよく、ノードBは第3のインタフェース機が位置するデバイス群、例えば第3のデバイス群の群内サーバーとしてもよい。ノードaにあるゲストがビデオをオンすると、即ち状態変更されると、ノードaは状態変更を指示した通知メッセージ(msg-a-openvideo)をノードBに送信し、ノードBは通知メッセージをノードAに送信する。ノードAはローカル登録リスト(ノードAに保存される第1の会議登録リスト)にわたって、通知メッセージを全部群内サーバーに送信し、例えば
図6におけるノードB、ノードC、ノードD、ノードE、ノードF、ノードGである。ノードB、ノードC、ノードD、ノードE、ノードF、ノードGは通知メッセージを受信し、ローカル登録リスト(それぞれ群内サーバーに保存される第2の会議登録リストとして)にわたって、通知メッセージを全部インタフェース機に送信し、例えば
図6におけるノードa、ノードb、ノードc、ノードd、ノードe、ノードf、ノードg、ノードo、ノードp、ノードq、ノードr及びノードsである。
【0061】
AV会議において参加リストをサービスして、参加リストに全部参加人員を含み、本出願の実施例が提供するAV会議システムにより実現される超大規模なAV会議では、参加人員の数量が巨大であるため、ページングプルの方式を採用してローカル参加リストを更新することができる。あるデバイス群、例えば第3のデバイス群におけるあるインタフェース機、例えば第3のインタフェース機が参加リストのプルを要求する時、第3のデバイス群における群内サーバーは第3のインタフェース機のリストプル要求を受信し、第3のデバイス群における群内サーバーはローカルに参加リストを検索し、第3のデバイス群における群内サーバーがローカルに該参加リストを検索して見つからないと、センターサーバーに該リストプル要求を送信する。第3のデバイス群における群内サーバーはセンターサーバーから送信された参加リストを受信し、該参加リストを第3のインタフェース機に送信する。
【0062】
例えば、
図6に示すように、ノードaを第3のインタフェース機として、ノードaにあるユーザーはノードBに参加リストを要求し、ノードBはローカルキャッシュで検索し、検索して見つからなければ、ノードAにリストプル要求を発する。ノードAがリストプル要求を受信した後、対応する参加リストをノードBに戻り、ノードが参加リストをローカルにキャッシュした後、参加リストをノードaに返送する。ここで、参加リストは全部参加リストであってもよく、ページングプルのあるページの参加リスト、例えばPage1であってもよい。
【0063】
第3のデバイス群における群内サーバーがローカルに参加リストを検索する時、第3のデバイス群における群内サーバーがローカルに該参加リストを検索して見つかり、且つ該参加リストの有効期限が切れないと、該参加リストを第3のインタフェース機に返送する。
【0064】
続いて、上記例によれば、
図6に示すノードbを第3のインタフェース機として、ノードbにおいてその前その他のノードがあった場合も、上記参加リストPage1を要求し、この際、ノードBにおいてすでに該参加リストが存在するため、ノードAに参加リストを要求する必要がない。そこで、ノードaはノードBにリストプル要求を送信し、ノードBはローカルキャッシュで検索し、Page1を発現し、且つ有効期限が切れなく、ノードBはPage1を直接にノードbに返送する。
【0065】
次に、災害回復のフローを説明する。RoomSvcの全ての情報がRoomSvcInSetとインタフェース機から取得されるため、RoomSvcがダウンした後、RoomSvcInSetにより自動的に再構築することが容易である。同様に、RoomSvcInSetのデータがインタフェース機から取得されるため、RoomSvcInSetがダウンした後、本デバイス群(SET)内におけるインタフェース機により自動的に再構築することができる。
【0066】
本出願の実施例が提供するAV会議実現方法では、群内サーバーによりセンターサーバーの管理圧力を緩和し、超大規模な会議を実現することが容易である。
【0067】
なお、関連技術が提供するSFUに基づくAV会議では、伝送会議ルームにおいてメディアデータストリーム、例えばオーディオデータストリームが発生する時、エネルギー値に基づいてオーディオルーティングを行う必要がある。長距離の通話では、この方式により発生する遅延が体験に大きな影響を与えて、参加人数が比較的に多い時、大量な帯域幅を浪費し、会議アクセス端末のネットワーク性能損失を増加させる。また、会議で動的音声応答(Interactive Voice Response:IVR)を再生すること、精確レコードに対して要求があるシーンにおいて、SFUの構成で精確な制御(例えば、開始と終了の判断、シグナリングによるかメディアデータストリームによるか、など)を行うのは容易ではない。なお、音声レコードの場合、ある要求の厳しい業界は、レコード過程中に数ワードを多く録音したり、少なく録音したりする状況を受け入れることができず、1つの集中的なオーディオ処理サービスがなければ、録音すべきでない内容を録音したり、録音すべき内容を録音しなかったりすることは容易であり、これらの状況は厳しいユーザーにとっては、絶対的に受け入れられない。
【0068】
このように、
図3に示すように、本出願の実施例が提供するAV会議システムにはさらにミキシングエンジン303が含まれ、ミキシングエンジン303はメディア伝送ネットワーク301と公衆交換電話ネットワーク(Public Switched Telephone Network:PSTN)305との間にあり、両者連絡のブリッジとして、超大規模なルームにおける開会体験を大幅に向上する。ここで、ミキシングエンジン303はプロトコル、例えば会話初期プロトコル(Session Initiation Protocol:SIP)又はリアルタイム伝送プロトコル(Real-time Transport Protocol:RTP)を介して公衆交換電話ネットワーク305と接続される。
【0069】
ここで、ミキシングエンジン303がミキサー(Mixer)とセレクタ(Selector)を含み、それぞれのデバイス群が対応するミキシングエンジンを有する。メディアデータストリームがオーディオデータストリームである時、ミキシングエンジンにおけるセレクタは、取得されたマルチオーディオデータストリームを同一デバイス群にあるミキサーに送信し、マルチオーディオデータストリームがそれぞれ異なるデバイス群における第4のインタフェース機からのものである。ミキサーはマルチオーディオデータストリームから目標オーディオデータストリームを選択し、目標オーディオデータストリームを発生させる会議アクセス端末に接続される目標インタフェース機に当選通知を送信する。目標インタフェース機はミキサーに目標オーディオデータストリームを送信し、ミキサーは目標オーディオデータストリームに対してミキシングを行い、ミキシングしたオーディオデータストリームを第4のインタフェース機に対応するセレクタに転送し、第4のインタフェース機が目標インタフェース機を含む。第4のインタフェース機に対応するセレクタはミキシングしたオーディオデータストリームを第4のインタフェース機に送信し、第4のインタフェース機はその所属しているデバイス群におけるその他のインタフェース機にミキシングしたオーディオデータストリームを転送する。
【0070】
MixerとSelectorもSETによって配置された。遅延をできるだけ低減させるために、1つのSETのMixerとSelectorは同一の利用可能な領域(利用可能な領域の内部での伝送時延が2msに制御されてもよい)に配置される。同時に、同一会議のオーディオデータストリームは、1つのSETに集中して処理し、且つ最終に同一Mixerに集中してミキシングを実行する。
【0071】
図7は1つの実際の会議を表していると仮定する。ここで、三人の参加人員がマイクを開き、この三人の参加人員が属するインタフェース機はノードa、ノードf及びノードgであり、その他のインタフェース機において視聴者である。例図を簡素化するために、それぞれの会議は2つのパスのオーディオデータストリーム(通常、真正な会議は4つ-6つのパスのオーディオデータストリームを選択)を選択すると仮定し、この際、オーディオデータストリームの処理フローは以下の通りである。
【0072】
ノードa、ノードf、ノードgは、
図6におけるスケジュールシステムにセレクタ(遅延をできるだけ低減させるために、スケジュールシステムは同会議ルームのオーディオデータストリームに対して同一利用可能な領域のセレクタを割り当てる)を要求し、それぞれ
図7におけるノードB、ノードC、ノードDが示すセレクタを得る。ノードa、ノードf、ノードgは、オーディオデータストリームをそれぞれ対応するノードB、ノードC、ノードDに転送する。ノードB、ノードC、ノードDは、上りオーディオデータストリームをキャッシュし、エネルギー値をミキサーにアップロードする。ミキサーはエネルギー値をソートし、それからノードf、ノードgの2つのパスのオーディオデータストリームを目標オーディオデータストリームとして選択し、そして、ノードCとノードDが目標インタフェース機とすることをノードCとノードDに通知する。ノードCとノードDが当選通知を受信した後、相応の目標オーディオデータストリームをミキサー(この2つのステップの遅延が5ms以内にある)に転送し、ミキサーは受信した目標オーディオデータストリームをミキシングし、その後、ミキシングしたオーディオデータストリームをノードB、ノードC、ノードDに転送し、ノードB、ノードC、ノードDはミキシングしたオーディオデータストリームをノードa、ノードf、ノードgに送信する。ノードa、ノードf、ノードgはSET内部の転送を行う。
【0073】
注意することとして、ここで、ゲストに送信されたストリームと一般視聴者に送信されたストリームは異なって、ゲストに送信されたミキシングしたオーディオデータストリームは、自分話すパスを除外する。そこで、当選されたインタフェース機は2つのパスのオーディオデータストリームを受信し、一方は発言しているゲストに転送され、もう一方はSET内の視聴者に転送される。
【0074】
ミキシングエンジン303はリアルタイムのメディア処理システムであり、ミキシングエンジン303により処理されたオーディオデータストリームは会議ルーム内の全ての参加人員にリアルタイム転送される必要がある。多くの場合では、非同期ストリーム処理システムが必要となる可能性があり、即ちこのシステムは、オーディオデータストリームを得た後に会議ルーム内の参加人員に返送必要がなく、他の用途として(例えばレコード、ポルノの特定、ライブストリーミングなど)、通常、あまりリアルタイムが必要とならない。それに基づいて、本出願の実施例が提供するAV会議システムは、
図3に示すように、さらにバイパスメディア処理システム304を含み、バイパスメディア処理システム304は、ロボット端末により会議ルームで生成されたメディアデータストリームをプルし、メディアデータストリームを処理するために用いられる。ここで、ロボット端末は、
図3に示すように、ライブストリームロボット(LiveStream Robot)、レコードロボット(Record Robot)、会議接続ロボット(MRA Robot)を含む。
【0075】
本実施例では、ロボット(Robot)端末が会議ルームに入ってストリームをプルする方式を採用することによりバイパスメディア処理機能を実現する。レコードを例にして、ユーザービジネスバックグラウンドはアプリケーションプログラムインタフェース(Application Programming Interface:API)方式により1つのレコードタスクを起動し、レコードタスクシステムは1つのRecord Robotを実例化して参加人員を模擬して会議に入る。Record Robotは会議におけるメディアデータストリームをローカルにプルし、ミキシングやトランスコードの後レコードを行う。会議を終了した後、Record Robotはレコードしたファイルを指定のストレージ(一部のフラグメントを定期的にアップロードしてもよい)にアップロードする。
【0076】
なお、ポルノの特定、ライブ・プッシュ・ストリーミングの方案はレコードに類似し、区別とは、ビジネスロジックのみである。第三者会議デバイスに対接されるとき、双方向通信を行うため、レコード方案と少し異なる。
【0077】
第三者会議デバイスに対接される時、
図8に示すように、ユーザービジネスバックグラウンドは1つのMRA(会議接続器)Robotを起動し、MRARobotは**会議(この際、他の参加人員がこのMRARobotを見ることができる)に入り、MRARobotは、同時に接続プロトコル(例えばSIP又はH323などプロトコル)により第三者会議デバイスに接続される。MRARobotは**会議における全てのメディアデータストリームをローカルにプルし、ミキシングした後、接続プロトコルにより第三者会議デバイスに転送する。MRARobotは第三者会議デバイスから送信されたメディアデータストリームを**会議のプライベートプロトコルに変換し、メディア伝送ネットワークを介して会議ルームにおける他の参加人員に転送する。ここで、
図8における801が移動会議端末であり、802が**会議ルーム知能会議室であり、**会議にアクセスするために用いられる。
【0078】
なお、AV会議システムはミキシングエンジンを導入しない場合、
図9に示すアーキテクチャを用いてデータ伝送ネットワーク301と公衆交換電話ネットワーク305の対接を実現してもよい。即ち、セレクタとバイパスメディア処理システムに関するロボットによりともにミキシングエンジンの機能を実現する。ここで、セレクタはエネルギーアップロードのエネルギー及び対応するルーティング決定に基づいてルーティングを行う。
【0079】
前述で提供されるAV会議実現方法に基づいて、本出願の実施例はさらにAV会議実現装置を提供し、
図10に示すように、前記装置1000は、受信ユニット1001と転送ユニット1002を含み、
前記受信ユニット1001は、第1のデバイス群における第1のインタフェース機のプルストリーム要求を受信するために用いられ、前記プルストリーム要求にはメディアデータストリームの第1の識別情報が含まれ、前記第1のデバイス群が複数のデバイス群のうちのいずれか1つのデバイス群であり、前記複数のデバイス群のうちデバイス群ごとにバックソースデバイスがあり、デバイス群ごとには複数のインタフェース機が含まれ、前記複数のインタフェース機のうちのそれぞれのインタフェース機は、会議アクセス端末がインタフェース機を介して会議ルームにアクセスするように、会議アクセス端末を接続するために用いられ、前記第1のインタフェース機が前記第1のデバイス群におけるいずれか1つのインタフェース機であり、
前記転送ユニット1002は、前記第1のインタフェース機が前記メディアデータストリームを対応する会議アクセス端末に転送するように、前記第1の識別情報に対応する前記メディアデータストリームを前記第1のインタフェース機に転送するために用いられ、前記メディアデータストリームは、前記第1のデバイス群におけるバックソースデバイスにより第2のデバイス群における第2のインタフェース機から取得され、前記メディアデータストリームを発生させる会議アクセス端末が前記第2のインタフェース機を介して前記会議ルームにアクセスし、前記第2のデバイス群が前記複数のデバイス群のうちのいずれか1つのデバイス群である。
【0080】
1つの可能な実施形態において、前記転送ユニット1002は、
前記第1の識別情報に応じて対応する前記第2のインタフェース機のメディアデータストリームを検索するために用いられ、
前記第2のインタフェース機のメディアデータストリームを検索して見つからないと、前記第2のインタフェース機に前記プルストリーム要求を転送し、
前記受信ユニット1001は、さらに前記第2のインタフェース機によって前記プルストリーム要求における第1の識別情報に応じて転送される前記メディアデータストリームを受信するために用いられ、
前記転送ユニット1002は、さらに前記メディアデータストリームを前記第1のインタフェース機に転送するために用いられる。
【0081】
1つの可能な実施形態において、前記転送ユニット1002は、さらに
対応する前記第2のインタフェース機のメディアデータストリームを検索して見つかると、前記メディアデータストリームを前記第1のインタフェース機に転送するために用いられる。
【0082】
1つの可能な実施形態において、前記第1のデバイス群と前記第2のデバイス群が異なるローカルエリアネットワークにある場合、前記転送ユニット1002は、
中継エージェントデバイスを介して前記第2のインタフェース機に前記プルストリーム要求を転送し、
前記中継エージェントデバイスを介して、前記第2のインタフェース機から転送された前記メディアデータストリームを受信するために用いられる。
【0083】
1つの可能な実施形態において、前記第1のデバイス群におけるバックソースデバイスは、前記第1のインタフェース機により予め設定されたルールに応じて特定されて得られ、前記予め設定されたルールは、同一メディアデータストリームを、同一バックソースデバイスを介してその所属しているデバイス群におけるインタフェース機にルーティングさせる。
【0084】
1つの可能な実施形態において、前記装置は、さらに送信ユニット、記録ユニット及び戻しユニットを含み、
第3のデバイス群における第3のインタフェース機が前記会議ルームに入ることを要求する時、前記受信ユニット1001は、さらに前記第3のインタフェース機から送信された登録要求を受信するために用いられ、前記第3のデバイス群が前記複数のデバイス群のうちのいずれか1つのデバイス群であり、前記第3のインタフェース機が前記第3のデバイス群におけるいずれか1つのインタフェース機であり、
前記送信ユニットは、ローカルに前記会議ルームの情報を検索して見つからないと、センターサーバーが、前記第3のデバイス群における群内サーバーの第2の識別情報を第1の会議登録リストに記録し、前記第3のデバイス群における群内サーバーに登録成功情報を返送するように、センターサーバーに前記登録要求を送信するために用いられ、
前記記録ユニットは、前記第3のインタフェース機の第3の識別情報を第2の会議登録リストに記録するために用いられ、
前記戻しユニットは、前記第3のインタフェース機に前記登録成功情報を返送するために用いられる。
【0085】
1つの可能な実施形態において、ローカルで前記会議ルームの情報を検索して見つかった時、前記記録ユニットは、さらに前記第3のインタフェース機の第3の識別情報を前記第2の会議登録リストに記録するために用いられ、
前記戻しユニットは、さらに前記第3のインタフェース機に前記登録成功情報を返送するために用いられる。
【0086】
1つの可能な実施形態において、第3のデバイス群における第3のインタフェース機に接続される会議アクセス端末が状態変更されるとき、前記受信ユニット1001は、さらに前記第3のインタフェース機から送信された通知メッセージを受信するために用いられ、
前記送信ユニットは、前記センターサーバーが前記通知メッセージをそれぞれのデバイス群の群内サーバーに送信するように、前記通知メッセージを前記センターサーバーに送信するために用いられ、それぞれのデバイス群の群内サーバーは前記通知メッセージを登録成功したインタフェース機に送信するために用いられる。
【0087】
1つの可能な実施形態において、第3のデバイス群における第3のインタフェース機が参加リストのプルを要求する時、前記受信ユニット1001は、さらに前記第3のインタフェース機のリストプル要求を受信するために用いられ、
前記送信ユニットは、ローカルに前記参加リストを検索して見つからないと、前記センターサーバーに前記リストプル要求を送信するために用いられ、
前記受信ユニット1001は、さらに前記センターサーバーから送信された前記参加リストを受信するために用いられ、
前記送信ユニットは、前記参加リストを前記第3のインタフェース機に送信するために用いられる。
【0088】
1つの可能な実施形態において、前記送信ユニットは、さらにローカルに前記参加リストを検索して見つかったとき、且つ前記参加リストの有効期限が切れないと、前記参加リストを前記第3のインタフェース機に返送するために用いられる。
【0089】
1つの可能な実施形態において、前記装置は、さらに選択ユニットとミキシングユニットを含み、
前記送信ユニットは、さらにメディアデータストリームにはオーディオデータストリームが含まれる時、ミキシングエンジンにおけるセレクタにより取得されたマルチオーディオデータストリームを同一デバイス群にあるミキサーに送信するために用いられ、前記マルチオーディオデータストリームがそれぞれ異なるデバイス群における第4のインタフェース機からのものであり、
前記選択ユニットは、ミキサーにより前記マルチオーディオデータストリームから目標オーディオデータストリームを選択するために用いられ、
前記送信ユニットは、目標インタフェース機に当選通知を送信するために用いられ、前記目標インタフェース機が前記目標オーディオデータストリームを発生させる会議アクセス端末に接続されるインタフェース機であり、
前記受信ユニット1001は、さらに前記ミキサーにより前記目標インタフェース機から送信された目標オーディオデータストリームを受信するために用いられ、
前記ミキシングユニットは、前記目標オーディオデータストリームをミキシングするために用いられ、
前記転送ユニット1002は、さらにミキシングしたオーディオデータストリームを前記第4のインタフェース機に対応するセレクタに転送するために用いられ、前記第4のインタフェース機が前記目標インタフェース機を含み、
前記送信ユニットは、さらに、前記第4のインタフェース機がその所属しているデバイス群におけるその他のインタフェース機にミキシングしたオーディオデータストリームを転送するように、前記第4のインタフェース機に対応するセレクタによりミキシングしたオーディオデータストリームを前記第4のインタフェース機に送信するために用いられる。
【0090】
1つの可能な実施形態において、前記装置は、さらに処理ユニットを含み、
前記処理ユニットは、ロボット端末により前記会議ルームで生成されたメディアデータストリームをプルし、前記メディアデータストリームを処理するために用いられる。
【0091】
本出願の実施例は、AV会議を実現するための電子デバイスを提供し、該電子デバイスは端末であってもよく、端末がスマートフォンであることを例にして説明する。
【0092】
図11は、本出願の実施例が提供する端末に関連するスマートフォンの一部構成のブロック図を示す。
図11を参照して、スマートフォンは、RF(Radio Frequency)回路1110、メモリ1120、入力ユニット1130、表示ユニット1140、センサー1150、オーディオ回路1160、WiFi(wireless fidelity)モジュール1170、プロセッサ1180、及び電源1190などの部材を含む。入力ユニット1130はタッチパネル1131及び他の入力デバイス1132を含んでもよく、表示ユニット1140は表示パネル1141を含んでもよく、オーディオ回路1160はスピーカ1161とマイクロフォン1162を含んでもよい。当業者であれば理解できるように、
図11に示すスマートフォンの構成はスマートフォンを限定しなく、図面よりも多く、又は少ない部材を含んでもよく、或いはある部材を組み合わせて、或いは異なる部材を配置する。
【0093】
メモリ1120は、ソフトウェアプログラム及びモジュールを記憶するために用いられてもよく、プロセッサ1180は、メモリ1120に記憶されるソフトウェアプログラム及びモジュールを実行することにより、スマートフォンの種々機能応用及びデータ処理を実行する。メモリ1120は主に記憶プログラム区と記憶データ区を含み、ここで、記憶プログラム区はオペレーティングシステム、少なくとも1つの機能に必要なアプリケーションプログラム(例えば音声再生機能、画像再生機能など)などを記憶することができ、記憶データ区はスマートフォンの使用に基づいて作成されたデータ(例えばオーディオデータ、電話帳など)等などを記憶することができる。なお、メモリ1120は高速ランダムアクセスメモリを含んでもよく、不揮発性メモリを含んでもよく、例えば少なくとも1つのディスクメモリデバイス、フラッシュメモリデバイス、又は他の揮発性ソリッドステートメモリデバイスである。
【0094】
プロセッサ1180はスマートフォンの制御センターであって、種々のインタフェースと回線を利用して全体のスマートフォンの個々部分を接続し、メモリ1120に記憶されたソフトウェアプログラム及び/又はモジュールを運行又は実行することで、及びメモリ1120に記憶されたデータを呼び出すことで、スマートフォンの種々の機能と処理データを実行し、スマートフォンに対して全体的に監視する。好ましく、プロセッサ1180は1つ又は複数の処理ユニットを含んでもよく、好ましく、プロセッサ1180は応用プロセッサとモデムプロセッサを集積してもよく、ここで、応用プロセッサは主にオペレーティングシステム、ユーザーインタフェース及びアプリケーションプログラムなどを処理し、モデムプロセッサは主に無線通信を処理する。理解できるように、上記モデムプロセッサはプロセッサ1180に集積されなくてもよい。
【0095】
本実施例では、前記実施例において端末によって実行されるステップは、
図2に示す構成に基づいて実現されてもよい。
【0096】
該電子デバイスはさらにサーバーを含んでもよく、本出願の実施例はさらにサーバーを提供し、
図12に示すように、
図12は本出願の実施例が提供するサーバー1200の構成図であり、サーバー1200は配置又は性能の違いによって比較的な大きい相違を発生させ、1つ又は1つ以上の中央プロセッサ(Central Processing Units:CPU)1222(例えば、1つ又は1つ以上のプロセッサ)とメモリ1232、及び1つ又は1つ以上のアプリケーションプログラム1242又はデータ1244を記憶する記憶媒体1230(例えば1つ又は1つ以上の大容量記憶デバイス)を含んでもよい。ここで、メモリ1232と記憶媒体1230は一過性記憶又は持続性記憶であってもよい。記憶媒体1230に記憶されるプログラムは1つ又は1つ以上のモジュール(図示せず)を含んでもよく、それぞれのモジュールはサーバーに対する一連コマンド操作を含んでもよい。さらに、中央プロセッサ1222は記憶媒体1230と通信するように設置されてもよく、サーバー1200上で記憶媒体1230における一連コマンド操作を実行する。
【0097】
サーバー1200は1つ又は1つ以上の電源1226、1つ又は1つ以上の有線や無線ネットワークインタフェース1250、1つ又は1つ以上の入出力インタフェース1258、及び/又は、例えばWindows Server TM、Mac OS X TM、Unix TM、Linux TM、FreeBSD TMなどの1つ又は1つ以上のオペレーティングシステム1241を含んでもよい。
【0098】
本実施例では、前記サーバー1200における中央プロセッサ1222は以下のステップを実行することができる。即ち
前記第1のデバイス群における第1のインタフェース機のプルストリーム要求を受信し、前記プルストリーム要求にはメディアデータストリームの第1の識別情報が含まれ、前記第1のデバイス群が複数のデバイス群のうちのいずれか1つのデバイス群であり、前記複数のデバイス群のうちデバイス群ごとにバックソースデバイスがあり、デバイス群ごとには複数のインタフェース機が含まれ、前記複数のインタフェース機のうちのそれぞれのインタフェース機は、前記会議アクセス端末がインタフェース機を介して会議ルームにアクセスするように、会議アクセス端末を接続するために用いられ、前記第1のインタフェース機が前記第1のデバイス群におけるいずれか1つのインタフェース機である。
【0099】
前記第1の識別情報に対応する前記メディアデータストリームを前記第1のインタフェース機に転送することで、前記第1のインタフェース機は前記メディアデータストリームを対応する会議アクセス端末に転送し、前記メディアデータストリームは前記第1のデバイス群におけるバックソースデバイスにより第2のデバイス群における第2のインタフェース機から取得され、前記メディアデータストリームを発生させる会議アクセス端末が前記第2のインタフェース機を介して前記会議ルームにアクセスされ、前記第2のデバイス群が前記複数のデバイス群のうちのいずれか1つのデバイス群である。
【0100】
本出願の1つの態様によれば、コンピュータ読み取り可能な記憶媒体を提供し、前記コンピュータ読み取り可能な記憶媒体はプログラムコードを記憶するために用いられ、プログラムコードが電子デバイス上で実行される時、前記個々実施例に記載のAV会議実現方法を電子デバイスに実行させる。
【0101】
本出願の1つの態様によれば、コンピュータプログラム製品又はコンピュータプログラムを提供し、該コンピュータプログラム製品又はコンピュータプログラムはコンピュータコマンドを含み、該コンピュータコマンドがコンピュータ読み取り可能な記憶媒体に記憶される。電子デバイスのプロセッサはコンピュータ読み取り可能な記憶媒体から該コンピュータコマンドを読み取り、プロセッサが該コンピュータコマンドを実行して、上記実施例の種々好ましい実施形態において提供される方法を該電子デバイスに実行させる。
【0102】
本出願の明細書および上記図面における「第1」、「第2」、「第3」、「第4」などの用語(存在する場合)は、類似のオブジェクトを区別するために使用され、必ずしも特定の順序またはシーケンスを記述するために使用されるわけではない。このように使用されるデータは、ここに記述される本出願の実施例が、例えばここに図示または記述される以外の順序で実施できるように、適切な状況下で交換可能であると理解される。なお、「含む」と「有する」という用語、及びそれらの任意変形は、非排他的な包含をカバーすることを意図しており、例えば、一連のステップ又はユニットを含む過程、方法、システム、製品又はデバイスは必ずしも明確的にリストされているそれらのステップ又はユニットに限定されなく、明確的にリストされないもの又はこれらの過程、方法、製品又はデバイスに対する固有的な他のステップ又はユニットを含んでもよい。
【0103】
本出願が提供するいくつかの実施例では、記載されるシステム、装置及び方法は、その他の方式により実現されてもよいと理解される。例えば、以上の記述した装置の実施例は模式的なものにすぎなく、例えば、前記ユニットの区画は、ただ一種論理機能の区画であり、実際に実現する時、別の区画方式を有してもよく、例えば、複数のユニットやコンポーネントを結合又は別のシステムに集積してもよく、或いはある特徴を無視してもよく、或いは実行しない。一方、表示又は討論される相互結合又は直接結合又は通信接続は、若干インタフェース、装置又はユニットの間接結合又は通信接続により実現されてもよく、電気的に、機械的に又は他の形式であってもよい。
【0104】
前記分離部材として説明されるユニットは、物理的に離してもよく、又はそうではなくてもよく、ユニット表示としての部件は物理ユニットであってもよく、又はそうではなくてもよく、即ち、1つの場所に位置してもよく、或いは複数のネットワークユニットに分布してもよい。実際の需要に応じてその中の一部又は全部ユニットを選択して本実施例の方案の目的を実現してもよい。
【0105】
また、本出願の個々実施例では、個機能ユニットは1つの処理ユニットに集積されてもよく、個々ユニットが独立に物理存在してもよく、2つ又は2つ以上のユニットが1つのユニットに集積されてもよい。上記集積されたユニットは、ハードウェアの形式を採用して実現されてもよく、ソフトウェア機能ユニットの形式を採用して実現されてもよい。
【0106】
前記集積されたユニットは、ソフトウェア機能ユニットの形式で実現されて独立的な製品として販売又は使用される時、1つのコンピュータ読み取り可能な記憶媒体に記憶されてもよい。このような理解によれば、本出願の技術案本質的に、或いは従来の技術に貢献する部分又は該技術案の全部又は部分は、ソフトウェア製品の形式で体現されてもよく、該コンピュータソフトウェア製品は1つの記憶媒体に記憶され、本出願の個々実施例に記載の方法の全部又は部分ステップを1つのコンピュータデバイス(パーソナルコンピュータ、サーバー、又はネットワークデバイスなどであってもよい)に実行させるように、若干コマンドを含む。前記記憶媒体は、USBフラッシュメモリ、移動ハードディスク、読取り専用メモリ(Read-Only Memory:ROM)、ランダムアクセスメモリ(Random Access Memory:RAM)、磁気ディスク又は光ディスクなどの種々プログラムコードを記憶できる媒体を含む。
【0107】
上記のように、以上の実施例は、ただ本出願の技術案を説明するために用いられ、それを制限しなく、前記実施例を参照して本出願を詳細的に説明したとしても、当業者は、前記各実施例に記載の技術案を修正したり、技術特徴の一部に対して均等置き換えを行ったりすることができ、これらの修正又は置き換えは、相応の技術案の本質を本出願の各実施例の技術案の精神と範囲から逸脱させないと理解される。
【符号の説明】
【0108】
301 メディア伝送ネットワーク
302 ルーム管理サブシステム
303 ミキシングエンジン
304 バイパスメディア処理システム
305 公衆交換電話ネットワーク
【手続補正書】
【提出日】2023-11-17
【手続補正2】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
AV会議実現方法であって、
第1のデバイス群におけるバックソースデバイスが、前記第1のデバイス群における第1のインタフェース機のプルストリーム要求を受信するステップであって、前記プルストリーム要求にはメディアデータストリームの第1の識別情報が含まれ、前記第1のデバイス群が複数のデバイス群のうちのいずれか1つであり、前記複数デバイス群のうちの各デバイス群にバックソースデバイスがあり、各デバイス群に複数のインタフェース機が含まれ、前記複数のインタフェース機のそれぞれは、会議アクセス端末がインタフェース機を介して会議ルームにアクセスするように、会議アクセス端末を接続するために用いられ、前記第1のインタフェース機は前記第1のデバイス群におけるいずれか1つのインタフェース機である、ステップと、
前記第1のデバイス群におけるバックソースデバイスは、前記第1のインタフェース機が前記メディアデータストリームを対応する会議アクセス端末に転送するように、前記第1の識別情報に対応する前記メディアデータストリームを前記第1のインタフェース機に転送するステップであって、前記メディアデータストリームは、前記第1のデバイス群におけるバックソースデバイスによって第2のデバイス群における第2のインタフェース機から取得されたものであり、前記メディアデータストリームを発生させる会議アクセス端末は、前記第2のインタフェース機により前記会議ルームにアクセスされるステップであって、前記第2のデバイス群は前記複数のデバイス群のうちのいずれか1つである、ステップと、を含む、AV会議実現方法。
【請求項2】
前記第1のデバイス群におけるバックソースデバイスは前記第1の識別情報に対応する前記メディアデータストリームを前記第1のインタフェース機に転送するステップは、
前記第1の識別情報に応じて、対応する前記第2のインタフェース機のメディアデータストリームを検索するステップと、
前記第2のインタフェース機のメディアデータストリームを検索して見つからないと、前記第2のインタフェース機に前記プルストリーム要求を転送するステップと、
前記第2のインタフェース機によって前記プルストリーム要求における第1の識別情報に応じて転送された前記メディアデータストリームを受信し、前記メディアデータストリームを前記第1のインタフェース機に転送するステップと、を含む、請求項1に記載の方法。
【請求項3】
対応する前記第2のインタフェース機のメディアデータストリームを検索して見つかると、前記メディアデータストリームを前記第1のインタフェース機に転送するステップをさらに含む、請求項2に記載の方法。
【請求項4】
前記第1のデバイス群と前記第2のデバイス群とが異なるローカルエリアネットワークにある場合、前記第2のインタフェース機に前記プルストリーム要求を転送するステップは、
中継エージェントデバイスを介して前記第2のインタフェース機に前記プルストリーム要求を転送するステップを含み、
前記第2のインタフェース機によって前記プルストリーム要求における第1の識別情報に応じて転送された前記メディアデータストリームを受信するステップは、前記中継エージェントデバイスを介して、前記第2のインタフェース機から転送された前記メディアデータストリームを受信するステップを含む、請求項2に記載の方法。
【請求項5】
前記第1のデバイス群におけるバックソースデバイスは、前記第1のインタフェース機により予め設定されたルールに従って特定されて得られたものであり、前記予め設定されたルールは、同一メディアデータストリームが、同一バックソースデバイスを介して、その所属しているデバイス群におけるインタフェース機にルーティングされるようなものである、請求項1~4のいずれか1項に記載の方法。
【請求項6】
第3のデバイス群における第3のインタフェース機が前記会議ルームに入ることを要求すると、前記第3のデバイス群における群内サーバーは、前記第3のインタフェース機から送信された登録要求を受信するステップであって、前記第3のデバイス群は前記複数のデバイス群のうちのいずれか1つであり、前記第3のインタフェース機は前記第3のデバイス群におけるいずれか1つのインタフェース機である、ステップと、
ローカルで前記会議ルームの情報を検索して見つからないと、前記第3のデバイス群における群内サーバーは、センターサーバーが前記第3のデバイス群における群内サーバーの第2の識別情報を第1の会議登録リストに記録し、前記第3のデバイス群における群内サーバーに登録成功情報を返送するように、前記センターサーバーに前記登録要求を送信するステップと、
前記第3のデバイス群における群内サーバーは、前記第3のインタフェース機の第3の識別情報を第2の会議登録リストに記録し、前記第3のインタフェース機に前記登録成功情報を返送するステップと、をさらに含む、請求項1~4のいずれか1項に記載の方法。
【請求項7】
ローカルで前記会議ルームの情報を検索して見つかると、前記第3のデバイス群における群内サーバーは、前記第3のインタフェース機の第3の識別情報を前記第2の会議登録リストに記録し、前記第3のインタフェース機に前記登録成功情報を返送するステップをさらに含む、請求項6に記載の方法。
【請求項8】
第3のデバイス群における第3のインタフェース機に接続される会議アクセス端末が状態変更されると、前記第3のデバイス群における群内サーバーが前記第3のインタフェース機から送信された通知メッセージを受信するステップと、
前記第3のデバイス群における群内サーバーは、前記センターサーバーが前記通知メッセージをそれぞれのデバイス群の群内サーバーに送信するように、前記通知メッセージを前記センターサーバーに送信するステップであって、各デバイス群の群内サーバーは、前記通知メッセージを登録成功されたインタフェース機に送信するために用いられる、ステップと、をさらに含む、請求項6に記載の方法。
【請求項9】
第3のデバイス群における第3のインタフェース機が参加リストのプルを要求すると、前記第3のデバイス群における群内サーバーが前記第3のインタフェース機のリストプル要求を受信するステップと、
ローカルで前記参加リストを検索して見つからない場合、前記第3のデバイス群における群内サーバーが、前記センターサーバーに前記リストプル要求を送信するステップと、
前記第3のデバイス群における群内サーバーが前記センターサーバーから送信された前記参加リストを受信し、前記参加リストを前記第3のインタフェース機に送信するステップと、さらに含む、請求項6に記載の方法。
【請求項10】
前記第3のデバイス群における群内サーバーは、ローカルで前記参加リストを検索して見つかり、且つ前記参加リストの有効期限が切れない場合、前記参加リストを前記第3のインタフェース機に返送するステップ、をさらに含む、請求項6に記載の方法。
【請求項11】
メディアデータストリームにオーディオデータストリームが含まれる場合、ミキシングエンジンにおけるセレクタを介して、取得されたマルチオーディオデータストリームを同一デバイス群にあるミキサーに送信するステップであって、前記マルチオーディオデータストリームのそれぞれは、異なるデバイス群における第4のインタフェース機からのものである、ステップと、
ミキサーにより前記マルチオーディオデータストリームのうちから目標オーディオデータストリームを選択し、目標インタフェース機に当選の通知を送信するステップであって、前記目標インタフェース機は前記目標オーディオデータストリームを発生させる会議アクセス端末に接続されるインタフェース機である、ステップと、
前記ミキサーを介して前記目標インタフェース機によって送信される目標オーディオデータストリームを受信し、前記目標オーディオデータストリームをミキシングするステップと、
ミキシングされたオーディオデータストリームを前記第4のインタフェース機に対応するセレクタに転送するステップであって、前記第4のインタフェース機は前記目標インタフェース機を含む、ステップと、
前記第4のインタフェース機がその所属しているデバイス群における他のインタフェース機に前記ミキシングされたオーディオデータストリームを転送するように、前記第4のインタフェース機に対応するセレクタにより、ミキシングされたオーディオデータストリームを前記第4のインタフェース機に送信するステップと、を含む、請求項1~4のいずれか1項に記載の方法。
【請求項12】
ロボット端末により前記会議ルームで生成されたメディアデータストリームをプルし、前記メディアデータストリームを処理するステップをさらに含む、請求項1~4のいずれか1項に記載の方法。
【請求項13】
AV会議実現装置であって、
第1のデバイス群における第1のインタフェース機のプルストリーム要求を受信するために用いられる受信ユニットであって、前記プルストリーム要求にメディアデータストリームの第1の識別情報が含まれ、前記第1のデバイス群が複数デバイス群のうちのいずれか1つであり、前記複数のデバイス群のうちの各デバイス群にバックソースデバイスがあり、各デバイス群に複数のインタフェース機が含まれ、前記複数のインタフェース機のそれぞれは、会議アクセス端末がインタフェース機を介して会議ルームにアクセスするように、会議アクセス端末を接続するために用いられ、前記第1のインタフェース機は前記第1のデバイス群のうちのいずれか1つである、受信ユニットと、
前記第1のインタフェース機が前記メディアデータストリームを対応する会議アクセス端末に転送するように、前記第1の識別情報に対応する前記メディアデータストリームを前記第1のインタフェース機に転送するために用いられる転送ユニットであって、前記メディアデータストリームは前記第1のデバイス群におけるバックソースデバイスによって第2のデバイス群における第2のインタフェース機から取得されたものであり、前記メディアデータストリームを発生させる会議アクセス端末は、前記第2のインタフェース機により前記会議ルームにアクセスされ、前記第2のデバイス群が前記複数のデバイス群のうちのいずれか1つである、転送ユニットと、を含む、AV会議実現装置。
【請求項14】
AV会議システムであって、
前記AV会議システムはデータ伝送ネットワークとルーム管理サブシステムを含み、
前記データ伝送ネットワークは会議ルームで生成されたメディアデータストリームを伝送するために用いられ、前記データ伝送ネットワークは複数のデバイス群を含み、それぞれのデバイス群は複数のインタフェース機を含み、
前記複数のインタフェース機のそれぞれは、前記会議アクセス端末がインタフェース機を介して前記会議ルームにアクセスするように、会議アクセス端末を接続するために用いられ、
前記複数のデバイス群のうちの各デバイス群にバックソースデバイスがあり、第1のデバイス群におけるバックソースデバイスは、前記第1のデバイス群における第1のインタフェース機のプルストリーム要求を受信し、前記プルストリーム要求にはメディアデータストリームの第1の識別情報が含まれ、前記第1の識別情報に対応する前記メディアデータストリームを前記第1のインタフェース機に転送するために用いられ、前記メディアデータストリームは、前記第1のデバイス群におけるバックソースデバイスによって第2のデバイス群における第2のインタフェース機から取得されたものであり、前記メディアデータストリームを発生させる会議アクセス端末は、前記第2のインタフェース機により前記会議ルームにアクセスされ、前記第1のデバイス群と前記第2のデバイス群は、それぞれ前記複数のデバイス群のうちのいずれか1つであり、
前記第1のインタフェース機は前記第1のデバイス群におけるいずれか1つのインタフェース機であり、前記第1のインタフェース機は、前記メディアデータストリームを対応する会議アクセス端末に転送するために用いられ、
前記ルーム管理サブシステムは、前記複数のデバイス群とセンターサーバーを含み、それぞれのデバイス群に群内サーバーが含まれ、前記群内サーバーは、前記センターサーバーが前記会議ルームを管理することを補助するために用いられる、AV会議システム。
【請求項15】
AV会議実現のための電子デバイスであって、
前記電子デバイスはプロセッサ及びメモリを含み、
前記メモリは、プログラムコードを記憶し、前記プログラムコードを前記プロセッサに伝送するために用いられ、
前記プロセッサは、前記プログラムコードにおけるコマンドに応じて、請求項1~12のいずれか1項に記載の方法を実行するために用いられる、AV会議実現のための電子デバイス。
【請求項16】
コンピュータプログラ
ムであって、
前記コンピュータプログラ
ムが実行されるとき、電子デバイスに請求項1~12のいずれか1項に記載の方法を実行させる、コンピュータプログラ
ム。
【国際調査報告】