特許 7584054 ライブ配信審査の方法、ライブ配信審査の装置、サーバーおよび記憶媒体

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-11-07

(45)【発行日】2024-11-15

(54)【発明の名称】ライブ配信審査の方法、ライブ配信審査の装置、サーバーおよび記憶媒体

(51)【国際特許分類】

   G06Q 50/10 20120101AFI20241108BHJP

【ＦＩ】

G06Q50/10

【請求項の数】 10

(21)【出願番号】P 2023540184

(86)(22)【出願日】2021-12-27

(65)【公表番号】

(43)【公表日】2024-02-01

(86)【国際出願番号】 CN2021141704

(87)【国際公開番号】W WO2022143541

(87)【国際公開日】2022-07-07

【審査請求日】2023-06-29

(31)【優先権主張番号】202011613190.6

(32)【優先日】2020-12-30

(33)【優先権主張国・地域又は機関】CN

【早期審査対象出願】

(73)【特許権者】

【識別番号】320010240

【氏名又は名称】ビゴ テクノロジー ピーティーイー． リミテッド

【住所又は居所原語表記】３０ ＰＡＳＩＲ ＰＡＮＪＡＮＧ ＲＯＡＤ，＃１５－３１Ａ，ＭＡＰＬＥＴＲＥＥ ＢＵＳＩＮＥＳＳ ＣＩＴＹ，ＳＩＮＧＡＰＯＲＥ １１７４４０

(74)【代理人】

【識別番号】100108453

【弁理士】

【氏名又は名称】村山 靖彦

(74)【代理人】

【識別番号】100110364

【弁理士】

【氏名又は名称】実広 信哉

(74)【代理人】

【識別番号】100133400

【弁理士】

【氏名又は名称】阿部 達彦

(72)【発明者】

【氏名】李 益永

(72)【発明者】

【氏名】▲孫▼ 准

(72)【発明者】

【氏名】黄 秋▲実▼

(72)【発明者】

【氏名】井 雪

(72)【発明者】

【氏名】▲項▼ ▲偉▼

【審査官】原 忠

(56)【参考文献】

【文献】特開２０２０－１５４８４０（ＪＰ，Ａ）

【文献】米国特許第０８７８８４４２（ＵＳ，Ｂ１）

【文献】中国特許出願公開第１０９７６６８０７（ＣＮ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｑ １０／００ － ９９／００

(57)【特許請求の範囲】

【請求項1】

ライブ配信審査の装置により実施されるライブ配信審査の方法であって、
カスケード接続された高精度審査モデルと高リコール審査モデルにより、審査すべきライブルームにおける現在のライブフレームに対して初期違反審査を行うことと、
前記現在のライブフレームが前記初期違反審査に合格した場合、前記高精度審査モデルにおける前記現在のライブフレームの第１の違反スコア、前記高リコール審査モデルにおける前記現在のライブフレームの第２の違反スコア、および前記審査すべきライブルームにおける前記現在のライブフレームの多次元挙動特徴を、予め構築された挙動審査モデルに入力することにより、前記現在のライブフレームのターゲット違反スコアを得ることと、
を含み、
前記第１の違反スコア及び前記第２の違反スコアは、前記現在のライブフレームのビジョン画面特徴を表しており、前記多次元挙動特徴は、前記審査すべきライブルームにおける複数のライブ配信インタラクション挙動を表しており、前記ターゲット違反スコアは、前記ビジョン画面特徴と前記多次元挙動特徴との結合特徴を表しており、
前記カスケード接続された高精度審査モデルと高リコール審査モデルにより、審査すべきライブルームにおける現在のライブフレームに対して初期違反審査を行うことは、
前記審査すべきライブルームにおける現在のライブフレームを予め構築された高精度審査モデルに入力することにより、前記現在のライブフレームの第１の違反スコアを得ることと、
前記第１の違反スコアがプリセット正確な違反閾値を超えていない場合、前記現在のライブフレームを予め構築された高リコール審査モデルに入力し続けることにより、前記現在のライブフレームの第２の違反スコアを得ることと、
を含み、
前記現在のライブフレームの第１の違反スコアが前記プリセット正確な違反閾値を超えておらず、かつ前記現在のライブフレームの第２の違反スコアがプリセットリコール違反閾値を超えていないことに応じて、前記現在のライブフレームが前記初期違反審査に合格することになる、方法。

【請求項2】

前記高精度審査モデルにおける前記現在のライブフレームの第１の違反スコア、前記高リコール審査モデルにおける前記現在のライブフレームの第２の違反スコア、および前記審査すべきライブルームにおける前記現在のライブフレームの多次元挙動特徴を、予め構築された挙動審査モデルに入力することにより、前記現在のライブフレームのターゲット違反スコアを得ることは、
前記高精度審査モデルにおける前記現在のライブフレームの第１の違反スコア、前記高リコール審査モデルにおける前記現在のライブフレームの第２の違反スコア、および前記審査すべきライブルームにおける前記現在のライブフレームの多次元挙動特徴をマージすることにより、前記現在のライブフレームのライブ配信挙動特徴を得ることと、
前記ライブ配信挙動特徴を前記挙動審査モデルに入力することにより、前記現在のライブフレームのターゲット違反スコアを得ることと、
を含む、請求項１に記載の方法。

【請求項3】

前記挙動審査モデルは、以下のステップ、即ち、
履歴ライブ動画セットにおける各履歴ライブ動画から対応する履歴ライブフレームを抽出し、各履歴ライブフレームのその自身が位置するライブルームにおける多次元履歴挙動特徴及び前記履歴ライブフレームの違反ラベルを確定するステップと、
各履歴ライブフレームに対して、前記高精度審査モデルにおける前記履歴ライブフレームの第１の履歴違反スコア、前記高リコール審査モデルにおける前記履歴ライブフレームの第２の履歴違反スコア、および前記履歴ライブフレームのその自身が位置するライブルームにおける多次元履歴挙動特徴を、予め構築された挙動審査モデルに入力することにより、前記履歴ライブフレームの履歴違反スコアを得るステップと、
各履歴ライブフレームの履歴違反スコアと違反ラベルとの間の差異を最小化することを目標として、前記挙動審査モデルを絶えず最適化するステップと、
を実行することによりモデル化される、請求項１に記載の方法。

【請求項4】

前記高精度審査モデルにおける前記現在のライブフレームの第１の違反スコア、前記高リコール審査モデルにおける前記現在のライブフレームの第２の違反スコア、および前記審査すべきライブルームにおける前記現在のライブフレームの多次元挙動特徴を、予め構築された挙動審査モデルに入力することにより、前記現在のライブフレームのターゲット違反スコアを得ることの後、
前記ターゲット違反スコアがプリセット挙動違反閾値を超えた場合、前記審査すべきライブルームのライブ配信情報を手動審査プラットフォームにプッシュすることと、
前記ターゲット違反スコアが前記プリセット挙動違反閾値を超えていない場合、プリセットライブ配信時間を置いた後、前記審査すべきライブルームから新しい現在のライブフレームを収集し、前記新しい現在のライブフレームに対して違反審査を継続することと、 をさらに含む、請求項１に記載の方法。

【請求項5】

前記審査すべきライブルームにおけるライブ配信インタラクティブ項目をリアルタイムで監視し、前記ライブ配信インタラクティブ項目がプリセットインタラクティブ閾値を超えた場合、前記審査すべきライブルームのライブ配信情報を前記手動審査プラットフォームにプッシュし、前記審査すべきライブルームにおける現在のライブフレームに対する違反審査を停止すること
をさらに含む、請求項４に記載の方法。

【請求項6】

前記第１の違反スコアが前記プリセット正確な違反閾値を超え、または前記第２の違反スコアがプリセットリコール違反閾値を超えた場合、前記審査すべきライブルームのライブ配信情報を手動審査プラットフォームにプッシュすること
をさらに含む、請求項１に記載の方法。

【請求項7】

前記高精度審査モデルの訓練サンプルは、訓練サンプルセットにおける簡単なポジティブサンプルと簡単なネガティブサンプルから構成され、前記高リコール審査モデルの訓練サンプルは、訓練サンプルセットにおけるハードポジティブサンプルとハードネガティブサンプルから構成される、請求項１から６のいずれか一項に記載の方法。

【請求項8】

カスケード接続された高精度審査モデルと高リコール審査モデルにより、審査すべきライブルームにおける現在のライブフレームに対して初期違反審査を行うように構成される初期審査モジュールと、
前記現在のライブフレームが前記初期違反審査に合格した場合、前記高精度審査モデルにおける前記現在のライブフレームの第１の違反スコア、前記高リコール審査モデルにおける前記現在のライブフレームの第２の違反スコア、および前記審査すべきライブルームにおける前記現在のライブフレームの多次元挙動特徴を、予め構築された挙動審査モデルに入力することにより、前記現在のライブフレームのターゲット違反スコアを得るように構成される違反スコア確定モジュールと、
を含み、
前記第１の違反スコア及び前記第２の違反スコアは、前記現在のライブフレームのビジョン画面特徴を表しており、前記多次元挙動特徴は、前記審査すべきライブルームにおける複数のライブ配信インタラクション挙動を表しており、前記ターゲット違反スコアは、前記ビジョン画面特徴と前記多次元挙動特徴との結合特徴を表しており、
前記初期審査モジュールは、さらに、
前記審査すべきライブルームにおける現在のライブフレームを予め構築された高精度審査モデルに入力することにより、前記現在のライブフレームの第１の違反スコアを得て、前記第１の違反スコアがプリセット正確な違反閾値を超えていない場合、前記現在のライブフレームを予め構築された高リコール審査モデルに入力し続けることにより、前記現在のライブフレームの第２の違反スコアを得るために使用され、
前記現在のライブフレームの第１の違反スコアが前記プリセット正確な違反閾値を超えておらず、かつ前記現在のライブフレームの第２の違反スコアがプリセットリコール違反閾値を超えていないことに応じて、前記現在のライブフレームが前記初期違反審査に合格することになる、ライブ配信審査の装置。

【請求項9】

１つ以上のプロセッサと、
１つ以上のプログラムを記憶するように構成される記憶装置と、
を含み、
前記１つ以上のプログラムが前記１つ以上のプロセッサによって実行される際に、前記１つ以上のプロセッサに請求項１から６のいずれか一項に記載の方法を実現させる、ライブ配信審査のサーバー。

【請求項10】

コンピュータプログラムが記憶され、前記コンピュータプログラムがプロセッサによって実行される際に、請求項１から６のいずれか一項に記載の方法を実現する、非一時的なコンピュータ可読記憶媒体。

【発明の詳細な説明】

【技術分野】

【0001】

本出願は、２０２０年１２月３０日に中国特許庁に提出された出願番号第２０２０１１６１３１９０.６号の中国特許出願の優先権を主張し、その全ての内容を参照により本出願に援用する。

【0002】

本出願は、インターネットリソースにおける違反コンテンツ審査の分野に関し、例えばライブ配信審査の方法、ライブ配信審査の装置、サーバーおよび記憶媒体に関するものである。

【背景技術】

【0003】

インターネット技術の急速な発展に伴い、インターネット上のライブ配信プラットフォームもますます多くなり、インターネットリソースの拡散はますます広がっている。同時に、一部のライブルームのライブ配信コンテンツがテロ、暴力、ポルノ、政治的機密などの話題に触れる可能性があるため、大量の不正なライブ配信コンテンツがインターネット上で急速に拡散される可能性があるので、このようなライブルームに対して、不正なライブ配信コンテンツの拡散を防止するように、不正なライブ配信コンテンツが存在するかどうかをリアルタイムで検出する必要がある

【0004】

通常、単一特徴訓練のニューラルネットワークモデルを用いて、ライブ配信中の複数のライブ動画フレームに反映される生中継視覚特徴とライブ音声における生中継オーディオ特徴に対して違反コンテンツ分析を行い、複数のライブ動画フレームに違反画面が存在するかどうかを判断したり、ライブ音声にテロ、暴力、ポルノ、政治的機密などの話題に関連する違反オーディオが存在するかどうかを判断したりすることにより、疑わしい違反ライブルームを審査し、手動審査プラットフォームに手動審査を行うようにプッシュする。この場合、ライブ配信中にライブ動画フレームとライブ音声を抽出する場合、ライブ配信ネットワークが不安定で抽出結果が正確ではないという問題があるため、抽出されたライブ動画フレームとライブ音声を利用してライブルームに違反コンテンツが存在するかどうかを審査する場合、ライブルームに対する違反審査の正確率とリコール率を保証することができず、誤審査や審査漏れという問題が生じやすくなる。

【発明の概要】

【課題を解決するための手段】

【0005】

本出願では、ライブ配信審査の方法、ライブ配信審査の装置、サーバーおよび記憶媒体に関し、ライブ配信審査における誤審査や審査漏れを回避し、ライブ配信審査の正確率とリコール率を向上させる。

【0006】

本出願は、ライブ配信審査の方法に関し、当該方法は、
カスケード接続された高精度審査モデルと高リコール審査モデルにより、審査すべきライブルームにおける現在のライブフレームに対して初期違反審査を行うことと、
前記現在のライブフレームが初期違反審査に合格した場合、前記高精度審査モデルにおける前記現在のライブフレームの第１の違反スコア、前記高リコール審査モデルにおける前記現在のライブフレームの第２の違反スコア、および前記審査すべきライブルームにおける前記現在のライブフレームの多次元挙動特徴を、予め構築された挙動審査モデルに入力することにより、前記現在のライブフレームのターゲット違反スコアを得ることと、を含み、ここで、前記カスケード接続された高精度審査モデルと高リコール審査モデルにより、審査すべきライブルームにおける現在のライブフレームに対して初期違反審査を行うことは、前記審査すべきライブルームにおける現在のライブフレームを予め構築された高精度審査モデルに入力することにより、前記現在のライブフレームの第１の違反スコアを得ることと、前記第１の違反スコアがプリセット正確な違反閾値を超えていない場合、前記現在のライブフレームを予め構築された高リコール審査モデルに入力し続けることにより、前記現在のライブフレームの第２の違反スコアを得ることと、を含み、ここで、前記現在のライブフレームの第１の違反スコアが前記プリセット正確な違反閾値を超えておらず、かつ前記現在のライブフレームの第２の違反スコアがプリセットリコール違反閾値を超えていないことに応じて、前記現在のライブフレームが前記初期違反審査に合格することになる。

【0007】

本出願は、ライブ配信審査の装置に関し、当該装置は、
カスケード接続された高精度審査モデルと高リコール審査モデルにより、審査すべきライブルームにおける現在のライブフレームに対して初期違反審査を行うように構成される初期審査モジュールと、
前記現在のライブフレームが初期違反審査に合格した場合、前記高精度審査モデルにおける前記現在のライブフレームの第１の違反スコア、前記高リコール審査モデルにおける前記現在のライブフレームの第２の違反スコア、および前記審査すべきライブルームにおける前記現在のライブフレームの多次元挙動特徴を、予め構築された挙動審査モデルに入力することにより、前記現在のライブフレームのターゲット違反スコアを得るように構成される違反スコア確定モジュールと、を含み、ここで、前記初期審査モジュールは、具体的に、前記審査すべきライブルームにおける現在のライブフレームを予め構築された高精度審査モデルに入力することにより、前記現在のライブフレームの第１の違反スコアを得て、前記第１の違反スコアがプリセット正確な違反閾値を超えていない場合、前記現在のライブフレームを予め構築された高リコール審査モデルに入力し続けることにより、前記現在のライブフレームの第２の違反スコアを得るために使用され、ここで、前記現在のライブフレームの第１の違反スコアが前記プリセット正確な違反閾値を超えておらず、かつ前記現在のライブフレームの第２の違反スコアがプリセットリコール違反閾値を超えていないことに応じて、前記現在のライブフレームが前記初期違反審査に合格することになる。

【0008】

本出願は、ライブ配信審査のサーバーに関し、当該サーバーは、
１つ以上のプロセッサと、
１つ以上のプログラムを記憶するように構成される記憶装置と、
を含み、
前記１つ以上のプログラムが前記１つ以上のプロセッサによって実行される際に、前記１つ以上のプロセッサに本出願の任意の実施例に記載されたライブ配信審査の方法を実現させる。

【0009】

本出願は、非一時的なコンピュータ可読記憶媒体に関し、コンピュータ可読記憶媒体にコンピュータプログラムが記憶され、当該コンピュータプログラムがプロセッサによって実行される際に、本出願の任意の実施例に記載されたライブ配信審査の方法を実現する。

【図面の簡単な説明】

【0010】

【図1A】本出願の実施例１によるライブ配信審査の方法のフローチャートである。

【図1B】本出願の実施例１によるライブ配信審査プロセスの原理概略図である。

【図2A】本出願の実施例２によるライブ配信審査の方法のフローチャートである。

【図2B】本出願の実施例２によるライブ配信審査プロセスの原理概略図である。

【図3A】本出願の実施例３によるライブ配信審査の方法のフローチャートである。

【図3B】本出願の実施例３によるライブ配信審査プロセスの原理概略図である。

【図4】本出願の実施例４によるライブ配信審査の装置の構造概略図である。

【図5】本出願の実施例５によるサーバーの構造概略図である。

【発明を実施するための形態】

【0011】

以下、図面および実施例を参照して本出願を説明する。本明細書に記載された実施例は、本出願を限定するものではなく、本出願を説明するためのものである。なお、説明を容易にするために、図面には、構成全体ではなく、本出願に関連する部分のみが示されている。また、矛盾しない場合、本出願における実施例及び実施例における特徴を互いに組み合わせることができる。

【0012】

実施例１

【0013】

図１Ａは、本出願の実施例１によるライブ配信審査の方法のフローチャートであり、本実施例は、ライブルームにおけるライブ配信画面に対して違反審査を行う場合に適用することができる。本実施例によるライブ配信審査の方法は、本出願の実施例によるライブ配信審査の装置によって実行されてもよく、当該装置は、ソフトウェアおよび／またはハードウェアによって実現されることができ、本方法を実行するサーバーに統合され、当該サーバーは、動画審査機能を搭載したバックグラウンド・サーバーであってもよい。

【0014】

図１Ａを参照すると、当該方法は、以下のステップを含み得る。

【0015】

Ｓ１１０では、カスケード接続された高精度審査モデルと高リコール審査モデルにより、審査すべきライブルームにおける現在のライブフレームに対して初期違反審査を行う。

【0016】

ライブルームの対象とする視聴者のタイプが広いため、一部のライブルームのライブ配信コンテンツがテロ、暴力、ポルノ、政治的機密などの話題に及ぶと、違反コンテンツがインターネット上で急速に拡散されるので、違反コンテンツがユーザーの生活に与える悪影響を防止するためには、ライブ配信中に、不正なライブ配信コンテンツが存在するかどうかをリアルタイムで検出する必要がある。

【0017】

本実施例では、ライブ配信違反審査の全面性を保証するために、ライブ配信審査の審査プロセス全体を初期違反審査と再違反審査の２つの部分に分ける。この場合、ライブ配信審査において誤審査や審査漏れが存在するという問題を回避するために、初期違反審査プロセスでは、違反の有無を容易に区別する比較的に明らかな違反ライブ配信を迅速に審査することができ、再違反審査プロセスでは、初期違反審査よりも高い審査力を採用して、初期違反審査により違反コンテンツの有無を正確に判断できないライブフレームに対して再び違反審査を行うことで、審査すべきライブルームにおける現在のライブフレームの全面的な違反審査が保証される。

【0018】

本実施例において、初期違反審査プロセスでは、高精度審査モデルと高リコール審査モデルの２つのネットワークモデルを予め構築し、ここで、高精度審査モデルは、高精度の違反審査能力を備え、高精度審査モデルによって審査すべきライブルームにおける現在のライブフレームに対して違反審査を行う場合、審査された違反ライブフレームが真実違反である可能性が高いことを保証でき、違反の誤監査が発生するという問題が回避される。同時に、高リコール審査モデルは、高リコール性の違反審査能力を備え、高リコール審査モデルによって審査すべきライブルームにおける現在のライブフレームに対して違反審査を行う場合、現在のライブフレームにわずかな違反コンテンツが存在しても審査されることをできるだけ保証でき、違反の審査漏れが発生するという状況を減らす。

【0019】

本実施例では、高精度審査モデルと高リコール審査モデルを訓練する際に、訓練サンプルセットを予め構築し、当該訓練サンプルセットには、複数種類のライブルーム内の履歴ライブ動画における履歴ライブフレームが含まれ、同時に各履歴ライブフレームが実際に違反しているかどうか、および違反しているかどうかが正確に審査される難易度に応じて、訓練サンプルセットにおける各訓練サンプルを簡単なポジティブサンプル、簡単なネガティブサンプル、ハードポジティブサンプル、及びハードネガティブサンプルの４種類に分けることができ、簡単なポジティブサンプルと簡単なネガティブサンプルは、モデルによって違反するかどうかが識別されやすいポジティブサンプルとネガティブサンプルをそれぞれ指し、ハードポジティブサンプルとハードネガティブサンプルは、モデルによって違反するかどうかが識別されにくいポジティブサンプルとネガティブサンプルをそれぞれ指し、この場合、高精度審査モデルが違反審査の精度に対して高い要求を持っているため、当該高精度審査モデルの訓練サンプルが訓練サンプルセットにおける簡単なポジティブサンプルと簡単なネガティブサンプルから構成されることができ、簡単なポジティブサンプルと簡単なネガティブサンプルに違反コンテンツが存在するかどうかを審査することにより、当該高精度審査モデルのモデルパラメータとネットワーク構造などを絶えず最適化することができ、高リコール審査モデルが違反審査のリコール性に対して高い要求を持っているため、当該高リコール審査モデルの訓練サンプルが訓練サンプルセットにおけるハードポジティブサンプルとハードネガティブサンプルから構成される構成されることができ、違反の有無の審査が困難である訓練サンプルを採用して審査訓練を行うことにより、当該高リコール審査モデルが審査されにくい違反ライブフレームに直面しても審査することができ、この結果、違反審査に対する高リコール審査モデルの高いリコール能力を保証する。

【0020】

同時に、高精度審査モデルが違反審査の精度のみを訓練し、違反の審査漏れの状況が存在するが、高リコール審査モデルが高リコールの違反審査能力を備え、違反の審査漏れの状況をできるだけ減らすことができるので、初期違反審査の高精度と高リコール性を保証するために、本実施例では、図１Ｂに示されたように、高精度審査モデルと高リコール審査モデルをカスケード接続することができ、これにより、まず、高精度審査モデルを用いて審査すべきライブルームにおける各現在のライブフレームに対して初期の違反審査を行い、高精度審査モデルによって違反の有無が審査されなかった現在のライブフレームに対して、高リコール審査モデルによって違反審査を継続し、カスケード接続された２層の審査モデルを用いて順次に違反審査を行い、本実施例における初期違反審査プロセスが完了し、初期違反審査の高精度と高リコール性を保証する。

【0021】

本実施例では、審査すべきライブルームの動画のライブ配信中に、プリセット時間毎に（例えば、２ｓ毎に）、本実施例における現在のライブフレームとして、審査すべきライブルームから１枚のライブ画像をキャプチャすることができ、当該現在のライブフレームを２層のカスケードネットワークにおける高精度審査モデルに入力し、当該高精度審査モデルによって当該現在のライブフレームに違反コンテンツが存在するかどうかを判断し、当該現在のライブフレームが当該高精度審査モデルの違反審査に合格した場合、当該高精度審査モデルは、当該現在のライブフレームに違反コンテンツが存在しないと判断したことになるが、高精度審査モデルによる違反の審査漏れの状況があるため、当該現在のライブフレームを２層のカスケードネットワークにおける高リコール審査モデルに再度入力し、当該高リコール審査モデルによって当該現在のライブフレームに違反コンテンツが存在するかどうかを判断し続ける必要があり、これにより、審査すべきライブルームにおける現在のライブフレームに対する初期違反審査が完了する。

【0022】

この場合、当該現在のライブフレームに対する高リコール審査モデルの違反審査結果には２つのケースがあり、ケース１として、高リコール審査モデルによる違反審査に合格しない場合、当該高リコール審査モデルによって当該現在のライブフレームに違反コンテンツが存在すると確認できることを示し、当該現在のライブフレームが存在する審査すべきライブルームが違反ライブルームであると直接に確認し、ケース２として、高リコール審査モデルによる違反審査に合格しない場合、当該高リコール審査モデルによって当該現在のライブフレームに違反コンテンツが存在しないと判断できることを示し、この後、予め構築された挙動審査モデルを使用して、当該現在のライブフレームに対して違反審査を継続する必要がある。

【0023】

Ｓ１２０では、現在のライブフレームが初期違反審査に合格した場合、高精度審査モデルにおける現在のライブフレームの第１の違反スコア、高リコール審査モデルにおける現在のライブフレームの第２の違反スコア、および審査すべきライブルームにおける現在のライブフレームの多次元挙動特徴を、予め構築された挙動審査モデルに入力することにより、現在のライブフレームのターゲット違反スコアを得る。

【0024】

選択肢の１つとして、審査すべきライブルームにおける現在のライブフレームが高精度審査モデルによる違反審査と高リコール審査モデルによる違反審査の両方に合格した場合、現在のライブフレームが初期違反審査に合格したことを示し、違反審査の精度と全面性を保証するために、再違反審査を継続する必要がある。

【0025】

カスケード接続された高精度審査モデルと高リコール審査モデルにより、現在のライブフレームに対して初期違反審査を行う場合、通常は現在のライブフレームのライブビジョン画面における情報に対して違反分析を行い、この場合、高精度審査モデルは、現在のライブフレームの第１の違反スコアを出力し、高リコール審査モデルは、現在のライブフレームの第２の違反スコアを出力し、当該第１の違反スコアと第２の違反スコアは、いずれも現在のライブフレームのビジョン画面特徴を表すことができる。

【0026】

しかしながら、ライブルームにおけるライブ配信コンテンツが多様性であり、且つライブルームにおけるインフルエンサーと視聴者の間では、例えばギフティング、コンテンツの公開コメント、インフルエンサーの過去の違反状況などのライブ配信コンテンツについて、インタラクティブなやり取りを行なって、ライブルームにおけるインタラクティブな行為を、現在のライブフレームに違反コンテンツが存在するかどうかを判断する参考根拠とすることもできるため、本実施例では、現在のライブフレームが初期違反審査に合格したと確定した後、現在のライブフレームに対して再違反審査を行う場合、高精度審査モデルにおける現在のライブフレームの第１の違反スコアと高リコール審査モデルにおける現在のライブフレームの第２の違反スコアに代表されるビジョン画面特徴を参照することができるほか、図１Ｂに示されたように、審査すべきライブルームにおいて現在のライブフレームが位置するライブ配信時点における、当該審査すべきライブルームにおけるインフルエンサーと視聴者との間の複数のライブ配信のインタラクティブな行為を分析することにより、当該審査すべきライブルームにおける現在のライブフレームの多次元挙動特徴を確定し、現在のライブフレームの第１の違反スコアと第２の違反スコアに代表されるビジョン画面特徴、及び審査すべきライブルームにおける複数のライブ配信のインタラクティブな行為から確定された多次元挙動特徴を組み合わせて、予め構築された挙動審査モデルに入力し、当該挙動審査モデルは、第１の違反スコアと第２の違反スコアに代表されるビジョン画面特徴、及び審査すべきライブルームにおける複数のライブ配信のインタラクティブな行為から確定された多次元挙動特徴を融合して分析し、当該現在のライブフレームに違反コンテンツが存在するかどうかを一括して判断することにより、現在のライブフレームのターゲット違反スコアを出力し、この場合、ビジョン画面特徴の多次元挙動特徴を組み合わせたマルチアングル特徴融合を採用して、当該ターゲット違反スコアを分析することにより、再違反審査を実現し、追加の審査設備を採用する必要がなく、違反審査コストを低減し、ライブルームに対する違反審査の精度とリコール性を保証する。

【0027】

本実施例による技術案では、カスケード接続された高精度審査モデルと高リコール審査モデルにより、審査すべきライブルームにおける現在のライブフレームに対して初期違反審査を行うことで、区別が容易であり且つ違反が明らかな違反ライブフレームを迅速に審査することができ、初期違反審査に合格した区別が容易ではなくまたは違反が明らかでない現在のライブフレームに対して、当該高精度審査モデルにおける現在のライブフレームの第１の違反スコアと高リコール審査モデルにおける現在のライブフレームの第２の違反スコアに加えて、審査すべきライブルームにおける当該現在のライブフレームの多次元挙動特徴を参照して、挙動審査モデルによって再び現在のライブフレームに対してビジョン画面特徴と挙動特徴を組み合わせた統一特徴分析を行うことで、当該現在のライブフレームのターゲット違反スコアを得て、審査すべきライブルームにおける現在のライブフレームの全面的な違反審査が実現され、ライブ配信審査において誤審査や審査漏れが存在するという問題が回避され、違反審査コストを低減した上で、ライブ配信審査の正確率とリコール率を向上させる。

【0028】

実施例２

【0029】

図２Ａは、本出願の実施例２によるライブ配信審査の方法のフローチャートであり、図２Ｂは、本出願の実施例２によるライブ配信審査プロセスの原理概略図である。上記実施例を踏まえて本実施例を説明する。図２Ａに示されたように、本実施例では、審査すべきライブルームにおける現在のライブフレームの再違反審査の審査プロセスと挙動審査モデルのモデル化プロセスを説明する。

【0030】

選択肢の１つとして、図２Ａに示されたように、本実施例では、以下のステップを含み得る。

【0031】

Ｓ２１０では、カスケード接続された高精度審査モデルと高リコール審査モデルにより、審査すべきライブルームにおける現在のライブフレームに対して初期違反審査を行う。

【0032】

Ｓ２２０では、現在のライブフレームが初期違反審査に合格した場合、マージ高精度審査モデルにおける現在のライブフレームの第１の違反スコア、高リコール審査モデルにおける現在のライブフレームの第２の違反スコア、および審査すべきライブルームにおける現在のライブフレームの多次元挙動特徴をマージすることにより、現在のライブフレームのライブ配信挙動特徴を得る。

【0033】

選択肢の１つとして、現在のライブフレームが初期違反審査に合格した場合、高精度審査モデルと高リコール審査モデルによって現在のライブフレームに違反コンテンツが存在しないと判断することを示し、したがって、ライブ配信審査の精度を保証し、違反の審査漏れが発生するという状況を回避するために、現在のライブフレームのビジョン画面特徴と挙動特徴を利用して、当該現在のライブフレームに対して再違反審査を継続し、この場合、高精度審査モデルにおける現在のライブフレームの第１の違反スコアと高リコール審査モデルにおける現在のライブフレームの第２の違反スコアが確認され、第１の違反スコアと第２の違反スコアを現在のライブフレームに対応するビジョン画面特徴とし、同時に現在のライブフレームのライブ配信時点における、審査すべきライブルームにおける複数のライブ配信のインタラクティブな行為に応じて、審査すべきライブルームにおける現在のライブフレームの多次元挙動特徴を確定し、第１の違反スコア、第２の違反スコア及び多次元挙動特徴をマージすることにより、現在のライブフレームのライブ配信挙動特徴を再違反審査におけるマルチアングル融合特徴として得て、この後当該ライブ配信挙動特徴を用いて現在のライブフレームに違反コンテンツが存在するかどうかを判断し、ライブ配信審査の全面性と精度を保証することができる。

【0034】

例示的には、本実施例におけるライブ配信挙動特徴は、Ｘ＝（ｘ１，ｘ２，…，ｘ１１）であってもよく、ここで、ｘ１は高精度審査モデルにおける現在のライブフレームの第１の違反スコアであり、ｘ２は高リコール審査モデルにおける現在のライブフレームの第２の違反スコアであり、ｘ３は多次元挙動特徴のうちの審査すべきライブルームにおけるライブ配信のリアルタイム視聴の数であり、ｘ４は多次元挙動特徴のうちの審査すべきライブルームにおけるユーザーから送信したコメントの数であり、ｘ５は多次元挙動特徴のうちの審査すべきライブルームにおける違反コメントの数であり、ｘ６は多次元挙動特徴のうちの審査すべきライブルームにおける違反コメントが全てのコメントに占める割合であり、ｘ７は多次元挙動特徴のうちの審査すべきライブルームにおけるギフティングの数であり、ｘ８は多次元挙動特徴のうちの審査すべきライブルームにおけるインフルエンサーの過去の違反回数であり、ｘ９は多次元挙動特徴のうちの審査すべきライブルームにおけるインフルエンサーの過去の違反の割合であり、ｘ１０は多次元挙動特徴のうちの審査すべきライブルームにおけるインフルエンサーの過去音声の違反回数であり、ｘ１１は多次元挙動特徴のうちの審査すべきライブルームにおけるインフルエンサーの過去音声の違反割合である。

【0035】

ライブ配信違反審査の精度を保証するために、本実施例における多次元挙動特徴を動的に構成することができ、これについて限定しない。

【0036】

Ｓ２３０では、ライブ配信挙動特徴を挙動審査モデルに入力することにより、現在のライブフレームのターゲット違反スコアを得る。

【0037】

選択肢の１つとして、ライブ配信挙動特徴を得た後、当該ライブ配信挙動特徴をマルチアングルにおける違反融合特徴として予め構築された挙動審査モデルに入力することができ、当該挙動審査モデルによって各次元における当該ライブ配信挙動特徴の特徴値を融合して分析することにより、違反コンテンツ情報を携帯しているかどうかを判断し、さらに現在のライブフレームのターゲット違反スコアを出力し、当該ターゲット違反スコアによって現在のライブフレームに違反コンテンツが存在するかどうかを判断し、ライブ配信審査の精度を向上させる。

【0038】

例示的には、本実施例では、以下のステップ、即ち、履歴ライブ動画セットにおける各履歴ライブ動画から対応する履歴ライブフレームをそれぞれ抽出し、各履歴ライブフレームのその自身が位置するライブルームにおける多次元履歴挙動特徴及び当該履歴ライブフレームの違反ラベルを確定するステップ、各履歴ライブフレームに対して、高精度審査モデルにおける当該履歴ライブフレームの第１の履歴違反スコア、高リコール審査モデルにおける当該履歴ライブフレームの第２の履歴違反スコア、および当該履歴ライブフレームのその自身が位置するライブルームにおける多次元履歴挙動特徴を、予め構築された挙動審査モデルに入力することにより、履歴ライブフレームの履歴違反スコアを得るステップ、各履歴ライブフレームの履歴違反スコアと違反ラベルとの間の差異を最小化することを目標として、挙動審査モデルを絶えず最適化するステップで挙動審査モデルをモデル化する。

【0039】

複数のライブルームの履歴ライブ動画を検索することにより、モデル化のための履歴ライブ動画セットを構築し、ライブルームに対して違反審査を行う場合、主にライブ配信におけるライブフレームに対して違反審査を行うため、履歴ライブ動画セットにおける各履歴ライブ動画に対して動画フレームの抽出を行う必要があり、例えば、プリセット時間毎に、各履歴ライブ動画から、当該履歴ライブ動画から抽出された履歴ライブフレームとして、１枚の履歴ライブ画像をキャプチャし、この場合、抽出された全ての履歴ライブフレームで当該挙動審査モデルのモデル化サンプルを構成することができる。

【0040】

この場合、挙動審査モデルのモデル化を成功させるために、モデル化プロセス中に参照する必要がある複数のモデル化特徴、及び当該挙動審査モデルのモデル化最適化目標を設定する必要があり、当該モデル化最適化目標に従って、複数のモデル化特徴における実際のモデル化状況を絶えず最適化し、例えば本実施例におけるモデル化特徴は、Ｘ＝（ｘ１，ｘ２，…，ｘ１１）であってもよく、ここで、ｘ１は高精度審査モデルにおける履歴ライブフレームの第１の履歴違反スコアであり、ｘ２は高リコール審査モデルにおける履歴ライブフレームの第２の履歴違反スコアであり、ｘ３は設定された多次元履歴挙動特徴のうちの履歴ライブフレームのその自身が位置するライブルームにおけるライブ配信のリアルタイム視聴の数であり、ｘ４は多次元履歴挙動特徴のうちの履歴ライブフレームのその自身が位置するライブルームにおけるユーザーから送信したコメントの数であり、ｘ５は多次元履歴挙動特徴のうちの履歴ライブフレームのその自身が位置するライブルームにおける違反コメントの数であり、ｘ６は多次元履歴挙動特徴のうちの履歴ライブフレームのその自身が位置するライブルームにおける違反コメントが全てのコメントに占める割合であり、ｘ７は多次元履歴挙動特徴のうちの履歴ライブフレームのその自身が位置するライブルームにおけるギフティングの数であり、ｘ８は多次元履歴挙動特徴のうちの履歴ライブフレームのその自身が位置するライブルームにおけるインフルエンサーの過去の違反回数であり、ｘ９は多次元履歴挙動特徴のうちの履歴ライブフレームのその自身が位置するライブルームにおけるインフルエンサーの過去の違反の割合であり、ｘ１０は多次元履歴挙動特徴のうちの履歴ライブフレームのその自身が位置するライブルームにおけるインフルエンサーの過去音声の違反回数であり、ｘ１１は多次元履歴挙動特徴のうちの履歴ライブフレームのその自身が位置するライブルームにおけるインフルエンサーの過去音声の違反割合である。

【0041】

複数のモデル化特徴のうちの履歴ライブフレームのその自身が位置するライブルームにおける多次元履歴挙動特徴が、履歴ライブ配信中に確定されることができるため、モデル化最適化目標に従って、継続的なモデル化最適化を行うために、図２Ｂに示されたように、各履歴ライブ動画からそれぞれ対応する履歴ライブフレームを抽出した後、履歴ライブフレームのその自身が位置するライブルームにおける履歴ライブ配信のインタラクティブな行為を判断することにより、各履歴ライブフレームのその自身が位置するライブルームにおける多次元履歴挙動特徴を確定するとともに、各履歴ライブフレームの違反ラベルを確定することができる。各履歴ライブフレームに対して、当該履歴ライブフレームを本実施例の高精度審査モデルと高リコール審査モデルにそれぞれ入力することにより、各履歴ライブフレームの第１の履歴違反スコアと第２の履歴違反スコアを得ることができ、これにより、各履歴ライブフレームの第１の履歴違反スコア、各履歴ライブフレームの第２の履歴違反スコア、及び各履歴ライブフレームのその自身が位置するライブルームにおける多次元履歴挙動特徴が、各履歴ライブフレームに対応するモデル化特徴を共同で構成し、各履歴ライブフレームに対応するモデル化特徴を当該挙動審査モデルに絶えず入力することにより、各履歴ライブフレームの履歴違反スコアを得ることができる。

【0042】

この場合、本実施例における挙動審査モデルのモデル化最適化目標について、各履歴ライブフレームの履歴違反スコアと違反ラベルとの間の差異を最小化することを目標としてもよく、したがって、履歴ライブフレームの履歴違反スコアと違反ラベルとの間の差異を最小化するという目標を達成するために、モデル化最適化中に各履歴ライブフレームの履歴違反スコアと各履歴ライブフレームの違反ラベルとの間の差異を絶えず分析し、挙動審査モデルにおける数学パラメータを最適化することにより当該差異を絶えず減少させ、この結果、最終的に最適化された後の挙動審査モデルを得て、この場合、最終的に最適化された後の挙動審査モデルは、高精度の違反審査能力を備える。

【0043】

例示的には、本実施例における挙動審査モデルのモデル化最適化目標は、

【数1】

であってもよく、ここで、ｘ^ｉはｉ番目の履歴ライブフレームのモデル化特徴であり、ｙ^ｉはｉ番目の履歴ライブフレームの違反ラベルであり、ｙ^ｉ＝１は違反コンテンツが存在することを示し、ｙ^ｉ＝０は違反コンテンツが存在しないことを示し、

【数2】

は挙動審査モデルによってｉ番目の履歴ライブフレームに対して確定された履歴違反スコアであり、

【数3】

は履歴ライブフレームからなるモデル化サンプルを表し、ｍはサンプル数であり、ｐ（ｘ^ｉ）はｘ^ｉが挙動審査モデルから得られた予測確率を表す。

【0044】

本実施例による技術案では、各履歴ライブフレームの履歴違反スコアと違反ラベルとの間の差異を最小化することをモデル化最適化目標とし、挙動審査モデルをモデル化し、挙動審査モデルによる違反審査の精度を保証し、この後、高精度審査モデルにおける審査すべきライブルーム内の現在のライブフレームの第１の違反スコア、高リコール審査モデルにおける現在のライブフレームの第２の違反スコア、および審査すべきライブルームにおける現在のライブフレームの多次元挙動特徴をマージすることにより、現在のライブフレームのライブ配信挙動特徴を得て、モデル化された後の挙動審査モデルによって当該ライブ配信挙動特徴に対してマルチアングルにおける違反特徴分析を行い、ライブ配信審査の正確率とリコール率を向上させる。

【0045】

実施例３

【0046】

図３Ａは、本出願の実施例３によるライブ配信審査の方法のフローチャートであり、図３Ｂは、本出願の実施例３によるライブ配信審査プロセスの原理概略図である。上記実施例を踏まえて本実施例を説明する。図３Ａに示されたように、本実施例では、審査すべきライブルームの違反審査プロセス全体を説明する。

【0047】

選択肢の１つとして、図３Ａに示されたように、本実施例では、以下のステップを含み得る。

【0048】

Ｓ３１０では、審査すべきライブルームにおける現在のライブフレームを予め構築された高精度審査モデルに入力することにより、現在のライブフレームの第１の違反スコアを得る。

【0049】

選択肢の１つとして、審査すべきライブルームに対して違反審査を行う場合、ライブ配信中に、ライブ配信画面に違反コンテンツが存在するかどうかをリアルタイムで検出するので、ライブ配信における現在のライブフレームに対して違反審査を行う必要がある。現在のライブフレームを予め構築された高精度審査モデルに入力し、当該高精度審査モデルによって現在のライブフレームにおけるライブ配信画面に対して初期の違反審査を行うことで、当該現在のライブフレームの第１の違反スコアを出力し、この後、当該第１の違反スコアがプリセット正確な違反閾値を超えているかどうかを判断することにより、当該現在のライブフレームに違反コンテンツが存在するかどうかを確定することができる。

【0050】

Ｓ３２０では、第１の違反スコアがプリセット正確な違反閾値を超えているかどうかを判断し、ＹＥＳの場合、Ｓ３８０を実行し、ＮＯの場合、Ｓ３３０を実行する。

【0051】

Ｓ３３０では、現在のライブフレームを予め構築された高リコール審査モデルに入力し続けることにより、前記現在のライブフレームの第２の違反スコアを得る。

【0052】

選択肢の１つとして、第１の違反スコアがプリセット正確な違反閾値を超えていない場合、高精度審査モデルは、当該現在のライブフレームに違反コンテンツが存在しないと判断したことになるが、高精度審査モデルによる違反の審査漏れの状況があるため、現在のライブフレームを予め構築された高リコール審査モデルに入力し続ける必要があり、図３Ｂに示されたように、当該高リコール審査モデルによって現在のライブフレームにおけるライブ配信画面に対して対応する違反審査を継続することにより、当該現在のライブフレームの第２の違反スコアを出力し、この後、当該第２の違反スコアがプリセットリコール違反閾値を超えているかどうかを判断することにより、当該現在のライブフレームに違反コンテンツが存在するかどうかを再び確定することができる。

【0053】

Ｓ３４０では、第２の違反スコアがプリセットリコール違反閾値を超えているかどうかを判断し、ＹＥＳの場合、Ｓ３８０を実行し、ＮＯの場合、Ｓ３５０を実行する。

【0054】

第２の違反スコアがプリセットリコール違反閾値を超えていない場合、高リコール審査モデルは、当該現在のライブフレームに違反コンテンツが存在しないと判断したことになり、つまり、現在のライブフレームが同時に高精度審査モデルによる違反審査と高リコール審査モデルによる違反審査に合格し、即ち初期違反審査に合格し、挙動審査モデルを使用して、現在のライブフレームに対して再違反審査を継続する。前記現在のライブフレームの第１の違反スコアが前記プリセット正確な違反閾値を超えておらず、かつ前記現在のライブフレームの第２の違反スコアがプリセットリコール違反閾値を超えていない場合に、前記現在のライブフレームが前記初期違反審査に合格することになる。

【0055】

Ｓ３５０では、前記高精度審査モデルにおける現在のライブフレームの第１の違反スコア、高リコール審査モデルにおける現在のライブフレームの第２の違反スコア、および審査すべきライブルームにおける現在のライブフレームの多次元挙動特徴を、予め構築された挙動審査モデルに入力することにより、現在のライブフレームのターゲット違反スコアを得る。

【0056】

Ｓ３６０では、ターゲット違反スコアがプリセットリコール違反閾値を超えているかどうかを判断し、ＹＥＳの場合、Ｓ３８０を実行し、ＮＯの場合、Ｓ３７０を実行する。

【0057】

選択肢の１つとして、挙動審査モデルを使用して現在のライブフレームのターゲット違反スコアを出力した後、異なるライブ配信処理プロセスを実行するために、ターゲット違反スコアがプリセットリコール違反閾値を超えているかどうかを判断することにより、現在のライブフレームに違反コンテンツが存在するかどうかを最終的に確認することができる。

【0058】

Ｓ３７０では、プリセットライブ配信時間を置いた後、審査すべきライブルームから新しい現在のライブフレームを収集し、新しい現在のライブフレームに対して違反審査を継続する。

【0059】

選択肢の１つとして、ターゲット違反スコアがプリセット挙動違反閾値を超えていない場合、挙動審査モデルは、現在のライブフレームに違反コンテンツが存在しないと判断したことになり、この場合、本実施例における３つのモデルは、現在のライブフレームに違反コンテンツが存在しないと判断したことになり、現在のライブフレームが非違反フレームであると確定することができ、現在、審査すべきライブルームに違反コンテンツが存在しないことを示し、この場合、ライブルームに対する違反審査のリアルタイム性を保証するために、プリセットライブ配信時間を置いた後（例えば、２ｓ毎に）、収集した新しい現在のライブフレームとして、現在のライブ配信時点で審査すべきライブルームから１枚の新しいライブ画像をキャプチャすることができ、本実施例のＳ３１０～Ｓ３８０のステップに従って、当該新しい現在のライブフレームに対して違反審査を継続することにより、ライブ配信終了または違反したライブフレームが審査されるまで、審査すべきライブルームに対してリアルタイムで違反審査を行うことができる。

【0060】

Ｓ３８０では、審査すべきライブルームのライブ配信情報を手動審査プラットフォームにプッシュする。

【0061】

選択肢の１つとして、第１の違反スコアがプリセット正確な違反閾値を超えた場合、または第２の違反スコアがプリセットリコール違反閾値を超えた場合、またはターゲット違反スコアがプリセット挙動違反閾値を超えた場合、いずれの場合でも、現在の審査に使用されたモデルは、当該現在のライブフレームに違反コンテンツが存在すると判断したことになるが、違反の誤監査が発生する状況を回避するために、図３Ｂに示されたように、本実施例では、手動審査プラットフォームを追加することにより、現在のライブフレームに違反コンテンツが存在することが確認された場合に、当該現在のライブフレームが位置する審査すべきライブルームのライブ配信情報を手動審査プラットフォームにプッシュして、さらに当該審査すべきライブルームのライブ配信コンテンツに対して手動審査を行い、この結果、ライブ配信審査の精度が保証される。

【0062】

本実施例では、審査すべきライブルームのライブ配信情報は、審査すべきライブルームのライブ配信先やライブ配信中の動画画面などであってもよく、これについて限定しない。

【0063】

Ｓ３９０では、審査すべきライブルームにおけるライブ配信インタラクティブ項目をリアルタイムで監視し、ライブ配信インタラクティブ項目がプリセットインタラクティブ閾値を超えた場合、審査すべきライブルームのライブ配信情報を手動審査プラットフォームにプッシュし、審査すべきライブルームにおける現在のライブフレームに対する違反審査を停止する。

【0064】

選択肢の１つとして、違反審査の異常状況の発生を回避し、ライブ配信審査の高リコール率を保証するために、本実施例では、モデルを構築することでライブ配信違反審査を実現した上で、審査すべきライブルームにおけるライブ配信インタラクティブ項目をリアルタイムで監視することで、手動審査プラットフォームに直接にプッシュして手動審査を行う必要があるかどうかを判断し、手動審査をライブ配信審査の審査異常最低保障プランとする。この場合、当該ライブ配信インタラクティブ項目には、審査すべきライブルームにおけるライブ配信視聴数やギフティング数などが含まれ、これをもとで審査すべきライブルームの視聴者層の広さを分析することができ、ライブ配信インタラクティブ項目がプリセットインタラクティブ閾値を超えた場合、審査すべきライブルームのライブ配信の視聴率が高いことを意味し、違反コンテンツが発生すると、迅速に拡散してしまうので、ライブ配信違反審査の効率性を確保するために、審査すべきライブルームのライブ配信情報を手動審査プラットフォームに直接にプッシュして手動審査を行うとともに、構築された複数のモデルを使用して審査すべきライブルームにおける現在のライブフレームに対して違反審査を行うことを停止する必要がある。

【0065】

本実施例による技術案では、現在のライブフレームに違反コンテンツが存在することが確定された後、審査すべきライブルームのライブ配信情報を手動審査プラットフォームに直接にプッシュして手動審査を行い、違反の誤監査が発生することを回避し、ライブ配信違反審査の精度を高める。同時に、審査すべきライブルームにおけるライブ配信インタラクティブ項目を利用して、ライブ配信審査の異常の最低保障プランを追加設定し、ライブ配信違反審査の全面性を保証する。

【0066】

実施例４

【0067】

図４は、本出願の実施例４によるライブ配信審査の装置の構造概略図である。図４に示されたように、当該装置は、
カスケード接続された高精度審査モデルと高リコール審査モデルにより、審査すべきライブルームにおける現在のライブフレームに対して初期違反審査を行うように構成される初期審査モジュール４１０と、
前記現在のライブフレームが初期違反審査に合格した場合、前記高精度審査モデルにおける前記現在のライブフレームの第１の違反スコア、前記高リコール審査モデルにおける前記現在のライブフレームの第２の違反スコア、および前記審査すべきライブルームにおける前記現在のライブフレームの多次元挙動特徴を、予め構築された挙動審査モデルに入力することにより、前記現在のライブフレームのターゲット違反スコアを得るように構成される違反スコア確定モジュール４２０と、
を含み得る。

【0068】

本実施例による技術案では、カスケード接続された高精度審査モデルと高リコール審査モデルにより、審査すべきライブルームにおける現在のライブフレームに対して初期違反審査を行うことで、区別が容易であり且つ違反が明らかな違反ライブフレームを迅速に審査することができ、初期違反審査に合格した区別が容易ではなくまたは違反が明らかでない現在のライブフレームに対して、当該高精度審査モデルにおける現在のライブフレームの第１の違反スコアと高リコール審査モデルにおける現在のライブフレームの第２の違反スコアに加えて、審査すべきライブルームにおける当該現在のライブフレームの多次元挙動特徴を参照して、挙動審査モデルによって再び現在のライブフレームに対してビジョン画面特徴と挙動特徴を組み合わせた統一特徴分析を行うことで、当該現在のライブフレームのターゲット違反スコアを得て、審査すべきライブルームにおける現在のライブフレームの全面的な違反審査が実現され、ライブ配信審査において誤審査や審査漏れが存在するという問題が回避され、違反審査コストを低減した上で、ライブ配信審査の正確率とリコール率を向上させる。

【0069】

本実施例による配信審査の装置は、上記のいずれかの実施例によるライブ配信審査の方法に適用可能であり、対応する機能及び効果を有する。

【0070】

実施例５

【0071】

図５は、本出願の実施例５によるサーバーの構造概略図であり、図５に示されたように、当該サーバーは、プロセッサ５０、記憶装置５１及び通信装置５２を含む。サーバーに含まれたプロセッサ５０の数は、１つ以上であってもよく、図５では１つのプロセッサ５０を例にする。サーバーに含まれたプロセッサ５０、記憶装置５１及び通信装置５２は、バス又は他の方法で接続されることができ、図５ではバスによる接続を例にする。

【0072】

本実施例によるサーバーは、上記のいずれかの実施例によるライブ配信審査の方法を実行するように構成されてもよく、対応する機能及び効果を有する。

【0073】

実施例６

【0074】

本出願の実施例６では、非一時的なコンピュータ可読記憶媒体をさらに提供し、当該コンピュータ可読記憶媒体にはコンピュータプログラムが記憶され、当該コンピュータプログラムがプロセッサによって実行される際に、上記のいずれかの実施例によるライブ配信審査の方法を実現することができる。当該方法は、
カスケード接続された高精度審査モデルと高リコール審査モデルにより、審査すべきライブルームにおける現在のライブフレームに対して初期違反審査を行うことと、
前記現在のライブフレームが初期違反審査に合格した場合、前記高精度審査モデルにおける前記現在のライブフレームの第１の違反スコア、前記高リコール審査モデルにおける前記現在のライブフレームの第２の違反スコア、および前記審査すべきライブルームにおける前記現在のライブフレームの多次元挙動特徴を、予め構築された挙動審査モデルに入力することにより、前記現在のライブフレームのターゲット違反スコアを得ることと、
を含み得る。

【0075】

本出願の実施例では、コンピュータ実行可能命令を含む記憶媒体をさらに提供し、コンピュータ実行可能命令は、上述した方法における動作だけでなく、本出願のいずれかの実施例によるライブ配信審査の方法における関連動作を実行することができる。記憶媒体は、非一時的な（ｎｏｎ－ｔｒａｎｓｉｔｏｒｙ）記憶媒体であってもよい。

【0076】

本出願は、ソフトウェアおよび必要な汎用ハードウェアによって実現されてもよいし、ハードウェアによって実現されてもよい。本出願の技術案は、ソフトウェア製品として具現化することができ、当該コンピュータソフトウェア製品は、コンピュータのフロッピーディスク、読み取り専用メモリ（Ｒｅａｄ－Ｏｎｌｙ Ｍｅｍｏｒｙ、ＲＯＭ）、ランダム・アクセス・メモリ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ、ＲＡＭ）、フラッシュ（ＦＬＡＳＨ）、ハードディスクまたは光ディスクなどのコンピュータ可読記憶媒体に記憶されることができ、１台のコンピュータデバイス（パーソナルコンピュータ、サーバー、またはネットワークデバイスなどであってもよい）に、本出願の複数の実施例に記載された方法を実行させるための複数の命令を含む。

【0077】

上記ライブ配信審査の装置の実施例では、含まれる複数のユニット及びモジュールは、機能論理に従って区分されたものであるが、上記の区分に限定されるものではなく、対応する機能を実現できればよい。なお、複数の機能ユニットの名称は、相互の区別を容易にするためのものであり、本出願の保護範囲を限定するものではない。

【符号の説明】

【0078】

５０ プロセッサ
５１ 記憶装置
５２ 通信装置
４１０ 初期審査モジュール
４２０ 違反スコア確定モジュール

【図1A】

【図1B】

【図2A】

【図2B】

【図3A】

【図3B】

【図4】

【図5】