特開 2024-138241 不適切なコンテンツアイテムを特定するための方法、システム、および媒体

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024138241

(43)【公開日】2024-10-08

(54)【発明の名称】不適切なコンテンツアイテムを特定するための方法、システム、および媒体

(51)【国際特許分類】

   G06Q 50/10 20120101AFI20241001BHJP

   G06Q 50/00 20240101ALI20241001BHJP

【ＦＩ】

G06Q50/10

G06Q50/00 300

【審査請求】有

【請求項の数】1

【出願形態】ＯＬ

【外国語出願】

(21)【出願番号】P 2024091357

(22)【出願日】2024-06-05

(62)【分割の表示】P 2021568081の分割

【原出願日】2019-05-13

(71)【出願人】

【識別番号】502208397

【氏名又は名称】グーグル エルエルシー

【氏名又は名称原語表記】Ｇｏｏｇｌｅ ＬＬＣ

【住所又は居所原語表記】１６００ Ａｍｐｈｉｔｈｅａｔｒｅ Ｐａｒｋｗａｙ ９４０４３ Ｍｏｕｎｔａｉｎ Ｖｉｅｗ， ＣＡ Ｕ．Ｓ．Ａ．

(74)【代理人】

【識別番号】100108453

【弁理士】

【氏名又は名称】村山 靖彦

(74)【代理人】

【識別番号】100110364

【弁理士】

【氏名又は名称】実広 信哉

(74)【代理人】

【識別番号】100133400

【弁理士】

【氏名又は名称】阿部 達彦

(72)【発明者】

【氏名】ヘンリー・スコット－グリーン

(72)【発明者】

【氏名】シルヴィウ・ボタ

(72)【発明者】

【氏名】クリストフ・レンナー

(57)【要約】      （修正有）

【課題】不適切なコンテンツアイテムを特定するための方法、システム及び媒体を提供する。
【解決手段】方法は、ユーザデバイスからメディアコンテンツプラットフォーム（ＰＦ）上でユーザ生成コンテンツを提供するための要求を受信し、回避基準に基づいてユーザ生成コンテンツが審査ユーザによって審査されるべきであるかどうかを決定し、審査要求を審査ユーザのキューに追加し、コンテンツがＰＦ上で提供されるべきであると判断するかどうかを決定し、コンテンツがＰＦのポリシーに違反すると決定した場合、違反したポリシーとユーザに課されるべきペナルティとを示すメッセージをユーザデバイスに送信し、ＰＦ上でコンテンツが提供されるのを妨げる行動をとり、違反しないと決定した場合、コンテンツがＰＦ上で提供するのに適格であることを示すメッセージをユーザデバイスに送信する。
【選択図】図２

【特許請求の範囲】

【請求項1】

不適切なコンテンツアイテムを特定するための方法であって、
ユーザと関連付けられるユーザデバイスからサーバにおいて、メディアコンテンツプラットフォーム上でユーザ生成コンテンツを提供するための要求を受信するステップと、
前記要求を受信したことに応答して、1つまたは複数の回避基準に基づいて、前記ユーザ生成コンテンツが1人または複数の審査ユーザによって審査されるべきであるかどうかを決定するステップと、
前記1つまたは複数の回避基準に基づいて、前記ユーザ生成コンテンツが審査されるべきであると決定したことに応答して、審査ユーザのキューに審査要求を追加するステップであって、前記審査要求が、前記ユーザ生成コンテンツと、前記ユーザに対応するユーザアカウントと関連付けられる情報とを含む、ステップと、
前記ユーザ生成コンテンツが前記メディアコンテンツプラットフォーム上で提供されるべきであることを、前記審査要求に応答する判断が示すかどうかを決定するステップとを備え、
前記ユーザ生成コンテンツアイテムが前記メディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーに違反することを前記判断が示すと決定したことに応答して、(i)前記少なくとも1つの違反されたポリシーと、前記ユーザに対応する前記ユーザアカウントに課されるべきペナルティとを示す第1のメッセージが、前記ユーザデバイスの前記ユーザに送信され、(ii)前記メディアコンテンツプラットフォーム上で前記ユーザ生成コンテンツが提供されるのを妨げる対応する行動がとられ、
前記ユーザ生成コンテンツアイテムが前記メディアコンテンツプラットフォームと関連付けられる前記少なくとも1つのポリシーに違反しないことを前記判断が示すと決定したことに応答して、前記ユーザ生成コンテンツが前記メディアコンテンツプラットフォーム上で提供するのに適格であることを示す第2のメッセージが、前記ユーザデバイスの前記ユーザに送信される、方法。

【請求項2】

前記ユーザがコンテンツ制作者であり、ユーザ生成コンテンツを提供するための前記要求が、前記メディアコンテンツプラットフォームと関連付けられるストレージデバイスに前記ユーザ生成コンテンツを記憶するためのアップロード要求を含む、請求項1に記載の方法。

【請求項3】

前記ユーザがコンテンツ制作者であり、ユーザ生成コンテンツを提供するための前記要求が、前記メディアコンテンツプラットフォームを使用してライブストリームを始めるための開始要求を含む、請求項1に記載の方法。

【請求項4】

前記ユーザが審査者であり、ユーザ生成コンテンツを提供するための前記要求が、コンテンツ制作者と対話するコンテンツ機能を含む、請求項1に記載の方法。

【請求項5】

前記ユーザが前記メディアコンテンツプラットフォーム上で前記ユーザ生成コンテンツを提供するのに適格であるかどうかを、
前記メディアコンテンツプラットフォームに以前に提供された他のユーザ生成コンテンツに基づいて、前記ユーザの前記ユーザアカウントと関連付けられるリスクを示すリスクスコアを計算することと、
前記ユーザ生成コンテンツのコンテンツタイプに対応する閾値リスクスコアと前記リスクスコアを比較することとによって決定するステップをさらに備え、前記ユーザが、前記閾値リスクスコアとの前記リスクスコアの前記比較に基づいて、前記ユーザ生成コンテンツを提供するのに適格であると見なされる、請求項1に記載の方法。

【請求項6】

前記ユーザの前記ユーザアカウントと関連付けられる聴衆情報に基づいて、前記ユーザが前記メディアコンテンツプラットフォーム上で前記ユーザ生成コンテンツを提供するのに適格であるかどうかを決定するステップをさらに備える、請求項1に記載の方法。

【請求項7】

前記ユーザの前記ユーザアカウントと関連付けられる位置情報に基づいて、前記ユーザが前記メディアコンテンツプラットフォーム上で前記ユーザ生成コンテンツを提供するのに適格であるかどうかを決定するステップをさらに備える、請求項1に記載の方法。

【請求項8】

前記ユーザアカウントと関連付けられる以前のポリシー違反に対する強制行動に基づいて、前記ユーザが前記メディアコンテンツプラットフォーム上で前記ユーザ生成コンテンツを提供するのに適格であるかどうかを決定するステップをさらに備える、請求項1に記載の方法。

【請求項9】

前記審査ユーザの前記キューに第2の審査要求を送信することによって、前記ユーザが前記メディアコンテンツプラットフォーム上で前記ユーザ生成コンテンツを提供するのに適格であるかどうかを決定するステップをさらに備え、前記第2の審査要求が、前記ユーザに対応する前記ユーザアカウントと関連付けられる情報を含み、前記ユーザアカウントと関連付けられる前記情報が前記メディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーに違反するかどうかを決定するように前記審査ユーザに促す、請求項1に記載の方法。

【請求項10】

前記メディアコンテンツプラットフォーム上で前記ユーザ生成コンテンツを提供するための前記要求を受信したことに応答して、前記審査要求に応答する前記判断がいつ提供されるべきかを示すタイミング指示が提示されるようにするステップをさらに備える、請求項1に記載の方法。

【請求項11】

前記メディアコンテンツプラットフォーム上で前記ユーザ生成コンテンツの視聴者からフラグを受け取るステップであって、前記フラグがポリシー違反の可能性を示す、ステップと、
後続の審査要求を受信したことに応答して、前記ユーザ生成コンテンツを以前に審査した前記審査ユーザの前記キューに前記後続の審査要求を追加するステップであって、前記後続の審査要求が前記ユーザ生成コンテンツおよび前記視聴者からの前記フラグを含み、前記ユーザ生成コンテンツが、前記後続の審査要求に応答する判断が受信されるまで、前記メディアコンテンツプラットフォーム上での提供が制約される、ステップとをさらに備える、請求項1に記載の方法。

【請求項12】

1つまたは複数の回避基準に基づいて、前記ユーザ生成コンテンツが1人または複数の審査ユーザによって審査されるべきであるかどうかを決定するステップが、
前記ユーザ生成コンテンツに類似する第2のユーザ生成コンテンツを特定するステップであって、前記第2のユーザ生成コンテンツが以前に審査されている、ステップと、
前記第2のユーザ生成コンテンツに対する前記ユーザ生成コンテンツの類似性に基づいて、前記ユーザ生成コンテンツが前記1人または複数の審査ユーザによって審査されるべきではないと決定するステップとをさらに備える、請求項1に記載の方法。

【請求項13】

前記第2のユーザ生成コンテンツが前記メディアコンテンツプラットフォーム上で利用可能にされるのを以前に制約されたと決定するステップと、
前記第2のユーザ生成コンテンツが前記メディアコンテンツプラットフォーム上で利用可能にされるのを以前に制約されたと決定したことに応答して、前記ユーザ生成コンテンツが前記メディアコンテンツプラットフォーム上で利用可能にされるのを妨げる前記対応する行動を実行するステップとをさらに備え、前記第1のメッセージが、前記第2のユーザ生成コンテンツに基づいて前記制約を示す、請求項12に記載の方法。

【請求項14】

前記ユーザ生成コンテンツが前記1人または複数の審査ユーザによって審査されるべきであるかどうかを決定するステップが、前記ユーザ生成コンテンツおよび前記ユーザ生成コンテンツに関するコンテンツのうちの少なくとも1つが閾値の数の視聴者によって以前にフラグを立てられたかどうかを決定するステップをさらに備える、請求項1に記載の方法。

【請求項15】

前記ユーザ生成コンテンツが違反する前記メディアコンテンツプラットフォームと関連付けられる前記少なくとも1つのポリシーを示すように、前記ユーザと関連付けられる前記ユーザアカウントを更新するステップをさらに備える、請求項1に記載の方法。

【請求項16】

前記ユーザに対応する前記ユーザアカウントに課されるべき前記ペナルティが、前記コンテンツ制作者による以前のポリシー違反の回数に基づく、請求項1に記載の方法。

【請求項17】

前記ユーザに対応する前記ユーザアカウントに課されるべき前記ペナルティが、前記ユーザ生成コンテンツが違反する前記メディアコンテンツプラットフォームと関連付けられる前記少なくとも1つのポリシーの重大性に基づく、請求項1に記載の方法。

【請求項18】

前記ユーザデバイスから、前記判断の不服申し立て要求を受信するステップであって、前記不服申し立て要求が不服申し立てテキストを含む、ステップと、
前記ユーザ生成コンテンツが前記メディアコンテンツプラットフォーム上で提供されるのを制約されるべきであることを示す前記判断を提供した前記審査ユーザと異なる第2の審査ユーザの前記キューに、前記不服申し立てテキストおよび前記ユーザ生成コンテンツを含む前記不服申し立て要求を追加するステップと、
前記第2の審査ユーザと関連付けられるユーザデバイスから、前記不服申し立て要求に対応する不服申し立て判断を受信するステップと、
前記判断および前記不服申し立て判断に基づいて、前記ユーザ生成コンテンツに対して実行されるべき少なくとも1つの対応する行動を決定するステップとをさらに備える、請求項1に記載の方法。

【請求項19】

前記ユーザ生成コンテンツアイテムが前記メディアコンテンツプラットフォームと関連付けられる前記少なくとも1つのポリシーに違反しないことを前記判断が示すと決定したことに応答して、前記ユーザ生成コンテンツが前記メディアコンテンツプラットフォーム上で自動的に利用可能にされる時間を、前記第2のメッセージが示す、請求項1に記載の方法。

【請求項20】

不適切なコンテンツアイテムを特定するためのシステムであって、
メモリと、
ハードウェアプロセッサとを備え、前記ハードウェアプロセッサは、前記メモリに記憶されているコンピュータ実行可能命令を実行すると、
ユーザと関連付けられるユーザデバイスから、メディアコンテンツプラットフォーム上でユーザ生成コンテンツを提供するための要求を受信し、
前記要求を受信したことに応答して、1つまたは複数の回避基準に基づいて、前記ユーザ生成コンテンツが1人または複数の審査ユーザによって審査されるべきであるかどうかを決定し、
前記1つまたは複数の回避基準に基づいて、前記ユーザ生成コンテンツが審査されるべきであると決定したことに応答して、審査ユーザのキューに審査要求を追加し、前記審査要求が、前記ユーザ生成コンテンツと、前記ユーザに対応するユーザアカウントと関連付けられる情報とを含み、
前記ユーザ生成コンテンツが前記メディアコンテンツプラットフォーム上で提供されるべきであることを、前記審査要求に応答する判断が示すかどうかを決定する
ように構成され、
前記ユーザ生成コンテンツアイテムが前記メディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーに違反することを前記判断が示すと決定したことに応答して、(i)前記少なくとも1つの違反されたポリシーと、前記ユーザに対応する前記ユーザアカウントに課されるべきペナルティとを示す第1のメッセージが、前記ユーザデバイスの前記ユーザに送信され、(ii)前記メディアコンテンツプラットフォーム上で前記ユーザ生成コンテンツが提供されるのを妨げる対応する行動がとられ、
前記ユーザ生成コンテンツアイテムが前記メディアコンテンツプラットフォームと関連付けられる前記少なくとも1つのポリシーに違反しないことを前記判断が示すと決定したことに応答して、前記ユーザ生成コンテンツが前記メディアコンテンツプラットフォーム上で提供するのに適格であることを示す第2のメッセージが、前記ユーザデバイスの前記ユーザに送信される、システム。

【請求項21】

プロセッサによって実行されると、不適切なコンテンツアイテムを特定するための方法を前記プロセッサに実行させるコンピュータ実行可能命令を含む非一時的コンピュータ可読媒体であって、前記方法が、
ユーザと関連付けられるユーザデバイスから、メディアコンテンツプラットフォーム上でユーザ生成コンテンツを提供するための要求を受信するステップと、
前記要求を受信したことに応答して、1つまたは複数の回避基準に基づいて、前記ユーザ生成コンテンツが1人または複数の審査ユーザによって審査されるべきであるかどうかを決定するステップと、
前記1つまたは複数の回避基準に基づいて、前記ユーザ生成コンテンツが審査されるべきであると決定したことに応答して、審査ユーザのキューに審査要求を追加するステップであって、前記審査要求が、前記ユーザ生成コンテンツと、前記ユーザに対応するユーザアカウントと関連付けられる情報とを含む、ステップと、
前記ユーザ生成コンテンツが前記メディアコンテンツプラットフォーム上で提供されるべきであることを、前記審査要求に応答する判断が示すかどうかを決定するステップとを備え、
前記ユーザ生成コンテンツアイテムが前記メディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーに違反することを前記判断が示すと決定したことに応答して、(i)前記少なくとも1つの違反されたポリシーと、前記ユーザに対応する前記ユーザアカウントに課されるべきペナルティとを示す第1のメッセージが、前記ユーザデバイスの前記ユーザに送信され、(ii)前記メディアコンテンツプラットフォーム上で前記ユーザ生成コンテンツが提供されるのを妨げる対応する行動がとられ、
前記ユーザ生成コンテンツアイテムが前記メディアコンテンツプラットフォームと関連付けられる前記少なくとも1つのポリシーに違反しないことを前記判断が示すと決定したことに応答して、前記ユーザ生成コンテンツが前記メディアコンテンツプラットフォーム上で提供するのに適格であることを示す第2のメッセージが、前記ユーザデバイスの前記ユーザに送信される、非一時的コンピュータ可読媒体。

【発明の詳細な説明】

【技術分野】

【0001】

開示される主題は、不適切なコンテンツアイテムを特定するための方法、システム、および媒体に関する。より具体的には、開示される主題は、ユーザ生成コンテンツが1人または複数の審査者により手動で審査されるべきであるかどうか、または、1つまたは複数の基準に基づいてユーザ生成コンテンツが手動の審査が回避され得るかどうかを決定することと、ユーザ生成コンテンツに対して対応する行動をとることができるようにユーザ生成コンテンツが不適切なコンテンツであるかどうかを決定することとに関する。

【背景技術】

【0002】

メディアコンテンツプラットフォームは、ユーザがデジタルメディアコンテンツを発見して共有する主要な仕組みになっている。たとえば、コンテンツ制作者は、コンテンツ制作者が制作したビデオまたは他のコンテンツアイテムをメディアコンテンツプラットフォームにアップロードすることがあり、メディアコンテンツプラットフォームは次いで、アップロードされたコンテンツアイテムを視聴者が(たとえば、コンテンツアイテムをストリーミングすることによって、コンテンツアイテムをダウンロードすることによって、など)利用できるようにする。

【0003】

メディアコンテンツプラットフォーム上の多くのユーザ生成チャンネルは、独創的で不適切ではないコンテンツを含んでいるが、誤解を招くような、反復的な、挑発的な、卑猥な、法律を侵す、および/または「クリックベイト」のコンテンツなどの、メディアコンテンツプラットフォームのポリシーに違反し、疑わないユーザを標的にする、不適切なコンテンツが存在し得る。たとえば、ある特定のコンテンツアイテムは、メディアコンテンツプラットフォームが削除することを望むことがある、またはユーザによるアクセスを別様に防ぐのを望むことがある、暴力的なコンテンツ、不愉快な言葉、アダルトコンテンツ、薬物に関連するコンテンツ、ギャンブルのコンテンツなどの、不愉快なコンテンツを含み得る。別の例として、メディアコンテンツプラットフォームは、これらの特定のポリシーに違反するコンテンツアイテムとともにサービスの特定の機能(たとえば、コンテンツ制作者が売上を集めることを可能にする機能、および/または任意の他の適切な機能)が使用されるのを阻止することを望むことがある。

【0004】

しかしながら、ポリシーに違反するコンテンツアイテムを特定するのは難しいことがある。たとえば、あるサービスは人の審査者を使用してアップロードされたコンテンツアイテムを手動で審査し得るが、それぞれのアップロードされたコンテンツを審査してポリシー違反を特定するのは、時間がかかることがある。そのような場合、コンテンツアイテムがメディアコンテンツプラットフォームのポリシー違反によりブロックまたは削除されるべきであることを手動の審査プロセスが示すまでの任意の日数または週数の間、コンテンツアイテムはメディアコンテンツプラットフォーム上で利用可能であることがある。

【発明の概要】

【発明が解決しようとする課題】

【0005】

したがって、不適切なコンテンツアイテムを特定するための新しい方法、システム、および媒体を提供することが望ましい。

【課題を解決するための手段】

【0006】

不適切なコンテンツアイテムを特定するための方法、システム、および媒体が提供される。

【0007】

開示される主題のいくつかの実施形態によれば、不適切なコンテンツアイテムを特定するための方法が提供され、方法は、ユーザと関連付けられるユーザデバイスから、メディアコンテンツプラットフォーム上でユーザ生成コンテンツを提供するための要求を受信するステップと、要求を受信したことに応答して、1つまたは複数の回避基準に基づいて、ユーザ生成コンテンツが1人または複数の審査ユーザによって審査されるべきであるかどうかを決定するステップと、1つまたは複数の回避基準に基づいて、ユーザ生成コンテンツが審査されるべきであると決定したことに応答して、審査ユーザのキューに審査要求を追加するステップであって、審査要求が、ユーザ生成コンテンツと、ユーザに対応するユーザアカウントと関連付けられる情報とを含む、ステップと、ユーザ生成コンテンツがメディアコンテンツプラットフォーム上で提供されるべきであることを、審査要求に応答する判断が示すかどうかを決定するステップとを備え、ユーザ生成コンテンツアイテムがメディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーに違反することを判断が示すと決定したことに応答して、(i)少なくとも1つの違反されたポリシーと、ユーザに対応するユーザアカウントに課されるべきペナルティとを示す第1のメッセージが、ユーザデバイスのユーザに送信され、(ii)メディアコンテンツプラットフォーム上でユーザ生成コンテンツが提供されるのを妨げる対応する行動がとられ、ユーザ生成コンテンツアイテムがメディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーに違反しないことを判断が示すと決定したことに応答して、ユーザ生成コンテンツがメディアコンテンツプラットフォーム上で提供するのに適格であることを示す第2のメッセージが、ユーザデバイスのユーザに送信される。

【0008】

いくつかの実施形態では、ユーザはコンテンツ制作者であり、ユーザ生成コンテンツを提供するための要求は、メディアコンテンツプラットフォームと関連付けられるストレージデバイスにユーザ生成コンテンツを記憶するためのアップロード要求を含む。

【0009】

いくつかの実施形態では、ユーザはコンテンツ制作者であり、ユーザ生成コンテンツを提供するための要求は、メディアコンテンツプラットフォームを使用してライブストリームを始めるための開始要求を含む。

【0010】

いくつかの実施形態では、ユーザは審査者であり、ユーザ生成コンテンツを提供するための要求は、コンテンツ制作者と対話するコンテンツ機能を含む。

【0011】

いくつかの実施形態では、方法は、ユーザがメディアコンテンツプラットフォーム上でユーザ生成コンテンツを提供するのに適格であるかどうかを、メディアコンテンツプラットフォームに以前に提供された他のユーザ生成コンテンツに基づいて、ユーザのユーザアカウントと関連付けられるリスクを示すリスクスコアを計算することと、ユーザ生成コンテンツのコンテンツタイプに対応する閾値リスクスコアとリスクスコアを比較することとによって決定するステップをさらに備え、ユーザは、閾値リスクスコアとのリスクスコアの比較に基づいて、ユーザ生成コンテンツを提供するのに適格であると見なされる。

【0012】

いくつかの実施形態では、方法は、ユーザのユーザアカウントと関連付けられる聴衆情報に基づいて、ユーザがメディアコンテンツプラットフォーム上でユーザ生成コンテンツを提供するのに適格であるかどうかを決定するステップをさらに備える。

【0013】

いくつかの実施形態では、方法は、ユーザのユーザアカウントと関連付けられる位置情報に基づいて、ユーザがメディアコンテンツプラットフォーム上でユーザ生成コンテンツを提供するのに適格であるかどうかを決定するステップをさらに備える。

【0014】

いくつかの実施形態では、方法は、ユーザアカウントと関連付けられる以前のポリシー違反に対する強制行動に基づいて、ユーザがメディアコンテンツプラットフォーム上でユーザ生成コンテンツを提供するのに適格であるかどうかを決定するステップをさらに備える。

【0015】

いくつかの実施形態では、方法は、審査ユーザのキューに第2の審査要求を送信することによって、ユーザがメディアコンテンツプラットフォーム上でユーザ生成コンテンツを提供するのに適格であるかどうかを決定するステップをさらに備え、第2の審査要求は、ユーザに対応するユーザアカウントと関連付けられる情報を含み、ユーザアカウントと関連付けられる情報がメディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーに違反するかどうかを決定するように審査ユーザに促す。

【0016】

いくつかの実施形態では、方法は、メディアコンテンツプラットフォーム上でユーザ生成コンテンツを提供するための要求を受信したことに応答して、審査要求に応答する判断がいつ提供されるべきかを示すタイミング指示が提示されるようにするステップをさらに備える。

【0017】

いくつかの実施形態では、方法は、メディアコンテンツプラットフォーム上でユーザ生成コンテンツの視聴者からフラグを受け取るステップであって、フラグがポリシー違反の可能性を示す、ステップと、後続の審査要求を受信したことに応答して、ユーザ生成コンテンツを以前に審査した審査ユーザのキューに後続の審査要求を追加するステップであって、後続の審査要求がユーザ生成コンテンツおよび視聴者からのフラグを含み、ユーザ生成コンテンツが、後続の審査要求に応答する判断が受信されるまで、メディアコンテンツプラットフォーム上での提供が制約される、ステップとをさらに備える。

【0018】

いくつかの実施形態では、1つまたは複数の回避基準に基づいて、ユーザ生成コンテンツが1人または複数の審査ユーザによって審査されるべきであるかどうかを決定するステップは、ユーザ生成コンテンツに類似する第2のユーザ生成コンテンツを特定するステップであって、第2のユーザ生成コンテンツが以前に審査されている、ステップと、第2のユーザ生成コンテンツに対するユーザ生成コンテンツの類似性に基づいて、ユーザ生成コンテンツが1人または複数の審査ユーザによって審査されるべきではないと決定するステップとをさらに備える。いくつかの実施形態では、方法は、第2のユーザ生成コンテンツがメディアコンテンツプラットフォーム上で利用可能にされるのを以前に制約されたと決定するステップと、第2のユーザ生成コンテンツがメディアコンテンツプラットフォーム上で利用可能にされるのを以前に制約されたと決定したことに応答して、ユーザ生成コンテンツがメディアコンテンツプラットフォーム上で利用可能にされるのを妨げる対応する行動を実行するステップとをさらに備え、第1のメッセージは、第2のユーザ生成コンテンツに基づいて制約を示す。

【0019】

いくつかの実施形態では、ユーザ生成コンテンツが1人または複数の審査ユーザによって審査されるべきであるかどうかを決定するステップは、ユーザ生成コンテンツおよびユーザ生成コンテンツに関するコンテンツのうちの少なくとも1つが閾値の数の視聴者によって以前にフラグを立てられたかどうかを決定するステップをさらに備える。

【0020】

いくつかの実施形態では、方法は、ユーザ生成コンテンツが違反するメディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーを示すように、ユーザと関連付けられるユーザアカウントを更新するステップをさらに備える。

【0021】

いくつかの実施形態では、ユーザに対応するユーザアカウントに課されるべきペナルティは、コンテンツ制作者による以前のポリシー違反の回数に基づく。

【0022】

いくつかの実施形態では、ユーザに対応するユーザアカウントに課されるべきペナルティは、ユーザ生成コンテンツが違反するメディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーの重大性に基づく。

【0023】

いくつかの実施形態では、方法は、ユーザデバイスから、判断の不服申し立て要求を受信するステップであって、不服申し立て要求が不服申し立てテキストを含む、ステップと、ユーザ生成コンテンツがメディアコンテンツプラットフォーム上で提供されるのを制約されるべきであることを示す判断を提供した審査ユーザと異なる第2の審査ユーザのキューに、不服申し立てテキストおよびユーザ生成コンテンツを含む不服申し立て要求を追加するステップと、第2の審査ユーザと関連付けられるユーザデバイスから、不服申し立て要求に対応する不服申し立て判断を受信するステップと、判断および不服申し立て判断に基づいて、ユーザ生成コンテンツに対して実行されるべき少なくとも1つの対応する行動を決定するステップとをさらに備える。

【0024】

いくつかの実施形態では、ユーザ生成コンテンツアイテムがメディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーに違反しないことを判断が示すと決定したことに応答して、ユーザ生成コンテンツがメディアコンテンツプラットフォーム上で自動的に利用可能にされる時間を、第2のメッセージが示す。

【0025】

開示される主題のいくつかの実施形態によれば、不適切なコンテンツアイテムを特定するためのシステムが提供され、システムは、メモリと、ハードウェアプロセッサとを備え、ハードウェアプロセッサは、メモリに記憶されているコンピュータ実行可能命令を実行すると、ユーザと関連付けられるユーザデバイスから、メディアコンテンツプラットフォーム上でユーザ生成コンテンツを提供するための要求を受信し、要求を受信したことに応答して、1つまたは複数の回避基準に基づいて、ユーザ生成コンテンツが1人または複数の審査ユーザによって審査されるべきであるかどうかを決定し、1つまたは複数の回避基準に基づいて、ユーザ生成コンテンツが審査されるべきであると決定したことに応答して、審査ユーザのキューに審査要求を追加し、審査要求が、ユーザ生成コンテンツと、ユーザに対応するユーザアカウントと関連付けられる情報とを含み、ユーザ生成コンテンツがメディアコンテンツプラットフォーム上で提供されるべきであることを、審査要求に応答する判断が示すかどうかを決定するように構成され、ユーザ生成コンテンツアイテムがメディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーに違反することを判断が示すと決定したことに応答して、(i)少なくとも1つの違反されたポリシーと、ユーザに対応するユーザアカウントに課されるべきペナルティとを示す第1のメッセージが、ユーザデバイスのユーザに送信され、(ii)メディアコンテンツプラットフォーム上でユーザ生成コンテンツが提供されるのを妨げる対応する行動がとられ、ユーザ生成コンテンツアイテムがメディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーに違反しないことを判断が示すと決定したことに応答して、ユーザ生成コンテンツがメディアコンテンツプラットフォーム上で提供するのに適格であることを示す第2のメッセージが、ユーザデバイスのユーザに送信される。

【0026】

開示される主題のいくつかの実施形態によれば、非一時的コンピュータ可読媒体は、プロセッサによって実行されると、不適切なコンテンツアイテムを特定するための方法をプロセッサに実行させるコンピュータ実行可能命令を含み、方法は、ユーザと関連付けられるユーザデバイスから、メディアコンテンツプラットフォーム上でユーザ生成コンテンツを提供するための要求を受信するステップと、要求を受信したことに応答して、1つまたは複数の回避基準に基づいて、ユーザ生成コンテンツが1人または複数の審査ユーザによって審査されるべきであるかどうかを決定するステップと、1つまたは複数の回避基準に基づいて、ユーザ生成コンテンツが審査されるべきであると決定したことに応答して、審査ユーザのキューに審査要求を追加するステップであって、審査要求が、ユーザ生成コンテンツと、ユーザに対応するユーザアカウントと関連付けられる情報とを含む、ステップと、ユーザ生成コンテンツがメディアコンテンツプラットフォーム上で提供されるべきであることを、審査要求に応答する判断が示すかどうかを決定するステップとを備え、ユーザ生成コンテンツアイテムがメディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーに違反することを判断が示すと決定したことに応答して、(i)少なくとも1つの違反されたポリシーと、ユーザに対応するユーザアカウントに課されるべきペナルティとを示す第1のメッセージが、ユーザデバイスのユーザに送信され、(ii)メディアコンテンツプラットフォーム上でユーザ生成コンテンツが提供されるのを妨げる対応する行動がとられ、ユーザ生成コンテンツアイテムがメディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーに違反しないことを判断が示すと決定したことに応答して、ユーザ生成コンテンツがメディアコンテンツプラットフォーム上で提供するのに適格であることを示す第2のメッセージが、ユーザデバイスのユーザに送信される。

【0027】

開示される主題のいくつかの実施形態によれば、不適切なコンテンツアイテムを特定するためのシステムが提供され、システムは、ユーザと関連付けられるユーザデバイスから、メディアコンテンツプラットフォーム上でユーザ生成コンテンツを提供するための要求を受信するための手段と、要求を受信したことに応答して、1つまたは複数の回避基準に基づいて、ユーザ生成コンテンツが1人または複数の審査ユーザによって審査されるべきであるかどうかを決定するための手段と、1つまたは複数の回避基準に基づいて、ユーザ生成コンテンツが審査されるべきであると決定したことに応答して、審査ユーザのキューに審査要求を追加するための手段であって、審査要求が、ユーザ生成コンテンツと、ユーザに対応するユーザアカウントと関連付けられる情報とを含む、手段と、ユーザ生成コンテンツがメディアコンテンツプラットフォーム上で提供されるべきであることを、審査要求に応答する判断が示すかどうかを決定するための手段とを備え、ユーザ生成コンテンツアイテムがメディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーに違反することを判断が示すと決定したことに応答して、(i)少なくとも1つの違反されたポリシーと、ユーザに対応するユーザアカウントに課されるべきペナルティとを示す第1のメッセージが、ユーザデバイスのユーザに送信され、(ii)メディアコンテンツプラットフォーム上でユーザ生成コンテンツが提供されるのを妨げる対応する行動がとられ、ユーザ生成コンテンツアイテムがメディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーに違反しないことを判断が示すと決定したことに応答して、ユーザ生成コンテンツがメディアコンテンツプラットフォーム上で提供するのに適格であることを示す第2のメッセージが、ユーザデバイスのユーザに送信される。

【0028】

開示される主題の様々な目的、特徴、および利点は、同様の参照番号が同様の要素を特定する以下の図面に関連して検討されると、開示される主題の以下の詳細な説明を参照してより完全に理解され得る。

【図面の簡単な説明】

【0029】

【図1】開示される主題のいくつかの実施形態による、不適切なコンテンツアイテムを特定するための情報フロー図の説明のための例を示す図である。

【図2】開示される主題のいくつかの実施形態による、不適切なコンテンツアイテムを特定するためのプロセスの説明のための例を示す図である。

【図3】開示される主題のいくつかの実施形態による、不適切なコンテンツアイテムを特定するための本明細書において説明される機構の実装形態に適した説明のためのシステムの概略図である。

【図4】開示される主題のいくつかの実施形態による、図3のサーバおよび/またはユーザデバイスにおいて使用され得るハードウェアの詳細な例を示す図である。

【発明を実施するための形態】

【0030】

様々な実施形態に従って、不適切なコンテンツアイテムを特定するための機構(方法、システム、および媒体を含み得る)が提供される。より具体的には、開示される主題は、ユーザ生成コンテンツが1人または複数の審査者により手動で審査されるべきであるかどうか、または、1つまたは複数の基準に基づいてユーザ生成コンテンツが手動の審査が回避(bypass)され得るかどうかを決定することと、ユーザ生成コンテンツに対して対応する行動をとることができるようにユーザ生成コンテンツが不適切なコンテンツであるかどうかを決定することとに関する。

【0031】

従前の不適切コンテンツ検出システムは通常、ユーザ生成コンテンツが審査されるまで、そのようなコンテンツが公開されまたは別様に利用可能にされることを許容し、これは重大なリスクをもたらす。本明細書において開示される機構は、たとえば各コンテンツの人による審査を必要とすることなく、メディアコンテンツプラットフォーム上でユーザ生成コンテンツが利用可能にされるのを妨げながら、1つまたは複数の回避基準を満たさないユーザ生成コンテンツが確実に手動で審査されるようにする、多段階の不適切性軽減手法を提供することができる。

【0032】

いくつかの実施形態では、本明細書において説明される機構は、ユーザ生成コンテンツアイテムであるコンテンツアイテムを、コンテンツアイテムの制作者から受信することができる。ユーザ生成コンテンツアイテムは、たとえば、コンテンツ制作者によって生成されるビデオコンテンツアイテムもしくはオーディオコンテンツアイテム、オンラインチャットもしくはコメントセクションに関連してメディアコンテンツの視聴者により入力されるコメント、ユーザ生成コンテンツを生成するためのコンテンツ機能の使用、および/または任意の他の適切なタイプのユーザ生成コンテンツなどの、任意の適切なタイプのユーザ生成コンテンツを含み得る。ユーザ生成コンテンツは、ビデオコンテンツ、オーディオコンテンツ、テキストコンテンツ、ライブストリーミングされるビデオコンテンツなどの任意の適切なコンテンツを含み得ることに留意されたい。

【0033】

いくつかの実施形態では、機構は、コンテンツアイテムが1人または複数の審査者によって手動で審査されるべきであるかどうかを決定することができる。いくつかの実施形態では、ユーザ生成コンテンツが手動で審査されるべきであると決定したことに応答して、機構は、審査者(たとえば、適切なコンピューティングデバイスにおける審査ユーザ(reviewing user))によって審査されるように、コンテンツアイテムのキューにユーザ生成コンテンツを追加することができる。いくつかの実施形態では、審査者は次いで、コンテンツアイテムのキューからユーザ生成コンテンツを受信することができ、ユーザ生成コンテンツがメディアコンテンツプラットフォームのポリシーに違反するかどうかを決定するために、ユーザ生成コンテンツを審査することができる。たとえば、いくつかの実施形態では、審査者は、ユーザ生成コンテンツが、任意の特定のタイプの不愉快なコンテンツ(たとえば、暴力的なコンテンツ、不愉快な言葉、ヘイトスピーチ、アダルトコンテンツ、および/または任意の他の適切なタイプの不愉快なコンテンツ)を含むかどうかを決定することができる。いくつかの実施形態では、審査者は次いで、ユーザ生成コンテンツがメディアコンテンツプラットフォームのいずれかのポリシーに違反するかどうかを示す判断を送信することができる。いくつかの実施形態では、機構は次いで、コンテンツアイテムが機能に関連してメディアコンテンツプラットフォームに投稿されるべきであるかどうかを決定することができる。

【0034】

いくつかの実施形態では、機構は、ユーザ生成コンテンツがメディアコンテンツプラットフォームのポリシーに違反することを示す判断を第1の審査者から受信したことに応答して、異なる審査者(たとえば、検証審査者、最初の審査者より経験のある審査者など)により審査されるように、コンテンツアイテムの別のキューにユーザ生成コンテンツを追加することができることに留意されたい。この例について続けると、ユーザ生成コンテンツがメディアコンテンツプラットフォームのポリシーに違反することを両方が示す第1の審査者と第2の異なる審査者からの判断を受信したことに応答して、メディアコンテンツプラットフォームからユーザ生成コンテンツを削除すること、またはユーザ生成コンテンツがメディアコンテンツプラットフォーム上で利用可能にされるのを別様に妨げることなどの、対応する行動をとることができる。

【0035】

いくつかの実施形態では、機構は、コンテンツアイテムが任意の適切な情報に基づいて手動で審査されるべきであるかどうかを決定することができる。たとえば、いくつかの実施形態では、機構は、コンテンツ制作者が承認されたコンテンツアイテムを以前にアップロードしたかどうか、コンテンツ制作者がメディアコンテンツプラットフォームのポリシーに違反するコンテンツアイテムを以前にアップロードしたかどうか、および/またはコンテンツ制作者と関連付けられる任意の他の適切な情報などの、コンテンツ制作者と関連付けられる情報に基づいて、コンテンツアイテムが手動で審査されるべきかどうかを決定することができる。別の例として、いくつかの実施形態では、機構は、以前に審査されたコンテンツアイテムとのコンテンツアイテムの類似性に基づいて、コンテンツアイテムが手動で審査されるべきであるかどうかを決定することができる。より具体的な例として、いくつかの実施形態では、機構は、コンテンツアイテムが以前に拒絶されたコンテンツアイテムに類似すると決定することができ、アップロードされたコンテンツアイテムも拒絶されるべきであると決定することができる。いくつかの実施形態では、機構は、受信されたコンテンツアイテムの数に基づいて、コンテンツアイテムが手動で審査されるべきアイテムのキューに追加されるべきであるかどうかを決定するために使用される基準を決定することができ、それにより、割り当てられる手動の審査の量が調整されることを可能にする。

【0036】

いくつかの実施形態では、コンテンツアイテムがメディアコンテンツプラットフォームのポリシーに違反することをコンテンツアイテムの審査が示す事例では、機構は、任意の適切な情報を示すメッセージがコンテンツ制作者に送信されるようにすることができる。たとえば、いくつかの実施形態では、メッセージは、違反したポリシー、ポリシーに違反するコンテンツアイテムの部分を示すタイムスタンプ情報、ポリシー違反に対するペナルティ、および/または任意の他の適切な情報を示すことができる。いくつかの実施形態では、機構は、コンテンツ制作者による以前の違反の数、違反の重大性、および/または任意の他の適切な情報などの、任意の適切な情報に基づいてペナルティを決定することができる。加えて、いくつかの実施形態では、機構は、コンテンツアイテムがメディアコンテンツプラットフォームからブロックされ、および/またはメディアコンテンツプラットフォームから削除されるようにすることができる。

【0037】

いくつかの実施形態では、ユーザ生成コンテンツまたはユーザ生成コンテンツを生成するための機能の使用が許容可能であると決定したことに応答して(たとえば、コンテンツがメディアコンテンツプラットフォームのポリシーに違反しないと審査者が決定したことに応答して、コンテンツがメディアコンテンツプラットフォームのポリシーに違反しない可能性が高いという決定に応答して、など)、機構は、ユーザ生成コンテンツが投稿される、またはメディアコンテンツプラットフォーム上で別様に利用可能にされる具体的な時間を送信することができる(たとえば、メディアコンテンツプラットフォームの1つまたは複数のポリシーの違反に対するあらゆる審査の前にユーザ生成コンテンツを公開または投稿するのではなく、コンテンツの審査がその間に提出されるコンテンツの公開または投稿の後の遅延があるのではなく、など)。代替的に、機構は、コンテンツ制作者の指示でユーザ生成コンテンツが投稿または公開され得る具体的な時間を送信することができる。

【0038】

いくつかの実施形態では、機構は、コンテンツ制作者から判断の不服申し立てを受け取ることができる。いくつかのそのような実施形態では、機構は、不服申し立てのキューに不服申し立てを追加することができ、不服申し立ては審査者に割り当てられ得る。いくつかの実施形態では、コンテンツアイテム、不服が申し立てられている元の判断と関連付けられる情報(たとえば、違反したポリシーを示す情報、ポリシーに違反したコンテンツアイテムの部分を示すタイミング情報、および/または任意の他の適切な情報)、コンテンツ制作者からのテキスト(たとえば、コンテンツ制作者の主張、および/または任意の他の適切なテキスト)、および/または任意の他の適切な情報などの、任意の適切な情報が、不服申し立ての審査者に提供され得る。いくつかの実施形態では、次いで、不服申し立てに関する判断により、元の判断が支持されてもよく、または逆に、元の判断が撤回されてもよい。元の判断が撤回され、コンテンツアイテムがそれまでブロックされていた事例では、機構は、コンテンツアイテムをメディアコンテンツプラットフォーム上で利用可能にすることができる。

【0039】

いくつかの実施形態では、コンテンツアイテムはコンテンツ制作者から受信されてもよく、このとき、コンテンツアイテムは、コンテンツ制作者による機能の使用に関連して提供されることになる。たとえば、いくつかの実施形態では、コンテンツアイテムは、特定の機能に関連して視聴者に提供するための、メディアコンテンツプラットフォームによって受信されるメディアコンテンツアイテムであり得る。より具体的な例として、いくつかの実施形態では、機能は、メディアコンテンツプラットフォームと関連付けられるコンテンツのチャンネルの視聴者にメンバーシップサービスを提供することを含んでもよく、メンバーシップは、メンバーシップと関連付けられる任意の適切な特典(たとえば、特別なコンテンツへのアクセス、他のメンバーとのチャットルームもしくはフォーラムへのアクセス、カスタム絵文字もしくはバッジへのアクセス、および/または任意の他の適切な特典)にメンバーがアクセスするのを可能にすることができる。別のより具体的な例として、いくつかの実施形態では、機能は、コンテンツアイテムと関連付けられる、および/またはコンテンツアイテムが属するコンテンツのチャンネルと関連付けられる商品(たとえば、ブランド衣服、および/または任意の他の適切なブランド商品)を、コンテンツ制作者が提供するのを可能にすることを含み得る。機能に関する追加の詳細が、図2に関連してより詳しく以下で説明される。いくつかのそのような実施形態では、機構は、コンテンツアイテムが機能の使用に関連してユーザに提供されるのに適格であるかどうかを決定するために、コンテンツアイテムが手動で審査されるべきであるかどうかを決定することができる。たとえば、いくつかの実施形態では、図2に関連してより詳しく以下で説明されるように、機構は、コンテンツ制作者が機能を使用するのに適格であるかどうかを決定し、コンテンツアイテムが手動で審査されるべきであるかどうかを決定し、コンテンツアイテムが機能に関連して提供されるのをブロックされるべきであるかどうかなどを決定することなどができる。

【0040】

より具体的な例では、メディアコンテンツプラットフォーム上でユーザ生成コンテンツを利用可能にする前に、機構は、人の審査者および機械の審査者を使用して、ユーザ生成コンテンツを生成するためにメディアコンテンツプラットフォーム機能にアクセスするのにユーザアカウントが適格であるかどうかを決定することができる。これは、たとえば、潔白のまたは不適切ではないユーザアカウントとして評価されているユーザアカウントに、メディアコンテンツプラットフォーム機能へのアクセスを制限することができる。

【0041】

いくつかの実施形態では、本明細書において言及されるようなコンテンツアイテムは、コンテンツ制作者によって生成されアップロードされるメディア、コンテンツ制作者により生み出されるコンテンツのチャンネルと関連付けられるメンバーシップの購入と引き換えにコンテンツ制作者によって提供されるメンバーシップ特典の提供、コメントセクションもしくはソーシャルネットワーキング投稿にコンテンツの視聴者により入力されるコメント、および/または任意の他の適切なタイプのコンテンツなどの、任意の適切なタイプのユーザ生成コンテンツを指し得る。すなわち、いくつかの実施形態では、本明細書において説明される機構は、たとえば、特定のページ、フォーラム、コメントセクションなどにユーザ生成コンテンツを投稿する前に、任意の適切なタイプのユーザ生成コンテンツが手動で審査されるべきであるかどうかを決定するために使用され得る。たとえば、本明細書において説明される機構は、コメント(たとえば、コンテンツアイテムと関連付けられるコメントセクションに提出されるコメント、チャットフォーラムに提出されるコメント、ソーシャルネットワーキング投稿に提出されるコメント、および/または任意の他の適切なコメント)を審査するために使用され得る。より具体的な例として、いくつかの実施形態では、本明細書において説明される機構は、特定のコメントが手動で審査されるべきコメントのキューに追加されるべきであるかどうかを決定するために、または、コメントが削除されるべきであるかどうかを決定するために使用され得る。別の例として、いくつかの実施形態では、本明細書において説明される機構は、コンテンツ制作者によって提供されるコンテンツのチャンネルへのメンバーシップに関連してコンテンツ制作者によって提供される特典を審査するために使用され得る。より具体的な例として、いくつかの実施形態では、本明細書において説明される機構は、コンテンツ制作者によって提供される特定の特典が手動で審査されるべき特典のキューに追加されるべきであるかどうかを決定するために、および/または特定の特典が取り消されるべきである(たとえば、メディアコンテンツプラットフォームと関連付けられる任意の特定のポリシーに違反したことにより)かどうかを決定するために、使用され得る。

【0042】

図1を見ると、開示される主題のいくつかの実施形態による、不適切なコンテンツアイテムを特定するための情報フロー図の説明のための例100が示されている。示されるように、いくつかの実施形態では、プロセス100のブロックは、図3に関連して以下で示され説明されるように、コンテンツ制作者デバイス308、サーバ302、および/または審査者デバイス310上で実行され得る。

【0043】

102において、コンテンツ制作者デバイス308は、ユーザ生成コンテンツアイテムをサーバ302に送信することができる。いくつかの実施形態では、ユーザ生成コンテンツアイテムは、ビデオ、ビデオのプレイリスト、ビデオのライブストリームへのリンク、画像、アニメーション、写真、写真のスライドショー、文書、および/または任意の他の適切なタイプのコンテンツなどの、任意の適切なタイプのコンテンツを含み得る。より具体的な例では、コンテンツ制作者デバイス308は、ビデオ共有サービスのユーザアカウントと関連付けられるチャンネルで公開するためのユーザ生成コンテンツアイテムをアップロードすることができる。別の例として、いくつかの実施形態では、ユーザ生成コンテンツアイテムは、チャットルームにおいて、ライブチャットにおいて、特定のページ、メディアコンテンツアイテム、もしくはソーシャルネットワーキング投稿と関連付けられるコメントセクションにおいて投稿されるべきコンテンツ制作者デバイス308のユーザにより提出されるコメント、および/または任意の他の適切なタイプのコメントを含み得る。いくつかの実施形態では、コンテンツ制作者デバイス308は、コンテンツ制作者デバイス308と関連付けられるユーザアカウント(たとえば、サーバ302と関連付けられるメディアコンテンツプラットフォーム上のユーザアカウント、および/または任意の他の適切なユーザアカウント)に関連してユーザ生成コンテンツアイテムを送信することができる。いくつかの実施形態では、サーバ302は、アップロードされたコンテンツをホストし、メディアコンテンツプラットフォームによってホストされるコンテンツを1つまたは複数のユーザデバイスにストリーミングし、または別様に提供する、メディアコンテンツプラットフォームと関連付けられ得る。

【0044】

いくつかの実施形態では、ユーザ生成コンテンツアイテムを受信したことに応答して、サーバ302は、ユーザ生成コンテンツアイテムが1人または複数の審査ユーザによって審査されるべきであるかどうかを決定することができることに留意されたい。そして、サーバ302は、ユーザ生成コンテンツアイテムまたはユーザ生成コンテンツを生成するための機能へのアクセスが審査されていることを示す通知または他の適切なインターフェースが、コンテンツ制作者デバイス308上に提示されるようにすることができる。たとえば、通知は、審査者からの判断が受信されるまでの特定の長さの時間を示し得る。別の例では、通知は、ユーザ生成コンテンツの承認に際して更新された通知が提示されることを示すことができ、それにより、コンテンツ制作者デバイス308におけるコンテンツ制作者に、メディアコンテンツプラットフォーム上でユーザ生成コンテンツを公開すること、またはユーザ生成コンテンツをメディアコンテンツプラットフォーム上で別様に利用可能にすることの管理権を与える。

【0045】

104において、サーバ302は、審査されるべきコンテンツアイテムのキューにコンテンツアイテムを追加することができる。いくつかの実施形態では、コンテンツアイテムのキューは、人の審査者によって手動で審査されるべき、および/または任意の他の適切な方式で審査されるべき、コンテンツアイテムのキューに対応し得る。いくつかの実施形態では、サーバ302は、任意の適切な方式でキューを維持することができる。たとえば、いくつかの実施形態では、コンテンツアイテムは、コンテンツアイテムがサーバ302によって受信される時間に基づいてキューに追加され得る(たとえば、後で受信されるアイテムがキューにおいてより後に配置されるように、および/または任意の他の方式で)。別の例として、いくつかの実施形態では、コンテンツアイテムは、コンテンツ制作者デバイス308と関連付けられるコンテンツ制作者と関連付けられる情報に基づいて、キューに追加され得る。より具体的な例として、いくつかの実施形態では、サーバ302は、コンテンツ制作者の人気を(たとえば、コンテンツ制作者と関連付けられるコンテンツのチャンネルの登録者の数に基づいて、コンテンツ制作者によって生成されるコンテンツの視聴回数に基づいて、および/または任意の他の適切な情報に基づいて)決定することができ、コンテンツ制作者の人気に基づいてキューにコンテンツアイテムを置くことができる(たとえば、比較的人気のあるコンテンツ制作者から受信されたコンテンツアイテムがキュー内の比較的高い位置に挿入されてもよく、および/または任意の他の適切な方式)。いくつかの実施形態では、サーバ302は、要因の任意の適切な組合せに基づいてコンテンツアイテムのキューを維持することができる。

【0046】

図2のブロック208に関連して以下でより詳しく説明されるように、いくつかの実施形態では、サーバ302は、キューにコンテンツアイテムが追加されるべきであるかどうかを決定することができることに留意されたい。いくつかの実施形態では、サーバ302は、コンテンツアイテムが審査されるべきであると決定したことに応答して、審査されるべきコンテンツアイテムのキューにコンテンツアイテムを追加することができる。代替的に、いくつかの実施形態では、サーバ302は、ユーザ生成コンテンツアイテムが1つまたは複数の回避基準を満たすと決定し得るので、ユーザ生成コンテンツアイテムは審査されないことになり、104において審査されるべきコンテンツアイテムのキューに追加されないことになる。いくつかのそのような事例では、サーバ302は、図2のブロック208および210に関連してより詳しく以下で説明されるように、任意の適切な技法または技法の組合せを使用して、ユーザ生成コンテンツアイテムが投稿されるべきであるか削除されるべきであるか(またはメディアコンテンツプラットフォーム上で利用可能にされるのを別様に妨げられるべきであるか)を決定することができる。たとえば、いくつかの実施形態では、サーバ302は、ユーザ生成コンテンツアイテムが以前に承認されたユーザ生成コンテンツとかなり似ている(たとえば、閾値の大きさの類似性)と決定することができ、それに応答して、ユーザ生成コンテンツがメディアコンテンツプラットフォーム上で利用可能にされるのを許容することができる。別の例では、いくつかの実施形態において、サーバ302は、ユーザ生成コンテンツが以前に削除されたユーザ生成コンテンツとかなり似ている(たとえば、閾値の大きさの類似性)と決定することができ、それに応答して、ユーザ生成コンテンツを1つまたは複数の審査者に送信することなく、ユーザ生成コンテンツに自動的にフラグを立て、ユーザ生成コンテンツを削除し、または、メディアコンテンツプラットフォーム上でユーザ生成コンテンツが提供されるのを別様に妨げることができる。

【0047】

いくつかの実施形態では、サーバ302は、メディアコンテンツプラットフォームの任意の適切なユーザからのフラグなどの、ユーザ生成コンテンツがメディアコンテンツプラットフォームのポリシーに違反し得る(たとえば、ユーザ生成コンテンツ内に不愉快なコンテンツを含むことにより)ことの指示を受信することができる。そのような指示を受信したことに応答して、サーバ302は、1人または複数の審査者(たとえば、適切なコンピューティングデバイスにおける審査ユーザ)によって審査されるべきコンテンツアイテムのキューにユーザ生成コンテンツを追加することができる。これにより、たとえば、ユーザ生成コンテンツが確実に1人または複数の審査者によって審査されるようになり得る。

【0048】

106において、審査者デバイス310が、キューからコンテンツアイテムの指示を受信することができる。いくつかの実施形態では、審査者デバイス310は、任意の適切な方式で指示を受信することができる。たとえば、いくつかの実施形態では、審査者デバイス310は、審査者デバイス310のユーザがそれを通じてコンテンツアイテムを見てコンテンツアイテムに関する判断(たとえば、コンテンツアイテムがメディアコンテンツプラットフォームと関連付けられる特定のポリシーに違反することを示す判断、コンテンツアイテムがメディアコンテンツプラットフォームと関連付けられるどのようなポリシーにも違反しないことを示す判断、および/または任意の他の適切な判断)を送信するユーザインターフェースを介して、この指示を受信することができる。より具体的な例として、いくつかの実施形態では、審査者デバイス310は、コンテンツアイテムが審査されるべきアイテムのキューの一番上に達したこと、および/または、審査のために審査者デバイス310のユーザにコンテンツアイテムが割り当てられていることを示す通知を、受信することができる。いくつかのそのような実施形態では、通知は、コンテンツアイテムへのリンク、コンテンツ制作者デバイス308と関連付けられるコンテンツ制作者の名前、コンテンツアイテムと関連付けられる話題、コンテンツ制作者と関連付けられる情報(たとえば、コンテンツ制作者によって制作される以前にアップロードされたコンテンツアイテムおよび/もしくは承認されたコンテンツアイテムの数、コンテンツ制作者によって以前にアップロードされたコンテンツがポリシー違反と関連付けられた回数、ならびに/または任意の他の適切な情報)、および/または任意の他の適切な情報などの、任意の適切な情報を含み得る。

【0049】

いくつかの実施形態では、審査者デバイス310のユーザは、任意の適切な方式でこの指示に基づいて(たとえば、指示において提示されるリンクを選択することによって、および/または任意の他の適切な方式で)コンテンツアイテムを選択することができ、これにより、コンテンツアイテムが、審査者デバイス310上のビデオプレーヤウィンドウまたは任意の他の適切なユーザインターフェースに提示されるようになり得る。

【0050】

108において、審査者デバイス310が、コンテンツアイテムに関する判断を送信することができる。たとえば、いくつかの実施形態では、この判断は、コンテンツアイテムがアップロードされたメディアコンテンツプラットフォームと関連付けられる1つまたは複数のポリシーに違反するコンテンツをコンテンツアイテムが含むかどうかなどの、コンテンツアイテムに関する任意の適切な情報を示すことができる。より具体的な例として、いくつかの実施形態では、ポリシーは、暴力的なコンテンツ、性的なコンテンツ、不適切な言葉、ヘイトスピーチ、および/または任意の他の適切なタイプの不愉快なコンテンツを含むコンテンツアイテムなどの、任意の適切なポリシーを含み得る。

【0051】

いくつかの実施形態では、送信される判断は、コンテンツアイテムに含まれる不愉快なコンテンツのタイプの指示、不愉快なコンテンツを含むコンテンツアイテムの1つまたは複数の部分の指示(たとえば、ビデオのタイムスタンプに基づく、ビデオのフレームに基づく、および/または任意の他の適切な方式の)、および/または任意の他の適切な情報などの、任意の適切な情報を含み得る。いくつかの実施形態では、判断は、コンテンツアイテムがいずれのポリシーにも違反しないことを示し得ることに留意されたい。

【0052】

110において、サーバ302は、審査者デバイス310から受信された判断に基づいて、コンテンツ制作者デバイスと関連付けられるアカウントを更新することができる。たとえば、コンテンツアイテムが特定のポリシーに違反することを判断が示す事例では、サーバ302は、メディアコンテンツプラットフォームと関連付けられるポリシーに違反するコンテンツをコンテンツ制作者がアップロードした回数を示す記録を更新することができる。別の例として、コンテンツアイテムが特定のポリシーに違反しないことを判断が示す事例では、サーバ302は、メディアコンテンツプラットフォームと関連付けられるいずれのポリシーにも違反しないコンテンツをコンテンツ制作者がアップロードした回数(すなわち、審査者によって承認されたコンテンツをコンテンツ制作者がアップロードした回数)を示す記録を更新することができる。

【0053】

いくつかの実施形態では、判断は、コンテンツ制作者デバイス308のユーザによって見られ得る。たとえば、いくつかの実施形態では、コンテンツ制作者デバイス308のユーザは、コンテンツ制作者デバイス308およびメディアコンテンツプラットフォームと関連付けられるユーザアカウントにログインすることができ、ユーザアカウントと関連付けられるユーザインターフェースにおいて判断を見ることができる。別の例では、ユーザ生成コンテンツまたはユーザ生成コンテンツを生成するための機能の使用が許容可能であることを示す判断に応答して(たとえば、コンテンツがメディアコンテンツプラットフォームのポリシーに違反しないと審査者が決定したことに応答して、コンテンツがメディアコンテンツプラットフォームのポリシーに違反しない可能性が高いという決定に応答して、など)、判断は、ユーザ生成コンテンツが投稿される、またはメディアコンテンツプラットフォーム上で別様に利用可能にされる具体的な時間とともにコンテンツ制作者デバイス308上で提示され得る(たとえば、メディアコンテンツプラットフォームの1つまたは複数のポリシーの違反に対するあらゆる審査の前にユーザ生成コンテンツを公開または投稿するのではなく、コンテンツの審査がその間に提出されるコンテンツの公開または投稿の後の遅延があるのではなく、など)。代替的に、いくつかの実施形態では、判断は、コンテンツ制作者の指示でユーザ生成コンテンツが投稿または公開され得る具体的な時間とともに提示され得る。

【0054】

いくつかの実施形態では、ユーザ生成コンテンツがメディアコンテンツプラットフォームのポリシーに違反すると見なされる判断を審査者が提供することに応答して、サーバ302は、別の審査者によって審査されるべきコンテンツアイテムのキューにコンテンツを追加することができることに留意されたい。いくつかの実施形態では、追加の審査者は、最初の判断を提供した審査者と比較してより経験のある異なる審査者であり得ることにも留意されたい。そのような実施形態では、サーバ302は、ユーザ生成コンテンツがメディアコンテンツプラットフォームのポリシーに違反することを示す2つの否定的な判断を2人の異なる審査者から受信したことに応答して、ユーザ生成コンテンツを削除し、または、ユーザ生成コンテンツがメディアコンテンツプラットフォームによって提供されるのを別様に妨げることができる。

【0055】

いくつかの実施形態では、判断は、コンテンツ制作者デバイス308のユーザによって不服を申し立てられ得る。たとえば、いくつかの実施形態では、判断は、コンテンツ制作者デバイス308のユーザが判断に同意しない事例において(たとえば、コンテンツアイテムが特定のタイプの不愉快なコンテンツを含むおよび/もしくは特定のポリシーに違反することを判断が示し、ユーザが同意しない事例、ならびに/または任意の他の適切な事例において)不服を申し立てられ得る。いくつかの実施形態では、図1に示され以下で説明されるブロック112から118は、判断が不服を申し立てられる事例において実行され得る。いくつかの実施形態では、ブロック112から118は、判断が不服を申し立てられない事例では省略され得る。

【0056】

112において、コンテンツ制作者デバイス308が、判断が不服を申し立てられていることの指示を送信することができる。いくつかの実施形態では、コンテンツ制作者デバイス308は、任意の適切な方式で指示を送信することができる。たとえば、いくつかの実施形態では、コンテンツ制作者デバイス308のユーザは、選択されると、判断の不服申し立てと関連付けられる任意の適切なテキスト(たとえば、判断について争う任意の適切な理由、および/または他の適切なテキスト)を入力するためのユーザインターフェースを生じさせる、判断と関連付けられる任意の適切なボタンまたはユーザインターフェースコントロールを選択することができる。いくつかのそのような実施形態では、判断の不服申し立てと関連付けられるテキストは、判断が不服を申し立てられていることの指示に関連してサーバ302に送信され得る。

【0057】

114において、サーバ302が、コンテンツアイテムを不服申し立てキューに追加することができる。いくつかの実施形態では、コンテンツアイテムは、任意の適切な方式で不服申し立てキューに追加され得る。たとえば、いくつかの実施形態では、コンテンツアイテムは、判断が不服を申し立てられていることの指示が112においてコンテンツ制作者デバイス308によって送信された時間に基づいて、不服申し立てキューに追加され得る。別の例として、いくつかの実施形態では、コンテンツアイテムは、ブロック104に関連して上で説明されたように、コンテンツアイテムと関連付けられるコンテンツ制作者に比較的人気があることに基づいて、不服申し立てキューに追加され得る。

【0058】

116において、審査者デバイス310が、不服申し立てキューからコンテンツアイテムの指示を受信することができる。いくつかの実施形態では、審査者デバイス110は、任意の適切な方式でコンテンツアイテムの指示を受信することができる。たとえば、いくつかの実施形態では、審査者デバイス110は、コンテンツアイテムと関連付けられる判断がコンテンツアイテムと関連付けられるコンテンツ制作者によって不服を申し立てられていることを示す通知を提示することができる。

【0059】

いくつかの実施形態では、審査者デバイス310のユーザは、任意の適切な方式でこの指示を選択することができ、いくつかの実施形態では、この指示の選択により、判断と関連付けられる任意の適切な情報および/または不服申し立てと関連付けられる任意の適切な情報に関連して、審査者デバイス310にコンテンツアイテムが提示されるようになり得る。たとえば、いくつかの実施形態では、この情報は、不服申し立てと関連付けられるテキスト(たとえば、ブロック110に関連して上で説明されたような)、不服を申し立てられている判断と関連付けられる情報(たとえば、判断において示される不愉快なコンテンツもしくはポリシー違反を示す情報、判断において提示されるような特定の不愉快なコンテンツが示されるタイムスタンプを示す情報、および/または任意の他の適切な情報)、および/または任意の他の適切な情報を含み得る。

【0060】

図1は106におけるコンテンツアイテムの審査と、116におけるコンテンツアイテムの不服申し立ての審査の両方を行うものとして同じデバイス(すなわち、審査者デバイス310)を示すが、いくつかの実施形態では、2人の異なる審査者が使用され得ることに留意されたい。すなわち、いくつかの実施形態では、不服を申し立てられている判断を送信した審査者とは異なる審査者が、判断の不服申し立てを審査することができる。たとえば、異なる審査者デバイスにおける異なる審査者が、不服申し立てキューの中のユーザ生成コンテンツを審査するために使用されてもよく、異なる審査者は、否定的な判断を提供した最初の審査者より経験があるものとして指定され、最初の審査者と、異なる不服申し立て審査者の両方が否定的な判断を提供したことに応答して、ユーザアカウントを一時停止する、またはユーザ生成コンテンツの提示を妨げるなどの行動をとることができる。

【0061】

118において、審査者デバイス310が、コンテンツアイテムの不服申し立てに関する判断を送信することができる。いくつかの実施形態では、この判断は、審査者デバイス310のユーザが不服を申し立てられている判断に同意すること、審査者デバイス310のユーザが不服を申し立てられている判断に同意しないこと、および/または任意の他の適切な情報などの、任意の適切な情報を示し得る。

【0062】

120において、サーバ302が、不服申し立てに関する判断に基づいて、コンテンツ制作者デバイスと関連付けられるアカウントを更新することができる。たとえば、不服を申し立てられている判断が、コンテンツアイテムが特定のポリシーに違反することを示し、不服申し立てに関する判断が、不服を申し立てられている判断に同意しない事例では、サーバ302は、2つの判断の不一致を反映するようにアカウントを更新することができる。より具体的な例として、いくつかの実施形態では、サーバ302は、メディアコンテンツプラットフォームと関連付けられるポリシーに違反するコンテンツアイテムをコンテンツ制作者がアップロードした回数の記録を減らすことができる。別の例として、不服申し立てに関する判断が、コンテンツアイテムが特定のポリシーに違反しているという不服を申し立てられている判断を確認する事例では、サーバ302は、コンテンツアイテムをブロックすること、所定の長さの時間の間(たとえば、1ヶ月間、90日間、および/または任意の他の適切な長さの時間)コンテンツ制作者デバイス308がコンテンツアイテムをアップロードするのを禁止すること、および/または任意の他の適切な行動などの、任意の適切な行動を実行することができる。サーバ302によって実行され得る行動についてのさらなる詳細が、図2のブロック224に関連して以下で説明される。

【0063】

図2を見ると、開示される主題のいくつかの実施形態による、不適切なコンテンツを特定するためのプロセスの説明のための例200が示されている。いくつかの実施形態では、プロセス200のブロックは、1人または複数のコンテンツ制作者によってアップロードされるコンテンツアイテムをホストするメディアコンテンツプラットフォームと関連付けられるサーバなどの、サーバ上で実行され得る。

【0064】

プロセス200は、202において、メディアコンテンツプラットフォームに関連してアップロードまたは投稿されることになるコンテンツアイテムを、コンテンツ制作者から受信することによって開始し得る。たとえば、いくつかの実施形態では、コンテンツアイテムは、メディアコンテンツプラットフォームにアップロードされメディアコンテンツプラットフォームの他のユーザによる視聴が可能にされるべき、コンテンツ制作者によって制作されたビデオコンテンツアイテムまたはオーディオコンテンツアイテムであり得る。別の例として、いくつかの実施形態では、コンテンツアイテムは、メディアコンテンツプラットフォームによってホストされるコンテンツアイテムの視聴者によって提出されるコメントであり得る。より具体的な例として、いくつかの実施形態では、コメントは、コンテンツの特定のチャンネルと関連付けられるチャットルームもしくはライブチャットに関連して視聴者によって提出されるコメント、特定のコメントセクションにおいて投稿されることになる視聴者によって提出されるコメント(たとえば、メディアコンテンツプラットフォームによってホストされる特定のメディアコンテンツアイテムと関連付けられるコメントセクション、および/または任意の他の適切なコメントセクション)、および/または任意の他の適切なコメントであり得る。さらに別の例として、いくつかの実施形態では、コンテンツアイテムは、コンテンツ制作者によって制作されるコンテンツのチャンネルに関連して、コンテンツ制作者によってメディアコンテンツプラットフォームを介して提供されている特典であり得る。より具体的な例として、特典は、コンテンツのチャンネルのメンバーシップまたはサブスクリプションをユーザが購入したことと引き換えにコンテンツ制作者によって提供される、特定のタイプのコンテンツ(たとえば、独占的なビデオコンテンツ、未公開コンテンツ、衣服もしくは他の商品、および/または任意の他の適切なタイプのコンテンツ)の提供であり得る。

【0065】

いくつかの実施形態では、アップロードされたコンテンツアイテムは、メディアコンテンツプラットフォームの特定の機能、たとえば、ユーザ生成コンテンツを生成するためにコンテンツ制作者が使用に関心を持っている機能に関連してアップロードされ得る。いくつかの実施形態では、機能は、コンテンツアイテムの審査者によって送信され得るコメントまたはメッセージと関連付けられる機能を含み得る。たとえば、いくつかの実施形態では、機能は、コンテンツアイテムと関連付けられるコメントセクションの中のコメント、および/またはコンテンツアイテムと関連付けられるライブチャットにおいて投稿されるコメントに関し得る。より具体的な例として、機能は、コンテンツアイテムの審査者が「スーパーチャット」を購入することを可能にすることを含んでもよく、このことは、視聴者が、購入された「スーパーチャット」と関連付けられるコメントをチャットまたはコメントセクションの中の特定の位置(たとえば、ライブチャットの一番上に、コメントセクションの一番上の位置に、および/または任意の他の適切な位置に)にピン止めするのを可能にすることを含み得る。この例について続けると、いくつかの実施形態では、機能は、「スーパーチャット」を購入した審査者によって支払われる支払の額に基づいて、「スーパーチャット」コメントが特定の位置にピン止めされるべきである時間の長さを決定することを含み得る。別のより具体的な例として、いくつかの実施形態では、機能は、コンテンツアイテムと関連付けられるコメントセクションまたはライブチャットにアニメーション画像またはアイコンをコンテンツアイテムの視聴者が含めることを可能にする「スーパーステッカー」を、視聴者が購入するのを可能にすることを含み得る。この例について続けると、いくつかの実施形態では、機能は、任意の特定の基準が満たされた(たとえば、視聴者が「スーパーステッカー」のために所定の額以上を支払った、および/または任意の他の適切な基準)と決定したことに応答して、ライブチャットまたはコメントセクションの特定の位置において、特定の「スーパーステッカー」画像またはアイコンをピン止めすることを含み得る。いくつかの実施形態では、コンテンツアイテムの視聴者が選択することが可能なアニメーション画像またはアイコンは、任意の適切な方式で整理され、たとえば、コンテンツ制作者によって、メディアコンテンツプラットフォームによって、および/または任意の他の適切なエンティティによって、生成され利用可能にされ得ることに留意されたい。さらに別のより具体的な例として、いくつかの実施形態では、機能は、コンテンツアイテムの視聴者が「スーパーサンクス」を購入するのを可能にすることを含み得る。いくつかのそのような実施形態では、視聴者による「スーパーサンクス」の購入により、選択されたアニメーション画像またはアイコン(たとえば、「スーパーサンクス」の購入に関連してコンテンツアイテムの視聴者によって選択される)がコンテンツアイテムに関連して提示されるようになってもよく、および/または、視聴者による支払のうちの任意の適切な割合がコンテンツ制作者と共有されるようになってもよい。

【0066】

いくつかの実施形態では、機能は、購入された「スーパーチャット」、「スーパーステッカー」、および/または「スーパーサンクス」から売上のうちの任意の適切な割合を、コンテンツ制作者が受け取ることを可能にし得ることに留意されたい。たとえば、いくつかの実施形態では、コンテンツ制作者は、購入されたオプションから売上のある割合を受け取ることができ、メディアコンテンツプラットフォームは、売上の残りを受け取ることができる。加えて、または代わりに、いくつかの実施形態では、機能は、売上のある割合を受け取るものとして任意の適切な慈善団体をコンテンツ制作者が指定するのを可能にし得る。

【0067】

いくつかの実施形態では、機能は、コンテンツ制作者が、コンテンツ制作者によって制作されるコンテンツの視聴者にメンバーシップサービスを提供することを可能にし得る。たとえば、いくつかの実施形態では、メンバーシップサービスは、メンバーシップを購入する視聴者が、コンテンツ制作者によって制作されるコンテンツに関連して任意の適切な特典を受けるのを可能にし得る。いくつかの実施形態では、特典は、コンテンツ制作者によって制作される特別なもしくは独占的なコンテンツへのアクセス権(たとえば、メンバーシップを購入する視聴者だけが利用可能である)、コンテンツ制作者によって制作されるコンテンツと関連付けられるチャットメッセージもしくはコメントセクションに含まれ得る独占的な絵文字もしくは他のアニメーションアイコンへのアクセス権、購入されたメンバーシップを有する視聴者が同様に購入されたメンバーシップを有する他の視聴者とチャットできる独占的なチャットフォーラムへのアクセス権、および/またはメンバーが利用可能な任意の他の適切な特別なオファーなどの、メンバーシップを購入する視聴者が利用可能な任意の適切な特別なオファーを含み得る。

【0068】

いくつかの実施形態では、機能は、コンテンツ制作者がメディアコンテンツプラットフォームを通じて商品を提供することを可能にし得る。たとえば、いくつかの実施形態では、機能は、コンテンツ制作者が、メディアコンテンツプラットフォームを通じてコンテンツ制作者によって提供されるコンテンツアイテムまたは他のコンテンツを提示するページに、商品(たとえば、衣服、マグもしくはカップ、アートワーク、および/または任意の他の適切な商品)へのリンクを含めるのを可能にし得る。より具体的な例として、機能は、コンテンツ制作者が、コンテンツアイテムを提示するビデオ視聴ページにおいて購入することが可能な1つまたは複数の商品へのリンクを含めるのを可能にし得る。別のより具体的な例として、機能は、コンテンツ制作者が、コンテンツ制作者と関連付けられるコンテンツのチャンネルと関連付けられるページにおいて購入することが可能な1つまたは複数の商品へのリンクを含めるのを可能にし得る。

【0069】

いくつかの実施形態では、機能は、コンテンツ制作者が、コンテンツ制作者と関連付けられるライブショーの券を購入するための1つまたは複数のリンクを提供するのを可能にし得る。たとえば、コンテンツアイテムが特定のバンドまたは他の音楽グループと関連付けられるミュージックビデオである事例では、機能は、バンドまたは音楽グループと関連付けられるコンサートの券を購入するためのリンクが、コンテンツアイテムが提示されるページにおいて(たとえば、コンテンツアイテムが提示されるビデオプレーヤウィンドウの下に、および/または任意の他の適切な位置に)提示されることを可能にし得る。いくつかの実施形態では、機能は、コンテンツ制作者によって制作されるコンテンツのチャンネルと関連付けられるページ、および/または任意の他の適切なコンテンツなどの、任意の他の適切なページまたはコンテンツに関連して、券を購入するためのリンクが提示されることを可能にし得ることに留意されたい。

【0070】

204において、プロセス200が、コンテンツ制作者がユーザ生成コンテンツを生成するための機能を使用するのに適格であるかどうかを決定することができる。いくつかの実施形態では、プロセス200は、任意の適切な情報に基づいて、および任意の適切な技法を使用して、コンテンツ制作者が機能を使用するのに適格であるかどうかを決定することができる。たとえば、いくつかの実施形態では、プロセス200は、コンテンツ制作者が以前にメディアコンテンツプラットフォームにアップロードしたコンテンツアイテムに基づいて、コンテンツ制作者が機能を使用するのに適格であるかどうかを決定することができる。より具体的な例として、いくつかの実施形態では、プロセス200は、以前にアップロードされたコンテンツアイテムに基づいて、1つまたは複数のタイプの不愉快なコンテンツを含むビデオコンテンツをコンテンツ制作者がアップロードする確率を示すリスクスコアを決定するために、任意の適切な分類器または機械学習技法を使用することができる。ある特定の例として、プロセス200は、リスクスコアが所定の閾値未満であるコンテンツ制作者が機能を使用するのに適格ではないと決定することができる。別の特定の例として、いくつかの実施形態では、プロセス200は、リスクスコアが所定の閾値を超えるコンテンツ制作者が機能を使用するのに適格であると決定することができる。別のより具体的な例として、いくつかの実施形態では、プロセス200は、メディアコンテンツプラットフォームと関連付けられる1つまたは複数のポリシー(たとえば、特定のタイプの不愉快なコンテンツを禁止するポリシー、および/または任意の他の適切なポリシー)にコンテンツ制作者が以前に違反した回数を決定することができる。ある特定の例として、いくつかの実施形態では、プロセス200は、所定の閾値の回数を超えて(たとえば、1回より多く、2回より多く、過去1ヶ月の間に1回より多く、および/または任意の他の適切な回数)メディアコンテンツプラットフォームの1つまたは複数のポリシーに違反したコンテンツ制作者が、機能を使用するのに適格ではないと決定することができる。

【0071】

別の例として、いくつかの実施形態では、プロセス200は、コンテンツ制作者の聴衆の規模および/またはコンテンツ制作者と関連付けられる位置などの、コンテンツ制作者と関連付けられる情報に基づいて、コンテンツ制作者が機能を使用するのに適格であるかどうかを決定することができる。より具体的な例として、いくつかの実施形態では、プロセス200は、比較的聴衆の少ないコンテンツ制作者が機能を使用するのに適格ではないと決定することができる。別のより具体的な例として、いくつかの実施形態では、プロセス200は、比較的聴衆の多いコンテンツ制作者が機能を使用するのに適格であると決定することができる。いくつかの実施形態では、聴衆の規模は、コンテンツ制作者によって以前にアップロードされたコンテンツアイテムの総視聴回数、コンテンツ制作者によって以前にアップロードされたコンテンツアイテムの平均視聴回数、コンテンツ制作者によって制作されるコンテンツのチャンネルの登録者の数、および/または任意の他の適切な尺度などの、任意の適切な情報に基づいて決定され得る。

【0072】

さらに別の例として、いくつかの実施形態では、プロセス200は、コンテンツ制作者によって投稿されたコンテンツの手動の審査に基づいて、コンテンツ制作者が機能を使用するのに適格であるかどうかを決定することができる。より具体的な例として、いくつかの実施形態では、人の審査者が、ブロック202に関連して上で説明されたように、コンテンツ制作者によって以前に投稿された1つまたは複数のコンテンツアイテムおよび/またはコンテンツ制作者によってアップロードされたコンテンツアイテムを審査することができ、コンテンツアイテムがメディアコンテンツプラットフォームの1つまたは複数のポリシーに違反するかどうかを決定することができる。いくつかの実施形態では、コンテンツアイテムがメディアコンテンツプラットフォームの1つまたは複数のポリシーに違反すると決定したことに応答して、プロセス200は、コンテンツ制作者が機能を使用するのに適格ではないと決定することができる。

【0073】

さらに別の例として、いくつかの実施形態では、プロセス200は、コンテンツ制作者と関連付けられる、および/またはコンテンツ制作者と関連付けられるコンテンツアイテムと関連付けられる任意の他の適切な情報に基づいて、コンテンツ制作者が機能を使用するのに適格であるかどうかを決定することができる。より具体的な例として、いくつかの実施形態では、プロセス200は、コンテンツ制作者がプログラムのメンバーシップと関連付けられる特定の機能を使用することを可能にするようなメディアコンテンツプラットフォームと関連付けられるプログラムに参加することを、コンテンツ制作者が以前に承認されたかどうかを決定することができる。別のより具体的な例として、いくつかの実施形態では、プロセス200は、コンテンツ制作者の年齢が所定の年齢を超える(たとえば、18歳を超える、および/または任意の他の適切な年齢を超える)かどうかを決定することができる。さらに別のより具体的な例として、プロセス200は、コンテンツ制作者と関連付けられるコンテンツアイテムが特定のジャンル(たとえば、年齢制限のあるコンテンツ、子供を対象にしたコンテンツ、ミュージックビデオコンテンツ、および/または任意の他の適切なジャンルのコンテンツ)と関連付けられるかどうかを決定することができる。ある特定の例として、いくつかの実施形態では、プロセス200は、コンテンツ制作者と関連付けられるコンテンツアイテムが通常は、年齢制限のあるコンテンツ、子供を対象とするコンテンツ、ミュージックビデオコンテンツなどの特定のジャンルに属する場合、コンテンツ制作者が機能を使用するのに適格ではないと決定することができる。

【0074】

さらに別の例として、いくつかの実施形態では、プロセス200は、コンテンツ制作者によって制作されるコンテンツの視聴者がコンテンツ制作者による機能の使用に満足しているか、または満足していないかの決定に基づいて、コンテンツ制作者が機能を使用するのに適格であるかどうかを決定することができる。より具体的な例として、いくつかの実施形態では、コンテンツ制作者によって生み出されるコンテンツと関連付けられるメンバーシップを購入する視聴者に特典を提供することを機能が含む事例において、プロセス200は、メンバーシップを購入したユーザが全般にその購入について満足しているか、または満足していないかを決定することができる。別のより具体的な例として、いくつかの実施形態では、ピン止めされたコメント、ピン止めされたアニメーション画像、または他のメッセージもしくはチャットコンテンツを、視聴者が購入するのを可能にすることを機能が含む事例において、プロセス200は、ピン止めされたメッセージまたはチャットコンテンツを購入したユーザが全般にその購入について満足しているか、または満足していないかを決定することができる。いくつかの実施形態では、プロセス200は、任意の適切な方式で視聴者満足尺度を決定することができる。たとえば、いくつかの実施形態では、プロセス200は、メンバーシップを取り消した視聴者の数もしくは視聴者の割合、提供された特典に対して否定的なレビューを残した視聴者の数もしくは視聴者の割合、コンテンツ制作者により生み出されたコンテンツのチャンネルを登録解除した視聴者の数もしくは視聴者の割合、および/または任意の他の適切な満足尺度を決定することができる。いくつかの実施形態では、プロセス200は、計算された満足尺度が所定の閾値未満であると決定したことに応答して、コンテンツ制作者が機能を使用するのに適格ではないと決定することができる。別の例として、いくつかの実施形態では、プロセス200は、所定の割合の視聴者(たとえば、10%を超える、20%を超える、および/または任意の他の適切な割合)が、購入されたメンバーシップを取り消した、または提供された特典もしくは購入オプションに関連して否定的なレビューを残したと決定したことに応答して、コンテンツ制作者が機能を使用するのに適格ではないと決定することができる。

【0075】

コンテンツアイテムが提出されたコメントに対応する事例では、プロセス200は、コメントを提出したユーザが特定のチャットまたは特定のコメントセクションにコメントを投稿するのに適格であるかどうかを決定することができることに留意されたい。たとえば、メディアコンテンツプラットフォームのコンテンツの特定のチャンネルへの登録を必要とする、または任意の他の適切な基準が満たされることを必要とする、チャットまたはコメントセクションに関連してコメントが提出される事例では、プロセス200は、コメントを提出したユーザがコンテンツのチャンネルの登録者であるかどうか、または任意の他の適切な基準を満たすかどうかを決定することができる。加えて、または代わりに、いくつかの実施形態では、コンテンツアイテムが提出されたコメントに対応する事例では、ブロック204は省略され得る。

【0076】

加えて、いくつかの実施形態では、プロセス200は、情報の任意の適切な組合せに基づいて、コンテンツ制作者が機能を使用するのに適格であるかどうかを決定することができる。たとえば、いくつかの実施形態では、プロセス200は、コンテンツ制作者と関連付けられるリスクスコア、コンテンツ制作者の聴衆の規模を示す情報、コンテンツ制作者によるポリシーの以前の違反を示す情報、および/またはコンテンツアイテムの手動の審査の組合せに基づいて、コンテンツ制作者が機能を使用するのに適格であるかどうかを決定することができる。いくつかの実施形態では、プロセス200は、任意の他の適切な方式で情報を組み合わせることができる。たとえば、いくつかの実施形態では、プロセス200は、情報の各項目にスコアを割り当てることができ、情報の各アイテムのスコアに基づいて、コンテンツ制作者と関連付けられる集約スコアを決定することができる。いくつかの実施形態では、プロセス200は次いで、コンテンツ制作者と関連付けられる集約スコアが所定の閾値を超えるかどうかの決定に基づいて、コンテンツ制作者が機能を使用するのに適格であるかどうかを決定することができる。

【0077】

204において、コンテンツ制作者が機能を使用するのに適格ではない(204における「no」)とプロセス200が決定する場合、プロセス200は206に進むことができ、コンテンツアイテムを拒絶することができる。いくつかの実施形態では、プロセス200は、任意の適切な方式でコンテンツアイテムを拒絶することができる。たとえば、いくつかの実施形態では、プロセス200は、メディアコンテンツプラットフォームと関連付けられるサーバへのコンテンツアイテムのアップロードをブロックすることができる。別の例として、いくつかの実施形態では、プロセス200は、メッセージをコンテンツ制作者に送信し、および/または、コンテンツアイテムが拒絶されたことを示す通知がコンテンツ制作者と関連付けられるユーザデバイスに提示されるようにし得る。いくつかのそのような実施形態では、メッセージおよび/または通知は、コンテンツアイテムが拒絶された理由(たとえば、メディアコンテンツプラットフォームと関連付けられる1つまたは複数のポリシーのコンテンツ制作者による以前の違反、および/または任意の他の適切な理由)などの、任意の適切な情報を含み得る。さらに別の例として、いくつかの実施形態では、コンテンツアイテムがチャットまたはコメントセクションへと投稿されることになるコメントに対応する事例において、プロセス200は、チャットまたはコメントセクションにコメントが投稿されるのを妨げることができる。

【0078】

いくつかの実施形態では、コンテンツ制作者が機能を使用するのに適格ではないと決定したことに応答して、プロセス200は、コンテンツアイテムがアップロードされることを可能にし得るが、コンテンツ制作者による機能の使用を拒絶することができることに留意されたい。たとえば、コンテンツ制作者がメディアコンテンツプラットフォームと関連付けられるいずれのポリシーにも以前に違反していないが、コンテンツ制作者が他の理由で機能を使用するのに適格ではない(たとえば、コンテンツ制作者が十分に多数の聴衆を有していないので、コンテンツ制作者が所定の数より多くのコンテンツアイテムを以前にアップロードしていないので、および/または任意の他の適切な理由で)とプロセス200が決定する事例において、プロセス200は、コンテンツアイテムがメディアコンテンツプラットフォームにアップロードされるのを可能にできるが、コンテンツ制作者による機能の使用をブロックまたは阻害することができる。

【0079】

204において、コンテンツ制作者が機能を使用するのに適格である(204における「yes」)とプロセス200が決定する場合、プロセス200は208に進むことができ、ユーザ生成コンテンツアイテムの審査を選択的に回避するかどうかを決定することができる。いくつかの実施形態では、プロセス200は、任意の適切な情報に基づいて、コンテンツアイテムの審査を回避するかどうかを決定することができる。

【0080】

たとえば、いくつかの実施形態では、プロセス200は、コンテンツアイテムが不愉快なコンテンツを含む場合、コンテンツアイテムの公開の相対的なリスクに基づいて、コンテンツアイテムの審査が回避されるべきであるかどうかを決定することができる。いくつかの実施形態では、コンテンツアイテムの公開の相対的なリスクは、コンテンツアイテムの聴衆の予想される規模(たとえば、コンテンツアイテムを見る可能性が高い人の予測される数)、コンテンツ制作者がコンテンツアイテムの視聴者から売上を受け取るかどうか、コンテンツ制作者がコンテンツアイテムの視聴者から受け取るであろう予想される売上、および/または任意の他の適切な情報などの、任意の適切な情報に基づいて決定され得る。いくつかの実施形態では、プロセス200は、コンテンツアイテムが任意の特定の基準を満たすと決定したことに応答して、コンテンツアイテムが比較的高いリスクスコアを割り当てられるべきであると決定することができることに留意されたい。たとえば、いくつかの実施形態では、プロセス200は、コンテンツアイテムが視聴者による支払と引き換えに提供されている(たとえば、コンテンツアイテムがコンテンツに対して支払うユーザに提供される独占的なコンテンツである事例、コンテンツアイテムがコンテンツのチャンネルのメンバーシップに対して支払うユーザに提供されている特典である事例、および/または任意の他の適切なタイプのコンテンツである事例において)と決定したことに応答して、コンテンツアイテムが比較的高いリスクスコアを割り当てられるべきであると決定することができる。

【0081】

いくつかの実施形態では、プロセス200は、任意の適切な方式で相対的なリスクを決定することができる。たとえば、いくつかの実施形態では、プロセス200は、複数のリスクスコア(たとえば、推定される聴衆の規模に対応する第1のリスクスコア、コンテンツアイテムの視聴者からのコンテンツ制作者の予想される売上に対応する第2のリスクスコア、および/または任意の他の適切なリスクスコア)を特定することができ、任意の適切な方式で(たとえば、加重平均として、および/または任意の他の適切な方式で)複数のリスクスコアを組み合わせることができる。より具体的な例として、比較的多数の予想される聴衆がいる(たとえば、所定の数より多くの登録者をチャンネルが有することに基づいて、チャンネルと関連付けられるコンテンツのこれまでの視聴回数が所定の回数より多いことに基づいて、および/または任意の他の適切な尺度に基づいて)コンテンツのチャンネルに投稿されることになるビデオコンテンツアイテムにコンテンツアイテムが相当する事例では、プロセス200は、コンテンツアイテムの公開の相対的なリスクが高いと決定することができる。別のより具体的な例として、任意の適切な方式で(たとえば、広告の挿入により、コンテンツアイテムを受け取るために支払ったユーザにコンテンツアイテムが提供されていることにより、および/または任意の他の適切な方式で)収益化されたビデオコンテンツアイテムにコンテンツアイテムが相当する事例では、プロセス200は、コンテンツアイテムの公開の相対的なリスクが高いと決定することができる。さらに別のより具体的な例として、コンテンツアイテムがコメントセクションにおいて投稿されることになるコメントに相当する事例では、プロセス200は、コンテンツアイテムの公開の相対的なリスクが低いと決定することができる。いくつかの実施形態では、プロセス200は、所定の閾値を超える公開の相対的なリスクと関連付けられるコンテンツアイテムが手動で審査されるべきである(すなわち、手動の審査について回避されるべきではない、または208における「no」)と決定することができる。いくつかの実施形態では、プロセス200が、コンテンツアイテムが特定の所定の閾値を超える公開の相対的なリスクと関連付けられると決定する事例において、プロセス200は、コンテンツアイテムが自動的に拒絶されるべきであると決定できることに留意されたい。

【0082】

別の例として、いくつかの実施形態では、プロセス200は、コンテンツアイテムが、以前に審査された以前にアップロードされたコンテンツアイテムと類似している、または一致すると決定したことに応答して、コンテンツアイテムの審査が回避されるべきであると決定することができる。より具体的な例として、いくつかの実施形態では、プロセス200は、コンテンツアイテムが、以前に審査されて承認されたコンテンツアイテムと類似している、または一致すると決定することができる。別のより具体的な例として、いくつかの実施形態では、プロセス200は、コンテンツアイテムが、以前に審査されて拒絶されたコンテンツアイテムと類似している、または一致すると決定することができる。

【0083】

いくつかの実施形態では、プロセス200は、任意の適切な技法または技法の組合せを使用して、アップロードされたコンテンツアイテムが、以前に審査されたコンテンツアイテムと類似する、または一致するかどうかを決定することができることに留意されたい。たとえば、いくつかの実施形態では、プロセス200は、アップロードされたコンテンツアイテムの1つまたは複数のオーディオフィンガープリントおよび/またはビデオフィンガープリントを、以前にアップロードされたコンテンツアイテムのデータベースと比較して、以前にアップロードされ審査されたコンテンツアイテムとの一致を特定することができる。

【0084】

加えて、いくつかの実施形態では、プロセス200は、審査が回避されるべきであると決定するためにアップロードされたコンテンツアイテムと少なくとも1つの以前に審査されたコンテンツアイテムとの間で必要とされる、類似性の度合いを決定することができることに留意されたい。たとえば、いくつかの実施形態では、プロセス200は、審査が回避されるべきであると決定するには、アップロードされたコンテンツアイテムが以前に審査されたコンテンツアイテムに対して少なくとも所定の閾値の類似性(たとえば、少なくとも70%の類似性、少なくとも80%の類似性、および/または任意の他の適切な閾値)を有するべきであると決定することができる。いくつかの実施形態では、類似性の所定の閾値は、任意の適切な方式で決定または設定され得る。たとえば、いくつかの実施形態では、類似性の所定の閾値は、類似性の所定の閾値が適用されると、所定の範囲のコンテンツアイテムが手動の審査のために送信されるように、プロセス200によって決定され得る。すなわち、いくつかの実施形態では、プロセス200は、メディアコンテンツプラットフォームにアップロードされるコンテンツアイテムの数に基づいて、時間とともに類似性の所定の閾値を調整することができ、それにより、実行される手動の審査の量が調整されることを可能にする。

【0085】

加えて、いくつかの実施形態では、プロセス200は、コンテンツアイテムの公開の相対的なリスクと、アップロードされたコンテンツアイテムと以前にアップロードされたコンテンツアイテムとの間の類似性との任意の適切な組合せに基づいて、手動の審査が回避されるべきであるかどうかを決定することができることに留意されたい。たとえば、いくつかの実施形態では、プロセス200は、コンテンツアイテムの公開の相対的なリスクを示すリスクスコアと、コンテンツアイテムと以前にアップロードされたコンテンツアイテムとの間の類似性を示す類似性スコアとを計算することができ、リスクスコアと類似性スコアの両方に基づいて、手動の審査が回避されるべきであるかどうかを決定することができる。より具体的な例として、いくつかの実施形態では、プロセス200は、リスクスコアが第1の所定の閾値を超え、類似性スコアが第2の所定の閾値未満である(すなわち、以前にアップロードされたコンテンツアイテムに十分類似していない)と決定したことに応答して、手動の審査が回避されるべきではない(208における「no」)と決定することができる。別のより具体的な例として、いくつかの実施形態では、プロセス200は、リスクスコアが第1の所定の閾値未満であり、類似性スコアが第2の所定の閾値を超えると決定したことに応答して、手動の審査が回避されるべきである(208における「yes」)と決定することができる。

【0086】

いくつかの実施形態では、プロセス200は、リスクスコアとは無関係に、特定のタイプのコンテンツアイテムが手動で審査されるべきであると決定することができる。たとえば、いくつかの実施形態では、プロセス200は、コンテンツアイテムの審査者による支払と引き換えに提供されるコンテンツアイテム(たとえば、支払ったユーザに提供される独占的なコンテンツ、および/または任意の他の適切なタイプの有料コンテンツ)が常に手動で審査されるべきであると決定することができる。別の例として、いくつかの実施形態では、プロセス200は、有料コンテンツを初めて提供しているコンテンツ制作者によって生成されるコンテンツアイテムが手動で審査されるべきであると決定することができる。いくつかの実施形態では、有料のコンテンツアイテムは、ビデオコンテンツ、オーディオコンテンツ、「スーパーステッカー」、「スーパーコメント」(ブロック202に関して上で説明されるような)、および/または支払と引き換えに視聴者に利用可能にされる任意の他の適切なタイプのコンテンツを含み得る。

【0087】

208において、コンテンツアイテムの審査が回避されるべきである(208における「yes」)とプロセス200が決定する場合、プロセス200は、210に進むことができ、コンテンツアイテムが不適切なコンテンツとして拒絶されるべきであるかどうかを決定することができる。いくつかの実施形態では、プロセス200は、アップロードされたコンテンツアイテムが以前に拒絶されたコンテンツアイテムと類似する、または一致すると、ブロック208において決定されたかどうかに基づいて、コンテンツアイテムが拒絶されるべきであるかどうかを決定することができる。たとえば、いくつかの実施形態では、プロセス200は、アップロードされたコンテンツアイテムが、1つまたは複数のタイプの不愉快なコンテンツを含むことにより拒絶された以前の拒絶されたコンテンツアイテムと類似する、または一致すると決定することができ、いくつかのそのような実施形態では、プロセス200は、コンテンツアイテムが拒絶されるべきであると決定することができる。別の例として、いくつかの実施形態では、プロセス200は、アップロードされたコンテンツアイテムが以前に承認されたコンテンツアイテムと類似する、または一致すると決定することができ、いくつかのそのような実施形態では、プロセス200は、コンテンツアイテムが拒絶されるべきではないと決定することができる。さらに別の例として、いくつかの実施形態では、プロセス200は、任意の適切な技法を使用して、コンテンツアイテムが任意の特定のタイプの不愉快なコンテンツを含む確率を決定することができる。より具体的な例として、いくつかの実施形態では、プロセス200は、コンテンツアイテムが不愉快なコンテンツを含む確率を決定するために、任意の適切な分類器または分類器の組合せを使用することができる。コンテンツアイテムがビデオコンテンツまたはオーディオコンテンツに対応する事例では、プロセス200は、コンテンツアイテムの任意の適切なオーディオフィンガープリントまたはビデオフィンガープリントを入力として取り込む分類器を使用することができることに留意されたい。いくつかの実施形態では、コンテンツアイテムが提出されたコメントに対応する事例において、プロセス200は、テキストが不愉快なコンテンツを含む確率、またはリンクが不愉快なコンテンツと関連付けられるサイトへのものである確率を決定するために、コメントに含まれる任意の適切なテキストまたはリンクを入力として取り込む分類器を使用することができる。この例について続けると、いくつかの実施形態では、プロセス200は、コンテンツアイテムが不愉快なコンテンツを含む決定された確率が所定の閾値を超える(たとえば、70%を超える、80%を超える、および/または任意の他の適切な閾値)と決定したことに応答して、コンテンツアイテムが拒絶されるべきであると決定することができる。

【0088】

210において、コンテンツアイテムが拒絶されるべきである(210における「yes」)とプロセス200が決定する場合、プロセス200は、上で説明されたように、206においてコンテンツアイテムを拒絶することができる。

【0089】

210において、コンテンツアイテムが拒絶されるべきではない(210における「no」)とプロセス200が決定する場合、プロセス200は、212に進むことができ、コンテンツアイテムをメディアコンテンツプラットフォームに投稿することができる。いくつかの実施形態では、プロセス200は、任意の適切な方式でコンテンツアイテムをメディアコンテンツプラットフォームに投稿することができる。たとえば、いくつかの実施形態では、プロセス200は、コンテンツ制作者と関連付けられる特定のチャンネルにコンテンツアイテムをアップロードすることができる。別の例として、いくつかの実施形態では、プロセス200は、コンテンツアイテムをストリーミングまたはダウンロードするために他のユーザデバイスが利用可能なコンテンツアイテムへのリンクを作ることができる。別の例として、いくつかの実施形態では、プロセス200は、コンテンツアイテムが承認されたことを示す通知をコンテンツ制作者に送信することができる。いくつかのそのような実施形態では、コンテンツ制作者は次いで、任意の適切な方式で、たとえば、コンテンツアイテムを他の視聴者に対して利用可能にする任意の適切な選択可能な入力を選択することによって、コンテンツアイテムの投稿を開始することができる。さらに別の例として、コンテンツアイテムがコンテンツのライブストリームに対応する事例において、プロセス200は、任意の適切な時間遅延の後(たとえば、30秒後、1分後、および/または任意の他の適切な時間遅延の後)に、ライブストリームを視聴者に対して利用可能にすることができる。さらに別の例として、コンテンツアイテムがコメントセクションまたはチャットに投稿されることになるコメントに相当する事例において、プロセス200は、コメントが任意の適切な方式で(たとえば、チャットの一番下に、コメントセクションの一番下に、チャットもしくはコメントセクションのピン止めされた位置に、および/または任意の他の適切な方式で)チャットまたはコメントセクションに追加されるようにすることができる。

【0090】

ブロック208に戻ると、208において、コンテンツアイテムの審査が回避されるべきではない(208における「no」)とプロセス200が決定する場合、プロセス200は、214に進むことができ、審査されるべきコンテンツアイテムのキューにコンテンツアイテムを追加することができる。図1のブロック104に関連して上で説明されたように、いくつかの実施形態では、プロセス200は、任意の適切な方式で審査されるべきコンテンツアイテムのキューにコンテンツアイテムを追加することができる。たとえば、いくつかの実施形態では、コンテンツアイテムは、コンテンツアイテムがブロック202において受信された日付または時間に基づいてキューに追加され得る(たとえば、前に受信されたアイテムがキューにおいてより前に、および/または任意の他の適切な方式で配置されるように)。別の例として、いくつかの実施形態では、コンテンツアイテムは、コンテンツ制作者と関連付けられる他のコンテンツアイテムの人気に基づいて、キューに追加され得る。より具体的な例として、いくつかの実施形態では、受信した視聴、共有、コメントなどの数が所定の数より多いコンテンツアイテムを以前にアップロードしたコンテンツ制作者と関連付けられるコンテンツアイテムは、キューにおいてより高く配置され得る。さらに別の例として、いくつかの実施形態では、コンテンツアイテムの公開が時間に敏感である事例(たとえば、コンテンツアイテムがライブストリーミングされるコンテンツである事例、コンテンツアイテムがライブチャットのコメントである事例、および/または任意の他の適切な時間に敏感な状況)では、プロセス200は、キュー内の比較的高い位置に(たとえば、キューの前面に、および/または任意の他の適切な位置に)コンテンツアイテムを追加することができるので、コンテンツアイテムがより高速に手動で審査されることを可能にする。

【0091】

図1に関連して上で説明されたように、審査されるべきコンテンツアイテムのキューの先頭にコンテンツアイテムが移動されたことに応答して、コンテンツアイテムは審査者に割り当てられ得る。いくつかのそのような実施形態では、図1に関連して上で説明されたように、コンテンツアイテムは、審査者と関連付けられるユーザデバイスに提示され得る。いくつかの実施形態では、審査者は次いで、コンテンツアイテムが1つまたは複数のタイプの不愉快なコンテンツを含むと決定されるかどうか、コンテンツアイテムがビデオコンテンツもしくはオーディオコンテンツに対応する事例において不愉快なコンテンツを含むコンテンツアイテムのフレームもしくはタイムスタンプ、コンテンツアイテムが違反する1つまたは複数のポリシー、および/または任意の他の適切な情報などの、コンテンツアイテムに関する判断と関連付けられる任意の情報を入力するために、審査者と関連付けられるユーザデバイスを使用することができる。

【0092】

216において、プロセス200は、コンテンツアイテムに関する判断を受信することができる。いくつかの実施形態では、プロセス200は、任意の他の適切な方式で判断を受信することができる。たとえば、いくつかの実施形態では、サーバ実行プロセス200は、コンテンツアイテムを審査した審査者と関連付けられるユーザデバイスからメッセージを受信することができる。いくつかのそのような実施形態では、メッセージは、コンテンツアイテムがメディアコンテンツプラットフォームと関連付けられるいずれのポリシーにも違反しないことの指示、コンテンツアイテムがメディアコンテンツプラットフォームと関連付けられる1つまたは複数のポリシーに違反することの指示、コンテンツアイテムに含まれる1つまたは複数のタイプの不愉快なコンテンツの指示、1つまたは複数のタイプの不愉快なコンテンツを含むコンテンツアイテムのタイムスタンプ、および/または任意の他の適切な情報などの、任意の適切な情報を含み得る。

【0093】

218において、プロセス200は、判断がポリシー違反を示すかどうかを決定することができる。

【0094】

218において、判断がポリシー違反を示さない(218における「no」)とプロセス200が決定する場合、プロセス200は、上で説明されたように、212においてメディアコンテンツプラットフォームにコンテンツアイテムを投稿することができる。

【0095】

218において、判断がポリシー違反を示す(218における「yes」)とプロセス200が決定する場合、プロセス200は、220に進むことができ、ポリシー違反を示すメッセージをコンテンツ制作者に送信することができる。いくつかの実施形態では、プロセス200は、任意の適切な方式でメッセージをコンテンツ制作者に送信することができる。たとえば、いくつかの実施形態では、プロセス200は、コンテンツ制作者と関連付けられる電子メールアドレスにメッセージを送信することができる。別の例として、いくつかの実施形態では、プロセス200は、コンテンツ制作者およびメディアコンテンツプラットフォームと関連付けられるユーザアカウントに関連してメッセージを送信することができる。より具体的な例として、いくつかの実施形態では、メッセージは、メディアコンテンツプラットフォームに関連してコンテンツ制作者と関連付けられるユーザアカウントのホームページに提示される通知であり得る。これは、たとえば、ポリシー違反、およびメディアコンテンツプラットフォーム上でユーザ生成コンテンツが利用可能にされるのを妨げる行動をとるための他の理由について、正確なフィードバックをコンテンツ制作者に提供することができる。

【0096】

いくつかの実施形態では、メッセージは任意の適切な情報を含み得る。たとえば、いくつかの実施形態では、メッセージは、コンテンツアイテムが違反する1つまたは複数のポリシーを示すことができる。より具体的な例として、いくつかの実施形態では、メッセージは、メディアコンテンツプラットフォームの1つまたは複数のポリシーに違反する1つまたは複数のタイプの不愉快なコンテンツをコンテンツアイテムが含むことを示すことができる。別の例として、いくつかの実施形態では、メッセージは、コンテンツアイテムのタイムスタンプ、コンテンツアイテムのフレーム、および/または任意の他の適切なタイミング情報などの、任意の適切なタイミング情報を使用して、メディアコンテンツプラットフォームのポリシーに違反するコンテンツアイテムの1つまたは複数の部分を示すことができる。さらに別の例として、いくつかの実施形態では、メッセージはペナルティを示すことができる。より具体的な例として、いくつかの実施形態では、メッセージは、コンテンツアイテムがメディアコンテンツプラットフォームにアップロードされるのをブロックされたことを示すことができる。別のより具体的な例として、いくつかの実施形態では、メッセージは、コンテンツ制作者が所定の時間の長さの間(たとえば、1ヶ月間、90日間、および/または任意の他の適切な時間の長さの間)コンテンツアイテムをアップロードするのを禁止されることを示すことができる。さらに別のより具体的な例として、いくつかの実施形態では、メッセージは、コンテンツ制作者と関連付けられるアカウントが停止されることを示すことができる。さらに別のより具体的な例として、いくつかの実施形態では、メッセージは、コンテンツ制作者が所定の時間の長さ(たとえば、30日、90日、および/または任意の他の適切な時間の長さ)の間機能を使用することが許容されないことを示すことができる。さらに別のより具体的な例として、いくつかの実施形態では、メッセージは、コンテンツ制作者が所定の時間の長さ(たとえば、30日、90日、および/または任意の他の適切な時間の長さ)の間ライブコンテンツをストリーミングすることが許容されないことを示すことができる。さらに別のより具体的な例として、コンテンツアイテムがチャットまたはコメントセクションに投稿されることになるコメントに対応する事例において、メッセージは、ユーザが、拒絶されるコメントと関連付けられるコメントセクションまたはメディアコンテンツプラットフォームと関連付けられる任意のコメントセクションに、特定の時間の長さの間コメントを投稿することが許容されないことを示すことができる。

【0097】

いくつかの実施形態では、プロセス200は、コンテンツアイテムが違反するポリシーに基づいてペナルティを決定することができることに留意されたい。たとえば、いくつかの実施形態では、プロセス200は、違反の重大性に基づいてペナルティを決定することができる。より具体的な例として、いくつかの実施形態では、プロセス200は、コンテンツアイテムに第1のタイプの不愉快なコンテンツが含まれることにポリシー違反が相当すると決定したことに応答して、第1のペナルティ(たとえば、コンテンツアイテムがブロックされる)を決定し、コンテンツアイテムに第2のタイプの不愉快なコンテンツが含まれることにポリシー違反が相当すると決定したことに応答して、第2のペナルティ(たとえば、コンテンツ制作者と関連付けられるユーザアカウントが停止される)を決定することができる。加えて、いくつかの実施形態では、プロセス200は、所定の回数を超えて(たとえば、3回を超える違反、5回を超える違反、および/または任意の他の適切な回数)コンテンツ制作者が1つまたは複数のポリシーに違反したと決定したことに応答して、特定のペナルティ(たとえば、アカウント停止、所定の時間の長さの間コンテンツのアップロードを禁止すること、および/または任意の他の適切なペナルティ)が適用されるべきであると決定することができることに留意されたい。このことは、たとえば、ますます厳しくなる強制行動により、ポリシー違反を思いとどまらせることができる。加えて、いくつかの実施形態では、プロセス200は、コンテンツアイテムのタイプに基づいてペナルティを決定することができることに留意されたい。たとえば、いくつかの実施形態では、コンテンツアイテムが他の視聴者に利用可能にされるべきビデオコンテンツまたはオーディオコンテンツのアップロードに対応する事例において、プロセス200は、メディアコンテンツプラットフォームへの他のビデオコンテンツまたはオーディオコンテンツのアップロードの一時的または恒久的なブロックと関連付けられるペナルティを特定することができる。別の例として、いくつかの実施形態では、コンテンツアイテムがチャットまたはコメントセクションに提出されるコメントに対応する事例において、プロセス200は、コメントの提出の一時的または恒久的なブロックと関連付けられるペナルティを特定することができる。

【0098】

いくつかの実施形態では、ブロック220に進む前に、プロセス200は、コンテンツアイテムが次いで第2の審査者による2回目の審査を受けるように、コンテンツアイテムを第2のキューに追加することができることに留意されたい。すなわち、いくつかの実施形態では、判断がポリシー違反を示すという決定に応答して、プロセス200は、メディアコンテンツプラットフォームのポリシーにコンテンツアイテムが違反することを確認するために、コンテンツアイテムが第1の審査者とは異なる第2の審査者により2回目の審査を受けるようにすることができる。

【0099】

222において、プロセス200は、ポリシー違反に基づいて、コンテンツ制作者と関連付けられるアカウントを更新することができる。たとえば、いくつかの実施形態では、プロセス200は、アップロードされたコンテンツアイテムが特定のポリシーに違反したことを示すようにアカウントを更新することができる。別の例として、いくつかの実施形態では、プロセス200は、アップロードされたコンテンツアイテムが特定のタイプの不愉快なコンテンツを含むと決定されたことを示すようにアカウントを更新することができる。さらに別の例として、いくつかの実施形態では、プロセス200は、メディアコンテンツプラットフォームと関連付けられるポリシーに違反したコンテンツアイテムをコンテンツ制作者がアップロードした回数の記録を更新することができる。いくつかの実施形態では、ブロック220に関連して上で説明されたように、プロセス200は、コンテンツ制作者のアカウントと関連付けられる情報を使用して、コンテンツ制作者に対するペナルティを決定することができることに留意されたい。

【0100】

224において、プロセス200は、メディアコンテンツプラットフォームへのコンテンツアイテムのアップロードをブロックすることができる。コンテンツアイテムがコンテンツのライブストリームである事例では、プロセス200は、ライブストリームが任意のユーザデバイスにストリーミングされるのを停止または阻害することができることに留意されたい。

【0101】

プロセス100および200は、コンテンツアイテム(たとえば、ビデオ、ライブストリーミングされるビデオコンテンツ、および/または任意の他の適切なコンテンツアイテム)の審査に関するものとして上で説明されるが、いくつかの実施形態では、プロセス100および200は、コメントセクションのコメント、ソーシャルネットワーキング投稿のコメント、ライブチャットにおけるメッセージ、および/または任意の他の適切なコメントなどの、任意の他の適切なタイプのコンテンツを審査するために使用され得ることに留意されたい。たとえば、いくつかの実施形態では、プロセス200は、コメントのグループに適用される分類器に基づいて、特定のコメントが(たとえば、ブロック208および214において)審査されるべきコメントのキューに追加されるべきであるかどうかを決定することができる。より具体的な例として、いくつかの実施形態では、プロセス200は、任意の適切な機械学習分類器を使用して、コメントが1つまたは複数のタイプの不愉快なコンテンツ(たとえば、ヘイトスピーチ、不愉快な言葉、不愉快な画像もしくはリンク、および/または任意の他の適切なタイプの不愉快なコンテンツ)を含む可能性が高いと決定したことに応答して、手動で審査されるべきコメントのキューにコメントを追加することができる。この例について続けると、いくつかの実施形態では、プロセス200は、(たとえば、ブロック214において)審査されるべきコメントのキューにコメントを追加することができ、プロセス200のブロックの中を進み、手動の審査に基づいてコメントが投稿されたライブチャットまたはコメントセクションからコメントが削除されるべきであるかどうかを決定することができる。別の例として、いくつかの実施形態では、ブロック202に関連して上で説明されたように、プロセス100および200は、メンバーシップの購入に関連してコンテンツ制作者により提供される特典を審査するために使用され得る。より具体的な例として、いくつかの実施形態では、プロセス200は、メンバーシップを購入した視聴者からの不満が受け取られているかどうか、所定の閾値より多くの視聴者が購入されたメンバーシップを取り消したかどうかなどの任意の適切な情報に基づいて、および/または任意の他の適切な基準に基づいて、特定の提供された特典が(たとえば、ブロック208および214において)審査されるべき特典のキューに追加されるべきであるかどうかを決定することができる。この例について続けると、プロセス200は次いで、プロセス200のブロックの中を進み、手動の審査に基づいて特典の提供が取り消されるべきであるかどうか、または中止されるべきであるかどうかを決定することができる。

【0102】

図3を見ると、開示される主題のいくつかの実施形態に従って使用され得る、不適切なコンテンツアイテムを特定するためのハードウェアの説明のための例300が示されている。示されるように、ハードウェア300は、サーバ302、通信ネットワーク304、ならびに/または、コンテンツ制作者デバイス308および/もしくは審査者デバイス310などの1つまたは複数のユーザデバイス306を含み得る。

【0103】

サーバ302は、情報、データ、メディアコンテンツ、および/または任意の他の適切なタイプのコンテンツを記憶するための任意の適切なサーバであり得る。たとえば、いくつかの実施形態では、サーバ302は、1つまたは複数のコンテンツ制作者デバイス308によりアップロードされるユーザ生成メディアコンテンツを記憶することができる。より具体的な例として、いくつかの実施形態では、ユーザ生成メディアコンテンツは、ビデオ、映画、写真、スライドショー、アニメーション、文書、および/または任意の他の適切なタイプのユーザ生成メディアコンテンツを含み得る。別の例として、いくつかの実施形態では、サーバ302は、特定のコンテンツ制作者がメディアコンテンツプラットフォームの特定のポリシーに違反するコンテンツを以前にアップロードしたかどうか、および/または任意の他の適切な情報などの、ユーザ生成コンテンツをアップロードした1人または複数のコンテンツ制作者についての情報をサーバ302に記憶することができる。いくつかの実施形態では、サーバ302は、審査のためにアップロードされたコンテンツアイテムをキューに入れ、アップロードされたコンテンツアイテムに関する判断(たとえば、コンテンツアイテムが不愉快なコンテンツを含むかどうかを示す判断、および/または任意の他の適切な判断)を記憶し、および/または任意の他の適切な機能を実行するための、任意の適切なプロセスを実施することができる。たとえば、いくつかの実施形態では、サーバ302は、図2に関連して上で示され説明されたように、プロセス200の任意の適切なブロックを実施することができる。

【0104】

通信ネットワーク304は、いくつかの実施形態では、1つまたは複数の有線ネットワークおよび/またはワイヤレスネットワークの任意の適切な組合せであり得る。たとえば、通信ネットワーク304は、インターネット、イントラネット、ワイドエリアネットワーク(WAN)、ローカルエリアネットワーク(LAN)、ワイヤレスネットワーク、デジタル加入者線(DSL)ネットワーク、フレームリレーネットワーク、非同期トランスファーモード(ATM)ネットワーク、仮想プライベートネットワーク(VPN)、および/または任意の他の適切な通信ネットワークのうちの任意の1つまたは複数を含み得る。ユーザデバイス306は、1つまたは複数の通信リンク(たとえば、通信リンク314)を介してサーバ302にリンクされ得る通信ネットワーク304に、1つまたは複数の通信リンク(たとえば、通信リンク312)によって接続され得る。通信リンクは、ネットワークリンク、ダイヤルアップリンク、ワイヤレスリンク、ハードワイヤードリンク、任意の他の適切な通信リンク、またはそのようなリンクの任意の適切な組合せなどの、ユーザデバイス306とサーバ302との間でデータを通信するのに適した任意の通信リンクであり得る。

【0105】

ユーザデバイス306は、任意の1つまたは複数のユーザデバイスを含み得る。たとえば、いくつかの実施形態では、ユーザデバイス306はコンテンツ制作者デバイス308を含み得る。いくつかの実施形態では、コンテンツ制作者デバイス308は、ユーザ生成コンテンツを取り込み、ユーザ生成コンテンツをアップロードし、アップロードされたコンテンツアイテムに関する判断を示す通知を受信し、および/または任意の他の適切な機能を実行するのに適した、任意のユーザデバイスであり得る。別の例として、いくつかの実施形態では、ユーザデバイス306は審査者デバイス310を含み得る。いくつかの実施形態では、審査者デバイス310は、アップロードされたコンテンツアイテムを見て、アップロードされたコンテンツアイテムに関する判断を送信し、および/または任意の他の適切な機能を実行するのに適した、任意のユーザデバイスであり得る。いくつかの実施形態では、ユーザデバイス306は、任意の適切なタイプのユーザデバイスを含み得る。たとえば、いくつかの実施形態では、ユーザデバイス306は、携帯電話、ウェアラブルコンピュータ、タブレットコンピュータ、デスクトップコンピュータ、ラップトップコンピュータ、車両エンターテインメントシステム、ゲームコンソール、テレビジョン、および/または任意の他の適切なユーザデバイスを含み得る。

【0106】

サーバ302は1つのデバイスとして示されているが、サーバ302によって実行される機能は、いくつかの実施形態では任意の適切な数のデバイスを使用して実行され得る。たとえば、いくつかの実施形態では、複数のデバイスが、サーバ302により実行される機能を実装するために使用され得る。

【0107】

図を過剰に複雑にするのを避けるために、2つのユーザデバイス308および310が図3に示されているが、いくつかの実施形態では、任意の適切な数のユーザデバイス、および/または任意の適切なタイプのユーザデバイスが使用され得る。

【0108】

いくつかの実施形態では、サーバ302およびユーザデバイス306は、任意の適切なハードウェアを使用して実装され得る。たとえば、いくつかの実施形態では、デバイス302および306は、任意の適切な汎用コンピュータまたは専用コンピュータを使用して実装され得る。たとえば、携帯電話は、専用コンピュータを使用して実装され得る。任意のそのような汎用コンピュータまたは専用コンピュータが、任意の適切なハードウェアを含み得る。たとえば、図4の例示的なハードウェア400において示されるように、そのようなハードウェアは、ハードウェアプロセッサ402、メモリおよび/またはストレージ404、入力デバイスコントローラ406、入力デバイス408、ディスプレイ/オーディオドライバ410、ディスプレイおよびオーディオ出力回路412、通信インターフェース414、アンテナ416、ならびにバス418を含み得る。

【0109】

ハードウェアプロセッサ402は、いくつかの実施形態では、マイクロプロセッサ、マイクロコントローラ、デジタルシグナルプロセッサ、専用論理回路、および/または、汎用コンピュータもしくは専用コンピュータの機能を制御するための任意の他の適切な回路などの、任意の適切なハードウェアプロセッサを含み得る。いくつかの実施形態では、ハードウェアプロセッサ402は、サーバ302などのサーバのメモリおよび/またはストレージに記憶されるサーバプログラムによって制御され得る。いくつかの実施形態では、ハードウェアプロセッサ402は、ユーザデバイス306のメモリおよび/またはストレージ404に記憶されているコンピュータプログラムによって制御され得る。

【0110】

メモリおよび/またはストレージ404は、いくつかの実施形態では、プログラム、データ、および/または任意の他の適切な情報を記憶するための、任意の適切なメモリおよび/またはストレージであり得る。たとえば、メモリおよび/またはストレージ404は、ランダムアクセスメモリ、読取り専用メモリ、フラッシュメモリ、ハードディスクストレージ、光学メディア、および/または任意の適切なメモリを含み得る。

【0111】

入力デバイスコントローラ406は、いくつかの実施形態では、1つまたは複数の入力デバイス408を制御してそれらから入力を受けるための任意の適切な回路であり得る。たとえば、入力デバイスコントローラ406は、タッチスクリーンから、キーボードから、1つまたは複数のボタンから、音声認識回路から、マイクロフォンから、カメラから、光学センサから、加速度計から、温度センサから、近距離センサから、圧力センサから、エンコーダから、および/または任意の他のタイプの入力デバイスから、入力を受けるための回路であり得る。

【0112】

ディスプレイ/オーディオドライバ410は、いくつかの実施形態では、1つまたは複数のディスプレイ/オーディオ出力デバイス412を制御してそれへの出力を駆動するための任意の適切な回路であり得る。たとえば、ディスプレイ/オーディオドライバ410は、タッチスクリーン、フラットパネルディスプレイ、陰極線管ディスプレイ、プロジェクタ、1つまたは複数のスピーカ、ならびに/または任意の他の適切なディスプレイおよび/もしくは提示デバイスを駆動するための回路であり得る。

【0113】

通信インターフェース414は、1つまたは複数の通信ネットワーク(たとえば、コンピュータネットワーク304)とインターフェースをとるための任意の適切な回路であり得る。たとえば、インターフェース414は、ネットワークインターフェースカード回路、ワイヤレス通信回路、および/または任意の他の適切なタイプの通信ネットワーク回路を含み得る。

【0114】

アンテナ416は、いくつかの実施形態では、通信ネットワーク(たとえば、通信ネットワーク304)とワイヤレスに通信するための任意の適切な1つまたは複数のアンテナであり得る。いくつかの実施形態では、アンテナ416は省略され得る。

【0115】

バス418は、いくつかの実施形態では、2つ以上の構成要素402、404、406、410、および414の間で通信するための任意の適切な機構であり得る。

【0116】

いくつかの実施形態に従って、任意の他の適切な構成要素がハードウェア400に含まれ得る。

【0117】

いくつかの実施形態では、図1および図2のプロセスの上で説明されたブロックの少なくともいくつかは、図において示され図に関連して説明される順序および順列に限定されない、任意の順序または順列で実行もしくは実施され得る。また、図1および図2の上記のブロックのいくつかは、適切な場合には実質的に同時に、またはレイテンシおよび処理時間を減らすために並列に、実行もしくは実施され得る。加えて、または代わりに、図1および図2のプロセスの上で説明されたブロックのいくつかは省略され得る。

【0118】

いくつかの実施形態では、本明細書における機能および/またはプロセスを実行するための命令を記憶するために、任意の適切なコンピュータ可読媒体が使用され得る。たとえば、いくつかの実施形態では、コンピュータ可読媒体は、一時的または非一時的であり得る。たとえば、非一時的コンピュータ可読媒体は、非一時的な形態の磁気媒体(ハードディスク、フロッピーディスク、および/または任意の他の適切な磁気媒体など)、非一時的な形態の光学媒体(コンパクトディスク、デジタルビデオディスク、Blu-ray(登録商標)ディスク、および/または任意の他の適切な光学媒体)、非一時的な形態の半導体媒体(フラッシュメモリ、電気的プログラム可能読取り専用メモリ(EPROM)、電気的消去可能プログラム可能読取り専用メモリ(EEPROM)、および/または任意の他の適切な半導体媒体)、一過性でなく、もしくは送信の間に見かけ上の永続性を失うことのない任意の適切な媒体、および/または任意の適切な有形媒体などの媒体を含み得る。別の例として、一時的コンピュータ可読媒体は、ネットワーク上の、配線中の、導体中の、光ファイバ中の、回路中の、一過性であり、また送信の間にあらゆる見かけ上の永続性を失う任意の適切な媒体中の、ならびに/または任意の適切な非有形媒体中の信号を含み得る。

【0119】

したがって、不適切なコンテンツアイテムを特定するための方法、システム、および媒体が提供される。

【0120】

本発明は、前述の説明のための実施形態において説明され示されているが、本開示は、単なる例として行われるものであり、本発明の実装形態の詳細における多数の変更が、以下の特許請求の範囲だけによって限定される本発明の趣旨および範囲から逸脱することなく行われ得ることが理解される。開示される実施形態の特徴は、様々な方法で組み合わされて並べ替えられ得る。

【符号の説明】

【0121】

100 プロセス
200 プロセス
302 サーバ
304 通信ネットワーク
306 ユーザデバイス
308 コンテンツ制作者デバイス
310 審査者デバイス
312 通信リンク
400 ハードウェア
402 ハードウェアプロセッサ
404 メモリおよび/またはストレージ
406 入力デバイスコントローラ
408 入力デバイス
410 ディスプレイ/オーディオドライバ
412 ディスプレイおよびオーディオ出力回路、ディスプレイ/オーディオ出力デバイス
414 通信インターフェース
416 アンテナ
418 バス

【図1】

【図2】

【図3】

【図4】

【手続補正書】

【提出日】2024-07-03

【手続補正1】

【補正対象書類名】特許請求の範囲

【補正対象項目名】全文

【補正方法】変更

【補正の内容】

【特許請求の範囲】

【請求項1】

不適切なコンテンツアイテムを特定するためにコンピュータによって実行される方法であって、
ユーザと関連付けられるユーザデバイスからサーバにおいて、メディアコンテンツプラットフォーム上でユーザ生成コンテンツを提供するための要求を受信するステップと、
前記要求を受信したことに応答して、
前記ユーザ生成コンテンツに類似する第2のユーザ生成コンテンツを特定するステップであって、前記第2のユーザ生成コンテンツが以前に審査されている、ステップと、
前記第2のユーザ生成コンテンツに対する前記ユーザ生成コンテンツの類似性を決定するステップと、
少なくとも前記類似性と、1つまたは複数の回避基準により示される類似性の閾値とを比較することにより、前記ユーザ生成コンテンツが1人または複数の審査ユーザによって審査されるべきであるかどうかを決定するステップと、
前記1つまたは複数の回避基準に基づいて、前記ユーザ生成コンテンツが審査されるべきであると決定したことに応答して、審査ユーザのキューに審査要求を追加するステップであって、前記審査要求が、前記ユーザ生成コンテンツと、前記ユーザに対応するユーザアカウントと関連付けられる情報とを含む、ステップと、
前記ユーザ生成コンテンツが前記メディアコンテンツプラットフォーム上で提供されるべきであることを、前記審査要求に応答する判断が示すかどうかを決定するステップと、
前記ユーザ生成コンテンツが前記メディアコンテンツプラットフォームと関連付けられる少なくとも1つのポリシーに違反することを前記判断が示すと決定したことに応答して、
前記少なくとも1つの違反されたポリシーと、前記ユーザに対応する前記ユーザアカウントに課されるべきペナルティとを示す第1のメッセージを、前記ユーザデバイスの前記ユーザに送信するステップと、
前記ペナルティに基づいて、対応する行動が実行されるようにするステップと
を含む、方法。

【外国語明細書】