特開 2024-93077 コンテンツ提供装置、コンテンツ提供方法、およびプログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024093077

(43)【公開日】2024-07-09

(54)【発明の名称】コンテンツ提供装置、コンテンツ提供方法、およびプログラム

(51)【国際特許分類】

   G06Q 50/00 20240101AFI20240702BHJP

【ＦＩ】

G06Q50/00 300

【審査請求】有

【請求項の数】12

【出願形態】ＯＬ

(21)【出願番号】P 2022209216

(22)【出願日】2022-12-27

(11)【特許番号】

(45)【特許公報発行日】2023-05-30

(71)【出願人】

【識別番号】319013263

【氏名又は名称】ヤフー株式会社

(74)【代理人】

【識別番号】100149548

【弁理士】

【氏名又は名称】松沼 泰史

(74)【代理人】

【識別番号】100154852

【弁理士】

【氏名又は名称】酒井 太一

(74)【代理人】

【識別番号】100181124

【弁理士】

【氏名又は名称】沖田 壮男

(74)【代理人】

【識別番号】100194087

【弁理士】

【氏名又は名称】渡辺 伸一

(72)【発明者】

【氏名】片岡 裕

(72)【発明者】

【氏名】竹田 辰彦

(72)【発明者】

【氏名】金田 悠和

(72)【発明者】

【氏名】清水 徹

(72)【発明者】

【氏名】大久保 恭輔

(72)【発明者】

【氏名】武田 智義

【テーマコード（参考）】

5L049

5L050

【Ｆターム（参考）】

5L049CC11

5L050CC11

(57)【要約】

【課題】コメント欄の状況に応じて不適切コメントが投稿されることを抑制することができるコンテンツ提供装置、コンテンツ提供方法、およびプログラムを提供すること。
【解決手段】本発明の一態様は、ニュース記事ごとにコメント欄に投稿された各コメントについて不適切コメントに該当するか否かを判定し、当該判定結果に基づいてコメント欄の不健全性の度合いを表すスコアを算出し、当該スコアに基づいてコメント欄の表示を制限するコンテンツ提供装置であって、コメント投稿したユーザの総数と、コメント数と、投稿ユーザのうち、所定期間に不適切コメントを投稿したユーザの総数と、不適切コメントの数と、投稿ユーザの全体に対して、所定期間に不適切コメントを投稿したユーザの割合と、コメントに対する不適切コメントの割合と、不適切コメントの投稿者のログイン状態とのうち一部または全部を変数とする関数によりスコアを算出する。
【選択図】図１

【特許請求の範囲】

【請求項1】

ニュース記事についてユーザが投稿したコメントを提示するコメント欄を含むコンテンツを提供するコンテンツサービスの提供装置であって、
ニュース記事ごとに、前記コメント欄に投稿された各コメントについて不適切コメントに該当するか否かを判定する判定部と、
前記判定部による判定結果に基づいて、前記コメント欄の不健全性の度合いを表す不健全性スコアを算出し、算出した前記不健全性スコアに基づいて前記コメント欄の表示を制限する制御部と、
を備え、
前記制御部は、前記コメント欄にコメントを投稿したユーザの総数と、前記コメント欄に投稿されたコメント数と、前記コメント欄にコメントを投稿したユーザのうち、過去の所定期間に不適切コメントを投稿したユーザの総数と、前記不適切コメントの数と、前記コメント欄にコメントを投稿したユーザの全体に対して、過去の所定期間に不適切コメントを投稿したユーザが占める割合と、前記コメント欄に投稿されたコメントに対する前記不適切コメントの割合と、前記不適切コメントの投稿者の前記コンテンツサービスへのログイン状態と、のうち一部または全部を変数とする関数により前記不健全性スコアを算出する、
コンテンツ提供装置。

【請求項2】

前記関数は、前記変数の値が大きいほどより大きな不健全性スコアを与える傾向を有する、
請求項１に記載のコンテンツ提供装置。

【請求項3】

前記制御部は、前記不健全性スコアが不健全性スコア閾値を超えた場合、所定の条件を満たすユーザが前記コメント欄を閲覧することができないように前記コメント欄の表示を制限する、
請求項１に記載のコンテンツ提供装置。

【請求項4】

前記不健全性スコア閾値は、前記ニュース記事のジャンルに応じた値である、
請求項３に記載のコンテンツ提供装置。

【請求項5】

前記不健全性スコア閾値は、前記ユーザごとの設定値であり、
前記不健全性スコア閾値の値の設定手段を前記ユーザに提供する閾値設定部をさらに備える、
請求項３に記載のコンテンツ提供装置。

【請求項6】

前記不健全性スコア閾値は、前記ユーザの属性に応じた値である、
請求項３に記載のコンテンツ提供装置。

【請求項7】

前記所定の条件を満たすユーザは、前記コンテンツの提供サービスにログインしていない状態のユーザである、
請求項３に記載のコンテンツ提供装置。

【請求項8】

前記制御部は、前記ユーザが過去の所定期間に投稿したコメントの数のうち、前記不適切コメントと判定されたものの割合に基づいて前記不健全性スコア閾値を変更する、
請求項３から７のいずれか一項に記載のコンテンツ提供装置。

【請求項9】

前記所定の条件は、前記ユーザが前記コンテンツサービスにログインしている状態である、且つ、前記不健全性スコアが予め設定された前記ユーザごとの不健全性スコア閾値を超えていることである、
請求項３から７のいずれか一項に記載のコンテンツ提供装置。

【請求項10】

前記制御部は、前記コンテンツサービスにログインしているユーザに対して、表示制限が行われたコメント欄の内容を特定の操作により閲覧可能とする手段を提供する、
請求項１から７のいずれか一項に記載のコンテンツ提供装置。

【請求項11】

ニュース記事についてユーザが投稿したコメントを提示するコメント欄を含むコンテンツを提供するコンテンツサービスの提供装置が、
ニュース記事ごとに、前記コメント欄に投稿された各コメントについて不適切コメントに該当するか否かを判定し、
前記不適切コメントに該当するか否かの判定結果に基づいて、前記コメント欄の不健全性の度合いを表す不健全性スコアを算出し、算出した前記不健全性スコアに基づいて前記コメント欄の表示を制限する制御処理を実行し、
前記制御処理において、前記コメント欄にコメントを投稿したユーザの総数と、前記コメント欄に投稿されたコメント数と、前記コメント欄にコメントを投稿したユーザのうち、過去の所定期間に不適切コメントを投稿したユーザの総数と、前記不適切コメントの数と、前記コメント欄にコメントを投稿したユーザの全体に対して、過去の所定期間に不適切コメントを投稿したユーザが占める割合と、前記コメント欄に投稿されたコメントに対する前記不適切コメントの割合と、前記不適切コメントの投稿者の前記コンテンツサービスへのログイン状態と、のうち一部または全部を変数とする関数により前記不健全性スコアを算出する、
コンテンツ提供方法。

【請求項12】

ニュース記事についてユーザが投稿したコメントを提示するコメント欄を含むコンテンツを提供するコンテンツサービスの提供装置に、
ニュース記事ごとに、前記コメント欄に投稿された各コメントについて不適切コメントに該当するか否かを判定させ、
前記不適切コメントに該当するか否かの判定結果に基づいて、前記コメント欄の不健全性の度合いを表す不健全性スコアを算出し、算出した前記不健全性スコアに基づいて前記コメント欄の表示を制限する制御処理を実行させ、
前記制御処理において、前記コメント欄にコメントを投稿したユーザの総数と、前記コメント欄に投稿されたコメント数と、前記コメント欄にコメントを投稿したユーザのうち、過去の所定期間に不適切コメントを投稿したユーザの総数と、前記不適切コメントの数と、前記コメント欄にコメントを投稿したユーザの全体に対して、過去の所定期間に不適切コメントを投稿したユーザが占める割合と、前記コメント欄に投稿されたコメントに対する前記不適切コメントの割合と、前記不適切コメントの投稿者の前記コンテンツサービスへのログイン状態と、のうち一部または全部を変数とする関数により前記不健全性スコアを算出させる、
プログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、コンテンツ提供装置、コンテンツ提供方法、およびプログラムに関する。

【背景技術】

【0002】

各種コンテンツをユーザに提供する際に、第三者により投稿されたコンテンツに対する意見、感想等を示すコメントを、コンテンツに合わせて提供するサービスが行われている。コンテンツの提供者は、第三者により投稿されるコメントについて、一般公開するには不適切な内容を含むコメント(以下「不適切コメント」という。）がないかを監視し、そのような不適切コメントを削除するなどしてコンテンツの健全性を維持したりする場合がある。このようなコンテンツの監視に関し、不適切コメントの検知を迅速且つ高精度で行うことを目的として、コメントが不適切である旨の報告を、当該コメントを閲覧したユーザから受け付けるとともに、受け付けた報告に基づいて当該コメントが不適切か否かを判定する技術が提案されている（例えば特許文献１参照）。

【先行技術文献】

【特許文献】

【0003】

【特許文献1】特許第６９３７７０７号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

しかしながら、従来技術では、検知された不適切コメントを個別に削除することはできても、コメント欄が全体として不健全性が高い状態（不適切性の高いコメントが多く含まれている状態）となることを抑制することができない場合があった。

【0005】

本発明は、このような事情を考慮してなされたものであり、コメント欄が全体として不健全性が高い状態となることを抑制することができるコンテンツ提供装置、コンテンツ提供方法、およびプログラムを提供することを目的の一つとする。

【課題を解決するための手段】

【0006】

本発明の一態様は、ニュース記事についてユーザが投稿したコメントを提示するコメント欄を含むコンテンツを提供するコンテンツサービスの提供装置であって、ニュース記事ごとに、前記コメント欄に投稿された各コメントについて不適切コメントに該当するか否かを判定する判定部と、前記判定部による判定結果に基づいて、前記コメント欄の不健全性の度合いを表す不健全性スコアを算出し、算出した前記不健全性スコアに基づいて前記コメント欄の表示を制限する制御部と、を備え、前記制御部は、前記コメント欄にコメントを投稿したユーザの総数と、前記コメント欄に投稿されたコメント数と、前記コメント欄にコメントを投稿したユーザのうち、過去の所定期間に不適切コメントを投稿したユーザの総数と、前記不適切コメントの数と、前記コメント欄にコメントを投稿したユーザの全体に対して、過去の所定期間に不適切コメントを投稿したユーザが占める割合と、前記コメント欄に投稿されたコメントに対する前記不適切コメントの割合と、前記不適切コメントの投稿者の前記コンテンツサービスへのログイン状態と、のうち一部または全部を変数とする関数により前記不健全性スコアを算出する、コンテンツ提供装置である。

【発明の効果】

【0007】

本発明によれば、コメント欄が全体として不健全性が高い状態となることを抑制することができる。

【図面の簡単な説明】

【0008】

【図1】実施形態のサービス提供装置の利用環境を示す図である。

【図2】コメント判定部によって行われる判定処理の一例を説明する図である。

【図3】ユーザ情報の一例を示す図である。

【図4】コメント情報の一例を示す図である。

【図5】ニュース記事管理情報の一例を示す図である。

【図6】サービス提供装置が配信するニュースページについてコメント欄の表示制限を行うために実行する処理の流れの一例を示すフローチャートである。

【図7】コメント欄について不健全性の度合いを表す不健全性スコアを算出する関数の一例を示す図である。

【図8】コンテンツ提供部によるコメント欄の閲覧制限の一例を示す図である。

【発明を実施するための形態】

【0009】

以下、図面を参照し、本発明のコンテンツ提供装置、コンテンツ提供方法、およびプログラムの実施形態について説明する。コンテンツ提供装置は、一以上のプロセッサ（コンピュータ）により実現される。コンテンツ提供装置は、コンテンツに対するコメントの投稿を監視し、投稿されたコメントが不適切コメントであるか否かを判定する。コンテンツ提供装置は、その判定結果に基づいて、コメント欄の不健全性を認識し、認識した不健全性の度合いに応じてコメント欄の表示を制限する。また、コンテンツ提供装置は、コメント欄の不健全性に加えて、コメントごとの不健全性の度合いを認識し、認識したコメントごとの不健全性の度合いに応じてコメントごとの表示制御を行ってもよい。

【0010】

図１は、サービス提供装置１（コンテンツ提供装置）の利用環境を示す図である。サービス提供装置１は、ネットワークＮＷを介して、一以上のユーザ端末装置Ｔ１および一以上の入稿者端末装置Ｔ２と接続され、このネットワークＮＷを介して互いに通信する。ネットワークＮＷは、例えば、ＷＡＮ（Wide Area Network）やＬＡＮ（Local Area Network）、インターネット、専用回線、無線基地局、プロバイダなどを含む。

【0011】

サービス提供装置１は、例えば、ウェブサーバまたはアプリサーバなどと称される。サービス提供装置１は、ユーザ端末装置Ｔ１からの要求に応じて、ブラウザやアプリケーションプログラムによって再生されるコンテンツを提供する。また、サービス提供装置１は、入稿者端末装置Ｔ２からの要求に応じて、ユーザ端末装置Ｔ１に配信されるニュース記事の入稿を受け付ける。

【0012】

サービス提供装置１により提供されるコンテンツには、例えば、ブラウザによって参照されるウェブページの他、アプリケーションプログラムによって参照されるアプリページが含まれる。このようなウェブページまたはアプリページには、コメント投稿機能が実装された任意のページが含まれる。例えば、ウェブページには、ニュースサイト、オークションサイト、質問サイト等のページが含まれる。その他、コンテンツには、ミニブログ等のソーシャルネットワークサービス（ＳＮＳ）において投稿されたメッセージ等も含まれる。以下においては、サービス提供装置１により提供されるコンテンツが、ブラウザによって参照されるウェブページであり、このウェブページがニュースサイトのページである場合を例に挙げて説明する。

【0013】

サービス提供装置１により提供されるコンテンツは、メインコンテンツと共に、ユーザにより投稿されたメインコンテンツに対する意見、感想等を示すコメントの表示欄（コメント欄）や、コメント欄にコメントを投稿するためのユーザインタフェースなどを含むものである。サービス提供装置１は、ユーザが投稿したコメントが不適切コメントに該当するか否かを判定する。サービス提供装置１は、あるコンテンツに対して投稿されたコメントのうち、不適切コメントを削除した上で、ユーザに提供する。サービス提供装置１は、不適切コメントの削除に代えて／加えて、不適切コメントの掲載順位を下げることを行ってもよい。

【0014】

ユーザ端末装置Ｔ１は、サービス提供装置１により提供されるニュースサイトのページを閲覧するユーザによって操作される。ユーザ端末装置Ｔ１は、例えば、パーソナルコンピュータ、スマートフォンなどの携帯電話やタブレット端末、ＰＤＡ（Personal Digital Assistant）などのコンピュータ装置である。ユーザ端末装置Ｔ１は、ブラウザやアプリケーションプログラムなどのＵＡ（User Agent）が動作して以下の機能を実現する。ユーザ端末装置Ｔ１は、ユーザの操作に基づいて、サービス提供装置１により提供されるニュースサイトのページを要求するリクエストを送信し、リクエストに応じたニュースサイトのページに関する情報をサービス提供装置１から受信して表示する。

【0015】

［サービス提供装置の構成］
サービス提供装置１は、例えば、通信部１０と、コンテンツ取得部１２と、順位決定部１４と、コンテンツ提供部１６と、コメント判定部１８と、ユーザ管理部２０と、コメント管理部２２と、ニュース記事管理部２４と、記憶部３０とを備える。サービス提供装置１に含まれる各機能部は、複数の装置に分散されてもよい。

【0016】

通信部１０は、ネットワークＮＷを介して、ユーザ端末装置Ｔ１等と通信する。通信部１０は、例えば、ＮＩＣ（Network Interface Card）等の通信インターフェースを含む。

【0017】

コンテンツ取得部１２は、ユーザにより要求されたニュースページのニュース記事情報３０Ｃと、このニュース記事情報３０Ｃに対して投稿された１以上のコメントを含むコメント情報３０Ｂとを、記憶部３０から取得する。

【0018】

順位決定部１４は、コンテンツ取得部１２により取得された１以上のコメントの掲載順位を決定する。順位決定部１４は、例えば、コメントのクリック率や、コメントに対する評価、コメントに含まれる表現等に基づいて、コメントの掲載順位を決定する。例えば、順位決定部１４は、コメントのクリック率が高い順に、コメントの掲載順位を決定する。順位決定部１４は、不適切コメントであると判定されたコメントについては、掲載順位を下げるか、あるいは掲載対象から除外するように、コメントの掲載順位を決定する。

【0019】

コンテンツ提供部１６は、コンテンツ取得部１２により取得されたニュース記事情報３０Ｃを少なくとも含み、コメント情報３０Ｂに含まれる１以上のコメントを表示するコメント欄を含み得るニュースページを生成し、ユーザ端末装置Ｔ１に送信する。このニュースページ内において、コメント情報３０Ｂに含まれるコメントは、順位決定部１４により決定された掲載順位で掲載される。

【0020】

さらに、コンテンツ提供部１６は、ニュースページにおけるコメント欄の表示を、コメント欄の状況に応じて制限する機能を有する。より具体的には、コンテンツ提供部１６は、コメント欄に対する不適切コメントの投稿の状況に基づいてコメント欄の不健全性の度合いを表す不健全性スコアを算出し、算出した不健全性スコアが大きいほど制限がより強くなるようにコメント欄の表示を制御する。例えば、コンテンツ提供部１６は、コメント欄の状況に応じてニュースページにコメント欄を表示させるか否かを制御してもよい。また例えば、コンテンツ提供部１６は、コメント欄の状況に応じてニュースページのコメント欄を閲覧可能なユーザの範囲を制御してもよい。不健全性スコアの計算方法については後述する。

【0021】

コメント判定部１８は、ニュースページのコメント欄に投稿されたコメントが不適切コメントであるか否かを判定する。より具体的には、コメント判定部１８は、各コメントの不適切性スコアを所定の不適切性スコア閾値と比較することにより、対象のコメントが不適切コメントであるか否かを判定することができる。この不適切性スコアは、各コメントについて不適切性の度合いを示すスコアであり、本実施形態のサービス提供装置１は、各コメント情報を入力として、それぞれの不適切性スコアを出力とするスコア算出モデル３０Ｅを予め学習済みであるものとする。コメント判定部１８は、算出対象のコメント情報をスコア算出モデル３０Ｅに入力することにより当該コメントの不適切性スコアを取得することができる。コメント判定部１８は、算出した不適切性スコアを当該コメントに対応づけて管理する。

【0022】

なお、この場合、コンテンツ提供部１６は、上述のコメント欄の表示制限に加え、コメントごとの不適切性スコアに基づいて、コメントごとの表示制御（例えば、表示または非表示の制御や、表示順の制御など）を行ってもよい。

【0023】

図２は、コメント判定部１８によって行われる不適切コメントの判定処理の一例を説明する図である。コメント判定部１８は、入力情報としてユーザにより入力されたコメント情報を受け取る。次に、コメント判定部１８は、記憶部３０に記憶されたスコア算出モデル３０Ｅを用いて、入力されたコメント情報に含まれるコメントについて不適切性スコアを算出する。次にコメント判定部１８は、算出した不適切性スコアと、記憶部３０に記憶された不適切性スコア閾値３０Ｆとを比較することにより、対象のコメントが不適切コメントであるか否かを判定する。次に、コメント判定部１８は、出力情報として不適切コメントか否かに関する情報を出力する。出力情報は、例えば不適切スコアに基づく確率値（不適切な確率０．８等）でもよいし、０（適切）または１（不適切）などを示す情報であってもよい。

【0024】

例えば、スコア算出モデル３０Ｅは、不適切性の度合いを数値化した情報とコメント情報との組を学習データとして機械学習を行うことによって生成される。この際の機械学習は、例えば、サポートベクターマシンを用いるものであってもよいし、再帰型ニューラルネットワーク（Recurrent Neural Network：ＲＮＮ）や多層構造のニューラルネットワーク（Deep Neural Network：ＤＮＮ）、畳み込みニューラルネットワーク（Convolutional Neural Network：ＣＮＮ）などを用いたディープラーニング技術を採用したものであってもよい。生成されたスコア算出モデル３０Ｅと、不適切性スコア閾値３０Ｆとは、予め記憶部３０に記憶されるものとする。

【0025】

図１に戻る。ユーザ管理部２０は、コンテンツサービスのユーザを管理する機能を有する。ユーザ管理部２０は、ユーザの管理情報をユーザ３０Ａとして管理する。

【0026】

コメント管理部２２は、コンテンツサービスが提供するニュース記事に対するコメントの投稿、および投稿されたコメントの管理を行う機能を有する。コメント管理部２２は、コメントの管理情報をコメント情報３０Ｂとして管理する。

【0027】

ニュース記事管理部２４は、コンテンツサービスで配信するニュース記事を管理する機能を有する。ニュース記事管理部２４は、ニュース記事をニュース記事情報３０Ｃとして管理し、ニュース記事の管理情報をニュース記事管理情報３０Ｄとして管理する。

【0028】

記憶部３０は、例えば、ニュース記事を示すニュース記事情報３０Ｃと、ニュース記事に対して投稿されたコメントを示すコメント情報３０Ｂとを記憶する。ニュース記事情報３０Ｃは、ニュース記事の配信担当者等の操作に基づいて適宜更新されるか、あるいは、日次等の所定のタイミングで実施されるバッチ処理により更新されてよい。コメント情報３０Ｂは、ニュースページに対するユーザによるコメントの投稿処理に基づいて適宜更新されてよい。ニュース記事情報３０Ｃにおいて、ニュース記事は、ニュースのジャンルに対応づけて管理される。

【0029】

記憶部３０は、例えば、ユーザごとの属性を示す情報を含むユーザ情報３０Ａを記憶する。例えば、ユーザ情報３０Ａは、ユーザごとの属性の一つとして、コメント欄の表示制限を判定するためのスコア閾値を含む。記憶部３０は、スコア算出モデル３０Ｅを記憶する。

【0030】

サービス提供装置１の各機能部は、例えば、ＣＰＵ（Central Processing Unit）等のハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。サービス提供装置１は、各機能部を実現するための複数のプロセッサを備えてもよい。また、これらの各機能部のうち一部または全部は、ＬＳＩ（Large Scale Integration）やＡＳＩＣ（Application Specific Integrated Circuit）、ＦＰＧＡ（Field-Programmable Gate Array）、ＧＰＵ（Graphics Processing Unit）等のハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。

【0031】

サービス提供装置１の記憶部３０は、例えば、ＲＡＭ（Random Access Memory）、ＲＯＭ（Read Only Memory）、ＨＤＤ（Hard Disk Drive）、フラッシュメモリ、またはこれらのうち複数が組み合わされたハイブリッド型記憶装置等により実現される。サービス提供装置１の記憶部３０は、単一の装置により実現されてもよい。また、サービス提供装置１の記憶部３０の一部または全部は、ＮＡＳや外部のストレージサーバ等、サービス提供装置１がアクセス可能な外部装置であってもよい。

【0032】

図３は、ユーザ情報３０Ａの一例を示す図である。ユーザ情報３０Ａは、例えば、ユーザＩＤと、属性情報と、スコア閾値と、ログイン状態と、を含む各種情報が対応づけられた情報である。ユーザＩＤは、コンテンツサービスにアカウントを有するユーザの識別情報である。属性情報は、ユーザの年代や性別、職業、居住地域などの各種属性を示す情報である。スコア閾値は、当該ユーザについてコメント欄の閲覧制限を行う際に使用される不健全性スコアの閾値である。ログイン状態は、コンテンツサービスに対するユーザのログイン状態を示す。ユーザ情報３０Ａは、例えば、ユーザ管理部２０によって管理される。

【0033】

例えば、ユーザ管理部２０は、コンテンツサービスに対してユーザを登録する機能を有し、コンテンツサービスへのユーザ登録の際に、対象ユーザについてユーザＩＤを発行するとともにユーザから所定の情報提供を受け、提供された情報をユーザＩＤに対応づけてユーザ情報３０Ａに登録する。また、例えば、ユーザ管理部２０は、コンテンツサービスに対するユーザのログイン認証を行う機能を有し、ユーザのログインまたはログアウトに応じてログイン状態の値を更新する。また、ユーザ管理部２０は、ユーザ情報を変更するためのユーザインタフェースを提供する機能を有し、当該ユーザインタフェースを介して提供された変更内容をユーザ情報３０Ａに反映させる。

【0034】

図４は、コメント情報３０Ｂの一例を示す図である。コメント情報３０Ｂは、例えば、コメントＩＤと、コメント投稿日時と、投稿者と、ニュース記事ＩＤと、コメント内容と、コメントの不適切性スコアとが対応づけられた情報である。コメントＩＤは、コメント欄に投稿されたコメントの識別情報である。コメント投稿日時は、対応するコメントが投稿された日時である。投稿者は、コメントを投稿したユーザを示す情報であり、例えば、ユーザ情報３０Ａに登録されたユーザＩＤのいずれかに対応する。ニュース記事ＩＤは、コメントが投稿されたニュース記事の識別情報である。コメント内容の項目には、投稿されたコメントの内容が格納される。コメント情報３０Ｂは、例えば、コメント管理部２２によって管理される。

【0035】

例えば、コメント管理部２２は、コンテンツサービスにログイン中のユーザのユーザ端末装置Ｔ１からコメントの投稿要求を受け付ける機能を有し、投稿要求を受け付けた際に、対象コメントについてコメントＩＤを払い出すとともにコメントの内容を取得し、取得したコメントの内容を当該ユーザのユーザＩＤ、コメントＩＤ、および当該コメントを投稿する対象のニュース記事のニュース記事ＩＤに対応づけてコメント情報３０Ｂに登録する。また、例えば、コメント管理部２２は、コメントの新規登録に応じて、当該コメントの不適切性スコアをコメント判定部１８に算出させ、その結果をコメント情報３０Ｂに登録する。

【0036】

図５は、ニュース記事管理情報３０Ｄの一例を示す図である。ニュース記事管理情報３０Ｄは、例えば、ニュース記事ＩＤと、ジャンルと、不健全性スコア閾値と、入稿日時とが対応づけられた情報である。ニュース記事ＩＤは、コンテンツサービスが提供するニュース記事の識別情報である。ジャンルは、対応するニュース記事のジャンルを表す。不健全性スコア閾値は、対応するジャンルのニュース記事のコメント欄について閲覧制限を行う際に使用される不健全性スコアの閾値である。入稿日時は、対応するニュース記事がコンテンツサービスに入稿された日時を表す。ニュース記事管理情報３０Ｄは、例えば、ニュース記事管理部２４によって管理される。なお、ニュース記事管理情報３０Ｄには、不健全性スコア閾値に基づいて判定されたコメント欄の表示可否が含まれてもよい。

【0037】

例えば、ニュース記事管理部２４は、入稿者端末装置Ｔ２から、コンテンツサービスで配信するニュース記事の入稿を受け付ける機能を有し、入稿を受け付けた際に、対象のニュース記事についてニュース記事ＩＤを払い出すとともにニュース記事の内容を取得し、取得したニュース記事の内容を、当該ニュース記事のニュース記事ＩＤ、ジャンル、ジャンルに対応する不健全性スコア閾値、および入稿日時に対応づけてニュース記事管理情報３０Ｄに登録する。ジャンルは、ニュース記事の入稿者によって指定されてもよい。

【0038】

図６は、実施形態のサービス提供装置１が配信するニュースページについてコメント欄の表示制限を行うために実行する処理の流れの一例を示すフローチャートである。ここでは、ユーザ端末装置Ｔ１からニュースページの配信要求を受けてから実行する処理の流れを説明する。まず、サービス提供装置１において、コンテンツ提供部１６が、ユーザ端末装置Ｔ１からニュースページの配信要求を受け付ける（ステップＳ１０１）。続いて、コンテンツ提供部１６は、要求されたニュースページに掲載されるニュース記事のそれぞれについて、コメント欄の不健全性の度合いを表す不健全性スコアを算出する（ステップＳ１０２）。続いて、コンテンツ提供部１６は、各コメント欄について算出した不健全性スコアと、不健全性スコア閾値とを比較することにより、各コメント欄の閲覧制限を行うか否かを判定する（ステップＳ１０３）。

【0039】

なお、不健全性スコアを算出する処理と、算出された不健全性スコアに基づいて閲覧制限を行う処理とは並行して実施されてもよい。例えば、ニュース記事管理部２４が、登録されているニュース記事の不健全性スコアを所定の周期で再計算してニュース記事管理情報３０Ｄに登録する処理に並行して、コンテンツ提供部１６が、配信要求を受けてニュースページを配信する処理を実行してもよい。この場合、コンテンツ提供部１６は、配信要求を受けつけた時点でニュース記事管理情報３０Ｄに登録されている不健全性スコアに基づいて配信対象のニュースページのコメント欄の閲覧制限を行うことができる。

【0040】

図７は、コメント欄について不健全性の度合いを表す不健全性スコアを算出する関数Ｆの一例を示す図である。図７の例において、関数Ｆは、第１変数および第２変数の入力に対して不健全性スコアの値を与える関数である。上述したとおり、第１変数および第２変数は、コメント欄の不健全性に相関するものであれば任意の変数であってよい。例えば、関数Ｆは、図７に示すように、変数の値の増加に対して不健全性スコアを増大させる傾向を有する関数とすることができる。また、図７の例では、不健全性スコアと比較する不健全性スコア閾値をＴとしている。

【0041】

この例において、例えば、第１変数の値がｘ１であり、第２変数の値がｙ１である場合には、コンテンツ提供部１６は、不健全性スコアの値Ｓ１が不健全性スコア閾値Ｔよりも小さいことから、対応するニュース記事のコメント欄について、閲覧制限を行わないと判定することができる。また一方で、例えば、第１変数の値がｘ２であり、第２変数の値がｙ２である場合には、コンテンツ提供部１６は、不健全性スコアの値Ｓ２が不健全性スコア閾値Ｔよりも大きいことから、対応するニュース記事のコメント欄について、閲覧制限を行うと判定することができる。なお、上述したとおり、不健全性スコア閾値は、固定値である必要はなく、ユーザの状態や属性、ニュース記事のジャンルなどの諸事項に応じて変更されてよい。

【0042】

図６に戻る。続いて、コンテンツ提供部１６は、ステップＳ１０３において各コメント欄について判定した、閲覧制限を行うか否かの判定結果をもとに、要求元のユーザ端末装置Ｔ１に提供するニュースページを生成する。具体的には、コンテンツ提供部１６は、閲覧制限を行うと判定した場合には、対象のニュース記事についてコメント欄を表示しないニュースページを生成する（ステップＳ１０４）。また、一方で、コンテンツ提供部１６は、閲覧制限を行わないと判定した場合には、対象のニュース記事についてコメント欄を表示するニュースページを生成する（ステップＳ１０５）。コンテンツ提供部１６は、生成したニュースページを要求元のユーザ端末装置Ｔ１に送信する（ステップＳ１０６）。

【0043】

図８は、コンテンツ提供部１６によるコメント欄の閲覧制限の一例を示す図である。図８において、画面Ｇ１は、閲覧制限が行われなかった場合のニュースページの表示例を示すものであり、この場合、対象のニュース記事Ｇ１１と、ニュース記事Ｇ１１に対するコメントが表示されるコメント欄Ｇ１２とを含むニュースページが表示される。ここでは、ニュース記事Ｇ１１およびコメント欄Ｇ１２のほかに、ニュースページに、関連記事のタイトルが表示される関連記事欄Ｇ１３と、おススメ記事のタイトルが表示されるおススメ記事欄Ｇ１４とが含まれる場合を一例として示している。関連記事やおススメ記事は、ニュース記事の内容やジャンル、ユーザの閲覧履歴等に基づいて任意の方法で特定されてよい。

【0044】

一方、画面Ｇ２は、閲覧制限が行われた場合のニュースページの表示例を示すものであり、この場合、例えば、画面Ｇ１で表示されたコメント欄Ｇ１２が、当該コメント欄が閉じられた旨を示すテキスト表示Ｇ１２’に差し替えられる。すなわち、この場合、コメント欄Ｇ１２に代えてテキスト表示Ｇ１２’を表示するニュースページが生成される。このようなコメント欄の閲覧制限により、サービス提供装置１は、ニュース記事を掲載するニュースページにおいて、コメント欄の不健全性が所定の度合いを超えた場合には、そのコメント欄を表示させないようにすることができる。すなわち、実施形態のサービス提供装置１によれば、コメント欄の状況に応じて不適切コメントが投稿されることを抑制することができる。

【0045】

［不健全性スコア算出処理］
以下、サービス提供装置１の処理について説明する。まず、サービス提供装置１がニュースページにおいてコメント欄の表示制限を実施するか否かを判定する際に使用する不健全性スコアの算出処理について説明する。上述のとおり、不健全性スコアは、サービス提供装置１において、コンテンツ提供部１６が、ユーザ端末装置Ｔ１のコンテンツ要求を受けてニュースページを生成する際に算出されるものであり、コメント欄の不健全性の度合いを表す値である。例えば、コンテンツ提供部１６は、コメント欄の不健全性に関連する複数の変数を入力として不健全性スコアを出力する関数（以下「不健全性スコア関数」という。）を用いて不健全性スコアを算出することができる。なお、不健全性スコア関数がとる変数は、コメント欄の不健全性に関連するものであればどのようなものであってもよい。

【0046】

例えば、不健全性スコア関数の変数の一例として以下が例示され得る。
（１）コメント欄にコメントを投稿したユーザの総数
例えば、コンテンツ提供部１６は、コメント情報３０Ｂに登録されたコメントのうち、コメント欄に対応するニュース記事に対するコメントを抽出し、抽出したコメントの投稿者を、重複を排除して数えることにより、特定のコメント欄にコメントを投稿したユーザの総数を取得することができる。

【0047】

（２）コメント欄に投稿されたコメントの総数
例えば、コンテンツ提供部１６は、コメント情報３０Ｂに登録されたコメントの数を数えることによりコメント欄に投稿されたコメントの総数を取得することができる。

【0048】

（３）コメント欄にコメントを投稿したユーザのうち、過去の所定期間に不適切コメントを投稿したユーザの総数
例えば、コンテンツ提供部１６は、コメント情報３０Ｂに登録されたコメントのうち、過去の所定期間に投稿されたコメントであって、且つ、不適切コメントと判定されたコメントを抽出し、抽出したコメントの投稿者を特定する。コンテンツ提供部１６は、特定した投稿者のうち、対象のコメント欄にコメントを投稿したユーザを数えることにより、コメント欄にコメントを投稿したユーザのうち、過去の所定期間に不適切コメントを投稿したユーザの総数を取得することができる。

【0049】

（４）コメント欄に投稿されたコメントのうち不適切コメントと判定されたものの数
例えば、コンテンツ提供部１６は、コメント情報３０Ｂに登録されたコメントのうち、不適切性スコアが不適切性スコア閾値３０Ｆを超えているものの数を数えることにより不適切コメントの数を取得することができる。

【0050】

（５）コメント欄にコメントを投稿したユーザの全体に対して、過去の所定期間に不適切コメントを投稿したユーザが占める割合
例えば、コンテンツ提供部１６は、（３）で取得した総数を、（１）で取得した総数で割ることにより、コメント欄にコメントを投稿したユーザの全体に対して、過去の所定期間に不適切コメントを投稿したユーザが占める割合を取得することができる。

【0051】

（６）コメント欄に投稿されたコメントの全体に対する不適切コメントの割合
例えば、コンテンツ提供部１６は、（４）で取得した不適切コメントの数を（２）で取得したコメント総数で割ることにより、コメント全体に対する不適切コメントの割合を取得することができる。

【0052】

（７）不適切コメントを投稿したユーザのコンテンツサービスへのログイン状態
例えば、コンテンツ提供部１６は、ユーザ情報３０Ａを参照することにより、コンテンツサービスの各ユーザについてログイン状態を取得することができる。

【0053】

なお、不健全性スコアは、コメント欄の不健全性を表すものであるので、不健全性スコア関数としては、複数の変数のうち、コメント欄の不健全性と正の相関を有する変数に関して、変数の値がおおきいほど、より大きな不健全性スコアを与える傾向を有する関数とすることができる。

【0054】

また、不健全性スコア関数は、ニュースページごと（コメント欄ごと）に算出されるものであってもよいし、ニュースページを閲覧する（コメント欄を閲覧する）ユーザごとに算出されるものであってもよい。

【0055】

［コメント欄の表示制御処理］
続いて、サービス提供装置１がニュースページにおけるコメント欄の表示を制御する処理について説明する。上述のとおり、サービス提供装置１において、コンテンツ提供部１６は、コメント判定部１８による不適切コメントの判定結果に基づいて、コメント欄の不健全性の度合いを表す不健全性スコアを算出し、算出した不健全性スコアに基づいてコメント欄の表示を制限するものである。より具体的には、コンテンツ提供部１６は、算出した不健全性スコアが不健全性スコア閾値を超えた場合にコメント欄の表示を制限するものである。この場合、不健全性スコア閾値は、予め定められた一つの値としてもよいし、コンテンツ提供の状況に応じた値が選択的に適用されるものであってもよい。

【0056】

例えば、コンテンツ提供の状況に応じた値が選択的に適用される場合の不健全性スコア閾値として以下のような例が挙げられる。
（１）例えば、コンテンツ提供部１６は、提供するニュースページに含まれるニュース記事のジャンルに応じた値を不健全性スコア閾値に適用してもよい。この場合、ニュースページにどのようなニュース記事が含まれるかが、コンテンツ提供の状況の一例である。この場合、コンテンツ提供部１６は、ニュース記事情報３０Ｃにおいて、各記事に対応づけられたジャンルの情報を参照することにより、ニュースページで提供するニュース記事のジャンルを取得することができる。このような方法で不健全性スコア閾値を使い分けることにより、コンテンツ提供部１６は、提供するニュース記事のジャンルに適したタイミングでコメント欄の表示制限を行うことができる。

【0057】

（２）また、例えば、コンテンツ提供部１６は、ニュースページを提供する対象のユーザに応じて不健全性スコア閾値を変更するように構成されてもよい。この場合、どのようなユーザにニュースページを提供するかが、コンテンツ提供の状況の一例である。例えば、コンテンツ提供部１６は、ユーザ端末装置Ｔ１からコンテンツ要求を受けた際にユーザのログイン状態を確認し、そのログイン状態がログイン中である場合には、当該ユーザについてユーザ情報３０Ａを取得することができる。このため、コンテンツ提供部１６は、ログイン中のユーザについてユーザ情報３０Ａを参照することにより、当該ユーザに対応づけられた不健全性スコア閾値を取得することができる。このような方法で不健全性スコア閾値を使い分けることにより、コンテンツ提供部１６は、ニュースページを提供する対象のユーザに適したタイミングでコメント欄の表示制限を行うことができる。なお、この場合、サービス提供装置１は、コンテンツサービスのユーザに対して、不健全性スコア閾値を設定するための不図示のユーザインタフェース（閾値設定部の一例である）を提供するように構成されてもよい。

【0058】

（３）また、例えば、コンテンツ提供部１６は、ニュースページを提供する対象のユーザの属性に応じた値を、各ユーザの不健全性スコア閾値に適用するように構成されてもよい。この場合、どのようなユーザにニュースページを提供するかが、コンテンツ提供の状況の一例である。この場合、コンテンツ提供部１６は、ログイン中のユーザについてユーザ情報３０Ａを参照することにより、当該ユーザの属性を認識し、認識したユーザ属性に応じた値を不健全性スコア閾値に適用することができる。このような方法で不健全性スコア閾値を使い分けることにより、コンテンツ提供部１６は、ニュースページを提供する対象のユーザが有する属性（例えば、年代や性別、職業、住所など）に適したタイミングでコメント欄の表示制限を行うことができる。なお、この場合、各種ユーザ属性と不健全性スコア閾値との対応を示す情報が予めサービス提供装置１に記憶されているものとする。

【0059】

（４）また、例えば、コンテンツ提供部１６は、ニュースページを提供する対象のユーザが過去の所定期間に投稿したコメントの数のうち、不適切コメントと判定されたものの割合（以下「不適切コメントの割合」という。）に基づいて不健全性スコア閾値を変更するように構成されてもよい。この場合、ニュースページを提供する対象のユーザがどのような割合で不適切コメントを投稿するユーザであるのか、がコンテンツ提供の状況の一例である。この場合、不適切コメントの割合は、任意の基準で区分される範囲のニュース記事を対象として算出されてもよい。例えば、不適切コメントの割合は、過去の全ニュース記事を対象として算出されてもよいし、ニュース記事ごとに算出されてもよいし、ニュース記事のジャンルごとに算出されてもよい。このような方法で不健全性スコア閾値を使い分けることにより、例えば、コンテンツ提供部１６は、不適切コメントを投稿する頻度が高いユーザほど、より早いタイミングでコメント欄の閲覧が制限されるように、コメント欄の表示を制御することができる。

【0060】

［コメント欄の表示を制限する方法］
サービス提供装置１において、コンテンツ提供部１６は、上述のような方法によりコメント欄の表示制限を行うことを判定した場合（すなわち不健全性スコアが不健全性スコア閾値を超えた場合）、ユーザによるコメント欄の閲覧が制限されるようにコメント欄の表示制御を行うものである。この場合、コンテンツ提供部１６は、コメント欄の閲覧について、全てのユーザに同じ制限が課されるように、コメント欄の表示を制御してもよいし、下記に例示するように、所定の条件を満たすユーザがコメント欄を閲覧できないようにコメント欄の表示を制限してもよい。

【0061】

（１）例えば、コンテンツ提供部１６は、コンテンツサービスにログインしていない状態のユーザを対象としてコメント欄の閲覧制限を行ってもよい。すなわち、この場合の所定の条件は、ユーザの状態がコンテンツサービスにログインしていない状態であることである。コンテンツ提供部１６は、このようなユーザを対象として閲覧制限を課すことにより、コメント欄が不特定多数のユーザの眼に触れる状況を、ログイン中のユーザにのみ閲覧され得る状況に遷移させることができる。このような閲覧制限によれば、ログインしていないユーザに対して、対象のニュース記事についてのコメント欄が表示されなくなるので、ログインしていないユーザがコメント欄を見た結果不適切コメントを投稿しようという考えに至る可能性を低くすることができる。

【0062】

（２）また、（１）とは逆に、コンテンツ提供部１６は、コンテンツサービスにログイン中のユーザを対象としてコメント欄の閲覧制限を行ってもよい。すなわち、この場合の所定の条件は、ユーザの状態がコンテンツサービスにログイン中の状態であることである。コンテンツ提供部１６は、このようなユーザを対象として閲覧制限を課すことにより、ログイン中（本来、コメントの投稿が可能な状態）のユーザに対して対象のニュース記事についてのコメント欄が表示されなくなるので、未ログインユーザがログイン状態に移行して、当該ニュース記事についての不適切コメントを投稿することを防止することができる。

【0063】

また、コメント欄の不適切不健全性スコアについてユーザごとに不健全性スコア閾値が設けられている場合、コンテンツ提供部１６は、コンテンツサービスにログイン中のユーザのうち、さらに、不適切不健全性スコアが、不健全性スコア閾値を超えているユーザを対象として、コメント欄の閲覧制限を行ってもよい。このような閲覧制限によれば、例えば、コンテンツ提供部１６は、不適切コメントの投稿頻度が高いユーザについて不健全性スコア閾値を低めに設定しておくことにより、ログイン中のユーザのうち、不適切コメントの投稿頻度が高いユーザについてのみコメント欄の閲覧を制限することができる。

【0064】

＜変形例＞
コンテンツ提供部１６は、コンテンツサービスにログイン中のユーザに対して、閲覧制限が行われたコメント欄の内容を特定の操作により閲覧可能とするユーザインタフェースを提供するように構成されてもよい。この特定の操作は、例えば、閲覧が制限されたコメント欄の内容を表示するウェブページに遷移する操作であってもよいし、この場合のユーザインタフェースは、当該ウェブページへのリンクの表示であってもよい。また、特定の操作は、不適切な内容が含まれるコンテンツが表示されることに対する同意を入力する操作であってもよいし、この場合のユーザインタフェースは上記同意の入力操作を受け付けるものであってもよい。

【0065】

以上説明した実施形態のサービス提供装置１によれば、ニュース記事ごとに、前記コメント欄に投稿された各コメントについて不適切コメントに該当するか否かを判定するコメント判定部１８と、前記コメント判定部１８による判定結果に基づいて、前記コメント欄の不健全性の度合いを表す不健全性スコアを算出し、算出した前記不健全性スコアに基づいて前記コメント欄の表示を制限するコンテンツ提供部１６と、を備えることにより、コメント欄の状況に応じて不適切コメントが投稿されることを抑制することができる。

【0066】

以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何等限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。

【符号の説明】

【0067】

１…サービス提供装置、１０…通信部、１２…コンテンツ取得部、１４…順位決定部、１６…コンテンツ提供部、１８…コメント判定部、２０…ユーザ管理部、２２…コメント管理部、２４…ニュース記事管理部、３０…記憶部、３０Ａ…ユーザ情報、３０Ｂ…コメント情報、３０Ｃ…ニュース記事情報、３０Ｄ…ニュース記事管理情報、３２Ｅ…スコア算出モデル、３０Ｆ…不適切性スコア閾値

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】