特開 2024-155594 プログラム及びシステム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024155594

(43)【公開日】2024-10-31

(54)【発明の名称】プログラム及びシステム

(51)【国際特許分類】

   H04N 1/32 20060101AFI20241024BHJP

   A63F 13/86 20140101ALI20241024BHJP

   H04N 21/835 20110101ALI20241024BHJP

【ＦＩ】

H04N1/32 144

A63F13/86

H04N21/835

【審査請求】未請求

【請求項の数】5

【出願形態】ＯＬ

(21)【出願番号】P 2023070439

(22)【出願日】2023-04-21

【新規性喪失の例外の表示】特許法第３０条第２項適用申請有り ［刊行物１］ 令和５年４月２１日掲載、掲載アドレス ｈｔｔｐｓ：／／ｗｗｗ．ｊｐ．ｓｑｕａｒｅ－ｅｎｉｘ．ｃｏｍ／ａｉ－ｔｅｃｈ－ｐｒｅｖｉｅｗ／ｐｏｒｔｏｐｉａ／ｊｐ ［刊行物２］ 令和５年４月２１日配布、メール配信によるプレスリリース資料の配布 ［刊行物３］ 令和５年４月２１日掲載、掲載アドレス ｈｔｔｐｓ：／／ｙｏｕｔｕ．ｂｅ／＿ｄＦ７ｒＺｄｂ３ＮＵ ［刊行物４］ 令和５年４月２１日掲載、掲載アドレス ｈｔｔｐｓ：／／ｙｏｕｔｕ．ｂｅ／Ｖ７９ｊｊａ９ｑｖｔｏ ［刊行物５］ 令和５年４月２１日掲載、掲載アドレス ｈｔｔｐｓ：／／ｓｔｏｒｅ．ｓｔｅａｍｐｏｗｅｒｅｄ．ｃｏｍ／ａｐｐ／２２８００００／ＳＱＵＡＲＥ＿ＥＮＩＸ＿ＡＩ＿Ｔｅｃｈ＿Ｐｒｅｖｉｅｗ＿ＴＨＥ＿ＰＯＲＴＯＰＩＡ＿ＳＥＲＩＡＬ＿ＭＵＲＤＥＲ＿ＣＡＳＥ／

(71)【出願人】

【識別番号】308033283

【氏名又は名称】株式会社スクウェア・エニックス

(74)【代理人】

【識別番号】100188662

【弁理士】

【氏名又は名称】浅見 浩二

(74)【代理人】

【識別番号】100177895

【弁理士】

【氏名又は名称】山田 一範

(72)【発明者】

【氏名】坂田 新平

【テーマコード（参考）】

5C164

【Ｆターム（参考）】

5C164MA06S

5C164MB31P

5C164SB08S

5C164UB81S

(57)【要約】

【課題】コンテンツの改変に対応するための負担を軽減させる。
【解決手段】自動生成されたコンテンツを表示するとき、自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる判定用情報に変換し、判定用情報から判定用画像（いわゆるウォーターマーク）を生成し、判定用画像をコンテンツと併せて表示する。また、コンテンツを配置するコンテンツ領域と、当該コンテンツ領域とは異なる領域含む画面において、判定用画像を配置する領域を特定し、判定用画像が配置された画面を表示してもよい。
【選択図】図３

【特許請求の範囲】

【請求項1】

自動生成されたコンテンツを表示する機能をサーバに実現させるためのプログラムであって、
前記サーバに、
自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる情報（以下「判定用情報」という。）に変換する変換機能と、
前記判定用情報から判定用画像を生成する生成機能と、
前記判定用画像を前記コンテンツと併せて表示する表示機能とを
実現させるためのプログラム。

【請求項2】

前記サーバに、前記コンテンツを配置するコンテンツ領域と、当該コンテンツ領域とは異なる領域含む画面において、前記判定用画像を配置する領域（以下「配置領域」という。）を特定する特定機能を実現させ、
前記表示機能は、前記判定用画像が配置された画面を表示する
実現させるための請求項１記載のプログラム。

【請求項3】

前記サーバに、前記コンテンツを自動生成するシステムに対するユーザの入力を受け付ける受付機能を実現させ、
前記変換機能に、前記入力の少なくとも一部を、当該入力が改変されたか判定するために用いられる情報（以下「第２判定用情報」という。）に変換する機能を実現させ、
前記生成機能に、前記第２判定用情報に対応する判定用画像（以下「第２判定用画像」という。）を生成する機能させ、
前記表示機能に、前記入力と、前記第２判定用画像と、前記コンテンツとを併せて表示する機能を
実現させるための請求項１又は請求項２記載のプログラム。

【請求項4】

通信ネットワークと、サーバと、ユーザ端末とを備え、自動生成されたコンテンツを表示する機能をサーバに実現させるためのシステムであって、
自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる情報（以下「判定用情報」という。）に変換する変換手段と、
前記判定用情報から判定用画像を生成する生成手段と、
前記判定用画像を前記コンテンツと併せて表示する表示手段とを
含むシステム。

【請求項5】

自動生成されたコンテンツを表示する機能をユーザ端末に実現させるためのプログラムであって、
前記ユーザ端末に、
自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる情報（以下「判定用情報」という。）に変換する変換機能と、
前記判定用情報から判定用画像を生成する生成機能と、
前記判定用画像を前記コンテンツと併せて表示する表示機能とを
実現させるためのプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明の実施形態の少なくとも１つは、自動生成されたコンテンツを表示する機能を実現させるためのプログラム及びシステムに関する。

【背景技術】

【0002】

従来、コンテンツにあらかじめ電子透かし（ウォーターマーク）を追加し、コンテンツに関する認証や管理に用いるためのシステムが種々提案されている。

【0003】

このようなシステムには、例えば、画像に重畳された電子透かしと同一又は類似のパターンが、当該電子透かしの周辺領域に、当該電子透かしから離れるほど見かけの濃度が薄くなるように重畳されるものがある（特許文献１参照）。

【先行技術文献】

【特許文献】

【0004】

【特許文献1】特開２０１８－１８２５０９号公報

【発明の概要】

【発明が解決しようとする課題】

【0005】

しかし、従来のシステムは、ウォーターマークの対象とされる各種コンテンツ（例えば、画像）にあらかじめ定められた情報（例えば、特定のIDや、著作権者を示す情報）を追加するものが一般的であり、対象画像が改変されたか否かを判定できない場合があった。すなわち、例えばテキストを自動生成するシステムにより生成されたテキストを含む画像に対して特定のIDを示すウォーターマークを埋め込む場合、当該画像におけるテキスト部分を他のテキストに置き換える改変がされた場合も、ウォーターマークからは当該改変が行われたことを判定できない場合があった。そのため、コンテンツの提供者にとって、他者によるコンテンツの改変に対抗するための負担が過大になってしまう場合があった。

【0006】

本発明の少なくとも１つの実施形態の目的は、コンテンツの改変に対応するための負担を軽減させることである。

【課題を解決するための手段】

【0007】

非限定的な観点によると、本発明の一実施形態に係るプログラムは、自動生成されたコンテンツを表示する機能をサーバに実現させるためのプログラムであって、前記サーバに、自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる情報（以下「判定用情報」という。）に変換する変換機能と、前記判定用情報から判定用画像を生成する生成機能と、前記判定用画像を前記コンテンツと併せて表示する表示機能とを実現させるためのものである。

【0008】

非限定的な観点によると、本発明の一実施形態に係るシステムは、通信ネットワークと、サーバと、ユーザ端末とを備え、自動生成されたコンテンツを表示する機能をサーバに実現させるためのシステムであって、自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる情報（以下「判定用情報」という。）に変換する変換手段と、前記判定用情報から判定用画像を生成する生成手段と、
前記判定用画像を前記コンテンツと併せて表示する表示手段とを含むことを特徴とする。

【0009】

非限定的な観点によると、本発明の一実施形態に係るプログラムは、自動生成されたコンテンツを表示する機能をユーザ端末に実現させるためのプログラムであって、前記ユーザ端末に、自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる情報（以下「判定用情報」という。）に変換する変換機能と、前記判定用情報から判定用画像を生成する生成機能と、前記判定用画像を前記コンテンツと併せて表示する表示機能とを実現させるためのものである。

【発明の効果】

【0010】

本願の各実施形態により１または２以上の不足が解決される。

【図面の簡単な説明】

【0011】

【図1】本発明の実施形態の少なくとも一つに対応するシステムの構成の例を示すブロック図である。

【図2】本発明の実施形態の少なくとも一つに対応するサーバの構成を示すブロック図である。

【図3】本発明の実施形態の少なくとも一つに対応する情報処理の例を示すフローチャートである。

【図4】本発明の実施形態の少なくとも一つに対応する情報処理におけるサーバ側の動作の例を示すフローチャートである。

【図5】本発明の実施形態の少なくとも一つに対応する情報処理における端末側の動作の例を示すフローチャートである。

【図6】本発明の実施形態の少なくとも一つに対応するサーバの構成を示すブロック図である。

【図7】本発明の実施形態の少なくとも一つに対応する情報処理の例を示すフローチャートである。

【図8】本発明の実施形態の少なくとも一つに対応するゲーム画面の例について説明するための説明図である。

【発明を実施するための形態】

【0012】

以下、本発明の実施形態の例について図面を参照して説明する。なお、以下で説明する各実施形態の例における各種構成要素は、矛盾等が生じない範囲で適宜組み合わせ可能である。また、ある実施形態の例として説明した内容については、他の実施形態においてその説明を省略している場合がある。また、各実施形態の特徴部分に関係しない動作や処理については、その内容を省略している場合がある。さらに、以下で説明する各種フローを構成する各種処理の順序は、処理内容に矛盾等が生じない範囲で順不同である。

【0013】

［第１の実施形態］
図１は、本発明の実施形態の少なくとも一つに対応するシステム１００の構成の例を示すブロック図である。図１に示すように、システム１００は、サーバ１０と、システム１００のユーザが使用するユーザ端末２０，２０１～２０Ｎ（Ｎは任意の整数）とを含む。なお、システム１００の構成はこれに限定されず、単一のユーザ端末を複数のユーザが使用する構成としてもよいし、複数のサーバを備える構成としてもよい。

【0014】

サーバ１０と複数のユーザ端末２０，２０１～２０Ｎは、それぞれインターネットなどの通信ネットワーク３０に接続されている。なお、図示しないが、複数のユーザ端末２０，２０１～２０Ｎは、通信業者によって管理される基地局と無線通信回線によるデータ通信を行うことによって、通信ネットワーク３０と接続する。

【0015】

システム１００は、サーバ１０と複数のユーザ端末２０，２０１～２０Ｎとを備えることにより、各種処理を実行するための各種機能を実現する。

【0016】

サーバ１０は、システム１００の管理者によって管理され、複数のユーザ端末２０，２０１～２０Ｎに対して各種処理に関する情報を提供するための各種機能を有する。本例において、サーバ１０は、ＷＷＷサーバなどの情報処理装置によって構成され、各種情報を格納する記憶媒体を備える。サーバ１０の構成は、制御部や通信部などコンピュータとして各種処理を行うための一般的な構成を備えていれば特に限定されない。以下、サーバ１０のハードウェア構成の例について簡単に説明する。

【0017】

図１に示すように、サーバ１０は、ＣＰＵ（Central Processing Unit）１０１と、メモリ１０２と、記憶装置１０３とを少なくとも備える。

【0018】

ＣＰＵ１０１は、各種の演算および制御を行う中央処理装置である。また、サーバ１０がＧＰＵ（Graphics Processing Unit）を備える場合には、各種の演算および制御の一部をＧＰＵによって行うようにしてもよい。サーバ１０は、適宜メモリ１０２に読み出したデータを用いて音声生成に必要な各種の情報処理をＣＰＵ１０１にて実行し、得られた処理結果を必要に応じて記憶装置１０３に記憶させる。

【0019】

記憶装置１０３は、各種情報を格納する記憶媒体としての機能を有する。記憶装置１０３の構成は特に限定されないが、複数のユーザ端末２０，２０１～２０Ｎそれぞれにかかる処理負荷を軽減させるといった観点から、音声生成に必要な各種情報を全て記憶可能な構成であることが好ましい。このような例には、ＨＤＤやＳＳＤがある。ただし、各種情報を記憶する記憶部は、サーバ１０がアクセス可能な状態で記憶領域を備えていればよく、例えば専用の記憶領域をサーバ１０の外部に有する構成とされていてもよい。

【0020】

図２は、本発明の実施形態の少なくとも一つに対応するサーバ１０の例であるサーバ１０Ａの構成を示すブロック図である。図２に示すように、サーバ１０Ａは、変換部１１と、生成部１２と、表示部１３とを少なくとも備える。

【0021】

変換部１１は、自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる情報（以下「判定用情報」という。）に変換する機能を有する。

【0022】

ここで、自動生成されたコンテンツとは、人工知能（ＡＩ）により生成されたコンテンツであれば特に限定されないが、ユーザによる情報の入力を受け付けて生成されたコンテンツであることが好ましい。自動生成されたコンテンツの例には、文字列、画像（静止画、動画）、音声、など種々の情報がある。

【0023】

また、判定用情報とは、コンテンツが改変されたか判定するために用いられる情報であれば特に限定されないが、コンテンツを見たユーザが容易に特定できない情報であることが好ましい。判定用情報の例には、コンテンツとしての文章をハッシュ化した情報や（不可逆な情報）、コンテンツとしての画像を暗号化した情報（可逆な情報）がある。ハッシュ化や暗号化については、既知の技術により実現されるため、詳細の説明は省略する。

【0024】

生成部１２は、判定用情報から判定用画像を生成する機能を有する。

【0025】

ここで、判定用画像とは、コンテンツが改変されたか判定するために用いられる画像を意味する。判定用画像を生成するための構成は特に限定されないが、出力された場合に人による視認が容易でない画像となることが好ましい。判定用画像を生成するための構成の例には、判定用情報としてのハッシュ値（１２８bit）から１×１２８pixelの２値画像を生成する構成がある。

【0026】

表示部１３は、判定用画像をコンテンツと併せて表示する機能を有する。

【0027】

ここで、判定用画像をコンテンツと併せて表示するための構成は特に限定されないが、人がコンテンツを視認するときに判定用画像も視野に入るように表示されることが好ましい。このような構成の例には、コンテンツが表示される位置の近傍に判定用画像が表示される構成がある。なお、判定用画像の表示がつぶれてしまないよう、画像を調整する構成としてもよい。すなわち、例えば、１×１２８pixelの２値画像を２×２５６pixelで表示する構成としてもよい。

【0028】

複数のユーザ端末２０，２０１～２０Ｎは、それぞれ、ユーザによって管理され、例えば携帯電話端末やＰＤＡ（Personal Digital Assistants）によって構成される。なお、システム１００が含み得るユーザ端末の構成は上述した例に限定されず、ユーザが音声を認識し得る構成であればよい。ユーザ端末の構成の他の例には、各種通信端末を組み合わせたものやパーソナルコンピュータがある。

【0029】

また、複数のユーザ端末２０，２０１～２０Ｎは、それぞれ、通信ネットワーク３０に接続し、サーバ１０との通信を行うことにより各種処理を実行するためのハードウェア（例えば、自動生成されたコンテンツを表示する表示装置など）およびソフトウェアを備える。なお、複数のユーザ端末２０，２０１～２０Ｎそれぞれは、サーバ１０を介さずに互いに直接通信を行うこともできる構成とされていてもよい。

【0030】

次に、本例のシステム１００（システム１００）の動作について説明する。

【0031】

図３は、本発明の実施形態の少なくとも一つに対応する情報処理の例を示すフローチャートである。本例における情報処理では、テキストから音声を生成すること関連する処理が行われる。以下、サーバ１０Ａとユーザ端末２０（端末２０）とが、情報処理を実行する場合を例にして説明する。

【0032】

情報処理は、例えばサーバ１０Ａが、自動生成されたコンテンツを表示したことを契機に開始される。

【0033】

サーバ１０Ａは、情報処理において、先ず、コンテンツを判定用情報に変換する（ステップＳ１１）。本例においてサーバ１０Ａは、自動生成されたコンテンツをハッシュ化することで判定用情報に変換する。

【0034】

サーバ１０Ａは、コンテンツを判定用情報に変換すると、判定用画像を生成する（ステップＳ１２）。本例においてサーバ１０Ａは、ハッシュ値から画像を生成する。

【0035】

サーバ１０Ａは、判定用画像を生成すると、判定用画像をコンテンツと併せて表示する（ステップＳ１３）。本例においてサーバ１０Ａは、判定用画像とコンテンツとを含む画面を出力するための出力情報を端末２０に送信する。

【0036】

端末２０は、サーバ１０Ａから出力情報を受信すると、所定の出力手段を用いて画像を出力する（ステップＳ１４）。本例において端末２０は、自身が備えるディスプレイに画像を出力する。

【0037】

図４は、本発明の実施形態の少なくとも一つに対応する情報処理におけるサーバ側の動作の例を示すフローチャートである。ここでは、システム１００におけるサーバ１０Ａの動作について改めて説明する。

【0038】

サーバ１０Ａは、情報処理において、先ず、コンテンツを判定用情報に変換し（ステップＳ１０１）、変換した判定用情報から判定用画像を生成し（ステップＳ１０２）、生成した判定用画像をコンテンツと併せて表示し（ステップＳ１０３）、ここでの処理を終了する。

【0039】

図５は、本発明の実施形態の少なくとも一つに対応する情報処理における端末側の動作の例を示すフローチャートである。以下、端末２０が、単体で情報処理を実行する場合を例にして説明する。なお、端末２０の構成については、サーバ１０Ａから各種情報を受信することを除きサーバ１０Ａの構成と同様の機能を備えるものであるため、重複説明を避ける観点から記載を省略する。

【0040】

端末２０は、情報処理において、先ず、コンテンツを判定用情報に変換し（ステップＳ２０１）、変換した判定用情報から判定用画像を生成し（ステップＳ２０２）、生成した判定用画像をコンテンツと併せて表示し（ステップＳ２０３）、ここでの処理を終了する。

【0041】

以上に説明したように、第１の実施形態の一側面として、自動生成されたコンテンツを表示するサーバ１０Ａが、変換部１１と、生成部１２と、表示部１３とを備える構成としているので、自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる情報（判定用情報）に変換し、判定用情報から判定用画像（いわゆるウォーターマーク）を生成し、判定用画像をコンテンツと併せて表示し、コンテンツの改変に対応するための負担を軽減させることができるようになる。

【0042】

すなわち、自動生成されたコンテンツに基づいて生成される判定用画像を当該コンテンツと併せて表示するため、自動生成されたコンテンツ毎に異なる情報をウォーターマークとして利用でき、例えば常に同じ情報（例えば、ゲームタイトルの識別情報）をウォーターマークとして利用する場合と比べ、表示した画像のコンテンツ部分を他のコンテンツに置き換えるような改変（例えば、自動生成されたテキストを他の内容に書き換える改変）の判定を容易にすることができるようになる。

【0043】

なお、サーバ１０Ａが、パリティチェックの対象とする画面（特定のシステムで自動生成されたコンテンツまたは置き換えられたコンテンツと、判定用画像とを含む情報）の入力を受け付け、特定のシステムに対応する方法で当該コンテンツを判定用情報に変換し、変換した判定用情報から判定用画像を生成し、生成した判定用画像と画面に含まれる判定用画像とが一致する場合に当該コンテンツが改変されていないと判定し、当該２つの判定用画像が一致しない場合に当該コンテンツが改変されたものと判定する構成としてもよい。

【0044】

［第２の実施形態］
図６は、本発明の実施形態の少なくとも一つに対応するサーバ１０の例であるサーバ１０Ｚの構成を示すブロック図である。本例において、サーバ１０Ｚは、変換部１１Ｚと、生成部１２Ｚと、表示部１３Ｚと、特定部１４Ｚとを少なくとも備える。

【0045】

変換部１１Ｚは、自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる情報（以下「判定用情報」という。）に変換する機能を有する。

【0046】

ここで、コンテンツを自動生成するための構成は特に限定されないが、ユーザによる入力された情報を人工知能（ＡＩ）が処理することで種々のコンテンツが生成される構成が好ましい。

【0047】

また、コンテンツの内容は、文字列化可能なものであれば特に限定されない。コンテンツの例には、文字列（文章）、画像（静止画、動画）、音声、など種々の情報がある。

【0048】

また、判定用情報とは、コンテンツが改変されたか否かを判定するために用いられる情報を意味する。コンテンツを判定用情報に変換するための構成は特に限定されないが、変換後の判定用情報からコンテンツを生成し得ないことが好ましい。このような構成の例には、ハッシュ関数を用いてコンテンツをハッシュ値に変換する構成がある。

【0049】

生成部１２Ｚは、判定用情報から判定用画像を生成する機能を有する。

【0050】

ここで、判定用画像とは、コンテンツが改変されたか判定するために用いられる画像を意味する。判定用画像を生成するための構成は、判定用情報を用いる構成であれば特に限定されない。判定用画像を生成するための構成の例には、判定用情報のビット数に対応する画素で判定用画像を生成する構成がある。

【0051】

表示部１３Ｚは、判定用画像をコンテンツと併せて表示する機能を有する。

【0052】

ここで、判定用画像をコンテンツと併せて表示するための構成は特に限定されないが、判定用画像とコンテンツとが同時に表示画面に含まれることが好ましい。また、判定用画像はコンテンツの内容をユーザに提示するものではないため、ユーザに視認し辛い態様で表示されることが好ましい。ただし、表示画面が記録され、後に改変されても判定用画像が視認できるよう、判定用画像のサイズや大きさが調整されて表示されることが好ましい。

【0053】

図７は、本発明の実施形態の少なくとも一つに対応する情報処理の例を示すフローチャートである。本例における情報処理では、自動生成されたコンテンツに判定用情報を追加することに関連する処理が行われる。以下、サーバ１０Ｚを含むシステム１００Ｚが行う各処理について説明する。なお、各処理の順序は、処理内容に矛盾等各処理について説明する。なお、各処理の順序は、処理内容に矛盾等が生じない範囲で順不同である。

【0054】

情報処理は、例えばシステム１００Ｚが、自動生成されたコンテンツを表示したことを契機に開始される。以下、システム１００Ｚが、ユーザにより入力された文章に対する回答しての文章を自動生成して表示することでビデオゲームの進行を制御する場合を例にして説明する。

【0055】

システム１００Ｚは、情報処理において、先ず、コンテンツを判定用情報に変換する（ステップＳ３０１）。本例においてシステム１００Ｚは、自動生成された文章をハッシュ化することで判定用情報に変換する。すなわち、任意の長さの文章から１２８bitの値を生成するハッシュ関数を用いて、ハッシュ値を生成する。

【0056】

システム１００Ｚは、コンテンツを判定用情報に変換すると、判定用画像を生成する（ステップＳ３０２）。本例においてシステム１００Ｚは、生成したハッシュ値から１×１２８pixelの２値画像を生成する。

【0057】

システム１００Ｚは、判定用画像を生成すると、判定用画像をコンテンツと併せて表示する（ステップＳ３０３）。本例においてシステム１００Ｚは、自動生成された文章と、１×１２８pixelの２値画像とを含むゲーム画面を表示する。なお、判定用画像が識別不可とならないよう、ゲーム画面では２×２５６pixelで表示される構成としてもよい。

【0058】

図８は、ゲーム画面の例について説明するための説明図である。図８で示すゲーム画面の例には、キャラクタAと、キャラクタAによる発言を表す領域８０２と、キャラクタAによる発言に対応するウォーターマークが埋め込まれる領域８０３と、ユーザによる発言を表す領域８０４と、ユーザによる発言に対応する判定用画像（ウォーターマーク）が埋め込まれる領域８０５とが表示される。

【0059】

ここで、例えばビデオゲームの進行に応じて表示されるゲーム画面にウォーターマークを表示することは知られているが、本例では、キャラクタAの発言を自動生成するトリガとなるユーザの発言から生成される判定用画像と、自動生成されたキャラクタAの発言から生成される判定用画像とが表示される。

【0060】

また、本例では、各発言（文章）が表示される吹き出しの影部分（領域８０３，領域８０５）に、影部分と同系色で生成されたウォーターマークが目立たないように表示されるため、ビデオゲームのプレイを阻害することもない。

【0061】

以上に説明したように、第２の実施形態の一側面として、自動生成されたコンテンツを表示するサーバ１０Ｚが（すなわち、クライアントに表示させる）、変換部１１Ｚと、生成部１２Ｚと、表示部１３Ｚと、特定部１４Ｚとを備える構成としているので、自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる情報（判定用情報）に変換し、判定用情報から判定用画像を生成し、判定用画像をコンテンツと併せて表示し、コンテンツの改変に対応するための負担を軽減させることができるようになる。すなわち、例えば、自然言語生成技術により生成された文章をハッシュ値に変換し、ハッシュ値から２値画像を生成し、２値画像と文章とを含むゲーム画面を表示することで、例えば、ゲーム画面のスクリーンショットを悪意あるユーザが改変して公開した場合でも、悪意ある改変であることを証明することの負担を軽減できる。すなわち、例えば、ビデオゲームに自然言語生成を採用し、ユーザにより入力された情報に対して「こんにちは」と返す場面がゲーム画面として表示され、当該ゲーム画面が複製され「こんばんは」と改変されて公開された場合、当該公開されたゲーム画面には「こんにちは」に対応するウォーターマークが埋め込まれることになるため、改変されていると判断できる。これは、自動生成されるコンテンツの性質上の、改変されたものか否かを言い切れないという観点から（すなわち、AIが不適切な発言をする可能性もあるため）、有用な判定方法と言える。また、従来のウォーターマークが主にコンテンツに係る著作権を保護するために用いられていたことに比べ、本件はコンテンツが改変して公開されることに起因する問題からコンテンツの自動生成を実現したものを保護することに寄与し得る点で有用である。

【0062】

また、ハッシュ関数を用いてコンテンツをハッシュ値に変換することで、判定用画像を含むゲーム画面から自動先生されたコンテンツを復号することはできないが、ゲーム画面から改変の有無を判定したい対象を特定し、同手法でハッシュ化し、ゲーム画面と比較することで、改変しているか判定できるようになる。

【0063】

また、判定用情報のビット数に対応する画素で判定用画像を生成するため、コンテンツが自動生成される度に判定用画像を生成する構成としても、処理負荷が過大になることを回避できる。

【0064】

また、判定用画像とコンテンツとを含む表示画面を表示するとき、判定用画像の大きさまたは色彩を調整することで、判定用画像を識別できなくなることを防止できる。

【0065】

また、コンテンツの表示位置と判定用画像との位置関係を決めておくことで（例えば、吹き出し内に自動生成テキストを表示し、吹き出しの影に判定用画像を表示する位置関係とすることで）、１つの画面に複数の自動生成コンテンツが表示される場合も、改変判定を効率的に行うことができる。なお、コンテンツの表示位置に応じて判定用画像が表示される位置が変わらない構成としてもよい。この場合、画面の縁や、各種ウィンドウ、背景など、判定用画像が目立たずに表示し得る位置が設定されることが好ましい。さらに、所定の表示領域（例えば、吹き出しや会話ウィンドウ）のドットパターンを編集することで判定用画像を埋め込む構成としてもよい。この場合、表示領域の色彩に対応する色の判定用画像が生成され、生成された判定用画像が所定の表示領域に重畳して表示される構成としてもよい。

【0066】

また、自動生成されたコンテンツを配置するコンテンツ領域と、当該コンテンツ領域とは異なる領域含む画面において、判定用画像を配置する領域（以下「配置領域」という。）を特定し、判定用画像が配置された画面を表示する構成としてもよい。この場合、判定用画像を配置する領域をコンテンツ領域内に特定する構成としてもよいし、コンテンツ領域外に特定する構成としてもよい。コンテンツ領域内に特定する場合、例えば自動生成された文章を表すテキスト上に微細な判定用画像を埋め込む構成としてもよい（例えば、「こんにちは」というテキストが黒字で表示される場合に、黒字部分に判定用画像を埋め込む。）。また、コンテンツ領域外に特定する場合、例えばゲーム画面において輝度が低い位置を配置位置に特定する構成としてもよい。ゲーム進行に応じて変化する画面の輝度を利用して、例えば一番暗い部分に判定用画像を配置する構成とすることで、ゲームの世界観が阻害されることを防止できる。

【0067】

また、コンテンツを自動生成するシステムに対するユーザの入力を受け付け、入力の少なくとも一部を、当該入力が改変されたか否かを判定するために用いられる情報（以下「第２判定用情報」という。）に変換し、第２判定用情報に対応する判定用画像（以下「第２判定用画像」という。）を生成し、入力と、第２判定用画像と、コンテンツとを併せて表示する構成としてもよい。すなわち、例えばビデオゲームのユーザから文章の入力を受け付け、受け付けた文章をハッシュ化し、ハッシュ値に対応する２値画像を生成し、入力された文章と、生成した２値画像と、自動生成された文章とを一緒に表示することで、入力された文章の改変を判定できるようになる。この場合、同システムに判定対象とする文章を入力し、当該入力により表示された２値画像と、判定対象を含む画面における２値画像とを対比すればよい。

【0068】

また、システムが採用するAIが、バージョンアップや機械学習により、同条件で自動生成するコンテンツが変わる場合、コンテンツの自動生成に関する情報を選択し、選択した情報と判定用情報とから判定用画像を生成する構成としてもよい。すなわち、例えばシステム１００が、コンテンツの自動生成に関する情報としてAIのバージョンとコンテンツ生成日時とを所定の情報群から選択し、AIのバージョンとコンテンツ生成日時とを表す情報を可逆的に暗号化し、コンテンツのハッシュ値と併せて判定用画像を生成する構成としてもよい。このような構成とすることで、改変判定を行う際、同条件で同じコンテンツが生成されるか否かを確認できるようになる。なお、コンテンツの自動生成に関する情報と判定用情報とをまとめて固定長にハッシュ化する構成としてもよい。

【0069】

以上に説明したように、本願の各実施形態により１または２以上の不足が解決される。なお、夫々の実施形態による効果は、非限定的な効果または効果の一例である。

【0070】

なお、上述した各実施形態では、複数のユーザ端末２０，２０１～２０Ｎとサーバ１０は、自己が備える記憶装置に記憶されている各種制御プログラム（例えば、音声生成プログラム）に従って、上述した各種の処理を実行する。

【0071】

また、システム１００の構成は上述した各実施形態の例として説明した構成に限定されず、例えばユーザ端末２０が実行する処理として説明した処理の一部または全部をサーバ１０が実行する構成としてもよいし、サーバ１０が実行する処理として説明した処理の一部または全部を複数のユーザ端末２０，２０１～２０Ｎの何れか（例えば、ユーザ端末２０）が実行する構成としてもよい。また、サーバ１０が備える記憶部の一部または全部を複数のユーザ端末２０，２０１～２０Ｎの何れかが備える構成としてもよい。すなわち、システム１００におけるユーザ端末２０とサーバ１０のどちらか一方が備える機能の一部または全部を、他の一方が備える構成とされていてもよい。

【0072】

また、プログラムが、上述した各実施形態の例として説明した機能の一部または全部を、通信ネットワークを含まない装置単体に実現させる構成としてもよい。

【0073】

［付記］
上述した実施形態の説明は、少なくとも下記発明を、当該発明の属する分野における通常の知識を有する者がその実施をすることができるように記載した。
［１］
自動生成されたコンテンツを表示する機能をサーバに実現させるためのプログラムであって、
前記サーバに、
自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる情報（以下「判定用情報」という。）に変換する変換機能と、
前記判定用情報から判定用画像を生成する生成機能と、
前記判定用画像を前記コンテンツと併せて表示する表示機能とを
実現させるためのプログラム。
［２］
前記変換機能は、ハッシュ関数を用いて前記コンテンツをハッシュ値に変換する機能を
実現させるための［１］記載のビデオゲーム処理プログラム。
［３］
前記生成機能は、前記判定用情報のビット数に対応する画素で前記判定用画像を生成し、
前記表示機能は、前記判定用画像と前記コンテンツとを含む表示画面を表示する機能を
実現させるための［１］または［２］記載のプログラム。
［４］
前記サーバに、前記コンテンツを配置するコンテンツ領域と、当該コンテンツ領域とは異なる領域含む画面において、前記判定用画像を配置する領域（以下「配置領域」という。）を特定する特定機能を実現させ、
前記表示機能は、前記判定用画像が配置された画面を表示する
実現させるための［１］から［３］のうち何れかに記載のプログラム。
［５］
前記サーバに、前記コンテンツを自動生成するシステムに対するユーザの入力を受け付ける受付機能を実現させ、
前記変換機能に、前記入力の少なくとも一部を、当該入力が改変されたか判定するために用いられる情報（以下「第２判定用情報」という。）に変換する機能を実現させ、
前記生成機能に、前記第２判定用情報に対応する判定用画像（以下「第２判定用画像」という。）を生成する機能させ、
前記表示機能に、前記入力と、前記第２判定用画像と、前記コンテンツとを併せて表示する機能を
実現させるための［１］ から［４］のうち何れかに記載のプログラム。
［６］
前記サーバに、前記コンテンツの自動生成に関する情報を選択する選択機能を実現させ、
前記生成機能に、前記選択機能により選択された情報と前記判定用情報とから前記判定用画像を生成する機能を
実現させるための［１］から［５］のうち何れかに記載のプログラム。
［７］
［１］から［４］のうち何れかに記載のプログラムが前記サーバに実現させる機能のうち少なくとも１つの機能を、当該サーバと通信可能なユーザ端末に実現させるプログラム。
［８］
通信ネットワークと、サーバと、ユーザ端末とを備え、自動生成されたコンテンツを表示する機能をサーバに実現させるためのシステムであって、
自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる情報（以下「判定用情報」という。）に変換する変換手段と、
前記判定用情報から判定用画像を生成する生成手段と、
前記判定用画像を前記コンテンツと併せて表示する表示手段とを
含むシステム。
［９］
前記サーバが、前記変換手段と、前記生成手段とを含み、
前記ユーザ端末が、表示手段を含む
［８］記載のシステム。
［１０］
自動生成されたコンテンツを表示する機能をユーザ端末に実現させるためのプログラムであって、
前記ユーザ端末に、
自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる情報（以下「判定用情報」という。）に変換する変換機能と、
前記判定用情報から判定用画像を生成する生成機能と、
前記判定用画像を前記コンテンツと併せて表示する表示機能とを
実現させるためのプログラム。
［１１］
自動生成されたコンテンツを表示する方法であって、
自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる情報（以下「判定用情報」という。）に変換する変換処理と、
前記判定用情報から判定用画像を生成する生成処理と、
前記判定用画像を前記コンテンツと併せて表示する表示処理とを
含むことを特徴とする方法。
［１２］
通信ネットワークと、サーバと、ユーザ端末とを備えるシステムが、自動生成されたコンテンツを表示する方法であって、
自動生成されたコンテンツの少なくとも一部を、当該コンテンツが改変されたか判定するために用いられる情報（以下「判定用情報」という。）に変換する変換処理と、
前記判定用情報から判定用画像を生成する生成処理と、
前記判定用画像を前記コンテンツと併せて表示する表示処理とを
含むことを特徴とする音声生成方法。

【産業上の利用可能性】

【0074】

本発明の実施形態の一つによれば、コンテンツの改変に対応するための負担を軽減させるのに有用である。

【符号の説明】

【0075】

１０ サーバ
２０，２０１～２０Ｎ ユーザ端末
１１ 変換部
１２ 生成部
１３ 表示部
３０ 通信ネットワーク
１００ システム

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】