特許 7580430 情報処理装置、情報処理方法、及び情報処理プログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-10-31

(45)【発行日】2024-11-11

(54)【発明の名称】情報処理装置、情報処理方法、及び情報処理プログラム

(51)【国際特許分類】

   G06Q 30/0241 20230101AFI20241101BHJP

   G06F 16/9035 20190101ALI20241101BHJP

【ＦＩ】

G06Q30/0241 444

G06F16/9035

【請求項の数】 20

(21)【出願番号】P 2022095840

(22)【出願日】2022-06-14

(65)【公開番号】P2023182309

(43)【公開日】2023-12-26

【審査請求日】2023-10-18

(73)【特許権者】

【識別番号】500257300

【氏名又は名称】ＬＩＮＥヤフー株式会社

(74)【代理人】

【識別番号】110002147

【氏名又は名称】弁理士法人酒井国際特許事務所

(72)【発明者】

【氏名】宋 静

(72)【発明者】

【氏名】田中 祐介

(72)【発明者】

【氏名】山本 和仁

(72)【発明者】

【氏名】中辻 一浩

【審査官】大野 朋也

(56)【参考文献】

【文献】特開２０２１－０６８０５３（ＪＰ，Ａ）

【文献】特開２０１８－１２８８０５（ＪＰ，Ａ）

【文献】特開２０２１－１４０２２８（ＪＰ，Ａ）

【文献】特開２０１５－０７９４４９（ＪＰ，Ａ）

【文献】中国特許出願公開第１１３１２９０５１（ＣＮ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｑ １０／００－９９／００

Ｇ０６Ｆ １６／９０３５

(57)【特許請求の範囲】

【請求項1】

所定の条件を満たす広告文である第１広告文を取得する取得部と、
機械学習に基づく学習処理により、前記取得部により取得された前記第１広告文のうち少なくとも一部を含む文字情報を入力情報として入力とし、前記入力情報に対応する文を第２広告文として出力する学習モデルを学習する学習部と、
前記学習部により学習された前記学習モデルに、一の文字情報を入力することにより、前記学習モデルに一の第２広告文を出力させることにより、前記一の第２広告文を生成し、生成した前記一の第２広告文を、文字列の言語らしさを推定する推定モデルに入力することにより、前記推定モデルに前記一の第２広告文の前記言語らしさを示す値を出力させることにより、前記一の第２広告文の前記言語らしさの推定値を生成する生成部と、
を備えることを特徴とする情報処理装置。

【請求項2】

前記取得部は、
広告指標が前記所定の条件を満たす前記第１広告文を取得する
ことを特徴とする請求項１に記載の情報処理装置。

【請求項3】

前記取得部は、
クリックに関する前記広告指標が前記所定の条件を満たす前記第１広告文を取得する
ことを特徴とする請求項２に記載の情報処理装置。

【請求項4】

前記取得部は、
前記第１広告文がユーザにクリックされた回数に関する前記広告指標が前記所定の条件を満たす前記第１広告文を取得する
ことを特徴とする請求項３に記載の情報処理装置。

【請求項5】

前記取得部は、
クリック率が所定の閾値以上である前記第１広告文を取得する
ことを特徴とする請求項４に記載の情報処理装置。

【請求項6】

前記取得部は、
コンバージョンに関する前記広告指標が前記所定の条件を満たす前記第１広告文を取得する
ことを特徴とする請求項２に記載の情報処理装置。

【請求項7】

前記取得部は、
前記第１広告文によりコンバージョンに至った回数に関する前記広告指標が前記所定の条件を満たす前記第１広告文を取得する
ことを特徴とする請求項６に記載の情報処理装置。

【請求項8】

前記取得部は、
コンバージョン率が所定の閾値以上である前記第１広告文を取得する
ことを特徴とする請求項７に記載の情報処理装置。

【請求項9】

前記学習部は、
前記第１広告文に含まれる文字列である前記入力情報を入力とし、前記入力情報に対応する前記第２広告文を出力する前記学習モデルを学習する
ことを特徴とする請求項１に記載の情報処理装置。

【請求項10】

前記学習部は、
前記第１広告文である前記入力情報を入力とし、前記入力情報に対応する前記第２広告文を出力する前記学習モデルを学習する
ことを特徴とする請求項９に記載の情報処理装置。

【請求項11】

前記学習部は、
前記第１広告文のうち一部の文字列である前記入力情報を入力とし、前記入力情報に対応する前記第２広告文を出力する前記学習モデルを学習する
ことを特徴とする請求項９に記載の情報処理装置。

【請求項12】

前記学習部は、
前記第１広告文の特徴を学習した前記学習モデルを生成する
ことを特徴とする請求項１に記載の情報処理装置。

【請求項13】

前記学習部は、
前記入力情報と前記第２広告文との関連性の特徴を学習した前記学習モデルを生成する
ことを特徴とする請求項１２に記載の情報処理装置。

【請求項14】

前記学習モデルにより生成された前記第２広告文に基づく提案広告文を、情報提供先となる広告主である対象広告主が利用する端末装置に提供する提供部、
をさらに備えることを特徴とする請求項１に記載の情報処理装置。

【請求項15】

前記提供部は、
前記学習モデルにより生成された前記第２広告文を前記提案広告文として、前記対象広告主が利用する前記端末装置に提供する
ことを特徴とする請求項１４に記載の情報処理装置。

【請求項16】

前記学習モデルにより生成された前記第２広告文から、広告に利用される候補となる広告候補文を決定する決定部、
をさらに備え、
前記提供部は、
前記決定部により決定された前記広告候補文に基づく前記提案広告文を前記対象広告主が利用する前記端末装置に提供する
ことを特徴とする請求項１４に記載の情報処理装置。

【請求項17】

前記決定部は、
広告指標が前記所定の条件を満たす前記第２広告文を前記広告候補文に決定する
ことを特徴とする請求項１６に記載の情報処理装置。

【請求項18】

前記決定部は、
言語らしさの条件を満たす前記第２広告文を前記広告候補文に決定する
ことを特徴とする請求項１６に記載の情報処理装置。

【請求項19】

コンピュータが実行する情報処理方法であって、
所定の条件を満たす広告文である第１広告文を取得する取得工程と、
機械学習に基づく学習処理により、前記取得工程により取得された前記第１広告文のうち少なくとも一部を含む文字情報を入力情報として入力とし、前記入力情報に対応する広告文を第２広告文として出力する学習モデルを学習する学習工程と、
前記学習工程により学習された前記学習モデルに、一の文字情報を入力することにより、前記学習モデルに一の第２広告文を出力させることにより、前記一の第２広告文を生成し、生成した前記一の第２広告文を、文字列の言語らしさを推定する推定モデルに入力することにより、前記推定モデルに前記一の第２広告文の前記言語らしさを示す値を出力させることにより、前記一の第２広告文の前記言語らしさの推定値を生成する生成工程と、
を含むことを特徴とする情報処理方法。

【請求項20】

所定の条件を満たす広告文である第１広告文を取得する取得手順と、
機械学習に基づく学習処理により、前記取得手順により取得された前記第１広告文のうち少なくとも一部を含む文字情報を入力情報として入力とし、前記入力情報に対応する広告文を第２広告文として出力する学習モデルを学習する学習手順と、
前記学習手順により学習された前記学習モデルに、一の文字情報を入力することにより、前記学習モデルに一の第２広告文を出力させることにより、前記一の第２広告文を生成し、生成した前記一の第２広告文を、文字列の言語らしさを推定する推定モデルに入力することにより、前記推定モデルに前記一の第２広告文の前記言語らしさを示す値を出力させることにより、前記一の第２広告文の前記言語らしさの推定値を生成する生成手順と、
をコンピュータに実行させることを特徴とする情報処理プログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、情報処理装置、情報処理方法、及び情報処理プログラムに関する。

【背景技術】

【0002】

従来、広告に関する種々の技術が提供されている。例えば、同一の広告対象についての広告文を個人に合わせて選択する技術が提供されている。

【先行技術文献】

【特許文献】

【0003】

【文献】特開２０１７－１１１４７９号公報

【非特許文献】

【0004】

【文献】“Improving Language Understanding by Generative Pre-Training”， Alec Radford, Karthik Narasimhan, Tim Salimans, and Ilya Sutskever＜インターネット＞https://s3-us-west-2.amazonaws.com/openai-assets/research-covers/language-unsupervised/language_understanding_paper.pdf（令和４年６月１日検索）

【発明の概要】

【発明が解決しようとする課題】

【0005】

しかしながら、上記の従来技術には、改善の余地がある。例えば、上記の従来技術では、広告対象についての複数の広告文から、個人に合わせて広告文を選択しているに過ぎず、選択対象となる広告文に適切な広告文が含まれない場合等、適切な広告文を提供することができるとは限らない。そのため、適切な広告文の生成を可能にすることが望まれている。

【0006】

本願は、上記に鑑みてなされたものであって、適切な広告文の生成を可能にする情報処理装置、情報処理方法、及び情報処理プログラムを提供することを目的とする。

【課題を解決するための手段】

【0007】

本願に係る情報処理装置は、所定の条件を満たす広告文である第１広告文に関する情報を取得する取得部と、前記取得部により取得された前記第１広告文に関する情報に基づいて、文字情報を入力情報として入力とし、前記入力情報に対応する文を第２広告文として出力する学習モデルを学習する学習部と、を備えたことを特徴とする。

【発明の効果】

【0008】

実施形態の一態様によれば、適切な広告文の生成を可能にすることができるという効果を奏する。

【図面の簡単な説明】

【0009】

【図1】図１は、実施形態に係る情報処理の一例を示す図である。

【図2】図２は、情報処理の具体例を示す図である。

【図3】図３は、実施形態に係る情報処理システムの構成例を示す図である。

【図4】図４は、実施形態に係る情報処理装置の構成例を示す図である。

【図5】図５は、実施形態に係る広告情報記憶部の一例を示す図である。

【図6】図６は、実施形態に係るモデル情報記憶部の一例を示す図である。

【図7】図７は、実施形態に係る生成情報記憶部の一例を示す図である。

【図8】図８は、情報処理装置が実行する情報処理の流れの一例を示すフローチャートである。

【図9】図９は、情報処理装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。

【発明を実施するための形態】

【0010】

以下に、本願に係る情報処理装置、情報処理方法、及び情報処理プログラムを実施するための形態（以下、「実施形態」と呼ぶ）について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る情報処理装置、情報処理方法、及び情報処理プログラムが限定されるものではない。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。

【0011】

（実施形態）
〔１．情報処理〕
まず、図１を用いて、情報処理装置１００が実行する情報処理の一例について説明する。図１は、実施形態に係る情報処理の一例を示す図である。以下では、情報処理装置１００が所定の条件を満たす広告文（「第１広告文」ともいう）に関する情報と、文（文字列）を出力する学習モデル（単に「モデル」または「生成モデル」ともいう）とを用いて、広告文（「第２広告文」ともいう）を生成する場合を一例として説明する。

【0012】

〔１－１．情報処理システムの構成〕
図１に示す処理の説明に先立って、図３を用いて情報処理システム１の構成について説明する。図３は、実施形態に係る情報処理システムの構成例を示す図である。図３に示すように、情報処理システム１は、端末装置１０と、ユーザ端末２０と、情報提供装置５０と、情報処理装置１００とが含まれる。端末装置１０と、ユーザ端末２０と、情報提供装置５０と、情報処理装置１００とは所定のネットワークＮを介して、有線または無線により通信可能に接続される。なお、図３に示した情報処理システム１には、複数の端末装置１０や、複数のユーザ端末２０や、複数の情報提供装置５０や、複数の情報処理装置１００が含まれてもよい。

【0013】

情報処理装置１００は、第１広告文に関する情報に基づいて、文字情報を入力情報として入力とし、入力情報に対応する文を第２広告文として出力するモデル（生成モデル）を学習するコンピュータである。例えば、情報処理装置１００は、第１広告文を入力情報として入力とし、入力情報に対応する文を第２広告文として出力するモデルを学習する。なお、モデルは、情報処理装置１００が学習可能であれば、第１広告文に関するどのような情報を入力情報として用いるモデルであってもよい。例えば、モデルは、第１広告文のうち、一部の情報を用いるモデルであってもよい。例えば、モデルは、第１広告文に含まれる特徴的なキーワード（文字列）を入力情報とするモデルであってもよい。

【0014】

情報処理装置１００は、学習したモデルを用いて第２広告文を生成する。例えば、情報処理装置１００は、広告主に指定された第１広告文（指定広告文）に対応する第２広告文を、学習したモデルを用いて生成する。例えば、情報処理装置１００は、広告主に指定された第１広告文をモデルに入力し、モデルが出力した第２広告文を基に、広告に利用される候補となる広告文（「広告候補文」ともいう）を決定する。

【0015】

端末装置１０は、広告主よって利用されるコンピュータ（広告主装置）である。なお、広告主は、法人等であってもよく、例えば、端末装置１０の使用者は、広告主の宣伝担当者等であってもよい。例えば、端末装置１０は、スマートフォンや、タブレット型端末や、ノート型ＰＣや、デスクトップＰＣや、携帯電話機や、ＰＤＡ等により実現される。なお、図１の例では、端末装置１０がノート型ＰＣである場合を一例として示す。広告主は、端末装置１０を用いて、情報処理装置１００との間で情報の送受信を行う。

【0016】

端末装置１０は、情報処理装置１００から情報提供を受信し、情報処理装置１００へ情報を送信する。例えば、端末装置１０は、広告主による指定を受け付けるためのコンテンツ（「指定用コンテンツ」ともいう）を情報処理装置１００から受信する。例えば、端末装置１０は、広告主による第１広告文の指定を受け付けるための指定用コンテンツを情報処理装置１００から受信する。例えば、端末装置１０は、指定用コンテンツにより広告主が指定した第１広告文（指定広告文）を示す情報を情報処理装置１００へ送信する。端末装置１０は、広告主が指定する第１広告文を示す情報を情報処理装置１００送信する。例えば、端末装置１０は、広告主が指定する第１広告文を示す情報を情報処理装置１００送信する。

【0017】

なお、広告主は、端末装置１０を用いて、広告コンテンツ（以下、単に「広告」ともいう）を情報処理装置１００に入稿せずに、広告の入稿を代理店に依頼する場合もある。この場合、情報処理装置１００に広告を入稿するのは代理店となる。「広告主」といった表記は、広告主だけでなく代理店を含む概念であり、「広告主装置」といった表記は、広告主装置だけでなく代理店によって利用される代理店装置を含む概念であるものとする。

【0018】

ユーザ端末２０は、ユーザによって利用されるコンピュータである。ユーザ端末２０は、ユーザが携帯可能なデバイス（端末装置）である。ユーザ端末２０は、例えば、スマートフォンや、タブレット型端末や、ノート型ＰＣ（Personal Computer）や、携帯電話機や、ＰＤＡ（Personal Digital Assistant）等により実現される。図１は、ユーザ端末２０がスマートフォンである場合を示す。なお、以下では、ユーザ端末２０をユーザと表記する場合がある。すなわち、以下では、ユーザをユーザ端末２０と読み替えることもできる。例えば、ユーザ端末２０は、情報処理装置１００が提供する広告を表示するコンピュータである。例えば、ユーザ端末２０は、表示アプリにより広告等の各種の情報を表示する。

【0019】

情報提供装置５０は、サービスに関する種々の情報提供を行うための情報が格納されたコンピュータである。例えば、情報提供装置５０は、ウェブサーバ等の種々の外部装置から情報を収集し、収集した情報を情報処理装置１００へ提供する。例えば、情報提供装置５０は、例えば、サーバ装置又はクラウドシステム等により実現される。例えば、情報提供装置５０は、各種情報として、サービスに関する情報（サービス情報）、サービスを利用する利用者に関する情報（利用者情報）を提供する。

【0020】

例えば、情報提供装置５０は、情報処理装置１００へ学習に用いるデータ（「学習用データ」ともいう）を提供するサービスを提供してもよい。この場合、情報提供装置５０は、情報処理装置１００がモデルの学習に用いるデータ（学習用データ）を情報処理装置１００へ提供する。例えば、情報提供装置５０は、情報処理装置１００が生成モデルの学習に用いるデータ（学習用データ）を情報処理装置１００へ提供する。また、情報提供装置５０は、情報処理装置１００へ学習済みのモデルを提供するサービスを提供してもよい。例えば、情報提供装置５０は、広告指標の予測に用いるモデル（例えば予測モデルＭ２）や言語らしさ（文らしさ）を推定するモデル（例えば推定モデルＭ３）を情報処理装置１００へ提供する。

【0021】

〔１－２．情報処理システムにおける処理の全体概要〕
ここから、図１を用いて、情報処理システム１が行う情報処理の一例について説明する。なお、情報処理システム１において行なわれる情報処理について、従来の処理と同様の点についての詳細な説明は適宜省略する。図１では、ＣＴＲ（クリック率）を広告指標の一例として説明するが、広告指標は、ＣＴＲに限らず、任意の指標が採用可能である。例えば、広告指標は、ＣＴＲ以外にも、クリックされた回数（クリック数）等、任意のクリックに関する指標が採用可能である。また、広告指標は、クリックに関する指標以外にも、コンバージョン率、コンバージョンに至った回数等、任意のコンバージョンに関する指標が採用可能である。なお、ここでいうコンバージョンは、ユーザのどのような行動であってもよい。例えば、コンバージョンは、広告の広告対象についての商品購入（サービス利用）や会員登録の利益につながるユーザの行動であってもよい。なお、購入（利用）、会員登録等は一例に過ぎず、コンバージョンは、資料請求や広告に対応するサイトの閲覧（表示）、実店舗への訪問等であってもよい。このように、ユーザのどのような行動をコンバージョンとするかは任意の設定が可能である。例えば、各広告について、ユーザのどのような行動をコンバージョンとみなすかは、情報処理装置１００の管理者や広告主等によって個別に設定されてもよい。なお、上記の広告指標は一例に過ぎず、広告指標は、任意の指標が採用可能である。

【0022】

図１では、情報処理装置１００は、広告文を生成するモデルＭ１の学習処理を実行するために用いる情報を情報提供装置５０から取得する（ステップＳ１）。情報処理装置１００は、モデルＭ１の学習処理に用いるデータ（学習用データ）を情報提供装置５０から取得する。例えば、情報処理装置１００は、所定の条件を満たす広告文である第１広告文を、情報提供装置５０から取得する。例えば、情報処理装置１００は、ＣＴＲが所定の閾値以上である広告文を第１広告文として、情報提供装置５０から取得する。なお、情報処理装置１００は、学習用データを取得済みの場合、ステップＳ１の処理を行わなくてもよい。

【0023】

情報処理装置１００は、モデルを学習する学習処理を実行する（ステップＳ２）。情報処理装置１００は、情報提供装置５０から受信した情報を記憶部１２０に記憶する。情報処理装置１００は、情報提供装置５０から取得したモデルＭ１の学習処理に用いる学習用データをモデルＭ１に対応付けてモデル情報記憶部１２２（図４参照）に記憶する。情報処理装置１００は、学習用データを用いてモデルＭ１を学習する。情報処理装置１００は、ＣＴＲが所定の閾値以上である第１広告文を入力情報として入力とし、入力情報に対応する第２広告文として出力するモデルＭ１を学習する。

【0024】

情報処理装置１００は、転移学習に関する技術を用いてモデルＭ１を学習する。例えば、情報処理装置１００は、予め学習されたモデル（「プレ学習モデル」ともいう）をベースとして、モデルＭ１を学習する。例えば、情報処理装置１００は、オープンソースのモデルをプレ学習モデルとして、モデルＭ１を学習する。例えば、情報処理装置１００は、入力された文字列に対応する文字列を出力するモデルをプレ学習モデルとして、モデルＭ１を学習する。

【0025】

例えば、情報処理装置１００は、非特許文献１に開示される手法（ＧＰＴ（Generative Pre-trained Transformer）等の任意の手法に基づいて学習されたプレ学習モデルをベースとして、モデルＭ１を学習する。図１では、情報処理装置１００は、ＧＰＴ－２（Generative Pre-trained Transformer - 2）により学習されたプレ学習モデルをベースとして、モデルＭ１を学習する。なお、ＧＰＴ－２は一例に過ぎず、情報処理装置１００は、自然言語処理に関する手法であれば任意の手法により学習されたプレ学習モデルを用いてもよい。例えば、情報処理装置１００は、ＬＳＴＭ（Long short-term memory）、Tｒａｎｓｆｏｒｍｅｒ、ＢＥＲＴ（Bidirectional Encoder Representations from Transformers）、ＧＰＴ－３（Generative Pre-trained Transformer - 3）等の手法により学習されたプレ学習モデルを用いてもよい。

【0026】

情報処理装置１００は、事前学習されたプレ学習モデルを、ファインチューニングすることによりモデルＭ１を学習する。情報処理装置１００は、入力された文字列に対応する文字列を出力するモデルをプレ学習モデル（ネットワーク）の重みを初期値として、広告文を用いたファインチューニングにより、モデル全体の重みを再学習する。これにより、情報処理装置１００は、広告文の特徴を学習したモデルＭ１を生成することができる。

【0027】

また、図１では、情報処理装置１００は、事前学習されたプレ学習モデルを、ＣＴＲが所定の閾値以上である第１広告文を用いてファインチューニングすることによりモデルＭ１を学習する。例えば、情報処理装置１００は、ＣＴＲが所定の閾値以上である第１広告文を用いてファインチューニングすることによりモデルＭ１を学習する。

【0028】

すなわち、情報処理装置１００は、ＣＴＲが所定の閾値以上である第１広告文を用いてファインチューニングすることにより、第１広告文に対応する第２広告文を出力するモデルＭ１を学習する。情報処理装置１００は、第１広告文の特徴を学習したモデルＭ１を生成する。このように、情報処理装置１００は、ＣＴＲが所定の閾値以上である第１広告文を用いてファインチューニングすることにより、ＣＴＲが高い第１広告文の特徴を学習し、第１広告文のようにＣＴＲが高くなることが期待される第２広告文を出力するモデルＭ１を学習する。

【0029】

なお、上述した学習処理は一例に過ぎず、情報処理装置１００は、第１広告文を入力情報として入力とし、第１広告文に対応する文を第２広告文として出力するモデルＭ１を学習可能であれば、どのような手法によりモデルＭ１を学習してもよい。例えば、情報処理装置１００は、プレ学習モデルを用いることなく、モデルＭ１を生成してもよい。

【0030】

情報処理装置１００は、学習したモデルＭ１を用いて新たな広告文を生成する。この点について以下説明する。図１では、情報処理装置１００は、広告主から広告文の提案の要求を受け付ける（ステップＳ３）。例えば、情報処理装置１００は、広告主が指定する広告文（指定広告文）を示す情報を、広告文が利用する端末装置１０から受信することにより、端末装置１０から広告文の提案の要求を受け付ける。図１では、情報処理装置１００は、文字列「ＸＸＸＸＸＸ」という第１広告文ＦＡを示す情報を、広告文が利用する端末装置１０から受信する。なお、図１では、文字列「ＸＸＸＸＸＸ」、「ＹＹＹＹＹＹ」、「ＺＺＺＺＺＺ」という抽象的な文字列で示すが、各文字列は、「人気介護福祉士求人サイトを厳選」等といった具体的な内容を示す文字列であるものとする。

【0031】

そして、情報処理装置１００は、新たな広告文を生成する生成処理を実行する（ステップＳ４）。情報処理装置１００は、第１広告文ＦＡに対応する第２広告文を生成する生成処理を実行する。図１では、情報処理装置１００は、第１広告文ＦＡに対応する第２広告文ＳＡ１、ＳＡ２等を生成する。なお、第２広告文ＳＡ１、ＳＡ２等を区別せずに説明する場合、「第２広告文ＳＡ」を記載する。

【0032】

まず、情報処理装置１００は、第１広告文ＦＡを含む入力情報をモデルＭ１に入力する（ステップＳ４－１）。図１では、情報処理装置１００は、第１広告文ＦＡを入力情報としてモデルＭ１に入力する。

【0033】

入力情報が入力されたモデルＭ１は、第２広告文を出力する（ステップＳ４－２）。図１では、第１広告文ＦＡが入力されたモデルＭ１は、第２広告文ＳＡ１、ＳＡ２等に示すような広告文を出力する。このように、情報処理装置１００は、モデルＭ１を用いることにより、第１広告文ＦＡに対応する第２広告文ＳＡ１、ＳＡ２等を生成する。

【0034】

そして、情報処理装置１００は、生成処理により生成した広告文に基づく情報を、広告主へ提供する（ステップＳ５）。例えば、情報処理装置１００は、生成処理により生成した第２広告文ＳＡ１、ＳＡ２等に基づく提案広告文を、広告主が利用する端末装置１０へ送信する。なお、提案広告文等の例については図２で説明する。

【0035】

このように、情報処理装置１００は、所定の条件を満たす広告文である第１広告文に関する情報を入力情報として入力とし、入力情報に対応する文を第２広告文として出力する学習モデルを学習することにより、適切な広告文の生成を可能にすることができる。また、情報処理装置１００は、学習したモデルを用いることにより、適切な広告文を生成することができる。また、情報処理装置１００は、生成処理により生成した情報に基づく提案広告文を、広告主に提案することにより、適切な広告文を広告主に提案することができる。

【0036】

〔１－２－１．処理例〕
上述した情報処理システム１が行う情報処理を前提として、情報処理装置１００が生成する広告文の一例について、図２を用いて説明する。図２は、情報処理の具体例を示す図である。図２に示す第２広告文の生成は、図１中のステップＳ４の処理に対応する。なお、上記で説明した内容と同様の点については適宜説明を省略する。

【0037】

図２では、情報処理装置１００は、「人気介護福祉士求人サイトを厳選」である第１広告文ＡＣ１に対応する第２広告文を生成する（ステップＳ１１）。情報処理装置１００は、「人気介護福祉士求人サイトを厳選」をモデルＭ１に入力することにより、広告情報群ＩＮＦ１に示すような第２広告文を生成する。情報処理装置１００は、「人気介護福祉士求人サイトを厳選」をモデルＭ１に入力することにより、「オススメ介護福祉士求人サイトを厳選」、「デイサービス介護福祉士求人サイトを厳選」、「未経験介護福祉士求人サイトを厳選」等の第２広告文を生成する。

【0038】

また、情報処理装置１００は、予測モデルＭ２を用いて各第２広告文の予測ＣＴＲを予測する。例えば、予測モデルＭ２は、文字列の入力に応じて、その文字列が広告として用いられた場合の予測されるＣＴＲの値（０～１００（％））を出力する。情報処理装置１００は、第２広告文を予測モデルＭ２に入力することにより、その第２広告文の予測ＣＴＲを予測する。

【0039】

情報処理装置１００は、広告情報群ＩＮＦ１に示すように、「オススメ介護福祉士求人サイトを厳選」、「デイサービス介護福祉士求人サイトを厳選」、「未経験介護福祉士求人サイトを厳選」等の第２広告文の予測ＣＴＲを予測する。例えば、情報処理装置１００は、「オススメ介護福祉士求人サイトを厳選」を予測モデルＭ２に入力することにより、「オススメ介護福祉士求人サイトを厳選」の予測ＣＴＲを「２．４６（％）」と予測する。

【0040】

また、情報処理装置１００は、推定モデルＭ３を用いて各第２広告文の言語らしさを推定する。例えば、推定モデルＭ３は、文字列の入力に応じて、その文字列の言語らしさの値（０～１）を出力する。情報処理装置１００は、第２広告文を推定モデルＭ３に入力することにより、その第２広告文の言語らしさを推定する。

【0041】

情報処理装置１００は、広告情報群ＩＮＦ１に示すように、「オススメ介護福祉士求人サイトを厳選」、「デイサービス介護福祉士求人サイトを厳選」、「未経験介護福祉士求人サイトを厳選」等の第２広告文の言語らしさを推定する。例えば、情報処理装置１００は、「オススメ介護福祉士求人サイトを厳選」を推定モデルＭ３に入力することにより、「オススメ介護福祉士求人サイトを厳選」の言語らしさを「０．９０７」と推定する。

【0042】

情報処理装置１００は、広告情報群ＩＮＦ１を基に広告主への情報提供を行ってもよい。例えば、情報処理装置１００は、モデルＭ１により生成された第２広告文に基づく提案広告文を、情報提供先となる広告主（対象広告主）が利用する端末装置１０に提供する。情報処理装置１００は、モデルＭ１により生成された第２広告文を提案広告文として、対象広告主が利用する端末装置１０に提供する。図２では、情報処理装置１００は、「オススメ介護福祉士求人サイトを厳選」、「デイサービス介護福祉士求人サイトを厳選」、「未経験介護福祉士求人サイトを厳選」等の複数の第２広告文から決定した第２広告文を提案広告文として、対象広告主が利用する端末装置１０に送信する。

【0043】

情報処理装置１００は、モデルＭ１により生成された第２広告文から、広告に利用される候補となる広告候補文を決定する。情報処理装置１００は、決定した広告候補文に基づく提案広告文を対象広告主が利用する端末装置１０に提供する。例えば、情報処理装置１００は、モデルＭ１により生成された第２広告文から決定した広告候補文を提案広告文として端末装置１０に送信する。

【0044】

図２では、情報処理装置１００は、「オススメ介護福祉士求人サイトを厳選」、「デイサービス介護福祉士求人サイトを厳選」、「未経験介護福祉士求人サイトを厳選」等の複数の第２広告文のうち、所定の基準に基づいて広告候補文を決定する。

【0045】

例えば、情報処理装置１００は、広告指標が所定の条件を満たす第２広告文を広告候補文に決定する。情報処理装置１００は、予測ＣＴＲが第１の閾値以上である第２広告文を広告候補文に決定する。図２では、情報処理装置１００は、「オススメ介護福祉士求人サイトを厳選」、「デイサービス介護福祉士求人サイトを厳選」、「未経験介護福祉士求人サイトを厳選」等の複数の第２広告文のうち、予測ＣＴＲが第１の閾値以上である第２広告文を広告候補文に決定する。第１の閾値が「３」である場合、情報処理装置１００は、予測ＣＴＲが「３」以上である「未経験介護福祉士求人サイトを厳選」等の第２広告文を広告候補文に決定する。この場合、情報処理装置１００は、「未経験介護福祉士求人サイトを厳選」等の第２広告文を提案広告文として、端末装置１０に送信する。

【0046】

例えば、情報処理装置１００は、言語らしさ（文らしさ）の条件を満たす第２広告文を広告候補文に決定する。情報処理装置１００は、言語らしさを示す値が第２の閾値以上である第２広告文を広告候補文に決定する。図２では、情報処理装置１００は、「オススメ介護福祉士求人サイトを厳選」、「デイサービス介護福祉士求人サイトを厳選」、「未経験介護福祉士求人サイトを厳選」等の複数の第２広告文のうち、言語らしさを示す値が第２の閾値以上である第２広告文を広告候補文に決定する。第２の閾値が「０．９０６」である場合、情報処理装置１００は、言語らしさを示す値が「０．９０６」以上である「オススメ介護福祉士求人サイトを厳選」等の第２広告文を広告候補文に決定する。この場合、情報処理装置１００は、「オススメ介護福祉士求人サイトを厳選」等の第２広告文を提案広告文として、端末装置１０に送信する。

【0047】

例えば、情報処理装置１００は、広告指標が所定の条件を満たし、かつ言語らしさ（文らしさ）の条件を満たす第２広告文を広告候補文に決定する。情報処理装置１００は、予測ＣＴＲが第１の閾値以上であり、かつ言語らしさを示す値が第２の閾値以上である第２広告文を広告候補文に決定する。

【0048】

図２では、情報処理装置１００は、「オススメ介護福祉士求人サイトを厳選」、「デイサービス介護福祉士求人サイトを厳選」、「未経験介護福祉士求人サイトを厳選」等の複数の第２広告文のうち、予測ＣＴＲが第１の閾値以上であり、かつ言語らしさを示す値が第２の閾値以上である第２広告文を広告候補文に決定する。第１の閾値が「２．５」であり、第２の閾値が「０．９０５」である場合、情報処理装置１００は、予測ＣＴＲが「２．５」以上であり、かつ言語らしさを示す値が「０．９０５」以上である「デイサービス介護福祉士求人サイトを厳選」等の第２広告文を広告候補文に決定する。この場合、情報処理装置１００は、「デイサービス介護福祉士求人サイトを厳選」等の第２広告文を提案広告文として、端末装置１０に送信する。

【0049】

上記のように、情報処理装置１００は、広告文らしい文の自動生成を行う。情報処理装置１００は、転移学習に関する技術を用いてモデルを学習する。例えば、情報処理装置１００は、所定の条件を満たす広告（クリック率が高い、コンバージョン率が高い等）を取得し、入力された文章等の文字列から新たに文章を生成するモデルに対し、取得した広告が有する特徴を学習させる学習装置である。例えば、情報処理装置１００は、所定の条件を満たす広告を取得する。例えば、情報処理装置１００は、入力された文章から新たに文章を生成するモデル（ＧＰＴ等）に、取得した広告に含まれる文章を学習データとして学習させる。例えば、情報処理装置１００は、学習データとして、ある商品カテゴリに属する広告に含まれる文章を出力文章としてもよい。また、情報処理装置１００は、同一カテゴリに属する商品に関する文章であって、強調したい内容や商品を示す簡易な文章を入力文章として受け付けてもよい。情報処理装置１００は、入力文章から各出力文章を出力するように、モデルの学習を行う。

【0050】

なお、情報処理装置１００は、商品カテゴリごとに生成されたモデルを用いてもよい。情報処理装置１００は、広告主から入力文章や商品カテゴリの情報を受け付ける。情報処理装置１００は、受け付けた商品カテゴリと対応するモデルに入力文章を入力し、複数の出力文章を生成してもよい。情報処理装置１００は、例えば予測モデルＭ２、推定モデルＭ３学習済みの広告文章評価モデル（評価モデル）を用いて、各出力文章のスコアを得る。情報処理装置１００は、出力文章をスコア順に並べて、スコアとともに表示する。例えば、評価モデルは、実際に配信された広告の広告文章を入力した際に、クリック率が高い、コンバージョン率が高いほど高いスコアを出力するように学習されたモデルが用いられてもよい。なお、上述した処理は一例に過ぎず、情報処理装置１００は、様々な情報を適宜用いて、広告主へ提案する広告文を決定し、広告主への提案を行ってもよい。

【0051】

〔２．情報処理装置の構成〕
次に、図４を用いて、実施形態に係る情報処理装置１００の構成について説明する。図４は、実施形態に係る情報処理装置１００の構成例を示す図である。図４に示すように、情報処理装置１００は、通信部１１０と、記憶部１２０と、制御部１３０とを有する。なお、情報処理装置１００は、情報処理装置１００の管理者等から各種操作を受け付ける入力部（例えば、キーボードやマウス等）や、各種情報を表示するための表示部（例えば、液晶ディスプレイ等）を有してもよい。

【0052】

（通信部１１０）
通信部１１０は、例えば、ＮＩＣ（Network Interface Card）等によって実現される。そして、通信部１１０は、ネットワークと有線または無線で接続され、端末装置１０、ユーザ端末２０及び情報提供装置５０との間で情報の送受信を行う。

【0053】

（記憶部１２０）
記憶部１２０は、例えば、ＲＡＭ（Random Access Memory）、フラッシュメモリ（Flash Memory）等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。実施形態に係る記憶部１２０は、図４に示すように、広告情報記憶部１２１と、モデル情報記憶部１２２と、生成情報記憶部１２３とを有する。また、記憶部１２０は、上記に限らず、種々の情報を記憶してもよい。

【0054】

（広告情報記憶部１２１）
実施形態に係る広告情報記憶部１２１は、広告に関する各種情報を記憶する。例えば、広告情報記憶部１２１は、配信実績が収集された広告に関する各種情報を記憶する。図５は、実施形態に係る広告情報記憶部の一例を示す図である。図５に示す広告情報記憶部１２１は、「広告ＩＤ」、「広告」、「広告主」、「広告対象」、「広告指標」といった項目を有する。

【0055】

「広告ＩＤ」は、広告を識別するための識別情報を示す。「広告」は、広告主から入稿された広告を示す。図５では「広告」に「ＡＣ１」といった概念的な情報が格納される例を示したが、実際には、広告として用いられた文章、または、これらの格納場所を示すファイルパス名などが格納される。なお、「広告」は、広告文を含むものであれば、画像を含んでもよく、動画像や音声等のデータであってもよい。

【0056】

「広告主」は、広告に対応する広告主を示す。例えば、「広告主」は、広告主を識別するための識別情報（広告主ＩＤ）を示す。なお、広告主は、入稿作業等を代理店に依頼する場合もある。「広告主」といった表記は、広告主だけでなく代理店を含む概念であるものとする。「広告対象」は、広告の対象となる広告対象やサービス名を示す。図５では「広告対象」に「ＧＤ１」といった概念的な情報が格納される例を示したが、実際には、その広告対象の具体的な名称等が格納される。なお、各商品を識別する情報としては「広告対象」に限らず、広告対象を識別するための「広告対象ＩＤ」等の情報を記憶してもよい。

【0057】

「広告指標」は、広告に対応する広告指標を示す。図５では「広告指標」に「ＩＮＤ１」といった概念的な情報が格納される例を示したが、実際には、その広告について収集された配信実績に基づく広告指標、または、これらの格納場所を示すファイルパス名などが格納される。例えば、「広告指標」は、広告に対応するＣＴＲ、ＣＶＲ等の各種の広告指標の実績値を示す。

【0058】

例えば、図５に示す例において、広告ＩＤ「Ａ１１」により識別される広告（広告ＡＣ１）は、広告主「ＡＰ１」により識別される広告主から取得した広告であり、その広告対象は広告対象ＧＤ１であることを示す。また、広告ＡＣ１の広告指標は、広告指標ＩＮＤ１であることを示す。

【0059】

なお、広告情報記憶部１２１は、上記に限らず、目的に応じて種々の情報を記憶してもよい。例えば、広告情報記憶部１２１は、入札価格に関する情報等を記憶してもよい。例えば、広告情報記憶部１２１は、各広告がターゲットとするユーザの属性に関する情報等を記憶してもよい。

【0060】

（モデル情報記憶部１２２）
実施形態に係るモデル情報記憶部１２２は、モデルに関する情報を記憶する。例えば、モデル情報記憶部１２２は、学習処理により学習（生成）された学習済みモデル（モデル）の情報（モデルデータ）を記憶する。図６に示すモデル情報記憶部１２２は、学習に用いたデータ（学習データ）を学習済みモデル（モデル）に対応付けて記憶する。図６は、実施形態に係るモデル情報記憶部の一例を示す図である。図６に示した例では、モデル情報記憶部１２２は、「モデルＩＤ」、「用途」、「モデルデータ」、「学習データ」といった項目が含まれる。図６の例では、モデル情報記憶部１２２は、学習に用いたデータ（学習データ）を学習済みモデル（モデル）に対応付けて記憶する。

【0061】

「モデルＩＤ」は、モデルを識別するための識別情報を示す。「用途」は、対応するモデルの用途を示す。「モデルデータ」は、モデルのデータを示す。図６等では「モデルデータ」に「ＭＤＴ１」といった概念的な情報が格納される例を示したが、実際には、モデルの構成（ネットワーク構成）の情報やパラメータに関する情報等、そのモデルを構成する種々の情報が含まれる。例えば、「モデルデータ」には、ネットワークの各層におけるノードと、各ノードが採用する関数と、ノードの接続関係と、ノード間の接続に対して設定される接続係数とを含む情報が含まれる。

【0062】

「学習データ」は、学習済みモデル（モデル）の学習に用いられたデータを示す。「学習データ」には、対応するモデルの学習に用いられたデータセットを示す情報が記憶される。例えば、「学習データ」は、データ（入力情報）とそのデータに対応する正解情報（出力情報）とを対応付けて、学習データ（「学習用データ」ともいう）として記憶する。図６では「学習データ」に「ＬＤＴ１」といった概念的な情報が格納される例を示したが、実際には、データ（入力情報）とそのデータに対応する正解情報（出力情報）等、対応するモデルの学習に用いられたデータに関する種々の情報が含まれる。

【0063】

図６では、モデルＩＤ「Ｍ１」により識別されるモデル（モデルＭ１）は、用途が「広告文生成」であることを示す。すなわち、モデルＭ１は、入力された文字列（広告文）を基に、新たな文字列（広告文）を出力（生成）するモデルであることを示す。また、モデルＭ１のモデルデータは、モデルデータＭＤＴ１であることを示す。また、モデルＭ１の学習に用いられた学習データは、学習データＬＤＴ１であることを示す。

【0064】

また、モデルＩＤ「Ｍ２」により識別されるモデル（予測モデルＭ２）は、用途が「ＣＴＲ予測」であることを示す。すなわち、予測モデルＭ２は、入力された広告のデータについて予測されるＣＴＲを示す情報（スコア）を出力するモデルであることを示す。例えば、予測モデルＭ２は、０～１００（％）の値を出力する。例えば、予測モデルＭ２は、入力された広告文に対応するＣＴＲの予測値を出力する。予測モデルＭ２のモデルデータは、モデルデータＭＤＴ２であることを示す。また、予測モデルＭ２の学習に用いられた学習データは、学習データＬＤＴ２であることを示す。学習データＬＤＴ２は、広告文にその広告文のＣＴＲの値（実績値等）が正解情報として対応付けられた複数の教師データを含む。

【0065】

モデルＩＤ「Ｍ３」により識別されるモデル（推定モデルＭ３）は、用途が「言語らしさ」であることを示す。すなわち、推定モデルＭ３は、入力された文字列（文章）が、自然言語として適切である度合いを示す情報（スコア）を出力するモデルであることを示す。例えば、推定モデルＭ３は、０～１の値を出力する。例えば、推定モデルＭ３は、入力された広告文が自然言語として適切である程、高いスコアを出力する。また、推定モデルＭ３のモデルデータは、モデルデータＭＤＴ３であることを示す。また、推定モデルＭ３の学習に用いられた学習データは、学習データＬＤＴ３であることを示す。学習データＬＤＴ３は、広告文にその広告文の言語らしさを示す値が正解情報として対応付けられた複数の教師データを含む。

【0066】

なお、モデル情報記憶部１２２は、上記に限らず、目的に応じて種々の情報を記憶してもよい。例えば、モデル情報記憶部１２２は、ＣＴＲに限らず、他の広告指標を予測するモデルを記憶してもよい。例えば、モデル情報記憶部１２２は、ＣＶＲを予測するモデルＭ４を記憶してもよい。この場合、モデル情報記憶部１２２は、ＣＶＲを予測するモデルＭ４に、その学習に用いたデータ（正解情報であるＣＶＲとそのＣＶＲの実績が得られた広告文との組み合わせ）を対応付けて記憶する。

【0067】

（生成情報記憶部１２３）
実施形態に係る生成情報記憶部１２３は、生成した広告文に関する各種情報を記憶する。図７は、実施形態に係る生成情報記憶部の一例を示す図である。図７に示す生成情報記憶部１２３は、「処理結果ＩＤ」、「入力情報」、「生成情報」といった項目が含まれる。

【0068】

「処理結果ＩＤ」は、処理結果を識別する識別情報を示す。「入力情報」は、情報の生成を行うために用いた入力情報等を示す。「入力情報」には、「第１広告文」等といった項目が含まれる。

【0069】

「生成情報」は、生成処理により得られた各種の結果（情報）を示す。「生成情報」には、「第２広告文」、「予測ＣＴＲ」、「言語らしさ」といった項目が含まれる。「第２広告文」は、第１広告文を基に生成された広告文を示す。例えば、「第２広告文」は、モデルＭ１を用いて生成された広告文を示す。

【0070】

「予測ＣＴＲ」は、対応する第２広告文について予測されるＣＴＲを示す。例えば、「予測ＣＴＲ」は、予測モデルＭ２を用いて予測されるＣＴＲを示す。例えば、「予測ＣＴＲ」は、第２広告文が入力された予測モデルＭ２が出力した予測ＣＴＲを示す。

【0071】

「言語らしさ」は、対応する第２広告文について予測されるＣＴＲを示す。例えば、「言語らしさ」は、推定モデルＭ３を用いて推定される言語らしさを示す。例えば、「予測ＣＴＲ」は、第２広告文が入力された推定モデルＭ３が出力したその第２広告文の言語らしさの度合いを示す。

【0072】

例えば、処理結果ＩＤ「ＲＳ１」により識別される処理では、第１広告文が「人気介護福祉士求人サイトを厳選」であることを示す。また、その第１広告文から生成された第２広告文「オススメ介護福祉士求人サイトを厳選」、「デイサービス介護福祉士求人サイトを厳選」等が得られたことを示す。また、第２広告文「オススメ介護福祉士求人サイトを厳選」は、予測ＣＴＲが「２．４６」であり、言語らしさが「０．９０７」であることを示す。

【0073】

なお、生成情報記憶部１２３は、上記に限らず、目的に応じて種々の情報を記憶してもよい。

【0074】

（制御部１３０）
図４の説明に戻って、制御部１３０は、コントローラ（controller）であり、例えば、ＣＰＵ（Central Processing Unit）やＭＰＵ（Micro Processing Unit）等によって、情報処理装置１００内部の記憶装置に記憶されている各種プログラム（情報処理プログラムの一例に相当）がＲＡＭを作業領域として実行されることにより実現される。また、制御部１３０は、コントローラであり、例えば、ＡＳＩＣ（Application Specific Integrated Circuit）やＦＰＧＡ（Field Programmable Gate Array）等の集積回路により実現される。

【0075】

図４に示すように、制御部１３０は、取得部１３１と、学習部１３２と、決定部１３３と、生成部１３４と、提供部１３５とを有し、以下に説明する情報処理の機能や作用を実現または実行する。なお、制御部１３０の内部構成は、図４に示した構成に限られず、後述する情報処理を行う構成であれば他の構成であってもよい。

【0076】

（取得部１３１）
取得部１３１は、種々の情報を取得する。取得部１３１は、端末装置１０、ユーザ端末２０、情報提供装置５０等の外部装置から各種情報を取得する。また、取得部１３１は、記憶部１２０から各種情報を取得する。また、取得部１３１は、広告情報記憶部１２１や、モデル情報記憶部１２２や、生成情報記憶部１２３等から各種情報を取得する。

【0077】

取得部１３１は、通信部１１０を介して、外部の情報処理装置から各種情報を受信する。取得部１３１は、受信した情報を記憶部１２０に格納する。取得部１３１は、端末装置１０、ユーザ端末２０または情報提供装置５０から各種情報を受信する。取得部１３１は、ユーザが利用する端末装置１０から情報を取得する。例えば、取得部１３１は、情報提供装置５０から各種情報を取得する。例えば、取得部１３１は、情報提供装置５０からモデルの学習に用いる学習用データを受信する。例えば、取得部１３１は、情報提供装置５０からモデルを受信する。

【0078】

取得部１３１は、所定の条件を満たす広告文である第１広告文に関する情報を取得する。取得部１３１は、広告指標が所定の条件を満たす第１広告文に関する情報を取得する。取得部１３１は、クリックに関する広告指標が所定の条件を満たす第１広告文に関する情報を取得する。取得部１３１は、第１広告文がユーザにクリックされた回数に関する広告指標が所定の条件を満たす第１広告文に関する情報を取得する。取得部１３１は、クリック率が所定の閾値以上である第１広告文に関する情報を取得する。

【0079】

取得部１３１は、コンバージョンに関する広告指標が所定の条件を満たす第１広告文に関する情報を取得する。取得部１３１は、第１広告文によりコンバージョンに至った回数に関する広告指標が所定の条件を満たす第１広告文に関する情報を取得する。取得部１３１は、コンバージョン率が所定の閾値以上である第１広告文に関する情報を取得する。

【0080】

（学習部１３２）
学習部１３２は、学習モデル（モデル）を学習する学習処理を実行する。学習部１３２は、取得部１３１により取得された第１広告文に関する情報に基づいて、文字情報を入力情報として入力とし、入力情報に対応する文を第２広告文として出力する学習モデルを学習する。

【0081】

学習部１３２は、広告指標が所定の条件を満たす第１広告文に関する情報に基づいて、学習モデルを学習する。学習部１３２は、クリックに関する広告指標が所定の条件を満たす第１広告文に関する情報に基づいて、学習モデルを学習する。学習部１３２は、第１広告文がユーザにクリックされた回数に関する広告指標が所定の条件を満たす第１広告文に関する情報に基づいて、学習モデルを学習する。学習部１３２は、クリック率が所定の閾値以上である第１広告文に関する情報に基づいて、学習モデルを学習する。

【0082】

学習部１３２は、コンバージョンに関する広告指標が所定の条件を満たす第１広告文に関する情報に基づいて、学習モデルを学習する。学習部１３２は、第１広告文によりコンバージョンに至った回数に関する広告指標が所定の条件を満たす第１広告文に関する情報に基づいて、学習モデルを学習する。学習部１３２は、コンバージョン率が所定の閾値以上である第１広告文に関する情報に基づいて、学習モデルを学習する。

【0083】

学習部１３２は、第１広告文に含まれる文字列である入力情報を入力とし、入力情報に対応する第２広告文を出力する学習モデルを学習する。学習部１３２は、第１広告文である入力情報を入力とし、入力情報に対応する第２広告文を出力する学習モデルを学習する。学習部１３２は、第１広告文のうち一部の文字列である入力情報を入力とし、入力情報に対応する第２広告文を出力する学習モデルを学習する。学習部１３２は、第１広告文の特徴を学習した学習モデルを生成する。学習部１３２は、入力情報と第２広告文との関連性の特徴を学習した学習モデルを生成する。

【0084】

例えば、学習部１３２は、取得部１３１により取得された各種情報に基づいて、学習処理を実行する。学習部１３２は、外部の情報処理装置からの情報や記憶部１２０に記憶された情報に基づいて、学習処理を実行する。学習部１３２は、モデル情報記憶部１２２に記憶された情報に基づいて、学習処理を実行する。学習部１３２は、学習により生成したモデルをモデル情報記憶部１２２に格納する。

【0085】

学習部１３２は、学習処理を行う。学習部１３２は、各種学習を行う。学習部１３２は、取得部１３１により取得された情報に基づいて、各種情報を学習する。学習部１３２は、モデルを学習（生成）する。学習部１３２は、モデル等の各種情報を学習する。学習部１３２は、学習によりモデルを生成する。学習部１３２は、種々の機械学習に関する技術を用いて、モデルを学習する。例えば、学習部１３２は、モデル（ネットワーク）のパラメータを学習する。学習部１３２は、種々の機械学習に関する技術を用いて、モデルを学習する。

【0086】

学習部１３２は、モデルＭ１等の各種の学習モデルを生成する。学習部１３２は、ネットワークのパラメータを学習する。例えば、学習部１３２は、モデルＭ１等の各種の学習モデルのネットワークのパラメータを学習する。学習部１３２は、モデル情報記憶部１２２に記憶された学習用データを用いて、学習処理を行うことにより、モデルＭ１等の各種の学習モデルを生成する。例えば、学習部１３２は、広告文の生成に用いられるモデルを生成する。学習部１３２は、モデルＭ１等の各種の学習モデルのネットワークのパラメータを学習することにより、モデルＭ１等の各種の学習モデルを生成する。

【0087】

学習部１３２は、モデル情報記憶部１２２に記憶された学習用データ（教師データ）に基づいて、学習処理を行う。学習部１３２は、モデル情報記憶部１２２に記憶された学習用データを用いて、学習処理を行うことにより、モデルＭ１等の各種の学習モデルを生成する。

【0088】

例えば、学習部１３２は、モデルＭ１が出力する広告文が、モデルＭ１に入力した入力情報に対応付けられた正解情報（望ましい生成結果を示す情報）に近づくように、バックプロパゲーション（誤差逆伝播法）等の手法により学習処理を行う。例えば、学習部１３２は、第１広告文を含む入力情報が入力されたモデルＭ１が出力する合成画像が、その入力情報に対応付けられた正解情報に近づくように学習処理を行う。

【0089】

例えば、学習部１３２は、学習処理によりノード間で値が伝達する際に考慮される重み（すなわち、接続係数）の値を調整する。このように、学習部１３２は、モデルＭ１における出力と、入力に対応する正解情報との誤差が少なくなるようにパラメータ（接続係数）を補正するバックプロパゲーション等の処理によりモデルＭ１を学習する。例えば、学習部１３２は、所定の損失（ロス）関数を最小化するようにバックプロパゲーション等の処理を行うことによりモデルＭ１を生成する。これにより、学習部１３２は、モデルＭ１のパラメータを学習する学習処理を行うことができる。

【0090】

なお、モデルの学習手法については、上述した手法に限定されるものではなく、任意の公知技術が適用可能である。なお、各モデルの生成は、機械学習に関する種々の従来技術を適宜用いて行われてもよい。例えば、モデルの生成は、ＳＶＭ（Support Vector Machine）等の教師あり学習の機械学習に関する技術を用いて行われてもよい。また、例えば、モデルの生成は、教師なし学習の機械学習に関する技術を用いて行われてもよい。例えば、モデルの生成は、深層学習（ディープラーニング）の技術を用いて行われてもよい。例えば、モデルの生成は、ＤＮＮ（Deep Neural Network）やＲＮＮ（Recurrent Neural Network）やＣＮＮ（Convolutional Neural Network）等の種々のディープラーニングの技術を適宜用いて行われてもよい。なお、上記モデルの生成に関する記載は例示であり、モデルの生成は、取得可能な情報等に応じて適宜選択された学習手法により行われてもよい。すなわち、学習部１３２は、学習用データに含まれる入力情報が入力された場合に、正解情報に対応するスコアを出力するようにモデルＭ１を学習可能であれば、どのような手法によりモデルＭ１の生成を行ってもよい。

【0091】

上記のように、学習部１３２による学習の手法は特に限定されないが、例えば、データ（入力情報）とその正解情報（出力情報）とを紐づけた学習用データを用意し、その学習用データを多層ニューラルネットワークに基づいた計算モデルに入力して学習してもよい。また、例えばＣＮＮ、３Ｄ－ＣＮＮ等のＤＮＮに基づく手法が用いられてもよい。学習部１３２は、音声等のような時系列データを対象とする場合、再帰型ニューラルネットワーク（ＲＮＮ）やＲＮＮを拡張したＬＳＴＭ（Long Short-Term Memory units）に基づく手法を用いてもよい。

【0092】

また、学習部１３２は、広告指標の予測に用いるモデルである予測モデルＭ２を学習してもよい。例えば、学習部１３２は、ＣＴＲの予測に用いるモデルである予測モデルＭ２を学習してもよい。例えば、学習部１３２は、広告文にその広告文のＣＴＲの値（０～１００（％）等の実績値等）が正解情報として対応付けられた複数の教師データを含む学習データＬＤＴ２を用いて予測モデルＭ２を学習する。例えば、学習部１３２は、広告文が入力された場合に、その広告文に対応付けられた正解情報（値）が出力されるように予測モデルＭ２を学習する。例えば、学習部１３２は、文字列の入力に応じて、その文字列が広告として用いられた場合の予測されるＣＴＲの値（０～１００（％））を出力する予測モデルＭ２を学習する。なお、予測モデルＭ２を情報提供装置５０から取得する場合、学習部１３２は、予測モデルＭ２を学習しなくてもよい。

【0093】

また、学習部１３２は、言語らしさ（文らしさ）を推定するモデルである推定モデルＭ３を学習してもよい。例えば、学習部１３２は、文字列の自然言語としての適切さの推定に用いるモデルである推定モデルＭ３を学習してもよい。例えば、学習部１３２は、広告文にその広告文の言語らしさの値（０～１の値等）が正解情報として対応付けられた複数の教師データを含む学習データＬＤＴ３を用いて推定モデルＭ３を学習する。例えば、学習部１３２は、広告文が入力された場合に、その広告文に対応付けられた正解情報（値）が出力されるように推定モデルＭ３を学習する。例えば、学習部１３２は、文字列の入力に応じて、０～１の値を出力する推定モデルＭ３を学習する。なお、推定モデルＭ３を情報提供装置５０から取得する場合、学習部１３２は、推定モデルＭ３を学習しなくてもよい。

【0094】

（決定部１３３）
決定部１３３は、種々の情報を決定する決定処理を実行する。決定部１３３は、決定処理により決定した情報を記憶部１２０に格納する。例えば、決定部１３３は、取得部１３１により取得された各種情報に基づいて、決定処理を実行する。決定部１３３は、記憶部１２０に記憶された各種情報に基づいて、決定処理を実行する。例えば、決定部１３３は、外部の情報処理装置から受信された各種情報に基づいて、決定処理を実行する。

【0095】

決定部１３３は、学習部１３２により学習されたモデルを用いて、決定処理を実行する。決定部１３３は、モデル情報記憶部１２２に記憶されたモデルを用いて、決定処理を実行する。

【0096】

決定部１３３は、学習モデルにより生成された第２広告文から、広告に利用される候補となる広告候補文を決定する。決定部１３３は、広告指標が所定の条件を満たす第２広告文を広告候補文に決定する。決定部１３３は、言語らしさの条件を満たす第２広告文を広告候補文に決定する。

【0097】

（生成部１３４）
生成部１３４は、各種情報を生成する生成処理を実行する。例えば、生成部１３４は、取得部１３１により取得された各種情報に基づいて、生成処理を実行する。例えば、生成部１３４は、記憶部１２０に記憶された情報に基づいて、生成処理を実行する。

【0098】

生成部１３４は、決定部１３３により決定された情報に基づいて、生成処理を実行する。例えば、生成部１３４は、決定部１３３により決定された広告候補文を広告主に提案するコンテンツを生成する。生成部１３４は、指定用コンテンツを生成する。

【0099】

生成部１３４は、コンテンツを生成する。生成部１３４は、例えば、生成部１３４は、Ｊａｖａ（登録商標）等の種々の技術を適宜用いて、端末装置１０へ提供する画面（コンテンツ）を生成する。なお、生成部１３４は、ＣＳＳやＪａｖａＳｃｒｉｐｔ（登録商標）やＨＴＭＬの形式に基づいて、端末装置１０へ提供する画面（コンテンツ）を生成してもよい。また、例えば、生成部１３４は、ＪＰＥＧ（Joint Photographic Experts Group）やＧＩＦ（Graphics Interchange Format）やＰＮＧ（Portable Network Graphics）など様々な形式で画面（コンテンツ）を生成してもよい。生成部１３４は、評価受付用コンテンツを生成する。

【0100】

（提供部１３５）
提供部１３５は、各種情報を提供する。提供部１３５は、通信部１１０を介して、外部の情報処理装へ各種情報を送信する。提供部１３５は、端末装置１０やユーザ端末２０や情報提供装置５０へ各種情報を送信する。提供部１３５は、決定処理の結果を端末装置１０へ送信する。

【0101】

提供部１３５は、決定部１３３により決定された情報を提供する。提供部１３５は、決定した広告候補文を端末装置１０へ送信する。提供部１３５は、生成部１３４により生成された情報を提供する。提供部１３５は、決定した広告をユーザ端末２０へ送信する。

【0102】

提供部１３５は、学習モデルにより生成された第２広告文に基づく提案広告文を、情報提供先となる広告主である対象広告主が利用する端末装置１０に提供する。提供部１３５は、学習モデルにより生成された第２広告文を提案広告文として、対象広告主が利用する端末装置１０に提供する。提供部１３５は、決定部１３３により決定された広告候補文に基づく提案広告文を対象広告主が利用する端末装置１０に提供する。

【0103】

〔３．処理手順〕
次に、図８を用いて、実施形態に係る情報処理装置１００が実行する情報処理の手順について説明する。図８は、情報処理装置が実行する情報処理の流れの一例を示すフローチャートである。

【0104】

図８では、情報処理装置１００は、所定の条件を満たす広告文である第１広告文に関する情報を取得する（ステップＳ１０１）。例えば、情報処理装置１００は、ＣＴＲが所定値以上である広告文である第１広告文を取得する。

【0105】

また、情報処理装置１００は、第１広告文に関する情報に基づいて、文字情報を入力情報として入力とし、入力情報に対応する文を第２広告文として出力する学習モデルを学習する（ステップＳ１０２）。例えば、情報処理装置１００は、ＣＴＲが所定値以上である広告文である第１広告文に基づいて、第１広告文を入力情報として入力とし、第１広告文に対応する文を第２広告文として出力するモデルＭ１を学習する。

【0106】

〔４．効果〕
上述してきたように、実施形態に係る情報処理装置１００は、取得部１３１と、学習部１３２とを有する。取得部１３１は、所定の条件を満たす広告文である第１広告文に関する情報を取得する。学習部１３２は、取得部１３１により取得された第１広告文に関する情報に基づいて、文字情報を入力情報として入力とし、入力情報に対応する文を第２広告文として出力する学習モデルを学習する。

【0107】

このように、実施形態に係る情報処理装置１００は、所定の条件を満たす広告文である第１広告文に関する情報に基づいて、文字情報を入力情報として入力とし、入力情報に対応する文を第２広告文として出力する学習モデルを学習することにより、適切な広告文の生成を可能にすることができる。

【0108】

また、実施形態に係る情報処理装置１００において、取得部１３１は、広告指標が所定の条件を満たす第１広告文に関する情報を取得する。

【0109】

このように、実施形態に係る情報処理装置１００は、広告指標が所定の条件を満たす第１広告文に関する情報に基づいて学習することにより、適切な広告文の生成を可能にすることができる。

【0110】

また、実施形態に係る情報処理装置１００において、取得部１３１は、クリックに関する広告指標が所定の条件を満たす第１広告文に関する情報を取得する。

【0111】

このように、実施形態に係る情報処理装置１００は、クリックに関する広告指標が所定の条件を満たす第１広告文に関する情報に基づいて学習することにより、適切な広告文の生成を可能にすることができる。

【0112】

また、実施形態に係る情報処理装置１００において、取得部１３１は、第１広告文がユーザにクリックされた回数に関する広告指標が所定の条件を満たす第１広告文に関する情報を取得する。

【0113】

このように、実施形態に係る情報処理装置１００は、第１広告文がユーザにクリックされた回数に関する広告指標が所定の条件を満たす第１広告文に関する情報に基づいて学習することにより、適切な広告文の生成を可能にすることができる。

【0114】

また、実施形態に係る情報処理装置１００において、取得部１３１は、クリック率が所定の閾値以上である第１広告文に関する情報を取得する。

【0115】

このように、実施形態に係る情報処理装置１００は、クリック率が所定の閾値以上である第１広告文に関する情報に基づいて学習することにより、適切な広告文の生成を可能にすることができる。

【0116】

また、実施形態に係る情報処理装置１００において、取得部１３１は、コンバージョンに関する広告指標が所定の条件を満たす第１広告文に関する情報を取得する。

【0117】

このように、実施形態に係る情報処理装置１００は、コンバージョンに関する広告指標が所定の条件を満たす第１広告文に関する情報に基づいて学習することにより、適切な広告文の生成を可能にすることができる。

【0118】

また、実施形態に係る情報処理装置１００において、取得部１３１は、第１広告文によりコンバージョンに至った回数に関する広告指標が所定の条件を満たす第１広告文に関する情報を取得する。

【0119】

このように、実施形態に係る情報処理装置１００は、第１広告文によりコンバージョンに至った回数に関する広告指標が所定の条件を満たす第１広告文に関する情報に基づいて学習することにより、適切な広告文の生成を可能にすることができる。

【0120】

また、実施形態に係る情報処理装置１００において、取得部１３１は、コンバージョン率が所定の閾値以上である第１広告文に関する情報を取得する。

【0121】

このように、実施形態に係る情報処理装置１００は、コンバージョン率が所定の閾値以上である第１広告文に関する情報に基づいて学習することにより、適切な広告文の生成を可能にすることができる。

【0122】

また、実施形態に係る情報処理装置１００において、学習部１３２は、第１広告文に含まれる文字列である入力情報を入力とし、入力情報に対応する第２広告文を出力する学習モデルを学習する。

【0123】

このように、実施形態に係る情報処理装置１００は、第１広告文に含まれる文字列である入力情報を入力とし、入力情報に対応する第２広告文を出力する学習モデルを学習することにより、適切な広告文の生成を可能にすることができる。

【0124】

また、実施形態に係る情報処理装置１００において、学習部１３２は、第１広告文である入力情報を入力とし、入力情報に対応する第２広告文を出力する学習モデルを学習する。

【0125】

このように、実施形態に係る情報処理装置１００は、第１広告文である入力情報を入力とし、入力情報に対応する第２広告文を出力する学習モデルを学習することにより、適切な広告文の生成を可能にすることができる。

【0126】

また、実施形態に係る情報処理装置１００において、学習部１３２は、第１広告文のうち一部の文字列である入力情報を入力とし、入力情報に対応する第２広告文を出力する学習モデルを学習する。

【0127】

このように、実施形態に係る情報処理装置１００は、第１広告文のうち一部の文字列である入力情報を入力とし、入力情報に対応する第２広告文を出力する学習モデルを学習することにより、適切な広告文の生成を可能にすることができる。

【0128】

また、実施形態に係る情報処理装置１００において、学習部１３２は、第１広告文の特徴を学習した学習モデルを生成する。

【0129】

このように、実施形態に係る情報処理装置１００は、第１広告文の特徴を学習した学習モデルを生成することにより、適切な広告文の生成を可能にすることができる。

【0130】

また、実施形態に係る情報処理装置１００において、学習部１３２は、入力情報と第２広告文との関連性の特徴を学習した学習モデルを生成する。

【0131】

このように、実施形態に係る情報処理装置１００は、入力情報と第２広告文との関連性の特徴を学習した学習モデルを生成することにより、適切な広告文の生成を可能にすることができる。

【0132】

また、実施形態に係る情報処理装置１００は、提供部１３５を有する。提供部１３５は、学習モデルにより生成された第２広告文に基づく提案広告文を、情報提供先となる広告主である対象広告主が利用する端末装置１０に提供する。

【0133】

このように、実施形態に係る情報処理装置１００は、学習モデルにより生成された第２広告文に基づく提案広告文を、情報提供先となる広告主である対象広告主が利用する端末装置１０に提供することにより、適切に学習された合成情報を広告主に提供することができる。

【0134】

また、実施形態に係る情報処理装置１００において、提供部１３５は、学習モデルにより生成された第２広告文を提案広告文として、対象広告主が利用する端末装置１０に提供する。

【0135】

このように、実施形態に係る情報処理装置１００は、学習モデルにより生成された第２広告文を提案広告文として、対象広告主が利用する端末装置１０に提供することにより、適切な広告文を広告主に提案することができる。

【0136】

また、実施形態に係る情報処理装置１００は、決定部１３３を有する。決定部１３３は、学習モデルにより生成された第２広告文から、広告に利用される候補となる広告候補文を決定する。提供部１３５は、決定部１３３により決定された広告候補文に基づく提案広告文を対象広告主が利用する端末装置１０に提供する。

【0137】

このように、実施形態に係る情報処理装置１００は、学習モデルにより生成された第２広告文から、広告に利用される候補となる広告候補文を決定し、決定した広告候補文に基づく提案広告文を対象広告主が利用する端末装置１０に提供することにより、適切な広告文を広告主に提案することができる。

【0138】

また、実施形態に係る情報処理装置１００において、決定部１３３は、広告指標が所定の条件を満たす第２広告文を広告候補文に決定する。

【0139】

このように、実施形態に係る情報処理装置１００は、広告指標が所定の条件を満たす第２広告文を広告候補文に決定することにより、適切な広告文を広告候補文に決定することができる。

【0140】

また、実施形態に係る情報処理装置１００において、決定部１３３は、言語らしさの条件を満たす第２広告文を広告候補文に決定する。

【0141】

このように、実施形態に係る情報処理装置１００は、言語らしさの条件を満たす第２広告文を広告候補文に決定することにより、適切な広告文を広告候補文に決定することができる。

【0142】

〔５．ハードウェア構成〕
上述してきた実施形態に係る情報処理装置１００は、例えば図９に示すような構成のコンピュータ１０００によって実現される。図９は、情報処理装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。コンピュータ１０００は、ＣＰＵ１１００、ＲＡＭ１２００、ＲＯＭ１３００、ＨＤＤ（Hard Disk Drive）１４００、通信インターフェイス（Ｉ／Ｆ）１５００、入出力インターフェイス（Ｉ／Ｆ）１６００、及びメディアインターフェイス（Ｉ／Ｆ）１７００を有する。

【0143】

ＣＰＵ１１００は、ＲＯＭ１３００またはＨＤＤ１４００に格納されたプログラムに基づいて動作し、各部の制御を行う。ＲＯＭ１３００は、コンピュータ１０００の起動時にＣＰＵ１１００によって実行されるブートプログラムや、コンピュータ１０００のハードウェアに依存するプログラム等を格納する。

【0144】

ＨＤＤ１４００は、ＣＰＵ１１００によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を格納する。通信インターフェイス１５００は、ネットワークＮを介して他の機器からデータを受信してＣＰＵ１１００へ送り、ＣＰＵ１１００が生成したデータをネットワークＮを介して他の機器へ送信する。

【0145】

ＣＰＵ１１００は、入出力インターフェイス１６００を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置を制御する。ＣＰＵ１１００は、入出力インターフェイス１６００を介して、入力装置からデータを取得する。また、ＣＰＵ１１００は、生成したデータを入出力インターフェイス１６００を介して出力装置へ出力する。

【0146】

メディアインターフェイス１７００は、記録媒体１８００に格納されたプログラムまたはデータを読み取り、ＲＡＭ１２００を介してＣＰＵ１１００に提供する。ＣＰＵ１１００は、かかるプログラムを、メディアインターフェイス１７００を介して記録媒体１８００からＲＡＭ１２００上にロードし、ロードしたプログラムを実行する。記録媒体１８００は、例えばＤＶＤ（Digital Versatile Disc）、ＰＤ（Phase change rewritable Disk）等の光学記録媒体、ＭＯ（Magneto-Optical disk）等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。

【0147】

例えば、コンピュータ１０００が実施形態に係る情報処理装置１００として機能する場合、コンピュータ１０００のＣＰＵ１１００は、ＲＡＭ１２００上にロードされたプログラムを実行することにより、制御部１３０の機能を実現する。コンピュータ１０００のＣＰＵ１１００は、これらのプログラムを記録媒体１８００から読み取って実行するが、他の例として、他の装置からネットワークＮを介してこれらのプログラムを取得してもよい。

【0148】

以上、本願の実施形態及び変形例のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の行に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。

【0149】

〔６．その他〕
また、上記実施形態及び変形例において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。

【0150】

また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。

【0151】

また、上述してきた実施形態及び変形例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。

【0152】

また、上述してきた「部（section、module、unit）」は、「手段」や「回路」などに読み替えることができる。例えば、取得部は、取得手段や取得回路に読み替えることができる。

【符号の説明】

【0153】

１ 情報処理システム
１００ 情報処理装置
１２１ 広告情報記憶部
１２２ モデル情報記憶部
１２３ 生成情報記憶部
１３０ 制御部
１３１ 取得部
１３２ 学習部
１３３ 決定部
１３４ 生成部
１３５ 提供部
１０ 端末装置
２０ ユーザ端末
５０ 情報提供装置
Ｎ ネットワーク

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】