(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024074039
(43)【公開日】2024-05-30
(54)【発明の名称】情報処理プログラム、端末装置および情報処理方法
(51)【国際特許分類】
G06Q 30/0251 20230101AFI20240523BHJP
【FI】
G06Q30/0251
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2022185088
(22)【出願日】2022-11-18
(71)【出願人】
【識別番号】500257300
【氏名又は名称】LINEヤフー株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】坪内 孝太
(72)【発明者】
【氏名】友成 愛
(72)【発明者】
【氏名】佐藤 潤一
(72)【発明者】
【氏名】宮崎 崇史
(72)【発明者】
【氏名】大島 みゆき
(72)【発明者】
【氏名】二宮 一浩
【テーマコード(参考)】
5L030
5L049
【Fターム(参考)】
5L030BB08
5L049BB08
(57)【要約】
【課題】利用者に対して適切な広告対象の広告を提供すること。
【解決手段】本願に係る情報処理プログラムは、端末装置が有するコンピュータに、端末装置を用いて撮影された画像から撮影対象を特定する特定手順と、特定手順によって特定された撮影対象と所定の関係性を有する広告対象を選択する選択手順と、指定された対象に関する広告を生成するよう学習された広告生成モデルを用いて、選択手順によって選択された広告対象に関する広告を生成する生成手順と、を実行させる。
【選択図】
図2
【特許請求の範囲】
【請求項1】
端末装置が有するコンピュータに、
前記端末装置を用いて撮影された画像から撮影対象を特定する特定手順と、
前記特定手順によって特定された前記撮影対象と所定の関係性を有する広告対象を選択する選択手順と、
指定された対象に関する広告を生成するよう学習された広告生成モデルを用いて、前記選択手順によって選択された前記広告対象に関する広告を生成する生成手順と
を実行させることを特徴とする情報処理プログラム。
【請求項2】
前記選択手順は、
前記撮影対象と、所定の関係性を有する前記広告対象とのそれぞれの特徴を学習した関係性モデルを用いて、前記撮影対象から前記広告対象を選択すること
を特徴とする請求項1に記載の情報処理プログラム。
【請求項3】
前記選択手順は、
同一の利用者によって撮影された画像に写る複数の対象物のうち、いずれか一つの前記対象物が入力された場合に、他の前記対象物が出力されるように学習された前記関係性モデルを用いて、前記撮影対象から前記広告対象を選択すること
を特徴とする請求項2に記載の情報処理プログラム。
【請求項4】
前記選択手順は、
対象物と、当該対象物を購入した利用者の購入履歴との関係性を学習した前記関係性モデルを用いて、前記撮影対象から前記広告対象を選択すること
を特徴とする請求項2に記載の情報処理プログラム。
【請求項5】
前記選択手順は、
前記撮影対象と所定の関係性を有する複数の前記広告対象のうち、前記画像に写っていない対象物を前記広告対象として選択すること
を特徴とする請求項1に記載の情報処理プログラム。
【請求項6】
前記特定手順は、
室内が撮影された画像から前記撮影対象を特定し、
前記選択手順は、
前記撮影対象に基づいて、前記室内にないものを前記広告対象として選択すること
を特徴とする請求項5に記載の情報処理プログラム。
【請求項7】
前記特定手順は、
撮像時刻が異なる複数の前記画像からそれぞれ前記撮影対象を特定し、
前記選択手順は、
前記撮像時刻が異なる複数の前記画像から特定されたそれぞれの前記撮影対象に基づいて、前記広告対象を選択すること
を特徴とする請求項1に記載の情報処理プログラム。
【請求項8】
前記選択手順は、
前記撮影対象に関係する新製品を前記広告対象として選択すること
を特徴とする請求項1に記載の情報処理プログラム。
【請求項9】
端末装置を用いて撮影された画像から撮影対象を特定する特定部と、
前記特定部によって特定された前記撮影対象と所定の関係性を有する広告対象を選択する選択部と、
指定された対象に関する広告を生成するよう学習された広告生成モデルを用いて、前記選択部によって選択された前記広告対象に関する広告を生成する生成部と
を備えることを特徴とする端末装置。
【請求項10】
端末装置が有するコンピュータが実行する情報処理方法であって、
前記端末装置を用いて撮影された画像から撮影対象を特定する特定工程と、
前記特定工程によって特定された前記撮影対象と所定の関係性を有する広告対象を選択する選択工程と、
指定された対象に関する広告を生成するよう学習された広告生成モデルを用いて、前記選択工程によって選択された前記広告対象に関する広告を生成する生成工程と
を含むことを特徴とする情報処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理プログラム、端末装置および情報処理方法に関する。
【背景技術】
【0002】
従来、インターネットを介した広告配信が盛んに行われている。広告配信に関する技術として、サーバに蓄積された利用者のログ情報から利用者にあわせた広告を配信する技術が開示されている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来技術では、利用者に対して適切な広告を提供することが困難になるという課題がある。近年では、個人情報を保護する観点から、利用者端末からサーバへ提供される利用者のログ情報に制限が設けられつつあり、利用者に対して価値が高い広告がどのような広告かをサーバ側で解析するのは困難になる。
【0005】
本発明は、上記に鑑みてなされたものであって、利用者に対して適切な広告対象の広告を提供することができる情報処理プログラム、端末装置および情報処理方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
上述した課題を解決し、目的を達成するために、本発明に係る情報処理プログラムは、端末装置が有するコンピュータに、前記端末装置を用いて撮影された画像から撮影対象を特定する特定手順と、前記特定手順によって特定された前記撮影対象と所定の関係性を有する広告対象を選択する選択手順と、指定された対象に関する広告を生成するよう学習された広告生成モデルを用いて、前記選択手順によって選択された前記広告対象に関する広告を生成する生成手順とを実行させる。
【発明の効果】
【0007】
本発明によれば、利用者に対して適切な広告対象の広告を提供することができる。
【図面の簡単な説明】
【0008】
【
図1】
図1は、実施形態に係る情報処理の一例を示す図である。
【
図2】
図2は、実施形態に係る広告対象の選択処理の概要を示す図である。
【
図3】
図3は、実施形態に係る情報提供装置の構成例を示すブロック図である。
【
図4】
図4は、実施形態に係る広告情報データベースの一例を示す図である。
【
図5】
図5は、実施形態に係る統計情報データベースの一例を示す図である。
【
図6】
図6は、実施形態に係る利用者端末の構成例を示すブロック図である。
【
図7】
図7は、実施形態に係るログ情報記憶部の一例を示す図である。
【
図8】
図8は、実施形態に係るカメラ画像記憶部の一例を示す図である。
【
図9】
図9は、実施形態に係る広告情報記憶部の一例を示す図である。
【
図10】
図10は、実施形態に係る情報提供装置が実行する処理手順の一例を示すフローチャートである。
【
図11】
図11は、実施形態に係る利用者端末が実行する処理手順の一例を示すフローチャートである。
【
図12】
図12は、実施形態に係る利用者端末の機能を実現するコンピュータの一例を示すハードウェア構成図である。
【発明を実施するための形態】
【0009】
以下に、本願に係る情報処理プログラム、端末装置および情報処理方法を実施するための形態(以下、「実施形態」と呼ぶ)について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る情報処理プログラム、端末装置および情報処理方法が限定されるものではない。また、各実施形態は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。
【0010】
〔1.情報処理の概要〕
図1は、実施形態に係る情報処理の一例を示す図であり、実施形態に係る情報処理プログラムは、
図1に示す利用者端末10によって実行される。
【0011】
図1に示す広告配信システムSは、情報提供装置1と、利用者端末10と、複数の広告主端末100とを備える。情報提供装置1は、複数の広告主端末100から受け付けた広告の配信依頼に基づいて各利用者端末10へ依頼された広告に関する広告情報を提供する。例えば、情報提供装置1は、クラウドやサーバ等によって実現される。
【0012】
また、
図1に示す利用者端末10は、利用者Uが保有する端末装置であり、例えば、スマートフォン等である。
図1に示すように、利用者端末10は、広告生成モデルと、広告評価モデルを有する。広告生成モデルは、指定された対象の広告を生成するよう学習が行われたモデルであり、例えば、画像生成AI等である。例えば、広告生成モデルは、入力されたテキスト情報等(例えば、コンテキスト)に応じたAI画像を生成する。また、広告評価モデルは、利用者Uによる広告の評価を推定するように学習が行われたモデルである。
【0013】
利用者端末10は、広告生成および広告評価に関する双方の処理を利用者端末10内で繰り返し実行する。これにより、利用者端末10は、利用者Uに対して提供する広告の最適化を図ることができる。
【0014】
例えば、広告生成モデルと、広告評価モデルは、敵対的生成ネットワーク(GAN;Generative Adversarial Networks)によって構成される。例えば、広告評価モデルの評価結果に基づいて、広告生成モデルを修正し、広告生成モデルの生成結果に基づいて、広告評価モデルが修正される。
【0015】
例えば、広告評価モデルの評価結果がより良くなるように広告生成モデルを修正し、広告生成モデルが生成したコンテンツがより厳しい評価になるように広告評価モデルを修正する。例えば、この場合、利用者Uが良いと評価した広告に対し、前回よりも低いスコアが付与されるように、より利用者Uの好み等を強く反映した評価になるように、広告評価モデルは修正される。このように、利用者端末10は、オンデバイス学習を行うことで利用者Uに対して最適化された広告の提供が可能となる。
【0016】
例えば、広告評価モデルは、広告の提供タイミングをあわせて学習するようにしてもよい。例えば、同一の広告を複数のタイミングで提供し、利用者Uが良いと評価したタイミングと、利用者Uが悪いと評価したタイミングを学習する。また、広告評価モデルは、例えば、広告生成モデルによって生成された各広告のスコアを随時算出し、算出したスコアが閾値を超えたタイミングで対応する広告を利用者へ提供するようにしてもよいし、あるいは、各広告に対して提供条件を予め設定しておき、当該提供条件を満たしたタイミングで対応する広告を提供するようにしてもよい。
【0017】
広告主端末100は、各広告主の端末装置である。例えば、広告主は、広告主端末100をそれぞれ操作し、情報提供装置1へ広告の配信依頼を行う(ステップS1)。
【0018】
ここで、配信依頼は、広告対象に関する情報、広告の素材となる素材情報、広告の傾向に関する傾向情報等を含む。素材情報は、企業名、商品名、ロゴ画像、商品画像などを含み、傾向情報は、広告のイメージや雰囲気に関する情報等を含む。また、後述するように、利用者端末10は、カメラ画像等を用いて広告を生成することもでき、この場合の配信依頼には、広告対象と合成する画像の傾向を示す傾向情報が含まれる。
【0019】
情報提供装置1は、各広告主から取得した配信依頼に基づき、利用者端末10に対して広告情報を提供する(ステップS2)。広告情報は、例えば、素材情報、広告の傾向情報などに関する情報が含まれる。利用者端末10は、情報提供装置1から受け取った広告情報と、利用者端末10が保有する利用者情報とに基づいて、広告生成モデルを用いて広告を生成する(ステップS3)。
【0020】
つづいて、利用者端末10は、生成した広告について広告評価モデルを用いて評価する(ステップS4)。例えば、広告評価モデルは、利用者端末10内に保持される各種利用者情報を用いて利用者Uを傾向やタイプ、広告の好み、効果の傾向などといった利用者Uの人物モデルを学習したモデルであり、利用者Uに対して訴求効果が高いと推定される広告のスコアが高くなるように学習されたモデルである。
【0021】
また、広告評価モデルは、例えば、広告提供前後の利用者情報の関係性に基づいて、利用者Uへ提供した広告ADを評価することもできる。なお、広告評価モデルは、例えば、利用者端末10の周囲環境に応じてスコアを更新することもできる。例えば、広告評価モデルは、周囲の気温が高い場合に、広告対象となるビールの広告に関するスコアを相対的に高い値へ更新する。
【0022】
そして、利用者端末10は、例えば、広告に関するスコアが所定値を超えたタイミングで、利用者Uに対して広告ADを提供する(ステップS5)。例えば、
図1に示すように、広告ADは、広告生成モデルによって生成されるAI画像GやテキストTおよび広告主から依頼を受けた素材画像Pが含まれる。なお、広告ADは、画像形式の広告であってもよく、動画形式の広告であってもよい。また、広告ADは、音楽が含まれるようにしてもよい。
【0023】
また、利用者端末10は、利用者端末10で撮影したカメラ画像を含む広告ADを生成し、利用者Uへ提供することも可能である。この場合、各利用者端末10にはそれぞれ異なるカメラ画像が保持されるので、各利用者端末10ではそれぞれ異なるカメラ画像を用いて広告ADを提供することができる。
【0024】
特に、カメラ画像を利用した広告ADを提供する場合には、利用者Uの過去の体験や思い出等を絡めた広告ADを提供することができるので、利用者Uにとってより身近な広告ADを提供することができる。
【0025】
その後、利用者端末10は、広告AD提供後に取得した利用者Uの行動履歴などのログ情報を用いて広告ADのパフォーマンス計測を行う(ステップS6)。利用者端末10は、広告ADの提供前後で広告対象に対する利用者Uの行動の変化に応じて広告ADのパフォーマンスを計測する。
【0026】
その後、利用者端末10は、情報提供装置1が広告主に対し費用請求等に必要となる統計情報を情報提供装置1へ提供する(ステップS7)。例えば、統計情報は、広告ADの特徴量に関する情報、パフォーマンス計測の結果など最低限の情報であり、利用者Uの個人を特定するようなセンシティブな情報を含まない。
【0027】
つまり、利用者端末10は、利用者Uのログ情報など、センシティブな情報については情報提供装置1へ提供しない。これにより、利用者Uの個人情報を保護することができる。なお、広告ADの特徴量は、広告ADの特徴量を示す特徴ベクトルであるが、例えば、広告ADの特徴を示すテキストであってもよい。
【0028】
情報提供装置1は、各利用者端末10から取得した統計情報を集計することで、レポートを生成し(ステップS8)、各広告主端末100へ生成したレポートを提供する(ステップS9)。
【0029】
例えば、レポートは、各広告ADの特徴量の分布やその重心、各広告ADのパフォーマンスに関するスコアの分布などに関する情報が含まれる。これにより、広告主は、各利用者端末10で提供された広告ADや、広告ADのパフォーマンスに関する状況を把握することができる。
【0030】
次に、
図2を用いて、実施形態に係る広告対象の選択処理の概要について説明する。
図2は、実施形態に係る広告対象の選択処理の概要について説明する。ところで、上述の広告配信システムSでは、様々な広告が各利用者端末10で自動的に生成されることになる。
【0031】
この際、例えば、利用者端末10には、利用者Uにとって訴求効果の高い、すなわち、利用者Uに望まれる広告対象を選択したうえで、当該広告対象に関する広告を生成することが望まれる。
【0032】
そこで、実施形態に係る利用者端末10は、利用者端末10で撮影されるカメラ画像から撮影対象を特定したうえで、当該撮影対象に応じた広告対象を選択する。具体的には、
図2に示すように、利用者端末10は、特定モデルおよび関係性モデルを用いて、広告対象を選択する。
【0033】
特定モデルは、利用者端末10で撮影されたカメラ画像から撮影対象を特定するように学習されたモデルであり、関係性モデルは、関係性が高い対象同士の特徴を学習したモデルである。なお、各利用者端末10は、情報提供装置1から特定モデルおよび関係性モデルをインストールすることができる。
【0034】
例えば、利用者端末10は、特定モデルを用いて、利用者端末10で撮影されたカメラ画像から撮影対象を特定する(ステップS11)。撮影対象は、カメラ画像に写る対象物であり、1つのカメラ画像から特定する撮影対象は、1つであってもよく、2以上であってもよい。また、ここでのカメラ画像は、利用者Uによる操作によって撮影されたカメラ画像であってもよく、利用者端末10がバックグランドで自動的に撮影したカメラ画像であってもよい。また、利用者端末10は、複数のカメラ画像からそれぞれ撮影対象を特定するようにしてもよい。
【0035】
例えば、利用者端末10は、特定モデルを用いて、室内が撮影された複数のカメラ画像から室内の間取りや、室内にある電化製品、インテリア等を特定するようにしてもよい。すなわち、利用者端末10は、利用者Uの空間全体(例えば、住居)を把握するように撮影対象を特定するようにしてもよい。
【0036】
つづいて、利用者端末10は、関係性モデルを用いて、特定した撮影対象と所定の関係性にある広告対象を選択する(ステップS12)。一例として、カメラ画像から特定された撮影対象がペットであり、かつ、ペット用品がカメラ画像に写っていない場合、当該ペット用品を広告対象として選択する。
【0037】
その後、利用者端末10は、広告生成モデルを用いて、ステップS12にて選択した広告対象に関する広告を生成することになる(ステップS13)。このように、利用者端末10は、特定モデルおよび関係性モデルを用いて、広告対象を選択し、選択した広告対象の広告を生成する。
【0038】
つまり、実施形態に係る利用者端末10では、利用者端末10で撮影されたカメラ画像から利用者Uのニーズにあった広告対象を選択する。これにより、実施形態に係る利用者端末10では、利用者に対して適切な広告を提供することができる。
【0039】
〔2.情報提供装置の構成例〕
次に、
図3を用いて、実施形態に係る情報提供装置1の構成例について説明する。
図2は、実施形態に係る情報提供装置1の構成例を示すブロック図である。
図2に示すように、実施形態に係る情報提供装置1は、通信部2、記憶部3および制御部4を備える。
【0040】
通信部2は、例えば、NIC(Network Interface Card)等によって実現される。そして、通信部2は、4G(Generation)、5G、LTE(Long Term Evolution)、WiFi(登録商標)若しくは無線LAN(Local Area Network)等といった各種の無線通信網若しくは各種の有線通信網といったネットワークを介して、外部装置との間で情報の送受信を行う。
【0041】
記憶部3は、例えば、RAM、フラッシュメモリ等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。また、記憶部3は、広告情報データベース31、統計情報データベース32、モデルデータベース33を有する。
【0042】
広告情報データベース31は、広告情報を記憶するデータベースである。
図4は、実施形態に係る広告情報データベース31の一例を示す図である。
図4に示すように、広告情報データベース31は、「広告主ID」、「広告対象」、「素材情報」、「傾向情報」、「ターゲット情報」などといった項目の情報を互いに対応付けて記憶する。
【0043】
「広告主ID」は、広告主を識別するための識別子である。「広告対象」は、広告の対象となる店舗、ブランド、イベント、商品またはサービスである。「素材情報」は、広告の素材に関する情報である。例えば、素材情報は、商品画像、広告主のロゴ画像やキャラクター画像、広告に起用された著名人の画像、広告に使用する楽曲などを含む。
【0044】
「傾向情報」は、広告主が指定した広告の傾向に関する情報である。例えば、傾向情報は、広告主が広告に求めるイメージや、広告主のブランドイメージなどを含む。「ターゲット情報」は、広告主が指定した広告のターゲットとなる利用者層に関する情報である。
【0045】
図3の説明に戻り、統計情報データベース32について説明する。統計情報データベース32は、統計情報を記憶するデータベースである。
図5は、実施形態に係る統計情報データベース32の一例を示す図である。
【0046】
図5に示すように、実施形態に係る統計情報データベース32は、「広告対象」、「提供回数」、「KPI(Key Performance Indicator)」、「広告特徴量」などといった項目の情報を互いに対応付けて記憶する。
【0047】
「広告対象」は、
図4に示す「広告対象」と同様に、広告の対象となる商品またサービスである。「提供回数」は、対応する広告対象に関する広告が利用者端末10で提供された回数である。
【0048】
「KPI」は、広告ADによる対応する広告対象のパフォーマンスを示す指標であり、例えば、各利用者端末10で提供された広告ADのパフォーマンスの統計値である。「広告特徴量」は、各利用者端末10で提供された広告ADの特徴量の統計値である。
【0049】
図3の説明に戻り、モデルデータベース33について説明する。モデルデータベース33は、各利用者端末10へ提供する各モデルを格納するデータベースである。例えば、モデルデータベース33は、広告生成モデル、広告評価モデル、特定モデル、関係性モデルなど、各利用者端末10で広告を生成する際に必要となるモデルを格納する。
【0050】
また、モデルデータベース33は、広告主から依頼された配信依頼の依頼内容からKPIや、各利用者端末10で生成される広告を推定する推定モデルを格納する。例えば、推定モデルは、仮想的に設定した複数のペルソナを用いて、配信依頼の依頼内容に基づいてKPIを推定するシミュレーションモデルである。また、推定モデルは、依頼内容と、実際に利用者端末10で提供された広告ADの特徴量の関係性を学習したモデルであってもよい。この場合、推定モデルは、依頼内容から各利用者端末10で提供される広告ADを推定するシミュレーションモデルとなる。
【0051】
次に、制御部4について説明する。制御部4は、例えば、コントローラ(controller)であり、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、情報提供装置1内部の記憶装置に記憶されている各種プログラムがRAMを作業領域として実行されることにより実現される。
【0052】
図3に示すように、制御部4は、受付部41と、取得部42と、学習部43と、生成部44と、提供部45とを有する。
【0053】
受付部41は、広告主端末100から広告に関する配信依頼を受け付ける。例えば、受付部41は、広告主端末100から広告に関する配信依頼に関する情報を広告情報データベース31に登録する。
【0054】
取得部42は、各利用者端末10から広告ADに関する統計情報を取得し、統計情報データベース32に登録する。統計情報は、広告ADの広告対象に関する情報、広告対象毎の提供回数に関する情報、各広告ADの特徴に関する情報、各広告の効果に関する情報等を含む。
【0055】
学習部43は、利用者端末10に提供する各モデルの学習を行う。例えば、学習部43、特定モデル、関係性モデル、広告生成モデル、広告評価モデルについて学習を行う。例えば、学習部43は、撮影対象がラベル付けされたカメラ画像を正解データとして学習を行うことで、特定モデルの学習を行う。
【0056】
また、学習部43は、関係性が高い対象同士の特徴を学習した関係性モデルの学習を行う。例えば、関係性モデルは、同一の利用者Uによって撮影された2つの対象のうち、いずれか一方を示す情報が入力されると、他方の情報を出力するように学習されたモデルである。
【0057】
一例として、学習部43は、関係性モデルに対して野球のグローブを入力すると、野球のボールが出力されることになり、ボールを入力すると、グローブが出力されるように関係性モデルの学習を行うことになる。
【0058】
なお、関係性モデルは、例えば、対象物と、当該対象物を購入した利用者の購入履歴との関係性を学習したモデルであってもよい。例えば、関係性モデルは、対象物と、利用者Uが対象物を購入後した商品、あるいは、対象物と同時に購入した商品との関係性を学習したモデルであってもよい。つまり、この場合、関係性モデルに対して対象物に関する情報を入力すると、利用者が購入する可能性の高い商品に関する情報が出力されることになる。
【0059】
また、例えば、関係性モデルは、入力される対象物と出力する対象物とが同一種別であってもよく、異なる種別であってもよい。例えば、入力される対象物と出力する対象物が同一種別である場合の例として、対象物と関係する新製品に関する情報を出力し、入力される対象物と出力する対象物と異なる種別である場合の例として、観光地に対して当該観光地の名産品等を出力する。
【0060】
また、関係性モデルは、複数の対象物に関する情報を入力した際に、1または複数の対象物に関する情報を出力するモデルであってもよい。一例として、関係性モデルは、バットとボールに関する情報が入力された場合に、グローブやスパイクに関する情報を出力するように学習されたモデルであってもよい。また、例えば、関係性モデルは、室内に特化して学習されたモデルであってもよい。この場合、例えば、関係性モデルは、室内にある家具、家電、インテリア等に関する情報が入力されると、その部屋に足りないものが出力されるモデルであってもよい。
【0061】
生成部44は、各広告主から依頼された広告依頼に対して、各利用者端末10で生成される広告ADを生成する。例えば、生成部44は、広告生成モデルに対し、広告依頼によって指定される広告素材および利用者情報を入力することで、広告ADを生成する。この際、生成部44は、利用者情報に関する各種パラメータを適宜変更したうえで、広告ADを利用者属性ごとの広告ADを生成する。
【0062】
生成部44によって生成された広告ADは、提供部45を介して、広告主端末100へ提供される。これにより、広告主は、どのような広告ADが各利用者端末10で提供されるかを予め把握することが可能となる。
【0063】
また、生成部44は、広告主に対して広告ADの提供結果に関するレポート等を生成する。例えば、生成部44は、統計情報データベース32に格納された各種統計情報に基づいて、各広告主宛のレポートを生成する。
【0064】
例えば、生成部44は、広告主毎に広告ADの提供回数、KPI、広告特徴量などに関する情報を含むレポートを生成する。生成部44によって生成されたレポートは、提供部45を介して対応する広告主端末100へ提供される。
【0065】
提供部45は、各利用者端末10や広告主端末100に対し各種情報を提供する。例えば、提供部45は、利用者端末10に対して各モデルを提供し、その後、広告主による依頼に応じて広告情報を提供する。この際、提供部45は、すべての利用者端末10に対し共通の広告情報を提供するようにしてもよく、利用者端末10それぞれで異なる広告情報を提供するようにしてもよい。例えば、広告対象が酒類である場合、提供部45は、成人を超えた利用者Uの利用者端末10に対し対応する広告情報を提供する。なお、広告対象の取捨選択については、利用者端末10側で行うようにしてもよい。
【0066】
また、提供部45は、広告主端末100に対して生成部44によって生成された各種情報を提供する。例えば、提供部45は、広告主による配信依頼時においては、利用者属性毎の広告ADに関する情報を提供する。
【0067】
また、提供部45は、利用者端末10によって広告ADの提供後においては、生成部44によって生成されたレポートを広告主端末100に対して提供する。これにより、広告主は、事後的に広告ADの効果や、広告ADを把握することができる。
【0068】
〔3.利用者端末の構成例〕
次に、
図6を用いて、利用者端末10の構成例について説明する。
図6は、実施形態に係る利用者端末10の構成例を示すブロック図である。
図6に示すように、実施形態に係る利用者端末10は、通信部110、記憶部120、制御部130を備える。また、利用者端末10は、表示部111、操作部112、カメラ113、スピーカ114、センサ群115を有する。
【0069】
通信部110は、例えば、NIC(Network Interface Card)等によって実現される。そして、通信部110は、4G(Generation)、5G、LTE(Long Term Evolution)、WiFi(登録商標)若しくは無線LAN(Local Area Network)等といった各種の無線通信網若しくは各種の有線通信網といったネットワークを介して、外部装置との間で情報の送受信を行う。
【0070】
表示部111は、制御部130から入力される画像あるいは映像を表示する。操作部112は、利用者Uから各種操作を受け付ける。表示部111および操作部112は、例えば、タッチパネルディスプレイによって実現される。
【0071】
カメラ113は、利用者端末10に搭載されたカメラである。なお、カメラ113は、例えば、画面の外側を撮影するアウトカメラおよび画面の内側を撮影するインカメラが含まれる。
【0072】
スピーカ114は、制御部130から入力される音声を出力する。センサ群115は、利用者端末10に搭載された各種センサを含む。例えば、センサ群には、照度センサ、気圧センサ、温度センサ、歩数センサ、Gセンサ、集音センサ、Lidar等が含まれる。なお、利用者端末10は、例えば、利用者Uが装着するウェラブルデバイスに搭載されたセンサと連携(ペアリング)し、利用者Uの心拍、体温、ストレス、睡眠状況などに関する各種情報を取得するようにしてもよい。
【0073】
記憶部120は、例えば、RAM、フラッシュメモリ等の半導体メモリ素子、または、ハードディスク、光ディスク等の記憶装置によって実現される。また、記憶部120は、ログ情報記憶部121、カメラ画像記憶部122、素材情報記憶部123、特定モデル記憶部124、関係性モデル記憶部125、広告生成モデル記憶部126、広告情報記憶部127および広告評価モデル記憶部128を有する。
【0074】
ログ情報記憶部121は、利用者Uの行動履歴等に関する各種ログ情報を記憶する。
図7は、実施形態に係るログ情報記憶部121の一例を示す図である。
図7に示すように、ログ情報記憶部121は、「日時」、「ログ情報」、「位置情報」、「環境情報」などといった項目の情報を互いに対応付けて記憶する。
【0075】
「日時」は、利用者Uがログ情報に対応する行動を行った日時である。「ログ情報」は、利用者Uの行動履歴である。ここでログ情報は、例えば、利用者Uによる利用者端末10の操作履歴や閲覧履歴等を含む。また、ログ情報は、例えば、利用者Uによる行動履歴であってもよい。利用者端末10は、カメラ113からカメラ画像を取得し、当該カメラ画像を解析することで利用者Uの行動履歴を推定することができる。また、ログ情報は、利用者端末10を用いたキャッシュレス決済(例えばQRコード(登録商標)決済)などの決済アプリの決済履歴を含むようにしてもよい。
【0076】
「位置情報」は、利用者Uが対応する行動を行った場所に関する情報である。「環境情報」は、利用者Uが対応する行動を行った際の周辺環境に関する情報である。例えば、環境情報は、気温、湿度、照度、気圧などといった情報、周囲で流れる音声(音楽や会話の内容)、家電製品(例えば、クーラーなどの空調機器)の動作状況に関する情報等を含む。なお、家電製品の動作状況に関する情報は、例えば、家電製品と連携するスマートスピーカから取得することができる。
【0077】
また、利用者端末10は、カメラ113で周囲を撮影することで、環境情報を推定するようにしてもよい。例えば、利用者端末10は、利用者Uの姿勢、衣服、持ち物、周囲の人物、周囲の物等を推定し、環境情報に含めるようにしてもよい。
【0078】
図6の説明に戻り、カメラ画像記憶部122について説明する。カメラ画像記憶部122は、カメラ113によって撮影されたカメラ画像を記憶する。
図8は、実施形態に係るカメラ画像記憶部122の一例を示す図である。
【0079】
図8に示すように、カメラ画像記憶部122は、「画像ID」、「撮影日時」、「撮影場所」、「画像情報」、「被写体情報」、「撮影環境」などといった項目の情報を互いに対応付けて記憶する。
【0080】
「画像ID」は、各カメラ画像を識別するための識別子である。「撮影日時」および「撮影場所」は、対応するカメラIDによって識別されるカメラ画像の撮影日時および撮影場所である。
【0081】
「画像情報」は、対応するカメラIDによって識別されるカメラ画像の画像情報である。「被写体情報」は、対応するカメラIDによって識別されるカメラ画像に写る被写体に関する情報である。なお、被写体情報は、撮影対象の一例に対応する。
【0082】
「撮影環境」は、対応するカメラIDによって識別されるカメラ画像が撮影された際の環境に関する情報である。例えば、「環境情報」は、カメラ画像を撮影時の周辺環境に関する情報であり、気温、湿度、照度、気圧などといった情報、周囲で流れる音声(音楽や会話の内容)などに関する情報等を含む。
【0083】
図6の説明に戻り、素材情報記憶部123について説明する。素材情報記憶部123は、素材情報を記憶する。例えば、素材情報は、利用者端末10で広告ADを生成する際に素材となる情報であり、各広告対象の商品画像、広告主のロゴ画像やキャラクター画像、広告に起用された著名人の画像、広告に使用する楽曲などを含む。
【0084】
特定モデル記憶部124は、特定モデルを記憶する。特定モデルは、利用者端末10で撮影されたカメラ画像から撮影対象を特定するためのモデルである。
【0085】
関係性モデル記憶部125は、関係性モデルを記憶する。関係性モデルは、撮影対象と、所定の関係性を有する広告対象とのそれぞれの特徴を学習したモデルである。例えば、関係性モデルは、同一の利用者によって撮影された画像に写る複数の対象物のうち、いずれか一つの対象物が入力された場合に、他の対象物が出力されるように学習されたモデル、対象物と、当該対象物を購入した利用者の購入履歴との関係性を学習したモデルである。
【0086】
広告生成モデル記憶部126は、広告生成モデルを記憶する。広告生成モデルは、利用者端末10が保持する利用者情報と、指定された対象の広告を生成するよう学習が行われたモデルである。なお、ここでの利用者情報は、例えば、ログ情報記憶部121に記憶されたログ情報に対応する。
【0087】
広告情報記憶部127は、広告情報を記憶する。広告情報は、広告生成モデルによって生成された広告に関する情報や、対応する広告の評価に関する情報を含む。
図9は、実施形態に係る広告情報記憶部127の一例を示す図である。
【0088】
図9に示すように、広告情報記憶部127は、「広告ID」、「広告対象」、「広告種別」、「広告情報」、「特徴量」、「提供条件」、「評価情報」などといった項目の情報を互いに対応付けて記憶する。
【0089】
「広告ID」は、各広告ADを識別するための識別子である。「広告対象」は、対応する広告IDによって識別される広告ADの広告対象である。「広告種別」は、対応する広告IDによって識別される広告ADの種別である。例えば、「広告種別」は、バナー広告、テキスト広告、検索連動広告などを含む。
【0090】
「広告情報」は、対応する広告IDによって識別される広告ADの広告情報(データ本体)である。「特徴量」は、対応する広告IDによって識別される広告ADの特徴量であり、例えば、特徴量に応じたベクトルや広告ADの特徴を示すテキストである。
【0091】
「提供条件」は、対応する広告IDによって識別される広告ADを利用者Uへ提供する条件である。「評価情報」は、対応する広告IDによって識別される広告ADに対する評価情報である。例えば、評価情報として、例えば、KPIなどの各種指標が用いられる。
【0092】
図6の説明に戻り、広告評価モデル記憶部128について説明する。広告評価モデル記憶部128は、広告評価モデルを記憶する。広告評価モデルは、広告生成モデルによって生成された広告ADを評価するモデルである。
【0093】
次に、制御部130について説明する。制御部130は、例えば、コントローラ(controller)であり、CPU(Central Processing Unit)やMPU(Micro Processing Unit)等によって、利用者端末10内部の記憶装置に記憶されている各種プログラムがRAMを作業領域として実行されることにより実現される。
【0094】
図6に示すように、制御部130は、受付部131と、特定部132と、選択部133と、処理部134と、提供部135とを有する。
【0095】
受付部131は、情報提供装置1から通信部110を介して各モデルに関する情報を取得する。各モデルは、特定モデル、関係性モデル、広告生成モデル、広告評価モデルを含む。
【0096】
また、受付部131は、情報提供装置1から通信部110を介して各広告情報を取得する。広告情報は、例えば、広告に使用する素材、広告のイメージ、広告を生成する際の生成条件(あるいは制約や禁止事項など)などに関する情報が含まれる。
【0097】
特定部132は、カメラ113によって撮影されるカメラ画像から撮影対象を特定する。例えば、特定部132は、カメラ画像を特定モデルに入力することで、カメラ画像に写る撮影対象を特定する。
【0098】
なお、特定部132は、たとえば、複数のカメラ画像から利用者Uの室内の状況を特定するようにしてもよい。例えば、室内の状況は、室内の家具、家電、インテリア、洋服、アクセサリー、書籍、ペット等を含む。なお、この場合、特定部132は、室内の状況を示すマップによって室内の状況を記憶するように、複数のカメラ画像から各対象物を特定するようにしてもよい。
【0099】
また、特定部132は、例えば、撮影時刻が異なるカメラ画像から対象物の遷移を特定するようにしてもよい。一例として、例えば、特定部132は、利用者が家具等の買換え、部屋のレイアウトの変更、衣類の衣替え等を過去のカメラ画像で特定した撮影対象から特定するようにしてもよい。
【0100】
選択部133は、特定部132によって特定された撮影対象と所定の関係性を有する広告対象を選択する。例えば、選択部133は、特定部132によって特定された撮影対象に関する情報を関係性モデルに入力することで、当該撮影対象と所定の関係性を有する広告対象を選択する。
【0101】
この際、選択部133は、関係性モデルの出力結果および素材情報記憶部123に登録された広告対象に基づいて広告対象を選択する。例えば、選択部133は、特定部132が撮影対象の特定を行ったカメラ画像に写っていない対象物を広告対象として選択する。この場合、選択部133は、利用者が持っていないものを広告対象として選択することになる。
【0102】
また、選択部133は、例えば、特定部132によって特定された室内の状況に基づいて、広告対象を選択するようにしてもよい。この場合、例えば、選択部133は、室内に足りないものを広告対象として選択する。また、選択部133は、撮影対象に関する新製品を広告対象として選択するようにしてもよい。
【0103】
処理部134は、広告生成モデルおよび広告評価モデルに関する各種処理を実行する。上述のように、広告生成モデルと、広告評価モデルは、敵対的生成ネットワーク(GAN;Generative Adversarial Networks)によって構成される。
【0104】
この際、処理部134は、広告生成モデルを用いて、選択部133によって選択された広告対象の広告ADが生成する。また、広告生成モデルは、AI画像を生成したうえで、広告ADを生成するが、カメラ画像を用いた広告ADを生成することも可能である。
【0105】
また、処理部134は、広告AD提供後のログ情報に基づいて、広告ADのパフォーマンスを評価する。例えば、広告ADのパフォーマンスは、KPIなどの各種指標に基づいて行われる。
【0106】
提供部135は、広告生成モデルによって生成された広告ADを利用者Uに対して提供する。統計情報は、利用者Uへ提供した広告ADの特徴量に関する情報、パフォーマンス計測の結果など最低限の情報であり、利用者Uの個人を特定するようなセンシティブな情報を含まない。
【0107】
つまり、提供部135は、利用者Uへ提供した広告ADに関する最低限の情報のみを統計情報として情報提供装置1へ提供することで、利用者Uの個人情報の保護を図ることができる。
【0108】
〔4.処理フロー〕
次に、
図10を用いて、実施形態に係る情報提供装置1が実行する処理手順について説明する。
図10は、実施形態に係る情報提供装置1が実行する処理手順の一例を示すフローチャートである。
【0109】
図10に示すように、まず、情報提供装置1は、広告主端末100から広告に関する配信依頼を受け付ける(ステップS101)。つづいて、情報提供装置1は、各利用者端末10へ広告情報を提供する(ステップS102)。
【0110】
つづいて、情報提供装置1は、利用者端末10から広告ADに関する統計情報を収集し(ステップS103)、収集した統計情報に基づいて各広告主宛のレポートを生成する(ステップS104)。
【0111】
そして、情報提供装置1は、各広告主宛に生成したレポートを対応する広告主端末100に対して提供し(ステップS105)、処理を終了する。
【0112】
次に、
図11を用いて、利用者端末10が実行する処理手順について説明する。
図11は、実施形態に係る利用者端末10が実行する処理手順の一例を示すフローチャートである。
【0113】
図11に示すように、利用者端末10は、カメラ113によって撮影されたカメラ画像を取得する(ステップS201)。つづいて、利用者端末10は、カメラ画像から撮影対象を特定する(ステップS202)。
【0114】
つづいて、利用者端末10は、特定した撮影対象に基づいて、広告対象を選択し(ステップS203)、当該広告対象に関する広告ADを生成する(ステップS204)。つづいて、利用者端末10は、生成した広告ADを利用者Uに対して提供(表示)する(ステップS205)。そして、利用者端末10は、その後のログ情報に基づいて広告ADを評価して(ステップS206)、処理を終了する。
【0115】
〔5.変形例〕
上述した実施形態では、利用者端末10で、利用者Uへ提供する広告ADを生成する場合について説明したがこれに限定されるものではない。例えば、利用者端末10は、本願発明の手法を用いて、動画などの各種コンテンツを生成するようにしてもよい。
【0116】
〔6.効果〕
上述した実施形態に係る情報処理プログラムは、端末装置が有するコンピュータに、端末装置を用いて撮影された画像から撮影対象を特定する特定手順と、特定手順によって特定された撮影対象と所定の関係性を有する広告対象を選択する選択手順と、指定された対象に関する広告を生成するよう学習された広告生成モデルを用いて、選択手順によって選択された広告対象に関する広告を生成する生成手順とを実行させる。
【0117】
また、選択手順は、撮影対象と、所定の関係性を有する広告対象とのそれぞれの特徴を学習した関係性モデルを用いて、撮影対象から広告対象を選択する。また、選択手順は、同一の利用者によって撮影された画像に写る複数の対象物のうち、いずれか一つの対象物が入力された場合に、他の対象物が出力されるように学習された関係性モデルを用いて、撮影対象から広告対象を選択する。
【0118】
また、選択手順は、対象物と、当該対象物を購入した利用者の購入履歴との関係性を学習した関係性モデルを用いて、撮影対象から広告対象を選択する。また、選択手順は、撮影対象と所定の関係性を有する複数の前記広告対象のうち、画像に写っていない対象物を広告対象として選択する。
【0119】
また、特定手順は、室内が撮影された画像から撮影対象を特定し、選択手順は、撮影対象に基づいて、室内にないものを広告対象として選択する。また、特定手順は、撮像時刻が異なる複数の画像からそれぞれ撮影対象を特定し、選択手順は、撮像時刻が異なる複数の画像から特定されたそれぞれの撮影対象に基づいて、広告対象を選択する。また、選択手順は、撮影対象に関係する新製品を広告対象として選択する。
【0120】
上述した各処理のいずれかもしくは組合せにより、本願に係る情報処理プログラムは、利用者に対して適切な広告を提供することができる。
【0121】
〔7.ハードウェア構成〕
また、上述してきた実施形態に係る情報提供装置1や利用者端末10は、例えば
図12に示すような構成のコンピュータ1000によって実現される。
図12は、実施形態に係る利用者端末10の機能を実現するコンピュータの一例を示すハードウェア構成図である。コンピュータ1000は、CPU1100、RAM1200、ROM1300、HDD1400、通信インターフェイス(I/F)1500、入出力インターフェイス(I/F)1600、及びメディアインターフェイス(I/F)1700を有する。
【0122】
CPU1100は、ROM1300またはHDD1400に格納されたプログラムに基づいて動作し、各部の制御を行う。ROM1300は、コンピュータ1000の起動時にCPU1100によって実行されるブートプログラムや、コンピュータ1000のハードウェアに依存するプログラム等を格納する。
【0123】
HDD1400は、CPU1100によって実行されるプログラム、及び、かかるプログラムによって使用されるデータ等を格納する。通信インターフェイス1500は、ネットワーク(通信ネットワーク)Nを介して他の機器からデータを受信してCPU1100へ送り、CPU1100が生成したデータをネットワークNを介して他の機器へ送信する。
【0124】
CPU1100は、入出力インターフェイス1600を介して、ディスプレイやプリンタ等の出力装置、及び、キーボードやマウス等の入力装置(
図12では、出力装置および入力装置を総称して「入出力装置」と記載する)を制御する。CPU1100は、入出力インターフェイス1600を介して、入力装置からデータを取得する。また、CPU1100は、生成したデータを入出力インターフェイス1600を介して出力装置へ出力する。
【0125】
メディアインターフェイス1700は、記録媒体1800に格納されたプログラムまたはデータを読み取り、RAM1200を介してCPU1100に提供する。CPU1100は、かかるプログラムを、メディアインターフェイス1700を介して記録媒体1800からRAM1200上にロードし、ロードしたプログラムを実行する。記録媒体1800は、例えばDVD(Digital Versatile Disc)、PD(Phase change rewritable Disk)等の光学記録媒体、MO(Magneto-Optical disk)等の光磁気記録媒体、テープ媒体、磁気記録媒体、または半導体メモリ等である。
【0126】
例えば、コンピュータ1000が実施形態に係る利用者端末10として機能する場合、コンピュータ1000のCPU1100は、RAM1200上にロードされたプログラムを実行することにより、制御部130の機能を実現する。コンピュータ1000のCPU1100は、これらのプログラムを記録媒体1800から読み取って実行するが、他の例として、他の装置からネットワークNを介してこれらのプログラムを取得してもよい。
【0127】
以上、本願の実施形態のいくつかを図面に基づいて詳細に説明したが、これらは例示であり、発明の開示の欄に記載の態様を始めとして、当業者の知識に基づいて種々の変形、改良を施した他の形態で本発明を実施することが可能である。
【0128】
〔8.その他〕
また、上記実施形態及び変形例において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部または一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
【0129】
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
【0130】
また、上述してきた実施形態及び変形例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
【0131】
また、上述してきた「部(section、module、unit)」は、「手段」や「回路」などに読み替えることができる。例えば、取得部は、取得手段や取得回路に読み替えることができる。
【符号の説明】
【0132】
1 情報提供装置
10 利用者端末
31 広告情報データベース
32 統計情報データベース
33 モデルデータベース
41 受付部
42 取得部
43 学習部
44 生成部
45 提供部
121 ログ情報記憶部
122 カメラ画像記憶部
123 素材情報記憶部
124 特定モデル記憶部
125 関係性モデル記憶部
126 広告生成モデル記憶部
127 広告情報記憶部
128 広告評価モデル記憶部
130 制御部
131 受付部
132 特定部
133 選択部
134 処理部
135 提供部