技術分野
系列予測モデルの技術に関する。特に、ユーザの行動系列を予測する用途
発明が解決しようとする課題[発明の詳細な説明]から抜粋
ユーザの行動系列を予測するために、前述したGPT2を適用することもできる。その場合、ユーザの概念的行動は、GPT2のテキストに相当し、ユーザの具体的行動(アクション)は、GPT2のトークンに相当する。センサによって観測されたデータであっても、単語列と同等と考えて適用することができる。
課題を解決するための手段[発明の詳細な説明]から抜粋
本発明によれば、データセットは複数の系列データからなり、各系列データは複数のトークンからなり、所定長のトークン列を入力し、次のトークンを予測する予測装置において、
複数の系列データの中で最大のトークン数を、系列データの最大長として設定し、
系列データ毎に、最大長に満たない後方にパディングを埋めるパディング手段と、
パディングが埋められた系列データ毎に、第1~nの所定長のトークン列・・・ 続きを
知財ポータルサイト IP Force にログインして見る
発明の効果[発明の詳細な説明]から抜粋
本発明における予測装置、プログラム及び方法によれば、ユーザの行動における概念的行動毎に、系列予測モデルを用いて次のトークンとなる具体的行動を予測することができる。
この特許の権利範囲[特許請求の範囲]
知財ポータルサイト IP Force にログインして確認する (無料)
この特許公報に記載されている図面[図面の簡単な説明]から抜粋
【図1】
従来技術におけるGPT2モデルの訓練時のデータ構造を表す説明図である。
【図2】
従来技術におけるGPT2モデルの訓練時の処理を表す説明図である。
【図3】
本発明における予測装置の機能構成図である。
【図4】
本発明におけるパディング部の説明図である。
【図5】
本発明における予測装置の訓練時の処理を表す第1の説明図である。
【図6】
本発明における予測装置の訓練時の処理を表す第2の説明図である。
【図7】
本発明における予測装置の訓練時の処理を表す第3の説明図である。
1 予測装置
11 パディング部
12 系列予測モデル
全ての図面はログインすると無料で閲覧できます。ログイン・ユーザー登録