(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-10-13
(54)【発明の名称】動的アテンショングラフネットワークに基づくマーケティング裁定取引ネット暗黒産業の識別方法
(51)【国際特許分類】
G06Q 30/0201 20230101AFI20231005BHJP
【FI】
G06Q30/0201
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2023513542
(86)(22)【出願日】2021-12-30
(85)【翻訳文提出日】2023-02-22
(86)【国際出願番号】 CN2021142967
(87)【国際公開番号】W WO2023029324
(87)【国際公開日】2023-03-09
(31)【優先権主張番号】202111040219.0
(32)【優先日】2021-09-06
(33)【優先権主張国・地域又は機関】CN
(81)【指定国・地域】
(71)【出願人】
【識別番号】523065052
【氏名又は名称】天翼電子商務有限公司
(74)【代理人】
【識別番号】100145470
【氏名又は名称】藤井 健一
(72)【発明者】
【氏名】傅剣文
(72)【発明者】
【氏名】陳心童
(72)【発明者】
【氏名】章建森
(72)【発明者】
【氏名】韓弘煬
(72)【発明者】
【氏名】周文彬
【テーマコード(参考)】
5L049
【Fターム(参考)】
5L049BB01
(57)【要約】
本願は、動的アテンショングラフネットワークに基づくマーケティング裁定取引ネット暗黒産業の識別方法を提案し、それは以下の利点を有し、第一は、ユーザーノードと、商人ノードと、多次元関係と複数の時刻からなる新型動的グラフネットワーク構造を定義し、2)ユーザーノードと、商人ノードと、多次元関係の統一をより効果的に実現し、さらにノードの空間的構造の情報集約をより良く実現するために、新型マルチエッジアテンションユニットを設計し、3)グラフネットワークの時間動態性において、マルチチャンネルGRUユニットを通じてアテンション情報を伝達する動的モードを設計し、グラフネットワークの時間軸上の発展情報も有効に伝達されるようになり、4)マルチエッジアテンションユニットとマルチチャンネルGRUユニットを効果的にマージし、動的アテンションユニットという新しい処理ユニットを提案し、該ユニットを用いて構築された動的アテンショングラフネットワークにより、時間的な次元の情報を有効に伝達できるとともに、空間的な次元の多層隣接情報を効率的に集約することもできる。
【選択図】
図1
【特許請求の範囲】
【請求項1】
以下のステップを含むことを特徴とする動的アテンショングラフネットワークに基づくマーケティング裁定取引ネット暗黒産業の識別方法。
2種類のノード、4種類の関係エッジ、T個の時刻からなる動的グラフネットワーク構造を定義するステップ1と、
1)2種類のノードは、グラフネットワークに含まれるユーザーノードV
cと商人ノードV
bであり、
2)4種類の関係エッジはそれぞれ以下の通り、
A)ユーザーとユーザー間のデバイス関係エッジE
d、
アクセスログにおける過去のある期間において、異なるユーザーがデバイスにアクセスしたIPに同一性が存在したことに基づいて、ユーザーノードとユーザーノード間のデバイス関係エッジが生成され、
B)ユーザーとユーザー間の支払関係エッジE
p、
ビジネスシステムにおける過去のある期間において、ユーザーとユーザー間に、振替支払行動が存在したことに基づいて、ユーザーノードとユーザーノード間の支払関係エッジが生成され、
C)ユーザーとユーザー間の社交関係エッジE
s、
ビジネスシステムにおける過去のある期間において、ユーザーとユーザーの間に、一方がマーケティング活動情報を共有し、且つ他方をそのマーケティング活動に成功に招待した行為に基づいて、ユーザーノードとユーザーノード間の社交関係エッジが生成され、
D)ユーザーと商人間の取引関係エッジE
t、
ビジネスシステムにおける過去のある期間において、ユーザーが商人で取引の支払をした行為に基づいて、ユーザーノードと商人ノード間の取引関係エッジが生成され、
3)T個の時刻とは、
時間軸上でt0の時刻を初期とし、ωを間隔とし、連続するT個の時点を選択し、各時点において、一枚の上記2種類のノードと4種類の関係エッジからなる関係グラフネットワークが生成されるため、グラフネットワークの時間に伴うT個の時刻の変化を反映し、
グラフデータベースに、T個の時刻にT枚のネットワークグラフが生成されるステップ2と、
それぞれ、
【数28】
であり、各時点のユーザーセットV
cをグラフデータベースモジュールから分散データベースモジュールにそれぞれ導入し、且つ各時点のユーザーごとにその属性を表すm次元の固有ベクトルを生成し、より良い識別効果を得るために、固有ベクトルの特徴領域は一般的な自然人の属性特徴を選択して構築してもよく、専門家の経験から抽出した統計的特徴を導入してもよい、例えば、過去にある期間にあるイベントにアクセスした回数など、これにより、各時点のユーザーセットV
cに属性特徴行列
【数29】
を生成し、分散データベースモジュールにテーブルの形で格納し、下付き文字n
0, n
1,・・・は各時点におけるユーザーセットの数をそれぞれ表し、
同じ理屈で、各時点の商人セットV
bをグラフデータベースモジュールから分散データベースモジュールにそれぞれ導入し、各時点の商人ごとにその属性を表すk次元の固有ベクトルを生成することで、各時点の商人セットV
bに属性特徴行列
【数30】
を生成し、分散データベースモジュールにテーブルの形で格納し、下付き文字l
0, l
1,・・・は各時点における商人セットの数をそれぞれ表し、
履歴の裁定取引ユーザーのポジ/ネガパターンに基づいて、各時点のユーザーセットV
cにそれぞれラベルを付け、分散データベースモジュールにテーブルの形で格納し、ラベルを付けた後、ユーザーセットV
cはラベル付き(V
labeled)とラベルなし(V
unlabeled)の2種類のパターンになり、V
labeledパターンは既知の裁定取引ユーザーパターンV
labeled=1と既知の非裁定取引ユーザーパターンV
labeled=0に分けられ、グラフネットワークにおけるすべての商人ノードはラベルなしパターンに設定されているステップ3と、
新型グラフアテンションメカニズムを提案するステップ4と、
その特徴は、1)それぞれユーザーノードと商人ノードのために独立したマッピング行列を定義し、マッピング行列を通じてこの2種類の異なる次元の固有ベクトルを同一次元にマッピングし、ユーザーノードと商人ノードの情報集約時の統一が実現されることと、2)グラフで定義された4種類の関係エッジに基づいて、マルチエッジアテンションのメカニズムを定義し、すなわち各関係エッジに独立したアテンション学習パラメータを導入することで、マルチ関係エッジの情報集約時の統一が実現されること、
具体的な操作は以下の通り、
1)まずは、4種類の関係エッジに基づいて、4セットの独立したアテンション学習パラメータを定義し、且つ学習パラメータを初期化し、
A)ユーザーとユーザー間のデバイス関係エッジE
dにより、共有線形マッピング行列W
dm*fとアテンション共有ベクトルa
d∈R
2fを定義し、
B)ユーザーとユーザー間の支払関係エッジE
pにより、共有線形マッピング行列W
pm*fとアテンション共有ベクトルa
p∈R
2fを定義し、
C)ユーザーとユーザー間の社交関係エッジE
sにより、共有線形マッピング行列W
sm*fとアテンション共有ベクトルa
s∈R
2fを定義し、
D)ユーザーと商人間の取引関係エッジE
tにより、ユーザーノードと商人ノードに独立した共有線形マッピング行列W
tcm*fとW
tbl*fを定義し、ユーザ固有ベクトル空間と商人固有ベクトル空間を、m次元とl次元から統一されたf次元のベクトル空間にマッピングするために使用され、共有アテンションベクトルをa
t∈R
2fに定義し、
2)次は、グラフの各エッジのアテンション係数の計算を次の式で行い、
a)E
d関係エッジに基づくアテンション係数、
【数31】
b)E
p関係エッジに基づくアテンション係数、
【数32】
c)E
s関係エッジに基づくアテンション係数、
【数33】
d)E
t関係エッジに基づくアテンション係数、
【数34】
上式において、記号∥はベクトルのモンタージュを表し、下付き文字i,jは、それぞれグラフにおけるある関係エッジに基づいて隣接する2つのノードを表し、h
i又はh
jは、該ノードが対応する固有ベクトルが前に生成されたユーザ特徴行列から取られたことを表し、E
t関係のアテンション係数を計算する際、h
iとh
jの固有ベクトルは、一つがユーザー特徴行列から取られ、もう一つは商人特徴行列から取られ、
3)最後は、次の式により、情報集約計算を行い、
【数35】
上式において、記号N
d(i) 、 N
p(i) 、 N
s(i) 、 N
t(i)は、ノードiがデバイス関係エッジ、支払関係エッジ、社交関係エッジ、取引関係エッジを介して接続された一次隣接をそれぞれ表し、
上記ステップ4における一連の処理をマルチエッジアテンションユニット(MultiEdgeGAT)と呼び、
上述のステップ4は、ある時点でグラフネットワークの空間的レベルでの情報集約を完了しただけであり、グラフネットワークの時間的な次元上の動的性を考慮すると、ネットワーク情報の時間的な次元上の伝達を完了しなければならない、本発明は、マルチチャンネルGRUを用いて時間的な次元上でアテンションパラメータを伝達するメカニズム(マルチチャンネルGRUユニット-MultiGRUと呼ばれる)を提案し、空間的レベルのグラフアテンション情報集約メカニズム(マルチエッジアテンションユニット-MultiEdgeGAT)を結合し、動的アテンションユニットと呼ばれる新しい処理ユニットを形成したステップ5と、
具体的な操作は以下の通り、
1)グラフアテンションメカニズムは9つの学習すべきパラメータ、すなわち5つの共有線形マッピング行列と4つの共有アテンションベクトルを生成するため、ここでは、時間的な次元上にパラメータ情報の伝達するための9つの独立したGRUユニットを必要とし、それぞれ線形マッピング行列を伝達するためのGRU
wd, GRU
wp, GRU
ws, GRU
wtc, GRU
wtbと、アテンションベクトルを伝達するためのGRU
ad, GRU
ap, GRU
as, GRU
atであり、これらのGRUユニットのパラメータを初期化し、
2)ここで、GRUの伝達公式は以下の通り、
GRUユニットの内部構造は同じであるため、説明を簡単にするために、GRU
wdを例として式に対して説明し、
【数36】
上記の式は、t-1時刻のアテンションパラメータW
dt-1がGRU
Wdを介して伝達することでt時刻のアテンションパラメータW
dtに生成することが完了し、同じ理屈で同じ構造によって、他のGRUを介してt-1時刻からt時刻の他の8つのアテンションパラメータW
pt,
W
st,
W
tct,
W
tbt,
a
dt,
a
pt,
a
st,
a
ttを生成し、上式において、次式に表す記号はアダマール積を表し、
【数37】
W
Rd,
U
Rd,
B
Rd,
W
zd,
U
zd,
B
zd,
W
~d,
U
~d,
B
~dはGRU
wd自分で学習するパラメータであり、同じ理屈で他のGRUにも似たようなパラメータを学習する必要があり、上記9つのGRUユニットをまとめてマルチチャンネルGRUユニットMultiGRUと呼び、
3)マルチエッジアテンションユニットとマルチチャンネルGRUユニットをマージし、動的アテンションユニット(DynamicGAT)と呼ばれる新しい処理ユニットを形成しを生成し、マージ式は以下の通りであり、
式を簡略化し、表現しやすくするために、W
d,
W
p,
W
s,
W
tc, W
tbこの5つのパラメータをWにマージし、a
d,
a
p,
a
s,
a
tこの4つのパラメータをaにマージし、
【数38】
上記ステップ5は、時間軸上の1つの動的アテンションユニットの情報伝達と情報集約について述べ、ここで、各時点で空間的に多層に集約することが自然に可能である場合、上記動的アテンションユニットの式は以下に表すステップ6と、
【数39】
上記において、上付き文字lは、空間的な集約の層数を表し、ここで、1層の集約を追加するごとに、グラフにおけるノードの次の隣接情報をそのノードに「圧する」ことを意味し、多層隣接関係に含まれた情報をうまく利用し、これにより時間的な次元の情報伝達と空間的な次元の多層集約を含む、動的学習可能なグラフネットワークを構築し、
上述した動的アテンショングラフネットワークの最後の1層の最後の時刻の出力(次式)
【数40】
表現をSoftmaxにより活性化してノードの裁定取引リスクを予測する確率Pにマッピングするステップ7と、
上記のすべてのステップを1回の完全な学習イテレーションと呼び、学習イテレーションを行う場合は、分散データベースモジュールから必要な情報をサーバメモリに同期させ、且つ必要な学習パラメータを初期化してから、複数回の完全な学習イテレーションを行い、完全な学習イテレーションするたびにラベル付きノードV
labeledのみを対象にし、交差エントロピー誤差関数を用いて損失計算を行い、Adam最適化アルゴリズムを用いて勾配更新を行い、最後は、N回の完全な学習イテレーションを経て、動的アテンショングラフネットワークに必要なパラメータを学習し、動的アテンショングラフネットワークの学習を完了するステップ8と、
学習した動的アテンションネットワークをリスクマネジメント意思決定モジュールに配置し、オンラインにてマーケティング裁定取引リスク確率予測を行い、確率意思決定閾値P = σを設定し、予測したリスク確率がσより大きい場合、マーケティング裁定取引リスク群と判断し、後続のインターセプトなどの処理操作を行うステップ9。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は新興情報技術、人工知能の分野に関し、特に動的アテンショングラフネットワークに基づくマーケティング裁定取引ネット暗黒産業の識別方法に関する。
【背景技術】
【0002】
マーケティング裁定取引は、新しいネット詐欺の手段であり、裁定取引暗黒産業は、各種の不法な方式を通じて電子商取引プラットフォームや支払いプラットフォームが打ち出した商品引換券、割引、一定金額以上の削減、すぐに現金返還・割引などのマーケティング活動の権益を大量に獲得し、一般消費者の切実な利益を大きく傷つけ、プラットフォーム側が投入したマーケティングコストもそのあるべき価値を発揮しなかった。また、現在のインターネット産業の急速な発展に伴い、マーケティング裁定取引暗黒産業は団体になっていき、手段もより隠蔽され複雑になっている。
【0003】
従来のソリューションとして、リスク対応方針に命中された裁定取引暗黒産業者を捕まえるために、専門家の経験に基づいてリスク管理体制にいくつかのリスク対応方針を設置しているが、暗黒産業の手段がよりグループ化、複雑化、隠蔽化されるにつれて、このような方法は専門家自身の経験に制約され、いくつかの特徴が潜んでいるか、あるいは手段が新しい裁定取引暗黒産業集団をより全面的に識別することができない。
【0004】
グラフネットワークを構築し、グラフネットワークにいくつかのリスクオペレーターを定義し、リスクオペレーターを計算することでグラフにおける各ノードの裁定取引リスクを判断することが提案されたが、このような方法には通常、1)本質的にこのような方法は、専門家の経験戦をより複雑な形でグラフネットワークに定義するものであり、同様にオペレーター自体に制約され、機械学習のアルゴリズムではない。2)このような方法は、往々にしてグラフネットワーク空間上のトポロジー情報のみを利用し、ネットワークノード自体に含まれた特徴情報を利用していない。3)通常は、低隣接関係における情報のみを利用しているが、高隣接関係に含まれた潜在情報を十分に利用していない。
【0005】
科学技術の発展と進歩に伴い、グラフニューラルネットワークを通じてこのシーンの問題をよりよく解決することが提案された。グラフニューラルネットワークは、歴史サンプルに基づく自己学習可能なアルゴリズムであるため、専門家の経験の限界性が回避されるとともに、すべてノード自身の特徴情報を導入し、多層隣接の情報集約を行うことで、潜在的な裁定取引リスクノードをより全面的に識別できるようになる。
【0006】
しかし、現在のグラフニューラルネットワークに基づく方法は、殆ど動的グラフではなく静的グラフを使用し、即ちある時点のグラフネットワーク構造にすぎず、時間軸におけるグラフネットワークの発展は考慮されていない。静的グラフの方法は、グラフネットワーク空間構造上の情報だけを考慮しているが、時間軸上で伝達される情報は無視されている。
【発明の概要】
【課題を解決するための手段】
【0007】
本発明が解決しようとする技術問題は従来技術の欠陥を克服することであり、動的アテンショングラフネットワークに基づくマーケティング裁定取引ネット暗黒産業の識別方法を提供し、リスク管理体制による裁定取引暗黒産業識別の全面性と正確性は大幅に向上し、さらにこのシーン問題をよりよく解決できるようになる。
【0008】
上記技術的な課題を解決するために、本発明は以下の技術的手段を提供し、
本発明は、以下のステップを含む動的アテンショングラフネットワークに基づくマーケティング裁定取引ネット暗黒産業の識別方法を提供し、
2種類のノード、4種類の関係エッジ、T個の時刻からなる動的グラフネットワーク構造を定義するステップ1と、
1)2種類のノードは、グラフネットワークに含まれるユーザーノードVcと商人ノードVbであり、
2)4種類の関係エッジはそれぞれ以下の通り、
A)ユーザーとユーザー間のデバイス関係エッジEd、
アクセスログにおける過去のある期間において、異なるユーザーがデバイスにアクセスしたIPに同一性が存在したことに基づいて、ユーザーノードとユーザーノード間のデバイス関係エッジが生成され、
B)ユーザーとユーザー間の支払関係エッジEp、
ビジネスシステムにおける過去のある期間において、ユーザーとユーザー間に、振替支払行動が存在したことに基づいて、ユーザーノードとユーザーノード間の支払関係エッジが生成され、
C)ユーザーとユーザー間の社交関係エッジEs、
ビジネスシステムにおける過去のある期間において、ユーザーとユーザーの間に、一方がマーケティング活動情報を共有し、且つ他方をそのマーケティング活動に成功に招待した行為に基づいて、ユーザーノードとユーザーノード間の社交関係エッジが生成され、
D)ユーザーと商人間の取引関係エッジEt、
ビジネスシステムにおける過去のある期間において、ユーザーが商人で取引の支払をした行為に基づいて、ユーザーノードと商人ノード間の取引関係エッジが生成され、
3)T個の時刻とは、
時間軸上でt0の時刻を初期とし、ωを間隔とし、連続するT個の時点を選択し、各時点において、一枚の上記2種類のノードと4種類の関係エッジからなる関係グラフネットワークが生成されるため、グラフネットワークの時間に伴うT個の時刻の変化を反映し、
グラフデータベースに、T個の時刻にT枚のネットワークグラフが生成されるステップ2と、
それぞれ、次式であり、
【0009】
【0010】
各時点のユーザーセットVcをグラフデータベースモジュールから分散データベースモジュールにそれぞれ導入し、且つ各時点のユーザーごとにその属性を表すm次元の固有ベクトルを生成し、より良い識別効果を得るために、固有ベクトルの特徴領域は一般的な自然人の属性特徴を選択して構築してもよく、専門家の経験から抽出した統計的特徴を導入してもよい、例えば、過去にある期間にあるイベントにアクセスした回数など、これにより、各時点のユーザーセットVcに属性特徴行列(次式)を生成し、
【0011】
【0012】
分散データベースモジュールにテーブルの形で格納し、下付き文字n0,n1,・・・は各時点におけるユーザーセットの数をそれぞれ表し、
上記通り、各時点の商人セットVbをグラフデータベースモジュールから分散データベースモジュールにそれぞれ導入し、各時点の商人ごとにその属性を表すk次元の固有ベクトルを生成することで、各時点の商人セットVbに属性特徴行列(次式)を生成し、
【0013】
【0014】
分散データベースモジュールにテーブルの形で格納し、下付き文字l0, l 1,・・・は各時点における商人セットの数をそれぞれ表し、
履歴の裁定取引ユーザーのポジ/ネガパターンに基づいて、各時点のユーザーセットVcにそれぞれラベルを付け、分散データベースモジュールにテーブルの形で格納し、ラベルを付けた後、ユーザーセットVcはラベル付き(Vlabeled)とラベルなし(Vunlabeled)の2種類のパターンになり、Vlabeledパターンは既知の裁定取引ユーザーパターンVlabeled=1と既知の非裁定取引ユーザーパターンVlabeled=0に分けられ、グラフネットワークにおけるすべての商人ノードはラベルなしパターンに設定されているステップ3と、
新型グラフアテンションメカニズムを提案するステップ4と、
その特徴は、1)それぞれユーザーノードと商人ノードのために独立したマッピング行列を定義し、マッピング行列を通じてこの2種類の異なる次元の固有ベクトルを同一次元にマッピングし、ユーザーノードと商人ノードの情報集約時の統一が実現されることと、2)グラフで定義された4種類の関係エッジに基づいて、マルチエッジアテンションのメカニズムを定義し、すなわち各関係エッジに独立したアテンション学習パラメータを導入することで、マルチ関係エッジの情報集約時の統一が実現されること、
具体的な操作は以下の通り、
1)まずは、4種類の関係エッジに基づいて、4セットの独立したアテンション学習パラメータを定義し、且つ学習パラメータを初期化し、
A)ユーザーとユーザー間のデバイス関係エッジEdにより、共有線形マッピング行列Wdm*fとアテンション共有ベクトルad∈R2fを定義し、
B)ユーザーとユーザー間の支払関係エッジEpにより、共有線形マッピング行列Wpm*fとアテンション共有ベクトルap∈R2fを定義し、
C)ユーザーとユーザー間の社交関係エッジEsにより、共有線形マッピング行列Wsm*fとアテンション共有ベクトルas∈R2fを定義し、
D)ユーザーと商人間の取引関係エッジEtにより、ユーザーノードと商人ノードに独立した共有線形マッピング行列Wtcm*fとWtbl*fを定義し、ユーザ固有ベクトル空間と商人固有ベクトル空間を、m次元とl次元から統一されたf次元のベクトル空間にマッピングするために使用され、共有アテンションベクトルをat∈R2fに定義し、
2)次は、グラフの各エッジのアテンション係数の計算を次の式で行い、
a)Ed関係エッジに基づくアテンション係数(次式)、
【0015】
【0016】
b)Ep関係エッジに基づくアテンション係数(次式)、
【0017】
【0018】
c)Es関係エッジに基づくアテンション係数(次式)、
【0019】
【0020】
d)Et関係エッジに基づくアテンション係数(次式)、
【0021】
【0022】
上式において、記号∥はベクトルのモンタージュを表し、下付き文字i, jは、それぞれグラフにおけるある関係エッジに基づいて隣接する2つのノードを表し、hi又はhjは、該ノードが対応する固有ベクトルが前に生成されたユーザ特徴行列から取られたことを表し、Et関係のアテンション係数を計算する際、hiとhjの固有ベクトルは、一つがユーザー特徴行列から取られ、もう一つは商人特徴行列から取られ、
3)最後は、次の式により、情報集約計算を行い、
【0023】
【0024】
上式において、記号Nd(i), Np(i), Ns(i), Nt(i)は、ノードiがデバイス関係エッジ、支払関係エッジ、社交関係エッジ、取引関係エッジを介して接続された一次隣接をそれぞれ表し、
上記ステップ4における一連の処理をマルチエッジアテンションユニット(MultiEdgeGAT)と呼び、
上述のステップ4は、ある時点でグラフネットワークの空間的レベルでの情報集約を完了しただけであり、グラフネットワークの時間的な次元上の動的性を考慮すると、ネットワーク情報の時間的な次元上の伝達を完了しなければならない、本発明は、マルチチャンネルGRUを用いて時間的な次元上でアテンションパラメータを伝達するメカニズム(マルチチャンネルGRUユニット-MultiGRUと呼ばれる)を提案し、空間的レベルのグラフアテンション情報集約メカニズム(マルチエッジアテンションユニット-MultiEdgeGAT)を結合し、動的アテンションユニットと呼ばれる新しい処理ユニットを形成したステップ5と、
具体的な操作は以下の通り、
1)グラフアテンションメカニズムは9つの学習すべきパラメータ、すなわち5つの共有線形マッピング行列と4つの共有アテンションベクトルを生成するため、ここでは、時間的な次元上にパラメータ情報の伝達するための9つの独立したGRUユニットを必要とし、それぞれ線形マッピング行列を伝達するためのGRUwd, GRUwp, GRUws, GRUwtc, GRUwtbと、アテンションベクトルを伝達するためのGRUad, GRUap, GRUas, GRUatであり、これらのGRUユニットのパラメータを初期化し、
2)ここで、GRUの伝達公式は以下の通り、
GRUユニットの内部構造は同じであるため、説明を簡単にするために、GRUwdを例として式(次式)に対して説明し、
【0025】
【0026】
上記の式は、t-1時刻のアテンションパラメータWdt-1がGRUwdを介して伝達することでt時刻のアテンションパラメータWdtに生成することが完了し、同じ理屈で同じ構造によって、他のGRUを介してt-1時刻からt時刻の他の8つのアテンションパラメータWpt,Wst,Wtct,Wtbt,adt,apt,ast,attを生成し、上式において、次式で表す記号は、アダマール積であり、
【0027】
【0028】
WRd,URd,BRd,Wzd,Uzd,Bzd,W~d,U~d,B~dはGRUwd自分で学習するパラメータであり、同じ理屈で他のGRUにも似たようなパラメータを学習する必要があり、上記9つのGRUユニットをまとめてマルチチャンネルGRUユニットMultiGRUと呼び、
3)マルチエッジアテンションユニットとマルチチャンネルGRUユニットをマージし、動的アテンションユニット(DynamicGAT)と呼ばれる新しい処理ユニットを形成しを生成し、マージ式は以下の通りであり、
式を簡略化し、表現しやすくするために、Wd, Wp, Ws, Wtc,Wtbこの5つのパラメータをWにマージし、ad, ap, as, atこの4つのパラメータをaにマージし、
【0029】
【0030】
上記ステップ5は、時間軸上の1つの動的アテンションユニットの情報伝達と情報集約について述べ、ここで、各時点で空間的に多層に集約することが自然に可能である場合、上記動的アテンションユニットの式は以下に表すステップ6と、
【0031】
【0032】
上記において、上付き文字lは、空間的な集約の層数を表し、ここで、1層の集約を追加するごとに、グラフにおけるノードの次の隣接情報をそのノードに「圧する」ことを意味し、多層隣接関係に含まれた情報をうまく利用し、これにより時間的な次元の情報伝達と空間的な次元の多層集約を含む、動的学習可能なグラフネットワークを構築し、
上述した動的アテンショングラフネットワークの最後の1層の最後の時刻の出力(次式)表現をSoftmaxにより活性化してノードの裁定取引リスクを予測する確率Pにマッピングするステップ7と、
【0033】
【0034】
上記のすべてのステップを1回の完全な学習イテレーションと呼び、学習イテレーションを行う場合は、分散データベースモジュールから必要な情報をサーバメモリに同期させ、且つ必要な学習パラメータを初期化してから、複数回の完全な学習イテレーションを行い、完全な学習イテレーションするたびにラベル付きノードVlabeledのみを対象にし、交差エントロピー誤差関数を用いて損失計算を行い、Adam最適化アルゴリズムを用いて勾配更新を行い、最後は、N回の完全な学習イテレーションを経て、動的アテンショングラフネットワークに必要なパラメータを学習し、動的アテンショングラフネットワークの学習を完了するステップ8と、
学習した動的アテンションネットワークをリスクマネジメント意思決定モジュールに配置し、オンラインにてマーケティング裁定取引リスク確率予測を行い、確率意思決定閾値P = σを設定し、予測したリスク確率がσより大きい場合、マーケティング裁定取引リスク群と判断し、後続のインターセプトなどの処理操作を行うステップ9。
【発明の効果】
【0035】
従来技術と比較して、本発明の有益な効果は以下の通りであり、
本願は、動的アテンショングラフネットワークに基づくマーケティング裁定取引ネット暗黒産業の識別方法を提案し、それは以下の利点を有し、第一は、ユーザーノードと、商人ノードと、多次元関係と複数の時刻からなる新型動的グラフネットワーク構造を定義し、2)ユーザーノードと、商人ノードと、多次元関係の統一をより効果的に実現し、さらにノードの空間的構造の情報集約をより良く実現するために、新型マルチエッジアテンションユニットを設計し、3)グラフネットワークの時間動態性において、マルチチャンネルGRUユニットを通じてアテンション情報を伝達する動的モードを設計し、グラフネットワークの時間軸上の発展情報も有効に伝達されるようになり、4)マルチエッジアテンションユニットとマルチチャンネルGRUユニットを効果的にマージし、動的アテンションユニットという新しい処理ユニットを提案し、該ユニットを用いて構築された動的アテンショングラフネットワークにより、時間的な次元の情報を有効に伝達できるとともに、空間的な次元の多層隣接情報を効率的に集約することもできる。
【0036】
本願に提案された手段により、リスク管理体制による裁定取引暗黒産業識別の全面性と正確性を大幅に向上させ、このシーンの問題をよりよく解決することができる。
【図面の簡単な説明】
【0037】
図面は、本発明のさらなる理解を提供するためのものであり、本発明の実施形態とともに本発明を説明するための明細書の一部を構成するためのものであり、本発明の制限を構成するものではない。図面について、
【
図1】本発明の本発明のグラフネットワーク構成を示す図である。
【
図2】マルチチャンネルGRUユニットの構造を示す図である。
【
図3】動的アテンションユニットの構造を示す図である。
【
図4】動的アテンショングラフネットワークの全体構造を示す図である。
【発明を実施するための最良の形態】
【0038】
以下、添付図面を用いて本発明の好適な実施形態を説明するが、ここで説明する好適な実施形態は本発明の説明及び説明にのみ用いられ、本発明を限定するために用いられるものではないことを理解すべきである。
(実施形態1)
【0039】
図1-5に示すように、本発明は、以下のステップを含む動的アテンショングラフネットワークに基づくマーケティング裁定取引ネット暗黒産業の識別方法を提供し、
2種類のノード、4種類の関係エッジ、T個の時刻からなる動的グラフネットワーク構造を定義するステップ1と、
1)2種類のノードは、グラフネットワークに含まれるユーザーノードV
cと商人ノードV
bであり、
2)4種類の関係エッジはそれぞれ以下の通り、
A)ユーザーとユーザー間のデバイス関係エッジE
d、
アクセスログにおける過去のある期間において、異なるユーザーがデバイスにアクセスしたIPに同一性が存在したことに基づいて、ユーザーノードとユーザーノード間のデバイス関係エッジが生成され、
B)ユーザーとユーザー間の支払関係エッジE
p、
ビジネスシステムにおける過去のある期間において、ユーザーとユーザー間に、振替支払行動が存在したことに基づいて、ユーザーノードとユーザーノード間の支払関係エッジが生成され、
C)ユーザーとユーザー間の社交関係エッジE
s、
ビジネスシステムにおける過去のある期間において、ユーザーとユーザーの間に、一方がマーケティング活動情報を共有し、且つ他方をそのマーケティング活動に成功に招待した行為に基づいて、ユーザーノードとユーザーノード間の社交関係エッジが生成され、
D)ユーザーと商人間の取引関係エッジE
t、
ビジネスシステムにおける過去のある期間において、ユーザーが商人で取引の支払をした行為に基づいて、ユーザーノードと商人ノード間の取引関係エッジが生成され、
3)T個の時刻とは、
時間軸上でt0の時刻を初期とし、ωを間隔とし、連続するT個の時点を選択し、各時点において、一枚の上記2種類のノードと4種類の関係エッジからなる関係グラフネットワークが生成されるため、グラフネットワークの時間に伴うT個の時刻の変化を反映し、
グラフデータベースに、T個の時刻にT枚のネットワークグラフが生成されるステップ2と、
それぞれ、次式であり、
【0040】
【0041】
各時点のユーザーセットVcをグラフデータベースモジュールから分散データベースモジュールにそれぞれ導入し、且つ各時点のユーザーごとにその属性を表すm次元の固有ベクトルを生成し、より良い識別効果を得るために、固有ベクトルの特徴領域は一般的な自然人の属性特徴を選択して構築してもよく、専門家の経験から抽出した統計的特徴を導入してもよい、例えば、過去にある期間にあるイベントにアクセスした回数など、これにより、各時点のユーザーセットVcに属性特徴行列(次式)を生成し、
【0042】
【0043】
分散データベースモジュールにテーブルの形で格納し、下付き文字n0, n1,・・・は各時点におけるユーザーセットの数をそれぞれ表し、
上記通り、各時点の商人セットVbをグラフデータベースモジュールから分散データベースモジュールにそれぞれ導入し、各時点の商人ごとにその属性を表すk次元の固有ベクトルを生成することで、各時点の商人セットVbに属性特徴行列(次式)を生成し、
【0044】
【0045】
分散データベースモジュールにテーブルの形で格納し、下付き文字l0, l1,・・・は各時点における商人セットの数をそれぞれ表し、
履歴の裁定取引ユーザーのポジ/ネガパターンに基づいて、各時点のユーザーセットVcにそれぞれラベルを付け、分散データベースモジュールにテーブルの形で格納し、ラベルを付けた後、ユーザーセットVcはラベル付き(Vlabeled)とラベルなし(Vunlabeled)の2種類のパターンになり、Vlabeledパターンは既知の裁定取引ユーザーパターンVlabeled=1と既知の非裁定取引ユーザーパターンVlabeled=0に分けられ、グラフネットワークにおけるすべての商人ノードはラベルなしパターンに設定されているステップ3と、
新型グラフアテンションメカニズムを提案するステップ4と、
その特徴は、1)それぞれユーザーノードと商人ノードのために独立したマッピング行列を定義し、マッピング行列を通じてこの2種類の異なる次元の固有ベクトルを同一次元にマッピングし、ユーザーノードと商人ノードの情報集約時の統一が実現されることと、2)グラフで定義された4種類の関係エッジに基づいて、マルチエッジアテンションのメカニズムを定義し、すなわち各関係エッジに独立したアテンション学習パラメータを導入することで、マルチ関係エッジの情報集約時の統一が実現されること、
具体的な操作は以下の通り、
1)まずは、4種類の関係エッジに基づいて、4セットの独立したアテンション学習パラメータを定義し、且つ学習パラメータを初期化し、
A)ユーザーとユーザー間のデバイス関係エッジEdにより、共有線形マッピング行列Wdm*fとアテンション共有ベクトルad∈R2fを定義し、
B)ユーザーとユーザー間の支払関係エッジEpにより、共有線形マッピング行列Wpm*fとアテンション共有ベクトルap∈R2fを定義し、
C)ユーザーとユーザー間の社交関係エッジEsにより、共有線形マッピング行列Wsm*fとアテンション共有ベクトルas∈R2fを定義し、
D)ユーザーと商人間の取引関係エッジEtにより、ユーザーノードと商人ノードに独立した共有線形マッピング行列Wtcm*fとWtbl*fを定義し、ユーザ固有ベクトル空間と商人固有ベクトル空間を、m次元とl次元から統一されたf次元のベクトル空間にマッピングするために使用され、共有アテンションベクトルをat∈R2fに定義し、
2)次は、グラフの各エッジのアテンション係数の計算を次の式で行い、
a)Ed関係エッジに基づくアテンション係数(次式)、
【0046】
【0047】
b)Ep関係エッジに基づくアテンション係数(次式)、
【0048】
【0049】
c)Es関係エッジに基づくアテンション係数(次式)、
【0050】
【0051】
d)Et関係エッジに基づくアテンション係数(次式)、
【0052】
【0053】
上式において、記号∥はベクトルのモンタージュを表し、下付き文字i, jは、それぞれグラフにおけるある関係エッジに基づいて隣接する2つのノードを表し、hi又はhjは、該ノードが対応する固有ベクトルが前に生成されたユーザ特徴行列から取られたことを表し、Et関係のアテンション係数を計算する際、hiとhjの固有ベクトルは、一つがユーザー特徴行列から取られ、もう一つは商人特徴行列から取られ、
3)最後は、次の式により、情報集約計算を行い、
【0054】
【0055】
上式において、記号Nd(i) 、 Np(i) 、 Ns(i) 、 Nt(i)は、ノードiがデバイス関係エッジ、支払関係エッジ、社交関係エッジ、取引関係エッジを介して接続された一次隣接をそれぞれ表し、
上記ステップ4における一連の処理をマルチエッジアテンションユニット(MultiEdgeGAT)と呼び、
上述のステップ4は、ある時点でグラフネットワークの空間的レベルでの情報集約を完了しただけであり、グラフネットワークの時間的な次元上の動的性を考慮すると、ネットワーク情報の時間的な次元上の伝達を完了しなければならない、本発明は、マルチチャンネルGRUを用いて時間的な次元上でアテンションパラメータを伝達するメカニズム(マルチチャンネルGRUユニット-MultiGRUと呼ばれる)を提案し、空間的レベルのグラフアテンション情報集約メカニズム(マルチエッジアテンションユニット-MultiEdgeGAT)を結合し、動的アテンションユニットと呼ばれる新しい処理ユニットを形成したステップ5と、
具体的な操作は以下の通り、
1)グラフアテンションメカニズムは9つの学習すべきパラメータ、すなわち5つの共有線形マッピング行列と4つの共有アテンションベクトルを生成するため、ここでは、時間的な次元上にパラメータ情報の伝達するための9つの独立したGRUユニットを必要とし、それぞれ線形マッピング行列を伝達するためのGRUwd, GRUwp, GRUws, GRUwtc, GRUwtbと、アテンションベクトルを伝達するためのGRUad, GRUap, GRUas, GRUatであり、これらのGRUユニットのパラメータを初期化し、
2)ここで、GRUの伝達公式は以下の通り、
GRUユニットの内部構造は同じであるため、説明を簡単にするために、GRUwdを例として式に対して説明し、
【0056】
【0057】
上記の式は、t-1時刻のアテンションパラメータWdt-1がGRUwdを介して伝達することでt時刻のアテンションパラメータWdtに生成することが完了し、同じ理屈で同じ構造によって、他のGRUを介してt-1時刻からt時刻の他の8つのアテンションパラメータWpt,Wst,Wtct,Wtbt,adt,apt,ast,attを生成し、上式において、次式に表す記号はアダマール積を表し、
【0058】
【0059】
WRd,URd,BRd,Wzd,Uzd,Bzd,W~d,U~d,B~dはGRUwd自分で学習するパラメータであり、同じ理屈で他のGRUにも似たようなパラメータを学習する必要があり、上記9つのGRUユニットをまとめてマルチチャンネルGRUユニットMultiGRUと呼び、
3)マルチエッジアテンションユニットとマルチチャンネルGRUユニットをマージし、動的アテンションユニット(DynamicGAT)と呼ばれる新しい処理ユニットを形成しを生成し、マージ式は以下の通りであり、
式を簡略化し、表現しやすくするために、Wd,Wp,Ws,Wtc, Wtbこの5つのパラメータをWにマージし、ad,ap,as,atこの4つのパラメータをaにマージし、
【0060】
【0061】
上記ステップ5は、時間軸上の1つの動的アテンションユニットの情報伝達と情報集約について述べ、ここで、各時点で空間的に多層に集約することが自然に可能である場合、上記動的アテンションユニットの式は以下に表すステップ6と、
【0062】
【0063】
上記において、上付き文字lは、空間的な集約の層数を表し、ここで、1層の集約を追加するごとに、グラフにおけるノードの次の隣接情報をそのノードに「圧する」ことを意味し、多層隣接関係に含まれた情報をうまく利用し、これにより時間的な次元の情報伝達と空間的な次元の多層集約を含む、動的学習可能なグラフネットワークを構築し、
上述した動的アテンショングラフネットワークの最後の1層の最後の時刻の出力(次式)表現をSoftmaxにより活性化してノードの裁定取引リスクを予測する確率Pにマッピングするステップ7と、
【0064】
【0065】
上記のすべてのステップを1回の完全な学習イテレーションと呼び、学習イテレーションを行う場合は、分散データベースモジュールから必要な情報をサーバメモリに同期させ、且つ必要な学習パラメータを初期化してから、複数回の完全な学習イテレーションを行い、完全な学習イテレーションするたびにラベル付きノードVlabeledのみを対象にし、交差エントロピー誤差関数を用いて損失計算を行い、Adam最適化アルゴリズムを用いて勾配更新を行い、最後は、N回の完全な学習イテレーションを経て、動的アテンショングラフネットワークに必要なパラメータを学習し、動的アテンショングラフネットワークの学習を完了するステップ8と、
学習した動的アテンションネットワークをリスクマネジメント意思決定モジュールに配置し、オンラインにてマーケティング裁定取引リスク確率予測を行い、確率意思決定閾値P = σを設定し、予測したリスク確率がσより大きい場合、マーケティング裁定取引リスク群と判断し、後続のインターセプトなどの処理操作を行うステップ9。
【0066】
具体的には、以下のように例示し、
1、ユーザノード属性固有ベクトル、経験値m = 256
2、商人ノード属性固有ベクトル、経験値l = 128
3、T個の時刻、T値T = 10
4、ラベル付きVlabeledとラベルなしVunlabeledの2種類のパターン比例(次式)
【0067】
【0068】
5、空間的な集約層レベル(L)、値の取る範囲は、{L|2≦L≦3, L∈Z}
6、予測認識時の意思決定閾値σの値はσ = 0.5。
【0069】
本発明の技術的な手段は以下の通りであり、
本願は、動的アテンショングラフネットワークに基づくマーケティング裁定取引ネット暗黒産業の識別方法を提案し、それは以下の利点を有し、第一は、ユーザーノードと、商人ノードと、多次元関係と複数の時刻からなる新型動的グラフネットワーク構造を定義し、2)ユーザーノードと、商人ノードと、多次元関係の統一をより効果的に実現し、さらにノードの空間的構造の情報集約をより良く実現するために、新型マルチエッジアテンションユニットを設計し、3)グラフネットワークの時間動態性において、マルチチャンネルGRUユニットを通じてアテンション情報を伝達する動的モードを設計し、グラフネットワークの時間軸上の発展情報も有効に伝達されるようになり、4)マルチエッジアテンションユニットとマルチチャンネルGRUユニットを効果的にマージし、動的アテンションユニットという新しい処理ユニットを提案し、該ユニットを用いて構築された動的アテンショングラフネットワークにより、時間的な次元の情報を有効に伝達できるとともに、空間的な次元の多層隣接情報を効率的に集約することもできる。
【0070】
最後に、上述は本発明の好適な実施形態にすぎず、本発明を限定するためには使用されないが、上述の実施形態を参照して本発明を詳細に説明したが、当業者にとっては、上述の各実施形態に記載された技術的態様を修正したり、技術的特徴の一部を同等に置き換えたりすることができる。本発明の精神と原則の中で、行ったいかなる修正、等価置換、改良などは、本発明の保護範囲に含まれるべきである。
【国際調査報告】