特開 2023-164347 関連商品を推薦するための方法、コンピュータ装置、およびコンピュータプログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2023164347

(43)【公開日】2023-11-10

(54)【発明の名称】関連商品を推薦するための方法、コンピュータ装置、およびコンピュータプログラム

(51)【国際特許分類】

   G06Q 50/10 20120101AFI20231102BHJP

【ＦＩ】

G06Q50/10

【審査請求】有

【請求項の数】20

【出願形態】ＯＬ

(21)【出願番号】P 2023071001

(22)【出願日】2023-04-24

(31)【優先権主張番号】10-2022-0053473

(32)【優先日】2022-04-29

(33)【優先権主張国・地域又は機関】KR

(31)【優先権主張番号】10-2022-0074854

(32)【優先日】2022-06-20

(33)【優先権主張国・地域又は機関】KR

(71)【出願人】

【識別番号】505205812

【氏名又は名称】ネイバー コーポレーション

【氏名又は名称原語表記】ＮＡＶＥＲ Ｃｏｒｐｏｒａｔｉｏｎ

(74)【代理人】

【識別番号】100107766

【弁理士】

【氏名又は名称】伊東 忠重

(74)【代理人】

【識別番号】100070150

【弁理士】

【氏名又は名称】伊東 忠彦

(74)【代理人】

【識別番号】100135079

【弁理士】

【氏名又は名称】宮崎 修

(72)【発明者】

【氏名】キム・チュンギ

(72)【発明者】

【氏名】キム・ドンヒョン

(72)【発明者】

【氏名】ヤン・ミンチョル

(72)【発明者】

【氏名】イ・ジョンテ

【テーマコード（参考）】

5L049

【Ｆターム（参考）】

5L049CC12

(57)【要約】

【課題】関連商品を推薦するための方法、コンピュータ装置、およびコンピュータプログラムを提供する。
【解決手段】関連商品を推薦するための方法は、ショッピングドメインの商品に対する履歴に基づいて、商品と関連するコンテンツ情報を利用して自然語推論タスクのための対照ペアデータセットを構成する段階、および対照ペアデータセットを利用して、自然語推論タスクに対する言語モデルの事前トレーニングによってショッピングドメインに適用するための商品推薦モデルを生成する段階を含む。
【選択図】図７

【特許請求の範囲】

【請求項1】

コンピュータ装置で実行される方法であって、
前記コンピュータ装置は、メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも１つのプロセッサを含み、
当該方法は、
前記少なくとも１つのプロセッサが、ショッピングドメインの商品に対する履歴に基づいて、前記商品と関連するコンテンツ情報を利用して自然語推論タスクのための対照ペアデータセット（ｃｏｎｔｒａｓｔｉｖｅ ｐａｉｒ ｄａｔａｓｅｔ）を構成する段階、および
前記少なくとも１つのプロセッサが、前記対照ペアデータセットを利用して、前記自然語推論タスクに対する言語モデルの事前トレーニング（ｐｒｅ－ｔｒａｉｎｅｄ）によって前記ショッピングドメインに適用するための商品推薦モデルを生成する段階
を含む、方法。

【請求項2】

前記構成する段階は、
前提（ｐｒｅｍｉｓｅ）商品ごとに複数のポジティブサンプルとネガティブサンプルに該当する仮説（ｈｙｐｏｔｈｅｓｉｓ）商品を選定して前記対照ペアデータセットを構成すること
を特徴とする、請求項１に記載の方法。

【請求項3】

前記構成する段階は、
含意（ｅｎｔａｉｌｍｅｎｔ）関係の商品ペアに対する各商品のコンテンツ情報からなるポジティブデータペアを構成する段階、および
矛盾（ｃｏｎｔｒａｄｉｃｔｉｏｎ）関係の商品ペアに対する各商品のコンテンツ情報からなるポジティブデータペアを構成する段階
を含む、請求項１に記載の方法。

【請求項4】

前記構成する段階は、
制限時間内にクリックされた商品ペアをポジティブサンプルとして選定する段階、および
前記ポジティブサンプルとして選定された商品をシードとし、シード商品とともに表示された商品のうちで前記制限時間内にクリックされなかった商品をネガティブサンプルとして選定する段階
を含む、請求項１に記載の方法。

【請求項5】

前記制限時間は、クリック商品に対する購入転換率とカテゴリ変化程度のうちの少なくとも一方に基づいて決定されること
を特徴とする、請求項４に記載の方法。

【請求項6】

前記ポジティブサンプルとして選定する段階は、
一部カテゴリの商品と表示偏向商品のうちの少なくとも一方を前記ポジティブサンプルの選定対象から除外する段階
を含む、請求項４に記載の方法。

【請求項7】

前記ネガティブサンプルとして選定する段階は、
前記制限時間内にクリックされなかった商品のうちで表示回数が一定のレベル以上の商品を前記ネガティブサンプルとして選定すること
を特徴とする、請求項４に記載の方法。

【請求項8】

前記生成する段階は、
ＢＥＲＴ（Ｂｉｄｉｒｅｃｔｉｏｎａｌ Ｅｎｃｏｄｅｒ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎｓ ｆｒｏｍ Ｔｒａｎｓｆｏｒｍｅｒ）モデルを、前記対照ペアデータセットを利用した前記自然語推論タスクによってファインチューニング（ｆｉｎｅ ｔｕｎｉｎｇ）して前記商品推薦モデルを生成すること
を特徴とする、請求項１に記載の方法。

【請求項9】

前記生成する段階は、
前提商品と仮説商品に対して、自然語からなるコンテンツ情報を１つのネットワークに同時入力してエンコード（ｅｎｃｏｄｉｎｇ）とソフトマックス（ｓｏｆｔｍａｘ）を実行する方式により、前記前提商品と前記仮説商品の関連可否をフィッティング（ｆｉｔｔｉｎｇ）する段階
を含む、請求項１に記載の方法。

【請求項10】

当該方法は、
前記少なくとも１つのプロセッサが、前記商品推薦モデルを基本モデルとし、前記基本モデルにシャムネットワーク（Ｓｉａｍｅｓｅ ｎｅｔｗｏｒｋ）を共同学習（ｊｏｉｎｔｌｙ ｌｅａｒｎｉｎｇ）することにより、結合学習モデルに前記商品推薦モデルを拡張する段階
をさらに含む、請求項１に記載の方法。

【請求項11】

前記拡張する段階は、
１つのエンコードモデルを利用して前記自然語推論タスクに基づいた第１損失と前記シャムネットワークに基づいた第２損失を求めた後、前記第１損失と前記第２損失をバックワード（ｂａｃｋｗａｒｄ）として計算した最終損失によって前記商品推薦モデルを最適化する段階
を含む、請求項１０に記載の方法。

【請求項12】

前記拡張する段階は、
前記自然語推論タスクに基づいた第１損失と前記シャムネットワークに基づいた第２損失の加重和（Ｗｅｉｇｈｔｅｄ Ｓｕｍ）として求めた最終損失によって前記商品推薦モデルを最適化する段階
を含む、請求項１０に記載の方法。

【請求項13】

当該方法は、
前記少なくとも１つのプロセッサが、与えられた基準商品に対して、前記商品推薦モデルを利用して前記基準商品のコンテンツ情報に基づいて関連商品を推薦する段階
をさらに含む、請求項１０に記載の方法。

【請求項14】

前記推薦する段階は、
前記シャムネットワークに基づいて、個別商品の埋め込みに基づいて前記基準商品に対する関連商品プールを構成する段階、および
前記関連商品プールに対して、前記基準商品との関連度を前記自然語推論タスクの推論結果によってリランキングする段階
を含む、請求項１３に記載の方法。

【請求項15】

請求項１～１４のうちのいずれか一項に記載の方法をコンピュータ装置に実行させるためのコンピュータプログラム。

【請求項16】

コンピュータ装置であって、
メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも１つのプロセッサ
を含み、
前記少なくとも１つのプロセッサは、
ショッピングドメインの商品に対する履歴に基づいて、前記商品と関連するコンテンツ情報を利用して自然語推論タスクのための対照ペアデータセットを構成する過程、および
前記対照ペアデータセットを利用して、前記自然語推論タスクに対する言語モデルの事前トレーニングによって前記ショッピングドメインに適用するための商品推薦モデルを生成する過程
を処理する、コンピュータ装置。

【請求項17】

前記少なくとも１つのプロセッサは、
前提商品ごとに複数のポジティブサンプルとネガティブサンプルに該当する仮説商品を選定して前記対照ペアデータセットを構成すること
を特徴とする、請求項１６に記載のコンピュータ装置。

【請求項18】

前記少なくとも１つのプロセッサは、
制限時間内にクリックされた商品ペアをポジティブサンプルとして選定し、
前記ポジティブサンプルとして選定された商品をシードとし、シード商品とともに表示されてから前記制限時間内にクリックされなかった商品のうちで表示回数が一定のレベル以上の商品をネガティブサンプルとして選定すること
を特徴とする、請求項１６に記載のコンピュータ装置。

【請求項19】

前記少なくとも１つのプロセッサは、
前提商品と仮説商品に対して、自然語からなるコンテンツ情報を１つのネットワークに同時入力してエンコードとソフトマックスを実行する方式により、前記前提商品と前記仮説商品の関連状態をフィッティングすること
を特徴とする、請求項１６に記載のコンピュータ装置。

【請求項20】

前記少なくとも１つのプロセッサは、
前記商品推薦モデルを基本モデルとし、前記基本モデルにシャムネットワークを共同学習することにより、結合学習モデルによって前記商品推薦モデルを拡張すること
を特徴とする、請求項１６に記載のコンピュータ装置。

【発明の詳細な説明】

【技術分野】

【0001】

以下の説明は、関連商品を推薦する技術に関する。

【背景技術】

【0002】

インターネット商品の推薦は、購入履歴を利用して個人に最適化された商品を選別して推薦するのが一般的である。

【0003】

商品の推薦のために使用される主な方法として、商品推薦の対象となるユーザと購入履歴が類似するユーザを選別し、類似ユーザが購入した商品のうちで推薦対象ユーザが未購入の商品を推薦する協調フィルタリング（Ｃｏｌｌａｂｏｒａｔｉｖｅ Ｆｉｌｔｅｒｉｎｇ）や、多数のユーザの購入記録を利用し、商品ごとに同時購入または同時クリックの可能性が高い商品を推薦する相関ルールマイニング（Ａｓｓｏｃｉａｔｉｏｎ Ｒｕｌｅ Ｍｉｎｉｎｇ）のようなアルゴリズムが利用されている。

【0004】

例えば、特許文献１（登録日２００９年２月２日）には、ユーザ端末機にインストールされた情報推薦エージェントが認識した商品の商品コード、商品名、またはモデルなどを利用して商品に関する商品情報を自動推薦する技術が開示されている。

【先行技術文献】

【特許文献】

【0005】

【特許文献1】韓国登録特許第１０－０８８２７１６号公報

【発明の概要】

【発明が解決しようとする課題】

【0006】

文章間の関係を分類する自然語推論タスクに基づいて、コールドアイテム（ｃｏｌｄ ｉｔｅｍ）に強い関連商品推薦モデルを提供する。

【課題を解決するための手段】

【0007】

コンピュータ装置で実行される方法であって、前記コンピュータ装置は、メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも１つのプロセッサを含み、前記方法は、前記少なくとも１つのプロセッサにより、ショッピングドメインの商品に対する履歴に基づいて、前記商品と関連するコンテンツ情報を利用して自然語推論タスクのための対照ペアデータセット（ｃｏｎｔｒａｓｔｉｖｅ ｐａｉｒ ｄａｔａｓｅｔ）を構成する段階、および前記少なくとも１つのプロセッサにより、前記対照ペアデータセットを利用して、前記自然語推論タスクに対する言語モデルの事前トレーニング（ｐｒｅ－ｔｒａｉｎｅｄ）によって前記ショッピングドメインに適用するための商品推薦モデルを生成する段階を含む、方法を提供する。

【0008】

一側面によると、前記構成する段階は、前提（ｐｒｅｍｉｓｅ）商品ごとに複数のポジティブサンプルとネガティブサンプルに該当する仮説（ｈｙｐｏｔｈｅｓｉｓ）商品を選定して前記対照ペアデータセットを構成してよい。

【0009】

他の側面によると、前記構成する段階は、含意（ｅｎｔａｉｌｍｅｎｔ）関係の商品ペアに対する各商品のコンテンツ情報からなるポジティブデータペアを構成する段階、および矛盾（ｃｏｎｔｒａｄｉｃｔｉｏｎ）関係の商品ペアに対する各商品のコンテンツ情報からなるポジティブデータペアを構成する段階を含んでよい。

【0010】

また他の側面によると、前記構成する段階は、制限時間内にクリックされた商品ペアをポジティブサンプルとして選定する段階、および前記ポジティブサンプルとして選定された商品をシードとし、シード商品とともに表示された商品のうちで前記制限時間内にクリックされなかった商品をネガティブサンプルとして選定する段階を含んでよい。

【0011】

また他の側面によると、前記制限時間は、クリック商品に対する購入転換率とカテゴリ変化程度のうちの少なくとも一方に基づいて決定されてよい。

【0012】

また他の側面によると、前記ポジティブサンプルとして選定する段階は、一部カテゴリの商品と表示偏向商品のうちの少なくとも一方を前記ポジティブサンプルの選定対象から除外する段階を含んでよい。

【0013】

また他の側面によると、前記ネガティブサンプルとして選定する段階は、前記制限時間内にクリックされなかった商品のうちで表示回数が一定のレベル以上の商品を前記ネガティブサンプルとして選定してよい。

【0014】

また他の側面によると、前記生成する段階は、ＢＥＲＴ（Ｂｉｄｉｒｅｃｔｉｏｎａｌ Ｅｎｃｏｄｅｒ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎｓ ｆｒｏｍ Ｔｒａｎｓｆｏｒｍｅｒ）モデルを、前記対照ペアデータセットを利用した前記自然語推論タスクによってファインチューニング（ｆｉｎｅｔｕｎｉｎｇ）して前記商品推薦モデルを生成してよい。

【0015】

また他の側面によると、前記生成する段階は、前提商品と仮説商品に対して自然語からなるコンテンツ情報を１つのネットワークに同時入力してエンコード（ｅｎｃｏｄｉｎｇ）とソフトマックス（ｓｏｆｔｍａｘ）を実行する方式により、前記前提商品と前記仮説商品との関連可否をフィッティング（ｆｉｔｔｉｎｇ）する段階を含んでよい。

【0016】

また他の側面によると、前記方法は、前記少なくとも１つのプロセッサにより、前記商品推薦モデルを基本モデルとし、前記基本モデルにシャムネットワーク（Ｓｉａｍｅｓｅ ｎｅｔｗｏｒｋ）を共同学習（ｊｏｉｎｔｌｙ ｌｅａｒｎｉｎｇ）することにより、結合学習モデルによって前記商品推薦モデルを拡張する段階をさらに含んでよい。

【0017】

また他の側面によると、前記拡張する段階は、１つのエンコードモデルを利用して前記自然語推論タスクに基づいた第１損失と前記シャムネットワークに基づいた第２損失を求めた後、前記第１損失と前記第２損失をバックワード（ｂａｃｋｗａｒｄ）として計算した最終損失によって前記商品推薦モデルを最適化する段階を含んでよい。

【0018】

また他の側面によると、前記拡張する段階は、前記自然語推論タスクに基づいた第１損失と前記シャムネットワークに基づいた第２損失の加重和（Ｗｅｉｇｈｔｅｄ Ｓｕｍ）として求めた最終損失によって前記商品推薦モデルを最適化する段階を含んでよい。

【0019】

また他の側面によると、前記方法は、前記少なくとも１つのプロセッサにより、与えられた基準商品に対して前記商品推薦モデルを利用して、前記基準商品のコンテンツ情報に基づいて関連商品を推薦する段階をさらに含んでよい。

【0020】

さらに他の側面によると、前記推薦する段階は、前記シャムネットワークを基盤に、個別商品の埋め込みに基づいて前記基準商品に対する関連商品プールを構成する段階、および前記関連商品プールに対して、前記基準商品との関連度を前記自然語推論タスクの推論結果によってリランキングする段階を含んでよい。

【0021】

前記方法をコンピュータ装置に実行させるためのコンピュータプログラムを提供する。

【0022】

コンピュータ装置であって、メモリに含まれるコンピュータ読み取り可能な命令を実行するように構成された少なくとも１つのプロセッサを含み、前記少なくとも１つのプロセッサは、ショッピングドメインの商品に対する履歴に基づいて、前記商品と関連するコンテンツ情報を利用して自然語推論タスクのための対照ペアデータセットを構成する過程、および前記対照ペアデータセットを利用して、前記自然語推論タスクに対する言語モデルの事前トレーニングによって前記ショッピングドメインに適用するための商品推薦モデルを生成する過程を処理する、コンピュータ装置を提供する。

【発明の効果】

【0023】

本発明の実施形態によると、文章間の関係を分類する自然語推論タスクに基づいて自然語からなるコンテンツ情報を利用して２つの商品の関連性を学習したモデルによって大規模データに対してサービスすることができ、購入履歴などのユーザデータが不足な商品を関連商品として推薦することができる。

【0024】

本発明の実施形態によると、１つのネットワークに基準商品と比較商品を同時入力とし、当該ネットワーク内で相互間のデータを参照したエンコードによって商品間の動的な関連可否をフィッティング（ｆｉｔｔｉｎｇ）することができ、商品に対するコンテンツ情報だけでなく履歴情報まで内製された関連商品推薦モデルを実現することができる。

【0025】

本発明の実施形態によると、自然語推論タスク基盤のモデルにシャムネットワーク（Ｓｉａｍｅｓｅ ｎｅｔｗｏｒｋ）を結合することにより、関連商品推薦のためのモデルとして動的かつ変化（ｖａｒｉａｎｃｅ）が大きい埋め込み空間を構成することができる。

【図面の簡単な説明】

【0026】

【図1】本発明の一実施形態における、ネットワーク環境の例を示した図である。

【図2】本発明の一実施形態における、コンピュータ装置の例を示したブロック図である。

【図3】本発明の一実施形態における、コンピュータ装置が実行することができる方法の一例を示したフローチャートである。

【図4】関連商品の埋め込み空間の例を示した図である。

【図5】関連商品の埋め込み空間の例を示した図である。

【図6】シャムネットワーク構造の例を示した図である。

【図7】本発明の一実施形態における、関連商品推薦モデルを生成する過程を示したフローチャートである。

【図8】本発明の一実施形態における、自然語推論タスクの対照ペアデータセットの例を示した図である。

【図9】本発明の一実施形態における、自然語推論タスク基盤のネットワーク構造の例を示した図である。

【図10】本発明の一実施形態における、文章隋伴関係タスク構造の関連商品推薦モデルの例を示した図である。

【発明を実施するための形態】

【0027】

以下、本発明の実施形態について、添付の図面を参照しながら詳しく説明する。

【0028】

本発明の実施形態は、関連商品を推薦する技術に関する。

【0029】

本明細書で具体的に開示される事項を含む実施形態は、文章間の関係を分類する自然語推論タスクに基づいて、コールドアイテムに強い関連商品推薦モデルを提供することができる。

【0030】

本発明の実施形態に係る関連商品推薦システムは、少なくとも１つのコンピュータ装置によって実現されてよく、本発明の実施形態に係る関連商品推薦方法は、関連商品推薦システムに含まれる少なくとも１つのコンピュータ装置によって実行されてよい。このとき、コンピュータ装置においては、本発明の一実施形態に係るコンピュータプログラムがインストールされて実行されてよく、コンピュータ装置は、実行されたコンピュータプログラムの制御に従って本発明の実施形態に係る関連商品推薦方法を実行してよい。上述したコンピュータプログラムは、コンピュータ装置と結合して関連商品推薦方法をコンピュータに実行させるためにコンピュータ読み取り可能な記録媒体に記録されてよい。

【0031】

図１は、本発明の一実施形態における、ネットワーク環境の例を示した図である。図１のネットワーク環境は、複数の電子機器１１０、１２０、１３０、１４０、複数のサーバ１５０、１６０、およびネットワーク１７０を含む例を示している。このような図１は、発明の説明のための一例に過ぎず、電子機器の数やサーバの数が図１のように限定されることはない。また、図１のネットワーク環境は、本実施形態に適用可能な環境の一例に過ぎず、本実施形態に適用可能な環境が図１のネットワーク環境に限定されることはない。

【0032】

複数の電子機器１１０、１２０、１３０、１４０は、コンピュータ装置によって実現される固定端末や移動端末であってよい。複数の電子機器１１０、１２０、１３０、１４０の例としては、スマートフォン、携帯電話、ナビゲーション、ＰＣ（ｐｅｒｓｏｎａｌ ｃｏｍｐｕｔｅｒ）、ノート型ＰＣ、デジタル放送用端末、ＰＤＡ（Ｐｅｒｓｏｎａｌ Ｄｉｇｉｔａｌ Ａｓｓｉｓｔａｎｔ）、ＰＭＰ（Ｐｏｒｔａｂｌｅ Ｍｕｌｔｉｍｅｄｉａ Ｐｌａｙｅｒ）、タブレットなどがある。一例として、図１では、電子機器１１０の例としてスマートフォンを示しているが、本発明の実施形態において、電子機器１１０は、実質的に無線または有線通信方式を利用し、ネットワーク１７０を介して他の電子機器１２０、１３０、１４０および／またはサーバ１５０、１６０と通信することができる多様な物理的なコンピュータシステムのうちの１つを意味してよい。

【0033】

通信方式が限定されることはなく、ネットワーク１７０が含むことのできる通信網（一例として、移動通信網、有線インターネット、無線インターネット、放送網）を利用する通信方式だけではなく、機器間の近距離無線通信が含まれてもよい。例えば、ネットワーク１７０は、ＰＡＮ（ｐｅｒｓｏｎａｌ ａｒｅａ ｎｅｔｗｏｒｋ）、ＬＡＮ（ｌｏｃａｌ ａｒｅａ ｎｅｔｗｏｒｋ）、ＣＡＮ（ｃａｍｐｕｓ ａｒｅａ ｎｅｔｗｏｒｋ）、ＭＡＮ（ｍｅｔｒｏｐｏｌｉｔａｎ ａｒｅａ ｎｅｔｗｏｒｋ）、ＷＡＮ（ｗｉｄｅ ａｒｅａ ｎｅｔｗｏｒｋ）、ＢＢＮ（ｂｒｏａｄｂａｎｄ ｎｅｔｗｏｒｋ）、インターネットなどのネットワークのうちの１つ以上の任意のネットワークを含んでよい。さらに、ネットワーク１７０は、バスネットワーク、スターネットワーク、リングネットワーク、メッシュネットワーク、スター－バスネットワーク、ツリーまたは階層的ネットワークなどを含むネットワークトポロジのうちの任意の１つ以上を含んでもよいが、これらに限定されることはない。

【0034】

サーバ１５０、１６０それぞれは、複数の電子機器１１０、１２０、１３０、１４０とネットワーク１７０を介して通信して命令、コード、ファイル、コンテンツ、サービスなどを提供する１つ以上のコンピュータ装置によって実現されてよい。例えば、サーバ１５０は、ネットワーク１７０を介して接続した複数の電子機器１１０、１２０、１３０、１４０にサービス（一例として、商品推薦サービスなど）を提供するシステムであってよい。

【0035】

図２は、本発明の一実施形態における、コンピュータ装置の例を示したブロック図である。上述した複数の電子機器１１０、１２０、１３０、１４０それぞれやサーバ１５０、１６０それぞれは、図２に示したコンピュータ装置２００によって実現されてよい。

【0036】

このようなコンピュータ装置２００は、図２に示すように、メモリ２１０、プロセッサ２２０、通信インタフェース２３０、および入力／出力インタフェース２４０を含んでよい。メモリ２１０は、コンピュータ読み取り可能な記録媒体であって、ＲＡＭ（ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ）、ＲＯＭ（ｒｅａｄ ｏｎｌｙ ｍｅｍｏｒｙ）、およびディスクドライブのような永続的大容量記録装置を含んでよい。ここで、ＲＯＭやディスクドライブのような永続的大容量記録装置は、メモリ２１０とは区分される別の永続的記録装置としてコンピュータ装置２００に含まれてもよい。また、メモリ２１０には、オペレーティングシステムと、少なくとも１つのプログラムコードが記録されてよい。このようなソフトウェア構成要素は、メモリ２１０とは別のコンピュータ読み取り可能な記録媒体からメモリ２１０にロードされてよい。このような別のコンピュータ読み取り可能な記録媒体は、フロッピー（登録商標）ドライブ、ディスク、テープ、ＤＶＤ／ＣＤ－ＲＯＭドライブ、メモリカードなどのコンピュータ読み取り可能な記録媒体を含んでよい。他の実施形態において、ソフトウェア構成要素は、コンピュータ読み取り可能な記録媒体ではない通信インタフェース２３０を通じてメモリ２１０にロードされてもよい。例えば、ソフトウェア構成要素は、ネットワーク１７０を介して受信されるファイルによってインストールされるコンピュータプログラムに基づいてコンピュータ装置２００のメモリ２１０にロードされてよい。

【0037】

プロセッサ２２０は、基本的な算術、ロジック、および入出力演算を実行することにより、コンピュータプログラムの命令を処理するように構成されてよい。命令は、メモリ２１０または通信インタフェース２３０によって、プロセッサ２２０に提供されてよい。例えば、プロセッサ２２０は、メモリ２１０のような記録装置に記録されたプログラムコードに従って受信される命令を実行するように構成されてよい。

【0038】

通信インタフェース２３０は、ネットワーク１７０を介してコンピュータ装置２００が他の装置（一例として、上述した記録装置）と互いに通信するための機能を提供してよい。一例として、コンピュータ装置２００のプロセッサ２２０がメモリ２１０のような記録装置に記録されたプログラムコードに従って生成した要求や命令、データ、ファイルなどが、通信インタフェース２３０の制御に従ってネットワーク１７０を介して他の装置に伝達されてよい。これとは逆に、他の装置からの信号や命令、データ、ファイルなどが、ネットワーク１７０を経てコンピュータ装置２００の通信インタフェース２３０を通じてコンピュータ装置２００に受信されてよい。通信インタフェース２３０を通じて受信された信号や命令、データなどは、プロセッサ２２０やメモリ２１０に伝達されてよく、ファイルなどは、コンピュータ装置２００がさらに含むことのできる記録媒体（上述した永続的記録装置）に記録されてよい。

【0039】

入力／出力インタフェース２４０は、入力／出力装置２５０とのインタフェースのための手段であってよい。例えば、入力装置は、マイク、キーボード、またはマウスなどの装置を、出力装置は、ディスプレイ、スピーカのような装置を含んでよい。他の例として、入力／出力インタフェース２４０は、タッチスクリーンのように入力と出力のための機能が１つに統合された装置とのインタフェースのための手段であってもよい。入力／出力装置２５０は、コンピュータ装置２００と１つの装置で構成されてもよい。

【0040】

また、他の実施形態において、コンピュータ装置２００は、図２の構成要素よりも少ないか多くの構成要素を含んでもよい。しかし、大部分の従来技術的構成要素を明確に図に示す必要はない。例えば、コンピュータ装置２００は、上述した入力／出力装置２５０のうちの少なくとも一部を含むように実現されてもよいし、トランシーバ、データベースなどのような他の構成要素をさらに含んでもよい。

【0041】

以下では、関連商品を推薦するための方法および装置の具体的な実施形態について説明する。

【0042】

ショッピングドメインで関連商品を推薦するために、協調フィルタリング基盤の推薦モデル、ＭＰＶ（Ｍｅｔａ Ｐｒｏｄｕｃｔ２Ｖｅｃｔｏｒ）基盤の推薦モデル、シャムネットワーク（Ｓｉａｍｅｓｅ ｎｅｔｗｏｒｋ）、およびトリプレットネットワーク（ｔｒｉｐｌｅｔ ｎｅｔｗｏｒｋ）基盤の推薦モデルなどが活用されている。

【0043】

このような関連商品推薦モデルは、ユーザによる履歴がどれほど多いか少ないかによって推薦性能が左右される。ある程度の履歴がある商品を中心に推薦が行われることから、一部商品に履歴が集中する推薦勾配現象が発生する可能性が高い。言い換えれば、履歴が足りないコールドアイテムの場合は、多くの履歴を保有するウォームアイテム（ｗａｒｍ ｉｔｅｍ）に比べて推薦のチャンスが少ないという問題がある。

【0044】

本実施形態は、ユーザと商品の間に履歴が少ない場合でも多様な商品推薦を可能にする新たな方法論を提供するものであり、文章間の関係を分類する自然語推論タスクである文章隋伴関係タスクに基づいて、コールドアイテムに強い関連商品推薦モデルを提供することができる。

【0045】

本明細書において、履歴とは、ショッピングドメイン上の商品に対するユーザのクリック履歴や購入履歴はもちろん、カート追加、「いいね」設定などのように商品とユーザ間のインタラクションを意味してよい。

【0046】

本実施形態に係るコンピュータ装置２００は、クライアントを対象に、クライアント上にインストールされた専用アプリケーションやコンピュータ装置２００と関連するウェブ／モバイルサイトへの接続によって商品推薦サービスを提供してよい。コンピュータ装置２００には、コンピュータによって実現された関連商品推薦システムが構成されてよい。一例として、関連商品推薦システムは、独立的に動作するプログラム形態で実現されてもよいし、特定のアプリケーションのイン－アプリ（ｉｎ－ａｐｐ）形態で構成されて、その特定のアプリケーション上で動作が可能となるように実現されてもよい。

【0047】

コンピュータ装置２００のプロセッサ２２０は、以下の関連商品推薦方法を実行するための構成要素によって実現されてよい。実施形態によって、プロセッサ２２０の構成要素は、選択的にプロセッサ２２０に含まれてもよく、除外されてもよい。また、実施形態によって、プロセッサ２２０の構成要素は、プロセッサ２２０の機能の表現のために分離されても併合されてもよい。

【0048】

このようなプロセッサ２２０およびプロセッサ２２０の構成要素は、以下の関連商品推薦方法に含まれる段階を実行するようにコンピュータ装置２００を制御してよい。例えば、プロセッサ２２０およびプロセッサ２２０の構成要素は、メモリ２１０が含むオペレーティングシステムのコードと、少なくとも１つのプログラムのコードとによる命令（ｉｎｓｔｒｕｃｔｉｏｎ）を実行するように実現されてよい。

【0049】

ここで、プロセッサ２２０の構成要素は、コンピュータ装置２００に記録されたプログラムコードが提供する命令に従ってプロセッサ２２０によって実行される、互いに異なる機能（ｄｉｆｆｅｒｅｎｔ ｆｕｎｃｔｉｏｎｓ）の表現であってよい。

【0050】

プロセッサ２２０は、コンピュータ装置２００の制御と関連する命令がロードされたメモリ２１０から必要な命令を読み取ってよい。この場合、読み取られた命令は、プロセッサ２２０が以下で説明する段階を実行するように制御するための命令を含んでよい。

【0051】

以下で説明する関連商品推薦方法に含まれる段階は、図に示したものとは異なる順序で実行されてもよいし、段階のうちの一部が省略されたり追加の過程がさらに含まれたりしてもよい。

【0052】

図３は、本発明の一実施形態における、コンピュータ装置が実行することができる方法の一例を示したフローチャートである。

【0053】

図３を参照すると、段階３１０において、プロセッサ２２０は、商品のコンテンツ情報を利用して商品間の関係を分類する自然語推論タスクに基づいて関連商品推薦モデルを生成してよい。コンテンツ情報とは、商品と関連して自然語で構成された付加情報（Ｓｉｄｅ Ｉｎｆｏｒｍａｔｉｏｎ）であって、例えば、商品名、ブランド、モデル、カテゴリ、商品属性などを含んでよい。自然語推論タスクとは、前提（ｐｒｅｍｉｓｅ）文章に対して仮説（ｈｙｐｏｔｈｅｓｉｓ）文章が互い適切に繋がるかを判断するものであって、２つの文章の関係を含意（ｅｎｔａｉｌｍｅｎｔ）（すなわち、真）または矛盾（ｃｏｎｔｒａｄｉｃｔｉｏｎ）（すなわち、偽）に分類する自然語分野のタスクを意味する。一例として、プロセッサ２２０は、言語モデルに基づいて、ショッピングドメインでのコンテンツ情報を適切に理解するモデルを生成してよい。言語モデルでは、次の文章予測（Ｎｅｘｔ ｓｅｎｔｅｎｃｅ Ｐｒｅｄｉｃｔｉｏｎ）という事前トレーニング（ｐｒｅ－ｔｒａｉｎ）のためのタスクとして自然語推論タスクが使用されてよい。プロセッサ２２０は、自然語からなるコンテンツ情報を利用した自然語推論タスクを通じて商品間の関連性を判断するように言語モデルを事前トレーニングする方式によって関連商品推薦モデルを生成してよい。

【0054】

段階３２０において、プロセッサ２２０は、与えられた基準商品に対して、関連商品推薦モデルを利用して基準商品のコンテンツ情報に基づいて関連商品を推薦してよい。プロセッサ２２０は、ユーザがクリックした商品や購入した商品などを基準商品とし、基準商品との代替が可能な同一カテゴリの商品、基準商品とともに使用しやすい商品であって互換性に優れた他のカテゴリの商品などを関連商品として推薦してよい。このとき、プロセッサ２２０は、相互間に関連商品の可能性がある商品プール（ｐｏｏｌ）を先に生成した後、商品プールに対する関連度を自然語推論タスクの推論結果によってリランキング（ｒｅ－ｒａｎｋｉｎｇ）する方式によって商品推薦サービスを提供してよい。プロセッサ２２０は、基準商品のコンテンツ情報を前提文章とし、比較商品のコンテンツ情報を仮説文章として２つの文章の関連度を推論し、基準商品との含意関係が予測される商品を関連商品として推薦してよい。

【0055】

コールドアイテムに強い関連商品推薦モデルを生成する過程について、次のように具体的に説明する。

【0056】

コールドアイテム推薦問題を解決するための方法論の１つである協調フィルタリング基盤の推薦モデルは、アイテムに対してユーザによる履歴に基づいて埋め込みを求め、アイテムの多様な付加情報（Ｓｉｄｅ Ｉｎｆｏｒｍａｔｉｏｎ）に基づいて埋め込みを求めた後、履歴によって求めたアイテムの埋め込みと付加情報によって求めたアイテムの埋め込みが近くなるように最適化する方式を使用する。協調フィルタリング基盤の推薦モデルを活用する場合、履歴のないアイテムに対しては、当該アイテムがもつ付加情報に基づいて関連商品を推薦する。

【0057】

しかし、協調フィルタリング基盤の推薦モデルの場合、協調フィルタリングによってデータのサイズが大きくなり、多くの学習時間とリソースが必要となるため、ショッピングのようにユーザやアイテムなどの大規模データを備えるサービスへの適用には限界があり、相応しくない。

【0058】

コールドアイテム推薦問題を解決するための方法論の他の１つであるＭＰＶ基盤の推薦モデルは、互いに関連する商品ペアに対して、商品のＩＤを活用して求めた固有ベクトルとコンテンツ情報をエンコードしたベクトルの類似度が高まるように学習する方式を使用する。言い換えれば、ＭＰＶ基盤の推薦モデルは、履歴による特性はもちろん、商品名、ブランド、カテゴリなどのコンテンツ情報をエンコードして１つの埋め込みを生成し、ともにクリックされた商品の埋め込みとの類似度が高まるように最適化するモデルである。

【0059】

しかし、ＭＰＶ基盤の推薦モデルの場合、ポジティブサンプル（Ｐｏｓｉｔｉｖｅ Ｓａｍｐｌｅ）に対する類似度だけを高めるため、クラス間に埋め込みを近づける効果はあるが、クラス間に埋め込みを遠ざけることはできない。さらに、ＭＰＶ基盤の推薦モデルで履歴のないコールドアイテムは、履歴基盤の埋め込みが存在しないため、履歴基盤の埋め込みを活用することができるウォームアイテム（Ｗａｒｍ Ｉｔｅｍ）とは異なり、コンテンツ間の類似度だけで推薦がなされる。結局、ユーザ履歴がもつ情報は、コールドアイテム推薦では十分に活用されないという限界がある。

【0060】

コールドアイテム推薦問題を解決するための方法論のさらに他の１つであるシャムネットワーク基盤の推薦モデルは、互いに関連する商品ペアに対して、商品のコンテンツ情報によってエンコードした埋め込みを、対照損失（ｃｏｎｔｒａｓｔｉｖｅ ｌｏｓｓ）（トリプレットネットワーク（ｔｒｉｐｌｅｔ ｎｅｔｗｏｒｋ）の場合はトリプレット損失（ｔｒｉｐｌｅｔ ｌｏｓｓ））を活用して学習する方式を使用する。

【0061】

関連商品は２つのタイプに定義されてよい。第１タイプは、シード（ｓｅｅｄ）商品との代替が可能な同一種類の商品を意味し、第２タイプは、シード商品とともに使用するのに適した商品であってシードと互換性がある他の種類の商品を意味する。第１タイプの場合はシード商品と同種類の商品であるため、互いに関連商品となる。したがって、第１タイプの関連商品は、類似度を活用した埋め込み空間にクラスタリングが可能である。しかし、第１タイプと第２タイプが混在する場合、シード商品とは異なる種類の商品が含まれ、互いに関連商品とはならないためクラスタリングが難しい。

【0062】

図４は、第１タイプの埋め込み空間４００の例を示しており、図５は、第１タイプと第２タイプが混在する埋め込み空間５００の例を示している。

【0063】

図４を参照すると、第１タイプの埋め込み空間４００では、シード商品である「アイフォン」に対して、「ギャラクシーＳ」と「ファイザースマートフォン」はスマートフォンというカテゴリに該当する商品であって同一種類の商品となる。したがって、シード「アイフォン」の関連商品である「ギャラクシーＳ」と「ファイザースマートフォン」は、互いに関連商品であるため、クラスタリングに困難がない。

【0064】

図５を参照すると、第１タイプと第２タイプが混在する埋め込み空間５００では、シード商品である「アイフォン」に対する関連商品として、第１タイプの商品である「ギャラクシーＳ」と第２タイプの商品である「アイフォンケース」が含まれているが、「ギャラクシーＳ」と「アイフォンケース」は互いに関連商品ではない。したがって、シード「アイフォン」は、「ギャラクシーＳ」と「アイフォンケース」を自身と近い位置にフィッティングしようとするが、「ギャラクシーＳ」と「アイフォンケース」は互いに遠ざかるようにフィッティングするようになるため、これらの商品を１つのクラスタに集めることができないというジレンマが発生する。さらに、「ギャラクシーＳ」の関連商品である「ギャラクシーケース」は、「アイフォンケース」とは関連商品でないため遠くならなければならないが、「ギャラクシーＳ」とは近づかなければならず、「ギャラクシーＳ」はシード「アイフォン」とも近づかなければならないため、やはり１つのクラスタに集めることができない。

【0065】

図６は、シャムネットワーク構造の例を示した図である。

【0066】

図６を参照すると、シャムネットワーク６００は、メトリック学習（ｍｅｔｒｉｃ ｌｅａｒｎｉｎｇ）を基盤とするものであって、２つの対象がもつ特性の類似性を示す距離を計算するメトリックを使用するモデルである。シャムネットワーク６００は、アンカー（ａｎｃｈｏｒ）となる基準商品と非類似の特徴をもつ商品を遠くに離すように学習することにより、基準商品と比較商品に対して加重値を共有するネットワークで各商品の個別埋め込みを生成するため、比較商品が変わっても基準商品の埋め込みは変わらない。したがって、固定された値の埋め込みをもつようになるため、商品間の動的な関連関係をクラスタリングすることが難しい。

【0067】

シャムネットワーク６００のメトリック学習は、データクラスタリング性能には優れているが、データ自体が、クラスタリングが適切になされないモデルの場合、全体的なモデルの性能は低下するしかない。さらに、ショッピングドメインのように大規模データを備えるサービスの場合は、極めて大きいサイズの埋め込みが必要となるため、サービスに制約が発生するようになる。

【0068】

本実施形態では、商品間の動的な関連関係を容易にフィッティングすることができる構造の関連商品推薦モデルを生成する。

【0069】

図７は、本発明の一実施形態における、関連商品推薦モデルを生成する過程を示したフローチャートである。

【0070】

図７を参照すると、段階７０１において、プロセッサ２２０は、ショッピングドメイン上の商品に対する履歴に基づいて、文章隋伴関係タスク（自然語推論タスク）の対照ペアデータセット（ｃｏｎｔｒａｓｔｉｖｅ ｐａｉｒ ｄａｔａｓｅｔ）を構成してよい。

【0071】

一例として、プロセッサ２２０は、ユーザが事前に定めた制限時間内にともにクリックした商品ペアをポジティブサンプルとして選定してよい。このとき、制限時間は、クリック商品に対する購入転換率や商品カテゴリ変化程度などを考慮して決められてよく、例えば、ユーザが１つの商品をクリックしてから１０分以内に他の商品をクリックした場合、２つの商品のコンテンツ情報をポジティブデータセットとして構成してよい。ショッピングドメインの場合、アビューズユーザ、各カテゴリの商品分布の差、人気商品などのようにポジティブサンプルを求めるのに困難を与える要素が存在するため、カテゴリの制限や表示偏向の除去などを追加で適用してよい。例えば、一部カテゴリの商品または他の商品と比べて表示の割合が極めて高い商品は、ポジティブサンプル選定対象から除外してよい。また、プロセッサ２２０は、商品に対する主要なコンテキスト（ｃｏｎｔｅｘｔ）を把握することができるように、同一商品であってもカタログの商品名が異なる商品をポジティブサンプルとして追加して使用してよい。

【0072】

また、プロセッサ２２０は、ポジティブサンプルに含まれる商品をシードとし、シードとともに表示された商品のうちで制限時間内にともにクリックされなかった商品をネガティブサンプルとして選定してよい。特に、プロセッサ２２０は、シードがクリックされてから制限時間内にクリックされなかった商品のうちで表示回数が一定のレベル以上の商品をランダムに選定してネガティブサンプルとして使用してよい。

【0073】

プロセッサ２２０は、履歴に基づいてポジティブサンプルとネガティブサンプルを選定し、ポジティブサンプルとネガティブサンプルとして選定された商品に対して、自然語からなるコンテンツ情報を利用してデータセットを構成してよい。図８を参照すると、プロセッサ２２０は、コンテンツ情報だけでなく履歴情報をともに学習するために、同じ前提商品８０１に対して複数のポジティブサンプルとネガティブサンプルに該当する仮説商品８０２を選定し、ポジティブデータペアとネガティブデータペアからなる学習データセット８００を構成してよい。履歴に基づいて前提商品８０１に対する仮説商品８０２を選定することにより、協力的フィルタリングのように履歴に対するフィーチャを学習するデータセット８００を生成することができる。文章隋伴関係タスクのデータセット８００は分類ラベル８０３を含んでよく、ポジティブデータペアの場合は含意関係を示すラベル（「ｅｎｔａｉｌｍｅｎｔ」）が、ネガティブデータペアの場合は矛盾関係を示すラベル（「ｃｏｎｔｒａｄｉｃｔｉｏｎ」）が定義されてよい。プロセッサ２２０は、目的タスクとローデータ（ｒａｗ ｄａｔａ）分布などにより、データ分析と実験を通じてデータセットの追加調整を実行してよい。

【0074】

再び図７を参照すると、段階７０２において、プロセッサ２２０は、文章隋伴関係タスクの対照ペアデータセットを利用して言語モデルを事前トレーニングする方式により、第１関連商品推薦モデルを生成してよい。例えば、プロセッサ２２０は、ＢＥＲＴ（Ｂｉｄｉｒｅｃｔｉｏｎａｌ Ｅｎｃｏｄｅｒ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎｓ ｆｒｏｍ Ｔｒａｎｓｆｏｒｍｅｒ）モデルまたはエレクトラスモールモデル（Ｅｌｅｃｔｒａ Ｓｍａｌｌ Ｍｏｄｅｌ）をＰＬＭ（Ｐｒｅ－ｔｒａｉｎｅｄ Ｌａｎｇｕａｇｅ Ｍｏｄｅｌ）として採択した後、２つのラベル（含意関係、矛盾関係）を有する自然語推論タスクによってファインチューニング（ｆｉｎｅ ｔｕｎｉｎｇ）を行って当該モデルを学習することにより、第１関連商品推薦モデルを実現してよい。

【0075】

図９は、本発明の一実施形態における、自然語推論タスク基盤のネットワーク構造の例を示した図である。

【0076】

図９を参照すると、自然語推論タスクである文章隋伴関係タスク構造９００は、アンカーと比較サンプルの入力を１つのネットワークで同時に受け、ネットワーク内で互いのデータを参照しながらエンコードとソフトマックス（ｓｏｆｔｍａｘ）をともに行う。文章隋伴関係タスク構造９００は、同じアンカーであっても比較サンプルによって異なる内部的な埋め込み（ｈｉｄｄｅｎ ｓｔａｔｅ）の生成が可能であるという点において、埋め込みが固定されず、商品間の動的な関連可否を容易にフィッティングすることができる。

【0077】

図１０は、文章隋伴関係タスク構造の関連商品推薦モデル１０００の例を示している。

【0078】

図１０を参照すると、プロセッサ２２０は、前提商品８０１と仮説商品８０２のコンテンツ情報からなる対照ペアデータセット８００を入力データとして利用した自然語推論タスクを通じてＢＥＲＴモデルを事前トレーニングすることにより、関連商品推薦モデル１０００を生成してよい。アンカーとなる前提商品８０１が異なれば同じ仮説商品８０２に対して内部的に異なるようにエンコードできるため、比較的小さいサイズのモデルでも第１タイプと第２タイプが混在する埋め込み空間５００でのフィッティング問題を解決することができる。

【0079】

ＢＥＲＴのような言語モデルに基づいて生成された関連商品推薦モデル１０００の場合、自然語からなるコンテンツ情報を利用して２つ商品の関連性を判断することにより、一般的な言語モデルと同じように、商品名、ブランド、カテゴリなどから重要なコンテキストを適切に抽出する能力をもつことができる。

【0080】

再び図７を参照すると、段階７０３において、プロセッサ２２０は、第１関連商品推薦モデルを基本モデルとし、基本モデルにシャムネットワークを共同学習（ｊｏｉｎｔｌｙ ｌｅａｒｎｉｎｇ）し、結合学習モデルによって第１関連商品推薦モデルを拡張することにより、第２関連商品推薦モデルを生成してよい。１つのエンコードモデルを利用して、自然語推論タスクを利用したモデル学習による損失とシャムネットワーク学習による損失を順に求めた後、２つの損失を一度にバックワード（ｂａｃｋｗａｒｄ）として計算して求めた最終損失を減らす方向でモデルを学習することにより、第２関連商品推薦モデルを生成してよい。

【0081】

第２関連商品推薦モデルを生成する詳細過程について、次のように説明する。

【0082】

第２関連商品推薦モデルを生成するためのデータセット構造は、図８を参照しながら説明したデータセット８００と同じである。

【0083】

プロセッサ２２０は、商品Ａと商品Ｂのコンテンツ情報を自然語推論タスクのための１つのデータとして連結して（ｃｏｎｃａｔｅｎａｔｅ）エンコードモデルの入力によってフォワード（ｆｏｒｗａｒｄ）した後、損失（以下、「自然語推論タスク損失」とする）を求める。

【0084】

プロセッサ２２０は、同一のネットワークに商品Ａのコンテンツ情報だけを入力した後、最後のレイヤのＣＬＳ埋め込みを求め、同じようにネットワークに商品Ｂのコンテンツ情報だけを入力した後、最後のレイヤのＣＬＳ埋め込みを求める。

【0085】

プロセッサ２２０は、商品Ａと商品ＢのＣＬＳ埋め込みの類似度距離（例えば、Ｅｕｃｌｉｄｅａｎ ｄｉｓｔａｎｃｅなど）を求めた後、商品Ａと商品Ｂが含意関係である場合には距離が近くなり、矛盾関係の場合には距離が遠くなるように損失（以下、「シャムネットワーク損失」とする）を構成してよい。

【0086】

プロセッサ２２０は、自然語推論タスク損失とシャムネットワーク損失の加重和（Ｗｅｉｇｈｔｅｄ Ｓｕｍ）として求めた最終損失によってモデルを最適化して第２関連商品推薦モデルを生成してよい。このとき、自然語推論タスク損失とシャムネットワーク損失は１対１で適用してよく、実施形態によっては、自然語推論タスク損失とシャムネットワーク損失に対する加重値を異なるように適用してよい。

【0087】

第２関連商品推薦モデルの場合、２つのネットワークの長所をすべて享受することができる。シャムネットワークは、個別商品の埋め込みを生成することができるため、距離基盤の埋め込みによって推薦する商品候補を求めることができるという長所がある。さらに、入力と隠れ状態段階で商品ペアのすべての個別トークンを参照できる自然語推論タスクと共同でネットワークの加重値が学習される場合、入力埋め込みから最後のレイヤまでのすべてのトークンごとに隠れ状態をシャムネットワークだけで学習するときよりも、多くの情報に基づいてチューニングを行うことができる。

【0088】

プロセッサ２２０は、シャムネットワークに基づいて、個別商品の埋め込みに基づいて基準商品に対する関連商品としての可能性がある商品プールを先に生成した後、商品プールに対する基準商品との関連度を自然語推論タスクの推論結果によってリランキングする方式によって商品推薦サービスを提供してよい。

【0089】

本発明に係る商品推薦サービスのための最終モデルとして第１関連商品推薦モデルを適用してよく、実施形態によっては、第２関連商品推薦モデルを適用してもよい。一例として、プロセッサ２２０は、ユーザまたは基準商品のカテゴリによって関連商品推薦モデルを異なるように適用してよい。例えば、多様なカテゴリを探索するユーザの場合には第２関連商品推薦モデルを適用して関連商品を推薦してよく、限定されたカテゴリだけを探索するユーザの場合には第１関連商品推薦モデルを適用して関連商品を推薦してよい。また、基準商品がＡカテゴリに属する場合には第１関連商品推薦モデルを適用して関連商品を推薦してよく、Ｂカテゴリに属する場合には第２関連商品推薦モデルを適用して関連商品を推薦してよい。

【0090】

このように、本発明の実施形態によると、文章間の関係を分類する自然語推論タスクに基づいて、自然語からなるコンテンツ情報を利用して２つの商品間の関連性を学習したモデルによって大規模データに対してサービスすることができ、購入履歴などのユーザデータが不足な商品を関連商品として推薦することができる。本発明の実施形態によると、１つのネットワークに基準商品と比較商品を同時入力し、当該ネットワーク内で相互間のデータを参照したエンコードによって商品間の動的な関連可否をフィッティングすることができ、商品に対するコンテンツ情報だけでなく履歴情報まで内製された関連商品推薦モデルを実現することができる。本発明の実施形態によると、自然語推論タスク基盤のモデルにシャムネットワークを結合することにより、関連商品を推薦するためのモデルとして動的ながらも変化が大きい埋め込み空間を構成することができる。

【0091】

上述した装置は、ハードウェア構成要素、ソフトウェア構成要素、および／またはハードウェア構成要素とソフトウェア構成要素との組み合わせによって実現されてよい。例えば、実施形態で説明された装置および構成要素は、プロセッサ、コントローラ、ＡＬＵ（ａｒｉｔｈｍｅｔｉｃ ｌｏｇｉｃ ｕｎｉｔ）、デジタル信号プロセッサ、マイクロコンピュータ、ＦＰＧＡ（ｆｉｅｌｄ ｐｒｏｇｒａｍｍａｂｌｅ ｇａｔｅ ａｒｒａｙ）、ＰＬＵ（ｐｒｏｇｒａｍｍａｂｌｅ ｌｏｇｉｃ ｕｎｉｔ）、マイクロプロセッサ、または命令を実行して応答することができる様々な装置のように、１つ以上の汎用コンピュータまたは特殊目的コンピュータを利用して実現されてよい。処理装置は、オペレーティングシステム（ＯＳ）およびＯＳ上で実行される１つ以上のソフトウェアアプリケーションを実行してよい。また、処理装置は、ソフトウェアの実行に応答し、データにアクセスし、データを記録、操作、処理、および生成してもよい。理解の便宜のために、１つの処理装置が使用されるとして説明される場合もあるが、当業者であれば、処理装置が複数個の処理要素および／または複数種類の処理要素を含んでもよいことが理解できるであろう。例えば、処理装置は、複数個のプロセッサまたは１つのプロセッサおよび１つのコントローラを含んでよい。また、並列プロセッサのような、他の処理構成も可能である。

【0092】

ソフトウェアは、コンピュータプログラム、コード、命令、またはこれらのうちの１つ以上の組み合わせを含んでもよく、思うままに動作するように処理装置を構成したり、独立的または集合的に処理装置に命令したりしてよい。ソフトウェアおよび／またはデータは、処理装置に基づいて解釈されたり、処理装置に命令またはデータを提供したりするために、いかなる種類の機械、コンポーネント、物理装置、コンピュータ記録媒体または装置に具現化されてもよい。ソフトウェアは、ネットワークによって接続されたコンピュータシステム上に分散され、分散された状態で記録されても実行されてもよい。ソフトウェアおよびデータは、１つ以上のコンピュータ読み取り可能な記録媒体に記録されてよい。

【0093】

実施形態に係る方法は、多様なコンピュータ手段によって実行可能なプログラム命令の形態で実現されてコンピュータ読み取り可能な媒体に記録されてよい。ここで、媒体は、コンピュータ実行可能なプログラムを継続して記録するものであっても、実行またはダウンロードのために一時記録するものであってもよい。また、媒体は、単一または複数のハードウェアが結合した形態の多様な記録手段または格納手段であってよく、あるコンピュータシステムに直接接続する媒体に限定されることはなく、ネットワーク上に分散して存在するものであってもよい。媒体の例としては、ハードディスク、フロッピー（登録商標）ディスク、および磁気テープのような磁気媒体、ＣＤ－ＲＯＭおよびＤＶＤのような光媒体、フロプティカルディスク（ｆｌｏｐｔｉｃａｌ ｄｉｓｋ）のような光磁気媒体、およびＲＯＭ、ＲＡＭ、フラッシュメモリなどを含み、プログラム命令が記録されるように構成されたものであってよい。また、媒体の他の例として、アプリケーションを配布するアプリケーションストアやその他の多様なソフトウェアを供給または配布するサイト、サーバなどで管理する記録媒体または格納媒体が挙げられる。

【0094】

以上のように、実施形態を、限定された実施形態および図面に基づいて説明したが、当業者であれば、上述した記載から多様な修正および変形が可能であろう。例えば、説明された技術が、説明された方法とは異なる順序で実行されたり、かつ／あるいは、説明されたシステム、構造、装置、回路などの構成要素が、説明された方法とは異なる形態で結合されたりまたは組み合わされたり、他の構成要素または均等物によって対置されたり置換されたとしても、適切な結果を達成することができる。

【0095】

したがって、異なる実施形態であっても、特許請求の範囲と均等なものであれば、添付される特許請求の範囲に属する。

【符号の説明】

【0096】

１１０、１２０、１３０、１４０：電子機器
１５０、１６０：サーバ
１７０：ネットワーク

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】