特開 2024-117996 応答文生成装置、応答変換学習装置、データベース作成装置、応答文生成方法およびプログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2024117996

(43)【公開日】2024-08-30

(54)【発明の名称】応答文生成装置、応答変換学習装置、データベース作成装置、応答文生成方法およびプログラム

(51)【国際特許分類】

   G06F 40/56 20200101AFI20240823BHJP

   G06F 40/30 20200101ALI20240823BHJP

   G06F 40/44 20200101ALI20240823BHJP

   G06F 16/90 20190101ALI20240823BHJP

【ＦＩ】

G06F40/56

G06F40/30

G06F40/44

G06F16/90 100

【審査請求】未請求

【請求項の数】7

【出願形態】ＯＬ

(21)【出願番号】P 2023024133

(22)【出願日】2023-02-20

【新規性喪失の例外の表示】特許法第３０条第２項適用申請有り （１）公開日 ２０２２年２月２３日（一般社団法人日本音響学会２０２２年春季研究発表会・予稿日）（開催日：２０２２年３月９日～２０２２年３月１１日 オンライン開催） 刊行物、集会名、開催場所 一般社団法人日本音響学会２０２２年春季研究発表会 音響学会春季講演論文集 一般社団法人日本音響学会２０２２年春季研究発表会 ｈｔｔｐｓ：／／ａｃｏｕｓｔｉｃｓ．ｊｐ／ａｎｎｕａｌｍｅｅｔｉｎｇ／ｐａｓｔ－ｍｅｅｔｉｎｇｓ／ （２）公開日 ２０２２年１１月７日（ＡＰＳＩＰＡ ＡＳＣ２０２２）（開催日：２０２２年１１月７日～２０２２年１１月１０日 開催） 集会名、開催場所 ＡＰＳＩＰＡ ＡＳＣ２０２２ Ｅｍｐｒｅｓｓ Ｃｏｎｖｅｎｔｉｏｎ Ｃｅｎｔｅｒ，１９９／４２ Ｃｈａｎｇ Ｋｌａｎ Ｒｏａｄ，Ｃｈｉａｎｇ Ｍａｉ Ｔｈａｉｌａｎｄ ５０１００

(71)【出願人】

【識別番号】000004226

【氏名又は名称】日本電信電話株式会社

(71)【出願人】

【識別番号】504157024

【氏名又は名称】国立大学法人東北大学

(74)【代理人】

【識別番号】100121706

【弁理士】

【氏名又は名称】中尾 直樹

(74)【代理人】

【識別番号】100128705

【弁理士】

【氏名又は名称】中村 幸雄

(74)【代理人】

【識別番号】100147773

【弁理士】

【氏名又は名称】義村 宗洋

(72)【発明者】

【氏名】千葉 祐弥

(72)【発明者】

【氏名】伊藤 彰則

(72)【発明者】

【氏名】能勢 隆

(72)【発明者】

【氏名】矢作 凌大

【テーマコード（参考）】

5B091

5B175

【Ｆターム（参考）】

5B091CA12

5B091CA21

5B091EA01

5B175DA01

5B175EA01

5B175HB03

(57)【要約】

【課題】入力された発話文と予め用意された用例文との意味的差分を精緻にとらえた応答文を生成する。
【解決手段】応答選択部１０は、用例応答データベースＤ１の中から、入力発話文ｘに基づいて所定の条件を満たす用例文ｘ’を決定し、決定した用例文ｘ’とこれに対応する応答文ｙ’とを選択する。エンコーダ２１は、入力発話文ｘ、選択された用例文ｘ’、及び選択された応答文ｙ’を、入力発話意味ベクトル^ｘ、用例意味ベクトル^ｘ’、及び応答意味ベクトル^ｙ’へと変換する。意味差分ベクトル生成部は、入力発話意味ベクトル^ｘと用例意味ベクトル^ｘ’との差分から意味差分ベクトル^ｗを生成する。デコーダ２３は、意味差分ベクトル^ｗと応答意味ベクトル^ｙ’とを加算して、入力発話文ｘと選択された用例文ｘ’との意味の違いが反映された応答ベクトル^ｖへと変換し、応答ベクトル^ｖから変換後応答文ｖを生成する。
【選択図】図１

【特許請求の範囲】

【請求項1】

一組が用例文とこの用例文に対応する応答文とからなる複数の組を有した用例応答データベースの中から、入力されたユーザの発話である入力発話文に基づいて所定の条件を満たす用例文を決定し、決定した前記用例文とこれに対応する前記応答文とを選択する応答選択部と、
前記入力発話文、選択された前記用例文、及び選択された前記応答文を、各文の意味ベクトルである、入力発話意味ベクトル、用例意味ベクトル、及び応答意味ベクトルへと変換するエンコーダと、
前記入力発話意味ベクトルと前記用例意味ベクトルとの差分から意味差分ベクトルを生成する意味差分ベクトル生成部と、
前記意味差分ベクトルと前記応答意味ベクトルとを加算して、前記入力発話文と選択された前記用例文との意味の違いが反映された応答ベクトルへと変換し、前記応答ベクトルから前記入力発話文に対する応答文である変換後応答文を生成する、デコーダと、
を有する応答文生成装置。

【請求項2】

一組が用例文とこの用例文に対応する応答文とからなる複数の組を有した用例応答データベースと、一組が発話文とこの発話文に対応する応答文とからなる複数の組を有し、夫々の組が前記用例応答データベースのいずれかの組と所定の類似度を満たした疑似用例応答データベースと、を用いた応答変換学習装置であって、
前記用例応答データベースから入力された一組の用例文及び応答文と、この一組と前記所定の類似度を満たして前記疑似用例応答データベースから入力された発話文である入力発話文とを、各文の意味ベクトルである、用例意味ベクトル、応答意味ベクトル、及び入力発話意味ベクトルへと変換する、第１パラメータを使用するエンコーダと、
前記入力発話意味ベクトルと前記用例意味ベクトルとの差分から意味差分ベクトルを生成する意味差分ベクトル生成部と、
前記意味差分ベクトルと前記応答意味ベクトルとを加算して、前記入力発話文と入力された前記用例文との意味の違いが反映された応答ベクトルへと変換し、前記応答ベクトルから前記入力発話文に対する応答文である変換後応答文を生成する、第２パラメータを使用する学習用デコーダと、
前記変換後応答文と、前記入力発話文と対応する応答文との誤差が所定の条件に満たない場合は、前記第２パラメータを更新し、前記誤差が所定の条件を満たす場合は、直前に使用している前記第２パラメータを学習済パラメータとして出力する、パラメータ更新部と、
を有する応答変換学習装置。

【請求項3】

Ｍ，Ｎ（Ｍ＞Ｎ）はそれぞれ自然数とし、(Ｓ_ｉ ^ｅ，Ｓ_ｉ ^ｒ)は学習用対話コーパスにおけるｉ（ｉ＝１，２，…Ｍ）番目の発話文と応答文とし、(Ｔ_ｊ ^ｅ，Ｔ_ｊ ^ｒ)は前記用例応答データベースにおけるｊ（ｊ＝１，２，…Ｎ）番目の用例文と応答文とし、ｓｉｍ（ｘ，ｙ）はベクトルｘとベクトルｙとの類似度とし、θ_ｓｉｍは予め定めた閾値とした場合、
前記疑似用例応答データベースは、次式

【数7】

【数8】

の双方の式の条件を具備した発話文と応答文とが前記学習用対話コーパスから抽出して作成されている、請求項２に記載の応答変換学習装置。

【請求項4】

一組が用例文とこの用例文に対応する応答文とからなる複数の組を有した用例応答データベースと、一組が発話文とこの発話文に対応する応答文とからなり、前記用例応答データベースが有する組数よりも多くの組数を有する学習用対話コーパスとを使用するものであって、
Ｍ，Ｎ（Ｍ＞Ｎ）はそれぞれ自然数とし、(Ｓ_ｉ ^ｅ，Ｓ_ｉ ^ｒ)は前記学習用対話コーパスにおけるｉ（ｉ＝１，２，…Ｍ）番目の発話文と応答文とし、(Ｔ_ｊ ^ｅ，Ｔ_ｊ ^ｒ)は前記用例応答データベースにおけるｊ（ｊ＝１，２，…Ｎ）番目の用例文と応答文とし、ｓｉｍ（ｘ，ｙ）はベクトルｘとベクトルｙの類似度とし、θ_ｓｉｍは閾値とした場合、
前記用例応答データベースから入力された用例文と前記学習用対話コーパスから入力された発話文との第１類似度ｓｉｍ（Ｓ_ｉ ^ｅ，Ｔ_ｊ ^ｅ）と、前記用例応答データベースから入力された応答と前記学習用対話コーパスから入力された応答文との第２類似度ｓｉｍ（Ｓ_ｉ ^ｒ，Ｔ_ｊ ^ｒ）とを算出する類似度計算部と、
算出された前記第１類似度及び第２類似度が、次式

【数9】

【数10】

の双方の式の条件を具備する前記発話文と前記応答文との組を前記学習用対話コーパスから抽出してデータベースを生成する、データベース生成部と、
を有する、
データベース作成装置。

【請求項5】

一組が用例文と該用例文に対応する応答文とからなる用例応答ペアを複数有する用例応答データベースを用いる応答文生成装置であって、
ユーザの発話である入力発話文が入力された場合に、前記用例応答データベースの中から、前記入力発話文に基づいて所定の条件を満たす用例応答ペアを選択する応答選択部と、
入力された前記入力発話文、選択された前記用例応答ペアを用いて、前記入力発話文に対する応答文である変換後応答文を所定のパラメータに基づいて生成する応答変換部と、
一組が発話文と該発話文に対応する応答文からなる発話応答ペアを複数有する学習用対話コーパスから、前記用例応答データベースに含まれる用例応答ペアとの類似度が所定の条件を満たす前記発話応答ペアを抽出する類似度計算部と、
抽出された前記発話応答ペアに含まれる発話文を前記入力された入力発話文とし、前記類似度計算部による抽出の際に用いた前記用例応答データベースの用例応答ペアを選択された前記用例応答ペアとして、前記応答変換部に変換後応答文を生成させ、該変換後応答文と前記発話文に対応する応答文との誤差に基づいて前記パラメータを更新するパラメータ更新部と、
を有する応答文生成装置。

【請求項6】

応答選択部、エンコーダ、意味差分ベクトル生成部、及びデコーダを有した応答文生成装置が行う応答文生成方法であって、
前記応答選択部が、一組が用例文とこの用例文に対応する応答文とからなる複数の組を有した用例応答データベースの中から、入力されたユーザの発話である入力発話文に基づいて所定の条件を満たす用例文を決定し、決定した前記用例文とこれに対応する前記応答文とを選択し、
前記エンコーダが、前記入力発話文、選択された前記用例文、及び選択された前記応答文を、各文の意味ベクトルである、入力発話意味ベクトル、用例意味ベクトル、及び応答意味ベクトルへと変換し、
前記意味差分ベクトル生成部が、前記入力発話意味ベクトルと前記用例意味ベクトルとの差分から意味差分ベクトルを生成し、
前記デコーダが、前記意味差分ベクトルと前記応答意味ベクトルとを加算して、前記入力発話文と選択された前記用例文との意味の違いが反映された応答ベクトルへと変換し、前記応答ベクトルから前記入力発話に対する応答文である変換後応答文を生成する、
応答文生成方法。

【請求項7】

請求項１または請求項５に記載の応答文生成装置をコンピュータに機能させるためのプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本開示は、自然言語処理、及び自動応答技術に関するものであり、特に、想定されるユーザの入力（用例文）とそれに対応する応答文との組を複数格納した用例応答データベースに基づいて対話を行う用例応答ベースの対話システムにおける応答文生成に関する。

【背景技術】

【0002】

用例応答ベースの対話システムは単純かつ頑健であるため広く普及している。従来の用例応答ベースの対話技術としては、ニューラルネットワークのエンコーダ・デコーダモデルに基づく応答変換器を大規模な言語コーパス（汎用的な言語データ）を用いて自己符号化器として学習することにより、用例文として想定していない発話文に対しても柔軟に対応して応答文を生成するものがあった(例えば非特許文献１参照)。

【先行技術文献】

【非特許文献】

【0003】

【非特許文献1】矢作凌大，能勢隆，伊藤彰則，用例ベース対話システムのための文ベクトルを用いた柔軟な応答生成手法の検討，音響学秋季研究発表会講演論文集, pp.809-812, 2021

【発明の概要】

【発明が解決しようとする課題】

【0004】

しかし、非特許文献１の技術は、汎用的な言語データから学習された自己符号化器であり、入力された発話文と予め用意された用例文との意味的差分を精緻にとらえた応答文を生成することができないという課題があった。

【0005】

そこで、本開示は、上記課題を解決するためになされたものであり、入力された発話文と予め用意された用例文との意味的差分を精緻にとらえた応答文を生成する技術を提供することを目的とする。

【課題を解決するための手段】

【0006】

上記課題を解決するために、本開示の一態様の応答文生成装置は、応答選択部と、エンコーダと、意味差分ベクトル生成部と、デコーダとを有する。応答選択部は、一組が用例文とこの用例文に対応する応答文とからなる複数の組を有した用例応答データベースの中から、入力されたユーザの発話である入力発話文に基づいて所定の条件を満たす用例文を決定し、決定した用例文とこれに対応する応答文とを選択する。エンコーダは、入力発話文、選択された用例文、及び選択された応答文を、各文の意味ベクトルである、入力発話意味ベクトル、用例意味ベクトル、及び応答意味ベクトルへと変換する。意味差分ベクトル生成部は、入力発話意味ベクトルと用例意味ベクトルとの差分から意味差分ベクトルを生成する。デコーダは、意味差分ベクトルと応答意味ベクトルとを加算して、入力発話文と選択された用例文との意味の違いが反映された応答ベクトルへと変換し、応答ベクトルから入力発話文に対する応答文である変換後応答文を生成する。

【発明の効果】

【0007】

本開示によれば、応答文生成装置１の応答変換部２０は、学習用対話コーパスから用例応答データベースに類似した発話文と応答文との組を抽出した疑似用例応答データベースを作成し、この疑似用例応答データベースを用いてニューラルネットワークのパラメータを更新する学習（ファインチューニング）が行われている。したがって、入力された発話文と予め用意された用例文との意味的差分を精緻にとらえた応答文を生成することができる。

【図面の簡単な説明】

【0008】

【図1】図１は本開示の実施形態に係る応答文生成装置の機能構成例を示した図である。

【図2】図２は本開示の実施形態に係る応答文生成方法の処理フロー例を示した図である。

【図3】図３は本開示の実施形態に係る応答変換学習装置の機能構成例を示した図である。

【図4】図４は本開示の実施形態に係る応答変換学習方法の処理フロー例を示した図である。

【図5】図５は本開示の実施形態に係るデータベース作成装置の機能構成例を示した図である。

【図6】図６は本開示の実施形態に係るデータベース作成方法の処理フロー例を示した図である。

【図7】図７は本開示の実施形態に係る自己符号化学習装置の機能構成例を示した図である。

【図8】図８は本開示の実施形態に係る自己符号化学習方法の処理フロー例を示した図である。

【図9】図９は本開示の実施形態の変形例に係る応答文生成装置の機能構成例において、ユーザの発話である入力発話文ｘが入力された場合を示した図である。

【図10】図１０は本開示の実施形態の変形例に係る応答文生成装置における応答文生成方法の処理フロー例を示した図である。

【図11】図１１は本開示の実施形態の変形例に係る応答文生成装置の機能構成例において、学習用対話コーパスＤ３から発話文Ｓ_ｉ ^ｅと、発話文Ｓ_ｉ ^ｅに対応する応答文Ｓ_ｉ ^ｒとが入力された場合を示した図である。

【図12】図１２は本開示の実施形態の変形例に係る応答変換部２０ａの学習方法の処理フロー例を示した図である。

【図13】図１３はコンピュータの機能構成を例示する図である。

【発明を実施するための形態】

【0009】

＜文字表記＞
文中で下付き文字と一緒に使用する記号「^e」（上付き文字ｅ）、及び「^ｒ」（上付き文字ｒ）は、本来直後の下付文字の真上に記載されるべきものであるが、テキスト記法の制限により、当該下付文字の直後に記載する。数式中においてはこれらの記号は本来の位置、すなわち下付文字の真上に記述している。例えば、「Ｓ_ｉ ^ｅ」は数式中では次式で表される。

【数1】

文中で使用する記号「^」（上付きハット）は、本来直後の文字の真上に記載されるべきものであるが、テキスト記法の制限により、当該文字の直前に記載する。数式中においてはこれらの記号は本来の位置、すなわち文字の真上に記述している。例えば、「^ｖ」は数式中では次式で表される。

【数2】

以下、図を用いて本開示の実施形態について詳細に説明する。また、以下、同じ機能を有する構成部には同じ番号を付し、重複説明を省略する。

【0010】

［応答文生成装置］
本開示の実施形態に係る応答文生成装置１は、図１に示すように、応答選択部１０と、応答変換部２０とを有する。応答変換部２０はニューラルネットワークであり、エンコーダ２１と、意味差分ベクトル生成部２２と、デコーダ２３とを有する。応答文生成装置１は、用例応答データベースＤ１と学習済パラメータデータベースＰ２とを使用するが、これらは、応答文生成装置１内に設けてもよいし、応答文生成装置１からアクセスできるのであれば、少なくとも１つを応答文生成装置１とは別に設けてもよい。応答文生成装置１は、入力された入力発話文ｘから、入力発話文ｘに対応する応答文である変換後応答文ｖを生成して出力する装置である。応答文生成装置１が、図２に示した処理フローを実施することにより本実施形態の応答文生成方法を行う。

【0011】

応答選択部１０は、一組が用例文とこの用例文に対応する応答文とからなる複数の組を有した用例応答データベースＤ１の中から、入力されたユーザの発話である入力発話文ｘとの類似度が最大である用例文ｘ’を決定し、決定した用例文ｘ’とこれに対応する応答文ｙ’とを選択してエンコーダ２１に出力する（ステップＳ１０）。なお、入力発話文ｘは、応答選択部１０とエンコーダ２１とに入力される。この実現方法としては、例えば応答選択部１０の前の処理部として入力部を設け、この入力部が入力発話文ｘを受信し、受信した入力発話文ｘを応答選択部１０とエンコーダ２１との双方に出力するように構成してもよい。あるいは、応答選択部１０が、用例文ｘ’と応答文ｙ’に加えて、入力発話文ｘもエンコーダ２１に出力するように構成してもよい。ここで、「類似度が最大である用例文ｘ’」とは、応答文生成装置１が、入力された入力発話文ｘと予め用意された用例文との意味的差分を精緻にとらえた変換後応答文ｖが生成できればよいことから、厳密な意味での最大の類似度に限定せず、例えば所定閾値を満たした類似度を確保するなど、所定の条件を満たしていれば、当該用例文を用例文ｘ’と選定するように構成してもよい。

【0012】

エンコーダ２１は、入力された入力発話文ｘ、選択された用例文ｘ’、及び選択された応答文ｙ’を、各文の意味ベクトルである、入力発話意味ベクトル^ｘ、用例意味ベクトル^ｘ’、及び応答意味ベクトル^ｙ’へと変換し、入力発話意味ベクトル^ｘと用例意味ベクトル^ｘ’とを意味差分ベクトル生成部２２へ出力し、応答意味ベクトル^ｙ’をデコーダ２３へ出力する（ステップＳ２１）。
意味差分ベクトル生成部２２は、入力発話意味ベクトル^ｘと用例意味ベクトル^ｘ’との差分から意味差分ベクトル^ｗを生成し、デコーダ２３へ出力する（ステップＳ２２）。

【0013】

デコーダ２３は、意味差分ベクトル^ｗと応答意味ベクトル^ｙ’とを加算して、入力発話文ｘと選択された用例文ｘ’との意味の違いが反映された応答ベクトル^ｖへと変換する（ステップＳ２３－１）。次に、デコーダ２３は、応答ベクトル^ｖから、入力発話文ｘに対する応答文である変換後応答文ｖを生成して応答文生成装置１の出力とする（ステップＳ２３－２）。

【0014】

本開示の応答文生成装置１を使用することにより、入力された入力発話文ｘと予め用意された用例文ｘ’との意味的差分を精緻にとらえた応答文を生成することができる。なお、図１に示した応答変換部２０は、一例としてTransformerベースのエンコーダ・デコーダモデルが挙げられるが、文を意味ベクトルに変換するエンコーダと、意味ベクトルから文を生成するデコーダとを有するニューラルネットワークであれば他のモデルであってもよい。

【0015】

［応答変換学習装置］
上述の応答変換部２０が行う処理は、応答変換学習装置３００を用いて学習されたものである。本開示の実施形態に係る応答変換学習装置３００は、図３に示すように、応答変換部３１０と、パラメータ更新部３２０とを有する。応答変換部３１０はニューラルネットワークであり、エンコーダ３１１と、意味差分ベクトル生成部３１２と、デコーダ３１３とを有する。応答変換学習装置３００は、用例応答データベースＤ１、疑似用例応答データベースＤ２、第１パラメータＰ３１、及び第２パラメータＰ’３２を使用するが、これらは、応答変換学習装置３００内に設けるように構成してもよいし、応答変換学習装置３００からアクセスできるのであれば、少なくとも１つを応答変換学習装置３００とは別に設けるように構成してもよい。応答変換学習装置３００は、用例応答データベースＤ１から入力された用例文Ｔ_ｊ ^ｅ及び応答文Ｔ_ｊ ^ｒと、疑似用例応答データベースＤ２から入力された発話文Ｓ_ｋ ^ｅ及び応答文Ｓ_ｋ ^ｒとから、応答変換部３１０を学習させて、学習済パラメータデータベースＰ２を生成する装置である。応答変換学習装置３００が、図４に示した処理フローを実施することにより本実施形態の応答変換学習方法を行う。

【0016】

応答変換学習装置３００は、一組が用例文Ｔ_ｊ ^ｅとこの用例文Ｔ_ｊ ^ｅに対応する応答文Ｔ_ｊ ^ｒとからなる複数の組を有した用例応答データベースＤ１と、一組が発話文Ｓ_ｋ ^ｅとこの発話文Ｓ_ｋ ^ｅに対応する応答文Ｓ_ｋ ^ｒとからなる複数の組を有し、夫々の組が用例応答データベースＤ１のいずれかの組と後述する式（３）及び（４）を満たした疑似用例応答データベースＤ２とを用いる。疑似用例応答データベースＤ２は、後述するデータベース作成装置４００で作成されたデータベースである。

【0017】

ここで、Ｍ，Ｎ，Ｑ（Ｍ＞Ｎ，Ｍ＞Ｑ）をそれぞれ自然数とした場合、上記の(Ｔ_ｊ ^ｅ，Ｔ_ｊ ^ｒ)は、用例応答データベースＤ１におけるｊ（ｊ＝１，２，…Ｎ）番目の用例文と応答文とを示すものとする。また、上記の(Ｓ_ｋ ^ｅ，Ｓ_ｋ ^ｒ)は、後述する学習用対話コーパスＤ３におけるｉ（ｉ＝１，２，…Ｍ）番目の発話文と応答文において、後述する式（３）及び（４）を満たした組を、便宜上、番号の再割付けをしたｋ（ｋ＝１，２，…Ｑ）番目の発話文と応答文とを示すものとする。

【0018】

エンコーダ３１１は、第１パラメータＰ３１を使用して、用例応答データベースＤ１から入力された一組の用例文Ｔ_ｊ ^ｅ及び応答文Ｔ_ｊ ^ｒと、この一組と後述する式（３）及び（４）を満たしたデータが格納されている疑似用例応答データベースＤ２から入力された発話文である発話文Ｓ_ｋ ^ｅとを、各文の意味ベクトルである、用例意味ベクトル^Ｔ_ｊ ^ｅ、応答意味ベクトル^Ｔ_ｊ ^ｒ、及び入力発話意味ベクトル^Ｓ_ｋ ^ｅへと変換し、用例意味ベクトル^Ｔ_ｊ ^ｅと入力発話意味ベクトル^Ｓ_ｋ ^ｅとを意味差分ベクトル生成部３１２へ出力し、応答意味ベクトル^Ｔ_ｊ ^ｒをデコーダ３１３へ出力する（ステップＳ３１１）。ここで、用例応答データベースＤ１から入力される用例文Ｔ_ｊ ^ｅと、疑似用例応答データベースＤ２から入力される発話文Ｓ_ｋ ^ｅ（即ち、学習用対話コーパスＤ３にあった発話文Ｓ_ｉ ^ｅ）とは、例えば後述する式（３）の条件を満たすなど、所定の類似度を満たすものが入力されるように、応答変換学習装置３００を構成しておくことが好ましい。

【0019】

エンコーダ３１１が使用する第１パラメータＰ３１は、例えば、後述する自己符号化学習装置５００において学習されたものであるが、予め学習された学習済のパラメータを用いてもよい。なお、発話文Ｓ_ｋ ^ｅに対応する応答文Ｓ_ｋ ^ｒは、疑似用例応答データベースＤ２からパラメータ更新部３２０へ出力される。

【0020】

意味差分ベクトル生成部３１２は、入力発話意味ベクトル^Ｓ_ｋ ^ｅと用例意味ベクトル^Ｔ_ｊ ^ｅとの差分から意味差分ベクトル^ｗを生成し、デコーダ３１３へ出力する（ステップＳ３１２）。

【0021】

デコーダ３１３は、第２パラメータＰ’３２を使用して、意味差分ベクトル^ｗと応答意味ベクトル^Ｔ_ｊ ^ｒとを加算して、入力された発話文Ｓ_ｋ ^ｅと入力された用例文Ｔ_ｊ ^ｅとの意味の違いが反映された応答ベクトル^ｖへと変換する（ステップＳ３１３－１）。次に、デコーダ３１３は、応答ベクトル^ｖから、発話文Ｓ_ｋ ^ｅに対応する応答文である変換後応答文ｖを生成してパラメータ更新部３２０へ出力する（ステップＳ３１３－２）。デコーダ３１３が初期値として使用する第２パラメータＰ’３２は、例えば、後述する自己符号化学習装置５００で学習されたものであるが、予め学習された学習済のパラメータを用いてもよい。

【0022】

なお、ステップＳ３１３－１における応答ベクトル^ｖの作成方法としては、様々な方法が考えられる。例えば、下記式（１）に示すように、意味差分ベクトル^ｗ（即ち、入力発話意味ベクトル^Ｓ_ｋ ^ｅと用例意味ベクトル^Ｔ_ｊ ^ｅとの差分）に対して重みＧを掛けることで意味差分情報を過剰に反映させる方法が挙げられる。

【数3】

【0023】

他の例としては、下記式（２）に示すように、意味差分ベクトル^ｗ（入力発話意味ベクトル^Ｓ_ｋ ^ｅと用例意味ベクトル^Ｔ_ｊ ^ｅとの差分）と応答意味ベクトル^Ｔ_ｊ ^ｒの重みＷをニューラルネットワークによって学習させる方法が挙げられる。ここで、「；」は２つのベクトルを繋げることを示している。

【数4】

【0024】

パラメータ更新部３２０は、変換後応答文ｖと、疑似用例応答データベースＤ２から入力された応答文Ｓ_ｋ ^ｒとの誤差が学習の終了条件を満たさない場合は、予め定めた所定のルールに基づいて第２パラメータＰ’３２を更新し（ステップＳ３２０－１）、用例応答データベースＤ１及び疑似用例応答データベースＤ２からの次のデータに基づいて上述したステップＳ３１１からの処理を繰り返して学習を継続する。ここで、ステップＳ３２０－１の更新手法としては、例えば、誤差をコスト関数（誤差関数）で定義し、このコスト関数が最小化するようにパラメータを構成していくこと等が挙げられる。この学習を全ての発話文Ｓ_ｋ ^ｅ、応答文Ｓ_ｋ ^ｒに対して行う。但し、学習する回数の上限を決めるなど所定のルールを設けておいてもよい。

【0025】

上述の誤差が学習の終了条件を満たす場合は、第１パラメータＰ３１、及び直前に使用している第２パラメータ（第２パラメータＰ３２）を学習済パラメータとして出力し、学習済パラメータデータベースＰ２が生成される（ステップＳ３２０－２）。上述の学習により学習済モデルとなった応答変換部３１０は、応答文生成装置１における応答変換部２０と同等の機能を有することとなる。なお、以下、この応答変換学習装置３００での学習を「ファインチューニング」ともいう。

【0026】

［データベース作成装置］
上述の疑似用例応答データベースＤ２は、データベース作成装置４００を用いて作成されたデータベースである。本開示の実施形態に係るデータベース作成装置４００は、図５に示すように、類似度計算部４１０と、データベース生成部４２０とを有する。データベース作成装置４００は、用例応答データベースＤ１と、学習用対話コーパスＤ３とを使用するが、これらは、データベース作成装置４００内に設けるように構成してもよいし、データベース作成装置４００からアクセスできるのであれば、少なくとも１つをデータベース作成装置４００とは別に設けるように構成してもよい。データベース作成装置４００は、用例応答データベースＤ１から入力された用例文Ｔ_ｊ ^ｅ及び応答文Ｔ_ｊ ^ｒと、学習用対話コーパスＤ３から入力された発話文Ｓ_ｉ ^ｅ及び応答文Ｓ_ｉ ^ｒとの間で類似度を算出し、所定の類似度を満たした文の組み合わせを抽出して疑似用例応答データベースＤ２を作成する装置である。データベース作成装置４００が、図６に示した処理フローを実施することにより本実施形態のデータベース作成方法を行う。

【0027】

学習用対話コーパスＤ３は、一組が発話文Ｓ_ｉ ^ｅと、発話文Ｓ_ｉ ^ｅに対応する応答文Ｓ_ｉ ^ｒとからなり、用例応答データベースＤ１が有する組数よりも多くの組数を有するデータベースである。学習用対話コーパスＤ３は、例えばTweet-replyペアや自然会話の書き起こしなどの会話データである。

【0028】

Ｍ，Ｎ（Ｍ＞Ｎ）をそれぞれ自然数とした場合、(Ｓ_ｉ ^ｅ，Ｓ_ｉ ^ｒ)は学習用対話コーパスＤ３におけるｉ（ｉ＝１，２，…Ｍ）番目の発話文と応答文を示すものとする。ｓｉｍ（ｘ，ｙ）はベクトルｘとベクトルｙの類似度とする。θ_ｓｉｍは予め定めた所定の閾値とする。なお、文の類似度の算出は、テキスト間の類似度を表現するものであれば、いずれの手法でもよい。一例としてはコサイン類似度が挙げられる。文ベクトルは文に含まれる情報を所定次元のベクトルで表現したものであれば、いずれの手法でもよい。一例としては、Sentence-BERTなどの変換モデルが挙げられる。

【0029】

類似度計算部４１０は、学習用対話コーパスＤ３から入力された発話文Ｓ_ｉ ^ｅと用例応答データベースＤ１から入力された用例文Ｔ_ｊ ^ｅとの類似度である第１類似度ｓｉｍ（Ｓ_ｉ ^ｅ，Ｔ_ｊ ^ｅ）を算出する。また、類似度計算部４１０は、学習用対話コーパスＤ３から入力された応答文Ｓ_ｉ ^ｒと用例応答データベースＤ１から入力された応答文Ｔ_ｊ ^ｒとの類似度である第２類似度ｓｉｍ（Ｓ_ｉ ^ｒ，Ｔ_ｊ ^ｒ）を算出する（ステップＳ４１０）。ステップＳ４１０により、最大Ｍ×Ｎ通りの類似度を算出することとなるが、例えば学習用対話コーパスＤ３のデータ数の規模により予め算出する個数の上限を決めるなど所定のルールを設けておいてもよい。
データベース生成部４２０は、算出された第１類似度、及び第２類似度を用いて、下記式（３）及び式（４）の双方の条件を具備する組のデータ（Ｓ_ｋ ^ｅ，Ｓ_ｋ ^ｒ）を学習用対話コーパスＤ３から抽出して疑似用例応答データベースＤ２を作成する（ステップＳ４２０）。

【数5】

【数6】

【0030】

上述したデータベース作成装置４００の処理によって疑似用例応答データベースＤ２を作成することにより、用例応答データベースＤ１の組（用例文Ｔ_ｊ ^ｅ、応答文Ｔ_ｊ ^ｒ）に類似するものの、意味的に多少異なる文の組を密に収集することができる。疑似用例応答データベースＤ２の作成により、応答変換学習装置３００において、発話文Ｓ_ｉ ^ｅと用例文Ｔ_ｊ ^ｅとの意味の差異を精緻にとらえることが可能な応答変換器の学習が可能になる。即ち、元々の用例応答データベースＤ１に近い意味を持ちつつ、ユーザの発話意図に対して、より近い意味を有する変換後応答文ｖを生成できるようになる。

【0031】

また、疑似用例応答データベースＤ２の作成に当たり、学習用対話コーパスＤ３の種類として特定のものを選定することにより、心理状態や心的態度への応用が可能となる。

【0032】

例えば、学習用対話コーパスＤ３に、JEmpatheticDialoguesのような感情対話コーパスを用いて疑似用例応答データベースＤ２を作成すれば、この疑似用例応答データベースＤ２を用いて応答変換学習装置３００での学習を行うことにより、感情などの心理状態への応用が可能となる。一例として、楽しい感情の発話文と用例文とから、楽しい感情を表現するベクトルが抽出可能となり、入力発話文に合わせたポジティブな変換後応答文を生成できる。

【0033】

また、学習用対話コーパスＤ３に、例えば発話スタイルコーパスを用いて疑似用例応答データベースＤ２を作成すれば、この疑似用例応答データベースＤ２を用いて応答変換学習装置３００で学習を行うことにより、親しみなどの心的態度への応用が可能となる。一例として、会話相手と親しい関係がある場合、親しげな変換後応答文を生成できるなど、会話相手との関係に対して、より適した応答文を生成することができる。

【0034】

［自己符号化学習装置］
上述した応答変換学習装置３００が用いる第１パラメータＰ３１、及び第２パラメータＰ’３２は、自己符号化学習装置５００を用いて学習された結果、出力されたものである。本開示の実施形態に係る自己符号化学習装置５００は、図７に示すように、自己符号化部５１０とパラメータ更新部５２０とを有する。自己符号化部５１０はニューラルネットワークであり、エンコーダ５１１とデコーダ５１２とを有する。自己符号化学習装置５００は、言語データベースＤ４と、第１学習用パラメータＰ’５１と、第２学習用パラメータＰ’５２とを使用するが、これらは、自己符号化学習装置５００内に設けるように構成してもよいし、自己符号化学習装置５００からアクセスできるのであれば、少なくとも１つを自己符号化学習装置５００とは別に設けるように構成してもよい。

【0035】

自己符号化学習装置５００は、自己符号化部５１０により、言語データベースＤ４から入力された文ｚを復元文z’へと変換するための学習をさせて、自己符号化学習装置５００における学習済パラメータである、第１パラメータＰ３１と第２パラメータＰ’３２とを生成する装置である。自己符号化学習装置５００が、図８に示した処理フローを実施することにより本実施形態の自己符号化学習方法を行う。なお、自己符号化学習装置５００が使用する言語データベースＤ４は、例えばWikipedia（登録商標）の記事データなど、比較的大規模な言語データである。

【0036】

エンコーダ５１１は、第１学習用パラメータＰ’５１を使用して、言語データベースＤ４から入力された文ｚを圧縮（エンコード）してデコーダ５１２に出力する（ステップＳ５１１）。

【0037】

デコーダ５１２は、第２学習用パラメータＰ’５２を使用して、入力された圧縮された文ｚを復元して復元文z’を生成する（ステップＳ５１２）。

【0038】

パラメータ更新部５２０は、文ｚと復元文z’との誤差が学習の終了条件を満たさない場合は、予め定めた所定のルールに基づいて第１学習用パラメータＰ’５１、及び第２学習用パラメータＰ’５２を更新する。次に、パラメータ更新部５２０は、言語データベースＤ４からの次のデータについて、上記ステップＳ５１１からの処理を繰り返して行わせる（ステップＳ５２０－１）。ここで、ステップＳ５２０－１の更新手法としては、例えば、上記誤差をコスト関数（誤差関数）で定義し、このコスト関数が最小化するようにパラメータを構成していくこと等が挙げられる。学習は、言語データベースＤ４が有する全データについて実施してもよいが、学習する回数の上限を決めるなど所定のルールを設けておいてもよい。

【0039】

パラメータ更新部５２０は、上述の誤差が学習の終了条件を満たした場合は、直前に使用していた第１学習用パラメータＰ’５１と、第２学習用パラメータＰ’５２とを、学習済パラメータである第１パラメータＰ３１、及び第２パラメータＰ’３２として出力する（ステップＳ５２０－２）。

【0040】

上述したように、本開示の応答文生成装置１は応答変換部２０を有する。応答変換部２０は、応答変換学習装置３００によってファインチューニングされた学習済の応答変換部３１０と同等の機能を有する。応答変換部３１０は、用例応答データベースＤ１をベースとして、上述した式（３）（４）で示された所定の類似度を満たしたデータベースである疑似用例応答データベースＤ２を用いてファインチューニングされたものである。即ち、応答文生成装置１の応答変換部２０は、疑似用例応答データベースＤ２を用いてファインチューニングが行われている。したがって、入力された発話文（入力発話文ｘ）と、予め用意された用例文（応答文ｙ’）の意味的差分を精緻にとらえた応答文（変換後応答文ｖ）を生成することができる。

【0041】

［応答文生成装置の変形例］
上述した応答文生成装置１は、以下に説明する応答文生成装置２のように構成してもよい。本開示の実施形態の変形例に係る応答文生成装置２は、図９に示すように、応答選択部１０ａと、応答変換部２０ａと、学習部３０とを有する。応答変換部２０ａはニューラルネットワークであり、エンコーダ２１ａと、意味差分ベクトル生成部２２ａと、デコーダ２３ａとを有する。応答文生成装置２は、用例応答データベースＤ１と、学習用対話コーパスＤ３（図１１参照）と、パラメータデータベースＰａ２とを使用するが、これらは応答文生成装置２内に設けるように構成してもよいし、応答文生成装置２からアクセスできるのであれば、少なくとも１つを応答文生成装置２とは別に設けるように構成してもよい。

【0042】

応答文生成装置２は、一つの機能として、入力された入力発話文ｘから、入力発話文ｘに対応する応答文である変換後応答文ｖを出力する機能を有する。なお、パラメータデータベースＰａ２は、少なくとも第１パラメータＰ３１と、第２パラメータＰ’３２とを有し、学習によって、第２パラメータＰ３２が格納されることとなるデータベースである。応答文生成装置２は、図９に示したように、ユーザの発話である入力発話文ｘが入力された場合には、図１０に示した処理フローを実施することにより、入力発話文ｘに対応する応答文である変換後応答文ｖを出力する。

【0043】

応答選択部１０ａは、上述のステップＳ１０と同等の処理を行う（ステップＳ１０ａ）。エンコーダ２１ａは、上述のステップＳ２１と同等の処理を行う（ステップＳ２１ａ）。意味差分ベクトル生成部２２ａは、上述のステップＳ２２と同等の処理を行う（ステップＳ２２ａ）。デコーダ２３ａは、上述のステップＳ２３－１及びステップＳ２３－２と同等の処理を行う（ステップＳ２３ａ－１，Ｓ２３ａ－２）。

【0044】

上記機能に加え、応答文生成装置２は、もう一つの機能として、応答変換部２０ａを学習させ、パラメータデータベースＰａ２を更新する機能を有する。応答文生成装置２は、図１１に示したように、学習用対話コーパスＤ３から発話文Ｓ_ｉ ^ｅと、発話文Ｓ_ｉ ^ｅに対応する応答文Ｓ_ｉ ^ｒとが入力された場合には、図１２に示した処理フローを実施することにより、応答変換部２０ａを学習させて、パラメータデータベースＰａ２を更新する。

【0045】

類似度計算部４１０ａが、学習用対話コーパスＤ３から入力された発話文Ｓ_ｉ ^ｅと用例応答データベースＤ１から入力された用例文Ｔ_ｊ ^ｅとの第１類似度ｓｉｍ（Ｓ_ｉ ^ｅ，Ｔ_ｊ ^ｅ）と、学習用対話コーパスＤ３から入力された応答文Ｓ_ｉ ^ｒと用例応答データベースＤ１から入力された応答文Ｔ_ｊ ^ｒとの第２類似度ｓｉｍ（Ｓ_ｉ ^ｒ，Ｔ_ｊ ^ｒ）とを算出し、これらの算出結果と、発話文Ｓ_ｉ ^ｅ及び応答文Ｓ_ｉ ^ｒとをパラメータ更新部３１に出力する（ステップＳ４１０ａ）。

【0046】

パラメータ更新部３１は、算出された第１類似度及び第２類似度が、上述の式（３）と式（４）の少なくとも一方の条件を具備しない場合には、このループでの処理を終了し、次の学習用対話コーパスＤ３からのデータに基づいて上述したステップＳ４１０ａからの処理を開始する。

【0047】

パラメータ更新部３１は、算出された第１類似度及び第２類似度が、上述の式（３）及び式（４）の双方の条件を満たす場合には、エンコーダ２１ａに対して、ステップＳ４１０ａにて類似度の算出の対象となった用例応答データベースＤ１の用例文Ｔ_ｊ ^ｅとこれに対応する応答文Ｔ_ｊ ^ｒ、及び発話文Ｓ_ｋ ^ｅを、第１パラメータＰ３１を使用して、用例意味ベクトル^Ｔ_ｊ ^ｅ、応答意味ベクトル^Ｔ_ｊ ^ｒ、及び入力発話意味ベクトル^Ｓ_ｋ ^ｅへと変換させる。また、パラメータ更新部３１は、エンコーダ２１ａに対して、入力発話意味ベクトル^Ｓ_ｋ ^ｅと用例意味ベクトル^Ｔ_ｊ ^ｅとを意味差分ベクトル生成部２２ａへ出力させ、応答意味ベクトル^Ｔ_ｊ ^ｒをデコーダ２３ａへ出力させる（ステップＳ２１ａ）。ここで、発話文Ｓ_k ^ｅ，応答文Ｓ_k ^ｒは、上述の式（３）と式（４）の双方を満たした発話文Ｓ_ｉ ^ｅ，応答文Ｓ_ｉ ^ｒの組を示す。なお、上述の処理をすることにより、エンコーダ２１ａに入力される用例文Ｔ_ｊ ^ｅと発話文Ｓ_ｋ ^ｅ（即ち、学習用対話コーパスＤ３にあった発話文Ｓ_ｉ ^ｅ）とは、上述の式（３）の条件を満たすものが入力されることとなる。

【0048】

パラメータ更新部３１は、意味差分ベクトル生成部２２ａに対して、ステップＳ２１ａにより変換された入力発話意味ベクトル^Ｓ_ｋ ^ｅと用例意味ベクトル^Ｔ_ｊ ^ｅとの差分から意味差分ベクトル^ｗを生成させ、デコーダ２３ａへ出力させる（ステップＳ２２ａ）。

【0049】

パラメータ更新部３１は、デコーダ２３ａに対して、第２パラメータＰ’３２を使用して、ステップＳ２１ａによる応答意味ベクトル^Ｔ_ｊ ^ｒとステップＳ２２ａによる意味差分ベクトル^ｗとの加算から、発話文Ｓ_ｉ ^ｅと用例文Ｔ_ｊ ^ｅとの意味の違いが反映された応答ベクトル^ｖへと変換させ（ステップＳ２３ａ－１）、かつ、応答ベクトル^ｖから、発話文Ｓ_ｋ ^ｅに対する応答文である変換後応答文ｖを生成させて、パラメータ更新部３１に出力させる（ステップＳ２３ａ－２）。

【0050】

パラメータ更新部３１は、変換後応答文ｖと入力された学習用対話コーパスＤ３からの応答文Ｓ_ｉ ^ｒとの誤差が所定の学習の終了条件を満たさない場合は、第２パラメータＰ’３２を更新し（ステップＳ３１－１）、次の学習用対話コーパスＤ３からのデータに基づいて上述したステップＳ４１０ａからの処理を行うことで学習を繰り返す。

【0051】

上記誤差が学習の終了条件を満たす場合は、直前に使用している第２パラメータＰ’３２を学習済パラメータである第２パラメータＰ３２として、パラメータデータベースＰａ２に出力する（ステップＳ３１－２）。

【0052】

上述した応答文生成装置２によっても、入力された発話文と、予め用意された用例文の意味的差分を精緻にとらえることができる。また、応答文生成装置２は、上述のような構成により、応答変換の学習機能も併せて有することとなる。

【0053】

［プログラム、記録媒体］
上述の各種の処理は、図１３に示すコンピュータ２０００の記録部２０２０に、上記方法の各ステップを実行させるプログラムを読み込ませ、制御部２０１０、入力部２０３０、出力部２０４０、表示部２０５０などに動作させることで実施できる。

【0054】

この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。

【0055】

また、このプログラムの流通は、例えば、そのプログラムを記録したＤＶＤ、ＣＤ－ＲＯＭ等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させる構成としてもよい。

【0056】

このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶装置に格納する。そして、処理の実行時、このコンピュータは、自己の記録媒体に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。また、このプログラムの別の実行形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよく、さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるＡＳＰ（Application Service Provider）型のサービスによって、上述の処理を実行する構成としてもよい。なお、本形態におけるプログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの（コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等）を含むものとする。

【0057】

また、この形態では、コンピュータ上で所定のプログラムを実行させることにより、本装置を構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。

【符号の説明】

【0058】

１ 応答文生成装置 ２ 応答文生成装置
１０ 応答選択部 ２１、３１１、５１１ エンコーダ
２２ 意味差分ベクトル生成部 ３０ 学習部
３１２ 意味差分ベクトル生成部 ３００ 応答変換学習装置
２０，２０ａ，３１０ 応答変換部 ２３，２３ａ，３１３，５１２ デコーダ
３１，３２０，５２０ パラメータ更新部
４００ データベース作成装置 ４１０ 類似度計算部
４２０ データベース生成部 ５００ 自己符号化学習装置
５１０ 自己符号化部 Ｄ１ 用例応答データベース
Ｄ２ 疑似用例応答データベース Ｄ３ 学習用対話コーパス
Ｄ４ 言語データベース Ｐ３１ 第１パラメータ
Ｐ３２，Ｐ’３２ 第２パラメータ Ｐ’５１ 第１学習用パラメータ
Ｐ’５２ 第２学習用パラメータ Ｐ２ 学習済パラメータデータベース
Ｐａ２ パラメータデータベース Ｓ_ｉ ^ｅ，Ｓ_ｋ ^ｅ 発話文
Ｓ_ｉ ^ｒ，Ｓ_ｋ ^ｒ，Ｔ_ｊ ^ｒ 応答文 ^Ｓ_ｋ ^ｅ，^ｘ 入力発話意味ベクトル
Ｔ_ｊ ^ｅ，ｘ’ 用例文 ^Ｔ_ｊ ^ｅ，^ｘ’ 用例意味ベクトル
^Ｔ_ｊ ^ｒ，^ｙ’応答意味ベクトル ｖ 変換後応答文
^ｖ 応答ベクトル ^ｗ 意味差分ベクトル
ｘ 入力発話文 ｙ’ 応答文
ｚ 文 ｚ’ 復元文
θ_ｓｉｍ 閾値

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】