特開2023-183930発話データ生成装置、対話装置及び生成モデルの作成方法
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023183930
(43)【公開日】2023-12-28
(54)【発明の名称】発話データ生成装置、対話装置及び生成モデルの作成方法
(51)【国際特許分類】
G06F 16/90 20190101AFI20231221BHJP
G06F 40/56 20200101ALI20231221BHJP
【ＦＩ】
G06F16/90 100
G06F40/56
【審査請求】未請求
【請求項の数】8
【出願形態】ＯＬ
(21)【出願番号】P 2022097746
(22)【出願日】2022-06-17
(71)【出願人】
【識別番号】301022471
【氏名又は名称】国立研究開発法人情報通信研究機構
(74)【代理人】
【識別番号】100099933
【弁理士】
【氏名又は名称】清水 敏
(72)【発明者】
【氏名】飯田 龍
(72)【発明者】
【氏名】鳥澤 健太郎
(72)【発明者】
【氏名】水野 淳太
(72)【発明者】
【氏名】クロエツェー ジュリアン
【テーマコード（参考）】
5B091
5B175
【Ｆターム（参考）】
5B091CA21
5B091EA01
5B175DA01
5B175EA01
(57)【要約】
【課題】対話装置においてキャッシュデータを効率よく生成できるような発話データ作成装置、対話装置及び学習装置を提供する。
【解決手段】発話データ作成装置は、複数のパッセージの各々から、入力発話に対する応答発話を構成する発話単語列と、発話単語列を検索するキーとなるキー単語列とを含むキャッシュデータを生成するキャッシュデータ生成装置１４０と、キャッシュデータ生成装置１４０により生成されたキャッシュデータを、少なくともキー単語列をキーとして読み出し可能に記憶するキャッシュデータ記憶装置１６２とを含む。
【選択図】図２
【解決手段】発話データ作成装置は、複数のパッセージの各々から、入力発話に対する応答発話を構成する発話単語列と、発話単語列を検索するキーとなるキー単語列とを含むキャッシュデータを生成するキャッシュデータ生成装置１４０と、キャッシュデータ生成装置１４０により生成されたキャッシュデータを、少なくともキー単語列をキーとして読み出し可能に記憶するキャッシュデータ記憶装置１６２とを含む。
【選択図】図２
【特許請求の範囲】
【請求項1】
複数パッセージの各々から、入力発話に対する応答発話を構成する発話単語列と、前記発話単語列を検索するキーとなるキー単語列とを含む単語列対を生成するための応答発話生成手段と、
前記応答発話生成手段により生成された前記単語列対を、少なくとも前記キー単語列をキーとして読出可能に記憶する単語列対記憶装置とを含む、対話装置のための発話データ生成装置。
前記応答発話生成手段により生成された前記単語列対を、少なくとも前記キー単語列をキーとして読出可能に記憶する単語列対記憶装置とを含む、対話装置のための発話データ生成装置。
【請求項2】
前記応答発話生成手段は、パッセージが与えられると、当該パッセージから、所定の分離トークンにより互いに分離されたキー単語列と発話単語列とを含む単語列を生成するよう学習済の単語列生成モデルを含む、請求項１に記載の発話データ生成装置。
【請求項3】
前記応答発話生成手段は、
パッセージが与えられると、発話単語列を生成するよう予め学習済の第１の単語列生成モデルと、
パッセージと発話単語列が与えられると、前記キー単語列を生成するよう予め学習済の第２の単語列生成モデルとを含む、請求項１又は請求項２に記載の発話データ生成装置。
パッセージが与えられると、発話単語列を生成するよう予め学習済の第１の単語列生成モデルと、
パッセージと発話単語列が与えられると、前記キー単語列を生成するよう予め学習済の第２の単語列生成モデルとを含む、請求項１又は請求項２に記載の発話データ生成装置。
【請求項4】
さらに、前記応答発話生成手段により生成された単語列対のうち、所定の基準を満たすもののみを選択して前記単語列対記憶装置に記憶させるための選択手段を含む、請求項１又は請求項２に記載の発話データ生成装置。
【請求項5】
入力発話に応答して、応答発話を生成するための発話生成手段と
前記応答発話と、前記応答発話を検索するために前記入力発話から導出されたキー単語列とを含むキャッシュレコードを記憶する記憶装置とを備え、
前記記憶装置には、複数パッセージの各々から生成された、入力発話に対する応答発話を構成する発話単語列と、前記発話単語列を検索するキーとなる単語列とを含む単語列対を含むキャッシュレコードが格納され、
前記発話生成手段は、前記入力発話に応答して、前記入力発話から導出された入力単語列を前記キー単語列として含むキャッシュレコードを前記記憶装置において検索するための応答発話検索手段を含む、対話装置。
前記応答発話と、前記応答発話を検索するために前記入力発話から導出されたキー単語列とを含むキャッシュレコードを記憶する記憶装置とを備え、
前記記憶装置には、複数パッセージの各々から生成された、入力発話に対する応答発話を構成する発話単語列と、前記発話単語列を検索するキーとなる単語列とを含む単語列対を含むキャッシュレコードが格納され、
前記発話生成手段は、前記入力発話に応答して、前記入力発話から導出された入力単語列を前記キー単語列として含むキャッシュレコードを前記記憶装置において検索するための応答発話検索手段を含む、対話装置。
【請求項6】
入力発話に応答して、複数パッセージを含むパッセージ集合に基づいて応答発話を生成し、当該応答発話と、前記応答発話を検索するために前記入力発話から導出されたキー単語列とを含むキャッシュレコードを記憶する記憶装置を含む対話装置において、任意のパッセージに基づいて前記キャッシュレコードと同じフォーマットを持つ応答検索用レコードを生成する機能を持つ生成モデルの作成方法であって、
前記記憶装置に記憶されている前記キャッシュレコードに含まれる応答発話及びキー単語列と、当該応答発話を生成するために前記対話装置が使用したパッセージである原パッセージとを組み合わせることにより、前記生成モデルの学習に使用される学習用レコードを生成するステップと、
前記学習用レコードを生成するステップにおいて生成された複数の学習用レコードの各々について、当該学習用レコードに含まれる前記原パッセージを入力とし、当該学習用レコードに含まれる前記キー単語列及び当該学習用レコードに含まれる前記応答発話を所定のフォーマットに整形して得られる単語列を正解とすることによって、前記生成モデルの学習を行うステップとを含む、生成モデルの作成方法。
前記記憶装置に記憶されている前記キャッシュレコードに含まれる応答発話及びキー単語列と、当該応答発話を生成するために前記対話装置が使用したパッセージである原パッセージとを組み合わせることにより、前記生成モデルの学習に使用される学習用レコードを生成するステップと、
前記学習用レコードを生成するステップにおいて生成された複数の学習用レコードの各々について、当該学習用レコードに含まれる前記原パッセージを入力とし、当該学習用レコードに含まれる前記キー単語列及び当該学習用レコードに含まれる前記応答発話を所定のフォーマットに整形して得られる単語列を正解とすることによって、前記生成モデルの学習を行うステップとを含む、生成モデルの作成方法。
【請求項7】
さらに、前記記憶装置に記憶された前記キャッシュレコードのうち、所定の基準を満たすもののみを選択して前記記憶装置から読出して前記学習用レコードを生成するステップへの入力とするステップを含む、請求項６に記載の生成モデルの作成方法。
【請求項8】
入力発話に基づいて複数の質問文を作成し、質問回答システムに入力して、当該質問回答システムから出力される複数の回答文を取得するステップと、
前記回答文を取得するステップにおいて取得された前記複数の回答文に基づいて前記入力発話に対する応答発話を生成するステップと、
前記複数の回答文の各々について、当該回答文を入力とし、当該回答文から得られた前記応答発話と前記入力発話との組み合わせを正解データとした、自然言語文の生成モデルの学習データを生成するステップと、
前記学習データを生成するステップにおいて生成された前記学習データを用いて前記生成モデルの学習を行うステップとを含み、
前記正解データは、前記応答発話と前記入力発話との一方を応答発話単語列とし、他方を前記応答発話の検索のためのキー単語列とするものである、自然言語文の生成モデルの作成方法。
前記回答文を取得するステップにおいて取得された前記複数の回答文に基づいて前記入力発話に対する応答発話を生成するステップと、
前記複数の回答文の各々について、当該回答文を入力とし、当該回答文から得られた前記応答発話と前記入力発話との組み合わせを正解データとした、自然言語文の生成モデルの学習データを生成するステップと、
前記学習データを生成するステップにおいて生成された前記学習データを用いて前記生成モデルの学習を行うステップとを含み、
前記正解データは、前記応答発話と前記入力発話との一方を応答発話単語列とし、他方を前記応答発話の検索のためのキー単語列とするものである、自然言語文の生成モデルの作成方法。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は対話装置に関し、特に、処理負荷の小さな対話装置のための発話データ生成装置、対話装置及びそのための生成モデルの作成方法に関する。
【背景技術】
【0002】
コンピュータの性能の向上と、自然言語に関するコンピュータ処理技術の発展により、人間がコンピュータを相手に対話をする時代が近づいている。そうした対話は、以前と異なりオープンドメインであることが想定される。また特定の問題に対する回答を得るためだけではなく、コンピュータが人間と自然な対話を行うようになることも期待される。
【0003】
そうした対話を行うシステムとして、ウェブから収集した大規模なパッセージ群を知識源として持つ質問応答システムを準備し、ユーザの発話に対してこれらパッセージ群から応答として適切な内容を抽出して応答文を生成するものが知られている（非特許文献１）。図１にその概略を示す。なお、ここでは、パッセージとは文書の一部のことを指し、たとえば５文から９文程度の連続する文のことをいう。
【0004】
図１を参照して、この対話システム５０においては、対話エンジン６２が、ユーザ発話６０から多数の質問１２０を作成する質問作成処理１１０を行う。これら質問１２０は質問応答システム１２２に入力される。質問応答システム１２２は、ウェブから収集した大量のパッセージを含む大規模パッセージ集合６４から、各質問に対する回答１２４を生成する。対話エンジン６２は、これら大量の回答１２４から応答を生成する応答生成処理１２６を行う。対話エンジン６２は、これら応答を、ユーザ発話６０に対する応答としてのふさわしさという観点からランキング１２８し、システム発話６６として出力する。
【0005】
上記対話システム５０は、大規模パッセージ集合６４により表される非常に幅広い知識に基づいてユーザ発話６０に対する応答を生成する。したがって、ユーザ発話６０のドメインを問わず、適切な回答を与えることができる。しかし、この対話システム５０においては、処理に要する負荷が大きいという問題がある。なぜなら、対話エンジン６２は、１つの発話に対して多数の質問１２０を作成し、それらの各々に対して適切な回答となるパッセージを大規模パッセージ集合６４の中から検索し、さらにその中から最適な回答を選択するという複雑な処理をする必要があるためである。この過程では多様な深層学習に基づく多くの処理が並行して実行される。そのために必要な計算リソースは非常に大きく、応答まで時間を要することがある。
【0006】
こうした問題を解決するために、対話エンジン６２が出力したシステム発話６６をキャッシュするという考え方がある。例えば図１に示すように、ユーザ発話６０からトピック単語列をトピック抽出部６８が抽出する。トピック単語列とは、ユーザ発話６０の中の中心的な単語列のことをいう。トピック単語列は、予め発話例とその中心と思われる単語とを学習データとして学習したニューラルネットワークからなるトピックモデルに、ユーザ発話６０を入力することによりトピックモデルの出力に導出される。トピック抽出部６８は、このトピックモデルを持ち、ユーザ発話６０をトピックモデルに入力することにより、ユーザ発話６０からトピック単語列を抽出する。
【0007】
キャッシュデータ作成部８０がこのトピック単語列と、システム発話６６、大規模パッセージ集合６４の中において、システム発話６６の元になったパッセージとを組にしたキャッシュデータを作成する。キャッシュデータ作成部８０がこのキャッシュデータを対話処理用キャッシュデータ８２に蓄積する。次に別のユーザ発話６０の入力があった場合には、トピック抽出部６８がユーザ発話６０からトピック単語列を抽出する。キャッシュ検索部８４がこのトピック単語列と同じトピック単語列を持つキャッシュデータを対話処理用キャッシュデータ８２内において検索する。該当するキャッシュデータがあれば、キャッシュ検索部８４は検索されたキャッシュデータのシステム発話を出力する。キャッシュ検索部８４は、該当するキャッシュデータがあったか否かを示す通知９２を対話エンジン６２に与える。該当するキャッシュデータがなければ、対話エンジン６２が通常の応答生成を行い、システム発話６６を出力する。
【0008】
対話システム５０は、システム発話６６を受ける第１入力とキャッシュ検索部８４の出力を受ける第２入力とを持つ選択部８８を持つ。キャッシュ検索部８４は、トピック抽出部６８が抽出したトピック単語列に該当するキャッシュデータがあれば第２入力を、そうでなければ第１入力を、それぞれ選択するように選択部８８を制御する制御信号９４を選択部８８に与える。この結果、ユーザ発話６０に対する応答としてふさわしいキャッシュデータが既に対話処理用キャッシュデータ８２に記憶されていれば、対話システム５０は多量の計算を行うことなくシステム発話９０を出力できる。そのようなキャッシュデータがなければ対話システム５０は通常の方法によりシステム発話６６を生成し、システム発話９０として出力する。
【先行技術文献】
【非特許文献】
【0009】
【非特許文献1】国立研究開発法人情報通信研究機構、「会話するＡＩ、次世代音声対話システム『ＷＥＫＤＡ（ウェクダ）』」、［online］、２０１７年１０月２４日、国立研究開発法人情報通信研究機構、［令和４年６月１日検索］、インターネット＜URL:https://www.nict.go.jp/press/2017/10/24-1.html＞
【発明の概要】
【発明が解決しようとする課題】
【0010】
しかし、この対話システム５０においては、１つのトピック単語列に対して複数個のレコードを記録するため、多様なトピックに対する応答を行うために膨大な規模のキャッシュデータを保持する必要がある。先行技術ではキャッシュのレコードを効率的に作成するためには、事前に獲得された多数のトピック単語列集合に対して自動的に質問を作成し、その質問を対話エンジン６２に入力し、その結果として対話エンジン６２から出力されるシステム発話を使用することが考えられる。しかし、多くのキャッシュのレコードを作成しようとすれば、対話システム５０の処理量も増加し、その負荷が非常に高くなるという問題がある。そのため、効率的にキャッシュデータを作成することは困難である。
【0011】
さらに、大規模パッセージ集合６４の内容をアップデートし、日々更新されるインターネット上の情報の変化を対話システム５０の出力に反映させるためには、ウェブクロールをする必要がある。しかしその場合も、多数の質問を対話システム５０に入力しない限り、新たな情報を反映したキャッシュデータは作成できない。したがって対話エンジン６２に負荷がかかることが避けられない。
【0012】
したがってこの発明は、対話装置において発話データのキャッシュデータを効率よく生成できるような発話データ生成装置、対話装置及び生成モデルの作成方法を提供することを目的とする。
【課題を解決するための手段】
【0013】
この発明の第１の局面に係る対話装置のための発話データ生成装置は、複数のパッセージの各々から、入力発話に対する応答発話を構成する発話単語列と、発話単語列を検索するキーとなるキー単語列とを含む単語列対を生成する応答発話生成手段と、応答発話生成手段により生成された単語列対を、少なくともキー単語列をキーとして単語列対を読出可能に記憶する単語列対記憶装置とを含む。
【0014】
好ましくは、キー単語列は、入力発話のトピックを示すトピック単語列である。
【0015】
より好ましくは、キー単語列は、入力発話を表す入力発話単語列である。
【0016】
さらに好ましくは、応答発話生成手段は、パッセージが与えられると、当該パッセージから、所定の分離トークンにより互いに分離されたキー単語列と発話単語列とを含む単語列を生成するよう学習済の単語列生成モデルを含む。
【0017】
好ましくは、応答発話生成手段は、パッセージが与えられると、発話単語列を生成するよう予め学習済の第１の単語列生成モデルと、パッセージと発話単語列が与えられると、キー単語列を生成するよう予め学習済の第２の単語列生成モデルとを含む。
【0018】
より好ましくは、応答発話生成手段は、パッセージが与えられると、当該パッセージに含まれる単語について、発話単語列を構成する単語には第１ラベルを、キー単語列を構成する単語には第１ラベルと異なる第２ラベルを、それぞれ付与するよう学習済の単語分類モデルと、パッセージ中の、第１ラベルが付された単語から、発話単語列を生成するための発話単語列生成手段と、パッセージの中における第２ラベルが付された単語から、キー単語列を生成するためのキー単語列生成手段とを含む。
【0019】
さらに好ましくは、応答発話生成手段は、複数のパッセージの各々について、当該パッセージから複数の部分を抽出するための抽出手段と、抽出手段により抽出された複数の部分の各々について、当該部分を入力として受け、単語列対を含む出力単語列を生成するよう学習済の出力単語列生成手段とを含む。
【0020】
好ましくは、抽出手段により抽出される複数の部分の各々は、抽出手段に与えられたパッセージを構成する１文である。
【0021】
より好ましくは、抽出手段により得られる複数の部分の各々は、１又は複数の文を含む。
【0022】
さらに好ましくは、抽出手段により得られる複数の部分の各々は１文、又は１文より短い文字列である。
【0023】
好ましくは、応答発話生成手段はさらに、抽出手段により抽出された複数の部分の中において、所定の基準を満たした部分のみを選択して出力単語列生成手段に入力するための選択手段を含む。
【0024】
より好ましくは、発話データ生成装置は、さらに、応答発話生成手段により生成された単語列対のうち、所定の基準を満たすもののみを選択して単語列記憶装置に記憶させるための選択手段を含む。
【0025】
この発明の第２の局面に係る対話装置は、入力発話に応答して、応答発話を生成するための発話生成手段と、応答発話と、応答発話を検索するために入力発話から導出されたキー単語列とを含むキャッシュレコードを記憶する記憶装置とを備え、記憶装置には、複数パッセージの各々から生成された、入力発話に対する応答発話を構成する発話単語列と、発話単語列を検索するキーとなる単語列とを含む単語列対を含むキャッシュレコードが格納され、発話生成手段は、入力発話に応答して、入力発話から導出された入力単語列をキー単語列として含むキャッシュレコードを記憶装置において検索するための応答発話検索手段を含む。
【0026】
この発明の第３の局面に係る生成モデルの作成方法は、入力発話に応答して、複数パッセージを含むパッセージ集合に基づいて応答発話を生成し、当該応答発話と、応答発話を検索するために入力発話から導出されたキー単語列とを含むキャッシュレコードを記憶する記憶装置を含む対話装置において、任意のパッセージに基づいてキャッシュレコードと同じフォーマットを持つ応答検索用レコードを生成する機能を持つ生成モデルの作成方法であって、記憶装置に記憶されているキャッシュレコードに含まれる応答発話及びキー単語列と、当該応答発話を生成するために対話装置が使用したパッセージである原パッセージとを組み合わせることにより、生成モデルの学習に使用される学習用レコードを生成するステップと、学習用レコードを生成するステップにおいて生成された複数の学習用レコードの各々について、当該学習用レコードに含まれる原パッセージを入力とし、当該学習用レコードに含まれるキー単語列及び当該学習用レコードに含まれる応答発話を所定のフォーマットに整形して得られる単語列を正解とすることによって、生成モデルの学習を行うステップとを含む。
【0027】
好ましくは、作成方法はさらに、記憶装置に記憶されたキャッシュレコードのうち、所定の基準を満たすもののみを選択して記憶装置から読出して学習用レコードを生成するステップへの入力とするステップを含む。
【0028】
より好ましくは、学習を行うステップは、学習用レコードを生成するステップにおいて生成された複数の学習用レコードの各々について、当該学習用レコードに含まれる原パッセージを入力とし、当該学習用レコードに含まれるキー単語列及び当該学習用レコードに含まれる応答発話を所定の分離トークンを介して結合して得られる単語列を正解とすることによって、生成モデルの学習を行うステップを含む。
【0029】
さらに好ましくは、キー単語列は、入力発話が関連するトピック単語列である。
【0030】
好ましくは、キー単語列は、入力発話を構成する単語列である。
【0031】
この発明の第４の局面に係る自然言語文の生成モデルの作成方法は、入力発話に基づいて複数の質問文を作成し、質問回答システムに入力して、当該質問回答システムから出力される複数の回答文を取得するステップと、回答文を取得するステップにおいて取得された複数の回答文に基づいて入力発話に対する応答発話を生成するステップと、複数の回答文の各々について、当該回答文を入力とし、当該回答文から得られた応答発話と入力発話との組み合わせを正解データとした、自然言語文の生成モデルの学習データを生成するステップと、学習データを生成するステップにおいて生成された学習データを用いて生成モデルの学習を行うステップとを含み、正解データは、応答発話と入力発話との一方を応答発話単語列とし、他方を応答発話の検索のためのキー単語列とするものである。
【0032】
好ましくは、応答発話単語列は応答発話であり、キー単語列は入力発話である。
【0033】
より好ましくは、応答発話単語列は入力発話であり、キー単語列は応答発話である。
【0034】
さらに好ましくは、学習データを生成するステップは、複数の回答文の各々について、当該回答文を入力とし、当該回答文が得られた質問文と、回答文から得られた応答発話と、入力発話との組み合わせを正解データとして、学習データを生成するステップを含む。
【図面の簡単な説明】
【0035】
【発明を実施するための形態】
【0036】
以下の説明及び図面では、同一の部品には同一の参照番号を付してある。したがって、それらについての詳細な説明は繰返さない。
【0037】
１．第１実施形態
Ａ．構成
－キャッシュデータ生成装置－
図２を参照して、この発明の第１実施形態に係るキャッシュデータ生成装置１４０は、大規模パッセージ集合６４から図１に示す対話システム５０のためのキャッシュデータを生成し、キャッシュデータ記憶装置１６２に格納する。大規模パッセージ集合６４は、例えば複数のパッセージを順番に記憶したテキストファイルの形式で準備されてもよいし、各々が１パッセージずつを記憶した複数レコードを持つデータベースの形式で準備されてもよい。なお、キャッシュデータ生成装置１４０により生成されたデータは、応答検索用に生成されるものであって、対話システム５０によって得られたキャッシュデータと同様に使用できる。しかしこれらは通常の方法で生成されたキャッシュデータではない。したがって、両者を明確に区別するためには、キャッシュデータ生成装置１４０により生成されたデータは、キャッシュデータを代替する疑似キャッシュデータ、又は応答検索用データという名称で呼ぶ方が適切かも知れない。しかし、以下の説明では、両者を実質的に区別できると考えられ、煩を避けるという意味もあって両者ともにキャッシュデータと呼ぶこととする。
Ａ．構成
－キャッシュデータ生成装置－
図２を参照して、この発明の第１実施形態に係るキャッシュデータ生成装置１４０は、大規模パッセージ集合６４から図１に示す対話システム５０のためのキャッシュデータを生成し、キャッシュデータ記憶装置１６２に格納する。大規模パッセージ集合６４は、例えば複数のパッセージを順番に記憶したテキストファイルの形式で準備されてもよいし、各々が１パッセージずつを記憶した複数レコードを持つデータベースの形式で準備されてもよい。なお、キャッシュデータ生成装置１４０により生成されたデータは、応答検索用に生成されるものであって、対話システム５０によって得られたキャッシュデータと同様に使用できる。しかしこれらは通常の方法で生成されたキャッシュデータではない。したがって、両者を明確に区別するためには、キャッシュデータ生成装置１４０により生成されたデータは、キャッシュデータを代替する疑似キャッシュデータ、又は応答検索用データという名称で呼ぶ方が適切かも知れない。しかし、以下の説明では、両者を実質的に区別できると考えられ、煩を避けるという意味もあって両者ともにキャッシュデータと呼ぶこととする。
【0038】
キャッシュデータ生成装置１４０は、大規模パッセージ集合６４からパッセージを１つずつ読出すためのパッセージ読出部１５２と、パッセージ読出部１５２が読出したパッセージから図１に示す対話処理用キャッシュデータ８２に記憶されたキャッシュデータを構成する各データ項目と同じ形式を持つキャッシュデータを生成するためのキャッシュデータ生成モデル１５４とを含む。キャッシュデータ生成モデル１５４としては、後述するように自然言語処理で多用されその効果が実証されているトランスフォーマ・エンコーダ・デコーダ（以下、「トランスフォーマ」という。）を用いる。キャッシュデータ生成モデル１５４を構成する自然言語文の生成モデルであるトランスフォーマの学習については後述する。なお、第１実施形態だけではなく、以下の各実施形態におけるキャッシュデータ生成モデルとしては、トランスフォーマが用いられる。もちろん、モデルはトランスフォーマに限定されるわけではなく、自然言語文の生成が可能で学習可能なモデルであればどのようなものも利用できる。
【0039】
キャッシュデータ生成装置１４０はさらに、キャッシュデータ生成モデル１５４が生成したキャッシュデータを記憶するための生成データ記憶装置１５６と、予め準備した面白さ判定モデル１５８を用いて生成データ記憶装置１５６に記憶されたキャッシュデータの中から面白さのスコアがしきい値以上のものを選択するためのキャッシュデータ選択部１６０とを含む。キャッシュデータ選択部１６０により選択されたキャッシュデータはキャッシュデータ記憶装置１６２に格納される。
【0040】
キャッシュデータ生成モデル１５４は、この実施形態では、図１に示す対話処理用キャッシュデータ８２に記憶されているキャッシュデータを使用して、キャッシュデータ生成モデル学習部２００により予め訓練される。対話処理用キャッシュデータ８２に記憶されたキャッシュデータは、この実施形態では、ユーザ発話から導出されてトピック単語列と、ユーザ発話に対するシステム発話の単語列とを含むフォーマットであり、さらに応答を生成する元になったパッセージ（これをここでは「原パッセージ」と呼ぶ。）の単語列を含む。したがって、キャッシュデータ生成モデル学習部２００は、キャッシュデータのパッセージを入力とし、キャッシュデータのトピック単語列とシステム発話とを所定のデリミタを介して結合した、キャッシュデータと同じフォーマットの単語列を正解データとして、キャッシュデータ生成モデル１５４の学習を行う。
【0041】
キャッシュデータ記憶装置１６２は、少なくともトピック単語列をキー、すなわちキー単語列として、キャッシュデータのレコードを読み出すことができるようにキャッシュデータを記憶する。なお、キャッシュデータとしては原パッセージは必要ではない。しかし、この実施形態では、原パッセージをキャッシュデータに含ませている。これは、後述するようにユーザ発話６０から生成したキャッシュデータを使用してさらにキャッシュデータを生成するときには、原パッセージが必要になるためである。そうした目的がないなら、キャッシュデータに原パッセージを含ませることは必要ではない。
【0042】
面白さ判定モデル１５８は、予め準備したニューラルネットワークからなるモデルである。面白さ判定モデル１５８は、入力された発話が発話として利用可能か否か、及び面白い発話かという観点で、発話に対するスコアを出力する。面白さ判定モデル１５８の学習は、予め準備した多数の単語列について、その発話をシステム発話として利用できるか、利用したときに面白いかを示すラベルを付すことで得られる学習データを使用して行われる。
【0043】
－キャッシュデータ生成モデル学習部２００－
図３に、図２のキャッシュデータ生成モデル学習部２００のより詳細な構成を示す。図３を参照して、キャッシュデータ生成モデル学習部２００は、対話処理用キャッシュデータ８２に記憶されているキャッシュデータの各レコードを読出し、面白さ判定モデル２１２によるそのレコードの面白さを示すスコアがしきい値以上であるもののみ選択するデータ選択部２１４を含む。面白さ判定モデル２１２は、図２に示す面白さ判定モデル１５８と同様のものである。
図３に、図２のキャッシュデータ生成モデル学習部２００のより詳細な構成を示す。図３を参照して、キャッシュデータ生成モデル学習部２００は、対話処理用キャッシュデータ８２に記憶されているキャッシュデータの各レコードを読出し、面白さ判定モデル２１２によるそのレコードの面白さを示すスコアがしきい値以上であるもののみ選択するデータ選択部２１４を含む。面白さ判定モデル２１２は、図２に示す面白さ判定モデル１５８と同様のものである。
【0044】
キャッシュデータ生成モデル学習部２００はさらに、データ選択部２１４により選択されたキャッシュデータの各レコードを記憶するための対象キャッシュデータ記憶装置２１６と、対象キャッシュデータ記憶装置２１６に記憶された各レコードを使用して、キャッシュデータ生成モデル１５４の学習データを生成するための学習データ生成部２１８とを含む。学習データ生成部２１８の機能は、前述したとおり、対象レコードに含まれるパッセージを入力とし、対象レコードに含まれるトピック単語列とシステム発話の単語列とをデリミタを介して連結した単語列を正解とする学習データを生成することである。
【0045】
キャッシュデータ生成モデル学習部２００はさらに、学習データ生成部２１８により生成された学習データを記憶するための学習データ記憶装置２２０と、学習データ記憶装置２２０に記憶された学習データを用いてキャッシュデータ生成モデル１５４の学習を行うためのモデル学習部２２２とを含む。
【0046】
図４に、学習データ記憶装置２２０に記憶された学習データのレコードの１例を示す。以下の説明では、記載を簡潔にするために「学習データのレコード」を単に「学習レコード」と呼ぶ。図４を参照して、この学習レコード２５０は、キャッシュデータ生成モデル１５４に入力されるパッセージの単語列２６０と、キャッシュデータ生成モデル１５４が出力すべき正解データである出力単語列２６２との組である。学習データ生成部２１８は、ユーザ発話から得られたトピック単語列（例えば「Ｆ社製のワクチン」）と、システム発話の単語列（「５～１１歳の子ども用のＦ社製ワクチンが承認されたらしい」）とをデリミタ（図４では「ＳＥＰ」で表されている。以下の各図において同じ。）を介して結合することにより出力単語列２６２を生成する。なお、パッセージの単語列２６０及び出力単語列２６２の各単語列は互いに空白で分離されているが、明細書ではスペースを節約するために単語間の空白は省略する。
【0047】
Ｂ．動作
図２に示すキャッシュデータ生成装置１４０は以下のように動作する。キャッシュデータ生成装置１４０の動作の前には、キャッシュデータ生成モデル１５４の学習を行う必要がある。そこで、最初にキャッシュデータ生成モデル１５４の学習について説明する。
図２に示すキャッシュデータ生成装置１４０は以下のように動作する。キャッシュデータ生成装置１４０の動作の前には、キャッシュデータ生成モデル１５４の学習を行う必要がある。そこで、最初にキャッシュデータ生成モデル１５４の学習について説明する。
【0048】
【0049】
データ選択部２１４は対話処理用キャッシュデータ８２に記憶されているキャッシュデータの各レコードを読出し、面白さ判定モデル２１２に各レコードを入力する。面白さ判定モデル２１２は、入力されたレコードに応答して、そのレコードに含まれるシステム発話の面白さを示すスコアを出力する。データ選択部２１４は、対話処理用キャッシュデータ８２から読出したキャッシュデータの各レコードの中で、このスコアがしきい値以上のもののみを選択し対象キャッシュデータ記憶装置２１６に格納する。
【0050】
学習データ生成部２１８は、対象キャッシュデータ記憶装置２１６に記憶された各レコードを使用して、キャッシュデータ生成モデル１５４の学習データを生成し学習データ記憶装置２２０に格納する。具体的には、学習データ生成部２１８は、対象レコードに含まれるパッセージを入力とし、対象レコードに含まれるトピック単語列とシステム発話の単語列とをデリミタを介して連結した単語列を正解とする学習データを生成する。
【0051】
モデル学習部２２２は、学習データ記憶装置２２０に記憶された学習データを用いてキャッシュデータ生成モデル１５４の学習を行う。この学習により、キャッシュデータ生成モデル１５４は、パッセージが与えられると、トピック単語列としての各単語列の確率分布と、システム発話としての各単語列の確率分布とを生成し出力するようになる。
【0052】
図２を参照して、キャッシュデータ生成モデル１５４の学習が完了すると、キャッシュデータ生成モデル学習部２００が動作可能になる。大規模パッセージ集合６４には、図１に関連して説明したとおり、ウェブなどから収集した大量のパッセージが格納されている。
【0053】
パッセージ読出部１５２は、大規模パッセージ集合６４から１パッセージずつパッセージを読出し、キャッシュデータ生成モデル１５４に入力する。キャッシュデータ生成モデル１５４は、入力されたパッセージに応答して、トピック単語列の確率分布と、システム発話の単語列の確率分布とを出力する。説明を簡単にするために、ここではトピック単語列の中で最も確率が高い単語がトピック単語列として選択され、システム発話としても、システム発話の単語列の確率が最も高い単語列がシステム発話の単語列として選択されるものとする。こうして得られたトピック単語列及びシステム発話の単語列はデリミタを介して結合され、パッセージ読出部１５２が読出したパッセージと組み合わされてキャッシュデータの候補を形成する。キャッシュデータは生成データ記憶装置１５６に一旦格納される。
【0054】
キャッシュデータ選択部１６０は、例えば生成データ記憶装置１５６に記憶されたキャッシュデータの候補の各々を面白さ判定モデル１５８に入力し、各キャッシュデータ内のシステム発話の面白さのスコアを出力させる。キャッシュデータ選択部１６０は、生成データ記憶装置１５６に記憶されたシステム発話の候補の中において、面白さ判定モデル１５８による面白さのスコアがしきい値以上のものを選択してキャッシュデータ記憶装置１６２に格納される。この実施形態においては、生成データ記憶装置１５６は、システム発話の候補の中において、スコアがしきい値未満のものは破棄する。
【0055】
以上のようにこの第１実施形態においては、対話処理用キャッシュデータ８２に格納されていたキャッシュデータを使用してキャッシュデータ生成モデル１５４を訓練する。キャッシュデータ生成装置１４０は、キャッシュデータ生成モデル１５４を用いて大規模パッセージ集合６４に記憶されているパッセージの各々からキャッシュデータのレコードを生成し、それらの中で面白さのスコアがしきい値以上のレコードのみをキャッシュデータとしてキャッシュデータ記憶装置１６２に格納する。図２に示すキャッシュデータ生成装置１４０の動作においても、図３に示すキャッシュデータ生成モデル学習部２００の動作においても、必要な処理は単純な処理のみであり、面白さのスコアがしきい値以上のレコードのみを選択するため、対話装置の発話としてあまり面白みのない発話がキャッシュデータとして生成されることが防止できる。
【0056】
この実施形態では、上述した処理により得られたキャッシュデータを、図１に示す対話システム５０における対話処理用キャッシュデータ８２に追加する。この処理により、トピック抽出部６８によって抽出されたトピック単語列をキー単語列として対話処理用キャッシュデータ８２を検索したときにヒットするキャッシュデータのレコードの数が増大することが予測される。その結果、対話装置においてキャッシュデータを効率よく生成できるような発話データ生成装置、対話装置及び生成モデルの作成方法が提供できる。なお、図１に示す対話システム５０において、もともとキャッシュデータを使用する機能を持たないものに、キャッシュデータを使用する機能を新たに付加する場合もある。そうした場合、図１に示す対話処理用キャッシュデータ８２にレコードがない状態で、上記実施形態１の方法により別の装置で生成したキャッシュデータを格納することにより、対話システム５０と同じ機能を発揮できる。その場合でもキャッシュデータを対話処理用キャッシュデータ８２に追加することに代わりはなく、そうした装置はキャッシュデータを上記実施形態１に記載の装置又は方法により生成する限り、この実施形態１に包含される。
【0057】
２．第２実施形態
図３を参照して、第２実施形態においては、第１実施形態の図２に示すキャッシュデータ生成モデル学習部２００に代えて、図５に示すキャッシュデータ生成装置２７０を用いる点においてキャッシュデータ生成モデル学習部２００と異なる。キャッシュデータ生成装置２７０は、学習データ生成部２１８のように各パッセージから直接にキャッシュデータの候補を生成するのではない。
図３を参照して、第２実施形態においては、第１実施形態の図２に示すキャッシュデータ生成モデル学習部２００に代えて、図５に示すキャッシュデータ生成装置２７０を用いる点においてキャッシュデータ生成モデル学習部２００と異なる。キャッシュデータ生成装置２７０は、学習データ生成部２１８のように各パッセージから直接にキャッシュデータの候補を生成するのではない。
【0058】
図５を参照して、キャッシュデータ生成装置２７０は、大規模パッセージ集合６４から各パッセージを読出すパッセージ読出部１５２と、パッセージ読出部１５２により読出されたパッセージからトピック単語列を抽出しパッセージに付与するトピック単語列付与部２８２とを含む。
【0059】
キャッシュデータ生成装置２７０はさらに、トピック単語列付与部２８２が出力したトピック単語列付のパッセージを記憶するためのトピック単語列付パッセージ記憶装置２８４と、トピック単語列付パッセージ記憶装置２８４に記憶された各パッセージからシステム発話の単語列を生成し、そのパッセージに付与してキャッシュデータの候補として出力するためのシステム発話付与部２８６とを含む。システム発話付与部２８６は、各パッセージを入力として、そのパッセージに付与されたトピック単語列とシステム発話の候補とをデリミタを介して結合し、得られた単語列をパッセージと組み合わせてキャッシュデータの候補とする。
【0060】
キャッシュデータ生成装置２７０はさらに、システム発話付与部２８６が出力したキャッシュデータの候補を記憶するためのキャッシュデータ候補記憶装置２８８と、キャッシュデータ候補記憶装置２８８に記憶されたキャッシュデータの各々を面白さ判定モデル１５８に入力することによりそのキャッシュデータに含まれるシステム発話のスコアを算出し、スコアがしきい値以上のもののみを選択して出力するキャッシュデータ選択部２９０とを含む。キャッシュデータ選択部２９０が選択したキャッシュデータはキャッシュデータ記憶装置２９２に記憶される。
【0061】
トピック単語列付与部２８２及びシステム発話付与部２８６は、いずれも自然言語文を生成可能なニューラルネットワークにより実現される。図６に、トピック単語列付与部２８２による第１ステップの処理に用いられる、パッセージからトピック単語列を生成するニューラルネットワークの学習データの構成例を示す。
【0062】
図６を参照して、トピック単語列付与部２８２のためのニューラルネットワークの学習データ３１０は、パッセージ単語列３２０と、対話処理用キャッシュデータ８２に記憶されたキャッシュデータにおいて、パッセージ単語列３２０と組になっているトピック単語列３２２とを組にしたものである。パッセージ単語列３２０が入力であり、トピック単語列３２２が正解データ（出力）である。この学習データ３１０を用いてニューラルネットワークの学習を行うことにより、図５に示すトピック単語列付与部２８２が得られる。
【0063】
図７を参照して、図５に示すシステム発話付与部２８６による第２ステップの処理に用いられる、トピック単語列付のパッセージ単語列からシステム発話の単語列を生成するためのニューラルネットワークの学習データの構成例を示す。図７を参照して、この学習データ３４０は、トピック単語列付パッセージ記憶装置２８４に記憶されたトピック単語列とパッセージ単語列とをデリミタを介して結合した単語列３５０を入力とする。学習データ３４０はさらに、このパッセージと組になって図１の対話処理用キャッシュデータ８２にキャッシュデータとして記憶されているシステム発話単語列３５２を正解データ（出力）として、単語列３５０と組み合わせたものである。
【0064】
このように第２実施形態に係るキャッシュデータ生成装置２７０では、トピック単語列とシステム発話の単語列とが別々にこの順番でそれぞれ生成された後、キャッシュデータのフォーマットに整形してキャッシュデータとして蓄積される。キャッシュデータの生成に大量の計算資源を必要とすることはない。このキャッシュデータを図１に示す対話処理用キャッシュデータ８２に追加することにより、ユーザ発話６０に対するシステム発話が対話処理用キャッシュデータ８２においてヒットする確率が高くなり、対話システム５０の稼働効率を高めることができる。
【0065】
３．第３実施形態
第２実施形態では、キャッシュデータ生成において、第１ステップとしてパッセージからトピック単語列を抽出し、第２ステップとして、トピック単語列付のパッセージからシステム発話単語列を推定している。しかしこの発明はそのような実施形態には限定されない。最初にパッセージからシステム発話単語列を推定し、システム発話単語列付のパッセージからトピック単語列を推定してもよい。図８にそのようにしてキャッシュデータを生成するキャッシュデータ生成装置３７０の構成を示す。
第２実施形態では、キャッシュデータ生成において、第１ステップとしてパッセージからトピック単語列を抽出し、第２ステップとして、トピック単語列付のパッセージからシステム発話単語列を推定している。しかしこの発明はそのような実施形態には限定されない。最初にパッセージからシステム発話単語列を推定し、システム発話単語列付のパッセージからトピック単語列を推定してもよい。図８にそのようにしてキャッシュデータを生成するキャッシュデータ生成装置３７０の構成を示す。
【0066】
図８を参照して、キャッシュデータ生成装置３７０は、大規模パッセージ集合６４からパッセージを読出すパッセージ読出部１５２と、パッセージ読出部１５２のより読出されたパッセージからシステム発話単語列を生成しパッセージに付与して出力するためのシステム発話生成部３８２と、キャッシュデータ生成の第１ステップにおいて、システム発話生成部３８２の出力を記憶するシステム発話付パッセージを記憶するためのシステム発話付パッセージ記憶装置３８４とを含む。
【0067】
キャッシュデータ生成装置３７０は、キャッシュデータ生成の第２ステップにおいて、システム発話付パッセージ記憶装置３８４からシステム発話付パッセージを読出し、トピック単語列を付与してキャッシュデータの形に整形し出力するためのトピック単語列付与部３８６と、トピック単語列付与部３８６が出力するキャッシュデータの候補を記憶するためのキャッシュデータ候補記憶装置３８８とを含む。
【0068】
キャッシュデータ生成装置３７０はさらに、キャッシュデータ候補記憶装置３８８に記憶されたキャッシュデータ候補の各々について、面白さ判定モデル１５８を用いてスコアを算出し、スコアがしきい値以上のキャッシュデータ候補のみを選択してキャッシュデータ記憶装置２９２に格納するためのキャッシュデータ選択部２９０を含む。
【0069】
トピック単語列付与部２８２及びシステム発話付与部２８６はいずれも、学習済の自然言語文を生成可能なニューラルネットワークを用いて実現できる。図９に第１ステップのシステム発話生成部３８２のニューラルネットワークの学習データの構成例を示す。図１０には第２ステップのトピック単語列付与部３８６のニューラルネットワークの学習データの構成例を示す。
【0070】
図９を参照して、システム発話生成部３８２のニューラルネットワークの学習のための学習データ４１０は、パッセージ単語列４２０を入力とし、システム発話単語列４２２を正解データ（出力）とするものである。
【0071】
図１０を参照して、トピック単語列付与部３８６のニューラルネットワークの学習のための学習データ４４０は、システム発話単語列とパッセージ単語列とをデリミタで結合した単語列４５０を入力とし、トピック単語列４５２を正解データ（出力）として組み合わせたものである。
【0072】
このように第３実施形態に係るキャッシュデータ生成装置３７０では、システム発話単語列とトピック単語列とが別々にこの順番でそれぞれ生成された後、キャッシュデータのフォーマットに整形してキャッシュデータとして蓄積される。キャッシュデータの生成に大量の計算資源を必要とすることはない。このキャッシュデータを図１に示す対話処理用キャッシュデータ８２に追加する。こうすることにより、ユーザ発話６０に対するシステム発話が対話処理用キャッシュデータ８２においてヒットする確率が高くなり、対話システム５０の稼働効率を高めることができる。
【0073】
なお、この第３実施形態の第２ステップでは、システム発話単語列付のパッセージからトピック単語列を推定している。しかしこの発明はそうした実施形態に限定されるわけではない。第２ステップにおいて、システム発話の単語列からトピック単語列を推定するようにしてもよい。この場合は、システム発話の単語列を入力とし、対応するトピック単語列を出力（正解）とする学習データとして、トピック単語列を生成するように機械学習モデルを学習させる。この機械学習モデルを、トピック単語列を推定するためのモデルとして使用すればよい。
【0074】
４．第４実施形態
上記第１実施形態では、キャッシュデータ生成モデルの学習に、実際のユーザ発話から得られたトピック単語列とシステム発話単語列とからなるキャッシュデータを教師データとして用いている。しかしキャッシュデータ生成モデルの学習データが実際のユーザ発話に基づいたものである必要はない。何らかの対話データが入手できれば、それらとパッセージとを関連付けることで、キャッシュデータ生成モデルの学習データが生成できる。
上記第１実施形態では、キャッシュデータ生成モデルの学習に、実際のユーザ発話から得られたトピック単語列とシステム発話単語列とからなるキャッシュデータを教師データとして用いている。しかしキャッシュデータ生成モデルの学習データが実際のユーザ発話に基づいたものである必要はない。何らかの対話データが入手できれば、それらとパッセージとを関連付けることで、キャッシュデータ生成モデルの学習データが生成できる。
【0075】
図１１を参照して、この第４実施形態に係るモデル学習システム５００は、インターネット５１０をクローリングし、ユーザによる対話が行われているページから対話データを収集するための対話データ収集部５１２と、対話データ収集部５１２により収集された対話データを記憶するための対話データ記憶装置５１４と、大規模パッセージ集合６４とを含む。モデル学習システム５００はさらに、対話データ記憶装置５１４及び大規模パッセージ集合６４に接続され、対話データ記憶装置５１４に記憶された対話データと大規模パッセージ集合６４に記憶されたパッセージとを用いてキャッシュデータ生成モデル５２８のための学習データを生成し、キャッシュデータ生成モデル５２８の学習を行うためのキャッシュデータ生成モデル学習装置５０２を含む。
【0076】
対話データ収集部５１２がアクセスするサイトは、例えばミニブログ、ブログ又はニュースページなどのコメント欄、質問サイトなど、複数のユーザがアクセスし、ユーザ同士でのコミュニケーションが行われているサイトであればどのようなものでもよい。なお、ここでの対話は１つの発話とその発話に対する応答からなる１対の発話単語列のことをいう。
【0077】
キャッシュデータ生成モデル学習装置５０２は、対話データ記憶装置５１４に記憶された１対の発話単語列を読出し、その発話単語列と特に関連が高いパッセージを大規模パッセージ集合６４において検索し読出すための関連パッセージ選択部５１８と、関連パッセージ選択部５１８により読出されたパッセージと、検索に用いられた１対の発話単語列とを組にして学習データ生成のための対象データとして記憶するための対象データ記憶装置５２０とを含む。１対の発話単語列と関連が高いパッセージを選択するためには、発話単語列に出現する単語群と、パッセージに出現する単語群との重なりが大きいこと、などという基準により１対の発話単語列とパッセージとを関連付ける、等の手法を用いる。
【0078】
キャッシュデータ生成モデル学習装置５０２はさらに、対象データ記憶装置５２０に記憶された対象データからキャッシュデータ生成モデル５２８の学習データを生成するための学習データ生成部５２２と、これら学習データを記憶するための学習データ記憶装置５２４と、学習データ記憶装置５２４に記憶された学習データを用いてキャッシュデータ生成モデル５２８の学習を行うためのモデル学習部５２６とを含む。
【0079】
学習データ生成部５２２は例えば、対象データの中の発話単語列のうち、時間的に先行する発話単語列からトピック単語列を抽出する。学習データ生成部５２２はさらに、時間的にあとの発話単語列をシステム発話とし、トピック単語列及び対象データ内のパッセージと組み合わせることにより学習データを生成する。
【0080】
キャッシュデータ生成モデル５２８の学習は、第１から第４の実施形態におけるキャッシュデータ生成モデルの学習と同じである。
【0081】
このように、インターネット５１０に大量に存在している対話データと大規模パッセージ集合６４のパッセージとを組み合わせることにより、大量の学習データが生成できる。
【0082】
なお、対話データとパッセージとの対応付の精度が高ければ、学習データそのものをキャッシュデータとみなしてもよい。この場合にキャッシュデータ生成モデル５２８の学習を行う必要はない。
【0083】
５．第５実施形態
第１実施形態から第３実施形態においては、キャッシュデータ生成の段階で、パッセージからシステム発話の単語列を生成するという手順が必要とされている。例えば図２のキャッシュデータ生成モデル１５４、図５のシステム発話付与部２８６、図８のシステム発話生成部３８２などである。パッセージからのキャッシュデータの生成は、図１に示す従来のものと比較すればはるかに計算負荷は小さい。しかし、さらに計算負荷を小さくできればより好ましい。この第５実施形態はそのような実施形態である。
第１実施形態から第３実施形態においては、キャッシュデータ生成の段階で、パッセージからシステム発話の単語列を生成するという手順が必要とされている。例えば図２のキャッシュデータ生成モデル１５４、図５のシステム発話付与部２８６、図８のシステム発話生成部３８２などである。パッセージからのキャッシュデータの生成は、図１に示す従来のものと比較すればはるかに計算負荷は小さい。しかし、さらに計算負荷を小さくできればより好ましい。この第５実施形態はそのような実施形態である。
【0084】
Ａ キャッシュデータ生成装置の全体構成
図１２に第５実施形態に係るキャッシュデータ生成装置５５０の構成をブロック図形式で示す。図１２を参照して、キャッシュデータ生成装置５５０は、大規模パッセージ集合６４からキャッシュデータを生成し、キャッシュデータ記憶装置５７８に格納するためのものである。
図１２に第５実施形態に係るキャッシュデータ生成装置５５０の構成をブロック図形式で示す。図１２を参照して、キャッシュデータ生成装置５５０は、大規模パッセージ集合６４からキャッシュデータを生成し、キャッシュデータ記憶装置５７８に格納するためのものである。
【0085】
キャッシュデータ生成装置５５０は、大規模パッセージ集合６４から各パッセージを読出すためのパッセージ読出部５６２と、読出されたパッセージに含まれる単語をシステム発話に使用されるもの、トピック単語列に使用されるもの、及びそれ以外に分類するための分類モデル５６４とを含む。より詳細には、分類モデル５６４は、入力されるパッセージの各単語のうち、システム発話に使用される単語には第１ラベルを付す。分類モデル５６４はさらに、システム発話に使用される単語のうち、トピック単語列には第１ラベルと別に第２ラベルを付す。分類モデル５６４はこのようにラベルが付された後のパッセージの単語列を出力する。ここでは、この単語列をラベリング後パッセージ５６８とよぶ。分類モデル５６４の構成については図１４を参照して後述する。
【0086】
キャッシュデータ生成装置５５０はさらに、ラベリング後パッセージ５６８の中で、第２ラベルが付された単語列を抽出しトピック単語列５６６として出力するためのトピック単語列抽出部５６５と、ラベリング後パッセージ５６８の中で第１ラベルが付された単語列を抽出し、システム発話部分単語列５７１として出力するためのシステム発話部分抽出部５７０とを含む。すなわち、対象となるパッセージはトピック単語列抽出部５６５及びシステム発話部分単語列５７１により、トピック単語列の部分とシステム発話の部分とが抽出される。
キャッシュデータ生成装置５５０はさらに、システム発話部分単語列５７１を入力として受け、システム発話部分単語列５７１からシステム発話単語列５７４を生成するための、予め学習済のシステム発話生成モデル５７２と、トピック単語列５６６及びシステム発話単語列５７４とをデリミタを介して結合することによりキャッシュデータを生成するためのキャッシュデータ生成モデル５７６とを含む。キャッシュデータ生成モデル５７６が生成したキャッシュデータはキャッシュデータ記憶装置５７８に格納される。
キャッシュデータ生成装置５５０はさらに、システム発話部分単語列５７１を入力として受け、システム発話部分単語列５７１からシステム発話単語列５７４を生成するための、予め学習済のシステム発話生成モデル５７２と、トピック単語列５６６及びシステム発話単語列５７４とをデリミタを介して結合することによりキャッシュデータを生成するためのキャッシュデータ生成モデル５７６とを含む。キャッシュデータ生成モデル５７６が生成したキャッシュデータはキャッシュデータ記憶装置５７８に格納される。
【0087】
図１３を参照して、キャッシュデータ生成装置５５０は以下のように動作する。キャッシュデータ生成装置５５０の分類モデル５６４がパッセージ５９０を受信したものとする。図１２に示す分類モデル５６４は、このパッセージ５９０のうち、システム発話部分に相当する単語列６００に第１ラベルを付す。分類モデル５６４はさらに、第１ラベルが付された単語列の中でトピック単語列に相当する単語列６０２に第２ラベルを付す。その結果、得られるパッセージ単語列から第１ラベルが付された単語列を抽出することによりシステム発話部分単語列５９４が得られる。同様に、パッセージ単語列から第２ラベルが付された単語列を抽出することにより、トピック単語列５６６が得られる。システム発話部分単語列５９４を図１２に示すシステム発話生成モデル５７２に入力することにより、システム発話単語列５７４が得られる。システム発話生成モデル５７２は、このようにシステム発話部分単語列の入力を受けると、その単語列に基づいてシステム発話を出力するよう、予め学習データを用いて学習されている。
【0088】
こうして得られたトピック単語列５６６とシステム発話単語列５７４とをデリミタ（ＳＥＰ）を介して結合することにより、キャッシュデータ５９８が得られる。キャッシュデータ５９８を蓄積し、図１に示す対話処理用キャッシュデータ８２に追加することにより、対話システム５０においてユーザ発話６０に対する応答発話が対話処理用キャッシュデータ８２においてヒットする確率が高くなる。その結果、対話エンジン６２の負荷を小さくでき、システム発話９０もより短時間で出力できるようになる。また、システム発話単語列５７４は、パッセージ５９０から直接的にではなく、システム発話を構成する単語列として推定されたシステム発話部分単語列５９４から生成される。システム発話部分単語列５９４は短く、後述するようにシステム発話単語列５７４を生成する処理は簡単である。その結果、システム発話単語列５７４を生成するための負荷は小さくなる。
【0089】
Ｂ 分類モデル５６４の構成
図１４に、分類モデル５６４の構成の概要を示す。分類モデル５６４としては、自然言語関係のニューラルネットワークモデルとして周知であるＢＥＲＴ（Ｂｉｄｉｒｅｃｔｉｏｎａｌ Ｅｎｃｏｄｅｒ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ ｆｒｏｍ Ｔｒａｎｓｆｏｒｍｅｒｓ）を用いている。図１４を参照して、分類モデル５６４は、入力単語列６１８を受けて単語ベクトル列に変換する埋込層６１０と、埋込層６１０の出力を入力に受ける、トランスフォーマ層を複数段にわたり積層したＢＥＲＴトランスフォーマ層６１２と、ＢＥＲＴトランスフォーマ層６１２の最終層の隠れベクトル列６１４を入力として、各々のベクトルから上記したラベルを決定するための確率ベクトル６２０を出力するための出力層６１６とを含む。出力層６１６内の要素は、各隠れベクトル対して第１要素及び第２要素が準備されている。第１要素は、入力される隠れベクトルに対応する入力単語がトピック単語列である確率ｐｔ ｉ（Ｎを入力単語数としてｉ＝１からＮ）を出力するためのものである。第２要素は、同じ入力単語がシステム発話部分の単語列である確率ｐｕ ｉ（ｉ＝１からＮ）を出力するためのものである。
図１４に、分類モデル５６４の構成の概要を示す。分類モデル５６４としては、自然言語関係のニューラルネットワークモデルとして周知であるＢＥＲＴ（Ｂｉｄｉｒｅｃｔｉｏｎａｌ Ｅｎｃｏｄｅｒ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ ｆｒｏｍ Ｔｒａｎｓｆｏｒｍｅｒｓ）を用いている。図１４を参照して、分類モデル５６４は、入力単語列６１８を受けて単語ベクトル列に変換する埋込層６１０と、埋込層６１０の出力を入力に受ける、トランスフォーマ層を複数段にわたり積層したＢＥＲＴトランスフォーマ層６１２と、ＢＥＲＴトランスフォーマ層６１２の最終層の隠れベクトル列６１４を入力として、各々のベクトルから上記したラベルを決定するための確率ベクトル６２０を出力するための出力層６１６とを含む。出力層６１６内の要素は、各隠れベクトル対して第１要素及び第２要素が準備されている。第１要素は、入力される隠れベクトルに対応する入力単語がトピック単語列である確率ｐｔ ｉ（Ｎを入力単語数としてｉ＝１からＮ）を出力するためのものである。第２要素は、同じ入力単語がシステム発話部分の単語列である確率ｐｕ ｉ（ｉ＝１からＮ）を出力するためのものである。
【0090】
ＢＥＲＴトランスフォーマ層６１２への入力である入力単語列６１８は、図に示すように先頭に入力の先頭であることを示すトークン「［ＣＬＳ］」を、末尾にデリミタ「［ＳＥＰ］」を付したパッセージ単語列である。なお、図１４において「ｅｍｂ」は埋込み層の各要素を表し、「Ｔｒｍ」はトランスフォーマ層を表す。
【0091】
分類モデル５６４の学習は以下のように行う。図１５を参照して、分類モデル５６４の学習のためには、図３に示す学習データ記憶装置２２０に記憶されたものと同じデータは使用できないが、学習データ記憶装置２２０に記憶されたデータから分類モデル５６４のために生成した学習データを用いる。学習データ記憶装置２２０に記憶された学習データは、パッセージの単語列２６０と、正解データである出力単語列２６２との組である。出力単語列２６２は、図４に示すように、トピックワードの単語列とシステム発話の単語列と両者を分離する所定のトークンであるデリミタとを含む。
【0092】
分類モデル５６４のための学習データ生成システムは、学習データ記憶装置２２０と、学習データ記憶装置２２０に記憶された学習データから、分類モデル５６４の学習のために学習データの単語列に所定のラベリングを行って出力するための学習データ生成装置６５０と、学習データ生成装置６５０の出力を格納するためのラベリング後学習データ記憶装置６５２とを含む。学習データ生成システムはさらに、ラベリング後学習データ記憶装置６５２に記憶されたラベリング後学習データを読出し、分類モデル５６４の学習を行うための分類モデル学習部６５４を含む。
【0093】
学習データ生成装置６５０は、学習データ記憶装置２２０から学習データを順に読出すためのデータ選択部６６０と、データ選択部６６０が読出した学習データからトピック単語列６６６を抽出するためのトピック単語列抽出部６６２と、データ選択部６６０からパッセージを抽出し、パッセージに対する形態素解析を行って、活用語（動詞など）を基本形に置換して解析後パッセージ６６８として出力するためのパッセージ解析部６６４とを含む。学習データ生成装置６５０はさらに、学習データからシステム発話を抽出し、システム発話に対する形態素解析を行って、活用語を基本形に置換して解析後システム発話６７０とし出力するためのシステム発話解析部６６９をさらに含む。
【0094】
学習データ生成装置６５０はさらに、解析後パッセージ６６８と解析後システム発話６７０とをアライメントするためのアライメント部６７２と、アライメント部６７２により解析後システム発話６７０とアライメントされた解析後パッセージ６６８において、解析後システム発話６７０の単語列に相当する部分の単語列に第１ラベルを付すための第１ラベリング部６７４と、第１ラベリング部６７４により第１ラベルが付された解析後パッセージ６６８において、第１ラベルが付された部分のうち、トピック単語列６６６と一致する単語列に第２ラベルを付してラベリング後学習データを生成し、ラベリング後学習データ記憶装置６５２に格納するための第２ラベリング部６７６とを含む。第１ラベルが付された単語は、システム発話部分の単語としての正例として使用され、第１ラベルが付されていない単語は負例として使用される。また第２ラベルが付された単語は、トピック単語列の正例として使用され、第２ラベルが付されていない単語は、負例として使用される。
【0095】
パッセージ解析部６６４及びシステム発話解析部６６９による単語列の解析は、アライメント部６７２によるアライメントを容易にすることを目的とする。アライメント部６７２におけるアライメントには、アライメントのための公知のアルゴリズム、例えばＮｅｅｄｌｅｍａｎ－Ｗｕｎｓｃｈ Ａｌｇｏｒｉｔｈｍが使用できる。
【0096】
分類モデル学習部６５４は、第１ラベルが付された単語を正例、付されていない単語を負例として単語単位でその単語がシステム発話部分であるｐｕ
ｉを予測できるように分類モデル５６４の学習を行う。分類モデル学習部６５４はまた、第２ラベルが付された単語を正例、付されていない単語を負例として、単語単位でその単語がトピック単語列である確率ｐｔ
ｉを予測できるように分類モデル５６４の学習を行う。
【0097】
したがって、分類モデル学習部６５４により分類モデル５６４の訓練を行うことにより、分類モデル５６４にパッセージを入力すると、分類モデル５６４の出力として、パッセージの各単語に対し、その単語がシステム発話を構成する単語である確率と、その単語がトピック単語列である確率とが得られる。これらの確率がしきい値以上か否かなどの条件を満たしたものがシステム発話を構成する単語列及びトピック単語列と予測できる。
【0098】
図１５に示す学習データ生成装置６５０による学習データの生成過程を、図１６を参照して説明する。図１５に示すデータ選択部６６０が学習データ記憶装置２２０から読出した学習データが、パッセージ６６３、システム発話６６５及びトピック単語列６６６を含むものとする。パッセージ６６３はパッセージ解析部６６４に入力される。パッセージ解析部６６４による解析の結果、パッセージ６６３の中の活用語が基本形により置換される。したがって、パッセージ解析部６６４は解析後パッセージ６６８を出力する。置換後の活用語を図１６の解析後パッセージ６６８において下線部により示す。
【0099】
一方、システム発話６６５は図１５に示すシステム発話解析部６７３に入力される。システム発話解析部６７３による解析の結果、システム発話６６５の中の活用語が基本形により置換される。置換後の活用語を図１６の解析後システム発話６７０において下線部により示す。したがって、システム発話解析部６７３は解析後システム発話６７０を出力する。
【0100】
解析後パッセージ６６８及び解析後システム発話６７０はいずれも図１５に示すアライメント部６７２に入力される。アライメント部６７２は、解析後パッセージ６６８と解析後システム発話６７０とのアライメントをとる。解析後パッセージ６６８と解析後システム発話６７０との活用語はいずれも基本形に置換されている。そのため、このアライメントは高い精度で実行できる。このアライメントの結果、解析後パッセージ６６８の単語列の中で、解析後システム発話６７０に出現する単語列６８４が特定できる。この単語列６８４を構成する各単語に第１ラベルが付される。このように第１ラベルが付されたパッセージ６８０は図１５に示す第２ラベリング部６７６に入力される。
【0101】
図１５に示す第２ラベリング部６７６は、パッセージ６８０の中の、第１ラベルが付された単語の中で、トピック単語列６６６と一致する単語列を探索する。図１６に示す例では、パッセージ６８０の中の単語列６８２がトピック単語列６６６と一致する。したがって単語列６８２に第２ラベルが付される。このようにして第１ラベルと第２ラベルとが付された単語列を含むパッセージ６８０がラベリング後学習データとしてラベリング後学習データ記憶装置６５２に格納される。なお、後述するように、図１２に示すシステム発話生成モデル５７２の学習のため、ラベリング後学習データには、そのデータの元となった学習データの中のシステム発話も格納する。
【0102】
このように、パッセージ５９０からシステム発話部分単語列５９４を生成する処理は、基本的には単語列の分類処理である。その処理のためのキャッシュデータをすべて生成処理で生成する場合と比較して処理の負荷は小さい。
【0103】
Ｃ システム発話生成モデル５７２の学習
図１２に示すシステム発話生成モデル５７２は、自然言語文を生成可能なモデルならどのようなモデルを使用してもよい。例えばトランスフォーマをベースとしたものでもよい。以下、システム発話生成モデル５７２の学習について説明する。
図１２に示すシステム発話生成モデル５７２は、自然言語文を生成可能なモデルならどのようなモデルを使用してもよい。例えばトランスフォーマをベースとしたものでもよい。以下、システム発話生成モデル５７２の学習について説明する。
【0104】
図１７に、システム発話生成モデル５７２の学習を行うための学習システム６９０の構成を示す。図１７を参照して、この学習システム６９０は、ラベリング後学習データ記憶装置６５２に記憶されたラベリング後学習データからシステム発話生成モデル５７２の学習データを生成するための学習データ生成装置７２０と、学習データ生成装置７２０により生成された学習データを記憶するためのシステム発話生成モデル学習データ記憶装置７２２とを含む。学習システム６９０はさらに、システム発話生成モデル学習データ記憶装置７２２に記憶された学習データを用いてシステム発話生成モデル５７２の学習を行うためのシステム発話生成モデル学習部７２４を含む。
【0105】
学習データ生成装置７２０は、ラベリング後学習データ記憶装置６５２に記憶されたラベリング後の学習データ（図１６のパッセージ６８０がその１例である。）を順番に選択し読出すためのデータ選択部７３０と、データ選択部７３０により読出された学習データから第１ラベルが付されたラベル付単語列７３４を抽出するためのラベル付単語列抽出部７３２とを含む。ラベル付単語列抽出部７３２は、抽出された単語列が連続していない場合には、それら単語列の境界にデリミタを挿入する。学習データ生成装置７２０はさらに、データ選択部７３０により読出された学習データからシステム発話７３８を抽出するためのシステム発話抽出部７３６と、ラベル付単語列７３４及びシステム発話７３８を対にしてシステム発話生成モデル５７２の学習データを生成しシステム発話生成モデル学習データ記憶装置７２２に格納するためのシステム発話生成モデル学習データ生成部７４０とを含む。この学習データではシステム発話抽出部７３６が入力であり、システム発話７３８が正解データとなる。
【0106】
図１８に、図１７のデータ選択部７３０により読出されたラベリング後学習データ７３３から学習データ７６０が生成される過程を示す。図１８を参照して、ラベリング後学習データ７３３においてラベルが付された箇所（下線部で示す）を抽出することによりラベル付単語列７３４が得られる。このラベル付単語列７３４を図１７のシステム発話抽出部７３６により抽出されたシステム発話７３８と組み合わせることにより学習データ７６０が生成される。学習データ７６０においてはラベル付単語列７３４が入力でありシステム発話７３８の単語列が出力（正解データ）である。
【0107】
システム発話生成モデル学習部７２４によるシステム発話生成モデル５７２の学習は、システム発話生成モデル学習データ記憶装置７２２に記憶された学習データを使用して行われる。その学習は通常のニューラルネットワークの学習と同様に誤差逆伝播法により行われる。この学習データにおいて、ラベル付単語列７３４とシステム発話抽出部７３６とはよく似た単語列からなる。そのため、システム発話生成モデル学習部７２４の学習も、システム発話生成モデル学習部７２４によるシステム発話の生成も小さな負荷で実行できる。
【0108】
以上のようにこの実施形態によれば、図１３に示されるようなパッセージ５９０からシステム発話部分単語列５９４を生成する処理の負荷も、システム発話部分単語列５９４からシステム発話単語列５７４を生成する処理の負荷も小さく済む。そのため、パッセージ５９０から直接にシステム発話を生成する場合と比較して処理のための負荷は小さくなる。その結果、この実施形態に係るキャッシュデータ生成装置５５０により短時間のうちに多くのキャッシュデータを生成できる。
【0109】
６．第６実施形態
上記した各実施形態では、１パッセージからキャッシュデータの１レコードが生成される。しかし、これではパッセージが大量にあっても効率が悪い。この第６実施形態では、１パッセージから可能ならキャッシュデータの複数レコードを生成する。また上記各実施形態では、キー単語列はトピック単語列のみであった。しかし、同じトピック単語列を含むユーザ発話でも、様々な形式が可能である。したがってこの第６実施形態では、トピック単語列ではなくユーザ発話そのものをキー単語列に採用する。
上記した各実施形態では、１パッセージからキャッシュデータの１レコードが生成される。しかし、これではパッセージが大量にあっても効率が悪い。この第６実施形態では、１パッセージから可能ならキャッシュデータの複数レコードを生成する。また上記各実施形態では、キー単語列はトピック単語列のみであった。しかし、同じトピック単語列を含むユーザ発話でも、様々な形式が可能である。したがってこの第６実施形態では、トピック単語列ではなくユーザ発話そのものをキー単語列に採用する。
【0110】
図１９に、第６実施形態に係るキャッシュデータを利用する対話装置７８０の概略構成を示す。対話装置７８０が図１に示す先行技術に係る対話システム５０と異なるのは、図１の対話処理用キャッシュデータ８２とは異なり、ユーザ発話そのものをキーとしてシステム発話を検索できる形式でキャッシュデータを記憶した対話処理用キャッシュデータ７９２を含む点である。この変更に対応して、対話装置７８０は、図１に示すキャッシュデータ作成部８０に代えて、ユーザ発話６０及びシステム発話６６からキャッシュデータを生成するためのキャッシュデータ作成部７９０を含む。対話装置７８０はまた、図１に示すトピック抽出部６８を含まない。さらに対話装置７８０は、キャッシュ検索部８４に代えて、ユーザ発話６０をキーに対話処理用キャッシュデータ７９２を検索するためのキャッシュ検索部７９４を含む点でも対話システム５０と異なる。キャッシュ検索部７９４は、ユーザ発話６０と一致するキー単語列を持つキャッシュデータがあればそのシステム発話の単語列を読出す機能を持つ。
【0111】
キャッシュ検索部７９４は、対話処理用キャッシュデータ７９２でキャッシュデータが発見されたか否かを示す通知９２を対話エンジン６２に通知する。キャッシュ検索部７９４はまた、キャッシュデータが発見されなかったときには第１入力を、発見されたときには第２入力を、それぞれ選択するよう選択部８８を制御する制御信号９４を対話エンジン６２に与える。その結果、ユーザ発話６０と一致するキー単語列を持つキャッシュデータがあればそのキャッシュデータのシステム発話がシステム発話９０として出力される。そうしたキャッシュデータがなければ対話エンジン６２により生成されたシステム発話６６がシステム発話９０として出力される。
【0112】
図２０に、大規模パッセージ集合６４に記憶された大量のパッセージの各々から、１又は複数のキャッシュデータを生成し、キャッシュデータ記憶装置８１２に格納するためのキャッシュデータ生成装置８１０の概略構成を示す。ここでは、キャッシュデータの１レコードは、ユーザ発話６０に相当するキー単語列と、そのユーザ発話に対する応答としてのシステム発話とをデリミタにより結合したものである。
【0113】
図２０を参照して、キャッシュデータ生成装置８１０は、大規模パッセージ集合６４からパッセージを順に読出すためのパッセージ読出部８２０と、面白さ判定モデル８２２と、面白さ判定モデル８２２を用いて、パッセージ読出部８２０の読出した各パッセージから面白さ判定モデル８２２によるスコアが所定のしきい値以上となる１又は複数の文をキャッシュ生成の対象文として出力するための対象文選択部８２４とを含む。
【0114】
面白さ判定モデル８２２は、図２に示す面白さ判定モデル１５８などとは異なり、判定の対象となる文と、パッセージ内でその文の前の全ての文（これらの文を以下、対象となる文の「文脈」と呼ぶ。）とを入力として、対象となる文がその文脈との比較においてどの程度面白い文かを示すスコアを出力する、ＢＥＲＴによるモデルである。
【0115】
キャッシュデータ生成装置８１０はさらに、対象文選択部８２４により選択された対象分を格納するための対象文記憶装置８２６と、対象文記憶装置８２６に記憶された対象文の各々から、キャッシュデータを生成するためのキャッシュデータ生成部８２８とを含む。
【0116】
キャッシュデータ生成部８２８はトランスフォーマのアーキテクチャを利用したニューラルネットワークモデルを用いて実現される。トランスフォーマについては、特に自然言語処理において、それ以前のニューラルネットワークと際立った性能の違いを示したことが知られている。このニューラルネットワークの学習方法については図２２から図２６を参照して後述する。
【0117】
図２１は、パッセージ読出部８２０及び対象文選択部８２４による対象文の選択を実現するためのコンピュータプログラムの制御構造を示すフローチャートである。図２１を参照して、このプログラムは、大規模パッセージ集合６４から先頭パッセージを読出すステップ８３０と、全パッセージを大規模パッセージ集合６４から読出すまでステップ８３４を繰り返すステップ８３２とを含む。
【0118】
ステップ８３４は、処理対象のパッセージ内における各文区切り位置で分割して配列Ａの各要素にそれぞれ格納するステップ８４０と、配列Ａの２番目以降の要素（配列Ａの添字が１以上の要素）の各々に対して以下のステップ８４４を実行するステップ８４２と、ステップ８４２が終了したことに応答して、大規模パッセージ集合６４から次のパッセージを読出してステップ８３４を終了するステップ８４６とを含む。ステップ８４６において読出すべき次のパッセージがないときにはステップ８３２は終了する。
【0119】
ステップ８４４は、配列の処理対象の要素より前の全ての要素を連結した文字列と、デリミタであるトークン「ＳＥＰ」と、処理対象の要素の文字列とを連結し、面白さ判定モデル８２２に入力するステップ８５０と、この入力に対して面白さ判定モデル８２２が出力するスコアが所定のしきい値より大きいか否かを判定するステップ８５２と、ステップ８５２の判定が肯定的であるときに、処理対象の要素を選択し、対象文記憶装置８２６（図２０）に格納するステップ８５４とを含む。ステップ８５２の判定が否定的であるときには処理対象の要素は対象文とはされない。
【0120】
このプログラムをコンピュータに実行させることによって、各パッセージから、文脈と対比したときの面白さがしきい値以上の文が選択される。パッセージから得られる文の数は、０であるかも知れないが、１又はそれ以上であることもある。各パッセージに含まれる文の数にもよるが、最終的に得られる文の数は大規模パッセージ集合６４に記憶されたパッセージの数よりははるかに多くなることが期待できる。
【0121】
なお、この実施形態ではこのように文脈との対比で面白さのスコアがしきい値以上のもののみを対象文として選択している。したがって各パッセージの１文目は選択されない。しかしこの発明はそのような実施形態に限定されない。各パッセージの各文を全て対象文として選択することも考えられる。またこの実施形態では、対象文選択部８２４が選択するのは１文ずつである。しかしこの発明はそのような実施形態に限定されない。例えば１文ずつではなく２文ずつ以上でもよいし、１文より小さな単位の単語列でもよい。さらに、選択される又は単語列の長さとして複数通りを選択してもよい。
【0122】
図２２に、図２０に示したキャッシュデータ生成部８２８を実現するためのニューラルネットワークの学習データを作成するための学習データ生成装置８６０の概略構成を示す。学習データ生成装置８６０は、大規模パッセージ集合６４と、ユーザ発話６０に応答して、大規模パッセージ集合６４を利用して図１に示す対話エンジン６２と同様の手法によりシステム発話８７２を生成するための対話エンジン８７０を含む。
【0123】
対話エンジン８７０は、図１に示す対話エンジン６２と同様の構成を持つ。しかし対話エンジン８７０は、対話エンジン６２と異なり、ランキング１２８によって得られた、ユーザ発話６０に対する応答として最もふさわしいとされた応答だけではなく、所定の条件を満たした応答を含む複数の応答を複数のシステム発話８７２として出力する。例えばランキング１２８においてユーザ発話６０又は質問１２０に対する応答としての各応答の面白さ判定を行い、その結果により応答をフィルタリングしてもよい。こうすることにより、１つのユーザ発話６０から複数の学習データが作成できる。その結果、キャッシュデータの生成のための学習データの作成が効率化できる。なお、以下ではキャッシュのレコードを単にキャッシュレコードという。
【0124】
学習データ生成装置８６０はさらに、ユーザ発話６０に応答して対話エンジン８７０の内部で生成された複数の回答１２４の１つと、ユーザ発話６０及び選択された回答１２４から生成されたシステム発話８７２をデリミタで連結した単語列とを組み合わせることにより学習データを作成するための学習データ作成部８７４と、学習データ作成部８７４の出力する学習データを格納する学習データ記憶部８７６とを含む。
【0125】
このようにして生成される学習データの例を図２３に示す。図２３の上段には、ユーザ発話６０と、ユーザ発話６０から質問作成処理１１０が自動作成した質問と、その質問に対して質問応答システム１２２が生成した複数の回答の一つである回答１２４と、回答１２４から自動生成される応答文（システム発話）との組み合わせを示す。なお、回答１２４は自動生成される応答文の元になる文なので、ここでは「元文」と呼んでいる。
【0126】
これらの文（単語列）のうち、この実施形態では元文（質問に対する回答）を入力８８０とし、ユーザ発話６０とデリミタと応答文（システム発話）とをこの順序で連結した単語列８８２を出力（正解データ）として組み合わせ、学習データのレコードを生成する。
【0127】
このようなレコードを多数含む学習データを使用してニューラルネットワークの学習を行うことにより、図２０に示すキャッシュデータ生成部８２８が実現できる。
【0128】
【0129】
図２４に示す例では、質問に対して得られた元文を入力８８０とする点は図２３と同じである。しかし図２４では、正解データは応答文（システム発話）とデリミタとユーザ発話とをこの順序で連結した単語列８８４を出力（正解データ）として組み合わせ、学習データのレコードを生成する。図２３に示す例に従ってできた学習レコード８９０の例を図２５に示し、図２４に示す例に従ってできた学習レコード９００の例を図２６に示す。学習レコード８９０と学習レコード９００とは、同じ発話から得られた元文と応答文とから得られたものである。
【0130】
図２５を参照して、学習レコード８９０は、入力８９２と出力８９４とを含む。一方、図２６を参照して、学習レコード９００は、入力９０２と出力９０４とを含む。入力８９２と入力９０２とは等しい。しかし出力８９４と出力９０４とは、デリミタの前後の単語列が入れ替わっている。すなわち、図２５では正解データはユーザ発話→システム発話という順番であるのに対し、図２６ではシステム発話→ユーザ発話という順番である。
【0131】
図２５に示す形式と、図２６に示す形式のいずれを用いても、キャッシュデータ生成部８２８の学習が可能である。すなわち、１文からユーザ発話とシステム発話との組み合わせからなるキャッシュデータが生成できるようにキャッシュデータ生成部８２８に学習させることができる。しかし、その結果得られたキャッシュデータ生成部８２８においては、いずれの学習データを用いたかにより効果が異なる可能性がある。ここでは、その結果を確認するために行った実験について述べる。
【0132】
実験設定
実験で使用した全事例数は、学習データが１７８，３７４、開発データが２，２７２、テストデータが２７，０３７であった。これらのうち、面白さ判定スコアが０．５以上の事例数は、学習データが６１，３１２、開発データが３，１７３、及びテストデータが９，２１５であった。
実験で使用した全事例数は、学習データが１７８，３７４、開発データが２，２７２、テストデータが２７，０３７であった。これらのうち、面白さ判定スコアが０．５以上の事例数は、学習データが６１，３１２、開発データが３，１７３、及びテストデータが９，２１５であった。
【0133】
実験では、キャッシュデータ生成部８２８として事前学習済のトランスフォーマを準備した。トランスフォーマはエンコーダとデコーダとの組み合わせを含むが、実験で使用したトランスフォーマは２４層からなるエンコーダと１層からなるデコーダとを含む。エンコーダの埋め込み層とデコーダの埋め込み層のパラメータは共有するものとした。このトランスフォーマをファインチューニングした。ファインチューニングにおける探索パラメータとしては以下のとおり。
【0134】
学習のエポック数は｛１，２，３，５，１０，１５，２０，２５，３０｝にわたって探索した。学習率は３ｅ－５、バッチサイズは３２とした。
【0135】
評価尺度としては（１）ＲＯＵＧＥ－１、ＲＯＵＧＥ－２及びＲＯＵＧＥ－３、及び（２）生成されたユーザ発話及びシステム発話の対を面白さ判定器に入力し、得られた面白さ判定スコアの平均、を用い、この２種類の評価尺度の各々についてベストパラメータを調べた。
【0136】
また、上記実施形態のように面白さ判定モデル８２２を使用して、各パッセージの文のうち、面白さ判定スコアがしきい値（０．５）以上のもののみを使用した場合と、各パッセージから得た全ての文を使用した場合との双方に分けて実験を行った。
【0137】
結果を図２７及び図２８に示す。図２７は評価尺度としてＲＯＵＧＥ－｛１，２，Ｌ｝を使用した結果である。図２８は評価尺度として面白さ判定スコアの平均を使用した結果である。なお、図２７及び図２８の双方において、ユーザ発話→システム発話の順番のときの評価と、システム発話→ユーザ発話の順番のときの評価とのうち、評価値が高い方に下線を付して示す。
【0138】
図２７を参照して、ユーザ発話→システム発話の組み合わせを使用した場合とシステム発話→ユーザ発話の組み合わせを使用した場合とを比較すると、いずれの場合も後者の方のスコアが高いことが分かる。
【0139】
図２８を参照して、面白さ判定スコアの平均を評価尺度として使用した場合では、全事例を使用した場合と面白さ判定スコアが０．５以上のもののみを使用した場合のいずれにおいても、図２７と異なりユーザ発話→システム発話の順番で学習したものの方のスコアが高かった。なお、図２８の最下段のベストパラメータは４０となっている。前述したとおり、エポック数の探索範囲の上限は３０だったが、この設定ではエポック数が３０のときにスコアの平均が最大となったため、追加でエポック数＝｛３５，４０，４５，５０｝について実験を行ってベストパラメータを定めた。
【0140】
この実験結果から、エポック数が少ない場合には未知語を記号に置き換える場合に文の生成がおかしくなっている場合が多い。一方、面白さ判定スコアの平均を評価尺度に用いた場合には、エポック数が多く、相対的にそのような生成誤りが少なくなっている。この結果、面白さ判定スコアの平均を評価尺度として使用したときのベストパラメータを使用することが望ましいと考えられる。
【0141】
７．第７実施形態
第６実施形態では、図２５及び図２６に示すように、図２２の対話エンジン８７０により得られたユーザ発話、元文、及びシステム発話の組み合わせにより学習データを生成している。しかし、この発明はそのような実施形態には限定されない。さらに対話エンジン８７０が出力した元文の元になった質問を学習データに追加するようにしてもよい。この第７実施形態はそのような実施形態である。
第６実施形態では、図２５及び図２６に示すように、図２２の対話エンジン８７０により得られたユーザ発話、元文、及びシステム発話の組み合わせにより学習データを生成している。しかし、この発明はそのような実施形態には限定されない。さらに対話エンジン８７０が出力した元文の元になった質問を学習データに追加するようにしてもよい。この第７実施形態はそのような実施形態である。
【0142】
図２９を参照して、第７実施形態に係る学習データ生成装置９１０は、図２２に示す対話エンジン８７０と同様の構成の対話エンジン９２０と、ユーザ発話６０、及びユーザ発話６０に対して質問作成処理１１０が生成した質問１２０の１つ、その質問に対して質問応答システム１２２が出力した回答１２４、及び回答１２４を元文として応答生成処理１２６により生成されたシステム発話８７２を組み合わせて学習データを生成するための学習データ作成部９２２と、学習データ作成部９２２により生成された学習データを格納するための学習データ記憶部９２４とを含む。
【0143】
図示はしないが、この実施形態では、学習データ作成部９２２が生成する学習データは、回答１２４を入力とし、ユーザ発話６０、デリミタ、質問１２０、デリミタ、及びシステム発話８７２をこの順番に結合したものを出力（正解データ）とする。すなわち、この学習データを使用して学習したキャッシュデータ生成モデルにより生成されるキャッシュデータは、ユーザ発話とシステム発話の組だけではなく、そのユーザ発話からどのような質問をした結果、そのシステム発話が回答として得られたか、という情報まで含むことになる。このようなキャッシュデータを生成して記憶しておくことにより、ユーザ発話に対してシステム発話をキャッシュから出力できる可能性が高くなるだけではなく、そのシステム発話が得られたある種の根拠を示す情報がキャッシュから得られるという効果が得られる。
【0144】
８．第８実施形態
第１実施形態から第７実施形態は、いずれも対話システムのように雑談に利用するものである。しかしこの発明は雑談に利用するものだけではなく、質問に対する回答を出力する質問応答システムのようなシステムにも適用できる。
第１実施形態から第７実施形態は、いずれも対話システムのように雑談に利用するものである。しかしこの発明は雑談に利用するものだけではなく、質問に対する回答を出力する質問応答システムのようなシステムにも適用できる。
【0145】
図３０に第８実施形態に係る、キャッシュデータを利用可能な質問応答システム９３０のブロック図を示す。図３０に示す質問応答システム９３０は、図１に示す対話システム５０とよく似た構成を持つ。質問応答システム９３０が対話システム５０と異なるのは、入力されるのが一般的なユーザ発話６０ではなく質問９３２であること、質問応答システム１２２に代えて、キャッシュ検索部８４からの通知９２に応答して動作を切り替える質問応答システム９３４を含むこと、及び応答生成処理１２６及びランキング１２８に代えて、質問に対する回答としてふさわしいシステム発話９０を出力するよう動作する応答生成処理９３６及びランキング９３８を含むことである。質問応答システム９３０はまた、図１の対話処理用キャッシュデータ８２に代えて質問応答用キャッシュ９４２を含む点でも対話システム５０と異なる。ただし質問応答用キャッシュ９４２は、格納するデータが異なるというだけで、実質的には対話処理用キャッシュデータ８２と同じものである。
【0146】
質問応答システム９３０の動作は対話システム５０とほぼ同じである。すなわち、質問９３２に対するキャッシュデータが質問応答用キャッシュ９４２に存在しない場合、質問応答システム９３０は以下のように動作する。
【0147】
キャッシュ検索部８４は、質問応答用キャッシュ９４２に質問９３２と同じキー単語列を持つキャッシュレコードが存在するか否かを調べる。この場合にはキャッシュレコードは存在しない。したがってキャッシュ検索部８４は質問応答システム９３４に対して通常の動作をするよう通知９２を送信する。キャッシュ検索部８４はまた、選択部８８に対してシステム応答９４０を選択するよう制御信号９４を送信する。
【0148】
質問９３２に対して質問応答システム９３４が大規模パッセージ集合６４の中のパッセージから質問９３２に対する回答としてふさわしい記載を含む複数個の回答１２４を出力する。応答生成処理９３６が、これらの回答の各々から、質問９３２に対する回答としてふさわしい処理を行ってシステム応答の候補を生成する。ランキング９３８が、これらシステム応答の候補の中から質問９３２に対する回答として最もふさわしいシステム応答９４０を選択し選択部８８に与える。通常は選択部８８はシステム応答９４０を選択してシステム発話９０として出力する。
【0149】
このとき、キャッシュデータ作成部８０には、質問９３２、システム応答９４０、及びシステム応答９４０の原パッセージが与えられる。キャッシュデータ作成部８０は、質問９３２とシステム応答とをデリミタを介して結合し、さらに原パッセージを含めてキャッシュレコードを生成し、質問応答用キャッシュ９４２に格納する。質問応答用キャッシュ９４２の各レコードの形式は基本的には、図４の学習レコード２５０のうち、出力単語列２６２と同じ形式である。ただし第１実施形態と同様、キャッシュレコードには、システム発話の単語列が得られた原パッセージも格納されている。
【0150】
一方、質問９３２をキー単語列とするキャッシュレコードが存在する場合には、質問応答システム９３０は以下のように動作する。
【0151】
キャッシュ検索部８４は質問応答システム９３４に対して動作しないよう通知９２を送信する。キャッシュ検索部８４は、質問応答用キャッシュ９４２から該当するキャッシュレコードを読み出し、そのレコードに含まれる応答文を選択部８８に対して出力する。キャッシュ検索部８４はまた、選択部８８に対してキャッシュ検索部８４の出力を選択するよう制御信号９４を送信する。したがって選択部８８はキャッシュ検索部８４の出力を選択し、システム発話９０として出力する。質問応答システム９３４は動作しない。
【0152】
この質問応答システム９３０においても、質問応答用キャッシュ９４２を効率よく生成できることが望ましい。この第８実施形態はそのためのものである。
【0153】
図３１に、この実施形態において質問応答システム９３０のためのキャッシュデータを生成するためのキャッシュデータ生成装置９６０の概略構成を示す。
【0154】
図３１を参照して、キャッシュデータ生成装置９６０は、大規模パッセージ集合６４から各パッセージを読み出すためのパッセージ読出部１５２と、パッセージ読出部１５２が読み出した各パッセージから、上記したキャッシュデータのレコードを生成するよう予め学習済のキャッシュデータ生成モデル９５２とを含む。キャッシュデータ生成モデル９５２の学習については後述する。
【0155】
キャッシュデータ生成装置９６０はさらに、キャッシュデータ生成モデル９５２が出力した各レコードを記憶するための生成データ記憶装置１５６と、生成データ記憶装置１５６に記憶された各レコードに対して質問応答ランキングモデル９５４を適用してそのスコアを算出し、所定のしきい値以上のレコードのみを出力するためのキャッシュデータ選択部１６０とを含む。質問応答ランキングモデル９５４は、図２に示す面白さ判定モデル１５８と同様のモデルだが、ユーザ発話６０に対するシステム発話の面白さという観点ではなく、質問９３２に対するシステム発話（回答）の適切さという観点で質問応答のペアをランキングするよう予め学習済のものである。
【0156】
この実施形態では、キャッシュデータ選択部１６０の出力はキャッシュデータ記憶装置９６２に蓄積される。キャッシュデータ記憶装置９６２に蓄積されたキャッシュレコードを図３０に示す質問応答用キャッシュ９４２にコピー（追加）することにより、質問応答システム９３０において質問に対する回答が質問応答用キャッシュ９４２においてヒットする確率が高くなる。
【0157】
図３１に示すように、キャッシュデータ生成モデル９５２の学習は、キャッシュデータ生成モデル学習用データ記憶装置９４４に記憶された学習用データを使用してキャッシュデータ生成モデル学習部９５０により行われる。キャッシュデータ生成モデル学習部９５０行による学習そのものは通常の学習と異なるところはない。この実施形態では、キャッシュデータ生成モデル９５２のための学習データを以下にして効率的に生成するかが問題となる。
【0158】
図３２に、学習データ生成システム９８０の概略構成を示す。図３２を参照して、学習データ生成システム９８０の構成は質問応答システム９３０と類似する。すなわち、学習データ生成システム９８０は、質問９９６を受けて大規模パッセージ集合６４から複数の回答１２４を出力するための質問応答システム１２２と、質問９９６と、回答１２４と、大規模パッセージ集合６４に記憶されているパッセージの中の、回答１２４を生成する際に使用された原パッセージとを組み合わせることにより、上記した形式の学習データを作成しキャッシュデータ生成モデル学習用データ記憶装置９４４に記憶するための学習データ作成部９９８とを含む。
【0159】
学習データ生成システム９８０はさらに、インターネット５１０の様々なサイトから質問文を収集するための質問文収集部９９０と、質問文収集部９９０が収集した質問文を格納するための質問文記憶装置９９２と、質問文記憶装置９９２に記憶された質問の各々を質問９９６として質問応答システム１２２に入力するための質問文入力部９９４とを含む。
【0160】
図示はしないが、この実施形態では、学習データ作成部９９８が作成する学習データは、大規模パッセージ集合６４からの原パッセージを入力とし、質問９９６＋デリミタ＋回答１２４をこの順番に結合したものを出力（正解データ）とする。すなわち、この学習データを使用して学習したキャッシュデータ生成モデルは、パッセージが与えられると、そのパッセージに含まれる単語列が回答を形成するような質問と、デリミタと、その回答となる単語列とを含むことになる。なお、このようにして生成されたキャッシュレコードが、図３０に示す質問応答システム９３０の動作により生成されたキャッシュレコードと同じ形式を持つように、キャッシュレコードに、さらに原パッセージ（又はその識別子）を追加して持たせるようにするとより好ましい。
【0161】
この実施形態によれば、いわゆる雑談のような対話のためではなく、質問に対する回答としてふさわしいシステム発話を生成するためのシステム負荷を軽減できる。インターネット５１０上には質問文が大量に存在している。したがって、図３２に示す質問文収集部９９０は大量の質問文をインターネット５１０から収集できる。その結果、これらの質問文を学習データ生成システム９８０に入力することにより、図３１に示すキャッシュデータ生成モデル９５２の学習データが大量に生成できる。その結果、キャッシュデータ生成モデル９５２によりキャッシュデータを大量に生成できる。さらに、質問応答の精度も高くできるという効果がある。そのための計算資源に対する負荷も、図３０に示す質問応答システム９３０により個々にキャッシュデータを生成するための負荷よりも小さくできる。その結果、効率的に精度の高いキャッシュデータを生成できるという効果がある。
【0162】
９．コンピュータによる実現
図３３は、上記した各実施形態におけるキャッシュデータ生成装置、各種のモデル学習装置、及びそのための学習データ生成装置として動作するコンピュータシステムの外観図である。図３４は、図３３に示すコンピュータシステムのハードウェアブロック図である。図１９に示す対話装置７８０、図２２に示す学習データ生成装置８６０、及び図２９に示す学習データ生成装置９１０についてもそれぞれ図３３及び図３４に示すものと同様の構成のコンピュータシステムにより実現できる。ここでは、図２に示すキャッシュデータ生成装置１４０として動作するコンピュータシステムの構成についてのみ述べることとし、他の装置を実現するコンピュータシステムの構成の詳細については繰り返さない。
図３３は、上記した各実施形態におけるキャッシュデータ生成装置、各種のモデル学習装置、及びそのための学習データ生成装置として動作するコンピュータシステムの外観図である。図３４は、図３３に示すコンピュータシステムのハードウェアブロック図である。図１９に示す対話装置７８０、図２２に示す学習データ生成装置８６０、及び図２９に示す学習データ生成装置９１０についてもそれぞれ図３３及び図３４に示すものと同様の構成のコンピュータシステムにより実現できる。ここでは、図２に示すキャッシュデータ生成装置１４０として動作するコンピュータシステムの構成についてのみ述べることとし、他の装置を実現するコンピュータシステムの構成の詳細については繰り返さない。
【0163】
図３３を参照して、このコンピュータシステム１０５０は、ＤＶＤ（Ｄｉｇｉｔａｌ Ｖｅｒｓａｔｉｌｅ Ｄｉｓｃ）ドライブ１１０２を有するコンピュータ１０７０と、いずれもコンピュータ１０７０に接続された、ユーザと対話するためのキーボード１０７４、マウス１０７６、及びモニタ１０７２とを含む。もちろんこれらは一例であり、ユーザ対話に利用できる一般のハードウェア及びソフトウェア（例えばタッチパネル、音声入力、ポインティングデバイス一般）であればどのようなものも利用できる。
【0164】
図３４を参照して、コンピュータ１０７０は、ＤＶＤドライブ１１０２に加えて、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）１０９０と、ＧＰＵ（Ｇｒａｐｈｉｃｓ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）１０９２と、ＣＰＵ１０９０、ＧＰＵ１０９２、ＤＶＤドライブ１１０２に接続されたバス１１１０とを含む。コンピュータ１０７０はさらに、バス１１１０に接続され、コンピュータ１０７０のブートアッププログラムなどを記憶するＲＯＭ（Ｒｅａｄ－Ｏｎｌｙ Ｍｅｍｏｒｙ）１０９６と、バス１１１０に接続され、プログラムを構成する命令、システムプログラム、及び作業データなどを記憶するＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）１０９８と、バス１１１０に接続された不揮発性メモリであるＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）１１００とを含む。ＳＳＤ１１００は、ＣＰＵ１０９０及びＧＰＵ１０９２が実行するプログラム、並びにＣＰＵ１０９０及びＧＰＵ１０９２が実行するプログラムが使用するデータなどを記憶するためのものである。
【0165】
コンピュータ１０７０はさらに、他端末との通信を可能とするネットワーク１０８６（例えば図１１に示すインターネット５１０）への接続を提供するネットワークＩ／Ｆ（Ｉｎｔｅｒｆａｃｅ）１１０８と、ＵＳＢ（Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ）メモリ１０８４が着脱可能で、ＵＳＢメモリ１０８４とコンピュータ１０７０内の各部との通信を提供するＵＳＢポート１１０６とを含む。
【0166】
コンピュータ１０７０はさらに、マイクロフォン１０８２及びスピーカ１０８０とバス１１１０とに接続され、ＣＰＵ１０９０により生成されＲＡＭ１０９８又はＳＳＤ１１００に保存された音声信号、映像信号及びテキストデータをＣＰＵ１０９０の指示に従って読出し、アナログ変換及び増幅処理をしてスピーカ１０８０を駆動したり、マイクロフォン１０８２からのアナログの音声信号をデジタル化し、ＲＡＭ１０９８又はＳＳＤ１１００の、ＣＰＵ１０９０により指定される任意のアドレスに保存したりする機能を持つ音声Ｉ／Ｆ１１０４を含む。これらは、ユーザとの音声対話のために必要である。
【0167】
上記実施形態において各装置の各機能を実現するプログラムなどは、いずれも例えば図３４に示すＳＳＤ１１００、ＲＡＭ１０９８、ＤＶＤ１０７８又はＵＳＢメモリ１０８４、若しくはネットワークＩ／Ｆ１１０８及びネットワーク１０８６を介して接続された図示しない外部装置の記憶媒体などに格納される。典型的には、これらのデータ及びパラメータなどは、例えば外部からＳＳＤ１１００に書込まれコンピュータ１０７０の実行時にはＲＡＭ１０９８にロードされる。
【0168】
このコンピュータシステムを、上記実施形態の各装置及びその各構成要素の機能を実現するよう動作させるためのコンピュータプログラムは、ＤＶＤドライブ１１０２に装着されるＤＶＤ１０７８に記憶され、ＤＶＤドライブ１１０２からＳＳＤ１１００に転送される。又は、これらのプログラムはＵＳＢメモリ１０８４に記憶され、ＵＳＢメモリ１０８４をＵＳＢポート１１０６に装着し、プログラムをＳＳＤ１１００に転送する。又は、このプログラムはネットワーク１０８６を通じてコンピュータ１０７０に送信されＳＳＤ１１００に記憶されてもよい。
【0169】
プログラムは実行のときにＲＡＭ１０９８にロードされる。もちろん、キーボード１０７４、モニタ１０７２及びマウス１０７６を用いてソースプログラムを入力し、コンパイルした後のオブジェクトプログラムをＳＳＤ１１００に格納してもよい。プログラムがスクリプト言語で記述されている場合には、キーボード１０７４などを用いて入力したスクリプトをＳＳＤ１１００に格納してもよい。仮想マシン上において動作するプログラムの場合には、仮想マシンとして機能するプログラムを予めコンピュータ１０７０にインストールしておく必要がある。音声認識及び音声合成などにはニューラルネットワークが使用される。上記各実施形態のモデル生成部などには、学習済のニューラルネットワークを使用してもよいし、コンピュータシステム１０５０を学習装置として使用してニューラルネットワークの学習を行ってもよい。
【0170】
ＣＰＵ１０９０は、その内部のプログラムカウンタと呼ばれるレジスタ（図示せず）により示されるアドレスに従ってＲＡＭ１０９８からプログラムを読出して命令を解釈し、命令の実行に必要なデータを命令により指定されるアドレスに従ってＲＡＭ１０９８、ＳＳＤ１１００又はそれ以外の機器から読出して命令により指定される処理を実行する。ＣＰＵ１０９０は、実行結果のデータを、ＲＡＭ１０９８、ＳＳＤ１１００、ＣＰＵ１０９０内のレジスタなど、プログラムにより指定されるアドレスに格納する。アドレスによっては音声信号などとしてコンピュータから出力される。このとき、プログラムカウンタの値もプログラムによって更新される。コンピュータプログラムは、ＤＶＤ１０７８から、ＵＳＢメモリ１０８４から、又はネットワーク１０８６を介して、ＲＡＭ１０９８に直接にロードしてもよい。なお、ＣＰＵ１０９０が実行するプログラムの中で、一部のタスク（主として数値計算）については、プログラムに含まれる命令により、又はＣＰＵ１０９０による命令実行時の解析結果に従って、ＧＰＵ１０９２にディスパッチされる。
【0171】
コンピュータ１０７０により上記した実施形態に係る各部の機能を実現するプログラムは、それら機能を実現するようコンピュータ１０７０を動作させるように記述され配列された複数の命令を含む。この命令を実行するのに必要な基本的機能のいくつかはコンピュータ１０７０上において動作するオペレーティングシステム（ＯＳ）若しくはサードパーティのプログラム、コンピュータ１０７０にインストールされる各種ツールキットのモジュール又はプログラムの実行環境により提供される場合もある。したがって、このプログラムはこの実施形態のシステム及び方法を実現するのに必要な機能全てを必ずしも含まなくてよい。このプログラムは、命令の中で、所望の結果が得られるように制御されたやり方によって適切な機能又はモジュールなどをコンパイル時に静的にリンクすることにより、又は実行時に動的に呼出すことにより、上記した各装置及びその構成要素としての動作を実行する命令のみを含んでいればよい。そのためのコンピュータ１０７０の動作方法は周知なので、ここでは繰り返さない。
【0172】
なお、ＧＰＵ１０９２は並列処理を行うことが可能であり、機械学習に伴う多量の計算を同時並列的又はパイプライン的に実行できる。例えばプログラムのコンパイル時にプログラム中に発見された並列的計算要素、又はプログラムの実行時に発見された並列的計算要素は、随時、ＣＰＵ１０９０からＧＰＵ１０９２にディスパッチされ、実行され、その結果が直接に、又はＲＡＭ１０９８の所定アドレスを介してＣＰＵ１０９０に返され、プログラム中の所定の変数に代入される。
【0173】
さらに、上記実施形態に係る各装置は、図３３及び図３４に示すように独立したコンピュータにより実現されている。しかしこの発明はそのような実施形態には限定されない。例えば１又は複数のコンピュータに上記実施形態の各部が分散して配置され、相互に通信により全体として統御された動作をするようにしてもよい。また１又は複数の上に仮想システムを構築し、その仮想システム上で動作するＯＳの上で上記プログラムを実行するようにしてもよい。また、いわゆるクラウドに上記システムを構築し、インターネット上のどこからもアクセスして上記したようなキャッシュデータの生成ができるようにしてもよい。
【0174】
以上に説明したように、この発明によれば、大規模パッセージ集合６４に含まれる大量のパッセージから対話システムのためのキャッシュデータを生成できる。生成されたキャッシュデータを対話システムのキャッシュデータに追加することによって、ユーザ発話６０に対する応答としてのシステム発話がキャッシュにおいて発見され、対話エンジンを稼働させることなくユーザに対して応答できる。その結果、対話装置のためのキャッシュデータを効率よく生成できるような発話データ生成装置、対話装置及び生成モデルの作成方法を提供できる。
【0175】
今回開示された実施の形態は単に例示であり、本発明が上記した実施の形態のみに制限されるわけではない。本発明の範囲は、発明の詳細な説明の記載を参酌した上で、特許請求の範囲の各請求項によって示され、そこに記載された文言と均等の意味及び範囲内での全ての変更を含む。
【符号の説明】
【0176】
５０ 対話システム
６０ ユーザ発話
６２、８７０、９２０ 対話エンジン
６４ 大規模パッセージ集合
６６、９０、６６５、７３８、８７２ システム発話
８０、７９０ キャッシュデータ作成部
８２、７９２ 対話処理用キャッシュデータ
１２２、９３０、９３４ 質問応答システム
１４０、２７０、３７０、５５０、８１０、９６０ キャッシュデータ作成装置
１５２、５６２、８２０ パッセージ読出部
１５４、５２８、５７６、９５２ キャッシュデータ生成モデル
１５８、２１２、８２２ 面白さ判定モデル
１６０、２９０ キャッシュデータ選択部
１６２、２９２、５７８、８１２、９６２ キャッシュデータ記憶装置
２００、９５０ キャッシュデータ生成モデル学習部
２１６ 対象キャッシュデータ記憶装置
２１８、５２２ 学習データ生成部
２２０、５２４ 学習データ記憶装置
２２２、５２６ モデル学習部
２８８、３８８ キャッシュデータ候補記憶装置
３１０、３４０、４１０、４４０、７６０ 学習データ
３２０、４２０ パッセージ単語列
３２２、４５２、５６６、６６６ トピック単語列
３５０、４５０、６００、６０２、６８２、６８４、８８２、８８４ 単語列
３５２、４２２、５７４ システム発話単語列
３８２ システム発話生成部
３８４ システム発話付パッセージ記憶装置
５００ モデル学習システム
５０２ キャッシュデータ生成モデル学習装置
５１２ 対話データ収集部
５１４ 対話データ記憶装置
５１８ 関連パッセージ選択部
５２０ 対象データ記憶装置
５６４ 分類モデル
５６５、６６２ トピック単語列抽出部
５７０ システム発話部分抽出部
５７１、５９４ システム発話部分単語列
５７２ システム発話生成モデル
５９８ キャッシュデータ
６５０、７２０、８６０、９１０ 学習データ生成装置
６５２ ラベリング後学習データ記憶装置
６５４ 分類モデル学習部
６９０ 学習システム
７２４ システム発話生成モデル学習部
７４０ システム発話生成モデル学習データ生成部
７８０ 対話装置
８２８ キャッシュデータ生成部
８７４、９２２、９９８ 学習データ作成部
９５４ 質問応答ランキングモデル
６０ ユーザ発話
６２、８７０、９２０ 対話エンジン
６４ 大規模パッセージ集合
６６、９０、６６５、７３８、８７２ システム発話
８０、７９０ キャッシュデータ作成部
８２、７９２ 対話処理用キャッシュデータ
１２２、９３０、９３４ 質問応答システム
１４０、２７０、３７０、５５０、８１０、９６０ キャッシュデータ作成装置
１５２、５６２、８２０ パッセージ読出部
１５４、５２８、５７６、９５２ キャッシュデータ生成モデル
１５８、２１２、８２２ 面白さ判定モデル
１６０、２９０ キャッシュデータ選択部
１６２、２９２、５７８、８１２、９６２ キャッシュデータ記憶装置
２００、９５０ キャッシュデータ生成モデル学習部
２１６ 対象キャッシュデータ記憶装置
２１８、５２２ 学習データ生成部
２２０、５２４ 学習データ記憶装置
２２２、５２６ モデル学習部
２８８、３８８ キャッシュデータ候補記憶装置
３１０、３４０、４１０、４４０、７６０ 学習データ
３２０、４２０ パッセージ単語列
３２２、４５２、５６６、６６６ トピック単語列
３５０、４５０、６００、６０２、６８２、６８４、８８２、８８４ 単語列
３５２、４２２、５７４ システム発話単語列
３８２ システム発話生成部
３８４ システム発話付パッセージ記憶装置
５００ モデル学習システム
５０２ キャッシュデータ生成モデル学習装置
５１２ 対話データ収集部
５１４ 対話データ記憶装置
５１８ 関連パッセージ選択部
５２０ 対象データ記憶装置
５６４ 分類モデル
５６５、６６２ トピック単語列抽出部
５７０ システム発話部分抽出部
５７１、５９４ システム発話部分単語列
５７２ システム発話生成モデル
５９８ キャッシュデータ
６５０、７２０、８６０、９１０ 学習データ生成装置
６５２ ラベリング後学習データ記憶装置
６５４ 分類モデル学習部
６９０ 学習システム
７２４ システム発話生成モデル学習部
７４０ システム発話生成モデル学習データ生成部
７８０ 対話装置
８２８ キャッシュデータ生成部
８７４、９２２、９９８ 学習データ作成部
９５４ 質問応答ランキングモデル
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】