特許 7644944 自然言語生成装置、自然言語生成方法、およびプログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B1)

(11)【特許番号】

(24)【登録日】2025-03-05

(45)【発行日】2025-03-13

(54)【発明の名称】自然言語生成装置、自然言語生成方法、およびプログラム

(51)【国際特許分類】

   G06N 5/00 20230101AFI20250306BHJP

【ＦＩ】

G06N5/00

【請求項の数】 19

(21)【出願番号】P 2024199225

(22)【出願日】2024-11-14

【審査請求日】2024-11-14

【国等の委託研究の成果に係る記載事項】（出願人による申告）令和２年度、国立研究開発法人科学技術振興機構、ムーンショット型研究開発事業（基金）「（１）誰もが自在に活躍できるアバター共生社会の実現（２）存在感ＣＡの開発とＣＡ自在操作インターフェースの研究開発」委託研究、産業技術力強化法第１７条の適用を受ける特許出願

【早期審査対象出願】

(73)【特許権者】

【識別番号】504176911

【氏名又は名称】国立大学法人大阪大学

(73)【特許権者】

【識別番号】500149555

【氏名又は名称】株式会社サイバーエージェント

(74)【代理人】

【識別番号】100149548

【弁理士】

【氏名又は名称】松沼 泰史

(74)【代理人】

【識別番号】100141139

【弁理士】

【氏名又は名称】及川 周

(72)【発明者】

【氏名】吉川 雄一郎

(72)【発明者】

【氏名】石黒 浩

(72)【発明者】

【氏名】中西 惇也

(72)【発明者】

【氏名】馬場 惇

(72)【発明者】

【氏名】岡本 大和

【審査官】佐藤 直樹

(56)【参考文献】

【文献】特表２０２３－５３５９１３（ＪＰ，Ａ）

【文献】中国特許出願公開第１１７８２８０５５（ＣＮ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ５／００

(57)【特許請求の範囲】

【請求項1】

利用者から提供される情報をもとに回答を生成する対話インターフェースを提供する対話装置が前記利用者との対話において生成する回答に影響を与える制約情報を更新する情報処理装置であって、
前記対話の記録をもとに改善すべき要改善箇所を抽出する抽出部と、
前記要改善箇所の改善に役立つ知識情報の入力を受け付け、前記知識情報に基づいて前記制約情報を更新するための更新指示情報を生成する生成部と、
前記更新指示情報に基づいて前記制約情報を更新する更新部と、
を備える情報処理装置。

【請求項2】

前記抽出部は、抽出した前記要改善箇所を前記対話装置の管理者に提示し、
前記生成部は、前記管理者による前記知識情報の入力を受け付ける、
請求項１に記載の情報処理装置。

【請求項3】

前記生成部に対して前記知識情報を入力する入力部をさらに備え、
前記抽出部は、前記要改善箇所を前記入力部に供給し、
前記入力部は、前記抽出部から供給された前記要改善箇所について、改善に役立つ知識情報を外部のデータソースから抽出して前記生成部に入力する、
請求項１に記載の情報処理装置。

【請求項4】

前記入力部は、前記利用者の入力に対して回答するように学習された対話モデルを用いて構成される、
請求項３に記載の情報処理装置。

【請求項5】

前記対話装置の管理者との対話のインターフェースを提供する対話部をさらに備え、
前記対話部は、
前記要改善箇所をもとに前記知識情報として必要な情報を特定して前記管理者に提示し、
前記管理者から前記知識情報の入力を受け付け、前記管理者が入力した前記知識情報を前記生成部に入力する、
請求項１に記載の情報処理装置。

【請求項6】

前記対話部は、前記利用者の入力に対して回答するように学習された対話モデルを用いて構成される、
請求項５に記載の情報処理装置。

【請求項7】

前記生成部は、生成した更新指示情報について修正に関するフィードバック情報が前記管理者から入力された場合、前記フィードバック情報に基づいて前記更新指示情報を修正する、
請求項５に記載の情報処理装置。

【請求項8】

前記生成部は、更新前の制約情報である第１の制約情報と、前記フィードバック情報をもとに修正された更新指示情報によって更新された後の制約情報である第２の制約情報と、の両方を保存しておき、前記対話部が、前記第１の制約情報と、前記第２の制約情報とのそれぞれで同じ対話を実行した場合の出力を、それぞれ比較可能な態様で前記管理者に提示する、
請求項７に記載の情報処理装置。

【請求項9】

前記抽出部および前記生成部は、前記利用者の入力に対して回答するように学習された対話モデルを用いて構成される、
請求項１に記載の情報処理装置。

【請求項10】

前記生成部は、入力された前記知識情報に対してフォーマットの整形、または前記制約情報の更新においてキーとなる情報の抽出を行う前処理を施し、前記前処理後の前記知識情報を前記対話モデルに入力する、
請求項９に記載の情報処理装置。

【請求項11】

前記抽出部は、前記要改善箇所として抽出された対話について、前記要改善箇所として抽出された原因を、前記制約情報の修正方針に応じたカテゴリに分類して前記管理者に提示する、
請求項２に記載の情報処理装置。

【請求項12】

前記対話装置は、前記利用者との間でやり取りされる言語ベースの対話情報と、前記対話情報を補足する視覚情報とによって前記利用者と対話するものであり、
前記対話の記録には、前記対話情報および前記視覚情報に関する履歴情報が含まれる、
請求項１に記載の情報処理装置。

【請求項13】

前記対話インターフェースは、身体的動作が可能なロボットとして提供され、
前記視覚情報に関する履歴情報は、前記ロボットが行った前記身体的動作に関する履歴情報を含む、
請求項１２に記載の情報処理装置。

【請求項14】

前記対話装置は、前記利用者の表情を読み取るためのカメラを備え、
前記対話の記録には、前記利用者との間でやり取りされる言語ベースの対話情報、および、前記カメラによって撮像された画像または、前記画像から認識された前記利用者の表情に関する履歴情報が含まれる、
請求項１に記載の情報処理装置。

【請求項15】

前記対話装置は、前記利用者と対話する空間の音環境の状況をセンシングするためのマイクを備え、
前記対話の記録には、前記利用者との間でやり取りされる言語ベースの対話情報、および、前記マイクによって撮像された音声または、前記音声から認識された前記音環境の状況に関する履歴情報が含まれる、
請求項１に記載の情報処理装置。

【請求項16】

前記対話の記録には、前記利用者との間でやり取りされる言語ベースの対話情報、および、前記利用者の音声または、前記音声から認識された、前記利用者の前記対話装置に対する評価に関する履歴情報が含まれる、
請求項１に記載の情報処理装置。

【請求項17】

前記対話の記録には、前記対話装置の通信エラーに関する履歴情報が含まれる、
請求項１に記載の情報処理装置。

【請求項18】

コンピュータが、
利用者から提供される情報をもとに回答を生成する対話インターフェースを提供する対話装置が前記利用者との対話において生成する回答に影響を与える制約情報を更新する情報処理方法であって、
前記コンピュータが、
前記対話の記録をもとに改善すべき要改善箇所を抽出し、
前記要改善箇所の改善に役立つ知識情報の入力を受け付け、前記知識情報に基づいて前記制約情報を更新するための更新指示情報を生成し、
前記更新指示情報に基づいて前記制約情報を更新する、
情報処理方法。

【請求項19】

コンピュータに、
利用者から提供される情報をもとに回答を生成する対話インターフェースを提供する対話装置が前記利用者との対話において生成する回答に影響を与える制約情報を更新する更新処理を実行させるためのプログラムであって、
前記更新処理は、
前記対話の記録をもとに改善すべき要改善箇所を抽出する処理と、
前記要改善箇所の改善に役立つ知識情報の入力を受け付け、前記知識情報に基づいて前記制約情報を更新するための更新指示情報を生成する処理と、
前記更新指示情報に基づいて前記制約情報を更新する処理と、
を含む、
プログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、自然言語生成装置、自然言語生成方法、およびプログラムの技術に関する。

【背景技術】

【0002】

従来、大規模言語モデル（Large Language Model, LLM）を用いた対話システムについて研究されている。例えば、特許文献１には、チャットの対話情報を教師データとして機械学習を行うことにより対話モデルを生成し、当該対話モデルによってユーザからの質問に回答するシステムについて記載されている。

【先行技術文献】

【特許文献】

【0003】

【文献】特許第７５４２９０４号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

しかしながら、従来の技術では、対話システムが特定のパターンに適切な回答をできない場合、対話システムの修正に多くの労力が費やされていた。例えば、分析のために失敗事例を収集するのには手間がかる。また、例えば、対話モデルを修正する場合、学習データの収集やモデルの再学習には専門性が求められるので手間がかかる。また、対話システムが使用する外部データソースを修正する場合も専門性が求められ、どのように修正するかの方針の策定にも手間がかかる。このように、従来の技術では、自然言語による対話システムの修正を効率良く実施することができない場合があった。

【0005】

上記事情に鑑み、本発明は、利用者から提供される情報をもとに回答を生成する対話システムの修正をより効率良く実施することを可能にする技術の提供を目的としている。

【課題を解決するための手段】

【0006】

本発明の一態様は、利用者から提供される情報をもとに回答を生成する対話インターフェースを提供する対話装置が前記利用者との対話において生成する回答に影響を与える制約情報を更新する情報処理装置であって、前記対話の記録をもとに改善すべき要改善箇所を抽出する抽出部と、前記要改善箇所の改善に役立つ知識情報の入力を受け付け、前記知識情報に基づいて前記制約情報を更新するための更新指示情報を生成する生成部と、前記更新指示情報に基づいて前記制約情報を更新する更新部と、を備える情報処理装置である。

【0007】

本発明の一態様は、上記の情報処理装置であって、前記抽出部は、抽出した前記要改善箇所を前記対話装置の管理者に提示し、前記生成部は、前記管理者による前記知識情報の入力を受け付けるものである。

【0008】

本発明の一態様は、上記の情報処理装置であって、前記生成部に対して前記知識情報を入力する入力部をさらに備え、前記抽出部は、前記要改善箇所を前記入力部に供給し、前記入力部は、前記抽出部から供給された前記要改善箇所について、改善に役立つ知識情報を外部のデータソースから抽出して前記生成部に入力するものである。

【0009】

本発明の一態様は、上記の情報処理装置であって、前記入力部は、前記利用者の入力に対して回答するように学習された対話モデルを用いて構成されるものである。

【0010】

本発明の一態様は、上記の情報処理装置であって、前記対話装置の管理者との対話のインターフェースを提供する対話部をさらに備え、前記対話部は、前記要改善箇所をもとに前記知識情報として必要な情報を特定して前記管理者に提示し、前記管理者から前記知識情報の入力を受け付け、前記管理者が入力した前記知識情報を前記生成部に入力するものである。

【0011】

本発明の一態様は、上記の情報処理装置であって、前記対話部は、前記利用者の入力に対して回答するように学習された対話モデルを用いて構成されるものである。

【0012】

本発明の一態様は、上記の情報処理装置であって、前記生成部は、生成した更新指示情報について修正に関するフィードバック情報が前記管理者から入力された場合、前記フィードバック情報に基づいて前記更新指示情報を修正するものである。

【0013】

本発明の一態様は、上記の情報処理装置であって、前記生成部は、更新前の制約情報である第１の制約情報と、前記フィードバック情報をもとに修正された更新指示情報によって更新された後の制約情報である第２の制約情報と、の両方を保存しておき、前記対話部が、前記第１の制約情報と、前記第２の制約情報とのそれぞれで同じ対話を実行した場合の出力を、それぞれ比較可能な態様で前記管理者に提示するものである。

【0014】

本発明の一態様は、上記の情報処理装置であって、前記抽出部および前記生成部は、前記利用者の入力に対して回答するように学習された対話モデルを用いて構成されるものである。

【0015】

本発明の一態様は、上記の情報処理装置であって、前記生成部は、入力された前記知識情報に対してフォーマットの整形、または前記制約情報の更新においてキーとなる情報の抽出を行う前処理を施し、前記前処理後の前記知識情報を前記対話モデルに入力するものである。

【0016】

本発明の一態様は、上記の情報処理装置であって、前記抽出部は、前記要改善箇所として抽出された対話について、前記要改善箇所として抽出された原因を、前記制約情報の修正方針に応じたカテゴリに分類して前記管理者に提示するものである。

【0017】

本発明の一態様は、上記の情報処理装置であって、前記対話装置は、前記利用者との間でやり取りされる言語ベースの対話情報と、前記対話情報を補足する視覚情報とによって前記利用者と対話するものであり、前記対話の記録には、前記対話情報および前記視覚情報に関する履歴情報が含まれるものである。

【0018】

本発明の一態様は、上記の情報処理装置であって、前記対話インターフェースは、身体的動作が可能なロボットとして提供され、前記視覚情報に関する履歴情報は、前記ロボットが行った前記身体的動作に関する履歴情報を含むものである。

【0019】

本発明の一態様は、上記の情報処理装置であって、前記対話装置は、前記利用者の表情を読み取るためのカメラを備え、前記対話の記録には、前記対話情報、および、前記カメラによって撮像された画像または、前記画像から認識された前記利用者の表情に関する履歴情報が含まれるものである。

【0020】

本発明の一態様は、上記の情報処理装置であって、前記対話装置は、前記利用者と対話する空間の音環境の状況をセンシングするためのマイクを備え、前記対話の記録には、前記対話情報、および、前記マイクによって撮像された音声または、前記音声から認識された前記音環境の状況に関する履歴情報が含まれるものである。

【0021】

本発明の一態様は、上記の情報処理装置であって、前記対話の記録には、前記対話情報、および、前記利用者の音声または、前記音声から認識された、前記利用者の前記対話装置に対する評価に関する履歴情報が含まれるものである。

【0022】

本発明の一態様は、上記の情報処理装置であって、前記対話の記録には、前記対話装置の通信エラーに関する履歴情報が含まれるものである。

【0023】

本発明の一態様は、コンピュータが、利用者から提供される情報をもとに回答を生成する対話インターフェースを提供する対話装置が前記利用者との対話において生成する回答に影響を与える制約情報を更新する情報処理方法であって、前記コンピュータが、前記対話の記録をもとに改善すべき要改善箇所を抽出し、前記要改善箇所の改善に役立つ知識情報の入力を受け付け、前記知識情報に基づいて前記制約情報を更新するための更新指示情報を生成し、前記更新指示情報に基づいて前記制約情報を更新する、情報処理方法である。

【0024】

本発明の一態様は、コンピュータに、利用者から提供される情報をもとに回答を生成する対話インターフェースを提供する対話装置が前記利用者との対話において生成する回答に影響を与える制約情報を更新する更新処理を実行させるためのプログラムであって、前記更新処理は、前記対話の記録をもとに改善すべき要改善箇所を抽出する処理と、前記要改善箇所の改善に役立つ知識情報の入力を受け付け、前記知識情報に基づいて前記制約情報を更新するための更新指示情報を生成する処理と、前記更新指示情報に基づいて前記制約情報を更新する処理と、を含む、プログラムである。

【発明の効果】

【0025】

本発明により、利用者から提供される情報をもとに回答を生成する対話システムの修正をより効率良く実施することが可能となる。

【図面の簡単な説明】

【0026】

【図1】実施形態の対話システム１のシステム構成の一例を示す図である。

【図2】実施形態の対話装置１００の構成例を示す図である。

【図3】実施形態の対話装置１００が利用者との対話を通じて対話モデルの制約情報を更新する処理の流れの一例を示す図（その１）である。

【図4】実施形態の対話装置１００が利用者との対話を通じて対話モデルの制約情報を更新する処理の流れの一例を示す図（その２）である。

【図5】実施形態の対話装置１００が利用者との対話を通じて対話モデルの制約情報を更新する処理の流れの一例を示す図（その３）である。

【図6】実施形態の対話装置１００が利用者との対話を通じて対話モデルの制約情報を更新する処理の流れの一例を示す図（その４）である。

【発明を実施するための形態】

【0027】

以下、本発明の実施形態について、図面を参照して詳細に説明する。

【0028】

図１は、実施形態の対話システム１のシステム構成の一例を示す図である。対話システム１は、利用者から自然文の入力を受け付け、当該自然文に対する回答を出力するシステムである。対話システム１は、例えば、対話装置１００と、利用者端末装置２００と、管理者端末装置３００と、を備える。対話装置１００と、利用者端末装置２００と、管理者端末装置３００とは、ネットワークＮＷを介して互いに通信可能である。ネットワークＮＷは、無線通信を用いたネットワークであってもよいし、有線通信を用いたネットワークであってもよい。ネットワークＮＷは、例えばインターネットを用いて構成されてもよいし、ローカルエリアネットワーク（ＬＡＮ）を用いて構成されてもよい。ネットワークＮＷは、複数のネットワークが組み合わされて構成されてもよい。

【0029】

利用者端末装置２００は、対話システム１の利用者Ｕが使用する端末装置である。例えば、利用者端末装置２００は、スマートフォンやタブレット、パーソナルコンピュータなどの端末装置であってよい。利用者端末装置２００では、利用者向けインターフェースが動作する。利用者Ｕは、利用者向けインターフェースを操作することにより、対話装置１００に対して任意の自然文を入力するとともに、当該自然文に対する回答を対話装置１００から取得することができる。利用者向けインターフェースは、専用のアプリケーションプログラムであってもよいし、ウェブブラウザを介して提供されるウェブアプリケーションであってもよい。

【0030】

管理者端末装置３００は、対話システム１の管理者Ｍが使用する端末装置である。例えば、管理者端末装置３００は、スマートフォンやタブレット、パーソナルコンピュータなどの端末装置であってよい。利用者端末装置３００では、管理者向けインターフェースが動作する。管理者Ｍは、管理者向けインターフェースを操作することにより、対話装置１００との間で情報を送受信することができる。管理者向けインターフェースは、専用のアプリケーションプログラムであってもよいし、ウェブブラウザを介して提供されるウェブアプリケーションであってもよい。

【0031】

図２は、実施形態の対話装置１００の構成例を示す図である。対話装置１００は、例えば、通信部１１０と、記憶部１２０と、制御部１３０とを備える。制御部１３０は、例えばＣＰＵ（Central Processing Unit）等のプロセッサーとメモリーとを用いて構成される。制御部１３０は、プロセッサーがプログラムを実行することによって、対話部１３１、要改善箇所抽出部１３２、更新指示生成部１３３、および更新実行部１３４として機能する。なお、制御部１３０の機能の全て又は一部は、ＡＳＩＣ（Application Specific Integrated Circuit）やＰＬＤ（Programmable Logic Device）やＦＰＧＡ（Field Programmable Gate Array）等のハードウェアを用いて実現されても良い。上記のプログラムは、コンピュータ読み取り可能な記録媒体に記録されても良い。コンピュータ読み取り可能な記録媒体とは、例えばフレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ－ＲＯＭ、半導体記憶装置（例えばＳＳＤ：Solid State Drive）等の可搬媒体、コンピュータシステムに内蔵されるハードディスクや半導体記憶装置等の記憶装置である。上記のプログラムは、電気通信回線を介して送信されてもよい。

【0032】

通信部１１０は、対話装置１００をネットワークＮＷに接続する通信装置である。通信部１１０は、例えばネットワークインターフェースである。ネットワークインターフェースは、無線通信を行う装置であってもよいし、有線通信を行う装置であってもよい。

【0033】

記憶部１２０は、磁気ハードディスク装置や半導体記憶装置等の記憶装置を用いて構成される。記憶部１２０は、例えば、対話ログ１２１と、更新パッチ１２２と、代替ファイル１２３とを記憶する。対話ログ１２１、更新パッチ１２２、および代替ファイル１２３の詳細については後述する。

【0034】

制御部１３０は、利用者が利用者端末装置２００に入力した自然文の情報を利用者端末装置２００から取得するとともに、当該自然文に対する回答を生成して利用者端末装置２００に返信する。より具体的には、制御部１３０は、対話部１３１と、要改善箇所抽出部１３２と、更新指示生成部１３３と、更新実行部１３４とを備える。

【0035】

対話部１３１は、利用者端末装置２００から供給された自然文に対する回答を生成して利用者端末装置２００に送信する対話処理を実行する。例えば、対話部１３１は、入力された自然文に対して回答するように学習された大規模言語モデル（ＬＬＭ：Large Language Model）により構成され得る。例えば、ＬＬＭには、ＧｈａｔＧＰＴ（登録商標）やＣｌａｕｄｅ（登録商標）、Ｇｅｍｉｎｉ（登録商標）などが用いられてもよい。この場合、対話部１３１は、供給された自然文をＬＬＭに入力することで、その出力として当該自然文に対する回答を取得することができる。

【0036】

より具体的には、対話部１３１のＬＬＭには、特定のポリシーやルール、ナレッジ等による制約情報によってＬＬＭの出力を制御するプロンプトエンジニアリング（例えば「Policy Prompt」と呼ばれる技術がある）が適用される。また、本実施形態では、制約情報は、外部データソースに格納される場合を想定する。なお、ＬＬＭが外部データソースを参照できるようにする技術には、例えば「RAG(Retrieval-Augmented Generation)」と呼ばれるものがある。本実施形態の対話装置１００では、このように、制約情報を外部データソースに格納し、ＬＬＭに参照させるようにする。これにより、本実施形態の対話装置１００は、外部データソースに格納された制約情報を変更することにより、ＬＬＭを再学習することなくチューニングすることが可能となるものである。

【0037】

上記のほか、対話部１３１は、対話処理に関する情報を後から参照できるように対話ログ１２１として記憶部１２０に保存する。例えば、対話ログ１２１には、利用者端末装置２００から入力された自然文や、対話部１３１が当該自然文に対して回答した内容が含まれる。さらに、対話ログ１２１には、入力された自然文に対して回答を生成する過程で行われたデータ処理の履歴や、外部データソース４０の参照履歴等も含まれてよい。

【0038】

要改善箇所抽出部１３２は、対話ログ１２１に記録されている対話の内容から改善すべき箇所（要改善箇所）を抽出する。要改善箇所は、利用者との間で行われた対話のケース群のうち、対話に失敗したケース（失敗ケース）ということができる。例えば、要改善箇所抽出部１３２は、ＬＬＭにより構成され得る。この場合、例えば、要改善箇所抽出部１３２は、対話ログ１２１と、対話ログ１２１の内容から要改善箇所を抽出することを指示する自然文とをＬＬＭに入力することにより、その出力として当該対話の要改善箇所を取得することができる。

【0039】

例えば、要改善箇所抽出部１３２は、対話ログ１２１をＬＬＭに入力し、「入力した対話ログから、場所の案内に失敗したケースを抽出してください。」といった指示をＬＬＭに入力する。例えば、「トイレはどこですか？」という問いに対して「本館２階の南端です。」と回答したやり取りが対話ログに記録されている場合、「どこ？」という問いに対して場所が回答されていることから、ＬＬＭは適切な対話が行われたと判定することが想定される。一方で、同じ問いに対して「振り返ったら見えていますよ。」と回答したやり取りが対話ログに記録されている場合、「どこ？」という問いに対して場所が回答されていないので、ＬＬＭは適切な対話が行われていないと判定する可能性がある。このように、ＬＬＭは、コンテキスト依存の対話について、適切な対話であるにもかかわらず、改善が必要であるとご認識する場合が想定される。

【0040】

このようなケースを想定して、要改善箇所抽出部１３２は、以下のようなルールベースの方法で要改善箇所を判定するように構成されてもよい。
（１）対話時間が長すぎる（閾値時間以上である）ケースを、失敗ケースとして抽出する。
（２）利用者Ｕが同じ趣旨の質問を繰り返しているケースを、失敗ケースとして抽出する。
（３）対話が途中で打ち切られたケース（例えば、「ありがとう」や「またね」といった対話終了を示唆する文言が無いケース）を、失敗ケースとして抽出する。
要改善箇所抽出部１３２は、上記のようなルールベースで失敗ケースを抽出することをＬＬＭに指示することで要改善箇所を抽出してもよい。

【0041】

また、要改善箇所抽出部１３２は、対話に関する内部処理の失敗を検知した場合に、そのときに行われていた対話を失敗ケースとして抽出するように構成されてもよい。例えば、対話システム１が、ＣｈａｔＧＰＴ（登録商標）の「Function Calling」機能のように、ＬＬＭが外部機能を呼び出して実行できるようにする機能を有している場合、対話ログ１２１に加えて、外部機能との通信ログを保存するように対話部１３１を構成する。この場合、要改善箇所抽出部１３２は、当該通信ログをもとに外部機能の呼び出しの成否を判定し、外部機能の呼び出しに失敗していた（リクエストエラーが発生していた）ときの対話を失敗ケースとして抽出するように構成されてもよい。

【0042】

これらの方法のほか、要改善箇所抽出部１３２は、機械学習により、個々の対話の対話ログを入力として、当該対話の成否を出力するように訓練された学習済みモデルに、判定対象とする対話の対話ログを入力することにより、当該対話が失敗ケースであるか否かを判定するように構成されてもよい。

【0043】

更新指示生成部１３３は、外部データソースに格納されている制約情報を更新するための指示（更新指示）を生成する。より具体的には、更新指示生成部１３３は、要改善箇所抽出部１３２によって抽出された対話の要改善箇所について、ＬＬＭがどのように改善したら良いかを判断するための材料となる知識の情報（知識情報）の入力を受け付け、その知識情報をもとに更新指示を生成する。

【0044】

例えば、更新指示生成部１３３は、更新後の制約情報を記載した代替ファイル１２３と、外部データソースに格納されている制約情報を代替ファイルに記載された内容に更新するためのプログラムである更新パッチ１２２とを更新指示として生成する。例えば、「構内のトイレの場所」を適切に案内することができなった対話シーンが要改善箇所として抽出された場合、「トイレは本館２階の南端にあります。この知識を外部データソースに追加するための更新パッチおよび代替ファイルを生成してください。」といった内容のテキスト情報が更新指示生成部１３３に入力される。この場合、例えば、更新指示生成部１３３は、当該テキスト情報をもとに、追加すべき知識の内容を認識するとともに、当該知識を含む代替ファイル１２３と、当該代替ファイル１２３の知識を外部データソースに追加する更新パッチ１２２を生成する。更新指示生成部１３３は、このように生成した代替ファイル１２３および更新パッチ１２２を記憶部１２０に保存する。

【0045】

更新実行部１３４は、更新指示生成部１３３によって生成された更新指示をもとに外部データソースに格納されている制約情報を更新する。例えば、更新実行部１３４は、更新パッチ１２２を実行することによって制約情報を代替ファイル１２３に記載された内容に更新する。

【0046】

［第１実施例］
図３は、実施形態の対話装置１００が利用者との対話を通じて対話モデル（ＬＬＭ）の制約情報を更新する処理の流れの一例を示す図（その１）である。図３において、Ｓ１０１～Ｓ１０５は利用者Ｕと対話装置１００とが対話するフェーズ（以下「対話フェーズ」という。）を表し、Ｓ２０１～Ｓ２０６は対話フェーズで行われた対話の内容をもとに、外部データソース４００に格納されている制約情報を修正して対話機能を改善するフェーズ（以下「改善フェーズ」という。）を表す。

【0047】

［対話フェーズ］
対話フェーズでは、まず、利用者Ｕが利用者端末装置２００を介して対話装置１００に自然文を入力する（Ｓ１０１）。対話装置１００では、対話部１３１が外部データソース４００に格納されている制約情報（ポリシー４１およびナレッジ４２）をもとにＳ１０１で入力された自然文に対する回答を生成する（Ｓ１０２）。対話部１３１は、Ｓ１０２で生成した回答を利用者Ｕに提示する（Ｓ１０４）。一方で、対話部１３１は、Ｓ１０２の対話処理に関する情報を対話ログ１２１に記録する（Ｓ１０５）。Ｓ１０１～Ｓ１０５は繰り返し実行されてもよい。

【0048】

［改善フェーズ］
続いて、改善フェーズでは、まず、要改善箇所抽出部１３２が、対話ログ１２１を参照し、対話フェーズで行われた対話の中から改善が必要と思われる箇所（要改善箇所）を抽出する（Ｓ２０１）。要改善箇所抽出部１３２は、抽出された要改善箇所の一覧（対話リスト）を管理者Ｍに提示する（Ｓ２０２）。例えば、要改善箇所抽出部１３２は、対話リストを管理者端末装置３００に送信して表示させる。管理者Ｍは、Ｓ２０２で提示された対話リストの内容を確認し、リストアップされた対話の改善に必要な知識情報を対話装置１００に入力する（Ｓ２０３）。なお、要改善箇所抽出部１３２は、要改善箇所の対話について、適切な回答をするために不足している知識情報（不足知識情報）を判断し、その不足知識情報を対話リストに含めてもよい。

【0049】

続いて、対話装置１００では、更新指示生成部１３３が、Ｓ２０３で入力された知識情報を制約情報に反映させるための更新指示情報ＩＮＳ（更新パッチ１２２および代替ファイル１２３を含む）を生成する（Ｓ２０４Ａ）。更新指示情報ＩＮＳは、管理者Ｍが入力した知識情報をポリシー４１に反映するものであってもよいし、ナレッジ４２に反映するものであってもよいし、ポリシー４１およびナレッジ４２の両方に反映するものであってもよい。制約情報をどのような情報に更新するかは、更新指示生成部１３３の判断により、管理者Ｍが入力した知識情報に応じて適宜決定される。

【0050】

なお、更新指示生成部１３３は、更新指示情報ＩＮＳを生成する際、必要に応じて現在の制約情報を参照するように構成されてもよい（Ｓ２０４Ｂ）。例えば、更新指示生成部１３３は、現在の制約情報と、管理者Ｍによって入力された新たな知識情報とを考慮して、現在の制約情報に追加すべき情報を代替ファイル１２３として生成してもよいし、現在の制約情報に新たな知識情報を追加したものを代替ファイル１２３として生成してもよい。

【0051】

続いて、更新実行部１３４が、Ｓ２０４Ａで生成された更新指示情報ＩＮＳをもとに外部データソース４０に格納されている制約情報を更新する。例えば、本実施形態では、更新実行部１３４は、更新パッチ１２２を実行することにより（Ｓ２０５）、代替ファイル１２３の内容を制約情報に反映させる（Ｓ２０６）。

【0052】

制約情報の更新が完了すると、対話部１３１は更新後の制約情報に基づいて利用者Ｕと対話することが可能となる。制約情報の更新後の対話では、直前の改善フェーズで認識された要改善箇所を改善するためのナレッジ４２やポリシー４１が制約情報として蓄積されているので、現在の対話フェーズにおいて、対話部１３１は、上記要改善箇所に関する話題について、改善前の対話フェーズよりも、より好ましい対話を行うことが期待される。このような対話フェーズと改善フェーズを繰り返すことにより、対話システム１は、利用者Ｕとの会話をより円滑に行うことができるように更新されていく。

【0053】

［第２実施例］
図４は、実施形態の対話装置１００が利用者との対話を通じて対話モデル（ＬＬＭ）の制約情報を更新する処理の流れの一例を示す図（その２）である。図４の流れは、管理者Ｍが更新指示生成部１３３に対して要改善箇所に関する知識情報を入力する構成に代えて、対話装置１００が当該知識情報を入力する点で図３の場合と異なる。すなわち、この場合、対話装置１００の制御部１３０は、図２の構成に加えて、知識情報入力部１３５を備えるものである。知識情報入力部１３５は、ＬＬＭにより構成され得る。図４において、図３と同じ処理の流れについては図３と同じ符号を付すこととし、これにより、図３と同じ処理の流れについての説明を省略する。

【0054】

知識情報入力部１３５は、Ｓ２０２において要改善箇所抽出部１３２によって抽出された要改善箇所の一覧（対話リスト）を入力し、この対話リストをもとに要改善箇所の改善に役立つ知識情報を第２外部データソース５０から取得する（Ｓ２０３Ａ）。知識情報入力部１３５は、Ｓ２０３Ａで取得した知識情報を更新指示生成部１３３に入力する（Ｓ２０３Ｂ）。ここで、第２外部データソース５０は、知識情報入力部１３５からアクセス可能なデータソースであって、要改善箇所の改善に役立つ情報を有するものであれば、どのようなデータソースであってもよい。例えば、第２外部データソース５０は、インターネットである。この場合、知識情報入力部１３５は、要改善箇所の改善に役立つ情報を例えばインターネット上の検索サイトで検索することによって知識情報を取得してもよい。

【0055】

例えば、知識情報入力部１３５は、失敗ケースの対話ログ１２１をＬＬＭに入力し、「対話が失敗した原因となる知識（またはルール）の不足を抽出してください。」といった指示をＬＬＭに入力することにより、当該失敗ケースの対話を改善するために必要な知識（またはルール）を認識することができる。また、例えば、知識情報入力部１３５は、失敗ケースの対話ログ１２１から頻出ワードを抽出し、抽出された頻出ワードを改善に必要な知識（またはルール）として認識するように構成されてもよい。この場合、頻出ワードの抽出は、ルールベースの処理によって実現されてもよいし、ＬＬＭに頻出ワードの抽出を指示することによって実現されてもよい。

【0056】

このように、図４の例では、知識情報の入力を管理者が行う必要がないので、システム運用に係るコストを削減することができる。

【0057】

［第３実施例］
図５は、実施形態の対話装置１００が利用者との対話を通じて対話モデル（ＬＬＭ）の制約情報を更新する処理の流れの一例を示す図（その３）である。図５の流れは、更新指示生成部２２１に対して管理者Ｍが直接的に知識情報を入力する構成に代えて、管理者Ｍが第２対話部１３６を介して更新指示生成部１３３に知識情報を入力する点で図３の場合と異なる。すなわち、この場合、対話装置１００の制御部１３０は、図２の構成に加えて、第２対話部１３６を備えるものである。例えば、第２対話部１３６は、ＬＬＭにより構成され得る。

【0058】

この場合、例えば、第２対話部１３６は、対話リストを入力し、この対話リストをもとに要改善箇所の改善に役立つ知識情報を、管理者Ｍとの対話によって取得する。例えば、第２対話部１３６は、対話リストにリストアップされている要改善箇所を管理者Ｍに提示し（Ｓ２０３Ｃ）、提示した要改善箇所の改善に役立つ知識情報の入力を管理者Ｍに要求する。この要求に対して、管理者Ｍは、提示された要改善箇所について、改善に役立つ知識情報を第２対話部１３６に回答（入力）する。なお、管理者Ｍが第２対話部１３６に入力する知識情報は、管理者Ｍ自身がもともと知っていた知識であってもよいし、Ｓ２０３Ｃの要求を受けて調査を行った結果知り得た知識であってもよい。

【0059】

また、例えば、第２対話部１３６は、要改善箇所の対話について、適切な回答をするために不足している知識情報（不足知識情報）を判断し、その不足知識情報の入力を管理者Ｍに要求するように構成されてもよい。また、この際、第２対話部１３６は、外部データソース４０に格納されている制約情報と対話リストの内容をもとに、不足知識情報を判断するように構成されてもよい。また、第２対話部１３６と管理者Ｍとの間のインターフェースは、テキストベースのチャット形式であってもよいし、マイクやインカム等を用いた音声ベースのインターフェースとして構成されてもよい。

【0060】

このように構成された第２対話部１３６によれば、例えば、管理者Ｍは、以下の（１）～（３）のようなやり取り（対話）を行うことにより、第２対話部１３６に対して要改善箇所の改善に役立つ知識情報を入力することができる。
（１）第２対話部１３６：「２階のトイレにおむつ交換台があるのか不明だよ。」
（２）管理者Ｍ：「２階（のトイレ）には（おむつ交換台は）ないよ。でも、１階のトイレには（おむつ交換台が）あるよ」
（３）第２対話部１３６：「ありがとう。その内容でナレッジを更新しておくね。」

【0061】

［第４実施例］
図６は、実施形態の対話装置１００が利用者との対話を通じて対話モデル（ＬＬＭ）の制約情報を更新する処理の流れの一例を示す図（その４）である。図３では、更新指示生成部１３３によって更新指示情報ＩＮＳが生成されると、更新実行部１３４が、生成された更新指示情報ＩＮＳをもとに制約情報を更新する流れであったのに対し、図６の流れは、生成された更新指示情報ＩＮＳを管理者Ｍが確認した上で更新の実行を判断した場合に、制約情報の更新が行われる点で図３の場合と異なる。

【0062】

この場合、更新実行部１３４は、Ｓ２０４Ａで更新指示情報ＩＮＳが生成されても、即座には制約情報の更新は行わず、更新指示生成部１３３からの更新実行指示を待機する。一方、管理者Ｍは、Ｓ２０４Ａで生成された更新指示情報ＩＮＳを対話装置１００から取得し、その内容の妥当性確認を行う（Ｓ２０４Ｃ）。ここで、管理者Ｍが更新指示情報ＩＮＳについて修正すべき点があると判断した場合、その修正指示を更新指示生成部１３３に入力する（Ｓ２０４Ｄ）。例えば、修正指示には、更新指示生成部１３３に、修正すべき点と、どのような観点で修正すべきかを認識させるためのフィードバック情報が含まれる。更新指示生成部１３３は、Ｓ２０４Ｄにおいて修正指示が入力されると、そのフィードバック情報をもとに修正すべき内容を認識し、更新指示情報ＩＮＳに反映する（Ｓ２０４Ｅ）。Ｓ２０４Ｃ～Ｓ２０４Ｅは、管理者Ｍが更新指示情報ＩＮＳの妥当性を確認することができるまで繰り返される。このように、フィードバック情報の入力と、更新指示情報ＩＮＳの修正とが繰り返し実行されることにより、目的の出力が得られる可能性を高めることができる。

【0063】

なお、更新指示情報ＩＮＳの修正は、すでに生成されている更新指示情報ＩＮＳを編集することによって実現されてもよい。また、例えば、更新指示生成部１３３は、フィードバック情報に基づいて更新指示情報ＩＮＳを出力する処理のパラメータを変更して更新指示情報ＩＮＳを再出力実行することにより、更新指示情報ＩＮＳを修正してもよい。なお、更新指示生成部１３３は、妥当性確認の対象となった更新指示情報ＩＮＳとフィードバック情報の内容をもとに更新指示情報ＩＮＳの再出力を行うか否かを判定してもよい。また、更新指示生成部１３３は、このような出力（更新指示情報ＩＮＳ）とフィードバック情報をもとにした追加学習が行われてもよい。これにより、更新指示生成部１３３の推論の精度を高めることができる。

【0064】

一般に、人間によるフィードバックによって学習済みモデルに追加学習を行う手法は強化学習（ＲＬＨＦ：Reinforcement Learning from Human Feedback）と呼ばれる。ＲＬＨＦでは、人間が学習済みモデルの出力に対してＯＫ（ポジティブフィードバック）やＮＧ（ネガティブフィードバック）を与え、そのフィードバック情報をもとに学習済みモデルを更新する。これにより、学習済みモデルの出力をより人間の意図や期待に沿ったものとなるように調整することができる。

【0065】

これに対して、第４実施例は、フィードバック情報を同じセッション情報（例えばプロンプト履歴やセッションメモリ、メタデータなど）として蓄積していき、蓄積されたフィードバック情報をもとに出力を逐次的に最適化していくものである。すなわち、第４実施例では、フィードバック情報をもとにＬＬＭの再学習（例えば重みパラメータを更新）を行う必要がない。そのため、第４実施例によれば、より精度の高い更新指示情報ＩＮＳを効率良く生成することができる。

【0066】

一方、Ｓ２０４Ｃにおいて、管理者Ｍが更新指示情報ＩＮＳの妥当性を確認した場合、管理者Ｍは、更新指示生成部１３３に対して、制約情報の更新実行を指示する（Ｓ２０４Ｆ）。更新指示生成部１３３は、Ｓ２０４Ｆの更新実行指示を受けると、更新実行部１３４に対して制約情報の更新実行を指示する（Ｓ２０４Ｇ）。そして、更新実行部１３４が、Ｓ２０４Ｇの更新実行指示を受けると、生成されている更新指示情報ＩＮＳをもとに、外部データソース４０に格納されている制約情報を更新する（Ｓ２０５）。

【0067】

なお、Ｓ２０４Ａで生成された更新指示情報ＩＮＳに修正すべき点がない場合、管理者Ｍは、Ｓ２０４Ｄの修正指示を入力することなく、Ｓ２０４Ｆの更新実行指示を入力してもよい。この場合、Ｓ２０４ＤおよびＳ２０４Ｅは省略されるとともに、更新実行部１３４がＳ２０４Ａで生成された更新指示情報ＩＮＳをもとに制約情報の更新を行う。

【0068】

以上説明した実施形態の対話システム１によれば、自然言語による対話システムの修正をより効率良く実施することが可能となる。

【0069】

＜変形例＞
上記の実施形態では、対話部１３１、要改善箇所抽出部１３２、更新指示生成部１３３、更新実行部１３４、知識情報入力部１３５、および第２対話部１３６が対話装置１００に備えられる場合について説明したが、これらの機能部のうち、対話部１３１以外の機能部の一部または全部は対話装置１００とは別体に構成されてもよい。例えば、対話装置１００は対話部１３１を備え、要改善箇所抽出部１３２、更新指示生成部１３３、更新実行部１３４、知識情報入力部１３５、および第２対話部１３６を備える別体の情報処理装置と通信可能に接続されてもよい。

【0070】

上記の実施形態では、対話装置１００の対話部１３１が、主として自然言語による対話インターフェースを提供する場合について説明したが、対話部１３１は、自然言語以外の情報も認識可能な、いわゆるマルチモーダルな対話インターフェースを提供するように構成されてもよい。例えば、対話部１３１は、テキスト、画像、音声などを直接またはファイル経由で入力し、それらの入力に対する回答を示す音声や画像などを出力するように構成されてもよい。

【0071】

上記の実施形態では、制約情報によって対話部１３１の出力を制御する場合について説明したが、このような制約情報による出力の制御は、対話部１３１以外の機能部に適用されてもよい。例えば、対話部１３１と同様にＬＬＭを用いて構成され得る要改善箇所抽出部１３２、更新指示生成部１３３、知識情報入力部１３５、または第２対話部１３６について、それぞれに専用の制約情報を適用して出力を制御するようにしてもよい。このように、専用の制約情報を適用して出力を制御する（例えば出力フォーマットやＮＧルール、ファイル拡張子などを規定する）ことで、無駄な情報が入出力されるのを抑制し、目的の出力を得やすくすることができるので、改善フェーズの性能を向上させることができる。

【0072】

［更新指示生成部］
（１）知識情報の前処理
更新指示生成部１３３は、更新指示情報ＩＮＳの精度を高めるために、ＬＬＭに対して前処理の実行を指示するように構成されてもよい。例えば、更新指示生成部１３３は、知識情報として入力されたデータについてフォーマットの整形を行うことをＬＬＭに指示してもよい。また、例えば、更新指示生成部１３３は、テキスト形式の知識情報が入力された場合、テキストデータからキーとなる情報を抽出することを指示してもよい。例えば、更新指示生成部１３３は、入力されたテキストデータについて「追加すべき知識についてキー（Key）とバリュー（Value）を整理して抽出してください。」という指示をＬＬＭに対して入力してもよい。これにより、例えば、「トイレは本館２階の南端にあります。」という知識情報が入力された場合、「Info_Type=Location, Name=“トイレ”, value=“本館２階の南端”」といった形に知識情報を変換することができる。このような前処理により、ＬＬＭが扱いやすい態様に知識情報を予め変換しておくことで、ＬＬＭによる推論の精度を向上させることができる。

【0073】

（２）フィードバック情報の入力支援機能
第４実施例では、更新指示生成部１３３が生成した更新指示情報ＩＮＳに対して管理者Ｍがフィードバック情報を入力する構成について説明したが、更新指示情報ＩＮＳの妥当性判断には管理者Ｍに或る程度の専門性が必要になるケースも想定される。そこで、管理者Ｍが更新指示情報ＩＮＳの妥当性判断をより容易に行えるようにするため、対話装置１００は、管理者Ｍによりフィードバック情報が入力された場合、それによってどのように対話の内容が変化するかの一例を管理者Ｍに提示するように構成されてもよい。

【0074】

この場合、例えば、更新指示生成部１３３は、更新前の制約情報と、入力されたフィードバック情報をもとに修正された更新指示情報ＩＮＳによって更新された後の制約情報との両方を保存しておき、両者で同じ対話を実行した場合の出力を、それぞれ比較可能な態様で管理者Ｍに提示するように構成されてもよい。例えば、同じ対話は、対話ログ１２１から抽出された失敗パターンであってよい。このように構成された更新指示生成部１３３によれば、更新前後のそれぞれの制約情報による対話の内容が管理者Ｍに提示されるので、管理者Ｍは、更新指示情報ＩＮＳについての専門性を有しない場合であっても、更新前後での対話の内容の変化からフィードバック情報の妥当性を確認することが可能となる。

【0075】

［要改善箇所抽出部］
（１）対話に失敗した原因の分類
要改善箇所抽出部１３２は、上記の機能に加えて、失敗ケースの原因を分類する機能を有するように構成されてもよい。例えば、要改善箇所抽出部１３２は、失敗ケースの対話ログ１２１をＬＬＭに入力し、当該失敗ケースの対話が失敗した原因の分類をＬＬＭに指示するように構成されてもよい。また、例えば、要改善箇所抽出部１３２は、機械学習により、失敗ケースの対話ログ１２１を入力として、当該失敗ケースの対話が失敗した原因の分類結果を出力するように訓練された学習済みモデルに、処理対象とする失敗ケースの対話ログ１２１を入力することにより、当該失敗ケースの対話が失敗した原因の分類結果（原因種別）を取得するように構成されてもよい。

【0076】

このように構成された要改善箇所抽出部１３２によれば、失敗ケースの対話を改善する際に修正すべき制約情報の種類を認識することができるので、より正確に制約情報を修正することが可能となり、要改善箇所の改善精度を向上させることができる。例えば、原因種別が回答方針の誤りである場合には、修正対象がポリシー４１であることを更新指示生成部１３３に通知することで改善精度の向上が期待できる。また、例えば、原因種別が知識不足や推論の誤りである場合には、修正対象がナレッジ４２であることを更新指示生成部１３３に通知することで改善精度の向上が期待できる。また、例えば、原因種別が通信エラーや音声認識の誤りである場合には、制約情報の修正が不要であることを更新指示生成部１３３に通知することで、不要な修正によって対話部１３１の対話の精度が低下することを抑制することができる。

【0077】

（２）評価レポートの出力
要改善箇所抽出部１３２は、上記の機能に加えて、抽出した失敗ケースに関する情報をもとに、対話部１３１の性能に関する評価レポートを生成する機能を有するように構成されてもよい。例えば、評価レポートは、抽出した失敗ケースの個数、抽出した失敗ケースが対話ケース全体に占める割合、失敗ケースの具体例、原因種別などを一覧表示するものであってよい。要改善箇所抽出部１３２は、ルールベースまたはＬＬＭによって評価レポートのフォーマットを整形するように構成されてもよいし、評価レポートに含める情報をＬＬＭによって要約するように構成されてもよい。このように構成された要改善箇所抽出部１３２によれば、対話システム１や対話モデル（ＬＬＭ）の性能測定を行ったり、測定結果をもとに顧客満足度の妥当性を評価したりすることが可能となる。

【0078】

［対話部］
対話部１３１は、言語ベースの対話情報（音声やチャットなど）の入出力に加えて、対話情報を補足する視覚情報を出力するように構成されてもよい。この場合、対話装置１００は、視覚情報を出力するための表示装置を備えていてもよい。例えば、視覚情報は、地図の態様で表示されてもよい。例えば、利用者Ｕが「トイレはどこ？」という質問を対話部１３１に入力した場合、対話部１３１は、「こちらをご覧ください」という言語ベースの回答とともに、現在地から最寄りのトイレまでの経路を示す地図を表示部に表示させてもよい。このように、対話部１３１が対話情報とともに視覚情報を提供することにより、対話装置１００は、利用者Ｕに対する情報伝達の精度を高めることができる。

【0079】

上記実施形態では、利用者Ｕが利用者端末装置２００に音声を入力し、対話装置１００がその音声データを利用者端末装置２００から取得する態様について説明したが、対話部１３１が音声入力用のマイクを有してもよく、その場合、利用者端末装置２００は省略されてもよい。例えば、対話部１３１は、人型や動物型などの身体性を備えたロボットとして構成されてもよい。この場合、ロボットは、対話装置１００の本体側と通信するための通信インターフェースのほか、マイクやスピーカ、タッチパネル等の入出力装置を備えてもよい。また、この場合、ロボットは、そのような入出力装置のほか、身体の動作によって情報を伝達するように構成されてもよい。例えば、ロボットは、利用者Ｕとの対話において目的の場所を聞かれた場合に、腕を動かして目的の場所がある方向を指し示すような動作を行うように構成されてもよい。このような動作も利用者Ｕの視覚によって認知されるという意味では視覚情報の一種ということができる。

【0080】

なお、視覚情報の補足により対話情報の態様が変化し、対話情報のログのみでは、対話の成否の判断が難しくなるケースが想定される。例えば、上記の例で「こちらをご覧ください」という回答がなされた場合、テキストベースでは、そのときの視覚情報がどのようなものであったかが分からないので、対話が成功したのか否かの判断が困難である。そこで、対話情報に視覚情報を補足する場合、対話部１３１は、実施された対話の内容とともに、その対話が行われたときに表示された視覚情報を対応づけて対話ログ１２１に記録するように構成されてもよい。その際、対話部１３１は、視覚情報の画像そのものを対話ログ１２１に記録してもよいし、視覚情報の内容を要約したテキスト情報を対話ログ１２１に記録してもよいし、視覚情報を特徴量に変換して対話ログ１２１に記録してもよい。これにより、後段の要改善箇所抽出部１３２は、対話情報と視覚情報の両方の情報をもとに要改善箇所を抽出することが可能となる。

【0081】

［対話ログの拡張］
（１）画像データによる拡張
対話ログ１２１の内容から、利用者Ｕが対話装置１００に対して「ありがとう」と発言したことがテキストベースで確認された場合であっても、実際には対話装置１００との対話に必ずしも満足していない場合も想定される。このような場合、対話システム１は、対話時の利用者Ｕの表情を撮像するためのカメラを備え、当該カメラによって撮像された画像のデータを対話ログ１２１とともに要改善箇所抽出部１３２に入力するように構成されてもよい。この場合、要改善箇所抽出部１３２は、入力された画像から利用者Ｕの表情を読み取り、読み取った表情と対話ログ１２１の内容をもとに対話の失敗ケースを抽出するように構成されてもよい。画像から人の表情を読み取る方法は、既存の任意の技術を用いて実現されてよい。この場合、要改善箇所抽出部１３２は、画像データから利用者Ｕの表情を検出する処理を実行し、その検出結果を画像データそのものに代えてＬＬＭに入力するように構成されてもよい。また、ＬＬＭがマルチモーダルに対応している場合、要改善箇所抽出部１３２は、画像データそのものをＬＬＭに入力してもよい。

【0082】

（２）音声データによる拡張
また、対話システム１は、利用者Ｕが発した音声を入力するためのマイクを備え、当該マイクによって録音された音声のデータを対話ログ１２１とともに要改善箇所抽出部１３２に入力するように構成されてもよい。この場合、要改善箇所抽出部１３２は、入力された音声から利用者Ｕの対話装置１００に対する満足度を読み取り、読み取った満足度と対話ログ１２１の内容をもとに対話の失敗ケースを抽出するように構成されてもよい。例えば、要改善箇所抽出部１３２は、音声に関する特徴のうち、声色や話し方、抑揚、速度など、利用者Ｕの思考や感情によって影響され得る特徴に関する特徴量を音声データから抽出し、抽出した特徴量またはそれらに基づいて取得される指標値を閾値と比較したり分類したりすることにより、対話装置１００との対話に対する利用者Ｕの評価（満足または不満足など）を推定することができる。この場合、要改善箇所抽出部１３２は、推定された評価結果を音声データそのものに代えてＬＬＭに入力するように構成されてもよい。また、ＬＬＭがマルチモーダルに対応している場合、要改善箇所抽出部１３２は、音声データそのものをＬＬＭに入力してもよい。

【0083】

なお、利用者端末装置２００が個々の利用者によって所持されるものである場合、上述のカメラやマイクは利用者端末装置２００に搭載されたものが使用されてもよい。また、利用者端末装置２００が不特定多数の利用者によって共用されるもの（例えば案内用端末など）である場合、利用者端末装置２００の周辺を撮像するカメラや、利用者端末装置２００の周辺の音声を入力するマイクが別途備え付けらえてもよい。このような構成によれば、テキストベースの対話ログ１２１を、対話時の利用者Ｕの音声や画像等の非言語情報によって拡張することができるので、要改善箇所抽出部１３２は、要改善箇所の抽出において、失敗ケースか否かをより適切に判断することが可能となる。

【0084】

（３）音環境情報による拡張
雑音が多いなど対話空間の音環境が悪い状況では、利用者は音声を聞き取りにくく、対話システム１も利用者の音声を認識する精度が低くなり、これが対話失敗の原因となるケースがある。そこで、対話装置１００は、対話ログ１２１とともに、対話空間における対話時の音環境の状況を示す時系列情報（音環境情報）を要改善箇所抽出部１３２に入力するように構成されてもよい。この場合、対話システム１は、対話空間の音環境をセンシングするためのマイク（以下「環境マイク」という。）を、利用者との対話用に使用するマイクとは別に備えてもよい。この場合、対話システム１は、環境マイクから入力した音声データをもとに音環境情報を生成して保存しておく。また、この場合、要改善箇所抽出部１３２は、音環境情報をもとに対話時の音環境の状況を認識し、その認識結果と対話ログ１２１の内容をもとに対話の失敗ケースを抽出するように構成されてもよい。このような構成によれば、テキストベースの対話ログ１２１を、対話空間の音環境情報によって拡張することができるので、要改善箇所抽出部１３２は、要改善箇所の抽出において、失敗ケースか否かをより適切に判断することが可能となる。

【0085】

（４）動作制御情報による拡張
上述のとおり、対話部１３１は、身体的動作を行うことができるロボットなどの態様で構成されてもよい。この場合、ロボットが身体的動作によって提示した視覚情報も、上述の画像表示によって提示され得る視覚情報とともに、対話ログ１２１を拡張する情報として利用することができる。例えば、ロボットが利用者Ｕから尋ねられた場所を腕の向きによって指し示す動作を行った場合、対話装置１００は、そのような動作の制御情報を対話ログ１２１とともに保存しておく。この場合、要改善箇所抽出部１３２は、当該制御情報をもとに対話時のロボットの動作を認識し、その認識結果と対話ログ１２１の内容をもとに対話の失敗ケースを抽出するように構成されてもよい。このような構成によれば、テキストベースの対話ログ１２１を、対話部１３１が行った動作（出力）に関する情報によって拡張することができるので、要改善箇所抽出部１３２は、要改善箇所の抽出において、失敗ケースか否かをより適切に判断することが可能となる。

【0086】

以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。

【産業上の利用可能性】

【0087】

本発明は、制約情報に基づいて人との対話インターフェースを提供するシステムに適用可能である。

【符号の説明】

【0088】

１ 対話システム
４０ 外部データソース
４１ ポリシー
４２ ナレッジ
５０ 第２外部データソース
１００ 対話装置
１１０ 通信部
１２０ 記憶部
１２１ 対話ログ
１２２ 更新パッチ
１２３ 代替ファイル
１３０ 制御部
１３１ 対話部
１３２ 要改善箇所抽出部
１３３ 更新指示生成部
１３４ 更新実行部
１３５ 知識情報入力部
１３６ 第２対話部
２００ 利用者端末装置
２２１ 更新指示生成部
３００ 管理者端末装置
３００ 利用者端末装置
４００ 外部データソース

【要約】

【課題】利用者から提供される情報をもとに回答を生成する対話システムの修正をより効率良く実施することを可能にする技術を提供すること。
【解決手段】利用者から提供される情報をもとに回答を生成する対話インターフェースを提供する対話装置が前記利用者との対話において生成する回答に影響を与える制約情報を更新する情報処理装置であって、前記対話の記録をもとに改善すべき要改善箇所を抽出する抽出部と、前記要改善箇所の改善に役立つ知識情報の入力を受け付け、前記知識情報に基づいて前記制約情報を更新するための更新指示情報を生成する生成部と、前記更新指示情報に基づいて前記制約情報を更新する更新部と、を備える情報処理装置。
【選択図】図２

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】