特許 7444265 訓練データ生成プログラム、訓練データ生成方法および訓練データ生成装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-02-27

(45)【発行日】2024-03-06

(54)【発明の名称】訓練データ生成プログラム、訓練データ生成方法および訓練データ生成装置

(51)【国際特許分類】

   G06N 20/00 20190101AFI20240228BHJP

【ＦＩ】

G06N20/00 130

【請求項の数】 9

(21)【出願番号】P 2022543256

(86)(22)【出願日】2020-08-21

(86)【国際出願番号】 JP2020031713

(87)【国際公開番号】W WO2022038785

(87)【国際公開日】2022-02-24

【審査請求日】2022-11-08

(73)【特許権者】

【識別番号】000005223

【氏名又は名称】富士通株式会社

(74)【代理人】

【識別番号】110002147

【氏名又は名称】弁理士法人酒井国際特許事務所

(72)【発明者】

【氏名】鄭 育昌

【審査官】牛丸 太希

(56)【参考文献】

【文献】特許第６５１３３１４（ＪＰ，Ｂ１）

【文献】@yolo_kiyoshi，コロナ禍による概念ドリフト(Concept Drift)が機械学習タスクに与える影響，キヨシの命題 [online]，2020年05月28日，[検索日 2020.10.23], インターネット：<URL：https://yolo-kiyoshi.com/2020/05/28/post-1850/>

【文献】Jan Lukes et al.，Sentiment analysis under temporal shift，ACL Anthology [オンライン]，2018年，頁65-71，[検索日 2024.01.12] インターネット＜URL: https://aclanthology.org/W18-6210＞

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ３／００－９９／００

(57)【特許請求の範囲】

【請求項1】

第１の複数の訓練データを機械学習させた第１のモデルに、前記第１の複数の訓練データを入力することによって、前記第１の複数の訓練データそれぞれに対応する第１の値を取得し、
前記第１の複数の訓練データと第２の複数の訓練データとを機械学習させた第２のモデルに、前記第１の複数の訓練データと前記第２の複数の訓練データとを入力することによって、前記第１の複数の訓練データと前記第２の複数の訓練データそれぞれに対応する第２の値を取得し、
前記第１の値と前記第２の値とを比較し、
前記第２のモデルに入力された訓練データのうち、前記比較において、前記第２の値が前記第１の値より小さい訓練データを除外した第３の複数の訓練データを生成する、
処理をコンピュータに実行させることを特徴とする訓練データ生成プログラム。

【請求項2】

前記比較する処理は、前記第１の値の平均に対する第１の偏差と、前記第２の値の平均に対する第２の偏差とを比較する処理を含み、
前記第２のモデルに入力された訓練データのうち、前記第１の偏差と前記第２の偏差との差が特定の条件を満たす訓練データを除外した前記第３の複数の訓練データを生成する、
ことを特徴とする請求項１に記載の訓練データ生成プログラム。

【請求項3】

前記第１の複数の訓練データに対応する各事象と、前記第２の複数の訓練データに対応する各事象との統計情報を取得する処理をさらに前記コンピュータに実行させ、
前記第２のモデルに入力された訓練データのうち、取得した前記統計情報が特定の条件を満たす訓練データを除外した前記第３の複数の訓練データを生成する、
ことを特徴とする請求項１に記載の訓練データ生成プログラム。

【請求項4】

前記第２のモデルに入力された訓練データ同士の類似度を計算する処理をさらに前記コンピュータに実行させ、
前記第２のモデルに入力された訓練データのうち、計算された前記類似度が特定の条件を満たす訓練データを除外した前記第３の複数の訓練データを生成する、
ことを特徴とする請求項１に記載の訓練データ生成プログラム。

【請求項5】

生成した前記第３の複数の訓練データを機械学習させた第３のモデルに、前記第３の複数の訓練データを入力することによって、第３の値を取得し、
前記第３の値と前記第２の値とを比較し、
前記比較の結果に応じて、前記第３の複数の訓練データが訓練データとして適性であるか否かを判定する、
処理をさらに前記コンピュータに実行させることを特徴とする請求項１に記載の訓練データ生成プログラム。

【請求項6】

生成した前記第３の複数の訓練データを前記第２の複数の訓練データとしたうえで、前記第２の値を取得する処理と、前記比較する処理と、前記生成する処理とを再実行させる、
処理をさらに前記コンピュータに実行させることを特徴とする請求項１に記載の訓練データ生成プログラム。

【請求項7】

生成した前記第３の複数の訓練データに基づいた機械学習により生成したモデルをシステムで運用するモデルに適用する、
処理をさらに前記コンピュータに実行させることを特徴とする請求項１に記載の訓練データ生成プログラム。

【請求項8】

第１の複数の訓練データを機械学習させた第１のモデルに、前記第１の複数の訓練データを入力することによって、前記第１の複数の訓練データそれぞれに対応する第１の値を取得し、
前記第１の複数の訓練データと第２の複数の訓練データとを機械学習させた第２のモデルに、前記第１の複数の訓練データと前記第２の複数の訓練データとを入力することによって、前記第１の複数の訓練データと前記第２の複数の訓練データそれぞれに対応する第２の値を取得し、
前記第１の値と前記第２の値とを比較し、
前記第２のモデルに入力された訓練データのうち、前記比較において、前記第２の値が前記第１の値より小さい訓練データを除外した第３の複数の訓練データを生成する、
処理をコンピュータに実行させることを特徴とする訓練データ生成方法。

【請求項9】

第１の複数の訓練データを機械学習させた第１のモデルに、前記第１の複数の訓練データを入力することによって、前記第１の複数の訓練データそれぞれに対応する第１の値を取得し、
前記第１の複数の訓練データと第２の複数の訓練データとを機械学習させた第２のモデルに、前記第１の複数の訓練データと前記第２の複数の訓練データとを入力することによって、前記第１の複数の訓練データと前記第２の複数の訓練データそれぞれに対応する第２の値を取得し、
前記第１の値と前記第２の値とを比較し、
前記第２のモデルに入力された訓練データのうち、前記比較において、前記第２の値が前記第１の値より小さい訓練データを除外した第３の複数の訓練データを生成する、
処理をコンピュータに実行させることを特徴とする訓練データ生成装置。

【発明の詳細な説明】

【技術分野】

【0001】

本発明の実施形態は、訓練データ生成プログラム、訓練データ生成方法および訓練データ生成装置に関する。

【背景技術】

【0002】

従来、自動翻訳システムなどにおける自然言語処理では、離散系列（元言語）から別の離散系列（翻訳先言語）への変換処理に機械学習技術による機械学習モデルが活用されている。自然言語処理では、言葉の変化（ｃｏｎｃｅｐｔ ｄｒｉｆｔ）により、新語や既存語の新しい意味が増加し、入力データの傾向、入力に対する出力の傾向が変化する。したがって、出力の品質を維持するために機械学習モデルの再訓練が行われる。

【0003】

この再訓練において、再訓練用の訓練データに古い訓練データが含まれる場合、再訓練効果が低下する。例えば、同じ言葉の意味（訳語）が変化した場合に、再訓練データに古い意味の事例と新しい意味の事例とが併存した状態で再訓練を行うと、用語の翻訳をうまく訓練することが困難となる。したがって、再訓練用の訓練データからは、再訓練の効果が低下する訓練事例を取り除くことが求められる。

【0004】

この訓練事例を取り除く従来技術としては、対応関係に誤りを含んでいる可能性のある離散系列の入力及び出力からなる訓練用ペアについて、順方向学習済みモデルを用いて品質スコアを計算し、自然言語処理等の機械学習に用いる訓練用データ中の誤ったデータを取り除くことができる学習品質推定装置が知られている。

【先行技術文献】

【特許文献】

【0005】

【文献】特開２０１９－１４９０３０号公報

【発明の概要】

【発明が解決しようとする課題】

【0006】

しかしながら、上記の従来技術では、再訓練データに含まれる旧データの中から不適切な訓練事例を検出することが困難な場合があるという問題がある。例えば、再訓練において言葉の変化などに伴う新たな追加データが少ない場合、一機械学習モデルの品質スコアでは不適切な訓練事例を見極めることが困難である。このため、再訓練用の訓練データに不適切な訓練事例が混入することがあり、訓練効果の向上が見込めない場合がある。

【0007】

１つの側面では、機械学習の効果の向上を支援できる訓練データ生成プログラム、訓練データ生成方法および訓練データ生成装置を提供することを目的とする。

【課題を解決するための手段】

【0008】

１つの案では、訓練データ生成プログラムは、第１の値を取得する処理と、第２の値を取得する処理と、比較する処理と、生成する処理とをコンピュータに実行させる。第１の値を取得する処理は、第１の複数の訓練データに基づいた機械学習により生成された第１のモデルに、第１の複数の訓練データに含まれる第１のデータを入力することによって、第１の値を取得する。第２の値を取得する処理は、第１の複数の訓練データと第２の複数の訓練データとに基づいた機械学習により生成された第２のモデルに、第１のデータと、第２の複数の訓練データに含まれる第２のデータとを入力することによって、第２の値を取得する。比較する処理は、第１の値と第２の値とを比較する。生成する処理は、比較の結果に応じて、第１の複数の訓練データと第２の複数の訓練データとに基づいて、第１のデータの少なくとも一部を含まない第３の複数の訓練データを生成する。

【発明の効果】

【0009】

機械学習の効果の向上を支援できる。

【図面の簡単な説明】

【0010】

【図1】図１は、実施形態の概要を説明する説明図である。

【図2】図２は、第１の実施形態にかかる情報処理装置の機能構成例を示すブロック図である。

【図3】図３は、第１の実施形態にかかる情報処理装置の動作例を示すフローチャートである。

【図4】図４は、第１の実施形態にかかる情報処理装置の処理の概要を説明する説明図である。

【図5】図５は、スコア計算の一例を説明する説明図である。

【図6A】図６Ａは、第１の実施形態にかかる情報処理装置の処理の概要を説明する説明図である。

【図6B】図６Ｂは、第１の実施形態にかかる情報処理装置の処理の概要を説明する説明図である。

【図7】図７は、第２の実施形態にかかる情報処理装置の動作例を示すフローチャートである。

【図8】図８は、第２の実施形態にかかる情報処理装置の処理の概要を説明する説明図である。

【図9】図９は、第３の実施形態にかかる情報処理装置の機能構成例を示すブロック図である。

【図10】図１０は、第３の実施形態にかかる情報処理装置の動作例を示すフローチャートである。

【図11】図１１は、第２訓練データの一例を説明する説明図である。

【図12】図１２は、第４の実施形態にかかる情報処理装置の機能構成例を示すブロック図である。

【図13】図１３は、第４の実施形態にかかる情報処理装置の動作例を示すフローチャートである。

【図14】図１４は、第５の実施形態にかかる情報処理装置の動作例を示すフローチャートである。

【図15】図１５は、第５の実施形態にかかる情報処理装置の処理の概要を説明する説明図である。

【図16】図１６は、第６の実施形態にかかる情報処理装置の機能構成例を示すブロック図である。

【図17】図１７は、第６の実施形態にかかる情報処理装置の動作例を示すフローチャートである。

【図18】図１８は、第７の実施形態にかかる情報処理装置の機能構成例を示すブロック図である。

【図19】図１９は、第７の実施形態にかかる情報処理装置の動作例を示すフローチャートである。

【図20】図２０は、コンピュータ構成の一例を示すブロック図である。

【発明を実施するための形態】

【0011】

以下、図面を参照して、実施形態にかかる訓練データ生成プログラム、訓練データ生成方法および訓練データ生成装置を説明する。実施形態において同一の機能を有する構成には同一の符号を付し、重複する説明は省略する。なお、以下の実施形態で説明する訓練データ生成プログラム、訓練データ生成方法および訓練データ生成装置は、一例を示すに過ぎず、実施形態を限定するものではない。また、以下の各実施形態は、矛盾しない範囲内で適宜組みあわせてもよい。

【0012】

（概要）
図１は、実施形態の概要を説明する説明図である。図１に示すように、本実施形態は、ｃｏｎｃｅｐｔ ｄｒｉｆｔなどに対応し、出力の品質を維持するために、機械学習によるモデルの再訓練用データを生成するものであり、再訓練の効果が低下する事例を取り除き、最終結果として再訓練用の訓練データを生成する。

【0013】

なお、本実施形態では、再訓練を行うモデルとして、離散系列（元言語）から別の離散系列（翻訳先言語）への変換処理に用いるモデルを例示する。しかしながら、本実施形態を適用するモデルは、変化に対応して再訓練を行うモデルであればよく、このような自然言語処理に用いるモデルに限定しない。例えば、顧客の特徴量を入力とし、顧客に対する推薦商品（商品カテゴリ）を出力するモデルを用いるレコメンドシステムにおけるモデルの再訓練に適用してもよい。

【0014】

図１に示すように、第１訓練データＤ１は、変化前の旧事例に関する訓練データである。第２訓練データＤ２は、ｃｏｎｃｅｐｔ ｄｒｉｆｔなどによる変化後の新事例（言葉の意味や言い方の変化、新語（新製品名などの未登録語））に関する訓練データである。各事例には、モデルに対する入力と、正解とする出力とが含まれる。

【0015】

例えば、第１訓練データＤ１には、入力が「Ｉ ｌｉｋｅ ＡＡＡＡ（果物名）！」および出力が「ＡＡＡＡは私の大好物です。」の事例００１と、入力が「Ｉ ｌｏｖｅ ＢＢＢＢ（社名）！」および出力が「私はＢＢＢＢ信者です。」の事例００２とが含まれる。また、第２訓練データＤ２には、入力が「Ｉ ｌｉｋｅ ＡＡＡＡ（社名）！」および出力が「私はＡＡＡＡ社の製品に目がない」の事例００３と、入力が「Ｉ ｌｏｖｅ ＣＣＣＣ（新製品名）！」および出力が「ＣＣＣＣ大好き！」の事例００４とが含まれる。

【0016】

ここで、第２訓練データＤ２において、事例００３は、事例００１に対する意味の変化（「ＡＡＡＡ（果実）→「ＡＡＡＡ（社名）」」）を示す事例である。すなわち、入力はともに「Ｉ ｌｉｋｅ ＡＡＡＡ」であるが、出力は事例００１が「ＡＡＡＡは私の大好物です。」に対し、事例００３が「私はＡＡＡＡ社の製品に目がない」となっている。また、事例００４は、「ＣＣＣＣ（新製品名）」という新たに登場した言葉（未登録語）を示す事例である。

【0017】

再訓練の際に、上記の新旧事例（事例００１～事例００４）で訓練を行う場合、事例００２については、旧事例のみであるので新旧事例が混在しても訓練できる。同様に、事例００４について、新事例のみであるので新旧事例が混在しても訓練できる。これに対し、事例００１と、事例００３とは、入力が同一（若しくはほぼ同じ）に対して出力が異なることから、混在した場合に互いに矛盾した事例となる。したがって、事例００１と、事例００３とが混在する場合には、両方ともに訓練することはできない。すなわち、事例００１と、事例００３とが混在する場合は、再訓練効果が低下する。

【0018】

そこで、本実施形態では、第１訓練データＤ１で機械学習して第１モデルＭ１を生成する（Ｓ１）。次いで、本実施形態では、生成した第１モデルＭ１に第１訓練データＤ１を入力し、第１訓練データＤ１における事例００１、事例００２の生成スコア（第１モデルＭ１の出力に関するスコア）を計算する（Ｓ２）。

【0019】

次いで、本実施形態では、第１訓練データＤ１と、第２訓練データＤ２と機械学習して第２モデルＭ２を生成する（Ｓ３）。次いで、本実施形態では、生成した第２モデルＭ２に第１訓練データＤ１と、第２訓練データＤ２とを入力し、事例００１～事例００４の生成スコア（第２モデルＭ２の出力に関するスコア）を計算する（Ｓ４）。

【0020】

新旧事例で訓練した第２モデルＭ２を用いてその新旧事例の生成スコアを計算する場合、新旧事例の中に矛盾した事例が存在すると、その矛盾した事例の出力に関する生成スコアが低くなる。また、矛盾にならない事例の出力に関する生成スコアは、高い水準を維持できる。

【0021】

そこで、本実施形態では、Ｓ２の生成スコアと、Ｓ４の生成スコアとを比較し、第１訓練データＤ１に第２訓練データＤ２を加えた訓練データをもとに、第１訓練データＤ１の旧事例の中の矛盾と判定した事例を含まない訓練データを生成する。具体的には、本実施形態では、Ｓ４での事例００２、００４の生成スコアが高く、事例００１の生成スコアがＳ２より低いことで、旧事例の中の事例００１が矛盾と判定する（Ｓ５）。これにより、第１訓練データＤ１に第２訓練データＤ２を加えた訓練データをもとに、旧事例の中の事例００１を含まない訓練データを生成する。

【0022】

次いで、本実施形態では、削除した事例００１が出力の品質を低下させる事例（ノイズ）であることを確認するため、第１訓練データＤ１に第２訓練データＤ２を加えた訓練データから事例００１を削除して機械学習を行い、第３モデルＭ３を生成する（Ｓ６）。次いで、本実施形態では、生成した第３モデルＭ３に事例００２、００３、００４を入力し、事例００２、００３、００４の生成スコア（第３モデルＭ３の出力に関するスコア）を計算する（Ｓ７）。ここで、矛盾にならない事例の生成スコアは、ほぼ変わらず、変動があったとしても微減（訓練データ規模が減少の影響）であると推測できる。

【0023】

次いで、本実施形態では、Ｓ７での事例００３の生成スコアがＳ４での生成スコアより高い、かつ、Ｓ７での事例００２、００４の生成スコアがほぼ変わらない場合、削除した事例００１が出力の品質を低下させる事例（ノイズ）であると確認する。この確認により、本実施形態では、事例００１が削除すべきと判定する（Ｓ８）。

【0024】

よって、本実施形態では、第１訓練データＤ１に第２訓練データＤ２を加えた訓練データにおいて事例００１を削除した再訓練データが確定（事例００２、００３、００４）する。このように、本実施形態では、第１モデルＭ１、第２モデルＭ２の生成スコアを用いることで、出力の品質を低下させる事例（ノイズ）を精度よく取り除き、再訓練効果の向上が見込める訓練データを生成することができる。また、本実施形態では、第３モデルＭ３の生成スコアを用いることで、取り除く事例が出力の品質を低下させる事例であることを見極めた上で再訓練用の訓練データを生成することができる。

【0025】

（第１の実施形態）
図２は、第１の実施形態にかかる情報処理装置の機能構成例を示すブロック図である。図２に示すように、情報処理装置１は、処理制御部１０、モデル学習部１１、スコア計算部１２、スコア評価計算部１３、スコア一時保存部１４および訓練データ生成部１５を有する。この情報処理装置１には、例えばＰＣ（Personal Computer）などを適用できる。

【0026】

処理制御部１０は、再訓練データを生成する処理の実行を制御する処理部である。

【0027】

モデル学習部１１は、公知の機械学習に関する処理を行うことでモデルを生成する処理部である。具体的には、モデル学習部１１は、入力と出力がペアとなる訓練データの入力系列から出力系列を生成できるように、モデルの機械学習（パラメータの最適化）を行う。

【0028】

例えば、モデル学習部１１は、第１訓練データＤ１を用いた訓練を行うことで第１モデルＭ１を生成する。また、モデル学習部１１は、第１訓練データＤ１を含む、第２訓練データＤ２を用いた訓練を行うことで第２モデルＭ２を生成する。また、モデル学習部１１は、第３訓練データＤ３を用いた訓練を行うことで第３モデルＭ３を生成する。

【0029】

ここで、第１訓練データＤ１は、自然言語の離散系列の入力（例えば元言語）と出力（例えば翻訳先言語）がペアとなり、自動翻訳システムが運用している翻訳に関するモデルを生成するための訓練用データである。第２訓練データＤ２は、第１訓練データＤ１に加えて、ｃｏｎｃｅｐｔ ｄｒｉｆｔなどによる変化後の新事例を含む訓練用データである。第３訓練データＤ３は、第１訓練データＤ１と、第２訓練データＤ２とをもとに、旧事例の中の矛盾と判定した事例を含まない訓練データとして新たに作成した訓練用データである。

【0030】

スコア計算部１２は、機械学習により生成したモデルを訓練データの各入力に適用し、対応する各出力を生成する際に、その出力に関するスコアを計算する処理部である。このスコアの計算には、例えば特開２０１９－１４９０３０号公報などの公知の計算手法を用いる。スコア計算部１２は、計算したスコアを、訓練データ（事例）ごとに識別情報（例えばＩＤ）を付与した上でスコア一時保存部１４に保存する。

【0031】

例えば、スコア計算部１２は、第１モデルＭ１に第１訓練データＤ１を入力し、入力した各事例の生成スコアを計算してスコア一時保存部１４に保存する。また、スコア計算部１２は、第２モデルＭ２に第２訓練データＤ２を入力し、入力した各事例の生成スコアを計算してスコア一時保存部１４に保存する。また、スコア計算部１２は、第３モデルＭ３に第３訓練データＤ３を入力し、入力した各事例の生成スコアを計算してスコア一時保存部１４に保存する。

【0032】

スコア評価計算部１３は、スコア一時保存部１４に保存された生成スコアを比較して生成スコアの変化を評価し、訓練データから削除する事例を検出する処理部である。例えば、スコア評価計算部１３は、第２モデルＭ２の生成スコアと第１モデルＭ１の生成スコアとを比較し、旧事例の中で矛盾する事例を検出する。

【0033】

スコア一時保存部１４は、スコア計算部１２が計算した生成スコアを一時的にメモリ等に保存する処理部である。具体的には、スコア一時保存部１４は、生成もとのモデルと、訓練データ（事例）とを対応付けて生成スコアを保存する。

【0034】

訓練データ生成部１５は、第１訓練データＤ１を含む第２訓練データＤ２の訓練データにおいて、スコア評価計算部１３の検出結果をもとに、削除する事例として指定された事例を削除して第３訓練データＤ３を生成する処理部である。また、訓練データ生成部１５は、第３モデルＭ３の生成スコアを用いることで、削除した事例がモデルの出力の品質させる事例であることを確認した上で、最終結果として再訓練用の訓練データ（修正後第１訓練データＤ１１、修正後第２訓練データＤ２１）を生成する。

【0035】

修正後第２訓練データＤ２１は、確認後の第３訓練データＤ３を処理結果として出力したものである。修正後第１訓練データＤ１１は、第３訓練データＤ３から第１訓練データＤ１に含まれる訓練データのみを抽出したものである。

【0036】

図３は、第１の実施形態にかかる情報処理装置１の動作例を示すフローチャートである。図３に示すように、処理が開始されると、処理制御部１０は、第１訓練データＤ１、第２訓練データＤ２の入力を受け付ける（Ｓ１０）。

【0037】

次いで、モデル学習部１１は、第１訓練データＤ１と、第２訓練データＤ２とでそれぞれ訓練を行い、第１モデルＭ１と、第２モデルＭ２とを生成する（Ｓ１１）。具体的には、モデル学習部１１は、第１訓練データＤ１を用いた訓練を行うことで第１モデルＭ１を生成する。また、モデル学習部１１は、第２訓練データＤ２を用いた訓練を行うことで第２モデルＭ２を生成する。

【0038】

次いで、スコア計算部１２は、第１モデルＭ１を第１訓練データＤ１へ適用し、第１訓練データＤ１に含まれる各事例の出力の生成スコアを計算し、スコア一時保存部１４へ保存する（Ｓ１２）。

【0039】

図４は、第１の実施形態にかかる情報処理装置の処理の概要を説明する説明図である。図４に示すように、スコア計算部１２は、Ｓ１２において、第１モデルＭ１で第１訓練データＤ１に含まれる各事例の生成スコアを計算する。これにより、例えば、番号００１の事例００１については、生成スコア０．９９が得られる。また、番号００２の事例００２については、生成スコア０．９６が得られる。

【0040】

次いで、スコア計算部１２は、第２モデルＭ２を第２訓練データＤ２へ適用し、第２訓練データＤ２に含まれる各事例の出力の生成スコアを計算し、スコア一時保存部１４へ保存する（Ｓ１３）。例えば、図４に示すように、Ｓ１３では、第２訓練データＤ２に含まれる各事例（事例００１～事例００４）の生成スコアが得られる。例えば、番号００１の事例００１については、生成スコア０．６０が得られる。また、番号００２の事例００２については、生成スコア０．９１が得られる。また、番号００３の事例００３については、生成スコア０．５６が得られる。また、番号００４の事例００４については、生成スコア０．８８が得られる。

【0041】

図５は、スコア計算の一例を説明する説明図である。図５に示すように、スコア計算部１２における生成スコアのスコア計算については、各事例を第１モデルＭ１、第２モデルＭ２、第３モデルＭ３などに入力した結果（出力）に対するスコアをそのまま用いてもよい。また、スコア計算部１２におけるスコア計算の別手法としては、Ｎ＝全出力可能数、ｎ＝正解出力の順位としてＳｃｏｒｅ＝－ｌｏｇ（ｎ／Ｎ）のように正解出力の全体順位で計算してもよい。さらに、スコア計算部１２は、Ｓｃｏｒｅ＝－ｌｏｇ（ｎ／Ｎ・ｓ）、ｓ＝正解出力のスコアとして正解出力のスコアに全体順位で重み付けをおこなってもよい。

【0042】

図３に戻り、Ｓ１３に次いで、スコア評価計算部１３は、スコア一時保存部１４にあるＳ１２とＳ１３の生成スコアを比較し、Ｓ１３でスコアが減少した第１訓練データＤ１の入出力ペア（事例）を検出する（Ｓ１４）。これにより、図４に示すように、スコア評価計算部１３は、第１訓練データＤ１の中の事例００１の生成スコアが０．８９→０．６０と改悪したことを検知する（Ｓ１４）。

【0043】

次いで、訓練データ生成部１５は、第１訓練データＤ１と第２訓練データＤ２から、Ｓ１４で検出した入出力ペア（事例）を削除し、削除した新しい訓練データを合成して第３訓練データＤ３を生成する（Ｓ１５）。具体的には、図４に示すように、訓練データ生成部１５は、第２訓練データＤ２からＳ１４で生成スコアの改悪を検知した事例００１を削除して第３訓練データＤ３を作成する。すなわち、第３訓練データＤ３は、第２訓練データＤ２より事例００１を削除したものとなる。

【0044】

次いで、モデル学習部１１は、第３訓練データＤ３を用いた訓練を行うことで第３モデルＭ３を生成する（Ｓ１６）。図６Ａ、図６Ｂは、第１の実施形態にかかる情報処理装置の処理の概要を説明する説明図である。図６Ａに示すように、モデル学習部１１は、Ｓ１６において、第３訓練データＤ３に含まれる事例００２～００４を用いた機械学習により第３モデルＭ３を生成する。

【0045】

次いで、スコア計算部１２は、第３モデルＭ３を第３訓練データＤ３の各入力へ適用し、入力に対応する各出力の生成スコアを計算してスコア一時保存部１４へ保存する（Ｓ１７）。具体的には、図６Ａに示すように、スコア計算部１２は、Ｓ１７において、第３モデルＭ３で第３訓練データＤ３に含まれる各事例（事例００２～００４）の生成スコアを計算する。これにより、例えば、番号００２の事例００２については、生成スコア０．８９が得られる。また、番号００３の事例００３については、生成スコア０．８２が得られる。また。番号００４の事例００４については、生成スコア０．８７が得られる。

【0046】

次いで、スコア評価計算部１３は、スコア一時保存部１４にあるＳ１７とＳ１３の生成スコアを比較し、Ｓ１３で生成スコアが低い事例のスコアがＳ１７で向上した場合、次のＳ１９へ処理を進める（Ｓ１８）。

【0047】

具体的には、図６Ｂに示すように、スコア評価計算部１３は、Ｓ１８において、Ｓ１７とＳ１３の生成スコアを比較し、Ｓ１７の結果における生成スコアの改悪があるかどうかの適切性検証を行う。

【0048】

Ｓ１９において、訓練データ生成部１５は、第３訓練データＤ３をそのまま修正後第２訓練データＤ２１として出力し、第３訓練データＤ３から第１訓練データＤ１にある部分のみを抽出して修正後第１訓練データＤ１１として出力する。次いで、訓練データ生成部１５は、再訓練用の訓練データの最終結果としての修正後第２訓練データＤ２１、修正後第１訓練データＤ１１を出力し（Ｓ２０）、処理を終了する。

【0049】

例えば、図６Ｂに示すように、スコア評価計算部１３は、Ｓ１８において、Ｓ１７の事例００３の生成スコアがＳ１３より高い、かつ事例００２、００４の生成スコアに大きく変化がない場合、Ｓ１７の改悪なし、事例００１が削除すべきと判定する。この判定結果をもとに、訓練データ生成部１５は、事例００１が削除された修正後第２訓練データＤ２１、修正後第１訓練データＤ１１を出力する（Ｓ１９ａ）。

【0050】

また、図６Ｂに示すように、スコア評価計算部１３は、Ｓ１８において、Ｓ１７の事例００２、００４の生成スコアが大きく下がる場合、Ｓ１７の改悪あり、事例００１の削除を取り消しと判定する。この判定結果をもとに、訓練データ生成部１５は、入力時と同様の第１訓練データＤ１、第２訓練データＤ２に戻した修正後第１訓練データＤ１１、修正後第２訓練データＤ２１を出力する（Ｓ１９ｂ）。

【0051】

このように、第１の実施形態では、再訓練効果の向上が見込める訓練データ（第３訓練データＤ３）を生成することができる。また、第１の実施形態では、第３訓練データＤ３について、取り除く事例が出力の品質を低下させる事例であることを見極めた上で再訓練用の訓練データ（修正後第１訓練データＤ１１、Ｄ２１）を生成することができる。

【0052】

（第２の実施形態）
第２の実施形態では、スコア一時保存部１４にあるＳ１２とＳ１３の生成スコアについて統計量（スコアの偏差、平均値）での比較を行って削除対象の訓練データ（事例）を得る点が第１の実施形態とは異なる。

【0053】

図７は、第２の実施形態にかかる情報処理装置１の動作例を示すフローチャートである。図７に示すように、処理が開始されると、スコア評価計算部１３は、第１モデルＭ１での第１訓練データＤ１の生成スコアと（Ｓ１２）、第２モデルＭ２での第２訓練データＤ２の生成スコアと（Ｓ１３）の入力を受け付ける（Ｓ３０）。

【0054】

次いで、スコア評価計算部１３は、第１訓練データＤ１と第２訓練データＤ２の生成スコアの旧訓練データ部分（新規の訓練データを除いた部分）のみの統計量を取得する（Ｓ３１）。ここで取得する統計量は、第１訓練データＤ１または第２訓練データＤ２の生成スコアの平均値と、各訓練データの生成スコアの偏差（生成スコアと平均値との差）である。

【0055】

次いで、スコア評価計算部１３は、生成スコアが改悪した場合、その偏差の差が負数になることから、そのような条件を満たす訓練データを削除対象とする。具体的には、スコア評価計算部１３は、Ｓ１３の偏差と、Ｓ１２の偏差を比較し、訓練データ（事例）の偏差の差が負数である特定のしきい値よりさらに絶対値が大きい場合、その訓練データ（事例）を削除対象とする（Ｓ３２）。次いで、スコア評価計算部１３は、第２訓練データＤ２における削除対象の事例を訓練データ生成部１５に出力する（Ｓ３３）。これにより、訓練データ生成部１５では、スコア評価計算部１３からの出力に基づいて第２訓練データＤ２より事例を削除し、第３訓練データＤ３を生成する。

【0056】

図８は、第２の実施形態にかかる情報処理装置１の処理の概要を説明する説明図である。図８において、事例ＩＤの００１～００７は、旧訓練データ（第１訓練データＤ１）に対応する。また、事例ＩＤの００８、００９は、新訓練データ（第２訓練データＤ２における第１訓練データＤ１に対する追加部分）に対応する。

【0057】

図８に示すように、スコア評価計算部１３は、第１訓練データＤ１と第２訓練データＤ２の生成スコアの旧訓練データ部分（事例ＩＤ００１～００７）について統計量（スコアの偏差、スコア平均）を取得する。次いで、スコア評価計算部１３は、偏差の差と、負数であるしきい値（例えば－０．１）とを比較し、条件を満たす事例ＩＤ００１を削除対象と判定する。

【0058】

なお、このしきい値については、事前にユーザが指定してもよい。また、しきい値は、Ｓ１３のスコアの標準偏差の負数値、または、Ｓ１３の平均とＳ１２のスコア差の負数値により自動設定してもよい。

【0059】

このように、第２の実施形態では、統計量を用いて生成スコアの比較を行うことで、生成スコアに含まれるノイズに対して頑健に削除対象の事例を判定できる。

【0060】

（第３の実施形態）
図９は、第３の実施形態にかかる情報処理装置の機能構成例を示すブロック図である。図９に示すように、情報処理装置１ａは、前述した情報処理装置１に対して統計情報取得部１６を有する点が異なる。

【0061】

統計情報取得部１６は、第１訓練データＤ１に含まれる複数の事例と、第２訓練データＤ２に含まれる複数の事例の統計情報（本実施形態では単語の統計情報）を取得する処理部である。具体的には、統計情報取得部１６は、第１訓練データＤ１、第２訓練データＤ２に含まれる各事例（単語）について、事例の出現頻度、互いの事例が生じる共起頻度を取得する。

【0062】

スコア評価計算部１３は、統計情報取得部１６が取得した統計情報に基づいて、その統計情報が特定の条件を満たす事例（第１訓練データＤ１に含まれる旧事例）に対応する訓練データを除外（削除）対象と判定する。このように、統計情報をもとに言葉の変化（ｃｏｎｃｅｐｔ ｄｒｉｆｔ）などの事例を特定し、削除対象としてもよい。

【0063】

例えば、スコア評価計算部１３は、新・旧訓練データにおける入力または出力における単語の出現頻度が大きく変化する場合、言葉の変化（ｃｏｎｃｅｐｔ ｄｒｉｆｔ）があるものとしてその単語を含む訓練データの事例を除外対象とする。同様に、スコア評価計算部１３は、新・旧訓練データにおける事例の入力または出力における単語の共起頻度が変化する場合、言葉の変化（ｃｏｎｃｅｐｔ ｄｒｉｆｔ）があるものとしてその単語を含む事例を除外対象とする。

【0064】

図１０は、第３の実施形態にかかる情報処理装置１ａの動作例を示すフローチャートである。図１０に示すように、処理が開始されると、統計情報取得部１６は第２訓練データＤ２の入力を受け付ける（Ｓ４０）。次いで、統計情報取得部１６は、第２訓練データＤ２の統計情報（単語の出現頻度、単語の共起頻度）を新・旧の訓練データ別で取得する（Ｓ４１）。

【0065】

次いで、スコア評価計算部１３は、統計情報取得部１６が取得した統計情報をもとに、前述した条件に当てはまる、第２訓練データＤ２における削除事例を選定する（Ｓ４２）。なお、スコア評価計算部１３は、第１訓練データＤ１にも存在する削除事例も同様に選定する。

【0066】

次いで、スコア評価計算部１３は、第２訓練データＤ２における削除事例を訓練データ生成部１５に出力する（Ｓ４３）。これにより、訓練データ生成部１５では、スコア評価計算部１３からの出力に基づいて第２訓練データＤ２より事例を削除し、第３訓練データＤ３を生成する。

【0067】

図１１は、第２訓練データＤ２の一例を説明する説明図である。図１１に示すように、旧データにおいて、入力の「ＡＡＡＡ（果物名）」と、出力の「大好物」との共起頻度は高いが、新データでは「ＡＡＡＡ（社名）」と「大好物」との共起頻度は低くなる。したがって、旧データにおけるＩＤ００１の事例が削除事例となる。なお、共起頻度の変化は、例えば、事前に設定した共起頻度しきい値（ＳＤ）との比較により判定する。

【0068】

（第４の実施形態）
図１２は、第４の実施形態にかかる情報処理装置の機能構成例を示すブロック図である。図１２に示すように、情報処理装置１ｂは、前述した情報処理装置１に対して類似度計算部１７を有する点が異なる。

【0069】

類似度計算部１７は、第２訓練データＤ２に含まれる複数の事例（入力または出力）同士を比較してその類似度を取得する処理部である。この類似度については、データ（文）の構造木の類似度を計算する手法や、ｗｏｒｄ２ｖｅｃの拡張である文の構成単語のベクトル合成による文の類似度を計算する手法など、公知の手法を適用して取得する。

【0070】

スコア評価計算部１３は、類似度計算部１７が取得した類似度に基づいて、その類似度が特定の条件を満たす事例（第１訓練データＤ１に含まれる旧事例）に対応する訓練データを除外（削除）対象と判定する。例えば、スコア評価計算部１３は、入力（または出力）が類似する（特定の類似度以上）が、出力（または入力）が類似していない事例（第１訓練データＤ１に含まれる旧事例）を削除事例と判定する。このように、類似度をもとに言葉の変化（ｃｏｎｃｅｐｔ ｄｒｉｆｔ）があった事例を特定し、削除対象としてもよい。

【0071】

図１３は、第４の実施形態にかかる情報処理装置１ｂの動作例を示すフローチャートである。図１３に示すように、処理が開始されると、類似度計算部１７は第２訓練データＤ２の入力を受け付ける（Ｓ５０）。次いで、類似度計算部１７は、第２訓練データＤ２の新旧データ別で、新（旧）の入力同士の類似度を計算する。また、類似度計算部１７は、新旧の出力同士の類似度を計算する（Ｓ５１）。

【0072】

次いで、スコア評価計算部１３は、類似度計算部１７が計算した類似度情報をもとに、前述した条件に当てはまる、第２訓練データＤ２における削除事例を選定する（Ｓ５２）。なお、スコア評価計算部１３は、第１訓練データＤ１にも存在する削除事例も同様に選定する。

【0073】

次いで、スコア評価計算部１３は、第２訓練データＤ２における削除事例を訓練データ生成部１５に出力する（Ｓ５３）。これにより、訓練データ生成部１５では、スコア評価計算部１３からの出力に基づいて第２訓練データＤ２より事例を削除し、第３訓練データＤ３を生成する。

【0074】

例えば、図１１の第２訓練データＤ２の例では、旧データにおけるＩＤ００１の事例と、新データにおけるＩＤ００３の事例とは、入力がともに「Ｉ ｌｉｋｅ ＡＡＡＡ」であることから、入力の類似度が特定値以上となる。これに対し、ＩＤ００１の事例の出力は「ＡＡＡＡは私の大好物です」であり、ＩＤ００３の事例の出力は「私はＡＡＡＡ社の製品に目がない」であることから、出力の類似度は低くなる（特定値以下）。したがって、ＩＤ００１の事例が削除対象となる。

【0075】

なお、類似度の判定は、事前に設定したしきい値との比較により判定する。例えば、入力・出力の類似度が類似しきい値（ＳＳ）以上、かつ、もう一方の類似度が相違しきい値（ＳＩ）以下の場合に削除事例とする。

【0076】

（第５の実施形態）
第５の実施形態では、スコア一時保存部１４にあるＳ１３とＳ１７の生成スコアについて統計量（スコアの偏差、平均値）での比較を行って第３訓練データＤ３の適性性を確認する点が第１の実施形態とは異なる。

【0077】

図１４は、第５の実施形態にかかる情報処理装置１の動作例を示すフローチャートである。図１４に示すように、処理が開始されると、スコア評価計算部１３は、第２モデルＭ２での第２訓練データＤ２の生成スコアと（Ｓ１３）、第３モデルＭ３での第３訓練データＤ３の生成スコアと（Ｓ１７）との入力を受け付ける（Ｓ６０）。

【0078】

次いで、スコア評価計算部１３は、第２訓練データＤ２と第３訓練データＤ３の両方に存在するデータのみスコアの統計量を取得する（Ｓ６１）。ここで取得する統計量は、第２訓練データＤ２または第３訓練データＤ３の生成スコアの平均値と、各訓練データの生成スコアの偏差（生成スコアと平均値との差）である。

【0079】

次いで、スコア評価計算部１３は、生成スコアが改悪した場合、その偏差の差が負数になることから、そのような条件を満たす訓練データが第３訓練データＤ３に存在しないことで第３訓練データＤ３の適性性を認める。具体的には、スコア評価計算部１３は、Ｓ１７の偏差と、Ｓ１３の偏差を比較し、訓練データ（事例）の偏差の差が負数である特定のしきい値よりさらに絶対値が大きいデータが存在しない場合、第３訓練データＤ３の適性性を認める（Ｓ６２）。

【0080】

次いで、スコア評価計算部１３は、第３訓練データＤ３の適性性の判定結果を訓練データ生成部１５へ出力する（Ｓ６３）。これにより、訓練データ生成部１５は、適性性があるものと認められた第３訓練データＤ３をもとに、修正後第１訓練データＤ１１、修正後第２訓練データＤ２１を出力する。なお、適性性がない場合、訓練データ生成部１５は、入力同様の修正後第１訓練データＤ１１、修正後第２訓練データＤ２１を出力する。

【0081】

図１５は、第５の実施形態にかかる情報処理装置１の処理の概要を説明する説明図である。図１５において、事例ＩＤの００２～００９は、第２訓練データＤ２と第３訓練データＤ３の両方に存在するデータに対応する。

【0082】

図１５に示すように、スコア評価計算部１３は、第２訓練データＤ２と第３訓練データＤ３の両方に存在する、事例ＩＤの００２～００９の統計量（スコアの偏差、スコア平均）を取得する。次いで、スコア評価計算部１３は、偏差の差と、負数であるしきい値（例えば－０．１）とを比較し、条件を満たす事例の有無を確認する。図示例では、－０．１のしきい値を超えるデータ（事例）がないため、Ｓ１７のデータ（第３訓練データＤ３）の適性性が認められることとなる。

【0083】

このように、第５の実施形態では、統計量を用いて生成スコアの比較を行うことで、生成スコアに含まれるノイズに対して頑健に第３訓練データＤ３の適性性を判定することができる。

【0084】

（第６の実施形態）
図１６は、第６の実施形態にかかる情報処理装置の機能構成例を示すブロック図である。図１６に示すように、情報処理装置１ｃは、前述した情報処理装置１に対して再実行処理部１８を有する点が異なる。

【0085】

再実行処理部１８は、訓練データ生成部１５が生成した修正後第１訓練データＤ１１を第１訓練データＤ１、修正後第２訓練データＤ２１を第２訓練データＤ２とした上で、再度修正後第１訓練データＤ１１、修正後第２訓練データＤ２１の生成を再実行させる処理部である。

【0086】

図１７は、第６の実施形態にかかる情報処理装置１ｃの動作例を示すフローチャートである。図１７に示すように、処理が開始されると、処理制御部１０は、第１訓練データＤ１、第２訓練データＤ２の入力を受け付ける（Ｓ７０）。次いで、処理制御部１０は、受け付けた第１訓練データＤ１、第２訓練データＤ２をもとに、前述したＳ１１～Ｓ１９の処理を実行させる（Ｓ７１）。これにより、処理制御部１０は、修正後第２訓練データＤ２１、修正後第１訓練データＤ１１の出力を得る（Ｓ７２）。

【0087】

次いで、再実行処理部１８は、修正後第２訓練データＤ２１と、修正後第１訓練データＤ１１が出力され、かつ、両データは第１訓練データＤ１と第２訓練データＤ２と同一であるか否かを判定する（Ｓ７３）。

【0088】

両データが第１訓練データＤ１と第２訓練データＤ２と同一でない場合（Ｓ７３：Ｙｅｓ）、再実行処理部１８は、修正後第２訓練データＤ２１を第２訓練データＤ２に、修正後第１訓練データＤ１１を第１訓練データＤ１にそれぞれ置換し（Ｓ７４）、Ｓ７０へ処理を戻す。なお、両データが第１訓練データＤ１と第２訓練データＤ２と同一である場合（Ｓ７３：Ｎｏ）、再実行処理部１８は処理を終了する。

【0089】

このように、第６の実施形態では、訓練データ生成部１５が生成した修正後第１訓練データＤ１１が第１訓練データＤ１と同一でなく、修正後第２訓練データＤ２１が第２訓練データＤ２と同一でない場合、修正後第１訓練データＤ１１を第１訓練データＤ１に、修正後第２訓練データＤ２１を第２訓練データＤ２に置換する。次いで、置換した第１訓練データＤ１、第２訓練データＤ２をもとに、再度修正後第１訓練データＤ１１、修正後第２訓練データＤ２１の生成を再実行する。このように、修正後第１訓練データＤ１１、修正後第２訓練データＤ２１の生成を繰り返すことで、精度よく収束した再訓練用の訓練データを得ることができる。

【0090】

（第７の実施形態）
図１８は、第７の実施形態にかかる情報処理装置の機能構成例を示すブロック図である。図１８に示すように、情報処理装置１ｄは、前述した情報処理装置１に対してＡＩシステム再学習制御部２０と、第２訓練データ生成部２１と、ＡＩシステム実行部２２と、ＡＩシステム実行モデル２３とを有する点が異なる。

【0091】

ＡＩシステム再学習制御部２０は、自動翻訳システムなどのＡＩシステムの再学習を制御する処理部である。具体的には、ＡＩシステム再学習制御部２０は、特定のタイミング（予め設定されたシステムの更新タイミング）で第１訓練データＤ１、第２訓練データＤ２を処理制御部１０に対して入力し、修正後第２訓練データＤ２１、修正後第１訓練データＤ１１を得る。次いで、ＡＩシステム再学習制御部２０は、得られた修正後第２訓練データＤ２１を用いてＡＩシステム実行モデル２３の再訓練を行う。

【0092】

第２訓練データ生成部２１は、第２訓練データＤ２の生成を行う処理部である。具体的には、第２訓練データ生成部２１は、ＡＩシステムの運用時における入力・出力データを収集し、第１訓練データＤ１と比較して新たに収集したデータ（新事例）を得る。次いで、第２訓練データ生成部２１は、新たに収集したデータ（入力・出力）を第１訓練データＤ１に合成して第２訓練データＤ２を生成する。

【0093】

ＡＩシステム実行部２２は、ＡＩシステムの運用部であり、ＡＩシステムに対して入力されたデータをＡＩシステム実行モデル２３に適用し、ＡＩシステム実行モデル２３より得られた出力を提供する。

【0094】

ＡＩシステム実行モデル２３は、ＡＩシステムの入力に対して出力を提供するための、機械学習技術による機械学習モデルである。

【0095】

図１９は、第７の実施形態にかかる情報処理装置の動作例を示すフローチャートである。図１９に示すように、処理が開始されると、第２訓練データ生成部２１で蓄積・取得した新データを、第１訓練データＤ１と接合して第２訓練データＤ２を生成する（Ｓ８０）。

【0096】

次いで、ＡＩシステム再学習制御部２０は、生成した第２訓練データＤ２を第１訓練データＤ１とともに処理制御部１０に入力し、Ｓ１０～Ｓ２０の処理を行わせる（Ｓ８１）。次いで、ＡＩシステム再学習制御部２０は、Ｓ８１の処理により得られた修正後第２訓練データＤ２１を用いて機械学習を行い、生成したモデルをＡＩシステム実行モデル２３に配置する（Ｓ８２）。

【0097】

このように、第７の実施形態では、特定のタイミングで修正後第２訓練データＤ２１を生成し、生成した修正後第２訓練データＤ２１に基づく再訓練によりＡＩシステム実行モデル２３を更新してもよい。これにより、例えば自動翻訳システムにおけるモデルを言葉の変化（ｃｏｎｃｅｐｔ ｄｒｉｆｔ）に対応したモデルに自動更新することができる。

【0098】

（その他）
なお、図示した各装置の各構成要素は、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。

【0099】

また、情報処理装置１の処理制御部１０で行われるモデル学習部１１、スコア計算部１２、スコア評価計算部１３、スコア一時保存部１４、訓練データ生成部１５および統計情報取得部１６の各種処理機能は、ＣＰＵ（またはＭＰＵ、ＭＣＵ（Micro Controller Unit）等のマイクロ・コンピュータ）上で、その全部または任意の一部を実行するようにしてもよい。また、各種処理機能は、ＣＰＵ（またはＭＰＵ、ＭＣＵ等のマイクロ・コンピュータ）で解析実行されるプログラム上、またはワイヤードロジックによるハードウエア上で、その全部または任意の一部を実行するようにしてもよいことは言うまでもない。また、情報処理装置１で行われる各種処理機能は、クラウドコンピューティングにより、複数のコンピュータが協働して実行してもよい。

【0100】

（コンピュータ構成例）
ところで、上記の実施形態で説明した各種の処理は、予め用意されたプログラムをコンピュータで実行することで実現できる。そこで、以下では、上記の実施形態と同様の機能を有するプログラムを実行するコンピュータ構成（ハードウエア）の一例を説明する。図２０は、コンピュータ構成の一例を示すブロック図である。

【0101】

図２０に示すように、コンピュータ２００は、各種演算処理を実行するＣＰＵ２０１と、データ入力を受け付ける入力装置２０２と、モニタ２０３と、スピーカー２０４とを有する。また、コンピュータ２００は、記憶媒体からプログラム等を読み取る媒体読取装置２０５と、各種装置と接続するためのインタフェース装置２０６と、有線または無線により外部機器と通信接続するための通信装置２０７とを有する。また、情報処理装置１は、各種情報を一時記憶するＲＡＭ２０８と、ハードディスク装置２０９とを有する。また、コンピュータ２００内の各部（２０１～２０９）は、バス２１０に接続される。

【0102】

ハードディスク装置２０９には、上記の実施形態で説明した機能構成（例えば処理制御部１０、モデル学習部１１、スコア計算部１２、スコア評価計算部１３、スコア一時保存部１４、訓練データ生成部１５、統計情報取得部１６、類似度計算部１７、再実行処理部１８、ＡＩシステム再学習制御部２０、第２訓練データ生成部２１およびＡＩシステム実行部２２）における各種の処理を実行するためのプログラム２１１が記憶される。また、ハードディスク装置２０９には、プログラム２１１が参照する各種データ２１２が記憶される。入力装置２０２は、例えば、操作者から操作情報の入力を受け付ける。モニタ２０３は、例えば、操作者が操作する各種画面を表示する。インタフェース装置２０６は、例えば印刷装置等が接続される。通信装置２０７は、ＬＡＮ（Local Area Network）等の通信ネットワークと接続され、通信ネットワークを介した外部機器との間で各種情報をやりとりする。

【0103】

ＣＰＵ２０１は、ハードディスク装置２０９に記憶されたプログラム２１１を読み出して、ＲＡＭ２０８に展開して実行することで、上記の機能構成（例えば処理制御部１０、モデル学習部１１、スコア計算部１２、スコア評価計算部１３、スコア一時保存部１４、訓練データ生成部１５、統計情報取得部１６、類似度計算部１７、再実行処理部１８、ＡＩシステム再学習制御部２０、第２訓練データ生成部２１およびＡＩシステム実行部２２）に関する各種の処理を行う。すなわち、ＣＰＵ２０１は制御部の一例である。なお、プログラム２１１は、ハードディスク装置２０９に記憶されていなくてもよい。例えば、コンピュータ２００が読み取り可能な記憶媒体に記憶されたプログラム２１１を読み出して実行するようにしてもよい。コンピュータ２００が読み取り可能な記憶媒体は、例えば、ＣＤ－ＲＯＭやＤＶＤディスク、ＵＳＢ（Universal Serial Bus）メモリ等の可搬型記録媒体、フラッシュメモリ等の半導体メモリ、ハードディスクドライブ等が対応する。また、公衆回線、インターネット、ＬＡＮ等に接続された装置にこのプログラム２１１を記憶させておき、コンピュータ２００がこれらからプログラム２１１を読み出して実行するようにしてもよい。

【符号の説明】

【0104】

１、１ａ～１ｄ…情報処理装置
１０…処理制御部
１１…モデル学習部
１２…スコア計算部
１３…スコア評価計算部
１４…スコア一時保存部
１５…訓練データ生成部
１６…統計情報取得部
１７…類似度計算部
１８…再実行処理部
２０…ＡＩシステム再学習制御部
２１…第２訓練データ生成部
２２…ＡＩシステム実行部
２３…ＡＩシステム実行モデル
２００…コンピュータ
２０１…ＣＰＵ
２０２…入力装置
２０３…モニタ
２０４…スピーカー
２０５…媒体読取装置
２０６…インタフェース装置
２０７…通信装置
２０８…ＲＡＭ
２０９…ハードディスク装置
２１０…バス
２１１…プログラム
２１２…各種データ
Ｄ１…第１訓練データ
Ｄ２…第２訓練データ
Ｄ３…第３訓練データ
Ｄ１１…修正後第１訓練データ
Ｄ２１…修正後第２訓練データ
Ｍ１…第１モデル
Ｍ２…第２モデル
Ｍ３…第３モデル

【図1】

【図2】

【図3】

【図4】

【図5】

【図6A】

【図6B】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】

【図17】

【図18】

【図19】

【図20】