知財求人 - 知財ポータルサイト「IP Force」
特開2024-175615情報処理システム、コンピュータが実行する方法、プログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024175615
(43)【公開日】2024-12-18
(54)【発明の名称】情報処理システム、コンピュータが実行する方法、プログラム
(51)【国際特許分類】
G06N 3/0455 20230101AFI20241211BHJP
G06F 16/903 20190101ALI20241211BHJP
【ＦＩ】
G06N3/0455
G06F16/903
【審査請求】未請求
【請求項の数】15
【出願形態】ＯＬ
(21)【出願番号】P 2023093554
(22)【出願日】2023-06-06
(71)【出願人】
【識別番号】000005108
【氏名又は名称】株式会社日立製作所
(74)【代理人】
【識別番号】110000279
【氏名又は名称】弁理士法人ウィルフォート国際特許事務所
(72)【発明者】
【氏名】グエン コン カー
【テーマコード（参考）】
5B175
【Ｆターム（参考）】
5B175DA10
5B175HB03
(57)【要約】
【課題】 問題に対する原因を推論するためのコストを削減することを本開示の目的の１つとする。
【解決手段】 本開示の情報処理システム１００は、コンテキストフィルタリングモデル１０１が示す機能と回答モデル１０２が示す機能を実現するものである。情報処理システム１００は、問題を示すクエリ１０３と、問題と原因の因果関係に関する情報を含む文書の情報１０４に応じて、コンテキストフィルタリングモデル１０１が示す機能に基づいて、文書の情報１０４から、問題に関連するコンテキスト１０５を選択するものである。情報処理システム１００は、問題を示すクエリ１０３と、問題に関連するコンテキスト１０５に応じて、回答モデル１０２が示す機能に基づいて、問題の原因を指定するものである。
【選択図】 図１
【解決手段】 本開示の情報処理システム１００は、コンテキストフィルタリングモデル１０１が示す機能と回答モデル１０２が示す機能を実現するものである。情報処理システム１００は、問題を示すクエリ１０３と、問題と原因の因果関係に関する情報を含む文書の情報１０４に応じて、コンテキストフィルタリングモデル１０１が示す機能に基づいて、文書の情報１０４から、問題に関連するコンテキスト１０５を選択するものである。情報処理システム１００は、問題を示すクエリ１０３と、問題に関連するコンテキスト１０５に応じて、回答モデル１０２が示す機能に基づいて、問題の原因を指定するものである。
【選択図】 図１
【特許請求の範囲】
【請求項1】
情報処理システムであって、
前記情報処理システムは、コンテキストフィルタリングモデルが示す機能と回答モデルが示す機能を実現するものであり、
前記情報処理システムは、問題を示すクエリと、前記問題と原因の因果関係に関する情報を含む文書の情報に応じて、前記コンテキストフィルタリングモデルが示す機能に基づいて、前記文書の情報から、前記問題に関連するコンテキストを選択するものであり、
前記情報処理システムは、前記問題を示すクエリと、前記文書の情報のうち前記問題に関連するコンテキストに応じて、前記回答モデルが示す機能に基づいて、前記問題の原因を指定するものである、情報処理システム。
前記情報処理システムは、コンテキストフィルタリングモデルが示す機能と回答モデルが示す機能を実現するものであり、
前記情報処理システムは、問題を示すクエリと、前記問題と原因の因果関係に関する情報を含む文書の情報に応じて、前記コンテキストフィルタリングモデルが示す機能に基づいて、前記文書の情報から、前記問題に関連するコンテキストを選択するものであり、
前記情報処理システムは、前記問題を示すクエリと、前記文書の情報のうち前記問題に関連するコンテキストに応じて、前記回答モデルが示す機能に基づいて、前記問題の原因を指定するものである、情報処理システム。
【請求項2】
請求項１に記載の情報処理システムであって、
前記文書の情報は、前記文書に含まれる領域毎に、前記文書の当該領域をテキストデータとして表現するテキスト的なコンテキストと、前記文書の当該領域を画像データとして表現する視覚的なコンテキストの一方または両方を含むものである、情報処理システム。
前記文書の情報は、前記文書に含まれる領域毎に、前記文書の当該領域をテキストデータとして表現するテキスト的なコンテキストと、前記文書の当該領域を画像データとして表現する視覚的なコンテキストの一方または両方を含むものである、情報処理システム。
【請求項3】
請求項２に記載の情報処理システムであって、
前記コンテキストフィルタリングモデルの機能を実現する際に、前記情報処理システムは、第１のテキスト的なコンテキストエンコーダ、第１の視覚的なコンテキストエンコーダ、第１のクロスドメイン特徴エンコーダ、第１のクエリエンコーダ、スコア算出器、または、コンテキスト選択器として機能するものであり、
前記第１のテキスト的なコンテキストエンコーダは、トランスフォーマのエンコーダであって、前記テキスト的なコンテキストの特徴を生成するものであり、
前記第１の視覚的なコンテキストエンコーダは、画像データ用のトランスフォーマのエンコーダであって、前記視覚的なコンテキストの特徴を生成するものであり、
前記第１のクロスドメイン特徴エンコーダは、前記第１のテキスト的なコンテキストエンコーダが生成した前記特徴に基づく情報と、前記第１の視覚的なコンテキストエンコーダが生成した前記特徴に基づく情報に対して、クロスアテンション演算を行うものであり、
前記第１のクエリエンコーダは、トランスフォーマのエンコーダであって、前記クエリの特徴を生成するものであり、
前記スコア算出器は、前記第１のクロスドメイン特徴エンコーダによる前記クロスアテンション演算の結果に基づく情報と、前記第１のクエリエンコーダが生成した前記クエリの前記特徴に基づく情報を用いて、前記クエリが示す前記問題に対する関連の強さを示すスコアを、前記文書に含まれる前記領域毎に算出するものであり、
前記コンテキスト選択器は、前記文書に含まれる前記領域のそれぞれに対応する前記スコアに基づいて、前記問題に対する関連が強い前記領域を認識し、認識した前記領域に関する、前記テキスト的なコンテキストと前記視覚的なコンテキストを、前記問題に関連するコンテキストとして選択するものである、情報処理システム。
前記コンテキストフィルタリングモデルの機能を実現する際に、前記情報処理システムは、第１のテキスト的なコンテキストエンコーダ、第１の視覚的なコンテキストエンコーダ、第１のクロスドメイン特徴エンコーダ、第１のクエリエンコーダ、スコア算出器、または、コンテキスト選択器として機能するものであり、
前記第１のテキスト的なコンテキストエンコーダは、トランスフォーマのエンコーダであって、前記テキスト的なコンテキストの特徴を生成するものであり、
前記第１の視覚的なコンテキストエンコーダは、画像データ用のトランスフォーマのエンコーダであって、前記視覚的なコンテキストの特徴を生成するものであり、
前記第１のクロスドメイン特徴エンコーダは、前記第１のテキスト的なコンテキストエンコーダが生成した前記特徴に基づく情報と、前記第１の視覚的なコンテキストエンコーダが生成した前記特徴に基づく情報に対して、クロスアテンション演算を行うものであり、
前記第１のクエリエンコーダは、トランスフォーマのエンコーダであって、前記クエリの特徴を生成するものであり、
前記スコア算出器は、前記第１のクロスドメイン特徴エンコーダによる前記クロスアテンション演算の結果に基づく情報と、前記第１のクエリエンコーダが生成した前記クエリの前記特徴に基づく情報を用いて、前記クエリが示す前記問題に対する関連の強さを示すスコアを、前記文書に含まれる前記領域毎に算出するものであり、
前記コンテキスト選択器は、前記文書に含まれる前記領域のそれぞれに対応する前記スコアに基づいて、前記問題に対する関連が強い前記領域を認識し、認識した前記領域に関する、前記テキスト的なコンテキストと前記視覚的なコンテキストを、前記問題に関連するコンテキストとして選択するものである、情報処理システム。
【請求項4】
請求項２に記載の情報処理システムであって、
前記回答モデルの機能を実現する際に、前記情報処理システムは、第２のテキスト的なコンテキストエンコーダ、第２の視覚的なコンテキストエンコーダ、第２のクロスドメイン特徴エンコーダ、第２のクエリエンコーダ、アテンションデコーダ、または、多層パーセプトロンとして機能するものであり、
前記第２のテキスト的なコンテキストエンコーダは、トランスフォーマのエンコーダであって、前記問題に関連するコンテキストのうちの前記テキスト的なコンテキストの特徴を生成するものであり、
前記第２の視覚的なコンテキストエンコーダは、画像データ用のトランスフォーマのエンコーダであって、前記問題に関連するコンテキストのうちの前記視覚的なコンテキストの特徴を生成するものであり、
前記第２のクロスドメイン特徴エンコーダは、前記第２のテキスト的なコンテキストエンコーダが生成した前記特徴に基づく情報と、前記第２の視覚的なコンテキストエンコーダが生成した前記特徴に基づく情報に対して、クロスアテンション演算を行うものであり、
前記第２のクエリエンコーダは、トランスフォーマのエンコーダであって、前記クエリの特徴を生成するものであり、
前記アテンションデコーダは、トランスフォーマのデコーダであって、前記第２のクロスドメイン特徴エンコーダによる前記クロスアテンション演算の結果に基づく情報と、前記第２のクエリエンコーダが生成した前記クエリの前記特徴に基づく情報を用いて、クロスアテンション演算を含む演算を行うものであり、
前記多層パーセプトロンは、前記アテンションデコーダの演算の結果を入力として、前記問題の原因を指定する情報を出力するものである、情報処理システム。
前記回答モデルの機能を実現する際に、前記情報処理システムは、第２のテキスト的なコンテキストエンコーダ、第２の視覚的なコンテキストエンコーダ、第２のクロスドメイン特徴エンコーダ、第２のクエリエンコーダ、アテンションデコーダ、または、多層パーセプトロンとして機能するものであり、
前記第２のテキスト的なコンテキストエンコーダは、トランスフォーマのエンコーダであって、前記問題に関連するコンテキストのうちの前記テキスト的なコンテキストの特徴を生成するものであり、
前記第２の視覚的なコンテキストエンコーダは、画像データ用のトランスフォーマのエンコーダであって、前記問題に関連するコンテキストのうちの前記視覚的なコンテキストの特徴を生成するものであり、
前記第２のクロスドメイン特徴エンコーダは、前記第２のテキスト的なコンテキストエンコーダが生成した前記特徴に基づく情報と、前記第２の視覚的なコンテキストエンコーダが生成した前記特徴に基づく情報に対して、クロスアテンション演算を行うものであり、
前記第２のクエリエンコーダは、トランスフォーマのエンコーダであって、前記クエリの特徴を生成するものであり、
前記アテンションデコーダは、トランスフォーマのデコーダであって、前記第２のクロスドメイン特徴エンコーダによる前記クロスアテンション演算の結果に基づく情報と、前記第２のクエリエンコーダが生成した前記クエリの前記特徴に基づく情報を用いて、クロスアテンション演算を含む演算を行うものであり、
前記多層パーセプトロンは、前記アテンションデコーダの演算の結果を入力として、前記問題の原因を指定する情報を出力するものである、情報処理システム。
【請求項5】
請求項１に記載の情報処理システムであって、
前記クエリが示す前記問題は、ある変数の状況を示すものであり、
前記文書の情報のうち、前記問題に関連するコンテキストは、複数の変数の間の関係を示す数式の情報と、前記変数の説明の情報を含むものであり、
前記問題と原因の因果関係は、前記問題に関連するコンテキストに含まれる前記数式の情報により規定されるものである、情報処理システム。
前記クエリが示す前記問題は、ある変数の状況を示すものであり、
前記文書の情報のうち、前記問題に関連するコンテキストは、複数の変数の間の関係を示す数式の情報と、前記変数の説明の情報を含むものであり、
前記問題と原因の因果関係は、前記問題に関連するコンテキストに含まれる前記数式の情報により規定されるものである、情報処理システム。
【請求項6】
請求項２記載の情報処理システムであって、
前記コンテキストフィルタリングモデルと前記回答モデルのいずれのモデルパラメータも教師有り機械学習により訓練されるものであり、
前記教師有り機械学習に用いられる注釈付きファイルのそれぞれは、前記教師有り機械学習に用いられる文書の１つまたは複数の領域を特定する領域特定情報と、当該１つまたは複数の領域に記述される問題と原因の因果関係を示す因果関係ツリーに関する情報と、当該１つまたは複数の領域に対応する前記テキスト的なコンテキストを特定する情報と、当該１つまたは複数の領域に対応する前記視覚的なコンテキストを特定する情報を含むことが出来るものであり、
前記コンテキストフィルタリングモデルのモデルパラメータの前記教師有り機械学習においては、前記コンテキストフィルタリングモデルへの入力となる前記クエリは、前記注釈付きファイルが有する前記因果関係ツリーの根ノードの情報に基づくものであり、前記コンテキストフィルタリングモデルへの入力となる前記テキスト的なコンテキスト及び前記視覚的なコンテキストは、前記教師有り機械学習に用いられる文書における領域のそれぞれの前記テキスト的なコンテキスト及び前記視覚的なコンテキストであり、前記コンテキストフィルタリングモデルからの出力と比較される教師データは、前記注釈付きファイルが有する前記領域特定情報により特定される、前記教師有り機械学習に用いられる文書のうちいずれの領域が当該注釈付きファイルに関連付けられているかという情報であり、
前記回答モデルのモデルパラメータの前記教師有り機械学習においては、前記回答モデルへの入力となる前記クエリは、前記注釈付きファイルが有する前記因果関係ツリーの根ノードの情報に基づくものであり、前記回答モデルへの入力となる前記テキスト的なコンテキストは、前記注釈付きファイルが有する前記テキスト的なコンテキストを特定する情報に基づくものであり、前記回答モデルへの入力となる前記視覚的なコンテキストは、前記注釈付きファイルが有する前記視覚的なコンテキストを特定する情報に基づくものであり、前記回答モデルからの出力と比較される教師データは、前記注釈付きファイルが有する前記因果関係ツリーの中間ノードまたは葉ノードの情報に基づくものである、情報処理システム。
前記コンテキストフィルタリングモデルと前記回答モデルのいずれのモデルパラメータも教師有り機械学習により訓練されるものであり、
前記教師有り機械学習に用いられる注釈付きファイルのそれぞれは、前記教師有り機械学習に用いられる文書の１つまたは複数の領域を特定する領域特定情報と、当該１つまたは複数の領域に記述される問題と原因の因果関係を示す因果関係ツリーに関する情報と、当該１つまたは複数の領域に対応する前記テキスト的なコンテキストを特定する情報と、当該１つまたは複数の領域に対応する前記視覚的なコンテキストを特定する情報を含むことが出来るものであり、
前記コンテキストフィルタリングモデルのモデルパラメータの前記教師有り機械学習においては、前記コンテキストフィルタリングモデルへの入力となる前記クエリは、前記注釈付きファイルが有する前記因果関係ツリーの根ノードの情報に基づくものであり、前記コンテキストフィルタリングモデルへの入力となる前記テキスト的なコンテキスト及び前記視覚的なコンテキストは、前記教師有り機械学習に用いられる文書における領域のそれぞれの前記テキスト的なコンテキスト及び前記視覚的なコンテキストであり、前記コンテキストフィルタリングモデルからの出力と比較される教師データは、前記注釈付きファイルが有する前記領域特定情報により特定される、前記教師有り機械学習に用いられる文書のうちいずれの領域が当該注釈付きファイルに関連付けられているかという情報であり、
前記回答モデルのモデルパラメータの前記教師有り機械学習においては、前記回答モデルへの入力となる前記クエリは、前記注釈付きファイルが有する前記因果関係ツリーの根ノードの情報に基づくものであり、前記回答モデルへの入力となる前記テキスト的なコンテキストは、前記注釈付きファイルが有する前記テキスト的なコンテキストを特定する情報に基づくものであり、前記回答モデルへの入力となる前記視覚的なコンテキストは、前記注釈付きファイルが有する前記視覚的なコンテキストを特定する情報に基づくものであり、前記回答モデルからの出力と比較される教師データは、前記注釈付きファイルが有する前記因果関係ツリーの中間ノードまたは葉ノードの情報に基づくものである、情報処理システム。
【請求項7】
請求項２記載の情報処理システムであって、
前記コンテキストフィルタリングモデルは教師有り機械学習により訓練されるものであり、
前記教師有り機械学習に用いられる注釈付きファイルのそれぞれは、前記教師有り機械学習に用いられる文書の１つまたは複数の領域を特定する領域特定情報と、当該１つまたは複数の領域に記述される問題と原因の因果関係を示す因果関係ツリーに関する情報を含むことが出来るものであり、
前記コンテキストフィルタリングモデルのモデルパラメータの前記教師有り機械学習においては、前記コンテキストフィルタリングモデルへの入力となる前記クエリは、前記注釈付きファイルが有する前記因果関係ツリーの根ノードの情報に基づくものであり、前記コンテキストフィルタリングモデルへの入力となる前記テキスト的なコンテキスト及び前記視覚的なコンテキストは、前記教師有り機械学習に用いられる文書における領域のそれぞれの前記テキスト的なコンテキスト及び前記視覚的なコンテキストであり、前記コンテキストフィルタリングモデルからの出力と比較される教師データは、前記注釈付きファイルが有する前記領域特定情報により特定される、前記教師有り機械学習に用いられる文書のうちいずれの領域が当該注釈付きファイルに関連付けられているかという情報である、情報処理システム。
前記コンテキストフィルタリングモデルは教師有り機械学習により訓練されるものであり、
前記教師有り機械学習に用いられる注釈付きファイルのそれぞれは、前記教師有り機械学習に用いられる文書の１つまたは複数の領域を特定する領域特定情報と、当該１つまたは複数の領域に記述される問題と原因の因果関係を示す因果関係ツリーに関する情報を含むことが出来るものであり、
前記コンテキストフィルタリングモデルのモデルパラメータの前記教師有り機械学習においては、前記コンテキストフィルタリングモデルへの入力となる前記クエリは、前記注釈付きファイルが有する前記因果関係ツリーの根ノードの情報に基づくものであり、前記コンテキストフィルタリングモデルへの入力となる前記テキスト的なコンテキスト及び前記視覚的なコンテキストは、前記教師有り機械学習に用いられる文書における領域のそれぞれの前記テキスト的なコンテキスト及び前記視覚的なコンテキストであり、前記コンテキストフィルタリングモデルからの出力と比較される教師データは、前記注釈付きファイルが有する前記領域特定情報により特定される、前記教師有り機械学習に用いられる文書のうちいずれの領域が当該注釈付きファイルに関連付けられているかという情報である、情報処理システム。
【請求項8】
請求項２記載の情報処理システムであって、
前記回答モデルのいずれのモデルパラメータは教師有り機械学習により訓練されるものであり、
前記教師有り機械学習に用いられる注釈付きファイルのそれぞれは、前記教師有り機械学習に用いられる文書の１つまたは複数の領域について、当該１つまたは複数の領域に記述される問題と原因の因果関係を示す因果関係ツリーに関する情報と、当該１つまたは複数の領域に対応する前記テキスト的なコンテキストを特定する情報と、当該１つまたは複数の領域に対応する前記視覚的なコンテキストを特定する情報を含むことが出来るものであり、
前記回答モデルのモデルパラメータの前記教師有り機械学習においては、前記回答モデルへの入力となる前記クエリは、前記注釈付きファイルが有する前記因果関係ツリーの根ノードの情報に基づくものであり、前記回答モデルへの入力となる前記テキスト的なコンテキストは、前記注釈付きファイルが有する前記テキスト的なコンテキストを特定する情報に基づくものであり、前記回答モデルへの入力となる前記視覚的なコンテキストは、前記注釈付きファイルが有する前記視覚的なコンテキストを特定する情報に基づくものであり、前記回答モデルからの出力と比較される教師データは、前記注釈付きファイルが有する前記因果関係ツリーの中間ノードまたは葉ノードの情報に基づくものである、情報処理システム。
前記回答モデルのいずれのモデルパラメータは教師有り機械学習により訓練されるものであり、
前記教師有り機械学習に用いられる注釈付きファイルのそれぞれは、前記教師有り機械学習に用いられる文書の１つまたは複数の領域について、当該１つまたは複数の領域に記述される問題と原因の因果関係を示す因果関係ツリーに関する情報と、当該１つまたは複数の領域に対応する前記テキスト的なコンテキストを特定する情報と、当該１つまたは複数の領域に対応する前記視覚的なコンテキストを特定する情報を含むことが出来るものであり、
前記回答モデルのモデルパラメータの前記教師有り機械学習においては、前記回答モデルへの入力となる前記クエリは、前記注釈付きファイルが有する前記因果関係ツリーの根ノードの情報に基づくものであり、前記回答モデルへの入力となる前記テキスト的なコンテキストは、前記注釈付きファイルが有する前記テキスト的なコンテキストを特定する情報に基づくものであり、前記回答モデルへの入力となる前記視覚的なコンテキストは、前記注釈付きファイルが有する前記視覚的なコンテキストを特定する情報に基づくものであり、前記回答モデルからの出力と比較される教師データは、前記注釈付きファイルが有する前記因果関係ツリーの中間ノードまたは葉ノードの情報に基づくものである、情報処理システム。
【請求項9】
請求項６のいずれかに記載の情報処理システムであって、
前記教師有り機械学習における前記クエリが示す前記問題は、ある変数の状況を示すものであり、
前記教師有り機械学習に用いられる前記文書の情報のうち、前記問題に関連するコンテキストは、複数の変数の間の関係を示す数式の情報と、前記変数の説明の情報を含むものであり、
前記教師有り機械学習における前記問題と原因の因果関係は、前記教師有り機械学習に用いられる前記文書の情報のうちの、前記問題に関連するコンテキストに含まれる前記数式の情報により規定されるものであり、
前記因果関係ツリーは、前記数式から導かれるものである、情報処理システム。
前記教師有り機械学習における前記クエリが示す前記問題は、ある変数の状況を示すものであり、
前記教師有り機械学習に用いられる前記文書の情報のうち、前記問題に関連するコンテキストは、複数の変数の間の関係を示す数式の情報と、前記変数の説明の情報を含むものであり、
前記教師有り機械学習における前記問題と原因の因果関係は、前記教師有り機械学習に用いられる前記文書の情報のうちの、前記問題に関連するコンテキストに含まれる前記数式の情報により規定されるものであり、
前記因果関係ツリーは、前記数式から導かれるものである、情報処理システム。
【請求項10】
請求項６に記載の情報処理システムであって、
前記教師有り機械学習においては、前記教師有り機械学習に用いられる文書における領域のそれぞれについて、前記テキスト的なコンテキストが、コンテキストの内容が無い状態とされることか、または、前記視覚的なコンテキストが、画像データの内容が無い状態とされることの多くとも１つが為された上で、前記テキスト的なコンテキストと前記視覚的なコンテキストは、前記コンテキストフィルタリングモデルまたは前記回答モデルへの入力とされることが可能である、情報処理システム。
前記教師有り機械学習においては、前記教師有り機械学習に用いられる文書における領域のそれぞれについて、前記テキスト的なコンテキストが、コンテキストの内容が無い状態とされることか、または、前記視覚的なコンテキストが、画像データの内容が無い状態とされることの多くとも１つが為された上で、前記テキスト的なコンテキストと前記視覚的なコンテキストは、前記コンテキストフィルタリングモデルまたは前記回答モデルへの入力とされることが可能である、情報処理システム。
【請求項11】
請求項６に記載の情報処理システムであって、
前記注釈付きファイルは、ＸＭＬ形式のファイルであり、
前記視覚的なコンテキストを特定する情報は、前記視覚的なコンテキストを特定するパス名の情報である、情報処理システム。
前記注釈付きファイルは、ＸＭＬ形式のファイルであり、
前記視覚的なコンテキストを特定する情報は、前記視覚的なコンテキストを特定するパス名の情報である、情報処理システム。
【請求項12】
請求項２に記載の情報処理システムであって、
前記文書に含まれる領域のそれぞれについて、前記テキスト的なコンテキストが、コンテキストの内容が無い状態であることか、または、前記視覚的なコンテキストが、画像データの内容が無い状態であることの多くとも１つが成立したまま、前記テキスト的なコンテキストと前記視覚的なコンテキストは、前記コンテキストフィルタリングモデルまたは前記回答モデルへの入力とされることが可能である、情報処理システム。
前記文書に含まれる領域のそれぞれについて、前記テキスト的なコンテキストが、コンテキストの内容が無い状態であることか、または、前記視覚的なコンテキストが、画像データの内容が無い状態であることの多くとも１つが成立したまま、前記テキスト的なコンテキストと前記視覚的なコンテキストは、前記コンテキストフィルタリングモデルまたは前記回答モデルへの入力とされることが可能である、情報処理システム。
【請求項13】
コンピュータに、請求項１乃至１２のいずれかに記載の情報処理システムとして機能させるためのプログラム。
【請求項14】
コンピュータが実行する方法であって、
前記方法は、コンテキストフィルタリングモデルが示す機能を実行するステップと回答モデルが示す機能を実行するステップを備えるものであり、
前記コンテキストフィルタリングモデルが示す機能を実行するステップは、問題を示すクエリと、前記問題と原因の因果関係に関する情報を含む文書の情報に応じて、前記文書の情報から、前記問題に関連するコンテキストを選択するステップを含み、
前記回答モデルが示す機能を実行するステップは、前記問題を示すクエリと、前記文書の情報のうち前記問題に関連するコンテキストに応じて、前記問題の原因を指定するステップを含む、方法。
前記方法は、コンテキストフィルタリングモデルが示す機能を実行するステップと回答モデルが示す機能を実行するステップを備えるものであり、
前記コンテキストフィルタリングモデルが示す機能を実行するステップは、問題を示すクエリと、前記問題と原因の因果関係に関する情報を含む文書の情報に応じて、前記文書の情報から、前記問題に関連するコンテキストを選択するステップを含み、
前記回答モデルが示す機能を実行するステップは、前記問題を示すクエリと、前記文書の情報のうち前記問題に関連するコンテキストに応じて、前記問題の原因を指定するステップを含む、方法。
【請求項15】
プログラムであって、
前記プログラムは、コンピュータに、コンテキストフィルタリングモデルが示す機能を実行するステップと回答モデルが示す機能を実行するステップを実行させるためのものであり、
前記コンテキストフィルタリングモデルが示す機能を実行するステップは、問題を示すクエリと、前記問題と原因の因果関係に関する情報を含む文書の情報に応じて、前記文書の情報から、前記問題に関連するコンテキストを選択するステップを含み、
前記回答モデルが示す機能を実行するステップは、前記問題を示すクエリと、前記文書の情報のうち前記問題に関連するコンテキストに応じて、前記問題の原因を指定するステップを含む、プログラム。
前記プログラムは、コンピュータに、コンテキストフィルタリングモデルが示す機能を実行するステップと回答モデルが示す機能を実行するステップを実行させるためのものであり、
前記コンテキストフィルタリングモデルが示す機能を実行するステップは、問題を示すクエリと、前記問題と原因の因果関係に関する情報を含む文書の情報に応じて、前記文書の情報から、前記問題に関連するコンテキストを選択するステップを含み、
前記回答モデルが示す機能を実行するステップは、前記問題を示すクエリと、前記文書の情報のうち前記問題に関連するコンテキストに応じて、前記問題の原因を指定するステップを含む、プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、問題の原因を推論する技術に関するものである。
【背景技術】
【0002】
問題を早期に解決することや、問題に伴う不具合の発生を回避することや、将来に同様の問題の発生を防ぐことのためには、産業システムにおける問題の原因を突き止めることは、最も重要なステップの一つである。従来、原因を突き止めることはシステムのオペレータ等が行っている。そして、原因を突き止めるに際しては、オペレータ等は多大な労力と時間を必要としていた。例えば、オペレータ等は、仕様書やマニュアルから、問題に対する原因を探していた。
問題に対する原因を突き止める際のコストを削減するために、因果関係モデル（Causal model）または因果関係ツリー（Causal tree）を構築することが知られている。因果関係ツリーは、問題を表す根ノードと、問題の原因を表す他のノード（中間ノードや葉ノード）を含む。因果関係ツリーにおいて、あるノードと別のノードが接続されていることは、当該あるノードが表す問題と、当該別のノードが表す原因の間の因果関係を示すか、または、当該有るノードが表す原因と、当該別のノードが表す”原因の原因”の間の因果関係を示す。
非特許文献１には、障害情報データベース（Fault information DB）またはトラブル情報（Trouble information）から、因果関係モデルを自動抽出する技術が開示されている。非特許文献１に開示された先行技術は、事前に構築された部品及び現象辞書（Part,phenomenon dictionary）を用いつつ、ルールベースの手法または経験則的な（ヒューリスティックな）手法により、因果関係モデル（因果関係ツリー）を構築する。因果関係モデル（因果関係ツリー）の構築後に、オペレータ等が、問題を因果関係モデルを実現する情報処理システムに与えると、当該情報処理システムは、因果関係モデルを用いた原因の推論を行う。推論により得られた原因の情報は、オペレータ等が問題に関する診断を行うために用いられる。
なお、非特許文献２には、画像に関するテキストによる質問に対して、テキストにて回答することに関するVisual Question Answering（ＶＱＡ）の技術が開示されている。ＶＱＡは、画像の視覚的特徴と、テキストによる質問の言語的またはテキスト的特徴の両方を一つのモデルで表現して、画像に関する質問に直接回答するものである。ＶＱＡの手法は、非特許文献３に開示されているトランスフォーマの技術を活用することにより、効果的になっている。ただし、画像内の回答のコンテキストに制約がある。
問題に対する原因を突き止める際のコストを削減するために、因果関係モデル（Causal model）または因果関係ツリー（Causal tree）を構築することが知られている。因果関係ツリーは、問題を表す根ノードと、問題の原因を表す他のノード（中間ノードや葉ノード）を含む。因果関係ツリーにおいて、あるノードと別のノードが接続されていることは、当該あるノードが表す問題と、当該別のノードが表す原因の間の因果関係を示すか、または、当該有るノードが表す原因と、当該別のノードが表す”原因の原因”の間の因果関係を示す。
非特許文献１には、障害情報データベース（Fault information DB）またはトラブル情報（Trouble information）から、因果関係モデルを自動抽出する技術が開示されている。非特許文献１に開示された先行技術は、事前に構築された部品及び現象辞書（Part,phenomenon dictionary）を用いつつ、ルールベースの手法または経験則的な（ヒューリスティックな）手法により、因果関係モデル（因果関係ツリー）を構築する。因果関係モデル（因果関係ツリー）の構築後に、オペレータ等が、問題を因果関係モデルを実現する情報処理システムに与えると、当該情報処理システムは、因果関係モデルを用いた原因の推論を行う。推論により得られた原因の情報は、オペレータ等が問題に関する診断を行うために用いられる。
なお、非特許文献２には、画像に関するテキストによる質問に対して、テキストにて回答することに関するVisual Question Answering（ＶＱＡ）の技術が開示されている。ＶＱＡは、画像の視覚的特徴と、テキストによる質問の言語的またはテキスト的特徴の両方を一つのモデルで表現して、画像に関する質問に直接回答するものである。ＶＱＡの手法は、非特許文献３に開示されているトランスフォーマの技術を活用することにより、効果的になっている。ただし、画像内の回答のコンテキストに制約がある。
【先行技術文献】
【非特許文献】
【0003】
【非特許文献1】清水勇喜，”不具合情報からの因果モデル自動抽出技術の開発”，第２９回設計工学・システム部門講演会講演論文集，一般社団法人日本機械学会，２０１９年９月２５日，全９頁（セッションＩＤ：３２０３）
【非特許文献2】Stanislaw Antol, et al., "VQA : Visual Question Answering", Proceedings of the International Conference on Computer Vision(ICCV) 2015, IEEE, 7 December 2015, pp. 2425-2433
【非特許文献3】Ashish Vaswani, et al., "Attention Is All You Need", Proceedings of 31st Conference on Neural Information Processing Systems(NIPS 2017), arXiv, 12 Jun 2017 Submitted, 6 Dec 2017 Last revised, all 15 pages
【非特許文献4】Ze Liu, et al., "Swin Transformer : Hierarchical Vision Transformer using Shifted Windows", Proceedings of the IEEE/CVF International Conference on Computer Vision(ICCV) 2021, IEEE, 10 October 2021, pp. 10012-10022
【発明の概要】
【発明が解決しようとする課題】
【0004】
非特許文献１に開示された先行技術は、因果関係ツリーを構築する際に、ルールベースの手法または経験則的な（ヒューリスティックな）手法を用いている。そのため、非特許文献１に開示された先行技術は、ルール等を構築するためのコストが依然として大きい上に、構築されたルール等を適用出来る対象（例えば、問題と原因の因果関係に関する情報を有する文書）の範囲が限定される恐れがある。
そこで、機械学習（例えばディープラーニング）により構築された学習済みモデルを実現することにより、因果関係ツリーを構築することが検討されうる。機械学習によるモデルを用いた因果関係ツリーの構築が実現されるならば、因果関係ツリーを構築するためのコストを削減出来るとともに、因果関係ツリーを構築するために用いる情報源（例えば、問題と原因の因果関係に関する情報を有する文書）として幅広い種類のものが取り扱い可能となることが期待出来る。
ここで、文書において、問題と原因の因果関係に関する情報が、文章以外にも含まれているケースを想定する。例えば、文書に記載された数式は、数式に含まれる変数の間の因果関係を表現出来る。また、数式以外にも、文書に記載された図表も、図表に含まれる情報の間の因果関係を表現しうる。
このような文書の情報から因果関係ツリーを構築した上で、問題から原因を推定するに至るまでの工程としては、以下のステップが含まれうる。まずは、文書の情報が、テキスト情報を編集出来ないタイプのＰＤＦファイルのような画像データである場合は、以下の５つのステップが想定出来る。
（１）レイアウト認識（Layout recognition）。画像データにおける、テキスト部分のレイアウト、数学的表現（数式）のレイアウト、図表のレイアウトが認識されるステップである。
（２）光学的な手段（文字に関しては光学的文字認識ＯＣＲ）による、レイアウト毎の情報の読み取り。上記（１）で認識されたレイアウトを踏まえつつ、光学的な手段により、文書から情報が読み取られるステップである。例えば、上記（１）と（２）の一部については、何らかのテキスト画像認識モデルを構築することが想定される。
（３）因果関係を表現するもの（例えば、数式）の抽出と、因果関係ツリーのノードに対応付けられるもの（例えば、数式に含まれる変数）に関する定義情報の抽出。上記（２）により読み取られた情報のうち、因果関係を表現するもの（例えば、数式）が抽出されるとともに、因果関係ツリーのノードに対応付けられるもの（例えば、数式に含まれる変数）のそれぞれを説明（定義）する情報（この情報は、文章のなかにあることが多い）が抽出されるステップである。上記（３）の一部については、何らかの自然言語処理モデルを構築することが想定される。
（４）因果関係を表現するもの（例えば、数式）の構文解析（Syntactic analysis）。構文解析により、因果関係ツリーのノードに対応付けられるもの（例えば、数式に含まれる変数）どうしの関係が認識されるステップである。つまりは、因果関係ツリーが構築されるステップである。このステップには因果関係ツリーデータベース（ＤＢ）の作成処理も含まれうる。
（５）因果関係ツリーを用いた原因推論。上記の（４）により構築された因果関係ツリー（ＤＢ）を用いることにより、問題に対する原因が推論されるステップである。
また、文書の情報が、テキストデータ（文字コードを編集可能なデータ）である場合は、以上のステップのうち（３）（４）（５）からなる３つのステップが想定出来る。
ここで、上記のステップのそれぞれについて、機械学習（例えば、ディープラーニング）により構築された学習済みモデルを実現しようとする場合には、上記のステップのそれぞれについて、機械学習用のデータを用意する必要と機械学習を実行する必要がある。上記のステップに基づいて、５つのモデルまたは３つのモデルを想定するならば、機械学習用のデータも膨大なものとなりかねない。機械学習用のデータを収集することも、収集したデータに注釈を付けることも、作業負担を増大させうる。
また、上記のステップのそれぞれについて、機械学習（例えば、ディープラーニング）により構築された学習済みモデルを実現しようとする場合には、モデル毎に生じる誤差（エラー）が蓄積されて、問題に対する原因を推論するための情報処理システム全体として、問題に対する原因の推論の結果に、許容できない誤差（エラー）が生じる恐れがある。
そこで、機械学習（例えばディープラーニング）により構築された学習済みモデルを実現することにより、因果関係ツリーを構築することが検討されうる。機械学習によるモデルを用いた因果関係ツリーの構築が実現されるならば、因果関係ツリーを構築するためのコストを削減出来るとともに、因果関係ツリーを構築するために用いる情報源（例えば、問題と原因の因果関係に関する情報を有する文書）として幅広い種類のものが取り扱い可能となることが期待出来る。
ここで、文書において、問題と原因の因果関係に関する情報が、文章以外にも含まれているケースを想定する。例えば、文書に記載された数式は、数式に含まれる変数の間の因果関係を表現出来る。また、数式以外にも、文書に記載された図表も、図表に含まれる情報の間の因果関係を表現しうる。
このような文書の情報から因果関係ツリーを構築した上で、問題から原因を推定するに至るまでの工程としては、以下のステップが含まれうる。まずは、文書の情報が、テキスト情報を編集出来ないタイプのＰＤＦファイルのような画像データである場合は、以下の５つのステップが想定出来る。
（１）レイアウト認識（Layout recognition）。画像データにおける、テキスト部分のレイアウト、数学的表現（数式）のレイアウト、図表のレイアウトが認識されるステップである。
（２）光学的な手段（文字に関しては光学的文字認識ＯＣＲ）による、レイアウト毎の情報の読み取り。上記（１）で認識されたレイアウトを踏まえつつ、光学的な手段により、文書から情報が読み取られるステップである。例えば、上記（１）と（２）の一部については、何らかのテキスト画像認識モデルを構築することが想定される。
（３）因果関係を表現するもの（例えば、数式）の抽出と、因果関係ツリーのノードに対応付けられるもの（例えば、数式に含まれる変数）に関する定義情報の抽出。上記（２）により読み取られた情報のうち、因果関係を表現するもの（例えば、数式）が抽出されるとともに、因果関係ツリーのノードに対応付けられるもの（例えば、数式に含まれる変数）のそれぞれを説明（定義）する情報（この情報は、文章のなかにあることが多い）が抽出されるステップである。上記（３）の一部については、何らかの自然言語処理モデルを構築することが想定される。
（４）因果関係を表現するもの（例えば、数式）の構文解析（Syntactic analysis）。構文解析により、因果関係ツリーのノードに対応付けられるもの（例えば、数式に含まれる変数）どうしの関係が認識されるステップである。つまりは、因果関係ツリーが構築されるステップである。このステップには因果関係ツリーデータベース（ＤＢ）の作成処理も含まれうる。
（５）因果関係ツリーを用いた原因推論。上記の（４）により構築された因果関係ツリー（ＤＢ）を用いることにより、問題に対する原因が推論されるステップである。
また、文書の情報が、テキストデータ（文字コードを編集可能なデータ）である場合は、以上のステップのうち（３）（４）（５）からなる３つのステップが想定出来る。
ここで、上記のステップのそれぞれについて、機械学習（例えば、ディープラーニング）により構築された学習済みモデルを実現しようとする場合には、上記のステップのそれぞれについて、機械学習用のデータを用意する必要と機械学習を実行する必要がある。上記のステップに基づいて、５つのモデルまたは３つのモデルを想定するならば、機械学習用のデータも膨大なものとなりかねない。機械学習用のデータを収集することも、収集したデータに注釈を付けることも、作業負担を増大させうる。
また、上記のステップのそれぞれについて、機械学習（例えば、ディープラーニング）により構築された学習済みモデルを実現しようとする場合には、モデル毎に生じる誤差（エラー）が蓄積されて、問題に対する原因を推論するための情報処理システム全体として、問題に対する原因の推論の結果に、許容できない誤差（エラー）が生じる恐れがある。
【0005】
以上を踏まえて、問題に対する原因を推論するためのコストを削減することを、本開示の目的の１つとしてよい。または、問題に対する原因を推論することが適用出来る範囲を広げることを、本開示の目的の１つとしてよい。または、問題に対する原因を推論する際における誤差（エラー）の低減を図ることを、本開示の目的の１つとしてよい。
【課題を解決するための手段】
【0006】
上記目的のうちの少なくとも一つを達成するために、本開示が備えうる特徴は、例えば次のとおりである。
本開示の１つは、コンテキストフィルタリングモデルが示す機能と回答モデルが示す機能を実現する情報処理システムである。前記情報処理システムは、問題を示すクエリと、前記問題と原因の因果関係に関する情報を含む文書の情報に応じて、前記コンテキストフィルタリングモデルが示す機能に基づいて、前記文書の情報から、前記問題に関連するコンテキストを選択するものである。前記情報処理システムは、前記問題を示すクエリと、前記文書の情報のうち前記問題に関連するコンテキストに応じて、前記回答モデルが示す機能に基づいて、前記問題の原因を指定するものである。
本開示の１つは、コンテキストフィルタリングモデルが示す機能と回答モデルが示す機能を実現する情報処理システムである。前記情報処理システムは、問題を示すクエリと、前記問題と原因の因果関係に関する情報を含む文書の情報に応じて、前記コンテキストフィルタリングモデルが示す機能に基づいて、前記文書の情報から、前記問題に関連するコンテキストを選択するものである。前記情報処理システムは、前記問題を示すクエリと、前記文書の情報のうち前記問題に関連するコンテキストに応じて、前記回答モデルが示す機能に基づいて、前記問題の原因を指定するものである。
【発明の効果】
【0007】
以上のように、本開示は、モデルを用いて問題に対する原因を推論（指定）する。そのため、ルールベースの手法などを用いる先行技術よりも、本開示は、問題に対する原因を推論するためのコストを削減することが出来る。また、このコスト削減に伴って、ルールベースの手法などを用いる先行技術よりも、本開示は、問題に対する原因を推論することが適用出来る範囲を広げることが出来る。
また、以上のように、本開示は、問題に対する原因を推論（指定）するために、コンテキストフィルタリングモデルと回答モデルを用いる。このように、本開示は、用いるモデルの数が２つであるので、問題と原因の因果関係に関する情報を有する文書の情報から因果関係ツリーを構築した上で、問題から原因を推定するに至るまでの工程として想定しうるステップのそれぞれをそのまま個々のモデルとした場合に比べて、本開示は、問題に対する原因を推論するためのコストを削減することが出来る。また、このモデルの数の削減に伴って誤差（エラー）の蓄積が少なくなるゆえ、上記した工程として想定しうるステップのそれぞれをそのまま個々のモデルとした場合に比べて、本開示は、問題に対する原因を推論する際における誤差（エラー）の低減を図ることが出来る。
また、以上のように、本開示は、問題に対する原因を推論（指定）するために、コンテキストフィルタリングモデルと回答モデルを用いる。このように、本開示は、用いるモデルの数が２つであるので、問題と原因の因果関係に関する情報を有する文書の情報から因果関係ツリーを構築した上で、問題から原因を推定するに至るまでの工程として想定しうるステップのそれぞれをそのまま個々のモデルとした場合に比べて、本開示は、問題に対する原因を推論するためのコストを削減することが出来る。また、このモデルの数の削減に伴って誤差（エラー）の蓄積が少なくなるゆえ、上記した工程として想定しうるステップのそれぞれをそのまま個々のモデルとした場合に比べて、本開示は、問題に対する原因を推論する際における誤差（エラー）の低減を図ることが出来る。
【0008】
上記の情報処理システムが実現する処理と同様のことを実現するコンピュータが実行する方法やプログラムも、上記の情報処理システムと同様の作用効果を得ることが出来る。更に、プログラムの態様であれば、多くの場合で費用は削減される。プログラムでは、処理に関する設計変更も行われやすい。
上記以外の本開示が備えうる特徴、及び、当該特徴に対応する作用効果は、この明細書、特許請求の範囲または図面に開示される。
上記以外の本開示が備えうる特徴、及び、当該特徴に対応する作用効果は、この明細書、特許請求の範囲または図面に開示される。
【図面の簡単な説明】
【0009】
【図1】本開示の実施形態の機能構成を示す。
【図2】本開示の実施形態で扱う問題と原因の例を示す。
【図3】問題に関連するコンテキストに含まれる情報の例を示す。
【図4】因果関係ツリーの例を示す。
【図5】本開示の実施形態を実現するコンピュータアーキテクチャを示す。
【図6】コンテキストフィルタリングモデルの内部構成を示す。
【図7】文書の領域（頁）ごとの各種のコンテキストを示す。
【図8】各種のコンテキストの例を示す。
【図9】回答モデルの内部構成を示す。
【図10】コンテキストフィルタリングモデルを構築するための機械学習を示す。
【図11】機械学習に用いる注釈付きファイル（ＸＭＬ）の例を示す。
【図12】回答モデルを構築するための機械学習を示す。
【図13】注釈付きファイルの編集を行うための情報処理システムを示す。
【図14】注釈付きファイルの編集画面を示す。
【発明を実施するための形態】
【0010】
以下、図面を参照して本開示（本開示を実現するためのものであって、機械学習処理に関するものと、注釈付きファイルの編集に関するものも含む。以下、この段落［００１０］において同じ。）の実施形態を詳細に説明する。尚、以下に説明する実施形態は特許請求の範囲にかかる開示を限定するものではなく、また実施形態の中で説明されている諸要素及びその組み合わせの全てが本開示の解決手段に必須であるとは限らない。以下の記載及び図面は、本開示を説明するための例示であって、説明の明確化のため、適宜、省略及び簡略化がなされている。本開示は、他の種々の形態でも実施する事が可能である。特に限定しない限り、各構成要素は単数でも複数でも構わない。図面において示す各構成要素の位置、大きさ、形状、範囲などは、発明の理解を容易にするため、実際の位置、大きさ、形状、範囲などを表していない場合がある。このため、本開示は、必ずしも、図面に開示された位置、大きさ、形状、範囲などに限定されない。
本開示のシステム、装置、モデル、各種エンコーダ、算出器、選択器、デコーダ、パーセプトロン、または、部のそれぞれは、ハードウェア的に一つにまとまったものでもよいし、複数の部分に分かれていて当該部分どうしが連携して役割を果たすものでもよい。幾つかのシステム、装置、モデル、各種エンコーダ、算出器、選択器、デコーダ、パーセプトロン、または、部がハードウェア的に統合されてもよい。システム、装置、モデル、各種エンコーダ、算出器、選択器、デコーダ、パーセプトロン、または、部のそれぞれは、（図５のように）コンピュータにソフトウェア（プログラム）を実行させることにより実現されてよい。システム、装置、モデル、各種エンコーダ、算出器、選択器、デコーダ、パーセプトロン、または、部の機能の一部は、ハードウェア（例えば、ハードワイヤードロジックやＦＰＧＡ）で実現され、残りの機能は、ソフトウェア（プログラム）が実行されることにより実現されてもよい。システム、装置、モデル、各種エンコーダ、算出器、選択器、デコーダ、パーセプトロン、または、部のそれぞれの機能の全てはハードウェア的に実現されてもよい。本開示にて説明される処理のステップの一部または全部は、ハードウェア的に実現されてもよい。
本開示のプログラムは、ソフトウェアとハードウェア資源とが協働することによって、使用目的に応じた特有の情報処理装置またはその動作方法が構築されるような、当該ソフトウェアに該当するもの一般を包含する概念に含まれるものであればよい。つまり、本開示のプログラムは、特定の種類や態様のプログラムに限定されない。また、プログラムは当初は圧縮形式で記録されるものでもよい。
複数の図面で同じ参照番号を用いているものは、同様のものであることを示す。また、以下で説明する図面において示される画面の態様は一例であり、これらに限定されない。
本開示のシステム、装置、モデル、各種エンコーダ、算出器、選択器、デコーダ、パーセプトロン、または、部のそれぞれは、ハードウェア的に一つにまとまったものでもよいし、複数の部分に分かれていて当該部分どうしが連携して役割を果たすものでもよい。幾つかのシステム、装置、モデル、各種エンコーダ、算出器、選択器、デコーダ、パーセプトロン、または、部がハードウェア的に統合されてもよい。システム、装置、モデル、各種エンコーダ、算出器、選択器、デコーダ、パーセプトロン、または、部のそれぞれは、（図５のように）コンピュータにソフトウェア（プログラム）を実行させることにより実現されてよい。システム、装置、モデル、各種エンコーダ、算出器、選択器、デコーダ、パーセプトロン、または、部の機能の一部は、ハードウェア（例えば、ハードワイヤードロジックやＦＰＧＡ）で実現され、残りの機能は、ソフトウェア（プログラム）が実行されることにより実現されてもよい。システム、装置、モデル、各種エンコーダ、算出器、選択器、デコーダ、パーセプトロン、または、部のそれぞれの機能の全てはハードウェア的に実現されてもよい。本開示にて説明される処理のステップの一部または全部は、ハードウェア的に実現されてもよい。
本開示のプログラムは、ソフトウェアとハードウェア資源とが協働することによって、使用目的に応じた特有の情報処理装置またはその動作方法が構築されるような、当該ソフトウェアに該当するもの一般を包含する概念に含まれるものであればよい。つまり、本開示のプログラムは、特定の種類や態様のプログラムに限定されない。また、プログラムは当初は圧縮形式で記録されるものでもよい。
複数の図面で同じ参照番号を用いているものは、同様のものであることを示す。また、以下で説明する図面において示される画面の態様は一例であり、これらに限定されない。
【0011】
１．本開示の実施形態の機能構成
図１は、本開示の実施形態の機能構成を示す。尚、図１に示す全ての機能構成が必須というわけではない。
図１において、情報処理システム１００はコンテキストフィルタリングモデル１０１の機能と回答モデル１０２の機能を実現するものである。例えば、後述の図５に示すコンピュータアーキテクチャを有するハードウェアが、モデルの機能を記述したプログラムを実行し、モデルパラメータを用いることにより、モデルのそれぞれの機能が実現されてよい。または、モデルの一部または全部の機能が、よりハードウェア的に実現されてもよい。
コンテキストフィルタリングモデル１０１は、問題を示すクエリ１０３と、問題と原因の因果関係に関する情報を含む文書の情報１０４に応じて、文書の情報１０４から、問題に関連するコンテキスト１０５を選択するためのものである。図１では、コンテキストフィルタリングモデル１０１により選択された、問題に関連するコンテキスト１０５を識別する情報を、問題に関連するコンテキストの選択情報１０６としている。
回答モデル１０２は、問題を示すクエリ１０３と、問題に関連するコンテキスト１０５に応じて、問題の原因を指定する（推論する）ためのものである。図１では、回答モデル１０２により指定（推論）された、問題の原因を識別する情報を、問題の原因を指定する情報１０７としている。
図１は、本開示の実施形態の機能構成を示す。尚、図１に示す全ての機能構成が必須というわけではない。
図１において、情報処理システム１００はコンテキストフィルタリングモデル１０１の機能と回答モデル１０２の機能を実現するものである。例えば、後述の図５に示すコンピュータアーキテクチャを有するハードウェアが、モデルの機能を記述したプログラムを実行し、モデルパラメータを用いることにより、モデルのそれぞれの機能が実現されてよい。または、モデルの一部または全部の機能が、よりハードウェア的に実現されてもよい。
コンテキストフィルタリングモデル１０１は、問題を示すクエリ１０３と、問題と原因の因果関係に関する情報を含む文書の情報１０４に応じて、文書の情報１０４から、問題に関連するコンテキスト１０５を選択するためのものである。図１では、コンテキストフィルタリングモデル１０１により選択された、問題に関連するコンテキスト１０５を識別する情報を、問題に関連するコンテキストの選択情報１０６としている。
回答モデル１０２は、問題を示すクエリ１０３と、問題に関連するコンテキスト１０５に応じて、問題の原因を指定する（推論する）ためのものである。図１では、回答モデル１０２により指定（推論）された、問題の原因を識別する情報を、問題の原因を指定する情報１０７としている。
【0012】
図１の機能構成を具体的な事例を用いて説明する。ここでは、問題と原因の因果関係に関する情報が数式により与えられる事例を取り上げるが、本開示は数式の取り扱いのみに限定されるものではない。例えば、本開示は図表の取り扱いにも用いることが出来る。
図２は、問題と原因に関する情報が数式により与えられる事例における、モデルのそれぞれの機能を実現する情報処理システム１００への入力と出力の例を示す。図２では、文書の情報１０４、問題に関連するコンテキスト１０５、問題に関連するコンテキストの選択情報１０６の図示は省略されているが、図１と同様にこれらの情報も、モデルのそれぞれに入出力されている。
コンテキストフィルタリングモデル１０１と回答モデル１０２の両方への入力となるクエリ１０３は、原因を推論したい問題を示す。問題と原因に関する情報が数式により与えられる事例の場合は、クエリ１０３が示す問題は、例えば、数式に含まれる変数を特定する情報（図２では、問題に含まれる変数２０１としている。）と、当該変数の状況を特定する情報の組み合わせとしてよい。（さらに、クエリ１０３は、問題に含まれる変数２０１の説明（定義）を特定する情報も含んでよい。）図２に示される例では、「T(t)」という変数を特定する情報と、「高い」という変数の状況を特定する情報の組み合わせにより、クエリ１０３は「T(t)が高い」と表現される。
回答モデルからの出力となる問題の原因を指定する情報１０７は、クエリ１０３が示す問題（図２では「T(t)が高い」という問題）に対する原因の候補を示す。問題と原因に関する情報が数式により与えられる事例の場合は、問題の原因を指定する情報１０７に含まれる原因の候補のそれぞれは、例えば、数式に含まれる変数を特定する情報（図２では、原因に含まれる変数２０２としている。）と、当該変数の状況を特定する情報の組み合わせとしてよい。（さらに、問題の原因を指定する情報１０７は、原因に含まれる変数２０２の説明（定義）を特定する情報も含んでよい。）図２に示される例では、例えば「A」という変数を特定する情報と、「大きい」という変数の状況を特定する情報の組み合わせにより、問題の原因を指定する情報１０７は、原因の候補として「Aが大きい」と表現されるものを有する。なお、問題に対する原因の候補は複数存在しうるものであるから、問題の原因を指定する情報１０７も、原因の候補として複数のものを有してよい。ここで、問題の原因を指定する情報１０７は、原因の候補の全てを網羅して有するものであってもよいし、原因の候補となりうるものの一部を有するものであってもよい。
図２は、問題と原因に関する情報が数式により与えられる事例における、モデルのそれぞれの機能を実現する情報処理システム１００への入力と出力の例を示す。図２では、文書の情報１０４、問題に関連するコンテキスト１０５、問題に関連するコンテキストの選択情報１０６の図示は省略されているが、図１と同様にこれらの情報も、モデルのそれぞれに入出力されている。
コンテキストフィルタリングモデル１０１と回答モデル１０２の両方への入力となるクエリ１０３は、原因を推論したい問題を示す。問題と原因に関する情報が数式により与えられる事例の場合は、クエリ１０３が示す問題は、例えば、数式に含まれる変数を特定する情報（図２では、問題に含まれる変数２０１としている。）と、当該変数の状況を特定する情報の組み合わせとしてよい。（さらに、クエリ１０３は、問題に含まれる変数２０１の説明（定義）を特定する情報も含んでよい。）図２に示される例では、「T(t)」という変数を特定する情報と、「高い」という変数の状況を特定する情報の組み合わせにより、クエリ１０３は「T(t)が高い」と表現される。
回答モデルからの出力となる問題の原因を指定する情報１０７は、クエリ１０３が示す問題（図２では「T(t)が高い」という問題）に対する原因の候補を示す。問題と原因に関する情報が数式により与えられる事例の場合は、問題の原因を指定する情報１０７に含まれる原因の候補のそれぞれは、例えば、数式に含まれる変数を特定する情報（図２では、原因に含まれる変数２０２としている。）と、当該変数の状況を特定する情報の組み合わせとしてよい。（さらに、問題の原因を指定する情報１０７は、原因に含まれる変数２０２の説明（定義）を特定する情報も含んでよい。）図２に示される例では、例えば「A」という変数を特定する情報と、「大きい」という変数の状況を特定する情報の組み合わせにより、問題の原因を指定する情報１０７は、原因の候補として「Aが大きい」と表現されるものを有する。なお、問題に対する原因の候補は複数存在しうるものであるから、問題の原因を指定する情報１０７も、原因の候補として複数のものを有してよい。ここで、問題の原因を指定する情報１０７は、原因の候補の全てを網羅して有するものであってもよいし、原因の候補となりうるものの一部を有するものであってもよい。
【0013】
図３は、問題と原因の因果関係に関する情報が数式により与えられる事例における、問題に関するコンテキスト１０５に含まれる情報の例を示す。この例は、図２に示す問題と原因の例に対応している。
問題と原因の因果関係に関する情報が数式により与えられる事例においては、問題に関するコンテキスト１０５には、例えば、数式の情報と、数式に含まれる変数のそれぞれを説明（または定義）する情報が含まれてよい。
図２における「T(t)が高い」という問題に対する原因を推論することに利用できる数式の情報として、図３に示すT(t)を求める数式の情報３０１が、問題に関連するコンテキスト１０５に含まれうる。図３の例では、T(t)を求める数式の情報３０１は、変数T(t)を求めるために、変数Tinfと変数T0と変数Aと変数Cと変数kと変数tを含む数式が用いられることを示す。さらには、T(t)を求める数式の情報３０１で示される変数の１つであるkについて、kを求める数式の情報３０２が、問題に関連するコンテキスト１０５に含まれうる。図３の例では、変数kを求める数式の情報３０２は、変数kを求めるために、変数Lと変数λ（lambda）と変数hoを含む数式が用いられることを示す。
そして、問題に関連するコンテキスト１０５には、T(t)を求める数式の情報３０１に含まれる変数のそれぞれ（T(t)とTinfとT0とAとCとkとt）を説明（定義）する情報３０３と、kを求める数式の情報３０２に含まれる変数のそれぞれ（kとLとλ（lambda）とho）を説明（定義）する情報３０４が含まれてよい。変数のそれぞれを説明（定義）する情報である３０３や３０４は、問題に関連するコンテキスト１０５において、文章中に示される情報からもたらされてもよいし、数式に添付された箇条書きの定義情報からもたらされてもよい。図３の例では、T(t)の定義は時刻tにおける保冷容器内の温度とされ、Tinfの定義は外気温とされ、T0の定義は保冷容器内の初期温度とされ、Aの定義は保冷容器の表面積とされ、Cの定義は保冷容器と食品を合わせた熱容量とされ、kの定義は保冷容器の熱貫流率とされ、tの定義は時刻とされ、Lの定義は保冷容器の厚みとされ、λ（lambda）の定義は保冷容器の熱伝導率とされ、hoの定義は自然熱伝達率とされる。
問題と原因の因果関係に関する情報が数式により与えられる事例においては、問題に関するコンテキスト１０５には、例えば、数式の情報と、数式に含まれる変数のそれぞれを説明（または定義）する情報が含まれてよい。
図２における「T(t)が高い」という問題に対する原因を推論することに利用できる数式の情報として、図３に示すT(t)を求める数式の情報３０１が、問題に関連するコンテキスト１０５に含まれうる。図３の例では、T(t)を求める数式の情報３０１は、変数T(t)を求めるために、変数Tinfと変数T0と変数Aと変数Cと変数kと変数tを含む数式が用いられることを示す。さらには、T(t)を求める数式の情報３０１で示される変数の１つであるkについて、kを求める数式の情報３０２が、問題に関連するコンテキスト１０５に含まれうる。図３の例では、変数kを求める数式の情報３０２は、変数kを求めるために、変数Lと変数λ（lambda）と変数hoを含む数式が用いられることを示す。
そして、問題に関連するコンテキスト１０５には、T(t)を求める数式の情報３０１に含まれる変数のそれぞれ（T(t)とTinfとT0とAとCとkとt）を説明（定義）する情報３０３と、kを求める数式の情報３０２に含まれる変数のそれぞれ（kとLとλ（lambda）とho）を説明（定義）する情報３０４が含まれてよい。変数のそれぞれを説明（定義）する情報である３０３や３０４は、問題に関連するコンテキスト１０５において、文章中に示される情報からもたらされてもよいし、数式に添付された箇条書きの定義情報からもたらされてもよい。図３の例では、T(t)の定義は時刻tにおける保冷容器内の温度とされ、Tinfの定義は外気温とされ、T0の定義は保冷容器内の初期温度とされ、Aの定義は保冷容器の表面積とされ、Cの定義は保冷容器と食品を合わせた熱容量とされ、kの定義は保冷容器の熱貫流率とされ、tの定義は時刻とされ、Lの定義は保冷容器の厚みとされ、λ（lambda）の定義は保冷容器の熱伝導率とされ、hoの定義は自然熱伝達率とされる。
【0014】
図４は、数式と因果関係ツリーの関係の例を示す。この例は、図２に示す問題と原因の例に対応し、図３に示す数式の例に対応する。
T(t)を求める数式の情報３０１は、T(t)が、TinfとT0とAとCとkとtを含む数式で求められるものであることを示す。このことを因果関係ツリー４０１で表現するために、因果関係ツリー４０１は、根ノード４０２に変数T(t)を含み、当該根ノード４０２に直接接続されるノードとして、変数Tinfを含むノードと、T0を含むノードと、Aを含むノードと、Cを含むノードと、kを含むノードと、tを含むノードを備えてよい。
kを求める数式の情報３０２は、kが、Lとλ（lambda）とhoを含む数式で求められるものであることを示す。このことを因果関係ツリー４０１で表現するために、因果関係ツリー４０１は、kを含むノードに直接接続されるノードとして、変数Lを含むノードと、変数λ（lambda）を含むノードと、変数hoを含むノードを備えてよい。
因果関係ツリー４０１において、根ノード４０２以外のノードは、他のノードとの接続関係次第で、中間ノード４０３または葉ノード４０４として扱われてよい。図４の例では、根ノード４０２であるT(t)を含むノード以外のノードのうち、kを含むノードは中間ノード４０３として扱われてよく、その他のノードは葉ノード４０４として扱われてよい。
数式は、当該数式に含まれるある変数の値がどのように変化すると、当該数式に含まれる別の変数の値がどのように変化するのかを示していることがある。例えば、図３及び図４に示されている、T(t)を求める数式の情報３０１は、（保冷容器が取り扱われることが想定される通常の環境を前提にすれば、）変数Tinfの値が高いほど、変数T(t)の値が高くなることを示す。そのため、因果関係ツリー４０１のノードのそれぞれは、単に変数を特定する情報を含むのみではなく、当該変数の状況を特定する情報も含んでよい。例えば、因果関係ツリー４０１の根ノード４０２には、「T(t)」を示す変数を特定する情報とともに、「高い」を示す変数の状況（の１つ）を特定する情報を含ませてよい。また、因果関係ツリー４０１の葉ノード４０４の１つには、「Tinf」を示す変数を特定するとともに、「高い」を示す変数の状況（の１つ）を特定する情報を含ませてよい。このようにすれば、因果関係ツリー４０１は、「T(t)が高い」ことと「Tinfが高い」ことを関連付けることが出来る。
T(t)を求める数式の情報３０１は、T(t)が、TinfとT0とAとCとkとtを含む数式で求められるものであることを示す。このことを因果関係ツリー４０１で表現するために、因果関係ツリー４０１は、根ノード４０２に変数T(t)を含み、当該根ノード４０２に直接接続されるノードとして、変数Tinfを含むノードと、T0を含むノードと、Aを含むノードと、Cを含むノードと、kを含むノードと、tを含むノードを備えてよい。
kを求める数式の情報３０２は、kが、Lとλ（lambda）とhoを含む数式で求められるものであることを示す。このことを因果関係ツリー４０１で表現するために、因果関係ツリー４０１は、kを含むノードに直接接続されるノードとして、変数Lを含むノードと、変数λ（lambda）を含むノードと、変数hoを含むノードを備えてよい。
因果関係ツリー４０１において、根ノード４０２以外のノードは、他のノードとの接続関係次第で、中間ノード４０３または葉ノード４０４として扱われてよい。図４の例では、根ノード４０２であるT(t)を含むノード以外のノードのうち、kを含むノードは中間ノード４０３として扱われてよく、その他のノードは葉ノード４０４として扱われてよい。
数式は、当該数式に含まれるある変数の値がどのように変化すると、当該数式に含まれる別の変数の値がどのように変化するのかを示していることがある。例えば、図３及び図４に示されている、T(t)を求める数式の情報３０１は、（保冷容器が取り扱われることが想定される通常の環境を前提にすれば、）変数Tinfの値が高いほど、変数T(t)の値が高くなることを示す。そのため、因果関係ツリー４０１のノードのそれぞれは、単に変数を特定する情報を含むのみではなく、当該変数の状況を特定する情報も含んでよい。例えば、因果関係ツリー４０１の根ノード４０２には、「T(t)」を示す変数を特定する情報とともに、「高い」を示す変数の状況（の１つ）を特定する情報を含ませてよい。また、因果関係ツリー４０１の葉ノード４０４の１つには、「Tinf」を示す変数を特定するとともに、「高い」を示す変数の状況（の１つ）を特定する情報を含ませてよい。このようにすれば、因果関係ツリー４０１は、「T(t)が高い」ことと「Tinfが高い」ことを関連付けることが出来る。
【0015】
さて、図２のごとく、クエリ１０３が「T(t)が高い」という問題を示す際に、当該問題に対応する原因が特定されるためには、図３のような内容の情報を有するコンテキスト、つまり、「T(t)が高い」という問題に関連するコンテキスト１０５が、文書のなかで特定されてよい。文書の情報１０４に対応する文書の分量は膨大であることが多い。その場合に、クエリ１０３にて問題が示された場合に、情報処理システム１００は、まず、膨大な分量を有する文書の情報１０４から、当該問題に対応する原因を特定するために用いることが出来る情報を有する、問題に関連するコンテキスト１０５を選択して（絞り込んで）よい。このような、文書の情報１０４のうち問題に関連するコンテキスト１０５を選択する（絞り込む）ためのものが、コンテキストフィルタリングモデル１０１である。
その一方で、コンテキストフィルタリングモデル１０１により選択した（絞り込んだ）問題に関するコンテキスト１０５から、図３や図４で示した変数間の因果関係に関する情報を抽出して、抽出した因果関係に関する情報を用いて、クエリ１０３が示す問題に対する原因を指定（推論）するためのものが、回答モデル１０２である。
その一方で、コンテキストフィルタリングモデル１０１により選択した（絞り込んだ）問題に関するコンテキスト１０５から、図３や図４で示した変数間の因果関係に関する情報を抽出して、抽出した因果関係に関する情報を用いて、クエリ１０３が示す問題に対する原因を指定（推論）するためのものが、回答モデル１０２である。
【0016】
本開示における情報処理システム１００は、上記のような機能構成を有するので、前述の［発明の効果］で示した効果を備えることが出来る。
【0017】
また、本開示は、文書の情報１０４から、問題に関連するコンテキスト１０５を選択する（絞り込む）処理と、問題に関連するコンテキスト１０５を用いて、問題の原因を指定（推論）する処理を、別々のモデルを用いて実行する。そのため、本開示は、たとえ文書の情報１０４が膨大な分量であっても、モデルのそれぞれが実用に耐えうる性能を有するようにすることが可能である。
仮に、情報処理システムが全ての処理を１つのモデルで実現しようとしても、文書の情報１０４の分量が膨大であるケースにおいても実用に耐えうる性能を、当該単一のモデルで実現することは、かなりの試行錯誤を要すると考えられる。
また、本開示が、変数と当該変数の状況を問題として扱うものであり、問題に関連するコンテキスト１０５に含まれる数式の情報から、問題と原因の因果関係に関する情報を得て、因果関係ツリー４０１を導き出す場合は、本開示により、変数に関する問題を取り扱えるようになるとともに、文書に含まれる数式の情報を適切に活用出来るようになる。
仮に、情報処理システムが全ての処理を１つのモデルで実現しようとしても、文書の情報１０４の分量が膨大であるケースにおいても実用に耐えうる性能を、当該単一のモデルで実現することは、かなりの試行錯誤を要すると考えられる。
また、本開示が、変数と当該変数の状況を問題として扱うものであり、問題に関連するコンテキスト１０５に含まれる数式の情報から、問題と原因の因果関係に関する情報を得て、因果関係ツリー４０１を導き出す場合は、本開示により、変数に関する問題を取り扱えるようになるとともに、文書に含まれる数式の情報を適切に活用出来るようになる。
【0018】
２．本開示の実施形態を実現するためのコンピュータアーキテクチャ
図５は、本開示の実施形態を実現するためのコンピュータアーキテクチャを示す。
情報処理システム１００を実現するために、情報処理装置（例えばＣＰＵ）５０１と、記憶装置（例えばメモリ）５０２と、不揮発性記録媒体（例えば、不揮発性メモリ、不揮発性ディスク装置）５０３と、外付け記録媒体用ドライブ（例えばディスクドライブ）５０４と、表示または出力装置（例えば、ディスプレイ、印刷機）５０６と、入力装置（例えば、マウス、キーボード、撮像装置、センサ）５０７と、通信装置（例えば、有線通信用通信装置、無線通信用通信装置。所定のプロトコルに従って他のシステム、装置またはサーバとの通信を制御するネットワークインターフェース装置（ＮＩＣ）でよい。）５０８と、外部入出力用ポート５０９の一部または全部が、相互接続部（例えば、バス、クロスバスイッチ）５１０にて相互接続されていてよい。
不揮発性記録媒体５０３にはプログラム５２０ａ（例えば本開示におけるコンテキストフィルタリングモデル１０１または回答モデル１０２を実現するためのプログラム）及び様々な情報が記録されてよい。様々な情報として、不揮発性記録媒体５０３には、例えば、各種データベース（ＤＢ）５２１または各種情報５２２が記録されてよい。以上に代えて、上記したプログラムまたは様々な情報の一部または全部を、図５の外部から取得（アクセス）する態様でもよい。外付け記録媒体用ドライブ５０４は外付け記録媒体（例えば、可搬性記録ディスク（ＤＶＤ等）、ＩＣカード、ＳＤカード）５０５を接続することが出来る。尚、この外付け記録媒体５０５から不揮発性記録媒体５０３や記憶装置５０２に、プログラム５２０ａ（例えば本開示におけるコンテキストフィルタリングモデル１０１または回答モデル１０２を実現するためのプログラム）や上記した様々な情報を転送し記憶する態様でもよい。また、プログラム５２０ａ（例えば本開示におけるコンテキストフィルタリングモデル１０１または回答モデル１０２を実現するためのプログラム）や上記した様々な情報が、通信装置５０８、外部入出力用ポート５０９または入力装置５０７経由でもたらされて、不揮発性記録媒体５０３や記憶装置５０２に記憶されてもよい。
図５のアーキテクチャが、情報処理システム１００、情報処理システム１００内のモデル、エンコーダ、算出器、選択器、デコーダ、パーセプトロン、各部といった機能部または各機能部の部分として機能する（一つまたは一連の処理（ステップ）を実行する）ために、プログラム５２０ａは、（例えば不揮発性記録媒体５０３から）記憶装置５０２にローディングされてよい。ローディング後のプログラムは図５では５２０ｂで示される。そして情報処理システム１００が、（必要に応じて不揮発性記録媒体５０３等に存在する様々な情報も用いて、）プログラム５２０ｂを実行してよい。プログラム５２０ｂの実行により、情報処理システム１００、情報処理システム１００内のモデル、エンコーダ、算出器、選択器、デコーダ、パーセプトロン、各部といった機能部または各機能部の部分の機能が実現される（一つまたは一連の処理（ステップ）が実行される）。この際に記憶装置５０２に一時的に形成される各種バッファ５２３も適宜用いてよい。
なお、後述の機械学習処理を実行する情報処理システム１０００、機械学習処理を実行する情報処理システム１２００、及び、編集用情報処理システム１３００のそれぞれの実施形態を実現するコンピュータアーキテクチャも、図５で説明した上記のものと同様であってよい。機械学習処理を実現するためのプログラムや、注釈付きファイル１００１の編集処理を実現するためのプログラムも、図５を用いて説明したコンピュータアーキテクチャと同様のもので実行されてよい。また、その際に、機能の一部または全部が、よりハードウェア的に実行されてよい。
図５は、本開示の実施形態を実現するためのコンピュータアーキテクチャを示す。
情報処理システム１００を実現するために、情報処理装置（例えばＣＰＵ）５０１と、記憶装置（例えばメモリ）５０２と、不揮発性記録媒体（例えば、不揮発性メモリ、不揮発性ディスク装置）５０３と、外付け記録媒体用ドライブ（例えばディスクドライブ）５０４と、表示または出力装置（例えば、ディスプレイ、印刷機）５０６と、入力装置（例えば、マウス、キーボード、撮像装置、センサ）５０７と、通信装置（例えば、有線通信用通信装置、無線通信用通信装置。所定のプロトコルに従って他のシステム、装置またはサーバとの通信を制御するネットワークインターフェース装置（ＮＩＣ）でよい。）５０８と、外部入出力用ポート５０９の一部または全部が、相互接続部（例えば、バス、クロスバスイッチ）５１０にて相互接続されていてよい。
不揮発性記録媒体５０３にはプログラム５２０ａ（例えば本開示におけるコンテキストフィルタリングモデル１０１または回答モデル１０２を実現するためのプログラム）及び様々な情報が記録されてよい。様々な情報として、不揮発性記録媒体５０３には、例えば、各種データベース（ＤＢ）５２１または各種情報５２２が記録されてよい。以上に代えて、上記したプログラムまたは様々な情報の一部または全部を、図５の外部から取得（アクセス）する態様でもよい。外付け記録媒体用ドライブ５０４は外付け記録媒体（例えば、可搬性記録ディスク（ＤＶＤ等）、ＩＣカード、ＳＤカード）５０５を接続することが出来る。尚、この外付け記録媒体５０５から不揮発性記録媒体５０３や記憶装置５０２に、プログラム５２０ａ（例えば本開示におけるコンテキストフィルタリングモデル１０１または回答モデル１０２を実現するためのプログラム）や上記した様々な情報を転送し記憶する態様でもよい。また、プログラム５２０ａ（例えば本開示におけるコンテキストフィルタリングモデル１０１または回答モデル１０２を実現するためのプログラム）や上記した様々な情報が、通信装置５０８、外部入出力用ポート５０９または入力装置５０７経由でもたらされて、不揮発性記録媒体５０３や記憶装置５０２に記憶されてもよい。
図５のアーキテクチャが、情報処理システム１００、情報処理システム１００内のモデル、エンコーダ、算出器、選択器、デコーダ、パーセプトロン、各部といった機能部または各機能部の部分として機能する（一つまたは一連の処理（ステップ）を実行する）ために、プログラム５２０ａは、（例えば不揮発性記録媒体５０３から）記憶装置５０２にローディングされてよい。ローディング後のプログラムは図５では５２０ｂで示される。そして情報処理システム１００が、（必要に応じて不揮発性記録媒体５０３等に存在する様々な情報も用いて、）プログラム５２０ｂを実行してよい。プログラム５２０ｂの実行により、情報処理システム１００、情報処理システム１００内のモデル、エンコーダ、算出器、選択器、デコーダ、パーセプトロン、各部といった機能部または各機能部の部分の機能が実現される（一つまたは一連の処理（ステップ）が実行される）。この際に記憶装置５０２に一時的に形成される各種バッファ５２３も適宜用いてよい。
なお、後述の機械学習処理を実行する情報処理システム１０００、機械学習処理を実行する情報処理システム１２００、及び、編集用情報処理システム１３００のそれぞれの実施形態を実現するコンピュータアーキテクチャも、図５で説明した上記のものと同様であってよい。機械学習処理を実現するためのプログラムや、注釈付きファイル１００１の編集処理を実現するためのプログラムも、図５を用いて説明したコンピュータアーキテクチャと同様のもので実行されてよい。また、その際に、機能の一部または全部が、よりハードウェア的に実行されてよい。
【0019】
３．本開示の実施形態における問題に対する原因の指定（推論）処理
ここでは、本開示の実施形態における問題に対する原因の指定（推論）処理を説明する。まず、コンテキストフィルタリングモデル１０１により実現される処理に関して説明し、その後で、回答モデル１０２により実現される処理について説明する。
尚、以下で説明する処理の全てを行うことが必須というわけではなく、以下で説明する処理の一部を行うための情報処理システム、コンピュータが実行する方法、または、プログラムであってもよい。
ここでは、本開示の実施形態における問題に対する原因の指定（推論）処理を説明する。まず、コンテキストフィルタリングモデル１０１により実現される処理に関して説明し、その後で、回答モデル１０２により実現される処理について説明する。
尚、以下で説明する処理の全てを行うことが必須というわけではなく、以下で説明する処理の一部を行うための情報処理システム、コンピュータが実行する方法、または、プログラムであってもよい。
【0020】
３の１．コンテキストフィルタリングモデルにより実現される処理
既に指摘したように、コンテキストフィルタリングモデル１０１の機能を実現することにより、情報処理システム１００は、クエリ１０３にて問題が示された場合に、文書の情報１０４から、当該問題に対応する原因を特定するために用いることが出来る情報を有する、問題に関連するコンテキスト１０５を選択する（絞り込む）。
以下では、コンテキストフィルタリングモデル１０１の実施形態の一例を説明する。当該説明にあわせて、文書の情報１０４の態様の一例も説明する。
既に指摘したように、コンテキストフィルタリングモデル１０１の機能を実現することにより、情報処理システム１００は、クエリ１０３にて問題が示された場合に、文書の情報１０４から、当該問題に対応する原因を特定するために用いることが出来る情報を有する、問題に関連するコンテキスト１０５を選択する（絞り込む）。
以下では、コンテキストフィルタリングモデル１０１の実施形態の一例を説明する。当該説明にあわせて、文書の情報１０４の態様の一例も説明する。
【0021】
３の１の１．コンテキストフィルタリングモデルに含まれる機能部の概要
図６は、コンテキストフィルタリングモデル１０１の実施形態の一例を示す。図６は、コンテキストフィルタリングモデル１０１に対する入出力を示すとともに、コンテキストフィルタリングモデル１０１の内部にある機能部のそれぞれを示す。図５で説明したように、情報処理システム１００がプログラムを実行することによりこれらの機能部を実現してよい。これらの機能部の一部または全部が、よりハードウェア的に実現されてもよい。
コンテキストフィルタリングモデル１０１は、第１のテキスト的なコンテキストエンコーダ６０１と、第１の視覚的なコンテキストエンコーダ６０２と、第１のクロスドメイン特徴エンコーダ６０３と、第１のクエリエンコーダ６０４と、スコア算出器６０５と、コンテキスト選択器６０６という機能部のそれぞれを有してよい。なお、ここで「第１の」という表現を用いているのは、後述の回答モデル１０２に含まれる機能部と区別するためのものであるので、数字自体には格別の意味は無い。
コンテキストフィルタリングモデル１０１は、以上で示す機能部のそれぞれを有しており、以下で説明するような処理を実現することが出来るので、コンテキストフィルタリングモデル１０１の機能を実現する情報処理システム１００は、コンテキストの種類に適したコンテキストの特徴量の抽出処理を行うことと、文書の同じ領域（例えば、同じ頁）についての異なる種類のコンテキストどうしの特徴量間の演算により、その領域（例えば、頁）についての特徴量としてより妥当なものを得ることと、問題に関連するコンテキスト１０５を選択する（絞り込む）に際して、妥当な選択結果を得ることが出来る。
図６は、コンテキストフィルタリングモデル１０１の実施形態の一例を示す。図６は、コンテキストフィルタリングモデル１０１に対する入出力を示すとともに、コンテキストフィルタリングモデル１０１の内部にある機能部のそれぞれを示す。図５で説明したように、情報処理システム１００がプログラムを実行することによりこれらの機能部を実現してよい。これらの機能部の一部または全部が、よりハードウェア的に実現されてもよい。
コンテキストフィルタリングモデル１０１は、第１のテキスト的なコンテキストエンコーダ６０１と、第１の視覚的なコンテキストエンコーダ６０２と、第１のクロスドメイン特徴エンコーダ６０３と、第１のクエリエンコーダ６０４と、スコア算出器６０５と、コンテキスト選択器６０６という機能部のそれぞれを有してよい。なお、ここで「第１の」という表現を用いているのは、後述の回答モデル１０２に含まれる機能部と区別するためのものであるので、数字自体には格別の意味は無い。
コンテキストフィルタリングモデル１０１は、以上で示す機能部のそれぞれを有しており、以下で説明するような処理を実現することが出来るので、コンテキストフィルタリングモデル１０１の機能を実現する情報処理システム１００は、コンテキストの種類に適したコンテキストの特徴量の抽出処理を行うことと、文書の同じ領域（例えば、同じ頁）についての異なる種類のコンテキストどうしの特徴量間の演算により、その領域（例えば、頁）についての特徴量としてより妥当なものを得ることと、問題に関連するコンテキスト１０５を選択する（絞り込む）に際して、妥当な選択結果を得ることが出来る。
【0022】
３の１の２．文書の領域（頁）毎の２つのコンテキスト
図６に示すコンテキストフィルタリングモデル１０１の実施形態の一例（、及び、後述の図９の回答モデル１０２の実施形態の一例）は、文書の領域（例えば、頁）のそれぞれについて、文書の情報１０４に含まれるテキスト的なコンテキスト６１１と、文書の情報１０４に含まれる視覚的なコンテキスト６１２を取り扱いうる。
図７は、文書の情報１０４の内部構成の一例を示す。例えば、文書がn個の領域（例えば、頁）からなるとして、領域毎に、テキスト的なコンテキスト６１１と、視覚的なコンテキスト６１２の一方または両方が存在してよい。図７では、領域（頁）番号７０１で示される領域（例えば、頁）のいずれについても、テキスト的なコンテキスト６１１と視覚的なコンテキスト６１２の両方が存在するかのように表現しているが、実際には、この二種類のコンテキストの一方が存在しなくてもよく、また、この二種類のコンテキストの両方が存在するものの一方が実質的に白紙の状態であってもよい。
図８は、テキスト的なコンテキスト６１１と視覚的なコンテキスト６１２の一例を示す。図８は、文書の領域（例えば、頁）のいずれかについて、テキスト的なコンテキスト６１１と、視覚的なコンテキスト６１２の両方が存在するケースを示している。また、図８は、図３に示される数式の情報と数式に含まれる変数の説明（定義）の情報が含まれるコンテキストの一例である。
テキスト的なコンテキスト６１１は、文書の領域（例えば、頁）に含まれる情報を、文字コードの列により表現したものである。図８の例では、テキスト的なコンテキスト６１１は、T(t)を求める数式の情報３０１のテキスト８０１と、kを求める数式の情報３０２のテキスト８０２を含む。数式を文字コードの列にて表現するに際しては、オリジナルの文書のとおりに表現出来ない部分がありうる。そのため、例えば、テキスト的なコンテキスト６１１は、分数を「＼frac{分子}{分母}」の形式で表現することや、下付きの添え字を「_添え字」の形式で表現することや、ギリシャ文字を「＼ギリシャ文字の英語表記」で表現することがある。また、テキスト的なコンテキスト６１１は、オリジナルの文書における、図形そのものや、文字を含むオブジェクトの大きさの情報は、必ずしも情報として保持しているとは限らない。
視覚的なコンテキスト６１２は、文書の領域（例えば、頁）に含まれる情報を、画像データにより表現したものである。例えば、視覚的なコンテキスト６１１は、文書の領域（例えば、頁）のオリジナルの画像データであってよい。図８の例では、視覚的なコンテキスト６１２は、T(t)を求める数式の情報３０１の画像８０３と、kを求める数式の情報３０２の画像８０４を含む。
以上のように、本開示は、文書の領域（例えば、頁）のそれぞれについて、テキスト的なコンテキスト６１１と視覚的なコンテキスト６１２を取り扱うことが出来るので、文書に含まれる情報を多面的に取得することが出来る。また、本開示は、文書の情報１０４として、テキスト的なコンテキスト６１１と視覚的なコンテキスト６１２のうちの一方のみが利用可能なケースにも柔軟に対応することが出来る。
図６に示すコンテキストフィルタリングモデル１０１の実施形態の一例（、及び、後述の図９の回答モデル１０２の実施形態の一例）は、文書の領域（例えば、頁）のそれぞれについて、文書の情報１０４に含まれるテキスト的なコンテキスト６１１と、文書の情報１０４に含まれる視覚的なコンテキスト６１２を取り扱いうる。
図７は、文書の情報１０４の内部構成の一例を示す。例えば、文書がn個の領域（例えば、頁）からなるとして、領域毎に、テキスト的なコンテキスト６１１と、視覚的なコンテキスト６１２の一方または両方が存在してよい。図７では、領域（頁）番号７０１で示される領域（例えば、頁）のいずれについても、テキスト的なコンテキスト６１１と視覚的なコンテキスト６１２の両方が存在するかのように表現しているが、実際には、この二種類のコンテキストの一方が存在しなくてもよく、また、この二種類のコンテキストの両方が存在するものの一方が実質的に白紙の状態であってもよい。
図８は、テキスト的なコンテキスト６１１と視覚的なコンテキスト６１２の一例を示す。図８は、文書の領域（例えば、頁）のいずれかについて、テキスト的なコンテキスト６１１と、視覚的なコンテキスト６１２の両方が存在するケースを示している。また、図８は、図３に示される数式の情報と数式に含まれる変数の説明（定義）の情報が含まれるコンテキストの一例である。
テキスト的なコンテキスト６１１は、文書の領域（例えば、頁）に含まれる情報を、文字コードの列により表現したものである。図８の例では、テキスト的なコンテキスト６１１は、T(t)を求める数式の情報３０１のテキスト８０１と、kを求める数式の情報３０２のテキスト８０２を含む。数式を文字コードの列にて表現するに際しては、オリジナルの文書のとおりに表現出来ない部分がありうる。そのため、例えば、テキスト的なコンテキスト６１１は、分数を「＼frac{分子}{分母}」の形式で表現することや、下付きの添え字を「_添え字」の形式で表現することや、ギリシャ文字を「＼ギリシャ文字の英語表記」で表現することがある。また、テキスト的なコンテキスト６１１は、オリジナルの文書における、図形そのものや、文字を含むオブジェクトの大きさの情報は、必ずしも情報として保持しているとは限らない。
視覚的なコンテキスト６１２は、文書の領域（例えば、頁）に含まれる情報を、画像データにより表現したものである。例えば、視覚的なコンテキスト６１１は、文書の領域（例えば、頁）のオリジナルの画像データであってよい。図８の例では、視覚的なコンテキスト６１２は、T(t)を求める数式の情報３０１の画像８０３と、kを求める数式の情報３０２の画像８０４を含む。
以上のように、本開示は、文書の領域（例えば、頁）のそれぞれについて、テキスト的なコンテキスト６１１と視覚的なコンテキスト６１２を取り扱うことが出来るので、文書に含まれる情報を多面的に取得することが出来る。また、本開示は、文書の情報１０４として、テキスト的なコンテキスト６１１と視覚的なコンテキスト６１２のうちの一方のみが利用可能なケースにも柔軟に対応することが出来る。
【0023】
３の１の３．第１のテキスト的なコンテキストエンコーダ
図６における第１のテキスト的なコンテキストエンコーダ６０１は、文書の領域（例えば、頁）のそれぞれについて、テキスト的なコンテキスト６１１が有する特徴を抽出して、文書の領域（例えば、頁）毎の特徴を第１のテキスト的特徴６１３として出力する。第１のテキスト的なコンテキストエンコーダ６０１は、非特許文献３に示されるトランスフォーマのエンコーダの技術を用いて構成されてよい。
トランスフォーマのエンコーダの技術を用いる場合においては、第１のテキスト的なコンテキストエンコーダ６０１は、埋め込み（Embedding）層と、セルフアテンション（Self Attention）演算を行うマルチヘッドアテンション機構と、フィードフォワード層を含んでよい。なお、埋め込み層は、第１のテキスト的なコンテキストエンコーダ６０１から分離されてもよい。埋め込み層は、テキスト的なコンテキスト６１１を特徴ベクトルに変換する。そして、テキスト的なコンテキスト６１１におけるそれぞれの文字の位置情報もエンコードされて、エンコードされた位置情報は、当該特徴ベクトルに付け加えられる。第１のテキスト的なコンテキストエンコーダ６０１は、セルフアテンション（Self Attention）演算を行うマルチヘッドアテンション機構とフィードフォワード層の組み合わせを複数組有していてよい。または、第１のテキスト的なコンテキストエンコーダ６０１は、セルフアテンション（Self Attention）演算を行うマルチヘッドアテンション機構により実現される機能とフィードフォワード層により実現される機能を複数回繰り返して実行するものであってもよい。最初の組（最初の繰り返し）に含まれるセルフアテンション（Self Attention）演算を行うマルチヘッドアテンション機構は、前述の位置情報が付け加えられた特徴ベクトルを入力してよい。最後の組（最後の繰り返し）に含まれるフィードフォワード層（または、後続する層正規化処理層）は、文書の領域（例えば、頁）毎の特徴として、第１のテキスト的特徴６１３を出力してよい。
図６における第１のテキスト的なコンテキストエンコーダ６０１は、文書の領域（例えば、頁）のそれぞれについて、テキスト的なコンテキスト６１１が有する特徴を抽出して、文書の領域（例えば、頁）毎の特徴を第１のテキスト的特徴６１３として出力する。第１のテキスト的なコンテキストエンコーダ６０１は、非特許文献３に示されるトランスフォーマのエンコーダの技術を用いて構成されてよい。
トランスフォーマのエンコーダの技術を用いる場合においては、第１のテキスト的なコンテキストエンコーダ６０１は、埋め込み（Embedding）層と、セルフアテンション（Self Attention）演算を行うマルチヘッドアテンション機構と、フィードフォワード層を含んでよい。なお、埋め込み層は、第１のテキスト的なコンテキストエンコーダ６０１から分離されてもよい。埋め込み層は、テキスト的なコンテキスト６１１を特徴ベクトルに変換する。そして、テキスト的なコンテキスト６１１におけるそれぞれの文字の位置情報もエンコードされて、エンコードされた位置情報は、当該特徴ベクトルに付け加えられる。第１のテキスト的なコンテキストエンコーダ６０１は、セルフアテンション（Self Attention）演算を行うマルチヘッドアテンション機構とフィードフォワード層の組み合わせを複数組有していてよい。または、第１のテキスト的なコンテキストエンコーダ６０１は、セルフアテンション（Self Attention）演算を行うマルチヘッドアテンション機構により実現される機能とフィードフォワード層により実現される機能を複数回繰り返して実行するものであってもよい。最初の組（最初の繰り返し）に含まれるセルフアテンション（Self Attention）演算を行うマルチヘッドアテンション機構は、前述の位置情報が付け加えられた特徴ベクトルを入力してよい。最後の組（最後の繰り返し）に含まれるフィードフォワード層（または、後続する層正規化処理層）は、文書の領域（例えば、頁）毎の特徴として、第１のテキスト的特徴６１３を出力してよい。
【0024】
３の１の４．第１の視覚的なコンテキストエンコーダ
図６における第１の視覚的なコンテキストエンコーダ６０２は、文書の領域（例えば、頁）のそれぞれについて、視覚的なコンテキスト６１２が有する特徴を抽出して、文書の領域（例えば、頁）毎の特徴を第１の視覚的特徴６１４として出力する。第１の視覚的なコンテキストエンコーダ６０２は、画像データ用のトランスフォーマのエンコーダであってよい。第１の視覚的なコンテキストエンコーダ６０２は、例えば、ビジョントランスフォーマ（Vision Transformer、ViT）と呼ばれる分類に含まれるものであってよいし、画像データを扱えるのであれば各種の畳み込みニューラルネットワーク（Convolutional Neural Networks, CNN）であってもよい。第１の視覚的なコンテキストエンコーダ６０２は、例えば、非特許文献４に示される（ViTの一種である）Swin Transformerのエンコーダであってよい。
Swin Transformerのエンコーダの技術を用いる場合においては、第１の視覚的なコンテキストエンコーダ６０２は、パッチ分割（Patch Partion）層と、リニア埋め込み（Linear Embedding）層といくつか（例えば２つ）のSwin Transformerブロック層の組み合わせからなる第１のステージと、パッチマージ（Patch Merging）層といくつか（例えば２つ）のSwin Transformerブロック層の組み合わせからなる第２のステージと、第２のステージと同様の構造を有する第３以降のステージ群を含んでよい。パッチ分割層は、例えば、幅H画素で高さW画素で画素ごとのチャネル数が3である視覚的なコンテキスト６１２（画像データ）を、幅４画素で高さ４画素のパッチ（トークン）単位で分割してよい。第１のステージのリニア埋め込み層は、幅４画素で高さ４画素のパッチ（トークン）毎の特徴量を求めてよい。各ステージのSwin Transformerブロック層は、近傍のパッチ群から形成されるローカルウィンドウ内にて、パッチ群の特徴量に対するセルフアテンション（Self Attention）演算を行うことにより、ローカルウィンドウ内のパッチ間の相互関係を算出してよい。ここで、前後するSwin Transformerブロック層の間で、ローカルウィンドウの位置がずれている（シフトしている）。このような手法はシフトウィンドウアプローチと呼ばれる。第２以降のステージのパッチマージ層は、前のステージにおけるパッチ（トークン）を近傍の幅２パッチ分で高さ２パッチ分（合計４パッチ分）を結合して、パッチ（トークン）の数を削減し、結合後の大きなパッチの特徴量を求めてよい。
以上で示すような、Swin Transformerの内部構成を利用することにより、第１の視覚的なコンテキストエンコーダ６０２は、ステージ毎に様々なサイズのパッチを利用出来るので、視覚的なコンテキスト６１２（画像データ）に含まれる様々な大きさの（文字も含む）オブジェクトの特徴を、第１の視覚的特徴６１４に的確に反映させることが出来る。また、第１の視覚的なコンテキストエンコーダ６０２は、シフトウィンドウアプローチによりローカルウィンドウ間の相互関係を的確に把握出来るので、視覚的なコンテキスト６１２（画像データ）におけるいずれの位置の特徴も、第１の視覚的特徴６１４に的確に反映させることが出来る。さらに、第１の視覚的なコンテキストエンコーダ６０２は、ローカルウィンドウ内でセルフアテンション（Self Attention）演算を行うので、演算量を抑えることが出来る。同じ画像データのサイズに対して非特許文献３に示されるトランスフォーマのエンコーダを用いた場合に比べれば、Swin Transformerの内部構成を利用した第１の視覚的なコンテキストエンコーダ６０２は、演算量を低く出来る。
図６における第１の視覚的なコンテキストエンコーダ６０２は、文書の領域（例えば、頁）のそれぞれについて、視覚的なコンテキスト６１２が有する特徴を抽出して、文書の領域（例えば、頁）毎の特徴を第１の視覚的特徴６１４として出力する。第１の視覚的なコンテキストエンコーダ６０２は、画像データ用のトランスフォーマのエンコーダであってよい。第１の視覚的なコンテキストエンコーダ６０２は、例えば、ビジョントランスフォーマ（Vision Transformer、ViT）と呼ばれる分類に含まれるものであってよいし、画像データを扱えるのであれば各種の畳み込みニューラルネットワーク（Convolutional Neural Networks, CNN）であってもよい。第１の視覚的なコンテキストエンコーダ６０２は、例えば、非特許文献４に示される（ViTの一種である）Swin Transformerのエンコーダであってよい。
Swin Transformerのエンコーダの技術を用いる場合においては、第１の視覚的なコンテキストエンコーダ６０２は、パッチ分割（Patch Partion）層と、リニア埋め込み（Linear Embedding）層といくつか（例えば２つ）のSwin Transformerブロック層の組み合わせからなる第１のステージと、パッチマージ（Patch Merging）層といくつか（例えば２つ）のSwin Transformerブロック層の組み合わせからなる第２のステージと、第２のステージと同様の構造を有する第３以降のステージ群を含んでよい。パッチ分割層は、例えば、幅H画素で高さW画素で画素ごとのチャネル数が3である視覚的なコンテキスト６１２（画像データ）を、幅４画素で高さ４画素のパッチ（トークン）単位で分割してよい。第１のステージのリニア埋め込み層は、幅４画素で高さ４画素のパッチ（トークン）毎の特徴量を求めてよい。各ステージのSwin Transformerブロック層は、近傍のパッチ群から形成されるローカルウィンドウ内にて、パッチ群の特徴量に対するセルフアテンション（Self Attention）演算を行うことにより、ローカルウィンドウ内のパッチ間の相互関係を算出してよい。ここで、前後するSwin Transformerブロック層の間で、ローカルウィンドウの位置がずれている（シフトしている）。このような手法はシフトウィンドウアプローチと呼ばれる。第２以降のステージのパッチマージ層は、前のステージにおけるパッチ（トークン）を近傍の幅２パッチ分で高さ２パッチ分（合計４パッチ分）を結合して、パッチ（トークン）の数を削減し、結合後の大きなパッチの特徴量を求めてよい。
以上で示すような、Swin Transformerの内部構成を利用することにより、第１の視覚的なコンテキストエンコーダ６０２は、ステージ毎に様々なサイズのパッチを利用出来るので、視覚的なコンテキスト６１２（画像データ）に含まれる様々な大きさの（文字も含む）オブジェクトの特徴を、第１の視覚的特徴６１４に的確に反映させることが出来る。また、第１の視覚的なコンテキストエンコーダ６０２は、シフトウィンドウアプローチによりローカルウィンドウ間の相互関係を的確に把握出来るので、視覚的なコンテキスト６１２（画像データ）におけるいずれの位置の特徴も、第１の視覚的特徴６１４に的確に反映させることが出来る。さらに、第１の視覚的なコンテキストエンコーダ６０２は、ローカルウィンドウ内でセルフアテンション（Self Attention）演算を行うので、演算量を抑えることが出来る。同じ画像データのサイズに対して非特許文献３に示されるトランスフォーマのエンコーダを用いた場合に比べれば、Swin Transformerの内部構成を利用した第１の視覚的なコンテキストエンコーダ６０２は、演算量を低く出来る。
【0025】
３の１の５．第１のクロスドメイン特徴エンコーダ
図６における第１のクロスドメイン特徴エンコーダ６０３は、文書の領域（例えば、頁）毎に、テキスト的なコンテキスト６１１の特徴を示す第１のテキスト的特徴６１３と、視覚的なコンテキスト６１２の特徴を示す第１の視覚的特徴６１４の間で演算を行うことにより、文書の領域（例えば、頁）毎の特徴を示す文書の特徴６１５を出力する。第１のクロスドメイン特徴エンコーダ６０３が、第１のテキスト的特徴６１３と第１の視覚的特徴６１４の間で演算を行って、文書の特徴６１５を得ることによって、文書の領域（例えば、頁）毎の特徴を、より正確に算出することが出来る。
例えば、トランスフォーマのエンコーダにより、第１のテキスト的なコンテキストエンコーダ６０１を実現し、画像データ用のトランスフォーマ（例えば、Swin Transformer）のエンコーダにより、第１の視覚的なコンテキストエンコーダ６０２を実現するケースでは、第１のクロスドメイン特徴エンコーダ６０３は、クロスアテンション（Cross Attention）演算を含む演算を行ってよい。第１のテキスト的特徴６１３をFcfとすると、Fcfをリニア層のそれぞれに入力することにより、リニア層のそれぞれの出力として、それぞれd次元であるクエリQcfとキーKcfとバリューVcfが得られる。第１の視覚的特徴６１４をFvfとすると、Fvfをリニア層のそれぞれに入力することにより、リニア層のそれぞれの出力として、それぞれd次元であるクエリQvfとキーKvfとバリューVvfが得られる。（なお、ここでいう「クエリQ」は、「クエリ１０３」とは異なる概念である点に注意されたい。）そして、第１のクロスドメイン特徴エンコーダ６０３は、クエリQvfとキーKcfとバリューVcfを用いたクロスアテンション演算と、クエリQcfとキーKvfとバリューVvfを用いたクロスアテンション演算を行ってよい。つまり、第１のクロスドメイン特徴エンコーダ６０３は、双方向なクロスアテンション演算を行ってよい。クエリQvfとキーKcfとバリューVcfを用いたクロスアテンション演算は以下の数１の数式により表現されるものである。（このクロスアテンション演算は、ドットプロダクト演算を含むとも言われる。）
図６における第１のクロスドメイン特徴エンコーダ６０３は、文書の領域（例えば、頁）毎に、テキスト的なコンテキスト６１１の特徴を示す第１のテキスト的特徴６１３と、視覚的なコンテキスト６１２の特徴を示す第１の視覚的特徴６１４の間で演算を行うことにより、文書の領域（例えば、頁）毎の特徴を示す文書の特徴６１５を出力する。第１のクロスドメイン特徴エンコーダ６０３が、第１のテキスト的特徴６１３と第１の視覚的特徴６１４の間で演算を行って、文書の特徴６１５を得ることによって、文書の領域（例えば、頁）毎の特徴を、より正確に算出することが出来る。
例えば、トランスフォーマのエンコーダにより、第１のテキスト的なコンテキストエンコーダ６０１を実現し、画像データ用のトランスフォーマ（例えば、Swin Transformer）のエンコーダにより、第１の視覚的なコンテキストエンコーダ６０２を実現するケースでは、第１のクロスドメイン特徴エンコーダ６０３は、クロスアテンション（Cross Attention）演算を含む演算を行ってよい。第１のテキスト的特徴６１３をFcfとすると、Fcfをリニア層のそれぞれに入力することにより、リニア層のそれぞれの出力として、それぞれd次元であるクエリQcfとキーKcfとバリューVcfが得られる。第１の視覚的特徴６１４をFvfとすると、Fvfをリニア層のそれぞれに入力することにより、リニア層のそれぞれの出力として、それぞれd次元であるクエリQvfとキーKvfとバリューVvfが得られる。（なお、ここでいう「クエリQ」は、「クエリ１０３」とは異なる概念である点に注意されたい。）そして、第１のクロスドメイン特徴エンコーダ６０３は、クエリQvfとキーKcfとバリューVcfを用いたクロスアテンション演算と、クエリQcfとキーKvfとバリューVvfを用いたクロスアテンション演算を行ってよい。つまり、第１のクロスドメイン特徴エンコーダ６０３は、双方向なクロスアテンション演算を行ってよい。クエリQvfとキーKcfとバリューVcfを用いたクロスアテンション演算は以下の数１の数式により表現されるものである。（このクロスアテンション演算は、ドットプロダクト演算を含むとも言われる。）
【0026】
【数1】
また、クエリQcfとキーKvfとバリューVvfを用いたクロスアテンション演算は以下の数２の数式により表現されるものである。
【0027】
【数2】
【0028】
第１のクロスドメイン特徴エンコーダ６０３は、上記の数１と数２で示されるクロスアテンション演算を行って得た結果に対して、連結（Concatenate）演算などを行って、文書の領域（頁）毎の特徴を示す文書の特徴６１５を得る。
【0029】
３の１の６．第１のクエリエンコーダ
図６における第１のクエリエンコーダ６０４は、問題を示すクエリ１０３の特徴を生成して、第１のクエリの特徴６１６として出力する。第１のクエリエンコーダ６０４は、非特許文献３に示されるトランスフォーマのエンコーダの技術を用いて構成されてよい。
トランスフォーマのエンコーダの技術を用いる場合における、第１のクエリエンコーダ６０４の内部構造や行う処理は、（入力されるデータを除けば）前述の第１のテキスト的なコンテキストエンコーダ６０１と同様である。それゆえ、ここでは説明を省略する。
図６における第１のクエリエンコーダ６０４は、問題を示すクエリ１０３の特徴を生成して、第１のクエリの特徴６１６として出力する。第１のクエリエンコーダ６０４は、非特許文献３に示されるトランスフォーマのエンコーダの技術を用いて構成されてよい。
トランスフォーマのエンコーダの技術を用いる場合における、第１のクエリエンコーダ６０４の内部構造や行う処理は、（入力されるデータを除けば）前述の第１のテキスト的なコンテキストエンコーダ６０１と同様である。それゆえ、ここでは説明を省略する。
【0030】
３の１の７．スコア算出器
図６におけるスコア算出器６０５は、文書の領域（例えば、頁）毎に、クエリ１０３が示す問題に対する関連の強さを示すスコアを算出する。このために、スコア算出器６０５は、第１のクロスドメイン特徴エンコーダ６０３が出力する文書の特徴６１５と、第１のクエリエンコーダ６０４が出力する第１のクエリの特徴６１６を用いる。スコア算出器６０５は、文書の特徴６１５が示す、文書の領域（例えば、頁）毎の特徴を示す情報と、第１のクエリの特徴が示す情報の間で、内積演算を行うことにより、文書の領域（例えば、頁）に対応するスコアを求めてよい。
後述の「４の１の６．コンテキストフィルタリングモデルのモデルパラメータの訓練（学習）」の項で示されるように、コンテキストフィルタリングモデル１０１を構築するための機械学習処理（教師有り機械学習処理）が実行される際に、スコア算出器６０５の出力である文書の領域（例えば、頁）毎のスコア６１７（６１７Ｌ）を、教師データ１００２と比較される対象としてもよい。このような機械学習処理が実行されると、スコア算出器６０５は、クエリ１０３が示す問題に関連するコンテキスト１０５として選択されるべきコンテキストに対応する領域（例えば、頁）に対するスコアを高くし、選択されるべきでないコンテキストに対応する領域（例えば、頁）に対するスコアを低くするようになることが期待出来る。つまり、機械学習処理によるスコア算出器６０５の訓練（学習）により、上記した内積演算による結果と同等または類似した結果を、スコア算出器６０５が実現出来るようになるものであってよい。
図６におけるスコア算出器６０５は、文書の領域（例えば、頁）毎に、クエリ１０３が示す問題に対する関連の強さを示すスコアを算出する。このために、スコア算出器６０５は、第１のクロスドメイン特徴エンコーダ６０３が出力する文書の特徴６１５と、第１のクエリエンコーダ６０４が出力する第１のクエリの特徴６１６を用いる。スコア算出器６０５は、文書の特徴６１５が示す、文書の領域（例えば、頁）毎の特徴を示す情報と、第１のクエリの特徴が示す情報の間で、内積演算を行うことにより、文書の領域（例えば、頁）に対応するスコアを求めてよい。
後述の「４の１の６．コンテキストフィルタリングモデルのモデルパラメータの訓練（学習）」の項で示されるように、コンテキストフィルタリングモデル１０１を構築するための機械学習処理（教師有り機械学習処理）が実行される際に、スコア算出器６０５の出力である文書の領域（例えば、頁）毎のスコア６１７（６１７Ｌ）を、教師データ１００２と比較される対象としてもよい。このような機械学習処理が実行されると、スコア算出器６０５は、クエリ１０３が示す問題に関連するコンテキスト１０５として選択されるべきコンテキストに対応する領域（例えば、頁）に対するスコアを高くし、選択されるべきでないコンテキストに対応する領域（例えば、頁）に対するスコアを低くするようになることが期待出来る。つまり、機械学習処理によるスコア算出器６０５の訓練（学習）により、上記した内積演算による結果と同等または類似した結果を、スコア算出器６０５が実現出来るようになるものであってよい。
【0031】
３の１の８．コンテキスト選択器
図６におけるコンテキスト選択器６０６は、スコア算出器６０５が算出した、文書の領域（例えば、頁）毎のスコアに基づいて、クエリ１０３が示す問題に関連するコンテキスト１０５を選択する。
例えば、（１）コンテキスト選択器６０６は、文書の情報１０４に対応する文書の領域（例えば、頁）の集合から、スコアの高い（問題との関連が強い）順にk個の領域（例えば、頁）を選択して、選択した領域（例えば、頁）に対応するテキスト的なコンテキスト６１１と視覚的なコンテキスト６１２を指定する情報を、問題に関連するコンテキストの選択情報１０６として出力してよい。ここで、kの値は任意に定めることが出来る。例えば、数式を取り扱う場合には、ある変数に関連する数式や、数式に含まれる変数の説明（定義）は、連続する３頁に含まれていることが多いので、kの値を３に定めてもよい。
または、（２）kの値を固定せずに、コンテキスト選択器６０６は、文書の情報１０４に対応する文書の領域（例えば、頁）の集合から、スコアが所定の閾値よりも高い（問題との関連度が閾値よりも高い）領域（例えば、頁）の全てを選択して、選択した領域（例えば、頁）に対応するテキスト的なコンテキスト６１１と視覚的なコンテキスト６１２を指定する情報を、問題に関連するコンテキストの選択情報１０６として出力してよい。
後述の「４の１の６．コンテキストフィルタリングモデルのモデルパラメータの訓練（学習）」の項で示されるように、コンテキストフィルタリングモデル１０１を構築するための機械学習処理（教師有り機械学習処理）が実行される際に、（コンテキスト選択器６０６の出力ではなく、）スコア算出器６０５の出力である文書の領域（例えば、頁）毎のスコア６１７（６１７Ｌ）を、教師データ１００２と比較される対象としてもよい。このような機械学習処理が実行される場合には、コンテキストフィルタリングモデル１０１内の機能部のうち、コンテキスト選択器６０６は、機械学習処理の対象としなくてもよい。コンテキスト選択器６０６は、上記の（１）や（２）で示したようなルールを実現するためのルールベースに基づく機能部としてもよい。
図６におけるコンテキスト選択器６０６は、スコア算出器６０５が算出した、文書の領域（例えば、頁）毎のスコアに基づいて、クエリ１０３が示す問題に関連するコンテキスト１０５を選択する。
例えば、（１）コンテキスト選択器６０６は、文書の情報１０４に対応する文書の領域（例えば、頁）の集合から、スコアの高い（問題との関連が強い）順にk個の領域（例えば、頁）を選択して、選択した領域（例えば、頁）に対応するテキスト的なコンテキスト６１１と視覚的なコンテキスト６１２を指定する情報を、問題に関連するコンテキストの選択情報１０６として出力してよい。ここで、kの値は任意に定めることが出来る。例えば、数式を取り扱う場合には、ある変数に関連する数式や、数式に含まれる変数の説明（定義）は、連続する３頁に含まれていることが多いので、kの値を３に定めてもよい。
または、（２）kの値を固定せずに、コンテキスト選択器６０６は、文書の情報１０４に対応する文書の領域（例えば、頁）の集合から、スコアが所定の閾値よりも高い（問題との関連度が閾値よりも高い）領域（例えば、頁）の全てを選択して、選択した領域（例えば、頁）に対応するテキスト的なコンテキスト６１１と視覚的なコンテキスト６１２を指定する情報を、問題に関連するコンテキストの選択情報１０６として出力してよい。
後述の「４の１の６．コンテキストフィルタリングモデルのモデルパラメータの訓練（学習）」の項で示されるように、コンテキストフィルタリングモデル１０１を構築するための機械学習処理（教師有り機械学習処理）が実行される際に、（コンテキスト選択器６０６の出力ではなく、）スコア算出器６０５の出力である文書の領域（例えば、頁）毎のスコア６１７（６１７Ｌ）を、教師データ１００２と比較される対象としてもよい。このような機械学習処理が実行される場合には、コンテキストフィルタリングモデル１０１内の機能部のうち、コンテキスト選択器６０６は、機械学習処理の対象としなくてもよい。コンテキスト選択器６０６は、上記の（１）や（２）で示したようなルールを実現するためのルールベースに基づく機能部としてもよい。
【0032】
３の２．回答モデルにより実現される処理
既に指摘したように、回答モデル１０２の機能を実現することにより、情報処理システム１００は、クエリ１０３にて問題が示された場合に、当該問題に関連するコンテキスト１０５から、当該問題の原因を指定（推論）する。ここで、問題に関連するコンテキスト１０５は、コンテキストフィルタリングモデル１０１の機能が実現されることにより得られた、問題に関連するコンテキストの選択情報１０６により、文書の情報１０４のなかから選択されたものであってよい。
以下では、回答モデル１０２の実施形態の一例を説明する。
既に指摘したように、回答モデル１０２の機能を実現することにより、情報処理システム１００は、クエリ１０３にて問題が示された場合に、当該問題に関連するコンテキスト１０５から、当該問題の原因を指定（推論）する。ここで、問題に関連するコンテキスト１０５は、コンテキストフィルタリングモデル１０１の機能が実現されることにより得られた、問題に関連するコンテキストの選択情報１０６により、文書の情報１０４のなかから選択されたものであってよい。
以下では、回答モデル１０２の実施形態の一例を説明する。
【0033】
３の２の１．回答モデルに含まれる機能部の概要
図９は、回答モデル１０２の実施形態の一例を示す。図９は、回答モデル１０２に対する入出力を示すとともに、回答モデル１０２の内部にある機能部のそれぞれを示す。図５で説明したように、情報処理システム１００がプログラムを実行することによりこれらの機能部を実現してよい。また、これらの機能部の一部または全部が、よりハードウェア的に実現されてもよい。
回答モデル１０２は、第２のテキスト的なコンテキストエンコーダ９０１と、第２の視覚的なコンテキストエンコーダ９０２と、第２のクロスドメイン特徴エンコーダ９０３と、第２のクエリエンコーダ９０４と、アテンションデコーダ９０５と、多層パーセプトロン９０６という機能部のそれぞれを有してよい。なお、ここで「第２の」という表現を用いているのは、前述のコンテキストフィルタリングモデル１０１に含まれる機能部と区別するためのものであるので、数字自体には格別の意味は無い。
回答モデル１０２は、以上で示す機能部のそれぞれを有しており、以下で説明するような処理を実現することが出来るので、回答モデル１０２の機能を実現する情報処理システム１００は、コンテキストの種類に適したコンテキストの特徴量の抽出処理を行うことと、問題に関連するコンテキスト１０５についての異なる種類のコンテキストどうしの特徴量間の演算により、問題に関連するコンテキスト１０５についての特徴量としてより妥当なものを得ることと、問題の原因を指定（推論）するに際して、妥当な指定（推論）結果を得ることが出来る。
図９は、回答モデル１０２の実施形態の一例を示す。図９は、回答モデル１０２に対する入出力を示すとともに、回答モデル１０２の内部にある機能部のそれぞれを示す。図５で説明したように、情報処理システム１００がプログラムを実行することによりこれらの機能部を実現してよい。また、これらの機能部の一部または全部が、よりハードウェア的に実現されてもよい。
回答モデル１０２は、第２のテキスト的なコンテキストエンコーダ９０１と、第２の視覚的なコンテキストエンコーダ９０２と、第２のクロスドメイン特徴エンコーダ９０３と、第２のクエリエンコーダ９０４と、アテンションデコーダ９０５と、多層パーセプトロン９０６という機能部のそれぞれを有してよい。なお、ここで「第２の」という表現を用いているのは、前述のコンテキストフィルタリングモデル１０１に含まれる機能部と区別するためのものであるので、数字自体には格別の意味は無い。
回答モデル１０２は、以上で示す機能部のそれぞれを有しており、以下で説明するような処理を実現することが出来るので、回答モデル１０２の機能を実現する情報処理システム１００は、コンテキストの種類に適したコンテキストの特徴量の抽出処理を行うことと、問題に関連するコンテキスト１０５についての異なる種類のコンテキストどうしの特徴量間の演算により、問題に関連するコンテキスト１０５についての特徴量としてより妥当なものを得ることと、問題の原因を指定（推論）するに際して、妥当な指定（推論）結果を得ることが出来る。
【0034】
３の２の２．第２のテキスト的なコンテキストエンコーダ
図９における第２のテキスト的なコンテキストエンコーダ９０１は、問題に関連するコンテキスト１０５に含まれる、テキスト的なコンテキスト６１１が有する特徴を抽出して、抽出した特徴を第２のテキスト的特徴９１３として出力する。第２のテキスト的なコンテキストエンコーダ９０１は、非特許文献３に示されるトランスフォーマのエンコーダの技術を用いて構成されてよい。
トランスフォーマのエンコーダの技術を用いる場合における、第２のテキスト的なコンテキストエンコーダ９０１の内部構成は、前述の第１のテキスト的なコンテキストエンコーダ６０１に関する説明で示したものと同様である。ただし、この回答モデル１０２の最終的な出力は、問題の原因を指定する情報１０７であるのに対し、前述のコンテキストフィルタリングモデル１０１の最終的な出力は、問題に関連するコンテキストの選択情報１０６（または文書の領域（例えば、頁）毎のスコア６１７）であり、モデルの最終的な出力が違いに異なっているので、この第２のテキスト的なコンテキストエンコーダ９０１と前述の第１のテキスト的なコンテキストエンコーダ６０１では、モデルパラメータの値が一般には異なる。
図９における第２のテキスト的なコンテキストエンコーダ９０１は、問題に関連するコンテキスト１０５に含まれる、テキスト的なコンテキスト６１１が有する特徴を抽出して、抽出した特徴を第２のテキスト的特徴９１３として出力する。第２のテキスト的なコンテキストエンコーダ９０１は、非特許文献３に示されるトランスフォーマのエンコーダの技術を用いて構成されてよい。
トランスフォーマのエンコーダの技術を用いる場合における、第２のテキスト的なコンテキストエンコーダ９０１の内部構成は、前述の第１のテキスト的なコンテキストエンコーダ６０１に関する説明で示したものと同様である。ただし、この回答モデル１０２の最終的な出力は、問題の原因を指定する情報１０７であるのに対し、前述のコンテキストフィルタリングモデル１０１の最終的な出力は、問題に関連するコンテキストの選択情報１０６（または文書の領域（例えば、頁）毎のスコア６１７）であり、モデルの最終的な出力が違いに異なっているので、この第２のテキスト的なコンテキストエンコーダ９０１と前述の第１のテキスト的なコンテキストエンコーダ６０１では、モデルパラメータの値が一般には異なる。
【0035】
３の２の３．第２の視覚的なコンテキストエンコーダ
図９における第２の視覚的なコンテキストエンコーダ９０２は、問題に関連するコンテキスト１０５に含まれる、視覚的なコンテキスト６１２が有する特徴を抽出して、抽出した特徴を第２の視覚的特徴９１４として出力する。第２の視覚的なコンテキストエンコーダ９０２は、画像データ用のトランスフォーマのエンコーダであってよい。第２の視覚的なコンテキストエンコーダ９０２は、例えば、ビジョントランスフォーマ（Vision Transformer、ViT）と呼ばれる分類に含まれるものであってよいし、画像データを扱えるのであれば各種の畳み込みニューラルネットワーク（Convolutional Neural Networks, CNN）であってもよい。第２の視覚的なコンテキストエンコーダ９０２は、例えば、非特許文献４に示される（ViTの一種である）Swin Transformerのエンコーダであってよい。
Swin Transformerのエンコーダの技術を用いる場合における、第２の視覚的なコンテキストエンコーダ９０２の内部構成は、前述の第１の視覚的なコンテキストエンコーダ６０２に関する説明で示したものと同様である。ただし、前述の第２のテキスト的なコンテキストエンコーダ９０１の説明で示した理由と同様の理由で、この第２の視覚的なコンテキストエンコーダ９０２と前述の第１の視覚的なコンテキストエンコーダ６０２では、モデルパラメータの値が一般には異なる。
図９における第２の視覚的なコンテキストエンコーダ９０２は、問題に関連するコンテキスト１０５に含まれる、視覚的なコンテキスト６１２が有する特徴を抽出して、抽出した特徴を第２の視覚的特徴９１４として出力する。第２の視覚的なコンテキストエンコーダ９０２は、画像データ用のトランスフォーマのエンコーダであってよい。第２の視覚的なコンテキストエンコーダ９０２は、例えば、ビジョントランスフォーマ（Vision Transformer、ViT）と呼ばれる分類に含まれるものであってよいし、画像データを扱えるのであれば各種の畳み込みニューラルネットワーク（Convolutional Neural Networks, CNN）であってもよい。第２の視覚的なコンテキストエンコーダ９０２は、例えば、非特許文献４に示される（ViTの一種である）Swin Transformerのエンコーダであってよい。
Swin Transformerのエンコーダの技術を用いる場合における、第２の視覚的なコンテキストエンコーダ９０２の内部構成は、前述の第１の視覚的なコンテキストエンコーダ６０２に関する説明で示したものと同様である。ただし、前述の第２のテキスト的なコンテキストエンコーダ９０１の説明で示した理由と同様の理由で、この第２の視覚的なコンテキストエンコーダ９０２と前述の第１の視覚的なコンテキストエンコーダ６０２では、モデルパラメータの値が一般には異なる。
【0036】
３の２の４．第２のクロスドメイン特徴エンコーダ
図９における第２のクロスドメイン特徴エンコーダ９０３は、問題に関連するコンテキスト１０５についての、テキスト的なコンテキスト６１１の特徴を示す第２のテキスト的特徴９１３と、視覚的なコンテキスト６１２の特徴を示す第２の視覚的特徴９１４の間で演算を行うことにより、問題に関連するコンテキスト１０５の特徴９１５を出力する。第２のクロスドメイン特徴エンコーダ９０３が、第２のテキスト的特徴９１３と第２の視覚的特徴９１４の間で演算を行って、問題に関連するコンテキストの特徴９１５を得ることによって、問題に関連するコンテキスト１０５の特徴を、より正確に算出することが出来る。
例えば、トランスフォーマのエンコーダにより、第２のテキスト的なコンテキストエンコーダ９０１を実現し、画像データ用のトランスフォーマ（例えば、Swin Transformer）のエンコーダにより、第２の視覚的なコンテキストエンコーダ９０２を実現するケースでは、第２のクロスドメイン特徴エンコーダ９０３は、クロスアテンション（Cross Attention）演算を含む演算を行ってよい。その際に、第２のクロスドメイン特徴エンコーダ９０３が行う演算等については、前述の第１のクロスドメイン特徴エンコーダ６０３に関する説明で示したものと同様である。ただし、前述の第２のテキスト的なコンテキストエンコーダ９０１の説明で示した理由と同様の理由で、この第２のクロスドメイン特徴エンコーダ９０３と前述の第１のクロスドメイン特徴エンコーダ６０３では、モデルパラメータの値が一般には異なる。なお、第２のクロスドメイン特徴エンコーダ９０３も、前述の第１のクロスドメイン特徴エンコーダ６０３におけるような、連結（Concatenate）演算などを行って、問題に関連するコンテキストの特徴９１５を得るものであってよい。
図９における第２のクロスドメイン特徴エンコーダ９０３は、問題に関連するコンテキスト１０５についての、テキスト的なコンテキスト６１１の特徴を示す第２のテキスト的特徴９１３と、視覚的なコンテキスト６１２の特徴を示す第２の視覚的特徴９１４の間で演算を行うことにより、問題に関連するコンテキスト１０５の特徴９１５を出力する。第２のクロスドメイン特徴エンコーダ９０３が、第２のテキスト的特徴９１３と第２の視覚的特徴９１４の間で演算を行って、問題に関連するコンテキストの特徴９１５を得ることによって、問題に関連するコンテキスト１０５の特徴を、より正確に算出することが出来る。
例えば、トランスフォーマのエンコーダにより、第２のテキスト的なコンテキストエンコーダ９０１を実現し、画像データ用のトランスフォーマ（例えば、Swin Transformer）のエンコーダにより、第２の視覚的なコンテキストエンコーダ９０２を実現するケースでは、第２のクロスドメイン特徴エンコーダ９０３は、クロスアテンション（Cross Attention）演算を含む演算を行ってよい。その際に、第２のクロスドメイン特徴エンコーダ９０３が行う演算等については、前述の第１のクロスドメイン特徴エンコーダ６０３に関する説明で示したものと同様である。ただし、前述の第２のテキスト的なコンテキストエンコーダ９０１の説明で示した理由と同様の理由で、この第２のクロスドメイン特徴エンコーダ９０３と前述の第１のクロスドメイン特徴エンコーダ６０３では、モデルパラメータの値が一般には異なる。なお、第２のクロスドメイン特徴エンコーダ９０３も、前述の第１のクロスドメイン特徴エンコーダ６０３におけるような、連結（Concatenate）演算などを行って、問題に関連するコンテキストの特徴９１５を得るものであってよい。
【0037】
３の２の５．第２のクエリエンコーダ
図９における第２のクエリエンコーダ９０４は、問題を示すクエリ１０３の特徴を生成して、第２のクエリの特徴９１６として出力する。第２のクエリエンコーダ９０４は、非特許文献３に示されるトランスフォーマのエンコーダの技術を用いて構成されてよい。
トランスフォーマのエンコーダの技術を用いる場合における、第２のクエリエンコーダ９０４の内部構造は、前述の第１のクエリエンコーダ６０４と同様である。ただし、前述の第２のテキスト的なコンテキストエンコーダ９０１の説明で示した理由と同様の理由で、この第２のクエリエンコーダ９０４と前述の第１のクエリエンコーダ６０４では、モデルパラメータの値が一般には異なる。
図９における第２のクエリエンコーダ９０４は、問題を示すクエリ１０３の特徴を生成して、第２のクエリの特徴９１６として出力する。第２のクエリエンコーダ９０４は、非特許文献３に示されるトランスフォーマのエンコーダの技術を用いて構成されてよい。
トランスフォーマのエンコーダの技術を用いる場合における、第２のクエリエンコーダ９０４の内部構造は、前述の第１のクエリエンコーダ６０４と同様である。ただし、前述の第２のテキスト的なコンテキストエンコーダ９０１の説明で示した理由と同様の理由で、この第２のクエリエンコーダ９０４と前述の第１のクエリエンコーダ６０４では、モデルパラメータの値が一般には異なる。
【0038】
３の２の６．アテンションデコーダ
図９におけるアテンションデコーダ９０５は、第２のクロスドメイン特徴エンコーダ９０３が出力する、問題に関連するコンテキストの特徴９１５と、第２のクエリエンコーダが出力する第２のクエリの特徴９１６に基づいて、問題の原因に関連する情報を出力する。アテンションデコーダ９０５は、非特許文献３に示されるトランスフォーマのデコーダの技術を用いて構成されてよい。
トランスフォーマのデコーダの技術を用いる場合において、アテンションデコーダ９０５は、セルフアテンション（Self Attention）演算を行うマルチヘッドアテンション機構と、クロスアテンション（Cross Attention）演算を行うマルチヘッドアテンション機構と、フィードフォワード層の組み合わせを含むステージを複数有してよい。第２のクエリの特徴９１６をFqfとすると、Fqfから、それぞれd次元であるクエリQqfとキーKqfとバリューVqfが得られる。問題に関連するコンテキストの特徴９１５をFxfとすると、Fxfから、リニア層のそれぞれの出力として、それぞれd次元であるクエリQxfとキーKxfとバリューVxfが得られる。（なお、ここでいう「クエリQ」は、「クエリ１０３」とは異なる概念である点に注意されたい。）そして、アテンションデコーダ９０５は、クエリQqfとキーKxfとバリューVxfを用いたクロスアテンション演算を行って良い。アテンションデコーダ９０５は、当該クロスアテンション演算の結果を用いて、問題の原因に関連する情報を算出して出力する。
図９におけるアテンションデコーダ９０５は、第２のクロスドメイン特徴エンコーダ９０３が出力する、問題に関連するコンテキストの特徴９１５と、第２のクエリエンコーダが出力する第２のクエリの特徴９１６に基づいて、問題の原因に関連する情報を出力する。アテンションデコーダ９０５は、非特許文献３に示されるトランスフォーマのデコーダの技術を用いて構成されてよい。
トランスフォーマのデコーダの技術を用いる場合において、アテンションデコーダ９０５は、セルフアテンション（Self Attention）演算を行うマルチヘッドアテンション機構と、クロスアテンション（Cross Attention）演算を行うマルチヘッドアテンション機構と、フィードフォワード層の組み合わせを含むステージを複数有してよい。第２のクエリの特徴９１６をFqfとすると、Fqfから、それぞれd次元であるクエリQqfとキーKqfとバリューVqfが得られる。問題に関連するコンテキストの特徴９１５をFxfとすると、Fxfから、リニア層のそれぞれの出力として、それぞれd次元であるクエリQxfとキーKxfとバリューVxfが得られる。（なお、ここでいう「クエリQ」は、「クエリ１０３」とは異なる概念である点に注意されたい。）そして、アテンションデコーダ９０５は、クエリQqfとキーKxfとバリューVxfを用いたクロスアテンション演算を行って良い。アテンションデコーダ９０５は、当該クロスアテンション演算の結果を用いて、問題の原因に関連する情報を算出して出力する。
【0039】
３の２の７．多層パーセプトロン
図９における多層パーセプトロン９０６は、アテンションデコーダ９０５から問題の原因に関連する情報を受け取り、問題の原因を指定（推論）する情報１０７を出力する。多層パーセプトロン９０６は、全結合（Fully Connected）層を有してよい。
図９における多層パーセプトロン９０６は、アテンションデコーダ９０５から問題の原因に関連する情報を受け取り、問題の原因を指定（推論）する情報１０７を出力する。多層パーセプトロン９０６は、全結合（Fully Connected）層を有してよい。
【0040】
４．２つのモデルを構築するための機械学習処理
ここでは、上記で説明した本開示の実施形態におけるコンテキストフィルタリングモデル１０１と回答モデル１０２を構築するための機械学習処理について説明する。まず、コンテキストフィルタリングモデル１０１を構築するための機械学習処理に関して説明し、その後で、回答モデル１０２を構築するための機械学習処理に関して説明する。
尚、以下で説明する処理の全てを行うことが必須というわけではなく、以下で説明する処理の一部を行うための機械学習用の情報処理システム、コンピュータが実行する方法、または、機械学習用のプログラムであってもよい。
ここでは、上記で説明した本開示の実施形態におけるコンテキストフィルタリングモデル１０１と回答モデル１０２を構築するための機械学習処理について説明する。まず、コンテキストフィルタリングモデル１０１を構築するための機械学習処理に関して説明し、その後で、回答モデル１０２を構築するための機械学習処理に関して説明する。
尚、以下で説明する処理の全てを行うことが必須というわけではなく、以下で説明する処理の一部を行うための機械学習用の情報処理システム、コンピュータが実行する方法、または、機械学習用のプログラムであってもよい。
【0041】
４の１．コンテキストフィルタリングモデルのための機械学習処理
図１０は、コンテキストフィルタリングモデル１０１を構築するための機械学習処理を示す。図１０で示す機械学習処理の例は、教師有り機械学習に分類される。
当該機械学習処理により、コンテキストフィルタリングモデル１０１で用いるモデルパラメータ１０３１に関する訓練（学習）が行われる。当該機械学習処理を実行する情報処理システム１０００は、コンテキストフィルタリングモデル１０１の機能を実現するためのプログラムを実行出来るか、何らかの手法（当該手法に基づいて、よりハードウェア的に実現される機能部があってもよい）によりコンテキストフィルタリングモデル１０１の機能を実現出来ればよい。（例えば機械学習処理のプログラムの実行中にモデルの機能を実現するためのプログラムが呼び出される。）つまり、モデルパラメータ１０３１に関する訓練（学習）を実施した後で、実際に問題に対する原因の指定（推論）処理を実行する情報処理システム１００と、図１０で示される機械学習処理を実行する情報処理システム１０００は、同じものでも、別のものでもよい。この点は、後述の回答モデル１０２を構築するための機械学習処理を実行する情報処理システム１２００についても同様である。
また、当該機械学習処理で用いる学習用文書の情報１０４Ｌは、モデルパラメータ１０３１に関する訓練（学習）が実施された後で、実際に問題に対する原因の指定（推論）処理が実行される際の文書の情報１０４と、同じものでも、別のものでもよい。
図１０は、コンテキストフィルタリングモデル１０１を構築するための機械学習処理を示す。図１０で示す機械学習処理の例は、教師有り機械学習に分類される。
当該機械学習処理により、コンテキストフィルタリングモデル１０１で用いるモデルパラメータ１０３１に関する訓練（学習）が行われる。当該機械学習処理を実行する情報処理システム１０００は、コンテキストフィルタリングモデル１０１の機能を実現するためのプログラムを実行出来るか、何らかの手法（当該手法に基づいて、よりハードウェア的に実現される機能部があってもよい）によりコンテキストフィルタリングモデル１０１の機能を実現出来ればよい。（例えば機械学習処理のプログラムの実行中にモデルの機能を実現するためのプログラムが呼び出される。）つまり、モデルパラメータ１０３１に関する訓練（学習）を実施した後で、実際に問題に対する原因の指定（推論）処理を実行する情報処理システム１００と、図１０で示される機械学習処理を実行する情報処理システム１０００は、同じものでも、別のものでもよい。この点は、後述の回答モデル１０２を構築するための機械学習処理を実行する情報処理システム１２００についても同様である。
また、当該機械学習処理で用いる学習用文書の情報１０４Ｌは、モデルパラメータ１０３１に関する訓練（学習）が実施された後で、実際に問題に対する原因の指定（推論）処理が実行される際の文書の情報１０４と、同じものでも、別のものでもよい。
【0042】
４の１の１．コンテキストフィルタリングモデルのための機械学習処理の概要
コンテキストフィルタリングモデル１０１のための機械学習処理において、機械学習処理を実行する情報処理システム１０００は、問題を示すクエリ１０３Ｌと、学習用文書の情報１０４Ｌを、コンテキストフィルタリングモデル１０１に入力して、問題に関連するコンテキストの選択情報１０６Ｌを得る。機械学習処理を実行する情報処理システム１０００は、コンテキストフィルタリングモデル１０１から出力された問題に関連するコンテキストの選択情報１０６Ｌと、文書の情報１０４Ｌのうち、問題に関連するコンテキスト１０５Ｌがいずれであるかを特定する教師データ１００２を比較して、誤差（Loss関数）１００３を得る。機械学習処理を実行する情報処理システム１０００は、誤差（Loss関数）１００３の絶対値が小さくなるように、モデルパラメータ１０３１の調整を行う、モデルパラメータの訓練（学習）１００４を実施する。以上の一連の処理が繰り返される。
コンテキストフィルタリングモデル１０１のための機械学習処理において、機械学習処理を実行する情報処理システム１０００は、問題を示すクエリ１０３Ｌと、学習用文書の情報１０４Ｌを、コンテキストフィルタリングモデル１０１に入力して、問題に関連するコンテキストの選択情報１０６Ｌを得る。機械学習処理を実行する情報処理システム１０００は、コンテキストフィルタリングモデル１０１から出力された問題に関連するコンテキストの選択情報１０６Ｌと、文書の情報１０４Ｌのうち、問題に関連するコンテキスト１０５Ｌがいずれであるかを特定する教師データ１００２を比較して、誤差（Loss関数）１００３を得る。機械学習処理を実行する情報処理システム１０００は、誤差（Loss関数）１００３の絶対値が小さくなるように、モデルパラメータ１０３１の調整を行う、モデルパラメータの訓練（学習）１００４を実施する。以上の一連の処理が繰り返される。
【0043】
４の１の２．機械学習処理に用いる注釈付きファイル
コンテキストフィルタリングモデル１０１のための機械学習処理においては、機械学習の繰り返し毎に、問題を示すクエリ１０３Ｌを提供するための情報源と、文書の情報１０４Ｌのうち、問題に関連するコンテキスト１０５Ｌがいずれであるかを特定する教師データ１００２を提供するための情報源が必要となりうる。
また、後述の回答モデル１０２のための機械学習処理においては、問題を示すクエリ１０３Ｌを提供するための情報源と、問題に関連するコンテキスト１０５Ｌ（テキスト的なコンテキスト６１１Ｌと視覚的なコンテキスト６１２Ｌ）を提供するための情報源と、問題の原因が何であるかを特定する教師データ１２０２を提供するための情報源が必要となりうる。
上記の実施形態におけるモデルのそれぞれの機械学習処理を実行するに先立って、図１０（または、後述の図１２）の１００１で示されるような、注釈付きファイルが用意されてよい。注釈付きファイル１００１は、領域特定情報１０１０（例えば、頁特定情報）と、テキスト的なコンテキスト情報１０１１と、視覚的なコンテキスト情報１０１２と、因果関係ツリー情報１０１３を備えてよい。
図１１は注釈付きファイル１００１の一例を示す。図１１では注釈付きファイル１００１がＸＭＬファイル１１０１とされているが、ファイル形式は限定されるものではない。
領域特定情報１０１０（例えば、頁特定情報）は、文書の情報１０４Ｌに対応する文書に含まれる領域（例えば、頁）のうち、当該注釈付きファイル１００１に関連付けられている領域（例えば、頁）を特定する。１つの注釈付きファイル１００１に関連付けられる領域（例えば、頁）の数は任意である。図１１では、頁番号１である１つの頁が注釈付きファイル１００１に関連付けられている例を示している。
テキスト的なコンテキスト情報１０１１は、領域特定情報１０１０（例えば、頁特定情報）により特定される文書の領域（例えば、頁）に関するテキスト的なコンテキスト６１１Ｌを提供するための情報である。図１１では、テキスト的なコンテキスト情報１０１１は、頁番号１である１つの頁に関する、テキスト的なコンテキスト６１１Ｌの文字コードそのものである。なお、テキスト的なコンテキスト情報１０１１の形式は文字コードそのものに限定されるわけではなく、例えば、テキスト的なコンテキスト６１１Ｌを格納しているテキストファイルを特定するパス名であってもよい。
視覚的なコンテキスト情報１０１２は、領域特定情報１０１０（例えば、頁特定情報）により特定される文書の領域（例えば、頁）に関する視覚的なコンテキスト６１２Ｌを提供するための情報である。図１１では、視覚的なコンテキスト情報１０１２は、頁番号１である１つの頁に関する、視覚的なコンテキスト６１２Ｌを示す画像データファイルを特定するパス名である。このようなパス名が用いられる場合は、画像データファイルは、注釈付きファイル１００１に関連付けやすいものとなる。なお、視覚的なコンテキスト情報１０１２の形式はパス名に限定されるわけではなく、例えば、視覚的なコンテキスト６１２Ｌを示す画像データそのものであってもよい。
因果関係ツリー情報１０１３は、領域特定情報１０１０（例えば、頁特定情報）により特定される文書の領域（例えば、頁）に含まれる情報から得られる因果関係ツリーの正解情報を示す。図１１の例では、因果関係ツリー情報１０１３は、図３で示される数式の情報３０１及び３０２から得られる因果関係ツリー４０１を表現するものとなっている。
注釈付きファイル１００１がＸＭＬ形式である場合は、注釈付きファイル１００１は、図１１の上部に示されるように、ファイルを一意に特定するＩＤフィールド、タイトル、作成日、最終更新日の情報を含んでよい。
機械学習処理を実行する情報処理システム１０００（、または、後述の機械学習処理を実行する情報処理システム１２００）は、以上のような注釈付きファイル１００１に記憶される情報を用いて、機械学習処理に要する情報を取得または生成することが出来るので、機械学習処理を実施することが出来る。
また、以上のような注釈付きファイル１００１が作成されれば、当該注釈付きファイル１００１は、コンテキストフィルタリングモデル１０１を構築するための機械学習処理にも、回答モデル１０２を構築するための機械学習処理にも、活用されることが出来る。つまり、機械学習処理のための学習用データの用意の負担を軽減することが出来る。
注釈付きファイル１００１がＸＭＬ形式である場合は、注釈付きファイル１００１の作成は比較的行いやすいものとなる。
なお、以上のような注釈付きファイル１００１は、例えば、後述の図１４のような編集画面１３０１により、作成されることが出来る。
コンテキストフィルタリングモデル１０１のための機械学習処理においては、機械学習の繰り返し毎に、問題を示すクエリ１０３Ｌを提供するための情報源と、文書の情報１０４Ｌのうち、問題に関連するコンテキスト１０５Ｌがいずれであるかを特定する教師データ１００２を提供するための情報源が必要となりうる。
また、後述の回答モデル１０２のための機械学習処理においては、問題を示すクエリ１０３Ｌを提供するための情報源と、問題に関連するコンテキスト１０５Ｌ（テキスト的なコンテキスト６１１Ｌと視覚的なコンテキスト６１２Ｌ）を提供するための情報源と、問題の原因が何であるかを特定する教師データ１２０２を提供するための情報源が必要となりうる。
上記の実施形態におけるモデルのそれぞれの機械学習処理を実行するに先立って、図１０（または、後述の図１２）の１００１で示されるような、注釈付きファイルが用意されてよい。注釈付きファイル１００１は、領域特定情報１０１０（例えば、頁特定情報）と、テキスト的なコンテキスト情報１０１１と、視覚的なコンテキスト情報１０１２と、因果関係ツリー情報１０１３を備えてよい。
図１１は注釈付きファイル１００１の一例を示す。図１１では注釈付きファイル１００１がＸＭＬファイル１１０１とされているが、ファイル形式は限定されるものではない。
領域特定情報１０１０（例えば、頁特定情報）は、文書の情報１０４Ｌに対応する文書に含まれる領域（例えば、頁）のうち、当該注釈付きファイル１００１に関連付けられている領域（例えば、頁）を特定する。１つの注釈付きファイル１００１に関連付けられる領域（例えば、頁）の数は任意である。図１１では、頁番号１である１つの頁が注釈付きファイル１００１に関連付けられている例を示している。
テキスト的なコンテキスト情報１０１１は、領域特定情報１０１０（例えば、頁特定情報）により特定される文書の領域（例えば、頁）に関するテキスト的なコンテキスト６１１Ｌを提供するための情報である。図１１では、テキスト的なコンテキスト情報１０１１は、頁番号１である１つの頁に関する、テキスト的なコンテキスト６１１Ｌの文字コードそのものである。なお、テキスト的なコンテキスト情報１０１１の形式は文字コードそのものに限定されるわけではなく、例えば、テキスト的なコンテキスト６１１Ｌを格納しているテキストファイルを特定するパス名であってもよい。
視覚的なコンテキスト情報１０１２は、領域特定情報１０１０（例えば、頁特定情報）により特定される文書の領域（例えば、頁）に関する視覚的なコンテキスト６１２Ｌを提供するための情報である。図１１では、視覚的なコンテキスト情報１０１２は、頁番号１である１つの頁に関する、視覚的なコンテキスト６１２Ｌを示す画像データファイルを特定するパス名である。このようなパス名が用いられる場合は、画像データファイルは、注釈付きファイル１００１に関連付けやすいものとなる。なお、視覚的なコンテキスト情報１０１２の形式はパス名に限定されるわけではなく、例えば、視覚的なコンテキスト６１２Ｌを示す画像データそのものであってもよい。
因果関係ツリー情報１０１３は、領域特定情報１０１０（例えば、頁特定情報）により特定される文書の領域（例えば、頁）に含まれる情報から得られる因果関係ツリーの正解情報を示す。図１１の例では、因果関係ツリー情報１０１３は、図３で示される数式の情報３０１及び３０２から得られる因果関係ツリー４０１を表現するものとなっている。
注釈付きファイル１００１がＸＭＬ形式である場合は、注釈付きファイル１００１は、図１１の上部に示されるように、ファイルを一意に特定するＩＤフィールド、タイトル、作成日、最終更新日の情報を含んでよい。
機械学習処理を実行する情報処理システム１０００（、または、後述の機械学習処理を実行する情報処理システム１２００）は、以上のような注釈付きファイル１００１に記憶される情報を用いて、機械学習処理に要する情報を取得または生成することが出来るので、機械学習処理を実施することが出来る。
また、以上のような注釈付きファイル１００１が作成されれば、当該注釈付きファイル１００１は、コンテキストフィルタリングモデル１０１を構築するための機械学習処理にも、回答モデル１０２を構築するための機械学習処理にも、活用されることが出来る。つまり、機械学習処理のための学習用データの用意の負担を軽減することが出来る。
注釈付きファイル１００１がＸＭＬ形式である場合は、注釈付きファイル１００１の作成は比較的行いやすいものとなる。
なお、以上のような注釈付きファイル１００１は、例えば、後述の図１４のような編集画面１３０１により、作成されることが出来る。
【0044】
４の１の３．コンテキストフィルタリングモデルのための機械学習に用いるクエリ
コンテキストフィルタリングモデル１０１を構築するための機械学習処理が実行される際に、機械学習を実行する情報処理システム１０００は、注釈付きファイル１００１が有する情報を用いて、コンテキストフィルタリングモデル１０１に入力するクエリ１０３Ｌを得る。具体的には、機械学習を実行する情報処理システム１０００は、注釈付きファイル１００１内の因果関係ツリー情報１０１３を参照して、因果関係ツリー４０１の根ノード４０２の情報を抽出する。根ノード４０２には、問題に含まれる変数２０１を特定する情報と、当該変数の状況を示す情報が含まれている。例えば図２、図３及び図４の例に沿って言えば、根ノード４０２には、問題に含まれる変数２０１が「T(t)」であり、当該変数の状況が「高い」というものであることを示す情報が含まれている。なお、根ノード４０２には、変数の説明（定義）の情報も含まれてよい。例えば図２、図３及び図４の例に沿って言えば、根ノード４０２には、「時刻tにおける保冷容器内の温度」という情報も含まれてよい。機械学習を実行する情報処理システム１０００は、根ノード４０２に含まれる、問題に含まれる変数２０１を特定する情報と、当該変数の状況を示す情報を用いて、問題を特定して、問題を示すクエリ１０３を得る。例えば図２、図３及び図４の例に沿って言えば、クエリ１０３Ｌが示す問題は「T(t)が高い」ということになる。このように、機械学習を実行する情報処理システム１０００は、注釈付きファイル１００１に基づいてクエリ１０３Ｌを得ることが出来る。
コンテキストフィルタリングモデル１０１を構築するための機械学習処理が実行される際に、機械学習を実行する情報処理システム１０００は、注釈付きファイル１００１が有する情報を用いて、コンテキストフィルタリングモデル１０１に入力するクエリ１０３Ｌを得る。具体的には、機械学習を実行する情報処理システム１０００は、注釈付きファイル１００１内の因果関係ツリー情報１０１３を参照して、因果関係ツリー４０１の根ノード４０２の情報を抽出する。根ノード４０２には、問題に含まれる変数２０１を特定する情報と、当該変数の状況を示す情報が含まれている。例えば図２、図３及び図４の例に沿って言えば、根ノード４０２には、問題に含まれる変数２０１が「T(t)」であり、当該変数の状況が「高い」というものであることを示す情報が含まれている。なお、根ノード４０２には、変数の説明（定義）の情報も含まれてよい。例えば図２、図３及び図４の例に沿って言えば、根ノード４０２には、「時刻tにおける保冷容器内の温度」という情報も含まれてよい。機械学習を実行する情報処理システム１０００は、根ノード４０２に含まれる、問題に含まれる変数２０１を特定する情報と、当該変数の状況を示す情報を用いて、問題を特定して、問題を示すクエリ１０３を得る。例えば図２、図３及び図４の例に沿って言えば、クエリ１０３Ｌが示す問題は「T(t)が高い」ということになる。このように、機械学習を実行する情報処理システム１０００は、注釈付きファイル１００１に基づいてクエリ１０３Ｌを得ることが出来る。
【0045】
４の１の４．学習用文書の情報の取り扱い（マスク処理を含む）
コンテキストフィルタリングモデル１０１を構築するための機械学習処理に用いる学習用文書の情報１０４Ｌは、前述の文書の情報１０４と同様の内部構成を有する。つまり、学習用文書の情報１０４Ｌは、文書の領域（例えば、頁）毎に、テキスト的なコンテキスト６１１Ｌと視覚的なコンテキスト６１２Ｌを有してよい。
機械学習を実行する情報処理システム１０００は、学習用文書の情報１０４Ｌをコンテキストフィルタリングモデル１０１に入力するに際して、文書の領域（例えば、頁毎）のそれぞれについて、テキスト的なコンテキスト６１１Ｌや視覚的なコンテキスト６１２Ｌの一方にマスク処理を行ってから、これらのコンテキストをコンテキストフィルタリングモデル１０１に入力してもよい。機械学習を実行する情報処理システム１０００が、テキスト的なコンテキスト６１１Ｌにテキストのマスク処理１０４１を行うと、テキスト的なコンテキスト６１１Ｌは、意味のある文字コードを有さないテキスト（例えば、”テキストコンテキスト無し”）とされて、コンテキストフィルタリングモデル１０１に入力される。機械学習を実行する情報処理システム１０００が、視覚的なコンテキスト６１２Ｌに画像のマスク処理１０４２を行うと、視覚的なコンテキスト６１２Ｌは、実質的には何ら画像を含まない（いわば白紙）の画像データとされて、コンテキストフィルタリングモデル１０１に入力される。
コンテキストフィルタリングモデル１０１を構築するための機械学習処理が実行された後で、情報処理システム１００が、実際の問題に対する原因を指定（推論）する際には、文書の情報１０４として、テキスト的なコンテキスト６１１と視覚的なコンテキスト６１２の一方のみをコンテキストフィルタリングモデル１０１に入力するケースは充分あり得る。そのため、コンテキストフィルタリングモデル１０１を構築するための機械学習処理においては、学習用文書の情報１０４Ｌが、テキスト的なコンテキスト６１１Ｌと視覚的なコンテキスト６１２Ｌの両方を有するケースと、一方のみを有するケースのそれぞれを想定して、機械学習処理が実行されれば、実際の問題に対する原因を指定（推論）する際の推論正解率も向上することが期待出来る。このように、実際の問題に対する原因を指定（推論）する際に、問題と原因の因果関係に関する情報を有する文書のバリエーション（例えば、テキスト的なコンテキストのみ存在する文書、視覚的なコンテキストのみ存在する文書、両方のコンテキストが存在する文書などのバリエーション）に柔軟に対応出来る、情報処理システム１００を得ることが出来る。
または、コンテキストフィルタリングモデル１０１を構築するための機械学習処理が実行される際に、機械学習を実行する情報処理システム１０００は、テキストのマスク処理１０４１や画像のマスク処理１０４２を、（０より大きく１より小さい）所定の確率で実行するものであってもよい。
コンテキストフィルタリングモデル１０１を構築するための機械学習処理に用いる学習用文書の情報１０４Ｌは、前述の文書の情報１０４と同様の内部構成を有する。つまり、学習用文書の情報１０４Ｌは、文書の領域（例えば、頁）毎に、テキスト的なコンテキスト６１１Ｌと視覚的なコンテキスト６１２Ｌを有してよい。
機械学習を実行する情報処理システム１０００は、学習用文書の情報１０４Ｌをコンテキストフィルタリングモデル１０１に入力するに際して、文書の領域（例えば、頁毎）のそれぞれについて、テキスト的なコンテキスト６１１Ｌや視覚的なコンテキスト６１２Ｌの一方にマスク処理を行ってから、これらのコンテキストをコンテキストフィルタリングモデル１０１に入力してもよい。機械学習を実行する情報処理システム１０００が、テキスト的なコンテキスト６１１Ｌにテキストのマスク処理１０４１を行うと、テキスト的なコンテキスト６１１Ｌは、意味のある文字コードを有さないテキスト（例えば、”テキストコンテキスト無し”）とされて、コンテキストフィルタリングモデル１０１に入力される。機械学習を実行する情報処理システム１０００が、視覚的なコンテキスト６１２Ｌに画像のマスク処理１０４２を行うと、視覚的なコンテキスト６１２Ｌは、実質的には何ら画像を含まない（いわば白紙）の画像データとされて、コンテキストフィルタリングモデル１０１に入力される。
コンテキストフィルタリングモデル１０１を構築するための機械学習処理が実行された後で、情報処理システム１００が、実際の問題に対する原因を指定（推論）する際には、文書の情報１０４として、テキスト的なコンテキスト６１１と視覚的なコンテキスト６１２の一方のみをコンテキストフィルタリングモデル１０１に入力するケースは充分あり得る。そのため、コンテキストフィルタリングモデル１０１を構築するための機械学習処理においては、学習用文書の情報１０４Ｌが、テキスト的なコンテキスト６１１Ｌと視覚的なコンテキスト６１２Ｌの両方を有するケースと、一方のみを有するケースのそれぞれを想定して、機械学習処理が実行されれば、実際の問題に対する原因を指定（推論）する際の推論正解率も向上することが期待出来る。このように、実際の問題に対する原因を指定（推論）する際に、問題と原因の因果関係に関する情報を有する文書のバリエーション（例えば、テキスト的なコンテキストのみ存在する文書、視覚的なコンテキストのみ存在する文書、両方のコンテキストが存在する文書などのバリエーション）に柔軟に対応出来る、情報処理システム１００を得ることが出来る。
または、コンテキストフィルタリングモデル１０１を構築するための機械学習処理が実行される際に、機械学習を実行する情報処理システム１０００は、テキストのマスク処理１０４１や画像のマスク処理１０４２を、（０より大きく１より小さい）所定の確率で実行するものであってもよい。
【0046】
４の１の５．コンテキストフィルタリングモデルのための機械学習に用いる教師データ
コンテキストフィルタリングモデル１０１を構築するための機械学習処理が実行される際に、機械学習を実行する情報処理システム１０００は、注釈付きファイル１００１が有する情報を用いて、教師データ１００２を得てよい。コンテキストフィルタリングモデル１０１を構築するための機械学習処理における教師データ１００２は、学習用文書の情報１０４Ｌにおいて、クエリ１０３Ｌが示す問題に関連するコンテキスト１０５Ｌがいずれであるか（文書の領域（例えば、頁）のいずれが問題に関連するものであるか）を示す正解情報であり、図１０では、領域特定情報１０２０（例えば、頁特定情報）と示される。
機械学習を実行する情報処理システム１０００は、注釈付きファイル１００１が有する領域特定情報１０１０（例えば、頁特定情報）を、そのまま、領域特定情報１０２０（例えば、頁特定情報）としてよい。なぜならば、領域特定情報１０１０（例えば、頁特定情報）は、注釈付きファイル１００１に関連付けられている学習用文書の領域（例えば、頁）を特定する情報である一方で、注釈付きファイル１００１が有する因果関係ツリー情報１０１３が示す根ノード４０２の情報から、注釈付きファイル１００１に関連付けられている学習用文書の領域（例えば、頁）の情報から導かれるものである、問題を示すクエリ１０３Ｌが得られるためである。または、機械学習を実行する情報処理システム１０００は、注釈付きファイル１００１が有する領域特定情報１０１０（例えば、頁特定情報）に対して若干の加工を行って（例えば、領域（例えば、頁）を特定する情報であったものを、各種コンテキストを特定する情報に変換して）、領域特定情報１０２０（例えば、頁特定情報）としてもよい。
コンテキストフィルタリングモデル１０１を構築するための機械学習処理が実行される際に、機械学習を実行する情報処理システム１０００は、注釈付きファイル１００１が有する情報を用いて、教師データ１００２を得てよい。コンテキストフィルタリングモデル１０１を構築するための機械学習処理における教師データ１００２は、学習用文書の情報１０４Ｌにおいて、クエリ１０３Ｌが示す問題に関連するコンテキスト１０５Ｌがいずれであるか（文書の領域（例えば、頁）のいずれが問題に関連するものであるか）を示す正解情報であり、図１０では、領域特定情報１０２０（例えば、頁特定情報）と示される。
機械学習を実行する情報処理システム１０００は、注釈付きファイル１００１が有する領域特定情報１０１０（例えば、頁特定情報）を、そのまま、領域特定情報１０２０（例えば、頁特定情報）としてよい。なぜならば、領域特定情報１０１０（例えば、頁特定情報）は、注釈付きファイル１００１に関連付けられている学習用文書の領域（例えば、頁）を特定する情報である一方で、注釈付きファイル１００１が有する因果関係ツリー情報１０１３が示す根ノード４０２の情報から、注釈付きファイル１００１に関連付けられている学習用文書の領域（例えば、頁）の情報から導かれるものである、問題を示すクエリ１０３Ｌが得られるためである。または、機械学習を実行する情報処理システム１０００は、注釈付きファイル１００１が有する領域特定情報１０１０（例えば、頁特定情報）に対して若干の加工を行って（例えば、領域（例えば、頁）を特定する情報であったものを、各種コンテキストを特定する情報に変換して）、領域特定情報１０２０（例えば、頁特定情報）としてもよい。
【0047】
４の１の６．コンテキストフィルタリングモデルのモデルパラメータの訓練（学習）
コンテキストフィルタリングモデル１０１を構築するための機械学習処理が実行される際に、機械学習を実行する情報処理システム１０００は、コンテキストフィルタリングモデル１０１からの出力である、問題に関連するコンテキストの選択情報１０６Ｌと教師データ１００２の間の誤差（Loss関数）１００３を算出し、当該誤差（Loss関数）１００３の絶対値が小さくなるように、モデルパラメータ１０３１を調整する訓練（学習）処理１００４を行う。前述のように、教師データを領域特定情報１０２０（例えば、頁特定情報）とし、問題に関連するコンテキストの選択情報１０６Ｌを領域選択情報１００６（例えば、頁選択情報）とすると、機械学習を実行する情報処理システム１０００は、領域特定情報１０２０（例えば、頁特定情報）と領域選択情報１００６（例えば、頁選択情報）の間で誤差（Loss関数）１００３を検討することになる。なお、モデルパラメータの訓練（学習）処理１００４は、誤差逆伝播法等の手法で行われてよい。
なお、コンテキストフィルタリングモデル１０１を構築するための機械学習処理が実行される際に、機械学習処理を実行する情報処理システム１０００は、コンテキストフィルタリングモデル１０１からの出力として、コンテキスト選択器６０６の出力ではなくて、スコア算出器６０５の出力を用いてもよい。つまり、領域選択情報１００６（例えば、頁選択情報）は、学習用文書の領域（例えば、頁）毎のスコア６１７Ｌとして定義されるとしてもよい。例えば、スコアのそれぞれは０以上１以下の値の実数であってもよい。この場合は、教師データ１００２である領域特定情報１０２０（例えば、頁特定情報）は、注釈付きファイル１００１内の領域特定情報１０１０（例えば、頁特定情報）が指し示す領域（例えば、頁）の正解スコアを最高値（例えば１．０）とし、それ以外の領域（例えば、頁）の正解スコアを最低値（例えば、０．０）としてもよい。
コンテキストフィルタリングモデル１０１を構築するための機械学習処理が実行される際に、機械学習を実行する情報処理システム１０００は、コンテキストフィルタリングモデル１０１からの出力である、問題に関連するコンテキストの選択情報１０６Ｌと教師データ１００２の間の誤差（Loss関数）１００３を算出し、当該誤差（Loss関数）１００３の絶対値が小さくなるように、モデルパラメータ１０３１を調整する訓練（学習）処理１００４を行う。前述のように、教師データを領域特定情報１０２０（例えば、頁特定情報）とし、問題に関連するコンテキストの選択情報１０６Ｌを領域選択情報１００６（例えば、頁選択情報）とすると、機械学習を実行する情報処理システム１０００は、領域特定情報１０２０（例えば、頁特定情報）と領域選択情報１００６（例えば、頁選択情報）の間で誤差（Loss関数）１００３を検討することになる。なお、モデルパラメータの訓練（学習）処理１００４は、誤差逆伝播法等の手法で行われてよい。
なお、コンテキストフィルタリングモデル１０１を構築するための機械学習処理が実行される際に、機械学習処理を実行する情報処理システム１０００は、コンテキストフィルタリングモデル１０１からの出力として、コンテキスト選択器６０６の出力ではなくて、スコア算出器６０５の出力を用いてもよい。つまり、領域選択情報１００６（例えば、頁選択情報）は、学習用文書の領域（例えば、頁）毎のスコア６１７Ｌとして定義されるとしてもよい。例えば、スコアのそれぞれは０以上１以下の値の実数であってもよい。この場合は、教師データ１００２である領域特定情報１０２０（例えば、頁特定情報）は、注釈付きファイル１００１内の領域特定情報１０１０（例えば、頁特定情報）が指し示す領域（例えば、頁）の正解スコアを最高値（例えば１．０）とし、それ以外の領域（例えば、頁）の正解スコアを最低値（例えば、０．０）としてもよい。
【0048】
４の２．回答モデルのための機械学習処理
図１２は、回答モデル１０２を構築するための機械学習処理を示す。図１２で示す機械学習処理の例は、教師有り機械学習に分類される。
当該機械学習処理により、回答モデル１０２で用いるモデルパラメータ１２３２に関する訓練（学習）が行われる。当該機械学習処理を実行する情報処理システム１２００は、回答モデル１０２の機能を実現するためのプログラムを実行出来るか、何らかの手法（当該手法に基づいて、よりハードウェア的に実現される機能部があってもよい）により回答モデル１０２の機能を実現出来ればよい。（例えば機械学習処理のプログラムの実行中にモデルの機能を実現するためのプログラムが呼び出される。）
また、当該機械学習処理で用いる問題に関連するコンテキスト１０５Ｌは、モデルパラメータ１２３２に関する訓練（学習）が実施された後で、実際に問題に対する原因の指定（推論）処理が実行される際の問題に関連するコンテキスト１０５と、同じものでも、別のものでもよい。
図１２は、回答モデル１０２を構築するための機械学習処理を示す。図１２で示す機械学習処理の例は、教師有り機械学習に分類される。
当該機械学習処理により、回答モデル１０２で用いるモデルパラメータ１２３２に関する訓練（学習）が行われる。当該機械学習処理を実行する情報処理システム１２００は、回答モデル１０２の機能を実現するためのプログラムを実行出来るか、何らかの手法（当該手法に基づいて、よりハードウェア的に実現される機能部があってもよい）により回答モデル１０２の機能を実現出来ればよい。（例えば機械学習処理のプログラムの実行中にモデルの機能を実現するためのプログラムが呼び出される。）
また、当該機械学習処理で用いる問題に関連するコンテキスト１０５Ｌは、モデルパラメータ１２３２に関する訓練（学習）が実施された後で、実際に問題に対する原因の指定（推論）処理が実行される際の問題に関連するコンテキスト１０５と、同じものでも、別のものでもよい。
【0049】
４の２の１．回答モデルのための機械学習処理の概要
回答モデル１０２のための機械学習処理において、機械学習処理を実行する情報処理システム１２００は、問題を示すクエリ１０３Ｌと、問題に関連するコンテキスト１０５Ｌを、回答モデル１０２に入力して、問題の原因を指定する情報１０７Ｌを得る。機械学習処理を実行する情報処理システム１２００は、回答モデル１０２から出力された問題の原因を指定する情報１０７Ｌと、問題の原因を特定する正解情報である教師データ１２０２を比較して、誤差（Loss関数）１２０３を得る。機械学習処理を実行する情報処理システム１２００は、誤差（Loss関数）１２０３の絶対値が小さくなるように、モデルパラメータ１２３２の調整を行う、モデルパラメータの訓練（学習）１２０４を実施する。以上の一連の処理が繰り返される。
回答モデル１０２のための機械学習処理において、機械学習処理を実行する情報処理システム１２００は、問題を示すクエリ１０３Ｌと、問題に関連するコンテキスト１０５Ｌを、回答モデル１０２に入力して、問題の原因を指定する情報１０７Ｌを得る。機械学習処理を実行する情報処理システム１２００は、回答モデル１０２から出力された問題の原因を指定する情報１０７Ｌと、問題の原因を特定する正解情報である教師データ１２０２を比較して、誤差（Loss関数）１２０３を得る。機械学習処理を実行する情報処理システム１２００は、誤差（Loss関数）１２０３の絶対値が小さくなるように、モデルパラメータ１２３２の調整を行う、モデルパラメータの訓練（学習）１２０４を実施する。以上の一連の処理が繰り返される。
【0050】
４の２の２．回答モデルのための機械学習に用いるクエリ
回答モデル１０２を構築するための機械学習処理を実行する際に、機械学習を実行する情報処理システム１２００は、注釈付きファイル１００１が有する情報を用いて、回答モデル１０２に入力するクエリ１０３Ｌを得る。クエリ１０３Ｌを得る手法は、コンテキストフィルタリングモデル１０１を構築するための機械学習処理において行われる手法と同様であってよい。
回答モデル１０２を構築するための機械学習処理を実行する際に、機械学習を実行する情報処理システム１２００は、注釈付きファイル１００１が有する情報を用いて、回答モデル１０２に入力するクエリ１０３Ｌを得る。クエリ１０３Ｌを得る手法は、コンテキストフィルタリングモデル１０１を構築するための機械学習処理において行われる手法と同様であってよい。
【0051】
４の２の３．学習用の問題に関連するコンテキストの取り扱い（マスク処理を含む）
回答モデル１０２を構築するための機械学習処理に用いる、問題に関連するコンテキスト１０５Ｌは、前述の問題に関連するコンテキスト１０５と同様の内部構成を有する。つまり、問題に関連するコンテキスト１０５Ｌは、問題に関連するとされた文書の領域（例えば、頁）毎に、テキスト的なコンテキスト６１１Ｌと視覚的なコンテキスト６１２Ｌを有してよい。
機械学習を実行する情報処理システム１２００は、問題に関連するコンテキスト１０５Ｌを回答モデル１０２に入力するに際して、問題に関連するとされた文書の領域（例えば、頁毎）のそれぞれについて、テキスト的なコンテキスト６１１Ｌや視覚的なコンテキスト６１２Ｌの一方にマスク処理を行ってから、これらのコンテキストを回答モデル１０２に入力してもよい。マスク処理の態様については、コンテキストフィルタリングモデル１０１を構築するための機械学習処理で行われるマスク処理と同様であってよい。
なお、機械学習処理を実行する情報処理システム１２００は、注釈付きファイル１００１が有するテキスト的なコンテキスト情報１０１１を用いて、学習用のテキスト的なコンテキスト６１１Ｌを得るとともに、注釈付きファイル１００１が有する視覚的なコンテキスト情報１０１２を用いて、学習用の視覚的なコンテキスト６１２Ｌを得てよい。
回答モデル１０２を構築するための機械学習処理に用いる、問題に関連するコンテキスト１０５Ｌは、前述の問題に関連するコンテキスト１０５と同様の内部構成を有する。つまり、問題に関連するコンテキスト１０５Ｌは、問題に関連するとされた文書の領域（例えば、頁）毎に、テキスト的なコンテキスト６１１Ｌと視覚的なコンテキスト６１２Ｌを有してよい。
機械学習を実行する情報処理システム１２００は、問題に関連するコンテキスト１０５Ｌを回答モデル１０２に入力するに際して、問題に関連するとされた文書の領域（例えば、頁毎）のそれぞれについて、テキスト的なコンテキスト６１１Ｌや視覚的なコンテキスト６１２Ｌの一方にマスク処理を行ってから、これらのコンテキストを回答モデル１０２に入力してもよい。マスク処理の態様については、コンテキストフィルタリングモデル１０１を構築するための機械学習処理で行われるマスク処理と同様であってよい。
なお、機械学習処理を実行する情報処理システム１２００は、注釈付きファイル１００１が有するテキスト的なコンテキスト情報１０１１を用いて、学習用のテキスト的なコンテキスト６１１Ｌを得るとともに、注釈付きファイル１００１が有する視覚的なコンテキスト情報１０１２を用いて、学習用の視覚的なコンテキスト６１２Ｌを得てよい。
【0052】
４の２の４．回答モデルのための機械学習に用いる教師データ
回答モデル１０２を構築するための機械学習処理が実行される際に、機械学習を実行する情報処理システム１２００は、注釈付きファイル１００１が有する情報を用いて、教師データ１２０２を得てよい。回答モデル１０２を構築するための機械学習処理における教師データ１２０２は、クエリ１０３Ｌが示す問題の原因（の候補）が何であるかを示す正解情報であり、図１２では、原因特定情報１２２０と示される。
機械学習を実行する情報処理システム１２００は、注釈付きファイル１００１が有する因果関係ツリー情報１０１３を参照して、因果関係ツリー４０１の中間ノード４０３の情報と葉ノード４０４の情報を抽出する。中間ノード４０３や葉ノード４０４には、原因に含まれる変数２０２を特定する情報と、当該変数の状況を示す情報が含まれている。例えば図２、図３及び図４の例に沿って言えば、葉ノード４０４の１つには、原因に含まれる変数２０２が「A」であり、当該変数の状況が「大きい」というものであることを示す情報が含まれている。なお、中間ノード４０３や葉ノード４０４には、変数の説明（定義）の情報も含まれてよい。例えば図２、図３及び図４の例に沿って言えば、葉ノード４０４の１つには、「保冷容器の表面積」という情報も含まれてよい。機械学習を実行する情報処理システム１２００は、中間ノード４０３や葉ノード４０４に含まれる、原因に含まれる変数２０２を特定する情報と当該変数の状況を示す情報を用いて原因を特定して、問題の原因（の候補）の正解情報を得る。例えば図２、図３及び図４の例に沿って言えば、クエリ１０３Ｌが示す問題の原因（の候補）の１つは「Aが大きい」ということになる。このように、機械学習を実行する情報処理システム１２００は、注釈付きファイル１００１に基づいて問題の原因（の候補）の正解情報を得ることが出来る。
回答モデル１０２を構築するための機械学習処理が実行される際に、機械学習を実行する情報処理システム１２００は、注釈付きファイル１００１が有する情報を用いて、教師データ１２０２を得てよい。回答モデル１０２を構築するための機械学習処理における教師データ１２０２は、クエリ１０３Ｌが示す問題の原因（の候補）が何であるかを示す正解情報であり、図１２では、原因特定情報１２２０と示される。
機械学習を実行する情報処理システム１２００は、注釈付きファイル１００１が有する因果関係ツリー情報１０１３を参照して、因果関係ツリー４０１の中間ノード４０３の情報と葉ノード４０４の情報を抽出する。中間ノード４０３や葉ノード４０４には、原因に含まれる変数２０２を特定する情報と、当該変数の状況を示す情報が含まれている。例えば図２、図３及び図４の例に沿って言えば、葉ノード４０４の１つには、原因に含まれる変数２０２が「A」であり、当該変数の状況が「大きい」というものであることを示す情報が含まれている。なお、中間ノード４０３や葉ノード４０４には、変数の説明（定義）の情報も含まれてよい。例えば図２、図３及び図４の例に沿って言えば、葉ノード４０４の１つには、「保冷容器の表面積」という情報も含まれてよい。機械学習を実行する情報処理システム１２００は、中間ノード４０３や葉ノード４０４に含まれる、原因に含まれる変数２０２を特定する情報と当該変数の状況を示す情報を用いて原因を特定して、問題の原因（の候補）の正解情報を得る。例えば図２、図３及び図４の例に沿って言えば、クエリ１０３Ｌが示す問題の原因（の候補）の１つは「Aが大きい」ということになる。このように、機械学習を実行する情報処理システム１２００は、注釈付きファイル１００１に基づいて問題の原因（の候補）の正解情報を得ることが出来る。
【0053】
４の２の５．回答モデルのモデルパラメータの訓練（学習）
回答モデル１０２を構築するための機械学習処理が実行される際に、機械学習を実行する情報処理システム１２００は、回答モデル１０２からの出力である、問題の原因を指定（推論）する情報１０７Ｌと教師データ１２０２の間の誤差（Loss関数）１２０３を算出し、当該誤差（Loss関数）１２０３の絶対値が小さくなるように、モデルパラメータ１２３２を調整する訓練（学習）処理１２０４を行う。前述のように、教師データを原因特定情報１２２０とし、問題の原因を指定する情報１０７Ｌを原因指定情報１２０７とすると、機械学習を実行する情報処理システム１２００は、原因特定情報１２２０と原因指定情報１２０７の間で誤差（Loss関数）１２０３を検討することになる。なお、モデルパラメータの訓練（学習）処理１２０４は、誤差逆伝播法等の手法で行われてよい。
回答モデル１０２を構築するための機械学習処理が実行される際に、機械学習を実行する情報処理システム１２００は、回答モデル１０２からの出力である、問題の原因を指定（推論）する情報１０７Ｌと教師データ１２０２の間の誤差（Loss関数）１２０３を算出し、当該誤差（Loss関数）１２０３の絶対値が小さくなるように、モデルパラメータ１２３２を調整する訓練（学習）処理１２０４を行う。前述のように、教師データを原因特定情報１２２０とし、問題の原因を指定する情報１０７Ｌを原因指定情報１２０７とすると、機械学習を実行する情報処理システム１２００は、原因特定情報１２２０と原因指定情報１２０７の間で誤差（Loss関数）１２０３を検討することになる。なお、モデルパラメータの訓練（学習）処理１２０４は、誤差逆伝播法等の手法で行われてよい。
【0054】
５．２つのモデルを構築するための機械学習処理に用いる注釈付きファイルの編集処理
ここでは、上記で説明したコンテキストフィルタリングモデル１０１と回答モデル１０２を構築するための機械学習処理に用いる注釈付きファイル１００１を編集する処理を説明する。
尚、以下で説明する処理の全てを行うことが必須というわけではなく、以下で説明する処理の一部を行うための編集処理用の情報処理システム、コンピュータが実行する方法、または、プログラムであってもよい。
ここでは、上記で説明したコンテキストフィルタリングモデル１０１と回答モデル１０２を構築するための機械学習処理に用いる注釈付きファイル１００１を編集する処理を説明する。
尚、以下で説明する処理の全てを行うことが必須というわけではなく、以下で説明する処理の一部を行うための編集処理用の情報処理システム、コンピュータが実行する方法、または、プログラムであってもよい。
【0055】
５の１．編集用情報処理システムの概要
図１３は、注釈付きファイル１００１を編集するための編集用情報処理システム１３００を示す。この編集用情報処理システム１３００は、前述の情報処理システム１００、機械学習処理を実行する情報処理システム１０００や１２００と、同じであっても、別のものであってもよい。なお、図１３においては「インターフェース」という語を「I/F」と略記している。
編集用情報処理システム１３００は、編集画面表示制御部１３０２と、情報入力受付制御部１３０３と、注釈付きファイル作成部１３０４を有してよい。これらの部は、編集用情報処理システム１３００に編集用プログラムを実行させることにより、実現されるものであってよい。または、これらの部のそれぞれや、部のなかの一部の機能は、よりハードウェア的に実装されるものであってもよい。編集画面表示制御部１３０２は、注釈付きファイル１００１を編集するために用いる編集画面１３０１を表示するように制御する。情報入力受付制御部１３０３は、編集画面１３０１を利用して行われた、注釈付きファイル１００１に含める情報の入力を受け付けるように制御する。注釈付きファイル作成部１３０４は、情報入力受付制御部１３０３の制御により受け付けられた情報を用いて、注釈付きファイル１００１を作成する。
図１３は、注釈付きファイル１００１を編集するための編集用情報処理システム１３００を示す。この編集用情報処理システム１３００は、前述の情報処理システム１００、機械学習処理を実行する情報処理システム１０００や１２００と、同じであっても、別のものであってもよい。なお、図１３においては「インターフェース」という語を「I/F」と略記している。
編集用情報処理システム１３００は、編集画面表示制御部１３０２と、情報入力受付制御部１３０３と、注釈付きファイル作成部１３０４を有してよい。これらの部は、編集用情報処理システム１３００に編集用プログラムを実行させることにより、実現されるものであってよい。または、これらの部のそれぞれや、部のなかの一部の機能は、よりハードウェア的に実装されるものであってもよい。編集画面表示制御部１３０２は、注釈付きファイル１００１を編集するために用いる編集画面１３０１を表示するように制御する。情報入力受付制御部１３０３は、編集画面１３０１を利用して行われた、注釈付きファイル１００１に含める情報の入力を受け付けるように制御する。注釈付きファイル作成部１３０４は、情報入力受付制御部１３０３の制御により受け付けられた情報を用いて、注釈付きファイル１００１を作成する。
【0056】
５の２．編集画面
編集画面１３０１は、領域（例えば、頁）特定インターフェース１３１０と、テキスト入力インターフェース１３１１と、画像入力インターフェース１３１２と、因果関係ツリー入力インターフェース１３１３を有してよい。領域（例えば、頁）特定インターフェース１３１０は、注釈付きファイル１００１に含まれる領域特定情報１０１０（例えば、頁特定情報）についての入力を受け付けるためのものである。テキスト入力インターフェース１３１１は、注釈付きファイル１００１に含まれるテキスト的なコンテキスト情報１０１１についての入力を受け付けるためのものである。画像入力インターフェース１３１２は、注釈付きファイル１００１に含まれる視覚的なコンテキスト情報１０１２についての入力を受け付けるためのものである。因果関係ツリー入力インターフェース１３１３は、注釈付きファイル１００１に含まれる因果関係ツリー情報１０１３についての入力を受け付けるためのものである。
図１４は、編集画面１３０１の一例を示す。図１４の編集画面１３０１は、注釈付きファイル１００１を作成するために、オペレータ等がマウス、キーボード、タッチパネル等の入力装置を用いて情報を入力する助けとなるものを表示する。
編集画面１３０１は、領域（例えば、頁）特定インターフェース１３１０の一例としてのページタブ１４０８を備えてよい。図１４では「ページ１」というページタブ１４０８が存在するので、図１４の例では、領域（例えば、頁）番号７０１が「１」である文書の領域（例えば、頁）に、この編集画面１３０１で作成される注釈付きファイル１００１が関連付けられることを示す。図１４に示す「新規ページ」というページタブ１４０８をオペレータ等がマウス等を用いて選択し、選択したページタブ１４０８に、オペレータ等がキーボード等を用いて、新たに「ページ２」または「２」などと入力すると、この編集画面１３０１で作成される注釈付きファイル１００１は、さらに、領域（例えば、頁）番号７０１が「２」である文書の領域（例えば、頁）にも関連付けられることになる。
編集画面１３０１は、テキスト入力インターフェース１３１１の一例としてのテキストデータ用テキストボックス１４０９を備えてよい。オペレータ等がマウス等で１つのページタブ１４０８をアクティブにした上で、テキストデータ用テキストボックス１４０９に、テキスト的なコンテキスト６１１Ｌを文字コードにて入力すれば（例えば、オペレータ等が、コピーアンドペーストの動作で、テキストデータ用テキストボックス１４０９に、テキスト的なコンテキスト６１１Ｌを転記すれば）、アクティブになっているページタブ１４０８が示す領域（例えば、頁）番号７０１の領域（例えば、頁）のテキスト的なコンテキスト６１１Ｌが、注釈付きファイル１００１に（保存アイコン１４０５がクリックされたタイミングで）書き込まれる。なお、編集画面１３０１では、テキスト的なコンテキスト６１１Ｌは文字コードを直接入力する形式となっているが、これには限定されない。例えば、編集画面を用いて、オペレータ等が、テキスト的なコンテキスト６１１Ｌが格納されているテキストファイルのパス名を、注釈付きファイル１００１に書き込むようなものであってもよい。
編集画面１３０１は、画像入力インターフェース１３１２の一例としてのパス名入力欄１４１０を備えてよい。オペレータ等がマウス等で１つのページタブ１４０８をアクティブにした上で、オペレータ等がキーボード等で、パス名入力欄１４１０に、視覚的なコンテキスト６１２Ｌである画像データファイルのパス名を入力すれば、アクティブになっているページタブ１４０８が示す領域（例えば、頁）番号７０１の領域（例えば、頁）の視覚的なコンテキスト６１２Ｌのパス名の情報が、注釈付きファイル１００１に（保存アイコン１４０５がクリックされたタイミングで）書き込まれる。
または、オペレータ等がマウス等で１つのページタブ１４０８をアクティブにした上で、オペレータ等がマウス等で参照アイコン１４１１をクリックして、編集用情報処理システム１３００に、当該システム１３００からアクセス可能なドライブにおけるフォルダやファイルの一覧を別ウィンドウなどに表示させてもよい。オペレータ等がマウス等で、表示された一覧からファイルを選択してもよい。ここで選択されたファイルのパス名は、アクティブになっているページタブ１４０８が示す領域（例えば、頁）番号７０１の領域（例えば、頁）の視覚的なコンテキスト６１２Ｌのパス名の情報として、注釈付きファイル１００１に（保存アイコン１４０５がクリックされたタイミングで）書き込まれる。
編集画面１３０１は、因果関係ツリー入力インターフェース１３１３としてのツリーパネル１４１２とプロパティパネル１４１３を備えてよい。オペレータ等がマウス等でノード追加アイコン１４０３をクリックすると、ツリーパネル１４１２上に新たなノード１４１４が表示される。オペレータ等はマウス等でツリーパネル１４１２上のノード１４１４を移動させることが出来る。また、オペレータ等はマウス等でツリーパネル１４１２上のノード１４１４間の関係性を示す矢印を追記することや消去することが出来る。オペレータ等がマウス等でツリーパネル１４１２上の１つのノード１４１４をクリックしてアクティブにすると、オペレータ等はマウス等及びキーボード等を用いてプロパティパネル１４１３に情報を書き込むことにより、アクティブとなっているノード１４１４に含める情報（ノードが有するプロパティ）を編集することが出来る。ここで、ノード１４１４に含める情報としては、変数２０１または２０２、変数の状況、変数の説明（定義）が存在してよい。（なお、変数の説明（定義）は、ノードが有するプロパティを抽出する際に、検索対象として用いられることも出来る。）オペレータ等は、ツリーパネル１４１２とプロパティパネル１４１３を用いて、この注釈付きファイル１００１に関連付けられる文書の領域（例えば、頁）の１つまたは複数に含まれる情報から導き出される、問題と原因の因果関係を示す因果関係ツリー４０１の正解情報を作成する。そして、この因果関係ツリー４０１の正解情報は、オペレータ等による保存アイコン１４０５のクリック時に、因果関係ツリー情報１０１３として、注釈付きファイル１００１に書き込まれる。
編集画面１３０１は、ノード削除アイコン１４０４を備えてよい。オペレータ等がマウス等でツリーパネル１４１２上の１つのノード１４１４をアクティブにした上で、オペレータ等がマウス等でノード削除アイコン１４０４をクリックすると、アクティブにされていたノード１４１４はツリーパネル１４１２上から削除される。
編集画面１３０１は、オペレータ等がキーボード等を用いて、編集中の注釈付きファイル１００１のタイトルを入力するための、タイトル用テキストボックス１４０７を備えてよい。
編集画面１３０１は、新規作成アイコン１４０１、ロードアイコン１４０２、保存アイコン１４０５、終了アイコン１４０６のそれぞれを備えてよい。オペレータ等がマウス等で新規作成アイコン１４０１をクリックすると、編集用情報処理システム１３００は、新たな注釈付きファイル１００１を作成するために、まだ何も入力されていない（または、一部または全部の項目にディフォルトの値が入力されている）編集画面１３０１を表示する。オペレータ等がマウス等でロードアイコン１４０２をクリックすると、編集用情報処理システム１３００は、ロードする候補となる（過去に保存された）注釈付きファイル１００１の一覧を表示する。オペレータ等がマウス等で、当該一覧から１つの注釈付きファイル１００１を選択すると、編集用情報処理システム１３００は、選択された（多くのケースでは編集作業が完了していない）注釈付きファイル１００１の編集作業が可能な編集画面１３０１を表示する。オペレータ等がマウス等で保存アイコン１４０５をクリックすると、編集用情報処理システム１３００は、その時点で編集画面１３０１を用いて入力されていた情報を用いて、注釈付きファイル１００１を作成し保存するか、注釈付きファイル１００１を更新し保存する。その際に、保存される注釈付きファイル１００１のファイル名をオペレータ等からキーボード等にて入力可能としてもよい。保存形式は、例えば、ＸＭＬ形式であってよい。オペレータ等がマウス等で終了アイコン１４０６をクリックすると、編集用情報処理システム１３００は、編集画面１３０１の表示を終了する（編集用プログラムを終了する）。この終了の際に、編集用情報処理システム１３００は、注釈付きファイル１００１を保存するか否かをオペレータ等に問い合わせるポップアップウインドウを表示してもよいし、オペレータ等に問い合わせずに、保存アイコン１４０５をクリックされた時と同様に、注釈付きファイル１００１の保存処理を行ってもよい。
以上のような編集画面１３０１により、領域特定情報１０１０（例えば、頁特定情報）、テキスト的なコンテキスト情報１０１１、視覚的なコンテキスト情報１０１２、または、因果関係ツリー情報１０１３のそれぞれの特性に応じた情報の入力を実現することが出来る。
編集画面１３０１は、領域（例えば、頁）特定インターフェース１３１０と、テキスト入力インターフェース１３１１と、画像入力インターフェース１３１２と、因果関係ツリー入力インターフェース１３１３を有してよい。領域（例えば、頁）特定インターフェース１３１０は、注釈付きファイル１００１に含まれる領域特定情報１０１０（例えば、頁特定情報）についての入力を受け付けるためのものである。テキスト入力インターフェース１３１１は、注釈付きファイル１００１に含まれるテキスト的なコンテキスト情報１０１１についての入力を受け付けるためのものである。画像入力インターフェース１３１２は、注釈付きファイル１００１に含まれる視覚的なコンテキスト情報１０１２についての入力を受け付けるためのものである。因果関係ツリー入力インターフェース１３１３は、注釈付きファイル１００１に含まれる因果関係ツリー情報１０１３についての入力を受け付けるためのものである。
図１４は、編集画面１３０１の一例を示す。図１４の編集画面１３０１は、注釈付きファイル１００１を作成するために、オペレータ等がマウス、キーボード、タッチパネル等の入力装置を用いて情報を入力する助けとなるものを表示する。
編集画面１３０１は、領域（例えば、頁）特定インターフェース１３１０の一例としてのページタブ１４０８を備えてよい。図１４では「ページ１」というページタブ１４０８が存在するので、図１４の例では、領域（例えば、頁）番号７０１が「１」である文書の領域（例えば、頁）に、この編集画面１３０１で作成される注釈付きファイル１００１が関連付けられることを示す。図１４に示す「新規ページ」というページタブ１４０８をオペレータ等がマウス等を用いて選択し、選択したページタブ１４０８に、オペレータ等がキーボード等を用いて、新たに「ページ２」または「２」などと入力すると、この編集画面１３０１で作成される注釈付きファイル１００１は、さらに、領域（例えば、頁）番号７０１が「２」である文書の領域（例えば、頁）にも関連付けられることになる。
編集画面１３０１は、テキスト入力インターフェース１３１１の一例としてのテキストデータ用テキストボックス１４０９を備えてよい。オペレータ等がマウス等で１つのページタブ１４０８をアクティブにした上で、テキストデータ用テキストボックス１４０９に、テキスト的なコンテキスト６１１Ｌを文字コードにて入力すれば（例えば、オペレータ等が、コピーアンドペーストの動作で、テキストデータ用テキストボックス１４０９に、テキスト的なコンテキスト６１１Ｌを転記すれば）、アクティブになっているページタブ１４０８が示す領域（例えば、頁）番号７０１の領域（例えば、頁）のテキスト的なコンテキスト６１１Ｌが、注釈付きファイル１００１に（保存アイコン１４０５がクリックされたタイミングで）書き込まれる。なお、編集画面１３０１では、テキスト的なコンテキスト６１１Ｌは文字コードを直接入力する形式となっているが、これには限定されない。例えば、編集画面を用いて、オペレータ等が、テキスト的なコンテキスト６１１Ｌが格納されているテキストファイルのパス名を、注釈付きファイル１００１に書き込むようなものであってもよい。
編集画面１３０１は、画像入力インターフェース１３１２の一例としてのパス名入力欄１４１０を備えてよい。オペレータ等がマウス等で１つのページタブ１４０８をアクティブにした上で、オペレータ等がキーボード等で、パス名入力欄１４１０に、視覚的なコンテキスト６１２Ｌである画像データファイルのパス名を入力すれば、アクティブになっているページタブ１４０８が示す領域（例えば、頁）番号７０１の領域（例えば、頁）の視覚的なコンテキスト６１２Ｌのパス名の情報が、注釈付きファイル１００１に（保存アイコン１４０５がクリックされたタイミングで）書き込まれる。
または、オペレータ等がマウス等で１つのページタブ１４０８をアクティブにした上で、オペレータ等がマウス等で参照アイコン１４１１をクリックして、編集用情報処理システム１３００に、当該システム１３００からアクセス可能なドライブにおけるフォルダやファイルの一覧を別ウィンドウなどに表示させてもよい。オペレータ等がマウス等で、表示された一覧からファイルを選択してもよい。ここで選択されたファイルのパス名は、アクティブになっているページタブ１４０８が示す領域（例えば、頁）番号７０１の領域（例えば、頁）の視覚的なコンテキスト６１２Ｌのパス名の情報として、注釈付きファイル１００１に（保存アイコン１４０５がクリックされたタイミングで）書き込まれる。
編集画面１３０１は、因果関係ツリー入力インターフェース１３１３としてのツリーパネル１４１２とプロパティパネル１４１３を備えてよい。オペレータ等がマウス等でノード追加アイコン１４０３をクリックすると、ツリーパネル１４１２上に新たなノード１４１４が表示される。オペレータ等はマウス等でツリーパネル１４１２上のノード１４１４を移動させることが出来る。また、オペレータ等はマウス等でツリーパネル１４１２上のノード１４１４間の関係性を示す矢印を追記することや消去することが出来る。オペレータ等がマウス等でツリーパネル１４１２上の１つのノード１４１４をクリックしてアクティブにすると、オペレータ等はマウス等及びキーボード等を用いてプロパティパネル１４１３に情報を書き込むことにより、アクティブとなっているノード１４１４に含める情報（ノードが有するプロパティ）を編集することが出来る。ここで、ノード１４１４に含める情報としては、変数２０１または２０２、変数の状況、変数の説明（定義）が存在してよい。（なお、変数の説明（定義）は、ノードが有するプロパティを抽出する際に、検索対象として用いられることも出来る。）オペレータ等は、ツリーパネル１４１２とプロパティパネル１４１３を用いて、この注釈付きファイル１００１に関連付けられる文書の領域（例えば、頁）の１つまたは複数に含まれる情報から導き出される、問題と原因の因果関係を示す因果関係ツリー４０１の正解情報を作成する。そして、この因果関係ツリー４０１の正解情報は、オペレータ等による保存アイコン１４０５のクリック時に、因果関係ツリー情報１０１３として、注釈付きファイル１００１に書き込まれる。
編集画面１３０１は、ノード削除アイコン１４０４を備えてよい。オペレータ等がマウス等でツリーパネル１４１２上の１つのノード１４１４をアクティブにした上で、オペレータ等がマウス等でノード削除アイコン１４０４をクリックすると、アクティブにされていたノード１４１４はツリーパネル１４１２上から削除される。
編集画面１３０１は、オペレータ等がキーボード等を用いて、編集中の注釈付きファイル１００１のタイトルを入力するための、タイトル用テキストボックス１４０７を備えてよい。
編集画面１３０１は、新規作成アイコン１４０１、ロードアイコン１４０２、保存アイコン１４０５、終了アイコン１４０６のそれぞれを備えてよい。オペレータ等がマウス等で新規作成アイコン１４０１をクリックすると、編集用情報処理システム１３００は、新たな注釈付きファイル１００１を作成するために、まだ何も入力されていない（または、一部または全部の項目にディフォルトの値が入力されている）編集画面１３０１を表示する。オペレータ等がマウス等でロードアイコン１４０２をクリックすると、編集用情報処理システム１３００は、ロードする候補となる（過去に保存された）注釈付きファイル１００１の一覧を表示する。オペレータ等がマウス等で、当該一覧から１つの注釈付きファイル１００１を選択すると、編集用情報処理システム１３００は、選択された（多くのケースでは編集作業が完了していない）注釈付きファイル１００１の編集作業が可能な編集画面１３０１を表示する。オペレータ等がマウス等で保存アイコン１４０５をクリックすると、編集用情報処理システム１３００は、その時点で編集画面１３０１を用いて入力されていた情報を用いて、注釈付きファイル１００１を作成し保存するか、注釈付きファイル１００１を更新し保存する。その際に、保存される注釈付きファイル１００１のファイル名をオペレータ等からキーボード等にて入力可能としてもよい。保存形式は、例えば、ＸＭＬ形式であってよい。オペレータ等がマウス等で終了アイコン１４０６をクリックすると、編集用情報処理システム１３００は、編集画面１３０１の表示を終了する（編集用プログラムを終了する）。この終了の際に、編集用情報処理システム１３００は、注釈付きファイル１００１を保存するか否かをオペレータ等に問い合わせるポップアップウインドウを表示してもよいし、オペレータ等に問い合わせずに、保存アイコン１４０５をクリックされた時と同様に、注釈付きファイル１００１の保存処理を行ってもよい。
以上のような編集画面１３０１により、領域特定情報１０１０（例えば、頁特定情報）、テキスト的なコンテキスト情報１０１１、視覚的なコンテキスト情報１０１２、または、因果関係ツリー情報１０１３のそれぞれの特性に応じた情報の入力を実現することが出来る。
【0057】
６．その他（変形例）
本開示は、上記の実施形態（実施形態を実現するための機械学習処理の形態や、注釈付きファイル１００１の編集処理の形態も含む。以下同じ。）に限定されるものではなく様々な変形例を含む。実施形態の構成や処理の一部は、他に想定しうる実施形態の構成や処理に置換されてもよい。実施形態の構成や処理に、他に想定しうる実施形態の構成や処理が加えられてもよい。
本開示は、上記の実施形態（実施形態を実現するための機械学習処理の形態や、注釈付きファイル１００１の編集処理の形態も含む。以下同じ。）に限定されるものではなく様々な変形例を含む。実施形態の構成や処理の一部は、他に想定しうる実施形態の構成や処理に置換されてもよい。実施形態の構成や処理に、他に想定しうる実施形態の構成や処理が加えられてもよい。
【0058】
例えば、本開示では、以下のような実施形態の変形例がありうる。
【0059】
（Ａ）既存の因果関係ツリーデータベースの流用
上記の図１４の編集画面１３０１では、注釈付きファイル１００１に関連付けられる文書の領域（例えば、頁）の１つまたは複数から導き出される、問題と原因の因果関係を示す因果関係ツリー４０１の正解情報を、ツリーパネル１４１２とプロパティパネル１４１３を用いて、オペレータ等が手動で入力していた。
しかしながら、学習用文書の情報１０４Ｌのあるものについては因果関係ツリーデータベース（ＤＢ）が利用出来る場合には、編集用情報処理システム１３００は、当該学習用文書の情報１０４Ｌに関しては、ツリーパネル１４１２とプロパティパネル１４１３による因果関係ツリー４０１の正解情報の入力に代えて、因果関係ツリーデータベースが有する因果関係ツリー４０１の正解情報を、注釈付きファイル１００１に追記してもよい。
このようにすれば、因果関係ツリーデータベース（ＤＢ）等の情報資産があれば、本開示を実現するための注釈付きファイル１００１の作成作業において、情報資産が有効に活用されることが出来る。
上記の図１４の編集画面１３０１では、注釈付きファイル１００１に関連付けられる文書の領域（例えば、頁）の１つまたは複数から導き出される、問題と原因の因果関係を示す因果関係ツリー４０１の正解情報を、ツリーパネル１４１２とプロパティパネル１４１３を用いて、オペレータ等が手動で入力していた。
しかしながら、学習用文書の情報１０４Ｌのあるものについては因果関係ツリーデータベース（ＤＢ）が利用出来る場合には、編集用情報処理システム１３００は、当該学習用文書の情報１０４Ｌに関しては、ツリーパネル１４１２とプロパティパネル１４１３による因果関係ツリー４０１の正解情報の入力に代えて、因果関係ツリーデータベースが有する因果関係ツリー４０１の正解情報を、注釈付きファイル１００１に追記してもよい。
このようにすれば、因果関係ツリーデータベース（ＤＢ）等の情報資産があれば、本開示を実現するための注釈付きファイル１００１の作成作業において、情報資産が有効に活用されることが出来る。
【0060】
（Ｂ）注釈付きファイルの変形例
上記の実施形態を実現するための機械学習処理では、コンテキストフィルタリングモデル１０１を構築するための機械学習処理と、回答モデル１０２を構築するための機械学習処理とで、同じ注釈付きファイル１００１が用意される。
しかしながら、これらのモデル毎に、異なる注釈付きファイル（、または、学習用データ）が用意されてもよい。例えば、コンテキストフィルタリングモデル１０１を構築するための機械学習処理のために、領域特定情報１０１０（例えば、頁特定情報）と因果関係ツリー情報１０１３を備える注釈付きファイル（、または、学習用データ）が用意されてもよい。また、回答モデル１０２を構築するための機械学習処理のために、テキスト的なコンテキスト情報１０１１と視覚的なコンテキスト情報１０１２と因果関係ツリー情報１０１３を備える注釈付きファイル（、または、学習用データ）が用意されてもよい。
例えば、上記の２つのモデルの一方のみの機械学習処理を行いたい場合には、上記の変形例によって、用意する注釈付きファイル（、または、学習用データ）の簡素化を実現することが出来る。
上記の実施形態を実現するための機械学習処理では、コンテキストフィルタリングモデル１０１を構築するための機械学習処理と、回答モデル１０２を構築するための機械学習処理とで、同じ注釈付きファイル１００１が用意される。
しかしながら、これらのモデル毎に、異なる注釈付きファイル（、または、学習用データ）が用意されてもよい。例えば、コンテキストフィルタリングモデル１０１を構築するための機械学習処理のために、領域特定情報１０１０（例えば、頁特定情報）と因果関係ツリー情報１０１３を備える注釈付きファイル（、または、学習用データ）が用意されてもよい。また、回答モデル１０２を構築するための機械学習処理のために、テキスト的なコンテキスト情報１０１１と視覚的なコンテキスト情報１０１２と因果関係ツリー情報１０１３を備える注釈付きファイル（、または、学習用データ）が用意されてもよい。
例えば、上記の２つのモデルの一方のみの機械学習処理を行いたい場合には、上記の変形例によって、用意する注釈付きファイル（、または、学習用データ）の簡素化を実現することが出来る。
【0061】
（Ｃ）問題や原因における変数の表現手法の変形例
上記の実施形態の説明では、図２に示されるように、クエリ１０３が示す問題は「T(t)が高い」と表現され、問題の原因を指定（推論）する情報１０７に含まれる原因（の候補）は「Aが大きい」などと表現されている。
しかしながら、問題や原因における変数の表現手法は、数式上で使用する変数名を用いたものに限られるものではなく、変数を説明する自然言語を用いたものであってもよい。例えば、図２の例であれば、クエリ１０３が示す問題は「（時刻tにおける）保冷容器内の温度が高い」と表現され、問題の原因を指定（推論）する情報１０７に含まれる原因（の候補）は「保冷容器の表面積が大きい」などと表現されてよい。問題や原因における変数の表現手法を自然言語を用いるものとすることにしても、因果関係ツリーにおけるノードのそれぞれに変数の説明の情報を含ませるのであれば、本開示による対応は可能である。
このようにすれば、本開示に基づく情報処理システム等を利用する者は、自然言語を用いやすくなり、本開示の利便性が向上する。
上記の実施形態の説明では、図２に示されるように、クエリ１０３が示す問題は「T(t)が高い」と表現され、問題の原因を指定（推論）する情報１０７に含まれる原因（の候補）は「Aが大きい」などと表現されている。
しかしながら、問題や原因における変数の表現手法は、数式上で使用する変数名を用いたものに限られるものではなく、変数を説明する自然言語を用いたものであってもよい。例えば、図２の例であれば、クエリ１０３が示す問題は「（時刻tにおける）保冷容器内の温度が高い」と表現され、問題の原因を指定（推論）する情報１０７に含まれる原因（の候補）は「保冷容器の表面積が大きい」などと表現されてよい。問題や原因における変数の表現手法を自然言語を用いるものとすることにしても、因果関係ツリーにおけるノードのそれぞれに変数の説明の情報を含ませるのであれば、本開示による対応は可能である。
このようにすれば、本開示に基づく情報処理システム等を利用する者は、自然言語を用いやすくなり、本開示の利便性が向上する。
【0062】
上記で示した、本開示の実施形態や、実施形態の変形例のそれぞれに示される技術的事項は、技術的な矛盾が生じない限り、適宜組み合わせることが出来る。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】