特開 2023-90241 情報処理システム及び情報処理方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2023090241

(43)【公開日】2023-06-29

(54)【発明の名称】情報処理システム及び情報処理方法

(51)【国際特許分類】

   G06Q 10/04 20230101AFI20230622BHJP

【ＦＩ】

G06Q10/04

【審査請求】未請求

【請求項の数】9

【出願形態】ＯＬ

(21)【出願番号】P 2021205111

(22)【出願日】2021-12-17

(71)【出願人】

【識別番号】000005108

【氏名又は名称】株式会社日立製作所

(74)【代理人】

【識別番号】110001678

【氏名又は名称】藤央弁理士法人

(72)【発明者】

【氏名】若林 正樹

(72)【発明者】

【氏名】藤原 雄介

【テーマコード（参考）】

5L049

【Ｆターム（参考）】

5L049AA04

(57)【要約】

【課題】理由説明を受けた者の納得度に応じて、理由説明の内容を調整する機能の提供を目的とする。
【解決手段】制御部と、制御部に接続される記憶部と、を有する情報処理システムであって、記憶部は、入力値に基づく予測結果を出力する予測モデルと、予測結果が予測された理由を説明するための複数の理由説明と、を保持し、複数の理由説明の各々は、１以上の説明要素を含み、制御部は、各理由説明を受けた被説明者の納得の度合いを示す各理由説明の納得度に基づいて、各理由説明に含まれる各説明要素の納得度への寄与の大きさを示す重みを算出し、重みに基づいて、１以上の説明要素を含む新たな理由説明である拡張説明を作成し、作成した拡張説明に被説明者が納得したか否かに基づいて、新たな拡張説明を作成するか、既に作成した１以上の拡張説明のいずれかを最終的な拡張説明として選択するかを判定する。
【選択図】図４

【特許請求の範囲】

【請求項1】

制御部と、前記制御部に接続される記憶部と、を有する情報処理システムであって、
前記記憶部は、入力値に基づく予測結果を出力する予測モデルと、前記予測結果が予測された理由を説明するための複数の理由説明と、を保持し、
前記複数の理由説明の各々は、１以上の説明要素を含み、
前記制御部は、
前記各理由説明を受けた被説明者の納得の度合いを示す前記各理由説明の納得度に基づいて、前記各理由説明に含まれる前記各説明要素の納得度への寄与の大きさを示す重みを算出し、
前記重みに基づいて、１以上の前記説明要素を含む新たな理由説明である拡張説明を作成し、
前記作成した拡張説明に被説明者が納得したか否かに基づいて、新たな前記拡張説明を作成するか、既に作成した１以上の前記拡張説明のいずれかを最終的な拡張説明として選択するかを判定することを特徴とする情報処理システム。

【請求項2】

請求項１に記載の情報処理システムであって、
前記制御部は、前記被説明者によって入力された、二つの前記理由説明の複数の組の相対的な納得度に基づいて、前記各理由説明の納得度を算出することを特徴とする情報処理システム。

【請求項3】

請求項２に記載の情報処理システムであって、
前記制御部は、前記相対的な納得度、前記各理由説明の納得度、前記各説明要素の重み、前記１以上の拡張説明及び前記最終的な拡張説明の少なくともいずれかを説明履歴として前記記憶部に格納することを特徴とする情報処理システム。

【請求項4】

請求項３に記載の情報処理システムであって、
前記説明履歴は、前記各理由説明の納得度に対応する前記被説明者の識別情報を含み、
前記制御部は、前記予測モデルによる予測結果とともに前記被説明者に対して出力する前記予測結果に対応する前記理由説明を、当該被説明者の識別情報に対応する前記説明履歴に基づいて作成することを特徴とする情報処理システム。

【請求項5】

請求項３に記載の情報処理システムであって、
前記説明履歴は、前記各理由説明の納得度に対応する前記被説明者の識別情報を含み、
前記制御部は、前記予測モデルによる予測結果とともに前記被説明者に対して出力する前記予測結果に対応する前記理由説明を、当該被説明者以外の被説明者の識別情報に対応する前記説明履歴に基づいて作成することを特徴とする情報処理システム。

【請求項6】

請求項１に記載の情報処理システムであって、
前記制御部は、
１以上の前記説明要素を含む前記拡張説明を作成し、
前記作成した拡張説明に前記被説明者が納得することを示す情報が入力された場合、前記説明要素を追加することによって前記新たな拡張説明を作成し、
前記作成した拡張説明に前記被説明者が納得しないことを示す情報が入力された場合、前記被説明者が納得しなかった拡張説明の直前に作成した拡張説明を前記最終的な拡張説明として選択することを特徴とする情報処理システム。

【請求項7】

請求項６に記載の情報処理システムであって、
前記制御部は、
前記重みが最も大きい前記説明要素を含む前記拡張説明を作成し、
前記作成した拡張説明に前記被説明者が納得することを示す情報が入力された場合、前記重みの大きさの順に、前記説明要素を順次追加することによって、前記新たな拡張説明を作成することを特徴とする情報処理システム。

【請求項8】

請求項１に記載の情報処理システムであって、
前記予測モデルは決定木であり、
前記予測モデルによる予測結果が予測された理由を説明するための複数の理由説明に含まれる前記各説明要素は、前記決定木の根ノードから前記予測結果に対応する終端ノードに至る経路上の複数のノードの各々に対応する属性名及び属性値を含むことを特徴とする情報処理システム。

【請求項9】

制御部と、前記制御部に接続される記憶部と、を有する情報処理システムが実行する情報処理方法であって、
前記記憶部は、入力値に基づく予測結果を出力する予測モデルと、前記予測結果が予測された理由を説明するための複数の理由説明と、を保持し、
前記複数の理由説明の各々は、１以上の説明要素を含み、
前記情報処理方法は、
前記制御部が、前記各理由説明を受けた被説明者の納得の度合いを示す前記各理由説明の納得度に基づいて、前記各理由説明に含まれる前記各説明要素の納得度への寄与の大きさを示す重みを算出する手順と、
前記重みに基づいて、１以上の前記説明要素を含む新たな理由説明である拡張説明を作成する手順と、
前記作成した拡張説明に被説明者が納得したか否かに基づいて、新たな前記拡張説明を作成するか、既に作成した１以上の前記拡張説明のいずれかを最終的な拡張説明として選択するかを判定する手順と、を含むことを特徴とする情報処理方法。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、人工知能の予測判定における理由説明に関する。

【背景技術】

【0002】

特開２０２０－１２９２９５号公報（特許文献１）には、（１）コンピュータは、複数のデータに対する学習処理により生成された、異常データを判別する複数の判別条件を含む分析モデルに基づいて、分析対象データを分析する。（２）コンピュータは、分析対象データが複数の判別条件のうち所定の判別条件を満たす場合、複数の判別条件それぞれに関連付けられた異常理由を含む判別情報に基づいて、所定の判別条件に関連付けられた異常理由を特定する。（３）コンピュータは、所定の判別条件に関連付けられた異常理由を示す情報を出力する、という手法が記載されている。

【先行技術文献】

【特許文献】

【0003】

【特許文献1】特開２０２０－１２９２９５号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

機械学習による予測判定の理由説明を行なうとき、判定の根拠について一律の説明を行なってしまうと、その理由説明では説明を受けた側が理解できない場合がある。

【0005】

特許文献１には、異常理由を示す情報を出力する技術について記載されているが、この技術は、説明を受けた者の理解度や納得度に応じて理由説明の内容を調整するためのものではない。

【0006】

本発明は、上記の点に鑑みてなされたものであって、機械学習による予測判定の理由説明を受けた者の理解度や納得度に応じて、理由説明の内容を調整する機能の提供を目的とする。

【課題を解決するための手段】

【0007】

上記課題を解決するため、本発明の一態様に係る情報処理システムは、制御部と、前記制御部に接続される記憶部と、を有する情報処理システムであって、前記記憶部は、入力値に基づく予測結果を出力する予測モデルと、前記予測結果が予測された理由を説明するための複数の理由説明と、を保持し、前記複数の理由説明の各々は、１以上の説明要素を含み、前記制御部は、前記各理由説明を受けた被説明者の納得の度合いを示す前記各理由説明の納得度に基づいて、前記各理由説明に含まれる前記各説明要素の納得度への寄与の大きさを示す重みを算出し、前記重みに基づいて、１以上の前記説明要素を含む新たな理由説明である拡張説明を作成し、前記作成した拡張説明に被説明者が納得したか否かに基づいて、新たな前記拡張説明を作成するか、既に作成した１以上の前記拡張説明のいずれかを最終的な拡張説明として選択するかを判定することを特徴とする。

【発明の効果】

【0008】

本発明の一態様によれば、ある予測判定について被説明者が納得できる理由説明を探索調整することができる。

【0009】

上記の以外の課題、構成、及び効果は、以下の実施形態の説明により明らかにされる。

【図面の簡単な説明】

【0010】

【図1】本発明の実施形態における情報処理システムの利用の流れの概要の一例を示す図である。

【図2】本発明の実施形態における情報処理システムの機能ブロックの一例を示す図である。

【図3】本発明の実施形態における全体処理フローの一例を示す図である。

【図4】本発明の実施形態における理由説明内容の調整フローの一例を示す図である。

【図5】本発明の実施形態における情報処理システムによる初期理由説明内容の画面表示の一例を示す図である。

【図6】本発明の実施形態における情報処理システムによる、複数の理由説明に関する相対的な納得度を入力する画面表示の一例を示す図である。

【図7】本発明の実施形態における情報処理システムによる最終理由説明内容の画面表示の一例である。

【図8】本発明の実施形態における情報処理システムが保持する対象案件の補正有無および更新適用有無に関するデータ構造のテーブルの一例を示す図である。

【図9】本発明の実施形態における情報処理システムが保持する対象案件に含まれる項目値の更新に関するデータ構造のテーブルの一例を示す図である。

【図10】本発明の実施形態における情報処理システムが保持する対象案件に含まれる項目の予測判定の理由説明、説明要素及び拡張説明に関するデータ構造のテーブルの一例を示す図である。

【発明を実施するための形態】

【0011】

以下、図面に基づいて本発明の実施形態の例を説明する。

【0012】

図１は、本発明の実施形態における情報処理システム４の利用の流れの概要の一例を示す図である。

【0013】

情報処理システム４は、情報処理装置１及びクライアント端末２からなる。まず、情報処理装置１は、過去の審査書類を構成するデータを訓練データとした機械学習モデル５を作成する（ステップＳ１）。

【0014】

次に、情報処理装置１は、審査対象の書類を構成するデータを評価データとして入力されると（ステップＳ２）、機械学習モデル５に基づいて予測判定を行い、予測判定結果を出力する（ステップＳ３）。このとき、情報処理装置１は、この予測判定結果に至った判定理由も作成する（ステップＳ４）。情報処理装置１は、予測判定結果及び判定理由をクライアント端末２に送信する。

【0015】

クライアント端末２の書類審査画面表示部３は、予測判定結果及び判定理由を書類審査画面表示部３に複数表示したうえで（ステップＳ５）、被説明者による相対的な納得度の入力を取得する（ステップＳ６）。クライアント端末２は、相対的な納得度の入力値を情報処理装置１に送信する。

【0016】

その後、情報処理装置１は、相対的な納得度の入力値に基づいて、判定理由を構成する説明要素のうち、どの説明要素が重要と認識しているか算出する（ステップＳ７）。情報処理装置１は、最も重要な説明要素を特定した後、その要素を根幹として他の説明要素を追加した拡張説明を複数作成する（ステップＳ８）。情報処理装置１は、作成した複数の拡張説明をクライアント端末２に送信する。

【0017】

クライアント端末２は、拡張説明を書類審査画面表示部３に表示し、拡張説明に関する納得度の入力値を取得して、情報処理装置１に送信する。情報処理装置１は、拡張説明に関する納得度の入力値に基づいて、最終理由説明内容を確定するか、他の拡張説明を作成するかを決定する。

【0018】

図２は、本発明の実施形態における情報処理システム４の機能ブロックの一例を示す図である。

【0019】

情報処理装置１は、制御部１０１、記憶部１０２、モデル作成部１０３、予測判定作成部１０４、判定条件抽出部１０５、判定理由作成部１０６、個別納得度算出部１０７、重要説明要素抽出部１０８、拡張説明作成部１０９、最終説明内容作成部１１０及び予測結果適用部１１１からなる情報処理装置であり、例えばサーバコンピュータ等である。

【0020】

クライアント端末２は、表示出力部２０１、相対的納得度入力部２０２及び拡張説明納得度入力部２０３からなる情報処理装置であり、例えば情報処理装置１と連携して動作するクライアントＰＣ（Personal Computer）等である。

【0021】

制御部１０１は、情報処理装置１及びクライアント端末２における各種の処理の実行を制御するハードウェアであり、例えば中央処理装置（ＣＰＵ）等である。

【0022】

記憶部１０２は、訓練データ及び評価データのほか、作成した機械学習モデル等を格納しておくデータ保管媒体であり、メモリ、ＨＤＤ（Hard Disk Drive）及びＳＳＤ（Solid State Drive）などのデータストレージを指す。

【0023】

モデル作成部１０３は，記憶部１０２に格納してある訓練データを入力として機械学習モデルを作成する。

【0024】

予測判定作成部１０４は、モデル作成部１０３が作成した前記機械学習モデルに対して評価データを入力して、評価データに関する予測判定結果を作成する。

【0025】

判定条件抽出部１０５は、上記の予測判定結果を導くための判定条件、およびその判定結果の組み合わせを説明要素として抽出する。

【0026】

判定理由作成部１０６は、判定条件抽出部１０５が抽出した説明要素を組み合わせて判定理由を複数作成する。

【0027】

個別納得度算出部１０７は、後述する相対的納得度入力部２０２を介して入力された複数の判定理由に関して、相対的な納得度から個別の判定理由説明に関する個別納得度を算出する。

【0028】

重要説明要素抽出部１０８は、個別納得度算出部１０７が算出した個別納得度を個別の判定理由説明を構成する各説明要素の係数として割り当て、最も係数の大きい説明要素を重要説明要素として特定する。

【0029】

拡張説明作成部１０９は、重要説明要素抽出部１０８が特定した重要説明要素に対して、他の説明要素を追加した拡張的な判定理由説明を複数作成する。

【0030】

最終説明内容作成部１１０は、後述する拡張説明納得度入力部２０３を介して入力された納得度が所定の閾値より小さいとき、その拡張説明では納得されなかったと判定して、最終理由説明の候補から除外し、納得度が所定の閾値より大きい拡張説明の中から判定精度が比較的良い拡張説明を抽出して最終理由説明の候補とし、表示出力部２０１を介して表示する。

【0031】

予測結果適用部１１１は、最終説明内容作成部１１０において表示出力部２０１を介してされた最終理由説明に関する予測判定結果を用いて、記憶部１０２に格納されている評価データを更新する。このとき、適用前と適用後の双方のデータのほか、提示された理由説明、説明要素を構成する説明要素、理由説明に対する納得度の入力値、説明対象者のＩＤ、及び説明日時等を記憶部１０２に保管しておき、事後に適用前後の履歴を追跡できるようにしておいてもよい。

【0032】

表示出力部２０１は、判定理由作成部１０６が作成した複数の判定理由を表示出力し、また、拡張説明作成部１０９が作成した拡張的な判定理由説明を表示出力するディスプレイ装置等である。

【0033】

相対的納得度入力部２０２は、表示出力部２０１を介して表示出力された複数の判定理由に関して、複数の説明間の相対的納得度を入力するためのデバイスであり、例えば、キーボード、マウス又はタッチ式ディスプレイ装置等である。

【0034】

拡張説明納得度入力部２０３は、表示出力部２０１を介して表示出力された複数の拡張説明に関して、各説明の納得度を入力するためのデバイスであり、上記のキーボード等と同一のものでよい。

【0035】

初期説明納得度入力部２０４は、表示出力部２０１を介して表示出力された初期の理由説明に関して、納得度を入力するためのデバイスであり、上記の他の入力部と同一のものでよい。

【0036】

なお、図２には一つの制御部１０１及び一つの記憶部１０２を示したが、実際には情報処理装置１及びクライアント端末２の各々が制御部１０１及び記憶部１０２を備えてもよい。モデル作成部１０３、予測判定作成部１０４、判定条件抽出部１０５、判定理由作成部１０６、個別納得度算出部１０７、重要説明要素抽出部１０８、拡張説明作成部１０９、最終説明内容作成部１１０及び予測結果適用部１１１は、情報処理装置１の制御部１０１が記憶部１０２に格納されたプログラムを実行することによって実現されてもよい。

【0037】

図３は、本発明の実施形態における全体処理フローの一例を示す図である。

【0038】

ステップＳ３０１では、モデル作成部１０３は、記憶部１０２に格納されている訓練データを入力として機械学習を行い、所定の学習アルゴリズムにて予測判定のための機械学習モデルを作成し、記憶部１０２に保管する。

【0039】

ステップＳ３０２では、予測判定作成部１０４は、ステップＳ３０１で作成された機械学習モデルに対して、記憶部１０２に格納されている審査対象書類を構成するデータを評価データとして入力し、各評価データに対する予測判定結果を作成して、記憶部に出力する。予測判定結果とは、例えば機械学習モデルを用いた分類予測又は数値予測の結果でもよいし、補正内容の予測結果でもよい。

【0040】

ステップＳ３０３では、判定条件抽出部１０５は、ステップＳ３０１で用いた学習アルゴリズムで作成した機械学習モデルにおいて、各評価データにおける各予測判定結果を導くための判定条件を抽出する。判定条件は一つである場合もあるし、複数の判定条件が用いられることもある。判定条件の一つの例として、身長が１７０ｃｍ以上、などがある。また、判定条件抽出部１０５は、その判定条件にて判定し、ＹｅｓもしくはＮｏという二値に限らず、ある分類への適合度合又は類似度などの判定結果と判定条件とを組み合わせた説明要素を作成して、記憶部に格納する。

【0041】

ステップＳ３０４では、判定理由作成部１０６は、ステップＳ３０３にて説明要素をｘ個抽出できたとき、異なるｘ個の説明要素からｒ（１≦ｒ≦ｘ）個を選ぶ組み合わせ（ΣｘＣｒ）の数だけ、判定理由を作成する。なお、ここでは判定理由として作成する組み合わせの最大数を示したが、これ以降で使う判定理由の数は最大数である必要はない。なお、判定理由を構成する説明要素において、予測精度の向上に寄与する説明要素が予め分かっている場合は、作成する判定理由を、その説明要素を含むもののみに限定してもよい。

【0042】

ステップＳ３０５では、制御部１０１は、表示出力部２０１を介して、ステップＳ３０４で作成された判定理由を表示する。この判定理由は後述する調整された拡張説明ではないため、初期の判定理由と呼ぶことにする。

【0043】

ステップＳ３０６では、表示出力された判定理由について、初期説明納得度入力部２０４を介して納得した旨の入力があった場合、又は、納得度がある所定の閾値より大きい場合には、表示出力された判定理由について被説明者が納得したものと判定して、ステップＳ３０７に進む。また、このとき、さらに高精度の予測判定をめざした理由説明を探索するために、後述の理由説明内容の調整処理（ステップＳ３０８）に進んでもよい。このとき、表示出力部２０１には、他の理由説明内容を表示する等の確認画面を表示してもよい。

【0044】

ステップＳ３０７では、予測結果適用部１１１は、ステップＳ３０５における判定理由を構成する説明要素に基づいた予測判定結果を用いて、予測判定結果に関する履歴情報を更新する。このとき、表示出力部２０１を介して予測判定結果の適用に関する確認画面を表示してもよい。また、これまでの入力履歴、行われた理由説明、理由説明を構成する説明要素、後述する拡張説明、それらに関する納得度、及び予測結果の採否に関する記録を履歴として記憶部１０２に保管しておいてもよい。保管される履歴の例については図８～図１０を参照して後述する。

【0045】

ステップＳ３０８では、ステップＳ３０５の理由説明に対して納得度が所定の閾値より低い場合、又は、納得できない旨の入力があった場合に、理由説明内容の調整処理を行う。この処理の詳細については図４の説明にて後述する。

【0046】

ステップＳ３０９では、被説明者は、入力部を介して、上記の理由説明内容を調整した後の最終的な理由説明に対して納得したかどうかの入力を行うか、もしくは納得度を入力する。納得した旨の入力があった場合、又は、入力された納得度が所定の閾値より大きい場合には、ステップＳ３０６へ進む。一方、納得した旨の入力が得られない場合、又は、入力された納得度が所定の閾値より小さい場合は、ステップＳ３１０へ進む。

【0047】

ステップＳ３１０では、予測結果適用部１１１は機械学習による分類予測の結果又は補正予測の結果を用いた修正を適用しないで、適用前の状態を保持する。このとき、これまでの入力履歴、行われた理由説明、理由説明を構成する説明要素、後述する拡張説明、それらに関する納得度、及び予測結果の採否に関する記録を履歴として記憶部１０２に保管しておいてもよい。

【0048】

ステップＳ３１１では、同一の評価データに対して他の予測判定がある場合、又は、他の評価データに予測判定が含まれる場合には、ステップＳ３０２に戻って予測判定を行う。一方、そのような判定が他にない場合には、本案件に関する処理を終える。

【0049】

図４は、本発明の実施形態における理由説明内容の調整フローの一例を示す図である。

【0050】

ステップＳ４０１では、判定理由作成部１０６は、作成した複数の判定理由について表示出力部２０１を介して表示する。

【0051】

ステップＳ４０２では、被説明者は、複数の判定理由を表示された内容を確認した後、判定理由の組み合わせごとに相対的な納得度について相対的納得度入力部２０２を介して入力する。

【0052】

ステップＳ４０３では、個別納得度算出部１０７は、例えば階層分析法によって各判定理由について個別の納得度を計算する。

【0053】

まず、前記判定理由作成部１０６が判定理由の説明をＮ個作成したとき、各理由説明をｎｘ（１≦ｘ≦Ｎ）とする。最初に、被説明者は、理由説明ｎ１及びｎ２について、どちらの説明に相対的に納得できるかを表現する数値について相対的納得度入力部２０２を介して入力する。ここでは、数値そのものを直接入力するのではなく、数値に応じた文章表現の選択を介した間接的な入力でもよい。

【0054】

個別納得度算出部１０７は、この比較をすべての判定理由の組み合わせについて_ＮＣ_２回行い、一対比較行列Ａの各要素を作成する。ただし、作成した判定理由の数ｎが多いとき、一対比較行列Ａを構成する要素数が多くなるため、比較作業に時間がかかるようになる。そこで、類似する判定理由ごとにＮを分割し、Ｎの各部分集合について一対比較行列Ａ’を作成して、後述のように個別の理由説明について重みを計算しておき、最後に各判定理由の重みを計算する際に統合してもよい。また、すべての判定理由の組み合わせに対して相対的な納得度を入力しなくてもよい。このとき、既に入力済みの相対的な納得度から補完することによって推測される一対比較行列を作成してもよい。

【0055】

次に、個別納得度算出部１０７は、一対比較行列Ａから各理由説明ｎに関する重みを計算する。一対比較行列Ａは、その行列の最大固有値をλ_ｍａｘ、その最大固有値に関する主固有ベクトルをｗとすると、式（１）が満たされる。

【0056】

Ａｗ＝λ_ｍａｘｗ ・・・（１）

【0057】

このとき、この式を満たす主固有ベクトルｗの要素ｗ１，ｗ２，…，ｗＮは、それぞれｎ１，ｎ２，…，ｎＮの理由説明の重みとなる。この他に、重みを計算する方法として幾何平均法、調和平均法、べき乗法などがあるが、重みの計算方法及び近似方法について特に限定はなく、任意の方法を適用することができる。

【0058】

ステップＳ４０４では、個別納得度算出部１０７は、判定理由を構成する各説明要素の重みを計算する。

【0059】

各理由説明に関する納得度は、各理由説明を構成する説明要素に関する納得度の合計値と等しいとすると、Ｎ個の理由説明が最大Ｐ個の説明要素によって構成されているとき、各理由説明に関する納得度を表す主固有ベクトルｗは、各判定理由を構成する構成要素ｐｙ（１≦ｙ≦Ｐ）の有無を表す、Ｎ行Ｐ列の行列Ｂと、ベクトルｇを用いて、式（２）のように表すことができる。

【0060】

ｗ＝Ｂｇ ・・・（２）

【0061】

ここで、このＮ個の連立方程式を解いてベクトルｇを求めると、各説明要素ｐｙに関する重み（納得度）ｇｙが計算できる。

【0062】

ステップＳ４０５では、重要説明要素抽出部１０８は、上記のステップにて各要素の重みを計算した結果から、最も重みの大きな説明要素を重要説明要素として特定する。例えば、前述の構成要素のうち、最大の重みを持つ説明要素ｐｇ＿ｍａｘを抽出する。

【0063】

ステップＳ４０６では、拡張説明作成部１０９は、上記のステップにて特定した重要説明要素を根幹とした拡張説明を作成し、表示出力部２０１を介して提示する。例えば、拡張説明作成部１０９は、重要説明要素ｐｇ＿ｍａｘを説明要素とする拡張説明Ｅ１を作成する。次に、拡張説明作成部１０９は、説明要素ｐｙを重みの大きな順に並べ替えて枝葉要素ｐｇ２，ｐｇ３，…とするとき、根幹要素ｐｇ＿ｍａｘに対して枝葉要素ｐｇ２，ｐｇ３，…を追加した拡張説明Ｅ２，Ｅ３，…を順次作成する。このとき、追加する説明要素の数に限定はなく、説明要素が全部でＰ個存在する場合は、Σ_ＰＣ_ｋ（ｋ＝１～Ｐ）とおりの組み合わせが考えられる。ただし、すべての組み合わせについて拡張説明を作成する必要はなく、いくつかに絞ってもよい。例えば、予測精度を向上させる説明要素から順に追加してもよいし、先に計算した各説明要素に関する重みの大きい順から追加する方法などによって提示する拡張説明の数を限定してもよい。

【0064】

ステップＳ４０７では、被説明者が、表示出力部２０１を介して提示された前記複数の拡張説明Ｅｘについて、拡張説明納得度入力部２０３を介して納得度を入力する。この納得度とは、被説明者が納得した、又は納得できなかった、等の２値でもよいし、被説明者の納得度合を数値表現したものでもよい。この納得度の入力を各拡張説明について行うが、すべての拡張説明に対しての入力は必須ではない。

【0065】

ステップＳ４０８では、拡張説明作成部１０９は、ステップＳ４０７にて入力された各拡張説明に関する納得度に応じて、被説明者が納得したかどうかを検出する。ここで、入力値が納得度合である場合は、所定の閾値との比較によって納得したかどうかを検出してもよい。被説明者がある拡張説明に関して納得したと判定される場合は、Ｓ４０９へ進む。一方、納得できていないと判定される場合には、Ｓ４０６に戻って他の拡張説明を作成する。

【0066】

ステップＳ４０９では、最終説明内容作成部１１０は、被説明者が納得したと判定された拡張説明群の中で、最も高い予測精度を実現できる拡張説明を特定し、当該拡張説明を最終説明内容として採用する。

【0067】

ステップＳ４１０では、納得できた拡張説明が一つ以上ある状態ではあるが、さらに他の拡張説明を行なうことによる予測精度の向上を狙う場合は、Ｓ４０６に戻って更に試行する。一方、他の拡張説明による確認をこれ以上行なわない場合は、このフローを終了して図３のフロー図に戻る。

【0068】

上記の処理によれば、被説明者の納得度に応じた理由説明内容の調整ができるようになる。

【0069】

図５は、本発明の実施形態における情報処理システム４による初期理由説明内容の画面表示の一例を示す図である。

【0070】

ここでは、配偶者に関して申請者が入力した申請書の項目を例にとって説明する。図５（ａ）に示すように、配偶者に関する回答の分類の中には複数の入力項目があり、それぞれ項目ＩＤとして０１、０２、…というＩＤが付与されているものとする。配偶者に関する属性としては、申請者に配偶者がいるかどうかという項目０１、申請者と配偶者が同居しているかという項目０２、配偶者が申請者の扶養となっているかという項目０３があるとする。初期入力値として項目０１には空白、項目０２には「１」（同居している）、項目０３には「１」（扶養している）の入力がなされているとき、情報処理システム４は項目０１に対して、補正予測値「１」（配偶者がいる）を提示する。補正予測値の提示を受けた被説明者は、補正予測値を適用するためのボタンを押下するか、この補正予測値を提示するに至った予測の理由説明を表示するボタンを押下するか、補正予測値に対して何もしないかを選ぶことができる。ここでは、理由説明のボタンを押下したものとして説明を続ける。

【0071】

図５（ｂ）に示すように、項目０１の補正予測に関して、初期の判定理由と採否に関するボタンが表示される。被説明者は、この初期の判定理由に納得すれば、採否の項目にある適用ボタンを押下する。一方、納得しない場合には非適用ボタンを押下する。また、他の理由説明を確認したい場合には保留ボタンを押下してもよい。ここでは、他の理由説明を確認するために保留ボタンを押下したものとして説明を続ける。

【0072】

図６は、本発明の実施形態における情報処理システム４による、複数の理由説明に関する相対的な納得度を入力する画面表示の一例を示す図である。

【0073】

図６（ａ）は、情報処理システム４が初期の理由説明のほかに、複数の理由説明ｎを作成して被説明者に表示し、被説明者がその理由説明に関して相対的な納得度を入力する際の画面の一例である。

【0074】

例えば、理由説明ｎ１と理由説明ｎ２との間の相対的な納得度を入力するために、左方向を理由説明ｎ１、右方向を理由説明ｎ２に割り当てた線分を表示し、被説明者がその線分上のいずれかの位置を指示するポインタを操作してもよい。例えば、被説明者は、いずれの理由説明の納得度が同程度であると判断した場合には線分の中点を指示し、理由説明ｎ２の納得度が相対的に高いと判断した場合には線分の中点より右の位置を指示し、理由説明ｎ２の納得度の相対的な高さが高いほど線分の右端の近くを指示するように、ポインタを操作してもよい。

【0075】

図６（ａ）の例は、理由説明ｎ１に比べて理由説明ｎ２のほうが圧倒的に納得できる、理由説明ｎ３に比べて理由説明ｎ１のほうが比較的納得できる、理由説明ｎ３に比べて理由説明ｎ２のほうが少しだけ納得できる、という入力例を示している。被説明者が納得度の入力を完了した後、画面下部にあるボタンを押下することによって入力完了を情報処理システム４に通知すると、重要説明要素の抽出処理に移行する。

【0076】

図６（ｂ）は、情報処理システム４が複数作成した拡張説明Ｅを被説明者に表示し、被説明者がその拡張説明に関して納得可否もしくは納得度合を入力する際の画面の一例を示している。例えば、左方向を「納得できない」、右方向を「納得できる」に割り当てた線分を表示し、被説明者が図６（ａ）と同様の要領でその線分上のいずれかの位置を指示するポインタを操作することで納得度合いを入力してもよい。

【0077】

その場合、拡張説明Ｅ１，Ｅ２，Ｅ３，…について被説明者が納得できた場合は右側に寄った入力となり、納得できない場合は左側に寄った入力となる。このとき、所定の閾値を決めておき、閾値以上の納得度合の入力があった場合に被説明者が納得した、と判定してもよい。納得度の入力を完了した後に、画面下部にあるボタンに入力完了を情報処理システム４に通知し、最終理由説明の作成処理に移行する。

【0078】

なお、図６は被説明者が相対的な納得度及び納得度合いを直感的に入力することを支援するための画面表示の一例であり、実際には被説明者が納得度等を示す数値を直接入力するなど、上記以外の方法で入力が行われてもよい。

【0079】

図７は、本発明の実施形態における情報処理システム４による最終理由説明内容の画面表示の一例である。

【0080】

前述の図６（ｂ）に示した納得度合の入力に続いて最終理由説明の作成処理を行った結果、判定理由の項目が最も予測精度が高く、被説明者に納得してもらえた最終理由説明の内容によって、画面上の判定理由の項目の内容が更新される。ここでは、最終理由説明が拡張説明Ｅ２になった場合の例を示している。このため、図７では判定理由の項目に拡張説明Ｅ２を示す「Ｅ２」が表示されている。ただし、実際の判定理由の表示は「Ｅ２」ではなく、Ｅ２を構成する説明要素群が表示される。

【0081】

図７の判定理由に対応する採否の項目には、適用ボタン、非適用ボタン及び保留ボタンが表示されている。被説明者は前述の図６（ｂ）にて納得した旨の入力を行っているため、適用ボタンを押すことによって、補正予測値を適用することに関して最終合意を得る。それでも納得できない場合は、被説明者は非適用ボタンを押すことで補正予測値を非適用にしたり、保留ボタンを押すことで判定を保留として他の拡張説明を確認したりすることができる。

【0082】

図８は、本発明の実施形態における情報処理システム４が保持する対象案件の補正有無および更新適用有無に関するデータ構造のテーブルの一例を示す図である。

【0083】

図８に示す対象案件の補正有無および更新適用有無に関するデータ構造のテーブル８００は、案件ＩＤ８０１、振分分類８０２、分類判定処理実行日時８０３、更新適用有無８０４及び更新処理実行日時８０５を含む。

【0084】

案件ＩＤ８０１は、すべての案件をユニークな値で判別できるようにするための値である。ここで案件とは、情報処理システム４による処理の対象のデータのまとまりである。例えば情報処理システム４のユーザが官公庁であり、情報処理システム４の処理の対象が官公庁に提出された書類である場合、提出された一通の書類（例えばある申請者が何らかの申請を行うために提出した書類）が一つの案件として扱われてもよい。また、その場合、被説明者は官公庁において当該書類を処理する担当職員である。

【0085】

振分分類８０２は、案件ごとに補正不要、要補正などの予測分類結果を表す値である。この項目が「要補正」のときは、この案件に補正が必要な項目が一つ以上存在することがわかる。

【0086】

分類判定処理実行日時８０３は、前述の分類判定処理を行った日時を表す値である。

【0087】

更新適用有無８０４は、前述の分類判定処理を行って要補正となった案件について、初期入力値から補正予測値、もしくは人手による修正値等を用いて更新があったかどうかを表す値である。この項目が「あり」のときは、補正予測値に関して判定理由を確認することができる。

【0088】

更新処理実行日時８０５は、前述の初期入力値から補正予測値等を用いた更新が適用された日時を表す値である。

【0089】

図８の例では、案件ＩＤ８０１が「１」の案件については、補正不要と判定されたため、補正予測値等を用いた更新は行われなかった。案件ＩＤ８０１が「２」の案件については、要補正と判定され、補正予測値等を用いた更新が適用された。案件ＩＤ８０３が「３」の案件については、要補正と判定された（すなわち補正予測値が得られた）が、補正予測値等を用いた更新が適用されなかった。補正予測値が得られたにもかかわらずそれを用いた更新が適用されない場合として、例えば、被説明者が補正予測値と合わせて出力された理由説明に納得できなかった場合等で、図５又は図７に記載の採否の項目にて、非適用、保留が選択されている、もしくは未入力となっている場合、又は、被説明者が補正予測値より初期入力値が正しいと判断した場合などがありうる。

【0090】

図９は、本発明の実施形態における情報処理システム４が保持する対象案件に含まれる項目値の更新に関するデータ構造のテーブルの一例を示す図である。

【0091】

図９に示す対象案件に含まれる項目値の更新に関するデータ構造のテーブル９００は、項目ＩＤ９０１、属性名９０２、更新適用有無９０３、初期入力値９０４、補正予測値９０５及び最終結果値９０６を含む。

【0092】

項目ＩＤ９０１は、案件を構成する記入項目を一意に特定するための値である。例えば、提出された一通の書類が一つの案件に該当する場合、当該書類において提出者が記入する項目（例えば氏名、住所、生年月日、配偶者有無、配偶者同居有無等の記入項目）が項目ＩＤによって特定される。

【0093】

属性名９０２は、案件を構成する記入項目の名称を表す値である。

【0094】

更新適用有無９０３は、図８にて前述した更新適用有無８０４と同様である。

【0095】

初期入力値９０４は、申請者が記入した項目の初期値である。

【0096】

補正予測値９０５は、初期入力値に対して情報処理システム４が算出した推測値である。

【0097】

最終結果値９０６は、補正予測等の処理が行われた後に最終的に適用された値であり、初期入力値、補正予測値、又は人手で修正された値を適用することによって更新が行われる。

【0098】

図９には、テーブル９００の例として、テーブル９００Ａ、９００Ｂ及び９００Ｃを示す。

【0099】

図９（ａ）に示すテーブル９００Ａは、補正不要と判定された案件に関する保管データの一例である。例えば、項目ＩＤ９０１が「０１」の配偶者有無、及び、項目ＩＤ９０１が「０２」の配偶者同居に関して、初期入力値９０４がともに「１」であり（すなわち申請者には配偶者があり、その配偶者と同居していることが初期入力値として記入されており）、この初期入力値が妥当であると判定した場合には、補正予測値を生成せずに空白とする。このとき、最終結果値９０６としては初期入力値と同じ値である「１」が事前に格納されていてもよいし、被説明者がその値を承認したときに格納されてもよい。なお、更新適用有無９０３の列は、すべての項目について補正予測値等による値の更新がないときは、すべて空白としてもよい。

【0100】

図９（ｂ）に示すテーブル９００Ｂは、要補正と判定された案件に関する保管データの一例である。例えば、項目「０１」の配偶者有無は初期入力値が空白となっており、項目「０２」の配偶者同居及びその他の配偶者に関する項目に初期入力値がある場合である。このとき、情報処理システム４は、項目「０１」の記入漏れ等が原因であるかは特定しないが、項目「０１」の補正予測値として「１」を作成して被説明者に提示する。このとき、被説明者は、図１０に示すような、この項目の補正予測値に関する理由説明を参照できる。被説明者は、補正予測値の判定理由を確認し、最終結果値に補正予測値を適用した場合には、更新適用有無９０３の項目は「あり」に変更する。一方、項目０２の初期入力値は補正不要であると判定されたときは、更新適用有無９０３は空白のままとする。

【0101】

図９（ｃ）に示すテーブル９００Ｃは、要補正と判定された案件に関する保管データの一例である。例えば、項目「０１」の配偶者有無は初期入力値が「１」となっており、情報処理システム４は、この初期入力値が妥当であると判定した場合には、補正予測値を生成せずに空白とする。このとき、最終結果値としては初期入力値と同じ値である「１」が事前に格納されていてもよいし、被説明者がその値を承認したときに最終結果値として格納されてもよい。次に、項目「０２」の配偶者同居について初期入力値が１（同居している）であるが、他の項目との関連から補正予測値が「０」（すなわち別居している）と予測されるときは、被説明者は、図９（ｂ）と同様に、図１０に示すような補正予測値に関する理由説明を参照できる。なお、この補正予測値が間違っていたとき、最終結果値は補正予測値「０」ではなく、初期入力値「１」が採用される。このとき、項目「０１」、項目「０２」とも更新適用有無９０３は空白のままである。

【0102】

図１０は、本発明の実施形態における情報処理システム４が保持する対象案件に含まれる項目の予測判定の理由説明、説明要素及び拡張説明に関するデータ構造のテーブルの一例を示す図である。

【0103】

図１０（ａ）には、情報処理システム４が作成する複数の理由説明を管理するためのテーブル１０００を示す。

【0104】

図１０（ａ）に示すテーブル１０００は、理由説明ＩＤ１００１、判定条件１００２及び納得度１００３を含む。

【0105】

理由説明ＩＤ１００１は、ある予測判定に関して作成した理由説明を一意に特定するための値である。

【0106】

判定条件１００２は、ある予測判定の各理由説明を構成する説明要素に関して論理を構成したものである。

【0107】

納得度１００３は、ある予測判定の理由説明を受けた被説明者が入力する相対的な納得度に基づいて、個別の理由説明に関してステップＳ４０３で算出した納得度を格納する。

【0108】

図１０には、例として、配偶者有無の項目の初期入力値に対する補正予測値に対応する理由説明に関して保持されるデータを示す。図１０（ａ）のテーブル１０００には、配偶者有無の項目の初期入力値が「無し」（すなわち「０」）であり、それに対する予測補正値が「有り」（すなわち「１」）である場合の理由説明の例を示す。これは、図９（ｂ）の項目ＩＤ「０１」の例に対応する。

【0109】

この例において、理由説明ＩＤ１００１が「ｎ１」である理由説明は、配偶者有無の項目の初期入力値が「無し」であり、かつ、配偶者同居の項目の初期入力値が「有り」であるという判定条件が満たされる場合に、配偶者有無の項目の補正予測値として「有り」を出力することに対応する理由説明である。この場合、当該判定条件が満たされるということが、理由説明として出力される。

【0110】

一方、理由説明ＩＤ１００１が「ｎ２」である理由説明は、配偶者有無の項目の初期入力値が「無し」であり、配偶者同居の項目の初期入力値が「有り」であり、かつ、配偶者不要の項目の初期入力値が「有り」であるという判定条件が満たされる場合に、配偶者有無の項目の補正予測値として「有り」を出力することに対応する理由説明である。この場合も、当該判定条件が満たされるということが、理由説明として出力される。

【0111】

また、図１０（ａ）の例では、理由説明ＩＤ１００１が「ｎ１」である理由説明及び「ｎ２」である理由説明の納得度１００３がそれぞれ「０．３５」及び「０．４５」である。これは、過去に同様の状況の案件において同様の予測補正値が提示された場合に、後者の理由説明が行われた方が、被説明者が納得しやすかったことを示している。

【0112】

図１０（ｂ）には、情報処理システム４が作成する理由説明を構成する説明要素を管理するテーブル１０１０を示す。

【0113】

図１０（ｂ）に示すテーブル１０１０は、説明要素ＩＤ１０１１、説明要素１０１２及び重み１０１３を含む。

【0114】

説明要素ＩＤ１０１１は、理由説明を構成する説明要素を一意に特定するための値である。

【0115】

説明要素１０１２は、属性名とその属性値に関する判定条件にて構成される。

【0116】

重み１０１３は、各説明要素に関して計算される重要度の値である。

【0117】

図１０（ｂ）の例では、図１０（ａ）に例示した理由説明を構成する説明要素１０１２として「配偶者同居＝有り」、「配偶者有無＝無し」及び「配偶者扶養＝有り」等が記録され、さらに、それぞれの重み１０１３として「０．２」、「０．３」及び「０．１」等が記録されている。

【0118】

図１０（ｃ）には、情報処理システム４が作成する拡張説明について、被説明者の納得度や拡張説明を構成する説明要素の有無を管理するテーブル１０２０を示す。

【0119】

図１０（ｃ）に示すテーブル１０２０は、拡張説明ＩＤ１０２１、納得可否１０２２、納得度１０２３及び複数の説明要素（例えば説明要素ｐ１＿１０２４、説明要素ｐ２＿１０２５及び説明要素ｐＮ＿１０２６等）を含む。

【0120】

拡張説明ＩＤ１０２１は、情報処理システム４が作成する拡張説明を一意に特定するための値である。

【0121】

納得可否１０２２は、被説明者が入力した、拡張説明について納得したか、納得していないかを表現する値である。

【0122】

納得度１０２３は、被説明者が入力した、拡張説明について納得した度合いを表現する値である。

【0123】

説明要素ｐ１＿１０２４～説明要素ｐＮ＿１０２６等は、各説明要素が各拡張説明の構成要素であるかどうかを示す値であり、構成要素である場合は１を格納する。

【0124】

図１０（ｃ）の例では、拡張説明ＩＤ１０２１が「Ｅ０ｘ」である拡張説明は、説明要素ｐ２（図１０（ｂ）によれば「配偶者有無＝無し」）及び説明要素ｐ１（図１０（ｂ）によれば「配偶者同居＝有り」）を構成要素として含むが、説明要素ｐＮは構成要素として含まない。一方、拡張説明ＩＤ１０２１が「Ｅ０ｘ＋１」である拡張説明は、説明要素ｐ２、説明要素ｐ１及び説明要素ｐＮのいずれも構成要素として含む。

【0125】

ここで、拡張説明ＩＤ１０２１が「Ｅ０ｘ」である拡張説明に対して納得可否１０２２として「Ｙｅｓ」（すなわちその拡張説明で納得した）の入力があり、拡張説明ＩＤ１０２１が「Ｅ０ｘ＋１」である拡張説明に対して納得可否１０２２として「Ｎｏ」の入力があった場合を例として説明する。この場合、被説明者が納得でき、かつ、納得できる拡張説明の中で最も高い予測精度を達成する拡張説明「Ｅ０ｘ」を確定することができる。また、納得度を用いる場合は、例えば所定の閾値を０．３としたとき、拡張説明「Ｅ０ｘ」の納得度は閾値より大きく、拡張説明「Ｅ０ｘ＋１」の納得度は閾値より小さいため、納得可否と同様に判定して、最終的な拡張説明Ｅ０ｘを確定することができる。

【0126】

ここで、再び図４を参照して、図８から図１０の具体例に基づく処理の流れの一例を説明する。例えば、ステップＳ４０４で説明要素ｐ１～ｐＮの重み１０１３が計算され、その中のいずれか（例えば重み１０１３が最も大きい説明要素ｐ２）がステップＳ４０５で重要説明要素として決定する。

【0127】

ステップＳ４０５の後に最初に実行されるステップＳ４０６では、例えば重要説明要素である説明要素ｐ２のみを含む理由説明が拡張説明として作成され、表示される。ステップＳ４０７で被説明者はその拡張説明に納得したかを入力する。被説明者が納得した場合（ステップＳ４０８：Ｙｅｓ）、処理はステップＳ４０６に戻る。ステップＳ４０６では、被説明者が納得した拡張説明に、まだ含まれていない説明要素（例えば重み１０１３が２番目に大きい説明要素ｐ１）を追加した新しい拡張説明が作成され、表示される。

【0128】

ステップＳ４０６～Ｓ４０８のループが繰り返されるたびに、ステップＳ４０６で拡張説明に説明要素が追加されていくため、拡張説明に含まれる説明要素の数は次第に増えていく。説明要素を追加する順序は任意であるが、例えば重み１０１３の大きさの順でもよい。一般に、理由説明に含まれる説明要素の数が多いほど、予測の精度は高まる。しかしその一方で、説明要素の数が多いほど説明が複雑になるため、その説明が妥当であるかの判断が困難になるなど、被説明者の納得度は低下する傾向がある。

【0129】

ステップＳ４０６～Ｓ４０８のループを繰り返す中で、初めて被説明者が納得できないと判定した場合（ステップＳ４０８：Ｎｏ）、その時の拡張説明（例えば拡張説明「Ｅ０ｘ＋１」）の一つ前に作成された拡張説明（例えば拡張説明「Ｅ０ｘ」）は、これまでに作成された拡張説明の中で、被説明者が納得することができ、かつ、最も予測精度が高いものであると言える。このため、その拡張説明が、予測精度と納得度の両方を満たす最終拡張説明として選定される（ステップＳ４０９）。

【0130】

なお、上記の処理は、初めから全ての説明要素を対象として実行されてもよいが、説明要素の一部の組み合わせを対象として実行されてもよい。その場合、一旦最終拡張説明が選定された後に他の拡張説明も試行すると判定されると（ステップＳ４０９：Ｙｅｓ）、説明要素の別の組み合わせを対象として上記の処理が再度実行される。

【0131】

算出された各理由説明の納得度、それに基づいて算出された各説明要素の重み、並びに、予測結果及びそれに対する拡張説明に基づいて被説明者が行った入力値の補正の結果等が、図８～図１０に示すように情報処理システム４の記憶部１０２に保持される。このとき、図８～図１０に示す情報は、被説明者の識別情報を対応付けて保持される。図８～図１０の例はある被説明者に対応する情報の一例であり、実際には被説明者ごとに同様の情報が保持される。

【0132】

そして、各被説明者が新たな案件を取り扱うときに、情報処理システム４は、過去の当該説明者に対応する情報を参照して、拡張説明等を作成してもよい。被説明者ごとに知識量、経験量等が異なり、したがってどのような説明をすれば納得するかが異なる場合があるが、上記のように被説明者に対応する情報に基づいて拡張説明を生成することによって当該被説明者が納得しやすい理由説明を提供することができる。

【0133】

その一方で、情報処理システム４は、あえて他の被説明者に対応する情報を参照して拡張説明等を作成してもよい。例えば被説明者が自分以外の人物（例えば自分より業務経験が豊富な人物）の納得度に基づいて作成された拡張説明を参照することによって、自分以外の人物がどのような説明で納得するかを知ることができ、それを自身の業務に活用することができる。

【0134】

なお、機械学習モデル５はどのようなものであってもよく、機械学習モデル５に基づく補正予測結果に対応する理由説明はどのように生成されてもよいが、一例を示せば次の通りとなる。すなわち、機械学習モデル５として決定木が用いられてもよく、その場合、予測結果の理由説明は、決定木の根ノードから予測結果に対応する終端ノードに至る経路上の複数のノードのうち少なくともいずれかに対応する属性名及び属性値を説明要素として含んでもよい。

【0135】

以上の本実施形態によれば、ある予測判定について被説明者が納得できる理由説明を探索調整することができ、被説明者が納得でき、かつ最も予測精度が高くなる理由説明内容を確定することができる。

【0136】

また、本発明の実施形態のシステムは次のように構成されてもよい。

【0137】

（１）制御部（例えば制御部１０１）と、制御部に接続される記憶部（例えば記憶部１０２）と、を有する情報処理システム（例えば情報処理システム４）であって、記憶部は、入力値に基づく予測結果を出力する予測モデル（例えば機械学習モデル５）と、予測結果が予測された理由を説明するための複数の理由説明（例えばテーブル１０００の理由説明）と、を保持し、複数の理由説明の各々は、１以上の説明要素（例えばテーブル１０１０の説明要素）を含み、制御部は、各理由説明を受けた被説明者の納得の度合いを示す各理由説明の納得度に基づいて、各理由説明に含まれる各説明要素の納得度への寄与の大きさを示す重みを算出し（例えばステップＳ４０４）、重みに基づいて、１以上の説明要素を含む新たな理由説明である拡張説明を作成し（例えばステップＳ４０６）、作成した拡張説明に被説明者が納得したか否かに基づいて、新たな拡張説明を作成するか、既に作成した１以上の拡張説明のいずれかを最終的な拡張説明として選択するかを判定する（例えばステップＳ４０８）。

【0138】

これによって、ある予測結果について被説明者が納得できる理由説明を探索及び調整することができる。

【0139】

（２）上記（１）において、制御部は、被説明者によって入力された、二つの理由説明の複数の組の相対的な納得度に基づいて、各理由説明の納得度を算出する（例えばステップＳ４０２～Ｓ４０３）。

【0140】

これによって、被説明者による納得度の入力が容易になる。

【0141】

（３）上記（２）において、制御部は、相対的な納得度、各理由説明の納得度、各説明要素の重み、１以上の拡張説明及び最終的な拡張説明の少なくともいずれかを説明履歴として記憶部に格納する（例えばステップＳ３０７）。

【0142】

これによって、過去に入力された納得度を新たな予測結果の理由説明の作成に活用することができる。

【0143】

（４）上記（３）において、説明履歴は、各理由説明の納得度に対応する被説明者の識別情報を含み、制御部は、予測モデルによる予測結果とともに被説明者に対して出力する予測結果に対応する理由説明を、当該被説明者の識別情報に対応する説明履歴に基づいて作成する。

【0144】

これによって、被説明者本人の理解度等に応じて適切な理由説明を作成することができる。

【0145】

（５）上記（３）において、説明履歴は、各理由説明の納得度に対応する被説明者の識別情報を含み、制御部は、予測モデルによる予測結果とともに被説明者に対して出力する予測結果に対応する理由説明を、当該被説明者以外の被説明者の識別情報に対応する説明履歴に基づいて作成する。

【0146】

これによって、被説明者が他人の理解度等を参考として自分の業務に活用することができる。

【0147】

（６）上記（１）において、制御部は、１以上の説明要素を含む拡張説明を作成し、作成した拡張説明に被説明者が納得することを示す情報が入力された場合（例えばステップＳ４０８：Ｙｅｓ）、説明要素を追加することによって新たな拡張説明を作成し、作成した拡張説明に被説明者が納得しないことを示す情報が入力された場合（例えばステップＳ４０８：Ｎｏ）、被説明者が納得しなかった拡張説明の直前に作成した拡張説明（例えばステップＳ４０６～Ｓ４０８のループが複数回実行された場合、ステップＳ４０８でＮｏと判定されたループの前回のループのステップＳ４０６で作成された拡張説明）を最終的な拡張説明として選択する。

【0148】

これによって、被説明者が納得することができ、かつ、精度が高い理由説明を選択することができる。

【0149】

（７）上記（６）において、制御部は、重みが最も大きい説明要素を含む拡張説明を作成し（例えばステップＳ４０６）、作成した拡張説明に被説明者が納得することを示す情報が入力された場合（例えばステップＳ４０８：Ｙｅｓ）、重みの大きさの順に、説明要素を順次追加することによって、新たな拡張説明を作成する（例えば次回以降のループにおけるステップＳ４０６）。

【0150】

これによって、被説明者が納得しやすく、精度が高い理由説明を作成することができる。

【0151】

（８）上記（１）において、予測モデルは決定木であり、予測モデルによる予測結果が予測された理由を説明するための複数の理由説明に含まれる各説明要素は、決定木の根ノードから予測結果に対応する終端ノードに至る経路上の複数のノードの各々に対応する属性名及び属性値を含む。

【0152】

これによって、適切な理由説明を作成することができる。

【0153】

なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明のより良い理解のために詳細に説明したものであり、必ずしも説明の全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることが可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。

【0154】

また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によってハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによってソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、不揮発性半導体メモリ、ハードディスクドライブ、ＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）等の記憶デバイス、または、ＩＣカード、ＳＤカード、ＤＶＤ等の計算機読み取り可能な非一時的データ記憶媒体に格納することができる。

【0155】

また、制御線及び情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線及び情報線を示しているとは限らない。実際にはほとんど全ての構成が相互に接続されていると考えてもよい。

【符号の説明】

【0156】

１：情報処理装置
２：クライアント端末
３：書類審査画面表示部
４：情報処理システム
５：機械学習モデル
１０１：制御部
１０２：記憶部
１０３：モデル作成部
１０４：予測判定作成部
１０５：判定条件抽出部
１０６：判定理由作成部
１０７：個別納得度算出部
１０８：重要説明要素抽出部
１０９：拡張説明生成部
２０１：表示出力部
２０２：相対納得度入力部
２０３：納得度入力部

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】