知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024055111
(43)【公開日】2024-04-18
(54)【発明の名称】機械学習プログラム，機械学習方法及び情報処理装置
(51)【国際特許分類】
G06F 8/77 20180101AFI20240411BHJP
G06F 8/20 20180101ALI20240411BHJP
【ＦＩ】
G06F8/77
G06F8/20
【審査請求】未請求
【請求項の数】8
【出願形態】ＯＬ
(21)【出願番号】P 2022161752
(22)【出願日】2022-10-06
(71)【出願人】
【識別番号】000005223
【氏名又は名称】富士通株式会社
(74)【代理人】
【識別番号】110003649
【氏名又は名称】弁理士法人真田特許事務所
(74)【代理人】
【識別番号】100189201
【弁理士】
【氏名又は名称】横田 功
(72)【発明者】
【氏名】岩倉 聡子
(72)【発明者】
【氏名】新田 泉
(72)【発明者】
【氏名】大橋 恭子
【テーマコード（参考）】
5B376
【Ｆターム（参考）】
5B376AA34
5B376BA06
(57)【要約】
【課題】ＡＩシステムの開発者や提供者が、ＡＩシステムの運用によって発生し得る倫理リスクを適切に認識し対処することを支援する。
【解決手段】入力されたＡＩシステムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報（Ｄ２）と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報（Ｄ４）とを比較し、比較の結果に基づいて、第１の複数の関係情報（Ｄ２）の優先度を決定し、各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリスト（Ｄ８）として出力する。
【選択図】図９
【解決手段】入力されたＡＩシステムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報（Ｄ２）と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報（Ｄ４）とを比較し、比較の結果に基づいて、第１の複数の関係情報（Ｄ２）の優先度を決定し、各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリスト（Ｄ８）として出力する。
【選択図】図９
【特許請求の範囲】
【請求項1】
入力されたArtificial Intelligence（ＡＩ）システムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報とを比較し、
前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、
各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、
処理をコンピュータに実行させる、機械学習プログラム。
前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、
各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、
処理をコンピュータに実行させる、機械学習プログラム。
【請求項2】
前記比較する処理において、前記第１の複数の関係情報と前記第２の複数の関係情報とをグラフ構造で比較し、
前記優先度を決定する処理において、前記比較の結果に基づいて、前記第１の複数の関係情報のうち、前記第２の複数の関係情報との差分が検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、請求項１に記載の機械学習プログラム。
前記優先度を決定する処理において、前記比較の結果に基づいて、前記第１の複数の関係情報のうち、前記第２の複数の関係情報との差分が検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、請求項１に記載の機械学習プログラム。
【請求項3】
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないノードと、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないエッジとを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、請求項２に記載の機械学習プログラム。
処理を前記コンピュータに実行させる、請求項２に記載の機械学習プログラム。
【請求項4】
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、入次数又は出次数が変更されたノードと、変更があったノードと連結しているエッジを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、請求項３に記載の機械学習プログラム。
処理を前記コンピュータに実行させる、請求項３に記載の機械学習プログラム。
【請求項5】
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、請求項４に記載の機械学習プログラム。
処理を前記コンピュータに実行させる、請求項４に記載の機械学習プログラム。
【請求項6】
前記優先度を決定する処理において、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジについて、前記変更があったノードからのホップ数が少ないノード又はエッジほど、検出優先度を高く付け、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、請求項５に記載の機械学習プログラム。
処理を前記コンピュータに実行させる、請求項５に記載の機械学習プログラム。
【請求項7】
入力されたArtificial Intelligence（ＡＩ）システムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報とを比較し、
前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、
各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、
処理をコンピュータが実行する、機械学習方法。
前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、
各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、
処理をコンピュータが実行する、機械学習方法。
【請求項8】
入力されたArtificial Intelligence（ＡＩ）システムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報とを比較し、
前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、
各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、
プロセッサを備える、情報処理装置。
前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、
各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、
プロセッサを備える、情報処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、機械学習プログラム，機械学習方法及び情報処理装置に関する。
【背景技術】
【0002】
ＡＩ（Artificial Intelligence）システムにおいて、倫理的なリスクのアセスメントが行われることがある。
【0003】
さまざまな業種やタスクのＡＩシステムを利用することで、倫理上の問題が発生することがある。そのような問題が発生すると、ＡＩシステムを提供した企業や組織だけでなく、ＡＩシステムの利用者やその先にある社会に対する影響も大きい。
【0004】
そこで、ＡＩを社会実装する上で、倫理上のリスクを認識し対処できるような取り組みが行われている。
【0005】
しかし、ＡＩシステムが複数のステークホルダーを持ち、それらを取り巻く社会状況が変化することで、ＡＩシステムの利用によってどのような倫理的な問題が発生するかを検知することは容易でない場合がある。
【0006】
そこで、ＡＩ倫理に関する原則やガイドラインが示すチェックリストそのものが、ＡＩシステムやそのステークホルダーに当てはめられて分析されることがある。
【0007】
ＡＩ倫理に関する原則やガイドラインの例としては、「欧州High-Level Expert Group on AI (AI HLEG) “Ethics Guidelines for Trustworthy AI”」や「総務省 AI利活用ガイドライン」，「統合イノベーション戦略推進会議“人間中心のAI社会原則”」，「OECD “Recommendation of the Council on Artificial Intelligence”」が存在する。
【0008】
また、様々なＡＩサービス提供の形態の存在を踏まえつつ、ＡＩサービス提供者が自らのＡＩサービスに係るリスクコントロール検討に資するモデルとして、「リスクチェーンモデル（Risk Chain Model: RCModel）」が提案されている。
【0009】
リスクチェーンモデルでは、以下の（１）～（３）によって、リスク構成要素の整理及び構造化が行われる。
（１）ＡＩシステムの技術的構成要素
（２）サービス提供者の行動規範（ユーザとのコミュニケーションを含む）に係る構成要素
（３）ユーザの理解・行動・利用環境に係る構成要素
（１）ＡＩシステムの技術的構成要素
（２）サービス提供者の行動規範（ユーザとのコミュニケーションを含む）に係る構成要素
（３）ユーザの理解・行動・利用環境に係る構成要素
【0010】
また、リスクチェーンモデルでは、リスクシナリオの識別及びリスク要因となる構成要素の特定と、リスクチェーンの可視化及びリスクコントロールの検討が行われる。リスクチェーンの可視化及びリスクコントロールの検討では、ＡＩサービス提供者はリスクシナリオに関連する構成要素の関係性（リスクチェーン）を可視化することで、段階的なリスク低減の検討が可能になる。
【先行技術文献】
【特許文献】
【0011】
【特許文献1】国際公開第２０２０／２４０９８１号
【特許文献2】国際公開第２０２１／０８４８１０号
【特許文献3】米国公開公報第２０２０／０３７２３７４号
【特許文献4】米国公開公報第２０２１／０２７１８８５号
【非特許文献】
【0012】
【非特許文献1】松本敬史，江間有沙，“AIサービスのリスク低減を検討するリスクチェーンモデルの提案”，2020年6月4日，インターネット＜ＵＲＬ：ifi.u-tokyo.ac.jp/wp/wp-content/uploads/2020/06/policy_recommendation_tg_20200604.pdf＞
【発明の概要】
【発明が解決しようとする課題】
【0013】
しかしながら、原則やガイドラインが示すチェックリストは、ＡＩシステムのどの部分がどうあるべきかを具体的に示すものではなく、ＡＩシステムの開発者や提供者が具体化する必要がある。この具体化作業は難易度が高く、工数の負担も大きい。
【0014】
また、リスクチェーンモデルはリスク構成要素が整理されているが、ＡＩシステム提供者や開発者が、ＡＩシステムのコンポーネントや個々のステークホルダーに対して実践すべき項目に落とし込む必要がある。
【0015】
更に、ＡＩシステムの構成が更新された場合には、ＡＩシステムの運用によって発生し得る倫理リスクも検討し直しとなり、倫理リスクの認識が効率的に行えないおそれがある。
【0016】
１つの側面では、ＡＩシステムの開発者や提供者が、ＡＩシステムの運用によって発生し得る倫理リスクを適切に認識し対処することを支援することを目的とする。
【課題を解決するための手段】
【0017】
１つの側面では、機械学習プログラムは、入力されたArtificial Intelligence（ＡＩ）システムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報とを比較し、前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、処理をコンピュータに実行させる。
【発明の効果】
【0018】
１つの側面では、ＡＩシステムの開発者や提供者が、ＡＩシステムの運用によって発生し得る倫理リスクを適切に認識し対処することを支援することができる。
【図面の簡単な説明】
【0019】
【図1】関連例における出力データとしての分析図を例示するブロック図である。
【図2】関連例における分析対象システム図を例示するブロック図である。
【図3】関連例におけるＡＩ倫理チェックリストの一部を例示するテーブルである。
【図4】関連例における分析シートの一部を例示するテーブルである。
【図5】関連例における分析シートからのグラフ構造の生成例を示すブロック図である。
【図6】関連例におけるＡＩ倫理チェック項目の抽出例を示すブロック図である。
【図7】関連例における情報処理装置のソフトウェア構成例を模式的に示すブロック図である。
【図8】関連例におけるＡＩ倫理チェックリストの生成処理の詳細を説明するフローチャートである。
【図9】実施形態におけるＡＩ倫理チェックリストの生成処理を説明するフローチャートである。
【図10】実施形態における差分検出処理及び重要度加点処理の第１の例を説明する図である。
【図11】実施形態における差分検出処理及び重要度加点処理の第２の例を説明する図である。
【図12】グラフ構造を説明する図である。
【図13】実施形態における差分検出処理の第１の具体例を説明する図である。
【図14】実施形態における差分検出処理の第２の具体例を説明する図である。
【図15】実施形態における差分検出処理の第３の具体例を説明する図である。
【図16】実施形態における差分検出処理の第４の具体例を説明する図である。
【図17】実施形態における情報処理装置のソフトウェア構成例を模式的に示すブロック図である。
【図18】実施形態における情報処理装置のハードウェア構成例を模式的に示すブロック図である。
【発明を実施するための形態】
【0020】
〔Ａ〕関連例
関連例は、ＡＩシステム１００（図２を用いて後述）が持つべき倫理的な特徴を、ＡＩシステム１００とステークホルダーとの関係に対応付けてチェックリスト化し、そのＡＩ倫理チェックリストを用いて、ＡＩシステム１００の倫理リスクを分析する。これにより、ＡＩサービス提供者１０（図２を用いて後述）や開発者が、ＡＩシステム１００のコンポーネントや個々のステークホルダーに対して実践すべき項目に落とし込む作業を不要にする。
関連例は、ＡＩシステム１００（図２を用いて後述）が持つべき倫理的な特徴を、ＡＩシステム１００とステークホルダーとの関係に対応付けてチェックリスト化し、そのＡＩ倫理チェックリストを用いて、ＡＩシステム１００の倫理リスクを分析する。これにより、ＡＩサービス提供者１０（図２を用いて後述）や開発者が、ＡＩシステム１００のコンポーネントや個々のステークホルダーに対して実践すべき項目に落とし込む作業を不要にする。
【0021】
また、ＡＩシステム１００の構成要素とステークホルダーとの関係をグラフ構造化し、グラフ構造の特徴に基づいてＡＩ倫理チェック項目に優先度を付けたＡＩ倫理チェックリストを自動生成する。これにより、重要なＡＩ倫理チェック項目を優先的に分析することで効率化を実現する。
【0022】
図１は、関連例における出力データとしての分析図を例示するブロック図である。
【0023】
ＡＩを取り巻く倫理リスクは、ＡＩシステムのコンポーネントとステークホルダーのいずれか２者間の関係（インタラクション）に紐づけて抽出及び可視化される。
【0024】
図１に示す分析図では、訓練部１１０及び予測部１２０（いずれも図２を用いて後述）を含むシステム図に表示されているインタラクションＩＤ（Ｓ１０１～Ｓ１１４）のそれぞれに対して、該当するＡＩ倫理チェック項目（図３で後述）があれば、対応付けられて表示される。また、各ＡＩ倫理チェック項目には、リスク事象（図１の一点鎖線枠を参照）とリスク要因（図１の点線枠を参照）とのいずれかが対応付けられて表示される。
【0025】
図１に示す例では、Ｓ１１０に対してＡＩ倫理チェック項目「集団公平性」及び「推論結果の制御性」が対応付けて表示されており、Ｓ１１１に対してＡＩ倫理チェック項目「データ属性の十分性」及び「ラベルの妥当性」が対応付けて表示されている。Ｓ１１２に対してＡＩ倫理チェック項目「データ属性の十分性」が対応付けて表示されており、Ｓ１１３に対してＡＩ倫理チェック項目「推論結果の独立性」及び「機械学習・統計解析の適切性」が対応付けて表示されている。Ｓ１１４に対して、ＡＩ倫理チェック項目「推論結果の制御性」が対応付けて表示されている。
【0026】
図２は、関連例における分析対象システム図を例示するブロック図である。
【0027】
図２に示すＡＩシステム１００は、ローン審査ＡＩのインタラクションを例示している。図２における矢印は、インタラクションを示す。インタラクションの両端（始点，終点）は、ステークホルダー，データ，ＡＩシステムのコンポーネントのいずれかの要素となる。相互作用の始点，終点に対応する要素の役割（データ提供者２０，３０，利用者４０，訓練データ１０１，ローン審査モデル１０３等）によりインタラクションの種類を規定する。各インタラクションに付されているＳｘｘｘはインタラクションＩＤを示す。
【0028】
ＡＩシステム１００は、ＡＩサービスベンダ等のＡＩサービス提供者１０と、信用調査機関等のデータ提供者２０と、銀行等のデータ提供者３０と、ローン申込者等の利用者４０とによって使用される。
【0029】
訓練部１１０は、訓練データ１０１に対する機械学習によって、ローン審査モデル１０３（別言すれば、ＡＩモデル）の訓練を実行するローン審査モデル訓練部１０２（別言すれば、機械学習部）を備える。訓練データ１０１は、データ提供者２０からの信用スコアの入力や、データ提供者３０からの取引データの入力によって、生成されてよい。
【0030】
予測部１２０は、ローン審査モデル１０３を用いて推論データ１０４に対する推論を行うことによって、審査結果１０６（別言すれば、推論結果）を出力する推論部１０５を備える。推論データ１０４は、データ提供者２０からの信用スコアの入出力や、データ提供者３０からの申込情報及び取引データの入出力、利用者４０からの申込者情報の入力によって、生成されてよい。
【0031】
図３は、関連例におけるＡＩ倫理チェックリストの一部を例示するテーブルである。
【0032】
ＡＩ倫理チェックリストは、ＡＩ倫理モデルに基づいて生成される。ＡＩ倫理モデルは、ＡＩ倫理に関する原則やガイドライン等を整理し、ＡＩシステム１００が満たすべきチェック項目のリストとして構成したものである。
【0033】
ＡＩ倫理チェックリストは、図２におけるインタラクションの種類に応じて、満たすべきＡＩ倫理チェック項目を対応付けたものである。ＡＩ倫理チェックリストにおける１つのチェック項目が、１種類のインタラクションに対応する。
【0034】
図３に例示するＡＩ倫理チェック項目の一部は、「欧州 High-Level Expert Group on AI (AI HLEG) “Ethics Guidelines for Trustworthy AI”」から導出されたＡＩ倫理モデルに基づいている。
【0035】
図３に示すＡＩ倫理チェックリストの一部では、チェック項目と概要とインタラクション種類（Ｆｒｏｍ，Ｔｏ）とが対応付けられている。例えば、チェック項目「社会的信用の維持」に対して、概要「ＡＩシステムを使うことによってステークホルダの信用が損なわれることがないこと」とインタラクション種類（Ｆｒｏｍ）「推論結果」とインタラクション種類（Ｔｏ）「利用者」と対応付けて登録されている。
【0036】
図４は、関連例における分析シートの一部を例示するテーブルである。
【0037】
分析シートには、インタラクションＩＤ毎に、ステークホルダーとデータの種類、リスク、ＡＩ倫理チェック項目（ＡＩ倫理特性）、施策等が対応付けられている。例えば、インタラクションＩＤ「Ｓ１１０」には、ステークホルダーの種類「利用者」，名称「ローン申込者」及び始点・終点の別「１（終点）」が対応付けられている。また、インタラクションＩＤ「Ｓ１１０」には、データの種類「推論結果」，データの名称「審査結果」及び始点・終点の別「０（始点）」が対応付けられている。更に、インタラクションＩＤ「Ｓ１１０」には、リスク（事象）「女性や黒人に対して審査が通りにくい」、ＡＩ倫理チェック項目「集団公平性」及び施策「性別・人種グループ間の融資可となる比率の差が許容範囲内に収まるようにＡＩアルゴリズムを改善する」が対応付けられている。
【0038】
ここで、関連例におけるＡＩ倫理リスクの分析処理について説明する。
【0039】
以下の（１）～（４）の手順で、リスク分析がユーザにより実施される。
（１）ＡＩシステム１００の構成要素、データ、ステークホルダー間の関係がシステム図（図２を参照）として作図され、インタラクションが抽出される。
（２）分析シート（図４を参照）にインタラクション毎の内訳が記載される。
（３）ＡＩ倫理チェックリスト（図３を参照）の各項目について、該当するインタラクションがそのチェック項目を満たさない状態から想定されるリスク（リスク事象・リスク要因）が抽出され、分析シートに記載される。
（４）分析シートのリスクが参照され、同内容のものが整理され、事象と要因との関係が記載される。可視化する場合はシステム図にリスク事象と要因とを追加した分析図（図１を参照）が作成される。
（１）ＡＩシステム１００の構成要素、データ、ステークホルダー間の関係がシステム図（図２を参照）として作図され、インタラクションが抽出される。
（２）分析シート（図４を参照）にインタラクション毎の内訳が記載される。
（３）ＡＩ倫理チェックリスト（図３を参照）の各項目について、該当するインタラクションがそのチェック項目を満たさない状態から想定されるリスク（リスク事象・リスク要因）が抽出され、分析シートに記載される。
（４）分析シートのリスクが参照され、同内容のものが整理され、事象と要因との関係が記載される。可視化する場合はシステム図にリスク事象と要因とを追加した分析図（図１を参照）が作成される。
【0040】
すなわち、システム図、分析シート及び分析図が出力データとして出力される。
【0041】
上記のリスク分析の手順（３）において、ＡＩ倫理チェックリストの項目が多いため、すべてのチェックリストを検証するための工数が大きい。そこで、上記のリスク分析の手順（３）について、優先度付きのＡＩ倫理チェックリスト生成処理が実行される。
【0042】
ＡＩ倫理チェックリスト生成処理では、分析対象のＡＩシステム１００とステークホルダーのいずれか２者間の関係（インタラクション）がグラフ構造で表現される。そして、そのグラフ構造の特徴から、倫理的に注目すべき重要度の高い関係（インタラクション）がルールベースで抽出され、重要度の高い関係（インタラクション）と紐づいた、倫理的なリスクを抽出するためのチェック項目が、優先度付きのチェックリストとして提示される。
【0043】
関連例における情報処理装置（不図示）は、ＡＩ倫理チェックリストの絞り込みを実施する。ＡＩ倫理チェックリストの絞り込みでは、「ＡＩシステムの構成とステークホルダーとの関係」が持つ特徴が、インタラクションの集合から構成したグラフ構造の特徴として表現される。
【0044】
分析シートの表データは「インタラクション集合」のデータ形式になっているため、グラフ構造の自動生成が可能となる。グラフ構造の特徴として、例えば以下を自動抽出できる。
【0045】
・ステークホルダーのノード数
・複数の役割を持つステークホルダーの数
・ＡＩシステムと直接関わらないステークホルダーの数
倫理的なリスクの発生が起こりやすいグラフ構造の特徴と、おさえておくべきＡＩ倫理チェックリストの項目とが、あらかじめルールとして登録される。例えば、ＡＩシステム１００と直接関わらないステークホルダーの数が１つ以上ある場合は、そのステークホルダーが関わるインタラクションの優先度が上げられる。これは、ＡＩシステム１００の設計・開発において見落としがちな間接的なステークホルダーへの影響を把握するためである。
・複数の役割を持つステークホルダーの数
・ＡＩシステムと直接関わらないステークホルダーの数
倫理的なリスクの発生が起こりやすいグラフ構造の特徴と、おさえておくべきＡＩ倫理チェックリストの項目とが、あらかじめルールとして登録される。例えば、ＡＩシステム１００と直接関わらないステークホルダーの数が１つ以上ある場合は、そのステークホルダーが関わるインタラクションの優先度が上げられる。これは、ＡＩシステム１００の設計・開発において見落としがちな間接的なステークホルダーへの影響を把握するためである。
【0046】
グラフ構造の特徴から登録したルールに基づいて、重要度の高いＡＩ倫理チェック項目が絞り込まれ、優先度付きのＡＩ倫理チェックリストとして生成される。
【0047】
図５は、関連例における分析シートからのグラフ構造の生成例を示すブロック図である。
【0048】
符号Ａ１に示す分析シートは、図４に示した分析シートと同様のテーブル構造を有する。符号Ａ１に示す分析シートからは、符号Ａ２に示すようなグラフ構造が生成されてよい。
【0049】
符号Ａ２に示すグラフ構造では、丸印で示される各ノード間の矢印がインタラクションを表す。
【0050】
図５に示す例では、ローン申込者からの申込者情報の出力がＳ１０１で表され、申込者情報の銀行への入力がＳ１０２で表され、申込者情報の信用調査機関への入力がＳ１０３で表される。また、銀行からの申込者情報・取引データ・信用スコアの出力がＳ１０４で表され、信用調査機関からの申込者情報・取引データ・信用スコアの出力がＳ１０５で表される。更に、申込者情報・取引データ・信用スコアからローン審査推論部への入力がＳ１０６で表され、ローン審査推論部からの審査データの出力がＳ１０７で表される。
【0051】
符号Ａ１１に示すように、各ステークホルダーには、役割（ステークホルダーの種類）が登録され、符号Ａ２１に示すように、ローン申込者等の各ノードは、役割を持つ。
【0052】
ここで、注目すべき重要度の高いインタラクションの抽出は、以下の（１）～（３）の順に行われる。
【0053】
（１）すべてのインタラクションの重要度が１点に設定される。
【0054】
（２）特定の特徴を持つインタラクションの重要度が加点される（特徴１つにつき１点加点されてよい）。
【0055】
（３）インタラクションが重要度で順位付される。
【0056】
上記の（２）における特定の特徴は、インタラクションの両端のノード（ＡＩシステム１００のコンポーネント、データ、ステークホルダー）の特徴と、接続関係の特徴とを含んでよい。インタラクションの両端のノードの特徴には、複数の役割（ＡＩシステム提供者でデータ提供者）を持つステークホルダーと、利用者の役割を持つステークホルダーと、訓練データ提供者の役割を持つステークホルダーとが含まれてよい。接続関係の特徴には、ＡＩシステム１００の出力とつながらないステークホルダーのインタラクションと、訓練データあるいは推論データが複数のデータ提供者とつながるインタラクションとが含まれてよい。
【0057】
図６は、関連例におけるＡ１倫理チェック項目の抽出例を示すブロック図である。
【0058】
重要度の点数が高いインタラクションの順に、該当するＡＩ倫理チェック項目が列挙される。
【0059】
図６に示す例では、符号Ｂ１に示すＡＩ倫理チェック項目のうち、符号Ｂ２に示すように重要度の点数が高い４つのＡＩ倫理チェック項目が抽出されて列挙されている。
【0060】
図７は、関連例における情報処理装置のソフトウェア構成例を模式的に示すブロック図である。
【0061】
関連例における情報処理装置（不図示）は、グラフ生成部１１１，特徴抽出部１１２及びチェック項目抽出部１１３として機能する。
【0062】
グラフ生成部１１１は、ＡＩシステム１００の構成に基づいて定まる、対象者の種別の属性と処理の種別の属性とデータの種別の属性とのうち少なくとも２つの属性を含む複数の関係情報（別言すれば、インタラクション）を取得する。グラフ生成部１１１は、分析対象のインタラクション集合１４１に基づき、関係情報を取得してよい。グラフ生成部１１１は、取得した関係情報に基づいて、図４に示したグラフ構造を生成してよい。
【0063】
特徴抽出部１１２は、対象者の種別の属性に基づいて、複数の関係情報の優先度を決定する。特徴抽出部１１２は、重要インタラクション抽出ルール１４２に基づいて、優先度を決定してよい。特徴抽出部１１２は、複数の関係情報のそれぞれに関係する特定の対象者の優先度を高くしてよい。特徴抽出部１１２は、複数の関係情報のうちの特定の関係情報の優先度を高くしてもよい。
【0064】
チェック項目抽出部１１３は、各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステム１００の絞り込んだＡＩ倫理チェックリスト１１４として出力する。
【0065】
次に、関連例におけるＡＩ倫理チェックリストの生成処理の詳細を、図８に示すフローチャート（ステップＣ１～Ｃ８）に従って説明する。
【0066】
グラフ生成部１１１は、重要インタラクション抽出ルール１４２と、ＡＩ倫理チェックリスト１４３と、分析対象のインタラクション集合１４１とを、入力データとして受け付ける（ステップＣ１～Ｃ３）。
【0067】
グラフ生成部１１１は、インタラクション集合１４１からグラフ構造を生成する（ステップＣ４）。
【0068】
特徴抽出部１１２は、グラフ構造から特徴を抽出する（ステップＣ５）。特徴の抽出は、例えば、ステークホルダーのノード数や、複数の役割を持つステークホルダーの数、ＡＩシステム１００と直接関わらないステークホルダーの数に基づいて実行されてよい。
【0069】
特徴抽出部１１２は、抽出した特徴から、重要インタラクション抽出ルール１４２に基づいて、注目すべきインタラクションを抽出する（ステップＣ６）。
【0070】
チェック項目抽出部１１３は、注目すべきインタラクションに対応するＡＩ倫理チェックリスト１４３のチェック項目を抽出する（ステップＣ７）。
【0071】
チェック項目抽出部１１３は、重要な項目を絞り込んだＡＩ倫理チェックリスト１４３を出力する（ステップＣ８）。そして、ＡＩ倫理チェックリスト１４３の生成処理は終了する。
【0072】
〔Ｂ〕実施形態
以下、図面を参照して一実施の形態を説明する。ただし、以下に示す実施形態はあくまでも例示に過ぎず、実施形態で明示しない種々の変形例や技術の適用を排除する意図はない。すなわち、本実施形態を、その趣旨を逸脱しない範囲で種々変形して実施することができる。また、各図は、図中に示す構成要素のみを備えるという趣旨ではなく、他の機能等を含むことができる。
以下、図面を参照して一実施の形態を説明する。ただし、以下に示す実施形態はあくまでも例示に過ぎず、実施形態で明示しない種々の変形例や技術の適用を排除する意図はない。すなわち、本実施形態を、その趣旨を逸脱しない範囲で種々変形して実施することができる。また、各図は、図中に示す構成要素のみを備えるという趣旨ではなく、他の機能等を含むことができる。
【0073】
上述した関連例においては、ＡＩ倫理チェックリストの生成処理において、倫理リスクが発生しやすい重要インタラクションとされるグラフ構造の特徴（たとえば、ステークホルダーの役割に関する特徴など）のルールに応じて、インタラクションに優先度が付与され、ＡＩ倫理チェックリストが絞り込まれた。一方、実施形態においては、倫理リスクが発生しやすい重要インタラクションとされるグラフ構造の特徴に加えて又はグラフ構造の特徴に代えて、現在のシステム図のグラフ構造と前ｖｅｒｓｉｏｎのシステム図のグラフ構造との差分に応じて、インタラクションに優先度が付与される。過去に倫理リスク分析を行ったことがあるＡＩシステムについて、一部、構成の変更や詳細化が行われた際、変更前後の分析対象システム図が2つ存在し、変更前のシステム図が前ｖｅｒｓｉｏｎ、変更後の最新のシステム図がＮｏｗｖｅｒｓｉｏｎ である。ＡＩシステムの変更に伴い、再度倫理リスク分析を行うにあたって、前ｖｅｒｓｉｏｎとＮｏｗｖｅｒｓｉｏｎの間で変化があったインタラクションを、再分析において注目すべき重要インタラクションと位置づける。
【0074】
実施形態におけるＡＩ倫理チェックリストの生成処理を、図９に示すフローチャート（ステップＤ１～Ｄ８）に従って説明する。
【0075】
ＡＩシステム１００（図２を参照）のシステム図Ｎｏｗ ｖｅｒｓｉｏｎには、ＡＩコンポーネントとステークホルダーのいずれか２者間のインタラクションが記載されている。ここから全インタラクションが抽出され、分析シート（図４を参照）のデータ形式となったもの、すなわち、「インタラクション集合」のデータ形式となったものが、実施形態における情報処理装置１（図１８を用いて後述）に入力される（ステップＤ１）。
【0076】
Ｎｏｗ ｖｅｒｓｉｏｎのインタラクション集合から、グラフ構造が生成される（ステップＤ２）。
【0077】
一方、前ｖｅｒｓｉｏｎのシステム図のインタラクション集合も同様に、情報処理装置１に入力される（ステップＤ３）。
【0078】
前ｖｅｒｓｉｏｎのインタラクション集合から、グラフ構造が生成される（ステップＤ４）。
【0079】
Ｎｏｗ ｖｅｒｓｉｏｎ、前ｖｅｒｓｉｏｎの２つのグラフ構造が比較され、差分（変化）が検出される（ステップＤ５）。差分検出の方法は、あらかじめ登録したルールを用いる。ルールを用いて差分検出する一例を、図１３～図１６で後述する。
【0080】
差分として検出したインタラクションを、注目すべきインタラクションとして、重要度が加点される（ステップＤ６）。
【0081】
注目すべき（重要度の高い）インタラクションに対応するＡＩ倫理チェックリストのチェック項目が抽出される（ステップＤ７）。
【0082】
そして、重要なチェック項目を絞り込んだＡＩ倫理チェックリストが出力される（ステップＤ８）。
【0083】
図１０は、実施形態におけるグラフ構造の差分検出処理及び重要度加点処理の第１の例を説明する図である。
【0084】
情報処理装置１には、符号Ｅ１に示すシステム図「前ｖｅｒｓｉｏｎ」のグラフ構造と、符号Ｅ２に示すシステム図「Ｎｏｗ ｖｅｒｓｉｏｎ」のグラフ構造とが入力され比較される。
【0085】
システム図「Ｎｏｗ ｖｅｒｓｉｏｎ」において、符号Ｅ２１に示すノード「証券会社」からノード「申込者情報・取引データ・信用スコア」へのインタラクションＳ２０１が差分インタラクションとして検出される。
【0086】
インタラクションＩＤは、図の更新に伴い採番が変わっているケースがあるので、前ｖｅｒｓｉｏｎ中の旧ＩＤは考慮せず、新しいＮｏｗ ｖｅｒｓｉｏｎの図のＩＤに対して重要度スコアが付与される。ノード（例えば「ローン申込者」）の名称ベースでグラフ構造を比較するため、ノード名称は２つのシステム図で一致している前提とする。
【0087】
検出された差分インタラクションに基づいて、インタラクションＳ２０１の重要度スコアに加点が行われる。
【0088】
図１１は、実施形態における差分検出処理及び重要度加点処理の第２の例を説明する図である。
【0089】
情報処理装置１には、符号Ｆ１に示すシステム図「前ｖｅｒｓｉｏｎ」のグラフ構造と、符号Ｆ２に示すシステム図「Ｎｏｗ ｖｅｒｓｉｏｎ」のグラフ構造とが入力され比較される。
【0090】
システム図「Ｎｏｗ ｖｅｒｓｉｏｎ」において、符号Ｆ２１に示すノード「申込者情報」からノード「データ収集・前処理（申込者データ）」までのインタラクションＳ１０２，Ｓ１０３，Ｓ１０４，Ｓ１０５，Ｓ１０６，Ｓ１０８，Ｓ１０９が差分インタラクションとして検出される。
【0091】
これに基づいて、インタラクションＳ１０２，Ｓ１０３，Ｓ１０４，Ｓ１０５，Ｓ１０６，Ｓ１０８，Ｓ１０９の重要度スコアに加点が行われる。
【0092】
すなわち、図１１に示す例では、単純に新規追加されたインタラクションＳ１０８，Ｓ１０９だけを差分とするのではなく、部分グラフとして構造的に差分検出が行われる。
【0093】
図１２は、グラフ構造を説明する図である。
【0094】
グラフ構造は、ノード（符号Ｇ１：○を参照）と、ノード間を結ぶエッジ（符号Ｇ２：→を参照）の関係により図示される。ノードはステークホルダー又はＡＩシステムコンポーネントを表し、エッジはインタラクションを表す。エッジには、方向（別言すれば、矢印の向き）がある。
【0095】
各ノードには、ノードから出るエッジの数を表す出次数と、ノードに入るエッジの数を表す入次数とが記録される。符号Ｇ３に示すノードの出次数はインタラクションＳ１０２,Ｓ１０３の「２」であり、符号Ｇ４に示すノードの入次数はインタラクションＳ１０４，Ｓ１０５の「２」である。
【0096】
図１３は、実施形態における差分検出処理の第１の具体例を説明する図である。差分として検出される要素条件（あらかじめ設定される差分抽出ルール）は、分析にかかる工数と網羅性のバランスを鑑みて、適切なものが設定されてよい。差分として検出される要素条件の一例を示しながら説明する。
【0097】
情報処理装置１には、符号Ｈ１に示すシステム図「前ｖｅｒｓｉｏｎ」のグラフ構造と、符号Ｈ２に示すシステム図「Ｎｏｗ ｖｅｒｓｉｏｎ」のグラフ構造とが入力され比較される。
【0098】
図１３に示す例において、差分として検出される要素条件は、
・新規出現ノード（別言すれば、新名称のノード）
・新規出現エッジ（別言すれば、連結している両ノードの一方又は両方が、新規もしくは以前の連結先と異なる名称）
であるとする。
・新規出現ノード（別言すれば、新名称のノード）
・新規出現エッジ（別言すれば、連結している両ノードの一方又は両方が、新規もしくは以前の連結先と異なる名称）
であるとする。
【0099】
この場合、符号Ｈ１とＨ２のグラフ構造の差分として検出されるのは、符号Ｈ２１で示すように、証券会社のノード（符号Ｈ２１１に示す、新規出現ノード）、証券会社のノードから出るＳ２０１のエッジ（符号Ｈ２１２に示す、新規出現エッジ）となる。
【0100】
これにより、差分のインタラクションとして、Ｓ２０１が検出される。
【0101】
これに基づいて、Ｓ２０１の重要度が加点される。
【0102】
【0103】
情報処理装置１には、符号Ｉ１に示すシステム図「前ｖｅｒｓｉｏｎ」のグラフ構造と、符号Ｉ２に示すシステム図「Ｎｏｗ ｖｅｒｓｉｏｎ」のグラフ構造とが入力され比較される。
【0104】
図１４に示す例において、差分として検出される要素条件は、図１３で示した例と同様の
・新規出現ノード（別言すれば、新名称のノード）
・新規出現エッジ（別言すれば、連結している両ノードの一方又は両方が、新規もしくは以前の連結先と異なる名称）
に加えて、
・入次数・出次数が変更されたノード
・変更があったノードと連結しているエッジ
であるとする。
・新規出現ノード（別言すれば、新名称のノード）
・新規出現エッジ（別言すれば、連結している両ノードの一方又は両方が、新規もしくは以前の連結先と異なる名称）
に加えて、
・入次数・出次数が変更されたノード
・変更があったノードと連結しているエッジ
であるとする。
【0105】
この場合、符号Ｉ１とＩ２のグラフ構造の差分として検出されるのは、符号Ｉ２１で示すように、証券会社のノード（符号Ｉ２１１に示す、新規出現ノード）、Ｓ２０１のエッジ（符号Ｉ２１２に示す、新規出現エッジ）、申込者情報・取引データ・信用スコアのノード（符号Ｉ２１３に示す、出次/入次数に変更があったノード）、Ｓ１０６のエッジ（符号Ｉ２１４に示す、変更があったノードと連結しているエッジ）となる。
【0106】
これにより、差分のインタラクションとして、Ｓ２０１とＳ１０６が検出される。
【0107】
これに基づいて、Ｓ２０１とＳ１０６の重要度が加点される。
【0108】
なお、差分として検出される要素条件は、さらに詳細な限定があってもよい。たとえば、「変更があったノードと連結しているエッジ」は、図１３に示す例では、インタラクションＳ１０６のように、エッジの始点終点の片方のノードに変更があったエッジを検出しているが、「両端ともに変更があったノードのエッジ」としてもよい。
【0109】
また、「変更があったノードと連結しているエッジ」は、「変更があったノードから出ているエッジ」としてもよい。
【0110】
図１５は、実施形態における差分検出処理の第３の具体例を説明する図である。比較する２つのグラフ構造は図１３，図１４で示したものと同じだが、差分として検出される要素条件（差分抽出ルール）が更に異なる一例を示す。
【0111】
情報処理装置１には、符号Ｊ１に示すシステム図「前ｖｅｒｓｉｏｎ」のグラフ構造と、符号Ｊ２に示すシステム図「Ｎｏｗ ｖｅｒｓｉｏｎ」のグラフ構造とが入力され比較される。
【0112】
図１５に示す例において、差分として検出される要素条件は、
・新規出現ノード（別言すれば、新名称のノード）
・新規出現エッジ（別言すれば、連結している両ノードの一方又は両方が、新規もしくは以前の連結先と異なる名称）
・入次数・出次数が変更されたノード
・変更があったノードと連結している、以降のノード及びエッジ
であるとする。
・新規出現ノード（別言すれば、新名称のノード）
・新規出現エッジ（別言すれば、連結している両ノードの一方又は両方が、新規もしくは以前の連結先と異なる名称）
・入次数・出次数が変更されたノード
・変更があったノードと連結している、以降のノード及びエッジ
であるとする。
【0113】
この場合、符号Ｊ１とＪ２のグラフ構造の差分として検出されるのは、符号Ｊ２１で示すように、証券会社のノード（符号Ｊ２１１に示す、新規出現ノード）、Ｓ２０１のエッジ（符号Ｊ２１２に示す、新規出現エッジ）、申込者情報・取引データ・信用スコアのノード（符号Ｊ２１３に示す、出次/入次数に変更があったノード）、Ｓ１０６のエッジ、ローン審査推論部のノード、Ｓ１０７のエッジ、審査データのノード（符号Ｊ２１４に示す、変更があったノードと連結している、以降のノード/エッジ）となる。
【0114】
これにより、差分のインタラクションとして、Ｓ２０１、Ｓ１０６およびＳ１０７が検出される。
【0115】
これに基づいて、Ｓ２０１、Ｓ１０６およびＳ１０７の重要度が加点される。
【0116】
また、検出対象のノード及びエッジには、検出優先度が付与されてもよい。具体例には、変更があった最後のノード「申込者情報・取引データ・信用スコア」からのホップ数（別言すれば、経路上のエッジ数）が少ないほど優先度が高く設定されてよい。
【0117】
変更があった最後のノード「申込者情報・取引データ・信用スコア」以前のノード及びエッジの優先度を高としてよい。図１５に示す例では、エッジＳ２０１及びノード「証券会社」，「申込者情報・取引データ・信用スコア」の優先度が高に設定される。
【0118】
また、変更があった「申込者情報・取引データ・信用スコア」ノードからのホップ数が１のノード及びエッジの優先度を中としてよい。図１５に示す例では、エッジＳ１０６及びノード「ローン審査推論部」の優先度が中に設定される。
【0119】
更に変更があった「申込者情報・取引データ・信用スコア」ノードからのホップ数が２以上のノード及びエッジの優先度を低としてよい。図１５に示す例では、エッジＳ１０７及びノード「審査データ」の優先度が低に設定される。
【0120】
そして、設定された検出優先度に応じて、高なら３点、中なら２点、低なら１点など、インタラクション重要度に加点する点数を高くしてよい。
【0121】
【0122】
情報処理装置１には、符号Ｋ１に示すシステム図「前ｖｅｒｓｉｏｎ」のグラフ構造と、符号Ｋ２に示すシステム図「Ｎｏｗ ｖｅｒｓｉｏｎ」のグラフ構造とが入力され比較される。
【0123】
図１６に示す例において、差分として検出される要素条件は、図１４に示した例と同様に、
・新規出現ノード（別言すれば、新名称のノード）
・新規出現エッジ（別言すれば、連結している両ノードの一方又は両方が、新規もしくは以前の連結先と異なる名称）
・入次数・出次数が変更されたノード
・変更があったノードから出ているエッジ
であるとする。
・新規出現ノード（別言すれば、新名称のノード）
・新規出現エッジ（別言すれば、連結している両ノードの一方又は両方が、新規もしくは以前の連結先と異なる名称）
・入次数・出次数が変更されたノード
・変更があったノードから出ているエッジ
であるとする。
【0124】
符号Ｋ２１に示すように、差分として検出される要素条件は、「申込者情報」ノード、「銀行」ノード，「申込者情報・取引データ・信用スコア」ノード（出次／入次数に変更があったノード、符号Ｋ２１１，Ｋ２１７，Ｋ２１９）と、エッジＳ１０２，Ｓ１０３，Ｓ１０４，Ｓ１０６（変更があったノードから出ているエッジ、符号Ｋ２１２，Ｋ２１３，Ｋ２１８）、エッジＳ１０８，Ｓ１０５，Ｓ１０９（新規出現エッジ、符号Ｋ２１４，Ｋ２１６）、「信用調査機関２」ノード（新規出現ノード、Ｋ２１５）となる。
【0125】
これにより、差分のインタラクションとしてＳ１０２，Ｓ１０３，Ｓ１０４，Ｓ１０６, Ｓ１０８，Ｓ１０５，Ｓ１０９が検出される。
【0126】
これに基づいて、Ｓ１０２，Ｓ１０３，Ｓ１０４，Ｓ１０６, Ｓ１０８，Ｓ１０５，Ｓ１０９の重要度が加点される。
【0127】
図１７は、実施形態における情報処理装置１のソフトウェア構成例を模式的に示すブロック図である。
【0128】
実施形態における情報処理装置１は、グラフ生成部１１１，特徴抽出部１１２，チェック項目抽出部１１３及びグラフ差分検出部１１５して機能する。
【0129】
グラフ生成部１１１は、ＡＩシステム１００の構成に基づいて定まる、対象者の種別の属性と処理の種別の属性とデータの種別の属性とのうち少なくとも２つの属性を含む複数の関係情報（別言すれば、インタラクション）を取得する。グラフ生成部１１１は、現在のＮｏｗ ｖｅｒｓｉｏｎの分析対象のインタラクション集合１４１（別言すれば、第１の複数の関係情報）及び前ｖｅｒｓｉｏｎの分析対象のインタラクション集合１４０（別言すれば、第２の複数の関係情報）に基づき、関係情報をそれぞれ取得してよい。グラフ生成部１１１は、取得した関係情報に基づいて、図１０～図１６等に示したグラフ構造を生成してよい。
【0130】
グラフ差分検出部１１５は、現在のＮｏｗ ｖｅｒｓｉｏｎのシステム図によって生成されたグラフ構造と、前ｖｅｒｓｉｏｎのシステム図によって生成されたグラフ構造を比較し、差分を検出する。グラフ差分検出部１１５は、差分に関する重要インタラクション抽出ルール１４４に基づいて、差分を検出してよい。
【0131】
特徴抽出部１１２は、グラフ差分検出部１１５が検出したグラフ構造の差分に基づいて、複数の関係情報の優先度を決定する。特徴抽出部１１２は、差分に関する重要インタラクション抽出ルール１４４に基づいて、優先度を決定してよい。
【0132】
チェック項目抽出部１１３は、各属性と対応付けられた複数のＡＩ倫理チェック項目のうち、特徴抽出部１１２によって決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステム１００の絞り込んだＡＩ倫理チェックリスト１４３として出力する。
【0133】
図１８は、実施形態における情報処理装置１のハードウェア構成例を模式的に示すブロック図である。
【0134】
図１８に示すように、情報処理装置１は、ＣＰＵ（Central Processing Unit）１１，メモリ部１２，表示制御部１３，記憶装置１４，入力Interface（ＩＦ）１５，外部記録媒体処理部１６及び通信ＩＦ１７を備える。
【0135】
メモリ部１２は、記憶部の一例であり、例示的に、Read Only Memory（ＲＯＭ）及びRandom Access Memory（ＲＡＭ）などである。メモリ部１２のＲＯＭには、Basic Input/Output System（ＢＩＯＳ）等のプログラムが書き込まれてよい。メモリ部１２のソフトウェアプログラムは、ＣＰＵ１１に適宜に読み込まれて実行されてよい。また、メモリ部１２のＲＡＭは、一時記録メモリあるいはワーキングメモリとして利用されてよい。
【0136】
表示制御部１３は、表示装置１３１と接続され、表示装置１３１を制御する。表示装置１３１は、液晶ディスプレイやOrganic Light-Emitting Diode（ＯＬＥＤ）ディスプレイ，Cathode Ray Tube（ＣＲＴ），電子ペーパーディスプレイ等であり、オペレータ等に対する各種情報を表示する。表示装置１３１は、入力装置と組み合わされたものでもよく、例えば、タッチパネルでもよい。表示装置１３１は、情報処理装置１のユーザに対する種々の情報を表示する。
【0137】
記憶装置１４は、高ＩＯ性能の記憶装置であり、例えば、Dynamic Random Access Memory（ＤＲＡＭ）やＳＳＤ（Solid State Drive），Storage Class Memory（ＳＣＭ），ＨＤＤ（Hard Disk Drive）が用いられてよい。
【0138】
入力ＩＦ１５は、マウス１５１やキーボード１５２等の入力装置と接続され、マウス１５１やキーボード１５２等の入力装置を制御してよい。マウス１５１やキーボード１５２は、入力装置の一例であり、これらの入力装置を介して、オペレータが各種の入力操作を行う。
【0139】
外部記録媒体処理部１６は、記録媒体１６０が装着可能に構成される。外部記録媒体処理部１６は、記録媒体１６０が装着された状態において、記録媒体１６０に記録されている情報を読み取り可能に構成される。本例では、記録媒体１６０は、可搬性を有する。例えば、記録媒体１６０は、フレキシブルディスク、光ディスク、磁気ディスク、光磁気ディスク、又は、半導体メモリ等である。
【0140】
通信ＩＦ１７は、外部装置との通信を可能にするためのインタフェースである。
【0141】
ＣＰＵ１１は、プロセッサの一例であり、種々の制御や演算を行う処理装置である。ＣＰＵ１１は、メモリ部１２に読み込まれたOperating System（ＯＳ）やプログラムを実行することにより、種々の機能を実現する。なお、ＣＰＵ１１は、複数のＣＰＵを含むマルチプロセッサであってもよいし、複数のＣＰＵコアを有するマルチコアプロセッサであってもよく、或いは、マルチコアプロセッサを複数有する構成であってもよい。
【0142】
情報処理装置１全体の動作を制御するための装置は、ＣＰＵ１１に限定されず、例えば、ＭＰＵやＤＳＰ，ＡＳＩＣ，ＰＬＤ，ＦＰＧＡのいずれか１つであってもよい。また、情報処理装置１全体の動作を制御するための装置は、ＣＰＵ，ＭＰＵ，ＤＳＰ，ＡＳＩＣ，ＰＬＤ及びＦＰＧＡのうちの２種類以上の組み合わせであってもよい。なお、ＭＰＵはMicro Processing Unitの略称であり、ＤＳＰはDigital Signal Processorの略称であり、ＡＳＩＣはApplication Specific Integrated Circuitの略称である。また、ＰＬＤはProgrammable Logic Deviceの略称であり、ＦＰＧＡはField Programmable Gate Arrayの略称である。
【0143】
〔Ｃ〕効果
上述した実施形態における機械学習プログラム，機械学習方法及び情報処理装置１によれば、例えば以下の作用効果を奏することができる。
上述した実施形態における機械学習プログラム，機械学習方法及び情報処理装置１によれば、例えば以下の作用効果を奏することができる。
【0144】
グラフ差分検出部１１５は、入力されたＡＩシステムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報とを比較する。特徴抽出部１１２は、比較の結果に基づいて、第１の複数の関係情報の優先度を決定する。チェック項目抽出部１１３は、各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムの絞り込んだＡＩ倫理チェックリスト１１４として出力する。
【0145】
これにより、ＡＩシステムの開発者や提供者が、ＡＩシステムの運用によって発生し得る倫理リスクを適切に認識し対処することを支援することができる。具体例には、ＡＩ倫理チェックリストを優先度付けすることができ、チェックリスト中の優先度の高い項目を優先的に分析することで、リスクに対する対処立案の効率が改善できる。特に、すでに倫理リスク分析を行ったことがあるAIシステムについて変更や詳細化が行われた後、再度リスク分析を行う際に、再分析を大幅に効率化することができる。
【0146】
例えば、AI倫理リスクの分析過程において、インタラクションの漏れに気が付いて、システム図を修正して再分析するケースや、AI導入検討当初ラフだったシステム図が、AIライフサイクルのフェーズが進むにつれて詳細化していき、それにともなって詳細なリスク分析ができるようになるケースがある。このような場合に、システム図の変更に伴い新たに抽出されるリスクを優先的に認識することができる。
【0147】
〔Ｄ〕その他
開示の技術は上述した実施形態に限定されるものではなく、本実施形態の趣旨を逸脱しない範囲で種々変形して実施することができる。本実施形態の各構成及び各処理は、必要に応じて取捨選択することができ、あるいは適宜組み合わせてもよい。
開示の技術は上述した実施形態に限定されるものではなく、本実施形態の趣旨を逸脱しない範囲で種々変形して実施することができる。本実施形態の各構成及び各処理は、必要に応じて取捨選択することができ、あるいは適宜組み合わせてもよい。
【0148】
〔Ｅ〕付記
以上の実施形態に関し、更に以下の付記を開示する。
以上の実施形態に関し、更に以下の付記を開示する。
【0149】
（付記１）
入力されたArtificial Intelligence（ＡＩ）システムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報とを比較し、
前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、
各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、
処理をコンピュータに実行させる、機械学習プログラム。
入力されたArtificial Intelligence（ＡＩ）システムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報とを比較し、
前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、
各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、
処理をコンピュータに実行させる、機械学習プログラム。
【0150】
（付記２）
前記比較する処理において、前記第１の複数の関係情報と前記第２の複数の関係情報とをグラフ構造で比較し、
前記優先度を決定する処理において、前記比較の結果に基づいて、前記第１の複数の関係情報のうち、前記第２の複数の関係情報との差分が検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、付記１に記載の機械学習プログラム。
前記比較する処理において、前記第１の複数の関係情報と前記第２の複数の関係情報とをグラフ構造で比較し、
前記優先度を決定する処理において、前記比較の結果に基づいて、前記第１の複数の関係情報のうち、前記第２の複数の関係情報との差分が検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、付記１に記載の機械学習プログラム。
【0151】
（付記３）
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないノードと、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないエッジとを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、付記２に記載の機械学習プログラム。
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないノードと、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないエッジとを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、付記２に記載の機械学習プログラム。
【0152】
（付記４）
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、入次数又は出次数が変更されたノードと、変更があったノードと連結しているエッジを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、付記３に記載の機械学習プログラム。
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、入次数又は出次数が変更されたノードと、変更があったノードと連結しているエッジを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、付記３に記載の機械学習プログラム。
【0153】
（付記５）
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、付記４に記載の機械学習プログラム。
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、付記４に記載の機械学習プログラム。
【0154】
（付記６）
前記優先度を決定する処理において、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジについて、前記変更があったノードからのホップ数が少ないノード又はエッジほど、検出優先度を高く付け、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、付記５に記載の機械学習プログラム。
前記優先度を決定する処理において、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジについて、前記変更があったノードからのホップ数が少ないノード又はエッジほど、検出優先度を高く付け、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、付記５に記載の機械学習プログラム。
【0155】
（付記７）
入力されたArtificial Intelligence（ＡＩ）システムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報とを比較し、
前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、
各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、
処理をコンピュータが実行する、機械学習方法。
入力されたArtificial Intelligence（ＡＩ）システムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報とを比較し、
前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、
各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、
処理をコンピュータが実行する、機械学習方法。
【0156】
（付記８）
前記比較する処理において、前記第１の複数の関係情報と前記第２の複数の関係情報とをグラフ構造で比較し、
前記優先度を決定する処理において、前記比較の結果に基づいて、前記第１の複数の関係情報のうち、前記第２の複数の関係情報との差分が検出された関係情報の優先度を高くする、
処理を前記コンピュータが実行する、付記７に記載の機械学習方法。
前記比較する処理において、前記第１の複数の関係情報と前記第２の複数の関係情報とをグラフ構造で比較し、
前記優先度を決定する処理において、前記比較の結果に基づいて、前記第１の複数の関係情報のうち、前記第２の複数の関係情報との差分が検出された関係情報の優先度を高くする、
処理を前記コンピュータが実行する、付記７に記載の機械学習方法。
【0157】
（付記９）
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないノードと、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないエッジとを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータが実行する、付記８に記載の機械学習方法。
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないノードと、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないエッジとを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータが実行する、付記８に記載の機械学習方法。
【0158】
（付記１０）
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、入次数又は出次数が変更されたノードと、変更があったノードと連結しているエッジを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータが実行する、付記９に記載の機械学習方法。
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、入次数又は出次数が変更されたノードと、変更があったノードと連結しているエッジを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータが実行する、付記９に記載の機械学習方法。
【0159】
（付記１１）
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータが実行する、付記１０に記載の機械学習方法。
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータが実行する、付記１０に記載の機械学習方法。
【0160】
（付記１２）
前記優先度を決定する処理において、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジについて、前記変更があったノードからのホップ数が少ないノード又はエッジほど、検出優先度を高く付け、検出された関係情報の優先度を高くする、
処理を前記コンピュータが実行する、付記１１に記載の機械学習プログラム。
前記優先度を決定する処理において、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジについて、前記変更があったノードからのホップ数が少ないノード又はエッジほど、検出優先度を高く付け、検出された関係情報の優先度を高くする、
処理を前記コンピュータが実行する、付記１１に記載の機械学習プログラム。
【0161】
（付記１３）
入力されたArtificial Intelligence（ＡＩ）システムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報とを比較し、
前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、
各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、
プロセッサを備える、情報処理装置。
入力されたArtificial Intelligence（ＡＩ）システムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報とを比較し、
前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、
各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、
プロセッサを備える、情報処理装置。
【0162】
（付記１４）
前記プロセッサは、
前記比較する処理において、前記第１の複数の関係情報と前記第２の複数の関係情報とをグラフ構造で比較し、
前記優先度を決定する処理において、前記比較の結果に基づいて、前記第１の複数の関係情報のうち、前記第２の複数の関係情報との差分が検出された関係情報の優先度を高くする、
付記１３に記載の情報処理装置。
前記プロセッサは、
前記比較する処理において、前記第１の複数の関係情報と前記第２の複数の関係情報とをグラフ構造で比較し、
前記優先度を決定する処理において、前記比較の結果に基づいて、前記第１の複数の関係情報のうち、前記第２の複数の関係情報との差分が検出された関係情報の優先度を高くする、
付記１３に記載の情報処理装置。
【0163】
（付記１５）
前記プロセッサは、
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないノードと、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないエッジとを検出して、検出された関係情報の優先度を高くする、
付記１４に記載の情報処理装置。
前記プロセッサは、
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないノードと、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないエッジとを検出して、検出された関係情報の優先度を高くする、
付記１４に記載の情報処理装置。
【0164】
（付記１６）
前記プロセッサは、
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、入次数又は出次数が変更されたノードと、変更があったノードと連結しているエッジを検出して、検出された関係情報の優先度を高くする、
付記１５に記載の情報処理装置。
前記プロセッサは、
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、入次数又は出次数が変更されたノードと、変更があったノードと連結しているエッジを検出して、検出された関係情報の優先度を高くする、
付記１５に記載の情報処理装置。
【0165】
（付記１７）
前記プロセッサは、
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジを検出して、検出された関係情報の優先度を高くする、
付記１６に記載の情報処理装置。
前記プロセッサは、
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジを検出して、検出された関係情報の優先度を高くする、
付記１６に記載の情報処理装置。
【0166】
（付記１８）
前記プロセッサは、
前記優先度を決定する処理において、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジについて、前記変更があったノードからのホップ数が少ないノード又はエッジほど、検出優先度を高く付け、検出された関係情報の優先度を高くする、
付記１７に記載の情報処理装置。
前記プロセッサは、
前記優先度を決定する処理において、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジについて、前記変更があったノードからのホップ数が少ないノード又はエッジほど、検出優先度を高く付け、検出された関係情報の優先度を高くする、
付記１７に記載の情報処理装置。
【符号の説明】
【0167】
１ ：情報処理装置
２ ：信用調査機関
１０ ：ＡＩサービス提供者
１１ ：ＣＰＵ
１２ ：メモリ部
１３ ：表示制御部
１４ ：記憶装置
１５ ：入力ＩＦ
１６ ：外部記録媒体処理部
１７ ：通信ＩＦ
２０ ：データ提供者
３０ ：データ提供者
４０ ：利用者
１００ ：ＡＩシステム
１０１ ：訓練データ
１０２ ：ローン審査モデル訓練部
１０３ ：ローン審査モデル
１０４ ：推論データ
１０５ ：推論部
１０６ ：審査結果
１１０ ：訓練部
１１１ ：グラフ生成部
１１２ ：特徴抽出部
１１３ ：チェック項目抽出部
１１４ ：ＡＩ倫理チェックリスト
１１５ ：グラフ差分検出部
１２０ ：予測部
１３１ ：表示装置
１４０ ：インタラクション集合
１４１ ：インタラクション集合
１４２ ：重要インタラクション抽出ルール
１４３ ：ＡＩ倫理チェックリスト
１４４ ：重要インタラクション抽出ルール
１５１ ：マウス
１５２ ：キーボード
１６０ ：記録媒体
２ ：信用調査機関
１０ ：ＡＩサービス提供者
１１ ：ＣＰＵ
１２ ：メモリ部
１３ ：表示制御部
１４ ：記憶装置
１５ ：入力ＩＦ
１６ ：外部記録媒体処理部
１７ ：通信ＩＦ
２０ ：データ提供者
３０ ：データ提供者
４０ ：利用者
１００ ：ＡＩシステム
１０１ ：訓練データ
１０２ ：ローン審査モデル訓練部
１０３ ：ローン審査モデル
１０４ ：推論データ
１０５ ：推論部
１０６ ：審査結果
１１０ ：訓練部
１１１ ：グラフ生成部
１１２ ：特徴抽出部
１１３ ：チェック項目抽出部
１１４ ：ＡＩ倫理チェックリスト
１１５ ：グラフ差分検出部
１２０ ：予測部
１３１ ：表示装置
１４０ ：インタラクション集合
１４１ ：インタラクション集合
１４２ ：重要インタラクション抽出ルール
１４３ ：ＡＩ倫理チェックリスト
１４４ ：重要インタラクション抽出ルール
１５１ ：マウス
１５２ ：キーボード
１６０ ：記録媒体
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】