特開2024-124670評価支援プログラム、評価支援方法、および情報処理装置
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024124670
(43)【公開日】2024-09-13
(54)【発明の名称】評価支援プログラム、評価支援方法、および情報処理装置
(51)【国際特許分類】
G06F 16/28 20190101AFI20240906BHJP
G06F 16/904 20190101ALI20240906BHJP
【ＦＩ】
G06F16/28
G06F16/904
【審査請求】未請求
【請求項の数】6
【出願形態】ＯＬ
(21)【出願番号】P 2023032504
(22)【出願日】2023-03-03
(71)【出願人】
【識別番号】000005223
【氏名又は名称】富士通株式会社
(74)【代理人】
【識別番号】110002918
【氏名又は名称】弁理士法人扶桑国際特許事務所
(72)【発明者】
【氏名】大橋 恭子
(72)【発明者】
【氏名】新田 泉
(72)【発明者】
【氏名】稲越 宏弥
【テーマコード（参考）】
5B175
【Ｆターム（参考）】
5B175JA02
5B175JC04
5B175KA12
(57)【要約】
【課題】ＡＩシステムの運用に関するチェック項目の内容を容易に把握できるようにする。
【解決手段】情報処理装置１０は、ＡＩシステム１内の機能２ａ，２ｂと、管理対象データ３ａ，３ｂ，３ｃ，３ｄと、関係者４ａ，４ｂ，４ｃとのうちの二者の間のデータ受け渡し関係を示す関係情報１１ａに基づいて、第１のパス６を特定する。第１のパス６は、機能２ａ，２ｂと管理対象データ３ａ，３ｂ，３ｃ，３ｄと関係者４ａ，４ｂ，４ｃとのうちの１つを始点とし他の１つを終点としたときの始点から終点へデータ受け渡し関係を辿る経路を示す。情報処理装置１０は、関係情報１１ａに示されるデータ受け渡し関係のいずれかに関連付けられた複数のチェック項目のうち、第１のパス６に示される経路上の第１のデータ受け渡し関係７に関連する第１のチェック項目を選択する。そして情報処理装置１０は、第１のチェック項目の情報を表示させる。
【選択図】図１
【解決手段】情報処理装置１０は、ＡＩシステム１内の機能２ａ，２ｂと、管理対象データ３ａ，３ｂ，３ｃ，３ｄと、関係者４ａ，４ｂ，４ｃとのうちの二者の間のデータ受け渡し関係を示す関係情報１１ａに基づいて、第１のパス６を特定する。第１のパス６は、機能２ａ，２ｂと管理対象データ３ａ，３ｂ，３ｃ，３ｄと関係者４ａ，４ｂ，４ｃとのうちの１つを始点とし他の１つを終点としたときの始点から終点へデータ受け渡し関係を辿る経路を示す。情報処理装置１０は、関係情報１１ａに示されるデータ受け渡し関係のいずれかに関連付けられた複数のチェック項目のうち、第１のパス６に示される経路上の第１のデータ受け渡し関係７に関連する第１のチェック項目を選択する。そして情報処理装置１０は、第１のチェック項目の情報を表示させる。
【選択図】図１
【特許請求の範囲】
【請求項1】
ＡＩ（Artificial Intelligence）システム内の機能と、前記ＡＩシステムが管理する管理対象データと、前記ＡＩシステムの運用に関わる関係者とのうちの二者の間のデータ受け渡し関係を示す関係情報に基づいて、前記機能と前記管理対象データと前記関係者とのうちの１つを始点とし他の１つを終点としたときの前記始点から前記終点へ前記データ受け渡し関係を辿る経路を示す第１のパスを特定し、
前記関係情報に示される前記データ受け渡し関係のいずれかに関連付けられた複数のチェック項目のうち、前記第１のパスに示される経路上の第１のデータ受け渡し関係に関連する第１のチェック項目を選択し、
前記第１のチェック項目の情報を表示させる、
処理をコンピュータに実行させることを特徴とする評価支援プログラム。
前記関係情報に示される前記データ受け渡し関係のいずれかに関連付けられた複数のチェック項目のうち、前記第１のパスに示される経路上の第１のデータ受け渡し関係に関連する第１のチェック項目を選択し、
前記第１のチェック項目の情報を表示させる、
処理をコンピュータに実行させることを特徴とする評価支援プログラム。
【請求項2】
前記第１のチェック項目が複数ある場合、前記複数のチェック項目それぞれが複数のグループのうちのどれに属するのかを示す分類情報に基づいて、複数の前記第１のチェック項目のうちの第１のグループに属する第２のチェック項目を選択する処理を、前記コンピュータにさらに実行させ、
前記第１のチェック項目の情報を表示させる処理では、複数の前記第１のチェック項目のうちから選択された前記第２のチェック項目の情報を表示させる、
請求項１記載の評価支援プログラム。
前記第１のチェック項目の情報を表示させる処理では、複数の前記第１のチェック項目のうちから選択された前記第２のチェック項目の情報を表示させる、
請求項１記載の評価支援プログラム。
【請求項3】
前記第１のパスを特定する処理では、前記始点と前記終点との指定に加え、前記機能、前記管理対象データ、または前記関係者のうちの少なくとも１つが経由対象として指定されたパス情報に基づいて、前記データ受け渡し関係を前記始点から前記経由対象を経由して前記終点へ辿る経路を、前記第１のパスとして特定する、
請求項１または２記載の評価支援プログラム。
請求項１または２記載の評価支援プログラム。
【請求項4】
前記複数のチェック項目それぞれには、関連する前記データ受け渡し関係で生じるリスクが示されており、
前記第１のチェック項目の情報を表示させる処理では、前記第１のチェック項目に対応する前記リスクを、前記第１のチェック項目に関連する前記データ受け渡し関係に関連付けて表示させる、
請求項１または２記載の評価支援プログラム。
前記第１のチェック項目の情報を表示させる処理では、前記第１のチェック項目に対応する前記リスクを、前記第１のチェック項目に関連する前記データ受け渡し関係に関連付けて表示させる、
請求項１または２記載の評価支援プログラム。
【請求項5】
ＡＩ（Artificial Intelligence）システム内の機能と、前記ＡＩシステムが管理する管理対象データと、前記ＡＩシステムの運用に関わる関係者とのうちの二者の間のデータ受け渡し関係を示す関係情報に基づいて、前記機能と前記管理対象データと前記関係者とのうちの１つを始点とし他の１つを終点としたときの前記始点から前記終点へ前記データ受け渡し関係を辿る経路を示す第１のパスを特定し、
前記関係情報に示される前記データ受け渡し関係のいずれかに関連付けられた複数のチェック項目のうち、前記第１のパスに示される経路上の第１のデータ受け渡し関係に関連する第１のチェック項目を選択し、
前記第１のチェック項目の情報を表示させる、
処理をコンピュータが実行することを特徴とする評価支援方法。
前記関係情報に示される前記データ受け渡し関係のいずれかに関連付けられた複数のチェック項目のうち、前記第１のパスに示される経路上の第１のデータ受け渡し関係に関連する第１のチェック項目を選択し、
前記第１のチェック項目の情報を表示させる、
処理をコンピュータが実行することを特徴とする評価支援方法。
【請求項6】
ＡＩ（Artificial Intelligence）システム内の機能と、前記ＡＩシステムが管理する管理対象データと、前記ＡＩシステムの運用に関わる関係者とのうちの二者の間のデータ受け渡し関係を示す関係情報に基づいて、前記機能と前記管理対象データと前記関係者とのうちの１つを始点とし他の１つを終点としたときの前記始点から前記終点へ前記データ受け渡し関係を辿る経路を示す第１のパスを特定し、前記関係情報に示される前記データ受け渡し関係のいずれかに関連付けられた複数のチェック項目のうち、前記第１のパスに示される経路上の第１のデータ受け渡し関係に関連する第１のチェック項目を選択し、前記第１のチェック項目の情報を表示させる処理部、
を有する情報処理装置。
を有する情報処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、評価支援プログラム、評価支援方法、および情報処理装置に関する。
【背景技術】
【0002】
ＡＩ（Artificial Intelligence）システムにおいて、倫理的なリスクのアセスメントが行われることがある。
例えばさまざまな業種やタスクのＡＩシステムを利用することで、倫理上の問題が発生することがある。そのような問題が発生すると、ＡＩシステムを提供した企業や組織だけでなく、ＡＩシステムの利用者やその先にある社会に対する影響も大きい。そこで、ＡＩを社会実装する上で、倫理上のリスクを認識し対処できるような取り組みが行われている。このような取り組みが、倫理的なリスクのアセスメントである。
例えばさまざまな業種やタスクのＡＩシステムを利用することで、倫理上の問題が発生することがある。そのような問題が発生すると、ＡＩシステムを提供した企業や組織だけでなく、ＡＩシステムの利用者やその先にある社会に対する影響も大きい。そこで、ＡＩを社会実装する上で、倫理上のリスクを認識し対処できるような取り組みが行われている。このような取り組みが、倫理的なリスクのアセスメントである。
【0003】
ＡＩシステムは複数のステークホルダを持ち、ステークホルダを取り巻く社会状況が変化する。ステークホルダは、システムに関わる人または組織である。ステークホルダを取り巻く環境が変化するため、ＡＩシステムの利用によってどのような倫理的な問題が発生するかを検知することは容易でない場合がある。そこで、ＡＩ倫理に関する原則やガイドラインが示す倫理的なリスクに関するチェックリストに基づいて、ＡＩシステムやそのステークホルダに当てはめて、存在する倫理的なリスクの分析が行われることがある。
【0004】
ＡＩ倫理に関する原則やガイドラインの例としては、「欧州High-Level Expert Group on AI (AI HLEG) “Ethics Guidelines for Trustworthy AI”」や「総務省 ＡＩ利活用ガイドライン」、「統合イノベーション戦略推進会議“人間中心のＡＩ社会原則”」、「OECD“Recommendation of the Council on Artificial Intelligence”」が存在する。
【0005】
また、さまざまなＡＩサービス提供の形態の存在を踏まえつつ、ＡＩサービス提供者が自らのＡＩサービスに係るリスクコントロール検討に資するモデルとして、「リスクチェーンモデル（Risk Chain Model: RCModel）」が提案されている。
【0006】
リスクチェーンモデルでは、以下の（１）～（３）によって、リスク構成要素の整理及び構造化が行われる。
（１）ＡＩシステムの技術的構成要素
（２）サービス提供者の行動規範（ユーザとのコミュニケーションを含む）に係る構成要素
（３）ユーザの理解・行動・利用環境に係る構成要素
また、リスクチェーンモデルでは、リスクシナリオの識別及びリスク要因となる構成要素の特定と、リスクチェーンの可視化及びリスクコントロールの検討が行われる。リスクチェーンの可視化及びリスクコントロールの検討では、ＡＩサービス提供者はリスクシナリオに関連する構成要素の関係性（リスクチェーン）を可視化することで、段階的なリスク低減の検討が可能になる。
（１）ＡＩシステムの技術的構成要素
（２）サービス提供者の行動規範（ユーザとのコミュニケーションを含む）に係る構成要素
（３）ユーザの理解・行動・利用環境に係る構成要素
また、リスクチェーンモデルでは、リスクシナリオの識別及びリスク要因となる構成要素の特定と、リスクチェーンの可視化及びリスクコントロールの検討が行われる。リスクチェーンの可視化及びリスクコントロールの検討では、ＡＩサービス提供者はリスクシナリオに関連する構成要素の関係性（リスクチェーン）を可視化することで、段階的なリスク低減の検討が可能になる。
【先行技術文献】
【非特許文献】
【0007】
【非特許文献1】松本敬史，江間有沙，“AIサービスのリスク低減を検討するリスクチェーンモデルの提案”，2020年6月4日，インターネット＜ＵＲＬ：ifi.u-tokyo.ac.jp/wp/wp-content/uploads/2020/06/policy_recommendation_tg_20200604.pdf＞
【発明の概要】
【発明が解決しようとする課題】
【0008】
ＡＩシステム運用時の倫理的なリスクに関するチェックリストには大量のチェック項目が含まれるが、互いの関連性は明確でない。また、倫理的な観点を詳細化したチェックリストであるために、同じ観点から詳細化された類似した内容のチェック項目が複数存在することがある。
【0009】
しかし、従来の倫理的なリスクのアセスメントでは、多数のチェック項目で示される個々のリスクを示すにとどまる。そのため、このチェックリストを用いて抽出されたリスクを関係者が理解し対策の検討を進める作業において、関係者は、似たようなリスクを何度も検討することになり、時間的および心理的な負担が大きい。そこでＡＩシステムが有する倫理的なリスクの把握に要する作業負担を軽減することが求められている。
【0010】
これまでＡＩシステムの倫理的なリスクの理解と対策に関する問題を説明したが、ＡＩシステムの運用に関する他のリスク（例えば個人情報の不正利用のリスク）またはリスク以外のチェック項目の内容を理解する際にも同様の問題が生じる。
【0011】
１つの側面では、本発明は、ＡＩシステムの運用に関するチェック項目の内容を容易に把握できるようにすることを目的とする。
【課題を解決するための手段】
【0012】
１つの案では、以下の処理をコンピュータに実行させることを特徴とする評価支援プログラムが提供される。
コンピュータは、ＡＩシステム内の機能と、ＡＩシステムが管理する管理対象データと、ＡＩシステムの運用に関わる関係者とのうちの二者の間のデータ受け渡し関係を示す関係情報に基づいて、機能と管理対象データと関係者とのうちの１つを始点とし他の１つを終点としたときの始点から終点へデータ受け渡し関係を辿る経路を示す第１のパスを特定する。コンピュータは、関係情報に示されるデータ受け渡し関係のいずれかに関連付けられた複数のチェック項目のうち、第１のパスに示される経路上の第１のデータ受け渡し関係に関連する第１のチェック項目を選択する。そしてコンピュータは、第１のチェック項目の情報を表示させる。
コンピュータは、ＡＩシステム内の機能と、ＡＩシステムが管理する管理対象データと、ＡＩシステムの運用に関わる関係者とのうちの二者の間のデータ受け渡し関係を示す関係情報に基づいて、機能と管理対象データと関係者とのうちの１つを始点とし他の１つを終点としたときの始点から終点へデータ受け渡し関係を辿る経路を示す第１のパスを特定する。コンピュータは、関係情報に示されるデータ受け渡し関係のいずれかに関連付けられた複数のチェック項目のうち、第１のパスに示される経路上の第１のデータ受け渡し関係に関連する第１のチェック項目を選択する。そしてコンピュータは、第１のチェック項目の情報を表示させる。
【発明の効果】
【0013】
１態様によれば、ＡＩシステムの運用に関するチェック項目の内容を容易に把握できるようにする。
【図面の簡単な説明】
【0014】
【図1】第１の実施の形態に係る評価支援方法の一例を示す図である。
【図2】ＡＩシステムの倫理的なリスクアセスメントの一例を示す図である。
【図3】ＡＩシステムの開発とリスク分析に用いるコンピュータのハードウェアの一例を示す図である。
【図4】ＡＩシステム開発およびリスク分析のためのコンピュータの機能の一例を示すブロック図である。
【図5】重要インタラクション抽出ルールの一例を示す図である。
【図6】ＡＩシステムの運用時に行われるインタラクションの一例を示す図である。
【図7】ＡＩ倫理チェックリストの一例を示す図である。
【図8】インタラクション集合の一例を示す図である。
【図9】重要チェック項目の抽出処理の一例を示す図である。
【図10】グラフ構造データで示されるインタラクションのグラフ構造の一例を示す図である。
【図11】重要ＡＩ倫理チェックリストの一例を示す図である。
【図12】すべてのリスクを含む分析図の一例を示す図である。
【図13】関連リスクの可視化処理の一例を示す図である。
【図14】関連リスク分析処理の手順の一例を示すフローチャートである。
【図15】パス情報に応じて抽出されたパスの第１の例を示す図である。
【図16】表示される分析図の第１の例を示す図である。
【図17】パス情報に応じて抽出されたパスの第２の例を示す図である。
【図18】表示される分析図の第２の例を示す図である。
【図19】パス情報に応じて抽出されたパスの第３の例を示す図である。
【図20】表示される分析図の第３の例を示す図である。
【発明を実施するための形態】
【0015】
以下、本実施の形態について図面を参照して説明する。なお各実施の形態は、矛盾のない範囲で複数の実施の形態を組み合わせて実施することができる。
〔第１の実施の形態〕
第１の実施の形態は、ＡＩシステムの運用に関する多数のチェック項目のうち、所定の関係があるチェック項目を抽出して表示させることで、ＡＩシステムの運用に関するチェック項目の評価を支援する評価支援方法である。
〔第１の実施の形態〕
第１の実施の形態は、ＡＩシステムの運用に関する多数のチェック項目のうち、所定の関係があるチェック項目を抽出して表示させることで、ＡＩシステムの運用に関するチェック項目の評価を支援する評価支援方法である。
【0016】
図１は、第１の実施の形態に係る評価支援方法の一例を示す図である。図１には、評価支援方法を実施する情報処理装置１０が示されている。情報処理装置１０は、例えば評価支援プログラムを実行することにより、評価支援方法を実施することができる。
【0017】
情報処理装置１０は、記憶部１１と処理部１２とを有する。記憶部１１は、例えば情報処理装置１０が有するメモリまたはストレージ装置である。処理部１２は、例えば情報処理装置１０が有するプロセッサまたは演算回路である。
【0018】
記憶部１１は、関係情報１１ａとチェックリスト１１ｂとを記憶する。関係情報１１ａは、ＡＩシステム１内の機能２ａ，２ｂと、ＡＩシステム１が管理する管理対象データ３ａ，３ｂ，３ｃ，３ｄと、ＡＩシステム１の運用に関わる関係者４ａ，４ｂ，４ｃとのうちの二者の間のデータ受け渡し関係を示す。
【0019】
機能２ａ，２ｂは、例えばそれぞれＡＩモデルの訓練（または学習）を行う訓練部と、ＡＩモデルを用いた推論を行う推論部である。管理対象データ３ａ，３ｂ，３ｃ，３ｄそれぞれは、例えば訓練用の訓練データ、訓練されたＡＩモデル、推論用の推論データ、推論結果である。
【0020】
関係者４ａ，４ｂ，４ｃは、例えばＡＩシステム１へのデータの提供元またはＡＩシステム１のデータの利用先である。図１の例では、関係者４ａ，４ｂは、例えば訓練データまたは推論データを提供する者（Ｘ，Ｙ）である。また関係者４ｃは、推論データを提供して推論結果を利用する者（Ｚ）である。
【0021】
チェックリスト１１ｂは、データ受け渡し関係について生じるリスクなどの確認事項を示すチェック項目のリストである。チェックリスト１１ｂには、例えばデータ受け渡し関係それぞれに付与されたＩＤ（Ｒ１，Ｒ２，・・・，Ｒ１３）に対応付けて、そのＩＤで示されるデータ受け渡し関係に関するチェック項目の内容が登録されている。チェック項目の内容は、例えば対応するデータ受け渡し関係において生じる可能性がある倫理的なリスクである。
【0022】
処理部１２は、記憶部１１に格納された関係情報１１ａとチェックリスト１１ｂを利用して、所定の関係があるチェック項目の抽出と、抽出したチェック項目の表示とを行う。例えば処理部１２は、関係情報１１ａに基づいて第１のパス６を特定する。第１のパス６は、機能２ａ，２ｂと管理対象データ３ａ，３ｂ，３ｃ，３ｄと関係者４ａ，４ｂ，４ｃとのうちの１つを始点とし他の１つを終点としたときの始点から終点へデータ受け渡し関係を辿る経路を示す。
【0023】
始点と終点とは、例えばパス情報５で指定される。例えばパス情報５は、ＡＩシステム１の運用時に発生するリスクなどについて分析する分析者によって入力される。パス情報５では、経由対象を指定することもできる。その場合、パス情報５には始点と終点との指定に加え、機能２ａ，２ｂ、管理対象データ３ａ，３ｂ，３ｃ，３ｄ、または関係者４ａ，４ｂ，４ｃのうちの少なくとも１つが経由対象として指定される。処理部１２は、経由対象が指定された場合、データ受け渡し関係を始点から経由対象を経由して終点へ辿る経路を、第１のパス６として特定する。
【0024】
図１の例では、パス情報５において、始点として関係者４ａ（Ｘ）、終点として関係者４ｃ（Ｚ）が指定されている。また経由対象として、機能２ａ（訓練部）が指定されている。その結果、「Ｘ→訓練データ→訓練部→ＡＩモデル→推論部→推論結果→Ｚ」という第１のパス６が特定されている。
【0025】
処理部１２は、関係情報１１ａに示されるデータ受け渡し関係のいずれかに関連付けられた複数のチェック項目のうち、第１のパス６に示される経路上の第１のデータ受け渡し関係７に関連する第１のチェック項目を選択する。図１の例では、第１のパス６に示される経路上の第１のデータ受け渡し関係７は、ＩＤ「Ｒ１，Ｒ３，Ｒ４，Ｒ５，Ｒ１２，Ｒ１３」それぞれに対応するデータ受け渡し関係である。またチェックリスト１１ｂには、ＩＤ「Ｒ１」のデータ受け渡し関係に対応付けて「リスクＡ」が登録されており、ＩＤ「Ｒ１３」のデータ受け渡し関係に対応付けて「リスクＣ」が登録されている。そこで処理部１２は、第１のチェック項目として、ＩＤ「Ｒ１」のデータ受け渡し関係に対応する「リスクＡ」とＩＤ「Ｒ１３」のデータ受け渡し関係に対応する「リスクＣ」とを選択する。
【0026】
そして処理部１２は、選択した第１のチェック項目の情報を、例えばモニタに表示させる。図１の例では、処理部１２は、選択した第１のチェック項目の情報を含む分析図８を生成し、その分析図８をモニタに表示させている。分析図８には、例えば関係情報１１ａに示される、機能２ａ，２ｂと管理対象データ３ａ，３ｂ，３ｃ，３ｄと関係者４ａ，４ｂ，４ｃとのうちの二者の間のデータ受け渡し関係が模式的な図で表されている。その図のデータ受け渡し関係にはＩＤが付与されている。そして分析図８には、選択された第１のチェック項目が、対応するデータ受け渡し関係に関連付けて表示されている。
【0027】
このようにして、始点から終点までデータ受け渡し関係を辿った第１のパス６に関連するチェック項目の情報がまとめて表示される。第１のパス６に関連するチェック項目は、データ受け渡し関係によって何らかの依存関係を有するチェック項目であり、まとめて検討することにより、対策の立案などを効率的に行うことが可能となる。
【0028】
またパス情報５において経由対象を指定できることで、始点から終点までの経路が複数ある場合に、複数の経路の１つを指定して、第１のパス６とすることができる。その結果、同時に表示されるチェック項目数が多くなりすぎることが抑止され、関連するチェック項目についての一括した確認作業の効率が向上する。
【0029】
またチェック項目として、例えば倫理的な観点でのリスクが表示されることで、ＡＩシステム１の運用に当たり、ＡＩシステム１が倫理的に誤るリスク、または運用者がＡＩシステム１を倫理的に誤った方法で使用をするリスクを適切に判断することができる。
【0030】
またチェックリスト１１ｂに予め登録されている複数のチェック項目を、複数のグループに分類しておくこともできる。例えばリスクとなる倫理的な観点の違いにより、複数のチェック項目が分類される。その場合、処理部１２は、グループ単位でチェック項目を表示してもよい。
【0031】
例えば処理部１２は、複数のチェック項目それぞれが複数のグループのうちのどれに属するのかを示す分類情報に基づいて、複数の第１のチェック項目のうちの第１のグループに属する第２のチェック項目を選択する。そして処理部１２は、第１のチェック項目の情報を表示させる処理では、複数の第１のチェック項目のうちから選択された第２のチェック項目の情報を表示させる。これにより、例えば同一観点での倫理的なリスクをまとめて確認することが可能となる。
【0032】
〔第２の実施の形態〕
第２の実施の形態は、ＡＩシステムの開発段階において、そのＡＩシステムが有する倫理的なリスクの分析を支援するコンピュータである。例えばコンピュータにより、ＡＩシステムが有する可能性のあるリスクのＡＩ倫理チェック項目をリストアップする。開発者は、例えばリストアップされたリスクの内容に応じて対策を検討し、ＡＩシステムの利用に関するリスクアセスメント（リスクの評価）を行うことができる。
第２の実施の形態は、ＡＩシステムの開発段階において、そのＡＩシステムが有する倫理的なリスクの分析を支援するコンピュータである。例えばコンピュータにより、ＡＩシステムが有する可能性のあるリスクのＡＩ倫理チェック項目をリストアップする。開発者は、例えばリストアップされたリスクの内容に応じて対策を検討し、ＡＩシステムの利用に関するリスクアセスメント（リスクの評価）を行うことができる。
【0033】
図２は、ＡＩシステムの倫理的なリスクアセスメントの一例を示す図である。ＡＩシステムを開発する企業では、コンピュータ１００を用いて、ＡＩシステム開発と倫理的なリスク分析を行う。コンピュータ１００は、倫理的なリスクの分析結果として、例えばＡＩシステムが有する倫理的なリスクのリストを表示する。開発企業担当者３１は、分析結果により、存在する可能性のあるリスクを漏れなく確認し、その対策を予め立案する。そして開発企業担当者３１は、ＡＩシステムの導入を顧客３２に勧める際、そのＡＩシステムが有する倫理的なリスクと、そのリスクに対して取り得る対策を説明する。これにより、顧客３２がそのＡＩシステムを利用することで倫理的に問題のある行為をしてしまうことを抑止できる。
【0034】
図３は、ＡＩシステムの開発とリスク分析に用いるコンピュータのハードウェアの一例を示す図である。コンピュータ１００は、プロセッサ１０１によって装置全体が制御されている。プロセッサ１０１には、バス１０９を介してメモリ１０２と複数の周辺機器が接続されている。プロセッサ１０１は、マルチプロセッサであってもよい。プロセッサ１０１は、例えばＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro Processing Unit）、またはＤＳＰ（Digital Signal Processor）である。プロセッサ１０１がプログラムを実行することで実現する機能の少なくとも一部を、ＡＳＩＣ（Application Specific Integrated Circuit）、ＰＬＤ（Programmable Logic Device）などの電子回路で実現してもよい。
【0035】
メモリ１０２は、コンピュータ１００の主記憶装置として使用される。メモリ１０２には、プロセッサ１０１に実行させるＯＳ（Operating System）のプログラムやアプリケーションプログラムの少なくとも一部が一時的に格納される。また、メモリ１０２には、プロセッサ１０１による処理に利用する各種データが格納される。メモリ１０２としては、例えばＲＡＭ（Random Access Memory）などの揮発性の半導体記憶装置が使用される。
【0036】
バス１０９に接続されている周辺機器としては、ストレージ装置１０３、ＧＰＵ（Graphics Processing Unit）１０４、入力インタフェース１０５、光学ドライブ装置１０６、機器接続インタフェース１０７およびネットワークインタフェース１０８がある。
【0037】
ストレージ装置１０３は、内蔵した記録媒体に対して、電気的または磁気的にデータの書き込みおよび読み出しを行う。ストレージ装置１０３は、コンピュータ１００の補助記憶装置として使用される。ストレージ装置１０３には、ＯＳのプログラム、アプリケーションプログラム、および各種データが格納される。なお、ストレージ装置１０３としては、例えばＨＤＤ（Hard Disk Drive）やＳＳＤ（Solid State Drive）を使用することができる。
【0038】
ＧＰＵ１０４は画像処理を行う演算装置である。ＧＰＵ１０４は、グラフィックコントローラの一例である。ＧＰＵ１０４には、モニタ２１が接続されている。ＧＰＵ１０４は、プロセッサ１０１からの命令に従って、画像をモニタ２１の画面に表示させる。モニタ２１としては、有機ＥＬ（Electro Luminescence）を用いた表示装置や液晶表示装置などがある。
【0039】
入力インタフェース１０５には、キーボード２２とマウス２３とが接続されている。入力インタフェース１０５は、キーボード２２やマウス２３から送られてくる信号をプロセッサ１０１に送信する。なお、マウス２３は、ポインティングデバイスの一例であり、他のポインティングデバイスを使用することもできる。他のポインティングデバイスとしては、タッチパネル、タブレット、タッチパッド、トラックボールなどがある。
【0040】
光学ドライブ装置１０６は、レーザ光などを利用して、光ディスク２４に記録されたデータの読み取り、または光ディスク２４へのデータの書き込みを行う。光ディスク２４は、光の反射によって読み取り可能なようにデータが記録された可搬型の記録媒体である。光ディスク２４には、ＤＶＤ（Digital Versatile Disc）、ＤＶＤ－ＲＡＭ、ＣＤ－ＲＯＭ（Compact Disc Read Only Memory）、ＣＤ－Ｒ（Recordable）／ＲＷ（ReWritable）などがある。
【0041】
機器接続インタフェース１０７は、コンピュータ１００に周辺機器を接続するための通信インタフェースである。例えば機器接続インタフェース１０７には、メモリ装置２５やメモリリーダライタ２６を接続することができる。メモリ装置２５は、機器接続インタフェース１０７との通信機能を搭載した記録媒体である。メモリリーダライタ２６は、メモリカード２７へのデータの書き込み、またはメモリカード２７からのデータの読み出しを行う装置である。メモリカード２７は、カード型の記録媒体である。
【0042】
ネットワークインタフェース１０８は、ネットワーク２０に接続されている。ネットワークインタフェース１０８は、ネットワーク２０を介して、他のコンピュータまたは通信機器との間でデータの送受信を行う。ネットワークインタフェース１０８は、例えばスイッチやルータなどの有線通信装置にケーブルで接続される有線通信インタフェースである。またネットワークインタフェース１０８は、基地局やアクセスポイントなどの無線通信装置に電波によって通信接続される無線通信インタフェースであってもよい。
【0043】
コンピュータ１００は、以上のようなハードウェアによって、第２の実施の形態の処理機能を実現することができる。なお、第１の実施の形態に示した情報処理装置１０も、図３に示したコンピュータ１００と同様のハードウェアにより実現することができる。
【0044】
コンピュータ１００は、例えばコンピュータ読み取り可能な記録媒体に記録されたプログラムを実行することにより、第２の実施の形態の処理機能を実現する。コンピュータ１００に実行させる処理内容を記述したプログラムは、様々な記録媒体に記録しておくことができる。例えば、コンピュータ１００に実行させるプログラムをストレージ装置１０３に格納しておくことができる。プロセッサ１０１は、ストレージ装置１０３内のプログラムの少なくとも一部をメモリ１０２にロードし、プログラムを実行する。またコンピュータ１００に実行させるプログラムを、光ディスク２４、メモリ装置２５、メモリカード２７などの可搬型記録媒体に記録しておくこともできる。可搬型記録媒体に格納されたプログラムは、例えばプロセッサ１０１からの制御により、ストレージ装置１０３にインストールされた後、実行可能となる。またプロセッサ１０１が、可搬型記録媒体から直接プログラムを読み出して実行することもできる。
【0045】
ＡＩシステムを開発する企業は、コンピュータ１００を利用して、ＡＩシステムの開発とそのＡＩシステムの倫理的なリスクの分析とを行う。例えばコンピュータ１００は、ＡＩシステムが有するリスクを表示する。この際、表示されるリスクの数が多すぎると、すべてのリスクに関して対策を検討するのが困難となる。そこでコンピュータ１００は、例えば重要なリスクを優先的に表示する。
【0046】
なお、リスクに優先度を付けた場合でも数十程度のＡＩ倫理チェック項目が残ることがある。このとき、リスク間の関連性は明確でないと、まとめて検討すれば効率となる関連する複数のリスクについて個別に検討することとなり、分析者によるリスクの検討作業が非効率となる。また倫理的な観点を詳細化したチェックリストが表示された場合、同じ観点から詳細化された複数のＡＩ倫理チェック項目が類似した内容になる傾向がある。このように、観点が同じＡＩ倫理チェック項目があることを分析者が知ることができれば、検討作業の効率化が可能である。
【0047】
多数のＡＩ倫理チェック項目が表示されたとき、例えば分析者がＡＩ倫理チェック項目の内容を確認し、関連するＡＩ倫理チェック項目をグルーピングすることも可能である。しかし、グルーピング作業は、分析者のスキルに依存し、だれでもできるものではない。そこでコンピュータ１００は、倫理的なリスクに関する関連するＡＩ倫理チェック項目をグルーピングし、グループに分けてリスクのＡＩ倫理チェック項目を表示する。これにより、リスクの確認と対策の検討とを効率的に行うことができる。
【0048】
なおコンピュータ１００では、ＡＩシステムの倫理的なリスクの抽出に、ＡＩシステムの検討すべきリスクをインタラクションごとにリストアップしたチェックリストを使用する。インタラクションは、ＡＩシステムのコンポーネントまたはステークホルダのいずれかによる、ＡＩシステムを用いたデータの受け渡し（データの提供または利用）である。
【0049】
ＡＩシステムのコンポーネントとは、ＡＩシステムの実現のために用いるソフトウェアモジュールである。１または複数のインタラクションにより、ＡＩシステムのコンポーネントとステークホルダとの関係が表される。ステークホルダは、ＡＩシステムの運用に関わる人または組織である。
【0050】
図４は、ＡＩシステム開発およびリスク分析のためのコンピュータの機能の一例を示すブロック図である。コンピュータ１００は、記憶部１１０、ＡＩ開発部１２０、重要チェック項目抽出部１３０、リスク設定部１４０、関連リスク分析部１５０、および分析図表示部１６０を有する。
【0051】
記憶部１１０は、重要インタラクション抽出ルール１１１、ＡＩ倫理チェックリスト１１２、ＡＩソフトウェア１１３、インタラクション集合１１４、グラフ構造データ１１５、重要ＡＩ倫理チェックリスト１１６、および分析図群１１７を記憶する。
【0052】
重要インタラクション抽出ルール１１１とＡＩ倫理チェックリスト１１２とは、ＡＩシステムのリスク分析用に予め用意されるデータである。重要インタラクション抽出ルール１１１は、ＡＩシステムの運用上の重要なインタラクションを抽出するためのルールである。ＡＩ倫理チェックリスト１１２は、インタラクションの特徴ごとの、その特徴を有するインタラクションに想定される倫理的なリスクのリストである。
【0053】
ＡＩソフトウェア１１３とインタラクション集合１１４とは、ＡＩ開発部１２０を用いたＡＩシステムの開発結果として得られるデータである。ＡＩソフトウェア１１３は、導入先のコンピュータをＡＩシステムとして機能させるためのソフトウェアである。インタラクション集合１１４は、ＡＩソフトウェア１１３に基づいて実現されるＡＩシステムを運用する際に実施されるインタラクションを示すデータである。
【0054】
グラフ構造データ１１５と重要ＡＩ倫理チェックリスト１１６とは、重要チェック項目抽出部１３０による重要なリスクのＡＩ倫理チェック項目の抽出処理によって生成されるデータである。グラフ構造データ１１５は、インタラクション集合によって表されるステークホルダ、システムコンポーネント、データの関係をグラフ化したデータである。重要ＡＩ倫理チェックリスト１１６は、ＡＩソフトウェア１１３で実現されるＡＩシステムにおける倫理的なリスクのうちの重要と判断されたリスクのリストである。
【0055】
分析図群１１７は、関連リスク分析部１５０により関連すると判断された１または複数のリスクと、そのリスクを生じさせるインタラクションを表す１または複数の分析図である。
【0056】
ＡＩ開発部１２０は、ＡＩシステムの開発の支援機能である。開発者は、ＡＩ開発部１２０を使用してＡＩシステムを実現するためのＡＩソフトウェア１１３を生成する。また開発者は、例えばＡＩ開発部１２０を利用して、ＡＩシステムの開発時には、そのＡＩシステムを運用する際に実施されるインタラクションを示すインタラクション集合１１４を生成する。
【0057】
重要チェック項目抽出部１３０は、ＡＩソフトウェア１１３で実現されるＡＩシステムにおける倫理的なリスクのＡＩ倫理チェック項目のうち、重要なＡＩ倫理チェック項目を抽出し、重要ＡＩ倫理チェックリスト１１６を生成する。重要チェック項目抽出部１３０は、グラフ生成部１３１と特徴抽出部１３２とチェック項目抽出部１３３とを有する。
【0058】
グラフ生成部１３１は、インタラクション集合１１４に基づいてグラフ構造データ１１５を生成する。特徴抽出部１３２は、グラフ構造データ１１５に基づいて、重要インタラクション抽出ルールに従って、インタラクションの優先度を設定する。そして特徴抽出部１３２は、例えば優先度が高い方から所定数のインタラクションを、重要なインタラクションとして抽出する。チェック項目抽出部１３３は、ＡＩ倫理チェックリスト１１２に基づいて、抽出されたインタラクションが有する特徴に応じた倫理的なリスクのＡＩ倫理チェック項目を抽出する。
【0059】
リスク設定部１４０は、重要ＡＩ倫理チェックリスト１１６に示されるＡＩ倫理チェック項目についての具体的なリスクの入力を、分析者から受け付ける。リスク設定部１４０は、入力されたリスクを、重要ＡＩ倫理チェックリスト１１６に設定する。
【0060】
関連リスク分析部１５０は、重要ＡＩ倫理チェックリスト１１６に示されているリスク間の関連性を分析する。そして関連リスク分析部１５０は、関連するリスクと、それらのリスクを生じさせるインタラクションとを表す分析図を生成する。関連リスク分析部１５０は、互いに関連するリスクの組が複数生成された場合、複数の分析図を生成する。
【0061】
関連リスク分析部１５０は、パス抽出部１５１とリスク抽出部１５２とを有する。パス抽出部１５１は、グラフ構造データ１１５から、分析者から指定されたグラフ構造上のパスを抽出する。抽出されるパスは、そのパスに含まれるインタラクションの集合で表される。リスク抽出部１５２は、抽出されたパスに含まれるインタラクションに関するリスクを、重要ＡＩ倫理チェックリスト１１６から抽出する。そしてリスク抽出部１５２は、抽出したリスクとインタラクションとに基づいて分析図を生成する。
【0062】
分析図表示部１６０は、分析者からの指示に応じて、分析図群１１７に含まれる分析図をモニタ２１に表示する。
なお図４に示した各機能は、例えば、その要素に対応するプログラムモジュールをプロセッサ１０１に実行させることで実現することができる。
なお図４に示した各機能は、例えば、その要素に対応するプログラムモジュールをプロセッサ１０１に実行させることで実現することができる。
【0063】
図５は、重要インタラクション抽出ルールの一例を示す図である。重要インタラクション抽出ルール１１１には、倫理的なリスクの発生が起こりやすいグラフ構造の特徴と、抑えておくべきＡＩ倫理チェックリストの項目が、あらかじめルールとして登録されている。例えば「ＡＩシステムと直接関わらないステークホルダの数が１つ以上ある場合は、そのステークホルダが関わるインタラクションの優先度を上げる」というルールが登録される。ＡＩシステムと直接関わらないステークホルダとは、例えばＡＩシステムに提供するデータを、他のステークホルダを介してＡＩシステムに提供するステークホルダである。
このルールは、ＡＩシステムの設計・開発において見落としがちな間接的なステークホルダへの影響を把握するためのルールである。
このルールは、ＡＩシステムの設計・開発において見落としがちな間接的なステークホルダへの影響を把握するためのルールである。
【0064】
このような重要チェック項目抽出部１３０は、重要インタラクション抽出ルール１１１に基づいて、開発したＡＩシステムの運用において行われるインタラクションのうちの重要なインタラクションを抽出することができる。
【0065】
図６は、ＡＩシステムの運用時に行われるインタラクションの一例を示す図である。図６に示すＡＩシステム４０は、ローン審査を行うためのＡＩシステムである。図６における矢印は、インタラクションを示す。インタラクションの両端（始点，終点）は、ステークホルダ、データ、システムコンポーネントのいずれかの要素となる。
【0066】
ＡＩシステム４０におけるステークホルダは、ＡＩサービスベンダ５１、銀行５２、信用調査機関５３、およびローン申込者５４である。ＡＩサービスベンダ５１は、ステークホルダの種類としてシステム提供者に分類される。銀行５２は、ステークホルダの種類として、ＡＩシステム利用者およびデータ提供者の両方に分類される。信用調査機関５３は、ステークホルダの種類としてデータ提供者に分類される。ローン申込者５４は、ステークホルダの種類として利用者に分類される。
【0067】
ＡＩシステム４０におけるコンポーネントは、訓練部４１におけるローン審査モデル訓練部４１ａと予測部４２におけるローン審査推論部４２ａである。ＡＩシステム４０においてステークホルダから受け取るデータは、種別が訓練データ５５となる場合と、種別が推論データ５７となる場合がある。またＡＩシステム４０のコンポーネント間で受け渡されるデータとしてローン審査モデル５６がある。またＡＩシステム４０のコンポーネントからステークホルダに渡されるデータとして、例えば審査結果５８がある。
【0068】
訓練部４１のローン審査モデル訓練部４１ａは、訓練データ５５を用いた機械学習によって、ローン審査モデル５６の訓練を実行する。訓練データ５５は、例えば信用調査機関５３から所得した信用スコアや、銀行５２から取得した取引データに基づいて生成される。
【0069】
予測部４２のローン審査推論部４２ａは、学習済みのローン審査モデル５６を用いて推論データ５７に対する推論を行うことによって、審査結果５８を出力する。推論データ５７は、例えば信用調査機関５３から取得した信用スコア、銀行５２から取得した取引データ、ローン申込者５４から取得した申込者情報に基づいて生成される。
【0070】
図６においてインタラクションを示す矢印の横の「Ｓｘｘｘ」は、インタラクションＩＤを示す。ローン申込者５４から申込者情報を推論データ５７に提供するインタラクションのインタラクションＩＤは、Ｓ１０１である。銀行５２が申込者情報を推論データ５７から受け取るインタラクションのインタラクションＩＤはＳ１０２である。信用調査機関５３が申込者情報を推論データ５７から受け取るインタラクションＩＤは、Ｓ１０３である。
【0071】
銀行５２が推論データ５７に取引データを提供するインタラクションのインタラクションＩＤは、Ｓ１０４である。信用調査機関５３が推論データ５７に信用スコアを提供するインタラクションのインタラクションＩＤは、Ｓ１０５である。推論データ５７からローン審査推論部４２ａへ推論データを提供するインタラクションのインタラクションＩＤは、Ｓ１０６である。ローン審査推論部４２ａから審査結果５８へローン審査モデルの出力データを提供するインタラクションＩＤのインタラクションＩＤは、Ｓ１０７である。
【0072】
訓練データ５５からローン審査モデル訓練部４１ａへ訓練用の入力データと教師データを提供するインタラクションのインタラクションＩＤは、Ｓ１０８である。ローン審査モデル訓練部４１ａからローン審査モデル５６へ訓練済みのモデルを示すデータ（例えばニューラルネットワークの重みパラメータの値）を提供するインタラクションのインタラクションＩＤは、Ｓ１０９である。
【0073】
銀行から訓練データ５５に取引データを提供するインタラクションのインタラクションＩＤは、Ｓ１１１である。信用調査機関５３から訓練データ５５に信用スコアを提供するインタラクションのインタラクションＩＤは、Ｓ１１２である。ＡＩサービスベンダ５１からローン審査モデル訓練部４１ａに訓練アルゴリズムに関するパラメータなどのデータを提供するインタラクションのインタラクションＩＤは、Ｓ１１３である。ローン審査推論部４２ａがローン審査モデル５６を受け取るインタラクションのインタラクションＩＤは、Ｓ１１４である。ＡＩサービスベンダ５１からローン審査推論部４２ａに推論アルゴリズムに関するパラメータなどのデータを提供するインタラクションのインタラクションＩＤは、Ｓ１１９である。
【0074】
なお図６に示す各ステークホルダによりＡＩシステム４０へのデータの提供、またはＡＩシステムのデータの利用は、端末またはサーバなどのコンピュータを用いて行われる。また図６に示す各ステークホルダはＡＩシステムに直接関わっているが、ＡＩシステムに直接関わらず、例えば他のステークホルダを介してＡＩシステムに関わるステークホルダも存在し得る。
【0075】
図７は、ＡＩ倫理チェックリストの一例を示す図である。ＡＩ倫理チェックリスト１１２には、ＡＩ倫理チェック項目ごとのレコードが登録されている。各レコードには、インタラクションの特徴、リスクの種類、ＡＩ倫理特性、概要、リスク例などのフィールドが含まれる。
【0076】
インタラクションの特徴のフィールドには、リスクが発生するインタラクションの特徴が設定される。例えば始点の種類と終点の種類との組合わせで、インタラクションの特徴が示される。始点の種類と終点の種類には、ステークホルダの種類、システムコンポーネントの種類、またはデータの種類が設定される。
【0077】
リスクの種類のフィールドには、対応する特徴のインタラクションで発生するリスクの種類が設定される。リスクの種類には、例えば事象と要因とがある。事象は、対応する特徴のインタラクションによって、リスクとなる事象が発現することを示す。要因は、対応する特徴のインタラクションが、リスクの発生要因となる可能性があることを示す。
【0078】
ＡＩ倫理特性のフィールドには、リスクとなる可能性がある倫理的な観念を示している。ＡＩ倫理特性は、複数の観点から分類されている。例えば「分類１」は、「プライバシーとデータガバナンス」、「技術的な頑健性と安全性」、「多様性，無差別，公平性」などに分類されている。「分類２」は、「プライバシーとデータ保護の尊重」、「攻撃への頑健性とセキュリティ」、「不公平な偏見の排除」などに分類されている。「分類３」は、「プライバシーやデータ保護問題の発生防止／影響軽減の対応の十分性」、「ＡＩシステムの動作頑健性」、「ＡＩモデルの妥当性」、「最終判断の妥当性」などに分類されている。「分類４」は、「データ取得方法の適切性」、「異常系テストの十分性」、「推論結果の独立性」、「集団公平性」などに分類されている。
【0079】
概要のフィールドには、対応する特徴のインタラクションで発生するリスクの概要が設定される。例えばＡＩ倫理チェックリスト１１２の１つ目のＡＩ倫理チェック項目の概要には「他者／他社から取得したデータを利用する場合に、そのデータの取得が適切に行われていること。例えば適切な手順を踏み、関係者に事前に許可を得ていること」と設定される。２つ目のＡＩ倫理チェック項目の概要には「予期しない状況や環境でＡＩシステムが利用された場合、あるいは予測に使われる推論データがソフトウェア仕様で規定されている値域外の値が入力された場合のＡＩシステムの動作を確認していること」と設定される。３つ目のＡＩ倫理チェック項目の概要には「ＡＩモデルからの出力である推論結果の正解／不正解の割合が保護グループ間で一致していること」と設定される。４つ目のＡＩ倫理チェック項目の概要には「「保護属性」によるグループ間で、ＡＩによる推論結果の差が許容範囲内であること」と設定される。
【0080】
リスク例のフィールドには、対応する特徴のインタラクションで発生する具体的なリスクの例が設定される。例えばＡＩ倫理チェックリスト１１２の１つ目のＡＩ倫理チェック項目のリスク例には「人が写る可能性がある画像について、事前に許可を得ていない」と設定される。また２つ目のＡＩ倫理チェック項目のリスク例には「推論データに、仕様で規定された範囲外の値が入力された場合のＡＩモデルの動作が確認されていない」と設定される。３つ目のＡＩ倫理チェック項目のリスク例には「ビデオ面接の採用判定ＡＩにおいて、求職者の評価モデルの推論結果が、障碍者にとって不利になる可能性がある」と設定される。４つ目のＡＩ倫理チェック項目のリスク例には「ローン審査ＡＩにおいて、ＡＩモデルが女性や黒人の審査が通りにくい判定をする」と設定される。
【0081】
重要インタラクション抽出ルール１１１に基づいて重要であると判定されたインタラクションの特徴がＡＩ倫理チェックリスト１１２のいずれかのＡＩ倫理チェック項目におけるインタラクションの特徴と合致すると、該当するＡＩ倫理チェック項目が抽出される。
【0082】
なおＡＩシステム４０の運用時に生じるインタラクションは、インタラクション集合１１４に示されている。
図８は、インタラクション集合の一例を示す図である。インタラクション集合１１４には、インタラクションごとのレコードが登録されている。各レコードには、インタラクションＩＤ、ステークホルダ、システムコンポーネント、およびデータの種類のフィールドが設けられている。
図８は、インタラクション集合の一例を示す図である。インタラクション集合１１４には、インタラクションごとのレコードが登録されている。各レコードには、インタラクションＩＤ、ステークホルダ、システムコンポーネント、およびデータの種類のフィールドが設けられている。
【0083】
インタラクションＩＤのフィールドには、対応するインタラクションの識別子（インタラクションＩＤ）が設定される。
ステークホルダのフィールドには、ステークホルダが関係するインタラクションの場合における、そのステークホルダに関する情報が設定される。ステークホルダの情報としては、種類、名称、役割、始点・終点がある。種類は、ステークホルダの属性である。例えばステークホルダの種類としては、利用者、ＡＩシステム提供者、データ提供者などがある。名称は、ステークホルダの一般名称である。例えばステークホルダの名称としては、ローン申込者、銀行、信用調査機関などがある。役割は、インタラクションにおけるステークホルダの役割を示す情報である。例えばステークホルダの役割としては、申込者情報提供、申込者情報受取、取引データ提供、信用スコア提供などがある。始点・終点は、ステークホルダがインタラクションの始点（インタラクションにおいてデータを与える側）に該当するのか、終点（インタラクションにおいてデータを受け取る側）に該当するのかを示す情報である。
ステークホルダのフィールドには、ステークホルダが関係するインタラクションの場合における、そのステークホルダに関する情報が設定される。ステークホルダの情報としては、種類、名称、役割、始点・終点がある。種類は、ステークホルダの属性である。例えばステークホルダの種類としては、利用者、ＡＩシステム提供者、データ提供者などがある。名称は、ステークホルダの一般名称である。例えばステークホルダの名称としては、ローン申込者、銀行、信用調査機関などがある。役割は、インタラクションにおけるステークホルダの役割を示す情報である。例えばステークホルダの役割としては、申込者情報提供、申込者情報受取、取引データ提供、信用スコア提供などがある。始点・終点は、ステークホルダがインタラクションの始点（インタラクションにおいてデータを与える側）に該当するのか、終点（インタラクションにおいてデータを受け取る側）に該当するのかを示す情報である。
【0084】
システムコンポーネントのフィールドには、システムコンポーネントの処理に対応するインタラクションの場合におけるそのシステムコンポーネントに関する情報が設定される。システムコンポーネントの情報としては、種類、名称、始点・終点がある。種類は、システムコンポーネントの属性である。例えばシステムコンポーネントの種類としては、ＡＩモデルなどがある。名称は、システムコンポーネントの一般名称である。例えばシステムコンポーネントの名称としては、ローン審査推論などがある。始点・終点は、システムコンポーネントがインタラクションの始点に該当するのか、終点に該当するのかを示す情報である。
【0085】
データの種類のフィールドには、データを対象とする処理に対応するインタラクションの場合におけるそのデータの種類に関する情報が設定される。データの種類の情報としては、種類、名称、始点・終点がある。種類は、作業または処理の対象となるデータの種類である。例えばデータの種類としては、推論データなどがある。名称は、インタラクションの対象となるデータの名称である。例えばデータの名称としては、申込者情報、申込者の取引データ、申込者の信用スコア、審査データなどがある。インタラクションの対象となるデータとして名称の異なる複数のデータが含まれる場合、それらのデータの名称が、データの種類のフィールドにおける名称として設定される。始点・終点は、データの種類がインタラクションの始点に該当するのか、終点に該当するのかを示す情報である。
【0086】
なおインタラクション集合１１４の各レコードには、対応するインタラクションに対して直接関わらないが間接的に関わるステークホルダの情報（例えばそのステークホルダの数）を設定するフィールドを追加してもよい。
【0087】
重要チェック項目抽出部１３０は、開発したＡＩシステム４０に対応するインタラクション集合１１４に基づいて、開発したＡＩシステム４０に関する倫理的なリスクに関する重要なチェック項目を抽出することができる。
【0088】
図９は、重要チェック項目の抽出処理の一例を示す図である。例えばグラフ生成部１３１は、インタラクション集合１１４に基づいて、開発したＡＩシステム４０のグラフ構造データ１１５を生成する。特徴抽出部１３２は、重要インタラクション抽出ルール１１１に基づいて、グラフ構造データ１１５に示される各インタラクションの優先度を計算し、優先度の高い方から所定数のインタラクションを抽出する。チェック項目抽出部１３３は、ＡＩ倫理チェックリスト１１２を参照し、抽出されたインタラクションが有する特徴に対応するＡＩ倫理チェック項目を、そのインタラクションに対応付けて抽出する。そしてチェック項目抽出部１３３は、抽出したＡＩ倫理チェック項目を含む重要ＡＩ倫理チェックリスト１１６を出力する。
【0089】
このように重要チェック項目抽出処理の結果として重要ＡＩ倫理チェックリスト１１６が生成される。また重要チェック項目抽出処理の過程で、グラフ構造データ１１５が生成される。生成されたグラフ構造データ１１５と重要ＡＩ倫理チェックリスト１１６とは、関連リスク分析部１５０による関連リスクの分析に利用される。
【0090】
図１０は、グラフ構造データで示されるインタラクションのグラフ構造の一例を示す図である。インタラクションのグラフ構造６０では、インタラクションの始点または終点となるステークホルダ、システムコンポーネント、またはデータが、ノード６１～７０で表されている。そしてインタラクションの始点となる要素に対応するノードと終点となる要素に対応するノードとが、インタラクションを表すエッジ（矢印）で接続されている。エッジは、始点から終点の方向を指している。インタラクションに対応するエッジの横には、そのインタラクションのインタラクションＩＤが示されている。
【0091】
なお重要ＡＩ倫理チェックリスト１１６は、関連リスクの分析に利用する前に、リスク設定部１４０により、分析者が判断したリスクが設定される。
図１１は、重要ＡＩ倫理チェックリストの一例を示す図である。重要ＡＩ倫理チェックリスト１１６には、重要であると判断されたＡＩ倫理チェック項目に対応するレコードが登録されている。各レコードには、インタラクションＩＤ、インタラクションの特徴、リスクの種類、ＡＩ倫理特性、概要、リスク例、およびリスクのフィールドが設けられている。
図１１は、重要ＡＩ倫理チェックリストの一例を示す図である。重要ＡＩ倫理チェックリスト１１６には、重要であると判断されたＡＩ倫理チェック項目に対応するレコードが登録されている。各レコードには、インタラクションＩＤ、インタラクションの特徴、リスクの種類、ＡＩ倫理特性、概要、リスク例、およびリスクのフィールドが設けられている。
【0092】
インタラクションＩＤのフィールドには、グラフ構造データ１１５に示されるインタラクションのうち、重要インタラクション抽出ルール１１１に基づいて重要と判断されたインタラクションのインタラクションＩＤが設定される。インタラクションの特徴、リスクの種類、ＡＩ倫理特性、概要、およびリスク例のフィールドには、インタラクションＩＤで示されるインタラクションの特徴に対応付けてＡＩ倫理チェックリスト１１２に設定されているＡＩ倫理チェック項目の情報が設定される。リスクのフィールドには、インタラクションＩＤで示されるインタラクションのＡＩ倫理チェック項目について発生する具体的なリスクが設定される。
【0093】
例えば分析者は、リスク設定部１４０を用いて、重要と判定されたＡＩ倫理チェック項目について、ＡＩシステム４０において発生する可能性のある具体的なリスクを入力する。リスク設定部１４０は、分析者からの入力に基づいて、重要ＡＩ倫理チェックリスト１１６の各レコードにリスクを設定する。図１１の例では、重要ＡＩ倫理チェックリスト１１６の各ＡＩ倫理チェック項目のリスクフィールドには、以下のようなリスクが設定されている。
【0094】
１つ目のＡＩ倫理チェック項目のリスクのフィールドには、「ＡＩサービスプロバイダが、ＡＩシステムで扱うデータに対し、ハッキングや不正なデータアクセスにより更新されていないことを確認していない」と設定されている。２つ目のＡＩ倫理チェック項目のリスクのフィールドには、「推論データに、仕様で規定された範囲外の値が入力された場合のＡＩモデルの動作が確認されていない」と設定されている。３つ目のＡＩ倫理チェック項目のリスクのフィールドには、「ローン審査ＡＩが融資可と判定する比率が、保護グループ間で異なり、その差が許容できない大きさである」と設定されている。４つ目のＡＩ倫理チェック項目のリスクのフィールドには、「ＡＩモデルが、女性や黒人の審査が通りにくい判定をする」と設定されている。
【0095】
コンピュータ１００は、重要ＡＩ倫理チェックリスト１１６に基づいて、リスクに対する対策の検討を要するＡＩ倫理チェック項目を示す分析図を生成し、生成した分析図を表示することができる。ただし重要ＡＩ倫理チェックリスト１１６に含まれるＡＩ倫理チェック項目は、数十程度となる場合があり、互いの関連性は明確でない。また、重要ＡＩ倫理チェックリスト１１６に示されるのは倫理的な観点を詳細化したＡＩ倫理チェック項目であるために、同じ観点から詳細化された項目が類似した内容になる傾向がある。
【0096】
そのため、重要ＡＩ倫理チェックリスト１１６に含まれるＡＩ倫理チェック項目に示されるリスク間の関連付けを考慮せずにすべてのＡＩ倫理チェック項目を含む分析図は、個々のリスクを示すにとどまる。このようなすべてのＡＩ倫理チェック項目を含む分析図を表示した場合、検討対象のリスクをすべて含む分析図に基づいてリスクの対策を検討する分析者は、似たようなリスクを何度も検討することになり、時間的および心理的な負担が大きい。
【0097】
図１２は、すべてのリスクを含む分析図の一例を示す図である。分析図９０では、ＡＩシステム４０における重要なインタラクションそれぞれに対して、そのインタラクションに関連するＡＩ倫理チェック項目が対応付けられている。また、各ＡＩ倫理チェック項目には、そのＡＩ倫理チェック項目に関して、ＡＩシステム４０で生じる具体的なリスクが示されている。分析図９０では、各リスクは、種別ごとに異なる表示態様となっている。種別が要因のリスクは、破線の枠で囲まれている。種別が事象のリスクは、一点鎖線の枠で囲まれている。
【0098】
分析図９０では、インタラクションＩＤ「Ｓ１１１」のインタラクションに対してＡＩ倫理チェック項目「データ属性の十分性」および「ラベルの妥当性」が対応付けられている。インタラクションＩＤ「Ｓ１１２」のインタラクションに対してＡＩ倫理チェック項目「データ属性の十分性」が対応付けられている。インタラクションＩＤ「Ｓ１１３」のインタラクションに対してＡＩ倫理チェック項目「推論結果の独立性」および「機械学習・統計解析の適切性」が対応付けられている。インタラクションＩＤ「Ｓ１１９」のインタラクションに対してＡＩ倫理チェック項目「推論結果の制御性」が対応付けられている。インタラクションＩＤ「Ｓ１１０」のインタラクションに対してＡＩ倫理チェック項目「集団公平性」および「推論結果の制御性」が対応付けられている。
【0099】
分析図９０に含まれているＡＩ倫理チェック項目は８個であるが、多くの場合、少なくとも数十個のＡＩ倫理チェック項目が含まれる。そのため、検討対象のすべてのＡＩ倫理チェック項目を含む分析図９０をそのまま表示すると、分析者は、リスク間の関連性の把握が困難となる。
【0100】
例えばインタラクションＩＤ「Ｓ１１１」に対応付けられているＡＩ倫理チェック項目「ラベルの妥当性」とインタラクションＩＤ「Ｓ１１２」に対応付けられているＡＩ倫理チェック項目「データ属性の十分性」とは、内容が類似している。検討対象のすべてのＡＩ倫理チェック項目を含む分析図９０では、内容の類似するＡＩ倫理チェック項目が複数存在しても、分析者は、そのような類似性のある複数のＡＩ倫理チェック項目の存在を見落とす可能性が高い。そのため分析者は、内容の類似する複数のＡＩ倫理チェック項目を、個別に検討することとなり、作業負担の増大を招く。
【0101】
また分析図９０では、リスクを、リスク要因とリスク事象とに区別可能となっている。しかし、どのリスク要因がどのリスク事象に対する要因なのかという関連性が、分析図９０からは把握できない。そのため分析図９０では、分析者は、リスクの事象とその事象に関連する要因とをまとめて検討することが困難であり、検討作業に時間がかかってしまう。
【0102】
なお分析者が手作業で関連性の高いリスクをグルーピングすることも可能であるが、このグルーピング作業は分析者のスキルに依存する。そのため分析者の手作業でのグルーピングでは、グルーピングの精度が不十分な場合が発生し、作業時間の短縮効果が得られない可能性がある。
【0103】
そこで関連リスク分析部１５０は、グラフ構造データ１１５と重要ＡＩ倫理チェックリスト１１６とに基づいて、リスクのグルーピングを行う。例えば関連リスク分析部１５０は、グラフ構造におけるインタラクションの関係を辿ったパスごとのグルーピングを行う。パスは、グラフ構造６０上のエッジの向きに従って、始点のノードから終点のノードに到達可能なエッジに対応するインタラクションの集合である。生成するパスは、パス情報として分析者によって指定される。パス情報では、パスに関する制約条件として、経由するノードを複数指定することもできる。
【0104】
また関連リスク分析部１５０は、リスクの倫理的な観点でのグルーピングを行うこともできる。
例えば関連リスク分析部１５０は、分析者からグラフ構造上のパスの指定を受け付ける。そして関連リスク分析部１５０は、指定されたパス上のインタラクションに対応するリスクがある場合、それらのリスクを同じグループにグルーピングする。また関連リスク分析部１５０は、指定されたパスに基づいて生成したグループ内のリスクを、倫理的な観点での共通性で、さらに細かなグルーピングをする。そして関連リスク分析部１５０は、指定されたパスと倫理的な観点の共通性とによるグルーピングで生成されたリスクのグループごとに分析図を生成する。
例えば関連リスク分析部１５０は、分析者からグラフ構造上のパスの指定を受け付ける。そして関連リスク分析部１５０は、指定されたパス上のインタラクションに対応するリスクがある場合、それらのリスクを同じグループにグルーピングする。また関連リスク分析部１５０は、指定されたパスに基づいて生成したグループ内のリスクを、倫理的な観点での共通性で、さらに細かなグルーピングをする。そして関連リスク分析部１５０は、指定されたパスと倫理的な観点の共通性とによるグルーピングで生成されたリスクのグループごとに分析図を生成する。
【0105】
分析図表示部１６０は、グループごとの分析図を含む分析図群１１７から、分析者から指定された倫理的な観点に対応する分析図を選択し、モニタ２１に表示させる。このようにして、ＡＩシステム４０の運用により生じるリスクが、分析者からの指定に応じて分類して可視化される。
【0106】
図１３は、関連リスクの可視化処理の一例を示す図である。例えば関連リスク分析部１５０は、分析者７１からパス情報７２の入力を受け付ける。パス情報７２には、例えば１または複数のインタラクションを含むパスの、グラフ構造における始点ノード、終点ノードを示す情報が含まれる。また、パス情報７２に、経由ノードを含めてもよい。
【0107】
関連リスク分析部１５０のパス抽出部１５１は、グラフ構造データ１１５に基づいて、パス情報７２で指定されたパスを抽出する。リスク抽出部１５２は、重要ＡＩ倫理チェックリスト１１６から、抽出されたパスに含まれるインタラクションに対応するＡＩ倫理チェック項目を抽出する。さらにリスク抽出部１５２は、所定の分類区分（ＡＩ倫理チェックリスト１１２の分類１、分類２、・・・）におけるＡＩ倫理特性ごとの分析図１１７ａ，１１７ｂ，・・・を生成する。リスク抽出部１５２は、生成した分析図１１７ａ，１１７ｂ，・・・を、分析図群１１７として記憶部１１０に格納する。
【0108】
分析図表示部１６０は、分析者７１から倫理観点情報７３の入力を受け付ける。倫理観点情報７３には、例えば所定の分類区分におけるＡＩ倫理特性を指定する情報が含まれる。
【0109】
分析図表示部１６０は、分析図群１１７に含まれる分析図１１７ａ，１１７ｂ，・・・のなかから、倫理観点情報７３に示されるＡＩ倫理特性に対応する分析図を取得し、取得した分析図をモニタ２１に表示させる。
【0110】
次に関連リスク分析処理の手順について詳細に説明する。
図１４は、関連リスク分析処理の手順の一例を示すフローチャートである。以下、フローチャートに示す処理をステップ番号に沿って説明する。
図１４は、関連リスク分析処理の手順の一例を示すフローチャートである。以下、フローチャートに示す処理をステップ番号に沿って説明する。
【0111】
［ステップＳ１１］パス抽出部１５１は、パス情報７２に示される始点と終点とに基づいて、グラフ構造データ１１５に示されるグラフ構造の始点から終点に至るパス上のインタラクションを示すインタラクション集合を取得する。始点から終点に至る経路が複数ある場合、複数のインタラクション集合が取得される。
【0112】
なおパス抽出部１５１は、例えば始点ノード、終点ノードに基づいて、グラフ構造６０上で始点のノードからエッジの矢印の方向に経路を探索することで、パス情報７２に示される条件を満たすパスを特定する。またパス抽出部１５１に対して、始点のノードと終点のノードとの組ごとに、始点から終点までのエッジの順序を示す情報を予め設定しておくこともできる。
【0113】
［ステップＳ１２］パス抽出部１５１は、パス情報７２に経由ノードの指定があるか否かを判断する。パス抽出部１５１は、経由ノードの指定がある場合、処理をステップＳ１４に進める。またパス抽出部１５１は、経由ノードの指定がなければ、処理をステップＳ１３に進める。
【0114】
［ステップＳ１３］パス抽出部１５１は、取得したインタラクション集合ごとに、そのインタラクション集合に含まれるインタラクションを繋げることで生成されるパスを抽出する。その後、パス抽出部１５１は、処理をステップＳ１８に進める。
【0115】
［ステップＳ１４］パス抽出部１５１は、取得したインタラクション集合のうち、未選択のインタラクション集合を１つ選択する。
［ステップＳ１５］パス抽出部１５１は、選択したインタラクション集合に含まれるインタラクションを繋げることで生成されるパスに、指定された経由ノードが含まれるか否かを判断する。パス抽出部１５１は、経由ノードが含まれる場合、処理をステップＳ１６に進める。またパス抽出部１５１は、経由ノードが含まれなければ、処理をステップＳ１７に進める。
［ステップＳ１５］パス抽出部１５１は、選択したインタラクション集合に含まれるインタラクションを繋げることで生成されるパスに、指定された経由ノードが含まれるか否かを判断する。パス抽出部１５１は、経由ノードが含まれる場合、処理をステップＳ１６に進める。またパス抽出部１５１は、経由ノードが含まれなければ、処理をステップＳ１７に進める。
【0116】
［ステップＳ１６］パス抽出部１５１は、選択したインタラクション集合に含まれるインタラクションを繋げることで生成されるパスを抽出する。
［ステップＳ１７］パス抽出部１５１は、未選択のインタラクション集合があるか否かを判断する。パス抽出部１５１は、未選択のインタラクション集合があれば、処理をステップＳ１４に進める。またパス抽出部１５１は、抽出したすべてのインタラクション集合が選択済みの場合、処理をステップＳ１８に進める。
［ステップＳ１７］パス抽出部１５１は、未選択のインタラクション集合があるか否かを判断する。パス抽出部１５１は、未選択のインタラクション集合があれば、処理をステップＳ１４に進める。またパス抽出部１５１は、抽出したすべてのインタラクション集合が選択済みの場合、処理をステップＳ１８に進める。
【0117】
［ステップＳ１８］リスク抽出部１５２は、パス抽出部１５１が抽出したパスに含まれるインタラクションに関連するリスクを、重要ＡＩ倫理チェックリスト１１６から取得する。
【0118】
［ステップＳ１９］リスク抽出部１５２は、取得したリスクを、所定の分類区分（ＡＩ倫理チェックリスト１１２に示す分類１、分類２、・・・）で示されるＡＩ倫理特性で分類する。例えばリスク抽出部１５２は、ＡＩ倫理特性の４つの分類基準のうちの１つでリスクを分類する。
【0119】
［ステップＳ２０］リスク抽出部１５２は、ＡＩ倫理特性ごとに分類されたグループごとに、そのグループに含まれるリスクを示す分析図を生成する。
このようにして、分析者７１が指定したパス情報７２に応じたパスに関連するＡＩ倫理チェック項目に基づいて、ＡＩ倫理特性ごとの分析図が生成される。分析者７１が任意のＡＩ倫理特性を選択すると、選択されたＡＩ倫理特性に対応する分析図が表示される。
このようにして、分析者７１が指定したパス情報７２に応じたパスに関連するＡＩ倫理チェック項目に基づいて、ＡＩ倫理特性ごとの分析図が生成される。分析者７１が任意のＡＩ倫理特性を選択すると、選択されたＡＩ倫理特性に対応する分析図が表示される。
【0120】
図１５は、パス情報に応じて抽出されたパスの第１の例を示す図である。図１５には、パス情報７２においてステークホルダ「銀行」が始点として指定され、ステークホルダ「ローン申込者」が終点として指定された場合に、グラフ構造６０から抽出されるパス８１を示している。図１５の例では、経由ノードとして、データ「訓練用データ」のノード６２またはシステムコンポーネント「ローン審査モデル訓練部」のノード６３が指定されている。
【0121】
この場合、「銀行」のノード６１から「ローン申込者」のノード７０に至るパス８１が抽出される。このパス８１は、「訓練用データ」のノード６２、「ローン審査モデル訓練部」のノード６３、「ローン審査モデル」のノード６７、「ローン審査推論部」のノード６８、および「審査結果」のノード６９を経由している。パス８１が抽出されると、パス８１上のインタラクションに対応づくリスクが抽出され、抽出されたリスクがＡＩ倫理特性に応じて分析図が生成される。
【0122】
分析者７１がＡＩ倫理特性を選択すると、選択したＡＩ倫理特性に対応する分析図が表示される。
図１６は、表示される分析図の第１の例を示す図である。図１６には、ＡＩ倫理特性として「公平性観点」が選択された場合の分析図９１が示されている。分析図９１では、パス情報７２に応じて抽出されたパス８１に含まれるインタラクションが、太線のエッジで示されている。そしてパス８１に含まれるインタラクションに対応するＡＩ倫理チェック項目のうち、公平性の観点でのＡＩ倫理チェック項目９１ａ～９１ｃが、互いに関連するリスクとして表示されている。各ＡＩ倫理チェック項目９１ａ～９１ｃには、リスクの内容と、対応するインタラクションのインタラクションＩＤが示されている。
図１６は、表示される分析図の第１の例を示す図である。図１６には、ＡＩ倫理特性として「公平性観点」が選択された場合の分析図９１が示されている。分析図９１では、パス情報７２に応じて抽出されたパス８１に含まれるインタラクションが、太線のエッジで示されている。そしてパス８１に含まれるインタラクションに対応するＡＩ倫理チェック項目のうち、公平性の観点でのＡＩ倫理チェック項目９１ａ～９１ｃが、互いに関連するリスクとして表示されている。各ＡＩ倫理チェック項目９１ａ～９１ｃには、リスクの内容と、対応するインタラクションのインタラクションＩＤが示されている。
【0123】
分析者７１は、分析図９１を参照することで、例えば銀行５２から提供される取引データに基づくローン審査モデル５６の生成、およびローン審査モデル５６を用いた審査の過程に発生する公平性の観点でのリスクを漏らさず把握できる。また分析者７１は、分析図９１に基づいて、リスク事象に関連するリスク要因を容易に判断することができる。その結果、分析者７１は、これらのリスクについての統一した適切な対策を立案することが容易となる。
【0124】
図１７は、パス情報に応じて抽出されたパスの第２の例を示す図である。図１７には、パス情報７２においてステークホルダ「ＡＩサービスベンダ」が始点として指定され、ステークホルダ「ローン申込者」が終点として指定された場合に、グラフ構造６０から抽出されるパス８２を示している。図１７の例では、経由ノードとして、システムコンポーネント「ローン審査モデル訓練部」のノード６３が指定されている。
【0125】
この場合、「ＡＩサービスベンダ」のノード６４から「ローン申込者」のノード７０に至るパス８２が抽出される。パス８２は、「ローン審査モデル訓練部」のノード６３、「ローン審査モデル」のノード６７、「ローン審査推論部」のノード６８、および「審査結果」のノード６９を経由している。パス８２が抽出されると、パス８２上のインタラクションに対応づくリスクが抽出され、抽出されたリスクがＡＩ倫理特性に応じて分析図が生成される。
【0126】
そして分析者７１がＡＩ倫理特性を選択すると、選択したＡＩ倫理特性に対応する分析図が表示される。
図１８は、表示される分析図の第２の例を示す図である。図１８には、ＡＩ倫理特性として「公平性観点」が選択された場合の分析図９２が示されている。分析図９２では、パス情報７２に応じて抽出されたパス８２に含まれるインタラクションに対応するＡＩ倫理チェック項目のうち、公平性観点でのＡＩ倫理チェック項目９２ａ～９２ｃが、互いに関連するリスクとして表示されている。
図１８は、表示される分析図の第２の例を示す図である。図１８には、ＡＩ倫理特性として「公平性観点」が選択された場合の分析図９２が示されている。分析図９２では、パス情報７２に応じて抽出されたパス８２に含まれるインタラクションに対応するＡＩ倫理チェック項目のうち、公平性観点でのＡＩ倫理チェック項目９２ａ～９２ｃが、互いに関連するリスクとして表示されている。
【0127】
分析者７１は、分析図９２を参照することで、例えばＡＩサービスベンダ５１から提供される各種パラメータなどに基づくローン審査モデル５６の生成、およびローン審査モデル５６を用いた審査の過程に発生する公平性の観点でのリスクを漏らさず把握できる。その結果、分析者７１は、これらのリスクについての統一した適切な対策を立案することが容易となる。
【0128】
図１９は、パス情報に応じて抽出されたパスの第３の例を示す図である。図１９には、パス情報７２においてステークホルダ「ＡＩサービスベンダ」が始点として指定され、ステークホルダ「ローン申込者」が終点として指定された場合に、グラフ構造６０から抽出されるパス８３を示している。図１９の例では、経由ノードとして、「ローン審査推論部」のノード６８と「審査結果」のノード６９とが指定されている。
【0129】
この場合、「ＡＩサービスベンダ」のノード６４から、「ローン審査推論部」のノード６８、および「審査結果」のノード６９を経由して「ローン申込者」のノード７０に至るパス８３が抽出される。この場合、パス８３上のインタラクションに対応づくリスクが抽出され、抽出されたリスクがＡＩ倫理特性に応じて分析図が生成される。
【0130】
そして分析者７１がＡＩ倫理特性を選択すると、選択したＡＩ倫理特性に対応する分析図が表示される。
図２０は、表示される分析図の第３の例を示す図である。図２０には、ＡＩ倫理特性として「人間の自律とＡＩの監視」が選択された場合の分析図９３が示されている。分析図９３では、パス情報７２に応じて抽出されたパス８３に含まれるインタラクションに対応するＡＩ倫理チェック項目のうち、「人間の自律とＡＩの監視」の観点でのＡＩ倫理チェック項目９３ａ～９３ｂが、互いに関連するリスクとして表示されている。
図２０は、表示される分析図の第３の例を示す図である。図２０には、ＡＩ倫理特性として「人間の自律とＡＩの監視」が選択された場合の分析図９３が示されている。分析図９３では、パス情報７２に応じて抽出されたパス８３に含まれるインタラクションに対応するＡＩ倫理チェック項目のうち、「人間の自律とＡＩの監視」の観点でのＡＩ倫理チェック項目９３ａ～９３ｂが、互いに関連するリスクとして表示されている。
【0131】
分析者７１は、分析図９３を参照することで、例えばＡＩサービスベンダ５１から提供される各種パラメータなどに基づくローン審査モデル５６を用いた審査の過程に発生する公平性の観点でのリスクを漏らさず把握できる。その結果、分析者７１は、これらのリスクについての統一した適切な対策を立案することが容易となる。
【0132】
以上説明したように、コンピュータ１００はＡＩシステム４０を利用するストーリをパスで表現している。コンピュータ１００は、いくつかあるストーリのうち、特定のパスに関連するリスクに絞り込んで提示することで、リスクがなぜ発生するかを理解しやすく表示できる。しかも特定のパスに関連したリスクのみが提示がされるため、リスクが発生する経緯も理解しやすい。分析図中に表示されるリスク数が少ないため、関連するリスクの見落としが抑止される。またコンピュータ１００は、特定の倫理観点に関連するリスクに限定して表示することができ、表示されるリスクの視点が統一される。そのため分析者は、類似する倫理観点に関する複数のリスクに対する統一した対策の検討が容易となる。
【0133】
〔その他の実施の形態〕
第２の実施の形態では、コンピュータ１００は、分析者７１の入力に基づいてパスの両端のステークホルダを選択し、パスを探索しているが、パス情報７２の入力なしで、すべてのステークホルダの組合わせごとの分析図を生成してもよい。その場合、分析図を生成後、分析者７１は、コンピュータ１００に、ステークホルダの組合わせを示すパス情報７２を入力する。コンピュータ１００は、入力されたパス情報で指定されたステークホルダの組合わせに応じたパスに対応する分析図を表示する。
第２の実施の形態では、コンピュータ１００は、分析者７１の入力に基づいてパスの両端のステークホルダを選択し、パスを探索しているが、パス情報７２の入力なしで、すべてのステークホルダの組合わせごとの分析図を生成してもよい。その場合、分析図を生成後、分析者７１は、コンピュータ１００に、ステークホルダの組合わせを示すパス情報７２を入力する。コンピュータ１００は、入力されたパス情報で指定されたステークホルダの組合わせに応じたパスに対応する分析図を表示する。
【0134】
またコンピュータ１００は、ステークホルダ間を結ぶすべてのパスのうち、ノードとエッジの特徴に基づいて、優先的にリスクの検討を行うべきパスを決定することもできる。
パスの優先度の判定に用いるグラフ構造の特徴としては、例えばノード、エッジ、エッジの向きなどに関する特徴がある。ノードの特徴としては、ノードの種類（ステークホルダ、コンポーネント、データ）、入力エッジの数、出力エッジの数などの情報を用いることができる。エッジの特徴としては、始点ノードの特徴、終点ノードの特徴、関連付けられたリスクの数、リスクの文章、リスク重要度などの情報を用いることができる。
パスの優先度の判定に用いるグラフ構造の特徴としては、例えばノード、エッジ、エッジの向きなどに関する特徴がある。ノードの特徴としては、ノードの種類（ステークホルダ、コンポーネント、データ）、入力エッジの数、出力エッジの数などの情報を用いることができる。エッジの特徴としては、始点ノードの特徴、終点ノードの特徴、関連付けられたリスクの数、リスクの文章、リスク重要度などの情報を用いることができる。
【0135】
コンピュータ１００は、パスの優先度を、例えば機械学習モデルを用いて求めることができる。その場合、コンピュータ１００は、パスの優先度を求める機械学習モデルの生成処理を行う。例えばコンピュータ１００は、パスの優先度を決定する機械学習モデルの訓練データとして、過去の関連リスク分析結果に示される同一パスのリスクに対して、人手あるいはテキスト解析でリスクの高さなどの情報を関連付けたデータを用いることができる。またコンピュータ１００は、過去の関連リスク分析の結果として得られたすべてのパスについて、関連づいたリスクの数で優先度を決定しそれを教師ラベルとすることもできる。そしてコンピュータ１００は、パスの特徴から優先度を判定するモデルを学習する。
【0136】
コンピュータ１００は、例えばパスごとの分析図が生成された場合に、学習済みのモデルに基づいて、パスの優先度を決定し、優先度の高いパスに対応する分析図から順にモニタ２１に表示する。
【0137】
以上、実施の形態を例示したが、実施の形態で示した各部の構成は同様の機能を有する他のものに置換することができる。また、他の任意の構成物や工程が付加されてもよい。さらに、前述した実施の形態のうちの任意の２以上の構成（特徴）を組み合わせたものであってもよい。
【符号の説明】
【0138】
１ ＡＩシステム
２ａ，２ｂ 機能
３ａ，３ｂ，３ｃ，３ｄ 管理対象データ
４ａ，４ｂ，４ｃ 関係者
５ パス情報
６ 第１のパス
７ 第１のデータ受け渡し関係
８ 分析図
１０ 情報処理装置
１１ 記憶部
１１ａ 関係情報
１１ｂ チェックリスト
１２ 処理部
２ａ，２ｂ 機能
３ａ，３ｂ，３ｃ，３ｄ 管理対象データ
４ａ，４ｂ，４ｃ 関係者
５ パス情報
６ 第１のパス
７ 第１のデータ受け渡し関係
８ 分析図
１０ 情報処理装置
１１ 記憶部
１１ａ 関係情報
１１ｂ チェックリスト
１２ 処理部
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】