知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024141987
(43)【公開日】2024-10-10
(54)【発明の名称】評価プログラム，評価方法及び情報処理装置
(51)【国際特許分類】
G06N 5/02 20230101AFI20241003BHJP
G06Q 40/03 20230101ALI20241003BHJP
【ＦＩ】
G06N5/02
G06Q40/03
【審査請求】未請求
【請求項の数】7
【出願形態】ＯＬ
(21)【出願番号】P 2023053910
(22)【出願日】2023-03-29
(71)【出願人】
【識別番号】000005223
【氏名又は名称】富士通株式会社
(74)【代理人】
【識別番号】110003649
【氏名又は名称】弁理士法人真田特許事務所
(74)【代理人】
【識別番号】100189201
【弁理士】
【氏名又は名称】横田 功
(72)【発明者】
【氏名】金子 真由子
(72)【発明者】
【氏名】小野寺 佐知子
【テーマコード（参考）】
5L040
5L055
【Ｆターム（参考）】
5L040BB15
5L055BB15
(57)【要約】
【課題】ＡＩシステムの倫理リスクの対処において、事例に則した優先度の高いチェック項目の抽出を可能とする。
【解決手段】ＡＩシステムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、構成要素の限定条件に基づいて、複数のルール２０２から一以上のルールＤ２を選択し、選択した一以上のルールＤ２に基づいて、特定した複数の組の優先度を決定し、決定した優先度に基づいてＡＩシステムのＡＩ倫理リスク評価結果を出力する。
【選択図】図１１
【解決手段】ＡＩシステムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、構成要素の限定条件に基づいて、複数のルール２０２から一以上のルールＤ２を選択し、選択した一以上のルールＤ２に基づいて、特定した複数の組の優先度を決定し、決定した優先度に基づいてＡＩシステムのＡＩ倫理リスク評価結果を出力する。
【選択図】図１１
【特許請求の範囲】
【請求項1】
Artificial Intelligence（ＡＩ）システムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、
前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、
選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、
決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する、
処理をコンピュータに実行させることを特徴とする、評価プログラム。
前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、
選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、
決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する、
処理をコンピュータに実行させることを特徴とする、評価プログラム。
【請求項2】
選択した前記一以上のルールについて、複数の指標毎に、被害の深刻さに応じた加点をすることによって、前記優先度を決定する、
処理を前記コンピュータに実行させることを特徴とする、請求項１に記載の評価プログラム。
処理を前記コンピュータに実行させることを特徴とする、請求項１に記載の評価プログラム。
【請求項3】
前記複数の指標は、インシデントによって生じる身体的被害と経済的被害と精神的被害と解決までの時間との少なくともいずれかを含む、
ことを特徴とする、請求項２に記載の評価プログラム。
ことを特徴とする、請求項２に記載の評価プログラム。
【請求項4】
前記複数のルールは、複数のインシデントに基づいて作成された第１のルールと、個別のインシデントに基づいて作成された第２のルールとを含む、
ことを特徴とする、請求項１～３のいずれか一項に記載の評価プログラム。
ことを特徴とする、請求項１～３のいずれか一項に記載の評価プログラム。
【請求項5】
前記第１のルールによる被害の深刻さに応じた加点結果と、前記第２のルールによる被害の深刻さに応じた加点結果とについて、正規化を行って足し合わせた値によって、前記優先度を決定する、
処理を前記コンピュータに実行させることを特徴とする、請求項４に記載の評価プログラム。
処理を前記コンピュータに実行させることを特徴とする、請求項４に記載の評価プログラム。
【請求項6】
Artificial Intelligence（ＡＩ）システムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、
前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、
選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、
決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する、
処理をコンピュータが実行することを特徴とする、評価方法。
前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、
選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、
決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する、
処理をコンピュータが実行することを特徴とする、評価方法。
【請求項7】
Artificial Intelligence（ＡＩ）システムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、
前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、
選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、
決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する、
プロセッサを備えることを特徴とする、情報処理装置。
前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、
選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、
決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する、
プロセッサを備えることを特徴とする、情報処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、評価プログラム，評価方法及び情報処理装置に関する。
【背景技術】
【0002】
ＡＩ（Artificial Intelligence）システムにおいて、倫理的なリスクのアセスメントが行われることがある。
【0003】
さまざまな業種やタスクのＡＩシステムを利用することで、倫理上の問題が発生することがある。そのような問題が発生すると、ＡＩシステムを提供した企業や組織だけでなく、ＡＩシステムの利用者やその先にある社会に対する影響も大きい。
【0004】
そこで、ＡＩを社会実装する上で、倫理上のリスクを認識し対処できるような取り組みが行われている。
【0005】
しかし、ＡＩシステムが複数のステークホルダーを持ち、それらを取り巻く社会状況が変化することで、ＡＩシステムの利用によってどのような倫理的な問題が発生するかを検知することは容易でない場合がある。なお、ＡＩシステムのステークホルダーとは、ＡＩシステムにおける利害関係者のことであり、例えば、ＡＩシステムの提供者（設計者や開発者等を含む）、ＡＩシステムの利用者、ＡＩシステムに対するデータの提供者等を含んでよい。
【0006】
そこで、ＡＩ倫理に関する原則やガイドラインが示すチェックリストそのものが、ＡＩシステムやそのステークホルダーに当てはめられて分析されることがある。
【0007】
ＡＩ倫理に関する原則やガイドラインの例としては、「欧州High-Level Expert Group on AI (AI HLEG) “Ethics Guidelines for Trustworthy AI”」や「総務省 AI利活用ガイドライン」，「統合イノベーション戦略推進会議“人間中心のAI社会原則”」，「OECD “Recommendation of the Council on Artificial Intelligence”」が存在する。
【0008】
また、様々なＡＩサービス提供の形態の存在を踏まえつつ、ＡＩサービス提供者が自らのＡＩサービスに係るリスクコントロール検討に資するモデルとして、「リスクチェーンモデル（Risk Chain Model: RCModel）」が提案されている。
【0009】
リスクチェーンモデルでは、以下の（１）～（３）によって、リスク構成要素の整理及び構造化が行われる。
【0010】
（１）ＡＩシステムの技術的構成要素
【0011】
（２）サービス提供者の行動規範（ユーザとのコミュニケーションを含む）に係る構成要素
【0012】
（３）ユーザの理解・行動・利用環境に係る構成要素
また、リスクチェーンモデルでは、リスクシナリオの識別及びリスク要因となる構成要素の特定と、リスクチェーンの可視化及びリスクコントロールの検討が行われる。リスクチェーンの可視化及びリスクコントロールの検討では、ＡＩサービス提供者はリスクシナリオに関連する構成要素の関係性（リスクチェーン）を可視化することで、段階的なリスク低減の検討が可能になる。
また、リスクチェーンモデルでは、リスクシナリオの識別及びリスク要因となる構成要素の特定と、リスクチェーンの可視化及びリスクコントロールの検討が行われる。リスクチェーンの可視化及びリスクコントロールの検討では、ＡＩサービス提供者はリスクシナリオに関連する構成要素の関係性（リスクチェーン）を可視化することで、段階的なリスク低減の検討が可能になる。
【0013】
ＡＩシステムは日々開発されており、それに比例して様々なインシデント事例も増加している。
【0014】
そのような日々集積される過去のインシデント事例を活かすために、過去のインシデント事例を新たにルールとして用いて、チェック項目の優先度付けを行うことが想定される。
【先行技術文献】
【特許文献】
【0015】
【特許文献1】国際公開第２０２０／２４０９８１号
【特許文献2】特開２０１８－１９０１８２号公報
【特許文献3】国際公開第２０２１／１９９２０１号
【非特許文献】
【0016】
【非特許文献1】松本敬史，江間有沙，“AIサービスのリスク低減を検討するリスクチェーンモデルの提案”，2020年6月4日，インターネット＜ＵＲＬ：ifi.u-tokyo.ac.jp/wp/wp-content/uploads/2020/06/policy_recommendation_tg_20200604.pdf＞
【発明の概要】
【発明が解決しようとする課題】
【0017】
しかしながら、評価対象のＡＩシステムにおいて、コンポーネントに限定条件がつく場合に、過去のインシデント事例をベースにしたルールのうち採用しても意味のない事例が出てくるため、より優先度の高いチェック項目を抽出できないおそれがある。
【0018】
例えば、採用判定ＡＩにおいて、条件Ａ「男女ともに採用」や条件Ｂ「女性のみ採用」等が想定される。女性用健診の担当者等に「女性のみ採用」する場合には合理的な理由が存在するため、条件Ｂの性別の限定条件により、男女差別に関するチェック項目は採用しても意味がなくなる。
【0019】
また、例えば、監視カメラＡＩにおいて、条件Ｃ「すべての人を監視」や条件Ｄ「白人のみ監視」等が想定される。逃亡中の犯人が「白人」という目撃情報をもとに捜索したい場合には合理的な理由が存在するため、条件Ｄの人種の限定条件により、人種差別に関するチェック項目は採用しても意味がなくなる。
【0020】
１つの側面では、ＡＩシステムの倫理リスクの対処において、事例に則した優先度の高いチェック項目の抽出を可能とすることを目的とする。
【課題を解決するための手段】
【0021】
１つの側面では、評価プログラムは、Artificial Intelligence（ＡＩ）システムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する。
【発明の効果】
【0022】
１つの側面では、ＡＩシステムの倫理リスクの対処において、事例に則した優先度の高いチェック項目の抽出を可能とすることができる。
【図面の簡単な説明】
【0023】
【図1】関連例における出力データとしての分析図を例示するブロック図である。
【図2】関連例におけるローン審査インタラクションを例示する図である。
【図3】関連例における分析シートからのグラフ構造の生成例を示す図である。
【図4】関連例における情報処理装置のソフトウェア構成例を模式的に示すブロック図である。
【図5】関連例におけるＡＩ倫理チェックリストの生成処理を説明するフローチャートである。
【図6】過去のインシデント事例による被害を例示するテーブルである。
【図7】過去のインシデント事例によるルールを例示するテーブルである。
【図8】一般化されたルールを例示するテーブルである。
【図9】実施形態におけるコンポーネントへの限定条件の付与処理を説明する図である。
【図10】実施形態における限定条件を付与したシステム図を例示する図である。
【図12】実施形態における情報処理装置のハードウェア構成例を模式的に示すブロック図である。
【図13】実施形態における情報処理装置のソフトウェア構成例を模式的に示すブロック図である。
【図14】実施形態におけるＡＩ倫理チェックリストの生成処理の詳細を説明するフローチャートである。
【発明を実施するための形態】
【0024】
〔Ａ〕関連例
図１は、関連例における出力データとしての分析図を例示するブロック図である。
図１は、関連例における出力データとしての分析図を例示するブロック図である。
【0025】
ＡＩを取り巻く倫理リスクは、ＡＩシステムのコンポーネントとステークホルダーのいずれか２者間の関係（インタラクション）に紐づけて抽出及び可視化される。
【0026】
図１に示す分析図では、訓練部１１０及び予測部１２０（いずれも図２を用いて後述）を含むシステム図に表示されているインタラクションＩＤ（Ｓ１０１～Ｓ１１４）のそれぞれに対して、該当するＡＩ倫理チェック項目があれば、対応付けられて表示される。また、各ＡＩ倫理チェック項目には、リスク事象（図１の一点鎖線枠を参照）とリスク要因（図１の点線枠を参照）とのいずれかが対応付けられて表示される。
【0027】
図１に示す例では、Ｓ１１０に対してＡＩ倫理チェック項目「集団公平性」及び「推論結果の制御性」が対応付けて表示されており、Ｓ１１１に対してＡＩ倫理チェック項目「データ属性の十分性」及び「ラベルの妥当性」が対応付けて表示されている。Ｓ１１２に対してＡＩ倫理チェック項目「データ属性の十分性」が対応付けて表示されており、Ｓ１１３に対してＡＩ倫理チェック項目「推論結果の独立性」及び「機械学習・統計解析の適切性」が対応付けて表示されている。Ｓ１１４に対して、ＡＩ倫理チェック項目「推論結果の制御性」が対応付けて表示されている。
【0028】
図２は、関連例におけるローン審査インタラクションを例示する図である。
【0029】
関連例では、ＡＩシステム１００が持つべき倫理的な特徴を、ＡＩシステム１００とステークホルダーとの関係に対応付けてチェックリスト化し、そのＡＩ倫理チェックリストを用いて、ＡＩシステム１００の倫理リスクを分析する。これにより、ＡＩサービス提供者１０や開発者が、ＡＩシステム１００のコンポーネントや個々のステークホルダーに対して実践すべき項目に落とし込む作業を不要にする。
【0030】
また、ＡＩシステム１００の構成要素とステークホルダーとの関係をグラフ構造化し、グラフ構造の特徴に基づいてＡＩ倫理チェック項目に優先度を付けたＡＩ倫理チェックリストを自動生成する。これにより、重要なＡＩ倫理チェック項目を優先的に分析することで効率化を実現する。
【0031】
図２に示すＡＩシステム１００は、ローン審査ＡＩのインタラクションを例示している。図１における矢印は、インタラクションを示す。インタラクションの両端（始点，終点）は、ステークホルダー，データ，ＡＩシステムのコンポーネントのいずれかの要素となる。相互作用の始点，終点に対応する要素の役割（データ提供者，利用者４０，訓練データ１０１，ローン審査モデル１０３等）によりインタラクションの種類を規定する。各インタラクションに付されているＳｘｘｘはインタラクションＩＤを示す。
【0032】
ＡＩシステム１００は、ＡＩサービスベンダ等のＡＩサービス提供者１０と、信用調査機関等のデータ提供者２０と、銀行等のデータ提供者３０と、ローン申込者等の利用者４０とによって使用される。
【0033】
訓練部１１０は、訓練データ１０１に対する機械学習によって、ローン審査モデル１０３（別言すれば、ＡＩモデル）の訓練を実行するローン審査モデル生成部１０２（別言すれば、機械学習部）を備える。訓練データ１０１は、データ提供者２０からの信用スコアの入力や、データ提供者３０からの取引データの入力によって、生成されてよい。
【0034】
予測部１２０は、ローン審査モデル１０３を用いて推論データ１０４に対する推論を行うことによって、審査結果１０６（別言すれば、推論結果）を出力する推論部１０５を備える。推論データ１０４は、データ提供者２０からの信用スコアの入出力や、データ提供者３０からの申込情報及び取引データの入出力、利用者４０からの申込者情報の入力によって、生成されてよい。
【0035】
図３は、関連例における分析シートからのグラフ構造の生成例を示す図である。
【0036】
符号Ａ１に示す分析シートには、インタラクションＩＤ毎に、ステークホルダーの種類，名称，役割説明，始点・終点の別や、データの種類，名称，始点・終点の別等が対応付けられている。
【0037】
例えば、インタラクションＩＤ「Ｓ１０１」には、ステークホルダーの種類「利用者」，名称「ローン申込者」，役割説明「申込者情報の提供」及び始点・終点の別「０（始点）」が対応付けられている。また、インタラクションＩＤ「Ｓ１０１」には、データの種類「推論結果」，データの名称「申込者情報（取引データ，信用スコア）」及び始点・終点の別「１（終点）」が対応付けられている。
【0038】
ここで、関連例におけるＡＩ倫理リスクの分析処理について説明する。
【0039】
以下の（１）～（４）の手順で、リスク分析が実施される。
【0040】
（１）ＡＩシステム１００の構成要素、データ、ステークホルダー間の関係がシステム図（図１を参照）として作図され、インタラクションが抽出される。
【0041】
（２）分析シート（図３の符号Ａ１を参照）にインタラクション毎の内訳が記載される。
【0042】
（３）ＡＩ倫理モデルに基づいて生成されるＡＩ倫理チェックリスト（不図示）の各項目について、該当するインタラクションがそのチェック項目を満たさない状態から想定されるリスク（リスク事象・リスク要因）が抽出され、分析シートに記載される。なお、ＡＩ倫理モデルは、ＡＩ倫理に関する原則やガイドライン等を整理し、ＡＩシステム１００が満たすべきチェック項目のリストとして構成したものである。
【0043】
（４）分析シートのリスクが参照され、同内容のものが整理され、事象と要因との関係が記載される。可視化する場合はシステム図にリスク事象と要因とを追加した分析図（不図示）が作成される。
【0044】
すなわち、システム図、分析シート及び分析図が出力データとして出力される。
【0045】
上記のリスク分析の手順（３）において、ＡＩ倫理チェックリストの項目が多いため、すべてのチェックリストを検証するための工数が大きい。そこで、上記のリスク分析の手順（３）について、優先度付きのＡＩ倫理チェックリスト生成処理が情報処理装置６（図４を用いて後述）によって実行される。
【0046】
ＡＩ倫理チェックリスト生成処理では、分析対象のＡＩシステム１００とステークホルダーのいずれか２者間の関係（インタラクション）が情報処理装置６によってグラフ構造で表現される。そして、そのグラフ構造の特徴から、倫理的に注目すべき重要度の高い関係（インタラクション）がルールベースで抽出され、重要度の高い関係（インタラクション）と紐づいた、倫理的なリスクを抽出するためのチェック項目が、優先度付きのチェックリストとして情報処理装置６によって提示される。
【0047】
関連例における情報処理装置６は、ＡＩ倫理チェックリストの絞り込みを実施する。ＡＩ倫理チェックリストの絞り込みでは、「ＡＩシステムの構成とステークホルダーとの関係」が持つ特徴が、インタラクションの集合から構成したグラフ構造の特徴として表現される。
【0048】
分析シートの表データは「インタラクション集合」のデータ形式になっているため、グラフ構造の自動生成が可能となる。グラフ構造の特徴として、例えば以下を自動抽出できる。
【0049】
・ステークホルダーのノード数
・複数の役割を持つステークホルダーの数
・ＡＩシステムと直接関わらないステークホルダーの数
倫理的なリスクの発生が起こりやすいグラフ構造の特徴と、おさえておくべきＡＩ倫理チェックリストの項目とが、あらかじめルールとして登録される。例えば、ＡＩシステム１００と直接関わらないステークホルダーの数が１つ以上ある場合は、そのステークホルダーが関わるインタラクションの優先度が上げられる。これは、ＡＩシステム１００の設計・開発において見落としがちな間接的なステークホルダーへの影響を把握するためである。
・複数の役割を持つステークホルダーの数
・ＡＩシステムと直接関わらないステークホルダーの数
倫理的なリスクの発生が起こりやすいグラフ構造の特徴と、おさえておくべきＡＩ倫理チェックリストの項目とが、あらかじめルールとして登録される。例えば、ＡＩシステム１００と直接関わらないステークホルダーの数が１つ以上ある場合は、そのステークホルダーが関わるインタラクションの優先度が上げられる。これは、ＡＩシステム１００の設計・開発において見落としがちな間接的なステークホルダーへの影響を把握するためである。
【0050】
グラフ構造の特徴から登録したルールに基づいて、重要度の高いＡＩ倫理チェック項目が絞り込まれ、優先度付きのＡＩ倫理チェックリストとして生成される。
【0051】
図３の符号Ａ１に示す分析シートからは、符号Ａ２に示すようなグラフ構造が生成されてよい。
【0052】
符号Ａ２に示すグラフ構造では、丸印で示される各ノード間の矢印がインタラクションを表す。
【0053】
図３に示す例では、ローン申込者からの申込者情報の出力がＳ１０１で表され、申込者情報の銀行への入力がＳ１０２で表され、申込者情報の信用調査機関への入力がＳ１０３で表される。また、銀行からの申込者情報・取引データ・信用スコアの出力がＳ１０４で表され、信用調査機関からの申込者情報・取引データ・信用スコアの出力がＳ１０５で表される。更に、申込者情報・取引データ・信用スコアからローン審査推論部への入力がＳ１０６で表され、ローン審査推論部からの審査データの出力がＳ１０７で表される。
【0054】
符号Ａ１１に示すように、各ステークホルダーには、役割（ステークホルダーの種類）が登録され、符号Ａ２１に示すように、ローン申込者等の各ノードは、役割を持つ。
【0055】
ここで、注目すべき重要度の高いインタラクションの抽出は、以下の（１）～（３）の順に情報処理装置６（図４を用いて後述）によって行われる。
【0056】
（１）すべてのインタラクションの重要度が１点に設定される。
【0057】
（２）特定の特徴を持つインタラクションの重要度が加点される（特徴１つにつき１点加点されてよい）。
【0058】
（３）インタラクションが重要度で順位付される。
【0059】
上記の（２）における特定の特徴は、インタラクションの両端のノード（ＡＩシステム１００のコンポーネント、データ、ステークホルダー）の特徴と、接続関係の特徴とを含んでよい。インタラクションの両端のノードの特徴には、複数の役割（ＡＩシステム提供者でデータ提供者）を持つステークホルダーと、利用者の役割を持つステークホルダーと、訓練データ提供者の役割を持つステークホルダーとが含まれてよい。接続関係の特徴には、ＡＩシステム１００の出力とつながらないステークホルダーのインタラクションと、訓練データあるいは推論データが複数のデータ提供者とつながるインタラクションとが含まれてよい。
【0060】
図４は、関連例における情報処理装置６のソフトウェア構成例を模式的に示すブロック図である。
【0061】
関連例における情報処理装置６は、グラフ生成部１１１，特徴抽出部１１２及びチェック項目抽出部１１３として機能する。
【0062】
グラフ生成部１１１は、ＡＩシステム１００の構成に基づいて定まる、対象者の種別の属性と処理の種別の属性とデータの種別の属性とのうち少なくとも２つの属性を含む複数の関係情報（別言すれば、インタラクション）を取得する。グラフ生成部１１１は、分析対象のインタラクション集合１４１に基づき、関係情報を取得してよい。グラフ生成部１１１は、取得した関係情報に基づいて、図３に示したグラフ構造を生成してよい。
【0063】
特徴抽出部１１２は、対象者の種別の属性に基づいて、複数の関係情報の優先度を決定する。特徴抽出部１１２は、重要インタラクション抽出ルール１４２に基づいて、優先度を決定してよい。特徴抽出部１１２は、複数の関係情報のそれぞれに関係する特定の対象者の優先度を高くしてよい。特徴抽出部１１２は、複数の関係情報のうちの特定の関係情報の優先度を高くしてもよい。
【0064】
チェック項目抽出部１１３は、各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステム１００の絞り込んだＡＩ倫理チェックリスト１１４として出力する。
【0065】
関連例におけるＡＩ倫理チェックリストの生成処理を、図５に示すフローチャート（ステップＣ１～Ｃ８）に従って説明する。
【0066】
グラフ生成部１１１は、重要インタラクション抽出ルール１４２と、ＡＩ倫理チェックリスト１４３と、分析対象のインタラクション集合１４１とを、入力データとして受け付ける（ステップＣ１～Ｃ３）。
【0067】
グラフ生成部１１１は、インタラクション集合１４１からグラフ構造を生成する（ステップＣ４）。
【0068】
特徴抽出部１１２は、グラフ構造から特徴を抽出する（ステップＣ５）。特徴の抽出は、例えば、ステークホルダーのノード数や、複数の役割を持つステークホルダーの数、ＡＩシステム１００と直接関わらないステークホルダーの数に基づいて実行されてよい。
【0069】
特徴抽出部１１２は、抽出した特徴から、重要インタラクション抽出ルール１４２に基づいて、注目すべきインタラクションを抽出する（ステップＣ６）。
【0070】
チェック項目抽出部１１３は、注目すべきインタラクションに対応するＡＩ倫理チェックリスト１４３のチェック項目を抽出する（ステップＣ７）。
【0071】
チェック項目抽出部１１３は、重要な項目を絞り込んだＡＩ倫理チェックリスト１４３を出力する（ステップＣ８）。そして、ＡＩ倫理チェックリスト１４３の生成処理は終了する。
【0072】
〔Ｂ〕実施形態
以下、図面を参照して一実施の形態を説明する。ただし、以下に示す実施形態はあくまでも例示に過ぎず、実施形態で明示しない種々の変形例や技術の適用を排除する意図はない。すなわち、本実施形態を、その趣旨を逸脱しない範囲で種々変形して実施することができる。また、各図は、図中に示す構成要素のみを備えるという趣旨ではなく、他の機能等を含むことができる。
以下、図面を参照して一実施の形態を説明する。ただし、以下に示す実施形態はあくまでも例示に過ぎず、実施形態で明示しない種々の変形例や技術の適用を排除する意図はない。すなわち、本実施形態を、その趣旨を逸脱しない範囲で種々変形して実施することができる。また、各図は、図中に示す構成要素のみを備えるという趣旨ではなく、他の機能等を含むことができる。
【0073】
上述した関連例においては、ＡＩ倫理チェックリストの生成処理において、倫理リスクが発生しやすい重要インタラクションとされるグラフ構造の特徴（たとえば、ステークホルダーの役割に関する特徴など）のルールに応じて、インタラクションに優先度が付与され、ＡＩ倫理チェックリストが絞り込まれた。
【0074】
一方、実施形態においては、ＡＩシステムの倫理リスクの対処において、ルールの採用・不採用を限定条件で判別することにより、採用しても意味のないルール（別言すれば、チェック項目）を除去する。すなわち、評価対象のＡＩシステムにおいて、コンポーネントの限定条件に応じて、採用しても意味のないルールを不採用と判定して、残りの採用と判定されたルールを用いて、対象のインタラクションについて、ＡＩ倫理チェック項目抽出の優先度を高くする。
【0075】
図６は、過去のインシデント事例による被害２０１を例示するテーブルである。
【0076】
ＡＩシステムのリスクとしては、特に過去のインシデント事例における被害の大きさや、公平性やプライバシに関わる不均等な被害（人種、性別等）が存在する。
【0077】
図６においては、例えば、項目「被害の深刻さ（身体的被害）」として項目例「高」，具体例「人命が失われる」が存在し、項目「被害の深刻さ（経済的被害）」として項目例「高」，具体例「数億～数兆円規模の損失」が存在する。また、例えば、項目「被害の深刻さ（解決までの対応時間）」として項目例「長」，具体例「２，３年以上かかる」が存在し、項目「不均等な被害」として項目例「人種」，具体例「白人・黒人」が存在する。
【0078】
図７は、過去のインシデント事例によるルール２０２を例示するテーブルである。
【0079】
過去のインシデント事例によるルール２０２には、ＡＩシステムにおいて発生したリスクの事例名毎に、被害の内容や限定条件，システム図内のインタラクションの情報が対応付けて登録されている。
【0080】
なお、限定条件はシステム図中のコンポーネントの限定条件を示し、コンポーネントに付記する「限定条件」が過去のルールのテーブルデータにあらかじめ記載される。限定条件の記法についてはあらかじめ統一されていてよい。
【0081】
また、システム図内のインタラクションの情報は、ルールに関連した部分のみで、各ステークホルダやデータ，モデル，結果，出力のコンポーネントにおけるどの間のインタラクションかを示す情報である。
【0082】
図７においては、例えば、番号「００１」において、事例名「医療補助ＡＩの事故」，身体的被害「高」，経済的被害「中」，精神的被害「高」，解決までの対応時間「長」，不平等な被害（公平性項目）「なし」，限定条件「なし」，インタラクション始点の種類「ＡＩモデル」，インタラクション終点の種類「推論結果」が対応付けて登録されている。
【0083】
また、図７においては、例えば、番号「００２」において、事例名「ローン審査ＡＩでの冷遇」，身体的被害「低」，経済的被害「高」，精神的被害「中」，解決までの対応時間「短」，不平等な被害（公平性項目）「性別」，限定条件「性別の限定」，インタラクション始点の種類「推論結果」，インタラクション終点の種類「消費者的利用者」が対応付けて登録されている。
【0084】
図８は、一般化されたルール２０３を例示するテーブルである。
【0085】
一般化されたルール２０３は、インタラクションの両端ノードの特徴や接続関係の特徴を持つインタラクションの重要度を加点することによって定義されてよい。
【0086】
インタラクションの両端ノード（例えば、ＡＩシステムのコンポーネント，データ，ステークホルダー）の特徴としては、例えば以下が挙げられる。
【0087】
・複数の役割（例えば、ＡＩシステム提供者でデータ提供者）を持つステークホルダー
・利用者の役割を持つステークホルダー
・訓練データ提供者の役割を持つステークホルダー
接続関係の特徴としては、例えば以下が挙げられる。
・利用者の役割を持つステークホルダー
・訓練データ提供者の役割を持つステークホルダー
接続関係の特徴としては、例えば以下が挙げられる。
【0088】
・ＡＩシステムの出力と繋がらないステークホルダーのインタラクション
・訓練データ又は推論データが複数のデータ提供者と繋がるインタラクション
図８に示す一般化されたルール２０３では、一般化されたルール及びシステム図内のインタラクションの情報に加えて、限定条件が対応付けて登録されている。
・訓練データ又は推論データが複数のデータ提供者と繋がるインタラクション
図８に示す一般化されたルール２０３では、一般化されたルール及びシステム図内のインタラクションの情報に加えて、限定条件が対応付けて登録されている。
【0089】
図８においては、例えば、番号「０００１」において、一般化ルール名「利用者の役割を持つステークホルダー（１）」，限定条件「なし」，インタラクション始点の種類「推定結果」，インタラクション終点の種類「ビジネス的利用者」が対応付けて登録されている。
【0090】
また、図８においては、例えば、番号「０００２」において、一般化ルール名「利用者の役割を持つステークホルダー（２）」，限定条件「男女、人種、国籍」，インタラクション始点の種類「ビジネス的利用者」，インタラクション終点の種類「消費者的利用者」が対応付けて登録されている。
【0091】
図９は、実施形態におけるコンポーネントへの限定条件の付与処理を説明する図である。
【0092】
本実施形態においては、ＡＩ倫理影響評価の入力となるシステム図にコンポーネントの限定条件が付与される。そして、ＡＩシステムは、システム図からコンポーネントの限定条件を取得する。
【0093】
図９において、採用判定ＡＩにおいて、求職者は、推論データ提供者として自身の情報をＡＩシステム（別言すれば、採用先企業等）に提供すると共に、判定対象者としてＡＩシステムから採用判定を受ける。
【0094】
符号Ｂ１においては求職者の限定条件が付与されていないが、符号Ｂ２に示す例では求職者の性別の限定があり限定条件が付与されている。
【0095】
ＡＩシステムは、その限定条件に該当する事例は、採用しても意味のない事例であるため、図７に示した過去のインシデント事例によるルール２０２のテーブルデータから除外する。
【0096】
ＡＩシステムは、除外処理を行った過去のインシデント事例によるルール２０２のテーブルデータを用いてチェック項目抽出の優先度を点数付けする。
【0097】
過去のインシデント事例によるルール２０２を用いた場合の優先度決めに関する点数付けにおいては、被害が大きな方がより危険であるとする。
【0098】
例えば、過去のインシデント事例によるルール２０２のテーブルデータにおける「被害の深刻さ（身体的被害）」において、「高」３点、「中」２点、「低」１点と段階をつけて、インタラクションへの点数付けが行われる。
【0099】
なお、過去のインシデント事例における「被害の深刻さ」をどのように定義するかは、ＡＩシステム開発者が決めてよい。「被害の深刻さ」は、「身体的被害」「経済的被害」「精神的被害」「解決までの対応時間」など複数の尺度が用意されてよい。同じ事例でも、ＡＩシステム開発者が被害のうち何を重要と定義するかによって、過去のインシデント事例によるルール２０２のテーブルが変更されてよい。これにより、同じ事例でも優先度が変更になる場合がある。
【0100】
重視する「被害の深刻さ」がない場合には、複数の「被害の深刻さ」は、すべて同等に加算（又は乗算）されてよい。
【0101】
【0102】
一般化されたルール２０３の点数付け（Ａ）に加算（又は乗算）が行われる。
【0103】
ここで、加算（又は乗算）する際に、一般化されたルール２０３に基づいて優先度が付けられた点数のレンジ（Ａ）と、過去のインシデント事例によるルール２０２において付けられた点数のレンジ（Ｂ）とが大きく離れている場合がある。レンジが大きく離れている場合の対応方法として、点数のレンジを揃えることを目的として、（Ａ）（Ｂ）それぞれについて、最小値を０、最大値１の正規化が行われてよい。そして、正規化した（Ａ）（Ｂ）を足し合わせて（又は掛け合わせて）、その値に基づいてＡＩ倫理チェック項目の優先度決めが行われてよい。
【0104】
図１０は、実施形態における限定条件を付与したシステム図を例示する図である。
【0105】
図１０に示す採用判定用のＡＩシステム１００ａのシステム図には、訓練部及び予測部（いずれも図２を用いて前述したものと同様のため説明は省略する）を含むシステム図に表示されているインタラクション（Ｓ１０１～Ｓ１１４）が含まれる。そして、各インタラクションによって、推論データ提供者や訓練データ提供者等のコンポーネント（別言すれば、ステークホルダー）が結ばれる。
【0106】
図１０においては、採用判定ＡＩのシステム図の判定対象者について、「すべての求職者対象」ではなく「性別の限定」（例えば、女性条件）を付与したシステム図が作成されている。
【0107】
符号Ｄ１に示すように、ＡＩシステム１００ａは、システム図内のコンポーネントから「性別の限定」という限定条件を除外条件として抽出する。
【0108】
【0109】
図１１の符号Ｄ２に示すように、ＡＩシステムは、図７に示した過去のインシデント事例によるルール２０２を参照し、限定条件「性別の限定」が記載されている事例の行を、今回のＡＩ倫理影響評価の対象から除外する。
【0110】
ＡＩシステムは、抽出された過去のインシデント事例のインタラクション（別言すれば、過去のインシデント事例によるルール２０２において除外されずに残ったインタラクション）に加点して優先度を上げる。例えば、図１１に示した番号「００１」，「００３」のインタラクション「ＡＩモデル→推論結果」が加点されてよい。
【0111】
ＡＩシステムは、例えば、番号「００１」における「被害の深刻さ（身体的被害）」の評価「高」に関して、インタラクション（ＡＩモデル→推論結果）に３点加点してよい。また、評価「中」に関しては２点、評価「低」に関しては１点が加点されてよい。
【0112】
ＡＩシステムは、重視する「被害の深刻さ」がない場合には、すべての指標（身体的被害，経済的被害，精神的被害，解決までの時間）を同等に以下のように加算して、合計１６点を算出よい。
【0113】
番号「００１」：３＋２＋３＋３＝１１
番号「００３」：１＋１＋１＋２＝５
ＡＩシステムは、「経済的被害」を重視したい場合には、「被害の深刻さ（経済的被害）」について、番号「００１」の評価「中」の２点、番号「００３」の評価「低」の１点に加重して、２倍の点数合計６点を、「ＡＩモデル→推論結果」のインタラクションにつけてよい。
番号「００３」：１＋１＋１＋２＝５
ＡＩシステムは、「経済的被害」を重視したい場合には、「被害の深刻さ（経済的被害）」について、番号「００１」の評価「中」の２点、番号「００３」の評価「低」の１点に加重して、２倍の点数合計６点を、「ＡＩモデル→推論結果」のインタラクションにつけてよい。
【0114】
ＡＩシステムは、点数が高い順にインタラクションに順位づけして、優先度の高いチェック項目を抽出する。
【0115】
これにより、従来の構成要素に基づくルールでは抽出が不十分な、システム図のコンポーネントに限定条件がある時の優先度の高いチェック項目の抽出ができる。
【0116】
図８に示した一般化したルール２０３と過去のインシデントによるルール２０２とが混在したルールを採用した場合には、以下のように評価（優先度付けの点数）の正規化が実施されてよい。
【0117】
（Ａ）先行特許のグラフ構造に基づいた優先度付けにおいて、すでに「ＡＩモデル→推論結果」のインタラクションに１点が付けられているものとする。また、（Ａ）の評価群のレンジは０～２とする。
【0118】
（Ｂ）一方、被害の深刻さの観点から、「ＡＩモデル→推論結果」のインタラクションに１６点がついているものとする。また、（Ｂ）の評価群のレンジは０～２０とする。
【0119】
（Ａ）（Ｂ）が最小値０，最大値１で正規化される。（Ａ）における「ＡＩモデル→推論結果」のインタラクションは0.5点となり、（Ｂ）における「ＡＩモデル→推論結果」のインタラクションは０．８点となる。
【0120】
正規化後、（Ａ）（Ｂ）を足し合わせると、（Ａ）＋（Ｂ）＝１．３点となる。これが、評価対象のＡＩシステムの「ＡＩモデル→推論結果」のインタラクションに与えられた優先度の点数となる。
【0121】
他のインタラクションについても同様に点数が算出される。
【0122】
そして、インタラクションごとの点数が比較され、値の高いものから優先度が高く設定される。
【0123】
図１２は、実施形態における情報処理装置１のハードウェア構成例を模式的に示すブロック図である。
【0124】
図１２に示すように、情報処理装置１は、ＣＰＵ（Central Processing Unit）１１，メモリ部１２，表示制御部１３，記憶装置１４，入力Interface（ＩＦ）１５，外部記録媒体処理部１６及び通信ＩＦ１７を備える。
【0125】
メモリ部１２は、記憶部の一例であり、例示的に、Read Only Memory（ＲＯＭ）及びRandom Access Memory（ＲＡＭ）などである。メモリ部１２のＲＯＭには、Basic Input/Output System（ＢＩＯＳ）等のプログラムが書き込まれてよい。メモリ部１２のソフトウェアプログラムは、ＣＰＵ１１に適宜に読み込まれて実行されてよい。また、メモリ部１２のＲＡＭは、一時記録メモリあるいはワーキングメモリとして利用されてよい。
【0126】
表示制御部１３は、表示装置１３１と接続され、表示装置１３１を制御する。表示装置１３１は、液晶ディスプレイやOrganic Light-Emitting Diode（ＯＬＥＤ）ディスプレイ，Cathode Ray Tube（ＣＲＴ），電子ペーパーディスプレイ等であり、オペレータ等に対する各種情報を表示する。表示装置１３１は、入力装置と組み合わされたものでもよく、例えば、タッチパネルでもよい。表示装置１３１は、情報処理装置１のユーザに対する種々の情報を表示する。
【0127】
記憶装置１４は、高ＩＯ性能の記憶装置であり、例えば、Dynamic Random Access Memory（ＤＲＡＭ）やＳＳＤ（Solid State Drive），Storage Class Memory（ＳＣＭ），ＨＤＤ（Hard Disk Drive）が用いられてよい。
【0128】
入力ＩＦ１５は、マウス１５１やキーボード１５２等の入力装置と接続され、マウス１５１やキーボード１５２等の入力装置を制御してよい。マウス１５１やキーボード１５２は、入力装置の一例であり、これらの入力装置を介して、オペレータが各種の入力操作を行う。
【0129】
外部記録媒体処理部１６は、記録媒体１６０が装着可能に構成される。外部記録媒体処理部１６は、記録媒体１６０が装着された状態において、記録媒体１６０に記録されている情報を読み取り可能に構成される。本例では、記録媒体１６０は、可搬性を有する。例えば、記録媒体１６０は、フレキシブルディスク、光ディスク、磁気ディスク、光磁気ディスク、又は、半導体メモリ等である。
【0130】
通信ＩＦ１７は、外部装置との通信を可能にするためのインタフェースである。
【0131】
ＣＰＵ１１は、プロセッサの一例であり、種々の制御や演算を行う処理装置である。ＣＰＵ１１は、メモリ部１２に読み込まれたOperating System（ＯＳ）やプログラムを実行することにより、種々の機能を実現する。なお、ＣＰＵ１１は、複数のＣＰＵを含むマルチプロセッサであってもよいし、複数のＣＰＵコアを有するマルチコアプロセッサであってもよく、或いは、マルチコアプロセッサを複数有する構成であってもよい。
【0132】
情報処理装置１全体の動作を制御するための装置は、ＣＰＵ１１に限定されず、例えば、ＭＰＵやＤＳＰ，ＡＳＩＣ，ＰＬＤ，ＦＰＧＡのいずれか１つであってもよい。また、情報処理装置１全体の動作を制御するための装置は、ＣＰＵ，ＭＰＵ，ＤＳＰ，ＡＳＩＣ，ＰＬＤ及びＦＰＧＡのうちの２種類以上の組み合わせであってもよい。なお、ＭＰＵはMicro Processing Unitの略称であり、ＤＳＰはDigital Signal Processorの略称であり、ＡＳＩＣはApplication Specific Integrated Circuitの略称である。また、ＰＬＤはProgrammable Logic Deviceの略称であり、ＦＰＧＡはField Programmable Gate Arrayの略称である。
【0133】
図１３は、実施形態における情報処理装置１のソフトウェア構成例を模式的に示すブロック図である。
【0134】
図１３に示すように、情報処理装置１は、グラフ生成部１１１，特徴抽出部１１２，チェック項目抽出部１１３及びテーブルデータ処理部１１５として機能する。
【0135】
グラフ生成部１１１は、ＡＩシステム１００の構成に基づいて定まる、対象者の種別の属性と処理の種別の属性とデータの種別の属性とのうち少なくとも２つの属性を含む複数の関係情報（別言すれば、インタラクション）を取得する。グラフ生成部１１１は、分析対象のインタラクション集合１４１に基づき、関係情報を取得してよい。グラフ生成部１１１は、取得した関係情報に基づいて、図３に示したグラフ構造を生成してよい。
【0136】
グラフ生成部１１１は、ＡＩシステムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定する。
【0137】
テーブルデータ処理部１１５は、ルールの採用・不採用を限定条件で判別することにより、採用しても意味のないルール（別言すれば、チェック項目）を除去する。テーブルデータ処理部１１５は、コンポーネントの限定条件に応じて、採用しても意味のないルールを不採用と判定する。
【0138】
テーブルデータ処理部１１５は、構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択する。
【0139】
特徴抽出部１１２は、対象者の種別の属性に基づいて、複数の関係情報の優先度を決定する。特徴抽出部１１２は、重要インタラクション抽出ルール１４２に基づいて、優先度を決定してよい。特徴抽出部１１２は、複数の関係情報のそれぞれに関係する特定の対象者の優先度を高くしてよい。特徴抽出部１１２は、複数の関係情報のうちの特定の関係情報の優先度を高くしてもよい。
【0140】
特徴抽出部１１２は、テーブルデータ処理部１１５によって選択した一以上のルールに基づいて、特定した複数の組の優先度を決定する。
【0141】
特徴抽出部１１２は、テーブルデータ処理部１１５によって選択した一以上のルールについて、複数の指標毎に、被害の深刻さに応じた加点をすることによって、優先度を決定してよい。
【0142】
また、特徴抽出部１１２は、複数のインシデントに基づいて作成された第１のルールによる被害の深刻さに応じた加点結果と、個別のインシデントに基づいて作成された第２のルールによる被害の深刻さに応じた加点結果とについて、正規化を行って足し合わせた値によって、優先度を決定してもよい。
【0143】
チェック項目抽出部１１３は、各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステム１００の絞り込んだＡＩ倫理チェックリスト１１４として出力する。
【0144】
チェック項目抽出部１１３は、決定した優先度に基づいてＡＩシステムのＡＩ倫理リスク評価結果を出力する。
【0145】
実施形態におけるＡＩ倫理チェックリストの生成処理を、図１４に示すフローチャート（ステップＥ１～Ｅ１０）に従って説明する。
【0146】
テーブルデータ処理部１１５は、コンポーネントに限定条件があるかを判定する（ステップＥ１）。
【0147】
コンポーネントに限定条件がない場合には（ステップＥ１のＮＯルート参照）、処理はステップＥ３～Ｅ５へ進む。
【0148】
一方、コンポーネントに限定条件がある場合には（ステップＥ１のＹＥＳルート参照）、ルールに関するテーブルデータのうち、今回の限定条件を持つ事例を、今回の検索対象から除外する（ステップＥ２）。
【0149】
グラフ生成部１１１は、重要インタラクション抽出ルール１４２と、ＡＩ倫理チェックリスト１４３と、分析対象のインタラクション集合１４１とを、入力データとして受け付ける（ステップＥ３～Ｅ５）。
【0150】
グラフ生成部１１１は、インタラクション集合１４１からグラフ構造を生成する（ステップＥ６）。
【0151】
特徴抽出部１１２は、グラフ構造から特徴を抽出する（ステップＥ７）。特徴の抽出は、例えば、ステークホルダーのノード数や、複数の役割を持つステークホルダーの数、ＡＩシステム１００と直接関わらないステークホルダーの数に基づいて実行されてよい。
【0152】
特徴抽出部１１２は、抽出した特徴から、「注目すべきインタラクションのルール」に基づいて、注目すべきインタラクションを抽出する（ステップＥ８）。
【0153】
チェック項目抽出部１１３は、注目すべきインタラクションに対応するＡＩ倫理チェックリスト１４３のチェック項目を抽出する（ステップＥ９）。
【0154】
チェック項目抽出部１１３は、重要な項目を絞り込んだＡＩ倫理チェックリスト１４３を出力する（ステップＥ１０）。そして、ＡＩ倫理チェックリスト１４３の生成処理は終了する。
【0155】
〔Ｃ〕効果
上述した実施形態におけるＡＩシステムチェックプログラム，ＡＩシステムチェック方法及び情報処理装置１によれば、例えば以下の作用効果を奏することができる。
上述した実施形態におけるＡＩシステムチェックプログラム，ＡＩシステムチェック方法及び情報処理装置１によれば、例えば以下の作用効果を奏することができる。
【0156】
グラフ生成部１１１は、ＡＩシステムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定する。テーブルデータ処理部１１５は、構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択する。特徴抽出部１１２は、選択した一以上のルールに基づいて、特定した複数の組の優先度を決定する。チェック項目抽出部１１３は、決定した優先度に基づいてＡＩシステムのＡＩ倫理リスク評価結果を出力する。
【0157】
これにより、ＡＩシステムの倫理リスクの対処において、事例に則した優先度の高いチェック項目の抽出を可能とすることができる。具体的には、ルールの採用・不採用を、評価対象のＡＩシステムのコンポーネントの限定条件で判定して、採用しても意味のない事例を除去することで、より事例に則した優先度の高いチェック項目の抽出が可能になる。また、限定条件ある場合のＡＩシステムのチェック項目抽出に対応したＡＩ倫理影響評価システムによって、ＡＩ開発者に対するＡＩリスクに関するコンサルテーション等で、商用利用が可能となる。
【0158】
特徴抽出部１１２は、テーブルデータ処理部１１５によって選択した一以上のルールについて、複数の指標毎に、被害の深刻さに応じた加点をすることによって、優先度を決定する。
【0159】
これにより、ＡＩシステムに含まれるインタラクションの優先度の決定を正確に実施できる。
【0160】
複数の指標は、インシデントによって生じる身体的被害と経済的被害と精神的被害と解決までの時間との少なくともいずれかを含む。
【0161】
これにより、インシデントによって生じる各種の被害に応じたきめ細やかな優先度の決定を実施できる。
【0162】
複数のルールは、複数のインシデントに基づいて作成された第１のルールと、個別のインシデントに基づいて作成された第２のルールとを含む。
【0163】
これにより、一般化されたルール２０３と過去のインシデント事例によるルール２０２との両方を使用して、ＡＩシステムに含まれるインタラクションの優先度の決定を実施できる。
【0164】
特徴抽出部１１２は、第１のルールによる被害の深刻さに応じた加点結果と、第２のルールによる被害の深刻さに応じた加点結果とについて、正規化を行って足し合わせた値によって、優先度を決定する。
【0165】
これにより、一般化されたルール２０３と過去のインシデント事例によるルール２０２との両方を使用する場合においても、優先度の決定を正確に実施できる。
【0166】
〔Ｄ〕その他
開示の技術は上述した実施形態に限定されるものではなく、本実施形態の趣旨を逸脱しない範囲で種々変形して実施することができる。本実施形態の各構成及び各処理は、必要に応じて取捨選択することができ、あるいは適宜組み合わせてもよい。
開示の技術は上述した実施形態に限定されるものではなく、本実施形態の趣旨を逸脱しない範囲で種々変形して実施することができる。本実施形態の各構成及び各処理は、必要に応じて取捨選択することができ、あるいは適宜組み合わせてもよい。
【0167】
〔Ｅ〕付記
以上の実施形態に関し、更に以下の付記を開示する。
以上の実施形態に関し、更に以下の付記を開示する。
【0168】
（付記１）
Artificial Intelligence（ＡＩ）システムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、
前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、
選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、
決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する、
処理をコンピュータに実行させることを特徴とする、評価プログラム。
Artificial Intelligence（ＡＩ）システムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、
前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、
選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、
決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する、
処理をコンピュータに実行させることを特徴とする、評価プログラム。
【0169】
（付記２）
選択した前記一以上のルールについて、複数の指標毎に、被害の深刻さに応じた加点をすることによって、前記優先度を決定する、
処理を前記コンピュータに実行させることを特徴とする、付記１に記載の評価プログラム。
選択した前記一以上のルールについて、複数の指標毎に、被害の深刻さに応じた加点をすることによって、前記優先度を決定する、
処理を前記コンピュータに実行させることを特徴とする、付記１に記載の評価プログラム。
【0170】
（付記３）
前記複数の指標は、インシデントによって生じる身体的被害と経済的被害と精神的被害と解決までの時間との少なくともいずれかを含む、
ことを特徴とする、付記２に記載の評価プログラム。
前記複数の指標は、インシデントによって生じる身体的被害と経済的被害と精神的被害と解決までの時間との少なくともいずれかを含む、
ことを特徴とする、付記２に記載の評価プログラム。
【0171】
（付記４）
前記複数のルールは、複数のインシデントに基づいて作成された第１のルールと、個別のインシデントに基づいて作成された第２のルールとを含む、
ことを特徴とする、付記１～３のいずれか一項に記載の評価プログラム。
前記複数のルールは、複数のインシデントに基づいて作成された第１のルールと、個別のインシデントに基づいて作成された第２のルールとを含む、
ことを特徴とする、付記１～３のいずれか一項に記載の評価プログラム。
【0172】
（付記５）
前記第１のルールによる被害の深刻さに応じた加点結果と、前記第２のルールによる被害の深刻さに応じた加点結果とについて、正規化を行って足し合わせた値によって、前記優先度を決定する、
処理を前記コンピュータに実行させることを特徴とする、付記４に記載の評価プログラム。
前記第１のルールによる被害の深刻さに応じた加点結果と、前記第２のルールによる被害の深刻さに応じた加点結果とについて、正規化を行って足し合わせた値によって、前記優先度を決定する、
処理を前記コンピュータに実行させることを特徴とする、付記４に記載の評価プログラム。
【0173】
（付記６）
Artificial Intelligence（ＡＩ）システムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、
前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、
選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、
決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する、
処理をコンピュータが実行することを特徴とする、評価方法。
Artificial Intelligence（ＡＩ）システムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、
前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、
選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、
決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する、
処理をコンピュータが実行することを特徴とする、評価方法。
【0174】
（付記７）
選択した前記一以上のルールについて、複数の指標毎に、被害の深刻さに応じた加点をすることによって、前記優先度を決定する、
処理をコンピュータが実行することを特徴とする、付記６に記載の評価方法。
選択した前記一以上のルールについて、複数の指標毎に、被害の深刻さに応じた加点をすることによって、前記優先度を決定する、
処理をコンピュータが実行することを特徴とする、付記６に記載の評価方法。
【0175】
（付記８）
前記複数の指標は、インシデントによって生じる身体的被害と経済的被害と精神的被害と解決までの時間との少なくともいずれかを含む、
ことを特徴とする、付記７に記載の評価方法。
前記複数の指標は、インシデントによって生じる身体的被害と経済的被害と精神的被害と解決までの時間との少なくともいずれかを含む、
ことを特徴とする、付記７に記載の評価方法。
【0176】
（付記９）
前記複数のルールは、複数のインシデントに基づいて作成された第１のルールと、個別のインシデントに基づいて作成された第２のルールとを含む、
ことを特徴とする、付記６～８のいずれか一項に記載の評価方法。
前記複数のルールは、複数のインシデントに基づいて作成された第１のルールと、個別のインシデントに基づいて作成された第２のルールとを含む、
ことを特徴とする、付記６～８のいずれか一項に記載の評価方法。
【0177】
（付記１０）
前記第１のルールによる被害の深刻さに応じた加点結果と、前記第２のルールによる被害の深刻さに応じた加点結果とについて、正規化を行って足し合わせた値によって、前記優先度を決定する、
処理をコンピュータが実行することを特徴とする、付記９に記載の評価方法。
前記第１のルールによる被害の深刻さに応じた加点結果と、前記第２のルールによる被害の深刻さに応じた加点結果とについて、正規化を行って足し合わせた値によって、前記優先度を決定する、
処理をコンピュータが実行することを特徴とする、付記９に記載の評価方法。
【0178】
（付記１１）
Artificial Intelligence（ＡＩ）システムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、
前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、
選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、
決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する、
プロセッサを備えることを特徴とする、情報処理装置。
Artificial Intelligence（ＡＩ）システムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、
前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、
選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、
決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する、
プロセッサを備えることを特徴とする、情報処理装置。
【0179】
（付記１２）
前記プロセッサは、
選択した前記一以上のルールについて、複数の指標毎に、被害の深刻さに応じた加点をすることによって、前記優先度を決定する、
ことを特徴とする、付記１１に記載の情報処理装置。
前記プロセッサは、
選択した前記一以上のルールについて、複数の指標毎に、被害の深刻さに応じた加点をすることによって、前記優先度を決定する、
ことを特徴とする、付記１１に記載の情報処理装置。
【0180】
（付記１３）
前記複数の指標は、インシデントによって生じる身体的被害と経済的被害と精神的被害と解決までの時間との少なくともいずれかを含む、
ことを特徴とする、付記１２に記載の情報処理装置。
前記複数の指標は、インシデントによって生じる身体的被害と経済的被害と精神的被害と解決までの時間との少なくともいずれかを含む、
ことを特徴とする、付記１２に記載の情報処理装置。
【0181】
（付記１４）
前記複数のルールは、複数のインシデントに基づいて作成された第１のルールと、個別のインシデントに基づいて作成された第２のルールとを含む、
ことを特徴とする、付記１１～１３のいずれか一項に記載の情報処理装置。
前記複数のルールは、複数のインシデントに基づいて作成された第１のルールと、個別のインシデントに基づいて作成された第２のルールとを含む、
ことを特徴とする、付記１１～１３のいずれか一項に記載の情報処理装置。
【0182】
（付記１５）
前記プロセッサは、
前記第１のルールによる被害の深刻さに応じた加点結果と、前記第２のルールによる被害の深刻さに応じた加点結果とについて、正規化を行って足し合わせた値によって、前記優先度を決定する、
ことを特徴とする、付記１４に記載の情報処理装置。
前記プロセッサは、
前記第１のルールによる被害の深刻さに応じた加点結果と、前記第２のルールによる被害の深刻さに応じた加点結果とについて、正規化を行って足し合わせた値によって、前記優先度を決定する、
ことを特徴とする、付記１４に記載の情報処理装置。
【符号の説明】
【0183】
１，６ ：情報処理装置
１０ ：ＡＩサービス提供者
１１ ：ＣＰＵ
１２ ：メモリ部
１３ ：表示制御部
１４ ：記憶装置
１５ ：入力ＩＦ
１６ ：外部記録媒体処理部
１７ ：通信ＩＦ
２０，３０：データ提供者
４０ ：利用者
１００，１００ａ：ＡＩシステム
１０１ ：訓練データ
１０２ ：ローン審査モデル生成部
１０３ ：ローン審査モデル
１０４ ：推論データ
１０５ ：推論部
１０６ ：審査結果
１１０ ：訓練部
１１１ ：グラフ生成部
１１２ ：特徴抽出部
１１３ ：チェック項目抽出部
１１４ ：ＡＩ倫理チェックリスト
１１５ ：テーブルデータ処理部
１２０ ：予測部
１３１ ：表示装置
１４１ ：インタラクション集合
１４２ ：重要インタラクション抽出ルール
１４３ ：ＡＩ倫理チェックリスト
１５１ ：マウス
１５２ ：キーボード
１６０ ：記録媒体
２０１ ：過去のインシデント事例による被害
２０２ ：過去のインシデント事例によるルール
２０３ ：一般化されたルール
１０ ：ＡＩサービス提供者
１１ ：ＣＰＵ
１２ ：メモリ部
１３ ：表示制御部
１４ ：記憶装置
１５ ：入力ＩＦ
１６ ：外部記録媒体処理部
１７ ：通信ＩＦ
２０，３０：データ提供者
４０ ：利用者
１００，１００ａ：ＡＩシステム
１０１ ：訓練データ
１０２ ：ローン審査モデル生成部
１０３ ：ローン審査モデル
１０４ ：推論データ
１０５ ：推論部
１０６ ：審査結果
１１０ ：訓練部
１１１ ：グラフ生成部
１１２ ：特徴抽出部
１１３ ：チェック項目抽出部
１１４ ：ＡＩ倫理チェックリスト
１１５ ：テーブルデータ処理部
１２０ ：予測部
１３１ ：表示装置
１４１ ：インタラクション集合
１４２ ：重要インタラクション抽出ルール
１４３ ：ＡＩ倫理チェックリスト
１５１ ：マウス
１５２ ：キーボード
１６０ ：記録媒体
２０１ ：過去のインシデント事例による被害
２０２ ：過去のインシデント事例によるルール
２０３ ：一般化されたルール
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】