知財求人 - 知財ポータルサイト「IP Force」
特開2024-84575ＡＩシステムチェックプログラム，ＡＩシステムチェック方法及び情報処理装置
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024084575
(43)【公開日】2024-06-25
(54)【発明の名称】ＡＩシステムチェックプログラム，ＡＩシステムチェック方法及び情報処理装置
(51)【国際特許分類】
G06Q 50/10 20120101AFI20240618BHJP
G06N 20/00 20190101ALI20240618BHJP
【ＦＩ】
G06Q50/10
G06N20/00
【審査請求】未請求
【請求項の数】7
【出願形態】ＯＬ
(21)【出願番号】P 2022198909
(22)【出願日】2022-12-13
(71)【出願人】
【識別番号】000005223
【氏名又は名称】富士通株式会社
(74)【代理人】
【識別番号】110003649
【氏名又は名称】弁理士法人真田特許事務所
(74)【代理人】
【識別番号】100189201
【弁理士】
【氏名又は名称】横田 功
(72)【発明者】
【氏名】大橋 恭子
(72)【発明者】
【氏名】新田 泉
【テーマコード（参考）】
5L049
5L050
【Ｆターム（参考）】
5L049CC12
5L050CC12
(57)【要約】
【課題】ＡＩシステムのシステム図の精度向上による、リスク分析作業の精度向上及び効率化を図る。
【解決手段】ＡＩシステムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定し、第１の複数の組と、他のＡＩシステム１００ａのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、比較する処理の結果に基づいて、第１の複数の組に含まれ、第２の複数の組に含まれない第１の組を差分情報として出力する。
【選択図】図８
【解決手段】ＡＩシステムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定し、第１の複数の組と、他のＡＩシステム１００ａのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、比較する処理の結果に基づいて、第１の複数の組に含まれ、第２の複数の組に含まれない第１の組を差分情報として出力する。
【選択図】図８
【特許請求の範囲】
【請求項1】
Artificial Intelligence（ＡＩ）システムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定し、
前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、
前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、
処理をコンピュータに実行させる、ＡＩシステムチェックプログラム。
前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、
前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、
処理をコンピュータに実行させる、ＡＩシステムチェックプログラム。
【請求項2】
前記差分情報として、更に、前記比較する処理の結果に基づいて、前記第２の複数の組に含まれ、前記第１の複数の組に含まれない第２の組を出力する、
処理を前記コンピュータに実行させる、請求項１に記載のＡＩシステムチェックプログラム。
処理を前記コンピュータに実行させる、請求項１に記載のＡＩシステムチェックプログラム。
【請求項3】
前記第１の複数の組は、テンプレートとしての前記ＡＩシステムのステークホルダーの構成に基づいて定められ、
前記第２の複数の組は、プロジェクトとしての前記他のＡＩシステムのステークホルダーの構成に基づいて定められる、
請求項１又は２に記載のＡＩシステムチェックプログラム。
前記第２の複数の組は、プロジェクトとしての前記他のＡＩシステムのステークホルダーの構成に基づいて定められる、
請求項１又は２に記載のＡＩシステムチェックプログラム。
【請求項4】
二以上の前記第１の複数の組についての前記ＡＩシステムに含まれる文書と、前記他のＡＩシステムに含まれる文書との類似度に基づき、前記二以上の前記第１の複数の組の中から、一つの前記第１の複数の組を選定する、
処理を前記コンピュータに実行させる、請求項１又は２に記載のＡＩシステムチェックプログラム。
処理を前記コンピュータに実行させる、請求項１又は２に記載のＡＩシステムチェックプログラム。
【請求項5】
前記差分情報を前記他のＡＩシステムに反映させる、
処理を前記コンピュータに実行させる、請求項１又は２に記載のＡＩシステムチェックプログラム。
処理を前記コンピュータに実行させる、請求項１又は２に記載のＡＩシステムチェックプログラム。
【請求項6】
Artificial Intelligence（ＡＩ）システムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定し、
前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、
前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、
処理をコンピュータが実行する、ＡＩシステムチェック方法。
前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、
前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、
処理をコンピュータが実行する、ＡＩシステムチェック方法。
【請求項7】
Artificial Intelligence（ＡＩ）システムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定し、
前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、
前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、
プロセッサを備える、情報処理装置。
前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、
前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、
プロセッサを備える、情報処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ＡＩシステムチェックプログラム，ＡＩシステムチェック方法及び情報処理装置に関する。
【背景技術】
【0002】
ＡＩ（Artificial Intelligence）システムにおいて、倫理的なリスクのアセスメントが行われることがある。
【0003】
さまざまな業種やタスクのＡＩシステムを利用することで、倫理上の問題が発生することがある。そのような問題が発生すると、ＡＩシステムを提供した企業や組織だけでなく、ＡＩシステムの利用者やその先にある社会に対する影響も大きい。
【0004】
そこで、ＡＩを社会実装する上で、倫理上のリスクを認識し対処できるような取り組みが行われている。
【0005】
しかし、ＡＩシステムが複数のステークホルダーを持ち、それらを取り巻く社会状況が変化することで、ＡＩシステムの利用によってどのような倫理的な問題が発生するかを検知することは容易でない場合がある。
【0006】
そこで、ＡＩ倫理に関する原則やガイドラインが示すチェックリストそのものが、ＡＩシステムやそのステークホルダーに当てはめられて分析されることがある。
【0007】
ＡＩ倫理に関する原則やガイドラインの例としては、「欧州High-Level Expert Group on AI (AI HLEG) “Ethics Guidelines for Trustworthy AI”」や「総務省 AI利活用ガイドライン」，「統合イノベーション戦略推進会議“人間中心のAI社会原則”」，「OECD “Recommendation of the Council on Artificial Intelligence”」が存在する。
【0008】
また、様々なＡＩサービス提供の形態の存在を踏まえつつ、ＡＩサービス提供者が自らのＡＩサービスに係るリスクコントロール検討に資するモデルとして、「リスクチェーンモデル（Risk Chain Model: RCModel）」が提案されている。
【0009】
リスクチェーンモデルでは、以下の（１）～（３）によって、リスク構成要素の整理及び構造化が行われる。
【0010】
（１）ＡＩシステムの技術的構成要素
【0011】
（２）サービス提供者の行動規範（ユーザとのコミュニケーションを含む）に係る構成要素
【0012】
（３）ユーザの理解・行動・利用環境に係る構成要素
また、リスクチェーンモデルでは、リスクシナリオの識別及びリスク要因となる構成要素の特定と、リスクチェーンの可視化及びリスクコントロールの検討が行われる。リスクチェーンの可視化及びリスクコントロールの検討では、ＡＩサービス提供者はリスクシナリオに関連する構成要素の関係性（リスクチェーン）を可視化することで、段階的なリスク低減の検討が可能になる。
また、リスクチェーンモデルでは、リスクシナリオの識別及びリスク要因となる構成要素の特定と、リスクチェーンの可視化及びリスクコントロールの検討が行われる。リスクチェーンの可視化及びリスクコントロールの検討では、ＡＩサービス提供者はリスクシナリオに関連する構成要素の関係性（リスクチェーン）を可視化することで、段階的なリスク低減の検討が可能になる。
【先行技術文献】
【特許文献】
【0013】
【特許文献1】国際公開第２０２１／１９９２０１号
【特許文献2】米国特許公報第１１，２７０，２１４号
【特許文献3】米国公開公報第２０１９／０１３０６４３号
【非特許文献】
【0014】
【非特許文献1】松本敬史，江間有沙，“AIサービスのリスク低減を検討するリスクチェーンモデルの提案”，2020年6月4日，インターネット＜ＵＲＬ：ifi.u-tokyo.ac.jp/wp/wp-content/uploads/2020/06/policy_recommendation_tg_20200604.pdf＞
【発明の概要】
【発明が解決しようとする課題】
【0015】
しかしながら、原則やガイドラインが示すチェックリストは、ＡＩシステムのどの部分がどうあるべきかを具体的に示すものではなく、ＡＩシステムの開発者や提供者が具体化する必要がある。この具体化作業は難易度が高く、工数の負担も大きい。
【0016】
また、リスクチェーンモデルはリスク構成要素が整理されているが、ＡＩシステム提供者や開発者が、ＡＩシステムのコンポーネントや個々のステークホルダーに対して実践すべき項目に落とし込む必要がある。
【0017】
更に、ＡＩシステムのコンポーネントとステークホルダーとの関係に漏れがあると生成するチェック項目に漏れが生じるおそれがある一方、不要なＡＩシステムのコンポーネントとステークホルダーとの関係があると過剰なチェック項目が生成されるおそれがある。
【0018】
１つの側面では、ＡＩシステムのシステム図の精度向上による、リスク分析作業の精度向上及び効率化を図ることを目的とする。
【課題を解決するための手段】
【0019】
１つの側面では、ＡＩシステムチェックプログラムは、Artificial Intelligence（ＡＩ）システムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定し、前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、処理をコンピュータに実行させる。
【発明の効果】
【0020】
１つの側面では、ＡＩシステムのシステム図の精度向上による、リスク分析作業の精度向上及び効率化を図ることができる。
【図面の簡単な説明】
【0021】
【図1】ＡＩシステムのシステム図を例示するブロック図である。
【図2】ＡＩ倫理モデルの一部を例示する図である。
【図3】ＡＩ倫理チェックリストの一部を例示するテーブルである。
【図4】実施形態における情報処理装置のソフトウェア構成例を模式的に示すブロック図である。
【図5】実施形態における特徴差分検出処理を簡単に説明するフローチャートである。
【図6】実施形態における分析シートを例示するテーブルである。
【図7】実施形態におけるユースケース概要を例示するテーブルである。
【図8】実施形態における書き漏らしを含むＡＩシステムのシステム図を例示するブロック図である。
【図9】実施形態におけるユースケース概要からの特徴抽出処理を説明する図である。
【図10】実施形態における分析シートからの特徴抽出処理を説明する図である。
【図11】実施形態としてのユースケース概要における特徴差分の出力処理を説明する図である。
【図12】実施形態としての分析シートにおける特徴差分の出力処理を説明する図である。
【図13】実施形態としてのステークホルダー一覧における特徴抽出処理を説明するフローチャートである。
【図14】実施形態としての分析シートにおける特徴抽出処理を説明するフローチャートである。
【図15】実施形態における処理結果の出力画面を例示する図である。
【図16】実施形態におけるステークホルダー一覧の出力処理を説明するフローチャートである。
【図17】第１変形例における追記を含むＡＩシステムのシステム図を例示するブロック図である。
【図18】第１変形例における分析シートを例示するテーブルである。
【図19】第１変形例におけるユースケース概要を例示するテーブルである。
【図20】第１変形例としてのユースケース概要における特徴差分の出力処理を説明する図である。
【図21】第１変形例としての分析シートにおける特徴差分の出力処理を説明する図である。
【図22】第１変形例における処理結果の出力画面を例示する図である。
【図23】第２変形例における情報処理装置のソフトウェア構成例を模式的に示すブロック図である。
【図24】実施形態及び各変形例における情報処理装置のソフトウェア構成例を模式的に示すブロック図である。
【発明を実施するための形態】
【0022】
〔Ａ〕関連例
関連例は、ＡＩシステム１００（図１を用いて後述）が持つべき倫理的な特徴を、ＡＩシステム１００とステークホルダーとの関係に対応付けてチェックリスト化し、そのＡＩ倫理チェックリストを用いて、ＡＩシステム１００の倫理リスクを分析する。これにより、ＡＩサービスプロバイダ１０ａ（図１を用いて後述）や開発者２０ａが、ＡＩシステム１００のコンポーネントや個々のステークホルダーに対して実践すべき項目に落とし込む作業を不要にする。
関連例は、ＡＩシステム１００（図１を用いて後述）が持つべき倫理的な特徴を、ＡＩシステム１００とステークホルダーとの関係に対応付けてチェックリスト化し、そのＡＩ倫理チェックリストを用いて、ＡＩシステム１００の倫理リスクを分析する。これにより、ＡＩサービスプロバイダ１０ａ（図１を用いて後述）や開発者２０ａが、ＡＩシステム１００のコンポーネントや個々のステークホルダーに対して実践すべき項目に落とし込む作業を不要にする。
【0023】
また、ＡＩシステム１００の構成要素とステークホルダーとの関係をグラフ構造化し、グラフ構造の特徴に基づいてＡＩ倫理チェック項目に優先度を付けたＡＩ倫理チェックリストを自動生成する。これにより、重要なＡＩ倫理チェック項目を優先的に分析することで効率化を実現する。
【0024】
図１は、ＡＩシステム１００のシステム図を例示するブロック図である。
【0025】
図１に示すＡＩシステム１００において、矢印は、インタラクションを示す。インタラクションの両端（始点，終点）は、ステークホルダー，データ，ＡＩシステム１００のコンポーネントのいずれかの要素となる。相互作用の始点，終点に対応する要素の役割（ＡＩサービスプロバイダ１０ａ，監視者１０ｂ，開発者２０ａ，訓練データ提供者２０ｂ，訓練データ取得元２０ｃ，その他のステークホルダー２０ｄ，ビジネス利用者３０ａ，推論データ提供者３０ｂ，推論データ取得元３０ｃ，判定対象者４０ａ）によりインタラクションの種類を規定する。各インタラクションに付されているＳｘｘｘはインタラクションＩＤを示す。
【0026】
ＡＩシステム１００は、訓練部１１０及び予測部１２０を備える。
【0027】
訓練部１１０は、訓練データ１０１に対する機械学習によって、ＡＩモデル１０３の訓練を実行する機械学習部１０２を備える。訓練データ１０１は、開発者２０ａ等からのデータの入力によって、生成されてよい。
【0028】
予測部１２０は、ＡＩモデル１０３を用いて推論データ１０４に対する推論を行うことによって、推論結果１０５を出力する。推論データ１０４は、開発者２０ａやビジネス利用者３０ａからの入力によって、生成されてよい。
【0029】
図２は、ＡＩ倫理モデルの一部を例示する図である。
【0030】
図２に示すＡＩ倫理モデルは、ＡＩ倫理に関する原則、ガイドライン等を整理し、ＡＩシステム１００が満たすべきチェックリストとして構成したものである。ＡＩ倫理モデルは、チェック項目とその概要（ＡＩシステム１００が倫理的であるために満たすべき状態）とを含む。
【0031】
図２に示す例において、例えば、チェック項目「社会的信用の維持」の概要は、「ＡＩシステムを使うことによってステークホルダーの信用が損なわれることがないこと」となっている。
【0032】
図２に例示するＡＩ倫理モデルのチェック項目は、「欧州 High-Level Expert Group on AI (AI HLEG) “Ethics Guidelines for Trustworthy AI”」から導出されたＡＩ倫理モデルに基づいている。
【0033】
図３は、ＡＩ倫理チェックリストの一部を例示するテーブルである。
【0034】
ＡＩ倫理チェックリストは、ＡＩ倫理モデルに基づいて生成される。ＡＩ倫理チェックリストは、図１におけるインタラクションの種類に応じて、満たすべきＡＩ倫理チェック項目を対応付けたものである。ＡＩ倫理チェックリストにおける１つのチェック項目が、１種類のインタラクションに対応する。
【0035】
図３に示すＡＩ倫理チェックリストの一部では、チェック項目と概要とインタラクション種類（Ｆｒｏｍ，Ｔｏ）とが対応付けられている。例えば、チェック項目「社会的信用の維持」に対して、概要「ＡＩシステムを使うことによってステークホルダーの信用が損なわれることがないこと」とインタラクション種類（Ｆｒｏｍ）「推論結果」とインタラクション種類（Ｔｏ）「利用者」と対応付けて登録されている。
【0036】
ここで、関連例におけるＡＩ倫理リスクの分析処理について説明する。
【0037】
以下の（１）～（４）の手順で、リスク分析がユーザにより実施される。
【0038】
（１）ＡＩシステム１００の構成要素、データ、ステークホルダー間の関係がシステム図（図１を参照）として作図され、インタラクションが抽出される。
【0039】
（２）分析シート（不図示）にインタラクション毎の内訳が記載される。
【0040】
（３）ＡＩ倫理チェックリスト（図３を参照）の各項目について、該当するインタラクションがそのチェック項目を満たさない状態から想定されるリスク（リスク事象・リスク要因）が抽出され、分析シートに記載される。
【0041】
（４）分析シートのリスクが参照され、同内容のものが整理され、事象と要因との関係が記載される。可視化する場合はシステム図にリスク事象と要因とを追加した分析図（不図示）が作成される。
【0042】
すなわち、システム図、分析シート及び分析図が出力データとして出力される。
【0043】
上記のリスク分析の手順（３）において、ＡＩ倫理チェックリストの項目が多いため、すべてのチェックリストを検証するための工数が大きい。そこで、上記のリスク分析の手順（３）について、優先度付きのＡＩ倫理チェックリスト生成処理が実行される。
【0044】
ＡＩ倫理チェックリスト生成処理では、分析対象のＡＩシステム１００とステークホルダーのいずれか２者間の関係（インタラクション）がグラフ構造で表現される。そして、そのグラフ構造の特徴から、倫理的に注目すべき重要度の高い関係（インタラクション）がルールベースで抽出され、重要度の高い関係（インタラクション）と紐づいた、倫理的なリスクを抽出するためのチェック項目が、優先度付きのチェックリストとして提示される。
【0045】
関連例における情報処理装置（不図示）は、ＡＩ倫理チェックリストの絞り込みを実施する。ＡＩ倫理チェックリストの絞り込みでは、「ＡＩシステムの構成とステークホルダーとの関係」が持つ特徴が、インタラクションの集合から構成したグラフ構造の特徴として表現される。
【0046】
分析シートの表データは「インタラクション集合」のデータ形式になっているため、グラフ構造の自動生成が可能となる。グラフ構造の特徴として、例えば以下を自動抽出できる。
・ステークホルダーのノード数
・複数の役割を持つステークホルダーの数
・ＡＩシステムと直接関わらないステークホルダーの数
・ステークホルダーのノード数
・複数の役割を持つステークホルダーの数
・ＡＩシステムと直接関わらないステークホルダーの数
【0047】
倫理的なリスクの発生が起こりやすいグラフ構造の特徴と、おさえておくべきＡＩ倫理チェックリストの項目とが、あらかじめルールとして登録される。例えば、ＡＩシステム１００と直接関わらないステークホルダーの数が１つ以上ある場合は、そのステークホルダーが関わるインタラクションの優先度が上げられる。これは、ＡＩシステム１００の設計・開発において見落としがちな間接的なステークホルダーへの影響を把握するためである。
【0048】
グラフ構造の特徴から登録したルールに基づいて、重要度の高いＡＩ倫理チェック項目が絞り込まれ、優先度付きのＡＩ倫理チェックリストとして生成される。
【0049】
〔Ｂ〕実施形態
以下、図面を参照して一実施の形態を説明する。ただし、以下に示す実施形態はあくまでも例示に過ぎず、実施形態で明示しない種々の変形例や技術の適用を排除する意図はない。すなわち、本実施形態を、その趣旨を逸脱しない範囲で種々変形して実施することができる。また、各図は、図中に示す構成要素のみを備えるという趣旨ではなく、他の機能等を含むことができる。
以下、図面を参照して一実施の形態を説明する。ただし、以下に示す実施形態はあくまでも例示に過ぎず、実施形態で明示しない種々の変形例や技術の適用を排除する意図はない。すなわち、本実施形態を、その趣旨を逸脱しない範囲で種々変形して実施することができる。また、各図は、図中に示す構成要素のみを備えるという趣旨ではなく、他の機能等を含むことができる。
【0050】
上述した関連例においては、ＡＩ倫理チェックリストの生成処理において、倫理リスクが発生しやすい重要インタラクションとされるグラフ構造の特徴（たとえば、ステークホルダーの役割に関する特徴など）のルールに応じて、インタラクションに優先度が付与され、ＡＩ倫理チェックリストが絞り込まれた。
【0051】
一方、実施形態においては、人手で作成したことにより記載内容に過不足があるシステム図について、リスクの見落としを防ぐとともに、過剰な抽出が行われる可能性を低減させる。
【0052】
実施形態においては、ＡＩシステム１００が持つ典型的なコンポーネントとインタラクションの典型例であるテンプレートとが予め何種類か用意される。そして、分析対象に最も近いＡＩシステム１００のシステム図のテンプレートをシステム図の作成者に選定させ、それを利用してシステム図が作成される。選定したテンプレートのシステム図と分析対象のプロジェクトで作成したシステム図とが比較され、コンポーネントやインタラクションの不足が発見され、システム図への追加対象として提案される。
【0053】
図４は、実施形態における情報処理装置１のソフトウェア構成例を模式的に示すブロック図である。
【0054】
実施形態における情報処理装置１（図２４を用いて後述）は、特徴抽出部１１１，特徴差分検出部１１２及び出力部１１３して機能する。
【0055】
【0056】
特徴差分検出部１１２は、分析対象及びテンプレートのインタラクション集合１４３から、分析対象のインタラクションとテンプレートのインタラクションとの差分を検出する。
【0057】
出力部１１３は、検出された差分を、相違しているステークホルダー，コンポーネント及びインタラクションとして出力する。
【0058】
分析対象及びテンプレートのインタラクション集合１４３は、図６を用いて後述する分析シートと、図７を用いて後述するユースケース概要とを含み、図１に示したＡＩシステム１００のシステム図から特徴が抽出されることによって生成される。
【0059】
実施形態における特徴差分検出処理を、図５に示すフローチャート（ステップＡ１～Ａ５）に従って簡単に説明する。
【0060】
【0061】
特徴抽出部１１１は、システム図Ａ，Ｔから機械可読なデータ形式の特徴（例えば、ユースケース概要や分析シート）を抽出する（ステップＡ３）。
【0062】
特徴差分検出部１１２は、システム図Ａ，Ｔ間の特徴差分を検出する（ステップＡ４）。
【0063】
そして、出力部１１３は、修正候補のステークホルダー，コンポーネント及びインタラクションを出力する（ステップＡ５）。そして、特徴差分検出処理は終了する。
【0064】
図６は、実施形態における分析シートを例示するテーブルである。
【0065】
図６に示す分析シートは、ステークホルダー間，ステークホルダーとＡＩシステム間で行われるインタラクションを機械可読な形式で表したものである。分析シートは、各行が一つのインタラクションを表し、その始点・終点のステークホルダーやコンポーネントの種類を示している。
【0066】
例えば、図６に示す例では、インタラクションＩＤ「Ｓ１０１」について、インタラクション始点の種類「推論データ取得元」及びインタラクション終点の種類「推論データ提供元」が登録されている。また、分析シートには、インタラクションの概要やＡＩ倫理特性，リスク事象，リスク要因等が登録されてもよい。
【0067】
図７は、実施形態におけるユースケース概要を例示するテーブルである。
【0068】
図７に示すユースケース概要は、ＡＩシステム１００の分析に必要な項目のうち、ステークホルダーのデータを機械可読な形式で表したものである。本実施形態では、ＡＩ倫理リスク抽出に重要なステークホルダーの情報に注目してデータが抽出される。
【0069】
例えば、図７に示すでは、大項目「ステークホルダーと役割」について、中項目「ＡＩサービスプロバイダ」等が登録されている。また、ユースケース概要には、各中項目に対応する内容が登録されてもよい。
【0070】
図８は、実施形態における書き漏らしを含むＡＩシステム１００ａのシステム図を例示するブロック図である。
【0071】
図８には、図１に示したシステム図のテンプレートに基づき、人手で作成したシステム図が示されている。図８に示す例では、符号Ｂ１に示すように、図１に示したテンプレートにある、その他のステークホルダー２０ｄが書き漏らされている。また、ステークホルダーが書き漏らされた影響で、インタラクションＳ２００も削除されている。
【0072】
【0073】
図９は、実施形態におけるユースケース概要からの特徴抽出処理を説明する図である。
【0074】
特徴抽出部１１１は、符号Ｃ１に示す入力したテンプレートのユースケース概要を、符号Ｃ２に示す機械可読なデータ形式のステークホルダー一覧に変換し、特徴差分検出部１１２への入力とする。なお、テンプレートと実施形態（別言すれば、個々のプロジェクト作成）とのユースケース概要のデータ形式は共通である。
【0075】
符号Ｃ２に示す初期状態における機械可読なステークホルダー一覧では、全てのステークホルダー名に対して、初期値として共通フラグ「０」が設定されている。
【0076】
符号Ｃ３に示す処理後における機械可読なステークホルダー一覧では、図４に示した特徴差分検出部１１２において、テンプレートとプロジェクトとで共通するステークホルダー名について、共通フラグが「１」に設定されている。
【0077】
図１０は、実施形態における分析シートからの特徴抽出処理を説明する図である。
【0078】
符号Ｄ１に示すように、テンプレートの分析シートは、符号Ｄ２に示す機械可読なデータ形式のインタラクション一覧に変換され、特徴差分検出部１１２への入力とされる。なお、テンプレートと実施形態（別言すれば、個々のプロジェクト作成）との分析シートのデータ形式は共通である。
【0079】
符号Ｄ２に示す初期状態における機械可読なインタラクション一覧では、全てのインタラクションの始点及び終点の組み合わせに対して、初期値として共通フラグ「０」が設定されている。
【0080】
符号Ｄ３に示す処理後における機械可読なインタラクション一覧では、図４に示した特徴差分検出部１１２において、テンプレートとプロジェクトとで共通するインタラクションについて、共通フラグが「１」に設定されている。
【0081】
図１１は、実施形態としてのユースケース概要における特徴差分の出力処理を説明する図である。
【0082】
特徴差分検出部１１２は、特徴抽出部１１１から出力されたテンプレートのステークホルダー一覧（符号Ｅ１参照）と、実施形態のステークホルダー一覧（符号Ｅ２参照）とを比較して、その差異を抽出する。そして、図４に示した出力部１１３は、符号Ｅ３に示すように、差異点をユースケース概要からの抽出結果として出力する。
【0083】
【0084】
図１２は、実施形態としての分析シートにおける特徴差分の出力処理を説明する図である。
【0085】
特徴差分検出部１１２は、特徴抽出部１１１から出力されたテンプレートのインタラクション集合の中に含まれる分析シート（符号Ｆ１参照）と、実施形態のインタラクション集合の中に含まれる分析シート（符号Ｆ２参照）とを比較して、その差異を抽出する。そして、図４に示した出力部１１３は、符号Ｆ３に示すように、差異点を分析シートからの抽出結果として出力する。
【0086】
図１２に示す例では、出力部１１３は、情報処理装置１の表示装置１３１（図２４を用いて後述）に、「テンプレートのみにあるインタラクションがあります。その他のステークホルダーから訓練データ取得元へ」と表示させてよい。
【0087】
実施形態としてのステークホルダー一覧における特徴抽出処理を、図１３に示すフローチャート（ステップＧ１～Ｇ８）に従って説明する。
【0088】
特徴抽出部１１１は、機械可読なテンプレートのユースケース一覧からステークホルダー一覧T_Stlistを取得する（ステップＧ１）。
【0089】
特徴抽出部１１１は、機械可読な分析対象のステークホルダー一覧P_Stlistを取得する（ステップＧ２）。
【0090】
特徴差分検出部１１２は、テンプレートのステークホルダー一覧から、未処理のステークホルダーを一つずつ取得する（ステップＧ３）。
【0091】
特徴差分検出部１１２は、取得したステークホルダーのステークホルダー名Nを取得する（ステップＧ４）。
【0092】
特徴差分検出部１１２は、T_Stlistに未処理のステークホルダーが有るかを判定する（ステップＧ５）。
【0093】
未処理のステークホルダーが無い場合には（ステップＧ５の無しルート参照）、特徴差分検出部１１２は、P_StlistとT_Stlistを出力する（ステップＧ６）。そして、ステークホルダー一覧における特徴抽出処理は終了する。
【0094】
一方、未処理のステークホルダーが有る場合には（ステップＧ５の有りルート参照）、特徴差分検出部１１２は、P_Stlistのステークホルダー名Nを参照する（ステップＧ７）。
【0095】
特徴差分検出部１１２は、P_StlistとT_StlistのNの共通フラグを1とする（ステップＧ８）。そして、処理はステップＧ３へ戻る。
【0096】
次に、実施形態としての分析シートにおける特徴抽出処理を、図１４に示すフローチャート（ステップＨ１～Ｈ８）に従って説明する。
【0097】
特徴抽出部１１１は、機械可読なテンプレートのインタラクション一覧T_interaction_listを取得する（ステップＨ１）。
【0098】
特徴抽出部１１１は、機械可読な分析対象のインタラクション一覧P_interaction_listを取得する（ステップＨ２）。
【0099】
特徴差分検出部１１２は、インタラクション一覧T_interaction_listから、インタラクションを一つずつ取得する（ステップＨ３）。
【0100】
特徴差分検出部１１２は、取得したインタラクションIntの始点と終点を取得する（ステップＨ４）。
【0101】
特徴差分検出部１１２は、T_interaction_listに未処理のインタラクションが有るかを判定する（ステップＨ５）。
【0102】
未処理のインタラクションが無い場合には（ステップＨ５の無しルート参照）、特徴差分検出部１１２は、インタラクション一覧T_interaction_listとP_interaction_listを出力する（ステップＨ６）。そして、分析シートにおける特徴抽出処理は終了する。
【0103】
一方、未処理のインタラクションが有る場合には（ステップＨ５の有りルート参照）、特徴差分検出部１１２は、P_interaction_listにおいて始点，終点が同じ組み合わせIntを参照する（ステップＨ７）。
【0104】
特徴差分検出部１１２は、T_interaction_listとP_interaction_listのIntの共通フラグを1とする（ステップＨ８）。そして、処理はステップＨ３へ戻る。
【0105】
図１５は、実施形態における処理結果の出力画面を例示する図である。
【0106】
出力部１１３は、特徴差分検出部１１２の結果をもとに、ユーザに向けてテンプレートとの差異を画面やファイルに出力する。図１５の符号Ｉ１に示す例では、システムのコンポーネントにおいて「その他のステークホルダー」が、インタラクションにおいて「その他のステークホルダーから訓練データ取得元へ」の相違点が、発見されたことが表示されている。
【0107】
実施形態としてのステークホルダー一覧の出力処理を、図１６に示すフローチャート（ステップＪ１～Ｊ７）に従って説明する。
【0108】
出力部１１３は、特徴差分検出部１１２で処理済のP_StlistとT_Stlistを取得する（ステップＪ１）。
【0109】
出力部１１３は、T_Stlistから共通フラグが1のステークホルダーS1を取得する（ステップＪ２）。
【0110】
出力部１１３は、ステークホルダーS1を取得できるかを判定する（ステップＪ３）。
【0111】
取得できない場合には（ステップＪ３のできないルート参照）、処理はステップＪ５へ進む。
【0112】
一方、取得できる場合には（ステップＪ３のできるルート参照）、出力部１１３は、メッセージT1を作成する（ステップＪ４）。メッセージT1は、例えば、「テンプレートにしかないステークホルダーS1が存在します。」というメッセージである。
【0113】
出力部１１３は、P_Stlistから共通フラグが1で未処理のステークホルダーS2を取得する（ステップＪ５）。
【0114】
出力部１１３は、ステークホルダーS2を取得できるかを判定する（ステップＪ６）。
【0115】
取得できない場合には（ステップＪ６のできないルート参照）、ステークホルダー一覧の出力処理は終了する。
【0116】
一方、取得できる場合には（ステップＪ６のできるルート参照）、出力部１１３は、メッセージT2を作成する。メッセージT2は、例えば、「S2は、テンプレートには存在しません。必要性を検討して下さい。」というメッセージであってよい。
【0117】
〔Ｃ〕第１変形例
システム図において、不要なＡＩシステムのコンポーネントとステークホルダーとの関係が存在する場合がある。本第１変形例では、不要なＡＩシステムのコンポーネントとステークホルダーとの関係が存在する場合に、過剰なチェック項目の生成がされることを防ぐ。
システム図において、不要なＡＩシステムのコンポーネントとステークホルダーとの関係が存在する場合がある。本第１変形例では、不要なＡＩシステムのコンポーネントとステークホルダーとの関係が存在する場合に、過剰なチェック項目の生成がされることを防ぐ。
【0118】
図１７は、変形例における追記を含むＡＩシステム１００ｂのシステム図を例示するブロック図である。
【0119】
図１７に示すＡＩシステム１００ｂのシステム図は、図１に示したＡＩシステム１００のシステム図と比較して、符号Ｋ１に示すように、その他のステークホルダー３０ｄ（その他のステークホルダー＃２）及びＡＩシステム利用者４０ｂが追加されている。
【0120】
また、図１７に示すＡＩシステム１００ｂでは、その他のステークホルダー３０ｄ及びＡＩシステム利用者４０ｂが追加されている影響で、図１に示したＡＩシステム１００と比較して、インタラクションＳ１０９，Ｓ２０１，Ｓ２０２が追加されている。
【0121】
図１８は、変形例における分析シートを例示するテーブルである。
【0122】
【0123】
図１８に示す分析シートには、図６に示した分析シートと比較して、ＡＩシステム利用者４０ｂから判定対象者４０ａへのインタラクションＳ１０９と、その他のステークホルダー３０ｄから推論データ取得元３０ｃへのインタラクションＳ２０１と、推論データ取得元３０ｃからその他のステークホルダー３０ｄへのインタラクションＳ２０２とが含まれる。
【0124】
図１９は、変形例におけるユースケース概要を例示するテーブルである。
【0125】
【0126】
【0127】
図２０は、変形例としてのユースケース概要における特徴差分の出力処理を説明する図である。
【0128】
特徴差分検出部１１２は、特徴抽出部１１１から出力されたテンプレートのステークホルダー一覧（符号Ｌ１参照）と、変形例のステークホルダー一覧（符号Ｌ２参照）とを比較して、その差異を抽出する。そして、出力部１１３は、符号Ｌ３に示すように、差異点をユースケース概要からの抽出結果として出力する。
【0129】
図２０に示す例では、出力部１１３は、情報処理装置１の表示装置１３１（図２４を用いて後述）に、テンプレートにないコンポーネントとして、「ＡＩシステム利用者，その他のステークホルダー＃２」を表示させてよい。
【0130】
図２１は、変形例としての分析シートにおける特徴差分の出力処理を説明する図である。
【0131】
特徴差分検出部１１２は、特徴抽出部１１１から出力されたテンプレートのインタラクション集合の中に含まれる分析シート（符号Ｍ１参照）と、変形例のインタラクション集合の中に含まれる分析シート（符号Ｍ２参照）とを比較して、その差異を抽出する。そして、出力部１１３は、符号Ｍ３に示すように、差異点を分析シートからの抽出結果として出力する。
【0132】
図２１に示す例では、出力部１１３は、情報処理装置１の表示装置１３１（図２４を用いて後述）に、テンプレートにないインタラクションとして「その他のステークホルダー＃２から推論データの取得元へ／推論データの取得元からその他のステークホルダー＃２へ／出力からＡＩシステム利用者へ」及びテンプレートのみにあるインタラクションとして「出力から判定対象者へ」を表示させてよい。
【0133】
図２２は、変形例における処理結果の出力画面を例示する図である。
【0134】
出力部１１３は、特徴差分検出部１１２の結果をもとに、ユーザに向けてテンプレートとの差異を画面やファイルに出力する。図２２の符号Ｎ１に示す例では、追加されたコンポーネントとして「その他のステークホルダー＃２及びＡＩシステム利用者」が発見されたことが表示されている。また、追加されたインタラクションとして「その他のステークホルダー＃２から推論データの取得元へ／推論データの取得元からその他のステークホルダー＃２へ／出力からＡＩシステム利用者へ／ＡＩシステム利用者から判定対象者へ」が発見されたことが表示されている。更に、削除されたインタラクションとして「出力から判定対象者へ」が発見されたことが示されている。
【0135】
〔Ｄ〕第２変形例
上述した実施形態及び第１変形例では、分析対象のシステム図の作成者がテンプレートを選択していたが、テンプレートの選定を自動的に行っても良よい。
上述した実施形態及び第１変形例では、分析対象のシステム図の作成者がテンプレートを選択していたが、テンプレートの選定を自動的に行っても良よい。
【0136】
図２３は、第２変形例における情報処理装置１ａのソフトウェア構成例を模式的に示すブロック図である。
【0137】
図２３に示す情報処理装置１ａは、図４に示した情報処理装置１と比較して、複数（別言すれば、二以上）のテンプレートのシステム図１４２の中から適切なシステム図を選択するテンプレート選定部１１４を更に備える。
【0138】
テンプレート選定部１１４は、分析対象のシステム図中に、ＡＩモデルの出力結果である「推論結果」とビジネス側に属する人間である「ビジネス利用者」との間のインタラクションの有無を確認する。
【0139】
テンプレート選定部１１４は、当該インタラクションがある場合は、そのようなインタラクションを持つテンプレートのみを選択するシステム図の候補とする。
【0140】
テンプレート選定部１１４は、候補としたテンプレートのシステム図中のノードの名称を集めた文書をテンプレートごとに作成する。テンプレート選定部１１４は、分析対象のシステム図中のノードの名称を集めた文書も同様に作成する。
【0141】
テンプレート選定部１１４は、各テンプレートと分析対象のシステムから作成した文書の類似度（例えば、ｃｏｓ類似度）を算出する。そして、テンプレート選定部１１４は、分析対象のシステム図と最も高い類似度を持つテンプレートを選定する。
【0142】
〔Ｅ〕第３変形例
実施形態及び第１変形例において、出力部１１３は、分析対象のシステム図とテンプレートのシステム図との差分を画面に出力していたが、差分を分析対象のシステム図に半自動的に反映させてもよい。
実施形態及び第１変形例において、出力部１１３は、分析対象のシステム図とテンプレートのシステム図との差分を画面に出力していたが、差分を分析対象のシステム図に半自動的に反映させてもよい。
【0143】
出力部１１３は、分析対象のシステム図とテンプレートのシステム図との差分を画面に出力した際に、この差分を分析対象のシステム図に反映するかオペレータに問い合わせる。
【0144】
出力部１１３は、オペレータから反映するとの回答を取得した場合は、分析対象のシステム図を変更する。
【0145】
出力部１１３は、不足しているステークホルダー及びインタラクションがある場合には、機械可読なステークホルダー一覧に不足しているステークホルダーを加えると共に、機械可読なインタラクション一覧に不足しているインタラクションを加える。
【0146】
出力部１１３は、過剰なステークホルダーやインタラクションがある場合には、機械可読なステークホルダー一覧から過剰なステークホルダーを削除すると共に、機械可読なインタラクション一覧から過剰なインタラクションを削除する。
【0147】
出力部１１３は、更新したステークホルダー一覧とインタラクション一覧を使い、グラフ描画技術（例えば、Graphviz）を用いて、システム図を描画する。
【0148】
〔Ｆ〕ハードウェア構成例
図２４は、実施形態及び各変形例における情報処理装置１，１ａのハードウェア構成例を模式的に示すブロック図である。
図２４は、実施形態及び各変形例における情報処理装置１，１ａのハードウェア構成例を模式的に示すブロック図である。
【0149】
図２４に示すように、情報処理装置１，１ａは、ＣＰＵ（Central Processing Unit）１１，メモリ部１２，表示制御部１３，記憶装置１４，入力Interface（ＩＦ）１５，外部記録媒体処理部１６及び通信ＩＦ１７を備える。
【0150】
メモリ部１２は、記憶部の一例であり、例示的に、Read Only Memory（ＲＯＭ）及びRandom Access Memory（ＲＡＭ）などである。メモリ部１２のＲＯＭには、Basic Input/Output System（ＢＩＯＳ）等のプログラムが書き込まれてよい。メモリ部１２のソフトウェアプログラムは、ＣＰＵ１１に適宜に読み込まれて実行されてよい。また、メモリ部１２のＲＡＭは、一時記録メモリあるいはワーキングメモリとして利用されてよい。
【0151】
表示制御部１３は、表示装置１３１と接続され、表示装置１３１を制御する。表示装置１３１は、液晶ディスプレイやOrganic Light-Emitting Diode（ＯＬＥＤ）ディスプレイ，Cathode Ray Tube（ＣＲＴ），電子ペーパーディスプレイ等であり、オペレータ等に対する各種情報を表示する。表示装置１３１は、入力装置と組み合わされたものでもよく、例えば、タッチパネルでもよい。表示装置１３１は、情報処理装置１，１ａのユーザに対する種々の情報を表示する。
【0152】
記憶装置１４は、高ＩＯ性能の記憶装置であり、例えば、Dynamic Random Access Memory（ＤＲＡＭ）やＳＳＤ（Solid State Drive），Storage Class Memory（ＳＣＭ），ＨＤＤ（Hard Disk Drive）が用いられてよい。
【0153】
入力ＩＦ１５は、マウス１５１やキーボード１５２等の入力装置と接続され、マウス１５１やキーボード１５２等の入力装置を制御してよい。マウス１５１やキーボード１５２は、入力装置の一例であり、これらの入力装置を介して、オペレータが各種の入力操作を行う。
【0154】
外部記録媒体処理部１６は、記録媒体１６０が装着可能に構成される。外部記録媒体処理部１６は、記録媒体１６０が装着された状態において、記録媒体１６０に記録されている情報を読み取り可能に構成される。本例では、記録媒体１６０は、可搬性を有する。例えば、記録媒体１６０は、フレキシブルディスク、光ディスク、磁気ディスク、光磁気ディスク、又は、半導体メモリ等である。
【0155】
通信ＩＦ１７は、外部装置との通信を可能にするためのインタフェースである。
【0156】
ＣＰＵ１１は、プロセッサの一例であり、種々の制御や演算を行う処理装置である。ＣＰＵ１１は、メモリ部１２に読み込まれたOperating System（ＯＳ）やプログラムを実行することにより、種々の機能を実現する。なお、ＣＰＵ１１は、複数のＣＰＵを含むマルチプロセッサであってもよいし、複数のＣＰＵコアを有するマルチコアプロセッサであってもよく、或いは、マルチコアプロセッサを複数有する構成であってもよい。
【0157】
情報処理装置１，１ａ全体の動作を制御するための装置は、ＣＰＵ１１に限定されず、例えば、ＭＰＵやＤＳＰ，ＡＳＩＣ，ＰＬＤ，ＦＰＧＡのいずれか１つであってもよい。また、情報処理装置１，１ａ全体の動作を制御するための装置は、ＣＰＵ，ＭＰＵ，ＤＳＰ，ＡＳＩＣ，ＰＬＤ及びＦＰＧＡのうちの２種類以上の組み合わせであってもよい。なお、ＭＰＵはMicro Processing Unitの略称であり、ＤＳＰはDigital Signal Processorの略称であり、ＡＳＩＣはApplication Specific Integrated Circuitの略称である。また、ＰＬＤはProgrammable Logic Deviceの略称であり、ＦＰＧＡはField Programmable Gate Arrayの略称である。
【0158】
〔Ｇ〕効果
上述した実施形態におけるＡＩシステムチェックプログラム，ＡＩシステムチェック方法及び情報処理装置１によれば、例えば以下の作用効果を奏することができる。
上述した実施形態におけるＡＩシステムチェックプログラム，ＡＩシステムチェック方法及び情報処理装置１によれば、例えば以下の作用効果を奏することができる。
【0159】
特徴抽出部１１１は、ＡＩシステム１００のステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定する。特徴差分検出部１１２は、第１の複数の組と、他のＡＩシステム１００ａのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較する。出力部１１３は、比較する処理の結果に基づいて、第１の複数の組に含まれ、第２の複数の組に含まれない第１の組を差分情報として出力する。
【0160】
これにより、ＡＩシステムのシステム図の精度向上による、リスク分析作業の精度向上及び効率化を図ることができる。具体的には、ＡＩシステム１００ａのコンポーネントとステークホルダーとの関係における漏れを検出し、生成するチェック項目に漏れが生じることを防ぐことができる。
【0161】
出力部１１３は、差分情報として、更に、比較する処理の結果に基づいて、第２の複数の組に含まれ、第１の複数の組に含まれない第２の組を出力する。
【0162】
これにより、不要なＡＩシステム１００ａのコンポーネントとステークホルダーとの関係を検出して、過剰なチェック項目が生成されることを防ぐことができる。
【0163】
第１の複数の組は、テンプレートとしてのＡＩシステム１００のステークホルダーの構成に基づいて定められ、第２の複数の組は、プロジェクトとしての他のＡＩシステム１００ａのステークホルダーの構成に基づいて定められる。
【0164】
これにより、テンプレートとしてのＡＩシステム１００のシステム図に基づいて、プロジェクトとしての他のＡＩシステム１００ａにおいて漏れが発生することを防ぐことができる。
【0165】
テンプレート選定部１１４は、二以上の第１の複数の組についてのＡＩシステム１００に含まれる文書と、他のＡＩシステム１００ａに含まれる文書との類似度に基づき、二以上の第１の複数の組の中から、一つの第１の複数の組を選定する。
【0166】
これにより、他のＡＩシステム１００ａに適合するテンプレートとしてのＡＩシステム１００を選定することができる。
【0167】
出力部１１３は、差分情報を他のＡＩシステム１００ａに反映させる。
【0168】
これにより、差分情報を他のＡＩシステム１００ａに自動的に反映できるため、オペレータの作業工数を低減できる。
【0169】
〔Ｈ〕その他
開示の技術は上述した実施形態に限定されるものではなく、本実施形態の趣旨を逸脱しない範囲で種々変形して実施することができる。本実施形態の各構成及び各処理は、必要に応じて取捨選択することができ、あるいは適宜組み合わせてもよい。
開示の技術は上述した実施形態に限定されるものではなく、本実施形態の趣旨を逸脱しない範囲で種々変形して実施することができる。本実施形態の各構成及び各処理は、必要に応じて取捨選択することができ、あるいは適宜組み合わせてもよい。
【0170】
〔Ｉ〕付記
以上の実施形態に関し、更に以下の付記を開示する。
以上の実施形態に関し、更に以下の付記を開示する。
【0171】
（付記１）
Artificial Intelligence（ＡＩ）システムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定し、
前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、
前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、
処理をコンピュータに実行させる、ＡＩシステムチェックプログラム。
Artificial Intelligence（ＡＩ）システムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定し、
前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、
前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、
処理をコンピュータに実行させる、ＡＩシステムチェックプログラム。
【0172】
（付記２）
前記差分情報として、更に、前記比較する処理の結果に基づいて、前記第２の複数の組に含まれ、前記第１の複数の組に含まれない第２の組を出力する、
処理を前記コンピュータに実行させる、付記１に記載のＡＩシステムチェックプログラム。
前記差分情報として、更に、前記比較する処理の結果に基づいて、前記第２の複数の組に含まれ、前記第１の複数の組に含まれない第２の組を出力する、
処理を前記コンピュータに実行させる、付記１に記載のＡＩシステムチェックプログラム。
【0173】
（付記３）
前記第１の複数の組は、テンプレートとしての前記ＡＩシステムのステークホルダーの構成に基づいて定められ、
前記第２の複数の組は、プロジェクトとしての前記他のＡＩシステムのステークホルダーの構成に基づいて定められる、
付記１又は２に記載のＡＩシステムチェックプログラム。
前記第１の複数の組は、テンプレートとしての前記ＡＩシステムのステークホルダーの構成に基づいて定められ、
前記第２の複数の組は、プロジェクトとしての前記他のＡＩシステムのステークホルダーの構成に基づいて定められる、
付記１又は２に記載のＡＩシステムチェックプログラム。
【0174】
（付記４）
二以上の前記第１の複数の組についての前記ＡＩシステムに含まれる文書と、前記他のＡＩシステムに含まれる文書との類似度に基づき、前記二以上の前記第１の複数の組の中から、一つの前記第１の複数の組を選定する、
処理を前記コンピュータに実行させる、付記１又は２に記載のＡＩシステムチェックプログラム。
二以上の前記第１の複数の組についての前記ＡＩシステムに含まれる文書と、前記他のＡＩシステムに含まれる文書との類似度に基づき、前記二以上の前記第１の複数の組の中から、一つの前記第１の複数の組を選定する、
処理を前記コンピュータに実行させる、付記１又は２に記載のＡＩシステムチェックプログラム。
【0175】
（付記５）
前記差分情報を前記他のＡＩシステムに反映させる、
処理を前記コンピュータに実行させる、付記１又は２に記載のＡＩシステムチェックプログラム。
前記差分情報を前記他のＡＩシステムに反映させる、
処理を前記コンピュータに実行させる、付記１又は２に記載のＡＩシステムチェックプログラム。
【0176】
（付記６）
Artificial Intelligence（ＡＩ）システムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定し、
前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、
前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、
処理をコンピュータが実行する、ＡＩシステムチェック方法。
Artificial Intelligence（ＡＩ）システムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定し、
前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、
前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、
処理をコンピュータが実行する、ＡＩシステムチェック方法。
【0177】
（付記７）
前記差分情報として、更に、前記比較する処理の結果に基づいて、前記第２の複数の組に含まれ、前記第１の複数の組に含まれない第２の組を出力する、
処理を前記コンピュータが実行する、付記６に記載のＡＩシステムチェック方法。
前記差分情報として、更に、前記比較する処理の結果に基づいて、前記第２の複数の組に含まれ、前記第１の複数の組に含まれない第２の組を出力する、
処理を前記コンピュータが実行する、付記６に記載のＡＩシステムチェック方法。
【0178】
（付記８）
前記第１の複数の組は、テンプレートとしての前記ＡＩシステムのステークホルダーの構成に基づいて定められ、
前記第２の複数の組は、プロジェクトとしての前記他のＡＩシステムのステークホルダーの構成に基づいて定められる、
付記６又は７に記載のＡＩシステムチェック方法。
前記第１の複数の組は、テンプレートとしての前記ＡＩシステムのステークホルダーの構成に基づいて定められ、
前記第２の複数の組は、プロジェクトとしての前記他のＡＩシステムのステークホルダーの構成に基づいて定められる、
付記６又は７に記載のＡＩシステムチェック方法。
【0179】
（付記９）
二以上の前記第１の複数の組についての前記ＡＩシステムに含まれる文書と、前記他のＡＩシステムに含まれる文書との類似度に基づき、前記二以上の前記第１の複数の組の中から、一つの前記第１の複数の組を選定する、
処理を前記コンピュータが実行する、付記６又は７に記載のＡＩシステムチェック方法。
二以上の前記第１の複数の組についての前記ＡＩシステムに含まれる文書と、前記他のＡＩシステムに含まれる文書との類似度に基づき、前記二以上の前記第１の複数の組の中から、一つの前記第１の複数の組を選定する、
処理を前記コンピュータが実行する、付記６又は７に記載のＡＩシステムチェック方法。
【0180】
（付記１０）
前記差分情報を前記他のＡＩシステムに反映させる、
処理を前記コンピュータが実行する、付記６又は７に記載のＡＩシステムチェック方法。
前記差分情報を前記他のＡＩシステムに反映させる、
処理を前記コンピュータが実行する、付記６又は７に記載のＡＩシステムチェック方法。
【0181】
（付記１１）
Artificial Intelligence（ＡＩ）システムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定し、
前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、
前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、
プロセッサを備える、情報処理装置。
Artificial Intelligence（ＡＩ）システムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定し、
前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、
前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、
プロセッサを備える、情報処理装置。
【0182】
（付記１２）
前記プロセッサは、
前記差分情報として、更に、前記比較する処理の結果に基づいて、前記第２の複数の組に含まれ、前記第１の複数の組に含まれない第２の組を出力する、
付記１１に記載のＡＩシステムチェック装置。
前記プロセッサは、
前記差分情報として、更に、前記比較する処理の結果に基づいて、前記第２の複数の組に含まれ、前記第１の複数の組に含まれない第２の組を出力する、
付記１１に記載のＡＩシステムチェック装置。
【0183】
（付記１３）
前記第１の複数の組は、テンプレートとしての前記ＡＩシステムのステークホルダーの構成に基づいて定められ、
前記第２の複数の組は、プロジェクトとしての前記他のＡＩシステムのステークホルダーの構成に基づいて定められる、
付記１１又は１２に記載のＡＩシステムチェック装置。
前記第１の複数の組は、テンプレートとしての前記ＡＩシステムのステークホルダーの構成に基づいて定められ、
前記第２の複数の組は、プロジェクトとしての前記他のＡＩシステムのステークホルダーの構成に基づいて定められる、
付記１１又は１２に記載のＡＩシステムチェック装置。
【0184】
（付記１４）
前記プロセッサは、
二以上の前記第１の複数の組についての前記ＡＩシステムに含まれる文書と、前記他のＡＩシステムに含まれる文書との類似度に基づき、前記二以上の前記第１の複数の組の中から、一つの前記第１の複数の組を選定する、
付記１１又は１２に記載のＡＩシステムチェック装置。
前記プロセッサは、
二以上の前記第１の複数の組についての前記ＡＩシステムに含まれる文書と、前記他のＡＩシステムに含まれる文書との類似度に基づき、前記二以上の前記第１の複数の組の中から、一つの前記第１の複数の組を選定する、
付記１１又は１２に記載のＡＩシステムチェック装置。
【0185】
（付記５）
前記プロセッサは、
前記差分情報を前記他のＡＩシステムに反映させる、
付記１１又は１２に記載のＡＩシステムチェック装置。
前記プロセッサは、
前記差分情報を前記他のＡＩシステムに反映させる、
付記１１又は１２に記載のＡＩシステムチェック装置。
【符号の説明】
【0186】
１，１ａ ：情報処理装置
１０ａ ：ＡＩサービスプロバイダ
１０ｂ ：監視者
１１ ：ＣＰＵ
１２ ：メモリ部
１３ ：表示制御部
１４ ：記憶装置
１５ ：入力ＩＦ
１６ ：外部記録媒体処理部
１７ ：通信ＩＦ
２０ａ ：開発者
２０ｂ ：訓練データ提供者
２０ｃ ：訓練データ取得元
２０ｄ ：ステークホルダー
３０ａ ：ビジネス利用者
３０ｂ ：推論データ提供者
３０ｃ ：推論データ取得元
３０ｄ ：ステークホルダー
４０ａ ：判定対象者
４０ｂ ：ＡＩシステム利用者
１００，１００ａ，１００ｂ ：ＡＩシステム
１０１ ：訓練データ
１０２ ：機械学習部
１０３ ：ＡＩモデル
１０４ ：推論データ
１０５ ：推論結果
１１０ ：訓練部
１１１ ：特徴抽出部
１１２ ：特徴差分検出部
１１３ ：出力部
１１４ ：テンプレート選定部
１２０ ：予測部
１３１ ：表示装置
１４１ ：分析対象のシステム図
１４２ ：テンプレートのシステム図
１４３ ：インタラクション集合
１５１ ：マウス
１５２ ：キーボード
１６０ ：記録媒体
１０ａ ：ＡＩサービスプロバイダ
１０ｂ ：監視者
１１ ：ＣＰＵ
１２ ：メモリ部
１３ ：表示制御部
１４ ：記憶装置
１５ ：入力ＩＦ
１６ ：外部記録媒体処理部
１７ ：通信ＩＦ
２０ａ ：開発者
２０ｂ ：訓練データ提供者
２０ｃ ：訓練データ取得元
２０ｄ ：ステークホルダー
３０ａ ：ビジネス利用者
３０ｂ ：推論データ提供者
３０ｃ ：推論データ取得元
３０ｄ ：ステークホルダー
４０ａ ：判定対象者
４０ｂ ：ＡＩシステム利用者
１００，１００ａ，１００ｂ ：ＡＩシステム
１０１ ：訓練データ
１０２ ：機械学習部
１０３ ：ＡＩモデル
１０４ ：推論データ
１０５ ：推論結果
１１０ ：訓練部
１１１ ：特徴抽出部
１１２ ：特徴差分検出部
１１３ ：出力部
１１４ ：テンプレート選定部
１２０ ：予測部
１３１ ：表示装置
１４１ ：分析対象のシステム図
１４２ ：テンプレートのシステム図
１４３ ：インタラクション集合
１５１ ：マウス
１５２ ：キーボード
１６０ ：記録媒体
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】