特許7403686開発側セキュリティ分析支援装置およびセキュリティ分析支援システム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-12-14
(45)【発行日】2023-12-22
(54)【発明の名称】開発側セキュリティ分析支援装置およびセキュリティ分析支援システム
(51)【国際特許分類】
G06F 21/57 20130101AFI20231215BHJP
G06F 8/20 20180101ALI20231215BHJP
G06F 21/55 20130101ALI20231215BHJP
【ＦＩ】
G06F21/57 370
G06F8/20
G06F21/55 320
【請求項の数】
7
(21)【出願番号】P 2022565298
(86)(22)【出願日】2021-11-19
(86)【国際出願番号】 JP2021042560
(87)【国際公開番号】W WO2022113895
(87)【国際公開日】2022-06-02
【審査請求日】2022-11-14
(31)【優先権主張番号】PCT/JP2020/044522
(32)【優先日】2020-11-30
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000006013
【氏名又は名称】三菱電機株式会社
(74)【代理人】
【識別番号】100088672
【弁理士】
【氏名又は名称】吉竹 英俊
(74)【代理人】
【識別番号】100088845
【弁理士】
【氏名又は名称】有田 貴弘
(72)【発明者】
【氏名】宮下 修治
(72)【発明者】
【氏名】石原 新士
(72)【発明者】
【氏名】古賀 陽一郎
【審査官】中里 裕正
(56)【参考文献】
【文献】特表２０２０－５２４８５５（ＪＰ，Ａ）
【文献】特開２０１０－２６５４７（ＪＰ，Ａ）
【文献】特開２００５－３１６７７９（ＪＰ，Ａ）
【文献】国際公開第２０１７／２１７３０１（ＷＯ，Ａ１）
【文献】米国特許出願公開第２００７／０２３９９９９（ＵＳ，Ａ１）
【文献】米国特許第７９６６６５９（ＵＳ，Ｂ１）
【文献】米国特許第１０７８５２４３（ＵＳ，Ｂ１）
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｆ ２１／５７
Ｇ０６Ｆ ８／２０
Ｇ０６Ｆ ２１／５５
(57)【特許請求の範囲】
【請求項1】
開発対象に合うセキュリティ要求を予測するためのセキュリティ要求予測モデルに、前記開発対象の特徴と、前記開発対象の要求仕様と、前記開発対象が準拠する予め定められた規定とを含むデータを入力して、前記セキュリティ要求を推論するセキュリティ要求推論部と、前記セキュリティ要求推論部が推論した前記セキュリティ要求に基づいて、セキュリティ要求とセキュリティ要件との対応を示す情報を格納した第１のデータベースから、前記セキュリティ要求に対応するセキュリティ要件を取得するセキュリティ要件取得部と、
前記開発対象に合うセキュリティ機能を実現する設計情報を選定するための設計情報選定モデルに、前記セキュリティ要件取得部が取得した前記セキュリティ要件を入力して、前記設計情報を推論するセキュリティ機能推論部と、
を備える、開発側セキュリティ分析支援装置。
【請求項2】
データウェアハウスに格納された前記開発対象に対する脅威、並びに前記脅威に対する対策に関する情報に含まれる前記開発対象の特徴、前記開発対象の要求仕様、および前記開発対象が準拠する予め定められた規定からなる第１の入力と、前記第１の入力に対する正解ラベルとなる前記セキュリティ要求とを教師データとして学習することにより、前記開発対象に合う前記セキュリティ要求を予測する前記セキュリティ要求予測モデルを生成する第１のモデル生成部と、前記データウェアハウスに格納された情報に含まれる前記セキュリティ要件からなる第２の入力と、前記第２の入力に対する正解ラベルとなるセキュリティ機能の選定とを教師データとして学習することにより、前記開発対象に対する前記設計情報を選定する前記設計情報選定モデルを生成する第２のモデル生成部と、
を備える、請求項１に記載の開発側セキュリティ分析支援装置。
【請求項3】
前記設計情報、動作ログ、および脆弱性情報からなる状態と、前記状態に対するデータウェアハウスに格納された情報に含まれるセキュリティテストケースからなる第３の入力とを含む学習データを用いて強化学習することにより、予測されるテスト結果に対する報酬基準から、前記開発対象に対するセキュリティテストケースを探索的に出力するセキュリティテストモデルを生成する第３のモデル生成部をさらに備える、請求項１または２に記載の開発側セキュリティ分析支援装置。
【請求項4】
前記要求仕様はシステム構成図を含む、請求項１から３のいずれか１項に記載の開発側セキュリティ分析支援装置。
【請求項5】
前記セキュリティ要求は、脅威、信頼境界、および責任分界を含む、請求項１から４のいずれか１項に記載の開発側セキュリティ分析支援装置。
【請求項6】
前記設計情報は、障害分類、対策、攻撃者、および攻撃ルートを含む、請求項１から５のいずれか１項に記載の開発側セキュリティ分析支援装置。
【請求項7】
請求項１から６のいずれか１項に記載の開発側セキュリティ分析支援装置と、運用側セキュリティ分析支援装置と、
を備え、
前記運用側セキュリティ分析支援装置は、
シグネチャおよびアラートルールを取得し、当該シグネチャおよびアラートルールを更新するコマンドを発行する異常検知データ比較部と、
前記異常検知データ比較部で更新された前記シグネチャおよびアラートルールを適用した運用対象の動作情報、製品情報、および障害情報を含む運用ログ情報を受信して運用保守解析データベースに格納する通信部と、
前記運用保守解析データベースから前記運用ログ情報を取得する運用ログデータ取得部と、
市場における前記運用対象製品の運用から得られる知見情報を予測するための機械学習を行った学習済みのセキュリティ監視モデルに前記運用ログデータ取得部が取得した前記運用ログ情報を入力し、前記セキュリティ監視モデルを用いて演算処理を実行することで、前記知見情報を予測するセキュリティ監視モデル推論部と、
を備え、
前記開発側セキュリティ分析支援装置と前記運用側セキュリティ分析支援装置とがセキュリティに関する情報を相互に補完的に連携する、セキュリティ分析支援システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、対象製品に対する攻撃を検知し、保守・運用を行う開発側セキュリティ分析支援装置およびセキュリティ分析支援システムに関する。
【背景技術】
【0002】
従来の製品セキュリティの分析装置は、対象システムに含まれる機能アプリケーションについてシステム仕様情報を用いてモデル化した機能アプリケーションモデル情報と、事例システムに含まれる脆弱性についてシステム仕様情報を用いてモデル化した脆弱性モデル情報とに基づいて、対象システムの脅威分析を行っていた（例えば、特許文献１参照）。また、他の脅威分析に関する技術も開示されている（例えば、非特許文献１参照）。
【先行技術文献】
【特許文献】
【0003】
【文献】国際公開第２０１９／０９３０５９号
【非特許文献】
【0004】
【文献】“マイクロソフト脅威モデリングツール ２０１８ ファーストステップガイド”、［online］、マイクロソフト社、［令和２年７月１日検索］、インターネット<URL : https://docs.microsoft.com/ja-jp/azure/security/develop/threat-modeling-tool>
【発明の概要】
【発明が解決しようとする課題】
【0005】
従来の脅威分析に係る技術では、製品セキュリティ上の脅威および脆弱性の分析作業に関して、ソフトウェアの概念設計レベルの「要件抽出」しか取り上げられておらず、より具体的なシステムレベルにおける要求分析の「要件抽出」及びシステム設計の「機能選定」は別途開発者の手作業が必要となっていた。そのため、セキュリティに関して「要件抽出」から「機能選定」までの工数が増大すると共に、作業者の熟練度によって品質が一定ではなく属人的となっていた。
【0006】
更に、製品の「開発側」および「運用側」は、両者間における情報の連携が自動化できておらず、運用側で見つかった新たな脅威について「開発側」へのフィードバックが遅れる場合があった。一方、「開発側」で既知となった脆弱性およびその対策について「運用側」に迅速かつ十分に展開できていなかった。
【0007】
このように、従来の脅威分析に係る技術では、効率的にセキュリティの品質を向上させることができなかった。
【0008】
本開示は、このような問題を解決するためになされたものであり、効率的にセキュリティの品質を向上させることが可能な開発側セキュリティ分析支援装置およびセキュリティ分析支援システムを提供することを目的とする。
【課題を解決するための手段】
【0009】
上記の課題を解決するために、本開示による開発側セキュリティ分析支援装置は、開発対象に合うセキュリティ要求を予測するためのセキュリティ要求予測モデルに、開発対象の特徴と、開発対象の要求仕様と、開発対象が準拠する予め定められた規定とを含むデータを入力して、セキュリティ要求を推論するセキュリティ要求推論部と、セキュリティ要求推論部が推論したセキュリティ要求に基づいて、セキュリティ要求とセキュリティ要件との対応を示す情報を格納した第１のデータベースから、セキュリティ要求に対応するセキュリティ要件を取得するセキュリティ要件取得部と、開発対象に合うセキュリティ機能を実現する設計情報を選定するための設計情報選定モデルに、セキュリティ要件取得部が取得したセキュリティ要件を入力して、設計情報を推論するセキュリティ機能推論部とを備える。
【発明の効果】
【0010】
本開示によれば、効率的にセキュリティの品質を向上させることが可能となる。
【0011】
本開示の目的、特徴、態様、および利点は、以下の詳細な説明と添付図面とによって、より明白となる。
【図面の簡単な説明】
【0012】
【図1】実施の形態１による開発側セキュリティ分析支援装置の全体構成の概要を示すブロック図である。
【図2】実施の形態１による開発側セキュリティ分析支援装置の構成の詳細を示すブロック図である。
【図3】実施の形態１による開発側セキュリティ分析支援装置の構成の詳細を示すブロック図である。
【図4】実施の形態１による開発側セキュリティ分析支援装置の構成の詳細を示すブロック図である。
【図5】実施の形態１による製品の特徴確認シートの一例を示す図である。
【図6】実施の形態１による製品の特徴確認シートの一例を示す図である。
【図7】実施の形態１によるシステム特徴ＤＢの一例を示す図である。
【図8】実施の形態１による障害ＤＢの一例を示す図である。
【図9】実施の形態１による脅威ＤＢの一例を示す図である。
【図10】実施の形態１による対策ＤＢの一例を示す図である。
【図11】実施の形態１による脆弱性情報ＤＢの一例を示す図である。
【図12】実施の形態１による運用ログ・シグネチャＤＢの一例を示す図である。
【図13】実施の形態１によるプロジェクトＤＢの一例を示す図である。
【図14】実施の形態１による仕様書・設計書ＤＢの一例を示す図である。
【図15】実施の形態１によるセキュリティ規格ＤＢの一例を示す図である。
【図16】実施の形態１による法令・規制ＤＢの一例を示す図である。
【図17】３層のニューラルネットワークを説明するための図である。
【図18】実施の形態１による学習部におけるデータの取得および蓄積を示すフローチャートである。
【図19】実施の形態１による学習部におけるデータの取得および蓄積を示すフローチャートである。
【図20】実施の形態１による学習部におけるセキュリティ要求予測モデルの生成処理を示すフローチャートである。
【図21】実施の形態１による学習部における設計情報選定モデルの生成処理を示すフローチャートである。
【図22】実施の形態１による推論部における推論処理を示すフローチャートである。
【図23】実施の形態１によるセキュリティ要件情報シートの一例を示す図である。
【図24】実施の形態１によるセキュリティ要件情報シートの一例を示す図である。
【図25】実施の形態１によるセキュリティ設計情報シートの一例を示す図である。
【図26】実施の形態２による運用側セキュリティ分析支援装置の全体構成の概要を示すブロック図である。
【図27】実施の形態２による運用側セキュリティ分析支援装置の構成の詳細を示すブロック図である。
【図28】実施の形態２によるシグネチャ更新リストファイルの一例を示す図である。
【図29】実施の形態２による運用・保守解析ＤＢの一例を示す図である。
【図30】実施の形態２による学習部におけるセキュリティ監視モデルの生成処理を示すフローチャートである。
【図31】実施の形態２による推論部における推論処理を示すフローチャートである。
【図32】実施の形態２による推論部における推論処理を示すフローチャートである。
【図33】実施の形態２による市場における製品の運用から得られる知見ファイルの一例を示す図である。
【図34】実施の形態２による市場における製品の運用から得られる知見ファイルの一例を示す図である。
【図35】実施の形態３による運用側セキュリティ分析支援装置の構成の詳細を示すブロック図である。
【図36】実施の形態３による推論部における推論処理を示すフローチャートである。
【図37】実施の形態４による開発側セキュリティ分析支援装置の全体構成の概要を示すブロック図である。
【図38】実施の形態４による開発側セキュリティ分析支援装置の構成の詳細を示すブロック図である。
【図39】実施の形態４による統合ＤＨの構成を示すブロック図である。
【図40】実施の形態４によるセキュリティテスト・アラートルールＤＢの一例を示す図である。
【図41】実施の形態４によるセキュリティテスト判定結果の一例を示す図である。
【図42】実施の形態４によるテスト部におけるデータの取得、セキュリティテストモデルの生成、および推論処理を示すフローチャートである。
【図43】実施の形態４によるテスト部におけるデータの取得、セキュリティテストモデルの生成、および推論処理を示すフローチャートである。
【発明を実施するための形態】
【0013】
＜実施の形態１＞
＜１．構成＞
図１は、実施の形態１による開発側セキュリティ分析支援装置１０の構成を示すブロック図である。図２，３，４は、開発側セキュリティ分析支援装置１０の構成の詳細を示すブロック図である。図２および図３はＢＬ１－ＢＬ２で繋がっており、図３および図４はＢＬ３－ＢＬ４で繋がっている。
＜１．構成＞
図１は、実施の形態１による開発側セキュリティ分析支援装置１０の構成を示すブロック図である。図２，３，４は、開発側セキュリティ分析支援装置１０の構成の詳細を示すブロック図である。図２および図３はＢＬ１－ＢＬ２で繋がっており、図３および図４はＢＬ３－ＢＬ４で繋がっている。
【0014】
開発側セキュリティ分析支援装置１０は、これから開発する製品のセキュリティ要求の抽出及びセキュリティ機能の選定に関する開発者の分析支援を行う装置である。製品の開発が完了して市場に出荷された後は、製品（フィールド）９０（後述の図２６，２７参照）となり、運用側セキュリティ分析支援装置５０から運用ログ監視の知見をフィードバックして連携し、類似の製品開発のプロジェクトにおけるセキュリティ要求の抽出及びセキュリティ機能の選定をより迅速に実施できるようにする。なお、本開示におけるプロジェクトとは、ソフトウェア開発及び設計を伴った製品（装置）開発やシステム開発等を行うプロジェクトのことをいう。
【0015】
開発側セキュリティ分析支援装置１０は、主記憶部１００と、補助記憶部２００と、インターフェース部３００と、プロセッサ４００とを備えている。また、開発側セキュリティ分析支援装置１０は、表示装置５００および入出力装置６００と接続されている。開発側セキュリティ分析支援装置１０は、例えば、パーソナルコンピュータである。
【0016】
プロセッサ４００は、信号線を介して他のハードウェアと接続されている。プロセッサ４００は、中央演算処理装置（ＣＰＵ：Central Processing Unit）、ＭＰＵ（Micro Processing Unit）、ＤＳＰ（Digital Signal Processor）、ＧＰＵ（Graphics Processing Unit）、マイコン、ＦＰＧＡ（Field Programmable Gate Array）、ＡＳＩＣ（Application Specific Integrated Circuit）等で実現できる。プロセッサ４００は、後述する補助記憶部２００に記憶されたＯＳ（Operating System）、アプリケーションプログラム、及び種々のデータを読み込んで演算処理を実行することにより、種々の機能を実現する。プロセッサ４００は、後述する機能的構成を含む。当該機能的構成は、ファームウェアにより実現されてもよい。プロセッサ４００と、後述する主記憶部１００及び補助記憶部２００とをまとめたハードウェアのことを「プロセッシングサーキットリ」ともいう。
【0017】
主記憶部１００は、揮発性の記憶部である。主記憶部１００は、ＲＡＭ（Random Access Memory）等で実現できる。主記憶部１００は、開発側セキュリティ分析支援装置１０において使用され、生成され、入出力され、或いは送受信されるデータを一時的に記憶する。また、主記憶部１００は、データ収集部１０１、マルチモーダル特徴解析部１０２、データ一次加工統合部１０３、セキュリティ要求抽出データ取得前処理部１０４、セキュリティ要求予測モデル生成部１０５（第１のモデル生成部）、セキュリティ機能選定データ取得前処理部１０６、設計情報選定モデル生成部１０７（第２のモデル生成部）、製品企画データ取得部１０８、セキュリティ要求推論部１０９、コスト・スケジュール調整部１１０、セキュリティ要件取得部１１１、セキュリティ機能推論部１１２、セキュリティ監視データ取得前処理部１１３、セキュリティ監視モデル生成部１１４、脅威・対策比較連携更新部１１５を含む。
【0018】
データ収集部１０１は、過去のプロジェクトデータ、脆弱性解析結果情報、仕様書・設計書、法令・規制情報、セキュリティ規格、過去の市場における製品の運用ログ及びインシデント・シグネチャ情報のそれぞれの既存のデータを収集し、データレイク２１０へ送信する。
【0019】
マルチモーダル特徴解析部１０２は、自然言語処理と画像認識結果とをかけあわせて、システム構成に応じた製品の仕様、準拠する法令・規制及び規格、脅威、信頼境界、責任分界、コスト、期間、障害分類、対策、攻撃者、攻撃ルート、障害情報、動作ログ、シグネチャの各特徴とそれらの関係を整理する。ここで、法令・規制及び規格は「予め定められた規定」とも記載する。
【0020】
データ一次加工統合部１０３は、自然言語処理の構文解析結果からデータのチェック、クレンジング、機密情報や不要な文字を削除する。
【0021】
セキュリティ要求抽出データ取得前処理部１０４は、製品の特徴、要求仕様（システム構成図を含む仕様）、準拠する法令・規制、セキュリティ規格の各入力と、当該各入力に対する正解ラベルとなるセキュリティ要求（脅威、信頼境界、責任分界）との対応関係を示す教師データを取得し、準備する。また、セキュリティ要求抽出データ取得前処理部１０４は、準備したデータに対して機械学習できるように前処理をする。
【0022】
セキュリティ要求予測モデル生成部１０５は、セキュリティ要求抽出データ取得前処理部１０４が前処理した教師データを用いて教師あり学習を行い、セキュリティ要求（脅威、信頼境界、責任分界）を予測するモデル（セキュリティ要求予測モデル）を生成する。
【0023】
セキュリティ機能選定データ取得前処理部１０６は、セキュリティ要件（脅威、信頼境界、責任分界、コスト、スケジュール）と、当該セキュリティ要件に対する正解ラベルとなるセキュリティ機能の選定（障害分類、対策、攻撃者、攻撃ルート）との対応関係を示す教師データを取得し、準備する。また、セキュリティ機能選定データ取得前処理部１０６は、準備したデータに対して機械学習できるように前処理をする。
【0024】
設計情報選定モデル生成部１０７は、セキュリティ機能選定データ取得前処理部１０６が前処理した教師データを用いて教師あり学習を行い、セキュリティ機能の選定（障害分類、対策、攻撃者、攻撃ルート）を行うモデル（設計情報選定モデル）を生成する。
【0025】
製品企画データ取得部１０８は、入出力装置６００を介して開発者が入力した開発対象製品の特徴確認シート、準拠する法令・規制及びセキュリティ規格、要求仕様（システム構成図を含む仕様）の各データ（製品企画データ）を取得する。特徴確認シートの一例を図５，６に示す。図５および図６はＢＬ６－ＢＬ７で繋がっている。
【0026】
セキュリティ要求推論部１０９は、開発対象製品の特徴確認シート、準拠する法令・規制及び規格、要求仕様（システム構成図を含む仕様）の各データを入力として、教師あり学習モデルよりマルチモーダルな推論を行い（セキュリティ要求予測モデルで推論を行い）、開発対象製品について想定されるセキュリティ要求（脅威、信頼境界、責任分界）を出力する。
【0027】
コスト・スケジュール調整部１１０は、開発対象製品から想定される脅威、信頼境界、責任分界からコストとスケジュールを算出する。
【0028】
セキュリティ要件取得部１１１は、コストとスケジュールに準じた開発対象製品のセキュリティ要件のデータを取得し、セキュリティ機能推論部１１２へデータを入力する。
【0029】
セキュリティ機能推論部１１２は、コストとスケジュールに準じた開発対象製品のセキュリティ要件を入力として、設計情報選定モデルで推論を行い、セキュリティ要件に対応するセキュリティ設計情報（セキュリティ機能の推奨案）を出力する。セキュリティ設計情報は、開発対象製品に合うセキュリティ機能を実現する設計情報である。
【0030】
セキュリティ監視データ取得前処理部１１３は、準備したデータを前処理し、セキュリティ監視モデル生成部１１４へ伝送する。
【0031】
セキュリティ監視モデル生成部１１４は、運用ログ・シグネチャＤＢ（Database、以下同様）、障害ＤＢ、システム特徴ＤＢの製品情報、障害情報、動作ログ(正常、異常)データの入力に対する正解ラベルとなる障害分類、脅威、シグネチャ、対策、攻撃者、攻撃ルートを出力できるように半教師あり学習より推論を行うモデル（セキュリティ監視モデル）を生成する。
【0032】
脅威・対策比較連携更新部１１５は、異常データの障害分類、脅威、シグネチャ、対策、攻撃者、攻撃ルートで漏れていた内容がある場合は、統合データウェアハウス（ＤＨ：Data Ware House）２４０の情報を更新する。以下、統合データウェアハウス２４０は統合ＤＨ２４０と標記する。
【0033】
補助記憶部２００は、不揮発性の記憶部である。補助記憶部２００は、ＲＯＭ（Read Only Memory）、ＨＤＤ（Hard Disk Drive）、フラッシュメモリ等で実現できる。補助記憶部２００は、ＯＳ、アプリケーションプログラム、種々のデータを記憶している。ＯＳの少なくとも一部は、主記憶部１００にロードされて、プロセッサ４００によって実行される。
【0034】
補助記憶部２００は、データ収集部１０１から収集した構造化データ及び非構造化データの両方が保管されるデータレイク２１０を含む。また、補助記憶部２００は、図３に示すように、統合ＤＨ２４０として、構造化データに変換後の複数のデータベースであるシステム特徴ＤＢ２４１、障害ＤＢ２４２、脅威ＤＢ２４３、対策ＤＢ２４４、脆弱性情報ＤＢ２４５、運用ログ・シグネチャＤＢ２４６、プロジェクトＤＢ２４７、仕様書・設計書ＤＢ２４８、セキュリティ規格ＤＢ２４９、法令・規制ＤＢ２５０を含む。
【0035】
さらに、補助記憶部２００は、教師あり学習の機械学習に基づいて生成されたセキュリティ要求予測モデルを記憶するセキュリティ要求予測モデル記憶データベース２２０、及び教師あり学習の機械学習に基づいて生成された設計情報選定モデルを記憶する設計情報選定モデル記憶データベース２３０を含む。
【0036】
システム特徴ＤＢ２４１は、製品のシステムの特徴としてセキュリティインシデントが発生した場合の健康（Health）、安全（Safety）、環境（Environment）における影響度（Effect）の度合いを格納する。システム特徴ＤＢ２４１のサンプルデータを図７に示す。
【0037】
障害ＤＢ２４２は、セキュリティインシデントが発生した際の障害の発生状況、その原因分析及び対策内容等を格納する。また、障害ＤＢ２４２は、障害発生日時、障害分類、製品部類、ユニット名、製品シリアルNo.、障害内容、原因、対策等の情報で構成される。障害ＤＢ２４２のサンプルデータを図８に示す。
【0038】
脅威ＤＢ２４３は、製品に対して想定される脅威の種類を網羅し、その脅威を実行する攻撃者及び対応するセキュリティ要件などを格納する。また、脅威ＤＢ２４３は、想定脅威、実行者、セキュリティ要件、想定する障害、攻撃ルート等の情報で構成される。脅威ＤＢ２４３のサンプルデータを図９に示す。
【0039】
対策ＤＢ２４４は、製品に対して想定される脅威の種類、そのセキュリティ要件及び対応する対策内容等を格納する。対策ＤＢ２４４は、想定脅威、セキュリティ要件、セキュリティ機能の候補等の情報で構成される。対策ＤＢ２４４のサンプルデータを図１０に示す。
【0040】
脆弱性情報ＤＢ２４５は、製品を構成するソフトウェアに関連する脆弱性、ＣＷＥ（Common Weakness Enumeration）分類、対応するシグネチャ等を格納する。脆弱性情報ＤＢ２４５は、脆弱性のタイトル、ソフトウェア種別、最終更新日、対策、ＣＷＥ、シグネチャ導入状況、対応するシグネチャ番号で構成される。脆弱性情報ＤＢ２４５のサンプルデータを図１１に示す。
【0041】
運用ログ・シグネチャＤＢ２４６は、既存の市場へ出荷済になっている製品の異常発生時の運用ログデータ及び信頼境界上の機器のＩＰＳ（Intrusion Prevention System）機能が異常を検出したシグネチャ番号を格納する。なお、シグネチャとは、特定のマルウェア検体等の異常動作に共通する一続きのバイト（バイトシーケンス）のことである。また、運用ログ・シグネチャＤＢ２４６は、ログNo.、製品シリアルNo.、製品コード、検出されたシグネチャ番号、検出日時等の情報で構成される。運用ログ・シグネチャＤＢ２４６のサンプルデータを図１２に示す。
【0042】
プロジェクトＤＢ２４７は、製品開発のプロジェクトにおいて、システム試験で取得した試験結果の異常時及び正常時のログや想定している信頼境界上の機器などを格納する。また、プロジェクトＤＢ２４７は、プロジェクトＩＤ、ユニット名、製品コード、ソフトウェア種別、製品群、試験ログNo.（正常）、試験ログNo.（異常）、信頼境界上の機器の情報で構成される。プロジェクトＤＢ２４７のサンプルデータを図１３に示す。
【0043】
仕様書・設計書ＤＢ２４８は、セキュリティに関する要件、要求及び設計書のトレーサビリティがどのようになっているかを示し、要求、要件、外部設計書のそれぞれの対応関係の情報で構成される。仕様書・設計書ＤＢ２４８のサンプルデータを図１４に示す。
【0044】
セキュリティ規格ＤＢ２４９は、製品が汎用的に準拠するセキュリティ規格名と、個別のプロジェクトごとに追加で準拠する規格名を格納する。また、セキュリティ規格ＤＢ２４９は、種別、規格名等の情報で構成される。セキュリティ規格ＤＢ２４９のサンプルデータを図１５に示す。
【0045】
法令・規制ＤＢ２５０は、国内及び海外の地域区分において、どのようなセキュリティ関連の法令・規制が製品に適用されるのかを示している。また、法令・規制ＤＢ２５０は、地域区分、法令・規制の名称、製品群等の情報で構成される。法令・規制ＤＢ２５０のサンプルデータを図１６に示す。
【0046】
セキュリティ要求予測モデル記憶ＤＢ２２０は、セキュリティ要求予測モデル生成部１０５で生成された教師あり学習により学習済みのセキュリティ要求予測モデルを保管する。
【0047】
設計情報選定モデル記憶ＤＢ２３０は、設計情報選定モデル生成部１０７で生成された教師あり学習により学習済みの設計情報選定モデルを保管する。
【0048】
表示装置５００は、ユーザ操作に従って文字列および画像を表示する。表示装置５００は、液晶ディスプレイ、有機ＥＬ（Electro Luminescence）ディスプレイなどで構成される。なお、表示装置５００は、開発側セキュリティ分析支援装置１０と一体に構成されてもよい。
【0049】
入出力装置６００は、キーボード、マウス、テンキーなどで構成される。ユーザは、入出力装置６００を介して開発側セキュリティ分析支援装置１０を操作する。また、入出力装置６００は、表示装置５００と一体して配置され、ユーザのタッチ操作を受け付け可能なタッチパネルを含んでもよい。なお、入出力装置６００は、開発側セキュリティ分析支援装置１０と一体に構成されてもよい。
【0050】
インターフェース部３００は、運用側セキュリティ分析支援装置５０と各種データを送受信する。インターフェース部３００は、図示しないレシーバおよびトランスミッタを備える。レシーバは、運用側セキュリティ分析支援装置５０からの各種データを受信する。トランスミッタは、プロセッサ４００からの各種データを運用側セキュリティ分析支援装置５０に送信する。インターフェース部３００は、通信チップ、ＮＩＣ（Network Interface Card）等で実現できる。
【0051】
図２～４に示すように、開発側セキュリティ分析支援装置１０は、セキュリティ要求予測モデル生成部１０５及び設計情報選定モデル生成部１０７を中心とする学習部と、セキュリティ要求推論部１０９及びセキュリティ機能推論部１１２を中心とする推論部とに大別される。
【0052】
なお、学習部及び推論部は、対象製品のセキュリティ要求及びセキュリティ要求機能選定の出力を学習するために使用されるが、例えば、ネットワークを介して対象製品に接続され、この対象製品とは別個の装置であってもよい。また、学習部及び推論部は、対象製品に内蔵されていてもよい。さらに、学習部及び推論部は、クラウドサーバ上に存在していてもよい。
【0053】
セキュリティ要求予測モデル生成部１０５及び設計情報選定モデル生成部１０７が用いる学習アルゴリズムは、教師あり学習の公知のアルゴリズムを用いることができる。以下では、一例として、ニューラルネットワークを適用した場合について説明する。
【0054】
セキュリティ要求予測モデル生成部１０５及び設計情報選定モデル生成部１０７は、例えば、ニューラルネットワークモデルに従って、いわゆる教師あり学習により出力を行う学習をする。ここで、教師あり学習とは、入力と結果（ラベル）のデータの組を学習部に与えることで、それらの学習用データにある特徴を学習し、入力から結果を推論する手法をいう。
【0055】
ニューラルネットワークは、複数のニューロンからなる入力層、複数のニューロンからなる中間層（隠れ層）、及び複数のニューロンからなる出力層で構成される。中間層は、１層又は２層以上でもよい。
【0056】
例えば、図１７に示すような３層のニューラルネットワークであれば、複数の入力が入力層（Ｘ１‐Ｘ３）に入力されると、その値に重みＷ１（ｗ１１‐ｗ１６）を掛けて中間層（Ｙ１‐Ｙ２）に入力され、その結果にさらに重みＷ２（ｗ２１‐ｗ２６）を掛けて出力層（Ｚ１‐Ｚ３）から出力される。この出力結果は、重みＷ１とＷ２の値によって変わる。
【0057】
本開示において、以下の２つのニューラルネットワークのモデルにおいて学習が行われる。１つ目のニューラルネットワークは、セキュリティ要求抽出データ取得前処理部１０４によって取得される入力インプットデータ（製品の特徴、要求仕様（システム構成図を含む仕様）、準拠する法令・規制及びセキュリティ規格）と、それに対応する正解である入力（セキュリティ要求（脅威、信頼境界、責任分界））の組合せに基づいて作成される学習用データに従って、いわゆる教師あり学習により出力を学習する。
【0058】
また、２つ目のニューラルネットワークは、セキュリティ機能選定データ取得前処理部１０６によって取得される入力（セキュリティ要件（脅威、信頼境界、責任分界、コスト、スケジュール））と、それに対応する正解である入力（セキュリティ機能の選定（障害分類、対策、攻撃者、攻撃ルート））の組合せに基づいて作成される学習用データに従って、いわゆる教師あり学習により出力を学習する。
【0059】
すなわち、ニューラルネットワークは、入力層に入力としてインプットデータを入力して出力層から出力された結果が、インプットデータ（正解）に近づくように、重みＷ１とＷ２を調整することで学習する。
【0060】
セキュリティ要求予測モデル生成部１０５及び設計情報選定モデル生成部１０７は、以上のような学習を実行することで学習済モデル（セキュリティ要求予測モデル、設計情報選定モデル）を生成して出力する。
【0061】
＜２．動作＞
次に、以上のように構成される開発側セキュリティ分析支援装置１０の学習部及び推論部の動作について、図１８～２２を参照して説明する。
次に、以上のように構成される開発側セキュリティ分析支援装置１０の学習部及び推論部の動作について、図１８～２２を参照して説明する。
【0062】
＜２‐１．学習フェーズ＞
＜２‐１‐１．データ取得ステップ＞
図１８，１９は、学習部におけるデータ取得と蓄積に関するフローチャートである。以下、図１８，１９に示すフローチャートに即して学習部の動作を説明する。
＜２‐１‐１．データ取得ステップ＞
図１８，１９は、学習部におけるデータ取得と蓄積に関するフローチャートである。以下、図１８，１９に示すフローチャートに即して学習部の動作を説明する。
【0063】
ステップＳ１０１において、データ収集部１０１は、既存のデータである過去のプロジェクトデータ６０１、脆弱性解析結果情報６０２、仕様書・設計書６０３、法令・規制情報６０４、セキュリティ規格６０５、過去の市場における製品の運用ログ及びインシデント・シグネチャ情報６０６を収集し、データレイク２１０へ送信する。
【0064】
ステップＳ１０２において、データレイク２１０は、データ収集部１０１から送信されたデータを蓄積する。ステップＳ１０３において、データレイク２１０は、蓄積したデータが構造化データであるかどうかを判定する。構造化データでない場合は、ステップＳ１０４において、そのデータに規則性があるかどうかを判定する。規則性がない場合は、ステップＳ１０５において、そのデータがテキストデータかどうかを判定する。
【0065】
テキストデータである場合は、ステップＳ１０６において、自然言語処理の構文解析を実施し、その結果から製品企画の要求仕様を抽出する。テキストデータでない場合、つまり画像データ等の場合は、ステップＳ１０７において、システム構成図に対する画像認識の処理を行い、その結果からシステム構成及び信頼境界を識別する。
【0066】
ステップＳ１０８において、マルチモーダル特徴解析部１０２は、ステップＳ１０６及びステップＳ１０７の処理結果を受けて、自然言語処理と画像認識結果をかけあわせて、システム構成に応じた製品の仕様、準拠する法令・規制及び規格、脅威、信頼境界、責任分界、コスト、期間、障害分類、対策、攻撃者、攻撃ルート、障害情報、動作情報、シグネチャの特徴と関係を整理する。
【0067】
ステップＳ１０９において、データ一次加工統合部１０３は、ＪＳＯＮ形式へ統一する。ステップＳ１１０において、データ一次加工統合部１０３は、自然言語処理の構文解析結果からデータのチェック、クレンジング、機密情報および不要な文字を削除する。
【0068】
ステップＳ１１１において、データ一次加工統合部１０３は、すべてのデータをＣＳＶ形式へ変換する。ステップＳ１１２において、統合ＤＨ２４０は、システム特徴ＤＢ２４１、障害ＤＢ２４２、脅威ＤＢ２４３、対策ＤＢ２４４、脆弱性情報ＤＢ２４５、運用ログ・シグネチャＤＢ２４６、プロジェクトＤＢ２４７、仕様書・設計書ＤＢ２４８、セキュリティ規格ＤＢ２４９、法令・規制ＤＢ２５０へデータを格納する。
【0069】
＜２‐１‐２．セキュリティ要求予測モデル生成ステップ＞
図２０は、学習部におけるセキュリティ要求予測モデルの学習処理に関するフローチャートである。以下、図２０に示すフローチャートに即して、学習部の動作を説明する。
図２０は、学習部におけるセキュリティ要求予測モデルの学習処理に関するフローチャートである。以下、図２０に示すフローチャートに即して、学習部の動作を説明する。
【0070】
ステップＳ２０１において、セキュリティ要求抽出データ取得前処理部１０４は、製品の特徴、要求仕様、準拠する法令・規制及びセキュリティ規格の入力と、当該入力に対する正解ラベルとなるセキュリティ要求（脅威、信頼境界、責任分界）との対応関係を示す教師データを取得し、機械学習の前処理を行う準備をする。
【0071】
ステップＳ２０２において、セキュリティ要求抽出データ取得前処理部１０４は、準備したデータを機械学習できるよう、前処理する。ステップＳ２０３において、セキュリティ要求予測モデル生成部１０５は、前処理した教師データを用いて教師あり学習を行い、セキュリティ要求（脅威、信頼境界、責任分界）を予測するモデルを生成する。ステップＳ２０４において、セキュリティ要求予測モデル記憶ＤＢ２２０は、生成された予測モデルを自身のＤＢへ格納する。
【0072】
【0073】
ステップＳ３０１において、セキュリティ機能選定データ取得前処理部１０６は、セキュリティ要件（脅威、信頼境界、責任分界、コスト、スケジュール）と、当該セキュリティ要件に対する正解ラベルとなるセキュリティ機能の選定（障害分類、対策、攻撃者、攻撃ルート）との対応関係を示す教師データを取得し、機械学習の前処理を行う準備する。
【0074】
ステップＳ３０２において、セキュリティ機能選定データ取得前処理部１０６は、準備したデータを機械学習できるよう、前処理する。
【0075】
ステップＳ３０３において、設計情報選定モデル生成部１０７は、前処理した教師データを用いて教師あり学習を行い、セキュリティ機能の選定（障害分類、対策、攻撃者、攻撃ルート）を予測するモデルを生成する。ステップＳ３０４において、設計情報選定モデル記憶ＤＢ２３０は、生成された予測モデルを自身のＤＢへ格納する。
【0076】
【0077】
ステップＳ４０１において、製品企画データ取得部１０８は、入出力装置６００を介して開発者が入力した開発対象製品の特徴確認シート６５３と準拠する法令・規制及び規格６５１、要求仕様(システム構成図を含む仕様)６５２を取得する。
【0078】
ステップＳ４０２において、製品企画データ取得部１０８は、取得した製品の開発対象製品の特徴確認シート６５３と準拠する法令・規制及び規格６５１、要求仕様６５２の中にあるデータの特徴量を収集し、セキュリティ要求推論部１０９へ入力する。
【0079】
ステップＳ４０３において、セキュリティ要求推論部１０９は、開発対象製品の特徴、要求仕様（システム構成図を含む仕様）、準拠する法令・規制、セキュリティ規格を入力として、教師あり学習モデルよりマルチモーダルな推論を行い（セキュリティ要求予測モデルで推論を行い）、開発対象のセキュリティ要求（脅威、信頼境界、責任分界）を出力する。なお、セキュリティ要求予測モデルにおける推論では、想定する脅威に対するセキュリティ要件のクラス分類のために、システム特徴ＤＢ２４１、障害ＤＢ２４２、脅威ＤＢ２４３、プロジェクトＤＢ２４７、仕様書・設計書ＤＢ２４８、セキュリティ規格ＤＢ２４９、法令・規制ＤＢ２５０を参照する。
【0080】
ステップＳ４０４において、コスト・スケジュール調整部１１０は、開発対象製品から想定される脅威、信頼境界、責任分界点からコストとスケジュールを算出し、開発対象製品のセキュリティ要件情報シート６５４を出力する。セキュリティ要件情報シート６５４の一例を図２３，２４に示す。
【0081】
ステップＳ４０５において、セキュリティ要件取得部１１１は、コストとスケジュールに準じた開発対象製品のセキュリティ要件となる開発対象製品のセキュリティ要件情報シート６５４のデータを取得し、セキュリティ機能推論部１１２へデータを入力する。
【0082】
ステップＳ４０６において、セキュリティ機能推論部１１２は、コストとスケジュールに準じた開発対象製品のセキュリティ要件を入力として、設計情報選定モデルで推論を行い、セキュリティ要件に対応するセキュリティ機能の推奨案となる開発対象製品のセキュリティ設計情報シート６５５を出力する。なお、設計情報選定モデルにおける推論では、想定する脅威に対するセキュリティ要件に対応する機能の候補の対応関係をクラス分類するために対策ＤＢ２４４を参照する。セキュリティ設計情報シート６５５の一例を図２５に示す。
【0083】
＜３．効果＞
実施の形態１によれば、開発側セキュリティ分析支援装置１０では、システムレベルにおけるセキュリティ分析に関する「要件抽出」に加えて「機能選定」を一気通貫で自動的に行う。そのため、製品出荷前の既知の脅威に対するセキュリティ分析の時間短縮の効果があり、属人的でない効率的なセキュリティ品質向上を達成できる。すなわち、効率的にセキュリティの品質を向上させることが可能となる。
実施の形態１によれば、開発側セキュリティ分析支援装置１０では、システムレベルにおけるセキュリティ分析に関する「要件抽出」に加えて「機能選定」を一気通貫で自動的に行う。そのため、製品出荷前の既知の脅威に対するセキュリティ分析の時間短縮の効果があり、属人的でない効率的なセキュリティ品質向上を達成できる。すなわち、効率的にセキュリティの品質を向上させることが可能となる。
【0084】
＜実施の形態２＞
実施の形態１で説明した開発側セキュリティ分析支援装置１０は、開発対象製品のセキュリティ設計情報シート６５５等を生成して動作を終了する。実施の形態２で説明する運用側セキュリティ分析支援装置５０は、脆弱性情報ＤＢ２４５と運用ログ・シグネチャＤＢ２４６に蓄積されている脆弱性情報と運用ログデータの情報に基づいて、セキュリティ監視モデルを学習させる。そして、実際の市場における製品（運用対象製品）の運用ログから異常を検知し、運用側の製品のＩＰＳのシグネチャを更新すると共に開発側の脅威や対策の内容も更新する。
実施の形態１で説明した開発側セキュリティ分析支援装置１０は、開発対象製品のセキュリティ設計情報シート６５５等を生成して動作を終了する。実施の形態２で説明する運用側セキュリティ分析支援装置５０は、脆弱性情報ＤＢ２４５と運用ログ・シグネチャＤＢ２４６に蓄積されている脆弱性情報と運用ログデータの情報に基づいて、セキュリティ監視モデルを学習させる。そして、実際の市場における製品（運用対象製品）の運用ログから異常を検知し、運用側の製品のＩＰＳのシグネチャを更新すると共に開発側の脅威や対策の内容も更新する。
【0085】
【0086】
運用側セキュリティ分析支援装置５０は、製品の開発が完了して市場に出荷後の運用ログを解析して異常判定を行い、シグネチャを更新すると共にこれから開発する製品についてセキュリティ分析を行う開発側セキュリティ分析支援装置に対してフィードバックを行う。
【0087】
運用側セキュリティ分析支援装置５０は、主記憶部９００と、補助記憶部１０００と、開発側セキュリティ分析支援装置と通信を行う通信部７００と、製品９０（フィールド）と通信を行う通信部１１００と、プロセッサ８００とを備えている。また、運用側セキュリティ分析支援装置５０は、表示装置１２００および入出力装置１３００と接続されている。運用側セキュリティ分析支援装置５０は、例えば、パーソナルコンピュータである。
【0088】
プロセッサ８００は、信号線を介して他のハードウェアと接続されている。プロセッサ８００は、中央演算処理装置（ＣＰＵ）、ＭＰＵ、ＤＳＰ、ＧＰＵ、マイコン、ＦＰＧＡ、ＡＳＩＣ等で実現できる。プロセッサ８００は、後述する補助記憶部１０００に記憶されたＯＳ、アプリケーションプログラム、種々のデータを読み込んで演算処理を実行することにより、種々の機能を実現する。プロセッサ８００は、後述する機能的構成を含む。当該機能的構成は、ファームウェアにより実現されてもよい。プロセッサ８００と、後述する主記憶部９００及び補助記憶部１０００とをまとめたハードウェアを「プロセッシングサーキットリ」ともいう。
【0089】
主記憶部９００は、揮発性の記憶部である。主記憶部９００は、ＲＡＭ等で実現できる。主記憶部９００は、運用側セキュリティ分析支援装置５０において使用され、生成され、入出力され、或いは送受信されるデータを一時的に記憶する。さらに、主記憶部９００は、運用ログデータ取得部９０１、運用ログデータ前処理部９０２、セキュリティ監視モデル推論部９０３、シグネチャデータ比較部９０４、シグネチャ情報更新部９０５を含む。
【0090】
運用ログデータ取得部９０１は、運用・保守解析ＤＢ１００２に保管されている運用・保守解析のログデータを取得する。
【0091】
運用ログデータ前処理部９０２は、運用ログデータを機械学習が行えるようにデータ変換の前処理をする。
【0092】
セキュリティ監視モデル推論部９０３は、製品情報、障害情報、動作情報（正常、異常）を入力として、半教師あり学習モデルより推論を行い、障害異常データの障害分類、脅威、シグネチャ、対策、攻撃者、攻撃ルートを出力する。
【0093】
シグネチャデータ比較部９０４は、開発側セキュリティ分析支援装置１０のインターフェース部３００へ異常データの障害分類、脅威、シグネチャ、対策、攻撃者、攻撃ルートの情報を送信する。また、シグネチャデータ比較部９０４は、ログデータに異常があった場合、現状登録済のシグネチャのデータと比較後、シグネチャ更新リストファイルを作成してシグネチャ情報更新部９０５へ伝送する。シグネチャ更新リストファイルの一例を図２８に示す。
【0094】
シグネチャ情報更新部９０５は、シグネチャの更新のデータと、その更新コマンドを発行し、集中コントローラ２００４へシグネチャデータを配信する。
【0095】
補助記憶部１０００は、不揮発性の記憶部である。補助記憶部１０００は、ＲＯＭ、ＨＤＤ、フラッシュメモリ等で実現できる。補助記憶部１０００は、ＯＳ、アプリケーションプログラム、種々のデータを記憶している。ＯＳの少なくとも一部は、主記憶部９００にロードされて、プロセッサ８００によって実行される。
【0096】
補助記憶部１０００は、半教師あり学習の機械学習に基づいて生成されたセキュリティ監視モデルを記憶するセキュリティ監視モデル記憶ＤＢ１００１と、市場における製品の運用ログデータを蓄積する運用・保守解析ＤＢ１００２とを含む。
【0097】
セキュリティ監視モデル記憶ＤＢ１００１は、セキュリティ監視モデル生成部１１４で生成された半教師あり学習により学習済みのセキュリティ監視モデルを記憶する。
【0098】
運用・保守解析ＤＢ１００２は、ログNo.、製品シリアルNo.、製品コード、対応済シグネチャ番号、ログ取得日時、障害情報、動作情報等の情報で構成される。運用・保守解析ＤＢ１００２のサンプルデータを図２９に示す。
【0099】
表示装置１２００は、運用・保守担当者の操作に従って文字列および画像を表示する。表示装置１２００は、液晶ディスプレイ、有機ＥＬディスプレイなどで構成される。なお、表示装置１２００は、運用側セキュリティ分析支援装置５０と一体に構成してもよい。
【0100】
入出力装置１３００は、キーボード、マウス、テンキーなどで構成される。運用・保守担当者は、入出力装置１３００を介して運用側セキュリティ分析支援装置５０を操作する。また、入出力装置１３００は、表示装置１２００と一体に構成し、保守・運用担当者のタッチ操作を受け付け可能なタッチパネルを含んでもよい。
【0101】
通信部７００は、運用側セキュリティ分析支援装置５０と開発側セキュリティ分析支援装置１０との間で各種データを送受信する。通信部７００及び通信部１１００は、図示しないレシーバ及びトランスミッタを備える。レシーバは、開発側セキュリティ分析支援装置１０及び遠隔監視装置２００１からの各種データを受信する。トランスミッタは、プロセッサ８００からの各種データを開発側セキュリティ分析支援装置１０及び遠隔監視装置２００１に送信する。通信部７００及び通信部１１００は、通信チップ、ＮＩＣ等で実現できる。
【0102】
運用側セキュリティ分析支援装置５０は、セキュリティ監視モデル生成部１１４を中心とする学習部と、セキュリティ監視モデル推論部９０３を中心とする推論部とに大別される。
【0103】
なお、学習部及び推論部は、対象製品のセキュリティ要求及びセキュリティ要求機能選定の出力を学習するために使用されるが、例えば、ネットワークを介して対象製品に接続され、この対象製品とは別個の装置であってもよい。また、学習部及び推論部は、対象製品に内蔵されていてもよい。さらに、学習部及び推論部は、クラウドサーバ上に存在していてもよい。
【0104】
セキュリティ監視モデル生成部１１４が用いる学習アルゴリズムは、半教師あり学習の公知のアルゴリズムを用いることができる。一例として、ニューラルネットワークを適用した場合について説明する。
【0105】
セキュリティ監視モデル生成部１１４は、例えば、ニューラルネットワークモデルに従って、いわゆる半教師あり学習により出力を行う学習をする。ここで、半教師あり学習とは、入力と結果（ラベル）のデータの組を学習装置に与えることで、それらの学習用データにある特徴を学習し、入力から結果を推論する手法をいう。
【0106】
ニューラルネットワークは、複数のニューロンからなる入力層、複数のニューロンからなる中間層（隠れ層）、及び複数のニューロンからなる出力層で構成される。中間層は、１層又は２層以上でもよい。
【0107】
例えば、図１７に示すような３層のニューラルネットワークであれば、複数の入力が入力層（Ｘ１‐Ｘ３）に入力されると、その値に重みＷ１（ｗ１１‐ｗ１６）を掛けて中間層（Ｙ１‐Ｙ２）に入力され、その結果にさらに重みＷ２（ｗ２１‐ｗ２６）を掛けて出力層（Ｚ１‐Ｚ３）から出力される。この出力結果は、重みＷ１とＷ２の値によって変わる。
【0108】
本開示では、以下のニューラルネットワークのモデルにおいて学習が行われる。ニューラルネットワークは、セキュリティ監視データ取得前処理部１１３によって取得される入力インプットデータ（製品情報、障害情報、動作情報（正常、異常））と、それに対応する正解である入力（障害分類、脅威、シグネチャ、対策、攻撃者、攻撃ルート）との組合せに基づいて作成される学習用データに従って、いわゆる半教師あり学習により出力を学習する。
【0109】
すなわち、ニューラルネットワークは、入力層に入力としてインプットデータを入力して出力層から出力された結果が、インプットデータ（正解）に近づくように、重みＷ１とＷ２を調整することで学習する。
【0110】
セキュリティ監視モデル生成部１１４は、以上のような学習を実行することで学習済モデル（セキュリティ監視モデル）を生成して出力する。
【0111】
＜２．動作＞
次に、以上のように構成される運用側セキュリティ分析支援装置５０の学習部及び推論部の動作について、図３０～３２を参照して説明する。
次に、以上のように構成される運用側セキュリティ分析支援装置５０の学習部及び推論部の動作について、図３０～３２を参照して説明する。
【0112】
【0113】
ステップＳ５０１において、セキュリティ監視データ取得前処理部１１３は、製品情報、障害情報、動作情報（正常、異常）の入力と、当該入力に対する正解ラベルとなる障害分類、脅威、シグネチャ、対策、攻撃者、攻撃ルートとの対応関係を示す教師データを取得する。
【0114】
ステップＳ５０２において、セキュリティ監視データ取得前処理部１１３は、機械学習の前処理を行い、セキュリティ監視モデル生成部１１４へ伝送する。
【0115】
ステップＳ５０３において、セキュリティ監視モデル生成部１１４は、前処理した教師データを用いて教師あり学習を行い、障害分類、脅威、シグネチャ、対策、攻撃者、攻撃ルートを予測するモデル（セキュリティ監視モデル）を生成する。
【0116】
ステップＳ５０４において、開発側セキュリティ分析支援装置１０のインターフェース部３００は、運用側セキュリティ分析支援装置５０の通信部７００へデータを送信する。
【0117】
ステップＳ５０５において、セキュリティ監視モデル記憶ＤＢ１００１は、生成された予測モデル（セキュリティ監視モデル）を自身のＤＢへ格納する。
【0118】
【0119】
ステップＳ６０１において、遠隔監視装置２００１は、保守用の通信回線を介して運転データのログを、通信部１１００へ送信する。ステップＳ６０２において、通信部１１００は、受信した運転データのログデータを運用・保守解析ＤＢ１００２へ保存・蓄積する。
【0120】
ステップＳ６０３において、運用ログデータ取得部９０１は、運用・保守解析ＤＢ１００２から運用ログを取得し、運用ログデータ前処理部９０２へ伝送する。ステップＳ６０４において、運用ログデータ前処理部９０２は、運用ログから製品情報、障害情報、動作情報（正常、異常）を抽出し、セキュリティ監視モデル推論部９０３へ入力する。
【0121】
ステップＳ６０５において、セキュリティ監視モデル推論部９０３は、製品情報、障害情報、動作情報（正常、異常）を入力として、半教師あり学習モデルより推論を行い、異常データの障害分類、脅威、シグネチャ、対策、攻撃者、攻撃ルートを出力し、シグネチャデータ比較部９０４へ伝送する。このとき出力されるデータは、図２７に示す市場における製品の運用から得られる知見ファイル１３０１（知見情報）に相当し、当該知見ファイルの一例を図３３，３４に示す。図３３および図３４はＢＬ１０－ＢＬ１１で繋がっている。
【0122】
ステップＳ６０６において、シグネチャデータ比較部９０４は、開発側セキュリティ分析支援装置１０のインターフェース部３００へ異常データの障害分類、脅威、シグネチャ、対策、攻撃者、攻撃ルートを送信する。
【0123】
ステップＳ６０７において、開発側セキュリティ分析支援装置１０のインターフェース部３００は、異常データの障害分類、脅威、シグネチャ、対策、攻撃者、攻撃ルートを受信し、脅威・対策比較連携更新部１１５へデータを転送する。
【0124】
ステップＳ６０８において、脅威・対策比較連携更新部１１５は、異常データの障害分類、脅威、シグネチャ、対策、攻撃者、攻撃ルートの内容を既存のＤＢの値と比較し、漏れていた内容がある場合は、統合ＤＨ２４０の情報を更新する。
【0125】
なお、ステップＳ６０５の処理後にログデータに異常があった場合、ステップＳ６０９において、シグネチャデータ比較部９０４は、現状登録済のシグネチャのデータと比較し、シグネチャ更新リストファイル１３０２を作成し、シグネチャ情報更新部９０５へ伝送する。なお、シグネチャが未登録の場合は、製品側のＩＤＳ（Intrusion Detection System）に対して登録を要求する。
【0126】
ステップＳ６１０において、シグネチャ情報更新部９０５は、シグネチャの更新のデータとその更新コマンドを発行する。ステップＳ６１１において、発行されたシグネチャの更新コマンドとそのデータは、セキュリティ上の信頼境界となる製品の集中コントローラ２００４へ伝送され、集中コントローラ２００４のＩＰＳへ最新のシグネチャを適用する。
【0127】
＜３．効果＞
実施の形態２によれば、製品出荷後の運用において、運用側セキュリティ分析支援装置５０では、クラウド上にセキュリティ監視機構を含み、開発側セキュリティ分析支援装置１０と連携可能である。そのため、製品出荷後における未知の脅威および脆弱性に対する攻撃の兆候を把握することによって、早急な不正アクセス検知、及び開発側セキュリティ分析支援装置１０へ迅速にフィードバックなどを行うことができるため、開発側セキュリティ分析支援装置１０と運用側セキュリティ分析支援装置５０との相互連携の効果を達成できる。すなわち、効率的にセキュリティの品質を向上させることが可能となる。
実施の形態２によれば、製品出荷後の運用において、運用側セキュリティ分析支援装置５０では、クラウド上にセキュリティ監視機構を含み、開発側セキュリティ分析支援装置１０と連携可能である。そのため、製品出荷後における未知の脅威および脆弱性に対する攻撃の兆候を把握することによって、早急な不正アクセス検知、及び開発側セキュリティ分析支援装置１０へ迅速にフィードバックなどを行うことができるため、開発側セキュリティ分析支援装置１０と運用側セキュリティ分析支援装置５０との相互連携の効果を達成できる。すなわち、効率的にセキュリティの品質を向上させることが可能となる。
【0128】
＜実施の形態３＞
実施の形態２で説明した運用側セキュリティ分析支援装置５０は、ステップＳ６０５の処理後にログデータに異常があった場合に、シグネチャ更新リストファイル１３０２を作成する。実施の形態３で説明する運用側セキュリティ分析支援装置５０は、ステップＳ６０５の処理後にログデータに異常があった場合に、アラートルール更新リストファイル１３０３を作成する。
実施の形態２で説明した運用側セキュリティ分析支援装置５０は、ステップＳ６０５の処理後にログデータに異常があった場合に、シグネチャ更新リストファイル１３０２を作成する。実施の形態３で説明する運用側セキュリティ分析支援装置５０は、ステップＳ６０５の処理後にログデータに異常があった場合に、アラートルール更新リストファイル１３０３を作成する。
【0129】
＜１．構成＞
図３５は、実施の形態３による運用側セキュリティ分析支援装置５０の構成の詳細を示すブロック図である。図２６に示す実施の形態２による運用側セキュリティ分析支援装置５０と、図３５に示す実施の形態３による運用側セキュリティ分析支援装置５０とを比較すると、図２６のシグネチャデータ比較部９０４が図３５では異常検知データ比較部９０６となり、図２６のシグネチャ情報更新部９０５が図３５ではアラートルール情報更新部９０７となっている。その他の構成は、実施の形態２による運用側セキュリティ分析支援装置５０と同様であるため、ここでは詳細な説明を省略する。
図３５は、実施の形態３による運用側セキュリティ分析支援装置５０の構成の詳細を示すブロック図である。図２６に示す実施の形態２による運用側セキュリティ分析支援装置５０と、図３５に示す実施の形態３による運用側セキュリティ分析支援装置５０とを比較すると、図２６のシグネチャデータ比較部９０４が図３５では異常検知データ比較部９０６となり、図２６のシグネチャ情報更新部９０５が図３５ではアラートルール情報更新部９０７となっている。その他の構成は、実施の形態２による運用側セキュリティ分析支援装置５０と同様であるため、ここでは詳細な説明を省略する。
【0130】
＜２．動作＞
図３６は、実施の形態３による推論部における推論処理を示すフローチャートである。なお、図３６に示す「Ｃ」の接続元の動作は、実施の形態２で説明した図３１に示すフローチャート（ステップＳ６０１～ステップＳ６０８）と同様である。ただし、図３１のステップＳ６０６において「シグネチャデータ比較部」を「異常検知比較部」に読み替える必要がある。以下では、図３６に示すステップＳ７０１～ステップＳ７０３について説明する。
図３６は、実施の形態３による推論部における推論処理を示すフローチャートである。なお、図３６に示す「Ｃ」の接続元の動作は、実施の形態２で説明した図３１に示すフローチャート（ステップＳ６０１～ステップＳ６０８）と同様である。ただし、図３１のステップＳ６０６において「シグネチャデータ比較部」を「異常検知比較部」に読み替える必要がある。以下では、図３６に示すステップＳ７０１～ステップＳ７０３について説明する。
【0131】
ステップＳ６０５の処理後にログデータに異常があった場合、ステップＳ７０１において、異常検知データ比較部９０６は、現状登録済のシグネチャのデータおよび平常時のログと比較し、アラートルール更新リストファイル１３０３を作成し、アラートルール情報更新部９０７へ伝送する。
【0132】
ステップＳ７０２において、アラートルール情報更新部９０７は、シグネチャの更新データと、異常検知するルール（以下、「アラートルール」という）とを更新するコマンドを発行する。
【0133】
ステップＳ７０３において、発行されたシグネチャの更新のデータおよびアラートルールの更新コマンドとそのデータは、セキュリティ上の信頼境界となる製品の集中コントローラ２００４へ伝送される。
【0134】
＜３．効果＞
実施の形態３によれば、実施の形態２による効果に加えて、ログデータに異常があった場合にアラートルールの更新コマンドを開発側セキュリティ分析支援装置１０へ迅速にフィードバックを行うことができる。従って、開発側セキュリティ分析支援装置１０と運用側セキュリティ分析支援装置５０との相互連携の効果を達成できる。すなわち、効率的にセキュリティの品質を向上させることが可能となる。
実施の形態３によれば、実施の形態２による効果に加えて、ログデータに異常があった場合にアラートルールの更新コマンドを開発側セキュリティ分析支援装置１０へ迅速にフィードバックを行うことができる。従って、開発側セキュリティ分析支援装置１０と運用側セキュリティ分析支援装置５０との相互連携の効果を達成できる。すなわち、効率的にセキュリティの品質を向上させることが可能となる。
【0135】
＜実施の形態４＞
実施の形態１で説明した開発側セキュリティ分析支援装置１０は、開発対象製品のセキュリティ設計情報シート６５５等を生成して動作を終了する。実施の形態４で説明する開発側セキュリティ分析支援装置１０では、テスト部は、学習部から取得する脅威、脆弱性、セキュリティテストのテストケース、テストデータ、セキュリティ対策及び運用ログの情報からセキュリティテストモデルを学習して生成する。そして、テスト部は、推論部で生成された開発対象製品のセキュリティ設計情報（開発対象製品のセキュリティ設計情報シート６５５）を基にセキュリティテストモデルを活用することにより、セキュリティテストの判定結果の予測と脆弱性を検出できる可能性が高いテストケースの探索的な生成を繰り返し実施する。
実施の形態１で説明した開発側セキュリティ分析支援装置１０は、開発対象製品のセキュリティ設計情報シート６５５等を生成して動作を終了する。実施の形態４で説明する開発側セキュリティ分析支援装置１０では、テスト部は、学習部から取得する脅威、脆弱性、セキュリティテストのテストケース、テストデータ、セキュリティ対策及び運用ログの情報からセキュリティテストモデルを学習して生成する。そして、テスト部は、推論部で生成された開発対象製品のセキュリティ設計情報（開発対象製品のセキュリティ設計情報シート６５５）を基にセキュリティテストモデルを活用することにより、セキュリティテストの判定結果の予測と脆弱性を検出できる可能性が高いテストケースの探索的な生成を繰り返し実施する。
【0136】
＜１．構成＞
図３７は、実施の形態４による開発側セキュリティ分析支援装置１０の構成を示すブロック図である。図３８は、開発側セキュリティ分析支援装置１０におけるテスト部の詳細を示すブロック図である。テスト部は推論部に含まれている。なお、開発側セキュリティ分析支援装置１０における学習部および推論部の構成は、統合ＨＤ２４０を除いて実施の形態１と同様である。図３９に示すように、統合ＨＤ２４０は、セキュリティテスト・アラートルールＤＢ２５１を含む。セキュリティテスト・アラートルールＤＢ２５１のサンプルデータを図４０に示す。
図３７は、実施の形態４による開発側セキュリティ分析支援装置１０の構成を示すブロック図である。図３８は、開発側セキュリティ分析支援装置１０におけるテスト部の詳細を示すブロック図である。テスト部は推論部に含まれている。なお、開発側セキュリティ分析支援装置１０における学習部および推論部の構成は、統合ＨＤ２４０を除いて実施の形態１と同様である。図３９に示すように、統合ＨＤ２４０は、セキュリティテスト・アラートルールＤＢ２５１を含む。セキュリティテスト・アラートルールＤＢ２５１のサンプルデータを図４０に示す。
【0137】
セキュリティテストデータ取得前処理部１１６は、脅威、脆弱性、セキュリティテストのテストケース、テストデータ、セキュリティ対策及び運用ログの情報を学習部の統合ＨＤ２４０から取得し、それらのデータを機械学習できるよう、前処理する。
【0138】
セキュリティテストモデル生成部１１７（第３のモデル生成部）は、前処理したデータを用いて機械学習を活用し、攻撃モデル(テストケースの生成・実施)と防御モデル(セキュリティ対策の実施)によるセキュリティテストを行うモデルを生成する。機械学習に関しては、例えば、強化学習（Reinforcement Learning）を適用して攻撃モデルと防御モデルを生成する。強化学習では、ある環境内におけるエージェント（行動主体）が、現在の状態（環境のパラメータ）を観測し、取るべき行動を決定する。エージェントの行動により環境が動的に変化し、エージェントには環境の変化に応じて報酬が与えられる。エージェントはこれを繰り返し、一連の行動を通じて報酬が最も多く得られる行動方針を学習する。
【0139】
セキュリティテスト報酬計算部１１８は、強化学習によって学習済モデルを生成する場合、セキュリティテスト関数更新部１２３を備えたセキュリティテストモデル生成部１１７と連携している。攻撃が成功した場合は、報酬を増大し、防御が成功した場合は報酬を減少するような基準に基づいて、報酬を算出する。
【0140】
セキュリティテスト判定データ取得部１１９は、セキュリティテストモデル推論部１２２によるセキュリティテスト判定結果６５６から、報酬計算に必要な情報と脅威及びその対策が既知であるか比較するための情報を取得する。セキュリティテスト判定結果６５６のサンプルデータを図４１に示す。
【0141】
セキュリティ設計情報取得部１２０は、コストとスケジュールに準じた開発対象製品のセキュリティ要件に対応する設計情報のデータ（開発対象製品のセキュリティ設計情報シート６５５）を取得し、セキュリティテスト入出力観測部１２１へデータを投入する。
【0142】
セキュリティテスト入出力観測部１２１は、当該製品の製品情報、セキュリティ要求、責任分界、セキュリティ設計情報、およびフィードバックされるセキュリティテスト判定結果６５６から、信頼境界、動作ログ（テスト結果）等のテスト条件に対応する状態である脆弱性情報、攻撃モデルのインプットとなる脅威に基づくセキュリティテストケース及びテストデータ、および防御モデルのセキュリティ機能に基づくセキュリティ対策を生成する。
【0143】
セキュリティテストモデル推論部１２２は、所定のテストスイートを活用し、セキュリティテストのテストケースに対する過去の判定結果から出力結果を予測することにより、セキュリティテスト判定結果を出力する。
【0144】
セキュリティテスト関数更新部１２３は、セキュリティテストモデル生成部１１７に内包され、セキュリティテスト報酬計算部１１８によって計算される報酬に従って、テストケース生成及びテスト判定結果の予測出力を決定するための関数を更新する。そして、更新した関数をセキュリティテストモデル記憶ＤＢ２６０に出力する。例えばＱ学習の場合、下記の式（１）で表される行動価値関数Ｑ（ｓｔ，ａｔ）について、テストケースに対する判定結果を予測してその出力を算出するための関数として用いる。
【0145】
＜２．動作＞
図４２，４３は、テスト部におけるデータの取得、セキュリティテストモデルの生成、および推論処理を示すフローチャートである。以下、図４２，４３に示すフローチャートに即してテスト部の動作を説明する。
図４２，４３は、テスト部におけるデータの取得、セキュリティテストモデルの生成、および推論処理を示すフローチャートである。以下、図４２，４３に示すフローチャートに即してテスト部の動作を説明する。
【0146】
＜２－１．学習フェーズ＞
＜２‐１‐１．データ取得ステップ＞
ステップＳ８０１において、セキュリティテストデータ取得前処理部１１６は、統合ＤＨ２４０の脅威ＤＢ２４３の脅威、脆弱性情報ＤＢ２４５の脆弱性、セキュリティテスト・アラートルールＤＢ２５１のセキュリティテストケース及びテストデータ、対策ＤＢ２４４のセキュリティ対策、運用ログ・シグネチャＤＢ２４６の運用ログをそれぞれ取得する。
＜２‐１‐１．データ取得ステップ＞
ステップＳ８０１において、セキュリティテストデータ取得前処理部１１６は、統合ＤＨ２４０の脅威ＤＢ２４３の脅威、脆弱性情報ＤＢ２４５の脆弱性、セキュリティテスト・アラートルールＤＢ２５１のセキュリティテストケース及びテストデータ、対策ＤＢ２４４のセキュリティ対策、運用ログ・シグネチャＤＢ２４６の運用ログをそれぞれ取得する。
【0147】
ステップＳ８０２において、セキュリティテストデータ取得前処理部１１６は、取得したデータを機械学習できるよう、データクレンジングなどの前処理を実施する。
【0148】
＜２‐１‐２．セキュリティテストモデル生成ステップ＞
ステップＳ８０３において、セキュリティテストモデル生成部１１７は、前処理したデータを用いて強化学習より、探索的なテストケースの生成及びテスト判定結果の予測するためのセキュリティテストを行うモデルを生成する。つまり、該当のセキュリティ対策及び脆弱性、脅威に相当するテストケースと入力として、テストケースの予測結果を出力として得て、より脆弱性を検出できるテストケースを生成してテスト結果を予測することを探索的に繰り返して実施する。
ステップＳ８０３において、セキュリティテストモデル生成部１１７は、前処理したデータを用いて強化学習より、探索的なテストケースの生成及びテスト判定結果の予測するためのセキュリティテストを行うモデルを生成する。つまり、該当のセキュリティ対策及び脆弱性、脅威に相当するテストケースと入力として、テストケースの予測結果を出力として得て、より脆弱性を検出できるテストケースを生成してテスト結果を予測することを探索的に繰り返して実施する。
【0149】
強化学習の代表的な手法として、Ｑ学習（Q - learning）やＴＤ学習（TD - learning）が知られている。例えば、Ｑ学習の場合、行動価値関数Ｑ（ｓ，ａ）の一般的な更新式は式（１）で表される。
【0150】
式（１）において、ｓｔは時刻ｔにおける環境の状態を表し、ａｔは時刻ｔにおける行動を表す。行動ａｔにより、状態はｓｔ＋１に変わる。ｒｔ＋１はその状態の変化によってもらえる報酬を表し、γは割引率を表し、αは学習係数を表す。なお、γは０＜γ≦１、αは０＜α≦１の範囲とする。正常操作，異常操作に対するテストケースの生成とその実施が行動ａｔとなり、正常操作及び異常操作に対するテストケースに対する動作ログおよびテスト結果の予測結果、既知・未知の脆弱性と脅威が状態ｓｔとなり、時刻ｔの状態ｓｔにおける最良の行動ａｔを学習する。
【0151】
式（１）で表される更新式は、時刻ｔ＋１における最もＱ値の高い行動ａの行動価値Ｑが、時刻ｔにおいて実行された行動ａの行動価値Ｑよりも大きければ、行動価値Ｑを大きくし、逆の場合は、行動価値Ｑを小さくする。換言すれば、時刻ｔにおける行動ａの行動価値Ｑを、時刻ｔ＋１における最良の行動価値に近づけるように、行動価値関数Ｑ（ｓ，ａ）を更新する。それにより、或る環境における最良の行動価値が、それ以前の環境における行動価値に順次伝播していくようになる。
【0152】
ステップＳ８０４において、セキュリティテストモデル生成部１１７は、ステップ８０１～８０３、ステップ８０５、ステップ８０６～８０９のような学習を繰り返し実行する。セキュリティテストモデル記憶ＤＢ２６０は、セキュリティテスト関数更新部１２３によって更新された行動価値関数Ｑ（ｓｔ，ａｔ）、すなわち、学習済のセキュリティテストモデルを記憶する。
【0153】
ステップＳ８０５において、セキュリティテスト報酬計算部１１８は、攻撃が成功した場合はセキュリティテストモデルの報酬を増大させる（例えば「１」の報酬を与える）。他方、防御が成功した場合はセキュリティテストモデルの報酬を減少させる（例えば「－１」の報酬を与える）。このような報酬を算出は、次のような基準（報酬基準）に基づく。すなわち、セキュリティテストモデルの報酬は、正常操作，異常操作に対するテストケース生成とその実施（行動）、テストケースに対する動作ログ及びそのテスト結果の予測、既知・未知の脆弱性と脅威（状態）に基づいて計算される。
【0154】
＜２－２．推論フェーズ＞
ステップＳ８０６において、セキュリティ設計情報取得部１２０は、コストとスケジュールに準じた開発対象製品のセキュリティ要件に対応する設計情報のデータ（開発対象製品のセキュリティ設計情報シート６５５）を取得し、セキュリティテスト入出力観測部１２１へデータを投入する。
ステップＳ８０６において、セキュリティ設計情報取得部１２０は、コストとスケジュールに準じた開発対象製品のセキュリティ要件に対応する設計情報のデータ（開発対象製品のセキュリティ設計情報シート６５５）を取得し、セキュリティテスト入出力観測部１２１へデータを投入する。
【0155】
ステップＳ８０７において、セキュリティテスト入出力観測部１２１は、当該製品の製品情報、セキュリティ要求、責任分界、セキュリティ設計情報とフィードバックされるセキュリティテスト判定結果６５６から、信頼境界、動作ログ（テスト結果）等のテスト条件に対応する状態である脆弱性情報、セキュリティテストモデルのインプットとなる脅威に基づくセキュリティテストケース及びテストデータとそのテストの予測結果を観測する。
【0156】
ステップＳ８０８において、セキュリティテストモデル推論部１２２は、当該製品のテストスイートを活用したテスト実績より、セキュリティテスト判定結果６５６を予測して出力する。強化学習により学習した脅威に相当するテストケースとその対策を入力として、セキュリティテストモデル記憶ＤＢ２６０に保管した学習済モデルを利用して、予測されるログやテスト結果を推論する。なお、予測されたログやセキュリティテスト結果は、ステップＳ８０７へフィードバックし、逐次的なセキュリティテストの推論で参照可能とする。
【0157】
なお、実施の形態４では、セキュリティテストモデル推論部１２２が用いる学習アルゴリズムに強化学習を適用した場合について説明したが、これに限られるものではない。学習アルゴリズムについては、強化学習以外にも、敵対的逆強化学習等を適用することも可能である。
【0158】
ステップＳ８０９において、セキュリティテスト判定データ取得部１１９は、セキュリティテスト判定結果６５６より、報酬計算に必要な情報と脅威及びその対策が既知であるか比較するための情報を取得する。取得した情報は、逐次のセキュリティテストのフィードバックとして、セキュリティテスト報酬計算部１１８及び脅威・対策比較連携更新部１１５へ伝達する。
【0159】
ステップＳ８１０において、脅威・対策比較連携更新部１１５は、異常データの障害分類、脅威、シグネチャ、対策、攻撃者、攻撃ルートで既知でなく、未知の内容がある場合は、統合ＤＨ２４０の情報を更新する。
【0160】
ステップＳ８１１において、統合ＤＨ２４０は、更新対象のデータがある場合は、該当するＤＢであるシステム特徴ＤＢ２４１、障害ＤＢ２４２、脅威ＤＢ２４３、対策ＤＢ２４４、脆弱性情報ＤＢ２４５、運用ログ・シグネチャＤＢ２４６、プロジェクトＤＢ２４７、仕様書・設計書ＤＢ２４８、セキュリティ規格ＤＢ２４９、法令・規制ＤＢ２５０、セキュリティテスト・アラートルールＤＢ２５１へデータを格納する。
【0161】
＜３．効果＞
実施の形態４によれば、製品開発の工程において、開発側セキュリティ分析支援装置１０では、学習部、推論部、およびテスト部が相互に連携可能であるため、高品質な製品が求められる製品開発を効率的に実施することができる。また、テスト部で強化学習等の機械学習を活用することにより、既知の脆弱性や脅威だけではなく、未知の脆弱性および脅威にも対応したテストケースに基づく試験結果について、過去の試験結果の実績データから予測する。これにより、必要となる対策が分かるため、製品の開発と運用で相互にセキュリティ強化を行うことができる。
実施の形態４によれば、製品開発の工程において、開発側セキュリティ分析支援装置１０では、学習部、推論部、およびテスト部が相互に連携可能であるため、高品質な製品が求められる製品開発を効率的に実施することができる。また、テスト部で強化学習等の機械学習を活用することにより、既知の脆弱性や脅威だけではなく、未知の脆弱性および脅威にも対応したテストケースに基づく試験結果について、過去の試験結果の実績データから予測する。これにより、必要となる対策が分かるため、製品の開発と運用で相互にセキュリティ強化を行うことができる。
【0162】
なお、本開示の範囲内において、各実施の形態を自由に組み合わせたり、各実施の形態を適宜、変形、省略したりすることが可能である。
【0163】
本開示は詳細に説明されたが、上記した説明は、すべての態様において、例示であって、限定的なものではない。例示されていない無数の変形例が想定され得るものと解される。
【符号の説明】
【0164】
１０ 開発側セキュリティ分析支援装置、５０ 運用側セキュリティ分析支援装置、９０ 製品、１００ 主記憶部、１０１ データ収集部、１０２ マルチモーダル特徴解析部、１０３ データ一次加工統合部、１０４ セキュリティ要求抽出データ取得前処理部、１０５ セキュリティ要求予測モデル生成部、１０６ セキュリティ機能選定データ取得前処理部、１０７ 設計情報選定モデル生成部、１０８ 製品企画データ取得部、１０９ セキュリティ要求推論部、１１０ コスト・スケジュール調整部、１１１ セキュリティ要件取得部、１１２ セキュリティ機能推論部、１１３ セキュリティ監視データ取得前処理部、１１４ セキュリティ監視モデル生成部、１１５ 脅威・対策比較連携更新部、１１６ セキュリティテストデータ取得前処理部、１１７ セキュリティテストモデル生成部、１１８ セキュリティテスト報酬計算部、１１９ セキュリティテスト判定データ取得部、１２０ セキュリティ設計情報取得部、１２１ セキュリティテスト入出力観測部、１２２ セキュリティテストモデル推論部、１２３ セキュリティテスト関数更新部、２００ 補助記憶部、２１０ データレイク、２２０ セキュリティ要求予測モデル記憶ＤＢ、２３０ 設計情報選定モデル記憶ＤＢ、２４０ 統合ＤＨ、２４１ システム特徴ＤＢ、２４２ 障害ＤＢ、２４３ 脅威ＤＢ、２４４ 対策ＤＢ、２４５ 脆弱性情報ＤＢ、２４６ 運用ログ・シグネチャＤＢ、２４７ プロジェクトＤＢ、２４８ 仕様書・設計書ＤＢ、２４９ セキュリティ規格ＤＢ、２５０ 法令・規制ＤＢ、２５１ セキュリティテスト・アラートルールＤＢ、２６０ セキュリティテストモデル記憶ＤＢ、３００ インターフェース部、４００ プロセッサ、５００ 表示装置、６００ 入出力装置、６０１ 過去のプロジェクトデータ、６０２ 脆弱性解析結果、６０３ 仕様書・設計書、６０４ 法令・規制情報、６０５ セキュリティ規格、６０６ 過去の市場における製品の運用ログおよびインシデント・シグネチャ情報、６５１ 準拠する法令・規制及びセキュリティ規格、６５２ 開発対象製品の要求仕様、６５３ 開発対象製品の特徴確認シート、６５４ 開発対象製品のセキュリティ要件情報シート、６５５ 開発対象製品のセキュリティ設計情報シート、６５６ セキュリティテスト判定結果、７００ 通信部、８００ プロセッサ、９００ 主記憶部、９０１ 運用ログデータ取得部、９０２ 運用ログデータ前処理部、９０３ セキュリティ監視モデル推論部、９０４ シグネチャデータ比較部、９０５ シグネチャ情報更新部、９０６ 異常検知データ比較部、９０７ アラートルール情報更新部、１０００ 補助記憶部、１００１ セキュリティ監視モデル記憶ＤＢ、１００２ 運用・保守解析ＤＢ、１１００ 通信部、１３０１ 市場における製品の運用から得られる知見ファイル、１３０２ シグネチャ更新リストファイル、１３０３ アラートルール更新リストファイル、２００１ 遠隔監視装置、２００２ 室内機、２００３ 室外機、２００４ 集中コントローラ、２００５ 無線ＬＡＮ、２００６ スマートフォン、２００７ パソコン、２００８ リモコン。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25】
【図26】
【図27】
【図28】
【図29】
【図30】
【図31】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【図40】
【図41】
【図42】
【図43】