知財求人 - 知財ポータルサイト「IP Force」
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6968310
(24)【登録日】2021年10月28日
(45)【発行日】2021年11月17日
(54)【発明の名称】実行監視装置、実行監視方法、及び、実行監視プログラム
(51)【国際特許分類】
G06F 11/07 20060101AFI20211108BHJP
【ＦＩ】
G06F11/07 157
【請求項の数】11
【全頁数】38
(21)【出願番号】特願2021-513627(P2021-513627)
(86)(22)【出願日】2020年4月6日
(86)【国際出願番号】JP2020015547
(87)【国際公開番号】WO2020209226
(87)【国際公開日】20201015
【審査請求日】2021年5月18日
(31)【優先権主張番号】PCT/JP2019/016058
(32)【優先日】2019年4月12日
(33)【優先権主張国】JP
【早期審査対象出願】
(73)【特許権者】
【識別番号】000006013
【氏名又は名称】三菱電機株式会社
(74)【代理人】
【識別番号】110002491
【氏名又は名称】溝井国際特許業務法人
(72)【発明者】
【氏名】和田 佑太
(72)【発明者】
【氏名】上田 直樹
(72)【発明者】
【氏名】跡部 悠太
(72)【発明者】
【氏名】横山 陽介
(72)【発明者】
【氏名】泉 幸雄
【審査官】
多胡 滋
(56)【参考文献】
【文献】
特開２０１８−１７４５２５（ＪＰ，Ａ）
【文献】
国際公開第２０１３／１４５０１６（ＷＯ，Ａ１）
【文献】
有松 優 ほか，分散ストリーム処理エンジンを用いたＭＴＬによる大規模トレース検査，電子情報通信学会技術研究報告 ＳＳ２０１８−５２−ＳＳ２０１８−８４ ソフトウェアサイエンス，日本，一般社団法人電子情報通信学会，2019年02月25日，第118巻, 第471号，pp.127-132，ISSN 2432-6380
(58)【調査した分野】（Int.Cl.，ＤＢ名）
Ｇ０６Ｆ １１／０７
(57)【特許請求の範囲】
【請求項1】
時系列データを保存する時系列データ保存部と、
前記時系列データ保存部に保存された前記時系列データが、電子装置の実行時監視の監視仕様が含む制約の一部であり、実時間を使用する制約である実時間仕様を満たすか否かを判定し、前記実時間仕様を満たすか否かを判定した結果である判定結果を更新する実時間仕様判定部と
を備え、
前記実時間仕様判定部は、前記判定結果を、前記実時間仕様判定部の実行前に予約されているメモリの領域に保存する実行監視装置であって、
前記実行監視装置は、さらに
前記時系列データに対応する信号であって、前記実行監視装置が受信信号として受信した信号を前記時系列データ保存部に保存するか否かを判定することに用いられる保存基準を保存している保存基準保存部と、
前記受信信号が前記保存基準を満たすか否かを判定し、かつ、前記受信信号が前記保存基準を満たす場合に前記受信信号を前記時系列データ保存部に保存する信号判定部と
を備える実行監視装置。
前記時系列データ保存部に保存された前記時系列データが、電子装置の実行時監視の監視仕様が含む制約の一部であり、実時間を使用する制約である実時間仕様を満たすか否かを判定し、前記実時間仕様を満たすか否かを判定した結果である判定結果を更新する実時間仕様判定部と
を備え、
前記実時間仕様判定部は、前記判定結果を、前記実時間仕様判定部の実行前に予約されているメモリの領域に保存する実行監視装置であって、
前記実行監視装置は、さらに
前記時系列データに対応する信号であって、前記実行監視装置が受信信号として受信した信号を前記時系列データ保存部に保存するか否かを判定することに用いられる保存基準を保存している保存基準保存部と、
前記受信信号が前記保存基準を満たすか否かを判定し、かつ、前記受信信号が前記保存基準を満たす場合に前記受信信号を前記時系列データ保存部に保存する信号判定部と
を備える実行監視装置。
【請求項2】
前記実時間仕様毎に前記実時間仕様の前記判定結果が変化する変化時刻を算出する変化時刻算出部と、
現在時刻が前記変化時刻以後である場合に、前記実時間仕様判定部が前記変化時刻に対応する前記実時間仕様を判定すべきであると判定する期限管理部と
を備え、
前記実時間仕様判定部は、前記期限管理部が判定すべきであると判定した前記実時間仕様を判定する請求項１に記載の実行監視装置。
現在時刻が前記変化時刻以後である場合に、前記実時間仕様判定部が前記変化時刻に対応する前記実時間仕様を判定すべきであると判定する期限管理部と
を備え、
前記実時間仕様判定部は、前記期限管理部が判定すべきであると判定した前記実時間仕様を判定する請求項１に記載の実行監視装置。
【請求項3】
前記実時間仕様の前記判定結果が変化した場合に、前記判定結果が変化した前記実時間仕様の前記判定結果に依存する、前記監視仕様が含む制約の一部である部分仕様を特定する次計算仕様判定部を備え、
前記実時間仕様判定部は、前記次計算仕様判定部が特定した前記部分仕様の内、前記実時間仕様を判定する請求項１又は２に記載の実行監視装置。
前記実時間仕様判定部は、前記次計算仕様判定部が特定した前記部分仕様の内、前記実時間仕様を判定する請求項１又は２に記載の実行監視装置。
【請求項4】
前記次計算仕様判定部は、前記実時間仕様の前記判定結果が変化した場合に、前記監視仕様に対応したＲｅｔｅネットワークに基づいて、前記実時間仕様の前記判定結果に依存する前記部分仕様を特定する請求項３に記載の実行監視装置。
【請求項5】
前記時系列データ保存部が、前記実時間仕様判定部が前記実時間仕様を判定する際に使用する全ての前記時系列データを保存していない場合の処理方針を保存する異常処理ポリシ保存部を備え、
前記実時間仕様判定部は、前記時系列データ保存部が前記実時間仕様を判定する際に使用する全ての前記時系列データを保存していない場合に、前記異常処理ポリシ保存部に保存された、前記実時間仕様に対応する前記処理方針に従って処理する請求項１から４のいずれか１項に記載の実行監視装置。
前記実時間仕様判定部は、前記時系列データ保存部が前記実時間仕様を判定する際に使用する全ての前記時系列データを保存していない場合に、前記異常処理ポリシ保存部に保存された、前記実時間仕様に対応する前記処理方針に従って処理する請求項１から４のいずれか１項に記載の実行監視装置。
【請求項6】
前記監視仕様と前記実時間仕様との関係性を保存する依存関係保存部と、
前記時系列データ保存部が前記実時間仕様を判定する際に使用する全ての前記時系列データを保存していない場合に、前記依存関係保存部を参照して前記実時間仕様に対応する前記監視仕様を特定し、前記監視仕様の情報を出力する異常出力部と
を備える請求項１から５のいずれか１項に記載の実行監視装置。
前記時系列データ保存部が前記実時間仕様を判定する際に使用する全ての前記時系列データを保存していない場合に、前記依存関係保存部を参照して前記実時間仕様に対応する前記監視仕様を特定し、前記監視仕様の情報を出力する異常出力部と
を備える請求項１から５のいずれか１項に記載の実行監視装置。
【請求項7】
前記受信信号は、前記受信信号の名称を示す信号名を含み、
前記保存基準は、前記信号判定部が前記受信信号を判定する観点を示す判定項目と、前記判定項目に対応する参考値であって、前記信号判定部が前記受信信号を判定する際に用いる参考値とを含み、
前記判定項目と、前記参考値とは、前記信号名に対応し、
前記信号判定部は、前記判定項目と、前記参考値とを用いて前記受信信号を判定する請求項１から６のいずれか１項に記載の実行監視装置。
前記保存基準は、前記信号判定部が前記受信信号を判定する観点を示す判定項目と、前記判定項目に対応する参考値であって、前記信号判定部が前記受信信号を判定する際に用いる参考値とを含み、
前記判定項目と、前記参考値とは、前記信号名に対応し、
前記信号判定部は、前記判定項目と、前記参考値とを用いて前記受信信号を判定する請求項１から６のいずれか１項に記載の実行監視装置。
【請求項8】
時系列データを保存する時系列データ保存部と、
前記時系列データ保存部に保存された前記時系列データが、電子装置の実行時監視の監視仕様が含む制約の一部であり、実時間を使用する制約である実時間仕様を満たすか否かを判定し、前記実時間仕様を満たすか否かを判定した結果である判定結果を更新する実時間仕様判定部と、
前記実時間仕様毎に前記実時間仕様の前記判定結果が変化する変化時刻を算出する変化時刻算出部と、
現在時刻が前記変化時刻以後である場合に、前記実時間仕様判定部が前記変化時刻に対応する前記実時間仕様を判定すべきであると判定する期限管理部と
を備え、
前記実時間仕様判定部は、前記判定結果を前記実時間仕様判定部の実行前に予約されているメモリの領域に保存し、前記期限管理部が判定すべきであると判定した前記実時間仕様を判定する実行監視装置であって、
前記時系列データに対応する信号であって、前記実行監視装置が受信信号として受信した信号を前記時系列データ保存部に保存するか否かを判定することに用いられる保存基準を保存している保存基準保存部と、
前記受信信号が前記保存基準を満たすか否かを判定し、かつ、前記受信信号が前記保存基準を満たす場合に前記受信信号を前記時系列データ保存部に保存する信号判定部と
を備える実行監視装置。
前記時系列データ保存部に保存された前記時系列データが、電子装置の実行時監視の監視仕様が含む制約の一部であり、実時間を使用する制約である実時間仕様を満たすか否かを判定し、前記実時間仕様を満たすか否かを判定した結果である判定結果を更新する実時間仕様判定部と、
前記実時間仕様毎に前記実時間仕様の前記判定結果が変化する変化時刻を算出する変化時刻算出部と、
現在時刻が前記変化時刻以後である場合に、前記実時間仕様判定部が前記変化時刻に対応する前記実時間仕様を判定すべきであると判定する期限管理部と
を備え、
前記実時間仕様判定部は、前記判定結果を前記実時間仕様判定部の実行前に予約されているメモリの領域に保存し、前記期限管理部が判定すべきであると判定した前記実時間仕様を判定する実行監視装置であって、
前記時系列データに対応する信号であって、前記実行監視装置が受信信号として受信した信号を前記時系列データ保存部に保存するか否かを判定することに用いられる保存基準を保存している保存基準保存部と、
前記受信信号が前記保存基準を満たすか否かを判定し、かつ、前記受信信号が前記保存基準を満たす場合に前記受信信号を前記時系列データ保存部に保存する信号判定部と
を備える実行監視装置。
【請求項9】
前記受信信号は、前記受信信号の名称を示す信号名を含み、
前記保存基準は、前記信号判定部が前記受信信号を判定する観点を示す判定項目と、前記判定項目に対応する参考値であって、前記信号判定部が前記受信信号を判定する際に用いる参考値とを含み、
前記判定項目と、前記参考値とは、前記信号名に対応し、
前記信号判定部は、前記判定項目と、前記参考値とを用いて前記受信信号を判定する請求項８に記載の実行監視装置。
前記保存基準は、前記信号判定部が前記受信信号を判定する観点を示す判定項目と、前記判定項目に対応する参考値であって、前記信号判定部が前記受信信号を判定する際に用いる参考値とを含み、
前記判定項目と、前記参考値とは、前記信号名に対応し、
前記信号判定部は、前記判定項目と、前記参考値とを用いて前記受信信号を判定する請求項８に記載の実行監視装置。
【請求項10】
実行監視装置が実行する実行監視方法であって、
時系列データ保存部が、時系列データを保存し、
実時間仕様判定部が、前記時系列データ保存部に保存された前記時系列データが、電子装置の実行時監視の監視仕様が含む制約の一部であり、実時間を使用する制約である実時間仕様を満たすか否かを判定し、前記実時間仕様を満たすか否かを判定した結果である判定結果を更新し、
保存基準保存部が、前記時系列データに対応する信号であって、前記実行監視装置が受信信号として受信した信号を前記時系列データ保存部に保存するか否かを判定することに用いられる保存基準を保存しており、
信号判定部が、前記受信信号が前記保存基準を満たすか否かを判定し、かつ、前記受信信号が前記保存基準を満たす場合に前記受信信号を前記時系列データ保存部に保存し、
前記実時間仕様判定部は、前記判定結果を、前記実時間仕様判定部の実行前に予約されているメモリの領域に保存する実行監視方法。
時系列データ保存部が、時系列データを保存し、
実時間仕様判定部が、前記時系列データ保存部に保存された前記時系列データが、電子装置の実行時監視の監視仕様が含む制約の一部であり、実時間を使用する制約である実時間仕様を満たすか否かを判定し、前記実時間仕様を満たすか否かを判定した結果である判定結果を更新し、
保存基準保存部が、前記時系列データに対応する信号であって、前記実行監視装置が受信信号として受信した信号を前記時系列データ保存部に保存するか否かを判定することに用いられる保存基準を保存しており、
信号判定部が、前記受信信号が前記保存基準を満たすか否かを判定し、かつ、前記受信信号が前記保存基準を満たす場合に前記受信信号を前記時系列データ保存部に保存し、
前記実時間仕様判定部は、前記判定結果を、前記実時間仕様判定部の実行前に予約されているメモリの領域に保存する実行監視方法。
【請求項11】
コンピュータに、
時系列データを保存させ、前記時系列データが、電子装置の実行時監視の監視仕様が含む制約の一部であり、実時間を使用する制約である実時間仕様を満たすか否かを判定させ、前記実時間仕様を満たすか否かを判定した結果である判定結果を更新させ、前記判定結果を、実行監視プログラムの実行前に予約されているメモリの領域に保存させ、
前記時系列データに対応する信号であって、前記コンピュータが受信信号として受信した信号を保存するか否かを判定することに用いられる保存基準を前記受信信号が満たすか否かを判定させ、かつ、前記受信信号が前記保存基準を満たす場合に前記受信信号を保存させる実行監視プログラム。
時系列データを保存させ、前記時系列データが、電子装置の実行時監視の監視仕様が含む制約の一部であり、実時間を使用する制約である実時間仕様を満たすか否かを判定させ、前記実時間仕様を満たすか否かを判定した結果である判定結果を更新させ、前記判定結果を、実行監視プログラムの実行前に予約されているメモリの領域に保存させ、
前記時系列データに対応する信号であって、前記コンピュータが受信信号として受信した信号を保存するか否かを判定することに用いられる保存基準を前記受信信号が満たすか否かを判定させ、かつ、前記受信信号が前記保存基準を満たす場合に前記受信信号を保存させる実行監視プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、電子装置の実行監視装置に関する。【背景技術】
【0002】
車載システム等の組み込みシステムでは、機能の追加及び更新をすること、セキュリティパッチの適用をすること、並びに、新たな法規制に対応すること等が必要である。そのため、システムの複雑化及び市場リードタイムの削減等が必要となるので、組み込みシステムの事前検証は困難になる一方であるという課題がある。また、組み込みシステムには不確実性を持つＡＩ（Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ：人工知能）が導入されることが増え、網羅的な検証がより難しくなるという課題がある。【0003】
これらの課題に対応するため、実行時監視（Ｒｕｎｔｉｍｅ ｍｏｎｉｔｏｒｉｎｇ：ランタイムモニタリング）技術が提案されている。実行時監視とは、組み込みシステムの振る舞いが所定の仕様及び前提条件等（以後、所定の仕様及び前提条件等を、単に監視仕様とよぶ）から逸脱していないか監視する技術である。組み込みシステムの振る舞いが監視仕様から逸脱していないか監視することにより、車両を安全な状態に遷移させる契機としたり、逸脱を開発者にフィードバックして改善を促したり、開発時のテストオラクルとして利用することができる。【0004】
実行時監視技術に利用可能な技術の１つとして、例えば特許文献１では、ワーキングメモリの枯渇を防止するとともに、ガベージコレクションを働かせなくて済むルールベースシステムを開示している。この技術では、複数の条件項目それぞれにワーキングメモリを固定的に割り当てることで、ワーキングメモリの枯渇を防止している。また、非特許文献１では、時間拡張したＲｅｔｅアルゴリズムを提案している。
【0005】
Ｒｅｔｅアルゴリズムは、１９７５年に提案されたルール判定アルゴリズムであり、ビジネス用のルールマネジメントエンジン（ＯＰＳ５、ＣＬＩＰＳ、及びＤｒｏｏｌｓ等）に採用されている。Ｒｅｔｅアルゴリズムの利点は、イベントが挿入される度に全てのルールを評価しない点であるが、基本的にはエンタープライズシステム向けであり、リソースの使用量が多いこと及び動的メモリ確保が必要である点に課題がある。【0006】
非特許文献１では、あるイベントが実時間制約に寄与しなくなったらそのイベントを動的に削除するようにするガベージコレクタを用いて、Ｒｅｔｅアルゴリズムにより実時間制約を監視できるように拡張している。【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開２０１８−１３２７９６号公報
【非特許文献】
【0008】
【非特許文献1】Ｋ． Ｗａｌｚｅｒ， Ｔ． Ｂｒｅｄｄｉｎ， ａｎｄ Ｍ． Ｇｒｏｃｈ， “Ｒｅｌａｔｉｖｅ ｔｅｍｐｏｒａｌ ｃｏｎｓｔｒａｉｎｔｓ ｉｎ ｔｈｅ Ｒｅｔｅ ａｌｇｏｒｉｔｈｍ ｆｏｒ ｃｏｍｐｌｅｘ ｅｖｅｎｔ ｄｅｔｅｃｔｉｏｎ，” ｐｒｅｓｅｎｔｅｄ ａｔ ｔｈｅ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ｓｅｃｏｎｄ ｉｎｔｅｒｎａｔｉｏｎａｌ ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｄｉｓｔｒｉｂｕｔｅｄ ｅｖｅｎｔ−ｂａｓｅｄ ｓｙｓｔｅｍｓ， Ｒｏｍｅ， Ｉｔａｌｙ， ２００８．
【非特許文献2】Ａ． Ｋａｎｅ， “Ｒｕｎｔｉｍｅ ｍｏｎｉｔｏｒｉｎｇ ｆｏｒ ｓａｆｅｔｙ−ｃｒｉｔｉｃａｌ ｅｍｂｅｄｄｅｄ ｓｙｓｔｅｍｓ，” ２０１５．
【非特許文献3】Ｏ． Ｍａｌｅｒ， Ｄ． Ｎｉｃｋｏｖｉｃ， ａｎｄ Ａ． Ｐｎｕｅｌｉ， “Ｏｎ Ｓｙｎｔｈｅｓｉｚｉｎｇ Ｃｏｎｔｒｏｌｌｅｒｓ ｆｒｏｍ Ｂｏｕｎｄｅｄ−Ｒｅｓｐｏｎｓｅ Ｐｒｏｐｅｒｔｉｅｓ，” ｉｎ Ｃｏｍｐｕｔｅｒ Ａｉｄｅｄ Ｖｅｒｉｆｉｃａｔｉｏｎ， Ｂｅｒｌｉｎ， Ｈｅｉｄｅｌｂｅｒｇ， ２００７， ｐｐ． ９５−１０７： Ｓｐｒｉｎｇｅｒ Ｂｅｒｌｉｎ Ｈｅｉｄｅｌｂｅｒｇ．
【非特許文献4】Ｒ． Ｌ． Ｒｕｄｅｌｌ ａｎｄ Ａ． Ｓａｎｇｉｏｖａｎｎｉ−Ｖｉｎｃｅｎｔｅｌｌｉ， “Ｍｕｌｔｉｐｌｅ−Ｖａｌｕｅｄ Ｍｉｎｉｍｉｚａｔｉｏｎ ｆｏｒ ＰＬＡ Ｏｐｔｉｍｉｚａｔｉｏｎ，” ｉｎ ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｃｏｍｐｕｔｅｒ−Ａｉｄｅｄ Ｄｅｓｉｇｎ ｏｆ Ｉｎｔｅｇｒａｔｅｄ Ｃｉｒｃｕｉｔｓ ａｎｄ Ｓｙｓｔｅｍｓ， ｖｏｌ． ６， ｎｏ． ５， ｐｐ． ７２７−７５０， Ｓｅｐｔｅｍｂｅｒ １９８７．
【発明の概要】
【発明が解決しようとする課題】
【0009】
ところで、組み込みシステムで監視すべき監視仕様には、実時間制約を含むものと含まないものがある。【0010】
前方車両が存在する場合は前方車両に追従し、前方車両が存在しない場合には自動車の速度を一定にするＡＣＣ（Ａｄａｐｔｉｖｅ Ｃｒｕｉｓｅ Ｃｏｎｔｒｏｌ Ｓｙｓｔｅｍ）システムを例に説明する。なお、この例は非特許文献２に記載のものを、一部改変したものである。【0011】
ＡＣＣシステムにおいて、実時間制約を含まない監視仕様の例としては、「ＡＣＣ有効信号がＴｒｕｅであれば、サービスＡＣＣ信号（エラー信号）はＦａｌｓｅである。」が挙げられる。この仕様は、ＡＣＣ機能に異常がある場合にＡＣＣが有効にならないことを意図した監視仕様である。【0012】
ＡＣＣシステムにおいて、実時間制約を含む監視仕様の例としては、「ＡＣＣ有効信号がＴｒｕｅであれば、車間距離時間が１秒未満の場合は、５秒以内に１．０秒以上に回復する必要がある。」が挙げられる。この仕様は、前方車両に近付きすぎた場合に、速やかに車間距離をとるということを意図した監視仕様である。【0013】
実行時監視技術は、組み込みシステムに導入されるため、省リソースであることが必要であり、又、実時間制約が混在した監視仕様に対応する必要がある。さらに、実行時監視技術は、組み込みシステムは複数の機能を持つことが通常であるため、多数の監視仕様を効率よく判定する必要がある。【0014】
具体例として前述した仕様において、「ＡＣＣ有効信号がＴｒｕｅであれば」の部分は共通しており、これらを共通して判定することができる。【0015】
しかし、実時間制約を含む監視仕様を組み込みシステムにおいて効率的に判定する技術は、先行技術文献に開示されていない。特許文献１に開示された技術は、実時間制約に対応しておらず、又、多数の監視仕様を効率よく判定することも考慮されていない。非特許文献１に開示された技術は、動的なメモリ確保を採用するため、組み込みシステムに不向きである。従って、特許文献１及び非特許文献１の技術を単純に組み合わせても、上記の課題は解決できない。【課題を解決するための手段】
【0016】
この発明の実行監視装置は、時系列データを保存する時系列データ保存部と、
前記時系列データ保存部に保存された前記時系列データが、電子装置の実行時監視の監視仕様が含む制約の一部であり、実時間を使用する制約である実時間仕様を満たすか否かを判定し、メモリのヒープ領域以外の領域に保存されている、前記実時間仕様を満たすか否かを判定した結果である判定結果を更新する実時間仕様判定部と
を備える。
【発明の効果】
【0017】
この発明の実行監視装置は、監視仕様を判定するために必要なデータの保持において動的なメモリを用いず、実時間制約を持つ監視仕様と持たない監視仕様が混在している場合において、監視仕様を効率的に判定できる。【図面の簡単な説明】
【0018】
【図1】ＡＣＣシステムを備える車載システムの概略図。
【図2】ＡＣＣシステムの入出力の概略図。
【図3】ＡＣＣシステムに対する監視仕様。
【図4】演算子Ｕｎｔｉｌのタイミングチャート。
【図5】演算子Ｓｉｎｃｅのタイミングチャート。
【図6】ＤＳＬにより記述した監視仕様。
【図7】Ｕｎｔｉｌを用いずにＤＳＬにより記述した監視仕様。
【図8】Ｒｅｔｅネットワークの作成に関するフローチャート。
【図9】実時間制約に関連する部分式の置換結果。
【図10】監視仕様のＡＳＴへの変換。
【図11】監視仕様ｙ１に対応するＡＳＴを示す図。
【図12】監視仕様ｙ２に対応するＡＳＴを示す図。
【図13】監視仕様ｙ１及びｙ２をマージしたＡＳＴを示す図。
【図14】分解前の部分グラフ。
【図15】分解後の部分グラフ。
【図16】ノード番号を振ったＲｅｔｅネットワーク。
【図17】Ｒｅｔｅネットワークを表すテーブル。
【図18】参照する時刻だけ異なるノードの抽出処理を示す図。
【図19】参照する時刻だけ異なるノードの抽出処理を示す図。
【図20】ＡＣＣシステムにおける参照する時刻だけ異なるノードの抽出処理を示す図。
【図21】実施の形態１に係る実行監視装置２０のハードウェア構成図。
【図22】実施の形態１に係る実行監視装置２０の構成図。
【図23】実施の形態１に係る一時バッファ部２２１のデータ構造。
【図24】実施の形態１に係る判定結果保存部２２４のデータ構造。
【図25】実施の形態１に係る時系列データ保存部２２５のデータ構造。
【図26】実施の形態１に係る依存関係保存部２２９のデータ構造。
【図27】実施の形態１に係る異常処理ポリシ保存部２２８のデータ構造。
【図28】実施の形態１に係る実行監視装置２０の動作を示すフローチャート。
【図29】実施の形態１に係る実時間仕様判定部２０４の動作を示すフローチャート。
【図30】実施の形態１に係る不変仕様判定部２０３の動作を示すフローチャート。
【図31】実施の形態１に係る計算対象保存部２２３のデータ構造。
【図32】実施の形態１に係る変化時刻保存部２２６のデータ構造。
【図33】実施の形態２に係る実行監視装置３０のハードウェア構成図。
【図34】実施の形態２に係る実行監視装置３０の構成図。
【図35】実施の形態２に係る保存基準３２１のデータ構造。
【図36】実施の形態２に係る実行監視装置３０の動作を示すフローチャート。
【図37】実施の形態２に係る信号判定部３１０の動作を示すフローチャート。
【発明を実施するための形態】
【0019】
実施の形態１．以下、本実施の形態について、図面を参照しながら詳細に説明する。
なお、本実施の形態の実行監視装置２０は、任意の電子装置の実行を監視することができる。しかし、説明の便宜上、本実施の形態をＡＣＣ（Ａｄａｐｔｉｖｅ Ｃｒｕｉｓｅ Ｃｏｎｔｒｏｌ Ｓｙｓｔｅｍ）システムに応用した例に基づいて説明する。
【0020】
図１は、ＡＣＣシステムを備える車載システムの概略図である。本図に示すように、前記車載システムは、車両と、データ収集サーバとから構成され、車両と、データ収集サーバとは、公共通信網により接続されている。前記車両は、実行監視装置２０と、ＡＣＣ ＥＣＵ（Ｅｌｅｃｔｒｏｎｉｃ Ｃｏｎｔｒｏｌ Ｕｎｉｔ）と等を備える。【0021】
図２は、ＡＣＣ ＥＣＵの入出力信号と、実行監視装置２０が電子装置の実行時監視（Ｒｕｎｔｉｍｅ ｍｏｎｉｔｏｒｉｎｇ：ランタイムモニタリング）に係る監視仕様の判定に用いる信号を表した図である。本図に示すように、実行監視装置２０は、ＡＣＣ ＥＣＵの入出力信号を用いて監視仕様を判定し、監視仕様の判定結果を出力する。【0022】
図３は、監視仕様の具体例を示したものである。なお、本図に示す監視仕様は例示に過ぎず、また、この監視仕様は完全なものではない。監視仕様ＩＤは、監視仕様を識別するために、一意に割り当てた識別子である。【0023】
＊＊＊ＤＳＬの作成方法＊＊＊【0024】
監視仕様式を、下記の［数式１］の通り、バッカスナウア記法を用いて、ＤＳＬ（Ｄｏｍａｉｎ Ｓｐｅｃｉｆｉｃ Ｌａｎｇｕａｇｅ： ドメイン記述言語）により再帰的に定義する。監視仕様式は、Ｃ言語のブール代数に関する演算子の一部に、論理包含と、実時間を使用する制約である実時間制約に関する演算子とを追加したものである。なお、監視仕様式は、［非特許文献３］におけるＭＴＬ−Ｂを参考に作成したものである。本実施の形態が扱う監視仕様は、監視仕様式を用いて表現することができる。【0025】
［数式１］＜監視仕様式＞ ：：＝
｛＜信号制約＞｝｜ …（１）
！＜監視仕様式＞｜ …（２）
＜監視仕様式＿１＞ ｜｜ ＜監視仕様式＿２＞｜ …（３）
＜監視仕様式＿１＞ ＆＆ ＜監視仕様式＿２＞ ｜ …（４）
＜監視仕様式＿１＞ → ＜監視仕様式＿２＞ ｜ …（５）
＜監視仕様式＿１＞ Ｕ［＜実数値１＞，＜実数値２＞］ ＜監視仕様式＿２＞｜ …（６）
＜監視仕様式＿１＞ Ｓ［＜実数値１＞，＜実数値２＞］ ＜監視仕様式＿２＞ …（７）
【0026】
［数式１］の３点リーダ及び（１）から（７）の表記は、説明の便宜上付した、＜監視仕様式＞の各項を示す表記であり、＜監視仕様式＞を構成するものではない。＜監視仕様式＞の文法の説明を以下で行う。【0027】
（１）は、＜信号制約＞の真理値（“Ｔｒｕｅ”及び“Ｆａｌｓｅ”）を表す。以下、｛＜信号制約＞｝を信号命題と呼び、信号命題の真理値を信号真理値と呼ぶ。＜信号制約＞は、１の信号（信号の値の取り得る値が、“Ｔｒｕｅ”又は“Ｆａｌｓｅ”であるもの限る）であっても良く、複数の信号の比較であっても良い。また、＜信号制約＞は、真理値であっても良い。【0028】
具体例としては、｛ＡＣＣ有効信号｝と表記した監視仕様は、「ＡＣＣ有効信号が“Ｔｒｕｅ”である」という監視仕様と同義であり、｛ＡＣＣ設定速度＞規制速度｝と表記した監視仕様は、「ＡＣＣ設定速度が規制速度より大きい」という監視仕様と同義である。従って、信号制約の値域は、“Ｔｒｕｅ”及び“Ｆａｌｓｅ”である。【0029】
（２）の「！」は、否定を表す。具体例としては、＜監視仕様式＞が！｛“Ｔｒｕｅ”｝である場合、＜監視仕様式＞の真理値は“Ｆａｌｓｅ”であり、＜監視仕様式＞が！｛“Ｆａｌｓｅ”｝である場合、＜監視仕様式＞の真理値は“Ｔｒｕｅ”である。【0030】
（３）の「｜｜」は、論理和を表す。具体例としては、＜監視仕様式＞が｛“Ｔｒｕｅ”｝ ｜｜ ｛“Ｆａｌｓｅ”｝である場合、＜監視仕様式＞の真理値は“Ｔｒｕｅ”であり、＜監視仕様式＞が｛“Ｆａｌｓｅ”｝ ｜｜ ｛“Ｆａｌｓｅ”｝である場合、＜監視仕様式＞の真理値は“Ｆａｌｓｅ”である。なお、＜監視仕様式＿１＞及び＜監視仕様式＿２＞は、＜監視仕様式＞と同等であり、２の＜監視仕様式＞を区別するために用いている表記である。【0031】
（４）の「＆＆」は、論理積を表す。具体例としては、＜監視仕様式＞が｛“Ｔｒｕｅ”｝ ＆＆ ｛“Ｆａｌｓｅ”｝である場合、＜監視仕様式＞の真理値は“Ｆａｌｓｅ”であり、＜監視仕様式＞が｛“Ｔｒｕｅ”｝ ＆＆ ｛“Ｔｒｕｅ”｝である場合、＜監視仕様式＞の真理値は“Ｔｒｕｅ”である。【0032】
（５）の「→」は、論理包含を表す。（５）の真理値は、＜監視仕様式＿１＞の真理値が“Ｆａｌｓｅ”であるとき、又は、＜監視仕様式＿２＞の真理値が“Ｔｒｕｅ”であるとき、“Ｔｒｕｅ”となる。具体例としては、（５）の真理値は、＜監視仕様式＞が、“Ｔｒｕｅ” → “Ｔｒｕｅ”である場合、及び、“Ｆａｌｓｅ” → “Ｆａｌｓｅ”である場合、“Ｔｒｕｅ”である。【0033】
（６）の「Ｕ」は、Ｕｎｔｉｌを表す。（６）の真理値は、＜監視仕様式＿２＞の真理値が現在時刻の＜実数値１＞秒後から現在時刻の＜実数値２＞秒後までの間のある時刻において“Ｔｒｕｅ”であり、かつ、＜監視仕様式＿１＞の真理値が現在時刻から前記時刻までの間、常に“Ｔｒｕｅ”である場合にのみ、“Ｔｒｕｅ”である。図４は、（６）の真理値が“Ｔｒｕｅ”となる場合を示した図である。【0034】
ここで、＜実数値１＞及び＜実数値２＞は、実数値を表す。＜実数値２＞及び＜実数値１＞の大小関係について、＜実数値２＞は、＜実数値１＞以上である。【0035】
（７）の「Ｓ」は、Ｓｉｎｃｅを表す。（７）の真理値は、＜監視仕様式＿２＞の真理値が現在時刻の＜実数値２＞秒前から現在時刻の＜実数値１＞秒前までの間のある時刻において“Ｔｒｕｅ”であり、かつ、＜監視仕様式＿１＞の真理値が前記時刻から現在時刻までの間、常に“Ｔｒｕｅ”である場合にのみ、“Ｔｒｕｅ”である。図５は、（７）の真理値が“Ｔｒｕｅ”となる場合を示した図である。【0036】
また、丸括弧を用いて＜監視仕様式＞の演算の優先順位を示すことにする。【0037】
監視仕様式の文法を用いて、演算子Ｆ＿ｆ及びＧ＿ｆを定義する。【0038】
［数式２］Ｆ＿ｆ［＜実数値１＞，＜実数値２＞］ ＜監視仕様式＞
【0039】
［数式２］は、“Ｅｖｅｎｔｕａｌｌｙ ｉｎ ｔｈｅ ｆｕｔｕｒｅ”を表す。［数式２］の真理値が“Ｔｒｕｅ”である場合、現在時刻の＜実数値１＞秒後から現在時刻の＜実数値２＞秒後までの間のある時刻において、＜監視仕様式＞の真理値が“Ｔｒｕｅ”である。Ｆ＿ｆは、Ｕｎｔｉｌを用いて、［数式３］のように表すことができる。【0040】
［数式３］｛“Ｔｒｕｅ”｝ Ｕ［＜実数値１＞，＜実数値２＞］ ＜監視仕様式＞
【0041】
［数式４］Ｇ＿ｆ［＜実数値１＞，＜実数値２＞］ ＜監視仕様式＞
【0042】
［数式４］は、“Ａｌｗａｙｓ ｉｎ ｔｈｅ ｆｕｔｕｒｅ”を表す。［数式４］の真理値が“Ｔｒｕｅ”である場合、現在時刻の＜実数値１＞秒後から現在時刻の＜実数値２＞秒後までの間、常に＜監視仕様式＞の真理値が“Ｔｒｕｅ”である。Ｇ＿ｆは、“Ｅｖｅｎｔｕａｌｌｙ ｉｎ ｔｈｅ ｆｕｔｕｒｅ”を用いて、［数式５］のように表すことができる。【0043】
［数式５］！（Ｆ＿ｆ［＜実数値１＞，＜実数値２＞］ ！＜監視仕様式＞）
【0045】
ところで、監視仕様２、４、５、６、及び７は、現在時刻よりも未来の信号の値を参照しているため、ある時刻において、これらの監視仕様に対応する監視仕様式の真理値が“Ｔｒｕｅ”であるか“Ｆａｌｓｅ”であるかを決定することができない。一般に、監視仕様が１つのみである場合、ある時刻における監視結果を前記時刻から一定時間経過してから出力するようにすれば良い。しかし、監視仕様が複数ある場合、監視仕様が１つである場合と同様の処理を行うと、監視仕様毎に判定することになるため処理効率が低下する。【0046】
［非特許文献３］には、未来の信号の値を参照する監視仕様式を、過去の信号の値を参照する監視仕様式に変換する手法が開示されている。前記手法を用いて、未来の信号の値を参照する監視仕様式を変換する。【0047】
説明の簡便化のため、以下のように、演算子Ｆ＿ｐ及びＧ＿ｐを定義する。【0048】
［数式６］Ｆ＿ｐ［＜実数値１＞，＜実数値２＞］ ＜監視仕様式＞
【0049】
［数式６］は、“Ｅｖｅｎｔｕａｌｌｙ ｉｎ ｔｈｅ ｐａｓｔ”を表す。［数式６］の真理値が“Ｔｒｕｅ”である場合、現在時刻の＜実数値２＞秒前から現在時刻の＜実数値１＞秒前までの間のある時刻において、＜監視仕様式＞の真理値が“Ｔｒｕｅ”である。［数式６］は、Ｓｉｎｃｅを用いて、［数式７］のように表すことができる。【0050】
［数式７］｛“Ｔｒｕｅ”｝ Ｓ ［＜実数値１＞，＜実数値２＞］ ＜監視仕様式＞
【0051】
［数式８］Ｇ＿ｐ［＜実数値１＞，＜実数値２＞］ ＜監視仕様式＞
【0052】
［数式８］は、“Ａｌｗａｙｓ ｉｎ ｔｈｅ ｐａｓｔ”を表す。［数式８］の真理値が“Ｔｒｕｅ”である場合、現在時刻の＜実数値２＞秒前から現在時刻の＜実数値１＞秒前までの間、常に＜監視仕様式＞の真理値が“Ｔｒｕｅ”である。［数式８］は、“Ｅｖｅｎｔｕａｌｌｙ ｉｎ ｔｈｅ ｐａｓｔ”を用いて、［数式９］のように表すことができる。【0053】
［数式９］！（Ｆ＿ｐ［＜実数値１＞，＜実数値２＞］ ！＜監視仕様式＞）
【0054】
上記のものを用いることにより、未来の値を参照する監視仕様を、未来の値を参照しない監視仕様に変換できる。【0055】
図７は、［非特許文献３］の手法を用いて、図６に示した監視仕様式を、ＤＳＬを用いて書き直したものである。なお、論理積（＆＆）と論理包含（ｉｍｐｌｙ）とを含まない形式に変換してある。ただし、＜実数値＞は実数値を表し、Ｄ［＜監視仕様式＞，＜実数値＞］は現在時刻の＜実数値＞秒前における信号に基づく＜監視仕様式＞の真理値を表す。【0056】
＊＊＊Ｒｅｔｅネットワークの作成方法＊＊＊ＤＳＬで記述した監視仕様式を、実時間制約に対応したＲｅｔｅネットワークに変換する方法について説明する。
図８は、前記方法を示すフローチャートである。
【0057】
（ステップＳ００１：信号変換処理）ステップＳ００１では、監視仕様を信号命題から成る論理式とするために、実時間制約に関連する部分式を仮想的な信号を導入して信号命題に変換する。実時間制約に関連する部分式とは、具体的には、演算子Ｄ、演算子Ｆ＿ｐ、演算子Ｇ＿ｐ、及び、演算子Ｓのいずれか１の演算子のみから成る論理式である。実時間制約に関連する部分式が監視仕様に含まれる場合、仮想的な信号を導入して前記部分式を信号命題に変換し、前記仮想的な信号及び前記仮想的な信号に対応する監視仕様式を記録する。
【0058】
［数式１０］Ｄ［！｛ＡＣＣ有効信号｝，５］ ｜｜ Ｄ［！｛車間距離 ＜ 理想車間距離｝，５］ ｜｜ Ｆ＿ｐ［０，５］（！｛車間距離 ＜ 理想車間距離｝）
【0059】
［数式１０］に示す５秒前の監視仕様２の監視仕様式を用いて、実時間制約に関連する部分式を仮想的な信号を用いた形に変換する具体例を説明する。［数式１０］には、実時間制約に関連する部分式として、２の演算子Ｄと、１の演算子Ｆ＿ｐが含まれている。【0060】
まず、Ｄ又はＦ＿ｐを含む部分を、仮想的な信号を導入して置き換える。置き換えた結果は、以下のようになる。【0061】
［数式１１］｛Ｄ＿１｝ ｜｜ ｛Ｄ＿２｝ ｜｜ ｛Ｆ＿ｐ＿１｝
【0062】
Ｄ＿１、Ｄ＿２、及びＦ＿ｐ＿１は、仮想的な信号であり、Ｄ＿１、Ｄ＿２、及びＦ＿ｐ＿１の末尾の数字は、便宜的に振ったものである。図９に示すように、導入した仮想的な信号の信号名と、前記信号名に対応する実時間制約に関連する部分式が参照する監視仕様式とから成るペアを記録しておく。このとき、前記信号名に、前記信号名に対応する監視仕様式の真理値を求める際に参照する信号が取得された時刻に関する情報を含める。具体例としては、Ｄ＿１［５］と記載した場合、Ｄ＿１［５］の真理値を求める際に、５秒前におけるＤ＿１に対応する監視仕様式の真理値を参照することを表す。【0063】
変換後の監視仕様式が実時間制約に関連する部分式を含む場合、再帰的に実時間制約に関連する部分式を仮想的な信号を用いて信号命題に変換する。この変換処理を、全ての監視仕様に対応する監視仕様式に対して行うことにより、監視仕様に対応する監視仕様式から成る監視仕様式のリストの実時間制約に関連する部分式を、信号命題に変換することができる。これにより、監視仕様式のリストは、通常の論理式のリストとみなせる。【0064】
（ステップＳ００２：論理最小化処理）ステップＳ００２では、全ての実時間制約に関連する部分式を変換した監視仕様式のリストの監視仕様式に対して、論理最小化（Ｌｏｇｉｃ Ｍｉｎｉｍｉｚａｔｉｏｎ）を適用する。論理最小化とは、論理式を、前記論理式と等価な“ｓｕｍ−ｏｆ−ｐｒｏｄｕｃｔｓ”形式の論理式の内、最も単純な論理式に変換することである。論理最小化をすることにより、計算量を削減することができる。なお、論理式を、論理最小化に対応する論理式に近似する論理式に変換しても良い。論理最小化を多項式時間で実施することはできないが、［非特許文献４］に、論理最小化に対応する論理式に近似する論理式を高速に求める手法が開示されている。
【0065】
［数式１２］は、監視仕様式に論理最小化を適用した後の論理式の具体例である。なお、［数式１２］を、監視仕様式ｘと呼ぶことにする。ここで、＜信号制約ｎ＞は、仮想的な信号である場合もある。ｎは、自然数を表す。【0066】
［数式１２］（｛＜信号制約１＞｝ ＆＆ ｛＜信号制約２＞｝） ｜｜ （｛＜信号制約３＞｝ ＆＆ ｛＜信号制約４＞｝） ｜｜ （｛＜信号制約４＞｝ ＆＆ ｛＜信号制約５＞｝ ＆＆ ｛＜信号制約６＞｝）
【0067】
（ステップＳ００３：ＡＳＴ変換処理）ステップＳ００３では、監視仕様式のリストの全ての監視仕様式を、ＡＳＴ（Ａｂｓｔｒａｃｔ Ｓｙｎｔａｘ Ｔｒｅｅ）に変換する。図１０は、監視仕様式ｘを、ＡＳＴにより表現したグラフを示すものである。ここで、｛＜信号制約ｎ＞｝を信号真理値ｎと表記することにする。
【0068】
（ステップＳ００４：同一性判定処理）ステップＳ００４では、監視仕様式のリストの全ての監視仕様式の全てのサブツリーに対して、同一性の判定を行う。監視仕様式ｙ１と監視仕様式ｙ２とを用いて、本ステップにおける処理を具体的に説明する。図１１は、監視仕様式ｙ１をＡＳＴにより表現したものであり、図１２は、監視仕様式ｙ２をＡＳＴにより表現したものである。
【0069】
図１１のサブツリー１と、図１２のサブツリー２とは、同一のサブツリーである。なお、サブツリーの同一性を判定する際には、サブツリー同士を比較する単純な方法を採用しても良いし、各サブツリーのハッシュ値を計算し、前記ハッシュ値の同一性を判定する方法を採用しても良い。【0070】
（ステップＳ００５：サブツリー接続処理）ステップＳ００５では、ステップＳ００４において同一であると判定されたサブツリー同士をマージする。これにより、監視仕様式のリストの監視仕様式をＤＡＧ（Ｄｉｒｅｃｔｅｄ Ａｃｙｃｌｉｃ Ｇｒａｐｈ：有向非循環グラフ）により表現することができる。図１３に示すグラフは、監視仕様式ｙ１に対応するＡＳＴと、監視仕様式ｙ２に対応するＡＳＴとをマージしたグラフである。前記グラフにおいて、サブツリー１と、サブツリー２とをマージした部分グラフを、部分グラフ１としている。
【0071】
（ステップＳ００６：信号分解処理）ステップＳ００６では、３以上の論理和又は論理積を表すノードを、２の論理和又は論理積を表す複数のノードに変換する。具体例としては、監視仕様式をＤＡＧにより表現したグラフに、図１４に示す部分グラフが存在する場合、前記部分グラフを図１５に示す部分グラフに変換する。
【0072】
（ステップＳ００７：ノード番号定義処理）ステップＳ００７では、Ｒｅｔｅネットワークに対して、トポロジカルソートを実施する。ＲｅｔｅネットワークはＤＡＧであるため、トポロジカルソートを実施できる。図１６は、Ｒｅｔｅネットワークに対してトポロジカルソートを実施した例である。なお、前記Ｒｅｔｅネットワークは、仮想的な信号の信号真理値を求める際に実際の信号を参照する場合、前記信号を含む。前記Ｒｅｔｅネットワークの各ノードに振られた番号は、トポロジカルソートに伴い振られた番号である。また、前記番号を、部分仕様番号と呼ぶことにする。それぞれのノードは、真理値を求めるべきであり、監視仕様が含む制約の一部（以下、部分仕様と記述する）を表す。なお、仮想的な信号の信号真理値を求める際に参照する実際の信号に対応するノードと、監視仕様式ｙ１及び監視仕様式ｙ２に対応するノードとを部分仕様を表すノードとして扱い、前記ノードの真理値は、直上のノードの真理値と同一とする。部分仕様番号は、部分仕様を判定する順序を表す。エッジ及びエッジの向きは、部分仕様間の依存関係を表す。
【0073】
また、図１７は、図１６に示すＲｅｔｅネットワークに対応する表である。なお、実時間制約を表すノードが依存する信号真理値は、Ｒｅｔｅネットワークのグラフから明らかであるので、前記信号真理値に対応する信号名を別途特定する必要はない。【0074】
（ステップＳ００８：信号マージ処理）ステップＳ００８では、仮想的な信号に対応する複数のノードであって、仮想的な信号の真理値を求める際に参照する信号が同一であるが、前記真理値を求める際に取得された時刻が異なる前記信号を参照する複数のノード（以下、異時刻ノード群）を抽出する。図１８に示すＲｅｔｅネットワークを基に、本ステップの処理を具体的に説明する。本図の枠で囲ったノードは、異時刻ノード群のノードに該当する。
【0075】
図１９に示す表は、異時刻ノード群の各ノードが信号真理値を求める際に参照する信号の信号名と、前記信号を取得した時刻の情報とをまとめたものである。Ｆ＿ｐ［ｘ，ｙ］の信号真理値を求めるためには、現在時刻−ｙから現在時刻−ｘまでにおける信号１の値が必要であるため、−ｙ以上−ｘ以下の値を、時刻情報として記録する。なお、本図に示す−ｙ以上−ｘ以下の記録間隔は例であり、前記記録間隔は、実行監視装置２０が信号を取得する周期に依存する。
Ｄ［ｚ］の真理値を求めるためには、現在時刻−ｚにおける信号１の値が必要であるため、−ｚの値を、時刻情報として記録する。
図１８に示すＤＡＧの場合、Ｆ＿ｐ［０，２］とＤ［５］とが存在しているので、図１９に示す表が作成される。図２０は、図７に示す監視仕様の判定において必要である、部分仕様と時刻情報とのペアをまとめた表である。
【0076】
以上の手順により、実時間制約を含む監視仕様の真理値を求めるために必要なＲｅｔｅネットワークを、本実施の形態に係る実行監視装置２０が扱えるよう構成できる。実行監視装置２０は、図１７に示すＲｅｔｅネットワークを表す表と、図２０に示す、実時間制約を含む監視仕様の真理値を求めるために必要な時系列データを整理した表とを記憶する。【0077】
＊＊＊構成の説明＊＊＊図２２は、本実施の形態に係る実行監視装置２０の構成図である。
本図に示されるように、実行監視装置２０は、前処理部２０１と、次計算仕様判定部２０２と、不変仕様判定部２０３と、実時間仕様判定部２０４と、期限管理部２０５と、変化時刻算出部２０６と、出力部２０７と、異常出力部２０８とを備える。
【0078】
前処理部２０１は、信号制約に基づいて一時バッファ部２２１に入力された信号を信号真理値に変換する。具体的には、前処理部２０１は、信号の値である実数値と定数値との比較等を行う。【0079】
次計算仕様判定部２０２は、それぞれの周期において、判定する部分仕様を特定する。【0080】
不変仕様判定部２０３は、実時間制約を含まない部分仕様を満たすか否かを判定し、判定結果保存部２２４に保存されている前記部分仕様を満たすか否かを判定した結果である判定結果を更新する。ここで、前記部分仕様を不変仕様と呼ぶことにする。即ち、不変仕様は、演算子ａｎｄ又はｏｒから成る制約のことである。【0081】
実時間仕様判定部２０４は、実時間制約を含む部分仕様を満たすか否かを判定し、判定結果保存部２２４に保存されている前記部分仕様を満たすか否かを判定した結果である判定結果を更新する。ここで、前記部分仕様を実時間仕様と呼ぶことにする。即ち、実時間仕様は、演算子Ｄ、Ｆ＿ｐ、Ｇ＿ｐ、又はＳから成る制約のことである。また、実時間仕様判定部２０４は、時系列データ保存部２２５に保存された時系列データが、電子装置の実行時監視の監視仕様が含む制約の一部であり、実時間を使用する制約である実時間仕様を満たすか否かを判定し、実時間仕様を満たすか否かを判定した結果である判定結果を更新する。
【0082】
出力部２０７は、監視結果を出力する。【0083】
異常出力部２０８は、実時間仕様判定部２０４がある実時間仕様の判定結果を求めるために必要な時系列データを時系列データ保存部２２５に保存していないときに、前記実時間仕様に関連する監視仕様ＩＤを外部に出力する。即ち、異常出力部２０８は、時系列データ保存部２２５が実時間仕様を判定する際に使用する全ての時系列データを保存していない場合に、依存関係保存部２２９を参照して実時間仕様に対応する監視仕様を特定し、監視仕様の情報を出力する。
【0084】
実行監視装置２０は、典型的にはＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）に配置する要素として、一時バッファ部２２１と、計算対象保存部２２３と、判定結果保存部２２４と、時系列データ保存部２２５と、変化時刻保存部２２６とを備える。【0085】
一時バッファ部２２１は、一時的に実行監視装置２０に入力された信号の値を保存する。信号は任意のタイミングで到着するが、監視処理は周期起動するので、一時バッファ部２２１は、一時的に前記信号の値を保存しておく。一時バッファ部２２１は、１の信号に対応する複数の入力信号を保存することもある。【0086】
図２３は、一時バッファ部２２１のデータ構造の例である。一時バッファ部２２１は、タイムスタンプと、信号名と、信号の値とを時系列順に保存する。【0087】
計算対象保存部２２３は、判定結果を求める対象である部分仕様の一覧を保存する。【0088】
判定結果保存部２２４は、各部分仕様の判定結果を保存する。図２４は、判定結果保存部２２４のデータ構造の例である。判定結果保存部２２４は、部分仕様毎に各周期における部分仕様の判定結果を保存する。なお、図２４では、部分仕様名を参考のために記しているが、発明を実施する際には部分仕様名を保存しなくても良い。以後、図において丸括弧により囲っている項目については同様とする。【0089】
また、実時間仕様判定部２０４は、判定結果保存部２２４に前記判定結果を保存させる。即ち、実時間仕様判定部２０４は、実時間仕様判定部２０４の実行前に予約されているメモリの領域に保存する。ここで、実行前に予約されているメモリの領域とは、動的に確保されていないメモリの領域のことであり、典型的には、静的領域又はスタック領域である。スタック領域とは、自動変数等を格納するメモリの領域である。静的領域とは、グローバル変数等を格納するメモリの領域である。【0090】
なお、実行監視装置２０の機能は、ソフトウェアである実行監視プログラムによって実現される。【0091】
時系列データ保存部２２５は、実時間仕様の判定に必要な時系列データを保存する。即ち、時系列データ保存部２２５は、実時間仕様が依存する部分仕様の判定結果を保存する。具体例としては、図１８に示したＲｅｔｅネットワークの場合、時系列データ保存部２２５は、実時間仕様に依存されているのは｛信号１｝のみであるので、｛信号１｝のみの時系列データを保存する。【0092】
部分仕様の判定結果は、“Ｔｒｕｅ”又は“Ｆａｌｓｅ”である。そのため、実行監視装置２０の各部は、時系列データ保存部２２５が、信号が反転した時刻のみを保存していれば、判定結果保存部２２４に保存されている判定結果を参照することで、特定の時刻における前記信号の真理値を得ることができる。【0093】
時系列データ保存部２２５は、信号が反転した全ての時刻を保存する必要はなく、最後に信号が反転した時刻である最終反転時刻と、反転した時刻及び前記時刻の直近に反転した時刻の間隔とを保存すれば十分である。【0094】
実行監視装置２０は組み込みシステムに実装されることを想定するので、保存可能である時系列データの量に限りがある。そこで、時系列データ保存部２２５は、実時間仕様に依存されている部分仕様毎に許容する反転の回数を設定し、ある部分仕様の反転の回数が、前記部分仕様に対応する許容する反転の回数を超えた場合、保存している前記部分仕様の時系列データの内、最も古いデータを破棄する。
【0095】
上記の方針により、実行監視装置２０が、厳密に監視仕様を判定できない場合が生じる。実行監視装置２０は、前記場合に対応するため、許容する変化の回数を適切に設定しておき、時系列データ保存部２２５に保存している時系列データより過去の時系列データを参照する必要がある場合、フェイルセーフになることを考慮して作成された代替的な判定結果を用いても良い。
【0096】
図２５は、時系列データ保存部２２５のデータ構造の例である。本例では、許容する変化の回数を３としている。【0097】
変化時刻保存部２２６は、実時間仕様毎に、次に部分仕様の判定をする必要がある時刻を保存する。通常のＲｅｔｅネットワークでは、実時間仕様を含まないので、判定すべき部分仕様を特定するには、Ｒｅｔｅネットワークのグラフのみを参照すればよい。しかし、実時間仕様を含む場合には、判定時において実時間仕様が依存する部分仕様の判定結果が反転していない場合であっても、一定時間が経過したことを理由として前記実時間仕様を再度判定する必要があることがある。【0098】
図３２は、変化時刻保存部２２６のデータ構造の例である。変化時刻保存部２２６は、本例に示すように、実時間仕様毎に、次に判定する時刻である次回判定時刻を保存する。【0099】
実行監視装置２０は、典型的にはＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）に配置される要素として、監視仕様保存部２２２と、変化時刻テーブル保存部２２７と、異常処理ポリシ保存部２２８と、依存関係保存部２２９とを備える。【0100】
監視仕様保存部２２２は、監視仕様のグラフ構造を保存する。監視仕様保存部２２２は、図１７に示すように、ノードごとに、部分仕様番号と、部分仕様名と、結合先のノードとを保存する。【0101】
変化時刻テーブル保存部２２７は、部分仕様に依存している実時間仕様を判定するために、前記部分仕様の、どの時刻における真理値が必要であるかについての情報を保存する。変化時刻テーブル保存部２２７が保存するデータのデータ構造の例は、図１９に示した通りである。変化時刻テーブル保存部２２７は、実時間仕様に依存されている部分仕様毎に、時刻情報を保存する。【0102】
異常処理ポリシ保存部２２８は、ある実時間仕様の判定に際し、時系列データ保存部２２５が、実時間仕様判定部２０４が前記実時間仕様を判定する際に使用する全ての時系列データを保存していない場合の処理方針を保存する。実時間仕様判定部２０４は、この場合、正確な判定をすることができない。図２７は、異常処理ポリシ保存部２２８が保存するデータのデータ構造の例である。処理方針は、「“Ｔｒｕｅ”として扱う」、「“Ｆａｌｓｅ”として扱う」、「使用できる最古の値を用いる」、「以後の判定を中止する」のいずれかである。【0103】
処理方針の「以後の判定を中止する」は、処理方針が「以後の判定を中止する」である実時間仕様が、計算対象保存部２２３に追加されないことを意味する。【0104】
依存関係保存部２２９は、実時間仕様毎に、監視仕様と実時間仕様との関係性を保存する。図２６は、依存関係保存部２２９が保存するデータのデータ構造の例である。本図の関連監視仕様ＩＤは、部分仕様に関連する監視仕様の監視仕様ＩＤを表す。「監視仕様ｙ１」及び「監視仕様ｙ２」は、それぞれ、「監視仕様式ｙ１」及び「監視仕様式ｙ２」に対応する監視仕様の監視仕様ＩＤである。なお、部分仕様番号に対応する関連監視仕様は、図１６のＲｅｔｅネットワークの前記部分仕様番号に対応するノードから、終点向き方向に辿ることで得ることができる。【0105】
これらの構成要素は、実行監視装置２０における通信回路、メモリに格納された制御プログラムを実行するプロセッサあるいはデジタル回路等により実現される。【0106】
図２１は、本実施の形態に係る実行監視装置２０のハードウェア構成図である。実行監視装置２０は、本図に示す一般的なマイクロコンピュータ１０と、通信インタフェース１０４とから構成される。なお、マイクロコンピュータ１０は、一般的なコンピュータであっても良い。コンピュータには、マイクロコンピュータも含まれることとする。
【0107】
前処理部２０１と、次計算仕様判定部２０２と、不変仕様判定部２０３と、実時間仕様判定部２０４と、期限管理部２０５と、変化時刻算出部２０６とは、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）１０１及びＲＡＭ１０３から構成される。出力部２０７と、異常出力部２０８とは、ＣＰＵ１０１、ＲＡＭ１０３、及び通信インタフェース１０４から構成される。一時バッファ部２２１と、計算対象保存部２２３と、判定結果保存部２２４と、時系列データ保存部２２５と、変化時刻保存部２２６とは、ＲＡＭ１０３から構成される。監視仕様保存部２２２と、変化時刻テーブル保存部２２７と、異常処理ポリシ保存部２２８と、依存関係保存部２２９とは、ＲＯＭ１０２から構成される。【0109】
（ステップＳ２０１：真理値変換処理）前処理部２０１は、一時バッファ部２２１に保存された信号の信号値を、監視仕様が有する信号制約に基づいて信号真理値に変換する。なお、信号値をそのまま信号真理値として使用すればよい場合、前処理部２０１は実際には入力信号を変換しないが、説明の便宜のために、前処理部２０１が信号値を信号真理値に変換したとみなすことにする。
【0110】
また、前処理部２０１は、一時バッファ部２２１に、信号制約に対応するある信号の信号値が複数保存されている場合、全ての前記信号値を前記信号制約に基づいて信号真理値に変換し、前記信号真理値の内、少なくとも１つが“Ｆａｌｓｅ”である場合、前記信号制約の信号真理値を“Ｆａｌｓｅ”とし、それ以外の場合、前記信号制約の信号真理値を“Ｔｒｕｅ”とする。【0111】
（ステップＳ２０２：時系列データ更新処理）前処理部２０１は、時系列データの更新を行う。
【0112】
前処理部２０１は、変化時刻テーブル保存部２２７を参照して実時間仕様に依存されている信号制約を特定し、実時間仕様に依存されている信号制約が存在する場合、全ての前記信号制約について、今回の周期における前記信号制約の真理値と、判定結果保存部２２４に記録されている、前記信号制約に対応する真理値とを比較する。【0113】
前処理部２０１は、双方の真理値が相違する場合、時系列データ保存部２２５に、前記真理値に対応する全ての直近ｎ回目の反転間隔として保存されているデータを、直近ｎ＋１回目の反転間隔として保存し、時系列データ保存部２２５に保存されている最終判定時刻と現在時刻との差を、直近１回目の反転間隔として保存し、時系列データ保存部２２５の最終反転時刻に現在時刻を保存する。ただし、前処理部２０１は、時系列データ保存部２２５に保存されている、前記真理値に対応するデータの数が既に保存できる上限に達している場合、前記データの内、最も古いデータを削除する。
【0114】
（ステップＳ２０３：メモリあふれ検出処理）前処理部２０１は、時系列データ更新処理においてデータを更新した場合、全ての前記データに対応する信号制約に対して、メモリあふれの検出処理を行い、それ以外の場合、本ステップの処理を実行せずにステップＳ２０５に進む。
【0115】
前処理部２０１は、時系列データ保存部２２５に保存されている、信号制約に関する直近ｎ回目の判定間隔のデータ数が保存できる上限に達している場合、かつ、時系列データ保存部２２５に保存された最終反転時刻から時系列データ保存部２２５に保存された全ての直近ｎ回目の反転間隔を足した値を引いた時刻が、前記信号制約に依存する実時間仕様の判定結果を求める際に参照する時刻、又は、時刻の区間内の最も過去の時刻よりも未来の時刻である場合、前記信号制約についてメモリあふれを検出したものとして、ステップＳ２０４に進む。前処理部２０１は、上記以外の場合、ステップＳ２０５に進む。
【0116】
（ステップＳ２０４：異常出力処理）前処理部２０１は、前記信号制約についてメモリあふれを検出した場合、異常処理ポリシ保存部２２８を参照し、前記実時間仕様に対応する処理方針に従って処理する。
前処理部２０１は、前記実時間仕様の判定結果を、前記実時間仕様に対応する処理方針に応じて設定する。
【0117】
異常出力部２０８は、依存関係保存部２２９に保存されている依存関係を参照して、前記実時間仕様に対応する監視仕様を、監視仕様ＩＤを特定することによって特定し、前記監視仕様の情報である監視仕様ＩＤを外部に出力する。【0118】
（ステップＳ２０５：変化時刻算出処理）変化時刻算出部２０６は、実時間仕様毎に、実時間仕様が依存する、時系列データ保存部２２５に保存された信号に関するデータと、変化時刻テーブル保存部２２７に保存されたデータとに基づいて、実時間仕様の判定結果が変化する時刻の内、最も現在時刻に近い未来の時刻を変化時刻として算出し、前記変化時刻を前記時刻に対応する実時間仕様の次回判定時刻として変化時刻保存部２２６に保存する。
即ち、変化時刻算出部２０６は、実時間仕様毎に、実時間仕様の判定結果が変化する変化時刻を算出する。
【0119】
（ステップＳ２０６：反転判定処理）次計算仕様判定部２０２は、全ての信号制約の信号真理値について、前処理部２０１が変換した信号真理値と、判定結果保存部２２４に保存されている信号真理値とを比較することにより、前処理部２０１が変換した信号真理値が、１つ前の周期における信号真理値と比較して反転しているか否かを判定し、信号真理値が反転している場合、監視仕様保存部２２２を参照し、全ての前記信号真理値に直接的に依存する部分仕様を、判定結果が変化し得る部分仕様として特定し、全ての前記信号真理値に直接的に依存する部分仕様を、計算対象保存部２２３に保存する。なお、次計算仕様判定部２０２は、前記部分仕様が既に計算対象保存部２２３に保存されている場合、前記部分仕様を重複して保存しない。
信号真理値に直接的に依存する部分仕様とは、図１８に示すグラフにおいて、信号真理値に対応するノードと、部分仕様に対応するノードとが接続されており、部分仕様に対応するノードから始点向き方向に１つ進むことにより、信号真理値に対応するノードに辿り着くことを意味する。この信号真理値を、部分仕様等に置き換えた場合においても同様である。
【0120】
（ステップＳ２０７：期限管理処理）期限管理部２０５は、各実時間仕様の判定結果の有効期限が切れている場合に、前記判定結果に対応する実時間仕様を実時間仕様判定部２０４が判定すべきであると判定する。
期限管理部２０５は、具体的には、実時間仕様毎に、現在時刻が実時間仕様に対応する次回判定時刻以後（即ち、変化時刻以後）であるか否かを判定し、現在時刻が実時間仕様に対応する次回判定時刻以後である場合、実時間仕様判定部２０４が、前記次回判定時刻に対応する実時間仕様を判定すべきであると判定し、前記実時間仕様を、計算対象保存部２２３に保存する。なお、期限管理部２０５は、前記実時間仕様及び前記部分仕様が既に計算対象保存部２２３に保存されている場合、前記部分仕様を重複して保存しない。
【0121】
図３１は、本ステップの処理を終えた後の、計算対象保存部２２３が保存するデータ構造の例である。「○」は、「○」に対応する部分仕様が、計算対象保存部２２３に、計算対象として保存されていることを表す。本例では、全ての信号真理値は変化せず、現在時刻がＦ＿ｐ［０，２］の次回判定時刻を過ぎておらず、現在時刻がＤ［５］の次回判定時刻を過ぎていることを仮定しているため、Ｄ［５］のみが計算対象とされている。
【0122】
（ステップＳ２０８：計算対象判定処理）次計算仕様判定部２０２は、計算対象である部分仕様の有無を判定する。具体的には、次計算仕様判定部２０２は、計算対象保存部２２３に、計算対象として保存されている部分仕様が存在するか否かを判定する。
実行監視装置２０は、前記部分仕様が存在しない場合、今回の周期の周期処理を終了し、前記部分仕様が存在する場合、ステップＳ２０９に進む。
【0123】
（ステップＳ２０９：部分仕様特定処理）次計算仕様判定部２０２は、判定結果を求める対象である１の部分仕様を特定する。具体的には、次計算仕様判定部２０２は、計算対象保存部２２３に、計算対象として記録されている部分仕様の内、部分仕様番号が一番小さい部分仕様を特定する。以下、本ステップで特定した部分仕様を、特定部分仕様と呼ぶ。
【0124】
（ステップＳ２１０：実時間仕様判定処理）次計算仕様判定部２０２は、特定部分仕様が実時間仕様であるか否かを判定する。
【0125】
（ステップＳ２１１：実時間仕様演算処理）本ステップの詳細は、ステップＳ３０１〜Ｓ３１２に記載する。
【0126】
（ステップＳ２１２：不変仕様判定処理）次計算仕様判定部２０２は、特定部分仕様が不変仕様であるか否かを判定する。
実行監視装置２０は、前記部分仕様が不変仕様である場合、ステップＳ２１３に進み、それ以外の場合、ステップＳ２１４に進む。
【0127】
（ステップＳ２１３：不変仕様演算処理）本ステップの詳細は、ステップＳ４０１〜Ｓ４０７に記載する。
【0128】
（ステップＳ２１４：出力処理）出力部２０７は、判定結果保存部２２４に保存されている監視仕様の監視結果を外部に出力する。
【0129】
（ステップＳ２１５：削除処理）次計算仕様判定部２０２は、特定部分仕様の記録を、計算対象保存部２２３から削除する。実行監視装置２０は、ステップＳ２０８に進む。
【0130】
図２９は、実時間仕様判定部２０４の処理を示すフローチャートである。【0131】
（ステップＳ３０１：Ｄ判定処理）実時間仕様判定部２０４は、特定部分仕様の演算子がＤであるか否かを判定する。
実時間仕様判定部２０４は、演算子がＤである場合、ステップＳ３０２に進み、それ以外の場合、ステップＳ３０３に進む。
【0132】
（ステップＳ３０２：Ｄ演算処理）実時間仕様判定部２０４は、前記演算子Ｄの演算を行う。実時間仕様判定部２０４は、演算子Ｄの第１項に基づいて、時系列データ保存部２２５に保存されている時系列データから、特定部分仕様が参照すべき時刻におけるデータを抽出する。
【0133】
実時間仕様判定部２０４は、前記データに係る値が“Ｔｒｕｅ”である場合、特定部分仕様の判定結果を“Ｔｒｕｅ”とし、それ以外の場合、特定部分仕様の判定結果を“Ｆａｌｓｅ”とする。【0134】
（ステップＳ３０３：Ｆ＿ｐ判定処理）実時間仕様判定部２０４は、特定部分仕様の演算子がＦ＿ｐであるか否かを判定する。
実時間仕様判定部２０４は、演算子がＦ＿ｐである場合、ステップＳ３０４に進み、それ以外の場合、ステップＳ３０５に進む。
【0135】
（ステップＳ３０４：Ｆ＿ｐ演算処理）実時間仕様判定部２０４は、演算子Ｆ＿ｐの演算を行う。
実時間仕様判定部２０４は、演算子Ｆ＿ｐの第１項及び第２項に基づいて、演算子Ｆ＿ｐの監視仕様式の真理値を参照すべき時刻の区間（以下、Ｆ＿ｐ参照区間）を特定し、時系列データ保存部２２５に保存されている時系列データから、Ｆ＿ｐ参照区間内における前記監視仕様式に対応するデータを抽出する。
【0136】
実時間仕様判定部２０４は、Ｆ＿ｐ参照区間内において、前記監視仕様式の真理値が“Ｔｒｕｅ”である時刻が少なくとも１存在する場合、特定部分仕様の判定結果を“Ｔｒｕｅ”とし、それ以外の場合、特定部分仕様の判定結果を“Ｆａｌｓｅ”とする。【0137】
（ステップＳ３０５：Ｇ＿ｐ判定処理）実時間仕様判定部２０４は、特定部分仕様の演算子がＧ＿ｐであるか否かを判定する。
実時間仕様判定部２０４は、演算子がＧ＿ｐである場合、ステップＳ３０６に進み、それ以外の場合、ステップＳ３０７に進む。
【0138】
（ステップＳ３０６：Ｇ＿ｐ演算処理）実時間仕様判定部２０４は、前記演算子Ｇ＿ｐの演算を行う。
実時間仕様判定部２０４は、演算子Ｇ＿ｐの第１項及び第２項に基づいて、演算子Ｇ＿ｐの監視仕様式の真理値を参照すべき時刻の区間（以下、Ｇ＿ｐ参照区間）を特定し、時系列データ保存部２２５に保存されている時系列データから、Ｇ＿ｐ参照区間内における前記監視仕様式に対応するデータを抽出する。
【0139】
実時間仕様判定部２０４は、Ｇ＿ｐ参照区間内において、前記監視仕様式の真理値が“Ｆａｌｓｅ”である時刻が少なくとも１存在する場合、特定部分仕様の判定結果“Ｆａｌｓｅ”とし、それ以外の場合、特定部分仕様の判定結果を“Ｔｒｕｅ”とする。【0140】
（ステップＳ３０７：Ｓ演算処理）実時間仕様判定部２０４は、演算子Ｓの演算を行う。
実時間仕様判定部２０４は、演算子Ｓの、演算子Ｓの定義中の実数値１及び実数値２に対応する項に基づいて、演算子Ｓの２の監視仕様式（本ステップにおいて、Ｓの左に表記する監視仕様式をｓ１、Ｓの右に表記する監視仕様式をｓ２とする）の内、ｓ２の真理値を参照すべき時刻の区間（以下、ｓ２参照区間）を特定し、時系列データ保存部２２５に保存されている時系列データから、ｓ２参照区間内におけるｓ２に対応するデータを抽出する。
【0141】
実時間仕様判定部２０４は、ｓ２参照区間内において、ｓ２に対応するデータに対応する時刻が現在時刻に近い順に、ｓ２に対応するデータに基づくｓ２の真理値が“Ｔｒｕｅ”であるか否かを確認することにより、ｓ２参照区間内においてｓ２の真理値が“Ｔｒｕｅ”である時刻の内、最も現在時刻に近い時刻を特定し、時系列データ保存部２２５に保存されている時系列データから、前記最も現在時刻に近い時刻から現在時刻までの区間（以下、ｓ１参照区間）におけるｓ１に対応するデータを抽出する。【0142】
実時間仕様判定部２０４は、ｓ１参照区間内において、ｓ１に対応するデータに基づくｓ１の真理値が常に“Ｔｒｕｅ”である場合、特定部分仕様の判定結果を“Ｔｒｕｅ”とし、それ以外の場合、特定部分仕様の判定結果を“Ｆａｌｓｅ”とする。【0143】
（ステップＳ３０８：判定結果更新処理）実時間仕様判定部２０４は、判定結果保存部２２４に記録されている特定部分仕様の判定結果を、上記で求めた判定結果に更新する。
【0144】
（ステップＳ３０９：時系列データ更新処理）実時間仕様判定部２０４は、時系列データの更新を行う。
【0145】
実時間仕様判定部２０４は、変化時刻テーブル保存部２２７を参照して特定部分仕様が実時間仕様に依存されているか判定し、特定部分仕様が実時間仕様に依存されている場合、今回の周期における特定部分仕様の判定結果と、判定結果保存部２２４に記録されている、特定部分仕様に対応する判定結果とを比較する。【0146】
実時間仕様判定部２０４は、双方の判定結果が相違する場合、時系列データ保存部２２５に、前記判定結果に対応する全ての直近ｎ回目の反転間隔として保存されているデータを、直近ｎ＋１回目の反転間隔として保存し、時系列データ保存部２２５に保存されていた最終判定時刻と現在時刻との差を、直近１回目の反転間隔として保存し、時系列データ保存部２２５の最終反転時刻に現在時刻を保存する。ここで、ｎは自然数とする。ただし、実時間仕様判定部２０４は、時系列データ保存部２２５に保存されている、前記判定結果に対応するデータの数が既に保存できる上限に達している場合、前記データの内、最も古いデータを削除する。
【0147】
（ステップＳ３１０：メモリあふれ検出処理）実時間仕様判定部２０４は、時系列データ更新処理において特定部分仕様に対応するデータを更新した場合、前記データに対してメモリあふれの検出処理を行い、それ以外の場合、本ステップの処理を実行せずに、本フローチャートの処理を終了する。
実時間仕様判定部２０４は、時系列データ保存部２２５に保存されている直近ｎ回目の判定間隔のデータ数が保存できる上限に達している場合、かつ、時系列データ保存部２２５に保存された最終反転時刻から時系列データ保存部２２５に保存された全ての直近ｎ回目の反転間隔を足した値を引いた時刻が、特定部分仕様に依存する実時間仕様の判定結果を求める際に参照する時刻、又は、時刻の区間内の最も過去の時刻よりも未来の時刻である場合、特定部分仕様についてメモリあふれを検出したものとして、ステップＳ３１１に進む。
実時間仕様判定部２０４は、上記以外の場合、本フローチャートの処理を終了する。
【0148】
（ステップＳ３１１：異常出力処理）実時間仕様判定部２０４は、特定部分仕様についてメモリあふれを検出した場合、異常処理ポリシ保存部２２８を参照して、前記実時間仕様に対応する処理方針に従って処理する。
実時間仕様判定部２０４は、前記実時間仕様の判定結果を、前記実時間仕様に対応する処理方針に応じて設定する。
【0149】
異常出力部２０８は、依存関係保存部２２９に保存されている依存関係を参照して、前記実時間仕様に関連する監視仕様ＩＤを特定し、前記監視仕様ＩＤを外部に出力する。【0150】
（ステップＳ３１２：反転判定処理）次計算仕様判定部２０２は、上記のステップにおける特定部分仕様の判定結果と、判定結果保存部２２４に保存されている、特定部分仕様に対応する判定結果とを比較することにより、特定部分仕様の判定結果が、１つ前の周期における判定結果と比較して反転しているか否かを判定し、判定結果が反転している場合、監視仕様保存部２２２を参照し、特定部分仕様に直接的に依存する部分仕様を、判定結果が変化し得る部分仕様として特定し、特定部分仕様に直接的に依存する部分仕様を、計算対象保存部２２３に保存する。なお、次計算仕様判定部２０２は、前記部分仕様が既に計算対象保存部２２３に保存されている場合、前記部分仕様を重複して保存しない。
【0151】
図３０は、不変仕様判定部２０３の処理を示すフローチャートである。【0152】
（ステップＳ４０１：ａｎｄ判定処理）不変仕様判定部２０３は、特定部分仕様の演算子がａｎｄであるか否かを判定する。
不変仕様判定部２０３は、演算子がａｎｄである場合、ステップＳ４０２に進み、それ以外の場合、ステップＳ４０３に進む。
【0153】
（ステップＳ４０２：ａｎｄ演算処理）不変仕様判定部２０３は、演算子ａｎｄの演算を行う。
不変仕様判定部２０３は、特定部分仕様の入力である２の真理値が双方とも“Ｔｒｕｅ”である場合、特定部分仕様の判定結果を“Ｔｒｕｅ”とし、それ以外の場合、特定部分仕様の判定結果を“Ｆａｌｓｅ”とする。
【0154】
（ステップＳ４０３：ｏｒ演算処理）不変仕様判定部２０３は、演算子ｏｒの演算を行う。
不変仕様判定部２０３は、特定部分仕様の入力である２の真理値が双方とも“Ｆａｌｓｅ”である場合、特定部分仕様の判定結果を“Ｆａｌｓｅ”とし、それ以外の場合、特定部分仕様の判定結果を“Ｔｒｕｅ”とする。
【0155】
ステップＳ４０４からＳ４０８までの処理は、ステップＳ３０８からＳ３１２までの処理と同様の処理であるため、説明を省略する。【0156】
＊＊＊実施の形態１の特徴＊＊＊期限管理部２０５は、現在時刻が変化時刻以後である場合に、実時間仕様判定部２０４が変化時刻に対応する実時間仕様を判定すべきであると判定し、実時間仕様判定部２０４は、期限管理部２０５が判定すべきであると判定した実時間仕様を判定する。
【0157】
本実施の形態の実行監視装置２０は、実時間仕様の判定結果が変化した場合に、判定結果が変化する実時間仕様に依存する、監視仕様が含む制約の一部である部分仕様を特定する次計算仕様判定部２０２を備え、実時間仕様判定部２０４は、次計算仕様判定部２０２が特定した部分仕様の内、実時間仕様を判定する。【0158】
次計算仕様判定部２０２は、実時間仕様の判定結果が変化した場合に、監視仕様に対応したＲｅｔｅネットワークに基づいて、判定結果が依存する部分仕様を特定する。【0159】
実時間仕様判定部２０４は、時系列データ保存部２２５が実時間仕様を判定する際に使用する全ての時系列データを保存していない場合に、異常処理ポリシ保存部２２８に保存された、前記実時間仕様に対応する処理方針に従って処理する。【0160】
＊＊＊実施の形態１の応用例＊＊＊本実施の形態に係る実行監視装置２０は、ロボット及び電車の実行を監視することができる。具体的には、図２に示す実行監視装置２０が監視仕様の判定に用いる信号を、これらの実行時に発生する信号に適宜置き換え、図３に示すような監視仕様を作成し、前記監視仕様をＤＳＬを用いて表現すれば良い。
【0161】
＊＊＊実施の形態１の効果の説明＊＊＊以上のように、本実施の形態によれば、Ｒｅｔｅアルゴリズムをベースにした判定方法を用いることにより、判定結果が変化し得る部分仕様のみを判定する。そのため、本実施の形態に係る実行監視装置２０は、監視仕様を効率的に判定することができる。
【0162】
また、前記実行監視装置２０は、監視仕様の判定に必要な時系列データを時系列データ保存部２２５が保持できないために監視結果が不定となる場合に、前記場合を検出し、前記場合に陥っていることを外部に通知する。また、前記実行監視装置２０は、前記場合に、異常処理ポリシ保存部２２８を参照して処理を行うため、監視結果を安全側のものとする。【0163】
＜変形例１＞本実施の形態では、実行監視装置２０の各機能をソフトウェアで実現する場合を説明した。しかし、変形例として、前記各機能は、ハードウェアで実現されても良い。
【0164】
前記各機能がハードウェアで実現される場合には、マイクロコンピュータ１０は、ＣＰＵ１０１に代えて、電子回路（処理回路）を備える。あるいは、マイクロコンピュータ１０は、ＣＰＵ１０１、ＲＯＭ１０２、及びＲＡＭ１０３に代えて、電子回路を備える。電子回路は、前記各機能（及びＲＯＭ１０２とＲＡＭ１０３）を実現する専用の電子回路である。【0165】
電子回路は、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ロジックＩＣ、ＧＡ（Ｇａｔｅ Ａｒｒａｙ）、ＡＳＩＣ（Ａｐｐｌｉｃａｔｉｏｎ Ｓｐｅｃｉｆｉｃ Ｉｎｔｅｇｒａｔｅｄ Ｃｉｒｃｕｉｔ）、ＦＰＧＡ（Ｆｉｅｌｄ−Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）が想定される。【0166】
前記各機能を１つの電子回路で実現してもよいし、前記各機能を複数の電子回路に分散させて実現してもよい。【0167】
あるいは、一部の前記各機能がハードウェアで実現され、他の前記各機能がソフトウェアで実現されてもよい。【0168】
前述したＣＰＵ１０１とＲＡＭ１０３とＲＯＭ１０２と電子回路とを、総称して「プロセッシングサーキットリー」という。つまり、前記各機能は、プロセッシングサーキットリーにより実現される。【0169】
実施の形態２．以下、主に前述した実施の形態と異なる点について、図面を参照しながら説明する。
＊＊＊構成の説明＊＊＊
図３３は、実行監視装置３０のハードウェア構成例を示している。実行監視装置２０と実行監視装置３０との差異は、実行監視装置３０が信号判定部３１０と保存基準保存部３２０とを備える点である。信号判定部３１０と保存基準保存部３２０と以外について、実行監視装置３０は、実行監視装置２０と同様である。
【0170】
図３４は、実行監視装置３０の構成例を示している。実行監視装置３０は、本図に示すように、信号判定部３１０と、保存基準保存部３２０とを備える。【0171】
信号判定部３１０は、判定項目３２２と、参考値３２３とを用いて受信信号を判定する。信号判定部３１０は、保存基準保存部３２０を参照して保存基準３２１を取得し、かつ、受信信号が保存基準３２１を満たすか否かを判定する。保存基準３２１は、受信信号を時系列データ保存部２２５に保存するか否かを判定することに用いられる。受信信号は、時系列データに対応する信号であり、かつ、実行監視装置３０が受信した信号である。時系列データに対応する信号は、時系列データを生成することに用いられる信号でもある。
受信信号は、信号名を含む。信号名は、受信信号の名称を示す。受信信号は、受信信号に対応する時刻の情報を含む。受信信号は、典型的には、センサ等が受信信号に含まれるデータを取得した時刻の情報を含む。実行監視装置３０は、信号を受信信号として受信しても良い。
信号判定部３１０は、受信信号が保存基準３２１を満たすか否かを判定する。信号判定部３１０は、受信信号が保存基準３２１を満たす場合に、受信信号を一時バッファ部２２１に保存する。前処理部２０１は、実施の形態１と同様に、当該受信信号を時系列データ保存部２２５に保存する。このようにして当該受信信号が時系列データ保存部２２５に保存されることは、信号判定部３１０が当該受信信号を時系列データ保存部２２５に保存することでもある。即ち、信号判定部３１０は、受信信号を時系列データ保存部２２５に保存する。
【0172】
保存基準保存部３２０は、保存基準３２１を保存している。【0173】
図３５は、保存基準３２１のデータ構造の例を示している。保存基準３２１の内容は、保存基準３２１を取得する時刻によって異なることがある。以下、本図に示される保存基準３２１は、基準取得時刻において取得されたものとする。保存基準保存部３２０は、本図に示すように、判定項目３２２と、参考値３２３とを、信号名と紐づけて保存する。番号は、信号名に割り振られた通し番号である。図中の「…」は、各項目の個数が限定されないこと等を示す。
【0174】
判定項目３２２は、信号判定部３１０が受信信号を判定する観点を示す。「値」と、「最新時刻」と、「最古時刻」と、「受信間隔」と、「受信順序」と、「連続数」とは、それぞれ判定項目３２２の具体例である。信号判定部３１０が受信信号を判定する観点は、信号名毎に、判定項目３２２欄の「○」印によって示されている。「値」は、受信信号が所定の値を示す場合に、信号判定部３１０が受信信号を保存することを示す。
「最新時刻」は、信号判定部３１０が最新のデータを保存することを示す。信号判定部３１０が「最新時刻」に従って受信信号を判定する場合、信号判定部３１０は、受信信号が示す時刻が最新時刻よりも新しい場合に受信信号を保存する。最新時刻は、受信信号が示す信号名に対応する信号であって、基準取得時刻までに受信した信号に示される時刻全ての中で、最も新しい時刻である。
「最古時刻」は、信号判定部３１０が最古のデータを保存することを示す。信号判定部３１０が「最古時刻」に従って受信信号を判定する場合、信号判定部３１０は、受信信号が示す時刻が最古時刻よりも古い場合に受信信号を保存する。最古時刻は、受信信号が示す信号名に対応する信号であって、基準取得時刻までに受信した信号に示される時刻全ての中で、最も古い時刻である。
「受信間隔」は、受信信号を前回受信した時刻から所定の時間を経過した場合に、信号判定部３１０が受信信号を保存することを示す。
「受信順序」は、実行監視装置３０が受信信号を受信した順序が所定の順序である場合に、信号判定部３１０が受信信号を保存することを示す。
「連続数」は、実行監視装置３０が所定の回数連続で受信信号を受信した場合に、信号判定部３１０が受信信号を保存することを示す。
【0175】
参考値３２３は、判定項目３２２に対応する。具体例として、図３５において、ある行の「最新時刻」欄に「○」印が付されている場合、当該行の参考値３２３は、最新時刻を示す。信号判定部３１０は、受信信号を判定する際に参考値３２３を用いる。また、信号判定部３１０は、参考値３２３のデータを適宜更新する。
具体例として、受信信号に対応する信号名が「トルクリクエスト」である場合、信号判定部３１０は、「最古時刻」に従って受信信号を判定する。この際、信号判定部３１０は、最新時刻として、「１０：００：０３．２０」を用いる。本例において、受信信号が示す時刻が最新時刻よりも新しい時刻である場合、信号判定部３１０は、「トルクリクエスト」に対応する参考値３２３を、受信信号が示す時刻に更新する。
図３５の「ＡＣＣ設定速度」に対応する参考値３２３のように、参考値３２３は、範囲を示しても良い。参考値３２３が範囲を示す場合、信号判定部３１０は、参考値３２３が示す範囲に受信信号が示す値が収まっているか否かを確認する。
図３５の「制限速度」に対応する参考値３２３のように、参考値３２３は、値以外の情報を含んでも良い。
【0176】
判定項目３２２及び参考値３２３は、監視仕様保存部２２２に基づいて決定されても良い。以下、図３及び図３５に基づいて、監視仕様保存部２２２と、判定項目３２２及び参考値３２３との関係の具体例を説明する。実行監視装置３０は、１度の判定処理において１単位のＡＣＣ有効信号を用いる。ＡＣＣ有効信号のデータ形式は、真理値である。また、一定期間中においてＡＣＣ有効信号の値は通常変わらない。そのため、実行監視装置３０が一定期間中において最初に受信したＡＣＣ有効信号のみを、信号判定部３１０は保存すれば良い。従って、図３５において、ＡＣＣ有効信号に対応する判定項目３２２の「最古時刻」の欄に「○」が記載されている。以下、図３５に言及しないが、図３５中の判定項目３２２及び参考値３２３の記載に対応する説明も記載されている。
ＡＣＣ異常信号は、通常頻繁に変化しない。そのため、実行監視装置３０が３回連続で同じ値を有するＡＣＣ異常信号を受信した場合に、信号判定部３１０はＡＣＣ異常信号を保存すれば良い。
実行監視装置３０が判定処理において扱う車間距離時間の範囲は、０以上である。そのため、車間距離時間の値が０以上の場合に、信号判定部３１０は車間距離時間を保存すれば良い。
実行監視装置３０は、１度の判定処理において１単位のトルクリクエストを用いる。トルクリクエストのデータ形式は、真理値である。また、一定期間中においてトルクリクエストの値は通常変わらない。そのため、信号判定部３１０は、最古時刻におけるトルクリクエストのみを保存すれば良い。
実行監視装置３０は、１度の判定処理において１単位の要求トルクを用いる。要求トルクのデータ形式は、実数である。また、一定期間中において要求トルクの値は変わることがある。そのため、信号判定部３１０は、最新時刻における要求トルクのみを保存すれば良い。
１０秒間内に取得された１００個の車速データは、実行監視装置３０が速度を判定する場合において十分な量である。ここで、車速データは、車速信号に含まれるデータである。そのため、信号判定部３１０は、受信間隔を１００ｍｓとして車速データを保存すれば良い。
実行監視装置３０が判定処理において扱うＡＣＣ設定速度の範囲は、０ｋｍ／ｈ以上１２０ｋｍ／ｈ以下である。そのため、ＡＣＣ設定速度の値が０ｋｍ／ｈ以上１２０ｋｍ／ｈ以下に収まる場合に、信号判定部３１０はＡＣＣ設定速度を保存すれば良い。
実行監視装置３０が連続して２つの信号を受信し、かつ、２つ目の信号が制限速度を示すものとする。１つ目の信号が車速を示す場合、信号判定部３１０は、２つ目の信号を保存する。しかしながら、１つ目の信号が車速を示さない場合、信号判定部３１０は、２つ目の信号を保存しない。
実行監視装置３０は、１度の判定処理において１単位のオーバーライド信号を用いる。オーバーライド信号のデータ形式は、真理値である。また、一定期間中においてオーバーライド信号は通常変わらない。そのため、信号判定部３１０は、最古時刻におけるオーバーライド信号のみを保存すれば良い。
【0177】
＊＊＊動作の説明＊＊＊図３６は、実行監視装置３０の動作の一例を示すフローチャートである。本図を参照して、実行監視装置３０の動作を説明する。
実行監視装置３０が信号を受信することを契機とし、実行監視装置３０は、本フローチャートに示される処理を実行する。本フローチャートに示される処理を実行監視装置３０が実行する前に、保存基準保存部３２０は保存基準３２１を保存しているものとする。
【0178】
（ステップＳ５０１：信号判定処理）信号判定部３１０は、保存基準保存部３２０を参照して保存基準３２１を取得し、かつ、受信信号が保存基準３２１を満たすか否かを判定する。
受信信号が保存基準３２１を満たす場合、信号判定部３１０は、信号判定処理の結果を“Ｔｒｕｅ”とする。それ以外の場合、信号判定部３１０は、信号判定処理の結果を“Ｆａｌｓｅ”とする。
本処理の結果が“Ｔｒｕｅ”である場合、信号判定部３１０は、ステップＳ５０２に進む。本処理の結果が“Ｆａｌｓｅ”である場合、信号判定部３１０は、本フローチャートの処理を終了する。
【0179】
（ステップＳ５０２：保存処理）信号判定部３１０は、受信信号を、一時バッファ部２２１に保存する。
【0180】
図３７は、ステップＳ５０１に示される信号判定処理における信号判定部３１０の動作の一例を示すフローチャートである。本図を参照して、実行監視装置３０の動作を説明する。なお、本例において、判定項目３２２は、「値」と、「最新時刻」と、「最古時刻」と、「受信間隔」と、「受信順序」と、「連続数」とのみであるものとする。信号判定処理における信号判定部３１０の動作を示すフローチャートの長さは、判定項目３２２に含まれる項目数に依存する。
【0181】
（ステップＳ６０１：信号名判定処理）信号判定部３１０は、受信信号に含まれる信号名が保存基準３２１に登録されているか否かを判定する。
受信信号に含まれる信号名が保存基準３２１に登録されている場合、信号判定部３１０は、ステップＳ６０２に進む。それ以外の場合、信号判定部３１０は、信号判定処理の結果を“Ｆａｌｓｅ”とし、かつ、本フローチャートの処理を終了する。
【0182】
（ステップＳ６０２：値判定処理）信号判定部３１０は、判定項目３２２の「値」について判定する。
信号判定部３１０は、受信信号に対応する判定項目３２２が「値」である場合、かつ、受信信号に示される値が受信信号に対応する参考値３２３に示される値に該当する場合、信号判定部３１０は、信号判定処理の結果を“Ｔｒｕｅ”とし、かつ、本フローチャートの処理を終了する。
ここで、受信信号に対応する判定項目３２２は、受信信号が示す信号名に対応する判定項目３２２である。受信信号に対応する参考値３２３は、受信信号に対応する判定項目３２２と同様である。具体例として、保存基準３２１が図３５に示されるものである場合、受信信号が示す信号名が「ＡＣＣ設定速度」であるとき、受信信号に対応する判定項目３２２は「値」であり、かつ、受信信号に対応する参考値３２３は「０〜１２０ｋｍ／ｈ」である。「０〜１２０ｋｍ／ｈ」は、０ｋｍ／ｈ以上１２０ｋｍ／ｈ以下を示す。
それ以外の場合、信号判定部３１０は、ステップＳ６０３に進む。
【0183】
（ステップＳ６０３：最新時刻判定処理）信号判定部３１０は、判定項目３２２の「最新時刻」について判定する。
受信信号に対応する判定項目３２２が「最新時刻」である場合、かつ、受信信号に示される時刻が受信信号に対応する参考値３２３に示される時刻より新しい場合、信号判定部３１０は、信号判定処理の結果を“Ｔｒｕｅ”とし、かつ、本フローチャートの処理を終了する。
それ以外の場合、信号判定部３１０は、ステップＳ６０４に進む。
【0184】
（ステップＳ６０４：最古時刻判定処理）信号判定部３１０は、判定項目３２２の「最古時刻」について判定する。
受信信号に対応する判定項目３２２が「最古時刻」である場合、かつ、受信信号に示される時刻が受信信号に対応する参考値３２３に示される時刻より古い場合、信号判定部３１０は、信号判定処理の結果を“Ｔｒｕｅ”とし、かつ、本フローチャートの処理を終了する。
それ以外の場合、信号判定部３１０は、ステップＳ６０５に進む。
【0185】
（ステップＳ６０５：受信間隔判定処理）信号判定部３１０は、判定項目３２２の「受信間隔」について判定する。
受信信号に対応する判定項目３２２が「受信間隔」である場合、かつ、受信信号に対応する信号名と同名の信号を実行監視装置３０が前回受信した時刻と、実行監視装置３０が受信信号を受信した時刻との間隔が受信信号に対応する参考値３２３に示される間隔以上である場合、信号判定部３１０は、信号判定処理の結果を“Ｔｒｕｅ”とし、かつ、本フローチャートの処理を終了する。
それ以外の場合、信号判定部３１０は、ステップＳ６０６に進む。
【0186】
（ステップＳ６０６：受信順序判定処理）信号判定部３１０は、判定項目３２２の「受信順序」について判定する。
受信信号に対応する判定項目３２２が「受信順序」である場合、かつ、受信信号に対応する参考値３２３に示される順序によって実行監視装置３０が信号を受信した場合、信号判定部３１０は、信号判定処理の結果を“Ｔｒｕｅ”とし、かつ、本フローチャートの処理を終了する。
それ以外の場合、信号判定部３１０は、ステップＳ６０７に進む。
【0187】
（ステップＳ６０７：連続数判定処理）信号判定部３１０は、判定項目３２２の「連続数」について判定する。
受信信号に対応する判定項目３２２が「連続数」である場合、かつ、受信信号に対応する参考値３２３に示される回数以上連続で実行監視装置３０が受信信号と同名の信号を受信した場合、信号判定部３１０は、信号判定処理の結果を“Ｔｒｕｅ”とし、かつ、本フローチャートの処理を終了する。
それ以外の場合、信号判定部３１０は、信号判定処理の結果を“Ｆａｌｓｅ”とし、かつ、本フローチャートの処理を終了する。
【0188】
＊＊＊実施の形態２の効果の説明＊＊＊以上のように、本実施の形態によれば、信号判定部３１０は、保存基準３２１に従って実行監視装置３０が受信した信号を保存するか否かを判定し、かつ、保存基準３２１を満たす信号のみを一時バッファ部２２１に保存する。ここで、保存基準３２１は、監視仕様の判定に必要な信号と対応していても良い。そのため、実行監視装置３０は、監視仕様の判定に必要な信号のみ、一時バッファ部２２１に保存することもできる。
従って、本実施の形態に係る実行監視装置３０によれば、一時バッファ部２２１のバッファサイズを小さくすることができる。
【0189】
＊＊＊他の構成＊＊＊＜変形例２＞
信号判定部３１０は、１つの受信信号に対して複数の判定項目３２２を適用しても良い。
本変形例において、具体例として、受信信号が当該複数の判定項目３２２を同時に満たす場合、信号判定部３１０は、受信信号を一時バッファ部２２１に保存する。なお、本変形例において、参考値３２３には、当該複数の判定項目３２２それぞれに対応するデータが登録されていても良い。
【0190】
＜変形例３＞実行監視装置３０は、変形例１と同様の構成であっても良い。
【0191】
＊＊＊他の実施の形態＊＊＊前述した実施の形態の任意の構成要素の変形、もしくは実施の形態において任意の構成要素の省略が可能である。
【0192】
また、実施の形態は、実施の形態１から２で示したものに限定されるものではなく、必要に応じて種々の変更が可能である。なお、実施の形態の説明及び図面において、同じ要素及び対応する要素には同じ符号を付している。同じ符号が付された要素の説明は、適宜に省略又は簡略化してある。
【符号の説明】
【0193】
１０ マイクロコンピュータ、２０，３０ 実行監視装置、１０１ ＣＰＵ、１０２ ＲＯＭ、１０３ ＲＡＭ、１０４ 通信インタフェース、２０１ 前処理部、２０２ 次計算仕様判定部、２０３ 不変仕様判定部、２０４ 実時間仕様判定部、２０５ 期限管理部、２０６ 変化時刻算出部、２０７ 出力部、２０８ 異常出力部、２２１ 一時バッファ部、２２２ 監視仕様保存部、２２３ 計算対象保存部、２２４ 判定結果保存部、２２５ 時系列データ保存部、２２６ 変化時刻保存部、２２７ 変化時刻テーブル保存部、２２８ 異常処理ポリシ保存部、２２９ 依存関係保存部、３１０ 信号判定部、３２０ 保存基準保存部、３２１ 保存基準、３２２ 判定項目、３２３ 参考値。