特許 6674096 情報処理装置、情報処理方法、プログラム

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】6674096

(24)【登録日】2020年3月10日

(45)【発行日】2020年4月1日

(54)【発明の名称】情報処理装置、情報処理方法、プログラム

(51)【国際特許分類】

   G06Q 10/10 20120101AFI20200323BHJP

   G06F 16/20 20190101ALI20200323BHJP

   G06F 16/28 20190101ALI20200323BHJP

   G06F 40/216 20200101ALI20200323BHJP

【ＦＩ】

   G06Q10/10 330

   G06F16/20

   G06F16/28

   G06F17/27 615

【請求項の数】7

【全頁数】24

(21)【出願番号】特願2016-106915(P2016-106915)

(22)【出願日】2016年5月30日

(65)【公開番号】特開2017-215627(P2017-215627A)

(43)【公開日】2017年12月7日

【審査請求日】2019年2月28日

(73)【特許権者】

【識別番号】390002761

【氏名又は名称】キヤノンマーケティングジャパン株式会社

(73)【特許権者】

【識別番号】592135203

【氏名又は名称】キヤノンＩＴソリューションズ株式会社

(74)【代理人】

【識別番号】100189751

【弁理士】

【氏名又は名称】木村 友輔

(72)【発明者】

【氏名】田中 靖大

【審査官】 貝塚 涼

(56)【参考文献】

【文献】 特開２０１２−１２３５７７（ＪＰ，Ａ）

【文献】 特開２００７−１２２１４８（ＪＰ，Ａ）

【文献】 特許第５８７６１８１（ＪＰ，Ｂ１）

【文献】 特開２００６−０６５８３７（ＪＰ，Ａ）

(58)【調査した分野】（Int.Cl.，ＤＢ名）

Ｇ０６Ｑ １０／００ − ９９／００

Ｇ０６Ｆ １６／２０

Ｇ０６Ｆ １６／２８

Ｇ０６Ｆ ４０／２１６

(57)【特許請求の範囲】

【請求項1】

電子メールの送信を制御するための送信制御ルールを記憶するルール記憶手段と、
前記ルール記憶手段に記憶された送信制御ルールを適用することで、電子メールの送信を保留する送信制御手段と、
前記送信制御手段により送信が保留された電子メールに対する送出または削除の指示を受け付ける受付手段と、
前記受付手段により受け付けた指示内容の実績に基づき、送信制御ルール毎に、単語の安危度合いを示す特徴量を算出する算出手段と、
前記算出手段により算出された特徴量に基づき、当該単語の安危を判定する判定手段と、
前記判定手段による判定結果を、前記送信が保留された電子メールに対する送出または削除の指示を受け付ける監査画面に表示する表示制御手段と、
を備えることを特徴とする情報処理装置。

【請求項2】

前記表示制御手段は、監査画面において、安全な単語と危険な単語とを識別可能に表示することを特徴とする請求項１に記載の情報処理装置。

【請求項3】

前記指示内容の実績は、監査者から受け付けた指示により送出された電子メールの数および削除された電子メールの数であることを特徴とし、
前記算出手段は、さらに、当該実績を送信制御ルール毎に集計した結果を用いて、送信制御ルール毎に単語の安危度合いを示す特徴量を算出することを特徴とする請求項１または２に記載の情報処理装置。

【請求項4】

前記送信制御ルールは、キーワードを条件として電子メールの送信を制御するためのルールであることを特徴とする請求項１乃至３のいずれか１項に記載の情報処理装置。

【請求項5】

電子メールの送信を制御するための送信制御ルールを記憶するルール記憶手段と、
前記ルール記憶手段に記憶された送信制御ルールを適用することで、電子メールの送信を保留する送信制御手段と、
前記送信制御手段により送信が保留された電子メールに対する送出または削除の指示を受け付ける受付手段と、
前記受付手段により受け付けた指示内容の実績に基づき、送信先ドメイン毎に、単語の安危度合いを示す特徴量を算出する算出手段と、
前記算出手段により算出された特徴量に基づき、当該単語の安危を判定する判定手段と、
前記判定手段による判定結果を、前記送信が保留された電子メールに対する送出または削除の指示を受け付ける監査画面に表示する表示制御手段と、
を備えることを特徴とする情報処理装置。

【請求項6】

電子メールの送信を制御するための送信制御ルールを記憶するルール記憶手段を備える情報処理装置における情報処理方法であって、
前記情報処理装置の送信制御手段が、前記ルール記憶手段に記憶された送信制御ルールを適用することで、電子メールの送信を保留する送信制御工程と、
前記情報処理装置の受付手段が、前記送信制御工程により送信が保留された電子メールに対する送出または削除の指示を受け付ける受付工程と、
前記情報処理装置の算出手段が、前記受付工程により受け付けた指示内容の実績に基づき、送信制御ルール毎に、単語の安危度合いを示す特徴量を算出する算出工程と、
前記情報処理装置の判定手段が、前記算出工程により算出された特徴量に基づき、当該単語の安危を判定する判定工程と、
前記情報処理装置の表示制御手段が、前記判定工程による判定結果を、前記送信が保留された電子メールに対する送出または削除の指示を受け付ける監査画面に表示する表示制御工程と、
を備えることを特徴とする情報処理方法。

【請求項7】

電子メールの送信を制御するための送信制御ルールを記憶するルール記憶手段を備える情報処理装置において実行可能なプログラムであって、
前記情報処理装置を、
前記ルール記憶手段に記憶された送信制御ルールを適用することで、電子メールの送信を保留する送信制御手段と、
前記送信制御手段により送信が保留された電子メールに対する送出または削除の指示を受け付ける受付手段と、
前記受付手段により受け付けた指示内容の実績に基づき、送信制御ルール毎に、単語の安危度合いを示す特徴量を算出する算出手段と、
前記算出手段により算出された特徴量に基づき、当該単語の安危を判定する判定手段と、
前記判定手段による判定結果を、前記送信が保留された電子メールに対する送出または削除の指示を受け付ける監査画面に表示する表示制御手段として機能させるためのプログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、情報処理装置、情報処理方法、プログラムに関する。

【背景技術】

【0002】

近年、「会社法」や「金融商品取引法（ＪＳＯＸ法）」などの施行により、内部統制に対する取り組みが重要性を増す中、情報漏洩対策についての関心が高まっている。

【0003】

情報漏洩防止対策の一環である電子メールフィルタリングは、予め定義した条件に合致する電子メールの送信を制御する仕組みである。送信制御には、条件に合致したメールの送信の許可または送信の拒否を行なうほか、一時的に送信を保留し、監査者の目視確認を促すことで情報漏洩を防止することが一般的に行なわれている。また、送信制御に用いる条件は、送信先のアドレスやメール本文に含まれるキーワードなどにより定義する方法が一般的である。

【0004】

しかしながら、電子メールのフィルタリングには、適切なキーワードの設定が難しいという問題がある。また、一時的に保留されたメールを目視確認するコストが高いという問題もある。更に監査者の判定の知識を共有化することが難しく、監査者によって判定が異なるという問題もある。

【0005】

そこで、特許文献１には、送信の可否の判定に自然文による検索（類似文検索）を用いる技術が開示されている。具体的には、過去に送信拒否された電子メールや機密文書を送信可否の判定に用いて監査作業を自動化することで、キーワードの設定を不要とし、目視確認のコストを削減し、均一な判定を得ることが記載されている。

【先行技術文献】

【特許文献】

【0006】

【特許文献1】特開２００２−２９０４６９号公報

【発明の開示】

【発明が解決しようとする課題】

【0007】

しかしながら、上記特許文献１では、自然文検索に基づいて送信可否を判定するので、判定の基準が人間にとって不明瞭で説明や理解が困難となるという問題がある。

【0008】

また、判定の基準が不明瞭であるため、送信を制御すべきメールが網羅されているのか分からず、内部統制の観点から適さないという問題もある。

【0009】

そこで、本発明は、キーワードという明瞭な基準を用いつつ、目視確認のコストを低減し、また、監査者による判定の差異を小さく抑える仕組みを提供することを目的とする。

【課題を解決するための手段】

【0010】

本発明の情報処理装置は、電子メールの送信を制御するための送信制御ルールを記憶するルール記憶手段と、前記ルール記憶手段に記憶された送信制御ルールを適用することで、電子メールの送信を保留する送信制御手段と、前記送信制御手段により送信が保留された電子メールに対する送出または削除の指示を受け付ける受付手段と、前記受付手段により受け付けた指示内容の実績に基づき、送信制御ルール毎に、単語の安危度合いを示す特徴量を算出する算出手段と、前記算出手段により算出された特徴量に基づき、当該単語の安危を判定する判定手段と、前記判定手段による判定結果を、前記送信が保留された電子メールに対する送出または削除の指示を受け付ける監査画面に表示する表示制御手段と、を備えることを特徴とする。

【0011】

また、本発明の情報処理方法は、電子メールの送信を制御するための送信制御ルールを記憶するルール記憶手段を備える情報処理装置における情報処理方法であって、前記情報処理装置の送信制御手段が、前記ルール記憶手段に記憶された送信制御ルールを適用することで、電子メールの送信を保留する送信制御工程と、前記情報処理装置の受付手段が、前記送信制御工程により送信が保留された電子メールに対する送出または削除の指示を受け付ける受付工程と、前記情報処理装置の算出手段が、前記受付工程により受け付けた指示内容の実績に基づき、送信制御ルール毎に、単語の安危度合いを示す特徴量を算出する算出工程と、前記情報処理装置の判定手段が、前記算出工程により算出された特徴量に基づき、当該単語の安危を判定する判定工程と、前記情報処理装置の表示制御手段が、前記判定工程による判定結果を、前記送信が保留された電子メールに対する送出または削除の指示を受け付ける監査画面に表示する表示制御工程と、を備えることを特徴とする。

【0012】

また、本発明のプログラムは、電子メールの送信を制御するための送信制御ルールを記憶するルール記憶手段を備える情報処理装置において実行可能なプログラムであって、前記情報処理装置を、前記ルール記憶手段に記憶された送信制御ルールを適用することで、電子メールの送信を保留する送信制御手段と、前記送信制御手段により送信が保留された電子メールに対する送出または削除の指示を受け付ける受付手段と、前記受付手段により受け付けた指示内容の実績に基づき、送信制御ルール毎に、単語の安危度合いを示す特徴量を算出する算出手段と、前記算出手段により算出された特徴量に基づき、当該単語の安危を判定する判定手段と、前記判定手段による判定結果を、前記送信が保留された電子メールに対する送出または削除の指示を受け付ける監査画面に表示する表示制御手段として機能させるためのプログラム。

【発明の効果】

【0013】

本発明によれば、電子メールの送信制御において、目視確認のコストを低減し、また、監査者による判定の差異を小さく抑えることが可能となる。

【図面の簡単な説明】

【0014】

【図1】本発明のシステム構成の一例を示すシステム構成図である。

【図2】図１に示した情報処理装置１００，ユーザ端末１１０、管理者端末１２０、監査者端末１３０に適用可能な情報処理装置のハードウェア構成を示すブロック図である。

【図3】本発明の情報処理装置におけるメールの検査処理の一例を示すフローチャートである。

【図4】本発明の情報処理装置におけるメール集計処理の一例を示すフローチャートである。

【図5】本発明の情報処理装置におけるメール保存領域の一例を示すブロック図である。

【図6】本発明の情報処理装置における設定保存領域の一例を示すブロック図である。

【図7】本発明の情報処理装置におけるメール統計情報保存領域の一例を示すブロック図である。

【図8】本発明のメール保存領域における送信状態テーブルの一例を示す図である。

【図9】本発明のメール保存領域におけるメールテーブルの一例を示す図である。

【図10】本発明の設定保存領域における検査ルールテーブルの一例を示す図である。

【図11】本発明のメール統計情報保存領域におけるメール統計テーブルの一例を示す図である。

【図12】本発明のメール統計情報保存領域における単語統計テーブルの一例を示す図である。

【図13】本発明における送信済みの電子メールを形態素解析した結果の一例を示す図である。

【図14】本発明の情報処理装置における監査画面表示処理の一例を示すフローチャートである。

【図15】本発明の送信状態における単語の特徴量の計算式の一例を示す。

【図16】本発明におけるメールに含まれる単語の安危判定の基準の一例を示す図である。

【図17】本発明の説明における送信される電子メールの一例を示す。

【図18】本発明における監査対象となる電子メールを形態素解析した結果の一例を示す図である。

【図19】本発明における監査対象のメールに含まれる単語の安危判定結果リストの一例を示す図である。

【図20】本発明における監査画面の一例を示す図である。

【図21】本発明の第２の実施形態の情報処理装置におけるメール集計処理の一例を示すフローチャートである。

【図22】本発明の第２の実施形態のメール統計情報保存領域におけるメール統計テーブルの一例を示す図である。

【図23】本発明の第２の実施形態のメール統計情報保存領域における単語統計テーブルの一例を示す図である。

【図24】本発明の第２の実施形態の送信状態における単語の特徴量の計算式の一例を示す。

【図25】本発明の第２の実施形態におけるメールに含まれる単語の安危判定の基準の一例を示す図である。

【発明を実施するための形態】

【0015】

以下、図面を参照して、本発明の実施形態を詳細に説明する。

【0016】

図１は、本発明の情報処理システムの構成の一例を示す図である。

【0017】

情報処理装置１００と、１又は複数のユーザ端末１１０と、１又は複数の管理者端末１２０と、１又は複数の監査者端末１３０とは、ローカルエリアネットワークを介して接続される構成となっている。また情報処理装置１００は、外部ネットワーク１４０に接続可能な構成となっている。

【0018】

情報処理装置１００は、ユーザ端末１１０から送信された電子メールに対して、管理者端末１２０で入力された設定に基づき、電子メールごとに送信、保留、削除（送信拒否）の判定を行ない、電子メールが保留された場合、監査端末１３０に通知を行ない監査者に目視確認を促す。

【0019】

また、情報処理装置１００は、監査者端末１３０から保留メールに対する送信または削除の指示を受け取り、電子メールを送信または削除する。

【0020】

ユーザ端末１１０は、電子メールを情報処理装置１００に送る。

【0021】

管理者端末１２０は、電子メールの送信制御に関する設定を情報処理装置１００に指示する。

【0022】

監査者端末１３０は、保留された電子メールの送信または削除を情報処理装置１００に指示する。

【0023】

以下、図２を用いて、図１に示した情報処理装置１００、ユーザ端末１１０、管理者端末１２０、監査者端末１３０に適用可能な情報処理装置のハードウェア構成について説明する。

【0024】

図２は、図１に示した情報処理装置１００、ユーザ端末１１０、管理者端末１２０、監査者端末１３０に適用可能な情報処理装置のハードウェア構成を示すブロック図である。

【0025】

図２に示すように、情報処理装置１０１では、システムバス２００を介してＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）２０１、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）２０２、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）２０３、記憶装置２０４、入力コントローラ２０５、音声入力コントローラ２０６、ビデオコントローラ２０７、メモリコントローラ２０８、よび通信Ｉ／Ｆコントローラ２０９が接続される。

【0026】

ＣＰＵ２０１は、システムバス２００に接続される各デバイスやコントローラを統括的に制御する。

【0027】

ＲＯＭ２０２あるいは記憶装置２０４は、ＣＰＵ２０１が実行する制御プログラムであるＢＩＯＳ（Ｂａｓｉｃ Ｉｎｐｕｔ／Ｏｕｔｐｕｔ Ｓｙｓｔｅｍ）やＯＳ（Ｏｐｅｒａｔｉｎｇ Ｓｙｓｔｅｍ）や、本情報処理方法を実現するためのコンピュータ読み取り実行可能なプログラムおよび必要な各種データ（データテーブルを含む）を保持している。

【0028】

ＲＡＭ２０３は、ＣＰＵ２０１の主メモリ、ワークエリア等として機能する。ＣＰＵ２０１は、処理の実行に際して必要なプログラム等をＲＯＭ２０２あるいは記憶装置２０４からＲＡＭ２０３にロードし、ロードしたプログラムを実行することで各種動作を実現する。

【0029】

入力コントローラ２０５は、キーボード／タッチパネル２１０などの入力装置からの入力を制御する。入力装置はこれに限ったものでなく、マウスやマルチタッチスクリーンなどの、複数の指でタッチされた位置を検出することが可能なタッチパネルであってもよい。

【0030】

ユーザがタッチパネルに表示されたアイコンやカーソルやボタンに合わせて押下（指等でタッチ）することにより、各種の指示を行うことができる。

【0031】

この入力装置を用いて各種通信装置で利用可能な通信宛先に対する宛先を入力するようになっている。

【0032】

音声入力コントローラ２０６は、マイク２１１からの入力を制御する。マイク２１１から入力された音声を音声認識することが可能となっている。

【0033】

ビデオコントローラ２０７は、ディスプレイ２１２などの外部出力装置への表示を制御する。ディスプレイは本体と一体になったノート型パソコンのディスプレイも含まれるものとする。なお、外部出力装置はディスプレイに限ったものははく、例えばプロジェクタであってもよい。また、前述のタッチ操作により受け付け可能な装置については、キーボード／タッチパネル２１０からの入力を受け付けることも可能となる。

【0034】

なおビデオコントローラ２０７は、表示制御を行うためのビデオメモリ（ＶＲＡＭ）を制御することが可能で、ビデオメモリ領域としてＲＡＭ２０３の一部を利用することもできるし、別途専用のビデオメモリを設けることも可能である。

【0035】

本発明では、ユーザが情報処理装置を通常する場合の表示に用いられる第１のビデオメモリ領域と、所定の画面が表示される場合に、第１のビデオメモリ領域の表示内容に重ねての表示に用いられる第２のビデオメモリ領域を有している。ビデオメモリ領域は２つに限ったものではなく、情報処理装置の資源が許す限り複数有することが可能なものとする。

【0036】

メモリコントローラ２０８は、外部メモリ２１３へのアクセスを制御する。外部メモリとしては、ブートプログラム、各種アプリケーション、フォントデータ、ユーザファイル、編集ファイル、および各種データ等を記憶する外部記憶装置（ハードディスク）、フレキシブルディスク（ＦＤ）、或いはＰＣＭＣＩＡカードスロットにアダプタを介して接続されるコンパクトフラッシュ（登録商標）メモリ等を利用可能である。

【0037】

通信Ｉ／Ｆコントローラ２０９、ネットワーク２１４を介して外部機器と接続・通信するものであり、ネットワークでの通信制御処理を実行する。例えば、ＴＣＰ／ＩＰを用いた通信やＩＳＤＮなどの電話回線、および携帯電話の３Ｇ回線を用いた通信が可能である。

【0038】

なお、記憶装置２０４は情報を永続的に記憶するための媒体であって、その形態をハードディスク等の記憶装置に限定するものではない。例えば、ＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）などの媒体であってもよい。

【0039】

また本実施形態における通信端末で行われる各種処理時の一時的なメモリエリアとしても利用可能である。

【0040】

次に、図３のフローチャートを参照して、第１の実施形態において、ユーザ端末１１０から電子メールが送信された際に情報処理装置１００が実行する処理について説明する。

【0041】

ステップＳ３０１において検査処理部１０１は、ユーザ端末１１０から送信依頼された電子メールを取得する。

【0042】

ステップＳ３０２において検査処理部１０１は、設定保存領域（図６）の検査ルールテーブル６０１（図１０）を参照して、ステップＳ３０１で取得した電子メールが削除条件に合致するかを判定する。

【0043】

電子メールが、動作が「削除」である検査ルール（送信制御ルール）に合致すればステップＳ３０３に処理を移し、動作が「削除」であるいずれのルールにも合致しなければステップＳ３０４に処理を移す。

【0044】

ステップＳ３０３において検査処理部１０１は、ステップＳ３０１で取得した電子メールの送信を中止する。

【0045】

ステップＳ３０４において検査処理部１０１は、設定保存領域の検査ルールテーブル６０１を参照して、ステップＳ３０１で取得した電子メールが保留条件に合致するかを判定する。電子メールが、動作が「保留」であるルールに合致すればステップＳ３０５に処理を移し、動作が「保留」であるいずれのルールにも合致しなければステップＳ３０６に処理を移す。

【0046】

ステップＳ３０５において検査処理部１０１は、保留された電子メールに対応する監査者を特定し、対応する監査者端末１２０に監査依頼通知を送信する。監査者の特定方法は、例えば電子メールの送信者毎に監査者を対応付けたデータに基づいて特定する等の方法が考えられるが、本発明においてはいずれの方法であっても良い。

【0047】

ステップＳ３０６において検査処理部１０１は、削除条件にも保留条件にも合致しないと判定された電子メールを送信する。

【0048】

ステップＳ３０７において検査処理部１０１は、メール保存領域１０５（図５）のメールテーブル５０１（図９）に電子メールを保存する。また、メール保存領域１０５の送信状態テーブル５０２（図８）に送信状態（削除、送出、保留）を保存する。

【0049】

保留状態の電子メールに対しては、監査依頼通知を受け取った監査者が監査者端末１３０において、電子メールの内容を目視確認した後、送出か削除を指示する。監査処理部１０８は、監査者の指示に応じて、電子メールを送信または削除した後、送信状態テーブル５０２の送信状態を更新する。
図８に送信状態テーブル５０２の具体例を示す。

【0050】

図８に示す通り、送信状態テーブル５０２は、当該電子メールの監査者を示す「監査者」、当該電子メールの送信状態（送出、削除、保留など）を示す「状態」、当該電子メールが送信指示された時刻を示す「時刻」、当該電子メールが合致したルールの識別情報を示す「検査ルールＩＤ」、当該電子メールの識別情報を示す「メールＩＤ」等の項目の情報から構成される。

【0051】

例えば、ＩＤ：１で識別されるデータは、メールＩＤ：１の電子メールの監査者は「ｋａｇａｗａ」であり、送信状態は「送出」、送信指示された時刻は「２０１６年４月２３日１０時」、合致した検査ルールＩＤは「２」であることを示している。
図９にメールテーブル５０１の具体例を示す。

【0052】

図９に示す通り、メールデータテーブル５０１は、当該電子メールの本文を示す「本文」、当該電子メールの送信元を示す「ｆｒｏｍ」、当該電子メールの送信先を示す「ｔｏ」、当該電子メールが送信指示された時刻を示す「送信時刻」等の項目の情報から構成される。
図１０に検査ルールテーブル６０１の具体例を示す。

【0053】

図１０に示す通り、検査ルールテーブル６０１には、電子メールの送信先を示す「宛先」や電子メール（本文や添付ファイル、件名など）に含まれる文字列を示す「キーワード」といった条件と、当該条件に合致した電子メールの送信制御内容を示す「動作」とが対応付けて登録されている。

【0054】

例えば、ＩＤ：１で特定される検査ルールは、「社外秘」という文字列が含まれる電子メールは、送信せずに「削除」することを意味している。

【0055】

次にメール検査処理の具体例として、図１７に示す電子メール１７０１に対して図３に示す処理が実施された場合について説明する。

【0056】

ステップＳ３０１において検査処理部１０１は、ユーザ端末１１０から送信依頼された電子メール１７０１を取得する。

【0057】

ステップＳ３０２において検査処理部１０１は、検査ルールテーブル６０１を参照して、電子メール１７０１が、「動作」項目に「削除」が登録されている検査ルールの条件に合致するか判定する。すなわち、検査ルールテーブル６０１に登録された検査ルールのうちＩＤ：１で特定される検査ルールの条件（キーワード：社外秘）に合致するかを判定する。

【0058】

電子メール１７０１は本文に「社外秘」を含まないので、動作が「削除」であるルールに合致しないため、ステップＳ３０４に処理を移す。

【0059】

ステップＳ３０４において検査処理部１０１は、設定保存領域の検査ルールテーブル６０１を参照して、電子メール１７０１が、「動作」項目に「保留」が登録されている検査ルールの条件に合致するか判定する。すなわち、検査ルールテーブル６０１に登録された検査ルールのうちＩＤ：２で特定される検査ルールの条件（キーワード：成分表）に合致するかを判定する。

【0060】

電子メール１７０１は本文にキーワード「成分表」（１７０２）を含んでいるため、動作が「保留」である１００１ルールに合致するので、ステップＳ３０５に処理を移す。

【0061】

ステップＳ３０５において検査処理部１０１は、電子メール１７０１に対応する監査者を特定し、対応する監査者端末１２０に監査依頼通知を送信する。

【0062】

ステップＳ３０７において検査処理部１０１は、電子メール１７０１をメールテーブル５０１の電子メール９０４として保存し、送信状態８０４を送信状態テーブル５０２に保存する。
（メール集計処理フロー）

【0063】

次に、図４のフローチャートを参照して、第１の実施形態において、情報処理装置１００が、監査者端末からの指示の結果により、電子メールが送信または削除された場合に実行されるメールの集計処理について説明する。すなわち、送信が保留され、監査者から送信または削除の指示がなされた電子メールについて、集計する処理である。

【0064】

ステップＳ４０１においてメール集計処理部１０６は、メール保存領域１０２（図５）のメールテーブル５０１（図９）から、処理対象である電子メールを取得する。

【0065】

ステップＳ４０２においてメール集計処理部１０６は、ステップＳ４０１で取得した電子メールの送信状態を、メール保存領域１０２の送信状態テーブル５０２から取得する。

【0066】

ステップＳ４０３においてメール集計処理部１０６は、設定保存領域１０３の検査ルールテーブル６０１から、ステップＳ４０２で取得した送信状態に対応する検査ルールを取得する。

【0067】

ステップＳ４０４においてメール集計処理部１０６は、メール統計保存領域１０７（図７）のメール統計テーブル７０１（図１１）において、ステップＳ４０１で取得した送信状態の状態と検査ルールに対して、メールの数を１加算する。

【0068】

ステップＳ４０５においてメール集計処理部１０６は、ステップＳ４０１で取得した電子メールの本文に対し形態素解析を行ない単語を取得する。本実施形態においては、異なりの単語を取得し、同じ単語は含まれないものとするが、取得した単語全てを用いるように構成してもよい。

【0069】

また、本実施形態においては本文のみを対象とするが、題名や添付ファイルの内容を含めるように構成してもよい。

【0070】

ステップＳ４０６においてメール集計処理部１０６は、ステップＳ４０５で取得した単語に対し、ステップＳ４０９までの繰り返し処理を開始する。

【0071】

ステップＳ４０７においてメール集計処理部１０６は、単語が特徴として有効であるか否かを判定する。特徴として有効であると判定した場合、ステップＳ４０８からの処理を実施する。特徴として有効でないと判定した場合、ステップＳ４０９に処理を移す。

【0072】

本実施形態においては、単語が名詞の場合に特徴として有効とし、それ以外の単語は無効であると判定する。

【0073】

ステップＳ４０８においてメール集計処理部１０６は、メール統計保存領域１０７の単語統計テーブル７０２（図１２）において、検査ルールと送信状態と有効であると判定された単語の組み合わせに対して、メールの数を１加算する。

【0074】

ステップＳ４０９においてメール集計処理部１０６は、次の単語がある場合、ステップＳ４０６からの処理を実施する。次の単語がない場合、処理を終了する。

【0075】

本実施形態において、メールの集計処理はメールの送信と同期して実行するように構成しているが、定期的にまとめて処理を行なうように構成しても構わない。

【0076】

次にメール集計処理の具体例として、図９の電子メール９０１に対して図４に示す処理が実施された場合について説明する。

【0077】

ステップＳ４０１においてメール集計処理部１０６は、メール保存領域１０２のメールテーブル５０１から、処理対象である電子メール９０１（ＩＤ＝１）を取得する。

【0078】

ステップＳ４０２においてメール集計処理部１０６は、メール保存領域１０２の送信状態テーブル５０２から電子メール９０１（ＩＤ＝１）に対応する送信状態８０１（メールＩＤ＝１）を取得する。

【0079】

ステップＳ４０３においてメール集計処理部１０６は、設定保存領域１０３の検査ルールテーブル６０１から、ステップＳ４０１で取得した送信状態８０１（検査ルールＩＤ＝２）に対応する検査ルール１００１（ＩＤ＝２）を取得する。

【0080】

ステップＳ４０４においてメール集計処理部１０６は、メール統計保存領域１０７（図７）のメール統計テーブル７０１（図１１）において、ステップＳ４０１で取得した送信状態８０１の状態「送出」と検査ルール１００１（ＩＤ＝２）の組１１０１に対して、メールの数を１加算する。

【0081】

ステップＳ４０５においてメール集計処理部１０６は、ステップＳ４０２で取得した電子メール９０１の本文を取得し形態素解析を用いて単語を取得する。図１３に電子メール９０１から取得した単語の一覧を示す。

【0082】

ステップＳ４０６においてメール集計処理部１０６は、ステップＳ４０５で取得した単語１３０１「ご」に対し、ステップＳ４０９までの繰り返し処理を開始する。

【0083】

ステップＳ４０７においてメール集計処理部１０６は、単語１３０１の品詞が「接頭辞」であり、特徴として有効ではないと判定し、ステップＳ４０９に処理を移す。

【0084】

ステップＳ４０９においてメール集計処理部１０６は、次の単語１３０２「質問」があるので、ステップＳ４０６からの処理を実施する。

【0085】

ステップＳ４０６においてメール集計処理部１０６は、ステップＳ４０５で取得した単語１３０２「質問」に対し、ステップＳ４０９までの繰り返し処理を開始する。

【0086】

ステップＳ４０７においてメール集計処理部１０６は、単語１３０２の品詞が「名詞」であり、特徴として有効であると判定し、ステップＳ４０８に処理を移す。

【0087】

ステップＳ４０８においてメール集計処理部１０６は、単語統計テーブル７０２（図１２）において、検査ルール１００１（ＩＤ＝２）と状態「送出」と単語１３０２「質問」の組み合わせ１２０１に対して１加算する。

【0088】

以下、全ての単語に同様の処理を繰り返し、処理を終了する。

【0089】

図１１にメール統計テーブル７０１の具体例を示す。図１１に示すメール統計テーブルのデータは、ステップＳ４０４において登録されるデータである。

【0090】

検査ルールＩＤと削除・送出された電子メール数とが対応付けて登録されている。例えば、検査ルールＩＤ：２に示す検査ルールにより送信が保留された電子メールについて、その後に監査者により削除された電子メール（送信が許可されなかった電子メール）は４通であり、監査者により送出された電子メールは２０通であることを示している。

【0091】

図１２に単語統計テーブル７０２の具体例を示す。図１２に示す単語統計テーブル７０２のデータは、ステップＳ４０８において登録されるデータである。

【0092】

検査ルールＩＤと、単語と、削除・送出された電子メール数とが対応付けて登録されている。例えば、検査ルールＩＤ：２に示す検査ルールにより送信が保留された電子メールのうち本文等に「製造」という文字列が含まれている電子メール（合計１９通）については、そのうちの３通が監査者により削除され、１６通が監査者により送出されたことを示している。

【0093】

次に、図１４のフローチャートを参照して、本実施形態の情報処理装置１００が、監査者端末１３０に表示される、監査者が電子メールを目視確認する際の画面を生成する処理について説明する。

【0094】

本フローチャートの処理により、監査者は自分が目視確認を依頼されている電子メールの一覧を得ることができ、一覧に表示されている電子メールのうち任意の電子メールを選択することで、当該電子メールに対し目視確認する画面を表示することを指示することができる。一覧画面等については詳細な説明は省略する。

【0095】

ステップＳ１４０１において監査処理部１０８は、メールテーブル５０１から監査者が指定した保留メールを取得する。なお、監査者が指定した保留メールとは、不図示の保留メール一覧画面から監査者により選択された電子メールである。

【0096】

ステップＳ１４０２において監査処理部１０８は、ステップＳ１４０１で取得した保留メールに対し、メール集計処理と同じ対象（本文、添付ファイル、件名など）を形態素解析して、電子メールを構成する単語を取得する。本実施形態の説明においては、電子メールの本文を対象として形態素解析し、電子メールを構成する単語を取得する。

【0097】

ステップＳ１４０３において監査処理部１０８は、ステップＳ１４０２で取得した単語に対し、ステップＳ１４０８までの繰り返し処理を開始する。

【0098】

ステップＳ１４０４において監査処理部１０８は、単語が特徴として有効であるか否かをメール集計処理と同様の基準で判定する。特徴として有効であると判定した場合、ステップＳ１４０５からの処理を実施する。特徴として有効でないと判定した場合、ステップＳ１４０８に処理を移す。

【0099】

ステップＳ１４０５において監査処理部１０８は、メール統計テーブル７０１および単語統計テーブル７０２を用いて、処理対象のメールに合致した検査ルールと単語から状態「削除」に対する特徴量（単語の安危度合いを示す特徴量）を算出を算出する。

【0100】

特徴量は、分類された文書集合に対し、単語が文書集合をどれくらい特徴付けているかを数値化した指標である。

【0101】

特徴量は、情報量やｔｆ・ｉｄｆ等の考え方に基づいた様々な方法があるが、本実施形態においては、説明を簡易にするため図１５に示す算出式を用いる。状態「削除」に対する特徴量は、特定の検査ルールにより保留された電子メールのうち、削除状態のメールと送出状態（削除以外の状態）のメールの出現確率の差により求める。

【0102】

ステップＳ１４０６において監査処理部１０８は、ステップＳ１４０５で算出した状態「削除」の特徴量から単語の安危を判定する。安危判定基準を図１６に示す。ｄは監査者によって設定される規定値である。新規単語は検査ルールにより保留されたメールの集合において新規に出現した単語を示す。

【0103】

ステップＳ１４０７において監査処理部１０８は、ステップＳ１４０６で判定した安危情報と単語及び特徴量を関連付けて安危リスト（図１９）に追加する。

【0104】

ステップＳ１４０８において監査処理部１０８は、次の単語がある場合、ステップＳ１４０３からの処理を実施する。次の単語がない場合、ステップＳ１４０９に処理を移す。

【0105】

ステップＳ１４０９において監査処理部１０８は、安危リストを用いて処理対象の電子メールの監査画面を表示する。監査画面の本文表示において、危険な単語および安全な単語に対し、それぞれ異なる強調表現を行なう。
（具体例）

【0106】

次に監査画面表示処理の具体例として、保留メール９０４に対して図１４に示す処理が実施された場合（監査者により、監査処理を行うメールとして保留メール９０４が選択された場合）について説明する。

【0107】

ステップＳ１４０１において監査処理部１０８は、メールテーブル５０１から保留メール９０４を取得する。

【0108】

ステップＳ１４０２において監査処理部１０８は、ステップＳ１４０１で取得した保留メール９０４の本文を取得し形態素解析を用いて、図１８に示した本文を構成する単語を取得する。

【0109】

ステップＳ１４０３において監査処理部１０８は、ステップＳ１４０２で取得した単語１８０１「製造」に対し、ステップＳ１４０８までの繰り返し処理を開始する。

【0110】

ステップＳ１４０４において監査処理部１０８は、単語１８０１は名詞であるので、有効な単語と判断し、ステップＳ１４０５からの処理を実施する。

【0111】

ステップＳ１４０５において監査処理部１０８は、メール統計テーブル７０１および単語統計テーブル７０２を用いて、電子メール９０４に合致した検査ルール（検査ルールＩＤ＝２）と単語１８０１「製造」から状態「削除」に対する特徴量を算出する。

【0112】

メール統計テーブル７０１より、検査ルールＩＤ＝２により保留された電子メールの削除数＝４、送出数＝２０を得る。単語統計テーブル７０２から、検査ルールＩＤ＝２および単語１８０１「製造」の組み（１２０２）を参照して単語１８０１の削除メールでの出現数＝３と送出メールでの出現数＝１６を得る。そして、検査ルールＩＤ：２により保留された電子メールにおける「製造」の文字列の特徴量として、以下の値を得る。
特徴量（削除，製造）
＝出現確率（削除，製造）− 出現確率（送出，製造）
＝３／４ − １６／２０
＝０．７５ − ０．８０
＝−０．０５

【0113】

ステップＳ１４０６において監査処理部１０８は、ステップＳ１４０５で算出した状態「削除」の特徴量から単語の安危を、図１６の安危判定基準を参照して判定する。本実施形態の説明においてはｄ＝０．２５とする。特徴量＝−０．０５はいずれの基準も満たさないので、対応する安危情報はない。

【0114】

ステップＳ１４０７において監査処理部１０８は、ステップＳ１４０６で判定した安危情報（なし）と単語１８０１「製造」および特徴量（−０．０５）を関連付けて安危リストに追加する。安危リストの例を図１９に示す。

【0115】

ステップＳ１４０８において監査処理部１０８は、次の単語１８０２「部」があるので、ステップＳ１４０３からの処理を実施する。

【0116】

以下、全ての単語に対して同様の処理を繰り返して図１９の安危リストを得て、ステップＳ１４０９に処理を移す。

【0117】

ステップＳ１４０９において監査処理部１０８は、図１９の安危リストを用いて監査画面を表示する。安全な単語として「部」と、危険な単語として「表」「ＹＹＹ」「工場」「指示」と、新規の単語「伊藤」を強調表示する。また検査ルールに含まれるキーワード「成分表」も強調表示する。監査画面の例を図２０に示す。

【0118】

結果として、安全と強調された単語「部」に対し、単語「表」「ＹＹＹ」「工場」「指示」と、危険と強調された箇所が多く、一瞥して危険である可能性が高いことがわかる。また危険と強調された単語から工場への指示であることが想起されるため全文を読む前に判断を下すことが可能となる。

【0119】

監査画面２００１において、監査者が送出ボタン２００２または削除ボタン２００３のいずれかを押下することで、監査処理部１０８に電子メールに対する判断を伝える。

【0120】

監査処理部１０８は、送出または削除の指示を受けると送信状態テーブル５０２において対応するメールの状態を更新する。また、送出が指示された場合は、電子メールを外部ネットワークに送信する。

【0121】

監査画面においてｄの値を動的に変更できるように構成してもよい。

【0122】

以上のように、例えば「成分表」という文字列が含まれているために送信が保留された電子メールについても、監査者による監査の結果、送信が許可される電子メールもあれば、許可されない電子メールもある。検査ルール毎に、送信が許可された電子メールに含まれる文字列（単語）、許可されなかった電子メールに含まれる文字列を集計することで、検査ルール毎に、当該検査ルールに合致した電子メールに含まれる各単語の安危情報を集計することができる。

【0123】

そして、監査対象の電子メールについて、集計結果に基づく情報を監査画面において監査者に提示することで、監査者は当該電子メールの安全性を一瞥して把握することが可能となる。その結果、効率的でありかつ判定に揺れのない監査が可能となる。
＜第２の実施形態＞
次に第２の実施形態について説明する。

【0124】

第２の実施形態は、全ての電子メールを一旦保留して必ず目視確認を行なうようなケースを想定している。

【0125】

第１の実施形態においては、検査ルール毎に単語の安危情報を集計したが、第２の実施形態のいては、送信先ドメイン毎に単語の安危情報を集計する。また、送信先ドメインに対して送信した実績が多い単語は安全と判定し、送信した実績が少ない単語は危険と判定する。

【0126】

第２の実施形態において、情報処理装置１００が、監査者端末からの指示またはメール検査処理の結果により、電子メールが送信または削除された場合に実行されるメールの集計処理の一例を図２１のフローチャートに示す。

【0127】

ステップＳ２１０１においてメール集計処理部１０６は、メール保存領域１０２のメールテーブル５０１から、処理対象となる電子メールを取得する。

【0128】

ステップＳ２１０２においてメール集計処理部１０６は、ステップＳ２１０１で取得した電子メールに対応する送信状態を、メール保存領域１０２の送信状態テーブル５０２から取得する。

【0129】

ステップＳ２１０３においてメール集計処理部１０６は、ステップＳ２１０１で取得した電子メールから送信先のドメインを取得する。

【0130】

ステップＳ２１０４においてメール集計処理部１０６は、ステップＳ２１０３で取得した送信先ドメインに対し、ステップＳ２１０６までの繰り返し処理を開始する。

【0131】

ステップＳ２１０５においてメール集計処理部１０６は、メール統計保存領域１０７のメール統計テーブル７０１において、ステップＳ２１０１で取得した送信状態の状態と送信先ドメインに対して、メールの数を１加算する。

【0132】

ステップＳ２１０６においてメール集計処理部１０６は、次の送信先ドメインがある場合、ステップＳ２１０４からの処理を実施する。次の送信先ドメインがない場合、ステップＳ２１０７に処理を移す。

【0133】

ステップＳ２１０７においてメール集計処理部１０６は、第１の実施形態と同様に、ステップＳ２１０２で取得した電子メールの本文に対して形態素解析を行ない、単語を取得する。

【0134】

ステップＳ２１０８においてメール集計処理部１０６は、ステップＳ２１０７で取得した単語に対し、ステップＳ２１１４までの繰り返し処理を開始する。

【0135】

ステップＳ２１０９においてメール集計処理部１０６は、単語が特徴として有効であるか否かを判定する。特徴として有効であると判定した場合、ステップＳ２１１０からの処理を実施する。特徴として有効でないと判定した場合、ステップＳ２１１４に処理を移す。

【0136】

ステップＳ２１１０においてメール集計処理部１０６は、メール統計保存領域１０７の単語統計テーブル７０２において、全メール（空の送信先ドメインで表現する）と状態と単語の組み合わせに対して、メールの数を１加算する。

【0137】

ステップＳ２１１１においてメール集計処理部１０６は、ステップＳ２１０３で取得した送信先ドメインに対し、ステップＳ２１１３までの繰り返し処理を開始する。

【0138】

ステップＳ２１１２においてメール集計処理部１０６は、メール統計保存領域１０７の単語統計テーブル７０２において、送信先ドメインと状態と単語の組み合わせに対して、メールの数を１加算する。

【0139】

ステップＳ２１１３においてメール集計処理部１０６は、次の送信先ドメインがある場合、ステップＳ２１１１からの処理を実施する。次の送信先ドメインがない場合、ステップＳ２１１４に処理を移す。

【0140】

ステップＳ２１１４においてメール集計処理部１０６は、次の単語がある場合、ステップＳ２１０８からの処理を実施する。次の単語がない場合、処理を終了する。

【0141】

結果として、図２２に示すメール統計テーブルと図２３に示す単語統計テーブルを得る。

【0142】

本実施形態の説明において、メールの集計処理はメールの送信と同期して実行するように構成しているが、定期的にまとめて処理を行なうように構成しても構わない。
（監査画面表示処理）

【0143】

監査画面表示処理は第１の実施形態とほぼ同じであるが、ステップＳ１４０５における特徴量算出およびステップＳＳ１４０６における安危判定の方法が異なる。

【0144】

第２の実施形態のステップＳ１４０５において監査処理部１０８は、メール統計テーブル７０１および単語統計テーブル７０２を用いて、送出先ドメインと単語から特徴量を算出する。特徴量算出式の一例を図２４に示す。送出先ドメインが複数ある場合は、各ドメインに対する特徴量のうち、絶対値が最大となる特徴量を用いる。

【0145】

また、第２の実施形態では、特徴量の算出に送出メールの数のみを用いたが、削除メールの数を含めた算出式を用いてもよい。

【0146】

第２の実施形態のステップＳ１４０６において監査処理部１０８は、ステップＳ１４０５で算出した特徴量から単語の安危を判定する。安危判定基準を図２５に示す。

【0147】

以上のように構成すると、送信先ドメインに対して過去に送信したことがない内容に関する単語が危険な単語として強調されるようになる。また、過去に送信した内容に関する単語は安全な単語として強調されるようになる。

【0148】

また、監査画面で選択された送信先のドメインに対して、動的に特徴量および安危判定を求めるように構成してもよい。

【0149】

以上のように、本発明によれば、電子メールの目視確認において、注意すべき単語（危険な単語）、安全な単語を提示することで、キーワードによるフィルタリングのメリットである基準の明確さを維持しつつ、効率的に判定作業を行なうことができる。また、注意すべき単語、安全な単語は、全ての監査者の判定に基づくので、他の監査者の着目した箇所（単語）を参考とすることができ、監査者による判定の揺れを少なくする効果が期待できる。

【0150】

また、本発明におけるプログラムは、図３、図４、図１４、図２１の処理をコンピュータに実行させるプログラムである。なお、本発明におけるプログラムは、図３、図４、図１４、図２１の各処理ごとのプログラムであってもよい。

【0151】

以上のように、前述した実施形態の機能を実現するプログラムを記録した記録媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ（またはＣＰＵやＭＰＵ）が記録媒体に格納されたプログラムを読み出し、実行することによっても本発明の目的が達成されることは言うまでもない。

【0152】

この場合、記録媒体から読み出されたプログラム自体が本発明の新規な機能を実現することになり、そのプログラムを記録した記録媒体は本発明を構成することになる。

【0153】

プログラムを供給するための記録媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、ＣＤ−ＲＯＭ、ＣＤ−Ｒ、ＤＶＤ−ＲＯＭ、磁気テープ、不揮発性のメモリカード、ＲＯＭ、ＥＥＰＲＯＭ、シリコンディスク等を用いることが出来る。

【0154】

また、コンピュータが読み出したプログラムを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムの指示に基づき、コンピュータ上で稼働しているＯＳ（オペレーティングシステム）等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。

【0155】

さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるＣＰＵ等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。

【0156】

また、本発明は、複数の機器から構成されるシステムに適用しても、ひとつの機器から成る装置に適用しても良い。また、本発明は、システムあるいは装置にプログラムを供給することによって達成される場合にも適応できることは言うまでもない。この場合、本発明を達成するためのプログラムを格納した記録媒体を該システムあるいは装置に読み出すことによって、そのシステムあるいは装置が、本発明の効果を享受することが可能となる。

【0157】

さらに、本発明を達成するためのプログラムをネットワーク上のサーバ、データベース等から通信プログラムによりダウンロードして読み出すことによって、そのシステムあるいは装置が、本発明の効果を享受することが可能となる。なお、上述した各実施形態およびその変形例を組み合わせた構成も全て本発明に含まれるものである。

【符号の説明】

【0158】

１０１ 情報処理装置
１０２ クライアント端末

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】

【図17】

【図18】

【図19】

【図20】

【図21】

【図22】

【図23】

【図24】

【図25】