特許7297226 | 知財ポータル「IP Force」

知財求人 - 知財ポータルサイト「IP Force」

▶ ディーピング　ソース　インコーポレイテッド．の特許一覧

特許7297226個人情報を保護するために原本データをコンシーリング処理して生成された変造データを認識するために使われる使用者ラーニングネットワークを学習する方法及びテストする方法、そしてこれを利用した学習装置及びテスト装置

書誌要約請求の範囲詳細な説明課題実施例実施するための形態図面の説明

目に優しい文字サイズ小中大 PDF Top

< >

1
2
3
4
5
6
7

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2023-06-16

(45)【発行日】2023-06-26

(54)【発明の名称】個人情報を保護するために原本データをコンシーリング処理して生成された変造データを認識するために使われる使用者ラーニングネットワークを学習する方法及びテストする方法、そしてこれを利用した学習装置及びテスト装置

(51)【国際特許分類】

G06N 20/00 20190101AFI20230619BHJP

G06F 21/62 20130101ALI20230619BHJP

G06N 3/02 20060101ALI20230619BHJP

【ＦＩ】

G06N20/00 130

G06F21/62 354

G06N3/02

【請求項の数】 16

(21)【出願番号】P 2022522654

(86)(22)【出願日】2020-04-28

(65)【公表番号】

(43)【公表日】2022-12-19

(86)【国際出願番号】 KR2020005583

(87)【国際公開番号】W WO2021080103

(87)【国際公開日】2021-04-29

【審査請求日】2022-04-14

(31)【優先権主張番号】16/662,084

(32)【優先日】2019-10-24

(33)【優先権主張国・地域又は機関】US

(73)【特許権者】

【識別番号】520278996

【氏名又は名称】ディーピングソースインコーポレイテッド．

(74)【代理人】

【識別番号】110001519

【氏名又は名称】弁理士法人太陽国際特許事務所

(72)【発明者】

【氏名】キム、テフン

【審査官】児玉崇晶

(56)【参考文献】

【文献】特許第６３５２５１２（ＪＰ，Ｂ１）

【文献】国際公開第２０１８／０１１８４２（ＷＯ，Ａ１）

【文献】米国特許出願公開第２０１９／０２８６８５０（ＵＳ，Ａ１）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ２０／００

Ｇ０６Ｆ２１／６２

Ｇ０６Ｎ３／０２

(57)【特許請求の範囲】

【請求項1】

個人情報を保護するために原本データをコンシーリング（Ｃｏｎｃｅａｌｉｎｇ）処理して生成された変造データ（ＯｂｆｕｓｃａｔｅｄＤａｔａ）を認識するために使われる使用者ラーニングネットワーク（ＵｓｅｒＬｅａｒｎｉｎｇＮｅｔｗｏｒｋ）を学習する方法において、
（ａ）第１学習装置は、（ｉ）変造ネットワーク（ＯｂｆｕｓｃａｔｉｏｎＮｅｔｗｏｒｋ）にトレーニングデータが入力されると、前記変造ネットワークをもって前記トレーニングデータを変造するようにして変造されたトレーニングデータを生成させるプロセス、（ｉｉ）（ｉｉ‐１）前記変造されたトレーニングデータを少なくとも一つの予め学習されたパラメータを持つ学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記変造されたトレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第１特性（Ｃｈａｒａｃｔｅｒｉｓｔｉｃ）情報を生成するようにし、（ｉｉ‐２）前記トレーニングデータを前記学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記トレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第２特性情報を生成させるプロセス、及び（ｉｉｉ）前記学習用第１特性情報と前記学習用第２特性情報とを参照したり前記学習用第１特性情報を利用して生成された学習用タスク特定出力（ＴａｓｋＳｐｅｃｉｆｉｃＯｕｔｐｕｔ）を参照して算出された第１エラーが最小化され、前記トレーニングデータと前記変造されたトレーニングデータとを参照して算出された第２エラーが最大化されるように、前記変造ネットワークを学習するプロセスを遂行した状態で、第２学習装置が、（ｉ）前記変造されたトレーニングデータと、前記トレーニングデータに対応されるトレーニングデータＧＴ（ＧｒｏｕｎｄＴｒｕｔｈ）とを獲得したり、（ｉｉ）テストデータを学習された変造ネットワークに入力して生成された変造されたテストデータと、前記テストデータに対応されるテストデータＧＴとを獲得する段階；
（ｂ）前記第２学習装置が、（ｉ）前記変造されたトレーニングデータを前記使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって（ｉ‐１）前記変造されたトレーニングデータに対してラーニング演算を適用して（ｉ‐２）学習用第３特性情報を生成させるプロセス、または（ｉｉ）前記変造されたテストデータを前記使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって（ｉｉ‐１）前記変造されたテストデータに対してラーニング演算を適用して（ｉｉ‐２）学習用第４特性情報を生成させるプロセスを遂行する段階；及び
（ｃ）前記第２学習装置が、（ｉ）（ｉ‐１）前記学習用第３特性情報を利用して生成された学習用第３タスク特定出力と（ｉ‐２）前記トレーニングデータＧＴとを利用して生成された学習用データロスを参照して算出された第３エラーを最小化するように前記使用者ラーニングネットワークを学習するプロセス、または（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報を利用して生成された学習用第４タスク特定出力と（ｉｉ‐２）前記テストデータＧＴとを利用して生成されたテスト用データロスを参照して算出された第４エラーを最小化するように前記使用者ラーニングネットワークを学習するプロセスを遂行する段階；
を含む方法。

【請求項2】

前記（ｂ）段階において、
前記第２学習装置は、（ｉ）前記学習用第１特性情報及び前記学習用第２特性情報の中で少なくとも一部を含む学習用第１ヒント（Ｈｉｎｔ）情報をさらに獲得したり、（ｉｉ）（ｉｉ‐１）前記変造されたテストデータを前記学習用ラーニングネットワークに入力して生成されたテスト用第１特性情報及び（ｉｉ‐２）前記テストデータを前記学習用ラーニングネットワークに入力して生成されたテスト用第２特性情報の中で少なくとも一部を含む学習用第２ヒント情報をさらに獲得し、
前記（ｃ）段階において、
前記第２学習装置は、（ｉ）（ｉ‐１）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差、及び（ｉ‐２）前記学習用データロスの中で少なくとも一つを参照して前記第３エラーを獲得したり、（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差、及び（ｉｉ‐２）前記テスト用データロスの中で少なくとも一つを参照して前記第４エラーを獲得する請求項１に記載の方法。

【請求項3】

（ｉ）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差は、（ｉ‐１）前記学習用第３特性情報と前記学習用第１特性情報との間の差、（ｉ‐２）前記学習用第３特性情報と前記学習用第２特性情報との間の差、及び（ｉ‐３）前記（ｉ‐１）と前記（ｉ‐２）との平均の中で少なくとも一つを含み、（ｉｉ）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差は、（ｉｉ‐１）前記学習用第４特性情報と前記テスト用第１特性情報との間の差、（ｉｉ‐２）前記学習用第４特性情報と前記テスト用第２特性情報との間の差、及び（ｉｉ‐３）前記（ｉｉ‐１）と前記（ｉｉ‐２）との平均の中で少なくとも一つを含む請求項２に記載の方法。

【請求項4】

前記学習用ラーニングネットワークは、少なくとも一つの第１学習されたパラメータないし少なくとも一つの第ｎ（前記ｎは１以上の整数である）学習されたパラメータをそれぞれ持つ学習用第１ラーニングネットワークないし学習用第ｎラーニングネットワークを含み、
前記第１学習装置は、（ｉ）前記変造されたトレーニングデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力することで、前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれをもって前記第１学習されたパラメータないし前記第ｎ学習されたパラメータを利用したラーニング演算を前記変造されたトレーニングデータに対して適用して、学習用第１_１特性情報ないし学習用第１_ｎ特性情報を生成させるプロセス、（ｉｉ）前記トレーニングデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力することで、前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれをもって前記第１学習されたパラメータないし前記第ｎ学習されたパラメータを利用したラーニング演算を前記トレーニングデータに対して適用して、学習用第２_１特性情報ないし学習用第２_ｎ特性情報を生成させるプロセス、（ｉｉｉ）前記学習用第１_１特性情報と前記学習用第２_１特性情報とを参照して算出された第１_１エラーないし前記学習用第１_ｎ特性情報と前記学習用第２_ｎ特性情報とを参照して算出された第１_ｎエラーの加重合計（ＷｅｉｇｈｔｅｄＳｕｍ）である前記第１エラーを生成するプロセス、及び（ｉｖ）前記第１エラーが最小化され、前記第２エラーが最大化されるように、前記変造ネットワークを学習するプロセスを遂行した状態で、
前記（ｂ）段階において、
前記第２学習装置は、（ｉ）（ｉ‐１）前記学習用第１_１特性情報ないし前記学習用第１_ｎ特性情報の平均及び（ｉ‐２）前記学習用第２_１特性情報ないし前記学習用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第１ヒント情報をさらに獲得したり、（ｉｉ）（ｉｉ‐１）前記変造されたテストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第１_１特性情報ないしテスト用第１_ｎ特性情報の平均及び（ｉｉ‐２）前記テストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第２_１特性情報ないしテスト用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第２ヒント情報をさらに獲得し、
前記（ｃ）段階において、
前記第２学習装置は、（ｉ）（ｉ‐１）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差、及び（ｉ‐２）前記学習用データロスの中で少なくとも一つを参照して前記第３エラーを獲得したり、（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差、及び（ｉｉ‐２）前記テスト用データロスの中で少なくとも一つを参照して前記第４エラーを獲得する請求項１に記載の方法。

【請求項5】

（ｉ）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差は、（ｉ‐１）前記学習用第３特性情報と、前記学習用第１_１特性情報ないし前記学習用第１_ｎ特性情報の平均との差、（ｉ‐２）前記学習用第３特性情報と、前記学習用第２_１特性情報ないし前記学習用第２_ｎ特性情報の平均との差、及び（ｉ‐３）前記（ｉ‐１）と前記（ｉ‐２）との平均の中で少なくとも一つを含み、（ｉｉ）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差は、（ｉｉ‐１）前記学習用第４特性情報と、前記テスト用第１_１特性情報ないし前記テスト用第１_ｎ特性情報の平均との差、（ｉｉ‐２）前記学習用第４特性情報と、前記テスト用第２_１特性情報ないし前記テスト用第２_ｎ特性情報の平均との差、及び（ｉｉ‐３）前記（ｉｉ‐１）と前記（ｉｉ‐２）との平均の中で少なくとも一つを含む請求項４に記載の方法。

【請求項6】

前記学習用ラーニングネットワークは、少なくとも一つの第１学習されたパラメータないし少なくとも一つの第ｎ（前記ｎは１以上の整数である）学習されたパラメータをそれぞれ持つ学習用第１ラーニングネットワークないし学習用第ｎラーニングネットワークを含み、
前記第１学習装置は、（ｉ）（ｉ‐１）前記変造されたトレーニングデータである第１変造されたトレーニングデータを前記第１ラーニングネットワークに入力することで、前記第１変造されたトレーニングデータに対して前記第１学習されたパラメータを利用したラーニング演算を適用して学習用第１_１特性情報を生成するようにし、（ｉ‐２）前記トレーニングデータを前記第１ラーニングネットワークに入力することで、前記トレーニングデータに対して前記第１学習されたパラメータを利用したラーニング演算を適用して学習用第２_１特性情報を生成するようにし、（ｉ‐３）前記学習用第１_１特性情報と前記学習用第２_１特性情報とを参照して算出された第１_１エラーが最小化され、前記トレーニングデータと前記第１変造されたトレーニングデータとを参照して算出された第２_１エラーが最大化されるように前記変造ネットワークを学習することで、前記変造ネットワークが第１学習された変造ネットワークになるようにするプロセス、及び（ｉｉ）定数であるｋを２からｎまで増加させながら、（ｉｉ‐１）前記トレーニングデータを前記第（ｋ‐１）学習された変造ネットワークに入力することで、前記第（ｋ‐１）学習された変造ネットワークをもって第ｋ変造されたトレーニングデータを生成するようにし、（ｉｉ‐２）前記第ｋ変造されたトレーニングデータを第ｋラーニングネットワークに入力することで前記第ｋラーニングネットワークをもって前記第ｋ変造されたトレーニングデータに対して第ｋ学習されたパラメータを利用したラーニング演算を適用して学習用第１_ｋ特性情報を生成するようにし、前記トレーニングデータを前記第ｋラーニングネットワークに入力することで前記第ｋラーニングネットワークをもって前記トレーニングデータに対して前記第ｋ学習されたパラメータを利用したラーニング演算を適用して学習用第２_ｋ特性情報を生成するようにし、（ｉｉ‐３）前記学習用第１_ｋ特性情報と前記学習用第２_ｋ特性情報とを参照して算出された第１_ｋエラーが最小化され、前記トレーニングデータと前記第ｋ変造されたトレーニングデータとを参照して算出された第２_ｋエラーが最大化されるように変造ネットワークを学習することで、前記第（ｋ‐１）学習された変造ネットワークが第ｋ学習された変造ネットワークになるようにするプロセスを遂行した状態で、
前記（ｂ）段階において、
前記第２学習装置は、（ｉ）（ｉ‐１）前記学習用第１_１特性情報ないし前記学習用第１_ｎ特性情報の平均及び（ｉ‐２）前記学習用第２_１特性情報ないし前記学習用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第１ヒント情報をさらに獲得したり、（ｉｉ）（ｉｉ‐１）前記変造されたテストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第１_１特性情報ないしテスト用第１_ｎ特性情報の平均及び（ｉｉ‐２）前記テストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第２_１特性情報ないしテスト用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第２ヒント情報をさらに獲得し、
前記（ｃ）段階において、
前記第２学習装置は、（ｉ）（ｉ‐１）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差、及び（ｉ‐２）前記学習用データロスの中で少なくとも一つを参照して前記第３エラーを獲得したり、（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差、及び（ｉｉ‐２）前記テスト用データロスの中で少なくとも一つを参照して前記第４エラーを獲得する請求項１に記載の方法。

【請求項7】

【請求項8】

個人情報を保護するために原本データをコンシーリング（Ｃｏｎｃｅａｌｉｎｇ）処理して生成された変造データ（ＯｂｆｕｓｃａｔｅｄＤａｔａ）を認識するように学習された使用者ラーニングネットワーク（ＵｓｅｒＬｅａｒｎｉｎｇＮｅｔｗｏｒｋ）をテストする方法において、
（ａ）第１学習装置は、（ｉ）変造ネットワークにトレーニングデータが入力されると、前記変造ネットワークをもって前記トレーニングデータを変造するようにし、変造されたトレーニングデータを生成させるプロセス、（ｉｉ）（ｉｉ‐１）前記変造されたトレーニングデータを少なくとも一つの予め学習されたパラメータを持つ学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記変造されたトレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第１特性（Ｃｈａｒａｃｔｅｒｉｓｔｉｃ）情報を生成するようにし、（ｉｉ‐２）前記トレーニングデータを前記学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記トレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第２特性情報を生成させるプロセス、及び（ｉｉｉ）前記学習用第１特性情報と前記学習用第２特性情報とを参照したり、前記学習用第１特性情報を利用して生成された学習用タスク特定出力（ＴａｓｋＳｐｅｃｉｆｉｃＯｕｔｐｕｔ）を参照して算出された第１エラーが最小化され、前記トレーニングデータと前記変造されたトレーニングデータとを参照して算出された第２エラーが最大化されるように、前記変造ネットワークを学習するプロセスを遂行した後、第２学習装置が、（ｉ）（ｉ‐１）前記変造されたトレーニングデータと、前記トレーニングデータに対応されるトレーニングデータＧＴとを獲得したり、（ｉ‐２）第１テストデータを学習された変造ネットワークに入力して生成された第１変造されたテストデータと、前記第１テストデータに対応されるテストデータＧＴとを獲得するプロセス、（ｉｉ）（ｉｉ‐１）前記変造されたトレーニングデータを使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって前記変造されたトレーニングデータに対してラーニング演算を適用して学習用第３特性情報を生成するようにしたり、（ｉｉ‐２）前記第１変造されたテストデータを前記使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって前記第１変造されたテストデータに対してラーニング演算を適用して学習用第４特性情報を生成させるプロセス、及び（ｉｉｉ）（ｉｉｉ‐１）（１）前記学習用第３特性情報を利用して生成された学習用第３タスク特定出力と（２）前記トレーニングデータＧＴとを利用して生成された学習用データロスを参照して算出された第３エラーを最小化するように、前記使用者ラーニングネットワークを学習したり、（ｉｉｉ‐２）（１）前記学習用第４特性情報を利用して生成された学習用第４タスク特定出力と（２）前記テストデータＧＴとを利用して生成されたテスト用データロスを参照して算出された第４エラーを最小化するように、前記使用者ラーニングネットワークを学習するプロセスを遂行した状態で、テスト装置が、第２テストデータを前記学習された変造ネットワークに入力して第２変造されたテストデータを獲得する段階；及び
（ｂ）前記テスト装置が、前記第２変造されたテストデータを前記学習された使用者ラーニングネットワークに入力することで、前記学習された使用者ラーニングネットワークをもって前記第２変造されたテストデータに対してラーニング演算を適用してテスト用特性情報を生成させる段階；
を含む方法。

【請求項9】

個人情報を保護するために原本データをコンシーリング（Ｃｏｎｃｅａｌｉｎｇ）処理して生成された変造データ（ＯｂｆｕｓｃａｔｅｄＤａｔａ）を認識するために使われる使用者ラーニングネットワーク（ＵｓｅｒＬｅａｒｎｉｎｇＮｅｔｗｏｒｋ）を学習する第２学習装置において、
インストラクションを格納する少なくとも一つのメモリー；及び
（Ｉ）第１学習装置は、（ｉ）変造ネットワーク（ＯｂｆｕｓｃａｔｉｏｎＮｅｔｗｏｒｋ）にトレーニングデータが入力されると、前記変造ネットワークをもって前記トレーニングデータを変造するようにして変造されたトレーニングデータを生成させるプロセス、（ｉｉ）（ｉｉ‐１）前記変造されたトレーニングデータを少なくとも一つの予め学習されたパラメータを持つ学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記変造されたトレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第１特性（Ｃｈａｒａｃｔｅｒｉｓｔｉｃ）情報を生成するようにし、（ｉｉ‐２）前記トレーニングデータを前記学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記トレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第２特性情報を生成させるプロセス、及び（ｉｉｉ）前記学習用第１特性情報と前記学習用第２特性情報とを参照したり前記学習用第１特性情報を利用して生成された学習用タスク特定出力（ＴａｓｋＳｐｅｃｉｆｉｃＯｕｔｐｕｔ）を参照して算出された第１エラーが最小化され、前記トレーニングデータと前記変造されたトレーニングデータとを参照して算出された第２エラーが最大化されるように、前記変造ネットワークを学習するプロセスを遂行した状態で、（ｉ）前記変造されたトレーニングデータと、前記トレーニングデータに対応されるトレーニングデータＧＴ（ＧｒｏｕｎｄＴｒｕｔｈ）とを獲得したり、（ｉｉ）テストデータを学習された変造ネットワークに入力して生成された変造されたテストデータと、前記テストデータに対応されるテストデータＧＴとを獲得するプロセス；（ＩＩ）（ｉ）前記変造されたトレーニングデータを使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって（ｉ‐１）前記変造されたトレーニングデータに対してラーニング演算を適用して（ｉ‐２）学習用第３特性情報を生成させるプロセス、または（ｉｉ）前記変造されたテストデータを前記使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって（ｉｉ‐１）前記変造されたテストデータに対してラーニング演算を適用して（ｉｉ‐２）学習用第４特性情報を生成させるプロセスを遂行するプロセス；及び（ＩＩＩ）（ｉ）（ｉ‐１）前記学習用第３特性情報を利用して生成された学習用第３タスク特定出力と（ｉ‐２）前記トレーニングデータＧＴとを利用して生成された学習用データロスを参照して算出された第３エラーを最小化するように前記使用者ラーニングネットワークを学習するプロセス、または（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報を利用して生成された学習用第４タスク特定出力と（ｉｉ‐２）前記テストデータＧＴとを利用して生成されたテスト用データロスを参照して算出された第４エラーを最小化するように前記使用者ラーニングネットワークを学習するプロセスを遂行するための前記インストラクションを実行するように構成された少なくとも一つのプロセッサ；
を含む第２学習装置。

【請求項10】

前記（ＩＩ）プロセスにおいて、
前記プロセッサは、（ｉ）前記学習用第１特性情報及び前記学習用第２特性情報の中で少なくとも一部を含む学習用第１ヒント（Ｈｉｎｔ）情報をさらに獲得したり、（ｉｉ）（ｉｉ‐１）前記変造されたテストデータを前記学習用ラーニングネットワークに入力して生成されたテスト用第１特性情報及び（ｉｉ‐２）前記テストデータを前記学習用ラーニングネットワークに入力して生成されたテスト用第２特性情報の中で少なくとも一部を含む学習用第２ヒント情報をさらに獲得し、
前記（ＩＩＩ）プロセスにおいて、
前記プロセッサは、（ｉ）（ｉ‐１）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差、及び（ｉ‐２）前記学習用データロスの中で少なくとも一つを参照して前記第３エラーを獲得したり、（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差、及び（ｉｉ‐２）前記テスト用データロスの中で少なくとも一つを参照して前記第４エラーを獲得する請求項９に記載の第２学習装置。

【請求項11】

【請求項12】

前記学習用ラーニングネットワークは、少なくとも一つの第１学習されたパラメータないし少なくとも一つの第ｎ（前記ｎは１以上の整数である）学習されたパラメータをそれぞれ持つ学習用第１ラーニングネットワークないし学習用第ｎラーニングネットワークを含み、
前記第１学習装置は、（ｉ）前記変造されたトレーニングデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力することで、前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれをもって前記第１学習されたパラメータないし前記第ｎ学習されたパラメータを利用したラーニング演算を前記変造されたトレーニングデータに対して適用し、学習用第１_１特性情報ないし学習用第１_ｎ特性情報を生成させるプロセス、（ｉｉ）前記トレーニングデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力することで、前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれをもって前記第１学習されたパラメータないし前記第ｎ学習されたパラメータを利用したラーニング演算を前記トレーニングデータに対して適用し、学習用第２_１特性情報ないし学習用第２_ｎ特性情報を生成させるプロセス、（ｉｉｉ）前記学習用第１_１特性情報と前記学習用第２_１特性情報とを参照して算出された第１_１エラーないし前記学習用第１_ｎ特性情報と前記学習用第２_ｎ特性情報とを参照して算出された第１_ｎエラーの加重合計（ＷｅｉｇｈｔｅｄＳｕｍ）である前記第１エラーを生成するプロセス、及び（ｉｖ）前記第１エラーが最小化され、前記第２エラーが最大化されるように、前記変造ネットワークを学習するプロセスを遂行した状態で、
前記（ＩＩ）プロセスにおいて、
前記プロセッサは、（ｉ）（ｉ‐１）前記学習用第１_１特性情報ないし前記学習用第１_ｎ特性情報の平均及び（ｉ‐２）前記学習用第２_１特性情報ないし前記学習用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第１ヒント情報をさらに獲得したり、（ｉｉ）（ｉｉ‐１）前記変造されたテストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第１_１特性情報ないしテスト用第１_ｎ特性情報の平均及び（ｉｉ‐２）前記テストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第２_１特性情報ないしテスト用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第２ヒント情報をさらに獲得し、
前記（ＩＩＩ）プロセスにおいて、
前記プロセッサは、（ｉ）（ｉ‐１）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差、及び（ｉ‐２）前記学習用データロスの中で少なくとも一つを参照して前記第３エラーを獲得したり、（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差、及び（ｉｉ‐２）前記テスト用データロスの中で少なくとも一つを参照して前記第４エラーを獲得する請求項９に記載の第２学習装置。

【請求項13】

【請求項14】

前記学習用ラーニングネットワークは、少なくとも一つの第１学習されたパラメータないし少なくとも一つの第ｎ（前記ｎは１以上の整数である）学習されたパラメータをそれぞれ持つ学習用第１ラーニングネットワークないし学習用第ｎラーニングネットワークを含み、
前記第１学習装置は、（ｉ）（ｉ‐１）前記変造されたトレーニングデータである第１変造されたトレーニングデータを前記第１ラーニングネットワークに入力することで、前記第１変造されたトレーニングデータに対して前記第１学習されたパラメータを利用したラーニング演算を適用して学習用第１_１特性情報を生成するようにし、（ｉ‐２）前記トレーニングデータを前記第１ラーニングネットワークに入力することで、前記トレーニングデータに対して前記第１学習されたパラメータを利用したラーニング演算を適用して学習用第２_１特性情報を生成するようにし、（ｉ‐３）前記学習用第１_１特性情報と前記学習用第２_１特性情報とを参照して算出された第１_１エラーが最小化され、前記トレーニングデータと前記第１変造されたトレーニングデータとを参照して算出された第２_１エラーが最大化されるように、前記変造ネットワークを学習することで、前記変造ネットワークが第１学習された変造ネットワークになるようにするプロセス、及び（ｉｉ）定数であるｋを２からｎまで増加させながら、（ｉｉ‐１）前記トレーニングデータを前記第（ｋ‐１）学習された変造ネットワークに入力することで、前記第（ｋ‐１）学習された変造ネットワークをもって第ｋ変造されたトレーニングデータを生成するようにし、（ｉｉ‐２）前記第ｋ変造されたトレーニングデータを第ｋラーニングネットワークに入力することで前記第ｋラーニングネットワークをもって前記第ｋ変造されたトレーニングデータに対して第ｋ学習されたパラメータを利用したラーニング演算を適用して学習用第１_ｋ特性情報を生成するようにし、前記トレーニングデータを前記第ｋラーニングネットワークに入力することで前記第ｋラーニングネットワークをもって前記トレーニングデータに対して前記第ｋ学習されたパラメータを利用したラーニング演算を適用して学習用第２_ｋ特性情報を生成するようにし、（ｉｉ‐３）前記学習用第１_ｋ特性情報と前記学習用第２_ｋ特性情報とを参照して算出された第１_ｋエラーが最小化され、前記トレーニングデータと前記第ｋ変造されたトレーニングデータとを参照して算出された第２_ｋエラーが最大化されるように変造ネットワークを学習することで、前記第（ｋ‐１）学習された変造ネットワークが第ｋ学習された変造ネットワークになるようにするプロセスを遂行した状態で、
前記（ＩＩ）プロセスにおいて、
前記プロセッサは、（ｉ）（ｉ‐１）前記学習用第１_１特性情報ないし前記学習用第１_ｎ特性情報の平均及び（ｉ‐２）前記学習用第２_１特性情報ないし前記学習用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第１ヒント情報をさらに獲得したり、（ｉｉ）（ｉｉ‐１）前記変造されたテストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第１_１特性情報ないしテスト用第１_ｎ特性情報の平均及び（ｉｉ‐２）前記テストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第２_１特性情報ないしテスト用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第２ヒント情報をさらに獲得し、
前記（ＩＩＩ）プロセスにおいて、
前記プロセッサは、（ｉ）（ｉ‐１）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差、及び（ｉ‐２）前記学習用データロスの中で少なくとも一つを参照して前記第３エラーを獲得したり、（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差、及び（ｉｉ‐２）前記テスト用データロスの中で少なくとも一つを参照して前記第４エラーを獲得する請求項９に記載の第２学習装置。

【請求項15】

【請求項16】

個人情報を保護するために原本データをコンシーリング（Ｃｏｎｃｅａｌｉｎｇ）処理して生成された変造データ（ＯｂｆｕｓｃａｔｅｄＤａｔａ）を認識するように学習された使用者ラーニングネットワーク（ＵｓｅｒＬｅａｒｎｉｎｇＮｅｔｗｏｒｋ）をテストするテスト装置において、
インストラクションを格納する少なくとも一つのメモリー；及び
（Ｉ）第１学習装置は、（ｉ）変造ネットワークにトレーニングデータが入力されると、前記変造ネットワークをもって前記トレーニングデータを変造するようにして変造されたトレーニングデータを生成させるプロセス、（ｉｉ）（ｉｉ‐１）前記変造されたトレーニングデータを少なくとも一つの予め学習されたパラメータを持つ学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記変造されたトレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第１特性（Ｃｈａｒａｃｔｅｒｉｓｔｉｃ）情報を生成するようにし、（ｉｉ‐２）前記トレーニングデータを前記学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記トレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第２特性情報を生成させるプロセス、及び（ｉｉｉ）前記学習用第１特性情報と前記学習用第２特性情報とを参照したり、前記学習用第１特性情報を利用して生成された学習用タスク特定出力（ＴａｓｋＳｐｅｃｉｆｉｃＯｕｔｐｕｔ）を参照して算出された第１エラーが最小化され、前記トレーニングデータと前記変造されたトレーニングデータとを参照して算出された第２エラーが最大化されるように、前記変造ネットワークを学習するプロセスを遂行した後、第２学習装置が、（ｉ）（ｉ‐１）前記変造されたトレーニングデータと、前記トレーニングデータに対応されるトレーニングデータＧＴとを獲得したり、（ｉ‐２）第１テストデータを学習された変造ネットワークに入力して生成された第１変造されたテストデータと、前記第１テストデータに対応されるテストデータＧＴとを獲得するプロセス、（ｉｉ）（ｉｉ‐１）前記変造されたトレーニングデータを使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって前記変造されたトレーニングデータに対してラーニング演算を適用して学習用第３特性情報を生成するようにしたり、（ｉｉ‐２）前記第１変造されたテストデータを前記使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって前記第１変造されたテストデータに対してラーニング演算を適用して学習用第４特性情報を生成させるプロセス、及び（ｉｉｉ）（ｉｉｉ‐１）（１）前記学習用第３特性情報を利用して生成された学習用第３タスク特定出力と（２）前記トレーニングデータＧＴとを利用して生成された学習用データロスを参照して算出された第３エラーを最小化するように、前記使用者ラーニングネットワークを学習したり、（ｉｉｉ‐２）（１）前記学習用第４特性情報を利用して生成された学習用第４タスク特定出力と（２）前記テストデータＧＴとを利用して生成されたテスト用データロスを参照して算出された第４エラーを最小化するように、前記使用者ラーニングネットワークを学習するプロセスを遂行した状態で、第２テストデータを前記学習された変造ネットワークに入力して第２変造されたテストデータを獲得するプロセス、及び（ＩＩ）前記第２変造されたテストデータを前記学習された使用者ラーニングネットワークに入力することで、前記学習された使用者ラーニングネットワークをもって前記第２変造されたテストデータに対してラーニング演算を適用してテスト用特性情報を生成させるプロセスを遂行するための前記インストラクションを実行するように構成された少なくとも一つのプロセッサ；
を含むテスト装置。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、使用者ラーニングネットワーク（ＵｓｅｒＬｅａｒｎｉｎｇＮｅｔｗｏｒｋ）の学習方法に係り；より詳しくは、個人情報保護のために原本データをコンシーリング（Ｃｏｎｃｅａｌｉｎｇ）処理して生成された変造データ（ＯｂｆｕｓｃａｔｅｄＤａｔａ）を認識するための使用者ラーニングネットワークを学習する方法及びこれを利用した学習装置、そして学習された使用者ラーニングネットワークをテストする方法及びこれを利用したテスト装置｛ＭＥＴＨＯＤＦＯＲＬＥＡＲＮＩＮＧＡＮＤＴＥＳＴＩＮＧＵＳＥＲＬＥＡＲＮＩＮＧＮＥＴＷＯＲＫＴＯＢＥＵＳＥＤＦＯＲＲＥＣＯＧＮＩＺＩＮＧＯＢＦＵＳＣＡＴＥＤＤＡＴＡＣＲＥＡＴＥＤＢＹＣＯＮＣＥＡＬＩＮＧＯＲＩＧＩＮＡＬＤＡＴＡＴＯＰＲＯＴＥＣＴＰＥＲＳＯＮＡＬＩＮＦＯＲＭＡＴＩＯＮＡＮＤＬＥＡＲＮＩＮＧＤＥＶＩＣＥＡＮＤＴＥＳＴＩＮＧＤＥＶＩＣＥＵＳＩＮＧＴＨＥＳＡＭＥ｝に関する。

【背景技術】

【0002】

ビッグデータ（ＢｉｇＤａｔａ）とは、既存の企業環境や公共機関で使われる全ての定型化されたデータはもとより、電子商取引データ、メタデータ、ウェブログデータ、無線識別（ＲＦＩＤ：ＲａｄｉｏＦｒｅｑｕｅｎｃｙＩｄｅｎｔｉｆｉｃａｔｉｏｎ）データ、センサーネットワークデータ、ソーシャルネットワークデータ、インターネットテキストと文書に関するデータ、インターネット検索インデックシングデータなど既存にまだ活用することができなかった非定型化または半定型化されたデータを全て含むデータを意味する。このようなデータは一般的に普通のソフトウェアツール及びコンピュータシステムでは取り扱いにくい水準の膨大なデータ量を持つという意味でビッグデータと称している。

【0003】

また、このようなビッグデータはそれ自体は意味ないことがあるが、パターンなどに対する機械学習を通じて様々な分野で新しいデータを作ったり、判断または予測するのに有用に使われることができる。

【0004】

近来になって、個人情報保護法強化などによってこのようなビッグデータを取り引きまたは共有するためには、該当データの個人識別が可能な情報を削除したり、該当個人の同意を得ることが要求される。しかし、相当な量のビッグデータの中で個人識別が可能な情報があるか否かをいちいち確認することも困難であり、なお、個人の同意をいちいち得ることも不可能であったため、これを支援するための多様な技術が登場している。

【0005】

これに関する従来技術の一例として、韓国登録特許公報第１０‐１８６１５２０号に開示されている技術を例として挙げることができる。これによると、変形対象である入力イメージから人の顔領域を検出する検出段階、前記入力イメージから人が識別されることを防ぐために前記検出された顔領域を人の顔の形状ではない歪曲された第１イメージに変形する第１コンシーリング段階、及び前記第１イメージに基づいて所定の顔形成を持つ第２イメージを生成し、前記入力イメージで前記第１イメージを前記第２イメージに変形し、前記第２イメージは前記検出段階で検出された顔領域の形状と相違する顔形状を持つように生成される第２コンシーリング段階を含む顔‐コンシーリング方法を提供する。

【0006】

しかし、前記のような従来技術を始め、今まで紹介された技術はデータ上に顔、テキストなどの識別情報を含むか否かを確認し、識別情報にあたる部分をマスキング（Ｍａｓｋｉｎｇ）またはブラー（Ｂｌｕｒ）処理して消したり隠す方式だったので、原本データが損傷されて機械学習で使われにくく、データ上に予測できなかった識別情報が含まれて、これをコンシーリング（例えば、非識別化）処理することができない場合もしばしば発生した。特に、従来のセキュリティカメラ（ＳｅｃｕｒｉｔｙＣａｍｅｒａ）は映像イメージ内にフレームの間で変化のある全てのピクセルをブラー処理する方式で非識別処理を行うが、このような方式で非識別処理を遂行すると、非識別された顔の表情など主要情報が原本映像イメージに入っている情報と変わるようになるだけでなく、顔検出過程で漏れた個人識別情報が原本映像イメージ上にそのまま残る問題があった。また、ブラー処理された映像イメージは従来の映像デブラリング（Ｄｅｂｌｕｒｒｉｎｇ）技術の中で一つを利用して原状復帰されることもできる。

【0007】

ここで、本発明者（ら）は、原本データと相違するように変造（Ｏｂｆｕｓｃａｔｉｏｎ）された変造データを生成し、ラーニングモデル（ＬｅａｒｎｉｎｇＭｏｄｅｌ）に原本データが入力されて出力される結果と、前記変造データが入力されて出力されるそれぞれの結果と相互同一または類似になるようにする技術と、原本データをコンシーリング（例：非識別化）処理して生成された変造データを認識するために使われる使用者ラーニングネットワークを学習する技術を提案する。

【発明の概要】

【発明が解決しようとする課題】

【0008】

本発明は、前述した従来技術の問題点を全て解決することをその目的とする。

【0009】

また、本発明は、データ内で個人識別情報を捜す作業が必要ではないため、簡便ながらも正確にコンシーリング（Ｃｏｎｃｅａｌｉｎｇ）、例えば、非識別化処理を遂行することを他の目的とする。

【0010】

また、本発明は、原本データから非可逆的に変造（Ｏｂｆｕｓｃａｔｉｏｎ）されてコンシーリング（例：非識別化）処理されたデータを生成することで、原本データのセキュリティ及びプライバシーを守ることをまた他の目的とする。

【0011】

また、本発明は、人間には全然違って見えるデータであるが、コンピュータには互いに同一または類似に見えるデータを生成することをまた他の目的とする。

【0012】

また、本発明は、ビッグデータの取り引き市場を活性化させることをまた他の目的とする。

【0013】

また、本発明は、使用者ラーニングネットワークをもって原本データをコンシーリング処理して生成された変造データを認識させることをまた他の目的とする。

【課題を解決するための手段】

【0014】

前記目的を達成するための本発明の代表的な構成は次のとおりである。

【0015】

本発明の一態様によると、個人情報を保護するために原本データをコンシーリング（Ｃｏｎｃｅａｌｉｎｇ）処理して生成された変造データ（ＯｂｆｕｓｃａｔｅｄＤａｔａ）を認識するために使われる使用者ラーニングネットワーク（ＵｓｅｒＬｅａｒｎｉｎｇＮｅｔｗｏｒｋ）を学習する方法において、（ａ）第１学習装置は、（ｉ）変造ネットワーク（ＯｂｆｕｓｃａｔｉｏｎＮｅｔｗｏｒｋ）にトレーニングデータが入力されると、前記変造ネットワークをもって前記トレーニングデータを変造するようにして変造されたトレーニングデータを生成させるプロセス、（ｉｉ）（ｉｉ‐１）前記変造されたトレーニングデータを少なくとも一つの予め学習されたパラメータを持つ学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記変造されたトレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第１特性（Ｃｈａｒａｃｔｅｒｉｓｔｉｃ）情報を生成するようにし、（ｉｉ‐２）前記トレーニングデータを前記学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記トレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第２特性情報を生成させるプロセス、及び（ｉｉｉ）前記学習用第１特性情報と前記学習用第２特性情報とを参照したり前記学習用第１特性情報を利用して生成された学習用タスク特定出力（ＴａｓｋＳｐｅｃｉｆｉｃＯｕｔｐｕｔ）を参照して算出された第１エラーが最小化され、前記トレーニングデータと前記変造されたトレーニングデータとを参照して算出された第２エラーが最大化されるように、前記変造ネットワークを学習するプロセスを遂行した状態で、第２学習装置が、（ｉ）前記変造されたトレーニングデータと、前記トレーニングデータに対応されるトレーニングデータＧＴ（ＧｒｏｕｎｄＴｒｕｔｈ）とを獲得したり、（ｉｉ）テストデータを学習された変造ネットワークに入力して生成された変造されたテストデータと、前記テストデータに対応されるテストデータＧＴとを獲得する段階；（ｂ）前記第２学習装置が、（ｉ）前記変造されたトレーニングデータを前記使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって（ｉ‐１）前記変造されたトレーニングデータに対してラーニング演算を適用して（ｉ‐２）学習用第３特性情報を生成させるプロセス、または（ｉｉ）前記変造されたテストデータを前記使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって（ｉｉ‐１）前記変造されたテストデータに対してラーニング演算を適用して（ｉｉ‐２）学習用第４特性情報を生成させるプロセスを遂行する段階；及び（ｃ）前記第２学習装置が、（ｉ）（ｉ‐１）前記学習用第３特性情報を利用して生成された学習用第３タスク特定出力と（ｉ‐２）前記トレーニングデータＧＴとを利用して生成された学習用データロスを参照して算出された第３エラーを最小化するように前記使用者ラーニングネットワークを学習するプロセス、または（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報を利用して生成された学習用第４タスク特定出力と（ｉｉ‐２）前記テストデータＧＴとを利用して生成されたテスト用データロスを参照して算出された第４エラーを最小化するように前記使用者ラーニングネットワークを学習するプロセスを遂行する段階；を含む方法が提供される。

【0016】

一実施例において、前記（ｂ）段階において、前記第２学習装置は、（ｉ）前記学習用第１特性情報及び前記学習用第２特性情報の中で少なくとも一部を含む学習用第１ヒント（Ｈｉｎｔ）情報をさらに獲得したり、（ｉｉ）（ｉｉ‐１）前記変造されたテストデータを前記学習用ラーニングネットワークに入力して生成されたテスト用第１特性情報及び（ｉｉ‐２）前記テストデータを前記学習用ラーニングネットワークに入力して生成されたテスト用第２特性情報の中で少なくとも一部を含む学習用第２ヒント情報をさらに獲得し、前記（ｃ）段階において、前記第２学習装置は、（ｉ）（ｉ‐１）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差、及び（ｉ‐２）前記学習用データロスの中で少なくとも一つを参照して前記第３エラーを獲得したり、（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差、及び（ｉｉ‐２）前記テスト用データロスの中で少なくとも一つを参照して前記第４エラーを獲得する。

【0017】

一実施例において、（ｉ）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差は、（ｉ‐１）前記学習用第３特性情報と前記学習用第１特性情報との間の差、（ｉ‐２）前記学習用第３特性情報と前記学習用第２特性情報との間の差、及び（ｉ‐３）前記（ｉ‐１）と前記（ｉ‐２）との平均の中で少なくとも一つを含み、（ｉｉ）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差は、（ｉｉ‐１）前記学習用第４特性情報と前記テスト用第１特性情報との間の差、（ｉｉ‐２）前記学習用第４特性情報と前記テスト用第２特性情報との間の差、及び（ｉｉ‐３）前記（ｉｉ‐１）と前記（ｉｉ‐２）との平均の中で少なくとも一つを含む。

【0018】

一実施例において、前記学習用ラーニングネットワークは、少なくとも一つの第１学習されたパラメータないし少なくとも一つの第ｎ（前記ｎは１以上の整数である）学習されたパラメータをそれぞれ持つ学習用第１ラーニングネットワークないし学習用第ｎラーニングネットワークを含み、前記第１学習装置は、（ｉ）前記変造されたトレーニングデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力することで、前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれをもって前記第１学習されたパラメータないし前記第ｎ学習されたパラメータを利用したラーニング演算を前記変造されたトレーニングデータに対して適用して、学習用第１_１特性情報ないし学習用第１_ｎ特性情報を生成させるプロセス、（ｉｉ）前記トレーニングデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力することで、前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれをもって前記第１学習されたパラメータないし前記第ｎ学習されたパラメータを利用したラーニング演算を前記トレーニングデータに対して適用して、学習用第２_１特性情報ないし学習用第２_ｎ特性情報を生成させるプロセス、（ｉｉｉ）前記学習用第１_１特性情報と前記学習用第２_１特性情報とを参照して算出された第１_１エラーないし前記学習用第１_ｎ特性情報と前記学習用第２_ｎ特性情報とを参照して算出された第１_ｎエラーの加重合計（ＷｅｉｇｈｔｅｄＳｕｍ）である前記第１エラーを生成するプロセス、及び（ｉｖ）前記第１エラーが最小化され、前記第２エラーが最大化されるように、前記変造ネットワークを学習するプロセスを遂行した状態で、前記（ｂ）段階において、前記第２学習装置は、（ｉ）（ｉ‐１）前記学習用第１_１特性情報ないし前記学習用第１_ｎ特性情報の平均及び（ｉ‐２）前記学習用第２_１特性情報ないし前記学習用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第１ヒント情報をさらに獲得したり、（ｉｉ）（ｉｉ‐１）前記変造されたテストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第１_１特性情報ないしテスト用第１_ｎ特性情報の平均及び（ｉｉ‐２）前記テストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第２_１特性情報ないしテスト用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第２ヒント情報をさらに獲得し、前記（ｃ）段階において、前記第２学習装置は、（ｉ）（ｉ‐１）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差、及び（ｉ‐２）前記学習用データロスの中で少なくとも一つを参照して前記第３エラーを獲得したり、（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差、及び（ｉｉ‐２）前記テスト用データロスの中で少なくとも一つを参照して前記第４エラーを獲得する。

【0019】

一実施例において、（ｉ）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差は、（ｉ‐１）前記学習用第３特性情報と、前記学習用第１_１特性情報ないし前記学習用第１_ｎ特性情報の平均との差、（ｉ‐２）前記学習用第３特性情報と、前記学習用第２_１特性情報ないし前記学習用第２_ｎ特性情報の平均との差、及び（ｉ‐３）前記（ｉ‐１）と前記（ｉ‐２）との平均の中で少なくとも一つを含み、（ｉｉ）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差は、（ｉｉ‐１）前記学習用第４特性情報と、前記テスト用第１_１特性情報ないし前記テスト用第１_ｎ特性情報の平均との差、（ｉｉ‐２）前記学習用第４特性情報と、前記テスト用第２_１特性情報ないし前記テスト用第２_ｎ特性情報の平均との差、及び（ｉｉ‐３）前記（ｉｉ‐１）と前記（ｉｉ‐２）との平均の中で少なくとも一つを含む。

【0020】

一実施例において、前記学習用ラーニングネットワークは、少なくとも一つの第１学習されたパラメータないし少なくとも一つの第ｎ（前記ｎは１以上の整数である）学習されたパラメータをそれぞれ持つ学習用第１ラーニングネットワークないし学習用第ｎラーニングネットワークを含み、前記第１学習装置は、（ｉ）（ｉ‐１）前記変造されたトレーニングデータである第１変造されたトレーニングデータを前記第１ラーニングネットワークに入力することで、前記第１変造されたトレーニングデータに対して前記第１学習されたパラメータを利用したラーニング演算を適用して学習用第１_１特性情報を生成するようにし、（ｉ‐２）前記トレーニングデータを前記第１ラーニングネットワークに入力することで、前記トレーニングデータに対して前記第１学習されたパラメータを利用したラーニング演算を適用して学習用第２_１特性情報を生成するようにし、（ｉ‐３）前記学習用第１_１特性情報と前記学習用第２_１特性情報とを参照して算出された第１_１エラーが最小化され、前記トレーニングデータと前記第１変造されたトレーニングデータとを参照して算出された第２_１エラーが最大化されるように前記変造ネットワークを学習することで、前記変造ネットワークが第１学習された変造ネットワークになるようにするプロセス、及び（ｉｉ）定数であるｋを２からｎまで増加させながら、（ｉｉ‐１）前記トレーニングデータを前記第（ｋ‐１）学習された変造ネットワークに入力することで、前記第（ｋ‐１）学習された変造ネットワークをもって第ｋ変造されたトレーニングデータを生成するようにし、（ｉｉ‐２）前記第ｋ変造されたトレーニングデータを第ｋラーニングネットワークに入力することで前記第ｋラーニングネットワークをもって前記第ｋ変造されたトレーニングデータに対して第ｋ学習されたパラメータを利用したラーニング演算を適用して学習用第１_ｋ特性情報を生成するようにし、前記トレーニングデータを前記第ｋラーニングネットワークに入力することで前記第ｋラーニングネットワークをもって前記トレーニングデータに対して前記第ｋ学習されたパラメータを利用したラーニング演算を適用して学習用第２_ｋ特性情報を生成するようにし、（ｉｉ‐３）前記学習用第１_ｋ特性情報と前記学習用第２_ｋ特性情報とを参照して算出された第１_ｋエラーが最小化され、前記トレーニングデータと前記第ｋ変造されたトレーニングデータとを参照して算出された第２_ｋエラーが最大化されるように変造ネットワークを学習することで、前記第（ｋ‐１）学習された変造ネットワークが第ｋ学習された変造ネットワークになるようにするプロセスを遂行した状態で、前記（ｂ）段階において、前記第２学習装置は、（ｉ）（ｉ‐１）前記学習用第１_１特性情報ないし前記学習用第１_ｎ特性情報の平均及び（ｉ‐２）前記学習用第２_１特性情報ないし前記学習用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第１ヒント情報をさらに獲得したり、（ｉｉ）（ｉｉ‐１）前記変造されたテストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第１_１特性情報ないしテスト用第１_ｎ特性情報の平均及び（ｉｉ‐２）前記テストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第２_１特性情報ないしテスト用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第２ヒント情報をさらに獲得し、前記（ｃ）段階において、前記第２学習装置は、（ｉ）（ｉ‐１）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差、及び（ｉ‐２）前記学習用データロスの中で少なくとも一つを参照して前記第３エラーを獲得したり、（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差、及び（ｉｉ‐２）前記テスト用データロスの中で少なくとも一つを参照して前記第４エラーを獲得する。

【0021】

【0022】

本発明の他の態様によると、個人情報を保護するために原本データをコンシーリング（Ｃｏｎｃｅａｌｉｎｇ）処理して生成された変造データ（ＯｂｆｕｓｃａｔｅｄＤａｔａ）を認識するように学習された使用者ラーニングネットワーク（ＵｓｅｒＬｅａｒｎｉｎｇＮｅｔｗｏｒｋ）をテストする方法において、（ａ）第１学習装置は、（ｉ）変造ネットワークにトレーニングデータが入力されると、前記変造ネットワークをもって前記トレーニングデータを変造するようにし、変造されたトレーニングデータを生成させるプロセス、（ｉｉ）（ｉｉ‐１）前記変造されたトレーニングデータを少なくとも一つの予め学習されたパラメータを持つ学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記変造されたトレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第１特性（Ｃｈａｒａｃｔｅｒｉｓｔｉｃ）情報を生成するようにし、（ｉｉ‐２）前記トレーニングデータを前記学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記トレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第２特性情報を生成させるプロセス、及び（ｉｉｉ）前記学習用第１特性情報と前記学習用第２特性情報とを参照したり、前記学習用第１特性情報を利用して生成された学習用タスク特定出力（ＴａｓｋＳｐｅｃｉｆｉｃＯｕｔｐｕｔ）を参照して算出された第１エラーが最小化され、前記トレーニングデータと前記変造されたトレーニングデータとを参照して算出された第２エラーが最大化されるように、前記変造ネットワークを学習するプロセスを遂行した後、第２学習装置が、（ｉ）（ｉ‐１）前記変造されたトレーニングデータと、前記トレーニングデータに対応されるトレーニングデータＧＴとを獲得したり、（ｉ‐２）第１テストデータを学習された変造ネットワークに入力して生成された第１変造されたテストデータと、前記第１テストデータに対応されるテストデータＧＴとを獲得するプロセス、（ｉｉ）（ｉｉ‐１）前記変造されたトレーニングデータを使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって前記変造されたトレーニングデータに対してラーニング演算を適用して学習用第３特性情報を生成するようにしたり、（ｉｉ‐２）前記第１変造されたテストデータを前記使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって前記第１変造されたテストデータに対してラーニング演算を適用して学習用第４特性情報を生成させるプロセス、及び（ｉｉｉ）（ｉｉｉ‐１）（１）前記学習用第３特性情報を利用して生成された学習用第３タスク特定出力と（２）前記トレーニングデータＧＴとを利用して生成された学習用データロスを参照して算出された第３エラーを最小化するように、前記使用者ラーニングネットワークを学習したり、（ｉｉｉ‐２）（１）前記学習用第４特性情報を利用して生成された学習用第４タスク特定出力と（２）前記テストデータＧＴとを利用して生成されたテスト用データロスを参照して算出された第４エラーを最小化するように、前記使用者ラーニングネットワークを学習するプロセスを遂行した状態で、テスト装置が、第２テストデータを前記学習された変造ネットワークに入力して第２変造されたテストデータを獲得する段階；及び（ｂ）前記テスト装置が、前記第２変造されたテストデータを前記学習された使用者ラーニングネットワークに入力することで、前記学習された使用者ラーニングネットワークをもって前記第２変造されたテストデータに対してラーニング演算を適用してテスト用特性情報を生成させる段階；を含む方法が提供される。

【0023】

本発明のまた他の態様によると、個人情報を保護するために原本データをコンシーリング（Ｃｏｎｃｅａｌｉｎｇ）処理して生成された変造データ（ＯｂｆｕｓｃａｔｅｄＤａｔａ）を認識するために使われる使用者ラーニングネットワーク（ＵｓｅｒＬｅａｒｎｉｎｇＮｅｔｗｏｒｋ）を学習する第２学習装置において、インストラクションを格納する少なくとも一つのメモリー；及び（Ｉ）第１学習装置は、（ｉ）変造ネットワーク（ＯｂｆｕｓｃａｔｉｏｎＮｅｔｗｏｒｋ）にトレーニングデータが入力されると、前記変造ネットワークをもって前記トレーニングデータを変造するようにして変造されたトレーニングデータを生成させるプロセス、（ｉｉ）（ｉｉ‐１）前記変造されたトレーニングデータを少なくとも一つの予め学習されたパラメータを持つ学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記変造されたトレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第１特性（Ｃｈａｒａｃｔｅｒｉｓｔｉｃ）情報を生成するようにし、（ｉｉ‐２）前記トレーニングデータを前記学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記トレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第２特性情報を生成させるプロセス、及び（ｉｉｉ）前記学習用第１特性情報と前記学習用第２特性情報とを参照したり前記学習用第１特性情報を利用して生成された学習用タスク特定出力（ＴａｓｋＳｐｅｃｉｆｉｃＯｕｔｐｕｔ）を参照して算出された第１エラーが最小化され、前記トレーニングデータと前記変造されたトレーニングデータとを参照して算出された第２エラーが最大化されるように、前記変造ネットワークを学習するプロセスを遂行した状態で、（ｉ）前記変造されたトレーニングデータと、前記トレーニングデータに対応されるトレーニングデータＧＴ（ＧｒｏｕｎｄＴｒｕｔｈ）とを獲得したり、（ｉｉ）テストデータを学習された変造ネットワークに入力して生成された変造されたテストデータと、前記テストデータに対応されるテストデータＧＴとを獲得するプロセス；（ＩＩ）（ｉ）前記変造されたトレーニングデータを使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって（ｉ‐１）前記変造されたトレーニングデータに対してラーニング演算を適用して（ｉ‐２）学習用第３特性情報を生成させるプロセス、または（ｉｉ）前記変造されたテストデータを前記使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって（ｉｉ‐１）前記変造されたテストデータに対してラーニング演算を適用して（ｉｉ‐２）学習用第４特性情報を生成させるプロセスを遂行するプロセス；及び（ＩＩＩ）（ｉ）（ｉ‐１）前記学習用第３特性情報を利用して生成された学習用第３タスク特定出力と（ｉ‐２）前記トレーニングデータＧＴとを利用して生成された学習用データロスを参照して算出された第３エラーを最小化するように前記使用者ラーニングネットワークを学習するプロセス、または（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報を利用して生成された学習用第４タスク特定出力と（ｉｉ‐２）前記テストデータＧＴとを利用して生成されたテスト用データロスを参照して算出された第４エラーを最小化するように前記使用者ラーニングネットワークを学習するプロセスを遂行するための前記インストラクションを実行するように構成された少なくとも一つのプロセッサ；を含む第２学習装置が提供される。

【0024】

一実施例において、前記（ＩＩ）プロセスにおいて、前記プロセッサは、（ｉ）前記学習用第１特性情報及び前記学習用第２特性情報の中で少なくとも一部を含む学習用第１ヒント（Ｈｉｎｔ）情報をさらに獲得したり、（ｉｉ）（ｉｉ‐１）前記変造されたテストデータを前記学習用ラーニングネットワークに入力して生成されたテスト用第１特性情報及び（ｉｉ‐２）前記テストデータを前記学習用ラーニングネットワークに入力して生成されたテスト用第２特性情報の中で少なくとも一部を含む学習用第２ヒント情報をさらに獲得し、前記（ＩＩＩ）プロセスにおいて、前記プロセッサは、（ｉ）（ｉ‐１）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差、及び（ｉ‐２）前記学習用データロスの中で少なくとも一つを参照して前記第３エラーを獲得したり、（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差、及び（ｉｉ‐２）前記テスト用データロスの中で少なくとも一つを参照して前記第４エラーを獲得する。

【0025】

【0026】

一実施例において、前記学習用ラーニングネットワークは、少なくとも一つの第１学習されたパラメータないし少なくとも一つの第ｎ（前記ｎは１以上の整数である）学習されたパラメータをそれぞれ持つ学習用第１ラーニングネットワークないし学習用第ｎラーニングネットワークを含み、前記第１学習装置は、（ｉ）前記変造されたトレーニングデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力することで、前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれをもって前記第１学習されたパラメータないし前記第ｎ学習されたパラメータを利用したラーニング演算を前記変造されたトレーニングデータに対して適用し、学習用第１_１特性情報ないし学習用第１_ｎ特性情報を生成させるプロセス、（ｉｉ）前記トレーニングデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力することで、前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれをもって前記第１学習されたパラメータないし前記第ｎ学習されたパラメータを利用したラーニング演算を前記トレーニングデータに対して適用し、学習用第２_１特性情報ないし学習用第２_ｎ特性情報を生成させるプロセス、（ｉｉｉ）前記学習用第１_１特性情報と前記学習用第２_１特性情報とを参照して算出された第１_１エラーないし前記学習用第１_ｎ特性情報と前記学習用第２_ｎ特性情報とを参照して算出された第１_ｎエラーの加重合計（ＷｅｉｇｈｔｅｄＳｕｍ）である前記第１エラーを生成するプロセス、及び（ｉｖ）前記第１エラーが最小化され、前記第２エラーが最大化されるように、前記変造ネットワークを学習するプロセスを遂行した状態で、前記（ＩＩ）プロセスにおいて、前記プロセッサは、（ｉ）（ｉ‐１）前記学習用第１_１特性情報ないし前記学習用第１_ｎ特性情報の平均及び（ｉ‐２）前記学習用第２_１特性情報ないし前記学習用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第１ヒント情報をさらに獲得したり、（ｉｉ）（ｉｉ‐１）前記変造されたテストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第１_１特性情報ないしテスト用第１_ｎ特性情報の平均及び（ｉｉ‐２）前記テストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第２_１特性情報ないしテスト用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第２ヒント情報をさらに獲得し、前記（ＩＩＩ）プロセスにおいて、前記プロセッサは、（ｉ）（ｉ‐１）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差、及び（ｉ‐２）前記学習用データロスの中で少なくとも一つを参照して前記第３エラーを獲得したり、（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差、及び（ｉｉ‐２）前記テスト用データロスの中で少なくとも一つを参照して前記第４エラーを獲得する。

【0027】

【0028】

一実施例において、前記学習用ラーニングネットワークは、少なくとも一つの第１学習されたパラメータないし少なくとも一つの第ｎ（前記ｎは１以上の整数である）学習されたパラメータをそれぞれ持つ学習用第１ラーニングネットワークないし学習用第ｎラーニングネットワークを含み、前記第１学習装置は、（ｉ）（ｉ‐１）前記変造されたトレーニングデータである第１変造されたトレーニングデータを前記第１ラーニングネットワークに入力することで、前記第１変造されたトレーニングデータに対して前記第１学習されたパラメータを利用したラーニング演算を適用して学習用第１_１特性情報を生成するようにし、（ｉ‐２）前記トレーニングデータを前記第１ラーニングネットワークに入力することで、前記トレーニングデータに対して前記第１学習されたパラメータを利用したラーニング演算を適用して学習用第２_１特性情報を生成するようにし、（ｉ‐３）前記学習用第１_１特性情報と前記学習用第２_１特性情報とを参照して算出された第１_１エラーが最小化され、前記トレーニングデータと前記第１変造されたトレーニングデータとを参照して算出された第２_１エラーが最大化されるように、前記変造ネットワークを学習することで、前記変造ネットワークが第１学習された変造ネットワークになるようにするプロセス、及び（ｉｉ）定数であるｋを２からｎまで増加させながら、（ｉｉ‐１）前記トレーニングデータを前記第（ｋ‐１）学習された変造ネットワークに入力することで、前記第（ｋ‐１）学習された変造ネットワークをもって第ｋ変造されたトレーニングデータを生成するようにし、（ｉｉ‐２）前記第ｋ変造されたトレーニングデータを第ｋラーニングネットワークに入力することで前記第ｋラーニングネットワークをもって前記第ｋ変造されたトレーニングデータに対して第ｋ学習されたパラメータを利用したラーニング演算を適用して学習用第１_ｋ特性情報を生成するようにし、前記トレーニングデータを前記第ｋラーニングネットワークに入力することで前記第ｋラーニングネットワークをもって前記トレーニングデータに対して前記第ｋ学習されたパラメータを利用したラーニング演算を適用して学習用第２_ｋ特性情報を生成するようにし、（ｉｉ‐３）前記学習用第１_ｋ特性情報と前記学習用第２_ｋ特性情報とを参照して算出された第１_ｋエラーが最小化され、前記トレーニングデータと前記第ｋ変造されたトレーニングデータとを参照して算出された第２_ｋエラーが最大化されるように変造ネットワークを学習することで、前記第（ｋ‐１）学習された変造ネットワークが第ｋ学習された変造ネットワークになるようにするプロセスを遂行した状態で、前記（ＩＩ）プロセスにおいて、前記プロセッサは、（ｉ）（ｉ‐１）前記学習用第１_１特性情報ないし前記学習用第１_ｎ特性情報の平均及び（ｉ‐２）前記学習用第２_１特性情報ないし前記学習用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第１ヒント情報をさらに獲得したり、（ｉｉ）（ｉｉ‐１）前記変造されたテストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第１_１特性情報ないしテスト用第１_ｎ特性情報の平均及び（ｉｉ‐２）前記テストデータを前記学習用第１ラーニングネットワークないし前記学習用第ｎラーニングネットワークのそれぞれに入力して生成されたテスト用第２_１特性情報ないしテスト用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第２ヒント情報をさらに獲得し、前記（ＩＩＩ）プロセスにおいて、前記プロセッサは、（ｉ）（ｉ‐１）前記学習用第３特性情報と前記学習用第１ヒント情報との間の差、及び（ｉ‐２）前記学習用データロスの中で少なくとも一つを参照して前記第３エラーを獲得したり、（ｉｉ）（ｉｉ‐１）前記学習用第４特性情報と前記学習用第２ヒント情報との間の差、及び（ｉｉ‐２）前記テスト用データロスの中で少なくとも一つを参照して前記第４エラーを獲得する。

【0029】

【0030】

本発明のまた他の態様によると、個人情報を保護するために原本データをコンシーリング（Ｃｏｎｃｅａｌｉｎｇ）処理して生成された変造データ（ＯｂｆｕｓｃａｔｅｄＤａｔａ）を認識するように学習された使用者ラーニングネットワーク（ＵｓｅｒＬｅａｒｎｉｎｇＮｅｔｗｏｒｋ）をテストするテスト装置において、インストラクションを格納する少なくとも一つのメモリー；及び（Ｉ）第１学習装置は、（ｉ）変造ネットワークにトレーニングデータが入力されると、前記変造ネットワークをもって前記トレーニングデータを変造するようにして変造されたトレーニングデータを生成させるプロセス、（ｉｉ）（ｉｉ‐１）前記変造されたトレーニングデータを少なくとも一つの予め学習されたパラメータを持つ学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記変造されたトレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第１特性（Ｃｈａｒａｃｔｅｒｉｓｔｉｃ）情報を生成するようにし、（ｉｉ‐２）前記トレーニングデータを前記学習用ラーニングネットワークに入力することで、前記学習用ラーニングネットワークをもって前記トレーニングデータに対して前記学習されたパラメータを利用したラーニング演算を適用して学習用第２特性情報を生成させるプロセス、及び（ｉｉｉ）前記学習用第１特性情報と前記学習用第２特性情報とを参照したり、前記学習用第１特性情報を利用して生成された学習用タスク特定出力（ＴａｓｋＳｐｅｃｉｆｉｃＯｕｔｐｕｔ）を参照して算出された第１エラーが最小化され、前記トレーニングデータと前記変造されたトレーニングデータとを参照して算出された第２エラーが最大化されるように、前記変造ネットワークを学習するプロセスを遂行した後、第２学習装置が、（ｉ）（ｉ‐１）前記変造されたトレーニングデータと、前記トレーニングデータに対応されるトレーニングデータＧＴとを獲得したり、（ｉ‐２）第１テストデータを学習された変造ネットワークに入力して生成された第１変造されたテストデータと、前記第１テストデータに対応されるテストデータＧＴとを獲得するプロセス、（ｉｉ）（ｉｉ‐１）前記変造されたトレーニングデータを使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって前記変造されたトレーニングデータに対してラーニング演算を適用して学習用第３特性情報を生成するようにしたり、（ｉｉ‐２）前記第１変造されたテストデータを前記使用者ラーニングネットワークに入力することで、前記使用者ラーニングネットワークをもって前記第１変造されたテストデータに対してラーニング演算を適用して学習用第４特性情報を生成させるプロセス、及び（ｉｉｉ）（ｉｉｉ‐１）（１）前記学習用第３特性情報を利用して生成された学習用第３タスク特定出力と（２）前記トレーニングデータＧＴとを利用して生成された学習用データロスを参照して算出された第３エラーを最小化するように、前記使用者ラーニングネットワークを学習したり、（ｉｉｉ‐２）（１）前記学習用第４特性情報を利用して生成された学習用第４タスク特定出力と（２）前記テストデータＧＴとを利用して生成されたテスト用データロスを参照して算出された第４エラーを最小化するように、前記使用者ラーニングネットワークを学習するプロセスを遂行した状態で、第２テストデータを前記学習された変造ネットワークに入力して第２変造されたテストデータを獲得するプロセス、及び（ＩＩ）前記第２変造されたテストデータを前記学習された使用者ラーニングネットワークに入力することで、前記学習された使用者ラーニングネットワークをもって前記第２変造されたテストデータに対してラーニング演算を適用してテスト用特性情報を生成させるプロセスを遂行するための前記インストラクションを実行するように構成された少なくとも一つのプロセッサ；を含むテスト装置が提供される。

【0031】

この他にも、本発明の方法を実行するためのコンピュータプログラムを記録するためのコンピュータの読み取り可能な記録媒体がさらに提供される。

【発明の効果】

【0032】

本発明はデータ内で個人識別情報を捜す作業が要求されないため、簡便ながらも正確にコンシーリング（Ｃｏｎｃｅａｌｉｎｇ）処理を遂行することができる効果がある。

【0033】

また、本発明は原本データから非可逆的に変造（Ｏｂｆｕｓｃａｔｉｏｎ）して生成され、原本データのセキュリティ及びプライバシーを守ることができる他の効果がある。

【0034】

また、本発明は人間には全然違って見えるデータであるが、コンピュータには互いに同一または類似に見えるデータを生成することができるまた他の効果がある。

【0035】

また、本発明はビッグデータの取り引き市場をより活性化させることができるまた他の効果がある。

【0036】

また、本発明は原本データをコンシーリング処理して生成された変造データを使用者ラーニングネットワークが認識することができるまた他の効果がある。

【図面の簡単な説明】

【0037】

【図1】図１は本発明の一実施例によって原本データをコンシーリング（Ｃｏｎｃｅａｌｉｎｇ）処理して生成された変造データ（ＯｂｆｕｓｃａｔｅｄＤａｔａ）を認識するために使われる使用者ラーニングネットワーク（ＵｓｅｒＬｅａｒｎｉｎｇＮｅｔｗｏｒｋ）を学習する学習装置を簡略に示したものである。

【図2】図２は本発明の一実施例によって原本データをコンシーリング処理して生成された変造データを認識するために使われる使用者ラーニングネットワークを学習する方法を簡略に示したものである。

【図3】図３は本発明の一実施例によって原本データをコンシーリング処理する変造ネットワーク（ＯｂｆｕｓｃａｔｉｏｎＮｅｔｗｏｒｋ）を学習する方法を簡略に示したものである。

【図4】図４は本発明の一実施例によって原本データをコンシーリング処理する変造ネットワークを学習する他の方法を簡略に示したものである。

【図5】図５は本発明の他の実施例によって原本データをコンシーリング処理する変造ネットワークを学習する方法を簡略に示したものである。

【図6】図６は本発明の他の実施例によって原本データをコンシーリング処理する変造ネットワークを学習する他の方法を簡略に示したものである。

【図7】図７は本発明の一実施例によって学習された使用者ラーニングネットワークをテストするテスト装置を簡略に示したものである。

【発明を実施するための形態】

【0038】

本発明における実施例の説明に利用されるために添付された以下の図面は、本発明の実施例のうち、単に一部であるに過ぎず、本発明の属する技術分野において通常の知識を有する者（以下「通常の技術者」）にとっては、発明的作業が行われずにこれらの図面に基づいて他の各図面が得られ得る。

【0039】

後述する本発明に関する詳細な説明は、本発明が実施され得る特定の実施例を例示として示す添付図面を参照する。これらの実施例は、通常の技術者が本発明を実施することができるように十分詳細に説明される。本発明の多様な実施例は互いに異なるが、相互に排他的である必要はないことが理解されるべきである。例えば、ここに記載されている特定機能、構造及び特性は、本発明の精神及び範囲を逸脱せず、かつ一実施例から他の実施例に変更されて具現され得る。また、それぞれの実施例内の個別構成要素の位置又は配置は、本発明の精神及び範囲を逸脱せず、かつ変更され得ることが理解されるべきである。したがって、後述の詳細な説明は、限定的な意味として受け取ろうとするものではなく、本発明の範囲は特許請求範囲の請求項が請求する範囲及びそれと均等な全ての範囲を包括するものとして受け入れられるべきである。図面において類似な参照符号は、様々な側面にわたって同一であるか、又は類似な構成要素を指す。以下では、本発明の詳細な説明と請求項に含まれた「含む」と言う用語と該当用語の多様な表現は他の技術的特徴、追加、構成要素又は段階を排除することを意味しない。本発明の他の目的、恵沢及び特徴は、部分的には明細書から、及び部分的には本発明の移行から技術分野において通常の知識を有する者に明らかに現われる。次の例示と図面は例示として示したが、本発明がこれに制限されるものではない。

【0040】

本発明が属する技術分野において通常の知識を有する者が本発明を容易に実施できるようにするために、本発明の幾つかの好ましい実施例に関して添付の図面を参照して詳しく説明する。

【0041】

図１は、本発明の一実施例によって原本データをコンシーリング（Ｃｏｎｃｅａｌｉｎｇ）、例えば、非識別化処理して生成された変造データ（ＯｂｆｕｓｃａｔｅｄＤａｔａ）を認識するために使われる使用者ラーニングネットワーク（ＵｓｅｒＬｅａｒｎｉｎｇＮｅｔｗｏｒｋ）を学習する第２学習装置を簡略に示したものである。第１学習装置は以後説明する。

【0042】

図１を参照すれば、本発明の一実施例による第２学習装置１００は、個人情報を保護するために原本データをコンシーリング処理して生成された変造データを認識するように使用者ラーニングネットワークを学習するインストラクション（Ｉｎｓｔｒｕｃｔｉｏｎ）が格納されたメモリー１１０と、メモリー１１０に格納されたインストラクションによって変造ネットワークを学習する動作を遂行するプロセッサ１２０とを含むことができる。

【0043】

具体的に、第２学習装置１００は、少なくとも一つのコンピューティング装置（例えば、コンピュータプロセッサ、メモリー、ストーレジ、入力装置、出力装置またはその他既存のコンピューティング装置の構成要素）；ルーター、スイッチなどのような電子通信装置；ネットワーク付きストーレジ（ＮＡＳ）及びストーレジ領域ネットワーク（ＳＡＮ）のような電子情報ストーレジシステム）と少なくとも一つのコンピュータソフトウェア（すなわち、コンピューティング装置をもって特定方式で機能させるインストラクション）の組み合わせを利用して所望のシステム性能を一般的に達成することができる。

【0044】

また、このような装置のプロセッサは、ＭＰＵ（ＭｉｃｒｏＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）またはＣＰＵ（ＣｅｎｔｒａｌＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）、キャッシュメモリー（ＣａｃｈｅＭｅｍｏｒｙ）、データバス（ＤａｔａＢｕｓ）などのハードウェア構成を含むことができる。また、コンピューティング装置は、運営体制、特定目的を達成するアプリケーションのソフトウェア構成をさらに含むこともできる。

【0045】

コンピューティング装置に対するこのような説明が本発明を実施するためのプロセッサ、メモリー、ミディアムまたは他のコンピューティング要素の任意の組み合わせを含む統合装置を排除することではない。

【0046】

このとき、原本データをコンシーリング（例：非識別化）処理して生成された変造データは、ラーニングネットワークが入力データに対してラーニング演算を適用した結果と同一または類似に変造された入力データに対してラーニング演算を適用した結果を出力するように学習された、変造ネットワーク（ＯｂｆｕｓｃａｔｉｏｎＮｅｔｗｏｒｋ）によって生成されることができる。

【0047】

一方、第１学習装置は、（ｉ）変造ネットワーク（ＯｂｆｕｓｃａｔｉｏｎＮｅｔｗｏｒｋ）にトレーニングデータが入力されると、前記変造ネットワークをもってトレーニングデータを変造するようにして変造されたトレーニングデータを生成させるプロセス、（ｉｉ）（ｉｉ‐１）変造されたトレーニングデータを少なくとも一つの予め学習されたパラメータを持つ学習用ラーニングネットワークに入力することで、学習用ラーニングネットワークをもって変造されたトレーニングデータに対して学習されたパラメータを利用したラーニング演算を適用して学習用第１特性（Ｃｈａｒａｃｔｅｒｉｓｔｉｃ）情報を生成するようにし、（ｉｉ‐２）トレーニングデータを学習用ラーニングネットワークに入力することで、学習用ラーニングネットワークをもって前記トレーニングデータに対して学習されたパラメータを利用したラーニング演算を適用して学習用第２特性情報を生成させるプロセス、及び（ｉｉｉ）学習用第１特性情報と学習用第２特性情報とを参照したり学習用第１特性情報を利用して生成された学習用タスク特定出力（ＴａｓｋＳｐｅｃｉｆｉｃＯｕｔｐｕｔ）を参照して算出された第１エラーが最小化され、トレーニングデータと変造されたトレーニングデータとを参照して算出された第２エラーが最大化されるように、変造ネットワークを学習するプロセスを遂行した状態で、第２学習装置が、（ｉ）変造されたトレーニングデータと、トレーニングデータに対応されるトレーニングデータＧＴ（ＧｒｏｕｎｄＴｒｕｔｈ）とを獲得したり、（ｉｉ）テストデータを学習された変造ネットワークに入力して生成された変造されたテストデータと、テストデータに対応されるテストデータＧＴとを獲得するプロセスを遂行したり、他の装置をもって遂行するように支援することができる。第２学習装置が、（ｉ）変造されたトレーニングデータを使用者ラーニングネットワークに入力することで、使用者ラーニングネットワークをもって（ｉ‐１）変造されたトレーニングデータに対してラーニング演算を適用して（ｉ‐２）学習用第３特性情報を生成させるプロセス、または（ｉｉ）変造されたテストデータを使用者ラーニングネットワークに入力することで、使用者ラーニングネットワークをもって（ｉｉ‐１）変造されたテストデータに対してラーニング演算を適用して（ｉｉ‐２）学習用第４特性情報を生成させるプロセスを遂行したり、他の装置をもって遂行するように支援することができる。第２学習装置が、（ｉ）（ｉ‐１）学習用第３特性情報を利用して生成された学習用第３タスク特定出力と（ｉ‐２）トレーニングデータＧＴとを利用して生成された学習用データロスを参照して算出された第３エラーを最小化するように使用者ラーニングネットワークを学習するプロセス、または（ｉｉ）（ｉｉ‐１）学習用第４特性情報を利用して生成された学習用第４タスク特定出力と（ｉｉ‐２）テストデータＧＴとを利用して生成されたテスト用データロスを参照して算出された第４エラーを最小化するように使用者ラーニングネットワークを学習するプロセスを遂行したり他の装置をもって遂行するように支援することができる。

【0048】

このとき、第１学習装置は、ラーニングネットワークが変造されたトレーニングデータを入力として利用して算出された結果をトレーニングデータを入力として利用して算出された結果と同一または類似に出力するようにトレーニングデータを変造（例：非識別化）する変造ネットワークを学習するためのインストラクションが格納されたメモリーと、メモリーに格納されたインストラクションによって変造ネットワークを学習する動作を遂行するプロセッサとを含むことができる。具体的に、第１学習装置は、少なくとも一つのコンピューティング装置（例えば、コンピュータプロセッサ、メモリー、ストーレジ、入力装置、出力装置又はその他既存のコンピューティング装置の構成要素）；ルーター、スイッチなどのような電子通信装置；ネットワーク付きストーレジ（ＮＡＳ）及びストーレジ領域ネットワーク（ＳＡＮ）のような電子情報ストーレジシステム）と少なくとも一つのコンピュータソフトウェア（すなわち、コンピューティング装置をもって特定方式で機能させるインストラクション）の組み合わせを利用して所望のシステム性能を一般的に達成することができる。また、このような装置のプロセッサは、ＭＰＵ（ＭｉｃｒｏＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）またはＣＰＵ（ＣｅｎｔｒａｌＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）、キャッシュメモリー（ＣａｃｈｅＭｅｍｏｒｙ）、データバス（ＤａｔａＢｕｓ）などのハードウェア構成を含むことができる。また、コンピューティング装置は、運営体制、特定目的を達成するアプリケーションのソフトウェア構成をさらに含むこともできる。

【0049】

また、第１学習装置と第２学習装置１００とは同一装置であるか、または他の装置である。

【0050】

このように構成された本発明の一実施例による第２学習装置１００を利用して個人情報を保護するために原本データをコンシーリング（例：非識別化）処理して生成された変造データを認識するために使われる使用者ラーニングネットワークを学習する方法を説明すれば次のとおりである。

【0051】

図２は本発明の一実施例によって原本データをコンシーリング処理して生成された変造データを認識するために使われる使用者ラーニングネットワークを学習する方法を簡略に示したものである。

【0052】

先ず、第２学習装置１００は、原本データをコンシーリング（例：非識別化）処理して生成された変造データとともに、原本データＧＴ及びヒント（Ｈｉｎｔ）情報の中で少なくとも一部を獲得することができる。これについては変造ネットワークの学習方法と連携して説明する。

【0053】

次に、第２学習装置１００は変造データを使用者ラーニングネットワークＧに入力することで、使用者ラーニングネットワークＧをもって変造データに対してラーニング演算を適用して特性情報を出力させるプロセスを遂行することができる。

【0054】

以後、学習装置１００は、（ｉ）特性情報とヒント情報との間の差、及び（ｉｉ）特性情報を利用して生成されたタスク特定出力と原本データＧＴとの間の差の中で少なくとも一つを参照して算出された少なくとも一つのエラーが最小化されるように、使用者ラーニングネットワークＧを学習することで、使用者ラーニングネットワークＧをもって変造データを原本データとして認識させることができる。

【0055】

このとき、使用者ラーニングネットワークＧはマシンラーニングネットワークを含むことができるが、本発明の範囲がこれに限定されず、変造データに対してラーニング演算を適用して特性情報を生成することができるラーニングネットワークは何でも含むことができる。そして、マシンラーニングネットワークは、Ｋ‐近傍（Ｋ‐ＮｅａｒｅｓｔＮｅｉｇｈｂｏｒｓ）、線形回帰（ＬｉｎｅａｒＲｅｇｒｅｓｓｉｏｎ）、ロジスティック回帰（ＬｏｇｉｓｔｉｃＲｅｇｒｅｓｓｉｏｎ）、サポートベクターマシン（ＳＶＭ、ＳｕｐｐｏｒｔＶｅｃｔｏｒＭａｃｈｉｎｅ）、決定木（ＤｅｃｉｓｉｏｎＴｒｅｅ）とランダムフォレスト（ＲａｎｄｏｍＦｏｒｅｓｔ）、神経網（ＮｅｕｒａｌＮｅｔｗｏｒｋ）、群集（Ｃｌｕｓｔｅｒｉｎｇ）、視覚化（Ｖｉｓｕａｌｉｚａｔｉｏｎ）と次元縮小（ＤｉｍｅｎｓｉｏｎａｌｉｔｙＲｅｄｕｃｔｉｏｎ）、相関規則学習（ＡｓｓｏｃｉａｔｉｏｎＲｕｌｅＬｅａｒｎｉｎｇ）、深層信念ネットワーク（ＤｅｅｐＢｅｌｉｅｆＮｅｔｗｏｒｋ）、強化学習（ＲｅｉｎｆｏｒｃｅｍｅｎｔＬｅａｒｎｉｎｇ）、及びディープラーニング（Ｄｅｅｐｌｅａｒｎｉｎｇ）アルゴリズムの中で少なくとも一つを含むことができるが、マシンラーニングネットワークはこれに限定されず、多様な学習アルゴリズムを含むことができる。また、コンシーリング（例：非識別化）処理のための対象は原本データに含まれた個人情報である。ここで、個人情報は、個人識別情報、個人の医療情報、生体情報、行動情報など個人と係る如何なる情報も含むことができる。

【0056】

そして、特性情報は、変造データに対応する特徴（Ｆｅａｔｕｒｅ）またはロジット（Ｌｏｇｉｔ）である。また、特性情報は変造データ内に含まれた所定の特徴と係る特徴値、または所定の特徴と係るベクター（Ｖｅｃｔｏｒ）、行列（Ｍａｔｒｉｘ）及び座標（Ｃｏｏｒｄｉｎａｔｅ）の中で少なくとも一つに関する値を含むロジットである。例えば、原本データが顔イメージデータである場合、上記結果は顔認識のためのクラス、顔の特徴、一例として、笑う表情、顔の特徴点（ＬａｎｄｍａｒｋＰｏｉｎｔ、例えば、両目の端点）に関する座標である。

【0057】

一方、タスク特定出力は、使用者ラーニングネットワークＧが遂行しようとするタスクに対する出力であり、クラス分類のためのクラスに対する確率、位置検出のためのリグレッション（Ｒｅｇｒｅｓｓｉｏｎ）による座標値など使用者ラーニングネットワークＧの設計されたタスクによる多様な結果値を持つことができるし、活性化ユニット（ＡｃｔｉｖａｔｉｏｎＵｎｉｔ）の活性化関数（ＡｃｔｉｖａｔｉｏｎＦｕｎｃｔｉｏｎ）が使用者ラーニングネットワークＧから出力される特性情報に適用され、使用者ラーニングネットワークＧで遂行しようとするタスクによるタスク特定出力を生成することができる。このとき、活性化関数では、シグモイド（Ｓｉｇｍｏｉｄ）関数、線形（Ｌｉｎｅａｒ）関数、ソフトマックス（Ｓｏｆｔｍａｘ）関数、ＲｅＬＵ（Ｒｌｉｎｅａｒ）関数、二乗（Ｓｑｕａｒｅ）関数、ＳＱＲＴ関数、Ｓｒｌｉｎｅａｒ関数、ＡＢＳ関数、ＴＡＮＨ関数、Ｂｒｌｉｎｅａｒ関数などが使われることができるが、本発明の範囲はこれに限定されない。

【0058】

一例として、使用者ラーニングネットワークＧがクラス分類のためのタスクを遂行する場合、第２学習装置１００は使用者ラーニングネットワークＧから出力される特性情報をクラス別にマッピング（Ｍａｐｐｉｎｇ）して、変造データに対してクラス別に少なくとも一つの確率を生成することができる。このとき、クラス別の確率はクラス別に使用者ラーニングネットワークＧから出力される特性情報が正解である確率を示すことができる。例えば、原本データが顔イメージデータである場合、顔が笑っている状態である確率は０．７５、笑わっていない状態である確率は０．２５などのように出力されることができる。このとき、使用者ラーニングネットワークＧから出力される特性情報をクラス別にマッピングするためにソフトマックスアルゴリズムを使用することができるが、本発明の範囲はこれに限定されず、特性情報をクラス別にマッピングするために多様なアルゴリズムが使われることができる。

【0059】

図３は本発明の一実施例によって原本データをコンシーリング処理する変造ネットワークを学習する方法を簡略に示したものである。変造学習方法に対応する使用者ラーニングネットワークの学習方法を説明すれば次のとおりである。

【0060】

先ず、第１学習装置２００を利用して原本データをコンシーリング（例：非識別化）処理するために使われる変造ネットワークＯを学習する方法を説明する。

【0061】

トレーニングデータが獲得されると、第１学習装置２００は、トレーニングデータを変造ネットワークＯに入力することで、変造ネットワークＯをもってトレーニングデータを変造するようにして変造されたトレーニングデータを生成させることができる。

【0062】

このとき、トレーニングデータは学習に利用するための原本データである原本トレーニングデータまたは原本トレーニングデータを変換（Ｍｏｄｉｆｙ）して生成された変換（Ｍｏｄｉｆｉｅｄ）トレーニングデータであり、変換トレーニングデータは原本トレーニングデータに対してランダムノイズ生成ネットワーク（未図示）を通じて生成された少なくとも一つのランダムノイズを追加して生成されることができる。一例として、ランダムノイズ生成ネットワークは正規分布Ｎ（０、σ）によるランダムノイズを生成させ、生成されたノイズを原本トレーニングデータに追加して変換トレーニングデータを生成することができる。また、変換トレーニングデータは、ランダムノイズ以外にも原本トレーニングデータをブラー（Ｂｌｕｒ）処理したり、原本トレーニングデータの解像度を変更して生成されることができるが、これに限定されず、原本トレーニングデータを変換する多様な方法が適用されることができる。

【0063】

また、変造されたトレーニングデータは、人にはトレーニングデータと異なるものとして認識されるが、ラーニングネットワークではトレーニングデータと同一または類似なものとして認識されることができる。

【0064】

一方、変造ネットワークＯは、一例として、トレーニングデータとしてのイメージに対してコンボリューション演算を少なくとも一回適用するための少なくとも一つのコンボリューションレイヤーを持つ少なくとも一つのエンコーダー（Ｅｎｃｏｄｅｒ）と、エンコーダーから出力される少なくとも一つの特徴マップに対してデコンボリューション演算を少なくとも一回適用して変造されたトレーニングデータを生成するための少なくとも一つのデコンボリューションレイヤーを持つ少なくとも一つのデコーダー（Ｄｅｃｏｄｅｒ）を含むことができるが、本発明の範囲がこれに限定されず、入力されるトレーニングデータを変造することができる構造を持つラーニングネットワークは何でも含むことができる。

【0065】

そして、第１学習装置２００は、（ｉ）変造されたトレーニングデータを少なくとも一つの予め学習されたパラメータを持つ学習用ラーニングネットワークＦに入力することで、学習用ラーニングネットワークＦをもって（ｉ‐１）変造されたトレーニングデータに対して学習されたパラメータを利用したラーニング演算を適用して（ｉ‐２）変造されたトレーニングデータに対応する学習用第１特性情報を生成させるプロセス、及び（ｉｉ）トレーニングデータを学習用ラーニングネットワークＦに入力することで、学習用ラーニングネットワークＦをもって（ｉｉ‐１）トレーニングデータに対して学習されたパラメータを利用したラーニング演算を適用して（ｉｉ‐２）トレーニングデータに対応する学習用第２特性情報を生成させるプロセスを遂行したり、他の装置をもって遂行するように支援することができる。

【0066】

このとき、学習用ラーニングネットワークＦはマシンラーニングネットワークを含むことができるが、本発明の範囲がこれに限定されず、トレーニングデータに対して予め学習されたパラメータでネットワーク演算を適用して学習用第１特性情報を生成することにより、トレーニングデータに対してラーニング演算を適用して学習用第２特性情報を生成することができるラーニングネットワークは何でも含むことができる。そして、マシンラーニングネットワークはＫ‐近傍（Ｋ‐ＮｅａｒｅｓｔＮｅｉｇｈｂｏｒｓ）、線形回帰（ＬｉｎｅａｒＲｅｇｒｅｓｓｉｏｎ）、ロジスティック回帰（ＬｏｇｉｓｔｉｃＲｅｇｒｅｓｓｉｏｎ）、サポートベクターマシン（ＳＶＭ、ＳｕｐｐｏｒｔＶｅｃｔｏｒＭａｃｈｉｎｅ）、決定木（ＤｅｃｉｓｉｏｎＴｒｅｅ）とランダムフォレスト（ＲａｎｄｏｍＦｏｒｅｓｔ）、神経網（ＮｅｕｒａｌＮｅｔｗｏｒｋ）、群集（Ｃｌｕｓｔｅｒｉｎｇ）、視覚化（Ｖｉｓｕａｌｉｚａｔｉｏｎ）と次元縮小（ＤｉｍｅｎｓｉｏｎａｌｉｔｙＲｅｄｕｃｔｉｏｎ）、相関規則学習（ＡｓｓｏｃｉａｔｉｏｎＲｕｌｅＬｅａｒｎｉｎｇ）、深層信念ネットワーク（ＤｅｅｐＢｅｌｉｅｆＮｅｔｗｏｒｋ）、強化学習（ＲｅｉｎｆｏｒｃｅｍｅｎｔＬｅａｒｎｉｎｇ）、及びディープラーニング（Ｄｅｅｐｌｅａｒｎｉｎｇ）アルゴリズムの中で少なくとも一つを含むことができるが、マシンラーニングネットワークはこれに限定されず、多様な学習アルゴリズムを含むことができる。また、コンシーリング（例：非識別化）処理のための対象は原本データに含まれた個人情報である。ここで、個人情報は、個人識別情報、個人の医療情報、生体情報、行動情報など個人と係る如何なる情報も含むことができる。

【0067】

そして、学習用第１特性情報と学習用第２特性情報とは、変造されたトレーニングデータとトレーニングデータとにそれぞれ対応する特徴（Ｆｅａｔｕｒｅ）またはロジット（Ｌｏｇｉｔ）である。また、学習用第１特性情報と学習用第２特性情報とは、変造されたトレーニングデータとトレーニングデータ内にそれぞれ含まれた所定の特徴と係る特徴値、または所定の特徴と係るベクター（Ｖｅｃｔｏｒ）、行列（Ｍａｔｒｉｘ）及び座標（Ｃｏｏｒｄｉｎａｔｅ）の中で少なくとも一つに関する値を含むロジットである。例えば、トレーニングデータが顔イメージデータである場合、上記結果は顔認識のためのクラス、顔の特徴、一例として、笑っている表情、顔の特徴点（ＬａｎｄｍａｒｋＰｏｉｎｔ、例えば、両目の端点）に関する座標である。

【0068】

以後、第１学習装置２００は、（ｉ）学習用第１特性情報を参照したり（ｉｉ）学習用第１特性情報を利用して生成された学習用タスク特定出力を参照して算出された第１エラーが最小化され、トレーニングデータと変造されたトレーニングデータとを参照して算出された第２エラーが最大化されるように、変造ネットワークＯを学習することができる。

【0069】

すなわち、第１学習装置２００は、（ｉ）（ｉ‐１）学習用第１特性情報と学習用第２特性情報とを参照して獲得した少なくとも一つの第１_１エラーと、（ｉ‐２）学習用第１特性情報を利用して生成された少なくとも一つの学習用タスク特定出力と、これに対応される少なくとも一つのトレーニングデータＧＴとを参照して獲得された変造ロスである少なくとも一つの第１_２エラーの中で少なくとも一部を参照して算出された、少なくとも一つの第１エラーを最小化するようにし、（ｉｉ）トレーニングデータと変造されたトレーニングデータとを参照して算出された少なくとも一つの第２エラーを最大化するように変造ネットワークＯを学習することができる。これをより詳しく説明すると、第１学習装置２００は変造ネットワークＯを学習するにあたり、変造ネットワークＯが第２エラーを利用してトレーニングデータと多くの差が出る変造されたトレーニングデータを出力するようにし、学習用ラーニングネットワークＦでトレーニングデータと変造されたトレーニングデータとが同一または類似に認識されるように第１エラーを利用して変造ネットワークＯがトレーニングデータを変造することで変造されたトレーニングデータを出力させることができる。

【0070】

このとき、第１学習装置２００は、（ｉ）学習用第１特性情報と学習用第２特性情報との間の差と、（ｉｉ）学習用タスク特定出力とこれに対応するトレーニングデータＧＴとの間の少なくとも一つの差の中で少なくとも一部を参照して第１エラーを獲得することができる。一例として、第１学習装置２００は学習用第１特性情報と学習用第２特性情報との間のノルム（Ｎｏｒｍ）またはコサイン類似度（ＣｏｓｉｎｅＳｉｍｉｌａｒｉｔｙ）を参照して第１エラーを獲得することができるが、本発明の範囲がこれに限定されず、学習用第１特性情報と学習用第２特性情報との間の差を算出することができる多様なアルゴリズムの中で何でも適用することができる。また、第１学習装置２００はトレーニングデータと変造されたトレーニングデータとの間の少なくとも一つの差を参照して第２エラーを獲得することができる。

【0071】

また、第１学習装置２００は変造されたトレーニングデータのエントロピーとノイズ程度の中で少なくとも一部を参照して少なくとも一つのクオリティ（Ｑｕａｌｉｔｙ）を測定することができるし、測定されたクオリティをさらに参照して第１エラーを獲得することができる。すなわち、第１学習装置は、変造されたトレーニングデータのクオリティを最小化（例えば、変造されたトレーニングデータのエントロピー、ノイズなどの少なくとも一部を最大化）するように変造ネットワークＯを学習することができる。

【0072】

そして、第１学習装置２００が第１エラーを最小化して第２エラーを最大化するように変造ネットワークＯを学習する場合、第１学習装置２００は学習用ラーニングネットワークＦの学習されたパラメータを固定してアップデートせず、変造ネットワークＯのみを学習することができる。

【0073】

一方、学習用タスク特定出力は、学習用ラーニングネットワークＦが遂行しようとするタスクに対する出力であり、クラス分類のためのクラスに対する確率、位置検出のためのリグレッション（Ｒｅｇｒｅｓｓｉｏｎ）による座標値など学習用ラーニングネットワークＦの学習されたタスクによる多様な結果値を持つことができるし、活性化ユニット（ＡｃｔｉｖａｔｉｏｎＵｎｉｔ）の活性化関数（ＡｃｔｉｖａｔｉｏｎＦｕｎｃｔｉｏｎ）が学習用ラーニングネットワークＦから出力される学習用第１特性情報に適用され、学習用ラーニングネットワークＦで遂行しようとするタスクによる学習用タスク特定出力を生成することができる。このとき、活性化関数では、シグモイド（Ｓｉｇｍｏｉｄ）関数、線形（Ｌｉｎｅａｒ）関数、ソフトマックス（Ｓｏｆｔｍａｘ）関数、ＲｅＬＵ（Ｒｌｉｎｅａｒ）関数、二乗（Ｓｑｕａｒｅ）関数、ＳＱＲＴ関数、Ｓｒｌｉｎｅａｒ関数、ＡＢＳ関数、ＴＡＮＨ関数、Ｂｒｌｉｎｅａｒ関数などが使われることができるが、本発明の範囲がこれに限定されない。

【0074】

一例として、学習用ラーニングネットワークＦがクラス分類のためのタスクを遂行する場合、第１学習装置２００は学習用ラーニングネットワークＦから出力される学習用第１特性情報をクラス別にマッピング（Ｍａｐｐｉｎｇ）して、変造されたトレーニングデータに対してクラス別に少なくとも一つの確率を生成することができる。このとき、クラス別の確率はクラス別に学習用ラーニングネットワークＦから出力される学習用第１特性情報が正解である確率を示すことができる。例えば、トレーニングデータが顔イメージデータである場合、顔が笑っている状態である確率は０．７５、笑わっていない状態である確率は０．２５などのように出力されることができる。このとき、学習用ラーニングネットワークＦから出力される学習用第１特性情報をクラス別にマッピングするためにソフトマックスアルゴリズムを使用することができるが、本発明の範囲はこれに限定されず、学習用第１特性情報をクラス別にマッピングするために多様なアルゴリズムが使われることができる。

【0075】

次に、前記プロセスを利用して第１学習装置２００によって変造ネットワークＯが学習された状態で、第２学習装置１００は変造されたトレーニングデータとトレーニングデータＧＴとを獲得することができる。

【0076】

そして、第２学習装置１００は、変造されたトレーニングデータを使用者ラーニングネットワークＧに入力することで、使用者ラーニングネットワークＧをもって変造されたトレーニングデータに対してラーニング演算を適用して学習用第３特性情報を生成させることができる。このとき、第１学習装置２００と第２学習装置１００とは同一装置であるか、または異なる装置である。

【0077】

以後、第２学習装置１００は、学習用データロスを参照して算出された第３エラーを最小化するように使用者ラーニングネットワークＧを学習することで、使用者ラーニングネットワークＧをもって変造されたトレーニングデータを学習データとして認識させることができる。このとき、学習用データロスは（ｉ）学習用第３特性情報を利用して生成された学習用第３タスク特定出力と（ｉｉ）トレーニングデータＧＴとを参照して獲得されることができる。

【0078】

一方、第２学習装置１００は、学習用第１特性情報及び学習用第２特性情報の中で少なくとも一部を含む学習用第１ヒント情報をさらに獲得することができる。

【0079】

そして、第２学習装置１００は、（ｉ）学習用第３特性情報と学習用第１ヒント情報との間の差、及び（ｉｉ）学習用データロスの中で少なくとも一つを参照して第３エラーを獲得することができる。

【0080】

このとき、学習用第３特性情報と学習用第１ヒント情報との間の差は、（ｉ）学習用第３特性情報と学習用第１特性情報との間の差、（ｉｉ）学習用第３特性情報と学習用第２特性情報との間の差、及び（ｉｉｉ）前記（ｉ）と前記（ｉｉ）との平均の中で少なくとも一つを含むことができる。

【0081】

これとは違って、前記プロセスを利用して第１学習装置によって変造ネットワークＯが学習された状態で、第２学習装置１００はテストデータを学習された変造ネットワークＯに入力することで、変造されたテストデータと、テストデータに対応されるテストデータＧＴとを獲得することができる。

【0082】

次に、第２学習装置１００は変造されたテストデータを使用者ラーニングネットワークＧに入力することで、使用者ラーニングネットワークＧをもって変造されたテストデータに対してラーニング演算を適用して学習用第４特性情報を出力させるプロセスを遂行することができる。

【0083】

以後、第２学習装置１００は、テスト用データロスを参照して算出されることができる第４エラーを最小化するように使用者ラーニングネットワークＧを学習することで、使用者ラーニングネットワークＧをもって変造されたテストデータをテストデータとして認識させることができる。このとき、テスト用データロスは（ｉ）学習用第４特性情報を利用して生成された学習用第４タスク特定出力と（ｉｉ）テストデータＧＴとを参照して獲得されることができる。

【0084】

一方、第２学習装置１００は、（ｉ）変造されたテストデータを学習用ラーニングネットワークＦに入力して生成されたテスト用第１特性情報及び（ｉｉ）テストデータを学習用ラーニングネットワークＦに入力して生成されたテスト用第２特性情報の中で少なくとも一部を含む学習用第２ヒント情報をさらに獲得することができる。

【0085】

そして、第２学習装置１００は、（ｉ）学習用第４特性情報と学習用第２ヒント情報との間の差、及び（ｉｉ）テスト用データロスの中で少なくとも一つを参照して第４エラーを獲得することができる。

【0086】

このとき、学習用第４特性情報と学習用第２ヒント情報との間の差は、（ｉ）学習用第４特性情報とテスト用第１特性情報との間の差、（ｉｉ）学習用第４特性情報とテスト用第２特性情報との間の差、及び（ｉｉｉ）前記（ｉ）と前記（ｉｉ）との平均の中で少なくとも一つを含むことができる。

【0087】

図４は本発明の一実施例によって原本データをコンシーリング（例：非識別化）処理する変造ネットワークを学習する他の方法を簡略に示したものである。変造ネットワークＯの学習方法に対応して使用者ラーニングネットワークを学習する方法を説明すれば次のとおりである。図４は図３における学習用ラーニングネットワークＦが学習されたパラメータを持つ多数の学習用ラーニングネットワークＦ１、Ｆ２、…、Ｆｎで構成されたものである。このとき、多数の学習用ラーニングネットワークＦ１、Ｆ２、…、Ｆｎのそれぞれは互いに異なるタスクの少なくとも一部を遂行するように学習された状態である。下記の説明では前記図３の説明で容易に理解可能な部分に対しては詳細な説明を省略する。

【0088】

先ず、第１学習装置２００を利用して原本データをコンシーリング（例：非識別化）処理する変造ネットワークＯを学習する方法を説明する。

【0089】

【0090】

このとき、トレーニングデータは学習に利用するための原本データである原本トレーニングデータまたは原本トレーニングデータを変換した変換トレーニングデータであって、変造されたトレーニングデータは、人にはトレーニングデータと異なるものとして認識されるが、ラーニングネットワークではトレーニングデータと同一または類似なものとして認識されることができる。

【0091】

そして、第１学習装置２００は、変造されたトレーニングデータを学習用第１ラーニングネットワークＦ１ないし学習用第ｎラーニングネットワークＦｎのそれぞれに入力することで、学習用第１ラーニングネットワークＦ１ないし学習用第ｎラーニングネットワークＦｎそれぞれをもって（ｉ）学習用第１ラーニングネットワークＦ１ないし学習用第ｎラーニングネットワークＦｎそれぞれの第１学習されたパラメータないし第ｎ学習されたパラメータをそれぞれ利用したラーニング演算を変造されたトレーニングデータに対して適用し、（ｉｉ）変造されたトレーニングデータに対応する学習用第１_１特性情報ないし学習用第１_ｎ特性情報のそれぞれを生成させることができる。また、第１学習装置２００は、トレーニングデータを学習用第１ラーニングネットワークＦ１ないし学習用第ｎラーニングネットワークＦｎそれぞれに入力することで、学習用第１ラーニングネットワークＦ１ないし学習用第ｎラーニングネットワークＦｎそれぞれをもって（ｉ）学習用第１ラーニングネットワークＦ１ないし学習用第ｎラーニングネットワークＦｎそれぞれの第１学習されたパラメータないし第ｎ学習されたパラメータをそれぞれ利用したラーニング演算をトレーニングデータに対して適用し、（ｉｉ）トレーニングデータに対応する学習用第２_１特性情報ないし学習用第２_ｎ特性情報それぞれを生成させることができる。

【0092】

以後、第１学習装置２００は、学習用第１_１特性情報と学習用第２_１特性情報とを参照して算出された第１_１エラーないし学習用第１_ｎ特性情報と学習用第２_ｎ特性情報とを参照して算出された第１_ｎエラーの加重合計（ＷｅｉｇｈｔｅｄＳｕｍ）である第１エラーを獲得してこの第１エラーを最小化するようにし、トレーニングデータと変造されたトレーニングデータとを参照して算出された第２エラーを最大化するように、変造ネットワークＯを学習することができる。

【0093】

一例として、第１学習装置２００は、（ｉ）学習用第１_１特性情報と学習用第２_１特性情報との間の差、及び（ｉｉ）（ｉｉ‐１）学習用第１_１特性情報を利用して生成された学習用第１タスク特定出力と（ｉｉ‐２）トレーニングデータＧＴとを参照して算出された第１変造ロスの中で少なくとも一つを参照して算出された第１_１エラーを獲得し、（ｉ）学習用第１_ｎ特性情報と学習用第２_ｎ特性情報との間の差、及び（ｉｉ）（ｉｉ‐１）学習用第１_ｎ特性情報を利用して生成された学習用第ｎタスク特定出力と（ｉｉ‐２）トレーニングデータＧＴとを参照して算出された第ｎ変造ロスの中で少なくとも一つを参照して算出された第１_ｎエラーを獲得することで、第１_１エラーないし第１_ｎエラーを獲得することができる。

【0094】

すなわち、第１_ｎエラーは、（ｉ）学習用第１_ｎ特性情報と学習用第２_ｎ特性情報との間の差、（ｉｉ）（ｉｉ‐１）学習用第１_ｎ特性情報を利用して生成された学習用第ｎタスク特定出力と（ｉｉ‐２）トレーニングデータＧＴとを参照して算出された第ｎ変造ロス、及び（ｉｉｉ）前記（ｉ）と前記（ｉｉ）の総和の中でいずれか一つであることができるが、本発明の範囲がこれに限定されない。

【0095】

また、第１学習装置２００は変造されたトレーニングデータのエントロピーとノイズ度合いのうち、少なくとも一部を参照して少なくとも一つのクオリティを測定することができるし、測定されたクオリティをさらに参照して第１エラーを獲得することができる。すなわち、第１学習装置２００は、変造されたトレーニングデータのクオリティを最小化（例えば、変造されたトレーニングデータのエントロピー、ノイズなどの少なくとも一部を最大化）するように変造ネットワークＯを学習することができる。

【0096】

そして、第１学習装置が第１エラーを最小化するようにし、第２エラーを最大化するように変造ネットワークＯを学習する場合、第１学習装置２００は学習用ラーニングネットワークＦ、すなわち、学習用第１ラーニングネットワークＦ１ないし学習用第ｎラーニングネットワークＦｎの学習されたパラメータを固定してアップデートせず、変造ネットワークＯに対してのみ学習を進めることができる。

【0097】

【0098】

そして、第２学習装置１００は、変造されたトレーニングデータを使用者ラーニングネットワークＧに入力することで、使用者ラーニングネットワークＧをもって変造されたトレーニングデータに対してラーニング演算を適用して学習用第３特性情報を出力させるプロセスを遂行することができる。このとき、第１学習装置２００と第２学習装置１００とは同一装置であるか、または異なる装置である。

【0099】

以後、第２学習装置１００は、学習用データロスを参照して算出された第３エラーを最小化するように使用者ラーニングネットワークＧを学習することで、使用者ラーニングネットワークＧが変造されたトレーニングデータを学習データとして認識させることができる。このとき、学習用データロスは（ｉ）学習用第３特性情報を利用して生成された学習用第３タスク特定出力と（ｉｉ）トレーニングデータＧＴとを参照して獲得されることができる。

【0100】

一方、第２学習装置１００は、（ｉ）学習用第１_１特性情報ないし学習用第１_ｎ特性情報の平均及び（ｉｉ）学習用第２_１特性情報ないし学習用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第１ヒント情報をさらに獲得することができる。

【0101】

【0102】

このとき、学習用第３特性情報と学習用第１ヒント情報との間の差は、（ｉ）学習用第３特性情報と、学習用第１_１特性情報ないし学習用第１_ｎ特性情報の平均との差、（ｉｉ）学習用第３特性情報と、学習用第２_１特性情報ないし学習用第２_ｎ特性情報の平均との差、及び（ｉｉｉ）前記（ｉ）と前記（ｉｉ）との平均の中で少なくとも一つを含むことができる。

【0103】

これとは違って、前記プロセスを利用して第１学習装置２００によって変造ネットワークＯが学習された状態で、第２学習装置１００はテストデータを学習された変造ネットワークＯに入力することで、変造されたテストデータと、テストデータに対応されるテストデータＧＴとを獲得することができる。

【0104】

次に、第２学習装置１００は、変造されたテストデータを使用者ラーニングネットワークＧに入力することで、使用者ラーニングネットワークＧをもって変造されたテストデータに対してラーニング演算を適用して学習用第４特性情報を生成させるプロセスを遂行することができる。

【0105】

以後、第２学習装置１００は、テスト用データロスを参照して算出された第４エラーを最小化するように使用者ラーニングネットワークＧを学習することで、使用者ラーニングネットワークＧをもって変造されたテストデータをテストデータとして認識させることができる。このとき、テスト用データロスは（ｉ）学習用第４特性情報を利用して生成された学習用第４タスク特定出力と（ｉｉ）テストデータＧＴとを参照して獲得されることができる。

【0106】

一方、第２学習装置１００は、（ｉ）変造されたテストデータを学習用第１ラーニングネットワークＦ１ないし学習用第ｎラーニングネットワークＦｎのそれぞれに入力して生成されたテスト用第１_１特性情報ないしテスト用第１_ｎ特性情報の平均及び（ｉｉ）テストデータを学習用第１ラーニングネットワークＦ１ないし学習用第ｎラーニングネットワークＦｎのそれぞれに入力して生成されたテスト用第２_１特性情報ないしテスト用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第２ヒント情報をさらに獲得することができる。

【0107】

そして、第２学習装置１００は（ｉ）学習用第４特性情報と学習用第２ヒント情報との間の差、及び（ｉｉ）テスト用データロスの中で少なくとも一つを参照して第４エラーを獲得することができる。

【0108】

このとき、学習用第４特性情報と学習用第２ヒント情報との間の差は、（ｉ）学習用第４特性情報と、テスト用第１_１特性情報ないしテスト用第１_ｎ特性情報の平均との差、（ｉｉ）学習用第４特性情報と、テスト用第２_１特性情報ないしテスト用第２_ｎ特性情報の平均との差、及び前記（ｉ）と前記（ｉｉ）との平均の中で少なくとも一つを含むことができる。

【0109】

一方、学習用第１_１特性情報と学習用第２_１特性情報とを参照して算出された第１_１エラーないし学習用第１_ｎ特性情報と学習用第２_ｎ特性情報とを参照して算出された第１_ｎエラーの加重合計である第１エラーを獲得してこの第１エラーを最小化し、トレーニングデータと変造されたトレーニングデータとを参照して算出された第２エラーを最大化するように、変造ネットワークＯを学習することができる。しかし、これとは違って、第１_１エラーないし第１_ｎエラーのそれぞれを利用して変造ネットワークＯを順次学習することもできる。

【0110】

すなわち、第１学習装置２００は、トレーニングデータを変造ネットワークＯに入力することで、変造ネットワークＯをもってトレーニングデータを変造するようにして第１変造されたトレーニングデータを生成させることができる。そして、第１学習装置２００は、（ｉ）第１変造されたトレーニングデータを学習用第１ラーニングネットワークＦ１に入力することで、学習用第１ラーニングネットワークＦ１をもって（ｉ‐１）学習用第１ラーニングネットワークＦ１の第１学習されたパラメータを利用したラーニング演算を第１変造されたトレーニングデータに対して適用し、（ｉ‐２）第１変造されたトレーニングデータに対応する学習用第１_１特性情報を出力させるプロセス、及び（ｉｉ）トレーニングデータを学習用第１ラーニングネットワークＦ１に入力することで、（ｉｉｉ）学習用第１ラーニングネットワークＦ１をもって（ｉｉｉ‐１）第１学習されたパラメータを利用したラーニング演算をトレーニングデータに対して適用し、（ｉｉｉ‐２）トレーニングデータに対応する学習用第２_１特性情報を出力させるプロセスを遂行したり、他の装置をもって遂行するように支援することができる。以後、第１学習装置２００は、学習用第１_１特性情報と学習用第２_１特性情報とを参照して算出されることができる第１_１エラーを最小化し、トレーニングデータと第１変造されたトレーニングデータとを参照して算出されることができる第２_１エラーを最大化するように、変造ネットワークＯを学習することで、変造ネットワークＯが第１学習された変造ネットワークＯになるようにすることができる。

【0111】

そして、第１学習装置２００は、定数であるｋを２からｎまで増加させながら前記動作を繰り返し、学習用第ｎラーニングネットワークＦｎまで遂行することで、第ｎ学習された変造ネットワークＯを獲得することができる。

【0112】

すなわち、第１学習装置２００は、トレーニングデータを第（ｋ‐１）学習された変造ネットワークＯに入力することで、第（ｋ‐１）学習された変造ネットワークＯをもってトレーニングデータを変造するようにして第ｋ変造されたトレーニングデータを生成させることができる。そして、第１学習装置２００は、（ｉ）第ｋ変造されたトレーニングデータを学習用第ｋラーニングネットワークＦｋに入力することで、学習用第ｋラーニングネットワークＦｋをもって（ｉ‐１）学習用第ｋラーニングネットワークＦｋの第ｋ学習されたパラメータを利用したラーニング演算を第ｋ変造されたトレーニングデータに対して適用し、（ｉ‐２）第ｋ変造されたトレーニングデータに対応する学習用第１_ｋ特性情報を出力させるプロセス、及び（ｉｉ）トレーニングデータを学習用第ｋラーニングネットワークＦｋに入力することで、学習用第ｋラーニングネットワークＦｋをもって（ｉｉ‐１）学習用第ｋラーニングネットワークＦｋの第ｋ学習されたパラメータを利用したラーニング演算をトレーニングデータに対して適用し、（ｉｉ‐２）トレーニングデータに対応する学習用第２_ｋ特性情報を出力させるプロセスを遂行したり、他の装置をもって遂行するように支援することができる。以後、第１学習装置２００は、学習用第１_ｋ特性情報と学習用第２_ｋ特性情報とを参照して算出された第１_ｋエラーを最小化するようにし、トレーニングデータと第ｋ変造されたトレーニングデータを参照して算出された第２_ｋエラーを最大化するように、第（ｋ‐１）学習された変造ネットワークＯを学習することで、第（ｋ‐１）学習された変造ネットワークＯが第ｋ学習された変造ネットワークＯになるようにすることができる。

【0113】

このとき、第１_ｋエラーは、（ｉ）学習用第１_ｋ特性情報を利用して生成された、第ｋ変造されたトレーニングデータに対する学習用第ｋタスク特定出力と（ｉｉ）トレーニングデータに対応されるトレーニングデータＧＴとを参照して獲得された第ｋ変造ロスをさらに参照して算出されることができる。

【0114】

また、第１_ｋエラーは、（ｉ）学習用第１_ｋ特性情報と学習用第２_ｋ特性情報との間の差、（ｉｉ）第ｋ変造ロス、及び（ｉｉｉ）前記（ｉ）と前記（ｉｉ）の総和の中でいずれか一つであってもよいが、本発明の範囲がこれに限定されない。

【0115】

次に、前記プロセスを利用して第１学習装置によって変造ネットワークＯが学習された状態で、第２学習装置１００は（ｉ）第１変造されたトレーニングデータないし第ｎ変造されたトレーニングデータの中で少なくとも一部の変造されたトレーニングデータと（ｉｉ）トレーニングデータＧＴとを獲得することができる。

【0116】

そして、第２学習装置１００は、第１変造されたトレーニングデータないし第ｎ変造されたトレーニングデータの中で少なくとも一部の変造されたトレーニングデータを使用者ラーニングネットワークＧに入力することで、使用者ラーニングネットワークＧをもって変造されたトレーニングデータに対してラーニング演算を適用して学習用第３特性情報を生成させるプロセスを遂行することができる。このとき、第１学習装置２００と第２学習装置１００とは同一装置であるか、または異なる装置である。

【0117】

【0118】

一方、第２学習装置１００は（ｉ）学習用第１_１特性情報ないし学習用第１_ｎ特性情報の平均及び（ｉｉ）学習用第２_１特性情報ないし学習用第２_ｎ特性情報の平均の中で少なくとも一つを含む学習用第１ヒント情報をさらに獲得することができる。

【0119】

そして、第２学習装置１００は（ｉ）学習用第３特性情報と学習用第１ヒント情報との間の差、及び（ｉｉ）学習用データロスの中で少なくとも一つを参照して第３エラーを獲得することができる。

【0120】

【0121】

【0122】

そして、第２学習装置１００は、変造されたテストデータを使用者ラーニングネットワークＧに入力することで、使用者ラーニングネットワークＧをもって変造されたテストデータに対してラーニング演算を適用して学習用第４特性情報を生成させることができる。

【0123】

【0124】

【0125】

【0126】

このとき、学習用第４特性情報と学習用第２ヒント情報との間の差は、（ｉ）学習用第４特性情報と、テスト用第１_１特性情報ないしテスト用第１_ｎ特性情報の平均との差、（ｉｉ）学習用第４特性情報と、テスト用第２_１特性情報ないしテスト用第２_ｎ特性情報の平均との差、及び（ｉｉｉ）前記（ｉ）と前記（ｉｉ）との平均の中で少なくとも一つを含むことができる。

【0127】

図５は本発明の他の実施例によって原本データをコンシーリング（例：非識別化）処理する変造ネットワークを学習する方法を簡略に示したものである。変造ネットワークの学習方法に対応する使用者ラーニングネットワークを学習方法を説明すれば次のとおりである。以下の説明では、図２ないし図４の説明から容易に理解可能な部分については詳細な説明を省略する。

【0128】

先ず、第１学習装置２００を利用して原本データをコンシーリング（例：非識別化）処理する変造ネットワークＯを学習する方法を説明する。

【0129】

【0130】

そして、第１学習装置２００は、（ｉ）変造されたトレーニングデータを少なくとも一つの予め学習されたパラメータを持つ学習用ラーニングネットワークＦに入力することで、学習用ラーニングネットワークＦをもって（ｉ‐１）学習されたパラメータを利用したラーニング演算を変造されたトレーニングデータに対して適用し、（ｉ‐２）変造されたトレーニングデータに対応する学習用第１特性情報を生成させるプロセス、及び（ｉｉ）トレーニングデータを学習用ラーニングネットワークＦに入力することで、学習用ラーニングネットワークＦをもって（ｉｉ‐１）学習されたパラメータを利用したラーニング演算をトレーニングデータに対して適用し、（ｉｉ‐２）トレーニングデータに対応する学習用第２特性情報を生成させるプロセスを遂行したり、他の装置をもって遂行するように支援することができる。

【0131】

以後、入力されるデータが本物か否かを判別するために判別機（Ｄｉｓｃｒｉｍｉｎａｔｏｒ、Ｄ）に入力された変造されたトレーニングデータに対応される少なくとも一つの変造されたトレーニングデータスコア（ＯｂｆｕｓｃａｔｅｄＴｒａｉｎｉｎｇＤａｔａＳｃｏｒｅ）を第２エラーで獲得した状態で、第１学習装置２００は、（ｉ）第１エラーを最小化するようにして第２エラーを最大化するように変造ネットワークＯを学習するとともに、（ｉｉ）判別機Ｄに入力された変換トレーニングデータまたは変換変造されたトレーニングデータに対応される変換トレーニングデータスコアまたは変換変造されたトレーニングデータスコアの中で少なくとも一つを最大化し、変造されたトレーニングデータスコアを最小化するように、判別機Ｄを学習することができる。このとき、変換トレーニングデータまたは変換変造されたトレーニングデータは、トレーニングデータまたは変造されたトレーニングデータに対してランダムノイズ生成ネットワーク（未図示）を通じて生成された少なくとも一つのランダムノイズを追加してそれぞれ生成されることができる。一例として、ランダムノイズ生成ネットワークが正規分布Ｎ（０、σ）を持つランダムノイズを生成するようにし、生成されたノイズをトレーニングデータまたは変造されたトレーニングデータに追加して変換トレーニングデータを生成することができる。また、変換トレーニングデータまたは変換変造されたトレーニングデータは、ランダムノイズ以外にもトレーニングデータまたは変造されたトレーニングデータをブラー処理したり、トレーニングデータまたは変造されたトレーニングデータの解像度を変更してそれぞれ生成されることができるが、本発明の範囲がこれに限定されないし、トレーニングデータまたは変造されたトレーニングデータを変換する多様な方法が適用されることができる。

【0132】

すなわち、第１学習装置２００は、変造ネットワークＯを学習するにあたり、学習用ラーニングネットワークＦが第１エラーを利用してトレーニングデータを変造して、変造されたトレーニングデータがトレーニングデータと同一または類似に認識されるように、変造されたトレーニングデータを出力するように変造ネットワークＯを学習し、学習用ラーニングネットワークＦが第２エラーを利用してトレーニングデータとは異なるが、トレーニングデータとの区別が難しくなるようにする変造されたトレーニングデータを出力させることができる。

【0133】

このとき、判別機Ｄに入力された変換トレーニングデータまたは変換変造されたトレーニングデータに対応される変換トレーニングデータスコアまたは変換変造されたトレーニングデータスコアの最大値は、変換トレーニングデータまたは変換変造されたトレーニングデータを本物のデータとして判別する１であり、判別機Ｄに入力された変造されたトレーニングデータに対応される変造されたトレーニングデータスコアの最小値は、変造されたトレーニングデータをにせ物のデータとして判別する０である。すなわち、判別機Ｄは変造されたトレーニングデータを変換トレーニングデータまたは変換変造されたトレーニングデータとして認識するように学習されることができる。

【0134】

【0135】

【0136】

【0137】

【0138】

【0139】

【0140】

【0141】

そして、第２学習装置１００は、変造されたテストデータを使用者ラーニングネットワークＧに入力することで、使用者ラーニングネットワークＧをもって変造されたテストデータに対してラーニング演算して学習用第４特性情報を生成させるプロセスを遂行することができる。

【0142】

【0143】

【0144】

【0145】

このとき、学習用第４特性情報と学習用第２ヒント情報との間の差は、（ｉ）学習用第４特性情報とテスト用第１特性情報との間の差、（ｉｉ）学習用第４特性情報とテスト用第２特性情報との間の差、及び（ｉｉｉ）前記（ｉ）と（ｉｉ）との平均の中で少なくとも一つを含むことができる。

【0146】

図６は本発明の他の実施例によって原本データをコンシーリング処理する変造ネットワークを学習する他の方法を簡略に示したものである。変造ネットワークの学習方法に対応する使用者ラーニングネットワークを学習する方法を説明すれば次のとおりである。図６は図５における学習用ラーニングネットワークＦが学習されたパラメータを持つ多数の学習用ラーニングネットワークＦ１、Ｆ２、…、Ｆｎで構成されたものである。下記の説明では、前記図２ないし図５の説明で容易に理解可能な部分については詳細な説明を省略する。

【0147】

先ず、第１学習装置２００を利用して原本データをコンシーリング（例：非識別化）処理する変造ネットワークＯを学習する方法を説明する。

【0148】

トレーニングデータが獲得されると、第１学習装置２００は、トレーニングデータを変造ネットワークＯに入力することで、変造ネットワークＯをもってトレーニングデータを変造して変造されたトレーニングデータを生成させることができる。

【0149】

そして、第１学習装置２００は、変造されたトレーニングデータを学習用第１ラーニングネットワークＦ１ないし学習用第ｎラーニングネットワークＦｎのそれぞれに入力することで、学習用第１ラーニングネットワークＦ１ないし学習用第ｎラーニングネットワークＦｎをもって（ｉ）学習用第１ラーニングネットワークＦ１ないし学習用第ｎラーニングネットワークＦｎそれぞれの第１学習されたパラメータないし第ｎ学習されたパラメータをそれぞれ利用したラーニング演算を変造されたトレーニングデータに対して適用し、（ｉｉ）変造されたトレーニングデータに対応する学習用第１_１特性情報ないし学習用第１_ｎ特性情報それぞれを生成させることができる。また、第１学習装置２００は、トレーニングデータを学習用第１ラーニングネットワークＦ１ないし学習用第ｎラーニングネットワークＦｎのそれぞれに入力することで、学習用第１ラーニングネットワークＦ１ないし学習用第ｎラーニングネットワークＦｎのそれぞれをもって（ｉ）学習用第１ラーニングネットワークＦ１ないし学習用第ｎラーニングネットワークＦｎそれぞれの第１学習されたパラメータないし第ｎ学習されたパラメータをそれぞれ利用したラーニング演算をトレーニングデータに対して適用し、（ｉｉ）トレーニングデータに対応する学習用第２_１特性情報ないし学習用第２_ｎ特性情報のそれぞれを生成させることができる。

【0150】

以後、第１学習装置２００は、学習用第１_１特性情報と学習用第２_１特性情報とを参照して算出された第１_１エラーないし学習用第１_ｎ特性情報と学習用第２_ｎ特性情報とを参照して算出された第１_ｎエラーの加重合計である第１エラーを獲得してこの第１エラーを最小化するようにし、判別機Ｄに入力された変造されたトレーニングデータに対応される変造されたトレーニングデータスコアである第２エラーを最大化するように、変造ネットワークＯを学習し、第１学習装置２００は、判別機Ｄに入力された変換トレーニングデータまたは変換変造されたトレーニングデータに対応される変換トレーニングデータスコアまたは変換変造されたトレーニングデータスコアを最大化するようにし、変造されたトレーニングデータスコアを最小化するように判別機Ｄを学習することができる。

【0151】

一例として、第１学習装置２００は、（ｉ）学習用第１_１特性情報と学習用第２_１特性情報との間の差、及び（ｉｉ）（ｉｉ‐１）学習用第１_１特性情報を利用して生成された学習用第１タスク特定出力と（ｉｉ‐２）トレーニングデータＧＴとを参照して算出された第１変造ロスの中で少なくとも一つを参照して算出された、第１_１エラーを獲得し、（ｉ）学習用第１_ｎ特性情報と学習用第２_ｎ特性情報との間の差、及び（ｉｉ）（ｉｉ‐１）学習用第１_ｎ特性情報を利用して生成された学習用第ｎタスク特定出力と（ｉｉ‐２）トレーニングデータＧＴとを参照して算出された、第ｎ変造ロスの中で少なくとも一つを参照して算出された第１_ｎエラーを獲得することで、第１_１エラーないし第１_ｎエラーを獲得することができる。

【0152】

すなわち、第１_ｎエラーは、（ｉ）学習用第１_ｎ特性情報と学習用第２_ｎ特性情報との間の差、（ｉｉ）（ｉｉ‐１）学習用第１_ｎ特性情報を利用して生成された学習用第ｎタスク特定出力と（ｉｉ‐２）トレーニングデータＧＴとを参照して算出された第ｎ変造ロス、及び（ｉｉｉ）前記（ｉ）と前記（ｉｉ）の総和の中でいずれか一つであってもよいが、本発明の範囲がこれに限定されない。

【0153】

【0154】

【0155】

【0156】

【0157】

【0158】

【0159】

【0160】

【0161】

【0162】

【0163】

【0164】

【0165】

一方、学習用第１_１特性情報と学習用第２_１特性情報とを参照して算出された第１_１エラーないし学習用第１_ｎ特性情報と学習用第２_ｎ特性情報とを参照して算出された第１_ｎエラーの加重合計である第１エラーを獲得してこの第１エラーを最小化するようにし、判別機に入力された変造されたトレーニングデータに対応される変造されたトレーニングデータスコアである第２エラーを最大化するように、変造ネットワークＯを学習することができる。しかし、これとは違って、第１_１エラーないし第１_ｎエラーのそれぞれを利用して変造ネットワークＯを順次学習することもできる。

【0166】

すなわち、第１学習装置２００は、トレーニングデータを変造ネットワークＯに入力することで、変造ネットワークＯをもってトレーニングデータを変造して第１変造されたトレーニングデータを生成させることができる。そして、第１学習装置２００は、（ｉ）第１変造されたトレーニングデータを学習用第１ラーニングネットワークＦ１に入力することで、学習用第１ラーニングネットワークＦ１をもって（ｉ‐１）学習用第１ラーニングネットワークＦ１の第１学習されたパラメータを利用したラーニング演算を第１変造されたトレーニングデータに対して適用し、（ｉ‐２）第１変造されたトレーニングデータに対応する学習用第１_１特性情報を出力させるプロセス、及び（ｉｉ）トレーニングデータを学習用第１ラーニングネットワークＦ１に入力することで、（ｉｉｉ）学習用第１ラーニングネットワークＦ１をもって（ｉｉｉ‐１）第１学習されたパラメータを利用したラーニング演算をトレーニングデータに対して適用し、（ｉｉｉ‐２）トレーニングデータに対応する学習用第２_１特性情報を出力させるプロセスを遂行したり、他の装置をもって遂行するように支援することができる。以後、第１学習装置２００は、第１_１特性情報と第２_１特性情報とを参照して算出された少なくとも一つの第１_１エラーを最小化するようにし、判別機Ｄに入力された第１変造されたトレーニングデータに対応される第１変造されたトレーニングデータスコアである第２_１エラーを最大化するように、変造ネットワークＯを学習することで、変造ネットワークＯが第１学習された変造ネットワークＯになるようにすることができる。また、判別機Ｄに入力された変換トレーニングデータまたは変換変造されたトレーニングデータに対応される少なくとも一つの第１変換トレーニングデータスコアまたは少なくとも一つの第１変換変造されたトレーニングデータスコアを最大化するようにし、少なくとも一つの第１変造されたトレーニングデータスコアを最小化するように、判別機Ｄを学習することで、判別機Ｄが第１学習された判別機Ｄになるようにすることができる。

【0167】

そして、第１学習装置２００は、定数であるｋを２からｎまで増加させながら、前記動作を繰り返して学習用第ｎラーニングネットワークＦｎまで遂行することで第ｎ学習された変造ネットワークＯを獲得することができる。

【0168】

すなわち、第１学習装置２００は、トレーニングデータを第（ｋ‐１）学習された変造ネットワークＯに入力することで、第（ｋ‐１）変造ネットワークＯをもってトレーニングデータを変造して第ｋ変造されたトレーニングデータを生成させることができる。そして、第１学習装置２００は、（ｉ）第ｋ変造されたトレーニングデータを学習用第ｋラーニングネットワークＦｋに入力することで、学習用第ｋラーニングネットワークＦｋをもって（ｉ‐１）学習用第ｋラーニングネットワークＦｋの第ｋ学習されたパラメータを利用したラーニング演算を第ｋ変造されたトレーニングデータに対して適用し、（ｉ‐２）第ｋ変造されたトレーニングデータに対応する学習用第１_ｋ特性情報を出力させるプロセス、及び（ｉｉ）トレーニングデータを学習用第ｋラーニングネットワークＦｋに入力することで、学習用第ｋラーニングネットワークＦｋをもって（ｉｉ‐１）第ｋ学習されたパラメータを利用したラーニング演算をトレーニングデータに対して適用し、（ｉｉ‐２）トレーニングデータに対応する学習用第２_ｋ特性情報を出力させるプロセスを遂行したり、他の装置をもって遂行するように支援することができる。以後、第１学習装置２００は、学習用第１_ｋ特性情報と学習用第２_ｋ特性情報とを参照して算出された少なくとも一つの第１_ｋエラーを最小化するようにし、第（ｋ‐１）学習された判別機Ｄに入力された第ｋ変造されたトレーニングデータに対応される少なくとも一つの第ｋ変造されたトレーニングデータスコアである第２_ｋエラーを最大化するように、第（ｋ‐１）学習された変造ネットワークＯを学習することで、第（ｋ‐１）学習された変造ネットワークＯが第ｋ学習された変造ネットワークＯになるようにすることができる。そして、第（ｋ‐１）学習された判別機Ｄに入力された変換トレーニングデータまたは変換変造されたトレーニングデータに対応される少なくとも一つの第ｋ変換トレーニングデータスコアまたは少なくとも一つの第ｋ変換変造されたトレーニングデータスコアを最大化するようにし、少なくとも一つの第ｋ変造されたトレーニングデータスコアを最小化するように、第（ｋ‐１）学習された判別機Ｄを学習することで、第（ｋ‐１）学習された判別機Ｄが第ｋ学習された判別機Ｄになるようにすることができる。

【0169】

【0170】

【0171】

【0172】

【0173】

【0174】

【0175】

【0176】

【0177】

【0178】

そして、第２学習装置１００は、変造されたテストデータを使用者ラーニングネットワークＧに入力することで、使用者ラーニングネットワークＧに変造されたテストデータに対してラーニング演算を適用して学習用第４特性情報を生成させるプロセスを遂行することができる。

【0179】

【0180】

【0181】

【0182】

【0183】

図７は本発明の一実施例によって学習された使用者ラーニングネットワークＧをテストするテスト装置を簡略に示したものである。

【0184】

図７を参照すれば、本発明の一実施例によるテスト装置３００は、個人情報を保護するために原本データをコンシーリング処理して生成された変造データを認識するように使用者ラーニングネットワークをテストするインストラクションが格納されたメモリー３１０と、メモリー３１０に格納されたインストラクションによって変造ネットワークをテストする動作を遂行するプロセッサ３２０を含むことができる。

【0185】

具体的に、テスト装置２００は、少なくとも一つのコンピューティング装置（例えば、コンピュータプロセッサ、メモリー、ストーレジ、入力装置、出力装置またはその他既存のコンピューティング装置の構成要素）；ルーター、スイッチなどのような電子通信装置；ネットワーク付きストーレジ（ＮＡＳ）及びストーレジ領域ネットワーク（ＳＡＮ）のような電子情報ストーレジシステム）と少なくとも一つのコンピュータソフトウェア（すなわち、コンピューティング装置をもって特定方式で機能させるインストラクション）の組み合わせを利用して所望のシステム性能を一般的に達成することができる。

【0186】

また、このような装置のプロセッサはＭＰＵ（ＭｉｃｒｏＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）またはＣＰＵ（ＣｅｎｔｒａｌＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）、キャッシュメモリー（ＣａｃｈｅＭｅｍｏｒｙ）、データバス（ＤａｔａＢｕｓ）などのハードウェア構成を含むことができる。また、コンピューティング装置は、運営体制、特定目的を達成するアプリケーションのソフトウェア構成をさらに含むこともできる。

【0187】

【0188】

一方、テスト装置３００は次のような方法によって学習された使用者ラーニングネットワークをテストすることができる。

【0189】

先ず、使用者ラーニングネットワークは図２ないし図６を参照して説明したプロセスによって学習された状態である。

【0190】

すなわち、第１学習装置は、（ｉ）変造ネットワークにトレーニングデータが入力されると、変造ネットワークをもってトレーニングデータを変造して変造されたトレーニングデータを生成させるプロセス、（ｉｉ）（ｉｉ‐１）変造されたトレーニングデータを少なくとも一つの予め学習されたパラメータを持つ学習用ラーニングネットワークに入力することで、学習用ラーニングネットワークをもって学習されたパラメータを利用したラーニング演算を変造されたトレーニングデータに対して適用して学習用第１特性情報を生成するようにし、（ｉｉ‐２）トレーニングデータを学習用ラーニングネットワークに入力することで、学習用ラーニングネットワークをもって学習されたパラメータを利用したラーニング演算をトレーニングデータに対して適用して学習用第２特性情報を生成させるプロセス、及び（ｉｉｉ）学習用第１特性情報と学習用第２特性情報とを参照したり、学習用第１特性情報を利用して生成された学習用タスク特定出力を参照して算出された第１エラーが最小化されるようにし、トレーニングデータと変造されたトレーニングデータとを参照して算出された第２エラーが最大化されるように、変造ネットワークを学習するプロセスを遂行した後、第２学習装置１００が、（ｉ）変造されたトレーニングデータと、トレーニングデータに対応されるトレーニングデータＧＴとを獲得したり、（ｉｉ）第１テストデータを学習された変造ネットワークに入力して生成された第１変造されたテストデータと、前記第１テストデータに対応されるテストデータＧＴとを獲得するプロセスを遂行した状態である。第２学習装置１００は、（ｉ）変造されたトレーニングデータを使用者ラーニングネットワークに入力することで、使用者ラーニングネットワークをもって（ｉ‐１）変造されたトレーニングデータに対してラーニング演算を適用し、（ｉ‐２）学習用第３特性情報を生成させるプロセス、または（ｉｉ）第１変造されたテストデータを使用者ラーニングネットワークに入力することで、使用者ラーニングネットワークをもって（ｉｉ‐１）第１変造されたテストデータに対してラーニング演算を適用し、（ｉｉ‐２）学習用第４特性情報を生成させるプロセスを遂行した状態である。以後、第２学習装置は、（ｉ）（ｉ‐１）学習用第３特性情報を利用して生成された学習用第３タスク特定出力と（ｉ‐２）トレーニングデータＧＴとを利用して生成された学習用データロスを参照して算出された第３エラーを最小化するように使用者ラーニングネットワークを学習するプロセス、または（ｉｉ）（ｉｉ‐１）学習用第４特性情報を利用して生成された学習用第４タスク特定出力と（ｉｉ‐２）テストデータＧＴとを利用して生成されたテスト用データロスを参照して算出された第４エラーを最小化するように前記使用者ラーニングネットワークを学習するプロセスを遂行した状態である。

【0191】

次に、第２テストデータを学習された変造ネットワークに入力して生成された第２変造されたテストデータが獲得されると、テスト装置３００は、第２変造されたテストデータを学習された使用者ラーニングネットワークに入力して、学習された使用者ラーニングネットワークをもって第２変造されたテストデータに対してラーニング演算を適用してテスト用特性情報を生成させることで、第２テストデータがこれに対応される第２変造されたテストデータを利用して認識されることができる。

【0192】

このとき、第２テストデータは第１テストデータと同一であるか、または異なるデータである。すなわち、第１テストデータは学習された変造ネットワークをテストするために使われることができるし、第２テストデータは学習された使用者ラーニングネットワークをテストするために使われることができる。

【0193】

以上、説明された本発明による実施例は、多様なコンピュータ構成要素を通じて実行されることができるプログラム命令語の形態で具現され、コンピュータの読み取り可能な記録媒体に記録されることができる。前記コンピュータの読み取り可能な記録媒体は、プログラム命令語、データファイル、データ構造などを単独でまたは組み合わせて含むことができる。前記コンピュータの読み取り可能な記録媒体に記録されるプログラム命令語は、本発明のために特別に設計されて構成されたものであるか、またはコンピュータソフトウェア分野の当業者に公知されて使用可能なものであってもよい。コンピュータの読み取り可能な記録媒体の例では、ハードディスク、フロッピー（登録商標）ディスク及び磁気テープのような磁気媒体、ＣＤ‐ＲＯＭ、ＤＶＤのような光記録媒体、フロプティカルディスク（ｆｌｏｐｔｉｃａｌｄｉｓｋ）のような磁気‐光媒体（ｍａｇｎｅｔｏ‐ｏｐｔｉｃａｌｍｅｄｉａ）、及びＲＯＭ、ＲＡＭ、フラッシュメモリなどのようなプログラム命令語を格納して遂行するように特別構成されたハードウェア装置が含まれる。プログラム命令語の例には、コンパイラによって作われるもののような機械語コードのみならず、インタプリタなどを使用してコンピュータによって実行されることができる高級言語コードも含まれる。前記ハードウェア装置は、本発明による処理を行うために一つ以上のソフトウェアモジュールとして作動するように構成されることができるし、その逆も同様である。

【0194】

以上、本発明が具体的な構成要素などのような特定事項と、限定された実施例及び図面によって説明されたが、これは本発明のより全般的な理解を助けるために提供されたものに過ぎず、本発明が前記実施例に限定されるものではなく、本発明が属する技術分野における通常の知識を有する者であれば、このような記載から多様な修正及び変形を図ることができる。

【0195】

したがって、本発明の思想は前記説明された実施例に限って決まってはならず、後述する特許請求の範囲だけでなく、この特許請求の範囲と均等に、または等価的に変形された全てのものは本発明の思想の範疇に属するものとする。

【図1】