特開 2023-130960 情報処理プログラム、装置、及び方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公開特許公報(A)

(11)【公開番号】P2023130960

(43)【公開日】2023-09-21

(54)【発明の名称】情報処理プログラム、装置、及び方法

(51)【国際特許分類】

   G06N 20/10 20190101AFI20230913BHJP

【ＦＩ】

G06N20/10

【審査請求】未請求

【請求項の数】9

【出願形態】ＯＬ

(21)【出願番号】P 2022035575

(22)【出願日】2022-03-08

(71)【出願人】

【識別番号】000005223

【氏名又は名称】富士通株式会社

(74)【代理人】

【識別番号】110001519

【氏名又は名称】弁理士法人太陽国際特許事務所

(72)【発明者】

【氏名】河東 孝

(72)【発明者】

【氏名】上村 健人

(72)【発明者】

【氏名】安富 優

(57)【要約】      （修正有）

【課題】学習データセットが存在しない場合でも、対象データセットから分類モデルにおける未知クラスのデータを検出する情報処理プログラム、装置及び方法を提供する。
【解決手段】情報処理装置１０は、学習データセットを用いて学習済みの分類モデル２０であって、入力されたデータを複数のクラスのいずれかに分類する分類モデル２０を、学習データセットとは異なる対象データセットに基づき再学習する場合の分類モデルの分類基準の変化に対する寄与度が所定基準以上の１以上のデータを対象データセットから特定する特定部１２と、特定された１以上のデータのうち、対象データセットに基づく再学習による分類基準の変化により分類モデル２０に対する損失が減少するデータを、複数のクラスに含まれない未知クラスのデータとして検出する検出部１４と、を有する。
【選択図】図１

【特許請求の範囲】

【請求項1】

第１データセットを用いて学習済みの分類モデルであって、入力されたデータを複数のクラスのいずれかに分類する分類モデルを、前記第１データセットとは異なる第２データセットに基づき再学習する場合の前記分類モデルの分類基準の変化に対する寄与度が所定基準以上の１以上のデータを前記第２データセットから特定し、
特定された前記１以上のデータのうち、前記第２データセットに基づく再学習による前記分類基準の変化により前記分類モデルに対する損失が減少するデータを、前記複数のクラスに含まれない未知クラスのデータとして検出する
ことを含む処理をコンピュータに実行させるための情報処理プログラム。

【請求項2】

前記分類基準は、前記分類モデルの各クラスの境界を示す決定平面を特定する重みである請求項１記載の情報処理プログラム。

【請求項3】

前記第２データセットに基づき再学習する場合の前記分類モデルの分類基準の更新量を減少させるように前記第２データセットに含まれるデータの各々を移動させる場合の移動量を前記寄与度として算出する請求項１又は請求項２に記載の情報処理プログラム。

【請求項4】

特定された前記１以上のデータの各々を、前記第２データセットに基づく再学習による前記分類基準の変化を抑制する方向に移動させる場合に、前記損失の増加量がプラスのデータを、前記未知クラスのデータとして検出する請求項１～請求項３のいずれか１項に記載の情報処理プログラム。

【請求項5】

前記分類モデルが微分可能なモデルの場合、前記損失に対する前記分類基準の第１勾配の大きさを前記更新量として算出し、前記第１勾配の大きさに対する前記第２データセットに含まれるデータの各々の第２勾配の大きさを、前記移動量として算出する請求項３に記載の情報処理プログラム。

【請求項6】

前記第２勾配と、前記損失に対する前記１以上のデータの各々の第３勾配との内積がプラスとなるデータを、前記未知クラスのデータとして検出する請求項５に記載の情報処理プログラム。

【請求項7】

前記分類モデルによる、前記第２データセットに含まれる各データの分類結果に基づいて、前記第２データセットに含まれる各データに正解を付与し、前記分類モデルによる、前記第２データセットに含まれる各データの分類結果と前記正解との誤差を前記損失として算出する請求項１～請求項６のいずれか１項に記載の情報処理プログラム。

【請求項8】

第１データセットを用いて学習済みの分類モデルであって、入力されたデータを複数のクラスのいずれかに分類する分類モデルを、前記第１データセットとは異なる第２データセットに基づき再学習する場合の前記分類モデルの分類基準の変化に対する寄与度が所定基準以上の１以上のデータを前記第２データセットから特定する特定部と、
特定された前記１以上のデータのうち、前記第２データセットに基づく再学習による前記分類基準の変化により前記分類モデルに対する損失が減少するデータを、前記複数のクラスに含まれない未知クラスのデータとして検出する検出部と、
を含む情報処理装置。

【請求項9】

第１データセットを用いて学習済みの分類モデルであって、入力されたデータを複数のクラスのいずれかに分類する分類モデルを、前記第１データセットとは異なる第２データセットに基づき再学習する場合の前記分類モデルの分類基準の変化に対する寄与度が所定基準以上の１以上のデータを前記第２データセットから特定し、
特定された前記１以上のデータのうち、前記第２データセットに基づく再学習による前記分類基準の変化により前記分類モデルに対する損失が減少するデータを、前記複数のクラスに含まれない未知クラスのデータとして検出する
ことを含む処理をコンピュータが実行する情報処理方法。

【発明の詳細な説明】

【技術分野】

【0001】

開示の技術は、情報処理プログラム、情報処理装置、及び情報処理方法に関する。

【背景技術】

【0002】

入力されたデータを複数のクラスのいずれかに分類する分類モデルに入力されるデータに含まれる、学習に用いた学習データに含まれないクラスのデータを、未知クラスのデータとして検出するオープンセット認識（open set recognition）という技術が存在する。この技術の応用例としては、例えば、学習データに含まれないクラスのデータが分類モデルに入力された場合にエラーを返すことで、分類モデルの誤検出による深刻な問題が発生する前に処理を中断することが考えられる。また、他の応用例として、学習済みのクラスと未学習のクラスとを分割し、未学習のクラスのデータに対してのみラベル付けを行い、専用の分類モデルを作成することで逐次学習を実現することが考えられる。

【0003】

オープンセット認識に関する技術として、例えば、新たな対象データが未知の分類の対象データであるか否かを判定する情報処理装置が提案されている。この情報処理装置は、新たな対象データから特徴を抽出して特徴データを生成する。また、この情報処理装置は、分類済み対象データ及び新たな対象データからなる対象データの集合を、分類済み対象データ及び新たな対象データの特徴データに基づいて、分類済み対象データが分類されている分類の数＋１のクラスタにクラスタリングする。そして、情報処理装置は、クラスタリングの結果、新たな対象データのみを含むクラスタが現れた場合に、新たな対象データの分類を問い合わせるための出力を行う。

【先行技術文献】

【特許文献】

【0004】

【特許文献1】国際公開第２０１８／１２２９３１号

【発明の概要】

【発明が解決しようとする課題】

【0005】

機械学習済みの分類モデルの適用時には、その分類モデルの機械学習に利用した学習データが残っていない場合がある。例えば、顧客データを用いたビジネスの場では、ある顧客データを長期に保持したり、その顧客データを用いた機械学習済みの分類モデルを別の顧客のタスクに使い回したりすることは、契約上や情報漏えいのリスクの観点から認められない場合が多い。そして、分類モデルの機械学習後、学習データを返却し、分類モデルのみを保持する場合がある。このような場合、従来技術の方法では、適用時のデータセットから未知クラスのデータを検出することができない。

【0006】

一つの側面として、開示の技術は、学習データセットが存在しない場合でも、対象データセットから分類モデルにおける未知クラスのデータを検出することを目的とする。

【課題を解決するための手段】

【0007】

一つの態様として、開示の技術において、分類モデルは、第１データセットを用いて学習済みの分類モデルであって、入力されたデータを複数のクラスのいずれかに分類する分類モデルである。開示の技術は、分類モデルを、前記第１データセットとは異なる第２データセットに基づき再学習する場合の前記分類モデルの分類基準の変化に対する寄与度が所定基準以上の１以上のデータを前記第２データセットから特定する。そして、開示の技術は、特定された前記１以上のデータのうち、前記第２データセットに基づく再学習による前記分類基準の変化により前記分類モデルに対する損失が減少するデータを、前記複数のクラスに含まれない未知クラスのデータとして検出する。

【発明の効果】

【0008】

一つの側面として、学習データセットが存在しない場合でも、対象データセットから分類モデルにおける未知クラスのデータを検出することができる、という効果を有する。

【図面の簡単な説明】

【0009】

【図1】情報処理装置の機能ブロック図である。

【図2】オープンセット認識を説明するための図である。

【図3】再学習前後の分類モデルの変化に基づいて未知クラスのデータを検出する場合を説明するための図である。

【図4】再学習前後の分類モデルの変化に基づいて未知クラスのデータを検出する場合の問題点を説明するための図である。

【図5】本実施形態の概要を説明するための図である。

【図6】分類モデルを説明するための図である。

【図7】損失の算出を説明するための図である。

【図8】重みの更新量の算出を説明するための図である。

【図9】移動量の算出を説明するための図である。

【図10】未知クラスのデータの検出を説明するための図である。

【図11】情報処理装置として機能するコンピュータの概略構成を示すブロック図である。

【図12】情報処理の一例を示すフローチャートである。

【図13】情報処理の具体例を説明するための図である。

【図14】情報処理の具体例を説明するための図である。

【図15】情報処理の具体例を説明するための図である。

【図16】情報処理の具体例を説明するための図である。

【図17】情報処理の具体例を説明するための図である。

【図18】情報処理の具体例を説明するための図である。

【図19】情報処理の具体例を説明するための図である。

【発明を実施するための形態】

【0010】

以下、図面を参照して、開示の技術に係る実施形態の一例を説明する。

【0011】

図１に示すように、本実施形態に係る情報処理装置１０には、入力されたデータを複数のクラスのいずれかに分類する機械学習済みの分類モデル２０が記憶されている。分類モデル２０は、学習データセットを用いて学習されたモデルである。また、情報処理装置１０には、学習データセットとは異なる対象データセットが入力される。対象データセットは、例えば、分類モデル２０を利用したシステムの適用時に入力されるデータセットとしてよい。そして、情報処理装置１０は、対象データセットから、学習データセットに含まれないクラス、いわゆる未知クラスのデータを検出し、検出結果を出力する。なお、学習データセットは、開示の技術の第１データセットの一例であり、対象データセットは、開示の技術の第２データセットの一例である。

【0012】

ここで、一般的なオープンセット認識の手法について説明する。図２に示すように、オープンセット認識では、学習データを特徴空間に射影し、特徴空間を複数の部分空間に分割する。特徴空間の作成及び分割は、既知のクラスラベル等を用いた２値分類器を複数組み合わせることで実現する場合が多い。図２の例では、学習データに基づいて、クラス１とクラス２及び３とを分割する境界（図２中のＡ）、クラス２とクラス１及び３とを分割する境界（図２中のＢ）、及びクラス３とクラス１及び２とを分割する境界（図２中のＣ）により特徴空間を分割している。また、図２では、網掛で示す部分は既知クラスの部分空間であり、白地で示す部分は未知クラスの部分空間である。そして、適用時に、既知クラスの部分空間に属さない対象データが未知クラスのデータとして検出される。

【0013】

上記の一般的なオープンセット認識の手法では、分類モデルの作成時に、適用時において未知クラスが入力されることを想定し、特別な手法で分類モデルを学習する必要がある。また、適用データに未知クラスのデータが含まれる場合には、未知クラスを想定しない通常の学習で作成された分類モデルを流用して、分類モデルを再学習することも考えられる。しかし、分類モデルの適用時には、学習データセットを返却しているなどして、手元に学習データセットが存在しない場合がある。このような場合、適用時の対象データセットに含まれる対象データのうち、いずれが未知クラスのデータであるかを判定することができないため、分類モデルの再学習を実行することができない。

【0014】

手元に学習データセットが存在せず、その学習データセットで学習された分類モデルが存在する場合、分類モデルと、対象データセットとに基づいて、対象データセットから未知クラスのデータを検出することが考えられる。

【0015】

例えば、対象データセットで分類モデルを再学習した場合において、図３に示すように、再学習前後での分類モデルにおける各クラスの境界を示す決定平面の変化が大きくなる場合には、学習データセットと対象データセットとの差異も大きい可能性が高い。そこで、図３のＡに示すように、再学習した場合にどの程度分類モデルが変化しそうかを見積もる。具体的には、対象データセットに対する損失が現在の分類モデルの重みに与える影響を示す指標を用いて、再学習した場合に分類モデルが変化するか否かを判定する。そして、図３のＢに示すように、個々の対象データを移動させて、再学習する場合の分類モデルの変化を打ち消すことを考えた場合、移動量が大きくなる対象データを、未知クラスのデータとして検出することが考えられる。

【0016】

しかし、分類モデルの変化を打ち消すように対象データを移動させる場合、図４に示すように、実際の未知クラスのデータ（図４中の黒丸）だけでなく、分類モデルの変化が大きい部分の近傍の、既知クラスの対象データの移動量も大きくなる場合がある。この場合、未知クラスのデータを精度良く検出することができない。

【0017】

そこで、本実施形態では、対象データセットで再学習する場合の分類モデルの変化に対する対象データの性質の違いに基づいて、未知クラスのデータを検出する。具体的には、図５に示すように、未知クラスのデータを含む対象データには、以下のような性質（１）を持つデータと、性質（２）を持つデータとが存在する。なお、下記の損失は、対象データと決定平面との距離が近いほど大きくなる値である。
（１）分類モデルの変化により損失が増加するデータ
（分類モデルの変化を抑制する方向に移動させる場合に損失が増加するデータ）
（２）分類モデルの変化により損失が減少するデータ
（分類モデルの変化を抑制する方向に移動させる場合に損失が減少するデータ）

【0018】

未知クラスのデータは、上記の性質（２）を持つデータである。本実施形態では、このことを利用して、未知クラスのデータを精度良く検出する。以下、本実施形態に係る情報処理装置の機能部について詳述する。

【0019】

情報処理装置１０は、機能的には、図１に示すように、特定部１２と、検出部１４とを含む。

【0020】

特定部１２は、対象データセットに基づき再学習する場合の、分類モデル２０の決定平面を特定する重みの変化に対する寄与度が所定基準以上の１以上の対象データを、対象データセットから特定する。なお、重みは、開示の技術の分類基準の一例である。具体的には、特定部１２は、対象データセットに基づき再学習する場合の分類モデル２０の重みの更新量を減少させるように対象データセットに含まれる対象データの各々を移動させる場合の移動量を寄与度として算出する。

【0021】

より具体的には、図６に示すように、分類モデル２０は、学習データセットに含まれる学習データの各々を入力データｘとして分類モデル２０に入力した場合の損失Ｌの合計ΣＬを最小化するように重みｗが最適化されている。損失Ｌは、分類モデル２０の出力ｙ’と、学習データに付与されている正解のラベルｙとの分類誤差である。

【0022】

特定部１２は、図７に示すように、対象データセットに含まれる対象データの各々を入力データｘとして分類モデル２０に入力した場合の、出力ｙ’と正解のラベルｙとの分類誤差である損失Ｌの合計ΣＬを算出する。特定部１２は、出力ｙ’に基づくラベルを、対象データの正解ラベルｙとして用いてよい。具体的には、出力ｙ’が、入力データが分類モデル２０で分類可能な各クラスに属する確率であるとする。この場合、特定部１２は、対象データ（入力データｘ）に対する出力ｙ’が示す確率が最大のクラスを示すラベルを、その対象データについての正解ラベルｙとしてよい。

【0023】

また、特定部１２は、分類モデル２０の変化を表す指標として、損失の合計ΣＬに対する重みの更新量｜Δｗ｜を算出する。また、特定部１２は、分類モデル２０が、ニューラルネットワークのような微分可能なモデルの場合、対象データセットに対する分類モデル２０の損失が重みに与える影響を示す勾配の大きさを更新量として算出してもよい。具体的には、特定部１２は、図８に示すように、分類モデル２０の重みｗの、損失の合計ΣＬに対する勾配∇ｗＬをｂａｃｋｐｒｏｐａｇａｔｉｏｎで求め、勾配の大きさ｜∇ｗＬ｜を算出する。

【0024】

また、特定部１２は、個々の対象データ（入力データｘ）を動かして、重みの更新量｜Δｗ｜を減少させる場合の対象データの移動量｜Δｘ｜を、対象データセットで再学習した場合の分類モデル２０の変化への寄与度とみなす。そして、特定部１２は、移動量が予め定めた閾値以上の対象データを特定する。また、特定部１２は、分類モデル２０が微分可能なモデルの場合、損失に対する重みの勾配の大きさに対する対象データの各々の勾配の大きさを、移動量として算出してもよい。具体的には、特定部１２は、図９に示すように、勾配の大きさ｜∇ｗＬ｜に対する対象データ（入力データｘ）の勾配∇ｘ｜∇ｗＬ｜及びその大きさ｜∇ｘ｜∇ｗＬ｜｜を個々の対象データについて算出する。算出には、ｂａｃｋｐｒｏｐａｇａｔｉｏｎ（ｄｏｕｂｌｅ ｂａｃｋｐｒｏｐａｇａｔｉｏｎ）を適用してよい。

【0025】

検出部１４は、特定部１２により特定された１以上のデータのうち、対象データセットに基づく再学習による重みの変化により分類モデル２０に対する損失が減少する対象データを、未知クラスのデータとして検出する。具体的には、検出部１４は、特定された１以上の対象データの各々を、再学習による分類モデル２０の変化を抑制する方向に移動させる場合に、損失の増加量がプラスとなる対象データを、未知クラスのデータとして検出する。

【0026】

より具体的には、検出部１４は、図１０に示すように、損失の合計ΣＬに対する対象データ（入力データｘ）の勾配∇ｘＬをｂａｃｋｐｒｏｐａｇａｔｉｏｎで求める。そして、検出部１４は、特定部１２により特定された対象データのうち、勾配∇ｘ｜∇ｗＬ｜及び勾配∇ｘＬが正の対象データを、未知クラスのデータとして検出する。また、特定部１２は、勾配∇ｘ｜∇ｗＬ｜と勾配∇ｘＬとの内積がプラスとなる対象データを、未知クラスのデータとして検出してもよい。検出部１４は、検出した未知クラスのデータを検出結果として出力する。

【0027】

情報処理装置１０は、例えば図１１に示すコンピュータ４０で実現されてよい。コンピュータ４０は、ＣＰＵ（Central Processing Unit）４１と、一時記憶領域としてのメモリ４２と、不揮発性の記憶部４３とを備える。また、コンピュータ４０は、入力部、表示部等の入出力装置４４と、記憶媒体４９に対するデータの読み込み及び書き込みを制御するＲ／Ｗ（Read/Write）部４５とを備える。また、コンピュータ４０は、インターネット等のネットワークに接続される通信Ｉ／Ｆ（Interface）４６を備える。ＣＰＵ４１、メモリ４２、記憶部４３、入出力装置４４、Ｒ／Ｗ部４５、及び通信Ｉ／Ｆ４６は、バス４７を介して互いに接続される。

【0028】

記憶部４３は、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、フラッシュメモリ等によって実現されてよい。記憶媒体としての記憶部４３には、コンピュータ４０を、情報処理装置１０として機能させるための情報処理プログラム５０が記憶される。情報処理プログラム５０は、特定プロセス５２と、検出プロセス５４とを有する。また、記憶部４３は、分類モデル２０を構成する情報が記憶される情報記憶領域６０を有する。

【0029】

ＣＰＵ４１は、情報処理プログラム５０を記憶部４３から読み出してメモリ４２に展開し、情報処理プログラム５０が有するプロセスを順次実行する。ＣＰＵ４１は、特定プロセス５２を実行することで、図１に示す特定部１２として動作する。また、ＣＰＵ４１は、検出プロセス５４を実行することで、図１に示す検出部１４として動作する。また、ＣＰＵ４１は、情報記憶領域６０から情報を読み出して、分類モデル２０をメモリ４２に展開する。これにより、情報処理プログラム５０を実行したコンピュータ４０が、情報処理装置１０として機能することになる。なお、プログラムを実行するＣＰＵ４１はハードウェアである。

【0030】

なお、情報処理プログラム５０により実現される機能は、例えば半導体集積回路、より詳しくはＡＳＩＣ（Application Specific Integrated Circuit）等で実現することも可能である。

【0031】

次に、本実施形態に係る情報処理装置１０の作用について説明する。学習データセットによる機械学習済みの分類モデル２０が情報処理装置１０に記憶され、情報処理装置１０に対象データセットが入力されると、情報処理装置１０において、図１２に示す情報処理が実行される。なお、情報処理は、開示の技術の情報処理方法の一例である。

【0032】

ステップＳ１０で、特定部１２が、情報処理装置１０に入力された対象データセットを取得する。次に、ステップＳ１２で、特定部１２が、対象データセットに含まれる各対象データを分類モデル２０に入力して得られる出力に基づいて、対象データにラベル付けする。そして、特定部１２が、対象データセットに含まれる対象データの各々を分類モデル２０に入力した場合の出力と正解のラベルとの分類誤差である損失の合計を算出し、損失の合計に対する分類モデル２０の重みの更新量を算出する。

【0033】

次に、ステップＳ１４で、特定部１２が、算出した重みの更新量を減少させるように対象データセットに含まれる対象データの各々を移動させる場合の移動量を算出する。次に、ステップＳ１６で、特定部１２が、算出した移動量が所定の閾値以上の対象データを特定する。閾値は、予め定めた値であってもよいし、移動量が大きい順に所定個の対象データを検出するような値を動的に定めてもよい。

【0034】

次に、ステップＳ１８で、検出部１４が、特定された対象データの各々について、再学習による分類モデル２０の変化を抑制する方向に移動させる場合の損失の増加量を算出する。次に、ステップＳ２０で、検出部１４が、算出した損失の増加量がプラスとなる対象データを、未知クラスのデータとして検出する。次に、ステップＳ２２で、検出部１４が、検出結果を出力し、情報処理は終了する。

【0035】

次に、簡易な例を用いて上記情報処理をより具体的に説明する。

【0036】

図１３に示すように、２次元平面上の点ｐ＝（ｘ，ｙ）からの距離が１となる平面を決定平面とし、ｐからの距離が１未満のデータを正例、１以上のデータを負例と分類するモデルを分類モデル２０とする。この分類モデル２０の学習では、以下の損失の合計ΣＬを最小化する。
ΣＬ＝Σ_ｉｅｘｐ（（｜｜ｐ－ａ_ｉ｜｜－１）ｃ_ｉ）／Ｎ
ただし、ａ_ｉはｉ番目の学習データの２次元座標、ｃ_ｉはｉ番目の学習データのラベル（正例：１、負例：－１）、Ｎは学習データセットに含まれる学習データの数である。また、図１４に、ｐからの距離ｄに応じた学習データ毎の損失を示す。

【0037】

この分類モデル２０における重みはｐである。図１５に示すように、学習データセットを用いた機械学習により最適化されたｐが（－０．５，０．０）であったとする。また、対象データセットに、以下の対象データａ１、ａ２、及びａ３が含まれるとする。
ａ１＝（０．０，０．０）
ａ２＝（１．０，０．０）
ａ３＝（０．０，１．０）

【0038】

この場合、図１６に示すように、ａ１に正例、ａ２及びａ３に負例のラベルが付与される。特定部１２が、分類モデル２０に対してこれらの対象データを入力した場合の損失Ｌに対する重みｐの更新量として、重みｐの勾配の大きさを｜｜（０．１３，０．２６）｜｜＝０．３０と算出する。図１７に示すように、重みｐの勾配は、対象データにより分類モデル２０が再学習される場合、ｐが変化しようとする向き及び大きさを表すベクトルである。なお、図１７では、勾配の－５倍を図示している。そして、特定部１２が、重みｐの勾配の大きさに対する各対象データの勾配及びその大きさを、下記に示すように算出する。
ａ１：｜｜（－０．０９，－０．３６）｜｜＝０．３７
ａ２：｜｜（－０．０９，０．１２）｜｜＝０．１５
ａ３：｜｜（－０．１３，－０．２６）｜｜＝０．３０

【0039】

図１８に示すように、重みｐの勾配の大きさに対する各対象データの勾配は、ｐの変化を抑制する場合に、対象データが移動しようとする向き及び大きさを表すベクトルである。なお、図１８では、勾配の－３倍を図示している。この場合において、例えば、閾値＝０．２とすると、特定部１２が、対象データａ１及びａ３を、未知クラスのデータの候補として特定する。

【0040】

そして、検出部１４が、損失Ｌに対する各対象データの勾配を、下記に示すように算出する。
ａ１：（０．２０，０．００）
ａ２：（－０．２０，０．００）
ａ３：（－０．１３，－０．２６）

【0041】

図１９に示すように、損失Ｌに対する各対象データの勾配は、損失を小さくするように対象データが移動しようとする向き及び大きさを表すベクトルである。なお、図１９では、勾配の－３倍を図示している。また、図１９では、未知クラスのデータの候補ではない対象データａ２についても合わせて表記している。

【0042】

検出部１４は、重みｐの勾配の大きさに対する各対象データの勾配と、損失Ｌに対する各対象データの勾配との内積を、未知クラスのデータの候補毎に算出する。
ａ１：（－０．０９，－０．３６）・（０．２０，０．００）
＝－０．０１８≦０
ａ３：（－０．１３，－０．２６）・（－０．１３，－０．２６）
＝０．０８５＞０
この場合、検出部１４が、内積がプラスの対象データａ３を、未知クラスのデータとして検出する。これにより、対象データセットで再学習する場合の分類モデル２０の変化への寄与度が大きく、かつ分類モデル２０の変化により損失が減少するデータ、すなわち、上述の性質（２）を持つデータを、未知クラスのデータとして検出することができる。

【0043】

以上説明したように、本実施形態に係る情報処理装置は、学習データセットを用いて学習済みの分類モデルを対象データセットに基づき再学習する場合の変化に対する寄与度が所定基準以上の１以上のデータを対象データセットから特定する。そして、情報処理装置は、特定された１以上のデータのうち、分類モデルの変化により損失が減少するデータを、未知クラスのデータとして検出する。これにより、学習データセットが存在しない場合でも、対象データセットから分類モデルにおける未知クラスのデータを検出することができる。

【0044】

なお、上記実施形態では、情報処理プログラムが記憶部に予め記憶（インストール）されている態様を説明したが、これに限定されない。開示の技術に係るプログラムは、ＣＤ－ＲＯＭ、ＤＶＤ－ＲＯＭ、ＵＳＢメモリ等の記憶媒体に記憶された形態で提供することも可能である。

【0045】

以上の実施形態に関し、さらに以下の付記を開示する。

【0046】

（付記１）
第１データセットを用いて学習済みの分類モデルであって、入力されたデータを複数のクラスのいずれかに分類する分類モデルを、前記第１データセットとは異なる第２データセットに基づき再学習する場合の前記分類モデルの分類基準の変化に対する寄与度が所定基準以上の１以上のデータを前記第２データセットから特定し、
特定された前記１以上のデータのうち、前記第２データセットに基づく再学習による前記分類基準の変化により前記分類モデルに対する損失が減少するデータを、前記複数のクラスに含まれない未知クラスのデータとして検出する
ことを含む処理をコンピュータに実行させるための情報処理プログラム。

【0047】

（付記２）
前記分類基準は、前記分類モデルの各クラスの境界を示す決定平面を特定する重みである付記１記載の情報処理プログラム。

【0048】

（付記３）
前記第２データセットに基づき再学習する場合の前記分類モデルの分類基準の更新量を減少させるように前記第２データセットに含まれるデータの各々を移動させる場合の移動量を前記寄与度として算出する付記１又は付記２に記載の情報処理プログラム。

【0049】

（付記４）
特定された前記１以上のデータの各々を、前記第２データセットに基づく再学習による前記分類基準の変化を抑制する方向に移動させる場合に、前記損失の増加量がプラスのデータを、前記未知クラスのデータとして検出する付記１～付記３のいずれか１項に記載の情報処理プログラム。

【0050】

（付記５）
前記分類モデルが微分可能なモデルの場合、前記損失に対する前記分類基準の第１勾配の大きさを前記更新量として算出し、前記第１勾配の大きさに対する前記第２データセットに含まれるデータの各々の第２勾配の大きさを、前記移動量として算出する付記３に記載の情報処理プログラム。

【0051】

（付記６）
前記第２勾配と、前記損失に対する前記１以上のデータの各々の第３勾配との内積がプラスとなるデータを、前記未知クラスのデータとして検出する付記５に記載の情報処理プログラム。

【0052】

（付記７）
前記分類モデルによる、前記第２データセットに含まれる各データの分類結果に基づいて、前記第２データセットに含まれる各データに正解を付与し、前記分類モデルによる、前記第２データセットに含まれる各データの分類結果と前記正解との誤差を前記損失として算出する付記１～付記６のいずれか１項に記載の情報処理プログラム。

【0053】

（付記８）
第１データセットを用いて学習済みの分類モデルであって、入力されたデータを複数のクラスのいずれかに分類する分類モデルを、前記第１データセットとは異なる第２データセットに基づき再学習する場合の前記分類モデルの分類基準の変化に対する寄与度が所定基準以上の１以上のデータを前記第２データセットから特定する特定部と、
特定された前記１以上のデータのうち、前記第２データセットに基づく再学習による前記分類基準の変化により前記分類モデルに対する損失が減少するデータを、前記複数のクラスに含まれない未知クラスのデータとして検出する検出部と、
を含む情報処理装置。

【0054】

（付記９）
前記分類基準は、前記分類モデルの各クラスの境界を示す決定平面を特定する重みである付記８記載の情報処理装置。

【0055】

（付記１０）
前記特定部は、前記第２データセットに基づき再学習する場合の前記分類モデルの分類基準の更新量を減少させるように前記第２データセットに含まれるデータの各々を移動させる場合の移動量を前記寄与度として算出する付記８又は付記９に記載の情報処理装置。

【0056】

（付記１１）
前記検出部は、特定された前記１以上のデータの各々を、前記第２データセットに基づく再学習による前記分類基準の変化を抑制する方向に移動させる場合に、前記損失の増加量がプラスのデータを、前記未知クラスのデータとして検出する付記８～付記１０のいずれか１項に記載の情報処理装置。

【0057】

（付記１２）
前記特定部は、前記分類モデルが微分可能なモデルの場合、前記損失に対する前記分類基準の第１勾配の大きさを前記更新量として算出し、前記第１勾配の大きさに対する前記第２データセットに含まれるデータの各々の第２勾配の大きさを、前記移動量として算出する付記１０に記載の情報処理装置。

【0058】

（付記１３）
前記検出部は、前記第２勾配と、前記損失に対する前記１以上のデータの各々の第３勾配との内積がプラスとなるデータを、前記未知クラスのデータとして検出する付記１２に記載の情報処理装置。

【0059】

（付記１４）
前記特定部は、前記分類モデルによる、前記第２データセットに含まれる各データの分類結果に基づいて、前記第２データセットに含まれる各データに正解を付与し、前記分類モデルによる、前記第２データセットに含まれる各データの分類結果と前記正解との誤差を前記損失として算出する付記８～付記１３のいずれか１項に記載の情報処理装置。

【0060】

（付記１５）
第１データセットを用いて学習済みの分類モデルであって、入力されたデータを複数のクラスのいずれかに分類する分類モデルを、前記第１データセットとは異なる第２データセットに基づき再学習する場合の前記分類モデルの分類基準の変化に対する寄与度が所定基準以上の１以上のデータを前記第２データセットから特定し、
特定された前記１以上のデータのうち、前記第２データセットに基づく再学習による前記分類基準の変化により前記分類モデルに対する損失が減少するデータを、前記複数のクラスに含まれない未知クラスのデータとして検出する
ことを含む処理をコンピュータが実行する情報処理方法。

【0061】

（付記１６）
前記分類基準は、前記分類モデルの各クラスの境界を示す決定平面を特定する重みである付記１５記載の情報処理方法。

【0062】

（付記１７）
前記第２データセットに基づき再学習する場合の前記分類モデルの分類基準の更新量を減少させるように前記第２データセットに含まれるデータの各々を移動させる場合の移動量を前記寄与度として算出する付記１５又は付記１６に記載の情報処理方法。

【0063】

（付記１８）
特定された前記１以上のデータの各々を、前記第２データセットに基づく再学習による前記分類基準の変化を抑制する方向に移動させる場合に、前記損失の増加量がプラスのデータを、前記未知クラスのデータとして検出する付記１５～付記１７のいずれか１項に記載の情報処理方法。

【0064】

（付記１９）
前記分類モデルが微分可能なモデルの場合、前記損失に対する前記分類基準の第１勾配の大きさを前記更新量として算出し、前記第１勾配の大きさに対する前記第２データセットに含まれるデータの各々の第２勾配の大きさを、前記移動量として算出する付記１７に記載の情報処理方法。

【0065】

（付記２０）
第１データセットを用いて学習済みの分類モデルであって、入力されたデータを複数のクラスのいずれかに分類する分類モデルを、前記第１データセットとは異なる第２データセットに基づき再学習する場合の前記分類モデルの分類基準の変化に対する寄与度が所定基準以上の１以上のデータを前記第２データセットから特定し、
特定された前記１以上のデータのうち、前記第２データセットに基づく再学習による前記分類基準の変化により前記分類モデルに対する損失が減少するデータを、前記複数のクラスに含まれない未知クラスのデータとして検出する
ことを含む処理をコンピュータに実行させるための情報処理プログラムを記憶した非一時的記憶媒体。

【符号の説明】

【0066】

１０ 情報処理装置
１２ 特定部
１４ 検出部
２０ 分類モデル
４０ コンピュータ
４１ ＣＰＵ
４２ メモリ
４３ 記憶部
４４ 入出力装置
４５ Ｒ／Ｗ部
４６ 通信Ｉ／Ｆ
４７ バス
４９ 記憶媒体
５０ 情報処理プログラム
５２ 算出プロセス
５４ 判定プロセス
５６ 検出プロセス
６０ 情報記憶領域

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】

【図17】

【図18】

【図19】