特許 7674283 機械学習データセット評価支援装置及び機械学習データセット評価支援方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2025-04-28

(45)【発行日】2025-05-09

(54)【発明の名称】機械学習データセット評価支援装置及び機械学習データセット評価支援方法

(51)【国際特許分類】

   G06N 20/00 20190101AFI20250430BHJP

   G06F 18/10 20230101ALI20250430BHJP

   G06F 18/214 20230101ALI20250430BHJP

【ＦＩ】

G06N20/00 130

G06F18/10

G06F18/214

【請求項の数】 10

(21)【出願番号】P 2022005461

(22)【出願日】2022-01-18

(65)【公開番号】P2023104464

(43)【公開日】2023-07-28

【審査請求日】2024-03-12

(73)【特許権者】

【識別番号】000005108

【氏名又は名称】株式会社日立製作所

(74)【代理人】

【識別番号】110000176

【氏名又は名称】弁理士法人一色国際特許事務所

(72)【発明者】

【氏名】來間 啓伸

(72)【発明者】

【氏名】明神 智之

(72)【発明者】

【氏名】佐藤 直人

(72)【発明者】

【氏名】野口 秀人

【審査官】新井 則和

(56)【参考文献】

【文献】国際公開第２０２０／２５９４１６（ＷＯ，Ａ１）

【文献】国際公開第２０２１／１１１８３２（ＷＯ，Ａ１）

【文献】特開２０２１－１７９８５９（ＪＰ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ２０／００

Ｇ０６Ｆ １８／１０

Ｇ０６Ｆ １８／２１４

(57)【特許請求の範囲】

【請求項1】

教師あり機械学習に用いる学習データセット及びラベル情報を保持する学習データセット保持部と、
所定の評価データセットを複数の学習済みＡＩモデルに入力し、複数の推論結果を得る推論実行部と、
前記複数の推論結果の間の差異を、前記複数の学習済みＡＩモデルそれぞれにおける推論結果の確信度及び推論結果の安定度から解析する差異解析部と、
前記差異の解析結果に基づいて、前記評価データセットを評価するデータ評価部と、
前記評価データセットの評価結果に基づいて前記学習データセット保持部に保持されている学習データセット及びラベル情報を編集する学習データセット編集部と、
を備えることを特徴とする機械学習データセット評価支援装置。

【請求項2】

前記解析結果を出力装置に表示する処理をさらに実行するものである、ことを特徴とする請求項１に記載の機械学習データセット評価支援装置。

【請求項3】

前記推論実行部は、前記複数の学習済みＡＩモデルとして、学習時に学習データセットないしモデル構造を変化させて訓練したＡＩモデルを用いる、ことを特徴とする請求項１に記載の機械学習データセット評価支援装置。

【請求項4】

前記推論実行部は、前記複数の学習済みＡＩモデルとして、推論時にモデル構造を変化させた学習済みＡＩモデルを用いる、ことを特徴とする請求項１に記載の機械学習データセット評価支援装置。

【請求項5】

前記推論実行部は、前記複数の学習済みＡＩモデルを逐次的に実行して複数の推論結果を得るものである、ことを特徴とする請求項１に記載の機械学習データセット評価支援装置。

【請求項6】

前記推論実行部は、前記複数の学習済みＡＩモデルを並列に実行して複数の推論結果を同時に得るものである、ことを特徴とする請求項１に記載の機械学習データセット評価支援装置。

【請求項7】

前記学習データセット編集部は、前記推論結果の確信度が所定の閾値より大きい評価データに類似しかつ評価対象データの推論結果と正解ラベルが異なる学習データを、前記学習データセットから削除する処理をさらに実行するものである、ことを特徴とする請求項１に記載の機械学習データセット評価支援装置。

【請求項8】

前記学習データセット編集部は、前記推論結果の確信度が所定の閾値より小さい評価データに類似する学習データを、前記学習データセットから削除する処理をさらに実行するものである、ことを特徴とする請求項１に記載の機械学習データセット評価支援装置。

【請求項9】

前記学習データセット編集部は、前記推論結果の確信度が所定の閾値より大きく、安定度が所定の閾値より小さい評価データに類似する学習データを生成し、前記学習データセットに追加する処理をさらに実行するものである、ことを特徴とする請求項１に記載の機械学習データセット評価支援装置。

【請求項10】

情報処理装置が、
教師あり機械学習に用いる学習データセット及びラベル情報を記憶装置で保持し、
所定の評価データセットを複数の学習済みＡＩモデルに入力し、複数の推論結果を得る処理と、前記複数の推論結果の間の差異を、前記複数の学習済みＡＩモデルそれぞれにお
ける推論結果の確信度及び推論結果の安定度から解析する処理と、前記差異の解析結果に基づいて、前記評価データセットを評価する処理と、前記評価データセットの評価結果に基づいて前記記憶装置に保持されている学習データセット及びラベル情報を編集する処理を、
実行することを特徴とする機械学習データセット評価支援方法。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、機械学習データセット評価支援装置及び機械学習データセット評価支援方法に関するものである。

【背景技術】

【0002】

ＩｏＴデータなど各種ビッグデータを活用した、様々な装置類の監視や制御、故障予知、或いは自動運転時の物体認識など、実に広範な分野で機械学習技術が導入されている。そうした分野での機械学習技術においては、人が正解データを付与するため学習精度が高く、学習速度も早い、教師あり機械学習が有用である。

【0003】

教師あり機械学習に際しては、実世界からデータを収集し、当該データがＡＩモデルに入力された際に期待する出力値、つまり正解ラベルを付与した学習データセット（訓練データとテストデータ）を作成する。このうち訓練データを教師データとしてＡＩモデルに学習させ、テストデータを使って学習済みＡＩモデルの精度を評価する。

【0004】

こうした機械学習に関連する従来技術としては、例えば、データの適切なクレンジング処理が困難であるといった課題を踏まえ、入力データから機械学習アルゴリズムに適した学習用データを生成するための学習データ生成装置（特許文献１参照）などが提案されている。

【0005】

この技術は、学習データを生成するために入力データに対してクレンジング処理を行う処理手段と、機械学習アルゴリズムを備え、前記機械学習アルゴリズムを用いて、学習データに基づいて学習モデルを生成する生成手段と、を有する学習データ生成装置であって、前記生成手段は、前記機械学習アルゴリズムとして、種類が異なる、複数の機械学習アルゴリズムを備え、前記処理手段は、入力データに対して、複数の前記機械学習アルゴリズムのそれぞれに対応して、第１のクレンジング処理を行うことを特徴とする学習データ生成装置である。

【先行技術文献】

【特許文献】

【0006】

【文献】特開２０２０－３８５１４号公報

【発明の概要】

【発明が解決しようとする課題】

【0007】

上述の学習データセットに望まれる要件は以下のとおりである。想定する入力データを学習データセットがカバーしていること、頑健（入力値の微小なずれに対して安定）なＡＩモデルが構成できること、及び、学習データに付与されているラベルが妥当であること、である。

【0008】

しかし、特段の工夫なく素朴に収集した学習データセットでは、学習の進行を制御することが困難である。そのため、意図しない学習が行われる可能性がある。例えば、学習データが不足するケース、正解ラベルが異なる学習データの不用意な近接が生じるケース、及び、学習意図とは異なる特徴が優勢となるケースが該当する。

【0009】

一方、従来技術によれば、学習データのクレンジングを機械学習アルゴリズムの特徴に基づいて行う構成となっている。そのため、生成された学習モデルによる推論の特性をフ
ィードバックする形での、学習データの洗練はできない。

【0010】

そこで本発明の目的は、不適切な学習や学習不足を回避する、洗練された学習データセットの構成を可能とする技術を提供することにある。

【課題を解決するための手段】

【0011】

上記課題を解決する本発明の機械学習データセット評価支援装置は、教師あり機械学習に用いる学習データセット及びラベル情報を保持する学習データセット保持部と、所定の評価データセットを複数の学習済みＡＩモデルに入力し、複数の推論結果を得る推論実行部と、前記複数の推論結果の間の差異を、前記複数の学習済みＡＩモデルそれぞれにおける推論結果の確信度及び推論結果の安定度から解析する差異解析部と、前記差異の解析結果に基づいて、前記評価データセットを評価するデータ評価部と、前記評価データセットの評価結果に基づいて前記学習データセット保持部に保持されている学習データセット及びラベル情報を編集する学習データセット編集部と、を備えることを特徴とする。

【0012】

また、本発明の機械学習データセット評価支援方法は、情報処理装置が、教師あり機械学習に用いる学習データセット及びラベル情報を記憶装置で保持し、所定の評価データセットを複数の学習済みＡＩモデルに入力し、複数の推論結果を得る処理と、前記複数の推論結果の間の差異を、前記複数の学習済みＡＩモデルそれぞれにおける推論結果の確信度及び推論結果の安定度から解析する処理と、前記差異の解析結果に基づいて、前記評価データセットを評価する処理と、前記評価データセットの評価結果に基づいて前記記憶装置に保持されている学習データセット及びラベル情報を編集する処理を、実行することを特徴とする。

【発明の効果】

【0013】

本発明によれば、不適切な学習や学習不足を回避する、洗練された学習データセットの構成が可能となる。

【図面の簡単な説明】

【0014】

【図1】本実施形態の学習データセット評価支援装置の機能構成の一例を示すブロック図である。

【図2】本実施形態の学習データセット評価支援装置のハードウェア構成例を示す図である。

【図3】本実施形態の学習データセット評価支援方法のフロー例を示す図である。

【図4】本実施形態における学習データセットを変化させて訓練したＡＩモデルを取得する処理のフロー図である。

【図5】本実施形態におけるモデル構造を変化させて訓練したＡＩモデルを取得する処理のフロー図である。

【図6】本実施形態における推論実行処理のフロー図であり、学習済みＡＩモデルの推論を順次実行する処理のフロー図である。

【図7】本実施形態における推論実行処理のフロー図であり、学習済みＡＩモデルの推論を並列に実行する処理のフロー図である。

【図8】本実施形態における推論実行処理のフロー図であり、推論時にモデルの構造を変化させたＡＩモデルを用いる処理のフロー図である。

【図9】本実施形態における推論結果差異解析処理のフロー図である。

【図10】本実施形態における推論結果の確信度と安定度の計算方法の一例を示す図である。

【図11】本実施形態における差異解析部の解析結果例を示す図である。

【図12】本実施形態におけるデータ評価処理のフロー図である。

【図13】本実施形態におけるデータ評価部が行う閾値設定処理の一例を示す図である。

【図14】本実施形態における学習データセット編集処理のフロー図である。

【図15】本実施形態における学習データセット編集処理部が行う類似データの判定方法の一例を示す図である。

【図16】本実施形態における類似データの生成方法の一例を示す図である。

【図17】実施例１における学習データセット評価支援装置の機能構成を示すブロック図である。

【図18】実施例１における評価データの例ならびに推論結果と差異解析結果の例を示す図である。

【図19】実施例１における高確信度の閾値の例、低確信度の閾値の例、低安定度の閾値の例を示す図である。

【図20】実施例１における評価データの評価結果の例を示す図である。

【図21】実施例１における学習データセット編集処理の例であり、学習データのラベルと推論結果が一致する場合を示す図である。

【図22】実施例１における学習データセット編集処理の例であり、学習データのラベルと推論結果が一致しない場合を示す図である。

【図23】実施例１における学習データセット編集処理の例を示す図である。

【図24】実施例１における学習データセット編集処理の例を示す図である。

【図25】実施例２における学習データセット評価支援装置の機能構成を示すブロック図である。

【図26】実施例２における推論結果の確信度の表示例を示す図である。

【図27】実施例２における推論結果の安定度の表示例を示す図である。

【図28】実施例２における高確信度の閾値の例、低確信度の閾値の例、低安定度の閾値の例を示す図である。

【図29】実施例２における評価データの評価結果の例を示す図である。

【発明を実施するための形態】

【0015】

＜機械学習データセット評価支援装置の構成例＞
以下に本発明の実施形態について図面を用いて詳細に説明する。図１は、本実施形態の機械学習データセット評価支援装置１００の機能構成例を示す図である。図１に示す機械学習データセット評価支援装置１００は、不適切な学習や学習不足を回避する、洗練された学習データセットの構成を可能とするコンピュータである。

【0016】

本実施形態の機械学習データセット評価支援装置１００は、図１で示すように、評価データセット保持部１１０、推論実行部１１１、学習済みＡＩモデル保持部１１２、差異解析部１１３、データ評価部１１４、学習データセット編集部１１５、及び、学習データセット保持部１１６を有している。

【0017】

このうち評価データセット保持部１１０は、評価データセット１２５を保持している。また、学習済みＡＩモデル保持部１１２は、学習済みＡＩモデル１１８を保持している。また、学習データセット保持部１１６は、学習データセット１２６及びラベル情報１２７を保持している。

【0018】

学習データセット１２６は、例えば、実世界から収集された訓練データである。また、ラベル情報１２７は、訓練データである学習データセットがＡＩモデルに入力されたときに期待する出力つまり正解ラベルの情報である。

【0019】

また、評価データセット１２５は、そうして学習が進んだＡＩモデルすなわち学習済みＡＩモデル１１８のそれぞれに入力する対象となる。その場合、学習済みＡＩモデル１１８から、複数の推論結果を得ることとなる。

【0020】

機械学習データセット評価支援装置１００は、具体的には、サーバ装置、パーソナルコンピュータなどを想定できる。

【0021】

＜ハードウェア構成＞
また、本実施形態の機械学習データセット評価支援装置１００のハードウェア構成は、図２に以下の如くとなる。

【0022】

すなわち機械学習データセット評価支援装置１００は、記憶装置１０１、メモリ１０３、演算装置１０４、入力装置１０５、出力装置１０６、および通信装置１０７を備える。

【0023】

このうち記憶装置１０１は、ＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）やハードディスクドライブなど適宜な不揮発性記憶素子で構成される。

【0024】

また、メモリ１０３は、ＲＡＭなど揮発性記憶素子で構成される。

【0025】

また、演算装置１０４は、記憶装置１０１に保持されるプログラム１０２をメモリ１０３に読み出すなどして実行し装置自体の統括制御を行なうとともに各種判定、演算及び制御処理を行なうＣＰＵである。

【0026】

また、入力装置１０５は、ユーザからのキー入力や音声入力を受け付けるキーボードやマウス、マイクといった装置である。

【0027】

また、出力装置１０６は、演算装置１０４での処理結果の出力を行うディスプレイやスピーカー等の装置である。

【0028】

また、通信装置１０７は、適宜なネットワークと接続して、ユーザ端末等との通信処理を担うネットワークインターフェイスカード等を想定する。ただし、機械学習データセット評価支援装置１００がスタンドアロンマシンである場合、本通信装置１０７は省略可能である。

【0029】

なお、記憶装置１０１内には、本実施形態の機械学習データセット評価支援装置として必要な機能を実装する為のプログラム１０２に加えて、評価データセット保持部１１０における評価データセット１２５、学習データセット保持部１１５における学習データセット１２６及びラベル情報１２７、学習済みＡＩモデル保持部１１２における学習済みＡＩモデル１１８が少なくとも記憶されている。ただし、これらについての詳細は後述する。

【0030】

また、プログラム１０２は、演算装置１０４により実行されることで、推論実行部１１１、差異解析部１１３、データ評価部１１４、及び学習データセット編集部１１５、の各機能を実装することになる。

【0031】

このうち推論実行部１１１は、評価データセット保持部１１０で保持する評価データセットを複数の学習済みＡＩモデル１１８に入力し、複数の推論結果を得るものである。

【0032】

なお、この推論実行部１１１は、複数の学習済みＡＩモデル１１８として、学習時に学習データセットないしモデル構造を変化させて訓練したＡＩモデルを用いる、ものとしてもよい。

【0033】

また、推論実行部１１１は、複数の学習済みＡＩモデルとして、推論時にモデル構造を変化させた学習済みＡＩモデルを用いる、ものとしてもよい。

【0034】

また、推論実行部１１１は、複数の学習済みＡＩモデルを逐次的に実行して複数の推論結果を得るものとしてもよい。

【0035】

また、推論実行部１１１は、複数の学習済みＡＩモデルを並列に実行して複数の推論結果を同時に得るものとしてもよい。

【0036】

また、差異解析部１１３は、上述の推論実行部１１１で得た複数の推論結果の間の差異を、複数の学習済みＡＩモデル１１８それぞれにおける推論結果の確信度及び推論結果の安定度から解析するものである。

【0037】

また、データ評価部１１４は、差異解析部１１３にて得た上述の差異の解析結果に基づいて、評価データセット１２５を評価するものである。

【0038】

また、学習データセット編集部１１５は、評価データセット１２５の評価結果に基づいて、学習データセット保持部１１６に保持されている学習データセット１２６及びラベル情報１２７を編集するものである。

【0039】

なお、上述の学習データセット編集部１１５は、推論実行部１１１による推論結果の確信度が所定の閾値より大きい評価データに類似しかつ評価対象データの推論結果と正解ラベルが異なる学習データを、学習データセット１２６から削除するものとしてもよい。

【0040】

また、学習データセット編集部１１５は、推論実行部１１１による推論結果の確信度が所定の閾値より小さい評価データに類似する学習データを、学習データセット１２６から削除するものとしてもよい。

【0041】

また、学習データセット編集部１１５は、推論実行部１１１による推論結果の確信度が所定の閾値より大きく、安定度が所定の閾値より小さい評価データに類似する学習データを生成し、学習データセット１２６に追加するものとしてもよい。

【0042】

なお、図１ではなく図２５に基づき後述するが、機械学習データセット評価支援装置１００は、上述の他にも、解析結果表示部１１７を有する。この解析結果表示部１１７は、差異解析部１１３での解析結果を出力装置１０６に表示するものである。

【0043】

＜フロー例＞
以下、本実施形態における機械学習データセット評価支援方法の実際手順について図に基づき説明する。以下で説明する機械学習データセット評価支援方法に対応する各種動作は、機械学習データセット評価支援装置１００がメモリ等に読み出して実行するプログラムによって実現される。そして、このプログラムは、以下に説明される各種の動作を行うためのコードから構成されている。

【0044】

図３は、本実施形態における機械学習データセット評価支援方法のフロー例を示す図である。この場合、機械学習データセット評価支援装置１００は、学習済みＡＩモデル１１８を取得する（３０１）。この学習済みＡＩモデル１１８は、記憶装置１０１の学習済みＡＩモデル保持部１１２で予め保持しているものである。

【0045】

続いて、機械学習データセット評価支援装置１００の推論実行部１１１は、評価データセット保持部１１０の評価データセット１２５から１つの評価データを、ステップ３０１で得ている学習済みＡＩモデル１１８に入力し、推論処理を実行する（３０２）。この推論処理の詳細は図４～図８に基づき後述する。

【0046】

次に、機械学習データセット評価支援装置１００の差異解析部１１３は、ステップ３０２での推論処理の結果の確信度と安定度を解析し、これを例えばメモリ１０３に記録する（３０３）。

【0047】

続いて、機械学習データセット評価支援装置１００は、ここまでのステップでの処理対象が、評価データセット１２５に含まれる未処理の評価データのうち最後の評価データであったか判定する（３０４）。

【0048】

上述の判定の結果、最後の評価データではない場合（３０４：ＮＯ）、機械学習データセット評価支援装置１００は、処理をステップ３０２に戻す。

【0049】

一方、上述の判定の結果、最後の評価データである場合（３０４：ＹＥＳ）、機械学習データセット評価支援装置１００のデータ評価部１１４は、当該評価データを評価し、その結果を、例えばメモリ１０３に記録する（３０５）。このデータ評価部１１４の処理の詳細は図１２などに基づき後述する。

【0050】

また、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、学習データセット保持部１１６の学習データセット１２６とラベル情報１２７を編集し（３０６）、本フローを終了する。この学習データセット編集部１１５の処理の詳細は、図１４などに基づき後述する。ここまでの処理により、不適切な学習や学習不足を回避する、洗練された学習データセットが生成された。

【0051】

＜推論実行部のフロー例１＞
続いて図４において、本実施形態の推論実行部１１１が、学習データセットを変化させた学習データセットによる学習で、複数のＡＩモデルを生成する処理のフロー例を示す。

【0052】

この場合、機械学習データセット評価支援装置１００の推論実行部１１１は、例えば、入力装置１０５から学習前ＡＩモデルを取得する（４０１）。

【0053】

続いて、機械学習データセット評価支援装置１００の推論実行部１１１は、引数ｉに１をセットする（４０２）。

【0054】

次に、機械学習データセット評価支援装置１００の推論実行部１１１は、学習データセット保持部１１５の学習データセット１２６から、複数の学習データを取得する（４０３）。

【0055】

続いて、機械学習データセット評価支援装置１００の推論実行部１１１は、学習データセット保持部１１５のラベル情報１２７から、上述のステップ４０３で得た学習データのラベルを取得する（４０４）。

【0056】

次に、機械学習データセット評価支援装置１００の推論実行部１１１は、ステップ４０３、ステップ４０４で得た学習データとラベルを教師データとして、ステップ４０１で得ている学習前ＡＩモデルを訓練する（４０５）。

【0057】

また、機械学習データセット評価支援装置１００の推論実行部１１１は、ステップ４０５での訓練で得た学習済みＡＩモデル１１８を学習済みＡＩモデル保持部１１２に格納する（４０６）。

【0058】

ここで機械学習データセット評価支援装置１００の推論実行部１１１は、引数ｉの値を
インクリメントし（４０７）、ステップ４０８に遷移する。

【0059】

次に、機械学習データセット評価支援装置１００の推論実行部１１１は、上述の引数ｉが予め定めた値Ｔを越えたか判定する（４０８）。

【0060】

上述の判定の結果、引数ｉの値がＴを越えていない場合（４０８：ＮＯ）、推論実行部１１１は、処理をステップ４０３に戻す。ここでステップ４０３に戻る場合、学習データセット１２６が含む学習データのうち未処理のものを次の学習対象とすることの他、学習データの追加、変更、削除を、所定ルールまたはユーザ操作に応じて実行して学習対象とすることも想定できる。

【0061】

一方、上述の判定の結果、引数ｉの値がＴを越えた場合（４０８：ＹＥＳ）、推論実行部１１１は、本フローを終了する。

【0062】

＜推論実行部のフロー例２＞
続いて図５において、本実施形態の推論実行部１１１が、モデル構造を変化させて訓練したＡＩモデルを取得する処理のフロー例を示す。

【0063】

この場合、機械学習データセット評価支援装置１００の推論実行部１１１は、例えば、入力装置１０５から学習前ＡＩモデルを取得する（５０１）。

【0064】

続いて、機械学習データセット評価支援装置１００の推論実行部１１１は、引数ｉに１をセットする（５０２）。

【0065】

次に、機械学習データセット評価支援装置１００の推論実行部１１１は、学習データセット保持部１１５の学習データセット１２６から、複数の学習データを取得する（５０３）。

【0066】

続いて、機械学習データセット評価支援装置１００の推論実行部１１１は、学習データセット保持部１１５のラベル情報１２７から、上述のステップ５０３で得た学習データのラベルを取得する（５０４）。

【0067】

次に、機械学習データセット評価支援装置１００の推論実行部１１１は、ステップ５０１で得ている学習前ＡＩモデルの構造を改変する（５０５）。この構造の改変は、例えば、ＡＩモデルを構成するニューラルネットワークのうち、所定層（例えば、中間層のうちの或る層）のノードの１つランダムに削除するか、当該ノードと他層の所定ノードとの間の１つのエッジを削除する、といったものを想定できる。

【0068】

また、機械学習データセット評価支援装置１００の推論実行部１１１は、ステップ５０５で構造を改変した学習前ＡＩモデルに、ステップ５０３、ステップ５０４で得ている学習データとラベルを教師データとして与えることで訓練する（５０６）。

【0069】

また、機械学習データセット評価支援装置１００の推論実行部１１１は、ステップ５０６での訓練で得た学習済みＡＩモデル１１８を学習済みＡＩモデル保持部１１２に格納する（５０７）。

【0070】

ここで機械学習データセット評価支援装置１００の推論実行部１１１は、引数ｉの値をインクリメントし（５０７）、ステップ５０８に遷移する。

【0071】

次に、機械学習データセット評価支援装置１００の推論実行部１１１は、上述の引数ｉ
が予め定めた値Ｔを越えたか判定する（５０９）。

【0072】

上述の判定の結果、引数ｉの値がＴを越えていない場合（５０９：ＮＯ）、推論実行部１１１は、処理をステップ５０５に戻す。一方、上述の判定の結果、引数ｉの値がＴを越えた場合（５０９：ＹＥＳ）、推論実行部１１１は、本フローを終了する。

【0073】

＜推論実行部のフロー例３＞
続いて図６において、本実施形態の推論実行部１１１による推論実行処理のフローであり、学習済みＡＩモデルの推論を順次実行する処理のフロー例を示す。

【0074】

この場合、機械学習データセット評価支援装置１００の推論実行部１１１は、評価データセット保持部１１０の評価データセット１２５から、評価データを１つ取得する（６０１）。

【0075】

続いて、機械学習データセット評価支援装置１００の推論実行部１１１は、学習済みＡＩモデル保持部１１２から、Ｔ個の学習済みＡＩモデル１１８を取得する（６０２）。

【0076】

次に、機械学習データセット評価支援装置１００の推論実行部１１１は、引数ｉの値として１をセットする（６０３）。

【0077】

続いて、機械学習データセット評価支援装置１００の推論実行部１１１は、ｋ番目の学習済みＡＩモデル１１８に、ステップ６０１で得ている評価データを入力して推論を実行する（６０４）。

【0078】

また、機械学習データセット評価支援装置１００の推論実行部１１１は、上述のステップ６０５での推論の結果を、例えばメモリ１０３に格納する（６０５）。

【0079】

また、機械学習データセット評価支援装置１００の推論実行部１１１は、引数ｉの値を１つインクリメントする（６０６）。

【0080】

続いて、機械学習データセット評価支援装置１００の推論実行部１１１は、上述の引数ｉの値がＴを越えたか判定する（６０７）。

【0081】

上述の判定の結果、引数ｉの値がＴを越えていない場合（６０７：ＮＯ）、推論実行部１１１は、処理をステップ６０４に戻す。

【0082】

一方、上述の判定の結果、引数ｉの値がＴを越えた場合（６０７：ＹＥＳ）、推論実行部１１１は本フローを終了する。

【0083】

＜推論実行部のフロー例４＞
続いて図７において、本実施形態における推論実行処理のフローであり、学習済みＡＩモデルの推論を並列に実行する処理のフロー例を示す。

【0084】

この場合、機械学習データセット評価支援装置１００は、評価データセット保持部１１０から評価データを１つ取得する（７０１）。

【0085】

続いて、機械学習データセット評価支援装置１００は、学習済みＡＩモデル保持部１１２からＴ個の学習済みＡＩモデル１１８を取得する（７０２）。

【0086】

次に、機械学習データセット評価支援装置１００は、ステップ７０２で得たＴ個の学習
済みＡＩモデル１１８を、推論実行部１１１に展開する（７０３）。

【0087】

続いて、機械学習データセット評価支援装置１００の推論実行部１１１は、ステップ７０３で展開したＴ個の学習済みＡＩモデル１１８に、ステップ７０１で得ている評価データを入力して推論を実行する（７０４）。

【0088】

次に、機械学習データセット評価支援装置１００の推論実行部１１１は、ステップ７０４での推論の結果を、例えばメモリ１０３に格納し（７０５）、本フローを終了する。

【0089】

＜推論実行部のフロー例５＞
続いて図８において、本実施形態における推論実行処理のフローであり、推論時にモデルの構造を変化させたＡＩモデルを用いる処理のフロー例を示す。

【0090】

この場合、機械学習データセット評価支援装置１００の推論実行部１１１は、評価データセット保持部１１０から評価データを１つ取得する（８０１）。

【0091】

また、機械学習データセット評価支援装置１００の推論実行部１１１は、学習済みＡＩモデル保持部１１２から学習済みＡＩモデル１１８を取得する（８０２）。

【0092】

次に、機械学習データセット評価支援装置１００の推論実行部１１１は、引数ｉの値として１をセットする（８０３）。

【0093】

続いて、機械学習データセット評価支援装置１００の推論実行部１１１は、ステップ８０２で得た学習済みＡＩモデル１１８の構成要素を一部不活性化する（８０４）。この場合、構成要素とは、例えば、ニューラルネットワークを構成するノードやエッジであり、一部不活性化とは、ノードの重み値をゼロにする措置やエッジを削除するといったものを想定できる。

【0094】

次に、機械学習データセット評価支援装置１００の推論実行部１１１は、ステップ８０４で一部不活性化の措置を施した学習済みＡＩモデル１１８に、ステップ８０１で得ている評価データを入力して推論を実行する（８０５）。

【0095】

また、機械学習データセット評価支援装置１００の推論実行部１１１は、ステップ８０５での推論の結果を、例えばメモリ１０３に格納する（８０６）。

【0096】

続いて、機械学習データセット評価支援装置１００の推論実行部１１１は、引数ｉの値をインクリメントし（８０７）、当該引数ｉの値が、予め定めたＴの値を越えたか判定する（８０８）。

【0097】

上述の判定の結果、引数ｉの値がＴを越えていない場合（８０８：ＮＯ）、推論実行部１１１は、処理をステップ８０４に戻す。

【0098】

一方、上述の判定の結果、引数ｉの値がＴを越えた場合（８０８：ＹＥＳ）、推論実行部１１１は、本フローを終了する。

【0099】

＜差異解析部のフロー例＞
続いて図９において、本実施形態の差異解析部１１３における、推論結果差異解析処理のフロー例を示す。また図１０に、本実施形態における推論結果の確信度と安定度の計算方法の一例を示す。

【0100】

この場合、機械学習データセット評価支援装置１００の差異解析部１１３は、推論実行部１１１によるＫ個の推論結果をメモリ１０３より取得する（９０１）。

【0101】

また、機械学習データセット評価支援装置１００の差異解析部１１３は、ステップ９０１で得た推論結果の確信度を計算し、例えば、メモリ１０３に格納する（９０２）。

【0102】

次に、機械学習データセット評価支援装置１００は、ステップ９０１で得た推論結果の安定度を計算し、例えば、メモリ１０３に格納し（９０３）、本フローを終了する。

【0103】

なお、上述の差異解析部１１３による確信度および安定度の計算手法としては、例えば、図１０で示すように、分類問題の推論結果を式１２０１とし、Ｔ個の学習済みＡＩモデル１１８の推論結果の確率の平均値の式１２０２とした場合、確信度は式１２０３で、また、安定度は式１２０４で算定できる。

【0104】

同様に、回帰問題の推論結果を式１２０５とし、Ｔ個の学習済みＡＩモデル１１８の推論結果の確率の平均値の式１２０６とした場合、確信度は式１２０７で、また、安定度は式１２０８で算定できる。

【0105】

なお、上述のように算定した確信度および安定度の結果は、例えば、図１１に示すような構成として出力できる。確信度の分布図１４０１において、各点は、１つの評価データに対する複数の推論結果について、クラスｋであると判定される確率の平均値と推論結果の確信度を表す。また、安定度の分布図１４０２において、各点は、１つの評価データに対する複数の推論結果について、クラスｋであると判定される確率の平均値と推論結果の安定度を表す。

【0106】

＜データ評価部のフロー例＞
続いて図１２において、本実施形態におけるデータ評価部１１４のフロー例を示す。この場合、機械学習データセット評価支援装置１００のデータ評価部１１４は、高確信度の閾値、低確信度の閾値、低安定度の閾値を設定する（１００１）。

【0107】

この場合の設定手法としては、例えば、予め与えられたデフォルト値を使用するもの、分類される評価データが一定割合になるよう機械的に設定するもの、データ密度の高い領域が低い領域と分離されるよう機械的に設定するもの、及び差異解析結果（図１１参照）を参照してオペレータが設定するもの、のいずれかを想定する。

【0108】

具体的な閾値設定の概念例としては、図１３の分布図１４０１に示すように、「１」の周辺のデータは推論結果が「クラスｋである」ことの確信度が高く、また、「２」の周辺のデータは推論結果が「クラスｋでない」ことの確信度が高いため、「１」と「２」の周辺のデータをカバーするよう高確信度の閾値を設定する。

【0109】

また、分布図１４０２で示すように、推論結果の確信度が低いデータは推論結果が安定せず、確実な認識が困難、という状況の場合、高確信度の閾値＞低確信度の閾値となる低確信度の閾値を確信度の低いデータの分布から設定する。

【0110】

また、分布図１４０３で示すように、推論結果の安定度が低いデータは学習によって推論結果が安定して収束する可能性がある状況の場合、安定度の低いデータの分布から低安定度の閾値を設定する。

【0111】

また、機械学習データセット評価支援装置１００のデータ評価部１１４は、確信度が高確信度の閾値（ステップ１００１で設定したもの）以上の評価データを抽出し記録する（
１００２）。

【0112】

次に、機械学習データセット評価支援装置１００のデータ評価部１１４は、確信度が低確信度の閾値（ステップ１００１で設定したもの）未満の評価データを抽出し記録する（１００３）。

【0113】

続いて、機械学習データセット評価支援装置１００のデータ評価部１１４は、安定度が低安定度の閾値（ステップ１００１で設定したもの）未満の評価データを抽出して記録し（１００４）、本フローを終了する。

【0114】

＜学習データセット編集部のフロー例＞
続いて図１４において、本実施形態における学習データセット編集部１１５での処理フロー例を示す。この場合、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、評価データセット保持部１１０から評価データを取得する（１１０１）。

【0115】

続いて、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、当該評価データが低確信度を示すものか判定する（１１０２）。

【0116】

上述の判定の結果、評価データが低確信度を示すものである場合（１１０２：ＹＥＳ）、学習データセット編集部１１５は、学習データセット保持部１１６の学習データセット１２６から、ステップ１１０１で得ている評価データに類似する全ての学習データを取得する（１１０９）。

【0117】

また、学習データセット編集部１１５は、学習データセット保持部１１６のラベル情報１２７から、ステップ１１０９で得ている学習データのラベルを取得し（１１１０）、処理をステップ１１１１に遷移させる。

【0118】

一方、上述の判定の結果、評価データは低確信度を示さないものである場合（１１０２：ＮＯ）、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、当該評価データが高確信度を示すものか判定する（１１０３）。

【0119】

上述の判定の結果、当該評価データが高確信度を示すものではない場合（１１０３：ＮＯ）、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、処理を１１１６に遷移させる。

【0120】

一方、上述の判定の結果、評価データが高確信度を示すものである場合（１１０３：ＹＥＳ）、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、当該評価データが低安定度を示すものか判定する（１１０４）。

【0121】

上述の判定の結果、当該評価データが低安定度を示すものではない場合（１１０４：ＮＯ）、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、学習データセット保持部１１６の学習データセット１２６から、当該評価データに類似する全ての学習データを取得する（１１０５）。

【0122】

なお、上述の「類似」について判定する手法としては、例えば、図１５で示す式１５０１及び式１５０２を用いたものを想定できる。或いは、図１６で示すように、類似するデータとその類似度を学習データとして学習させたＡＩモデルを用意し、類似度を判定する構成１５０３も想定できる。

【0123】

続いて、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、学習データセット保持部１６のラベル情報１２７から、ステップ１１０５で得ている学習データのラベルを取得する（１１０６）。

【0124】

また、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、ステップ１１０６で取得したラベルと、ステップ１１０１で得ている評価データの推論結果を比較する（１１０７）。

【0125】

上述の比較の結果、上述のラベルと推論結果が一致する場合（１１０８：ＹＥＳ）、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、処理をステップ１１１６に遷移させる。

【0126】

他方、上述の判定の結果、ラベルと推論結果が一致しない場合（１１０８：ＮＯ）、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、学習データセット保持部１１６の学習データセット１２６から、当該学習データを削除する（１１１１）。

【0127】

また、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、学習データセット保持部１１６のラベル情報１２７から、当該学習データのラベルを削除し（１１１２）、処理をステップ１１１６に遷移させる。

【0128】

こうした、評価データにおける確信度と安定度が高いケースにおいて、当該評価データと類似の学習データのラベルと評価データの推論結果が一致しない場合、当該学習データやラベルの削除処理を行うことで、正解ラベルが不適切な学習データの排除が可能となる（図２２参照）。なお、学習データセット編集部１１５は、削除する学習データやラベルの情報を、出力装置１０６にて表示しても良い。

【0129】

一方、評価データにおける確信度が低いケースにおいて、正解ラベルが異なる学習データの不用意な近接の排除、学習意図とは異なる特徴量が優勢な学習データの排除が可能となる（図２３参照）。なお、学習データセット編集部１１５は、削除する学習データやラベルの情報を、出力装置１０６にて表示しても良い。

【0130】

また、評価データにおける確信度が高く、安定度が低いケースにおいて、不足している学習データの補足が可能となる（図２４参照）。なお、学習データセット編集部１１５は、補足する学習データの情報を、出力装置１０６にて表示しても良い。

【0131】

ここで、上述の処理１１０４での判定の結果、評価データが低安定度を示すものである場合（１１０４：ＹＥＳ）、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、当該評価データに類似するデータを生成する（１１１３）。

【0132】

なお、この類似するデータの生成は、図１６で示すように、生成元のデータの特徴量を微小変化させたデータを生成する手法１６０１、生成元のデータを微小回転、変形、変色させたデータを生成する手法１６０２、及びデータ生成ニューラルネットワークを利用してデータを生成する手法１６０３、などを想定できる。

【0133】

また、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、学習データセット保持部１１６の学習データセット１２６に、ステップ１１１３で生成した学習データを追加する（１１１４）。

【0134】

続いて、機械学習データセット評価支援装置１００の学習データセット編集部１１５は
、学習データセット保持部１１６のラベル情報１２７に、ステップ１１１３で生成した学習データに関するラベルを追加し（１１１５）、処理をステップ１１１６に遷移させる。

【0135】

また、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、評価データセット１２５の評価データのうち未処理のものが残っていないか判定し（１１１６）、未処理のものが残っている、すなわち今次のフローでの処理対象とした評価データが最後の評価データではない場合（１１１６：ＮＯ）、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、処理を１１０１に戻す。

【0136】

一方、上述の判定の結果、未処理のものが残っていない、すなわち今次のフローでの処理対象とした評価データが最後の評価データであった場合（１１１６：ＹＥＳ）、機械学習データセット評価支援装置１００の学習データセット編集部１１５は、本フローを終了する。

【0137】

＜具体例：実施例１＞
続いて、より具体的な例に沿って本実施形態の機械学習データセット評価支援技術について説明する。図１７は、実施例１における機械学習データセット評価支援装置１００の機能構成を示すブロック図である。

【0138】

基本的な構成については図１で示したものと同様であり、異なる部分は、推論実行部１１１における学習済みＡＩモデル保持部１１２で保持するＡＩモデルが、標識識別ＡＩモデル１１８Ａ、である点である。つまり、この場合の学習済みＡＩモデルは、道路標識のイメージから当該道路標識を判別するものである。

【0139】

そこで図１８にて、「６０」なる数値を示す道路標識に関する、１～４までの計４つの評価データ１８０１、その推論結果１８０２、及び差異解析結果１８０３の各例を示す。また、そうした差異解析結果等に関する閾値１９０１～１９０３を図１９にて例示する。

【0140】

また、各評価データに関する評価結果２００１を、図２０で示す。評価データ１の評価結果は、「確信度が高確信度の閾値以上、安定度が低安定度の閾値以上であり、確信度が高く安定度も高い」というものである。評価データ２の評価結果は、「確信度が低確信度の閾値未満であり、確信度が低い」というものである。評価データ３の評価結果は、「安定度が低安定度の閾値未満であり、安定度が低い」というものである。また、評価データ４の評価結果は、「確信度が高確信度の閾値以上、安定度が低安定度の閾値以上であり、確信度が高く安定度も高い」というものである。

【0141】

こうした評価結果を踏まえると、図２１で示すように評価データ１については、推論結果とラベルが一致する類似データを残す。また図２２で示すように評価データ４については、推論結果とラベルが一致しない類似データはラベルとともに削除する。また図２３で示すように評価データ２については、ラベルとともに学習データを削除する。また図２４で示すように評価データ３については、類似データを追加する。

【0142】

＜具体例：実施例２＞
また、機械学習データセット評価支援装置１００が、図２５で示すように解析結果表示部１１７をさらに備える形態についても想定できる。この場合、解析結果表示部１１７は、図２６で示すように、推論結果の確信度を示す分布図２６０１、２６０２を出力装置１０６に表示させる。同様に、解析結果表示部１１７は、図２７で示すように、推論結果の安定度を示す分布図２７０１、２７０２を出力装置１０６に表示させる。

【0143】

また、解析結果表示部１１７は、図２８で示すように、図２６及び図２７で示す推論結
果を踏まえた、高確信度、低確信度、及び低安定度の各閾値２８０１～２８０３を出力装置１０６に表示させる。

【0144】

また、解析結果表示部１１７は、図２９で示すように、評価データの評価結果２９０１を出力装置１０６に表示させる。

【0145】

以上、本発明を実施するための最良の形態などについて具体的に説明したが、本発明はこれに限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能である。

【0146】

こうした本実施形態によれば、学習済みＡＩモデルの推論特性を確信度と安定度から分析することで、不適切な学習の原因となるデータを除去し、学習が不足しているデータを追加した、学習データセットを構成可能である。ひいては、不適切な学習や学習不足を回避する、洗練された学習データセットの構成が可能となる。

【0147】

本明細書の記載により、少なくとも次のことが明らかにされる。すなわち、本実施形態の機械学習データセット評価支援装置において、前記解析結果を出力装置に表示する処理をさらに実行するものである、としてもよい。

【0148】

これによれば、複数の推論結果の間の差異を、推論結果の確信度及び推論結果の安定度の観点でユーザに明示できる。

【0149】

また、本実施形態の機械学習データセット評価支援装置において、前記推論実行部は、前記複数の学習済みＡＩモデルとして、学習時に学習データセットないしモデル構造を変化させて訓練したＡＩモデルを用いる、としてもよい。

【0150】

これによれば、推論結果として、学習データセットやモデル構造のゆらぎを踏まえたものを効率良く得られることとなる。

【0151】

また、本実施形態の機械学習データセット評価支援装置において、前記推論実行部は、前記複数の学習済みＡＩモデルとして、推論時にモデル構造を変化させた学習済みＡＩモデルを用いる、としてもよい。

【0152】

これによれば、１つのモデルを順次変化させることによるモデル数の削減、モデルの推論結果の履歴をモデルの変化に反映することによる推論結果の解析の高精度化を図ることができる。ひいては、不適切な学習や学習不足を回避する、より洗練された学習データセットの構成が可能となる。

【0153】

また、本実施形態の機械学習データセット評価支援装置において、前記推論実行部は、前記複数の学習済みＡＩモデルを逐次的に実行して複数の推論結果を得るものである、としてもよい。

【0154】

これによれば、一度に実行されるのが１つのモデルのみであることによる推論実行に要する計算資源の減少を図ることができる。

【0155】

また、本実施形態の機械学習データセット評価支援装置において、前記推論実行部は、前記複数の学習済みＡＩモデルを並列に実行して複数の推論結果を同時に得るものである、としてもよい。

【0156】

これによれば、複数の推論結果を同時に得ることによる処理時間の短縮を図ることができる。

【0157】

また、本実施形態の機械学習データセット評価支援装置において、前記学習データセット編集部は、前記推論結果の確信度が所定の閾値より大きい評価データに類似しかつ評価対象データの推論結果と正解ラベルが異なる学習データを、前記学習データセットから削除する処理をさらに実行するものである、としてもよい。

【0158】

これによれば、正解ラベルが不適切な学習データの排除を図ることができる。

【0159】

また、本実施形態の機械学習データセット評価支援装置において、前記学習データセット編集部は、前記推論結果の確信度が所定の閾値より小さい評価データに類似する学習データを、前記学習データセットから削除する処理をさらに実行するものである、としてもよい。

【0160】

これによれば、正解ラベルが異なる学習データの不用意な近接の排除、学習意図とは異なる特徴量が優勢な学習データの排除を図ることができる。

【0161】

また、本実施形態の機械学習データセット評価支援装置において、前記学習データセット編集部は、前記推論結果の確信度が所定の閾値より大きく、安定度が所定の閾値より小さい評価データに類似する学習データを生成し、前記学習データセットに追加する処理をさらに実行するものである、としてもよい。

【0162】

これによれば、不足している学習データの補足が可能となる。

【符号の説明】

【0163】

１００ 機械学習データセット評価支援装置
１０１ 記憶装置
１０２ プログラム
１０３ メモリ
１０４ 演算装置
１０５ 入力装置
１０６ 出力装置
１０７ 通信装置
１１０ 評価データセット保持部
１１１ 推論実行部
１１２ 学習済みＡＩモデル保持部
１１３ 差異解析部
１１４ データ評価部
１１５ 学習データセット編集部
１１６ 学習データセット保持部
１１７ 解析結果表示部
１１８ 学習済みＡＩモデル
１２５ 評価データセット
１２６ 学習データセット
１２７ ラベル情報

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】

【図17】

【図18】

【図19】

【図20】

【図21】

【図22】

【図23】

【図24】

【図25】

【図26】

【図27】

【図28】

【図29】