ホーム > 特許ランキング > 公立大学法人会津大学
特開2023-128758学習モデル置換プログラム、学習モデル置換装置、学習モデル置換方法及びニューラルネットワーク回路装置
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023128758
(43)【公開日】2023-09-14
(54)【発明の名称】学習モデル置換プログラム、学習モデル置換装置、学習モデル置換方法及びニューラルネットワーク回路装置
(51)【国際特許分類】
G06N 3/08 20230101AFI20230907BHJP
G06N 20/00 20190101ALI20230907BHJP
G06V 10/82 20220101ALI20230907BHJP
G06V 10/776 20220101ALI20230907BHJP
G06V 10/778 20220101ALI20230907BHJP
【ＦＩ】
G06N3/08
G06N20/00 130
G06V10/82
G06V10/776
G06V10/778
【審査請求】未請求
【請求項の数】10
【出願形態】ＯＬ
(21)【出願番号】P 2022033334
(22)【出願日】2022-03-04
【新規性喪失の例外の表示】特許法第３０条第２項適用申請有り （１）令和３年６月９日に２０２１ ５ｔｈ ＩＥＥＥ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｙｂｅｒｎｅｔｉｃｓ（ＣＹＢＣＯＮＦ）にて発表。 （２）令和３年６月９日にｈｔｔｐｓ：／／ｉｅｅｅｘｐｌｏｒｅ．ｉｅｅｅ．ｏｒｇ／ｄｏｃｕｍｅｎｔ／９４６４１５２にて発表。 （３）令和３年１１月２５日にＴｈｅ Ｎｉｎｔｈ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｓｙｍｐｏｓｉｕｍ ｏｎ Ｃｏｍｐｕｔｉｎｇ ａｎｄ Ｎｅｔｗｏｒｋｉｎｇ（ＣＡＮＤＡＲ２０２１）にて発表。 （４）令和３年１１月２５日にｈｔｔｐｓ：／／ｉｅｅｅｘｐｌｏｒｅ．ｉｅｅｅ．ｏｒｇ／ｄｏｃｕｍｅｎｔ／９６４３９１３にて発表。
【国等の委託研究の成果に係る記載事項】（出願人による申告）令和２年度、国立研究開発法人新エネルギー・産業技術総合開発機構、「ポスト５Ｇ情報通信システム基盤強化研究開発事業／先導研究（委託）／デジタルツイン高度化に向けた高精度測位・同期制御技術の研究開発」、産業技術力強化法第１７条の適用を受ける特許出願
(71)【出願人】
【識別番号】506301140
【氏名又は名称】公立大学法人会津大学
(74)【代理人】
【識別番号】100094525
【弁理士】
【氏名又は名称】土井 健二
(74)【代理人】
【識別番号】100094514
【弁理士】
【氏名又は名称】林 恒徳
(72)【発明者】
【氏名】富岡 洋一
(72)【発明者】
【氏名】齋藤 寛
(72)【発明者】
【氏名】小平 行秀
【テーマコード（参考）】
5L096
【Ｆターム（参考）】
5L096DA01
5L096DA02
5L096FA02
5L096GA17
5L096GA34
5L096GA51
5L096GA59
5L096HA11
5L096JA11
5L096KA04
(57)【要約】 （修正有）
【課題】畳み込みニューラルネットワークの演算器における性能密度の向上させる学習モデル置換プログラム、装置、方法等を提供する。
【解決手段】方法は、第１学習モデルＭに対する学習用画像データＤ０の入力に応じて、第１学習モデルの第１層Ｌに対して入力された複数の２次元入力特徴マップＩＭと各２次元出力特徴マップＯＭとから第１教師データＤＴを生成し、複数の２次元出力特徴マップ毎に、対応する第１教師データの機械学習を行うことで複数の決定木モデルからなる第２学習モデルＲを生成し、同マップのうち、第２学習モデルの判定精度が第１条件を満たす特定の２次元出力特徴マップＯＭを特定し、第１層における特定の２次元出力特徴マップの出力が第２学習モデルを用いることで行われるように、第１学習モデルを更新して第３学習モデルＭ１を生成し、第３学習モデルの判定精度が第２条件を満たす場合、第３学習モデルを第１学習モデルに置き換える。
【選択図】図３
【解決手段】方法は、第１学習モデルＭに対する学習用画像データＤ０の入力に応じて、第１学習モデルの第１層Ｌに対して入力された複数の２次元入力特徴マップＩＭと各２次元出力特徴マップＯＭとから第１教師データＤＴを生成し、複数の２次元出力特徴マップ毎に、対応する第１教師データの機械学習を行うことで複数の決定木モデルからなる第２学習モデルＲを生成し、同マップのうち、第２学習モデルの判定精度が第１条件を満たす特定の２次元出力特徴マップＯＭを特定し、第１層における特定の２次元出力特徴マップの出力が第２学習モデルを用いることで行われるように、第１学習モデルを更新して第３学習モデルＭ１を生成し、第３学習モデルの判定精度が第２条件を満たす場合、第３学習モデルを第１学習モデルに置き換える。
【選択図】図３
【特許請求の範囲】
【請求項1】
第１学習モデルに対する学習用画像データの入力に応じて、前記第１学習モデルを構成する第１層に対して入力された複数の２次元入力特徴マップと、前記第１層から出力された複数の２次元出力特徴マップとを取得し、
前記複数の２次元出力特徴マップごとに、前記複数の２次元入力特徴マップと各２次元出力特徴マップとから第１教師データを生成し、
前記複数の２次元出力特徴マップごとに、各２次元出力特徴マップに対応する前記第１教師データの機械学習を行うことによって、複数の決定木モデルからなる第２学習モデルを生成し、
前記複数の２次元出力特徴マップのうち、前記第２学習モデルの判定精度が第１条件を満たす特定の２次元出力特徴マップを特定し、
前記第１層における前記特定の２次元出力特徴マップの出力が前記第２学習モデルを用いることによって行われるように、前記第１学習モデルを更新して第３学習モデルを生成し、
前記第３学習モデルの前記判定精度が第２条件を満たす場合、前記第３学習モデルを前記第１学習モデルに置き換える、
処理をコンピュータに実行させることを特徴とする学習モデル置換プログラム。
前記複数の２次元出力特徴マップごとに、前記複数の２次元入力特徴マップと各２次元出力特徴マップとから第１教師データを生成し、
前記複数の２次元出力特徴マップごとに、各２次元出力特徴マップに対応する前記第１教師データの機械学習を行うことによって、複数の決定木モデルからなる第２学習モデルを生成し、
前記複数の２次元出力特徴マップのうち、前記第２学習モデルの判定精度が第１条件を満たす特定の２次元出力特徴マップを特定し、
前記第１層における前記特定の２次元出力特徴マップの出力が前記第２学習モデルを用いることによって行われるように、前記第１学習モデルを更新して第３学習モデルを生成し、
前記第３学習モデルの前記判定精度が第２条件を満たす場合、前記第３学習モデルを前記第１学習モデルに置き換える、
処理をコンピュータに実行させることを特徴とする学習モデル置換プログラム。
【請求項2】
請求項１において、
前記特定する処理では、
前記複数の２次元出力特徴マップのそれぞれに対応する前記第２学習モデルの前記判定精度を算出し、
前記複数の２次元出力特徴マップのうち、前記判定精度が最も高い前記第２学習モデルに対応する２次元出力特徴マップを前記特定の２次元出力特徴マップとして特定する、
ことを特徴とする学習モデル置換プログラム。
前記特定する処理では、
前記複数の２次元出力特徴マップのそれぞれに対応する前記第２学習モデルの前記判定精度を算出し、
前記複数の２次元出力特徴マップのうち、前記判定精度が最も高い前記第２学習モデルに対応する２次元出力特徴マップを前記特定の２次元出力特徴マップとして特定する、
ことを特徴とする学習モデル置換プログラム。
【請求項3】
請求項２において、
前記置き換える処理では、前記特定の２次元出力特徴マップに対応する前記判定精度が所定の閾値以上である場合に、前記第３学習モデルを前記第１学習モデルに置き換える、
ことを特徴とする学習モデル置換プログラム。
前記置き換える処理では、前記特定の２次元出力特徴マップに対応する前記判定精度が所定の閾値以上である場合に、前記第３学習モデルを前記第１学習モデルに置き換える、
ことを特徴とする学習モデル置換プログラム。
【請求項4】
請求項１において、
前記第２学習モデルを生成する処理では、前記複数の２次元出力特徴マップごとに、各２次元出力特徴マップに対応する前記第１教師データの一部の機械学習を行うことによって前記第２学習モデルを生成し、
前記特定する処理では、前記第１教師データの他の一部に含まれる前記複数の２次元入力特徴マップの入力に伴って前記第２学習モデルから出力された複数の２次元出力特徴マップと、前記第１教師データの他の一部に含まれる前記複数の２次元出力特徴マップとの一致率を、前記第２学習モデルの前記判定精度として算出する、
ことを特徴とする学習モデル置換プログラム。
前記第２学習モデルを生成する処理では、前記複数の２次元出力特徴マップごとに、各２次元出力特徴マップに対応する前記第１教師データの一部の機械学習を行うことによって前記第２学習モデルを生成し、
前記特定する処理では、前記第１教師データの他の一部に含まれる前記複数の２次元入力特徴マップの入力に伴って前記第２学習モデルから出力された複数の２次元出力特徴マップと、前記第１教師データの他の一部に含まれる前記複数の２次元出力特徴マップとの一致率を、前記第２学習モデルの前記判定精度として算出する、
ことを特徴とする学習モデル置換プログラム。
【請求項5】
請求項１において、さらに、
前記特定の２次元出力特徴マップ以外の前記複数の２次元出力特徴マップのうち、前記第２学習モデルが前記第１条件を満たす新たな特定の２次元出力特徴マップを特定し、
前記第１層における前記新たな特定の２次元出力特徴マップの出力が前記第２学習モデルを用いることによって行われるように、前記第３学習モデルを更新することによって新たな第３学習モデルを生成する、
処理をコンピュータに実行させ、
前記置き換える処理では、前記新たな第３学習モデルの前記判定精度が前記第２条件を
満たす場合、前記新たな第３学習モデルを前記第１学習モデルに置き換える、
ことを特徴とする学習モデル置換プログラム。
前記特定の２次元出力特徴マップ以外の前記複数の２次元出力特徴マップのうち、前記第２学習モデルが前記第１条件を満たす新たな特定の２次元出力特徴マップを特定し、
前記第１層における前記新たな特定の２次元出力特徴マップの出力が前記第２学習モデルを用いることによって行われるように、前記第３学習モデルを更新することによって新たな第３学習モデルを生成する、
処理をコンピュータに実行させ、
前記置き換える処理では、前記新たな第３学習モデルの前記判定精度が前記第２条件を
満たす場合、前記新たな第３学習モデルを前記第１学習モデルに置き換える、
ことを特徴とする学習モデル置換プログラム。
【請求項6】
請求項１において、
前記置き換える処理では、前記学習用画像データと前記学習用画像データに対応する正解ラベルとを含む第２教師データに含まれる前記学習用画像データの入力に伴って前記第３学習モデルから出力されたラベルと、前記第２教師データに含まれる前記正解ラベルとの一致率を、前記第３学習モデルの前記判定精度として算出する、
ことを特徴とする学習モデル置換プログラム。
前記置き換える処理では、前記学習用画像データと前記学習用画像データに対応する正解ラベルとを含む第２教師データに含まれる前記学習用画像データの入力に伴って前記第３学習モデルから出力されたラベルと、前記第２教師データに含まれる前記正解ラベルとの一致率を、前記第３学習モデルの前記判定精度として算出する、
ことを特徴とする学習モデル置換プログラム。
【請求項7】
請求項１において、
前記置き換える処理では、
前記学習用画像データと前記学習用画像データに対応する正解ラベルとを含む第２教師データの一部に含まれる前記学習用画像データの入力に伴って前記第３学習モデルから出力されたラベルと、前記第２教師データの一部に含まれる前記正解ラベルとの一致率を、前記第３学習モデルの前記判定精度として算出し、
前記第３学習モデルの前記判定精度が前記第２条件を満たす場合、前記第２教師データの他の一部の機械学習を行うことによって前記第３学習モデルの再学習を行い、
再学習を行った前記第３学習モデルの前記判定精度が第３条件を満たす場合、前記第３学習モデルを前記第１学習モデルに置き換える、
ことを特徴とする学習モデル置換プログラム。
前記置き換える処理では、
前記学習用画像データと前記学習用画像データに対応する正解ラベルとを含む第２教師データの一部に含まれる前記学習用画像データの入力に伴って前記第３学習モデルから出力されたラベルと、前記第２教師データの一部に含まれる前記正解ラベルとの一致率を、前記第３学習モデルの前記判定精度として算出し、
前記第３学習モデルの前記判定精度が前記第２条件を満たす場合、前記第２教師データの他の一部の機械学習を行うことによって前記第３学習モデルの再学習を行い、
再学習を行った前記第３学習モデルの前記判定精度が第３条件を満たす場合、前記第３学習モデルを前記第１学習モデルに置き換える、
ことを特徴とする学習モデル置換プログラム。
【請求項8】
第１学習モデルに対する学習用画像データの入力に応じて、前記第１学習モデルを構成する第１層に対して入力された複数の２次元入力特徴マップと、前記第１層から出力された複数の２次元出力特徴マップとを取得し、前記複数の２次元出力特徴マップごとに、前記複数の２次元入力特徴マップと各２次元出力特徴マップとから第１教師データを生成するデータ生成部と、
前記複数の２次元出力特徴マップごとに、各２次元出力特徴マップに対応する前記第１教師データの機械学習を行うことによって、複数の決定木モデルからなる第２学習モデルを生成する第１モデル生成部と、
前記複数の２次元出力特徴マップのうち、前記第２学習モデルの判定精度が第１条件を満たす特定の２次元出力特徴マップを特定するマップ特定部と、
前記第１層における前記特定の２次元出力特徴マップの出力が前記第２学習モデルを用いることによって行われるように、前記第１学習モデルを更新して第３学習モデルを生成する第２モデル生成部と、
前記第３学習モデルの前記判定精度が第２条件を満たす場合、前記第３学習モデルを前記第１学習モデルに置き換えるモデル置換部と、を有する、
ことを特徴とする学習モデル置換装置。
前記複数の２次元出力特徴マップごとに、各２次元出力特徴マップに対応する前記第１教師データの機械学習を行うことによって、複数の決定木モデルからなる第２学習モデルを生成する第１モデル生成部と、
前記複数の２次元出力特徴マップのうち、前記第２学習モデルの判定精度が第１条件を満たす特定の２次元出力特徴マップを特定するマップ特定部と、
前記第１層における前記特定の２次元出力特徴マップの出力が前記第２学習モデルを用いることによって行われるように、前記第１学習モデルを更新して第３学習モデルを生成する第２モデル生成部と、
前記第３学習モデルの前記判定精度が第２条件を満たす場合、前記第３学習モデルを前記第１学習モデルに置き換えるモデル置換部と、を有する、
ことを特徴とする学習モデル置換装置。
【請求項9】
第１学習モデルに対する学習用画像データの入力に応じて、前記第１学習モデルを構成する第１層に対して入力された複数の２次元入力特徴マップと、前記第１層から出力された複数の２次元出力特徴マップとを取得し、
前記複数の２次元出力特徴マップごとに、前記複数の２次元入力特徴マップと各２次元出力特徴マップとから第１教師データを生成し、
前記複数の２次元出力特徴マップごとに、各２次元出力特徴マップに対応する前記第１教師データの機械学習を行うことによって、複数の決定木モデルからなる第２学習モデルを生成し、
前記複数の２次元出力特徴マップのうち、前記第２学習モデルの判定精度が第１条件を満たす特定の２次元出力特徴マップを特定し、
前記第１層における前記特定の２次元出力特徴マップの出力が前記第２学習モデルを用
いることによって行われるように、前記第１学習モデルを更新して第３学習モデルを生成し、
前記第３学習モデルの前記判定精度が第２条件を満たす場合、前記第３学習モデルを前記第１学習モデルに置き換える、
処理をコンピュータが実行することを特徴とする学習モデル置換方法。
前記複数の２次元出力特徴マップごとに、前記複数の２次元入力特徴マップと各２次元出力特徴マップとから第１教師データを生成し、
前記複数の２次元出力特徴マップごとに、各２次元出力特徴マップに対応する前記第１教師データの機械学習を行うことによって、複数の決定木モデルからなる第２学習モデルを生成し、
前記複数の２次元出力特徴マップのうち、前記第２学習モデルの判定精度が第１条件を満たす特定の２次元出力特徴マップを特定し、
前記第１層における前記特定の２次元出力特徴マップの出力が前記第２学習モデルを用
いることによって行われるように、前記第１学習モデルを更新して第３学習モデルを生成し、
前記第３学習モデルの前記判定精度が第２条件を満たす場合、前記第３学習モデルを前記第１学習モデルに置き換える、
処理をコンピュータが実行することを特徴とする学習モデル置換方法。
【請求項10】
複数の２次元入力特徴マップに含まれるデータのうち、複数の２次元出力特徴マップのそれぞれに含まれる特定のデータの計算に用いる複数のデータを格納する記憶回路と、
前記記憶回路から取得した前記複数のデータに対する比較演算と分岐演算とを行うことによって、前記複数の２次元出力特徴マップのそれぞれに含まれる前記特定のデータを出力する複数の演算回路と、を有する、
ことを特徴とするニューラルネットワーク回路装置。
前記記憶回路から取得した前記複数のデータに対する比較演算と分岐演算とを行うことによって、前記複数の２次元出力特徴マップのそれぞれに含まれる前記特定のデータを出力する複数の演算回路と、を有する、
ことを特徴とするニューラルネットワーク回路装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、学習モデル置換プログラム、学習モデル置換装置、学習モデル置換方法及びニューラルネットワーク回路装置に関する。
【背景技術】
【0002】
近年、ＩｏＴ（Ｉｎｔｅｒｎｅｔ ｏｆ Ｔｈｉｎｇｓ）機器等を含むエッジデバイスに対して、畳み込みニューラルネットワーク（ＣＮＮ：Ｃｏｎｖｏｌｕｔｉｏｎａｌ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ）を用いた画像認識技術を実装する要望が増加している。そのため、近年では、例えば、畳み込みニューラルネットワークの推論処理における計算負荷の抑制（例えば、計算量の削減や処理の高速化）を目的として、畳み込みニューラルネットワークの量子化等の様々な手法が提案されている（非特許文献１参照）。
【先行技術文献】
【非特許文献】
【0003】
【非特許文献1】谷田部匠, 磯部宙, 富岡洋一, 齋藤寛 “決定木に基づくバイナリニューラルネットワークの近似計算に関する一検討”, 回路とシステムワークショップ work-in-progressセッション, pp. 121-123, 2020年8月.
【発明の概要】
【発明が解決しようとする課題】
【0004】
ここで、上記のような畳み込みニューラルネットワークの量子化では、特徴マップやフィルタの重みについての量子化を行うことにより、畳み込みニューラルネットワークの積和演算に用いられる演算器の単純化や小型化（すなわち、性能密度の向上）が行われている。
【0005】
しかしながら、近年では、演算器の製造プロセスの制限等の理由により、量子化等によるさらなる性能密度の向上の実現が困難な状況になっている。
【0006】
そこで、本発明の目的は、畳み込みニューラルネットワークの演算器における性能密度の向上を可能とする学習モデル置換プログラム、学習モデル置換装置、学習モデル置換方法及びニューラルネットワーク回路装置を提供することにある。
【課題を解決するための手段】
【0007】
上記目的を達成するための本発明における学習モデル置換プログラムは、第１学習モデルに対する学習用画像データの入力に応じて、前記第１学習モデルを構成する第１層に対して入力された複数の２次元入力特徴マップと、前記第１層から出力された複数の２次元出力特徴マップと取得し、前記複数の２次元出力特徴マップごとに、前記複数の２次元入力特徴マップと各２次元出力特徴マップとから第１教師データを生成し、前記複数の２次元出力特徴マップごとに、各２次元出力特徴マップに対応する前記第１教師データの機械学習を行うことによって、複数の決定木モデルからなる第２学習モデルを生成し、前記複数の２次元出力特徴マップのうち、前記第２学習モデルの判定精度が第１条件を満たす特定の２次元出力特徴マップを特定し、前記第１層における前記特定の２次元出力特徴マップの出力が前記第２学習モデルを用いることによって行われるように、前記第１学習モデルを更新して第３学習モデルを生成し、前記第３学習モデルの前記判定精度が第２条件を満たす場合、前記第３学習モデルを前記第１学習モデルに置き換える、処理をコンピュータに実行させる。
【発明の効果】
【0008】
本発明における学習モデル置換プログラム、学習モデル置換装置、学習モデル置換方法及びニューラルネットワーク回路装置によれば、畳み込みニューラルネットワークの演算器における性能密度の向上が可能になる。
【図面の簡単な説明】
【0009】
【発明を実施するための形態】
【0010】
以下、図面を参照して本発明の実施の形態について説明する。しかしながら、かかる実施の形態例が、本発明の技術的範囲を限定するものではない。
【0011】
［第１の実施の形態における情報処理装置１の構成例］
初めに、第１の実施の形態における情報処理装置１（以下、学習モデル置換装置１とも呼ぶ）の構成例について説明を行う。図１は、第１の実施の形態における情報処理装置１の構成例を示す図である。
初めに、第１の実施の形態における情報処理装置１（以下、学習モデル置換装置１とも呼ぶ）の構成例について説明を行う。図１は、第１の実施の形態における情報処理装置１の構成例を示す図である。
【0012】
情報処理装置１は、コンピュータ装置であって、例えば、汎用的なＰＣ（Ｐｅｒｓｏｎａｌ Ｃｏｍｐｕｔｅｒ）である。そして、情報処理装置１は、例えば、学習済の学習モデルを構成する要素の少なくとも一部の層を他の学習モデルの置き換える処理（以下、学習モデル置換処理とも呼ぶ）を行う。
【0013】
情報処理装置１は、汎用的なコンピュータ装置のハードウエア構成を有し、例えば、図１に示すように、プロセッサであるＣＰＵ１０１と、メモリ１０２と、通信インタフェー
ス１０３と、記憶媒体１０４と、専用回路１０５とを有する。各部は、バス１０６を介して互いに接続される。
ス１０３と、記憶媒体１０４と、専用回路１０５とを有する。各部は、バス１０６を介して互いに接続される。
【0014】
記憶媒体１０４は、例えば、学習モデル置換処理を行うためのプログラム（図示しない）を記憶するプログラム格納領域（図示しない）を有する。
【0015】
また、記憶媒体１０４は、例えば、学習モデル置換処理を行う際に用いられる情報を記憶する記憶領域（図示せず）を有する。なお、記憶媒体１０４は、例えば、ＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）やＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）であってよい。
【0016】
ＣＰＵ１０１は、例えば、記憶媒体１０４からメモリ１０２にロードされたプログラム（図示せず）を実行して学習モデル置換処理を行う。
【0017】
専用回路１０５は、例えば、ＦＰＧＡ（Ｆｉｅｌｄ Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）等である。そして、専用回路１０５は、後述するように、例えば、学習モデルを用いた推論処理（以下、単に推論処理とも呼ぶ）を実行する。
【0018】
通信インタフェース１０３は、例えば、インターネット網等のネットワークＮＷを介して作業者端末２と通信を行う。なお、作業者端末２は、例えば、ＰＣ（Ｐｅｒｓｏｎａｌ
Ｃｏｍｐｕｔｅｒ）であり、学習モデルの生成を行う作業者（以下、単に作業者とも呼ぶ）が必要な情報の入力等を行う端末であってよい。
Ｃｏｍｐｕｔｅｒ）であり、学習モデルの生成を行う作業者（以下、単に作業者とも呼ぶ）が必要な情報の入力等を行う端末であってよい。
【0019】
［第１の実施の形態の概略］
次に、第１の実施の形態の概略について説明を行う。図２から図５は、第１の実施の形態の概略を説明する図である。以下、図２を参照しながら、第１の実施の形態の概略について説明を行う。
次に、第１の実施の形態の概略について説明を行う。図２から図５は、第１の実施の形態の概略を説明する図である。以下、図２を参照しながら、第１の実施の形態の概略について説明を行う。
【0020】
図２に示すように、情報処理装置１は、情報管理部１１１、データ生成部１１２、第１モデル生成部１１３、マップ特定部１１４、第２モデル生成部１１５、モデル置換部１１６、モデル出力部１１７及びモデル制御部１１８を含む各機能を実現する。具体的に、情報管理部１１１、データ生成部１１２、第１モデル生成部１１３、マップ特定部１１４、第２モデル生成部１１５、モデル置換部１１６及びモデル出力部１１７は、学習モデル置換処理を実現する機能であり、モデル制御部１１８は、推論処理を実現する機能である。
【0021】
情報処理装置１の情報管理部１１１は、例えば、作業者が作業者端末２を介して入力した各種情報を記憶媒体１０４に記憶する。具体的に、情報管理部１１１は、例えば、図３に示す学習モデルＭ（以下、モデルＭまたは第１学習モデルＭとも呼ぶ）の入力を受け付けた場合、受け付けた学習モデルＭを記憶媒体１０４に記憶する。また、情報管理部１１１は、例えば、図３に示す画像データＤ０（以下、学習用画像データＤ０とも呼ぶ）の入力を受け付けた場合、受け付けた画像データＤ０を記憶媒体１０４に記憶する。
【0022】
情報処理装置１のデータ生成部１１２は、例えば、図３に示す教師データＤＴ（以下、第１教師データＤＴとも呼ぶ）を生成する。
【0023】
具体的に、データ生成部１１２は、図３に示すように、例えば、学習モデルＭに対する画像データＤ０の入力に応じて、学習モデルＭを構成する指定層Ｌ（以下、第１層とも呼ぶ）に対して入力された複数の２次元入力特徴マップＩＭと、指定層Ｌから出力された複数の２次元出力特徴マップＯＭ（指定層Ｌにおける複数のフィルタのそれぞれを用いることによって出力された複数の２次元出力特徴マップＯＭ）とを取得する。指定層Ｌは、例
えば、作業者によって予め指定された層であり、連続する複数の層からなるものであってもよい。なお、以下、複数の２次元出力特徴マップＯＭのそれぞれをチャネルとも呼ぶ。
えば、作業者によって予め指定された層であり、連続する複数の層からなるものであってもよい。なお、以下、複数の２次元出力特徴マップＯＭのそれぞれをチャネルとも呼ぶ。
【0024】
そして、データ生成部１１２は、例えば、複数の２次元出力特徴マップＯＭごとに、各２次元出力特徴マップＯＭに対応する複数の２次元入力特徴マップＩＭと各２次元出力特徴マップＯＭとから教師データＤＴを生成する。
【0025】
さらに具体的に、データ生成部１１２は、図３に示すように、例えば、複数の２次元出力特徴マップＯＭ内の画素ＯＰａ（例えば、「１」または「０」を示すデータ）と、画素ＯＰａの計算に用いた２次元入力特徴マップＩＭ内の複数の画素ＩＰａとが含まれるように、教師データＤＴの生成を行う。また、データ生成部１１２は、例えば、複数の２次元出力特徴マップＯＭ内の画素ＯＰｂと、画素ＯＰｂの計算に用いた２次元入力特徴マップＩＭ内の複数の画素ＩＰｂとが含まれるように、教師データＤＴの生成を行う。以下、画素ＯＰａと画素ＯＰｂとを含む複数の２次元出力特徴マップＯＭ内の画素を総称して画素ＯＰとも呼ぶ。また、以下、複数の画素ＩＰａと複数の画素ＩＰｂとを総称して複数の画素ＩＰまたは受容野ＩＰとも呼ぶ。
【0026】
すなわち、データ生成部１１２は、例えば、複数の２次元出力特徴マップＯＭ内の画素ＯＰごとに、各画素ＯＰと、各画素ＯＰの計算に用いた２次元入力特徴マップＩＭ内の複数の画素ＩＰとが含まれるように、教師データＤＴの生成を行う。
【0027】
なお、学習モデルＭには、例えば、複数の画像データＤ０が連続的に入力されるものであってよい。そして、データ生成部１１２は、例えば、複数の画像データＤ０のそれぞれに対応する複数の教師データＤＴを連続的に生成するものであってよい。
【0028】
第１モデル生成部１１３は、例えば、指定層Ｌから出力される複数の２次元出力特徴マップＯＭごとに、各２次元出力特徴マップＯＭに対応する教師データＤＴの学習（機械学習）を行うことによってランダムフォレストモデルＲ（以下、第２学習モデルＲとも呼ぶ）を生成する。
【0029】
具体的に、第１モデル生成部１１３は、図３に示すように、例えば、３枚の２次元入力特徴マップＩＭのそれぞれに含まれる１６個の画素ＩＰ（４×４個の画素ＩＰ）から、１枚の２次元出力特徴マップＯＭに含まれる１個の画素ＯＰを出力（予測）することが可能なランダムフォレストモデルＲを生成する。以下、ランダムフォレストモデルＲの具体例について説明を行う。
【0030】
［ランダムフォレストモデルＲの構成例］
初めに、ランダムフォレストモデルＲを構成する決定木モデルＴの構成例について説明を行う。図４は、ランダムフォレストモデルＲを構成する決定木モデルＴの構成例である。なお、以下、決定木モデルＴが４枚の２次元入力特徴マップＩＭのそれぞれに含まれる複数の画素ＩＰから１つの画素ＯＰを出力する学習モデルであるものとして説明を行う。また、以下、複数の画素ＩＰが１６個の画素（４×４の画素）であるものとして説明を行う。
初めに、ランダムフォレストモデルＲを構成する決定木モデルＴの構成例について説明を行う。図４は、ランダムフォレストモデルＲを構成する決定木モデルＴの構成例である。なお、以下、決定木モデルＴが４枚の２次元入力特徴マップＩＭのそれぞれに含まれる複数の画素ＩＰから１つの画素ＯＰを出力する学習モデルであるものとして説明を行う。また、以下、複数の画素ＩＰが１６個の画素（４×４の画素）であるものとして説明を行う。
【0031】
図４に示す決定木モデルＴは、例えば、Ｘ［２，０，０］に対応する画素（１枚目の２次元入力特徴マップＩＭに含まれる複数の画素ＩＰのうちの左から３番目であって上から１番目の画素）と、Ｘ［０，３，１］に対応する画素（２枚目の２次元入力特徴マップＩＭに含まれる複数の画素ＩＰのうちの左から１番目であって上から４番目の画素）と、Ｘ［３，２，０］に対応する画素（１枚目の２次元入力特徴マップＩＭに含まれる複数の画素ＩＰのうちの左から４番目であって上から３番目の画素）との入力に応じて、画素ＯＰ
の推論結果を出力する学習モデルである。
の推論結果を出力する学習モデルである。
【0032】
具体的に、図４に示す決定木モデルＴは、例えば、Ｘ［２，０，０］に対応する画素が「０」よりも大きくなく、Ｘ［０，３，１］に対応する画素が「０」よりも大きくないと判定した場合、画素ＯＰが「０」であると予測する。また、図４に示す決定木モデルＴは、例えば、Ｘ［２，０，０］に対応する画素が「０」よりも大きくなく、Ｘ［０，３，１］に対応する画素が「０」よりも大きいと判定した場合、画素ＯＰが「１」であると予測する。また、図４に示す決定木モデルＴは、例えば、Ｘ［２，０，０］に対応する画素が「０」よりも大きく、Ｘ［３，２，０］に対応する画素が「０」よりも大きくないと判定した場合、画素ＯＰが「１」であると予測する。さらに、図４に示す決定木モデルＴは、例えば、Ｘ［２，０，０］に対応する画素が「０」よりも大きく、Ｘ［３，２，０］に対応する画素が「０」よりも大きいと判定した場合、画素ＯＰが「０」であると予測する。
【0033】
そのため、Ｘ［２，０，０］に対応する画素が「０」であって、Ｘ［０，３，１］に対応する画素が「１」である場合、図４に示す決定木モデルＴは、図４に示すように、例えば、画素ＯＰの推論結果として「１」を出力する。
【0034】
【0035】
したがって、決定木モデルＴによる画素ＯＰの推論を行う場合、情報処理装置１は、積和演算による画素ＯＰの推論を行う場合よりも、演算回数を大幅に抑制することが可能になる。そのため、情報処理装置１では、この場合、専用回路１０５に搭載される演算器の小型化が可能になり、演算器の面積効率を向上させることが可能になる。
【0036】
次に、ランダムフォレストモデルＲの構成例について説明を行う。図５は、ランダムフォレストモデルＲの構成例である。
【0037】
図５に示すランダムフォレストモデルＲは、複数の決定木モデルＴによって構成される学習モデルであり、複数の決定木モデルＴからの出力結果の多数決によって推論処理を行う。具体的に、図５に示すランダムフォレストモデルＲは、例えば、決定木モデルＴａと決定木モデルＴｂと決定木モデルＴｃとのそれぞれからの出力結果の多数決によって推論処理を行う。
【0038】
これにより、情報処理装置１は、画像データＤ０の認識を行う際の判定精度を、図４で説明した決定木モデルＴのみを用いる場合よりも向上させることが可能になる。具体的に、情報処理装置１は、例えば、未知の画像データＤ０に対する判定精度（汎化性能）を、図４で説明した決定木モデルＴのみを用いる場合よりも向上させることが可能になる。
【0039】
図２に戻り、マップ特定部１１４は、例えば、指定層Ｌから出力される複数の２次元出力特徴マップＯＭのうち、ランダムフォレストモデルＲの判定精度が条件（以下、第１条件とも呼ぶ）を満たす２次元出力特徴マップＯＭ（以下、特定の２次元出力特徴マップＯＭとも呼ぶ）を特定する。
【0040】
第２モデル生成部１１５は、例えば、指定層Ｌにおける特定の２次元出力特徴マップＯＭの出力がランダムフォレストモデルＲを用いることによって行われるように、学習モデルＭを更新して学習モデルＭ１（以下、第３学習モデルＭ１とも呼ぶ）を生成する。
【0041】
モデル置換部１１６は、例えば、第２モデル生成部１１５が生成した学習モデルＭ１の
判定精度を算出する。そして、モデル置換部１１６は、例えば、算出した判定精度が第２条件を満たすか否かを判定する。その結果、算出した判定精度が第２条件を満たすと判定した場合、モデル置換部１１６は、例えば、学習モデルＭ１を学習モデルＭに置き換える。
判定精度を算出する。そして、モデル置換部１１６は、例えば、算出した判定精度が第２条件を満たすか否かを判定する。その結果、算出した判定精度が第２条件を満たすと判定した場合、モデル置換部１１６は、例えば、学習モデルＭ１を学習モデルＭに置き換える。
【0042】
モデル出力部１１７は、例えば、モデル置換部１１６が置き換えを行った学習モデルＭを出力する。具体的に、モデル出力部１１７は、例えば、モデル置換部１１６が置き換えを行った学習モデルＭを作業者端末２に出力する。
【0043】
モデル制御部１１８は、例えば、画像データＤ０（以下、検証用画像データＤ０とも呼ぶ）の入力を受け付けた場合、受け付けた画像データＤ０を学習モデルＭ（例えば、モデル出力部１１７が出力した学習モデルＭ）に入力する。そして、モデル制御部１１８は、例えば、画像データＤ０の入力に伴って学習モデルＭから出力されたラベル（例えば、画像データＤ０に映る対象物の種別についての推論結果を示す情報）を取得する。
【0044】
その後、モデル制御部１１８は、例えば、取得したラベルを出力する。具体的に、モデル制御部１１８は、例えば、取得したラベルを作業者端末２に出力する。
【0045】
すなわち、本実施の形態における情報処理装置１は、図３等に示すように、学習モデルＭに含まれる指定層Ｌを、指定層Ｌに入力される２次元入力特徴マップと指定層Ｌから出力される２次元出力特徴マップＯＭとから生成した教師データＤＴによって生成したランダムフォレストモデルＲに置き換えることによって、学習モデルＭ１を生成する。
【0046】
これにより、情報処理装置１は、例えば、学習モデルＭに近似し、かつ、学習モデルＭよりも画像データＤ０の認識に要する演算回数を抑制することが可能な学習モデルＭ１を生成することが可能になる。そのため、情報処理装置１は、例えば、学習モデルＭ１を学習モデルＭの代わりに用いることによって、判定精度の低下を抑制しながら、画像データＤ０の認識に要する計算負荷をより抑制することが可能になる。したがって、情報処理装置１は、例えば、判定精度の低下を抑制しながら、画像データＤ０の認識に伴う計算を行う演算器の小型化が可能になり、さらに、演算器の面積効率を向上させることが可能になる。
【0047】
なお、情報管理部１１１、データ生成部１１２、第１モデル生成部１１３、マップ特定部１１４、第２モデル生成部１１５、モデル置換部１１６及びモデル出力部１１７は、例えば、ＣＰＵ１０１とプログラムとが協働することによって実現されるものであってよい。また、モデル制御部１１８は、例えば、専用回路１０５において実現されるものであってよい。
【0048】
また、以下、推論処理を行う専用回路１０５が情報処理装置１に搭載されている場合について説明を行うが、専用回路１０５は、例えば、情報処理装置１と異なる情報処理装置に搭載されるものであってもよい。すなわち、本実施の形態における推論処理は、本実施の形態におけるモデル置換処理を行う情報処理装置１と異なる情報処理装置において実行されるものであってもよい。
【0049】
［第１の実施の形態の詳細］
次に、第１の実施の形態における学習モデル置換処理の詳細について説明を行う。図６から図１０は、第１の実施の形態における学習モデル置換処理の詳細を説明するフローチャート図である。また、図１１及び図１２は、第１の実施の形態における学習モデル置換処理の詳細を説明する図である。
次に、第１の実施の形態における学習モデル置換処理の詳細について説明を行う。図６から図１０は、第１の実施の形態における学習モデル置換処理の詳細を説明するフローチャート図である。また、図１１及び図１２は、第１の実施の形態における学習モデル置換処理の詳細を説明する図である。
【0050】
［学習モデル記憶処理］
初めに、学習モデル置換処理のうち、学習モデルＭを記憶媒体１０４に記憶する処理（以下、学習モデル記憶処理とも呼ぶ）について説明を行う。図６は、学習モデル記憶処理について説明する図である。
初めに、学習モデル置換処理のうち、学習モデルＭを記憶媒体１０４に記憶する処理（以下、学習モデル記憶処理とも呼ぶ）について説明を行う。図６は、学習モデル記憶処理について説明する図である。
【0051】
情報管理部１１１は、図６に示すように、例えば、学習モデルＭの入力を受け付けるまで待機する（Ｓ１のＮＯ）。具体的に、情報管理部１１１は、例えば、作業者が作業者端末２を介して学習モデルＭの入力を行うまで待機する。
【0052】
そして、学習モデルＭの入力を受け付けた場合（Ｓ１のＹＥＳ）、情報管理部１１１は、入力を受け付けた学習モデルＭを記憶媒体１０４に記憶する（Ｓ２）。
【0053】
［画像データ記憶処理］
次に、学習モデル置換処理のうち、画像データＤ０を記憶媒体１０４に記憶する処理（以下、画像データ記憶処理とも呼ぶ）について説明を行う。図７は、画像データ記憶処理について説明する図である。
次に、学習モデル置換処理のうち、画像データＤ０を記憶媒体１０４に記憶する処理（以下、画像データ記憶処理とも呼ぶ）について説明を行う。図７は、画像データ記憶処理について説明する図である。
【0054】
情報管理部１１１は、図７に示すように、例えば、画像データＤ０の入力を受け付けるまで待機する（Ｓ１１のＮＯ）。具体的に、情報管理部１１１は、例えば、作業者が作業者端末２を介して画像データＤ０の入力を行うまで待機する。
【0055】
そして、画像データＤ０の入力を受け付けた場合（Ｓ１１のＹＥＳ）、情報管理部１１１は、入力を受け付けた画像データＤ０を記憶媒体１０４に記憶する（Ｓ１２）。
【0056】
すなわち、情報管理部１１１は、例えば、画像データＤ０の入力を受け付けるごとに、受け付けた画像データＤ０を記憶媒体１０４に記憶することにより、複数の画像データＤ０を記憶媒体１０４に蓄積する。また、情報管理部１１１は、例えば、複数の画像データＤ０の入力を受け付けた場合、入力を受け付けた複数の画像データＤ０を記憶媒体１０４に記憶する。
【0057】
【0058】
情報管理部１１１は、図８に示すように、例えば、記憶媒体１０４に記憶した学習モデルＭを複製した学習モデルＭ０を記憶媒体１０４に記憶する（Ｓ２１）。
【0059】
そして、情報管理部１１１は、例えば、記憶媒体１０４に記憶した指定層リストＬＳに含まれる指定層Ｌのうち、Ｓ２２の処理においてまだ取得されていない指定層Ｌを１つ取得する（Ｓ２２）。指定層リストＬＳは、例えば、１以上の指定層Ｌを示す情報が格納されたリストである。
【0060】
具体的に、情報管理部１１１は、例えば、取得順序が学習モデルＭにおける先頭の層（浅い層）から最後の層（深い層）に向かうように、また、取得順序が学習モデルＭにおける最後の層（深い層）から先頭の層（浅い層）に向かうように、指定層リストＬＳに含まれる指定層Ｌの取得を行う。以下、指定層リストＬＳの具体例について説明を行う。
【0061】
［指定層リストＬＳの具体例］
図１１は、指定層リストＬＳの具体例について説明する図である。
図１１は、指定層リストＬＳの具体例について説明する図である。
【0062】
図１１に示す指定層リストＬＳは、例えば、１つ目の指定層Ｌが「Ｃｏｎｖ１」と「ＢａｔｃｈＮｏｒｍ１」と「Ｑｕａｎｔｉｚａｔｉｏｎ１」と「ＭａｘＰｏｏｌｉｎｇ１」とを含む４層からなり、２つ目の指定層Ｌが「Ｃｏｎｖ２」と「ＢａｔｃｈＮｏｒｍ２」と「Ｑｕａｎｔｉｚａｔｉｏｎ２」と「ＭａｘＰｏｏｌｉｎｇ２」とを含む４層からなり、３つ目の指定層Ｌが「Ｃｏｎｖ３」と「ＢａｔｃｈＮｏｒｍ３」と「Ｑｕａｎｔｉｚａｔｉｏｎ３」と「ＭａｘＰｏｏｌｉｎｇ３」とを含む４層からなることを示している。
【0063】
そのため、情報管理部１１１は、Ｓ２２の処理において、例えば、「Ｃｏｎｖ１」と「ＢａｔｃｈＮｏｒｍ１」と「Ｑｕａｎｔｉｚａｔｉｏｎ１」と「ＭａｘＰｏｏｌｉｎｇ１」とを含む４層を指定層Ｌとして取得する。
【0064】
図８に戻り、データ生成部１１２は、例えば、記憶媒体１０４に記憶した学習モデルＭに対して、記憶媒体１０４に記憶した複数の画像データＤ０を入力することにより、複数の画像データＤ０のそれぞれについて、Ｓ２２の処理で取得した指定層Ｌに対する複数の２次元入力特徴マップＩＭと複数の２次元出力特徴マップＯＭとを取得する（Ｓ２３）。
【0065】
具体的に、データ生成部１１２は、例えば、学習モデルＭに対する複数の画像データＤ０の入力に応じて、複数の画像データＤ０のそれぞれについて、Ｓ２２の処理で取得した指定層Ｌに対して入力された複数の２次元入力特徴マップＩＭと、Ｓ２２の処理で取得した指定層Ｌから出力された複数の２次元出力特徴マップＯＭ（指定層Ｌにおける複数のフィルタのそれぞれを用いることによって出力された複数の２次元出力特徴マップＯＭ）との組合せを取得する。
【0066】
そして、データ生成部１１２は、例えば、変数ｉに対して１を設定する（Ｓ２４）。
【0067】
続いて、データ生成部１１２は、例えば、複数の画像データＤ０のそれぞれについて、Ｓ２３の処理で取得した複数の２次元出力特徴マップＯＭのうちのｉ番目のチャネルに対応する２次元出力特徴マップＯＭに含まれる画素ＯＰごとに、各画素ＯＰと、各画素ＯＰの計算に用いる２次元入力特徴マップＩＭの複数の画素ＩＰとを含む教師データＤＴ（以下、教師データＤＴｉとも呼ぶ）を生成する（Ｓ２５）。すなわち、データ生成部１１２は、例えば、複数の画像データＤ０のそれぞれに対応する複数の教師データＤＴｉを生成する。
【0068】
その後、第１モデル生成部１１３は、例えば、Ｓ２５の処理で生成した複数の教師データＤＴｉのうちの一部（以下、複数の学習用データＴｉとも呼ぶ）を用いることによって、ｉ番目のチャネルに対応するランダムフォレストモデルＲ（以下、ランダムフォレストモデルＲｉとも呼ぶ）を生成する（Ｓ２６）。
【0069】
さらに、マップ特定部１１４は、例えば、Ｓ２６の処理で生成したランダムフォレストモデルＲｉの判定精度を算出する（Ｓ２７）。
【0070】
具体的に、マップ特定部１１４は、例えば、Ｓ２５の処理で生成した複数の教師データＤＴｉのうちの他の一部（以下、複数の評価用データＶｉとも呼ぶ）の入力に伴ってランダムフォレストモデルＲｉから出力された画素ＯＰと、Ｓ２５の処理で生成した複数の評価用データＶｉに含まれる画素ＯＰとの一致率Ｅｉを算出する。なお、複数の評価用データＶｉは、例えば、Ｓ２５の処理で生成した複数の教師データＤＴｉのうち、Ｓ２６の処理において複数の学習用データＴｉとして用いられていない複数の教師データＤＴｉであってよい。
【0071】
次に、マップ特定部１１４は、図９に示すように、例えば、変数ｉに設定されている値
に１を加算する（Ｓ３１）。
に１を加算する（Ｓ３１）。
【0072】
そして、マップ特定部１１４は、例えば、変数ｉが示す値がＳ２２の処理で取得した指定層Ｌに対応するチャネルの数（Ｓ２３の処理で取得した複数の２次元出力特徴マップＯＭの数）に到達したか否かを判定する（Ｓ３２）。
【0073】
その結果、変数ｉが示す値がＳ２２の処理で取得した指定層Ｌに対応するチャネルの数に到達していないと判定した場合（Ｓ３２のＮＯ）、情報処理装置１は、例えば、Ｓ２５以降の処理を再度行う。
【0074】
すなわち、情報処理装置１は、例えば、Ｓ２２の処理で取得した指定層Ｌに対応する複数のチャネルに対応するランダムフォレストモデルＲｉをそれぞれ生成し、さらに、生成したランダムフォレストモデルＲｉのそれぞれに対応する判定精度を算出するまで、Ｓ２５以降の処理を繰り返し行う。
【0075】
一方、変数ｉが示す値がＳ２２の処理で取得した指定層Ｌに対応するチャネルの数に到達したと判定した場合（Ｓ３２のＹＥＳ）、マップ特定部１１４は、例えば、Ｓ２２の処理で取得した指定層Ｌに対応するチャネルのうち、Ｓ２７の処理で算出した判定精度が第１条件を満たすランダムフォレストモデルＲｊに対応するチャネルｊを特定する（Ｓ３３）。
【0076】
具体的に、マップ特定部１１４は、例えば、Ｓ２２の処理で取得した指定層Ｌに対応するチャネルのうち、Ｓ２７の処理で算出した一致率Ｅｊが第１条件を満たすランダムフォレストモデルＲｊに対応するチャネルｊを特定する。
【0077】
さらに具体的に、マップ特定部１１４は、例えば、Ｓ２２の処理で取得した指定層Ｌに対応するチャネルであってＳ３３の処理でまだ特定されていないチャネルのうち、Ｓ２７の処理で算出した一致率Ｅｊが最も高いランダムフォレストモデルＲｊに対応するチャネルｊを特定する。
【0078】
そして、情報管理部１１１は、例えば、記憶媒体１０４に記憶した学習モデルＭを複製した学習モデルＭ１を記憶媒体１０４に記憶する（Ｓ３４）。
【0079】
さらに、第２モデル生成部１１５は、例えば、Ｓ３４の処理で複製した学習モデルＭを構成する指定層ＬであってＳ２２の処理で取得した指定層Ｌにおける複数のチャネルのうち、Ｓ３３の処理で特定したチャネルｊによる計算を、Ｓ３３の処理で特定したチャネルｊに対応するランダムフォレストモデルＲｊによる推論処理に置換する（Ｓ３５）。
【0080】
すなわち、第２モデル生成部１１５は、例えば、Ｓ２２の処理で取得した指定層Ｌにおける複数のチャネルのうち、Ｓ３３の処理で特定したチャネルｊによる２次元出力特徴マップＯＭの出力が、Ｓ３３の処理で特定したチャネルｊに対応するランダムフォレストモデルＲｊによって行われるように、学習モデルＭを更新する。
【0081】
その後、モデル置換部１１６は、例えば、Ｓ３５の処理で置換を行った学習モデルＭの判定精度Ａ１を算出する（Ｓ３６）。
【0082】
具体的に、モデル置換部１１６は、例えば、複数の画像データＤ０のそれぞれの入力に伴って学習モデルＭ１から出力されたラベル（例えば、複数の画像データＤ０のそれぞれに映る対象物の種別についての推論結果を示す情報）と、複数の画像データＤ０のそれぞれに対応する正解ラベル（例えば、複数の画像データＤ０のそれぞれに映る対象物の種別
についての正解を示す情報）との一致率を、判定精度Ａ１として算出するものであってよい。
についての正解を示す情報）との一致率を、判定精度Ａ１として算出するものであってよい。
【0083】
すなわち、モデル置換部１１６は、例えば、画像データＤ０と画像データＤ０に対応する正解ラベルとをそれぞれ含む複数の教師データ（以下、複数の第２教師データとも呼ぶ）の一部を用いることによって、判定精度Ａ１の算出を行う。
【0084】
その後、モデル置換部１１６は、図１０に示すように、例えば、Ｓ３６の処理で算出した判定精度Ａ１が第２条件を満たすか否かについて判定を行う（Ｓ４１）。
【0085】
具体的に、モデル置換部１１６は、例えば、Ｓ３６の処理で算出した判定精度Ａ１が予め定められた閾値（以下、第１閾値とも呼ぶ）以上であるか否かについて判定する。
【0086】
その結果、Ｓ３６の処理で算出した判定精度Ａ１が第２条件を満たしていないと判定した場合（Ｓ４１のＮＯ）、情報処理装置１は、例えば、Ｓ３３以降の処理を再度行う。
【0087】
すなわち、マップ特定部１１４は、Ｓ３６の処理で算出した判定精度Ａ１が第２条件を満たすようになるまで、Ｓ２７の処理で算出した一致率Ｅｉが高い順に、ランダムフォレストモデルＲｉに置き換えるチャネルを繰り返し選択する。
【0088】
具体的に、マップ特定部１１４は、図１２に示すように、例えば、５枚の２次元出力特徴マップＯＭのうち、手前から３枚目の２次元出力特徴マップＯＭに対応するチャネルと、手前から５枚目の２次元出力特徴マップＯＭ（一番奥の２次元出力特徴マップＯＭ）に対応するチャネルとを、ランダムフォレストモデルＲｉに置き換えるチャネルとして特定する。また、マップ特定部１１４は、例えば、５枚の２次元出力特徴マップＯＭのうち、手前から１枚目の２次元出力特徴マップＯＭに対応するチャネルと、手前から２枚目の２次元出力特徴マップＯＭに対応するチャネルと、手前から４枚目の２次元出力特徴マップＯＭに対応するチャネルとを、ランダムフォレストモデルＲｉに置き換えないチャネルとして特定する。
【0089】
これにより、本実施の形態における情報処理装置１は、例えば、Ｓ２２の処理で取得した指定層Ｌに対応する複数のチャネルのうち、ランダムフォレストモデルＲｉに置き換えることによる判定精度の低下が小さいと判断できるチャネルのみを、ランダムフォレストモデルＲｉに置き換えることが可能になる。そのため、情報処理装置１は、例えば、判定精度の低下を抑制しながら、推論処理の実行（画像データＤ０の認識）に要する演算回数を抑制させることが可能になる。
【0090】
一方、Ｓ３６の処理で算出した判定精度Ａ１が第２条件を満たしていると判定した場合（Ｓ４１のＹＥＳ）、すなわち、例えば、Ｓ３６の処理で算出した判定精度Ａ１が第１閾値未満であると判定した場合、モデル置換部１１６は、例えば、学習モデルＭ１のファインチューニングを行う。そして、モデル置換部１１６は、例えば、ファインチューニングを行った学習モデルＭ１を学習モデルＭとして記憶媒体１０４に記憶する（Ｓ４２）。
【0091】
具体的に、モデル置換部１１６は、例えば、第２教師データの他の一部（例えば、Ｓ３６の処理で用いられていない第２教師データ）を用いた再学習を行うことによって、学習モデルＭ１のファインチューニングを行うものであってよい。
【0092】
なお、モデル置換部１１６は、Ｓ４１の処理において、例えば、Ｓ２７の処理で算出した一致率Ｅｉのうちの最も高い値が予め定められた閾値（以下、第２閾値とも呼ぶ）以上であるか否かについて判定するものであってもよい。
【0093】
そして、Ｓ２７の処理で算出した一致率Ｅｉのうちの最も高い値が予め定められた閾値以上であると判定した場合（Ｓ４１のＮＯ）、情報処理装置１は、例えば、Ｓ３３以降の処理を再度行うものであってもよい。
【0094】
一方、Ｓ２７の処理で算出した一致率Ｅｉのうちの最も高い値が予め定められた閾値以上でないと判定した場合（Ｓ４１のＹＥＳ）、情報処理装置１は、例えば、Ｓ４２以降の処理を行うものであってよい。
【0095】
また、モデル置換部１１６は、Ｓ４１の処理において、例えば、Ｓ２２の処理で取得した指定層Ｌに対応する全てのチャネルがＳ３３の処理において特定されたか否かについて判定するものであってもよい。
【0096】
そして、Ｓ２２の処理で取得した指定層Ｌに対応する全てのチャネルがＳ３３の処理において特定されていないと判定した場合（Ｓ４１のＮＯ）、情報処理装置１は、例えば、Ｓ３３以降の処理を再度行うものであってもよい。
【0097】
一方、Ｓ２２の処理で取得した指定層Ｌに対応する全てのチャネルがＳ３３の処理において特定されたと判定した場合（Ｓ４１のＹＥＳ）、情報処理装置１は、例えば、Ｓ４２以降の処理を行うものであってよい。
【0098】
さらに、Ｓ３３の処理において、Ｓ２２の処理で取得した指定層Ｌに対応するチャネルに、Ｓ２７の処理で算出した判定精度が第１条件を満たすランダムフォレストモデルＲｊに対応するチャネルｊが存在しないと判定した場合、情報処理装置１は、例えば、Ｓ３４の処理を行った後、Ｓ３５、Ｓ３６及びＳ４１の処理を行わずに、Ｓ４２以降の処理を行うものであってよい。
【0099】
その後、モデル置換部１１６は、例えば、Ｓ４２の処理でファインチューニングを行った学習モデルＭの判定精度Ａ２を算出する（Ｓ４３）。
【0100】
具体的に、モデル置換部１１６は、Ｓ３６の処理と同様に、例えば、複数の画像データＤ０のそれぞれの入力に伴って学習モデルＭから出力されたラベルと、複数の画像データＤ０のそれぞれに対応する正解ラベルとの一致率を、判定精度Ａ２として算出するものであってよい。
【0101】
そして、モデル置換部１１６は、例えば、Ｓ４３の処理で算出した判定精度Ａ２が第３条件を満たすか否かについて判定を行う（Ｓ４４）。
【0102】
具体的に、モデル置換部１１６は、例えば、Ｓ４３の処理で算出した判定精度Ａ２が予め定められた閾値（以下、第３閾値とも呼ぶ）以上であるか否かについて判定する。
【0103】
その結果、Ｓ３６の処理で算出した判定精度Ａ２が第３条件を満たしていると判定した場合（Ｓ４４のＹＥＳ）、情報管理部１１１は、例えば、記憶媒体１０４に記憶した学習モデルＭ０を複製した学習モデルＭを記憶媒体１０４に記憶する（Ｓ４５）。
【0104】
一方、Ｓ４３の処理で算出した判定精度Ａ２が第３条件を満たしていないと判定した場合（Ｓ４４のＮＯ）、情報処理装置１は、例えば、Ｓ４５の処理を行わない。
【0105】
そして、情報管理部１１１は、例えば、記憶媒体１０４に記憶した指定層リストＬＳが空であるか否か、すなわち、Ｓ２２の処理で全ての指定層Ｌを取得したか否かについて判
定を行う（Ｓ４６）。
定を行う（Ｓ４６）。
【0106】
その結果、記憶媒体１０４に記憶した指定層リストＬＳが空でないと判定した場合（Ｓ４６のＮＯ）、情報処理装置１は、例えば、Ｓ２１以降の処理を再度行う。
【0107】
すなわち、情報処理装置１は、この場合、指定層リストＬＳに含まれる他の指定層Ｌに対応するチャネルを、ランダムフォレストモデルＲに置き換えるか否かについての判定を開始する。
【0108】
一方、記憶媒体１０４に記憶した指定層リストＬＳが空であると判定した場合（Ｓ４６のＹＥＳ）、情報処理装置１は、例えば、モデル置換処理を終了する。
【0109】
具体的に、モデル出力部１１７は、この場合、例えば、記憶媒体１０４に記憶した学習モデルＭ０を作業者端末２に出力する。
【0110】
なお、モデル置換部１１６は、Ｓ４６の処理において、例えば、記憶媒体１０４に記憶した指定層リストＬＳが空であるか否かについて判定を行うものであってもよい。
【0111】
そして、指定層リストＬＳに含まれる指定層Ｌが存在していると判定した場合（Ｓ４６のＮＯ）、情報処理装置１は、例えば、Ｓ２１以降の処理を再度行うものであってもよい。
【0112】
一方、指定層リストＬＳに含まれる指定層Ｌが存在しないと判定した場合（Ｓ４６のＹＥＳ）、情報処理装置１は、例えば、モデル置換処理を終了するものであってもよい。
【0113】
すなわち、本実施の形態における情報処理装置１は、図３等に示すように、学習モデルＭに含まれる指定層Ｌを、指定層Ｌに入力される２次元入力特徴マップと指定層Ｌから出力される２次元出力特徴マップＯＭとから生成した教師データＤＴによって生成したランダムフォレストモデルＲに置き換えることによって、学習モデルＭ１を生成する。
【0114】
これにより、情報処理装置１は、例えば、学習モデルＭに近似し、かつ、学習モデルＭよりも画像データＤ０の認識に要する演算回数を抑制することが可能な学習モデルＭ１を生成することが可能になる。そのため、情報処理装置１は、例えば、学習モデルＭ１を学習モデルＭの代わりに用いることによって、判定精度の低下を抑制しながら、画像データＤ０の認識に要する計算負荷をより抑制することが可能になる。したがって、情報処理装置１は、例えば、判定精度の低下を抑制しながら、画像データＤ０の認識に伴う計算を行う演算器の小型化が可能になり、さらに、演算器の性能密度を向上させることが可能になる。
【0115】
［第１の実施の形態における専用回路１０５の構成例］
次に、専用回路１０５の具体例について説明を行う。図１３は、第１の実施の形態における専用回路１０５の構成例を示す図である。
次に、専用回路１０５の具体例について説明を行う。図１３は、第１の実施の形態における専用回路１０５の構成例を示す図である。
【0116】
専用回路１０５は、Ｓ２３の処理で生成されたチャネルｉに対応するランダムフォレストモデルＲｉ、すなわち、Ｓ３５の処理で置き換えられたチャネルｉに対応するランダムフォレストモデルＲｉを実現する回路であり、例えば、記憶回路ＳＷと、演算回路ＲＦＡとを有する。
【0117】
なお、以下、図１３に示すように、ランダムフォレストモデルＲｉに入力される複数の２次元入力特徴マップＩＭの数がＣｉｎであり、ランダムフォレストモデルＲｉから出力
される複数の２次元出力特徴マップＯＭの数がＣｏｕｔであるものとして説明を行う。また、以下、複数の２次元入力特徴マップＩＭのうち、複数の２次元出力特徴マップＯＭに含まれる１つの画素ＯＰの計算に用いられる複数の画素ＩＰの数がＲ×Ｒ（個）であるものとして説明を行う。
される複数の２次元出力特徴マップＯＭの数がＣｏｕｔであるものとして説明を行う。また、以下、複数の２次元入力特徴マップＩＭのうち、複数の２次元出力特徴マップＯＭに含まれる１つの画素ＯＰの計算に用いられる複数の画素ＩＰの数がＲ×Ｒ（個）であるものとして説明を行う。
【0118】
記憶回路ＳＷは、例えば、スライドウインドウであり、ランダムフォレストモデルＲｉに入力される複数の２次元入力特徴マップＩＭに含まれる画素に対応するデータを順次格納する。具体的に、記憶回路ＳＷには、例えば、ランダムフォレストモデルＲｉにおける演算に用いられる画素に対応するデータから順に格納される。
【0119】
演算回路ＲＦＡは、例えば、Ｃｏｕｔ（個）のランダムフォレストモデル回路ＲＴＵを有する。そして、ランダムフォレストモデル回路ＲＴＵのそれぞれは、例えば、Ｔｎ（個）の決定木モデル回路ＤＴＵを有する。
【0120】
そして、演算回路ＲＦＡは、Ｃｏｕｔ（個）の２次元出力特徴マップＯＭのそれぞれに含まれる画素ＯＰの計算を行う場合、記憶回路ＳＷに記憶されたデータのうち、画素ＯＰに対応するデータ（Ｒ×Ｒ×Ｃｉｎ（個）のデータ）を取得し、Ｃｏｕｔ（個）のランダムフォレストモデル回路ＲＴＵのそれぞれにおいて画素ＯＰの計算を行う。具体的に、Ｃｏｕｔ（個）のランダムフォレストモデル回路ＲＴＵのそれぞれは、この場合、各ランダムフォレストモデル回路ＲＴＵを構成する各決定木モデル回路ＤＴＵにおいて比較演算及び分岐演算を行うことにより、各ランダムフォレストモデル回路ＲＴＵに対応する画素ＯＰの計算を行う。
【0121】
すなわち、記憶回路ＳＷには、Ｃｏｕｔ（個）の２次元出力特徴マップＯＭのそれぞれに含まれる画素ＯＰの計算に要するデータへのアクセスを同時に行うことが可能になるように、複数の２次元入力特徴マップＩＭに含まれる画素に対応するデータが格納されている。
【0122】
このように、専用回路１０５では、例えば、乗算器、加算器及び積和演算器等（以下、乗算器等とも呼ぶ）に代えて、乗算器等よりも小型の比較演算器を搭載することで、乗算器等を搭載する場合よりも小面積の回路を実現することが可能になる。そのため、専用回路１０５では、例えば、性能密度の向上を図ることが可能になる。
【0123】
なお、学習モデル置換処理においてランダムフォレストモデルＲｉへの置換が行われなかった層やチャネルが存在する場合、専用回路１０５は、これらの層やチャネルにおける積和演算を行う乗算器等を搭載するものであってもよい。
【符号の説明】
【0124】
１：情報処理装置
２：作業者端末
１０１：ＣＰＵ
１０２：メモリ
１０３：通信インタフェース
１０４：記憶媒体
１０５：専用回路
１０６：バス
１１１：情報管理部
１１２：データ生成部
１１３：第１モデル生成部
１１４：マップ特定部
１１５：第２モデル生成部
１１６：モデル置換部
１１７：モデル出力部
１１８：モデル制御部
２：作業者端末
１０１：ＣＰＵ
１０２：メモリ
１０３：通信インタフェース
１０４：記憶媒体
１０５：専用回路
１０６：バス
１１１：情報管理部
１１２：データ生成部
１１３：第１モデル生成部
１１４：マップ特定部
１１５：第２モデル生成部
１１６：モデル置換部
１１７：モデル出力部
１１８：モデル制御部
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】