知財求人 - 知財ポータルサイト「IP Force」
特許7564616モデル生成装置、推定装置、モデル生成方法、及びモデル生成プログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-10-01
(45)【発行日】2024-10-09
(54)【発明の名称】モデル生成装置、推定装置、モデル生成方法、及びモデル生成プログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20241002BHJP
G01N 21/88 20060101ALI20241002BHJP
G06N 3/08 20230101ALI20241002BHJP
G06N 20/00 20190101ALI20241002BHJP
【ＦＩ】
G06T7/00 350C
G01N21/88 J
G06N3/08
G06N20/00
【請求項の数】
11
(21)【出願番号】P 2019210873
(22)【出願日】2019-11-21
(65)【公開番号】P2021082154
(43)【公開日】2021-05-27
【審査請求日】2022-09-07
【審判番号】
【審判請求日】2024-01-29
(73)【特許権者】
【識別番号】000002945
【氏名又は名称】オムロン株式会社
(74)【代理人】
【識別番号】100124039
【弁理士】
【氏名又は名称】立花 顕治
(72)【発明者】
【氏名】米谷 竜
(72)【発明者】
【氏名】橋本 敦史
(72)【発明者】
【氏名】岡本 大和
【合議体】
【審判長】廣川 浩
【審判官】中木 努
【審判官】本郷 彰
(56)【参考文献】
【文献】特許第７００３９５３（ＪＰ，Ｂ２）
(58)【調査した分野】(Int.Cl.，ＤＢ名)
G06T7/00-7/90
G06N3/00-3/12
G06N7/08-99/00
G01N21/84-21/958
(57)【特許請求の範囲】
【請求項1】
訓練データ、前記訓練データに含まれる第１特徴を示す第１正解データ、及び前記訓練データに含まれる第２特徴であって、前記第１特徴とは異なる第２特徴を示す第２正解データの組み合わせによりそれぞれ構成される複数の学習データセットを取得するデータ取得部と、符号器、第１推定器、及び第２推定器を含む学習モデルの機械学習を実施する学習処理部であって、
前記符号器は、与えられた入力データを特徴量に変換するように構成され、
前記第１推定器は、前記符号器の出力値が入力され、前記入力データに含まれる第１特徴を前記特徴量から推定するように構成され、
前記第２推定器は、前記符号器の出力値が入力され、前記入力データに含まれる第２特徴を前記特徴量から推定するように構成され、
前記機械学習を実施することは、
前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第２推定器から得られる推定の結果が前記第２正解データに適合するように、前記第２推定器を訓練する第１訓練ステップ、
前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第２推定器から得られる推定の結果が前記第２正解データに適合しなくなるように、前記符号器を訓練する第２訓練ステップ、並びに、
前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第１推定器から得られる推定の結果が前記第１正解データに適合するように、前記符号器及び前記第１推定器を訓練する第３訓練ステップ、
を含み、
前記第１訓練ステップ及び前記第２訓練ステップを交互に繰り返し実行する、
学習処理部と、
を備える、
モデル生成装置。
【請求項2】
前記第３訓練ステップは、前記第１訓練ステップ及び前記第２訓練ステップと共に繰り返し実行される、請求項１に記載のモデル生成装置。
【請求項3】
前記第２訓練ステップでは、前記各学習データセットについて、前記第２正解データに対応するダミーデータであって、対応する前記第２正解データとは異なる値で構成されるダミーデータが取得され、前記推定の結果が前記第２正解データに適合しなくなるように前記符号器を訓練することは、前記訓練データを前記符号器に与えることで前記第２推定器から得られる推定の結果が前記ダミーデータに適合するように前記符号器を訓練することにより構成される、
請求項１又は２に記載のモデル生成装置。
【請求項4】
前記ダミーデータは、前記ダミーデータに対応する学習データセットとは異なる学習データセットの第２正解データにより構成される、請求項３に記載のモデル生成装置。
【請求項5】
前記第１特徴は、所定の推定の対象となる第１成分についての特徴であり、前記第２特徴は、前記第１成分とは異なる第２成分であって、前記第１成分についての前記所定の推定に影響を与える第２成分についての特徴である、
請求項１から４のいずれか１項に記載のモデル生成装置。
【請求項6】
前記訓練データは、前景及び背景を含む画像データであり、前記第１特徴は、前記前景についての特徴であり、
前記第２特徴は、前記背景についての特徴である、
請求項１から４のいずれか１項に記載のモデル生成装置。
【請求項7】
前記訓練データは、対象物の写る画像データであり、前記第１特徴は、前記対象物の属性であり、
前記第２特徴は、前記対象物の属性以外の他の特徴である、
請求項１から４のいずれか１項に記載のモデル生成装置。
【請求項8】
前記対象物は、製品であり、前記対象物の属性は、前記製品の欠陥についての属性である、
請求項７に記載のモデル生成装置。
【請求項9】
対象データを取得するデータ取得部と、請求項１から８のいずれか１項に記載のモデル生成装置により生成された訓練済みの前記符号器及び前記第１推定器を利用して、取得された前記対象データに含まれる第１特徴を推定する推定部と、
前記第１特徴を推定した結果についての情報を出力する出力部と、
を備える、
推定装置。
【請求項10】
コンピュータが、訓練データ、前記訓練データに含まれる第１特徴を示す第１正解データ、及び前記訓練データに含まれる第２特徴であって、前記第１特徴とは異なる第２特徴を示す第２正解データの組み合わせによりそれぞれ構成される複数の学習データセットを取得するステップと、
符号器、第１推定器、及び第２推定器を含む学習モデルの機械学習を実施するステップであって、
前記符号器は、与えられた入力データを特徴量に変換するように構成され、
前記第１推定器は、前記符号器の出力値が入力され、前記入力データに含まれる第１特徴を前記特徴量から推定するように構成され、
前記第２推定器は、前記符号器の出力値が入力され、前記入力データに含まれる第２特徴を前記特徴量から推定するように構成され、
前記機械学習を実施することは、
前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第２推定器から得られる推定の結果が前記第２正解データに適合するように、前記第２推定器を訓練する第１訓練ステップ、
前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第２推定器から得られる推定の結果が前記第２正解データに適合しなくなるように、前記符号器を訓練する第２訓練ステップ、並びに、
前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第１推定器から得られる推定の結果が前記第１正解データに適合するように、前記符号器及び前記第１推定器を訓練する第３訓練ステップ、
を含み、
前記第１訓練ステップ及び前記第２訓練ステップを交互に繰り返し実行する、
ステップと、
を実行する、
モデル生成方法。
【請求項11】
コンピュータに、訓練データ、前記訓練データに含まれる第１特徴を示す第１正解データ、及び前記訓練データに含まれる第２特徴であって、前記第１特徴とは異なる第２特徴を示す第２正解データの組み合わせによりそれぞれ構成される複数の学習データセットを取得するステップと、
符号器、第１推定器、及び第２推定器を含む学習モデルの機械学習を実施するステップであって、
前記符号器は、与えられた入力データを特徴量に変換するように構成され、
前記第１推定器は、前記符号器の出力値が入力され、前記入力データに含まれる第１特徴を前記特徴量から推定するように構成され、
前記第２推定器は、前記符号器の出力値が入力され、前記入力データに含まれる第２特徴を前記特徴量から推定するように構成され、
前記機械学習を実施することは、
前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第２推定器から得られる推定の結果が前記第２正解データに適合するように、前記第２推定器を訓練する第１訓練ステップ、
前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第２推定器から得られる推定の結果が前記第２正解データに適合しなくなるように、前記符号器を訓練する第２訓練ステップ、並びに、
前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第１推定器から得られる推定の結果が前記第１正解データに適合するように、前記符号器及び前記第１推定器を訓練する第３訓練ステップ、
を含み、
前記第１訓練ステップ及び前記第２訓練ステップを交互に繰り返し実行する、
ステップと、
を実行させるための、
モデル生成プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、モデル生成装置、推定装置、モデル生成方法、及びモデル生成プログラムに関する。
【背景技術】
【0002】
従来、製造ライン等の製品を製造する場面では、製造される製品を撮影装置により撮影し、得られた画像データに基づいて製品の良否を検査する技術が利用されている。例えば、特許文献１では、学習済みの第１のニューラルネットワークに基づいて画像に写る検査対象物が正常であるか異常であるかを判定し、検査対象物が異常であると判定した場合に、学習済みの第２のニューラルネットワークに基づいて当該異常の種類を分類する検査装置が提案されている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開２０１２－０２６９８２号公報
【文献】特開２０１７－１１１８０６号公報
【文献】特開２０１４－０４９１１８号公報
【文献】特開２０１９－０７１０５０号公報
【文献】特許第６２６４４９２号公報
【文献】特開２０１７－１９４９４８号公報
【文献】特開２０１８－１７５３４３号公報
【文献】特開２０１９－０８３７４６号公報
【文献】特開２０１８－１８９５２２号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
機械学習により構築された訓練済みの機械学習モデルで構成された推定器によれば、与えられた訓練データと同種の未知のデータに対して、回帰、分類等の推定（予測を含む）タスクを実行することができる。そのため、上記特許文献１のような、ニューラルネットワーク等の機械学習モデルを利用する方法によれば、訓練済みの推定器の出力に基づいて製品の外観検査を実施することができる。しかしながら、本件発明者らは、上記のような従来の方法には、次のような問題点があることを見出した。
【0005】
すなわち、従来の方法では、与えられた画像に写る欠陥を検出する能力を機械学習モデルに習得させる機械学習を実施するために、事前に、欠陥を含む製品の写る画像が学習データとして収集される。欠陥の検出は、欠陥の種別を識別することであってもよい。基本的には、収集される学習データが多岐にわたるほど、換言すると、学習データに表れる欠陥の状況が多様であるほど、外観検査の精度の向上を図ることができる。
【0006】
ただし、欠陥の種別、及び製品の外観を含む背景の種別が多くなればなるほど、欠陥の種別及び背景の種別の組み合わせが増加し、学習データとして収集されることが所望されるサンプルの件数（及び種類）も増加する。また、訓練済みの推定器を運用する際に背景が変更されることもあり得る。高精度に外観検査を遂行可能な訓練済みの推定器を生成するためには、欠陥の種別及び背景の種別の全ての組み合わせについてサンプルを収集するのが望ましいが、全ての組み合わせについてサンプルを収集するのにはコストがかかる。そこで、例えば、全ての組み合わせについてのサンプルは得られていないが、検出対象の欠陥の全種別についてはサンプルが得られた時点等、ある程度の学習データが収集された段階で、機械学習モデルの機械学習を実施することが考えられる。
【0007】
しかしながら、学習データにおいてサンプルの得られていない組み合わせが存在する場合に、次のような問題が生じる可能性がある。すなわち、機械学習により、機械学習モデルは、訓練データ（サンプル）に含まれる任意の情報を利用して、所望の推定タスクを遂行するように訓練される。そのため、欠陥及び背景を含む訓練データを使用して、推定器の機械学習を実施した場合、生成される訓練済みの推定器は、データに含まれる欠陥に関する情報だけではなく、背景に関する情報も利用して、欠陥の検出に関する推定タスクを遂行する能力を獲得している場合がある。このような場合、サンプルの得られていない欠陥の種別及び背景の種別の組み合わせを機械学習に反映できないことで、その組み合わせに対する訓練済みの推定器による欠陥の検出に関する推定の精度が低下してしまう可能性がある。
【0008】
加えて、サンプルに表れる欠陥の種別及び背景の種別の組み合わせが偏っている場合、特に、欠陥の種別及び背景の種別が同じ分布でサンプルに表れる場合、このサンプルの偏りが、機械学習により機械学習モデルの習得する能力に悪影響を及ぼす可能性がある。具体的には、組み合わせの偏ったサンプルを使用した機械学習により、推定器は、種別に応じて欠陥を検出する能力ではなく、背景の種別を識別する能力を習得してしまう可能性がある。
【0009】
一例として、第１製品及び第２製品の２種類の製品に対して、第１欠陥及び第２欠陥の２種類の欠陥が発生すると仮定する。また、この例において、第１製品では第１欠陥が生じやすく、第２製品では第２欠陥が生じやすいと仮定する。更に、得られたサンプルが、第１欠陥を含む第１製品の写る画像、及び第２欠陥を含む第２製品の写る画像に偏っていると仮定する。すなわち、第２欠陥を含む第１製品の写る画像及び第１欠陥を含む第２製品の写る画像が機械学習のサンプルとして得られていないと仮定する。この仮定の下で得られたサンプルを使用して、種別に応じて欠陥を検出する能力を習得させることを意図して機械学習モデルの機械学習を実行したと想定する。この場合、得られるサンプルに上記偏りが生じていることで、当該機械学習により、機械学習モデルは、種別に応じて欠陥を検出識別する能力ではなく、背景の種別を識別する能力を習得してしまう可能性がある。すなわち、サンプルが偏っていることで、意図した能力とは別の能力を機械学習モデルに習得させてしまう可能性がある。背景の種別を識別する能力を習得してしまった場合には、第２欠陥を含む第１製品の写る画像が与えられたときに、訓練済みの推定器は、第１製品に第１欠陥が生じていると誤検出してしまう。
【0010】
したがって、従来の方法では、機械学習により、訓練済みの推定器は、画像データに含まれる背景に関する情報を考慮して、欠陥検出に関する推定タスクを遂行するように構築される可能性がある。これにより、運用時の背景が学習時の背景と異なっていることで、訓練済みの推定器による欠陥検出に関する推定の精度が悪化してしまうという問題点があった。換言すると、背景の相違にロバストな訓練済みの推定器を生成するのが困難であるという問題点があった。
【0011】
なお、このような問題点は、製品の外観検査に利用可能な訓練済みの推定器を生成する場面に特有のものではない。この問題点は、所定種類のデータに対して対象の特徴に関する推定タスクの遂行に利用可能な訓練済みの推定器を構築するあらゆる場面で生じ得る。所定種類のデータは、例えば、画像データ、音データ、数値データ、テキストデータ、その他センサにより得られる測定データ等である。所定種類のデータに対して対象の特徴に関する推定タスクを遂行する場面とは、例えば、画像データの前景に関する推定を行う場面等である。前景に関する推定は、例えば、画像データに写る対象物の属性を推定することであってよい。この場合、背景に関する特徴は、対象物の属性以外の他の特徴であってよい。対象物は、上記製品の他、例えば、製品の包装、ナンバープレート、撮影範囲内を移動可能な移動体（例えば、車両、人物等）、車両を運転する運転者等であってよい。その他、所定種類のデータに対して対象の特徴に関する推定タスクを遂行する場面とは、例えば、センサにより得られるセンシングデータから対象の属性を推定する場面等である。センサにより得られるセンシングデータから対象の属性を推定する場面は、例えば、車載センサにより得られるセンシングデータから車両の状況を推定する場面、バイタルセンサ又は医療検査装置により得られるセンシングデータから対象者の健康状態を推定する場面、環境センサにより得られるセンシングデータから植物の栽培状況を推定する場面、機械の状態を観測するセンサにより得られるセンシングデータから当該機械の状態を推定する場面等である。
【0012】
具体例として、特許文献２では、訓練済みのニューラルネットワークを利用して、ナンバープレートを認識することが提案されている。特許文献３では、訓練済みの畳み込みニューラルネットワークを利用して、文字を識別することが提案されている。特許文献４では、訓練済みのニューラルネットワークを利用して、撮影画像に写る人物の密度分布及び移動ベクトルの分布を推定することが提案されている。特許文献５では、学習済みのモデルを利用して、撮影画像及び観測情報から運転者の運転に対する集中の程度を推定することが提案されている。特許文献６では、訓練済みのニューラルネットワークを利用して、車載センサにより得られたデータから車両周囲の状況を認識することが提案されている。特許文献７では、訓練済みのニューラルネットワークを利用して、医療用画像から病変領域を検出することが提案されている。特許文献８では、訓練済みのニューラルネットワークを利用して、植物の生育段階を特定することが提案されている。特許文献９では、訓練済みのニューラルネットワークを利用して、音声及び振動の少なくとも一方の測定データから設備の故障の予兆を診断する方法が提案されている。
【0013】
これらの場面でも、従来の方法では、機械学習により、対象の特徴に関する推定タスクを遂行するための訓練済みの推定器を構築した場合に、訓練済みの推定器は、データに含まれる対象の特徴以外の他の特徴に関する情報を考慮して、当該推定タスクを遂行するように構築される可能性がある。そのため、他の特徴の相違にロバストな訓練済みの推定器を生成するのが困難であるという問題点があった。
【0014】
本発明は、一側面では、このような実情を鑑みてなされたものであり、その目的は、データに含まれる対象の特徴に関する推定タスクを遂行可能な訓練済みの推定器であって、対象の特徴以外の他の特徴の相違にロバストな訓練済みの推定器を生成するための技術を提供することである。
【課題を解決するための手段】
【0015】
本発明は、上述した課題を解決するために、以下の構成を採用する。
【0016】
すなわち、本発明の一側面に係るモデル生成装置は、訓練データ、前記訓練データに含まれる第１特徴を示す第１正解データ、及び前記訓練データに含まれる第２特徴であって、前記第１特徴とは異なる第２特徴を示す第２正解データの組み合わせによりそれぞれ構成される複数の学習データセットを取得するデータ取得部と、符号器、第１推定器、及び第２推定器を含む学習モデルの機械学習を実施する学習処理部であって、前記符号器は、与えられた入力データを特徴量に変換するように構成され、前記第１推定器は、前記符号器の出力値が入力され、前記入力データに含まれる第１特徴を前記特徴量から推定するように構成され、前記第２推定器は、前記符号器の出力値が入力され、前記入力データに含まれる第２特徴を前記特徴量から推定するように構成され、前記機械学習を実施することは、前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第２推定器から得られる推定の結果が前記第２正解データに適合するように、前記第２推定器を訓練する第１訓練ステップ、前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第２推定器から得られる推定の結果が前記第２正解データに適合しなくなるように、前記符号器を訓練する第２訓練ステップ、並びに、前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第１推定器から得られる推定の結果が前記第１正解データに適合するように、前記符号器及び前記第１推定器を訓練する第３訓練ステップ、を含み、前記第１訓練ステップ及び前記第２訓練ステップを交互に繰り返し実行する、学習処理部と、を備える。
【0017】
当該構成に係るモデル生成装置では、３つの訓練ステップにより、符号器、第１推定器、及び第２推定器を含む学習モデルの機械学習が実施される。上記第１訓練ステップによれば、第２推定器は、符号器により得られる特徴量に含まれる情報、すなわち、第２特徴に対応する成分から当該第２特徴に関する推定タスクを遂行する能力を獲得する。一方、上記第２訓練ステップによれば、符号器は、第２推定器の性能に応じて、第２推定器による第２特徴に関する推定タスクが失敗するような特徴量に入力データを変換する能力を獲得する。
【0018】
当該構成に係るモデル生成装置では、この第１訓練ステップ及び第２訓練ステップが交互に繰り返し実行される。これにより、符号器及び第２推定器の敵対的学習が実施される。その結果、第２推定器の推定性能が向上するのに対応して、この第２推定器による推定タスクが失敗するように、符号器により得られる特徴量には、第２特徴に対応する成分が含まれ難くすることができる。すなわち、第２特徴と関係性の低い（又は無関係な）特徴空間に入力データを射影する能力を符号器に獲得させることができる。加えて、上記第３訓練ステップによれば、符号器により得られる特徴量から第１特徴に関する推定タスクを遂行する能力を第１推定器に獲得させると共に、当該推定タスクを第１推定器が適切に遂行可能なように、第１特徴に対応する成分を含む特徴量に入力データを変換する能力を符号器に獲得させることができる。
【0019】
したがって、当該構成に係る機械学習によれば、訓練済みの符号器により得られる特徴量には、第１特徴に対応する成分が含まれ、かつ第２特徴に対応する成分が含まれ難くすることができる。これにより、第１推定器による第１特徴に関する推定タスクの遂行に第２特徴に関する情報が考慮され難くすることができる。よって、当該構成に係るモデル生成装置によれば、対象の特徴に関する推定タスクを遂行可能な訓練済みの推定器であって、対象の特徴以外の他の特徴の相違にロバストな訓練済みの推定器を生成することができる。すなわち、第２特徴の相違に対してロバストに第１特徴に関する推定タスクを遂行可能な訓練済みの符号器及び第１推定器を生成することができる。
【0020】
なお、符号器、第１推定器、及び第２推定器はそれぞれ、演算に利用される演算パラメータであって、機械学習により調節される演算パラメータを備える。このような符号器、第１推定器、及び第２推定器の種類はそれぞれ、機械学習可能なモデル（機械学習モデル、学習器）であれば、特に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。符号器、第１推定器、及び第２推定器それぞれには、例えば、ニューラルネットワーク、サポートベクタマシン、回帰モデル等が用いられてよい。符号器、第１推定器、及び第２推定器それぞれにニューラルネットワークが用いられる場合、各ニューロン間の結合の重み、各ニューロンの閾値等が、上記演算パラメータの一例である。機械学習の方法は、符号器、第１推定器、及び第２推定器それぞれのモデルの種類に応じて適宜選択されてよい。各訓練ステップの処理順序は任意であってよい。
【0021】
上記一側面に係るモデル生成装置において、前記第３訓練ステップは、前記第１訓練ステップ及び前記第２訓練ステップと共に繰り返し実行されてよい。当該構成によれば、敵対的学習の過程において第２訓練ステップにより符号器の演算パラメータの値が調節されるのに対応して、符号器により得られる特徴量から第１特徴を推定する能力を獲得するように第１訓練ステップにより符号器及び第１推定器の演算パラメータの値を調節することができる。これにより、第１特徴に関する推定タスクを高精度に遂行可能な訓練済みの符号器及び第１推定器を得ることができる。
【0022】
上記一側面に係るモデル生成装置において、前記第２訓練ステップでは、前記各学習データセットについて、前記第２正解データに対応するダミーデータであって、対応する前記第２正解データとは異なる値で構成されるダミーデータが取得されてもよい。前記推定の結果が前記第２正解データに適合しなくなるように前記符号器を訓練することは、前記訓練データを前記符号器に与えることで前記第２推定器から得られる推定の結果が前記ダミーデータに適合するように前記符号器を訓練することにより構成されてもよい。当該構成によれば、第２訓練ステップにおける符号器の訓練処理を簡易化することができ、これにより、コストの低減を図ることができる。
【0023】
上記一側面に係るモデル生成装置において、前記ダミーデータは、対応する学習データセットとは異なる学習データセットの第２正解データにより構成されてよい。当該構成によれば、ダミーデータを生成する計算量を抑えることができ、これにより、第２訓練ステップの処理コストの低減を図ることができる。
【0024】
上記一側面に係るモデル生成装置において、前記第１特徴は、所定の推定の対象となる第１成分に関するものであってよい。前記第２特徴は、前記第１成分とは異なる第２成分であって、前記第１成分についての前記所定の推定に影響を与える第２成分に関するものであってよい。当該構成によれば、符号器により得られる特徴量に、第１成分についての所定の推定に影響を与える第２成分に対応する情報が含まれ難くすることができる。これにより、第２特徴の相違にロバストで、かつ比較的に高精度に第１特徴に関する推定タスクを遂行可能な訓練済みの符号器及び第１推定器の生成を期待することができる。
【0025】
上記各側面に係るモデル生成装置は、所定種類のデータに対する対象の特徴に関する推定タスクの遂行に利用可能な訓練済みのモデルを生成するあらゆる場面に適用されてよい。上記各側面に係るモデル生成装置は、例えば、画像データの前景に含まれる特徴を推定するための訓練済みのモデルを生成する場面に適用されてよい。前景に含まれる特徴を推定することは、例えば、画像データに写る対象物の属性を推定することであってよい。この場合、背景に関する特徴は、対象物の属性以外の他の特徴であってよい。その他、上記各側面に係るモデル生成装置は、例えば、センサにより得られるセンシングデータから対象の属性を推定するための訓練済みのモデルを生成する場面に適用されてよい。対象の属性を推定することは、例えば、車両の状況を推定すること、対象者の健康状態を推定すること、植物の栽培状況を推定すること、機械の状態を推定する場面等である。センサは、各場面に応じて適宜選択されてよい。
【0026】
上記一側面に係るモデル生成装置において、前記訓練データは、前景及び背景を含む画像データであってよい。前記第１特徴は、前記前景に関するものであってよく、前記第２特徴は、前記背景に関するものであってよい。当該構成によれば、背景の相違に対してロバストに前景に関する推定タスクを遂行可能な訓練済みの符号器及び第１推定器を生成することができる。なお、前景及び背景は、実施の形態に応じて適宜決定されてよい。
【0027】
上記一側面に係るモデル生成装置において、前記訓練データは、対象物の写る画像データであってよい。前記第１特徴は、前記対象物の属性であってもよく、前記第２特徴は、前記対象物の属性以外の他の特徴であってよい。当該構成によれば、対象物の属性以外の特徴の相違に対してロバストに対象物の属性に関する推定タスクを遂行可能な訓練済みの符号器及び第１推定器を生成することができる。なお、対象物は、任意に選択されてよい。対象物は、例えば、製品、製品の包装、ナンバープレート、撮影範囲内を移動可能な移動体（例えば、車両、人物等）、車両を運転する運転者等であってよい。
【0028】
上記一側面に係るモデル生成装置において、前記対象物は、製品であってよい。前記対象物の属性は、前記製品の欠陥に関するものであってよい。当該構成によれば、外観検査を実施する場面において、欠陥以外の特徴（例えば、製品の外装、コンベアのシート等を含む背景）の相違に対してロバストに欠陥検出に関する推定タスクを遂行可能な訓練済みの符号器及び第１推定器を生成することができる。
【0029】
また、本発明の形態は、上記モデル生成装置の形態に限られなくてもよい。本発明の一側面は、上記モデル生成装置により生成された訓練済みのモデルを利用する装置であってもよい。例えば、本発明の一側面は、上記モデル生成装置により生成された訓練済みの符号器及び第１推定器を利用して、所定種類のデータに対して対象の特徴に関する推定タスクを実行するように構成された推定装置であってもよい。この推定装置は、適用場面における推定タスクの種類に応じて、検査装置、識別装置、監視装置、診断装置、予測装置等と読み替えられてよい。
【0030】
例えば、本発明の一側面に係る推定装置は、対象データを取得するデータ取得部と、上記いずれかの側面に係るモデル生成装置により生成された訓練済みの前記符号器及び前記第１推定器を利用して、取得された前記対象データに含まれる第１特徴を推定する推定部と、前記第１特徴を推定した結果に関する情報を出力する出力部と、を備える。当該構成によれば、第２特徴の相違に対してロバストに第１特徴に関する推定タスクを遂行することができる。なお、対象データは、「対象サンプル」、単に「サンプル」等と称されてよい。
【0031】
また、上記各形態に係るモデル生成装置及び推定装置それぞれの別の態様として、本発明の一側面は、以上の各構成の全部又はその一部を実現する情報処理方法であってもよいし、プログラムであってもよいし、このようなプログラムを記憶した、コンピュータその他装置、機械等が読み取り可能な記憶媒体であってもよい。ここで、コンピュータ等が読み取り可能な記憶媒体とは、プログラム等の情報を、電気的、磁気的、光学的、機械的、又は、化学的作用によって蓄積する媒体である。また、本発明の一側面は、上記いずれかの形態に係るモデル生成装置及び推定装置により構成される推定システムであってもよい。
【0032】
例えば、本発明の一側面に係るモデル生成方法は、コンピュータが、訓練データ、前記訓練データに含まれる第１特徴を示す第１正解データ、及び前記訓練データに含まれる第２特徴であって、前記第１特徴とは異なる第２特徴を示す第２正解データの組み合わせによりそれぞれ構成される複数の学習データセットを取得するステップと、符号器、第１推定器、及び第２推定器を含む学習モデルの機械学習を実施するステップであって、前記符号器は、与えられた入力データを特徴量に変換するように構成され、前記第１推定器は、前記符号器の出力値が入力され、前記入力データに含まれる第１特徴を前記特徴量から推定するように構成され、前記第２推定器は、前記符号器の出力値が入力され、前記入力データに含まれる第２特徴を前記特徴量から推定するように構成され、前記機械学習を実施することは、前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第２推定器から得られる推定の結果が前記第２正解データに適合するように、前記第２推定器を訓練する第１訓練ステップ、前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第２推定器から得られる推定の結果が前記第２正解データに適合しなくなるように、前記符号器を訓練する第２訓練ステップ、並びに、前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第１推定器から得られる推定の結果が前記第１正解データに適合するように、前記符号器及び前記第１推定器を訓練する第３訓練ステップ、を含み、前記第１訓練ステップ及び前記第２訓練ステップを交互に繰り返し実行する、ステップと、を実行する、情報処理方法である。
【0033】
また、例えば、本発明の一側面に係るモデル生成プログラムは、コンピュータに、訓練データ、前記訓練データに含まれる第１特徴を示す第１正解データ、及び前記訓練データに含まれる第２特徴であって、前記第１特徴とは異なる第２特徴を示す第２正解データの組み合わせによりそれぞれ構成される複数の学習データセットを取得するステップと、符号器、第１推定器、及び第２推定器を含む学習モデルの機械学習を実施するステップであって、前記符号器は、与えられた入力データを特徴量に変換するように構成され、前記第１推定器は、前記符号器の出力値が入力され、前記入力データに含まれる第１特徴を前記特徴量から推定するように構成され、前記第２推定器は、前記符号器の出力値が入力され、前記入力データに含まれる第２特徴を前記特徴量から推定するように構成され、前記機械学習を実施することは、前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第２推定器から得られる推定の結果が前記第２正解データに適合するように、前記第２推定器を訓練する第１訓練ステップ、前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第２推定器から得られる推定の結果が前記第２正解データに適合しなくなるように、前記符号器を訓練する第２訓練ステップ、並びに、前記各学習データセットについて、前記訓練データを前記符号器に与えることで前記第１推定器から得られる推定の結果が前記第１正解データに適合するように、前記符号器及び前記第１推定器を訓練する第３訓練ステップ、を含み、前記第１訓練ステップ及び前記第２訓練ステップを交互に繰り返し実行する、ステップと、を実行させるための、プログラムである。
【発明の効果】
【0034】
本発明によれば、データに含まれる対象の特徴に関する推定タスクを遂行可能な訓練済みの推定器であって、対象の特徴以外の他の特徴の相違にロバストな訓練済みの推定器を生成することができる。
【図面の簡単な説明】
【0035】
【発明を実施するための形態】
【0036】
以下、本発明の一側面に係る実施の形態（以下、「本実施形態」とも表記する）を、図面に基づいて説明する。ただし、以下で説明する本実施形態は、あらゆる点において本発明の例示に過ぎない。本発明の範囲を逸脱することなく種々の改良や変形を行うことができることは言うまでもない。つまり、本発明の実施にあたって、実施形態に応じた具体的構成が適宜採用されてもよい。なお、本実施形態において登場するデータを自然言語により説明しているが、より具体的には、コンピュータが認識可能な疑似言語、コマンド、パラメータ、マシン語等で指定される。
【0037】
§１ 適用例
まず、図１を用いて、本発明が適用される場面の一例について説明する。図１は、本発明を適用した場面の一例を模式的に例示する。図１に示されるとおり、本実施形態に係る推定システム１００は、モデル生成装置１及び推定装置２を備えている。
まず、図１を用いて、本発明が適用される場面の一例について説明する。図１は、本発明を適用した場面の一例を模式的に例示する。図１に示されるとおり、本実施形態に係る推定システム１００は、モデル生成装置１及び推定装置２を備えている。
【0038】
本実施形態に係るモデル生成装置１は、学習モデル５の機械学習を実施するように構成されたコンピュータである。具体的に、本実施形態に係るモデル生成装置１は、複数の学習データセット１２０を取得する。各学習データセット１２０は、訓練データ１２１、訓練データ１２１に含まれる第１特徴を示す第１正解データ１２２、及び訓練データ１２１に含まれる第２特徴であって、第１特徴とは異なる第２特徴を示す第２正解データ１２３の組み合わせにより構成される。
【0039】
訓練データ１２１は、所定種類のデータのサンプルである。所定種類のデータは、例えば、何らかの特徴が表れ得るデータであれば、データの種類は、特に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。所定種類のデータは、例えば、画像データ、音データ、数値データ、テキストデータ、その他各種センサにより得られる測定データ等であってよい。所定種類のデータは、例えば、何らかの対象をセンサにより観測することで得られるセンシングデータであってもよい。センサは、例えば、画像センサ（カメラ）、赤外線センサ、音センサ（マイクロフォン）、超音波センサ、光センサ、圧力センサ、気圧センサ、温度センサ等であってよい。また、センサは、例えば、環境センサ、バイタルセンサ、医療検査装置、車載センサ、ホームセキュリティセンサ等であってよい。環境センサは、例えば、気圧計、温度計、湿度計、音圧計、音センサ、紫外線センサ、照度計、雨量計、ガスセンサ等であってよい。バイタルセンサは、例えば、血圧計、脈拍計、心拍計、心電計、筋電計、体温計、皮膚電気反応計、マイクロ波センサ、脳波計、脳磁計、活動量計、血糖値測定器、眼電位センサ、眼球運動計測器等であってよい。医療検査装置は、例えば、ＣＴ（Computed Tomography）装置、ＭＲＩ（Magnetic Resonance Imaging）装置等であってよい。車載センサは、例えば、画像センサ、Lidar（light detection and ranging）センサ、ミリ波レーダ、超音波センサ、加速度センサ等であってよい。ホームセキュリティセンサは、例えば、画像センサ、赤外線センサ、活性度（音声）センサ、ガス（ＣＯ2等）センサ、電流センサ、スマートメータ（家電、照明等の電力使用量を計測するセンサ）等であってよい。
【0040】
第１特徴及び第２特徴はそれぞれ、実施の形態に応じて適宜選択されてよい。例えば、第１特徴及び第２特徴はそれぞれ、データに直接的又は間接的に表れ得る成分（要素）に関するものであってよい。直接的に表れるとは、画像データに写る等のデータそのものに表れることを指す。間接的に表れるとは、画像データから推定される等のデータから導出されることを指す。第１特徴は、機械学習モデルに習得させる推定タスクに応じて選択されてよい。一方、第２特徴は、データに直接的又は間接的に表れ得る特徴のうち、推定タスクの対象に選択されなかったものから選択されてよい。第１特徴は、例えば、画像データにおける前景（例えば、欠陥部分）等のような、所定種類のデータにおける所定の推定の対象となる第１成分に関するものであってよい。これに対して、第２特徴は、第１成分とは異なる第２成分であって、例えば、画像データにおける背景等のような、第１成分についての所定の推定に影響を与え得る第２成分に関するものであってよい。
【0041】
なお、所定の推定に影響を与えるとは、上記従来の方法により生成された訓練済みのモデルが与えられた場合に、機械学習に使用された訓練データに表れる第１成分及び第２成分の既知の組み合わせを含む対象データと比べて、第１成分及び第２成分の未知の組み合わせを含む対象データに対して、当該訓練済みのモデルによる第１成分についての所定の推定の精度が悪化し得ることである。具体例として、対象データとして画像データを選択し、製品の欠陥に関する成分を第１成分として選択し、背景に関する成分を第２成分として選択することで、画像データに写る製品の欠陥を検出する場面を想定する。この場面において、製品の欠陥及び背景の写る訓練データを使用した機械学習により、訓練済みのモデルを生成する。機械学習に使用される訓練データには、第１欠陥及び第１背景の組み合わせ、並びに第２欠陥及び第２背景の組み合わせは出現しているのに対して、第１欠陥及び第２背景の組み合わせ、並びに第２欠陥及び第１背景の組み合わせは出現していないと仮定する。この場合に、機械学習に使用された訓練データに出現する欠陥及び背景の組み合わせ（第１欠陥、第１背景）又は（第２欠陥、第２背景）を含む画像データと比べて、欠陥及び背景それぞれ個別では訓練データに出現しているものの、訓練データには出現していない欠陥及び背景の組み合わせ（第１欠陥、第２背景）又は（第２欠陥、第１背景）を含む画像データに対して、訓練済みのモデルによる欠陥の検出の精度が悪化し得ることが、上記所定の推定に影響を与えることの一例である。
【0042】
第１正解データ１２２は、第１特徴に関する推定タスクの正解を示す。第２正解データ１２３は、第２特徴に関する推定タスクの正解を示す。各正解データ（１２２、１２３）は、「教師信号」、「ラベル」等と読み替えられてもよい。「推定」は、「推論」と読み替えられてもよい。各特徴を推定することは、例えば、グループ分け（分類、識別）により離散値（例えば、特定の特徴に対応するクラス）を導出すること、及び回帰により連続値（例えば、特定の特徴が出現している確率）を導出することのいずれかであってよい。各特徴を推定することには、当該グループ分け又は回帰の結果に基づいて、検出、判定等の何らかの認定を行うことが含まれてもよい。また、各特徴を推定することには、予測することが含まれてもよい。
【0043】
本実施形態に係るモデル生成装置１は、取得された複数の学習データセット１２０を使用して、学習モデル５の機械学習を実施する。本実施形態に係る学習モデル５は、符号器５１、第１推定器５２、及び第２推定器５３を含んでいる。符号器５１は、与えられた入力データを特徴量に変換する、換言すると、入力データの入力を受け付けて、入力された入力データを特徴量に変換した結果に対応する出力値を出力するように構成される。第１推定器５２は、符号器５１の出力値（すなわち、特徴量）が入力され、入力データに含まれる第１特徴を特徴量から推定するように構成される。第２推定器５３は、符号器５１の出力値が入力され、入力データに含まれる第２特徴を特徴量から推定するように構成される。
【0044】
特徴量のデータ形式は、特に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。また、各推定器（５２、５３）の出力値の形式も、特に限定されなくてもよく、各特徴に関する推定タスクの形式に応じて適宜選択されてよい。符号器５１、第１推定器５２、及び第２推定器５３は、演算パラメータを備える機械学習モデルにより構成される。符号器５１、第１推定器５２、及び第２推定器５３それぞれを構成する機械学習モデルの種類は、特に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。本実施形態では、符号器５１、第１推定器５２、及び第２推定器５３それぞれを構成する機械学習モデルには、ニューラルネットワークが用いられる。詳細は後述する。
【0045】
本実施形態に係る機械学習を実施することは、第１～第３訓練ステップを含む。第１訓練ステップでは、本実施形態に係るモデル生成装置１は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第２推定器５３から得られる第２特徴の推定結果が第２正解データ１２３に適合するように、第２推定器５３を訓練する。第２訓練ステップでは、本実施形態に係るモデル生成装置１は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第２推定器５３から得られる第２特徴の推定結果が第２正解データ１２３に適合しなくなるように、符号器５１を訓練する。すなわち、第２訓練ステップでは、符号器５１は、第２推定器５３の推定性能を低下させるような特徴量に訓練データ１２１を変換するように訓練される。第３訓練ステップでは、本実施形態に係るモデル生成装置１は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第１推定器５２から得られる第１特徴の推定結果が第１正解データ１２２に適合するように、符号器５１及び第１推定器５２を訓練する。本実施形態に係るモデル生成装置１は、第１訓練ステップ及び第２訓練ステップを交互に繰り返し実行する。これにより、本実施形態に係るモデル生成装置１は、第１特徴に関する推定タスクの遂行に利用可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。なお、本実施形態に係るモデル生成装置１は、単に「生成装置」、「学習装置」等と読み替えられてよい。「訓練済み」は、「学習済み」と読み替えられてよい。
【0046】
一方、本実施形態に係る推定装置２は、モデル生成装置１により生成された訓練済みの符号器５１及び第１推定器５２を利用して、所定種類のデータに対して第１特徴に関する推定タスクを遂行するように構成されたコンピュータである。具体的に、本実施形態に係る推定装置２は、推定タスクの対象となる対象データを取得する。本実施形態に係る推定装置２は、モデル生成装置１により生成された訓練済みの符号器５１及び第１推定器５２を利用して、取得された対象データに含まれる第１特徴を推定する。本実施形態に係る推定装置２は、第１特徴を推定した結果に関する情報を出力する。
【0047】
以上のとおり、本実施形態では、上記第１訓練ステップにより、第２推定器５３は、符号器５１により得られる特徴量に含まれる第２特徴に対応する成分から当該第２特徴に関する推定タスクを遂行する能力を獲得するように訓練される。一方、上記第２訓練ステップにより、符号器５１は、第２推定器５３の推定性能に応じて、当該第２推定器５３による第２特徴に関する推定タスクが失敗するような特徴量に入力データ（訓練データ１２１）を変換する能力を獲得するように訓練される。
【0048】
本実施形態では、当該第１訓練ステップ及び第２訓練ステップを交互に繰り返し実行することで、符号器５１及び第２推定器５３の敵対的学習が実施される。その結果、第２推定器５３の推定性能が向上するのに対応して、第２推定器５３による推定タスクが失敗するように、符号器５１により得られる特徴量には、第２特徴に対応する成分が含まれ難くすることができる。
【0049】
加えて、上記第３訓練ステップにより、第１推定器５２は、符号器５１により得られる特徴量から第１特徴に関する推定タスクを遂行する能力を獲得するように訓練される。これと共に、符号器５１は、第１特徴に関する推定タスクを第１推定器５２が適切に遂行可能なように、第１特徴に対応する成分を含む特徴量に入力データ（訓練データ１２１）を変換する能力を獲得するように訓練される。
【0050】
したがって、本実施形態に係る機械学習によれば、訓練済みの符号器５１により得られる特徴量には、第１特徴に対応する成分が含まれ、かつ第２特徴に対応する成分が含まれ難くすることができる。これにより、第１推定器５２による第１特徴に関する推定タスクの遂行に第２特徴に関する情報が考慮され難くすることができる。よって、本実施形態に係るモデル生成装置１によれば、第２特徴の相違に対してロバストに第１特徴に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。
【0051】
なお、図１の例では、モデル生成装置１及び推定装置２は、ネットワークを介して互いに接続されている。ネットワークの種類は、例えば、インターネット、無線通信網、移動通信網、電話網、専用網等から適宜選択されてよい。ただし、モデル生成装置１及び推定装置２の間でデータをやりとりする方法は、このような例に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。例えば、モデル生成装置１及び推定装置２の間では、記憶媒体を利用して、データがやりとりされてよい。
【0052】
また、図１の例では、モデル生成装置１及び推定装置２は、それぞれ別個のコンピュータにより構成されている。しかしながら、本実施形態に係る推定システム１００の構成は、このような例に限定されなくてもよく、実施の形態に応じて適宜決定されてよい。たとえば、モデル生成装置１及び推定装置２は一体のコンピュータであってもよい。また、例えば、モデル生成装置１及び推定装置２のうちの少なくとも一方は、複数台のコンピュータにより構成されてもよい。
【0053】
§２ 構成例
［ハードウェア構成］
＜モデル生成装置＞
次に、図２を用いて、本実施形態に係るモデル生成装置１のハードウェア構成の一例について説明する。図２は、本実施形態に係るモデル生成装置１のハードウェア構成の一例を模式的に例示する。
［ハードウェア構成］
＜モデル生成装置＞
次に、図２を用いて、本実施形態に係るモデル生成装置１のハードウェア構成の一例について説明する。図２は、本実施形態に係るモデル生成装置１のハードウェア構成の一例を模式的に例示する。
【0054】
図２に示されるとおり、本実施形態に係るモデル生成装置１は、制御部１１、記憶部１２、通信インタフェース１３、外部インタフェース１４、入力装置１５、出力装置１６、及びドライブ１７が電気的に接続されたコンピュータである。なお、図２では、通信インタフェース及び外部インタフェースを「通信Ｉ／Ｆ」及び「外部Ｉ／Ｆ」と記載している。
【0055】
制御部１１は、ハードウェアプロセッサであるＣＰＵ（Central Processing Unit）、ＲＡＭ（Random Access Memory）、ＲＯＭ（Read Only Memory）等を含み、プログラム及び各種データに基づいて情報処理を実行するように構成される。記憶部１２は、メモリの一例であり、例えば、ハードディスクドライブ、ソリッドステートドライブ等で構成される。本実施形態では、記憶部１２は、モデル生成プログラム８１、複数の学習データセット１２０、学習結果データ１２５等の各種情報を記憶する。
【0056】
モデル生成プログラム８１は、学習モデル５の機械学習に関する後述の情報処理（図７及び図８）をモデル生成装置１に実行させるためのプログラムである。モデル生成プログラム８１は、当該情報処理の一連の命令を含む。モデル生成プログラム８１は、単に「生成プログラム」、「学習プログラム」等と称されてもよい。複数の学習データセット１２０は、学習モデル５の機械学習に使用される。学習結果データ１２５は、機械学習により生成された訓練済みの符号器５１及び第１推定器５２に関する情報を示す。本実施形態では、学習結果データ１２５は、モデル生成プログラム８１を実行した結果として生成される。詳細は後述する。
【0057】
通信インタフェース１３は、例えば、有線ＬＡＮ（Local Area Network）モジュール、無線ＬＡＮモジュール等であり、ネットワークを介した有線又は無線通信を行うためのインタフェースである。モデル生成装置１は、この通信インタフェース１３を利用することで、ネットワークを介したデータ通信を他の情報処理装置（例えば、推定装置２）と行うことができる。
【0058】
外部インタフェース１４は、例えば、ＵＳＢ（Universal Serial Bus）ポート、専用ポート等であり、外部装置と接続するためのインタフェースである。外部インタフェース１４の種類及び数は、接続される外部装置の種類及び数に応じて適宜選択されてよい。モデル生成装置１は、外部インタフェース１４を介して、訓練データ１２１を得るためのセンサに接続されてよい。
【0059】
入力装置１５は、例えば、マウス、キーボード等の入力を行うための装置である。また、出力装置１６は、例えば、ディスプレイ、スピーカ等の出力を行うための装置である。ユーザ等のオペレータは、入力装置１５及び出力装置１６を利用することで、モデル生成装置１を操作することができる。
【0060】
ドライブ１７は、例えば、ＣＤドライブ、ＤＶＤドライブ等であり、記憶媒体９１に記憶されたプログラム等の各種情報を読み込むためのドライブ装置である。ドライブ１７の種類は、記憶媒体９１の種類に応じて適宜選択されてよい。上記モデル生成プログラム８１及び複数の学習データセット１２０の少なくともいずれかは、この記憶媒体９１に記憶されていてもよい。
【0061】
記憶媒体９１は、コンピュータその他装置、機械等が、記憶されたプログラム等の各種情報を読み取り可能なように、当該プログラム等の情報を、電気的、磁気的、光学的、機械的又は化学的作用によって蓄積する媒体である。モデル生成装置１は、この記憶媒体９１から、上記モデル生成プログラム８１及び複数の学習データセット１２０の少なくともいずれかを取得してもよい。
【0062】
ここで、図２では、記憶媒体９１の一例として、ＣＤ、ＤＶＤ等のディスク型の記憶媒体を例示している。しかしながら、記憶媒体９１の種類は、ディスク型に限定される訳ではなく、ディスク型以外であってもよい。ディスク型以外の記憶媒体として、例えば、フラッシュメモリ等の半導体メモリを挙げることができる。ドライブ１７の種類は、記憶媒体９１の種類に応じて適宜選択されてよい。
【0063】
なお、モデル生成装置１の具体的なハードウェア構成に関して、実施形態に応じて、適宜、構成要素の省略、置換及び追加が可能である。例えば、制御部１１は、複数のハードウェアプロセッサを含んでもよい。ハードウェアプロセッサは、マイクロプロセッサ、ＦＰＧＡ（field-programmable gate array）、ＤＳＰ（digital signal processor）等で構成されてよい。記憶部１２は、制御部１１に含まれるＲＡＭ及びＲＯＭにより構成されてもよい。通信インタフェース１３、外部インタフェース１４、入力装置１５、出力装置１６及びドライブ１７の少なくともいずれかは省略されてもよい。モデル生成装置１は、複数台のコンピュータで構成されてもよい。この場合、各コンピュータのハードウェア構成は、一致していてもよいし、一致していなくてもよい。また、モデル生成装置１は、提供されるサービス専用に設計された情報処理装置の他、汎用のサーバ装置、ＰＣ（Personal Computer）等であってもよい。
【0064】
【0065】
図３に示されるとおり、本実施形態に係る推定装置２は、制御部２１、記憶部２２、通信インタフェース２３、外部インタフェース２４、入力装置２５、出力装置２６、及びドライブ２７が電気的に接続されたコンピュータである。なお、図３では、図２と同様に、通信インタフェース及び外部インタフェースを「通信Ｉ／Ｆ」及び「外部Ｉ／Ｆ」と記載している。
【0066】
推定装置２の制御部２１～ドライブ２７はそれぞれ、上記モデル生成装置１の制御部１１～ドライブ１７それぞれと同様に構成されてよい。すなわち、制御部２１は、ハードウェアプロセッサであるＣＰＵ、ＲＡＭ、ＲＯＭ等を含み、プログラム及びデータに基づいて各種情報処理を実行するように構成される。記憶部２２は、例えば、ハードディスクドライブ、ソリッドステートドライブ等で構成される。記憶部２２は、推定プログラム８２、学習結果データ１２５等の各種情報を記憶する。
【0067】
推定プログラム８２は、訓練済みの符号器５１及び第１推定器５２を利用して、所定種類のデータに対して第１特徴に関する推定タスクを遂行する後述の情報処理（図９）を推定装置２に実行させるためのプログラムである。推定プログラム８２は、当該情報処理の一連の命令を含む。詳細は後述する。
【0068】
通信インタフェース２３は、例えば、有線ＬＡＮモジュール、無線ＬＡＮモジュール等であり、ネットワークを介した有線又は無線通信を行うためのインタフェースである。推定装置２は、この通信インタフェース２３を利用することで、ネットワークを介したデータ通信を他の情報処理装置（例えば、モデル生成装置１）と行うことができる。
【0069】
外部インタフェース２４は、例えば、ＵＳＢポート、専用ポート等であり、外部装置と接続するためのインタフェースである。外部インタフェース２４の種類及び数は、接続される外部装置の種類及び数に応じて適宜選択されてよい。推定装置２は、外部インタフェース１４を介して、対象データを取得するためのセンサに接続されてよい。
【0070】
入力装置２５は、例えば、マウス、キーボード等の入力を行うための装置である。また、出力装置２６は、例えば、ディスプレイ、スピーカ等の出力を行うための装置である。ユーザ等のオペレータは、入力装置２５及び出力装置２６を利用することで、推定装置２を操作することができる。
【0071】
ドライブ２７は、例えば、ＣＤドライブ、ＤＶＤドライブ等であり、記憶媒体９２に記憶されたプログラム等の各種情報を読み込むためのドライブ装置である。記憶媒体９２の種類は、ディスク型及びディスク型以外のいずれであってもよい。ドライブ２７の種類は、記憶媒体９２の種類に応じて適宜選択されてよい。上記推定プログラム８２及び学習結果データ１２５のうちの少なくともいずれかは、記憶媒体９２に記憶されていてもよい。また、推定装置２は、記憶媒体９２から、上記推定プログラム８２及び学習結果データ１２５のうちの少なくともいずれかを取得してもよい。
【0072】
なお、推定装置２の具体的なハードウェア構成に関して、実施形態に応じて、適宜、構成要素の省略、置換及び追加が可能である。例えば、制御部２１は、複数のハードウェアプロセッサを含んでもよい。ハードウェアプロセッサは、マイクロプロセッサ、ＦＰＧＡ、ＤＳＰ等で構成されてよい。記憶部２２は、制御部２１に含まれるＲＡＭ及びＲＯＭにより構成されてもよい。通信インタフェース２３、外部インタフェース２４、入力装置２５、出力装置２６、及びドライブ２７の少なくともいずれかは省略されてもよい。推定装置２は、複数台のコンピュータで構成されてもよい。この場合、各コンピュータのハードウェア構成は、一致していてもよいし、一致していなくてもよい。また、推定装置２は、提供されるサービス専用に設計された情報処理装置の他、汎用のサーバ装置、汎用のＰＣ等であってもよい。
【0073】
［ソフトウェア構成］
＜モデル生成装置＞
次に、図４及び図５を用いて、本実施形態に係るモデル生成装置１のソフトウェア構成の一例について説明する。図４は、本実施形態に係るモデル生成装置１のソフトウェア構成の一例を模式的に例示する。図５は、本実施形態に係るモデル生成装置１による機械学習の処理過程の一例を模式的に例示する。
＜モデル生成装置＞
次に、図４及び図５を用いて、本実施形態に係るモデル生成装置１のソフトウェア構成の一例について説明する。図４は、本実施形態に係るモデル生成装置１のソフトウェア構成の一例を模式的に例示する。図５は、本実施形態に係るモデル生成装置１による機械学習の処理過程の一例を模式的に例示する。
【0074】
モデル生成装置１の制御部１１は、記憶部１２に記憶されたモデル生成プログラム８１をＲＡＭに展開する。そして、制御部１１は、ＣＰＵにより、ＲＡＭに展開されたモデル生成プログラム８１に含まれる命令をＣＰＵにより解釈及び実行して、各構成要素を制御する。これにより、図４に示されるとおり、本実施形態に係るモデル生成装置１は、データ取得部１１１、学習処理部１１２、及び保存処理部１１３をソフトウェアモジュールとして備えるコンピュータとして動作する。すなわち、本実施形態では、モデル生成装置１の各ソフトウェアモジュールは、制御部１１（ＣＰＵ）により実現される。
【0075】
データ取得部１１１は、訓練データ１２１、訓練データ１２１に含まれる第１特徴を示す第１正解データ１２２、及び訓練データ１２１に含まれる第２特徴であって、第１特徴とは異なる第２特徴を示す第２正解データ１２３の組み合わせによりそれぞれ構成される複数の学習データセット１２０を取得する。学習処理部１１２は、取得された複数の学習データセット１２０を使用して、学習モデル５の機械学習を実施する。
【0076】
本実施形態に係る学習モデル５は、符号器５１、第１推定器５２、及び第２推定器５３を備えている。符号器５１は、入力側に配置されている。符号器５１は、所定種類のデータの入力に対して、入力データを変換することで得られた特徴量に対応する出力値を出力するように構成される。これに対して、第１推定器５２及び第２推定器５３は、出力側に並列に配置されている。符号器５１の出力は、各推定器（５２、５３）の入力に接続している。これにより、符号器５１の出力値、すなわち、入力データを変換することで得られた特徴量が各推定器（５２、５３）に入力される。第１推定器５２は、特徴量の入力に対して、入力データに含まれる第１特徴を入力された特徴量から推定した結果に対応する出力値を出力するように構成される。第２推定器５３は、特徴量の入力に対して、入力データに含まれる第２特徴を入力された特徴量から推定した結果に対応する出力値を出力するように構成される。
【0077】
図５に示されるとおり、本実施形態に係る機械学習は、第１～第３訓練ステップを含む。第１訓練ステップでは、学習処理部１１２は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第２推定器５３から得られる第２特徴の推定結果が第２正解データ１２３に適合するように、第２推定器５３を訓練する。第２訓練ステップでは、学習処理部１１２は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第２推定器５３から得られる第２特徴の推定結果が第２正解データ１２３に適合しなくなるように、符号器５１を訓練する。学習処理部１１２は、第１訓練ステップ及び第２訓練ステップを交互に繰り返し実行する。第３訓練ステップでは、学習処理部１１２は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第１推定器５２から得られる第１特徴の推定結果が第１正解データ１２２に適合するように、符号器５１及び第１推定器５２を訓練する。
【0078】
なお、推定結果が第２正解データ１２３に適合しなくなるように符号器５１を訓練する方法は、特に限定されなくてもよく、実施の形態に応じて適宜決定されてよい。一例として、学習処理部１１２は、各学習データセット１２０について、第２正解データ１２３に対応するダミーデータ１２９であって、対応する第２正解データ１２３とは異なる値で構成されるダミーデータ１２９を取得してもよい。この場合、推定結果が第２正解データ１２３に適合しなくなるように符号器５１を訓練することは、訓練データ１２１を符号器５１に与えることで第２推定器５３から得られる第２特徴の推定結果がダミーデータ１２９に適合するように訓練することにより構成されてよい。
【0079】
以上の各訓練ステップの実行により、訓練済みの学習モデル５が生成される。図４に示されるとおり、保存処理部１１３は、訓練済みの符号器５１及び第１推定器５２に関する情報を学習結果データ１２５として生成する。そして、保存処理部１１３は、生成された学習結果データ１２５を所定の記憶領域に保存する。なお、訓練済みの第２推定器５３の取り扱いについては任意であってよい。学習結果データ１２５は、訓練済みの第２推定器５３に関する情報を含んでもよいし、或いは含まなくてもよい。
【0080】
（機械学習モデルの構成）
次に、符号器５１、第１推定器５２及び第２推定器５３それぞれの構成について説明する。符号器５１、第１推定器５２及び第２推定器５３それぞれには、機械学習を実施可能な任意のモデルが利用されてよい。図４に示されるとおり、本実施形態では、符号器５１、第１推定器５２及び第２推定器５３はそれぞれ、多層構造の全結合型ニューラルネットワークにより構成されている。符号器５１、第１推定器５２及び第２推定器５３はそれぞれ、入力層（５１１、５２１、５３１）、中間（隠れ）層（５１２、５２２、５３２）、及び出力層（５１３、５２３、５３３）を備えている。
次に、符号器５１、第１推定器５２及び第２推定器５３それぞれの構成について説明する。符号器５１、第１推定器５２及び第２推定器５３それぞれには、機械学習を実施可能な任意のモデルが利用されてよい。図４に示されるとおり、本実施形態では、符号器５１、第１推定器５２及び第２推定器５３はそれぞれ、多層構造の全結合型ニューラルネットワークにより構成されている。符号器５１、第１推定器５２及び第２推定器５３はそれぞれ、入力層（５１１、５２１、５３１）、中間（隠れ）層（５１２、５２２、５３２）、及び出力層（５１３、５２３、５３３）を備えている。
【0081】
ただし、符号器５１、第１推定器５２及び第２推定器５３それぞれの構造は、このような例に限定されなくてもよく、実施の形態に応じて適宜決定されてよい。例えば、中間層（５１２、５２２、５３２）の数は、１つに限定されなくてもよく、２つ以上であってもよい。或いは、中間層（５１２、５２２、５３２）は省略されてもよい。それぞれのニューラルネットワークを構成する層の数は、特に限られなくてもよく、任意に選択されてよい。符号器５１、第１推定器５２及び第２推定器５３の少なくともいずれかの組み合わせでは、少なくとも部分的に構造が一致していてもよいし、或いは一致していなくてもよい。また、図４の例では、符号器５１、第１推定器５２及び第２推定器５３それぞれのニューラルネットワークは分離されているが、符号器５１、第１推定器５２及び第２推定器５３の少なくともいずれかの組み合わせは一体のニューラルネットワークにより構成されてよい。
【0082】
各層（５１１～５１３、５２１～５２３、５３１～５３３）は１又は複数のニューロン（ノード）を備えている。各層（５１１～５１３、５２１～５２３、５３１～５３３）に含まれるニューロン（ノード）の数は、特に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。隣接する層のニューロン同士は適宜結合される。図４の例では、各ニューロンは、隣接する層の全てのニューロンと結合されている。しかしながら、各ニューロンの結合関係は、このような例に限定されなくてもよく、実施の形態に応じて適宜設定されてよい。
【0083】
各結合には、重み（結合荷重）が設定されている。各ニューロンには閾値が設定されており、基本的には、各入力と各重みとの積の和が閾値を超えているか否かによって各ニューロンの出力が決定される。閾値は、活性化関数により表現されてもよい。この場合、各入力と各重みとの積の和を活性化関数に入力し、活性化関数の演算を実行することで、各ニューロンの出力が決定される。活性化関数の種類は、特に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。各層（５１１～５１３、５２１～５２３、５３１～５３３）に含まれる各ニューロン間の結合の重み及び各ニューロンの閾値は、符号器５１、第１推定器５２及び第２推定器５３それぞれの演算処理に利用される演算パラメータの一例である。
【0084】
符号器５１、第１推定器５２及び第２推定器５３それぞれの演算パラメータの値は、上記機械学習の各訓練ステップにより調節される。具体的に、第１訓練ステップでは、学習処理部１１２は、各学習データセット１２０について、訓練データ１２１を符号器５１の入力層５１１に入力し、第２特徴の推定結果に対応する出力値を第２推定器５３の出力層５３３から取得する。学習処理部１１２は、符号器５１の演算パラメータの値を固定した上で、取得される出力値と第２正解データ１２３との誤差が小さくなるように、第２推定器５３の演算パラメータの値を調節する。
【0085】
第２訓練ステップでは、学習処理部１１２は、各学習データセット１２０について、訓練データ１２１を符号器５１の入力層５１１に入力し、第２特徴の推定結果に対応する出力値を第２推定器５３の出力層５３３から取得する。学習処理部１１２は、第２推定器５３の演算パラメータの値を固定した上で、取得される出力値と第２正解データ１２３との誤差が大きくなるように、符号器５１の演算パラメータの値を調節する。一例として、学習処理部１１２は、取得される出力値とダミーデータ１２９との誤差が小さくなるように、符号器５１の演算パラメータの値を調節する。
【0086】
第３訓練ステップでは、学習処理部１１２は、各学習データセット１２０について、訓練データ１２１を符号器５１の入力層５１１に入力し、第１特徴の推定結果に対応する出力値を第１推定器５２の出力層５２３から取得する。学習処理部１１２は、取得される出力値と第１正解データ１２２との誤差が小さくなるように、符号器５１及び第１推定器５２それぞれの演算パラメータの値を調節する。
【0087】
保存処理部１１３は、上記機械学習により構築された訓練済みの符号器５１及び第１推定器５２それぞれの構造及び演算パラメータの値を示す情報を学習結果データ１２５として生成する。構造は、例えば、ニューラルネットワークにおける入力層から出力層までの層の数、各層の種類、各層に含まれるニューロンの数、隣接する層のニューロン同士の結合関係等により特定されてよい。システム内でモデルの構造が共通化される場合、この構造に関する情報は学習結果データ１２５から省略されてもよい。保存処理部１１３は、生成された学習結果データ１２５を所定の記憶領域に保存する。
【0088】
【0089】
推定装置２の制御部２１は、記憶部２２に記憶された推定プログラム８２をＲＡＭに展開する。そして、制御部２１は、ＣＰＵにより、ＲＡＭに展開された推定プログラム８２に含まれる命令をＣＰＵにより解釈及び実行して、各構成要素を制御する。これにより、図６に示されるとおり、本実施形態に係る推定装置２は、データ取得部２１１、推定部２１２、及び出力部２１３をソフトウェアモジュールとして備えるコンピュータとして動作する。すなわち、本実施形態では、推定装置２の各ソフトウェアモジュールは、上記モデル生成装置１と同様に、制御部２１（ＣＰＵ）により実現される。
【0090】
データ取得部２１１は、推定タスクの遂行対象となる対象データ２２１を取得する。推定部２１２は、学習結果データ１２５を保持することで、モデル生成装置１により生成された訓練済みの符号器５１及び第１推定器５２を備えている。推定部２１２は、訓練済みの符号器５１及び第１推定器５２を利用して、取得された対象データ２２１に含まれる第１特徴を推定する。出力部２１３は、第１特徴を推定した結果に関する情報を出力する。
【0091】
＜その他＞
モデル生成装置１及び推定装置２の各ソフトウェアモジュールに関しては後述する動作例で詳細に説明する。なお、本実施形態では、モデル生成装置１及び推定装置２の各ソフトウェアモジュールがいずれも汎用のＣＰＵによって実現される例について説明している。しかしながら、以上のソフトウェアモジュールの一部又は全部が、１又は複数の専用のプロセッサにより実現されてもよい。また、モデル生成装置１及び推定装置２それぞれのソフトウェア構成に関して、実施形態に応じて、適宜、ソフトウェアモジュールの省略、置換及び追加が行われてもよい。
モデル生成装置１及び推定装置２の各ソフトウェアモジュールに関しては後述する動作例で詳細に説明する。なお、本実施形態では、モデル生成装置１及び推定装置２の各ソフトウェアモジュールがいずれも汎用のＣＰＵによって実現される例について説明している。しかしながら、以上のソフトウェアモジュールの一部又は全部が、１又は複数の専用のプロセッサにより実現されてもよい。また、モデル生成装置１及び推定装置２それぞれのソフトウェア構成に関して、実施形態に応じて、適宜、ソフトウェアモジュールの省略、置換及び追加が行われてもよい。
【0092】
§３ 動作例
［モデル生成装置］
次に、図７を用いて、モデル生成装置１の動作例について説明する。図７は、本実施形態に係るモデル生成装置１の処理手順の一例を示すフローチャートである。以下で説明する処理手順は、本発明の「モデル生成方法」の一例である。ただし、以下で説明する処理手順は一例に過ぎず、各ステップは可能な限り変更されてよい。更に、以下で説明する処理手順について、実施の形態に応じて、適宜、ステップの省略、置換、及び追加が可能である。
［モデル生成装置］
次に、図７を用いて、モデル生成装置１の動作例について説明する。図７は、本実施形態に係るモデル生成装置１の処理手順の一例を示すフローチャートである。以下で説明する処理手順は、本発明の「モデル生成方法」の一例である。ただし、以下で説明する処理手順は一例に過ぎず、各ステップは可能な限り変更されてよい。更に、以下で説明する処理手順について、実施の形態に応じて、適宜、ステップの省略、置換、及び追加が可能である。
【0093】
（ステップＳ１０１）
ステップＳ１０１では、制御部１１は、データ取得部１１１として動作し、複数の学習データセット１２０を取得する。本実施形態では、各学習データセット１２０は、訓練データ１２１、第１正解データ１２２、及び第２正解データ１２３の組み合わせにより構成される。
ステップＳ１０１では、制御部１１は、データ取得部１１１として動作し、複数の学習データセット１２０を取得する。本実施形態では、各学習データセット１２０は、訓練データ１２１、第１正解データ１２２、及び第２正解データ１２３の組み合わせにより構成される。
【0094】
各学習データセット１２０は適宜生成されてよい。例えば、実空間又は仮想空間において、第１特徴及び第２特徴を含む所定種類のデータのサンプルを訓練データ１２１として取得することができる。サンプルを取得する方法は適宜選択されてよい。所定種類のデータがセンシングデータである場合には、様々な条件でセンサにより対象を観測することで、訓練データ１２１を取得してもよい。観測の対象は、学習モデル５に習得させる推定タスクに応じて選択されてよい。そして、取得された訓練データ１２１に含まれる第１特徴及び第２特徴を推定した結果（正解）を示す情報を、第１正解データ１２２及び第２正解データ１２３として、取得された訓練データ１２１に関連付ける。各特徴の推定方法は任意に選択されてよい。例えば、各特徴の推定はオペレータにより行われてよい。これにより、各学習データセット１２０を生成することができる。
【0095】
各学習データセット１２０は、コンピュータの動作により自動的に生成されてもよいし、少なくとも部分的にオペレータの操作を含むことで手動で生成されてもよい。また、各学習データセット１２０の生成は、モデル生成装置１により行われてもよいし、モデル生成装置１以外の他のコンピュータにより行われてもよい。各学習データセット１２０をモデル生成装置１が生成する場合、制御部１１は、自動的に又は入力装置１５を介したオペレータの操作により手動で上記一連の生成処理を実行することで、複数の学習データセット１２０を取得する。一方、各学習データセット１２０を他のコンピュータが生成する場合、制御部１１は、例えば、ネットワーク、記憶媒体９１等を介して、他のコンピュータにより生成された複数の学習データセット１２０を取得する。一部の学習データセット１２０がモデル生成装置１により生成され、その他の学習データセット１２０が１又は複数の他のコンピュータにより生成されてもよい。
【0096】
取得する学習データセット１２０の件数は任意に選択されてよい。複数の学習データセット１２０を取得すると、制御部１１は、次のステップＳ１０２に処理を進める。
【0097】
（ステップＳ１０２）
ステップＳ１０２では、制御部１１は、学習処理部１１２として動作し、取得された複数の学習データセット１２０を使用して、学習モデル５の機械学習を実施する。
ステップＳ１０２では、制御部１１は、学習処理部１１２として動作し、取得された複数の学習データセット１２０を使用して、学習モデル５の機械学習を実施する。
【0098】
図８は、本実施形態に係る学習モデル５における、ステップＳ１０２の機械学習に関するサブルーチンの処理手順の一例を示すフローチャートである。本実施形態に係るステップＳ１０２の処理は、以下のステップＳ１２１～ステップＳ１２４の処理を含む。ただし、以下で説明する処理手順は一例に過ぎず、各処理は可能な限り変更されてよい。また、以下で説明する処理手順について、実施の形態に応じて、適宜、ステップの省略、置換、及び追加が可能である。
【0099】
なお、機械学習の処理対象となる符号器５１、第１推定器５２及び第２推定器５３を構成するニューラルネットワークは適宜用意されてよい。用意する符号器５１、第１推定器５２及び第２推定器５３それぞれの構造（例えば、層の数、各層に含まれるニューロンの数、隣接する層のニューロン同士の結合関係等）、各ニューロン間の結合の重みの初期値、及び各ニューロンの閾値の初期値は、テンプレートにより与えられてもよいし、オペレータの入力により与えられてもよい。また、再学習を行う場合には、制御部１１は、過去の機械学習を行うことで得られた学習結果データに基づいて、符号器５１、第１推定器５２及び第２推定器５３それぞれを用意してもよい。
【0100】
（ステップＳ１２１）
ステップＳ１２１では、制御部１１は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第２推定器５３から得られる第２特徴の推定結果が第２正解データ１２３に適合するように、第２推定器５３を訓練する。ステップＳ１２１は、第１訓練ステップの一例である。この機械学習の訓練処理には、確率的勾配降下法、ミニバッチ勾配降下法等が用いられてよい。後述するステップＳ１２２及びステップＳ１２３における訓練処理についても同様である。
ステップＳ１２１では、制御部１１は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第２推定器５３から得られる第２特徴の推定結果が第２正解データ１２３に適合するように、第２推定器５３を訓練する。ステップＳ１２１は、第１訓練ステップの一例である。この機械学習の訓練処理には、確率的勾配降下法、ミニバッチ勾配降下法等が用いられてよい。後述するステップＳ１２２及びステップＳ１２３における訓練処理についても同様である。
【0101】
一例として、まず、制御部１１は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えて、符号器５１の演算処理を実行する。換言すると、制御部１１は、訓練データ１２１を符号器５１の入力層５１１に入力し、入力側から順に各層５１１～５１３に含まれる各ニューロンの発火判定を行う（すなわち、順伝播の演算を行う）。この演算処理により、制御部１１は、訓練データ１２１を変換することで得られる特徴量に対応する出力値を符号器５１の出力層５１３から取得する。続いて、制御部１１は、取得された特徴量を第２推定器５３の入力層５３１に入力し、入力側から順に各層５３１～５３３に含まれる各ニューロンの発火判定を行う。この演算結果により、制御部１１は、訓練データ１２１に含まれる第２特徴を特徴量から推定した結果に対応する出力値を第２推定器５３の出力層５３３から取得する。
【0102】
制御部１１は、各学習データセット１２０について、以上の演算処理で第２推定器５３の出力層５３３から得られる出力値と第２正解データ１２３との誤差を算出する。誤差（損失）の算出には、損失関数が用いられてよい。損失関数は、機械学習モデルの出力と正解との差分（すなわち、相違の程度）を評価する関数であり、出力層５３３から得られる出力値と当該正解との差分値が大きいほど、損失関数により算出される誤差の値は大きくなる。誤差の計算に利用する損失関数の種類は、特に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。損失関数には、例えば、平均二乗誤差、交差エントロピー誤差等の公知の損失関数が用いられてよい。
【0103】
制御部１１は、誤差逆伝播（Back propagation）法により、算出された出力値の誤差の勾配を用いて、第２推定器５３の各演算パラメータ（各ニューロン間の結合の重み、各ニューロンの閾値等）の値の誤差を算出する。制御部１１は、算出された各誤差に基づいて、第２推定器５３の各演算パラメータの値を更新する。各演算パラメータの値を更新する程度は、学習率により調節されてよい。学習率は、オペレータの指定により与えられてもよいし、プログラム内の設定値として与えられてもよい。
【0104】
制御部１１は、符号器５１の各演算パラメータの値を固定した上で、上記一連の更新処理により、算出される誤差の和が小さくなるように、第２推定器５３の各演算パラメータの値を調節する。例えば、規定回数実行する、算出される誤差の和が閾値以下になる等の所定の条件を満たすまで、制御部１１は、上記一連の処理による各演算パラメータの値の調節を繰り返してもよい。これにより、制御部１１は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第２推定器５３から得られる第２特徴の推定結果が第２正解データ１２３に適合するように、第２推定器５３を訓練することができる。この第２推定器５３の訓練処理が完了すると、制御部１１は、次のステップＳ１２２に処理を進める。
【0105】
（ステップＳ１２２）
ステップＳ１２２では、制御部１１は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第２推定器５３から得られる第２特徴の推定結果が第２正解データ１２３に適合しなくなるように、符号器５１を訓練する。ステップＳ１２２は、第２訓練ステップの一例である。
ステップＳ１２２では、制御部１１は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第２推定器５３から得られる第２特徴の推定結果が第２正解データ１２３に適合しなくなるように、符号器５１を訓練する。ステップＳ１２２は、第２訓練ステップの一例である。
【0106】
本実施形態では、上記のように符号器５１を訓練するために、対応する第２正解データ１２３とは異なる値で構成されるダミーデータ１２９を用いることができる。この場合、制御部１１は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第２推定器５３から得られる第２特徴の推定結果がダミーデータ１２９に適合するように符号器５１を訓練してもよい。
【0107】
ダミーデータ１２９は、各学習データセット１２０の第２正解データ１２３に対応して適宜取得されてよい。例えば、ダミーデータ１２９は、対応する学習データセット１２０とは異なる他の学習データセット１２０の第２正解データ１２３により構成されてよい。すなわち、制御部１１は、ダミーデータ１２９を取得する対象の学習データセット１２０以外の他の学習データセット１２０を選択し、選択された他の学習データセット１２０の第２正解データ１２３を対象の学習データセット１２０のダミーデータ１２９として利用してもよい。
【0108】
他の学習データセット１２０を選択する方法は、特に限定されなくてもよく、実施の形態に応じて適宜決定されてよい。例えば、他の学習データセット１２０は、複数の学習データセット１２０の中から、ランダム等の機械的な方法で選択されてもよい。また、例えば、各学習データセット１２０の訓練データ１２１に対する第２正解データ１２３の対応関係を任意の方向にずらすことで、対象の学習データセット１２０に割り当てられた他の学習データセットの１２０の第２正解データ１２３をダミーデータ１２９として利用してもよい。また、例えば、複数の学習データセット１２０の中から１つの学習データセット１２０を任意の方法で選択し、選択された学習データセット１２０の第２正解データ１２３を全ての学習データセット１２０のダミーデータ１２９として利用してもよい。この方法によれば、ダミーデータ１２９を生成する計算量を抑えることができ、本ステップＳ１２２の処理コストの低減を図ることができる。
【0109】
なお、ダミーデータ１２９を生成する方法は、このような例に限定されなくてもよく、実施の形態に応じて適宜決定されてよい。上記の他、例えば、制御部１１は、第２正解データ１２３の値を反転することで、ダミーデータ１２９を生成してもよい。また、例えば、制御部１１は、第２正解データ１２３の値とは相違するように、ランダム（例えば、乱数）等の機械的な方法で得られた値で構成されるデータを生成し、生成されたデータをダミーデータ１２９として取得してもよい。複数の学習データセット１２０のうちダミーデータ１２９と第２正解データ１２３とが一致する学習データセット１２０が存在してもよい。この場合、当該学習データセット１２０をそのまま訓練に利用してもよいし、或いは当該学習データセット１２０のダミーデータ１２９を適宜変更するようにしてもよい。
【0110】
ダミーデータ１２９を利用した訓練処理は、例えば、次のように実施することができる。まず、制御部１１は、各学習データセット１２０について、上記ステップＳ１２１と同様に、符号器５１及び第２推定器５３の順伝播の演算処理を実行する。これにより、制御部１１は、訓練データ１２１に含まれる第２特徴を特徴量から推定した結果に対応する出力値を第２推定器５３の出力層５３３から取得する。次に、制御部１１は、各学習データセット１２０について、以上の演算処理で第２推定器５３の出力層５３３から得られる出力値とダミーデータ１２９との誤差を算出する。誤差の算出には、ステップＳ１２１と同様の損失関数が用いられてよい。制御部１１は、誤差逆伝播法により、算出された出力値の誤差の勾配を、第２推定器５３を介して符号器５１の各演算パラメータに逆伝播して、符号器５１の各演算パラメータの値の誤差を算出する。そして、制御部１１は、算出された各誤差に基づいて、符号器５１の各演算パラメータの値を更新する。各演算パラメータの値を更新する程度は、学習率により調節されてよい。
【0111】
制御部１１は、第２推定器５３の各演算パラメータの値を固定した上で、上記一連の更新処理により、算出される誤差の和が小さくなるように、符号器５１の各演算パラメータの値を調節する。ステップＳ１２１と同様に、制御部１１は、所定の条件を満たすまで、上記一連の処理による符号器５１の各演算パラメータの値の調節を繰り返してもよい。これにより、制御部１１は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第２推定器５３から得られる第２特徴の推定結果が第２正解データ１２３に適合しなくなるように、符号器５１を訓練することができる。この符号器５１の訓練処理が完了すると、制御部１１は、次のステップＳ１２３に処理を進める。
【0112】
なお、第２推定器５３から得られる第２特徴の推定結果が第２正解データ１２３に適合しなくなるように符号器５１を訓練する方法は、このダミーデータ１２９を利用する方法に限られなくてもよい。例えば、訓練処理において、制御部１１は、各学習データセット１２０について、第２推定器５３の出力層５３３から得られる出力値と第２正解データ１２３との誤差を算出してもよい。制御部１１は、算出された誤差の大きくなる方向に当該誤差の勾配を算出し、誤差逆伝播法により、算出された勾配を符号器５１の入力層５１１まで逆伝播してもよい。この過程で、制御部１１は、符号器５１の各演算パラメータの値の誤差を算出してもよい。そして、制御部１１は、算出された各誤差に基づいて、符号器５１の各演算パラメータの値を更新してもよい。この方法によっても、制御部１１は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第２推定器５３から得られる第２特徴の推定結果が第２正解データ１２３に適合しなくなるように、符号器５１を訓練することができる。
【0113】
（ステップＳ１２３）
ステップＳ１２３では、制御部１１は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第１推定器５２から得られる第１特徴の推定結果が第１正解データ１２２に適合するように、符号器５１及び第１推定器５２を訓練する。ステップＳ１２３は、第３訓練ステップの一例である。
ステップＳ１２３では、制御部１１は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第１推定器５２から得られる第１特徴の推定結果が第１正解データ１２２に適合するように、符号器５１及び第１推定器５２を訓練する。ステップＳ１２３は、第３訓練ステップの一例である。
【0114】
訓練処理の一例として、まず、制御部１１は、各学習データセット１２０について、訓練データ１２１を符号器５１の入力層５１１に入力し、入力側から順に各層５１１～５１３に含まれる各ニューロンの発火判定を行う。この演算処理により、制御部１１は、訓練データ１２１を変換することで得られる特徴量に対応する出力値を符号器５１の出力層５１３から取得する。続いて、制御部１１は、取得された特徴量を第１推定器５２の入力層５２１に入力し、入力側から順に各層５２１～５２３に含まれる各ニューロンの発火判定を行う。この演算結果により、制御部１１は、訓練データ１２１に含まれる第１特徴を特徴量から推定した結果に対応する出力値を第１推定器５２の出力層５２３から取得する。
【0115】
制御部１１は、各学習データセット１２０について、以上の演算処理で第１推定器５２の出力層５２３から得られる出力値と第１正解データ１２２との誤差を算出する。誤差の算出には、任意の損失関数が用いられてよい。制御部１１は、誤差逆伝播法により、算出された出力値の誤差の勾配を用いて、符号器５１及び第１推定器５２の各演算パラメータの値の誤差を算出する。制御部１１は、算出された各誤差に基づいて、符号器５１及び第１推定器５２の各演算パラメータの値を更新する。各演算パラメータの値を更新する程度は、学習率により調節されてよい。
【0116】
制御部１１は、上記一連の更新処理により、算出される誤差の和が小さくなるように、符号器５１及び第１推定器５２の各演算パラメータの値を調節する。ステップＳ１２１等と同様に、制御部１１は、所定の条件を満たすまで、上記一連の処理による符号器５１及び第１推定器５２の各演算パラメータの値の調節を繰り返してもよい。これにより、制御部１１は、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第１推定器５２から得られる第１特徴の推定結果が第１正解データ１２２に適合するように、符号器５１及び第１推定器５２を訓練することができる。この符号器５１及び第１推定器５２の訓練処理が完了すると、制御部１１は、次のステップＳ１２４に処理を進める。
【0117】
（ステップＳ１２４）
ステップＳ１２４では、制御部１１は、ステップＳ１２１～ステップＳ１２３の処理を繰り返すか否かを判定する。制御部１１は、所定の基準に従って、処理を繰り返すか否かを判定してもよい。当該所定の基準は、実施の形態に応じて適宜決定されてよい。例えば、処理を繰り返す規定回数が設定されていてもよい。規定回数は、例えば、オペレータの指定により与えられてもよいし、プログラム内の設定値として与えられてもよい。この場合、制御部１１は、ステップＳ１２１～ステップＳ１２３の処理を実行した回数が規定回数に到達したか否かを判定する。実行回数が規定回数に到達していないと判定した場合、制御部１１は、ステップＳ１２１に処理を戻し、ステップＳ１２１～ステップＳ１２３の処理を再度実行する。これにより、ステップＳ１２１及びステップＳ１２２が交互に繰り返し実行される。また、本実施形態では、ループ内にステップＳ１２３も含まれているため、ステップＳ１２３も、ステップＳ１２１及びステップＳ１２２と共に繰り返し実行される。一方、実行回数が規定回数に到達していると判定した場合には、制御部１１は、学習モデル５の機械学習の処理を完了し、次のステップＳ１０３に処理を進める。
ステップＳ１２４では、制御部１１は、ステップＳ１２１～ステップＳ１２３の処理を繰り返すか否かを判定する。制御部１１は、所定の基準に従って、処理を繰り返すか否かを判定してもよい。当該所定の基準は、実施の形態に応じて適宜決定されてよい。例えば、処理を繰り返す規定回数が設定されていてもよい。規定回数は、例えば、オペレータの指定により与えられてもよいし、プログラム内の設定値として与えられてもよい。この場合、制御部１１は、ステップＳ１２１～ステップＳ１２３の処理を実行した回数が規定回数に到達したか否かを判定する。実行回数が規定回数に到達していないと判定した場合、制御部１１は、ステップＳ１２１に処理を戻し、ステップＳ１２１～ステップＳ１２３の処理を再度実行する。これにより、ステップＳ１２１及びステップＳ１２２が交互に繰り返し実行される。また、本実施形態では、ループ内にステップＳ１２３も含まれているため、ステップＳ１２３も、ステップＳ１２１及びステップＳ１２２と共に繰り返し実行される。一方、実行回数が規定回数に到達していると判定した場合には、制御部１１は、学習モデル５の機械学習の処理を完了し、次のステップＳ１０３に処理を進める。
【0118】
なお、学習モデル５の機械学習におけるステップＳ１２１～ステップＳ１２３による各訓練の処理順序は、上記の例に限定されなくてもよく、任意であってよい。例えば、ステップＳ１２３は、上記ステップＳ１２２と並行的に実行されてもよい。この場合、ステップＳ１２２及びステップＳ１２３の順伝播の演算について、符号器５１の演算処理は共通に実行されてよい。また、例えば、ループ内において、ステップＳ１２３の処理が実行された後に、ステップＳ１２１及びステップＳ１２２の処理が実行されてもよい。ステップＳ１２１及びステップＳ１２２の処理順序は入れ替わってもよい。
【0119】
また、例えば、制御部１１は、ステップＳ１２１及びステップＳ１２２の訓練を交互に繰り返し実行する前に、ステップＳ１２３のうちの少なくとも符号器５１の訓練を実行してもよい。この場合、制御部１１は、上記と同様にステップＳ１２１及びステップＳ１２２の訓練を交互に繰り返す際に、又はステップＳ１２１及びステップＳ１２２の訓練を交互に繰り返した後に、ステップＳ１２３のうちの少なくとも第１推定器５２の訓練を実行してもよい。更に、制御部１１は、上記各訓練を実行する前に、事前学習として、各学習データセット１２０について、訓練データ１２１を符号器５１に与えることで第２推定器５３から得られる第２特徴の推定結果が第２正解データ１２３に適合するように、符号器５１及び第２推定器５３のうちの少なくとも符号器５１の訓練を実行してもよい。
【0120】
（ステップＳ１０３）
図７に戻り、ステップＳ１０３では、制御部１１は、保存処理部１１３として動作し、機械学習により構築された訓練済みの符号器５１及び第１推定器５２それぞれの構造及び演算パラメータの値を示す情報を学習結果データ１２５として生成する。そして、制御部１１は、生成された学習結果データ１２５を所定の記憶領域に保存する。
図７に戻り、ステップＳ１０３では、制御部１１は、保存処理部１１３として動作し、機械学習により構築された訓練済みの符号器５１及び第１推定器５２それぞれの構造及び演算パラメータの値を示す情報を学習結果データ１２５として生成する。そして、制御部１１は、生成された学習結果データ１２５を所定の記憶領域に保存する。
【0121】
所定の記憶領域は、例えば、制御部１１内のＲＡＭ、記憶部１２、外部記憶装置、記憶メディア又はこれらの組み合わせであってよい。記憶メディアは、例えば、ＣＤ、ＤＶＤ等であってよく、制御部１１は、ドライブ１７を介して記憶メディアに学習結果データ１２５を格納してもよい。外部記憶装置は、例えば、ＮＡＳ（Network Attached Storage）等のデータサーバであってよい。この場合、制御部１１は、通信インタフェース１３を利用して、ネットワークを介してデータサーバに学習結果データ１２５を格納してもよい。また、外部記憶装置は、例えば、外部インタフェース１４を介してモデル生成装置１に接続された外付けの記憶装置であってもよい。学習結果データ１２５の保存が完了すると、制御部１１は、本動作例に係る処理手順を終了する。
【0122】
なお、生成された学習結果データ１２５は、任意のタイミングで推定装置２に提供されてよい。例えば、制御部１１は、ステップＳ１０３の処理として又はステップＳ１０３の処理とは別に、学習結果データ１２５を転送してもよい。推定装置２は、この転送を受信することで、学習結果データ１２５を取得してもよい。また、推定装置２は、通信インタフェース２３を利用して、モデル生成装置１又はデータサーバにネットワークを介してアクセスすることで、学習結果データ１２５を取得してもよい。また、例えば、推定装置２は、記憶媒体９２を介して、学習結果データ１２５を取得してもよい。また、例えば、学習結果データ１２５は、推定装置２に予め組み込まれてもよい。
【0123】
更に、制御部１１は、上記ステップＳ１０１～ステップＳ１０３の処理を定期又は不定期に繰り返すことで、学習結果データ１２５を更新又は新たに生成してもよい。この繰り返しの際には、複数の学習データセット１２０の少なくとも一部の変更、修正、追加、削除等が適宜実行されてよい。そして、制御部１１は、更新した又は新たに生成した学習結果データ１２５を任意の方法で推定装置２に提供することで、推定装置２の保持する学習結果データ１２５を更新してもよい。
【0124】
［推定装置］
次に、図９を用いて、推定装置２の動作例について説明する。図９は、本実施形態に係る推定装置２の処理手順の一例を示すフローチャートである。以下で説明する処理手順は、推定方法の一例である。ただし、以下で説明する処理手順は一例に過ぎず、各ステップは可能な限り変更されてよい。更に、以下で説明する処理手順について、実施の形態に応じて、適宜、ステップの省略、置換、及び追加が可能である。
次に、図９を用いて、推定装置２の動作例について説明する。図９は、本実施形態に係る推定装置２の処理手順の一例を示すフローチャートである。以下で説明する処理手順は、推定方法の一例である。ただし、以下で説明する処理手順は一例に過ぎず、各ステップは可能な限り変更されてよい。更に、以下で説明する処理手順について、実施の形態に応じて、適宜、ステップの省略、置換、及び追加が可能である。
【0125】
（ステップＳ２０１）
ステップＳ２０１では、制御部２１は、データ取得部２１１として動作し、対象データ２２１を取得する。対象データ２２１は、推定タスクの遂行対象となる所定種類のデータのサンプルである。対象データ２２１を取得する方法は、データの種類に応じて適宜決定されてよい。対象データ２２１がセンシングデータである場合、第１特徴に関する推定の対象をセンサにより観測することで、対象データ２２１を取得することができる。対象データ２２１を取得すると、制御部２１は、次のステップＳ２０２に処理を進める。
ステップＳ２０１では、制御部２１は、データ取得部２１１として動作し、対象データ２２１を取得する。対象データ２２１は、推定タスクの遂行対象となる所定種類のデータのサンプルである。対象データ２２１を取得する方法は、データの種類に応じて適宜決定されてよい。対象データ２２１がセンシングデータである場合、第１特徴に関する推定の対象をセンサにより観測することで、対象データ２２１を取得することができる。対象データ２２１を取得すると、制御部２１は、次のステップＳ２０２に処理を進める。
【0126】
（ステップＳ２０２）
ステップＳ２０２では、制御部２１は、推定部２１２として動作し、学習結果データ１２５を参照して、訓練済みの符号器５１及び第１推定器５２の設定を行う。制御部２１は、取得された対象データ２２１を訓練済みの符号器５１の入力層５１１に入力し、訓練済み符号器５１及び第１推定器５２の順伝播の演算処理を実行する。これにより、制御部１１は、対象データ２２１に含まれる第１特徴を推定した結果に対応する出力値を訓練済みの第１推定器５２の出力層５２３から取得することができる。すなわち、本実施形態では、対象データ２２１に含まれる第１特徴を推定することは、対象データ２２１を訓練済みの符号器５１に与えて、訓練済み符号器５１及び第１推定器５２の順伝播の演算処理を実行することにより達成される。第１特徴の推定処理が完了すると、制御部２１は、次のステップＳ２０３に処理を進める。
ステップＳ２０２では、制御部２１は、推定部２１２として動作し、学習結果データ１２５を参照して、訓練済みの符号器５１及び第１推定器５２の設定を行う。制御部２１は、取得された対象データ２２１を訓練済みの符号器５１の入力層５１１に入力し、訓練済み符号器５１及び第１推定器５２の順伝播の演算処理を実行する。これにより、制御部１１は、対象データ２２１に含まれる第１特徴を推定した結果に対応する出力値を訓練済みの第１推定器５２の出力層５２３から取得することができる。すなわち、本実施形態では、対象データ２２１に含まれる第１特徴を推定することは、対象データ２２１を訓練済みの符号器５１に与えて、訓練済み符号器５１及び第１推定器５２の順伝播の演算処理を実行することにより達成される。第１特徴の推定処理が完了すると、制御部２１は、次のステップＳ２０３に処理を進める。
【0127】
（ステップＳ２０３）
ステップＳ２０３では、制御部１１は、出力部２１３として動作し、第１特徴を推定した結果に関する情報を出力する。
ステップＳ２０３では、制御部１１は、出力部２１３として動作し、第１特徴を推定した結果に関する情報を出力する。
【0128】
出力先及び出力する情報の内容はそれぞれ、実施の形態に応じて適宜決定されてよい。例えば、制御部２１は、ステップＳ２０２により対象データ２２１に対して第１特徴を推定した結果をそのまま出力装置２６に出力してもよい。また、例えば、制御部２１は、第１特徴を推定した結果に基づいて、何らかの情報処理を実行してもよい。そして、制御部２１は、その情報処理を実行した結果を、推定の結果に関する情報として出力してもよい。この情報処理を実行した結果の出力には、推定結果に応じて特定のメッセージを出力すること、推定結果に応じて制御対象装置の動作を制御すること等が含まれてよい。出力先は、例えば、出力装置２６、他のコンピュータの出力装置、制御対象装置等であってよい。
【0129】
推定結果に関する情報の出力が完了すると、制御部２１は、本動作例に係る処理手順を終了する。なお、所定期間の間、制御部２１は、ステップＳ２０１～ステップＳ２０３の一連の情報処理を継続的に繰り返し実行してもよい。繰り返すタイミングは、任意であってよい。これにより、推定装置２は、第１特徴に関する推定タスクを継続的に実施してもよい。
【0130】
［特徴］
以上のとおり、本実施形態では、上記ステップＳ１２１により、第２推定器５３は、符号器５１により得られる特徴量に含まれる第２特徴に対応する成分から当該第２特徴に関する推定タスクを遂行する能力を獲得するように訓練される。一方、上記ステップＳ１２２により、符号器５１は、第２推定器５３の推定性能に応じて、当該第２推定器５３による第２特徴に関する推定タスクが失敗するような特徴量に入力データを変換する能力を獲得するように訓練される。このステップＳ１２１及びステップＳ１２２の訓練処理を交互に繰り返し実行することで、第２推定器５３の推定性能が向上するのに対応して、第２推定器５３による推定タスクが失敗するように、符号器５１により得られる特徴量には、第２特徴に対応する成分が含まれ難くすることができる。加えて、ステップＳ１２３により、第１推定器５２は、符号器５１により得られる特徴量から第１特徴に関する推定タスクを遂行する能力を獲得するように訓練される。これと共に、符号器５１は、第１特徴に関する推定タスクを第１推定器５２が適切に遂行可能なように、第１特徴に対応する成分を含む特徴量に入力データを変換する能力を獲得するように訓練される。
以上のとおり、本実施形態では、上記ステップＳ１２１により、第２推定器５３は、符号器５１により得られる特徴量に含まれる第２特徴に対応する成分から当該第２特徴に関する推定タスクを遂行する能力を獲得するように訓練される。一方、上記ステップＳ１２２により、符号器５１は、第２推定器５３の推定性能に応じて、当該第２推定器５３による第２特徴に関する推定タスクが失敗するような特徴量に入力データを変換する能力を獲得するように訓練される。このステップＳ１２１及びステップＳ１２２の訓練処理を交互に繰り返し実行することで、第２推定器５３の推定性能が向上するのに対応して、第２推定器５３による推定タスクが失敗するように、符号器５１により得られる特徴量には、第２特徴に対応する成分が含まれ難くすることができる。加えて、ステップＳ１２３により、第１推定器５２は、符号器５１により得られる特徴量から第１特徴に関する推定タスクを遂行する能力を獲得するように訓練される。これと共に、符号器５１は、第１特徴に関する推定タスクを第１推定器５２が適切に遂行可能なように、第１特徴に対応する成分を含む特徴量に入力データを変換する能力を獲得するように訓練される。
【0131】
したがって、上記ステップＳ１０２の機械学習によれば、訓練済みの符号器５１により得られる特徴量には、第１特徴に対応する成分が含まれ、かつ第２特徴に対応する成分が含まれ難くすることができる。これにより、第１推定器５２による第１特徴に関する推定タスクの遂行に第２特徴に関する情報が考慮され難くすることができる。よって、本実施形態に係るモデル生成装置１によれば、第２特徴の相違に対してロバストに第１特徴に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。本実施形態に係る推定装置２では、上記ステップＳ２０２において、訓練済みの符号器５１及び第１推定器５２を利用することで、第１特徴に関する推定タスクが高精度に遂行されることを期待することができる。
【0132】
また、本実施形態では、ステップＳ１２３の処理は、ステップＳ１２１及びステップＳ１２２と共に繰り返し実行される。これにより、ステップＳ１２２の処理により符号器５１の各演算パラメータの値が調節されるのに対応して、ステップＳ１２３の処理により、符号器５１により得られる特徴量から第１特徴を推定する能力をするように符号器５１及び第１推定器５２の各演算パラメータの値を調節することができる。これにより、第１特徴に関する推定タスクを高精度に遂行可能な訓練済みの符号器５１及び第１推定器５２を得ることができる。
【0133】
§４ 変形例
以上、本発明の実施の形態を詳細に説明してきたが、前述までの説明はあらゆる点において本発明の例示に過ぎない。本発明の範囲を逸脱することなく種々の改良又は変形を行うことができることは言うまでもない。例えば、以下のような変更が可能である。なお、以下では、上記実施形態と同様の構成要素に関しては同様の符号を用い、上記実施形態と同様の点については、適宜説明を省略した。以下の変形例は適宜組み合わせ可能である。
以上、本発明の実施の形態を詳細に説明してきたが、前述までの説明はあらゆる点において本発明の例示に過ぎない。本発明の範囲を逸脱することなく種々の改良又は変形を行うことができることは言うまでもない。例えば、以下のような変更が可能である。なお、以下では、上記実施形態と同様の構成要素に関しては同様の符号を用い、上記実施形態と同様の点については、適宜説明を省略した。以下の変形例は適宜組み合わせ可能である。
【0134】
＜４．１＞
上記実施形態に係る推定システム１００は、所定種類のデータに対して対象の特徴に関する推定タスクの遂行するあらゆる場面に適用されてよい。例えば、上記実施形態に係る推定システム１００は、画像データに含まれる前景を推定する場面に適用可能である。前景を推定することは、例えば、画像データに写る対象物の属性を推定することにより構成されてよい。また、例えば、上記実施形態に係る推定システム１００は、センサにより対象を観測することで得られたセンシングデータから対象の属性を推定する場面に適用可能である。以下、適用場面を限定した変形例を例示する。
上記実施形態に係る推定システム１００は、所定種類のデータに対して対象の特徴に関する推定タスクの遂行するあらゆる場面に適用されてよい。例えば、上記実施形態に係る推定システム１００は、画像データに含まれる前景を推定する場面に適用可能である。前景を推定することは、例えば、画像データに写る対象物の属性を推定することにより構成されてよい。また、例えば、上記実施形態に係る推定システム１００は、センサにより対象を観測することで得られたセンシングデータから対象の属性を推定する場面に適用可能である。以下、適用場面を限定した変形例を例示する。
【0135】
（Ａ）外観検査の場面
図１０は、第１変形例に係る検査システム１００Ａの適用場面の一例を模式的に例示する。本変形例は、製品の写る画像データを利用して、製品の外観検査を実施する場面に上記実施形態を適用した例である。本変形例に係る検査システム１００Ａは、モデル生成装置１及び検査装置２Ａを備えている。上記実施形態と同様に、モデル生成装置１及び検査装置２Ａは、ネットワークを介して互いに接続されてよい。
図１０は、第１変形例に係る検査システム１００Ａの適用場面の一例を模式的に例示する。本変形例は、製品の写る画像データを利用して、製品の外観検査を実施する場面に上記実施形態を適用した例である。本変形例に係る検査システム１００Ａは、モデル生成装置１及び検査装置２Ａを備えている。上記実施形態と同様に、モデル生成装置１及び検査装置２Ａは、ネットワークを介して互いに接続されてよい。
【0136】
本変形例において取り扱われる所定種類のデータ（すなわち、後述する訓練データ１２１Ａ及び対象画像データ２２１Ａ）は、製品ＲＡの写る画像データである。画像データのサンプルＰ１０は、カメラＳＡで製品ＲＡを撮影することにより得られてよい。第１特徴は、製品ＲＡの欠陥Ｐ１２に関する。一方、第２特徴は、製品ＲＡの写る画像データに表れ得る、欠陥Ｐ１２以外の他の特徴から適宜選択されてよい。例えば、第２特徴は、製品ＲＡの外装、コンベアのシート等を含む背景Ｐ１１に関してよい。第２特徴は、例えば、製品ＲＡの種別、製造工場の識別子、製造ラインの種別等の背景Ｐ１１の属性であってよい。これらの限定を除き、本変形例に係る検査システム１００Ａは、上記実施形態に係る推定システム１００と同様に構成されてよい。
【0137】
なお、製品ＲＡは、例えば、電子機器、電子部品、自動車部品、薬品、食品等の製造ラインで搬送される製品であってよい。電子部品は、例えば、基盤、チップコンデンサ、液晶、リレーの巻線等であってよい。自動車部品は、例えば、コンロッド、シャフト、エンジンブロック、パワーウィンドウスイッチ、パネル等であってよい。薬品は、例えば、包装済みの錠剤、未包装の錠剤等であってよい。製品ＲＡは、製造過程完了後に生成される最終品であってもよいし、製造過程の途中で生成される中間品であってもよいし、製造過程を経過する前に用意される初期品であってもよい。欠陥Ｐ１２は、例えば、傷、汚れ、クラック、打痕、バリ、色ムラ、異物混入等であってよい。欠陥Ｐ１２に関する推定は、例えば、製品ＲＡに欠陥Ｐ１２が含まれるか否かを判定すること、製品ＲＡに欠陥Ｐ１２が含まれる確率を判定すること、製品ＲＡに含まれる欠陥Ｐ１２の種類を識別すること、製品ＲＡに含まれる欠陥Ｐ１２の範囲を特定すること又はこれらの組み合わせにより表現されてよい。
【0138】
（モデル生成装置）
本変形例では、モデル生成装置１は、上記ステップＳ１０１において、複数の学習データセット１２０Ａを取得する。各学習データセット１２０Ａの訓練データ１２１Ａは、製品ＲＡの写る画像データである。第１正解データ１２２Ａは、例えば、欠陥Ｐ１２の有無、欠陥Ｐ１２の種別、欠陥Ｐ１２の存在する範囲等の、訓練データ１２１Ａに写る製品ＲＡの欠陥Ｐ１２に関する情報（正解）を示す。欠陥Ｐ１２に関する情報は、上記欠陥Ｐ１２に関する推定の内容に応じて適宜決定されてよい。第２正解データ１２３Ａは、例えば、背景Ｐ１１の属性等の欠陥Ｐ１２以外の他の特徴に関する情報（正解）を示す。
本変形例では、モデル生成装置１は、上記ステップＳ１０１において、複数の学習データセット１２０Ａを取得する。各学習データセット１２０Ａの訓練データ１２１Ａは、製品ＲＡの写る画像データである。第１正解データ１２２Ａは、例えば、欠陥Ｐ１２の有無、欠陥Ｐ１２の種別、欠陥Ｐ１２の存在する範囲等の、訓練データ１２１Ａに写る製品ＲＡの欠陥Ｐ１２に関する情報（正解）を示す。欠陥Ｐ１２に関する情報は、上記欠陥Ｐ１２に関する推定の内容に応じて適宜決定されてよい。第２正解データ１２３Ａは、例えば、背景Ｐ１１の属性等の欠陥Ｐ１２以外の他の特徴に関する情報（正解）を示す。
【0139】
モデル生成装置１は、上記ステップＳ１０２の処理により、取得された複数の学習データセット１２０Ａを使用して、学習モデル５の機械学習を実施する。これにより、製品ＲＡの写る画像データの入力に対して、欠陥Ｐ１２に関する推定の結果を出力する能力を獲得した訓練済みの符号器５１及び第１推定器５２を構築することができる。モデル生成装置１は、上記ステップＳ１０３の処理により、訓練済みの符号器５１及び第１推定器５２に関する情報を学習結果データ１２５Ａとして所定の記憶領域に適宜保存する。生成された学習結果データ１２５Ａは、任意のタイミングで検査装置２Ａに提供されてよい。
【0140】
（検査装置）
図１１Ａは、本変形例に係る検査装置２Ａのハードウェア構成の一例を模式的に例示する。図１１Ａに示されるとおり、本変形例に係る検査装置２Ａは、上記推定装置２と同様に、制御部２１、記憶部２２、通信インタフェース２３、外部インタフェース２４、入力装置２５、出力装置２６、及びドライブ２７が電気的に接続されたコンピュータにより構成されてよい。
図１１Ａは、本変形例に係る検査装置２Ａのハードウェア構成の一例を模式的に例示する。図１１Ａに示されるとおり、本変形例に係る検査装置２Ａは、上記推定装置２と同様に、制御部２１、記憶部２２、通信インタフェース２３、外部インタフェース２４、入力装置２５、出力装置２６、及びドライブ２７が電気的に接続されたコンピュータにより構成されてよい。
【0141】
本変形例では、記憶部２２は、検査プログラム８２Ａ、学習結果データ１２５Ａ等の各種情報を記憶する。検査プログラム８２Ａは、上記実施形態に係る推定プログラム８２に対応する。また、本変形例では、検査装置２Ａは、外部インタフェース２４を介して、カメラＳＡに接続される。カメラＳＡは、例えば、一般的なＲＧＢカメラ、深度カメラ、赤外線カメラ等であってよい。カメラＳＡは、製品ＲＡを撮影可能な場所に適宜配置されてよい。例えば、カメラＳＡは、製品ＲＡを搬送するコンベア装置の近傍に配置されてよい。
【0142】
なお、検査装置２Ａのハードウェア構成は、このような例に限定されなくてもよい。検査装置２Ａの具体的なハードウェア構成に関して、実施形態に応じて、適宜、構成要素の省略、置換及び追加が可能である。検査装置２Ａは、提供されるサービス専用に設計された情報処理装置の他、汎用のサーバ装置、汎用のＰＣ、ＰＬＣ等であってもよい。
【0143】
図１１Ｂは、本変形例に係る検査装置２Ａのソフトウェア構成の一例を模式的に例示する。上記実施形態と同様に、検査装置２Ａのソフトウェア構成は、制御部２１による検査プログラム８２Ａの実行により実現される。取り扱われるデータが上記のように限定される点を除き、検査装置２Ａのソフトウェア構成は、上記推定装置２と同様である。検査部２１２Ａは、学習結果データ１２５Ａを保持することで、訓練済みの符号器５１及び第１推定器５２を備えている。検査部２１２Ａは、上記推定部２１２に対応する。これにより、検査装置２Ａは、上記推定装置２の推定処理と同様に、外観検査に関する一連の情報処理を実行することができる。
【0144】
すなわち、ステップＳ２０１では、制御部２１は、検査対象の製品ＲＡの写る対象画像データ２２１ＡをカメラＳＡから取得する。ステップＳ２０２では、制御部２１は、検査部２１２Ａとして動作し、学習結果データ１２５Ａを参照して、訓練済みの符号器５１及び第１推定器５２の設定を行う。制御部２１は、取得された対象画像データ２２１Ａを訓練済みの符号器５１に与えて、訓練済みの符号器５１及び第１推定器５２の順伝播の演算処理を実行する。これにより、制御部１１は、対象画像データ２２１Ａに写る製品ＲＡの欠陥Ｐ１２について推定した結果に対応する出力値を訓練済みの第１推定器５２から取得する。
【0145】
ステップＳ２０３では、制御部２１は、製品ＲＡの欠陥Ｐ１２について推定した結果に関する情報を出力する。例えば、制御部２１は、製品ＲＡの欠陥Ｐ１２について推定した結果をそのまま出力装置２６に出力してもよい。また、例えば、製品ＲＡに欠陥Ｐ１２が含まれると判定した場合、制御部２１は、そのことを知らせるための警告を出力装置２６に出力してもよい。また、例えば、製品ＲＡを搬送するコンベア装置に検査装置２Ａが接続される場合、欠陥Ｐ１２について推定した結果に基づいて、欠陥Ｐ１２のある製品ＲＡと欠陥Ｐ１２のない製品ＲＡとを別のラインで搬送されるようにコンベア装置を制御してもよい。
【0146】
（特徴）
本変形例によれば、モデル生成装置１の機械学習により、訓練済みの符号器５１の出力する特徴量に、欠陥Ｐ１２に関する情報に対応する成分が含まれ、かつ背景Ｐ１１に関する情報等の欠陥Ｐ１２以外の他の特徴に対応する成分が含まれ難くすることができる。よって、背景Ｐ１１等の他の特徴の相違に対してロバストに欠陥Ｐ１２に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。本変形例に係る検査装置２Ａでは、訓練済みの符号器５１及び第１推定器５２を利用することで、欠陥Ｐ１２に関する推定タスク（すなわち、外観検査）が高精度に遂行されることを期待することができる。
本変形例によれば、モデル生成装置１の機械学習により、訓練済みの符号器５１の出力する特徴量に、欠陥Ｐ１２に関する情報に対応する成分が含まれ、かつ背景Ｐ１１に関する情報等の欠陥Ｐ１２以外の他の特徴に対応する成分が含まれ難くすることができる。よって、背景Ｐ１１等の他の特徴の相違に対してロバストに欠陥Ｐ１２に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。本変形例に係る検査装置２Ａでは、訓練済みの符号器５１及び第１推定器５２を利用することで、欠陥Ｐ１２に関する推定タスク（すなわち、外観検査）が高精度に遂行されることを期待することができる。
【0147】
［その他の形態］
上記第１変形例において、製品ＲＡは、対象物の一例であり、欠陥Ｐ１２に関する情報は、対象物の属性の一例である。背景Ｐ１１の属性は、対象物の属性以外の他の特徴の一例である。対象物の属性及び他の特徴は、製品ＲＡの欠陥Ｐ１２及び背景Ｐ１１の例に限られなくてもよく、実施の形態に応じて適宜選択されてよい。すなわち、上記実施形態に係る推定システム１００は、画像データに表れる任意の対象物の属性を推定する様々な場面に適用されてよい。この場合、所定種類のデータは、対象物の写る画像データであってよい。これに対応して、第１特徴は、対象物の属性であってよく、第２特徴は、対象物の属性以外の他の特徴であってよい。これにより、対象物の属性以外の他の特徴の相違に対してロバストに対象物の属性に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。
上記第１変形例において、製品ＲＡは、対象物の一例であり、欠陥Ｐ１２に関する情報は、対象物の属性の一例である。背景Ｐ１１の属性は、対象物の属性以外の他の特徴の一例である。対象物の属性及び他の特徴は、製品ＲＡの欠陥Ｐ１２及び背景Ｐ１１の例に限られなくてもよく、実施の形態に応じて適宜選択されてよい。すなわち、上記実施形態に係る推定システム１００は、画像データに表れる任意の対象物の属性を推定する様々な場面に適用されてよい。この場合、所定種類のデータは、対象物の写る画像データであってよい。これに対応して、第１特徴は、対象物の属性であってよく、第２特徴は、対象物の属性以外の他の特徴であってよい。これにより、対象物の属性以外の他の特徴の相違に対してロバストに対象物の属性に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。
【0148】
また、製品ＲＡ以外の部分を背景Ｐ１１と捉えた場合、製品ＲＡの写る部分は、前景の一例である。或いは、製品ＲＡの欠陥Ｐ１２以外の部分を背景Ｐ１１と捉えた場合、欠陥Ｐ１２の写る範囲が、前景の一例である。前景及び背景は、このような例に限られなくてもよく、実施の形態に応じて適宜選択されてよい。すなわち、上記実施形態に係る推定システム１００は、画像データに写る任意の前景に含まれる特徴に関する推定を行う様々な場面に適用されてよい。この場合、所定種類のデータは、前景及び背景を含む画像データであってよい。これに対応して、第１特徴は、前景に関し、第２特徴は、背景に関してもよい。前景には、画像データから抽出可能な任意の要素が選択されてよい。これにより、背景の相違に対してロバストに前景に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。
【0149】
なお、前景は、背景と区別して画像データから抽出可能な任意の成分により構成されてよい。第１特徴は、前景から直接的又は間接的に導出可能な何らかの情報であってよい。前景に含まれる特徴を推定することは、例えば、上記画像データに写る対象物の属性を推定することにより構成されてよい。この場合、対象物の属性の導出に関与する成分が、前景の一例である。前景の範囲は、対象物の属性を導出可能に適宜決定されてよい。例えば、前景は、対象物の写る範囲であってよい。或いは、前景は、対象物及び対象物の周囲を含む範囲であってよい。或いは、前景は、推定対象の属性の表れる対象物の一部の範囲であってもよい。
【0150】
（Ａ－１）ナンバープレートの記号を識別する場面
図１２は、画像データに写る対象物の属性を推定する他の場面の一例を模式的に例示する。図１２に例示される識別システムは、モデル生成装置１及び識別装置２Ａ１を備えている。識別装置２Ａ１は、上記検査装置２Ａに対応する。識別装置２Ａ１の構成は、上記検査装置２Ａと同様であってよい。図１２の例において取り扱われる所定種類のデータは、ナンバープレートＲＡ１の写る画像データであってよい。この画像データの取得には、上記検査システム１００Ａと同様に、カメラＳＡ１が用いられてよい。
図１２は、画像データに写る対象物の属性を推定する他の場面の一例を模式的に例示する。図１２に例示される識別システムは、モデル生成装置１及び識別装置２Ａ１を備えている。識別装置２Ａ１は、上記検査装置２Ａに対応する。識別装置２Ａ１の構成は、上記検査装置２Ａと同様であってよい。図１２の例において取り扱われる所定種類のデータは、ナンバープレートＲＡ１の写る画像データであってよい。この画像データの取得には、上記検査システム１００Ａと同様に、カメラＳＡ１が用いられてよい。
【0151】
この場合、第１特徴は、ナンバープレートＲＡ１に付与された記号Ｐ２０に関するものであってよい。ナンバープレートＲＡ１は対象物の一例であり、記号Ｐ２０の写る領域は前景の一例である。第２特徴は、記号Ｐ２０の付与された領域以外の背景に関するものであってよい。記号Ｐ２０は、例えば、数字、文字、マーク、図形、又はこれらの組み合わせにより構成されてよい。ナンバープレートＲＡ１の背景には、模様、図柄等の装飾が施されていてもよい。第１特徴に関する推定は、記号Ｐ２０を識別することであってよい。
【0152】
これにより、モデル生成装置１は、背景の相違に対してロバストにナンバープレートＲＡ１に付与された記号Ｐ２０を識別可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。識別装置２Ａ１は、上記検査装置２Ａと同様の手順により、ナンバープレートＲＡ１の写る対象データから記号Ｐ２０を識別することができる。本変形例に係る識別システムは、ナンバープレートＲＡ１の記号Ｐ２０を識別するあらゆる場面に利用されてよい。例えば、本変形例に係る識別システムは、道路を走行する車両を監視するための監視カメラにより得られる画像データから当該道路を走行する車両を識別するために利用されてよい。
【0153】
なお、道路を走行する車両を監視する場面では、識別装置２Ａ１は、上記ステップＳ２０１及びステップＳ２０２の処理により、時系列に得られる画像データに対してナンバープレートＲＡ１の記号Ｐ２０を識別してもよい。そして、識別装置２Ａ１は、上記ステップＳ２０３の処理により、記号Ｐ２０に基づいて対象の道路を走行する車両を識別した結果を時系列に示す履歴情報を作成してもよい。
【0154】
（Ａ－２）製品の包装に付与された記号を識別する場面
図１３は、画像データに写る対象物の属性を推定する他の場面の一例を模式的に例示する。図１３に例示される識別システムは、モデル生成装置１及び識別装置２Ａ２を備えている。識別装置２Ａ２は、上記検査装置２Ａに対応する。識別装置２Ａ２の構成は、上記検査装置２Ａと同様であってよい。図１３の例において取り扱われる所定種類のデータは、製品の包装ＲＡ２の写る画像データであってよい。この画像データの取得には、上記検査システム１００Ａと同様に、カメラＳＡ２が用いられてよい。
図１３は、画像データに写る対象物の属性を推定する他の場面の一例を模式的に例示する。図１３に例示される識別システムは、モデル生成装置１及び識別装置２Ａ２を備えている。識別装置２Ａ２は、上記検査装置２Ａに対応する。識別装置２Ａ２の構成は、上記検査装置２Ａと同様であってよい。図１３の例において取り扱われる所定種類のデータは、製品の包装ＲＡ２の写る画像データであってよい。この画像データの取得には、上記検査システム１００Ａと同様に、カメラＳＡ２が用いられてよい。
【0155】
この場合、第１特徴は、包装ＲＡ２に付与された記号Ｐ３０に関するものであってよい。包装ＲＡ２は対象物の一例であり、記号Ｐ３０の写る領域は前景の一例である。第２特徴は、記号Ｐ３０の付与された領域以外の背景に関するものであってよい。記号Ｐ３０は、例えば、数字、文字、マーク、図形、コード、又はこれらの組み合わせにより構成されてよい。コードは、例えば、一次元コード、二次元コード等であってよい。包装ＲＡ２の背景には、模様、図柄等の装飾が施されていてもよい。第１特徴に関する推定は、記号Ｐ３０を識別することであってよい。
【0156】
これにより、モデル生成装置１は、背景の相違に対してロバストに包装ＲＡ２に付与された記号Ｐ３０を識別可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。識別装置２Ａ２は、上記検査装置２Ａと同様の手順により、包装ＲＡ２に付与された記号Ｐ３０を識別することができる。本変形例に係る識別システムは、包装ＲＡ２に付与された記号Ｐ３０を識別するあらゆる場面に利用されてよい。例えば、本変形例に係る識別システムは、製造ラインで搬送される製品を識別するために利用されてよい。
【0157】
（Ａ－３）移動体の属性を推定する場面
図１４は、画像データに写る対象物の属性を推定する他の場面の一例を模式的に例示する。図１４に例示される監視システムは、モデル生成装置１及び監視装置２Ａ３を備えている。監視装置２Ａ３は、上記検査装置２Ａに対応する。監視装置２Ａ３の構成は、上記検査装置２Ａと同様であってよい。図１４の例において取り扱われる所定種類のデータは、移動体ＲＡ３の存在し得る範囲を撮影することで得られた画像データであってよい。移動体ＲＡ３は、例えば、車両、人物等であってよい。画像データの取得には、監視対象の範囲を撮影するように配置されたカメラＳＡ３が用いられてよい。監視対象の範囲は、例えば、道路、建物内等の任意の場所から決定されてよい。監視装置２Ａ３は、例えば、ネットワーク等を介して、カメラＳＡ３に適宜接続されてよい。これにより、監視装置２Ａ３は、監視対象の範囲の写る画像データを取得することができる。
図１４は、画像データに写る対象物の属性を推定する他の場面の一例を模式的に例示する。図１４に例示される監視システムは、モデル生成装置１及び監視装置２Ａ３を備えている。監視装置２Ａ３は、上記検査装置２Ａに対応する。監視装置２Ａ３の構成は、上記検査装置２Ａと同様であってよい。図１４の例において取り扱われる所定種類のデータは、移動体ＲＡ３の存在し得る範囲を撮影することで得られた画像データであってよい。移動体ＲＡ３は、例えば、車両、人物等であってよい。画像データの取得には、監視対象の範囲を撮影するように配置されたカメラＳＡ３が用いられてよい。監視対象の範囲は、例えば、道路、建物内等の任意の場所から決定されてよい。監視装置２Ａ３は、例えば、ネットワーク等を介して、カメラＳＡ３に適宜接続されてよい。これにより、監視装置２Ａ３は、監視対象の範囲の写る画像データを取得することができる。
【0158】
この場合、第１特徴は、移動体ＲＡ３の属性に関するものであってよく、第２特徴は、道路、建物等の背景に関するものであってよい。移動体ＲＡ３は、対象物の一例である。前景は、移動体ＲＡ３の写る領域であってよい。或いは、前景は、移動体ＲＡ３及び移動体ＲＡ３の周囲を含む領域であってよい。この場合、背景は、移動体ＲＡ３の周囲より外側の領域であってよい。移動体ＲＡ３の属性は、例えば、移動体ＲＡ３の写る範囲（バウンディングボックス）、移動体ＲＡ３の識別情報、移動体ＲＡ３の状態等を含んでもよい。移動体ＲＡ３の状態は、例えば、位置、数、混み具合（混雑度、密度）、速度、加速度等を含んでもよい。その他、移動体ＲＡ３の状態は、例えば、事故、犯罪等の危険に移動体ＲＡ３が遭遇する可能性（危険度）を含んでもよい。移動体ＲＡ３の遭遇し得る危険の種類は任意に決定されてよい。更にその他、移動体ＲＡ３が人物である場合、移動体ＲＡ３の識別情報は、例えば、人物の識別子、名前、性別、年齢、体格等を含んでもよい。また、移動体ＲＡ３の状態は、例えば、人物の行動、人物の姿勢等を含んでもよい。
【0159】
これにより、モデル生成装置１は、背景の相違に対してロバストに移動体ＲＡ３の属性を推定可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。監視装置２Ａ３は、上記検査装置２Ａと同様の手順により、カメラＳＡ３の撮影範囲における移動体ＲＡ３の属性を推定することができる。本変形例に係る監視システムは、移動体ＲＡ３を監視するあらゆる場面に利用されてよい。例えば、本変形例に係る監視システムは、道路、建物内の移動体ＲＡ３の混雑度を監視する場面、駅のホームから人物が転落する予兆を監視する場面、道路を歩行する人物が犯罪に遭遇する予兆を監視する場面等に利用されてよい。なお、推定結果を出力する形態は任意に決定されてよい。例えば、移動体ＲＡ３の危険度を推定する場面では、監視装置２Ａ３は、上記ステップＳ２０３において、推定される危険度に応じた警告を出力してもよい。
【0160】
（Ａ－４）運転者の状態を監視する場面
図１５は、画像データに写る対象物の属性を推定する他の場面の一例を模式的に例示する。図１５に例示される監視システムは、モデル生成装置１及び監視装置２Ａ４を備えている。監視装置２Ａ４は、上記検査装置２Ａに対応する。監視装置２Ａ４の構成は、上記検査装置２Ａと同様であってよい。図１５の例において取り扱われる所定種類のデータは、運転者ＲＡ４の写る画像データであってよい。この画像データの取得には、上記検査システム１００Ａと同様に、カメラＳＡ４が用いられてよい。カメラＳＡ４は、運転席に存在すると仮定される運転者ＲＡ４を撮影するように適宜配置されてよい。
図１５は、画像データに写る対象物の属性を推定する他の場面の一例を模式的に例示する。図１５に例示される監視システムは、モデル生成装置１及び監視装置２Ａ４を備えている。監視装置２Ａ４は、上記検査装置２Ａに対応する。監視装置２Ａ４の構成は、上記検査装置２Ａと同様であってよい。図１５の例において取り扱われる所定種類のデータは、運転者ＲＡ４の写る画像データであってよい。この画像データの取得には、上記検査システム１００Ａと同様に、カメラＳＡ４が用いられてよい。カメラＳＡ４は、運転席に存在すると仮定される運転者ＲＡ４を撮影するように適宜配置されてよい。
【0161】
この場合、第１特徴は、運転者ＲＡ４の状態に関するものであってよく、第２特徴は、車内風景等の背景に関するものであってよい。運転者ＲＡ４は、対象物の一例である。前景は、運転者ＲＡ４の状態に関与する領域であってよい。運転者ＲＡ４の状態に関与する領域は、例えば、運転者ＲＡ４の写る領域、運転者ＲＡ４の周囲を更に含む領域、運転者ＲＡ４の一部（例えば、任意の身体部位）の写る領域、運転に関するツール（ハンドル等）の写る領域等であってよい。運転者ＲＡ４の状態は、例えば、健康状態、眠気度、疲労度、余裕度等を含んでよい。健康状態は、例えば、所定の疾患を発症する確率、体調変化が生じる確率等により表現されてよい。眠気度は、運転者ＲＡ４の眠気の度合いを示す。疲労度は、運転者ＲＡ４の疲労の度合いを示す。余裕度は、運転者ＲＡ４の運転に対する余裕の度合を示す。
【0162】
これにより、モデル生成装置１は、背景の相違に対してロバストに運転者ＲＡ４の状態を推定可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。監視装置２Ａ４は、上記検査装置２Ａと同様の手順により、運転者ＲＡ４の状態を推定することができる。本変形例に係る監視システムは、運転者ＲＡ４の状態を監視するあらゆる場面に利用されてよい。更に、本変形例に係る監視システムは、運転者ＲＡ４以外の対象者にも利用されてよい。運転者ＲＡ４以外の例として、対象者は、例えば、オフィス、工場等で作業を行う作業者であってよい。
【0163】
なお、上記ステップＳ２０３において、運転者ＲＡ４の状態を推定した結果を出力する形態は任意に決定されてよい。一例として、眠気度及び疲労度の少なくとも一方を推定した場合、監視装置２Ａ４は、推定された眠気度及び疲労度の少なくとも一方が閾値を超えるか否かを判定してもよい。そして、眠気度及び疲労度の少なくとも一方が閾値を超えている場合に、監視装置２Ａ４は、駐車場等に車両を停車し、休憩を取るように運転者ＲＡ４に促す警告を出力装置に出力してもよい。このように、監視装置２Ａ４は、推定される運転者ＲＡ４の状態に応じて、警告等の特定のメッセージを出力装置に出力してもよい。
【0164】
その他の例として、自動運転の動作を制御する制御装置（不図示）を車両が備えている場合、監視装置２Ａ４は、運転者ＲＡ４の状態を推定した結果に基づいて、車両の自動運転の動作を指示するための指令を制御装置に送信してもよい。具体例として、制御装置が、車両の走行を制御する自動運転モード及び運転者ＲＡ４の操舵により車両の走行を制御する手動運転モードの切り替え可能に構成されていると想定する。このケースにおいて、自動運転モードで車両が走行しており、自動運転モードから手動運転モードへの切り替えを運転者ＲＡ４又はシステムから受け付けた際に、監視装置２Ａ４は、推定された運転者ＲＡ４の余裕度が閾値を超えているか否かを判定してもよい。そして、運転者ＲＡ４の余裕度が閾値を超えている場合に、監視装置２Ａ４は、自動運転モードから手動運転モードへの切り替えを許可する指令を制御装置に送信してもよい。一方、運転者ＲＡ４の余裕度が閾値以下である場合には、監視装置２Ａ４は、自動運転モードから手動運転モードへの切り替えを許可しない通知を制御装置に送信し、自動運転モードでの走行を維持するようにしてもよい。
【0165】
また、手動運転モードで車両が走行している際に、監視装置２Ａ４は、推定された眠気度及び疲労度の少なくとも一方が閾値を超えるか否かを判定してもよい。そして、眠気度及び疲労度の少なくとも一方が閾値を超えている場合に、監視装置２Ａ４は、手動運転モードから自動運転モードに切り替えて、駐車場等の安全な場所に停車するように指示する指令を制御装置に送信してもよい。一方で、そうではない場合には、監視装置２Ａ４は、手動運転モードによる車両の走行を維持するようにしてもよい。
【0166】
また、手動運転モードで車両が走行している際に、監視装置２Ａ４は、推定された余裕度が閾値以下であるか否かを判定してもよい。そして、余裕度が閾値以下である場合に、監視装置２Ａ４は、減速する指令を制御装置に送信してもよい。一方で、そうではない場合には、監視装置２Ａ４は、運転者ＲＡ４の操作による車両の走行を維持してもよい。なお、車両の制御装置と監視装置２Ａ４とは一体のコンピュータにより構成されてよい。
【0167】
（Ｂ）車両状況を監視する場面
図１６は、第２変形例に係る監視システム１００Ｂの適用場面の一例を模式的に例示する。本変形例は、車載センサＳＢにより得られるセンシングデータを利用して、車両の状況を監視する場面に上記実施形態を適用した例である。本変形例に係る監視システム１００Ｂは、モデル生成装置１及び監視装置２Ｂを備えている。上記実施形態と同様に、モデル生成装置１及び監視装置２Ｂは、ネットワークを介して互いに接続されてよい。
図１６は、第２変形例に係る監視システム１００Ｂの適用場面の一例を模式的に例示する。本変形例は、車載センサＳＢにより得られるセンシングデータを利用して、車両の状況を監視する場面に上記実施形態を適用した例である。本変形例に係る監視システム１００Ｂは、モデル生成装置１及び監視装置２Ｂを備えている。上記実施形態と同様に、モデル生成装置１及び監視装置２Ｂは、ネットワークを介して互いに接続されてよい。
【0168】
本変形例において取り扱われる所定種類のデータ（後述する訓練データ１２１Ｂ及び対象センシングデータ２２１Ｂ）は、車載センサＳＢにより得られるセンシングデータである。車載センサＳＢの種類は任意に選択されてよい。車載センサＳＢは、例えば、画像センサ、Lidarセンサ、ミリ波レーダ、超音波センサ、加速度センサ等であってよい。第１特徴は、車両の状況に関する。車両の状況は、車両の外部及び内部の少なくとも一方に関するものであってよい。車両外部の状況は、例えば、車両周囲に存在する物体の属性、混雑度、事故のリスク等により表現されてよい。車両周囲に存在する物体は、例えば、道路、信号機、障害物（人、物）等であってよい。道路の属性は、例えば、走行車線の種別、道路の種別（例えば、交差点、高速道路）、路面状態等を含んでよい。信号機の属性は、例えば、信号機の点灯状態等を含んでよい。障害物の属性は、例えば、障害物の有無、障害物の種別、障害物の大きさ、障害物の速度、障害物に関するイベント等を含んでよい。障害物に関するイベントは、例えば、人又は車両の飛び出し、急発進、急停車、車線変更等を含んでよい。事故のリスクは、例えば、事故の種別及びその事故の発生確率により表現されてよい。車両内部の状況は、例えば、車両の走行状態、車両に乗車する乗員の属性等により表現されてよい。走行状態は、例えば、速度、加速度、操舵角等の走行動作の変容により表現されてよい。乗員の属性は、例えば、乗員の状態、人数、位置、数、識別情報等を含んでよい。車両の状況に関する推定は、車両の状況を単に推定することの他、車両の状況に応じた車両に対する動作指令を推定することを含んでもよい。動作指令は、例えば、アクセル量、ブレーキ量、ハンドル操舵角、ライトの点灯、クラクションの使用等により規定されてよい。これに対して、第２特徴は、推定タスクの対象となる車両の状況以外の他の特徴から適宜選択されてよい。例えば、第２特徴は、上記車両の状況の一例のうち、推定タスクの対象に選択されなかったものから選択されてもよい。或いは、第２特徴は、例えば、観測環境等の上記車両の状況以外の要素から選択されてもよい。具体例として、第１特徴には、障害物の有無、道路の属性、混雑度、又はこれらの組み合わせが選択され、第２特徴には、天候、時間、道路の存在する場所の属性、又はこれらの組み合わせが選択されてよい。時間は、一定の時間帯により表現されてよい。時間帯の表現には、朝、昼、夜等のような時期により時間帯の長さが変動し得る表現方法が用いられてもよいし、或いは、１時から２時等のような固定的な表現方法が用いられてもよい。場所の属性は、例えば、都会、田舎等のその場所の人口密集度の種別を含んでよい。これらの限定を除き、本変形例に係る監視システム１００Ｂは、上記実施形態に係る推定システム１００と同様に構成されてよい。
【0169】
（モデル生成装置）
本変形例では、モデル生成装置１は、上記ステップＳ１０１において、複数の学習データセット１２０Ｂを取得する。各学習データセット１２０Ｂの訓練データ１２１Ｂは、車載センサＳＢにより得られるセンシングデータである。第１正解データ１２２Ｂは、訓練データ１２１Ｂに表れる車両の状況であって、推定タスクの対象となる車両の状況に関する情報（正解）を示す。車両の状況に関する推定が、車両の状況に応じた車両に対する動作指令を推定することにより構成される場合、第１正解データ１２２Ｂは、訓練データ１２１Ｂに表れる車両の状況に応じた車両に対する動作指令（正解）を示す。第２正解データ１２３Ｂは、当該推定タスクの対象となる車両の状況以外の他の特徴に関する情報（正解）を示す。
本変形例では、モデル生成装置１は、上記ステップＳ１０１において、複数の学習データセット１２０Ｂを取得する。各学習データセット１２０Ｂの訓練データ１２１Ｂは、車載センサＳＢにより得られるセンシングデータである。第１正解データ１２２Ｂは、訓練データ１２１Ｂに表れる車両の状況であって、推定タスクの対象となる車両の状況に関する情報（正解）を示す。車両の状況に関する推定が、車両の状況に応じた車両に対する動作指令を推定することにより構成される場合、第１正解データ１２２Ｂは、訓練データ１２１Ｂに表れる車両の状況に応じた車両に対する動作指令（正解）を示す。第２正解データ１２３Ｂは、当該推定タスクの対象となる車両の状況以外の他の特徴に関する情報（正解）を示す。
【0170】
モデル生成装置１は、上記ステップＳ１０２の処理により、取得された複数の学習データセット１２０Ｂを使用して、学習モデル５の機械学習を実施する。これにより、車載センサＳＢにより得られるセンシングデータの入力に対して、車両の状況に関する推定の結果を出力する能力を獲得した訓練済みの符号器５１及び第１推定器５２を構築することができる。モデル生成装置１は、上記ステップＳ１０３の処理により、訓練済みの符号器５１及び第１推定器５２に関する情報を学習結果データ１２５Ｂとして所定の記憶領域に適宜保存する。生成された学習結果データ１２５Ｂは、任意のタイミングで監視装置２Ｂに提供されてよい。
【0171】
（監視装置）
図１７Ａは、本変形例に係る監視装置２Ｂのハードウェア構成の一例を模式的に例示する。図１７Ａに示されるとおり、本変形例に係る監視装置２Ｂは、上記推定装置２と同様に、制御部２１、記憶部２２、通信インタフェース２３、外部インタフェース２４、入力装置２５、出力装置２６、及びドライブ２７が電気的に接続されたコンピュータにより構成されてよい。
図１７Ａは、本変形例に係る監視装置２Ｂのハードウェア構成の一例を模式的に例示する。図１７Ａに示されるとおり、本変形例に係る監視装置２Ｂは、上記推定装置２と同様に、制御部２１、記憶部２２、通信インタフェース２３、外部インタフェース２４、入力装置２５、出力装置２６、及びドライブ２７が電気的に接続されたコンピュータにより構成されてよい。
【0172】
本変形例では、記憶部２２は、監視プログラム８２Ｂ、学習結果データ１２５Ｂ等の各種情報を記憶する。監視プログラム８２Ｂは、上記実施形態に係る推定プログラム８２に対応する。また、本変形例では、監視装置２Ｂは、外部インタフェース２４を介して、車載センサＳＢに接続される。車載センサＳＢは、監視対象の車両状況を観測するように適宜配置されてよい。
【0173】
なお、監視装置２Ｂのハードウェア構成は、このような例に限定されなくてもよい。監視装置２Ｂの具体的なハードウェア構成に関して、実施形態に応じて、適宜、構成要素の省略、置換及び追加が可能である。監視装置２Ｂは、提供されるサービス専用に設計された情報処理装置の他、汎用のコンピュータ、スマートフォンを含む携帯電話、車載装置等であってもよい。
【0174】
図１７Ｂは、本変形例に係る監視装置２Ｂのソフトウェア構成の一例を模式的に例示する。上記実施形態と同様に、監視装置２Ｂのソフトウェア構成は、制御部２１による監視プログラム８２Ｂの実行により実現される。取り扱われるデータが上記のように限定される点を除き、監視装置２Ｂのソフトウェア構成は、上記推定装置２と同様である。監視部２１２Ｂは、学習結果データ１２５Ｂを保持することで、訓練済みの符号器５１及び第１推定器５２を備えている。監視部２１２Ｂは、上記推定部２１２に対応する。これにより、監視装置２Ｂは、上記推定装置２の推定処理と同様に、車両状況の推定に関する一連の情報処理を実行することができる。
【0175】
すなわち、ステップＳ２０１では、制御部２１は、監視対象の車両状況について、対象センシングデータ２２１Ｂを車載センサＳＢから取得する。ステップＳ２０２では、制御部２１は、監視部２１２Ｂとして動作し、学習結果データ１２５Ｂを参照して、訓練済みの符号器５１及び第１推定器５２の設定を行う。制御部２１は、取得された対象センシングデータ２２１Ｂを訓練済みの符号器５１に与えて、訓練済みの符号器５１及び第１推定器５２の順伝播の演算処理を実行する。これにより、制御部１１は、車両の状況を推定した結果に対応する出力値を訓練済みの第１推定器５２から取得する。
【0176】
ステップＳ２０３では、制御部２１は、車両の状況を推定した結果に関する情報を出力する。例えば、制御部２１は、車両の状況を推定した結果をそのまま出力装置２６に出力してもよい。また、例えば、制御部２１は、推定される車両の状況に基づいて、車両の走行に危険の生じる可能性があるか否かを判定してもよい。判定の基準は任意に設定されてよい。車両の走行に危険の生じる可能性があると判定した場合に、制御部２１は、その危険を知らせるための警告を出力装置２６に出力してもよい。また、例えば、車両の状況に関する推定が、車両の状況に応じた車両に対する動作指令を推定することにより構成される場合、ステップＳ２０２において、制御部２１は、車両の状況を推定した結果として、車両の状況に応じた車両に対する動作指令を訓練済みの第１推定器５２から取得することができる。この場合、制御部２１は、取得された動作指令に基づいて車両の動作を制御してもよい。
【0177】
（特徴）
本変形例によれば、モデル生成装置１の機械学習により、訓練済みの符号器５１の出力する特徴量に、推定タスクの対象となる車両の状況に関する情報に対応する成分が含まれ、それ以外の他の特徴に対応する成分が含まれ難くすることができる。よって、他の特徴の相違に対してロバストに車両の状況に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。本変形例に係る監視装置２Ｂでは、訓練済みの符号器５１及び第１推定器５２を利用することで、車両の状況に関する推定タスクが高精度に遂行されることを期待することができる。
本変形例によれば、モデル生成装置１の機械学習により、訓練済みの符号器５１の出力する特徴量に、推定タスクの対象となる車両の状況に関する情報に対応する成分が含まれ、それ以外の他の特徴に対応する成分が含まれ難くすることができる。よって、他の特徴の相違に対してロバストに車両の状況に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。本変形例に係る監視装置２Ｂでは、訓練済みの符号器５１及び第１推定器５２を利用することで、車両の状況に関する推定タスクが高精度に遂行されることを期待することができる。
【0178】
（Ｃ）健康状態を診断する場面
図１８は、第３変形例に係る診断システム１００Ｃの適用場面の一例を模式的に例示する。本変形例は、センサＳＣにより得られるセンシングデータを利用して、対象者の健康状態を診断する場面に上記実施形態を適用した例である。本変形例に係る診断システム１００Ｃは、モデル生成装置１及び診断装置２Ｃを備えている。上記実施形態と同様に、モデル生成装置１及び診断装置２Ｃは、ネットワークを介して互いに接続されてよい。
図１８は、第３変形例に係る診断システム１００Ｃの適用場面の一例を模式的に例示する。本変形例は、センサＳＣにより得られるセンシングデータを利用して、対象者の健康状態を診断する場面に上記実施形態を適用した例である。本変形例に係る診断システム１００Ｃは、モデル生成装置１及び診断装置２Ｃを備えている。上記実施形態と同様に、モデル生成装置１及び診断装置２Ｃは、ネットワークを介して互いに接続されてよい。
【0179】
本変形例において取り扱われる所定種類のデータ（後述する訓練データ１２１Ｃ及び対象センシングデータ２２１Ｃ）は、センサＳＣにより得られるセンシングデータである。センサＳＣは、対象者の状態を観測可能であれば、その種類は、特に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。センサＳＣは、例えば、バイタルセンサ、医療検査装置等であってよい。バイタルセンサは、例えば、血圧計、脈拍計、心拍計、心電計、筋電計、体温計、皮膚電気反応計、マイクロ波センサ、脳波計、脳磁計、活動量計、血糖値測定器、眼電位センサ、眼球運動計測器等であってよい。医療検査装置は、例えば、ＣＴ装置、ＭＲＩ装置等であってよい。第１特徴は、対象者の健康状態に関する。健康状態に関する情報は、例えば、健康であるか否か、病気になる予兆があるか否か、健康状態の種別、対象の病気になる確率、バイタル値（例えば、血圧、体温等）等により表現されてよい。第２特徴は、推定タスクの対象となる健康状態以外の他の特徴から適宜選択されてよい。例えば、第１特徴には、健康であるか否かを示す情報、バイタル値、又はこれらの組み合わせが選択されるのに対して、第２特徴には、対象者の年齢、性別、人種、国籍、職業、居住地、運動習慣の有無、投薬歴又はこれらの組み合わせが選択されてよい。これらの限定を除き、本変形例に係る診断システム１００Ｃは、上記実施形態に係る推定システム１００と同様に構成されてよい。
【0180】
（モデル生成装置）
本変形例では、モデル生成装置１は、上記ステップＳ１０１において、複数の学習データセット１２０Ｃを取得する。各学習データセット１２０Ｃの訓練データ１２１Ｃは、センサＳＣにより得られるセンシングデータである。第１正解データ１２２Ｃは、訓練データ１２１Ｃに表れる対象者（被験者）の健康状態であって、推定タスクの対象となる健康状態に関する情報（正解）を示す。第２正解データ１２３Ｃは、当該推定タスクの対象となる健康状態以外の他の特徴に関する情報（正解）を示す。
本変形例では、モデル生成装置１は、上記ステップＳ１０１において、複数の学習データセット１２０Ｃを取得する。各学習データセット１２０Ｃの訓練データ１２１Ｃは、センサＳＣにより得られるセンシングデータである。第１正解データ１２２Ｃは、訓練データ１２１Ｃに表れる対象者（被験者）の健康状態であって、推定タスクの対象となる健康状態に関する情報（正解）を示す。第２正解データ１２３Ｃは、当該推定タスクの対象となる健康状態以外の他の特徴に関する情報（正解）を示す。
【0181】
モデル生成装置１は、上記ステップＳ１０２の処理により、取得された複数の学習データセット１２０Ｃを使用して、学習モデル５の機械学習を実施する。これにより、センサＳＣにより得られるセンシングデータの入力に対して、対象者の健康状態に関する推定の結果を出力する能力を獲得した訓練済みの符号器５１及び第１推定器５２を構築することができる。モデル生成装置１は、上記ステップＳ１０３の処理により、訓練済みの符号器５１及び第１推定器５２に関する情報を学習結果データ１２５Ｃとして所定の記憶領域に適宜保存する。生成された学習結果データ１２５Ｃは、任意のタイミングで診断装置２Ｃに提供されてよい。
【0182】
（診断装置）
図１９Ａは、本変形例に係る診断装置２Ｃのハードウェア構成の一例を模式的に例示する。図１９Ａに示されるとおり、本変形例に係る診断装置２Ｃは、上記推定装置２と同様に、制御部２１、記憶部２２、通信インタフェース２３、外部インタフェース２４、入力装置２５、出力装置２６、及びドライブ２７が電気的に接続されたコンピュータにより構成されてよい。
図１９Ａは、本変形例に係る診断装置２Ｃのハードウェア構成の一例を模式的に例示する。図１９Ａに示されるとおり、本変形例に係る診断装置２Ｃは、上記推定装置２と同様に、制御部２１、記憶部２２、通信インタフェース２３、外部インタフェース２４、入力装置２５、出力装置２６、及びドライブ２７が電気的に接続されたコンピュータにより構成されてよい。
【0183】
本変形例では、記憶部２２は、診断プログラム８２Ｃ、学習結果データ１２５Ｃ等の各種情報を記憶する。診断プログラム８２Ｃは、上記実施形態に係る推定プログラム８２に対応する。また、本変形例では、診断装置２Ｃは、外部インタフェース２４を介して、センサＳＣに接続される。
【0184】
なお、診断装置２Ｃのハードウェア構成は、このような例に限定されなくてもよい。診断装置２Ｃの具体的なハードウェア構成に関して、実施形態に応じて、適宜、構成要素の省略、置換及び追加が可能である。診断装置２Ｃは、提供されるサービス専用に設計された情報処理装置の他、汎用のサーバ装置、汎用のＰＣ等であってもよい。
【0185】
図１９Ｂは、本変形例に係る診断装置２Ｃのソフトウェア構成の一例を模式的に例示する。上記実施形態と同様に、診断装置２Ｃのソフトウェア構成は、制御部２１による診断プログラム８２Ｃの実行により実現される。取り扱われるデータが上記のように限定される点を除き、診断装置２Ｃのソフトウェア構成は、上記推定装置２と同様である。診断部２１２Ｃは、学習結果データ１２５Ｃを保持することで、訓練済みの符号器５１及び第１推定器５２を備えている。診断部２１２Ｃは、上記推定部２１２に対応する。これにより、診断装置２Ｃは、上記推定装置２の推定処理と同様に、対象者の健康状態の推定に関する一連の情報処理を実行することができる。
【0186】
すなわち、ステップＳ２０１では、制御部２１は、診断対象の対象者について、対象センシングデータ２２１ＣをセンサＳＣから取得する。ステップＳ２０２では、制御部２１は、診断部２１２Ｃとして動作し、学習結果データ１２５Ｃを参照して、訓練済みの符号器５１及び第１推定器５２の設定を行う。制御部２１は、取得された対象センシングデータ２２１Ｃを訓練済みの符号器５１に与えて、訓練済みの符号器５１及び第１推定器５２の順伝播の演算処理を実行する。これにより、制御部１１は、対象者の健康状態を推定した結果に対応する出力値を訓練済みの第１推定器５２から取得する。
【0187】
ステップＳ２０３では、制御部２１は、対象者の健康状態を推定した結果に関する情報を出力する。例えば、制御部２１は、対象者の健康状態を推定した結果をそのまま出力装置２６に出力してもよい。また、例えば、推定された対象者の健康状態が所定の病気の予兆を示す場合、制御部２１は、病院での診査を促すメッセージを出力装置２６に出力してもよい。また、例えば、制御部２１は、登録された病院の端末に対して、対象者の健康状態を推定した結果を送信してもよい。なお、送信先となる端末の情報は、ＲＡＭ、ＲＯＭ、記憶部２２、記憶媒体９２、外部記憶装置等の所定の記憶領域に記憶されていてよい。
【0188】
（特徴）
本変形例によれば、モデル生成装置１の機械学習により、訓練済みの符号器５１の出力する特徴量に、推定タスクの対象となる健康状態に関する情報に対応する成分が含まれ、それ以外の他の特徴に対応する成分が含まれ難くすることができる。よって、他の特徴の相違に対してロバストに対象者の健康状態に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。本変形例に係る診断装置２Ｃでは、訓練済みの符号器５１及び第１推定器５２を利用することで、健康状態に関する推定タスクが高精度に遂行されることを期待することができる。
本変形例によれば、モデル生成装置１の機械学習により、訓練済みの符号器５１の出力する特徴量に、推定タスクの対象となる健康状態に関する情報に対応する成分が含まれ、それ以外の他の特徴に対応する成分が含まれ難くすることができる。よって、他の特徴の相違に対してロバストに対象者の健康状態に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。本変形例に係る診断装置２Ｃでは、訓練済みの符号器５１及び第１推定器５２を利用することで、健康状態に関する推定タスクが高精度に遂行されることを期待することができる。
【0189】
（Ｄ）栽培状況を監視する場面
図２０は、第４変形例に係る監視システム１００Ｄの適用場面の一例を模式的に例示する。本変形例は、環境センサＳＤにより得られるセンシングデータを利用して、植物ＲＤの栽培状況を監視する場面に上記実施形態を適用した例である。本変形例に係る監視システム１００Ｄは、モデル生成装置１及び監視装置２Ｄを備えている。上記実施形態と同様に、モデル生成装置１及び監視装置２Ｄは、ネットワークを介して互いに接続されてよい。
図２０は、第４変形例に係る監視システム１００Ｄの適用場面の一例を模式的に例示する。本変形例は、環境センサＳＤにより得られるセンシングデータを利用して、植物ＲＤの栽培状況を監視する場面に上記実施形態を適用した例である。本変形例に係る監視システム１００Ｄは、モデル生成装置１及び監視装置２Ｄを備えている。上記実施形態と同様に、モデル生成装置１及び監視装置２Ｄは、ネットワークを介して互いに接続されてよい。
【0190】
本変形例において取り扱われる所定種類のデータ（後述する訓練データ１２１Ｄ及び対象センシングデータ２２１Ｄ）は、環境センサＳＤにより得られるセンシングデータである。環境センサＳＤは、植物ＲＤの栽培状況を観測可能であれば、その種類は、特に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。環境センサＳＤは、例えば、気圧計、温度計、湿度計、音圧計、音センサ、紫外線センサ、照度計、雨量計、ガスセンサ等であってよい。植物ＲＤの種類は任意に選択されてよい。第１特徴は、植物ＲＤの栽培状況に関する。栽培状況は、植物ＲＤを栽培する任意の要素に関するものであってよい。栽培状況は、例えば、栽培時点までの生育環境、生育状態等により特定されてよい。生育環境は、植物ＲＤを生育する状況に関し、例えば、植物ＲＤに光を照射する時間、植物ＲＤ周囲の温度、植物ＲＤに与える水の量等により規定されてよい。生育状態は、例えば、植物ＲＤの成長度等により規定されてよい。第２特徴は、推定タスクの対象となる栽培状況以外の他の特徴から適宜選択されてよい。例えば、第２特徴には、生育場所、環境センサＳＤの種別、環境センサＳＤの設置位置、環境センサＳＤの設置角度、センシングデータの取得時刻、季節、天候又はこれらの組み合わせが選択されてよい。
【0191】
また、本変形例では、監視装置２Ｄは、栽培装置ＣＤに接続されてよい。栽培装置ＣＤは、植物ＲＤの生育環境を制御するように構成される。栽培装置ＣＤは、植物ＲＤの生育環境を制御可能であれば、その種類は、特に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。栽培装置ＣＤは、例えば、カーテン装置、照明装置、空調設備、散水装置等であってよい。カーテン装置は、建物の窓に取り付けられたカーテンを開閉するように構成される。照明装置は、例えば、ＬＥＤ（light emitting diode）照明、蛍光灯等である。空調設備は、例えば、エアコンディショナ等である。散水装置は、例えば、スプリンクラ等である。カーテン装置及び照明装置は、植物ＲＤに光を照射する時間を制御するために利用される。空調設備は、植物ＲＤ周囲の温度を制御するために利用される。散水装置は、植物ＲＤに与える水の量を制御するために利用される。これらの限定を除き、本変形例に係る監視システム１００Ｄは、上記実施形態に係る推定システム１００と同様に構成されてよい。
【0192】
（モデル生成装置）
本変形例では、モデル生成装置１は、上記ステップＳ１０１において、複数の学習データセット１２０Ｄを取得する。各学習データセット１２０Ｄの訓練データ１２１Ｄは、環境センサＳＤにより得られるセンシングデータである。第１正解データ１２２Ｄは、訓練データ１２１Ｄに表れる植物ＲＤの栽培状況であって、推定タスクの対象となる植物ＲＤの栽培状況に関する情報（正解）を示す。第２正解データ１２３Ｄは、当該推定タスクの対象となる栽培状況以外の他の特徴に関する情報（正解）を示す。
本変形例では、モデル生成装置１は、上記ステップＳ１０１において、複数の学習データセット１２０Ｄを取得する。各学習データセット１２０Ｄの訓練データ１２１Ｄは、環境センサＳＤにより得られるセンシングデータである。第１正解データ１２２Ｄは、訓練データ１２１Ｄに表れる植物ＲＤの栽培状況であって、推定タスクの対象となる植物ＲＤの栽培状況に関する情報（正解）を示す。第２正解データ１２３Ｄは、当該推定タスクの対象となる栽培状況以外の他の特徴に関する情報（正解）を示す。
【0193】
モデル生成装置１は、上記ステップＳ１０２の処理により、取得された複数の学習データセット１２０Ｄを使用して、学習モデル５の機械学習を実施する。これにより、環境センサＳＤにより得られるセンシングデータの入力に対して、植物ＲＤの栽培状況に関する推定の結果を出力する能力を獲得した訓練済みの符号器５１及び第１推定器５２を構築することができる。モデル生成装置１は、上記ステップＳ１０３の処理により、訓練済みの符号器５１及び第１推定器５２に関する情報を学習結果データ１２５Ｄとして所定の記憶領域に適宜保存する。生成された学習結果データ１２５Ｄは、任意のタイミングで監視装置２Ｄに提供されてよい。
【0194】
（監視装置）
図２１Ａは、本変形例に係る監視装置２Ｄのハードウェア構成の一例を模式的に例示する。図２１Ａに示されるとおり、本変形例に係る監視装置２Ｄは、上記推定装置２と同様に、制御部２１、記憶部２２、通信インタフェース２３、外部インタフェース２４、入力装置２５、出力装置２６、及びドライブ２７が電気的に接続されたコンピュータにより構成されてよい。
図２１Ａは、本変形例に係る監視装置２Ｄのハードウェア構成の一例を模式的に例示する。図２１Ａに示されるとおり、本変形例に係る監視装置２Ｄは、上記推定装置２と同様に、制御部２１、記憶部２２、通信インタフェース２３、外部インタフェース２４、入力装置２５、出力装置２６、及びドライブ２７が電気的に接続されたコンピュータにより構成されてよい。
【0195】
本変形例では、記憶部２２は、監視プログラム８２Ｄ、学習結果データ１２５Ｄ等の各種情報を記憶する。監視プログラム８２Ｄは、上記実施形態に係る推定プログラム８２に対応する。また、本変形例では、監視装置２Ｄは、外部インタフェース２４を介して、環境センサＳＤ及び栽培装置ＣＤに接続される。
【0196】
なお、監視装置２Ｄのハードウェア構成は、このような例に限定されなくてもよい。監視装置２Ｄの具体的なハードウェア構成に関して、実施形態に応じて、適宜、構成要素の省略、置換及び追加が可能である。監視装置２Ｄは、提供されるサービス専用に設計された情報処理装置の他、汎用のサーバ装置、汎用のＰＣ、ＰＬＣ等であってもよい。
【0197】
図２１Ｂは、本変形例に係る監視装置２Ｄのソフトウェア構成の一例を模式的に例示する。上記実施形態と同様に、監視装置２Ｄのソフトウェア構成は、制御部２１による監視プログラム８２Ｄの実行により実現される。取り扱われるデータが上記のように限定される点を除き、監視装置２Ｄのソフトウェア構成は、上記推定装置２と同様である。監視部２１２Ｄは、学習結果データ１２５Ｄを保持することで、訓練済みの符号器５１及び第１推定器５２を備えている。監視部２１２Ｄは、上記推定部２１２に対応する。これにより、監視装置２Ｄは、上記推定装置２の推定処理と同様に、植物ＲＤの栽培状況の推定に関する一連の情報処理を実行することができる。
【0198】
すなわち、ステップＳ２０１では、制御部２１は、監視対象の植物ＲＤについて、対象センシングデータ２２１Ｄを取得する。ステップＳ２０２では、制御部２１は、監視部２１２Ｄとして動作し、学習結果データ１２５Ｄを参照して、訓練済みの符号器５１及び第１推定器５２の設定を行う。制御部２１は、取得された対象センシングデータ２２１Ｄを訓練済みの符号器５１に与えて、訓練済みの符号器５１及び第１推定器５２の順伝播の演算処理を実行する。これにより、制御部１１は、植物ＲＤの栽培状況を推定した結果に対応する出力値を訓練済みの第１推定器５２から取得する。なお、栽培状況を推定することは、収穫量が最大となるような生育環境及び作業内容の少なくとも一方を推定すること、観測される現在の生育環境において最適な作業内容を推定すること等を含んでもよい。
【0199】
ステップＳ２０３では、制御部２１は、植物ＲＤの栽培状況を推定した結果に関する情報を出力する。例えば、制御部２１は、植物ＲＤの栽培状況を推定した結果をそのまま出力装置２６に出力してもよい。この場合、制御部２１は、収穫量が最大となるような生育環境及び作業内容の少なくとも一方、観測される現在の生育環境において最適な作業内容等の推定結果を出力装置に出力することで、植物ＲＤの栽培状況の改善を作業者に促してもよい。また、例えば、制御部２１は、推定された栽培状況に応じて、栽培装置ＣＤに与える制御指令を決定してもよい。栽培状況と制御指令との対応関係はテーブル形式等の参照情報により与えられてもよい。この参照情報は、ＲＡＭ、ＲＯＭ、記憶部２２、記憶媒体９２、外部記憶装置等に格納されていてもよく、制御部２１は、この参照情報を参照することで、推定された栽培状況に応じて制御指令を決定してもよい。そして、制御部２１は、決定された制御指令を栽培装置ＣＤに与えることで、栽培装置ＣＤの動作を制御してもよい。また、例えば、制御部２１は、決定された制御指令を示す情報を出力装置２６に出力し、植物ＲＤの管理者に栽培装置ＣＤの動作を制御するように促してもよい。
【0200】
（特徴）
本変形例によれば、モデル生成装置１の機械学習により、訓練済みの符号器５１の出力する特徴量に、推定タスクの対象となる植物ＲＤの栽培状況に関する情報に対応する成分が含まれ、それ以外の他の特徴に対応する成分が含まれ難くすることができる。よって、他の特徴の相違に対してロバストに植物ＲＤの栽培状況に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。本変形例に係る監視装置２Ｄでは、訓練済みの符号器５１及び第１推定器５２を利用することで、栽培状況に関する推定タスクが高精度に遂行されることを期待することができる。
本変形例によれば、モデル生成装置１の機械学習により、訓練済みの符号器５１の出力する特徴量に、推定タスクの対象となる植物ＲＤの栽培状況に関する情報に対応する成分が含まれ、それ以外の他の特徴に対応する成分が含まれ難くすることができる。よって、他の特徴の相違に対してロバストに植物ＲＤの栽培状況に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。本変形例に係る監視装置２Ｄでは、訓練済みの符号器５１及び第１推定器５２を利用することで、栽培状況に関する推定タスクが高精度に遂行されることを期待することができる。
【0201】
なお、環境センサＳＤにより植物ＲＤの状態を観測することで得られるセンシングデータは、植物ＲＤの栽培状況の監視に利用可能な観測データの一例である。植物ＲＤに関する観測データは、当該センシングデータの例に限定されなくてもよい。植物ＲＤに関する観測データは、例えば、環境センサＳＤにより得られるセンシングデータ、作業者の入力により得られる植物ＲＤの観察データ、又はこれらの組み合わせにより構成されてよい。観察データは、例えば、作業記録データ、環境記録データ、又はこれらの組み合わせにより構成されてよい。作業記録データは、例えば、摘花、摘葉、摘芽等の作業の有無、実行日時、量等を示す情報により構成されてよい。また、環境記録データは、作業者が植物ＲＤ周囲の環境（例えば、天候、気温、湿度等）を観測した結果を示す情報により構成されてよい。上記第４変形例では、このような観測データが、所定種類のデータとして取り扱われてよい。
【0202】
（Ｅ）その他
上記各変形例は、センサにより得られるセンシングデータから観測の対象の属性を推定する場面の一例である。センサ及び観測の対象は、上記の例に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。すなわち、上記実施形態に係る推定システム１００は、センシングデータに表れる任意の対象の属性に関する推定を行う様々な場面に適用されてよい。この場合、第１特徴は、センサにより観測する対象の属性であってよく、第２特徴は、センシングデータに表れ得る対象の属性以外の他の特徴であってよい。これにより、他の特徴の相違に対してロバストに観測対象の属性に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。
上記各変形例は、センサにより得られるセンシングデータから観測の対象の属性を推定する場面の一例である。センサ及び観測の対象は、上記の例に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。すなわち、上記実施形態に係る推定システム１００は、センシングデータに表れる任意の対象の属性に関する推定を行う様々な場面に適用されてよい。この場合、第１特徴は、センサにより観測する対象の属性であってよく、第２特徴は、センシングデータに表れ得る対象の属性以外の他の特徴であってよい。これにより、他の特徴の相違に対してロバストに観測対象の属性に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。
【0203】
図２２は、センシングデータに表れる対象の属性を推定する他の場面の一例を模式的に例示する。図２２に例示される監視システムは、モデル生成装置１及び監視装置２Ｅを備えている。監視装置２Ｅの構成は、上記検査装置２Ａ等と同様であってよい。図２２の例において取り扱われる所定種類のデータは、機械ＲＥの状態を監視するためのセンサＳＥにより得られるセンシングデータであってよい。センサＳＥは、例えば、マイクロフォン、加速度センサ、振動センサ等であってよい。これに応じて、得られるセンシングデータは、機械ＲＥの振動（音を含む）に関するものであってよい。
【0204】
この場合、第１特徴は、機械ＲＥの経年劣化、故障、動作不良等の機械ＲＥの異常に関するものであってよい。一方、第２特徴は、機械ＲＥの異常以外の他の特徴であってよく、例えば、機械ＲＥの通常運転時に生じる振動、機械ＲＥの周囲の振動等の運用環境で通常的に生じる振動に関するものであってよい。機械ＲＥ及び異常の種類は、特に限定されなくてもよく、実施の形態に応じて適宜選択されてよい。機械ＲＥは、例えば、コンベア装置、産業用ロボット、成型機、半導体製造装置、基板実装機等の製造ラインを構成する装置であってよい。製造ラインは、組み立てラインを含んでよい。機械ＲＥは、装置全体であってもよいし、スイッチ、モータ等の装置の一部であってもよい。機器ＲＥが、製造ラインを構成する装置である場合、機器ＲＥの異常は、例えば、位置ずれ、圧力の過不足、部品又は製品の噛み込み、しわの発生、ライン速度の異常、部品又は製品に欠陥が発生する等の装置の動作不良であってもよい。機器ＲＥがモータである場合、異常は、例えば、トルク、回転数等に関するモータの動作不良であってよい。第１特徴に関する推定は、例えば、機械ＲＥに異常が生じているか否かを判定すること、機械ＲＥに異常が生じている確率を判定すること、機械ＲＥに発生した又は予兆のある異常の種類を識別すること、異常の発生した箇所を特定すること又はこれらの組み合わせにより表現されてよい。
【0205】
これにより、モデル生成装置１は、運用環境で通常的に生じる振動等の他の特徴の相違に対してロバストに機械ＲＥの異常に関する推定タスクを遂行可能な訓練済みの符号器５１及び第１推定器５２を生成することができる。監視装置２Ｅは、上記検査装置２Ａと同様の手順により、機械ＲＥの異常に関する推定タスクを遂行することができる。本変形例に係る監視システムは、機械ＲＥの状態を監視するあらゆる場面に利用されてよい。
【0206】
その他の一例として、所定種類のデータは、ホームセキュリティセンサにより得られるセンシングデータであってよい。ホームセキュリティセンサは、例えば、画像センサ、赤外線センサ、活性度（音声）センサ、ガス（ＣＯ２等）センサ、電流センサ、スマートメータ（家電、照明等の電力使用量を計測するセンサ）等であってよい。この場合、第１特徴は、侵入者が存在するか否か等の監視範囲のセキュリティ状態に関するものであってよい。第２特徴は、セキュリティ状態以外の他の特徴であってよく、例えば、運用環境で通常的に生じる成分等に関するものであってよい。
【0207】
＜４．２＞
上記実施形態では、符号器５１、第１推定器５２、及び第２推定器５３それぞれには、全結合型のニューラルネットワークが用いられている。しかしながら、それぞれを構成するニューラルネットワークの種類は、このような例に限定されなくてもよい。符号器５１、第１推定器５２、及び第２推定器５３それぞれには、例えば、畳み込みニューラルネットワーク、再帰型ニューラルネットワーク等が用いられてよい。
上記実施形態では、符号器５１、第１推定器５２、及び第２推定器５３それぞれには、全結合型のニューラルネットワークが用いられている。しかしながら、それぞれを構成するニューラルネットワークの種類は、このような例に限定されなくてもよい。符号器５１、第１推定器５２、及び第２推定器５３それぞれには、例えば、畳み込みニューラルネットワーク、再帰型ニューラルネットワーク等が用いられてよい。
【0208】
また、上記実施形態において、符号器５１、第１推定器５２、及び第２推定器５３それぞれを構成する機械学習モデルの種類は、ニューラルネットワークに限られなくてもよい。符号器５１、第１推定器５２、及び第２推定器５３それぞれには、ニューラルネットワーク以外に、例えば、サポートベクタマシン、回帰モデル等が用いられてよい。機械学習の方法は、それぞれの機械学習モデルの種類に応じて適宜選択されてよい。
【0209】
また、上記実施形態において、符号器５１、第１推定器５２、及び第２推定器５３それぞれの入力及び出力の形式は、特に限定されなくてもよく、実施の形態に応じて適宜決定されてよい。例えば、第１推定器５２は、特徴量以外の情報の入力を更に受け付けるように構成されてもよい。また、第１推定器５２の出力は、第１特徴の推定結果を直接的に示すように構成されてもよい。或いは、第１推定器５２の出力は、例えば、対象の状態にあるか否かを判定するために対象の状態にある確率を示す等のように、第１特徴の推定結果を間接的に示すように構成されてもよい。その他についても同様である。
【0210】
＜４．３＞
上記実施形態では、ステップＳ１２３の処理は、ステップＳ１２１及びステップＳ１２２の処理と共に繰り返し実行される。しかしながら、学習モデル５の機械学習の処理手順は、このような例に限定されなくてもよい。ステップＳ１２３の処理は、ステップＳ１２１及びステップＳ１２２の処理を交互に繰り返し実行する前後の少なくともいずれかに実行されてよい。
上記実施形態では、ステップＳ１２３の処理は、ステップＳ１２１及びステップＳ１２２の処理と共に繰り返し実行される。しかしながら、学習モデル５の機械学習の処理手順は、このような例に限定されなくてもよい。ステップＳ１２３の処理は、ステップＳ１２１及びステップＳ１２２の処理を交互に繰り返し実行する前後の少なくともいずれかに実行されてよい。
【符号の説明】
【0211】
１…モデル生成装置、
１１…制御部、１２…記憶部、
１３…通信インタフェース、１４…外部インタフェース、
１５…入力装置、１６…出力装置、１７…ドライブ、
１１１…データ取得部、１１２…学習処理部、
１１３…保存処理部、
１２０…学習データセット、
１２１…訓練データ、
１２２…第１正解データ、１２３…第２正解データ、
１２５…学習結果データ、
８１…モデル生成プログラム、９１…記憶媒体、
２…推定装置、
２１…制御部、２２…記憶部、
２３…通信インタフェース、２４…外部インタフェース、
２５…入力装置、２６…出力装置、２７…ドライブ、
２１１…データ取得部、２１２……推定部、
２１３…出力部、
２２１…対象データ、
５…学習モデル、
５１…符号器、５２…第１推定器、
５３…第２推定器
１１…制御部、１２…記憶部、
１３…通信インタフェース、１４…外部インタフェース、
１５…入力装置、１６…出力装置、１７…ドライブ、
１１１…データ取得部、１１２…学習処理部、
１１３…保存処理部、
１２０…学習データセット、
１２１…訓練データ、
１２２…第１正解データ、１２３…第２正解データ、
１２５…学習結果データ、
８１…モデル生成プログラム、９１…記憶媒体、
２…推定装置、
２１…制御部、２２…記憶部、
２３…通信インタフェース、２４…外部インタフェース、
２５…入力装置、２６…出力装置、２７…ドライブ、
２１１…データ取得部、２１２……推定部、
２１３…出力部、
２２１…対象データ、
５…学習モデル、
５１…符号器、５２…第１推定器、
５３…第２推定器
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11A】
【図11B】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17A】
【図17B】
【図18】
【図19A】
【図19B】
【図20】
【図21A】
【図21B】
【図22】
