知財求人 - 知財ポータルサイト「IP Force」
特許7487502学習用データ生成装置、学習装置、制御装置、学習用データ生成方法、学習方法、制御方法、学習用データ生成プログラム、学習プログラム、及び制御プログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-05-13
(45)【発行日】2024-05-21
(54)【発明の名称】学習用データ生成装置、学習装置、制御装置、学習用データ生成方法、学習方法、制御方法、学習用データ生成プログラム、学習プログラム、及び制御プログラム
(51)【国際特許分類】
G06N 20/00 20190101AFI20240514BHJP
G06N 99/00 20190101ALI20240514BHJP
【ＦＩ】
G06N20/00
G06N99/00 180
【請求項の数】
10
(21)【出願番号】P 2020044804
(22)【出願日】2020-03-13
(65)【公開番号】P2021144660
(43)【公開日】2021-09-24
【審査請求日】2023-01-11
(73)【特許権者】
【識別番号】000002945
【氏名又は名称】オムロン株式会社
(74)【代理人】
【識別番号】110001519
【氏名又は名称】弁理士法人太陽国際特許事務所
(72)【発明者】
【氏名】伊藤 喜輝
(72)【発明者】
【氏名】上山 勇樹
(72)【発明者】
【氏名】阿部 泰明
(72)【発明者】
【氏名】稲本 修治
【審査官】佐藤 実
(56)【参考文献】
【文献】国際公開第２０１６／０７９９７２（ＷＯ，Ａ１）
【文献】特開２０２０－００４１７８（ＪＰ，Ａ）
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｎ ２０／００
Ｇ０６Ｎ ９９／００
(57)【特許請求の範囲】
【請求項1】
制御対象から観測された観測データであって、説明変数と目的変数との組み合わせを表す複数の観測データを取得する取得部と、前記取得部により取得された前記複数の観測データに基づいて、前記説明変数から前記目的変数を出力するためのモデルを学習させて、学習済みの教師用モデルを生成する教師用学習部と、
前記教師用学習部により生成された前記教師用モデルに対して、所定の説明変数を入力することにより、前記所定の説明変数に対する所定の目的変数を取得し、前記所定の説明変数と前記所定の目的変数との組み合わせを、決定木モデルを学習させるための学習用データとして生成する学習用データ生成部と、
を含む学習用データ生成装置。
【請求項2】
前記制御対象は製造装置である、請求項１に記載の学習用データ生成装置。
【請求項3】
請求項１又は請求項２に記載の学習用データ生成装置によって生成された前記学習用データを取得する学習用データ取得部と、前記学習用データ取得部により取得された前記学習用データに基づいて、前記決定木モデルを学習させる学習部を含む、
学習装置。
【請求項4】
前記制御対象から前記説明変数を取得する情報取得部と、請求項３の学習装置によって学習された前記決定木モデルへ、前記情報取得部により取得された前記説明変数を入力することにより、該説明変数に対応する目的変数を取得し、該目的変数に応じた制御を前記制御対象に対して実行する制御部と、
を含む制御装置。
【請求項5】
取得部が、制御対象から観測された観測データであって、説明変数と目的変数との組み合わせを表す複数の観測データを取得し、教師用学習部が、前記取得部により取得された前記複数の観測データに基づいて、前記説明変数から前記目的変数を出力するためのモデルを学習させて、学習済みの教師用モデルを生成し、
学習用データ生成部が、前記教師用学習部により生成された前記教師用モデルに対して、所定の説明変数を入力することにより、前記所定の説明変数に対する所定の目的変数を取得し、前記所定の説明変数と前記所定の目的変数との組み合わせを、決定木モデルを学習させるための学習用データとして生成する、
学習用データ生成方法。
【請求項6】
学習用データ取得部が、請求項５に記載の学習用データ生成方法によって生成された前記学習用データを取得し、学習部が、前記学習用データ取得部により取得された前記学習用データに基づいて、前記決定木モデルを学習させる、
学習方法。
【請求項7】
情報取得部が、前記制御対象から前記説明変数を取得し、制御部が、請求項６の学習方法によって学習された前記決定木モデルへ、前記情報取得部により取得された前記説明変数を入力することにより、該説明変数に対応する目的変数を取得し、該目的変数に応じた制御を前記制御対象に対して実行する、
制御方法。
【請求項8】
コンピュータを、制御対象から観測された観測データであって、説明変数と目的変数との組み合わせを表す複数の観測データを取得する取得部、
前記取得部により取得された前記複数の観測データに基づいて、前記説明変数から前記目的変数を出力するためのモデルを学習させて、学習済みの教師用モデルを生成する教師用学習部、及び
前記教師用学習部により生成された前記教師用モデルに対して、所定の説明変数を入力することにより、前記所定の説明変数に対する所定の目的変数を取得し、前記所定の説明変数と前記所定の目的変数との組み合わせを、決定木モデルを学習させるための学習用データとして生成する学習用データ生成部
として機能させるための学習用データ生成プログラム。
【請求項9】
コンピュータを、請求項８に記載の学習用データ生成プログラムによって生成された前記学習用データを取得する学習用データ取得部、及び
前記学習用データ取得部により取得された前記学習用データに基づいて、前記決定木モデルを学習させる学習部
として機能させるための学習プログラム。
【請求項10】
コンピュータを、前記制御対象から前記説明変数を取得する情報取得部、及び
請求項９の学習プログラムによって学習された前記決定木モデルへ、前記情報取得部により取得された前記説明変数を入力することにより、該説明変数に対応する目的変数を取得し、該目的変数に応じた制御を前記制御対象に対して実行する制御部
として機能させるための制御プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、学習用データ生成装置、学習装置、制御装置、学習用データ生成方法、学習方法、制御方法、学習用データ生成プログラム、学習プログラム、及び制御プログラムに関する。
【背景技術】
【0002】
従来、プラントの立ち上げデータを用いてプラントの同定、及び、制御パラメータの調整を実現可能とするプラント制御システムが知られている（例えば、特許文献１を参照）。
【0003】
特許文献１に開示されているシステム支援ツールは、立ち上げデータを元に同定機能を用いて、プラントのモデルパラメータを推定する。そして、システム支援ツールは、制御パラメータ調整機能を用いて、モデル予測制御部及びＰＩＤ制御部に係る制御パラメータを、同定結果のモデルパラメータを使って計算する。
【先行技術文献】
【特許文献】
【0004】
【文献】特開２０１０－１１３６３８号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、任意の制御システムにおいて、制御対象から観測される観測データを学習用データとして設定し、当該制御システムにおいて動作させるモデルを学習させる場合がある。そのようなモデルの一例として決定木を表すモデルである決定木モデルを学習させる場合、学習用データの数が増加するほど決定木モデルの層数が増加し、演算時間やモデルのメモリ容量が増加する。
【0006】
しかし、制御システムに組み込まれる機器においては演算時間を低減させる必要がある。この点、制御対象から観測される膨大な観測データを用いて決定木モデルを学習させた場合には、決定木モデルの演算時間及びモデルのメモリ容量が増加するため、膨大な学習用データを用いることは好ましくない。
【0007】
そのため、膨大な観測データから少数の観測データが学習用データとして選択されることが多い。しかし、この場合には、選択された観測データが学習用データとして適切ではない場合には、その学習用データを用いて学習がされた決定木モデルも適切ではないものとなる。具体的には、学習用データとして選択された観測データにノイズが含まれていた場合には、その学習用データを用いて学習された決定木モデルの精度は低くなる。しかし、決定木モデルの精度を低下させないような学習用データを、膨大な観測データから取捨選択することは難しい。
【0008】
上記特許文献１に記載の技術では、プラントの立ち上げデータが採取され、その立ち上げデータに基づきモデルパラメータが推定されるものの、その立ち上げデータを取捨選択することについては考慮されていない。このため、上記特許文献１に記載の技術を用いて決定木モデルの演算時間及びモデルのメモリ容量を低減させる場合には、人手によって立ち上げデータを取捨選択する必要があり、学習用データを容易に削減することが困難である、という課題がある。
【0009】
本発明は、上記の点に鑑みてなされたものであり、学習用データの削減を容易にすることを目的とする。
【課題を解決するための手段】
【0010】
上記目的を達成するために、本発明に係る学習用データ生成装置は、制御対象から観測された観測データであって、説明変数と目的変数との組み合わせを表す複数の観測データを取得する取得部と、前記取得部により取得された前記複数の観測データに基づいて、前記説明変数から前記目的変数を出力するためのモデルを学習させて、学習済みの教師用モデルを生成する教師用学習部と、前記教師用学習部により生成された前記教師用モデルに対して、所定の説明変数を入力することにより、前記所定の説明変数に対する所定の目的変数を取得し、前記所定の説明変数と前記所定の目的変数との組み合わせを、決定木モデルを学習させるための学習用データとして生成する学習用データ生成部と、を含む学習用データ生成装置である。
【0011】
また、前記制御対象は製造装置であるようにすることができる。
【0012】
また、本発明に係る学習装置は、上記の学習用データ生成装置によって生成された前記学習用データを取得する学習用データ取得部と、前記学習用データ取得部により取得された前記学習用データに基づいて、前記決定木モデルを学習させる学習部を含む、学習装置である。
【0013】
また、本発明に係る制御装置は、前記制御対象から前記説明変数を取得する情報取得部と、上記の学習装置によって学習された前記決定木モデルへ、前記情報取得部により取得された前記説明変数を入力することにより、該説明変数に対応する目的変数を取得し、該目的変数に応じた制御を前記制御対象に対して実行する制御部と、を含む制御装置である。
【0014】
また、本発明に係る学習用データ生成方法は、取得部が、制御対象から観測された観測データであって、説明変数と目的変数との組み合わせを表す複数の観測データを取得し、教師用学習部が、前記取得部により取得された前記複数の観測データに基づいて、前記説明変数から前記目的変数を出力するためのモデルを学習させて、学習済みの教師用モデルを生成し、学習用データ生成部が、前記教師用学習部により生成された前記教師用モデルに対して、所定の説明変数を入力することにより、前記所定の説明変数に対する所定の目的変数を取得し、前記所定の説明変数と前記所定の目的変数との組み合わせを、決定木モデルを学習させるための学習用データとして生成する、学習用データ生成方法である。
【0015】
また、本発明に係る学習方法は、学習用データ取得部が、上記の学習用データ生成方法によって生成された前記学習用データを取得し、学習部が、前記学習用データ取得部により取得された前記学習用データに基づいて、前記決定木モデルを学習させる、学習方法である。
【0016】
また、本発明に係る制御方法は、情報取得部が、前記制御対象から前記説明変数を取得し、制御部が、上記の学習方法によって学習された前記決定木モデルへ、前記情報取得部により取得された前記説明変数を入力することにより、該説明変数に対応する目的変数を取得し、該目的変数に応じた制御を前記制御対象に対して実行する、制御方法である。
【0017】
また、本発明に係る学習用データ生成プログラムは、コンピュータを、制御対象から観測された観測データであって、説明変数と目的変数との組み合わせを表す複数の観測データを取得する取得部、前記取得部により取得された前記複数の観測データに基づいて、前記説明変数から前記目的変数を出力するためのモデルを学習させて、学習済みの教師用モデルを生成する教師用学習部、及び前記教師用学習部により生成された前記教師用モデルに対して、所定の説明変数を入力することにより、前記所定の説明変数に対する所定の目的変数を取得し、前記所定の説明変数と前記所定の目的変数との組み合わせを、決定木モデルを学習させるための学習用データとして生成する学習用データ生成部として機能させるための学習用データ生成プログラムである。
【0018】
また、本発明に係る学習プログラムは、コンピュータを、上記の学習用データ生成プログラムによって生成された前記学習用データを取得する学習用データ取得部、及び前記学習用データ取得部により取得された前記学習用データに基づいて、前記決定木モデルを学習させる学習部として機能させるための学習プログラムである。
【0019】
また、本発明に係る制御プログラムは、コンピュータを、前記制御対象から前記説明変数を取得する情報取得部、及び上記の学習プログラムによって学習された前記決定木モデルへ、前記情報取得部により取得された前記説明変数を入力することにより、該説明変数に対応する目的変数を取得し、該目的変数に応じた制御を前記制御対象に対して実行する制御部として機能させるための制御プログラムである。
【発明の効果】
【0020】
本発明に係る学習用データ生成装置、学習装置、制御装置、方法、及びプログラムによれば、学習用データの削減を容易にすることができる。
【図面の簡単な説明】
【0021】
【図1】本実施形態に係る制御システムの機能構成を示すブロック図である。
【図2】本実施形態に係る学習装置のハードウェア構成を示すブロック図である。
【図3】本実施形態に係るＰＬＣのハードウェア構成を示すブロック図である。
【図4】決定木モデルを概念的に示す図である。
【図5】決定木モデルの学習を説明するための図である。
【図6】観測データから数個のデータを選択する場合を説明するための図である。
【図7】学習用データの生成を説明するための図である。
【図8】本実施形態における学習用データ生成処理の流れを示すフローチャートである。
【図9】本実施形態における学習処理の流れを示すフローチャートである。
【図10】本実施形態における制御処理の流れを示すフローチャートである。
【図11】本実施形態の変形例を説明するための図である。
【図12】本実施形態の変形例を説明するための図である。
【発明を実施するための形態】
【0022】
以下、本発明の実施形態の一例を、図面を参照しつつ説明する。本実施形態では、本発明に係る制御装置を搭載したＰＬＣ（Ｐｒｏｇｒａｍｍａｂｌｅ Ｌｏｇｉｃ Ｃｏｎｔｒｏｌｌｅｒ）を例に説明する。なお、各図面において同一又は等価な構成要素及び部分には同一の参照符号を付与している。また、図面の寸法及び比率は、説明の都合上誇張されており、実際の比率とは異なる場合がある。
【0023】
図１に示されるように、本実施形態に係る制御システム１は、製造装置５と、学習装置１０と、ＰＬＣ３０とを備えている。本実施形態に係るＰＬＣ３０は、学習装置１０で生成された学習済みの決定木モデルを用いて、制御対象である製造装置５の動作を制御する。製造装置５は、例えば、搬送装置、プレス機等である。制御対象の製造装置５は、１つであってもよいし、複数であってもよい。
【0024】
図２は、本実施形態に係る学習装置１０のハードウェア構成を示すブロック図である。図２に示されるように、学習装置１０は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）４２、メモリ４４、記憶装置４６、入出力Ｉ／Ｆ（Ｉｎｔｅｒｆａｃｅ）４８、記憶媒体読取装置５０、及び通信Ｉ／Ｆ５２を有する。各構成は、バス５４を介して相互に通信可能に接続されている。
【0025】
記憶装置４６には、後述する各処理を実行するための学習用データ生成プログラム及び学習プログラムが格納されている。ＣＰＵ４２は、中央演算処理ユニットであり、各種プログラムを実行したり、各構成を制御したりする。すなわち、ＣＰＵ４２は、記憶装置４６からプログラムを読み出し、メモリ４４を作業領域としてプログラムを実行する。ＣＰＵ４２は、記憶装置４６に記憶されているプログラムに従って、上記各構成の制御及び各種の演算処理を行う。
【0026】
メモリ４４は、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）により構成され、作業領域として一時的にプログラム及びデータを記憶する。記憶装置４６は、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）、及びＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）、ＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）等により構成され、オペレーティングシステムを含む各種プログラム、及び各種データを格納する。
【0027】
入出力Ｉ／Ｆ４８は、製造装置５からのデータの入力、及び製造装置５へのデータの出力を行うインタフェースである。また、例えば、キーボードやマウス等の、各種の入力を行うための入力装置、及び、例えば、ディスプレイやプリンタ等の、各種の情報を出力するための出力装置が接続されてもよい。出力装置として、タッチパネルディスプレイを採用することにより、入力装置として機能させてもよい。
【0028】
記憶媒体読取装置５０は、ＣＤ（Ｃｏｍｐａｃｔ Ｄｉｓｃ）－ＲＯＭ、ＤＶＤ（Ｄｉｇｉｔａｌ Ｖｅｒｓａｔｉｌｅ Ｄｉｓｃ）－ＲＯＭ、ブルーレイディスク、ＵＳＢ（Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ）メモリ等の各種記憶媒体に記憶されたデータの読み込みや、記憶媒体に対するデータの書き込み等を行う。
【0029】
通信Ｉ／Ｆ５２は、他の機器と通信するためのインタフェースであり、例えば、イーサネット（登録商標）、ＦＤＤＩ、Ｗｉ－Ｆｉ（登録商標）等の規格が用いられる。
【0030】
図３は、本実施形態に係るＰＬＣ３０のハードウェア構成を示すブロック図である。図３に示されるように、ＰＬＣ３０は、ＣＰＵ６２、メモリ６４、記憶装置６６、入出力Ｉ／Ｆ６８、記憶媒体読取装置７０、及び通信Ｉ／Ｆ７２を有する。各構成は、バス７４を介して相互に通信可能に接続されている。
【0031】
記憶装置６６には、後述する制御処理を実行するための制御プログラムが格納されている。ＣＰＵ６２は、中央演算処理ユニットであり、各種プログラムを実行したり、各構成を制御したりする。すなわち、ＣＰＵ６２は、記憶装置６６からプログラムを読み出し、メモリ６４を作業領域としてプログラムを実行する。ＣＰＵ６２は、記憶装置６６に記憶されているプログラムに従って、上記各構成の制御及び各種の演算処理を行う。
【0032】
メモリ６４は、ＲＡＭにより構成され、作業領域として一時的にプログラム及びデータを記憶する。記憶装置６６は、ＲＯＭ、及びＨＤＤ、ＳＳＤ等により構成され、オペレーティングシステムを含む各種プログラム、及び各種データを格納する。
【0033】
入出力Ｉ／Ｆ６８は、製造装置５からのデータの入力、及び製造装置５へのデータの出力を行うインタフェースである。また、例えば、キーボードやマウス等の、各種の入力を行うための入力装置、及び、例えば、ディスプレイやプリンタ等の、各種の情報を出力するための出力装置が接続されてもよい。出力装置として、タッチパネルディスプレイを採用することにより、入力装置として機能させてもよい。
【0034】
記憶媒体読取装置７０は、ＣＤ－ＲＯＭ、ＤＶＤ－ＲＯＭ、ブルーレイディスク、ＵＳＢメモリ等の各種記憶媒体に記憶されたデータの読み込みや、記憶媒体に対するデータの書き込み等を行う。
【0035】
通信Ｉ／Ｆ７２は、他の機器と通信するためのインタフェースであり、例えば、イーサネット（登録商標）、ＦＤＤＩ、Ｗｉ－Ｆｉ（登録商標）等の規格が用いられる。
【0036】
次に、学習装置１０の機能構成について説明する。図１に示されるように、学習装置１０は、機能的には、取得部１２と、教師用学習部１６と、学習用データ生成部２０と、学習用データ取得部２４と、学習部２８とを含む。また、学習装置１０の所定の記憶領域には、観測データ記憶部１４と、教師用モデル記憶部１８と、学習用データ記憶部２２と、学習モデル記憶部２６とが設けられている。各機能構成は、ＣＰＵ４２が記憶装置４６に記憶された各プログラムを読み出し、メモリ４４に展開して実行することにより実現される。
【0037】
取得部１２は、制御対象である製造装置５から観測された観測データを複数取得する。そして、取得部１２は、取得した複数の観測データを、観測データ記憶部１４へ格納する。本実施形態の観測データは、説明変数と目的変数との組み合わせを表すデータである。
【0038】
観測データのうちの説明変数は、例えば、製造装置５内のモーターの回転数、製造装置５に設けられた各種センサにより検出されたセンサ値、これらの値に基づいて判定処理等を行った処理結果等の情報である。観測データのうちの目的変数は、入力された説明変数に対して推論される製造装置５の状態等の予測値である。
【0039】
後述する本実施形態の決定木モデルは、観測データのうちの説明変数に基づいて、製造装置５の制御に必要な予測値である目的変数を出力する。すなわち、本実施形態の決定木モデルは、説明変数に基づいて製造装置５の制御に必要な予測値を推論する。そして、後述するＰＬＣ３０は、決定木モデルにより推定された目的変数に応じた制御信号を生成する。ＰＬＣ３０は、目的変数から生成された制御信号に応じた制御を製造装置５に対して実行する。
【0040】
観測データ記憶部１４には、取得部１２により取得された複数の観測データが格納される。
【0041】
ここで、図４に、本実施形態の決定木モデルの概念図を示す。図４に示されるように、学習用データＬＤに応じて学習がなされると、学習済みの決定木モデルＭが生成される。この学習済みの決定木モデルＭに、ある説明変数が入力されると説明変数に対応する目的変数が得られる。図４に示される学習済みの決定木モデルＭは、学習用データＬＤの数が１０個であり、層の深度が深いモデルとなっている。図４に示されるような学習済みの決定木モデルＭは、学習用データの数が多いため、例えば、学習用データの数が３つである決定木モデルよりも演算時間が長くなる。
【0042】
本実施形態のＰＬＣ３０のような組み込み機器では、演算時間が制限されている場合がある。更に、組み込み機器ではメモリサイズに関する制約も存在する。このため、学習に用いることのできる学習用データの数の上限は予め定められたものとなり、なるべく少ない学習用データで決定木モデルを生成することが好ましい。そこで、本実施形態では、少数の学習用データを用いて決定木モデルを生成する。以下、具体的に説明する。
【0043】
図５に、決定木モデルの学習を説明するための図を示す。図５に示されるグラフの横軸の入力は、説明変数を表す。また、図５に示されるグラフの縦軸の出力は、目的変数を表す。図５の２－１に示されるように、説明変数と目的変数とのペアである観測データＤが存在していた場合、それらの観測データＤに基づき、既存の学習アルゴリズムによって、２－２のような回帰木である決定木モデルＭが生成される。
【0044】
しかし、図５に示されるような決定木モデルＭは、その生成の際に用いられている観測データの数が多いため演算時間が長くなってしまう。そこで、例えば、複数の観測データから数個のデータを選択し、選択された観測データを学習用データとして用いて決定木モデルを学習させることが考えられる。
【0045】
図６に、観測データから数個のデータを選択する場合を説明するための図を示す。図６の３－１に示されるように、複数の観測データＤが得られている場合を考える。この場合、図６の３－２に示されるように、複数の観測データＤから、例えば人手によって５個のデータＤｓが選択されたとする。しかし、図６の３－３に示されるように、それらのデータＤｓにノイズが含まれていた場合、データＤｓに基づき学習された決定木モデルＭ’の精度は低くなり適切なモデルとはならない。
【0046】
そこで、本実施形態では、複数の観測データを用いて、教師用の決定木モデルを表す教師用モデルを一旦生成し、その教師用モデルを用いて他の決定木モデルを学習させるための学習用データを生成する。
【0047】
図７に、本実施形態における学習用データの生成を説明するための図を示す。図７の４－１に示されるように、複数の観測データＤに基づいて、既存の学習アルゴリズムによって教師用モデルＭが生成される。次に、学習用データの数が決定される。例えば、図７の例では、３つの学習用データを生成することが決定される。
【0048】
そして、図７の４－２において、学習用データを生成する際の説明変数の範囲Ｒが設定される。具体的には、図７の４－２に示されるように、複数の観測データＤのうちの、説明変数の上限と説明変数の下限とが設定されその範囲がＲとして設定される。
【0049】
次に、図７の４－３において、教師用モデルＭに対して入力する３つの説明変数Ｘ１，Ｘ２，Ｘ３が設定される。この３つの説明変数Ｘ１，Ｘ２，Ｘ３は、説明変数の上限と説明変数の下限として設定された範囲Ｒ内に存在する説明変数である。なお、図７の例では、３つの説明変数Ｘ１，Ｘ２，Ｘ３が等間隔で設定される。
【0050】
次に、図７の４－４において、教師用モデルＭに対して３つの説明変数Ｘ１，Ｘ２，Ｘ３が入力され、教師用モデルＭから目的変数Ｙ１，Ｙ２，Ｙ３が出力される。この３つのデータＰ１，Ｐ２，Ｐ３が学習用データとして設定される。
【0051】
そして、図７の４－５に示されるように、学習用データＰ１，Ｐ２，Ｐ３に基づいて、教師用モデルＭとは異なる他の決定木モデルＭ’が生成される。この決定木モデルＭ’は、３つの学習用データＰ１，Ｐ２，Ｐ３から生成されたモデルであるため、演算時間が短いモデルとなる。更に、決定木モデルＭ’は、教師用モデルＭから生成された学習用データに基づき学習がなされるため、精度の良いモデルとなる。
【0052】
このため、教師用学習部１６は、取得部１２により取得された複数の観測データに基づいて、説明変数から目的変数を出力するためのモデルを学習させて、学習済みの教師用モデルを生成する。なお、本実施形態では教師用モデルとして決定木モデルを用いる場合を例に説明する。決定木モデルは、分類木及び回帰木の何れであってもよい。
【0053】
教師用モデル記憶部１８には、教師用学習部１６によって生成された学習済みの教師用モデルが格納される。
【0054】
学習用データ生成部２０は、教師用学習部１６により生成された学習済みの教師用モデルに対して、所定の説明変数Ｘを入力することにより、所定の説明変数Ｘに対する所定の目的変数Ｙを取得する。そして、学習用データ生成部２０は、所定の説明変数Ｘと所定の目的変数Ｙとの組み合わせを、他の決定木モデルを学習させるための学習用データとして生成する。
【0055】
具体的には、まず、学習用データ生成部２０は、上記図７に示されるように、複数の観測データのうちの、説明変数の上限と説明変数の下限とを設定する。次に、学習用データ生成部２０は、上記図７に示されるように、説明変数の上限と説明変数の下限との間の範囲内に存在する説明変数を、所定の説明変数として設定する。
【0056】
そして、学習用データ生成部２０は、上記図７に示されるように、設定された所定の説明変数を、教師用モデル記憶部１８に格納された教師用モデルへ入力する。これにより、教師用モデルから、所定の説明変数に対応する所定の目的変数が出力される。学習用データ生成部２０は、所定の説明変数Ｘと所定の目的変数Ｙとの組み合わせを、教師用モデルとは異なる他の決定木モデルを学習させるための学習用データとして、学習用データ記憶部２２に格納する。
【0057】
学習用データ記憶部２２には、学習用データ生成部２０により生成された複数の学習用データが格納される。
【0058】
学習用データ取得部２４は、教師用モデルとは異なる他の決定木モデルを学習させる際に、学習用データ記憶部２２に格納された学習用データを取得する。
【0059】
学習部２８は、学習用データ取得部２４により取得された学習用データに基づいて、教師用モデルとは異なる他の決定木モデルを学習させる。なお、学習用データの数は、観測データの数よりも少ないため、学習対象の他の決定木モデルの層の深度は教師用モデルの層の深度よりも小さいものとなる。
【0060】
学習モデル記憶部２６には、学習部２８により学習された学習済みの決定木モデルが格納される。
【0061】
次に、本実施形態に係るＰＬＣ１０の機能構成について説明する。
【0062】
上記図１に示されるように、ＰＬＣ１０は、機能構成として、情報取得部３４と、制御部３６とを含む。また、ＰＬＣ１０の所定の記憶領域には、制御モデル記憶部３２が設けられている。各機能構成は、ＣＰＵ６２が記憶装置６６に記憶された制御プログラムを読み出し、メモリ６４に展開して実行することにより実現される。
【0063】
制御モデル記憶部３２には、学習装置１０によって学習された学習済みの決定木モデルが格納される。
【0064】
情報取得部３４は、製造装置５から出力される説明変数を取得する。
【0065】
制御部３６は、制御モデル記憶部３２に格納された学習済みの決定木モデルへ、情報取得部３４により取得された説明変数を入力することにより、当該説明変数に対応する目的変数を取得する。そして、制御部３６は、取得した目的変数に応じた制御を製造装置５に対して実行する。
【0066】
具体的には、制御部３６は、学習済みの決定木モデルから出力された目的変数に基づいて、製造装置５を制御するための制御信号を生成して出力する。例えば、制御部３６は、決定木モデルで予測された製造装置５の状態を表す目的変数に応じて、ローラーの角度を調整したり、モーターの回転速度を変更したりするための制御信号を生成する。そして、制御部３６は、制御信号に応じた制御を製造装置５に対して実行する。
【0067】
次に、本実施形態に係る制御システム１の作用について説明する。
【0068】
まず、学習装置１０において実行される学習用データを生成する処理について説明する。製造装置５が駆動している際に、学習装置１０の取得部１２が製造装置５から出力される観測データを逐次取得し、観測データ記憶部１４へ格納する。
【0069】
そして、学習装置１０が学習用データの生成の指示信号を受け付けると、学習装置１０のＣＰＵ４２は記憶装置４６から学習用データ生成プログラムを読み出して、メモリ４４に展開して実行する。これにより、ＣＰＵ４２が学習装置１０の各機能構成として機能し、図８に示す学習用データ生成処理が実行される。
【0070】
ステップＳ１００において、取得部１２は、観測データ記憶部１４に格納された複数の観測データを取得する。
【0071】
ステップＳ１０２において、教師用学習部１６は、上記ステップＳ１００で取得された複数の観測データに基づいて、説明変数から目的変数を出力するための決定木モデルを学習させて、学習済みの教師用モデルを生成する。
【0072】
ステップＳ１０４において、教師用学習部１６は、上記ステップＳ１０２で生成された学習済みの教師用モデルの精度評価を行う。例えば、教師用学習部１６は、上記ステップＳ１００で取得された複数の観測データを用いて、学習済みの教師用モデルの正解率を算出する。
【0073】
ステップＳ１０６において、教師用学習部１６は、上記ステップＳ１０４で得られた精度評価結果が、所定の条件を満たすか否かを判定する。例えば、上記ステップＳ１０４で得られた正解率が所定の閾値以上である場合には、教師用モデルの精度が所定の条件を満たすとして、ステップＳ１０８へ移行する。一方、上記ステップＳ１０４で得られた正解率が所定の閾値未満である場合には、教師用モデルの精度が所定の条件を満たさないとして、ステップＳ１０２へ移行し学習を繰り返す。
【0074】
ステップＳ１０８において、教師用学習部１６は、上記ステップＳ１０２で得られた学習済みの教師用モデルを、教師用モデル記憶部１８に格納する。
【0075】
ステップＳ１１０において、学習用データ生成部２０は、上記ステップＳ１０８で教師用モデル記憶部１８に格納された学習済みの教師用モデルに対して、所定の説明変数Ｘを入力することにより、所定の説明変数Ｘに対する所定の目的変数Ｙを取得する。そして、学習用データ生成部２０は、所定の説明変数Ｘと所定の目的変数Ｙとの組み合わせを、他の決定木モデルを学習させるための学習用データとして生成する。なお、学習用データ生成部２０は、複数の学習用データを生成する。
【0076】
ステップＳ１１２において、学習用データ生成部２０は、上記ステップＳ１１０で生成された複数の学習用データを、学習用データ記憶部２２に格納して学習用データ生成処理を終了する。
【0077】
次に、学習装置１０において実行される学習処理について説明する。
【0078】
学習用データ記憶部２２に複数の学習用データが格納された後に、学習装置１０が決定木モデルの生成の指示信号を受け付けると、学習装置１０のＣＰＵ４２は記憶装置４６から学習プログラムを読み出して、メモリ４４に展開して実行する。これにより、ＣＰＵ４２が学習装置１０の各機能構成として機能し、図９に示す学習処理が実行される。
【0079】
ステップＳ２００において、学習用データ取得部２４は、学習用データ記憶部２２に格納されている複数の学習用データを取得する。
【0080】
ステップＳ２０２において、学習部２８は、上記ステップＳ２００で取得された学習用データに基づいて、上記の教師用モデルとは異なる他の決定木モデルを学習させる。なお、学習対象の他の決定木モデルの層の深度は、上記の教師用モデルの層の深度よりも小さいものとなる。
【0081】
ステップＳ２０４において、学習部２８は、上記ステップＳ２０２で生成された学習済みの決定木モデルの精度評価を行う。例えば、教師用学習部１６は、観測データ記憶部１４に記憶された複数の観測データを用いて、学習済みの決定木モデルの正解率を算出する。
【0082】
ステップＳ２０６において、学習部２８は、上記ステップＳ２０４で得られた精度評価結果が、所定の条件を満たすか否かを判定する。例えば、上記ステップＳ２０４で得られた正解率が所定の閾値以上である場合には、決定木モデルの精度が所定の条件を満たすとして、ステップＳ２０８へ移行する。一方、上記ステップＳ２０４で得られた正解率が所定の閾値未満である場合には、決定木モデルの精度が所定の条件を満たさないとして、ステップＳ２０２へ移行し学習を繰り返す。
【0083】
ステップＳ２０８において、学習部２８は、上記ステップＳ２０２で生成された学習済みの決定木モデルを学習モデル記憶部２６に格納して、学習処理を終了する。
【0084】
次に、ＰＬＣ３０において実行される制御処理について説明する。
【0085】
学習モデル記憶部２６に学習済みの決定木モデルが格納された後、その学習済みの決定木モデルがＰＬＣ３０へ入力される。ＰＬＣ３０は、学習済みの決定木モデルを制御モデル記憶部３２へ格納する。
【0086】
そして、ＰＬＣ３０が製造装置５の制御開始の指示信号を受け付けると、ＰＬＣ３０のＣＰＵ６２は記憶装置６６から制御プログラムを読み出して、メモリ６４に展開して実行する。これにより、ＣＰＵ６２がＰＬＣ３０の各機能構成として機能し、図１０に示す制御処理が実行される。
【0087】
ステップＳ３００において、情報取得部３４は、製造装置５から出力されるモーターの回転数等の説明変数を取得する。
【0088】
ステップＳ３０２において、制御部３６は、制御モデル記憶部３２に格納された学習済みの決定木モデルへ、上記ステップＳ３００で取得された説明変数を入力することにより、当該説明変数に対応する目的変数を取得する。
【0089】
ステップＳ３０４において、制御部３６は、取得した目的変数に応じた制御を製造装置５に対して実行する。具体的には、制御部３６は、学習済みの決定木モデルから出力された目的変数に基づいて、製造装置５を制御するための制御信号を生成して出力する。これにより、決定木モデルを用いた制御処理が実行される。
【0090】
以上説明したように、本実施形態に係る制御システムの学習装置は、制御対象から観測された観測データであって、説明変数と目的変数との組み合わせを表す複数の観測データを取得する。そして、学習装置は、取得された複数の観測データに基づいて、説明変数から目的変数を出力するための決定木モデルを学習させて、学習済みの教師用モデルを生成する。そして、学習装置は、教師用モデルに対して、所定の説明変数を入力することにより、所定の説明変数に対する所定の目的変数を取得し、所定の説明変数と所定の目的変数との組み合わせを、決定木モデルを学習させるための学習用データとして生成する。これにより、学習用データを容易に削減することができる。具体的には、従来では学習に用いるデータの質と特徴性とを考慮して観測データから学習用データを選定する必要があったが、その手間が不要となる。
【0091】
また、ノイズが低減された学習用データを得ることができる。具体的には、教師用モデルからノイズの影響が少ない質の良い学習用データが生成される。
【0092】
また、本実施形態の学習装置は、複数の観測データのうちの、説明変数の上限と説明変数の下限とを設定する。そして、学習装置は、説明変数の上限と説明変数の下限との間の範囲内に存在する説明変数を、所定の説明変数として設定し、設定された所定の説明変数を教師用モデルへ入力して、学習用データを生成する。これにより、観測データが得られた範囲内において適切な学習用データを生成することができる。この点、観測データが得られていない範囲において学習用データを生成し、その学習用データに基づき決定木モデルを学習させた場合には、ＰＬＣの動作保証の観点から好ましくない。そのため、本実施形態によれば、観測データが得られた範囲内において学習用データを生成することにより、ＰＬＣの動作保証の観点からも適切な学習用データを得ることができる。
【0093】
また、本実施形態の学習装置は、教師用モデルから得られた学習用データに基づいて、他の決定木モデルを学習させる。これにより、ノイズが低減された学習用データから決定木モデルが生成されるため、精度の良い決定木モデルを得ることができる。更に、従来行われていたデータの選定が不要となるため、決定木モデルを簡易に生成することができる。
【0094】
また、組み込み機器が変更された際の決定木モデルの流用が容易となる。また、一度生成された教師用モデルから学習用データの生成がいつでも可能となるため、決定木モデルのサイズの任意的な変更が可能となる。
【0095】
また、本実施形態のＰＬＣは、学習装置により生成された決定木モデルを用いて製造装置等の制御対象を制御するため、精度の良い制御が実行される。また、計算量の少ない決定木モデルを用いて製造装置等の制御対象を制御することができる。
【0096】
なお、上記実施形態では、本発明の制御装置をＰＬＣに搭載した例について説明したが、これに限定されない。例えば、車両の自動運転又は運転アシストの機能にも適用することができる。この場合、車両から、アクセルやブレーキの踏み込み量、ステアリングの操舵角、速度、加速度等のデータを説明変数として取得し、説明変数を入力として、決定木モデルにより、車両の状態を推論した予測値を目的変数として出力する。そして、目的変数に基づく制御信号を車両に出力すればよい。
【0097】
また、上記実施形態では、図７の４－３に示されるように、説明変数の上限と説明変数の下限との間の範囲Ｒ内において学習用データが生成される場合を例に説明したが、これに限定されるものではない。例えば、図１１に示されるように、説明変数の上限と説明変数の下限との間の範囲Ｒ１内に存在する説明変数であって、かつ観測データの密度が閾値以上である範囲Ｒ２内に存在する説明変数を、所定の説明変数Ｘとして設定してもよい。この場合には、範囲Ｒ２内に存在する観測データの数が所定の密度以上であるため、その範囲内において学習用データが生成されると観測データに類似する学習用データが得られ、より好ましいものとなる。この場合には、図１１に示されるように、設定された所定の説明変数Ｘを教師用モデルＭへ入力して、説明変数Ｘと目的変数Ｙとの組み合わせである学習用データＰが生成される。
【0098】
また、上記実施形態では、教師用モデルの精度及び決定木モデルの精度が所定以上である場合に、学習処理を終了する場合を例に説明したが、これに限定されるものではない。例えば、図１２に示されるように、制御システム１が表示装置２９を更に備え、ユーザが表示装置２９に表示された学習結果を確認するようにしてもよい。この場合には、ユーザは、表示装置２９に表示された教師用モデルの精度及び決定木モデルの精度を確認し、学習を終了させても良いか否かを決定するようにしてもよい。
【0099】
また、上記実施形態では、教師用モデルとして決定木モデルを用いる場合を例に説明したが、これに限定されるものではない。例えば、決定木モデルとは異なる種類のモデルを教師用モデルとして用いるようにしてもよい。
【0100】
また、上記実施形態でＣＰＵがソフトウェア（プログラム）を読み込んで実行した各処理を、ＣＰＵ以外の各種のプロセッサが実行してもよい。この場合のプロセッサとしては、ＦＰＧＡ（Ｆｉｅｌｄ－Ｐｒｏｇｒａｍｍａｂｌｅ Ｇａｔｅ Ａｒｒａｙ）等の製造後に回路構成を変更可能なＰＬＤ（Ｐｒｏｇｒａｍｍａｂｌｅ Ｌｏｇｉｃ Ｄｅｖｉｃｅ）、及びＡＳＩＣ（Ａｐｐｌｉｃａｔｉｏｎ Ｓｐｅｃｉｆｉｃ Ｉｎｔｅｇｒａｔｅｄ Ｃｉｒｃｕｉｔ）等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が例示される。また、各処理を、これらの各種のプロセッサのうちの１つで実行してもよいし、同種又は異種の２つ以上のプロセッサの組み合わせ（例えば、複数のＦＰＧＡ、及びＣＰＵとＦＰＧＡとの組み合わせ等）で実行してもよい。また、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路である。
【0101】
また、上記実施形態は、学習装置１０とＰＬＣ３０とによって構成される場合を例に説明したが、これに限定されるものではない。例えば、学習装置１０とＰＬＣ３０とを１つの装置として構成してもよい。また、学習装置１０のうちの学習用データ生成処理を学習用データ生成装置として構成し、学習装置１０のうちの学習処理を学習装置として構成してもよい。
【0102】
また、上記実施形態では、各プログラムが記憶装置に予め記憶（インストール）されている態様を説明したが、これに限定されない。プログラムは、ＣＤ－ＲＯＭ、ＤＶＤ－ＲＯＭ、ブルーレイディスク、ＵＳＢメモリ等の記憶媒体に記憶された形態で提供されてもよい。また、プログラムは、ネットワークを介して外部装置からダウンロードされる形態としてもよい。
【符号の説明】
【0103】
１ 制御システム
５ 製造装置
１０ 学習装置
１２ 取得部
１４ 観測データ記憶部
１６ 教師用学習部
１８ 教師用モデル記憶部
２０ 学習用データ生成部
２２ 学習用データ記憶部
２４ 学習用データ取得部
２６ 学習モデル記憶部
２８ 学習部
２９ 表示装置
３０ ＰＬＣ
３２ 制御モデル記憶部
３４ 情報取得部
３６ 制御部
４２，６２ ＣＰＵ
４４，６４ メモリ
５ 製造装置
１０ 学習装置
１２ 取得部
１４ 観測データ記憶部
１６ 教師用学習部
１８ 教師用モデル記憶部
２０ 学習用データ生成部
２２ 学習用データ記憶部
２４ 学習用データ取得部
２６ 学習モデル記憶部
２８ 学習部
２９ 表示装置
３０ ＰＬＣ
３２ 制御モデル記憶部
３４ 情報取得部
３６ 制御部
４２，６２ ＣＰＵ
４４，６４ メモリ
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
