特許 7566268 結合学習器形成装置、結合学習器形成プログラム、及び、結合学習器形成プログラムを記録した非一時的な記録媒体

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-10-04

(45)【発行日】2024-10-15

(54)【発明の名称】結合学習器形成装置、結合学習器形成プログラム、及び、結合学習器形成プログラムを記録した非一時的な記録媒体

(51)【国際特許分類】

   G06N 20/00 20190101AFI20241007BHJP

【ＦＩ】

G06N20/00

【請求項の数】 16

(21)【出願番号】P 2023575888

(86)(22)【出願日】2022-05-11

(86)【国際出願番号】 JP2022019922

(87)【国際公開番号】W WO2023218553

(87)【国際公開日】2023-11-16

【審査請求日】2023-12-08

(73)【特許権者】

【識別番号】520363199

【氏名又は名称】株式会社エイゾス

(74)【代理人】

【識別番号】110001210

【氏名又は名称】弁理士法人ＹＫＩ国際特許事務所

(72)【発明者】

【氏名】河尻 耕太郎

【審査官】佐藤 直樹

(56)【参考文献】

【文献】特開２０２０－１０１８６０（ＪＰ，Ａ）

【文献】特開２０１６－００４５４８（ＪＰ，Ａ）

【文献】特開２０２０－００４０５９（ＪＰ，Ａ）

【文献】米国特許出願公開第２０２１／００５５９１５（ＵＳ，Ａ１）

【文献】特開２０１９－００８４８３（ＪＰ，Ａ）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｇ０６Ｎ ２０／００

(57)【特許請求の範囲】

【請求項1】

学習済み学習器群にアクセス可能な結合学習器形成装置であって、
前記学習済み学習器群から選択された複数の学習済み学習器、結合学習器の入力データの数、及び、前記入力データそれぞれの入力先となる前記学習済み学習器、を示すユーザの指示を受け付け、前記ユーザの指示に応じて、選択された前記複数の学習済み学習器を組み合わせて、前記ユーザにより指定された数の前記複数の入力データが互いに異なる前記学習済み学習器に入力される結合学習器を形成する結合学習器形成部、
を備えることを特徴とする結合学習器形成装置。

【請求項2】

前記結合学習器形成部は、前記ユーザ以外の他者によって学習された学習器を含む前記複数の学習済み学習器を含む前記結合学習器を形成する、
ことを特徴とする請求項１に記載の結合学習器形成装置。

【請求項3】

前記結合学習器は、互いに異なるアルゴリズムで処理を行う複数の前記学習済み学習器を含む、
ことを特徴とする請求項１に記載の結合学習器形成装置。

【請求項4】

学習済み学習器群にアクセス可能な結合学習器形成装置であって、
ユーザの指示に応じて前記学習済み学習器群から複数の学習済み学習器を選択し、選択した前記複数の学習済み学習器を組み合わせて結合学習器を形成する結合学習器形成部、
を備え、
前記結合学習器形成部は、前記結合学習器と、前記ユーザにより選択された学習済み学習器とを組み合わせて、新たな結合学習器を形成する、
ことを特徴とする結合学習器形成装置。

【請求項5】

前記結合学習器形成部は、前記複数の学習済み学習器の１つである第１学習器の出力データが、直接又は間接的に、前記複数の学習済み学習器の１つであり前記第１学習器とは異なる第２学習器に入力されるように、前記第１学習器と前記第２学習器とが連結された前記結合学習器を形成する、
ことを特徴とする請求項１に記載の結合学習器形成装置。

【請求項6】

学習済み学習器群にアクセス可能な結合学習器形成装置であって、
ユーザの指示に応じて前記学習済み学習器群から複数の学習済み学習器を選択し、選択した前記複数の学習済み学習器を組み合わせて結合学習器を形成する結合学習器形成部、
を備え、
前記結合学習器形成部は、前記複数の学習済み学習器の１つである第１学習器の出力データが、直接又は間接的に、前記複数の学習済み学習器の１つであり前記第１学習器とは異なる第２学習器に入力されるように、前記第１学習器と前記第２学習器とが連結された前記結合学習器を形成し、
前記第１学習器は、複数の出力データを出力し、
前記第１学習器の複数の出力データのうちの一部は、直接又は間接的に前記第２学習器に入力され、前記第１学習器の複数の出力データのうちの他の一部は、前記結合学習器の出力データとされる、
ことを特徴とする結合学習器形成装置。

【請求項7】

学習済み学習器群にアクセス可能な結合学習器形成装置であって、
ユーザの指示に応じて前記学習済み学習器群から複数の学習済み学習器を選択し、選択した前記複数の学習済み学習器を組み合わせて結合学習器を形成する結合学習器形成部、
を備え、
前記結合学習器形成部は、前記複数の学習済み学習器の１つである第１学習器の出力データが、直接又は間接的に、前記複数の学習済み学習器の１つであり前記第１学習器とは異なる第２学習器に入力されるように、前記第１学習器と前記第２学習器とが連結された前記結合学習器を形成し、
前記第２学習器は、複数の出力データを出力し、
前記第２学習器の複数の出力データのうちの一部は、前記第１学習器にフィードバック入力される、
ことを特徴とする結合学習器形成装置。

【請求項8】

前記結合学習器形成部は、前記第１学習器の出力データを変換する変換モデルであって、変換後の当該出力データが前記第２学習器に入力されるように前記第２学習器に連結される変換モデルを含む前記結合学習器を形成する、
ことを特徴とする請求項５から７のいずれか１項に記載の結合学習器形成装置。

【請求項9】

前記複数の学習済み学習器それぞれに対応する学習器アイコンを組み合わせて前記結合学習器の結合構造を決定可能な結合学習器形成インターフェースをディスプレイに表示させる表示制御部、
をさらに備え、
前記結合学習器形成部は、前記結合学習器形成インターフェースに対する前記ユーザの操作に応じて、前記結合学習器の結合構造を決定する、
ことを特徴とする請求項１に記載の結合学習器形成装置。

【請求項10】

前記表示制御部は、前記結合学習器形成インターフェースにおいて、前記結合学習器に含まれる学習済み学習器の少なくとも１つの入力に入力データが入力されない場合に警告を表示する、
ことを特徴とする請求項９に記載の結合学習器形成装置。

【請求項11】

学習済み学習器群にアクセス可能な結合学習器形成装置であって、
ユーザの指示に応じて前記学習済み学習器群から複数の学習済み学習器を選択し、選択した前記複数の学習済み学習器を組み合わせて結合学習器を形成する結合学習器形成部、
を備え、
前記結合学習器形成部は、前記複数の学習済み学習器の１つである第１学習器の出力データが、直接又は間接的に、前記複数の学習済み学習器の１つであり前記第１学習器とは異なる第２学習器に入力されるように、前記第１学習器と前記第２学習器とが連結された前記結合学習器を形成し、
前記複数の学習済み学習器それぞれの入力の入力名、及び、前記複数の学習済み学習器それぞれの出力の出力名を入力する入力インターフェースをディスプレイに表示させる表示制御部、
をさらに備え、
前記結合学習器形成部は、前記ユーザにより入力された前記第１学習器の出力の出力名と、前記ユーザにより入力された前記第２学習器の入力の入力名とが対応する場合に、前記第１学習器の当該出力と前記第２学習器の当該入力とを接続する、
ことを特徴とする結合学習器形成装置。

【請求項12】

前記学習済み学習器を学習させた者から取得した、当該学習済み学習器に関する属性情報、又は、当該学習済み学習器を学習させたときの学習データに関する学習データ情報の少なくとも一方を前記ユーザに提供する情報提供部、
をさらに備えることを特徴とする請求項１に記載の結合学習器形成装置。

【請求項13】

前記属性情報は、入力データを当該学習済み学習器に入力する前に当該入力データに対して行うべき前処理に関する情報、当該学習済み学習器の開発に利用したプログラム言語、又は、当該学習済み学習器の開発に利用したライブラリの少なくとも１つを含む、
ことを特徴とする請求項１２に記載の結合学習器形成装置。

【請求項14】

学習済み学習器群にアクセス可能な結合学習器形成装置であって、
ユーザの指示に応じて前記学習済み学習器群から複数の学習済み学習器を選択し、選択した前記複数の学習済み学習器を組み合わせて結合学習器を形成する結合学習器形成部と、
前記結合学習器に関する解析であって、前記結合学習器に含まれる各前記学習済み学習器の学習処理をやり直す必要なく行える解析を行う解析部、
を備えることを特徴とする結合学習器形成装置。

【請求項15】

前記解析部は、前記結合学習器の複数の入力データそれぞれについての、前記結合学習器の出力データに与える影響度を分析する感度分析、前記ユーザにとっての前記結合学習器の最適出力データが得られるような前記結合学習器の入力データを遺伝的アルゴリズムによって探索する入力最適化処理、又は、所定範囲の複数の入力データに基づく前記結合学習器の出力データがとり得る範囲をモンテカルロシミュレーションにより探索する出力範囲探索処理の少なくとも１つを実行する、
ことを特徴とする請求項１４に記載の結合学習器形成装置。

【請求項16】

学習済み学習器群にアクセス可能なコンピュータを、
前記学習済み学習器群から選択された複数の学習済み学習器、結合学習器の入力データの数、及び、前記入力データそれぞれの入力先となる前記学習済み学習器、を示すユーザの指示を受け付け、前記ユーザの指示に応じて、選択された前記複数の学習済み学習器を組み合わせて、前記ユーザにより指定された数の前記複数の入力データが互いに異なる前記学習済み学習器に入力される結合学習器を形成する結合学習器形成部、
として機能させることを特徴とする結合学習器形成プログラム。

【発明の詳細な説明】

【技術分野】

【0001】

本発明は、結合学習器形成装置、結合学習器形成プログラム、及び、結合学習器形成プログラムを記録した非一時的な記録媒体に関する。

【背景技術】

【0002】

特許文献１には、ルールに従って予測対象の状態を予測するプロダクションシステムを学習モデルに変換する学習モデル構築装置であって、プロダクションシステムの入力である構築用入力データと、プロダクションシステムの発火ルールを規定した発火ルール情報とに基づいて学習された第１学習済みモデルと、当該発火ルールと、当該構築用入力データに対するプロダクションシステムの出力であるプロダクション出力とに基づいて学習された第２学習済みモデルとを組み合わせて、プロダクションシステムを模した第３学習モデルを形成する学習モデル構築装置が開示されている。

【先行技術文献】

【特許文献】

【0003】

【文献】特開２０２１－８９６５５号公報

【発明の概要】

【発明が解決しようとする課題】

【0004】

ところで、ユーザが、自分又は当該ユーザ以外の他者が学習させた学習器を含む複数の学習済み学習器を自由に組み合わせることができるならば、既存の学習済み学習器の活用範囲が広がる、あるいは、ユーザが新たに学習器を学習させることなく、既存の（他者が学習させた）複数の学習済み学習器を利用して目的の処理を行うことができる、などの効果が期待できる。しかしながら、従来、ユーザが複数の学習済み学習器を組み合わせて利用できるようなシステムは提案されていない。

【0005】

本明細書で開示される結合学習器形成装置の目的は、複数の学習済み学習器をユーザが自由に組み合わせ可能とすることにある。

【課題を解決するための手段】

【0006】

本明細書で開示される結合学習器形成装置は、学習済み学習器群にアクセス可能な結合学習器形成装置であって、ユーザの指示に応じて前記学習済み学習器群から複数の学習済み学習器を選択し、選択した前記複数の学習済み学習器を組み合わせて結合学習器を形成する結合学習器形成部と、を備えることを特徴とする。

【0007】

前記結合学習器形成部は、前記ユーザ以外の他者によって学習された学習器を含む前記複数の学習済み学習器を組み合わせて前記結合学習器を形成する、ことを特徴とする。

【0008】

前記結合学習器は、互いに異なるアルゴリズムで処理を行う複数の前記学習済み学習器を含んでもよい。

【0009】

前記結合学習器形成部は、前記結合学習器と、前記ユーザにより選択された学習済み学習器とを組み合わせて、新たな結合学習器を形成してもよい。

【0010】

前記結合学習器形成部は、前記複数の学習済み学習器の１つである第１学習器の出力データが、直接又は間接的に、前記複数の学習済み学習器の１つであり前記第１学習器とは異なる第２学習器に入力されるように、前記第１学習器と前記第２学習器とが連結された前記結合学習器を形成してもよい。

【0011】

前記第１学習器は、複数の出力データを出力し、前記第１学習器の複数の出力データのうちの一部は、直接又は間接的に前記第２学習器に入力され、前記第１学習器の複数の出力データのうちの他の一部は、前記結合学習器の出力データとされてもよい。

【0012】

前記第２学習器は、複数の出力データを出力し、前記第２学習器の複数の出力データのうちの一部は、前記第１学習器にフィードバック入力されてもよい。

【0013】

前記結合学習器形成部は、前記第１学習器の出力データを変換する変換モデルであって、変換後の当該出力データが前記第２学習器に入力されるように前記第２学習器に連結される変換モデルを含む前記結合学習器を形成してもよい。

【0014】

前記複数の学習済み学習器それぞれに対応する学習器アイコンを組み合わせて前記結合学習器の結合構造を決定可能な結合学習器形成インターフェースをディスプレイに表示させる表示制御部、をさらに備え、前記結合学習器形成部は、前記結合学習器形成インターフェースに対する前記ユーザの操作に応じて、前記結合学習器の結合構造を決定してもよい。

【0015】

前記表示制御部は、前記結合学習器形成インターフェースにおいて、前記結合学習器に含まれる学習済み学習器の少なくとも１つの入力に入力データが入力されない場合に警告を表示してもよい。

【0016】

前記複数の学習済み学習器それぞれの入力の入力名、及び、前記複数の学習済み学習器それぞれの出力の出力名を入力する入力インターフェースをディスプレイに表示させる表示制御部、をさらに備え、前記結合学習器形成部は、前記ユーザにより入力された前記第１学習器の出力の出力名と、前記ユーザにより入力された前記第２学習器の入力の入力名とが対応する場合に、前記第１学習器の当該出力と前記第２学習器の当該入力とを接続してもよい。

【0017】

前記学習済み学習器を学習させた者から取得した、当該学習済み学習器に関する属性情報、又は、当該学習済み学習器を学習させたときの学習データに関する学習データ情報の少なくとも一方を前記ユーザに提供する情報提供部、をさらに備えてもよい。

【0018】

前記属性情報は、入力データを当該学習済み学習器に入力する前に当該入力データに対して行うべき前処理に関する情報、当該学習済み学習器の開発に利用したプログラム言語、又は、当該学習済み学習器の開発に利用したライブラリの少なくとも１つを含む。

【0019】

前記結合学習器に関する解析であって、前記結合学習器に含まれる各前記学習済み学習器の学習処理をやり直す必要なく行える解析を行う解析部、をさらに備えてもよい。

【0020】

前記解析部は、前記結合学習器の複数の入力データそれぞれについての、前記結合学習器の出力データに与える影響度を分析する感度分析、前記ユーザにとっての前記結合学習器の最適出力データが得られるような前記結合学習器の入力データを遺伝的アルゴリズムによって探索する入力最適化処理、又は、所定範囲の複数の入力データに基づく前記結合学習器の出力データがとり得る範囲をモンテカルロシミュレーションにより探索する出力範囲探索処理の少なくとも１つを実行してもよい。

【0021】

本明細書で開示される結合学習器形成プログラムは、学習済み学習器群にアクセス可能なコンピュータを、ユーザの指示に応じて前記学習済み学習器群から複数の学習済み学習器を選択し、選択した前記複数の学習済み学習器を組み合わせて結合学習器を形成する結合学習器形成部、として機能させることを特徴とする。

【0022】

また、本明細書で開示される記録媒体は、学習済み学習器群にアクセス可能なコンピュータを、ユーザの指示に応じて前記学習済み学習器群から複数の学習済み学習器を選択し、選択した前記複数の学習済み学習器を組み合わせて結合学習器を形成する結合学習器形成部、として機能させるための結合学習器形成プログラムを記録したコンピュータ読み取り可能な非一時的な記録媒体である。

【発明の効果】

【0023】

本明細書で開示される結合学習器形成装置によれば、複数の学習済み学習器をユーザが自由に組み合わることができる。

【図面の簡単な説明】

【0024】

【図1】本実施形態に係る結合学習器形成システムの構成概略図である。

【図2】本実施形態に係る結合学習器形成装置の構成概略図である。

【図3】結合学習器の第１の例を示す概念図である。

【図4】結合学習器の第２の例を示す概念図である。

【図5】結合学習器の第３の例を示す概念図である。

【図6】結合学習器の第４の例を示す概念図である。

【図7】結合学習器形成インターフェースの例を示す図である。

【図8】入力エラーに関する警告の表示例を示す図である。

【図9】入出力名入力インターフェースの例を示す図である。

【図10】学習済み学習器の属性情報の表示例を示す図である。

【図11】学習済み学習器の学習データ情報の表示例を示す図である。

【図12】入力データセット及び出力データセットを示す図である。

【図13】変化入力データセット及び変化出力データセットを示す図である。

【図14】各入力データそれぞれについての、出力データ毎の差分の絶対値の合計値を示す図である。

【図15】各入力データの出力データそれぞれについての寄与度を示す図である。

【図16】遺伝的アルゴリズムの処理の流れを示すフローチャートである。

【図17】感度分析の結果の表示例を示す図である。

【図18】入力最適化の結果の表示例を示す図である。

【図19】出力範囲探索の結果の表示例を示す図である。

【発明を実施するための形態】

【0025】

図１は、本実施形態に係る結合学習器形成システム１０の構成概略図である。結合学習器形成システム１０は、結合学習器形成システム１０（すなわち後述する結合学習器形成サービス）の１又は複数のユーザが利用する１又は複数のユーザ端末１２と、結合学習器形成装置１４を含んで構成される。ユーザ端末１２と結合学習器形成装置１４は、ＬＡＮ（Local Area Network）やインターネットなどの通信回線１６を介して通信可能に接続される。

【0026】

ユーザ端末１２は、例えば、パーソナルコンピュータ、タブレット端末、あるいはスマートフォンなどのコンピュータにより構成されるが、これらの装置に限られるものではない。ユーザ端末１２は、通信回線１６を介して結合学習器形成装置１４と通信するための通信インターフェース、ユーザの命令を受け付けるための入力インターフェース、結合学習器形成装置１４から提供される画面などを表示するディスプレイ、データを記憶するためのメモリ、各処理を実行するプロセッサなどを含んで構成される。

【0027】

結合学習器形成装置１４は、本実施形態においてはサーバコンピュータであるが、以下に説明する機能を発揮可能な限りにおいて（換言すれば以下に説明する結合学習器形成サービスを提供可能な限りにおいて）、結合学習器形成装置１４はどのような装置であってもよい。例えば、結合学習器形成装置１４は、スタンドアロンで動作するコンピュータ（パーソナルコンピュータなど）であってもよい。また、以下に説明する結合学習器形成装置１４の機能は、複数のコンピュータの協働によって実現されてもよい。

【0028】

結合学習器形成装置１４は、結合学習器形成サービスをユーザに提供する装置である。ユーザとしては、結合学習器形成サービスにユーザ登録済みのユーザであってもよいが、結合学習器形成サービスはユーザ登録不要で利用可能であってもよい。詳しくは後述するが、結合学習器形成サービスとは、ユーザが、複数の学習済み学習器を選択し、選択した学習済み学習器を自由に組み合わせて結合学習器を形成できるサービスである。ユーザが選択できる学習済み学習器（換言すれば結合学習器に含まれる学習済み学習器）は、ユーザが学習処理を行った学習器のみならず、ユーザ以外の他者によって学習された学習器も含まれる。

【0029】

本実施形態では、結合学習器形成サービスの各ユーザは、自らが学習させた学習済み学習器を結合学習器形成サービスに登録することができる。これにより、当該ユーザは、自分の学習済み学習器を他者に利用してもらうことができるし、当該ユーザ以外の他のユーザは、当該ユーザの学習済み学習器を選択して結合学習器を形成することができるようになる。なお、学習済み学習器を結合学習器形成サービスに登録する、とは、学習済み学習器を結合学習器形成装置１４に記憶させて登録することを含み、各ユーザが管理しているコンピュータに学習済み学習器を記憶させた上で、結合学習器形成装置１４から当該学習済み学習器にアクセス可能な状態に置いた上で登録することも含む。結合学習器形成装置１４は、各ユーザが学習させた学習済み学習器群にアクセス可能となっている。

【0030】

結合学習器形成サービスは、ユーザに対して、学習器の形成の支援や、学習済み学習器の解析を行う機能を備えていてもよい。例えば、結合学習器形成サービスは、遺伝的アルゴリズムなどを用いて、ユーザに対して、学習器の適切なハイパーパラメータ（エポック数、隠れ層数、隠れ層ニューロン数、ドロップアウト数、あるいは、バッチ数など）を提案する機能を備えていてもよい。あるいは、詳しくは後述するように、結合学習器形成サービスは、学習済み学習器に対して、感度分析、入力最適化処理、及び出力範囲探索処理などを行う機能を備えていていもよい。これらの機能により、結合学習器形成サービスへの学習済み学習器の登録を促し、ユーザがより多くの学習済み学習器から結合学習器を形成するための学習済み学習器を選択することができるようになる。

【0031】

図２は、本実施形態に係る結合学習器形成装置１４の構成概略図である。

【0032】

通信インターフェース２０は、例えばＮＩＣ（Network Interface Card）を含んで構成される。通信インターフェース２０は、他の装置、特にユーザ端末１２と通信する機能を発揮する。

【0033】

メモリ２２は、例えばＨＨＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、ＲＯＭ（Read Only Memory）、あるいはＲＡＭ（Random Access Memory）などを含んで構成される。メモリ２２は、後述のプロセッサ２６とは別に設けられてもよいし、少なくとも一部がプロセッサ２６の内部に設けられていてもよい。メモリ２２には、結合学習器形成装置１４の各部を動作させるための結合学習器形成プログラムが記憶される。結合学習器形成プログラムは、コンピュータ（本実施形態では結合学習器形成装置１４）が読み取り可能な非一時的な記録媒体に記録されることができる。その場合、結合学習器形成装置１４は、当該記録媒体から結合学習器形成プログラムを読み込んで実行することができる。

【0034】

また、図２に示す通り、メモリ２２には学習器ＤＢ（DataBase）２４が記憶される。学習器ＤＢ２４には、結合学習器形成サービスのユーザによって学習された学習済み学習器が登録される。具体的には、学習器ＤＢ２４には、ユーザを識別するユーザＩＤと、当該ユーザが登録した学習済み学習器とが関連付けられて記憶される。なお、学習済み学習器の実体は、当該学習済み学習器の構造を定義するプログラム、当該学習済み学習器に関する各種パラメータ、及び、入力データに対して処理を行うための処理実行プログラムなどである。したがって、学習器ＤＢ２４に学習済み学習器が記憶されるとは、上記プログラムや各種パラメータが学習器ＤＢ２４に記憶されることを意味する。

【0035】

上述のように、ユーザが結合学習器形成サービスに登録した学習済み学習器は、当該ユーザが管理しているコンピュータに記憶されていてもよい。その場合、学習器ＤＢ２４には、学習済み学習器に代えて、ユーザのコンピュータに記憶された学習済み学習器のアクセス先（例えばＵＲＬ（Uniform Resource Locator））が登録される。当該アクセス先の情報は、ユーザが学習済み学習器を登録する際にユーザから提供される。

【0036】

ユーザは、自由に学習器を形成して学習させることができるため、学習器ＤＢ２４には、様々なアルゴリズムで処理を行う学習済み学習器群が登録され得る。例えば、学習器ＤＢ２４には、ニューラルネットワーク、畳込みニューラルネットワーク、再起型ニューラルネットワーク、サポートベクタマシン、ロジスティック回帰、あるいはランダムフォレストなどのアルゴリズムで処理を行う学習済み学習器群が登録され得る。また、学習器ＤＢ２４には、同じアルゴリズムで処理を行う学習済み学習器であっても、入力データの数（換言すれば入力ベクトルの要素数）が互いに異なる、あるいは、出力データの数（換言すれば出力ベクトルの要素数）が互いに異なる学習済み学習器群が登録され得る。

【0037】

また、学習器ＤＢ２４に登録される学習済み学習器群は、様々な学習方法で学習されたものであってよい。例えば、学習器ＤＢ２４には、教師あり学習、教師なし学習、あるいは強化学習などの種々の方法で学習された学習済み学習器群が登録され得る。また、学習器ＤＢ２４に登録される学習済み学習器のうち、学習データを用いて学習された学習済み学習器は、様々な目的で利用されるように様々な学習データを用いて学習された学習済み学習器であってよい。

【0038】

学習器ＤＢ２４において、ユーザＩＤ及び学習済み学習器（又は学習済み学習器のアクセス先）に対して、さらに、当該学習済み学習器に関する属性情報、又は、当該学習済み学習器を学習させたときの学習データに関する学習データ情報が関連付けられて記憶されるとよい。属性情報及び学習データ情報は、当該学習済み学習器を学習させたユーザから提供されて学習器ＤＢ２４に記憶される。属性情報及び学習データ情報の詳細については後述する。

【0039】

さらに、学習器ＤＢ２４には、ユーザＩＤに関連付けて、当該ユーザの指示に応じて形成された結合学習器が関連付けられて記憶される。

【0040】

プロセッサ２６は、汎用的な処理装置（例えばＣＰＵ（Central Processing Unit）など）、及び、専用の処理装置（例えばＡＳＩＣ（Application Specific Integrated Circuit）、ＦＰＧＡ（Field Programmable Gate Array）、あるいは、プログラマブル論理デバイスなど）の少なくとも１つを含んで構成される。プロセッサ２６としては、１つの処理装置によるものではなく、物理的に離れた位置に存在する複数の処理装置の協働により構成されるものであってもよい。図２に示す通り、プロセッサ２６は、メモリ２２に記憶された結合学習器形成プログラムにより、結合学習器形成部２８、処理実行部３０、表示制御部３２、及び解析部３４としての機能を発揮する。

【0041】

結合学習器形成部２８は、ユーザの指示に応じて、学習器ＤＢ２４に登録された学習済み学習器群から複数の学習済み学習器を選択し、選択した複数の学習済み学習器を組み合わせて結合学習器を形成する。

【0042】

図３は、結合学習器４０の概念図である。ユーザが、ユーザ端末１２から結合学習器形成サービス（つまり結合学習器形成装置１４）にログインし、学習器ＤＢ２４から複数の学習済み学習器を選択し、これらの組み合わせ方を指示することで、結合学習器形成部２８は、選択された複数の学習済み学習器を組み合わせた結合学習器４０を形成する。図３に示された結合学習器４０ａは、ユーザによって学習器１、学習器２、学習器３、学習器４の４つの学習器が選択され、これらが組み合わされて形成されている。なお、結合学習器４０は、同じ学習済み学習器を複数含んでいてもよい。例えば、結合学習器４０ａにおいて学習器１が２つ含まれていてもよい。

【0043】

ここで、ユーザによって選択された複数の学習済み学習器の少なくとも１つは、これらを選択したユーザ以外の他者によって学習された学習済み学習器であってよい。つまり、ユーザは、他者が何らかの目的で学習させた学習済み学習器を利用して、結合学習器４０を形成することができる。また、ユーザによって選択された複数の学習済み学習器は、全て当該ユーザによって学習された学習済み学習器であってもよい。

【0044】

上述ように、学習器ＤＢ２４には、様々なアルゴリズムで処理を行う学習済み学習器群が登録され得る。したがって、結合学習器４０には、互いに異なるアルゴリズムで処理を行う複数の学習済み学習器を含むことができる。例えば、結合学習器４０ａにおいて、学習器１及び２はニューラルネットワークで処理を行うニューラルネットワークモデルであり、学習器３はランダムフォレストで処理を行うランダムフォレストモデルであり、学習器４はガウス回帰により処理を行うガウス回帰モデルであってよい。

【0045】

ユーザは、複数の学習済み学習器の結合方法も自由に選択することができる。具体的には、ユーザが選択した各学習済み学習器が有する各入力及び各出力の接続先をユーザが指定することができる。

【0046】

また、ユーザは、結合学習器４０の入力データ及び出力データの数、各入力データの入力先、並びに、結合学習器４０の各出力データを指示することができる。当該指示に応じて、結合学習器形成部２８は、結合学習器４０の入力データの数及び出力データの数、各入力データの入力先、並びに、結合学習器４０の各出力データを決定する。例えば、図３に示す結合学習器４０ａにおいては、入力データの数が７つ（Ｉ１～Ｉ７で表される）であり、出力データの数が３つ（Ｏ１～Ｏ３で表される）である。また、入力データＩ１～Ｉ４の入力先が学習器１であり、入力データＩ５及びＩ６の入力先が学習器３であり、入力データＩ７の入力先が学習器４である。また、出力データＯ１は学習器１の出力データのうちの１つである出力データｏ１１であり、出力データＯ２～Ｏ３は学習器２の出力データｏ２１及びｏ２２となっている。

【0047】

このように、複数の学習済み学習器を結合して結合学習器４０を形成する、とは、複数の学習済み学習器の各入力及び出力の接続先、結合学習器４０の各入力データの接続先（入力先）、及び、結合学習器４０の各出力データを決定することを意味する。なお、学習済み学習器が複数の入力を有している場合、当該複数の入力の中に、入力データが入力されないものがあると、当該学習済み学習器の出力データがエラーとなってしまう。したがって、結合学習器４０に含まれる各学習済み学習器の全ての入力には、結合学習器４０の入力データ、又は、他の学習済み学習器の出力が接続される必要がある。一方、学習済み学習器が複数の出力を有している場合、当該複数の出力全てが、結合学習器４０の出力データ、又は、他の学習済み学習器の入力に接続される必要はない。すなわち、学習済み学習器の複数の出力データのうち、利用しない出力データがあってもよい。

【0048】

特に、結合学習器形成部２８は、ユーザの指示に応じて、当該ユーザに選択された複数の学習済み学習器の１つである第１学習器の出力データが、直接又は間接的に、当該複数の学習済み学習器の１つであり第１学習器とは異なる第２学習器に入力されるように、第１学習器と第２学習器とが連結された結合学習器４０を形成することができる。例えば、結合学習器４０ａにおいては、第１学習器としての学習器１の出力データｏ１２が、直接、第２学習器としての学習器２の入力データｉ２１として学習器２に入力されるように、学習器１と学習器２とが連結されている。本明細書では、上述のように学習器１と学習器２とを連結することを、「学習器１の後に学習器２を連結する」、あるいは、「学習器２の前に学習器１を連結する」、というように記載する。なお、結合学習器４０ａにおいては、学習器１の後に学習器２が連結されるのみであるが、学習器２の後に、さらに他の学習済み学習器を１又は複数段連結してもよい。

【0049】

また、第１学習器の後に連結された第２学習器が複数の出力データを出力する場合、結合学習器形成部２８は、ユーザの指示に応じて、第２学習器の複数の出力データのうちの一部が第１学習器にフィードバック入力される結合学習器４０を形成することができる。例えば、図４に示す結合学習器４０ｂにおいては、第２学習器としての学習器２が複数の出力データｏ２１，ｏ２２，ｏ２３を出力し、そのうちの出力データｏ２１が第１学習器としての学習器１の入力データｉ１１として学習器１にフィードバック入力されている。なお、フィードバック入力である入力データｉ１１の初期値は適当な値が入力されてよい。また、フィードバック入力を含む結合学習器４０ｂにおいては、フィードバック入力に起因して、入力データＩ１～４を入力してから出力データＯ１，Ｏ２がしばらく安定しない場合がある。その場合は、出力データＯ１，Ｏ２が安定した後の出力データＯ１，Ｏ２を結合学習器４０ｂの出力データとするとよい。

【0050】

また、第２学習器の前に連結された第１学習器が複数の出力データを出力する場合、結合学習器形成部２８は、ユーザの指示に応じて、第１学習器の複数の出力データのうちの一部が直接又は間接的に第２学習器に入力され、第１学習器の複数の出力データのうちの他の一部が結合学習器４０の出力データとすることができる。例えば、図３に示す結合学習器４０ａにおいては、第１学習器としての学習器１が複数の出力データｏ１１及びｏ１２を出力し、そのうちの出力データｏ１２が第２学習器としての学習器２の入力データｉ２１として学習器２に入力され、出力データｏ１１が結合学習器４０ａの出力データＯ１とされている。

【0051】

第１学習器の後に第２学習器を連結する場合、すなわち、第１学習器の出力データを第２学習器に入力する場合、第１学習器の出力データを変換した上で、第２学習器に入力させたい場合がある。例えば、第１学習器の複数の出力データを演算し、その演算結果を第２学習器に入力させたい場合がある。

【0052】

このことに鑑み、結合学習器形成部２８は、ユーザの指示に応じて、第１学習器の出力データを変換する変換モデルであって、変換後の当該出力データが第２学習器に入力されるように第２学習器に連結される変換モデルを含む結合学習器４０を形成することができるとよい。例えば、図５に示す結合学習器４０ｃにおいては、第１学習器としての学習器１の後であって第２学習器としての学習器２の前に変換モデルが連結されている。当該変換モデルは、学習器１の２つの出力データｏ１１及びｏ１２を入力データｉｍ１及びｉｍ２とし、入力データｉｍ１及びｉｍ２を出力データｏｍ１に変換するモデルである。変換モデルの出力データｏｍ１は、学習器２の入力データｉ２１として学習器２に入力される。この場合、学習器１の出力データｏ１１及びｏ１２が、間接的に学習器２に入力されていると言える。

【0053】

変換モデルは、結合学習器形成サービスにおいてユーザが作成可能であってよい。あるいは、結合学習器形成サービスにおいて、いくつかの変換モデルが予め用意されており、ユーザは、その中から所望の変換モデルを選択できるようになっていてもよい。

【0054】

第１学習器の出力データのデータ形式が第２学習器の入力データとして不適切である場合がある。例えば、第１学習器の出力データ数と第２学習器の入力データ数が違う、第１学習器の出力データのスケールと第２学習器の入力データのスケールとが違う、あるいは、第１学習器の出力データが空白（ＮａＮ（Not a Number））を含むが第２学習器がＮａＮの入力を受け付けない（エラーとなる）場合がある。このような場合にも、変換モデルを用いることができる。すなわち、変換モデルは、第１学習器の複数の出力データを所定数のデータに変換する処理、第１学習器の出力データのスケールを変換する処理、あるいは、第１学習器の出力データに含まれるＮａＮを第２学習器が受け付け可能なデータに変換する処理などを行うことができる。

【0055】

上述のように、ユーザの指示に応じて結合学習器形成部２８によって形成された結合学習器４０は、当該ユーザのユーザＩＤに関連付けられて学習器ＤＢ２４に登録される。結合学習器４０を登録しておくことで、ユーザはいつでも当該結合学習器４０を学習器ＤＢ２４から読み出して利用することができる。

【0056】

また、ユーザは、新たな結合学習器４０を構成する学習済み学習器として、過去に形成し学習器ＤＢ２４に登録された結合学習器４０を用いることができる。換言すれば、結合学習器形成部２８は、ユーザが過去に形成し学習器ＤＢ２４に登録した結合学習器４０と、当該ユーザが学習器ＤＢ２４から選択した学習済み学習器とを組み合わせて、新たな結合学習器４０を形成することができる。例えば、図６に示す結合学習器４０ｄにおいては、学習器２の前に結合学習器４０ｂ（図４参照）が連結されている。

【0057】

図２に戻り、処理実行部３０は、結合学習器形成部２８が形成した結合学習器４０を用いた処理を実行する。具体的には、結合学習器４０及びその入力データをユーザが指定すると、処理実行部３０は、当該入力データを結合学習器４０に入力する。例えば、ユーザが図３に示す結合学習器４０ａを指定し、入力データとしてＩ１～Ｉ７を指定したとする。この場合、処理実行部３０は、まず、結合学習器４０ａの構造に従って、指定された入力データＩ１～Ｉ４を学習器１に入力し、入力データＩ５及びＩ６を学習器３に入力し、入力データＩ７を学習器４に入力する。次いで、処理実行部３０は、入力データＩ１～Ｉ４に対する学習器１の出力データｏ１１を結合学習器４０ａの出力データＯ１とし、入力データＩ１～Ｉ４に対する学習器１の出力データｏ１２、入力データＩ５及びＩ６に対する学習器３の出力データｏ３、及び、入力データＩ７に対する学習器４の出力データｏ４を、それぞれ、学習器２の入力データｉ２１，ｉ２２，ｉ２３として学習器２に入力する。最後に、処理実行部３０は、入力データｉ２１，ｉ２２，ｉ２３に対する学習器２の出力データｏ２１及びｏ２２を結合学習器４０ａの出力データＯ２及びＯ３とする。処理実行部３０は、このようにして得られた出力データＯ１～Ｏ３をユーザに提供する。

【0058】

ここで、結合学習器４０に含まれる学習済み学習器が学習器ＤＢ２４に記憶されておらず、当該学習済み学習器を学習させたユーザが管理するコンピュータに記憶されている場合がある。その場合、処理実行部３０は、当該学習済み学習器の入力データを当該コンピュータに送信し、当該コンピュータにおいて、当該学習済み学習器の処理を実行させ。その上で、処理実行部３０は、当該学習済み学習器の出力データを当該コンピュータから受信する。例えば、結合学習器４０ａのうち、学習器１が結合学習器形成装置１４以外のコンピュータに記憶されているとする。この場合、処理実行部３０は、入力データＩ１～Ｉ４を当該コンピュータに送信する。そして、当該コンピュータは、入力データＩ１～Ｉ４に対する学習器１の出力データｏ１１及びｏ１２を得て、出力データｏ１１及びｏ１２を結合学習器形成装置１４に送信する。処理実行部３０は、受信した出力データｏ１１を出力データＯ１とし、出力データｏ２１を学習器２の入力データｉ２１として学習器２に入力する。

【0059】

表示制御部３２は、結合学習器形成サービスが提供する画面をユーザ端末１２のディスプレイに表示させる。特に、表示制御部３２は、ユーザが結合学習器４０をグラフィカルに形成するための画面である結合学習器形成インターフェースをユーザ端末１２のディスプレイに表示させる。

【0060】

図７は、結合学習器形成インターフェース５０の例を示す図である。図７に示された結合学習器形成インターフェース５０は、学習器アイコン表示エリア５２及び結合学習器表示エリア５４を含んで構成されている。表示制御部３２は、学習器アイコン表示エリア５２において、結合学習器４０に組み込むことができる複数の学習済み学習器（つまり、学習器ＤＢ２４に登録されている学習済み学習器群）にそれぞれ対応する学習器アイコン５６を表示させる。なお、学習器ＤＢ２４に過去に形成された結合学習器４０が登録されている場合は、表示制御部３２は、当該結合学習器４０に対応する学習器アイコン５６を表示させることができる。

【0061】

ユーザは、結合学習器形成インターフェース５０に対する操作によって、結合学習器４０の結合構造を決定することができる。換言すれば、結合学習器形成部２８は、結合学習器形成インターフェース５０に対するユーザの操作に応じて、結合学習器４０の結合構造を決定する。例えば、図７に示すように、ユーザは、学習器アイコン表示エリア５２に表示された学習器アイコン５６を結合学習器表示エリア５４にドラッグアンドドロップすることで、当該学習器アイコン５６に対応する学習済み学習器を結合学習器４０に組み込むことができる。

【0062】

また、ユーザの所定の操作に応じて、表示制御部３２は、結合学習器４０の１又は複数の入力データに対応する１又は複数の入力データアイコン５８、及び、結合学習器４０の１又は複数の出力データに対応する１又は複数の出力データアイコン６０を結合学習器表示エリア５４に表示させる。さらに、ユーザの結合学習器表示エリア５４に対する操作に応じて、表示制御部３２は、入力データアイコン５８、学習器アイコン５６の入力若しくは出力、又は、出力データアイコン６０との間を接続するエッジアイコン６２を表示させる。ユーザは、エッジアイコン６２により、入力データアイコン５８、学習器アイコン５６の入力又は出力、並びに、出力データアイコン６０の接続関係を設定することができる。結合学習器表示エリア５４において当該接続関係が見やすいように、表示制御部３２は、ユーザの指示に応じて、入力データアイコン５８、学習器アイコン５６、及び、出力データアイコン６０の表示位置を適宜変更するとよい。

【0063】

結合学習器形成部２８は、結合学習器表示エリア５４において、ユーザによって組み合わされた、学習器アイコン５６、入力データアイコン５８、出力データアイコン６０、及びエッジアイコン６２に基づいて、結合学習器４０を形成する。

【0064】

上述のように、結合学習器４０に含まれる各学習済み学習器の入力には、結合学習器４０の入力データ、又は、他の学習済み学習器の出力が接続される必要がある。したがって、表示制御部３２は、結合学習器表示エリア５４において、結合学習器４０に含まれる学習済み学習器の少なくとも１つの入力に入力データが入力されない場合（入力エラーがある場合）に警告を表示するとよい。

【0065】

図８は、入力エラーに関する警告の表示例を示す図である。図８の例では、「ｍｏｄｅｌ２」と記載された学習器アイコン５６の入力や、「Ｏ１」と記載された出力データアイコン６０には何も接続されていない。したがって、表示制御部３２は、当該学習器アイコン５６の近傍、及び、当該出力データアイコン６０の近傍に警告アイコン６４を表示させている。また、「ｍｏｄｅｌ３」と記載された学習器アイコン５６に対応する学習済み学習器は複数の入力を有しているとする。図８の例では、「ｍｏｄｅｌ３」と記載された学習器アイコン５６には、１つの入力しか接続されていない。したがって、表示制御部３２は、当該学習器アイコン５６の近傍に警告アイコン６４を表示させている。

【0066】

また、表示制御部３２は、ユーザが選択した複数の学習済み学習器それぞれの入力の入力名、及び、ユーザが選択した複数の学習済み学習器それぞれの出力の出力名を入力するための画面である入出力名入力インターフェースをディスプレイに表示させる。

【0067】

図９は、入出力名入力インターフェース６５の例を示す図である。入出力名入力インターフェース６５においては、ユーザが選択した複数の学習済み学習器それぞれの入力名と出力名との一覧が表示されている。入出力名入力インターフェース６５において、ユーザがある学習済み学習器の入力を選択すると、当該入力の入力名を入力することができるようになっている。また、ユーザがある学習済み学習器の出力を選択すると、当該出力の出力名を入力することができるようになっている。学習済み学習器の入力又出力が多い場合には、ユーザはルールを設定して、当該ルールに従って複数の入力の入力名、又は、複数の出力の出力名を一括入力可能であってもよい。

【0068】

入出力名入力インターフェース６５において、ユーザが各学習済み学習器の入力名及び出力名を入力すると、結合学習器形成部２８は、各学習済み学習器の入力名及び出力名に基づいて、複数の学習済み学習器の入力と出力とを接続するようにしてもよい。具体的には、結合学習器形成部２８は、第１学習器の出力の出力名と、第２学習器の入力の入力名とが対応する場合に、第１学習器の当該出力と第２学習器の当該入力とを接続するようにしてもよい。

【0069】

第１学習器の出力の出力名と、第２学習器の入力の入力名とが対応する場合とは、例えば、第１学習器の出力の出力名と、第２学習器の入力の入力名とが同一である場合であるが、これには限られない。例えば、各学習済み学習器の入力名が「ｉ〇〇」で表され、各学習済み学習器の出力名が「ｏ〇〇」で表される場合、「〇〇」が部分が同一である場合に、入力「ｉ〇〇」と出力「ｏ〇〇」とが対応しているとしてもよい。

【0070】

ユーザは、結合学習器４０を形成する際に、結合学習器４０に組み込む学習済み学習器の属性情報を知りたい場合がある。学習済み学習器の属性情報とは、これらに限られるものではないが、例えば、入力データを当該学習済み学習器に入力する前に当該入力データに対して行うべき前処理に関する情報、当該学習済み学習器の開発に利用したプログラム言語、あるいは、当該学習済み学習器の開発に利用したライブラリなどがある。上述のように、これらの属性情報は、当該学習済み学習器を学習させたユーザから提供されて、当該学習済み学習器に関連付けられて学習器ＤＢ２４に記憶されている。

【0071】

したがって、情報提供部としての表示制御部３２は、学習済み学習器の属性情報をユーザに提供するとよい。本実施形態では、表示制御部３２は、結合学習器形成インターフェース５０に属性情報を表示させることで、当該属性情報をユーザに提供する。

【0072】

図１０は、学習済み学習器の属性情報の表示例を示す図である。例えば、マウスカーソルを学習器アイコン５６上に合わせるなどして、ユーザが学習器アイコン５６を選択すると、表示制御部３２は、学習器ＤＢ２４を参照し、選択された学習器アイコン５６に対応する学習済み学習器に関連付けられている属性情報を特定する。その上で、特定した属性情報６６を結合学習器形成インターフェース５０に表示させる。これにより、ユーザは、所望の学習済み学習器の属性情報を容易に把握することができる。

【0073】

また、ユーザは、結合学習器４０を形成する際に、結合学習器４０に組み込む学習済み学習器を学習させたときに用いた学習データに関する学習データ情報を知りたい場合がある。上述のように、学習データ情報も、当該学習済み学習器を学習させたユーザから提供されて、当該学習済み学習器に関連付けられて学習器ＤＢ２４に記憶されている。

【0074】

したがって、情報提供部としての表示制御部３２は、学習済み学習器の学習データ情報をユーザに提供するとよい。本実施形態では、属性情報同様、表示制御部３２は、結合学習器形成インターフェース５０に学習データ情報を表示させることで、当該学習データ情報をユーザに提供する。

【0075】

図１１は、学習済み学習器の学習データ情報の表示例を示す図である。例えば、マウスカーソルを学習器アイコン５６上に合わせるなどして、ユーザが学習器アイコン５６を選択すると、表示制御部３２は、学習器ＤＢ２４を参照し、選択された学習器アイコン５６に対応する学習済み学習器に関連付けられている学習データ情報を特定する。その上で、特定した学習データ情報６８を結合学習器形成インターフェース５０に表示させる。これにより、ユーザは、所望の学習済み学習器の学習データ情報を容易に把握することができる。

【0076】

図２に戻り、解析部３４は、結合学習器形成部２８により形成された結合学習器４０を解析する処理を実行する。学習器の解析内容としては種々の内容があり、中には、学習器の再学習が必要となる解析内容もある。例えば、学習器に入力される複数の入力データのうちの１つの入力データを入力させない場合の当該学習器の出力データを解析する要因分析においては、当該入力データを入力させない環境において当該学習データを再学習させなければならなくなる。結合学習器４０は、ユーザ以外の他者が学習させた学習済み学習器を含み得るものであるから、結合学習器４０を解析する際に、結合学習器４０、すなわちそれに含まれる各学習済み学習器の再学習をユーザが勝手に行うのは適切ではない場合がある。

【0077】

したがって、解析部３４は、結合学習器４０に含まれる各学習済み学習器の学習処理をやり直す必要なく行える、結合学習器に関する解析を行う。結合学習器４０に含まれる各学習済み学習器の学習処理をやり直す必要なく行える解析としては、これらに限られるものではないが、例えば、結合学習器４０の複数の入力データそれぞれについての、結合学習器４０の出力データに与える影響度を分析する感度分析、ユーザにとっての結合学習器４０の最適出力データが得られるような結合学習器の入力データを遺伝的アルゴリズムによって探索する入力最適化処理、あるいは、所定範囲の複数の入力データに基づく結合学習器４０の出力データがとり得る範囲をモンテカルロシミュレーションにより探索する出力範囲探索処理などがある。

【0078】

なお、解析部３４は、結合学習器４０のみならず、学習器ＤＢ２４に登録されている学習済み学習器に対しても上述の解析を行うことができる。

【0079】

以下、解析部３４が行う各解析内容を説明する。ここでは、解析対象の結合学習器４０は、３つの入力データＩ１～Ｉ３が入力されるものであり、２つの出力データＯ１，Ｏ２を出力するものであるとする。

【0080】

まず、感度分析について説明する。感度分析において、まず、解析部３４は、入力データＩ１～Ｉ３のセット（以下「入力データセット」と呼ぶ）を複数用意し、各セットを結合学習器４０に入力したときの出力データＯ１，Ｏ２（以下「出力データセット」と呼ぶ）を取得する。これにより、図１２に示すように、入力データセット７０と出力データセット７２との組み合わせが複数取得される。

【0081】

次いで、解析部３４は、図１３に示すように、入力データセットのうちの１つの入力データ（すなわち入力データＩ１、Ｉ２又はＩ３）の値を微小に変化させた変化入力データセット７４を生成する。ここでは、入力データＩ１を微小に変化させたとする。そして、値を変化させた入力データＩ１を含む変化入力データセット７４を結合学習器４０に入力し、それに対する出力データセットである変化出力データセット７６を取得する。その上で、解析部３４は、入力データを変更させる前の出力データセット７２と、変化出力データセット７６との差分を演算する。具体的には、入力データを変更させる前の出力データセット７２の出力データＯ１と、変化出力データセット７６の出力データＯ１との差分を演算し、出力データセット７２の出力データＯ２と、変化出力データセット７６の出力データＯ２との差分の絶対値（以下、単に「差分の絶対値」と記載する）を演算する。当該差分の絶対値は、入力データＩ１が結合学習器４０の出力データに与える影響度（感度）を示す指標となる。解析部３４は、当該差分の絶対値と入力データＩ１とを関連付けて保持しておく。

【0082】

解析部３４は、上述のような処理を、各入力データセット７０について繰り返す。また、解析部３４は、微小に変化させる入力データを変更して、上述の処理を繰り返す。図１３には、入力データＩ２を微小に変化させたときの変化入力データセット７８と、当該変化入力データセット７８に対する変化出力データセット８０、及び、入力データＩ３を微小に変化させたときの変化入力データセット８２と、当該変化入力データセット８２に対する変化出力データセット８４が示されている。

【0083】

上述の処理によって、各入力データＩ１，Ｉ２，Ｉ３の出力データＯ１，Ｏ２についての差分の絶対値の統計データを得ることができる。本実施形態では、解析部３４は、各入力データＩ１，Ｉ２，Ｉ３それぞれについて、出力データＯ１，Ｏ２毎に、差分の絶対値の合計値を演算する。当該演算結果の例が図１４に示されている。当該演算結果において、値が大きい程、当該入力データが当該出力データに与える影響が大きい、換言すれば感度が大きいと言える。例えば、図１４において、出力データＯ１について見ると、入力データＩ１の差分の絶対値の合計値は「３．１９」となっており、入力データＩ３の差分の絶対値の合計値は「６．３２」となっているから、入力データＩ１よりも入力データＩ３の方が、出力データＯ３に与える影響が大きいと言える。

【0084】

解析部３４は、出力データＯ１，Ｏ２毎に、各入力データＩ１，Ｉ２，Ｉ３についての値の合計が１００となるように、差分の絶対値を正規化するようにしてもよい。正規化された値を寄与度とすることができる。図１５には、正規化により得られた、各入力データＩ１，Ｉ２，Ｉ３の、出力データＯ１，Ｏ２それぞれについての寄与度が示されている。

【0085】

なお、上述の感度分析の例では、解析部３４は、入力データを変更させる前の出力データセット７２と、変化出力データセット７６との差分の絶対値を演算していたが、差分が正の値となる場合と負の値となる場合とに分けて、個別に各入力データの感度を演算するようにしてもよい。

【0086】

次に、入力最適化処理について説明する。本実施形態では、解析部３４は、遺伝的アルゴリズムを用いて、入力最適化処理を実行する。遺伝的アルゴリズムを実行するに先立って、解析部３４は、ユーザが望む結合学習器４０の出力データ（以下「理想出力データ」と記載する）をユーザから取得しておく。なお、入力最適化処理とは、最適な入力データ（すなわち理想出力データを得ることができる入力データ）を探索する処理を意味し、入力最適化処理によって必ずしも最適な入力データが得られるわけではない。

【0087】

図１６は、遺伝的アルゴリズムの処理の流れを示すフローチャートである。まず、解析部３４は、ステップＳ１０において、第１世代の複数の「個体」を生成する。本実施形態では、「個体」は、複数の入力データＩ１，Ｉ２，Ｉ３を含む入力データセットである。個体に含まれる各入力データＩ１，Ｉ２，Ｉ３は「遺伝子」と呼ばれる。個体としての入力データセットはランダムに生成されてよい。すなわち、各入力データセットに含まれる各入力データＩ１，Ｉ２，Ｉ３の値はランダムに設定されてよい。

【0088】

ステップＳ１２において、解析部３４は、第１世代の各個体についての「適用度」を演算する。適用度とは、個体が理想解（本実施形態では理想出力データ）にどの程度近いのかを示す指標である。本実施形態では、個体としての入力データセットを結合学習器４０に入力したときの出力データセットと理想出力データとの差分（より詳しくは、出力データセットの出力データＯ１と理想出力データの出力データＯ１との差分、及び、出力データセットの出力データＯ２と理想出力データの出力データＯ２との差分）が適用度として演算される。

【0089】

ステップＳ１４において、解析部３４は、演算された各個体の適用度に基づいて、第１世代の複数の個体の遺伝子（つまり入力データＩ１，Ｉ２，Ｉ３）を操作する遺伝的操作を実行する。遺伝的操作とは、例えば、適応度に応じて個体を選択する「選択」、複数の個体間で遺伝子を交換する「交叉」、及び、個体の一部の遺伝子を変化させる「突然変異」などがある。このような遺伝的操作により、前世代よりも適用度が高い個体が生成されることが期待される。遺伝的操作された複数の個体は次世代（ここでは第２世代）の複数の個体となる。

【0090】

ステップＳ１６において、解析部３４は、所定の終了条件を満たしたか否かを判定する。終了条件とは、例えば、特定の世代数に達したこと、あるいは、現世代の複数の個体の適応度の平均値が所定値以上となることなどであってよく、ユーザなどによって予め設定される。終了条件を満たしてない場合はステップＳ１２に戻る。再度のステップＳ１２において、解析部３４は、現世代（ここでは第２世代）の各個体の適用度を演算し、再度のステップＳ１４において、解析部３４は、演算された各個体の適用度に基づいて、第２世代の複数の個体に対して遺伝的操作を実行して第３世代の複数の個体を生成する。このようなステップＳ１２及びＳ１４の処理が終了条件を満たすまで繰り返される。

【0091】

ステップＳ１６において終了条件を満たすと判定された場合、ステップＳ１８に進む。ステップＳ１８において、解析部３４は、現世代の複数の個体の中から１又は複数の個体を選択し、これを遺伝的アルゴリズムによる入力最適化処理の結果として出力する。

【0092】

最後に、出力範囲探索処理について説明する。本実施形態では、解析部３４は、モンテカルロシミュレーションにより出力範囲探索処理を実行する。具体的には、まず、解析部３４は、各入力データＩ１，Ｉ２，Ｉ３それぞれの最大値及び最小値の指定をユーザから受け付ける。そして、解析部３４は、ユーザから受けた指定の範囲内で複数の（膨大な数の）入力データセットをランダムに生成し、各入力データセットを結合学習器４０に入力して、各入力データセットに対する出力データセットを取得する。このようにして得られた複数の（膨大な数の）出力データセットに基づいて、解析部３４は出力データＯ１，Ｏ２が取り得る数値の範囲を探索する。

【0093】

表示制御部３２は、解析部３４の解析結果をユーザ端末１２のディスプレイに表示させる。

【0094】

図１７は、感度分析の結果の表示例を示す図である。図１７の例では、感度分析の結果として、各入力データＩ１，Ｉ２，Ｉ３の、出力データＯ１，Ｏ２それぞれについての寄与度（図１５参照）が示されている。

【0095】

図１８は、入力最適化処理の結果の表示例を示す図である。図１８の例では、入力最適化処理の結果として、横軸を出力データＯ１、縦軸を出力データＯ２とし、入力データセットに対応するプロット９０を含むグラフが示されている。図１８の例は、出力データＯ１，Ｏ２がいずれも小さい方が良い場合の入力最適化処理であり、グラフ上において、理想の入力データのプロット９０がとり得る位置が曲線９２で表されている。

【0096】

図１９は、出力範囲探索処理の結果の表示例を示す図である。図１９の例では、出力範囲探索処理の結果として、横軸を出力データＯ１、縦軸を出力データＯ２とし、モンテカルロシミュレーションにより得られた出力データセットを表すプロット９４を含むグラフが示されている。当該グラフには、解析部３４が演算した出力データＯ１，Ｏ２が取り得る範囲を示す枠９６が示されている。

【0097】

以上、本発明に係る実施形態を説明したが、本発明は上記実施形態に限られるものではなく、本発明の趣旨を逸脱しない限りにおいて種々の変更が可能である。

【符号の説明】

【0098】

１０ 結合学習器形成システム、１２ ユーザ端末、１４ 結合学習器形成装置、１６ 通信回線、２０ 通信インターフェース、２２ メモリ、２４ 学習器ＤＢ、２６ プロセッサ、２８ 結合学習器形成部、３０ 処理実行部、３２ 表示制御部、３４ 解析部、４０，４０ａ，４０ｂ，４０ｃ，４０ｄ 結合学習器、５０ 結合学習器形成インターフェース、５２ 学習器アイコン表示エリア、５４ 結合学習器表示エリア、５６ 学習器アイコン、５８ 入力データアイコン、６０ 出力データアイコン、６２ エッジアイコン、６４ 警告アイコン、６５ 入出力名入力インターフェース、６６ 属性情報、６８ 学習データ情報、７０ 入力データセット、７２ 出力データセット、７４，７８，８２ 変化入力データセット、７６，８０，８４ 変化出力データセット、９０，９４ プロット、９２ 曲線、９６ 枠。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】

【図17】

【図18】

【図19】