▶ ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツングの特許一覧
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2022-02-16
(54)【発明の名称】ニューラルネットワークをトレーニングするための方法
(51)【国際特許分類】
G06N 3/08 20060101AFI20220208BHJP
G06N 20/00 20190101ALI20220208BHJP
【ＦＩ】
G06N3/08
G06N20/00 130
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2021535840
(86)(22)【出願日】2019-11-28
(85)【翻訳文提出日】2021-06-18
(86)【国際出願番号】 EP2019082837
(87)【国際公開番号】W WO2020126378
(87)【国際公開日】2020-06-25
(31)【優先権主張番号】102018222347.5
(32)【優先日】2018-12-19
(33)【優先権主張国・地域又は機関】DE
(81)【指定国・地域】
(71)【出願人】
【識別番号】390023711
【氏名又は名称】ローベルト ボツシユ ゲゼルシヤフト ミツト ベシユレンクテル ハフツング
【氏名又は名称原語表記】ＲＯＢＥＲＴ ＢＯＳＣＨ ＧＭＢＨ
【住所又は居所原語表記】Ｓｔｕｔｔｇａｒｔ， Ｇｅｒｍａｎｙ
(74)【代理人】
【識別番号】100114890
【弁理士】
【氏名又は名称】アインゼル・フェリックス＝ラインハルト
(74)【代理人】
【識別番号】100098501
【弁理士】
【氏名又は名称】森田 拓
(74)【代理人】
【識別番号】100116403
【弁理士】
【氏名又は名称】前川 純一
(74)【代理人】
【識別番号】100134315
【弁理士】
【氏名又は名称】永島 秀郎
(74)【代理人】
【識別番号】100135633
【弁理士】
【氏名又は名称】二宮 浩康
(74)【代理人】
【識別番号】100162880
【弁理士】
【氏名又は名称】上島 類
(72)【発明者】
【氏名】フランク シュミット
(72)【発明者】
【氏名】トルステン ザクセ
(57)【要約】
ニューラルネットワーク（６０）をトレーニングするための、コンピュータ実装される方法であって、ニューラルネットワーク（６０）は、特に、物理的な測定変数を分類するように構成されており、ニューラルネットワーク（６０）は、トレーニングデータセット（Ｘ）によってトレーニングされ、トレーニングするために、入力信号（ｘ）と、属する所望の出力信号（ｙＴ）とを含むペアをトレーニングデータセット（Ｘ）から抽出し、ニューラルネットワーク（６０）のパラメータ（θ）の適合化を、入力信号（ｘ）の供給時のニューラルネットワーク（６０）の出力信号（ｙ）に関連して、かつ、所望の出力信号（ｙＴ）に関連して行う。この方法は、ペアのこのような抽出を常にトレーニングデータセット全体（Ｘ）から行うことを特徴とする。
【特許請求の範囲】
【請求項1】
ニューラルネットワーク（６０）をトレーニングするための、コンピュータ実装される方法であって、前記ニューラルネットワーク（６０）は、特に、物理的な測定変数を分類するように構成されており、
前記ニューラルネットワーク（６０）を、トレーニングデータセット（Ｘ）によってトレーニングし、トレーニングするために、入力信号（ｘ）と、属する所望の出力信号（ｙＴ）とを含むペアを前記トレーニングデータセット（Ｘ）から抽出し、
前記ニューラルネットワーク（６０）のパラメータ（θ）の適合化を、前記入力信号（ｘ）の供給時の前記ニューラルネットワーク（６０）の出力信号（ｙ）に関連して、かつ、前記所望の出力信号（ｙＴ）に関連して行う方法において、
ペアの前記抽出を常に前記トレーニングデータセット全体（Ｘ）から行う、
ことを特徴とする方法。
【請求項2】
前記トレーニングの過程において以前にいずれのペアが抽出されたかに関係なく、ペアの前記抽出を行う、請求項１に記載の方法。
【請求項3】
抽出された前記ペアの前記入力信号（ｘ）を拡張関数（αｉ）により拡張する、請求項１又は２に記載の方法。
【請求項4】
前記拡張関数（αｉ）を、前記入力信号（ｘ）に関連する、提供される拡張関数（α）のセットから選択する、請求項３に記載の方法。
【請求項5】
ペアを前記トレーニングデータセット（Ｘ）からランダムに抽出する場合に、設定可能なペアが抽出される確率は、前記設定可能なペアの前記入力信号（ｘ）の提供される拡張関数（α）の数（μ（α））に関連する、請求項４に記載の方法。
【請求項6】
前記パラメータ（θ）の前記適合化を、求められた勾配（ｇ）に関連して行い、前記勾配（ｇ）を求めるために、前記勾配（ｇ）の推定値（ｍ１）を、連続的に増加する、前記トレーニングデータセット（Ｘ）から抽出されるペア（ｘｉ，ｙｉ）の数（ｎ）を考慮することによって、前記勾配（ｇ）の前記推定値（ｍ１）に関連する、設定可能な終了条件が満たされるまで改良する、請求項１乃至５のいずれか一項に記載の方法。
【請求項7】
前記設定可能な終了条件は、前記勾配（ｇ）の前記推定値（ｍ１）の共分散行列（Ｃ）にも関連する、請求項６に記載の方法。
【請求項8】
前記設定可能な終了条件は、設定可能な信頼値（λ）に対する推定値（ｍ１）と共分散行列（Ｃ）とが、条件〈ｍ１，Ｃ－１ｍ１〉≧λ２を満たすか否かの条件を含む、請求項７に記載の方法。
【請求項9】
請求項１乃至８のいずれか一項に記載の方法を実施するように構成されているトレーニングシステム（１４０）。
【請求項10】
センサ（３０）の出力信号（Ｓ）に関連して求められた、前記ニューラルネットワークの入力側に印加される入力信号（ｘ）を分類するための、請求項１乃至８のいずれか一項に記載の方法によってトレーニングされたニューラルネットワーク（６０）の使用。
【請求項11】
前記ニューラルネットワーク（６０）の出力側に印加される、前記ニューラルネットワーク（６０）の出力信号（ｙ）に関連して、アクチュエータ（１０）を駆動制御するための駆動制御信号（Ａ）を提供するための、請求項１乃至８のいずれか一項に記載の方法によってトレーニングされたニューラルネットワーク（６０）の使用。
【請求項12】
前記駆動制御信号（Ａ）に関連してアクチュエータ（１０）が駆動制御される、請求項１１に記載された、請求項１乃至８のいずれか一項に記載の方法によってトレーニングされたニューラルネットワーク（６０）の使用。
【請求項13】
請求項１乃至８又は請求項１０乃至１２のいずれか一項に記載の方法を実施するために構成されているコンピュータプログラム。
【請求項14】
請求項１３に記載のコンピュータプログラムが格納されている機械可読記憶媒体（４６，１４６）。
【請求項15】
第１のフェーズにおいて、前記ニューラルネットワーク（６０）は、請求項１乃至８のいずれか一項に記載の方法によってトレーニングされ、続いて、請求項１０乃至１２のいずれか一項に従って使用される、ニューラルネットワーク（６０）の使用方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ニューラルネットワークをトレーニングするための方法、トレーニングシステム、このようにトレーニングされたニューラルネットワークの使用、コンピュータプログラム及び機械可読記憶媒体に関する。
【背景技術】
【0002】
従来技術
「Ｉｍｐｒｏｖｉｎｇ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ ｂｙ ｐｒｅｖｅｎｔｉｎｇ ｃｏ－ａｄａｐｔａｔｉｏｎ ｏｆ ｆｅａｔｕｒｅ ｄｅｔｅｃｔｏｒｓ」（ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１２０７．０５８０ｖ１， Ｇｅｏｆｆｒｅｙ Ｅ． Ｈｉｎｔｏｎ， Ｎｉｔｉｓｈ Ｓｒｉｖａｓｔａｖａ， Ａｌｅｘ Ｋｒｉｚｈｅｖｓｋｙ， ｌｌｙａ Ｓｕｔｓｋｅｖｅｒ， Ｒｕｓｌａｎ Ｒ． Ｓａｌａｋｈｕｔｄｉｎｏｖ （２０１２））から、トレーニング中に特徴検出器がランダムにスキップされる、ニューラルネットワークをトレーニングするための方法が既知である。ここでは、このような方法は、「ドロップアウト」という名称によっても知られている。
「Ｉｍｐｒｏｖｉｎｇ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ ｂｙ ｐｒｅｖｅｎｔｉｎｇ ｃｏ－ａｄａｐｔａｔｉｏｎ ｏｆ ｆｅａｔｕｒｅ ｄｅｔｅｃｔｏｒｓ」（ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１２０７．０５８０ｖ１， Ｇｅｏｆｆｒｅｙ Ｅ． Ｈｉｎｔｏｎ， Ｎｉｔｉｓｈ Ｓｒｉｖａｓｔａｖａ， Ａｌｅｘ Ｋｒｉｚｈｅｖｓｋｙ， ｌｌｙａ Ｓｕｔｓｋｅｖｅｒ， Ｒｕｓｌａｎ Ｒ． Ｓａｌａｋｈｕｔｄｉｎｏｖ （２０１２））から、トレーニング中に特徴検出器がランダムにスキップされる、ニューラルネットワークをトレーニングするための方法が既知である。ここでは、このような方法は、「ドロップアウト」という名称によっても知られている。
【0003】
「Ｂａｔｃｈ Ｎｏｒｍａｌｉｚａｔｉｏｎ： Ａｃｃｅｌｅｒａｔｉｎｇ Ｄｅｅｐ Ｎｅｔｗｏｒｋ Ｔｒａｉｎｉｎｇ ｂｙ Ｒｅｄｕｃｉｎｇ Ｉｎｔｅｒｎａｌ Ｃｏｖａｒｉａｔｅ Ｓｈｉｆｔ」（ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１５０２．０３１６７ｖ３， Ｓｅｒｇｅｙ ｌｏｆｆｅ， Ｃｈｒｉｓｔｉａｎ Ｓｚｅｇｅｄｙ （２０１５））から、ミニバッチ（英語で「ｍｉｎｉ－ｂａｔｃｈ」）に対する、層への入力変数がトレーニング例によって正規化される、ニューラルネットワークをトレーニングするための方法が既知である。
【先行技術文献】
【非特許文献】
【0004】
【非特許文献1】「Ｉｍｐｒｏｖｉｎｇ ｎｅｕｒａｌ ｎｅｔｗｏｒｋｓ ｂｙ ｐｒｅｖｅｎｔｉｎｇ ｃｏ－ａｄａｐｔａｔｉｏｎ ｏｆ ｆｅａｔｕｒｅ ｄｅｔｅｃｔｏｒｓ」（ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１２０７．０５８０ｖ１， Ｇｅｏｆｆｒｅｙ Ｅ． Ｈｉｎｔｏｎ， Ｎｉｔｉｓｈ Ｓｒｉｖａｓｔａｖａ， Ａｌｅｘ Ｋｒｉｚｈｅｖｓｋｙ， ｌｌｙａ Ｓｕｔｓｋｅｖｅｒ， Ｒｕｓｌａｎ Ｒ． Ｓａｌａｋｈｕｔｄｉｎｏｖ （２０１２））
【非特許文献2】「Ｂａｔｃｈ Ｎｏｒｍａｌｉｚａｔｉｏｎ： Ａｃｃｅｌｅｒａｔｉｎｇ Ｄｅｅｐ Ｎｅｔｗｏｒｋ Ｔｒａｉｎｉｎｇ ｂｙ Ｒｅｄｕｃｉｎｇ Ｉｎｔｅｒｎａｌ Ｃｏｖａｒｉａｔｅ Ｓｈｉｆｔ」（ａｒＸｉｖ ｐｒｅｐｒｉｎｔ ａｒＸｉｖ：１５０２．０３１６７ｖ３， Ｓｅｒｇｅｙ ｌｏｆｆｅ， Ｃｈｒｉｓｔｉａｎ Ｓｚｅｇｅｄｙ （２０１５））
【発明の概要】
【発明が解決しようとする課題】
【0005】
発明の利点
これに対して、独立請求項１の特徴を有する方法は、トレーニングされたシステムの保証可能な信頼性をもたらすという利点を有しており、これは、特に安全性が重要な用途にとって不可欠である。驚くべきことに、このような利点は、トレーニングの終了時に得られる、（例えば画像分類時の）パフォーマンスの低下を受け入れる必要なく、得られる。
これに対して、独立請求項１の特徴を有する方法は、トレーニングされたシステムの保証可能な信頼性をもたらすという利点を有しており、これは、特に安全性が重要な用途にとって不可欠である。驚くべきことに、このような利点は、トレーニングの終了時に得られる、（例えば画像分類時の）パフォーマンスの低下を受け入れる必要なく、得られる。
【0006】
発展形態は、従属請求項に記載されている。
【0007】
発明の開示
十分に多いトレーニングデータを伴って、いわゆる「ディープラーニング」方法、即ち、（ディープ）人工ニューラルネットワークを、入力空間Ｖ０と出力空間Ｖｋとの間のマッピングを効率的に求めるために利用することができる。これは、例えば、センサデータ、特に画像データの分類、即ち、センサデータ又は画像データのクラスへのマッピングであるものとしてよい。これは、ｋ－１個の隠れ空間Ｖ１，…，Ｖｋ－１を提供するアプローチに基づいている。さらに、ｋ回のマッピングｆｉ：Ｖｉ－１→Ｖｉ（ｉ＝１…ｋ）がこれらの空間の間に設定される。これらのマッピングｆｉの各々は、通常、層（英語で「ｌａｙｅｒ」）と称される。そのような層ｆｉは、典型的には、適当に選択された空間Ｗｉによる重みｗｉ∈Ｗｉによってパラメータ化されている。ｋ個の層ｆｉの重みｗ１，…，ｗｋは、まとめて、重みｗ∈Ｗ：＝Ｗ１×…×Ｗｋとも称され、入力空間Ｖ０から出力空間Ｖｋへのマッピングは、ｆｗ：Ｖ０→Ｖｋと称され、これは、個々のマッピングｆｉ（添字として明示的に示される重みｗｉを伴う）から
として得られる。
十分に多いトレーニングデータを伴って、いわゆる「ディープラーニング」方法、即ち、（ディープ）人工ニューラルネットワークを、入力空間Ｖ０と出力空間Ｖｋとの間のマッピングを効率的に求めるために利用することができる。これは、例えば、センサデータ、特に画像データの分類、即ち、センサデータ又は画像データのクラスへのマッピングであるものとしてよい。これは、ｋ－１個の隠れ空間Ｖ１，…，Ｖｋ－１を提供するアプローチに基づいている。さらに、ｋ回のマッピングｆｉ：Ｖｉ－１→Ｖｉ（ｉ＝１…ｋ）がこれらの空間の間に設定される。これらのマッピングｆｉの各々は、通常、層（英語で「ｌａｙｅｒ」）と称される。そのような層ｆｉは、典型的には、適当に選択された空間Ｗｉによる重みｗｉ∈Ｗｉによってパラメータ化されている。ｋ個の層ｆｉの重みｗ１，…，ｗｋは、まとめて、重みｗ∈Ｗ：＝Ｗ１×…×Ｗｋとも称され、入力空間Ｖ０から出力空間Ｖｋへのマッピングは、ｆｗ：Ｖ０→Ｖｋと称され、これは、個々のマッピングｆｉ（添字として明示的に示される重みｗｉを伴う）から
【数1】
【0008】
Ｖ０×Ｖｋに規定される所定の確率分布Ｄを伴う、ニューラルネットワークのトレーニングの課題は、コスト関数Ｌの予期値Φ
が最小化されるように重みｗ∈Ｗを決定することである。ここで、コスト関数Ｌは、関数ｆｗによって求められた、入力変数ｘＤの、出力空間Ｖｋ内の変数ｆｗ（ｘＤ）へのマッピングと出力空間Ｖｋ内の実際の出力変数ｙＤとの間の距離に対する尺度を示す。
【数2】
【0009】
「ディープニューラルネットワーク」は、少なくとも２つの隠れ層（英語で「ｈｉｄｄｅｎ ｌａｙｅｒ」）を有するニューラルネットワークと理解することができる。
【0010】
このような予期値Φを最小化するために、勾配に基づいた方法を使用することができ、これらの方法は、重みｗに関して勾配∇Φを求める。このような勾配∇Φは、通常、トレーニングデータ（ｘｊ，ｙｊ）を使用して、即ち、∇ｗＬ（ｆｗ（ｘｊ，ｙｊ））によって近似化される。ここで、指数ｊは、いわゆるエポックから選択される。エポックは、ここでは、使用可能なトレーニングデータポイントのラベル｛１，…，Ｎ｝の順列である。
【0011】
いわゆるデータ拡張（拡張とも称される）を使用して、トレーニングデータセットを拡張することができる。ここでは、エポックからの各インデックスｊに対して、ペア（ｘｊ，ｙｊ）の代わりに拡張されたペア（ｘａ，ｙｊ）を選択することができ、入力信号ｘｊが、拡張された入力値ｘａ∈α（ｘｊ）によって置き換えられる。ここで、α（ｘｊ）は、入力信号ｘｊの典型的なバリエーションのセット（入力信号ｘｊ自体を含む）であるものとしてよく、これは、入力信号ｘｊの分類、即ち、ニューラルネットワークの出力信号を変化させない。
【0012】
しかし、このようなエポックに基づくサンプリングは、各データポイントがエポックの過程において厳密に１回選択されるので、方程式（１）の規定と完全には一致しない。これに対して、方程式（１）の規定は、独立して抽出されたデータポイントに基づいている。これは、方程式（１）が「戻すこと（Ｚｕｒｕｅｃｋｌｅｇｅｎ）を伴う」データポイントの抽出を前提としているのに対して、エポックに基づくサンプリングは「戻すことを伴わない」データポイントの抽出を実行することを意味している。これによって、収束の数学的証明の前提条件が満たされないことが生じ得る（なぜなら、Ｎ個のデータポイントのセットからＮ個の例を抽出するので、これらのデータポイントの各々を厳密に１回抽出する確率が、
より低くなるからである）。他方で、エポックに基づくサンプリングにおいては、このような確率は、常に１に等しい。
【数3】
【0013】
データ拡張を使用する場合、セットα（ｘｊ）の要素が各エポックに存在しており、拡張関数αに応じて、ｉ≠ｊの場合、α（ｘｊ）≒α（ｘｉ）が排除されることはないので、このような統計的な作用は、さらに高くなり得る。この場合には、セットα（ｘｊ）による拡張の統計的に正しいマッピングは困難である。なぜなら、この作用は、各入力データｘｊに対して等しく現れるはずがないからである。従って、例えば、回転は、円形の物体には作用しないが、一般的な対象物には非常に強く作用することがある。従って、セットα（ｘｊ）の大きさは、入力データｘｊに関連している可能性があり、これは、敵対的学習方法にとって問題になり得る。
【0014】
最後に、トレーニングデータポイントの数Ｎは、通常、設定するために労力がかかる変数である。Ｎの選択が大き過ぎると、トレーニング方法の実行時間が不当に長くなる可能性がある。また、Ｎの選択が小さ過ぎると、収束を保証することができない可能性がある。なぜなら、収束の数学的証明は、全般的に仮定に基づいており、これらの仮定が満たされていないからである。さらに、いずれの時点においてトレーニングが確実に終了されるべきなのかが明確ではない。ここで、データポイントの一部を評価データセットとして採用し、このような評価データセットを使用して収束の質を決定する場合、評価データセットのデータポイントに関して、重みｗの過剰適合（英語で「ｏｖｅｒ－ｆｉｔｔｉｎｇ」）が生じ得る。これは、データ効率を低下させるだけでなく、これがこのトレーニングデータ以外に適用される場合に、ネットワークのパフォーマンスを低下させることがある。これは、いわゆる「一般化可能性」（英語で「ｇｅｎｅｒａｌｉｚａｂｉｌｉｔｙ」）の低下につながる可能性がある。
【0015】
過剰適合を低減させるために、冒頭に挙げた「ドロップアウト」方法を使用して、隠れ層に格納されている情報をランダムに間引くことができる。
【0016】
トレーニングプロセスの無作為化を改善するために、いわゆるバッチ正規化層（英語で「ｂａｔｃｈ ｎｏｒｍａｌｉｚａｔｉｏｎ ｌａｙｅｒ」）を使用して、トレーニングプロセス中に確率的に更新される、いわゆるミニバッチ（英語で「ｍｉｎｉ ｂａｔｃｈ」）を介して、統計パラメータμ及びσを導入することができる。推論の場合、これらのパラメータμ及びσの値は、固定的に設定可能な値として選択され、例えば、指数関数的減衰動作を外挿することによるトレーニングからの推定値として選択される。
【0017】
指数ｉを有する層がバッチ正規化層である場合、属する重みｗｉ＝（μｉ，σｉ）は、勾配降下の際に更新されない。即ち、これらの重みｗｉは、残余の層ｋの重みｗｋとは異なる方法により扱われる。これによって、実装がより複雑になる。
【0018】
さらに、ミニバッチの大きさは、全般的にトレーニング結果に影響を与えるパラメータであるため、例えば（場合によっては労力のかかる）アーキテクチャ検索の枠において、さらなるハイパーパラメータとして可能な限り良好に設定されなければならない。
【課題を解決するための手段】
【0019】
従って、第１の態様においては、本発明は、特に、物理的な測定変数を分類するように構成されているニューラルネットワークをトレーニングするための方法に関する。ここで、ニューラルネットワークは、トレーニングデータセットＸによってトレーニングされ、トレーニングするために、入力信号と、属する所望の出力信号とを含むペアがトレーニングデータセットから（ランダムに）抽出される。ここで、ニューラルネットワークのパラメータの適合化が、入力信号及び所望の出力信号の供給時のニューラルネットワークの出力信号に関連して行われ、ここで、ペアのこのような抽出は、常にトレーニングデータセット全体から行われる。
【0020】
このような態様の有利な発展形態においては、トレーニングの過程において以前にいずれのペアが抽出されたかに関係なく、ペアの抽出が行われることが設定されている。
【0021】
言い換えると、トレーニングデータセットからのペア、即ち、データポイントのサンプリングは、「戻すことを伴う抽出」に相当する。これは、トレーニングデータセットのトレーニング例が「戻すことを伴わない抽出」によって抽出されるという、存在している範例に反する。このような「戻すことを伴う抽出」は、最初は不利に見える場合がある。なぜなら、所定数のトレーニング例内においてトレーニングデータセットからの総てのデータポイントが実際に使用されることを保証し得ないからである。
【0022】
これによって、トレーニングされたシステムの保証可能な信頼性がもたらされ、これは、特に安全性が重要な用途にとって不可欠である。驚くべきことに、このような利点は、トレーニングの終了時に得られる、（例えば画像分類時の）パフォーマンスの低下を受け入れる必要なく、得られる。さらに、ニューラルネットワークをトレーニングすることができるトレーニングシステムの他のサブブロックへのインタフェースが大幅に簡素化される。
【0023】
ここで、抽出されたペアは、任意選択的にさらに拡張されるものとしてよい。即ち、（ペアの構成要素としての）トレーニングデータセットに含まれている入力信号の一部又は全部に対して、入力信号が影響を受け得る拡張関数のセットを提供することができる。対応する拡張関数の選択は、同様にランダムに行われるものとしてよく、有利には、トレーニングの過程において以前にいずれのペア及び／又はいずれの拡張関数が抽出されたのかに無関係に行われるものとしてよい。
【0024】
発展形態においては、抽出されたペアの入力信号が拡張関数αｉにより拡張されることが設定されるものとしてよい。即ち、入力信号が拡張関数の下で自身の画像によって置き換えられる。
【0025】
有利には、この場合には、拡張関数αｉが、可能な拡張関数のセットαから、特にランダムに選択されることが設定されており、ここで、このようなセットは、入力信号に関連する。
【0026】
ここで、ペアがトレーニングデータセットからランダムに抽出される場合に、設定可能なペアが抽出される確率が、このような設定可能なペアの入力信号の可能な拡張関数αの数に関連することが設定されるものとしてよい。
【0027】
例えば、この確率は、設定可能な変数であるものとしてよい。特にこの確率は有利には、可能な拡張関数の数に比例するように選択される。これによって、相当数の拡張関数が入力信号を変更されないままにするため、拡張関数のセットの強大さ（即ち、セットの要素の数）が入力信号間において大きく異なる可能性があることを適切に考慮することができる。この適切な考慮によって、敵対的学習方法により発生する可能性のある問題が回避される。これは、次のように理解される：与えられた入力信号により、敵対的学習方法において、適当な拡張関数によって、敵対的入力信号が生成されるものとしてよく、この敵対的入力信号は、与えられた入力信号との間に、最大距離ｒよりも十分に短い距離を有する。相互の距離が短い（最大距離の半分未満）２つの入力信号が許可されている場合、敵対的入力信号のセットが重複する可能性があり、そのため、この重複が適切に考慮されていない場合、敵対的学習方法が過大評価される可能性がある。前述の方法は、これを解決する。
【0028】
発展形態のさらなる態様においては、パラメータの適合化が求められた勾配に関連して行われ、勾配を求めるために、勾配の推定値ｍ１が、連続的に増加する、トレーニングデータセットから抽出されるペアの数を考慮することによって、勾配の推定値ｍ１に関連する、設定可能な終了条件が満たされるまで改良されることが設定されるものとしてよい。
【0029】
これは、特に、パラメータの適合化が、設定可能な終了条件が満たされた後にはじめて行われることを意味する。
【0030】
これは、例えば、勾配が、設定可能なミニバッチにわたって常に平均化される確率的勾配降下法（英語で「ｓｔｏｃｈａｓｔｉｃ ｇｒａｄｉｅｎｔ ｄｅｓｃｅｎｔ」）等の、従来技術の一般的な方法とは対照的である。このようなミニバッチは、ハイパーパラメータとして設定され得る、設定可能な変数を有している。トレーニングデータセットからペアを連続的に追加することによって、提案された方法においては、勾配が確実に上昇方向を指すまで、この算出を実行し続けることが可能である。
【0031】
さらに、ミニバッチのサイズは、最適化されるべきハイパーパラメータである。このような最適化を省略することができるため、この方法は、より効率的であり、かつ、より信頼性が高い。なぜなら、過剰適合をより効果的に抑制することができ、ハイパーパラメータとしてのバッチサイズが省略されるからである。
【0032】
特に、設定可能な終了条件が、勾配の推定値ｍ１の共分散行列Ｃに関連するものとしてもよい。
【0033】
これによって、特に容易に、勾配が確実に上昇方向を指すことを保証することができる。
【0034】
例えば、設定可能な終了条件は、設定可能な信頼値λに対する推定値ｍ１と共分散行列Ｃとが、条件〈ｍ１，Ｃ－１ｍ１〉≧λ２を満たすか否かの条件を含むものとしてよい。
【0035】
即ち、このような条件によって、確率的な終了基準が導入される。これによって、信頼値λの勾配が上昇方向を指すことを、設定可能な信頼度により保証することも可能になる。
【0036】
発展形態のさらなる態様においては、求められた勾配の成分が、ニューラルネットワークのいずれの層に、このような成分に対応するパラメータが属しているのかに関連してスケーリングされることが設定されるものとしてよい。
【0037】
このような関連においては、「スケーリング」は、求められた勾配の成分が、層に関連する係数により乗算されることと理解され得る。
【0038】
特に、スケーリングを、ニューラルネットワーク内のこのような層の位置、即ち、深さに関連して行うことができる。
【0039】
深さは、例えば、それを通って、ニューラルネットワークの入力層に供給される信号が、最初に入力信号としてこのような層に印加される前に伝播しなければならない層の数によって特徴付けられるものとしてよく、特に与えられるものとしてよい。
【0040】
発展形態においては、求められた勾配の対応する成分が特徴マップのいずれの特徴に属するのかにも関連してスケーリングが行われることが設定されるものとしてよい。
【0041】
特に、スケーリングが、このような特徴の受容野の大きさに関連して行われることが設定されるものとしてよい。
【0042】
特に、畳み込みニューラルネットワークにおいては、特徴マップの重みが、受容野の特徴の情報により累積的に乗算されることが認識されている。そのため、これらの重みに対して過剰適合が発生する可能性がある。これは、提案された方法によって効果的に阻止される。
【0043】
特に単純かつ効率的な代替案においては、このような層の分解能に関連してスケーリングが行われることが設定されるものとしてよい。特に、このような層の分解能と、入力層の分解能との商に関連して、スケーリングが行われる。
【0044】
これによって、受容野の大きさが極めて容易かつ効率的に近似されることが認識された。
【0045】
発展形態のさらなる態様においては、ニューラルネットワークがスケーリング層を含み、スケーリング層が、スケーリング層の入力側に印加される入力信号をスケーリング層の出力側に印加される出力信号にマッピングすることが設定されるものとしてよい。ここで、このようなマッピングは、出力側に印加される出力信号が、入力信号の再スケーリングされた信号であり、この再スケーリングを特徴付けるパラメータは、固定的に設定可能である。
【0046】
有利には、ここで、スケーリング層が、スケーリング層の入力側に印加される入力信号を、スケーリング層の出力側に印加される出力信号にマッピングすることが設定されるものとしてよく、ここで、このようなマッピングは、このようなマッピングが、球への投影に相当するように行われ、この球の中心ｃ及び／又は半径ρは、固定的に設定可能であるものとしてよい。選択的に、このようなパラメータが、トレーニングの過程において、ニューラルネットワークの他のパラメータと同様に適合させられることも可能である。
【0047】
ここで、マッピングは、方程式
によって得られるものとしてよく、これは、第１のノルム（Ｎ１）と第２のノルム（Ｎ２）とを伴う。ここでは、用語「ノルム」は、数学的な意味において理解されるべきである。
【数4】
【0048】
特に効率的に計算される発展形態においては、第１のノルム（Ｎ１）と第２のノルム（Ｎ２）とが等しく選択されていることが設定されるものとしてよい。
【0049】
選択的又は付加的に、第１のノルム（Ｎ１）は、Ｌ∞ノルムであるものとしてよい。このようなノルムは、特に、第１のノルム（Ｎ１）と第２のノルム（Ｎ２）とが等しく選択されていない場合においても、同様に特に効率的に計算される。
【0050】
選択的に、ここで、第１のノルム（Ｎ１）は、Ｌ１ノルムであることが設定されるものとしてよい。第１のノルムのこのような選択は、スケーリング層の出力信号のスパース性（英語で「ｓｐａｒｓｉｔｙ」）を促進する。これは、例えば、ニューラルネットワークの圧縮に有利である。なぜなら、値が０の重みは、自身の層の出力値に寄与しないからである。
【0051】
従って、そのような層を備えたニューラルネットワークを、特に圧縮方法に関連して、特にメモリ効率良く使用することができる。
【0052】
第１のノルム（Ｎ１）に対する、記載された変形において、有利には、第２のノルム（Ｎ２）は、Ｌ２ノルムであることが設定されるものとしてよい。これによって、これらの方法は、特に容易に実現される。
【0053】
特に有利には、ここでは、方程式
が決定論的ニュートン方法によって解かれる。
【数5】
【0054】
即ち、驚くべきことに、スケーリング層の入力側に、多くの重要な、即ち、強く重み付けされる特徴を備えた入力信号が印加される場合、これらの方法が特に効率的であることが判明した。
【0055】
本発明の実施形態を、以下において、添付の図面を参照してより詳細に説明する。
【図面の簡単な説明】
【0056】
【図1】制御システムの実施形態の構造を概略的に示している。
【図2】少なくとも部分的に自律的なロボットを制御するための実施例を概略的に示している。
【図3】製造システムを制御するための実施例を概略的に示している。
【図4】パーソナルアシスタントを制御するための実施例を概略的に示している。
【図5】アクセスシステムを制御するための実施例を概略的に示している。
【図6】監視システムを制御するための実施例を概略的に示している。
【図7】医療用画像化システムを制御するための実施例を概略的に示している。
【図8】トレーニングシステムを概略的に示している。
【図9】ニューラルネットワークの構造を概略的に示している。
【図10】ニューラルネットワーク内の情報の転送を概略的に示している。
【図11】トレーニング方法の実施形態をフローチャートにより示している。
【図12】勾配を推定するための方法の実施形態をフローチャートにより示している。
【図13】勾配を推定するための方法の選択的な実施形態をフローチャートにより示している。
【図14】推定された勾配をスケーリングするための方法の実施形態をフローチャートにより示している。
【図15】ニューラルネットワーク内にスケーリング層を実装するための実施形態をフローチャートにより示している。
【図16】トレーニングされたニューラルネットワークの動作方法をフローチャートにより示している。
【発明を実施するための形態】
【0057】
実施例の説明
図１は、アクチュエータ１０を、制御システム４０と相互作用する自身の周囲２０内において示している。アクチュエータ１０及び周囲２０は、まとめてアクチュエータシステムとも称される。有利な一定の時間間隔で、アクチュエータシステムの状態がセンサ３０によって検出される。この状態が、複数のセンサによって与えられるものとしてもよい。センサ３０のセンサ信号Ｓ（又は、複数のセンサが存在する場合には、各センサ信号Ｓ）が、制御システム４０に伝達される。従って、制御システム４０は、一連のセンサ信号Ｓを受信する。制御システム４０は、ここから、アクチュエータ１０に伝送される駆動制御信号Ａを求める。
図１は、アクチュエータ１０を、制御システム４０と相互作用する自身の周囲２０内において示している。アクチュエータ１０及び周囲２０は、まとめてアクチュエータシステムとも称される。有利な一定の時間間隔で、アクチュエータシステムの状態がセンサ３０によって検出される。この状態が、複数のセンサによって与えられるものとしてもよい。センサ３０のセンサ信号Ｓ（又は、複数のセンサが存在する場合には、各センサ信号Ｓ）が、制御システム４０に伝達される。従って、制御システム４０は、一連のセンサ信号Ｓを受信する。制御システム４０は、ここから、アクチュエータ１０に伝送される駆動制御信号Ａを求める。
【0058】
センサ３０は、周囲２０の状態を検出し、それをセンサ信号Ｓとして伝達する任意のセンサである。例えば、このセンサは、画像化センサ、特に画像センサ若しくはビデオセンサ等の光学センサ、又は、レーダセンサ、又は、超音波センサ、又は、ＬｉＤＡＲセンサであり得る。これはまた、例えば、固体伝搬音又は音声信号を受信する音響センサであるものとしてもよい。同様に、センサは、位置センサ（例えばＧＰＳ等）又は運動学的センサ（例えば単軸加速度センサ又は多軸加速度センサ）であるものとしてよい。周囲２０におけるアクチュエータ１０の配向を特徴付けるセンサ（例えばコンパス）も可能である。周囲２０の化学的な組成を検出するセンサ、例えばラムダセンサも可能である。選択的又は付加的に、センサ３０が情報システムも含むものとしてよい。情報システムは、アクチュエータシステムの状態に関する情報を求める。情報システムは、例えば気象情報システムのように、周囲２０の気象の現在又は将来の状態を求める。
【0059】
制御システム４０は、任意選択的な受信ユニット５０において、センサ３０の一連のセンサ信号Ｓを受信し、受信ユニット５０は、この一連のセンサ信号Ｓを一連の入力信号ｘに変換する（選択的に、各センサ信号Ｓが、直接的に入力信号ｘとして引き受けられるものとしてもよい）。入力信号ｘは、例えば、センサ信号Ｓの一部又はセンサ信号Ｓをさらに処理したものであってよい。入力信号ｘは、例えば、画像データ若しくは画像又はビデオ記録の個々のフレームを含み得る。言い換えれば、入力信号ｘは、センサ信号Ｓに関連して求められる。入力信号ｘは、ニューラルネットワーク６０に供給される。
【0060】
ニューラルネットワーク６０は、有利には、パラメータθによってパラメータ化される。これは、例えば、パラメータメモリＰに格納されていて、ここから提供される重みｗを含む。
【0061】
ニューラルネットワーク６０は、入力信号ｘから出力信号ｙを求める。出力信号ｙは、典型的には、入力信号ｘの分類情報を符号化する。出力信号ｙは、任意選択的な変換ユニット８０に供給される。変換ユニット８０は、ここから駆動制御信号Ａを求める。駆動制御信号Ａは、アクチュエータ１０に供給され、これにより、それに応じてアクチュエータ１０を駆動制御することができる。
【0062】
ニューラルネットワーク６０は、例えば、入力信号において、人物及び／又は道路標識及び／又は信号機及び／又は車両を検出する（即ち、これが存在しているか否かを分類する）ように、及び／又は、その種類を分類するように（これを、領域、特にピクセルごとのセマンティックセグメンテーションの形態において行うことができる）構成されるものとしてよい。
【0063】
アクチュエータ１０は、駆動制御信号Ａを受信し、それに応じて駆動制御され、対応する動作を実行する。アクチュエータ１０は、ここで駆動制御信号Ａから第２の駆動制御信号を求める駆動制御ロジック（これは必ずしも構造的に統合されている必要はない）を含むものとしてよく、第２の駆動制御信号によってアクチュエータ１０が駆動制御される。
【0064】
さらなる実施形態においては、制御システム４０は、センサ３０を含む。他のさらなる実施形態においては、制御システム４０は、選択的に又は付加的に、アクチュエータ１０も含む。
【0065】
さらなる有利な実施形態においては、制御システム４０は、１つ又は複数のプロセッサ４５と、少なくとも１つの機械可読記憶媒体４６とを含み、少なくとも１つの機械可読記憶媒体４６には、プロセッサ４５上において実行されるときに、制御システム４０に、制御システム４０の動作方法を実施させるための命令が格納されている。
【0066】
選択的な実施形態においては、アクチュエータ１０に対して選択的又は付加的に、表示ユニット１０ａが設けられている。
【0067】
図２は、少なくとも部分的に自律的なロボット、ここでは、少なくとも部分的に自動化された自動車１００を制御するために制御システム４０が使用される実施例を示している。
【0068】
センサ３０は、図１に関連して挙げられたセンサの１つであるものとしてよく、有利には、自動車１００内に有利に配置されている１つ又は複数のビデオセンサ、及び／又は、１つ又は複数のレーダセンサ、及び／又は、１つ又は複数の超音波センサ、及び／又は、１つ又は複数のＬｉＤＡＲセンサ、及び／又は、１つ又は複数の位置センサ（例えばＧＰＳ）であるものとしてよい。
【0069】
ニューラルネットワーク６０は、入力データｘから、例えば、少なくとも部分的に自律的なロボットの周囲にある物体を検出することができる。出力信号ｙは、少なくとも部分的に自律的なロボットの周囲のどこに物体が存在しているのかを特徴付ける情報であるものとしてよい。次に、出力信号Ａが、このような情報に関連して、及び／又は、このような情報に対応して求められるものとしてよい。
【0070】
有利には自動車１００内に配置されているアクチュエータ１０は、例えば、自動車１００のブレーキ、駆動装置又はステアリングシステムであるものとしてよい。ここで、例えば、ニューラルネットワーク６０によって識別された物体との衝突を自動車１００が阻止するように、１つ又は複数のアクチュエータ１０が駆動制御されるように駆動制御信号Ａが求められるものとしてよい。これは特に、これが、特定のクラスの物体、例えば歩行者である場合である。言い換えれば、駆動制御信号Ａは、求められたクラスに関連して、及び／又は、求められたクラスに対応に求められるものとしてよい。
【0071】
選択的に、少なくとも部分的に自律的なロボットは、他の移動ロボット（図示せず）であるものとしてよく、これは例えば、飛行、泳ぎ、潜水又は歩行によって移動するロボットである。移動ロボットは、例えば、少なくとも部分的に自律的な芝刈り機又は少なくとも部分的に自律的な掃除ロボットであるものとしてよい。これらの場合においても、駆動制御信号Ａは、次のように求められるものとしてよい。即ち、少なくとも部分的に自律的なロボットが、例えば、ニューラルネットワーク６０によって識別された物体との衝突を阻止するように移動ロボットの駆動装置及び／又はステアリングシステムが駆動制御されるように求められるものとしてよい。
【0072】
さらなる代替案においては、少なくとも部分的に自律的なロボットは、画像化センサ３０及びニューラルネットワーク６０によって、周囲２０の植物の種類又は状態を求める園芸ロボット（図示せず）であるものとしてもよい。この場合には、アクチュエータ１０は、例えば、化学薬品のアプリケータであるものとしてよい。駆動制御信号Ａは、求められた種類又は求められた状態に対応する量の化学物質が適用されるように、求められた種類又は植物の求められた状態に関連して求められるものとしてよい。
【0073】
他のさらなる代替案においては、少なくとも部分的に自律的なロボットは、家電製品（図示せず）であるものとしてよく、特に洗濯機、レンジ、オーブン、電子レンジ又は食器洗い機であるものとしてよい。センサ３０、例えば光学センサによって、家電製品によって扱われる対象物の状態を検出することができ、例えば洗濯機の場合には、洗濯機内にある洗濯物の状態を検出することができる。ここで、このような対象物の種類又は状態が、ニューラルネットワーク６０によって求められ、出力信号ｙによって特徴付けられるものとしてよい。ここで、駆動制御信号Ａは、家電製品が、対象物の求められた種類又は求められた状態に関連して駆動制御されるように求められるものとしてよい。例えば、洗濯機の場合には、洗濯機内にある洗濯物がどのような材料によりできているかに関連して、これが駆動制御されるものとしてよい。この場合には、洗濯物の求められた材料に関連して、駆動制御信号Ａが選択されるものとしてよい。
【0074】
図３は、製造システム２００の製造機械１１を駆動制御するために制御システム４０が使用される実施例を示している。これは、このような製造機械１１を制御するアクチュエータ１０を駆動制御することによって行われる。製造機械１１は、例えば、打ち抜き、鋸引き、穴あけ、及び／又は、切断のための機械であるものとしてよい。
【0075】
センサ３０は、図１に関連して挙げられたセンサの１つであるものとしてよく、有利には、例えば、製造物１２の特性を検出する光学センサであるものとしてよい。製造機械１１を制御するアクチュエータ１０が、製造物１２の求められた特性に関連して駆動制御されるものとしてよく、それによって、製造機械１１が対応して、このような製造物１２の後続の加工ステップを実行する。センサ３０が、製造機械１１によって加工された製造物１２の特性を求め、それに関連して、後続の製造物のために製造機械１１の駆動制御を適合させることも可能である。
【0076】
図４は、パーソナルアシスタント２５０を制御するために制御システム４０が使用される実施例を示している。センサ３０は、図１に関連して挙げられたセンサの１つであるものとしてよい。センサ３０は、有利には、ユーザ２４９の音声信号を受信する音響センサである。選択的又は付加的に、センサ３０は、光信号、例えば、ユーザ２４９のジェスチャのビデオ画像を受け取るように構成されるものとしてもよい。
【0077】
センサ３０の信号に関連して、制御システム４０は、例えば、ニューラルネットワークがジェスチャ識別を実行することによって、パーソナルアシスタント２５０の駆動制御信号Ａを求める。次に、このような求められた駆動制御信号Ａがパーソナルアシスタント２５０に伝達され、従って、パーソナルアシスタント２５０が対応して駆動制御される。求められたこのような駆動制御信号Ａは、特に、これが、ユーザ２４９による、推測される所望の駆動制御に対応するように選択されるものとしてよい。このような推測される所望の駆動制御は、ニューラルネットワーク６０によって識別されたジェスチャに関連して求められるものとしてよい。次に、制御システム４０は、推測される所望の駆動制御に関連して、パーソナルアシスタント２５０に伝達される駆動信号Ａを選択することができ、及び／又は、推測される所望の駆動制御に対応して、パーソナルアシスタント２５０に伝達される駆動制御信号Ａを選択することができる。
【0078】
対応するこのような駆動制御は、例えば、パーソナルアシスタント２５０がデータベースから情報を呼び出し、ユーザ２４９が享受可能なようにこれを再現することを含むものとしてよい。
【0079】
パーソナルアシスタント２５０の代わりに、家電製品（図示せず）、特に洗濯機、レンジ、オーブン、電子レンジ又は食器洗い機が、対応して駆動制御されるように設定されているものとしてもよい。
【0080】
図５は、アクセスシステム３００を制御するために制御システム４０が使用される実施例を示している。アクセスシステム３００は、物理的なアクセスコントロール、例えばドア４０１を含み得る。センサ３０は、図１に関連して挙げられたセンサの１つであるものとしてよく、有利には、顔を検出するように構成されている（例えば、画像データ又はビデオデータを検出するための）光学センサであるものとしてよい。検出されたこのような画像は、ニューラルネットワーク６０によって解釈されるものとしてよい。例えば、人物の同一性を求めることができる。アクチュエータ１０は、錠であるものとしてよく、駆動制御信号Ａに関連して、アクセスコントロールを解除する又は解除しない。例えば、ドア４０１を開放する又は開放しない。このために、駆動制御信号Ａが、ニューラルネットワーク６０の解釈に関連して、例えば、人物の求められた同一性に関連して選択されるものとしてよい。物理的なアクセスコントロールの代わりに、論理的なアクセスコントロールが設けられているものとしてもよい。
【0081】
図６は、監視システム４００を制御するために制御システム４０が使用される実施例を示している。この実施例は、アクチュエータ１０の代わりに、制御システム４０によって駆動制御される表示ユニット１０ａが設けられているという点において、図５に示された実施例とは異なる。例えば、ニューラルネットワーク６０によって、光学センサによって記録された物体が怪しいか否かを求めることができ、次に、この物体が表示ユニット１０ａによって色で強調表示されるように駆動制御信号Ａを選択することができる。
【0082】
図７は、医療用画像化システム５００、例えば、ＭＲＴ装置、Ｘ線装置又は超音波装置を制御するために制御システム４０が使用される実施例を示している。センサ３０は、例えば、画像化センサによって提供されるものとしてよく、表示ユニット１０ａは、制御システム４０によって駆動制御される。例えば、ニューラルネットワーク６０によって、画像化センサによって記録された領域が目立っているか否かを求めることができ、次に、この領域が表示ユニット１０ａによって色で強調表示されるように駆動制御信号Ａを選択することができる。
【0083】
図８は、トレーニング方法によってニューラルネットワーク６０をトレーニングするためのトレーニングシステム１４０の実施例を概略的に示している。トレーニングデータユニット１５０は、ニューラルネットワーク６０に供給される適当な入力信号ｘを求める。例えば、トレーニングデータユニット１５０は、トレーニングデータのセットが格納されているコンピュータ実装されたデータベースにアクセスし、例えば、トレーニングデータのセットから入力信号ｘをランダムに選択する。任意選択的に、トレーニングデータユニット１５０は、評価ユニット１８０に供給される、入力信号ｘに割り当てられた所望の又は「実際の」出力信号ｙＴも求める。
【0084】
人工ニューラルネットワーク６０は、自身に供給された入力信号ｘから、属する出力信号ｙを求めるように構成されている。これらの出力信号ｙは、評価ユニット１８０に供給される。
【0085】
評価ユニット１８０は、例えば、出力信号ｙ及び所望の出力信号ｙＴに関連するコスト関数（英語で「ｃｏｓｔ ｆｕｎｃｔｉｏｎ」）Ｌによって、ニューラルネットワーク６０のパフォーマンスを特徴付けることができる。パラメータθは、コスト関数Ｌに関連して最適化されるものとしてよい。
【0086】
さらなる有利な実施形態においては、トレーニングシステム１４０は、１つ又は複数のプロセッサ１４５と、プロセッサ１４５上において実行されるときに、制御システム１４０にトレーニング方法を実施させるための命令が格納されている少なくとも１つの機械可読記憶媒体１４６とを含む。
【0087】
図９は、例として、実施例においてはニューラルネットワークとして提供されるニューラルネットワーク６０の可能な構造を示している。ニューラルネットワークは、複数の層Ｓ１、Ｓ２、Ｓ３、Ｓ４、Ｓ５を含み、これによって、入力層Ｓ１の入力側に供給される入力信号ｘから、出力層Ｓ５の出力側に加えられる出力信号ｙが求められる。層Ｓ１、Ｓ２、Ｓ３、Ｓ４、Ｓ５の各々は、ここで、各層Ｓ１、Ｓ２、Ｓ３、Ｓ４、Ｓ５の入力側に印加される（場合によっては多次元の）入力信号ｘ、ｚ１、ｚ３、ｚ４、ｚ６から、各層Ｓ１、Ｓ２、Ｓ３、Ｓ４、Ｓ５の出力側に印加される（場合によっては多次元の）出力信号ｚ１、ｚ２、ｚ４、ｚ５、ｙを求めるように構成されている。そのような出力信号は、特に画像処理においては、特徴マップ（英語で「ｆｅａｔｕｒｅ ｍａｐｓ」）とも称される。ここでは、入力信号としてさらなる層に入る総ての出力信号が、それぞれ先行する層から直後の層に入るように、層Ｓ１、Ｓ２、Ｓ３、Ｓ４、Ｓ５が配置されていることは必要不可欠ではない。代わりに、スキップ接続（英語で「Ｓｋｉｐ Ｃｏｎｎｅｃｔｉｏｎｓ」）又は回帰性の接続も可能である。当然、入力信号ｘが複数の層に入ること、又は、ニューラルネットワーク６０の出力信号ｙが複数の層の出力信号から構成されることも可能である。
【0088】
出力層Ｓ５は、例えば、Ａｒｇｍａｘ層（即ち、割り当てられた各入力値を備える複数の入力側から、それらの入力値の中で割り当てられた入力値が最大である入力側の標識を選択する層）によって提供されるものとしてよく、層Ｓ１、Ｓ２、Ｓ３のうちの１つ又は複数は、例えば畳み込み層によって提供されるものとしてよい。
【0089】
有利には、層Ｓ４は、スケーリング層として構成されており、このスケーリング層は、スケーリング層（Ｓ４）の入力側に印加される入力信号（ｘ）が、スケーリング層（Ｓ４）の出力側に印加される出力信号（ｙ）にマッピングされるように構成されている。このマッピングは、出力側に加えられている出力信号（ｙ）が入力信号（ｘ）の再スケーリングであるように行われる。ここで、この再スケーリングを特徴付けるパラメータは、固定的に設定可能である。スケーリング層Ｓ４が実行することができる方法の実施例は、図１５に関連して以下に記載されている。
【0090】
図１０は、ニューラルネットワーク６０内の情報の転送を概略的に示している。ここでは、ニューラルネットワーク６０内の３つの多次元信号、即ち、入力信号ｘ及びその後の特徴マップｚ１、ｚ２が概略的に示されている。実施例においては、入力信号ｘは、
個のピクセルの空間分解能を有しており、第１の特徴マップｚ１は、
個のピクセルの空間分解能力を有しており、第２の特徴マップｚ２は、
個のピクセルの空間分解能力を有している。実施例においては、第２の特徴マップｚ２の分解能は、入力信号ｘの分解能よりも低いが、必ずしもそうではない。
【数6】
【数7】
【数8】
【0091】
さらに、特徴、例えば、第２の特徴マップｚ２のピクセル（ｉ，ｊ）３が示されている。第２の特徴マップｚ２を第１の特徴マップｚ１から求める関数が、例えば、畳み込み層又は全結合層（英語で「ｆｕｌｌｙ ｃｏｎｎｅｃｔｅｄ ｌａｙｅｒ」）によって表される場合、第１の特徴マップｚ１の複数の特徴が、このような特徴（ｉ，ｊ）３の値の算出に関与することも可能である。しかし、当然、第１の特徴マップｚ１の１つの特徴だけがこのような特徴（ｉ，ｊ）３の値の算出に関与することも可能である。
【0092】
ここで、「関与する」とは、有利には、第２の特徴マップｚ２が第１の特徴マップｚ１から求められる関数を特徴付けるパラメータの値と、第１の特徴マップｚ１の値との組合せが、関与する特徴の値に特徴（ｉ，ｊ）３の値が関連するように存在していることと理解することができる。これらの関与する特徴の全体は、図１０においては、領域Ｂｅとして示されている。
【0093】
領域Ｂｅの各特徴（ｉ，ｊ）２の算出に、入力信号ｘの１つ又は複数の特徴が順番に関与する。領域Ｂｅの特徴（ｉ，ｊ）２のうちの少なくとも１つの特徴の算出に関与する、入力信号ｘの総ての特徴のセットは、特徴（ｉ，ｊ）３の受容野ｒＦと称される。言い換えれば、特徴（ｉ，ｊ）３の受容野ｒＦは、特徴（ｉ，ｊ）３の算出に直接的又は間接的に（言い換えれば、少なくとも間接的に）関与する、入力信号ｘの総ての特徴を含む。即ち、それらの値は、特徴（ｉ，ｊ）３の値に影響を与え得る。
【0094】
図１１は、実施形態に即した、ニューラルネットワーク６０をトレーニングするための方法のフローをフローチャートにより示している。
【0095】
はじめに（１０００）、入力信号ｘｉと、各属する出力信号ｙｉとから成るペア（ｘｉ，ｙｉ）を含むトレーニングデータセットＸが提供される。学習率ηは、例えばη＝１で初期化される。
【0096】
さらに、例えば、図１２に示される、方法のこの部分の実施例がステップ１１００において使用される場合、任意選択的に、第１のセットＧ及び第２のセットＮが初期化される。図１３に示される、方法のこの部分の実施例がステップ１１００において使用される場合、第１のセットＧ及び第２のセットＮの初期化を省略することができる。
【0097】
第１のセットＧ及び第２のセットＮの初期化を次のように行うことができる。トレーニング方法の現在のエポックの過程において既に抽出されている、トレーニングデータセットＸのペア（ｘｉ，ｙｉ）を含む第１のセットＧは、空のセットとして初期化される。現在のエポックの過程においてまだ抽出されていない、トレーニングデータセットＸのペア（ｘｉ，ｙｉ）を含む第２のセットＮは、自身に、トレーニングデータセットＸの総てのペア（ｘｉ，ｙｉ）が割り当てられることによって初期化される。
【0098】
ここで（１１００）、パラメータθに関する特性変数Ｌの勾配ｇが、トレーニングデータセットＸの入力信号ｘｉと、各属する出力信号ｙｉとから成るペア（ｘｉ，ｙｉ）によって推定される。即ち、ｇ＝∇θＬである。このような方法の実施例は、図１２及び図１３に関連して記載されている。
【0099】
次に（１２００）、任意選択的に、勾配ｇのスケーリングが実行される。このような方法の実施例は、図１４に関連して記載されている。
【0100】
次に（１３００）、任意選択的に、学習率ηの適合化が実行される。ここで、実行されるエポックの数を、設定可能なエポック数、例えば５によって除算することが可能である限り、学習率ηを、例えば、設定可能な学習率低減ファクタＤη（例えば、Ｄη＝１／１０）だけ低減させることができる（即ち、η←η・Ｄη）。
【0101】
次に（１４００）、パラメータθが求められ、場合によっては、スケーリングされた勾配ｇ及び学習率ηによって更新される。例えば、パラメータθは、θ－η・ｇによって置き換えられる。
【0102】
次に（１５００）、設定可能な収束基準によって、この方法が収束しているか否かがチェックされる。例えば、（例えば、最後の２つのエポックの間の）パラメータθの絶対的な変化に関連して、収束基準が満たされているか否かを判断することができる。例えば、最後の２つのエポック間の総てのパラメータθの変化に関するＬ２ノルムが、設定可能な収束しきい値よりも小さい場合、まさしく収束基準が満たされている可能性がある。
【0103】
収束基準が満たされていると判断された場合、パラメータθが学習されたパラメータとして引き受けられ、この方法は終了する。そうでない場合、ステップ１１００に分岐して戻される。
【0104】
図１２は、ステップ１１００において勾配ｇを求めるための例示的な方法をフローチャートにより示している。
【0105】
最初に（１１１０）、トレーニングデータセットＸのペア（ｘｉ，ｙｉ）の設定可能な数ｂｓが、（戻すことを伴わずに）抽出され、即ち、選択され、バッチＢ（英語で「ｂａｔｃｈ」）に割り当てられるべきである。この設定可能な数ｂｓは、バッチサイズ（英語で「ｂａｔｃｈ ｓｉｚｅ」）とも称される。バッチＢは、空のセットとして初期化される。
【0106】
さらに、バッチサイズｂｓが、第２のセットＮ内に存在しているペア（ｘｉ，ｙｉ）より大きいか否かがチェックされる（１１２０）。
【0107】
バッチサイズｂｓが、第２のセットＮ内に存在しているペア（ｘｉ，ｙｉ）の数より大きくない場合、ｂｓ個のペア（ｘｉ，ｙｉ）が、第２のセットＮからランダムに抽出され（１１３０）、即ち、選択され、バッチＢに追加される。
【0108】
バッチサイズｂｓが、第２のセットＮ内に存在しているペア（ｘｉ，ｙｉ）の数より大きい場合、その数がｓにより示される、第２のセットＮの総てのペアが抽出され（１１４０）、即ち、選択され、バッチＢに追加され、残余のペア、即ち、ｂｓ－ｓ個のペアが、第１のセットＧから抽出され、即ち、選択され、バッチＢに追加される。
【0109】
ステップ（１１３０）又は（１１４０）に続いて（１１５０）、総てのパラメータθに対して、任意選択的に、これらのパラメータθがこのようなトレーニング実行においてスキップされるべきか否かが判断される。このために、例えば、このような層のパラメータθがスキップされる確率が、各層（Ｓ１，Ｓ２，…，Ｓ６）に対して個別に確定される。例えば、このような確率は、第１の層（Ｓ１）に対しては５０％であり、後続の層ごとに１０％ずつ低減されるものとしてよい。
【0110】
次に、このような確定された各確率を使用して、各パラメータθに対して、それがスキップされるか否かが判断されるものとしてよい。
【0111】
バッチＢの各ペア（ｘｉ，ｙｉ）について、ここで（１１５５）、任意選択的に、各入力信号ｘｉが拡張されるか否かが判断される。拡張されるべき、対応する各入力信号ｘｉに対して、拡張関数が有利にはランダムに選択され、入力信号ｘｉに適用される。このように拡張された入力信号ｘｉは、次に、元の入力信号ｘｉに置き換わる。入力信号ｘｉが画像信号である場合、拡張関数が、例えば、設定可能な角度だけの回転によって得られるものとしてよい。
【0112】
次に（１１６０）、バッチＢの各ペア（ｘｉ，ｙｉ）に対して、対応する（かつ、場合によっては拡張された）入力信号ｘｉが選択され、ニューラルネットワーク６０に供給される。ニューラルネットワーク６０のスキップされるべきパラメータθは、ここで、対応する出力信号を求めている間に非活性化される。これは、例えば、これらが一時的に値ゼロに設定されることによって行われる。ニューラルネットワーク６０の対応する出力信号ｙ（ｘｉ）は、対応するペア（ｘｉ，ｙｉ）に割り当てられる。出力信号ｙ（ｘｉ）及び所望の出力信号ｙＴとしてのペア（ｘｉ，ｙｉ）の各出力信号ｙｉに関連して、それぞれコスト関数Ｌｉが求められる。
【0113】
次に（１１６５）、バッチＢの総てのペア（ｘｉ，ｙｉ）に対して共通して、完全なコスト関数Ｌ＝Σｉ∈ＢＬｉが求められ、スキップされるべきではない各パラメータθに対して、勾配ｇの対応する成分が、例えば、誤差逆伝播（英語で「ｂａｃｋｐｒｏｐａｇａｔｉｏｎ」）を用いて求められる。スキップされるべき各パラメータθに対しては、勾配ｇの対応する成分がゼロに設定される。
【0114】
次に、ステップ１０００におけるチェックの際に、バッチサイズｂｓが、第２のセットＮ内に存在しているペア（ｘｉ，ｙｉ）の数より大きいことが確定されたか否かがチェックされる（１１７０）。
【0115】
バッチサイズｂｓが第２のセットＮ内に存在しているペア（ｘｉ，ｙｉ）の数より大きくないことが確定された場合、第１のセットＧにバッチＢの総てのペア（ｘｉ，ｙｉ）が追加され（１１８０）、第２のセットＮから除去される。次に、第２のセットＮが空であるか否かがチェックされる（１１８５）。第２のセットＮが空の場合、新しいエポックが始まる（１１８６）。このために、第１のセットＧは、空のセットとして再初期化され、第２のセットＮは、トレーニングデータセットＸの総てのペア（ｘｉ，ｙｉ）がそれに再び割り当てられることによって再初期化され、ステップ（１２００）へと分岐する。第２のセットＮが空でない場合、ステップ（１２００）へと直接的に分岐させられる。
【0116】
バッチサイズｂｓが、第２のセットＮ内に存在しているペアの数（ｘｉ，ｙｉ）より大きいことが確定された場合、第１のセットＧは、バッチＢの総てのペア（ｘｉ，ｙｉ）がそれに割り当てられることによって再初期化され（１１９０）、第２のセットＮは、トレーニングデータセットＸの総てのペア（ｘｉ，ｙｉ）がそれに割り当てられることによって再初期化され、続いて、バッチＢ内にも存在しているペア（ｘｉ，ｙｉ）が除去される。続いて、新しいエポックが始まり、ステップ（１２００）へと分岐させられる。これで、方法のこの部分は終了する。
【0117】
図１３は、ステップ１１００において勾配ｇを求めるためのさらなる例示的な方法をフローチャートにより示している。最初に、方法のパラメータが初期化される（１１１１）。次に、パラメータθの数学的空間が、Ｗにより表される。パラメータθがまた、ｎｐ個の個別のパラメータを含む場合、この空間Ｗは、ｎｐ次元の空間であり、例えば、
である。反復カウンタｎが値ｎ＝０に初期化され、次に、第１の変数ｍ１が、ｍ１＝０∈Ｗとして（即ち、ｎｐ次元のベクトルとして）設定され、第２の変数が、
として（即ち、ｎｐ×ｎｐ次元の行列として）設定される。
【数9】
【数10】
【0118】
次に（１１２１）、ペア（ｘｉ，ｙｉ）がトレーニングデータセットＸからランダムに選択され、場合によっては拡張される。これは、例えば、トレーニングデータセットＸのペア（ｘｉ，ｙｉ）の各入力信号に対して、可能な拡張α（ｘｉ）の数μ（α（ｘｉ））が求められ、各ペア（ｘｉ，ｙｉ）に、位置変数
が割り当てられるように行われ得る。次に、乱数φ∈［０；１］が均等に分散されて抽出されると、不等式のチェーン
を満たす位置変数ｐｉを選択することができる。次に、属する指数ｉが、選択されたペア（ｘｉ，ｙｉ）を示し、入力変数ｘｉの拡張αｉが、可能な拡張α（ｘｉ）のセットからランダムに抽出され、入力変数ｘｉに適用されるものとしてよい。即ち、選択されたペア（ｘｉ，ｙｉ）は、（αｉ（ｘｉ），ｙｉ）によって置き換えられる。
【数11】
【数12】
【0119】
入力信号ｘｉが、ニューラルネットワーク６０に供給される。対応する出力信号ｙ（ｘｉ）と、所望の出力信号ｙＴとしてのペア（ｘｉ，ｙｉ）の出力信号ｙｉとに関連して、対応するコスト関数Ｌｉが求められる。パラメータθに対して、これに関連する勾配ｄが、例えば誤差逆伝播によって求められ、即ち、ｄ＝∇θＬ（ｙ（ｘｉ），ｙｉ）である。
【0120】
次に（１１３１）、反復カウンタｎ、第１の変数ｍ１及び第２の変数ｍ２が次のように更新される。
【数13】
【0121】
次に（１１４１）、共分散行列Ｃの成分Ｃａ，ｂが
として提供される。
【数14】
【0122】
ここから、（ベクトル値の）第１の変数ｍ１によってスカラ積Ｓが形成される。即ち、
である。
【数15】
【0123】
方程式（８）を用いて、スカラ積Ｓを十分に正確に求めるために、共分散行列Ｃ又は逆行列Ｃ－１の総てのエントリが同時に存在している必要はない。方程式（８）の評価中に、共分散行列Ｃの、次に必要なエントリＣａ，ｂを決定すると、メモリ効率が良好になる。
【0124】
次に、このようなスカラ積Ｓが不等式
を満たすか否かがチェックされる（１１５１）。ここで、λは、信頼水準に相当する、設定可能なしきい値である。
【数16】
【0125】
この不等式が満たされている場合、第１の変数ｍ１の現在の値が、推定された勾配ｇとして引き受けられ、ステップ（１２００）に分岐して戻される。
【0126】
この不等式が満たされない場合、ステップ（１１２１）に分岐して戻されるものとするとよい。選択的に、反復カウンタｎが設定可能な最大反復値ｎｍａｘに到達したか否かをチェックすることもできる（１１７１）。そうでない場合、ステップ（１１２１）に分岐して戻され、他の場合には、ゼロベクトル０∈Ｗが推定された勾配ｇとして引き受けられ（１１８１）、ステップ（１２００）に分岐して戻される。これで、方法のこの部分は終了する。
【0127】
このような方法によって、ｍ１が、抽出されたペア（ｘｉ，ｙｉ）に関する、求められた勾配ｄの算術平均値に相当し、ｍ２が、抽出されたペア（ｘｉ，ｙｉ）に関する、求められた勾配ｄの行列積ｄ・ｄＴの算術平均値に相当することが実現される。
【0128】
図１４は、ステップ（１２００）における、勾配ｇをスケーリングするための方法の実施形態を示している。以下においては、勾配ｇの各成分は、対（ｉ，ｌ）により示され、ここで、ｉ∈｛１，…，ｋ｝は、対応するパラメータθの層を示し、ｌ∈｛１，…，ｄｉｍ（Ｖｉ）｝は、ｉ番目の層内の対応するパラメータθのナンバリングを示す。図１０に示されているように、ニューラルネットワークが、ｉ番目の層における対応する特徴マップｚｉにおける多次元入力データｘの処理のために構成されている場合、ナンバリングｌは、有利には、特徴マップｚｉにおける、対応するパラメータθが関連付けられている特徴の位置によって与えられる。
【0129】
次に（１２２０）、勾配ｇの各成分ｇｉ，ｌに対して、スケーリング係数Ωｉ，ｌが求められる。例えば、このようなスケーリング係数Ωｉ，ｌは、ｉ番目の層の特徴マップのｌの対応する特徴の受容野ｒＦの大きさによって与えられるものとしてよい。スケーリング係数Ωｉ，ｌが、選択的に、入力層に関するｉ番目の層の分解能、即ち、特徴の数の比率によって与えられるものとしてもよい。
【0130】
次に（１２２０）、勾配ｇの各成分ｇｉ，ｌが、スケーリング係数Ωｉ，ｌによってスケーリングされる。即ち、
である。
【数17】
【0131】
スケーリング係数Ωｉ，ｌが、受容野ｒＦの大きさによって与えられる場合、パラメータθの過剰適合が特に効果的に回避される。スケーリング係数Ωｉ，ｌが分解能の比率によって与えられる場合、これは、受容野ｒＦの大きさの、特に効率的な近似的な推定である。
【0132】
図１５は、スケーリング層Ｓ４によって実行される方法の実施形態を示している。
【0133】
スケーリング層Ｓ４は、スケーリング層Ｓ４の入力側に印加される入力信号ｘの、半径ρ及び中心点ｃを有する球への投影を達成するように構成されている。これは、中心点ｃとスケーリング層Ｓ４の出力側に印加される出力信号ｙとの間の距離を測定する第１のノルムＮ１（ｙ－ｃ）、及び、スケーリング層Ｓ４の入力側に印加される入力信号ｘとスケーリング層Ｓ４の出力側に印加される出力信号ｙとの間の距離を測定する第２のノルムＮ２（ｘ－ｙ）によって特徴付けられる。言い換えれば、スケーリング層Ｓ４の出力側に加えられている出力信号ｙは、方程式
を解く。
【数18】
【0134】
図１５ａ）は、第１のノルムＮ１と第２のノルムＮ２とが同一である場合の特に効率的な第１の実施形態を示している。以下においては、これらのノルムは｜｜・｜｜により示される。
【0135】
はじめに（２０００）、スケーリング層Ｓ４の入力側に印加される入力信号ｘ、中心パラメータｃ及び半径パラメータρが提供される。
【0136】
次に（２１００）、スケーリング層Ｓ４の出力側に印加される出力信号ｙが求められる。
【数19】
【0137】
これで、方法のこの部分は終了する。
【0138】
【0139】
図１５ｂ）は、満たされるべき条件（１２）において、第１のノルムＮ１（・）が、最大ノルム｜｜・｜｜∞によって与えられており、第２のノルムＮ２（・）が、２ノルム｜｜・｜｜２によって与えられる第２の実施形態を示している。ノルムのこれらの組合せは、特に効率的に計算される。
【0140】
はじめに（３０００）、ステップ（２０００）と同様に、スケーリング層Ｓ４の入力側に印加される入力信号ｘ、中心パラメータｃ及び半径パラメータρが提供される。
【0141】
次に（３１００）、スケーリング層Ｓ４の出力側に印加される出力信号ｙの成分ｙｉが求められる。
ここで、ｉは、成分を示している。
【数20】
【0142】
この方法は、特に計算効率が高い。これで、方法のこの部分は終了する。
【0143】
図１５ｃ）は、満たされるべき条件（１２）において、第１のノルムＮ１（・）が１ノルム｜｜・｜｜１によって与えられており、第２のノルムＮ２（・）が２ノルム｜｜・｜｜２によって与えられる場合の第３の実施形態を示している。ノルムのこのような組合せによって、スケーリング層Ｓ４の入力側に印加される入力信号ｘにおいて、可能な限り多くの小さい成分が値ゼロに設定される。
【0144】
まずは（４０００）、ステップ（２０００）と同様に、スケーリング層Ｓ４の入力側に印加される入力信号ｘ、中心パラメータｃ及び半径パラメータρが提供される。
【0145】
次に（４１００）、符号変数εｉが求められる。
スケーリング層Ｓ４の入力側に印加される入力信号ｘの成分ｘｉは、
によって置き換えられる。
【数21】
【数22】
【0146】
補助パラメータγは、値ゼロに初期化される。
【0147】
次に（４２００）、セットＮがＮ＝｛ｉ｜ｘｉ＞γ｝として求められ、距離尺度Ｄ＝Σｉ∈Ｎ（ｘｉ－γ）である。
【0148】
次に（４３００）、不等式
か満たれているか否かがチェックされる。
【数23】
【0149】
そうである場合（４４００）、補助パラメータγが、
によって置き換えられ、ステップ（４２００）へと分岐して戻る。
【数24】
【0150】
不等式（１６）が満たされていない場合（４５００）、スケーリング層Ｓ４の出力側に印加される出力信号ｙの成分ｙｉが求められる。
【数25】
【0151】
表記（・）＋は、ここで、通常、
を意味している。
【数26】
【0152】
これで、方法のこのような部分は、終了する。このような方法は、ニュートン方法に相当し、特に、スケーリング層Ｓ４の入力側に印加される入力信号ｘの成分の多くが重要である場合に、特に計算効率が高い。
【0153】
図１６は、ニューラルネットワーク６０の動作方法の実施形態を示している。最初に（５０００）、ニューラルネットワークが、記載された方法のうちの１つによってトレーニングされる。次に（５１００）、制御システム４０が、記載されたように、このようにトレーニングされたニューラルネットワーク６０により動作する。これで、この方法は終了する。
【0154】
ニューラルネットワークは、フィードフォワードニューラルネットワーク（英語で「ｆｅｅｄｆｏｒｗａｒｄ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ」）に限定されるものではなく、本発明は、あらゆる種類のニューラルネットワーク、特に再帰型ニューラルネットワーク、畳み込みニューラルネットワーク（英語で「ｃｏｎｖｏｌｕｔｉｏｎａｌ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ」）、オートエンコーダ、ボルツマンマシン、パーセプトロン又はカプセルネットワーク（英語で「Ｃａｐｓｕｌｅ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ」）に同様に適用され得ることが自明である。
【0155】
用語「コンピュータ」は、設定可能な計算規則を処理するための任意の装置を包含している。このような計算規則は、ソフトウェアの形態においても、又は、ハードウェアの形態においても、又は、ソフトウェアとハードウェアとの混合形態においても、存在し得る。
【0156】
さらに、これらの方法が、記載されているように、完全にソフトウェアによってしか実装されないわけではないことは、自明である。これらの方法は、ハードウェア、又は、ソフトウェアとハードウェアとの混合形態において実装されるものとしてもよい。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15a)】
【図15b)】
【図15c)】
【図16】
【手続補正書】
【提出日】2021-06-18
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
ニューラルネットワーク（６０）をトレーニングするための、コンピュータ実装される方法であって、前記ニューラルネットワーク（６０）は、特に、物理的な測定変数を分類するように構成されており、
前記ニューラルネットワーク（６０）を、トレーニングデータセット（Ｘ）によってトレーニングし、トレーニングするために、入力信号（ｘ）と、属する所望の出力信号（ｙＴ）とを含むペアを前記トレーニングデータセット（Ｘ）から抽出し、
前記ニューラルネットワーク（６０）のパラメータ（θ）の適合化を、前記入力信号（ｘ）の供給時の前記ニューラルネットワーク（６０）の出力信号（ｙ）に関連して、かつ、前記所望の出力信号（ｙＴ）に関連して行い、
ペアの前記抽出を常に前記トレーニングデータセット全体（Ｘ）から行う、方法において、
前記トレーニングの過程において以前にいずれのペアが抽出されたかに関係なく、ペアの前記抽出を行う、
ことを特徴とする方法。
【請求項2】
抽出された前記ペアの前記入力信号（ｘ）を拡張関数（αｉ）により拡張する、請求項１に記載の方法。
【請求項3】
前記拡張関数（αｉ）を、前記入力信号（ｘ）に関連する、提供される拡張関数（α）のセットから選択する、請求項２に記載の方法。
【請求項4】
ペアを前記トレーニングデータセット（Ｘ）からランダムに抽出する場合に、設定可能なペアが抽出される確率は、前記設定可能なペアの前記入力信号（ｘ）の提供される拡張関数（α）の数（μ（α））に関連する、請求項３に記載の方法。
【請求項5】
前記パラメータ（θ）の前記適合化を、求められた勾配（ｇ）に関連して行い、前記勾配（ｇ）を求めるために、前記勾配（ｇ）の推定値（ｍ１）を、連続的に増加する、前記トレーニングデータセット（Ｘ）から抽出されるペア（ｘｉ，ｙｉ）の数（ｎ）を考慮することによって、前記勾配（ｇ）の前記推定値（ｍ１）に関連する、設定可能な終了条件が満たされるまで改良する、請求項４に記載の方法。
【請求項6】
前記設定可能な終了条件は、前記勾配（ｇ）の前記推定値（ｍ１）の共分散行列（Ｃ）にも関連する、請求項５に記載の方法。
【請求項7】
前記設定可能な終了条件は、設定可能な信頼値（λ）に対する推定値（ｍ１）と共分散行列（Ｃ）とが、条件〈ｍ１，Ｃ－１ｍ１〉≧λ２を満たすか否かの条件を含む、請求項６に記載の方法。
【請求項8】
請求項１乃至７のいずれか一項に記載の方法を実施するように構成されているトレーニングシステム（１４０）。
【請求項9】
センサ（３０）の出力信号（Ｓ）に関連して求められた、前記ニューラルネットワークの入力側に印加される入力信号（ｘ）を分類するための、請求項１乃至７のいずれか一項に記載の方法によってトレーニングされたニューラルネットワーク（６０）の使用。
【請求項10】
前記ニューラルネットワーク（６０）の出力側に印加される、前記ニューラルネットワーク（６０）の出力信号（ｙ）に関連して、アクチュエータ（１０）を駆動制御するための駆動制御信号（Ａ）を提供するための、請求項１乃至７のいずれか一項に記載の方法によってトレーニングされたニューラルネットワーク（６０）の使用。
【請求項11】
前記駆動制御信号（Ａ）に関連してアクチュエータ（１０）が駆動制御される、請求項１０に記載された、請求項１乃至７のいずれか一項に記載の方法によってトレーニングされたニューラルネットワーク（６０）の使用。
【請求項12】
コンピュータプログラムであって、コンピュータによる前記プログラムの実行時に、前記コンピュータに、請求項１乃至７又は請求項９乃至１１のいずれか一項に記載の方法を実施させるための命令を含むコンピュータプログラム。
【請求項13】
請求項１２に記載のコンピュータプログラムが格納されている機械可読記憶媒体（４６，１４６）。
【請求項14】
第１のフェーズにおいて、前記ニューラルネットワーク（６０）は、請求項１乃至７のいずれか一項に記載の方法によってトレーニングされ、続いて、請求項９乃至１１のいずれか一項に従って使用される、ニューラルネットワーク（６０）の使用方法。
【手続補正書】
【提出日】2021-06-23
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
ニューラルネットワーク（６０）をトレーニングするための、コンピュータ実装される方法であって、前記ニューラルネットワーク（６０）は、特に、物理的な測定変数を分類するように構成されており、
前記ニューラルネットワーク（６０）を、トレーニングデータセット（Ｘ）によってトレーニングし、トレーニングするために、入力信号（ｘ）と、属する所望の出力信号（ｙＴ）とを含むペアを前記トレーニングデータセット（Ｘ）から抽出し、
前記ニューラルネットワーク（６０）のパラメータ（θ）の適合化を、前記入力信号（ｘ）の供給時の前記ニューラルネットワーク（６０）の出力信号（ｙ）に関連して、かつ、前記所望の出力信号（ｙＴ）に関連して行い、
ペアの前記抽出を常に前記トレーニングデータセット全体（Ｘ）から行う、方法において、
前記トレーニングの過程において以前にいずれのペアが抽出されたかに関係なく、ペアの前記抽出を行う、
ことを特徴とする方法。
【請求項2】
抽出された前記ペアの前記入力信号（ｘ）を拡張関数（αｉ）により拡張する、請求項１に記載の方法。
【請求項3】
前記拡張関数（αｉ）を、前記入力信号（ｘ）に関連する、提供される拡張関数（α）のセットから選択する、請求項２に記載の方法。
【請求項4】
ペアを前記トレーニングデータセット（Ｘ）からランダムに抽出する場合に、設定可能なペアが抽出される確率は、前記設定可能なペアの前記入力信号（ｘ）の提供される拡張関数（α）の数（μ（α））に関連する、請求項３に記載の方法。
【請求項5】
前記パラメータ（θ）の前記適合化を、求められた勾配（ｇ）に関連して行い、前記勾配（ｇ）を求めるために、前記勾配（ｇ）の推定値（ｍ１）を、連続的に増加する、前記トレーニングデータセット（Ｘ）から抽出されるペア（ｘｉ，ｙｉ）の数（ｎ）を考慮することによって、前記勾配（ｇ）の前記推定値（ｍ１）に関連する、設定可能な終了条件が満たされるまで改良する、請求項４に記載の方法。
【請求項6】
前記設定可能な終了条件は、前記勾配（ｇ）の前記推定値（ｍ１）の共分散行列（Ｃ）にも関連する、請求項５に記載の方法。
【請求項7】
前記設定可能な終了条件は、設定可能な信頼値（λ）に対する推定値（ｍ１）と共分散行列（Ｃ）とが、条件〈ｍ１，Ｃ－１ｍ１〉≧λ２を満たすか否かの条件を含む、請求項６に記載の方法。
【請求項8】
請求項１乃至７のいずれか一項に記載の方法を実施するように構成されているトレーニングシステム（１４０）。
【請求項9】
センサ（３０）の出力信号（Ｓ）に関連して求められた、前記ニューラルネットワークの入力側に印加される入力信号（ｘ）を分類するための、請求項１乃至７のいずれか一項に記載の方法によってトレーニングされたニューラルネットワーク（６０）の使用方法。
【請求項10】
前記ニューラルネットワーク（６０）の出力側に印加される、前記ニューラルネットワーク（６０）の出力信号（ｙ）に関連して、アクチュエータ（１０）を駆動制御するための駆動制御信号（Ａ）を提供するための、請求項１乃至７のいずれか一項に記載の方法によってトレーニングされたニューラルネットワーク（６０）の使用方法。
【請求項11】
前記駆動制御信号（Ａ）に関連してアクチュエータ（１０）が駆動制御される、請求項１０に記載された、請求項１乃至７のいずれか一項に記載の方法によってトレーニングされたニューラルネットワーク（６０）の使用方法。
【請求項12】
コンピュータプログラムであって、コンピュータによる前記コンピュータプログラムの実行時に、前記コンピュータに、請求項１乃至７又は請求項９乃至１１のいずれか一項に記載の方法を実施させるための命令を含むコンピュータプログラム。
【請求項13】
請求項１２に記載のコンピュータプログラムが格納されている機械可読記憶媒体（４６，１４６）。
【請求項14】
第１のフェーズにおいて、前記ニューラルネットワーク（６０）は、請求項１乃至７のいずれか一項に記載の方法によってトレーニングされ、続いて、請求項９乃至１１のいずれか一項に記載の方法に従って使用される、ニューラルネットワーク（６０）の使用方法。
【国際調査報告】