(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022190493
(43)【公開日】2022-12-26
(54)【発明の名称】データ予測装置
(51)【国際特許分類】
G06N 3/04 20060101AFI20221219BHJP
G06F 30/15 20200101ALI20221219BHJP
G06F 30/27 20200101ALI20221219BHJP
【FI】
G06N3/04 127
G06F30/15
G06F30/27
【審査請求】未請求
【請求項の数】1
【出願形態】OL
(21)【出願番号】P 2021098844
(22)【出願日】2021-06-14
(71)【出願人】
【識別番号】000003207
【氏名又は名称】トヨタ自動車株式会社
(74)【代理人】
【識別番号】110001519
【氏名又は名称】弁理士法人太陽国際特許事務所
(72)【発明者】
【氏名】中津川 英治
【テーマコード(参考)】
5B146
【Fターム(参考)】
5B146AA05
5B146DC01
5B146DC03
5B146DJ01
(57)【要約】
【課題】CAEモデルに適用可能な連続値を出力可能なデータ予測装置を提供する。
【解決手段】CPU32は、機械学習によって構築され、予測値の算出に必要なパラメータuを、入力された変数xから導出する機械学習モデル部72と、既知の自然法則に基づいて構築され、変数x及び変数xに近似的に対応するパラメータuに基づいて変数xの変化に対応した予測値yを連続値として算出する物理モデル部74と、を含む。
【選択図】
図2
【特許請求の範囲】
【請求項1】
機械学習によって構築され、予測値の算出に必要な媒介変数を、入力された独立変数から導出する機械学習モデル部と、
既知の自然法則に基づいて構築され、前記独立変数及び前記独立変数に近似的に対応する前記媒介変数に基づいて前記独立変数の変化に対応した予測値を連続値として算出する物理モデル部と、
を含むデータ予測装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、時系列データにおける将来値を予測するデータ予測装置に関する。
【背景技術】
【0002】
製品開発において、機械学習モデルを用いて製品の性能予測を行うことが広く行われている。
【0003】
特許文献1には、機械学習モデルを用いて、時系列データにおける未来の値を高精度に予測する装置、方法およびコンピュータプログラムに係る発明が開示されている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1に記載の発明は、機械学習モデルによって入力値xから直接応答yを予測する。しかしながら、
図13に示したように、機械学習モデルであるAIモデル190の出力をCAE(Computer-Aided Engineering)モデル192に直接適用すると、AIモデル190の出力が離散的な不連続値であるのに対し、CAEモデル192の出力が連続値であった場合に、AIモデル190とCAEモデル192との間の入出力に不整合が生じ、計算精度の悪化、又は計算結果の発散が生じるおそれがあった。
【0006】
本発明は、上記事実を考慮し、CAEモデルに適用可能な連続値を出力可能なデータ予測装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
請求項1に記載のデータ予測装置は、機械学習によって構築され、予測値の算出に必要な媒介変数を、入力された独立変数から導出する機械学習モデル部と、既知の自然法則に基づいて構築され、前記独立変数及び前記独立変数に近似的に対応する前記媒介変数に基づいて前記独立変数の変化に対応した予測値を連続値として算出する物理モデル部と、を含む。
【0008】
請求項1に記載のデータ予測装置は、機械学習モデル部が出力する媒介変数が不連続値である場合、独立変数の変化に対して媒介変数が急激に変化しないものとみなし、独立変数に近似的に対応する媒介変数を採用して連続値である予測値を算出する。独立変数の変化に対して媒介変数が急激に変化しないのであれば、独立変数に近似的に対応する媒介変数を採用して導出し予測値に生じる誤差は無視できる。
【発明の効果】
【0009】
以上説明したように、本発明に係るデータ予測装置によれば、CAEモデルに適用可能な連続値を出力可能なデータ予測装置を提供することが可能となる。
【図面の簡単な説明】
【0010】
【
図1】本実施形態に係るデータ予測装置の具体的な構成の一例を示すブロック図である。
【
図2】データ予測装置のCPUの機能ブロック図を示す。
【
図3】本実施形態に係るデータ予測装置の論理的な構成を示した説明図である。
【
図4】本実施形態に係るハイブリッドAIモデルの出力値と、
図13に示したAIモデルの出力値とを比較した説明図である。
【
図5】本実施形態に係るハイブリッドAIモデルの入出力を示した概略図である。
【
図6】エンジンマウントを想定したハイブリッドAIモデルの入出力を示した概略図である。
【
図7】エンジンマウントを想定したハイブリッドAIモデルの構成と損失関数とを示した説明図である。
【
図8】(A)は、ハイブリッドAIモデルの中間層の出力であるばね剛性の予測値と実測値とを比較した概略図であり、(B)は、ハイブリッドAIモデルの中間層の出力である減衰係数の予測値と実測値とを比較した概略図である。
【
図9】ハイブリッドAIモデルの出力層の出力である荷重の予測値と実測値とを比較した概略図である。
【
図10】車両の各所に用いられるゴムブッシュを想定したハイブリッドAIモデルの入出力を示した概略図である。
【
図11】車両システムを想定したハイブリッドAIモデルの入出力を示した概略図である。
【
図12】EV及びハイブリッド車両システムの機関を想定したハイブリッドAIモデルの入出力を示した概略図である。
【
図13】AIモデルと、CAEモデルとの連携の一例を示した概略図である。
【発明を実施するための形態】
【0011】
以下、
図1を用いて、本実施形態に係るデータ予測装置について説明する。
図1は、本発明の実施形態に係るデータ予測装置10の具体的な構成の一例を示すブロック図である。
【0012】
データ予測装置10は、コンピュータ30を含んで構成されている。コンピュータ30は、CPU32、ROM34、RAM36、及び入出力ポート38を備える。一例としてコンピュータ30は、エンジニアリングワークステーション、又はスーパーコンピュータ等の、高度な演算処理を高速で実行できる機種であることが望ましい。
【0013】
コンピュータ30では、CPU32、ROM34、RAM36、及び入出力ポート38がアドレスバス、データバス、及び制御バス等の各種バスを介して互いに接続されている。入出力ポート38には、各種の入出力機器として、ディスプレイ40、マウス42、キーボード44、ハードディスク(HDD)46、及び各種ディスク(例えば、CD-ROMやDVD等)48から情報の読み出しを行うディスクドライブ50が各々接続されている。
【0014】
また、入出力ポート38には、ネットワーク52が接続されており、ネットワーク52に接続された各種機器と情報の授受が可能とされている。本実施形態では、ネットワーク52には、データベース(DB)54が接続されたデータサーバ56が接続されており、DB54に対して情報の授受が可能とされている。
【0015】
DB54には、データ予測に係るデータ等が予め記憶される。DB54への情報の記憶は、コンピュータ30やデータサーバ56によって登録してもよいし、ネットワーク52に接続された他の機器によって登録するようにしてもよい。
【0016】
本実施形態では、データサーバ56に接続されたDB54に、データ予測に係るデータ等が記憶されるものとして説明するが、コンピュータ30に内蔵されたHDD46や外付けのハードディスク等の外部記憶装置にDB54の情報を記憶するようにしてもよい。
【0017】
コンピュータ30のHDD46には、データ予測のためのデータ予測プログラムがインストールされている。本実施形態では、CPU32がデータ予測プログラムを実行することにより、データ予測を実行する。また、CPU32は、データ予測プログラムによる処理結果をディスプレイ40に表示させる。なお、本実施形態のデータ予測プログラムをコンピュータ30にインストールするには、幾つかの方法があるが、例えば、データ予測プログラムをセットアッププログラムと共にCD-ROMやDVD等に記憶しておき、ディスクドライブ50にディスクをセットし、CPU32に対してセットアッププログラムを実行することによりHDD46にデータ予測プログラムをインストールする。または、公衆電話回線又はネットワーク52を介してコンピュータ30と接続される他の情報処理機器と通信することで、HDD46にデータ予測プログラムをインストールするようにしてもよい。
【0018】
図2は、データ予測装置10のCPU32の機能ブロック図を示す。データ予測装置10のCPU32がデータ予測プログラムを実行することで実現される各種機能について説明する。データ予測プログラムは、機械学習により各種パラメータ(媒介変数)を予測する機械学習モデル機能、機械学習モデル機能が出力した各種パラメータに基づいて予測値を出力する既知の自然法則に基づいて構築される物理モデル機能と、物理モデル機能の出力に基づいて、製品の性能予測値等を出力するCAEモデル機能とを備えている。後述するように、機械学習モデル機能は、データ予測プログラムのインストール後に回帰ニューラルネットワーク(RNN)に基づくモデルを適切な教師データによって学習させる機械学習によって構築される。CPU32がこの各機能を有するデータ予測プログラムを実行することで、CPU32は、
図2に示すように、機械学習モデル部72、物理モデル部74、及びCAEモデル部76として機能する。
【0019】
データ予測では、性能に係る変数xと当該変数の応答出力yとの間のモデルを定義するが、設計対象における強度、剛性、重量軽減、及び振動の抑制等の複数種類の各々異なる変数xが存在し、場合によっては互いに相反する性能の各々を最適化し得ることを要する場合がある。変数xの次元が大きくなると探索すべき空間が指数関数的に増大し、その結果、計算コストが膨大となる問題がある。本実施形態では、計算上の寄与が少ない次元を棄却する次元圧縮を用いることにより、計算コストの指数関数的な増大を抑制してもよい。
【0020】
図3は、本実施形態に係るデータ予測装置10の論理的な構成を示した説明図である。本実施形態では、既知の自然法則に基づいた物理モデル94の状態量又はパラメータを、機械学習モデル92を用いて入力された変数から導出し、物理モデル94ではパラメータに基づいて予測値を導出して出力する。機械学習モデル92の出力が不連続値であっても、物理モデル94を介することにより予測値は連続値となり、入出力が連続値であることを求められるようなCAEモデル96を後段に設けることが可能となる。本実施形態では、機械学習モデル92と物理モデル94とからなる構成をハイブリッドAIモデル90と称する。
【0021】
図4は、本実施形態に係るハイブリッドAIモデル90の出力値110と、
図13に示したAIモデル190の出力値112とを比較した説明図である。
図4に示したように、機械学習モデルのみからなるAIモデル190の出力値112は不連続値なので、階段状に変化するが、ハイブリッドAIモデル90の出力値110は連続値なので、円滑な曲線状に変化する。
【0022】
図5は、本実施形態に係るハイブリッドAIモデル90の入出力を示した概略図である。
図5に示したように、ハイブリッドAIモデル90は、独立変数である変数xが機械学習モデル92と、物理モデル94との各々に入力され、機械学習モデル92において変数xからパラメータuを導出し、導出したパラメータuは物理モデル94に入力される。物理モデル94では、変数xとパラメータuとにより、変数xの変化に対応した予測値である出力yが導出される。
【0023】
機械学習モデルは、例えば、RNNに基づくモデルを適切な教師データによって学習させる機械学習によって構築され、変数xからパラメータuを導出可能な関数u=fNN(x)として機能する。
【0024】
物理モデル94は、後述するように、エンジンマウント等の弾性体の挙動、車両システムの性能、及び車両システムの駆動部の温度等を導出するように既知の自然法則に基づいて構築されたモデルである。例えば、エンジンマウント等の弾性体は、荷重に比例して変形するという金属ばねのような線形的な挙動ではなく、荷重に比例して変形しない非線形的な挙動を示す。具体的には、金属ばねでは、ばね剛性Kが荷重によらず一定である線形的な挙動を示す領域が存在するが、ゴム等の弾性体では、ばね剛性Kは荷重とは別に動的に変化し、線形的な挙動を示さない。
【0025】
機械学習モデル92は、変数xに応じて動的に変化するばね剛性Kのようなパラメータuを導出し、物理モデル94は、機械学習モデル92が導出したパラメータuと、変数xとに基づいて出力yを導出可能な関数y=fphysics(x,u)として機能する。
【0026】
機械学習モデル92が出力するパラメータuが不連続値であっても、例えば、パラメータuがばね剛性Kの場合、変数xに対してばね剛性Kが急激に変化する場合は考えにくいので、物理モデル94に入力された変数xに近似的に対応するパラメータuを用いて出力yを導出しても、yの導出の際に生じる誤差は無視できる。
【0027】
変数xに近似的に対応するパラメータuは、一例として、物理モデル94に入力された変数xに最も近い変数xから導出されたパラメータuである。
【0028】
図6は、エンジンマウントを想定したハイブリッドAIモデル90Aの入出力を示した概略図である。非線形的な特性を有する弾性体で構成されたエンジンマウントは、ばね剛性Kで定義されるばねの特性と、減衰係数Cで定義されるダンパーの特性とを備え、ばね剛性K(x)及び減衰係数C(x)の各々は、変数xに応じて動的に変化する。機械学習モデル92Aは、変位(エンジンマウントの変形量)、速度(エンジンマウントの変形速度)からなる変数xから、ばね剛性K(x)及び減衰係数C(x)の各々をパラメータuとして導出し、物理モデル94Aに出力する。
【0029】
物理モデル94Aは、変位と速度とを変数xとし、ばね剛性K(x)と変数xとの積でばねの特性を表し、減衰係数C(x)と変数xの時間微分との積でダンパーの特性を表している。その結果、物理モデル94Aは、下記の式(1)で表され、荷重yを導出する。
【0030】
【0031】
図7は、エンジンマウントを想定したハイブリッドAIモデル90Aの構成と損失関数とを示した説明図である。
図7において、損失関数lossは、中間層誤差MSE
uと、出力層誤差MSE
fとの和で示される。
【0032】
中間層誤差MSEuは、一例として、機械学習モデル92Aが導出したばね剛性Kd及び減衰係数Cの各々のパラメータuのRMSE(二乗平均平方根誤差)の和であり、出力層誤差MSEfは、物理モデル94Aで導出した荷重yのRMSEである。
【0033】
図8(A)は、ハイブリッドAIモデル90Aの中間層の出力であるばね剛性K
dの予測値と実測値とを比較した概略図であり、
図8(B)は、ハイブリッドAIモデル90Aの中間層の出力である減衰係数Cの予測値と実測値とを比較した概略図である。
図8(A)及び図(B)に示したように、ばね剛性K
dと減衰係数Cとの各々は、予測値が実測値にほぼ一致し、ハイブリッドAIモデル90Aの機械学習モデル92Aは、ばね剛性K
d及び減衰係数Cの各々を精度よく予測できている。
【0034】
図9は、ハイブリッドAIモデル90Aの出力層の出力である荷重yの予測値と実測値とを比較した概略図である。
図9に示したように、荷重yは、予測値が実測値にほぼ一致し、機械学習モデル92Aと物理モデル94AとからなるハイブリッドAIモデル90Aは、エンジンマウントの荷重yを精度よく予測できている。
【0035】
図10は、車両の各所に用いられるゴムブッシュを想定したハイブリッドAIモデル90Bの入出力を示した概略図である。
図10に示した物理モデル94Bは、非線形的な特性を有する弾性体であるゴムで構成された複数のゴムブッシュの挙動を導出する改良Simo(Single-Input Multiple-Output)モデルである。
【0036】
物理モデル94Bは、例えば、γ0、γ1、γ2、γ3、…、γNの複数のゴムブッシュを想定する。ゴムブッシュγ0は、超弾性係数C10、C20、C30によって定義されるばねの特性を備え、ゴムブッシュγ1、γ2、γ3、…、γNの各々は、ばね剛性A1、A2、A3、…、ANで定義されるばねの特性と、減衰係数n1、n2、n3、…nNで定義されるダンパーの特性とを備えている。
【0037】
非線形的な特性を有するゴムブッシュは、変数xに応じて動的に変化するので、ハイブリッドAIモデル90Bでは、機械学習モデル92Bにより、超弾性係数C10、C20、C30と、ばね剛性A1、A2、A3、…、ANと、減衰係数n1、n2、n3、…nNの各々をパラメータuとして導出し、物理モデル94Bに出力する。物理モデル94Bは、変位(ゴムブッシュの変形量)及び速度(ゴムブッシュの変形速度)を変数xとし、変数xと、超弾性係数C10、C20、C30と、ばね剛性A1、A2、A3、…、ANと、減衰係数n1、n2、n3、…nNとに基づいて荷重yを導出する。
【0038】
図11は、車両システムを想定したハイブリッドAIモデル90Cの入出力を示した概略図である。ハイブリッドAIモデル90Cは、アクセル操作(例えばアクセル開度)及びブレーキ操作(例えばブレーキペダルの踏力)の各々を変数xとし、車両加速度yを出力する。
【0039】
ハイブリッドAIモデル90Cの物理モデル94Cは、下記の式(2)、(3)によって表される。sは物理モデル94Cにおける状態変数であり、A、b、cの各々は、ハイブリッドAIモデル90Cの機械学習モデル92Cで導出される状態空間マトリックスである。式(2)、(3)において、状態空間マトリックスは、A(x)、b(x)、c(x)と表したように、変数xに応じて変化する。機械学習モデル92Cは、変数xに応じて変化する状態空間マトリックスA、b、cの各々をパラメータuとして、変数xから導出可能な関数u=fNN(x)として機能する。
【0040】
物理モデル94Cは、変数xと、機械学習モデル92Cで導出した状態空間マトリックスA、bとで定義される下記の式(2)で示した非斉次な線形微分方程式によって状態変数sを導出すると共に、算出した状態変数sと、変数xと、機械学習モデル92Cで導出した状態空間マトリックスcとによって車両加速度yを導出して出力する。
【0041】
【0042】
図12は、EV(電動輸送機器)及びハイブリッド車両システムの機関を想定したハイブリッドAIモデル90Dの入出力を示した概略図である。ハイブリッドAIモデル90Dは、回路基板又はモータの温度であるサーミスタ温度(x
1)、自動変速機油の温度であるATF温度(x
2)、エンジンの冷却水温度(x
3)、前述のモータの回転子を構成する永久磁石の回転数である磁石回転数、及びエンジンの回転数であるエンジン回転数の各々を変数xとし、前述のモータの回転子を構成する永久磁石の温度である磁石温度yを出力する。
【0043】
ハイブリッドAIモデル90Dの物理モデル94Dは、下記の式(4)によって表される。u1、u2、u3の各々は変数xに対する重み付けとなる偏回帰係数であり、eは誤差である。式(4)中において、偏回帰係数及び誤差は、u1(x)、u2(x)、u3(x)、e(x)と表したように、変数xに応じて変化する。機械学習モデル92Dは、変数xに応じて変化する偏回帰係数u1、u2、u3の各々及び誤差eをパラメータuとして、変数xから各々導出可能な関数u=fNN(x)として機能する。
【0044】
物理モデル94Dは、変数xと、機械学習モデル92Dで導出した偏回帰係数u1、u2、u3の各々と、誤差eとによって磁石温度yを導出して出力する。
【0045】
【0046】
以上説明したように、本実施形態は、機械学習モデル92が出力するパラメータuが不連続値である場合、変数xの変化に対してパラメータuが急激に変化しないものとみなし、変数xに近似的に対応するuを採用して連続値である出力yを導出する。変数xの変化に対してパラメータuが急激に変化しないのであれば、変数xに近似的に対応するuを採用して導出した出力yに生じる誤差は無視でき、その結果、CAEモデルに適用可能な連続値を出力可能なデータ予測装置を提供することができる。
【0047】
なお、本実施形態でCPUがソフトウェア(プログラム)を読み込んで実行した処理を、CPU以外の各種のプロセッサが実行してもよい。この場合のプロセッサとしては、FPGA(Field-Programmable Gate Array)等の製造後に回路構成を変更可能なPLD(Programmable Logic Device)、及びASIC(Application Specific Integrated Circuit)等の特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路等が例示される。また、処理を、これらの各種のプロセッサのうちの1つで実行してもよいし、同種又は異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGA、及びCPUとFPGAとの組み合わせ等)で実行してもよい。また、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子等の回路素子を組み合わせた電気回路である。
【0048】
また、本実施形態では、プログラムがディスクドライブ50等に予め記憶(インストール)されている態様を説明したが、これに限定されない。プログラムは、CD-ROM(Compact Disk Read Only Memory)、DVD-ROM(Digital Versatile Disk Read Only Memory)、及びUSB(Universal Serial Bus)メモリ等の非一時的(non-transitory)記憶媒体に記憶された形態で提供されてもよい。また、プログラムは、ネットワークを介して外部装置からダウンロードされる形態としてもよい。
【0049】
(付記項1)
メモリと、
前記メモリに接続された少なくとも1つのプロセッサと、
を含み、
前記プロセッサは、
機械学習によるモデル構築後、入力された独立変数から予測値の算出に必要な媒介変数を導出し、
既知の自然法則に基づいたモデル構築後、前記独立変数と、前記独立変数に近似的に対応する前記媒介変数とに基づいて前記独立変数の変化に対応した予測値を連続値として算出する、
ように構成されているデータ予測装置。
【符号の説明】
【0050】
10 データ予測装置
30 コンピュータ
32 CPU
34 ROM
36 RAM
38 入出力ポート
46 HDD
72 機械学習モデル部
74 物理モデル部
90、90A、90B、90C、90D ハイブリッドAIモデル
92、92A、92B、92C、92D 機械学習モデル
94、94A、94B、94C、94D 物理モデル