(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2024-12-06
(54)【発明の名称】予測「sequence to sequence」モデルを介した製造装置制御
(51)【国際特許分類】
G05B 13/04 20060101AFI20241129BHJP
G06N 3/0455 20230101ALI20241129BHJP
G06N 3/08 20230101ALI20241129BHJP
【FI】
G05B13/04
G06N3/0455
G06N3/08
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2024547169
(86)(22)【出願日】2022-10-14
(85)【翻訳文提出日】2024-06-13
(86)【国際出願番号】 US2022046756
(87)【国際公開番号】W WO2023064582
(87)【国際公開日】2023-04-20
(32)【優先日】2021-10-15
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】524145645
【氏名又は名称】ライブライン テクノロジーズ インク
(74)【代理人】
【識別番号】100114258
【氏名又は名称】福地 武雄
(72)【発明者】
【氏名】カウチ,クリストファー エドワード
(72)【発明者】
【氏名】バーテンショー,ジョン
(72)【発明者】
【氏名】ヘルナンデス,ジョセフ
【テーマコード(参考)】
5H004
【Fターム(参考)】
5H004GA01
5H004GA05
5H004GB15
5H004HA01
5H004HA03
5H004HA14
5H004HA16
5H004HB01
5H004HB03
5H004HB14
5H004KC22
5H004KC24
5H004KC27
5H004KC33
5H004KD31
5H004KD62
(57)【要約】
一つ以上のプロセッサは、製造システムの制御パラメータおよび外因性パラメータの値を測定し、ならびに、前記製造システムによって製造される部品の機能パラメータの値を測定するセンサの時系列データから、製造システムの状態空間の進化を記述する特徴集合を生成する。前記一つ以上のプロセッサは、また、前記特徴集合から前記特徴パラメータの少なくとも一つの予測値を生成し、前記特徴集合および前記予測値に従って前記制御パラメータの少なくとも一つを変更し、前記予測値を目標値に向けて駆動する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
製造システムであって、
一つ以上のプロセッサが、
前記製造システムの制御パラメータおよび外因性パラメータの値を測定し、ならびに、前記製造システムによって製造される部品の機能パラメータの値を測定するセンサの時系列データから、周波数または時間領域における前記製造システムの状態空間の進化を記述する特徴集合を生成し、
前記特徴集合から、前記製造システムの「sequence to sequence」モデルを介して、前記機能パラメータの少なくとも一つの予測値を生成し、
制御剤を介して、前記特徴集合および前記予測値に従って前記制御パラメータの少なくとも一つを変更し、前記予測値を目標値に向けて駆動するようにプログラムされていることを含む、製造システム。
【請求項2】
前記一つ以上のプロセッサは、さらに、前記製造システムの過去の特徴集合に対して前記「sequence to sequence」モデルを訓練するようにプログラムされていることを特徴とする請求項1記載の製造システム。
【請求項3】
前記一つ以上のプロセッサは、さらに、過去の特徴集合と前記「sequence to sequence」モデルからの対応する予測値に対して前記制御剤を訓練するようにプログラムされていることを特徴とする請求項1記載の製造システム。
【請求項4】
前記「sequence to sequence」モデルは、エンコーダ・デコーダモデルであることを特徴とする請求項1記載の製造システム。
【請求項5】
前記エンコーダ・デコーダモデルは、長・短期記憶モデルを含むことを特徴とする、請求項4記載の製造システム。
【請求項6】
方法であって、
製造システムの制御パラメータおよび外因性パラメータの値を測定し、ならびに、前記製造システムによって製造される部品の機能パラメータの値を測定するセンサの時系列データから、周波数または時間領域における製造システムの状態空間の進化を記述する特徴集合を生成することと、
前記特徴集合から、前記製造システムの「sequence to sequence」モデルを介して、前記機能パラメータの少なくとも一つの予測値を生成することと、
制御剤を介して、前記特徴集合および前記予測値に従って前記制御パラメータの少なくとも一つを変更し、前記予測値を目標値に向けて駆動することとを含む、方法。
【請求項7】
さらに、前記製造システムの過去の特徴集合に対して前記「sequence to sequence」モデルを訓練することを含む、請求項6記載の方法。
【請求項8】
さらに、過去の特徴集合と前記「sequence to sequence」モデルからの対応する予測値に対して前記制御剤を訓練することを含む、請求項6記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、製造装置の制御に関する。
[関連出願の相互参照]
本出願は、2021年10月15日に出願された米国仮出願第63/256,344号の利益を主張するものであり、その開示は、参照によりその全体が本明細書に援用される。
【背景技術】
【0002】
製造制御システムは、入力信号に応答し、制御対象の装置を特定の方法で動作させる出力信号を生成することがある。
【発明の概要】
【発明が解決しようとする課題】
【0003】
製造システムは、製造システムの制御パラメータおよび外因性パラメータの値を測定し、ならびに、製造システムによって製造される部品の機能パラメータの値を測定するセンサの時系列データから、周波数または時間領域における製造システムの状態空間の進化を記述する特徴集合を生成する一つ以上のプロセッサを含む。この一つ以上のプロセッサは、さらに、特徴集合から、製造システムの「sequence to sequence」モデルを介して、機能パラメータの少なくとも一つの予測値を生成し、制御剤を介して、特徴集合および予測値に従って制御パラメータの少なくとも一つを変更し、予測値を目標値に向けて駆動する。
【0004】
方法は、製造システムの制御パラメータおよび外因性パラメータの値を測定し、ならびに、製造システムによって製造される部品の機能パラメータの値を測定するセンサの時系列データから、周波数または時間領域における製造システムの状態空間の進化を記述する特徴集合を生成することを含む。この方法はまた、特徴集合から、製造システムの「sequence to sequence」モデルを介して、機能パラメータの少なくとも一つの予測値を生成することと、制御剤を介して、特徴集合および予測値に従って制御パラメータの少なくとも一つを変更し、予測値を目標値に向けて駆動することとを含む。
【図面の簡単な説明】
【0005】
【発明を実施するための形態】
【0006】
ここでは、実施形態について説明する。しかしながら、開示される実施形態は単に例示であり、他の実施形態はさまざまな代替形態を取り得ることを理解されるべきである。図は必ずしも縮尺通りではない。いくつかの特徴は、特定の構成要素の詳細を示すために誇張または最小化され得る。したがって、ここに開示される特定の構造的および機能的な詳細は、限定的なものとして解釈されるものではなく、単に当業者に教示するための代表的な根拠として解釈されるものである。
【0007】
いずれか一つの実施例を参照して図示または説明したさまざまな特徴を、一つ以上の他の実施例に図示または説明した特徴と組み合わせて、明示的に図示または説明されていない実施形態を作り出すことができる。図示された特徴の組み合わせは、典型的な用途のための代表的な実施形態を提供する。しかしながら、本開示の教示と一致する特徴のさまざまな組み合わせおよび変更形態が、特定の用途または実装形態に対して所望され得る。
【0008】
「sequence to sequence」モデル、特にリカレントニューラルネットワークは、典型的には、機械翻訳、質問応答、テキスト要約などの自然言語処理において使用される。ここでは、剛性、厚み、長さなどのより一貫した測定可能な特性を有する製品を製造することを目的として、これらの測定可能な特性の値に影響を与える無数の製造条件(例えば、温度、圧力、電流量など)が時間と共に変化する状況下で、「sequencetosequence」の枠組みが製造制御の問題に適用される。
【0009】
大量生産に使用される機械は、結果的に製造された部品の測定可能な特性に影響を与える制御パラメータを有することが多い。簡単な例を示すと、スタンピングマシンは、金属を所望の形状に成形するために、一定量の圧力を一定時間加えることがある。このため、同じ所望の形状を繰り返し製造するスタンピングマシンの能力は、この圧力と時間に依存する。これらの制御パラメータの値が時間と共に変化すると、1時間早く作られた部品は、1時間遅く作られた部品と僅かに異なる形状を有することがあり、結果的に、部品間の一貫性が低下する。
【0010】
この例では、実際に加えられる圧力は、所与の圧力設定に対してスタンピングマシンに供給される電力の関数であることがある。したがって、供給される電力の変動は、圧力設定が変化しなくても、加えられる圧力の変動につながることがある。したがって、供給される電力の変動は、その間に時間のずれはあるものの、部品形状の変動と連動することがある。すなわち、スタンピングマシンに関連する処理時間を考慮すると、時刻ゼロにおける供給される電力の変化は、時刻42秒における所望の形状からの逸脱として発現する可能性がある。もし供給される電力の急激な変化が部品形状に与える影響を予測することが可能であれば、そのような変化を相殺するために圧力設定を戦略的に変更することができる。具体的には、電力の減少が予想される場合は、それに応じて圧力設定を上げることができる。電力の増加が予想される場合は、それに応じて圧力設定を下げることがことができる、などである。
【0011】
統計的工程制御などの統計技術は、より無駄を少なくし、より仕様に適合した製品を製造することを目的として、製造工程を監視し、制御するために一般的に使用されている。複雑な製造工程においては、これらの技術の有効性には限界があることがある。大量生産に使用される機械には、結果的に製造された部品の測定可能な特性に影響を与える制御パラメータ(および外因性パラメータ)が、数千とまではいかなくても、数百はある可能性があり、その数は数十(例えば、20)になりうる。制御パラメータや外因性パラメータの変化が部品の測定可能な特性に与える影響を予測する能力は、このように、複雑な試みとなる。
【0012】
上述のように、自然言語処理に一般的に使用される機械学習技術は、多数のパラメータに対する瞬時の変化が部品の測定可能な特性に与えうる影響を予測するタスクに良く適していることが発見されている。これらの予測は、入力(外因性を含む)パラメータが変化しても、より一貫した部品の成果を生むように工程を制御するための帰還として使用することができる。
【0013】
大雑把に言えば、リカレントニューラルネットワークは内部メモリを介して入力を記憶するため、周囲条件、製造装置への制御入力、製造装置により製造される部品の測定可能な特性を示す時系列データなどの、連続したデータを扱うことができる。この内部メモリにより、リカレントニューラルネットワークは、受信した入力に関する情報を追跡し、次に何が起こるかを予測することができる。すなわち、リカレントニューラルネットワークは、直前の過去を現在に追加する。このように、リカレントニューラルネットワークは、現在と最近の過去の二つの入力を有する。現在と最近の過去の入力には重みが適用される。これらの重みは、勾配降下法や誤差逆伝播法のために調整されることがある。さらに、入力から出力へのマッピングは一対一である必要はない。
【0014】
長・短期記憶ネットワークは、リカレントニューラルネットワークを拡張したものである。長・短期記憶により、リカレントニューラルネットワークは、読み出し、書き込み、削除が可能な、所謂メモリに、より長い期間にわたって入力を記憶することができる。このメモリは、情報に割り当てられた重要度に基づき、情報を記憶するか削除するかを決定することができる。ある情報の重要性は、長・短期記憶によって時間をかけて学習されうる。典型的な長・短期記憶は、シグモイド入力、忘却、出力ゲートを有する。これらは、新たな入力を受け入れるか、削除するか、あるいは新たな入力が現在のタイムステップ出力に影響を与えることを許可するかを決定する。
【0015】
「sequence to sequence」モデルは、リカレントニューラルネットワークを使用して構築することができる。一般的な「sequence to sequence」構造はエンコーダ・デコーダ構造であり、エンコーダとデコーダの二つの主要部分を有する。エンコーダとデコーダはそれぞれ、例えば、長・短期記憶モデルとすることができる。変圧器モデルのような、他のそのようなモデルも考えられる。エンコーダは入力シーケンスを読み出し、情報を内部状態または文脈ベクトルに要約する。エンコーダの出力は破棄され、内部状態は保存され、デコーダが正確な予測を行うのに役立つ。
【0016】
デコーダの初期状態はエンコーダの最終状態に初期化される。すなわち、エンコーダの最終セルの内部状態ベクトルがデコーダの最初のセルに入力される。初期状態で、デコーダは出力シーケンスの生成を開始しうる。
【0017】
上記および類似の概念は、製造において使用されるよう適合されている。長・短期エンコーダ・デコーダモデル、変圧器(例えば、変圧器からの双方向エンコーダ表現、予め訓練された生成変圧器3sなど)、または他のモデルは、周囲条件および製造動作を記述する時系列データを解釈し、対応する部品特性を予測するよう訓練された「sequence to sequence」モデルの基礎を形成しうる。時系列データは、実際の制御パラメータ値(例えば、電流、機械回転毎分、機械圧力、機械温度など)および外因性パラメータ値(例えば、周囲温度、湿度など)、予め定義された期間にわたるこれらの値の変化、およびその他の関連データを含み、さまざまなデジタル信号処理技術(例えば、フーリエ解析、ウェーブレット解析など)を用いて予め処理され、周波数および/または時間領域における製造装置の状態空間の進化を記述する特徴集合(全ての可能な構成の集合)を生成することがある。所与の用途に対し、デジタル信号処理技術の特定の集合は、シミュレーション、試行錯誤などを含む標準的な方法論を使用して決定することができる。
【0018】
図1を参照すると、製造システム10は、製造された部品14(例えば、管、パネルなど)を物理的または仮想的に製造する(例えば、組み立てる、作成する、など)製造装置12(例えば、押出機、プレス機など)を含むことができる。製造システム10はまた、一つ以上の周囲条件(外因性)センサ16、電流センサ18(例えば、モータ駆動電流センサなど)、電圧センサ20(例えば、内部温度センサなど)、一つ以上の追加センサ22(例えば、 コンベア速度センサ、パーセント比例・積分・微分出力センサなど)、一つ以上の特性センサ24(例えば、差圧センサ、部品寸法センサ、材料速度センサなど)、データベース26(例えば、関係データベース、時系列データベースなど)を含むことができる。周囲条件センサ16は、製造装置12の近傍の一つ以上の周囲条件(例えば、湿度、温度など)を測定する。電流および電圧センサ18、20は、製造装置12に供給される電流と電圧を測定する。追加センサ22は、製造装置12の他の制御パラメータを測定する。特性センサ24は、製造された部品14のさまざまな特徴パラメータ(例えば、長さ、剛性、厚みなど)を測定する。
【0019】
これらの検出値は、データベース26に順次報告されうる。すなわち、時刻t0において、センサ16、18、20、22、24の各々がその値を検出しデータベース26に報告し、時刻t1において、センサ16、18、20、22、24の各々がその値を検出してデータベース26に報告する、などである。こうして、データベース26は、製造装置12の動作に関連する周囲条件および制御パラメータ値、ならびに製造装置12によって製造された、製造された部品14に関連する特徴パラメータ値を記述する時系列データを受信する。このような配置は、学習目的のために膨大な量のデータを収集するために使用することができる。
【0020】
製造装置12に関連する製造工程の進化を記述する関連状態空間にまたがるストリーミング特徴集合を生成するために、データベース26に保持された時系列データに対するさまざまな変換(例えば、データクレンジング、帯域通過フィルタリング、畳み込み演算、主成分分析、ウェーブレット変換など)を実行できる。一例では、データクレンジングには、時系列データが欠損や質の悪い記入を有しないようにするための、バックフィリング、フォワードフィリング、および/またはヌル値の除去が含まれる。データクレンジングの後、特徴の数を最小化しながら有用な情報の量を最大化するために主成分分析を行うことができる。元のデータ集合が全て同一の応答情報を持つ圧力、温度、駆動電力を含む場合、例えば、温度および駆動電力の値が無視されながら圧力値が変換の継続と工程の訓練のために使用されるように、主成分分析は応答情報を維持したままデータ集合を小型化する。他の変換動作をさらに実行してもよいが、する必要はない。他の変換工程をさらに実行してもよいが、する必要はない。どの時点においても、組み合わされた変換データは、製造システム10に関する状態情報の最大量を表す。関連状態空間は、モデルの訓練と評価の間に繰り返し識別することができる。
【0021】
図2を参照すると、一つ以上のプロセッサ28は、データベース26からのストリーミング特徴集合の少なくとも一部に訓練された長・短期エンコーダ・デコーダモデル30(または他の適切なモデル)を実装することができる。例えば、一つの機械を別の機械に連結させるリカレントニューラルネットワークは、モデルの重みの変化あたりのモデルの損失関数(例えば、二乗誤差損失など)の変化を表す勾配がゼロに漸近するまで、モデルの重みを繰り返す。リカレントニューラルネットワークの重みは、ランダムにシードすることができる。このモデルは、特定の製造ラインに存在する特徴の数および製造ラインの動的挙動の複雑さに応じて、さまざまな深さと幅を有することができる。モデルの例としては、二百五十六個のメモリユニットを持つ二つの層を有しうる。適応モーメント推定(Adam)最適化装置は、可変学習率を持ちて勾配降下法を実行するために使用することができる。Adamaxのような他の最適化装置も考えられる。
【0022】
センサ16、18、20、22の検出された周囲条件および制御パラメータ値と、特性センサ24の結果的に検出された特徴パラメータ値との間の関係を認識するために、例えば、ストリーミング特徴集合の60分、600分、または6000分などを使用して、長・短期エンコーダ・デコーダモデル30を訓練することができる。適切に訓練されると、モデル30は、ストリーミング特徴集合から製造された部品14の将来の特徴パラメータ値を予測することができる。
【0023】
図1および3を参照すると、一つ以上のプロセッサ28は、モデル30およびデータベース26からのストリーミング特徴集合に対して訓練された制御剤32をさらに実装することができる。制御剤32の訓練前に、モデル30(または他のソース)は、制御剤32に、モデル30によってシミュレートされ得る製造装置12の制御限界を通知することができる。制御限界には、例えば、プレス機の動作圧力範囲(300psiから500psi)、乾燥炉の動作温度範囲(50℃から80℃)などが含まれうる。さらに、制御剤32は、製造された部品14の目標特徴パラメータ値(例えば、目標長さ=3cm、目標剛性=5N/mなど)を受信することができる。制御剤32の訓練中、モデル30および制御剤32はそれぞれ、製造運転中にセンサ16、18、20、22、24からの帰還をシミュレートするために、データベース26からストリーミング特徴集合の同一部分を同期して受信することができる。これにより、モデル30は、シミュレートされた製造された部品の予測特徴パラメータ値を生成し、それらを制御剤32に報告することが可能になる。制御剤32は、その後、制御限界以内で制御設定を変更するために、モデル30に制御動作を指示することができる。最初の繰り返しにおいて、モデル30によってシミュレートされたプレス機の動作圧力が310psiであり、モデル30によってシミュレートされた乾燥炉の動作温度が62℃であると仮定すると、制御剤32は、一方をいくらかの量増加させ、他方をいくらかの量減少させ、そのような変化が目標特徴パラメータ値に対するモデル30からの予測特徴パラメータ値にどのような影響を与えるかを学習することができる。変化量は、任意であってもよいし、所定の規則に従ってもよい。制御剤32は、このような繰り返しを数百万回とはいかなくても数千回、比較的短時間で実行し、センサ16、18、20、22、24からの値が変化するにつれて、予測特徴パラメータ値、ひいては実際の特徴パラメータ値を目標特徴パラメータ値またはその近傍に維持するために、製造装置12の制御設定をどのように変更することができるかについて自ら訓練することができる。
【0024】
図4を参照すると、制御剤32が適切に訓練されると(例えば、予測および目標特徴パラメータ値との間の誤差が、5%などのいくつかの所定の範囲内にある)、製造装置12に関連する製造工程の進化を記述する関連状態空間にまたがるライブストリーミング特徴集合を生成するために、一つ以上のプロセッサ28は、センサ16、18、20、22、24によって出力されたライブデータを受信し、上述のさまざまな変換(例えば、データクレンジングおよび主成分分析)を使用してデータを前処理するように、製造システム10内に配置され得る。上記と同様に、今訓練された制御剤32は、次に、ライブストリーミング特徴集合および対応する予測特徴パラメータ値に基づいて、予測特徴パラメータ値、ひいては実際の特徴パラメータ値を目標特徴パラメータ値またはその近傍に維持するために、制御限界以内で制御設定を変更する制御動作を製造装置12に指示することができる。
【0025】
ここに開示されるアルゴリズム、方法、または工程は、コンピュータ、制御器、もしくは処理装置に提供可能であるか、または、コンピュータ、制御器、もしくは処理装置によって実装可能であり、これには、専用の電子制御ユニットまたはプログラマブル電子制御ユニットが含まれ得る。同様に、アルゴリズム、方法、または工程は、データおよびコンピュータまたは制御器により実行可能な命令として、読み出し専用記憶装置のような書き込み不可能な記憶媒体に恒久的に記憶された情報、およびコンパクトディスク、ランダムアクセス記憶装置、または他の磁気および光学媒体のような書き込み可能な記憶媒体に変更可能に記憶された情報を含むが、これらに限定されない、多くの形態で記憶することができる。アルゴリズム、方法、または工程は、ソフトウェア実行可能オブジェクトに実装されることもできる。あるいは、アルゴリズム、方法、または工程は、特定用途向け集積回路、フィールドプログラマブルゲートアレイ、ステートマシン、もしくは他のハードウェア部品または装置、もしくはファームウェア、ハードウェア、およびソフトウェア部品の組み合わせなど、適切なハードウェア部品を使用して、全体的または部分的に具現化できる。
【0026】
例示的な実施形態が上述されているが、これらの実施形態が特許請求の範囲に包含される全ての可能な形態を説明することを意図するものではない。本明細書で使用される言葉は、限定ではなく説明の言葉であり、本開示の精神および要旨を逸脱することなくさまざまな変更がなされ得ることが理解される。
【0027】
前述のように、さまざまな実施形態の特徴を組み合わせて、明示的に説明または図示されていない本発明のさらなる実施形態を作り出すことができる。さまざまな実施形態が、一つ以上の所望の特性に関して、他の実施形態または先行技術の実装形態よりも利点を提供するか、または好ましいものとして説明されている可能性があるが、当業者は、一つ以上の特徴または特性が、特定の用途および実装形態に依存する所望の全体的なシステム属性を達成するために譲歩され得ることを認識する。これらの属性には、コスト、強度、耐久性、ライフサイクルコスト、市場性、外観、包装、サイズ、サービス性、重さ、製造可能性、組立容易性などが含まれるが、これらに限定されない。このように、一つ以上の特性に関して他の実施形態または先行技術の実装形態よりも望ましくないとして説明される実施形態は、本開示の範囲外ではなく、特定の用途にとって望ましい可能性がある。
【国際調査報告】