(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-05-31
(45)【発行日】2022-06-08
(54)【発明の名称】深層畳み込みニューラルネットワークを用いたレーザ加工システムの加工誤差の検出
(51)【国際特許分類】
B23K 26/00 20140101AFI20220601BHJP
【FI】
B23K26/00 P
(21)【出願番号】P 2021528374
(86)(22)【出願日】2019-10-10
(86)【国際出願番号】 EP2019077481
(87)【国際公開番号】W WO2020104102
(87)【国際公開日】2020-05-28
【審査請求日】2021-07-16
(31)【優先権主張番号】102018129425.5
(32)【優先日】2018-11-22
(33)【優先権主張国・地域又は機関】DE
(73)【特許権者】
【識別番号】516234100
【氏名又は名称】プレシテック ゲーエムベーハー ウント ツェーオー カーゲー
(74)【代理人】
【識別番号】110001210
【氏名又は名称】特許業務法人YKI国際特許事務所
(72)【発明者】
【氏名】シュヴァルツ ヨアヒム
【審査官】柏原 郁昭
(56)【参考文献】
【文献】米国特許出願公開第2014/0094954(US,A1)
【文献】米国特許出願公開第2015/0001196(US,A1)
【文献】特表2010-502447(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
B23K 26/00
(57)【特許請求の範囲】
【請求項1】
被加工物(1)を加工するためのレーザ加工システム(100)のための加工誤差を認識するためのシステム(300)であって、
加工された被加工物表面(2)の画像データおよび高さデータを検出するための検出ユニット(310)と、
コンピューティングユニット(320)と
を備え、前記コンピューティングユニット(320)は、前記検出された画像データおよび高さデータに基づいて入力テンソルを作成することと、伝達関数を用いて前記入力テンソルに基づいて出力テンソルを決定することであって、前記出力テンソルは加工誤差についての情報を含む、決定することとを行うように構成
され、前記伝達関数は、ニューラルネットワーク(400)によって形成され、
前記入力テンソルは、前記高さデータおよび画像データの未加工データの2チャネル画像を備えることを特徴とするシステム(300)。
【請求項2】
請求項1に記載のシステム(300)であって、前記検出ユニット(310)は、
前記画像データを検出するための画像検出ユニットと、
前記高さデータを検出するための高さ検出ユニットと
を備えることを特徴とするシステム(300)。
【請求項3】
請求項1または2に記載のシステム(300)であって、前記検出ユニット(310)は、カメラシステム、ステレオカメラシステム、OCTシステム、および三角測量システムの少なくとも1つを備えることを特徴とするシステム(300)。
【請求項4】
請求項1から3のいずれか1項に記載のシステム(300)であって、前記入力テンソルは、前記画像データおよび高さデータの未加工データを含む、またはそれらからなることを特徴とするシステム(300)。
【請求項5】
請求項1から4のいずれか1項に記載のシステム(300)であって、前記画像データは、前記加工された被加工物表面(2)の区画の2次元画像に対応することを特徴とするシステム(300)。
【請求項6】
請求項1から5のいずれか1項に記載のシステム(300)であって、前記高さデータは、前記加工された被加工物表面(2)の同じ区画の高さ幾何形状に対応することを特徴とするシステム(300)。
【請求項7】
請求項1から6のいずれか1項に記載のシステム(300)であって、前記検出ユニット(310)および/または前記コンピューティングユニット(320)は、前記高さデータおよび画像データから2チャネル画像を作成するように構成されることを特徴とするシステム(300)。
【請求項8】
請求項1から7のいずれか1項に記載のシステム(300)であって、前記出力テンソルは、以下の情報すなわち、少なくとも1つの加工誤差の存在、前記加工誤差のタイプ、加工された被加工物の表面上の前記加工誤差の位置、一定のタイプの加工誤差の確率、ならびに前記加工された被加工物の前記表面上の前記加工誤差の空間的および/または平面的範囲の1つを含むことを特徴とするシステム(300)。
【請求項9】
請求項1から8のいずれか1項に記載のシステム(300)であって、前記入力テンソルと前記出力テンソルとの間の前記伝達関数は、教示された深層畳み込みニューラルネットワーク(400)によって形成されることを特徴とするシステム(300)。
【請求項10】
請求項9に記載のシステム(300)であって、前記教示された深層畳み込みニューラルネットワーク(400)は、転移学習を用いて、変化した状況に適合可能であることを特徴とするシステム(300)。
【請求項11】
請求項9または10に記載のシステム(300)であって、前記コンピューティングユニット(320)は、前記ニューラルネットワーク(400)を適合させるための訓練データ、および/または前記出力テンソルを決定するための制御データを受信するように構成されたインターフェース(321)を含むことを特徴とするシステム(300)。
【請求項12】
請求項11に記載のシステム(300)であって、前記訓練データは、
前記検出ユニット(310)によって検出された加工された被加工物表面(2)の画像データおよび高さデータに基づく、所定の入力テンソルと、
前記それぞれの入力テンソルに関連付けられ、前記加工された被加工物表面(2)の存在する加工誤差についての情報を含む、所定の出力テンソルと
を備えることを特徴とするシステム(300)。
【請求項13】
請求項1から12のいずれか1項に記載のシステム(300)であって、前記入力テンソルは、前記画像データの2倍の大きさを有することを特徴とするシステム(300)。
【請求項14】
レーザビームを用いて被加工物を加工するためのレーザ加工システム(100)であって、
加工されることになる被加工物(1)上にレーザビームを放射するためのレーザ加工ヘッド(101)と、
請求項1から13のいずれか1項に記載のシステム(300)と
を備えることを特徴とするレーザ加工システム(100)。
【請求項15】
被加工物(1)を加工するためのレーザ加工システム(100)における加工誤差を認識する方法であって、
加工された被加工物表面(2)の画像データおよび高さデータを検出するステップ(510)と、
前記検出された画像データおよび高さデータに基づいて入力テンソルを作成するステップ(520)
であって、前記入力テンソルは、前記高さデータおよび画像データの未加工データの2チャネル画像を備える、ステップ(520)と、
伝達関数を用いて加工誤差についての情報を含んだ出力テンソルを決定するステップ(530)
であって、前記伝達関数はニューラルネットワーク(400)によって形成される、決定するステップ(530)と
を含むことを特徴とする方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、被加工物を加工するためのレーザ加工システムのための加工誤差を認識するためのシステム、およびレーザビームを用いて被加工物を加工するための加工システムに関し、前記加工システムは、このような加工誤差を認識するためのシステムを含む。本開示はまた、被加工物を加工するためのレーザ加工システムにおける加工誤差を認識する方法に関する。
【背景技術】
【0002】
レーザビームを用いて被加工物を加工するための加工システムにおいて、レーザ光源またはレーザ光ファイバの端部から出るレーザビームは、ビーム誘導および合焦光学系を用いて、加工されることになる被加工物上に合焦され、またはコリメートされる。加工は、例えば、レーザ切断、はんだ付けまたは溶接を含み得る。レーザ加工システムは、例えばレーザ加工ヘッドを備え得る。
【0003】
特に被加工物のレーザ溶接およびはんだ付けに関して、作成された接続の品質を検査するまたは評価することが重要である。レーザ溶接およびはんだ付けにおける品質評価のための現在の解決策は、通常いわゆる後処理検査を含む。
【0004】
溶接またはんだ付けされた継ぎ目の後処理検査は通常、画像処理を用いて実行され、加工された被加工物の表面上の、溶接またはんだ付けされた継ぎ目を示す2D画像が分析される。後処理検査の目的は、すべての欠陥を確実に位置特定および識別することである。画像処理の専門用語において、溶接およびはんだ付けされた継ぎ目表面は、確率論的または決定論的なテクスチャからなる。また、溶接された接合部の幾何形状データを決定するために、加工された被加工物表面の3Dデータが取得され得る。どの幾何形状データが取得され、評価されなければならないかは、それぞれの標準において明記される。レーザ溶接の注文仕立て素材に対しては、これは例えばSEL100標準である。2Dおよび3Dデータの抽出および査定は、通常は別々に実行される。
【0005】
溶接およびはんだ付けされた継ぎ目の品質を表すまたは記述する有意な特徴は、データから抽出されまたは計算される。加工品質の最終的査定は、特徴計算のパラメータ化、およびテクスチャの計算された特性特徴のパラメータ化によって行われる。最も簡単な場合、これらは特徴を特性化する値がその間になければならない閾値である。例えば、被加工物表面における穴または細孔など、局所的欠陥または加工誤差は、目標幾何形状からの局所的偏移(被加工物表面の局所的に極度に深いまたは高い領域)を通じて検出される。
【0006】
したがって、加工品質を特性化する特徴の抽出および分類が行われる。抽出され、分類された特徴を基礎にして、加工誤差が検出され、分類され、加工された被加工物は、例えば、「良品」として(すなわち、さらなる加工または販売に適する)、または「不良品」として(すなわち、スクラップとして)ラベル付けされ、または分類される。どの有意な特徴が本当にレーザ加工の品質の評価のために用いられ得るか、およびこれらの特徴が品質の評価にどのような影響を有するかは当分野でのエキスパートによってのみ決定されおよび実施されることができ、なぜなら調整されることになるパラメータの数のため、これらのシステムの複雑さが非常に高いからである。現在のシステムでは、この目的のために300個までのパラメータが調整される。しかし、これらの設定は、幅広い知識を取得したエキスパートによってのみ調整され得る。
【0007】
テクスチャのこの分析はまた、品質を特性化する特徴が、用いられる材料、印加されるレーザパワー、溶接測度、およびさらに多くに大きく依存するので複雑である。これは、特徴の抽出および評価または分類は、パラメータを通じて調整されなければならないことを意味する。新たな材料に対するレーザ加工を調整すること、または表面テクスチャを変化させる加工プロセスにおける変化は、画像処理のアルゴリズムおよびパラメータにおける変更を必要とする。例えば製品変更を通した、レーザ加工のあらゆる調整は、パラメータが再び設定されるまたは再調整されることを必要とする。
【0008】
したがって、エキスパートの訓練は複雑で長期にわたる。加えて、パラメータを設定するおよび再調整することは、レーザ加工システムの顧客での製造における長い生産中断を必要とする。加えて、誤ったパラメータ化のリスクが高い。
【発明の概要】
【発明が解決しようとする課題】
【0009】
したがって、レーザ加工の品質の査定を簡単にすることが本発明の目的である。また複雑なパラメータ化プロセスなしに、加工誤差を確実におよび迅速に検出することが本発明の目的である。
【0010】
さらに、レーザ加工の品質の査定および加工誤差の検出を自動化し、これによりプロセスの監視を可能とするシステムを提供することが本発明の目的である。
【0011】
またレーザ加工の品質の査定および加工誤差の検出は、変化した加工プロセスまたは異なる被加工物材料など、変化した環境または変化した状況に対して、迅速におよび容易に適合され得るシステムをもたらすことが本発明の目的である。
【0012】
さらに、レーザ加工の品質および加工誤差の検出が、加工された被加工物表面から取得された未加工データに基づいて査定される、システムをもたらすことが本発明の目的である(いわゆる「エンドツーエンド」加工または分析)。
【課題を解決するための手段】
【0013】
これらの目的は、独立請求項の主題によって達成される。有利な実施形態およびさらなる発展形態は、対応する従属請求項の主題である。
【0014】
本発明は、レーザ加工の品質および加工誤差の検出は、加工された被加工物表面の画像および高さデータに基づいて査定されるという発想に基づく。
【0015】
本開示の態様によれば、被加工物を加工するためのレーザ加工システムのための加工誤差を検出するためのシステムがもたらされ、前記システムは、被加工物表面の画像データおよび高さデータを検出するための検出ユニットと、コンピューティングユニットとを備え、前記コンピューティングユニットは、伝達関数を用いて、検出された画像データおよび高さデータに基づいて入力テンソルから、加工誤差についての情報を含んだ出力テンソルを決定するように構成される。
【0016】
したがって、システムは、レーザ加工システムによって加工された被加工物内に加工誤差があるかどうかを独立して検出することができる。
【0017】
言い換えれば、加工システムの加工プロセスの品質は、加工誤差についての情報を基礎にして決定され得る。画像および高さデータの同時処理は、評価をより確かに、コンパクトに、および高速にすることができる。
【0018】
検出ユニットは、画像データを検出するための画像検出ユニットを備え得る。検出ユニットは、高さデータを検出するための高さ検出ユニットをさらに備え得る。画像検出ユニットおよび高さ検出ユニットは、それぞれ少なくとも1つの対応するセンサを備え得る。
【0019】
画像検出ユニットは、カメラシステム、具体的には2Dおよび/または3Dカメラシステムを備えることが好ましく、入射光LED照明を有することが好ましい。より好ましくはまたは代替として、高さ検出ユニットは、三角測量システムおよび/またはOCT(「光コヒーレンストモグラフィ(optical coherence tomography)」)システムを備える。
【0020】
実施形態によれば、高さ検出ユニットはまた、例えばOCTシステムを用いて、被加工物表面までの距離、例えばレーザ加工システムの加工ヘッドと被加工物表面との間の距離を決定することができ、および距離を基礎にして高さデータを決定することができる。
【0021】
検出ユニットはまた、画像データおよび高さデータの両方を検出するように構成された1つ以上のセンサ、例えばステレオカメラシステムを備えることができ、LED照明を有することが好ましい。
【0022】
画像データは、加工された被加工物表面の区画の2次元画像または2次元イメージングに対応することが好ましい。高さデータは、表面の同じ区画の3次元高さ幾何形状に対応し得る。言い換えれば、画像データは、加工された被加工物表面の区画の2次元画像を表すことができ、高さデータは、表面の同じ区画の3次元高さまたは表面幾何形状を表し得る。
【0023】
したがって、画像データは、加工された被加工物表面の区画、好ましくはレーザ加工システムによって前に加工された被加工物表面の区画の、画像または写真の画素データを備え得る。高さデータは、加工された被加工物表面の同じ区画の各画素に対する高さ値を備え得る。画像データおよび高さデータは、等価にスケーリングされ得る。
【0024】
検出ユニットおよび/またはコンピューティングユニットは、区画のある領域を示す画像の各画素に対して、同じ領域の高さデータの高さ値が存在するように、画像データおよび高さデータを処理するように構成されることが好ましい。被加工物表面上のある領域または点の高さ値は、好ましくは被加工物表面に平行に延びる基準平面からの、この領域または点の距離を特定し得る。
【0025】
検出ユニットは、高さデータおよび画像データから2チャネル画像を生成するように構成され得る。
【0026】
したがって、2チャネル画像は、画素データに対応する被加工物表面の画素データおよび高さ値を含み得る。各画素は、被加工物表面の光学像に基づく明るさ情報またはグレーレベルを表し得る。
【0027】
画像データおよび/または高さデータは、n×m個の値を備えることができ、nおよびmは自然数である。入力テンソルは、n×m×2個の値を備え得る。言い換えれば、入力テンソルは、画像データの数の2倍に対応する大きさを有し得る。したがって、入力テンソルは、被加工物表面の画像の2倍の値を有し得る。例えば、画像は1024×1024画素を有し得る。
【0028】
さらに、入力テンソルは、レーザ加工システムの制御データを含み得る。この場合、入力テンソルの大きさはそれに応じて増加し得る。制御データは、被加工物の加工の間の所与の時点における、レーザ加工システムのレーザの出力パワーを示す少なくとも1つの値、レーザビームの設定された焦点位置、加工速度などを含み得る。
【0029】
最も簡単な場合、出力テンソルは、被加工物の加工が良いか不良かに関する情報を含み得る。この情報に基づいて、加工された被加工物は、さらなる加工を受ける、もしくは販売されることができ、またはスクラップとしてマークされることができ、もはや用いられない。システムによるこのいわゆる被加工物の加工後検査の目的は、したがってできるだけすべての関連した加工誤差または欠陥を検出することである。
【0030】
さらに、システムは、被加工物の表面上に存在する加工誤差のタイプ、位置、および/またはサイズを示すことができる。
【0031】
したがって、出力テンソルは以下の情報すなわち、加工誤差の存在、加工誤差のタイプ、被加工物表面上の加工誤差の位置、一定のタイプの加工誤差が生じた確率、および/または被加工物表面上の加工誤差の空間的および/または平面的範囲の、少なくとも1つを含み得る。
【0032】
加工誤差のタイプは、細孔、穴、被加工物を通る貫通の欠如、フォールスフレンド、飛び散り、または間隙のうちの少なくとも1つとすることができる。
【0033】
通常、システムは、すでに加工されている被加工物の位置における誤差を検出する。コンピューティングユニットは、したがって、被加工物がレーザ加工システムによって加工されている間、または加工が完了した後に、出力テンソルを決定するように構成される。
【0034】
これは、被加工物がレーザ加工システムによって加工されたときに1つ以上の加工誤差が生じたかどうか、これらの1つ以上の誤差がどのような空間的範囲を有するか、または被加工物表面上のどの位置にこれらの1つ以上の誤差が位置するかを、決定することを可能にする。加えて、出力テンソルは、システムが1つ以上の誤差の存在を決定した確実性または信頼度についての情報を含み得る。
【0035】
入力テンソルと出力テンソルとの間の伝達関数は、(事前に)教示されたまたは訓練されたニューラルネットワークによって形成されることが好ましい。言い換えれば、コンピューティングユニットは、ニューラルネットワークを備え得る。ニューラルネットワークは、誤差フィードバックまたは逆伝搬によって訓練されていてもよい。
【0036】
コンピューティングユニットは、ニューラルネットワークを訓練するまたは適合させるための訓練データを受信するように構成されたインターフェースを有することが好ましい。加工ユニットは、具体的には、例えば訓練データに基づいて、転移学習を用いてニューラルネットワークを適合させるように構成され得る。加えて、加工ユニットは制御データを受信することができ、これはまた、インターフェースを通じてレーザ加工システムから、転移学習のために入力テンソル内に入る。
【0037】
訓練データは、検出ユニットによって検出された加工された被加工物表面の画像データおよび高さデータに基づく、所定の入力テンソルと、それぞれの入力テンソルに関連付けられた所定の出力テンソルとを含むことができ、前記出力テンソルは、例えばエキスパートによって識別された、加工された被加工物表面における加工誤差についての情報を含む。結果として、伝達関数を形成するニューラルネットワークは、変化した状況に適合され得る。言い換えれば、伝達関数は修正される。変化した状況は、例えば、加工されることになる被加工物が異なる材料、異なる汚損の程度および/または厚さを有すること、またはレーザ加工のパラメータが変化することを含み得る。
【0038】
転移学習において、ニューラルネットワークを訓練または教示するために用いられる訓練データセット、または縮小された訓練データセットは、新たな例によって補足され得る。
【0039】
したがって、本明細書で述べられる態様による、加工誤差を検出するためのシステムにおける転移学習のために構成された訓練されたニューラルネットワークの使用は、システムが変化した状況に迅速に適合され得るという利点を有する。
【0040】
ニューラルネットワークは、深層ニューラルネットワーク、例えば深層畳み込みネットワークまたは畳み込みネットワークとすることができる。畳み込みネットワークは、20から40個の間の畳み込み層、好ましくは42個の畳み込み層を含み得る。加えて、畳み込みネットワークは、いわゆる「完全接続」層を含み得る。
【0041】
本開示の他の態様によれば、レーザビームを用いて被加工物を加工するためのレーザ加工システムがもたらされ、本明細書で述べられる態様の1つによれば、前記加工システムは、加工されることになる被加工物上にレーザビームを放射するためのレーザ加工ヘッドと、加工誤差を検出するためのシステムとを備える。検出ユニットは、レーザ加工ヘッド上に配置されることが好ましい。
【0042】
他の態様によれば、被加工物を加工するためのレーザ加工システムの加工誤差を検出する方法がもたらされ、前記方法は、被加工物の表面の画像データおよび高さデータを検出するステップと、検出された画像データおよび高さデータに基づいて入力テンソルを形成するステップと、入力テンソルに基づいて、および伝達関数を用いて加工プロセスにおける加工誤差についての情報を含んだ出力テンソルを決定するステップとを含む。
【0043】
一般に、伝達関数を形成するニューラルネットワークの使用は、加工誤差が存在するかどうかおよびどの加工誤差であるかを、システムが独立に認識できるという利点を有する。したがってもはや、画像および高さデータなど、検出されたセンサデータが、誤差検出のためにアクセス可能になるように再処理される必要はない。さらに、検出されたデータから、加工品質または任意の加工誤差を特性化する特徴を抽出する必要はない。
【0044】
加えて、どの抽出された特徴が、加工品質の査定、または加工誤差の分類のために必要であるかまたは関連するかを決定する必要はない。加工誤差を分類するために抽出された特徴のパラメータ化を規定する、または調整する必要もない。
【0045】
レーザ加工システムによる加工品質または加工誤差の決定または査定は、それによって簡略化される。述べられたステップは、レーザ加工におけるエキスパートによって実行されなくてよくまたは付き添われなくてもよい。本明細書で開示される態様による、加工誤差を検出するためのシステムは、加工品質または加工誤差の査定または分類を独立して、すなわち自動的に実行し、容易に適合され得る。
【図面の簡単な説明】
【0046】
本発明は、図を参照して以下で詳しく述べられる。
【
図1】実施形態による、レーザビームを用いて被加工物を加工するためのレーザ加工システム、および加工誤差を検出するためのシステムの概略図である。
【
図2】実施形態による、加工誤差を検出するためのシステムのブロック図である。
【
図4A】実施形態による深層畳み込みニューラルネットワークのブロック図である。
【
図4B】実施形態による深層畳み込みニューラルネットワークのブロック図である。
【
図5】実施形態による加工誤差を検出する方法を示す図である。
【発明を実施するための形態】
【0047】
別段の記載がない限り、本明細書の以下では、同じ、および同じ効果を有する要素に対して、同じ参照符号が用いられる。
【0048】
図1は、本開示の実施形態による、レーザビームを用いて被加工物を加工するためのレーザ加工システム100の概略図を示す。レーザ加工システム100は、レーザ加工ヘッド101、具体的にはレーザ切断、レーザはんだ付け、またはレーザ溶接ヘッドと、加工誤差を検出するためのシステム300とを備える。
【0049】
レーザ加工システム100は、レーザビーム10(「加工ビーム」または「加工レーザビーム」とも呼ばれる)を生成するためのレーザ装置110を備える。
【0050】
実施形態による、レーザ加工システム100またはその部品、例えば、加工ヘッド101などは、加工方向20に沿って移動可能とすることができる。加工方向20は、切断、はんだ付け、または溶接方向、および/または被加工物1に対する、加工ヘッド101などの、レーザ加工システム100の移動方向とすることができる。具体的には、加工方向20は水平方向とすることができる。加工方向20はまた「送り方向」とも呼ばれ得る。
【0051】
レーザ加工システム100は、加工ヘッド101および/またはレーザ装置110を制御するように構成された制御ユニット140によって制御される。
【0052】
加工誤差を検出するためのシステム300は、検出ユニット310と、コンピューティングユニット320とを備える。検出ユニット310は、被加工物1の加工された表面2の画像データおよび高さデータを検出するように構成される。実施形態によれば、検出ユニット310は加工ヘッド101上に配置される。例えば、検出ユニットは、加工方向20に対して加工ヘッド101上に下流に配置され得る。
【0053】
コンピューティングユニット320は、検出ユニット310によって検出された加工された被加工物表面2の画像データおよび高さデータを受信することと、画像データおよび高さデータに基づいて入力テンソルを形成することとを行うように構成される。コンピューティングユニット320は次いで、コンピューティングユニット320にアクセス可能な伝達関数を用いて、入力テンソルを基礎にして、加工誤差についての情報を含んだ出力テンソルを決定するようにさらに構成される。言い換えれば、出力テンソルは、1つ以上の算術演算の結果とすることができ、被加工物1がレーザ加工システム100によって加工されたとき、誤差が生じたかどうかおよびどの誤差が生じたかについての情報を含み得る。さらに、出力テンソルは、被加工物表面2上の誤差のタイプ、位置、およびサイズについての情報を含み得る。
【0054】
一実施形態によれば、コンピューティングユニット320は、制御ユニット140と組み合わされる(図示せず)。言い換えれば、コンピューティングユニット320の機能は、共通の処理ユニット内の制御ユニット140のそれと組み合わされ得る。
【0055】
レーザ加工システム100は、加工ヘッド101の端部部分と、加工されることになる被加工物1との間の距離を測定するための、測定デバイス120を任意選択で含む。測定デバイスは、光コヒーレンストモグラフ、具体的には光低コヒーレンストモグラフを含み得る。
【0056】
レーザ装置110は、レーザビーム10をコリメートするためのコリメータレンズ112を含み得る。コヒーレンストモグラフは、光測定ビーム13をコリメートするように構成されたコリメータ光学系122と、光測定ビーム13を被加工物1上に合焦するように構成された合焦光学系124とを含み得る。本開示において、距離測定は、干渉計を活用して光のコヒーレンス特性を使用する、光コヒーレンストモグラフィの原理に基づく。光コヒーレンストモグラフは、広帯域光源(例えば、スーパールミネッセントダイオード、SLD)(図示せず)を有する評価ユニットを含み得る。しかし、レーザ装置110はこの構成に限定されない。光コヒーレンストモグラフの代わりに、測定デバイスはまた、三角測量システムまたはステレオカメラを用い得る。
【0057】
図2は、実施形態による加工誤差を検出するためのシステム300のブロック図を示す。
【0058】
システム300は、検出ユニット310と、コンピューティングユニット320とを備える。検出ユニット310と、コンピューティングユニット320とは、コンピューティングユニット320が、検出ユニット310によって検出された画像データおよび高さデータを受信することができるように、互いに接続される。
【0059】
検出ユニット310は、以下の要素の少なくとも1つを含み得る:加工された被加工物表面2の画像データおよび高さデータの両方を検出し、出力するように構成されたステレオカメラシステム;例えば入射光LED照明を有するカメラシステム、三角測量システム、またはOCTシステム。
【0060】
実施形態によれば、検出ユニット310は、加工された被加工物表面2から画像データを検出するように構成された画像検出ユニット(図示せず)と、加工された被加工物表面2から高さデータを検出するように構成された高さ検出ユニット(図示せず)とを備える。画像検出ユニットは、例えば入射光LED照明を有するカメラシステムを備え得る。高さ検出ユニットは、三角測量システムまたはOCTシステム、すなわち、「光コヒーレンストモグラフィ」システム、または光コヒーレンストモグラフィに基づくシステムを備え得る。
【0061】
本発明によれば、画像データは、加工された被加工物表面2の区画2次元画像に対応する。言い換えれば、検出されたまたは取り込まれた画像データは、
図3Bに例として示され、以下で詳しく述べられるように、加工された被加工物表面2の2次元画像を表す。高さデータは、
図3Aに例として示され、以下で詳しく述べられるように、加工された被加工物表面2の区画の3次元高さ幾何形状に対応する。画像データおよび高さデータは、加工された被加工物表面2の同じ区画についてのデータを含むことが好ましい。
【0062】
実施形態によれば、コンピューティングユニット320は、出力テンソルを決定するためのプロセッサを含む。伝達関数は通常、コンピューティングユニット320のメモリ(図示せず)に記憶され、または回路として、例えばFPGAとして実施される。メモリは、さらなるデータ、例えば決定された出力テンソルを記憶するように構成され得る。
【0063】
コンピューティングユニット320は、入力/出力ユニット322を含むことができ、これは具体的には、ユーザとの対話のためのグラフィカルユーザインターフェースを含み得る。コンピューティングユニット320はデータインターフェース321を有することができ、それを通じてコンピューティングユニットは、さらなるコンピューティングユニット、コンピュータ、PCに、データベース、メモリカード、またはハードドライブなどの外部記憶ユニットなどの外部のロケーションに、出力テンソルを送信することができる。コンピューティングユニット320は、コンピューティングユニットがそれを用いてネットワークと通信することができる、通信インターフェース(図示せず)をさらに含み得る。さらに、コンピューティングユニット320は、出力テンソルを出力ユニット322上にグラフィックで表示し得る。
【0064】
コンピューティングユニット320は、検出ユニット310によって検出された画像データおよび高さデータから、伝達関数のための入力テンソルを作成する。画像データおよび高さデータは、
図3Aおよび3Bを参照して以下で詳しく述べられる。
【0065】
コンピューティングユニット320は、インターフェース321を通じて、レーザ加工システム100の制御ユニット140から制御データを受信するように、およびまた制御データを入力テンソルに組み込むようにさらに構成され得る。制御データは、所与の時点でのそれぞれの場合に、例えば、レーザ装置110の出力パワー、加工ヘッド101と被加工物1の表面との間の距離、送り方向および速度を含み得る。
【0066】
伝達関数は、教示された、すなわち予め訓練された深層畳み込みニューラルネットワークによって形成される。言い換えれば、コンピューティングユニットは、深層畳み込みニューラルネットワークを含む。出力テンソルは、伝達関数を入力テンソルに適用することによって形成される。伝達関数を用い、したがって出力テンソルは入力テンソルから決定される。
【0067】
出力テンソルは、少なくとも1つの加工誤差についての情報またはデータを含む。この情報またはデータは、少なくとも1つの加工誤差があるかどうか、少なくとも1つの加工誤差のタイプ、加工された被加工物1の表面上の加工誤差の位置、および/または加工誤差のサイズまたは範囲とすることができる。
【0068】
実施形態によれば、出力テンソルはまた、一定のタイプの加工誤差が生じた確率、またはシステムが一定のタイプの加工誤差を検出した信頼度を含み得る。加えて、出力テンソルは、加工された被加工物の表面上の加工欠陥の空間的または平面的範囲についての情報またはデータを含み得る。
【0069】
実施形態によれば、コンピューティングユニット320は、入力テンソルおよび/または出力テンソルを出力ユニット322上にグラフィックで表示するように構成され得る。例えば、コンピューティングユニット320は、
図3Aまたは3Bに示されるように、入力テンソルに含まれる画像データおよび/または高さデータを、加工された被加工物表面2の2次元画像としてグラフィックで表示し、出力テンソルに含まれる加工誤差についての情報を重ね合わせることができる。
【0070】
図3Aは高度データを示し、
図3Bは実施形態による画像データの表示を示す。
図3Aは、三角測量センサを用いて記録された、はんだ付けされた継ぎ目の例示的高さ画像を示す。
図3Bは、LED入射光照射を活用して記録された、はんだ付けされた継ぎ目の例示的入射光画像を示す。
【0071】
実施形態によれば、検出ユニット310、または画像検出ユニットおよび高さ検出ユニットによって検出された画像データおよび高さデータは、加工された被加工物表面の区画および対応する高さ画像の記録から作成され得る。記録は、2次元画像または写真とすることができ、これはLED入射光照射のもとで作られることが好ましく、「入射光画像」と呼ばれる。高さ画像は、加工された被加工物表面の区画の高さ幾何形状または高さプロファイルを表し得る。したがってそれは、加工された被加工物表面の3次元形状についての情報を含む。
【0072】
図3Aにおいて、以下で詳しく述べられるように、異なる濃淡値は、加工された被加工物表面2の異なる高さ値を表す。
図3Bにおいて、異なる濃淡値は、光の反射によって、例えばLED入射光照射によって生成される、加工された被加工物表面2の異なる明るさ値を表す。枠2a、2bは、コンピューティングユニット320によって決定される出力テンソル内の情報として含まれるので、検出された加工誤差のサイズおよび位置を表す。
【0073】
高さ画像では、各明るさまたは濃淡値は、被加工物表面に平行な平面からの距離値に対応し、入射光画像では、各明るさまたは濃淡値は、検出ユニットまたは画像検出ユニットの光センサ上に反射されて戻る光の強度に対応する。
【0074】
実施形態によれば、入射光画像および高さ画像は、それらの大きさが同じになるようにスケーリングされる。言い換えれば、実施形態によれば、入射光画像および高さ画像は、加工された被加工物表面の同じ区画の記録を示す。上述のように、画像は別々の記録システムによって記録され得る。
【0075】
実施形態によれば、入射光画像は、三角測量基線およびその周囲の強度からの三角測量評価において作成され得る。これは、三角測量基線の反射された散乱光を取り込むことによって、三角測量基線以内またはその周りの、被加工物表面の領域の入射光画像を作成する。複数のこれらの入射光画像が一緒にされた場合、濃淡値画像が作成される。三角測量システムの送り方向においてこのように作成された濃淡値画像の解像度は、三角測量システムの走査速度に依存する。
【0076】
実施形態によれば、記録および高さ画像は組み合わされて2チャネル画像となる。したがって、コンピューティングユニット320によって作成された入力テンソルは、n×m画素の解像度を有する加工された被加工物表面の区画の記録または画像を含むことができ、nおよびmは自然数であり、それぞれ1024であることが好ましい。これは画像が1024×1024画素からなることを意味する。入力テンソルはまた、各画素に対する高さデータとして高さ値を含み得る。これは入力テンソルが、1024×1024×2の大きさを有する2チャネル画像を含むことを意味する。2チャネル画像は、したがって各画素に対する明るさ値および高さ値を含み、画素は被加工物表面の区画の領域に対応する。
【0077】
コンピューティングユニット320は、伝達関数を用いて入力テンソルに基づいて出力テンソルを決定する。出力テンソルから入力テンソルへの伝達関数またはマッピングは、
図4Aおよび4Bを参照して以下で詳しく述べられるように、深層畳み込みニューラルネットワークによって実施される。
【0078】
図4Aおよび4Bは、実施形態による深層畳み込みニューラルネットワーク400のブロック図を示す。
【0079】
入力テンソルは、画像データおよび高さデータを含んだ検出された未加工データを含む。上述のように、入力テンソルは、入射光画像および高さ画像からなる2チャネル画像から作成され得る。これらの画像データおよび高さデータは、深層畳み込みニューラルネットワークの入力テンソルを直接形成する。これは、入力テンソルと出力テンソルとの間で、いわゆる「エンドツーエンド」マッピングまたは分析が行われることを意味する。したがって、中間ステップでは何らの特徴も計算またはパラメータ化されない。
【0080】
以下では「CNN」と省略される、深層畳み込みニューラルネットワーク(deep convolutional neural network)40は、複数のコアを用いて畳み込みを行う複数の層410を備える。さらに、CNN400は、いわゆる「完全接続」層またはブロック450を含み得る。
【0081】
CNNは、加工誤差または欠陥のサイズの表示を用いて加工誤差の迅速な検出および位置特定を可能にするために、いわゆる一度しか見ない(You Only Look Once)方法を用いることが好ましい場合がある。
【0082】
実施形態によれば、CNNは、被加工物1の加工の間の細孔(誤差「a」)、穴(誤差「b」)、および溶け込みの欠損(誤差「c」)を検出するように構成される。これは、3つのクラスへの起こり得る加工誤差の分類を意味する。分類結果は、値Pc(誤差が存在すること/存在しないこと、または誤差が存在する確率)、Ca(誤差「a」の確率)、Cb(誤差「b」の確率)、Cc(誤差「c」の確率)、および値x,y,dx,dy(それぞれの誤差の位置およびサイズ)を有するべきである。ここで、値xおよびyは、x軸およびy軸を有する2次元デカルト座標系における座標を表し、2次元デカルト座標系の平面は、被加工物表面に平行に配置される。それに応じて、値dx,dyは、xおよびy方向における誤差の範囲またはサイズを表す。
【0083】
大きさ1024×1024×2の実施形態による入力テンソル430、すなわちサイズ1024×1024画素の入射光画像および画素のそれぞれに対する高さ値の場合は、CNNは、1024×1024×2個のニューロンを有する入力層を備える。いわゆるグリッドまたはラスタ、例えばラスタセル当たり64×64画素のサイズを有するものが、入射光画像の上に置かれる。これは結果として16×16×8ニューロンを有する出力層を生じ、すなわち出力テンソルも大きさ16×16×8を有する。
【0084】
例えば、入射光および高さ画像は、256個のグリッドまたはラスタセルに分割される。出力テンソルから、したがってニューラルネットワークは、グリッドセル当たり8個の値を含んだ、256個のグリッドセルのそれぞれに対して分類結果を決定する。これらの8個の値から、各グリッドセルに対する加工された被加工物表面の分類または査定の結果が、ニューラルネットワークによって取り込まれ得る。実施形態によれば、手順は、最初に値Pc、すなわち、対応するグリッドセル内に誤差があるか否かの表示が考慮される。誤差がある場合、値Ca、Cb、およびCcが次に調べられる。これは、誤差「a」、誤差「b」、または誤差「c」が存在するかどうかの確率がどれだけ高いかが調べられることを意味する。最後に、誤差の位置およびサイズ、x,y,dx,dyに対する値が調べられる。出力テンソルの迅速な分類、またはさらなる処理は、この段階的なまたはステップバイステップ手法を用いて確実にされ得る。
【0085】
出力テンソルまたはそれに含まれる値の調査から、ひいては、加工された被加工物は、予め定義された分類アルゴリズムを用いて「良」または「不良」として分類され得る。言い換えれば、状況に応じて、被加工物は、販売またはさらなる加工に適するもの(良)として、またはスクラップもしくは後加工のためにマークされるもの(不良)として分類され得る。
【0086】
別の例示的実施形態によれば、少なくとも2つの枠付けされた矩形、いわゆる「境界ボックス」が、関連付けられた確率を用いて各グリッドまたはラスタセルに対して計算される。各枠付けされた矩形に対して1つずつの対象物が、位置特定され、各誤差クラスに対する確率が計算される。これは16×16×2×8ニューロンを有する出力層を与える。すなわち、出力テンソル440はまた、大きさ16×16×2×8を有する。
【0087】
各ラスタセルに対して、内容y=(Pc1,x1,y1,dx1,dy1,Ca1,Cb1,Cc1;Pc2,x1,x2,dx2,dy2,Ca2,Cb2,Cc2)を有するベクトルyがある。添字「1」は2つの枠付けされた矩形の1つを意味し、添字「2」は枠付けされた矩形の他方を意味する。グリッドセルにおいて、両方の枠付けされた矩形が、予め定義された閾値より大きな確率Pcを有する場合、一実施形態によれば、より大きな「IoU値」を有する矩形が選択される。IoU値は、枠付けされた矩形の共用体に対する交点を記述する。
【0088】
分類結果は、例えば「非最大抑制」法を用いて、ネットワークの出力テンソルから直接読み出され得る。ネットワークの訓練は、GPUによってサポートされる。推論は、カメラ内のFPGA、またはFPGAを有するコンピューティングユニット320内のプラグインカードを通じて行われる(図示せず)。
【0089】
図4Aおよび4Bに示されるように、CNNは、例えば、42個の畳み込み層を備え、少なくともいくつかの畳み込み層は、正規化(バッチ正規化)およびいわゆる残差ブロックを備える。
【0090】
層の出力を正規化することによって、「爆発」または「消滅」勾配の問題が避けられ得る。推論プロセスにおける挙動は、他の分布のデータに対する感受性は少ない。
【0091】
正規化は通常、「ミニバッチ」にわたる平均値および標準偏差を含む。その効果は、レギュレーションである。
【0092】
実施形態によれば、訓練されたネットワークにおけるハイパーパラメータとしてこれらのパラメータが用いられる:「バッチ正規化」、「低減した内部共変量シフトによる加速深層ネットワーク訓練(Accelerating Deep Network Training by Reducing Internal Covariate Shift)」(Sergey Ioffe、Christian Szegedyによる)。
【0093】
図4において、「畳み込み32 3×3」ブロックは、32個の異なる3×3畳み込みフィルタマスクを有する畳み込みブロックを表す。これは、ブロック「畳み込み32 3×3」は、入力大きさm×n×cのテンソルを、テンソルm×n×32に生成することを意味し、mは高さ、nは幅、cはチャネルの数を表す。1024×1024×2を有する2チャネル入力テンソルの場合は、結果として大きさ1024×1024×32のテンソル、すなわち大きさ1024×1024の32個の画像を生じる。同じことが他の畳み込みブロックに当てはまる。
【0094】
図4の畳み込みブロック内の「/2」という表示は、2の「ストライド」を表す。フィルタコアは2画素だけ前にシフトされ、その結果大きさは半分に低減される。ブロックの上の情報、例えば「512×512」は、チャネルの数なしに、テンソルの大きさm×nを表す。
【0095】
「残差ブロック」という表示は、値が活性化関数を通じて渡される前に、前の層(1)の出力が、出力層(1+2)の結果に加算されることを示す。
【0096】
用いられるCNNは、訓練されたまたは教示された深層畳み込みニューラルネットワークである。言い換えれば、CNNは、加工誤差を検出するためのシステムの納入の前に、どれが「良」およびどれが「不良」の加工された被加工物表面であるか、またはどれが「良」およびどれが「不良」の溶接もしくははんだ付けされた継ぎ目であるかを、例から学習している。言い換えれば、CNNは、加工された被加工物表面を「良」または「不良」として分類するように学習しており、または加工誤差を検出する、それらの位置を特定し、それらのタイプに従って分類する、およびそれらのサイズを決定するように学習している。
【0097】
後処理の表面検査の場合は、システムは、加工された被加工物表面が加工誤差を有するかどうかを確実に決定するべきである。それはどの誤差が存在するか(例えば、細孔、穴、突出、飛び散り、粘着、または貫通の欠如または「フォールスフレンド」)を検出するべきであり、加工誤差の位置を特定し、被加工物表面上のそれのサイズを示すべきである。CNNを訓練し、ハイパーパラメータを設定するために、CNNには所定の入力テンソルおよび対応する出力テンソルがもたらされる。所定の入力テンソルは、上述のように、加工された被加工物表面の区画の画像データおよび高さデータを含む。対応する所定の出力テンソルまたは結果のテンソルは、各所定の入力テンソルに関連付けられる。この出力テンソルは、それぞれの入力テンソルに対する被加工物表面のこの区画に対するCNNの所望の結果を含む。
【0098】
言い換えれば、対応する所定の出力テンソルは、加工された被加工物表面の区画上に存在する加工誤差の分類、それらの位置、ならびにそれらの空間的および/または平面的範囲についての情報を含む。出力テンソルの各所定の入力テンソルへのこの関連付けは、手動で行われる(検出された画像および高さデータのいわゆる「ラベル付け」)。これは、画像および高さデータの、伝達関数の結果への所定の関連付けがあることを意味する。例えば、出力テンソルにおいて、入力テンソルによって表される加工された被加工物表面の区画に誤差があるかどうか、何のタイプの誤差が存在するか、例えばxおよびy座標を有する2次元座標系を基礎にして、加工された被加工物表面上のどの位置に加工誤差が存在するか、ならびにxおよびy方向での加工誤差のサイズが規定される。
【0099】
CNNによって作成された伝達関数は、次いで最適化方法を用いて決定され、システム300に、好ましくはコンピューティングユニット320のメモリに記憶される。最適化方法は、例えば、アダム最適化による「逆伝搬」プロセスによって実行される。推論の場合は、CNNは2チャネル画像の、誤差タイプ、位置、およびサイズに対する関連付けをもたらす。
【0100】
教示された深層畳み込みニューラルネットワークは、それがいわゆる転移学習を用いて、変化した状況に適合され得るように構成される。ネットワークの基礎的訓練は、システムの稼働開始の前に実行される。加工プロセスが稼働開始の後に変更された場合、いわゆる転移学習のみが実行される。変化した状況は例えば、例えば材料が変化するときに、加工されることになる被加工物が変化することとすることができる。被加工物表面の厚さまたは材料組成もわずかに変化し得る。さらに、他のプロセスパラメータが被加工物を加工するために用いられ得る。これは他の加工誤差を引き起こし得る。例えば、異なるタイプの加工誤差の確率が変化する場合があり、または加工誤差は異なって形成され得る。これは、ニューラルネットワークが、変化した状況、および結果としての変化した加工誤差に適合されなければならないことを意味する。
【0101】
転移学習は、ニューラルネットワークの初期教示と同様である。しかし通常、深層畳み込みニューラルネットワークの少数の特定の畳み込み層、特に最後の2つから3つの畳み込み層が転移学習において適合される。変更されるニューラルネットワークのパラメータの数は、ニューラルネットワークの訓練または教示の間より著しく少ない。これは転移学習が、顧客において迅速に、通常1時間未満で完了されることを可能にする。これは、転移学習を用いることによって、ニューラルネットワーク全体が、新規に訓練または教示されることはないことを意味する。
【0102】
システム300は、転移学習のために必要な訓練データを、インターフェース321を通じて受信し得る。
【0103】
図5は、レーザビームを用いて被加工物を加工するためのレーザ加工システムにおける加工誤差を検出する方法を示す。第1のステップ510は、レーザ加工システムによって加工された被加工物表面の画像データおよび高さデータを検出することを含む。第2のステップ520において、検出された画像データおよび高さデータに基づいて、入力テンソルが作成される。ステップ530において、入力テンソルに基づいて、加工誤差についての情報を含んだ出力テンソルを決定するために、伝達関数が用いられる。
【0104】
加工誤差を検出する方法は、被加工物が加工されている間に、すでに起動され得る。方法はまた、被加工物の加工が完了したときにのみ起動され得る。
【0105】
方法は、加工された被加工物表面の複数の部分に対して別々に、または平行して実行され得る。実施形態によれば、方法は、加工された被加工物表面全体を通して動作する。この場合、画像および高さデータは、加工された被加工物表面全体に対して1回だけ検出されることができ、出力テンソルの決定は、各加工された被加工物に対して1回だけ生じ得る。
【0106】
方法は、任意の加工された被加工物に対して実行され得る。実施形態によれば、方法は、レーザ加工システムによって加工されたn番目の被加工物ごとに実行されることができ、nは自然数である。
【0107】
伝達関数を形成するニューラルネットワークの使用は、加工誤差が存在するかどうかおよびどの加工誤差であるかを、システムが独立に検出できるという利点を有する。したがってもはや、画像および高さデータなど、検出されたセンサデータが、誤差検出のためにアクセス可能になるように再処理される必要はない。さらに、検出されたデータから、加工品質または任意の加工誤差を特性化する特徴を抽出する必要はない。さらに、どの抽出された特徴が、加工品質の査定、または加工誤差の分類のために必要であるかまたは関連するかを決定する必要はない。加工誤差を分類するために抽出された特徴のパラメータ化を規定する、または適合させる必要もない。レーザ加工システムによる加工品質または加工誤差の決定または査定は、それによって簡略化される。述べられたステップは、レーザ加工におけるエキスパートによって実行されなくてよくまたは付き添われなくてもよい。