(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023166121
(43)【公開日】2023-11-21
(54)【発明の名称】溶接装置、溶接方法、およびプログラム
(51)【国際特許分類】
B23K 31/00 20060101AFI20231114BHJP
B23K 9/095 20060101ALI20231114BHJP
B23K 9/127 20060101ALI20231114BHJP
B23K 9/10 20060101ALI20231114BHJP
G06N 20/00 20190101ALI20231114BHJP
G06T 7/00 20170101ALI20231114BHJP
G06V 10/774 20220101ALI20231114BHJP
【FI】
B23K31/00 Z
B23K9/095 510D
B23K9/127 510C
B23K9/10 Z
G06N20/00 130
G06T7/00 350B
G06V10/774
【審査請求】有
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2022076922
(22)【出願日】2022-05-09
(71)【出願人】
【識別番号】000006208
【氏名又は名称】三菱重工業株式会社
(74)【代理人】
【識別番号】100149548
【弁理士】
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100162868
【弁理士】
【氏名又は名称】伊藤 英輔
(74)【代理人】
【識別番号】100161702
【弁理士】
【氏名又は名称】橋本 宏之
(74)【代理人】
【識別番号】100189348
【弁理士】
【氏名又は名称】古都 智
(74)【代理人】
【識別番号】100196689
【弁理士】
【氏名又は名称】鎌田 康一郎
(72)【発明者】
【氏名】久保 満優
(72)【発明者】
【氏名】西嶋 泰志
(72)【発明者】
【氏名】菊山 達彦
(72)【発明者】
【氏名】周田 直樹
(72)【発明者】
【氏名】坂野 泰隆
(72)【発明者】
【氏名】中尾 健太
【テーマコード(参考)】
4E082
5L096
【Fターム(参考)】
4E082AA03
4E082AA04
4E082AA08
4E082AA11
4E082EA01
4E082EC20
4E082EE10
5L096AA06
5L096CA02
5L096DA02
5L096JA11
5L096KA04
(57)【要約】
【課題】熟練した溶接士の溶接技能を学習した学習モデルを用いて、より溶接品質の高い自動溶接を行うことができる溶接装置を提供する。
【解決手段】溶接ワイヤおよび電極の少なくとも一方の制御対象を制御して溶接を行う溶接装置は、前記制御対象の先端と、前記溶接個所とを含む溶接画像を撮影するカメラと、過去に撮影された溶接画像である学習用画像と、前記学習用画像を見て溶接士が判断した前記制御対象の操作の適正度合を示す情報と、を含む学習用データを生成するデータ生成部と、前記学習用データを用いて学習モデルを構築する学習部と、前記学習モデルを用いて、取得した前記溶接画像における前記制御対象の操作の適正度合を推定する推定部と、前記操作の適正度合の推定結果に基づいて、前記制御対象を制御する制御部と、を備える。
【選択図】
図2
【特許請求の範囲】
【請求項1】
溶接ワイヤおよび電極の少なくとも一方の制御対象を制御して溶接を行う溶接装置であって、
前記制御対象の先端と、溶接個所とを含む溶接画像を撮影するカメラと、
過去に撮影された溶接画像である学習用画像と、前記学習用画像を見て溶接士が判断した前記制御対象の操作の適正度合を示す情報と、を含む学習用データを生成するデータ生成部と、
前記学習用データを用いて、前記溶接画像を入力とし、前記制御対象の操作の適正度合を出力する学習モデルを構築する学習部と、
前記学習モデルを用いて、取得した前記溶接画像における前記制御対象の操作の適正度合を推定する推定部と、
前記操作の適正度合の推定結果に基づいて、前記制御対象を制御する制御部と、
を備える溶接装置。
【請求項2】
前記データ生成部は、過去に撮影された前記溶接画像において前記溶接士が着目しない領域をマスキングした前記学習用画像を含む学習用データを生成する、
請求項1に記載の溶接装置。
【請求項3】
前記データ生成部は、過去に撮影された前記溶接画像の輪郭を抽出した前記学習用画像を含む学習用データを生成する、
請求項1に記載の溶接装置。
【請求項4】
前記データ生成部は、過去に撮影された前記溶接画像に対し、前記制御対象、前記カメラ、および前記溶接個所の相対位置のばらつきを模擬した画像処理を加えた前記学習用画像を含む学習用データを生成する、
請求項1、2または3に記載の溶接装置。
【請求項5】
前記溶接ワイヤを送出するワイヤノズルに設けられ、前記溶接ワイヤの前記溶接個所への接触状態を検出可能な第1センサ情報を出力する第1センサをさらに備え、
前記学習部は、前記第1センサ情報に基づいて特定した前記溶接ワイヤの操作をさらに含む前記学習用データを用いて前記学習モデルを構築する、
請求項1、2または3に記載の溶接装置。
【請求項6】
前記溶接装置に設けられ、前記溶接装置の位置および姿勢の少なくとも一方を検出可能な第2センサ情報を出力する第2センサをさらに備え、
前記学習部は、前記第2センサ情報をさらに含む前記学習用データを用いて前記学習モデルを構築する、
請求項1、2または3に記載の溶接装置。
【請求項7】
溶接ワイヤおよび電極の少なくとも一方の制御対象を制御して溶接を行う溶接方法であって、
前記制御対象の先端と、溶接個所とを含む溶接画像を撮影するステップと、
過去に撮影された溶接画像である学習用画像と、前記学習用画像を見て溶接士が判断した前記制御対象の操作の適正度合を示す情報と、を含む学習用データを生成するステップと、
前記学習用データを用いて、前記溶接画像を入力とし、前記制御対象の操作の適正度合を出力する学習モデルを構築するステップと、
前記学習モデルを用いて、取得した前記溶接画像における前記制御対象の操作の適正度合を推定するステップと、
前記操作の適正度合の推定結果に基づいて、前記制御対象を制御するステップと、
を有する溶接方法。
【請求項8】
溶接ワイヤおよび電極の少なくとも一方の制御対象を制御して溶接を行う溶接装置に、
前記制御対象の先端と、溶接個所とを含む溶接画像を撮影するステップと、
過去に撮影された溶接画像である学習用画像と、前記学習用画像を見て溶接士が判断した前記制御対象の操作の適正度合を示す情報と、を含む学習用データを生成するステップと、
前記学習用データを用いて、前記溶接画像を入力とし、前記制御対象の操作の適正度合を出力する学習モデルを構築するステップと、
前記学習モデルを用いて、取得した前記溶接画像における前記制御対象の操作の適正度合を推定するステップと、
前記操作の適正度合の推定結果に基づいて、前記制御対象を制御するステップと、
を実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、溶接装置、溶接方法、およびプログラムに関する。
【背景技術】
【0002】
溶接品質の向上(欠陥低減)を目的に、溶接の自動化ニーズが高まっている。例えば、特許文献1には、溶接個所を撮影した画像から電極、溶融池の端部などの特徴点を検出し、特徴点の座標位置に基づいて電極のウィービング幅などの制御を行う自動溶接システムが記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
熟練した溶接士は、電極や溶融池の端部などの位置のみならず、溶融池の形状や、母材の開先境界への溶融池のかかり具合など、定量化が難しい情報も判断材料にして、溶接トーチの位置などの調整を行っている。しかしながら、従来の自動溶接システムでは、座標情報以外の定量化が困難な情報を自動制御に利用することができない。このため、従来の自動溶接システムでは、熟練した溶接士に近いレベルまで溶接品質を高めることが困難であった。
【0005】
本開示は、このような課題に鑑みてなされたものであって、熟練した溶接士の溶接技能を学習した学習モデルを用いて、より溶接品質の高い自動溶接を行うことができる溶接装置、溶接方法、およびプログラムを提供する。
【課題を解決するための手段】
【0006】
本開示の一態様によれば、溶接ワイヤおよび電極の少なくとも一方の制御対象を制御して溶接を行う溶接装置は、前記制御対象の先端と、溶接個所とを含む溶接画像を撮影するカメラと、過去に撮影された溶接画像である学習用画像と、前記学習用画像を見て溶接士が判断した前記制御対象の操作の適正度合を示す情報と、を含む学習用データを生成するデータ生成部と、前記学習用データを用いて、前記溶接画像を入力とし、前記制御対象の操作の適正度合を出力する学習モデルを構築する学習部と、前記学習モデルを用いて、取得した前記溶接画像における前記制御対象の操作の適正度合を推定する推定部と、前記操作の適正度合の推定結果に基づいて、前記制御対象を制御する制御部と、を備える。
【0007】
本開示の一態様によれば、溶接ワイヤおよび電極の少なくとも一方の制御対象を制御して溶接を行う溶接方法は、前記制御対象の先端と、溶接個所とを含む溶接画像を撮影するステップと、過去に撮影された溶接画像である学習用画像と、前記学習用画像を見て溶接士が判断した前記制御対象の操作の適正度合を示す情報と、を含む学習用データを生成するステップと、前記学習用データを用いて、前記溶接画像を入力とし、前記制御対象の操作の適正度合を出力する学習モデルを構築するステップと、前記学習モデルを用いて、取得した前記溶接画像における前記制御対象の操作の適正度合を推定するステップと、前記操作の適正度合の推定結果に基づいて、前記制御対象を制御するステップと、を有する。
【0008】
本開示の一態様によれば、プログラムは、溶接ワイヤおよび電極の少なくとも一方の制御対象を制御して溶接を行う溶接装置に、前記制御対象の先端と、溶接個所とを含む溶接画像を撮影するステップと、過去に撮影された溶接画像である学習用画像と、前記学習用画像を見て溶接士が判断した前記制御対象の操作の適正度合を示す情報と、を含む学習用データを生成するステップと、前記学習用データを用いて、前記溶接画像を入力とし、前記制御対象の操作の適正度合を出力する学習モデルを構築するステップと、前記学習モデルを用いて、取得した前記溶接画像における前記制御対象の操作の適正度合を推定するステップと、前記操作の適正度合の推定結果に基づいて、前記制御対象を制御するステップと、を実行させる。
【発明の効果】
【0009】
本開示に係る溶接装置、溶接方法、およびプログラムによれば、熟練した溶接士の溶接技能を学習した学習モデルを用いて、より溶接品質の高い自動溶接を行うことができる。
【図面の簡単な説明】
【0010】
【
図1】本開示の第1の実施形態に係る溶接装置の全体構成を示す概略図である。
【
図2】本開示の第1の実施形態に係る制御装置の機能構成を示すブロック図である。
【
図3】本開示の第1の実施形態に係る溶接装置の学習モード時の処理の一例を示すフローチャートである。
【
図4】本開示の第1の実施形態に係る学習用データの一例を示す図である。
【
図5】本開示の第1の実施形態に係る溶接装置の制御モード時の処理の一例を示すフローチャートである。
【
図6】本開示の第2の実施形態に係る制御装置の機能構成を示すブロック図である。
【
図7】本開示の第3の実施形態に係る学習用データの一例を示す図である。
【
図8】本開示の第4の実施形態に係る溶接装置の全体構成を示す概略図である。
【
図9】本開示の第4の実施形態に係る学習用データの一例を示す図である。
【
図10】本開示の第5の実施形態に係る溶接装置の全体構成を示す概略図である。
【
図11】本開示の第5の実施形態に係る学習用データの一例を示す図である。
【
図12】本開示の第6の実施形態に係る制御装置の機能を説明するための図である。
【
図13】本開示のその他の実施形態に係る溶接装置の機能構成を示すブロック図である。
【発明を実施するための形態】
【0011】
<第1の実施形態>
以下、本開示の第1の実施形態に係る溶接装置1について、
図1~
図5を参照しながら説明する。
【0012】
(溶接装置の全体構成)
図1は、本開示の第1の実施形態に係る溶接装置の全体構成を示す概略図である。
図1に示すように、溶接装置1は、本体部10と、制御装置20とを備えている。
【0013】
本体部10は、制御装置20の制御に従って、母材3に対するアーク溶接を実行する。本体部10は、溶接トーチ100と、溶接ワイヤ供給部110と、カメラ120とを備えている。
【0014】
溶接トーチ100には、タングステン等からなる電極101が取り付けられている。
【0015】
溶接ワイヤ供給部110は、ワイヤノズル111を介して溶接ワイヤ40を母材3の溶接個所に向けて送出する。
【0016】
溶接トーチ100が電極101に電力を供給すると、電極101からのアーク放電により母材3(開先31)が溶融し、溶接ワイヤ40の先端部分が母材3の溶融部に供給されることで溶融し、母材および溶接ワイヤが希釈した溶融池41が形成される。この溶融池が冷えて固化することにより、母材3が溶接される。
【0017】
カメラ120は、電極101および溶接ワイヤ40の先端と、母材3の溶接個所とを含む溶接画像を撮影する。
【0018】
制御装置20は、カメラ120が撮影した溶接画像に基づいて、電極101および溶接ワイヤ40の少なくとも一方の制御対象を制御するための制御信号を出力する。なお、本実施形態では、
図1に示すように、溶接装置1がタングステン等からなる電極101を用いる、いわゆるティグ溶接装置である例について説明する。また、本実施形態に係る制御装置20は、電極101および溶接ワイヤ40の両方を制御対象とする例について説明する。また、このとき電極101の制御においては電極を左右に揺動させる(ウィービング幅)の制御も含む。
【0019】
なお、他の実施形態では、溶接装置1は、マグ溶接装置、ミグ溶接装置等であってもよい。この場合、溶接トーチ100は、電極101に代えて、溶接ワイヤ供給部110から溶接トーチ100内に送出された溶接ワイヤ40を使用する。また、このとき、制御装置20は、溶接ワイヤ40のみを制御対象とする。
【0020】
制御信号は、例えば、電極101の位置、溶接ワイヤ40の位置、および溶接ワイヤ40の引き出し量(送出量)などを指示する信号である。溶接トーチ100は、制御装置20の制御信号に従って、電極101の位置を左右方向(±Y方向)に移動する。溶接ワイヤ供給部110は、制御装置20の制御信号に従って、溶接ワイヤ40の位置を上下方向(±Z方向)、および左右方向(±Y方向)に移動する。また、溶接ワイヤ供給部110は、制御装置20の制御信号に従って、溶接ワイヤ40を母材3に向けて送出する。
【0021】
(制御装置の機能構成)
図2は、本開示の第1の実施形態に係る制御装置の機能構成を示すブロック図である。
図2に示すように、制御装置20は、プロセッサ21と、メモリ22と、ストレージ23と、通信インタフェース24とを備えている。
【0022】
プロセッサ21は、所定のプログラムに従って動作することにより、取得部210、推定部211、制御部212、データ生成部213、および学習部214としての機能を発揮する。
【0023】
取得部210は、本体部10のカメラ120が撮影した溶接画像を取得する。
【0024】
推定部211は、溶接画像を入力とし、溶接ワイヤ40および電極101の操作の適正度合を出力とする学習モデルMを用いて、取得した溶接画像における溶接ワイヤ40および電極101の操作の適正度合を推定する。なお、推定部211は、後述の学習部214により予め学習済みの学習モデルMをストレージ23から読み出して使用する。
【0025】
推定部211は、例えば、電極101の左右および上下それぞれの方向への移動に対する操作の適正度合を、「過大」、「適正」、「過小」の三段階で推定する。また、推定部211は、溶接ワイヤ40の左右および上下それぞれの方向への移動に対する操作を、「過大」、「適正」、「過小」の三段階で推定する。なお、推定部211は、溶接ワイヤ40の引き出し量に関する操作を「過大」、「適正」、「過小」の三段階でさらに表してもよい。また、他の実施形態では、操作の評価を三段階よりも多く細分化してもよい。
【0026】
制御部212は、推定部211の推定結果に基づいて、溶接ワイヤ40および電極101を制御する。例えば、制御部212は、電極101の左方向への操作について、「過大」と推定された場合は電極101を右方向へ、「過少」と推定された場合は電極101を左方向へ移動する制御信号を生成して、溶接トーチ100へ出力する。そうすると、溶接トーチ100は、制御信号に従って、電極101を左右へ移動する。また、制御部212は、電極101の左方向への操作について、「適正」と評価された場合は電極101の左右方向への移動制御を行わない(制御信号を出力しない、または、左右方向の位置を保持する制御信号を出力する)。そうすると、溶接トーチ100は、次の制御信号を受け付けるまで、電極101の左右方向の位置を移動しない。
【0027】
データ生成部213は、過去に撮影された溶接画像である学習用画像と、学習用画像を撮影した際に溶接士が行った溶接ワイヤ40および電極101の操作の適正度合を示す情報と、を含む学習用データを生成する。
【0028】
学習部214は、学習用データを用いて深層学習を行うことにより、学習モデルMを構築する。
【0029】
メモリ22は、プロセッサ21の動作に必要なメモリ領域を有する。
【0030】
ストレージ23は、いわゆる補助記憶装置であって、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)等である。ストレージ23には、カメラ120が撮影した溶接画像や、学習済みの学習モデルMなどが記憶される。
【0031】
通信インタフェース24は、外部装置(本体部10など)との間で各種情報(信号)の送受信を行うためのインタフェースである。
【0032】
なお、制御装置20のプロセッサ21が実行する所定のプログラムは、コンピュータ読み取り可能な記録媒体に記憶される。また、コンピュータ読み取り可能な記録媒体とは、磁気ディスク、光磁気ディスク、CD-ROM、DVD-ROM、半導体メモリ等をいう。また、このコンピュータプログラムを通信回線によってコンピュータに配信し、この配信を受けたコンピュータが当該プログラムを実行するようにしてもよい。さらに、このプログラムは、上述した機能の一部を実現するためのものであってもよい。更に、上述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
【0033】
本実施形態に係る制御装置20は、学習モードおよび制御モードの2つのモードを有している。制御装置20は、学習モード時、学習部214による学習モデルMの構築を行う。また、制御装置20は、制御モード時、学習部214により学習済みの学習モデルMを使って、溶接装置1の本体部10の制御(溶接の自動実行)を行う。以下、各モード時の処理の詳細について説明する。
【0034】
(学習モードの処理フロー)
図3は、本開示の第1の実施形態に係る溶接装置の学習モード時の処理の一例を示すフローチャートである。
ここでは、
図3を参照しながら、学習モードにおける溶接装置1の処理の流れについて説明する。
【0035】
まず、制御装置20の学習部214は、学習に用いる溶接画像および操作情報を取得する(ステップS100)。例えば、学習部214は、過去に溶接士(熟練した溶接士)が実施した溶接の様子を撮影した複数の溶接画像と、各溶接画像を撮影したときに溶接士が電極101および溶接ワイヤ40に対し行った操作の内容(操作情報)とを対応付けて取得する。
【0036】
また、データ生成部213は、取得した溶接画像および操作情報に基づいて、学習用データD1および評価用データD2を作成する(ステップS101)。
【0037】
図4は、本開示の第1の実施形態に係る学習用データの一例を示す図である。
例えば、
図4に示すように、データ生成部213は、各溶接画像について、電極101および溶接ワイヤ40の操作の適正度合を示すラベル(正解データ)を付加して、学習用データD1を生成する。例えば、電極101および溶接ワイヤ40のそれぞれについて「過大」、「適正」、「過小」のいずれかが入力される。データ生成部213は、同様に、全ての溶接画像について、操作がどの方向に対して「過大」、「適正」、「過小」であるか、ラベル付けを行う。なお、溶接士が各溶接画像を見て、ラベルを指定する操作を行ってもよい。データ生成部213は、各溶接画像について、溶接士が指定したラベルを付加して学習用データD1を生成する。また、データ生成部213は、ラベル付けを行った学習用データD1のうち、一部を評価用データD2として分割しておく。
【0038】
なお、データ生成部213は、操作情報の時系列に基づいて、各溶接画像における電極101および溶接ワイヤ40の操作の適正度合を判断し、ラベルを自動的に付加してもよい。例えば、
図4に示す溶接画像に対応付けられた操作情報と、その前の時刻の操作情報から、溶接士が電極101の右への移動を止めて左に移動させる操作、および、溶接ワイヤ40を停止する操作(無操作)を行ったことを検出したとする。この場合、データ生成部213は、この溶接画像について、電極101の左右方向(右方向)への操作が「過大」であり、溶接ワイヤ40の左右方向の操作が「適正」であるとのラベルを付加する。また、例えば、操作情報の時系列から、電極101を右に移動し続ける操作を検出した場合に、データ生成部213は、電極101の左右方向(右方向)への操作が「過小」であるとのラベルを付加する。
【0039】
次に、学習部214は、溶接画像(学習用画像)と、ラベル(正解データ)とからなる学習用データD1を用いて深層学習を行った学習モデルMを構築する(ステップS102)。
【0040】
例えば、
図4に示すように、溶接個所を撮影した溶接画像には母材3、開先31、電極101、溶接ワイヤ40、溶融池41、ビード42、アークAなど様々な要素が含まれる。上記したように、熟練した溶接士は、溶融池41の端部位置や、電極101および溶接ワイヤ40の先端位置などの位置情報のみではなく、溶融池41の開先31の境界へのかかり具合(開先の濡れ性)、溶融池41の溶接済み箇所(ビード42上)へのかかり具合などの定量化が困難な情報も加味して、電極101および溶接ワイヤ40の操作量を調節している。本実施形態に係る溶接装置1において、学習部214は、溶接画像の特徴量と、この溶接画像を見て溶接士が実行した操作との関係を学習することにより、定量化が困難な情報を学習モデルMに組み込むことが可能となる。これにより、学習部214は、溶接画像に基づいて、熟練した溶接士の判断により近い推定を行うことができる学習モデルMを構築することができる。
【0041】
次に、学習部214は、ステップS102で構築した学習モデルMを学習用データD1で評価する(ステップS103)。この学習用データD1は、ステップS102と同じデータセットが用いられる。具体的には、学習部214は、学習モデルMに学習用データD1の溶接画像のみを入力して、各溶接画像の操作量の適正度合を出力させる。学習部214は、学習モデルMの各溶接画像の出力結果と、正解データとに基づいて、学習用データD1の性能評価を行う。
【0042】
さらに、学習部214は、ステップS102で構築した学習モデルMを評価用データD2で評価する(ステップS104)。この評価用データD2は、学習モデルMの学習に用いられていないデータセットである。学習部214は、学習モデルMに評価用データD2の溶接画像のみを入力して、各溶接画像の操作量の適正度合を出力させる。学習部214は、学習モデルMの各溶接画像の出力結果と、正解データとに基づいて、評価用データD2の性能評価を行う。なお、学習部214は、学習用データD1および評価用データD2それぞれに対する性能評価結果として、例えば、正解率、損失関数などを算出する。
【0043】
また、学習部214は、学習モデルMと、学習用データD1の性能評価結果と、評価用データD2の性能評価結果とを紐づけてストレージ23に記憶する(ステップS105)。
【0044】
次に、学習部214は、終了条件を満たしたか判断する(ステップS106)。例えば、学習部214は、学習用データD1の性能評価結果と、評価用データD2の性能評価結果がいずれも所定値以上で収束した場合に、終了条件を満たしたと判断する(ステップS106;YES)。この場合、学習部214は、構築した複数の学習モデルMのうち、最も性能評価結果の高い学習モデルMを、制御モードで使用するモデルとして採用する(ステップS107)。
【0045】
一方、学習部214は、終了条件を満たしていない場合(ステップS106;NO)、ステップS102に戻り、新たに学習モデルMを構築する。
【0046】
(制御モードの処理フロー)
図5は、本開示の第1の実施形態に係る溶接装置の制御モード時の処理の一例を示すフローチャートである。
ここでは、
図5を参照しながら、制御モードにおける溶接装置1の処理の流れについて説明する。
【0047】
溶接装置1が母材3の溶接を自動実行する際、カメラ120は、母材3の溶接個所を撮影する。制御装置20の取得部210は、カメラ120が撮影した溶接画像を取得する(ステップS110)。
【0048】
次に、推定部211は、現時点における電極101および溶接ワイヤ40の操作の適正度合を推定する(ステップS111)。具体的には、推定部211は、学習モデルMに取得した溶接画像を入力して、出力された推定結果(「過大」、「適正」、「過小」の何れかを示す情報)を得る。
【0049】
次に、制御部212は、推定部211の推定結果に基づいて、電極101および溶接ワイヤ40を制御するための制御信号を生成し、溶接トーチ100および溶接ワイヤ供給部110それぞれに出力する(ステップS112)。例えば、
図4の例のように、電極101の右方向への操作が「過大」である場合、制御部212は、電極101を左方向に移動させる制御信号を生成して、溶接トーチ100に出力する。また、
図4の例のように、溶接ワイヤ40の下方向への操作が「過小」である場合、制御部212は、電極101を下方向に移動させる制御信号を生成して、溶接トーチ100に出力する。さらに、
図4の例のように、電極101の下方向への操作、および溶接ワイヤ40の右方向への操作が「適正」である場合、制御部212は、電極101の上下方向の移動、および、溶接ワイヤ40の左右方向への移動が不要であると判断し、溶接ワイヤ供給部110にこれらの移動に関する制御信号を出力しなくてもよい。
【0050】
溶接装置1は、時々刻々と
図5の一連の処理を繰り返して、自動的に溶接を行う。
【0051】
(作用、効果)
以上のように、本実施形態に係る溶接装置1は、電極101および溶接ワイヤ40の先端と、母材3の溶接個所とを含む溶接画像を撮影するカメラ120と、過去に撮影された溶接画像である学習用画像と、学習用画像を見て溶接士が判断した電極101および溶接ワイヤ40の操作とを含む学習用データを用いて学習モデルMを構築する学習部214と、学習モデルMを用いて、取得した溶接画像における操作の適正度合を推定する推定部211と、推定部211の推定結果に基づいて電極101および溶接ワイヤ40を制御する制御部212と、を備える。
【0052】
例えば、電極、溶接ワイヤ、溶融池などの位置関係が同じであっても、溶接士は、溶接画像から得られる溶接個所の様々な状態(例えば、開先の濡れ性など)との組み合わせから、電極や溶接ワイヤの操作が適正であるか、過大または過小であるか、異なる判断をする場合がある。このため、従来技術のように、各部の位置座標のみに基づいて電極や溶接ワイヤの制御を行った場合、溶接士の判断とは異なる制御を行ってしまい、溶接士が手動で溶接するよりも溶接品質が低下する可能性があった。これに対し、本実施形態に係る溶接装置1は、上記したように、学習用画像の特徴量と、溶接士が学習用画像内の溶接個所の状態を見ながら実行する操作との関係を学習することにより、各部の位置情報のみならず、溶接士が溶接の判断に用いる情報であって、定量化が困難な情報についても学習モデルMに組み込むことが可能となる。これにより、制御モード時の溶接装置1は、学習モデルMにより、操作の適正度合(例えば、操作が「過大」か、「適正」か、「過小」か)を、溶接士の判断に近いレベルで推定することができる。また、溶接装置1は、この推定結果に基づいて電極101および溶接ワイヤ40を制御して自動溶接を行うことにより、溶接士が手動で行った場合の溶接品質に近づけることができる。つまり、本実施形態に係る溶接装置1は、溶接画像内の各部の位置情報のみに基づいて制御を行う従来技術と比較して、溶接品質の高い自動溶接を行うことができる。
【0053】
<第2の実施形態>
次に、本開示の第2の実施形態に係る溶接装置1について、
図6を参照しながら説明する。
第1の実施形態と共通の構成要素には同一の符号を付して詳細説明を省略する。
【0054】
図6は、本開示の第2の実施形態に係る学習用データの一例を示す図である。
図6に示すように、本実施形態に係るデータ生成部213は、
図3のステップS101において、過去に撮影された溶接画像において溶接士が着目しない領域をマスキングした学習用画像を含む学習用データD1を生成する。
【0055】
溶接士は、溶融池41の開先31側面へのなじみ(開先31の形状の変化)や、ビード42への溶融池41の被さり方などを見て、電極101および溶接ワイヤ40の操作量が適正であるかを判断している。例えば、
図7に示すように、溶接士は、溶接画像のこれらの特徴が現れる着目領域R1を参照して、操作量の判断を行う。しかしながら、深層学習では、溶接画像内に含まれる分かりやすい特徴(例えば、アークA周辺などの輝度変化の大きな箇所)を学習してしまい、溶接士が実際に着目している領域(着目領域R1)の特徴を十分に学習できない可能性がある。
【0056】
このため、本実施形態に係るデータ生成部213は、
図6に示すように、溶接画像の溶接士が着目しない非着目領域R2を恣意的にマスキングした学習用データD1を生成する。例えば、データ生成部213は、各溶接画像について、溶接士が指定した領域を非着目領域R2として設定する。非着目領域R2は、一つであってもよいし、複数であってもよい。非着目領域R2として、例えば、電極101や輝度変化の大きいアークAが含まれる領域や、開先肩(溶接されない箇所)が含まれる領域などが設定される。
【0057】
また、本実施形態に係る学習部214は、
図3のステップS102において、マスキング済みの溶接画像(学習用画像)を含む学習用データD1に基づいて、学習モデルMの学習を行う。
【0058】
このようにすることで、溶接装置1は、特定条件の溶接画像でしか学習できない(学習用データD1のサンプル数が少ない)場合であっても、学習モデルMが着目領域R1における共通的特徴量を獲得できるように、効果的に深層学習を行うことができる。また、これにより、溶接装置1は、制御モード時に、溶接画像における着目領域R1に含まれる特徴に基づいて、電極101および溶接ワイヤ40の操作が適正であるか否かを精度よく推定することが可能となる。
【0059】
<第3の実施形態>
次に、本開示の第3の実施形態に係る溶接装置1について、
図7を参照しながら説明する。
上述の各実施形態と共通の構成要素には同一の符号を付して詳細説明を省略する。
【0060】
図7は、本開示の第3の実施形態に係る学習用データの一例を示す図である。
図7に示すように、本実施形態に係るデータ生成部213は、
図3のステップS101において、過去に撮影された溶接画像の輪郭を抽出した学習用画像を含む学習用データD1を生成する。
【0061】
第2の実施形態で述べたように、深層学習では、溶接画像内に含まれる分かりやすい特徴(例えば、アークA周辺などの輝度の変化の大きな箇所)を学習してしまい、実際に溶接士が着目する領域の特徴を十分に学習できない可能性がある。このため、本実施形態に係るデータ生成部213は、溶接士が注目していない領域の学習を行ってしまうことを抑制するために、溶接画像から操作の判断に不要な情報を省略して学習用データD1を生成する。
【0062】
具体的には、データ生成部213は、元となる溶接画像に既知のエッジ検出処理を施して、溶接画像に含まれる各部の輪郭のみを検出して抽出したエッジ画像を生成する。また、データ生成部213は、エッジ画像から、操作の判断に不要な情報を除去する処理をさらに行ってもよい。
図7の例では、データ生成部213は、開先の側壁に映る電極の鏡像を除去する処理を行う。
【0063】
また、本実施形態に係る学習部214は、
図3のステップS102において、エッジ画像である溶接画像(学習用画像)を含む学習用データD1に基づいて、学習モデルMの学習を行う。
【0064】
このようにすることで、溶接装置1は、入力となる画像に対して、必要最低限の情報である各部のエッジのみを含む画像を用いることにより、溶接士が注目していない領域を省いて、効率的に学習モデルMを学習することができる。これにより、溶接装置1は、制御モード時に、電極101および溶接ワイヤ40の操作が適正であるか否かを精度よく推定することが可能となる。この結果、溶接装置1は、操作の適正度合に基づいて、電極101および溶接ワイヤ40を適切に制御することができる。
【0065】
<第4の実施形態>
次に、本開示の第4の実施形態に係る溶接装置1について、
図8~
図9を参照しながら説明する。
上述の各実施形態と共通の構成要素には同一の符号を付して詳細説明を省略する。
【0066】
図8は、本開示の第4の実施形態に係る溶接装置の全体構成を示す概略図である。
図8に示すように、本実施形態に係る溶接装置1は、溶接ワイヤ供給部110のワイヤノズル111に設けられたトルクセンサ112(第1センサ)をさらに備えている。トルクセンサ112は、溶接ワイヤ40の先端が母材3に接触した際、ワイヤノズル111に生じる力を検出する。
【0067】
本実施形態に係る取得部210は、
図3のステップS100において、トルクセンサ112から、溶接ワイヤ40の母材3への接触状態を検出可能な第1センサ情報をさらに取得する。
【0068】
図9は、本開示の第4の実施形態に係る学習用データの一例を示す図である。
データ生成部213は、
図3のステップS101において、第1センサ情報に基づいて溶接ワイヤ40の操作を検出して、溶接ワイヤ40の上下方向(±Z方向)における操作の適正度合を特定する。また、データ生成部213は、トルクセンサ112のセンサ情報と同時刻に取得した溶接画像に溶接ワイヤ40の上下方向(±Z方向)における操作の適正度合を示す情報(ラベル)を付加した学習用データD1(
図9)を生成する。例えば、トルクセンサ112の第1センサ情報の時系列から、溶接士が溶接ワイヤ40を下側へ移動し続ける操作を行ったことを検出した場合、データ生成部213は、このセンサ情報に対応する溶接画像に溶接ワイヤ40の上下方向(下方向)への操作が「過小」であるとのラベルを付加する。なお、他の実施形態では、溶接士が溶接画像および第1センサ情報の組み合わせを見て、ラベルを指定してもよい。この場合、データ生成部213は、溶接画像に溶接士が指定したラベルを付した学習用データD1を生成する。
【0069】
学習部214は、
図3のステップS102において、データ生成部213が生成した学習用データD1に基づいて学習モデルMを学習する。
【0070】
図8の例のように、カメラ120を溶接個所の斜め上前方(+Z方向且つ+X方向)に配置したとき、特に溶接ワイヤ40の剛性が小さく柔らかい(溶けやすい)場合においては、溶接画像における溶接ワイヤ40の位置の差異がわずかとなる。そうすると、溶接画像から溶接ワイヤ40の上下方向(±Z方向)の位置を特定することが困難となる場合がある。これに対し、本実施形態に係る溶接装置1は、トルクセンサ112で検出した溶接ワイヤ40の接触状態から、溶接ワイヤ40の上下方向における操作の適正度合を学習した学習モデルMを構築することが可能となる。
【0071】
また、制御モード時には、取得部210は、
図5のステップS110において、溶接画像とともに、トルクセンサ112の第1センサ情報を取得する。推定部211は、
図5のステップS111において、溶接画像と第1センサ情報とを学習モデルMに入力し、現時点における電極101および溶接ワイヤ40の操作の適正度合を出力として得る。また、制御部212は、
図5のステップS112において、電極101および溶接ワイヤ40の操作の適正度合に基づいて、電極101および溶接ワイヤ40を制御するための制御信号を生成および出力する。これにより、溶接装置1は、制御モード時に、溶接ワイヤ40の上下方向における操作が適正であるか否かについても、精度よく推定することが可能となる。このため、溶接装置1は、溶接ワイヤ40の上下方向についても適切に制御して、溶接品質をさらに向上させることができる。
【0072】
なお、第4の実施形態では、データ生成部213が、トルクセンサ112のセンサ情報に基づき、溶接ワイヤ40の上下方向の操作の適正度合の情報(ラベル)を付加した学習用データD1を生成する例について説明したが、これに限られることはない。他の実施形態では、データ生成部213は、トルクセンサ112の第1センサ情報を直接、学習用データD1に含めてもよい。学習部214は、溶接画像と、ラベルと、トルクセンサ112の第1センサ情報とに基づいて、電極101の左右方向の操作の適正度合と、溶接ワイヤ40の左右方向および上下方向の操作の適正度合とを学習する。このような態様であっても、溶接装置1は、溶接ワイヤ40の上下方向における操作が適正であるか否かについて精度よく推定することが可能となる。
【0073】
<第5の実施形態>
次に、本開示の第5の実施形態に係る溶接装置1について、
図10~
図11を参照しながら説明する。
上述の各実施形態と共通の構成要素には同一の符号を付して詳細説明を省略する。
【0074】
図10は、本開示の第5の実施形態に係る溶接装置の全体構成を示す概略図である。
図10に示すように、本実施形態に係る溶接装置1は、溶接トーチ100に設けられ、溶接トーチ100の位置および姿勢の少なくとも一方を検出するセンサ102(第2センサ)をさらに備えている。センサ102は、例えば、溶接トーチ100の姿勢(角度)を検出可能な加速度センサである。また、センサ102は、溶接トーチ100の位置および姿勢を検出可能なエンコーダである。さらに、センサ102は、加速度センサおよびエンコーダの組み合わせであってもよい。溶接トーチ100の位置および姿勢は、例えば、基準位置(例えば、溶接装置1を設置時の初期位置、初期角度)に対する相対位置および相対角度で表される。
【0075】
本実施形態に係る取得部210は、
図3のステップS100において、センサ102から、溶接ワイヤ40の位置または姿勢を検出可能な第2センサ情報をさらに取得する。
【0076】
図11は、本開示の第5の実施形態に係る学習用データの一例を示す図である。
データ生成部213は、
図3のステップS101において、センサ102の第2センサ情報を含む学習用データD1(
図11)を生成する。
【0077】
学習部214は、
図3のステップS102において、データ生成部213が生成した学習用データD1に基づいて学習モデルMを学習する。
【0078】
溶接中に溶接トーチ100の位置や姿勢が変化すると、溶接個所の状態(例えば、溶融池41の流れ具合など)が変化する。このため、溶接トーチ100の位置および姿勢を変えながら溶接を行うケースでは、溶接画像のみに基づいて学習モデルMの学習を行うと、操作の適正度合の推定精度が低下する可能性がある。これに対し、本実施形態に係る溶接装置1は、溶接トーチ100の位置および姿勢を検出可能な第2センサ情報を含む学習用データD1を用いることにより、溶接トーチ100の位置および姿勢を加味した学習モデルMを学習することができる。
【0079】
また、制御モード時には、取得部210は、
図5のステップS110において、溶接画像とともに、センサ102の第2センサ情報を取得する。推定部211は、
図5のステップS111において、溶接画像と第2センサ情報とを学習モデルMに入力し、溶接画像を撮影した時点における溶接装置1の位置および姿勢に応じた、電極101および溶接ワイヤ40の操作の適正度合を出力として得る。また、制御部212は、
図5のステップS112において、電極101および溶接ワイヤ40の操作の適正度合に基づいて、電極101および溶接ワイヤ40を制御するための制御信号を生成および出力する。
【0080】
このような構成を有していることにより、溶接装置1は、溶接トーチ100の位置や姿勢を変えながら溶接するケースであっても、電極101および溶接ワイヤ40の操作の適正度合を精度よく推定することが可能となる。この結果、溶接装置1は、溶接トーチ100の位置や姿勢の変化に追随して、電極101および溶接ワイヤ40を適切に制御し、溶接品質を向上させることができる。
【0081】
<第6の実施形態>
次に、本開示の第6の実施形態に係る溶接装置1について、
図12を参照しながら説明する。
上述の各実施形態と共通の構成要素には同一の符号を付して詳細説明を省略する。
【0082】
溶接装置1のセッティング(溶接トーチ100、溶接ワイヤ供給部110、カメラ120の配置等)のばらつきや、母材3のセッティングのばらつきにより、溶接画像が変化すると、学習モデルMを効果的に学習できない可能性がある。このため、本実施形態に係るデータ生成部213は、
図3のステップS101において、過去に撮影された溶接画像に対し、溶接装置1と母材3との相対位置のばらつきを模擬した画像処理を加えた学習用画像を含む学習用データD1を生成する。
【0083】
図12は、本開示の第6の実施形態に係る制御装置の機能を説明するための図である。
具体的には、データ生成部213は、
図12に示すように、元の溶接画像に対し、各種画像処理を施した複数の加工画像を生成し、各加工画像を含む学習用データD1を生成する。
【0084】
例えば、データ生成部213は、溶接画像を平行移動、または回転させた加工画像を生成して、溶接装置1および母材のセッティングのばらつきを模擬した学習用データD1を生成する。データ生成部213は、溶接画像を拡大または縮小した加工画像を生成して、ピント合わせによる画角のばらつきを模擬した学習用データD1を生成する。データ生成部213は、溶接画像の輝度を変更した加工画像を生成して、輝度のばらつきを模擬した学習用データD1を生成する。データ生成部213は、溶接画像にガウシアンノイズを付与した加工画像を生成して、溶接画像がピンぼけ状態で撮影されたケースを模擬した学習用データD1を生成する。データ生成部213は、溶接画像のアスペクト比を変更した加工画像を生成して、電極101と溶接ワイヤ40との間の距離のばらつきを模擬した学習用データD1を生成する。
【0085】
また、本実施形態に係る学習部214は、
図3のステップS102において、元の溶接画像を含む学習用データD1と、加工画像(学習用画像)を含む学習用データD1とに基づいて、学習モデルMの学習を行う。
【0086】
このようにすることで、溶接装置1は、セッティングなどのばらつきを加味した学習モデルMを構築することができる。これにより、溶接装置1は、制御モードにおいて、セッティングなどのばらつきに影響されることなく、精度よく電極101および溶接ワイヤ40を制御することが可能となる。
【0087】
<その他の実施形態>
図13は、本開示のその他の実施形態に係る溶接装置の機能構成を示すブロック図である。
上述の各実施形態では、制御装置20が学習用データD1および評価用データD2を生成するデータ生成部213を有する例について説明したが、これに限られることはない。例えば、
図13に示すように、溶接装置1は、制御装置20とは別に、データ生成部213を有するデータ生成サーバ50を備えていてもよい。この場合、学習用データD1および評価用データD2は、データ生成サーバ50のデータ生成部213において生成される。また、制御装置20は、通信インタフェース24を介してデータ生成サーバ50から学習用データD1および評価用データD2を取得して、ストレージ23に記憶する。このような構成であっても、溶接装置1は、上述の各実施形態と同様の効果を得ることが可能である。
【0088】
以上のとおり、本開示に係るいくつかの実施形態を説明したが、これら全ての実施形態は、例として提示したものであり、発明の範囲を限定することを意図していない。これらの実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で種々の省略、置き換え、変更を行うことができる。これらの実施形態及びその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【0089】
<付記>
上述の実施形態に記載の溶接装置、溶接方法、およびプログラムは、例えば以下のように把握される。
【0090】
(1)本開示の第1の態様によれば、溶接ワイヤ40および電極101の少なくとも一方の制御対象を制御して溶接を行う溶接装置1は、制御対象の先端と、溶接個所とを含む溶接画像を撮影するカメラ120と、過去に撮影された溶接画像である学習用画像と、学習用画像を見て溶接士が判断した制御対象の操作の適正度合を示す情報と、を含む学習用データD1を生成するデータ生成部と、学習用データD1を用いて、溶接画像を入力とし、制御対象の操作の適正度合を出力する学習モデルMを構築する学習部214と、学習モデルMを用いて、取得した溶接画像における制御対象の操作の適正度合を推定する推定部211と、操作の適正度合の推定結果に基づいて、制御対象を制御する制御部212と、を備える。
【0091】
このようにすることで、溶接装置1は、学習用画像の特徴量と、学習用画像を撮影した際に、溶接士が画像内の溶接個所の状態を見ながら実行する操作との関係を学習することにより、溶接画像内の各部の位置情報のみならず、溶接士が溶接の判断に用いる情報であって、定量化が困難な情報を学習モデルMに組み込むことが可能となる。このように、溶接装置1は、熟練した溶接士の判断を学習した学習モデルMを用いて操作の適正度合を推定することにより、制御モード時に溶接品質の高い自動溶接を行うことができる。
【0092】
(2)本開示の第2の態様によれば、第1の態様に係る溶接装置1において、データ生成部213は、過去に撮影された溶接画像において溶接士が着目しない領域をマスキングした学習用画像を含む学習用データD1を生成する。
【0093】
このようにすることで、溶接装置1は、特定条件の溶接画像でしか学習できない(学習用データD1のサンプル数が少ない)場合であっても、学習モデルMが着目領域R1における共通的特徴量を獲得できるように、効果的に深層学習を行うことができる。また、これにより、溶接装置1は、制御モード時に、溶接画像における着目領域R1に含まれる特徴に基づいて、電極101および溶接ワイヤ40の操作が適正であるか否かを精度よく推定することが可能となる。
【0094】
(3)本開示の第3の態様によれば、第1の態様に係る溶接装置1において、データ生成部213は、過去に撮影された溶接画像の輪郭を抽出した学習用画像を含む学習用データD1を生成する。
【0095】
このようにすることで、溶接装置1は、入力となる画像に対して、必要最低限の情報である各部のエッジのみを含む画像を用いることにより、溶接士が注目していない領域を省いて、効率的に学習モデルMを学習することができる。これにより、溶接装置1は、制御モード時に、電極101および溶接ワイヤ40の操作が適正であるか否かを精度よく推定することが可能となる。この結果、溶接装置1は、操作の適正度合に基づいて、電極101および溶接ワイヤ40を適切に制御することができる。
【0096】
(4)本開示の第4の態様によれば、第1から第3の何れか一の態様に係る溶接装置1において、データ生成部213は、過去に撮影された溶接画像に対し、制御対象、カメラ120、および溶接個所の相対位置のばらつきを模擬した画像処理を加えた学習用画像を含む学習用データD1を生成する。
【0097】
このようにすることで、溶接装置1は、セッティングなどのばらつきを加味した学習モデルMを構築することができる。これにより、溶接装置1は、制御モードにおいて、セッティングなどのばらつきに影響されることなく、精度よく電極101および溶接ワイヤ40を制御することが可能となる。
【0098】
(5)本開示の第5の態様によれば、第1から第4の何れか一の態様に係る溶接装置1は、溶接ワイヤ40を送出するワイヤノズル111に設けられ、溶接ワイヤ40の溶接個所への接触状態を検出可能な第1センサ情報を出力する第1センサ112をさらに備え、学習部214は、第1センサ情報に基づいて特定した溶接ワイヤ40の操作をさらに含む学習用データD1を用いて学習モデルMを構築する。
【0099】
(6)本開示の第6の態様によれば、第1から第5の何れか一の態様に係る溶接装置1は、溶接装置1に設けられ、溶接装置1の位置および姿勢の少なくとも一方を検出可能な第2センサ情報を出力する第2センサ102をさらに備え、学習部214は、第2センサ情報をさらに含む学習用データD1を用いて学習モデルMを構築する。
【0100】
このようにすることで、溶接装置1は、溶接トーチ100の位置や姿勢を変えながら溶接するケースであっても、電極101および溶接ワイヤ40の操作の適正度合を精度よく推定することが可能となる。この結果、溶接装置1は、溶接トーチ100の位置や姿勢の変化に追随して、電極101および溶接ワイヤ40を適切に制御することができる。
【0101】
(7)本開示の第7の態様によれば、溶接ワイヤ40および電極101の少なくとも一方の制御対象を制御して溶接を行う溶接方法は、制御対象の先端と、溶接個所とを含む溶接画像を撮影するステップと、過去に撮影された溶接画像である学習用画像と、学習用画像を見て溶接士が判断した制御対象の操作の適正度合を示す情報と、を含む学習用データD1を生成するステップと、学習用データD1を用いて、溶接画像を入力とし、制御対象の操作の適正度合を出力する学習モデルMを構築するステップと、学習モデルMを用いて、取得した溶接画像における制御対象の操作の適正度合を推定するステップと、操作の適正度合の推定結果に基づいて、制御対象を制御するステップと、を有する。
【0102】
(8)本開示の第8の態様によれば、プログラムは、溶接ワイヤ40および電極101の少なくとも一方の制御対象を制御して溶接を行う溶接装置1に、制御対象の先端と、溶接個所とを含む溶接画像を撮影するステップと、過去に撮影された溶接画像である学習用画像と、学習用画像を見て溶接士が判断した制御対象の操作の適正度合を示す情報と、を含む学習用データD1を生成するステップと、学習用データD1を用いて、溶接画像を入力とし、制御対象の操作の適正度合を出力する学習モデルMを構築するステップと、学習モデルMを用いて、取得した溶接画像における制御対象の操作の適正度合を推定するステップと、操作の適正度合の推定結果に基づいて、制御対象を制御するステップと、を実行させる。
【符号の説明】
【0103】
1 溶接装置
10 本体部
100 溶接トーチ
101 電極
102 センサ(第2センサ)
110 溶接ワイヤ供給部
111 ワイヤノズル
112 トルクセンサ(第1センサ)
120 カメラ
20 制御装置
21 プロセッサ
210 取得部
211 推定部
212 制御部
213 データ生成部
214 学習部
22 メモリ
23 ストレージ
24 通信インタフェース
3 母材
40 溶接ワイヤ
50 データ生成サーバ