(58)【調査した分野】(Int.Cl.,DB名)
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、溶融池を含む領域を撮像する際に、溶融池に撮像条件を合わせた場合には、撮像画像において、溶融池ははっきりと映るが、溶融池の周囲にある被溶接物は非常に暗く、ほとんど映らない。他方、溶融池を含む領域を撮像する際に、溶融池の周囲にある被溶接物に撮像条件を合わせた場合には、撮像画像において、溶融池はアーク光の影響で真っ白になり、見えなくなるが、被溶接物の一部ははっきりと見える。
【0005】
このように、最適な撮像条件の異なる2つの対象物が撮像領域内に存在する場合、一度の撮像で、両方の対象物を撮像画像に映すことは難しい。そこで、例えば、2台のカメラを用意し、一方のカメラを一方の対象物に撮像条件を合わせて撮像を行うと同時に、他方のカメラを他方の対象物に撮像条件を合わせて撮像を行うことが考えられる。しかし、そのようにした場合には、溶接トーチ付近に2台のカメラを設置することになるので、いずれか一方のカメラが被溶接物に干渉し、溶接が困難になってしまうという問題がある。
【0006】
本発明はかかる問題点に鑑みてなされたものであり、その目的は、最適な撮像条件の互いに異なる2つの対象物を含む領域を1台のカメラで撮像することの可能な画像処理装置、溶接ロボットシステムおよび画像処理方法を提供することにある。
【課題を解決するための手段】
【0007】
参考例に係る画像処理装置は、制御部および導出部を備えている。制御部は、溶融池および溶融池の周囲を含む溶接領域が撮像領域として設定されたカメラ部のカメラ設定を切り替え制御しながらカメラ部の連続撮像制御を行うようになっている。導出部は、カメラ部によって得られた、カメラ設定の互いに異なる複数の撮像画像を用いて、溶融池に関する情報と、溶融池の周囲に関する情報とを導出するようになっている。
【0008】
参考例に係る溶接ロボットシステムは、溶接電極を含む溶接トーチを有し、制御信号に基づいて溶接トーチを移動させる移動部と、溶接時に溶接電極の先端位置に形成される溶融池および溶融池の周囲を含む溶接領域が撮像領域として設定されたカメラ部とを備えている。この溶接ロボットシステムは、さらに、上記の
参考例に係る画像処理装置を備えている。
【0009】
参考例に係る画像処理方法は、以下の2つのステップを含んでいる。
(1)第1カメラ設定で、溶融池および溶融池の周囲を含む撮像領域を1または複数枚、撮像することにより、1または複数の第1撮像画像を取得したのち、第1カメラ設定とは異なる第2カメラ設定で、撮像領域を1または複数枚、撮像することにより、1または複数の第2撮像画像を取得すること
(2)1または複数の第1撮像画像と、1または複数の第2撮像画像とを用いて、溶融池に関する情報と、溶融池の周囲に関する情報とを導出すること
【0010】
参考例に係る画像処理装置、
参考例に係る溶接ロボットシステムおよび
参考例に係る画像処理方法では、溶融池および溶融池の周囲を含む溶接領域が撮像領域として設定されたカメラ部のカメラ設定の切り替え制御が行われている間に、連続撮像制御が行われる。これにより、1台のカメラ部から、カメラ設定の互いに異なる複数の撮像画像が得られる。
【0011】
参考例に係る画像処理装置、
参考例に係る溶接ロボットシステムおよび
参考例に係る画像処理方法において、切り替えるカメラ設定としてシャッター速度が設定されてもよい。シャッター速度は、カメラ設定の中で、特に、高速に切り換え可能なものである。従って、カメラを移動させながら、溶接領域を撮像する際に、ほぼ同一の撮像領域に対して連続撮像が行われている間に、シャッター速度を、溶融池のコントラストが得られる値に設定したり、溶融池の周囲のコントラストが得られる値に設定したりすることができる。これにより、ほぼ同一の撮像領域において、シャッター速度の互いに異なる複数の撮像画像が得られる。
【0012】
本発明の第
1の画像処理装置は、制御部および導出部を備えている。制御部は、溶融池および溶融池の周囲を含む溶接領域が撮像領域として設定されたカメラ部のカメラ設定を固定してカメラ部
の撮像制御を行うようになっている。導出部は、
撮影制御の下でのカメラ部によって得られた
1枚の撮像画像、もしくは
1枚の撮像画像と所定の関係を有する
1枚の関連画像
に対して、複数のLUT(Look-Up Table)を用いた輝度変換を行うことにより、使用されたLUTの互いに異なる複数枚の輝度変換画像を生成し、複数枚の輝度変換画像を用いて、溶融池に関する情報と、溶融池の周囲に関する情報とを導出するようになっている。
本発明の第2の画像処理装置は、制御部および導出部を備えている。制御部は、溶融池および溶融池の周囲を含む溶接領域が撮像領域として設定されたカメラ部のカメラ設定を固定してカメラ部の連続撮像制御を行うようになっている。導出部は、連続撮影制御の下でのカメラ部によって得られた複数枚の撮像画像、もしくは複数枚の撮像画像と所定の関係を有する複数枚の関連画像に対して、複数のLUT(Look-Up Table)を用いた輝度変換を行うことにより、使用されたLUTの互いに異なる複数枚の輝度変換画像を生成し、複数枚の輝度変換画像を用いて、溶融池に関する情報と、溶融池の周囲に関する情報とを導出するようになっている。
【0013】
本発明の第
1の溶接ロボットシステムは、溶接電極を含む溶接トーチを有し、制御信号に基づいて溶接トーチを移動させる移動部と、溶接時に溶接電極の先端位置に形成される溶融池および溶融池の周囲を含む溶接領域が撮像領域として設定されたカメラ部とを備えている。この溶接ロボットシステムは、さらに、上記の第
1の画像処理装置を備えている。
本発明の第2の溶接ロボットシステムは、溶接電極を含む溶接トーチを有し、制御信号に基づいて溶接トーチを移動させる移動部と、溶接時に溶接電極の先端位置に形成される溶融池および溶融池の周囲を含む溶接領域が撮像領域として設定されたカメラ部とを備えている。この溶接ロボットシステムは、さらに、上記の第2の画像処理装置を備えている。
【0014】
本発明の第
1の画像処理方法は、以下の3つのステップを含んでいる。
(1)カメラ設定を固定して、溶融池および溶融池の周囲を含む撮像領域を
1枚、撮像することにより、
1枚の撮像画像を取得すること
(2)
得られた1枚の撮像画像、もしくは1枚の撮像画像と所定の関係を有する1枚の関連画像
に対して、複数のLUT(Look-Up Table)を用いた輝度変換を行うことにより、使用されたLUTの互いに異なる複数枚の輝度変換画像を生成すること
(3)輝度変換によって得られた複数
枚の輝度変換画像を用いて、溶融池に関する情報と、溶融池の周囲に関する情報とを導出すること
本発明の第2の画像処理方法は、以下の3つのステップを含んでいる。
(1)カメラ設定を固定して、溶融池および溶融池の周囲を含む撮像領域を複数枚、撮像することにより、複数枚の撮像画像を取得すること
(2)得られた複数枚の撮像画像、もしくは複数枚の撮像画像と所定の関係を有する複数枚の関連画像に対して、複数のLUT(Look-Up Table)を用いた輝度変換を行うことにより、使用されたLUTの互いに異なる複数枚の輝度変換画像を生成すること
(3)輝度変換によって得られた複数枚の輝度変換画像を用いて、溶融池に関する情報と、溶融池の周囲に関する情報とを導出すること
【0015】
本発明の
第1および第
2の画像処理装置、本発明の
第1および第
2の溶接ロボットシステムおよび本発明の
第1および第
2の画像処理方法で
は、互いに異なる複数のLUTに基づいて、カメラ部によって得られた1
もしくは複数の撮像画像、
または、1
もしくは複数の撮像画像と所定の関係を有する1
もしくは複数の関連画像の輝度変換が行われる。このように、本発明では、撮像後に、1または複数の撮像画像(もしくは関連画像)に対して、輝度変換という画像処理が行われる。従って、
本発明では、カメラ設定の変更を行う必要がない。これにより
、使用されたLUTの互いに異なる複数の
輝度変換画像が得られる。
【発明の効果】
【0016】
参考例に係る画像処理装置、
参考例に係る溶接ロボットシステムおよび
参考例に係る画像処理方法によれば
、カメラ設定の互いに異なる複数の
輝度変換画像が得られるようにしたので、最適な撮像条件の互いに異なる2つの対象物を含む領域を1台のカメラで撮像することができる。
【0017】
本発明の
第1および第2の画像処理装置、本発明の
第1および第2の溶接ロボットシステムおよび本発明の
第1および第2の画像処理方法によれば
、使用されたLUTの互いに異なる複数の
輝度変換画像が得られるようにしたので、最適な撮像条件の互いに異なる2つの対象物を含む領域を1台のカメラで撮像することができる。
【発明を実施するための形態】
【0019】
以下、本発明の一実施の形態について、図面を参照して詳細に説明する。なお、説明は以下の順序で行う。
1.実施の形態
カメラ設定を変更しながら連続撮影が行われる例
2.変形例
変形例A:LUTを変更しながら複数の画像を取得する例
変形例B:スパッタの写り込みを除去する例
【0020】
<1.実施の形態>
最初に、本発明の一実施の形態に係る溶接ロボットシステム1の概要について説明する。
図1は、溶接ロボットシステム1の概略構成の一例を表したものである。溶接ロボットシステム1は、プログラム制御された多関節ロボットによってワークWにアーク溶接を行うものである。ワークWは、例えば、教示データの取得に用いられる基準ワークの設計データ(例えば、寸法や材料など)と同一の設計データに従って製造されたワークであり、本来、溶接を行うべきワークである。ワークWは、例えば、
図2に示したように、同一面内に配置された2つの母材B1,B2からなる。母材B1の側面S1と母材B2の側面S2とが互いに近接して配置されている。側面S1および側面S2によって、V字型の開先形状が形成されている。V字型の開先において、母材B1の側面S1と母材B2の側面S2とが互いに近接する部分が、開先中心GCである。なお、ワークWは、V字型の開先形状を有するものに限定されるものではない。
【0021】
[構成]
次に、溶接ロボットシステム1の構成について説明する。溶接ロボットシステム1は、
図1に示したように、マニピュレータ10と、撮像装置20と、ロボット制御装置30と、ティーチペンダント40と、溶接機50と、画像処理装置60とを備えている。マニピュレータ10が本発明の「移動部」の一具体例に相当する。撮像装置20が本発明の「カメラ部」の一具体例に相当する。ロボット制御装置30が本発明の「制御部」の一具体例に相当する。画像処理装置60が本発明の「画像処理装置」「導出部」の一具体例に相当する。ロボット制御装置30および画像処理装置60は、
図1に示したように互いに別体で構成されていてもよいし、互いに一体に構成されていてもよい。また、ロボット制御装置30およびティーチペンダント40は、
図1に示したように互いに別体で構成されていてもよいし、互いに一体に構成されていてもよい。
【0022】
溶接ロボットシステム1は、例えば、各種装置同士を互いに接続するケーブルL1〜L7を備えている。ケーブルL1は、ロボット制御装置30とマニピュレータ10との間で通信するための通信ケーブルであり、ロボット制御装置30およびマニピュレータ10に接続されている。ケーブルL2は、ロボット制御装置30とティーチペンダント40との間で通信するための通信ケーブルであり、ロボット制御装置30およびティーチペンダント40に接続されている。ケーブルL3は、ロボット制御装置30と溶接機50との間で通信するための通信ケーブルであり、ロボット制御装置30および溶接機50に接続されている。ケーブルL4は、ロボット制御装置30と画像処理装置60との間で通信するための通信ケーブルであり、ロボット制御装置30および画像処理装置60に接続されている。ケーブルL5,L6は、後述の溶接電極14とワークWとの間に高電圧の溶接電圧Vsを供給するための電源ケーブルである。ケーブルL5は、溶接機50および後述の作業台15に接続されており、ケーブルL6は、溶接機50および後述の溶接トーチ13に接続されている。ケーブルL7は、画像処理装置60と撮像装置20との間で通信するための通信ケーブルであり、画像処理装置60および撮像装置20に接続されている。
【0023】
(マニピュレータ10)
マニピュレータ10は、ロボット制御装置30からの制御信号に基づいて溶接トーチ13を移動させることによって、ワークWに対してアーク溶接を行うようになっている。マニピュレータ10は、フロア等に固定されるベース部材11と、ベース部材11上に設けられた多関節アーム部12と、多関節アーム部12の先端に連結された溶接トーチ13と、作業台15とを有している。溶接トーチ13は、溶接電極14を含んで構成されている。溶接電極14は、溶接トーチ13の先端部分に固定されている。溶接トーチ13が本発明の「溶接トーチ」の一具体例に相当する。溶接電極14が本発明の「溶接電極」の一具体例に相当する。
【0024】
多関節アーム部12は、例えば、複数のアーム12Aと、2つのアーム12A同士を回動可能に連結する関節軸(図示せず)とを有している。多関節アーム部12は、さらに、例えば、アーム12Aごとに1つずつ設けられ、対応するアーム12Aを駆動する複数の駆動モータ(図示せず)と、各駆動モータに連結され、各アーム12Aの現在位置を検出するエンコーダ(図示せず)とを有している。各駆動モータは、ケーブルL1を介してロボット制御装置30から入力される制御信号によって駆動される。このようにして各駆動モータが駆動されることにより、各アーム12Aが変位し、結果的に溶接トーチ13が上下前後左右に移動する。エンコーダは、検出した各アーム12Aの現在位置(以下、「位置情報」と称する。)を、ケーブルL1を介してロボット制御装置30に出力するようになっている。
【0025】
多関節アーム部12の一端(先端)が溶接トーチ13に連結されており、多関節アーム部12の他端がベース部材11に連結されている。溶接電極14は、例えば、非溶極式の電極であり、例えば、タングステン等の高硬度の金属材料で構成されている。溶接トーチ13は、例えば、溶接電極14の先端とワークWとの間にアークを発生させ、そのアークの熱でワークW(さらには、溶加棒)を溶融させることにより、ワークWに対してアーク溶接を行うものである。なお、アーク溶接に溶加棒が使用される場合には、マニピュレータ10は、溶加棒を溶接トーチ13に供給するワイヤ送給装置をさらに有していてもよい。溶接トーチ13は、ケーブルL6に電気的に接続されたコンタクトチップ(図示せず)を有している。コンタクトチップは、ケーブルL6から供給される溶接電圧Vsを溶接電極14に供給するように構成されている。
【0026】
作業台15は、フロア等に固定されており、ワークWを設置する台座として使用される。作業台15は、ワークWに対するトーチ姿勢を最適に維持するためのポジショナであってもよい。作業台15が上述のポジショナである場合には、ロボット制御装置30によってポジショナの軸が駆動制御される。作業台15は、ケーブルL5を介して溶接機50に接続されており、作業台15に設置されるワークWとケーブルL5とを互いに電気的に接続するように構成されている。
【0027】
(撮像装置20)
撮像装置20は、焦点位置の固定されたカメラであり、例えば、単焦点カメラである。撮像装置20は、溶接トーチ13との関係で不動位置に固定されている。撮像装置20は、ケーブルL7を介して画像処理装置60から入力される制御信号に基づいて撮像を行うことにより、画像Iを取得するようになっている。撮像装置20は、可視光を選択的にカットするフィルタ20Aを撮像装置20の光入射面に有している。フィルタ20Aは、例えば、撮像装置20の光入射面に対して着脱可能な状態で固定されている。フィルタ20Aは、アーク溶接時に発生するアーク光に含まれる高強度の可視光線を減衰させるように構成されている。また、フィルタ20Aは、アーク溶接時に溶接電極14の先端から放射された近赤外線を透過するように構成されている。従って、撮像装置20では、フィルタ20Aが装着された状態では、画像Iとして、近赤外領域の画像が得られる。
【0028】
撮像装置20は、画像処理装置60から入力される制御信号に基づいて、カメラ設定STを切り替えながら連続撮像を行うようになっている。連続撮像とは、例えば、画像処理装置60からの1回の制御信号の入力によって、撮像装置20が自動で複数枚の画像の撮像を行うことを指している。制御信号は、複数のカメラ設定STを含んでいる。制御信号は、例えば、
図3に模式的に示したように、カメラ設定テーブルTaに含まれる2種類のカメラ設定ST(ST1,ST2)を含んでいる。カメラ設定ST1,ST2は、それぞれ、シャッター速度Vおよび撮像枚数Nを含んでいる。ここで、カメラ設定ST1には、シャッター速度Vとして、溶融池WPのコントラストが得られる値が設定されている。カメラ設定ST2には、シャッター速度Vとして、溶融池WPの周囲(例えば、開先中心GC)のコントラストが得られる値が設定されている。カメラ設定ST1におけるシャッター速度と、カメラ設定ST2におけるシャッター速度とが互いに異なっている。なお、カメラ設定テーブルTaには、3つ以上のカメラ設定STが含まれていてもよい。
【0029】
撮像装置20は、例えば、カメラ設定ST1に従って、所定の時に、シャッター速度V=0.2msecで、1枚、撮像を行い、所定の撮像周期(例えば、20msec)後に、例えば、カメラ設定ST2に従って、シャッター速度V=2msecで、1枚、撮像を行うようになっている。カメラ設定ST1に従って撮像されることにより得られる画像Iでは、溶融池WPがはっきりと映る。一方、カメラ設定ST2に従って撮像されることにより得られる画像Iでは、溶融池WPの周囲(例えば、開先中心GC)がはっきりと映る。
【0030】
撮像装置20は、撮像により得られた、カメラ設定STの互いに異なる複数の画像Iを、ケーブルL7を介して画像処理装置60に出力するようになっている。撮像装置20は、溶接領域WRに向けられており、溶接領域WRにピントの合う位置に配置されている。つまり、撮像装置20において、溶接領域WRが撮像領域として設定されている。溶接領域WRが本発明の「溶接領域」の一具体例に対応する。
【0031】
溶接領域WRは、溶融池WPおよび溶融池WPの周囲を含む領域であり、例えば、
図4に示したように、溶融池WPや、溶接電極14の先端、開先中心GCの一部を含む領域を指している。
図4は、アーク溶接時の溶接領域WRの一例を斜視的に表したものである。溶接時、溶接電極14の先端から放射された近赤外光が溶融池WPやワークWで反射する。その結果、溶融池WPやワークWで反射された近赤外光が、撮像装置20に入射する。
【0032】
(ロボット制御装置30)
図5は、ロボット制御装置30の概略構成の一例を表したものである。ロボット制御装置30は、ティーチペンダント40からの指示に従って多関節アーム部12、溶接機50および画像処理装置60を制御するものである。ロボット制御装置30は、制御部31と、サーボ制御部32と、通信部33と、記憶部34とを有している。以下では、記憶部34、サーボ制御部32、通信部33、制御部31の順に説明する。
【0033】
記憶部34は、各種プログラムや各種データファイルを記憶可能に構成されている。記憶部34は、多関節アーム12の動作を制御する制御ソフトウェア34Aを記憶している。制御ソフトウェア34Aは、例えば、ROM(read only memory)に格納されている。記憶部34は、さらに、マニピュレータ10の溶接作業の手順が教示された複数の作業プログラム34Bを記憶している。複数の作業プログラム34Bは、例えば、ハードディスクに格納されている。作業プログラム34Bには、例えば、移動命令や溶接命令等が記述されている。移動命令には、例えば、移動開始命令、移動停止命令、作業経路(教示点)、およびトーチ姿勢などが含まれ得る。溶接命令には、例えば、アーク溶接の開始命令、アーク溶接の終了命令、溶接電流Isの設定値、および溶接電圧Vsの設定値などが含まれ得る。
【0034】
サーボ制御部32は、マニピュレータ10の各駆動モータを制御するものである。サーボ制御部32は、例えば、作業プログラム34Bに記載の移動命令および座標データと、マニピュレータ10のエンコーダからの位置情報とに基づいて制御信号を生成するようになっている。サーボ制御部32は、生成した制御信号をマニピュレータ10に出力することにより、マニピュレータ10の各駆動モータを制御するようになっている。これにより、サーボ制御部32は、溶接トーチ13の制御を行うようになっている。
【0035】
通信部33は、ケーブルL2を介してティーチペンダント40と通信を行ったり、ケーブルL3を介して溶接機50と通信を行ったり、ケーブルL4を介して画像処理装置60と通信を行ったりするものである。通信部33は、ティーチペンダント40からの作業指令を受信し、受信した作業指令を制御部31に出力するようになっている。ティーチペンダント40からの作業指令には、例えば、再生する作業プログラム34Bの番号等が含まれ得る。また、通信部33は、制御部31からの溶接命令を、溶接機50に送信するようになっている。制御部31からの溶接命令には、例えば、アーク溶接の開始命令、アーク溶接の終了命令、溶接電流Isの設定値、および溶接電圧Vsの設定値などが含まれ得る。また、通信部33は、制御部31からの開始命令を、画像処理装置60に送信するようになっている。
【0036】
制御部31は、ティーチペンダント40から入力された作業指令に基づいて、作業プログラム34Bを読み出し、その内容を解析するようになっている。制御部31は、作業プログラム34Bの解析結果に基づいて、作業プログラム34Bに記載の指示に応じて、命令通知を生成するようになっている。制御部31は、生成した命令通知の内容に応じて、例えば、移動命令、溶接命令、試行開始命令、または倣い開始命令を出力するようになっている。制御部31は、移動命令を、サーボ制御部32に出力するようになっている。制御部31は、溶接命令を、通信部33を介して溶接機50に出力するようになっている。制御部31は、開始命令を、通信部33を介して画像処理装置60に出力するようになっている。
【0037】
(ティーチペンダント40、溶接機50)
ティーチペンダント40は、作業者がマニピュレータ10の動作を教示するものであり、例えば、再生する作業プログラムの番号や、モードの種類などを含む作業指令をロボット制御装置30に送信するようになっている。溶接機50は、ロボット制御装置30による制御信号に基づいて、溶接電流Isおよび溶接電圧Vs等を緻密に制御することにより、溶接電極14の先端とワークWとの間にアークを発生させるものである。
【0038】
(画像処理装置60)
図6は、画像処理装置60の概略構成の一例を表したものである。画像処理装置60は、撮像装置20から得られた複数の画像I(
図7参照)を処理するものである。
図7は、溶接領域WRの画像Iの一例を表したものである。画像処理装置60は、制御部61と、通信部62と、記憶部63とを有している。記憶部63は、各種ソフトウェアを記憶可能に構成されている。記憶部63は、画像処理ソフトウェア63Aおよびカメラ設定テーブルTaを記憶している。画像処理ソフトウェア63Aは、例えば、ROMに格納されている。カメラ設定テーブルTaは、RAMに格納されている。画像処理ソフトウェア63Aについては、後に詳述するものとする。記憶部63は、さらに、画像処理ソフトウェア63Aが実行されることにより生成される各種データを記憶可能に構成されている。そのようなデータを含むファイルとしては、例えば、画像ファイル63Bが挙げられる。画像ファイル63Bには、例えば、撮像装置20によって撮像された、カメラ設定STの互いに異なる複数の画像Iや、複数の画像Iに基づいて得られたもの(例えば、後述のグレイ画像Igなど)が格納され得る。画像ファイル63Bは、例えば、RAMに格納される。
【0039】
通信部62は、ケーブルL4を介してロボット制御装置30と通信を行ったり、ケーブルL7を介して撮像装置20と通信を行ったりするものである。通信部62は、ロボット制御装置30からの開始命令を受信して、受信した開始命令を制御部61に出力するようになっている。通信部62は、制御部61からの撮像命令(制御信号)を、撮像装置20に送信するようになっている。制御部61からの撮像命令(制御信号)には、例えば、撮像開始命令、撮像タイミングの設定値などが含まれ得る。通信部62は、撮像装置20からの複数の画像Iを受信して、受信した複数の画像Iを制御部61に出力するようになっている。
【0040】
制御部61は、ロボット制御装置30から入力された開始命令に基づいて、画像処理ソフトウェア63Aを読み出し、その内容を解析するようになっている。制御部61は、その解析結果に基づいて、画像処理ソフトウェア63Aに記載の指示に応じて、撮像命令(制御信号)を生成したり、所定の演算処理を実行したりするようになっている。制御部61は、生成した撮像命令(制御信号)を、通信部62を介して、撮像装置20に出力するようになっている。
【0041】
制御部61は、読み出した画像処理ソフトウェア63Aおよびカメラ設定テーブルTaに基づいて、例えば、以下のような動作を実行するようになっている。制御部61は、撮像装置20のカメラ設定STを切り替え制御しながら撮像装置20の連続撮像制御を行うようになっている。制御部61は、カメラ設定STの切り替え制御を行う際に、シャッター速度Vを、溶融池WPのコントラストが得られる値(例えば、0.2msec)に設定したり、溶融池WPの周囲(例えば開先中心GC)のコントラストが得られる値(例えば、2msec)に設定したりするようになっている。制御部61は、撮像装置20によって得られた、カメラ設定STの互いに異なる複数の画像Iを用いて、溶融池WPに関する情報Ixと、溶融池WPの周囲(例えば開先中心GC)に関する情報Iyとを導出するようになっている。制御部61は、得られた情報Ixおよび情報Iyから、例えば、溶融池WPの、開先中心GCからのずれ量などを導出するようになっていてもよい。
【0042】
制御部61は、カメラ設定STの互いに異なる複数の画像Iを、所定の方法で合成するようになっていてもよい。制御部61は、例えば、カメラ設定STの互いに異なる複数の画像Iを、HDR合成手法を用いて、合成するようになっていてもよい。HDR合成手法については、後に詳述する。
【0043】
[動作]
次に、画像処理ソフトウェア63Aを実行したときの溶接ロボットシステム1の動作手順について説明する。
【0044】
図8は、ロボット制御装置30、画像処理装置60および撮像装置20の動作手順の一例を表したものである。まず、ロボット制御装置30が、ティーチペンダント40から、作業プログラム34Bの番号を示す情報を含む作業指令を受信したとする(ステップS101)。すると、ロボット制御装置30は、該当する番号の作業プログラム34Bを読み出し、作業プログラム34Bに記載の指示に応じて命令通知を生成する。ロボット制御装置30は、例えば、作業プログラム34Bに記載の座標データを含む制御信号をマニピュレータ10に送信し、溶接命令を溶接機50に送信する。ロボット制御装置30は、さらに、開始命令を画像処理装置60に送信する(ステップS102)。マニピュレータ10は、ロボット制御装置30からの制御信号に応じて、溶接トーチ13を制御する。溶接機50は、ロボット制御装置30から溶接命令を受信すると、その内容に従って、例えば、溶接電流Isおよび溶接電圧Vsを制御する。その結果、アーク溶接が開始される。このとき、撮像装置20は、溶接トーチ13の移動に伴って移動する。
【0045】
画像処理装置60は、ロボット制御装置30から開始命令を受信すると(ステップS103)、例えば、内部状態を初期化する。その後、画像処理装置60は、撮像命令(制御信号)を生成し、撮像装置20に送信する(ステップS104)。画像処理装置60は、撮像命令(制御信号)として、例えば、撮像開始命令、撮像タイミングの設定値、およびカメラ設定テーブルTaに含まれる複数のカメラ設定STを撮像装置20に送信する。撮像装置20は、画像処理装置60から撮像命令(制御信号)を受信すると(ステップS105)、撮像命令に含まれる撮像開始命令に従って、撮像準備を開始する。撮像装置20は、続いて、撮像命令(制御信号)に含まれる撮像タイミングの設定値に従って、所定のタイミングごとに撮像を行う。このとき、撮像装置20は、撮像命令(制御信号)に含まれる複数のカメラ設定STに従って、カメラ設定STの切り替えと、連続撮像を行い、これにより、カメラ設定STの互いに異なる複数の画像Iを取得する(ステップS106)。各カメラ設定STは、シャッター速度を含んでおり、各カメラ設定STにおいて、シャッター速度Vが互いに異なっている。
【0046】
複数のカメラ設定STがカメラ設定ST1,ST2であった場合、撮像装置20は、カメラ設定ST1で、溶接領域WRを撮像領域として1枚、撮像することにより、1枚の画像I(画像Ia)を取得したのち、カメラ設定ST1とは異なるカメラ設定ST2で、溶接領域WRを撮像領域として1枚、撮像することにより、1枚の画像I(画像Ib)を取得する。カメラ設定ST1が、本発明の「第1カメラ設定」の一具体例に対応する。カメラ設定ST2が、本発明の「第2カメラ設定」の一具体例に対応する。カメラ設定ST1,ST2は、シャッター速度Vを含んでいる。カメラ設定ST1におけるシャッター速度と、カメラ設定ST2におけるシャッター速度とが互いに異なっている。撮像装置20は、例えば、カメラ設定ST1に従って、所定の時に、シャッター速度V=0.2msecで、1枚、撮像を行い、所定の撮像周期(例えば、20msec)後に、例えば、カメラ設定ST2に従って、シャッター速度V=2msecで、1枚、撮像を行う。
【0047】
このとき、撮像装置20の光入射面には、可視光を選択的にカットするフィルタ20Aが取り付けられている。しかし、上述したようにシャッター速度Vを20msec程度に遅くすることで、アーク光で照らされた開先中心GPの像が画像Ibに映り込む。また、2枚目の画像Ibは、所定の撮像周期を経た後に撮像されたものである。従って、2枚の画像Ia,Ibは、厳密には同時に撮像されたものではない。しかし、例えば、数100msec程度の時間幅、またはそれを超えない程度の時間幅では、アーク溶接は状態遷移をするものの、溶融池WPや開先中心GCの形状や位置は、ほとんど変化しない。従って、2枚の画像Ia,Ibは、実質的に同時に撮像されたものとして扱うことが可能である。
【0048】
撮像装置20は、撮像により得られた、カメラ設定STの互いに異なる複数の画像I(例えば、画像Ia,Ib)を画像処理装置60に送信する(ステップS107)。画像処理装置60は、撮像装置20から複数の画像I(例えば、画像Ia,Ib)を受信する(ステップS108)。その後、画像処理装置60は、取得した複数の画像I(例えば、画像Ia,Ib)を用いて、溶融池WPに関する情報Ixと、溶融池WPの周囲に関する情報Iyとを導出する(ステップS109)。
【0049】
図9は、画像処理装置60の動作手順の一例を表したものである。制御部61は、カメラ設定STの互いに異なる複数の画像Iを、HDR合成手法を用いて合成する。画像処理装置60は、まず、勾配画像Iax,Iay,Ibx,Ibyを導出する(ステップS201)。具体的には、画像処理装置60は、画像Iaにおいて、X方向に互いに隣接する画素間の輝度の勾配を全画素で導出し、それにより画像Iaxを得る。画像処理装置60は、画像Iaにおいて、Y方向に互いに隣接する画素間の輝度の勾配を全画素で導出し、それにより画像Iayを得る。画像処理装置60は、画像Ibにおいて、X方向に互いに隣接する画素間の輝度の勾配を全画素で導出し、それにより画像Ibxを得る。画像処理装置60は、画像Ibにおいて、Y方向に互いに隣接する画素間の輝度の勾配を全画素で導出し、それにより画像Ibyを得る。
【0050】
次に、画像処理装置60は、最大値画像Ix_max,Iy_maxを導出する(ステップS202)。具体的には、画像処理装置60は、勾配画像Iaxと、勾配画像Ibxとを、全ての画素において共通の画素ごとに対比して、輝度の絶対値の大きい方の値を抽出することにより、Ix_maxを得る。画像処理装置60は、勾配画像Iayと、勾配画像Ibyとを、全ての画素において共通の画素ごとに対比して、輝度の絶対値の大きい方の値を抽出することにより、Iy_maxを得る。
【0051】
次に、画像処理装置60は、ベクトル画像Ivを導出する(ステップS203)。具体的には、画像処理装置60は、最大値画像Ix_maxの各画素の値をX方向成分とし、最大値画像Iy_maxの各画素の値をY方向成分として、画素ごとにベクトル合成することにより、ベクトル画像Ivを得る。次に、画像処理装置60は、グレイ画像Igを導出する(ステップS204)。具体的には、画像処理装置60は、ベクトル画像Ivの各画素の勾配を用いて、グレイ画像Igを導出する。このようにして得られた1枚のグレイ画像Igには、溶融池WPに関する情報Ixと、溶融池WPの周囲に関する情報Iyとが含まれている。
【0052】
[効果]
次に、溶接ロボットシステム1の効果について説明する。
【0053】
溶融池WPを含む領域を撮像する際に、溶融池WPに撮像条件を合わせた場合には、撮像画像において、溶融池WPははっきりと映るが、溶融池WPの周囲は非常に暗く、ほとんど映らない。他方、溶融池WPを含む領域を撮像する際に、溶融池WPの周囲に撮像条件を合わせた場合には、撮像画像において、溶融池WPはアーク光の影響で真っ白になり、見えなくなるが、溶融池WPの周囲の一部ははっきりと見える。
【0054】
このように、最適な撮像条件の異なる2つの対象物が撮像領域内に存在する場合、一度の撮像で、両方の対象物を撮像画像に映すことは難しい。そこで、例えば、2台のカメラを用意し、一方のカメラを一方の対象物に撮像条件を合わせて撮像を行うと同時に、他方のカメラを他方の対象物に撮像条件を合わせて撮像を行うことが考えられる。しかし、そのようにした場合には、溶接トーチ13付近に2台のカメラを設置することになるので、いずれか一方のカメラがワークWに干渉し、溶接が困難になってしまうという問題がある。
【0055】
一方、本実施の形態では、溶融池WPおよび溶融池WPの周囲を含む溶接領域WRが撮像領域として設定された撮像装置20のカメラ設定STの切り替え制御が行われている間に、連続撮像制御が行われる。これにより、1台の撮像装置20から、カメラ設定STの互いに異なる複数の画像Iが得られる。ここで、切り替えるカメラ設定STとしてシャッター速度が設定されている。シャッター速度は、カメラ設定STの中で、特に、高速に切り換え可能なものである。従って、撮像装置20(溶接トーチ13)を移動させながら、溶接領域WRを撮像する際に、ほぼ同一の撮像領域に対して連続撮像が行われている間に、シャッター速度Vを、溶融池WPのコントラストが得られる値に設定したり、溶融池WPの周囲のコントラストが得られる値に設定したりすることができる。これにより、ほぼ同一の撮像領域において、シャッター速度Vの互いに異なる複数の画像Iが得られる。以上のことから、本実施の形態では、最適な撮像条件の互いに異なる2つの対象物を含む領域を1台の撮像装置20で撮像することができる。
【0056】
<2.変形例>
以下に、上記実施の形態の溶接ロボットシステム1の変形例について説明する。なお、以下では、上記実施の形態と共通の構成要素に対しては、上記実施の形態で付されていた符号と同一の符号が付される。また、上記実施の形態と異なる構成要素の説明を主に行い、上記実施の形態と共通の構成要素の説明については、適宜、省略するものとする。
【0057】
[変形例A]
上記実施の形態では、連続撮影に際して、カメラ設定STが切り替えられていた。しかし、上記実施の形態において、連続撮影に際して、カメラ設定STを固定にしてもよい。ただし、そのようにした場合には、カメラ設定STの切り替えの代わりに、撮像装置20のLUT(Look-Up Table)の切り換えを行えばよい。
【0058】
本変形例では、撮像装置20は、画像処理装置60から入力される制御信号に基づいて、カメラ設定STを固定にして撮像を行うようになっている。制御信号は、単一のカメラ設定STを含んでいる。単一のカメラ設定STは、例えば、カメラ設定ST1またはカメラ設定ST2である。撮像装置20は、例えば、カメラ設定ST1に従って、所定の時に、シャッター速度V=0.2msecで、1枚、撮像を行うようになっている。
【0059】
撮像装置20は、撮像により得られた1枚の画像Iを、ケーブルL7を介して画像処理装置60に出力するようになっている。撮像装置20は、溶接領域WRに向けられており、溶接領域WRにピントの合う位置に配置されている。つまり、撮像装置20において、溶接領域WRが撮像領域として設定されている。
【0060】
図10は、本変形例の画像処理装置60の概略構成の一例を表したものである。画像処理装置60において、記憶部63は、カメラ設定テーブルTaの代わりに、単一のカメラ設定ST(例えば、カメラ設定ST1またはカメラ設定ST2)を記憶している。記憶部63は、さらに、互いに異なる複数のLUT63Cを記憶している。各LUT63Cは、入力輝度に対する出力輝度の割り当てテーブルである。各LUT63Cのテーブル容量(格納数)は、階調分だけ存在する。画像Iが256階調となっている場合には、各LUT63Cは、256個のデータ格納数を持っている。
【0061】
図11Aは、記憶部63に格納された、あるLUT63Cの一例をグラフで表したものである。
図11Bは、記憶部63に格納された、別のLUT63Cの一例をグラフで表したものである。
図11Aに記載のLUT63Cは、線形となっており、入力輝度の大きさに比例して出力輝度が大きくなるように設定されている。
図11Aに記載のLUT63Cは、高輝度の対象物を画像Iに映し出すのに適している。一方、
図11Bに記載のLUT63Cは、反比例に近い特性となっている。
図11Bに記載のLUT63Cは、入力輝度が小さいときに出力輝度が大きくなり、入力輝度がある一定以上大きくなると、入力輝度が大きくなるにつれて出力輝度が小さくなるように設定されている。
図11Bに記載のLUT63Cは、高輝度の対象物に隣接する低輝度の対象物を画像Iに映し出すのに適している。
【0062】
制御部61は、読み出した画像処理ソフトウェア63Aおよび単一のカメラ設定STに基づいて、例えば、以下のような動作を実行するようになっている。制御部61は、互いに異なる複数のLUT63Cに基づいて、撮像装置20によって得られた1枚の画像Iの輝度変換を行い、輝度変換によって得られた複数の輝度変換画像Itを用いて、溶融池WPに関する情報Ixと、溶融池WPの周囲に関する情報Iyとを導出するようになっている。
【0063】
制御部61は、輝度変換によって得られた複数の輝度変換画像Itを、所定の方法で合成するようになっていてもよい。制御部61は、例えば、輝度変換によって得られた複数の輝度変換画像Itを、上述したHDR合成手法を用いて、合成するようになっていてもよい。
【0064】
[動作]
次に、画像処理ソフトウェア63Aを実行したときの溶接ロボットシステム1の動作手順について説明する。
【0065】
図12は、ロボット制御装置30、画像処理装置60および撮像装置20の動作手順の一例を表したものである。まず、ロボット制御装置30が、ティーチペンダント40から、作業プログラム34Bの番号を示す情報を含む作業指令を受信したとする(ステップS301)。すると、ロボット制御装置30は、該当する番号の作業プログラム34Bを読み出し、作業プログラム34Bに記載の指示に応じて命令通知を生成する。ロボット制御装置30は、例えば、作業プログラム34Bに記載の座標データを含む制御信号をマニピュレータ10に送信し、溶接命令を溶接機50に送信する。ロボット制御装置30は、さらに、開始命令を画像処理装置60に送信する(ステップS302)。マニピュレータ10は、ロボット制御装置30からの制御信号に応じて、溶接トーチ13を制御する。溶接機50は、ロボット制御装置30から溶接命令を受信すると、その内容に従って、例えば、溶接電流Isおよび溶接電圧Vsを制御する。その結果、アーク溶接が開始される。このとき、撮像装置20は、溶接トーチ13の移動に伴って移動する。
【0066】
画像処理装置60は、ロボット制御装置30から開始命令を受信すると(ステップS303)、例えば、内部状態を初期化する。その後、画像処理装置60は、撮像命令(制御信号)を生成し、撮像装置20に送信する(ステップS304)。画像処理装置60は、撮像命令(制御信号)として、例えば、撮像開始命令、撮像タイミングの設定値、および単一のカメラ設定STを撮像装置20に送信する。撮像装置20は、画像処理装置60から撮像命令(制御信号)を受信すると(ステップS305)、撮像命令に含まれる撮像開始命令に従って、撮像準備を開始する。撮像装置20は、続いて、撮像命令(制御信号)に含まれる撮像タイミングの設定値に従って、所定のタイミングで撮像を行う。このとき、撮像装置20は、撮像命令(制御信号)に含まれる単一のカメラ設定STに従って、カメラ設定STを固定した状態で撮像を行い、これにより、1枚の画像Iを取得する(ステップS306)。
【0067】
撮像装置20は、カメラ設定STを固定して、溶接領域WRを撮像領域として1枚、撮像することにより、1枚の画像Iを取得する。撮像装置20は、例えば、カメラ設定STに従って、所定の時に、シャッター速度V=0.2msecで、1枚、撮像を行う。撮像装置20は、撮像により得られた1枚の画像Iを画像処理装置60に送信する(ステップS307)。画像処理装置60は、撮像装置20から1枚の画像Iを受信する(ステップS308)。その後、画像処理装置60は、互いに異なる複数のLUT63Cに基づいて、撮像装置20によって得られた1枚の画像Iの輝度変換を行い、輝度変換によって得られた複数の輝度変換画像Itを用いて、溶融池WPに関する情報Ixと、溶融池WPの周囲に関する情報Iyとを導出する(ステップS309)。
【0068】
[効果]
次に、本変形例の溶接ロボットシステム1の効果について説明する。
【0069】
本変形例では、溶融池WPおよび溶融池WPの周囲を含む溶接領域WRが撮像領域として設定された撮像装置20のカメラ設定STを固定して撮像制御が行われる。また、本変形例では、互いに異なる複数のLUT63Cに基づいて、撮像装置20によって得られた1枚の画像Iの輝度変換が行われる。このように、本変形例では、撮像後に、1枚の画像Iに対して、輝度変換という画像処理が行われる。これにより、完全に同一の撮像領域において、使用されたLUT63Cの互いに異なる複数の画像(輝度変換画像It)が得られる。以上のことから、本変形例では、最適な撮像条件の互いに異なる2つの対象物を含む領域を1台の撮像装置20で撮像することができる。
【0070】
ところで、上記変形例Aにおいて、撮像装置20は、画像処理装置60から入力される制御信号に基づいて、カメラ設定STを固定にして連続撮像を行うようになっていてもよい。撮像装置20は、例えば、カメラ設定ST1に従って、所定の時に、シャッター速度V=0.2msecで、連続撮像を行うようになっていてもよい。
【0071】
撮像装置20は、撮像により得られた複数の画像Iを、ケーブルL7を介して画像処理装置60に出力するようになっている。制御部61は、読み出した画像処理ソフトウェア63Aおよび単一のカメラ設定STに基づいて、例えば、以下のような動作を実行するようになっている。制御部61は、互いに異なる複数のLUT63Cに基づいて、撮像装置20によって得られた複数の画像Iの輝度変換を行い、輝度変換によって得られた複数の輝度変換画像Itを用いて、溶融池WPに関する情報Ixと、溶融池WPの周囲に関する情報Iyとを導出するようになっている。
【0072】
撮像装置20は、画像処理装置60から撮像命令(制御信号)を受信すると(ステップS105)、撮像命令に含まれる撮像開始命令に従って、撮像準備を開始する。撮像装置20は、続いて、撮像命令(制御信号)に含まれる撮像タイミングの設定値に従って、所定のタイミングごとに撮像を行う。このとき、撮像装置20は、撮像命令(制御信号)に含まれる単一のカメラ設定STに従って、カメラ設定STを固定した状態で連続撮像を行い、これにより、複数の画像Iを取得する。
【0073】
撮像装置20は、カメラ設定STを固定して、溶接領域WRを撮像領域として連続撮像することにより、複数の画像Iを取得する(ステップS106)。撮像装置20は、例えば、カメラ設定STに従って、所定の時に、シャッター速度V=0.2msecで、連続撮像を行う。撮像装置20は、連続撮像により得られた複数の画像Iを画像処理装置60に送信する(ステップS107)。画像処理装置60は、撮像装置20から複数の画像Iを受信する(ステップS108)。その後、画像処理装置60は、互いに異なる複数のLUT63Cに基づいて、撮像装置20によって得られた複数の画像Iの輝度変換を行い、輝度変換によって得られた複数の輝度変換画像Itを用いて、溶融池WPに関する情報Ixと、溶融池WPの周囲に関する情報Iyとを導出する(ステップS109)。
【0074】
本変形例では、溶接領域WRが撮像領域として設定された撮像装置20のカメラ設定STを固定して連続撮像制御が行われる。このように、本変形例では、連続撮像制御が行われる間、カメラ設定が固定されている。そのため、撮像装置20を移動させながら、溶接領域WRを撮像する際に、ほぼ同一の撮像領域に対して連続撮像を行うことができる。また、本変形例では、互いに異なる複数のLUT63Cを用いて、撮像装置20によって得られた1または複数の画像Iの輝度変換が行われる。このように、本変形例では、撮像後に、1または複数の画像Iに対して、輝度変換という画像処理が行われる。従って、撮像装置20を移動させながら、溶接領域WRを撮像する際に、ほぼ同一の撮像領域に対して連続撮像が行われている間に、カメラ設定STの変更を行う必要がない。これにより、完全に同一の撮像領域、または、ほぼ同一の撮像領域において、使用されたLUT63Cの互いに異なる複数の画像(輝度変換画像It)が得られる。以上のことから、本変形例では、最適な撮像条件の互いに異なる2つの対象物を含む領域を1台の撮像装置20で撮像することができる。
【0075】
[変形例B]
上記実施の形態および上記変形例Aにおいて、撮像装置20は、画像処理装置60から入力される制御信号に基づいて、あるカメラ設定STにおいて、連続撮像を行うようになっていてもよい。画像処理装置60の制御部61は、読み出した画像処理ソフトウェア63Aおよびカメラ設定テーブルTaに基づいて、例えば、以下のような動作を実行するようになっている。
【0076】
制御部61は、撮像装置20のカメラ設定STを切り替え制御しながら、カメラ設定STごとに、撮像装置20の連続撮像制御を行うようになっている。制御部61は、カメラ設定STごとに、複数の画像Iを用いて、ノイズの低減された1または複数のノイズ低減画像Idを1または複数の関連画像Ieとして生成するようになっている。制御部61は、カメラ設定STが固定されている間に得られた複数の画像Iを用いて、ノイズの低減されたノイズ低減画像Idを、カメラ設定STごとに生成するようになっている。制御部61は、生成した1または複数のノイズ低減画像Idを用いて、溶融池WPに関する情報Ixと、溶融池WPの周囲に関する情報Iyとを導出するようになっている。制御部61は、カメラ設定STごとに、複数の画像IのAND演算を行うようになっている。AND演算とは、全ての画像Iの輝度データを画素ごとに加算し、所定の値で正規化することを指している。
【0077】
本変形例では、カメラ設定STごとに、複数の画像Iを用いて、ノイズの低減された1または複数のノイズ低減画像Idが1または複数の関連画像Ieとして生成される。これにより、例えば、CO
2溶接のような、スパッタの発生する溶接において、スパッタの飛散の様子が画像Iに映り込んでしまった場合であっても、画像Iに映り込んだスパッタを、例えば、AND演算などによって除去することができる。