(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024109048
(43)【公開日】2024-08-13
(54)【発明の名称】画像処理装置、位置決め装置、実装装置、画像処理方法、位置決め方法及び実装方法
(51)【国際特許分類】
G06T 7/00 20170101AFI20240805BHJP
H01L 21/52 20060101ALI20240805BHJP
H01L 21/60 20060101ALI20240805BHJP
【FI】
G06T7/00 300F
H01L21/52 F
H01L21/60 311
G06T7/00 610
G06T7/00 350B
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2023218700
(22)【出願日】2023-12-25
(31)【優先権主張番号】P 2023013491
(32)【優先日】2023-01-31
(33)【優先権主張国・地域又は機関】JP
(31)【優先権主張番号】P 2023013493
(32)【優先日】2023-01-31
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000002428
【氏名又は名称】芝浦メカトロニクス株式会社
(74)【代理人】
【識別番号】100081961
【弁理士】
【氏名又は名称】木内 光春
(74)【代理人】
【識別番号】100112564
【弁理士】
【氏名又は名称】大熊 考一
(74)【代理人】
【識別番号】100163500
【弁理士】
【氏名又は名称】片桐 貞典
(74)【代理人】
【識別番号】230115598
【弁護士】
【氏名又は名称】木内 加奈子
(72)【発明者】
【氏名】関野 司紗
(72)【発明者】
【氏名】谷尾 哲嗣
(72)【発明者】
【氏名】古水戸 順介
【テーマコード(参考)】
5F044
5F047
5L096
【Fターム(参考)】
5F044KK01
5F044KK21
5F044PP17
5F047AA17
5F047FA79
5F047FA83
5L096BA08
5L096CA04
5L096CA24
5L096DA02
5L096EA03
5L096EA12
5L096EA13
5L096EA35
5L096FA02
5L096FA64
5L096FA67
5L096FA69
5L096GA19
5L096HA09
5L096HA11
5L096JA09
5L096JA11
5L096JA22
5L096KA04
5L096KA15
(57)【要約】
【課題】撮像された画像にかかわらず、パターンマッチングの成功率を高めることができる画像処理装置、位置決め装置、実装装置、画像処理方法、位置決め方法及び実装方法を提供する。
【解決手段】実施形態の画像処理装置61は、画像生成モデルを生成するモデル生成部605と、物品画像GMから分割物品画像DGMを生成する物品画像分割部606と、画像生成モデルにより分割特徴画像DFMを生成する分割特徴画像生成部607と、分割特徴画像DFMを結合した特徴画像FMを生成する特徴画像生成部608と、特徴画像FMの領域SAを選択する領域選択部609と、領域SAを登録するテンプレート登録部610と、パターンマッチング用分割物品画像から生成したパターンマッチング用分割特徴画像を、特徴画像生成部608によって結合したパターンマッチング用特徴画像と、テンプレートとをパターンマッチングするパターンマッチング部611と、を有する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
物品の特徴を含む領域を撮像した物品画像を、所定のサイズに分割した学習用分割物品画像を生成する学習用物品画像分割部と、
前記物品画像から前記特徴を抽出した特徴画像を、所定のサイズに分割した教示用分割特徴画像を生成する教示用特徴画像分割部と、
前記学習用分割物品画像及び前記教示用分割特徴画像に基づいて、前記物品画像から前記特徴を抽出する画像生成モデルを生成するモデル生成部と、
前記物品画像を、所定のサイズに分割した分割物品画像を生成する物品画像分割部と、
前記分割物品画像から、前記画像生成モデルによって、前記分割物品画像毎の前記特徴を抽出した分割特徴画像を生成する分割特徴画像生成部と、
前記分割特徴画像を結合した特徴画像を生成する特徴画像生成部と、
前記特徴画像の所望の領域を選択する領域選択部と、
前記領域選択部により選択された領域を、パターンマッチング用のテンプレートとして登録するテンプレート登録部と、
パターンマッチングの対象となる物品の特徴を含む領域を撮像したパターンマッチング用物品画像を、前記物品画像分割部が分割したパターンマッチング用分割物品画像から、前記分割特徴画像生成部が生成したパターンマッチング用分割特徴画像を、前記特徴画像生成部によって結合したパターンマッチング用特徴画像と、登録された前記テンプレートとをパターンマッチングするパターンマッチング部と、
を有する画像処理装置。
【請求項2】
学習用の前記物品画像における特徴の輝度及びサイズに、パターンマッチングの前記テンプレート用の物品画像における特徴の輝度及びサイズが合うように、前記テンプレート用の物品画像の輝度及びサイズを変換する第1の画像変換部と、
前記物品画像分割部が前記テンプレート用の物品画像を分割して生成した分割物品画像から、前記分割特徴画像生成部が抽出した分割特徴画像を、前記特徴画像生成部が結合することにより生成した特徴画像のサイズを、第1の画像変換部による変換前の物品画像のサイズに変換する第2の画像変換部と、
を有し、
前記領域選択部は、前記第2の画像変換部が変換した特徴画像の所望の領域を選択する請求項1記載の画像処理装置。
【請求項3】
前記学習用分割物品画像、前記教示用特徴画像、前記分割物品画像、前記分割特徴画像、前記パターンマッチング用分割物品画像、前記パターンマッチング用分割特徴画像は、同一のサイズである請求項1又は請求項2記載の画像処理装置。
【請求項4】
前記パターンマッチング部がパターンマッチングに失敗する場合に、前記モデル生成部が、当該パターンマッチングに失敗する画像を用いて、再度、前記画像生成モデルを生成させる請求項1又は請求項2記載の画像処理装置。
【請求項5】
前記第1の画像変換部は、サイズの変換と輝度の変換の順序が、切り替え可能である請求項2記載の画像処理装置。
【請求項6】
請求項1又は請求項2記載の画像処理装置を有し、
前記パターンマッチング部によりパターンマッチングされた前記パターンマッチング用特徴画像と、前記テンプレートとの前記特徴のずれ量を算出するずれ量算出部と、
前記パターンマッチングの対象となった物品の位置決めを行う位置決め機構と、
前記ずれ量を補正するように、前記位置決め機構に前記パターンマッチングの対象となった物品を移動させることにより位置決めする位置決め制御部と、
を有する位置決め装置。
【請求項7】
請求項6記載の位置決め装置を有し、
前記物品は基板及び前記基板に搭載される電子部品であり、
前記位置決め機構は、前記基板及び前記電子部品を相対移動させることにより位置決めする機構であり、
位置決めされた前記電子部品を前記基板に搭載する搭載機構と、
前記搭載機構に、前記電子部品を前記基板に搭載する方向に移動させることにより、前記電子部品を前記基板に実装させる実装制御部と、
を有する実装装置。
【請求項8】
物品の特徴を含む領域を撮像した物品画像を、所定のサイズに分割した学習用物品画像を生成する学習用物品画像生成処理と、
前記物品画像の前記特徴を抽出した特徴画像を、所定のサイズに分割した教示用特徴画像を生成する教示特徴画像生成処理と、
前記学習用物品画像及び前記教示用特徴画像に基づいて、前記物品画像から前記特徴を抽出する画像生成モデルを生成するモデル生成処理と、
前記物品画像を、所定のサイズに分割した分割物品画像を生成する物品画像分割処理と、
前記分割物品画像から、前記画像生成モデルに基づいて、前記分割物品画像毎の前記特徴を抽出した分割特徴画像を生成する分割特徴画像生成処理と、
前記分割特徴画像を結合した特徴画像を生成する特徴画像生成処理と、
前記特徴画像の所望の領域を選択する領域選択処理と、
前記領域選択処理により選択された領域を、パターンマッチング用のテンプレートとして登録するテンプレート登録処理と、
パターンマッチングの対象となる物品の特徴を含む領域を撮像したパターンマッチング用物品画像を、前記物品画像分割処理により分割したパターンマッチング用分割物品画像から、前記分割特徴画像生成処理により生成したパターンマッチング用分割特徴画像を、前記特徴画像生成処理によって結合したパターンマッチング用特徴画像と、登録された前記テンプレートとをパターンマッチングするパターンマッチング処理と、
を含む画像処理方法。
【請求項9】
学習用の前記物品画像における特徴の輝度及びサイズに、パターンマッチングのテンプレート用の前記物品画像における特徴の輝度及びサイズが合うように、テンプレート用の前記物品画像の輝度及びサイズを変換する第1の画像変換処理と、
前記物品画像分割処理により前記テンプレート用の物品画像を分割して生成した分割物品画像から、前記分割特徴画像生成処理により抽出した分割特徴画像を、前記特徴画像生成処理により結合することにより生成した特徴画像のサイズを、第1の画像変換部による変換前の物品画像のサイズに変換する第2の画像変換処理と、
を含み、
前記領域選択処理は、前記第2の画像変換処理により変換した特徴画像の所望の領域を選択する請求項8記載の画像処理方法。
【請求項10】
請求項8又は請求項9記載の画像処理方法を含み、
前記パターンマッチング処理によりパターンマッチングされた前記パターンマッチング用特徴画像と、前記テンプレートとの前記特徴のずれ量を算出するずれ量算出処理と、
前記ずれ量を補正するように、位置決め機構に前記パターンマッチングの対象となった物品を移動させることにより位置決めさせる位置決め処理と、
を含む位置決め方法。
【請求項11】
請求項10記載の位置決め方法を含み、
前記物品は基板及び前記基板に搭載される電子部品であり、
前記位置決め処理は、前記基板及び前記電子部品を相対移動させることにより位置決めさせる処理であり、
搭載機構に、位置決めされた前記電子部品を前記基板に搭載させる搭載処理を含む実装方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、位置決め装置、実装装置、画像処理方法、位置決め方法及び実装方法に関する。
【背景技術】
【0002】
半導体チップなどの電子部品を、ウェーハやトレイからピックアップし、基板の上に搬送し、基板に押し付けて実装することが行われている。このような電子部品の実装では、ひとつの基板に多数の電子部品を実装するものもある。電子部品を基板に実装する前には、実装領域に電子部品を位置合わせする必要がある。
【0003】
基板と電子部品を位置決めするために、例えば、パターンマッチングによる方法が行われている。パターンマッチングでは、基準となる特徴(配線パターン、マーク、端子(電極配置、バンプ配置等))を含む画像を、テンプレートとして予め登録しておく。そして、基板や電子部品の特徴を含む領域を撮像した画像と、テンプレートとをパターンマッチングさせて、画像とテンプレートの特徴の位置のずれ量を検出する。そして、位置決め機構が、ずれ量が補正されるように、電子部品と基板との位置決めを行っている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上記のような従来技術では、電子部品の様々な表面状態や形状のばらつき、画像における電子部品の写り方のばらつきなどにより、特徴以外の箇所の影響を受けてしまい、テンプレートとのパターンマッチング率が低下して、位置決めに失敗する場合がある。これに対処するため、テンプレートを大量に用意する場合には、多大な手間がかかる。
【0006】
本発明の実施形態は、撮像された画像にかかわらず、パターンマッチングの成功率を高めることができる画像処理装置、位置決め装置、実装装置、画像処理方法、位置決め方法及び実装方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記の目的を達成するために、実施形態の画像処理装置は、物品の特徴を含む領域を撮像した物品画像を、所定のサイズに分割した学習用分割物品画像を生成する学習用物品画像分割部と、前記物品画像から前記特徴を抽出した特徴画像を、所定のサイズに分割した教示用分割特徴画像を生成する教示用特徴画像分割部と、前記学習用分割物品画像及び前記教示用分割特徴画像に基づいて、前記物品画像から前記特徴を抽出する画像生成モデルを生成するモデル生成部と、前記物品画像を、所定のサイズに分割した分割物品画像を生成する物品画像分割部と、前記分割物品画像から、前記画像生成モデルによって、前記分割物品画像毎の前記特徴を抽出した分割特徴画像を生成する分割特徴画像生成部と、前記分割特徴画像を結合した特徴画像を生成する特徴画像生成部と、前記特徴画像の所望の領域を選択する領域選択部と、前記領域選択部により選択された領域を、パターンマッチング用のテンプレートとして登録するテンプレート登録部と、パターンマッチングの対象となる物品の特徴を含む領域を撮像したパターンマッチング用物品画像を、前記物品画像分割部が分割したパターンマッチング用分割物品画像から、前記分割特徴画像生成部が生成したパターンマッチング用分割特徴画像を、前記特徴画像生成部によって結合したパターンマッチング用特徴画像と、登録された前記テンプレートとをパターンマッチングするパターンマッチング部と、を有する。
【0008】
実施形態の位置決め装置は、前記画像処理装置を有し、前記パターンマッチング部によりパターンマッチングされた前記パターンマッチング用特徴画像と、前記テンプレートとの前記特徴のずれ量を算出するずれ量算出部と、前記パターンマッチングの対象となった物品の位置決めを行う位置決め機構と、前記ずれ量を補正するように、前記位置決め機構に前記パターンマッチングの対象となった物品を移動させることにより位置決めする位置決め制御部と、を有する。
【0009】
実施形態の実装装置は、前記位置決め装置を有し、前記物品は基板及び前記基板に搭載される電子部品であり、前記位置決め機構は、前記基板及び前記電子部品を相対移動させることにより位置決めする機構であり、位置決めされた前記電子部品を前記基板に搭載する搭載機構と、前記搭載機構に、前記電子部品を前記基板に搭載する方向に移動させることにより、前記電子部品を前記基板に実装させる実装制御部と、を有する。
【0010】
実施形態の画像処理方法は、物品の特徴を含む領域を撮像した物品画像を、所定のサイズに分割した学習用物品画像を生成する学習用物品画像生成処理と、前記物品画像の前記特徴を抽出した特徴画像を、所定のサイズに分割した教示用特徴画像を生成する教示特徴画像生成処理と、前記学習用物品画像及び前記教示用特徴画像に基づいて、前記物品画像から前記特徴を抽出する画像生成モデルを生成するモデル生成処理と、前記物品画像を、所定のサイズに分割した分割物品画像を生成する物品画像分割処理と、前記分割物品画像から、前記画像生成モデルに基づいて、前記分割物品画像毎の前記特徴を抽出した分割特徴画像を生成する分割特徴画像生成処理と、前記分割特徴画像を結合した特徴画像を生成する特徴画像生成処理と、前記特徴画像の所望の領域を選択する領域選択処理と、前記領域選択処理により選択された領域を、パターンマッチング用のテンプレートとして登録するテンプレート登録処理と、パターンマッチングの対象となる物品の特徴を含む領域を撮像したパターンマッチング用物品画像を、前記物品画像分割処理により分割したパターンマッチング用分割物品画像から、前記分割特徴画像生成処理により生成したパターンマッチング用分割特徴画像を、前記特徴画像生成処理によって結合したパターンマッチング用特徴画像と、登録された前記テンプレートとをパターンマッチングするパターンマッチング処理と、を含む。
【0011】
実施形態の位置決め方法は、前記画像処理方法を含み、前記パターンマッチング処理によりパターンマッチングされた前記パターンマッチング用特徴画像と、前記テンプレートとの前記特徴のずれ量を算出するずれ量算出処理と、前記ずれ量を補正するように、位置決め機構に前記パターンマッチングの対象となった物品を移動させることにより位置決めさせる位置決め処理と、を含む。
【0012】
実施形態の実装方法は、前記位置決め方法を含み、前記物品は基板及び前記基板に搭載される電子部品であり、前記位置決め処理は、前記基板及び前記電子部品を相対移動させることにより位置決めさせる処理であり、搭載機構に、位置決めされた前記電子部品を前記基板に搭載させる搭載処理を含む。
【発明の効果】
【0013】
本発明の実施形態では、撮像された画像にかかわらず、パターンマッチングの成功率を高めることができる。
【図面の簡単な説明】
【0014】
【
図1】第1の実施形態の実装装置を示す正面図及び制御装置を示すブロック図である。
【
図3】
図1の実装装置の電子部品の受け渡し時を示す正面図である。
【
図5】
図1のA-A断面図であり、電子部品、基板の撮像時を示す図である。
【
図6】電子部品の実装面を示す図(A)、実装面に対する撮像部の視野範囲を異なる箇所に位置付けた様子を示す図(B)である。
【
図7】撮像部の視野範囲、物品画像、特徴画像、分割物品画像、分割特徴画像の関係を示す図である。
【
図8】物品画像を示す図(A)、特徴画像を示す図(B)である。
【
図9】分割物品画像を示す図(A)、分割特徴画像を示す図(B)である。
【
図10】パターンマッチング対象となる電子部品の実装面を示す図(A)、撮像部の視野範囲とテンプレートとして選択された領域を示す図(B)である。
【
図11】登録されたテンプレートの姿勢を示す図(A)、実装対象となる電子部品の姿勢を示す図(B)
【
図12】モデル生成の処理手順を示すフローチャートである。
【
図13】テンプレートの登録手順を示すフローチャートである。
【
図14】パターンマッチングの処理手順を示すフローチャートである。
【
図15】電子部品の位置決めと搭載手順を示すフローチャートである。
【
図16】特徴以外の背景が異なる物品画像を示す図(A)、特徴のサイズが異なる物品画像を示す図(B)、輝度が異なる物品画像を示す図(C)である。
【
図17】第2の実施形態の実装装置を示す正面図及び制御装置を示すブロック図である。
【
図18】第2の実施形態のモデル生成の処理手順を示すフローチャートである。
【
図19】第2の実施形態のテンプレートの登録手順を示すフローチャートである。
【
図20】実施形態の変形例の処理手順を示すフローチャートである。
【発明を実施するための形態】
【0015】
本発明の実施の形態について、図面を参照して具体的に説明する。なお、図面は模式図であって、各部のサイズ、比率等は、理解を容易にするために誇張している部分を含んでいる。
【0016】
[第1の実施形態]
まず、第1の実施形態について説明する。
[概要]
図1~
図4に示すように、本実施形態の実装装置1は、電子部品2の供給装置10、ピックアップ装置20、搭載装置30、基板ステージ40、撮像部50及び制御装置60を有する。実装装置1は、供給装置10からピックアップ装置20によってピックアップされた電子部品2を反転させて、搭載装置30に受け渡し、搭載装置30によって基板ステージ40における基板3に搭載することにより実装する。
【0017】
電子部品2は、例えば、矩形状の薄小片部品である。本実施形態では、電子部品2は、半導体チップである。半導体チップは、表裏のうち一方の面が、電極部を有し基板3に実装される実装面2aである。基板3は、電子部品2が搭載される複数の実装領域3aが、マトリクス(行列)状に設けられた板体である。各実装領域3aには、電極部が設けられている。実装領域3aの電極部に、電子部品2の電極部が接合されるように、電子部品2が基板3に搭載される。
【0018】
電子部品2と実装領域3aとは、実装前に位置決めする必要がある。電子部品2の電極部、基板3の電極部は、位置決めのための特徴となる。本実施形態では、画像生成モデルによって、電極部を含む基板3の画像(物品画像)を分割した分割物品画像から、電極部を抽出した分割特徴画像を生成する。この分割特徴画像を結合した特徴画像と、予め登録したテンプレートとのパターンマッチングを行い、特徴画像の電極部とテンプレートの電極部とのずれ量を補正するように位置決めを行う。
【0019】
[供給装置]
供給装置10は、電子部品2をピックアップ装置20へと供給する装置である。供給装置10は、ピックアップ対象の電子部品2を供給位置P1に移動させる。供給位置P1とは、ピックアップ装置20が、ピックアップ対象となる電子部品2をピックアップする位置である。供給装置10は、電子部品2が載置されたトレイ11を支持する供給ステージ12、供給ステージ12を移動させるステージ移動機構13を備える。このステージ移動機構13としては、例えば、サーボモータによって駆動されるボールねじ機構によって、レール上をスライダが移動するリニアガイドを用いることができる。
【0020】
電子部品2が載置されるトレイ11は、上面に複数の電子部品2を載置する板体である。トレイ11上には、図示はしないが、窪みがマトリクス(行列)状に形成されている。各窪みに、電子部品2が載置されることにより、トレイ11上に電子部品2がマトリクス状に並ぶ。本実施形態では、電子部品2は、実装面2aが上方に露出したフェイスアップ状態で配置されているものとする。
【0021】
供給ステージ12は、電子部品2が載置されたトレイ11を、水平に支持する台である。供給ステージ12は、ステージ移動機構13によって、水平方向に移動可能に設けられている。トレイ11は供給ステージ12に支持されているため、ステージ移動機構13によって供給ステージ12が移動するとともに、トレイ11及び当該トレイ11に載せられた電子部品2もまた、水平方向に移動可能に設けられている。
【0022】
なお、
図1に示すように、水平方向のうち、供給装置10と搭載装置30が並ぶ方向をX軸方向、X軸に直交する方向をY軸方向という。また、トレイ11の平面に直交する方向をZ軸方向または上下方向とする。また、水平方向における回転方向をθ軸方向とする。但し、これらの方向は実装装置1の設置方向を限定するものではない。
【0023】
[ピックアップ装置]
ピックアップ装置20は、供給装置10から電子部品2をピックアップし、ピックアップした電子部品2を搭載装置30に受け渡す装置である。このピックアップ装置20は、ピックアップノズル21と、移動機構22と、反転機構23とを備える。
【0024】
(ピックアップノズル)
ピックアップノズル21は、電子部品2を吸引保持し、また吸引保持を解除して電子部品2を解放する機構である。ピックアップノズル21は、先端面に開口したノズル孔を備える。ノズル孔は真空ポンプ等を含む負圧発生回路(図示せず)と連通しており、当該回路が負圧を発生させることによって、ピックアップノズル21の先端面に電子部品2を吸着保持する。また、負圧を解除することで先端面から電子部品2の保持状態を解除する。
【0025】
移動機構22は、
図1~
図4に示すように、供給位置P1と受け渡し位置P2との間でピックアップノズル21を往復移動させ、また、供給位置P1及び受け渡し位置P2でピックアップノズル21を昇降させる機構である。なお、受け渡し位置P2とは、ピックアップ装置20が、供給位置P1でピックアップした電子部品2を後述する受取部として機能するボンディングヘッド310に受け渡す位置である。供給位置P1及び受け渡し位置P2は、主にXY方向の位置を意味し、必ずしもZ軸方向の位置を意味するものではない。
【0026】
(移動機構)
移動機構22は、ピックアップノズル21が取り付けられたアーム22aを有し、アーム22aを移動させることにより、ピックアップノズル21を移動させる。移動機構22は、スライド機構22b、昇降機構22fを備える。スライド機構22bは、ピックアップノズル21が取り付けられたアーム22aを移動させることにより、ピックアップノズル21を供給位置P1と受け渡し位置P2との間で往復移動させる。ここでは、スライド機構22bは、X軸方向と平行に延び、支持フレーム22cに固定されたレール22dと、レール22d上を走行するスライダ22eとを有する。スライダ22eは、図示はしないが、回転モータにより駆動されるボールねじ、リニアモータ等により駆動される。
【0027】
昇降機構22fは、ピックアップノズル21が取り付けられたアーム22aを移動させることにより、ピックアップノズル21を上下方向に移動させる。具体的には、昇降機構22fは、サーボモータによって駆動されるボールねじ機構によって、レール上をスライダが移動するリニアガイドを用いることができる。すなわち、サーボモータの駆動により、ピックアップノズル21がZ軸方向に沿って昇降する。
【0028】
(反転機構)
反転機構23は、ピックアップノズル21と移動機構22の間に設けられている。反転機構23は、ここでは、ピックアップノズル21の向きを変更するモータ等の駆動源、ボールベアリング等の回転ガイドを含んでなるアクチュエータである。向きを変更するとは、上下方向に0°~180°回転させることである。
【0029】
[搭載装置]
搭載装置30は、電子部品2を基板3の実装領域3aに搭載する装置である。搭載装置30は、
図3及び
図4に示すように、ピックアップ装置20から受け取った電子部品2を実装位置P3まで搬送し、基板3に搭載することにより実装する。実装位置P3とは、電子部品2を基板3に実装する位置である。実装位置P3は、主にXY方向の位置を意味し、必ずしもZ軸方向の位置を意味するものではない。搭載装置30は、ボンディングヘッド310、ヘッド移動機構320を有する。
【0030】
(ボンディングヘッド)
ボンディングヘッド310は、受け渡し位置P2でピックアップノズル21から電子部品2を受け取る受取部としての機能を有し、また当該電子部品2を実装位置P3で基板3に実装する装置である。ボンディングヘッド310は、電子部品2を保持し、また実装後は電子部品2から離脱する。
【0031】
具体的には、ボンディングヘッド310は、ボンディングツール311、回動ユニット312を有する。ボンディングツール311は板体であり、一方の面は、下方に向かい、電子部品2を保持する保持面311aである。保持面311aの中央には、負圧発生回路に接続された吸引経路の端部が、ボンディングツール311の電子部品2の保持面311aに開口した吸引口となっていて、この吸引口において電子部品2を吸引保持する。また、ボンディングツール311は、ボンディングヘッド310に、負圧により吸着保持される。
【0032】
回動ユニット312は、図示しないモータによりベルトを介して回動可能に設けられ、ボンディングツール311を水平方向に回動させることができる。これにより、回動ユニット312は、ボンディングツール311に保持された電子部品2を、θ軸方向に位置決めできる。
【0033】
(ヘッド移動機構)
ヘッド移動機構320は、ボンディングヘッド310を、受け渡し位置P2と実装位置P3との間で往復移動させ、また、受け渡し位置P2及び実装位置P3で昇降させる機構である。本実施形態のヘッド移動機構320は、電子部品2を基板3に搭載する搭載機構として機能する。また、本実施形態のヘッド移動機構320は、上記の回動ユニット312、後述するステージ移動機構42とともに、基板3の実装領域3aに対して電子部品2の実装面2aを位置決めする位置決め機構として機能する。具体的には、ヘッド移動機構320は、スライド機構321、昇降機構322を備える。
【0034】
スライド機構321は、ボンディングヘッド310を受け渡し位置P2と実装位置P3との間で往復移動させる。ここでは、スライド機構321は、X軸方向と平行に延び、支持フレーム321aに固定された2本のレール321bと、レール321b上を走行するスライダ321cとを有する。スライダ321cは、図示はしないが、回転モータにより駆動されるボールねじ、リニアモータ等により駆動される。
【0035】
なお、図示はしないが、スライド機構321は、ボンディングヘッド310をY軸方向にスライド移動させるスライド機構を有している。このスライド機構も、Y軸方向のレールとレールを走行するスライダによって構成できる。スライダは、回転モータにより駆動されるボールねじ、リニアモータ等により駆動される。
【0036】
昇降機構322は、ボンディングヘッド310を上下方向に移動させる。具体的には、昇降機構322は、サーボモータ322aによって駆動されるボールねじ機構によって、レール322b上をスライダ322cが移動するリニアガイドを用いることができる。すなわち、サーボモータ322aの駆動により、ボンディングヘッド310がZ軸方向に沿って昇降する。
【0037】
[基板ステージ]
基板ステージ40は、電子部品2を実装するための基板3を支持する。基板ステージ40は、基板3を支持する基板支持台41が、ステージ移動機構42に設けられている。ステージ移動機構42は、基板支持台41をXY平面上でスライド移動させ、基板3における実装対象となる実装領域3aを実装位置P3に位置付ける機構である。ステージ移動機構42は、例えば、サーボモータによって駆動されるボールねじ機構によって、レール上をスライダが移動するリニアガイドを用いることができる。
【0038】
[撮像部]
撮像部50は、物品の特徴を含む領域を撮像する装置である。撮像部50は、
図5に示すように、実装位置P3と実装位置P3から退避する位置との間で移動可能に設けられ、ボンディングヘッド310に保持された電子部品2の実装面2aと、基板ステージ40に支持された基板3の実装領域3aを撮像する。より具体的には、撮像部50は、カメラ、レンズ、鏡筒、光源等を有し、カメラが上下二視野で、ボンディングヘッド310に保持された電子部品2と、基板ステージ40に支持された基板3とを同時に撮像可能となるように、光軸が垂直方向に配置されている。
【0039】
撮像部50が有する座標は、例えば、撮像中心がXY座標の原点とされ、この原点が機械的あるいは演算可能な情報として実装位置P3と一致するように設定される。この場合、実装装置1におけるXY座標上の基準位置とは実装位置P3のことである。撮像部50により撮像された電子部品2及び基板3の物品画像に基づいて、パターンマッチング及び位置決めが行われる。
【0040】
[制御装置]
制御装置60は、供給装置10、ピックアップ装置20、搭載装置30、基板ステージ40、撮像部50の起動、停止、速度、動作タイミング等を制御する。制御装置60は、実装装置1の各種の機能を実現するべく、プログラムを実行するプロセッサ、プログラムや動作条件などの各種情報を記憶するメモリ、各要素を駆動する駆動回路等を有する。また、制御装置60には、オペレータが制御に必要な指示や情報を入力する入力装置80、画像を確認するための表示装置90が接続されている。
【0041】
本実施形態の制御装置60は、
図1に示すように、撮像制御部601、教示用特徴画像生成部602、学習用物品画像分割部603、教示用特徴画像分割部604、モデル生成部605、物品画像分割部606、分割特徴画像生成部607、特徴画像生成部608、領域選択部609、テンプレート登録部610、パターンマッチング部611、ずれ量算出部612、位置決め制御部613、実装制御部614、記憶部615を有する。
【0042】
教示用特徴画像生成部602、学習用物品画像分割部603、教示用特徴画像分割部604、モデル生成部605、物品画像分割部606、分割特徴画像生成部607、特徴画像生成部608、領域選択部609、テンプレート登録部610、パターンマッチング部611は、画像処理装置61として捉えることができる。また、画像処理装置61、ずれ量算出部612、位置決め制御部613は、位置決め機構(回動ユニット312、ヘッド移動機構320、ステージ移動機構42)とともに、位置決め装置として捉えることができる。
【0043】
撮像制御部601は、下端面に電子部品2を吸着保持したボンディングヘッド310を、基板3の実装対象となる実装領域3aの上方で待機させて、ボンディングヘッド310と基板3との間に、撮像部50を進入させて、ボンディングヘッド310に保持された電子部品2の実装面2aと基板3の実装領域3aとを撮像し、退避させる。これにより、制御装置60において物品画像が取得される。
【0044】
物品画像は、物品の特徴を含む領域を撮像した画像である。物品は、電子部品2、基板3である。物品の特徴を含む領域は、電子部品2の実装面2a、基板3の実装領域3aである。物品の特徴としては電極部を用いることができる。このとき、物品画像は、撮像部50が電子部品2の電極部を含む実装面2aあるいは基板3の電極部を含む実装領域3aを撮像した画像である。
【0045】
図6(A)は、電子部品2の実装面2aの一例を示す模式図であり、
図6(B)は、点線の矩形の枠で示した撮像部50の視野範囲VAを、実装面2aの様々な位置に位置付ける様子を示す図である。
図6において、Bで示す黒丸は電極部であるバンプを示す。縦横の筋は回路パターンを模したものを示す。太い筋は、回路パターンの領域の間などで、筋状に見える部分を表現している。太さや濃淡の違う部分は、表面状態(回路構成や密度、表面保護膜等)により見え方の違う部分を示す。このような実装面2aは、濃淡が異なる等、見え方がばらつくことがある。そのため、物品の特徴であるバンプBが、バンプBとして認識されない場合があった。
【0046】
また、撮像制御部601は、
図6(B)に示すように、視野範囲VAを実装面2aに対して相対移動させて、撮像部50に複数箇所を撮像させることができる。
【0047】
図7は、撮像部の視野範囲VA、物品画像GM、特徴画像FM、分割物品画像DGM、分割特徴画像DFMの関係を示す。
図7の一番上の図は、
図6(A)で示す実装面2aの一部を、視野範囲VAで撮像した画像を示す。
図7の白塗りの矢印の先の図に示すように、視野範囲VAで撮像された画像が、物品画像GMとなる。
図6(B)の例では、9箇所を撮像した9枚の物品画像GMが取得される。
【0048】
教示用特徴画像生成部602は、物品画像GMから、
図7の黒塗りの矢印の先の図に示すように、特徴を抽出した特徴画像FMを生成する。特徴画像FMは、物品画像GMにおける特徴の位置及びサイズのみを示す画像である。つまり、特徴画像FMは、電子部品2の電極部、基板3の電極部のみが、物品画像と同じ位置及びサイズで示された画像となる。
図6の例では、特徴画像FMは、電子部品2の電極部であるバンプBのみが、物品画像と同じ位置及びサイズで示された画像となる。
【0049】
また、
図6(B)の例では、9枚の物品画像GMから9枚の特徴画像FMが生成される。なお、
図6(A)で示す電子部品2では、中央部分にバンプBが存在しない。したがって、
図6(B)に示すように、中央部分を撮像した視野範囲VAの画像には、特徴であるバンプBが存在しない。この視野範囲VAに対応する物品画像GMには、バンプBが存在しないことになるため、これに対応する特徴画像FMは、バンプBの指定が無い画像となる。
【0050】
図8(A)は物品画像GMの一例である。
図6と
図8(A)の物品画像GMのバンプBの配置とは一致していないが、
図8(A)は、
図6(B)のいずれか1つの視野範囲VAに対応する物品画像GMと見なすことができる。
図8(B)は、
図8(A)の物品画像GMから、電極部を抽出した特徴画像FMである。教示用特徴画像は、特徴画像FMであって、後述するモデル生成部605に機械学習をさせて画像生成モデルを作成するための教示画像である。
【0051】
但し、以下に説明するように、本実施形態の画像生成モデルは、分割された物品画像GMに基づいて、特徴を抽出することにより、分割された特徴画像FMを生成する。このため、機械学習は、物品画像GMを分割した各画像(学習用分割物品画像)に、特徴画像FMを分割した各画像(教示用分割特徴画像)が1対1で対応する正解であるとして行われる。
【0052】
教示用特徴画像生成部602は、表示装置90に表示された物品画像GMにおいて、オペレータが入力装置80を用いて特徴の位置を選択する、つまり特徴の位置を教示すると、選択された特徴の位置を記録することにより、教示用特徴画像を生成する。なお、教示用特徴画像としては、予め物品画像GMの特徴の位置が記録されたCADデータから生成した画像や、予め用意する、機能素子や配線がなくバンプまたは電極部だけ形成されたダミーチップ(ダミーダイ)の画像等を用いてもよい。
【0053】
学習用物品画像分割部603は、学習用の物品画像GMを、所定のサイズに分割した学習用分割物品画像を生成する。所定のサイズに分割するとは、撮像部50が撮像した物品画像GMを、複数のブロックに等しいサイズの複数のブロックに分割することをいう。例えば、
図7の点線の矢印の先の図に示すように、視野範囲VAで撮像した物品画像GMを9つのブロックに分割する。より具体的には、
図9(A)に示すように、
図8(A)で示す電子部品2を撮像した物品画像GMを、9つのブロックに等分割したものが、分割物品画像DGM([1]~[9])であり、これが学習用分割物品画像として用いられる。
【0054】
教示用特徴画像分割部604は、教示用特徴画像を、所定のサイズに分割した教示用分割特徴画像を生成する。分割特徴画像DFMは、例えば、
図7の一点鎖線の矢印の先の図に示すように、視野範囲VAで撮像した物品画像GMからバンプBだけを選択して生成した特徴画像FMを9つのブロックに分割する。より具体的には、
図9(B)に示すように、
図8(B)で示す電子部品2の特徴画像FMを、分割物品画像DGM([1]~[9])と等しいサイズに分割した画像であり、これが教示用の分割特徴画像DFMとして用いられる。分割物品画像[1]と分割特徴画像[1´]が対応しており、同様に、分割物品画像[2]と分割特徴画像[2´]、…分割物品画像[9]と分割特徴画像[9´]が、それぞれ1対1で対応している。
【0055】
分割物品画像DGM及び分割特徴画像DFMのサイズは、例えば、電極部がバンプBである場合に、バンプBを特徴として捉えるのに適切なサイズである。このサイズは、予め実験等により決定することができる。このサイズを、学習サイズと称する。学習サイズを、例えば、横100px、縦80pxとする。撮像する画像のサイズは、この学習サイズより大きいサイズとすることが好ましい。本実施形態では、
図9(A)及び
図9(B)に示すように、310px×245pxで撮像した画像を、学習サイズの100px×80pxの各3倍となる横300px、縦240pxサイズの画像にトリミングして、物品画像GMとする。この物品画像GMと同じサイズで特徴画像FMを生成し、物品画像GM及び特徴画像FMの縦横をそれぞれ3等分割することにより、学習用分割物品画像、教示用分割特徴画像を生成している。上記の
図6及び
図7の例では、9枚の物品画像GM及び特徴画像FMを、それぞれ9分割した81枚の画像を取得することになる。
【0056】
なお、学習用物品画像、教示用特徴画像の対象となる物品は、特徴が正確に抽出できればよい。このため、パターンマッチングの対象となる物品と特徴の形状及び大きさが一致していればよいが、パターンマッチングの対象となる物品と同じ物品である必要はない。「同じ物品」とは、特徴の形状及び大きさのみならず、位置及び数が共通の製品群をいう。例えば、特徴がバンプBの場合、バンプBの形状、大きさ、位置及び数が一致していれば、同じ電子部品2となる。学習用物品画像、教示用特徴画像の対象となる物品は、例えば、電子部品2の場合、バンプBの形状及び大きさが一致していればよく、位置及び数まで一致している電子部品2である必要はない。つまり、特徴を抽出するための学習用の画像であるため、複数の電子部品2の画像を取り混ぜて撮像しても良い。
【0057】
モデル生成部605は、学習用分割物品画像と教示用分割特徴画像に基づいて、物品画像GMから特徴を抽出する画像生成モデルを生成する。つまり、対応する物品画像GMと特徴画像FMとで、各画像を分割して、物品画像におけるどのような写り方をしている部分がバンプBなのかを学習し、画像生成モデルを生成する。様々な状態で見える部分を、バンプBと教示されたら、その見え方(輝度パターン)状態を覚える。学習する画像サイズ(学習サイズ)中に存在するバンプBと教示された位置の写り方を覚え、同様の写り方をしているものがあればバンプBと認識するような学習を行う。なお、モデル生成部605は、機械学習により画像生成モデルを作成するツールであり、例えば、U-Net、GAN(Generative Adversarial Networks)、Autoencoder等を使用することができるが、特定のものには限定されない。機械学習モデルのノード数、層数は任意に設定できる。
【0058】
より具体的には、モデル生成部605は、対応する分割物品画像[n]の各ブロックから、分割特徴画像[n´]の各ブロックが生成できるように学習を行う。学習に用いる画像を、複数の分割物品画像[n]、複数の分割特徴画像[n´]に分割することにより、共通の特徴を抽出するための学習の練度が高まる。
図6及び
図7の例では、81枚の学習用分割物品画像に対して、81枚の教示用分割特徴画像を用いて学習することができる。なお、バンプBの数が多い領域、バンプBと背景の見分けがつきにくい領域を選択して学習する方が有効となる。以上のようなモデル生成部605による画像生成モデルの生成は、電子部品2と基板3のそれぞれを別々に行う。なお、左右反転、上下反転又は回転させ(角度を変え)た画像を用いることにより、さらに画像の数を増やすことができる。
【0059】
物品画像分割部606は、物品画像GMを、所定のサイズに分割した分割物品画像DGMを生成する(
図9(A)参照)。但し、ここでいう物品画像GMは、パターンマッチングのテンプレート(基準パターン)を作成するための画像である。つまりパターンマッチングの対象となる物品と同じ特徴を含む領域を、撮像部50が撮像した画像である。本実施形態の物品画像GMは、位置決め対象、実装対象となる電子部品2あるいは基板3を撮像した画像である。所定のサイズに分割するとは、物品画像GMを、学習サイズと等しいサイズの複数のブロックに分割することをいう。このように分割された物品画像GMが、分割物品画像DGMである。
【0060】
このようなテンプレート作成用の物品画像GMの取得は、予めテンプレートとなる領域を想定して、以下のように行う。すなわち、
図10(A)に示すように、撮像部50が撮像したテンプレートの領域候補を含む画像を取得する。
図10(A)では、この画像の範囲を、撮像部50の視野範囲VAで示す。また、
図10(B)は、視野範囲VAに対応する物品画像GMの領域を点線、テンプレートの候補となる領域SAを一点鎖線、で示している。オペレータは、予め、電子部品2の実装面2a上のパターンマッチングし易い特徴的なパターン(バンプBの配置など)で構成する領域を、領域SAとして決めておく。一般的には、対角の二隅近傍を、一対の領域SAとして決める。ここでは、図面上、左上と右下の二隅とする。なお、この時点では、領域SAは、この後、テンプレートとして選択されるべき領域であり、まだ選択はされていない。
【0061】
撮像制御部601は、
図10(A)に示すように、視野範囲VAを相対移動させて、領域SAを含む対角の二隅近傍の二箇所を撮像する。各視野範囲VAで撮像された画像が、それぞれ物品画像GMとなる。要求精度に対応した倍率での視野範囲VAの中で、電子部品2のずれ量を考慮したやや小さめの領域が領域SAであり、この視野範囲VAが、領域SAを含む物品画像GMとなる。より具体的には、視野範囲VAは狭いため、
図10(A)に示す電子部品2の実装面2aの一部が、表示装置90に撮像部50により撮像された画像として表示される。オペレータは、
図10(B)の領域SAを想定しつつ、表示される範囲で、特徴的なパターン部分を探し出す。
図10(A)のような実装面2aの対角の二隅の部分を選択するのは、後述するように、対角の二隅のパターンをそれぞれパターンマッチングして、それぞれの画像中心位置を算出し、二隅の位置から二隅の画像中心を結ぶ線分の基準座標からの角度を向き(姿勢)とするためである(
図11(A)参照)。対角とするのは、一番距離の長い部分を選択することで、角度計算の精度を高めるためである。このように、なお、あらためて撮像しなくても、学習時に撮像した物品画像GMであって、領域SAを含む画像を用いることもできる。
【0062】
分割特徴画像生成部607は、分割物品画像DGMから、画像生成モデルによって、分割物品画像DGM毎の特徴を抽出した分割特徴画像DFMを生成する。分割特徴画像DFMにおける特徴は、分割物品画像DGMの特徴の位置、サイズ及び数が同じである(
図9(A)、(B)参照)。つまり、分割特徴画像DFMは、電子部品2の電極部、あるいは基板3の電極部のみが、分割物品画像DGMと同じ位置、サイズ及び数で示された画像となる。分割特徴画像DFMは、それぞれが等しく、また学習サイズと等しい。特徴画像生成部608は、分割特徴画像DFMを結合した特徴画像FMを生成する。これにより、
図8(B)に示すように、物品画像GMと等しいサイズの特徴画像FMが生成される。
【0063】
領域選択部609は、特徴画像FMにおける所望の領域を選択する。
図10(B)の矩形の一点鎖線で示すように、表示装置90に表示された特徴画像FMにおいて、オペレータが入力装置80を用いて所望の領域SAを指定すると、領域選択部609が当該領域SAを選択する。指定する領域SAは、物品である電子部品2の特徴とするバンプの配置が識別しやすい特徴的なパターンとなるような領域とするのが好ましい。また、領域SAは、電子部品2の中心を挟んで対角に対応する位置に並ぶ一対とするのが好ましい。これにより、XY方向のずれ量のみならず、θ方向のずれ量の補正が容易となる。テンプレート登録部610は、領域選択部609により選択された領域SAを、パターンマッチングのための基準パターン(参照パターン)となるテンプレートとして登録する。この場合、電子部品2に対する電子部品側のテンプレート(電子部品2のテンプレート)となる。なお、同様に、基板3の実装領域に対しても領域SAを指定して基板側のテンプレート(基板3のテンプレート)として登録する。
【0064】
なお、パターンマッチングでは、ずれが検出しやすい特徴を選択する。例えば、対角の二隅、あるいは四隅にアライメント用のマークが電子部品2の実装面2aに設けられている場合には、それを含む領域SAとしてもよい。円形のマークは重心が求め易い。十字マークはXY辺があるので、XYの位置ずれが認識し易い。パターンマッチング率を高めるために、つまり特徴化するために、アライメントマークとその周囲の回路、配線パターンを含めてもよい。
【0065】
また、一か所の特徴的なパターンを含む領域SAでも、方向ズレを認識することは可能である。撮像画像あるいは二値化(多値化画像)を所定角度変換し、それぞれをテンプレートとパターンマッチングさせる。一番パターンマッチング率が高いときの変換角度が、θずれ量となる。
【0066】
パターンマッチング部611は、登録されたテンプレートと、パターンマッチング用特徴画像とのパターンマッチングを行う。このパターンマッチングにより、パターンマッチング用特徴画像における特徴のサイズと位置が、テンプレートにおける特徴のサイズと位置が一致する箇所があるか否かを検出する。特徴のサイズと位置が一致する箇所がある場合に、パターンマッチングができた(成功した)ことになる。このとき、「一致する箇所がある」とは、予め定めた比率(パターンマッチング率)以上で、一番比率が高い(一致度が高い)箇所が特定できたことを言う。つまり、一致すると判断できる箇所が特定できたとも言える。したがって、このパターンマッチング率より低い場合、一致しない、一致した箇所が見つからない、一致すると判断できる箇所が特定できないために、パターンマッチングできない(失敗した)ということになる。このように、パターンマッチングは、一致度(マッチング率)が一番高い位置を探査する。ただし、例えば、所定のマッチング率のしきい値を80%に設定し、探査して見つけた場所のマッチング率がしきい値を超えていることを条件とする。したがって、最高のマッチング率が、所定のしきい値より小さい場合、パターンマッチングできなかった(失敗)となる。
【0067】
また、特徴のサイズと位置が一致する箇所があるとは、パターンマッチング用特徴画像の全体とテンプレートの全体との間に相対的なずれがあってもよく、ずれを補正すれば、テンプレートの領域において特徴のサイズと位置が一致すればよい。撮像部50により撮像された画像が、照明条件などが変わることにより、特徴の写り方が、特徴として認識できない程度に変わらない姿勢であればよい。
【0068】
パターンマッチング用特徴画像は、特徴画像生成部608が、パターンマッチング用分割特徴画像を結合することにより生成する。パターンマッチング用分割特徴画像は、分割特徴画像生成部607が、パターンマッチング用分割物品画像から生成する。パターンマッチング用分割物品画像は、パターンマッチングの対象となる物品の特徴を含む領域を、撮像部50が撮像したパターンマッチング用物品画像を、物品画像分割部606が分割することにより生成する。パターンマッチングの対象となる物品は、テンプレートの対象となった電子部品2あるいは基板3と同じ特徴を有する物品であり、位置決め対象、実装対象となる物品である。
【0069】
つまり、パターンマッチング用物品画像は、これから実装される電子部品2の実装面2aであって、登録した二つのテンプレートを含む領域(二隅の領域)をそれぞれ撮像する。そして、それぞれのパターンマッチング用物品画像を分割し、画像生成モデルを適用して、それぞれのパターンマッチング用分割特徴画像を生成する。生成したそれぞれのパターンマッチング用分割特徴画像を結合して、元の撮像画像と同じサイズのパターンマッチング用特徴画像とする。そして、これから実装する電子部品2のテンプレートを含む領域のパターンマッチング用特徴画像と、登録したテンプレート画像とを、上記のようにパターンマッチングする。
【0070】
ずれ量算出部612は、パターンマッチング用特徴画像と登録されたテンプレートとのパターンマッチングに成功した場合に、パターンマッチング用特徴画像と、テンプレートとの特徴の水平方向(X、Y、θ)のずれ量を算出する。つまり、ずれ量算出部612は、これから実装する電子部品2の位置が、登録したテンプレートの位置に対して、どれだけずれているかを算出する。
【0071】
より具体的には、パターンマッチング部611が、二隅それぞれの画像を、それぞれのテンプレートでパターンマッチングし、一番高い比率(マッチング率)となる(所定のマッチング率より大きい)位置を抽出し、ずれ量算出部612が、基準からのずれ量を算出する。また、ずれ量算出部612は、二隅の、それぞれのテンプレート領域の中心を結ぶ線分と、二隅の抽出した位置を結ぶ線分とがなす角度を算出し、θ方向のずれ量を算出する。
【0072】
図11(A)は、登録した二カ所のテンプレートTMの位置を、仮想的な実装面2aを背景に実線で示した図である。
図11(B)は、テンプレートTMに対応する特徴画像FMを電子部品2の実装面2a上に展開した図である。これらの図は、電子部品2の実装面2aの基準点位置と、ボンディングヘッド基準位置(中心)からの距離などの情報から想定できる。
図11(A)に、2箇所のテンプレートTMが登録された時のそれぞれの中心位置を十字で示す。
図11(B)に、これから実装する電子部品2が、ボンディングヘッド310に対して、ある角度で保持された状態で撮像された画像から抽出されたパターンマッチング用の2箇所の特徴画像FMのそれぞれの中心位置を十字で示す。
【0073】
位置決め制御部613は、ずれ量を補正するように、位置決め機構(回動ユニット312、ヘッド移動機構320、ステージ移動機構42)に物品を移動させることにより位置決めする。制御部6は、撮像部50が撮像した撮像画像を用いることで、登録されたテンプレートの位置と、実装位置P3との位置関係が得られている。したがって、電子部品2と基板3の実装領域3aの位置が一致するように、実装位置P3に位置付けることができる。
【0074】
実装制御部614は、位置決め後、ヘッド移動機構320の昇降機構322によってボンディングヘッド310を下降させて、電子部品2を基板3の実装領域3aに実装させる。電子部品2及び基板3は、テンプレートとの位置ずれが補正され、互いの電極部は位置座標が一致しているため、双方の電極部が接触するように電子部品2が基板3に搭載されて実装される。
【0075】
記憶部615は、記録媒体である各種メモリ(HDD:Hard Disk DriveやSSD:Solid State Driveなど)、記録媒体と外部とのインターフェースを含む記憶装置である。記憶部615には、実装装置1の動作に必要なデータ、プログラムが記憶される。必要なデータは、例えば、物品画像、学習用分割物品画像、教示用分割特徴画像、画像生成モデル、分割物品画像、分割特徴画像、特徴画像、テンプレート、パターンマッチング用物品画像、パターンマッチング用分割物品画像、パターンマッチング用分割特徴画像、パターンマッチング用特徴画像、各種のしきい値などを含む。また、各装置が出力するデータも、記憶部615に適宜記憶される。以下の説明では、例えば、撮像部50が撮像した画像など、各装置において出力されるデータを取得することも、記憶部615に記憶することに相当する。
【0076】
[動作]
以上のような実装装置1において、ピックアップ装置20により供給装置10から電子部品2をピックアップし、当該電子部品2を搭載装置30に受け渡し、搭載装置30において電子部品2を基板3に実装する手順を、上記の
図1~
図11に加えて、
図12~
図15のフローチャートを参照して説明する。なお、以下に説明する各部の処理を含む画像処理方法、位置決め方法、実装方法も、本実施形態の一態様である。
【0077】
(画像生成モデルの作成)
まず、モデル生成部605による画像生成モデルの作成の手順を、
図12のフローチャートに従って説明する。まず、撮像部50により撮像された物品画像GMを、制御装置60が取得する(ステップS101)。次に、表示装置90に表示された物品画像GMにおける特徴の位置を、オペレータが入力装置80を用いて教示する。つまり、表示装置90が表示した物品画像GMにおいて、バンプBの位置を、オペレータが入力装置80を用いて選択する。すると、教示用特徴画像生成部602は、物品画像GMから特徴を抽出した特徴画像FMである教示用特徴画像を生成する(ステップS102)。
【0078】
なお、画像生成モデルを作成するための撮像部50による物品画像GMの撮像は、画像生成モデルの作成以前であればよい。また、撮像環境は、実装装置1とは別の装置や、コンピュータにおいて行ってもよい。
【0079】
まず、実装装置1の実装位置P3において電子部品2及び基板3を撮像する場合を説明する。すなわち、ボンディングヘッド310の保持面311aに電子部品2を保持させる。例えば、オペレータが入力装置80を手動操作することにより、トレイ11から電子部品2をピックアップし、ボンディングヘッド310へ受け渡して保持させる。そして、ボンディングヘッド310を実装位置P3に移動し、撮像部50を電子部品2の下に移動させる。また、オペレータが入力装置80を手動操作することにより、基板ステージ40に載置した基板3の適当な実装領域3aを、実装位置P3に移動させる。そして、撮像部50を実装位置P3に移動させ、電子部品2の実装面2a、基板3の実装領域3aを撮像する。なお、撮像の際、撮像部50のピント調整、照明の照射位置や明るさの調整を行う。
【0080】
実装装置1における実装位置P3以外の場所で撮像する場合は、例えば、電子部品2を一時的に載置するためのプリサイサ上に、電子部品2を載置して、上方からプリサイサ用の撮像部で撮像した画像を用いることができる。また、シート上の電子部品2を撮像するピックアップ用の撮像部で撮像した画像を用いることもできる。さらに、別の実装装置1での撮像画像や、撮像するだけのテストベンチのようなものでの撮像画像も、画像生成モデルを生成するのに使用することができる。
【0081】
画像生成モデルの生成のための撮像は、特徴であるバンプBが映っていればどこでもよい。学習用の画像は、例えば、ボンディングヘッド110が保持した電子部品2の実装面2aの全面を、撮像部50の視野範囲で順次撮像し、記憶させるが、これにより、多数の画像を得ることができる。例えば、
図6(B)に示すように、点線で示す視野範囲VAを、ボンディングヘッド110を移動させることで移動させ、適当な場所で撮像する。
図6(B)では、9箇所で撮像することにより、9枚の物品画像GMを得ている。9箇所分のそれぞれでバンプBが含まれている場合には、その位置も特定される。上記のように、バンプBが含まれていない物品画像GMが存在する場合もある。9枚の物品画像GMのそれぞれについて、9枚の特徴画像FMを作成する。
【0082】
学習用物品画像分割部603は、物品画像GMを分割した分割物品画像DGMである学習用分割物品画像を生成する(ステップS103)。教示用特徴画像分割部604は、教示用特徴画像を分割した分割特徴画像DFMである教示用分割特徴画像を生成する(ステップS104)。モデル生成部605は、学習用分割物品画像及び教示用分割特徴画像に基づく機械学習を行い(ステップS105)、画像生成モデルを作成する(ステップS106)。
【0083】
例えば、9枚の物品画像GMのそれぞれを、例えば、9分割して学習用分割物品画像とする。また、9枚の特徴画像FMのそれぞれも、9分割して教示用分割特徴画像とする。モデル生成部605は、このように作成された合計81枚の学習用分割物品画像と合計81枚の教示用分割物品画像を使って、特徴であるバンプBがどのように画像上写っているか、つまりどのように写っている部分がバンプBなのかを機械学習する。
【0084】
(テンプレートの登録)
次に、テンプレートの登録の手順を説明する。まず、撮像部50により撮像された物品画像GMを、制御装置60が取得する(ステップS201)。物品画像分割部606は、物品画像GMを分割することにより分割物品画像DGMを生成する(ステップS202)。分割特徴画像生成部607は、画像生成モデルを用いて、分割物品画像DGMから、分割特徴画像DFMを生成する(ステップS203)。特徴画像生成部608は、分割特徴画像DFMを結合することにより、特徴画像FMを生成する(ステップS204)。
【0085】
このようなテンプレート作成用の物品画像GMの撮像は、認識する対象の基準位置を指定するために実施する。その撮像の手順は、上記の画像生成モデルを作成するための学習用の物品画像GMの撮像と同様である。但し、学習用の物品画像GMをそのまま利用することもできるし、あらためて撮像してもよい。例えば、電子部品2の品種を切り替える場合などには、新たな種類の電子部品2をボンディングヘッド110に保持させて撮像する。もちろん、パターンマッチング用のテンプレートは新たな品種での特徴画像FMに基づいて生成する。
【0086】
表示装置90は特徴画像FMを表示し、オペレータが、特徴画像FMが特徴の位置を正しく生成できているかどうかを確認し、入力装置80を用いて、テンプレートとすべき領域SAを指定すると、領域選択部609が当該領域を選択する(ステップS205)。テンプレート登録部610は、選択された領域を、テンプレートとして登録する(ステップS206)。なお、上記の画像生成モデルの作成、テンプレートの登録は、電子部品2及び基板3の双方について行われる。
【0087】
ここで、学習用に撮像した物品画像GMを用いる場合には、複数の物品画像GMのうち、パターンマッチングを行うのに適切な部分(テンプレートとすべき領域を含む)の物品画像GMを使用する。例えば、
図6(A)に示す左上隅と右下隅の画像を使用する。上記の説明の通り、この物品画像GMをそれぞれ分割した、分割物品画像DGMに基づいて、分割特徴画像DFMを生成し、これを結合して、元の各隅の画像位置、画像サイズで、特徴画像FMを生成する。上記のように、例えば、左上隅と右下隅の画像から生成した特徴画像FMの、特徴的なパターンを含む部分を領域SAとして選択して、テンプレートTMとして登録する。
図11(A)で、対角の二隅の実線の矩形枠が、テンプレートTMである。
【0088】
(電子部品の実装)
次に、実際に電子部品2を基板3に位置決めして実装する動作を説明する。
<電子部品の移送>
まず、電子部品2を供給装置10から搭載装置30へ移送する動作を説明する。ピックアップ装置20によって、ピックアップノズル21を供給位置P1に移動させる。一方、供給装置10は、供給ステージ12を移動させ、供給位置P1にピックアップ対象の電子部品2を位置させる。この後、ピックアップノズル21が降下して、電子部品2に接近して行き、電子部品2に接触して停止する。そして、ピックアップノズル21が停止した状態で、ノズル孔からの排気によって吸引を開始する。この状態で、ピックアップノズル21が上昇すると、ピックアップノズル21によって吸引された電子部品2が、トレイ11からピックアップされる。
【0089】
ピックアップ装置20は、反転機構23によって、ピックアップノズル21を反転させる。ピックアップ装置20は、移動機構22によって、受け渡し位置P2にピックアップした電子部品2を移動させる。
図3、
図4に示すように、受け渡し位置P2では、搭載装置30のボンディングヘッド310が待機しており、反転したピックアップノズル21に保持された電子部品2と対向する。ボンディングヘッド310に向けてピックアップノズル21を上昇させ、ボンディングツール311に電子部品2を接触させる。ボンディングツール311の吸引孔からの排気によって吸引を開始する。これにより、ボンディングツール311に電子部品2を吸着させて保持した後、ピックアップノズル21が負圧を解除することにより、ボンディングヘッド310へと電子部品2を受け渡す。この後、ピックアップノズル21は、ボンディングヘッド310から離間するように下降して、供給位置P1に戻る。ボンディングヘッド310は、
図1及び
図2に示すように、実装位置P3へと移動することにより、電子部品2の実装面2aと基板3の実装領域3aとを対向させる。
【0090】
<パターンマッチング>
次に、パターンマッチング処理を説明する。まず、
図5に示すようにして、撮像部50が電子部品2及び基板3を撮像した物品画像GMを、制御装置60が取得する(ステップS301)。物品画像分割部606は、物品画像GMを分割した分割物品画像DGMを生成する(ステップS302)。特徴画像生成部608は、分割物品画像DGMから、画像生成モデルによって、分割特徴画像DFMを生成する(ステップS303)。特徴画像生成部608は、分割特徴画像DFMを結合した特徴画像FMを生成する(ステップS304)。パターンマッチング部611は、特徴画像FMと登録したテンプレートとのパターンマッチングを行う(ステップS305)。つまり、電子部品2の特徴画像FMとテンプレートとのパターンマッチング、基板3の特徴画像FMとテンプレートとのパターンマッチングを行う。
【0091】
<搭載動作>
さらに、電子部品2の搭載動作を説明する。ずれ量算出部612は、特徴画像FMの特徴とテンプレートの特徴に基づいて、電子部品2とテンプレートのX、Y、θのずれ量、基板3とテンプレートのX、Y、θのずれ量を求める(ステップS401)。
【0092】
より具体的には、パターンマッチング部611が、二隅それぞれの特徴画像FMを、それぞれのテンプレートTMでパターンマッチングし、一番高い比率(マッチング率)となる(所定のマッチング率より大きい)位置を抽出し、ずれ量算出部612が、基準からのずれ量を算出する。また、ずれ量算出部612は、二隅の、それぞれのテンプレートTMの領域の中心を結ぶ線分(
図11(A)の一点鎖線)と、二隅の抽出した特徴画像FMの中心を結ぶ線分(
図11(B)の二点鎖線)とがなす角度を算出し、θ方向のずれ量を算出する。なお、基準からのX、Yのずれ量は、それぞれのテンプレートTMと特徴画像FMの位置関係から求めても良いし、テンプレートTMと特徴画像FMとの、それぞれの二隅の中心を結ぶ線分の中点の位置関係から求めても良い。
【0093】
そして、位置決め制御部613は、ずれ量が解消されるように、位置決め機構を動作させることにより、位置決めを行う(ステップS402)。そして、実装制御部614は、昇降機構322によってボンディングヘッド310を下降させて、電子部品2を基板3に搭載する(ステップS403)。
【0094】
[効果]
(1)本実施形態の画像処理装置61は、物品の特徴を含む領域を撮像した物品画像GMを、所定のサイズに分割した学習用分割物品画像を生成する学習用物品画像分割部603と、物品画像GMから特徴を抽出した特徴画像FMを、所定のサイズに分割した教示用分割特徴画像を生成する教示用特徴画像分割部604と、学習用分割物品画像及び教示用分割特徴画像に基づいて、物品画像GMから特徴を抽出する画像生成モデルを生成するモデル生成部605と、を有する。
【0095】
また、本実施形態の画像処理装置61は、物品画像GMを、所定のサイズに分割した分割物品画像を生成する物品画像分割部606と、分割物品画像DGMから、画像生成モデルによって、分割物品画像DGM毎の特徴を抽出した分割特徴画像DFMを生成する分割特徴画像生成部607と、分割特徴画像DFMを結合した特徴画像FMを生成する特徴画像生成部608と、特徴画像FMの所望の領域を選択する領域選択部609と、領域選択部609により選択された領域を、パターンマッチングのテンプレートとして登録するテンプレート登録部610と、を有する。
【0096】
さらに、本実施形態の画像処理装置61は、パターンマッチングの対象となる物品の特徴を含む領域を撮像したパターンマッチング用物品画像を、物品画像分割部606が分割したパターンマッチング用分割物品画像から、分割特徴画像生成部607が生成したパターンマッチング用分割特徴画像を、特徴画像生成部608によって結合したパターンマッチング用特徴画像と、登録されたテンプレートとをパターンマッチングするパターンマッチング部611と、を有する。
【0097】
本実施形態の画像処理方法は、物品の特徴を含む領域を撮像した物品画像GMを、所定のサイズに分割した学習用物品画像を生成する学習用物品画像生成処理と、物品画像GMの特徴を抽出した特徴画像FMを、所定のサイズに分割した教示用特徴画像を生成する教示特徴画像生成処理と、学習用物品画像及び教示用特徴画像に基づいて、物品画像GMから特徴を抽出する画像生成モデルを生成するモデル生成処理と、を含む。
【0098】
また、本実施形態の画像処理方法は、物品画像GMを、所定のサイズに分割した分割物品画像DGMを生成する物品画像分割処理と、分割物品画像DGMから、画像生成モデルに基づいて、分割物品画像DGM毎の特徴を抽出した分割特徴画像DFMを生成する分割特徴画像生成処理と、分割特徴画像DFMを結合した特徴画像FMを生成する特徴画像生成処理と、特徴画像FMの所望の領域を選択する領域選択処理と、領域選択処理により選択された領域を、パターンマッチングのテンプレートとして登録するテンプレート登録処理と、を含む。
【0099】
さらに、本実施形態の画像処理方法は、パターンマッチングの対象となる物品の特徴を含む領域を撮像したパターンマッチング用物品画像を、物品画像分割処理により分割したパターンマッチング用分割物品画像から、分割特徴画像生成処理により生成したパターンマッチング用分割特徴画像を、特徴画像生成処理によって結合したパターンマッチング用特徴画像と、登録されたテンプレートとをパターンマッチングするパターンマッチング処理と、を含む。
【0100】
このため、物品画像GMの態様にかかわらず、特徴を抽出した画像によって正確にパターンマッチングすることができる。つまり、物品の様々な表面状態や形状のばらつき、画像における物品の写り方のばらつきなどによる特徴以外の箇所の影響を受けることなく、撮像された画像にかかわらず、パターンマッチングの成功率を高めることができる。例えば、
図8(A)の物品画像GMと比較して、
図16(A)に示すように、背景の見た目が異なる物品画像GMを取得した場合でも、特徴の位置以外の情報の影響を受けずに位置合わせできる。
【0101】
また、分割された複数の分割物品画像DGMにより、共通の特徴を学習することができるので、学習の練度が高まる。さらに、各分割物品画像DGMにおける特徴の数や特徴以外の要素の数は、物品画像GMよりも低減できる。このため、正確にパターンマッチングができる画像生成モデルの生成の確実性が増す。
【0102】
(2)画像処理装置61は、学習用分割物品画像、教示用特徴画像、分割物品画像、分割特徴画像、パターンマッチング用分割物品画像、パターンマッチング用分割特徴画像は、同一のサイズである。対応する画像のサイズを合わせることにより、特徴の抽出を正確に行うことができる。
【0103】
(3)本実施形態の位置決め装置は、パターンマッチング部611によりパターンマッチングされたパターンマッチング用特徴画像と、テンプレートとの特徴のずれ量を算出するずれ量算出部612と、パターンマッチングの対象となった物品の位置決めを行う位置決め機構と、ずれ量を補正するように、位置決め機構にパターンマッチングの対象となった物品を移動させることにより位置決めする位置決め制御部613と、を有する。これにより、正確に抽出された特徴の位置により、位置決めができる。
【0104】
(4)位置決め機構は、基板3及び電子部品2を相対移動させることにより位置決めする機構であり、位置決めされた電子部品2を基板3に搭載する搭載機構と、搭載機構に、電子部品2を基板3に搭載する方向に移動させることにより、電子部品2を基板3に搭載させる実装制御部614と、を有する。これにより、位置決めされた電子部品2を、基板3に正確に実装できる。
【0105】
[第2の実施形態]
次に、第2の実施形態について説明する。なお、第1の実施形態と同様の構成については、同一の名称、符号を付して説明を省略する。
【0106】
[概要]
図17に示すように、本実施形態の実装装置1は、第1の実施形態の制御装置60が、画像情報取得部600A、第1の画像変換部600B、第2の画像変換部600Cを有する。
【0107】
画像情報取得部600Aは、取得した物品画像における特徴の輝度及びサイズを取得する。第1の画像変換部600Bは、学習用の物品画像における特徴の輝度及びサイズに、パターンマッチングのテンプレート用の物品画像における特徴の輝度及びサイズが合うように、テンプレート用の物品画像の輝度及びサイズを変換する。第2の画像変換部600Cは、物品画像分割部606がテンプレート用の物品画像を分割して生成した分割物品画像から、分割特徴画像生成部607が抽出した分割特徴画像を、特徴画像生成部608が結合することにより生成した特徴画像のサイズを、第1の画像変換部600Bによる変換前の物品画像のサイズに変換する。
【0108】
画像情報取得部600A、教示用特徴画像生成部602、学習用物品画像分割部603、教示用特徴画像分割部604、モデル生成部605、第1の画像変換部600B、物品画像分割部606、分割特徴画像生成部607、特徴画像生成部608、第2の画像変換部600C、領域選択部609、テンプレート登録部610、パターンマッチング部611は、画像処理装置61として捉えることができる。また、画像処理装置61、ずれ量算出部612、位置決め制御部613は、位置決め機構(回動ユニット312、ヘッド移動機構320、ステージ移動機構42)とともに、位置決め装置として捉えることができる。
【0109】
画像情報取得部600Aは、上記のように、物品画像における特徴の輝度及びサイズを取得する。なお、画像情報が予め入力又は設定されている場合も含めて、様々な取得の態様すべてが「画像情報の取得」に含まれる。
【0110】
学習用物品画像、教示用特徴画像の対象となる物品は、特徴が正確に抽出できればよい。このため、パターンマッチングの対象となる物品と特徴の形状が一致していればよいが、パターンマッチングの対象となる物品と同じ物品である必要はない。「同じ物品」とは、特徴の形状のみならず、大きさ、位置及び数が共通の製品群をいう。例えば、特徴がバンプBの場合、バンプBの形状、大きさ、位置及び数が一致していれば、同じ電子部品2となる。学習用物品画像、教示用特徴画像の対象となる物品は、例えば、電子部品2の場合、バンプBの形状が一致していればよく、大きさ、位置及び数まで一致している電子部品2である必要はない。つまり、特徴を抽出するための学習用の画像であるため、複数の電子部品2の画像を取り混ぜて撮像しても良い。
【0111】
第1の画像変換部600Bは、学習用の物品画像GMにおける特徴の輝度及びサイズに、パターンマッチングのテンプレート用の物品画像GMにおける特徴の輝度及びサイズが合うように、テンプレート用の物品画像GMの輝度及びサイズを変換する。テンプレート用の物品画像GMは、パターンマッチングの対象となる物品と同じ特徴を含む領域を、撮像部50が撮像した画像である。本実施形態の物品画像GMは、位置決め対象、実装対象となる電子部品2あるいは基板3を撮像した画像である。
【0112】
このような第1の画像変換部600Bによる画像の変換を、円形のバンプBを特徴とする例で説明する。サイズとしては、設計上のサイズを用いてもよいし、学習用の物品画像GMにおけるバンプBのサイズの平均値を用いてもよい。学習用の物品画像GMにおけるバンプBのサイズが直径10pxの円形で、テンプレート用に取得した物品画像GMにおけるバンプBのサイズが直径20pxの円形だった場合、学習用の物品画像GMの全体と、テンプレート用の物品画像GMの全体の比率が、2:1となるように、テンプレート用の物品画像GMの全体のサイズを変換(リサイズ)を行う。リサイズの方法は、テンプレート用の物品画像GMのバンプBのサイズが直径10pxとなれば良く、種々の画像処理方法を適用できる。
【0113】
また、輝度値については、バンプBであると認識された領域の輝度値であり、黒(最小輝度)を下限値の0、白(最大輝度)を上限値の255とする。また、物品画像GMにおけるバンプBの輝度値の平均値を用いることができる。具体的には、学習用の物品画像GMに対する教示用特徴画像で示されるバンプBの位置の、バンプBのサイズ分の輝度値の平均値、および複数のバンプBの輝度の平均値や中央値、最頻値等をバンプの輝度値として取得する。なお、輝度値の平均値に限らず、中央値や最頻値などでも良い。換言すれば、バンプBの輝度値は、物品画像GMにおいてバンプBと認識できる領域の輝度値と言える。例えば、学習用の物品画像GMにおけるバンプBの輝度値が160で、リサイズした物品画像GMの輝度値が85だった場合、物品画像GMの全体の輝度値を160までシフトさせて、学習用の物品画像GMと同じになるように変換する。つまり、学習用の物品画像GMでは、中程度の明るさであったバンプBが、テンプレート用の物品画像GMでは、より暗く撮像されている場合、その画像を学習時と同じ中程度の明るさとなるように輝度を上げる。
【0114】
なお、はじめに、学習用の物品画像GMの撮像において、オペレータが、例えば、照明の明るさを調整して、バンプBが見えない暗い状態から徐々に明るくし、バンプBが見え始めて、ハレーションでバンプBの外形がぼやけてしまうようになったら、その間で明るさを下げ上げして、バンプBの外形がはっきり見える真ん中の明るさに設定すると良い。
【0115】
リサイズは、画素サイズは同じまま、例えばバンプBを構成する画素の位置が、相似形となるようにその位置を変換する。このため、拡大変換(拡大リサイズ)の場合には、元の画像には存在しない画素が生じるので、その分は対象となる元の画素の近傍画素を使って補間処理する。縮小変換(縮小リサイズ)の場合には、元の画像から余る画素が生じるので、その分は間引き処理する。
【0116】
また、バンプBを拡大するリサイズの場合、上述のように補間処理が行われるので、この補間処理の影響(近傍画素の輝度値)で輝度値が変化する可能性がある。このため、特徴画像FMの生成ができないか、生成できたとしてもパターンマッチングに失敗する可能性がある。なお、拡大リサイズでの形状変形については無いと言える、又は無視できるレベルである。
【0117】
また、バンプBを縮小するリサイズの場合、上述のように間引き処理となり、近傍画素を使った補間がされないため、輝度値には影響しない。しかし、間引き処理されることで、バンプBの形状が歪んでしまう可能性がある。このため、特徴画像FMの生成ができないか、生成できたとしてもパターンマッチングが失敗する可能性がある。なお、アルゴリズムによっては縮小の場合でも補間処理を行う場合が考えられ、この場合には、拡大の場合と同様に輝度値に影響が出る懸念が生じ、特徴画像FMが生成できないか、生成できたとしてもパターンマッチングに失敗する可能性が生じる。
【0118】
第1の画像変換部600Bは、サイズの変換と輝度の変換の順序が、切り替え可能である。つまり、第1の画像変換部600Bは、リサイズ後に輝度の調整を行っても、輝度の調整後にリサイズを行ってもよい。輝度の調整は、物品画像GMの全体で行われるので、処理する画素数によって処理時間が変わる。つまり、リサイズにおいて画素サイズは変わらないので、小さい物品画像GMのサイズでは処理する画素数が少なくて処理時間が短く、大きい物品画像GMのサイズでは処理する画素数が多くて処理時間が長くなる。したがって、バンプBを拡大するリサイズの場合、バンプBを構成する画素数が元のサイズに対して増えることになる結果、拡大リサイズした後の輝度調整では、輝度調整の対象となる画素数が、元の画像に対して増えることになるので、元の画像に対する輝度調整より輝度調整の時間が長くなる。
【0119】
一方、バンプBを縮小するリサイズの場合、バンプBを構成する画素数が元のサイズに対して減ることになる結果、縮小リサイズした後の輝度調整では、輝度調整の対象となる画素数が元の画像に対して減ることになるので、元の画像に対する輝度調整より輝度調整の時間が短くなる。
【0120】
つまり、拡大リサイズの場合は、輝度調整を先に行う方が、処理対象の画素数が少ない状態で処理ができるので、処理時間が長くなることが抑制できる。しかし、輝度調整した後での拡大リサイズによって、調整した輝度が変化し、特徴画像FMが生成できない場合が生じる懸念がある。
【0121】
このため、リサイズと輝度調整は、その順序によって以下のような有利な点、不利な点がある。
(A)拡大リサイズの場合
(1)拡大リサイズでの輝度変化が特徴画像FMの生成に影響しない、あるいは許容できる影響範囲内であれば、輝度調整を先に行い、その後で拡大リサイズを行う。これにより、処理時間を短くできる。
【0122】
(2)拡大リサイズでの輝度変化が特徴画像FMの生成に影響してしまう、あるいは許容できる影響範囲内で収まらない場合には、リサイズを先に行う。拡大後の輝度調整となるので、処理時間は長くなるが、特徴画像への影響を抑えることができる。
【0123】
(B)縮小リサイズの場合
リサイズを先に行い、その後で輝度調整をする方が、輝度調整の処理対象の画素数が少ない状態で処理ができるので、処理時間を短くできる。縮小の場合には、補間処理がないので輝度変化の問題は生じない。
【0124】
以上をまとめると、以下の表のようになる。処理順[1]、[2]は、左欄が先、右欄が後で行う処理である。また、輝度の変化(明るさの変化)は見た目の色(色味)として認識できるので、「色味」と表記している。
【0125】
したがって、リサイズと輝度調整はいずれが先でもよいが、状況に応じて、リサイズが縮小か拡大かによって、処理順番を変更するように切り替わるように制御すると良い。
(a)拡大時は、処理時間が問題となるのであれば、輝度調整の後、リサイズを行う。色味の変化が問題とならない場合、処理時間増大を防ぐことができる。
(b)拡大時は、処理時間が問題とならないのであれば、リサイズの後、輝度調整を行う。この場合、色味の変化はない。
(c)縮小時は、リサイズの後、輝度調整を行う。これにより、処理時間を短縮できる。
なお、輝度だけ、サイズだけの変換もあり得る。この場合は、処理順によって生じる問題は生じない。
【0126】
なお、例えば、学習用の物品画像GMのバンプのサイズが50pxで、テンプレート用の物品画像GMのバンプのサイズが60pxの場合、テンプレート用の物品画像GMを、6:5の比で縮小させるリサイズとなる。すると、学習用の物品画像GMを分割する時の学習サイズは固定(例えば100px×100px)なので、テンプレート用の物品画像GMが縮小されると均等分割とならなくなる。この場合、アライメントに影響しない無地の背景(撮像画像以上で、均等分割できるサイズ)を付与することで、物品画像GMの全域に亘って、画像生成モデルによる特徴画像FMの生成を可能とする。これは、拡大のリサイズの場合も同様である。
【0127】
第2の画像変換部600Cは、特徴画像FMのサイズを、第1の画像変換部600Bによる変換前の物品画像GMのサイズに変換する。つまり、位置決め対象、実装対象となる物品の物品画像GMとのマッチングが可能となる元の大きさに戻す。
【0128】
なお、記憶部615が記憶する実装装置1の動作に必要なデータには、画像情報を含む。
【0129】
[動作]
以上のような実装装置1において、ピックアップ装置20により供給装置10から電子部品2をピックアップし、当該電子部品2を搭載装置30に受け渡し、搭載装置30において電子部品2を基板3に実装する手順を、上記の
図1~
図11に加えて、
図14、
図15、
図18、
図19のフローチャートを参照して説明する。なお、以下に説明する各部の処理を含む画像処理方法、位置決め方法、実装方法も、本実施形態の一態様である。
【0130】
(画像生成モデルの作成)
まず、モデル生成部605による画像生成モデルの作成の手順を、
図18のフローチャートに従って説明する。まず、撮像部50により撮像された物品画像GMを、制御装置60が取得する(ステップS501)。このとき、画像情報取得部600Aは、取得した物品画像GMにおける特徴の輝度及びサイズを取得する(ステップS502)。次に、表示装置90に表示された物品画像GMにおける特徴の位置を、オペレータが入力装置80を用いて教示する。つまり、表示装置90が表示した物品画像GMにおいて、バンプBの位置を、オペレータが入力装置80を用いて選択する。すると、教示用特徴画像生成部602は、物品画像GMから特徴を抽出した特徴画像FMである教示用特徴画像を生成する(ステップS503)。
【0131】
なお、画像生成モデルを作成するための撮像部50による物品画像GMの撮像は、画像生成モデルの作成以前であればよい。また、撮像環境は、実装装置1とは別の装置や、コンピュータにおいて行ってもよい。
【0132】
まず、実装装置1の実装位置P3において電子部品2及び基板3を撮像する場合を説明する。すなわち、ボンディングヘッド310の保持面311aに電子部品2を保持させる。例えば、オペレータが入力装置80を手動操作することにより、トレイ11から電子部品2をピックアップし、ボンディングヘッド310へ受け渡して保持させる。そして、ボンディングヘッド310を実装位置P3に移動し、撮像部50を電子部品2の下に移動させる。また、オペレータが入力装置80を手動操作することにより、基板ステージ40に載置した基板3の適当な実装領域3aを、実装位置P3に移動させる。そして、撮像部50を実装位置P3に移動させ、電子部品2の実装面2a、基板3の実装領域3aを撮像する。なお、撮像の際、撮像部50のピント調整、照明の照射位置や明るさの調整を行う。
【0133】
実装装置1における実装位置P3以外の場所で撮像する場合は、例えば、電子部品2を一時的に載置するためのプリサイサ上に、電子部品2を載置して、上方からプリサイサ用の撮像部で撮像した画像を用いることができる。また、シート上の電子部品2を撮像するピックアップ用の撮像部で撮像した画像を用いることもできる。さらに、別の実装装置1での撮像画像や、撮像するだけのテストベンチのようなものでの撮像画像も、画像生成モデルを生成するのに使用することができる。
【0134】
画像生成モデルの生成のための撮像は、特徴であるバンプBが映っていればどこでもよい。学習用の画像は、例えば、ボンディングヘッド110が保持した電子部品2の実装面2aの全面を、撮像部50の視野範囲で順次撮像し、記憶させるが、これにより、多数の画像を得ることができる。例えば、
図6(B)に示すように、点線で示す視野範囲VAを、ボンディングヘッド110を移動させることで移動させ、適当な場所で撮像する。
図6(B)では、9箇所で撮像することにより、9枚の物品画像GMを得ている。9箇所分のそれぞれでバンプBが含まれている場合には、その位置も特定される。上記のように、バンプBが含まれていない物品画像GMが存在する場合もある。9枚の物品画像GMのそれぞれについて、9枚の特徴画像FMを作成する。
【0135】
学習用物品画像分割部603は、物品画像GMを分割した分割物品画像DGMである学習用分割物品画像を生成する(ステップS504)。教示用特徴画像分割部604は、教示用特徴画像を分割した分割特徴画像DFMである教示用分割特徴画像を生成する(ステップS505)。モデル生成部605は、学習用分割物品画像及び教示用分割特徴画像に基づく機械学習を行い(ステップS506)、画像生成モデルを作成する(ステップS507)。
【0136】
例えば、9枚の物品画像GMのそれぞれを、例えば、9分割して学習用分割物品画像とする。また、9枚の特徴画像FMのそれぞれも、9分割して教示用分割特徴画像とする。モデル生成部605は、このように作成された合計81枚の学習用分割物品画像と合計81枚の教示用分割物品画像を使って、特徴であるバンプBがどのように画像上写っているか、つまりどのように写っている部分がバンプBなのかを機械学習する。
【0137】
(テンプレートの登録)
次に、テンプレートの登録の手順を、
図19のフローチャートを参照して説明する。まず、撮像部50により撮像された物品画像GMを、制御装置60が取得する(ステップS601)。第1の画像変換部600Bは、画像情報取得部600Aが取得した特徴の輝度及びサイズに、物品画像GMにおける特徴の輝度及びサイズが合うように、物品画像GMの輝度及びサイズを変換する(ステップS602)。物品画像分割部606は、変換した物品画像GMを分割することにより分割物品画像DGMを生成する(ステップS603)。分割特徴画像生成部607は、画像生成モデルを用いて、分割物品画像DGMから、分割特徴画像DFMを生成する(ステップS604)。特徴画像生成部608は、分割特徴画像DFMを結合することにより、特徴画像FMを生成する(ステップS605)。さらに、第2の画像変換部600Cは、特徴画像FMのサイズを、第1の画像変換部600Bによる変換前の物品画像GMのサイズに変換する(ステップS606)。
【0138】
このようなテンプレート作成用の物品画像GMの撮像は、認識する対象の基準位置を指定するために実施する。その撮像の手順は、上記の画像生成モデルを作成するための学習用の物品画像GMの撮像と同様である。但し、学習用の物品画像GMをそのまま利用することもできるし、あらためて撮像してもよい。例えば、電子部品2の品種を切り替える場合などには、新たな種類の電子部品2をボンディングヘッド110に保持させて撮像する。もちろん、パターンマッチング用のテンプレートは新たな品種での特徴画像FMに基づいて生成する。
【0139】
表示装置90は特徴画像FMを表示し、オペレータが、特徴画像FMが特徴の位置を正しく生成できているかどうかを確認し、入力装置80を用いて、テンプレートとすべき領域SAを指定すると、領域選択部609が当該領域を選択する(ステップS607)。テンプレート登録部610は、選択された領域を、テンプレートとして登録する(ステップS608)。なお、上記の画像生成モデルの作成、テンプレートの登録は、電子部品2及び基板3の双方について行われる。
【0140】
ここで、学習用に撮像した物品画像GMを用いる場合には、複数の物品画像GMのうち、パターンマッチングを行うのに適切な部分(テンプレートとすべき領域を含む)の物品画像GMを使用する。例えば、
図6(A)に示す左上隅と右下隅の画像を使用する。上記の説明の通り、この物品画像GMをそれぞれ分割した、分割物品画像DGMに基づいて、分割特徴画像DFMを生成し、これを結合して、元の各隅の画像位置、画像サイズで、特徴画像FMを生成する。上記のように、例えば、左上隅と右下隅の画像から生成した特徴画像FMの、特徴的なパターンを含む部分を領域SAとして選択して、テンプレートTMとして登録する。
図11(A)で、対角の二隅の実線の矩形枠が、テンプレートTMである。その後の処理は、
図14、
図15に示した上記の第1の実施形態と同様である。
【0141】
[効果]
(1)本実施形態の画像処理装置61は、物品の特徴を含む領域を撮像した物品画像GMを、所定のサイズに分割した学習用分割物品画像を生成する学習用物品画像分割部603と、物品画像GMから特徴を抽出した特徴画像FMを、所定のサイズに分割した教示用分割特徴画像を生成する教示用特徴画像分割部604と、学習用分割物品画像及び教示用分割特徴画像に基づいて、物品画像GMから特徴を抽出する画像生成モデルを生成するモデル生成部605と、を有する。
【0142】
また、本実施形態の画像処理装置61は、物品画像GMを、所定のサイズに分割した分割物品画像を生成する物品画像分割部606と、分割物品画像DGMから、画像生成モデルによって、分割物品画像DGM毎の特徴を抽出した分割特徴画像DFMを生成する分割特徴画像生成部607と、分割特徴画像DFMを結合した特徴画像FMを生成する特徴画像生成部608と、特徴画像FMの所望の領域を選択する領域選択部609と、領域選択部609により選択された領域を、パターンマッチングのテンプレートとして登録するテンプレート登録部610と、を有する。
【0143】
また、本実施形態の画像処理装置61は、学習用の物品画像GMにおける特徴の輝度及びサイズに、パターンマッチングのテンプレート用の物品画像GMにおける特徴の輝度及びサイズが合うように、テンプレート用の物品画像GMの輝度及びサイズを変換する第1の画像変換部600Bと、テンプレート用の物品画像GMを、所定のサイズに分割した分割物品画像を生成する物品画像分割部606と、分割物品画像DGMから、画像生成モデルによって、分割物品画像DGM毎の特徴を抽出した分割特徴画像DFMを生成する分割特徴画像生成部607と、分割特徴画像DFMを結合した特徴画像FMを生成する特徴画像生成部608と、特徴画像FMのサイズを、第1の画像変換部600Bによる変換前の物品画像GMのサイズに変換する第2の画像変換部600Cと、特徴画像FMの所望の領域を選択する領域選択部609と、領域選択部609により選択された領域を、パターンマッチングのテンプレートとして登録するテンプレート登録部610と、を有する。
【0144】
さらに、本実施形態の画像処理装置61は、パターンマッチングの対象となる物品の特徴を含む領域を撮像したパターンマッチング用物品画像を、物品画像分割部606が分割したパターンマッチング用分割物品画像から、分割特徴画像生成部607が生成したパターンマッチング用分割特徴画像を、特徴画像生成部608によって結合したパターンマッチング用特徴画像と、登録されたテンプレートとをパターンマッチングするパターンマッチング部611と、を有する。
【0145】
本実施形態の画像処理方法は、物品の特徴を含む領域を撮像した物品画像GMを、所定のサイズに分割した学習用物品画像を生成する学習用物品画像生成処理と、物品画像GMの特徴を抽出した特徴画像FMを、所定のサイズに分割した教示用特徴画像を生成する教示特徴画像生成処理と、学習用物品画像及び教示用特徴画像に基づいて、物品画像GMから特徴を抽出する画像生成モデルを生成するモデル生成処理と、を含む。
【0146】
また、本実施形態の画像処理方法は、物品画像GMを、所定のサイズに分割した分割物品画像DGMを生成する物品画像分割処理と、分割物品画像DGMから、画像生成モデルに基づいて、分割物品画像DGM毎の特徴を抽出した分割特徴画像DFMを生成する分割特徴画像生成処理と、分割特徴画像DFMを結合した特徴画像FMを生成する特徴画像生成処理と、特徴画像FMの所望の領域を選択する領域選択処理と、領域選択処理により選択された領域を、パターンマッチングのテンプレートとして登録するテンプレート登録処理と、を含む。
【0147】
また、本実施形態の画像処理方法は、学習用の物品画像GMにおける特徴の輝度及びサイズに、パターンマッチングのテンプレート用の物品画像GMにおける特徴の輝度及びサイズが合うように、テンプレート用の物品画像GMの輝度及びサイズを変換する第1の画像変換処理と、テンプレート用の物品画像GMを、所定のサイズに分割した分割物品画像DGMを生成する物品画像分割処理と、分割物品画像DGMから、画像生成モデルに基づいて、分割物品画像DGM毎の特徴を抽出した分割特徴画像DFMを生成する分割特徴画像生成処理と、分割特徴画像DFMを結合した特徴画像FMを生成する特徴画像生成処理と、特徴画像FMのサイズを、第1の画像変換部600Bによる変換前の物品画像GMのサイズに変換する第2の画像変換部600Cと、特徴画像FMの所望の領域を選択する領域選択処理と、領域選択処理により選択された領域を、パターンマッチングのテンプレートとして登録するテンプレート登録処理と、を含む。
【0148】
さらに、本実施形態の画像処理方法は、パターンマッチングの対象となる物品の特徴を含む領域を撮像したパターンマッチング用物品画像を、物品画像分割処理により分割したパターンマッチング用分割物品画像から、分割特徴画像生成処理により生成したパターンマッチング用分割特徴画像を、特徴画像生成処理によって結合したパターンマッチング用特徴画像と、登録されたテンプレートとをパターンマッチングするパターンマッチング処理と、を含む。
【0149】
このため、物品画像GMの態様にかかわらず、特徴を抽出した画像によって正確にパターンマッチングすることができる。つまり、物品の様々な表面状態や形状のばらつき、画像における物品の写り方のばらつきなどによる特徴以外の箇所の影響を受けることなく、撮像された画像にかかわらず、パターンマッチングの成功率を高めることができる。例えば、
図8(A)の物品画像GMと比較して、
図16(A)に示すように、背景の見た目が異なる物品画像GMを取得した場合でも、特徴の位置以外の情報の影響を受けずに位置合わせできる。
【0150】
また、テンプレート用の物品画像GMを所定のサイズに分割する前に、学習用の物品画像GMの特徴のサイズと輝度値に合わせて、テンプレート用の物品画像GMのサイズと輝度値を変換し、分割特徴画像を結合後に、分割特徴画像を元の物品画像GMサイズに戻す。このため、
図16(B)に示すように、物品の品種が異なり特徴のサイズが異なる場合や、
図16(C)に示すように、照明等の影響で特徴の見え方が異なる場合も、共通の画像生成モデルによって特徴画像FMを生成できる。
【0151】
また、分割された複数の分割物品画像DGMにより、共通の特徴を学習することができるので、学習の練度が高まる。さらに、各分割物品画像DGMにおける特徴の数や特徴以外の要素の数は、物品画像GMよりも低減できる。このため、正確にパターンマッチングができる画像生成モデルの生成の確実性が増す。
【0152】
(2)画像処理装置61は、学習用分割物品画像、教示用特徴画像、分割物品画像、分割特徴画像、パターンマッチング用分割物品画像、パターンマッチング用分割特徴画像は、同一のサイズである。対応する画像のサイズを合わせることにより、特徴の抽出を正確に行うことができる。
【0153】
第1の画像変換部600Bは、サイズの変換と輝度の変換の順序が、切り替え可能である。あるいは、サイズの変換だけ、輝度の変換だけとすることも切り替え可能である。このため、サイズの変換が縮小か拡大かによって、処理順番を変更することにより、処理時間が長時間になることを防止できる。
【0154】
(3)本実施形態の位置決め装置は、パターンマッチング部611によりパターンマッチングされたパターンマッチング用特徴画像と、テンプレートとの特徴のずれ量を算出するずれ量算出部612と、パターンマッチングの対象となった物品の位置決めを行う位置決め機構と、ずれ量を補正するように、位置決め機構にパターンマッチングの対象となった物品を移動させることにより位置決めする位置決め制御部613と、を有する。これにより、正確に抽出された特徴の位置により、位置決めができる。
【0155】
(4)位置決め機構は、基板3及び電子部品2を相対移動させることにより位置決めする機構であり、位置決めされた電子部品2を基板3に搭載する搭載機構と、搭載機構に、電子部品2を基板3に搭載する方向に移動させることにより、電子部品2を基板3に搭載させる実装制御部614と、を有する。これにより、位置決めされた電子部品2を、基板3に正確に実装できる。
【0156】
[変形例]
本発明は、上記の実施形態には限定されない。上記の実施形態と基本的な構成は同様として、以下のような変形例も適用可能である。
【0157】
(1)画像生成モデルで、実装時に撮像された位置決め用物品画像や物品(電子部品2、基板3)の品種による差異などによって、特徴画像FMによるパターンマッチングに失敗する場合がある。そこで、パターンマッチングに失敗する場合には、モデル生成部605が追加学習してもよい。つまり、
図20に示すように、
図14のステップS301~S305と同様のステップS701~S705の処理後、パターンマッチングに失敗する場合(ステップS706のNO)、ステップS101以降の画像生成モデルの作成を行う(追加学習)。これにより、それまでの画像生成モデルではパターンマッチングに失敗する画像が生成される場合であっても、画像生成モデルが追加学習することで、画像生成モデルの汎用性が向上する。
【0158】
(2)教示用特徴画像としては、上記のように、CADデータから生成した画像や、特徴となるバンプだけが所定の配置で存在するダミーチップ(ダミーダイ)を撮像した画像等を用いてもよい。
図21は、ダミーチップの画像の例である。CADデータを用いる場合には、物品を用意する必要がなく、品種に対応する画像の製作が容易であるため、バンプまたは電極部配置パターンの変更が容易となる。ダミーチップを用いる場合、ダミーチップ自体は機能素子が形成されていないものなので、安価に教示用の物品が用意できる。また、ダミーチップは、製品となるものではないので、多くの数量を用意することが容易となる。しかも、ダミーチップは、CADデータと違って、バンプ自体は実在し、その撮像画像を用いるので、現実のさまざまなバンプの見え方で学習させることができる。なお、実製品のチップを用いる場合には、背景となる部分を含めてより現実のバンプの見え方に対応する学習ができるので、より誤検出を抑制することができる。さらに、実製品のチップとダミーチップを混在させて教示用特徴画像を生成してもよく、さらに、CADデータより生成した画像を加えてもよい。
【0159】
また、上述のパターンマッチングに失敗する場合で追加学習に使用した画像に倣って、特徴であるバンプや背景の映り方が相違する画像、すなわち輝度や輝点の位置、形状パターン、コントラストや明るさが相違する画像、また、それらの様々なパターンが一つの画像の中で、混在させたり、部分的に適用した画像などを生成し、CADデータやダミーチップの画像に合成して、学習に使うようにしてもよい。これにより、画像生成モデルの汎用性が向上する。
【0160】
(3)教示用の分割特徴画像DFMは、学習用の物品画像GMから特徴画像FMを生成して、これを分割してもよいし、分割物品画像のそれぞれから、教示用の分割特徴画像を生成してもよい。但し、学習の画像の数を増やすために、取得する画像をオーバーラップさせて、画像を分割する場合は、先に分割すると、重複分の特徴を教示する手間が増えるため、特徴を教示してから特徴画像FMを分割したほうが良い。
【0161】
(4)特徴の種類、位置や数等は、上記には限定されない。例えば、電子部品2、基板3の電極部の他、配線パターン、アライメントマークなどを特徴としてもよい。また、電子部品2の外縁、基板3の外縁、ウェーハのダイシングラインなども特徴となる。基板3の場合、実装領域3aに設けられたアライメントマークを用いることが一般的である。特徴の位置とは、特徴から導出できる位置であってもよい。つまり、電子部品2の外縁の形状から算出される重心を、特徴の位置とすることができる。特徴のサイズとは、例えばバンプや電極の直径やXYの長さ、配線の幅、マークの大きさなどになる。なお、例えば、十字形状など、特定の形状のアライメントマークを特徴として使用する場合、物品画像GM中のアライメントマークの形状も指定して教示する。
【0162】
(5)上記の例では、一つの電子部品2の物品画像GMを取得して、これに基づいて学習していたが、複数の電子部品2の物品画像GMを用いてもよい。この場合、例えば、ボンディングヘッド310に保持した電子部品2は、オペレータが手で取り除くなどで排除して、別な電子部品2(同じ特徴がある同品種のもの)を保持させて撮像する。電子部品2を交換して撮像する際に、基板3の実装領域3aを別な場所に変更してもよい。
【0163】
(6)撮像部50の設置位置は、実装位置P3には限定されない。例えば、撮像部50を供給位置P1に設置してもよい。これにより、撮像部50によって、供給ステージ12のトレイ11に載置された電子部品2の実装面2aを撮像した物品画像GMに基づいて、電子部品2をピックアップ位置に位置決めできる。また、撮像部50を、受け渡し位置P2に設置して、ボンディングヘッド310に保持された電子部品2の実装面2aを撮像した物品画像GMに基づいて、電子部品2を位置決めしてもよい。
【0164】
(7)電子部品2は半導体チップには限定されず、基板3へ実装される種々の電子部品2に適用可能である。上記の実施形態では、供給装置10において、電子部品2は、電極等が設けられた機能面が上方に露出したフェイスアップ状態で配置されていたが、機能面が下方のトレイ11側となったフェイスダウン状態で配置されていても良い。また、電子部品2は、基板3に対してフェイスダウンで実装される場合も、フェイスアップで実装される場合も含む。つまり、フェイスアップで配置された電子部品2は、反転させることによりフェイスダウンボンディングができ、中継装置を設けて、この中継装置を経由することにより、フェイスアップボンディングができる。また、フェイスダウンで配置された電子部品2は、反転させることによりフェイスアップボンディングができ、中継装置を経由することにより、フェイスダウンボンディングができる。
【0165】
(8)ボンディングヘッド310による電子部品2の保持は、吸引には限定されない。例えば、粘着により保持する態様であってもよい。例えば、保持面311aの中央には、粘着部が設けられており、その粘着部は、電子部品2を粘着保持する部材であって、PDMS(Polydimethylsiloxane)を用いてもよい。
【0166】
(9)供給装置10は、電子部品2が貼り付けられたシートを支持する供給ステージと、ピックアップ時にシートを介して電子部品2を突き上げる突き上げ機構とを有する装置であってもよい。
【0167】
[他の実施形態]
以上、本発明の実施形態及び各部の変形例を説明したが、この実施形態や各部の変形例は、一例として提示したものであり、発明の範囲を限定することは意図していない。上述したこれら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、組み合わせ、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明に含まれる。
【符号の説明】
【0168】
1 実装装置
2 電子部品
2a 実装面
3 基板
3a 実装領域
10 供給装置
11 トレイ
12 供給ステージ
13 ステージ移動機構
20 ピックアップ装置
21 ピックアップノズル
22 移動機構
22a アーム
22b スライド機構
22c 支持フレーム
22d レール
22e スライダ
22f 昇降機構
23 反転機構
30 搭載装置
40 基板ステージ
41 基板支持台
42 ステージ移動機構
50 撮像部
60 制御装置
61 画像処理装置
80 入力装置
90 表示装置
310 ボンディングヘッド
311 ボンディングツール
311a 保持面
312 回動ユニット
320 ヘッド移動機構
321 スライド機構
321a 支持フレーム
321b レール
321c スライダ
322 昇降機構
322a サーボモータ
322b レール
322c スライダ
600A 画像情報取得部
600B 第1の画像変換部
600C 第2の画像変換部
601 撮像制御部
602 教示用特徴画像生成部
603 学習用物品画像分割部
604 教示用特徴画像分割部
605 モデル生成部
606 物品画像分割部
607 分割特徴画像生成部
608 特徴画像生成部
609 領域選択部
610 テンプレート登録部
611 パターンマッチング部
612 ずれ量算出部
613 位置決め制御部
614 実装制御部
615 記憶部