IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ヤマハ発動機株式会社の特許一覧

<>
  • 特開-情報処理システム、情報処理方法 図1
  • 特開-情報処理システム、情報処理方法 図2
  • 特開-情報処理システム、情報処理方法 図3
  • 特開-情報処理システム、情報処理方法 図4
  • 特開-情報処理システム、情報処理方法 図5
  • 特開-情報処理システム、情報処理方法 図6
  • 特開-情報処理システム、情報処理方法 図7
  • 特開-情報処理システム、情報処理方法 図8
  • 特開-情報処理システム、情報処理方法 図9
  • 特開-情報処理システム、情報処理方法 図10
  • 特開-情報処理システム、情報処理方法 図11
  • 特開-情報処理システム、情報処理方法 図12
  • 特開-情報処理システム、情報処理方法 図13
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2025001975
(43)【公開日】2025-01-09
(54)【発明の名称】情報処理システム、情報処理方法
(51)【国際特許分類】
   H05K 13/00 20060101AFI20241226BHJP
【FI】
H05K13/00 Z
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2023101808
(22)【出願日】2023-06-21
(71)【出願人】
【識別番号】000010076
【氏名又は名称】ヤマハ発動機株式会社
(74)【代理人】
【識別番号】110001036
【氏名又は名称】弁理士法人暁合同特許事務所
(72)【発明者】
【氏名】ダニエル シホンビン
【テーマコード(参考)】
5E353
【Fターム(参考)】
5E353AA02
5E353CC01
5E353CC03
5E353CC04
5E353CC08
5E353CC12
5E353CC21
5E353CC22
5E353EE02
5E353EE53
5E353GG01
5E353HH11
5E353HH51
5E353JJ21
5E353JJ48
5E353KK02
5E353KK03
5E353KK11
5E353LL02
5E353LL03
5E353LL04
5E353LL06
5E353LL07
5E353QQ01
5E353QQ08
(57)【要約】      (修正有)
【課題】認識エラーに伴う、表面実装機の運転停止時間を短縮する。
【解決手段】情報処理システム60は、表面実装機12と、生産管理装置40と、生産管理装置と無線により通信可能な携帯端末50と、を備える。表面実装機は、認識エラーの発生により運転停止した場合、エラー情報、画像認識に使用した認識パラメータ及びカメラ情報を、生産管理装置を経由して携帯端末に送信する。携帯端末は、認識パラメータの編集画面を表示すると共に、認識パラメータが編集された場合、編集後の認識パラメータを、生産管理装置を経由して表面実装機に送信し、表面実装機は、編集後の認識パラメータを適用して対象画像を再認識し、編集後の認識パラメータによる認識結果を、生産管理装置を経由して携帯端末に送信する。携帯端末は、編集後の認識パラメータで画像認識に成功した場合、運転を再開する指示を、生産管理装置を経由して、表面実装機に送信する。
【選択図】図1
【特許請求の範囲】
【請求項1】
情報処理システムであって、
表面実装機と、
前記表面実装機と通信可能な生産管理装置と、
前記生産管理装置と無線により通信可能な携帯端末と、を備え、
前記表面実装機は、認識エラーの発生により運転停止した場合、エラー情報、対象物の画像認識に使用した認識パラメータ及びカメラ情報を、前記生産管理装置を経由して前記携帯端末に送信し、
前記携帯端末は、前記認識パラメータの編集画面を表示すると共に、前記認識パラメータが編集された場合、編集後の認識パラメータを、前記生産管理装置を経由して前記表面実装機に送信し、
前記表面実装機は、編集後の認識パラメータを適用して対象物の画像を再認識し、編集後の認識パラメータによる認識結果を、前記生産管理装置を経由して前記携帯端末に送信し、
前記携帯端末は、編集後の認識パラメータで画像認識に成功した場合、運転を再開する指示を、前記生産管理装置を経由して、前記表面実装機に送信する、情報処理システム。
【請求項2】
請求項1に記載の情報処理システムであって、
前記生産管理装置は、記憶部を有し、前記認識パラメータの編集履歴を編集履歴情報として前記記憶部に記憶する、情報処理システム。
【請求項3】
請求項2に記載の情報処理システムであって、
前記生産管理装置は、認識パラメータ編集後の生産実績が、認識パラメータ編集前の生産実績よりも悪化した場合、前記携帯端末に警告情報を送信する、情報処理システム。
【請求項4】
請求項1又は請求項2に記載の情報処理システムであって、
前記携帯端末は、認識エラーによる運転停止中に加え、基板の生産開始前又は生産終了後でも、前記認識パラメータの編集が可能である、情報処理システム。
【請求項5】
請求項1又は請求項2に記載の情報処理システムであって、
前記対象物は、基板に搭載される電子部品、基板マーク及び基台マークのうち、少なくともいずれか一つを含む、情報処理システム。
【請求項6】
請求項2に記載の情報処理システムであって、
前記生産管理装置と通信可能に接続されたクラウドサーバを含み、
前記生産管理装置は、前記クラウドサーバに、基板の生産実績を含む生産履歴情報と認識パラメータの編集履歴情報を送信し、
前記クラウドサーバは、前記生産履歴情報と前記認識パラメータの編集履歴情報を教師データとして、前記認識パラメータの編集による生産実績への影響度を判定する学習モデルを生成する、情報処理システム。
【請求項7】
請求項1又は請求項2に記載の情報処理システムであって、
前記表面実装機は、基板に搭載される電子部品の認識エラーにより運転停止した場合、
前記基板のうち、認識エラーの対象となった前記電子部品の搭載予定位置の画像を、運転再開前に、前記生産管理装置を経由して前記携帯端末に送信する、情報処理システム。
【請求項8】
情報処理方法であって、
表面実装機は、認識エラーの発生により運転停止した場合、エラー情報、画像認識に使用した認識パラメータ及びカメラ情報を、生産管理装置を経由して携帯端末に送信すること、
前記携帯端末は、前記認識パラメータの編集画面を表示する共に、前記認識パラメータが編集された場合、編集後の認識パラメータを、前記生産管理装置を経由して前記表面実装機に送信すること、
前記表面実装機は、編集後の認識パラメータを適用して対象画像を再認識し、編集後の認識パラメータによる認識結果を、前記生産管理装置を経由して前記携帯端末に送信すること、
前記携帯端末は、編集後の認識パラメータで画像認識に成功した場合、運転を再開する指示を、前記生産管理装置を経由して、前記表面実装機に送信する、ことを含む、情報処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理システム、及び情報処理方法に関する。
【背景技術】
【0002】
表面実装機は、基板に搭載する電子部品や基板に付されたマークなどの対象物を、カメラで撮影し、画像認識している。この種の技術を開示する文献として、下記特許文献1がある。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2020-017554号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
表面実装機は、対象物の画像認識に失敗する(以下、認識エラー)と、運転停止することがあった。表面実装機の運転を再開するには、復旧に必要なデータの修正作業をオペレータが現場に移動して行うことが必要な場合があり、復旧に時間がかかる場合があった。
本発明は、表面実装機が認識エラーにより停止した場合、復旧に必要なデータの修正作業を遠隔で行い、早期復旧を図ることを課題とする。
【課題を解決するための手段】
【0005】
(1)本発明に係る情報処理システムは、表面実装機と、前記表面実装機と通信可能な生産管理装置と、前記生産管理装置と無線により通信可能な携帯端末と、を備える。
前記表面実装機は、認識エラーの発生により運転停止した場合、エラー情報、対象物の画像認識に使用した認識パラメータ及びカメラ情報を、前記生産管理装置を経由して前記携帯端末に送信する。
前記携帯端末は、前記認識パラメータの編集画面を表示する共に、前記認識パラメータが編集された場合、編集後の認識パラメータを、前記生産管理装置を経由して前記表面実装機に送信する。前記表面実装機は、編集後の認識パラメータを適用して対象物の画像を再認識し、編集後の認識パラメータによる認識結果を、前記生産管理装置を経由して前記携帯端末に送信する。前記携帯端末は、編集後の認識パラメータで画像認識に成功した場合、運転を再開する指示を、前記生産管理装置を経由して、前記表面実装機に送信する。
【0006】
オペレータやサービスマンは、表面実装機から離れた場所にいても、携帯端末に転送されるエラー情報からエラーの発生状況を把握し、画像認識に使用される認識パラメータの編集作業(修正作業)を携帯端末にて行うことが出来る。つまり、認識エラーの対応を遠隔で行うことが出来るので、遠隔対応が出来ない場合に比べて、表面実装機の運転停止時間を短縮することが出来る。
【0007】
(2)上記(1)に記載の情報処理システムにおいて、前記生産管理装置は、記憶部を有し、前記認識パラメータの編集履歴を編集履歴情報として前記記憶部に記憶させてもよい。編集履歴情報を残すことで、認識パラメータのデータ解析を行うことが出来る。
【0008】
(3)上記(1)又は(2)に記載の情報処理システムにおいて、前記生産管理装置は、認識パラメータ編集後の生産実績が、認識パラメータ編集前の生産実績よりも悪化した場合、前記携帯端末に警告情報を送信してもよい。
【0009】
この構成では、認識パラメータの編集により生産実績が悪化したことを通知することにより、認識パラメータを戻すかどうか選択の機会をオペレータに提供することが出来る。編集前の認識パラメータに戻した場合、生産実績を悪化前の元の実績に戻すことが出来る。
【0010】
尚、生産実績とは、基板に部品を実装する工程全般の実績であり、例えば、画像認識処理における認識成功率や、基板に対する部品の搭載位置精度等が含まれる。
【0011】
(4)上記(1)から(3)のいずれかに記載の情報処理システムにおいて、前記携帯端末は、認識エラーに伴う運転停止中に加え、基板の生産開始前又は生産終了後でも、前記認識パラメータの編集が可能でもよい。
【0012】
この構成は、認識エラーで停止している場合に限らず、生産開始前や生産終了後も、携帯端末を利用して、認識パラメータの編集を行うことが出来る。
【0013】
(5)上記(1)から(4)のいずれかに記載の情報処理システムにおいて、前記対象物は、基板に搭載される電子部品、基板マーク及び基台マークのうち、少なくともいずれか一つを含んでいてもよい。
【0014】
(6)上記(2)から(5)のいずれかに記載の情報処理システムは、前記生産管理装置と通信可能に接続されたクラウドサーバを含み、前記生産管理装置は、クラウドサーバに、基板の生産実績を含む生産履歴情報と認識パラメータの編集履歴情報を送信し、前記クラウドサーバは、前記生産履歴情報と前記認識パラメータの編集履歴情報を教師データとして、前記認識パラメータの編集による生産実績への影響度を出力する学習モデルを生成してもよい。
【0015】
このようにすると、オペレータ又はサービスマンは、機械学習の結果(生産実績への影響度)を参考にして、認識パラメータの編集作業を行うことが出来る。
【0016】
(7)上記(1)から(6)のいずれかに記載の情報処理システムにおいて、前記表面実装機は、運転を再開する前に、基板上における部品の搭載位置を撮像した画像を、前記生産管理装置を経由して、前記携帯端末に送信してもよい。
【0017】
この構成では、運転再開にあたり、基板の搭載位置に対して、電子部品が既に搭載されているのか、いないのか、確認することが出来る。
【発明の効果】
【0018】
本発明によれば、認識エラーに伴う、表面実装機の運転停止時間(復旧作業時間)を短縮することが出来る。
【図面の簡単な説明】
【0019】
図1】生産システム(情報処理システム)の全体図
図2】表面実装機の平面図
図3】表面実装機の側面図
図4】生産システム(情報処理システム)のブロック図
図5】電子部品の平面図
図6】認識パラメータの具体例
図7】フローチャート
図8】携帯端末の編集画面
図9】実施形態2に係る情報処理システムのブロック図
図10】情報処理システムのブロック図
図11】携帯端末の警告画面
図12】情報処理システムのブロック図
図13】学習モデルを示す図
【発明を実施するための形態】
【0020】
<実施形態1>
1.生産システム10
図1は、生産システム10の全体図である。生産システム10は、生産ラインLvと、生産管理装置40と、を含む。生産ラインLvは、上流側(図1の右側)から順に、印刷機11、表面実装機12、検査機13、リフロー装置14を備えており、これら各マシン11、12、13、14が複数のコンベアを介して直列に接続されている。
【0021】
印刷機11は表面実装機12の上流側に位置し、表面実装機12に投入する基板Pにはんだペーストを印刷する。
【0022】
表面実装機12は、印刷機11の下流側に位置している。表面実装機12は、電子部品Eを基板Pの表面に実装する装置である。表面実装機12の台数は、1台の場合や複数台の場合があり、この実施形態は、3台の表面実装機12を直列に配置したライン構成になっている。表面実装機12の構成については後述する。
【0023】
検査機13は、表面実装機12の下流側に位置する。検査機13は、電子部品Eが実装された基板Pを、リフロー装置14に投入する前に検査する装置である。
【0024】
リフロー装置14は、検査機13の下流に位置する。リフロー装置14は、検査済みの基板Pを加熱し、基板Pの表面に塗布されたはんだペーストを溶融することにより、基板Pと電子部品Eを、はんだ接合する装置である。
【0025】
2.表面実装機
表面実装機12は、図2に示すように、基台21、搬送コンベア22、駆動装置23、ヘッドユニット26、テープフィーダF1及びトレイフィーダF2備えている。
【0026】
以下の説明において、基台21の長手方向(図2の左右方向)をX方向と呼ぶものとし、基台21の奥行方向(図2の上下方向)をY方向、図3の上下方向(実装ヘッド26Aの昇降方向)をZ方向とする。
【0027】
搬送コンベア22は、基台21の中央に配置されている。搬送コンベア22はX方向に循環駆動する一対の搬送ベルト22Aを備えており、搬送ベルト22A上の基板Pを、X方向に搬送する。
【0028】
本実施形態では、図2に示す右側が入り口となっており、基板Pは、図2に示す右側より搬送コンベア22を通じて機内へと搬入される。搬入された基板Pは、搬送コンベア22により基台中央の作業位置まで運ばれる。
【0029】
基台21上には、基板Pの作業位置の周囲4箇所に、テープフィーダF1、トレイフィーダF2が設置されている。
【0030】
テープフィーダF1は、部品供給テープ(図略)を供給位置に送り出すことにより、テープ部品E1を供給する装置である。テープ部品E1は、例えば、チップコンデンサ等の小型電子部品である。
【0031】
トレイフィーダF2は、トレイ部品E2を収容したトレイを、保管庫から引き出すことによりトレイ部品E2を供給する装置である。トレイ部品E2は、例えば、IC等の中大型電子部品である。
【0032】
駆動装置23は、図2図3に示すように、一対のYビーム24、Xビーム25、Y軸ボールねじ24A、Y軸モータ24B、X軸ボールねじ25A、X軸モータ25Bから構成される。
【0033】
具体的に説明すると、図2に示すように、一対のYビーム24は、基台21のX方向両側に位置している。一対のYビーム24は、Y方向に平行に延びており、Xビーム25をY方向にスライド可能に支持している。
【0034】
Yビーム24の上面には、Y方向に延びるY軸ボールねじ24Aと、その軸端部にY軸モータ24Bが配置されている。Y軸ボールねじ24Aは、Y軸方向の駆動軸であり、Xビーム25の下面に固定されたボールナット(図略)が螺合している。
【0035】
Y軸モータ24Bの駆動により、Y軸ボールねじ24Aを軸中心に回転させることで、Xビーム25及びヘッドユニット26をY方向に移動させることが出来る(Y軸サーボ機構)。
【0036】
Xビーム25は、X方向に長い形状であり、ヘットユニット26をX方向に沿ってスライド可能に支持している。Xビーム25の側面には、X方向に延びるX軸ボールねじ25Aと、その軸端部にX軸モータ25Bが配置されている。X軸ボールねじ25Aは、X軸方向の駆動軸であり、ヘッドユニット26に固定されたボールナット(図略)が螺合している。
【0037】
X軸モータ25Bの駆動により、X軸ボールねじ25Aを軸中心に回転させることで、Xビーム25に対して、ヘッドユニット26をX方向に移動させることが出来る(X軸サーボ機構)。
【0038】
以上のことから、X軸モータ25B、Y軸モータ24Bを複合的に制御することで、基台21上の任意の位置に、ヘッドユニット26を移動させることが出来る。
【0039】
ヘッドユニット26は、複数本の実装ヘッド26Aを有している。実装ヘッド26Aはヘッドユニット26に対してX方向に一列状に配置されている。各実装ヘッド26Aは、Z軸モータ26Bの駆動により、上下方向に移動することが出来る(Z軸サーボ機構)。
【0040】
実装ヘッド26AはZ方向に長いシャフトであり、先端(下端)には、吸着ノズルを有している。吸着ノズルの内圧を、負圧と正圧に切り換えることで、テープ部品E1、トレイ部品E2を保持又は解放出来る。
【0041】
このような構成とすることで、X軸モータ25B、Y軸モータ24B、Z軸モータ26Bを所定のタイミングで作動させることにより、テープフィーダF1により供給されるテープ部品E1や、トレイフィーダF2により供給されるトレイ部品E2を、実装ヘッド26Aにより取り出して、基板P上に搭載することが出来る。
【0042】
尚、図2に示す符号27は部品認識カメラ、図3に示す符号28は基板認識カメラである。部品認識カメラ27は基台21上において撮像面を上に向けて固定されており、実装ヘッド26Aにより取り出されたテープ部品E1やトレイ部品E2の画像(下面画像)を撮像する。
【0043】
基板認識カメラ28は、ヘッドユニット26に対して撮像面を下に向けて取り付けられており、基台21上をヘッドユニット26と共に移動することが出来る。基板認識カメラ28は、基板Pに設けられた各マークや基台21上の補正マーク等を撮影する。
【0044】
次に、図4を参照して、表面実装機12の電気的構成について説明する。表面実装機12は、演算処理部30、通信部31、データ記憶部32、プログラム記憶部33、モータ制御部34、認識部35、表示部37、操作部38等を備えている。
【0045】
演算処理部30は、CPU、RAM等を備えている。演算処理部30は、制御プログラムに従って、モータ制御部34を制御することで、電子部品Eを基板Pに実装する。
【0046】
通信部31は、生産管理装置40との間で情報の通信を行うためのインターフェースである。通信部31は、通信ケーブルを介して生産管理装置40と通信可能に接続されている。
【0047】
データ記憶部32には、画像認識に使用される認識パラメータが記憶され、プログラム記憶部33には、画像認識用の認識アルゴリズムが記憶されている。
【0048】
認識部35は、部品認識カメラ27及び基板認識カメラ28と接続されており、これらカメラ27、28から出力される画像に基づいて対象物を画像認識する。画像認識は、後に詳しく説明する。
【0049】
表示部37は、例えばディスプレイである。操作部38は、ユーザが入力操作をするためのユーザインターフェースである。
【0050】
3.生産管理装置40の構成
生産管理装置40は、生産ラインLvを管理する装置であり、例えばパーソナルコンピュータである。図4に示すように、生産管理装置40は、通信部41と、制御部42と、記憶部43と、表示部44と、操作部45と、を備える。
【0051】
通信部41は、表面実装機12の通信部31とは、通信ケーブルを介して相互に通信可能に接続されている。表面実装機12と生産管理装置40との間では、コマンド(指示)の送受信や、データの送受信を行うことが出来る。また、通信部41は、後述する携帯端末50の通信部51と、無線で通信可能である。そのため、表面実装機12は、生産管理装置40を介して、携帯端末50とも、コマンドやデータの送受信が可能である。
【0052】
制御部42は、CPU、RAM等を備えている。記憶部43は、表面実装機12で生産する基板Pの情報や、基板Pに搭載する電子部品Eの情報が記憶されている。
【0053】
表示部44は、例えばディスプレイである。操作部45は、ユーザが入力操作をするためのユーザインターフェースである。
【0054】
4.画像認識処理
表面実装機12は、基台21上に搬送された基板Pの位置確認や、基板Pに搭載する電子部品Eを確認するため、基板Pの位置マークや実装ヘッド26Aに吸着保持された電子部品Eを、部品認識カメラ27や基板認識カメラ28により撮影して画像認識している。
【0055】
例えば、リード付きの電子部品E2を画像認識する場合、図5Aに示すように、電子部品E2を撮影した画像から、電子部品E2のリードRを特定し、リードRの本数、リード長L、リード幅d、リード間ピッチPを検出する。
【0056】
そして、リードRの検査結果(リード本数、リード長L、リード幅d、リード間ピッチP)を、比較データと照合することにより、電子部品E2を認識する。比較データは、リードRの検査対象部位(リード本数、リード長L、リード幅d、リード間ピッチP)の設計データである。
【0057】
つまり、リードRの検査結果が比較データと一致していれば、リード付きの電子部品E2と認識することが出来る。そして、この実施形態では、電子部品E2の認識に成功した場合、図5Bに示すように、電子部品E2の傾きや中心位置Oのずれ量を認識し、基板Pに対する電子部品Eの搭載位置を補正することにより、電子部品Eの搭載精度を高めている。
【0058】
このように、本実施形態では、対象物(リード付き電子部品)を撮影した画像から、検査対象部位(リード本数、リード長L、リード幅d、リード間ピッチP)を検出し、その結果を、比較データと照合することにより、対象物(リード付き電子部品)を画像認識している。
【0059】
認識パラメータは、画像認識に使用されるパラメータであり、上記したように、リードRの比較データに加え、画像認識に使用される認識アルゴリズムや、対象物の撮影する際の照明条件や画像から検査対象部位を抽出する条件等に関する情報が含まれている。
【0060】
この実施形態では、図6Aに示すように、認識パラメータを、第1パラメータ及び第2パラメータの2種類のパラメータから構成している。
【0061】
<第1パラメータ>
(1)画像認識に使用される認識アルゴリズムの種類
(2)電子部品E1、E2の形状に関するデータ(外形寸法、部品厚さ等)
(3)検査対象部位の比較データ(リード本数、リード長L、リード幅d、リード間ピッチP)
【0062】
<第2パラメータ>
(1)画像撮像時の照明条件
(2)撮影した画像から検査対象部位(リードR)を抽出する条件(検出範囲、しきい値)
検出範囲は、認識対象として、画像から切り出す範囲である。しきい値は、画像から認識対象の輪郭や外形を抽出する際の輝度のしきい値である。
【0063】
これら認識パラメータの初期値は、表面実装機12の運転開始時に、生産管理装置40から表面実装機12に送信され、表面実装機12のデータ記憶部32に記憶されるようになっている。尚、この実施形態では、第1パラメータとして、(1)~(3)の3例と、第2パラメータとして、(1)~(2)の2例を示したが、これらはあくまでも例示であり、例示した中から任意に選択される1又は複数を認識パラメータとして使用することが出来る。また、例示したもの以外を、認識パラメータに含めることも出来る。
【0064】
5.表面実装機12の復旧を補助する情報処理システム
画像認識の結果、リードRの検査結果が比較データと一致していない場合や、画像からリードRの抽出に失敗した場合、認識エラーとなる。
【0065】
認識エラーが発生すると、表面実装機12が運転停止する場合があり、運転を再開するには、オペレータやサービスマンが現場に移動して復旧に必要なデータの修正作業(認識パラメータの編集作業)を行うことが必要なケースがある。このような事情から、表面実装機12の復旧に、時間がかかることが課題となっていた。
【0066】
情報処理システム60は、認識エラーにより運転停止した表面実装機12の復旧を補助するシステムであり、図1に示すように、表面実装機12及び生産管理装置40に加え、携帯端末50(図1図4)を備えた構成になっている。
【0067】
携帯端末50は、オペレータが携帯可能な情報通信端末である。携帯端末50は、図4に示すように、通信部51、制御部52、記憶部53、表示部54及び操作部57を備えている。
【0068】
通信部51は、生産管理装置40の通信部41と、無線で通信可能に接続されている。上述したように、生産管理装置40と表面実装機12も通信可能に接続されているため、携帯端末50が表面実装機12から離れた場所にあっても、生産管理装置40を経由して両者の間で通信が可能である。
【0069】
この実施形態では、携帯端末50としてタッチパネルを備えたスマートフォンを例示して説明する。タッチパネルは、表示部54と、携帯端末50を操作する操作部57の両方の機能を備えている。
【0070】
制御部52は、CPU、RAM等を備えている。記憶部53には、認識パラメータを編集するための編集アプリケーションソフトが記憶されている。制御部52は、編集アプリケーションソフトの実行により、図8の編集画面を表示し、認識パラメータの編集作業を可能とする。
【0071】
6.生産ラインの遠隔復旧処理
表面実装機12は、基板Pの生産中に認識エラーが発生した場合、運転を停止する。運転停止後、図7に示す遠隔復旧処理が開始される。
【0072】
遠隔復旧処理の開始後、表面実装機12はエラー情報を生成する(S11)。エラー情報は、認識エラーとなった画像認識結果の情報であり、少なくとも、認識結果情報及びエラー画像を含む。この実施態様では、図6Bに示すように、認識失敗情報、認識結果情報及びエラー画像Ieの3つの情報をエラー情報としている。尚、図6Bでは、リード付き電子部品に代えて、チップ部品のエラー画像を載せている。
【0073】
認識失敗情報は、エラーの種類を示すエラー番号や、認識対象の電子部品を保持していた実装ヘッド26Aに関する情報である。
【0074】
認識結果情報は、認識対象がリード付電子部品E2の場合、リード本数、リード長L、リード幅d、リード間ピッチPのデータである。
【0075】
表面実装機12は、エラー情報を生成すると生産管理装置40を経由して、(1)~(3)のデータを携帯端末50に送信する(S11、S21)。
【0076】
(1)エラー情報
(2)認識エラー発生時、画像認識に使用していた認識パラメータ
(3)画像認識に使用したカメラ情報
【0077】
カメラ情報(図6C参照)は、画像認識に使用したカメラの種類とカメラの調整情報が含まれる。カメラの種類は、型番などカメラを特定するための情報やスキャン、マルチ、固定など撮影方式を特定するための情報等である。また、カメラ情報には、FID(基板のフィデユーシャルマーク撮影用)、コプラ(ボール部品やIC部品のコプラナリティチェック)など、撮影用途を特定するための情報を含めることも出来る。カメラの調整情報は、カメラの拡大倍率や取り付け角度の情報である。この実施形態では、設備稼働前やメンテナンス時に、テスト撮影等を行って、所望の画像が得られるように、カメラ27、28の拡大倍率と取り付け角度を調整し、その時のデータを表面実装機12に送信する。尚、これらのデータ(カメラの種類やカメラ調整情報を含むカメラ情報)は、データ記憶部32に保管し、必要に応じて、読み出すとよい。
【0078】
S11、S21の処理は、本願の請求項1に記載の「前記表面実装機は、認識エラーの発生により運転停止した場合、エラー情報、画像認識に使用した認識パラメータ及びカメラ情報を、前記生産管理装置を経由して前記携帯端末に送信し、」を開示する。
【0079】
携帯端末50は、生産管理装置40から、エラー情報と認識パラメータを受信すると(S31)、表示部54にエラー情報を表示し、記憶部53に認識パラメータを記憶する。その後、オペレータやサービスマンの入力操作を待つ待機状態となる。
【0080】
オペレータやサービスマンは、認識パラメータの編集により復旧が見込める場合、携帯端末50に登録されている編集用アプリケーションソフト(以下、編集用アプリ)を実行する。
【0081】
編集用アプリの実行により、携帯端末50の表示部に、認識パラメータの編集用画面が表示される。この実施形態では、図8に示す表示画面が表示される。
【0082】
オペレータやサービスマンは、携帯端末50の編集用画面から、エラー発生時、画像認識に使用されていた認識パラメータを編集することが出来る(S32:YES、S33)。
【0083】
そして、認識パラメータの編集後、携帯端末50は編集後の認識パラメータを、生産管理装置40を経由して、表面実装機12に送信する(S34、S24)。
【0084】
S33、S34、S24の処理は、本願の請求項1に記載の、「前記携帯端末は、前記認識パラメータの編集画面を表示する共に、前記認識パラメータが編集された場合、編集後の認識パラメータを、前記生産管理装置を経由して前記表面実装機に送信し、」を開示する。
【0085】
表面実装機12は、編集後の認識パラメータを受信すると、受信した編集後の認識パラメータを適用して、認識対象画像を、再び、画像認識する(S14)。
【0086】
編集後の認識パラメータによる画像認識結果は、生産管理装置40を経由して、表面実装機12から携帯端末50に送信される(S25)。
【0087】
S14、S25の処理は、本願の請求項1に記載の、「前記表面実装機は、編集後の認識パラメータを適用して対象画像を再認識し、編集後の認識パラメータによる認識結果を、前記生産管理装置を経由して前記携帯端末に送信し、」を開示する。
【0088】
携帯端末50は認識結果を受信すると(S35)、表示部54に対して認識結果を表示する。オペレータ又はサービスマンは、編集後の認識パラメータにより、画像認識に成功している場合、認識パラメータの編集成功と判断する(S36:YES)。
【0089】
また、認識パラメータの編集は、必ずしも1回目で成功する必要はなく、1回目の編集で成功しなくても、編集を繰り返した結果、認識パラメータの編集に成功してもよい。
【0090】
そして、1回又は複数回の編集により、認識パラメータの編集に成功した場合(S36:YES)、サービスマン又はオペレータは、携帯端末50を操作して、運転を再開する旨の指示を、生産管理装置40を経由して表面実装機12に送信する(S26)。
【0091】
表面実装機12は、携帯端末50から運転再開の指示を受けると、運転を再開し、運転再開後は、編集後の認識パラメータを使用して画像認識する(S15)。これにより、遠隔復旧処理は終了する。
【0092】
S36、S26の処理は、本願の請求項1の、「前記携帯端末は、編集後の認識パラメータで画像認識に成功した場合、運転を再開する指示を、前記生産管理装置を経由して、前記表面実装機に送信する、」を開示する。
【0093】
尚、認識パラメータを編集しても、運転復旧が見込めない場合、S32、S37でいずれもNO判定となる。この場合、携帯端末50から表面実装機12に対して運転を停止する運転停止コマンドが送信される。
【0094】
また、認識パラメータを編集しなくても、運転復旧が見込める場合、S32でNO、S37でYES判定となる。この場合、携帯端末50から表面実装機12に対して運転を再開する運転再開コマンドが送信される。
【0095】
7.認識パラメータの編集画面
図8は、携帯端末50に表示される認識パラメータの編集用画面の一態様である。編集画面は、画面の上半分を占める第1表示領域55と、画面の下半分を占める第2表示領域56から構成されている。
【0096】
第1表示領域55は、表面実装機12から送信された電子部品E2のエラー画像Ieを表示する領域である。携帯端末50に対するパネル操作によって、第1表示領域55に表示されるエラー画像Ieを移動することが出来る。また、エラー画像Ieを拡大縮小することも可能である。
【0097】
編集用アプリは、形状描画機能を備えており、表面実装機12から転送された認識パラメータに基づいて、電子部品E2の形状モデルを自動的に描画する。形状の描画は、認識パラメータに含まれるカメラ角度や拡大倍率に基づいて、実寸(実際のスケール)で描画することが出来る。
【0098】
第1表示領域55には、操作用に第1ボタン55Aと第2ボタン55Bが表示される。第1ボタン55Aは、表示切替用であり、ボタン操作により、図8に示すように、第1表示領域55に形状モデルImをエラー画像Ieと重ねて表示したり、形状モデルImを非表示として、エラー画像Ieのみ表示したりすることが出来る。
【0099】
第2ボタン55Bは、計測用のボタンである。第2ボタン55Bのボタン操作により、編集用アプリにおいて、計測用プログラムが起動し、第1表示領域55内の任意の2点を指定することにより、任意の2点間の距離を計測することが出来る。
【0100】
この寸法計測機能を利用して、エラー画像Ieから、認識対象となった電子部品E2の外形やリードRの各寸法を計測することが出来る。認識パラメータに含まれるカメラ角度や拡大倍率に基づいて、電子部品E2の外形やリードRの各寸法を実寸(実際のスケール)で計測することが出来る。
【0101】
第2表示領域56は、表面実装機12から転送された認識パラメータや認識結果を表示する領域であり、第2表示領域56には、第3ボタン56A、第4ボタン56B、データ表示枠56Cが表示される。
【0102】
第3ボタン56Aの操作により、データ表示枠56Cに対して、認識パラメータが表示され、第4ボタン56Bの操作により、データ表示枠56Cに対して、認識結果が表示される。この実施形態では、認識結果として、リードRのリード本数、リード長L、リード幅d、リード間ピッチPのデータが表示される。
【0103】
そして、データ表示枠56Cに対して認識パラメータを表示している時には、携帯端末50に対するパネル操作により、表示された認識パラメータを編集することが出来る。
【0104】
ここで、編集用画面には、以下の情報が表示可能であることから、認識エラーの発生原因の特定やその解消策の検討に、これらの情報を役立てることで、認識パラメータの編集作業の助けとすることが出来る。
【0105】
(1)エラー画像
(2)形状モデル
(3)認識結果
(4)認識パラメータ
【0106】
<認識パラメータの編集事例>
例えば、エラー画像Ieにおいて、リードRの先端部分に欠けが発生しており、リード長Lの不一致により、認識エラーが発生している場合、リードRを含む電子部品E2の全体が検出範囲に含まれるように、画像の検出範囲を修正することが考えられる。
【0107】
そして、認識パラメータの編集作業終了後、オペレータ又はサービスマンは、第2表示領域56の下部に表示される認識実行ボタン56Dを操作することで、携帯端末50から表面実装機12に対して、生産管理装置40を経由して、編集後の認識パラメータの送信と、編集後の認識パラメータによる再認識の実行を指示することが出来る。
【0108】
8.効果説明
本発明によれば、認識エラーの発生により運転停止した表面実装機12の復旧作業(認識パラメータの編集作業)を、携帯端末50を利用して遠隔で行うことで出来る。これにより、表面実装機12の復旧作業(認識パラメータの編集作業)を現場でしか行えない場合と比較して、表面実装機12の運転停止時間を短縮して、早期に運転再開出来る。
【0109】
<実施形態2>
図9は、実施形態2に係る情報処理システム160のブロック図である。情報処理システム160は、編集後の認識パラメータで画像認識した結果、編集前に比べて生産実績が悪化した場合、携帯端末50が警告情報を出力して生産実績の悪化をオペレータに報知する点が相違している。
【0110】
具体的に説明すると、図9に示すように、生産管理装置40の記憶部43には、生産履歴情報と編集履歴情報が記憶される。
【0111】
<生産履歴情報>
生産履歴情報は、基板Pの生産結果に関する情報の履歴であり、図10に示すように、装置名、基板データ、部品番号、搭載番号及び生産実績を含む。生産実績は、認識成功率及び搭載精度である。
【0112】
認識成功率は、画像認識の試行回数に対する、認識の成功回数の割合である。搭載精度は、基板Pに対する電子部品Eの搭載位置と設計上の搭載位置とのずれ量のばらつきを標準偏差(3σ)で表した値である。生産履歴情報は、認識パラメータの編集の有無にかかわらず、表面実装機12又は検査機13から生産管理装置40に転送され、生産管理装置40に対して累積的に記憶される。
【0113】
<編集履歴情報>
編集履歴情報は、携帯端末50による認識パラメータの編集履歴を記録した情報であり、例えば、図10(B)に示すように、編集した日時や装置名、基板種類、搭載する電子部品E1、E2の部品番号、編集作業を行ったオペレータやサービスマンのユーザ名のほか、認識パラメータの変更点を含む。
【0114】
認識パラメータの変更点には、編集対象となった認識パラメータの種類や、編集前後のパラメータ値が含まれる。
【0115】
編集履歴情報は、携帯端末50にて認識パラメータが編集され、認識に成功した認識パラメータが、携帯端末50から表面実装機12に、生産管理装置40を経由して転送される度に、生産管理装置40に対して、累積的に記憶される。
【0116】
生産管理装置40は、認識パラメータが編集された後、編集後の認識パラメータを適用して所定期間が経過すると、編集前と編集後の生産実績を比較し、編集後の生産実績が、編集前よりも悪化した場合、携帯端末50に対し、警告情報を無線送信する。
【0117】
例えば、認識前後の認識成功率を比較して、認識後の認識成功率が、認識前の認識成功率よりも悪化している場合、携帯端末50に対し、警告情報を無線送信する。
【0118】
携帯端末50は、警告情報を受信すると、図11に示すように、表示部54に警告情報を表示し、認識パラメータの編集後、生産実績が悪化したことをオペレータに報知する。
【0119】
携帯端末50は、表示部54への警告表示とともに、又は警告情報の表示に代えて、アラーム音などの音でオペレータに報知してもよい。
【0120】
警告情報の送信後、オペレータが認識パラメータを編集前に戻すと判断した場合、オペレータは、携帯端末50を介して、認識パラメータを編集前に変更する指示を、生産管理装置40に送信する。
【0121】
生産管理装置40は携帯端末50から認識パラメータの変更指示を受けると、記憶部43の編集履歴情報から編集前の認識パラメータを読み出して表面実装機12に転送する。
【0122】
その後、表面実装機12は、基板Pの生産中、画像認識を行う際には、編集前の認識パラメータを適用する。
【0123】
実施形態2の構成は、認識パラメータの編集により生産実績が悪化した場合、編集パラメータを編集前に戻すことで、生産実績の悪化を抑制することが出来る。
【0124】
<実施形態3>
図12は、実施形態3に係る情報処理システム260のブロック図である。情報処理システム260は、実施形態2に係る情報処理システム260に対して、クラウドサーバ70に生産実績を含む生産履歴情報と認識パラメータの編集履歴情報を蓄積し、生産実績と認識パラメータの関係を機械学習する点が相違する。
【0125】
クラウドサーバ70は、有線又は無線のネットワークを介して生産管理装置40と通信可能に接続されている。生産管理装置40からクラウドサーバ70に対して、表面実装機12の生産履歴情報と、認識パラメータの編集履歴情報が送信される。
【0126】
クラウドサーバ70は、基板Pの生産履歴情報と認識パラメータの編集履歴情報を教師データとして、認識パラメータの編集による生産実績への影響度を判定する学習モデルMを生成する(図13)。影響度は、例えば、「生産実績が10%向上する」や、「10%低下する」等である。学習モデルMは、例えば、ニューラルネットワークを利用した深層学習による学習モデルを例示することが出来る。
【0127】
上記した機械学習の結果は、以下の方法で、活用することが出来る。
オペレータが認識パラメータを編集する際、認識パラメータの編集データを携帯端末50から生産管理装置40を経由してクラウドサーバ70に送り、生産実績への影響度を、学習モデルMを用いて評価する。そして、学習モデルMによる評価結果を、生産管理装置40を経由して、携帯端末50に転送し、オペレータやサービスマンに提示する(表示画面に表示する)ことにより、認識パラメータの編集作業に役立てることが出来る。
【0128】
<他の実施形態>
(1)上記実施形態では、認識エラーに伴う運転停止中に、認識パラメータを編集した例を説明した。認識パラメータの編集は、認識エラーの有無にかかわらず、行ってもよい。例えば、基板Pの生産開始前や生産終了後など、表面実装機12が非稼働で、基板Pの生産を行っていない期間に、行ってもよい。例えば、生産開始前に認識パラメータを編集する場合、携帯端末50から生産管理装置40を介して表面実装機12に指令を送ることにより、生産に使用予定の認識パラメータを表面実装機12から携帯端末50に送信し、送信された認識パラメータを編集する構成が考えられる。同様に、生産開始後に認識パラメータを編集する場合、携帯端末50から生産管理装置40を介して表面実装機12に指令を送ることにより、生産に使用した認識パラメータを表面実装機12から携帯端末50に送信し、送信された認識パラメータを編集する構成が考えられる。この場合、カメラ情報は、認識パラメータと共に携帯端末50に送信してもよいし、送信を省いてよい。また、認識パラメータの読み出し先は、表面実装機12に限らず、生産管理装置40から行う形態も考えられる。
【0129】
(2)上記実施形態では、携帯端末50として、タッチパネルで操作可能なスマートフォンを例示した。携帯端末50は、スマートフォンに限らず、例えば、ノートパソコンなど、オペレータが持ち運び可能な情報通信端末でもよい。
【0130】
(3)上記実施形態では、認識パラメータのうち、画像の検出範囲を、編集した例を示したが、他の認識パラメータを編集してもよい。例えば、輪郭を抽出する際の輝度のしきい値を編集してもよいし、リード長やリード幅を編集してもよい。
【0131】
(4)上記実施形態では、画像認識対象を電子部品Eとしたが、画像認識対象は、電子部品Eに限らず、基板認識カメラ28で撮影した基板マークや基台マークでもよい。基板マークは、基板上面に付される位置確認用のフィデューシャルマーク81(図2参照)や基板の良否を識別するためのバットマークである。また、基台マークは、基台上に設置される位置補正用の補正マーク82(図2参照)である。
【0132】
(5)上記実施形態では、画像認識対象を、リード付き電子部品としたが、画像認識対象物は、リード付き電子部品に限らず、チップコンデンサ等のチップ部品やボール部品でもよい。チップ部品の場合、電極の形状、ボール部品の場合、ボールの形状に基づいて、当該部品を画像認識することが考えられる。
【0133】
(6)上記実施形態では、編集後の認識パラメータで画像認識に成功した場合、携帯端末50から生産管理装置40を介して表面実装機12に対して運転再開の指示を行った。画像認識に成功した場合、携帯端末50に、認識エラーの対象となった電子部品Eの搭載予定位置の基板画像を表示し、基板Pの搭載予定位置に電子部品Eが搭載されていない事を確認した上で、表面実装機12に対して、運転再開の指示を送るようにしてもよい。尚、搭載予定位置の基板画像は、エラー画像Ieと一緒に、表面実装機12から生産管理装置40を経由して携帯端末50に送ってもよいし、別のタイミング(例えば、編集後の認識パラメータで認識に成功した時)で、携帯端末50から送信指示を送り、生産管理装置40を経由して表面実装機12から転送するようにしてもよい。
【0134】
(7)実施形態1では、認識エラーの発生時に、表面実装機12から携帯端末50(生産管理装置40を経由)に対して、エラー情報、画像認識に使用した認識パラメータ及びカメラ情報の3つの情報を送信したが、認識エラー発生時に、エラー情報及び認識パラメータのみ送信し、カメラ情報の送信は省略してもよい。また、カメラ情報を送信する場合、カメラ種類とカメラ調整情報の双方を送ってもよいし、カメラ種類とカメラ調整情報のうち、いずれか一方のみ送信してもよい。つまり、カメラ情報のみ送ってもよいし、カメラ調整情報のみ送ってもよい。
【符号の説明】
【0135】
10: 生産システム
12: 表面実装機
26: ヘッドユニット
26A: 実装ヘッド
27: 部品認識カメラ
28: 基板認識カメラ
40: 生産管理装置
50: 携帯端末
60: 情報処理システム
70: クラウドサーバ
Lv: 生産ライン
P: 基板
E1、E2: 電子部品
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13