(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2022-03-29
(45)【発行日】2022-04-06
(54)【発明の名称】嵌合音検出装置および嵌合音検出システム
(51)【国際特許分類】
G01H 11/08 20060101AFI20220330BHJP
H01R 13/64 20060101ALI20220330BHJP
【FI】
G01H11/08 Z
H01R13/64
(21)【出願番号】P 2021003232
(22)【出願日】2021-01-13
【審査請求日】2021-01-14
(73)【特許権者】
【識別番号】511192595
【氏名又は名称】ディー・クルー・テクノロジーズ株式会社
(74)【代理人】
【識別番号】110000844
【氏名又は名称】特許業務法人 クレイア特許事務所
(72)【発明者】
【氏名】土田 幸宏
(72)【発明者】
【氏名】帆波 洋平
(72)【発明者】
【氏名】クリーサ ポール
(72)【発明者】
【氏名】渡辺 成治
【審査官】瓦井 秀憲
(56)【参考文献】
【文献】特開2007-004073(JP,A)
【文献】特開2008-226506(JP,A)
【文献】特表2018-506157(JP,A)
【文献】特開平04-370673(JP,A)
【文献】特開2004-273195(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01H 11/08
H01R 13/64
(57)【特許請求の範囲】
【請求項1】
コネクタの嵌合音を採取する2つのMEMSマイクロフォンと、
前記MEMSマイクロフォンの出力信号が入力される信号処理部と、
前記信号処理部の出力信号が入力され、入力信号の振幅および/または周波数スペクトルの時間変化によって正常な嵌合音を判定する判定部と、
前記判定部が正常な嵌合音であると判定した場合に表示する表示部と、
前記信号処理部の出力である音声信号をイヤホンに送信する音声送信部と、
音声データ、および判定結果を外部端末に送信するとともに、前記信号処理部および前記判定部の設定パラメータを受信する通信部と、を含み、
2つの前記MEMSマイクロフォンは作業者の腕の長手方向に、一方の前記MEMSマイクロフォンが手の先端側になるように配置され、
前記信号処理部が、2つの前記MEMSマイクロフォンのうちの一方の前記MEMSマイクロフォンの出力信号と、他方の前記MEMSマイクロフォンの出力を遅延し、反転した信号とを加算することにより、前記手の先端方向の指向性を高めた、嵌合音検出装置。
【請求項2】
前記信号処理部は、2つの前記MEMSマイクロフォンの信号合成によって形成されるトラップフィルタと、ハイパスフィルタとを備え、
前記トラップフィルタのトラップ周波数は、作業工程で作業装置が発生する正弦波の雑音信号の周波数に合わせて設定され、前記ハイパスフィルタは作業場の騒音を低減するように設定される、請求項1に記載の嵌合音検出装置。
【請求項3】
前記信号処理部における遅延時間は、前記トラップフィルタの前記トラップ周波数が前記正弦波の雑音信号の周波数と一致するように設定される、請求項2に記載の嵌合音検出装置。
【請求項4】
さらに加速度センサを備え、
前記加速度センサの出力が所定の変化パターンを示した場合に、前記所定の変化パターンをトリガとして、一定期間、前記判定部が判定動作を行うとともに前記音声送信部が音声を送信する、請求項1から3のいずれか1項に記載の嵌合音検出装置。
【請求項5】
請求項1から4のいずれか1項に記載の嵌合音検出装置と、
前記嵌合音検出装置に有線または無線で接続され、嵌合音を聞くことのできる前記イヤホンと、
前記嵌合音検出装置に有線または無線で接続され、前記嵌合音検出装置の設定を行うとともに、採取された嵌合音が正常かどうかを判定する前記外部端末と、を含む、嵌合音検出システム。
【請求項6】
さらに、前記嵌合音検出装置に無線で接続され、前記嵌合音検出装置の設定を行う制御端末を含む、請求項5に記載の嵌合音検出システム。
【請求項7】
さらに、前記嵌合音検出装置に有線で接続され、嵌合音検出ログを保存する外部記憶装置を含む、請求項5または6に記載の嵌合音検出システム。
【請求項8】
前記判定部または前記外部端末の嵌合音判定ブロックが、畳み込みニューラルネットワークを用いて前記嵌合音が正常かどうかを判定する、請求項5から7のいずれか1項に記載の嵌合音検出システム。
【請求項9】
前記嵌合音が正常かどうかの判定は、入力された前記嵌合音のデータを直並列変換して並列データとし、前記並列データを前記畳み込みニューラルネットワークに入力して判定する、請求項8に記載の嵌合音検出システム。
【請求項10】
前記嵌合音が正常かどうかの判定は、入力された前記嵌合音のデータをFFTで周波数スペクトルに変換し、前記周波数スペクトルを前記畳み込みニューラルネットワークに入力して判定する、請求項8に記載の嵌合音検出システム。
【請求項11】
前記嵌合音が正常かどうかの判定は、入力された前記嵌合音のデータを複数の区間に分割した後、それぞれの区間のデータをFFTで周波数スペクトルに変換し、前記区間ごとの前記周波数スペクトルからなる2次元データを前記畳み込みニューラルネットワークに入力して判定する、請求項8に記載の嵌合音検出システム。
【請求項12】
前記嵌合音の判定では、前記嵌合音が正常かどうかだけではなく、嵌合したコネクタの種別も判定する、請求項8から11のいずれか1項に記載の嵌合音検出システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、作業者がコネクタを嵌合したときに検出される嵌合音を検出し、正常な嵌合がなされたかどうかを判定するコネクタ嵌合音検出装置および嵌合音検出システムに関する。
【背景技術】
【0002】
コネクタ嵌合音検出装置に関連して例えば、以下の発明が出願されている。
特許文献1(特開2007-004073号公報)には、組立製造現場における用途を想定した集音装置につき、外部騒音の集音を低減し、部品組立音等をクリアに検出することを可能とし、さらに、作業性が良好で、破損防止も図られた集音装置が開示されている。
特許文献1に記載の集音装置は、マイクロフォンと、マイクロフォンに接続され、作業者の指部分(実施例では親指の裏側)に設けられる集音パイプと、を有し、集音パイプにて取り込んだ音をマイクロフォンにて集音する構成とする。また、マイクロフォンは、作業者の指の付け根部分から手首部分の間に配置される。
【0003】
また、特許文献2(特開2008-226506号公報)には、通電ケーブルの結線時にコネクタが確実にロックしたことを検知するコネクタの接続状態判定装置が開示されている。
特許文献2に記載の接続状態判定装置は、加速度センサを備え作業者の指先に着装する指サックと、加速度センサにより通電ケーブルのコネクタ嵌合時の加速度信号を転送する発信機と、発信機から加速度信号を受信する受信機と、受信機で受信した加速度信号を予め記憶された周波数、音圧レベル、時間、距離の適切な接続のマスタデータと比較解析してコネクタ接続状態の適否を判定する高速フーリエ変換器とから構成されている。
【0004】
また、特許文献3(特開2008-293794号公報)には、コネクタの結合状態の判定の正確性を向上させることができるコネクタ嵌合状態判定装置、コネクタ嵌合状態判定システム、及びコネクタ嵌合状態判定方法が開示されている。
特許文献3に記載のコネクタ嵌合状態判定装置は、作業者に取り付けられ、コネクタ嵌合時に測定された音情報及び加速度情報を含む検出結果が入力される入力部と、入力部に入力された検出結果に基づき、音情報が所定の条件を満たすか否かを判定する音情報判定部と、音情報判定部にて条件を満たした検出結果について、加速度情報が所定の条件を満たすか否かを判定する加速度情報判定部とを備える。この判定装置は、音情報及び加速度情報のいずれも所定の条件を満たすと判定された場合にのみコネクタ嵌合と判断する。
【0005】
また、特許文献4(特開2010-161045号公報)には、環境雑音下においてもコネクタの嵌合が確実に行われているかを検証するコネクタ嵌合検査システム及び方法が開示されている。
特許文献4に記載のコネクタ嵌合検査システムでは、複数の検知装置と作業管理装置とが無線で接続される。複数の検知装置は、それぞれ、コネクタ嵌合時に生じる嵌合音を含む音響を検出信号に変換する音響変換手段と、音響変換手段から入力された検出信号を該検知装置毎に割り当てられている周波数に変調して電波として送信する送信手段と、を備える。作業管理装置は、複数の検知装置における送信手段から送信された各電波を受信して復調し音響信号に変換する受信手段と、受信手段から入力された音響信号を解析し、所定の周波数帯域における信号レベル閾値と比較して嵌合音の有無を判断する解析判断手段と、解析判断手段による判断結果を表示する出力手段とを備える。
【先行技術文献】
【特許文献】
【0006】
【文献】特開2007-004073号公報
【文献】特開2008-226506号公報
【文献】特開2008-293794号公報
【文献】特開2010-161045号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
自動車製造、工作機械組立工場、ハーネス製造工場などの工場で製品の組立を行う際、ハーネスによる接続を行う工程が存在する。この接続を行う動作を「嵌合動作」と呼ぶ。
嵌合動作ではハーネス同士をコネクタを用いて嵌合させることを主目的としているが、嵌合が成立しているかどうかを判断するための基準が存在しないことが現場作業における課題となっている。現在は作業者の熟練度によって判断基準が異なるため、複数人で確認作業を実施することで品質基準を満足させている。
また、工場などの組立製造現場では、多くの外部騒音が存在するため、この外部騒音がマイクロフォンに集音されることになる。そして、この外部騒音がノイズとなってコネクタの嵌合音をクリアに検出することができず、嵌合が適切でないものまで合格判定としてしまう場合がある。
この外部騒音に対する対策としては、指向性マイクロフォンを使用することで外部雑音を抑制することが考えられるが、従来の指向性マイクロフォンでは、形状が例えば直径10mm、長さ40mm程度と大きく、作業者の手首、あるいは指先に固定することは困難であった。
また、組み立て製造現場では例えばトルクレンチ、電動ドライバ、作業工程で作業の節目に発生するピュアトーンなど、嵌合音の帯域と近い周波数の雑音が時々発生する。これらの雑音は3kHzから4kHz付近で正弦波に近い狭帯域の音である。これらの雑音を除去するには雑音の周波数に対応したトラップフィルタを挿入することが有効であるが、急峻な周波数特性を備えたトラップフィルタを構成すること、また、トラップフィルタのトラップ周波数をピュアトーンの周波数に一致させることは困難であった。
【0008】
特許文献1に記載の集音装置では、作業者の親指の裏側に設けられる集音パイプで集音した音を指の付け根部分から手首部分の間に配置されたマイクロフォンで電気信号に変換することによって、集音装置の指向性を高めている。
しかし、特許文献1に記載の集音装置の場合、親指の裏側から指の付け根部分または手首部分に向けて集音パイプを固定する必要があるため、作業者の作業の障害になるとの課題があった。また、嵌合音は集音パイプを介してマイクロフォンに伝導される必要があるため、集音装置としての感度が低下するとの課題もあった。
【0009】
特許文献2に記載の接続状態判定装置は、作業者の指先に着装された加速度センサで検出した加速度信号を予め記憶された周波数、音圧レベル、時間、距離の適切な接続のマスタデータと比較解析してコネクタ接続状態の適否を判定する。しかし、特許文献2に記載の接続状態判定装置では、コネクタの嵌合音そのものではなく、作業者の指先の動きを検出するものであるため、作業者ごとに加速度信号が異なり、正確な接続ができているかどうかの判定について誤りが発生するとの課題があった。
【0010】
特許文献3に記載のコネクタ嵌合状態判定装置は、音情報と加速度情報とを入力し、音情報及び加速度情報のいずれも所定の条件を満たすと判定された場合にのみコネクタ嵌合と判断する。特許文献3では、人差し指と親指とに音及び加速度を検出する一体型のマイク・加速度センサを装着しており、人差し指と親指とに一体型のマイク・加速度センサを装着することで、より嵌合音の入力感度を上げることができる。しかし、人差し指と親指とに一体型のマイク・加速度センサを装着した場合、やはり作業者の作業の障害になるとの課題があった。
【0011】
特許文献4に記載のコネクタ嵌合検査システムでは、検知装置は作業者の手袋の中に、あるいは、ベルトにより作業者の手首に取り付けられている。特許文献4では、作業者による嵌合音以外の作業の音による誤判定に対する対策として、音の持続時間が長い場合は嵌合音ではないと判断するとしている。しかし、嵌合音以外の作業の音は特許文献4に記載のようにトルクレンチだけに限定されるわけではない。したがって、嵌合音以外の作業の音による誤判定をなくするためには、作業場の雑音、特に嵌合音の帯域に近い雑音を抑制する必要がある。
【0012】
本発明の主な目的は、コネクタ嵌合音検出装置に作業者の手の先端方向の感度が高くなるような指向性を持たせるとともに、トラップフィルタで嵌合音に近いピュアトーンを抑制することにより、作業場の雑音の影響を極力排除することのできるコネクタ嵌合音検出装置を提供することにある。
【課題を解決するための手段】
【0013】
(1)
一局面に従う嵌合音検出装置は、コネクタの嵌合音を採取する2つのMEMSマイクロフォンと、MEMSマイクロフォンの出力信号が入力される信号処理部と、信号処理部の出力信号が入力され、入力信号の振幅および/または周波数スペクトルの時間変化によって正常な嵌合音を判定する判定部と、判定部が正常な嵌合音であると判定した場合に点滅表示する表示部と、信号処理部の出力である音声信号を有線または無線でイヤホンに送信する音声送信部と、音声データ、および判定結果を外部端末に送信するとともに、信号処理部および判定部の設定パラメータを受信する通信部と、を含み、2つのMEMSマイクロフォンは作業者の腕の長手方向に、一方のMEMSマイクロフォンが手の先端側になるように配置され、信号処理部が、2つのMEMSマイクロフォンのうちの一方のMEMSマイクロフォンの出力信号と、他方のMEMSマイクロフォンの出力を遅延し、反転した信号とを加算することにより、手の先端方向の指向性を高めている。
【0014】
この場合、2つのマイクロフォンの入力信号同士の遅延時間は、入力音声の2つのマイクロフォンへの入射角度と2つのマイクロフォンの間の距離で決定され、2つのマイクロフォンのうち、他方のマイクロフォンの側から音声が入力された場合、他方のマイクロフォンの入力信号を、2つのマイクロフォンの入力信号同士の遅延時間と同じ時間遅延し、さらに反転して加算することにより、入力信号を大幅に減衰することができる。すなわち、2つのマイクロフォンの間の遅延時間が信号処理部の内部の遅延時間と同じ時間となる方向は、指向性の死角となる。
したがって、入射角度を2つのマイクロフォンを結んだ方向に近づけた場合には、他方のマイクロフォン側は死角となり、逆に一方のマイクロフォン側は感度が高くなる。すなわち、作業者の腕の長手方向に、一方のマイクロフォンが手の先端側になるように配置することで、手の先端方向の指向性を高めたコネクタ嵌合音検出装置を実現することができる。
そして、コネクタ嵌合音検出装置が手の先端方向の指向性をそなえることによって、手の先端方向から入射される嵌合音の感度を向上させ、その他の方向から入射される雑音を抑制することができる。
また、一局面に従うコネクタ嵌合音検出装置では、マイクロフォンとして、例えば1mm×1mm程度の、非常に外形の小さいMEMSマイクロフォンを用いることによって、手首に装着することのできる、小型薄型のコネクタ嵌合音検出装置を実現している。
【0015】
(2)
第2の発明にかかる嵌合音検出装置は、一局面に従う嵌合音検出装置において、信号処理部は、2つのMEMSマイクロフォンの信号合成によって形成されるトラップフィルタと、ハイパスフィルタとを備え、トラップフィルタのトラップ周波数は、作業工程で作業装置が発生する正弦波の雑音信号の周波数に合わせて設定され、ハイパスフィルタは作業場の騒音を低減するように設定されてもよい。
【0016】
工場などの組立製造現場では、通常、嵌合音より周波数が低い多くの外部騒音と、嵌合音の帯域に近い周波数のピュアトーンなどの雑音とが存在する。なかでも、嵌合音の感度を落とすことなくピュアトーンを除去することは通常のバンドパスフィルタなどでは困難である。
第2の発明にかかる嵌合音検出装置では、2つのMEMSマイクロフォンのうちの一方のMEMSマイクロフォンの出力信号と、他方のMEMSマイクロフォンの出力を遅延、反転した信号とを加算することによって、いわゆる櫛形の周波数特性を形成することができる。この櫛形の周波数特性をトラップフィルタとして用い、トラップ周波数をピュアトーンの周波数に一致させることによってピュアトーンの雑音を除去している。
また、嵌合音より周波数が低い多くの外部騒音に対してはハイパスフィルタを用いることで、外部騒音を除去している。
【0017】
(3)
第3の発明にかかる嵌合音検出装置は、第2の発明にかかる嵌合音検出装置において、信号処理部における遅延時間は、トラップフィルタのトラップ周波数が正弦波の雑音信号の周波数と一致するように設定されてもよい。
【0018】
第3の発明にかかる嵌合音検出装置では、組立製造現場において、正弦波に近いピュアトーンの雑音が最も抑制できるように信号処理部における遅延時間を調整することで、嵌合音検出の精度を高めている。
【0019】
(4)
第4の発明にかかる嵌合音検出装置は、一局面から第3の発明にかかる嵌合音検出装置において、さらに加速度センサを備え、加速度センサの出力が所定の変化パターンを示した場合に、所定の変化パターンをトリガとして、一定期間、判定部が判定動作を行うとともに音声送信部が音声を送信してもよい。
【0020】
作業者がコネクタを嵌合する場合、まず、手を動かしてコネクタを嵌合しようとする動きがあって、そのあと、コネクタが嵌合されて嵌合音が発生する。したがって、作業者がコネクタを嵌合しようとする動きを作業者の手に配置された加速度センサの出力の所定の変化パターンで検出し、所定の変化パターンをトリガとして、一定期間、判定部が判定動作を行うことによって、正常な嵌合音かどうかの判定の精度を向上させることができる。また、所定の変化パターンをトリガとして、一定期間、音声送信部が音声を送信することによって、イヤホンで音声を聞く作業者の集中力を高めるとともに、疲労を軽減することができる。
なお、作業者の手に加速度センサではなく振動センサを配置し、振動センサの出力振幅が所定のレベル以上の期間、判定部が判定動作を行うとともに、音声送信部が音声を送信するように構成してもよい。
【0021】
(5)
他の局面に従う嵌合音検出システムは、一局面から第4の発明に従う嵌合音検出装置と、嵌合音検出装置に有線または無線で接続され、嵌合音を聞くことのできるイヤホンと、嵌合音検出装置に有線または無線で接続され、嵌合音検出装置の設定を行うとともに、採取された嵌合音が正常かどうかを判定する外部端末と、を含む。
【0022】
この場合、作業者がイヤホンで嵌合音を聞くことで正常に嵌合されたかどうかを判断するとともに、嵌合音検出装置の設定をパーソナルコンピュータなどの外部端末から詳細に設定することができ、さらに外部端末により、より高精度な嵌合音の判定をすることができる。
【0023】
(6)
第6の発明にかかる嵌合音検出システムは、他の局面に従う嵌合音検出システムにおいて、さらに、嵌合音検出装置に無線で接続され、嵌合音検出装置の設定を行う制御端末を含んでもよい。
【0024】
この場合、スマートフォンなどの制御端末により、嵌合作業の現場でトラップフィルタのトラップ周波数を決定する信号処理部の遅延時間などの設定を行うことができて便利である。
【0025】
(7)
第7の発明にかかる嵌合音検出システムは、他の局面から第6の発明にかかる嵌合音検出システムにおいて、さらに、嵌合音検出装置に有線で接続され、嵌合音検出ログを保存する外部記憶装置を含んでもよい。外部記憶装置としては、例えばUSBストレージ、SDカードなどが含まれる。
【0026】
この場合、嵌合音検出のログデータを外部記憶装置に保存することにより、嵌合不良が発生したときなどの不良解析等に利用することができる。
【0027】
(8)
第8の発明にかかる嵌合音検出システムは、他の局面から第7の発明にかかる嵌合音検出システムにおいて、判定部または外部端末の嵌合音判定ブロックが、畳み込みニューラルネットワークを用いて嵌合音が正常かどうかを判定してもよい。
【0028】
この場合、嵌合音判定に畳み込みニューラルネットワークを用い、多数の正常な嵌合音および正常でない嵌合音のデータを収集して畳み込みニューラルネットワークの係数を学習させることにより、より正確に、嵌合音が正常な嵌合による嵌合音であるかどうかを判定することができる。
【0029】
(9)
第9の発明にかかる嵌合音検出システムは、第8の発明にかかる嵌合音検出システムにおいて、嵌合音が正常かどうかの判定は、入力された嵌合音のデータを直並列変換して並列データとし、並列データを畳み込みニューラルネットワークに入力して判定してもよい。
【0030】
この場合、入力された嵌合音のデータをそのまま畳み込みニューラルネットワークに入力するため、FFT処理が不要であり、比較的処理能力の低いコンピュータでも正常な嵌合音かどうかを判定することができる。
【0031】
(10)
第10の発明にかかる嵌合音検出システムは、第8の発明にかかる嵌合音検出システムにおいて、嵌合音が正常かどうかの判定は、入力された嵌合音のデータをFFTで周波数スペクトルに変換し、周波数スペクトルを畳み込みニューラルネットワークに入力して判定してもよい。
【0032】
嵌合音は周波数スペクトルに特徴があるため、第9の発明にかかる嵌合音検出システムでは、音の信号そのものではなく、周波数スペクトルを用いて判定することにより、より正確な判定をすることができる。
【0033】
(11)
第11の発明にかかる嵌合音検出システムは、第8の発明にかかる嵌合音検出システムにおいて、嵌合音が正常かどうかの判定は、入力された嵌合音のデータを複数の区間に分割した後、それぞれの区間のデータをFFTで周波数スペクトルに変換し、区間ごとの周波数スペクトルからなる2次元データを畳み込みニューラルネットワークに入力して判定してもよい。
【0034】
音声信号のデータを複数の区間に分割した後、それぞれの区間のデータをFFTで周波数スペクトルに変換したデータとは、いわゆるスペクトログラムのことである。コネクタの嵌合では、コネクタ同士が完全に嵌合するまでの間にいくつかのステップがあり、それぞれのステップで特徴的な周波数スペクトルが異なる。このため、第10の発明にかかる嵌合音検出システムでは、入力された嵌合音のデータを複数の区間に分割した後、それぞれの区間のデータをFFTで周波数スペクトルに変換しスペクトログラムを作成してから、その、スペクトログラムを畳み込みニューラルネットワークに入力して判定している。
【0035】
(12)
第12の発明にかかる嵌合音検出システムは、第8から第11の発明にかかる嵌合音検出システムにおいて、嵌合音の判定では、嵌合音が正常かどうかだけではなく、嵌合したコネクタの種別も判定するようにしてもよい。
【0036】
コネクタの嵌合音の周波数スペクトルまたはスペクトログラムは、嵌合するコネクタの種別によって異なる。したがって、畳み込みニューラルネットワークの学習サンプルのデータをコネクタの種類ごとに作成し学習させることによって、周波数スペクトルまたはスペクトログラムを用いてコネクタの種別を判別することができる。
【図面の簡単な説明】
【0037】
【
図1】第1の実施形態のコネクタ嵌合音検出システムの構成を示す模式図である。
【
図2】第1の実施形態のコネクタ嵌合音検出装置の構成を示す模式図である。
【
図3】2つのマイクロフォンと遅延器、減算器による指向性マイクロフォンの構成を示す模式図である。
【
図4】マイクロフォンの指向性の一例を示すグラフである。
【
図5】マイクロフォンの指向性の他の例を示すグラフである。
【
図6】トラップフィルタの周波数特性の一例を示すグラフである。
【
図7】トラップフィルタの周波数特性の他の例を示すグラフである。
【
図8】Null Beamformingによる指向性マイクロフォンの構成を示す模式図である。
【
図9】センサの出力をトリガとして音声信号をゲートする場合の、コネクタ嵌合音検出装置の動作を示す模式図である。
【
図10】第2の実施形態の畳み込みニューラルネットワークを用いた嵌合音判定ブロックの構成の一例を示す模式図である。
【
図11】第2の実施形態で判定を行った3種類のコネクタの判定結果である。
【
図12】第2の実施形態の畳み込みニューラルネットワークを用いた嵌合音判定ブロックの構成の他の例を示す模式図である。
【
図13】第2の実施形態の畳み込みニューラルネットワークを用いた嵌合音判定ブロックの構成のさらに他の例を示す模式図である。
【発明を実施するための形態】
【0038】
以下、図面を参照しつつ、本発明の実施形態について説明する。以下の説明では、同一の部品には同一の符号を付す。また、同符号の場合には、それらの名称および機能も同一である。したがって、それらについての詳細な説明は繰り返さないものとする。
【0039】
[第1の実施形態]
(嵌合音検出システム200)
図1は第1の実施形態の嵌合音検出システム200の構成を示す模式図であり、
図2は嵌合音検出システム200に用いられる嵌合音検出装置100の構成を示す模式図である。
図1において、コネクタを嵌合する作業者150は手首にコネクタの嵌合音検出装置100を、耳にイヤホン110を装着した状態で嵌合動作を行う。コネクタが嵌合されると嵌合音が発生し、この嵌合音は嵌合音検出装置100の2つのMEMSマイクロフォン10で集音され、雑音を取り除かれた音が、有線または無線でイヤホン110に出力され、作業者150はその音を聞いてコネクタが正常に嵌合されたかどうかを判断することができる。また、コネクタの嵌合音検出装置100にはコネクタが正常に嵌合されたかどうかを簡易に判定する判定部60が備えられており、正常に嵌合されたと判定された場合には表示部であるLED50が点滅して作業者150に報知する。
【0040】
嵌合音検出装置100はさらに、外部端末130(例えばパーソナルコンピュータ)と有線または無線で接続されており、外部端末130は嵌合音検出装置100の信号処理部20および判定部60のパラメータなどの設定を行うとともに、嵌合音検出装置100からMEMSマイクロフォン10の音声データ、判定結果および加速度センサ40の信号を受信し、より高精度の嵌合音判定を行う。
嵌合音検出装置100は外部端末130ではなく、スマートフォンなどの制御端末120と無線で接続されてもよい。この場合、嵌合音検出装置100は、基本的な設定を外部端末130で行ったうえで、作業現場での調整が必要な、例えばトラップフィルタのトラップ周波数などを制御端末120で設定することが望ましい。
嵌合音検出装置100はさらに、USBストレージ、SDカードなどの外部記憶装置140と有線で接続されてもよい。この場合、外部記憶装置140により多数の嵌合音検出ログを保存することができ、嵌合不良が発生したときなどの不良解析等に利用することができる。
【0041】
嵌合音検出装置100は、2つのMEMSマイクロフォン10、信号処理部20、音声送信部30、加速度センサ40、LED50、判定部60、通信部70を備える。2つのMEMSマイクロフォン10は作業者150の腕の長手方向に、一方のMEMSマイクロフォン10が手の先端側になるように配置される。
【0042】
(信号処理部20)
2つのMEMSマイクロフォン10の出力は信号処理部20に入力され、信号処理部20は、マイクロフォンに指向性を付与するとともに、嵌合音の帯域に近い周波数のピュアトーンなどの雑音を除去するためのトラップフィルタを構成する。信号処理部20は、さらに、通常、嵌合音より周波数が低い、作業場の多くの外部騒音を除去するためのハイパスフィルタも備える。
【0043】
図3は、2つのMEMSマイクロフォン10と信号処理部20に内蔵された遅延器21、減算器22によるマイクロフォンの指向性およびトラップフィルタ機能の模式的構成図、
図4および
図5はマイクロフォンの指向性の一例および他の例を示すグラフ、
図6および
図7はトラップフィルタの周波数特性の一例および他の例を示すグラフである。
図3において、入力信号はマイクロフォンM1およびM2を結んだ線のM1側に対して、入射角θで入射される。入射された信号のうちM2の出力は遅延器21で時間t1遅延された後減算器22でM1の出力から減算される。この場合、減算器22の出力信号yは、下記数式1で表される。
【0044】
【0045】
ここで、wは入力信号の角周波数、e
j*w*tはMEMSマイクロフォン10の出力信号、t1は遅延器の遅延時間、d0は2つのMEMSマイクロフォン10の間の距離、vは音速である。
数式1によれば、減算器22の出力の入射角θに対する依存性は入力信号の周波数と遅延器21の遅延時間で決定される。以下、上記数式1にもとづいて計算した場合の、マイクロフォンの指向性およびトラップフィルタの周波数特性を示す。
図4は、2つのマイクの距離d0を約28mm、回路遅延t1を約83μSとした場合の1kHz,2kHz,および5kHzにおけるマイクロフォンの指向性を示すグラフである。また、
図5は回路遅延t1を100μSに変更した場合のマイクロフォンの指向性を示すグラフである。
図4、
図5より2つのMEMSマイクロフォン10と信号処理部20に内蔵された遅延器21、減算器22によるマイクロフォンの指向性は、手の先端方向に相当するM1側が入力感度が高くなり、手の先端側と逆方向に相当するM2側の入力感度が低くなることがわかる。また、回路遅延t1を大きくしていくと1kHzの指向性が少し弱くなることもわかる。また、
図5では入射角0度での5kHzの感度が1kHzと比較して約10dB低下している。
【0046】
トラップフィルタは、2つのMEMSマイクロフォン10の信号合成によって形成される。
図6は、入射角θを0度、2つのマイクの距離d0を約28mm、回路遅延t1を約83μSとした場合の周波数特性を示す。この場合、トラップフィルタのトラップ周波数は約6kHzとなっており、正弦波に近い雑音信号の周波数が6kHz付近であった場合、雑音信号を大幅に減衰することができる。
この、トラップ周波数は回路遅延t1の値を変更することで調整することができる。
図7は、回路遅延t1を100μSに変更した場合の周波数特性を示す。回路遅延t1を大きくすることで、トラップ周波数が6kHzから5.5kHzに変化している。
したがって、遅延器21の遅延時間の決定にあたっては、作業工程で作業の節目に発生する正弦波に近い雑音信号を入力した状態で、その雑音信号を抑圧できるように遅延時間を調整することが望ましい。
【0047】
第1の実施形態の2つのマイクを使った指向性形成方法は一般的にDelay and Sumと呼ばれている方法であるが、Delay and Sumに代わって、Null Beamformingと呼ばれている方法を用いてもよい。この場合の構成を
図8に示す。Delay and Sum法では一方のマイクロフォンの出力に遅延器21を設けるが、Null Beamforming法では、2つのマイクロフォンの出力のそれぞれにフィルタF1とフィルタF2を挿入し、それおらのフィルタの出力を加算して出力とする。
このとき、フィルタF1の伝達関数をG1(w)、フィルタF2の伝達関数をG2(w)とすると、信号が0度の方向から入力する場合の出力y1は下記数式2、信号が180度の方向から入力する場合の出力y2は下記数式2のように計算される。本発明の目的である、0度方向の指向性を高くするためには、y1=e
j*w*t、y2=0として、G1(w)およびG2(w)を求めればよい。
【0048】
【0049】
【0050】
(判定部60)
信号処理部20の出力は判定部60にも入力され、嵌合音が正常な嵌合による嵌合音であるかどうかが判定される。判定方法としては、例えば、入力信号の振幅および/または周波数スペクトルの時間変化を、所定の基準振幅および/または周波数スペクトルの時間変化と比較して、その類似度によって判定してもよい。この場合も、マイクロフォンの指向性、およびトラップフィルタとハイパスフィルタの挿入により入力信号のSN比が向上しているため、雑音の混入による誤判定を防止することができる。
判定部60は嵌合音が正常な嵌合による嵌合音であると判定した場合には、LED50を点滅させる。作業者150は、イヤホン110で聞いた嵌合音と合わせてLED50の点滅を確認することによって、嵌合音が正常な嵌合による嵌合音であるかどうかをさらに正確に判断することができる。
【0051】
判定部60は入力振幅が所定のレベル以上となると、判定動作を開始するように設定することができる。ただし、この場合、混入した雑音によって判定動作が開始され、その直後に作業者150が嵌合動作をした場合などに、正常な嵌合であるにもかかわらず正常な嵌合であると判定されない場合がある。
また、作業者150がイヤホン110で嵌合音を聞いて判断する場合も、常時イヤホン110から嵌合音以外の雑音を聞いていると、作業者150の集中力が低下して正常な嵌合音かどうかの判断を誤る場合がある。
このような誤った判定、および判断を防止するためには、作業者150の指、または手首などに加速度センサ40を備え、加速度センサ40の出力が所定の変化パターンを示した場合に、所定の変化パターンをトリガとして、一定期間、判定部60が判定動作を行うとともに音声送信部30が音声を送信することが望ましい。
【0052】
図9は加速度センサ40の出力をトリガとして音声信号をゲートする場合の、嵌合音検出装置100の動作を示す模式図である。
図9において、入力信号S1は嵌合音と雑音とを含む信号である。トリガ信号S2は作業者150が嵌合動作をした場合の加速度センサ40の出力にもとづいて発生される信号である。ゲート信号S3はトリガ信号S2の立ち上がりから所定の期間TだけHとなる信号である。出力信号S4は入力信号S1をゲート信号S3がHの期間のみ通過させるゲート回路を経由した信号である。
判定部60は
図9の出力信号S4を用いて嵌合音が正常な嵌合による嵌合音であるかどうかを判定する。また、判定部60は出力信号S4を音声送信部30および通信部70に送る。
なお、作業者の手に加速度センサ40ではなく振動センサを配置し、振動センサの出力振幅が所定のレベル以上の期間を
図9の期間Tとして、判定部60が判定動作を行うとともに、音声送信部30が音声を送信するように構成してもよい。
【0053】
(音声送信部30)
信号処理部20から送られた音声信号、または、判定部60から送られたゲートされた音声信号(出力信号S4)は、有線または無線(Bluetooth(登録商標))で接続されたイヤホン110に出力される。この場合、嵌合音信号のSN比が向上していることによって、嵌合音が正常な嵌合による嵌合音であるかどうかをより正確に判断することができる。また、ゲートされた音声信号(S4)の場合は、嵌合時のみ音声信号が出力されるため、作業者150は集中して正常な嵌合音かどうかを判断することができる。
【0054】
(通信部70)
通信部70は有線または無線でパーソナルコンピュータなどの外部端末130と接続されか、または、無線でスマートフォンなどの制御端末120と接続される。通信部70は受信した信号処理部20および判定部60の設定パラメータなどを判定部60に送り、判定部60はパラメータの設定を行う。
また、嵌合音検出装置100が外部端末130と接続されている場合は、通信部70は嵌合音の音声信号、またはセンサ40の信号とゲートされた音声信号(S4)とを外部端末130に送信し、外部端末130はより高精度の嵌合音判定を行う。
【0055】
[第2の実施形態]
第2の実施形態のコネクタの嵌合音検出装置100および嵌合音検出システム200は、嵌合音検出装置100の判定部60または外部端末130の嵌合音判定ブロックに、畳み込みニューラルネットワークを用いる点が第1の実施形態と異なり、その他は第1の実施形態と同一である。
図10は、畳み込みニューラルネットワークを用いた嵌合音判定ブロック61の構成の一例を示す模式図である。Aには
図9の出力信号S4のT1からT2の期間のデジタルデータが入力される。入力されたデータは前処理ブロック62において例えば周波数帯域1kHz―16kHzのバンドパスフィルタを通過する。前処理ブロック62の出力である信号Bは、直並列ブロック63に入力され、n個の並列データとなる。n個の並列データの出力C1からCnは畳み込みニューラルネットワーク64a(以降CNNともいう)に入力される。
CNN64aは、事前に正常な嵌合音のデータ、および正常に嵌合されなかった場合の音のデータ、その他環境雑音などによって学習されており、コネクタ嵌合音のデータを入力することによって正常な嵌合音かどうかを判定することができる。
【0056】
この場合、コネクタの種類ごとにn種類の学習サンプルのデータを準備し、CNN64aに学習させることによって、コネクタの種別の判定が可能になる。
図10のCNN64aでは、コネクタ1の学習サンプルのデータを、CN1が1でCN2~CNkおよびERRORが0とし、環境雑音など、どのコネクタの嵌合音でもない音の学習サンプルのデータをCN1~CNkが0でERRORが1として、CNN64aに学習させることによって、コネクタの種別の判定をすることができる。
コネクタの判定時には、CN1~CNkおよびERRORのうちのいずれかの出力が1になるので、どの出力が1になるかを見ることによって、コネクタが正常に嵌合されたかどうか、および嵌合されたコネクタの種別の判定をすることができる。
なお、コネクタの種別の判定をする必要がない場合は、CNN64aの出力はCNとERRORの2つのみでよい。
【0057】
第2の実施形態で判定を行った3種類のコネクタの判定を行った結果を
図11に示す。第2の実施形態では、3種類のコネクタ1からコネクタ3について、それぞれ学習サンプルのデータを作成し、CNN64aに学習させた。なお、コネクタ1は26ピンのコネクタ、コネクタ2は22ピンのコネクタ、コネクタ3は10ピンのコネクタである。
図11(a)は、学習サンプルの判定結果である。データ数は実際に録音したコネクタの嵌合音のサンプル数であり、拡張データ数はコネクタの嵌合音に対して、ノイズ付加、タイムシフト、バックグラウンドサウンドミックス、音量調整、ハイパスフィルタなどの処理を行ってデータを拡張した結果のサンプル数の合計である。正解率は、そのコネクタの嵌合音を正しく、そのコネクタであると判定した比率であり、誤判定率はそのコネクタ以外の嵌合音をそのコネクタの嵌合音と誤って判定した比率である。正解率の母数は例えばコネクタ1であればコネクタ1の拡張データ数であり、誤判定率の母数は例えばコネクタ1であれば全体の拡張データ数からコネクタ1の拡張データ数を引いた数であるため、合計しても100%にはならない。
【0058】
図11(b)は学習サンプルで学習したCNN64aを用いて、新たなテストサンプルに対して判定を行ったときの判定結果である。正解数と誤判定数の定義は
図11(a)と同一である。学習サンプルに比べてテストサンプルの正解率がやや低くなっているのは、テストサンプルのデータ数が少ないためである。
【0059】
図12は、第2の実施形態の畳み込みニューラルネットワークを用いた嵌合音判定ブロックの構成の他の例を示す模式図である。
図10の構成では、前処理した嵌合音の信号Bを直並列変換して直並列変換データの出力C1~CnをそのままCNN64aに入力していたが、
図12では、前処理した信号BをFFTブロック65aでFFT処理し、周波数スペクトルD1~Dmに変換してから、周波数スペクトルD1~DmをCNN64bに入力する。
図12では、CNN64bの出力がCN1~CNkとERRORの計k+1となっているが、コネクタの種別の判定をする必要がない場合は、出力はCNとERRORの2つのみでよい。
【0060】
図13は、第2の実施形態の畳み込みニューラルネットワークを用いた嵌合音判定ブロックの構成のさらに他の例を示す模式図である。
図12の構成では前処理した嵌合音の信号BをFFTブロック65aでFFT処理し、周波数スペクトルD1~Dmに変換してから、周波数スペクトルD1~DmをCNN64bに入力していたが、
図13の構成では、前処理した嵌合音の信号Bをまず時分割ブロック66でl個の期間に分割し、分割されたE1~ElのデータのそれぞれをFFTブロック65bでFFT処理して、D1~Dm,Dm+1~D2m、・・・,D(l-1)×m+1~Dl×mのデータを作成し、これらのデータをCNN64cに入力する。なお、これらのデータは周波数スペクトルの時間変化に相当し、一般にスペクトログラムと呼ばれている。
図13でも、CNN64cの出力はCN1~CNkとERRORの計k+1となっているが、コネクタの種別の判定をする必要がない場合は、出力はCNとERRORの2つのみでよい。
【0061】
第2の実施形態では、嵌合音判定に畳み込みニューラルネットワークを用い、多数の正常な嵌合音および正常でない嵌合音のデータを収集して畳み込みニューラルネットワークの係数を学習させることにより、より正確に、嵌合音が正常な嵌合による嵌合音であるかどうかを判定することができる。
なお、例えば、
図12の場合のように畳み込みニューラルネットワークの入力数が少ない場合には、畳み込み層とマックスプーリング層を含まない、通常の多層ニューラルネットワークを使用してもよい。また、
図13の場合でも、時分割数lとFFTの周波数スペクトル数mとを少なくすることにより、通常の多層ニューラルネットワークを用いて構成することもできる。
【0062】
本発明において、MEMSマイクロフォン10が『MEMSマイクロフォン』に相当し、信号処理部20が『信号処理部』に相当し、判定部60が『判定部』に相当し、LED50が『表示部』に相当し、音声送信部30が『音声送信部』に相当し、イヤホン110が『イヤホン』に相当し、通信部70が『通信部』に相当し、作業者150が『作業者』に相当し、外部端末130が『外部端末』に相当し、嵌合音検出装置100が『嵌合音検出装置』に相当し、加速度センサ40が『加速度センサ』に相当し、嵌合音検出システム200が『嵌合音検出システム』に相当し、制御端末120が『制御端末』に相当し、外部記憶装置140が『外部記憶装置』に相当し、畳み込みニューラルネットワーク64a、64b、64cが『畳み込みニューラルネットワーク』に相当する。
【0063】
本発明の好ましい一実施形態は上記の通りであるが、本発明はそれだけに制限されない。本発明の精神と範囲から逸脱することのない様々な実施形態が他になされることは理解されよう。さらに、本実施形態において、本発明の構成による作用および効果を述べているが、これら作用および効果は、一例であり、本発明を限定するものではない。
【符号の説明】
【0064】
10 MEMSマイクロフォン
20 信号処理部
21 遅延器
22 減算器
30 音声送信部
40 加速度センサ
50 LED
60 判定部(制御部)
64 畳み込みニューラルネットワーク
70 通信部
100 嵌合音検出装置
110 イヤホン
120 制御端末
130 外部端末
140 外部記憶装置
150 作業者
200 嵌合音検出システム
【要約】
【課題】作業者の手の先端方向の感度が高くなるような指向性を持たせるとともに、トラップフィルタで嵌合音の帯域に近い周波数の雑音を抑制する嵌合音検出装置を提供する。
【解決手段】コネクタの嵌合音を採取する2つのMEMSマイクロフォン10と、MEMSマイクロフォン10の出力信号が入力される信号処理部20と、信号処理部20の出力信号が入力され、入力信号が正常な嵌合音かどうかを判定する判定部60と、信号処理部20の出力である音声信号を有線または無線でイヤホンに送信する音声送信部30と、を含み、信号処理部20が、2つのMEMSマイクロフォン10のうちの一方のMEMSマイクロフォンの出力信号と、他方のMEMSマイクロフォンの出力を遅延、反転した信号とを加算することにより、手の先端方向の指向性を高める。
【選択図】
図2