(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-01
(45)【発行日】2024-07-09
(54)【発明の名称】被選別物の識別方法、選別方法及び選別装置
(51)【国際特許分類】
G06T 7/00 20170101AFI20240702BHJP
B07C 5/10 20060101ALI20240702BHJP
【FI】
G06T7/00 350C
B07C5/10
(21)【出願番号】P 2020188317
(22)【出願日】2020-11-11
【審査請求日】2023-08-03
(73)【特許権者】
【識別番号】000001812
【氏名又は名称】株式会社サタケ
(74)【代理人】
【識別番号】110001151
【氏名又は名称】あいわ弁理士法人
(72)【発明者】
【氏名】定丸 雅明
(72)【発明者】
【氏名】宮本 知幸
(72)【発明者】
【氏名】原田 真也
【審査官】小太刀 慶明
(56)【参考文献】
【文献】特開2005-083775(JP,A)
【文献】中国特許出願公開第110967339(CN,A)
【文献】特開2019-197000(JP,A)
【文献】特開2018-025419(JP,A)
【文献】特開2002-312762(JP,A)
【文献】米国特許出願公開第2020/0084966(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01N 21/84 - 21/958
B07C 1/00 - 99/00
G06T 7/00 - 7/90
(57)【特許請求の範囲】
【請求項1】
被選別物を移送する移送工程と、
前記移送工程中及び前記移送工程後のうち少なくとも一方において、前記被選別物
が写った画像情報を取得して、該画像情報を
同一サイズの格子状の複数のセルデータに分割する画像情報取得工程と、
前記セルデータと被選別物に関する学習情報を入力して訓練された学習モデルとに基づいて前記被選別物を識別する識別工程と、を有し、
前記学習情報は、被選別物に関する良部情報、不良部情報及び背景情報が少なくとも含まれ、
前記良部情報は、少なくとも被選別物の輪郭情報を含む
ことを特徴とする被選別物の識別方法。
【請求項2】
被選別物を移送する移送工程と、
前記移送工程中及び前記移送工程後のうち少なくとも一方において、前記被選別物の画像情報を取得して、該画像情報を複数のセルデータに分割する画像情報取得工程と、
前記セルデータと被選別物に関する学習情報を入力して訓練された学習モデルとに基づいて前記被選別物を識別する識別工程と、を有し、
前記学習情報は、被選別物に関する良部情報、不良部情報及び背景情報が少なくとも含まれ、
前記良部情報は、背景を多く含む前記被選別物
の輪郭情報と、背景を含まないか僅かに含む前記被選別物の腹部情報とを含み、
前記学習情報における前記被選別物の前記輪郭情報と前記腹部情報との入力割合を、前記輪郭情報における輪郭面積と前記腹部情報における腹部面積に基づいて定める
ことを特徴とする被選別物の識別方法。
【請求項3】
被選別物を移送する移送工程と、
前記移送工程中及び前記移送工程後のうち少なくとも一方において、前記被選別物の画像情報を取得して、該画像情報を複数のセルデータに分割する画像情報取得工程と、
前記セルデータと被選別物に関する学習情報を入力して訓練された学習モデルとに基づいて前記被選別物を識別する識別工程と、
前記識別工程にて得られた識別情報に基づいて前記被選別物を選別する選別工程と、を有し、
前記学習情報は、被選別物に関する良部情報、不良部情報及び背景情報が少なくとも含まれ、
前記良部情報は、背景を多く含む前記被選別物の輪郭情報と、背景を含まないか僅かに含む前記被選別物の腹部情報とを含み、
前記学習情報における前記被選別物の前記輪郭情報と前記腹部情報との入力割合を、前記輪郭情報における輪郭面積と前記腹部情報における腹部面積に基づいて定める
ことを特徴とする被選別物の選別方法。
【請求項4】
被選別物が移送される移送手段と、
前記移送手段における移送中及び移送後のうち少なくとも一方において、前記被選別物の画像情報が取得され、該画像情報が複数のセルデータに分割される画像情報取得手段と、
前記セルデータと被選別物に関する学習情報が入力され訓練された学習モデルとに基づいて前記被選別物が識別される識別手段と
前記識別手段にて得られた識別情報に基づいて前記被選別物が選別される選別手段と、を備え、
前記学習情報は、被選別物に関する良部情報、不良部情報及び背景情報が少なくとも含まれ、
前記良部情報は、背景を多く含む前記被選別物の輪郭情報と、背景を含まないか僅かに含む前記被選別物の腹部情報とを含み、
前記学習情報における前記被選別物の前記輪郭情報と前記腹部情報との入力割合が、前記輪郭情報における輪郭面積と前記腹部情報における腹部面積に基づいて定められる
ことを特徴とする被選別物の選別装置。
【請求項5】
前記選別手段は、前記識別情報に基づいて動作される複数のエジェクタを備え、
前記エジェクタの数及び配置のうち少なくとも一方と、前記セルデータとが所定の関係を有する
ことを特徴とする請求項4に記載の被選別物の選別装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、選別対象となる被選別物を識別し、選別することが可能な被選別物の識別方法、選別方法及び選別装置に関する。
【背景技術】
【0002】
従来から光学式選別機は、ベルトコンベヤで移送される選別対象物に対して光学検出手段において光を照射し、その反射光をラインセンサなどで受光して、その検出光に基づいて不良品を判別している。ここで、選別の対象となるのは、黒豆や金時などの豆類、黒ゴマ等の種子類、乾燥マカロニ、乾燥ペンネなどの短い乾麺類、樹脂ペレットなどの被選別物が挙げられる。そして、不良品として判別された被選別物を噴風選別する。このような光学式選別機が備える光学検出手段は、被選別物が放出される落下軌跡上の光学検出位置に対して、上下方向から光を照射する各照射装置を対設し、さらに、上記光学検出位置における被選別物からの反射光をその上下方向から受光するラインセンサなどの受光センサを対設している。
【0003】
上記した光学式選別機に係る従来技術として、例えば特許文献1には、あらかじめ準備した良品、不良品及び異物を含む被選別物の、R(Red:赤)、G(Green:緑)、B(Blue:青)の各波長成分に関する三次元色分布パターンを選別機に学習させる、人間の目に近いRGBカラーの三次元色空間情報を有効に利用して被選別物を選別するものが開示されている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
上記した装置によれば、被選別物を色情報によって高精度に選別することができる。しかしながら、表面に凹凸やひび、割れ、しわなどの形状が表れている不良品については、色情報だけでは選別することができないという問題があり、市場においては、被選別物について表面の凹凸やヒビ、ワレなどの表面形状を識別して、「表面形状」の不良粒を選別できる光学式選別機に対してニーズがある。
【0006】
本発明はこのような課題に鑑み、被選別物を識別して選別することが可能な、被選別物の識別方法、選別方法及び選別装置を提供することを目的とする。
【課題を解決するための手段】
【0007】
(1)本発明は、
被選別物を移送する移送工程と、
前記移送工程中及び前記移送工程後のうち少なくとも一方において、前記被選別物が写った画像情報を取得して、該画像情報を同一サイズの格子状の複数のセルデータに分割する画像情報取得工程と、
前記セルデータと被選別物に関する学習情報を入力して訓練された学習モデルとに基づいて前記被選別物を識別する識別工程と、を有し、
前記学習情報は、被選別物に関する良部情報、不良部情報及び背景情報が少なくとも含まれ、
前記良部情報は、少なくとも被選別物の輪郭情報を含む
ことを特徴とする被選別物の識別方法である。
【0008】
(2)本発明は、
被選別物を移送する移送工程と、
前記移送工程中及び前記移送工程後のうち少なくとも一方において、前記被選別物の画像情報を取得して、該画像情報を複数のセルデータに分割する画像情報取得工程と、
前記セルデータと被選別物に関する学習情報を入力して訓練された学習モデルとに基づいて前記被選別物を識別する識別工程と、を有し、
前記学習情報は、被選別物に関する良部情報、不良部情報及び背景情報が少なくとも含まれ、
前記良部情報は、背景を多く含む前記被選別物の輪郭情報と、背景を含まないか僅かに含む前記被選別物の腹部情報とを含み、
前記学習情報における前記被選別物の前記輪郭情報と前記腹部情報との入力割合を、前記輪郭情報における輪郭面積と前記腹部情報における腹部面積に基づいて定める
ことを特徴とする被選別物の識別方法である。
【0009】
(3)本発明は、
被選別物を移送する移送工程と、
前記移送工程中及び前記移送工程後のうち少なくとも一方において、前記被選別物の画像情報を取得して、該画像情報を複数のセルデータに分割する画像情報取得工程と、
前記セルデータと被選別物に関する学習情報を入力して訓練された学習モデルとに基づいて前記被選別物を識別する識別工程と、
前記識別工程にて得られた識別情報に基づいて前記被選別物を選別する選別工程と、を有し、
前記学習情報は、被選別物に関する良部情報、不良部情報及び背景情報が少なくとも含まれ、
前記良部情報は、背景を多く含む前記被選別物の輪郭情報と、背景を含まないか僅かに含む前記被選別物の腹部情報とを含み、
前記学習情報における前記被選別物の前記輪郭情報と前記腹部情報との入力割合を、前記輪郭情報における輪郭面積と前記腹部情報における腹部面積に基づいて定める
ことを特徴とする被選別物の選別方法である。
【0010】
(4)本発明は、
被選別物が移送される移送手段と、
前記移送手段における移送中及び移送後のうち少なくとも一方において、前記被選別物の画像情報が取得され、該画像情報が複数のセルデータに分割される画像情報取得手段と、
前記セルデータと被選別物に関する学習情報が入力され訓練された学習モデルとに基づいて前記被選別物が識別される識別手段と
前記識別手段にて得られた識別情報に基づいて前記被選別物が選別される選別手段と、を備え、
前記学習情報は、被選別物に関する良部情報、不良部情報及び背景情報が少なくとも含まれ、
前記良部情報は、背景を多く含む前記被選別物の輪郭情報と、背景を含まないか僅かに含む前記被選別物の腹部情報とを含み、
前記学習情報における前記被選別物の前記輪郭情報と前記腹部情報との入力割合が、前記輪郭情報における輪郭面積と前記腹部情報における腹部面積に基づいて定められる
ことを特徴とする被選別物の選別装置である。
【0011】
(5)本発明は、
前記選別手段は、前記識別情報に基づいて動作される複数のエジェクタを備え、
前記エジェクタの数及び配置のうち少なくとも一方と、前記セルデータとが所定の関係を有する
ことを特徴とする上記(4)に記載の被選別物の選別装置である。
【発明の効果】
【0012】
本発明によれば、学習モデルによる被選別物の識別構成を備えることにより、従来の色選別に加えて高精度な被選別物の形状選別を同時に行うことが可能となる。
【図面の簡単な説明】
【0013】
【
図1】本発明の一実施形態による選別装置の全体斜視図である。
【
図2】本発明の一実施形態による選別装置の断面図である。
【
図3】本発明の一実施形態による選別装置の光学検出部の近傍を表した模式図である。
【
図4】本発明の一実施形態による選別装置の概略的なハードウェア構成図である。
【
図5】本発明の一実施形態による選別装置が備える信号処理部の機能を示すブロック図である。
【
図6】光学検出部により検出された信号から取得された画像データの例を示す図である。
【
図7】本発明の一実施形態による選別装置が備える表面形状判定部の機能を示すブロック図である。
【
図8】セルデータに分割された画像データの例を示す図である。
【
図9】学習に用いる教師データの例を示す図である。
【
図10】機械学習装置の概略的なハードウェア構成図である。
【
図11】機械学習装置の機能を示すブロック図である。
【
図12】機械学習における被選別物のセルデータごとの入力割合を説明する図である。
【
図13】機械学習における被選別物のセルデータごとの入力割合を説明する図である。
【発明を実施するための形態】
【0014】
次に添付図面を参照して本発明の被選別物の識別方法、選別方法及び選別装置の実施形態を説明する。
本発明の選別装置に対応する光学式選別機1については、
図1に、その前面側の全体斜視図を示し、
図2に、
図1におけるA-A断面図を示す。
【0015】
本実施形態の光学式選別機1は、各種豆類原料(ピーナッツ、アーモンド、大豆、小豆、大手亡、黒豆、金時など)や種子類(黒ゴマ、アサガオの種、ヒマワリの種など)、短い乾麺類(乾燥マカロニ、乾燥ペンネ、乾燥リーゾなど)、樹脂ペレットなどの選別に適する。
【0016】
光学式選別機1は、被選別物を移送部3へと供給する供給部2と、該供給部2から供給された被選別物を光学選別部4へと移送する移送部3と、被選別物の中から不良品を光学的に選別する光学選別部4と、光学選別に係る判定処理を行う判定処理部5とを備える。
【0017】
供給部2は、被選別物を投入するための投入口22と、投入された被選別物を移送部3へと供給するフィーダ24を備える。フィーダ24の底面は、加振装置26によって支持されており、加振装置26からフィーダ24に対して振動が加えられることで、フィーダ24内にある被選別物が移動して移送部3へと供給される。
【0018】
移送部3は、横設したほぼ直方体の機枠38内に回転可能に設けたローラ34,36に架け渡した無端状のベルトコンベア32を備え、ローラ34を図示しないモータと連絡して、一定速度で回転するように成している。このように構成されることで、移送部3は、供給部2から供給された被選別物を一定流量で、かつ、一定速度で光学選別部4へと移送する。
【0019】
光学選別部4は、ベルトコンベア32の終端部から放出される被選別物の放物線軌跡Lの中途に光学検出部42を備える。光学検出部42は、放出された被選別物に対して光を照射する照射部と、照射部から照射されて被選別物の表面で反射された光を検出する受光センサを備える。受光センサは、被選別物が放出される図中奥行き方向の範囲に渡って検出できるように、ラインセンサなどを用いればよい。また、放物線軌跡Lを挟んで受光センサに対向する位置には背景として検出される図示しない背景板が設置されている。なお、図では省略しているが、被選別物の表面及び裏面の状態を観察するために、放物線軌跡Lを挟んで、流下方向の上流側と下流側に2以上の光学検出部42をずらして配設してよい。
【0020】
光学検出部42下方の放物線軌跡L近傍には、光学検出部42の検査範囲に対応して図中奥行き方向に並んだ複数のエジェクタ46が設置される。エジェクタ46はエアコンプレッサ44に送風管45で接続されており、各エジェクタ46のそれぞれ設けた電磁弁(図示せず)を制御することで高圧空気を噴出するように動作する。エジェクタ46の下方であって放物線軌跡L上には良品排出樋48が設けられており、良品排出樋48の一側にはエジェクタ46によって噴き飛ばされて排除された不良品を受ける不良品排出樋49が設けられている。
【0021】
判定処理部5は、光学検出部42により検出された被選別物の表面状態(色及び表面形状)に応じてそれぞれの被選別物の良品/不良品を判定する。そして、不良品と判定された被選別物があった場合、検出された被選別物の位置に対応するエジェクタ46を予め設定された所定時間だけ遅延して作動させ、当該被選別物を不良品排出樋49内に噴き飛ばすことで排除する。
【0022】
図3は、光学式選別機1の上方から光学検出部42の周辺を見た場合の模式図である。
図3に示されるように、移送工程においてベルトコンベア32は白抜き矢印方向へと被選別物601を移送して放出する。そして、ベルトコンベア32の終端から放出された被選別物601は矢印方向へと移動しながら放物線を描いて
図3の下方向へと落下していく。このとき、被選別物601は、光学検出部42の検出範囲を通過する。被選別物601の流下方向の下流には光学検出部42による検出範囲の幅方向と略同一幅で複数のエジェクタ46が並べられている。判定処理部5は、不良品と判定された被選別物(例えば、
図3の白抜きの被選別物601)があった場合には、選別工程において、選別手段を構成する複数のエジェクタ46の中から、当該被選別物601が通過する位置に高圧空気を噴出するエジェクタ46(
図3では、エジェクタ46a)を作動させることで、不良品の被選別物601を不良品排出樋49内に噴き飛ばす。
【0023】
図4は、一実施形態による光学式選別機1が備える判定処理部5の概略的な構成図である。本実施形態による光学式選別機1が備える判定処理部5は、光学式選別機1内に設置された信号処理回路やコンピュータ等により構成される。なお、
図4では、判定処理部5と、該判定処理部5に接続される光学検出部42及びエジェクタ46の構成のみを示し、他の構成については省略している。
【0024】
本実施形態による判定処理部5は、少なくとも光学検出部42により検出された信号を分配する信号分配器52と、信号分配器52により分配された信号を入力して被選別物の色情報に基づく良品/不良品の判定を行う信号処理部54と、信号分配器52により分配された信号を入力して被選別物の表面形状に基づく良品/不良品の判定を行う表面形状判定部56と、選別手段としてエジェクタの駆動を制御するエジェクタ駆動回路58と、を備える。
【0025】
信号分配器52は、センサ信号を分配する一般的な分配回路により構成される。信号分配器52は、光学検出部42から入力された信号を、少なくとも2つの信号へと分配し、それぞれ分配した信号を信号処理部54及び表面形状判定部56に対して出力する。
【0026】
信号処理部54は、信号処理を行う回路としてFPGA(Field-Programmable Gate Array)などで構成される。信号処理部54は、信号分配器52から入力された光学検出部42からの信号に基づいて、被選別物の色情報に基づく良品/不良品の判定を行う。そして、信号処理部54は、被選別物の色情報に基づく判定の結果に基づいて、識別情報を後述する不良品情報合成機構550を介してエジェクタ駆動回路58に対して出力し、エジェクタ駆動回路58は不良品が検出された位置に対応するエジェクタ46を駆動するように指令する。同様に、表面形状判定部56は、表面形状に基づく良品/不良品の判定結果に基づいて、後述する不良品情報合成機構550を介してエジェクタ駆動回路58に対して識別情報を出力する。これにより、信号処理部54や表面形状判定部56から入力した識別情報に基づいて、エジェクタ駆動回路58は、不良品が検出された位置に対応するエジェクタ46を駆動するように指令する。すなわち、信号処理部54や表面形状判定部56は、不良品の判定処理がされてから予め設定された所定の時間だけ遅延させてエジェクタ46が作動するように、被選別物の選別手段として機能するエジェクタ駆動回路58に指令する。遅延時間の調整は、実際に光学式選別機1を試験動作させて、どの程度遅延させれば判定された不良品がエジェクタ46の噴出位置にくるのかを確認しながら設定すればよい。
【0027】
表面形状判定部56は、コンピュータにより構成される。表面形状判定部56は、光学式選別機1の動作に係る制御処理や上記した被選別物の良品/不良品に係る判定処理を行うCPU等の第1プロセッサ502、制御処理工程を規定するシステム・プログラムや光学検出部42等から取得したデータを少なくとも一時的に記憶するメモリ504を含む。
【0028】
第1プロセッサ502は、システム・プログラムに従って光学式選別機1の各構成要素を制御する。表面形状判定部56は、第1プロセッサ502とは別に、機械学習に係る処理を実行するための第2プロセッサ512を備えていても良い。第2プロセッサ512にはCPUやFPGAなどを用いても良いが、好ましくは大量の信号を並列処理することが可能なGPUなどであることが望ましい。GPUを採用することで表面形状の推定処理スピードが高速になるので、選別能力の向上の観点からより好ましい。表面形状判定部56のメモリ504は、例えばROM(Read Only Memory)やRAM(Randam Access Memory)、フラッシュメモリー、磁気記憶装置等で構成され、予めシステム・プログラム等を記憶しておく他、入力部508、インタフェース510等を介して外部から取得したデータや、各種プログラム等を記憶する。
【0029】
表示部506は、第1プロセッサ502による制御に基づいて、メモリ504に記憶されたデータやプログラムを表示する。表示部506は、例えば液晶ディスプレイや有機ELディスプレイ、液晶タッチパネル等により構成して良い。入力部508は、キーボードやポインティングデバイス、タッチパネル等から構成され、ユーザによる操作に基づく指示やデータ等を受け取る。インタフェース510は、第1プロセッサ502による制御に基づいて、光学検出部42で検出されたデータを受信する。また、インタフェース510は、第1プロセッサ502による制御に基づいて、信号処理部54に対してデータを送信する。
【0030】
図5は、本実施形態による信号処理部54が備える機能をブロック図で示したものである。
図5に示す、画像データ取得機構542、しきい値データ格納メモリ544、良品/不良品判別機構548、不良品情報合成機構550の各ブロックは、信号処理部54の上に構成された各回路機構が提供する機能をブロックとして示したものである。信号処理部54は、信号分配器52から取得した信号を画像データとして一時的に格納する画像データ取得機構542と、取得した画像データについて良品とするか不良品とするかを決定するしきい値データを格納するしきい値データ格納メモリ544と、良品か不良品かを判別する良品/不良品判別機構548とを備えている。信号処理部54内の画像データ取得機構542には、信号分配器52の一端が電気的に接続される。また、不良品情報合成機構550には、良品/不良品判別機構548及び表面形状判定部56のインタフェース510が電気的に接続されて、不良品情報が合成される。更に、不良品情報合成機構550からエジェクタ駆動回路58へと電気的に接続されている。
【0031】
しきい値データ格納メモリ544には、予め操作者が準備した被選別物の良品、被選別物の不良品及び異物のそれぞれの画像データのサンプルを用いて自動的に算出された三次元色空間上の良品領域と不良品領域との境界となるしきい値データが格納されている。良品領域は、被選別物の良品を撮像して得られた画像データの色を三次元色空間にプロットしたときの分布領域であり、不良品領域は、被選別物の不良品及び異物を撮像して得られた画像データの色を三次元色空間にプロットしたときの分布領域である。良品の色の分布パターン及び不良品の色の分布パターンは、予め準備された複数のサンプルを撮像して得られた画像データを色解析することで作成される。これらの色の分布から、良品の色パターンのクラスタと、不良品の色パターンのクラスタを形成し、形成した各クラスタの境界を算出することで良品と不良品とを判別するためのしきい値が算出される。このようにして算出されたしきい値が、しきい値データとしてしきい値データ格納メモリ544に予め記憶される。なお、しきい値の算出方法については、例えば特許第6037125号公報などで既に十分に公知となっているため、本願の明細書による説明は省略する。
【0032】
被選別物を選別する際には、光学検出部42により検出され、信号分配器52により分配された信号が画像データ取得機構542により画像データとして取得される。
図6は、光学検出部42により検出された信号から取得された画像データ600の例を示している。
図6に例示されるように、画像データ600は、
図2における奥行き方向であって、ベルトコンベア32が選別対象物を放出する幅方向の範囲に渡って撮像されたものとなる。画像データ取得機構542は、取得された画像データ600に対して画像処理を行い、背景以外のものが写っている部分画像602(図中の点線枠)を抽出し、それぞれの抽出した部分画像602を、その画像データ内の位置に係る情報と共に良品/不良品判別機構548へと出力する。
【0033】
良品/不良品判別機構548は、それぞれの抽出された部分画像602の色を解析して三次元色空間上に展開し、しきい値データ格納メモリ544に記憶されるしきい値と比較する。良品/不良品判別機構548は、部分画像602の色が良品領域に入る場合、良品/不良品判別機構548は当該部分画像602に写っている選別対象物は良品であると判別し、当該部分画像602の色が不良品領域に入る場合、良品/不良品判別機構548は当該部分画像602に写っている選別対象物は不良品(又は異物)であると判別する。そして、良品/不良品判別機構548は、不良品が写っている部分画像602に対応する位置(
図2における光学検出部42の奥行き方向の位置)を示す不良品の位置信号を不良品情報合成機構550へと出力する。
【0034】
不良品情報合成機構550は、良品/不良品判別機構548が出力する不良品の位置信号と、後述する表面形状判定部56が出力する不良品の位置信号とのそれぞれが示す位置に対応するエジェクタ46を駆動(電磁弁を一瞬開放して高圧空気を噴出)するように、エジェクタ駆動回路58に指令する。この時、不良品情報合成機構550は、エジェクタ駆動回路58に対して予め設定されている遅延時間だけ遅延してからエジェクタ46を駆動するように指令する。
【0035】
図7は、本実施形態による光学式選別機1の表面形状判定部56が備える機能のブロック図である。
図7に示す、画像データ取得部562、表面形状推定部564、判別結果出力部566の各ブロックは、表面形状判定部56が備える機能をブロックとして示したものである。これら各機能は、表面形状判定部56が備えた第1プロセッサ502が、メモリ504、表示部506、入力部508、インタフェース510(、そして必要に応じて第2プロセッサ512)の各構成を制御することで実現される。
【0036】
画像データ取得部562は、信号分配器52から取得した信号を画像データとして取得する。画像データ取得部562が取得する画像データは、信号処理部54が取得した画像と同様のものとなる。続いて、画像情報取得工程では、画像データ取得部562は取得した画像データを表面形状推定部564による表面形状の推定を行う単位画像であるセルデータへと分割する。
図8は、画像データをセルデータへと分割した例である。
図8に示すように、画像データ600は、格子状の部分画像であるセルデータ603へと分割される。セルデータ603の分割に際しては、エジェクタ46の数とその配置態様に応じて分割してもよく、このようにすることでエジェクタ46の動作処理を簡易にすることが可能となる。なお、
図8に示される例では、横方向に26分割し、縦方向については、横方向に分割された場合の幅に合わせて(例えば、正方形となるように)分割している。画像データをセルデータに分割することで、それぞれのセルデータに対する表面形状の推定処理に掛かる時間の合計は、画像データを分割しないで丸ごと推定処理に掛けた場合の時間よりも短くなる。なお、画像データ取得部562は、必要に応じて表面形状推定部564による推定処理がやりやすくなるように正規化などの画像処理(前処理)を画像データに対して行うようにしても良い。
【0037】
表面形状推定部564は、画像データ取得部562から入力されたセルデータ603を入力データとして、機械学習の技術を用いて作成された多層ニューラルネットワークによる推定処理を行う。表面形状推定部564は、被選別物601が写っているセルデータ603、異物が写っているセルデータ603及び背景が写っているセルデータ603と、背景を含む良品及び異物を含む不良品を示すラベルとの相関性を学習した学習結果(例えば、ニューラルネットワークのパラメータや重みづけ等)を学習モデルとして記憶している。例えば、多層ニューラルネットワークを利用する場合、畳み込み層とプーリング層の全結合層で構成することができる。表面形状推定部564は、このモデルに対して画像データ取得部562から受けたセルデータ603を入力し、被選別物も良品、不良品等を識別してその出力を推定結果とする(識別工程)。表面形状推定部564は、CPU等の第1プロセッサ502で推定処理を行うことで実現しても良いが、可能であればGPU等の並列処理能力が高い第2プロセッサ512を用意して、該第2プロセッサ512上で推定処理を行うことが望ましい。表面形状推定部564による推定処理は、少なくとも被選別物601が光学検出部42で検出され、エジェクタ46が高圧空気を噴出する位置に到達する以前に完了していなければならない。そのため、導入コストは高くなるが、機械学習による推定処理を高速に処理できるGPU等の第2プロセッサ512を用いることが好適である。
【0038】
表面形状推定部564が記憶するモデルの学習においては、被選別物601の一部が写っているセルデータ603、異物の一部が写っているセルデータ603及び背景が写っているセルデータ603の少なくともいずれかを入力データとし、良品、不良品等で分類したラベルを出力データ(ラベルデータ)とした教師データを複数作成する。この時、単純に良品/不良品の2つのラベルで分けるよりも、良品のラベルについては背景や被選別物601の部位を分類したものを用いて学習情報となる教師データを作成することが望ましい。また、必要に応じて、更に不良品における不良の種類や異物の種類のラベルで分類された教師データを作成すると、より好適である。
【0039】
例えば、
図9に例示するように、背景のみが写っている背景情報となるセルデータ603に加え、良品が写っている良部情報となるセルデータ603を、画像内における被選別物の占める割合に基づいて、「腹部」や「輪郭部」など、異なるラベル(腹部情報、輪郭情報)とすることができる。また、不良品が写っている不良部情報となるセルデータ603を、その不良の内容に応じて「凹み」や「シワ」など、異なるラベルとすることができる。このような教師データを作成して学習を行うことで、単純に良品(背景を含む)及び不良品のラベルで分類された教師データを用いた場合と比較して推定処理の精度が向上する。すなわち、単純に良品と不良品に分けた場合、良品(及び背景)が写ったセルデータ603の数は不良品が写ったセルデータ603の数よりも極端に多くなる。そして、このようなデータに基づいて教師データを作成して学習を行うと、不良品の判別精度が低いモデルが出来上がる。一方で、不良品が写ったセルデータ603の数に合わせて良品が写ったセルデータ603の数を抑えると、良品の判別精度が低いモデルが出来上がる。このような状況を勘案して、本発明では良品を細かく分類し、更に必要に応じて不良品をも細かく分類し、教師データを作成することで判別の精度を高く維持している。
【0040】
判別結果出力部566は、表面形状推定部564による推定処理の結果に基づいて、不良品が写っているセルデータ603の画像データ内の位置を示す不良品の位置信号を、信号処理部54が備える不良品情報合成機構550へと出力する。
【0041】
上記した構成を備えた本実施形態による光学式選別機1によれば、単に被選別物の色に基づいて良品/不良品の選別を行うにとどまらず、被選別物の表面形状に基づいて良品/不良品の選別を行うことができるようになる。被選別物の表面形状に基づいて良品/不良品の判別を行う構成は、従来技術による色に基づいた良品/不良品の判別を行う構成に追加する形で用いることができる。信号分配器52を用いて光学検出部42で検出された画像を従来技術による信号処理部54と、本実施形態による表面形状判定部56へと分配し、表面形状判定部56による表面形状に基づく良品/不良品の判別結果を信号処理部54による判別結果に合成することで、従来からの光学式選別機1の技術を生かしたまま、表面形状による判別を行うことが可能となる。
【0042】
以下では、光学式選別機1が備える表面形状判定部56が記憶する多層ニューラルネットワークのモデルを学習する機械学習装置について説明する。
【0043】
図10は、機械学習装置の概略的なハードウェア構成図である。
機械学習装置700は、コンピュータにより構成される。機械学習装置700は、CPU等の第1プロセッサ702と、システム・プログラムや学習に用いる教師データ、多層ニューラルネットワークのパラメータ等を少なくとも一時的に記憶するメモリ704を含む。
【0044】
第1プロセッサ702は、システム・プログラムに従って機械学習装置700の各構成要素を制御する。機械学習装置700は、第1プロセッサ702とは別に、機械学習に係る処理を実行するための第2プロセッサ712を備えていても良い。第2プロセッサ712は、例えば大量の信号を並列処理することが可能なGPUなどであって良い。GPUを採用することで表面形状の推定処理スピードが高速になるので、選別能力の向上の観点からより好ましい。機械学習装置700のメモリ704は、例えばROM(Read Only Memory)やRAM(Randam Access Memory)、フラッシュメモリー、磁気記憶装置等で構成され、予めシステム・プログラム等を記憶しておく他、入力部708等を介して外部から取得したデータや、各種プログラム等を記憶する。
【0045】
表示部706は、第1プロセッサ702による制御に基づいて、メモリ704に記憶されたデータやプログラムを表示する。表示部706は、例えば液晶ディスプレイや有機ELディスプレイ、液晶タッチパネル等により構成して良い。入力部708は、キーボードやポインティングデバイス、タッチパネル等から構成され、ユーザによる操作に基づく指示やデータ等を受け取る。
【0046】
図11は、機械学習装置700が備える機能のブロック図である。
図11に示す、画像データ記憶部722、教師データ作成部724、学習部726、モデル出力部728の各ブロックは、機械学習装置700が備える機能をブロックとして示したものである。これら各機能は、機械学習装置700が備えた第1プロセッサ702が、メモリ704、表示部706、入力部708(及び必要に応じて第2プロセッサ712)の各構成を制御することで実現される。
【0047】
画像データ記憶部722は、学習対象となる被選別物の部分画像データであるセルデータを記憶する。本願発明のモデルの学習では、被選別物の少なくとも一部が写っているセルデータ及び背景が写っているセルデータを用いる。セルデータは、被選別物を光学式選別機1に試験的に投入し、光学検出部42により撮像して得られた画像データに基づいて作成し、図示しないUSB等の外部メモリ装置を介して機械学習装置700が取得しておけばよい。
【0048】
教師データ作成部724は、画像データ記憶部722に記憶された被選別物のセルデータを分類してラベルを付与した教師データを作成する。教師データ作成部724は、例えばセルデータを画像解析して、該セルデータに占める被選別物の割合(例えば、被選別物の占める割合がセルデータの30%以下である場合は輪郭部とする)、該セルデータに写る被選別物の形状(例えば、マカロニの場合に穴の部分が写っていれば端部とする)などに基づいて、自動的に分類を行い、セルデータにラベルを付与するようにしてもよい。また、教師データ作成部724は、表示部706に対してセルデータを順次表示し、オペレータが入力部708を操作して分類を入力することで、セルデータにラベルを付与するようにしてもよい。
【0049】
ところで、通常、教師データあり機械学習において、学習に用いる画像枚数は各ラベルに対して均等枚数にすることが望ましい。しかし、収集される被選別物のセルデータには、背景や、背景を多く含む良品(輪郭部)、背景が少ない良品(腹部)、異物を含む不良品が含まれている。このように、種々の情報を含むセルデータを教師データとして機械学習に用いる場合、被選別物のサイズや特徴部のサイズ、セルデータのセルサイズによって、分類されるラベルごとにセルデータ数の割合が異なってくる。そこで、本実施形態では、各ラベルにおけるセルデータ数、すなわち画像枚数を、均等枚数にするのではなく、セルデータ数の割合に基づいて、各ラベルの教師データの枚数の割合を決定し、推論処理における精度の向上を図っている。
【0050】
例えば、
図12に示されるように、金時豆のような被選別物のサイズがセルデータのセルサイズよりも大きい場合、機械学習に用いる学習情報となる教師データの画像枚数の比率の決定に際して、次のようにすることができる。すなわち、背景はパターンが少ないので少ない画像枚数でよいとすることができる。また、良品については、セルデータのセルサイズに対して被選別物のサイズが大きいので、輪郭部(輪郭情報)、腹部(腹部情報)と細かく分類する方がよい。輪郭部は、
図12に示されるように良品の輪郭周辺部を含むもの、腹部は、
図12に示されるように良品の腹部を含むものとすることができる。また、図示されるように、被選別物の全体面積に対して輪郭部周辺の面積は20%程度、腹部の面積は80%程度となり、輪郭部(輪郭情報)は腹部(腹部情報)に比べ少ない割合となる。したがって、輪郭部(輪郭情報)よりも腹部(腹部情報)の画像枚数が多くなるような比率とし、学習情報の入力割合とすることができる。
【0051】
一方、
図13に示されるように、被選別物のサイズがセルデータのセルサイズよりも小さく、1のセルデータに被選別物が収まるような場合は、シュートやベルトコンベアから放出される被選別物の位置を規制して、常に1のセルデータに物体が収まるように撮像したり、逆にセルデータの位置調整処理を行って被選別物を1のセルデータに収まるように処理することができる。しかし、このようにすることで、良品を輪郭部と腹部とにラベル分けする必要がなくなるというメリットがある一方、被選別物の放出位置を規制する手間や、短時間で被選別物を選別するには処理が複雑となって必ずしも効率的でない。したがって、前述したのと同様に、画像データを規則的にセルデータに分割して処理し、良品を輪郭部(輪郭情報)、腹部(腹部情報)のようにラベル分けする方が好ましい。また、図示されるように、被選別物の全体面積に対して輪郭部周辺及び腹部ともにそれぞれ50%程度となり、輪郭部と腹部の比率が同等の割合となる。したがって、輪郭部(輪郭情報)と腹部(腹部情報)の画像枚数を同程度の比率とし、学習情報の入力割合とすることができる。
【0052】
上記したように、機械学習に用いる学習情報である輪郭情報と腹部情報との入力割合については、被選別物の輪郭情報における輪郭面積と、腹部情報における腹部面積に基づいて定めることができる。また、良品のセルデータである良部情報と、不良品のセルデータである不良部情報との入力割合については、
図9にも示したように、「良部情報:不良部情報」の関係が、「5~50:1~5」の関係式を満足するようにすることが好ましい。さらに、背景のみのセルデータを考慮すると、
図9にも示したように、「背景情報:良部情報:不良部情報」の関係が、「1:10~100:2~10」の関係式を満足するようにすることが好ましい。
【0053】
学習部726は、教師データ作成部724により作成された教師データに基づいて多層ニューラルネットワークの学習を行う。多層ニューラルネットワークの学習では、例えば公知の誤差逆伝播学習法(Backpropagation)等を用いて、各層の重みを調整することで、教師データとして与えられた入力データと出力データとの相関性を学習させていけばよい。学習部726は、CPU等の第1プロセッサ702で学習処理を行うことで実現しても良いが、可能であればGPU等の並列処理能力が高い第2プロセッサ712で推定処理を行うことが望ましい。学習部726による学習処理はセルデータを構成する各ピクセルを入力とした多くの計算処理を必要とする。そのため、導入コストは高くなるが、多くのデータを並列に扱う処理に長けているGPU等の第2プロセッサ712を用いることが好適である。
【0054】
モデル出力部728は、学習部726により作成された多層ニューラルネットワークのモデルを、例えば図示しないUSB等の外部メモリ装置に対して出力する。モデル出力部728により出力されたモデルは、光学式選別機1の表面形状推定部564にロードすることで、選別対象物の良品/不良品の判別に用いることができる。
【0055】
以上、ここまで本発明の実施例を述べてきたが、本発明を実施する具体的手法は上述の実施例に制限されるものではない。本発明の実施が可能である限りにおいて適宜に設計や動作手順等の変更をなし得る。例えば、本発明に用いられる構成要素の機能発揮を補助する用に供する装置、回路等の補助的要素については、適宜に付加および省略可能である。
【0056】
本実施例では、選別対象物から不良品を被選別物として選別する選別機であったが、これに限られず、選別対象物から良品を被選別物として選別するものに適用しても良い。
【0057】
本実施例では、選別対象物をベルトコンベアで移送する選別機であったが、シュートなどが用いられて選別対象物を流下させて移送するような移送部を備える選別機に適用しても良い。さらに、被選別物の移送工程でシュートを用いる場合、少なくともシュートの一部に透明部を形成し、当該透明部を流下する被選別物を撮像して画像情報を取得することが可能である。すなわち、前述の実施形態のような、移送工程後の画像情報の取得に限られず、移送工程中に被選別物の画像情報を取得することも可能である。
【0058】
本実施例では、光学検出部42は、被選別物の表面で反射された光を検出する受光センサを用いたが、これに限定されるものではなく、被選別物を紫外線や可視光線、近赤外線、X線などの電磁波、および、その信号成分を検出することが可能なセンサを用いてもよい。
【0059】
本実施例では、エジェクタ46は、電磁弁(図示せず)を制御するものである旨説明したが、必ずしもこれに限定されるものではなく、他の動作原理に基づく可動弁を制御するようにしてもよい。例えば、ピエゾ効果を利用して弁を開閉するピエゾバルブを備えたエジェクタを使用することも可能である。また、エジェクタは高圧エアを噴射するエア式だけでなく、フラップ式やパドル式、バキューム式などを使用することも可能である。
【0060】
また、前述した機械学習装置700は、光学式選別機1とは別体のコンピュータ装置に備えるようにしてもよいが、光学式選別機1に機械学習装置700を備えるようにすることも可能である。
【0061】
また、本発明は以下のように構成することが可能である。
本発明は、
被選別物を移送する移送工程と、
前記移送工程中及び前記移送工程後のうち少なくとも一方において、前記被選別物の画像情報を取得して、該画像情報を複数のセルデータに分割する画像情報取得工程と、
前記セルデータと被選別物に関する学習情報を入力して訓練された学習モデルとに基づいて前記被選別物を識別する識別工程と、を有し、
前記学習情報は、被選別物に関する良部情報、不良部情報及び背景情報が少なくとも含まれ、
前記良部情報は、背景を多く含む前記被選別物の輪郭情報と、背景を含まないか僅かに含む前記被選別物の腹部情報とを含み、
前記学習情報における前記被選別物の前記輪郭情報と前記腹部情報との入力割合を、前記輪郭情報における輪郭面積と前記腹部情報における腹部面積に基づいて定めるとともに、前記良部情報と前記不良部情報との入力割合が、良部情報:不良部情報=5~50:1~5、の関係式を満足する
ことを特徴とする被選別物の識別方法である。
【0062】
本発明は、
被選別物を移送する移送工程と、
前記移送工程中及び前記移送工程後のうち少なくとも一方において、前記被選別物の画像情報を取得して、該画像情報を複数のセルデータに分割する画像情報取得工程と、
前記セルデータと被選別物に関する学習情報を入力して訓練された学習モデルとに基づいて前記被選別物を識別する識別工程と、を有し、
前記学習情報は、被選別物に関する良部情報、不良部情報及び背景情報が少なくとも含まれ、
前記良部情報は、背景を多く含む前記被選別物の輪郭情報と、背景を含まないか僅かに含む前記被選別物の腹部情報とを含み、
前記学習情報における前記被選別物の前記輪郭情報と前記腹部情報との入力割合を、前記輪郭情報における輪郭面積と前記腹部情報における腹部面積に基づいて定めるとともに、前記背景情報と前記良部情報と前記不良部情報との入力割合が、背景情報:良部情報:不良部情報=1:10~100:2~10、の関係式を満足する
ことを特徴とする被選別物の識別方法である。
【0063】
本発明は、
被選別物を移送する移送工程と、
前記移送工程中及び前記移送工程後のうち少なくとも一方において、前記被選別物の画像情報を取得して、該画像情報を複数のセルデータに分割する画像情報取得工程と、
前記セルデータと被選別物に関する学習情報を入力して訓練された学習モデルとに基づいて前記被選別物を識別する識別工程と、
前記識別工程にて得られた識別情報に基づいて前記被選別物を選別する選別工程と、を有し、
前記学習情報は、被選別物に関する良部情報、不良部情報及び背景情報が少なくとも含まれ、
前記良部情報は、背景を多く含む前記被選別物の輪郭情報と、背景を含まないか僅かに含む前記被選別物の腹部情報とを含み、
前記学習情報における前記被選別物の前記輪郭情報と前記腹部情報との入力割合を、前記輪郭情報における輪郭面積と前記腹部情報における腹部面積に基づいて定めるとともに、前記良部情報と前記不良部情報との入力割合が、良部情報:不良部情報=5~50:1~5、の関係式を満足する
ことを特徴とする被選別物の選別方法である。
【0064】
本発明は、
被選別物を移送する移送工程と、
前記移送工程中及び前記移送工程後のうち少なくとも一方において、前記被選別物の画像情報を取得して、該画像情報を複数のセルデータに分割する画像情報取得工程と、
前記セルデータと被選別物に関する学習情報を入力して訓練された学習モデルとに基づいて前記被選別物を識別する識別工程と、
前記識別工程にて得られた識別情報に基づいて前記被選別物を選別する選別工程と、を有し、
前記学習情報は、被選別物に関する良部情報、不良部情報及び背景情報が少なくとも含まれ、
前記良部情報は、背景を多く含む前記被選別物の輪郭情報と、背景を含まないか僅かに含む前記被選別物の腹部情報とを含み、
前記学習情報における前記被選別物の前記輪郭情報と前記腹部情報との入力割合を、前記輪郭情報における輪郭面積と前記腹部情報における腹部面積に基づいて定めるとともに、前記背景情報と前記良部情報と前記不良部情報との入力割合が、背景情報:良部情報:不良部情報=1:10~100:2~10、の関係式を満足する
ことを特徴とする被選別物の選別方法である。
【0065】
本発明は、
被選別物が移送される移送手段と、
前記移送手段における移送中及び移送後のうち少なくとも一方において、前記被選別物の画像情報が取得され、該画像情報が複数のセルデータに分割される画像情報取得手段と、
前記セルデータと被選別物に関する学習情報が入力され訓練された学習モデルとに基づいて前記被選別物が識別される識別手段と
前記識別手段にて得られた識別情報に基づいて前記被選別物が選別される選別手段と、を備え、
前記学習情報は、被選別物に関する良部情報、不良部情報及び背景情報が少なくとも含まれ、
前記良部情報は、背景を多く含む前記被選別物の輪郭情報と、背景を含まないか僅かに含む前記被選別物の腹部情報とを含み、
前記学習情報における前記被選別物の前記輪郭情報と前記腹部情報との入力割合が、前記輪郭情報における輪郭面積と前記腹部情報における腹部面積に基づいて定められるとともに、前記良部情報と前記不良部情報との入力割合が、良部情報:不良部情報=5~50:1~5、の関係式を満足する
ことを特徴とする被選別物の選別装置である。
【0066】
本発明は、
被選別物が移送される移送手段と、
前記移送手段における移送中及び移送後のうち少なくとも一方において、前記被選別物の画像情報が取得され、該画像情報が複数のセルデータに分割される画像情報取得手段と、
前記セルデータと被選別物に関する学習情報が入力され訓練された学習モデルとに基づいて前記被選別物が識別される識別手段と
前記識別手段にて得られた識別情報に基づいて前記被選別物が選別される選別手段と、を備え、
前記学習情報は、被選別物に関する良部情報、不良部情報及び背景情報が少なくとも含まれ、
前記良部情報は、背景を多く含む前記被選別物の輪郭情報と、背景を含まないか僅かに含む前記被選別物の腹部情報とを含み、
前記学習情報における前記被選別物の前記輪郭情報と前記腹部情報との入力割合が、前記輪郭情報における輪郭面積と前記腹部情報における腹部面積に基づいて定められるとともに、前記背景情報と前記良部情報と前記不良部情報との入力割合が、背景情報:良部情報:不良部情報=1:10~100:2~10、の関係式を満足する
ことを特徴とする被選別物の選別装置である。
【符号の説明】
【0067】
1 光学式選別機
2 供給部
3 移送部
4 光学選別部
5 判定処理部
22 投入口
24 フィーダ
26 加振装置
32 ベルトコンベア
34 ローラ
36 ローラ
38 機枠
42 光学検出部
44 エアコンプレッサ
45 送風管
46 エジェクタ
48 良品排出樋
49 不良品排出樋
52 信号分配器
54 信号処理部
56 表面形状判定部
58 エジェクタ駆動回路
502 第1プロセッサ
504 メモリ
506 表示部
508 入力部
510 インタフェース
512 第2プロセッサ
542 画像データ取得機構
544 値データ格納メモリ
548 不良品判別機構
550 不良品情報合成機構
562 画像データ取得部
564 表面形状推定部
566 判別結果出力部
600 画像データ
601 選別対象物
602 部分画像
603 セルデータ
700 機械学習装置
702 第1プロセッサ
704 メモリ
706 表示部
708 入力部
712 第2プロセッサ
722 画像データ記憶部
724 教師データ作成部
726 学習部
728 モデル出力部