(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6542477
(24)【登録日】2019年6月21日
(45)【発行日】2019年7月10日
(54)【発明の名称】食品検査装置、食品検査方法及び食品検査装置の識別手段の学習方法
(51)【国際特許分類】
G01N 21/85 20060101AFI20190628BHJP
G01N 21/88 20060101ALI20190628BHJP
G01N 21/94 20060101ALI20190628BHJP
【FI】
G01N21/85 A
G01N21/88 J
G01N21/94
【請求項の数】6
【全頁数】12
(21)【出願番号】特願2018-529319(P2018-529319)
(86)(22)【出願日】2017年8月22日
(86)【国際出願番号】JP2017029996
(87)【国際公開番号】WO2018038123
(87)【国際公開日】20180301
【審査請求日】2018年6月6日
(31)【優先権主張番号】特願2016-162112(P2016-162112)
(32)【優先日】2016年8月22日
(33)【優先権主張国】JP
【早期審査対象出願】
(73)【特許権者】
【識別番号】000001421
【氏名又は名称】キユーピー株式会社
(73)【特許権者】
【識別番号】504263989
【氏名又は名称】株式会社ブレインパッド
(74)【代理人】
【識別番号】100144048
【弁理士】
【氏名又は名称】坂本 智弘
(72)【発明者】
【氏名】降旗 幸太郎
(72)【発明者】
【氏名】荻野 武
(72)【発明者】
【氏名】鈴木 研治
(72)【発明者】
【氏名】鈴木 大夢
(72)【発明者】
【氏名】山本 武世
(72)【発明者】
【氏名】太田 満久
(72)【発明者】
【氏名】今津 義充
(72)【発明者】
【氏名】ゴンザレス ティネオ アレハンドロ ハビエル
(72)【発明者】
【氏名】吉田 勇太
(72)【発明者】
【氏名】菅原 洋平
【審査官】
蔵田 真彦
(56)【参考文献】
【文献】
国際公開第2012/153695(WO,A1)
【文献】
特開2009−115613(JP,A)
【文献】
特開2016−142601(JP,A)
【文献】
特開2016−045861(JP,A)
【文献】
特開平03−242773(JP,A)
【文献】
特開2016−110290(JP,A)
【文献】
米国特許第05086479(US,A)
【文献】
特表2018−506168(JP,A)
【文献】
SA et al.,DeepFruits: A Fruit Detection System Using Deep Neural Networks,Sensors,2016年 8月 3日,16, 1222
【文献】
SAKAI et al.,Deep Learning-based Image Recognition Applications,NTT DOCOMO Technical Journal,2016年 7月,18, 1,36-43
(58)【調査した分野】(Int.Cl.,DB名)
G01N 21/00−21/01、21/17−21/61、
21/84−21/958
G06T 1/00−9/40
JSTPlus/JMEDPlus/JST7580(JDreamIII)
(57)【特許請求の範囲】
【請求項1】
異物の混在がないことを確認する食品を検査対象物として搬送する搬送手段と、
前記検査対象物に光を照射する光照射手段と、
前記検査対象物の映像を撮像する撮像手段と、
前記食品又は前記異物の少なくとも一方を識別する識別処理装置と、を備え、
前記識別処理装置は、
前記撮像手段により撮像された映像を、光強度に応じた256段階以下の階調で正規化データとする手段と、
複数枚の良品のみの前記正規化データを用いて、前記正規化データから前記異物又は前記良品を識別する処理を、あらかじめ輝度を用いた色再構成の畳み込みニューラルネットワークによりディープラーニングさせた識別手段と、を有し、
前記識別手段は、前記搬送手段による前記食品の搬送中に撮像して得られた前記正規化データから、前記異物又は前記良品をインラインで識別する、食品検査装置。
【請求項2】
請求項1に記載の食品検査装置であって、
前記識別手段は、前記搬送手段による前記食品の搬送中に撮像して得られた前記正規化データから、前記良品をインラインで識別する、食品検査装置。
【請求項3】
異物の混在がないことを確認する食品を検査対象物として搬送する搬送手段と、
前記検査対象物に光を照射する光照射手段と、
前記検査対象物の映像を撮像する撮像手段と、
前記食品又は前記異物の少なくとも一方が反射する特徴的な波長を強調する波長強調手段と、
前記食品又は前記異物の少なくとも一方を識別する識別処理装置と、を備え、
前記波長強調手段は、
前記光照射手段に取付けた第1の光学フィルター、及び/又は、補光器に取付けた第2の光学フィルター、ないし波長特異的な光源を用いて、300nm以上1100nm以下の光から少なくとも、前記異物に特徴的な異物特定波長又は前記食品の良品が反射する特徴的な良品特定波長を強調するように選択された光を照射し、
又は、前記撮像手段に取付けた第1の光学フィルターを用いて、300nm以上1100nm以下の光から少なくとも、前記異物に特徴的な異物特定波長又は前記食品の良品が反射する特徴的な良品特定波長を通過させて撮像することで前記異物特定波長及び前記良品特定波長を強調し、
前記識別処理装置は、
前記撮像手段により撮像された映像を、光強度に応じた256段階以下の階調で正規化し、軽量化データとする軽量化手段と、
前記軽量化データから前記異物又は前記良品を識別する処理を、複数枚の良品のみの前記軽量化データを用いて、あらかじめディープラーニングさせた識別手段と、を有し、
前記波長強調手段は、前記異物特定波長として第1の異物特定波長及び第2の異物特定波長の2つ、及び前記良品特定波長を少なくとも1つ、を強調し、
前記識別手段は、前記撮像手段により撮像された前記映像を疑似RGB映像として処理し、また、前記搬送手段による前記食品の搬送中に撮像して得られた前記軽量化データから、前記良品をインラインで識別する、食品検査装置。
ただし、疑似RGB映像は、第1の異物特定波長、第2の異物特定波長及び良品特定波長を、RGB信号のいずれかに1対1で対応させたものとする。
【請求項4】
食品検査装置の識別手段の学習方法であって、
異物の混在がないことを確認する食品を撮像した学習映像から、前記異物が反射する特徴的な波長を異物特定波長として、また、前記食品の良品が反射する特徴的な波長を良品特定波長として、抽出するステップと、
前記良品のみを撮像した、前記良品特定波長を含む疑似RGB学習映像を複数枚準備するステップと、
前記疑似RGB学習映像を、光強度に応じた256段階以下の階調で正規化し、軽量化学習データに軽量化するステップと、
前記軽量化学習データから、前記異物又は前記良品を識別する処理を、前記識別手段に自己符号化器を用いた再構成又は輝度を用いた色再構成の畳み込みニューラルネットワークによりディープラーニングさせるステップと、を含む、識別手段の学習方法。
ただし、疑似RGB映像は、異物特定波長及び良品特定波長を、RGB信号のいずれかに1対1で対応させたものとする。
【請求項5】
請求項4に記載の識別手段の学習方法によって学習させた識別手段を備える食品検査装置。
【請求項6】
請求項1から3及び5までのいずれか1項に記載の食品検査装置によって、検査対象物の食品に異物の混在がないことを確認する食品の検査方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、食品検査装置、食品検査方法及び食品検査装置の識別手段の学習方法に関する。
【背景技術】
【0002】
<背景技術の説明>
従来、食品などの検査対象物に混在する異物を検出する食品検査装置に関し、金属検知やX線検査など各種の技術が提案されている。近年は、撮影画像を画像処理して、異物を検出するものも提案されている(特許文献1及び2)。
【0003】
<特許文献1の説明>
特許文献1(請求項1参照)には、食品と、食品に含まれる異物及び夾雑物の少なくとも何れかと、に光を照射することによって得られる反射光の可視光及び近赤外光の吸収スペクトルを測定し、吸収スペクトルに対して2次微分処理を行い、食品と異物及び夾雑物の少なくとも何れかとの間で異なる2次微分スペクトルを示す波長帯を選定し、食品について、波長帯の光によって得られる分光画像を撮像手段によって取得し、波長帯の吸収スペクトルに対して2次微分処理を行って2次微分分光画像を作成することによって、食品に含まれる異物及び夾雑物の少なくとも何れかを検出することが記載されている。
【0004】
<特許文献2の説明>
特許文献2(請求項1参照)には、食物の腐敗する物質の腐敗部サンプルと健全部サンプルについてそれぞれの分光画像を取得し、各サンプルについての吸光スペクトルの違いを利用して統計的手法により腐敗部か否かを判定する検量式を作成し、検量式に未知サンプルの分光画像を当てはめて未知サンプルが腐敗部か否かを判断することが記載されている。
【0005】
<要望される技術−1>
しかしながら、特許文献1の検出方法では、特定の波長帯の光によって得られる分光画像を得るのに時間がかかり、また分光画像から2次微分分光画像を作成するために検出装置の処理手段は処理能力を必要とする。また、特許文献2の判定方法では、検査対象物を複数の分割領域にして、複数の分光画像を平均化し、未知サンプルの分光画像とし、検量式に当てはめるため、判定装置の処理手段の検出精度が落ちる。
【0006】
<要望される技術−2>
そのため、これらの検出又は判定方法を、検出精度を維持しながら検査対象物の搬送中にインラインで行うには、処理手段を非常に高い処理能力のものとするか、検査対象物の搬送速度をかなり遅くするしかなく、実質的に不可能な状況であった。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2004−301690号公報
【特許文献2】特開2005−201636号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
<背景技術の課題>
そこで、本発明は、このような事情に鑑みてなされたものであり、その目的は、異物の検出を高速に行うことができる食品検査装置、食品検査方法及び食品検査装置の識別手段の学習方法を提供することにある。
【課題を解決するための手段】
【0009】
<請求項1の内容>
このような目的を達成するため、本発明は、以下の構成によって把握される。
(1)本発明は、異物の混在がないことを確認する食品を検査対象物として搬送する搬送手段と、前記検査対象物に光を照射する光照射手段と、前記検査対象物の映像を撮像する撮像手段と、前記食品又は前記異物の少なくとも一方が反射する特徴的な波長を強調する波長強調手段と、前記食品又は前記異物の少なくとも一方を識別する識別処理装置と、を備え、前記波長強調手段は、前記光照射手段又は前記撮像手段に取付けた第1の光学フィルター、及び/又は、補光器に取付けた第2の光学フィルター、ないし波長特異的な光源を用いて、300nm以上1100nm以下の光から少なくとも、前記異物に特徴的な異物特定波長又は前記食品の良品が反射する特徴的な良品特定波長を強調し、前記識別処理装置は、前記撮像手段により撮像された映像を、光強度に応じた256段階以下の階調で正規化し、軽量化データとする軽量化手段と、前記軽量化データから前記異物特定波長を識別する処理を、複数枚の前記軽量化データを用いて、あらかじめディープラーニングさせた識別手段と、を有し、前記識別手段は、前記搬送手段による前記食品の搬送中に撮像して得られた前記軽量化データから、前記異物又は前記良品をインラインで識別するものである。
【0010】
<請求項2の内容>
(2)本発明は、上記(1)の構成において、前記波長強調手段は、前記異物特定波長を少なくとも1つ、及び前記良品特定波長を少なくとも1つ、強調し、前記識別手段は、前記搬送手段による前記食品の搬送中に撮像して得られた前記軽量化データから、前記良品をインラインで識別するものである。
【0011】
<請求項3の内容>
(3)本発明は、上記(1)又は(2)の構成において、前記波長強調手段は、前記異物特定波長として第1の異物特定波長及び第2の異物特定波長の2つの波長を強調し、前記識別手段は、前記撮像手段により撮像された前記映像を疑似RGB映像として処理するものである。
【0012】
<請求項4の内容>
(4)本発明は、食品検査装置の識別手段の学習方法であって、異物の混在がないことを確認する食品を撮像した学習映像から、前記異物が反射する特徴的な波長を異物特定波長として、また、前記食品の良品が反射する特徴的な波長を良品特定波長として、抽出するステップと、前記異物特定波長と前記良品特定波長とを少なくとも含む疑似RGB学習映像を複数枚準備するステップと、前記疑似RGB学習映像を、光強度に応じた256段階以下の階調で正規化し、軽量化学習データに軽量化するステップと、前記軽量化学習データから、前記異物特定波長又は前記良品特定波長を識別する処理を、前記識別手段にディープラーニングさせるステップと、を含むものである。
【0013】
<請求項5の内容>
本発明は、上記(4)の構成によって学習させた識別手段を備える食品検査装置である。
【0014】
<請求項6の内容>
上記(1)から(3)及び(5)までのいずれか1つの構成の食品検査装置によって、検査対象物の食品に異物の混在がないことを確認する食品の検査方法である。
【発明の効果】
【0015】
本発明によれば、異物の検出を高速に行うことができる食品検査装置、食品検査方法及び食品検査装置の識別手段の学習方法を提供することができる。
【図面の簡単な説明】
【0016】
【
図1】本発明の実施形態に係る食品検査装置を示す概略図である。
【発明を実施するための形態】
【0017】
<実施形態の説明−1>
以下、添付図面を参照して、本発明を実施するための形態(以下、「実施形態」と称する)について詳細に説明する。実施形態の説明の全体を通して同じ要素には同じ符号を付している。
【0018】
<実施形態の説明−2>
まず、異物Fnの混在がないことを確認したい食品B(検査対象物A)から、異物Fnをインラインで識別する食品検査装置1について、
図1に基づいて説明する。
図1は本発明の実施形態に係る食品検査装置を示す概略図である。
図2は、検査対象物の識別状態を示す概略図である。
【0019】
<食品検査装置の全体構成−1>
図1に示される食品検査装置1は、搬送手段2と、光照射手段3と、撮像手段4と、波長強調手段5と、識別処理装置6と、を備える。この食品検査装置1で検査される検査対象物Aは、加工前の野菜や果実や、加工後の加工品や調理品などの食品Bである。これらの食品B中に混在し得る異物Fnとしては、例えば、果実の実のみを良品Sとすると、枝葉・萼、毛髪、虫、金属、石などが異物Fnであり、また、正常な状態の食品Bを良品Sとすると、傷部、欠け部、腐敗部、焦げ部などを有する不良品も異物Fnとなり、さらに、ある食品Bに対して、別の食品も異物Fnとなる。また、これらが複合して、良品S及び異物Fnとされることもある。
【0020】
<搬送手段の構成−1>
搬送手段2は、検査対象物Aを上流工程から検査部Cでの検査工程を経て下流工程を搬送するもので、ベルトコンベアなどから構成されている。搬送手段2は、2m/分から20m/分程度の搬送速度で検査対象物Aを搬送する。
【0021】
<検査部の構成−1>
検査部Cは、搬送手段2の上方に配置された、光照射手段3と、撮像手段4と、波長強調手段5と、識別処理装置6と、から構成され、異物Fnの混在ないことを確認したい搬送中の食品Bから、異物Fnをインラインで識別する。
【0022】
<光照射手段の構成−1>
光照射手段3は、検査対象物Aに光、例えば300nm以上1100nmの波長を含む光を照射するもので、ハロゲンランプなどが用いられる。ハロゲンランプであれば、近紫外線領域から可視光領域及び近赤外線領域までの光を照射することができる。なお、本実施形態では、光照射手段3には、後述する第2の光学フィルター52が取付けられた補光器32も含まれる。
【0023】
<撮像手段の構成−1>
撮像手段4は、搬送中の検査対象物Aを撮像するもので、CCDカメラや、ハイパースペクトルカメラなどで構成される。この撮像手段4には、後述する第1の光学フィルター51が取付けられている。なお、第1の光学フィルター51は、撮像手段4でなく、上述の光照射手段3に取付けてもよい。また、解像度は、食品Bの平均ピクセル長が10〜100ピクセルで撮像できる解像度が好ましく、20〜40ピクセルでの撮像が最も好ましい。食品Bの平均ピクセル長が10ピクセルよりも小さいと後に十分な特徴検出が行えず、100ピクセルを超えると食品検査としての十分な処理能力を得られない。なおここで、食品Bの平均ピクセル長とは、対象となる食品Bを撮像したときの縦・横いずれかの最大ピクセル数を計測し、10個撮像したときの平均値である。
【0024】
<波長強調手段の構成−1>
波長強調手段5は、検査対象物A中の食品Bの良品S又は異物Fnの少なくとも一方が反射する特徴的な波長Wnを強調する。波長強調手段5は、例えば、光照射手段3又は撮像手段4に取付けた第1の光学フィルター51を用いて、異物F1に特徴的な異物特定波長(第1の異物特定波長)Wf1を少なくとも1つ、又は、食品Bの良品Sが反射する特徴的な良品特定波長Wsを少なくとも1つ、強調する。本実施形態では、異物F1以外の異物F2に特徴的な第2の異物特定波長Wf2も、第2の光学フィルター52を用いて同時に強調する。
【0025】
<波長強調手段の構成−2>
第1の光学フィルター51及び第2の光学フィルター52には、長波長カットや短波長カットフィルタ、又は、バンドパスフィルタなどが用いられる。また、撮像手段4がCCDカメラである場合、第1の光学フィルター51及び第2の光学フィルター52として、CCDカメラのCCDセルのウェル電圧及び/又はサブストレート電圧を外部から制御するCCDセル電圧外部制御装置であってもよい。CCDセル電圧外部制御装置を用いれば、一般的に入手できる3CCDタイプのCCDカメラを用いながらも、ダイクロイックプリズムの表面加工を変化させることなく、ウェル電圧及び/又はサブストレート電圧を制御することで、撮像素子に入り込む光子(波長によりエネルギー量が異なる)が電荷パケットに入る応答特性を変化させることが可能となり、異物Fに特徴的な異物特定波長Wfを少なくとも1つ、又は、食品Bの良品Sが反射する特徴的な良品特定波長Wsを少なくとも1つ、強調することができる。
【0026】
<波長強調手段の構成−3>
さらに、波長強調手段5は、第1の異物特定波長Wf1及び第2の異物特定波長Wf2に加えて、食品Bの良品Sが反射する特徴的な良品特定波長Wsも強調可能になっている。なお、第1の光学フィルター51及び第2の光学フィルター52は、それぞれ逆の特定波長を強調するように構成されてもよい。
【0027】
<波長強調手段の構成−4>
これらの第1の異物特定波長Wf1、第2の異物特定波長Wf2及び良品特定波長Wsは、前もって検査対象物Aを撮像し、得られた映像D0から抽出しておく必要がある。
【0028】
<識別処理装置の構成−1>
識別処理装置6は、検査対象物A中の食品Bの良品S又は異物F1,F2を識別するものである。識別処理装置6は、撮像手段4により撮像された映像D1を軽量化データD3とする軽量化手段61と、軽量化データD3から第1の異物特定波長Wf1、第2の異物特定波長Wf2又は良品特定波長Wsを識別する識別手段62と、を有する。
【0029】
<軽量化手段の構成−1>
軽量化手段61は、まず、撮像手段4により搬送中の検査対象物Aを撮像した映像D1を、疑似RGB映像D2とする。このとき、映像D1の第1の異物特定波長Wf1、第2の異物特定波長Wf2及び良品特定波長Wsを、RGB信号のいずれかに1対1で対応させることで、疑似RGB映像D2とすることができる。この疑似RGB映像D2は、必要に応じてモニタなどの表示手段に表示してもよい。
【0030】
<軽量化手段の構成−2>
そして、この疑似RGB映像D2を、光強度に応じた256段階以下の階調で正規化し、軽量化データD3とする。なお、軽量化データD3で最も軽いものは、2値化データである。
【0031】
<軽量化手段の構成−3>
ここで、映像のデータ容量について説明すると、撮像手段4に30万画素(640×480)のCCDカメラを用いる場合、フルカラー(1677万色)で撮像された映像D1及び疑似RGB画像D2は、1枚当たり約3.6MBのデータ容量となるが、256段階以下の階調に正規化することで、軽量化データDは、1枚当たり約0.3MB以下のデータ容量となり、またさらに16段階以下にすることで、さらにデータ量を0.15MB以下にできる。
【0032】
<識別手段の構成−1>
識別手段62は、軽量化データD3に基づいて、搬送手段2によって搬送中の検査対象物Aから異物F1,F2をインラインで識別する。このとき、識別手段62は、逆に良品Sをインラインで識別してもよい。この識別手段62は、検査対象物Aから異物F1、異物F2又は良品Sを識別する処理を、あらかじめディープラーニングにより学習している。
【0033】
<識別手段の学習方法の説明−1>
識別処理装置6の識別手段62の学習方法について説明する。
図3は、識別手段の学習フロー図である。
【0034】
<特定波長抽出ステップの説明−1>
まず、特定波長抽出ステップS1では、異物F1,F2の混在がないことを確認したい食品Bを撮像手段4で、前もって撮像した学習映像d1から、異物F1及び異物F2が反射する特徴的な波長をそれぞれ第1の異物特定波長Wf1及び第2の異物特定波長Wf2として、また、食品Bの良品Sが反射する特徴的な波長を良品特定波長Wsとして、抽出する。なお、異物F1のみを識別する場合は、第1の異物特定波長Wf1のみを抽出すればよい。
【0035】
<学習映像準備ステップの説明−1>
学習映像準備ステップS2では、特定波長抽出ステップS1で抽出された第1の異物特定波長Wf1、第2の異物特定波長Wf2及び良品特定波長Wsを強調する波長強調手段5を用い、撮像手段4で検査対象物Aを撮像する。そして、撮像した学習映像d1から、第1の異物特定波長Wf1、第2の異物特定波長Wf2及び良品特定波長Wsを含む疑似RGB学習映像d2を作成し、複数枚、例えば1000枚以上準備する。このとき、学習映像d1中の第1の異物特定波長Wf1、第2の異物特定波長Wf2及び良品特定波長Wsを、RGB信号のいずれかに1対1で対応させることで、疑似RGB学習映像d2が得られる。
【0036】
<映像軽量化ステップの説明−1>
映像軽量化ステップS3では、複数枚の疑似RGB学習映像d2を、光強度に応じた256段階以下の階調で正規化し、軽量化学習データd3に軽量化する。
【0037】
<学習ステップの説明−1:ディープラーニング>
学習ステップS4では、軽量化学習データd3から、第1の異物特定波長Wf1、第2の異物特定波長Wf2及び良品特定波長Wsを識別する処理を、識別手段62にディープラーニングさせる。ディープラーニングとしては、いわゆる畳み込みニューラルネットワーク、再帰型ニューラルネットワークなどがあるが、学習後は、その瞬間に入力され疑似RGB映像D2を処理する必要性から、畳み込みニューラルネットワークが望ましい。
【0038】
<学習ステップの説明−2:畳み込みニューラルネットワーク>
またさらに、畳み込みニューラルネットワークの中でも、自己符号化器を用いた再構成や、輝度を用いた色再構成をいると、良品Sのみを用いた学習が可能となり、学習ステップを効率的に進められるため望ましい。この場合、再構成された画像は、「もし仮に撮像された食品Bが全て良品Sであった場合を予測した画像」であり、軽量化学習データd3とのピクセルごとの差分を計算し、予め定めた閾値を超えるピクセルを「良品でない物体」として検出することが可能となる。
【0039】
<学習ステップの説明−3:自己符号化器を用いた再構成>
自己符号化器を用いた再構成の詳細を説明する。
軽量化学習データd3は、自己符号化器を用いた再構成の畳み込みニューラルネットワークの中で、カーネル画像が取り出され、次に複数のノードをもつニューラルネットワーク層で特徴抽出され、次に復号化層で再構成される。さらに、カーネルへの取り出しから復号化までを複数回入れ子状に繰り返すことで、より概念的な特徴抽出が可能となる。
この自己符号化器の学習は、最終復号化層からの出力が元に入力された軽量化学習データd3と極力一致するように、つまり差分を表す損失関数が極力低くなるように学習される。この時の損失関数は、BCE(Binary Cross−entropy)といった損失関数が利用できる。
【0040】
<学習ステップの説明−4:輝度を用いた色再構成>
輝度を用いた色再構成の詳細を説明する。
軽量化学習データd3は、RGB空間からLab空間に換算され、L値(輝度)を用いた色再構成の畳み込みニューラルネットワークにかけられる。また同じく、Lab空間に換算されたa値とb値は、a−b空間上を特定のカテゴリ数に区分したカテゴリに分類され、カテゴリカル表現を得る。
L値(輝度)を用いた色再構成の畳み込みニューラルネットワークにおいて、第1の畳み込み層で、カーネル画像が取り出され、次に複数のノードを持つニューラルネットワーク層で特徴抽出される。次に逆畳み込み層を用いて、元の画像サイズのピクセル数を再現する。これらを複数回入れ子状(第2、3、…、第n層)に繰り返すことで、より概念的な特徴抽出が可能となる。最後の層である第n層では、カーネルサイズは元の画像サイズのピクセル数とし、かつ、ノード数は上記特定のカテゴリ数として特徴抽出する。
畳み込み適用間隔(ストライド)は、第1の畳み込み層では2より大きく、複数のピクセルから特徴抽出して集約する。逆に、第n−1の逆畳み層では、配列サイズ(ピクセルサイズ)は第1の畳み込み層と同じにしながら、畳み込み適用間隔を第1の畳み込み層と同じにしつつ、1つの配列変数から複数のピクセルへ特徴を再構成する。
この輝度を用いた色再構成の学習では、まず軽量化学習データd3またはその画像処理データのL値を入力し、第n−1の畳み込み層から得られた色再構成された色再構成a値および色再構成b値が得られるので、この色再構成a値および色再構成b値と、元画像である小型学習用データのa値およびb値との損失関数(BCE)が極力低くなるように学習される。
また、この輝度を用いた色再構成の学習で、第nの畳み込み層は、元画像である軽量化学習データd3またはその画像処理データのa値およびb値を入力し、特定のカテゴリ数に区分したカテゴリに分類するよう学習する。また第nの畳み込み層は、ノード数を上記特定のカテゴリ数とし、そのノード数は100以上1600未満が好ましい。ノード数(およびカテゴリ数)が100以下であると、a−b空間上の重み変化を十分にとらえきれず、1600を超えるとカテゴリに分類して演算効率を高めようとした効果が薄くなる。
この輝度を用いた色再構成の検査では、小型学習用データのL値を第1の畳み込み層に入力して第n層から得られたカテゴリカル表現と、小型学習用データのa値およびb値を第n−1の畳み込み層に入力して第n層から得られたカテゴリカル表現との差分を求め、その差分に対して予め定めた閾値を超えるピクセルを「良品でない物体」として検出する。
【0041】
<識別手段の構成−2>
このようにして、異物F1、異物F2及び良品Sと、第1の異物特定波長Wf1、第2の異物特定波長Wf2及び良品特定波長Wsとの関係を学習した識別手段62は、軽量化データD3に基づいて、
図2に示すように、検査対象物Aから異物F1、異物F2又は良品Sを識別する。なお、
図2において、異物F1は、毛髪や石などであり、異物F2は、腐敗部である。
【0042】
<識別手段の構成−3>
このとき、識別手段62は、検査対象物Aから得られた実際の軽量化データD3を追加で学習し、学習結果を更新してもよい。
【0043】
<食品検査装置の全体構成−2>
そして、検査部Cで、異物F1、異物F2又は良品Sと識別されたものは、食品検査装置1の下流に設けられた分岐・分離手段(図示なし)などにより、分岐又は分離され、別の経路に排出される。分岐・分離手段には、分岐コンベアやロボットなどが用いられる。あるいは、食品検査装置1が異物F1及び異物F2を識別した場合に、作業員に報知し、作業員が取除くように構成してもよい。
【0044】
<実施形態の効果−1>
以上、説明した実施形態の効果について述べる。
実施形態の食品検査装置1は、異物Fnの混在がないことを確認する食品Bを検査対象物Aとして搬送する搬送手段2と、検査対象物Aに光を照射する光照射手段3と、検査対象物Aの映像を撮像する撮像手段4と、食品B又は異物Fnの少なくとも一方が反射する特徴的な波長Wを強調する波長強調手段5と、食品B又は異物Fnの少なくとも一方を識別する識別処理装置6と、を備え、波長強調手段5は、光照射手段3又は撮像手段4に取付けた第1の光学フィルター51、及び/又は、補光器32に取付けた第2の光学フィルター52、ないし波長特異的な光源を用いて、300nm以上1100nm以下の光から少なくとも、異物Fnに特徴的な異物特定波長Wf、又は、食品Bの良品Sが反射する特徴的な良品特定波長Wsを強調し、識別処理装置6は、撮像手段4により撮像された映像D1を、光強度に応じた256段階以下の階調で正規化し、軽量化データD3とする軽量化手段61と、軽量化データD3から異物特定波長Wfを識別する処理を、複数枚の軽量化学習データd3を用いて、あらかじめディープラーニングさせた識別手段62と、を有し、識別手段62は、搬送手段2による食品Bの搬送中に撮像して得られた軽量化データD3から、異物Fn又は良品Sをインラインで識別するものである。これにより、高速な処理手段を用いなくても、識別精度を落とすことなく、識別速度を高速化することができる。
【0045】
<実施形態の効果−2>
実施形態の食品検査装置1では、波長強調手段5は、良品Sが反射する良品特定波長Wsを強調する。これにより、検査対象物Aから異物Fnを識別できるとともに、良品Sを識別することができる。検査対象物A(食品B)から良品S及び異物Fnを識別できるため、良品S及び異物Fnの頻出度に応じて、分岐・分離手段の処理内容を設定することができる。
【0046】
<実施形態の効果−3>
実施形態の食品検査装置1では、波長強調手段5は、異物特定波長Wfとして第1の異物特定波長Wf1及び第2の異物特定波長Wf2の2つの波長を強調する。これにより、第1の異物特定波長Wf1、第2の異物特定波長Wf2及び良品特定波長Wsを、RGB信号のいずれかに1対1で対応させることができ、撮像手段4で撮像した映像D1を疑似RGB映像D2として処理することができる。
【0047】
<実施形態の効果−4>
実施形態の食品検査装置1の識別手段62の学習方法は、異物Fnの混在がないことを確認する食品Bを撮像した学習映像d1から、異物Fnが反射する特徴的な波長を異物特定波長Wfとして、また、食品Bの良品Sが反射する特徴的な波長を良品特定波長Wsとして、探査するステップと、異物特定波長Wfと良品特定波長Wsとを少なくとも含む疑似RGB学習映像d2を複数枚準備するステップと、疑似RGB学習映像d2を、光強度に応じた256段階以下の階調で正規化し、軽量化学習データd3に軽量化するステップと、軽量化学習データd3から、異物特定波長Wf又は良品特定波長Wsを識別する処理を、識別手段62にディープラーニングさせるステップと、を含むものである。これにより、異物Fn及び良品Sと、異物特定波長Wf及び良品特定波長Wsとの関係を、効率よく識別手段62に学習させることができる。
【0048】
<変形例の説明−1>
食品検査装置1の変形例を説明する。
上記実施形態では、波長強調手段5は、第1の異物特定波長Wf1、第2の異物特定波長Wf2及び良品特定波長Wsの合計3つの波長を強調したが、少なくとも1つの第1の異物特定波長Wf1(Wf2)と、少なくとも1つの良品特定波長Wsとを強調してもよく、第1の異物特定波長Wf1のみを強調してもよい。少なくとも、第1の異物特定波長Wf1を強調することで、食品Bの中から異物Fnを識別することができる。あるいは、良品特定波長Wsのみを強調してもよい。なお、異物特定波長Wf及び良品特定波長Wsを合計4つ以上強調するように構成してもよい。
【0049】
<変形例の説明−2>
上記実施形態では、波長強調手段5は、補光器に取付けた第2の光学フィルター52でなく、所定波長範囲の光のみを放出する波長特異的な光源、例えばLED素子や半導体レーザーであってもよい。LED素子であれば、LEDチップに含まれる材料の種類を変更することで、200nmから1000nm程度の領域内で、所望の波長範囲の光を放出するように構成することができる。
【0050】
以上、実施形態を用いて本発明を説明したが、本発明の技術的範囲は上記実施形態に記載の範囲には限定されないことは言うまでもない。上記実施形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。また、その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【符号の説明】
【0051】
1 食品検査装置
2 搬送手段
3 光照射手段
32 補光器
4 撮像手段
5 波長強調手段
51 第1の光学フィルター
52 第2の光学フィルター
6 識別処理装置
61 軽量化手段
62 識別手段
A 検査対象物
B 食品、S 良品、Fn 異物
Wn 特定波長