IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ グローリー株式会社の特許一覧

特開2025-6449情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム
<>
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図1
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図2
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図3
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図4
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図5
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図6
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図7
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図8
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図9
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図10
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図11
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図12
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図13
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図14
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図15
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図16
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図17
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図18
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図19
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図20
  • 特開-情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム 図21
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2025006449
(43)【公開日】2025-01-17
(54)【発明の名称】情報処理装置、情報処理方法、学習モデルの生産方法、およびプログラム
(51)【国際特許分類】
   A23L 17/60 20160101AFI20250109BHJP
   G06T 7/00 20170101ALI20250109BHJP
   G06T 7/90 20170101ALI20250109BHJP
   G01N 21/89 20060101ALI20250109BHJP
【FI】
A23L17/60 103F
G06T7/00 350B
G06T7/90 D
G01N21/89 Z
【審査請求】未請求
【請求項の数】15
【出願形態】OL
(21)【出願番号】P 2023107254
(22)【出願日】2023-06-29
(71)【出願人】
【識別番号】000001432
【氏名又は名称】グローリー株式会社
(74)【代理人】
【識別番号】100117673
【弁理士】
【氏名又は名称】中島 了
(72)【発明者】
【氏名】番匠谷 利彦
(72)【発明者】
【氏名】池本 良
【テーマコード(参考)】
2G051
4B019
5L096
【Fターム(参考)】
2G051AA33
2G051AB20
2G051BA20
2G051CA03
2G051CB01
2G051EA17
2G051EB05
2G051EC01
4B019LE01
4B019LP17
4B019LP19
4B019LT72
4B019LT73
4B019LT80
5L096AA02
5L096AA06
5L096BA03
5L096CA02
5L096DA02
5L096FA23
5L096FA32
5L096FA67
5L096GA38
5L096HA11
5L096JA22
5L096KA04
(57)【要約】
【課題】省人化を図りつつ海苔の等級を適切に判定することが可能な技術を提供する。
【解決手段】海苔の等級を判定する情報処理装置は、海苔を撮影した画像212(海苔画像)の輝度情報E1と、画像212の色情報E2とに基づくスコアQを取得する。色情報E2は、所定の色空間(たとえばYCbCr色空間)にて赤色と青色とを繋ぐ方向における色特性を示す色情報である。また、情報処理装置は、当該スコアQに基づいて海苔の等級を判定する。
【選択図】図4
【特許請求の範囲】
【請求項1】
海苔を撮影した画像の輝度情報と前記画像の色情報であって所定の色空間にて赤色と青色とを繋ぐ方向における色特性を示す色情報とに基づき、前記海苔の等級を判定するためのスコアを算出する制御部、
を備えることを特徴とする情報処理装置。
【請求項2】
前記所定の色空間は、YCbCr色空間とYUV色空間とYPbPr色空間とRGB色空間とLab色空間とのうちのいずれかであることを特徴とする、請求項1に記載の情報処理装置。
【請求項3】
前記輝度情報および前記色情報は、それぞれ、前記画像内の複数の画素値を前記所定の色空間におけるチャンネルごとに平均化した各平均値に基づいて求められることを特徴とする、請求項1に記載の情報処理装置。
【請求項4】
前記輝度情報は、海苔を撮影した複数の画像について求められた前記各平均値に関する主成分分析の分析結果に基づく、前記画像に関する第1主成分の情報であり、
前記色情報は、前記主成分分析の前記分析結果に基づく、前記画像に関する第2主成分の情報であることを特徴とする、請求項3に記載の情報処理装置。
【請求項5】
前記画像に関する前記スコアは、前記輝度情報と前記色情報との2つの説明変数の交互作用を考慮した交互作用線形分析の分析結果に基づいて取得されることを特徴とする、請求項1に記載の情報処理装置。
【請求項6】
前記制御部は、前記画像の合焦度合いに関する指標値にも基づいて前記スコアを算出することを特徴とする、請求項1に記載の情報処理装置。
【請求項7】
前記画像に関する前記スコアは、複数の学習用画像に関する前記輝度情報と前記色情報と等級の正解データとに基づいて学習された学習モデルに対して、前記画像に関する前記輝度情報と前記色情報とを入力して出力される評価値であることを特徴とする、請求項1に記載の情報処理装置。
【請求項8】
前記学習モデルは、第1学習モデルであり、
前記制御部は、第2学習モデルに基づいて、前記海苔の等級を判定するための改良スコアを算出し、
前記第2学習モデルは、入力画像に関して前記第1学習モデルから出力される前記スコアと、当該入力画像の合焦度合いに関する指標値とを入力とし、前記改良スコアを出力とする学習モデルであって、複数の教師データを用いて学習された学習モデルであり、
前記制御部は、推論対象の前記画像に関して前記第1学習モデルから出力された前記スコアと当該画像の合焦度合いに関する指標値とを前記第2学習モデルに入力して、前記第2学習モデルから出力される前記改良スコアを取得することを特徴とする、請求項7に記載の情報処理装置。
【請求項9】
a)海苔を撮影した画像の輝度情報と前記画像の色情報であって所定の色空間にて赤色と青色とを繋ぐ方向における色特性を示す色情報とに基づき、前記海苔の等級を判定するためのスコアを算出するステップ、
を備えることを特徴とする情報処理方法。
【請求項10】
請求項9に記載の情報処理方法をコンピュータに実行させるためのプログラム。
【請求項11】
海苔の等級を判定するための学習モデルの生産方法であって、
海苔を撮影した画像の輝度情報と、前記画像の色情報であって所定の色空間にて赤色と青色とを繋ぐ方向における色特性を示す色情報とを入力とし、海苔の等級に関するスコアを出力する前記学習モデルを、複数の教師データに基づいて学習するステップ、
を備えることを特徴とする、学習モデルの生産方法。
【請求項12】
海苔を撮影した複数の画像に関する所定の色空間における主成分分析の分析結果に基づき推論対象画像の第1主成分得点と第2主成分得点とを取得するとともに、各画像の第1主成分得点と第2主成分得点と当該各画像における海苔の等級との関係を複数の教師データを用いて学習した学習モデルに対して前記推論対象画像の前記第1主成分得点と前記第2主成分得点とを入力し、前記学習モデルから出力されるスコアであって前記推論対象画像の海苔の等級を判定するためのスコアを取得する制御部、
を備えることを特徴とする、情報処理装置。
【請求項13】
a)海苔を撮影した複数の画像に関する所定の色空間における主成分分析を行い、前記主成分分析による第1主成分と第2主成分とを取得するステップと、
b)入力画像の第1主成分得点と第2主成分得点とを入力とし当該入力画像の海苔の等級を判定するためのスコアを出力とする学習モデルを複数の教師データを用いて機械学習するステップと、
を備えることを特徴とする、学習モデルの生産方法。
【請求項14】
a)海苔を撮影した複数の画像に関する所定の色空間における主成分分析の分析結果に基づき、推論対象画像の第1主成分得点と第2主成分得点とを取得するステップと、
b)各画像の第1主成分得点と第2主成分得点と当該各画像における海苔の等級との関係を複数の教師データを用いて学習した学習モデルに対して、前記推論対象画像の前記第1主成分得点と前記第2主成分得点とを入力し、前記学習モデルから出力されるスコアであって前記推論対象画像の海苔の等級を判定するためのスコアを取得するステップと、
を備えることを特徴とする、情報処理方法。
【請求項15】
請求項13または請求項14に記載の方法をコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、海苔の等級を判定するための情報処理技術に関する。
【背景技術】
【0002】
海苔の等級を判定する技術が存在する。現状では、主に、人間が海苔の外観を見て当該海苔の等級を判定している。より具体的には、人間(検査員)が海苔の色などを見分けて海苔の等級を判定している。
【0003】
また、海苔の等級判定を機械化する技術が提案されている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2003-047445号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
検査員の負担等を考慮すると、等級判定の機械化(省人化)を進めることが好ましい。
【0006】
ところで、上述のように、検査員(人間)が海苔の等級を判定する場合には、当該検査員は海苔の色を考慮している。
【0007】
一方、上記先行技術(特許文献1)においては、色合いの均一性を利用してはいるものの、海苔の色自体を判定には利用していない。
【0008】
人間が海苔の等級を判定する場合に海苔の色をも考慮している点を考えると、機械が海苔の等級を判定する場合等において人間に近い適切な判定を行うためには、海苔の色を適切に考慮することが好ましい。
【0009】
そこで、この発明は、省人化を図りつつ海苔の等級を適切に判定することが可能な技術を提供することを課題とする。
【課題を解決するための手段】
【0010】
上記課題を解決すべく、本発明に係る情報処理装置は、海苔を撮影した画像の輝度情報と前記画像の色情報であって所定の色空間にて赤色と青色とを繋ぐ方向における色特性を示す色情報とに基づき、前記海苔の等級を判定するためのスコアを算出する制御部、を備えることを特徴とする。
【0011】
前記所定の色空間は、YCbCr色空間とYUV色空間とYPbPr色空間とRGB色空間とLab色空間とのうちのいずれかであってもよい。
【0012】
前記輝度情報および前記色情報は、それぞれ、前記画像内の複数の画素値を前記所定の色空間におけるチャンネルごとに平均化した各平均値に基づいて求められてもよい。
【0013】
前記輝度情報は、海苔を撮影した複数の画像について求められた前記各平均値に関する主成分分析の分析結果に基づく、前記画像に関する第1主成分の情報であり、前記色情報は、前記主成分分析の前記分析結果に基づく、前記画像に関する第2主成分の情報であってもよい。
【0014】
前記画像に関する前記スコアは、前記輝度情報と前記色情報との2つの説明変数の交互作用を考慮した交互作用線形分析の分析結果に基づいて取得されてもよい。
【0015】
前記制御部は、前記画像の合焦度合いに関する指標値にも基づいて前記スコアを算出してもよい。
【0016】
前記画像に関する前記スコアは、複数の学習用画像に関する前記輝度情報と前記色情報と等級の正解データとに基づいて学習された学習モデルに対して、前記画像に関する前記輝度情報と前記色情報とを入力して出力される評価値であってもよい。
【0017】
前記学習モデルは、第1学習モデルであり、前記制御部は、第2学習モデルに基づいて、前記海苔の等級を判定するための改良スコアを算出し、前記第2学習モデルは、入力画像に関して前記第1学習モデルから出力される前記スコアと、当該入力画像の合焦度合いに関する指標値とを入力とし、前記改良スコアを出力とする学習モデルであって、複数の教師データを用いて学習された学習モデルであり、前記制御部は、推論対象の前記画像に関して前記第1学習モデルから出力された前記スコアと当該画像の合焦度合いに関する指標値とを前記第2学習モデルに入力して、前記第2学習モデルから出力される前記改良スコアを取得してもよい。
【0018】
上記課題を解決すべく、本発明に係る情報処理方法は、a)海苔を撮影した画像の輝度情報と前記画像の色情報であって所定の色空間にて赤色と青色とを繋ぐ方向における色特性を示す色情報とに基づき、前記海苔の等級を判定するためのスコアを算出するステップ、を備えることを特徴とする。
【0019】
上記課題を解決すべく、本発明に係るプログラムは、上記情報処理方法をコンピュータに実行させるためのプログラムであることを特徴とする。
【0020】
上記課題を解決すべく、本発明に係る、学習モデルの生産方法は、海苔の等級を判定するための学習モデルの生産方法であって、海苔を撮影した画像の輝度情報と、前記画像の色情報であって所定の色空間にて赤色と青色とを繋ぐ方向における色特性を示す色情報とを入力とし、海苔の等級に関するスコアを出力する前記学習モデルを、複数の教師データに基づいて学習するステップ、を備えることを特徴とする。
【0021】
上記課題を解決すべく、本発明に係る情報処理装置は、海苔を撮影した複数の画像に関する所定の色空間における主成分分析の分析結果に基づき推論対象画像の第1主成分得点と第2主成分得点とを取得するとともに、各画像の第1主成分得点と第2主成分得点と当該各画像における海苔の等級との関係を複数の教師データを用いて学習した学習モデルに対して前記推論対象画像の前記第1主成分得点と前記第2主成分得点とを入力し、前記学習モデルから出力されるスコアであって前記推論対象画像の海苔の等級を判定するためのスコアを取得する制御部、を備えることを特徴とする。
【0022】
上記課題を解決すべく、本発明に係る、学習モデルの生産方法は、a)海苔を撮影した複数の画像に関する所定の色空間における主成分分析を行い、前記主成分分析による第1主成分と第2主成分とを取得するステップと、b)入力画像の第1主成分得点と第2主成分得点とを入力とし当該入力画像の海苔の等級を判定するためのスコアを出力とする学習モデルを複数の教師データを用いて機械学習するステップと、を備えることを特徴とする。
【0023】
上記課題を解決すべく、本発明に係るプログラムは、学習モデルの当該生産方法をコンピュータに実行させるためのプログラムであることを特徴とする。
【0024】
上記課題を解決すべく、本発明に係る情報処理方法は、a)海苔を撮影した複数の画像に関する所定の色空間における主成分分析の分析結果に基づき、推論対象画像の第1主成分得点と第2主成分得点とを取得するステップと、b)各画像の第1主成分得点と第2主成分得点と当該各画像における海苔の等級との関係を複数の教師データを用いて学習した学習モデルに対して、前記推論対象画像の前記第1主成分得点と前記第2主成分得点とを入力し、前記学習モデルから出力されるスコアであって前記推論対象画像の海苔の等級を判定するためのスコアを取得するステップと、を備えることを特徴とする。
【0025】
上記課題を解決すべく、本発明に係るプログラムは、当該情報処理方法をコンピュータに実行させるためのプログラムであることを特徴とする。
【発明の効果】
【0026】
本発明によれば、海苔の色をも考慮して海苔の等級が判定されるので、省人化を図りつつ海苔の等級を適切に判定することが可能である。
【図面の簡単な説明】
【0027】
図1】第1実施形態に係る等級判定システムを示すブロック図である。
図2】搬送装置および撮影装置を上方から見た概略図である。
図3】搬送装置および撮影装置を側方から見た概略図である。
図4】処理の概要を示す概念図である。
図5】等級判定装置(情報処理装置)における処理を示すフローチャートである。
図6】教師データの生成処理を示すフローチャートである。
図7】推論処理(等級判定処理)を示すフローチャートである。
図8】主成分分析の概要を示す概念図である。
図9】第1主成分の意義を示す図である。
図10】第2主成分の意義を示す図である。
図11】第1主成分得点と第2主成分得点との組み合わせを複数の画像についてプロットしたグラフである。
図12】各等級の正解スコアおよび点形状を示す図である。
図13】学習モデルによる学習結果を図11に重ねて示す図である。
図14】各サンプル画像の推定スコアを示す図である。
図15】2つの画像を比較する図である。
図16】第2実施形態に係る学習モデルを示す図である。
図17】合焦度合いに関する指標値と第1実施形態のスコアとの組み合わせを複数の画像についてプロットしたグラフである。
図18】後段の学習モデルによる学習結果を図17に重ねて示す図である。
図19】各サンプル画像の改良スコアを示す図である。
図20】RGB色空間を立方体で模式的に表現する概念図である。
図21図21は、Lab色空間を模式的に表現する概念図である。
【発明を実施するための形態】
【0028】
以下、本発明の実施形態を図面に基づいて説明する。
【0029】
<1.第1実施形態>
<1-1.システム概要>
図1は、海苔の等級を判定する等級判定システム1を示すブロック図である。
【0030】
図1に示されるように、等級判定システム1は、海苔の画像を撮影する撮影装置20と、当該画像(海苔を撮影した画像)に基づき海苔の等級を判定する等級判定装置30とを備えている。等級判定システム1は、海苔を搬送する搬送装置10をも備えている。撮影装置20は、搬送装置10の搬送経路上に設けられており、搬送装置10によって搬送される海苔の表面(ひょうめん)を撮影することが可能である。
【0031】
なお、等級判定装置30は、画像を処理する装置であることから、画像処理装置などとも称される。同様に、等級判定システム1は、画像処理システムなどとも称される。また、等級判定装置30は、情報を処理する装置であることから、情報処理装置とも称され、同様に、等級判定システム1は、情報処理システムなどとも称される。
【0032】
<1-2.等級判定装置30>
図1に示されるように、等級判定装置30は、コントローラ31(制御部とも称される)と記憶部32と通信部34と操作部35とを備える。
【0033】
コントローラ31は、等級判定装置30に内蔵され、等級判定装置30の動作を制御する制御装置である。また、コントローラ31は、搬送装置10および撮影装置20の動作をも制御する。
【0034】
コントローラ31は、1又は複数のハードウェアプロセッサ(例えば、CPU(Central Processing Unit)およびGPU(Graphics Processing Unit))等を備えるコンピュータシステムとして構成される。コントローラ31は、CPU等において、記憶部(ROMおよび/またはハードディスクなどの不揮発性記憶部)32内に格納されている所定のソフトウエアプログラム(以下、単にプログラムとも称する)を実行することによって、各種の処理を実現する。なお、当該プログラム(詳細にはプログラムモジュール群)(「プログラム製品」とも称される)は、USBメモリなどの可搬性の記録媒体に記録され、当該記録媒体から読み出されて等級判定装置30にインストールされるものであってもよい。あるいは、当該プログラムは、通信ネットワーク等を経由してダウンロードされて等級判定装置30にインストールされるものであってもよい。
【0035】
具体的には、コントローラ31は、教師データの生成段階の処理(フェーズPH1(図4等参照))、学習モデルの生成段階の処理(学習段階の処理)(フェーズPH2)、および学習モデル400を用いた推論段階の処理(フェーズPH3)等を実行する。
【0036】
記憶部32は、ハードディスクドライブ(HDD)および/またはソリッドステートドライブ(SSD)等の記憶装置で構成される。記憶部32は、学習モデル400(学習モデルに関する学習パラメータおよびプログラムを含む)(ひいては学習済みモデル420)等を記憶する。
【0037】
通信部34は、ネットワークを介したネットワーク通信を行うことが可能である。このネットワーク通信では、たとえば、TCP/IP(Transmission Control Protocol / Internet Protocol)等の各種のプロトコルが利用される。当該ネットワーク通信を利用することによって、等級判定装置30は、所望の相手先(たとえば、撮影装置20等)との間で有線あるいは無線で各種のデータ(撮影画像データ等)を授受することが可能である。
【0038】
操作部35は、等級判定装置30に対する操作入力を受け付ける操作入力部35aと、各種情報の表示出力を行う表示部35bとを備えている。操作入力部35aとしてはマウスおよびキーボード等が用いられ、表示部35bとしてはディスプレイ(液晶ディスプレイ等)が用いられる。また、操作入力部35aの一部としても機能し且つ表示部35bの一部としても機能するタッチパネルが設けられてもよい。
【0039】
等級判定装置30は、機械学習のための教師データを生成する機能を備えているので、教師データ生成装置とも称される。また、等級判定装置30は、教師データを用いて学習モデル400を機械学習する機能(学習モデル(学習済みモデル)を生成する機能)を備えているので、学習モデル生成装置とも称される。また、等級判定装置30は、学習された学習モデル400を用いて海苔の等級に関する推論を実行する装置でもあるので、推論装置とも称される。
【0040】
なお、ここでは、様々な処理(機能)が1つの等級判定装置30によって実現されているが、これに限定されず、様々な処理が複数の装置で分担されて実現されてもよい。たとえば、上述の第1フェーズPH1における教師データ生成処理(図4上段参照)と、第2フェーズPH2における学習処理(学習モデル生成処理)(図4中段参照)と、第3フェーズPH3における推論処理(図4下段参照)とが、それぞれ別個の装置で実行されてもよい。
【0041】
また、本願において、学習モデル(学習済みモデル)を生成することは、学習モデル(学習済みモデル)を製造(生産)することを意味し、「学習モデル(学習済みモデル)の生成方法」は「学習モデル(学習済みモデル)の生産方法」を意味する。
【0042】
<1-3.搬送装置10および撮影装置20>
図2は、搬送装置10および撮影装置20を上方から見た概略図であり、図3は、搬送装置10および撮影装置20を側方から見た概略図である。
【0043】
搬送装置10は、ベルトコンベヤ11を備えており、長手方向(図2および図3の左右方向)において搬送対象物(ここでは海苔91)を搬送することが可能である。図2等では、ベルトコンベヤ11の表面に載置された海苔91が右側(上流側)から左側(下流側)へ向けて搬送される様子が示されている。
【0044】
ベルトコンベヤ11による搬送経路の上方に撮影装置20が設けられている。撮影装置20は、直線状の光源21、直線状のラインセンサカメラ(撮像デバイス)22、および海苔検出センサ23を備えている。また、光源21、ラインセンサカメラ22、海苔検出センサ23、を覆うようにカバー24が設けられている。光源21、ラインセンサカメラ22、海苔検出センサ23、およびカバー24は、それぞれ、不図示の固定用部材によってベルトコンベヤ11のベース部等に対して固定されている。なお、図2等では、図示の都合上、カバー24が外された状態が示されているが、実際にはカバー24が装着された状態でシステムが稼働する。
【0045】
光源21は、白色光源である。光源21としては、たとえば、直線状の蛍光灯を備えて構成される照明装置、あるいは直線状に配列された複数のLEDと拡散カバーとを備えて構成される照明装置等が用いられる。
【0046】
ラインセンサカメラ22は、直線状に配列された撮像素子群(CCDリニアセンサ等)を備えて構成される。ラインセンサカメラ22は、光源21から所定の照射角度(出射角度)で出射される光(白色光)のうち海苔91で反射された光を受光する。ラインセンサカメラ22の光電変換作用、およびA/D変換器等による信号処理等によって直線状の複数の位置のそれぞれにおけるカラー画素値(RGB画素値)が生成され、直線状領域(微小幅の細長い矩形領域)の画像データが生成される。このような直線状領域(微小幅の細長い矩形領域)の撮影が繰り返し実行されることによって、2次元状領域(平面領域)の画像200(カラー画像)が取得される。
【0047】
海苔検出センサ23は、ベルトコンベヤ11による搬送経路の上方に配置されており、その直下位置に海苔91が存在するか否かを検出する。
【0048】
<1-4.海苔画像の生成>
ベルトコンベヤ11上に複数の海苔91(略矩形状に切断された海苔)が進行方向において適宜の間隔を空けて載置された状態でベルトコンベヤ11が駆動されると、当該複数の海苔91が順次に撮影装置20に向けて進行する。
【0049】
そして、ベルトコンベヤ11によって或る海苔91が海苔検出センサ23の直下に到達したことが海苔検出センサ23によって検出されると(あるいは更に所定時間T1の経過後に)、当該海苔91の画像の撮影が開始される。その後、微小時間ΔT間隔でラインセンサカメラ22による直線状領域の撮影が繰り返し実行され、所定時間T2(>T1)の経過後に当該画像の撮影が終了する。連続して撮影された複数の直線状領域(微小幅の細長い矩形領域)が順次貼り合わせられることによって、海苔91を被写体とする1枚の画像(海苔91の画像)が生成される。具体的には、等級判定装置(画像処理装置)30が、或る海苔91についての複数の直線状領域の画像データ(線状画像)を撮影装置20から取得し、当該複数の線状画像に基づき1枚の画像200(2次元状の広がりを有する画像(平面画像))を生成する。画像200としては、たとえば、約8000画素×8000画素のサイズの画像が取得される。なお、微小時間ΔTは、搬送速度等に基づいて適宜決定されればよい。また、時間T1,T2は、画像内での余白領域(特に搬送方向における海苔以外の領域)の所望サイズ及び画像の所望サイズ(搬送方向のサイズ)等に基づいて適宜決定されればよい。
【0050】
さらに、等級判定装置30は、画像(平面画像)200をトリミングし、画像200のうち所定位置の所定大きさの領域(たとえば画像中央を含み且つ一定程度の大きさ(当該画像の全画素のうちの数割程度の画素)を有する領域)を抽出する。このトリミングによって、海苔のみを含む(海苔を取り囲む余白領域を含まない)所定サイズ(たとえば、約3000画素×3000画素)の画像(海苔画像)210が取得される。この時点では、当該画像210は、RGB画像(その各画素の色がRGB色空間で表現されるカラー画像)である。詳細には、画像210は、その各画素を、R画素値、G画素値、B画素値の3成分(3要素)で表現したカラー画像である。
【0051】
なお、ここでは、トリミングを伴って海苔91の画像が生成されるが、これに限定されず、トリミングを伴わずに海苔91の画像が生成されてもよい。
【0052】
以上のような処理(自動処理)が繰り返し実行されることによって、複数の(異なる)海苔91について各画像210が生成される。換言すれば、複数の海苔91に関する複数の画像(海苔画像)210が生成される。
【0053】
たとえば上述のような処理によって学習用の各画像210が生成され、推論対象の各画像210(212)が生成される。上述のような処理によれば、複数の海苔画像を自動的に且つ連続的に生成することが可能である。
【0054】
<1-5.教師データの生成処理>
図4は、処理の概要を示す概念図であり、図5は、等級判定装置30における処理を示すフローチャートである。
【0055】
図5に示されるように、等級判定装置(情報処理装置)30は、教師データの生成処理(ステップS1)、学習モデルの生成処理(学習処理)(ステップS2)、および学習モデルを用いた推論処理(ステップS3)を実行する。
【0056】
以下では、まず、教師データの生成処理(ステップS1:フェーズPH1)について説明する。
【0057】
図6は、ステップS1における詳細な処理を示すフローチャートである。以下、図6を参照しつつステップS1の処理について説明する。
【0058】
<前処理>
ステップS11(図6)において、まず、等級判定装置(画像処理装置)30は、撮影された画像(海苔91の画像)210を取得する。上述のように、画像210は、RGB画像(その各画素の色がRGB色空間で表現されるカラー画像)として取得される。詳細には、画像210は、その各画素を、R画素値、G画素値、B画素値の3要素(3成分)で表現したカラー画像(画像データ)である。
【0059】
つぎに、等級判定装置30は、当該画像210の色空間をRGB色空間からYCbCr色空間に変換する。換言すれば、等級判定装置30は、当該画像210の各画素値をRGB色空間からYCbCr色空間に変換する。
【0060】
ここで、YCbCr色空間は、RGB色空間での3要素R,G,Bとは別の3要素(3成分)Y,Cb,Crで色を表現する色空間である。当該3要素Y,Cb,Crは、元のRGB画像の画素値R,G,Bを所定の変換式で変換することによって算出される。要素Yは輝度であり、要素Cb,Crは色差である。換言すれば、YCbCr色空間は、輝度に関する1軸(Y軸)と色差に関する2軸との直交3軸で構成される色空間である。色差に関する当該2軸は、Cb軸とCr軸との直交2軸である。Y要素(Y成分)を除いた残りの2要素(2成分)Cb,CrでCbCr平面が構成される。2要素Cb,Crの組み合わせによって色相(および彩度)が表現される。
【0061】
そして、等級判定装置30は、3要素(3成分)Y,Cb,Crのそれぞれについて、画像210内の複数の画素(たとえば画像210内の全ての画素)の平均値を算出する。より具体的には、画像210内の複数の画素についての要素Yの平均値Yaveと、当該複数の画素についての要素Cbの平均値Cbaveと、当該複数の画素についての要素Crの平均値Craveとの3つの値が求められる。換言すれば、画像210内の複数の画素値を(変換後の)YCbCr色空間でのチャンネルごと(成分ごと)に平均化した各平均値Yave,Cbave,Craveが求められる。
【0062】
これら3つの値Yave,Cbave,Craveが画像210(ひいては、画像210の被写体である海苔)を代表するデータとして利用される。なお、以下、説明の都合上、各平均値Yave,Cbave,Craveを(添字「ave」を省略して)単に各平均値Y,Cb,Crとも表記する。また、図4等においては各文字Y,Cb,Crの上部に付した線(上線)によって平均値であることが示されている。
【0063】
このような処理によって、1枚の画像210に関する各平均値Y,Cb,Crが取得される。
【0064】
等級判定装置30は、このような処理を繰り返すことによって、(学習用の)複数の画像210のそれぞれに関する各平均値Y,Cb,Crを取得する。なお、当該各平均値Y,Cb,Crは、複数の画像210のそれぞれを代表する画素値(代表画素値)である、とも表現される。
【0065】
<主成分分析>
次のステップS12(図6)において、等級判定装置30は、複数の画像に関する所定の色空間における主成分分析を実行する。具体的には、等級判定装置30は、複数の画像210について求められた各平均値(複数組の平均値(Y,Cb,Cr))に対する主成分分析を実行する。換言すれば、複数の画像210に関する3要素(平均値Y,Cb,Cr)に対する主成分分析(YCbCr色空間における主成分分析)が実行される(図8参照)。また、当該主成分分析は、YCbCr色空間を構成する3つの構成要素(軸要素)Y,Cb,Crに対する主成分分析である、とも表現される。当該主成分分析は、複数の画像のそれぞれの代表画素(代表画素値)を所定の色空間で表現する3要素(3変数)Y,Cb,Crに対して施されるものである。
【0066】
この主成分分析により、第1主成分および第2主成分が算出(取得)される。
【0067】
実際に実験(複数の海苔画像に対する主成分分析)を行ったところ、一の実験結果として、第1主成分(第1主成分ベクトルV1)として、V1=(Y,Cb,Cr)=(1,0,0)が算出され、第2主成分(第2主成分ベクトルV2)として、V2=V21=(Y,Cb,Cr)=(0,-0.6,+0,8)が算出された(図8および図10参照)。なお、ここでの値「0」は、厳密には、「完全なゼロ」ではない値(誤差を含む値)である。その他の値(「1」,「0.8」など)も、誤差を含む値である。また、図8は、ステップS12の主成分分析の概要を示す概念図である。
【0068】
なお、主成分分析においては、各主成分ベクトルV1,V2の向きが反転して算出されることもある。たとえば、第1主成分ベクトルV1として、(-1,0,0)が算出されることもある。また、第2主成分ベクトルV2として、V2=V22=(Y,Cb,Cr)=(0,+0.6,-0.8)が算出されることもある。また、主成分分析においては、分析対象データ等に依拠して異なる方向を有する主成分ベクトル(特に第2主成分ベクトルV2)が算出されることもある。たとえば、第2主成分ベクトルV2として、V2=V23=(Y,Cb,Cr)=(0,-0.8,+0,6)、あるいは、V2=V24=(Y,Cb,Cr)=(0,+0.8,-0,6)等が算出されることもある。
【0069】
図9は、第1主成分ベクトルV1=(1,0,0)の意義を示す図である。図9に示されるように、この第1主成分からは、輝度情報E1(YCbCr色空間にて輝度Yを表す情報)が最も重要な要素であることが判る。また、この第1主成分ベクトルV1=(1,0,0)に関する第1主成分得点P1が大きくなるにつれて、輝度Yは徐々に大きくなる。なお、輝度Yは正規化されており、最小輝度0のときにY=0.0であり、最大輝度255のときにY=1.0である。
【0070】
図10は、第2主成分ベクトルV2(詳細には第2主成分ベクトルV21)=(0,-0.6,+0,8)の意義を示す図である。図10においては、図示の都合上、CbCr平面内の領域ごとの色の特徴が文字(「赤」、「青」、「緑」など)で表現されている。図10のCbCr平面(Y=0.5)の左上領域(第2象限)(主に第2象限の円(破線)内の領域等)には赤色(その近傍色を含む)が分布している。また、その右下領域(第4象限)(主に第4象限の円(破線)内の領域等)には青色(その近傍色を含む)が分布している。また、CbCr平面の右上領域(第1象限)には紫色(その近傍色を含む)が分布しており、左下領域(第3象限)には緑色(その近傍色を含む)が分布している。なお、値Cb,Crも正規化されており、「0」~「255」の元の各値が「-1.0」~「1.0」の各値へと変換されている。
【0071】
この第2主成分からは、図10に示されるように、YCbCr色空間にて赤色と青色とを繋ぐ(結ぶ)方向D1に関する色情報E2(YCbCr色空間にて赤色から青色へと向かう向き或いはその逆向きに関する色情報)が、輝度情報E1の次に重要な要素であることが判る。色情報E2は、方向D1における色特性(方向D1に現れる色特性)を示す情報であり、より詳細には、方向D1における色特性の強度(および正負)を示す情報である。色情報E2は、データベクトルV(不図示)のD1方向成分の強度等(データベクトルVと第2主成分ベクトルV2との内積の大きさ等)である、とも表現できる。なお、データベクトルVは、ここでは画像210のYCbCr色空間における平均値(Y,Cb,Cr)で構成される3次元ベクトルである。
【0072】
ここにおいて、色情報E2にて考慮されるべき方向D1は、図10に示される一の方向(ベクトルV21の方向)のみを意味するものではなく、上述のようなベクトルV23(,V24)の方向等であってもよい。方向D1は、ベクトルV21の方向とベクトルV23の方向との間の方向であってもよい。また、方向D1は、ベクトルV21の方向よりもCr軸寄りの方向であってもよく、ベクトルV23の方向よりもCb軸寄りの方向であってもよい。方向D1は、ベクトルV25=(Y,Cb,Cr)=(0,-1,1)に対して(CbCr平面内にて)数十度程度(たとえば30度~40度)ずれた方向であってもよい。第2主成分ベクトルV2の方向は分析対象データ等に依拠して一定程度の範囲(角度範囲)を有し、当該方向D1も一定程度の範囲を有する。当該方向D1は、YCbCr色空間にて赤色と青色とを繋ぐ方向であればよい。換言すれば、色情報E2は、このような方向(YCbCr色空間にて赤色と青色とを繋ぐ方向)D1に関する情報である。
【0073】
また、色情報E2は、YCbCr色空間のうちCbCr平面(Y成分を除いた残りの2成分Cb,Crで構成される平面)の第2象限から第4象限に向かう向き或いはその逆向きに関する色情報などとも表現される。
【0074】
また、色情報E2は、色が赤側と青側とのいずれに寄っているか及びその寄り具合(「赤-青」方向D1における寄り具合)を示す情報であるとも表現される。また、色情報E2は、赤味と青味とのいずれを帯びているか及びその帯び具合(「赤味または青味」の帯び具合)を示す色情報(色指標値)であるとも表現される。色情報E2は、端的に言えば、色空間における「赤-青」方向D1における色特性を示す情報である。
【0075】
上述のように、主成分分析では、各主成分(特に第2主成分)については符号の正負が逆転して(すなわち主成分ベクトルの向きが反転して)算出されることがある。ただし、主成分分析においては、主成分ベクトルの「方向」(或る向きとその逆向きとを包含する概念)が特に重要な意義を有している。主成分分析においては、「主成分ベクトルが或る向きを有しているのか或いはその逆向きを有しているのか(その主成分得点の正負)」の重要性よりも、主成分ベクトルの「方向」の重要性が高い。たとえば、主成分ベクトルV21=(0,-0.6,+0,8)と主成分ベクトルV22=(0,+0.6,-0,8)とは、それぞれに関する主成分得点の正負が互いに逆転するものの「方向」が一致しており、同様の意義を有している。
【0076】
主成分ベクトルV22=(0,+0.6,-0,8)に関する主成分得点P2(P22)は、青成分が強く赤成分が弱くなるにつれて(色が青側に近づくにつれて)比較的プラス側の値になる。逆に、赤成分が強く青成分が弱くなるにつれて(色が赤側に近づくにつれて)、主成分得点P22は比較的マイナス側の値になる。換言すれば、第2主成分ベクトルV22に基づく第2主成分得点P22が(プラス側に)大きくなるにつれて、色が青側に近づくことを意味している。
【0077】
一方、主成分ベクトルV21=(0,-0.6,+0,8)に関する主成分得点P2(P21)は、赤成分が強く青成分が弱くなるにつれて(色が赤側に近づくにつれて)比較的プラス側の値になる。逆に、青成分が強く赤成分が弱くなるにつれて(色が青側に近づくにつれて)、主成分得点P21は比較的マイナス側の値になる。換言すれば、第2主成分ベクトルV21に基づく第2主成分得点P21が(プラス側に)大きくなるにつれて、色が赤側に近づくことを意味している。
【0078】
ただし、これらの2つの第2主成分ベクトルV21,V22は、(その向きが互いに反転するものの同じ「方向」を有しており、)「赤-青」方向D1に関する色情報E2が重要であることを示している点で共通している。この点が非常に重要である。
【0079】
このような主成分分析によって、第1主成分の情報が輝度情報E1であり、第2主成分の情報が上述の色情報E2であることが判明した。換言すれば、海苔の画像において、輝度情報E1と赤-青方向に関する色情報E2とが主要2要素であることが判明した。
【0080】
また、主成分分析によれば、海苔の画像210に関するYCbCr色空間での3つの要素が、2つの要素(詳細には、2つの主成分得点)に集約される。すなわち、次元数「3」から次元数「2」への次元圧縮の効果を得ることが可能である。
【0081】
特に、上記実験結果(海苔画像のYCbCr色空間に関する主成分分析結果)においては、第2主成分までの累積寄与率(第1主成分の寄与率と第2主成分の寄与率との合計値)は、99.99%であった。このような累積寄与率は、海苔画像における海苔特有の情報(色特性等)を非常に効率的に次元圧縮できていることを示している。特に、このときの第2主成分ベクトルV2の方向(赤色と青色とを繋ぐ方向D1)(図10参照)は、(第1主成分ベクトルV1の方向に次いで)データが広く分散している(ばらついている)方向であり、海苔の色を評価するにあたって非常に有用な方向である。逆に言えば、第1主成分ベクトルV1と第2主成分ベクトルV2との双方に垂直な方向(YCbCr色空間で緑色と紫色とを繋ぐ方向(図10参照))には、データがあまり分散しておらず(ばらついておらず)、当該方向の情報を考慮する必要性が低い。このような特性を利用すれば、海苔画像における海苔特有の情報を適切に次元圧縮することが可能である。
【0082】
図11は、複数(ここでは120枚)の画像210について各画像の平均値(Y,Cb,Cr)の第1主成分得点P1と第2主成分得点P2との組み合わせをグラフ上に(主成分空間に)プロットした図である。当該グラフにおいて、横軸は、第1主成分得点P1を示しており、縦軸は、第2主成分得点P2を示している。なお、データベクトルV(Y,Cb,Cr)の第1主成分得点P1は、当該データベクトルVと第1主成分ベクトルV1との内積(ベクトルVをベクトルV1軸上に射影した射影ベクトルの大きさ及び正負)である。同様に、データベクトルV(Y,Cb,Cr)の第2主成分得点P2は、当該データベクトルVと第2主成分ベクトルとの内積である。
【0083】
ただし、図11等においては、主成分得点Pi(i=1,2)は、複数のデータの主成分得点に関する平均値(成分ごとの平均値)Fiを用いてゼロの位置を移動した値(成分ごとに、元の算出値(元の値Pi)から当該平均値Fiを差し引いた値)(端的に言えば、センタリングした値)で示されている。それ故、グラフ上における(各主成分の)ゼロの位置は平均値Fiの位置に移動するとともに、各主成分得点Piの値は元の算出値とは異なる値に変換されている。主成分得点Piは、このような値(センタリング値)に変換されて算出されてもよい。なお、これに限定されず、各主成分得点Piの値は、さらに標準偏差等を用いて標準化された値(成分ごとに、元の算出値から当該平均値Fiを差し引いた値をさらに標準偏差で除することにより正規化した値等)として算出されてもよい。
【0084】
図11の横軸方向において、比較的右側(+側)の点は、第1主成分得点P1(ひいては輝度Y)が比較的大きいことを示している。逆に、横軸方向において比較的左側(-側)の点は、第1主成分得点P1(ひいては輝度Y)が比較的小さいことを示している。
【0085】
また、図11の縦軸方向においては、第2主成分ベクトルV21=(0,-0.6,+0,8)に関する第2主成分得点P2(P12)の大きさが示されている。具体的には、縦軸方向において比較的上側(+側)の点は、第2主成分得点P2が比較的大きいこと(ひいては赤味(赤成分)が比較的強いこと)を示している。逆に、縦軸方向において比較的下側(-側)の点は、第2主成分得点P2が比較的小さいこと(ひいては青味(青成分)が比較的強いこと)を示している。
【0086】
また、図11において、各画像210は、その被写体である海苔の等級(正解データ)ごとに異なる形状の点でプロットされている。図11においては、各海苔がいずれの階級に属するかについての検査員による判定結果(詳細には正解データ(正解ラベルとも称する))が、当該各海苔の等級として示されている。
【0087】
図12に示されるように、海苔の「色」による等級として、「優」、「特上」、「特」、「1等」、「2等」などの複数の階級(等級)が存在する。「優」は最も高い等級であり、「優」の海苔は、(海苔の色として)最も良好な色を有することを示している。「特上」、「特」、「1等」、「2等」...と等級が下がっていくにつれ、海苔の色の良好さが低減していく。ここでは、「優」は星型の点、「特上」は円形あるいは菱形の点、「特」は特定形状(次述)あるいは四角形状の点、「1等」は十字形状の点、「2等」は×印あるいは三角形状の点で示されている(図12も参照)。当該特定形状は、十字と×印とが組み合わせられた形状(中心から8方向に伸びる線分で構成される形状)である。なお、図12は、各等級のグラフ上での点形状(点種類)および正解スコア(正解ラベル)を示す図である。
【0088】
ここにおいて、海苔は、「色」によって等級分けされるとともに、別の観点(艶が無い、重さが規定外などの観点)でもクラス分けされる。具体的には、海苔は、「本等級」、「B等級」、...などの複数のクラスにも区分される。端的に言えば、「本等級」の海苔は、「色」以外の要素が良好な海苔である。一方、「B等級」の海苔は、(海苔の)細胞破裂などに起因してその表面に「艶が無い」ように見える海苔である。
【0089】
一般的には、海苔は、色による等級分けと別観点でのクラス分けとを組み合わせて、たとえば「B特」のように格付けされる。ここで、「B特」は、色に関する等級が「特」であり、別観点でのクラス(補助等級とも称する)が「B」であることを示している。なお、色に関する等級が「特」であり且つクラスが「本等級」である場合、(本来的には)「本特」(「特」と「本等級」の「本」との組み合わせ)と表現されてもよいが、(実際には)「本」(本等級)を省略して単に「特」とも表現される。
【0090】
図12を除く、図11図13図14などにおいては、単なる「特」は、「本等級」且つ「特」の海苔を示している。「特上」、「特」、「1等」、「2等」も同様に、「本等級」であることを示す「本」が省略されて示されている。一方、「B等級」であることは省略されずに(「B」を付して)、「B特上」、「B特」、「B2」のように示されている。なお、「特上」は円形の点で示されており、「B特上」は菱形の点で示されている。また、「特」は上記特定形状の点、「B特」は四角形状の点、「2等」は×印の点、「B2等」は三角形状の点でそれぞれ示されている(図12も参照)。
【0091】
また、本願においては、「B特」のような、色による等級分けと別観点でのクラス分けとを組み合わせた格付け(等級)を「総合等級」とも称する。
【0092】
本願発明においては、「B等級」と「本等級」とを区別することに主眼を置くのではなく、「色」による等級分けに主眼を置く。後に詳述するように、基本的には、色に関する等級(「優」、「特上」、「特」、「1等」、「2等」など)(図12参照)のみが「海苔の等級」として判定される。ただし、これに限定されず、たとえば、別観点でのクラス分けに関する情報(重さ情報等)にも基づいて、当該クラス分けにも基づく等級(総合等級)が「海苔の等級」として判定されてもよい。
【0093】
<学習モデル>
この実施形態では、学習モデル400として、各画像(入力画像)の平均値ベクトルV(Y,Cb,Cr)に関する第1主成分得点P1と第2主成分得点P2とを入力とし、海苔の等級に関するスコアQを出力とするモデルが利用される。詳細には、輝度情報E1を示す第1主成分得点P1と、色情報E2を示す第2主成分得点P2とを2つの説明変数x1,x2として用い且つ海苔の等級を目的変数yとして用いる重回帰分析が行われる。より詳細には、2つの説明変数x1,x2の交互作用を考慮した一般化線形回帰モデル(交互作用線形回帰モデル)が学習モデル400として利用される。換言すれば、説明変数x1,x2(ここではP1,P2)の交互作用項(両変数の積の項)をも考慮した交互作用線形分析(回帰分析)が実行される。たとえば、次式(1)で表現される目的変数y(海苔の等級)を予測する回帰分析処理が行われる。目的変数yは、
y=b1*x1+b2*x2+c*(x1*x2)+d ・・・(1)
で表現される。なお、値b1,b2,c,dが、学習モデル400の学習対象のパラメータである。後述するような学習処理によってこれらのパラメータb1,b2,c,dが最適化される。
【0094】
<教師データ生成>
次のステップS13(図6)において、等級判定装置30は、上述のような学習モデル400を学習するための教師データを生成する。
【0095】
具体的には、等級判定装置30は、各画像210について、当該各画像210の平均値ベクトルV(Y,Cb,Cr)に関する第1主成分得点P1と第2主成分得点P2とを求める。具体的には、ステップS12で求めた第1主成分および第2主成分と、各画像210(複数の学習用画像のそれぞれ)に関してステップS11で求めた平均値ベクトルV(Y,Cb,Cr)とに基づき、当該各画像210に関する第1主成分得点P1および第2主成分得点P2が算出される。詳細には、第1主成分得点P1は、平均値ベクトルVと第1主成分ベクトルV1との内積として算出され、第2主成分得点P2は、平均値ベクトルVと第2主成分ベクトルV2との内積として算出される。なお、各主成分得点P1,P2は、上述のようにセンタリングあるいは標準化等された値であってもよい。
【0096】
また、等級判定装置30は、当該各画像210の被写体である海苔の等級(本等級)の正解ラベルを取得する。当該正解ラベルとしては、予め当該各画像に対して付された値(検査員による判定結果)が用いられればよい。海苔の等級(スコアQ)の正解ラベルとしては、たとえば図12のような数値が用いられればよい。具体的には、「優」に「-2」が、「特上」に「-1」が、「特」に「0」が、「1等」に「1」が、「2等」に「2」がそれぞれ割り当てられればよい。
【0097】
そして、これらの1組のデータ(第1主成分得点P1、第2主成分得点P2、および海苔の等級(スコアQ)の正解ラベル)が(1組の)教師データとして生成される。
【0098】
さらに、このような教師データが複数(たとえば百個~数千個)の画像(海苔画像)210に対して生成されることによって、複数の教師データ(教師データ群)が生成される。
【0099】
なお、このようにして生成された教師データ群の一例が、図11にてプロットされたデータ群である。
【0100】
<1-6.学習処理>
次に、教師データを用いた学習処理(ステップS2:フェーズPH2)(図5)が実行される。
【0101】
具体的には、等級判定装置30は、ステップS1で生成された複数の教師データを用いて、学習モデル400(交互作用線形回帰モデル)を機械学習する。この学習処理によって上式(1)の値b1,b2,c,dが最適化され、学習済みモデル400(420)が生成される。換言すれば、学習済みモデル420は、各画像210の第1主成分得点P1および第2主成分得点P2と、当該各画像210における海苔の等級との関係を複数の教師データを用いて学習したモデルである。
【0102】
<1-7.推論処理>
次に、教師データを用いた推論処理(ステップS3:フェーズPH3)(図5)について説明する。図7は、ステップS3における詳細な処理を示すフローチャートである。以下、図7を参照しつつステップS3の処理について説明する。
【0103】
ステップS31においては、ステップS11と同様の処理が推論対象画像210(212とも称する)に対して実行される。具体的には、等級判定装置30は、推論対象画像212(詳細にはその色空間)をRGB色空間からYCbCr色空間へと変換するとともに、3要素Y,Cb,Crの(推論対象画像212内での)各平均値Yave,Cbave,Craveを求める。
【0104】
ステップS32において、等級判定装置30は、推論対象画像212のYCbCr色空間における第1主成分得点P1と第2主成分得点P2とを取得(算出)する。このステップS32(推論段階)では、学習段階(ステップS12(図6))で得られた主成分分析結果(第1主成分(第1主成分ベクトルV1)および第2主成分(第2主成分ベクトルV2))が用いられる。具体的には、推論対象画像212の平均値ベクトルV(Yave,Cbave,Crave)と当該第1主成分ベクトルV1との内積として、第1主成分得点P1が取得される。同様に、当該推論対象画像212の平均値ベクトルV(Yave,Cbave,Crave)と当該第2主成分ベクトルV2との内積として、第2主成分得点P2が取得される。また、主成分得点Pi(i=1,2)は、学習段階までの処理時(詳細には教師データ生成時)と同様の変換(センタリングあるいは標準化等)が施された値であってもよい。ここでは、主成分得点Piは、複数の学習用データに関する(成分ごとの)平均値Fiを用いてゼロの位置を移動した値(成分ごとに元の算出値から当該平均値Fiを差し引いたセンタリング値)として算出されるものとする。
【0105】
ステップS33においては、等級判定装置30は、スコアQ(海苔の等級に関する評価値)を取得する。スコアQは、海苔の等級を判定(推定)するためのスコア(評価値)である。具体的には、等級判定装置30は、推論対象画像212の輝度情報E1(第1主成分得点P1)と色情報E2(第2主成分得点P2)とを学習モデル400(学習済みモデル420)に入力し、当該学習モデル400(420)から出力(算出)されたスコアQを取得する。当該スコアQは、複数の教師データ(各画像の輝度情報E1と色情報E2と等級の正解データ(正解等級情報)とで構成される)に基づいて学習された学習モデル420からの出力値である。換言すれば、スコアQは、輝度情報E1と色情報E2とを用いた交互作用線形分析の分析結果に基づいて取得される評価値である。
【0106】
そして、等級判定装置30は、当該スコアQに基づき、推論対象画像の海苔の等級を推定(判定)する。たとえば、等級判定装置30は、スコアQの小数点以下を四捨五入した値(図12参照)を海苔の等級として判定する。スコアQ=「1.2」の海苔は「1等」であると判定され、スコアQ=「-0.3」の海苔は「特」(「0」に対応する階級)であると判定され、スコアQ=「-0.8」の海苔は「特上」(「-1」に対応する階級)であると判定される。
【0107】
図13および図14は、スコアQに関する推定結果を示す図である。
【0108】
図13は、学習モデル400(学習済みの回帰モデル)400による学習結果(回帰曲面)を図11のグラフに重ねて示す図である。ただし、図示の都合上、曲線U1~U6が回帰曲面の等級線として描かれている。曲線U1~U6は、上式(1)のy(=Q)に-2.5から2.5までの1刻みの各値(6つの値(-2.5,-1.5,-0.5,+0.5,+1.5,+2.5))を代入して得られる、説明変数x1,x2(ここではP1,P2)の関係をそれぞれ示している。
【0109】
図13においては、たとえば、y=-1.5のときの説明変数x1,x2の関係を示す曲線U2が描かれている。また、y=-0.5のときの説明変数x1,x2の関係を示す曲線U3も描かれている。さらに、y=+0.5のときの説明変数x1,x2の関係を示す曲線U4、およびy=+1.5のときの説明変数x1,x2の関係を示す曲線U5なども描かれている。
【0110】
図13において推論対象画像212に対応する座標(P1,P2)の点が曲線U2と曲線U3との間に存在する場合、当該点のスコアQは-1.5から-0.5までの間の値(たとえば、-1.2、あるいは、-0.9など)として推定されることを示している。その場合、等級判定装置30は、当該点のスコアQ(たとえば-1.2)に基づき、推論対象画像の海苔の等級が「特上」(スコア「-1」相当)(図12参照)であると推定(判定)する。
【0111】
図13でも、図11と同様に各点(に対応する各画像)の「等級の正解ラベル」(正解等級情報)が当該各点の形状で示されている。
【0112】
たとえば、図13において、「特上」等級を示す形状(円形あるいは菱形)の点(すなわち、等級=「特上」の正解ラベルを有する点)の多くが、曲線U2と曲線U3との間に存在する(等級が「特上」であると推定される)。このことは、等級判定装置30による推論結果(推定結果)が一定程度正しいことを示している。
【0113】
また、図13において、「1等」等級を示す形状(十字形状)の点(すなわち、等級=「1等」の正解ラベルを有する点)が、曲線U4(Q=0.5)と曲線U5(Q=1.5)との間に存在する(等級が「1等」であると推定される)。このことは、等級判定装置30による推論結果(推定結果)が一定程度正しいことを示している。
【0114】
図14は、各サンプルの推定スコアQを示す図である。図14のグラフは、各画像210(サンプル画像)の主成分得点P1,P2を学習モデル400(学習済みモデル420)に入力して出力されるスコアQ(推論結果)を示している。
【0115】
図14において、「特上」等級を示す形状(円形あるいは菱形)の各点(すなわち、等級=「特上」の正解ラベルを有する点)のスコアQが、(一部例外もあるものの)概ね、-1.5から-0.5までの範囲の値を有している。このことは、等級判定装置30による推論結果が一定程度正しいことを示している。
【0116】
同様に、図14において、「1等」等級を示す形状(十字形状)の各点(すなわち、等級=「1等」の正解ラベルを有する点)のスコアQが、概ね、+0.5から+1.5までの範囲の値を有している。このことは、等級判定装置30による推論結果が一定程度正しいことを示している。
【0117】
<1-8.実施形態の効果>
以上のような処理によれば、等級判定装置30は、等級判定対象の海苔の画像210の輝度情報E1(詳細には第1主成分得点P1)と当該画像210の「赤-青」方向の色特性を示す色情報E2(詳細には第2主成分得点P2)とに基づき、スコアQ(海苔の等級を判定するためのスコア)を算出する。色情報E2を考慮したスコアQを用いることによれば、省人化を図りつつ海苔の等級を適切に判定することが可能である。ひいては、海苔の等級をより適切に自動判定すること(換言すれば、より適切な等級分け(より詳細には、人間による感覚に近い等級分け)を実現すること)が可能である。
【0118】
また、等級判定装置30は、学習モデル400を複数の教師データを用いて学習する。学習モデル400は、海苔の画像(学習用の入力画像)210の輝度情報E1(詳細には第1主成分得点P1)と当該画像210の「赤-青」方向に関する色情報E2(詳細には第2主成分得点P2)とを入力とし、海苔の等級に関するスコアを出力とするモデルである。各教師データは、海苔の等級に関する正解データを含んで構成される。このようなモデルを機械学習によって生成しておくことによれば、当該モデルから出力されるスコアQに基づく適切な等級分けを実現することが可能である。
【0119】
特に、画像210の画素値情報の元の3要素(具体的には、RGB色空間におけるR値,G値,B値)を集約した2要素(具体的には、輝度情報E1,色情報E2)が入力として用いられている。これによれば、次元圧縮により、スコアQを推定するモデルを効率的に学習することが可能である。また、当該2要素のうち一の要素として輝度Y(輝度情報)を用い且つ他の要素として「赤-青」方向D1に関する色情報E2を用いることによれば、海苔画像における海苔固有の特性(特に色特性)を的確に反映したモデルを生成することが可能である。ひいては、当該スコアQに基づき海苔の等級をより適切に判定することが可能である。
【0120】
また、上記実施形態においては、2つの主成分得点P1,P2(換言すれば、輝度情報E1および色情報E2)の交互作用が考慮されている。したがって、(交互作用を考慮しない)単なる線形回帰処理よりも適切な回帰処理が実現されており、適切な学習モデル400が生成されている。それ故、より適切な推定処理を行うことが可能である。たとえば、図13に示される等級線は、直線ではなく曲線である。より詳細には、輝度が大きくなるにつれて隣接曲線との距離が大きくなる曲線である。したがって、輝度が大きくなるほど色の差が出易い、という特徴に応じた推定処理が実現されている。
【0121】
また、上述のような搬送装置10および撮影装置20(図2および図3参照)を用いることによれば、推論対象の画像212(および学習用の画像210)を自動的に且つ連続的に生成することが可能である。ひいては、複数の海苔91の等級判定を自動的に且つ連続的に実行することが可能である。
【0122】
<2.第2実施形態>
第2実施形態は、第1実施形態の変形例である。以下では、第1実施形態との相違点を中心に説明する。
【0123】
第2実施形態では、画像の合焦度合いに関する指標値にも基づいてスコア(詳細には改良スコア)が算出され、当該スコアに基づき海苔の等級が判定される態様について説明する。
【0124】
ここにおいて、海苔は、「うねり」を有している。それ故、ラインセンサカメラ22から被写体(海苔)までの距離にばらつきが発生し、複数の海苔画像210には合焦度合いに関する「ばらつき」が存在する。
【0125】
本願発明者は、このような合焦度合いのばらつき等によってスコアQが影響を受けること(詳細には、その合焦度合いが良い画像はそのスコアQが高くなること)を上記実験結果に対する考察を通じて知得した。
【0126】
たとえば、図14に示されるように、「2等」(詳細には「本等級」且つ「2等」(×印参照))の海苔の画像210(図15の画像210d等参照)のスコアQの多くは、「2」~「2.5」の近傍に集中している(図14にてQ=2近傍の×印参照)。一方、図15の画像210cも、「2等」の海苔の画像である。それにも関わらず、当該画像210cのスコアQとして、他の画像210dのスコアよりも良好なスコア(「1」に近い値)が算出されている(図14にて、「1」近傍のスコアQを有する画像210cを示す×印参照)。それ故、実際には「2等」の画像210cに対して誤った等級(「1等」)が推定される恐れがある。なお、画像210cは、本来の値から離れた(良好過ぎる)スコアQ(「1」に近い値)を有する画像である、とも表現される。
【0127】
図15は、これら2つの画像210c,210dを比較する図である。図15において各段の右側には画像210dに関する情報が示されており、当該各段の左側には画像210c(画像210dよりも良好なスコアQ(「1」に近い値)を有する画像)に関する情報が示されている。図15の最上段には、両画像210c,210dが示されており、中段には当該両画像210c,210dの一部を拡大した画像が示されており、最下段には、両画像210c,210dのパワースペクトル画像が示されている。
【0128】
図15の中段において両画像210c,210dの拡大図同士を比較すると判るように、左側の画像210cは右側の画像210dよりも高い合焦度合いを有している。比較的高い合焦度合いを有する画像210cにおいては色差が出やすく(その結果として)スコアQが比較的高くなった、と推察される。なお、「2」~「2.5」の近傍のスコアQを有する他の画像210も、画像210dと同様の合焦度合い(比較的低い合焦度合い)を有している。
【0129】
そこで、この第2実施形態においては、等級判定装置30は、各画像の合焦度合いに関する指標値にも基づいて海苔の等級を判定する。具体的には、等級判定装置30は、第1実施形態で説明した学習モデル400に加えて別の学習モデル450(図16参照)をも用いて、改良されたスコア(改良スコアとも称する)Q2を取得し、当該改良スコアQ2に基づき海苔の等級を判定する。すなわち、2段階の学習モデルを用いて、海苔の等級が判定される。なお、学習モデル400を第1学習モデルとも称し、学習モデル450を第2学習モデルとも称する。
【0130】
図16は、第2実施形態に係る学習モデル500(2段階の学習モデル)を示す図である。学習モデル500は、第1実施形態と同様の学習モデル400の後段に別の学習モデル450が更に接続された構成を有している。
【0131】
学習モデル450は、入力画像210に関して学習モデル400から出力されるスコアQ(Q1とも称する)と、当該入力画像210の合焦度合いに関する指標値P5とを入力とし、海苔の等級に関する改良スコアQ2を出力とするモデルである。
【0132】
ここでは、画像210の合焦度合いに関する指標値P5として、パワースペクトル画像における低周波成分と高周波成分との比(次述)が用いられる。
【0133】
パワースペクトル画像(図15の最下段参照)は、画像210に対する2次元フーリエ変換によって得られた空間周波数成分を濃淡画像(明度画像)として表現した画像である。中央に近い部分は低周波成分に対応し、中央から離れるにつれて高い周波数成分に対応する。各位置の画素値は、当該各位置での周波数成分の成分値(パワースペクトル)が大きいほど明るい色で表現される。なお、パワースペクトル画像の生成にあたっては、2次元フーリエ解析を行うために2のべき乗の画素数を有する画像、具体的には、画像210の一部の領域(たとえば、中央付近の2048画素×2048画素)の画像が用いられればよい。
【0134】
その合焦度合いが比較的高い自然画像(海苔画像を含む)に関しては、高周波成分が多く含まれ、比較的高い周波数までの広い範囲(周波数領域)に亘って周波数成分が分散している。具体的には、図15の最下段左側に示されるように、高い合焦度合いを有する画像210cのパワースペクトル画像では、一定の周波数(図15の最下段にて円で示される)よりも高い周波数の成分が比較的多い。詳細には、当該パワースペクトル画像にて明るい画素が円の外側にまで分散して分布している(すなわち、高周波成分が広範囲に亘って分散している)。逆に、低い合焦度合いを有する画像210dのパワースペクトル画像(図15の最下段右側の画像)では、当該一定の周波数よりも低い周波数領域に、明るい画素が比較的集中する。詳細には、明るい画素が円の内側の部分に比較的集中して分布している。
【0135】
そこで、この第2実施形態では、合焦度合いを示す指標値P5として、高周波成分と低周波成分との大小関係を示す値を採用する。指標値P5は、たとえば、高周波成分量(高周波成分の量)を低周波成分量(低周波成分の量)で除した値(P5=高周波成分量/低周波成分量)である。詳細には、高周波領域(一定の周波数よりも高い周波数の領域)のパワースペクトルの積算値(総和)を、低周波領域(当該一定の周波数よりも低い周波数の領域)のパワースペクトルの積算値で除した値(両積算値の比)が、指標値P5として用いられる。あるいは、高周波領域の振幅スペクトル(パワースペクトルの平方根)の積算値を低周波領域の振幅スペクトルの積算値で除した値が、指標値P5として用いられてもよい。ここでは、後者の値(高周波領域の振幅スペクトルの積算値を低周波領域の振幅スペクトルの積算値で除した値)を、指標値P5として用いる。
【0136】
第2実施形態では、学習モデルの学習段階において、第1実施形態と同様にして学習モデル400が学習された後、学習モデル450が更に学習される。具体的には、各画像210に関して学習モデル400(420)から出力されるスコアQ(Q1)と、当該各画像210の合焦度合いに関する指標値P5と、海苔の等級に関する正解ラベルとで構成される教師データ(学習モデル450の学習用の教師データ)が用いられる。複数の教師データを用いて学習モデル450に対する機械学習が行われる。
【0137】
具体的には、等級判定装置30は、スコアQ1と指標値P5とを2つの説明変数として用い且つ海苔の等級に関するスコアQ2(改良スコアとも称する))を目的変数として用いる重回帰分析を行う。より詳細には、等級判定装置30は、2つの説明変数の交互作用を考慮した一般化線形回帰モデル(交互作用線形回帰モデル)を学習モデル450として利用する。この機械学習(回帰分析)によって、学習モデル450の学習対象パラメータが最適化され、学習済みの学習モデル450(学習済みモデル470とも称する)が生成される。
【0138】
その後、推論段階において、等級判定装置30は、推論対象の画像212に関して学習モデル400(420)から出力されたスコアQ1と当該画像212の合焦度合いに関する指標値P5とを学習モデル450(470)に入力する。等級判定装置30は、当該学習モデル450(学習済みモデル470)から出力(算出)される改良スコアQ2を取得する。そして、等級判定装置30は、当該改良スコアQ2に基づいて海苔の等級を判定する。
【0139】
図17は、複数(ここでは120枚)の画像について各画像210のスコアQ1と合焦度合いに関する指標値P5との組み合わせをグラフ上にプロットした図である。当該グラフにおいて、横軸は、各画像210に関して学習モデル400から出力されたスコアQ1を示しており、縦軸は、各画像210に関する指標値P5を示している。
【0140】
図17において、「2等」の複数の画像(×印参照)のうち、画像210cの指標値P5が(「5.5」近傍の値を有しており)突出していることが判る。
【0141】
図18および図19は、スコアQ2に関する推定結果を示す図である。
【0142】
図18は、学習モデル450(学習済みの回帰モデル)による学習結果(回帰曲面)を図17のグラフに重ねて示す図である。ただし、図示の都合上、曲線U21~U26が回帰曲面の等級線として描かれている。曲線U21~U26は、目的変数に-2.5から2.5までの1刻みの各値を代入して得られる、2つの説明変数Q1,P5の関係をそれぞれ示している。
【0143】
図18に示されるように、「特上」等級を示す形状(円形あるいは菱形)の点(すなわち、等級=「特上」の正解ラベルを有する点)の多くが、曲線U22(Q2=-1.5)と曲線U23(Q2=-0.5)との間に存在する(等級が「特上」であると推定される)。このことは、等級判定装置30による推論結果が一定程度正しいことを示している。
【0144】
また、図18に示されるように、「2等」等級(詳細には「2等」且つ「本等級」)を示す形状(×印)の点のうち画像210cに対応する点が、曲線U25と曲線U26との間に存在する(等級が「2等」であると推定される)。このことは、等級判定装置30による推論結果が一定程度正しいことを示している。
【0145】
図19は、各サンプルの改良スコアQ2を示す図である。図19のグラフは、各画像(サンプル画像)に関するスコアQ1と指標値P5とを学習モデル450(学習済みモデル470)に入力して出力される改良スコアQ2(推論結果)を示している。
【0146】
図19において、「2等」等級を示す形状(×印あるいは三角)の各点(すなわち、等級=「2等」の正解ラベルを有する点)のスコアQが、(一部例外もあるものの)概ね、+1.5から+2.5までの範囲の値を有している。このことは、等級判定装置30による推論結果が一定程度正しいことを示している。
【0147】
特に、図14図19とを比較すると判るように、画像210cは、図14では「1」(Q=Q1=1)に近い位置にプロットされているのに対して、図19では「2」(Q2=2)に近い位置にプロットされている。すなわち、学習モデルによる推定結果(出力スコア)が改善されていることが判る。
【0148】
このように、画像の合焦度合いに関する指標値にも基づいて海苔の等級を判定することによれば、スコアQ(詳細にはQ2)の精度を向上させることが可能である。ひいては、海苔の等級をさらに適切に判定することが可能である。
【0149】
なお、第2実施形態では、合焦度合いを示す指標値P5として、パワースペクトル画像における低周波成分と高周波成分との比が用いられているが、これに限定されない。たとえば、合焦度合いを示す指標値P5として、エッジ量などの他の指標値が用いられてもよい。
【0150】
<3.変形例等>
以上、この発明の実施の形態について説明したが、この発明は上記説明した内容のものに限定されるものではない。
【0151】
<色空間および色情報>
たとえば、上記各実施形態等においては、YCbCr空間において主成分分析が行われて第1主成分と第2主成分との2つの主成分(2要素)が求められている。しかしながら、これに限定されず、他の色空間(たとえば、YCbCr色空間、YPbPr色空間、YUV色空間、Lab色空間、RGB色空間、あるいはHSV色空間)において主成分分析が行われて第1主成分と第2主成分との2つの主成分(2要素)が求められてもよい。そして、これらの主成分(2要素)に関する情報に基づいてスコアQが求められてもよい。なお、Lab色空間は、厳密には、各文字L,a,bのそれぞれに*を付して示される色空間であるが、ここでは、単にLab色空間と表記する。
【0152】
実際に上記第1実施形態と同様の画像データに関してRGB色空間における主成分分析を行ったところ、第1主成分ベクトルV1=(R,G,B)=(0.59,0.55,0.57)、且つ、第2主成分ベクトルV2=(R,G,B)=(0.76,-0.16,-0.62)、との分析結果が得られた。
【0153】
この第1主成分ベクトルV1は、図20のベクトルV15(=(1,1,1))(図20の立方体の一番奥から一番手前の頂点へと向かうベクトル)に近い方向を有するベクトルであり、輝度Y(の方向)を表している。なお、図20は、RGB色空間を立方体で模式的に表現する概念図であり、各値R,G,Bは、それぞれ、0~1の範囲の値となるように正規化されている。
【0154】
また、この第2主成分ベクトルV2は、図20のベクトルV25(=(1,0,-1))に近い方向を有するベクトルである。ベクトルV25は、図20の立方体のRB平面における対角線の方向(赤色と青色とを繋ぐ方向)を示すベクトルである。それ故、ベクトルV25に近い方向を有する第2主成分ベクトルV2は、RGB色空間において赤色と青色とを繋ぐ方向に関する色情報E2であると表現できる。当該第2主成分ベクトルV2等は、RGB色空間にて赤色から青色へと向かう向き或いはその逆向きに関する色情報、「赤味または青味」の帯び具合を示す色情報、あるいは、「赤-青」方向に関する色情報であるとも表現できる。
【0155】
また、同様にLab色空間における主成分分析を行ったところ、第1主成分ベクトルV1=(L,a,b)=(0.99,0.06,-0.02)、且つ、第2主成分ベクトルV2=(L,a,b)=(-0.01,0.58,0.80)、との分析結果が得られた。この第1主成分ベクトルV1は、ベクトルV16(=(1,0,0))に近い方向を有するベクトルであり、明度L(輝度Y)の方向を表している。また、この第2主成分ベクトルV2は、ベクトルV26(=k4*(0,0.6,0.8))に近いベクトルである。ベクトルV26に近い方向を有する第2主成分ベクトルV2は、図21にも示されるように、Lab色空間において赤色と青色とを繋ぐ方向に関する色情報E2である、と表現できる。また、当該第2主成分ベクトルV2等は、Lab色空間にて赤色から青色へと向かう向き或いはその逆向きに関する色情報、「赤味または青味」の帯び具合を示す色情報、あるいは、「赤-青」方向に関する色情報であるとも表現できる。なお、k4は、主成分ベクトルの大きさを正規化するための係数であり、図21は、Lab色空間を模式的に表現する概念図である。各値L,a,bは、それぞれ、0~1の範囲の値となるように正規化されている。
【0156】
なお、上記各実施形態等においては、RGB色空間からYCbCr色空間への変換が行われ、YCbCr色空間にて主成分分析等が行われているが、これに限定されない。たとえば、RGB色空間からYCbCr色空間への変換が行われることなくRGB色空間にて主成分分析等が行われてもよい。
【0157】
また、上述のように、色空間としては、YCbCr色空間、RGB色空間、Lab色空間、あるいはHSV色空間等を用いることが可能である。ただし、第2主成分までの累積寄与率、および学習後の推論モデルによる推論結果の精度を考慮すると、海苔の画像に関しては、各種の色空間のうち、YCbCr色空間(あるいは、YUV色空間、YPbPr色空間)を用いることが最も好ましい。また、次にRGB色空間が好ましく、その次にLab色空間が好ましい。
【0158】
第2主成分までの累積寄与率は、YCbCr色空間を用いた場合、他のRGB色空間、Lab色空間、あるいはHSV色空間を用いた場合よりも大きい。そして、当該YCbCr色空間における色情報E2と輝度情報E1とを用いることによれば、より適切なモデルを構築すること、ひいては、より適切な推論結果(海苔の等級の判定結果)を得ることが可能である。
【0159】
また、色情報E2としては、各色空間(YCbCr色空間、RGB色空間、あるいはLab色空間等)にて赤色と青色とを繋ぐ方向D1に関する色情報が用いられればよい。この方向D1は、各色空間における第2主成分ベクトルV2の方向に一致していることが最も好ましいが、これに限定されない。方向D1は、各色空間における第2主成分ベクトルV2の方向から一定程度(たとえば、20度~40度)ずれている方向でもよく、色空間にて赤色と青色とを繋ぐ方向等であればよい。
【0160】
<主成分分析>
また、上記各実施形態等において、等級判定装置30は、教師データ群が変わるごとに主成分分析を行うことを要しない。一旦、或る教師データ群を用いて決定された第1主成分および第2主成分は、他の教師データ群を用いて実行される学習処理に用いられてもよい。
【0161】
また、上記各実施形態等においては、等級判定装置30は、主成分分析を行い当該主成分分析による第1主成分および第2主成分に関する情報に基づいてスコアを求めているが、これに限定されない。
【0162】
たとえば、等級判定装置30は、主成分分析を行わずに輝度情報E1と色情報E2とに基づいてスコアQを求めてもよい。等級判定装置30は、主成分分析を行わずに、輝度Y自体をそのまま輝度情報E1として利用するとともに、主成分分析を行わずに得られる色情報E2を利用してもよい。具体的には、上記各実験にて得られた上述の第2主成分ベクトルV2自体が採用され、当該第2主成分ベクトルV2とデータベクトルVとの内積が「赤-青」方向に関する色情報E2として利用されてもよい。あるいは、「赤-青」方向に関する色情報E2として、上記各実験にて得られた上述の第2主成分ベクトルV2に近い方向を有する所定のベクトルとデータベクトルVとの内積が利用されてもよい。当該所定のベクトルは、たとえば、YCbCr色空間における(Y,Cb,Cr)=(0,-0.7,+0,7)などの近傍ベクトルである。
【0163】
<学習モデル>
上記第2実施形態においては、2段階の学習モデルが用いられているが、これに限定されず、たとえば、1段階の学習モデルが用いられても良い。より具体的には、輝度情報E1と色情報E2とに加えて合焦度合いに関する指標値P5をも入力とし、海苔の等級に関するスコアを出力とする、1段階の学習モデル等が用いられてもよい。
【0164】
また、上記各実施形態等においては、学習モデルとして重回帰分析モデルが用いられているが、これに限定されない。たとえば、複数の層で構成されるニューラルネットワークモデルが学習モデルとして用いられてもよい。機械学習によって、ニューラルネットワークモデルにおける複数の層(特に複数の中間層)におけるパラメータ(学習パラメータ)等が調整されればよい。
【0165】
また、上記各実施形態等においては、学習モデルとして回帰モデルが用いられているが、これに限定されず、分類モデルが用いられてもよい。
【0166】
<その他>
また、上記各実施形態等においては、スコアQに基づいて等級判定装置(情報処理装置)30が海苔の等級を判定しているが、これに限定されない。たとえば、スコアQを出力する情報処理装置30とは別に設けられた装置が、スコアQ(および他の要素)に基づいて海苔の等級(詳細には「色に関する等級」あるいは「総合等級」等)を判定してもよい。あるいは、等級判定装置30がスコアQを表示部35bに表示する(あるいは通信部34を用いて他の表示装置に表示させる)などしてスコアQを人間(検査員等)に提示(報知)し、当該人間がスコアQに基づいて海苔の等級を(最終的に)判定してもよい。あるいは、提示されたスコアQおよび他の要素(海苔の重量等)に基づいて、当該人間が海苔の等級(特に「総合等級」等)を判定してもよい。
【符号の説明】
【0167】
1 等級判定システム
10 搬送装置
11 ベルトコンベヤ
20 撮影装置
21 光源
22 ラインセンサカメラ
23 海苔検出センサ
30 等級判定装置
91 海苔
200,210,212 画像
400,420,450,470,500 学習モデル
D1 方向
E1 輝度情報
E2 色情報
P1,P2 主成分得点
P5 指標値
Q,Q1,Q2 スコア
V1,V2 主成分ベクトル
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21