IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社ジェイテクトの特許一覧

特開2024-971青果物品質評価システム、青果物選別システム
<>
  • 特開-青果物品質評価システム、青果物選別システム 図1
  • 特開-青果物品質評価システム、青果物選別システム 図2
  • 特開-青果物品質評価システム、青果物選別システム 図3
  • 特開-青果物品質評価システム、青果物選別システム 図4
  • 特開-青果物品質評価システム、青果物選別システム 図5
  • 特開-青果物品質評価システム、青果物選別システム 図6
  • 特開-青果物品質評価システム、青果物選別システム 図7
  • 特開-青果物品質評価システム、青果物選別システム 図8
  • 特開-青果物品質評価システム、青果物選別システム 図9
  • 特開-青果物品質評価システム、青果物選別システム 図10
  • 特開-青果物品質評価システム、青果物選別システム 図11
  • 特開-青果物品質評価システム、青果物選別システム 図12
  • 特開-青果物品質評価システム、青果物選別システム 図13
  • 特開-青果物品質評価システム、青果物選別システム 図14
  • 特開-青果物品質評価システム、青果物選別システム 図15
  • 特開-青果物品質評価システム、青果物選別システム 図16
  • 特開-青果物品質評価システム、青果物選別システム 図17
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024000971
(43)【公開日】2024-01-09
(54)【発明の名称】青果物品質評価システム、青果物選別システム
(51)【国際特許分類】
   G01N 21/85 20060101AFI20231226BHJP
   G06T 7/00 20170101ALI20231226BHJP
   G06Q 50/02 20240101ALI20231226BHJP
【FI】
G01N21/85 A
G06T7/00 600
G06Q50/02
【審査請求】未請求
【請求項の数】17
【出願形態】OL
(21)【出願番号】P 2023090101
(22)【出願日】2023-05-31
(31)【優先権主張番号】P 2022099432
(32)【優先日】2022-06-21
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】000001247
【氏名又は名称】株式会社ジェイテクト
(74)【代理人】
【識別番号】110000648
【氏名又は名称】弁理士法人あいち国際特許事務所
(72)【発明者】
【氏名】大久保 勇佐
【テーマコード(参考)】
2G051
5L049
5L096
【Fターム(参考)】
2G051AA05
2G051AB02
2G051CA04
2G051CA07
2G051CB01
2G051DA06
2G051EC01
5L049CC01
5L096BA03
5L096CA05
5L096EA39
5L096FA77
(57)【要約】
【課題】青果物の品質評価の精度に優れた青果物品質評価システムを提供する。
【解決手段】青果物品質評価システム1は、撮像装置10と、演算部40及び記憶部50を有するコンピュータ装置20と、を備え、記憶部50は、撮像装置10で取得した各部分画像Iと各部分画像Iにラベリングされる個別品質スコアSaとの関係性を規定した個別品質推定用モデルMaと、複数の個別品質スコアSaの組み合わせと青果物Wの全体品質情報である等級Tとの関係性を規定した全体品質推定用モデルMbと、を格納し、演算部40は、撮像装置10で取得した複数の部分画像Iを個別品質推定用モデルMaに入力して個別品質スコアSaを取得する個別品質評価部45と、複数の個別品質スコアSaを全体品質推定用モデルMbに入力して青果物Wの等級Tを取得する全体品質評価部46と、を有する。
【選択図】図5
【特許請求の範囲】
【請求項1】
青果物を複数方向から撮影して前記青果物の全体画像を構成する複数の部分画像を取得する撮像装置と、
前記撮像装置と通信可能であり、演算部及び記憶部を有するコンピュータ装置と、を備え、
前記記憶部は、
前記撮像装置で取得した前記複数の部分画像のそれぞれと、前記複数の部分画像のそれぞれにラベリングされる個別品質スコアと、の関係性を規定した個別品質推定用モデルと、
複数の前記個別品質スコアの組み合わせと、前記青果物の全体品質情報と、の関係性に基づく全体品質推定用モデルと、を格納し、
前記演算部は、
前記撮像装置で取得した前記複数の部分画像を前記個別品質推定用モデルに入力して複数の前記個別品質スコアを取得する個別品質評価部と、
前記個別品質評価部で取得した複数の前記個別品質スコアを前記全体品質推定用モデルに入力して前記全体品質情報を取得する全体品質評価部と、を有する、
青果物品質評価システム。
【請求項2】
前記撮像装置は、前記複数の部分画像が部分的にオーバーラップするように前記青果物を撮影する、請求項1に記載の青果物品質評価システム。
【請求項3】
前記複数の部分画像は、各部分画像の全領域が他の部分画像にオーバーラップする、請求項2に記載の青果物品質評価システム。
【請求項4】
前記個別品質スコアは、1または複数の評価項目に基づいたスコアである、請求項1~3のいずれか一項に記載の青果物品質評価システム。
【請求項5】
前記記憶部は、前記個別品質スコアの前記評価項目が互いに異なる複数の前記個別品質推定用モデルを格納する、請求項4に記載の青果物品質評価システム。
【請求項6】
前記個別品質推定用モデルは、前記青果物の異常の有無を評価する異常評価モデルと、前記青果物の形状を評価する形状評価モデルと、前記青果物の外観全般を評価する外観評価モデルと、のうちの少なくとも1つである、請求項1に記載の青果物品質評価システム。
【請求項7】
前記全体品質評価部は、前記個別品質評価部で取得した前記個別品質スコアに重み係数を掛けて前記全体品質推定用モデルに入力する、請求項6に記載の青果物品質評価システム。
【請求項8】
前記重み係数を前記青果物の種類に応じて変更可能である、請求項7に記載の青果物品質評価システム。
【請求項9】
前記個別品質推定用モデルが前記異常評価モデルと前記形状評価モデルと前記外観評価モデルである場合、前記全体品質評価部は、前記異常評価モデルから取得した前記個別品質スコアに掛ける前記重み係数を、前記形状評価モデル及び前記外観評価モデルのそれぞれから取得した前記個別品質スコアに掛ける前記重み係数に比べて重み付けの影響度が高くなる値に設定する、請求項7または8に記載の青果物品質評価システム。
【請求項10】
前記青果物がリンゴ属の果物である場合、前記全体品質評価部は、前記外観評価モデルから取得した前記個別品質スコアに掛ける前記重み係数を、前記形状評価モデルから取得した前記個別品質スコアに掛ける前記重み係数に比べて重み付けの影響度が高くなる値に設定する、請求項9に記載の青果物品質評価システム。
【請求項11】
前記青果物がリンゴ属の果物である、請求項6~8のいずれか一項に記載の青果物品質評価システム。
【請求項12】
前記撮像装置は、前記青果物を収容可能な撮像箱に取り付けられており、前記青果物を前記撮像箱に収容した状態で撮影するように構成されている、請求項1~3のいずれか一項に記載の青果物品質評価システム。
【請求項13】
前記撮像装置は、搬送ラインで搬送されるトレイに取り付けられており、前記青果物を前記トレイに置かれた状態で撮影するように構成されている、請求項1~3のいずれか一項に記載の青果物品質評価システム。
【請求項14】
前記コンピュータ装置は、前記演算部の前記全体品質評価部が取得した前記全体品質情報をユーザに対して出力する出力部を有する、請求項1~3のいずれか一項に記載の青果物品質評価システム。
【請求項15】
前記撮像装置において、前記複数方向は、互いに逆向きの関係にある第1方向及び第2方向と、互いに逆向きの関係にあり前記第1方向及び前記第2方向と直交する第3方向及び第4方向と、互いに逆向きの関係にあり前記第1方向及び前記第2方向と直交し且つ前記第3方向及び前記第4方向と直交する第5方向及び第6方向である、請求項1~3のいずれか一項に記載の青果物品質評価システム。
【請求項16】
請求項1~3のいずれか一項に記載の青果物品質評価システムと、
前記青果物品質評価システムの前記全体品質評価部で取得した前記全体品質情報に基づいて前記青果物を品質別に振り分ける振り分け装置と、
を備える、青果物選別システム。
【請求項17】
青果物を複数方向から撮影して前記青果物の全体画像を構成する複数の部分画像を取得する撮像装置と、
前記撮像装置と通信可能であり、演算部及び記憶部を有するコンピュータ装置と、を備え、
前記記憶部は、
前記撮像装置で取得した前記複数の部分画像と、前記青果物の全体品質情報と、の関係性を規定した全体品質推定用モデルを格納し、
前記演算部は、
前記撮像装置で取得した前記複数の部分画像を前記全体品質推定用モデルに入力して前記全体品質情報を取得する全体品質評価部を有する、
青果物品質評価システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、青果物の品質を評価する技術に関する。
【背景技術】
【0002】
従来、果物や野菜などの青果物の生産者は、出荷前の青果物の外観を1つずつ目視で確認して選別する選別作業を行う。この選別作業は、生産者にとって青果物の価格に直結する収益上の重要な作業であるが、同じ姿勢で長時間にわたる目視作業であるゆえ、その作業負担が大きいという問題を抱えている。しかも、青果物の選別には精度の高い熟練度が要求されるため、一部の熟練者に選別作業が集中し易く、このような問題がより顕著になり得る。
【0003】
そこで、このような問題に対処するべく、熟練度の高い目視による総合的心象を忠実に再現できるシステムを構築する技術が求められている。例えば、下記特許文献1には、この種の技術として、リンゴの品質を推定する技術が開示されている。この技術では、リンゴの品質をその外観情報と栽培履歴に基づいて推定するリンゴ推定品質プログラムを実装したリンゴ品質推定システムが使用されている。このリンゴ品質推定システムにおいて、リンゴの外観情報を得るために、リンゴの撮像によって得られた画像情報の解析結果が用いられている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特許第6830685号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、例えば、リンゴのような評価対象の場合、全体的な形状が良好であるときでも、表面に目立つキズなどの欠点が1箇所でもあると選別結果で等級が大きく下がる可能性がある。そこで、品質評価の精度を高めるためには、評価対象の外観上の情報自体の精度を高める必要があり、評価対象の外観の全体の状態を木目細かく把握するという点が重要になる。
【0006】
しかしながら、この点について、特許文献1に開示のリンゴ品質推定システムは、単にリンゴの撮像によりその外観上の情報を得るという技術に止まるものである。このため、このリンゴ品質推定システムは、評価対象の外観の全体の状態を木目細かく把握するという観点での技術を用いるものとはいえず、品質評価について所望の精度を得るのが難しいという問題を抱えている。そして、このような問題は、リンゴのような果実類のみならず、トマトのような野菜類においても同様に起こり得る。
【0007】
本発明は、かかる課題に鑑みてなされたものであり、青果物の品質評価の精度に優れた青果物品質評価システムを提供しようとするものである。
【課題を解決するための手段】
【0008】
本発明の一態様は、
青果物を複数方向から撮影して前記青果物の全体画像を構成する複数の部分画像を取得する撮像装置と、
前記撮像装置と通信可能であり、演算部及び記憶部を有するコンピュータ装置と、を備え、
前記記憶部は、
前記撮像装置で取得した前記複数の部分画像のそれぞれと、前記複数の部分画像のそれぞれにラベリングされる個別品質スコアと、の関係性を規定した個別品質推定用モデルと、
複数の前記個別品質スコアの組み合わせと、前記青果物の全体品質情報と、の関係性に基づく全体品質推定用モデルと、を格納し、
前記演算部は、
前記撮像装置で取得した前記複数の部分画像を前記個別品質推定用モデルに入力して複数の前記個別品質スコアを取得する個別品質評価部と、
前記個別品質評価部で取得した複数の前記個別品質スコアを前記全体品質推定用モデルに入力して前記全体品質情報を取得する全体品質評価部と、を有する、
青果物品質評価システム、
にある。
【0009】
また、本発明の他の態様は、
青果物を複数方向から撮影して前記青果物の全体画像を構成する複数の部分画像を取得する撮像装置と、
前記撮像装置と通信可能であり、演算部及び記憶部を有するコンピュータ装置と、を備え、
前記記憶部は、
前記撮像装置で取得した前記複数の部分画像と、前記青果物の全体品質情報と、の関係性を規定した全体品質推定用モデルを格納し、
前記演算部は、
前記撮像装置で取得した前記複数の部分画像を前記全体品質推定用モデルに入力して前記全体品質情報を取得する全体品質評価部を有する、
青果物品質評価システム、
にある。
【発明の効果】
【0010】
上述の各態様の青果物品質評価システムは、青果物を複数方向から撮影して複数の部分画像を取得する撮像装置を備える。撮像装置が取得する複数の部分画像は、青果物の全体画像を構成するものである。したがって、この撮像装置によれば、青果物の一部のみを撮影するのに比べて取得できる青果物の外観情報の精度が高めることができ、青果物の外観の全体の状態を木目細かく把握することが可能になる。そして、撮像装置が取得した複数の部分画像は、コンピュータ装置に伝送される。
【0011】
本発明の一態様において、コンピュータ装置の演算部は、個別品質評価部及び全体品質評価部を有する。個別品質評価部によれば、撮像装置で取得した複数の部分画像が、記憶部から読み出した個別品質推定用モデルに入力されることで、複数の個別品質スコアを取得できる。また、全体品質評価部によれば、個別品質評価部で取得した複数の個別品質スコアが、記憶部から読み出した全体品質推定用モデルに入力されることで、青果物の全体品質情報を取得できる。撮像装置から個別品質推定用モデルに入力される青果物の外観情報の精度が高いため、この個別品質推定用モデルから得られる個別品質スコアの精度も高くなる。また、これに伴い、個別品質スコアの入力によって全体品質推定用モデルから得られる全体品質情報の精度も同様に高くなる。その結果、青果物の品質評価の精度を高めることができる。
【0012】
本発明の他の態様において、コンピュータ装置の演算部は、全体品質評価部を有する。全体品質評価部によれば、撮像装置で取得した複数の部分画像が、記憶部から読み出した全体品質推定用モデルに入力されることで、青果物の全体品質情報を取得できる。全体品質推定用モデルに入力される青果物の外観情報の精度が高いため、この全体品質推定用モデルから得られる全体品質情報の精度も同様に高くなる。その結果、青果物の品質評価の精度を高めることができる。
【0013】
以上のごとく、上述の態様によれば、青果物の品質評価の精度に優れた青果物品質評価システムを提供することができる。
【図面の簡単な説明】
【0014】
図1】実施形態1の青果物品質評価システムの構成を示す図。
図2図1の青果物品質評価システムを備える青果物選別システムの構成を示す図。
図3】2つの部分画像のオーバーラップについて説明するための図。
図4】各部分画像の全領域が他の部分画像にオーバーラップすることを説明するための図。
図5図1中のコンピュータ装置の構成を示すブロック図。
図6】実施形態1の個別品質スコア化段階について説明するための図。
図7】実施形態1の閾値設定段階について説明するための図。
図8】青果物の等級と閾値との関係を説明するための図。
図9】実施形態1の利用段階について説明するための図。
図10】実施形態2の青果物品質評価システムのコンピュータ装置の構成を示すブロック図。
図11】実施形態3の青果物品質評価システムの個別品質推定用モデルの種類を説明するための図。
図12】実施形態3の閾値設定段階について説明するための図。
図13】実施形態3の利用段階について説明するための図。
図14】実施形態3の各評価モデルと評価項目及び個別品質スコアとの関係について説明するための図。
図15】実施形態4の閾値設定段階について説明するための図。
図16】実施形態4の利用段階について説明するための図。
図17】実施形態4の各評価モデルと評価項目及び個別品質スコアとの関係について説明するための図。
【発明を実施するための形態】
【0015】
以下、青果物の品質を評価する技術の一実施形態について図面を参照しつつ説明する。
【0016】
なお、本形態を説明するための図面では、特にことわらない限り、水平方向をX軸方向とし、X軸方向と直交する上下方向をY軸方向とし、X軸方向とY軸方向の両方と直交する方向をZ軸方向とする。
【0017】
(実施形態1)
図1に示される、実施形態1の青果物品質評価システム1は、青果物Wの品質を評価するためのシステムである。この青果物品質評価システム1は、1または複数の略球状の実を有する果実類や野菜類のように、全体の外観状態を把握するのに複数方向から撮影した部分画像を組み合わせることが有効な青果物Wに用いられるのが好ましい。このような青果物Wとして典型的には、リンゴ、桃、梨、ブドウ、柑橘類などの各種の果物類や、トマトなどの野菜類などが挙げられる。この点を踏まえて、以下では、便宜上、青果物Wを略球体として説明する。
【0018】
青果物品質評価システム(以下、単に「評価システム」ともいう。)1は、その基本構成として、複数の撮像装置10と、コンピュータ装置20と、を備えている。必要に応じてその他の装置が追加されても良い。
【0019】
1.撮像装置10の構成
各撮像装置10は、撮像素子(図示省略)を内蔵するカメラである。この撮像装置10によれば、青果物Wの外表面で反射した反射光を撮像素子で受光することで、この撮像素子に画像が撮像される。撮像素子として、典型的には、CCD(Charge Coupled Device)イメージセンサーや、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサーが採用される。
【0020】
このとき、青果物Wを適正に撮影できるように、青果物Wに照射光を投光するのが好ましい。青果物Wの影が形成されたり関係のない反射光が入り込んだりして青果物Wの撮影環境が悪化するのを抑制するために、例えば、間接照明を使用することができる。
【0021】
各撮像装置10は、制御装置であるコンピュータ装置に電気的に接続されている。複数の撮像装置10はいずれも、撮影対象である青果物Wに向けて配置されている。本形態では、青果物Wを仮想の正六面体で囲む状態を想定したとき、この正六面体を構成する6つの外表面のそれぞれの法線方向である6方向から青果物Wが撮影されるように6つの撮像装置10が配置されている。これら6つの撮像装置10によれば、青果物Wを6方向から撮影して青果物Wの全体画像を構成する6つの部分画像I(I1,I2,I3,I4,I5,I6)を取得することができる。このとき、各部分画像Iは、カラー画像でもモノクロ画像でもよいが、青果物Wの品質評価の精度を高めるためには、カラー画像であるのが好ましい。
【0022】
ここでいう「青果物Wの全体画像を構成する6つの部分画像I」とは、それらの組み合わせによって青果物Wの全体の外観情報を取得できる複数の部分画像のことを意味するものである。したがって、複数の部分画像の組み合わせによって取得した情報が、青果物Wの全体の外観情報に相当するものでなく、青果物Wの部分的な外観情報のみにとどまるときには、当該複数の部分画像は除外される。
【0023】
また、ここでいう「6方向」とは、図1中の、第1方向D1、第2方向D2、第3方向D3、第4方向D4、第5方向D5、第6方向D6である。第1方向D1及び第2方向D2は、いずれもX軸方向に平行で互いに逆向きの関係にある。第3方向D3及び第4方向D4は、いずれもY軸方向に平行で互いに逆向きの関係にあり第1方向D1及び第2方向D2と直交する方向である。第5方向D5及び第6方向D6は、いずれもZ軸方向に平行で互いに逆向きの関係にあり第1方向D1及び第2方向D2と直交し且つ第3方向D3及び第4方向D4と直交する方向である。このため、6つの部分画像I1,I2,I3,I4,I5,I6はそれぞれ、青果物Wを6方向D1,D2,D3,D4,D5,D6のそれぞれからから撮影する撮像装置10によって取得される。
【0024】
青果物Wの撮影においては、この青果物Wを収容可能であり、正六面体に相当する形状を有する撮像箱11を使用することができる。この場合、撮像箱11の6つの壁部のそれぞれの内側に撮像装置10を取り付けて撮影を行う。或いは、撮像箱11の各壁部を透明の素材によって構成し、各壁部の外側に撮像装置10を取り付けて撮影を行うようにしても良い。これにより、青果物Wを撮像箱11に収容した状態で6つの撮像装置10によって6方向の全方位から撮影することができる。
【0025】
青果物Wを撮影するとき、環状(「ドーナツ状」ともいう。)の支持部材12を使用するのが好ましい。この支持部材12には、青果物Wの外径の最小値を下回る内径を有する開口12aが設けられている。このため、青果物Wを支持部材12にその上方から開口12aを塞ぐように置くことによって、この青果物Wは支持部材12によって下方から支持される。このとき、青果物Wは、支持部材12の開口12aを通じて撮像装置10による下方からの撮影が可能になる。したがって、撮像箱11に収容された支持部材12に青果物Wを置いた状態で、この青果物Wを全方位から撮影できる。支持部材12を使用すれば、青果物Wが隠れる領域を小さく抑えることができ、青果物Wの概ね全体を6つの撮像装置10で撮影することが可能になる。
【0026】
上記構成の評価システム1によれば、支持部材12を収容する撮像箱11に撮像装置10を取り付けることによって、青果物Wを6方向から撮影する構造を具現化することができる。
【0027】
なお、図2に示されるように、図1中の撮像箱11を使用する評価システム1とは別構造の評価システム2を採用することもできる。評価システム2は、振り分け装置17との組み合わせによって、青果物Wの選別を行う青果物選別システム101を構成している。
【0028】
評価システム2では、搬送ライン13のベルトコンベア14で搬送されるトレイ15が使用されている。搬送ライン13においてベルトコンベア14は、青果物Wの振り分け装置17に向けて図2中の矢印で示される搬送方向に動く。これにより、ベルトコンベア14上に置かれているトレイ15もこの搬送方向と同方向に振り分け装置17に向けて移動する。
【0029】
トレイ15は、例えば、青果物Wを置くことができる上蓋付きの箱状部材であり、前記の支持部材12と同様の機能を有する中段プレート16を収容している。すなわち、中段プレート16には、青果物Wの外径の最小値を下回る内径を有する開口16aが設けられている。このトレイ15では、特に図示しないものの、蓋部と、4つの側壁部と、底壁部のそれぞれの内側に撮像装置10が取り付けられている。これにより、搬送ライン13における搬送過程でトレイ15に置かれている青果物Wの全方位からの撮影を搬送と並行して行うことができる。
【0030】
振り分け装置17は、評価システム2で評価済の青果物Wを品質別に振り分けるための装置である。詳細な構造については特に図示しないものの、この振り分け装置17は、トレイ15に置かれている青果物Wの品質に応じて、当該トレイ15を青果物Wの品質に相当する処理エリア(品質別に設けられた箱詰めエリアないし廃棄エリア)に搬送する機能を有する。
【0031】
青果物Wの全体品質情報として、例えば、5つの等級(高品質のものから順に、A等級、B等級、C等級、D等級、E等級)と、NG(廃棄)と、の6つの品質を設定することができる。この場合、トレイ15は、振り分け装置17による振り分けにしたがって、6つの処理エリアのいずれかに搬送される。
【0032】
なお、上記構成の評価システム2は、既存の搬送ライン13に後付けできる取付構造を有するのが好ましい。これにより、評価システム2の汎用性を高めることができる。また、トレイ15に代えて或いは加えて、撮像箱11を搬送ライン13で搬送するようにしてもよい。
【0033】
上記構成の評価システム2によれば、搬送ライン13で搬送されるトレイ15に撮像装置10を取り付けることによって、青果物Wを搬送時に6方向から撮影する構造を具現化することができる。
【0034】
また、上記構成の青果物選別システム101によれば、青果物Wの全体品質評価から最終的な選別までの一例の作業を自動化することができる。その結果、作業者の作業負担を軽減させることができる。
【0035】
本形態の場合、6つの撮像装置10を使用することにより、6つの部分画像Iが部分的に重なり合うようにオーバーラップするように青果物Wが撮影される。つまり、青果物Wの互いに隣り合う2つの部分画像Iについては、一方の部分画像Iの一部と他方の部分画像Iの一部とがオーバーラップ部となり、このオーバーラップ部については少なくも2方向からの画像情報を得ることができる。
【0036】
例えば、図3に示されるように、青果物Wを第1方向D1から撮影する撮像装置10が取得した、青果物Wの半球部分の部分画像I1と、青果物Wを第5方向D5から撮影する撮像装置10が取得した、青果物Wの半球部分の部分画像I5と、を参照する。このとき、便宜上、部分画像I1,I5の形状を円として説明する。この場合、2つの部分画像I1,I5は、青果物Wの重なり撮像領域Waに相当するオーバーラップ部Jでオーバーラップする。青果物Wをこのように撮影すれば、1つの部分画像Iのみでの品質評価に比べて、品質評価の精度を高めるのに有効である。例えば、色むらなどの検出を高精度で行うことが可能になる。
【0037】
また、本形態のように、青果物Wを6方向D1,D2,D3,D4,D5,D6から撮影することにより、6つの部分画像Iは、各部分画像Iの全領域が他の部分画像Iにオーバーラップするようになる。特に、各部分画像Iの全領域が他の2つの部分画像Iにオーバーラップするようになる。これにより、青果物Wの大きさや形状などにかかわらず、各部分画像Iにオーバーラップ部Jを確実に形成させることができる。
【0038】
例えば、図4に示されるように、部分画像I1について確認すれば、部分画像I1の1つの四分円(図中の右上の四分円)は、他の2つの部分画像I3,I5の両方とオーバーラップするオーバーラップ部J1となる。また、部分画像I1の他の四分円(図中の左上の四分円)は、他の2つの部分画像I3,I6の両方とオーバーラップするオーバーラップ部J2となる。また、部分画像I1の他の四分円(図中の左下の四分円)は、他の2つの部分画像I4,I6の両方とオーバーラップするオーバーラップ部J3となる。また、部分画像I1の他の四分円(図中の右下の四分円)は、他の2つの部分画像I4,I5の両方とオーバーラップするオーバーラップ部J4となる。このように、部分画像I1の全領域が他の2つの部分画像Iにオーバーラップしている。これにより、部分画像I1の4つの四分円のいずれについても、合計で3つの部分画像Iから品質情報を得ることができる。その結果、品質評価の精度をさらに高めることができる。
【0039】
なお、前述の評価システム1,2(図1及び図2を参照)のように、1つの青果物Wの6つの部分画像Iを6つの撮像装置10で取得する構造に代えて、1つの青果物Wの6つの部分画像Iを1つの撮像装置10で取得する構造を採用するようにしてもよい。この構造では、例えば、青果物Wと撮像装置10の少なくとも一方をロボットアーム(図示省略)で動かして、青果物Wと撮像装置10の相対位置を可変とする機構を用いることができる。
【0040】
2.コンピュータ装置20の全体構成
図1に示されるように、コンピュータ装置20は、各撮像装置10と通信可能に構成されている。このコンピュータ装置20は、その基本構成として、撮像制御部30と、演算部40と、記憶部50と、出力部60と、を有する。このコンピュータ装置20は、既知のCPU(Central Processing Unit)、ROM、RAM、外部機器との間での入出力を行うインターフェース等を有するデスクトップ型若しくはノート型のパーソナルコンピュータ(PC)、タブレット端末、モバイル端末などによって構成されるのが好ましい。このコンピュータ装置20は、通信ネットワークを介して外部機器に送受信可能に接続されるのが好ましい。
【0041】
撮像制御部30は、青果物Wの撮影時に6つの撮像装置10に制御信号を出力するように構成されている。この撮像制御部30によれば、各撮像装置10の作動条件が制御される。このとき、6つの撮像装置10によって6つの部分画像Iが出力される。これら6つの部分画像I(I1~I6)は、コンピュータ装置20に伝送されて適宜に処理される。
【0042】
3.記憶部50の構成
図5に示されるように、記憶部50は、データ記憶部51と、モデル記憶部52と、を有する。
【0043】
データ記憶部51は、演算部40の画像取得部41から入力された6つの部分画像Iと、演算部40のデータ入力部43から入力された各種のデータと、を格納する。一方で、モデル記憶部52は、いずれも演算部40のモデル生成部44で生成した個別品質推定用モデルMa及び全体品質推定用モデルMbを格納する。
【0044】
ここで、個別品質推定用モデルMaは、6つの撮像装置10で取得した6つの部分画像Iのそれぞれと、6つの複数の部分画像Iのそれぞれにラベリングされる個別品質スコアSaと、の関係性を規定したモデルである。全体品質推定用モデルMbは、6つの個別品質スコアSaの組み合わせと、青果物Wの全体品質情報である等級Tと、の関係性を規定したモデルである。
【0045】
4.演算部40の構成
図5に示されるように、演算部40は、画像取得部41,42と、データ入力部43と、モデル生成部44と、個別品質評価部45と、全体品質評価部46と、を有する。
【0046】
画像取得部41は、6つの撮像装置10から6つの部分画像Iを取得して、これら6つの部分画像Iをデータ記憶部51に入力する。これに対して、画像取得部42は、6つの撮像装置10から6つの部分画像Iを取得して、これら6つの部分画像Iを個別品質評価部45に入力する。
【0047】
データ入力部43は、個別品質推定用モデルMa及び全体品質推定用モデルMbを生成するために必要となる各種のデータをデータ記憶部51に入力する。ここでいう「各種のデータ」には、予め準備された訓練データセット、訓練用プログラム(訓練前パラメータ)、相関モデルや回帰モデルに基づいて予め準備された相関プログラムなどが含まれている。
【0048】
モデル生成部44は、データ記憶部51から読み出した訓練データセットを使用した機械学習によって個別品質推定用モデルMaを生成する。一方で、モデル生成部44は、データ記憶部51から読み出した相関モデルや回帰モデルにしたがって全体品質推定用モデルMbを生成する。そして、このモデル生成部44は、生成したこれらの個別品質推定用モデルMa及び全体品質推定用モデルMbをモデル記憶部52に出力する。なお、モデル生成部44が機械学習によって全体品質推定用モデルMbを生成するようにしても良い。
【0049】
個別品質評価部45は、6つの撮像装置10で取得した6つの部分画像Iを、モデル記憶部52から読み出した個別品質推定用モデルMaに入力する。これにより、個別品質評価部45は、各部分画像Iの個別品質スコアSaを取得する。全体品質評価部46は、個別品質評価部45で取得した6つの個別品質スコアSaを、モデル記憶部52から読み出した全体品質推定用モデルMbに入力する。これにより、全体品質評価部46は、青果物Wの等級Tを取得する。
【0050】
5.出力部60の構成
出力部60は、演算部40の全体品質評価部46が取得した、青果物Wの等級Tをユーザに対して外部出力する機能を有する。この出力部60として典型的には、情報を表示出力するモニター、情報を音声出力するスピーカー、情報を印字出力するプリンター等の出力手段を用いることができる。この出力部60によれば、青果物Wの等級Tをユーザに教示することができ、ユーザは青果物Wの等級Tを容易に認識できるようになる。必要に応じて、この出力部60を省略してもよい。
【0051】
6.青果物Wの品質評価方法
次に、図6図9を参照しながら、青果物Wの品質評価方法について説明する。この品質評価方法には、以下の、個別品質スコア化段階と、学習段階と、閾値設定段階と、利用段階が少なくとも含まれている。
【0052】
6.1 個別品質スコア化段階
先ず、個別品質スコア化段階では、青果物Wの個別品質評価のために、6つの部分画像Iのそれぞれを品質評価スキルに優れた熟練者がスコア化する。ここでいう「スコア化」を「ラベル付け」或いは「ラベリング」ということもできる。
【0053】
本形態では、各部分画像Iを5段階でスコア化する評価形態を例示している。この評価形態において、最良品から品質が低くなるスコア順に5点、4点、3点、2点、1点とし、最も品質が低いNG品を1点としている。例えば、色むら、キズ、割れ、穴あき等の不良の度合いが出荷基準を超えるような低品質の場合に、個別品質スコアを1点とすることができる。なお、このスコアの値は特に限定されるものではなく、ユーザが適宜に設定することができる。
【0054】
熟練者が青果物Wのスコア化を予め行うことにより、各部分画像Iと個別品質スコアとの関係についてのデータセットを取得できる。取得したデータセットは、データ入力部43からデータ記憶部51に入力される(図5を参照)。
【0055】
ここで、6つの部分画像Iが熟練者による評価結果にしたがって図6に示されるような個別品質スコアSaにスコア化された場合を検討する。部分画像I1は、その個別品質スコアSaが「1点」とされている。2つの部分画像I2,I3はいずれも、その個別品質スコアSaが「3点」とされている。2つの部分画像I4,I5はいずれも、その個別品質スコアSaが「5点」とされている。部分画像I6は、その個別品質スコアSaが「4点」とされている。
【0056】
個別品質推定用モデルMaで使用する個別品質スコアSaは、1つの評価項目に基づいたスコアであっても良いし、或いは、複数の評価項目に基づいたスコアであっても良い。ここでいう「評価項目」として、例えば、色むら、キズ、割れ、穴あきなどが挙げられる。複数の評価項目の組み合わせを適宜に変更することで、部分画像Iの評価のバリエーションを増やすことが可能になる。
【0057】
1つの評価項目を使用する場合には、その評価項目自体が個別品質スコアSaになる。したがって、各部分画像Iには、その評価項目についての1つのラベル付けがなされる。これに対して、複数の評価項目を使用する場合には、各評価項目について部分画像Iをスコア化し、それら複数の評価項目のスコアを予め定めたルールにしたがって組み合わせることにより、最終的に1つの個別品質スコアSaが導出される。したがって、各部分画像Iには、複数の評価項目が統合された包括評価項目についての1つのラベル付けがなされる。
【0058】
なお、モデル記憶部52に格納する個別品質推定用モデルMaの数は1つであっても良いし、或いは複数であっても良い。この場合、個別品質推定用モデルMaとして、例えば、「色むら」という評価項目に特化した「色むら推定用モデル」、「キズ」という評価項目に特化した「キズ推定用モデル」、「割れ」という評価項目に特化した「割れ推定用モデル」、「穴あき」という評価項目に特化した「穴あき推定用モデル」、複数の評価項目を統合した「包括推定用モデル」などを採用することができる。互いに評価項目が異なる複数の個別品質推定用モデルMaを採用する場合、例えば、品質評価に対する影響度合いの大きい順番や発生する可能性の高い順番を予め定めて、当該順番にしたがって各個別品質推定用モデルMaを用いて個別品質スコアSaを導出することができる。
【0059】
6.2 学習段階
学習段階では、各部分画像Iと個別品質スコアSaとの関係を、所謂「AI(人工知能)」により機械学習する。このときの訓練データセットとして、前記のスコア化段階で熟練者がスコア化することによって取得したデータセットを使用する。これにより、個別品質推定用モデルMaを生成する。この個別品質推定用モデルMaは、訓練済みパラメータを含む訓練済みモデルである。
【0060】
なお、この学習段階で使用する個別品質スコアSaの数は特に限定されるものではない。すなわち、6つの部分画像Iについての6つの個別品質スコアSaの全てを使用しても良いし、或いは6つの個別品質スコアSaのうちの一部のみを使用しても良い。例えば、確信度が高い個別品質スコアSaを優先的に学習段階で使用することができる。具体的には、スコアが「5点」および「1点」である個別品質スコアSaの確信度が高いときには、スコアが「5点」および「1点」である個別品質スコアSaのみを学習段階で使用し、それ以外の個別品質スコアSaは学習段階で使用しないように設定することができる。また、確信度に応じてスコアを変更するようにしても良い。例えば、「5点」である確信度が基準値を下回るときに、スコアを「4点」に変更することができる。
【0061】
6.3 閾値設定段階
図7に示されるように、閾値設定段階では、6つの個別品質スコアSaのうちの複数を予め定めたルールにしたがって組み合わせたうえで、予め準備された相関プログラム(相関式)Pに導入する。この相関プログラムPは、全体品質推定用モデルMbを構成するものであり、6つの個別品質スコアSaの組み合わせと全体品質スコアSbとの相関を示すプログラムである。このため、この相関プログラムPによれば、複数の個別品質スコアSaの組み合わせから全体品質スコアSbを自動で演算することができる。そして、全体品質スコアSbの演算結果に基づいて閾値Thの設定を行う。
【0062】
なお、6つの個別品質スコアSaの組み合わせについては、6つの個別品質スコアSaの全てを組み合わせるようにしても良いし、或いは6つの個別品質スコアSaのうちの一部の複数を組み合わせるようにしても良い。また、これら複数の個別品質スコアSaのそれぞれに重み付けをしたうえで互いに組み合わせるようにしても良い。また、機械学習を用いてもよい。
【0063】
図8に示されるように、本形態では、A等級からE等級までの5つの等級Tを区分するための閾値Thとして、4つの閾値Th1,Th2,Th3,Th4を設定している。例えば、相関プログラムPで演算した全体品質スコアSbが閾値Th1を上回る場合には、青果物Wの等級TがA等級であると判定される。また、相関プログラムPで演算した全体品質スコアSbが閾値Th2と閾値Th3との間にある場合には、青果物Wの等級TがC等級であると判定される。なお、青果物WがNG(廃棄)であるか否かの判定は、閾値による判定とは別に実施するのが好ましい。
【0064】
6.4 利用段階
図8に示されるように、利用段階では、先ず、個別品質評価部45において、訓練済みモデルである個別品質推定用モデルMaに6つの部分画像I(I1~I6)を入力する。これにより、6つの部分画像I(I1~I6)のそれぞれの個別品質スコアSaが導出される。引き続いて、全体品質評価部46において、複数の個別品質スコアSaを全体品質推定用モデルMbに入力する。これにより、青果物Wの全体品質情報である等級Tが導出される。そして、この等級Tは、出力部60によってユーザに出力される。
【0065】
なお、本形態では、等級Tを全体品質情報とする場合について例示したが、この等級Tに代えて或いは加えて、全体品質スコアSbを全体品質情報とすることもできる。
【0066】
7.作用効果
上述の実施形態1によれば、以下のような作用効果が得られる。
【0067】
実施形態1の評価システム1,2は、青果物Wを6方向から撮影して6つの部分画像Iを取得する撮像装置10を備える。撮像装置10が取得する6つの部分画像Iは、青果物Wの全体画像を構成するものである。したがって、この撮像装置10によれば、青果物Wの一部のみを撮影するのに比べて取得できる青果物Wの外観情報の精度が高めることができ、青果物Wの外観の全体の状態を木目細かく把握することが可能になる。そして、撮像装置10が取得した6つの部分画像Iは、コンピュータ装置20に伝送される。
【0068】
コンピュータ装置20の演算部40は、個別品質評価部45及び全体品質評価部46を有する。個別品質評価部45によれば、撮像装置10で取得した6つの部分画像Iが、モデル記憶部52から読み出した個別品質推定用モデルMaに入力されることで、6つの個別品質スコアSaを取得できる。また、全体品質評価部46によれば、個別品質評価部45で取得した6つの個別品質スコアSaが、モデル記憶部52から読み出した全体品質推定用モデルMbに入力されることで、青果物Wの全体品質情報である等級Tを取得できる。
【0069】
本形態では、撮像装置10から個別品質推定用モデルMaに入力される青果物Wの外観情報の精度が高いため、この個別品質推定用モデルMaから得られる個別品質スコアSaの精度も高くなる。また、これに伴い、個別品質スコアSaの入力によって全体品質推定用モデルMbから得られる等級Tの精度も同様に高くなる。その結果、青果物Wの等級Tの精度を高めることができる。
【0070】
以上のごとく、上述の実施形態1によれば、青果物Wの品質評価の精度に優れた青果物品質評価システム1,2を提供することができる。この青果物品質評価システム1,2は、熟練度の高い目視による総合的心象を忠実に再現できるシステムであり、青果物Wの選別作業に要する作業負担を軽減するのに有効である。
【0071】
以下、上述の実施形態1に関連する他の実施形態について図面を参照しつつ説明する。他の実施形態において、実施形態1の要素と同一の要素には同一の符号を付しており、当該同一の要素についての説明は省略する。
【0072】
(実施形態2)
図10に示される、実施形態2の評価システム3は、そのコンピュータ装置20Aの構成が実施形態1の評価システム1のものと相違している。コンピュータ装置20Aは、撮像制御部30(図1を参照)と、演算部40Aと、記憶部50Aと、出力部60と、を有する。
【0073】
8.記憶部50Aの構成
図10に示されるように、記憶部50Aは、データ記憶部51と、モデル記憶部52と、を有する。データ記憶部51は、演算部40Aの画像取得部41から入力された6つの部分画像I(I1~I6)と、演算部40Aのデータ入力部43から入力された各種のデータと、を格納する。モデル記憶部52は、いずれも演算部40Aのモデル生成部44で生成した全体品質推定用モデルMcを格納する。
【0074】
ここで、全体品質推定用モデルMcは、6つの撮像装置10で取得した6つの部分画像I((I1~I6))と、青果物Wの等級Tと、の関係性を規定したモデルである。
【0075】
9.演算部40Aの構成
図10に示されるように、演算部40Aは、画像取得部41,42と、モデル生成部44と、全体品質評価部46と、を有する。
【0076】
画像取得部41は、6つの撮像装置10から6つの部分画像Iを取得して、これら6つの部分画像Iをデータ記憶部51に入力する。これに対して、画像取得部42は、6つの撮像装置10から6つの部分画像Iを取得して、これら6つの部分画像Iを全体品質評価部46に入力する。
【0077】
データ入力部43は、全体品質推定用モデルMcを生成するために必要となる各種のデータをデータ記憶部51に入力する。
【0078】
モデル生成部44は、データ記憶部51から読み出した訓練データセットを使用した機械学習によって全体品質推定用モデルMcを生成する。そして、このモデル生成部44は、生成した全体品質推定用モデルMcをモデル記憶部52に出力する。ディープラーニング(深層学習)を使用して全体品質推定用モデルMcを生成しても良い。
【0079】
全体品質評価部46は、画像取得部42で取得した6つの部分画像Iを、モデル記憶部52から読み出した全体品質推定用モデルMcに入力する。これにより、全体品質評価部46は、青果物Wの等級Tを取得する。
【0080】
その他の構成は、実施形態1と同様である。
【0081】
上述の実施形態2において、コンピュータ装置20の演算部40Aは、全体品質評価部46を有する。全体品質評価部46によれば、撮像装置10で取得した6つの部分画像Iが、モデル記憶部52から読み出した全体品質推定用モデルMcに入力されることで、青果物の全体品質情報である等級Tを取得できる。本形態では、全体品質推定用モデルMcに入力される青果物Wの外観情報の精度が高いため、この全体品質推定用モデルMcから得られる等級Tの精度も同様に高くなる。その結果、青果物Wの品質評価の精度を高めることができる。
【0082】
したがって、上述の実施形態2によれば、青果物Wの品質評価の精度に優れた青果物品質評価システム3を提供することができる。
【0083】
その他、実施形態1と同様の作用効果を奏する。
【0084】
(実施形態3)
実施形態3では、実施形態1の場合と同様の評価システム1(図5を参照)を使用する。一方で、実施形態3では、使用する個別品質推定用モデルMaが実施形態1のものと相違している。その他は、実施形態1と同様である。
【0085】
図11に示されるように、実施形態3の個別品質推定用モデルMaは、異常評価モデルMa1と形状評価モデルMa2と外観評価モデルMa3によるものである。異常評価モデルMa1は、青果物Wの異常の有無を評価するためのモデルである。形状評価モデルMa2は、青果物Wの形状を評価するためのモデルである。外観評価モデルMa3は、青果物Wの外観全般を評価するためのモデルである。要するに、本形態では、青果物Wの評価項目に「異常の有無」と「形状」と「外観全般」の3種類を採用している。これら3種類の評価モデルMa1,Ma2,Ma3は、モデル記憶部52に格納される。
【0086】
異常評価モデルMa1は、青果物Wの部分画像Iと、部分画像Iにラベリングされる個別品質スコアSa1と、の関係性を規定したモデルである。個別品質スコアSa1は、異常の有無について予め評価したスコアである。形状評価モデルMa2は、青果物Wの部分画像Iと、部分画像Iにラベリングされる個別品質スコアSa2と、の関係性を規定したモデルである。個別品質スコアSa2は、形状について予め評価したスコアである。外観評価モデルMa3は、青果物Wの部分画像Iと、部分画像Iにラベリングされる個別品質スコアSa3と、の関係性を規定したモデルである。個別品質スコアSa3は、形状について予め評価したスコアである。
【0087】
なお、実施形態3では、3種類の評価モデルMa1,Ma2,Ma3のうちの少なくとも1つを使用することができる。また、3種類の評価モデルMa1,Ma2,Ma3のそれぞれの数は1つであっても良いし、複数の異なる評価項目に応じて複数であっても良い。
【0088】
図12に示されるように、実施形態3の閾値設定段階では、3つの個別品質スコアSa1,Sa2,Sa3を予め定めたルールにしたがって組み合わせたうえで、予め準備された相関プログラムPに導入する。この相関プログラムPは、全体品質推定用モデルMbを構成するものであり、3つの個別品質スコアSa1,Sa2,Sa3と全体品質スコアSbとの相関を示すプログラムである。このため、この相関プログラムPによれば、3つの個別品質スコアSa1,Sa2,Sa3の組み合わせから全体品質スコアSbを自動で演算することができる。そして、実施形態1の場合と同様に、全体品質スコアSbの演算結果に基づいて閾値Thの設定を行う。
【0089】
図13に示されるように、実施形態3の利用段階では、先ず、個別品質評価部45において、訓練済みモデルである個別品質推定用モデルMaに部分画像Iを入力する。これにより、部分画像Iについて3つの個別品質スコアSa1,Sa2,Sa3が導出される。すなわち、個別品質評価部45は、モデル記憶部52から読み出した異常評価モデルMa1に部分画像Iを入力することにより個別品質スコアSa1を取得する。また、個別品質評価部45は、モデル記憶部52から読み出した異常評価モデルMa2に部分画像Iを入力することにより個別品質スコアSa2を取得する。さらに、個別品質評価部45は、モデル記憶部52から読み出した異常評価モデルMa3に部分画像Iを入力することにより個別品質スコアSa3を取得する。
【0090】
引き続いて、全体品質評価部46において、3つの個別品質スコアSa1,Sa2,Sa3を全体品質推定用モデルMbに入力する。これにより、実施形態1の場合と同様に、青果物Wの全体品質情報である等級Tが導出される。そして、この等級Tは、出力部60によってユーザに出力される。
【0091】
ここで、実施形態3において、青果物Wがリンゴ属の果物である場合の具体例について説明する。図14に示されるように、この場合には、例えば、3つの異常評価モデルMa1と、1つの形状評価モデルMa2と、1つの外観評価モデルMa3を使用することができる。本形態では、「異常の有無」という評価項目の重要性に鑑みて、3つの異常評価モデルMa1を使用して異常の種類を細分化するようにしている。
【0092】
1つの目の異常評価モデルMa1では、評価項目を「大キズ(「生キズ」ともいう。)」とする。例えば、大キズが有る場合に部分画像Iにラベリングする個別品質スコアSa1を「0」とし、大キズが無い場合に部分画像Iにラベリングする個別品質スコアSa1を「1」とすることができる。これにより、利用段階において、0~1までの間の数値の個別品質スコアSa1がこの異常評価モデルMa1から取得される。このときの個別品質スコアSa1は、大キズによる異常が大きいほど低くなり、大キズによる異常が小さいほど高くなる。この異常評価モデルMa1の場合、6方向の部分画像Iを使用するのが好ましい。
【0093】
2つの目の異常評価モデルMa1では、評価項目を「ツル割れ」とする。例えば、ツル割れが有る場合に部分画像Iにラベリングする個別品質スコアSa1を「0」とし、ツル割れが無い場合に部分画像Iにラベリングする個別品質スコアSa1を「1」とすることができる。これにより、利用段階において、0~1までの間の数値の個別品質スコアSa1がこの異常評価モデルMa1から取得される。このときの個別品質スコアSa1は、ツル割れによる異常が大きいほど低くなり、ツル割れによる異常が小さいほど高くなる。この異常評価モデルMa1の場合、ツル割れの発生する箇所に対応した上方向(例えば、図1中の第3方向D3)からの部分画像Iのみを使用すれば良い。
【0094】
3つの目の異常評価モデルMa1では、評価項目を「虫食い」とする。例えば、虫食いが有る場合に部分画像Iにラベリングする個別品質スコアSa1を「0」とし、虫食いが無い場合に部分画像Iにラベリングする個別品質スコアSa1を「1」とすることができる。これにより、利用段階において、0~1までの間の数値の個別品質スコアSa1がこの異常評価モデルMa1から取得される。このときの個別品質スコアSa1は、虫食いによる異常が大きいほど低くなり、虫食いによる異常が小さいほど高くなる。この異常評価モデルMa1の場合、虫食いの発生する箇所に対応した下方向(例えば、図1中の第4方向D4)からの部分画像Iのみを使用すれば良い。
【0095】
形状評価モデルMa2では、評価項目を「形状」とする。例えば、形状が不合格である場合に部分画像Iにラベリングする個別品質スコアSa2を「0」とし、形状が合格である場合に部分画像Iにラベリングする個別品質スコアSa2を「1」とすることができる。これにより、利用段階において、0~1までの間の数値の個別品質スコアSa2が形状評価モデルMa2から取得される。このときの個別品質スコアSa2は、形状が悪いほど低くなり、形状が良いほど高くなる。この異常評価モデルMa2の場合、6方向の部分画像Iを使用するのが好ましい。
【0096】
外観評価モデルMa3では、評価項目を「外観全般」とする。ここでいう「外観全般」とは、形状に関係しない項目であって、色むら、小キズ、さび、葉痕、枝痕のそれぞれの状況を包括した概念である。本形態では、外観の評価は人によって変わる可能性が高いことを踏まえて、あえて複数の項目を含む概念についての評価とした。例えば、外観全般が不合格である場合に部分画像Iにラベリングする個別品質スコアSa3を「0」とし、外観全般が合格である場合に部分画像Iにラベリングする個別品質スコアSa3を「1」とすることができる。これにより、利用段階において、0~1までの間の数値の個別品質スコアSa3が外観評価モデルMa3から取得される。このときの個別品質スコアSa3は、外観全般が悪いほど低くなり、外観全般が良いほど高くなる。この異常評価モデルMa3の場合、6方向の部分画像Iを使用するのが好ましい。
【0097】
実施形態3によれば、青果物Wの評価項目に「異常の有無」と「形状」と「外観全般」の3種類を採用することによって、青果物Wの等級判別の精度を高めることができる。必要に応じて、これら3種類のうちの1種類或いは2種類に評価項目を変更しても良い。特に「異常の有無」を必須の評価項目にするのが好ましい。これにより、例えば、青果物Wを生食用として出荷できるか否かを精度良く判定する助けになる。
【0098】
(実施形態4)
実施形態4は、実施形態3と類似の形態であり、3種類の評価モデルMa1,Ma2,Ma3を使用する。実施形態4は、個別品質スコアSa1,Sa2,Sa3に重み付けを実施する点と、全体品質評価部46の全体品質推定用モデルMbで重み付け後の個別品質スコアSa1’,Sa2’,Sa3’を使用する点で、実施形態3と相違している。その他は、実施形態3と同様である。
【0099】
図15に示されるように、実施形態4の閾値設定段階では、3つの個別品質スコアSa1,Sa2,Sa3をそれぞれ重み係数wtで重み付けしたのち、予め定めたルールにしたがって組み合わせたうえで、予め準備された相関プログラムPに導入する。この相関プログラムPは、全体品質推定用モデルMbを構成するものであり、重み付け後の3つの個別品質スコアSa1’,Sa2’,Sa3’と全体品質スコアSbとの相関を示すプログラムである。このため、この相関プログラムPによれば、3つの個別品質スコアSa1’,Sa2’,Sa3’の組み合わせから全体品質スコアSbを自動で演算することができる。そして、実施形態1の場合と同様に、全体品質スコアSbの演算結果に基づいて閾値Thの設定を行う。
【0100】
全体品質評価部46の全体品質推定用モデルMbは、3つの個別品質スコアSa1’,Sa2’,Sa3’の組み合わせと青果物Wの全体品質スコアSbとの関係性を規定したモデルである。この場合、個別品質スコアSa1’,Sa2’,Sa3’が個別品質スコアSa1,Sa2,Sa3を重み付けしたスコアであるため、全体品質推定用モデルMbを、「重み付け前の3つの個別品質スコアSa1,Sa2,Sa3の組み合わせと青果物Wの全体品質情報Sbとの関係性に基づくモデル」ということもできる。
【0101】
図16に示されるように、実施形態4の利用段階では、先ず、個別品質評価部45において、訓練済みモデルである個別品質推定用モデルMaに部分画像Iを入力する。これにより、部分画像Iについて3つの個別品質スコアSa1,Sa2,Sa3が導出される。引き続いて、全体品質評価部46において、3つの個別品質スコアSa1,Sa2,Sa3に重み係数wtを掛けて重み付け後の3つの個別品質スコアSa1’,Sa2’,Sa3’を導出する。
【0102】
引き続いて、全体品質評価部46において、3つの個別品質スコアSa1’,Sa2’,Sa3’を全体品質推定用モデルMbに入力する。これにより、実施形態3の場合と同様に、青果物Wの全体品質情報である等級Tが導出される。そして、この等級Tは、出力部60によってユーザに出力される。
【0103】
ここで、実施形態4において、青果物Wがリンゴ属の果物である場合の具体例について説明する。図17に示されるように、この場合には、実施形態3の場合と同様に、例えば、3つの異常評価モデルMa1と、1つの形状評価モデルMa2と、1つの外観評価モデルMa3を使用することができる。
【0104】
各異常評価モデルMa1から導出された個別品質スコアSa1に重み係数wt1を掛けることによって個別品質スコアSa1’が算出される。3つの異常評価モデルMa1につては同一の重み係数wt1を使用するのが好ましい。形状評価モデルMa2から導出された個別品質スコアSa2に重み係数wt2を掛けることによって個別品質スコアSa2’が算出される。外観評価モデルMa3から導出された個別品質スコアSa3に重み係数wt3を掛けることによって個別品質スコアSa3’が算出される。
【0105】
なお、3つの重み係数wt1,wt2,wt3は、全てが同一の値であっても良いし、或いは全てが異なる値であっても良いし、或いはいずれか2つが同一の値であっても良い。
【0106】
3つの重み係数wt1,wt2,wt3の関係については、青果物Wがリンゴ属の果物であるか否かにかかわらず、重み係数wt1を、残りの2つの重み係数wt2,wt3に比べて重み付けの影響度が高くなる値に設定するのが好ましい。例えば、異常があるほど個別品質スコアSa1が大きくなるような設定である場合には、重み係数wt1を最も大きい値に設定する。これに対して、異常があるほど個別品質スコアSa1が小さくなるような設定である場合には、重み係数wt1を最も小さい値に設定する。
【0107】
さらに、青果物Wがリンゴ属の果物である場合に限っては、2つの重み係数wt2,wt3の関係については、重み係数wt3を、重み係数wt2に比べて重み付けの影響度が高くなる値に設定するのが好ましい。例えば、形状や外観全般が悪いほど個別品質スコアSa2,Sa3が大きくなるような設定である場合には、重み係数wt3を重み係数wt2よりも大きい値に設定する。これに対して、形状や外観全般が悪いほど個別品質スコアSa1が小さくなるような設定である場合には、重み係数wt3を重み係数wt2よりも小さい値に設定する。
【0108】
上述のように、発明者による評価実績の知見に基づいた場合、青果物Wがリンゴ属の果物であるときには、重み係数wt1による重み付けの影響度が最も高く、重み係数wt2による重み付けの影響度が最も低くなるように、重み付けに優先順位を付けることが有効であることが見出されている。
【0109】
実施形態4によれば、ユーザが重み係数wtを適宜にチューニングにして重み付けの影響度を変更することが可能になる。これにより、青果物Wの種類に適した判定を実現することができる。
【0110】
なお、実施形態4では、重み係数wt(wt1,wt2,wt3)を青果物Wの種類に応じて変更可能とされているのが好ましい。これにより、青果物Wの種類に適して重み付けが可能になる。
【0111】
10.変形態様
本開示は、上述の形態に準拠して記述されているが、本開示は当該形態や構造に限定されるものではないと理解される。本開示は、様々な変形例や均等範囲内の変形をも包含する。加えて、様々な組み合わせや形態、さらには、それらに一要素のみ、それ以上、あるいはそれ以下、を含む他の組み合わせや形態をも、本開示の範疇や思想範囲に入るものである。
【0112】
上述の形態では、青果物Wを撮像装置10によって6方向から撮影する場合について例示したが、青果物Wの全体を撮影することができれば、撮影方向の数(したがって、部分画像Iの数)は6つに限定されるものではなく、必要に応じて適宜に変更可能である。
【0113】
上述の形態では、各部分画像Iに他の部分画像Iとのオーバーラップ部Jが形成されるように青果物Wを撮影する場合について例示したが、これに代えて、複数の部分画像Iから青果物Wの全体画像に関する情報を取得できることを条件に、各部分画像Iが他の部分画像Iにオーバーラップ部Jを形成することなく接するように青果物Wを撮影するようにしても良い。
【符号の説明】
【0114】
1,2,3:青果物品質評価システム、 10:撮像装置、 11:撮像箱、 13:搬送ライン、 15:トレイ、 17:振り分け装置、 20,20A:コンピュータ装置、 40,40A:演算部、 45:個別品質評価部、 46:全体品質評価部、 50,50A:記憶部、 60:出力部、 101:青果物選別システム、 D1;第1方向、 D2:第2方向、 D3:第3方向、 D4:第4方向、 D5:第5方向、 D6:第6方向、 部分画像:I,I1,I2,I3,I4,I5,I6、 Ma:個別品質推定用モデル、 Ma1:異常評価モデル(個別品質推定用モデル)、 Ma2:形状評価モデル(個別品質推定用モデル)、 Ma3:外観評価モデル(個別品質推定用モデル)、 Mb,Mc:全体品質推定用モデル、 Sa,Sa1,Sa2,Sa3:個別品質スコア、 T:等級(全体品質情報)、 W:青果物、 wt,wt1,wt2,wt3:重み係数
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17