(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2022-04-26
(45)【発行日】2022-05-10
(54)【発明の名称】色判定システム、色判定方法および、色判定プログラム
(51)【国際特許分類】
G06T 7/90 20170101AFI20220427BHJP
G01J 3/52 20060101ALI20220427BHJP
G06Q 50/02 20120101ALI20220427BHJP
A01G 7/00 20060101ALI20220427BHJP
【FI】
G06T7/90 D
G01J3/52
G06Q50/02
A01G7/00 603
(21)【出願番号】P 2021146701
(22)【出願日】2021-09-09
【審査請求日】2021-09-17
【新規性喪失の例外の表示】特許法第30条第2項適用 (1)展示日:令和2年11月24日 展示会名:スマート農業見学会 (2)展示日:令和3年2月10日 展示会名:山梨テクノICTメッセ令和2年度オンライン展示会 (3)展示日:令和3年4月14日 展示会名:山梨県青年農業士会講演 (4)展示日:令和3年5月18日 展示会名:山梨果樹地域スマート農業推進協議会講演 (5)展示日:令和3年5月27日 展示会名:NEC主催自治体マーケット拡販会議講演 (6)展示日:令和3年6月22日 展示会名:スマート農業実証プロジェクト成果発表会(国関係) (7)展示日:令和3年6月23日 展示会名:スマート農業実証プロジェクト成果発表会(一般公開) (8)展示日:令和3年7月9日 展示会名:スマート農業実証プロジェクト成果発表会(県議会議員) (9)掲載日:令和2年10月8日 アドレス:https://www.sankeibiz.jp/macro/news/201008/mca2010080500004-n1.htm (10)掲載日:令和3年3月22日 アドレス:https://www.youtube.com/watch?v~D2wNZjEO2k (11)発行日:令和2年9月11日 刊行物:毎日新聞朝刊 (12)発行日:令和2年9月11日 刊行物:産経新聞朝刊 (13)発行日:令和2年11月15日 刊行物:山梨日日新聞朝刊 (14)発行日:令和3年3月1日 刊行物:「機械化農業」2021年3月号17~20頁 (15)発行日:令和3年8月1日 刊行物:「山梨市広報」8月号6頁 (16)放送日:令和3年2月4日 放送番組:スゴろく (17)放送日:令和3年6月22日 放送番組:Newsかいドキ (18)放送日:令和3年6月22日 放送番組:スゴろく (19)放送日:令和3年9月6日 放送番組:前進!やまなし
【国等の委託研究の成果に係る記載事項】(出願人による申告)令和2年度、国立研究開発法人農業・食品産業技術総合研究機構、「スマート農業技術の開発・実証プロジェクト」、産業技術力強化法第17条の適用を受ける特許出願
【早期審査対象出願】
(73)【特許権者】
【識別番号】304023994
【氏名又は名称】国立大学法人山梨大学
(73)【特許権者】
【識別番号】507225595
【氏名又は名称】株式会社 YSK e-com
(74)【代理人】
【識別番号】100137338
【氏名又は名称】辻田 朋子
(72)【発明者】
【氏名】西▲崎▼ 博光
(72)【発明者】
【氏名】花田 隆貴
【審査官】小島 洋志
(56)【参考文献】
【文献】特開2013-005724(JP,A)
【文献】中国実用新案第209171474(CN,U)
【文献】特開2015-133971(JP,A)
【文献】特開2013-005725(JP,A)
【文献】特開2013-005726(JP,A)
【文献】特開2013-158288(JP,A)
【文献】中国特許出願公開第103278458(CN,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/90
G01J 3/52
G06Q 50/02
A01G 7/00
(57)【特許請求の範囲】
【請求項1】
農作物の成熟の度合いにより変化する色を判定する色判定システムであって、
画像取得部と、記憶部と、検出部と、判定部と、を備え、
前記画像取得部は、前記色を判定する判定対象と、前記色の基準色値となる色見本と、が含まれる判定対象画像を取得し、
前記検出部は、前記判定対象画像に含まれる前記判定対象および前記色見本をそれぞれ検出し、
前記記憶部は、前記基準色値からの所定の色差と、前記色差に応じた前記農作物の成熟度と、の対応関係を示すカラーチャート
情報を格納し、
前記判定部は
、前記判定対象画像に含まれる
前記色見本の色を基準とし、当該色見本の色から前記判定対象の色への色差に基づいて、
前記カラーチャート情報の色差に対応する前記成熟度を出力する、色判定システム。
【請求項2】
前記判定部は、前記判定対象画像を学習済モデルの入力データとして入力し、前記成熟度を前記学習済モデルの出力データとして取得し、前記成熟度を出力する、請求項1に記載の色判定システム。
【請求項3】
前記学習済モデルは、前記判定対象および前記色見本が含まれる判定対象画像と、前記判定対象の前記成熟度と、を含むデータセットにより生成される、請求項2に記載の色判定システム。
【請求項4】
前記学習済モデルは、前記判定対象の画像データと、前記色見本の画像データと、前記判定対象の成熟度と、を含むデータセットにより生成される、請求項2に記載の色判定システム。
【請求項5】
前記学習済モデルは、前記判定対象の画像データが撮影された際の前記判定対象における明るさを示す数値と、を更に含む前記データセットにより生成される、請求項4に記載の色判定システム。
【請求項6】
前記検出部は、前記判定対象画像に含まれる前記判定対象および前記色見本の相対位置または相対距離を検出し、
前記学習済モデルは、前記判定対象および前記色見本の相対位置または相対距離と、を更に含む前記データセットにより生成される、請求項4または請求項5に記載の色判定システム。
【請求項7】
前記判定対象はブドウであって、
前記検出部は、前記判定対象画像に含まれる1のブドウ房を検出し、更に、前記ブドウ房に含まれる1のブドウ粒であって、前記ブドウ房の中心に位置する前記ブドウ粒および/または前記ブドウ房に含まれるブドウ粒の中で面積比率が所定値以上となる前記ブドウ粒を判定対象とする、請求項1~請求項6の何れかに記載の色判定システム。
【請求項8】
前記検出部は、検出された1のブドウ房に含まれる1のブドウ粒における病気または傷を含む異常の有無を検出し、異常がない前記ブドウ粒を判定対象とする、請求項7に記載の色判定システム。
【請求項9】
前記検出部は、前記判定対象画像に含まれる前記色見本と、前記ブドウ房および/または前記ブドウ粒と、の相対距離を検出し、前記相対距離が最も近いブドウ房および/またはブドウ粒を判定対象とする、請求項7または請求項8に記載の色判定システム。
【請求項10】
前記検出部により検出された判定対象の画像領域を表示処理し、当該画像領域と重畳しない画像領域において前記判定部による成熟度を含む判定結果を表示処理する表示処理部を備える、請求項1~9の何れかに記載の色判定システム。
【請求項11】
前記判定部は、前記検出部により検出された前記判定対象または前記色見本に基づく判定の結果について、更に成否判定を実行し、
前記成否判定が不成立である場合、前記不成立を示す通知を出力する通知部を備える、請求項1~請求項10の何れかに記載の色判定システム。
【請求項12】
前記判定部は、前記検出部による検出結果について、更に成否判定を実行し、
前記成否判定が不成立である場合、前記不成立を示す通知を出力する通知部を備える、請求項1~請求項11の何れかに記載の色判定システム。
【請求項13】
農作物の成熟の度合いにより変化する色を判定する色判定システムであって、
画像取得部と、記憶部と、検出部と、判定部と、を備え、
前記画像取得部は、前記色を判定する判定対象と、前記色の基準とする任意色を有する農作物である色見本と、が含まれる判定対象画像を取得し、
前記検出部は、前記判定対象画像に含まれる前記判定対象および前記色見本をそれぞれ検出し、
前記記憶部は、前記任意色からの色差と、前記色差に応じた閾値であり、前記任意色と略同色であると判定するための同色判定閾値と、の対応関係を示す閾値テーブルを格納し、
前記判定部は
、前記判定対象画像に含まれる
前記色見本の色を基準とし、当該色見本の色から前記判定対象の色への色差に基づいて
、前記閾値テーブルの色差に対応する前記同色判定閾値の範囲であるか否かを示す判定結果を出力する、色判定システム。
【請求項14】
農作物の成熟の度合いにより変化する色を判定する色判定方法であって、
画像取得工程と、検出工程と、判定工程と、をコンピュータが実行し、
前記画像取得工程は、前記色を判定する判定対象と、前記色の基準色値となる色見本と、が含まれる判定対象画像を取得し、
前記検出工程は、前記判定対象画像に含まれる前記判定対象および前記色見本をそれぞれ検出し、
前記判定工程は
、前記判定対象画像に含まれる
前記色見本の色を基準とし、当該色見本の色から前記判定対象の色への色差に基づいて
、前記コンピュータの記憶部に格納されるカラーチャート情報の色差に対応する成熟度を出力し、
前記カラーチャート
情報は、前記基準色値からの所定の色差と、前記色差に応じた前記農作物の前記成熟度と、の対応関係を示す、色判定方法。
【請求項15】
前記農作物に対する作業者の手または作業器具に前記色見本を取り付ける取付工程を含み、
前記画像取得工程は、前記作業者が装着可能な撮像装置を介して撮影される前記判定対象画像を取得する、請求項14に記載の色判定方法。
【請求項16】
農作物の成熟の度合いにより変化する色を判定する色判定プログラムであって、
コンピュータを、画像取得部と、記憶部と、検出部と、判定部と、として機能させ、
前記画像取得部は、前記色を判定する判定対象と、前記色の基準色値となる色見本と、が含まれる判定対象画像を取得し、
前記検出部は、前記判定対象画像に含まれる前記判定対象および前記色見本をそれぞれ検出し、
前記記憶部は、前記基準色値からの所定の色差と、前記色差に応じた前記農作物の成熟度と、の対応関係を示すカラーチャート
情報を格納し、
前記判定部は
、前記判定対象画像に含まれる
前記色見本の色を基準とし、当該色見本の色から前記判定対象の色への色差に基づいて
、前記カラーチャート情報の色差に対応する前記成熟度を出力する、色判定プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、色判定システム、色判定方法および、色判定プログラムに関する。
【背景技術】
【0002】
従来、コンピュータを用いた画像処理により、物品の色を判定することで、当該物品の劣化度合や、物品が作物や生鮮物である場合、その成熟度合いなどの品質を評価する技術が知られている。画像処理による色の判定では、画像撮影時の環境や撮影装置と対象物との位置関係などによって、色値や明るさが変化し、物品の品質を精度よく評価できない問題があった。
【0003】
特許文献1では、評価対象物の撮像画像を用いてさびの程度に関する評価を行うシステムであって、撮像画像を補正することで評価用画像を生成する補正部と、評価用画像に基づいて評価を行う評価部と、評価結果を出力する出力部と、などを備え、評価対象物に付されたマーカ画像であるマーカ領域に基づいて、撮像画像から評価領域を抽出し、評価領域に基づいて評価用画像を生成することが開示され、これにより、撮像画像をそのまま用いるよりも評価精度を向上できることが開示されている。
【0004】
特許文献2では、航空写真画像を用いて建物に敷設された防水シートの劣化状況を評価する防水シートの診断方法であって、航空写真画像から白色道路標示の色情報である補正用色情報を取得する補正用色情報取得工程と、白色道路標示の本来の色である基準色情報と補正用色情報との差に基づいて、画像色情報を補正して評価対象色情報を取得する補正工程と、評価対象色情報を含む情報に基づいて、前記対象建物の前記防水シートの劣化状況を評価する評価工程と、を備えることが開示され、これによって、現地に赴いて画像撮影することなく、また、画像内に含まれる色の違いを利用して劣化度を評価できることが開示されている。
【0005】
特許文献3では、測色対象の被写体及び測色値が既知の色票が共に光源からの直接光が照射されていない状況か否かを判定させ、当該状況で被写体及び色票を撮像した画像を、当該画像中の色票に対応する領域の色及び色票の測色値に基づき、画像中の前記被写体に対応する領域の色から被写体の測色値を求める色補正を行う画像として取得することで、農作物の葉色を好適に計測できることが開示されている。
【先行技術文献】
【特許文献】
【0006】
【文献】特開2014-203275号公報
【文献】特開2018-124872号公報
【文献】特開2018-124872号公報
【非特許文献】
【0007】
【文献】山梨県果樹試験場、山梨県工業技術センター、“ブドウ「シャインマスカット」の専用カラーチャートの開発”https://www.maff.go.jp/kanto/seisan/kankyo/gijyutu/pdf/kanto2016_08_yamanashi_shinemuscat.pdf
【発明の概要】
【発明が解決しようとする課題】
【0008】
ここで、農作物の色に基づく成熟度の判定は、熟練者でなければその判断が難しく、また、コンピュータを用いた画像処理とする場合、その撮影環境により色の見え方が変化することから、精度よく色を判定することは困難であった。
【0009】
上述した特許文献に開示される技術では、コンピュータ画像処理を用いた色判定に関するものであるものの撮像画像を評価用画像として補正する処理が含まれるものであった。農作物の色判定においては、農作物に対する作業と並行してリアルタイムに色判定することが要求されるため、その画像処理速度および画像処理負荷を低減することが課題であった。
【0010】
また、農作業は通常屋外で行われるため、太陽光を含む環境の影響により色が異なって見える場合であっても、精度よく色を判定できる必要があった。
【0011】
上述したような課題に鑑みて、本発明は、農作物の成熟の度合いにより変化する色を判定し、収穫適正期による収穫、または、出荷を含む作業を支援することを解決すべき課題とする。
【課題を解決するための手段】
【0012】
上述したような課題を解決するために、本発明は、農作物の成熟の度合いにより変化する色を判定する色判定システムであって、画像取得部と、記憶部と、検出部と、判定部と、を備え、前記画像取得部は、前記色を判定する判定対象と、前記色の基準色値となる色見本と、が含まれる判定対象画像を取得し、前記検出部は、前記判定対象画像に含まれる前記判定対象および前記色見本をそれぞれ検出し、前記記憶部は、前記基準色値からの所定の色差と、前記色差に応じた前記農作物の成熟度と、の対応関係を示すカラーチャートを格納し、前記判定部は、前記カラーチャートを参照し、前記判定対象画像に含まれる前記判定対象の色における前記基準色値からの色差に基づいて前記成熟度を出力する。
このような構成とすることで、基準色値と判定対象の色の色差に基づいて、農作物の色に対応する成熟度を好適に判定することができる。
【0013】
本発明の好ましい形態では、前記判定部は、前記判定対象画像を学習済モデルの入力データとして入力し、前記成熟度を学習済モデルの出力データとして取得し、前記成熟度を出力する。
このような構成とすることで、判定対象画像を機械学習済モデルに入力することで高速かつ高精度な色判定に基づく成熟度の出力を行うことができる。
【0014】
本発明の好ましい形態では、前記学習済モデルは、前記判定対象および前記色見本が含まれる判定対象画像と、前記判定対象の成熟度と、を含むデータセットにより生成される。
【0015】
本発明の好ましい形態では、前記学習済モデルは、前記判定対象の画像データと、前記色見本の画像データと、前記判定対象の成熟度と、を含むデータセットにより生成される。
【0016】
本発明の好ましい形態では、前記学習済モデルは、前記判定対象の画像データが撮影された際の前記判定対象における明るさを示す数値と、を更に含む前記データセットにより生成される。
【0017】
本発明の好ましい形態では、前記検出部は、前記判定対象画像に含まれる前記判定対象および前記色見本の相対位置または相対距離を検出し、前記学習済モデルは、前記判定対象および前記色見本の相対位置または相対距離と、を更に含む前記データセットにより生成される。
上述したようなデータセットを用いることで、好適な学習済モデルが生成され、色判定の精度を向上させることができる。
【0018】
本発明の好ましい形態では、前記判定対象はブドウであって、前記検出部は、前記判定対象画像に含まれる1のブドウ房を検出し、更に、前記ブドウ房に含まれる1のブドウ粒であって、前記ブドウ房の中心に位置する前記ブドウ粒および/または前記ブドウ房に含まれるブドウ粒の中で面積比率が所定値以上となる前記ブドウ粒を判定対象とする。
このような構成とすることで、ブドウの色判定において、好適に評価対象を決定することができる。
【0019】
本発明の好ましい形態では、前記検出部は、前記判定対象画像に含まれる前記色見本と、前記ブドウ房および/または前記ブドウ粒と、の相対距離を検出し、前記相対距離が最も近いブドウ房および/またはブドウ粒を判定対象とする。
このような構成とすることで、色見本と近い環境に位置するブドウ粒を、判定対象として決定することで、精度よく色判定することができる。
【0020】
本発明の好ましい形態では、前記検出部により検出された判定対象の画像領域を表示処理し、当該画像領域と重畳しない画像領域において前記判定部による成熟度を含む判定結果を表示処理する表示処理部を備える。
このような構成とすることで、作業者は判定対象を正しく認識し、更に、作業の妨害とならない位置に判定結果を表示する好適なインターフェイスを提供することができる。
【0021】
前記判定部は、前記検出部により検出された前記判定対象または前記色見本に基づく判定の結果について、更に成否判定を実行し、前記表示処理部は、前記成否判定が不成立である場合、前記不成立を示す通知を表示処理する。
このような構成とすることで、作業者は判定処理が不成立であることを認識し、例えば、判定対象に対する撮像の向きや距離を変更し、好適に判定対象画像の取得を支援することができる。
【0022】
前記判定部は、前記検出部による検出結果について、更に成否判定を実行し、前記通知部は、前記成否判定が不成立である場合、前記不成立を示す通知を出力する。
このような構成とすることで、判定対象画像の撮像において、判定対象および/または色見本の向き、大きさなどが要因となり検出結果が好ましくないことを、作業者に通知として出力することで認識させることができる。
【0023】
本発明は、農作物の成熟の度合いにより変化する色を判定する色判定方法であって、画像取得工程と、検出工程と、判定工程と、をコンピュータが実行し、前記画像取得工程は、前記色を判定する判定対象と、前記色の基準色値となる色見本と、が含まれる判定対象画像を取得し、前記検出工程は、前記判定対象画像に含まれる前記判定対象および前記色見本をそれぞれ検出し、前記判定工程は、前記コンピュータの記憶部に格納されるカラーチャートを参照し、前記判定対象画像に含まれる前記判定対象の色における前記基準色値からの色差に基づいて前記成熟度を出力し、前記カラーチャートは、前記基準色値からの所定の色差と、前記色差に応じた前記農作物の成熟度と、の対応関係を示す。
【0024】
本発明の好ましい形態では、色判定方法は、前記農作物に対する作業者の手または作業器具に前記色見本を取り付ける取付工程を含み、前記画像取得工程は、前記作業者が装着可能な撮像装置を介して撮影される前記判定対象画像を取得する。
このような構成とすることで、作業者は、農作物に対する作業を行うことと並行してリアルタイムに色判定に基づく農作物の成熟度を確認することができる。
【0025】
本発明の好ましい形態では、農作物の成熟の度合いにより変化する色を判定する色判定プログラムであって、コンピュータを、画像取得部と、記憶部と、検出部と、判定部と、として機能させ、前記画像取得部は、前記色を判定する判定対象と、前記色の基準色値となる色見本と、が含まれる判定対象画像を取得し、前記検出部は、前記判定対象画像に含まれる前記判定対象および前記色見本をそれぞれ検出し、前記記憶部は、前記基準色値からの所定の色差と、前記色差に応じた前記農作物の成熟度と、の対応関係を示すカラーチャートを格納し、前記判定部は、前記カラーチャートを参照し、前記判定対象画像に含まれる前記判定対象の色における前記基準色値からの色差に基づいて前記成熟度を出力する。
【発明の効果】
【0026】
本発明によれば、農作物の成熟の度合いにより変化する色を判定し、収穫適正期による収穫、または、出荷を含む作業を支援する色判定システム、色判定方法および、色判定プログラムを提供することができる。
【図面の簡単な説明】
【0027】
【
図1】本発明の実施形態に係る色判定システムの機能ブロック図を示す。
【
図2】本発明の実施形態に係る色判定装置のハードウェア構成図を示す。
【
図3】本発明の実施形態に係る色判定方法の概要説明図を示す。
【
図4】本発明の実施形態に係るカラーチャートの概要を示す。
【
図5】本発明の実施形態に係る色判定処理のフローチャートを示す。
【
図6】本発明の実施形態に係るデータセットの概要図を示す。
【
図7】本発明の実施形態に係る機械学習処理のフローチャートを示す。
【
図8】本発明の実施形態に係るニューラルネットワークの概要図を示す。
【発明を実施するための形態】
【0028】
以下、図面を用いて、本発明の色判定システム、色判定方法および、色判定プログラムについて説明する。なお、以下に示す実施形態は本発明の一例であり、本発明を以下の実施形態に限定するものではなく、様々な構成を採用することもできる。
【0029】
本実施形態では色判定システムの構成、動作等について説明するが、同様の構成の方法、装置、コンピュータ・プログラムおよび当該プログラムを格納したプログラム記録媒体なども、同様の作用効果を奏することができる。以下で説明する本実施形態にかかる一連の処理は、コンピュータで実行可能なプログラムとして提供され、CD-ROMやフレキシブルディスクなどの非一過性コンピュータ可読記録媒体、更には通信回線を経て提供可能である。
【0030】
色判定システムの各機能構成部と、色判定方法の各ステップと、は同様の作用効果を実現する。色判定システムを構成するコンピュータは、CPU(Central Processing Unit)などの演算装置および記憶装置を有する。当該コンピュータは、記憶装置に格納される色判定プログラムを、演算装置により実行することで、各機能構成部の機能を実現する。
【0031】
以下の説明において、色を判定する判定対象が農作物である場合において好適な例を説明する。農作物は、食用、飼料用、工芸用などその用途や種類によって特に限定されず、本発明を実施することができる。なお、本発明において、特に、農作物がブドウである場合に好適な実施形態を例に、その詳細を説明する。
【0032】
図1は、本実施形態における色判定システムのシステム構成図を示す。色判定システム1は、端末装置3を介して色判定の対象となる判定対象画像を取得し、色判定処理を実行するサーバ装置2と、色判定対象画像を撮影し、サーバ装置2から判定結果を受け取る端末装置3と、を備える。サーバ装置2と端末装置3は、通信ネットワークNWを介して通信可能に構成されている。なお、
図1において、端末装置3は1つのみ示したが、複数存在してもよい。
【0033】
サーバ装置2は、機能構成要素として、端末装置3から判定対象画像を取得する画像取得部21と、判定対象画像に含まれる判定対象および色見本を検出する検出部22と、判定対象画像に含まれる判定対象の色を判定する判定部23と、データ通信処理を実行する通信部24と、機械学習処理を実行し学習済モデルを生成する生成部25と、端末装置3における画面を表示処理する表示処理部26と、検出部22および判定部23による処理結果の成否判定結果を通知する通知部27と、を備える。
【0034】
サーバ装置2は、サーバ装置2の内部または外部に設置され、各種データを格納する記憶部DBを備える。記憶部DBは、基準色値および基準色値からの所定の色差に応じた農作物の成熟度の対応関係を示すカラーチャートを含むカラーチャート情報と、判定対象画像などの画像データと、学習済モデルに関するモデル情報と、などを格納する。
【0035】
端末装置3は、機能構成要素として、画像データまたは映像データを撮像する撮像部31と、表示処理を実行する表示部32と、サーバ装置2とのデータ通信処理を実行する通信部33と、を備える。
【0036】
図2は、サーバ装置2におけるハードウェア構成図を示す。サーバ装置2は、ハードウェア構成要素として、CPUなどによる演算装置201と、RAM(Random Access Memory)などによる作業用メモリとしての主記憶装置202と、HDD(Hard Disk Drive)やSSD(Solid State Drive)、フラッシュメモリ等による補助記憶装置203と、外部の装置と通信するための通信装置204と、などを備え、各構成部はバスインターフェイスにより接続されている。補助記憶装置203は、オペレーティングシステムと、オペレーティングシステムと協働してその機能を発揮する色判定プログラムと、各種情報などとを格納している。サーバ装置2は、色判定プログラムが演算装置201により実行されることで、上述した機能構成要素(21-26)を実現することができる。
【0037】
端末装置3は、農作物に対する作業等を行う作業者により操作される端末装置である。本実施形態において、端末装置3は、通信機能を備えた装置であって、ハードウェア構成要素として、CPUなどによる演算装置と、RAMなどによる主記憶装置と、補助記憶装置と、通信装置と、カメラなどによる撮像装置と、演算装置からの命令にしたがって端末装置3の状態等を表示するディスプレイまたはタッチディスプレイなどによる入出力装置と、等を備える。本実施形態において、端末装置3は、スマートグラスのように、ユーザの視野内にある表示領域において、演算装置により処理された情報を表示可能な装置である。また、端末装置3は、スマートフォンやタブレット端末などであってもよく、撮像装置により撮影された画像または映像をディスプレイに表示し、更に、演算装置により処理された情報を画像または映像と共にディスプレイに表示可能な装置であれば、これらに限定されない。
【0038】
図3は、本実施形態における色判定の対象とする判定対象画像W1の一例を示す。農作物に対する作業に際して、端末装置3の撮像装置は、色を判定する判定対象Oと、作業者の手Hまたは作業者が使用する作業器具に取り付けられる色見本Mと、を撮像フレーム内に含むよう向けて、画像または映像を撮像する。色見本Mは、シールやテープなどで取り付けられ、判定対象Oに対する作業において近接される身体部位であれば取付位置に制限はなく、例えば、手Hの爪、指、甲、掌または手首などであってよい。また、色見本Mは、ハサミや手袋、リストバンドなど、判定対象Oに対する作業において近接される作業器具であれば、取り付けられる器具の種類や位置に制限はない。判定対象Oおよび色見本Mを含む判定対象画像W1は、通信装置を介してサーバ装置2に送信される。なお、ここで取り付けとは、作業器具が製造される工程において色見本Mが取り付けられることを含み、取り付けられる時期に制限はない。また、取り付けとは、作業器具の一部として色見本Mが組み込まれる態様を含み、例えば、作業器具の一部または全部が色見本Mの基準色として組み込まれたり、印刷されていてもよい。
【0039】
色見本Mは、判定対象Oの色を判定する基準となる基準色値を表面に有する。色見本Mは、判定対象Oの種類、更には品種に応じて異なる基準色値を有するものであってよい。以下の説明において、判定対象Oは、農作物のブドウであって、その種類はマスカットであって、品種はシャインマスカットである場合を例とする。なお、判定対象Oは、品種から更に細分化したブランド名別に対象としてよく、それに応じた色見本Mとしてよい。
【0040】
判定対象画像W1は、判定対象Oおよび/または色見本Mを複数含んでもよい。後に詳述する検出部22は、例えば、複数の判定対象Oから1の判定対象Oを検出処理の対象としてもよく、また、すべての判定対象Oを検出処理の対象とし、続く判定処理を並列して実行してもよい。また、検出部22は、複数の色見本Mから1の判定対象Oの基準色として好適なものをそれぞれ検出するよう構成されてよい。また、検出部22は、すべての色見本Mを検出処理の対象とし、それぞれの色見本Mから取得される色値の平均値を基準色値として決定するよう構成されてもよい。
【0041】
図4(a)は、シャインマスカットにおける収穫適期と果皮色の関係に基づくカラーチャートを示す。カラーチャートは、非特許文献1を例として知られたものを使用することができる。カラーチャートにおける色番号:1から色番号:5に応じて糖度が高くなり、色番号:3以上において収穫適期と判断される糖度18Brixとなることが知られている。色見本Mは、例えば、
図4(a)の色番号:1から色番号:5の何れかを基準色値とすることができる。なお、収穫適期と果皮色の関係は、農作物の種類および品種により異なり、また、同一の種類または品種において、糖度に限らず異なる基準によるカラーチャートが作成されることから、何れの農産物を対象とし、いずれの基準によるカラーチャートを使用するかは、適宜設定や変更が可能に構成されている。すなわち、色見本Mは、1の農作物に対して1または複数のカラーチャートとして記憶部DBに格納される。
【0042】
図4(b)は、記憶部DBに格納されるカラーチャートに関するカラーチャート情報の一例を示す。カラーチャート情報は、カラーチャートにおける色番号と、色差と、色値と、収穫適期であるか否かを示す成熟度と、を含む。
図4(b)の例では、色差は、色番号:3の色を基準色値とし、各色番号における当該基準色値からの色差として格納される。色値は、色番号に基づいて規格化された色を示す数値であって、例えば、0から1の数値範囲として格納される。なお、色値は、RGB値やHSV値などであってもよく、それらが色番号に基づいて変換された数値であってもよい。成熟度は、色番号に応じて収穫適期であれば「〇」、収穫適期でなければ「×」などとして格納される。なお、成熟度は、色番号に応じた糖度の平均値などであってもよく、また、成熟度の程度を示す数値などであってもよい。例えば、シャインマスカットの場合、成熟度は、色番号が3以上であれば、収穫適期であることを示す情報が格納される。
【0043】
カラーチャート情報における色差は、基準色値および対象の色値を示すRGB値についてユークリッド距離を計算することで算出された値を規格化した数値であってよい。なお、色差計算に用いられる式および入力値とする色値は、ユークリッドの式およびRGB値に限定されず、Lab色空間を用いたCIE LABやCIE DE2000などに基づく色差計算式やHSB値に基づく色差計算式であってもよい。
【0044】
図5は、判定対象画像に含まれる判定対象の色を判定する判定処理に係るフローチャートを示す。
【0045】
はじめに、画像取得部21は、端末装置3より送信される判定対象画像を取得する(ステップS101)。検出部22は、取得した判定対象画像に含まれる判定対象および色見本をそれぞれ検出するための検出処理を実行する(ステップS102)。検出部22は、機械学習された第1検出モデルに対して判定対象画像を入力することで、判定対象画像に含まれる判定対象および色見本の画像領域を出力として取得する。なお、ステップS102において、判定部23は、検出処理の結果について、成否判定を更に実行することができる。成否判定は、判定対象および/または色見本の検出処理における成立・不成立に関する判定であり、判定部23は、判定対象および/または色見本における向きや大きさなどが検出に不十分である場合などに検出処理の成否を出力する。例えば、作業者は、農作業において判定対象(農作物)を注視し、色見本が好適に判定対象画像に含まれない場合があり、判定部23は、判定対象が検出結果として所定時間正常に検出される一方、色見本が検出結果として正常に検出されないことで、判定処理が不成立であることを出力することができる。通知部27は、成否判定が不成立である場合、不成立を示す通知を表示データまたは音声データなどにより出力することができる。
【0046】
判定対象に関する検出処理において、検出部22は、判定対象である農作物を検出する(ステップS103)。検出部22は、農作物を検出し、農作物の種類または品種に応じて更に分割処理を実行する。分割処理は、複数の果実や種子、葉からなる農作物である場合、それらを対象として画像領域に分割し、取得する処理である。本実施形態において、検出部22は、1のブドウ房を検出し、当該ブドウ房に含まれる複数のブドウ粒を更に検出し、検出したブドウ粒が含まれる画像領域に分割し、それぞれを取得する。なお、分割処理は、機械学習された第2検出モデルに対して判定対象(ブドウ房)として検出された画像領域を入力することで、当該画像領域に含まれる各判定対象(ブドウ粒)の画像領域を更に出力として取得する構成などにより実現される。
【0047】
検出部22は、分割した画像領域に対して、最初に検出した1のブドウ房に含まれる1のブドウ粒の中から、当該ブドウ房の中心に位置するブドウ粒が含まれる画像領域および/または当該ブドウ房に含まれるブドウ粒の中で面積比率が所定値以上となるブドウ粒が含まれる画像領域を抽出する抽出処理を実行する(ステップS104)。ブドウ粒の面積比率は、1のブドウ房の画像面積に対するブドウ粒の画像面積であり、所定値は、数値または1のブドウ房に含まれる面積比率の大きいブドウ粒を順位付けした順位などであってもよい。
【0048】
また、検出部22は、分割した画像領域に対して、画像領域に含まれる1のブドウ粒における病気または傷を含む異常の有無を検出し、異常がないブドウ粒が含まれる画像領領域を抽出する抽出処理を実行する(ステップS104)。検出部22は、異常がないとして抽出した画像領域を対象として、判定対象を決定する抽出処理を更に実行することができる。なお、ブドウ粒の位置や面積比率に基づく抽出処理と、異常のないブドウ粒を抽出する抽出処理は、順序を問わず、例えば、位置および/または面積比率に基づき抽出されたブドウ粒に異常がある場合、別のブドウ粒を再度抽出する抽出処理としてもよい。異常のあるブドウ粒は、その果皮色にも異常がみられる場合があり、このような処理とすることで正常なブドウ粒を対象として色を判定することができる。なお、分割処理を必要としない対象に対して同様に異常の有無を検出する抽出処理を実行してもよい。
【0049】
ステップS104により、検出部22は、上述した抽出処理により抽出された画像領域に含まれるブドウ粒を、判定対象として決定し、当該判定対象を含む画像領域を判定部23に受け渡す(ステップS105)。なお、検出部22は、決定された判定対象と、色見本と、の相対位置または相対距離を検出してもよい。
【0050】
色見本に関する検出処理において、検出部22は、色見本に含まれる基準色値を有する領域を検出し、当該領域における色値を抽出する(ステップS106)。検出部22は、抽出した色見本における色値を基準色値として決定し、判定部23に受け渡す(ステップS107)。
【0051】
判定部23は、ステップS105およびステップS107において検出部22が検出した判定対象を含む画像領域および基準色値を取得し、判定対象の色を判定するための判定処理を実行する(ステップS108)。本実施形態において、判定部23の判定処理は、機械学習処理により生成された色判定モデルを有し、判定対象を含む画像領域および基準色値を色判定モデルに入力し、判定対象の色における基準色値からの色差を出力として取得する処理を含む。なお、ステップS108において、判定部23は、判定処理の結果について、成否判定を更に実行することができる。成否判定は、色の判定処理における成立・不成立に関する判定であり、判定部23は、判定対象における色や、色見本における基準色値の取得に失敗した場合などにその成否を出力する。通知部27は、判定処理の結果を示す通知を表示データまたは音声データとして出力することができる。
【0052】
判定部23は、記憶部DBに格納されるカラーチャート情報を参照し、判定対象の色差に基づいて成熟度を出力する(ステップS109)。なお、判定部23は、カラーチャート情報を参照し、判定対象の色差に基づいてカラーチャートにおける色番号を出力する構成であってもよい。これら一連の処理によって、判定対象画像が撮像された環境などによる色の見え方の違いを考慮して、精度よく色判定し、かつ、リアルタイムな判定処理を実現することができる。
【0053】
以下、本実施形態における、学習済モデルについて説明する。学習済モデルは、生成部25により事前に生成され記憶部DBに格納される。なお、学習済モデルは、生成部25と同様の機能構成を有する外部装置において生成され、記憶部DBに格納されてもよい。
【0054】
第1、第2検出モデルは、YOLOモデルなどのニューラルネットワークを含む既知のモデルを利用でき、モデルおよびその学習手法において制限はない。生成部25は、例えば、深層学習の手法により、評価対象が撮像された画像データや色見本が撮像された画像データに含まれる特徴量を自動で取得し、第1検出モデルを生成する。深層学習では、ユーザによる特徴量の設定を必要とせず、コンピュータが画像データにおける対象物の特徴量を自動で抽出し、対象物を分類・特定することができる。なお、画像データには対象の種類や品種などのラベルが付与されるものとする。生成部25は、評価対象に応じて異なる検出モデルを生成し、それぞれ記憶部DBに格納するものとする。
【0055】
色判定モデルは、ニューラルネットワークなどのモデルを利用でき、モデルおよびその学習手法において制限はない。本実施形態において、生成部25は、深層学習の手法により、評価対象が撮像された画像データと、色見本における基準色値に関するデータと、を少なくとも含むデータセットにより機械学習処理を実行し、色判定モデルを生成し、記憶部DBに格納する。
【0056】
図6(a)は、色判定モデルの機械学習に用いるデータセットの概要を示す。本実施形態において、データセットは、データセットIDをキーとして、データ名、対象名および、要素ラベルを有する。データ名は、判定対象の画像データファイルなどを示す。対象名は、当該画像データに含まれる対象物の種類や品種などを示す。要素ラベルは、色見本の基準色値に基づく色番号、撮像環境における明るさを示す明るさ情報、光源角度、基準位置からの距離などを含む。ここで、色番号は、色判定の熟練者が画像データにおける対象の色を見て判断した色番号であり、RGB値に基づく値などであってもよい。明るさ情報は、明度、照度、輝度、光度に基づく数値または、撮影環境が明るいか暗いかを、所定の指標に基づき判断した結果を示すデータなどであってもよい。光源角度は、太陽や照明などの光源と、撮像装置と、対象物と、の位置関係から算出される角度を示す。距離は、基準位置からの距離を示し、例えば、対象がブドウの場合、ブドウ房の根本部分から各ブドウ粒までの距離などであってよい。なお、要素ラベルにおいて、明るさ情報、光源角度、距離などを含む一部データが欠損していてもよく、欠損するデータについて代替データが入力されてもよい。また、要素ラベルは、撮像環境を示すデータであれば、上述したデータに限定されず、追加や変更が可能である。
【0057】
図6(b)は、対象物の画像データの一例を示す。
図6(b)では、対象物はブドウであり、判定対象はブドウ房に含まれる1のブドウ粒の画像データがデータセットとして使用される。データセットは、対象名に応じて、異なるデータセットとすることが好ましく、生成部205は、それぞれの対象名に応じたデータセットにより機械学習処理を実行し、それぞれの色判定モデルを生成し、記憶部DBに格納することができる。検出モデルにより検出された判定対象(対象名)に応じて、色判定処理に使用する色判定モデルが選択される。
【0058】
判定部23による色判定モデルを用いた色判定性能について評価試験を実施した。
評価試験は、色番号を要素ラベルとして含むデータセットを用いて機械学習された色判定モデルを用いて、実際のブドウを判定対象として実施された。実際のブドウの色は、熟練者が目視でその色番号を判断した。表1は、熟練者の判定結果と、色判定モデルの判定結果を、それぞれ示す。
【表1】
【0059】
表1によると、色判定モデルを用いることで、房番号1、2,4,5,6,7において熟練者の判定結果との誤差0.5以内の色判定が行われていると把握することができる。
【0060】
図7は、生成部25による機械学習処理のフローチャートを示す。生成部25は、色見本における基準色値と、判定対象を含む画像データと、を含むデータセットを取得する(ステップS201)。生成部25は、取得したデータセットに基づく機械学習処理を実行し、色判定モデルを生成する(ステップS202)。生成部25は、生成した色判定モデルを記憶部DBに格納する(ステップS203)。なお、生成部25は、同様の処理の流れで第1検出モデルおよび第2検出モデルの機械学習処理を実行し、学習済モデルを生成してよい。
【0061】
図8(a)は、本実施形態における色判定モデルの一例を示す。本実施形態において、色判定モデルは、ニューラルネットワーク50として構成される。ニューラルネットワーク50は、入力層51と、中間層52と、出力層53と、を有する。入力層51は、判定対象の画像データと、そのデータセットを入力値として入力される。入力層51は、データセットに応じた複数のニューロンにより構成され、入力されたデータに応じた出力値を中間層52のニューロンに対して出力する。中間層52は、1以上の層を含み、各層においてニューロンが配置される。中間層52の層数に制限はない。中間層52は、入力層51から入力を受け、各層、各ニューロンで計算処理した結果を、出力層53に出力する。出力層53は、中間層52からの入力に応じて、判定対象の色値の推定値を出力する。生成部25は、出力層53における判定対象の色値の推定値を、データセットとして入力された色番号を示す値となるよう機械学習処理を実行させることで、色判定モデルを生成することができる。
【0062】
本実施形態において、判定部23は、色判定モデルに加えて更に色補正モデルを用いて、判定対象の色判定を行う構成であってもよい。色補正モデルは、色判定モデルと同様にニューラルネットワークなどとして構成される。色補正モデルは、判定対象の画像データと、色番号と、色番号に対応する色値と、を含むデータセットにより機械学習処理を実行される。判定部23は、判定対象の画像データを色補正モデルに入力し、判定対象を色番号の色に補正した画像データを色補正モデルからの出力として取得する。判定部23は、補正された画像データを色判定モデルに入力することで、判定対象の色の推定値を出力として取得することができる。
【0063】
色判定モデルの異なる態様として、生成部25は、判定対象および色見本を含む判定対象画像と、当該判定対象の実際の色に基づく色番号または成熟度を示す値と、をデータセットとして色判定モデルを生成してもよい。これにより、判定部23は、当該色判定モデルを用いることで判定対象画像が撮像された環境における色の見え方の差異を含めた特徴量に基づいて判定対象の色を判定することができる。
【0064】
以下、農作物に対して作業を行う作業者が、端末装置3を用いて農作物の色、または色に基づく成熟度に関する判定を行い、支援を受ける具体例について説明する。
【0065】
本実施形態において、端末装置3は、農作物に対して作業を行う作業者が装着可能であることが好ましい。端末装置3は、スマートグラスのように、作業者の視野の少なくとも一部を含む領域を撮像する撮像部31と、作業者の視野の一部において透過性を有するディスプレイなどによる表示部32と、を含む構成であることが好ましい。
【0066】
図9(a)は、作業者が端末装置3としてのスマートグラスを装着し、判定対象Oに対して色判定を行う際における、作業者の視野を示す。なお、
図9(a)は、透過性を有する表示部32を介した視野であり、撮像部31は、当該視野と略一致する領域を撮像するものとする。このとき、作業者の視線は、判定対象Oに向けられ、作業者の手または作業器具に取り付けられる色見本Mが、視野に含まれる。端末装置3は、撮像部31により撮像した画像データを判定対象画像として、サーバ装置2に送信する。サーバ装置2は、判定対象画像に基づいて検出処理、判定処理を実行し、その処理結果を端末装置3に対して送信する。
図9(b)は、作業者の視野およびサーバ装置2による処理結果に基づく表示部32に表示される結果画面W3の一例を示す。結果画面W3は、表示処理部26により表示処理され、端末装置3は、当該表示処理結果に基づいて結果画面W3を表示部32に表示する。結果画面W3は、検出結果表示部W21と、判定結果表示部W32と、を有する。検出結果表示部W21は、検出部22により検出された判定対象の画像領域を表示することで、作業者は、色判定の対象を判断することができる。判定結果表示部W22は、判定部23により判定処理を実行し、出力される成熟度を含む判定結果を表示することで、作業者は、農作物が収穫適期であるか否かを判断することができる。表示処理部26は、検出結果表示部W21の画像領域と重畳しない画像領域において、判定結果表示部W22を表示処理する。なお、判定結果表示部W22は、評価対象名、色番号、撮像環境の明るさなどを、併せて表示してもよい。また、判定部23における成否判定が不成立である場合、判定結果表示部W22は、その不成立を示す通知を表示してもよい。したがって、本発明により、作業者は、農作物に対する作業をしながら、その作業対象である農作物の色に基づく成熟度の度合いを精度よく判断することができる。
【0067】
検出部22および/または判定部23による処理結果は、サーバ装置2において音声処理され、端末装置3は、スピーカなどの出力部を介して音声処理結果を音声として出力してもよい。音声処理は、例えば、テキストデータとして取得される処理結果に基づいて音声合成することで音声データを生成する処理により実現される。なお、音声処理は、端末装置3において実行されてもよい。通知部27は、それら処理結果を音声データとして端末装置3に出力することができる。
【0068】
以上、色判定システム1として構成される実施形態について説明したが、本発明は、これに限定されず、端末装置3がサーバ装置2の機能構成要素やデータベースとしての記憶部DBなどをすべて備え、色判定システムとして実現されてもよい。
【0069】
<実施形態2>
色見本Mを農作物の色とする実施形態2について説明する。色見本Mを農作物の色とすることで、基準とする農作物と近い色を有する農作物を判定することができる。例えば、農作物は、複数の農作物が1つの容器や箱などに詰めて出荷され、このとき、複数の農作物の色が統一されることで、出荷先においてその品質管理が容易となり、また、当該農作物を使用した料理などの見栄えや味を一定の水準として維持することができる。なお、実施形態1と重複する部分については説明を省略する。
【0070】
実施形態2において、記憶部DBは、色差と、同色判定閾値と、の対応関係を示す閾値テーブルを格納する。同色判定閾値は、ある基準とする任意色と、判定対象の色が略同色であるか否かを判定するための閾値を示す。同色判定閾値は、例えば、判定対象の色が任意色からの色差-1~+1の範囲として設定される場合、略同色であると判定するための閾値として用いられる。
【0071】
検出部22は、色見本Mとして農作物を検出するための第3検出モデルを有し、判定対象画像に含まれる判定対象と、色見本Mとしての農作物と、をそれぞれ検出する。検出部22は、色見本としての農作物に含まれる画像領域を検出し、当該領域における色値を抽出する。検出部22は、抽出した色値を基準とする任意色として決定し、判定部23に受け渡す。なお、判定対象に係る検出部22における検出処理は、実施形態1と同様である。
【0072】
判定部23は、検出部22が検出した判定対象を含む画像領域および任意色を取得し、判定対象の色が任意色と略同色であるか否かについて判定処理を実行する。ここで判定部23の判定処理は、実施形態1と異なる色判定モデルを有してもよく、判定対象を含む画像領域および任意色を色判定モデルに入力し、判定対象の色における任意色からの色差を出力として取得する処理を含む。なお、任意色は、色判定モデルにおいて基準色と同様に扱われるものとする。色判定モデルは、判定対象の色の基準色からの色差を取得可能であり、当該色差を取得する処理に用いられる。
【0073】
判定部23は、記憶部DBに格納される閾値テーブルを参照し、判定対象の色差に基づいて判定対象が任意色と略同色であるか否かを判定し、その判定結果を出力する。表示処理部26は、判定結果に応じて表示処理し、端末装置3の表示部32は、表示処理結果に基づいて判定結果を表示することができる。なお、判定結果は、音声処理され、端末装置3において出力されてもよい。
【0074】
なお、判定部23は、任意色と判定対象の色を同色判定モデルの入力値とし、判定対象の色が任意色と略同色であるか否かを同色判定モデルから出力値として取得する構成であってもよい。同色判定モデルは、例えば、2つの色と、それらが略同色であるかを示す教師データと、をデータセットとして機械学習処理を実行することで生成される。
【0075】
以上のように、実施形態2とすることで、判定対象画像の撮像された環境などによる色の見え方に影響されることなく、任意色とする農作物と略同色を有する農作物であるか否かを精度よく色判定し、かつ、リアルタイムな判定処理を実現することができる。
【産業上の利用可能性】
【0076】
以上の説明において、農作物、特にブドウの色判定に好適な実施形態を説明したが、本発明は、時間経過に伴うその品質変化を色により判定するものであって、色により品質変化を判定可能な対象であれば適用することができる。例えば、肉食品や魚食品などの生鮮物、住宅やオフィス、施設における内壁、外壁、屋根、床、柱構造物などの建築物、機械製品、電気電子機器、木工品などの製造物、などにおいて、本発明を適用し、その品質の劣化または成熟度の度合いを色により判定することができる。
【符号の説明】
【0077】
1 色判定システム
2 サーバ装置
21 画像取得部
22 検出部
23 判定部
24 通信部
25 生成部
26 表示処理部
27 通知部
201 演算装置
202 主記憶装置
203 補助記憶装置
204 通信装置
DB 記憶部
3 端末装置
31 撮像部
32 表示部
33 通信部
NW 通信ネットワーク
【要約】
【課題】
農作物の成熟の度合いにより変化する色を判定し、収穫適正期による収穫、または、出荷を含む作業を支援する。
【解決手段】
農作物の成熟の度合いにより変化する色を判定する色判定システムであって、画像取得部は、前記色を判定する判定対象と、前記色の基準色値となる色見本と、が含まれる判定対象画像を取得し、検出部は、前記判定対象画像に含まれる前記判定対象および前記色見本をそれぞれ検出し、記憶部は、前記基準色値からの所定の色差と、前記色差に応じた前記農作物の成熟度と、の対応関係を示すカラーチャートを格納し、判定部は、前記カラーチャートを参照し、前記判定対象画像に含まれる前記判定対象の色における前記基準色値からの色差に基づいて前記成熟度を出力する。
【選択図】
図1