(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022111051
(43)【公開日】2022-07-29
(54)【発明の名称】リンゴ品質推定システム
(51)【国際特許分類】
G06Q 50/02 20120101AFI20220722BHJP
G01N 33/02 20060101ALI20220722BHJP
G01N 21/27 20060101ALN20220722BHJP
【FI】
G06Q50/02
G01N33/02
G01N21/27 A
【審査請求】未請求
【請求項の数】13
【出願形態】OL
(21)【出願番号】P 2021185863
(22)【出願日】2021-11-15
(31)【優先権主張番号】P 2021006449
(32)【優先日】2021-01-19
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】519045387
【氏名又は名称】ASSEST株式会社
(74)【代理人】
【識別番号】100120868
【弁理士】
【氏名又は名称】安彦 元
(72)【発明者】
【氏名】澤田 綾子
【テーマコード(参考)】
2G059
5L049
【Fターム(参考)】
2G059AA05
2G059BB11
2G059EE02
2G059FF01
2G059KK04
2G059MM20
5L049CC01
(57)【要約】
【課題】リンゴの品質をより人手に頼ることなく高精度かつ自動的に推定する。
【解決手段】ユーザの頭部又は眼鏡に装着されるユーザ端末に含まれ、当該ユーザ端末を介して推定対象の摘果後のリンゴの外観に関する外観情報を撮像すると共に、撮像したリンゴの部位に関する第1撮像対象部位情報を取得し、過去において摘果後のリンゴの外観の撮像した参照用外観情報と、リンゴの品質との3段階以上の連関度を利用し、取得された外観情報と同一又は類似の参照用外観情報に基づき、上記連関度のより高いものを優先させて、リンゴの品質を推定する上で、少なくとも第1撮像対象部位情報に基づいて、上記ユーザに対して撮影方法についての示唆を通知する。
【選択図】
図18
【特許請求の範囲】
【請求項1】
リンゴの品質を推定するための推定モデルを生成するためのリンゴ品質推定モデル構築システムにおいて、
摘果後のリンゴの外観の撮像した参照用外観情報と、当該リンゴの品質とを取得する情報取得手段と、
上記情報取得手段により取得された参照用外観情報と、リンゴの品質とを教師データとして用い、入力を参照用外観情報とし、出力をリンゴの品質とした推定モデルを機械学習により生成するモデル生成手段を備え、
上記情報取得手段は、頭部又は眼鏡に装着されるユーザ端末に含まれ、上記ユーザ端末を介して上記参照用外観情報を撮像したリンゴの部位に関する撮像対象部位情報を取得し、これを当該参照用外観情報に紐付けて記録すること
を特徴とするリンゴ品質推定モデル構築システム。
【請求項2】
上記情報取得手段は、参照用外観情報に含まれるリンゴの部位と、撮像対象部位情報とを教師データとして用い、入力を参照用外観情報とし、出力を撮像対象部位情報とした機械学習モデルを利用し、新たに上記ユーザ端末を介して撮像された参照用外観情報に基づいて撮像対象部位情報を取得すること
を特徴とする請求項1記載のリンゴ品質推定モデル構築システム。
【請求項3】
リンゴの品質を推定するための推定モデルを生成するためのリンゴ品質推定モデル構築システムにおいて、
摘果前のリンゴ及びこれにつながる枝も含めた参照用形態情報と、当該リンゴの品質とを取得する情報取得手段と、
上記情報取得手段により取得された参照用形態情報と、リンゴの品質とを教師データとして用い、入力を参照用形態情報とし、出力をリンゴの品質とした推定モデルを機械学習により生成するモデル生成手段を備え、
上記情報取得手段は、頭部又は眼鏡に装着されるユーザ端末に含まれ、上記ユーザ端末を介して上記参照用形態情報を撮像したリンゴの部位に関する撮像対象部位情報を取得し、これを当該参照用形態情報に紐付けて記録すること
を特徴とするリンゴ品質推定モデル構築システム。
【請求項4】
上記情報取得手段は、参照用形態情報に含まれるリンゴの部位と、撮像対象部位情報とを教師データとして用い、入力を参照用形態情報とし、出力を撮像対象部位情報とした機械学習モデルを利用し、新たに上記ユーザ端末を介して撮像された参照用形態情報に基づいて撮像対象部位情報を取得すること
を特徴とする請求項3記載のリンゴ品質推定モデル構築システム。
【請求項5】
リンゴの品質を推定するリンゴ品質推定システムにおいて、
ユーザの頭部又は眼鏡に装着されるユーザ端末に含まれ、当該ユーザ端末を介して推定対象の摘果後のリンゴの外観に関する外観情報を撮像すると共に、撮像したリンゴの部位に関する第1撮像対象部位情報を取得する情報取得手段と、
過去において摘果後のリンゴの外観の撮像した参照用外観情報と、リンゴの品質との3段階以上の連関度が規定され、入力を参照用外観情報とし、出力をリンゴの品質とした学習済みモデルを利用し、上記情報取得手段により取得された外観情報と同一又は類似の参照用外観情報に基づき、上記連関度のより高いものを優先させて、リンゴの品質を推定する推定手段と、
上記参照用外観情報に含まれるリンゴの部位に関する第2撮像対象部位情報を当該参照用外観情報に紐付けて予め記録した記録手段とを備え、
上記ユーザ端末は、上記情報取得手段により取得された第1撮像対象部位情報と、上記情報取得手段により取得された外観情報と同一又は類似の参照用外観情報に紐付けられて上記記録手段に記録されている第2撮像対象部位情報とに基づいて、上記ユーザに対して撮影方法についての示唆を通知すること
を特徴とするリンゴ品質推定システム。
【請求項6】
上記情報取得手段は、参照用外観情報に含まれるリンゴの部位と、第1撮像対象部位情報とを教師データとして用い、入力を参照用外観情報とし、出力を第1撮像対象部位情報とした機械学習モデルを利用し、新たに上記ユーザ端末を介して撮像された外観情報に基づいて第1撮像対象部位情報を取得すること
を特徴とする請求項5記載のリンゴ品質推定システム。
【請求項7】
上記情報取得手段は、過去において参照用外観情報に含まれるリンゴの部位と、第2撮像対象部位情報とを教師データとして用い、入力を参照用外観情報とし、出力を第2撮像対象部位情報とした機械学習モデルを利用し、新たに撮像された参照用外観情報に基づいて第2撮像対象部位情報を取得すること
を特徴とする請求項5又は6記載のリンゴ品質推定システム。
【請求項8】
上記連関度は、人工知能におけるニューラルネットワークのノードで構成されること
を特徴とする請求項5~7のうち何れか1項記載のリンゴ品質推定システム。
【請求項9】
リンゴの品質を推定するリンゴ品質推定システムにおいて、
ユーザの頭部又は眼鏡に装着されるユーザ端末に含まれ、当該ユーザ端末を介して推定対象の摘果前のリンゴ及びこれにつながる枝も含めた形態情報を撮像すると共に、撮像したリンゴの部位に関する第1撮像対象部位情報を取得する情報取得手段と、
過去において撮像した摘果前のリンゴ及びこれにつながる枝も含めた参照用形態情報と、リンゴの品質との3段階以上の連関度が規定され、入力を参照用外観情報とし、出力をリンゴの品質とした学習済みモデルを利用し、上記情報取得手段により取得された外観情報と同一又は類似の参照用外観情報に基づき、上記連関度のより高いものを優先させて、リンゴの品質を推定する推定手段と、
上記参照用外観情報に含まれるリンゴの部位に関する第2撮像対象部位情報を当該参照用外観情報に紐付けて予め記録した記録手段とを備え、
上記ユーザ端末は、上記情報取得手段により取得された第1撮像対象部位情報と、上記情報取得手段により取得された外観情報と同一又は類似の参照用外観情報に紐付けられて上記記録手段に記録されている第2撮像対象部位情報とに基づいて、上記ユーザに対して撮影方法についての示唆を通知すること
を特徴とするリンゴ品質推定システム。
【請求項10】
リンゴの品質を推定するリンゴ品質推定システムにおいて、
ユーザの頭部又は眼鏡に装着されるユーザ端末に含まれ、当該ユーザ端末を介して推定対象の摘果後のリンゴの外観に関する外観情報を撮像すると共に、撮像したリンゴの部位に関する第1撮像対象部位情報を取得する情報取得手段と、
過去において摘果後のリンゴについて撮像した参照用外観情報と、リンゴの品質との3段階以上の連関度が規定され、入力を参照用外観情報とし、出力をリンゴの品質とした学習済みモデルを利用し、上記情報取得手段により取得された外観情報と同一又は類似の参照用外観情報に基づき、上記連関度のより高いものを優先させて、リンゴの品質を推定する推定手段とを備え、
上記推定手段は、上記参照用外観情報と、リンゴの品質との3段階以上の連関度を上記リンゴの部位毎に予め取得しておき、上記情報取得手段により取得された上記第1撮影対象部位情報に応じたリンゴの部位の上記連関度を読み出してリンゴの品質を推定し、
上記ユーザ端末は、上記ユーザに対して上記推定手段により推定されたリンゴの品質を通知すること
を特徴とするリンゴ品質推定システム。
【請求項11】
上記情報取得手段は、2以上のリンゴの部位について上記外観情報を撮像すると共に、当該2以上のリンゴの部位についてそれぞれ第1撮像対象部位情報を取得し、
上記推定手段は、上記情報取得手段により取得された当該2以上の上記第1撮影対象部位情報に応じたリンゴの部位についてそれぞれ上記連関度を読み出してリンゴの品質を推定し、推定した当該2以上の部位のリンゴの品質に基づいて、リンゴの品質の総合評価値を求め、これを上記ユーザに対して通知すること
を特徴とする請求項10記載のリンゴ品質推定システム。
【請求項12】
リンゴの品質を推定するリンゴ品質推定システムにおいて、
ユーザの頭部又は眼鏡に装着されるユーザ端末に含まれ、当該ユーザ端末を介して推定対象の摘果後のリンゴの2以上の部位について外観に関する外観情報を撮像し、
過去において摘果後のリンゴについて撮像した2以上の部位について参照用外観情報と、リンゴの品質との3段階以上の連関度が規定され、入力を2以上の部位の参照用外観情報とし、出力をリンゴの品質とした学習済みモデルを利用し、上記情報取得手段により取得された各部位における外観情報と同一又は類似の参照用外観情報に基づき、上記連関度のより高いものを優先させて、リンゴの品質を推定する推定手段とを備え、
上記ユーザ端末は、上記ユーザに対して上記推定手段により推定されたリンゴの品質を通知すること
を特徴とするリンゴ品質推定システム。
【請求項13】
リンゴの品質を推定するリンゴ品質推定システムにおいて、
ユーザの頭部又は眼鏡に装着されるユーザ端末に含まれ、当該ユーザ端末を介して推定対象の摘果前のリンゴ及びこれにつながる枝も含めた形態情報を撮像すると共に、撮像したリンゴの部位に関する第1撮像対象部位情報を取得する情報取得手段と、
過去において摘果前のリンゴ及びこれにつながる枝も含めた参照用形態情報と、リンゴの品質との3段階以上の連関度が規定され、入力を参照用形態情報とし、出力をリンゴの品質とした学習済みモデルを利用し、上記情報取得手段により取得された形態情報と同一又は類似の参照用形態情報に基づき、上記連関度のより高いものを優先させて、リンゴの品質を推定する推定手段とを備え、
上記推定手段は、上記参照用形態情報と、リンゴの品質との3段階以上の連関度を上記リンゴの部位毎に予め取得しておき、上記情報取得手段により取得された上記第1撮影対象部位情報に応じたリンゴの部位の上記連関度を読み出してリンゴの品質を推定し、
上記ユーザ端末は、上記ユーザに対して上記推定手段により推定されたリンゴの品質を通知すること
を特徴とするリンゴ品質推定システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、リンゴの品質を高精度に推定する上で好適なリンゴ品質推定システムに関する。
【背景技術】
【0002】
リンゴの品質は、リンゴの大きさ、形状、色、キズの度合等をはじめとする外観情報に加え、食感や味(甘さ、酸っぱさ、香ばしさ)等の味覚的な観点から評価される。このようなリンゴの品質は、外観に関しては人の視覚を通じて評価されており、また食感や味に関しては、試食を通じて評価されてきた。
【0003】
しかしながら、これらリンゴの品質の評価をすべて人手による作業に頼るのであれば、その労力の負担は増大し、また判別精度に関しても相当のスキルと経験が必要になる。ベテランの品質評価人が引退した場合等には、その評価精度を維持できる後継者が必要になるが、近年の人手不足により、後継者の確保が困難になっている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
このため、リンゴの品質評価を、人手に頼ることなく高精度に評価することができるシステムが従来より望まれていた。
【0005】
そこで本発明は、上述した問題点に鑑みて案出されたものであり、その目的とするところは、リンゴの品質をより人手に頼ることなく高精度かつ自動的に推定することが可能なリンゴ品質推定システムを提供することにある。
【課題を解決するための手段】
【0006】
本発明に係るリンゴ品質推定システムは、リンゴの品質を推定するリンゴ品質推定システムにおいて、ユーザの頭部又は眼鏡に装着されるユーザ端末に含まれ、当該ユーザ端末を介して推定対象の摘果後のリンゴの外観に関する外観情報を撮像すると共に、撮像したリンゴの部位に関する第1撮像対象部位情報を取得する情報取得手段と、過去において摘果後のリンゴの外観の撮像した参照用外観情報と、リンゴの品質との3段階以上の連関度が規定され、入力を参照用外観情報とし、出力をリンゴの品質とした学習済みモデルを利用し、上記情報取得手段により取得された外観情報と同一又は類似の参照用外観情報に基づき、上記連関度のより高いものを優先させて、リンゴの品質を推定する推定手段と、上記参照用外観情報に含まれるリンゴの部位に関する第2撮像対象部位情報を当該参照用外観情報に紐付けて記録する記録手段とを備え、上記ユーザ端末は、上記情報取得手段により取得された第1撮像対象部位情報と、上記情報取得手段により取得された外観情報と同一又は類似の参照用外観情報に紐付けられて上記記録手段に記録されている第2撮像対象部位情報とに基づいて、上記ユーザに対して撮影方法についての示唆を通知することを特徴とする。
【発明の効果】
【0007】
特段のスキルや経験が無くても、誰でも手軽にリンゴの品質の推定を高精度に行うことができる。
【図面の簡単な説明】
【0008】
【
図1】本発明を適用したシステムの全体構成を示すブロック図である。
【
図3】本発明の動作について説明するための図である。
【
図4】本発明の動作について説明するための図である。
【
図5】本発明の動作について説明するための図である。
【
図6】本発明の動作について説明するための図である。
【
図7】本発明の動作について説明するための図である。
【
図8】本発明の動作について説明するための図である。
【
図9】本発明の動作について説明するための図である。
【
図10】本発明の動作について説明するための図である。
【
図11】本発明の動作について説明するための図である。
【
図12】本発明の動作について説明するための図である。
【
図13】本発明の動作について説明するための図である。
【
図14】本発明の動作について説明するための図である。
【
図15】本発明の動作について説明するための図である。
【
図16】本発明の動作について説明するための図である。
【
図17】本発明の動作について説明するための図である。
【
図18】本発明の動作について説明するための図である。
【
図19】本発明の動作について説明するための図である。
【
図20】本発明の動作について説明するための図である。
【発明を実施するための形態】
【0009】
第1実施形態
以下、本発明を適用したリンゴ品質推定プログラムについて、図面を参照しながら詳細に説明をする。
【0010】
図1は、本発明を適用したリンゴ品質推定プログラムが実装されるリンゴ品質推定システム1の全体構成を示すブロック図である。リンゴ品質推定システム1は、情報取得部9と、情報取得部9に接続された推定装置2と、推定装置2に接続されたデータベース3とを備えている。
【0011】
情報取得部9は、本システムを活用する者が各種コマンドや情報を入力するためのデバイスであり、具体的にはキーボードやボタン、タッチパネル、マウス、スイッチ等により構成される。情報取得部9は、テキスト情報を入力するためのデバイスに限定されるものではなく、マイクロフォン等のような音声を検知してこれをテキスト情報に変換可能なデバイスで構成されていてもよい。また情報取得部9は、カメラ等の画像を撮影可能な撮像装置として構成されていてもよい。情報取得部9は、紙媒体の書類から文字列を認識できる機能を備えたスキャナで構成されていてもよい。また情報取得部9は、後述する推定装置2と一体化されていてもよい。情報取得部9は、検知した情報を推定装置2へと出力する。また情報取得部9は地図情報をスキャニングすることで位置情報を特定する手段により構成されていてもよい。また情報取得部9は、温度センサ、湿度センサ、風向センサ、を測るための照度センサで構成されていてもよい。また情報取得部9は、天候についてのデータを気象庁や民間の天気予報会社から取得する通信インターフェースで構成されていてもよい。また情報取得部9は身体に装着して身体のデータを検出するための身体センサで構成されていてもよく、この身体センサは、例えば体温、心拍数、血圧、歩数、歩く速度、加速度を検出するためのセンサで構成されていてもよい。また情報取得部9は図面等の情報をスキャニングしたり、或いはデータベースから読み出すことで取得するデバイスとして構成されていてもよい。情報取得部9は、これら以外に臭気や香りを検知する臭気センサにより構成されていてもよい。
【0012】
データベース3は、リンゴ品質推定を行う上で必要な様々な情報が蓄積される。リンゴ品質推定を行う上で必要な情報としては、過去において取得したリンゴの外観に関する参照用外観情報、参照用外観情報を取得する際のリンゴの品種に関する参照用品種情報、参照用外観情報を取得する際のリンゴから取得した参照用スペクトル情報、参照用外観情報を取得する際のリンゴの香りに関する参照用香り情報、参照用外観情報を取得する際のリンゴの重量に関する参照用重量情報、参照用外観情報を取得する際のリンゴの栽培履歴に関する参照用栽培履歴情報と、これらに対して実際に判断がなされたリンゴの品質とのデータセットが記憶されている。
【0013】
つまり、データベース3には、このような参照用外観情報に加え、参照用品種情報、参照用スペクトル情報、参照用香り情報、参照用重量情報、参照用栽培履歴情報の何れか1以上と、リンゴの品質が互いに紐づけられて記憶されている。なお、データベース3にこのような学習データを記憶する代わりに、判別装置2や情報取得部9側に学習データを記憶させるようにしてもよい。即ち、判別装置2や情報取得部9をいわゆるエッジデバイスとし、このエッジデバイスに、人工知能を搭載し、学習データを蓄積させて推論を行うようにしてもよい。
【0014】
推定装置2は、例えば、パーソナルコンピュータ(PC)等を始めとした電子機器で構成されているが、PC以外に、携帯電話、スマートフォン、タブレット型端末、ウェアラブル端末等、他のあらゆる電子機器で具現化されるものであってもよい。ユーザは、この推定装置2による探索解を得ることができる。
【0015】
図2は、推定装置2の具体的な構成例を示している。この推定装置2は、推定装置2全体を制御するための制御部24と、操作ボタンやキーボード等を介して各種制御用の指令を入力するための操作部25と、有線通信又は無線通信を行うための通信部26と、各種判断を行う推定部27と、ハードディスク等に代表され、実行すべき検索を行うためのプログラムを格納するための記憶部28とが内部バス21にそれぞれ接続されている。さらに、この内部バス21には、実際に情報を表示するモニタとしての表示部23が接続されている。
【0016】
制御部24は、内部バス21を介して制御信号を送信することにより、推定装置2内に実装された各構成要素を制御するためのいわゆる中央制御ユニットである。また、この制御部24は、操作部25を介した操作に応じて各種制御用の指令を内部バス21を介して伝達する。
【0017】
操作部25は、キーボードやタッチパネルにより具現化され、プログラムを実行するための実行命令がユーザから入力される。この操作部25は、上記実行命令がユーザから入力された場合には、これを制御部24に通知する。この通知を受けた制御部24は、推定部27を始め、各構成要素と協調させて所望の処理動作を実行していくこととなる。この操作部25は、前述した情報取得部9として具現化されるものであってもよい。
【0018】
推定部27は、探索解を推定する。この推定部27は、推定動作を実行するに当たり、必要な情報として記憶部28に記憶されている各種情報や、データベース3に記憶されている各種情報を読み出す。この推定部27は、人工知能により制御されるものであってもよい。この人工知能はいかなる周知の人工知能技術に基づくものであってもよい。
【0019】
表示部23は、制御部24による制御に基づいて表示画像を作り出すグラフィックコントローラにより構成されている。この表示部23は、例えば、液晶ディスプレイ(LCD)等によって実現される。
【0020】
記憶部28は、ハードディスクで構成される場合において、制御部24による制御に基づき、各アドレスに対して所定の情報が書き込まれるとともに、必要に応じてこれが読み出される。また、この記憶部28には、本発明を実行するためのプログラムが格納されている。このプログラムは制御部24により読み出されて実行されることになる。
【0021】
上述した構成からなるリンゴ品質推定システム1における動作について説明をする。
【0022】
リンゴ品質推定システム1では、例えば
図3に示すように、参照用外観情報と、リンゴの品質との3段階以上の連関度が予め設定されていることが前提となる。参照用外観情報とは、リンゴの外観について、リンゴを撮像することにより得られた画像情報から得られるものであり、画像情報を解析することで得ることができる。この画像は静止画のみならず動画であってもよい。この参照用外観情報は、リンゴについて撮像した画像を解析することで、リンゴの大きさ、形状、色、キズの度合の何れかに基づいて、リンゴの外観を特定するようにしてもよい。これらのリンゴの外観は、以前において学習させた特徴量に基づいて判別するようにしてもよい。このとき、人工知能を活用し、リンゴの大きさ、形状、色、キズの度合等の画像データと、リンゴの品質を学習させておき、実際に参照用外観情報を取得する際には、これらの学習させた画像データと照らし合わせて、そのリンゴの品質を判別するようにしてもよい。また、この参照用外観情報は、実際にもぎ取って収穫した摘果後のリンゴに限定されるものではなく、まだ枝になっている摘果前のリンゴの画像情報を得るようにしてもよい。
【0023】
かかる場合には、画像情報と、リンゴの大きさ、形状、色、キズの度合の何れかの外観とを教師データとして機械学習された予想モデルを用い、入力を上記画像情報とし、出力を上記外観として判定した結果に基づいて、外観を特定するようにしてもよい。
【0024】
リンゴの品質は、評価者による以前の経験に基づいてその良しあしを判断してもよいし、実際に試食をしてその味を判断するようにしてもよい。かかる場合にはリンゴを試食する複数人の検査者がその味について、甘さ、酸っぱさ、柔らかさ、硬さ、香ばしさ、歯ごたえ、苦み等の各項目について複数段階で評価し、それらを統計的に分析して品質評価値としてもよい。また、リンゴの品質は、味覚を検知可能な味覚センサを通じて判別するようにしてもよい。またリンゴの品質は、病気の有無に関する情報で構成されていてもよいし、病気が発生しているのであれば、その病気の種類に関する情報で構成してもよい。また、探索解として、リンゴの品質の代替として、リンゴにおいて発生している病気を適用するようにしてもよい。これにより、リンゴにおいて発生している病気を同様の手順で推定することが可能となる。
【0025】
図3の例では、入力データとして例えば参照用外観情報P01~P03であるものとする。このような入力データとしての参照用外観情報P01~P03は、出力としてのリンゴの品質に連結している。この出力においては、出力解としての、リンゴの品質が表示されている。
【0026】
参照用外観情報は、この出力解としてのリンゴの品質A~Dに対して3段階以上の連関度を通じて互いに連関しあっている。参照用外観情報がこの連関度を介して左側に配列し、各リンゴの品質が連関度を介して右側に配列している。連関度は、左側に配列された参照用外観情報に対して、何れのリンゴの品質と関連性が高いかの度合いを示すものである。換言すれば、この連関度は、各参照用外観情報が、いかなるリンゴの品質に紐付けられる可能性が高いかを示す指標であり、参照用外観情報から最も確からしいリンゴの品質を選択する上での的確性を示すものである。
図3の例では、連関度としてw13~w19が示されている。このw13~w19は以下の表1に示すように10段階で示されており、10点に近いほど、中間ノードとしての各組み合わせが出力としてのリンゴの品質と互いに関連度合いが高いことを示しており、逆に1点に近いほど中間ノードとしての各組み合わせが出力としての値段と互いに関連度合いが低いことを示している。
【0027】
【0028】
推定装置2は、このような
図3に示す3段階以上の連関度w13~w19を予め取得しておく。つまり推定装置2は、実際の探索解の判別を行う上で、参照用外観情報と、その場合のリンゴの品質の何れが採用、評価されたか、過去のデータセットを蓄積しておき、これらを分析、解析することで
図3に示す連関度を作り上げておく。
【0029】
例えば、参照用外観情報が、リンゴの外観が大きさ、形状、色、キズの度合等が複数段階の数値で評価されたαであるものとする。このような参照用外観情報に対するリンゴの品質としてはリンゴの品質Aが多く評価されたものとする。このようなデータセットを集めて分析することにより、参照用外観情報との連関度が強くなる。
【0030】
この分析、解析は人工知能により行うようにしてもよい。かかる場合には、例えば参照用外観情報P01である場合に、過去のリンゴの品質の評価を行った結果の各種データから分析する。こ参照用外観情報P01である場合に、リンゴの品質Aの事例が多い場合には、このリンゴの品質の評価につながる連関度をより高く設定し、リンゴの品質Bの事例が多い場合には、このリンゴの品質の評価につながる連関度をより高く設定する。例えば参照用外観情報P01の例では、リンゴの品質Aと、リンゴの品質Cにリンクしているが、以前の事例からリンゴの品質Aにつながるw13の連関度を7点に、リンゴの品質Cにつながるw14の連関度を2点に設定している。
【0031】
また、この
図3に示す連関度は、人工知能におけるニューラルネットワークのノードで構成されるものであってもよい。即ち、このニューラルネットワークのノードが出力に対する重み付け係数が、上述した連関度に対応することとなる。またニューラルネットワークに限らず、人工知能を構成するあらゆる意思決定因子で構成されるものであってもよい。
【0032】
このような連関度が、人工知能でいうところの学習済みデータとなる。このような学習済みデータを、以前の評価対象のリンゴの外観の画像等と実際に推定・評価したリンゴの品質とのデータセットを通じて作った後に、実際にこれから新たにリンゴの品質の判別を行う上で、上述した学習済みデータを利用してリンゴの品質を探索することとなる。かかる場合には、実際に判別対象の領域において外観情報を新たに取得する。新たに取得する外観情報は、上述した情報取得部9により入力される。外観情報は、リンゴの品質を判別しようとする画像を撮像することで取得する。この判別方法は、上述した参照用外観情報と同様の手法で行うようにしてもよい。
【0033】
このようにして新たに取得した外観情報に基づいて、リンゴの品質を判別する。かかる場合には、予め取得した
図3(表1)に示す連関度を参照する。例えば、新たに取得した外観情報がP02と同一かこれに類似するものである場合には、連関度を介してリンゴの品質Bがw15、リンゴの品質Cが連関度w16で関連付けられている。かかる場合には、連関度の最も高いリンゴの品質Bを最適解として選択する。但し、最も連関度の高いものを最適解として選択することは必須ではなく、連関度は低いものの連関性そのものは認められるリンゴの品質Cを最適解として選択するようにしてもよい。また、これ以外に矢印が繋がっていない出力解を選択してもよいことは勿論であり、連関度に基づくものであれば、その他いかなる優先順位で選択されるものであってもよい。
【0034】
このようにして、新たに取得する外観情報から、最も好適なリンゴの品質を探索し、ユーザに表示することができる。この探索結果を見ることにより、ユーザ、即ちリンゴ生産業者、販売業者、流通業者は、探索されたリンゴの品質に基づいてリンゴの選別を行うことができ、リンゴの味を予測することができ、さらにリンゴの値段を決めることができる。しかもリンゴに接触することなく、非破壊検査を通じてこれらの品質を予測することができるため、リンゴに傷をつけることがなくなり、歩留まりを向上させることが可能となる。
【0035】
なお、摘果前のリンゴの外観を参照用外観情報として学習させている場合、外観情報としても同様に推定対象のリンゴの摘花前の外観を撮像することで取得するようにしてもよい。これにより、木になっている摘果前の状態においてリンゴの品質を推定することができる。このとき、各リンゴの品質を収穫時期情報と紐付けておくようにしてもよい。ここでいう収穫時期情報とは、いつ収穫すべきかを示す情報であり、例えば、今すぐ収穫すべきか、或いは2日後、4日後、1週間後等、収穫すべき時期が盛り込まれている。そして、リンゴの品質を推定した後、これに紐づけられた収穫時期状況を表示する。これにより、摘花前のリンゴを収穫する時期をユーザは把握することができる。
【0036】
かかる場合には、収穫時期情報の代替として、リンゴの品質に対して紐付けられた収穫の適否を学習させるようにしてもよい。収穫の適否は、今すぐに収穫してよいか、或いは今は収穫すべきでないかを示す情報である。
【0037】
このとき、情報取得部9、又は情報取得部9及び推定装置を眼鏡型端末やヘッドマウントディスプレイ(HMD)で構成する場合、HMDを介して判別対象の木になっている摘果前のリンゴを含むように撮像することで外観情報を得るようにしてもよい。そして、得られた探索解としてのリンゴの品質、又はそれに紐付けられた収穫時期情報をHMDの表示ディスプレイ上に表示するようにしてもよい。かかる場合には、いわゆるAR(拡張現実)の技術を利用し、提案された摘花すべき花に関する情報を透過状態で表示する表示ディスプレイ上に表示するようにしてもよい。これにより、画面上において視認している摘果前のリンゴの画像において、何れのリンゴを今すぐ収穫すべき、収穫の適否も含めて、透過状態で表示させることができ、ユーザの作業の利便性向上を図ることができる。なお、これらの情報の表示は、表示ディスプレイ上に透過状態で表示する以外に、音声等によりユーザに通知してもよく、またユーザが認識可能ないかなる通知手段に代替されるものであってもよい。
【0038】
図4の例では、参照用外観情報と、参照用品種情報との組み合わせが形成されていることが前提となる。参照用品種情報とは、リンゴの品種に関する品種情報である。
【0039】
リンゴの品質は、参照用外観情報に加え、リンゴの品種に応じて異なる。リンゴの品種は、「ふじ」「ジョナゴールド」「つがる」等の品種が存在するが、いずれも品種ごとに期待される味は異なる。つまり「ふじ」は、「ふじ」に期待されるしゃくしゃくとした食感、甘みと酸味のバランスがあり、それらは何れも外観の画像(色合い、大きさ等)と相関性を持っている。このため、参照用外観情報に加え、このような参照用品種情報と組み合わせてリンゴの品質を定義することにより、リンゴの品質を高精度に評価することができる。参照用品種情報は、参照用外観情報を取得するリンゴに関し、生産者からインタビューし、個別に品種名をデータ入力してもよいし、あらかじめシステム上で選択・設定されていてもよい。
【0040】
図4の例では、入力データとして例えば参照用外観情報P01~P03、参照用品種情報P14~17であるものとする。このような入力データとしての、参照用外観情報に対して、参照用品種情報が組み合わさったものが、
図4に示す中間ノードである。各中間ノードは、更に出力に連結している。この出力においては、出力解としての、リンゴの品質が表示されている。
【0041】
参照用外観情報と参照用品種情報との各組み合わせ(中間ノード)は、この出力解としての、リンゴの品質に対して3段階以上の連関度を通じて互いに連関しあっている。参照用外観情報と参照用品種情報がこの連関度を介して左側に配列し、リンゴの品質が連関度を介して右側に配列している。連関度は、左側に配列された参照用外観情報と参照用品種情報に対して、リンゴの品質と関連性が高いかの度合いを示すものである。換言すれば、この連関度は、各参照用外観情報と参照用品種情報が、いかなるリンゴの品質に紐付けられる可能性が高いかを示す指標であり、参照用外観情報と参照用品種情報から最も確からしいリンゴの品質を選択する上での的確性を示すものである。このため、これらの参照用外観情報と参照用品種情報の組み合わせで、最適なリンゴの品質を探索していくこととなる。
【0042】
図4の例では、連関度としてw13~w22が示されている。このw13~w22は表1に示すように10段階で示されており、10点に近いほど、中間ノードとしての各組み合わせが出力と互いに関連度合いが高いことを示しており、逆に1点に近いほど中間ノードとしての各組み合わせが出力と互いに関連度合いが低いことを示している。
【0043】
推定装置2は、このような
図4に示す3段階以上の連関度w13~w22を予め取得しておく。つまり推定装置2は、実際の探索解の判別を行う上で、参照用外観情報と参照用品種情報、並びにその場合のリンゴの品質が何れが見合うものであったか、過去のデータを蓄積しておき、これらを分析、解析することで
図4に示す連関度を作り上げておく。
【0044】
例えば、過去にあった実際の事例における参照用外観情報が、外観αであるものとする。また参照用品種情報が、「つがる」であるものとする。かかる場合に、実際にそのリンゴの品質がいくらであったかを示すリンゴの品質をデータセットとして学習させ、上述した連関度という形で定義しておく。なお、このような参照用外観情報や、参照用品種情報は、生産業者、販売業者、流通業者等が管理する管理データベースから抽出するようにしてもよい。
【0045】
この分析、解析は人工知能により行うようにしてもよい。かかる場合には、例えば参照用外観情報P01で、参照用品種情報P16である場合に、そのリンゴの品質を過去のデータから分析する。リンゴの品質がA(甘さ度合〇〇、酸味度合〇〇、苦み度合〇〇、歯ごたえ〇〇等)の事例が多い場合には、この品質Aにつながる連関度をより高く設定し、リンゴの品質Bの事例が多く、リンゴの品質Aの事例が少ない場合には、リンゴの品質Bにつながる連関度を高くし、リンゴの品質Aにつながる連関度を低く設定する。例えば中間ノード61aの例では、リンゴの品質Aと品質Bの出力にリンクしているが、以前の事例からリンゴの品質Aにつながるw13の連関度を7点に、リンゴの品質Bにつながるw14の連関度を2点に設定している。
【0046】
また、この
図4に示す連関度は、人工知能におけるニューラルネットワークのノードで構成されるものであってもよい。即ち、このニューラルネットワークのノードが出力に対する重み付け係数が、上述した連関度に対応することとなる。またニューラルネットワークに限らず、人工知能を構成するあらゆる意思決定因子で構成されるものであってもよい。
【0047】
図4に示す連関度の例で、ノード61bは、参照用外観情報P01に対して、参照用品種情報P14の組み合わせのノードであり、リンゴの品質Cの連関度がw15、リンゴの品質Eの連関度がw16となっている。ノード61cは、参照用外観情報P02に対して、参照用位置情報P15、P17の組み合わせのノードであり、リンゴの品質Bの連関度がw17、リンゴの品質Dの連関度がw18となっている。
【0048】
このような連関度が、人工知能でいうところの学習済みデータとなる。このような学習済みデータを作った後に、実際にこれからリンゴの品質を判別する際において、上述した学習済みデータを利用して行うこととなる。かかる場合には、実際に外観情報と、品種情報とを取得する。品種情報は、実際に品質を推定しようとするリングの品質を入力又は選択する。
【0049】
このようにして新たに取得した外観情報、品種情報に基づいて、最適なリンゴの品質を探索する。かかる場合には、予め取得した
図4(表1)に示す連関度を参照する。例えば、新たに取得した外観情報がP02と同一かこれに類似するものである場合であって、品種情報がP17である場合には、連関度を介してノード61dが関連付けられており、このノード61dは、リンゴの品質Cがw19、リンゴの品質Dが連関度w20で関連付けられている。かかる場合には、連関度の最も高いリンゴの品質Cを最適解として選択する。但し、最も連関度の高いものを最適解として選択することは必須ではなく、連関度は低いものの連関性そのものは認められるリンゴの品質Dを最適解として選択するようにしてもよい。また、これ以外に矢印が繋がっていない出力解を選択してもよいことは勿論であり、連関度に基づくものであれば、その他いかなる優先順位で選択されるものであってもよい。
【0050】
また、入力から伸びている連関度w1~w12の例を以下の表2に示す。
【0051】
【0052】
この入力から伸びている連関度w1~w12に基づいて中間ノード61が選択されていてもよい。つまり連関度w1~w12が大きいほど、中間ノード61の選択における重みづけを重くしてもよい。しかし、この連関度w1~w12は何れも同じ値としてもよく、中間ノード61の選択における重みづけは何れも全て同一とされていてもよい。
【0053】
図5は、上述した参照用外観情報に加え、上述した参照用品種情報の代わりに参照用スペクトル情報との組み合わせと、当該組み合わせに対するリンゴの品質との3段階以上の連関度が設定されている例を示している。
【0054】
参照用位置情報の代わりに説明変数として加えられるこの参照用スペクトル情報は、リンゴから得られる赤外、遠赤外、可視光、近紫外、紫外の各スペクトルの情報である。リンゴからのスペクトル情報を取得することで、リンゴの品質(味、光沢)と関係することが既に知られている。このため、この参照用スペクトル情報を組み合わせて連関度を形成することにより、リンゴの品質の判断精度を向上させる趣旨である。
【0055】
図5の例では、入力データとして例えば参照用外観情報P01~P03、参照用スペクトル情報P18~21であるものとする。このような入力データとしての、参照用外観情報に対して、参照用スペクトル情報が組み合わさったものが、
図5に示す中間ノードである。各中間ノードは、更に出力に連結している。この出力においては、出力解としての、リンゴの品質が表示されている。
【0056】
参照用外観情報と参照用スペクトル情報との各組み合わせ(中間ノード)は、この出力解としての、リンゴの品質に対して3段階以上の連関度を通じて互いに連関しあっている。参照用外観情報と参照用スペクトル情報がこの連関度を介して左側に配列し、リンゴの品質が連関度を介して右側に配列している。連関度は、左側に配列された参照用外観情報と参照用スペクトル情報に対して、リンゴの品質と関連性が高いかの度合いを示すものである。換言すれば、この連関度は、各参照用外観情報と参照用スペクトル情報が、いかなるリンゴの品質に紐付けられる可能性が高いかを示す指標であり、参照用外観情報と参照用スペクトル情報から最も確からしいリンゴの品質を選択する上での的確性を示すものである。
【0057】
推定装置2は、このような
図5に示す3段階以上の連関度w13~w22を予め取得しておく。つまり推定装置2は、実際の探索解の判別を行う上で、参照用外観情報と、参照用外観情報を取得する際に得た参照用スペクトル情報、並びにその場合のリンゴの品質が何れが好適であったか、過去のデータを蓄積しておき、これらを分析、解析することで
図5に示す連関度を作り上げておく。参照用スペクトル情報は、例えば、スペクトル情報を分析可能な計測器やカメラ等を通じて取得してもよい。
【0058】
例えば、過去にあった実際のリンゴの品質の評価時において、ある参照用外観情報に対して、参照用スペクトル情報が、近赤外においてピークが〇〇nmにおいて発生したものとする。かかる場合に、リンゴの品質がAと判別されている事例が多い場合には、これらをデータセットとして学習させ、上述した連関度という形で定義しておく。
【0059】
この分析、解析は人工知能により行うようにしてもよい。かかる場合には、例えば参照用外観情報P01で、参照用スペクトル情報P20である場合に、そのリンゴの品質を過去のデータから分析する。リンゴの品質Aの事例が多い場合には、このリンゴの品質がAにつながる連関度をより高く設定し、リンゴの品質がBの事例が多く、リンゴの品質がAの事例が少ない場合には、リンゴの品質がBにつながる連関度を高くし、リンゴの品質がAにつながる連関度を低く設定する。例えば中間ノード61aの例では、リンゴの品質Aとリンゴの品質Bの出力にリンクしているが、以前の事例からリンゴの品質Aにつながるw13の連関度を7点に、リンゴの品質Bにつながるw14の連関度を2点に設定している。
【0060】
また、この
図5に示す連関度は、人工知能におけるニューラルネットワークのノードで構成されるものであってもよい。即ち、このニューラルネットワークのノードが出力に対する重み付け係数が、上述した連関度に対応することとなる。またニューラルネットワークに限らず、人工知能を構成するあらゆる意思決定因子で構成されるものであってもよい。
【0061】
図5に示す連関度の例で、ノード61bは、参照用外観情報P01に対して参照用スペクトル情報P18の組み合わせのノードであり、リンゴの品質Cの連関度がw15、リンゴの品質Eの連関度がw16となっている。ノード61cは、参照用外観情報P02に対して、参照用スペクトル情報P19、P21の組み合わせのノードであり、リンゴの品質Bの連関度がw17、リンゴの品質Dの連関度がw18となっている。
【0062】
このような連関度が、人工知能でいうところの学習済みデータとなる。このような学習済みデータを作った後に、実際にこれからリンゴの品質の探索を行う際において、上述した学習済みデータを利用して行うこととなる。かかる場合には、実際にそのリンゴの品質の判別対象の外観情報と、スペクトル情報とを取得する。ここでスペクトル情報は、リンゴの品質を実際に見積もる際に、新たに取得するが、その取得方法は、上述した参照用スペクトル情報と同様である。
【0063】
このようにして新たに取得した外観情報と、スペクトル情報に基づいて、最適なリンゴの品質を探索する。かかる場合には、予め取得した
図5(表1)に示す連関度を参照する。例えば、新たに取得した外観情報がP02と同一かこれに類似するものである場合であって、スペクトル情報がP21と同一か又は類似する場合には、連関度を介してノード61dが関連付けられており、このノード61dは、リンゴの品質Cがw19、リンゴの品質Dが連関度w20で関連付けられている。かかる場合には、連関度の最も高いリンゴの品質Cを最適解として選択する。但し、最も連関度の高いものを最適解として選択することは必須ではなく、連関度は低いものの連関性そのものは認められるリンゴの品質Dを最適解として選択するようにしてもよい。また、これ以外に矢印が繋がっていない出力解を選択してもよいことは勿論であり、連関度に基づくものであれば、その他いかなる優先順位で選択されるものであってもよい。
【0064】
図6は、上述した参照用外観情報に加え、上述した参照用品種情報の代わりに参照用香り情報との組み合わせと、当該組み合わせに対するリンゴの品質との3段階以上の連関度が設定されている例を示している。
【0065】
参照用位置情報の代わりに説明変数として加えられるこの参照用香り情報は、リンゴの香りに関するあらゆる情報である。参照用香り情報は、リンゴから臭いセンサ、香りセンサ等を通じて取得してもよい。このリンゴの香りは、リンゴの味に大きく影響を及ぼすことが知られている。仮にリンゴが腐っていた場合には異臭がし、当然味も劣化し、品質は低下する。
【0066】
図6の例では、入力データとして例えば参照用外観情報P01~P03、参照用香り情報P18~21であるものとする。このような入力データとしての、参照用外観情報に対して、参照用香り情報が組み合わさったものが、
図6に示す中間ノードである。各中間ノードは、更に出力に連結している。この出力においては、出力解としての、リンゴの品質が表示されている。
【0067】
参照用外観情報と参照用香り情報との各組み合わせ(中間ノード)は、この出力解としての、リンゴの品質に対して3段階以上の連関度を通じて互いに連関しあっている。参照用外観情報と参照用香り情報がこの連関度を介して左側に配列し、リンゴの品質が連関度を介して右側に配列している。連関度は、左側に配列された参照用外観情報と参照用香り情報に対して、リンゴの品質と関連性が高いかの度合いを示すものである。換言すれば、この連関度は、各参照用外観情報と参照用香り情報が、いかなるリンゴの品質に紐付けられる可能性が高いかを示す指標であり、参照用外観情報と参照用香り情報から最も確からしいリンゴの品質を選択する上での的確性を示すものである。
【0068】
推定装置2は、このような
図6に示す3段階以上の連関度w13~w22を予め取得しておく。つまり推定装置2は、実際の探索解の判別を行う上で、参照用外観情報と、参照用外観情報を取得する際に得た参照用香り情報、並びにその場合のリンゴの品質が何れが好適であったか、過去のデータを蓄積しておき、これらを分析、解析することで
図6に示す連関度を作り上げておく。
【0069】
例えば、過去にあった実際のリンゴの品質の評価時において、ある参照用外観情報に対して、参照用香り情報が、臭気指数相当値〇〇であるものとする。かかる場合に、リンゴの品質がAと判別されている事例が多い場合には、これらをデータセットとして学習させ、上述した連関度という形で定義しておく。
【0070】
この分析、解析は人工知能により行うようにしてもよい。かかる場合には、例えば参照用外観情報P01で、参照用香り情報P20である場合に、そのリンゴの品質を過去のデータから分析する。リンゴの品質Aの事例が多い場合には、このリンゴの品質がAにつながる連関度をより高く設定し、リンゴの品質がBの事例が多く、リンゴの品質がAの事例が少ない場合には、リンゴの品質がBにつながる連関度を高くし、リンゴの品質がAにつながる連関度を低く設定する。例えば中間ノード61aの例では、リンゴの品質Aとリンゴの品質Bの出力にリンクしているが、以前の事例からリンゴの品質Aにつながるw13の連関度を7点に、リンゴの品質Bにつながるw14の連関度を2点に設定している。
【0071】
また、この
図6に示す連関度は、人工知能におけるニューラルネットワークのノードで構成されるものであってもよい。即ち、このニューラルネットワークのノードが出力に対する重み付け係数が、上述した連関度に対応することとなる。またニューラルネットワークに限らず、人工知能を構成するあらゆる意思決定因子で構成されるものであってもよい。
【0072】
図6に示す連関度の例で、ノード61bは、参照用外観情報P01に対して参照用香り情報P18の組み合わせのノードであり、リンゴの品質Cの連関度がw15、リンゴの品質Eの連関度がw16となっている。ノード61cは、参照用外観情報P02に対して、参照用香り情報P19、P21の組み合わせのノードであり、リンゴの品質Bの連関度がw17、リンゴの品質Dの連関度がw18となっている。
【0073】
このような連関度が、人工知能でいうところの学習済みデータとなる。このような学習済みデータを作った後に、実際にこれからリンゴの品質の探索を行う際において、上述した学習済みデータを利用して行うこととなる。かかる場合には、実際にそのリンゴの品質の判別対象の外観情報と、香り情報とを取得する。ここで香り情報は、リンゴの品質を実際に見積もる際に、新たに取得するが、その取得方法は、上述した参照用香り情報と同様である。
【0074】
このようにして新たに取得した外観情報と、香り情報に基づいて、最適なリンゴの品質を探索する。かかる場合には、予め取得した
図6(表1)に示す連関度を参照する。例えば、新たに取得した外観情報がP02と同一かこれに類似するものである場合であって、香り情報がP21と同一か又は類似する場合には、連関度を介してノード61dが関連付けられており、このノード61dは、リンゴの品質Cがw19、リンゴの品質Dが連関度w20で関連付けられている。かかる場合には、連関度の最も高いリンゴの品質Cを最適解として選択する。但し、最も連関度の高いものを最適解として選択することは必須ではなく、連関度は低いものの連関性そのものは認められるリンゴの品質Dを最適解として選択するようにしてもよい。また、これ以外に矢印が繋がっていない出力解を選択してもよいことは勿論であり、連関度に基づくものであれば、その他いかなる優先順位で選択されるものであってもよい。
【0075】
図7は、上述した参照用外観情報に加え、上述した参照用品種情報の代わりに参照用重量情報との組み合わせと、当該組み合わせに対するリンゴの品質との3段階以上の連関度が設定されている例を示している。
【0076】
参照用位置情報の代わりに説明変数として加えられるこの参照用重量情報は、リンゴの重量に関するあらゆる情報である。参照用重量情報は、リンゴから重量計等を通じて取得してもよい。このリンゴの重量は、リンゴの品質に大きく影響を及ぼすことが知られている。仮にリンゴが小さすぎる場合には、果肉の量が少なくなり、低品質とみなされる。
【0077】
図7の例では、入力データとして例えば参照用外観情報P01~P03、参照用重量情報P18~21であるものとする。このような入力データとしての、参照用外観情報に対して、参照用重量情報が組み合わさったものが、
図7に示す中間ノードである。各中間ノードは、更に出力に連結している。この出力においては、出力解としての、リンゴの品質が表示されている。
【0078】
参照用外観情報と参照用重量情報との各組み合わせ(中間ノード)は、この出力解としての、リンゴの品質に対して3段階以上の連関度を通じて互いに連関しあっている。参照用外観情報と参照用重量情報がこの連関度を介して左側に配列し、リンゴの品質が連関度を介して右側に配列している。連関度は、左側に配列された参照用外観情報と参照用重量情報に対して、リンゴの品質と関連性が高いかの度合いを示すものである。換言すれば、この連関度は、各参照用外観情報と参照用重量情報が、いかなるリンゴの品質に紐付けられる可能性が高いかを示す指標であり、参照用外観情報と参照用重量情報から最も確からしいリンゴの品質を選択する上での的確性を示すものである。
【0079】
推定装置2は、このような
図7に示す3段階以上の連関度w13~w22を予め取得しておく。つまり推定装置2は、実際の探索解の判別を行う上で、参照用外観情報と、参照用外観情報を取得する際に得た参照用重量情報、並びにその場合のリンゴの品質が何れが好適であったか、過去のデータを蓄積しておき、これらを分析、解析することで
図6に示す連関度を作り上げておく。
【0080】
例えば、過去にあった実際のリンゴの品質の評価時において、ある参照用外観情報に対して、参照用重量情報が、〇〇グラムであるものとする。かかる場合に、リンゴの品質がAと判別されている事例が多い場合には、これらをデータセットとして学習させ、上述した連関度という形で定義しておく。
【0081】
この分析、解析は人工知能により行うようにしてもよい。かかる場合には、例えば参照用外観情報P01で、参照用重量情報P20である場合に、そのリンゴの品質を過去のデータから分析する。リンゴの品質Aの事例が多い場合には、このリンゴの品質がAにつながる連関度をより高く設定し、リンゴの品質がBの事例が多く、リンゴの品質がAの事例が少ない場合には、リンゴの品質がBにつながる連関度を高くし、リンゴの品質がAにつながる連関度を低く設定する。例えば中間ノード61aの例では、リンゴの品質Aとリンゴの品質Bの出力にリンクしているが、以前の事例からリンゴの品質Aにつながるw13の連関度を7点に、リンゴの品質Bにつながるw14の連関度を2点に設定している。
【0082】
また、この
図7に示す連関度は、人工知能におけるニューラルネットワークのノードで構成されるものであってもよい。即ち、このニューラルネットワークのノードが出力に対する重み付け係数が、上述した連関度に対応することとなる。またニューラルネットワークに限らず、人工知能を構成するあらゆる意思決定因子で構成されるものであってもよい。
【0083】
図7に示す連関度の例で、ノード61bは、参照用外観情報P01に対して参照用重量情報P18の組み合わせのノードであり、リンゴの品質Cの連関度がw15、リンゴの品質Eの連関度がw16となっている。ノード61cは、参照用外観情報P02に対して、参照用重量情報P19、P21の組み合わせのノードであり、リンゴの品質Bの連関度がw17、リンゴの品質Dの連関度がw18となっている。
【0084】
このような連関度が、人工知能でいうところの学習済みデータとなる。このような学習済みデータを作った後に、実際にこれからリンゴの品質の探索を行う際において、上述した学習済みデータを利用して行うこととなる。かかる場合には、実際にそのリンゴの品質の判別対象の外観情報と、重量情報とを取得する。ここで重量情報は、リンゴの品質を実際に見積もる際に、新たに取得するが、その取得方法は、上述した参照用重量情報と同様である。
【0085】
このようにして新たに取得した外観情報と、重量情報に基づいて、最適なリンゴの品質を探索する。かかる場合には、予め取得した
図7(表1)に示す連関度を参照する。例えば、新たに取得した外観情報がP02と同一かこれに類似するものである場合であって、重量情報がP21と同一か又は類似する場合には、連関度を介してノード61dが関連付けられており、このノード61dは、リンゴの品質Cがw19、リンゴの品質Dが連関度w20で関連付けられている。かかる場合には、連関度の最も高いリンゴの品質Cを最適解として選択する。但し、最も連関度の高いものを最適解として選択することは必須ではなく、連関度は低いものの連関性そのものは認められるリンゴの品質Dを最適解として選択するようにしてもよい。また、これ以外に矢印が繋がっていない出力解を選択してもよいことは勿論であり、連関度に基づくものであれば、その他いかなる優先順位で選択されるものであってもよい。
【0086】
図8は、上述した参照用外観情報に加え、上述した参照用品種情報の代わりに参照用栽培履歴情報との組み合わせと、当該組み合わせに対するリンゴの品質との3段階以上の連関度が設定されている例を示している。
【0087】
参照用位置情報の代わりに説明変数として加えられるこの参照用栽培履歴情報は、リンゴの栽培履歴に関するあらゆる情報である。参照用栽培履歴情報は、リンゴの木に実がなる前の期間に対する栽培履歴から、収穫に至るまでのすべての栽培履歴を含むものである。この栽培履歴情報としては、リンゴの木に対する施肥や水やり、農薬散布の時期や回数、量が含まれることは勿論であるが、これに加えて栽培の過程における気温、日照時間、降水量、湿度、天候(晴れ、曇り、雨等の履歴や、台風の来襲時期等)等も含まれる。また、ある時間単位(数時間、一日、週、月)における温度差もリンゴの品質に影響を及ぼすファクターであることから、これを参照用栽培履歴情報に含めてもよい。また参照用栽培履歴情報は、生産地を含めてもよく、この生産地の情報として標高や土壌成分、さらに土壌における水の含有量等の情報等も含めてもよい。また参照用栽培履歴情報として、リンゴの木の年齢も含めてもよい。また参照用栽培履歴情報としては、リンゴが生育していく際のサイズや形状の時系列的変化と、気温や寒暖差の同じ時系列での変化を組み合わせてもよい。このような栽培の過程がリンゴの品質に影響を及ぼす。栽培の過程はユーザインターフェース、ユーザ端末を介して入力することで取得してもよい。
【0088】
図8の例では、入力データとして例えば参照用外観情報P01~P03、参照用栽培履歴情報P18~21であるものとする。このような入力データとしての、参照用外観情報に対して、参照用栽培履歴情報が組み合わさったものが、
図8に示す中間ノードである。各中間ノードは、更に出力に連結している。この出力においては、出力解としての、リンゴの品質が表示されている。
【0089】
参照用外観情報と参照用栽培履歴情報との各組み合わせ(中間ノード)は、この出力解としての、リンゴの品質に対して3段階以上の連関度を通じて互いに連関しあっている。参照用外観情報と参照用栽培履歴情報がこの連関度を介して左側に配列し、リンゴの品質が連関度を介して右側に配列している。連関度は、左側に配列された参照用外観情報と参照用栽培履歴情報に対して、リンゴの品質と関連性が高いかの度合いを示すものである。換言すれば、この連関度は、各参照用外観情報と参照用栽培履歴情報が、いかなるリンゴの品質に紐付けられる可能性が高いかを示す指標であり、参照用外観情報と参照用栽培履歴情報から最も確からしいリンゴの品質を選択する上での的確性を示すものである。
【0090】
推定装置2は、このような
図8に示す3段階以上の連関度w13~w22を予め取得しておく。つまり推定装置2は、実際の探索解の判別を行う上で、参照用外観情報と、参照用外観情報を取得する際に得た参照用栽培履歴情報、並びにその場合のリンゴの品質が何れが好適であったか、過去のデータを蓄積しておき、これらを分析、解析することで
図8に示す連関度を作り上げておく。
【0091】
例えば、過去にあった実際のリンゴの品質の評価時において、ある参照用外観情報に対して、参照用栽培履歴情報が、施肥の時期が〇〇、水やりの時期が〇〇、台風が来襲した日が8月16日、であるものとする。かかる場合に、リンゴの品質がAと判別されている事例が多い場合には、これらをデータセットとして学習させ、上述した連関度という形で定義しておく。
【0092】
この分析、解析は人工知能により行うようにしてもよい。かかる場合には、例えば参照用外観情報P01で、参照用栽培履歴情報P20である場合に、そのリンゴの品質を過去のデータから分析する。リンゴの品質Aの事例が多い場合には、このリンゴの品質がAにつながる連関度をより高く設定し、リンゴの品質がBの事例が多く、リンゴの品質がAの事例が少ない場合には、リンゴの品質がBにつながる連関度を高くし、リンゴの品質がAにつながる連関度を低く設定する。例えば中間ノード61aの例では、リンゴの品質Aとリンゴの品質Bの出力にリンクしているが、以前の事例からリンゴの品質Aにつながるw13の連関度を7点に、リンゴの品質Bにつながるw14の連関度を2点に設定している。
【0093】
また、この
図8に示す連関度は、人工知能におけるニューラルネットワークのノードで構成されるものであってもよい。即ち、このニューラルネットワークのノードが出力に対する重み付け係数が、上述した連関度に対応することとなる。またニューラルネットワークに限らず、人工知能を構成するあらゆる意思決定因子で構成されるものであってもよい。
【0094】
図8に示す連関度の例で、ノード61bは、参照用外観情報P01に対して参照用栽培履歴情報P18の組み合わせのノードであり、リンゴの品質Cの連関度がw15、リンゴの品質Eの連関度がw16となっている。ノード61cは、参照用外観情報P02に対して、参照用栽培履歴情報P19、P21の組み合わせのノードであり、リンゴの品質Bの連関度がw17、リンゴの品質Dの連関度がw18となっている。
【0095】
このような連関度が、人工知能でいうところの学習済みデータとなる。このような学習済みデータを作った後に、実際にこれからリンゴの品質の探索を行う際において、上述した学習済みデータを利用して行うこととなる。かかる場合には、実際にそのリンゴの品質の判別対象の外観情報と、栽培履歴情報とを取得する。ここで栽培履歴情報は、リンゴの品質を実際に見積もる際に、新たに取得するが、その取得方法は、上述した参照用栽培履歴情報と同様である。
【0096】
このようにして新たに取得した外観情報と、栽培履歴情報に基づいて、最適なリンゴの品質を探索する。かかる場合には、予め取得した
図8(表1)に示す連関度を参照する。例えば、新たに取得した外観情報がP02と同一かこれに類似するものである場合であって、栽培履歴情報がP21と同一か又は類似する場合には、連関度を介してノード61dが関連付けられており、このノード61dは、リンゴの品質Cがw19、リンゴの品質Dが連関度w20で関連付けられている。かかる場合には、連関度の最も高いリンゴの品質Cを最適解として選択する。但し、最も連関度の高いものを最適解として選択することは必須ではなく、連関度は低いものの連関性そのものは認められるリンゴの品質Dを最適解として選択するようにしてもよい。また、これ以外に矢印が繋がっていない出力解を選択してもよいことは勿論であり、連関度に基づくものであれば、その他いかなる優先順位で選択されるものであってもよい。
【0097】
なお、本発明においては、過去において取得したリンゴの糖度に関する参照用糖度情報と、リンゴの品質との3段階以上の連関度を同様に学習させるようにしてもよい。そして新たに推定対象のリンゴの糖度に関する糖度情報を取得し、糖度情報に応じた参照用糖度情報から、上記連関度を利用してリンゴの品質を推定するようにしてもよい。この推定方法の詳細は、上述と同様である。ちなみに、参照用糖度情報、糖度情報は、一般的な糖度計により測定するようにしてもよい。
【0098】
なお、参照用糖度情報、糖度情報の代替として、参照用酸度情報、酸度情報を利用して解探索を行うようにしてもよい。参照用酸度情報、酸度情報は、リンゴに含まれる酸の濃度であり、中和滴定法で測定される滴定酸度以外に、中和滴定だけでは検出された酸も含めた、全ての種類の酸全体の総酸度で表されるものであってもよい。
【0099】
また、参照用糖度情報、糖度情報の代替として、参照用硬度情報、硬度情報を利用してもよい。参照用硬度情報、硬度情報は、リンゴの硬度に関する情報であり、例えば一般的な硬度計で測定してもよいし、テクスチャー試験により評価してもよい。
【0100】
この摘果前のリンゴについて品質推定する場合には、摘果前のリンゴ及びこれにつながる枝も含めた参照用形態情報と、リンゴの品質との3段階以上の連関度を利用するようにしてもよい。摘果前のリンゴ及びこれにつながる枝とは、摘果前のリンゴとこれにつながる枝を含めた画像データ、あるいは摘果前のリンゴと枝との関係性を示す数値データや図表で構成される。この摘果前のリンゴに対してつながっている枝の太さや角度、長さや分岐の度合い、分岐の方向、分岐数、更にはその分岐した枝に対して実っているリンゴの数や当該リンゴの枝に対する付き方や態様も含めてもよい。
【0101】
この参照用形態情報としては、枝に生える葉とリンゴの関係を含めてもよい。ここでいう枝に生えている葉とリンゴの関係とは、葉とリンゴの位置関係、葉の量に対するリンゴの密度、リンゴに対する各葉の距離、各葉の大きさ等の情報である。
【0102】
かかる場合においても、解探索時には新たに形態情報を取得する。形態情報は、判別対象の摘果前のリンゴ及びこれにつながる枝の情報であり、必要に応じて枝に生える葉とリンゴの関係もこれに含める。そして取得した形態情報を利用し、連関度を参照して解探索する方法は、上述と同様である。
【0103】
かかる場合において、上述した参照用形態情報と、リンゴの枝への付き方に関する類型、或いはリンゴに対する葉の付き方に関する類型との3段階以上の連関度を予め形成するようにしてもよい。ここでいう類型は、予めシステム側、又はユーザ側が自由に決めた類型であってもよい。ここでいう類型とは、例えば類型Pは、太い枝の先端にりんごが1個のみで葉が殆どないもの、類型Qは、細い枝に分岐した先に複数のリンゴがなっており、その細い枝に小さい葉がたくさんついているもの、類型Rは、太い枝が2つに分岐しており、分岐した一方の枝には複数のリンゴが付いている葉が殆どなく、他方の枝には葉が沢山ついている代わりにリンゴが一切ついていないもの、等である。このような類型をあらかじめ決めておき、実際に参照用形態情報を類型に当てはめる。この当てはめは専門家等が行うようにしてもよい。そして、各参照用形態情報と、類型からなるデータセットを学習させた連関度を形成しておく。この参照用形態情報は、摘果前のリンゴとこれにつながる枝に生えている葉との関係を含めたものであってもよいことは勿論である。
【0104】
これにより、新たに形態情報が入力された場合に、その連関度を参照することで上述と同様に解探索を行うことが可能となる。
【0105】
なお、上述した各類型とリンゴの品質とを互いに紐付けておくようにしてもよい。上述した類型に応じてリンゴの品質が変わる場合もあることから、その類型に対して1対1でリンゴの品質を紐づけておく。そして、上述した方法に基づいて、出力解としての類型を探索できた場合に、その探索した類型に紐付けられているリンゴの品質を推定するようにしてもよい。
【0106】
このとき、摘果前のリンゴ及びこれにつながる枝も含めた木全体の参照用形態情報を学習させてもよい。木の一部の枝やリンゴではなく、木全体の形状に応じてリンゴの品質が支配される場合もあるためである。かかる場合には、形態情報として同様に推定対象のリンゴがなっている木全体の形態情報を取得することは勿論である。
【0107】
上述した連関度においては、10段階評価で連関度を表現しているが、これに限定されるものではなく、3段階以上の連関度で表現されていればよく、逆に3段階以上であれば100段階でも1000段階でも構わない。一方、この連関度は、2段階、つまり互いに連関しているか否か、1又は0の何れかで表現されるものは含まれない。
【0108】
上述した構成からなる本発明によれば、特段のスキルや経験が無くても、誰でも手軽にリンゴの品質の探索を行うことができる。また本発明によれば、この探索解の判断を、人間が行うよりも高精度に行うことが可能となる。更に、上述した連関度を人工知能(ニューラルネットワーク等)で構成することにより、これを学習させることでその判別精度を更に向上させることが可能となる。
【0109】
なお、上述した入力データ、及び出力データは、学習させる過程で完全に同一のものが存在しない場合も多々あることから、これらの入力データと出力データを類型別に分類した情報であってもよい。つまり、入力データを構成する情報P01、P02、・・・・P15、16、・・・は、その情報の内容に応じて予めシステム側又はユーザ側において分類した基準で分類し、その分類した入力データと出力データとの間でデータセットを作り、学習させるようにしてもよい。
【0110】
なお、上述した連関度では、参照用外観情報に加え、参照用品種情報、参照用スペクトル情報、参照用香り情報、参照用重量情報、参照用栽培履歴情報、参照用糖度情報の何れかとの組み合わせで構成されている場合を例にとり説明をしたが、これに限定されるものではない。つまり連関度は、参照用外観情報に加え、参照用品種情報、参照用スペクトル情報、参照用香り情報、参照用重量情報、参照用栽培履歴情報、参照用糖度情報の何れか2以上との組み合わせで構成されていてもよい。また連関度は、参照用外観情報に加え、参照用品種情報、参照用スペクトル情報、参照用香り情報、参照用重量情報、参照用栽培履歴情報、参照用糖度情報の何れか1以上に加え、他のファクターがこの組み合わせに加わって連関度が形成されていてもよい。
【0111】
いずれの場合も、その連関度の参照情報に合わせたデータの入力がなされ、その連関度を利用してリンゴの品質を求める。
【0112】
また、本発明によれば、3段階以上に設定されている連関度を介して最適な解探索を行う点に特徴がある。連関度は、上述した10段階以外に、例えば0~100%までの数値で記述することができるが、これに限定されるものではなく3段階以上の数値で記述できるものであればいかなる段階で構成されていてもよい。
【0113】
このような3段階以上の数値で表される連関度に基づいて最も確からしいリンゴの品質、を判別することで、探索解の可能性の候補として複数考えられる状況下において、当該連関度の高い順に探索して表示することも可能となる。このように連関度の高い順にユーザに表示できれば、より確からしい探索解を優先的に表示することも可能となる。
【0114】
これに加えて、本発明によれば、連関度が1%のような極めて低い出力の判別結果も見逃すことなく判断することができる。連関度が極めて低い判別結果であっても僅かな兆候として繋がっているものであり、何十回、何百回に一度は、その判別結果として役に立つ場合もあることをユーザに対して注意喚起することができる。
【0115】
更に本発明によれば、このような3段階以上の連関度に基づいて探索を行うことにより、閾値の設定の仕方で、探索方針を決めることができるメリットがある。閾値を低くすれば、上述した連関度が1%のものであっても漏れなく拾うことができる反面、より適切な判別結果を好適に検出できる可能性が低く、ノイズを沢山拾ってしまう場合もある。一方、閾値を高くすれば、最適な探索解を高確率で検出できる可能性が高い反面、通常は連関度は低くてスルーされるものの何十回、何百回に一度は出てくる好適な解を見落としてしまう場合もある。いずれに重きを置くかは、ユーザ側、システム側の考え方に基づいて決めることが可能となるが、このような重点を置くポイントを選ぶ自由度を高くすることが可能となる。
【0116】
更に本発明では、上述した連関度を更新させるようにしてもよい。この更新は、例えばインターネットを始めとした公衆通信網を介して提供された情報を反映させるようにしてもよい。また参照用外観情報、参照用品種情報、参照用スペクトル情報、参照用香り情報、参照用重量情報、参照用栽培履歴情報、参照用糖度情報を取得し、これらに対するリンゴの品質、改善施策に関する知見、情報、データを取得した場合、これらに応じて連関度を上昇させ、或いは下降させる。
【0117】
つまり、この更新は、人工知能でいうところの学習に相当する。新たなデータを取得し、これを学習済みデータに反映させることを行っているため、学習行為といえるものである。
【0118】
また、この連関度の更新は、公衆通信網から取得可能な情報に基づく場合以外に、専門家による研究データや論文、学会発表や、新聞記事、書籍等の内容に基づいてシステム側又はユーザ側が人為的に、又は自動的に更新するようにしてもよい。これらの更新処理においては人工知能を活用するようにしてもよい。
【0119】
また学習済モデルを最初に作り上げる過程、及び上述した更新は、教師あり学習のみならず、教師なし学習、ディープラーニング、強化学習等を用いるようにしてもよい。教師なし学習の場合には、入力データと出力データのデータセットを読み込ませて学習させる代わりに、入力データに相当する情報を読み込ませて学習させ、そこから出力データに関連する連関度を自己形成させるようにしてもよい。
【0120】
第2実施形態
図9の例では、入力データとして例えば参照用栽培履歴情報P01~P03であるものとする。このような入力データとしての参照用栽培履歴情報P01~P03は、出力としてのリンゴの品質に連結している。この出力においては、出力解としての、リンゴの品質が表示されている。
【0121】
参照用栽培履歴情報は、この出力解としてのリンゴの品質A~Dに対して3段階以上の連関度を通じて互いに連関しあっている。参照用栽培履歴情報がこの連関度を介して左側に配列し、各リンゴの品質が連関度を介して右側に配列している。連関度は、左側に配列された参照用栽培履歴情報に対して、何れのリンゴの品質と関連性が高いかの度合いを示すものである。推定装置2は、このような
図9に示す3段階以上の連関度w13~w19を予め取得しておく。つまり推定装置2は、実際の探索解の判別を行う上で、参照用栽培履歴情報と、その場合のリンゴの品質の何れが採用、評価されたか、過去のデータセットを蓄積しておき、これらを分析、解析することで
図9に示す連関度を作り上げておく。この分析、解析は人工知能により行うようにしてもよい。つまり、人工知能におけるニューラルネットワークのノードで構成されるものであってもよい。即ち、このニューラルネットワークのノードが出力に対する重み付け係数が、上述した連関度に対応することとなる。またニューラルネットワークに限らず、人工知能を構成するあらゆる意思決定因子で構成されるものであってもよい。このような連関度が、人工知能でいうところの学習済みデータとなる。
【0122】
実際の品質判別時には、判別対象のリンゴについて栽培履歴情報を新たに取得する。新たに取得する栽培履歴情報は、上述した情報取得部9により入力される。
【0123】
このようにして新たに取得した栽培履歴情報に基づいて、リンゴの品質を判別する。かかる場合には、予め取得した
図9(表1)に示す連関度を参照する。例えば、新たに取得した栽培履歴情報がP02と同一かこれに類似するものである場合には、連関度を介してリンゴの品質Bがw15、リンゴの品質Cが連関度w16で関連付けられている。かかる場合には、連関度の最も高いリンゴの品質Bを最適解として選択する。但し、最も連関度の高いものを最適解として選択することは必須ではなく、連関度は低いものの連関性そのものは認められるリンゴの品質Cを最適解として選択するようにしてもよい。また、これ以外に矢印が繋がっていない出力解を選択してもよいことは勿論であり、連関度に基づくものであれば、その他いかなる優先順位で選択されるものであってもよい。
【0124】
このようにして、新たに取得する栽培履歴情報から、最も好適なリンゴの品質を探索し、ユーザに表示することができる。
【0125】
図10は、上述した参照用栽培履歴情報に加え、参照用品種情報との組み合わせと、当該組み合わせに対するリンゴの品質との3段階以上の連関度が設定されている例を示している。
【0126】
図10の例では、入力データとして例えば参照用栽培履歴情報P01~P03、参照用品種情報P18~21であるものとする。このような入力データとしての、参照用栽培履歴情報に対して、参照用品種情報が組み合わさったものが、
図10に示す中間ノードである。各中間ノードは、更に出力に連結している。この出力においては、出力解としての、リンゴの品質が表示されている。
【0127】
参照用栽培履歴情報と参照用品種情報との各組み合わせ(中間ノード)は、この出力解としての、リンゴの品質に対して3段階以上の連関度を通じて互いに連関しあっている。参照用栽培履歴情報と参照用品種情報がこの連関度を介して左側に配列し、リンゴの品質が連関度を介して右側に配列している。連関度は、左側に配列された参照用栽培履歴情報と参照用品種情報に対して、リンゴの品質と関連性が高いかの度合いを示すものである。換言すれば、この連関度は、各参照用栽培履歴情報と参照用品種情報が、いかなるリンゴの品質に紐付けられる可能性が高いかを示す指標であり、参照用栽培履歴情報と参照用品種情報から最も確からしいリンゴの品質を選択する上での的確性を示すものである。
【0128】
推定装置2は、このような
図10に示す3段階以上の連関度w13~w22を予め取得しておく。つまり推定装置2は、実際の探索解の判別を行う上で、参照用栽培履歴情報と、参照用栽培履歴情報を取得する際に得た参照用品種情報、並びにその場合のリンゴの品質が何れが好適であったか、過去のデータを蓄積しておき、これらを分析、解析することで
図10に示す連関度を作り上げておく。
【0129】
この分析、解析は人工知能により行うようにしてもよい。かかる場合には、例えば参照用栽培履歴情報P01で、参照用品種情報P20である場合に、そのリンゴの品質を過去のデータから分析する。リンゴの品質Aの事例が多い場合には、このリンゴの品質がAにつながる連関度をより高く設定し、リンゴの品質がBの事例が多く、リンゴの品質がAの事例が少ない場合には、リンゴの品質がBにつながる連関度を高くし、リンゴの品質がAにつながる連関度を低く設定する。例えば中間ノード61aの例では、リンゴの品質Aとリンゴの品質Bの出力にリンクしているが、以前の事例からリンゴの品質Aにつながるw13の連関度を7点に、リンゴの品質Bにつながるw14の連関度を2点に設定している。
【0130】
図10に示す連関度の例で、ノード61bは、参照用栽培履歴情報P01に対して参照用品種情報P18の組み合わせのノードであり、リンゴの品質Cの連関度がw15、リンゴの品質Eの連関度がw16となっている。ノード61cは、参照用栽培履歴情報P02に対して、参照用品種情報P19、P21の組み合わせのノードであり、リンゴの品質Bの連関度がw17、リンゴの品質Dの連関度がw18となっている。
【0131】
このような連関度が、人工知能でいうところの学習済みデータとなる。このような学習済みデータを作った後に、実際にこれからリンゴの品質の探索を行う際において、上述した学習済みデータを利用して行うこととなる。かかる場合には、実際にそのリンゴの品質の判別対象の栽培履歴情報と、品種情報とを取得する。ここで品種情報は、リンゴの品質を実際に見積もる際に、新たに取得するが、その取得方法は、上述した参照用品種情報と同様である。
【0132】
このようにして新たに取得した栽培履歴情報と、品種情報に基づいて、最適なリンゴの品質を探索する。かかる場合には、予め取得した
図10(表1)に示す連関度を参照する。例えば、新たに取得した栽培履歴情報がP02と同一かこれに類似するものである場合であって、品種情報がP21と同一か又は類似する場合には、連関度を介してノード61dが関連付けられており、このノード61dは、リンゴの品質Cがw19、リンゴの品質Dが連関度w20で関連付けられている。かかる場合には、連関度の最も高いリンゴの品質Cを最適解として選択する。但し、最も連関度の高いものを最適解として選択することは必須ではなく、連関度は低いものの連関性そのものは認められるリンゴの品質Dを最適解として選択するようにしてもよい。また、これ以外に矢印が繋がっていない出力解を選択してもよいことは勿論であり、連関度に基づくものであれば、その他いかなる優先順位で選択されるものであってもよい。
【0133】
上述した
図10に示す連関度では、参照用品種情報の代替として、参照用スペクトル情報、参照用香り情報、参照用重量情報の何れかとの組み合わせで構成されるものであってもよい。かかる場合には、入力データとして、栽培履歴情報に加え、スペクトル情報、香り情報、重量情報が入力され、これらに基づいて上述した方法に基づいて解探索が行われる。
【0134】
また連関度は、参照用栽培履歴情報に加え、参照用品種情報、参照用スペクトル情報、参照用香り情報、参照用重量情報の何れか2以上との組み合わせで構成されていてもよい。また連関度は、参照用栽培履歴情報に加え、参照用品種情報、参照用スペクトル情報、参照用香り情報、参照用重量情報の何れか1以上に加え、他のファクターがこの組み合わせに加わって連関度が形成されていてもよい。
【0135】
また、第1実施形態~第2実施形態ともに、上述した実施の形態に限定されるものでは無く、例えば
図11に示すように、基調となる参照用情報と、リンゴの品質との3段階以上の連関度を利用するようにしてもよい。かかる場合には、新たに取得した情報に応じた参照用情報とリンゴの品質との3段階以上の連関度に基づき、解探索を行うことになる。基調となる参照用情報は、上述した全ての参照用情報(参照用外観情報、参照用栽培履歴情報に加え、参照用品種情報、参照用スペクトル情報、参照用香り情報、参照用重量情報、参照用糖度情報等)を適用可能である。
【0136】
これらの場合も同様に、学習用データとして用いられた参照用情報に応じた情報が入力された場合に、上述した方法に基づいて解探索が行われることとなる。
【0137】
連関度を通じて求められる探索解は、更に、他の参照用情報に基づいて修正され、或いは重み付けを変化させるようにしてもよい。
【0138】
ここでいう他の参照用情報とは、上述した参照用情報の何れかを基調となる参照用情報とした場合、当該基調となる参照用情報以外のいかなる参照用情報に該当する。
【0139】
例えば、他の参照用情報の一つとして、ある参照用栽培履歴情報P14において、以前においてリンゴの品質Bが判別される経緯が多かったものとする。このような参照用栽培履歴情報P14に応じた栽培履歴情報を新たに取得したとき、リンゴの品質としての探索解Bに対して、重み付けを上げる処理を行い、換言すればリンゴの品質の探索解Bにつながるようにする処理を行うように予め設定しておく。
【0140】
例えば、他の参照用情報Gが、よりリンゴの品質としての探索解Cを示唆するような分析結果であり、参照用情報Fが、よりリンゴの品質としての探索解Dを示唆するような分析結果であるものとする。このように参照用情報との間での設定の後、実際に取得した情報が参照用情報Gと同一又は類似する場合には、リンゴの品質Cの重み付けを上げる処理を行う。これに対して、実際に取得した情報が参照用情報Fと同一又は類似する場合には、リンゴの品質Dの重み付けを上げる処理を行う。つまり、リンゴの品質につながる連関度そのものを、この参照用情報F~Hに基づいてコントロールするようにしてもよい。或いは、リンゴの品質を上述した連関度のみで決定した後、この求めた探索解に対して参照用情報F~Hに基づいて修正を加えるようにしてもよい。後者の場合において、参照用情報F~Hに基づいてどのように探索解としてのリンゴの品質にいかなるウェートで修正を加えるかは、都度システム側において設計したものを反映させることとなる。なお、ここで用いられる他の参照用情報としては、育成中のリンゴへ照射する日光に関する日照情報を用いるようにしてもよい。日照情報は、リンゴの木に対して、いかなる方向から日光が照射するのか、またその照射する日光の各方向に対する時間帯、更には日照時間に関する情報である。取得した日照情報に基づいて上述と同様に探索解を求めるようにしてもよい。
【0141】
また参照用情報は、何れか1種で構成される場合に限定されるものではなく、2種以上の参照用情報に基づいて解探索するようにしてもよい。かかる場合も同様に、参照用情報の示唆するリンゴの品質につながるケースほど、連関度を介して求められた探索解としての当該判別類型をより高く修正するようにしてもよい。
【0142】
同様に、
図12に示すように、基調となる参照用情報と、他の参照用情報とを有する組み合わせに対する、リンゴの品質との連関度を形成する場合においても、基調となる参照用情報は、第1実施形態、第2実施形態におけるいかなる参照用情報(参照用外観情報、参照用栽培履歴情報に加え、参照用品種情報、参照用スペクトル情報、参照用香り情報、参照用重量情報、参照用糖度情報等)も適用可能である。他の参照用情報は、基調となる参照用情報以外の第1実施形態、第2実施形態におけるいかなる参照用情報が含まれる。
【0143】
このとき、基調となる参照用情報が、参照用外観情報であれば、他の参照用情報としては、これ以外の1実施形態、第2実施形態におけるいかなる参照用情報が含まれる。かかる場合において、基調となる参照用情報、他の参照用情報が、参照用形態情報と、参照用外観情報である場合、参照用形態情報を取得する際のリンゴの外観に関する参照用外観情報とを有する組み合わせで連関度が構成していることとなる。
【0144】
かかる場合も同様に解探索を行うことで、リンゴの品質を推定することができる。このとき、上述した
図11に示すように、連関度を通じて得られた探索解に対して、更なる他の参照用情報(参照用情報F、G、H等)を通じて、リンゴの品質を修正するようにしてもよい。
【0145】
このとき、他の参照用情報が1のみならず、2以上組み合わさるようにして連関度が学習されるものであってもよい。
【0146】
また、
図13に示すように基調となる参照用情報のみと、リンゴの品質との間で連関度が形成されるものであってもよい。この基調となる参照用情報は、第1実施形態、第2実施形態におけるいかなる参照用情報(参照用外観情報、参照用栽培履歴情報に加え、参照用品種情報、参照用スペクトル情報、参照用香り情報、参照用重量情報、参照用糖度情報等)も適用可能である。この
図13の解探索方法は、
図3の説明を引用することで以下での説明を省略する。
【0147】
第3実施形態
第3実施形態においては、出力側の探索解として摘果情報を探索する。この摘果情報とは、実際にリンゴの実が、リンゴの木から収穫される上で、当該リンゴが中心花又は何れの側花から摘果されたかに関する情報である。リンゴは、通常、花が4~6本が群となって咲く。実際に花が咲く場合に、中心花が先に咲く。次に、その中心花の周囲にある複数本の側花が遅れて咲く。一般的に中心花に最も栄養がいきわたる場合が多いため、中心花から成ったリンゴの方が、側花からなったリンゴよりも味がよく、高品質である場合が多い。このため、通常は、側花又は側花になっているリンゴの実を間引くことにより、中心花になっているリンゴを大きく成長させる。しかし、諸事情により、中心花にリンゴをならせることが難しい場合、あるいは何らかの意図の下であえて中心花にリンゴをならせない場合には、側花になっているリンゴを成長させる場合もある。
【0148】
このように、中心花、側花のいずれからなっているリンゴかを判別することで、リンゴの品質を推定することができる。中心花になっているリンゴとその品質、側花になっているリンゴとその品質を互いに結びつけることにより、中心花、側花の何れかから成長したリンゴであるかを判別することで、それに紐付けられた品質を推定することも可能である。
【0149】
なお、滴果情報としては、中心花からなっているリンゴか、側花からなっているリンゴかの2値のみで判断するのではなく、同じ側花であってもいかなる側花であるかに関する情報もこれに含めるようにしてもよい。
【0150】
実際にこのような推定を行うためには、
図14に示すように、参照用外観情報と、当該リンゴが中心花又は何れの側花から摘果されたかに関する摘果情報との3段階以上の連関度を利用する。かかる場合には、探索解としての摘果情報を探索する上で予め学習させる参照用外観情報としては、リンゴの外観形状、推定対象のリンゴの芯の方向、リンゴの表面の縞模様、摘果前のリンゴ及びこれにつながる枝等で構成される。
【0151】
このリンゴの外観形状はリンゴの外郭の形状で構成される。リンゴが円形に近い状態か、円柱に近い形状か、扁平に近い状態か、あるいは同じ摘果前のリンゴ及びこれにつながる枝等円形に近いものであってもその外郭の曲率は微妙に違う場合もあり、また円弧状ではなく、ところどころに平らな面を形成する場合もある。このようにリンゴの外観形状を数値データまたは画像で取得する。
【0152】
また、リンゴの芯の方向は、リンゴの頭部から突出する線状の芯がいかなる方向に向いているかを示す情報である。このリンゴの芯の方向は、測定した数値データまたは画像で構成される。
【0153】
リンゴの表面の縞模様は、品種によって多岐にわたるが、この縞模様がいかなる方向に向いているか否かというデータと、リンゴが中心花か、またいかなる側花から実ったものかについて、関係性があることを見出し、これを外観情報の一つに含めている。このリンゴの表面の縞模様は、画像データで構成される。
【0154】
摘果前のリンゴ及びこれにつながる枝とは、摘果前のリンゴとこれにつながる枝を含めた画像データ、あるいは摘果前のリンゴと枝との関係性を示す数値データや図表で構成される。この摘果前のリンゴに対してつながっている枝の太さや角度、長さや分岐の度合い、分岐の方向、分岐数、更にはその分岐した枝に対して実っているリンゴの数や当該リンゴの枝に対する付き方や態様も含めてもよい。
【0155】
このような参照用外観情報と、摘果情報からなるデータセットを予め学習させておく。そして、新たに外観情報を取得する。この取得する外観情報は、参照用外観情報に対応させる。即ち、参照用外観情報を構成するリンゴの外観形状、推定対象のリンゴの芯の方向、リンゴの表面の縞模様、摘果前のリンゴ及びこれにつながる枝、の何れか対応させて、外観情報としてのリンゴの外観形状、推定対象のリンゴの芯の方向、リンゴの表面の縞模様、摘果前のリンゴ及びこれにつながる枝を取得する。
【0156】
そして、取得した外観情報を入力することにより、これに応じた参照用外観情報を介して摘果情報を探索する。この探索の詳細は、上述した第1実施形態、第2実施形態の説明を引用することにより、以下での説明を省略する。
【0157】
第3実施形態においては、探索した摘果情報を表示することで終了してもよいが、これに限定されるものではなく、摘果情報に対して予め紐付けてあるリンゴの品質を表示するようにしてもよい。
【0158】
また、第3実施形態においては、
図15に示すように、基調となる参照用情報と、他の参照用情報とを有する組み合わせに対する、摘果情報との連関度を形成するようにしてもよい。かかる場合において基調となる参照用情報としては、参照用外観情報を構成するリンゴの外観形状、推定対象のリンゴの芯の方向、リンゴの表面の縞模様、摘果前のリンゴ及びこれにつながる枝、の何れか一つであり、他の参照用情報としては、リンゴの外観形状、推定対象のリンゴの芯の方向、リンゴの表面の縞模様、摘果前のリンゴ及びこれにつながる枝、において、基調となる参照用情報以外の何れかで構成される。例えば、基調となる参照用情報がリンゴの外観形状であれば、他の参照用情報は、それ以外のリンゴの芯の方向、リンゴの表面の縞模様、摘果前のリンゴ及びこれにつながる枝、の何れかで構成される。
【0159】
この
図15に示す連関度の解探索方法は、上述した第1実施形態、第2実施形態の説明を引用することにより、以下での説明を省略する。
【0160】
すなわち、この
図15に示す例では、推定対象のリンゴの外観形状、推定対象のリンゴの芯の方向、推定対象の摘果前のリンゴ及びこれにつながる枝、推定対象のリンゴの表面の縞模様のうち何れか2以上の外観情報を取得する。そしてあらかじめ準備した、リンゴの外観形状、リンゴの芯の方向、摘果前のリンゴ及びこれにつながる枝、リンゴの表面の縞模様のうち上記外観情報に応じた2以上の参照用外観情報と、当該リンゴが中心花又は何れの側花から摘果されたかに関する摘果情報との3段階以上の連関度を利用し、取得した外観情報に応じた参照用外観情報に基づき、摘果情報を探索する。
【0161】
なお、この第3実施形態においては、基調となる参照用情報として、参照用外観情報を構成するリンゴの外観形状、推定対象のリンゴの芯の方向、リンゴの表面の縞模様、摘果前のリンゴ及びこれにつながる枝、の何れか一つで構成した場合には、他の参照用情報として、第1実施形態、第2実施形態におけるいかなる参照用情報を学習させるようにしてもよい。このとき、基調となる参照用情報が、上述した参照用外観情報であれば、他の参照用情報としては、これ以外の1実施形態、第2実施形態におけるいかなる参照用情報が含まれる。
【0162】
かかる場合も同様に解探索を行うことで、リンゴの品質を推定することができる。このとき、上述した
図11に示すように、基調となる参照用情報から連関度を通じて得られた探索解(摘果情報)に対して、更なる他の参照用情報(参照用情報F、G、H等)を通じて、リンゴの品質を修正するようにしてもよい。
【0163】
このとき、他の参照用情報が1のみならず、2以上組み合わさるようにして連関度が学習されるものであってもよい。
【0164】
即ち、推定対象のリンゴの外観形状、推定対象のリンゴの芯の方向、推定対象の摘果前のリンゴ及びこれにつながる枝、推定対象のリンゴの表面の縞模様のうち何れか2以上の外観情報を取得する。かかる場合において、何れか一の上記外観情報に応じたリンゴの外観形状、リンゴの芯の方向、摘果前のリンゴ及びこれにつながる枝、リンゴの表面の縞模様に関する参照用外観情報と、当該リンゴが中心花又は何れの側花から摘果されたかに関する摘果情報との3段階以上の連関度を予め準備しておく。そして、入力データとしての外観情報を受け付けたときに、予め準備しておいた連関度を参照することで摘果情報を探索することは上述した通りである。これに加えて、取得した他の外観情報に基づいて、摘果情報を探索する。例えば、参照用外観情報が、リンゴの芯の方向である場合には、外観情報としてのリンゴの芯の方向を取得して、この連関度を利用して摘果情報を探索する。このとき、他の外観情報(リンゴの外観形状、摘果前のリンゴ及びこれにつながる枝、リンゴの表面の縞模様の何れか1以上)に基づいて、この摘果情報を探索するようにしてもよい。
【0165】
また、本発明においては、また中心花、側花が開花しているか、その前後の状態であり、リンゴの実が成っていない段階において、リンゴの木の中心花と側花に対して摘花すべき花を提案するようにしてもよい。ここでいう摘花すべき花とは、摘花すべき花に関する情報である。
【0166】
かかる場合には、
図16に示すように、過去において中心花と側花を含むように撮像した参照用画像情報と、摘花すべき花との3段階以上の連関度を利用する。摘花すべき花とは、リンゴの木において中心花、側花が開花しているか、その前後の状態であるとき、専門家や熟練の農業者に判別してもらい、いかなる花を摘花すべきかをインタビューで聞き出すようにしてもよい。このとき判別してもらったリンゴの木の中心花、側花についてそれぞれ画像を撮像することで参照用画像情報を取得する。
【0167】
このような参照用画像情報と摘花すべき花とのデータセットを学習させる。そして、新たにリンゴの木の中心花と側花に対して摘花すべき花を提案してもらいたいときには、その提案対象のリンゴの木の中心花と側花の画像を撮像することで画像情報を得る。この画像情報に応じた参照用画像情報に基づき、連関度を参照して摘花すべき花を提案する。探索解の探索方法は、上述と同様である。
【0168】
このとき、情報取得部9、又は情報取得部9及び推定装置を眼鏡型端末やヘッドマウントディスプレイ(HMD)で構成する場合、HMDを介して提案対象の中心花と側花を含むように撮像することで画像情報を得るようにしてもよい。そして、得られた探索解としての摘花すべき花をHMDの表示ディスプレイ上に表示するようにしてもよい。かかる場合には、いわゆるAR(拡張現実)の技術を利用し、提案された摘花すべき花に関する情報を透過状態で表示する表示ディスプレイ上に表示するようにしてもよい。これにより、画面上において視認している画像において、摘花すべき花に関する情報を透過状態で表示させることができ、ユーザの作業性の向上を図ることができる。なお、これらの情報の表示は、表示ディスプレイ上に透過状態で表示する以外に、音声等によりユーザに通知してもよく、またユーザが認識可能ないかなる通知手段に代替されるものであってもよい。
【0169】
なお、第2実施形態、第3実施形態においても第1実施形態と同様に、探索解として、リンゴの品質の代替として、リンゴにおいて発生している病気を適用するようにしてもよい。これにより、リンゴにおいて発生している病気を同様の手順で推定することが可能となる。
【0170】
また、第1実施形態~第3実施形態においても、探索解として、リンゴの品質の代替として、リンゴの収穫時期情報を適用するようにしてもよい。これにより、リンゴの収穫時期情報を同様の手順で推定することが可能となる。
【0171】
第4実施形態
第4実施形態は、探索解として、リンゴの品質の代わりに、リンゴの栽培方法を求めるものである。
【0172】
図17は、栽培方法を探索解とする連関度の例を示している。この例では、入力としては、参照用形態情報であり、出力は、リンゴの栽培方法としている。この第4実施形態においては、現在育成中のリンゴに関する最適な栽培方法を提案するものであることから、それに応じた参照用情報としては、参照用形態情報、参照用栽培履歴情報、参照用外観情報等を適用することが望ましいが、これらに限定されるものではなく、上述した第1実施形態~第3実施形態において説明したいかなる参照用情報を適用するようにしてもよい。
【0173】
ここでいう栽培方法は、現在育成中のリンゴに関する最適な栽培方法に関する情報である。例えば、「肥料〇〇の散布を週2回、農薬△△の散布を月1回」や、「水の散布を一日2回、摘花を〇〇のタイミングで行う」等、具体的な栽培方法に関する助言に近い内容が含まれていてもよい。また栽培方法は、追肥の回数やタイミング、消毒の回数やタイミング、剪定や受粉、摘果のタイミング、袋かけや除袋、支柱入れのタイミングやその方法、更にはリンゴに日光を上手く当てるための葉摘み、玉回し等のタイミングやその方法が規定されるものであってもよい。中でも剪定は、日光が木の内側のリンゴにも届くように、いかなる枝を切り落とし、いかなる枝の配置に整えるかを、専門家等の意見を反映した上で、それを情報化、データ化しておく。
【0174】
そして、新たに参照用情報に応じた情報が入力された場合に、上述した連関度を介して、出力解としての栽培方法を探索し、ユーザに提案するための表示等を行う。このとき、
図12に示すように複数の参照用情報を入力して解探索するようにしてもよいし、
図11に示すように基調となる参照用情報と、他の参照用情報に基づいて解探索するようにしてもよい。
【0175】
これにより、リンゴを育成する過程において、参照用形態情報、参照用栽培履歴情報、参照用外観情報等に応じた形態情報、栽培履歴情報、外観情報等を順次取得することで、これに応じてより好適な栽培方法をユーザに提案することが可能となる。
【0176】
第5実施形態
第5実施形態においては、判別装置2、又はこの判別装置2及び情報取得部9をウェアラブル端末の中でも特に眼鏡型端末、ヘッドマウントディスプレイ(HMD)を利用するものである。このHMDは、ユーザの頭部又は眼鏡に一体又は部分的に装着され、拡張現実(AR:Augmented Reality)或いは複合現実(MR:Mixed Reality)といった技術を利用し、取得した各種の映像情報に基づいて生成された情報を透過状態で表示する表示部を備える。ユーザは、表示すべき情報をHMD上において透過して表示する表示部を介して、視認し、理解することができる。これによりユーザは、目の前の状況を見つつ、取得された各種の映像情報に基づいて生成された情報や各種コンテンツを合わせて確認することが可能となる。
【0177】
このため、本発明においては、例えば、外観情報や形態情報をこのHMDに実装された情報取得部9を介して取得する。そして、HMD内において実装された判別装置2により解探索を行い、得られた探索解(リンゴの品質やその販売価格等)を、表示部を介して透過状態で表示するようにしてもよい。なお、これらの情報の表示は、表示ディスプレイ上に透過状態で表示する以外に、音声等によりユーザに通知してもよく、またユーザが認識可能ないかなる通知手段に代替されるものであってもよい。
【0178】
このような第5実施形態において学習用データとして学習させる参照用外観情報や、参照用形態情報は、実際にHMD等を始めとする眼鏡型端末で撮像したものであってもよいが、これに限定されるものではなく、通常のデジタルカメラやスマートフォン等で撮像したものであってもよい。
【0179】
また、この参照用外観情報、参照用形態情報を実際に得る上で、リンゴのいかなる部位を撮像しているかを紐づけるようにしてもよい。
【0180】
例えば参照用外観情報を得る上で、リンゴの品質を評価する熟練のベテランの農業者が、リンゴのいかなる部位を見ているかを検出する。仮にベテラン農業者が、リンゴの底部の部位を中心に視認しているか、或いはリンゴの芯の部位を中心に視認しているか、或いはリンゴの側面の部位を中心に視認しているのかを検出する。
【0181】
この検出は、例えばベテラン農業者に眼鏡型端末を装着させて実際にリンゴを手に取って検出する作業を行わせ、その間において眼鏡型端末に実装されている情報取得部9を介して随時ベテラン農業者が視認している方向の画像を撮像し続ける。そして、事後的にその録画した画像を解析し、或いは画像を再生することにより、実際にベテラン農業者がリンゴの外観情報や形態情報を介してリンゴの品質を評価する作業を行う上で、リンゴのいかなる部位を視認しているかを検知することが可能となる。
【0182】
かかる場合において、
図18に示すように、眼鏡型端末で撮像された動画像を時系列的に並べた場合に、リンゴの底部の画像(P1)、リンゴの芯の画像(P2)、芯の拡大画像(P3)、側面の画像(P4)であったものとする。このようにして時系列的に得られた画像から、撮像対象部位情報を検出するようにしてもよい。ここでいう撮像対象部位情報とは、眼鏡型端末で撮像された画像がリンゴのいかなる部位を撮像しているかに関する情報である。この撮像対象部位情報は、
図18に示すように、底部、芯、側面等のように実際に撮像している部位の名称で構成されていてもよいし、当該部位を特定するための記号や数値、番号等で表現されるものであってもよい。また撮影対象部位情報は、例えば、撮影が拡大画像であるか縮小画像であるか否か、また撮影する際の撮影方向や画角等の情報も盛り込むようにしてもよい。
【0183】
この撮影対象部位情報の取得は、撮影対象となる部位を都度人間が判別して手入力してもよいが、取得した画像を周知の画像解析技術を利用することで得るようにしてもよい。この撮影対象部位情報の取得は、以前において学習させた特徴量に基づいて判別するようにしてもよい。例えばリンゴの底部、芯、側面等の各部の画像を、ディープラーニング技術を利用して、人工知能を通じて抽出することで判別するようにしてもよい。かかる場合には、参照用外観情報に含まれるリンゴの部位と、撮像対象部位情報とを教師データとして用い、入力を参照用外観情報とし、出力を撮像対象部位情報とした機械学習モデルを利用する。そして、新たにユーザ端末を介して撮像された参照用外観情報に基づいて撮像対象部位情報を取得する。また、撮影対象部位情報の取得は、これ以外に、HMDや眼鏡型端末において搭載されている、アイトラッキング機能を利用して検出した視線の方向、加速度センサやジャイロセンサを利用して検出した頭部の向き、操作デバイスやハンドトラッキング機能を利用したユーザの手の動き等を介して、撮影対象部位情報を取得するようにしてもよい。
【0184】
このようにして得られた撮影対象部位情報を上述した各画像P1~P4等と紐付けて記録しておくことにより、各画像P1~P4がリンゴのいかなる部位を撮像した画像であるかをセットで取得することができる。仮にベテランの農業者からこのような参照用外観情報を構成する画像P1~P4と、撮影対象部位情報を取得することで、ベテランの農業者が実際にリンゴの検査を行う上でいかなる部位をいかなる順番で確認しているのか、また拡大画像であるか否か、また撮影角度等のような撮影環境も取得することができる。参照用形態情報についても同様に撮影対象部位情報を取得して、これを紐付けて記録しておくことが可能となる。
【0185】
第5実施形態においては、撮影対象部位情報を活用することで、実際の解探索時の利便性を高めることができる。上述した学習データを予め構築した上で、HMDを装着したユーザが本発明を実施する場合、探索解(品質、販売価格等)の探索は、上述した第1実施形態~第4実施形態において説明した方法に基づいて実行する。このとき、HMDを装着したユーザが自ら視認しているリンゴについて撮像した外観情報、形態情報を取得する過程で、同様に撮影対象部位情報を得るようにしてもよい。外観情報、形態情報からこの撮影対象部位情報を取得する方法としては、上述したように学習させた特徴量に基づいて判別するようにしてもよく、例えば外観情報中のリンゴの底部、芯、側面等のリンゴの各部の画像を、ディープラーニング技術を利用して、人工知能を通じて抽出することで判別するようにしてもよい。かかる場合には、外観情報に含まれるリンゴの部位と、撮像対象部位情報とを教師データとして用い、入力を外観情報とし、出力を撮像対象部位情報とした機械学習モデルを利用する。そして、新たにユーザ端末を介して撮像された外観情報に基づいて撮像対象部位情報を取得する。形態情報からも同様に撮像対象部位情報を取得することができる。
【0186】
以下、外観情報、形態情報等を始めとする情報から取得した撮影対象部位情報を第1撮影対象部位情報ともいい、参照用外観情報、参照用形態情報等を始めとする参照用情報から取得した撮影対象部位情報を第2撮影対象部位情報ともいう。
【0187】
外観情報、形態情報を取得する過程で、このような第1撮影対象部位情報を都度取得することで以下に説明する優れた効果がある。撮像した外観情報の第1撮影対象部位情報と、参照用外観情報の第2撮影対象部位情報が一致しているかを都度確認することが可能となる。撮像した外観情報の第1撮影対象部位情報と、参照用外観情報の第2撮影対象部位情報が不一致の場合には、HMDの表示部を介してユーザに注意喚起の表示をすることができる。
【0188】
例えば、撮像した外観情報の第1撮影対象部位情報が“側面”であり、これに対応させるための参照用外観情報の第2撮影対象部位情報が“芯”である場合には、HMDを装着するユーザが外観情報を撮影するリンゴの部位が誤った部位を撮影していることとなる。かかる場合には、上述のように注意喚起をすることで正しい部位に撮影対象を合わせることをユーザに促すことが可能となる。また、参照用外観情報に紐付けられた第2撮影対象部位情報が、底部を拡大して視認するものであるのに対して、外観情報に紐付けられた第1撮影対象部位情報が同じ底部の画像であるが拡大して視認していない場合には、同様にユーザに対して、画像を拡大して視認するように促すことが可能となる。
【0189】
このようにして、撮像した外観情報の第1撮影対象部位情報と、参照用外観情報の第2撮影対象部位情報との一致度、又は撮像した形態情報の撮影対象部位情報と、参照用形態情報の撮影対象部位情報との一致度を介して、HMDを装着したユーザに対して、実際に外観情報、形態情報の撮影方法について様々な示唆を行い、又は様々な修正を促すことが可能となる。このとき、このような示唆や修正の促進を、HMDや眼鏡型端末の表示部を介して透過状態で表示する、上述したARやMRを実現するようにしてもよい。なお、この撮影方法についての示唆は、第1撮像対象部位情報と、第2撮像対象部位情報とに基づいたものであればいかなる示唆を表示するものであってもよい。
【0190】
なお、上述した
図18の例においてリンゴについて複数箇所を順次撮影対象を切り替える場合を例にとり説明をしたが、これに限定されるものではなく、参照用外観情報等が1箇所のリンゴについて得られたものである場合においても同様に撮影対象部位情報を取得して紐付けておくことで、実際に外観情報等を取得するユーザに対して上述した誘導を行うことが可能となる。
【0191】
なお本発明は、
図19に示すように、参照用外観情報又は参照用形態情報と、リンゴの品質との3段階以上の連関度を上記リンゴの部位毎に予め取得するようにしてもよい。かかる場合には、側面用、底部用、芯用等のリンゴの各部位毎に、独立して参照用外観情報又は参照用形態情報と、リンゴの品質との連関度を学習させて保存しておく。
【0192】
そして、取得した第1撮影対象部位情報に応じたリンゴの部位の連関度を読み出し、上述と同様に解探索する。仮に第1撮影対象部位情報がリンゴの底部であれば、その底部用の連関度からなる評価モデルを選択し、品質推定を行う。これにより、リンゴの部位毎に特化した評価モデルを選択することができ、より高精度な品質推定を行うことができる。
【0193】
かかる場合において2以上のリンゴの部位について外観情報を撮像すると共に、当該2以上のリンゴの部位についてそれぞれ第1撮像対象部位情報を取得するようにしてもよい。例えば、側面についてリンゴの外観情報を取得した場合、その側面に応じた第1撮像対象部位情報を取得し、また底部についてリンゴの外観情報を取得した場合、その底部に応じた第1撮像対象部位情報を取得しておく。
【0194】
そして、その2以上の第1撮影対象部位情報に応じたリンゴの部位についてそれぞれ上記連関度を読み出してリンゴの品質を推定し、推定した当該2以上の部位のリンゴの品質に基づいて、リンゴの品質の総合評価値を求めるようにしてもよい。上述した例の場合、側面についての連関度を読み出して、リンゴの品質を推定する。また底部についての連関度を読み出してリンゴの品質を推定する。これらの連関度の読み出しは、上述と同様にそれぞれの第1撮像対象部位情報に基づいて行う。このようにして求めた、側面からのリンゴの品質と、底部からのリンゴの品質に基づいて総合評価値を求める。この総合評価値は、各リンゴの部位(側面、底部)について求めたリンゴの品質についていかなる重み付けが付加されて求められるものであってもよく、またいかなる計算式に基づいて求められるものであってもよい。即ち、この総合評価値は、リンゴの各部位を説明変数とするのであれば、いかなる方法によって求められるものであってもよい。
【0195】
また、本発明によれば、推定対象の摘果後のリンゴの2以上の部位について外観に関する外観情報を撮像するようにしてもよい。かかる場合には、過去において摘果後のリンゴについて撮像した2以上の部位について参照用外観情報と、リンゴの品質との3段階以上の連関度が規定され、入力を2以上の部位の参照用外観情報とし、出力をリンゴの品質とした学習済みモデルを利用する。そして、取得した各部位における外観情報と同一又は類似の参照用外観情報に基づき、連関度のより高いものを優先させて、リンゴの品質を推定する。
【0196】
かかる場合には、例えば
図12に示すように、基調となる参照用情報と、他の参照用情報とを有する組み合わせに対する、リンゴの品質との連関度を形成するものであり、基調となる参照用情報として、一の部位に関する参照用外観情報を、他の参照用情報として、他の部位に関する参照用外観情報を予め学習させておく。上述した例の場合、例えば側面に関する参照用外観情報と、底部に関する参照用外観情報を予め学習させておく。
【0197】
解探索時には、側面の外観情報と、底部の外観情報をそれぞれ取得し、同様の方法に基づいて、探索解としてのリンゴの品質を求める。
【0198】
なお、本発明は、
図20に示すように、連関度を上述したようにリンゴの各部位について構築するとともに、その連関度を各参照用栽培履歴情報毎に分類されていてもよい。かかる場合には、例えば
図20に示すように、栽培履歴Aに対してそれぞれ側面用、底部用、芯用等のリンゴの各部位毎の連関度が形成されており、栽培履歴Bに対してそれぞれ側面用、底部用、芯用等のリンゴの各部位毎の連関度が形成されている。このような各参照用栽培履歴情報毎に分類された、各部位毎の連関度を準備しておく。そして、新たに解探索を行う場合には、上述した撮影対象部位情報を取得すると共に、栽培履歴情報を取得する。そして、栽培履歴情報に応じた栽培履歴におけるリンゴの部位毎に分類された評価モデルを選択し、同様に解探索を行う。
【0199】
なお、リンゴの各部位について構築する連関度は、上述した参照用栽培履歴情報毎に構築する場合以外に、他のいかなる参照用情報毎に構築してもよい。かかる場合も同様に参照用情報に応じた情報を取得し、取得した情報に応じて連関度を選択することとなる。
【符号の説明】
【0200】
1 リンゴ品質推定システム
2 推定装置
21 内部バス
23 表示部
24 制御部
25 操作部
26 通信部
27 推定部
28 記憶部
61 ノード