IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 独立行政法人農業・食品産業技術総合研究機構の特許一覧

<>
  • 特開-イチゴの株の情報取得システム 図1
  • 特開-イチゴの株の情報取得システム 図2
  • 特開-イチゴの株の情報取得システム 図3
  • 特開-イチゴの株の情報取得システム 図4
  • 特開-イチゴの株の情報取得システム 図5
  • 特開-イチゴの株の情報取得システム 図6
  • 特開-イチゴの株の情報取得システム 図7
  • 特開-イチゴの株の情報取得システム 図8
  • 特開-イチゴの株の情報取得システム 図9
  • 特開-イチゴの株の情報取得システム 図10
  • 特開-イチゴの株の情報取得システム 図11
  • 特開-イチゴの株の情報取得システム 図12
  • 特開-イチゴの株の情報取得システム 図13
  • 特開-イチゴの株の情報取得システム 図14
  • 特開-イチゴの株の情報取得システム 図15
  • 特開-イチゴの株の情報取得システム 図16
  • 特開-イチゴの株の情報取得システム 図17
  • 特開-イチゴの株の情報取得システム 図18
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024016730
(43)【公開日】2024-02-07
(54)【発明の名称】イチゴの株の情報取得システム
(51)【国際特許分類】
   A01G 22/05 20180101AFI20240131BHJP
   A01G 7/00 20060101ALI20240131BHJP
   G01B 11/02 20060101ALI20240131BHJP
【FI】
A01G22/05 A
A01G7/00 603
G01B11/02 H
【審査請求】未請求
【請求項の数】4
【出願形態】OL
(21)【出願番号】P 2022119050
(22)【出願日】2022-07-26
(71)【出願人】
【識別番号】501203344
【氏名又は名称】国立研究開発法人農業・食品産業技術総合研究機構
(74)【代理人】
【識別番号】100087480
【弁理士】
【氏名又は名称】片山 修平
(72)【発明者】
【氏名】坪田 将吾
(72)【発明者】
【氏名】難波 和彦
【テーマコード(参考)】
2B022
2F065
【Fターム(参考)】
2B022AA03
2B022AB15
2F065AA22
2F065AA58
2F065CC00
2F065FF01
2F065FF42
2F065JJ03
2F065JJ26
(57)【要約】
【課題】イチゴの株それぞれの葉柄長や葉面積を精度よく算出する。
【解決手段】制御装置30は、ブロワー26から株に風が吹き付けられていない又はブロワー26から第1の速度で風が吹き付けられた第1の状態で、カメラ24を制御して株の第1の画像を上方から撮影するとともに、ブロワー26から第2の速度で風が吹き付けられた第2の状態で、カメラ24を制御して株の第2の画像を上方から撮影する。このとき、第2の速度は、ブロワー26から吹き付ける風の速度を大きくしていったときに葉の移動量が所定以下となる速度(葉がほとんど移動しなくなる速度)とされている。また、情報処理装置90は、第1の画像と第2の画像における株の中心から所定の葉の葉柄先端までの距離の差分(MP)を求める。そして、情報処理装置90は、第1、第2の状態での葉柄角度θ、δと、MPと、を用いて葉柄長Lを求める。
【選択図】図10
【特許請求の範囲】
【請求項1】
イチゴの株に上方から風を吹き付ける吹き付け装置と、
前記株の画像を上方から撮影する撮影装置と、
前記吹き付け装置から前記株に風が吹き付けられていない又は前記吹き付け装置から第1の速度で風が吹き付けられた第1の状態で、前記撮影装置を制御して前記株の第1の画像を上方から撮影するとともに、前記吹き付け装置から第2の速度で風が吹き付けられた第2の状態で、前記撮影装置を制御して前記株の第2の画像を上方から撮影する制御装置と、
前記撮影装置が撮影した画像から、前記イチゴの株の所定の葉の葉柄長の値を算出する算出装置と、
を備え、
前記第2の速度は、前記吹き付け装置から吹き付ける風の速度を大きくしていったときに前記所定の葉の移動量が所定以下となる速度であり、
前記算出装置は、
前記第1の画像内における前記株の中心から前記所定の葉の葉柄先端までの第1の距離と、前記第2の画像内における前記株の中心から前記所定の葉の葉柄先端までの第2の距離と、の差分を特定し、
前記第1の状態と前記第2の状態それぞれにおける前記所定の葉の葉柄角度の値と、前記第1の距離と前記第2の距離の差分と、に基づいて、前記所定の葉の葉柄長の値を算出する、
ことを特徴とするイチゴの株の情報取得システム。
【請求項2】
前記制御装置は、前記第2の速度を異ならせつつ、前記第2の画像の撮影を複数回行い、
前記算出装置は、複数の前記第2の画像に基づいて、複数の前記第2の速度及び複数の前記第2の画像の中から、前記葉柄長の値を算出する際に用いる第2の速度及び第2の画像を決定する、ことを特徴とする請求項1に記載のイチゴの株の情報取得システム。
【請求項3】
前記第1の状態と前記第2の状態それぞれにおける前記所定の葉の葉柄角度の値は、予め入力された値である、ことを特徴とする請求項1に記載のイチゴの株の情報取得システム。
【請求項4】
前記算出装置は、
前記算出する処理において、前記所定の葉の葉柄長の値と、前記第1の状態と前記第2の状態において前記吹き付け装置から前記株に吹き付けられる風の速度の差分と、前記第1の状態と前記第2の状態それぞれにおける前記所定の葉の葉柄角度の値と、に基づいて、前記所定の葉の葉面積の値を算出する、
ことを特徴とする請求項1~3のいずれか一項に記載のイチゴの株の情報取得システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、イチゴの株の情報取得システムに関する。
【背景技術】
【0002】
植物の生体計測の有効な方法として、非破壊で広範囲の計測が可能で省力的な、画像計測が知られている。生体計測の対象である植物がイチゴである場合、計測対象には、葉柄の長さ(葉柄長)、葉面積などがある。これらの計測対象は、生育診断や収量予測において重要な要素となるため、精度よく計測できることが好ましい。
【0003】
なお、従来においては、送風機が植物に風を送っているときに、撮影部により植物を撮影して画像を取得し、その画像を処理することにより、植物の育成状態(茎の太さ)を判定する技術が知られている(例えば、特許文献1等参照)。また、画像の時系列的推移に基づいて、植物の生育状況(収穫時期等)を監視する技術も知られている(例えば、特許文献2等参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2016-29940号公報
【特許文献2】特開2019-37225号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上述した葉柄長や葉面積については、上記特許文献1、2等を用いても計測することはできない。例えば、葉柄は、葉身(小葉)の下側にあって外側から見えにくいことから、葉柄長を画像計測するのは難しい。また、葉身は互いに重なり合っていることが多いため、葉面積を精度よく計測することも難しい。
【0006】
そこで、本発明は、イチゴの株の情報を精度よく算出することが可能なイチゴの株の情報取得システムを提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明のイチゴの株の情報取得システムは、イチゴの株に上方から風を吹き付ける吹き付け装置と、前記株の画像を上方から撮影する撮影装置と、前記吹き付け装置から前記株に風が吹き付けられていない又は前記吹き付け装置から第1の速度で風が吹き付けられた第1の状態で、前記撮影装置を制御して前記株の第1の画像を上方から撮影するとともに、前記吹き付け装置から第2の速度で風が吹き付けられた第2の状態で、前記撮影装置を制御して前記株の第2の画像を上方から撮影する制御装置と、前記撮影装置が撮影した画像から、前記イチゴの株の所定の葉の葉柄長の値を算出する算出装置と、を備え、前記第2の速度は、前記吹き付け装置から吹き付ける風の速度を大きくしていったときに前記所定の葉の移動量が所定以下となる速度であり、前記算出装置は、前記第1の画像内における前記株の中心から前記所定の葉の葉柄先端までの第1の距離と、前記第2の画像内における前記株の中心から前記所定の葉の葉柄先端までの第2の距離と、の差分を特定し、前記第1の状態と前記第2の状態それぞれにおける前記所定の葉の葉柄角度の値と、前記第1の距離と前記第2の距離の差分と、に基づいて、前記所定の葉の葉柄長の値を算出する。
【発明の効果】
【0008】
本発明のイチゴの株の情報取得システムは、イチゴの株の情報を精度よく算出することができるという効果を奏する。
【図面の簡単な説明】
【0009】
図1】第1の実施形態に係る情報取得システムの構成を概略的に示す図である。
図2】制御装置及び情報処理装置のハードウェア構成を示す図である。
図3】第1の実施形態に係る制御装置及び情報処理装置の機能ブロック図である。
図4】実験装置を示す図である。
図5図5(a)は、図4の実験装置において、ブロワーを動作させず、風速0mとしたときにカメラによって撮影されたイチゴの株の画像であり、図5(b)は、ブロワーから所定の風速で風を吹き付けたときにカメラによって撮影されたイチゴの株の画像である。
図6図6(a)は、第1の状態と第2の状態における葉柄と葉身の様子を模式的に示す図であり、図6(b)は、葉柄の先端の位置を説明するための図である。
図7図7(a)~図7(e)は、図4の実験装置を用いて得られた、イチゴの株の第1葉~第5葉それぞれの、風速vに対する葉柄の水平投影移動量Mpを実測した結果を示すグラフである。
図8図8(a)~図8(e)は、図7(a)~図7(e)の実測値を近似した例を示す図である。
図9】近似式を説明するための概略図(その1)である。
図10】近似式を説明するための概略図(その2)である。
図11図11(a)~図11(c)は、株の中心を検出する方法について説明するための図である。
図12】第1の実施形態に係る制御装置の処理を示すフローチャートである。
図13】第1の実施形態に係る情報処理装置の処理を示すフローチャートである。
図14図14(a)~図14(c)は、事前処理部の処理を説明するための図である。
図15図15(a)~図15(e)は、近似式を用いて葉柄長L及び葉面積Aを求める例について説明するための図である。
図16】第2の実施形態に係る制御装置及び情報処理装置の機能ブロック図である。
図17】第2の実施形態に係る制御装置の処理を示すフローチャートである。
図18】第2の実施形態に係る情報処理装置の処理を示すフローチャートである。
【発明を実施するための形態】
【0010】
《第1の実施形態》
以下、第1の実施形態に係るイチゴの株の情報取得システムについて、詳細に説明する。
【0011】
図1には、第1の実施形態に係る情報取得システム100の構成が概略的に示されている。本実施形態においては、情報取得システム100は、例えば、図1に示すような栽培ベッド12で高設栽培されているイチゴの株それぞれの葉柄長や葉面積を算出し、記録するシステムである。地上から栽培ベッド12の上面までの距離(高さ)は、H1(H1は例えば1000mm)である。なお、イチゴの株は、栽培ベッド12で栽培されていなくてもよく、例えば畝に地植えされていてもよい。
【0012】
情報取得システム100は、モニタリング装置10と、算出装置としての情報処理装置90と、を備える。モニタリング装置10は、栽培ベッド12近傍を移動して、イチゴの株を上方から撮影した画像を取得する装置である。情報処理装置90は、モニタリング装置10と通信可能に接続されており、モニタリング装置10から取得した画像や位置情報に基づいて、栽培ベッド12に植えられているイチゴの株それぞれの葉柄長や葉面積を算出する。情報処理装置90とモニタリング装置10との間は、有線LAN(Local Area Network)等により有線接続されていてもよいし、WiFi等により無線接続されていてもよい。また、情報処理装置90は、モニタリング装置10に搭載されていてもよい。なお、本実施形態では、栽培ベッド12の延伸方向をX軸方向とし、水平面内でX軸方向と垂直に交差する方向をY軸方向とし、鉛直方向をZ軸方向として説明する。
【0013】
モニタリング装置10は、図1に示すように、栽培ベッド12の下方(地面上)においてX軸方向に沿って敷設されたレール14上に設置されている。モニタリング装置10は、レール14に沿ってX軸方向に移動可能となっている。
【0014】
モニタリング装置10は、筐体20と、車輪22と、撮影装置としてのカメラ24と、吹き付け装置としてのブロワー26と、モータ28と、位置検出装置29と、制御装置30と、を備える。筐体20は略矩形枠状の形状を有する。筐体20の天井板20aは、栽培ベッド12やイチゴの株の上方まで張り出しており、天井板20aの下面(-Z面)とイチゴの株は上下対向した状態となっている。
【0015】
車輪22は、モータ28により、レール14上で回転駆動される。モータ28は、制御装置30により回転制御される。すなわち、本実施形態においては、モニタリング装置10を移動する移動機構として、レール14上を走行する車輪22と、モータ28と、を含む構成を採用している。ただし、これに限らず、移動機構は、地面上を走行する車輪やクローラなどの走行部と、走行部を駆動する駆動装置(モータなど)とを含む構成であってもよい。
【0016】
カメラ24及びブロワー26は、筐体20の天井板20aの下面に設けられている。カメラ24の栽培ベッド12からの距離(高さ)は、H2(H2は例えば1000mm)である。カメラ24は、イチゴの株を上方から撮影する。ブロワー26は、イチゴの株に対して上方から下方に向けて風を吹き付ける機能を有する。ブロワー26から吹き付けられる風の速度(風速)は変更可能となっており、制御装置30により制御される。制御装置30は、ブロワー26によって株に風を吹きつけた状態又は風を吹き付けない状態で、カメラ24を用いて株を上方から撮影する。なお、カメラ24によって撮影された画像は、制御装置30に送信され、制御装置30は、撮影された画像を情報処理装置90に送信する。また、制御装置30は、撮影時にブロワー26から株に吹き付けられる風の速度(風速)の情報を情報処理装置90に送信する。
【0017】
位置検出装置29は、例えば、栽培ベッド12近傍に設置された複数のRFID(radio frequency identifier)タグと通信可能なRFIDリーダを有する位置検出装置や、栽培ベッド12近傍に設置されたマーカを撮影可能なカメラを有する位置検出装置、車輪22やモータ28の回転量から位置検出を行う位置検出装置、RTK-GNSS(Real Time Kinematic-Global Navigation Satellite System)などである。位置検出装置29は、カメラ24のXY位置を検出する。カメラ24のXY位置からは、撮影される画像(撮影範囲)内の各点のXY位置を特定することができる。また、位置検出装置29の検出結果は、制御装置30に送信される。
【0018】
制御装置30は、位置検出装置29の検出結果に基づいてモータ28を制御し、モニタリング装置10の位置(カメラ24の撮影箇所)を調整する。また、制御装置30は、カメラ24によって撮影された画像と、当該画像の位置情報(XY位置)と、画像を撮影したときにブロワー26から吹き付けられていた風の速度(風速)の情報と、を情報処理装置90に送信する。図2には、制御装置30のハードウェア構成が示されている。図2に示すように、制御装置30は、CPU(Central Processing Unit)190、ROM(Read Only Memory)192、RAM(Random Access Memory)194、記憶部(HDD(Hard Disk Drive)やSSD(Solid State Drive)等)196、ネットワークインタフェース197、及び可搬型記憶媒体用ドライブ199等を備えている。これら制御装置30の構成各部は、バス198に接続されている。制御装置30では、ROM192あるいは記憶部196に格納されているプログラム、或いは可搬型記憶媒体用ドライブ199が可搬型記憶媒体191から読み取ったプログラムをCPU190が実行することにより、図3に示す各部の機能が実現される。なお、図3の各部の機能は、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現されてもよい。
【0019】
情報処理装置90は、制御装置30から送信されてきた位置情報を用いて、画像において撮影されている株を特定する。また、情報処理装置90は、画像と風速の情報とを用いて、各株の葉柄長や葉面積を算出する。情報処理装置90は、制御装置30と同様のハードウェア構成(図2参照)を有する。情報処理装置90では、CPU190がプログラムを実行することにより、図3に示す各部の機能が実現されている。
【0020】
(葉柄長及び葉面積の算出式について)
ここで、情報処理装置90(後述する図3の算出部56)が葉柄長や葉面積を算出する際に用いる数式について説明する。なお、本実施形態では、後述する式(近似式)を用いることとしているが、これに限らず、その他の式を用いることも可能である。
【0021】
図4には、数式導出のために用いた実験装置200が模式的に示されている。図4に示すように、実験装置200には、イチゴの株が植え付けられた栽培ポット202が設置される。栽培ポット202は、その上端が地上からの高さH0(例えば500mm)の位置となるように設置される。また、実験装置200には、イチゴの株を覆う、高さH2(例えば1000mm)の中空円筒204が設けられている。この中空円筒204の直径は、例えば500mmである。なお、図4の実験装置では、中空円筒204内を風が通り抜ける(整流となる)ように、栽培ポット202の高さH0を中空円筒204の直径と同等の寸法としている。更に、実験装置200には、中空円筒204の上端部にカメラ24と、ブロワー26を設置している。なお、図4のカメラ24及びブロワー26は、図1のカメラ24及びブロワー26と同一のものである。
【0022】
図5(a)は、ブロワー26を動作させず、風速0mとしたときにカメラ24によって撮影されたイチゴの株の画像である。また、図5(b)は、ブロワー26から所定の風速で風を吹き付けたときにカメラ24によって撮影されたイチゴの株の画像である。図5(b)に示すように上方から風を吹き付けることにより、葉身が力(風荷重)を受けるため、図5(a)と比べるとわかるように、葉柄は付け根(株の中心(クラウン))を中心として外側に倒れる。また、葉身も外側に倒れ、葉全体が外側に移動する。
【0023】
図6(a)には、図5(a)のように風速0mの状態又は弱風(後述する第1の速度の風)が葉身に当てられた状態(第1の状態)の葉全体の様子が太実線にて模式的に示されている。また、図6(a)には、図5(b)のように中風又は強風(後述する第2の速度の風)が葉身に当てられた状態(第2の状態)の葉全体の様子が太破線にて模式的に示されている。この図6(a)において、第1の状態の葉柄の先端の位置と、第2の状態の葉柄の先端の位置との水平方向の差分MPを、葉柄の水平投影移動量Mpと呼ぶものとする。なお、図6(a)に示す葉柄の先端の位置は、実際には、図6(b)に示す小葉柄(葉柄と葉身を繋ぐ細い葉柄)の付け根部分(符号S参照)であるものとする。
【0024】
また、図7(a)~図7(e)には、実験装置200を用いて得られた、イチゴの株の第1葉~第5葉それぞれの、風速vに対する葉柄の水平投影移動量Mpを実測した結果が示されている。
【0025】
(近似式について)
本近似式は、図7(a)~図7(e)の実測値に基づいて、風速vと水平投影移動量MPとの関係を図8(a)~図8(e)において実線で示すように近似した場合の例である。
【0026】
図9図10は、近似式を説明するための概略図である。図9図10においては、風速0m又は第1の速度の風(弱風)が当てられたときの葉全体の様子が太実線で示され、第2の速度の風(中風又は強風)が当てられたときの葉全体の様子が太破線で示されている。なお、第2の速度(第2の風速)は、葉身に対して吹き付ける風の速度を大きくしていったときに葉の移動量が所定以下となる速度(すなわち、葉がほとんど移動しなくなる速度)である。図9において、第1の状態における葉柄角(葉柄の延びる方向と水平面との間の角度)がθ(rad)であり、第2の状態における葉柄角がδ(rad)である。なお、θは、葉の着生時の葉柄角度の値であるといえる。また、各状態間における葉柄先端の実際の移動量がM(mm)であり、水平投影移動量がMP(mm)である。
【0027】
このとき、葉身が受ける風荷重が風速(v)の二乗と受圧面積(A)に比例するという知見をベースにして、次式(1)を用いることとした。なお、lは比例係数である。
【0028】
【数1】
【0029】
また、本近似式においては、図10に示すように、葉柄の曲がり(しなり)によって角度δが破線で示す状態から戻ることを表現した。
【0030】
具体的には、次式(2)を用いることとした。
【0031】
【数2】
【0032】
なお、pは進角係数であり、(v4/p)は、葉柄のしなりによって角度が戻ることを表現したものである。
【0033】
更に、本近似式においては、葉柄が傾斜した長さを投影値に換算するための式を次式(3)のように定義した。
【0034】
【数3】
【0035】
本実施形態では、上記近似式(式(1)~(3))を用いることで、葉柄長Lと葉面積Aを求める。
【0036】
(制御装置30及び情報処理装置90の機能について)
図3に戻り、制御装置30及び情報処理装置90が有する機能について、説明する。
【0037】
(制御装置30の機能)
制御装置30は、図3に示すように、位置制御部40、風速制御部41、撮影制御部42、画像取得・送信部44の機能を有する。
【0038】
位置制御部40は、位置検出装置29の検出結果に基づいてモータ28を制御し、モニタリング装置10の位置(カメラ24の撮影箇所)を調整する。例えば、位置制御部40は、カメラ24の撮影範囲に各株が順次収まるように、モニタリング装置10を移動させる。
【0039】
風速制御部41は、1つの株がカメラ24の撮影範囲内に収まった状態で、ブロワー26を制御して株に所定速度の風を当てる。
【0040】
撮影制御部42は、カメラ24を用いて株を上方から撮影する。撮影制御部42は、ブロワー26からの風が当たっていない状態の株や、ブロワー26からの風が当たっている状態の株を撮影する。撮影制御部42は、株の撮影が完了すると、その旨を位置制御部40に通知する。位置制御部40は、当該通知を受けると、次の株がカメラ24の撮影範囲内に収まるように、モニタリング装置10の位置を調整する。
【0041】
画像取得・送信部44は、カメラ24によって撮影された画像を取得し、位置制御部40から得られる画像撮影時の位置情報(XY位置)及び風速制御部41から得られる画像撮影時の風速の情報とともに、取得した画像を情報処理装置90に送信する。
【0042】
(情報処理装置90の機能)
情報処理装置90は、図3に示すように、画像取得部52、画像解析部54、算出部56、データ管理部58、出力部60、事前処理部62を有する。
【0043】
画像取得部52は、カメラ24によって撮影された株の画像、当該画像の撮影位置の情報、画像撮影時の風速の情報を取得する。
【0044】
画像解析部54は、画像取得部52が取得した画像を解析して、解析結果を算出部56に受け渡す。
【0045】
算出部56は、画像解析部54の解析結果と、予め定められている係数やユーザが入力した情報に基づいて、イチゴの葉柄長や葉面積を算出する。
【0046】
データ管理部58は、算出部56による算出結果(葉柄長や葉面積)を取得し、株の位置情報と紐づけて管理する。
【0047】
出力部60は、データ管理部58において管理されている情報を出力する。
【0048】
事前処理部62は、画像取得部52が取得した画像と、画像撮影時の風速の情報と、を用いて、イチゴの葉柄長や葉面積を算出する際に設定する風速(第2の風速)を決定する処理を実行する。以下、第2の風速の決定方法について説明する。なお、前述のように、なお、第2の風速は、葉身に対して吹き付ける風の速度を大きくしていったときに葉の移動量が所定以下となる速度(すなわち、葉がほとんど移動しなくなる速度)である。
【0049】
(第2の風速の決定方法について)
事前処理部62は、制御装置30に対して事前処理を行う旨を通知する。この通知を制御装置30が受信すると、位置制御部40は、予め定められた位置(例えば栽培ベッド12で栽培されている株の1つを撮影可能な位置)にモニタリング装置10を移動させる。また、風速制御部41と撮影制御部42は、所定の株に対して当てる風の速度を変えつつ、カメラ24を用いて株を上方から複数回撮影する。例えば、風速制御部41は、風速0m又は弱風から徐々に風速を上げていき、撮影制御部42は、所定時間間隔で株を上方から撮影する。そして、画像取得・送信部44は、撮影により得られた複数の画像と、各画像が撮影されたときの風速の情報を、画像取得部52を介して事前処理部62に送信する。
【0050】
事前処理部62は、取得した複数枚の画像と、各画像を撮影したときの風速の情報と、を用いて、イチゴの葉柄長や葉面積を算出する際に設定する風速(第2の風速)を以下のようにして決定する。
【0051】
(1) 事前処理部62は、まず、複数の画像それぞれから株の中心を検出する。例えば、事前処理部62は、株の形状と株の中心とを示す多数の画像を学習データとして深層学習を行い、得られた学習モデルを用いて、各画像内に存在する株の中心を検出することができる。また、事前処理部62は、深層学習以外の方法を用いて、株の中心を検出することもできる。例えば、画像解析部54は、図11(a)に示すように、画像から、複数の葉柄を検出し、それらの延長線上の交点を株の中心として検出することができる。この方法を採用すると、図11(b)に示すように株の中心が他の株の葉などにより隠れている場合でも、株の中心を精度よく検出することができる。また、図11(c)に示すように、イチゴは通常3枚の小葉が1つの葉柄に接続されているので、事前処理部62は、例えば、3枚の小葉のうち真ん中の小葉の長手方向に直線(図11(c)の破線参照)を引く処理を複数回行い、それらの直線の交点を株の中心としてもよい。なお、事前処理部62は、深層学習を用いた株の中心の検出を優先的に実施し、深層学習では株の中心を検出できなかった場合に、図11(a)、図11(b)や図11(c)の方法で株の中心を検出するようにしてもよい。
【0052】
(2) 次いで、事前処理部62は、各画像から小葉柄を検出する。ここで、事前処理部62は、各画像から、第1葉、第2葉、第3葉…というように順に葉身を検出し、各葉の小葉柄を検出する。このように各葉の小葉柄を検出するのは、各葉の第2の風速を決定するためである。また、(1)で株の中心を検出し、(2)で各葉の小葉柄を検出することとしているのは、葉や葉柄が込み合っている場合でも、各葉の小葉柄と株の中心を検出できれば、後述する距離Dn,Dmを計算することができるからである。例えば、事前処理部62は、葉の画像と未展開の度合いとを関連付けた多数の学習データを用いて深層学習を行い、学習モデルを得る。そして、事前処理部62は、得られた学習モデルを用いて、画像内から株の未展開葉を検出し、検出された未展開葉を第1葉とする。また、事前処理部62は、画像から葉を検出し、検出された葉のうち最も小さな葉を第1葉と決定することとしてもよい。また、事前処理部62は、画像から葉を検出し、検出された葉のうち最も色が薄い葉を第1葉と決定することとしてもよい。更に、事前処理部62は、画像から葉を検出し、検出された葉のうち株の中心からの距離が最も短い葉を第1葉と決定することとしてもよい。なお、事前処理部62は、深層学習により第1葉を特定する方法を優先的に適用し、当該方法では第1葉を特定できなかった場合に、上述したその他の方法で第1葉を特定するようにしてもよい。また、事前処理部62は、上述した方法のうちの複数の方法を用いて第1葉を特定し、複数の特定結果を総合して第1葉を特定するようにしてもよい。更に、事前処理部62は、第1葉と株の中心を結ぶ直線の、基準線に対する角度を検出し、株の中心を起点に第1葉の伸びる方向から約144°回転したところにある葉を第2葉、株の中心を起点に第2葉の伸びる方向から約144°回転したところにある(第1葉の伸びる方向から約288°回転したところにある)葉を第3葉、…と特定する。そして、事前処理部62は、特定した第1葉、第2葉、…につながっている小葉柄を検出する。なお、小葉柄を検出する方法としては、深層学習を採用することができる。ただし、これに限らず、例えば、葉柄と1枚の葉身を検出してその連結点を小葉柄とみなしてもよい。また、3枚の葉身の長手方向が交差する位置を小葉柄とみなしてもよい。
【0053】
(3) 次いで、事前処理部62は、各画像において、株の中心から各葉の小葉柄までの距離(図6(a)のDnやDm参照)を計測する。
【0054】
(4) 次いで、事前処理部62は、各画像から、水平投影移動量MPを計算する。具体的には、次式(4)より、水平投影移動量MPを計算する。
P=Dm-Dn …(4)
【0055】
なお、Dnは、風速0m又は弱風のときの株の中心から各葉の小葉柄までの距離であり、Dmは、風速0m又は弱風から風速を徐々に上げていったときの株の中心から各葉の小葉柄までの距離である。
【0056】
(5) 次いで、事前処理部62は、各葉について、風速を上げても水平投影移動量MPがほとんど変化しなくなる風速を第2の風速として決定する。すなわち、各葉について水平投影移動量MPの変化量が予め定められている閾値以下となる風速を第2の風速として決定する。なお、上記のようにして決定された第2の風速は、上記処理において撮影した株と定植日が同一又は近い株について適用することができるものとする。
【0057】
(制御装置30の処理について)
図12には、制御装置30の処理がフローチャートにて示されている。なお、以下の処理で撮影する対象の株は、事前処理部62において第2の風速を決定する際に撮影した株と定植日が同一又は近い株であるものとする。また、本実施形態では、一例として、所定の葉(例えば第4葉)の葉柄長や葉面積を計測する場合の処理について説明する。したがって、制御装置30は、図12の処理において、事前処理部62が決定した各葉の第2の風速のうち、所定の葉の第2の風速を用いる。
【0058】
図12の処理が開始されると、まずステップS10において、位置制御部40は、位置検出装置29の検出結果に基づいてモータ28を制御し、カメラ24を用いてイチゴの株を撮影可能な位置までモニタリング装置10を移動する。なお、栽培ベッド12上の株それぞれのおおよその位置は予めわかっているものとする。
【0059】
次いで、ステップS12において、風速制御部41は、ブロワー26をOFFにする又はブロワー26からの風の速度が第1の風速(弱風)となるように(すなわち、株が第1の状態になるように)制御する。なお、ここでは、第1の状態は無風状態であるものとする。なお、ステップS12を行う際に、ブロワー26がOFF状態である場合には、風速制御部41は、ブロワー26の制御を行わずに、そのままの状態を維持する。
【0060】
次いで、ステップS14において、撮影制御部42は、カメラ24を用いて、イチゴの株を上方から撮影する。
【0061】
ステップS16において、画像取得・送信部44は、ステップS14において撮影された画像(第1の画像)をカメラ24から取得し、第1の画像と、位置制御部40から得られる第1の画像を撮影したときの位置の情報と、風速制御部41から得られる第1の画像を撮影したときのブロワー26の風速の情報と、を情報処理装置90に送信する。
【0062】
次いで、ステップS18において、風速制御部41は、ブロワー26からの風の速度が事前処理部62によって決定された第2の風速(中風又は強風)になるように(すなわち、株が第2の状態になるように)制御する。
【0063】
次いで、ステップS20において、撮影制御部42は、カメラ24を用いて、イチゴの株を上方から撮影する。
【0064】
次いで、ステップS22において、画像取得・送信部44は、ステップS20において撮影された画像(第2の画像)をカメラ24から取得し、第2の画像と、位置制御部40から得られる第2の画像を撮影したときの位置の情報と、風速制御部41から得られる第2の画像を撮影したときのブロワー26の風速の情報と、を情報処理装置90に送信する。
【0065】
その後は、ステップS10に戻る。なお、風速制御部41は、ステップS10に戻る前に、ブロワー26の動作を停止してもよい。ステップS10に戻ると、位置制御部40は、次の株を撮影するための移動を行う。そして、ステップS12~S22において、制御装置30は、次の株についての第1の画像及び第2の画像の撮影処理等を実行する。
【0066】
なお、図12の処理では、モニタリング装置10を移動して(S10)、第1の風速で第1の画像を撮影した後(S12、S14)、第2の風速で第2の画像を撮影し(S18、S20)、再度モニタリング装置10を移動する(S10)、という処理を繰り返すこととしたがこれに限られるものではない。例えば、ブロワー26をOFFの状態又は第1の風速に維持した状態で、モニタリング装置10を移動しつつ、複数の株の画像(第1の画像)を撮影し、その後に、ブロワー26を第2の風速に維持した状態で、モニタリング装置10を移動しつつ、複数の株の画像(第2の画像)を撮影してもよい。そして、画像取得・送信部44は、同一の位置で撮影された第1の画像と第2の画像(すなわち、同一の株を撮影した第1、第2の画像)を対応付けて、位置情報及び風速の情報とともに、情報処理装置90に送信するようにしてもよい。
【0067】
(情報処理装置90の処理について)
次に、情報処理装置90の処理について、図13のフローチャートに沿って、説明する。
【0068】
図13の処理が開始されると、まずステップS30において、画像取得部52は、制御装置30の画像取得・送信部44から送信されてくる画像や位置の情報、風速の情報を取得する。
【0069】
次いで、ステップS32において、画像解析部54は、第1の状態の画像と前記第2の状態の画像のいずれかから株の中心を検出する。このステップS32における株の中心の検出方法は、事前処理部62の処理において説明した方法(例えば深層学習を用いる方法や、図11(a)~図11(c)の方法)と同様である。
【0070】
次いで、ステップS34において、画像解析部54は、第1の状態の画像から小葉柄を検出する。このステップS34の処理は、事前処理部62の処理と同様である。
【0071】
次いで、ステップS36において、画像解析部54は、第1の画像を用いて、株の中心から小葉柄までの距離Dn(図6(a)参照)を計測する。なお、距離Dnは計測が必要な所定の葉のみについて計測する。
【0072】
次いで、ステップS38において、画像解析部54は、第2の状態の画像から小葉柄を検出する。このステップS38の処理は、上述したステップS34と同様である。
【0073】
次いで、ステップS40において、画像解析部54は、第2の画像を用いて、株の中心から小葉柄までの距離Dm(図6(a)参照)を計測する。なお、距離Dmは計測が必要な所定の葉のみについて計測する。
【0074】
次いで、ステップS42において、算出部56は、水平投影移動量MPを上式(4)に基づいて計算する。
【0075】
次いで、ステップS44において、算出部56は、上述した近似式(上式(1)~(3))を用いて、所定の葉の葉柄長Lや葉面積Aを算出する。このステップS44の処理の詳細については後述する。
【0076】
次いで、ステップS46において、データ管理部58は、株の位置と対応付けて葉柄長L及び葉面積Aを管理する。
【0077】
次いで、ステップS48において、出力部60は、出力要求が入力されたか否かを判断する。このステップS48の判断が否定された場合には、ステップS30に戻るが、肯定された場合には、ステップS50に移行する。
【0078】
ステップS50に移行すると、出力部60は、出力要求のあったデータを出力する。その後は、ステップS30に戻り、上記処理を繰り返し実行する。
【0079】
なお、上記説明においては、所定の葉に対応する第2の風速を用いて撮影を行い、所定の葉の葉柄長L及び葉面積Aを算出する例について説明したが、これに限らず、複数の葉位の葉の葉柄長L及び葉面積Aを算出することとしてもよい。この場合、複数の葉位の葉それぞれに対応する第2の風速を用いて各株を撮影する必要がある。また、各葉の葉柄長L及び葉面積Aは、各葉に対応する第2の風速で撮影した画像(第2の画像)を用いて算出する。この場合、葉柄長L及び葉面積Aは葉位ごとに対応付けて管理する。
【0080】
(実施例)
次に実施例を用いて、事前処理部62の処理、及び図13のステップS44の処理について説明する。
【0081】
図14(a)、図14(b)は、事前処理部62が取得した複数の画像を撮影したときの風速の情報と、複数の画像から得られた水平投影移動量MPの値を示している。また、図14(c)は、風速と、水平投影移動量MPと、の関係を座標系(横軸:風速、縦軸:水平投影移動量MP)上に示したものである。なお、本例は、イチゴの株の第4葉の水平投影移動量MPについて示している。
【0082】
図14(c)からは、葉の移動量が所定以下となる風速(葉がほとんど移動しなくなる風速)として、風速4.503m/sが特定されるので、事前処理部62は、この風速4.503m/sを第2の風速として決定する。
【0083】
図15(a)~図15(e)は、上式(1)~(3)を用いて葉柄長L及び葉面積Aを算出する例を説明するための図である。なお、本例は、イチゴの株の第4葉についての値である。
【0084】
図15(a)には、近似式1を用いる場合に予め求めておく必要のある係数l、p(進角係数)の一例が示されている。lは、式(1)の係数であり、pは、式(2)の係数である。
【0085】
また、図15(b)には、ユーザが入力する値である、受圧時葉柄角δ、葉柄角度θ(図10参照)の一例が示されている。なお、δ、θは、事前に測定してもよいし、葉位とδ、θとの関係が事前にわかっていれば、その関係を用いてδ、θを求めることとしてもよい。
【0086】
図15(c)には、第1の状態における風速(第1の風速)v1と、第2の状態における風速(第2の風速)v2の一例が示されている。この第2の風速v2と第1の風速v1との差が、式(1)、(2)のvとなる。
【0087】
算出部56は、式(3)のMPとして図15(d)の値を代入するとともに、δ、θとして図15(b)の値を代入することで、葉柄長Lを算出する。この結果、葉柄長Lは、図15(e)に示すように、170.8311mmと計算される。なお、このときの葉柄長Lの真値は165mmであったので、上記方法により、葉柄長Lとして真値に近い値を導き出すことができることが分かる。
【0088】
また、算出部56は、上記のようにして算出した葉柄長L、図15(b)のδ、θ、図15(a)のp、v=4.503m/sを上式(3)に代入することで、葉柄の移動量M(図10参照)を求める。この結果、葉柄の移動量Mとして、図15(e)に示す値(M=48.37061mm)が得られる。
【0089】
更に、算出部56は、上記のようにして求めた葉柄の移動量Mと、v=4.503m/sと、図15(a)のlの値を上式(1)に代入することで、葉面積Aを算出する。この結果、葉面積Aは、図15(e)に示すように、20388.81mm2と計算される。なお、このときの葉面積Aの真値は20240.78mm2であったので、上記方法により、葉面積Aとして真値に近い値を導き出すことができることが分かる。
【0090】
以上、詳細に説明したように、本第1の実施形態によると、制御装置30は、ブロワー26から株に風が吹き付けられていない又はブロワー26から第1の速度で風が吹き付けられた第1の状態で、カメラ24を制御して株の第1の画像を上方から撮影するとともに、ブロワー26から第2の速度で風が吹き付けられた第2の状態で、カメラ24を制御して株の第2の画像を上方から撮影する(図12)。このとき、第2の速度(風速)は、ブロワー26から吹き付ける風の速度を大きくしていったときに葉の移動量が所定以下となる速度(葉がほとんど移動しなくなる速度)とされている。また、情報処理装置90は、第1の画像内における株の中心から所定の葉の葉柄先端までの距離Dnと、第2の画像内における株の中心から所定の葉の葉柄先端までの第2の距離Dmと、の差分(水平投影移動量MP)を求める。更に、情報処理装置90は、第1の状態での葉柄角度θと、第2の状態での葉柄角度δと、水平投影移動量MPと、を用いて、式(3)より葉柄長Lを求める。これにより、葉柄が葉身(小葉)の下側にあって外側から見えにくい場合であっても、上記第1の画像と第2の画像を用いることで、葉柄長Lを精度よく算出することができる(図15(e)参照)。
【0091】
また、本実施形態では、情報処理装置90は、葉柄長Lの値と、第1の状態と前記第2の状態のそれぞれにおいてブロワー26から株に吹き付けられた風の速度の差vと、葉柄角度δ、θと、に基づいて、葉面積Aの値を算出する。これにより、葉身が重なり合っている場合であっても、葉面積を精度よく算出することができる(図15(e)参照)。
【0092】
なお、ブロワー26の風速分布は、ブロワー26の直下が最も強く、ブロワー26から離れた位置は弱くなる。このため、ブロワー26を一定の状態に維持しつつ、モニタリング装置10を移動させた場合、株は、弱い風が当たっている状態(第1の状態)から、強い風が当たっている状態(第2状態)に遷移する。したがって、上記実施形態においては、株がブロワー26の直下から離れた位置にあるとき(第1の状態にあるとき)と、株がブロワー26の直下に近い位置にあるとき(第2の状態にあるとき)と、のそれぞれにおいて画像を撮影し、それぞれの画像を用いて、上記図13の処理を実行するようにしてもよい。この場合、モニタリング装置10は、第1の状態の株を撮影するため、ブロワー26からX軸方向に離れた位置に配置された第1カメラと、第2の状態の株を撮影するため、ブロワー26近傍に配置された第2のカメラと、を有していてもよい。また、1つのカメラで第1の状態の株及び第2の状態の株を異なる角度で撮影し、各画像を同一角度から撮影したように補正して、上記図13の処理に用いるようにしてもよい。
【0093】
《第2の実施形態》
次に、第2の実施形態について説明する。図16には、本第2の実施形態に係る制御装置30と情報処理装置90の機能ブロック図が示されている。図16図3(第1の実施形態)とを比較するとわかるように、本第2の実施形態の情報処理装置90は、事前処理部62を有しておらず、これに伴って制御装置30と情報処理装置90の処理が第1の実施形態と異なっている点に特徴を有している。具体的には、本第2の実施形態においては、事前に第2の速度を決定せずに、各株の撮影結果に基づいて株毎に第2の速度を決定(特定)する。
【0094】
(制御装置30の処理について)
図17には、第2の実施形態に係る制御装置30の処理がフローチャートにて示されている。
【0095】
図17に示すように、制御装置30は、ステップS10~S16を第1の実施形態と同様に実行する。すなわち、ステップS10~S16では、風速0mの状態又は第1の風速の風を当てた状態で、株の撮影を行う。次いで、ステップS18’では、風速制御部41は、ブロワー26からの風の速度が次の風速になるように制御する。なお、本実施形態では、事前に、ステップS18’で段階的に設定する風速の値が予め定められているものとする(例えば、図14(a)の風速v1~v7)。したがって、風速制御部41は、ステップS18’を行うたびに、風速v1、v2…というように、段階的に風速を上げていく。
【0096】
ステップS18’の後は、ステップS20、S22が、上記第1の実施形態と同様に実行される。そして、次のステップS24では、全ての風速(例えば風速v1~v7)での撮影が完了したか否かを判断する。このステップS24の判断が否定された場合には、ステップS18’に戻るが、肯定された場合には、ステップS10に戻る。
【0097】
このように、本第2の実施形態では、株の撮影において、複数の風速(例えば、v0~v7)の風が当てられた状態の株の画像を取得するようにしている。
【0098】
(情報処理装置90の処理について)
図18には、本第2の実施形態に係る情報処理装置90の処理がフローチャートにて示されている。本第2の実施形態においては、第1の実施形態の処理(図13)のステップS42、S43の間に、ステップS43の処理を実行する点に特徴を有している。
【0099】
図18の処理が開始されると、ステップS30~S42については、上記第1の実施形態と同様に実行される。ただし、第2の状態の画像としては、複数の風速(例えば、v1~v7)のときに得られた複数(例えば、7枚)の画像が得られる。したがって、ステップS42においては、水平投影移動量MPが、複数(例えば7つ)得られる。なお、この第2の風速の特定方法は、上記第1の実施形態の事前処理部62による第2の風速の決定方法と同一の方法である。すなわち、図18のステップS30において、図14(a)に示すようなデータが得られ、ステップS42において、図14(b)に示すようなデータが得られるので、ステップS43では、これらのデータを用いて、第2の風速を特定する(図14(c)参照)。
【0100】
その後は、ステップS43で特定された第2の風速及び第2の風速に対応する水平投影移動量MPを用いて、ステップS43以降の処理が、上記第1の実施形態と同様に行われる。
【0101】
これにより、上記第1の実施形態と同様、葉柄が葉身(小葉)の下側にあって外側から見えにくい場合であっても、葉柄長Lを精度よく算出することができる。また、葉身が重なり合っている場合であっても、葉面積Aを精度よく算出することができる。
【0102】
また、本第2の実施形態では、株毎に第2の速度を特定するため、株それぞれの葉柄長Lや葉面積Aを精度よく算出することができる。
【0103】
なお、上記第2の実施形態では、図17のステップS18’、S20、S22の処理を実行するたびに、水平投影移動量MPの変化を求め、水平投影移動量MPの変化が所定以下になったときの風速を第2の風速と特定してもよい。この場合、第2の風速が特定された段階で、ステップS24の判断が肯定されるようにしてもよい。
【0104】
なお、上記実施形態では、ステップS18’で段階的に設定する風速の値を予め定めておく場合について説明したが、これに限らず、過去の処理(例えば、前回の処理)で決定した第2の風速に基づいて、段階的に設定する風速の値を決定してもよい。
【0105】
なお、上記第2の実施形態の処理(図17図18の処理)を最初の株に対して実行し、2つ目以降の株については、上記第1の実施形態の処理(図12図13の処理)を実行することとしてもよい。すなわち、最初の株の処理において特定した第2の風速を、2つ目以降の株の処理において流用してもよい。
【0106】
なお、上記第1、第2の実施形態では、モニタリング装置10が地面上を移動する場合について説明したが、これに限られるものではない。例えば、カメラ24やブロワー26、位置検出装置29、制御装置30を搭載した無人航空機(ドローンやマルチコプタ)をモニタリング装置として用いることとしてもよい。この場合、無人航空機の高さや、無人航空機と観測対象との位置関係を調整することで、株に当たる風の強さを調整することもできる。このようにする場合には、ブロワー26を省略してもよい。なお、無人航空機の高さや、無人航空機と観測対象との位置関係を調整すると、カメラ24と観測対象の位置関係が変化するため、撮影距離や撮影角度が変化するが、無人航空機と観測対象の位置関係を加味して上記処理を行うこととすればよい。
【0107】
上述した実施形態は本発明の好適な実施の例である。但し、これに限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変形実施可能である。
【符号の説明】
【0108】
24 カメラ(撮影装置)
26 ブロワー(吹き付け装置)
30 制御装置
90 情報処理装置(算出装置)
100 情報取得システム
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18