(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-09
(45)【発行日】2024-07-18
(54)【発明の名称】圃場の育種データ収集装置、育種における特徴解析装置、圃場の育種データ収集方法、プログラム、および記録媒体
(51)【国際特許分類】
A01G 7/00 20060101AFI20240710BHJP
G06Q 50/02 20240101ALI20240710BHJP
G06T 7/174 20170101ALI20240710BHJP
【FI】
A01G7/00 603
G06Q50/02
G06T7/174
(21)【出願番号】P 2023004694
(22)【出願日】2023-01-16
(62)【分割の表示】P 2019553741の分割
【原出願日】2018-10-05
【審査請求日】2023-01-27
(31)【優先権主張番号】P 2017220504
(32)【優先日】2017-11-15
(33)【優先権主張国・地域又は機関】JP
(31)【優先権主張番号】P 2018057035
(32)【優先日】2018-03-23
(33)【優先権主張国・地域又は機関】JP
【国等の委託研究の成果に係る記載事項】(出願人による申告)平成29年度、国立研究開発法人科学技術振興機構、戦略的創造研究推進事業 画像データからの情報抽出と新知見の発見に関する研究 委託研究、産業技術力強化法第17条の適用を受ける特許出願
【前置審査】
(73)【特許権者】
【識別番号】000232092
【氏名又は名称】NECソリューションイノベータ株式会社
(73)【特許権者】
【識別番号】504137912
【氏名又は名称】国立大学法人 東京大学
(74)【代理人】
【識別番号】100115255
【氏名又は名称】辻丸 光一郎
(74)【代理人】
【識別番号】100201732
【氏名又は名称】松縄 正登
(74)【代理人】
【識別番号】100154081
【氏名又は名称】伊佐治 創
(74)【代理人】
【識別番号】100227019
【氏名又は名称】安 修央
(72)【発明者】
【氏名】関谷 和樹
(72)【発明者】
【氏名】落合 宏章
(72)【発明者】
【氏名】名越 有里可
(72)【発明者】
【氏名】郭 威
(72)【発明者】
【氏名】ム ユエ
(72)【発明者】
【氏名】平藤 雅之
(72)【発明者】
【氏名】二宮 正士
(72)【発明者】
【氏名】▲高▼田 大輔
【審査官】佐田 宏史
(56)【参考文献】
【文献】特開2007-066050(JP,A)
【文献】特開2010-044048(JP,A)
【文献】特開2011-103098(JP,A)
【文献】特開2014-100099(JP,A)
【文献】米国特許第06792684(US,B1)
【文献】国際公開第2001/031290(WO,A1)
【文献】村本 健一郎,“地球環境のセンシング技術 -画像・電磁波・光技術の様々な時空間スケールへの適用-”,映像情報メディア学会技術報告,日本,(社)映像情報メディア学会,2005年06月24日,Vol.29, No.35,pp.13-20
(58)【調査した分野】(Int.Cl.,DB名)
A01G 7/00
G06Q 50/02
G06T 1/00,7/00-7/90
G06V 10/00-10/98
(57)【特許請求の範囲】
【請求項1】
果樹個体同定部を含み、
前記果樹個体同定部は、複数の果樹個体を含む落葉期の第1空撮画像に基づいて、前記果樹個体の同定基準
として、各果樹個体の樹冠候補領域および前記樹冠候補領域の重心を抽出し、
前記樹冠候補領域は、対応する樹冠スケルトンの頂点を全て含む最小多角形の領域であり、
前記第1空撮画像と同じスケールであり樹冠を同定する時期の第2空撮画像と、前記同定基準とに基づいて、圃場における果樹個体を同定する、果樹個体の樹冠の同定装置。
【請求項2】
前記果樹個体同定部は、同定基準決定部と、樹冠同定部とを有し;
前記同定基準決定部は、
第1画像取得部、スケルトン抽出部、頂点抽出部、および同定基準抽出部を有し、
前記第1画像取得部は、果樹圃場について、複数の果樹個体を含む落葉期の第1空撮画像を取得し、
前記スケルトン抽出部は、前記第1空撮画像から、画像処理によって、前記複数の果樹個体を含む全体の樹冠スケルトンを抽出し、
前記頂点抽出部は、各果樹個体について、対応する樹冠スケルトンの頂点を抽出し、
前記同定基準抽出部は、前記各果樹個体について、同定基準として、前記頂点を全て含む最小多角形の樹冠候補領域を抽出し、前記各果樹個体について、同定基準として、前記樹冠候補領域から、その重心を抽出し;
前記樹冠同定部は、
第2画像取得部、全体樹冠抽出部、および樹冠同定部を有し、
前記第2画像取得部は、前記果樹圃場について、前記第1空撮画像と同じスケールであり、樹冠を同定する時期の第2空撮画像を取得し、
前記全体樹冠抽出部は、前記第2空撮画像から、画像処理によって、前記複数の果樹個体を含む全体の樹冠画像を抽出し、
前記樹冠同定部は、前記全体の樹冠画像に、前記同定基準の樹冠候補領域および重心を照合し、前記第2空撮画像における前記各果樹個体の樹冠領域を同定する、請求項1記載の同定装置。
【請求項3】
前記樹冠同定部は、
前記全体の樹冠画像に、前記同定基準の樹冠領域および重心を照合し、前記各果樹個体の樹冠候補領域を抽出し、
前記樹冠候補領域と、前記樹冠候補領域の周囲の微小領域とから、前記各果樹個体の樹冠領域を同定する、請求項2記載の同定装置。
【請求項4】
さらに、果樹形質解析部を有し、
前記果樹形質解析部は、同定した樹冠領域の形質を解析する、請求項2または3記載の同定装置。
【請求項5】
さらに、出力部を有し、前記出力部は、前記樹冠領域を出力する、請求項2から4のいずれか一項に記載の同定装置。
【請求項6】
果樹個体同定工程を含み、
前記果樹個体同定工程は、複数の果樹個体を含む落葉期の第1空撮画像に基づいて、前記果樹個体の同定基準
として、各果樹個体の樹冠候補領域および前記樹冠候補領域の重心を抽出し、
前記樹冠候補領域は、対応する樹冠スケルトンの頂点を全て含む最小多角形の領域であり、
前記第1空撮画像と同じスケールであり樹冠を同定する時期の第2空撮画像と、前記同定基準とに基づいて、圃場における果樹個体を同定し、各工程がコンピュータにより実行される、果樹個体の樹冠の同定方法。
【請求項7】
前記果樹個体同定工程は、同定基準決定工程と、樹冠同定工程とを有し;
前記同定基準決定工程は、
第1画像取得工程、スケルトン抽出工程、頂点抽出工程、および同定基準抽出工程を有し、
前記第1画像取得工程は、果樹圃場について、複数の果樹個体を含む落葉期の第1空撮画像を取得し、
前記スケルトン抽出工程は、前記第1空撮画像から、画像処理によって、前記複数の果樹個体を含む全体の樹冠スケルトンを抽出し、
前記頂点抽出工程は、各果樹個体について、対応する樹冠スケルトンの頂点を抽出し、
前記同定基準抽出工程は、前記各果樹個体について、同定基準として、前記頂点を全て含む最小多角形の樹冠候補領域を抽出し、前記各果樹個体について、同定基準として、前記樹冠候補領域から、その重心を抽出し;
前記樹冠同定工程は、
第2画像取得工程、全体樹冠抽出工程、および樹冠同定工程を有し、
前記第2画像取得工程は、前記果樹圃場について、前記第1空撮画像と同じスケールであり、樹冠を同定する時期の第2空撮画像を取得し、
前記全体樹冠抽出工程は、前記第2空撮画像から、画像処理によって、前記複数の果樹個体を含む全体の樹冠画像を抽出し、
前記樹冠同定工程は、前記全体の樹冠画像に、前記同定基準の樹冠候補領域および重心を照合し、前記第2空撮画像における前記各果樹個体の樹冠領域を同定する、請求項6記載の同定方法。
【請求項8】
前記樹冠同定工程は、
前記全体の樹冠画像に、前記同定基準の樹冠領域および重心を照合し、前記各果樹個体の樹冠候補領域を抽出し、
前記樹冠候補領域と、前記樹冠候補領域の周囲の微小領域とから、前記各果樹個体の樹冠領域を同定する、請求項7記載の同定方法。
【請求項9】
さらに、果樹形質解析工程を有し、
前記果樹形質解析工程は、同定した樹冠領域の形質を解析する、請求項6または7記載の同定方法。
【請求項10】
さらに、出力工程を有し、前記出力工程は、前記樹冠領域を出力する、請求項7から9のいずれか一項に記載の同定方法。
【請求項11】
請求項6から10のいずれか一項に記載の果樹個体の樹冠の同定方法の各工程をコンピュータに実行させるためのプログラム。
【請求項12】
請求項11記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、圃場の育種データ収集装置、育種における特徴解析装置、圃場の育種データ収集方法、育種における特徴解析方法、プログラム、および記録媒体に関する。
【背景技術】
【0002】
育種研究において、作物の表現タイピング(フェノタイピング)は、一般的に、研究者が圃場に入り、前記圃場を区画(プロット)に分け、目視観察することによって行われている。しかしながら、この方法によると、評価にかかる労力が大きく、作業コストも大きいため、計測範囲、計測頻度にも制限がある。このため、フェノタイピングは、例えば、実際に植物の育種が行われている実圃場ではなく、試験用の特別な圃場等での実施にとどまっている。
【発明の概要】
【発明が解決しようとする課題】
【0003】
そこで、本発明は、例えば、試験用の特別な圃場のみならず、実際に植物の育種が行われている実圃場についても、容易にフェノタイピングを行うためのデータを得ることができる新たなシステムの提供を目的とする。
【課題を解決するための手段】
【0004】
前記目的を達成するために、本発明の圃場の育種データ収集装置は、
圃場情報、空撮のフライトログを含む撮影条件、および前記撮影条件と紐づけられた前記圃場の空撮画像を保持する情報記憶部、
前記空撮画像を、前記撮影条件に含まれる撮影高度に基づいて、撮影高度範囲が異なる複数の画像群に分類する分類部、
前記複数の画像群のうち少なくとも一つの画像群と、前記撮影条件とから、2次元オルソモザイク、数値表層モデル、およびポイントクラウドからなる群から選択された少なくとも一つの画像処理データを生成し、前記画像処理データから、前記圃場における植物の植物形質を解析する画像処理部、
前記画像処理部で得られたデータを可視化処理する可視化部、
前記画像処理部で得られたデータおよび前記可視化部で得られたデータを、処理情報として保持する処理情報記憶部、
前記画像処理部で得られたデータおよび前記可視化部で得られたデータの少なくとも一方を出力する出力部
を有することを特徴とする。
【0005】
本発明の育種における特徴解析装置は、前記本発明の圃場の育種データ収集装置に通信回線網を介して接続可能であり、
前記育種データ収集装置の可視化データを入力する入力部と、
前記可視化データを解析して、前記圃場または前記植物の特徴を抽出する特徴解析部とを有することを特徴とする。
【0006】
本発明の圃場の育種データ収集方法は、
圃場情報、空撮のフライトログを含む撮影条件、および前記撮影条件と紐づけられた前記圃場の空撮画像を保持する情報記憶工程、
前記空撮画像を、前記撮影条件に含まれる撮影高度に基づいて、撮影高度範囲が異なる複数の画像群に分類する分類工程、
前記複数の画像群のうち少なくとも一つの画像群と、前記撮影条件とから、2次元オルソモザイク、数値表層モデル、およびポイントクラウドからなる群から選択された少なくとも一つの画像処理データを生成し、前記画像処理データから、前記圃場における植物の植物形質を解析する画像処理工程、
前記画像処理工程で得られたデータを可視化処理する可視化工程、
前記画像処理工程で得られたデータおよび前記可視化工程で得られたデータを、処理情報として保持する処理情報記憶工程、
前記画像処理工程で得られたデータおよび前記可視化工程で得られたデータの少なくとも一方を出力する出力工程
を有することを特徴とする。
【0007】
本発明の育種における特徴解析方法は、前記本発明の圃場の育種データ収集方法によるデータ収集工程と、
前記画像の特徴量、前記画像処理データ、前記形質解析データ、およびセンシングデータからなる群から選択された少なくとも一つの可視化データを解析して、前記圃場または前記植物の特徴を抽出する特徴解析工程とを有することを特徴とする。
【0008】
本発明のプログラムは、前記本発明の圃場の育種データ収集方法または育種における特徴解析方法をコンピュータに実行させることを特徴とする。
【0009】
本発明の記録媒体は、前記本発明のプログラムを記録したコンピュータ読み取り可能である。
【発明の効果】
【0010】
本発明によれば、例えば、空撮画像等を利用して、圃場の撮影画像を撮影高度に基づいて分類し、分類された画像群から、圃場、前記圃場の区画、前記圃場における植物について、3D画像データ等を再構築し、さらに、前記圃場条件または前記撮像条件に基づく可視化データへの変換を行う。このため、本発明は、例えば、限られた面積の試験用圃場ではなく、実圃場の広範囲における可視化データを得ることができる。その結果、これらの可視化データを、実圃場やそこで育成される植物の解析に広く利用でき、例えば、表現型に関する新たな知見の取得の支援にもつながる。
【図面の簡単な説明】
【0011】
【
図1】
図1は、実施形態1の育種データ収集装置の一例を示すブロック図である。
【
図2】
図2は、実施形態1の育種データ収集装置のその他の例を示すブロック図である。
【
図3】
図3は、実施形態1の育種データ収集装置のその他の例を示すブロック図である。
【
図4】
図4は、実施形態1の育種データ収集装置における画像処理部の例を示すブロック図である。
【
図5】
図5は、実施形態1の育種データ収集方法の一例を示すフローチャートである。
【
図6】
図6は、実施形態2の育種データ収集装置の例を示すブロック図である。
【
図7】
図7は、実施形態3の育種データ収集装置の例を示す模式図である。
【
図8】
図8は、実施形態5の同定装置の一例を示すブロック図である。
【
図9】
図9は、実施形態5の同定装置のハードウエア構成の例を示すブロック図である。
【
図16】
図16は、実施形態5の同定方法の一例を示すフローチャートである。
【
図17】
図17は、実施形態1の育種データ収集装置のハードウエア構成の例を示すブロック図である。
【発明を実施するための形態】
【0012】
本発明の実施形態について、図面を参照して説明する。なお、本発明は、以下の実施形態には限定されない。各図において、同一部分には、同一符号を付している。各実施形態の説明は、特に言及がない限り、互いの説明を援用でき、各実施形態の構成は、特に言及がない限り、組合せ可能である。
【0013】
[実施形態1]
図1は、本実施形態の圃場の育種データ収集装置1の一例の構成を示すブロック図である。育種データ収集装置1は、記憶部100、処理部110、出力部120を含む。処理部110は、分類部111、画像処理部112、可視化部113を含み、記憶部100は、情報記憶部101、処理情報記憶部102を含む。
【0014】
育種データ収集装置1は、例えば、育種データ収集システムともいう。育種データ収集装置1は、例えば、前記各部を含む1つの育種データ収集装置でもよいし、前記各部が、通信回線網を介して接続可能な育種データ収集装置であってもよい。前記通信回線網は、特に制限されず、公知の通信回線網を使用でき、例えば、有線でも無線でもよく、具体例として、インターネット回線、電話回線、LAN(Local Area Network)等があげられる。
【0015】
さらに、
図17に、育種データ収集装置1のハードウエア構成のブロック図を例示する。育種データ収集装置1は、例えば、プロセッサであるCPU(中央処理装置)50、メモリ51、バス52、入力装置53、ディスプレイ54、通信デバイス55、記憶装置56等を有する。育種データ収集装置1の各部は、例えば、それぞれのインターフェース(I/F)により、バス52を介して、相互に接続されている。
【0016】
CPU50は、育種データ収集装置1の制御を担う。育種データ収集装置1において、CPU50により、例えば、本発明のプログラムやその他のプログラムが実行され、また、各種情報の読み込みや書き込みが行われる。具体的に、育種データ収集装置1は、例えば、CPU50が、処理部110として機能する。
【0017】
育種データ収集装置1は、例えば、バス52に接続された通信デバイス55により、通信回線網に接続でき、前記通信回線網を介して、前記外部機器と接続できる。前記外部機器に情報を出力する場合、例えば、通信デバイス55が出力部120として機能する。
【0018】
メモリ51は、例えば、メインメモリを含み、前記メインメモリは、主記憶装置ともいう。CPU50が処理を行う際には、例えば、後述する補助記憶装置に記憶されている、本発明のプログラム等の種々の動作プログラム103を、メモリ51が読み込み、CPU50は、メモリ51からデータを受け取って、プログラム103を実行する。前記メインメモリは、例えば、RAM(ランダムアクセスメモリ)である。メモリ51は、例えば、さらに、ROM(読み出し専用メモリ)を含む。
【0019】
記憶装置56は、例えば、前記メインメモリ(主記憶装置)に対して、いわゆる補助記憶装置ともいう。記憶装置56は、例えば、記憶媒体と、前記記憶媒体に読み書きするドライブとを含む。前記記憶媒体は、特に制限されず、例えば、内蔵型でも外付け型でもよく、HD(ハードディスク)、FD(フロッピー(登録商標)ディスク)、CD-ROM、CD-R、CD-RW、MO、DVD、フラッシュメモリー、メモリーカード等があげられ、前記ドライブは、特に制限されない。記憶装置56は、例えば、記憶媒体とドライブとが一体化されたハードディスクドライブ(HDD)も例示できる。記憶装置56には、例えば、前述のように、プログラム103が格納され、前述のように、CPU50を実行させる際、メモリ51が、記憶装置56からプログラム103を読み込む。記憶装置56は、例えば、記憶部100であり、例えば、育種データ収集装置1に入力された情報、育種データ収集装置1で処理された情報等を記憶する。
【0020】
育種データ収集装置1は、例えば、さらに、入力装置53、ディスプレイ54を有する。入力装置53は、例えば、タッチパネル、マウス、キーボード等である。ディスプレイ54は、例えば、LEDディスプレイ、液晶ディスプレイ等があげられる。育種データ収集装置1において情報を表示する場合、例えば、ディスプレイ54が出力部120として機能する。
【0021】
育種データ収集装置1は、例えば、
図2に示すように、クライアント端末2から、インターフェイス(I/F)31を介して、情報記憶部101に処理対象の情報が入力される。インターフェイス31の種類は、特に制限されず、例えば、GUI(グラフィカルユーザーインターフェース)、CUI(キャラクターユーザーインターフェース)、API(アプリケーションプログラムインターフェース)等が利用できる。
【0022】
育種データ収集装置1は、例えば、
図3に示すように、クライアント端末2と、通信回線網32を介して接続されてもよい。前記通信回線網は、特に制限されず、公知の通信回線網を使用でき、例えば、有線でも無線でもよく、具体例として、インターネット回線、電話回線、LAN(Local Area Network)等があげられる。
【0023】
情報記憶部101は、前述のように、圃場情報、空撮のフライトログを含む撮影条件、および前記撮影条件と紐づけられた前記圃場の空撮画像を保持する。
【0024】
前記圃場情報は、特に制限されず、例えば、圃場の地図情報、圃場を分割する各区画(プロット)の情報、圃場で育種している植物の情報、目視観察情報等があげられる。前記圃場の区画情報とは、例えば、前記圃場を複数に分けた各区画の位置情報、具体的には、座標等である。前記目視観察情報とは、例えば、前記圃場における植物の実測情報である。
【0025】
前記圃場の撮影画像は、圃場の空撮画像を含む。前述のように、研究者が、実際に圃場に入り、植物を確認する際、目視の他に、カメラを用いた地上撮影を行い、地上撮影画像を利用して、フェノタイプの評価を行うことがある。しかしながら、研究者が圃場において地上撮影をする場合も、目視と同様に、その労力が大きく、計測範囲および計測頻度に制限がある。これに対して、前記空撮画像は、例えば、ドローン等の無人航空機により撮影できることから、圃場の広さに関わらず、容易に広範囲にわたる画像を得ることができ、また、容易に経時的な画像を得ることもできる。このため、本実施形態によれば、空撮画像を使用することにより、高速フェノタイピングが可能となる。前記撮像画像は、例えば、さらに、地上撮影画像を含んでもよい。
【0026】
前記撮影条件は、撮影高度を含み、その他に、例えば、撮影の日時等を含む。また、前述のように、前記空撮画像の場合、前記撮影条件は、例えば、撮影を行う無人航空機のフライトログを含む。前記フライトログは、例えば、撮影に使用した前記無人航空機の飛行条件等も含む。前記飛行条件は、例えば、飛行ルート、飛行速度、飛行時間、飛行に伴う撮影日時、撮影時間等を含む。
【0027】
分類部111は、前述のように、前記空撮画像を、前記撮影条件に含まれる撮影高度に基づいて、撮影高度範囲が異なる複数の画像群に分類する。前記空撮画像を撮影高度に基づいて分類することにより、適した空撮画像を、例えば、後述する画像処理部112での処理において、圃場全体、圃場の区画、圃場または圃場の区画における植物群についての、画像処理データの生成に使用できる。前記撮影高度範囲は、特に制限されず、任意に設定できる。
【0028】
前記撮影高度範囲に基づき分類する画像群の数は、特に制限されず、2以上が好ましい。具体例として、2つの画像群に分類する場合、例えば、第1画像群は、前記撮影高度が、第2画像群よりも高い範囲の画像群に設定できる。各画像群の撮影高度は、特に制限されず、例えば、以下のような具体例があげられる。後述する画像処理部において、圃場の全体について、前記画像処理データを生成する場合、前記第1画像群は、例えば、空撮画像であり、その撮影高度は、例えば、地上から100m程度であり、その撮影範囲は、5ha程度である。前記画像処理部において、圃場の区画における植物群について、前記画像処理データを生成する場合、前記第2画像群は、例えば、空撮画像であり、その撮影高度は、例えば、地上から30m程度であり、撮影範囲は、0.5ha程度である。前記空撮の場合、例えば、前記無人航空機に搭載されているイメージセンサの種類、焦点距離、前記無人航空機の垂直ホバリング精度等から、撮影範囲を計算可能である。
【0029】
画像処理部112は、まず、前記複数の画像群のうち少なくとも一つの画像群と、前記撮影条件とから、2次元オルソモザイク、数値表層モデル、およびポイントクラウドからなる群から選択された少なくとも一つの画像処理データを生成する。前記2次元オルソモザイクは、例えば、正射投影画像ともいう。前記数値表層モデルは、DSM(Digital Surface Model)ともいう。前記ポイントクラウド(Point Cloud)は、例えば、点群、3次元再構成データともいう。前記画像処理データは、後述するように、前記圃場、前記圃場の区画、または前記圃場における植物について、2次元データの可視化、3次元データの可視化(3D画像データへの再構築)等に使用できる。
【0030】
そして、画像処理部112は、前記画像処理データから、前記圃場における植物の植物形質を解析し、形質解析データを得る。
【0031】
前記画像群に含まれる複数の画像を用いた画像処理の生成および植物形質の解析は、特に制限されず、例えば、既存のソフトウェアを利用して行うことができる。本実施形態の育種データ収集装置1においては、例えば、処理部110に前記ソフトウェアを実装してもよい。
【0032】
画像処理部112は、例えば、複数の画像処理部を有してもよい。具体例として、
図4に、第1画像処理部1121、第2画像処理部1122、第3画像処理部1123を有する形態を示す。本実施形態において、例えば、第1画像処理部1121が、前記圃場全体に関する画像処理データを生成し(例えば、圃場全体の3D画像の再構築)、第2画像処理部1122が、前記圃場の区画、具体的には、前記圃場の区画における植物群に関する画像処理データを生成する(例えば、圃場の区画の3D画像の再構築)。第3画像処理部1123は、例えば、任意の画像処理データの生成に使用できる。
【0033】
画像処理部112は、例えば、
図4に示すように、複数の画像処理を行う場合、前記複数の画像処理をパイプライン方式で実行してもよい。
【0034】
第1画像処理部1121は、例えば、前記第1画像群の複数の撮影画像(好ましくは空撮画像)から、前記画像処理データを生成する。具体的に、例えば、前記複数の画像をアライメントして、前記圃場全体の3D画像を再構築することができる。この際、例えば、前記圃場情報、前記撮影画像の撮影情報等に基づいて、前記撮影画像のアライメントおよびトリミングを行い、前記圃場全体の3D画像を再構築してもよい。そして、第1画像処理部1121は、さらに、例えば、前記画像処理データから、前記圃場の全体について、植物の植物形質を解析してもよい。前記植物形質とは、例えば、前記圃場における植物の植被率、植物の草丈、植物の生長速度等であり、また、圃場の状態を含んでもよい。
【0035】
第2画像処理部1122は、例えば、前記第2画像群の複数の撮影画像(好ましくは空撮画像)から、前記画像処理データを生成する。具体的に、例えば、前記複数の画像をアライメントして、前記圃場の区画の3D画像を再構築することができる。そして、第2画像処理部1122は、さらに、例えば、前記画像処理データから、前記圃場情報、前記撮影画像の撮影情報等に基づいて、前記圃場の区画について、植物の植物形質を解析してもよい。前記植物形質とは、前述と同様であり、例えば、任意の領域(任意の区画)における植被率、植物の草丈、植物の生長速度等である。
【0036】
第3画像処理部1123は、例えば、任意の画像群の複数の撮影画像(好ましくは地上撮影画像)から、任意の前記画像処理データを生成する。具体的に、例えば、前記複数の画像から、前記圃場における植物の3D画像を再構築することができる。
【0037】
可視化部113は、画像処理部112で得られたデータを可視化処理する。画像処理部112で得られたデータは、例えば、前記画像処理データおよび前記植物形質の形質解析データである。可視化部113は、これらのデータを、例えば、前記圃場条件および前記撮影条件の少なくとも一方に基づいて、可視化処理する。具体例として、前記圃場全体の3D画像データは、例えば、圃場の地図データと紐づけて可視化でき、また、撮影時間と紐づけて可視化できる。圃場全体の3D画像データと、圃場の地図データとは、例えば、QGIS等の地理情報に関するソフトウェアにより、位置合わせを行うことができる。このため、さらに、前記撮影時間と紐づけることで、時系列の可視化となるように可視化処理できる。以下、可視化部113に使用されるデータを、可視化データといい、可視化部113で得られたデータを、処理データという。
【0038】
処理情報記憶部102は、画像処理部112で得られたデータ(例えば、画像処理データおよび形質解析データ)、可視化部113で得られた処理データを保持する。処理情報記憶部102は、例えば、さらに、分類部111の分類データを記憶してもよい。
【0039】
出力部120は、画像処理部112で得られたデータおよび可視化部113で得られたデータの少なくとも一方を出力する。出力部120は、例えば、クライアント端末への出力でもよいし、表示画面への出力でもよい。育種データ収集装置1から外部への出力は、例えば、インターフェイスを介して出力されてもよい。
【0040】
つぎに、本実施形態の育種データ収集方法について、一例として、
図5のフローチャートを用いて説明する。
【0041】
本実施形態の育種データ収集方法は、例えば、
図1に示す本実施形態の育種データ収集装置1を用いて、次のように実施する。なお、本実施形態の育種データ収集方法は、
図1の育種データ収集装置1の使用には限定されない。
【0042】
まず、(S1)情報記憶工程において、圃場情報、空撮のフライトログを含む撮影条件、および前記撮影条件と紐づけられた前記圃場の空撮画像を保持する。そして、(S2)分類工程において、前記空撮画像を、前記撮影条件に含まれる撮影高度に基づいて、撮影高度範囲が異なる複数の画像群に分類する。
【0043】
つぎに、(S3)画像処理工程において、前記複数の画像群のうち少なくとも一つの画像群と、前記撮影条件とから、2次元オルソモザイク、数値表層モデル、およびポイントクラウドからなる群から選択された少なくとも一つの画像処理データを生成し、前記画像処理データから、前記圃場における植物の植物形質を解析する。本実施形態では、3つの画像群(第1、第2、第3)に分類した場合を例にあげて説明する。(S3-1)第1画像処理工程において、前記第1画像群から、前記圃場全体の3D画像を再構築し、(S3-2)第2画像処理工程において、前記第2画像群から、前記圃場の区画の3D画像を再構築し、前記圃場の区画における植物群の植物形質を解析する。(S3-3)第3画像処理工程は、任意であり、例えば、前記任意の画像群から、任意の画像処理を行う。
【0044】
つぎに、(S4)可視化工程において、前記得られた画像処理データを、可視化処理する。具体的には、(S4-1)第1可視化工程において、(S3-1)第1画像処理工程で得られた画像処理データを、可視化処理し、(S4-2)第2可視化工程において、(S3-2)第2画像処理工程で得られた画像処理データを、可視化処理し、(S4-3)第3可視化工程において、(S3-3)第3画像処理工程で得られた画像処理データを、可視化処理する。
【0045】
そして、(S5)処理情報記憶工程において、画像処理部112で得られたデータおよび可視化部113で得られたデータを処理情報として保持し、(S6)出力工程において、画像処理部112で得られたデータおよび可視化部113で得られたデータの少なくとも一方を出力する。
【0046】
(変形例1)
本実施形態1の育種データ収集装置1は、例えば、情報記憶部101が、さらに、前記圃場のセンシングデータと、前記圃場におけるセンシングの位置情報とを紐づけて、保持してもよい。前記センシングデータは、特に制限されず、例えば、温度、湿度、二酸化炭素濃度および日射量(例えば、光合成光量子束密度)等である。
【0047】
育種データ収集装置1において、可視化部113は、さらに、前記圃場情報に基づいて、前記センシングの位置情報に紐づけられた前記圃場のセンシングデータを、可視化処理してもよい。可視化部113で得られるデータは、例えば、グラフデータである。
【0048】
本発明によれば、例えば、可視化部113で得られた処理データを利用することによって、例えば、圃場の撮影におけるドローンの飛行経路の設計、画像の撮影条件の設定、フェノタイピングデータの取得、圃場環境に関するセンシングデータの管理等を、効率的に行うことができる。このため、例えば、高速フェノタイピングにも有用である。
【0049】
また、本発明の育種データ収集装置1は、例えば、プラットフォーム化が可能であるため、例えば、他の様々なデータとの統合も可能である。
【0050】
研究者が圃場において直接データを収集する場合、研究者の経験や勘等によって、客観的な評価、定量的な評価が困難な場合があった。また、データの収集が、研究者独自の手法で行われており、その手法の共有が困難であった。これに対して、本発明の育種データ収集装置によれば、例えば、様々な研究者が、独自の条件で集めた撮影画像等を、前記情報記憶部に記憶させることができ、それらの撮影画像を、撮影高度に基づいて分類し、前記画像処理および前記可視化処理を行うことができる。このため、個人によって得られる情報だけでなく、様々な研究者による異なる条件で集めた撮影画像と、それから得られる処理情報が蓄積できるため、より効率的に、新たな知見の発見の支援にもつながる。
【0051】
[実施形態2]
前記実施形態1の育種データ収集装置について、さらに他の形態の一例を、
図6のブロック図に示す。
図6において、育種データ収集装置6は、さらに、特徴解析部114を有する。特徴解析部114は、例えば、処理部110に含まれる。本実施形態の育種データ収集装置は、例えば、特徴解析装置または特徴解析システムともいう。
【0052】
特徴解析部114は、可視化データを解析して、前記圃場または前記植物の特徴を抽出する。前記可視化データとしては、例えば、種々のデータが使用でき、具体例として、前記画像の特徴量、前記生成データ、前記形質解析データ、センシングデータ等である。前記特徴の抽出は、特に制限されず、例えば、SVM等を用いた外れ値から抽出することができる。
【0053】
[実施形態3]
本実施形態の育種データ収集装置の一例を、
図7に示す。
図7(A)は、本実施形態の育種データ収集装置を含む概要の一例であり、
図7(B)は、前記育種データ収集装置における画像処理部の一例である。本発明は、これには制限されない。
【0054】
[実施形態4]
本実施形態のプログラムは、実施形態1、2または3の育種データ収集方法または育種における特徴解析方法を、コンピュータ上で実行可能なプログラムである。または、本実施形態のプログラムは、例えば、コンピュータ読み取り可能な記録媒体に記録されてもよい。前記記録媒体としては、特に限定されず、例えば、読み出し専用メモリ(ROM)、ハードディスク(HD)、光ディスク、フロッピー(登録商標)ディスク(FD)等があげられる。
【0055】
[実施形態5]
本発明において対象となる圃場が果樹圃場の場合、例えば、空撮画像からの果樹個体の同定には、例えば、本実施形態における同定装置および同定方法が利用できる。
【0056】
果樹の育種においては、枝が伸びるための空間を確保し、また、摘蕾や摘果の作業性を向上させるため、一つ一つの果樹個体について樹冠の状態を確認して、整枝剪定を行うことが重要である。このような点から、例えば、本発明の対象を果樹圃場とする場合、植物(すなわち果樹)の形質を解析するにあたって、果樹個体の樹冠の同定を、精度よく行えることが好ましい。そこで、本実施形態においては、果樹個体の樹冠の同定に関して、一例を示す。
【0057】
図8は、本実施形態の同定装置40の一例の構成を示すブロック図である。同定装置40は、同定基準決定部41および樹冠同定部42を有する。同定基準決定部41は、第1画像取得部411、スケルトン抽出部412、頂点抽出部413、同定基準抽出部414を有し、樹冠同定部42は、第2画像取得部421、全体樹冠抽出部422、樹冠同定部423を有する。同定装置40は、例えば、さらに、果樹形質解析部43および記憶部44を備えてもよい。同定装置40は、例えば、同定システムともいう。
【0058】
同定装置40は、例えば、前記各部を含む1つの提示装置でもよいし、前記各部が、通信回線網を介して接続可能な提示装置であもよい。前記通信回線網は、特に制限されず、公知のネットワークを使用でき、例えば、有線でも無線でもよい。前記通信回線網は、例えば、インターネット回線、電話回線、LAN(Local Area Network)、WiFi(Wireless Fidelity)等があげられる。
【0059】
同定装置40は、さらに、出力部を備えてもよい。同定装置40は、例えば、前記出力部として、後述するようにディスプレイ等の表示部を有し、同定装置40により得られた情報を、前記表示部に出力してもよい。また、同定装置40は、例えば、前記出力部として、後述するように通信デバイスを有し、外部装置と、通信回線網を介して接続可能であってもよい。この場合、同定装置40は、前記通信回線網を介して、同定装置40により得られた情報を、前記外部装置に出力してもよい。前記外部装置は、特に制限されず、例えば、カメラ等の撮像デバイス、パーソナルコンピュータ(PC)、携帯電話、スマートフォン、タブレット等の端末があげられる。前記通信回線網は、特に制限されず、前述と同様である。
【0060】
さらに、
図9に、同定装置40のハードウエア構成のブロック図を例示する。同定装置40は、例えば、プロセッサであるCPU(中央処理装置)50、メモリ51、バス52、入力装置53、ディスプレイ54、通信デバイス55、記憶装置56等を有する。同定装置40の各部は、例えば、それぞれのインターフェイス(I/F)により、バス52を介して、相互に接続されている。
【0061】
CPU50は、同定装置40の全体の制御を担う。同定装置40において、CPU50により、例えば、本発明のプログラムやその他のプログラムが実行され、また、各種情報の読み込みや書き込みが行われる。具体的に、同定装置40は、例えば、CPU50が、同定基準決定部41、樹冠同定部42、および果樹形質解析部43等として機能する。
【0062】
同定装置40は、例えば、バス52に接続された通信デバイス55により、通信回線網に接続でき、前記通信回線網を介して、前記外部機器と接続できる。
【0063】
メモリ51は、例えば、メインメモリを含み、前記メインメモリは、主記憶装置ともいう。CPU50が処理を行う際には、例えば、後述する補助記憶装置に記憶されている、本発明のプログラム等の種々の動作プログラム57を、メモリ51が読み込み、CPU50は、メモリ51からデータを受け取って、プログラム57を実行する。前記メインメモリは、例えば、RAM(ランダムアクセスメモリ)である。メモリ51は、例えば、さらに、ROM(読み出し専用メモリ)を含む。
【0064】
記憶装置56は、例えば、前記メインメモリ(主記憶装置)に対して、いわゆる補助記憶装置ともいう。記憶装置56は、例えば、記憶媒体と、前記記憶媒体に読み書きするドライブとを含む。前記記憶媒体は、特に制限されず、例えば、内蔵型でも外付け型でもよく、HD(ハードディスク)、FD(フロッピー(登録商標)ディスク)、CD-ROM、CD-R、CD-RW、MO、DVD、フラッシュメモリー、メモリーカード等があげられ、前記ドライブは、特に制限されない。記憶装置56は、例えば、記憶媒体とドライブとが一体化されたハードディスクドライブ(HDD)も例示できる。記憶装置56には、例えば、前述のように、プログラム57が格納され、前述のように、CPU50を実行させる際、メモリ51が、記憶装置56からプログラム57を読み込む。記憶装置56は、例えば、記憶部44であり、同定装置40に入力された情報、同定装置40で処理された情報等を記憶する。
【0065】
同定装置40は、例えば、さらに、入力装置53、ディスプレイ54を有する。入力装置53は、例えば、タッチパネル、マウス、キーボード等である。ディスプレイ54は、例えば、LEDディスプレイ、液晶ディスプレイ等があげられる。
【0066】
同定基準決定部41は、前述のように、第1画像取得部411、スケルトン抽出部412、頂点抽出部413、および同定基準抽出部414を有する。
【0067】
第1画像取得部411は、果樹圃場について、複数の果樹個体を含む落葉期の第1空撮画像Fを取得する。第1画像取得部411は、例えば、前記第1空撮画像Fを、入力装置53を用いて入力することにより取得してもよいし、前記通信回線網を介して、前記外部装置から受信することにより取得してもよい。
【0068】
前記第1空撮画像Fは、落葉期における果樹圃場の画像であり、画像内に複数の果樹個体が含まれていればよい。落葉期とは、例えば、葉が枝幹から離れ落ちる時期をいい、果樹の場合、一般的に、例えば、冬期、具体的には、日本の場合、11月~3月頃である。落葉期における果樹圃場の空撮画像とは、例えば、葉が落ちた状態の果樹圃場の空撮画像ともいえる。前記第1空撮画像Fは、例えば、ドローン等の無人航空機により撮影できる。
【0069】
スケルトン抽出部412は、前記第1空撮画像Fから、画像処理によって、前記複数の果樹個体を含む全体の樹冠スケルトンFを抽出する。前記画像処理の方法は、特に制限されない。具体例として、
図10を用いて説明する。
図10(A)に示すような前記空撮画像は、例えば、撮影条件等を参照することで、
図10(B)に示すように、果樹の樹高等を反映した3D画像を再構築でき、この3D画像から、
図10(C)に示すように、果樹の樹冠のスケルトン(骨格)Fを抽出できる。樹冠とは、一般に、樹木の枝、葉、茎等、地面より上にある樹木の部分を意味する。
【0070】
前記樹冠スケルトンFの抽出は、例えば、適応フィルタリング、画像モルフォロジー処理等が利用できる。
【0071】
頂点抽出部413は、各果樹個体について、対応する樹冠スケルトンの頂点を抽出する。そして、同定基準抽出部414は、前記各果樹個体について、同定基準として、樹冠候補領域Fを抽出し、前記各果樹個体について、同定基準として、前記樹冠候補領域Fから、その重心Fを抽出する。前記樹冠候補領域Fとは、対応する樹冠スケルトンの頂点を全て含む最小多角形の領域であり、具体的には、例えば、凸状の最小多角形の領域である。
【0072】
前記樹冠候補領域Fの抽出について、具体例として、
図11を参照して説明する。
図10(C)の樹冠のスケルトンFの画像には、12個の果樹個体の樹冠スケルトンが含まれる。頂点抽出部413により、
図11(A)に示すように、各果樹個体について、対応する樹冠スケルトンから、その全ての頂点が抽出される。そして、同定基準抽出部414により、
図11(B)に示すように、全ての頂点を含む、グレーの線で囲んだ最小多角形の領域(ポリゴンともいう)を、それぞれの樹冠候補領域Fとして抽出できる。
【0073】
図11(B)を、より具体的に、
図12に示す。
図12(A)の白線で示すように、前記全ての頂点を含む最小多角形のポリゴンにより、同定基準となる樹冠候補領域Fの外枠を抽出できる。また、
図12(B)に、
図12(A)における樹冠候補領域Fを示す外枠を白黒マスク画像で示す。
【0074】
また、同定基準抽出部414により、前記樹冠候補領域Fから、その重心Fが抽出される。前記樹冠候補領域Fの重心Fの決定方法は、特に制限されず、前記
図12(B)の白黒マスク画像のモーメントから、一般的な手法により求めることができる。
【0075】
つぎに、樹冠同定部42は、第2画像取得部421、全体樹冠抽出部422、および樹冠同定部423を有する。
【0076】
第2画像取得部421は、前記果樹圃場について、前記第1空撮画像と同じスケールであり、樹冠を同定する時期の第2空撮画像Sを取得する。前記第2空撮画像Sは、特に制限されず、整枝剪定のために果樹の樹冠を同定する必要がある時期の画像であればよい。また、第2空撮画像Sは、例えば、特定の一時期の画像(例えば、S1)のみでもよいし、経時的に撮影した複数の時期に撮影した複数の画像(例えば、S1、S2、S3・・・Sn。nは、正の整数)であってもよい。
【0077】
本発明において、樹冠の同定には、同定基準決定部41により、前記第1空撮画像Fに基づいて抽出した同定基準である樹冠候補領域Fと重心Fとを利用することから、前記第2空撮画像Sは、前記第1空撮画像Fと同じスケールの画像である。前記第2空撮画像Sは、例えば、前記第1空撮画像Fと同じ条件で撮像することにより同じスケールとしてもよいし、前記第1空撮画像Fと異なる条件であっても、予め、画像処理によって、前記第1空撮画像Fと同じスケールとしたものを使用してもよい。
【0078】
全体樹冠抽出部422は、前記第2空撮画像Sから、画像処理によって、前記複数の果樹個体を含む全体の樹冠画像Sを抽出する。樹冠の同定が必要な時期は、前述のように、果樹の枝や葉が、隣接する果樹と重複するため、空撮画像においては、その臨界が判別し難い状態である。そこで、全体樹冠抽出部422は、前記第2空撮画像Sから、画像処理によって、前記複数の果樹個体のそれぞれについてではなく、前記複数の果樹個体の全体の樹冠画像Sを抽出する。
【0079】
前記画像処理の方法は、特に制限されない。具体例として、
図13を用いて説明する。
図13(A)に示すような前記空撮画像は、例えば、撮影条件等を参照することで、
図13(B)に示すように、果樹の樹高等を反映した3D画像を再構築でき、この3D画像から、
図13(C)に示すように、果樹個体の全体の樹冠画像Sを抽出できる。前記全体の樹冠画像Sの抽出は、例えば、前述と同様に、適応フィルタリング、画像モルフォロジー処理等が利用できる。
【0080】
樹冠同定部423は、前記全体の樹冠画像Sに、前記同定基準の樹冠候補領域Fおよび重心Fを照合し、前記各果樹個体の樹冠領域Sを同定する。前述のように、前記第1空撮画像Fについては、果樹個体のそれぞれについて樹冠領域Fおよび重心Fが抽出されている。そして、前記第1空撮画像Fと前記第2空撮画像Sとは、同じスケールである。このため、前記第2空撮画像S由来の前記全体の樹冠画像Sに対して、前記同定基準の樹冠候補領域Fおよび重心Fを照合することによって、前記第2空撮画像Sにおける各果樹個体の樹冠領域の同定が可能になる。
【0081】
樹冠同定部423は、例えば、前記全体の樹冠画像Sに基づいて、樹冠候補領域を抽出してから、最終的な樹冠領域を同定してもよい。すなわち、まず、前記全体の樹冠画像Sに、前記同定基準の樹冠候補領域Fおよび重心Fを照合し、前記各果樹個体の樹冠候補領域Sを抽出してから、前記樹冠候補領域Sと、前記樹冠候補領域Sの周囲の微小領域とから、前記各果樹個体の樹冠領域Sを同定してもよい。前記同定基準の樹冠領域Fおよび重心Fに基づく樹冠候補領域Sの抽出、および、前記樹冠候補領域Sからの樹冠領域Sの同定を、以下に、より詳細に説明する。
【0082】
前記全体の樹冠画像Sを、一般Watershed transformation法で処理することにより、
図14(A)に示すように、各果樹個体の樹冠の画像は、それぞれが、複数領域に分割される。そこで、
図14(A)の画像に対して、候補領域Fと重心Fとを、Watershed transformation法の初期値として利用することで、
図14(B)に示すように、前記複数の領域を統合し、樹冠候補領域Sを抽出する。
【0083】
図15(A)(
図14(B)と同じ図)に示す各樹冠候補領域Sには、それぞれ、
図15(B)に示すように、その周囲に凹凸状の微小領域Sが存在する(例えば、点線の丸で囲んだ領域)。そこで、前記樹冠候補領域Sと周囲の微小領域Sとのユークリッド距離を計算し、
図15(C)に示すように、前記樹冠候補領域Sと微小領域と統合することによって、
図15(D)に示すように、最終の樹冠領域Sを同定できる。
【0084】
同定装置40は、前述のように、さらに、果樹形質解析部43を有してもよく、果樹形質解析部43は、例えば、同定した樹冠領域の形質を解析する。前記樹冠領域の形質とは、例えば、樹冠投影面積、樹冠径、樹冠形状等である。これらの形質の情報は、例えば、前記画像における樹冠領域から、統計解析により得られる。
【0085】
つぎに、本実施形態の同定方法について、一例として、
図16のフローチャートを用いて説明する。本実施形態の同定方法は、例えば、
図8の同定装置40を用いて、次のように実施できる。なお、本実施形態の同定方法は、
図8の同定装置40の使用には限定されない。
【0086】
まず、同定基準決定工程として、前記第1画像取得工程、前記スケルトン抽出工程、前記頂点抽出工程、および前記同定基準抽出工程を実行する。
【0087】
具体的には、前記第1画像取得工程において、第1画像取得部411により、果樹圃場について、複数の果樹個体を含む落葉期の第1空撮画像を取得する(S10)。そして、前記スケルトン抽出工程において、スケルトン抽出部412により、前記第1空撮画像から、画像処理によって、前記複数の果樹個体を含む全体の樹冠スケルトンを抽出し(S11)、前記頂点抽出工程において、頂点抽出部413により、各果樹個体について、対応する樹冠スケルトンの頂点を抽出する(S12)。つぎに、前記同定基準抽出工程において、同定基準抽出部414により、前記各果樹個体について、同定基準として、前記頂点を全て含む最小多角形の樹冠候補領域を抽出し(S13)、前記各果樹個体について、同定基準として、前記樹冠候補領域から、その重心を抽出する(S14)。
【0088】
他方、前記樹冠同定工程として、前記第2画像取得工程、前記全体樹冠抽出工程、および前記樹冠同定工程を実行する。
【0089】
具体的には、前記第2画像取得工程において、第2画像取得部421により、前記果樹圃場について、前記第1空撮画像と同じスケールであり、樹冠を同定する時期の第2空撮画像を取得する(S15)。つぎに、前記全体樹冠抽出工程において、全体樹冠抽出部422により、前記第2空撮画像から、画像処理によって、前記複数の果樹個体を含む全体の樹冠画像を抽出する(S16)。
【0090】
そして、前記樹冠同定工程において、樹冠同定部423により、前記全体の樹冠画像に、前記同定基準の樹冠候補領域および重心を照合し、前記各果樹個体の樹冠候補領域を抽出する(S17)。この樹冠候補領域を、最終的な樹冠領域として同定してもよい。また、さらに、例えば、前記樹冠候補領域と前述のような微小領域とから、樹冠領域を同定してもよい(S18)。このようにして同定した樹冠領域を、出力してもよいし(S20)、さらに、前記同定した樹冠領域に基づいて、果樹の形質を解析し(S19)、その解析結果を出力してもよい(S20)。
【0091】
本実施形態における果樹個体の樹冠の同定方法は、例えば、前記実施形態1の育種データ収集方法における、空撮画像の取得(例えば、(S1)工程)から、植物形質を解析するための画像処理(例えば、(S3)工程)において利用できる。前記実施形態1では、前述のように、空撮画像を取得し(前記(S1)工程)、それを画像群に分類し(前記(S2)工程)、分類した画像群から前記画像処理データを生成し、前記画像処理データから、前記圃場における植物の植物形質が解析される(前記(S3)工程)。そこで、果樹圃場における果樹の育種データを収集する際には、例えば、果樹圃場の空撮画像から、画像処理データの生成(例えば、3D画像の再構築)を行う。そして、この画像処理データから、本実施形態に示すように、前記第1空撮画像については、例えば、スケルトンの抽出から同定基準の抽出までを行う。一方、この画像処理データから、本実施形態に示すように、前記第2空撮画像については、例えば、全体の樹冠画像の抽出から、樹冠領域の同定までを行う。このようにして、同定された樹冠領域について、形質を解析することで、前記実施形態1に示すように、植物(すなわち果樹)の形質を解析できる。
【0092】
[実施形態6]
本実施形態のプログラムは、前記実施形態5の同定方法を、コンピュータ上で実行可能なプログラムである。または、本実施形態のプログラムは、例えば、コンピュータ読み取り可能な記録媒体に記録されてもよい。前記記録媒体としては、特に限定されず、例えば、読み出し専用メモリ(ROM)、ハードディスク(HD)、光ディスク、フロッピー(登録商標)ディスク(FD)等があげられる。
【0093】
以上、実施形態を参照して本願発明を説明したが、本願発明は、上記実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
【0094】
この出願は、2017年11月15日に出願された日本出願特願2017-220504および2018年3月23日に出願された日本出願特願2018-057035を基礎とする優先権を主張し、その開示の全てをここに取り込む。
【0095】
<付記>
上記の実施形態および実施例の一部または全部は、以下の付記のように記載されうるが、以下には限られない。
(付記A1)
圃場情報、空撮のフライトログを含む撮影条件、および前記撮影条件と紐づけられた前記圃場の空撮画像を保持する情報記憶部、
前記空撮画像を、前記撮影条件に含まれる撮影高度に基づいて、撮影高度範囲が異なる複数の画像群に分類する分類部、
前記複数の画像群のうち少なくとも一つの画像群と、前記撮影条件とから、2次元オルソモザイク、数値表層モデル、およびポイントクラウドからなる群から選択された少なくとも一つの画像処理データを生成し、前記画像処理データから、前記圃場における植物の植物形質を解析する画像処理部、
前記画像処理部で得られたデータを可視化処理する可視化部、
前記画像処理部で得られたデータおよび前記可視化部で得られたデータを、処理情報として保持する処理情報記憶部、
前記画像処理部で得られたデータおよび前記可視化部で得られたデータの少なくとも一方を出力する出力部
を有することを特徴とする圃場の育種データ収集装置。
(付記A2)
前記複数の画像群は、
少なくとも第1画像群、および第2画像群を含み、
前記第1画像群は、前記撮影高度が、前記第2画像群よりも高い範囲の画像群である、付記A1記載の育種データ収集装置。
(付記A3)
前記画像処理部において、前記圃場全体の3D画像を再構築する、付記A1またはA2記載の育種データ収集装置。
(付記A4)
前記画像処理部において、前記圃場の区画の3D画像を再構築し、前記圃場の区画における植物群の生育状態を判定する、付記A1からA3のいずれかに記載の育種データ収集装置。
(付記A5)
前記植物形質が、前記圃場における植物の植被率、植物の草丈、および植物の成長速度からなる群から選択された少なくとも一つである、付記A1からA4のいずれかに記載の育種データ収集装置。
(付記A6)
前記画像処理部において、前記植物の3D画像を再構築し、前記植物のさらに詳細な形質を判定する、付記A1からA5のいずれかに記載の圃場の育種データ収集装置。
(付記A7)
前記画像処理部が、第1画像処理部、および第2画像処理部を含み、
前記第1画像処理部が、前記第1画像群を処理し、
前記第2画像処理部が、前記第2画像群を処理する、付記A1からA6のいずれかに記載の育種データ収集装置。
(付記A8)
前記画像処理部が、複数の画像処理をパイプライン方式で実行する、付記A7記載の育種データ収集装置。
(付記A9)
前記可視化部が、前記画像処理部で得られるデータに含まれる2次元データを可視化処理し、前記画像処理部で得られるデータに含まれる3次元データを可視化処理する、付記A1からA8のいずれかに記載の育種データ収集装置。
(付記A10)
前記2次元データが、2次元オルソモザイク、数値表層モデル、およびグラフのデータを含み、
前記3次元データが、ポイントクラウドのデータを含む、付記A9記載の育種データ収集装置。
(付記A11)
前記撮影条件が、撮影時間を含み、
前記可視化部において、時系列となるように可視化処理する、付記A1からA10のいずれかに記載の圃場の育種データ収集装置。
(付記A12)
前記情報記憶部は、さらに、前記圃場のセンシングデータと、前記圃場におけるセンシングの位置情報とを紐づけて、保持する、付記A1からA11のいずれかに記載の育種データ収集装置。
(付記A13)
前記可視化部は、さらに、前記圃場情報に基づいて、前記センシングの位置情報に紐づけられた前記圃場におけるセンシングデータを、可視化処理する、付記A12記載の育種データ収集装置。
(付記A14)
前記可視化部で得られるデータが、グラフデータである、付記A13記載の育種データ収集装置。
(付記A15)
前記センシングデータが、温度、湿度、二酸化炭素濃度、および日射量からなる群から選択された少なくとも一つのデータである、付記A13またはA14記載の育種データ収集装置。
(付記A16)
前記圃場情報は、前記圃場を分割する各プロットの座標情報、および、前記圃場で育成している植物情報を含み、前記座標情報に前記植物情報が紐づけられている、付記A1からA15のいずれかに記載の育種データ収集装置。
(付記A17)
前記植物情報は、前記植物の画像解析情報である、付記A16記載の育種データ収集装置。
(付記A18)
前記情報記憶部が、さらに、撮影条件と、前記撮影条件に紐づけられた地上撮影画像を保持する、付記A1からA17のいずれかに記載の圃場の育種データ収集装置。
(付記A19)
前記空撮画像が、無人航空機による撮影画像である、付記A1からA18のいずれかに記載の育種データ収集装置。
(付記A20)
前記無人航空機が、ドローンである、付記A19記載の育種データ収集装置。
(付記A21)
さらに、特徴解析部を有し、
前記特徴解析部は、可視化データを解析して、前記圃場または前記植物の特徴を抽出し、
前記可視化データは、前記画像の特徴量、前記生成データ、前記形質解析データ、センシングデータからなる群から選択された少なくとも一つである、付記A1からA20のいずれかに記載の育種データ収集装置。
(付記A22)
付記A1からA21のいずれかに記載の圃場の育種データ収集装置に通信回線網を介して接続可能であり、
前記装置の可視化データを入力する入力部と、
前記可視化データを解析して、前記圃場または前記植物の特徴を抽出する特徴解析部とを有することを特徴とする育種における特徴解析装置。
(付記A23)
圃場情報、空撮のフライトログを含む撮影条件、および前記撮影条件と紐づけられた前記圃場の空撮画像を保持する情報記憶工程、
前記空撮画像を、前記撮影条件に含まれる撮影高度に基づいて、撮影高度範囲が異なる複数の画像群に分類する分類工程、
前記複数の画像群のうち少なくとも一つの画像群と、前記撮影条件とから、2次元オルソモザイク、数値表層モデル、およびポイントクラウドからなる群から選択された少なくとも一つの画像処理データを生成し、前記画像処理データから、前記圃場における植物の植物形質を解析する画像処理工程、
前記画像処理工程で得られたデータを可視化処理する可視化工程、
前記画像処理工程で得られたデータおよび前記可視化工程で得られたデータを、処理情報として保持する処理情報記憶工程、
前記画像処理工程で得られたデータおよび前記可視化工程で得られたデータの少なくとも一方を出力する出力工程
を有することを特徴とする圃場の育種データ収集方法。
(付記A24)
前記複数の画像群は、
少なくとも第1画像群、および第2画像群を含み、
前記第1画像群は、前記撮影高度が、前記第2画像群よりも高い範囲の画像群である、付記A23記載の育種データ収集方法。
(付記A25)
前記画像処理工程において、前記圃場全体の3D画像を再構築する、付記A23またはA24記載の育種データ収集方法。
(付記A26)
前記画像処理工程において、前記圃場の区画の3D画像を再構築し、前記圃場の区画における植物群の生育状態を判定する、付記A23からA25のいずれかに記載の育種データ収集方法。
(付記A27)
前記植物形質が、前記圃場における植物の植被率、植物の草丈、および植物の成長速度からなる群から選択された少なくとも一つである、付記A23からA26のいずれかに記載の育種データ収集方法。
(付記A28)
前記画像処理工程において、前記植物の3D画像を再構築し、前記植物のさらに詳細な生育状態を判定する、付記A23からA27のいずれかに記載の圃場の育種データ収集方法。
(付記A29)
前記画像処理工程が、第1画像処理工程、および第2画像処理工程を含み、
前記第1画像処理工程において、前記第1画像群を処理し、
前記第2画像処理工程において、前記第2画像群を処理する、付記A23からA28のいずれかに記載の育種データ収集方法。
(付記A30)
前記画像処理工程において、複数の画像処理をパイプライン方式で実行する、付記A29記載の育種データ収集方法。
(付記A31)
前記可視化工程において、前記画像処理工程で得られるデータに含まれる2次元データを可視化処理し、前記画像処理工程で得られるデータに含まれる3次元データを可視化処理する、付記A23からA30のいずれかに記載の育種データ収集方法。
(付記A32)
前記2次元データが、2次元オルソモザイク、数値表層モデル、およびグラフのデータを含み、
前記3次元データが、ポイントクラウドのデータを含む、付記A31記載の育種データ収集方法。
(付記A33)
前記撮影条件が、撮影時間を含み、
前記可視化工程において、時系列となるように可視化処理する、付記A23からA32のいずれかに記載の圃場の育種データ収集方法。
【0096】
(付記A34)
前記情報記憶工程において、さらに、前記圃場のセンシングデータと、前記圃場におけるセンシングの位置情報とを紐づけて、保持する、付記A23からA33のいずれかに記載の育種データ収集方法。
(付記A35)
前記可視化工程において、さらに、前記圃場情報に基づいて、前記センシングの位置情報に紐づけられた前記圃場におけるセンシングデータを、可視化処理する、付記A34記載の育種データ収集方法。
(付記A36)
前記可視化工程で得られるデータが、グラフデータである、付記A35記載の育種データ収集方法。
(付記A37)
前記センシングデータが、温度、湿度、二酸化炭素濃度、および日射量からなる群から選択された少なくとも一つのデータである、付記A35またはA36記載の育種データ収集方法。
(付記A38)
前記圃場情報は、前記圃場を分割する各プロットの座標情報、および、前記圃場で育成している植物情報を含み、前記座標情報に前記植物情報が紐づけられている、付記A23からA37のいずれかに記載の育種データ収集方法。
(付記A39)
前記植物情報は、前記植物の画像解析情報である、付記A38記載の育種データ収集方法。
(付記A40)
前記情報記憶工程において、さらに、撮影条件と、前記撮影条件に紐づけられた地上撮影画像を保持する、付記A23からA39のいずれかに記載の圃場の育種データ収集方法。
(付記A41)
前記空撮画像が、無人航空機による撮影画像である、付記A23からA40のいずれかに記載の育種データ収集方法。
(付記A42)
前記無人航空機が、ドローンである、付記A41記載の育種データ収集方法。
(付記A43)
さらに、特徴解析工程を有し、
前記特徴解析工程は、可視化データを解析して、前記圃場または前記植物の特徴を抽出し、
前記可視化データは、前記画像の特徴量、前記生成データ、前記形質解析データ、センシングデータからなる群から選択された少なくとも一つである、付記A23からA42のいずれかに記載の育種データ収集方法。
(付記A44)
付記A23からA43のいずれかに記載の圃場の育種データ収集方法によるデータ収集工程と、
前記画像の特徴量、前記画像処理データ、前記形質解析データ、およびセンシングデータからなる群から選択された少なくとも一つの可視化データを解析して、前記圃場または前記植物の特徴を抽出する特徴解析工程とを有することを特徴とする育種における特徴解析方法。
(付記A45)
付記A23からA43のいずれかに記載の圃場の育種データ収集方法をコンピュータに実行させることを特徴とするプログラム。
(付記A46)
付記A44記載の育種における特徴解析方法をコンピュータに実行させることを特徴とするプログラム。
(付記A47)
付記A45またはA46記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
【0097】
また、上記の実施形態5、6および実施例の一部または全部は、以下の付記のように記載されうるが、以下には限られない。
(付記B1)
同定基準決定部と、樹冠同定部とを有し;
前記同定基準決定部は、
第1画像取得部、スケルトン抽出部、頂点抽出部、および同定基準抽出部を有し、
前記第1画像取得部は、果樹圃場について、複数の果樹個体を含む落葉期の第1空撮画像を取得し、
前記スケルトン抽出部は、前記第1空撮画像から、画像処理によって、前記複数の果樹個体を含む全体の樹冠スケルトンを抽出し、
前記頂点抽出部は、各果樹個体について、対応する樹冠スケルトンの頂点を抽出し、
前記同定基準抽出部は、前記各果樹個体について、同定基準として、前記頂点を全て含む最小多角形の樹冠候補領域を抽出し、前記各果樹個体について、同定基準として、前記樹冠候補領域から、その重心を抽出し;
前記樹冠同定部は、
第2画像取得部、全体樹冠抽出部、および樹冠同定部を有し、
前記第2画像取得部は、前記果樹圃場について、前記第1空撮画像と同じスケールであり、樹冠を同定する時期の第2空撮画像を取得し、
前記全体樹冠抽出部は、前記第2空撮画像から、画像処理によって、前記複数の果樹個体を含む全体の樹冠画像を抽出し、
前記樹冠同定部は、前記全体の樹冠画像に、前記同定基準の樹冠候補領域および重心を照合し、前記第2空撮画像における前記各果樹個体の樹冠領域を同定する
ことを特徴とする画像における果樹個体の樹冠の同定装置。
(付記B2)
前記樹冠同定部は、
前記全体の樹冠画像に、前記同定基準の樹冠領域および重心を照合し、前記各果樹個体の樹冠候補領域を抽出し、
前記樹冠候補領域と、前記樹冠候補領域の周囲の微小領域とから、前記各果樹個体の樹冠領域を同定する、付記B1記載の同定装置。
(付記B3)
さらに、果樹形質解析部を有し、
前記果樹形質解析部は、同定した樹冠領域の形質を解析する、付記B1またはB2記載の同定装置。
(付記B4)
さらに、出力部を有し、前記出力部は、前記樹冠領域を出力する、付記B1からB3のいずれかに記載の同定装置。
(付記B5)
同定基準決定工程と、樹冠同定工程とを有し;
前記同定基準決定工程は、
第1画像取得工程、スケルトン抽出工程、頂点抽出工程、および同定基準抽出工程を有し、
前記第1画像取得工程は、果樹圃場について、複数の果樹個体を含む落葉期の第1空撮画像を取得し、
前記スケルトン抽出工程は、前記第1空撮画像から、画像処理によって、前記複数の果樹個体を含む全体の樹冠スケルトンを抽出し、
前記頂点抽出工程は、各果樹個体について、対応する樹冠スケルトンの頂点を抽出し、
前記同定基準抽出工程は、前記各果樹個体について、同定基準として、前記頂点を全て含む最小多角形の樹冠候補領域を抽出し、前記各果樹個体について、同定基準として、前記樹冠候補領域から、その重心を抽出し;
前記樹冠同定工程は、
第2画像取得工程、全体樹冠抽出工程、および樹冠同定工程を有し、
前記第2画像取得工程は、前記果樹圃場について、前記第1空撮画像と同じスケールであり、樹冠を同定する時期の第2空撮画像を取得し、
前記全体樹冠抽出工程は、前記第2空撮画像から、画像処理によって、前記複数の果樹個体を含む全体の樹冠画像を抽出し、
前記樹冠同定工程は、前記全体の樹冠画像に、前記同定基準の樹冠候補領域および重心を照合し、前記第2空撮画像における前記各果樹個体の樹冠領域を同定する
ことを特徴とする画像における果樹個体の樹冠の同定方法。
(付記B6)
前記樹冠同定工程は、
前記全体の樹冠画像に、前記同定基準の樹冠領域および重心を照合し、前記各果樹個体の樹冠候補領域を抽出し、
前記樹冠候補領域と、前記樹冠候補領域の周囲の微小領域とから、前記各果樹個体の樹冠領域を同定する、付記B5記載の同定方法。
(付記B7)
さらに、果樹形質解析工程を有し、
前記果樹形質解析工程は、同定した樹冠領域の形質を解析する、付記B5またはB6記載の同定方法。
(付記B8)
さらに、出力工程を有し、前記出力工程は、前記樹冠領域を出力する、付記B5からB7のいずれかに記載の同定方法。
(付記B9)
付記B5からB8のいずれかに記載の果樹個体の樹冠の同定方法をコンピュータに実行させることを特徴とするプログラム。
(付記B10)
付記B9記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
【産業上の利用可能性】
【0098】
本発明によれば、例えば、空撮画像等を利用して、圃場の撮影画像を撮影高度に基づいて分類し、分類された画像群から、圃場、前記圃場の区画、前記圃場における植物について、3D画像データ等を再構築し、さらに、前記圃場条件または前記撮像条件に基づく可視化データへの変換を行う。このため、本発明は、例えば、限られた面積の試験用圃場ではなく、実圃場の広範囲における可視化データを得ることができる。その結果、これらの可視化データを、実圃場やそこで育成される植物の解析に広く利用でき、例えば、表現型に関する新たな知見の取得の支援にもつながる。
【符号の説明】
【0099】
1、6 育種データ収集装置
100 記憶部
101 情報記憶部
102 処理情報記憶部
110 処理部
111 分類部
112 画像処理部
113 可視化部
120 出力部
2 クライアント端末
32 通信回線網
40 同定装置
41 同定基準決定部
411 第1画像取得部
412 スケルトン抽出部
413 頂点抽出部
414 同定基準抽出部
42 樹冠同定部
421 第2画像取得部
422 全体樹冠抽出部
423 樹冠同定部
43 果樹形質解析部
44 記憶部