(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2025004533
(43)【公開日】2025-01-15
(54)【発明の名称】作物検知システム
(51)【国際特許分類】
A01G 7/00 20060101AFI20250107BHJP
G01S 13/88 20060101ALN20250107BHJP
G01S 17/931 20200101ALN20250107BHJP
G01S 17/86 20200101ALN20250107BHJP
G01S 13/86 20060101ALN20250107BHJP
【FI】
A01G7/00 603
G01S13/88 200
G01S17/931
G01S17/86
G01S13/86
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2023104267
(22)【出願日】2023-06-26
(71)【出願人】
【識別番号】000001052
【氏名又は名称】株式会社クボタ
(74)【代理人】
【識別番号】100101683
【弁理士】
【氏名又は名称】奥田 誠司
(74)【代理人】
【識別番号】100155000
【弁理士】
【氏名又は名称】喜多 修市
(74)【代理人】
【識別番号】100139930
【弁理士】
【氏名又は名称】山下 亮司
(74)【代理人】
【識別番号】100188813
【弁理士】
【氏名又は名称】川喜田 徹
(74)【代理人】
【識別番号】100202197
【弁理士】
【氏名又は名称】村瀬 成康
(74)【代理人】
【識別番号】100202142
【弁理士】
【氏名又は名称】北 倫子
(72)【発明者】
【氏名】湯浅 純一
(72)【発明者】
【氏名】玉井 拓也
【テーマコード(参考)】
5J070
5J084
【Fターム(参考)】
5J070AB01
5J070AC02
5J070AD05
5J070AE20
5J070AF03
5J070BD06
5J084AA13
5J084AB20
5J084AC02
5J084BA03
5J084BA48
(57)【要約】
【課題】圃場に作付けされた、地下部を含めた作物の状態を容易に把握することができる作物検知システムを提供する。
【解決手段】作物検知システムは、圃場の作物を検知する作物検知システムであって、作物の地上部に関する情報である地上情報を検出する第1センサと、作物の地下部に関する情報である地下情報を検出する第2センサと、地上情報と、地下情報とに基づいて、作物の地上部と、作物の地下部とを合わせた作物を推定する情報処理装置と、を備える。
【選択図】
図4
【特許請求の範囲】
【請求項1】
圃場の作物を検知する作物検知システムであって、
前記作物の地上部に関する情報である地上情報を検出する第1センサと、
前記作物の地下部に関する情報である地下情報を検出する第2センサと、
前記地上情報と、前記地下情報とに基づいて、前記作物の地上部と、前記作物の地下部とを合わせた作物を推定する情報処理装置と、
を備える作物検知システム。
【請求項2】
前記情報処理装置は、
前記第1センサが検出した複数の地上情報およびと、前記第2センサが検出した複数の地下情報とを参照し、前記複数の地上情報のうち所定の地上情報に共通する所定の地下情報を抽出し、
抽出した前記所定の地中情報と、前記所定の地上情報とを関連付け、
関連付けられた前記所定の地上情報および前記所定の地下情報から、前記作物を推定する、請求項1に記載の作物検知システム。
【請求項3】
前記関連付けられた所定の地上情報および前記所定の地下情報は、それぞれ、前記第1センサおよび前記第2センサによって検出された距離から得られたセンシングデータであり、
前記情報処理装置は、前記センシングデータから、前記作物の寸法を推定する、請求項2に記載の作物検知システム。
【請求項4】
前記情報処理装置は、前記地上情報と前記地下情報とに基づいて、前記作物の形状を作成し、作成した前記作物の形状を、前記圃場を示すフィールドに展開することによって、圃場マップを作成する、請求項2または3に記載の作物検知システム。
【請求項5】
前記第1センサおよび第2センサは、単一の農業機械に搭載される、あるいは複数の農業機械に別個搭載される、請求項1または2に記載の作物検知システム。
【請求項6】
前記第1センサは、農業機械の周辺に設定された測定範囲に存在する前記作物の地上部までの距離を前記地上情報として検出する測距センサ、または、前記測定範囲に存在する前記作物の地上部の画像を前記地上情報として検出するカメラであり、
前記第2センサは、前記測定範囲に存在する前記作物の地下部までの距離を前記地下情報として検出する測距センサである、請求項1から3のいずれか1項に記載の作物検知システム。
【請求項7】
前記第1センサにおける前記測距センサは、レーザパルスを射出することで、前記測定範囲に存在する前記作物の地上部までの距離を検出するLiDARセンサである、請求項6に記載の作物検知システム。
【請求項8】
前記第2センサは、電磁波を送信することで、前記測定範囲に存在する前記作物の地下部までの距離を検出する地中レーダ装置である、請求項6に記載の作物検知システム。
【請求項9】
前記農業機械は、
前記農業機械の位置である車体位置を出力する測位ユニットと、
予め定められた走行経路に前記測位ユニットによって出力された前記位置が一致するように操舵の制御を行う制御装置と、
を備える、請求項6に記載の作物検知システム。
【請求項10】
前記情報処理装置は、前記地上情報と、前記地下情報とに基づいて、前記作物の形状を作成し、作成した前記作物の形状を、前記圃場を示すフィールドに展開することによって、前記走行経路が設定される圃場マップを作成する、請求項9に記載の作物検知システム。
【請求項11】
前記農業機械は、自動走行を制御する制御装置を備え、
前記情報処理装置は、前記自動走行による走行時に前記第1センサが取得した前記地上情報と、前記自動走行による走行時に前記第2センサが取得した前記地下情報とに基づいて、前記作物を推定する、請求項6に記載の作物検知システム。
【請求項12】
前記農業機械は、前記農業機械の位置である車体位置を出力する測位ユニットを備え、
前記情報処理装置は、
緯度および経度で表された前記車体位置と、少なくとも前記第1センサによって得られた、前記農業機械から前記所定の作物までの距離とから、前記作物における緯度および経度を求め、前記農業機械の走行時に推定された前記作物に基づいて作成した前記作物の形状と、前記作物における緯度および経度とを対応付けた圃場マップを作成する、請求項2または3に記載の作物検知システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、圃場における作物検知システムに関する。
【背景技術】
【0002】
従来、圃場の作物を管理するための作物検知システムが知られている。そのようなシステムに関連する技術が特許文献1または2に記載されている。
【0003】
特許文献1に記載の技術によれば、圃場を上空から撮像した空撮画像の解析によって農作物の植生指数が算出される。また、特許文献2に記載の技術によれば、無人飛行体に設けられた撮影装置および測位装置がそれぞれ取得した撮影画像および位置情報に基づいて、上空から俯瞰した圃場のマップが生成される。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2019-185773号公報
【特許文献2】特許第6929190号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1または2に記載の技術によれば、圃場の作物を検知するシステムにおいて、地上から成長した作物の地上部に着目し、地上部から作物の成長が把握される。しかしながら、作物は、地下部から栄養を取得して成長するために、地下部も考慮しながら、作物の成長を把握することが求められる。
【0006】
本発明は上記の問題点に鑑みなされたものであり、圃場に作付けされた、地下部を含めた作物の状態を容易に把握することができる作物検知システムを提供することを目的とする。
【課題を解決するための手段】
【0007】
本開示の一態様による作物検知システムは、圃場の作物を検知する作物検知システムであって、前記作物の地上部に関する情報である地上情報を検出する第1センサと、前記作物の地下部に関する情報である地下情報を検出する第2センサと、前記地上情報と、前記地下情報とに基づいて、前記作物の地上部と、前記作物の地下部とを合わせた作物を推定する情報処理装置と、を備える。
【0008】
本開示の包括的または具体的な態様は、装置、システム、方法、集積回路、コンピュータプログラム、もしくはコンピュータが読み取り可能な非一時的記憶媒体、またはこれらの任意の組み合わせによって実現され得る。コンピュータが読み取り可能な記憶媒体は、揮発性の記憶媒体を含んでいてもよいし、不揮発性の記憶媒体を含んでいてもよい。装置は、複数の装置で構成されていてもよい。装置が二つ以上の装置で構成される場合、当該二つ以上の装置は、一つの機器内に配置されてもよいし、分離した二つ以上の機器内に分かれて配置されていてもよい。
【発明の効果】
【0009】
本開示の実施形態によれば、圃場の作物の地上部および地下部を検知し、地上部および地下部のそれぞれから得られる情報に基づいて作物の状態を推定することができる。
【図面の簡単な説明】
【0010】
【
図1】ぶどう樹木の地上部および地下部を模式的に示す図である。
【
図2】本開示の例示的な実施形態による農業管理システムの概要を説明するための図である。
【
図3A】作業車両、および作業車両に連結された作業機の例を模式的に示す側面図である。
【
図3B】作業車両の他の構成例を模式的に示す側面図である。
【
図4】作業車両および作業機の構成例を示すブロック図である。
【
図5】RTK-GNSSによる測位を行う作業車両の例を示す概念図である。
【
図6】キャビンの内部に設けられる操作端末および操作スイッチ群の例を示す図である。
【
図7A】地中レーダ装置が地中を探査する様子を模式的に示す図である。
【
図7B】地中レーダ装置の構成例のブロック図である。
【
図7C】地中レーダ装置のアンテナユニットの配置例を模式的に示す図である。
【
図8A】LiDARセンサからレーザパルスが射出される方向および範囲を模式的に示す作業車両の側面図である。
【
図8B】LiDARセンサを鉛直上方から見た場合の模式図である。
【
図9】圃場に植え付けられた作物群の地下に存在する地下部の分布を模式的に示す図である。
【
図10】作物の地上部の左側方部および右側方部を説明するための図である。
【
図11】5本の樹木列が存在するぶどう園を模式的に示す図である。
【
図12】側方単位で区分けされた複数の点群データから、同一の樹木列を構成する地上部の左側方部および右側方部の点群データを関連付けた結果を示す図である。
【
図13】作物の地下部の左側方部および右側方部を説明するための図である。
【
図14】5本の樹木列が存在するぶどう園を模式的に示す図である。
【
図15】側方単位で区分けされた複数の地中センシングデータ群から、同一の樹木列を構成する地下部の左側方部および右側方部のデータ群を関連付けた結果を示す図である。
【
図16】樹木の地下部の一部である幹部の断面を拡大して示す平面図である。
【
図17】
図12に示す地上部に関する識別情報を記載したテーブルと、
図15に示す地下部に関する識別情報を記載したテーブルとを統合して得られる、作物全体の識別情報を記載したテーブルを示す図である。
【
図18】樹木列の一部の形状を模式的に示す図である。
【
図19】樹木列に含まれる1つの樹木の外観を模式的に示す図である。
【
図21】位置情報付き圃場マップに基づいて生成される、樹木列の幹分布を模式的に示す図である。
【
図22】作物情報を推定するための推定方法の処理フローの概要を示すフローチャートである。
【
図23】制御装置によって実行される自動運転時の操舵制御の動作の例を示すフローチャートである。
【
図24A】目標経路に沿って走行する作業車両の例を示す図である。
【
図24B】目標経路から右にシフトした位置にある作業車両の例を示す図である。
【
図24C】目標経路から左にシフトした位置にある作業車両の例を示す図である。
【
図24D】目標経路に対して傾斜した方向を向いている作業車両の例を示す図である。
【発明を実施するための形態】
【0011】
(用語の定義)
本開示において「農業機械」は、農業用途で使用される機械を意味する。農業機械の例は、トラクタ、収穫機、田植機、乗用管理機、野菜移植機、草刈機、播種機、施肥機、および農業用移動ロボットを含む。トラクタのような作業車両が単独で「農業機械」として機能する場合だけでなく、作業車両に装着または牽引される作業機(インプルメント)と作業車両の全体が一つの「農業機械」として機能する場合がある。農業機械は、圃場内の地面に対して、耕耘、播種、防除、施肥、作物の植え付け、または収穫などの農作業を行う。これらの農作業を「対地作業」または単に「作業」と称することがある。車両型の農業機械が農作業を行いながら走行することを「作業走行」と称することがある。
【0012】
「自動運転」は、運転者による手動操作によらず、制御装置の働きによって農業機械の移動を制御することを意味する。自動運転を行う農業機械は「自動運転農機」または「ロボット農機」と呼ばれることがある。自動運転中、農業機械の移動だけでなく、農作業の動作(例えば作業機の動作)も自動で制御されてもよい。農業機械が車両型の機械である場合、自動運転によって農業機械が走行することを「自動走行」と称する。制御装置は、農業機械の移動に必要な操舵、移動速度の調整、移動の開始および停止の少なくとも一つを制御し得る。作業機が装着された作業車両を制御する場合、制御装置は、作業機の昇降、作業機の動作の開始および停止などの動作を制御してもよい。自動運転による移動には、農業機械が所定の経路に沿って目的地に向かう移動のみならず、追尾目標に追従する移動も含まれ得る。自動運転を行う農業機械は、部分的にユーザの指示に基づいて移動してもよい。また、自動運転を行う農業機械は、自動運転モードに加えて、運転者の手動操作によって移動する手動運転モードで動作してもよい。手動によらず、制御装置の働きによって農業機械の操舵を行うことを「自動操舵」と称する。制御装置の一部または全部が農業機械の外部にあってもよい。農業機械の外部にある制御装置と農業機械との間では、制御信号、コマンド、またはデータなどの通信が行われ得る。自動運転を行う農業機械は、人がその農業機械の移動の制御に関与することなく、周囲の環境をセンシングしながら自律的に移動してもよい。自律的な移動が可能な農業機械は、無人で圃場内または圃場外(例えば道路)を走行することができる。自律移動中に、障害物の検出および障害物の回避動作を行ってもよい。
【0013】
「作業計画」は、農業機械によって実行される一つ以上の農作業の予定を定めるデータである。作業計画は、例えば、農業機械によって実行される農作業の順序および各農作業が行われる圃場を示す情報を含み得る。作業計画は、各農作業が行われる予定の日および時刻の情報を含んでいてもよい。作業計画は、農業機械と通信して農作業を管理する処理装置、または農業機械に搭載された処理装置によって作成され得る。処理装置は、例えば、ユーザ(農業経営者または農作業者など)が端末装置を操作して入力した情報に基づいて作業計画を作成することができる。本明細書において、農業機械と通信して農作業を管理する処理装置を「管理装置」と称する。管理装置は、複数の農業機械の農作業を管理してもよい。その場合、管理装置は、複数の農業機械の各々が実行する各農作業に関する情報を含む作業計画を作成してもよい。作業計画は、各農業機械によってダウンロードされ、記憶装置に格納され得る。各農業機械は、作業計画に従って、予定された農作業を実行するために、自動で圃場に向かい、農作業を実行することができる。
【0014】
「環境地図」は、農業機械が移動する環境に存在する物の位置または領域を所定の座標系によって表現したデータである。環境地図を規定する座標系は、例えば、地球に対して固定された地理座標系などのワールド座標系であり得る。環境地図は、環境に存在する物について、位置以外の情報(例えば、属性情報その他の情報)を含んでいてもよい。環境地図は、点群地図または格子地図など、さまざまな形式の地図を含む。
【0015】
「地下地図」は、農業機械が走行する圃場の地下に存在する物の位置または分布を所定の座標系によって表現したデータである。地下に存在する物の例は、作物の地下部である。地下部は、地下茎および根を含み、根系とも呼ばれる。地下地図を規定する座標系も、環境地図と同様に、地球に対して固定されたワールド座標系であり得る。地下地図は、地下に存在する物について、位置以外の情報(例えば、属性情報その他の情報)を含んでいてもよい。地下地図は、点群地図または格子地図など、さまざまな形式の地図を含む。
【0016】
「圃場マップ」は、「環境地図」のデータ、「地下地図」のデータ、または「環境地図」のデータと「地下地図」のデータとを統合した統合データのいずれか1つのデータである。圃場マップを規定する座標系も、環境地図または地下地図と同様に、地球に対して固定されたワールド座標系であり得る。
【0017】
「ポーズ」は、物(オブジェクト)の「位置および向き」である。2次元空間におけるポーズは、例えば(x,y,θ)の3個の座標値によって規定される。ここで、(x,y)は、地球に固定されたワールド座標系であるXY座標系における座標値であり、θは基準方向に対する角度である。θは、3次元空間におけるロール角、ピッチ角、およびヨー角のうちのヨー角に相当する。ヨー角は、農業機械の上下方向の軸の周りの回転量を表す。
【0018】
(実施形態)
以下、本開示の実施形態を説明する。ただし、必要以上に詳細な説明は省略することがある。例えば、既によく知られた事項の詳細な説明および実質的に同一の構成に関する重複する説明を省略することがある。これは、以下の説明が不必要に冗長になることを避け、当業者の理解を容易にするためである。なお、発明者は、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって特許請求の範囲に記載の主題を限定することを意図するものではない。以下の説明において、同一または類似の機能を有する構成要素については、同一の参照符号を付している。
【0019】
以下の実施形態は例示であり、本開示の技術は以下の実施形態に限定されない。例えば、以下の実施形態で示される数値、形状、材料、ステップ、ステップの順序、表示画面のレイアウトなどは、あくまでも一例であり、技術的に矛盾が生じない限りにおいて種々の改変が可能である。また、技術的に矛盾が生じない限りにおいて、一の態様と他の態様とを組み合わせることが可能である。
【0020】
本開示の実施形態における作物検知システムは、農業機械、建設機械などの作業車両に搭載され得る。本開示の実施形態では、作物検知システムは農業機械に搭載される。作物検知システムは、圃場に作付けされた作物の地上部だけでなく、地下部に関する情報も取得するためのシステムである。作物検知システムは、農業機械に搭載される1以上のセンサを備える。当該作物検知システムは、1以上のセンサを用いて、作物が作付けされた圃場の地上および地下(または地中)をセンシングし、地上および地下のそれぞれをセンシングして得られたセンシングデータを統合し得る。作物検知システムは、統合されたセンシングデータに基づいて、地上部および地下部を含む作物全体の生育状態を推定または把握することを可能とする。作物の状態は、例えば作物の生育状態または作物の生育に関する情報を意味する。作物の状態は、例えば、地上部および/または地下部の、形状、サイズ(根の太さ、幹部の太さ)、根の密度、または圃場における位置情報によって表される。
【0021】
[1.作物の地上部および地下部]
作物は、地上に存在する部分、および、地下に存在する部分から構成される。前者は地上部と呼ばれ、後者は、地下部または根系と呼ばれる。地下部は、根および地下茎などを含む。作物の根は、生育に応じて地中に不規則に伸びる。また、剪定技術、灌漑、年度などの根の成長に影響を与えるさまざまな要因により、根の成長の仕方は年ごとに異なり得る。本開示の実施形態では、作物としてぶどうを例に挙げ、地下部の概略的な構造を説明する。
【0022】
図1は、ぶどう樹木の地上部および地下部を模式的に示す図である。ぶどう樹木は、地面上方において観察される樹冠部、幹を含む地上部、および根系を含む地下部から構成される。ぶどうの地下部の大部分は地面から100cmの深さの範囲内に位置し、個々の根は9mの深さにまで成長し得る。細根のほとんどは、10cm~60cmの深さにあり、地面から20cm程の深さにおいて、根の密度が最大になる。主根は、通常、地面から18cm~80cmの深さに確認される。根の分布は、土壌特性、不透水層、および台木(root stock)の品種などに依存し得る。ぶどうの根は非常に分岐することが知られており、様々な深さや方向に成長し得る。いくつかの研究によれば、ぶどうの根は、主に開花からヴェレゾン(すなわち、ぶどうが成熟するにつれ、色づいていくこと)の間に成長し、典型的には、収穫時期の近くには成長せず、収穫後または春先にもほとんど成長しない。また、休眠期であっても、土壌の温度が十分高ければ、根は成長し得る。また、地上部は地下部の影響を受けるために、樹冠部、幹の成長の仕方は年ごとに異なり得る。
【0023】
このように、作物が植え付けられた圃場の地上部および地下部のそれぞれの分布は、作物の個体ごとに特有であり、地下部の固有パターンを形成する。とりわけ、圃場に植え付けられた複数の作物のそれぞれは、地下部の固有パターンを形成する。このため、複数の作物の地下部が組み合わさることによって、圃場全体として、圃場の地下部全体の固有パターンが形成される。圃場の地下部全体の分布は、前述したさまざまな要因によって根の成長とともに変化し得る。この点において、動的な地下部は、地中に存在し得る例えば配管または岩石などの静的構造物とは異なる。
【0024】
[2.システムの構成例]
以下、トラクタのような作業車両に本開示の技術を適用した実施形態を主に説明する。ただし、本開示の技術は、トラクタのような作業車両に限らず、他の種類の農業機械にも適用することができる。
【0025】
図2は、本開示の例示的な実施形態による農業管理システムの概要を説明するための図である。
図2に示す農業管理システムは、作業車両100と、端末装置400と、管理装置600とを備える。農業管理システムは、さらに、エッジコンピュータを備えていてもよい。端末装置400は、作業車両100を遠隔で監視するユーザが使用するコンピュータである。管理装置600は、農業管理システムを運営する事業者が管理するコンピュータである。作業車両100、端末装置400、および管理装置600は、ネットワーク80を介して互いに通信することができる。
図2には1台の作業車両100が例示されているが、農業管理システムは、複数の作業車両またはその他の農業機械を含んでいてもよい。
【0026】
本開示の実施形態において、作物の地上部に関する情報である地上情報を取得する第1センサと、作物の地下部に関する情報である地下情報を取得する第2センサと、地上情報と地下情報とに基づいて、作物の地上部と、作物の地下部とを合わせた作物の状態を推定する情報処理装置とが、協働して、作物検知システムとして機能する。当該情報処理装置は、例えば、作業車両100が備える処理装置、管理装置600におけるプロセッサ、またはエッジコンピュータである。当該第1センサの例は、カメラまたはLiDARセンサである。当該第2センサの例は地中レーダ装置である。
【0027】
作物検知システムが備える複数の装置は、1または複数の作業車両に分散して搭載され得る。例えば、第1センサおよび第2センサは、単一の農業機械に搭載され得、あるいは複数の農業機械に別個搭載され得る。作物検知システムは、それらの機能を有しない作業車両に後から取り付けることもできる。そのようなシステムは、作業車両とは独立して製造および販売され得る。そのようなシステムで使用されるコンピュータプログラムも、作業車両とは独立して製造および販売され得る。コンピュータプログラムは、例えばコンピュータが読み取り可能な非一時的な記憶媒体に格納されて提供され得る。コンピュータプログラムは、電気通信回線(例えばインターネット)を介したダウンロードによっても提供され得る。
【0028】
本開示の実施形態における作業車両100はトラクタである。作業車両100は、後部および前部の一方または両方に作業機を装着することができる。作業車両100は、作業機の種類に応じた農作業を行いながら圃場内を走行することができる。作業車両100は、作業機を装着しない状態で圃場内または圃場外を走行してもよい。
【0029】
本開示の実施形態における作業車両100は、自動運転機能を備える。すなわち、作業車両10は、手動によらず、制御装置の働きによって走行することができる。ただし、自動運転機能は必須でない。本開示の実施形態における制御装置は、作業車両100の内部に設けられ、作業車両100の速度および操舵の両方を制御することができる。作業車両100は、圃場内に限らず、圃場外(例えば道路)を自動走行することもできる。
【0030】
作業車両100は、測位のために利用されるGNSS受信機などの装置を備える。作業車両100の制御装置は、作業車両100の位置と、目標経路または走行経路の情報とに基づいて、作業車両100を自動で走行させる。本明細書において、目標経路を「走行予定経路」と呼ぶ場合がある。制御装置は、作業車両100の走行制御に加えて、作業機の動作の制御も行う。これにより、作業車両100は、圃場内を自動で走行しながら作業機を用いて農作業を実行することができる。さらに、作業車両100は、圃場外の道(例えば、農道または一般道)を目標経路に沿って自動で走行することができる。作業車両100は、カメラまたはLiDARセンサなどのセンシング装置から出力されるデータを活用しながら、圃場外の道に沿って自動走行を行う。センシング装置は測距センサとして機能する。測距センサは、第1または第2センサとして機能し得る。
【0031】
管理装置600は、作業車両100による農作業を管理するコンピュータである。管理装置600は、例えば圃場に関する情報をクラウド上で一元管理し、クラウド上のデータを活用して農業を支援するサーバコンピュータであり得る。管理装置600は、例えば、作業車両100の作業計画を作成し、その作業計画に従って、作業車両100に農作業を実行させる。管理装置600は、例えば、ユーザが端末装置400または他のデバイスを用いて入力した情報に基づいて圃場内の目標経路を生成する。管理装置600は、さらに、作業車両100または他の移動体がLiDARセンサなどのセンシング装置を用いて収集したデータに基づいて、環境地図の生成および編集を行ってもよい。管理装置600は、生成した作業計画、目標経路、および、環境地図または圃場マップのデータを作業車両100に送信する。作業車両100は、それらのデータに基づいて、移動および農作業を自動で行う。
【0032】
端末装置400は、作業車両100から離れた場所にいるユーザが使用するコンピュータである。
図2に示す端末装置400はラップトップコンピュータであるが、これに限定されない。端末装置400は、デスクトップPC(personal computer)などの据え置き型のコンピュータであってもよいし、スマートフォンまたはタブレットコンピュータなどのモバイル端末でもよい。端末装置400は、作業車両100を遠隔監視したり、作業車両100を遠隔操作したりするために用いられ得る。例えば、端末装置400は、作業車両100が備える1台以上のカメラ(撮像装置)が撮影した映像をディスプレイに表示させることができる。端末装置400は、さらに、作業車両100の作業計画(例えば各農作業のスケジュール)を作成するために必要な情報をユーザが入力するための設定画面をディスプレイに表示することもできる。ユーザが設定画面上で必要な情報を入力し送信の操作を行うと、端末装置400は、入力された情報を管理装置600に送信する。管理装置600は、その情報に基づいて作業計画を作成する。端末装置400は、さらに、目標経路を設定するために必要な情報をユーザが入力するための設定画面をディスプレイに表示する機能を備えていてもよい。
【0033】
以下、本開示の実施形態におけるシステムの構成例をより詳細に説明する。
【0034】
図3Aは、作業車両100、および作業車両100に連結された作業機300の例を模式的に示す側面図である。本開示の実施形態における作業車両100は、手動運転モードと自動運転モードの両方で動作することができる。自動運転モードにおいて、作業車両100は無人で走行することができる。作業車両100は、圃場内と圃場外の両方で自動運転が可能である。
【0035】
[3.作業車両の構成例]
図3Aに示すように、作業車両100は、車両本体101と、原動機(エンジン)102と、変速装置(トランスミッション)103とを備える。車両本体101には、タイヤ付きの車輪104と、キャビン105とが設けられている。車輪104は、一対の前輪104Fと一対の後輪104Rとを含む。キャビン105の内部に運転席107、操舵装置106、操作端末200、および操作のためのスイッチ群が設けられている。作業車両100が圃場内で作業走行を行うとき、前輪104Fおよび後輪104Rの一方または両方にはタイヤではなくクローラが取り付けられていてもよい。
【0036】
作業車両100は、作業車両100の周囲の環境および地中をセンシングする少なくとも1つのセンシング装置と、少なくとも1つのセンシング装置から出力されるセンシングデータを処理する情報処理装置とを備え得る。
図3Aに示す例では、作業車両100は複数のセンシング装置を備える。センシング装置は、複数のカメラ120と、複数の障害物センサ130と、地中レーダ装置140と、LiDARセンサ220とを含む。
【0037】
LiDARセンサ220は、測距センサの一例であり、作業車両100の周辺に設定された測定範囲に存在する作物の地上部までの距離を地上情報として検出する。地中レーダ装置140も、測距センサの一例であり、測定範囲に存在する作物の地下部までの距離を地下情報として検出する。
【0038】
カメラ120は、例えば作業車両100の前後左右に設けられ得る。カメラ120は、作業車両100の周囲の環境を撮影し、画像データを生成する。カメラ120が取得した画像は、作業車両100に搭載された情報処理装置に出力され、遠隔監視を行うための端末装置400に送信され得る。当該画像は、無人運転時に作業車両100を監視するために用いられ得る。カメラ120は、作業車両100が圃場外の道(農道または一般道)を走行するときに、周辺の地物もしくは障害物、白線、標識、または表示などを認識するための画像を生成する用途でも使用され得る。また、本開示の実施形態では、カメラ120はRGBカメラである。作業車両100が圃場を走行している間、カメラ120は、作業車両100の周辺に設定された測定範囲に存在する作物の地上部の画像を地上情報として検出する。
【0039】
図3Aの例における地中レーダ装置140は、車両本体101の前部の下側に配置されている。地中レーダ装置140は、車両本体101の中央下部または車両本体101の後部の下側などの他の位置に設けられていてもよい。また、使用する地中レーダ装置の個数は1個に限定されず、2個以上であり得る。
図3Bは、作業車両100の他の構成例を模式的に示す側面図である。作業車両100は、例えば2個の地中レーダ装置140を備え得る。この場合、一方は、車両本体101の前部の下側に配置され、他方は、車両本体101の後部の下側に配置され得る。あるいは、車両本体の後部に地中レーダ装置を取り付けることが作業機と干渉して困難である場合などは、地面に対して対地作業を行う作業機に地中レーダ装置を取り付けてもよいし、車両本体101の底面に地中レーダ装置を取り付けてもよい。
【0040】
地中レーダ装置140は、地面に電磁波を放射し、地中からの反射波を受信するように構成される。地中レーダ装置140は、電磁波を送信することによって、作業車両100の周辺に設定された測定範囲に存在する作物の地下部までの距離を検出する。地中レーダ装置140は、比誘電率の変化によって地中の物理的境界面で電磁波が反射する現象を利用して地中の物体の存在を探査・検出する探査装置である。地中レーダ装置140は、地中に存在する構造物の空間分布に関する情報を含むセンシングデータを繰り返し取得する。空間分布は2次元または3次元空間における分布であり得る。以降、空間分布は単に「分布」と呼ぶ。本開示の実施形態における地中レーダ装置140は、作業車両100が圃場を走行している間、圃場内の地中における作物の地下部の分布に関する情報を含むセンシングデータを繰り返し取得する。本明細書では、作物の地下部に関する情報、より具体的には、圃場内の地中における作物の地下部の分布に関する情報を「地下情報」と呼ぶ。地下情報は、地中センシングデータによって示され、例えば、地下部の形状、サイズ、および圃場における位置情報を含む。一方、作物の地上部に関する情報、より具体的には、圃場内の地上における作物の地上部の分布に関する情報を「地上情報」と呼ぶ。地上情報は、点群データによって示され、例えば、地上部の形状、サイズ、および圃場における位置情報を含む。
【0041】
図7Aは、地中レーダ装置140が地中を探査する様子を模式的に示す図である。
図7Bは、地中レーダ装置140の構成例のブロック図である。
図7Cは、地中レーダ装置140のアンテナユニット141の配置例を模式的に示す図である。
【0042】
本開示の実施形態における地中レーダ装置140は、それぞれが送信アンテナTおよび受信アンテナRを含む複数のアンテナユニット(マルチチャネル)141と、複数の受信アンテナRのそれぞれに接続される受信機142と、複数の送信アンテナTのそれぞれに接続されるパルス発生器143と、受信機142およびパルス発生器143の動作を制御する制御装置144と、記憶装置145とを備える。
図7Bおよび
図7Cに例示する地中レーダ装置140は、複数のアンテナユニット141を備える3次元地中レーダ装置である。車両本体101の幅方向(
図7Cに示すY方向)に沿った地中レーダ装置140の長さは、例えば100cm~200cmである。複数の送信アンテナTは、車両本体101の幅方向に沿って等間隔(例えば数十mm)で配置され、複数の受信アンテナRも、車両本体101の幅方向に沿って等間隔(例えば数十mm)で配置され得る。3次元地中レーダ装置によれば、受信アンテナRの間隔で、
図7Aに示すXZ平面に平行な複数の地中断面の地中探査データを同時に取得することが可能となる。地中探査データに基づいて、地中の地下部の分布を高精細な3次元情報として取得でき、可視化することが可能である。この3次元情報は、画像化することが可能であり、これにより、3次元画像データを取得することができる。また、地中の地下部の分布を示す3次元情報に基づいて地下部の2次元もしくは3次元形状、またはサイズを推定することができる。
【0043】
地中レーダ装置140は、例えば、ステップ周波数方式に従って、200MHzから3000MHzの周波数帯域の電磁波を送受信することができる。ただし、レーダ方式または変調方式はこれに限定されず、任意の方式であってよい。例えば、レーダ方式としてインパルス方式を利用し得る。地中レーダ装置140は、例えば、上記の周波数帯域の間で、正弦波周波数を段階的に上昇させながら、地面に電磁波を放射し、地中からの反射波を受信して得られた周波数スペクトルデータをフーリエ逆変換することで、地中からの反射波に相当する時間領域波形を生成し得る。反射波形が反射体77の位置または形状に依存するために、受信信号に基づいて、反射体77の位置(
図7Cに示すZ方向の深さ)または形状を推定あるいは特定することが可能となる。
【0044】
地中レーダ装置140から出力されるセンシングデータは、作業車両100の制御システム、管理装置600またはエッジコンピュータによって処理され得る。
【0045】
地中レーダ装置140の測定範囲は、
図7Cに示すように、車両本体の幅方向(
図7Cに示すY方向)に沿った地中レーダ装置140の長さによって規定され得る。この測定範囲を「第2測定範囲」と呼ぶ。
【0046】
作業車両100は、1または複数のLiDARセンサを備え得る。LiDARセンサは、周囲の環境に存在する物体の各計測点までの距離および方向、または各計測点の2次元もしくは3次元の座標値を示すセンサデータを繰り返し出力する。LiDARセンサは、作業車両100が主に圃場内を走行している間、レーザパルスを射出することによって、作業車両100の周辺に設定された測定範囲に存在する作物の地上部までの距離を検出する。LiDARセンサから出力されたセンサデータは、作業車両100の制御システムによって処理され得る。
【0047】
図3Aに示す例におけるLiDARセンサ220は、作業車両100のキャビン105の前部に配置されている。LiDARセンサ220は、キャビン105の前部に限定されず、作業車両100のボンネット上部またはキャビン105の後部等に配置され得る。使用するLiDARセンサの数は1個に限定されず、2個以上であり得る。
【0048】
LiDARセンサ220は、レーザビームのパルス(以下「レーザパルス」と略記する。)を、射出方向を変えながら次々と射出し、射出時刻と各レーザパルスの反射パルスを取得した時刻との時間差に基づいて、各反射点の位置までの距離および角度を計測することができる。LiDARセンサ220は、周囲に存在する構造物の空間分布に関する情報を含むセンシングデータを繰り返し取得する。空間分布は2次元または3次元空間における分布であり得る。本開示の実施形態におけるLiDARセンサ220は、作業車両100が圃場を走行している間、圃場内の地上における作物の地上部の分布に関する情報を含むセンシングデータを繰り返し取得する。
【0049】
図8Aは、LiDARセンサ220からレーザパルスが射出される方向および範囲を模式的に示す作業車両100の側面図である。LiDARセンサ220から負の仰角の方向に射出されたレーザパルスは太い破線で表され、LiDARセンサ220から正の仰角の方向に射出されたレーザパルスは細い破線で表されている。LiDARセンサ220から異なる仰角で射出される複数のレーザパルスのうち、負の仰角の方向に射出されたレーザパルスは、作物に当たらない場合、地面で反射され得る。一方、正の仰角の方向に射出されたレーザパルスは、作物に当たらない場合、反射点を形成せず、作物に当たった場合の反射点は、作物の幹部や枝部、葉部等が考えられ得る。このため、本開示の実施形態では、作物の幹部、枝部、葉部での反射を利用して作物の地上部における情報である地上情報を取得する。具体的には、LiDARセンサ220から異なる仰角で射出される複数のレーザパルスのうち、仰角が所定の範囲に含まれるレーザパルスの反射点に基づいて、地上情報を取得し得る。また、反射点の高さが作物の平均的な高さよりも低い反射点に基づいて地上情報を取得し得る。
【0050】
LiDARセンサ220には、レーザパルスを出射する方法の違いに応じて複数の方式が存在する。例えば、レーザパルスのスキャンによって空間中の物体の距離分布の情報を取得するスキャン型のセンサ、または、広範囲に拡散する光を利用して空間中の物体の距離分布の情報を取得するフラッシュ型のセンサがある。スキャン型のLiDARセンサは、フラッシュ型のLiDARセンサよりも高い強度の光を使用するため、より遠方の距離情報を取得することができる。一方、フラッシュ型のLiDARセンサは、構造が簡易であり、比較的低コストで製造可能なため、強い光を必要としない用途に適する。本開示の実施形態では、主にスキャン型のLiDARセンサが用いられる例を説明するが、本開示はこれに限定されるものではない。
【0051】
図8Bは、LiDARセンサ220を鉛直上方から見た場合の模式図である。本開示の実施形態では、
図8Bに示すように、作業車両100の進行方向(X方向)に向いて、左の車輪から右の車輪の側までの第1測定範囲がLiDARセンサ220の測定範囲として設定される。LiDARセンサ220は、キャビン105の前部における上部の左右中央の位置に配置されている。これにより、LiDARセンサ220は、作業車両100の左右中心線を対称軸とする車体の左右および前方側の所定範囲が第1測定範囲に設定される。
【0052】
LiDARセンサの構造および動作の例が、本出願人による国際出願の公開公報である国際公開第2022/107586号に詳しく記載されている。国際公開第2022/107586号の開示内容のすべてを参照により本明細書に援用する。
【0053】
再び
図3Aを参照する。
図3Aに示す複数の障害物センサ130は、キャビン105の前部および後部に設けられている。障害物センサ130は、他の部位にも配置され得る。例えば、車両本体101の側部、前部、および後部の任意の位置に、一つまたは複数の障害物センサ130が設けられ得る。障害物センサ130は、例えばレーザスキャナまたは超音波ソナーを含み得る。障害物センサ130は、自動走行時に周囲の障害物を検出して作業車両100を停止したり迂回したりするために用いられる。
【0054】
本開示の実施形態における作業車両100は、さらに、測位ユニット110を備える。測位ユニット110は、作業車両100の位置である車体位置を出力する。車体位置は、例えば、ワールド座標系における作業車両100の緯度および経度を含む位置情報によって表される。ただし、測位ユニットは必須ではない。測位ユニット110の例はGNSSユニットである。以降、測位ユニット110をGNSSユニット110と呼ぶ。GNSSユニット110は、GNSS受信機を含む。GNSS受信機は、GNSS衛星からの信号を受信するアンテナと、アンテナが受信した信号に基づいて作業車両100の位置を計算するプロセッサとを備え得る。GNSSユニット110は、複数のGNSS衛星から送信される衛星信号を受信し、衛星信号に基づいて測位を行う。GNSSは、GPS(Global Positioning System)、QZSS(Quasi-Zenith Satellite System、例えばみちびき)、GLONASS、Galileo、およびBeiDouなどの衛星測位システムの総称である。本開示の実施形態におけるGNSSユニット110は、キャビン105の上部に設けられているが、他の位置に設けられていてもよい。
【0055】
GNSSユニット110は、慣性計測装置(IMU)を含み得る。IMUからの信号を利用して位置データを補完することができる。IMUは、作業車両100の傾きおよび微小な動きを計測することができる。IMUによって取得されたデータを用いて、衛星信号に基づく位置データを補完することにより、測位の性能を向上させることができる。
【0056】
本開示の実施形態における作業車両100の情報処理装置は、地中レーダ装置140が取得したセンシングデータに加え、GNSSユニット110による測位結果、カメラ120が取得した画像データ、およびLiDARセンサ220が取得したセンサデータのうちの少なくとも1つを利用して、作物の状態を推定することが可能である。また、作業車両100の情報処理装置は、これらのデータおよび測位結果に基づいて自己位置推定を行ってもよい。これにより、より高い精度で作業車両100の位置を特定できる。
【0057】
原動機102は、例えばディーゼルエンジンであり得る。ディーゼルエンジンに代えて電動モータが使用されてもよい。変速装置103は、変速によって作業車両100の推進力および移動速度を変化させることができる。変速装置103は、作業車両100の前進と後進とを切り換えることもできる。
【0058】
操舵装置106は、ステアリングホイールと、ステアリングホイールに接続されたステアリングシャフトと、ステアリングホイールによる操舵を補助するパワーステアリング装置とを含む。前輪104Fは操舵輪であり、その切れ角(「操舵角」とも称する。)を変化させることにより、作業車両100の走行方向を変化させることができる。前輪104Fの操舵角は、ステアリングホイールを操作することによって変化させることができる。パワーステアリング装置は、前輪104Fの操舵角を変化させるための補助力を供給する油圧装置または電動モータを含む。自動操舵が行われるときには、作業車両100内に配置された制御装置からの制御により、油圧装置または電動モータの力によって操舵角が自動で調整される。
【0059】
車両本体101の後部には、連結装置108が設けられている。連結装置108は、例えば3点支持装置(「3点リンク」または「3点ヒッチ」とも称する。)、PTO(Power Take Off)軸、ユニバーサルジョイント、および通信ケーブルを含む。連結装置108によって作業機300を作業車両100に着脱することができる。連結装置108は、例えば油圧装置によって3点リンクを昇降させ、作業機300の位置または姿勢を変化させることができる。また、ユニバーサルジョイントを介して作業車両100から作業機300に動力を送ることができる。作業車両100は、作業機300を引きながら、作業機300に所定の作業を実行させることができる。連結装置は、車両本体101の前部に設けられていてもよい。その場合、作業車両100の前部に作業機を接続することができる。
【0060】
図3Aに示す作業機300は、作物に薬剤を噴霧するスプレイヤであるが、作業機300はスプレイヤに限定されない。例えば、シーダ(播種機)、スプレッダ(施肥機)、移植機、モーア(草刈機)、レーキ、ベーラ(集草機)、ハーベスタ(収穫機)、ロータリ耕耘機、またはハローなどの、任意の作業機を作業車両100に接続して使用することができる。
【0061】
図3Aに示す作業車両100は、有人運転が可能であるが、無人運転のみに対応していてもよい。その場合には、キャビン105、操舵装置106、および運転席107などの、有人運転にのみ必要な構成要素は、作業車両100に設けられていなくてもよい。無人の作業車両100は、自律走行、またはユーザによる遠隔操作によって走行することができる。
【0062】
図4は、作業車両100および作業機300の構成例を示すブロック図である。作業車両100と作業機300は、連結装置108に含まれる通信ケーブルを介して互いに通信することができる。作業車両100は、ネットワーク80を介して、端末装置400および管理装置600と通信することができる。
【0063】
図4の例における作業車両100は、GNSSユニット110、カメラ120、障害物センサ130、地中レーダ装置140、操作端末200、およびLiDARセンサ220に加え、作業車両100の動作状態を検出するセンサ群150、制御システム160、通信装置190、操作スイッチ群210、および駆動装置240を備える。これらの構成要素は、バスを介して相互に通信可能に接続される。GNSSユニット110は、GNSS受信機111と、RTK受信機112と、慣性計測装置(IMU)115と、処理回路116とを備える。センサ群150は、ステアリングホイールセンサ152と、切れ角センサ154、車軸センサ156とを含む。制御システム160は、情報処理装置161と、記憶装置170と、制御装置180とを備える。制御装置180は、複数の電子制御ユニット(ECU)181から185を備える。作業機300は、駆動装置340と、制御装置380と、通信装置390とを備える。なお、
図4には、作業車両100による自動運転の動作との関連性が相対的に高い構成要素が示されており、それ以外の構成要素の図示は省略されている。
【0064】
GNSSユニット110におけるGNSS受信機111は、複数のGNSS衛星から送信される衛星信号を受信し、衛星信号に基づいてGNSSデータを生成する。GNSSデータは、例えばNMEA-0183フォーマットなどの所定のフォーマットで生成される。GNSSデータは、例えば、衛星信号が受信されたそれぞれの衛星の識別番号、仰角、方位角、および受信強度を示す値を含み得る。
【0065】
図4に示すGNSSユニット110は、RTK(Real Time Kinematic)-GNSSを利用して作業車両100の測位を行う。
図5は、RTK-GNSSによる測位を行う作業車両100の例を示す概念図である。RTK-GNSSによる測位では、複数のGNSS衛星50から送信される衛星信号に加えて、基準局60から送信される補正信号が利用される。基準局60は、作業車両100が作業走行を行う圃場の付近(例えば、作業車両100から10km以内の位置)に設置され得る。基準局60は、複数のGNSS衛星50から受信した衛星信号に基づいて、例えばRTCMフォーマットの補正信号を生成し、GNSSユニット110に送信する。RTK受信機112は、アンテナおよびモデムを含み、基準局60から送信される補正信号を受信する。GNSSユニット110の処理回路116は、補正信号に基づき、GNSS受信機111による測位結果を補正する。RTK-GNSSを用いることにより、例えば誤差数cmの精度で測位を行うことが可能である。緯度、経度、および高度の情報を含む位置情報が、RTK-GNSSによる高精度の測位によって取得される。GNSSユニット110は、例えば1秒間に1回から10回程度の頻度で、作業車両100の位置を計算する。
【0066】
なお、測位方法はRTK-GNSSに限らず、必要な精度の位置情報が得られる任意の測位方法(干渉測位法または相対測位法など)を用いることができる。例えば、VRS(Virtual Reference Station)またはDGPS(Differential Global Positioning System)を利用した測位を行ってもよい。基準局60から送信される補正信号を用いなくても必要な精度の位置情報が得られる場合は、補正信号を用いずに位置情報を生成してもよい。その場合、GNSSユニット110は、RTK受信機112を備えていなくてもよい。
【0067】
RTK-GNSSを利用する場合であっても、基準局60からの補正信号が得られない場所(例えば圃場から遠く離れた道路上)では、RTK受信機112からの信号によらず、他の方法で作業車両100の位置が推定される。例えば、カメラ120および/またはLiDARセンサ220から出力されたデータと、高精度の環境地図とのマッチングによって、作業車両100の位置が推定され得る。また、作業車両100が圃場を走行するときは、地中レーダ装置140から出力されたセンシングデータと、高精度の地下地図とのマッチングによって、作業車両100の位置が推定され得る。
【0068】
本開示の実施形態におけるGNSSユニット110は、さらにIMU115を備える。IMU115は、3軸加速度センサおよび3軸ジャイロスコープを備え得る。IMU115は、3軸地磁気センサなどの方位センサを備えていてもよい。IMU115は、モーションセンサとして機能し、作業車両100の加速度、速度、変位、および姿勢などの諸量を示す信号を出力することができる。処理回路116は、衛星信号および補正信号に加えて、IMU115から出力された信号に基づいて、作業車両100の位置および向きをより高い精度で推定することができる。IMU115から出力された信号は、衛星信号および補正信号に基づいて計算される位置の補正または補完に用いられ得る。IMU115は、GNSS受信機111よりも高い頻度で信号を出力する。その高頻度の信号を利用して、処理回路116は、作業車両100の位置および向きをより高い頻度(例えば、10Hz以上)で計測することができる。IMU115に代えて、3軸加速度センサおよび3軸ジャイロスコープを別々に設けてもよい。IMU115は、GNSSユニット110とは別の装置として設けられていてもよい。
【0069】
カメラ120は、作業車両100の周囲の環境を撮影する撮像装置である。カメラ120は、例えば、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)などのイメージセンサを備える。カメラ120は、他にも、一つ以上のレンズを含む光学系、および信号処理回路を備え得る。カメラ120は、作業車両100の走行中、作業車両100の周囲の環境を撮影し、画像(例えば動画)のデータを生成する。カメラ120は、例えば、3フレーム/秒(fps: frames per second)以上のフレームレートで動画を撮影することができる。カメラ120によって生成された画像は、遠隔の監視者が端末装置400を用いて作業車両100の周囲の環境を確認するときに利用され得、測位または障害物の検出に利用され得る。とりわけ、カメラ120によって生成された、作物の地上部を含む画像は、作物の状態の推定に利用される。
【0070】
図3Aに示すように、複数のカメラ120が作業車両100の異なる位置に設けられていてもよいし、単数のカメラが設けられていてもよい。可視光画像を生成する可視カメラと、赤外線画像を生成する赤外カメラとが別々に設けられていてもよい。可視カメラと赤外カメラの両方が監視用の画像を生成するカメラとして設けられていてもよい。赤外カメラは、夜間において障害物の検出にも用いられ得る。
【0071】
障害物センサ130は、作業車両100の周囲に存在する物体を検出する。障害物センサ130は、例えばレーザスキャナまたは超音波ソナーを含み得る。障害物センサ130は、障害物センサ130から所定の距離よりも近くに物体が存在する場合に、障害物が存在することを示す信号を出力する。複数の障害物センサ130が作業車両100の異なる位置に設けられていてもよい。例えば、複数のレーザスキャナと、複数の超音波ソナーとが、作業車両100の異なる位置に配置されていてもよい。そのような多くの障害物センサ130を備えることにより、作業車両100の周囲の障害物の監視における死角を減らすことができる。
【0072】
ステアリングホイールセンサ152は、作業車両100のステアリングホイールの回転角を計測する。切れ角センサ154は、操舵輪である前輪104Fの切れ角を計測する。ステアリングホイールセンサ152および切れ角センサ154による計測値は、制御装置180による操舵制御に利用される。
【0073】
車軸センサ156は、車輪104に接続された車軸の回転速度、すなわち単位時間あたりの回転数を計測する。車軸センサ156は、例えば磁気抵抗素子(MR)、ホール素子、または電磁ピックアップを利用したセンサであり得る。車軸センサ156は、例えば、車軸の1分あたりの回転数(単位:rpm)を示す数値を出力する。車軸センサ156は、作業車両100の速度を計測するために使用される。
【0074】
駆動装置240は、前述の原動機102、変速装置103、操舵装置106、および連結装置108などの、作業車両100の走行および作業機300の駆動に必要な各種の装置を含む。原動機102は、例えばディーゼル機関などの内燃機関を備え得る。駆動装置240は、内燃機関に代えて、あるいは内燃機関とともに、トラクション用の電動モータを備えていてもよい。
【0075】
情報処理装置161の例は、マイクロプロセッサまたはマイクロコントローラである。情報処理装置161は、例えば、地中レーダ装置140から出力されるセンシングデータを処理する。本開示の実施形態における情報処理装置161は、第1センサが検出した複数の地上情報と、第2センサが検出した複数の地下情報とを参照し、複数の地上情報のうち所定の地上情報に共通する所定の地下情報を抽出し、抽出した所定の地下情報と、所定の地上情報とを関連付け、関連付けられた所定の地上情報および所定の地下情報から、作物の状態を推定する。作物の状態の推定については、後で詳しく説明する。また、本開示の実施形態における情報処理装置161は、地上情報と地下情報とに基づいて、作物の形状を作成し、作成した作物の形状を、圃場を示すフィールドに展開することによって、圃場マップを作成し得る。圃場マップのデータは、管理装置600におけるプロセッサまたはエッジコンピュータによって生成あるいは編集されてもよい。情報処理装置161が行う一連の処理を後述する制御装置180に実行させることも可能である。
【0076】
記憶装置170は、フラッシュメモリまたは磁気ディスクなどの一つ以上の記憶媒体を含む。記憶装置170は、GNSSユニット110、カメラ120、障害物センサ130、地中レーダ装置140、センサ群150、情報処理装置161および制御装置180が生成する各種のデータを記憶する。記憶装置170が記憶するデータには、作業車両100が走行する圃場内の圃場マップ、作業車両100が走行する環境内の環境地図、地下地図、および自動運転のための目標経路のデータが含まれ得る。環境地図は、例えば、作業車両100が農作業を行う複数の圃場およびその周辺の道の情報を含む。環境地図および目標経路は、管理装置600におけるプロセッサによって生成され得る。なお、制御装置180が、環境地図および目標経路を生成または編集する機能を備えていてもよい。制御装置180は、管理装置600から取得した環境地図および目標経路を、作業車両100の走行環境に応じて編集することができる。記憶装置170は、通信装置190が管理装置600から受信した作業計画のデータも記憶する。
【0077】
記憶装置170は、情報処理装置161、および制御装置180における各ECUに、後述する各種の動作を実行させるコンピュータプログラムも記憶する。そのようなコンピュータプログラムは、記憶媒体(例えば半導体メモリまたは光ディスク等)または電気通信回線(例えばインターネット)を介して作業車両100に提供され得る。そのようなコンピュータプログラムが、商用ソフトウェアとして販売されてもよい。
【0078】
制御装置180は、複数のECUを含む。複数のECUは、例えば、速度制御用のECU181、ステアリング制御用のECU182、インプルメント制御用のECU183、自動運転制御用のECU184、および経路生成用のECU185を含む。
【0079】
ECU181は、駆動装置240に含まれる原動機102、変速装置103、およびブレーキを制御することによって作業車両100の速度を制御する。
【0080】
ECU182は、ステアリングホイールセンサ152の計測値に基づいて、操舵装置106に含まれる油圧装置または電動モータを制御することによって作業車両100のステアリングを制御する。
【0081】
ECU183は、作業機300に所望の動作を実行させるために、連結装置108に含まれる3点リンクおよびPTO軸などの動作を制御する。ECU183はまた、作業機300の動作を制御する信号を生成し、その信号を通信装置190から作業機300に送信する。
【0082】
ECU184は、GNSSユニット110、カメラ120、障害物センサ130、情報処理装置161およびセンサ群150から出力されたデータに基づいて、自動運転を実現するための演算および制御を行う。例えば、ECU184は、GNSSユニット110、カメラ120および情報処理装置161の少なくとも1つから出力されたデータに基づいて、作業車両100の位置を特定する。ECU184は、LiDARセンサ220から出力されたデータにさらに基づいて、作業車両100の位置を特定し得る。作業車両100がとりわけ圃場を走行するときは、情報処理装置161は、単独でまたはECU184と協働して、地中レーダ装置140から出力されたセンシングデータに基づいて自己位置推定を行い得る。ECU184は、カメラ120またはLiDARセンサ220が取得したデータに基づいて、情報処理装置161が推定した作業車両100の位置を補正してもよい。また、圃場外においては、ECU184は、カメラ120またはLiDARセンサ220から出力されるデータを利用して作業車両100の位置を推定する。例えば、ECU184は、カメラ120またはLiDARセンサ220から出力されるデータと、環境地図とのマッチングにより、作業車両100の位置を推定してもよい。自動運転中、ECU184は、推定された作業車両100の位置に基づいて、目標経路に沿って作業車両100が走行するために必要な演算を行う。ECU184は、ECU181に速度変更の指令を送り、ECU182に操舵角変更の指令を送る。ECU181は、速度変更の指令に応答して原動機102、変速装置103、またはブレーキを制御することによって作業車両100の速度を変化させる。ECU182は、操舵角変更の指令に応答して操舵装置106を制御することによって操舵角を変化させる。
【0083】
ECU185は、作業車両100の走行中、カメラ120および障害物センサ130から出力されたデータに基づいて、作業車両100の周囲に存在する障害物を認識する。また、ECU185は、記憶装置170に格納された作業計画に基づいて作業車両100の移動先を決定し、作業車両100の移動の開始地点から目的地点までの目標経路を決定し得る。
【0084】
これらのECUの働きにより、制御装置180は、情報処理装置161と協働して、自動運転を実現する。自動運転時において、制御装置180は、計測または推定された作業車両100の位置と、目標経路とに基づいて、駆動装置240を制御する。これにより、制御装置180は、作業車両100を目標経路に沿って走行させることができる。
【0085】
制御装置180に含まれる複数のECUは、例えばCAN(Controller Area Network)などのビークルバス規格に従って、相互に通信することができる。CANに代えて、車載イーサネット(登録商標)などの、より高速の通信方式が用いられてもよい。
図4において、情報処理装置161、およびECU181から185のそれぞれは、個別のブロックとして示されているが、これらのそれぞれの機能が、複数のECUによって実現されていてもよい。情報処理装置161、ECU181から185の少なくとも一部の機能を統合した車載コンピュータが設けられていてもよい。制御装置180は、ECU181から185以外のECUを備えていてもよく、機能に応じて任意の個数のECUが設けられ得る。例えば、情報処理装置161は、ECUとして制御装置180に実装されてもよい。各ECUは、一つ以上のプロセッサを含む処理回路を備える。
【0086】
通信装置190は、作業機300、端末装置400、および管理装置600と通信を行う回路を含む装置である。通信装置190は、例えばISOBUS-TIM等のISOBUS規格に準拠した信号の送受信を、作業機300の通信装置390との間で実行する回路を含む。これにより、作業機300に所望の動作を実行させたり、作業機300から情報を取得したりすることができる。通信装置190は、さらに、ネットワーク80を介した信号の送受信を、端末装置400および管理装置600のそれぞれの通信装置との間で実行するためのアンテナおよび通信回路を含み得る。ネットワーク80は、例えば、3G、4Gもしくは5Gなどのセルラー移動体通信網およびインターネットを含み得る。通信装置190は、作業車両100の近くにいる監視者が使用する携帯端末と通信する機能を備えていてもよい。そのような携帯端末との間では、Wi-Fi(登録商標)、3G、4Gもしくは5Gなどのセルラー移動体通信、またはBluetooth(登録商標)などの、任意の無線通信規格に準拠した通信が行われ得る。
【0087】
操作端末200は、作業車両100の走行および作業機300の動作に関する操作をユーザが実行するための端末であり、バーチャルターミナル(VT)とも称される。操作端末200は、タッチスクリーンなどの表示装置、および/または一つ以上のボタンを備え得る。表示装置は、例えば液晶または有機発光ダイオード(OLED)などのディスプレイであり得る。ユーザは、操作端末200を操作することにより、例えば自動運転モードのオン/オフの切り替え、環境地図の記録または編集、目標経路の設定、および作業機300のオン/オフの切り替えなどの種々の操作を実行することができる。これらの操作の少なくとも一部は、操作スイッチ群210を操作することによっても実現され得る。操作端末200は、作業車両100から取り外せるように構成されていてもよい。作業車両100から離れた場所にいるユーザが、取り外された操作端末200を操作して作業車両100の動作を制御してもよい。ユーザは、操作端末200の代わりに、端末装置400などの、必要なアプリケーションソフトウェアがインストールされたコンピュータを操作して作業車両100の動作を制御してもよい。
【0088】
図6は、キャビン105の内部に設けられる操作端末200および操作スイッチ群210の例を示す図である。キャビン105の内部には、ユーザが操作可能な複数のスイッチを含む操作スイッチ群210が配置されている。操作スイッチ群210は、例えば、主変速または副変速の変速段を選択するためのスイッチ、自動運転モードと手動運転モードとを切り替えるためのスイッチ、前進と後進とを切り替えるためのスイッチ、および作業機300を昇降するためのスイッチ等を含み得る。なお、作業車両100が無人運転のみを行い、有人運転の機能を備えていない場合、作業車両100が操作スイッチ群210を備えている必要はない。
【0089】
図4に示す作業機300における駆動装置340は、作業機300が所定の作業を実行するために必要な動作を行う。駆動装置340は、例えば油圧装置、電気モータ、またはポンプなどの、作業機300の用途に応じた装置を含む。制御装置380は、駆動装置340の動作を制御する。制御装置380は、通信装置390を介して作業車両100から送信された信号に応答して、駆動装置340に各種の動作を実行させる。また、作業機300の状態に応じた信号を通信装置390から作業車両100に送信することもできる。
【0090】
図9は、圃場に植え付けられた作物群の地下に存在する地下部の分布を模式的に示す図である。
図9には、作物群のうちの9つの作物の地下部700に着目して例示している。作物群のそれぞれの地下部が、圃場の地中に張り巡らされ、全体の地下部を形成している。地下部の分布または形状は、個々の作物ごとに異なっている。それぞれの根は3次元空間中に不規則に伸びている。例えば、ぶどうの標準的な根の太さ(直径)は、0.5cm~2cm程度であり、太い根は2cm以上の直径を有し、細い根は0.5cm以下の直径を有し得る。ぶどうの根は、幹から水平方向(地中の深さ方向に直交する方向)に例えば2m~3m離れた地点にまで到達し得る。
【0091】
作業車両100が圃場を走行している間に、地中レーダ装置140が、地中における作物の地下部700に関する情報を含むセンシングデータを取得する。作業車両100が、例えば、
図9に示すX方向またはY方向に沿って往復を繰り返すと、地中レーダ装置140は、地中の地下部700の分布を示す3次元情報を含むセンシングデータを取得する。個々のセンシングデータは、地中レーダ装置140の受信アンテナが受信した地中からの反射波に基づいて得られる観測データである。例えば、1500MHz~2000MHzのマイクロ波を利用すると、地面から深さ30cm程度までに存在し、かつ、直径が5mm以上の根を検出することができる。400MHz程度の比較的低い周波数のマイクロ波を利用すると、直径が2cm~4cmであれば、地面から深さ2m程度までに存在する根を検出することができる。
【0092】
再び、
図7Aおよび
図7Cを参照する。作業車両100が例えばX方向に走行する場合、作業車両100の幅方向(Y方向)に所定間隔で配置された複数の受信アンテナRの各々が、地中からの反射波を受信することにより、
図9に示すXZ平面に平行な縦断面における地下部の縦断面プロファイルが受信アンテナRの数だけ得られる。情報処理装置161は、複数の縦断面プロファイルをY方向に繋ぎ合わせることで、圃場全体の地下部の分布を示す3次元データ群を生成し得る。3次元データ群は、モデリングして可視化することが可能である。情報処理装置161は、観測して得られたデータ群に基づいて地下部の形状を推定することができる。観測して得られたデータ群に基づいて生成される画像をレーダ画像と呼ぶ。レーダ画像は、例えば地下部の形状の一部または全部を含む。
【0093】
作業車両100が車両本体101の前部および後部に一対の地中レーダ装置を備える場合には、一方を他方に対し、アンテナユニット141の間隔の例えば半分の距離だけ作業車両の幅方向(
図7Cに示すY方向)にシフトさせて配置してもよい。これにより、1個の地中レーダ装置を用いる場合に比べ、作業車両の幅方向に2倍の分解能で縦断面プロファイルのデータを取得することができる。高分解能で大量のデータを取得することは、後述するように、地中における地下部の位置または形状を推定すること、または、地下部の分布を示す精度の高い地下地図、または圃場マップを構築することに有益である。
【0094】
作業車両100が圃場の全体または一区画を走行し終えると、圃場の全体または一区画の地下部の分布に関する情報を含む3次元データ群が得られる。3次元データ群は、地中の深さ方向にXY平面に平行にスライスすることが可能である。3次元データ群を深さ方向にスライスすることで、所望の深さで2次元平面(水平断面)における地下部の分布情報が得られ、その分布情報に基づいて水平断面における地下部の水平断面プロファイルSnが得られる。情報処理装置161は、深さが異なる複数の水平断面プロファイルS0~Snに対応する複数のレーダ画像を合成することによって、深さ方向の合成レーダ画像を生成し得る。それぞれのレーダ画像は、それぞれの深さにおける根の形状を反映した根の分布情報を含む。
【0095】
情報処理装置161は、観測して得られたデータ群を例えば空間解析手法を用いて、2次元または3次元空間に分布するデータ点の分布パターンを分析してもよい。データ点の分布はラスターデータとして表現されてもよいし、例えばカーネル法を用いて可視化してもよい。あるいは、情報処理装置161は、点分布の密度を算出し、それらを可視化した画像を生成してもよい。このようにして生成される画像も、前述したレーダ画像の一例である。
【0096】
[4.地上情報の取得]
次に、
図10を参照して、作業車両100が圃場を走行しながら地上情報を取得する方法の例を説明する。
図10に示す例では、ぶどう園を作業車両100が走行し、生育するぶどうの樹木列20の地上情報を取得する例を説明する。ただし、作業車両100は、ぶどう樹木に限定されず、任意の作物の地上情報を取得することが可能である。
【0097】
図10に示すように、作業車両100が直進と旋回とを繰り返しながら、ぶどう園の樹木列20の間を手動運転または自動運転により走行している間、LiDARセンサ220が樹木列20の地上情報を取得する。
【0098】
作業車両100が、複数の樹木列20のうちのある樹木列に沿って走行するとき、
図10に示す例では、作業車両100の側方に対向する樹木列20の左側部分の地上部(
図10において点線の矩形LUの枠内の部分)が検出されるものの、樹木列20の左側部分と反対側の右側部分の地上部(
図10において破線の矩形RUの枠内の部分)は検出されない。本明細書において、図面を参照して説明する右側および左側の用語が意味する左右方向は、ぶどう園を俯瞰した場合のワールド座標系から見る絶対方向であり、走行する作業車両100に固定された移動体座標系から見る相対方向ではない。
【0099】
図10の例では、作業車両100がある樹木列の左側方を樹木列に沿って走行している間に、LiDARセンサ220がレーザバルスを出射し、出射されたレーザパルスの反射点の分布を示すセンサデータを取得し、さらに、当該センサデータに基づいて、樹木列20の左部分の地上部に関する地上情報を取得する。続いて、作業車両100が樹木列20の端点で旋回し、樹木列20の右部分を樹木列20に沿って走行している間、LiDARセンサ220がレーザバルスを出射し、出射されたレーザパルスの反射点の分布を示すセンサデータを取得し、さらに、当該センサデータに基づいて、樹木列20の右部分の地上部に関する地上情報を取得する。作業車両100が隣り合う樹木列20の間を走行する間、LiDARセンサ220は、隣り合う樹木列20の一方の右部分の地上部に関する地上情報、および隣り合う樹木列20の他方の左部分の地上部に関する地上情報を同時に取得することが可能である。言い換えると、LiDARセンサ220は、作業車両100の両側に位置する、第1測定範囲内にある樹木列20の地上部に関する地上情報を取得することが可能である。
【0100】
このようにして、LiDARセンサ220は、複数の樹木列20の地上部に関する地上情報を樹木列ごとに取得し、直進および旋回を繰り返しながらぶどう園に存在する樹木列20全体の地上部に関する地上情報を取得する。作業車両100が樹木列20に沿って走行を行いながら、LiDARセンサ220が、実際に走行した走行経路Pに沿った樹木列20の地上情報を連続して取得することが可能である。
【0101】
前述した例では、ぶどうの樹木列の地上部の全周に関する地上情報を取得する方法を説明したが、この方法は一例に過ぎず、樹木列の地上部の全周に関する地上情報の取得は必須でない。例えば、樹木列に含まれる少なくとも1本の樹木の地上部に関する地上情報が樹木単位で取得され得る。
【0102】
[5.点群データの取得および座標系変換]
図11は、5本の樹木列が存在するぶどう園を模式的に示す図である。
図11には、5本の樹木列の地上部が図示されている。
図11に示す例では、ぶどう園に5本の樹木列T1~T5が存在するが、当然に樹木列の本数はこれに限定されない。また、
図11における5本の樹木列T1~T5の左部分をそれぞれ「左側方部」LU1~LU5、5本の樹木列20の右部分をそれぞれ「右側方部」RU1~RU5と呼ぶことにする。
【0103】
作業車両100は、開始点Sから進行し、樹木列T1の外側を走行しながら樹木列T1の地上部の左側方部LU1の点群データをLiDARセンサ220によって取得する。作業車両100は、樹木列T1の端点で旋回した後、隣接する樹木列T1とT2との間に進入し、樹木列T1の地上部の右側方部RU1、および樹木列T2の地上部の左側方部LU2の点群データをLiDARセンサ220によって取得する。作業車両100は、樹木列に沿った走行と旋回とを繰り返しながら終了点Gまで進行し、樹木列T3~T5の地上部の左側方部LU3~LU5の点群データ、および、樹木列T2~T4の地上部の右側方部RU2~RU4の点群データをLiDARセンサ220によって取得する。最後に、作業車両100は、樹木列T5の外側を走行しながら樹木列T5の地上部の右側方部RU5の点群データをLiDARセンサ220によって取得する。このようにして、LiDARセンサ220は、ぶどう園全体の樹木列T1~T5の地上部の点群データを取得する。
【0104】
情報処理装置161は、地上部の左側方部LU1~LU5、地上部の右側方部RU1~RU5のそれぞれについて取得した点群データを、各樹木列の地上部における側方単位として扱い、点群データに関する情報を側方単位で記憶装置に記憶し得る。本開示の実施形態では、作業車両100が備えるGNSSユニット110がIMU115を有し、作業車両100の樹木列に沿った走行と、旋回との間の動作差異を検知する。この検知によって、作業車両100が開始点Sから終了点Gまで走行する間にLiDARセンサ220によって連続的に取得された点群データを側方単位で識別することが可能である。
【0105】
樹木列の地上部の左側方部LU1~LU5のそれぞれの点群データと、地上部の右側方部RU1~RU5のそれぞれの点群データとは、GNSSユニット110から出力される測位データを用いて区分することができる。例えば、作業車両100が、樹木列T1の地上部の左側方部LU1に沿って開始点Sから走行し、左側方部LU1の端部に到達した後、旋回することになる。情報処理装置161は、作業車両100の旋回によって作業車両100の進行方向が変化することを、GNSSユニット110から出力される測位データに基づいて検出し得る。情報処理装置161は、この検出結果に応じて、樹木列T1の地上部の左側方部LU1の一方の端部(開始点S)から他方の端部に作業車両100が到達したこと、および、左側方部LU1の他方の端部から右側方部RU1の端部に到達したことを認識できる。このように、作業車両100の進行方向の変化を利用して、情報処理装置161は、樹木列T1の左側方部LU1のセンシングから右側方部RU1のセンシングに移行したことを認識して、左側方部LU1の点群データと右側方部RU1の点群データとの区分を行い得る。これと同様に、樹木列T2~T5についても、情報処理装置161は、作業車両100の旋回ごとに、地上部の左側方部LU2~LU5の点群データと、地上部の右側方部RU2~RU5の点群データとの区分を行い得る。
【0106】
本開示の実施形態における情報処理装置161は、区分けされた地上部の左側方部LU1~LU5、地上部の右側方部RU1~RU5のそれぞれの点群データに識別情報を付与して、区分けされた点群データを側方単位で識別する。識別情報については後述する。
【0107】
本開示の実施形態において、点群データは、LiDARセンサ220に固定されたセンサ座標系で表現された各反射点の3次元座標(u1,v1,w1)の情報、または、各反射点までの距離およびその反射点の方向を示す情報を含むデータである。ただし、各反射点は例えば2次元座標系で表現され得る。樹木列の地上部の左側方部LU1~LU5、および、地上部の右側方部RU1~RU5のそれぞれの点群データは、ワールド座標系である3次元の座標系(X,Y,Z)で表すことが可能である。つまり、3次元座標(u1,v1,w1)における各反射点の座標を、3次元の座標系(X,Y,Z)における座標に変換することが可能である。例えば、樹木列T1の地上部の左側方部LU1の点群データは、GNSSユニット110から出力される測位データが示すワールド座標系における作業車両100の位置情報、および、LiDARセンサ220から出力される点群データが示す各反射点の座標情報に基づいて、3次元の座標系(X,Y,Z)で表すことが可能である。言い換えると、樹木列T1の地上部の左側方部LU1の点群データは、LiDARセンサ220が樹木列T1をセンシングしている間に作業車両100が通過する任意の地点の座標情報と、任意の地点から樹木列T1までの距離(厳密には、LiDARセンサ220から反射点までの距離)とに基づいて3次元の座標系(X,Y,Z)で表すことが可能である。同様に、地上部の左側方部LU2~LU5、および地上部の右側方部RU2~RU5のそれぞれの点群データも、3次元の座標系(X,Y,Z)で表すことが可能である。なお、例えば、開始点Sまたは終了点Gを3次元の座標系(X,Y,Z)の原点としてもよいし、他の位置を原点としてもよい。
【0108】
[6.地上部の左および右側方部の点群データの関連付け]
続いて、情報処理装置161は、樹木列T1~T5の地上部の左側方部LU1~LU5、および右側方部RU1~RU5の、側方単位で区分けされた複数の点群データから、同一の樹木列を構成する地上部の左側方部および右側方部の点群データを抽出または同定する。例えば、情報処理装置161は、地上部の左側方部LU1~LU5の点群データと、地上部の右側方部RU1~RU5の点群データとを3次元の座標系(X,Y,Z)において参照し、複数の点群データの中から、最も近接する、もしくは類似するデータ群を含む点群データ同士、または、一致するデータ群を含む点群データ同士を関連付ける。言い換えると、情報処理装置161は、地上部の左側方部LU1~LU5のそれぞれの点群データに付与された複数の識別情報、および地上部の右側方部RU1~RU5のそれぞれの点群データに付与された複数の識別情報のうち、点群データが最も近接する、あるいは、一致するデータ群を含む点群データの識別情報を関連付ける。
【0109】
本開示の実施形態における情報処理装置161は、点群データ同士のマッチングを行うことによって、前述した複数の点群データの中から、最も近接する、あるいは最も類似するデータ群を含む点群データ同士を関連づける。マッチングは、例えばNDT(Normal Distribution Transform)またはICP(Iterative Closest Point)などの任意のマッチングアルゴリズムを用いて実行され得る。
【0110】
情報処理装置161は、関連付けられた2つの点群データのうち、3次元の座標系(X,Y,Z)において相対的に左側の空間に位置する点群データを、地上部の左側方部に関連する点群データと決定し、3次元の座標系において相対的に右側の空間に位置する点群データを、地上部の右側方部に関連する点群データと決定する。
【0111】
図12は、側方単位で区分けされた複数の点群データから、同一の樹木列を構成する地上部の左側方部および右側方部の点群データを関連付けた結果を示す図である。
図12には、
図11に示す樹木列T1~T5のそれぞれを構成する地上部の左側方部および右側方部の点群データを関連付けた結果が示されている。
図12に示す例において、作業車両100が、
図11に示す開始点Sから終了点Gまで移動したときに側方単位で取得された複数(10個)の点群データに、識別情報0001U~0010Uが付与されている。識別情報0001Uが付与された点群データが最初に取得されたデータであり、識別情報0010Uが付与された点群データが最後に取得された最新データである。
【0112】
情報処理装置161は、識別情報0001U~0010Uが付与された点群データから、樹木列T1を構成する地上部の左側方部の点群データと、右側方部の点群データとを、マッチングにより関連付ける。
図12に示す例では、情報処理装置161は、識別情報0001Uが付与された点群データと、識別情報0002Uが付与された点群データとが最も類似するデータ群であると決定する。言い換えると、情報処理装置161は、識別情報0001Uと識別情報0002Uとを関連付ける。そして、情報処理装置161は、関連付けられた2つの識別情報0001U、0002Uのそれぞれが付与された点群データの座標を参照し、3次元の座標系(X,Y,Z)において相対的に左側の空間に位置する、識別情報0001Uが付与された点群データを、地上部の左側方部LU1に関連する点群データと決定し、3次元の座標系において相対的に右側の空間に位置する、識別情報0002Uが付与された点群データを、地上部の右側方部RU1に関連する点群データと決定する。
【0113】
情報処理装置161は、樹木列T1と同様に、樹木列T2~T5のそれぞれを構成する地上部の左側方部の点群データと、右側方部の点群データとを、マッチングにより関連付ける。情報処理装置161は、3次元の座標系(X,Y,Z)において相対的に左側の空間に位置する、識別情報0003U、0005U、0007Uおよび0009Uが付与された点群データを、それぞれ、地上部の左側方部LU2~LU5に関連する点群データと決定し、3次元の座標系において相対的に右側の空間に位置する、識別情報0004U、0006U、0008Uおよび0010Uが付与された点群データを、それぞれ、地上部の右側方部RU2~RU5に関連する点群データと決定する。
【0114】
[7.地上情報の生成]
情報処理装置161は、抽出された同一の樹木列を構成する地上部の左側方部の点群データと右側方部の点群データとから、地上情報を推定し得る。例えば、情報処理装置161は、樹木列T1の地上部の左側方部LU1の点群データと決定され、かつ、識別情報0001Uが付与された点群データ、および、当該樹木列と同一の樹木列T1の地上部の右側方部RU1の点群データと決定され、かつ、識別情報0002Uが付与された点群データの中から、最も近接する、あるいは一致するデータ群を含む1以上の点群データを抽出する。抽出した1以上の点群データを「共通地上部点群データ」と呼ぶ。
【0115】
情報処理装置161は、共通地上部点群データを基準とし、識別情報0001U、0002Uのそれぞれが付与された点群データを、同一の3次元の座標系(X,Y,Z)において表すことにより、当該樹木列の地上部に関する地上情報を推定し得る。そして、情報処理装置161は、識別情報0001U、0002Uが付与された2つの点群データを統合し、統合した点群データに地上部の識別情報U0001を付与する(
図12参照)。識別情報U0001が付与された点群データは、樹木列T1の地上部に関する、形状、サイズまたは座標位置などの地上情報を示し得る。同様に、情報処理装置161は、識別情報0003U、0005U、0007Uおよび0009Uが付与された左側方部の点群データと、識別情報0004U、0006U、0008Uおよび0010Uが付与された右側方部の点群データとから、それぞれ、樹木列T2~T5の地上部に関する地上情報を推定し得る。
【0116】
情報処理装置161は、例えば、樹木列ごとの地上情報と、各地上情報を示す点群データに含まれる反射点の、3次元の座標系における原点からの距離とを参照して、識別情報U0001~U0005を地上情報に付与し、樹木列ごとに区分けされた地上情報を識別してもよい。識別情報U0001~U0005のそれぞれと、各識別情報が付与された地上情報とが、記憶装置に記憶され得る。
【0117】
[8.地下情報の取得]
次に、
図13を参照して、ぶどう園において作業車両を走行させ、生育するぶどう樹木の地下情報を取得する方法の例を説明する。
図11に示すように、作業車両100が隣り合う樹木列の間を直進と旋回とを繰り返しながら、ぶどう園の樹木列の間を手動運転または自動運転により走行している間、地中レーダ装置140が樹木列の地下部に関する地下情報を取得する。
【0118】
作業車両100が、複数の樹木列のうちのある樹木列に沿って走行するとき、
図13に示される例では、作業車両100の側方に対向する樹木列の地下部の左側方部(
図13におい点線の矩形LDの枠内の部分)が探査されるものの、樹木列の左側部分と反対側の右側部分の地下部(
図13におい点線の矩形RDの枠内の部分)は探査されない。
【0119】
図13の例では、作業車両100がある樹木列の左側方を樹木列に沿って走行している間に、地中レーダ装置140が電磁波を送受信することによってセンシングデータを繰り返し取得し、さらに、当該センシングデータに基づいて、樹木列の左側方部の地下情報を取得する。続いて、作業車両100が樹木列の端点で旋回し、樹木列の右側方を樹木列に沿って走行している間、地中レーダ装置140が電磁波を送受信することによってセンシングデータを繰り返し取得し、さらに、当該センシングデータに基づいて、樹木列の右側方部の地下情報を取得する。作業車両100が隣り合う樹木列の間を走行する間、地中レーダ装置140が、隣り合う樹木列の一方の右側方部の地下情報、および隣り合う樹木列の他方の左側方部の地下情報を同時に取得することが可能である。言い換えると、地中レーダ装置140は、作業車両100の両側に位置する、第2測定範囲内にある樹木列の地下部に関する地下情報を取得することが可能である。
【0120】
このようにして、地中レーダ装置140は樹木列全体の地下部に関する地下情報を樹木列ごとに取得し、直進および旋回を繰り返しながらぶどう園に存在する複数の樹木列の全体の地下部に関する地下情報を取得する。作業車両100は樹木列に沿って走行を行いながら、地中レーダ装置140が、走行経路Pに沿った複数の樹木列の地下情報を連続して取得することが可能である。
【0121】
なお、前述した例では、ぶどうの樹木の地下部の全周の地下情報を取得する方法を説明したが、この方法は一例に過ぎず、地上情報と同様に、樹木列の地下部の全周に関する地下情報の取得は必須でない。例えば、樹木列に含まれる少なくとも1本の樹木の地下部に関する地下情報が樹木単位で取得され得る。
【0122】
[9.地中センシングデータの取得および座標系変換]
図14は、5本の樹木列が存在するぶどう園を模式的に示す図である。
図14には、5本の樹木列の地下部が図示されている。
図14に示す5本の樹木列T1~T5の地下部は、それぞれ、
図11に示す5本の樹木列T1~T5の地上部に対応する。
図14における5本の樹木列T1~T5の左部分をそれぞれ「左側方部」LD1~LD5、5本の樹木列20の右部分をそれぞれ「右側方部」RD1~RD5と呼ぶことにする。
【0123】
作業車両100は、開始点Sから進行し、樹木列T1の外側を走行しながら樹木列T1の地下部の左側方部LD1の空間分布に関する情報を含むセンシングデータ(以下、「地中センシングデータ」と記載する。)を地中レーダ装置140によって取得する。作業車両100は、樹木列T1の端点で旋回した後、隣接する樹木列T1とT2との間に進入し、樹木列T1の地下部の右側方部RD1および樹木列T2の地下部の左側方部LD2の地中センシングデータを地中レーダ装置140によって取得する。作業車両100は、樹木列に沿った走行と旋回とを繰り返しながら終了点Gまで進行し、樹木列T3~T5の地下部の左側方部LD3~LD5の地中センシングデータ、および、樹木列T2~T4の地下部の右側方部RD2~RD4の地中センシングデータを地中レーダ装置140によって取得する。最後に、作業車両100は、樹木列T5の外側を走行しながら樹木列T5の地下部の右側方部RD5の地中センシングデータを地中レーダ装置140によって取得する。このようにして、地中レーダ装置140は、ぶどう園全体の樹木列T1~T5の地下部の地中センシングデータを取得する。
【0124】
情報処理装置161は、地下部の左側方部LD1~LD5、地下部の右側方部RD1~RD5のそれぞれの地中センシングデータを、各樹木列の地下部における側方単位として扱い、センシングデータに関する情報を側方単位で記憶装置に記憶し得る。作業車両100が備えるGNSSユニット110がIMU115を有し、作業車両100の樹木列に沿った走行と、旋回との間の動作差異を検知する。この検知によって、作業車両100が開始点Sから終了点Gまで走行する間に地中レーダ装置140によって連続的に取得された地中センシングデータを側方単位で識別することが可能である。
【0125】
樹木列の地下部の左側方部LD1~LD5のそれぞれの地中センシングデータと、地下部の右側方部RD1~RD5のそれぞれの地中センシングデータとは、GNSSユニット110から出力される測位データを用いて区分することができる。例えば、作業車両100が開始点Sから樹木列T1の地下部の左側方部LD1に沿って走行し、左側方部LD1の端部に到達した後、旋回することになる。情報処理装置161は、作業車両100の旋回によって作業車両100の進行方向が変化することを、GNSSユニット110から出力される測位データに基づいて検出し得る。情報処理装置161は、この検出結果に応じて、樹木列T1の地下部の左側方部LD1の一方の端部(開始点S)から他方の端部に作業車両100が到達したこと、および、左側方部LD1の他方の端部から右側方部RD1の端部に達したことを認識できる。このように、作業車両100の進行方向の変化を利用して、情報処理装置161は、樹木列T1の左側方部LD1のセンシングから右側方部RD1のセンシングに移行したことを認識して、それぞれの地中センシングデータの区分を行い得る。これと同様に、樹木列T2~T5についても、情報処理装置161は、作業車両100の旋回ごとに、地下部の左側方部LD2~LD5の地中センシングデータと、地下部の右側方部RD2~RD5の地中センシングデータとの区分を行い得る。
【0126】
本開示の実施形態における情報処理装置161は、地上部と同様に、区分けされた地下部の左側方部LD1~LD5、地下部の右側方部RD1~RD5のそれぞれの地中センシングデータに識別情報を付与して、区分けされた地中センシングデータを側方単位で識別する。
【0127】
本開示の実施形態において、地中センシングデータは、地中における地下部の3次元空間の分布に関するデータ群であり、データ群の個々のデータ点までの距離およびそのデータ点の方向を示す情報を含み得る。データ群の個々のデータは、地中レーダ装置140に固定されたセンサ座標系である3次元座標(u2,v2,w2)の情報を含むデータであり得る。そのため、樹木列の地下部の左側方部LD1~LD5、および地下部の右側方部RD1~RD5のそれぞれの地中センシングデータは、点群データと同様に、ワールド座標系である3次元の座標系(X,Y,Z)で表すことが可能である。例えば、樹木列T1の地下部の左側方部LD1の地中センシングデータは、GNSSユニット110から出力される測位データが示すワールド座標系における作業車両100の位置情報、および、地中レーダ装置140から出力される地中センシングデータに含まれる各データ点の座標情報に基づいて、3次元の座標系(X,Y,Z)で表すことが可能である。言い換えると、樹木列T1の地下部の左側方部LD1の地中センシングデータは、地中レーダ装置140が樹木列T1をセンシングしている間に作業車両100が通過する任意の地点の座標情報と、任意の地点から樹木列T1までの距離(厳密には、地中レーダ装置140から各データ点までの距離)とに基づいて3次元の座標系(X,Y,Z)で表すことが可能である。同様に、地下部の左側方部LD2~LD5および地下部の右側方部RD2~RD5のそれぞれの地中センシングデータも、3次元の座標系(X,Y,Z)で表すことが可能である。なお、この3次元の座標系(X,Y,Z)の原点は、地下情報を示す地中センシングデータ群が存在する3次元の座標系の原点に一致する。
【0128】
[10.地下部の左および右側方部の地中センシングデータの関連付け]
続いて、情報処理装置161は、樹木列T1~T5の地下部の左側方部LD1~LD5、および地下部の右側方部RD1~RD5の、側方単位で区分けされた複数の地中センシングデータから、同一の樹木列を構成する地下部の左側方部および右側方部のデータ群を抽出または同定する。例えば、情報処理装置161は、地下部の左側方部LD1~LD5の地中センシングデータ群と、地下部の右側方部RD1~RD5の地中センシングデータ群とを3次元の座標系(X,Y,Z)において参照し、複数のデータ群の中から、一部のデータが最も近接する、もしくは類似するデータ群同士、または、一致するデータ群同士を関連付ける。言い換えると、情報処理装置161は、地下部の左側方部LD1~LD5のそれぞれの地中センシングデータ群に付与された複数の識別情報、および地下部の右側方部RD1~RD5のそれぞれの地中センシングデータ群に付与された複数の識別情報のうち、地中センシングデータ群の一部が最も近接する、あるいは、一致するデータ群の識別情報を関連付ける。
【0129】
情報処理装置161は、関連付けられた2つの地中センシングデータ群のうち、3次元の座標系において相対的に左側の空間に位置するデータ群を、地下部の左側方部に関するデータ群と決定し、3次元の座標系において相対的に右側の空間に位置するデータ群を、地下部の右側方部に関するデータ群と決定する。
【0130】
図15は、側方単位で区分けされた複数の地中センシングデータ群から、同一の樹木列を構成する地下部の左側方部および右側方部のデータ群を関連付けた結果を示す図である。
図15には、
図14に示す樹木列T1~T5のそれぞれを構成する地下部の左側方部および右側方部の地中センシングデータ群を関連付けた結果が示されている。
図15に示す例において、作業車両100が、
図14に示す開始点Sから終了点Gまで移動したときに側方単位で取得された複数(10個)の地中センシングデータ群に、識別情報0001D~0010Dが付与されている。識別情報0001Dが付与された地中センシングデータ群が最初に取得されたデータであり、識別情報0010Dが付与された地中センシングデータ群が最後に取得された最新データである。
【0131】
情報処理装置161は、識別情報0001D~0010Dが付与された地中センシングデータ群から、樹木列T1を構成する地下部の左側方部のデータ群と、右側方部のデータ群とを、マッチングにより関連付ける。
図15に示す例では、情報処理装置161は、識別情報0001Dが付与された地中センシングデータ群と、識別情報0002Dが付与された地中センシングデータ群とが最も類似するデータ群であると決定する。言い換えると、情報処理装置161は、識別情報0001Dと識別情報0002Dとを関連付ける。そして、情報処理装置161は、関連付けられた2つの識別情報0001D、0002Dのそれぞれが付与された地中センシングデータ群の座標を参照し、3次元の座標系(X,Y,Z)において相対的に左側の空間に位置する、識別情報0001Dが付与されたデータ群を、地下部の左側方部LD1に関連する地中センシングデータ群と決定し、3次元の座標系において相対的に右側の空間に位置する、識別情報0002Dが付与されたデータ群を、地下部の右側方部RD1に関連する地中センシングデータ群と決定する。
【0132】
情報処理装置161は、樹木列T1と同様に、樹木列T2~T5のそれぞれを構成する地下部の左側方部のデータ群と、右側方部のデータ群とを、マッチングにより関連付ける。情報処理装置161は、3次元の座標系(X,Y,Z)において相対的に左側の空間に位置する、識別情報0003D、0005D、0007Dおよび0009Dが付与された点群データを、それぞれ、地下部の左側方部LD2~LUDに関連する地中センシングデータ群と決定し、3次元の座標系において相対的に右側の空間に位置する、識別情報0004D、0006D、0008Dおよび0010Dが付与されたデータ群を、それぞれ、地下部の右側方部RD2~RD5に関連する地中センシングデータ群と決定する。
【0133】
[11.地下情報の生成]
情報処理装置161は、抽出された同一の樹木列を構成する地下部の左側方部の地中センシングデータ群と右側方部の地中センシングデータ群とから、地下情報を推定し得る。例えば、情報処理装置161は、樹木列T1の地下部の左側方部LD1のデータ群と決定され、かつ、識別情報0001Dが付与された地中センシングデータ群、および、当該樹木列と同一の樹木列T1の地下部の右側方部RD1のデータ群と決定され、かつ、識別情報0002Dが付与された地中センシングデータ群の中から、一部のデータが最も近接する、あるいは一致する1以上のデータ群を抽出する。抽出した1以上のデータ群を「共通地下部データ群」と呼ぶ。
【0134】
情報処理装置161は、共通地下部データ群を基準とし、識別情報0001D、0002Dのそれぞれが付与されたデータ群を、同一の3次元の座標系(X,Y,Z)において表すことにより、当該樹木列の地下部に関する地下情報を推定し得る。そして、情報処理装置161は、識別情報0001D、0002Dが付与された2つの地中センシングデータ群を統合し、統合した地中センシングデータ群に地下部の識別情報D0001を付与する(
図15参照)。識別情報D0001が付与された地中センシングデータ群は、樹木列T1の地下部に関する、形状、サイズまたは座標位置などの地下情報を示し得る。同様に、情報処理装置161は、識別情報0003D、0005D、0007Dおよび0009Dが付与された左側方部のデータ群と、識別情報0004D、0006D、0008Dおよび0010Dが付与された右側方部のデータ群とから、それぞれ、樹木列T2~T5の地下部に関する地下情報を推定し得る。
【0135】
情報処理装置161は、例えば、樹木列ごとの地下情報と、各地下情報を示す地中センシングデータ群に含まれる各データ点の、3次元の座標系における原点からの距離とを参照して、識別情報D0001~D0005を地下情報に付与し、樹木列ごとに区分けされた地下情報を識別してもよい。識別情報D0001~D0005のそれぞれの識別情報と、各識別情報が付与された地下情報とが、記憶装置に記憶され得る。
【0136】
[12.地上情報と地下情報とを統合して作物情報を推定]
情報処理装置161は、複数の地上情報、および、複数の地下情報を参照し、作物情報を推定し得る。本開示の実施形態では、情報処理装置161は、複数の識別情報U0001~U0005が付与された点群データが示す複数の地上情報、および、識別情報D0001~D0005が付与された地中センシングデータが示す地下情報を参照し、作物の状態を推定する。以降の説明では、例えば、識別情報U0001が付与された点群データが示す地上情報を、識別情報U0001が付与された地上情報と呼ぶ。識別情報D0001が付与された地中センシングデータが示す地下情報を、識別情報D0001が付与された地下情報と呼ぶ。
【0137】
情報処理装置161は、複数の地上情報のうち所定の地上情報に共通する所定の地下情報を抽出する。言い換えると、情報処理装置161は、複数の地上情報のうちの1つを示す点群データと、複数の地下情報のうちの1つを示す地中センシングデータとを関連付ける。
【0138】
前述した例において、識別情報U0001~U0005のそれぞれが付与された複数の地上情報のうちの、識別情報U0002が付与された地上情報が、所定の地上情報であるとする。この場合、情報処理装置161は、識別情報U0002が付与された地上情報に共通する地下情報を、識別情報D0001~D0006が付与された複数の地下情報の中から抽出する。具体的には、情報処理装置161は、識別情報U0002が付与された地上情報を示す点群データに最も近接する、または、一致する地中センシングデータ群を、識別情報D0001~D0005が付与された地下情報を示す地中センシングデータ群の中から検索する。
【0139】
情報処理装置161が、複数の地上情報のうち所定の地上情報に共通する所定の地下情報を抽出できないと判断した場合、所定の地下情報を抽出できないことを通知するためのメッセージを表示装置に表示させ得る。表示装置の例は、前述した操作端末200または端末装置400の画面である。このようなメッセージの表示により、例えば、システムのユーザにセンシングデータの再取得を促すことが可能となる。
【0140】
複数の地上情報および複数の地下情報の中から、お互い共通する組み合わせを抽出する場合、すなわち、所定の地上情報に共通する所定の地下情報を抽出する場合、情報処理装置161は、地上情報を示す点群データに含まれる、地上部と地下部との境界またはその近辺に位置するデータ群と、地下情報を示す地中センシングデータに含まれる、地上部と地下部との境界またはその近辺に位置するデータ群とを3次元の座標系(X,Y,Z)において比較することで判断することが好ましい。
【0141】
図16は、樹木の地下部700の一部である幹部710の断面を拡大して示す平面図である。樹木の幹部の断面の形状またはサイズは、樹木の個体ごとに異なる。樹木の幹部分は、地上部と地下部との境界において両者に共通する部分を含む。そのため、本開示の実施形態では、情報処理装置161は、地上部の幹部分と、地下部の幹部分との断面の形状またはサイズに着目して、複数の点群データのうちの1つの点群データに含まれる幹部のデータ群に最も近接する、あるいは一致する幹部のデータ群を含む地中センシングデータ群を、複数の地中センシングデータ群の中から検索する。
【0142】
図17は、
図12に示す地上部に関する識別情報を記載したテーブルと、
図15に示す地下部に関する識別情報を記載したテーブルとを統合して得られる、作物全体の識別情報を記載したテーブルを示す。本開示の実施形態における情報処理装置161は、
図12に示すテーブルと、
図15に示すテーブルとを参照し、同一の作物に関する地上および地下情報を関連付け、作物全体の識別情報を記載したテーブルを作成する。
【0143】
情報処理装置161は、地上情報U0001および地下情報D0001を関連付け、作物全体を識別するための作物識別情報UD001を樹木列T1に付与することができる。言い換えると、情報処理装置161は、属性が異なる地上部の点群データと地下部の地中センシングデータとを共通の座標系において統合することができる。樹木の幹部に関して、地上情報U0001が付与された点群データの一部のデータ群と、地下情報D0001が付与された地中センシングデータの一部のデータ群とが、3次元の座標系(X,Y,Z)において最も近接、類似、または一致し得る。この場合、情報処理装置161は、地上情報U0001に共通する所定の地下情報を地下情報D0001と決定し得る。同様に、情報処理装置161は、地上情報U0002~U0005と、地下情報D0002~D0005とをそれぞれ関連付け、作物識別情報UD002~UD005を樹木列T2~T5にそれぞれ付与することができる。情報処理装置161は、地上情報U0002~U0005に共通する所定の地下情報を地下情報D0002~D0005とそれぞれ決定し得る。
【0144】
情報処理装置161は、例えば樹木列T2に共通する組み合わせとして抽出した地上情報U0002と地下情報D0002とを紐づける。具体的には、情報処理装置161は、地上情報U0002と地下情報D0002とを、樹木列T2に関する複数の情報として紐づけることによって、作物識別情報UD002を新たに付与する。これによって、樹木列T2が他の樹木列と区別される。情報処理装置161は、ある樹木列に共通する地上および地下情報の組み合わせが樹木列T1~T5のどの樹木列に対応するかどうかを、例えば、3次元の座標系(X,Y,Z)における点群データまたは地中センシングデータの代表点(例えばデータ群の重心の位置)から原点までの距離に基づいて決定し得る。同様にして、情報処理装置161は、樹木列T1、T3~T5に共通する組み合わせとして抽出した地上情報U0001、U0003~U0005と地下情報D0001、D0003~D0005とを紐づけ、樹木列T1、T3~T5に作物識別情報UD001、UD003~UD005を付与する。情報処理装置161は、樹木列T1~T5の作物識別情報UD001~UD005のそれぞれと、各識別情報に含まれる地上および地下情報とを関連付け、記憶装置に記憶し得る。
【0145】
本開示の実施形態における情報処理装置161は、関連付けられた地上情報および地下情報から、樹木列全体、また樹木列に含まれる1以上の樹木の形状またはサイズを推定し得る。関連付けられた地上情報および地下情報は、それぞれ、第1センサおよび第2センサによって検出された距離に基づいて得られたセンサデータである。情報処理装置161は、当該センサデータから、作物である樹木の形状またはサイズを推定する。例えば、情報処理装置161は、作物識別情報UD001~UD005のそれぞれに含まれる地上情報および地下情報の組み合わせのうち、作物識別情報UD002に含まれる地上情報U0002および地下情報D0002に基づいて、樹木列T2のサイズまたは形状を推定し得る。具体的に説明すると、情報処理装置161は、記憶装置にアクセスし、樹木列T2に関連付けられた地上情報U0002および地下情報D0002、すなわち、地上情報U0002を示す点群データ、および地下情報D0002を示す地中センシングデータの3次元の座標系(X,Y,Z)における座標情報に基づいて、樹木列T2のサイズまたは形状を推定することができる。
【0146】
[13.樹木の形状、サイズの推定]
ある一態様において、情報処理装置161は、自動走行による走行時に第1センサ(例えばLiDARセンサ)が取得した地上情報と、自動走行による走行時に第2センサ(例えば地中レーダ装置)が取得した地下情報とに基づいて、作物の形状、サイズ、または生育状態を推定する。
【0147】
図18および
図19を参照して、樹木列に含まれる1つの樹木のサイズ、形状を推定する方法を説明する。
【0148】
図18は、樹木列T2の一部の形状を模式的に示す図である。
図18には、10本の樹木を含む樹木列T2(
図11参照)のうちの4本の樹木の部分が示されている。
図19は、樹木列T2に含まれる1つの樹木T2aの外観を模式的に示す図である。情報処理装置161は、所定の樹木列に複数の樹木が含まれる場合、手動または自動で指定された複数の樹木のうちの1本の樹木を抽出し得る。例えば、樹木の指定は、ユーザが端末装置を操作することによって行われる。
【0149】
本開示の実施形態では、情報処理装置161は、所定の樹木列T2を示す点群データを、3次元の座標系(X,Y,Z)で表される仮想的なフィールドに展開することによって、
図18に示すような、地上部および地下部を含む樹木列T2の形状を把握することが可能である。情報処理装置161は、得られた樹木列T2の形状、および樹木列T2の形状を表すデータ群の座標に基づいて、樹木列T2に含まれる複数の樹木の中から少なくとも1本の樹木の形状を樹木単位で把握し得る。例えば、樹木T2aがユーザによって指定されると、
図19に示すように、情報処理装置161は、地上部および地下部を含む、指定された樹木列T2の形状を樹木列T2の形状から抽出する。指定される樹木は、樹木列の端に位置する樹木であってもよいし、樹木列の端以外に位置する樹木であってもよい。情報処理装置161は、樹木T2aを表す形状から、実際の樹木T2aの例えばサイズ、形状を推定する。
【0150】
本開示の実施形態によれば、属性が異なる点群データと地中センシングデータとを統合し、樹木列または樹木単位で樹木列または樹木のサイズや形状を推定することが可能となる。
【0151】
<樹木の地上部のサイズの推定>
情報処理装置161は、例えば、樹木T2aの形状から樹木T2aの幹部の部分を認識し、幹部のサイズ(
図19に示す高さH1および幅W1)を求めることができる。あるいは、情報処理装置161は、樹木T2aの形状から樹木T2aの樹冠部の部分を認識し、樹冠部のサイズ(
図19に示す高さH2および幅W2)を求め得る。例えば、樹木T2aの幹部の高さH1は、3次元の座標系(X,Y,Z)における樹木T2aの地上部の点群データのうちのY方向において最も下方に位置する反射点(例えば地面に相当する部分)から、樹冠部の点群データのうちのY方向において最も下方に位置する枝部分の反射点までの距離によって規定され得る。樹木T2aの幹部の幅W1は、
図19に示すXY平面の平行な幹部の断面の水平方向の距離によって規定され得る。なお、幹部の幅W1は、幹部の高さ方向(Y方向)における水平方向(X方向)の幅または距離を水平方向において複数抽出し、抽出したそれらの幅の平均を算出することによって求められ得る。あるいは、幹部の幅W1は、地面から所定の高さに位置する幹部の水平方向の幅であってもよい。
【0152】
図19に示す樹冠部は、幹部の上に形成される枝および葉の層の部分に相当する。樹木T2aの樹冠部の高さH2は、例えば、3次元の座標系(X,Y,Z)における幹部の点群データのうちのY方向において最も上方に位置する反射点から、樹冠部の点群データのうちのY方向において最も上方に位置に位置する枝または葉の部分の反射点までの距離によって規定され得る。樹冠の幅W2は、樹冠部に含まれる枝または葉の部分の水平方向(X方向)の最大距離によって規定され得る。さらに、情報処理装置161は、樹木T2aの高さH4を、幹部の高さH1と樹冠部の高さH2とを加算することによって求めてもよく、地面から樹冠部の最高点までの距離として求めてもよい。
【0153】
図19には、XY平面に平行な樹木T2aの断面における高さH1、H2、H4、幅W1およびW2が例示されているが、情報処理装置161は、YZ平面またはXZ平面に平行な樹木T2aの断面における幹部および/または樹冠部の高さ、幅を求めることが可能である。
【0154】
<樹木の地下部のサイズの推定>
情報処理装置161は、樹木T2aの地上部と同様に、樹木T2aの形状から樹木T2aの根の部分(または根系)を認識し、根の部分のサイズ(
図19に示す深さH3および幅W3)を求め得る。例えば、樹木T2aの根の深さH3は、3次元の座標系(X,Y,Z)における地下部の地中センシングデータのうちの、地面に位置するデータ点から、Y方向において最も下方に位置する根の部分のデータ点までのY方向の距離によって規定され得る。根の幅W3は、地中での根の水平方向(X方向)における最大距離によって規定され得る。
【0155】
なお、ぶどう園の特性を考慮すると、樹木T2aの直下またはその付近の地面が傾斜していたり、凸凹であったりする場合がある。このため、樹木T2aの地上部の複数の点群データのうちの地面のデータ群に含まれる幾つかのデータの最小のY座標の平均を求めることによって、高さまたは深さの基準となる仮想的な地面の位置が推定されてもよい。
【0156】
樹木の幹部、樹冠部、および根の部分のそれぞれのサイズまたは形状の推定は、樹木単位または樹木列単位で実行され得る。例えば、樹木T2aの幹部、樹冠部、および根の部分のそれぞれのサイズは、作物識別情報UD002に関連する識別情報U0002が付与された点群データを、3次元の座標系(X,Y,Z)で表される圃場を示すフィールドに展開することによって得られる樹木T2aの形状から求まる特徴量に基づいて求めてもよいし、あるいは、樹木T2aの形状のパターンマッチングによって求めてもよい。なお、樹木の幹部、樹冠部、および根の部分のそれぞれのサイズまたは形状の推定方法は、本明細書において例示する方法に限定されない。また、情報処理装置161は、作物識別情報UD002に関連する識別情報U0002が付与された点群データおよび/または識別情報D0002が付与された地中センシングデータ群を、3次元の座標系(X,Y,Z)で表される圃場を示すフィールドに展開することによって得られる樹木T2aの形状から求まる特徴量に基づいて樹木T2aの生育状態を推定し得る。
【0157】
このようにして、圃場の作物の地上部および地下部を検知し、地上部および地下部のそれぞれから得られる情報に基づいて作物の状態を推定することができる。とりわけ、地上情報だけでは作物の状態を把握することが困難であるような場合であっても、地下情報を加味することによって作物の状態を総合的に把握することが可能となる。
【0158】
[14.圃場マップの生成]
情報処理装置161は、地上情報と、地下情報とに基づいて、作物の形状を作成し、作成した作物の形状を、圃場を示すフィールドに展開することによって、走行経路(または目標経路)が設定される圃場マップを作成し得る。作成される作物の形状は、実際の作物の形状を再現したものに限定されず、作物の形状を模擬するもの、例えば作物の形状をデフォルメして得られる作物の概略的な形状であってもよい。
【0159】
情報処理装置161は、作物識別情報UD001~UD005にそれぞれ関連する地上部の複数の点群データを3次元の座標系(X,Y,Z)で表される仮想的なフィールドに展開することによって、樹木列T1~T5のそれぞれの形状を表す圃場マップを作成し得る。
図20に、圃場マップの一例が示されている。図示される圃場マップは、3次元の座標系(X,Y,Z)における樹木列T1~T5の地上部の点群データの座標情報、相対距離、および方位などを反映している。さらに、圃場マップは、樹木列T1~T5の地下部の地中センシングデータ群の座標情報、相対距離、および方位などを反映し得る。
【0160】
情報処理装置161は、例えば、緯度および経度で表された作業車両100の位置(つまり、車体位置)と、少なくとも第1センサによって得られた、作業車両100から所定の作物までの距離とから、作物における緯度および経度を求め、作業車両100の走行時に推定された作物に基づいて作成した作物の形状と、作物における緯度および経度とを対応付けた位置情報付き圃場マップを作成し得る。例えば、情報処理装置161は、樹木列T1~T5の形状、および樹木列T1~T5の緯度・経度の位置情報を含む位置情報付き圃場マップを作成する。情報処理装置161は、作業車両100から樹木列T1~T5のそれぞれまでの距離と、GNSSユニット110によって検出された車体の位置情報とに基づいて、3次元座標(u2,v2,w2)における樹木列T1~T5の点群データの各データ点の座標を、3次元の座標系(X,Y,Z)における樹木列T1~T5の緯度・経度の位置情報に変換する。情報処理装置161は、変換した位置情報が示す位置に樹木列T1~T5の3次元の形状を配置することによって、3次元の位置情報付き圃場マップを作成し得る。なお、情報処理装置161は、樹木列T1~T5のそれぞれの2次元の形状を配置することによって、2次元の位置情報付き圃場マップを作成してもよい。
【0161】
前述した位置情報付き圃場マップは作業車両100の自動走行に利用され得る。例えば、情報処理装置161または管理装置600が、作成された位置情報付き圃場マップ上に走行予定経路を事前に生成してもよい。
【0162】
作業車両100は、作成した位置情報付き圃場マップを使用して圃場内を自動走行してもよい。具体的に説明すると、
図4に示す経路生成用のECU185が位置情報付き圃場マップに基づき、予め定められた走行経路を意味する作業車両100の走行予定経路を決定する。走行予定経路は、位置情報付き圃場マップに基づいて自動でECU185によって決定されてもよいし、ユーザの操作によって設定されてもよい。
【0163】
図21は、位置情報付き圃場マップに基づいて生成される、樹木列の幹分布を模式的に示す図である。
図21に例示される樹木列の2次元の幹分布において、各樹木の幹部が一定の大きさの円によって表現されている。このような2次元の幹分布を示すデータ群を「幹分布データ」と称する。幹分布データは、例えば個々の幹の中心の緯度・経度の位置情報を含み得る。幹分布データは、緯度・経度の位置情報に加えて、
図19に示す幹部の幅W1の情報を含み得る。ユーザが操作端末を利用して、例えば、隣り合う樹木の幹部の間の距離または幹部の位置情報などの、複数の樹木列の配置関係を示す情報を入力してもよい。入力された情報は、記憶装置または他の記憶媒体に記録される。
【0164】
図21には、幹分布データに基づいて決定される走行予定経路Pも示されている。例えば、経路生成用のECU185が、各樹木列に含まれる複数の樹木の幹部を繋いだ曲線を決定し得る。ECU185は、例えば、隣り合う2つの樹木列(例えば、樹木列T1およびT2)のそれぞれに含まれる複数の樹木の幹部を繋いだ曲線の中央を通る曲線または折れ線を走行予定経路として決定する。制御装置180(
図4参照)が、GNSSユニットによって出力された位置情報が走行予定経路に一致するように操舵の制御を行うことができる。制御装置180は、隣り合う2つの樹木列の幹部曲線の中央に生成される走行予定経路を、作業車両100の車体中心が通過するように厳密に制御しなくてよい。走行予定経路は、隣り合う2つの樹木列の幹部曲線の中央からシフトしていてもよい。
【0165】
なお、簡単のため、2次元の幹分布データに基づく走行予定経路の生成方法を示したが、ECU185は、作成した位置情報付き圃場マップを用いて、樹木列に含まれる複数の樹木の幹部の点群データの各データ点の3次元の座標系(X,Y,Z)における座標に基づいて、走行予定経路を決定してもよい。
【0166】
作業車両100は、幹分布データ、または圃場マップに基づき決定した走行予定経路に従って自動走行を行いながら、圃場内の任意の樹木列をセンシングしてもよい。作業車両100は、自動走行を行いながら、LiDARセンサ220が地上情報を取得し、さらに、地中レーダ装置140が地下情報を取得することによって、任意の樹木列を推定することが可能である。
【0167】
本開示の実施形態によれば、取得した樹木情報を仮想的なフィールドに展開して圃場マップを作成することが可能となる。この圃場マップは、情報の見える化に貢献し得、さらに、作業車両の自動走行のための走行予定経路の生成に利用され得る。
【0168】
図22は、作物情報を推定するための推定方法の処理フローの概要を示すフローチャートである。本開示の実施形態における推定方法は、地上部の点群データおよび地下部の地中センシングデータを樹木列の側方単位で取得するステップS10と、点群データおよび地中センシングデータに識別情報を付与するステップS20と、作業車両が開始点から終了点までの走行を終了したか否かを判定するステップS30と、点群データおよび地中センシングデータに座標変換処理を適用するステップS40と、地上部の左および右側方部の点群データを関連付け、地上情報を生成するステップS50と、地下部の左および右側方部の地中センシングデータを関連付け、地下情報を生成するステップS60と、地上情報と地下情報とを統合して作物情報を推定するステップS70とを包含する。各ステップにおける処理の詳細は、前述したとおりである。
【0169】
作業車両100は、
図22に示すフローに従って、圃場に存在する1または複数の樹木列の作物情報を樹木列単位で推定することが可能である。あるいは、作業車両100は、圃場に存在する1または複数の樹木列に含まれる複数の樹木のうちの着目する少なくとも1本以上の樹木の作物情報を推定することが可能である。1本の樹木の作物情報を推定する場合、例えば、作業車両のオペレータが樹木の左側方部および右側方部のセンシングデータの取得が完了したかどうかを決定してもよい。
【0170】
ステップS50またはステップS60の処理において、例えば、左側方部に関連する右側方部のデータが存在しない場合など、情報処理装置161が、左および右側方部のデータを関連付けできないときは、左および右側方部のデータのいずれか一方のデータを検出できなかったことを示すエラーメッセージを例えば作業車両100の操作端末200の画面に表示させてもよい。
【0171】
[15.自動運転時の操舵制御]
以下、自動運転時の操舵制御の動作の例をより詳細に説明する。
【0172】
図23は、制御装置180によって実行される自動運転時の操舵制御の動作の例を示すフローチャートである。制御装置180は、作業車両100の走行中、
図23に示すステップS121からS125の動作を実行することにより、自動操舵を行う。速度に関しては、例えば予め設定された速度に維持される。制御装置180は、作業車両100の走行中、情報処理装置161によって推定された作業車両100の位置を示すデータを取得する(ステップS121)。次に、制御装置180は、作業車両100の位置と、目標経路との位置偏差を算出する(ステップS122)。位置偏差は、その時点における作業車両100の位置と、目標経路との距離を表す。制御装置180は、算出した位置偏差が予め設定された閾値を超えるか否かを判定する(ステップS123)。位置偏差が閾値を超える場合、制御装置180は、位置偏差が小さくなるように、駆動装置240に含まれる操舵装置の制御パラメータを変更することにより、操舵角を変更する。ステップS123において位置偏差が閾値を超えない場合、ステップS124の動作は省略される。続くステップS125において、制御装置180は、動作終了の指令を受けたか否かを判定する。動作終了の指令は、例えばユーザが遠隔操作で自動運転の停止を指示したり、作業車両100が目的地に到達したりした場合に出され得る。動作終了の指令が出されていない場合、ステップS121に戻り、新たに推定された作業車両100の位置に基づいて、同様の動作を実行する。制御装置180は、動作終了の指令が出されるまで、ステップS121からS125の動作を繰り返す。上記の動作は、制御装置180におけるECU182、184によって実行される。
【0173】
図23に示す例では、制御装置180は、情報処理装置161が推定した作業車両100の位置と目標経路との位置偏差のみに基づいて駆動装置240を制御するが、方位偏差もさらに考慮して制御してもよい。例えば、制御装置180は、情報処理装置161が推定した作業車両100の向き、あるいは、IMUを有するGNSSユニット110によって特定された作業車両100の向きと、目標経路の方向との角度差である方位偏差が予め設定された閾値を超える場合に、その偏差に応じて駆動装置240の操舵装置の制御パラメータ(例えば操舵角)を変更してもよい。
【0174】
以下、
図24Aから
図24Dを参照しながら、制御装置180による操舵制御の例をより具体的に説明する。
【0175】
図24Aは、目標経路Pに沿って走行する作業車両100の例を示す図である。
図24Bは、目標経路Pから右にシフトした位置にある作業車両100の例を示す図である。
図24Cは、目標経路Pから左にシフトした位置にある作業車両100の例を示す図である。
図24Dは、目標経路Pに対して傾斜した方向を向いている作業車両100の例を示す図である。これらの図において、目標経路に沿って基準線が設定され、目標経路上に基準点が設定されている。例えば情報処理装置161によって推定された作業車両100の位置および向きを示すポーズが、r(x,y,θ)と表現されている。(x,y)は、ワールド座標系であるXY座標系における作業車両100の基準点の位置を表す座標である。
図24Aから
図24Dに示す例において、作業車両100の基準点はキャビン上のGNSSアンテナが設置された位置にあるが、この基準点の位置は任意である。θは、作業車両100の推定または計測された向きを表す角度である。図示されている例においては、目標経路PがY軸に平行であるが、一般的には目標経路PはY軸に平行であるとは限らない。
【0176】
図24Aに示すように、作業車両100の位置および向きが目標経路Pから外れていない場合には、制御装置180は、作業車両100の操舵角および速度を変更せずに維持する。
【0177】
図24Bに示すように、作業車両100の位置が目標経路Pから右側にシフトしている場合には、制御装置180は、作業車両100の走行方向が左寄りに傾き、目標経路Pに近付くように操舵角を変更する。このとき、操舵角に加えて速度も併せて変更してもよい。操舵角の大きさは、例えば位置偏差Δxの大きさに応じて調整され得る。
【0178】
図24Cに示すように、作業車両100の位置が目標経路Pから左側にシフトしている場合には、制御装置180は、作業車両100の走行方向が右寄りに傾き、目標経路Pに近付くように操舵角を変更する。この場合も、操舵角に加えて速度も併せて変更してもよい。操舵角の変化量は、例えば位置偏差Δxの大きさに応じて調整され得る。
【0179】
図24Dに示すように、作業車両100の位置は目標経路Pから大きく外れていないが、向きが目標経路Pの方向とは異なる場合は、制御装置180は、方位偏差Δθが小さくなるように操舵角を変更する。この場合も、操舵角に加えて速度も併せて変更してもよい。操舵角の大きさは、例えば位置偏差Δxおよび方位偏差Δθのそれぞれの大きさに応じて調整され得る。例えば、位置偏差Δxの絶対値が小さいほど方位偏差Δθに応じた操舵角の変化量を大きくしてもよい。位置偏差Δxの絶対値が大きい場合には、目標経路Pに戻るために操舵角を大きく変化させることになるため、必然的に方位偏差Δθの絶対値が大きくなる。逆に、位置偏差Δxの絶対値が小さい場合には、方位偏差Δθをゼロに近づけることが必要である。このため、操舵角を決定するための方位偏差Δθの重み(すなわち制御ゲイン)を相対的に大きくすることが妥当である。
【0180】
作業車両100の操舵制御および速度制御には、PID制御またはMPC制御(モデル予測制御)などの制御技術が適用され得る。これらの制御技術を適用することにより、作業車両100を目標経路Pに近付ける制御を滑らかにすることができる。
【0181】
本明細書は、以下の項目に記載の解決手段を開示している。
【0182】
[項目1]
圃場の作物を検知する作物検知システムであって、
前記作物の地上部に関する情報である地上情報を検出する第1センサと、
前記作物の地下部に関する情報である地下情報を検出する第2センサと、
前記地上情報と、前記地下情報とに基づいて、前記作物の地上部と、前記作物の地下部とを合わせた作物を推定する情報処理装置と、
を備える作物検知システム。
【0183】
[項目2]
前記情報処理装置は、
前記第1センサが検出した複数の地上情報およびと、前記第2センサが検出した複数の地下情報とを参照し、前記複数の地上情報のうち所定の地上情報に共通する所定の地下情報を抽出し、
抽出した前記所定の地中情報と、前記所定の地上情報とを関連付け、
関連付けられた前記所定の地上情報および前記所定の地下情報から、前記作物を推定する、項目1に記載の作物検知システム。
【0184】
[項目3]
前記関連付けられた所定の地上情報および前記所定の地下情報は、それぞれ、前記第1センサおよび前記第2センサによって検出された距離から得られたセンシングデータであり、
前記情報処理装置は、前記センシングデータから、前記作物の寸法を推定する、項目2に記載の作物検知システム。
【0185】
[項目4]
前記情報処理装置は、前記地上情報と前記地下情報とに基づいて、前記作物の形状を作成し、作成した前記作物の形状を、前記圃場を示すフィールドに展開することによって、圃場マップを作成する、項目2または3に記載の作物検知システム。
【0186】
[項目5]
前記第1センサおよび第2センサは、単一の農業機械に搭載される、あるいは複数の農業機械に別個搭載される、項目1から4のいずれか1項に記載の作物検知システム。
【0187】
[項目6]
前記第1センサは、農業機械の周辺に設定された測定範囲に存在する前記作物の地上部までの距離を前記地上情報として検出する測距センサ、または、前記測定範囲に存在する前記作物の地上部の画像を前記地上情報として検出するカメラであり、
前記第2センサは、前記測定範囲に存在する前記作物の地下部までの距離を前記地下情報として検出する測距センサである、項目1から3のいずれか1項に記載の作物検知システム。
【0188】
[項目7]
前記第1センサにおける前記測距センサは、レーザパルスを射出することで、前記測定範囲に存在する前記作物の地上部までの距離を検出するLiDARセンサである、項目6に記載の作物検知システム。
【0189】
[項目8]
前記第2センサは、電磁波を送信することで、前記測定範囲に存在する前記作物の地下部までの距離を検出する地中レーダ装置である、項目6または7に記載の作物検知システム。
【0190】
[項目9]
前記農業機械は、
前記農業機械の位置である車体位置を出力する測位ユニットと、
予め定められた走行経路に前記測位ユニットによって出力された前記位置が一致するように操舵の制御を行う制御装置と、
を備える、項目6から8のいずれか1項に記載の作物検知システム。
【0191】
[項目10]
前記情報処理装置は、前記地上情報と、前記地下情報とに基づいて、前記作物の形状を作成し、作成した前記作物の形状を、前記圃場を示すフィールドに展開することによって、前記走行経路が設定される圃場マップを作成する、項目9に記載の作物検知システム。
【0192】
[項目11]
前記農業機械は、自動走行を制御する制御装置を備え、
前記情報処理装置は、前記自動走行による走行時に前記第1センサが取得した前記地上情報と、前記自動走行による走行時に前記第2センサが取得した前記地下情報とに基づいて、前記作物を推定する、項目6から10のいずれか1項に記載の作物検知システム。
【0193】
[項目12]
前記農業機械は、前記農業機械の位置である車体位置を出力する測位ユニットを備え、
前記情報処理装置は、
緯度および経度で表された前記車体位置と、少なくとも前記第1センサによって得られた、前記農業機械から前記所定の作物までの距離とから、前記作物における緯度および経度を求め、前記農業機械の走行時に推定された前記作物に基づいて作成した前記作物の形状と、前記作物における緯度および経度とを対応付けた圃場マップを作成する、項目2または3に記載の作物検知システム。
【0194】
[項目13]
表示装置をさらに備え、
前記情報処理装置が、前記複数の地上情報のうち所定の地上情報に共通する前記所定の地下情報を抽出できないと判断した場合、前記所定の地下情報を抽出できないことを通知するためのメッセージを前記表示装置に表示させる、項目2に記載の作物検知システム。
【0195】
[項目14]
前記地中レーダ装置は、前記農業機械の前部に設けられ、
前記農業機械の後部に設けられた他の地中レーダ装置をさらに備える、項目1から13のいずれか1項に記載の作物検知システム。
【0196】
[項目15]
項目1から14のいずれか1項目に記載の作物検知システムと、
農業機械を走行させる駆動装置と、
を備える農業機械。
【0197】
[項目16]
前記地面に対して対地作業を行う作業機を備え、
前記地中レーダ装置は前記作業機に取り付けられている、項目15に記載の農業機械。
【産業上の利用可能性】
【0198】
本開示の技術は、例えばトラクタ、収穫機、田植機、乗用管理機、野菜移植機、草刈機、播種機、施肥機、または農業用ロボットなどの農業機械の操作に適用することができる。
【符号の説明】
【0199】
50・・・GNSS衛星、60・・・基準局、80・・・ネットワーク、100・・・作業車両、101・・・車両本体、102・・・原動機(エンジン)、103・・・変速装置(トランスミッション)、104・・・車輪、105・・・キャビン、106・・・操舵装置、107・・・運転席、108・・・連結装置、110・・・測位装置、111・・・GNSS受信機、112・・・RTK受信機、115・・・慣性計測装置(IMU)、116・・・処理回路、120・・・カメラ、130・・・障害物センサ、140・・・地中レーダ装置、141・・・アンテナユニット、150・・・センサ群、152・・・ステアリングホイールセンサ、154・・・切れ角センサ、156・・・回転センサ、160・・・制御システム、161・・・処理装置、170・・・記憶装置、180・・・制御装置、181~185・・・ECU、190・・・通信装置、200・・・操作端末、210・・・操作スイッチ群、220・・・LiDARセンサ、240・・・駆動装置、250・・・受信機、300・・・作業機、340・・・駆動装置、380・・・制御装置、390・・・通信装置、400・・・端末装置、600・・・管理装置