IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社クボタの特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-07
(45)【発行日】2024-11-15
(54)【発明の名称】農業機械のための管理システム
(51)【国際特許分類】
   G01S 19/24 20100101AFI20241108BHJP
   G01S 19/41 20100101ALI20241108BHJP
   G01S 19/43 20100101ALI20241108BHJP
   G05D 1/243 20240101ALI20241108BHJP
   G05D 1/248 20240101ALI20241108BHJP
   A01B 69/00 20060101ALI20241108BHJP
【FI】
G01S19/24
G01S19/41
G01S19/43
G05D1/243
G05D1/248
A01B69/00 303M
A01B69/00 303Z
【請求項の数】 15
(21)【出願番号】P 2023531432
(86)(22)【出願日】2022-03-24
(86)【国際出願番号】 JP2022013989
(87)【国際公開番号】W WO2023276340
(87)【国際公開日】2023-01-05
【審査請求日】2023-12-21
(31)【優先権主張番号】P 2021107444
(32)【優先日】2021-06-29
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000001052
【氏名又は名称】株式会社クボタ
(74)【代理人】
【識別番号】100101683
【弁理士】
【氏名又は名称】奥田 誠司
(74)【代理人】
【識別番号】100155000
【弁理士】
【氏名又は名称】喜多 修市
(74)【代理人】
【識別番号】100139930
【弁理士】
【氏名又は名称】山下 亮司
(74)【代理人】
【識別番号】100188813
【弁理士】
【氏名又は名称】川喜田 徹
(74)【代理人】
【識別番号】100202197
【弁理士】
【氏名又は名称】村瀬 成康
(74)【代理人】
【識別番号】100202142
【弁理士】
【氏名又は名称】北 倫子
(72)【発明者】
【氏名】久保田 祐樹
(72)【発明者】
【氏名】反甫 透
(72)【発明者】
【氏名】大久保 樹
(72)【発明者】
【氏名】太田 一輝
【審査官】藤田 都志行
(56)【参考文献】
【文献】特開2018-045710(JP,A)
【文献】特開2013-230088(JP,A)
【文献】特開2001-289652(JP,A)
【文献】特開2021-003014(JP,A)
【文献】米国特許出願公開第2009/0204281(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01S 19/00-19/55
G05D 1/248
G05D 1/243
A01B 69/00
(57)【特許請求の範囲】
【請求項1】
GNSS受信機を備える農業機械が走行しているとき、前記GNSS受信機から出力されたGNSSデータと、前記農業機械の周囲の環境をセンシングするセンシング装置から出力されたセンシングデータとを関連付けて記憶する記憶装置と、
前記GNSSデータおよび前記センシングデータに基づいて、前記GNSS受信機による衛星信号の受信障害が生じているときの前記農業機械の周囲の環境を示す第1可視化データと、同一の場所において過去に前記受信障害が生じていなかったときの前記農業機械の周囲の環境を示す第2可視化データとを生成し、表示装置に、前記第1可視化データに基づく第1画像と、前記第2可視化データに基づく第2画像とを、前記受信障害の有無を区別可能な態様で表示させる処理装置と、
を備える管理システム。
【請求項2】
前記処理装置は、前記表示装置に、前記第1画像と前記第2画像とを1つの表示画面に並べて表示させる、
請求項1に記載の管理システム。
【請求項3】
前記表示装置をさらに備える、請求項1または2に記載の管理システム。
【請求項4】
前記受信障害が生じた場合、前記処理装置は、前記第1可視化データに基づく第1画像を前記表示装置に表示させ、ユーザが操作する端末装置からの要求に応答して、前記第2可視化データに基づく前記第2画像を前記表示装置に表示させる、請求項1から3のいずれかに記載の管理システム。
【請求項5】
前記表示装置は、前記端末装置からの前記要求に応答して、前記第1画像と前記第2画像とを1つの表示画面に並べて表示させる、請求項4に記載の管理システム。
【請求項6】
前記記憶装置は、前記農業機械が走行している間、前記GNSSデータと前記センシングデータとを、日および時刻と関連付けて記憶し、
前記端末装置からの前記要求は、過去の特定の日および時刻を指定する情報を含み、
前記処理装置は、前記情報に基づいて、前記特定の日および時刻における前記第2可視化データを生成する、
請求項4または5に記載の管理システム。
【請求項7】
前記処理装置は、
前記GNSSデータ、または外部の装置から取得した衛星配置データに基づいて、前記衛星信号が受信されたときの衛星の配置を特定し、
前記農業機械の周囲の環境の画像に前記衛星の配置を示す1つ以上のマークが重畳された画像を示すデータを前記第1可視化データおよび前記第2可視化データとして生成する、
請求項1から6のいずれかに記載の管理システム。
【請求項8】
前記第1可視化データおよび前記第2可視化データは、前記GNSS受信機によって受信された前記衛星信号の受信レベルを示す情報を含む、請求項1から7のいずれかに記載の管理システム。
【請求項9】
前記農業機械は、前記GNSSデータに基づいて自動で走行し、
前記記憶装置は、前記農業機械が自動で走行している期間のうち、前記受信障害が生じている期間と前記受信障害が生じていない期間とを含む一部の期間のみ、前記GNSSデータおよび前記センシングデータを記憶し、
前記処理装置は、前記一部の期間についてのみ、前記第1可視化データおよび前記第2可視化データを生成する、
請求項1から8のいずれかに記載の管理システム。
【請求項10】
前記GNSSデータは、前記衛星信号の受信レベルおよび前記農業機械の推定位置を示す情報を含み、
前記センシングデータは、前記農業機械の周囲の環境の画像を示す情報を含み、
前記記憶装置は、前記受信レベル、前記推定位置、前記画像、および日および時刻の情報を含むデータベースを記憶する、
請求項1から9のいずれかに記載の管理システム。
【請求項11】
前記処理装置は、前記受信障害が生じたとき、外部の端末装置に通知を送る、請求項1から10のいずれかに記載の管理システム。
【請求項12】
前記センシング装置は、前記農業機械に設けられたカメラおよびLiDARセンサの少なくとも一方を含む、請求項1から11のいずれかに記載の管理システム。
【請求項13】
前記センシング装置は、前記農業機械に設けられた複数のカメラを含み、
前記処理装置は、前記複数のカメラから出力された画像を合成することを含む処理によって前記可視化データを生成する、
請求項1から12のいずれかに記載の管理システム。
【請求項14】
前記処理装置は、前記センシングデータに基づいて、前記環境中において前記受信障害を引き起こす物体を認識し、前記物体を認識したとき、警告信号を出力する、請求項1から13のいずれかに記載の管理システム。
【請求項15】
コンピュータによって実行される方法であって、
GNSS受信機を備える農業機械が走行しているとき、前記GNSS受信機から出力されたGNSSデータと、前記農業機械の周囲の環境をセンシングするセンシング装置から出力されたセンシングデータとを関連付けて記憶装置に記憶させることと、
前記GNSSデータおよび前記センシングデータに基づいて、前記GNSS受信機による衛星信号の受信障害が生じているときの前記農業機械の周囲の環境を示す第1可視化データと、同一の場所において過去に前記受信障害が生じていなかったときの前記農業機械の周囲の環境を示す第2可視化データとを生成することと、
表示装置に、前記第1可視化データに基づく第1画像と、前記第2可視化データに基づく第2画像とを、前記受信障害の有無を区別可能な態様で表示させることと、
を含む方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、農業機械のための管理システムに関する。
【背景技術】
【0002】
圃場で使用される農業機械の自動化に向けた研究開発が進められている。例えば、GNSS(Global Navigation Satellite System)などの測位システムを利用して圃場内を自動で走行するトラクタ、コンバイン、および田植機などの作業車両が実用化されている。圃場内だけでなく、公道を含む圃場外でも自動で走行する作業車両の研究開発も進められている。
【0003】
特許文献1は、作業地を衛星航法で自動走行する作業車が受信する衛星電波の信号強度分布を管理するシステムを開示している。このシステムでは、作業車の制御ユニットが、衛星測位モジュールによって検出された電波の受信強度が所定の閾値を下回った場合に、受信強度が低下したことを示す情報を生成する。当該情報は、例えば、複数の衛星から送信された信号の受信強度、衛星の位置データ(仰角および方位角など)、自車位置の情報、および作業地IDなどを含む。制御ユニットは、当該情報を管理コンピュータに送信する。管理コンピュータは、当該情報に基づき、作業地毎に衛星電波の受信強度分布を示す情報を生成する。例えば、管理コンピュータは、日時別に、各作業地において受信強度が低下する領域を示す地図情報を生成する。このような地図情報を参照することで、衛星配置および地理的な状況に依存して受信強度が低下する領域が点在するような作業地についても、作業車を効率的に作業走行させる作業計画を作成することができる。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2018-132326号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1に開示された技術によれば、作業地における日時別の衛星電波の受信強度の分布を示す情報を生成することができる。当該情報に基づいて、受信強度の低下が生じないと推定される経路を作成し、その経路に沿って作業車を自動走行させることができる。しかし、衛星電波の受信強度の分布を示す情報が生成されたときには存在しなかった障害物が経路の付近に存在すると、衛星信号の受信強度が低下し、測位ができなくなる場合がある。
【0006】
本開示は、GNSS受信機を備えた農業機械において、衛星信号の受信強度の低下などの受信障害が生じた場合に、その原因の特定を容易にするための技術を提供する。
【課題を解決するための手段】
【0007】
本明細書は、以下の項目に記載の解決手段を開示している。
【0008】
[項目1]
GNSS受信機を備える農業機械が走行しているとき、前記GNSS受信機から出力されたGNSSデータと、前記農業機械の周囲の環境をセンシングするセンシング装置から出力されたセンシングデータとを関連付けて記憶する記憶装置と、
前記GNSSデータおよび前記センシングデータに基づいて、前記GNSS受信機による衛星信号の受信障害が生じているときの前記農業機械の周囲の環境を示す可視化データを生成して出力する処理装置と、
を備える管理システム。
【0009】
[項目2]
前記処理装置は、
前記GNSSデータおよび前記センシングデータに基づいて、前記受信障害が生じていないときの前記農業機械の周囲の環境を示す可視化データをさらに生成し、
前記受信障害が生じているときの前記可視化データと、前記受信障害が生じていないときの前記可視化データとを、区別可能な態様で出力する、
項目1に記載の管理システム。
【0010】
[項目3]
前記受信障害が生じているときの前記可視化データと、前記受信障害が生じていないときの前記可視化データとを表示する表示装置をさらに備える、項目2に記載の管理システム。
【0011】
[項目4]
前記受信障害が生じた場合、前記処理装置は、前記GNSSデータおよび前記センシングデータに基づいて、前記受信障害が生じている期間の前および後の少なくとも一方における前記農業機械の周囲の環境を示す可視化データをさらに生成して出力する、項目1から3のいずれかに記載の管理システム。
【0012】
[項目5]
前記受信障害が生じているときの前記可視化データと、前記受信障害が生じている期間の前および後の前記少なくとも一方における前記可視化データとを表示する表示装置をさらに備える、項目4に記載の管理システム。
【0013】
[項目6]
前記記憶装置は、前記農業機械が走行している間、前記GNSSデータと前記センシングデータとを、時刻と関連付けて記憶し、
前記処理装置は、各時刻における前記GNSSデータおよび前記センシングデータに基づいて、前記受信障害が生じている期間における前記農業機械の周囲の環境の動画像を示すデータを前記可視化データとして生成する、
項目1から5のいずれかに記載の管理システム。
【0014】
[項目7]
前記処理装置は、
前記GNSSデータ、または外部の装置から取得した衛星配置データに基づいて、前記衛星信号が受信されたときの衛星の配置を特定し、
前記農業機械の周囲の環境の画像に前記衛星の配置を示す1つ以上のマークが重畳された画像を示すデータを前記可視化データとして生成する、
項目1から6のいずれかに記載の管理システム。
【0015】
[項目8]
前記可視化データは、前記GNSS受信機によって受信された前記衛星信号の受信レベルを示す情報を含む、項目1から7のいずれかに記載の管理システム。
【0016】
[項目9]
前記農業機械は、前記GNSSデータに基づいて自動で走行し、
前記記憶装置は、前記農業機械が自動で走行している期間のうち、前記受信障害が生じている期間を含む一部の期間のみ、前記GNSSデータおよび前記センシングデータを記憶し、
前記処理装置は、前記一部の期間についてのみ、前記可視化データを生成する、
項目1から8のいずれかに記載の管理システム。
【0017】
[項目10]
前記GNSSデータは、前記衛星信号の受信レベルおよび前記農業機械の推定位置を示す情報を含み、
前記センシングデータは、前記農業機械の周囲の環境の画像を示す情報を含み、
前記記憶装置は、前記受信レベル、前記推定位置、前記画像、および時刻の情報を含むデータベースを記憶する、
項目1から9のいずれかに記載の管理システム。
【0018】
[項目11]
前記処理装置は、前記受信障害が生じたとき、外部の端末装置に通知を送る、項目1から10のいずれかに記載の管理システム。
【0019】
[項目12]
前記センシング装置は、前記農業機械に設けられたカメラおよびLiDARセンサの少なくとも一方を含む、項目1から11のいずれかに記載の管理システム。
【0020】
[項目13]
前記センシング装置は、前記農業機械に設けられた複数のカメラを含み、
前記処理装置は、前記複数のカメラから出力された画像を合成することを含む処理によって前記可視化データを生成する、
項目1から12のいずれかに記載の管理システム。
【0021】
[項目14]
前記処理装置は、前記センシングデータに基づいて、前記環境中において前記受信障害を引き起こす物体を認識し、前記物体を認識したとき、警告信号を出力する、項目1から13のいずれかに記載の管理システム。
【0022】
[項目15]
コンピュータによって実行される方法であって、
GNSS受信機を備える農業機械が走行しているとき、前記GNSS受信機から出力されたGNSSデータと、前記農業機械の周囲の環境をセンシングするセンシング装置から出力されたセンシングデータとを関連付けて記憶装置に記憶させることと、
前記GNSSデータおよび前記センシングデータに基づいて、前記GNSS受信機による衛星信号の受信障害が生じているときの前記農業機械の周囲の環境を示す可視化データを生成して出力することと、
を含む方法。
【0023】
本開示の包括的または具体的な態様は、装置、システム、方法、集積回路、コンピュータプログラム、もしくはコンピュータが読み取り可能な非一時的記憶媒体、またはこれらの任意の組み合わせによって実現され得る。コンピュータが読み取り可能な記憶媒体は、揮発性の記憶媒体を含んでいてもよいし、不揮発性の記憶媒体を含んでいてもよい。装置は、複数の装置で構成されていてもよい。装置が2つ以上の装置で構成される場合、当該2つ以上の装置は、1つの機器内に配置されてもよいし、分離した2つ以上の機器内に分かれて配置されていてもよい。
【発明の効果】
【0024】
本開示の実施形態によれば、GNSS受信機を備えた農業機械において、衛星信号の受信強度の低下などの受信障害が生じた場合に、可視化データに基づいて原因を容易に特定することが可能になる。
【図面の簡単な説明】
【0025】
図1】例示的な実施形態によるシステムの構成例を示すブロック図である。
図2】例示的な実施形態によるシステムの概要を説明するための図である。
図3】作業車両および作業機の例を模式的に示す側面図である。
図4】作業車両、作業機、端末装置、および管理コンピュータの構成例を示すブロック図である。
図5】RTK-GNSSによる測位を行う作業車両の例を示す概念図である。
図6】キャビン105の内部に設けられる操作端末および操作スイッチ群の例を示す模式図である。
図7】圃場内を目標経路に沿って自動で走行する作業車両0の例を模式的に示す図である。
図8】制御装置によって実行される自動運転時の操舵制御の動作の例を示すフローチャートである。
図9A】目標経路に沿って走行する作業車両の例を示す図である。
図9B】目標経路から右にシフトした位置にある作業車両の例を示す図である。
図9C】目標経路から左にシフトした位置にある作業車両の例を示す図である。
図9D】目標経路に対して傾斜した方向を向いている作業車両の例を示す図である。
図10】走行ログデータの一例を模式的に示す図である。
図11】複数の作業車両が圃場の内部および圃場の外側の道路上を自動走行している状況の例を模式的に示す図である。
図12A】受信障害が生じ得る環境の例を示す図である。
図12B】受信障害が生じ得る環境の他の例を示す図である。
図13A】受信障害が生じていない場合における衛星信号の受信強度の例を示す図である。
図13B】受信障害が生じている場合における衛星信号の受信強度の例を示す図である。
図14】表示装置に表示される画像の例を示す図である。
図15】表示装置に表示される画像の他の例を示す図である。
図16】表示装置に表示される画像の他の例を示す図である。
図17】管理コンピュータのプロセッサの動作の例を示すフローチャートである。
【発明を実施するための形態】
【0026】
以下、本開示の実施形態を説明する。ただし、必要以上に詳細な説明は省略することがある。例えば、既によく知られた事項の詳細な説明および実質的に同一の構成に関する重複する説明を省略することがある。これは、以下の説明が不必要に冗長になることを避け、当業者の理解を容易にするためである。なお、発明者は、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって特許請求の範囲に記載の主題を限定することを意図するものではない。以下の説明において、同一または類似の機能を有する構成要素については、同一の参照符号を付している。
【0027】
以下の実施形態は例示であり、本開示の技術は以下の実施形態に限定されない。例えば、以下の実施形態で示される数値、形状、材料、ステップ、ステップの順序、表示画面のレイアウトなどは、あくまでも一例であり、技術的に矛盾が生じない限りにおいて種々の改変が可能である。また、技術的に矛盾が生じない限りにおいて、一の態様と他の態様とを組み合わせることが可能である。
【0028】
(実施形態の概要)
本開示の例示的な実施形態による農業機械のための管理システムは、記憶装置と、処理装置とを備える。記憶装置は、GNSS受信機を備える農業機械が走行しているとき、GNSS受信機から出力されたGNSSデータと、農業機械の周囲の環境をセンシングするセンシング装置から出力されたセンシングデータとを関連付けて記憶する。処理装置は、GNSSデータおよびセンシングデータに基づいて、GNSS受信機による衛星信号の受信障害が生じているときの農業機械の周囲の環境を示す可視化データを生成して出力する。
【0029】
本開示において「農業機械」は、農業用途で使用される機械を意味する。農業機械の例は、トラクタ、収穫機、田植機、乗用管理機、野菜移植機、草刈機、播種機、施肥機、および農業用移動ロボットを含む。トラクタのような作業車両が単独で「農業機械」として機能する場合だけでなく、作業車両に装着され、または牽引される作業機(インプルメント)と作業車両の全体が一つの「農業機械」として機能する場合がある。農業機械は、圃場内の地面に対して、耕耘、播種、防除、施肥、作物の植え付け、または収穫などの農作業を行う。これらの農作業を「対地作業」または単に「作業」と称することがある。車両型の農業機械が農作業を行いながら走行することを「作業走行」と称する。
【0030】
「GNSS受信機」は、全球測位衛星システム(GNSS)における複数の衛星から送信される電波を受信し、当該電波に重畳された信号に基づいて測位を行う装置である。GNSSは、GPS(Global Positioning System)、QZSS(Quasi-Zenith Satellite System)、GLONASS、Galileo、およびBeiDouなどの衛星測位システムの総称である。本明細書において、これらの測位システムにおける衛星を「GNSS衛星」と称する。GNSS衛星から送信される信号を「衛星信号」と称する。「GNSSデータ」は、GNSS受信機から出力されるデータである。GNSSデータは、例えばNMEA-0183フォーマットなどの所定のフォーマットで生成され得る。GNSSデータは、例えば、個々の衛星から受信した衛星信号の受信状況を示す情報を含み得る。例えば、GNSSデータは、衛星信号が受信されたそれぞれの衛星の識別番号、仰角、方位角、および受信強度を示す値を含み得る。以下、受信強度を「受信レベル」と称することがある。受信強度は、受信された衛星信号の強度を示す数値である。受信強度は、例えば搬送波雑音電力密度比(Carrier to Noise Density Ratio:C/N0)などの値で表現され得る。GNSSデータは、受信された複数の衛星信号に基づいて計算されたGNSS受信機または農業機械の位置情報を含んでいてもよい。位置情報は、例えば緯度、経度、および平均海水面からの高さなどによって表され得る。GNSSデータは、さらに、位置情報の信頼性を示す情報を含んでいてもよい。
【0031】
「センシング装置」は、1つ以上のセンサを含む装置である。センサは、農業機械の周囲の環境をセンシングできるように配置される。センシング装置は、例えば、イメージセンサを含むカメラ(すなわち撮像装置)、およびLiDAR(Light Detection and Ranging)センサの少なくとも一方を含んでいてもよい。「センシングデータ」は、センシン
グ装置から出力されるデータである。センシングデータは、例えばカメラによって生成される画像データ、またはLiDARセンサによって生成される点群データまたは距離分布データを含み得る。点群データは、LiDARセンサによって距離が計測された複数の点の分布を示す。センシングデータは、例えば、自動運転によって移動する農業機械が障害物を検出したり、農業機械を遠隔監視するユーザが農業機械の周囲の状況を確認したりするために用いられ得る。センシング装置は、農業機械に設けられていてもよいし、農業機械の外部に設けられていてもよい。農業機械の外部に設けられるセンシング装置は、例えば、農業機械が走行する経路に沿って配置された複数のカメラまたは複数のLiDARセンサを含み得る。
【0032】
「衛星信号の受信障害」とは、衛星信号の受信状況の悪化によって正常時と比較して測位の信頼性が低下している状態を意味する。受信障害は、例えば、検出された衛星の数が少ない場合(例えば3以下など)、各衛星信号の受信強度が低い場合、またはマルチパスが生じている場合などに生じ得る。処理装置は、受信障害が生じているか否かを、例えばGNSSデータに含まれる衛星に関する情報に基づいて判断できる。例えば、GNSSデータに含まれる衛星ごとの受信強度の値、または衛星の配置状況を示すDOP(Dilutionof Precision)の値などに基づいて、受信障害の有無を判断することができる。
【0033】
「農業機械の周囲の環境を示す可視化データ」は、農業機械の周囲の環境をユーザが確認することが可能な画像を表示装置(ディスプレイ)に表示させるためのデータである。本明細書において、可視化データに基づく画像を表示することを、「可視化データを表示する」と表現することがある。
【0034】
GNSSデータとセンシングデータとを「関連付けて記憶する」とは、GNSSデータと、当該GNSSデータに対応するセンシングデータとを他の装置が読み出すことができる形式で記憶することを意味する。例えば、ほぼ同じ時刻に生成されたGNSSデータとセンシングデータとを関連付けるために、記憶装置は、それらのデータと、それらのデータが取得された時刻の情報とを関連付けて記憶してもよい。GNSSデータを記憶することは、GNSSデータの全体を記憶することに限定されず、GNSSデータの一部を記憶すること、または、GNSSデータに基づいて生成されたデータを記憶することであってもよい。同様に、センシングデータを記憶することは、センシングデータの全体を記憶することに限定されず、センシングデータの一部を記憶すること、またはセンシングデータに基づいて生成されたデータを記憶することであってもよい。
【0035】
「管理システム」は、農業機械を管理するためのコンピュータシステムである。管理システムにおける処理装置は、例えば1つ以上のプロセッサと、1つ以上のメモリとを備えるコンピュータであり得る。その場合、プロセッサは、メモリに格納されたコンピュータプログラムを逐次実行することによって所望の処理を実現することができる。処理装置は、農業機械に搭載されていてもよいし、農業機械とは離れた場所、例えば農業機械を監視するユーザの自宅または事業所に設置されていてもよい。農業機械に搭載された複数の電子制御ユニット(ECU)の1つが処理装置として機能してもよい。あるいは、農業機械とネットワークを介して通信を行うサーバコンピュータまたはエッジコンピュータが処理装置として機能してもよい。さらには、ユーザが使用する端末装置が処理装置の機能の少なくとも一部を有していてもよい。端末装置の例は、据え置き型のコンピュータ、スマートフォン、タブレットコンピュータ、またはラップトップコンピュータなどを含む。
【0036】
記憶装置は、1つ以上の記憶媒体を備え、データを記憶することが可能な装置である。記憶媒体は、例えば半導体記憶媒体、磁気記憶媒体、または光学記憶媒体であり得る。記憶装置と処理装置とが1つの装置の内部に配置されていてもよい。あるいは、記憶装置と処理装置とが離れて配置され、両者がネットワークを介して接続されていてもよい。記憶装置は、農業機械に設けられていてもよい。
【0037】
本開示の実施形態によれば、GNSS受信機による衛星信号の受信障害が生じた場合に、ユーザが、可視化データに基づいて表示された画像から、農業機械の周囲の状況を確認することができる。これにより、例えば農業機械の周囲に存在する障害物が衛星信号の受信を妨げていることなどをユーザが確認することができる。
【0038】
衛星信号の受信を妨げる障害物として、例えば樹木の枝葉または背丈の高い農作物が挙げられる。樹木または農作物は、ある時点では衛星信号の受信を妨げることがなかったとしても、時間の経過とともに生長し、受信障害を引き起こす可能性がある。上記の構成によれば、そのような障害物が経路の付近に存在することがわかるため、ユーザは、受信障害を引き起こす樹木の枝を切ったり農作物を除去したりすることにより、今後の受信障害の発生を防止することができる。衛星信号の受信を妨げる障害物の他の例として、トラックなどの大型の車両も考えられる。そのような大型の車両は、例えば周囲の道路よりも低い位置にある圃場の端付近を農業機械が走行している場合に受信障害を引き起こす障害物になり得る。
【0039】
本開示における農業機械は、自動運転の機能を備え得る。本開示において「自動運転」は、運転者による手動操作によらず、制御装置の働きによって農業機械の移動を制御することを意味する。自動運転を行う農業機械は「自動運転農機」または「ロボット農機」と呼ばれることがある。自動運転中、農業機械の移動だけでなく、農作業の動作も自動で制御されてもよい。農業機械が車両型の機械である場合、自動運転によって農業機械が走行することを「自動走行」と称する。制御装置は、農業機械の移動に必要な操舵、速度調整、走行の開始および停止の少なくとも1つを制御し得る。作業機が装着された作業車両を制御する場合、制御装置は、作業機の昇降、作業機の動作の開始および停止などの動作を制御してもよい。自動運転による移動には、農業機械が所定の経路に沿って目的地に向かう移動のみならず、追尾目標に追従する移動も含まれ得る。自動運転を行う農業機械は、部分的にユーザの指示に基づいて移動する機能を備えていてもよい。また、自動運転を行う農業機械は、自動運転モードに加えて、運転者の手動操作によって移動する手動運転モードで動作してもよい。手動によらず、制御装置の働きによって移動体の操舵を行うことを「自動操舵」と称する。制御装置の一部が農業機械の外部にあってもよい。農業機械の外部にある制御装置と農業機械との間では、制御信号、コマンド、またはデータなどの通信が行われ得る。自動運転を行う農業機械は、人がその農業機械の移動の制御に関与することなく、周囲の環境をセンシングしながら自律的に移動してもよい。自律的な移動が可能な農業機械は、無人で圃場内または圃場外(例えば道路)を走行することができる。自律移動中に、障害物の検出および障害物の回避動作を行ってもよい。
【0040】
次に、図1を参照して、管理システムの構成の例をより詳細に説明する。
【0041】
図1は、例示的な実施形態による管理システム20の構成例を示すブロック図である。図1には、管理システム20に加えて、農業機械10と、端末装置30と、サーバコンピュータ40(以下、「サーバ40」と称する。)とが示されている。管理システム20は、農業機械10、端末装置30、およびサーバ40に、有線または無線で接続される。
【0042】
サーバ40は、各GNSS衛星の配置または軌道の情報を記憶する記憶装置42を備える。サーバ40は、処理装置24からの要求に応じて衛星の配置を示す衛星配置データを処理装置24に送信する。
【0043】
農業機械10は、GNSS受信機12と、センシング装置14とを備える。GNSS受信機12は、複数の衛星から送信される衛星信号を受信するアンテナと、衛星信号に基づく演算によってGNSSデータを生成する処理回路とを含む。GNSSデータは、農業機械10の位置情報と、それぞれの衛星からの信号の受信状況に関する情報(例えば、受信強度など)とを含み得る。センシング装置14は、例えばカメラまたはLiDARセンサを含み得る。センシング装置14は、農業機械10の周囲の環境のセンシングを行い、センシングデータを生成する。センシングデータは、例えば、カメラによって生成される画像データ、またはLiDARセンサによって生成される点群データであり得る。図1の例では、センシング装置14は農業機械10の構成要素であるが、農業機械10がセンシング装置14を備えていなくてもよい。例えば、農業機械10が走行する経路の付近にセンシング装置14が配置されていてもよい。
【0044】
農業機械10の走行中、GNSSデータおよびセンシングデータは、記憶装置22に送られ、記憶される。記憶装置22は、農業機械10が自動運転で走行しているときにのみ、GNSSデータおよびセンシングデータを記憶するように構成されていてもよい。あるいは、記憶装置22は、農業機械10が手動運転で走行しているときも、GNSSデータおよびセンシングデータを記憶するように構成されていてもよい。農業機械10は、走行中、GNSSデータとセンシングデータとを、例えば一定の周期で記憶装置22に送信してもよい。そのようなGNSSデータおよびセンシングデータは、農業機械10の走行ログデータとして機能し得る。
【0045】
記憶装置22は、農業機械10から送られてきたGNSSデータとセンシングデータとを関連付けて記憶する。例えば、記憶装置22は、GNSSデータとセンシングデータとを、時刻と関連付けて記憶してもよい。これにより、処理装置24が、特定の時刻に対応するGNSSデータとセンシングデータとを取得することが容易になる。処理装置24は、記憶装置22から取得したGNSSデータとセンシングデータとに基づいて、衛星信号の受信障害が生じているときの農業機械10の周囲の環境を示す可視化データを生成する。受信障害が生じているか否かは、前述のように、GNSSデータに含まれる衛星信号の受信状況に関する情報に基づいて判断できる。処理装置24は、例えば、センシングデータに基づく画像と、受信障害が生じていることを示す情報(例えば、文字、図形、または記号など)とを含む画像データを可視化データとして生成してもよい。処理装置24は、各時刻におけるGNSSデータおよびセンシングデータに基づいて、受信障害が生じている期間における農業機械10の周囲の環境の動画像を示すデータを可視化データとして生成してもよい。
【0046】
処理装置24は、生成した可視化データを端末装置30に送信する。端末装置30は、農業機械10を遠隔で監視するユーザが使用する装置である。端末装置30は、例えば、パーソナルコンピュータ、ラップトップコンピュータ、タブレットコンピュータ、またはスマートフォンなどのコンピュータであり得る。図1に示す端末装置30は、表示装置32を備える。表示装置32は、端末装置30に接続される外付けのディスプレイであってもよい。表示装置32は、可視化データに基づく画像を表示する。これにより、ユーザは、受信障害が生じているときの農業機械10の周囲の状況を確認することができる。例えば、ユーザは、農業機械10の周囲に、過去には存在しなかった樹木の枝などの障害物を発見した場合、枝を切断するために現場に向かうなどの行動をとることができる。この例では表示装置32は管理システム20の外部に設けられているが、管理システム20が表示装置32を含んでいてもよい。
【0047】
処理装置24は、衛星信号の受信障害が生じているときの可視化データだけでなく、受信障害が生じていないときの可視化データを生成してもよい。処理装置24は、受信障害が生じているときの可視化データと、受信障害が生じていないときの可視化データとを、区別可能な態様で出力してもよい。例えば、処理装置24は、受信障害が生じているときの可視化データとして、受信障害が生じていることを示す文字、記号、または図形などの情報を含む画像データを生成してもよい。反対に、受信障害が生じていないときの可視化データとして、そのような情報を含まない画像データ、または受信状況が良好であることを示す情報を含む画像データを生成してもよい。ユーザは、端末装置30に表示される画像から、受信障害が生じたか否かを容易に判断することができる。
【0048】
処理装置24は、受信障害が生じた場合、GNSSデータおよびセンシングデータに基づいて、受信障害が生じている期間の前および後の少なくとも一方における農業機械10の周囲の環境を示す可視化データを生成して出力してもよい。これにより、受信障害が生じている期間の可視化データと、その前または後の可視化データとの比較から、受信障害の原因をさらに容易に特定することができる。
【0049】
処理装置24は、サーバ40から、GNSS衛星の配置を示す衛星配置データを取得することができる。処理装置24は、衛星配置データに基づいて、衛星信号が受信されたときの衛星の配置を特定し、農業機械10の周囲の環境の画像に衛星の配置を示す1つ以上のマークが重畳された画像を示す可視化データを生成してもよい。GNSSデータが各衛星の配置を示す情報を含む場合、処理装置24は、GNSSデータに基づいて同様の可視化データを生成することもできる。ただし、受信障害が生じているときは、GNSSデータから十分な衛星の配置情報が得られない場合が多い。そのため、本実施形態では、受信障害が生じている場合の可視化データに衛星の配置情報を含める場合、処理装置24は、サーバ40などの外部の装置から衛星配置データを取得する。
【0050】
可視化データは、GNSS受信機によって受信された衛星信号の受信レベルを示す情報を含んでいてもよい。受信レベルを示す情報は、例えば、GNSSデータに含まれる各衛星信号の受信強度の数値でもよいし、当該数値に基づいて計算される数値または文字などの情報であってもよい。受信レベルを示す情報は、例えば、受信レベルの高さを複数の段階で表示した情報であってもよい。例えば、「3(高)」、「2(中)」、「1(低)」のような3段階の数値または文字で受信レベルが表現されてもよい。あるいは、受信レベルの高さをゲージで表現してもよい。
【0051】
農業機械10は、GNSSデータに基づいて自動で走行するように構成され得る。例えば、農業機械10は、GNSSデータに含まれる測位結果を示す位置情報と、予め設定された目標経路の情報とに基づいて自動で走行するように構成され得る。記憶装置22は、農業機械が自動で走行している期間のうち、受信障害が生じている期間を含む一部の期間のみ、GNSSデータおよびセンシングデータを記憶してもよい。この場合、処理装置24は、当該一部の期間についてのみ、可視化データを生成する。これにより、記憶されるデータの量を抑えることができるため、記憶装置22の容量を抑えることができる。
【0052】
前述のように、GNSSデータは、衛星信号の受信レベルおよび農業機械10の推定位置を示す情報を含み得る。センシング装置14がカメラを含む場合、センシングデータは、農業機械10の周囲の環境の画像を示す情報を含み得る。記憶装置22は、衛星信号の受信レベル、農業機械10の推定位置、農業機械10の周囲の環境の画像、および時刻の情報を含むデータベースを記憶してもよい。そのようなデータベースを記憶することにより、処理装置24が当該データベースを参照して可視化データを効率的に生成することができる。
【0053】
処理装置24は、受信障害が生じたとき、外部の端末装置30に通知を送信してもよい。処理装置24は、GNSSデータに基づいて受信障害の発生を検出することができる。端末装置30は、通知を受けると、受信障害が発生したことを示すメッセージなどの情報を表示装置32に表示してもよい。これにより、ユーザは、衛星信号の受信障害が発生したことにすぐに気付くことができる。ユーザは、表示画像を確認して受信障害の原因をすぐに特定することができる。
【0054】
センシング装置14は、農業機械10に設けられたカメラおよびLiDARセンサの少なくとも一方を含んでいてもよい。その場合、センシング装置14は、カメラから出力された画像データおよび/またはLiDARセンサから出力された点群データに基づいて、センシングデータを生成することができる。そのようなセンシングデータに基づいて、処理装置24は、農業機械10の周囲の環境を鮮明に示す可視化データを生成することができる。
【0055】
センシング装置14は、農業機械10に設けられた複数のカメラを含んでいてもよい。その場合、処理装置24は、複数のカメラから出力された画像を合成することを含む処理によって可視化データを生成してもよい。これにより、農業機械10の周囲の広い範囲(例えば180°、270°、360°など)をカバーする合成画像を示す可視化データを生成することができる。これにより、ユーザが農業機械10の周囲の状況をより詳細に確認できるため、受信障害の原因を特定し易くなる。
【0056】
処理装置24は、センシングデータに基づいて、環境中において受信障害を引き起こす物体を認識し、物体を認識したとき、警告信号を出力してもよい。処理装置24は、例えば、センシングデータが示す画像または点群と、サーバ40から取得した衛星配置データと、GNSSデータに含まれる衛星信号の受信状況を示す情報とに基づいて、受信障害を引き起こす物体を認識することができる。処理装置24は、警告信号を、例えば端末装置30に送信してもよい。端末装置30は、警告信号を受信すると、表示装置32に警告メッセージを表示したり、スピーカから警告音を発出させたりすることができる。これにより、ユーザに受信障害を引き起こす物体が存在することを認識させることができる。処理装置24は、警告信号を農業機械10の制御装置に送信してもよい。農業機械10の制御装置は、警告信号を受信した場合、ブザーを鳴らしたり、警告灯を点灯させたり、走行を停止したりしてもよい。これにより、受信障害が生じ、測位の信頼性が低い場合に、農業機械を安全に停止させたり、ブザーまたは警告灯によって周囲の人などに注意喚起を行うことができる。
【0057】
本開示の他の実施形態による農業機械のための管理方法は、コンピュータによって実行される方法である。当該方法は、GNSS受信機を備える農業機械が走行しているとき、GNSS受信機から出力されたGNSSデータと、農業機械の周囲の環境をセンシングするセンシング装置から出力されたセンシングデータとを関連付けて記憶装置に記憶させることと、GNSSデータおよびセンシングデータに基づいて、GNSS受信機による衛星信号の受信障害が生じているときの農業機械の周囲の環境を示す可視化データを生成して出力することと、を含む。
【0058】
本開示のさらに他の実施形態によるコンピュータプログラムは、コンピュータによって読み取り可能な非一時的な記憶媒体に格納される。当該コンピュータプログラムは、GNSS受信機を備える農業機械が走行しているとき、GNSS受信機から出力されたGNSSデータと、農業機械の周囲の環境をセンシングするセンシング装置から出力されたセンシングデータとを関連付けて記憶装置に記憶させることと、GNSSデータおよびセンシングデータに基づいて、GNSS受信機による衛星信号の受信障害が生じているときの農業機械の周囲の環境を示す可視化データを生成して出力することと、をコンピュータに実行させる。
【0059】
(実施形態1)
以下、農業機械の一例であるトラクタなどの作業車両に本開示の技術を適用した実施形態を説明する。本開示の技術は、トラクタなどの作業車両に限らず、他の種類の農業機械にも適用することができる。
【0060】
図2は、本開示の例示的な実施形態によるシステムの概要を説明するための図である。図2には、作業車両100と、作業車両100を遠隔で監視するための端末装置400と、管理コンピュータ500と、各GNSS衛星の配置情報を配信する配信サーバ600とを備える。本実施形態においては、作業車両100、端末装置400、管理コンピュータ500、および配信サーバ600は、それぞれ、図1に示す農業機械10、端末装置30、管理システム20、サーバ40にそれぞれ対応する。作業車両100および端末装置400は、ネットワーク80を介して管理コンピュータ500と通信することができる。管理コンピュータ500は、ネットワーク80を介して、配信サーバ600から衛星配置データを取得することができる。
【0061】
本実施形態における作業車両100はトラクタである。トラクタは、後部および前部の一方または両方にインプルメントを装着することができる。トラクタは、インプルメントの種類に応じた農作業を行いながら圃場内を走行することができる。本実施形態における技術は、矛盾がない限り、トラクタ以外の農業機械にも同様に適用することができる。
【0062】
作業車両100は、自動運転機能を備える。すなわち、作業車両100は、手動によらず、制御装置の働きによって走行する。本実施形態における制御装置は、作業車両100の内部に設けられ、作業車両100の速度および操舵の両方を制御することができる。
【0063】
作業車両100は、GNSS受信機を含む測位装置110を備える。制御装置は、測位装置110によって特定された作業車両100の位置と、予め記憶装置に記憶された目標経路とに基づいて、作業車両100を自動で走行させる。制御装置は、作業車両100の走行制御に加えて、インプルメントの動作の制御も行う。これにより、作業車両100は、自動で走行しながらインプルメントを用いて作業を実行することができる。
【0064】
作業車両100は、障害物を検出するセンシング装置を備える。センシング装置は、例えばカメラ120を含み得る。カメラ120は、遠隔監視のための画像データを生成する。作業車両100の制御装置は、カメラ120が取得した画像データを、管理コンピュータ500に逐次送信する。センシング装置は、LiDARセンサを含んでいてもよい。作業車両100の制御装置は、LiDARセンサが生成した点群データまたは距離分布データを、管理コンピュータ500に逐次送信してもよい。以下では、センシング装置がカメラ120を含み、カメラ120が生成した画像データをセンシングデータとして出力する場合の例を主に説明する。
【0065】
管理コンピュータ500は、前述の管理システムの機能を実現するコンピュータである。管理コンピュータ500は、例えば、圃場に関する情報をクラウド上で一元管理し、クラウド上のデータを活用して農業を支援するサーバコンピュータであり得る。管理コンピュータ500は、作業車両100の測位装置110から出力されたGNSSデータと、センシング装置から出力されたセンシングデータとを受信し、記憶装置に記憶させる。管理コンピュータ500は、GNSSデータと、センシングデータとに基づいて、作業車両100の周囲の環境を示す可視化データを生成する。管理コンピュータ500は、配信サーバ600から取得した衛星配置データに基づいて、衛星の配置情報を含む可視化データを生成してもよい。管理コンピュータ500は、生成した可視化データを端末装置400に送信する。
【0066】
端末装置400は、作業車両100から離れた場所にいるユーザが使用するコンピュータである。端末装置400は、例えばユーザの自宅または事業所に設けられ得る。端末装置400は、例えばラップトップコンピュータ、スマートフォン、またはタブレットコンピュータなどのモバイル端末でもよいし、デスクトップPC(Personal Computer)など
の据え置き型のコンピュータでもよい。端末装置400は、管理コンピュータ500から送信された可視化データに基づく映像をディスプレイに表示させる。ユーザは、ディスプレイに表示された映像を見ることにより、作業車両100の周囲の状況を把握することができる。
【0067】
以下、本実施形態におけるシステムの構成および動作をより詳細に説明する。
【0068】
[1.構成]
図3は、作業車両100、および作業車両100に連結された作業機(インプルメント)300の例を模式的に示す側面図である。本実施形態における作業車両100は、手動運転モードと自動運転モードの両方の機能を備える。自動運転モードにおいて、作業車両100は無人で走行することができる。作業車両100は、圃場内と圃場外(道路を含む)の両方で自動運転ができるように構成されていてもよい。
【0069】
図3に示すように、作業車両100は、車両本体101と、原動機(エンジン)102と、変速装置(トランスミッション)103とを備える。車両本体101には、タイヤ104(車輪)と、キャビン105とが設けられている。タイヤ104は、一対の前輪104Fと一対の後輪104Rとを含む。キャビン105の内部に運転席107、操舵装置106、操作端末200、および操作のためのスイッチ群が設けられている。作業車両100が圃場内で作業走行を行うとき、前輪104Fおよび後輪104Rの一方または両方は、タイヤではなくクローラであってもよい。
【0070】
図3に示す作業車両100は、複数のカメラ120をさらに備える。カメラ120は、例えば作業車両100の前後左右に設けられ得る。カメラ120は、作業車両100の周囲の環境を撮影し、画像データを生成する。カメラ120が取得した画像は、管理コンピュータ500を介して、遠隔監視を行うための端末装置400に送信される。当該画像は、無人運転時に作業車両100を監視するために用いられる。
【0071】
作業車両100は、測位装置110をさらに備える。測位装置110は、GNSS受信機を含む。GNSS受信機は、GNSS衛星からの信号を受信するアンテナと、アンテナが受信した信号に基づいて作業車両100の位置を計算するプロセッサとを備える。測位装置110は、複数のGNSS衛星から送信される衛星信号を受信し、衛星信号に基づいて測位を行う。本実施形態における測位装置110は、キャビン105の上部に設けられているが、他の位置に設けられていてもよい。
【0072】
測位装置110は、慣性計測装置(IMU)を含み得る。慣性計測装置(IMU)からの信号を利用して位置データを補完することができる。IMUは、作業車両100の傾きおよび微小な動きを計測することができる。IMUによって取得されたデータを用いて、衛星信号に基づく位置データを補完することにより、測位の性能を向上させることができる。
【0073】
図3に示す作業車両100は、さらにLiDARセンサ140を備える。この例におけるLiDARセンサ140は、車両本体101の前面下部に配置されている。LiDARセンサ140の位置は、他の位置であってもよい。LiDARセンサ140は、作業車両100が移動している間、周囲の環境に存在する物体における各計測点の距離および方向、または各計測点の2次元もしくは3次元の座標値を示すセンサデータを繰り返し出力する。LiDARセンサ140から出力されたセンサデータは、作業車両100の制御装置によって処理される。制御装置は、例えばSLAM(Simultaneous Localization and Mapping)などのアルゴリズムを利用して、センサデータに基づく環境地図の生成などの処
理を実行することができる。環境地図の生成は、作業車両100の外部にある管理コンピュータ500などの他のコンピュータで実行されてもよい。LiDARセンサ140から出力されたセンサデータは、障害物の検出にも用いられ得る。
【0074】
測位装置110は、カメラ120またはLiDARセンサ140が取得したデータを測位に利用してもよい。作業車両100が走行する環境内に特徴点として機能する地物が存在する場合、カメラ120またはLiDARセンサ140によって取得されたデータと、予め記憶装置に記録された環境地図とに基づいて、作業車両100の位置を高い精度で推定することができる。カメラ120またはLiDARセンサ140が取得したデータを用いて、衛星信号に基づく位置データを補正または補完することで、より高い精度で作業車両100の位置を特定できる。
【0075】
作業車両100は、複数の障害物センサ130をさらに備える。図3に示す例では、キャビン105の前方および後方に障害物センサ130が設けられている。障害物センサ130は、他の部位にも配置され得る。例えば、車両本体101の側部、前部、および後部の任意の位置に、1つまたは複数の障害物センサ130が設けられ得る。障害物センサ130は、自動走行時に周囲の障害物を検出して停止したり迂回したりするために用いられる。
【0076】
原動機102は、例えばディーゼルエンジンであり得る。ディーゼルエンジンに代えて電動モータが使用されてもよい。変速装置103は、変速によって作業車両100の推進力および移動速度を変化させることができる。変速装置103は、作業車両100の前進と後進とを切り換えることもできる。
【0077】
操舵装置106は、ステアリングホイールと、ステアリングホイールに接続されたステアリングシャフトと、ステアリングホイールによる操舵を補助するパワーステアリング装置とを含む。前輪104Fは操舵輪であり、その切れ角(「操舵角」とも称する。)を変化させることにより、作業車両100の走行方向を変化させることができる。前輪104Fの操舵角は、ステアリングホイールを操作することによって変化させることができる。パワーステアリング装置は、前輪104Fの操舵角を変化させるための補助力を供給する油圧装置または電動モータを含む。自動操舵が行われるときには、作業車両100内に配置された制御装置からの制御により、油圧装置または電動モータの力によって操舵角が自動で調整される。
【0078】
車両本体101の後部には、連結装置108が設けられている。連結装置108は、例えば3点支持装置(「3点リンク」または「3点ヒッチ」とも称する。)、PTO(Power Take Off)軸、ユニバーサルジョイント、および通信ケーブルを含む。連結装置108によって作業機300を作業車両100に着脱することができる。連結装置108は、例えば油圧装置によって3点リンクを昇降させ、作業機300の位置または姿勢を変化させることができる。また、ユニバーサルジョイントを介して作業車両100から作業機300に動力を送ることができる。作業車両100は、作業機300を引きながら、作業機300に所定の作業を実行させることができる。連結装置は、車両本体101の前方に設けられていてもよい。その場合、作業車両100の前方に作業機を接続することができる。
【0079】
図3に示す作業機300は、ロータリ耕耘機であるが、作業機300はロータリ耕耘機に限定されない。例えば、シーダ(播種機)、スプレッダ(施肥機)、移植機、モーア(草刈機)、レーキ作業機、ベーラ(集草機)、ハーベスタ(収穫機)、スプレイヤ、またはハローなどの、任意の作業機を作業車両100に接続して使用することができる。
【0080】
図3に示す作業車両100は、有人運転が可能であるが、無人運転のみに対応していてもよい。その場合には、キャビン105、操舵装置106、および運転席107などの、有人運転にのみ必要な構成要素は、作業車両100に設けられていなくてもよい。無人の作業車両100は、自律走行、またはユーザによる遠隔操作によって走行することができる。
【0081】
図4は、作業車両100、作業機300、端末装置400、および管理コンピュータ500の構成例を示すブロック図である。作業車両100と作業機300は、連結装置108に含まれる通信ケーブルを介して互いに通信することができる。作業車両100、端末装置400、および管理コンピュータ500は、ネットワーク80を介して互いに通信することができる。
【0082】
図4の例における作業車両100は、測位装置110、カメラ120、障害物センサ130、LiDARセンサ140、および操作端末200に加え、作業車両100の動作状態を検出するセンサ群150、制御システム160、通信装置190、操作スイッチ群210、ブザー220、および駆動装置240を備える。測位装置110は、GNSS受信機111と、RTK受信機112と、慣性計測装置(IMU)115と、処理回路116とを備える。センサ群150は、ステアリングホイールセンサ152と、切れ角センサ154、車軸センサ156とを含む。制御システム160は、記憶装置170と、制御装置180とを備える。制御装置180は、複数の電子制御ユニット(ECU)181から185を備える。作業機300は、駆動装置340と、制御装置380と、通信装置390とを備える。端末装置400は、入力装置420と、表示装置430と、記憶装置450と、プロセッサ460と、通信装置490とを備える。管理コンピュータ500は、記憶装置550と、プロセッサ560と、通信装置590とを備える。プロセッサ560は、図1に示す処理装置24に相当する。なお、図4には、作業車両100による自動運転の動作との関連性が相対的に高い構成要素が示されており、それ以外の構成要素の図示は省略されている。
【0083】
測位装置110におけるGNSS受信機111は、複数のGNSS衛星から送信される衛星信号を受信し、衛星信号に基づいてGNSSデータを生成する。GNSSデータは、例えばNMEA-0183フォーマットなどの所定のフォーマットで生成され得る。GNSSデータは、例えば、衛星信号が受信されたそれぞれの衛星の識別番号、仰角、方位角、および受信強度を示す値を含み得る。受信強度は、例えば搬送波雑音電力密度比(C/N0)などの値で表現され得る。GNSSデータは、受信された複数の衛星信号に基づいて計算された作業車両100の位置情報、および当該位置情報の信頼性を示す情報も含み得る。位置情報は、例えば緯度、経度、および平均海水面からの高さなどによって表され得る。位置情報の信頼性は、例えば衛星の配置状況を示すDOP値などによって表され得る。
【0084】
図4に示す測位装置110は、RTK(Real Time Kinematic)-GNSSを利用して
作業車両100の測位を行う。図5は、RTK-GNSSによる測位を行う作業車両100の例を示す概念図である。RTK-GNSSによる測位では、複数のGNSS衛星50から送信される衛星信号に加えて、基準局60から送信される補正信号が利用される。基準局60は、作業車両100が走行する圃場の付近(例えば、作業車両100から1km以内の位置)に設置され得る。基準局60は、複数のGNSS衛星50から受信した衛星信号に基づいて、例えばRTCMフォーマットの補正信号を生成し、測位装置110に送信する。RTK受信機112は、アンテナおよびモデムを含み、基準局60から送信される補正信号を受信する。測位装置110の処理回路116は、補正信号に基づき、GNSS受信機111による測位結果を補正する。RTK-GNSSを用いることにより、例えば誤差数cmの精度で測位を行うことが可能である。緯度、経度および高度の情報を含む位置情報が、RTK-GNSSによる高精度の測位によって取得される。測位装置110は、例えば1秒間に1回から10回程度の頻度で、作業車両100の位置を計算する。
【0085】
なお、測位方法はRTK-GNSSに限らず、必要な精度の位置情報が得られる任意の測位方法(干渉測位法または相対測位法など)を用いることができる。例えば、VRS(Virtual Reference Station)またはDGPS(Differential Global Positioning System)を利用した測位を行ってもよい。基準局60から送信される補正信号を用いなくても
必要な精度の位置情報が得られる場合は、補正信号を用いずに位置情報を生成してもよい。その場合、測位装置110は、RTK受信機112を備えていなくてもよい。
【0086】
本実施形態における測位装置110は、さらにIMU115を備える。IMU115は、3軸加速度センサおよび3軸ジャイロスコープを備える。IMU115は、3軸地磁気センサなどの方位センサを備えていてもよい。IMU115は、モーションセンサとして機能し、作業車両100の加速度、速度、変位、および姿勢などの諸量を示す信号を出力することができる。処理回路116は、衛星信号および補正信号に加えて、IMU115から出力された信号に基づいて、作業車両100の位置および向きをより高い精度で推定することができる。IMU115から出力された信号は、衛星信号および補正信号に基づいて計算される位置の補正または補完に用いられ得る。IMU115は、GNSS受信機111よりも高い頻度で信号を出力する。その高頻度の信号を利用して、処理回路116は、作業車両100の位置および向きをより高い頻度(例えば、10Hz以上)で計測することができる。IMU115に代えて、3軸加速度センサおよび3軸ジャイロスコープを別々に設けてもよい。IMU115は、測位装置110とは別の装置として設けられていてもよい。
【0087】
図4の例では、処理回路116は、GNSS受信機111、RTK受信機112、およびIMU115から出力された信号に基づいて作業車両100の位置を計算する。処理回路116は、さらに、カメラ120またはLiDARセンサ140が取得したデータに基づいて作業車両100の位置を推定または補正してもよい。カメラ120またはLiDARセンサ140が取得したデータを利用することにより、測位の精度をさらに高めることができる。
【0088】
位置の計算は、測位装置110に限らず、他の装置によって実行されてもよい。例えば、制御装置180または外部のコンピュータが、測位に必要な各受信機および各センサの出力データを取得し、それらのデータに基づいて作業車両100の位置を推定してもよい。
【0089】
カメラ120は、作業車両100の周囲の環境を撮影する撮像装置である。カメラ120は、例えば、CCD(Charge Coupled Device)またはCMOS(Complementary MetalOxide Semiconductor)などのイメージセンサを備える。カメラ120は、他にも、1つ
以上のレンズを含む光学系、および信号処理回路を備え得る。カメラ120は、作業車両100の走行中、作業車両100の周囲の環境を撮影し、画像(例えば動画)のデータを生成する。カメラ120は、例えば、3フレーム/秒(fps: frames per second)以
上のフレームレートで動画を撮影することができる。カメラ120によって生成された画像は、例えば遠隔の監視者が端末装置400を用いて作業車両100の周囲の環境を確認するときに利用され得る。カメラ120によって生成された画像は、測位または障害物の検出に利用されてもよい。図3に示すように、複数のカメラ120が作業車両100の異なる位置に設けられていてもよいし、単数のカメラが設けられていてもよい。可視光画像を生成する可視カメラと、赤外線画像を生成する赤外カメラとが別々に設けられていてもよい。可視カメラと赤外カメラの両方が監視用の画像を生成するカメラとして設けられていてもよい。赤外カメラは、夜間において障害物の検出にも用いられ得る。
【0090】
障害物センサ130は、作業車両100の周囲に存在する物体を検出する。障害物センサ130は、例えばレーザスキャナまたは超音波ソナーを備え得る。障害物センサ130は、障害物センサ130から所定の距離よりも近くに物体が存在する場合に、障害物が存在することを示す信号を出力する。複数の障害物センサ130が作業車両100の異なる位置に設けられていてもよい。例えば、複数のレーザスキャナと、複数の超音波ソナーとが、作業車両100の異なる位置に配置されていてもよい。そのような多くの障害物センサ130を備えることにより、作業車両100の周囲の障害物の監視における死角を減らすことができる。
【0091】
ステアリングホイールセンサ152は、作業車両100のステアリングホイールの回転角を計測する。切れ角センサ154は、操舵輪である前輪104Fの切れ角を計測する。ステアリングホイールセンサ152および切れ角センサ154による計測値は、制御装置180による操舵制御に利用される。
【0092】
車軸センサ156は、タイヤ104に接続された車軸の回転速度、すなわち単位時間あたりの回転数を計測する。車軸センサ156は、例えば磁気抵抗素子(MR)、ホール素子、または電磁ピックアップを利用したセンサであり得る。車軸センサ156は、例えば、車軸の1分あたりの回転数(単位:rpm)を示す数値を出力する。車軸センサ156は、作業車両100の速度を計測するために使用される。
【0093】
駆動装置240は、前述の原動機102、変速装置103、操舵装置106、および連結装置108などの、作業車両100の走行および作業機300の駆動に必要な各種の装置を含む。原動機102は、例えばディーゼル機関などの内燃機関を備え得る。駆動装置240は、内燃機関に代えて、あるいは内燃機関とともに、トラクション用の電動モータを備えていてもよい。
【0094】
記憶装置170は、フラッシュメモリまたは磁気ディスクなどの1つ以上の記憶媒体を含む。記憶装置170は、測位装置110、カメラ120、障害物センサ130、センサ群150、および制御装置180が生成する各種のデータを記憶する。記憶装置170が記憶するデータには、作業車両100が走行する環境内の地図データ(「環境地図」とも称する。)、および自動運転における目標経路のデータが含まれ得る。環境地図および目標経路は、制御装置180自身が生成してもよいし、管理コンピュータ500におけるプロセッサ560が生成してもよい。記憶装置170は、制御装置180における各ECUに、後述する各種の動作を実行させるコンピュータプログラムも記憶する。そのようなコンピュータプログラムは、記憶媒体(例えば半導体メモリまたは光ディスク等)または電気通信回線(例えばインターネット)を介して作業車両100に提供され得る。そのようなコンピュータプログラムが、商用ソフトウェアとして販売されてもよい。
【0095】
制御装置180は、複数のECUを含む。複数のECUは、例えば、速度制御用のECU181、ステアリング制御用のECU182、作業機制御用のECU183、自動運転制御用のECU184、通信制御用のECU185を含む。ECU181は、駆動装置240に含まれる原動機102、変速装置103、およびブレーキを制御することによって作業車両100の速度を制御する。ECU182は、ステアリングホイールセンサ152の計測値に基づいて、操舵装置106に含まれる油圧装置または電動モータを制御することによって作業車両100のステアリングを制御する。ECU183は、作業機300に所望の動作を実行させるために、連結装置108に含まれる3点リンクおよびPTO軸などの動作を制御する。ECU183はまた、作業機300の動作を制御する信号を生成し、その信号を通信装置190から作業機300に送信する。ECU184は、測位装置110、ステアリングホイールセンサ152、切れ角センサ154、および車軸センサ156から出力される信号に基づいて、自動運転を実現するための演算および制御を行う。自動運転中、ECU184は、ECU181に速度変更の指令値を送り、ECU182に操舵角変更の指令値を送る。ECU181は、速度変更の指令値に基づいて原動機102、変速装置103、またはブレーキを制御することによって作業車両100の速度を変化させる。ECU182は、操舵角変更の指令値に基づいて操舵装置106を制御することによって操舵角を変化させる。ECU185は、通信装置190による他の装置との通信を制御する。ECU185は、作業車両100の走行中、GNSS受信機111から出力されたGNSSデータと、カメラ120から出力された画像データとを、管理コンピュータ500に送信するように通信装置190を制御する。ECU185は、GNSSデータの全体ではなく一部のみを管理コンピュータ500に送信してもよい。例えば、GNSSデータのうち、各衛星信号の受信強度を示す情報、または測位の信頼性を示す情報のみが管理コンピュータ500に送信されてもよい。管理コンピュータ500に送信されるデータには、処理回路116が計算した作業車両100の推定位置を示す情報が含まれていてもよい。
【0096】
これらのECUの働きにより、制御装置180は、自動運転および他の装置との通信を実現する。自動運転時において、制御装置180は、測位装置110によって計測または推定された作業車両100の位置と、記憶装置170に記憶された目標経路に基づいて、駆動装置240を制御する。これにより、制御装置180は、作業車両100を目標経路に沿って走行させることができる。
【0097】
制御装置180に含まれる複数のECUは、例えばCAN(Controller Area Network
)などのビークルバス規格に従って、相互に通信することができる。CANに代えて、車載イーサネット(登録商標)などの、より高速の通信方式が用いられてもよい。図4において、ECU181から185のそれぞれは、個別のブロックとして示されているが、これらのそれぞれの機能が、複数のECUによって実現されていてもよい。ECU181から185の少なくとも一部の機能を統合した車載コンピュータが設けられていてもよい。制御装置180は、ECU181から185以外のECUを備えていてもよく、機能に応じて任意の個数のECUが設けられ得る。各ECUは、1つ以上のプロセッサを含む処理回路を備える。
【0098】
通信装置190は、作業機300、管理コンピュータ500、および端末装置400と通信を行うためのアンテナおよび回路を含む装置である。通信装置190は、例えばISOBUS-TIM等のISOBUS規格に準拠した信号の送受信を、作業機300の通信装置390との間で実行する回路を含む。これにより、作業機300に所望の動作を実行させたり、作業機300から情報を取得したりすることができる。通信装置190は、さらに、ネットワーク80を介した信号の送受信を、端末装置400の通信装置490および管理コンピュータ500の通信装置590との間で実行するためのアンテナおよび通信回路を含み得る。ネットワーク80は、例えば、3G、4Gもしくは5Gなどのセルラー移動体通信網およびインターネットを含み得る。通信装置190は、作業車両100の近くにいる監視者が使用する携帯端末と通信する機能を備えていてもよい。そのような携帯端末との間では、Wi-Fi(登録商標)、3G、4Gもしくは5Gなどのセルラー移動体通信、またはBluetooth(登録商標)などの、任意の無線通信規格に準拠した通信が行われ得る。
【0099】
ブザー220は、異常を報知するための警告音を発する音声出力装置である。ブザー220は、例えば、自動運転時に、障害物が検出された場合に警告音を発する。ブザー220は、制御装置180によって制御される。
【0100】
操作端末200は、作業車両100の走行および作業機300の動作に関する操作をユーザが実行するための端末であり、バーチャルターミナル(VT)とも称される。操作端末200は、タッチスクリーンなどの表示装置、および/または1つ以上のボタンを備え得る。表示装置は、例えば液晶または有機発光ダイオード(OLED)などのディスプレイであり得る。ユーザは、操作端末200を操作することにより、例えば自動運転モードのオン/オフの切り替え、目標経路の設定、環境地図の記録または編集、および作業機300のオン/オフの切り替えなどの種々の操作を実行することができる。これらの操作の少なくとも一部は、操作スイッチ群210を操作することによっても実現され得る。操作端末200は、作業車両100から取り外せるように構成されていてもよい。作業車両100から離れた場所にいるユーザが、取り外された操作端末200を操作して作業車両100の動作を制御してもよい。ユーザは、操作端末200の代わりに、端末装置400などの、必要なアプリケーションソフトウェアがインストールされたコンピュータを操作して作業車両100の動作を制御してもよい。
【0101】
作業機300における駆動装置340は、作業機300が所定の作業を実行するために必要な動作を行う。駆動装置340は、例えば油圧装置、電気モータ、またはポンプなどの、作業機300の用途に応じた装置を含む。制御装置380は、駆動装置340の動作を制御する。制御装置380は、通信装置390を介して作業車両100から送信された信号に応答して、駆動装置340に各種の動作を実行させる。また、作業機300の状態に応じた信号を通信装置390から作業車両100に送信することもできる。
【0102】
端末装置400における入力装置420は、ユーザからの入力操作を受け付ける装置である。入力装置420は、例えばマウス、キーボード、または1つ以上のボタンもしくはスイッチを含み得る。表示装置430は、例えば液晶またはOLEDなどのディスプレイであり得る。入力装置420および表示装置430は、タッチスクリーンによって実現されていてもよい。記憶装置450は、半導体記憶媒体および磁気記憶媒体などの、1つ以上の記憶媒体を含む。記憶装置450は、プロセッサ460によって実行されるコンピュータプログラム、およびプロセッサ460によって生成された各種のデータを記憶する。プロセッサ460は、記憶装置450に格納されたコンピュータプログラムを実行することによって動作する。プロセッサ460は、ユーザが入力装置420を用いた操作に応答して、管理コンピュータ500によって生成された可視化データに基づく画像を表示装置430に表示させる。
【0103】
管理コンピュータ500における記憶装置550は、半導体記憶媒体および磁気記憶媒体などの、1つ以上の記憶媒体を含む。記憶装置550は、プロセッサ560によって実行されるコンピュータプログラム、およびプロセッサ560によって生成された各種のデータを記憶する。記憶装置550は、GNSS受信機111から出力されたGNSSデータに含まれる情報と、カメラ120から出力された画像データとを関連付けて記憶する。例えば、記憶装置550は、GNSSデータに含まれる衛星信号の受信レベルを示す情報と、画像データと、それらが取得された日時とを関連付けたデータベースを記憶してもよい。当該データベースには、作業車両100の識別番号の情報も併せて記録されてもよい。
【0104】
プロセッサ560は、記憶装置550に格納されたコンピュータプログラムを実行することによって動作する。プロセッサ560は、記憶装置550に格納されたデータベースを参照して、作業車両100の周囲の環境を示す可視化データを生成することができる。
【0105】
図6は、キャビン105の内部に設けられる操作端末200および操作スイッチ群210の例を示す模式図である。キャビン105の内部には、ユーザが操作可能な複数のスイッチを含むスイッチ群210が配置されている。操作スイッチ群210は、例えば、主変速または副変速の変速段を選択するためのスイッチ、自動運転モードと手動運転モードとを切り替えるためのスイッチ、前進と後進とを切り替えるためのスイッチ、および作業機300を昇降するためのスイッチ等を含み得る。なお、作業車両100が無人運転のみを行い、有人運転の機能を備えていない場合、作業車両100が操作スイッチ群210を備えている必要はない。
【0106】
[2.動作]
次に、作業車両100の動作の例を説明する。
【0107】
[2-1.自動走行動作]
図7は、圃場内を目標経路に沿って自動で走行する作業車両100の例を模式的に示す図である。この例において、圃場は、作業車両100が作業機300を用いて作業を行う作業領域72と、圃場の外周縁付近に位置する枕地74とを含む。圃場の地図上でどの領域が作業領域72および枕地74に該当するかは、ユーザによって事前に設定され得る。この例における目標経路は、並列する複数の主経路P1と、複数の主経路P1を接続する複数の旋回経路P2とを含む。主経路P1は作業領域72内に位置し、旋回経路P2は枕地74内に位置する。図7に示す各主経路P1は直線状の経路であるが、各主経路P1は曲線状の部分を含んでいてもよい。図7における破線は、作業機300の作業幅を表している。作業幅は、予め設定され、記憶装置170に記録される。作業幅は、ユーザが操作端末200を操作することによって設定され、記録され得る。あるいは、作業幅は、作業機300を作業車両100に接続したときに自動で認識され、記録されてもよい。複数の主経路P1の間隔は、作業幅に合わせて設定され得る。目標経路は、自動運転が開始される前に、ユーザの操作に基づいて作成され得る。目標経路は、例えば圃場内の作業領域72の全体をカバーするように作成され得る。作業車両100は、図7に示すような目標経路に沿って、作業の開始地点から作業の終了地点まで、往復を繰り返しながら自動で走行する。なお、図7に示す目標経路は一例に過ぎず、目標経路の定め方は任意である。
【0108】
次に、制御装置180による自動運転時の制御の例を説明する。
【0109】
図8は、制御装置180によって実行される自動運転時の操舵制御の動作の例を示すフローチャートである。制御装置180は、作業車両100の走行中、図8に示すステップS121からS125の動作を実行することにより、自動操舵を行う。速度に関しては、例えば予め設定された速度に維持される。制御装置180は、作業車両100の走行中、測位装置110によって生成された作業車両100の位置を示すデータを取得する(ステップS121)。次に、制御装置180は、作業車両100の位置と、目標経路との偏差を算出する(ステップS122)。偏差は、その時点における作業車両100の位置と、目標経路との距離を表す。制御装置180は、算出した位置の偏差が予め設定された閾値を超えるか否かを判定する(ステップS123)。偏差が閾値を超える場合、制御装置180は、偏差が小さくなるように、駆動装置240に含まれる操舵装置の制御パラメータを変更することにより、操舵角を変更する。ステップS123において偏差が閾値を超えない場合、ステップS124の動作は省略される。続くステップS125において、制御装置180は、動作終了の指令を受けたか否かを判定する。動作終了の指令は、例えばユーザが遠隔操作で自動運転の停止を指示したり、作業車両100が目的地に到達したりした場合に出され得る。動作終了の指令が出されていない場合、ステップS121に戻り、新たに計測された作業車両100の位置に基づいて、同様の動作を実行する。制御装置180は、動作終了の指令が出されるまで、ステップS121からS125の動作を繰り返す。上記の動作は、制御装置180におけるECU182、184によって実行される。
【0110】
図8に示す例では、制御装置180は、測位装置110によって特定された作業車両100の位置と目標経路との偏差のみに基づいて駆動装置240を制御するが、方位の偏差もさらに考慮して制御してもよい。例えば、制御装置180は、測位装置110によって特定された作業車両100の向きと、目標経路の方向との角度差である方位偏差が予め設定された閾値を超える場合に、その偏差に応じて駆動装置240の操舵装置の制御パラメータ(例えば操舵角)を変更してもよい。
【0111】
以下、図9Aから図9Dを参照しながら、制御装置180による操舵制御の例をより具体的に説明する。
【0112】
図9Aは、目標経路Pに沿って走行する作業車両100の例を示す図である。図9Bは、目標経路Pから右にシフトした位置にある作業車両100の例を示す図である。図9Cは、目標経路Pから左にシフトした位置にある作業車両100の例を示す図である。図9Dは、目標経路Pに対して傾斜した方向を向いている作業車両100の例を示す図である。これらの図において、測位装置110によって計測された作業車両100の位置および向きを示すポーズがr(x,y,θ)と表現されている。(x,y)は、地球に固定された2次元座標系であるXY座標系における作業車両100の基準点の位置を表す座標である。図9Aから図9Dに示す例において、作業車両100の基準点はキャビン上のGNSSアンテナが設置された位置にあるが、基準点の位置は任意である。θは、作業車両100の計測された向きを表す角度である。図示されている例においては、目標経路PがY軸に平行であるが、一般的には目標経路PはY軸に平行であるとは限らない。
【0113】
図9Aに示すように、作業車両100の位置および向きが目標経路Pから外れていない場合には、制御装置180は、作業車両100の操舵角および速度を変更せずに維持する。
【0114】
図9Bに示すように、作業車両100の位置が目標経路Pから右側にシフトしている場合には、制御装置180は、作業車両100の走行方向が左寄りに傾き、経路Pに近付くように操舵角を変更する。このとき、操舵角に加えて速度も併せて変更してもよい。操舵角の大きさは、例えば位置偏差Δxの大きさに応じて調整され得る。
【0115】
図9Cに示すように、作業車両100の位置が目標経路Pから左側にシフトしている場合には、制御装置180は、作業車両100の走行方向が右寄りに傾き、経路Pに近付くように操舵角を変更する。この場合も、操舵角に加えて速度も併せて変更してもよい。操舵角の変化量は、例えば位置偏差Δxの大きさに応じて調整され得る。
【0116】
図9Dに示すように、作業車両100の位置は目標経路Pから大きく外れていないが、向きが目標経路Pの方向とは異なる場合は、制御装置180は、方位偏差Δθが小さくなるように操舵角を変更する。この場合も、操舵角に加えて速度も併せて変更してもよい。操舵角の大きさは、例えば位置偏差Δxおよび方位偏差Δθのそれぞれの大きさに応じて調整され得る。例えば、位置偏差Δxの絶対値が小さいほど方位偏差Δθに応じた操舵角の変化量を大きくしてもよい。位置偏差Δxの絶対値が大きい場合には、経路Pに戻るために操舵角を大きく変化させることになるため、必然的に方位偏差Δθの絶対値が大きくなる。逆に、位置偏差Δxの絶対値が小さい場合には、方位偏差Δθをゼロに近づけることが必要である。このため、操舵角を決定するための方位偏差Δθの重み(すなわち制御ゲイン)を相対的に大きくすることが妥当である。
【0117】
作業車両100の操舵制御および速度制御には、PID制御またはMPC制御(モデル予測制御)などの制御技術が適用され得る。これらの制御技術を適用することにより、作業車両100を目標経路Pに近付ける制御を滑らかにすることができる。
【0118】
なお、走行中に1つ以上の障害物センサ130によって障害物が検出された場合には、制御装置180は、作業車両100を停止させる。制御装置180は、障害物が検出された場合に障害物を回避するように駆動装置240を制御してもよい。制御装置180は、LiDARセンサ140から出力されたデータに基づいて、作業車両100から比較的離れた位置に存在する物体(例えば、他の車両または歩行者等)を検出することもできる。制御装置180は、検出された物体を回避するように速度制御および操舵制御を行うことにより、公道における自動走行を実現することができる。
【0119】
[2-2.走行ログデータの記録および可視化データの生成]
次に、走行ログデータの記録および可視化データの生成処理の例を説明する。
【0120】
本実施形態では、作業車両100は、無人で圃場内および圃場外を自動で走行できる。記憶装置170には、圃場内および圃場外の公道を含む環境地図および目標経路の情報が予め記録される。環境地図および目標経路は、例えば制御装置180、または管理コンピュータ500のプロセッサ560が生成する。作業車両100が公道を走行する場合、作業車両100は、作業機300を上昇させた状態で、カメラ120およびLiDARセンサ140などのセンシング装置を用いて周囲をセンシングしながら、目標経路に沿って走行する。
【0121】
制御装置180におけるECU185は、作業車両100が自動走行を行っている間、測位装置110から出力されたデータと、カメラ120から出力された画像データとを、走行ログデータとして管理コンピュータ500に送信する。管理コンピュータ500のプロセッサ560は、受信した走行ログデータを記憶装置550に記録する。
【0122】
図10は、走行ログデータの一例を模式的に示す図である。この例における走行ログデータは、日および時刻81、作業車両100の推定位置82、衛星信号の受信強度83、測位の信頼度84、および作業車両100の周囲の画像85の情報を含む。このうち、推定位置82、受信強度83、測位の信頼度84は、測位装置110から出力されたGNSSデータに基づく情報である。画像85は、カメラ120から出力された画像データすなわちセンシングデータの情報である。このような走行ログデータが、作業車両100の走行中、作業車両100から送信され、記憶装置550に記憶され得る。図10に示す走行ログデータの形式は一例にすぎず、適宜変形が可能である。例えば、走行ログデータは、測位信頼度84の情報を含んでいなくてもよい。日および時刻81の情報は、制御装置180が付与する代わりに管理コンピュータ500のプロセッサ560が付与してもよい。走行ログデータは、作業車両100の識別番号を含んでいてもよい。また、センシングデータとして、LiDARセンサ140から出力されたデータが用いられる場合、画像85ではなく点群などのデータがログデータに含まれ得る。
【0123】
プロセッサ560は、走行ログデータに基づいて、作業車両100の周囲の環境を示す画像データを可視化データとして生成する。プロセッサ560は、所定の条件に基づいて可視化データを生成する。例えば、プロセッサ560は、受信障害が生じたと判断したとき、可視化データを生成してもよい。プロセッサ560は、例えば、図10に示すログデータに含まれる受信強度83または測位の信頼度84に基づいて衛星信号の受信障害が生じているか否かを判断することができる。あるいは、プロセッサ560は、ユーザが端末装置400を操作して可視化データの生成を要求したとき、可視化データを生成してもよい。
【0124】
図11は、複数の作業車両100が圃場70の内部および圃場70の外側の道路76上を自動走行している状況の例を模式的に示す図である。複数の作業車両100の各々は、走行中、例えば一定の周期で走行ログデータを管理コンピュータ500に送信する。作業車両100は、走行ログデータを比較的短い周期(例えば、0.1秒毎など)で記憶装置170に蓄積しておき、一定の時間(例えば、1秒、10秒など)が経過するごとにまとめて走行ログデータを管理コンピュータ500に送信してもよい。管理コンピュータ500の記憶装置550は、各作業車両100から送信されたログデータを記憶する。プロセッサ560は、作業車両100ごとに、ログデータに基づいて特定の時刻における可視化データを生成することができる。
【0125】
作業車両100が走行する環境中には、衛星信号の受信を妨げる障害物が存在することがある。特に、作業車両100が道路76を走行する場合、障害物によって衛星信号の受信が妨げられる機会が多くなる。障害物は、例えば、道路の脇に生えている樹木、大型の車両、または高層の建造物などであり得る。これらの障害物の中には、目標経路を作成した時点では存在しなかったものも含まれ得る。例えば、時間の経過とともに生長する樹木などの植物は、目標経路を作成した時点では受信障害を引き起こさなかったとしても、時間の経過とともに受信障害物を引き起こすようになる場合がある。
【0126】
図12Aは、受信障害が生じ得る環境の例を示す図である。この例では、作業車両100は、道路76に沿って自動で走行している。作業車両100の走行経路の付近に、樹木90が生い茂っている。一部の樹木90の枝葉は、作業車両100を覆い、衛星信号の受信を妨げる。このような環境では、衛星50から送信される信号の多くが樹木の枝によって遮られる。その結果、衛星信号の受信強度が全体的に低下し、測位の信頼性が低下する。
【0127】
図12Bは、受信障害が生じ得る環境の他の例を示す図である。この例では、作業車両100は、圃場70のうち、道路76に近い位置で自動走行している。この圃場70は、道路76よりも低い位置にある。道路76上にトラックなどの大型車両92が停車している。大型車両92によって一部の衛星からの信号が遮られる。その結果、一部の衛星信号の受信強度が低下し、測位の信頼性が低下する可能性がある。
【0128】
このような状況において、管理コンピュータ500のプロセッサ560は、作業車両100から取得したログデータに含まれる衛星信号の受信状況を示す情報に基づいて、受信障害が生じていることを検出する。例えば、各衛星信号の受信強度の値に基づいて受信障害が生じていることを検出することができる。
【0129】
図13Aおよび図13Bは、衛星信号の受信強度の値に基づいて受信障害の有無を判断する方法の例を説明するための図である。図13Aは、受信障害が生じていない場合における各衛星信号の受信強度の例を示している。図13Bは、受信障害が生じている場合における各衛星信号の受信強度の例を示している。この例では、12個の衛星からの衛星信号が受信され、受信強度がC/N0の値で表されている。なお、これは一例であり、衛星信号が受信され得る衛星の数および受信強度の表現はシステムに依存する。プロセッサ560は、例えば、受信強度が予め設定された基準値を超える衛星の数が閾値(例えば4)以上であるか否かによって受信障害の有無を判断できる。図13Aおよび図13Bにおいて、受信強度の基準値の例が破線で示されている。閾値が4である場合、図13Aの例では、受信強度が基準値を超える衛星の数が5個であり、閾値以上である。よって、このような場合、プロセッサ560は、受信障害が生じていないと判断できる。一方、図13Bの例では、受信強度が基準値を超える衛星の数が1個であり、閾値よりも少ない。よって、このような場合、プロセッサ560は、受信障害が生じていると判断できる。なお、このような判断方法は一例に過ぎない。プロセッサ560は、他の方法によって受信障害の有無を判断してもよい。例えば、図10の例のように、作業車両100から測位の信頼度を示す値がログデータとして送信される場合、信頼度の値に基づいて受信障害が生じているか否かを判断してもよい。
【0130】
プロセッサ560は、受信障害が生じている場合、そのことを示す情報を含む可視化データを生成する。プロセッサ560は、例えば、受信強度が低下していることを示すメッセージと、その時点における衛星の配置情報とを含む画像データを可視化データとして生成することができる。衛星の配置情報は、配信サーバ600から取得した衛星配置データに基づいて生成される。衛星配置データには、各衛星の軌道の情報が含まれている。プロセッサ560は、作業車両100の推定位置と、各衛星の軌道とに基づいて、作業車両100の推定位置から見たときの各衛星の方位(例えば仰角および方位角)を算出することができる。プロセッサ560は、算出した各衛星の方位に基づいて、各衛星がどの方位に位置するかを示すマークを含む画像を示す可視化データを生成することができる。プロセッサ560は、例えば端末装置400からの要求に応じて、可視化データを通信装置590から端末装置400に送信する。端末装置400の表示装置430は、受信された可視化データに基づく画像を表示する。
【0131】
図14は、表示装置430に表示される画像の例を示す図である。この例では、作業車両100の周囲の環境の画像に、受信強度が低下している旨のメッセージを含むポップアップ57と、その時点における衛星の配置を示すマーク55とが重畳されて表示されている。ポップアップ57は、ユーザに受信障害が生じていることを示す通知として機能する。このような通知が表示されることにより、作業車両100を監視するユーザに、受信障害の発生を素早く通知することができる。表示装置430は、ポップアップ57に加えて、スピーカから警告音を発出させてもよい。図14の例では、カメラ120が撮影した映像に重ねて、衛星の配置を示す複数のマーク55が表示されている。これらのマーク55は、その時点で衛星がどの方位に位置しているかを示している。ユーザが衛星の配置を把握し易いように、図14の例では、仰角および方位角を把握するための白線も表示されている。このような表示により、ユーザは、画像中のどの障害物が衛星信号の受信を妨げているのかを視覚的に把握することができる。これにより、例えば作業車両100の経路を再設定したり、経路上の障害物を除去したりするなどの行動をとることができる。
【0132】
図15は、表示装置430に表示される画像の他の例を示す図である。この例では、ポップアップ57に代えて、衛星信号の受信レベルを示すゲージ58が表示されている。管理コンピュータ500のプロセッサ560は、この例のように、受信障害の発生または受信レベルの低下をゲージ58で表現する可視化データを生成してもよい。図15の例では、受信レベルが5段階中の1であり、受信状況が悪いことを示している。プロセッサ560は、例えば、作業車両100から受信した複数の衛星信号の受信強度の値を入力値とする関数または推定モデルを用いて、受信レベルの値を算出または推定することができる。
【0133】
図14または図15に示すような画像は、作業車両100の走行中、端末装置400の表示装置430に常時表示されてもよいし、受信障害が生じているときだけ表示されてもよい。端末装置400のユーザが管理コンピュータ500に要求したときだけ、そのような画像が表示されてもよい。ユーザは、端末装置400を操作することにより、過去に作業車両100が走行したときに収集されたログデータに基づいて特定の日時における可視化データを生成するように管理コンピュータ500に要求することもできる。管理コンピュータ500のプロセッサ560は、要求された特定の日時におけるログデータに基づいて、上記のような可視化データを生成して端末装置400に送信することができる。
【0134】
管理コンピュータ500は、衛星信号の受信強度の値が所定値以下になった場所(位置)における画像などを示す第1可視化データと、当該場所において過去に撮像した画像などを示す第2可視化データとを、端末装置400に送信してもよい。端末装置400の表示装置430は、第1可視化データに基づく画像と、第2可視化データに基づく画像とを並べて表示してもよい。
【0135】
図16は、第1可視化データに基づく第1画像51と、第2可視化データに基づく第2画像52とを並べて表示する表示画面の一例を示す図である。図16の例では、第1画像51および第2画像52のそれぞれについて、撮影された日時と、受信強度が低いか良好かを示すメッセージとが表示されている。これらの表示に加えて、第1画像51および第2画像52が撮影された場所を示す地図などの情報が表示されてもよい。この例において、新たに取得された第1可視化データに基づく第1画像51には多くの樹木が含まれている。一方、過去の第2可視化データに基づく第2画像52では、第1画像51に比べて樹木の枝葉が少ない。このことから、作業者または管理者は、第1画像51に示された多くの樹木の枝葉が障害物として機能し、受信強度を低下させたことを把握することができる。
【0136】
図17は、本実施形態における管理コンピュータ500のプロセッサ560の動作の例を示すフローチャートである。この例では、端末装置400から可視化データの要求を受けたときにプロセッサ560が可視化データを生成する。プロセッサ560は、まず、端末装置400から可視化データの要求を受けたか否かを判断する(ステップS200)。要求を受けた場合、プロセッサ560は、記憶装置550に記録されたログデータから、衛星信号の受信強度データと、カメラ120によって生成された画像データとを取得する(ステップS201)。次に、プロセッサ560は、サーバ600から、衛星配置データを取得する(ステップS202)。ステップS201およびS202の順序は逆であってもよい。プロセッサ560は、受信強度データ、画像データ、および衛星配置データに基づいて、可視化データを生成する(ステップS203)。例えば、プロセッサ560は、図14または図15に示すような、受信レベルに関する情報と、衛星の配置情報とを含む画像データを可視化データとして生成することができる。この処理において、プロセッサ560は、異なる位置に配置された複数のカメラ120から出力された画像を合成した合成画像を示す可視化データを生成してもよい。例えば、プロセッサ560は、複数の画像を合成することにより、作業車両100の周囲360°にわたるサラウンドビュー画像を示す可視化データを生成してもよい。そのような可視化データにより、ユーザが農業機械10の周囲の状況をより詳細に把握することができる。プロセッサ560は、生成した可視化データを端末装置400に送信する。端末装置400の表示装置430は、受信した可視化データに基づく画像を表示する。
【0137】
以上のような動作により、ユーザは、可視化データに基づく画像を見て、受信障害が生じているか否か、およびその時点での作業車両100の周囲の環境、および衛星の配置を確認することができる。
【0138】
図17に示す例では、プロセッサ560は、可視化データの要求を受けたときだけ、可視化データを生成する。このような動作に代えて、プロセッサ560は、例えば作業車両100が自動走行しているときは常時、ステップS201からS204の動作を実行してもよい。その場合、プロセッサ560は、受信障害が生じている期間における作業車両100の周囲の環境の動画像を示すデータを可視化データとして生成する。プロセッサ560は、受信障害が生じているときの可視化データと、受信障害が生じていないときの可視化データとを、区別可能な態様で出力する。例えば、受信障害が生じているときは、図14に示すような画像を示す可視化データを生成し、受信障害が生じていないときは、図14に示す画像からポップアップ57を除いた画像を示す可視化データを生成してもよい。あるいは、図15に示すような画像を示す可視化データを生成することによって、ゲージ58の状態によって受信障害が生じているか否かを区別できるようにしてもよい。プロセッサ560は、受信障害が生じていない場合、衛星の配置を示すマーク55を除いた画像を示す可視化データを生成してもよい。
【0139】
プロセッサ560は、図16に示す例のように、受信障害が生じたときの第1可視化データに基づく画像と、同じ場所で受信障害が生じていなかったときの過去の第2可視化データに基づく画像とを並べて表示させるための表示データを生成してもよい。そのような表示データに基づく画像により、受信障害の原因をさらに特定しやすくすることができる。
【0140】
プロセッサ560は、作業車両100が自動で走行している期間のうち、受信障害が生じている期間を含む一部の期間についてのみ、ログデータを記憶装置550に記憶させてもよい。その場合、プロセッサ560は、当該一部の期間についてのみ、可視化データを生成する。そのような動作により、記憶装置550に記録されるデータ量を抑えることができる。
【0141】
プロセッサ560は、カメラ120が取得した画像から、受信障害を引き起こす物体を認識したとき、警告信号を出力するように構成されていてもよい。例えば、図14に示す例においては、特定の画像認識アルゴリズムによって画像中に樹木が存在することを認識できる。プロセッサ560は、衛星配置データと、画像中に認識された樹木などの障害物の配置とに基づいて、当該障害物によって受信障害が引き起こされていると推定することができる。そのような場合、プロセッサ560は、例えば端末装置400に警告信号を送信してもよい。端末装置400のプロセッサ460は、警告信号を受信した場合、表示装置430に警告メッセージを表示したり、スピーカから警告音を鳴らしてもよい。これにより、ユーザに注意喚起を行うことができる。プロセッサ560は、作業車両100に警告信号を送信してもよい。作業車両100の制御装置180は、警告信号を受信した場合、ブザー220を鳴らしたり、警告灯を点灯させたり、走行を停止したりしてもよい。これにより、受信障害が生じ、測位の信頼性が低い場合に、作業車両100を安全に停止させたり、周囲の人などに注意喚起を行うことができる。
【0142】
上記の実施形態では、カメラ120によって生成された画像データがセンシングデータとして用いられる。画像データに代えて、または画像データに加えて、LiDARセンサ140から出力された点群データがセンシングデータとして用いられてもよい。点群データは、作業車両100の周囲の環境の計測点の3次元分布を示す。よって、管理コンピュータ500のプロセッサ560は、点群データに基づいて、作業車両100の周囲に存在する物体の分布を示す可視化データを生成することができる。
【0143】
上述した実施形態では、可視化データを端末装置400が取得して、取得した可視化データを当該端末装置400が表示する。このような構成に限定されず、代えて、例えば、可視化データを作業車両100の通信装置190が取得し、取得した可視化データを操作端末200が表示してもよい。
【0144】
上記の実施形態における管理コンピュータ500が実行する動作の少なくとも一部は、作業車両100または端末装置400によって実行されてもよい。例えば、作業車両100における制御装置180または端末装置400のプロセッサ460が、ログデータに基づく可視化データの生成を行ってもよい。その場合、作業車両100または端末装置400が本開示における管理システムとして機能する。
【0145】
上記の実施形態における作業車両100はトラクタであるが、トラクタ以外の車両または車両以外の農業機械に前述の各実施形態の技術を適用してもよい。例えば、収穫機、田植機、乗用管理機、野菜移植機、草刈機、または農業用移動ロボットなどの農業機械に、前述の各実施形態の技術を適用してもよい。
【0146】
以上の実施形態における自動運転制御、ログデータの送信、または可視化データの生成を行う装置を、それらの機能を有しない農業機械に後から取り付けることもできる。そのような装置は、農業機械とは独立して製造および販売され得る。そのような装置で使用されるコンピュータプログラムも、農業機械とは独立して製造および販売され得る。コンピュータプログラムは、例えばコンピュータが読み取り可能な非一時的な記憶媒体に格納されて提供され得る。コンピュータプログラムは、電気通信回線(例えばインターネット)を介したダウンロードによっても提供され得る。
【産業上の利用可能性】
【0147】
本開示の技術は、例えばトラクタ、収穫機、田植機、乗用管理機、野菜移植機、草刈機、播種機、施肥機、または農業用ロボットなどの農業機械のための管理システムに適用することができる。
【符号の説明】
【0148】
10:農業機械、12:GNSS受信機、14:センシング装置、20:管理システム、22:記憶装置、24:処理装置、30:表示装置、40:サーバ、50:GNSS衛星、55:衛星マーク、57:ポップアップ、58:受信レベルゲージ、60:基準局、70:圃場、72:作業領域、74:枕地、76:道路、80:ネットワーク、90:樹木、92:大型車両、100:作業車両、101:車両本体、102:原動機(エンジン)、103:変速装置(トランスミッション)、104:タイヤ、105:キャビン、106:操舵装置、107:運転席、108:連結装置、110:測位装置、111:GNSS受信機、112:RTK受信機、115:慣性計測装置(IMU)、116:処理回路、120:カメラ、130:障害物センサ、140:LiDARセンサ、150:センサ群、152:ステアリングホイールセンサ、154:切れ角センサ、156:回転センサ、160:制御システム、170:記憶装置、180:制御装置、181、182、183、184、185:ECU、190:通信装置、200:操作端末、210:操作スイッチ群、220:ブザー、240:駆動装置、300:作業機、340:駆動装置、380:制御装置、390:通信装置、400:端末装置、420:入力装置、430:表示装置、450:記憶装置、460:プロセッサ、490:通信装置、500:管理コンピュータ、560:プロセッサ、570:記憶装置、590:通信装置、600:配信サーバ
図1
図2
図3
図4
図5
図6
図7
図8
図9A
図9B
図9C
図9D
図10
図11
図12A
図12B
図13A
図13B
図14
図15
図16
図17