(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-09-18
(45)【発行日】2025-09-29
(54)【発明の名称】農業機械、センシングシステム、センシング方法、遠隔操縦システム、および制御方法
(51)【国際特許分類】
A01B 69/00 20060101AFI20250919BHJP
G05D 1/226 20240101ALI20250919BHJP
G05D 1/43 20240101ALI20250919BHJP
H04Q 9/00 20060101ALI20250919BHJP
H04M 11/00 20060101ALI20250919BHJP
G01S 17/931 20200101ALI20250919BHJP
【FI】
A01B69/00 303Z
G05D1/226
G05D1/43
H04Q9/00 301B
H04Q9/00 311J
H04M11/00 301
A01B69/00 301
A01B69/00 303G
A01B69/00 303F
A01B69/00 303J
G01S17/931
(21)【出願番号】P 2023570732
(86)(22)【出願日】2022-11-21
(86)【国際出願番号】 JP2022043041
(87)【国際公開番号】W WO2023127353
(87)【国際公開日】2023-07-06
【審査請求日】2024-06-06
(31)【優先権主張番号】P 2021213738
(32)【優先日】2021-12-28
(33)【優先権主張国・地域又は機関】JP
(31)【優先権主張番号】P 2021213739
(32)【優先日】2021-12-28
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000001052
【氏名又は名称】株式会社クボタ
(74)【代理人】
【識別番号】100101683
【氏名又は名称】奥田 誠司
(74)【代理人】
【識別番号】100155000
【氏名又は名称】喜多 修市
(74)【代理人】
【識別番号】100139930
【氏名又は名称】山下 亮司
(74)【代理人】
【識別番号】100188813
【氏名又は名称】川喜田 徹
(74)【代理人】
【識別番号】100202197
【氏名又は名称】村瀬 成康
(74)【代理人】
【識別番号】100202142
【氏名又は名称】北 倫子
(72)【発明者】
【氏名】松崎 優之
【審査官】田中 成彦
(56)【参考文献】
【文献】特開2021-064118(JP,A)
【文献】特開2014-071778(JP,A)
【文献】特開2015-233270(JP,A)
【文献】国際公開第2021/065371(WO,A1)
【文献】特開2019-175254(JP,A)
【文献】特開2018-152785(JP,A)
【文献】特開2018-180771(JP,A)
【文献】特開2022-148921(JP,A)
【文献】特開2021-180468(JP,A)
【文献】特開2021-052334(JP,A)
【文献】特開2018-019182(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G05D 1/00 - 1/87
A01B 69/00
H04Q 9/00
H04M 11/00
G01S 17/931
(57)【特許請求の範囲】
【請求項1】
農業機械の遠隔操縦システムであって、
前記農業機械の周囲の環境をセンシングしてセンシングデータを出力するセンシング装置と、
前記センシング装置から出力された前記センシングデータに基づく送信データを、前記農業機械に操縦指令を送信する遠隔装置に送信する通信装置と、
前記通信装置から前記遠隔装置への通信速度が低下した場合に、前記遠隔装置が受信した前記送信データに基づく前記農業機械の周囲の状況を示す表示画像の劣化による前記遠隔操縦への影響を低減するための補償動作を、前記農業機械および前記センシング装置の少なくとも一方に実行させる制御装置と、
を備え、
前記制御装置は、前記農業機械が方向転換を行うときの操舵角を、前記操縦指令によって指定された操舵角よりも低下させる動作を、前記補償動作として前記農業機械に実行させる、遠隔操縦システム。
【請求項2】
前記制御装置は、前記農業機械の移動速度を、前記操縦指令によって指定された速度よりも低下させる動作を、前記補償動作として前記農業機械に実行させる、請求項
1に記載の遠隔操縦システム。
【請求項3】
前記制御装置は、
前記農業機械の周囲の環境を可視化する可視化データを前記センシングデータに基づいて生成し、
前記通信装置が前記送信データを前記遠隔装置に送信する前に、前記可視化データの中で時間的な変化が少ない領域に対応する前記センシングデータのデータ量を低下させる動作を、前記補償動作として前記センシング装置に実行させる、請求項
1または2に記載の遠隔操縦システム。
【請求項4】
前記センシング装置は、
前記農業機械の進行方向の周囲の環境をセンシングする第1センサと、
前記農業機械の進行方向とは異なる方向の周囲の環境をセンシングする第2センサとを含み、
前記制御装置は、前記第2センサが出力するセンシングデータのデータ量を減少させて前記第1センサが出力するセンシングデータのデータ量よりも小さくする動作を、前記補償動作として前記第2センサに実行させる、請求項
1または2に記載の遠隔操縦システム。
【請求項5】
前記制御装置は、前記農業機械が農道または圃場を走行しており、且つ、前記通信速度が低下したことを検知した場合に、前記補償動作を前記センシング装置および前記農業機械の少なくとも一方に実行させる、請求項
1または2に記載の遠隔操縦システム。
【請求項6】
前記制御装置は、前記通信速度が閾値よりも低下した場合に、前記補償動作を前記農業機械および前記センシング装置の少なくとも一方に実行させる、請求項
1または2に記載の遠隔操縦システム。
【請求項7】
前記制御装置は、
前記通信速度が第1閾値よりも低下した場合に、第1補償動作を前記農業機械および前記センシング装置の少なくとも一方に実行させ、
前記通信速度が第1閾値よりも小さい第2閾値よりも低下した場合に、前記第1補償動作とは異なる第2補償動作を前記農業機械および前記センシング装置の少なくとも一方に実行させる、請求項
1または2に記載の遠隔操縦システム。
【請求項8】
前記遠隔装置をさらに備える、請求項
1または2に記載の遠隔操縦システム。
【請求項9】
前記表示画像を表示する表示装置をさらに備える、請求項
1または2に記載の遠隔操縦システム。
【請求項10】
請求項
1または2に記載の遠隔操縦システムと、
前記制御装置によって制御される走行装置と、
を備える農業機械。
【請求項11】
農業機械を遠隔操縦するための遠隔操縦システムにおいて用いられる制御方法であって、
前記農業機械の周囲の環境をセンシングするセンシング装置によって生成されたセンシングデータを取得するステップと、
前記センシングデータに基づく送信データを、前記農業機械に操縦指令を送信する遠隔装置に送信するステップと、
通信装置から前記遠隔装置への通信速度が低下した場合に、前記送信データに基づく前記農業機械の周囲の状況を示す表示画像の劣化による前記遠隔操縦への影響を低減するための補償動作を、前記農業機械および前記センシング装置の少なくとも一方に実行させるステップと、
を含み、
前記補償動作を実行させるステップは、前記農業機械が方向転換を行うときの操舵角を、前記操縦指令によって指定された操舵角よりも低下させる動作を、前記補償動作として前記農業機械に実行させることを含む、制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、農業機械、センシングシステム、センシング方法、遠隔操縦システム、および制御方法に関する。
【背景技術】
【0002】
圃場で使用される農業機械の自動化に向けた研究開発が進められている。例えば、GNSS(Global Navigation Satellite System)などの測位システムを利用して圃場内を自動で走行するトラクタ、コンバイン、および田植機などの作業車両が実用化されている。圃場内だけでなく、圃場外でも自動で走行する作業車両の研究開発も進められている。農業機械を遠隔で操作する技術の開発も進められている。
【0003】
特許文献1および2は、道路を挟んで互いに離れた2つの圃場間で無人の作業車両を自動走行させるシステムの例を開示している。特許文献3は、自律走行を行う作業車両を遠隔で操作する装置の例を開示している。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2021-073602号公報
【文献】特開2021-029218号公報
【文献】国際公開第2016/017367号
【発明の概要】
【発明が解決しようとする課題】
【0005】
本開示は、通信装置と遠隔装置との間の通信速度に応じたデータ転送を適切に行うための技術、および農業機械の遠隔操縦を支援するための技術の少なくとも1つを提供する。
【課題を解決するための手段】
【0006】
本開示の一態様による農業機械は、車両本体と、前記車両本体の周囲の環境をセンシングしてセンシングデータを出力するセンシング装置と、前記センシング装置から出力される前記センシングデータを遠隔装置に送信する通信装置とを備え、前記センシング装置は、前記通信装置から前記遠隔装置への通信速度に応じて、前記通信装置に出力する前記センシングデータのデータ量を変更する。
【0007】
本開示の一態様によるセンシングシステムは、農業機械の周囲の環境をセンシングしてセンシングデータを出力するセンシング装置と、前記センシング装置から出力される前記センシングデータを遠隔装置に送信する通信装置とを備え、前記センシング装置は、前記通信装置から前記遠隔装置への通信速度に応じて、前記通信装置に出力する前記センシングデータのデータ量を変更する。
【0008】
本開示の一態様によるセンシング方法は、農業機械の周囲の環境をセンシングしてセンシングデータを出力するセンシング装置から前記センシングデータを取得するステップと、前記センシングデータを通信装置から遠隔装置に送信するステップと、前記センシング装置に、前記通信装置から前記遠隔装置への通信速度に応じて前記センシングデータのデータ量を変更させるステップと、を含む。
【0009】
本開示の一態様による農業機械の遠隔操縦システムは、前記農業機械の周囲の環境をセンシングしてセンシングデータを出力するセンシング装置と、前記センシング装置から出力された前記センシングデータに基づく送信データを、前記農業機械に操縦指令を送信する遠隔装置に送信する通信装置と、前記通信装置から前記遠隔装置への通信速度が低下した場合に、前記遠隔装置が受信した前記送信データに基づく前記農業機械の周囲の状況を示す表示画像の劣化による前記遠隔操縦への影響を低減するための補償動作を、前記農業機械および前記センシング装置の少なくとも一方に実行させる制御装置と、を備える。
【0010】
本開示の包括的または具体的な態様は、装置、システム、方法、集積回路、コンピュータプログラム、もしくはコンピュータが読み取り可能な非一時的記憶媒体、またはこれらの任意の組み合わせによって実現され得る。コンピュータが読み取り可能な記憶媒体は、揮発性の記憶媒体を含んでいてもよいし、不揮発性の記憶媒体を含んでいてもよい。装置は、複数の装置で構成されていてもよい。装置が2つ以上の装置で構成される場合、当該2つ以上の装置は、1つの機器内に配置されてもよいし、分離した2つ以上の機器内に分かれて配置されていてもよい。
【発明の効果】
【0011】
本開示の実施形態によれば、通信装置と遠隔装置との間の通信速度に応じたデータ転送を適切に行うことができる。あるいは、農業機械における通信装置と遠隔装置との間の通信速度が低下した場合における遠隔操縦への影響を低減することができる。
【図面の簡単な説明】
【0012】
【
図1A】農業管理システムの構成例を示す図である。
【
図1B】農業管理システムの他の構成例を示す図である。
【
図2】作業車両、および作業車両に連結されたインプルメントの例を模式的に示す側面図である。
【
図3】作業車両およびインプルメントの構成例を示すブロック図である。
【
図4】RTK-GNSSによる測位を行う作業車両の例を示す概念図である。
【
図5】キャビンの内部に設けられる操作端末および操作スイッチ群の例を示す図である。
【
図6】管理装置および遠隔装置のハードウェア構成を例示するブロック図である。
【
図7】圃場内を目標経路に沿って自動で走行する作業車両の例を模式的に示す図である。
【
図8】自動運転時の操舵制御の動作の例を示すフローチャートである。
【
図9A】目標経路Pに沿って走行する作業車両の例を示す図である。
【
図9B】目標経路Pから右にシフトした位置にある作業車両の例を示す図である。
【
図9C】目標経路Pから左にシフトした位置にある作業車両の例を示す図である。
【
図9D】目標経路Pに対して傾斜した方向を向いている作業車両の例を示す図である。
【
図10】複数の作業車両が圃場の内部および圃場の外側の道を自動走行している状況の例を模式的に示す図である。
【
図11A】自動走行モードにおける表示画面の一例を示す図である。
【
図11B】遠隔操作モードにおける表示画面の一例を示す図である。
【
図11C】遠隔操作モードにおける表示画面の他の例を示す図である。
【
図12】通信装置の通信速度の変化、および、通信速度の変化に応じた、センシング装置から出力されるセンシングテータのデータ量の変化の様子を例示するグラフである。
【
図13】通信装置の通信速度に応じたセンシング装置の動作の状態遷移の様子を説明するための図である。
【
図14】解像度を維持しつつ画像サイズを縮小することを説明するための図である。
【
図15A】水平方向におけるセンシングの第1角度範囲θ
1で設定されるセンシング領域を模式的に示す図である。
【
図15B】水平方向におけるセンシングの第2角度範囲θ
2で設定されるセンシング領域を模式的に示す図である。
【
図16A】垂直方向におけるセンシングの第3角度範囲θ
3で設定されるセンシング領域を模式的に示す図である。
【
図16B】垂直方向におけるセンシングの第4角度範囲θ
4で設定されるセンシング領域を模式的に示す図である。
【
図17A】LiDARセンサからの最大検知距離が第1距離L
1のセンシング領域を模式的に示す図である。
【
図17B】LiDARセンサからの最大検知距離が第2距離L
2のセンシング領域を模式的に示す図である。
【
図18】通信速度に応じた制御動作の一例を示すフローチャートである。
【
図19A】速度指令値と作業車両の実際の速度との関係の一例を示す図である。
【
図19B】速度指令値と作業車両の実際の速度との関係の他の例を示す図である。
【
図20】通信速度に応じた制御動作の他の例を示すフローチャートである。
【
図21A】操舵角指令値と作業車両の実際の操舵角との関係の一例を示す図である。
【
図21B】操舵角指令値と作業車両の実際の操舵角との関係の他の例を示す図である。
【
図22】補償動作時の制御における操縦指令の値(指令値)に対する目標値の比(目標値/指令値)を例示する図である。
【
図23】通信速度に応じた制御動作のさらに他の例を示すフローチャートである。
【
図24】通信装置の通信速度の時間変化と、センシングデータのデータ量の時間変化の一例を示す図である。
【
図25A】作業車両の進行方向側を撮影する第1カメラと、進行方向の反対側を撮影する第2カメラとによるセンシングの様子を模式的に示す図である。
【
図25B】作業車両の進行方向側をセンシングする第1LiDARセンサと、進行方向の反対側をセンシングする第2LiDARセンサによるセンシングの様子を模式的に示す図である。
【発明を実施するための形態】
【0013】
(用語の定義)
本開示において「農業機械」は、農業用途で使用される機械を意味する。農業機械の例は、トラクタ、収穫機、田植機、乗用管理機、野菜移植機、草刈機、播種機、施肥機、農業用ドローン(すなわち無人航空機:UAV)、および農業用移動ロボットを含む。トラクタのような作業車両が単独で「農業機械」として機能する場合だけでなく、作業車両に装着または牽引される作業機(インプルメント)と作業車両の全体が1つの「農業機械」として機能する場合がある。農業機械は、圃場内の地面に対して、耕耘、播種、防除、施肥、作物の植え付け、または収穫などの農作業を行う。これらの農作業を「対地作業」または単に「作業」と称することがある。車両型の農業機械が農作業を行いながら走行することを「作業走行」と称することがある。
【0014】
「自動運転」は、運転者による手動操作によらず、制御装置の働きによって農業機械の移動を制御することを意味する。自動運転を行う農業機械は「自動運転農機」または「ロボット農機」と呼ばれることがある。自動運転中、農業機械の移動だけでなく、農作業の動作(例えば作業機の動作)も自動で制御されてもよい。農業機械が車両型の機械である場合、自動運転によって農業機械が走行することを「自動走行」と称する。制御装置は、農業機械の移動に必要な操舵、移動速度の調整、移動の開始および停止の少なくとも1つを制御し得る。作業機が装着された作業車両を制御する場合、制御装置は、作業機の昇降、作業機の動作の開始および停止などの動作を制御してもよい。自動運転による移動には、農業機械が所定の経路に沿って目的地に向かう移動のみならず、追尾目標に追従する移動も含まれ得る。自動運転を行う農業機械は、部分的にユーザの指示に基づいて移動してもよい。また、自動運転を行う農業機械は、自動運転モードに加えて、運転者の手動操作によって移動する手動運転モードで動作してもよい。手動によらず、制御装置の働きによって農業機械の操舵を行うことを「自動操舵」と称する。制御装置の一部または全部が農業機械の外部にあってもよい。農業機械の外部にある制御装置と農業機械との間では、制御信号、コマンド、またはデータなどの通信が行われ得る。自動運転を行う農業機械は、人がその農業機械の移動の制御に関与することなく、周囲の環境をセンシングしながら自律的に移動してもよい。自律的な移動が可能な農業機械は、無人で圃場内または圃場外(例えば道路)を走行することができる。自律移動中に、障害物の検出および障害物の回避動作を行ってもよい。
【0015】
「遠隔操作」または「遠隔操縦」は、遠隔操作装置を用いた農業機械の操作を意味する。遠隔操作は、農業機械から離れた場所にいるオペレータ(例えばシステム管理者または農業機械のユーザ)によって行われ得る。「遠隔操作走行」は、遠隔操作装置から送信された信号に応答して農業機械が走行することを意味する。遠隔操作装置は、例えばパーソナルコンピュータ(PC)、ラップトップコンピュータ、タブレットコンピュータ、スマートフォン、またはリモートコントローラ(リモコン)などの、信号の送信機能を備えた装置を含み得る。オペレータは、遠隔操作装置を操作することにより、発進、停止、加速、減速、または走行方向の変更等の指令を農業機械に与えることができる。これらの指令に応答して制御装置が農業機械の走行を制御するモードを「遠隔操作モード」と称する。
【0016】
「遠隔装置」は、農業機械から離れた場所にある通信機能を備えた装置である。遠隔装置は、例えば、オペレータが農業機械を遠隔操縦するために使用する遠隔操作装置であり得る。遠隔装置は、表示装置(ディスプレイ)を含んでいてもよいし、表示装置に接続されてもよい。表示装置は、例えば、農業機械が備えるカメラまたはLiDARセンサなどのセンシング装置から出力されたセンサデータ(「センシングデータ」ともいう。)に基づく、農業機械の周囲の状況を可視化した画像(または映像)を表示することができる。オペレータは、表示された画像を見ながら、農業機械の周囲の状況を把握し、必要に応じて遠隔操作装置を操作して農業機械を遠隔操縦することができる。
【0017】
「通信速度」は、データ通信において単位時間あたりに伝送されるデータ量を意味する。通信速度を、「単位時間あたりの通信量」とも称する。通信装置から遠隔装置への通信速度は、通信装置から遠隔装置に送信されるデータの単位時間あたりのデータ量を意味する。通信速度は、例えば、bps(pits per second)、Mbps(megabits per second)、Gbps(gigabits per second)等の単位で表され得る。
【0018】
「作業計画」は、農業機械によって実行される1つ以上の農作業の予定を定めるデータである。作業計画は、例えば、農業機械によって実行される農作業の順序および各農作業が行われる圃場を示す情報を含み得る。作業計画は、各農作業が行われる予定の日および時刻の情報を含んでいてもよい。各農作業が行われる予定の日および時刻の情報を含む作業計画を、特に「作業スケジュール」または単に「スケジュール」と称する。作業スケジュールは、各作業日に行われる各農作業の開始予定時刻および/または終了予定時刻の情報を含み得る。作業計画あるいは作業スケジュールは、農作業ごとに、作業の内容、使用されるインプルメント、および/または、使用される農業資材の種類および分量などの情報を含んでいてもよい。ここで「農業資材」とは、農業機械が行う農作業で使用される物資を意味する。農業資材を単に「資材」と呼ぶことがある。農業資材は、例えば農薬、肥料、種、または苗などの、農作業によって消費される物資を含み得る。作業計画は、農業機械と通信して農作業を管理する処理装置、または農業機械に搭載された処理装置によって作成され得る。処理装置は、例えば、ユーザ(農業経営者または農作業者など)が端末装置を操作して入力した情報に基づいて作業計画を作成することができる。本明細書において、農業機械と通信して農作業を管理する処理装置を「管理装置」と称する。管理装置は、複数の農業機械の農作業を管理してもよい。その場合、管理装置は、複数の農業機械の各々が実行する各農作業に関する情報を含む作業計画を作成してもよい。作業計画は、各農業機械によってダウンロードされ、記憶装置に格納され得る。各農業機械は、作業計画に従って、予定された農作業を実行するために、自動で圃場に向かい、農作業を実行することができる。
【0019】
「環境地図」は、農業機械が移動する環境に存在する物の位置または領域を所定の座標系によって表現したデータである。環境地図を単に「地図」または「地図データ」と称することがある。環境地図を規定する座標系は、例えば、地球に対して固定された地理座標系などのワールド座標系であり得る。環境地図は、環境に存在する物について、位置以外の情報(例えば、属性情報その他の情報)を含んでいてもよい。環境地図は、点群地図または格子地図など、さまざまな形式の地図を含む。環境地図を構築する過程で生成または処理される局所地図または部分地図のデータについても、「地図」または「地図データ」と呼ぶ。
【0020】
「農道」は、主に農業目的で利用される道を意味する。農道は、アスファルトで舗装された道に限らず、土または砂利等で覆われた未舗装の道も含む。農道は、車両型の農業機械(例えばトラクタ等の作業車両)のみが専ら通行可能な道(私道を含む)と、一般の車両(乗用車、トラック、バス等)も通行可能な道路とを含む。作業車両は、農道に加えて一般道を自動で走行してもよい。一般道は、一般の車両の交通のために整備された道路である。
【0021】
(実施形態)
以下、本開示の実施形態を説明する。ただし、必要以上に詳細な説明は省略することがある。例えば、既によく知られた事項の詳細な説明および実質的に同一の構成に関する重複する説明を省略することがある。これは、以下の説明が不必要に冗長になることを避け、当業者の理解を容易にするためである。なお、発明者は、当業者が本開示を十分に理解するために添付図面および以下の説明を提供するのであって、これらによって特許請求の範囲に記載の主題を限定することを意図するものではない。以下の説明において、同一または類似の機能を有する構成要素については、同一の参照符号を付している。
【0022】
以下の実施形態は例示であり、本開示の技術は以下の実施形態に限定されない。例えば、以下の実施形態で示される数値、形状、材料、ステップ、ステップの順序、表示画面のレイアウトなどは、あくまでも一例であり、技術的に矛盾が生じない限りにおいて種々の改変が可能である。また、技術的に矛盾が生じない限りにおいて、一の態様と他の態様とを組み合わせることが可能である。
【0023】
以下、農業機械の一例であるトラクタなどの作業車両に本開示の技術を適用した実施形態を主に説明する。本開示の技術は、トラクタに限らず、遠隔操作走行が可能な他の種類の農業機械(例えば、田植機、コンバイン、収穫機、乗用管理機、野菜移植機、草刈機、播種機、施肥機、農業用ドローン、および農業用移動ロボット等)にも適用することができる。以下、一例として、自動走行機能および遠隔操作機能を実現するための走行制御システムが作業車両に搭載されている実施形態を説明する。走行制御システムの少なくとも一部の機能は、作業車両と通信を行う他の装置(例えば、遠隔操縦を行う遠隔装置、またはサーバ等)に実装されていてもよい。
【0024】
図1Aは、本開示の例示的な実施形態による農業管理システムの概要を説明するための図である。
図1Aに示す農業管理システムは、作業車両100と、遠隔装置400と、管理装置600とを備える。遠隔装置400は、作業車両100を遠隔で監視するユーザが使用するコンピュータである。管理装置600は、農業管理システムを運営する事業者が管理するコンピュータである。作業車両100、遠隔装置400、および管理装置600は、ネットワーク80を介して互いに通信することができる。
図1Aには1台の作業車両100が例示されているが、農業管理システムは、複数の作業車両またはその他の農業機械を含んでいてもよい。本実施形態における農業管理システムは、作業車両100の遠隔操縦システムを含む。遠隔操縦システムは、作業車両100におけるセンシング装置、通信装置、および制御装置と、遠隔装置400とを含む。本実施形態における遠隔操縦システムの全体うちの、作業車両100におけるセンシング装置および通信装置を含む部分を「センシングシステム」と呼ぶ場合がある。すわなち、センシングシステムは遠隔操縦システムの一部である。
【0025】
本実施形態における作業車両100はトラクタである。作業車両100は、後部および前部の一方または両方にインプルメントを装着することができる。作業車両100は、インプルメントの種類に応じた農作業を行いながら圃場内を走行することができる。作業車両100は、インプルメントを装着しない状態で圃場内または圃場外を走行してもよい。
【0026】
本実施形態における作業車両100は、自動運転機能を備える。すなわち、作業車両100は、手動によらず、制御装置の働きによって走行することができる。本実施形態における制御装置は、作業車両100の内部に設けられ、作業車両100の速度および操舵の両方を制御することができる。作業車両100は、圃場内に限らず、圃場外(例えば道路)を自動走行することもできる。制御装置が作業車両100を自動走行させるモードを「自動走行モード」と称する。
【0027】
作業車両100は、さらに、遠隔操作走行の機能も備える。制御装置は、ユーザによる遠隔装置400を用いた遠隔操作に応答して作業車両100の走行装置を制御することにより、走行速度および走行方向を変化させることができる。作業車両100は、圃場内に限らず、圃場外でも遠隔操作走行を実行することができる。制御装置が作業車両100を遠隔操作走行させるモードを「遠隔操作モード」と称する。
【0028】
作業車両100は、GNSS受信機およびLiDARセンサなどの、測位あるいは自己位置推定のために利用される装置を備える。自動走行モードにおいて、作業車両100の制御装置は、作業車両100の位置と、管理装置600によって生成された目標経路の情報とに基づいて、作業車両100を自動で走行させる。制御装置は、作業車両100の走行制御に加えて、インプルメントの動作の制御も行う。これにより、作業車両100は、圃場内を自動で走行しながらインプルメントを用いて農作業を実行することができる。さらに、作業車両100は、圃場外の道(例えば、農道または一般道)を目標経路に沿って自動で走行することができる。作業車両100は、圃場外の道に沿って自動走行を行うとき、カメラまたはLiDARセンサなどのセンシング装置から出力されるデータに基づいて、障害物を回避可能な局所的経路を目標経路に沿って生成しながら走行する。作業車両100は、圃場内においては、上記と同様に局所的経路を生成しながら走行してもよいし、局所的経路を生成せずに目標経路に沿って走行し、障害物が検出された場合に停止する、という動作を行ってもよい。
【0029】
管理装置600は、作業車両100による農作業を管理するコンピュータである。管理装置600は、例えば圃場に関する情報をクラウド上で一元管理し、クラウド上のデータを活用して農業を支援するサーバコンピュータであり得る。管理装置600は、例えば、作業車両100の作業計画を作成し、その作業計画に従って、作業車両100の目標経路を生成することができる。あるいは、管理装置600は、ユーザによる遠隔装置400を用いた操作に応答して、作業車両100の目標経路を生成してもよい。
【0030】
遠隔装置400は、作業車両100から離れた場所にいるユーザが使用するコンピュータである。
図1Aに示す遠隔装置400はラップトップコンピュータであるが、これに限定されない。遠隔装置400は、デスクトップPC(personal computer)などの据え置き型のコンピュータであってもよいし、スマートフォンまたはタブレットコンピュータなどのモバイル端末でもよい。
【0031】
遠隔装置400は、作業車両100を遠隔監視したり、作業車両100を遠隔操作したりするために用いられ得る。例えば、遠隔装置400は、作業車両100が備える1台以上のカメラが撮影した映像をディスプレイに表示させることができる。ユーザは、その映像を見て、作業車両100の周囲の状況を確認し、作業車両100に停止、発進、加速、減速、または走行方向の変更等の指示を送ることができる。
【0032】
図1Bは、農業管理システムの他の例を示す図である。
図1Bに示す農業管理システムは、複数の作業車両100を含む。
図1Bには3台の作業車両100が例示されているが、作業車両100の台数は任意である。作業車両100とは異なる農業機械(例えば農業用ドローン等)がシステムに含まれていてもよい。
図1Bの例における遠隔装置400は、家庭用の端末装置ではなく、農業機械の遠隔監視センターに設けられたコンピュータである。遠隔装置400は、遠隔監視センターのオペレータが使用する遠隔操縦機500および1台以上のディスプレイ430に接続され得る。
図1Bには5台のディスプレイ430が例示されているが、ディスプレイ430の台数は任意である。遠隔操縦機500は、作業車両100を遠隔操縦するための各種の機器(例えば、ステアリングホイール、アクセルペダル、左右のブレーキペダル、クラッチペダル、および各種のスイッチまたはレバー類等)を含み得る。
図1Bに示す遠隔操縦機500は、作業車両100の手動運転に使用される操作機器を模した装置であるが、遠隔操縦機500はこのような装置に限定されない。例えば、ジョイスティックのようなコントローラによって遠隔操縦が行われてもよい。各ディスプレイ430は、例えば、作業車両100が農作業を行う圃場を含む領域の環境地図、および作業車両100に搭載された1つ以上のカメラによって撮影された画像(例えば動画像)を表示することができる。オペレータは、ディスプレイ430に表示された画像を見ながら、作業車両100の周囲の状況を把握することができる。オペレータは、各作業車両100の周囲の状況に応じて、自動走行モードと遠隔操作モードとを切り替えたり、各農業機械を遠隔操縦することができる。
【0033】
以下、本実施形態におけるシステムの構成および動作をより詳細に説明する。
【0034】
[1.構成]
図2は、作業車両100、および作業車両100に連結されたインプルメント300の例を模式的に示す側面図である。本実施形態における作業車両100は、手動運転モードと自動運転モードの両方で動作することができる。自動運転モードにおいて、作業車両100は無人で走行することができる。作業車両100は、圃場内と圃場外の両方で自動運転が可能である。自動運転モードにおいて、制御装置は、予め設定された目標経路に沿って作業車両100を走行させる自動走行モードと、ユーザによる遠隔装置400を用いた操作に応答して作業車両100を走行させる遠隔操作モードとで動作することができる。ユーザは、例えば作業車両100のユーザまたは遠隔監視センターにおけるオペレータであり得る。自動走行モードと遠隔操作モードとの切り替えは、ユーザが遠隔装置400を用いて所定の操作を行うことで実行され得る。例えば、自動走行モードにおいて、ユーザが遠隔装置400を用いて遠隔操作の開始を指示する操作を行うと、遠隔操作モードに移行する。また、遠隔操作モードにおいて、ユーザが遠隔装置400を用いて自動走行の開始を指示する操作を行うと、自動走行モードに移行する。
【0035】
図2に示すように、作業車両100は、車両本体101と、原動機(エンジン)102と、変速装置(トランスミッション)103とを備える。車両本体101には、タイヤ付きの車輪104を含む走行装置と、キャビン105とが設けられている。走行装置は、4つの車輪104と、4つの車輪を回転させる車軸、および各車軸の制動を行う制動装置(ブレーキ)を含む。車輪104は、一対の前輪104Fと一対の後輪104Rとを含む。キャビン105の内部に運転席107、操舵装置106、操作端末200、および操作のためのスイッチ群が設けられている。作業車両100が圃場内で作業走行を行うとき、前輪104Fおよび後輪104Rの一方または両方は、タイヤ付き車輪ではなく無限軌道(track)を装着した複数の車輪(クローラ)に置き換えられてもよい。
【0036】
作業車両100は、前輪104Fおよび後輪104Rの全てを駆動輪とする四輪駆動(4W)モードと、前輪104Fまたは後輪104Rを駆動輪とする二輪駆動(2W)モードとを切り替えることができる。作業車両100は、左右のブレーキを連結した状態と、連結を解除した状態とを切り替えることもできる。左右のブレーキの連結を解除することにより、左右の車輪104を独立して制動することができる。これにより、旋回半径の小さい旋回が可能である。
【0037】
作業車両100は、作業車両100の周囲をセンシングする複数のセンシング装置を備える。
図2の例では、センシング装置は、複数のカメラ120と、LiDARセンサ140と、複数の障害物センサ130とを含む。センシング装置は、カメラ120、LiDARセンサ140、障害物センサ130のうちの一部のみを含んでいてもよい。センシング装置は、車両本体の周囲の環境をセンシングしてセンシングデータを出力する。
【0038】
カメラ120は、例えば作業車両100の前後左右に設けられ得る。カメラ120は、作業車両100の周囲の環境を撮影し、画像データを生成する。本明細書において、カメラ120が生成する画像データを単に「画像」と称することがある。また、撮影して画像データを生成することを「画像を取得する」と表現することがある。カメラ120が取得した画像は、遠隔監視を行うための遠隔装置400に送信され得る。当該画像は、無人運転時に作業車両100を監視するために用いられ得る。カメラ120は、作業車両100が圃場外の道(農道または一般道)を走行するときに、周辺の地物もしくは障害物、白線、標識、または表示などを認識するための画像を生成する用途でも使用され得る。
【0039】
図2の例におけるLiDARセンサ140は、車両本体101の前面下部に配置されている。LiDARセンサ140は、他の位置に設けられていてもよい。LiDARセンサ140は、作業車両100が主に圃場外を走行している間、周囲の環境に存在する物体の各計測点までの距離および方向、または各計測点の2次元もしくは3次元の座標値を示すセンサデータを繰り返し出力する。LiDARセンサ140から出力されたセンサデータは、作業車両100の制御装置によって処理される。制御装置は、センサデータと、環境地図とのマッチングにより、作業車両100の自己位置推定を行うことができる。制御装置は、さらに、センサデータに基づいて、作業車両100の周辺に存在する障害物などの物体を検出し、作業車両100が実際に進むべき局所的経路を、目標経路(大域的経路とも呼ぶ。)に沿って生成することができる。制御装置は、例えばSLAM(Simultaneous Localization and Mapping)などのアルゴリズムを利用して、環境地図を生成または編集することもできる。作業車両100は、異なる位置に異なる向きで配置された複数のLiDARセンサを備えていてもよい。
【0040】
図2に示す複数の障害物センサ130は、キャビン105の前部および後部に設けられている。障害物センサ130は、他の部位にも配置され得る。例えば、車両本体101の側部、前部、および後部の任意の位置に、1つまたは複数の障害物センサ130が設けられ得る。障害物センサ130は、例えばレーザスキャナまたは超音波ソナーを含み得る。障害物センサ130は、自動走行時に周囲の障害物を検出して作業車両100を停止したり迂回したりするために用いられる。LiDARセンサ140が障害物センサ130の1つとして利用されてもよい。
【0041】
作業車両100は、さらに、GNSSユニット110を備える。GNSSユニット110は、GNSS受信機を含む。GNSS受信機は、GNSS衛星からの信号を受信するアンテナと、アンテナが受信した信号に基づいて作業車両100の位置を計算するプロセッサとを備え得る。GNSSユニット110は、複数のGNSS衛星から送信される衛星信号を受信し、衛星信号に基づいて測位を行う。本実施形態におけるGNSSユニット110は、キャビン105の上部に設けられているが、他の位置に設けられていてもよい。
【0042】
GNSSユニット110は、慣性計測装置(IMU)を含み得る。IMUからの信号を利用して位置データを補完することができる。IMUは、作業車両100の傾きおよび微小な動きを計測することができる。IMUによって取得されたデータを用いて、衛星信号に基づく位置データを補完することにより、測位の性能を向上させることができる。
【0043】
作業車両100の制御装置は、GNSSユニット110による測位結果に加えて、カメラ120またはLiDARセンサ140などのセンシング装置が取得したセンシングデータを測位に利用してもよい。農道、林道、一般道、または果樹園のように、作業車両100が走行する環境内に特徴点として機能する地物が存在する場合、カメラ120またはLiDARセンサ140によって取得されたデータと、予め記憶装置に格納された環境地図とに基づいて、作業車両100の位置および向きを高い精度で推定することができる。カメラ120またはLiDARセンサ140が取得したデータを用いて、衛星信号に基づく位置データを補正または補完することで、より高い精度で作業車両100の位置を特定できる。
【0044】
原動機102は、例えばディーゼルエンジンであり得る。ディーゼルエンジンに代えて電動モータが使用されてもよい。変速装置103は、変速によって作業車両100の推進力および移動速度を変化させることができる。変速装置103は、作業車両100の前進と後進とを切り換えることもできる。
【0045】
操舵装置106は、ステアリングホイールと、ステアリングホイールに接続されたステアリングシャフトと、ステアリングホイールによる操舵を補助するパワーステアリング装置とを含む。前輪104Fは操舵輪であり、その切れ角(「操舵角」とも称する。)を変化させることにより、作業車両100の走行方向を変化させることができる。前輪104Fの操舵角は、ステアリングホイールを操作することによって変化させることができる。パワーステアリング装置は、前輪104Fの操舵角を変化させるための補助力を供給する油圧装置または電動モータを含む。自動操舵が行われるときには、作業車両100内に配置された制御装置からの制御により、油圧装置または電動モータの力によって操舵角が自動で調整される。
【0046】
車両本体101の後部には、連結装置108が設けられている。連結装置108は、例えば3点支持装置(「3点リンク」または「3点ヒッチ」とも称する。)、PTO(Power Take Off)軸、ユニバーサルジョイント、および通信ケーブルを含む。連結装置108によってインプルメント300を作業車両100に着脱することができる。連結装置108は、例えば油圧装置によって3点リンクを昇降させ、インプルメント300の位置または姿勢を変化させることができる。また、ユニバーサルジョイントを介して作業車両100からインプルメント300に動力を送ることができる。作業車両100は、インプルメント300を引きながら、インプルメント300に所定の作業を実行させることができる。連結装置は、車両本体101の前方に設けられていてもよい。その場合、作業車両100の前方にインプルメントを接続することができる。
【0047】
図2に示すインプルメント300は、ロータリ耕耘機であるが、インプルメント300はロータリ耕耘機に限定されない。例えば、シーダ(播種機)、スプレッダ(施肥機)、移植機、モーア(草刈機)、レーキ、ベーラ(集草機)、ハーベスタ(収穫機)、スプレイヤ、またはハローなどの、任意のインプルメントを作業車両100に接続して使用することができる。
【0048】
図2に示す作業車両100は、有人運転が可能であるが、無人運転のみに対応していてもよい。その場合には、キャビン105、操舵装置106、および運転席107などの、有人運転にのみ必要な構成要素は、作業車両100に設けられていなくてもよい。無人の作業車両100は、自律走行、またはユーザによる遠隔操作によって走行することができる。
【0049】
図3は、作業車両100およびインプルメント300の構成例を示すブロック図である。作業車両100とインプルメント300は、連結装置108に含まれる通信ケーブルを介して互いに通信することができる。作業車両100は、ネットワーク80を介して、遠隔装置400および管理装置600と通信することができる。
【0050】
図3の例における作業車両100は、GNSSユニット110、センシング装置250(カメラ120、障害物センサ130、LiDARセンサ140)、および操作端末200に加え、作業車両100の動作状態を検出するセンサ群150、走行制御システム160、通信装置190、操作スイッチ群210、ブザー220、および駆動装置240を備える。これらの構成要素は、バスを介して相互に通信可能に接続される。GNSSユニット110は、GNSS受信機111と、RTK受信機112と、慣性計測装置(IMU)115と、処理回路116とを備える。センサ群150は、ステアリングホイールセンサ152と、切れ角センサ154、車軸センサ156とを含む。走行制御システム160は、記憶装置170と、制御装置180とを備える。制御装置180は、複数の電子制御ユニット(ECU)181から186を備える。インプルメント300は、駆動装置340と、制御装置380と、通信装置390とを備える。なお、
図3には、作業車両100による自動運転および遠隔操縦の動作との関連性が相対的に高い構成要素が示されており、それ以外の構成要素の図示は省略されている。
【0051】
GNSSユニット110におけるGNSS受信機111は、複数のGNSS衛星から送信される衛星信号を受信し、衛星信号に基づいてGNSSデータを生成する。GNSSデータは、例えばNMEA-0183フォーマットなどの所定のフォーマットで生成される。GNSSデータは、例えば、衛星信号が受信されたそれぞれの衛星の識別番号、仰角、方位角、および受信強度を示す値を含み得る。
【0052】
図3に示すGNSSユニット110は、RTK(Real Time Kinematic)-GNSSを利用して作業車両100の測位を行う。
図4は、RTK-GNSSによる測位を行う作業車両100の例を示す概念図である。RTK-GNSSによる測位では、複数のGNSS衛星50から送信される衛星信号に加えて、基準局60から送信される補正信号が利用される。基準局60は、作業車両100が作業走行を行う圃場の付近(例えば、作業車両100から10km以内の位置)に設置され得る。基準局60は、複数のGNSS衛星50から受信した衛星信号に基づいて、例えばRTCMフォーマットの補正信号を生成し、GNSSユニット110に送信する。RTK受信機112は、アンテナおよびモデムを含み、基準局60から送信される補正信号を受信する。GNSSユニット110の処理回路116は、補正信号に基づき、GNSS受信機111による測位結果を補正する。RTK-GNSSを用いることにより、例えば誤差数cmの精度で測位を行うことが可能である。緯度、経度、および高度の情報を含む位置情報が、RTK-GNSSによる高精度の測位によって取得される。GNSSユニット110は、例えば1秒間に1回から10回程度の頻度で、作業車両100の位置を計算する。
【0053】
なお、測位方法はRTK-GNSSに限らず、必要な精度の位置情報が得られる任意の測位方法(干渉測位法または相対測位法など)を用いることができる。例えば、VRS(Virtual Reference Station)またはDGPS(Differential Global Positioning System)を利用した測位を行ってもよい。基準局60から送信される補正信号を用いなくても必要な精度の位置情報が得られる場合は、補正信号を用いずに位置情報を生成してもよい。その場合、GNSSユニット110は、RTK受信機112を備えていなくてもよい。
【0054】
RTK-GNSSを利用する場合であっても、基準局60からの補正信号が得られない場所(例えば圃場から遠く離れた道路上)では、RTK受信機112からの信号によらず、他の方法で作業車両100の位置が推定される。例えば、LiDARセンサ140および/またはカメラ120から出力されたデータと、高精度の環境地図とのマッチングによって、作業車両100の位置が推定され得る。
【0055】
本実施形態におけるGNSSユニット110は、さらにIMU115を備える。IMU115は、3軸加速度センサおよび3軸ジャイロスコープを備え得る。IMU115は、3軸地磁気センサなどの方位センサを備えていてもよい。IMU115は、モーションセンサとして機能し、作業車両100の加速度、速度、変位、および姿勢などの諸量を示す信号を出力することができる。処理回路116は、衛星信号および補正信号に加えて、IMU115から出力された信号に基づいて、作業車両100の位置および向きをより高い精度で推定することができる。IMU115から出力された信号は、衛星信号および補正信号に基づいて計算される位置の補正または補完に用いられ得る。IMU115は、GNSS受信機111よりも高い頻度で信号を出力する。その高頻度の信号を利用して、処理回路116は、作業車両100の位置および向きをより高い頻度(例えば、10Hz以上)で計測することができる。IMU115に代えて、3軸加速度センサおよび3軸ジャイロスコープを別々に設けてもよい。IMU115は、GNSSユニット110とは別の装置として設けられていてもよい。
【0056】
カメラ120は、作業車両100の周囲の環境を撮影する撮像装置である。カメラ120は、例えば、CCD(Charge Coupled Device)またはCMOS(Complementary Metal Oxide Semiconductor)などのイメージセンサを備える。カメラ120は、他にも、1つ以上のレンズを含む光学系、および信号処理回路を備え得る。カメラ120は、作業車両100の走行中、作業車両100の周囲の環境を撮影し、画像(例えば動画)のデータを生成する。カメラ120は、例えば、3フレーム/秒(fps: frames per second)以上のフレームレートで動画を撮影することができる。カメラ120によって生成された画像は、例えば遠隔の監視者が遠隔装置400を用いて作業車両100の周囲の環境を確認するときに利用され得る。カメラ120によって生成された画像は、測位または障害物の検出に利用されてもよい。
図2に示すように、複数のカメラ120が作業車両100の異なる位置に設けられていてもよいし、単数のカメラが設けられていてもよい。可視光画像を生成する可視カメラと、赤外線画像を生成する赤外カメラとが別々に設けられていてもよい。可視カメラと赤外カメラの両方が監視用の画像を生成するカメラとして設けられていてもよい。赤外カメラは、夜間において障害物の検出にも用いられ得る。
【0057】
障害物センサ130は、作業車両100の周囲に存在する物体を検出する。障害物センサ130は、例えばレーザスキャナまたは超音波ソナーを含み得る。障害物センサ130は、障害物センサ130から所定の距離よりも近くに物体が存在する場合に、障害物が存在することを示す信号を出力する。複数の障害物センサ130が作業車両100の異なる位置に設けられていてもよい。例えば、複数のレーザスキャナと、複数の超音波ソナーとが、作業車両100の異なる位置に配置されていてもよい。そのような多くの障害物センサ130を備えることにより、作業車両100の周囲の障害物の監視における死角を減らすことができる。
【0058】
ステアリングホイールセンサ152は、作業車両100のステアリングホイールの回転角を計測する。切れ角センサ154は、操舵輪である前輪104Fの切れ角を計測する。ステアリングホイールセンサ152および切れ角センサ154による計測値は、制御装置180による操舵制御に利用される。
【0059】
車軸センサ156は、車輪104に接続された車軸の回転速度、すなわち単位時間あたりの回転数を計測する。車軸センサ156は、例えば磁気抵抗素子(MR)、ホール素子、または電磁ピックアップを利用したセンサであり得る。車軸センサ156は、例えば、車軸の1分あたりの回転数(単位:rpm)を示す数値を出力する。車軸センサ156は、作業車両100の速度を計測するために使用される。
【0060】
駆動装置240は、前述の原動機102、変速装置103、操舵装置106、および連結装置108などの、作業車両100の走行およびインプルメント300の駆動に必要な各種の装置を含む。原動機102は、例えばディーゼル機関などの内燃機関を備え得る。駆動装置240は、内燃機関に代えて、あるいは内燃機関とともに、トラクション用の電動モータを備えていてもよい。
【0061】
ブザー220は、異常を報知するための警告音を発する音声出力装置である。ブザー220は、例えば、自動運転時に、障害物が検出された場合に警告音を発する。ブザー220は、制御装置180によって制御される。
【0062】
記憶装置170は、フラッシュメモリまたは磁気ディスクなどの1つ以上の記憶媒体を含む。記憶装置170は、GNSSユニット110、カメラ120、障害物センサ130、LiDARセンサ140、センサ群150、および制御装置180が生成する各種のデータを記憶する。記憶装置170が記憶するデータには、作業車両100が走行する環境内の地図データ(環境地図)、および自動運転のための大域的経路(目標経路)のデータが含まれ得る。環境地図は、作業車両100が農作業を行う複数の圃場およびその周辺の道の情報を含む。環境地図および目標経路は、管理装置600における処理装置(すなわちプロセッサ)によって生成され得る。なお、本実施形態における制御装置180は、環境地図および目標経路を生成または編集する機能を備えていてもよい。制御装置180は、管理装置600から取得した環境地図および目標経路を、作業車両100の走行環境に応じて編集することができる。
【0063】
記憶装置170は、通信装置190が管理装置600から受信した作業計画のデータも記憶する。作業計画は、複数の作業日にわたって作業車両100が実行する複数の農作業に関する情報を含む。作業計画は、例えば、各作業日において作業車両100が実行する各農作業の予定時刻の情報を含む作業スケジュールのデータであり得る。記憶装置170は、制御装置180における各ECUに、後述する各種の動作を実行させるコンピュータプログラムも記憶する。そのようなコンピュータプログラムは、記憶媒体(例えば半導体メモリまたは光ディスク等)または電気通信回線(例えばインターネット)を介して作業車両100に提供され得る。そのようなコンピュータプログラムが、商用ソフトウェアとして販売されてもよい。
【0064】
制御装置180は、複数のECUを含む。複数のECUは、例えば、速度制御用のECU181、ステアリング制御用のECU182、インプルメント制御用のECU183、自動運転制御用のECU184、経路生成用のECU185、および地図生成用のECU186を含む。
【0065】
ECU181は、駆動装置240に含まれる原動機102、変速装置103、およびブレーキを制御することによって作業車両100の速度を制御する。
【0066】
ECU182は、ステアリングホイールセンサ152の計測値に基づいて、操舵装置106に含まれる油圧装置または電動モータを制御することによって作業車両100のステアリングを制御する。
【0067】
ECU183は、インプルメント300に所望の動作を実行させるために、連結装置108に含まれる3点リンクおよびPTO軸などの動作を制御する。ECU183はまた、インプルメント300の動作を制御する信号を生成し、その信号を通信装置190からインプルメント300に送信する。
【0068】
ECU184は、GNSSユニット110、カメラ120、障害物センサ130、LiDARセンサ140、およびセンサ群150から出力されたデータに基づいて、自動運転を実現するための演算および制御を行う。例えば、ECU184は、GNSSユニット110、カメラ120、およびLiDARセンサ140の少なくとも1つから出力されたデータに基づいて、作業車両100の位置を特定する。圃場内においては、ECU184は、GNSSユニット110から出力されたデータのみに基づいて作業車両100の位置を決定してもよい。ECU184は、カメラ120またはLiDARセンサ140が取得したデータに基づいて作業車両100の位置を推定または補正してもよい。カメラ120またはLiDARセンサ140が取得したデータを利用することにより、測位の精度をさらに高めることができる。また、圃場外においては、ECU184は、LiDARセンサ140またはカメラ120から出力されるデータを利用して作業車両100の位置を推定する。例えば、ECU184は、LiDARセンサ140またはカメラ120から出力されるデータと、環境地図とのマッチングにより、作業車両100の位置を推定してもよい。自動運転中、ECU184は、推定された作業車両100の位置に基づいて、目標経路または局所的経路に沿って作業車両100が走行するために必要な演算を行う。ECU184は、ECU181に速度変更の指令を送り、ECU182に操舵角変更の指令を送る。ECU181は、速度変更の指令に応答して原動機102、変速装置103、またはブレーキを制御することによって作業車両100の速度を変化させる。ECU182は、操舵角変更の指令に応答して操舵装置106を制御することによって操舵角を変化させる。
【0069】
ECU184は、作業車両100の遠隔操作走行に関する制御も行う。遠隔操作モードにおいて、ECU184は、通信装置190が遠隔装置400から受信した信号に応答して、ECU181、182、183を制御する。これにより、ユーザからの遠隔操作に応答して、作業車両100の速度制御、操舵制御、インプルメント300の昇降、およびインプルメント300のオン/オフ等の動作を実行することができる。
【0070】
ECU185は、作業車両100が目標経路に沿って走行している間、障害物を回避可能な局所的経路を逐次生成する。ECU185は、作業車両100の走行中、カメラ120、障害物センサ130、およびLiDARセンサ140から出力されたデータに基づいて、作業車両100の周囲に存在する障害物を認識する。ECU185は、認識した障害物を回避するように局所的経路を生成する。
【0071】
ECU185は、管理装置600の代わりに大域的経路計画を行う機能を備えていてもよい。その場合、ECU185は、記憶装置170に格納された作業計画に基づいて作業車両100の移動先を決定し、作業車両100の移動の開始地点から目的地点までの目標経路を決定してもよい。ECU185は、記憶装置170に格納された道路情報を含む環境地図に基づき、例えば最短の時間で移動先に到達できる経路を目標経路として作成することができる。あるいは、ECU185は、環境地図に含まれる各道の属性情報に基づいて、特定の種類の道(例えば、農道、水路などの特定の地物に沿った道、またはGNSS衛星からの衛星信号を良好に受信できる道など)を優先する経路を目標経路として生成してもよい。
【0072】
ECU186は、作業車両100が走行する環境の地図を生成または編集する。本実施形態では、管理装置600などの外部の装置によって生成された環境地図が作業車両100に送信され、記憶装置170に記録されるが、ECU186が代わりに環境地図を生成または編集することもできる。以下、ECU186が環境地図を生成する場合の動作を説明する。環境地図は、LiDARセンサ140から出力されたセンサデータに基づいて生成され得る。環境地図を生成するとき、ECU186は、作業車両100が走行している間にLiDARセンサ140から出力されたセンサデータに基づいて3次元の点群データを逐次生成する。ECU186は、例えばSLAMなどのアルゴリズムを利用して、逐次生成した点群データを繋ぎ合わせることにより、環境地図を生成することができる。このようにして生成された環境地図は、高精度の3次元地図であり、ECU184による自己位置推定に利用され得る。この3次元地図に基づいて、大域的経路計画に利用される2次元地図が生成され得る。本明細書では、自己位置推定に利用される3次元地図と、大域的経路計画に利用される2次元地図とを、いずれも「環境地図」と称する。ECU186は、さらに、カメラ120またはLiDARセンサ140から出力されたデータに基づいて認識された地物(例えば、水路、川、草、木など)、道の種類(例えば農道か否か)、路面の状態、または道の通行可能性等に関する種々の属性情報を、地図に付加することによって地図を編集することもできる。
【0073】
これらのECUの働きにより、制御装置180は、自動走行および遠隔操作走行を実現する。自動走行時において、制御装置180は、計測または推定された作業車両100の位置と、生成された経路とに基づいて、駆動装置240を制御する。これにより、制御装置180は、作業車両100を目標経路に沿って走行させることができる。遠隔操作走行時において、制御装置180は、遠隔装置400から送信される信号(「操縦指令」とも称する。)に基づいて、作業車両100の走行を制御する。言い換えると、制御装置180は、ユーザによる遠隔装置400を用いた操作に応答して、駆動装置240を制御する。これにより、制御装置180は、作業車両100をユーザからの指示に従って走行させることができる。
【0074】
制御装置180に含まれる複数のECUは、例えばCAN(Controller Area Network)などのビークルバス規格に従って、相互に通信することができる。CANに代えて、車載イーサネット(登録商標)などの、より高速の通信方式が用いられてもよい。
図3において、ECU181から186のそれぞれは、個別のブロックとして示されているが、これらのそれぞれの機能が、複数のECUによって実現されていてもよい。ECU181から186の少なくとも一部の機能を統合した車載コンピュータが設けられていてもよい。制御装置180は、ECU181から186以外のECUを備えていてもよく、機能に応じて任意の個数のECUが設けられ得る。各ECUは、1つ以上のプロセッサを含む処理回路を備える。
【0075】
通信装置190は、インプルメント300、遠隔装置400、および管理装置600と通信を行う回路を含む装置である。通信装置190は、センシング装置250から出力されるセンシングデータ、または当該センシングデータに基づく画像データ等の送信データを遠隔装置400に送信する。通信装置190は、例えばISOBUS-TIM等のISOBUS規格に準拠した信号の送受信を、インプルメント300の通信装置390との間で実行する回路を含む。これにより、インプルメント300に所望の動作を実行させたり、インプルメント300から情報を取得したりすることができる。通信装置190は、さらに、ネットワーク80を介した信号の送受信を、遠隔装置400および管理装置600のそれぞれの通信装置との間で実行するためのアンテナおよび通信回路を含み得る。ネットワーク80は、例えば、3G、4Gもしくは5Gなどのセルラー移動体通信網およびインターネットを含み得る。通信装置190は、作業車両100の近くにいる監視者が使用する携帯端末と通信する機能を備えていてもよい。そのような携帯端末との間では、Wi-Fi(登録商標)、3G、4Gもしくは5Gなどのセルラー移動体通信、またはBluetooth(登録商標)などの、任意の無線通信規格に準拠した通信が行われ得る。
【0076】
操作端末200は、作業車両100の走行およびインプルメント300の動作に関する操作をユーザが実行するための端末であり、バーチャルターミナル(VT)とも称される。操作端末200は、タッチスクリーンなどの表示装置、および/または1つ以上のボタンを備え得る。表示装置は、例えば液晶または有機発光ダイオード(OLED)などのディスプレイであり得る。ユーザは、操作端末200を操作することにより、例えば自動運転モードのオン/オフの切り替え、遠隔操作モードのオン/オフの切り替え、環境地図の記録または編集、目標経路の設定、およびインプルメント300のオン/オフの切り替えなどの種々の操作を実行することができる。これらの操作の少なくとも一部は、操作スイッチ群210を操作することによっても実現され得る。操作端末200は、作業車両100から取り外せるように構成されていてもよい。作業車両100から離れた場所にいるユーザが、取り外された操作端末200を操作して作業車両100の動作を制御してもよい。ユーザは、操作端末200の代わりに、遠隔装置400などの、必要なアプリケーションソフトウェアがインストールされたコンピュータを操作して作業車両100の動作を制御してもよい。
【0077】
図5は、キャビン105の内部に設けられる操作端末200および操作スイッチ群210の例を示す図である。キャビン105の内部には、ユーザが操作可能な複数のスイッチを含む操作スイッチ群210が配置されている。操作スイッチ群210は、例えば、主変速または副変速の変速段を選択するためのスイッチ、自動運転モードと手動運転モードとを切り替えるためのスイッチ、前進と後進とを切り替えるためのスイッチ、四輪駆動と二輪駆動とを切り替えるためのスイッチ、左右のブレーキの連結を解除するためのスイッチ、およびインプルメント300を昇降するためのスイッチ等を含み得る。なお、作業車両100が無人運転のみを行い、有人運転の機能を備えていない場合、作業車両100が操作スイッチ群210を備えている必要はない。
【0078】
操作端末200または操作スイッチ群210によって実行可能な操作の少なくとも一部は、遠隔装置400を用いた遠隔操作によっても行われ得る。ユーザが遠隔装置400のディスプレイに表示された画面上で所定の操作を行うことにより、上記のいずれかの動作が実行され得る。
【0079】
図3に示すインプルメント300における駆動装置340は、インプルメント300が所定の作業を実行するために必要な動作を行う。駆動装置340は、例えば油圧装置、電気モータ、またはポンプなどの、インプルメント300の用途に応じた装置を含む。制御装置380は、駆動装置340の動作を制御する。制御装置380は、通信装置390を介して作業車両100から送信された信号に応答して、駆動装置340に各種の動作を実行させる。また、インプルメント300の状態に応じた信号を通信装置390から作業車両100に送信することもできる。
【0080】
次に、
図6を参照しながら、管理装置600および遠隔装置400の構成を説明する。
図6は、管理装置600および遠隔装置400の概略的なハードウェア構成を例示するブロック図である。
【0081】
管理装置600は、記憶装置650と、プロセッサ660と、ROM(Read Only Memory)670と、RAM(Random Access Memory)680と、通信装置690とを備える。これらの構成要素は、バスを介して相互に通信可能に接続される。管理装置600は、作業車両100が実行する圃場における農作業のスケジュール管理を行い、管理するデータを活用して農業を支援するクラウドサーバとして機能し得る。ユーザは、遠隔装置400を用いて作業計画の作成に必要な情報を入力し、その情報をネットワーク80を介して管理装置600にアップロードすることが可能である。管理装置600は、その情報に基づき、農作業のスケジュール、すなわち作業計画を作成することができる。管理装置600は、さらに、環境地図の生成または編集、および作業車両100の大域的経路計画も実行することができる。環境地図は、管理装置600の外部のコンピュータから配信されてもよい。
【0082】
通信装置690は、ネットワーク80を介して作業車両100および遠隔装置400と通信するための通信モジュールである。通信装置690は、例えば、IEEE1394(登録商標)またはイーサネット(登録商標)などの通信規格に準拠した有線通信を行うことができる。通信装置690は、Bluetooth(登録商標)規格もしくはWi-Fi規格に準拠した無線通信、または、3G、4Gもしくは5Gなどのセルラー移動体通信を行ってもよい。
【0083】
プロセッサ660は、例えば中央演算処理装置(CPU)を含む半導体集積回路であり得る。プロセッサ660は、マイクロプロセッサまたはマイクロコントローラによって実現され得る。あるいは、プロセッサ660は、CPUを搭載したFPGA(Field Programmable Gate Array)、GPU(Graphics Processing Unit)、ASIC(Application Specific Integrated Circuit)、ASSP(Application Specific Standard Product)、または、これらの回路の中から選択される2つ以上の回路の組み合わせによっても実現され得る。プロセッサ660は、ROM670に格納された、少なくとも1つの処理を実行するための命令群を記述したコンピュータプログラムを逐次実行し、所望の処理を実現する。
【0084】
ROM670は、例えば、書き込み可能なメモリ(例えばPROM)、書き換え可能なメモリ(例えばフラッシュメモリ)、または読み出し専用のメモリである。ROM670は、プロセッサ660の動作を制御するプログラムを記憶する。ROM670は、単一の記憶媒体である必要はなく、複数の記憶媒体の集合体であってもよい。複数の記憶媒体の集合体の一部は、取り外し可能なメモリであってもよい。
【0085】
RAM680は、ROM670に格納された制御プログラムをブート時に一旦展開するための作業領域を提供する。RAM680は、単一の記憶媒体である必要はなく、複数の記憶媒体の集合体であってもよい。
【0086】
記憶装置650は、主としてデータベースのストレージとして機能する。記憶装置650は、例えば、磁気記憶装置または半導体記憶装置であり得る。磁気記憶装置の例は、ハードディスクドライブ(HDD)である。半導体記憶装置の例は、ソリッドステートドライブ(SSD)である。記憶装置650は、管理装置600とは独立した装置であってもよい。例えば、記憶装置650は、管理装置600にネットワーク80を介して接続される記憶装置、例えばクラウドストレージであってもよい。
【0087】
図6に示す遠隔装置400は、入力装置420と、表示装置(ディスプレイ)430と、記憶装置450と、プロセッサ460と、ROM470と、RAM480と、通信装置490とを備える。これらの構成要素は、バスを介して相互に通信可能に接続される。入力装置420は、ユーザからの指示をデータに変換してコンピュータに入力するための装置である。入力装置420は、例えば、キーボード、マウス、またはタッチパネルであり得る。表示装置430は、例えば液晶ディスプレイまたは有機ELディスプレイであり得る。プロセッサ460、ROM470、RAM480、記憶装置450、および通信装置490のそれぞれに関する説明は、管理装置600のハードウェア構成例において記載したとおりであり、それらの説明を省略する。
【0088】
図6の例における遠隔装置400は、
図1Aに示すような、ディスプレイおよび入力装置を内蔵するコンピュータである。遠隔装置400は、
図1Bに例示されるように、遠隔監視センターにおける遠隔操縦機500およびディスプレイ430に接続されるコンピュータであってもよい。
【0089】
[2.動作]
次に、作業車両100、遠隔装置400、および管理装置600の動作を説明する。
【0090】
[2-1.自動走行動作]
まず、作業車両100による自動走行の動作の例を説明する。本実施形態における作業車両100は、圃場内および圃場外の両方で自動で走行することができる。圃場内において、作業車両100は、予め設定された目標経路に沿って走行しながら、インプルメント300を駆動して所定の農作業を行う。作業車両100は、圃場内を走行中、障害物センサ130によって障害物が検出された場合、走行を停止し、ブザー220からの警告音の発出、および遠隔装置400への警告信号の送信などの動作を行う。圃場内において、作業車両100の測位は、主にGNSSユニット110から出力されるデータに基づいて行われる。一方、圃場外において、作業車両100は、圃場外の農道または一般道に設定された目標経路に沿って自動で走行する。作業車両100は、圃場外を走行中、カメラ120またはLiDARセンサ140によって取得されたデータに基づいて局所的経路計画を行いながら走行する。圃場外において、作業車両100は、障害物が検出されると、障害物を回避するか、その場で停止する。圃場外においては、GNSSユニット110から出力される測位データに加え、LiDARセンサ140またはカメラ120から出力されるデータに基づいて作業車両100の位置が推定される。
【0091】
以下、作業車両100が圃場内を自動走行する場合の動作をまず説明する。作業車両100が圃場外を自動走行する動作については、後述する。
【0092】
図7は、圃場内を目標経路に沿って自動で走行する作業車両100の例を模式的に示す図である。この例において、圃場は、作業車両100がインプルメント300を用いて作業を行う作業領域72と、圃場の外周縁付近に位置する枕地74とを含む。地図上で圃場のどの領域が作業領域72または枕地74に該当するかは、ユーザによって事前に設定され得る。この例における目標経路は、並列する複数の主経路P1と、複数の主経路P1を接続する複数の旋回経路P2とを含む。主経路P1は作業領域72内に位置し、旋回経路P2は枕地74内に位置する。
図7に示す各主経路P1は直線状の経路であるが、各主経路P1は曲線状の部分を含んでいてもよい。主経路P1は、例えば、ユーザが操作端末200または遠隔装置400に表示された圃場の地図を見ながら、圃場の端付近の2点(
図7における点AおよびB)を指定する操作を行うことによって自動で生成され得る。その場合、ユーザが指定した点Aと点Bとを結ぶ線分に平行に、複数の主経路P1が設定され、それらの主経路P1を旋回経路P2で接続することによって圃場内の目標経路が生成される。
図7における破線は、インプルメント300の作業幅を表している。作業幅は、予め設定され、記憶装置170に記録される。作業幅は、ユーザが操作端末200または遠隔装置400を操作することによって設定され、記録され得る。あるいは、作業幅は、インプルメント300を作業車両100に接続したときに自動で認識され、記録されてもよい。複数の主経路P1の間隔は、作業幅に合わせて設定され得る。目標経路は、自動運転が開始される前に、ユーザの操作に基づいて作成され得る。目標経路は、例えば圃場内の作業領域72の全体をカバーするように作成され得る。作業車両100は、
図7に示すような目標経路に沿って、作業の開始地点から作業の終了地点まで、往復を繰り返しながら自動で走行する。なお、
図7に示す目標経路は一例に過ぎず、目標経路の定め方は任意である。
【0093】
次に、制御装置180による圃場内における自動運転時の制御の例を説明する。
【0094】
図8は、制御装置180によって実行される自動運転時の操舵制御の動作の例を示すフローチャートである。制御装置180は、作業車両100の走行中、
図8に示すステップS121からS125の動作を実行することにより、自動操舵を行う。速度に関しては、例えば予め設定された速度に維持される。制御装置180は、作業車両100の走行中、GNSSユニット110によって生成された作業車両100の位置を示すデータを取得する(ステップS121)。次に、制御装置180は、作業車両100の位置と、目標経路との偏差を算出する(ステップS122)。偏差は、その時点における作業車両100の位置と、目標経路との距離を表す。制御装置180は、算出した位置の偏差が予め設定された閾値を超えるか否かを判定する(ステップS123)。偏差が閾値を超える場合、制御装置180は、偏差が小さくなるように、駆動装置240に含まれる操舵装置の制御パラメータを変更することにより、操舵角を変更する。ステップS123において偏差が閾値を超えない場合、ステップS124の動作は省略される。続くステップS125において、制御装置180は、動作終了の指令を受けたか否かを判定する。動作終了の指令は、例えばユーザが遠隔操作で自動運転の停止を指示したり、作業車両100が目的地に到達したりした場合に出され得る。動作終了の指令が出されていない場合、ステップS121に戻り、新たに計測された作業車両100の位置に基づいて、同様の動作を実行する。制御装置180は、動作終了の指令が出されるまで、ステップS121からS125の動作を繰り返す。上記の動作は、制御装置180におけるECU182、184によって実行される。
【0095】
図8に示す例では、制御装置180は、GNSSユニット110によって特定された作業車両100の位置と目標経路との偏差のみに基づいて駆動装置240を制御するが、方位の偏差もさらに考慮して制御してもよい。例えば、制御装置180は、GNSSユニット110によって特定された作業車両100の向きと、目標経路の方向との角度差である方位偏差が予め設定された閾値を超える場合に、その偏差に応じて駆動装置240の操舵装置の制御パラメータ(例えば操舵角)を変更してもよい。
【0096】
以下、
図9Aから
図9Dを参照しながら、制御装置180による操舵制御の例をより具体的に説明する。
【0097】
図9Aは、目標経路Pに沿って走行する作業車両100の例を示す図である。
図9Bは、目標経路Pから右にシフトした位置にある作業車両100の例を示す図である。
図9Cは、目標経路Pから左にシフトした位置にある作業車両100の例を示す図である。
図9Dは、目標経路Pに対して傾斜した方向を向いている作業車両100の例を示す図である。これらの図において、GNSSユニット110によって計測された作業車両100の位置および向きを示すポーズがr(x,y,θ)と表現されている。(x,y)は、地球に固定された2次元座標系であるXY座標系における作業車両100の基準点の位置を表す座標である。
図9Aから
図9Dに示す例において、作業車両100の基準点はキャビン上のGNSSアンテナが設置された位置にあるが、基準点の位置は任意である。θは、作業車両100の計測された向きを表す角度である。図示されている例においては、目標経路PがY軸に平行であるが、一般的には目標経路PはY軸に平行であるとは限らない。
【0098】
図9Aに示すように、作業車両100の位置および向きが目標経路Pから外れていない場合には、制御装置180は、作業車両100の操舵角および速度を変更せずに維持する。
【0099】
図9Bに示すように、作業車両100の位置が目標経路Pから右側にシフトしている場合には、制御装置180は、作業車両100の走行方向が左寄りに傾き、目標経路Pに近付くように操舵角を変更する。このとき、操舵角に加えて速度も併せて変更してもよい。操舵角の大きさは、例えば位置偏差Δxの大きさに応じて調整され得る。
【0100】
図9Cに示すように、作業車両100の位置が目標経路Pから左側にシフトしている場合には、制御装置180は、作業車両100の走行方向が右寄りに傾き、目標経路Pに近付くように操舵角を変更する。この場合も、操舵角に加えて速度も併せて変更してもよい。操舵角の変化量は、例えば位置偏差Δxの大きさに応じて調整され得る。
【0101】
図9Dに示すように、作業車両100の位置は目標経路Pから大きく外れていないが、向きが目標経路Pの方向とは異なる場合は、制御装置180は、方位偏差Δθが小さくなるように操舵角を変更する。この場合も、操舵角に加えて速度も併せて変更してもよい。操舵角の大きさは、例えば位置偏差Δxおよび方位偏差Δθのそれぞれの大きさに応じて調整され得る。例えば、位置偏差Δxの絶対値が小さいほど方位偏差Δθに応じた操舵角の変化量を大きくしてもよい。位置偏差Δxの絶対値が大きい場合には、目標経路Pに戻るために操舵角を大きく変化させることになるため、必然的に方位偏差Δθの絶対値が大きくなる。逆に、位置偏差Δxの絶対値が小さい場合には、方位偏差Δθをゼロに近づけることが必要である。このため、操舵角を決定するための方位偏差Δθの重み(すなわち制御ゲイン)を相対的に大きくすることが妥当である。
【0102】
作業車両100の操舵制御および速度制御には、PID制御またはMPC制御(モデル予測制御)などの制御技術が適用され得る。これらの制御技術を適用することにより、作業車両100を目標経路Pに近付ける制御を滑らかにすることができる。
【0103】
なお、走行中に1つ以上の障害物センサ130によって障害物が検出された場合には、制御装置180は、作業車両100を停止させる。このとき、ブザー220に警告音を発出させたり、警告信号を遠隔装置400に送信してもよい。障害物の回避が可能な場合、制御装置180は、障害物を回避するように駆動装置240を制御してもよい。
【0104】
本実施形態における作業車両100は、圃場内だけでなく、圃場外でも自動走行が可能である。圃場外において、制御装置180は、カメラ120またはLiDARセンサ140から出力されたデータに基づいて、作業車両100から比較的離れた位置に存在する物体(例えば、他の車両または歩行者等)を検出することができる。制御装置180は、検出された物体を回避するように局所的経路を生成し、局所的経路に沿って速度制御および操舵制御を行うことにより、圃場外の道における自動走行を実現できる。
【0105】
このように、本実施形態における作業車両100は、無人で圃場内および圃場外を自動で走行できる。
図10は、複数の作業車両100が圃場70の内部および圃場70の外側の道76を自動走行している状況の例を模式的に示す図である。記憶装置170には、複数の圃場およびその周辺の道を含む領域の環境地図および目標経路が記録される。環境地図および目標経路は、管理装置600またはECU185によって生成され得る。作業車両100が道路上を走行する場合、作業車両100は、インプルメント300を上昇させた状態で、カメラ120およびLiDARセンサ140などのセンシング装置を用いて周囲をセンシングしながら、目標経路に沿って走行する。走行中、制御装置180は、局所的経路を逐次生成し、局所的経路に沿って作業車両100を走行させる。これにより、障害物を回避しながら自動走行することができる。走行中に、状況に応じて目標経路が変更されてもよい。このように、本実施形態における制御装置180は、圃場内および圃場の周辺の道上に、自動走行のための目標経路を生成することができる。自動走行モードにおいて、制御装置180は、目標経路が生成された圃場および道によって規定される自動走行エリア内で作業車両100を自動走行させる。
【0106】
[2-2.遠隔操縦]
次に、作業車両100の遠隔操縦に関する動作を説明する。
【0107】
作業車両100が自動走行を行っているとき、ユーザは、遠隔装置400を用いて作業車両100の遠隔監視および遠隔操縦を行うことが可能である。作業車両100が自動走行を行っているとき、制御装置180は、作業車両100に搭載された1つ以上のカメラ120によって撮影された画像(例えば動画像)を、通信装置190を介して遠隔装置400に送信する。遠隔装置400は、ディスプレイ430に当該画像を表示させる。ユーザは、表示された画像を見ながら、作業車両100の周辺の状況を確認し、必要に応じて遠隔操作走行を開始することができる。
【0108】
図11Aは、遠隔装置400のディスプレイ430に表示される画像の一例を示す図である。
図11Aに示す画像には、圃場70、道76、空79および作業車両100の前部が映っている。この画像は、作業車両100の前方を撮影するカメラ120によって撮影された画像である。作業車両100の前方を撮影するカメラ120に限らず、例えば後方、右方、または左方を撮影するカメラ120によって撮影された画像がディスプレイ430に表示されてもよい。ディスプレイ430は、例えば3fps以上(典型的には30fpsまたは60fps等)のフレームレートを有する動画像を表示する。なお、複数のカメラ120によって撮影された複数の画像を複数のディスプレイに表示させてもよい。例えば
図1Bに示すように、遠隔監視センターにおける複数のディスプレイ430に複数の映像が表示されてもよい。その場合、監視者であるユーザ(すなわちオペレータ)は、複数のディスプレイ430に表示された複数の映像を見ながら、作業車両100の周囲の状況を詳細に確認することができる。カメラ120で撮影された画像だけでなく、作業車両100を含む領域の地図がディスプレイに表示されてもよい。
【0109】
図11Aに示す例では、表示される画像に、遠隔操縦の開始を指示するためのボタン(遠隔操縦開始ボタン)81と、作業車両100を緊急停止させるためのボタン(緊急停止ボタン)82とが含まれている。ユーザは、遠隔操縦開始ボタン81をタッチまたはクリックすることにより、自動走行モードから遠隔操作モードに切り替えることができる。ユーザはまた、緊急停止ボタン82をタッチまたはクリックすることにより、作業車両100を緊急停止させることができる。
【0110】
図11Bは、遠隔操縦開始ボタン81が押された後の表示画面の一例を示す図である。遠隔操縦開始ボタン81が押されると、遠隔操縦が可能になる。例えば
図1Bの例においては、オペレータは、遠隔操縦機500を用いて作業車両100を遠隔操縦することができる。制御装置180は、ユーザによる操作に応答して、指示された動作を作業車両100に実行させる。ユーザは、
図11Bに示す画面において、自動走行開始ボタン84をタッチまたはクリックすることで、遠隔操作モードから自動走行モードに切り替えることができる。
【0111】
この例では、
図11Aに示す遠隔操縦開始ボタン81が押されると、
図11Bに示すように、その時点で作業車両100の遠隔操作走行が許可されていないエリアを示すバリア77が表示される。
図11Bに例示されているバリア77は、道76と圃場70との境界のうち、圃場70の出入口71を除く部分に表示されている。どのエリアで遠隔操作走行が許可されるか、およびバリア77をどの位置に表示させるかは、予め決定される。作業車両100をバリア77に進入させる遠隔操作は無効化される。
【0112】
図11Cは、作業車両100が圃場70内に位置しているときの遠隔操作モードにおける表示画面の例を示す図である。この例では、バリア77は、圃場70の外周部のうち、出入口71を除く部分に表示されている。これにより、作業車両100が出入口71以外から圃場70の外側に出ようとする遠隔操作は無効化される。
【0113】
なお、作業車両100の遠隔操縦が禁止されるエリアが設定されない場合もあり得る。その場合、監視用の画面にバリア77は表示されず、遠隔操縦指令が届く範囲内であれば、作業車両100の位置によらず遠隔操縦が可能である。
【0114】
上記の例では、作業車両100に搭載されたカメラ120によって取得された画像(以下、「カメラ画像」とも称する。)が遠隔装置400のディスプレイ430に表示される。カメラ画像だけでなく、例えばLiDARセンサ140によって取得された点群データその他のセンシングデータに基づく画像がディスプレイ430に表示されてもよい。点群データに基づく画像は、作業車両100の周辺に存在する地物の分布を示すため、カメラ画像と同様に監視に用いられ得る。カメラ画像または点群データに基づく画像に基づいて、オペレータは、作業車両100の周囲の状況を把握することができる。以下の説明において、カメラ120によって生成された画像データ、およびLiDARセンサ140によって生成された点群データに基づく画像を「可視化画像」と称することがある。また、そのような可視化画像による動画像または映像を「時系列画像」と称することがある。
【0115】
[3.通信速度に応じた、センシング装置からの出力データ量の適応的変更]
前述した遠隔操縦システムにおいて、ネットワークに接続される作業車両の数が増えると、多くの作業車両が同一周波数あるいは隣接周波数の電波を同時に無線通信に利用することによって、電波の干渉または混信などの障害が生じ易くなる。その結果、通信装置と遠隔装置との間の通信が不安定になったり、通信速度が低下したりすることが起こり得る。スマート農業の普及に伴い、今後、ネットワークに接続される作業車両および遠隔装置の数がますます増加することが見込まれ、電波の干渉または混信などの障害がより生じ易くなる。通信装置と遠隔装置との間の通信速度が頻繁に低下することが見込まれる。通信速度の低下によって、通信装置側の処理負荷が増大する可能性がある。
【0116】
第5世代移動通信システム(5G)のような新しい通信技術を利用し、低遅延、かつ、大容量のデータ通信を可能とする遠隔操縦システムの構築が実現されつつある。しかしながら、LiDARまたはカメラなどのセンシング装置が、例えば画像の高解像度化に伴い大量のデータを処理することになれば、センシング装置から出力されるデータ量も増大する。結果として、センシング装置から出力されるセンシングデータを処理する通信装置に一層の負荷を強いることとなる。したがって、通信装置の処理負荷の増加を抑制することが望まれる。
【0117】
遠隔操縦を例に取り説明すると、センシング装置から出力されるセンシングデータに基づく作業車両100の周囲の環境の状況を示す映像が、
図1Bに示す遠隔監視センターに設置された1台以上のディスプレイ430に表示される。通信装置190から遠隔装置400への通信速度が低下した場合に、この映像が継続的にまたは一時的に劣化する(または乱れる)ことが起こり得、遠隔操縦機500を利用するユーザの遠隔操縦に支障をきたす可能性がある。
【0118】
本実施形態におけるセンシング装置250は、通信装置190から遠隔装置400への通信速度に応じて、通信装置190に出力するセンシングデータのデータ量を変更するように構成されている。具体的に説明すると、センシング装置250は、通信速度が閾値未満である場合には、通信速度が閾値以上であるときに出力するセンシングデータのデータ量よりも小さいデータ量のセンシングデータを出力する。センシング装置250は、通信速度が閾値以上である間は、例えば出力可能な最大量のデータを出力し、通信速度が閾値を下回ると、最大量の例えば1/2または1/3のデータ量を出力する。
【0119】
本実施形態による農業機械またはセンシングシステムによれば、センシング装置250から出力されるセンシングデータのデータ量を、通信装置の通信速度に応じて適応的に変更することにより、通信装置の処理負荷を低減することが可能となる。さらには、通信の混雑状態に応じた、通信装置と遠隔装置との間のデータ通信が実現され得る。
【0120】
図12は、通信装置190の通信速度の変化、および、通信速度の変化に応じた、センシング装置から出力されるセンシングテータのデータ量の変化の様子を例示するグラフである。
図12における上側グラフに、通信速度の時間変化を示し、下側グラフに、センシングテータのデータ量の時間変化を示している。横軸は時間を示し、縦軸は通信速度(上側グラフ)およびデータ量(下側グラフ)を示している。
図13は、通信装置190の通信速度に応じたセンシング装置250の動作の状態遷移の様子を説明するための図である。
【0121】
本実施形態において、通信装置190の通信速度が閾値以上である期間を「定常区間」と呼び、通信装置190の通信速度が閾値未満である期間を「低下区間」と呼んで、両者を区別する。閾値は、例えば、センシングシステムが利用される環境によって適宜決定され得る。センシング装置250は、定常区間では、第1動作設定に従ってセンシングデータを出力し、低下区間では、第2動作設定に従ってセンシングデータを出力するように構成される。
【0122】
図13に例示するように、通信装置190の通信速度が閾値以上である定常区間においてセンシング装置250は第1動作設定に従ってセンシングデータを出力しているとする。センシング装置250は、通信装置190の通信速度が閾値以上である間、第1動作設定に従ってセンシングデータの出力を繰り返す(条件A)。あるタイミングで、通信装置190の通信速度が閾値未満になると、センシング装置250は、第2動作設定に従ってセンシングデータを出力する(条件B)。通信装置190の通信速度が閾値未満である間、センシング装置250は、第2動作設定に従ってセンシングデータの出力を繰り返す(条件C)。あるタイミングで、通信装置190の通信速度が閾値以上に回復すると、センシング装置250は、第1動作設定に従ってセンシングデータを出力する。第1動作設定および第2動作設定については後に詳しく説明する。
【0123】
先ず、第1の例におけるセンシング装置250の動作を説明する。この例におけるセンシング装置250は、RGBセンサを備えるカメラ120を含む。カメラ120はカラー画像を取得することが可能である。カメラ120は、通信装置190の通信速度が閾値未満である場合には、通信速度が閾値以上である場合に比べ、撮像時の解像度、カラー情報量および画像サイズの少なくとも1つを小さくする。これらの情報は、例えばセンシング装置250が有するプロセッサ内部のレジスタに設定される。例えば、センシング装置250が有するプロセッサが、通信装置190が有するプロセッサと通信を行い、通信装置190のプロセッサから、通信速度が閾値以上であるか否かを示す信号(例えば1ビット)を受信してもよい。これにより、センシング装置250は、通信速度が閾値を下回ったかどうかを判別することができる。制御装置180も、通信装置190のプロセッサから、通信速度が閾値以上であるか否かを示す信号を受信してもよい。制御装置180は、例えばこの信号がアサートされたことに応答して、センシング装置250が有するプロセッサ内部のレジスタの設定を変更してもよい。変更前のレジスタの設定が前述した第1動作設定に相当し、変更後のレジスタの設定が前述した第2動作設定に相当する。言い換えると、制御装置180は、信号がアサートされたことに応答して、レジスタの設定を第1動作設定から第2動作設定に変更する。
【0124】
解像度を小さくすることは、例えば、画像の垂直方向の最大解像度を間引いて半分または1/4の解像度にすること、または、画像の水平方向および垂直方向のそれぞれの最大解像度を間引いて半分または1/4の解像度にすることを含む。カラー情報量を小さくすることは、例えば出力フォーマットがRGB方式の場合、RGB画素値のうちのRG画像、GB画像またはRB画像、あるいは、RGB画素値のうちのいずれか1つを出力することを意味する。あるいは、例えば出力フォーマットがYCbCr方式の場合、クロマサンプリングによって色差情報を間引いて、4:4:4の最大フォーマットを、4:4:2、4:2:2、4:2:0、または4:1:1フォーマットに変更することを意味する。この例における第1動作設定は、4:4:4フォーマットであり、第2動作設定は、4:4:2、4:2:2、4:2:0、または4:1:1フォーマットである。
【0125】
図14は、解像度を維持しつつ画像サイズを縮小することを説明するための図である。
図14における実線で囲んだ矩形領域はフルサイズの画像700を示し、破線で囲んだ矩形領域は、フルサイズに対し1/4に縮小(水平方向および垂直方向にそれぞれ1/2に縮小)した縮小サイズの画像701を示している。なお、
図14に示すフルサイズの画像700の中の縮小サイズの画像701の位置は例示に過ぎず任意である。カメラ120は、通信速度が閾値以上である場合にはフルサイズの画像データを出力する。一方で、カメラ120は、通信装置190の通信速度が閾値未満である場合には、フルサイズ画像700から所定の領域をトリミングすることによって、フルサイズの画像と解像度の等しい、例えば1/4の縮小サイズの画像のデータを出力する。この例における第1動作設定はフルサイズであり、第2動作設定は、1/4の縮小サイズである。ただし、縮小の比率は1/4に限定されず任意である。
【0126】
カメラ120はステレオカメラであってもよい。この例におけるカメラ120は、通信装置190の通信速度が閾値を下回る場合には、視差を小さくし得る。視差量を調整し、通信速度が閾値以上である場合の視差量よりも相対的に小さくすることによって、視差で表現される立体感は穏やかになるものの、画像のデータ量を低減することが可能となる。
【0127】
前述した例では、1個の閾値を設け、通信速度と閾値との大小関係によって、センシング装置250から出力されるセンシングデータのデータ量を変更したが、本開示はこれに限定されない。2個以上の閾値を設け、通信速度とそれぞれの閾値との大小関係によって、センシング装置250から出力されるセンシングデータのデータ量を段階的に変更してもよい。
【0128】
次に、第2の例におけるセンシング装置250の動作を説明する。この例におけるセンシング装置250は、LiDARセンサ140を含む。LiDARセンサ140は、通信装置190の通信速度が閾値未満である場合には、通信速度が閾値以上である場合に比べ、単位時間当たりに出力する点群データ量およびセンシングの角度範囲の少なくとも一方を小さくする。
【0129】
センシング装置250は、例えばフィルタリング処理を適用することによって、センシングにより取得した点群データを効率的に削減することができる。センシング装置250は、例えば、点密度の低い領域にあるデータ点を抽出し、削減したり、データ点を水平および垂直方向にそれぞれ均等に間引いたり、データ点の反射強度が閾値よりも低いデータ点を削減してもよい。これによって、単位時間当たりに出力する点群データ量を低減することができる。
【0130】
LiDARセンサ140は、定常区間と低下区間との間で、水平方向および/または垂直方向におけるセンシングの角度範囲または解像度を変更してもよい。解像度は、LiDARセンサ140から出射される、センシングの角度範囲に含まれるレーザビームの本数を意味する。
【0131】
図15Aは、水平方向におけるセンシングの第1角度範囲θ
1で設定されるセンシング領域710を模式的に示す図である。
図15Bは、水平方向におけるセンシングの第2角度範囲θ
2で設定されるセンシング領域720を模式的に示す図である。
図16Aは、垂直方向におけるセンシングの第3角度範囲θ
3で設定されるセンシング領域730を模式的に示す図である。
図16Bは、垂直方向におけるセンシングの第4角度範囲θ
4で設定されるセンシング領域740を模式的に示す図である。
【0132】
LiDARセンサ140は、定常区間では、
図15Aに例示するように、水平方向における第1角度範囲θ
1の周辺環境をスキャンし、低下区間においては、
図15Bに例示するように、水平方向における第2角度範囲θ
2の周辺環境をスキャンする。第2角度範囲θ
2は第1角度範囲θ
1よりも小さい。水平方向におけるセンシングの角度範囲を小さくし、水平解像度を下げることで、取得されるデータ点の数が低減する。水平方向と同様に、LiDARセンサ140は、定常区間では、
図16Aに例示するように、垂直方向における第3角度範囲θ
3の周辺環境をスキャンし、低下区間においては、
図16Bに例示するように、垂直方向における第4角度範囲θ
4の周辺環境をスキャンしてもよい。第4角度範囲θ
4は第3角度範囲θ
3よりも小さい。このように、低下区間において、水平方向および/または垂直方向におけるセンシングの角度範囲を小さくすることによって、LiDARセンサ140が単位時間当たりに取得する点群データ量を削減することができる。このため、定常区間と比較して、LiDARセンサ140が出力する点群データ量を低減することが可能となる。
【0133】
図17Aは、LiDARセンサ140からの最大検知距離が第1距離L
1のセンシング領域710を模式的に示す図である。
図17Bは、LiDARセンサ140からの最大検知距離が第2距離L
2のセンシング領域720を模式的に示す図である。
【0134】
LiDARセンサ140は、センシングの角度範囲を変更することに代え、または加えて、定常区間と低下区間との間で、LiDARセンサ140からの最大検知距離を変更してもよい。レーザの出力を調整することによって、最大検知距離は調整され得る。LiDARセンサ140は、定常区間では、
図17Aに例示する最大検知距離が第1距離L
1のセンシング領域710をスキャンし、低下区間においては、
図17Bに例示する最大検知距離が第2距離L
2のセンシング領域720をスキャンする。第2距離L
2は第1距離L
1よりも短い。低下区間において、最大検知距離を短くすることによって、LiDARセンサ140が単位時間当たりに取得する点群データ量を削減することができる。このため、定常区間と比較して、LiDARセンサ140が出力する点群データ量を低減することが可能となる。さらに、低下区間において、センシングの角度範囲を小さくし、かつ、最大検知距離を短くすることによって、点群データ量を効率的に削減することが可能となる。
【0135】
次に、第3の例におけるセンシング装置250の動作を説明する。この例におけるセンシング装置250は障害物センサ130を含む。障害物センサ130は、障害物を検出していない場合には、障害物を検出した場合に出力するセンシングデータのデータ量よりも小さいデータ量のセンシングデータを出力してもよい。障害物センサ130がレーザスキャナを含む場合、レーザスキャナは、障害物が検出されている間は、例えば、前述したフィルタリング処理を適用することによって、取得した点群データ量を削減してもよい。障害物の検出は、障害物センサ130から出力されるセンシングデータに基づいて行われ得る。例えば、制御装置180が障害物を検出する機能を備えていてもよいし、遠隔装置400が障害物を検出する機能を備えていてもよい。
【0136】
通信装置190は、センシング装置250から出力されるセンシングデータに基づいて生成された、作業車両100の周囲の環境を可視化する時系列画像(または映像)に基づいて、センシングデータを遠隔装置400に送信する前に、映像の中で変化が少ない領域に対応するセンシングデータのデータ量を低下させるように構成され得る。
【0137】
再び
図11Aを参照する。作業車両100の周囲の環境の映像において、例えば背景に含まれる空79は、時系列画像を構成するフレーム群の連続するフレーム間において変化の少ない領域の1つである。例えば、制御装置180が、映像の中で変化が少ない領域を検出する機能を有し得る。本実施形態における通信装置190は、センシングデータを遠隔装置400に送信する前に、映像の中で変化が少ない空79の領域に対応するセンシングデータのデータ量を低下させる前処理を行う。この前処理により、通信装置190の側で、センシングデータを効率的に圧縮し、映像ストリームのデータ量を低減することが可能となる。
【0138】
通信装置190はエンコーダを有し、遠隔装置400はデコーダを有し得る。通信装置190のエンコーダは、センシング装置250から出力されるセンシングデータを符号化し、ストリーミングデータを生成し得る。例えば、ストリーミングデータは、遠隔装置400に送信され、あるいは、管理装置600に送信され、記憶装置650に記録され得る。記憶装置650に記録されたストリーミングデータは、遠隔操縦以外の他の用途、例えば、リアルタイム性を必要としない作物の生育状況または病害虫の観察に利用され得る。遠隔装置400のデコーダは、ストリーミングデータを受信し、復号化して作業車両100の周囲の環境の映像を生成する。この映像は、劣化または乱れが低減された映像である。遠隔監視センターのユーザは、ディスプレイ430に表示される映像を見ながら、作業車両100の自動走行を監視したり、遠隔操縦機500を利用して作業車両100を遠隔操縦することができる。
【0139】
本実施形態による農業機械またはセンシングシステムによれば、センシング装置から出力されるセンシングデータのデータ量を、通信装置の通信速度に応じて適応的に変更することにより、通信速度が低下した場合には、通信データ量を削減することが可能となる。さらに、通信装置190の側のデータ圧縮処理を、センシング装置から出力される、データ量が削減されたセンシングデータに適用することで、通信データ量の削減効果をさらに高めることができる。ただし、通信装置190の側のデータ圧縮処理は必須ではない。
【0140】
本開示の実施形態による農業機械100は、車両本体101と、車両本体101の周囲の環境をセンシングしてセンシングデータを出力するセンシング装置250と、センシング装置250から出力されるセンシングデータを遠隔装置400に送信する通信装置190とを備える。センシング装置250は、通信装置190から遠隔装置400への通信速度に応じて、通信装置190に出力するセンシングデータのデータ量を変更する。当該農業機械によれば、通信装置190と遠隔装置400との間の通信速度が低下したときに伝送されるデータ量を低減することができる。
【0141】
センシング装置250は、通信速度が閾値未満である場合には、通信速度が閾値以上であるときに出力するセンシングデータのデータ量よりも小さいデータ量のセンシングデータを出力し得る。この構成によれば、通信速度と閾値との大小関係によってセンシングデータのデータ量を適応的に変更できる。
【0142】
センシング装置250はカメラ120を含み得る。カメラ120は、通信速度が閾値未満である場合には、通信速度が閾値以上である場合に比べ、撮像時の解像度、カラー情報量、視差、および画像サイズの少なくとも1つを小さくし得る。この構成によれば、カメラから出力されるデータ量を通信速度に応じて適応的に変更できる。
【0143】
センシング装置250は、LiDARセンサ140を含み得る。LiDARセンサ140は、通信速度が閾値未満である場合には、通信速度が閾値以上である場合に比べ、単位時間当たりに出力する点群データ量およびセンシングの角度範囲の少なくとも一方を小さくし得る。この構成によれば、LiDARセンサから出力されるデータ量を通信速度に応じて適応的に変更できる。
【0144】
センシング装置250は、車両本体101の周囲の環境に存在する障害物を検出する障害物センサ130を含み得る。障害物センサ130は、障害物を検出していない場合には、障害物を検出した場合に出力するセンシングデータのデータ量よりも小さいデータ量のセンシングデータを出力し得る。この構成によれば、障害物センサから出力されるデータ量を通信速度に応じて適応的に変更できる。
【0145】
通信装置190は、センシングデータに基づいて生成された、車両本体101の周囲の環境を可視化する時系列画像に基づいて、センシングデータを遠隔装置400に送信する前に、時系列画像の中で変化が少ない領域に対応するセンシングデータのデータ量を低下させ得る。この構成によれば、映像の中で変化が少ない領域に対応するセンシングデータのデータ量を低下させる前処理を行うことにより、通信装置の側で、センシングデータを効率的に圧縮し、映像ストリームのデータ量を低減することが可能となる。
【0146】
制御装置180は、遠隔装置400から送信される信号に基づいて、車両本体101の走行を制御し得る。この構成によれば、農業機械から離れた場所からの遠隔操縦が可能となる。
【0147】
本開示の実施形態によるセンシングシステムは、農業機械の周囲の環境をセンシングしてセンシングデータを出力するセンシング装置250と、センシング装置250から出力されるセンシングデータを遠隔装置400に送信する通信装置190とを備える。センシング装置250は、通信装置190から遠隔装置400への通信速度に応じて、通信装置190に出力するセンシングデータのデータ量を変更する。
【0148】
本開示の実施形態によるセンシング方法は、農業機械100の周囲の環境をセンシングしてセンシングデータを出力するセンシング装置250からセンシングデータを取得するステップと、センシングデータを通信装置190から遠隔装置400に送信するステップと、センシング装置250に、通信装置190から遠隔装置400への通信速度に応じてセンシングデータのデータ量を変更させるステップとを含む。
【0149】
[4.通信速度が低下した場合の補償動作]
上記のような遠隔操縦システムにおいて、作業車両100の通信装置190は、カメラ120またはLiDARセンサ140等のセンシング装置250から出力されたセンシングデータに基づく送信データを、作業車両100に操縦指令を送信する遠隔装置400に送信する。送信データは、センシングデータそのものであってもよいし、制御装置180がセンシングデータに基づいて生成した画像等の可視化データであってもよい。通信装置190から遠隔装置400へのデータ通信は、例えば3G、LTE、4G、または5G等の移動体通信ネットワークを介して行われ得る。遠隔装置400は、通信装置190から逐次送信された送信データに基づく時系列画像(すなわち映像)をディスプレイ430に表示させる。これにより、ディスプレイ430には、作業車両100の周辺の環境の状況を示す映像が表示される。オペレータは、ディスプレイ430に表示された映像を見ながら、遠隔監視および遠隔操縦を行うことができる。
【0150】
上記のような遠隔監視および遠隔操縦を実現するためには、通信装置190から遠隔装置400へのデータ通信が安定していることが重要である。しかし、作業車両100の走行環境によっては、通信装置190から遠隔装置400へのデータ通信が安定せず、通信速度(すなわち単位時間あたりのデータ通信量)が低下する可能性がある。例えば、作業車両100の周辺に、同じ無線通信基地局を利用して通信を行う他の移動体または通信機器が多く存在すると、電波の干渉または混信などの障害が生じ易くなる。その結果、通信装置190と遠隔装置400との間の通信が不安定になったり、通信速度が低下したりすることが起こり得る。スマート農業の普及に伴い、今後、ネットワークに接続される農業機械および遠隔装置の数がますます増加すると、電波の干渉または混信などの障害がより生じ易くなり、通信速度が頻繁に低下することが見込まれる。また、作業車両100が通信用の電波を受信しにくいエリアを走行している場合も通信速度が低下する。通信装置190から遠隔装置400への通信速度が低下すると、遠隔装置400のディスプレイ430に表示される映像が継続的にまたは一時的に乱れ、遠隔操縦が困難になり得る。
【0151】
そこで、本実施形態では、制御装置180が、通信装置190から遠隔装置400への通信速度が低下した場合に、ディスプレイ430に表示される表示画像の劣化による遠隔操縦への影響を低減するための補償動作を、作業車両100の駆動装置240およびセンシング装置250の少なくとも一方に実行させる。補償動作は、例えば以下の動作(a)~(d)の少なくとも1つを含み得る。
(a)作業車両100の移動速度を、遠隔装置400から送信された操縦指令によって指定された速度よりも低下させる。
(b)作業車両100が方向転換を行うときの操舵角を、操縦指令によって指定された操舵角よりも低下させる。
(c)通信装置190が送信データを遠隔装置に送信する前に、センシングデータに基づいて生成される可視化データ(例えば時系列の画像データ)の中で時間的な変化が少ない領域に対応するセンシングデータのデータ量を減少させる。
(d)作業車両100の進行方向とは異なる方向の周囲の環境をセンシングするセンサが出力するセンシングデータのデータ量を減少させて、進行方向の周囲の環境をセンシングするセンサが出力するセンシングデータのデータ量よりも小さくする。
【0152】
補償動作は、上記の動作(a)~(d)に限らず、遠隔操縦を支援する他の動作であってもよい。補償動作は、例えば、表示画像の変化または劣化を抑制したり、表示画像の中の相対的に重要度の低い領域に対応するセンシングデータのデータ量を小さくしたりする動作であり得る。
【0153】
そのような補償動作を駆動装置240またはセンシング装置250に実行させる制御は、制御装置180におけるECU184によって実行され得る。上記のような補償動作により、通信装置190から遠隔装置400への通信速度が低下した場合に、遠隔操縦への影響が比較的小さい一部のデータを削減したり、送信データに基づいて生成される表示画像の変化を小さくしたりすることができる。これにより、通信速度の低下が生じたときの遠隔操縦への影響を低減することができる。
【0154】
制御装置180は、自動走行モードおよび遠隔操縦モードにおいて、上記の制御を常時行ってもよいし、作業車両100が特定のエリアを走行している場合のみ行ってもよい。例えば、制御装置180は、作業車両100が農道または圃場を走行しており、且つ、通信速度が低下したことを検知した場合のみ、作業車両100の駆動装置240またはセンシング装置250に補償動作を実行させてもよい。作業車両100が農道または圃場を走行しているか否かは、例えば、GNSSユニット110を用いた測位、または、カメラ120および/またはLiDARセンサ140を用いた自己位置推定によって特定された作業車両100の位置と、農道および圃場の位置情報を含む環境地図との照合によって判断され得る。あるいは、カメラ120を用いた画像認識処理によって作業車両100が農道または圃場をしているか否かを判断することも可能である。
【0155】
制御装置180は、上記の制御を実行するにあたり、通信装置190から遠隔装置400に送信されるデータの通信速度(すなわちビットレート)をモニターする。通信速度の低下は、通信速度と閾値との比較に基づいて検知され得る。例えば、制御装置180は、通信速度が予め設定された閾値よりも低下した場合に、作業車両100またはセンシング装置250に補償動作を実行させてもよい。
【0156】
補償動作は1種類に限らず、複数の補償動作が実行されてもよい。通信速度の低下の度合いに応じて段階的に補償動作が実行されてもよい。例えば、制御装置180は、通信速度が第1閾値を下回った場合に第1補償動作が実行され、通信速度が第1閾値よりも小さい第2閾値を下回った場合に第1補償動作とは異なる第2補償動作が実行されるように、駆動装置240および/またはセンシング装置250を制御してもよい。言い換えれば、制御装置180は、通信速度と複数の閾値との比較に基づいて、通信速度の低下の程度に応じて段階的に異なる補償動作が実行されるように、駆動装置240およびセンシング装置250の少なくとも一方を制御してもよい。そのような制御により、通信速度に応じたより柔軟な動作が可能になる。結果として、通信速度の低下に起因する表示画像の劣化による遠隔操縦への影響をより効果的に低減することができる。
【0157】
以下、制御装置180による上記の制御のより具体的な例を説明する。
【0158】
図18は、制御装置180による通信速度に応じた制御動作の一例を示すフローチャートである。
図18の例では、上記の補償動作(a)が行われる。制御装置180は、ステップS201からS207の動作を実行する。以下、各ステップの動作を説明する。
【0159】
ステップS201において、制御装置180は、センシング装置250から出力されたセンシングデータを取得する。センシングデータは、例えばカメラ120から出力された画像データ、および/またはLiDARセンサ140から出力された点群データであり得る。センシング装置250は、予め設定された周期でセンシングデータを繰り返し生成して出力する。生成されたセンシングデータは、記憶装置170に逐次記憶され得る。
【0160】
ステップS202において、制御装置180は、センシングデータに基づく送信データを遠隔装置400に送信するように通信装置190に指示する。制御装置180は、センシングデータそのものを送信データとして通信装置190に送信させてもよい。あるいは、制御装置180は、センシングデータに基づいて新たに生成した可視化データ(例えば時系列の画像データ)を送信データとして通信装置190に送信させてもよい。
【0161】
ステップS203において、制御装置180は、通信装置190が遠隔装置400から操縦指令を受信したか否かを判定する。操縦指令が受信された場合、ステップS204に進む。操縦指令が受信されていない場合、ステップS201に戻る。操縦指令は、例えば、作業車両100の走行速度および/または操舵角の指令値を示す信号を含み得る。操舵角は、中立方向(すなわち作業車両100の直進方向)に対する操舵輪(例えば前輪)の向く角度である。操縦指令は、作業車両100の走行状態だけでなく、インプルメント300の動作状態を規定する信号を含んでいてもよい。
【0162】
ステップS204において、制御装置180は、通信装置190から遠隔装置400への通信速度が、予め設定された閾値未満であるか否かを判定する。制御装置180は、通信中、通信装置190から遠隔装置400に送信されるデータの通信速度(すなわちビットレート)をモニターし、通信速度と閾値とを比較する。制御装置180は、例えば、直前に送信した送信データのビットレートが閾値未満である場合、通信速度が低下したと判定することができる。閾値は、例えば100kbps、500kbps、1Mbps、5Mbpsといった値であり得る。閾値は、例えば送信される可視化データの解像度、フレームレート、色情報量、およびエンコーダの種類等の種々の条件に応じて適切な値に設定され得る。ある例では、閾値は、50kbpsから10Mbpsの範囲内の値に設定され得る。他の例では、閾値は、100kbpsから5Mbpsの範囲内の値に設定され得る。通信速度が閾値未満である場合、ステップS205に進む。通信速度が閾値以上である場合、ステップS206に進む。
【0163】
ステップS205において、制御装置180は、上記の補償動作(a)を作業車両100の駆動装置240に実行させる。すなわち、制御装置180は、遠隔装置400から受信した操縦指令によって指定された速度よりも低い速度で作業車両100を走行させるように駆動装置240を制御する。例えば、制御装置180は、操縦指令が示す速度指令値に1よりも小さい正の係数を乗じた値を目標速度として速度制御を行ってもよい。これにより、作業車両100は、速度指令値よりも低い速度で走行する。
【0164】
図19Aは、速度指令値と作業車両100の実際の速度との関係の例を示す図である。
図19Aの例において、通信速度が閾値以上(通信速度:高)の場合は、作業車両100の実際の走行速度が速度指令値V
0に等しくなるように走行速度が制御される。一方、通信速度が閾値未満(通信速度:低)の場合は、作業車両100の実際の走行速度が速度指令値V
0よりも小さい値V
lになるように走行速度が制御される。
【0165】
制御装置180は、通信速度を1つの閾値と比較する代わりに、通信速度を複数の閾値と比較し、通信速度の低下の度合いに応じて作業車両100の走行速度を段階的に低くしてもよい。例えば
図19Bに示す例のように、通信速度が第1閾値未満且つ第2閾値以上(通信速度:中)の場合、作業車両100の実際の速度を速度指令値V
0よりも低いV
mに低下させ、通信速度が第2閾値未満(通信速度:低)の場合、作業車両100の実際の速度を速度V
mよりも低いV
lに低下させてもよい。
【0166】
制御装置180は、通信速度と閾値との比較を行う代わりに、予め作成されたテーブルまたは関数等のデータに基づいて、通信速度に応じた制限速度を決定してもよい。その場合、制御装置180は、通信速度が低いほど作業車両100の制限速度を低くするように制御する。これにより、通信状況に応じてより細やかな速度制御が可能になる。
【0167】
ステップS205における補償動作により、操縦指令によって指定された速度よりも作業車両100の実際の速度が低くなる。このため、遠隔装置400のディスプレイ430に表示される画像の動きが小さくなり、遠隔監視および遠隔操縦がし易くなる。また、通信装置190が映像データを、例えばフレーム内予測およびフレーム間予測等を行って圧縮して送信する場合、映像の変化が小さくなることでデータ送信量が低減され得る。これにより、通信遅延による表示画像の劣化が抑制され、オペレータが表示画像に基づいて作業車両100の周囲の状況を把握することが容易になる。
【0168】
ステップS206において、制御装置180は、操縦指令に従って作業車両100を走行させるように駆動装置240に指示する。すなわち、通信速度が閾値以上の場合、制御装置180は、操縦指令によって指定された速度で作業車両100を走行させる。
【0169】
ステップS207において、制御装置180は、動作終了の指示が出されたか否かを判定する。動作終了の指示は、例えばオペレータが作業車両100の遠隔操縦または自動走行を停止する操作を行った場合に遠隔装置400から通信装置190に送られ得る。動作終了の指示が出された場合、制御装置180は作業車両100を停止させ、動作を終了する。動作終了の指示が出されていない場合、ステップS201に戻る。以後、動作終了の指示が出されるまで、ステップS201からS207の動作が繰り返される。
【0170】
以上の動作により、オペレータは、遠隔装置400のディスプレイ430に表示された映像を見ながら、作業車両100の遠隔監視および遠隔操縦を行うことができる。
図18の例では、制御装置180は、通信速度の低下を検知した場合に、操縦指令によって指定された速度よりも低い走行速度で作業車両100を走行させる。これにより、通信速度の低下に起因する表示画像の劣化による遠隔操縦への影響を低減することができる。
【0171】
図20は、制御装置180による通信速度に応じた制御動作の他の例を示すフローチャートである。
図20の例では、上記の補償動作(b)が行われる。
図20に示す動作は、ステップS205がステップS215に置き換わった点を除き、
図18に示す動作と同じである。以下、
図18の例とは異なる点を説明する。
【0172】
ステップS215において、制御装置180は、上記の補償動作(b)を作業車両100の駆動装置240に実行させる。すなわち、制御装置180は、遠隔装置400から受信した操縦指令によって指定された操舵角よりも小さい操舵角で作業車両100を走行させるように駆動装置240を制御する。例えば、制御装置180は、操縦指令が示す操舵角指令値に1よりも小さい正の係数を乗じた値を目標操舵角として操舵制御を行ってもよい。あるいは、制御装置180は、右折または左折を指示する操縦指令が出された場合に、操舵角を変化させる制御のゲインを小さくすることによって上記の制御を実行することができる。ゲインを小さくすることにより、操舵角の変動が小さくなり、表示画像の変化を抑えることができる。
【0173】
図21Aは、操舵角指令値と作業車両100の実際の操舵角との関係の例を示す図である。
図21Aの例において、通信速度が閾値以上(通信速度:高)の場合は、作業車両100の実際の操舵角が操舵角指令値θ
0に等しくなるように操舵角が制御される。一方、通信速度が閾値未満(通信速度:低)の場合は、作業車両100の実際の操舵角が操舵角指令値θ
0よりも小さい値θ
lになるように走行速度が制御される。
【0174】
この例においても、制御装置180は、通信速度を1つの閾値と比較する代わりに、通信速度を複数の閾値と比較し、通信速度の低下の度合いに応じて作業車両100の操舵角を段階的に低くしてもよい。例えば
図21Bに示す例のように、通信速度が第1閾値未満且つ第2閾値以上(通信速度:中)の場合、作業車両100の実際の操舵角を操舵角指令値θ
0よりも小さい値θ
mに低下させ、通信速度が第2閾値未満(通信速度:低)の場合、作業車両100の実際の操舵角を角度θ
mよりも小さい値θ
lに低下させてもよい。
【0175】
この例においても、制御装置180は、通信速度と閾値との比較を行う代わりに、予め作成されたテーブルまたは関数等のデータに基づいて、通信速度に応じた操舵角の上限値を決定してもよい。その場合、制御装置180は、通信速度が低いほど作業車両100の操舵角の上限値を低くするように制御する。これにより、通信状況に応じてより細やかな操舵制御が可能になる。
【0176】
上記のように、制御装置180は、通信速度が低いほど操舵制御のゲインを小さくしてもよい。例えば、制御装置180は、通信速度の低下に対して操舵制御のゲインを単調に減少させてもよい。その場合、通信速度の計測値と操舵制御のゲインとの関係を規定するテーブルまたは関数を示すデータが予め記憶装置170に記憶され得る。制御装置180は、当該データと通信速度の計測値とに基づいて操舵制御のゲインを決定してもよい。
【0177】
ステップS215における補償動作により、操縦指令によって指定された操舵角よりも作業車両100の実際の操舵角が小さくなる。このため、作業車両100が方向転換を行ったときに遠隔装置400のディスプレイ430に表示される画像の変化が小さくなり、遠隔監視がし易くなる。また、通信装置190が映像データを、例えばフレーム内予測およびフレーム間予測等を行って圧縮して送信する場合、映像の変化が小さくなることでデータ送信量が低減され得る。これにより、通信遅延による表示画像の劣化が抑制され、オペレータが表示映像に基づいて作業車両100の周囲の状況を把握することが容易になる。
【0178】
図20に示すステップS215において、制御装置180は、
図18に示すステップS205の動作を併せて行ってもよい。すなわち、制御装置180は、作業車両100の走行速度および操舵角の両方を、操縦指令によって指定された指令値よりも小さくしてもよい。そのような補償動作により、通信速度の低下時における表示画像の変化あるいは劣化をさらに抑制し、遠隔操縦をさらに容易にすることができる。
【0179】
図22は、上記の補償動作時における操縦指令の値(指令値)と、制御装置180が制御において設定する目標値との比(目標値/指令値)を例示する図である。指令値は、前述の速度指令値V
0または操舵角指令値θ
0等である。目標値は、前述の速度V
l、V
m(<V
0)、または角度θ
l、θ
m(<θ
0)等である。
図22には、通信速度に応じた目標値の設定の仕方の3つの例が示されている。制御装置180は、制御量(例えば走行速度または操舵角)を目標値に近付けるフィードバック制御(例えばPID制御等)を実行することができる。制御装置180は、通信速度の低下を検知した場合、当該制御における目標値を、指令値よりも低くすることで、上記の補償動作を実現することができる。
【0180】
図22に示すように、制御装置180は、通信速度が閾値以上である場合(すなわち通信速度が高い場合)は、制御における目標値を指令値と同じ値に設定する。この場合、目標値/指令値は1.0である。制御装置180は、通信速度が閾値未満である場合(すなわち通信速度が低い場合)は、制御における目標値を指令値よりも小さくする。例えば、制御装置180は、通信速度が閾値未満である場合、ラインL101に示すように、目標値を指令値よりも低い所定値に固定してもよい。この場合、目標値/指令値はX1である。あるいは、制御装置180は、通信速度が閾値未満である場合、ラインL102に示すように、通信速度に応じて目標値を指令値よりも低い値に段階的に変更してもよい。この場合、目標値/指令値は、通信速度の値に応じて、X2~X5のいずれかである。あるいは、制御装置180は、通信速度が閾値未満である場合、ラインL103に示すように、通信速度に応じて目標値を指令値よりも低い値に連続的に変更してもよい。この場合、目標値/指令値は、通信速度の低下に応じて連続的に減少する。
【0181】
このように、
図22の例においては、制御装置180は、通信速度が閾値以上である場合(すなわち通信速度が高い場合)は、目標値を指令値と同じ値に設定し、通信速度が閾値未満である場合(すなわち通信速度が低い場合)は、目標値を指令値よりも小さい値に設定する。これにより、指令値と同じ値を目標値とする場合と比較して作業車両100の動きを小さくすることができるため、遠隔操縦をし易くすることができる。
【0182】
図23は、制御装置180による通信速度に応じた制御動作のさらに他の例を示すフローチャートである。
図23の例では、上記の補償動作(c)が行われる。
図23に示す動作は、ステップS201とステップS202との間にステップS222が追加され、ステップS203においてYesと判断された場合にステップS206に進み、ステップS203においてNoと判断された場合にステップS204に進み、ステップS205がステップS225に置き換わり、ステップS204においてNoと判断された場合にステップS207に進む点で、
図18に示す動作と異なる。以下、
図18の例とは異なる点を説明する。
【0183】
図23の例では、ステップS201の後、制御装置180は、センシングデータに基づいて、作業車両100の周囲の状況を示す可視化データを生成する(ステップS222)。可視化データは、例えばカメラ120またはLiDARセンサ140から出力されたデータに基づく画像データであり得る。可視化データは、一般的なカラー画像のデータに限らず、例えば測距が行われた点群の位置分布または距離分布を可視化した画像のデータであってもよい。この可視化データは、続くステップS202において通信装置190によって遠隔装置400に送信され得る。なお、ステップS222の動作は、
図18および
図20に示す例におけるステップS201とステップS202との間において行われてもよい。その場合も、ステップS222において生成された可視化データは、
図18または
図18に示すステップS202において送信データとして遠隔装置400に送信され得る。
【0184】
図23の例では、ステップS203において操縦指令が受信されたと判定すると、制御装置180は、ステップS206に進み、操縦指令に従って走行するように駆動装置240を制御する。
【0185】
ステップS203において操縦指令が受信されていないと判定すると、制御装置180は、ステップS204に進み、通信速度と閾値との比較を行う。通信速度が閾値未満である場合、ステップS225に進む。通信速度が閾値以上である場合、ステップS207に進む。
【0186】
ステップS225において、制御装置180は、カメラ120またはLiDARセンサ140等のセンシング装置250に、出力するセンシングデータのデータ量を規定値よりも削減するように指示する。例えば、制御装置180は、ステップS222で生成した可視化データの中で時間的な変化(すなわち動き)が少ない領域に対応するセンシングデータのデータ量を規定値よりも削減するようにセンシング装置250に指示する。より具体的には、制御装置180は、可視化データが示す映像の中で、変化が少ない領域に対応するセンシングデータの解像度を低下させてもよい。センシング装置250は、次回以降のセンシングでは、変化が少ない領域に対応するデータのデータ量が削減されたセンシングデータを出力する。これにより、次回以降のステップS202では、データ量が削減されたセンシングデータに基づく可視化データが送信される。
【0187】
このように、
図23の例におけるセンシング装置250は、制御装置180からの要求に応じて、出力するセンシングデータのデータ量を変更できるように構成されている。センシング装置250は、通信速度が閾値未満である場合には、通信速度が閾値以上であるときに出力するセンシングデータのデータ量よりも小さいデータ量のセンシングデータを出力する。センシング装置250は、通信速度が閾値以上である間は、例えば出力可能な最大量のデータを出力し、通信速度が閾値を下回ると、最大量の例えば1/2または1/3のデータ量を出力するように制御され得る。
【0188】
作業車両100の周囲の環境を示す映像において、例えば
図11Aに示す背景に含まれる空79は、時系列画像を構成するフレーム群の連続するフレーム間において変化の少ない領域の1つである。制御装置180は、空79のような、映像の中で変化が少ない領域を検出する機能を有し得る。制御装置180は、通信装置190がセンシングデータを遠隔装置400に送信する前に、映像の中で変化が少ない空79などの領域に対応するセンシングデータのデータ量を低下させる前処理を行う。この前処理により、通信装置190がセンシングデータを効率的に圧縮し、映像ストリームのデータ量を低減することが可能となる。
【0189】
通信装置190はエンコーダを有し、遠隔装置400はデコーダを有し得る。通信装置190のエンコーダは、センシング装置250から出力されるセンシングデータを符号化し、ストリーミングデータを生成し得る。例えば、ストリーミングデータは、遠隔装置400に送信され、あるいは管理装置600に送信され、記憶装置650に記録され得る。記憶装置650に記録されたストリーミングデータは、遠隔操縦以外の他の用途、例えば、リアルタイム性を必要としない作物の生育状況または病害虫の観察に利用されてもよい。遠隔装置400のデコーダは、ストリーミングデータを受信し、復号化して作業車両100の周囲の環境の映像を生成する。この映像は、劣化または乱れが低減された映像である。遠隔監視センターのオペレータまたはユーザは、ディスプレイ430に表示される映像を見ながら、作業車両100の自動走行を監視したり、遠隔操縦機500を利用して作業車両100を遠隔操縦したりすることができる。
【0190】
図23の例によれば、センシング装置250から出力されるセンシングデータのデータ量を、通信装置190の通信速度に応じて適応的に変更することができる。例えば、通信速度が低下した場合に、表示画像中で変化の多い領域に対応するセンシングデータのデータ量を維持しながら、変化の少ない領域に対応するセンシングデータのデータ量を削減することができる。これにより、遠隔監視および遠隔操縦において重要な領域の情報を維持しながら、データ送信量を低減することができる。結果として、通信速度の低下に起因する表示画像の劣化による遠隔操縦への影響を低減することができる。
【0191】
図24は、通信装置190の通信速度の時間変化と、センシング装置250から出力されるセンシングデータのデータ量の時間変化の一例を示す図である。
図24における上側のグラフは、通信速度の時間変化の例を示している。
図24における下側のグラフは、出力されるセンシングテータのデータ量の時間変化の例を示している。横軸は時間を示し、縦軸は、上のグラフにおいては通信速度を、下のグラフにおいてはデータ量を示している。
【0192】
作業車両100の走行環境の変化により、通信速度が変動し得る。
図24に示す例において、通信速度が十分に高く安定している期間を「定常区間」と呼び、通信速度が閾値を下回る期間を「低下区間」と呼ぶ。閾値は、システムが利用される環境によって適宜決定され得る。センシング装置250は、定常区間では、第1動作設定に従ってセンシングデータを出力し、低下区間では、第2動作設定に従ってセンシングデータを出力するように制御される。定常区間では、センシング装置250から出力されるセンシングデータのデータ量は、予め設定された上限値(Max値)に維持される。その状態から通信速度が低下して閾値を下回ると、制御装置180は、例えばセンシングデータのうち、重要度の低い一部のデータの出力を抑える補償動作を実行するようにセンシング装置250を制御する。すると、出力されるセンシングデータのデータ量が減少し、センシングデータに基づいて生成される送信データのデータ量も減少する。これにより、遠隔装置400によって生成される監視用の映像の劣化が抑制され、遠隔操縦への影響を低減することができる。
【0193】
図23に示す例において、制御装置180は、通信速度を1つの閾値と比較する代わりに、通信速度を複数の閾値と比較し、通信速度の低下の度合いに応じてセンシングデータの削減量を変化させてもよい。あるいは、制御装置180は、通信速度と閾値との比較を行う代わりに、予め作成されたテーブルまたは関数等のデータに基づいて、通信速度に応じたデータ削減量を決定してもよい。その場合、制御装置180は、通信速度が低いほどセンシング装置250から出力されるセンシングデータのデータ量が小さくなるように制御する。これにより、通信状況に応じてより細やかな制御が可能になる。
【0194】
図23に示す動作と、
図18および
図20の一方または両方に示す動作とを組み合わせてもよい。すなわち、制御装置180は、通信速度の低下を検知した場合に、センシング装置250にセンシングデータのデータ量の削減を指示し、駆動装置240に走行速度および操舵角の少なくとも一方を操縦指令によって指定された値よりも小さくするように指示してもよい。そのような複数の種類の補償動作を組み合わせることにより、遠隔操縦を支援する効果をさらに高めることができる。
【0195】
次に、センシング装置250が、作業車両100の進行方向の周囲の環境をセンシングする第1センサと、進行方向とは異なる方向の周囲の環境をセンシングする第2センサとを含む構成における動作の具体例を説明する。
【0196】
図25Aは、センシング装置250が、作業車両100の進行方向側を撮影する第1カメラ120Fと、作業車両100の進行方向の反対側を撮影する第2カメラ120Rとによってセンシングを行っている様子を模式的に示す図である。この例では、第1カメラ120Fが第1センサに相当し、第2カメラ120Rが第2センサに相当する。このような構成においては、制御装置180は、上記の補償動作(d)を第2カメラ120Rに実行させることができる。すなわち、制御装置180は、第2カメラ120Rが出力する画像データのデータ量を減少させて、第1カメラ120Fが出力する画像データのデータ量よりも小さくする動作を、補償動作として第2カメラ120Rに実行させることができる。制御装置180は、例えば、第2カメラ120Rから出力される画像の解像度を低下させたり、当該画像の色情報を減少させたり、当該画像から中央部等の一部の領域を切り出した画像を出力させたりすることにより、データ量を減少させることができる。
図25Aの例において、制御装置180は、通信速度が低下した場合、第1カメラ120Fから出力される画像データのデータ量も併せて削減してもよい。ただし、その場合、第1カメラ120Fから出力される画像データのデータ量の削減率は、第2カメラ120Rから出力される画像データのデータ量の削減率よりも小さく抑えられ得る。
【0197】
図25Bは、
図25Aの変形例を示す図である。この例では、センシング装置250が、作業車両100の進行方向側をセンシングする第1LiDARセンサ140Fと、作業車両100の進行方向の反対側をセンシングする第2LiDARセンサ140Rとを含んでいる。
図25Bの例では、第1LiDARセンサ140Fが第1センサに相当し、第2LiDARセンサ140Rが第2センサに相当する。このような構成においても、制御装置180は、上記の補償動作(d)を第2LiDARセンサ140Rに実行させることができる。すなわち、制御装置180は、第2LiDARセンサ140Rが出力する点群データのデータ量を減少させて、第1LiDARセンサ140Fが出力する点群データのデータ量よりも小さくする動作を、補償動作として第2LiDARセンサ140Rに実行させることができる。制御装置180は、例えば、第2LiDARセンサ140Rから出力される点群データの点群数を少なくしたり、スキャンの範囲を狭くすることにより、データ量を減少させることができる。
図25Bの例において、制御装置180は、通信速度が低下した場合、第1LiDARセンサ140Fから出力される点群データのデータ量も併せて削減してもよい。ただし、その場合、第1LiDARセンサ140Fから出力される点群データのデータ量の削減率は、第2LiDARセンサ140Rから出力される点群データのデータ量の削減率よりも小さく抑えられ得る。
【0198】
図25Aおよび
図25Bに示す例における制御装置180の動作は、
図23に示す動作と基本的に同じである。補償動作(d)が行われる場合、制御装置180は、ステップS225において、第2センサが出力するセンシングデータのデータ量を減少させるようにセンシング装置250に指示する。センシング装置250が3つ以上のセンサを含んでいる場合、正面方向をセンシングするセンサ以外の他のセンサにセンシングデータのデータ量を減少させてもよい。これにより、送信データをさらに削減して、表示画像の劣化をさらに低減することができる。
【0199】
以上のように、本実施形態における遠隔操縦システムは、作業車両100(すなわち農業機械)の周囲の環境をセンシングしてセンシングデータを出力するセンシング装置250と、センシング装置250から出力されたセンシングデータに基づく送信データを、作業車両100に操縦指令を送信する遠隔装置400に送信する通信装置190と、通信装置190から遠隔装置400への通信速度が低下した場合に、遠隔装置400が受信した送信データに基づく作業車両100の周囲の状況を示す表示画像の劣化による遠隔操縦への影響を低減するための補償動作を、作業車両100およびセンシング装置250の少なくとも一方に実行させる制御装置180と、を備える。
【0200】
上記の構成により、通信速度の低下に起因する表示画像の劣化によって遠隔操縦が困難になるという課題を解決することができる。
【0201】
制御装置180は、作業車両100の移動速度を、操縦指令によって指定された速度よりも低下させる動作を、補償動作として作業車両100に実行させてもよい。これにより、作業車両100の移動に伴う表示画像の変化を抑制することができるため、遠隔操縦を行いやすくすることができる。
【0202】
制御装置180は、作業車両100が方向転換を行うときの操舵角を、操縦指令によって指定された操舵角よりも低下させる動作を、補償動作として作業車両100に実行させてもよい。これにより、作業車両100の方向転換に伴う表示画像の変化を抑制することができるため、遠隔操縦を行いやすくすることができる。
【0203】
制御装置180は、作業車両100の周囲の環境を可視化する可視化データをセンシングデータに基づいて生成し、通信装置190が送信データを遠隔装置400に送信する前に、可視化データの中で時間的な変化が少ない領域に対応するセンシングデータのデータ量を低下させる動作を、補償動作としてセンシング装置250に実行させてもよい。これにより、相対的に重要度の低い、変化が少ない領域のデータを削減することができるため、通信速度の低下に起因する表示画像の劣化を抑制することができる。
【0204】
センシング装置250は、作業車両100の進行方向の周囲の環境をセンシングする第1センサと、作業車両100の進行方向とは異なる方向の周囲の環境をセンシングする第2センサとを含み得る。制御装置180は、第2センサが出力するセンシングデータのデータ量を減少させて第1センサが出力するセンシングデータのデータ量よりも小さくする動作を、補償動作として第2センサに実行させてもよい。これにより、相対的に重要度の低い、進行方向とは異なる方向の状況を示すセンシングデータのデータ量を削減することができるため、通信速度の低下に起因する表示画像の劣化を抑制することができる。
【0205】
制御装置180は、作業車両100が農道または圃場を走行しており、且つ、通信速度が低下したことを検知した場合に、補償動作をセンシング装置250および作業車両100の少なくとも一方に実行させてもよい。これにより、作業車両100が農道または圃場を走行している場合に、補償動作によって遠隔操縦を支援することができる。
【0206】
制御装置180は、通信速度が閾値よりも低下した場合に、補償動作を作業車両100およびセンシング装置250の少なくとも一方に実行させてもよい。あるいは、制御装置180は、通信速度と補償動作との対応関係を規定したテーブル等のデータに基づいて、補償動作を作業車両100およびセンシング装置250の少なくとも一方に実行させてもよい。
【0207】
制御装置180は、通信速度が第1閾値よりも低下した場合に、第1補償動作を作業車両100およびセンシング装置250の少なくとも一方に実行させ、通信速度が第1閾値よりも小さい第2閾値よりも低下した場合に、第1補償動作とは異なる第2補償動作を作業車両100およびセンシング装置250の少なくとも一方に実行させてもよい。これにより、通信速度の低下の程度に応じて段階的に適切な補償動作を実行させることができる。
【0208】
遠隔操縦システムは、遠隔装置400をさらに備えていてもよい。あるいは、遠隔装置400は、遠隔操縦システムの外部の要素であってもよい。遠隔操縦システムは、表示画像を表示する表示装置430をさらに備えていてもよい。あるいは、表示装置430は、遠隔操縦システムの外部の要素であってもよい。
【0209】
本実施形態における作業車両100は、上記のいずれかの態様における遠隔操縦システムと、制御装置180によって制御される走行装置とを備える。
【0210】
本開示の実施形態による制御方法は、農業機械を遠隔操縦するための遠隔操縦システムにおいて用いられる。制御方法は、農業機械の周囲の環境をセンシングするセンシング装置によって生成されたセンシングデータを取得するステップと、センシングデータに基づく送信データを、農業機械に操縦指令を送信する遠隔装置に送信するステップと、通信装置から遠隔装置への通信速度が低下した場合に、送信データに基づく農業機械の周囲の状況を示す表示画像の劣化による前記遠隔操縦への影響を低減するための補償動作を、農業機械およびセンシング装置の少なくとも一方に実行させるステップと、を含む。
【0211】
上記の実施形態の構成および動作は例示にすぎず、本開示は上記の実施形態に限定されない。例えば、上記の種々の実施形態を適宜組み合わせて別の実施形態を構成してもよい。
【0212】
上記の実施形態では、農業機械が自動運転を行うが、農業機械は自動運転の機能を備えていなくてもよい。本開示の技術は、遠隔操縦が可能な農業機械に広く適用することができる。
【0213】
以上の実施形態における自動走行および/または遠隔操作走行の制御を行うシステムを、それらの機能を有しない農業機械に後から取り付けることもできる。そのようなシステムは、農業機械とは独立して製造および販売され得る。そのようなシステムで使用されるコンピュータプログラムも、農業機械とは独立して製造および販売され得る。コンピュータプログラムは、例えばコンピュータが読み取り可能な非一時的な記憶媒体に格納されて提供され得る。コンピュータプログラムは、電気通信回線(例えばインターネット)を介したダウンロードによっても提供され得る。
【0214】
以上のように、本開示は、以下の項目に記載の農業機械、センシングシステム、センシング方法、遠隔操縦システム、および制御方法を含む。
【0215】
[項目1]
車両本体と、
前記車両本体の周囲の環境をセンシングしてセンシングデータを出力するセンシング装置と、
前記センシング装置から出力される前記センシングデータを遠隔装置に送信する通信装置と、
を備えた農業機械であって、
前記センシング装置は、前記通信装置から前記遠隔装置への通信速度に応じて、前記通信装置に出力する前記センシングデータのデータ量を変更する、農業機械。
【0216】
[項目2]
前記センシング装置は、前記通信速度が閾値未満である場合には、前記通信速度が前記閾値以上であるときに出力するセンシングデータのデータ量よりも小さいデータ量のセンシングデータを出力する、項目1に記載の農業機械。
【0217】
[項目3]
前記センシング装置は、カメラを含み、
前記カメラは、前記通信速度が閾値未満である場合には、前記通信速度が前記閾値以上である場合に比べ、撮像時の解像度、カラー情報量、視差、および画像サイズの少なくとも1つを小さくする、項目1または2に記載の農業機械。
【0218】
[項目4]
前記センシング装置は、LiDARセンサを含み、
前記LiDARセンサは、前記通信速度が閾値未満である場合には、前記通信速度が前記閾値以上である場合に比べ、単位時間当たりに出力する点群データ量およびセンシングの角度範囲の少なくとも一方を小さくする、項目1から3のいずれかに記載の農業機械。
【0219】
[項目5]
前記センシング装置は、前記車両本体の周囲の環境に存在する障害物を検出する障害物センサを含み、
前記障害物センサは、前記障害物を検出していない場合には、前記障害物を検出した場合に出力するセンシングデータのデータ量よりも小さいデータ量のセンシングデータを出力する、項目1から4のいずれかに記載の農業機械。
【0220】
[項目6]
前記通信装置は、前記センシングデータに基づいて生成された、前記車両本体の周囲の環境を可視化する時系列画像に基づいて、前記センシングデータを前記遠隔装置に送信する前に、前記時系列画像の中で変化が少ない領域に対応する前記センシングデータのデータ量を低下させる、項目1から5のいずれかに記載の農業機械。
【0221】
[項目7]
前記遠隔装置から送信される信号に基づいて、前記車両本体の走行を制御する制御装置を備る、項目1から6のいずれかに記載の農業機械。
【0222】
[項目8]
農業機械の周囲の環境をセンシングしてセンシングデータを出力するセンシング装置と、
前記センシング装置から出力される前記センシングデータを遠隔装置に送信する通信装置と、
を備え、
前記センシング装置は、前記通信装置から前記遠隔装置への通信速度に応じて、前記通信装置に出力する前記センシングデータのデータ量を変更する、
センシングシステム。
【0223】
[項目9]
農業機械の周囲の環境をセンシングしてセンシングデータを出力するセンシング装置から前記センシングデータを取得するステップと、
前記センシングデータを通信装置から遠隔装置に送信するステップと、
前記センシング装置に、前記通信装置から前記遠隔装置への通信速度に応じて前記センシングデータのデータ量を変更させるステップと、
を含むセンシング方法。
【0224】
[項目10]
農業機械の遠隔操縦システムであって、
前記農業機械の周囲の環境をセンシングしてセンシングデータを出力するセンシング装置と、
前記センシング装置から出力された前記センシングデータに基づく送信データを、前記農業機械に操縦指令を送信する遠隔装置に送信する通信装置と、
前記通信装置から前記遠隔装置への通信速度が低下した場合に、前記遠隔装置が受信した前記送信データに基づく前記農業機械の周囲の状況を示す表示画像の劣化による前記遠隔操縦への影響を低減するための補償動作を、前記農業機械および前記センシング装置の少なくとも一方に実行させる制御装置と、
を備える遠隔操縦システム。
【0225】
[項目11]
前記制御装置は、前記農業機械の移動速度を、前記操縦指令によって指定された速度よりも低下させる動作を、前記補償動作として前記農業機械に実行させる、項目10に記載の遠隔操縦システム。
【0226】
[項目12]
前記制御装置は、前記農業機械が方向転換を行うときの操舵角を、前記操縦指令によって指定された操舵角よりも低下させる動作を、前記補償動作として前記農業機械に実行させる、項目10または11に記載の遠隔操縦システム。
【0227】
[項目13]
前記制御装置は、
前記農業機械の周囲の環境を可視化する可視化データを前記センシングデータに基づいて生成し、
前記通信装置が前記送信データを前記遠隔装置に送信する前に、前記可視化データの中で時間的な変化が少ない領域に対応する前記センシングデータのデータ量を低下させる動作を、前記補償動作として前記センシング装置に実行させる、項目10から12のいずれかに記載の遠隔操縦システム。
【0228】
[項目14]
前記センシング装置は、
前記農業機械の進行方向の周囲の環境をセンシングする第1センサと、
前記農業機械の進行方向とは異なる方向の周囲の環境をセンシングする第2センサとを含み、
前記制御装置は、前記第2センサが出力するセンシングデータのデータ量を減少させて前記第1センサが出力するセンシングデータのデータ量よりも小さくする動作を、前記補償動作として前記第2センサに実行させる、項目10から13のいずれかに記載の遠隔操縦システム。
【0229】
[項目15]
前記制御装置は、前記農業機械が農道または圃場を走行しており、且つ、前記通信速度が低下したことを検知した場合に、前記補償動作を前記センシング装置および前記農業機械の少なくとも一方に実行させる、項目10から14のいずれかに記載の遠隔操縦システム。
【0230】
[項目16]
前記制御装置は、前記通信速度が閾値よりも低下した場合に、前記補償動作を前記農業機械および前記センシング装置の少なくとも一方に実行させる、項目10から15のいずれかに記載の遠隔操縦システム。
【0231】
[項目17]
前記制御装置は、
前記通信速度が第1閾値よりも低下した場合に、第1補償動作を前記農業機械および前記センシング装置の少なくとも一方に実行させ、
前記通信速度が第1閾値よりも小さい第2閾値よりも低下した場合に、前記第1補償動作とは異なる第2補償動作を前記農業機械および前記センシング装置の少なくとも一方に実行させる、項目10から16のいずれかに記載の遠隔操縦システム。
【0232】
[項目18]
前記遠隔装置をさらに備える、項目10から17のいずれかに記載の遠隔操縦システム。
【0233】
[項目19]
前記表示画像を表示する表示装置をさらに備える、項目10から18のいずれかに記載の遠隔操縦システム。
【0234】
[項目20]
項目10から19のいずれかに記載の遠隔操縦システムと、
前記制御装置によって制御される走行装置と、
を備える農業機械。
【0235】
[項目21]
農業機械を遠隔操縦するための遠隔操縦システムにおいて用いられる制御方法であって、
前記農業機械の周囲の環境をセンシングするセンシング装置によって生成されたセンシングデータを取得するステップと、
前記センシングデータに基づく送信データを、前記農業機械に操縦指令を送信する遠隔装置に送信するステップと、
前記通信装置から前記遠隔装置への通信速度が低下した場合に、前記送信データに基づく前記農業機械の周囲の状況を示す表示画像の劣化による前記遠隔操縦への影響を低減するための補償動作を、前記農業機械および前記センシング装置の少なくとも一方に実行させるステップと、
を含む制御方法。
【産業上の利用可能性】
【0236】
本開示の技術は、例えばトラクタ、収穫機、田植機、乗用管理機、野菜移植機、草刈機、播種機、施肥機、農業用ドローン、または農業用ロボットなどの、自動運転を行う農業機械、または、遠隔操縦によって動作することが可能な農業機械のための制御システムに適用することができる。
【符号の説明】
【0237】
50・・・GNSS衛星、60・・・基準局、70・・・圃場、71・・・出入口、72・・・作業領域、74・・・枕地、76・・・道、79・・・空、80・・・ネットワーク、90・・・保管場所、96・・・待機場所、100・・・作業車両、101・・・車両本体、102・・・原動機(エンジン)、103・・・変速装置(トランスミッション)、104・・・車輪、105・・・キャビン、106・・・操舵装置、107・・・運転席、108・・・連結装置、110・・・測位装置、111・・・GNSS受信機、112・・・RTK受信機、115・・・慣性計測装置(IMU)、116・・・処理回路、120・・・カメラ、130・・・障害物センサ、140・・・LiDARセンサ、150・・・センサ群、152・・・ステアリングホイールセンサ、154・・・切れ角センサ、156・・・回転センサ、160・・・制御システム、170・・・記憶装置、180・・・制御装置、181~186・・・ECU、190・・・通信装置、200・・・操作端末、210・・・操作スイッチ群、220・・・ブザー、240・・・駆動装置、300・・・インプルメント、340・・・駆動装置、380・・・制御装置、390・・・通信装置、400・・・遠隔装置、420・・・入力装置、430・・・表示装置、450・・・記憶装置、460・・・プロセッサ、470・・・ROM、480・・・RAM、490・・・通信装置、500・・・遠隔操縦機、600・・・管理装置、660・・・プロセッサ、670・・・記憶装置、670・・・ROM、680・・・RAM、690・・・通信装置