IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社小松製作所の特許一覧

<>
  • 特許-作業機械のシステム及び方法 図1
  • 特許-作業機械のシステム及び方法 図2
  • 特許-作業機械のシステム及び方法 図3
  • 特許-作業機械のシステム及び方法 図4
  • 特許-作業機械のシステム及び方法 図5
  • 特許-作業機械のシステム及び方法 図6
  • 特許-作業機械のシステム及び方法 図7
  • 特許-作業機械のシステム及び方法 図8
  • 特許-作業機械のシステム及び方法 図9
  • 特許-作業機械のシステム及び方法 図10
  • 特許-作業機械のシステム及び方法 図11
  • 特許-作業機械のシステム及び方法 図12
  • 特許-作業機械のシステム及び方法 図13
  • 特許-作業機械のシステム及び方法 図14
  • 特許-作業機械のシステム及び方法 図15
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-10-17
(45)【発行日】2022-10-25
(54)【発明の名称】作業機械のシステム及び方法
(51)【国際特許分類】
   E02F 9/26 20060101AFI20221018BHJP
   H04N 7/18 20060101ALI20221018BHJP
   G06T 1/00 20060101ALI20221018BHJP
   B60R 11/02 20060101ALI20221018BHJP
【FI】
E02F9/26 B
H04N7/18 J
G06T1/00 330Z
B60R11/02 C
【請求項の数】 19
(21)【出願番号】P 2019008903
(22)【出願日】2019-01-23
(65)【公開番号】P2020117914
(43)【公開日】2020-08-06
【審査請求日】2021-12-20
(73)【特許権者】
【識別番号】000001236
【氏名又は名称】株式会社小松製作所
(74)【代理人】
【識別番号】110000202
【氏名又は名称】新樹グローバル・アイピー特許業務法人
(72)【発明者】
【氏名】中沢 浩一
(72)【発明者】
【氏名】矢津田 修
【審査官】湯本 照基
(56)【参考文献】
【文献】特開2010-059653(JP,A)
【文献】特開2016-149803(JP,A)
【文献】特開2013-168826(JP,A)
【文献】国際公開第2016/158265(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
E02F 9/26
H04N 7/18
G06T 1/00
B60R 11/02
(57)【特許請求の範囲】
【請求項1】
作業機を含む作業機械と、
前記作業機械の周辺を示す画像を撮影する複数のカメラと、
前記複数のカメラが撮影した前記画像を示す画像データを取得し、前記作業機械の走行状態を取得し、前記画像を合成して、前記走行状態に応じた視点からの画像を生成するプロセッサと、
前記プロセッサからの信号に基づき、前記走行状態に応じた視点からの前記画像を表示するディスプレイと、
を備え
前記走行状態は、前進と旋回とを含み、
前記プロセッサは、
前記走行状態が前進であるときと旋回であるときとでは、異なる視点からの画像を生成し、
前記走行状態が旋回であるときには、前記作業機械の側部が見える視点からの画像を生成する、
システム。
【請求項2】
作業機を含む作業機械と、
前記作業機械の周辺を示す画像を撮影する複数のカメラと、
前記複数のカメラが撮影した前記画像を示す画像データを取得し、前記作業機械の走行状態を取得し、前記画像を合成して、前記走行状態に応じた視点からの画像を生成するプロセッサと、
前記プロセッサからの信号に基づき、前記走行状態に応じた視点からの前記画像を表示するディスプレイと、
を備え
前記走行状態は、前進と旋回とを含み、
前記プロセッサは、
前記走行状態が前進であるときと旋回であるときとでは、異なる視点からの画像を生成し、
前記走行状態が前進であるときには、前記作業機械の後方の視点からの画像を生成する、
システム。
【請求項3】
作業機を含む作業機械と、
前記作業機械の周辺を示す画像を撮影する複数のカメラと、
前記複数のカメラが撮影した前記画像を示す画像データを取得し、前記作業機械の走行状態を取得し、前記画像を合成して、前記走行状態に応じた視点からの画像を生成するプロセッサと、
前記プロセッサからの信号に基づき、前記走行状態に応じた視点からの前記画像を表示するディスプレイと、
を備え
前記走行状態は、後進と旋回とを含み、
前記プロセッサは、前記走行状態が後進であるときと旋回であるときとでは、異なる視点からの画像を生成し、
前記走行状態が後進であるときには、前記作業機械の前方の視点からの画像を生成する、
システム。
【請求項4】
作業機を含む作業機械と、
前記作業機械の周辺を示す画像を撮影する複数のカメラと、
前記複数のカメラが撮影した前記画像を示す画像データを取得し、前記作業機械の走行状態を取得し、前記画像を合成して、前記走行状態に応じた視点からの画像を生成するプロセッサと、
前記プロセッサからの信号に基づき、前記走行状態に応じた視点からの前記画像を表示するディスプレイと、
を備え
前記走行状態は、登坂走行を含み、
前記プロセッサは、前記走行状態が前記登坂走行であるときには、前記作業機械の真横よりも後方の視点からの画像を生成する、
システム。
【請求項5】
作業機を含む作業機械と、
前記作業機械の周辺を示す画像を撮影する複数のカメラと、
前記複数のカメラが撮影した前記画像を示す画像データを取得し、前記作業機械の走行状態を取得し、前記画像を合成して、前記走行状態に応じた視点からの画像を生成するプロセッサと、
前記プロセッサからの信号に基づき、前記走行状態に応じた視点からの前記画像を表示するディスプレイと、
を備え
前記走行状態は、降坂走行を含み、
前記プロセッサは、前記走行状態が前記降坂走行であるときには、前記作業機械の真横よりも前方の視点からの画像を生成する、
システム。
【請求項6】
作業機を含む作業機械と、
前記作業機械の周辺を示す画像を撮影する複数のカメラと、
前記複数のカメラが撮影した前記画像を示す画像データを取得し、前記作業機械の走行状態を取得し、前記画像を合成して、前記走行状態に応じた視点からの画像を生成するプロセッサと、
前記プロセッサからの信号に基づき、前記走行状態に応じた視点からの前記画像を表示するディスプレイと、
を備え
前記作業機械は、履帯を含み、
前記走行状態は、前記履帯のシュースリップ状態を含み、
前記プロセッサは、前記走行状態が前記シュースリップ状態であるときには、前記履帯の側方の視点からの画像を生成する、
システム。
【請求項7】
前記プロセッサは、前記作業機械の全体と前記作業機械の周辺とを示す画像を生成する、
請求項1から6のいずれかに記載のシステム。
【請求項8】
作業機を含む作業機械の周辺をディスプレイに表示するためにプロセッサによって実行される方法であって、
複数のカメラによって前記作業機械の周辺を示す画像を撮影することと、
前記複数のカメラが撮影した前記画像を示す画像データを取得することと、
前記作業機械の走行状態を取得することと、
前記画像を合成して、前記走行状態に応じた視点からの画像を生成することと、
前記走行状態に応じた視点からの前記画像を前記ディスプレイに表示すること、
を備え
前記走行状態は、前進と旋回とを含み、
画像を生成することは、前記走行状態が前進であるときと旋回であるときとでは、異なる視点からの画像を生成し、前記走行状態が旋回であるときには、前記作業機械の側部が見える視点からの画像を生成することを含む、
方法。
【請求項9】
作業機を含む作業機械の周辺をディスプレイに表示するためにプロセッサによって実行される方法であって、
複数のカメラによって前記作業機械の周辺を示す画像を撮影することと、
前記複数のカメラが撮影した前記画像を示す画像データを取得することと、
前記作業機械の走行状態を取得することと、
前記画像を合成して、前記走行状態に応じた視点からの画像を生成することと、
前記走行状態に応じた視点からの前記画像を前記ディスプレイに表示すること、
を備え
前記走行状態は、前進と旋回とを含み、
画像を生成することは、前記走行状態が前進であるときと旋回であるときとでは、異なる視点からの画像を生成し、前記走行状態が前進であるときには、前記作業機械の後方の視点からの画像を生成することを含む、
方法。
【請求項10】
作業機を含む作業機械の周辺をディスプレイに表示するためにプロセッサによって実行される方法であって、
複数のカメラによって前記作業機械の周辺を示す画像を撮影することと、
前記複数のカメラが撮影した前記画像を示す画像データを取得することと、
前記作業機械の走行状態を取得することと、
前記画像を合成して、前記走行状態に応じた視点からの画像を生成することと、
前記走行状態に応じた視点からの前記画像を前記ディスプレイに表示すること、
を備え
前記走行状態は、後進と旋回とを含み、
前記画像を生成することは、前記走行状態が後進であるときと旋回であるときとでは、異なる視点からの画像を生成し、前記走行状態が後進であるときには、前記作業機械の前方の視点からの画像を生成することを含む、
方法。
【請求項11】
作業機を含む作業機械の周辺をディスプレイに表示するためにプロセッサによって実行される方法であって、
複数のカメラによって前記作業機械の周辺を示す画像を撮影することと、
前記複数のカメラが撮影した前記画像を示す画像データを取得することと、
前記作業機械の走行状態を取得することと、
前記画像を合成して、前記走行状態に応じた視点からの画像を生成することと、
前記走行状態に応じた視点からの前記画像を前記ディスプレイに表示すること、
を備え
前記走行状態は、登坂走行を含み、
前記画像を生成することは、前記走行状態が前記登坂走行であるときには、前記作業機械の真横よりも後方の視点からの画像を生成することを含む、
方法。
【請求項12】
作業機を含む作業機械の周辺をディスプレイに表示するためにプロセッサによって実行される方法であって、
複数のカメラによって前記作業機械の周辺を示す画像を撮影することと、
前記複数のカメラが撮影した前記画像を示す画像データを取得することと、
前記作業機械の走行状態を取得することと、
前記画像を合成して、前記走行状態に応じた視点からの画像を生成することと、
前記走行状態に応じた視点からの前記画像を前記ディスプレイに表示すること、
を備え
前記走行状態は、降坂走行を含み、
前記画像を生成することは、前記走行状態が前記降坂走行であるときには、前記作業機械の真横よりも前方の視点からの画像を生成することを含む、
方法。
【請求項13】
作業機を含む作業機械の周辺をディスプレイに表示するためにプロセッサによって実行される方法であって、
複数のカメラによって前記作業機械の周辺を示す画像を撮影することと、
前記複数のカメラが撮影した前記画像を示す画像データを取得することと、
前記作業機械の走行状態を取得することと、
前記画像を合成して、前記走行状態に応じた視点からの画像を生成することと、
前記走行状態に応じた視点からの前記画像を前記ディスプレイに表示すること、
を備え
前記作業機械は、履帯を含み、
前記走行状態は、前記履帯のシュースリップ状態を含み、
前記画像を生成することは、前記走行状態が前記シュースリップ状態であるときには、前記履帯の側方の視点からの画像を生成することを含む、
方法。
【請求項14】
作業機械の周辺を示す画像を示す画像データを取得し、前記作業機械の走行状態を取得し、前記画像を合成して、前記走行状態に応じた視点からの画像を生成するプロセッサと、
前記プロセッサからの信号に基づき、前記走行状態に応じた視点からの前記画像を表示するディスプレイと、
を備え
前記走行状態は、前進と旋回とを含み、
前記プロセッサは、
前記走行状態が前進であるときと旋回であるときとでは、異なる視点からの画像を生成し、
前記走行状態が旋回であるときには、前記作業機械の側部が見える視点からの画像を生成する、
システム。
【請求項15】
作業機械の周辺を示す画像を示す画像データを取得し、前記作業機械の走行状態を取得し、前記画像を合成して、前記走行状態に応じた視点からの画像を生成するプロセッサと、
前記プロセッサからの信号に基づき、前記走行状態に応じた視点からの前記画像を表示するディスプレイと、
を備え
前記走行状態は、前進と旋回とを含み、
前記プロセッサは、
前記走行状態が前進であるときと旋回であるときとでは、異なる視点からの画像を生成し、
前記走行状態が前進であるときには、前記作業機械の後方の視点からの画像を生成する、
システム。
【請求項16】
作業機械の周辺を示す画像を示す画像データを取得し、前記作業機械の走行状態を取得し、前記画像を合成して、前記走行状態に応じた視点からの画像を生成するプロセッサと、
前記プロセッサからの信号に基づき、前記走行状態に応じた視点からの前記画像を表示するディスプレイと、
を備え
前記走行状態は、後進と旋回とを含み、
前記プロセッサは、前記走行状態が後進であるときと旋回であるときとでは、異なる視点からの画像を生成し、
前記走行状態が後進であるときには、前記作業機械の前方の視点からの画像を生成する、
システム。
【請求項17】
作業機械の周辺を示す画像を示す画像データを取得し、前記作業機械の走行状態を取得し、前記画像を合成して、前記走行状態に応じた視点からの画像を生成するプロセッサと、
前記プロセッサからの信号に基づき、前記走行状態に応じた視点からの前記画像を表示するディスプレイと、
を備え
前記走行状態は、登坂走行を含み、
前記プロセッサは、前記走行状態が前記登坂走行であるときには、前記作業機械の真横よりも後方の視点からの画像を生成する、
システム。
【請求項18】
作業機械の周辺を示す画像を示す画像データを取得し、前記作業機械の走行状態を取得し、前記画像を合成して、前記走行状態に応じた視点からの画像を生成するプロセッサと、
前記プロセッサからの信号に基づき、前記走行状態に応じた視点からの前記画像を表示するディスプレイと、
を備え
前記走行状態は、降坂走行を含み、
前記プロセッサは、前記走行状態が前記降坂走行であるときには、前記作業機械の真横よりも前方の視点からの画像を生成する、
システム。
【請求項19】
作業機械の周辺を示す画像を示す画像データを取得し、前記作業機械の走行状態を取得し、前記画像を合成して、前記走行状態に応じた視点からの画像を生成するプロセッサと、
前記プロセッサからの信号に基づき、前記走行状態に応じた視点からの前記画像を表示するディスプレイと、
を備え
前記作業機械は、履帯を含み、
前記走行状態は、前記履帯のシュースリップ状態を含み、
前記プロセッサは、前記走行状態が前記シュースリップ状態であるときには、前記履帯の側方の視点からの画像を生成する、
システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、作業機械のシステム及び方法に関する。
【背景技術】
【0002】
従来、作業機械とその周辺を示す画像をディスプレイに表示するシステムが知られている。例えば、特許文献1では、システムは、作業機械に取り付けられる複数のカメラとコントローラとを含む。複数のカメラは、作業機械及びその周辺を撮影する。コントローラは、複数のカメラによって撮影された画像から、俯瞰画像を合成する。
【先行技術文献】
【特許文献】
【0003】
【文献】国際公開WO2016/031009号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
上述したように、コントローラは、カメラが撮影した複数の画像を合成することで、作業機械及びその周辺を示す画像を生成する。従って、コントローラは、様々な視点からの画像を生成することができる。ユーザーにとっては、作業機械の走行状態に応じて、視点の異なる画像に変更することを望む場合がある。しかし、ユーザーの手動操作によって、画像の視点が変更される場合、作業中の視点を変更することは煩雑である。本開示の目的は、作業機械の走行状態に応じた視点での画像をユーザーが容易に利用可能とすることにある。
【課題を解決するための手段】
【0005】
第1の態様に係るシステムは、作業機械と、複数のカメラと、プロセッサと、ディスプレイとを含む。作業機械は、作業機を含む。複数のカメラは、作業機械の周辺を示す画像を撮影する。プロセッサは、複数のカメラが撮影した画像を示す画像データを取得する。プロセッサは、作業機械の走行状態を取得する。プロセッサは、画像を合成して、走行状態に応じた視点からの画像を生成する。ディスプレイは、プロセッサからの信号に基づき、走行状態に応じた視点からの画像を表示する。
【0006】
第2の態様に係る方法は、作業機を含む作業機械の周辺をディスプレイに表示するためにプロセッサによって実行される方法である。当該方法は以下の処理を含む。第1の処理は、複数のカメラによって作業機械の周辺を示す画像を撮影することである。第2の処理は、複数のカメラが撮影した画像を示す画像データを取得することである。第3の処理は、作業機械の走行状態を取得することである。第4の処理は、画像を合成して、走行状態に応じた視点からの画像を生成することである。第5の処理は、走行状態に応じた視点からの画像をディスプレイに表示することである。
【0007】
第3の態様に係るシステムは、プロセッサとディスプレイとを備える。プロセッサは、画像データを取得する。画像データは、作業機械の周辺を示す画像を示す。プロセッサは、作業機械の走行状態を取得し、画像を合成して、走行状態に応じた視点からの画像を生成する。ディスプレイは、プロセッサからの信号に基づき、走行状態に応じた視点からの画像を表示する。
【発明の効果】
【0008】
本開示では、作業機械の走行状態が取得される。そして、走行状態に応じた視点からの画像が生成されて自動的にディスプレイに表示される。そのため、作業機械の走行状態に応じた視点での画像をユーザーが容易に利用することができる。
【図面の簡単な説明】
【0009】
図1】実施形態に係る作業機械を示す側面図である。
図2】実施形態に係るシステムの構成を示す図である。
図3】システムの構成、及び、システムによる処理の流れを示すブロック図である。
図4】画像の一例を示す図である。
図5】走行状態に応じて画像の視点を切り換えるための処理を示すフローチャートである。
図6】走行状態に応じた視点の位置を示す図である。
図7】走行状態に応じた視点の位置を示す図である。
図8】前進時の画像の一例を示す図。
図9】後進時の画像の一例を示す図。
図10】右旋回時の画像の一例を示す図。
図11】左旋回時の画像の一例を示す図。
図12】登坂走行時の画像の一例を示す図。
図13降坂走行時の画像の一例を示す図。
図14】シュースリップ状態での画像の一例を示す図。
図15】変形例に係るシステムの構成を示す図である。
【発明を実施するための形態】
【0010】
以下、図面を参照して、実施形態に係る作業機械のシステムについて説明する。図1は、実施形態に係る作業機械1を示す側面図である。本実施形態において、作業機械1はブルドーザである。作業機械1は、車体2と、作業機3と、走行装置4とを含む。
【0011】
車体2は、エンジン室11を含む。エンジン室11の後方には、運転室12が配置されている。車体2の後部には、リッパ装置5が取り付けられている。走行装置4は、作業機械1を走行させるための装置である。走行装置4は、車体2の左右の側方に配置される一対の履帯13を含む。履帯13が駆動されることにより作業機械1が走行する。
【0012】
作業機3は、車体2の前方に配置されている。作業機3は、掘削、運土、或いは整地などの作業に用いられる。作業機3は、ブレード14と、リフトシリンダ15と、チルトシリンダ16と、アーム17とを有する。ブレード14は、アーム17を介して車体2に支持されている。ブレード14は、上下方向に動作可能に設けられている。リフトシリンダ15とチルトシリンダ16とは、後述する油圧ポンプ22から吐出された作動油によって駆動され、ブレード14の姿勢を変更する。
【0013】
図2は、作業機械1を制御するためのシステム100の構成を示すブロック図である。図2に示すように、作業機械1は、エンジン21と、油圧ポンプ22と、動力伝達装置23と、制御弁24とを含む。エンジン21と、油圧ポンプ22と、動力伝達装置23とは、エンジン室11に配置されている。油圧ポンプ22は、エンジン21によって駆動され、作動油を吐出する。油圧ポンプ22から吐出された作動油は、リフトシリンダ15及びチルトシリンダ16に供給される。なお、図2では、1つの油圧ポンプ22が図示されているが、複数の油圧ポンプが設けられてもよい。
【0014】
動力伝達装置23は、エンジン21の駆動力を走行装置4に伝達する。動力伝達装置23は、例えば、HST(Hydro Static Transmission)であってもよい。或いは、動力伝達装置23は、例えば、トルクコンバーター、或いは複数の変速ギアを有するトランスミッションであってもよい。作業機械1は、車速センサ39を含む。車速センサ39は、作業機械1の車速を検出する。例えば、車速センサ39は、動力伝達装置23の出力軸の回転速度を検出してもよい。或いは、車速センサ39は、走行装置4の回転要素の回転速度を検出してもよい。
【0015】
制御弁24は、比例制御弁であり、入力される指令信号に応じて制御される。制御弁24は、リフトシリンダ15及びチルトシリンダ16などの油圧アクチュエータと、油圧ポンプ22との間に配置される。制御弁24は、油圧ポンプ22からリフトシリンダ15及びチルトシリンダ16に供給される作動油の流量を制御する。なお、制御弁24は、圧力比例制御弁であってもよい。或いは、制御弁24は、電磁比例制御弁であってもよい。
【0016】
システム100は、第1コントローラ31と、第2コントローラ32と、入力装置33と、通信装置34,35とを含む。第1コントローラ31と通信装置34とは、作業機械1に搭載されている。第2コントローラ32と、入力装置33と、通信装置35とは、作業機械1の外部に配置されている。例えば、第2コントローラ32と、入力装置33と、通信装置35とは、作業現場から離れたコントロールセンタ内に配置される。作業機械1は、入力装置33によって遠隔操縦可能である。
【0017】
第1コントローラ31と第2コントローラ32とは、作業機械1を制御するようにプログラムされている。第1コントローラ31は、メモリ311とプロセッサ312とを含む。メモリ311は、例えばRAMなどの揮発性メモリと、ROM等の不揮発性メモリとを含む。メモリ311は、作業機械1を制御するためのプログラム及びデータを記憶している。プロセッサ312は、例えばCPU(Central Processing Unit)であり、プログラムに従って、作業機械1を制御するための処理を実行する。第1コントローラ31は、走行装置4、或いは動力伝達装置23を制御することで、作業機械1を走行させる。第1コントローラ31は、制御弁24を制御することで、作業機3を動作させる。
【0018】
第2コントローラ32は、メモリ321とプロセッサ322とを含む。メモリ321は、例えばRAMなどの揮発性メモリと、ROM等の不揮発性メモリとを含む。メモリ321は、作業機械1を制御するためのプログラム及びデータを記憶している。プロセッサ322は、例えばCPU(Central Processing Unit)であり、プログラムに従って、作業機械1を制御するための処理を実行する。第2コントローラ32は、入力装置33から操作信号を受信する。
【0019】
入力装置33は、オペレータによる操作を受け付け、操作に応じた操作信号を出力する。入力装置33は、第2コントローラ32に操作信号を出力する。入力装置33は、走行装置4と作業機3とを操作するための操作レバー、ペダル、或いはスイッチ等の操作子を含む。入力装置33は、タッチパネルを含んでもよい。入力装置33の操作に応じて、作業機械1の前進及び後進などの走行が制御される。また、入力装置33の操作に応じて、作業機3の上昇及び下降などの動作が制御される。
【0020】
第2コントローラ32は、第1コントローラ31と、通信装置34,35を介して無線により通信可能である。第2コントローラ32は、入力装置33からの操作信号から操作データD4を取得し、操作データD4を第1コントローラ31に送信する。操作データD4は、走行装置4と作業機3とを操作するための入力装置33の操作を示す。第1コントローラ31は、操作データD4に応じて、走行装置4及び作業機3を制御する。
【0021】
図3は、作業機械1及びその周辺の画像を表示するためのシステム100の構成、及び、システムによる処理の流れを示すブロック図である。図3に示すように、システム100は、複数のカメラC1-C4を含む。複数のカメラC1-C4は、車体2に取り付けられている。複数のカメラC1-C4は、魚眼カメラである。複数のカメラC1-C4のそれぞれの画角は180度である。ただし、複数のカメラC1-C4のそれぞれの画角は180度より小さくてもよい。或いは、複数のカメラC1-C4のそれぞれの画角は180度より大きくてもよい。複数のカメラC1-C4は、前カメラC1と、第1サイドカメラC2と、後カメラC3と、第2サイドカメラC4とを有する。
【0022】
図1に示すように、前カメラC1は、車体2の前部に取り付けられる。詳細には、図1に示すように、車体2は支持部材18を含む。支持部材18は、車体2の前部から上方、且つ、前方に延びている。前カメラC1は、支持部材18に取り付けられている。後カメラC3は、車体2の後部に取り付けられる。
【0023】
第1サイドカメラC2は、車体2の一方の側部に取り付けられている。第2サイドカメラC4は、車体2の他方の側部に取り付けられている。本実施形態では、第1サイドカメラC2は、車体2の左側部に取り付けられ、第2サイドカメラC4は、車体2の右側部に取り付けられている。ただし、第1サイドカメラC2が、車体2の右側部に取り付けられ、第2サイドカメラC4が、車体2の左側部に取り付けられてもよい。
【0024】
前カメラC1は、車体2の前方の画像を取得する。後カメラC3は、作業機械1の後方の画像を取得する。第1サイドカメラC2は、車体2の左方の画像を取得する。第2サイドカメラC4は、車体2の右方の画像を取得する。カメラC1-C4は、取得した画像を示す画像データを出力する。
【0025】
システム100は、形状センサ36と、姿勢センサ37と、位置センサ38とを含む。形状センサ36は、作業機械1の周辺の対象の3次元形状を測定し、3次元形状を示す形状データD1を出力する。形状センサ36は、作業機械1の周辺の対象上の複数点の位置を測定する。形状データD1は、作業機械1の周辺の対象上の複数点の位置を示す。作業機械1の周辺の対象は、例えば作業機械1の周辺の地形を含む。すなわち、形状データD1は、作業機械1の周辺の地形上の複数点の位置を含む。特に、形状データD1は、作業機械1の前方の地形上の複数点の位置を含む。
【0026】
詳細には、形状センサ36は、周辺の対象上の複数点の位置の作業機械1からの距離を測定する。複数点の位置は、複数点の作業機械1からの距離により求められる。本実施形態において、形状センサ36は、例えばライダー(LIDAR:Laser Imaging Detection and Ranging)である。形状センサ36は、レーザーを照射して、その反射光を計測することで、計測点までの距離を測定する。
【0027】
姿勢センサ37は、作業機械1の姿勢を検出し、姿勢を示す姿勢データD2を出力する。姿勢センサ37は、例えばIMU(慣性計測装置:Inertial Measurement Unit)である。姿勢データD2は、車両前後方向の水平に対する角度(ピッチ角)と、車両横方向の水平に対する角度(ロール角)とを含む。姿勢センサは、姿勢データD2を出力する。
【0028】
位置センサ38は、例えばGNSS(Global Navigation Satellite System)レシーバである。位置センサは、例えばGPS(Global Positioning System)用の受信機である。位置センサは、衛星より測位信号を受信し、測位信号により作業機械1の位置座標を示す位置データD3を取得する。位置センサは、位置データD3を出力する。
【0029】
形状センサ36は、例えば支持部材18に取り付けられる。或いは、形状センサ36は、車体2の他の部分に取り付けられてもよい。姿勢センサ37と位置センサ38とは、車体2に取り付けられる。或いは、姿勢センサ37と位置センサ38とは、作業機3に取り付けられてもよい。
【0030】
システム100は、画像コントローラ41とディスプレイ42とを含む。画像コントローラ41は、作業機械1及びその周辺を示す画像ISを生成してディスプレイ42に表示するようにプログラムされている。画像コントローラ41は、メモリ411とプロセッサ412とを含む。メモリ411は、例えばRAMなどの揮発性メモリと、ROM等の不揮発性メモリとを含む。メモリ411は、画像ISを生成するためのプログラム及びデータを記憶している。プロセッサ412は、例えばCPU(Central Processing Unit)であり、プログラムに従って、画像ISを生成してディスプレイ42に表示させるための処理を実行する。
【0031】
画像コントローラ41は、第1コントローラ31と、有線、或いは無線により通信可能に接続されている。画像コントローラ41は、第2コントローラ32と、有線、或いは無線により通信可能に接続されている。画像コントローラ41は、作業機械1に搭載されてもよい。画像コントローラ41は、第1コントローラ31と一体であってもよく、別体であってもよい。
【0032】
或いは、画像コントローラ41は、作業機械1の外部に配置されてもよい。例えば、画像コントローラ41は、コントロールセンタ内に配置されてもよい。画像コントローラ41は、第2コントローラ32と一体であってもよく、別体であってもよい。
【0033】
画像コントローラ41は、カメラC1-C4と有線、或いは無線により通信可能に接続されている。画像コントローラ41は、カメラC1-C4から画像データを受信する。或いは、画像コントローラ41は、第1コントローラ31、及び/又は、第2コントローラ32を介して、画像データを受信してもよい。
【0034】
画像コントローラ41は、形状センサ36、姿勢センサ37、及び位置センサ38と有線、或いは無線により通信可能に接続されている。画像コントローラ41は、形状センサ36から形状データD1を受信する。画像コントローラ41は、姿勢センサ37から姿勢データD2を受信する。画像コントローラ41は、位置センサ38から位置データD3を受信する。或いは、画像コントローラ41は、第1コントローラ31、及び/又は、第2コントローラ32を介して、形状データD1、姿勢データD2、及び位置データD3を受信してもよい。
【0035】
ディスプレイ42は、例えばCRT、LCD或いはOELDである。ただし、ディスプレイ42はこれらのディスプレイに限らず、他の種類のディスプレイであってもよい。ディスプレイ42は、画像コントローラ41からの信号に基づいて画像を表示する。ディスプレイ42は、第1コントローラ31、及び/又は、第2コントローラ32を介して、画像コントローラ41からの信号を受信してもよい。
【0036】
画像コントローラ41は、上述した画像データと、形状データD1と、姿勢データD2と、位置データD3とに基づいて、画像ISを生成する。図4は、画像ISの一例を示す図である。画像ISは、作業機械1及びその周辺の対象を含む。作業機械1の周辺の対象は、作業機械1の周辺の地形を含む。作業機械1の周辺の対象は、他の作業機械、建物、或いは人を含んでもよい。以下、画像ISの生成について説明する。
【0037】
まず、カメラC1-C4が作業機械1及びその周辺を撮影する。それにより、図3に示すように、画像コントローラ41は、カメラC1-C4から、前方画像Im1と、左方画像Im2と、後方画像Im3と、右方画像Im4とを取得する。前方画像Im1は、車体2の前方の画像である。左方画像Im2は、車体2の左方の画像である。後方画像Im3は、車体2の後方の画像である。右方画像Im4は、車体2の右方の画像である。
【0038】
画像コントローラ41は、カメラC1-C4が取得した画像Im1-Im4から周辺画像IS1を生成する。周辺画像IS1は、作業機械1の周辺を俯瞰的に示す合成画像である。図4に示すように、画像コントローラ41は、3次元投影モデルM1に、カメラC1-C4が取得した画像Im1-Im4をテクスチャマッピングにより投影することで、周辺画像IS1を生成する。3次元投影モデルM1は、作業機械1の周辺の対象の形状を示すポリゴンメッシュで構成される。画像コントローラ41は、予め保存された3次元投影モデルM1を使用してもよい。或いは、画像コントローラ41は、形状センサ36から取得した形状データD1に基づいて、3次元投影モデルM1を生成してもよい。
【0039】
次に、画像コントローラ41は、作業機械1を示す機械画像IS2と周辺画像IS1とを合成する。機械画像IS2は、作業機械1自体を3次元的に示す画像である。画像コントローラ41は、姿勢データD2から画像IS上の機械画像IS2の姿勢を決定する。画像コントローラ41は、位置データD3から画像IS上の機械画像IS2の向きを決定する。画像コントローラ41は、画像IS上の機械画像IS2の姿勢と向きとが、作業機械1の実際の姿勢及び向きと一致するように、画像ISに機械画像IS2を合成する。
【0040】
なお、画像コントローラ41は、カメラC1-C4が取得した画像Im1-Im4から機械画像IS2を生成してもよい。例えば、カメラC1-C4が取得した画像中に作業機械1の部分がそれぞれ含まれており、画像コントローラ41は、機械モデルM2に、画像中の各部分を投影することで機械画像IS2を生成してもよい。或いは、機械モデルM2は、作業機械1の形状を有する投影モデルであり、メモリ411に保存されていてもよい。機械画像IS2は、予め撮影された既定の画像、或いは予め作成された3次元のコンピュータグラフィックスであってもよい。
【0041】
ディスプレイ42は、画像ISを表示する。画像ISは、リアルタイムに更新され、動画としてディスプレイ42に表示される。従って、作業機械1が走行しているときには、周辺の対象、作業機械1の姿勢、向き、位置の実際の変化に応じて、画像IS中の周辺画像IS1、機械画像IS2の姿勢、向き、及び位置も、リアルタイムに変化して表示される。
【0042】
作業機械1の姿勢、向き、及び位置の変化を表現するためには、3次元投影モデルM1及び機械モデルM2を、作業機械1が走行を開始したときの姿勢、向き、及び位置からの変化を表す回転行列に従って回転させ、並進ベクトルに従って並進させる。回転ベクトルと並進ベクトルとは、上述した姿勢データD2及び位置データD3から取得される。
【0043】
画像ISの合成のための具体的な手法については、例えば“Spatio-temporal bird’s-eye view images using multiple fish- eye cameras,”(Proceedings of the 2013 IEEE/SICE International Symposium on System Integration, pp. 753-758, 2013.)において示されている手法が用いられてもよい。“visualization of the surrounding environment and operational part in a 3DCG model for the teleoperation of construction machines,” (Proceedings of the 2015 IEEE/SICE International Symposium on System Integration, pp. 81-87, 2015.)において示されている手法が用いられてもよい。
【0044】
図4では、画像ISは、作業機械1及びその周辺を左方から見た画像である。しかし、画像コントローラ41は、前方、後方、右方、上方、或いは、各方向の斜め方向の視点から、作業機械1及びその周辺を見た画像に、画像ISを切り換えることができる。本実施形態では、画像コントローラ41は、作業機械1の走行状態に応じた視点からの画像ISを生成して、ディスプレイ42に表示する。図5は、走行状態に応じて画像ISの視点を切り換えるための処理を示すフローチャートである。
【0045】
図5に示すように、ステップS101では、画像コントローラ41は、走行状態の判定データを取得する。判定データは、上述した形状データD1と、姿勢データD2と、位置データD3と、操作データD4とを含む。また、判定データは、車速データD5を含む。画像コントローラ41は、車速センサ39からの信号により、車速を示す車速データD5を取得する。或いは、車速は、位置データD3から算出されてもよい。
【0046】
ステップS102では、画像コントローラ41は、判定データに基づいて、作業機械1の走行状態を判定する。作業機械1の走行状態は、前進、後進、右旋回、左旋回、登坂走行、降坂走行、及びシュースリップ状態を含む。画像コントローラ41は、判定データに基づいて、作業機械1の現在の走行状態がこれらの状態のいずれであるのかを決定する。
【0047】
例えば、画像コントローラ41は、作業機械1の進行方向と、作業機3の位置と、車速とから、作業機械1の走行状態が、前進と後進といずれであるのかを判定する。詳細には、操作データD4が、作業機械1の前進、且つ、作業機3の上昇を示し、且つ、車速が所定の閾値以上であるときに、画像コントローラ41は、走行状態が前進と判定する。操作データD4が、作業機械1の後進、且つ、作業機3の上昇を示し、且つ、車速が所定の閾値以上であるときに、画像コントローラ41は、走行状態が後進と判定する。
【0048】
画像コントローラ41は、操作データD4から、作業機械1の走行状態が、右旋回と左旋回といずれであるのかを判定する。詳細には、画像コントローラ41は、操作データD4が作業機械1の右旋回を示すときに、作業機械1の走行状態が、右旋回であると判定する。或いは、画像コントローラ41は、姿勢データD2から、作業機械1の走行状態が、右旋回と左旋回といずれであるのかを判定してもよい。画像コントローラ41は、姿勢データD2が、作業機械1の方位角が右方に変化したことを示すときに、作業機械1の走行状態が、右旋回であると判定してもよい。或いは、画像コントローラ41は、位置データD3から、作業機械1の走行状態が、右旋回と左旋回といずれであるのかを判定してもよい。位置データD3が、作業機械1の進行方向のベクトルが右方に変化したことを示すときに、画像コントローラ41は、作業機械1の走行状態が、右旋回であると判定してもよい。左旋回の判定については、左右対称であることを除いて、右旋回の判定と同様である。
【0049】
画像コントローラ41は、操作データD4と形状データD1とから、作業機械1の走行状態が、登坂走行と降坂走行とのいずれであるのかを判定する。詳細には、画像コントローラ41は、操作データD4が作業機械1の前進を示し、且つ、形状データD1が、作業機械1の前方の地形が登り坂であることを示しているときに、作業機械1の走行状態が、登坂走行であると判定する。画像コントローラ41は、操作データD4が作業機械1を前進させていることを示し、且つ、形状データD1が、作業機械1の前方の地形が下り坂であることを示しているときに、作業機械1の走行状態が、降坂走行であると判定する。
【0050】
画像コントローラ41は、実車速と理論車速との比をシュースリップ率として算出する。実車速は、車速データD5が示す車速である。理論車速は、位置データD3から求めた車速である。画像コントローラ41は、シュースリップ率を所定の閾値と比較することで、作業機械1の走行状態が、シュースリップ状態であるのかを決定する。
【0051】
ステップS103では、画像コントローラ41は、走行状態に応じた視点を決定する。画像コントローラ41は、画像コントローラ41は、走行状態に応じた視点の位置を規定したデータを記憶している。画像コントローラ41は、当該データを参照して、走行状態に応じた視点を決定する。
【0052】
ステップS104では、画像コントローラ41は、走行状態に応じた視点VPからの画像ISを生成する。ステップS105では、画像コントローラ41は、走行状態に応じた視点VPからの画像ISをディスプレイ42に表示させる。
【0053】
図6及び図7は、走行状態に応じた視点VPの位置を示す図である。図6Aに示すように、画像コントローラ41は、走行状態が前進であるときには、画像ISの視点VPを、作業機械1の後方且つ上方の位置に決定する。それにより、図8に示すように、画像コントローラ41は、作業機械1の後方且つ上方の視点VPからの画像ISを生成し、ディスプレイ42に表示させる。前進時の画像ISは、作業機械1の全体と作業機械1の周辺とを示す。画像コントローラ41は、前進時の画像ISでは、作業機械1の前方が後方よりも広くなるように視点VP及び作業機械1の位置を決定する。
【0054】
図6Bに示すように、画像コントローラ41は、走行状態が後進であるときには、画像ISの視点VPを、作業機械1の前方且つ上方の位置に決定する。それにより、図9に示すように、画像コントローラ41は、作業機械1の前方且つ上方の視点VPからの画像ISを生成し、ディスプレイ42に表示させる。後進時の画像ISは、作業機械1の全体と作業機械1の周辺とを示す。画像コントローラ41は、後進時の画像ISでは、作業機械1の後方が前方よりも広くなるように視点VP及び作業機械1の位置を決定する。
【0055】
図6Cに示すように、画像コントローラ41は、走行状態が右旋回であるときには、画像ISの視点VPを、作業機械1の真後ろよりも右方且つ上方の位置に決定する。それにより、図10に示すように、画像コントローラ41は、作業機械1の右側部が見える視点VPからの画像ISを生成し、ディスプレイ42に表示させる。右旋回時の画像ISは、作業機械1の全体と作業機械1の周辺とを示す。画像コントローラ41は、右旋回時の画像ISでは、作業機械1の右方が左方よりも広くなるように視点VP及び作業機械1の位置を決定する。
【0056】
図6Dに示すように、画像コントローラ41は、走行状態が左旋回であるときには、画像ISの視点VPを、作業機械1の真後ろよりも左方且つ上方の位置に決定する。それにより、図11に示すように、画像コントローラ41は、作業機械1の左側部が見える視点VPからの画像ISを生成し、ディスプレイ42に表示させる。左旋回時の画像ISは、作業機械1の全体と作業機械1の周辺とを示す。画像コントローラ41は、左旋回時の画像ISでは、作業機械1の左方が右方よりも広くなるように視点VP及び作業機械1の位置を決定する。
【0057】
図7Aに示すように、画像コントローラ41は、走行状態が登坂走行であるときには、画像ISの視点VPを、作業機械1の真横よりも後方の位置に決定する。それにより、図12に示すように、画像コントローラ41は、作業機械1の真横よりも後方の視点VPからの画像ISを生成し、ディスプレイ42に表示させる。登坂走行時の画像ISは、作業機械1の全体と作業機械1の周辺とを示す。画像コントローラ41は、登坂走行時の画像ISでは、作業機械1の前方が後方よりも広くなるように視点VP及び作業機械1の位置を決定する。画像コントローラ41は、登坂走行時の画像ISでは、作業機械1が画像ISの横幅の半分ぐらいの大きさになるように視点VP及び作業機械1の位置を決定する。
【0058】
図7Bに示すように、画像コントローラ41は、走行状態が降坂走行であるときには、画像ISの視点VPを、作業機械1の真横よりも前方の位置に決定する。それにより、図13に示すように、画像コントローラ41は、作業機械1の真横よりも前方の視点VPからの画像ISを生成し、ディスプレイ42に表示させる。降坂走行時の画像ISは、作業機械1の全体と作業機械1の周辺とを示す。画像コントローラ41は、降坂走行時の画像ISでは、作業機械1の前方が後方よりも広くなるように視点VP及び作業機械1の位置を決定する。画像コントローラ41は、降坂走行時の画像ISでは、作業機械1が画像ISの横幅の半分ぐらいの大きさになるように視点VP及び作業機械1の位置を決定する。
【0059】
図7Cに示すように、画像コントローラ41は、走行状態がシュースリップ状態であるときには、画像ISの視点VPを、履帯13の側方の位置に決定する。詳細には、左側の履帯13がシュースリップ状態であるときには、画像ISの視点VPを、左側の履帯13の左方の位置に決定する。それにより、図14に示すように、画像コントローラ41は、左側の履帯13の左方の視点VPからの画像ISを生成し、ディスプレイ42に表示させる。
【0060】
右側の履帯13がシュースリップ状態であるときには、画像ISの視点VPを、右側の履帯13の右方の位置に決定する。それにより、図14に示すように、画像コントローラ41は、右側の履帯13の右方の視点VPからの画像ISを生成し、ディスプレイ42に表示させる。画像コントローラ41は、シュースリップ状態での画像ISでは、作業機械1の前方が後方よりも広くなるように視点VP及び作業機械1の位置を決定する。画像コントローラ41は、シュースリップ状態での画像ISでは、作業機械1が画像ISの横幅の半分ぐらいの大きさになるように視点VP及び作業機械1の位置を決定する。
【0061】
画像コントローラ41は、上述したステップS101-S105を繰り返し実行する。従って、作業機械1の走行状態が変化したときには、ステップS103において、走行状態の変化に応じて視点VPが変更される。そして、ステップS104において、走行状態の変化に応じて変更された視点VPからの画像ISが生成され、ステップS105において、変更された画像ISがディスプレイ42に表示される。
【0062】
以上説明した本実施形態に係るシステム100では、作業機械1の走行状態が取得される。そして、走行状態に応じた視点VPからの画像ISが生成されてディスプレイ42に表示される。そのため、作業機械1の走行状態に応じた視点VPでの画像ISをユーザーが容易に利用することができる。
【0063】
画像コントローラ41は、走行状態が前進、後進、右旋回、或いは左旋回であるときに、それぞれ異なる視点VPからの画像ISを生成する。詳細には、走行状態が前進であるときには、作業機械1の後方の視点VPからの画像ISがディスプレイ42に表示される。そのため、作業機械1の前方を視認し易い。走行状態が後進であるときには、作業機械1の前方の視点VPからの画像ISがディスプレイ42に表示される。そのため、作業機械1の後方を視認し易い。
【0064】
走行状態が右旋回であるときには、作業機械1の右側部が見えるように、真後ろよりも右方の視点VPからの画像ISがディスプレイ42に表示される。そのため、作業機械1が右旋回中であることを画像ISから容易に把握することができる。
【0065】
走行状態が左旋回であるときには、作業機械1の左側部が見えるように、真後ろよりも左方の視点VPからの画像ISがディスプレイ42に表示される。そのため、作業機械1が左旋回中であることを画像ISから容易に把握することができる。
【0066】
画像コントローラ41は、走行状態が登坂走行、或いは降坂走行であるときに、それぞれ異なる視点VPからの画像ISを生成する。詳細には、走行状態が登坂走行であるときには、作業機械1の真横よりも後方の視点VPからの画像ISがディスプレイ42に表示される。そのため、地形の上り勾配を画像ISによって容易に把握することができる。走行状態が降坂走行であるときには、作業機械1の真横よりも前方の視点VPからの画像ISがディスプレイ42に表示される。そのため、地形の下り勾配を画像ISによって容易に把握することができる。
【0067】
以上、本開示の実施形態について説明したが、本発明はこれらに限定されるものではなく、本発明の趣旨を逸脱しない限りにおいて種々の変更が可能である。例えば、作業機械は、ブルドーザに限らず、ホイールローダ、或いは油圧ショベルなどの他の種類のものであってもよい。
【0068】
作業機械1は、遠隔操作ではなく、運転室内で操作されてもよい。図15は、変形例に係る作業機械1の構成を示す図である。図15に示すように、作業機械1は、作業機械1に搭載されたコントローラ30を含んでもよい。コントローラ30は、上述した第1コントローラ31及び第2コントローラ32と同様の構成であるため、詳細な説明を省略する。コントローラ30は、上述したステップS101からS105の処理を実行してもよい。この場合、入力装置33は、運転室内に配置されてもよい。
【0069】
第1コントローラ31は、一体に限らず、複数のコントローラに分かれていてもよい。第2コントローラ32は、一体に限らず、複数のコントローラに分かれていてもよい。コントローラ30は、一体に限らず、複数のコントローラに分かれていてもよい。
【0070】
上述したステップS101からS105の処理は、画像コントローラ41ではなく、他のコントローラによって実行されてもよい。例えば、ステップS101からS103の処理は、第1コントローラ31、或いは第2コントローラ32によって実行されてもよい。
【0071】
カメラの数は、4つに限らず、3つ以下、或いは5つ以上であってもよい。カメラは、魚眼カメラに限らず、他の種類のカメラであってもよい。カメラの配置は、上記の実施形態の配置に限らず、異なる配置であってもよい。
【0072】
姿勢センサ37は、IMUに限らず、他のセンサであってもよい。位置センサ38は、GNSSレシーバに限らず、他のセンサであってもよい。形状センサ36は、ライダーに限らず、レーダー等の他の測定装置であってもよい。
【0073】
走行状態の種類は、上記の実施形態のものに限らず、変更されてもよい。例えば、走行状態の種類の一部が省略されてもよい。或いは、他の種類の走行状態が追加されてもよい。走行状態の判定方法は、上記の実施形態のものに限らず、変更されてもよい。例えば、作業機3の動作を検出するセンサからの信号に基づいて、走行状態が判定されてもよい。各走行状態における視点VPの位置は、上記の実施形態のものに限らず、変更されてもよい。
【産業上の利用可能性】
【0074】
本開示によれば、作業機械の走行状態に応じた視点での画像をユーザーが容易に利用することができる。
【符号の説明】
【0075】
1 作業機械
3 作業機
13 履帯
42 ディスプレイ
412 プロセッサ
C1-C4 カメラ
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15