IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社小松製作所の特許一覧

特許7590325作業車両の表示システムおよび作業車両の表示方法
<>
  • 特許-作業車両の表示システムおよび作業車両の表示方法 図1
  • 特許-作業車両の表示システムおよび作業車両の表示方法 図2
  • 特許-作業車両の表示システムおよび作業車両の表示方法 図3
  • 特許-作業車両の表示システムおよび作業車両の表示方法 図4
  • 特許-作業車両の表示システムおよび作業車両の表示方法 図5
  • 特許-作業車両の表示システムおよび作業車両の表示方法 図6
  • 特許-作業車両の表示システムおよび作業車両の表示方法 図7
  • 特許-作業車両の表示システムおよび作業車両の表示方法 図8
  • 特許-作業車両の表示システムおよび作業車両の表示方法 図9
  • 特許-作業車両の表示システムおよび作業車両の表示方法 図10
  • 特許-作業車両の表示システムおよび作業車両の表示方法 図11
  • 特許-作業車両の表示システムおよび作業車両の表示方法 図12
  • 特許-作業車両の表示システムおよび作業車両の表示方法 図13
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-18
(45)【発行日】2024-11-26
(54)【発明の名称】作業車両の表示システムおよび作業車両の表示方法
(51)【国際特許分類】
   H04N 7/18 20060101AFI20241119BHJP
   G06T 7/00 20170101ALI20241119BHJP
   G06T 1/00 20060101ALI20241119BHJP
   E02F 9/26 20060101ALI20241119BHJP
【FI】
H04N7/18 J
G06T7/00 650B
G06T1/00 330B
E02F9/26 B
【請求項の数】 8
(21)【出願番号】P 2021533111
(86)(22)【出願日】2020-07-17
(86)【国際出願番号】 JP2020027853
(87)【国際公開番号】W WO2021010467
(87)【国際公開日】2021-01-21
【審査請求日】2023-06-09
(31)【優先権主張番号】P 2019133074
(32)【優先日】2019-07-18
(33)【優先権主張国・地域又は機関】JP
【前置審査】
(73)【特許権者】
【識別番号】000001236
【氏名又は名称】株式会社小松製作所
(74)【代理人】
【識別番号】110001634
【氏名又は名称】弁理士法人志賀国際特許事務所
(72)【発明者】
【氏名】江口 太郎
【審査官】鈴木 隆夫
(56)【参考文献】
【文献】特開2017-074873(JP,A)
【文献】特開2017-074871(JP,A)
【文献】特開2013-066010(JP,A)
【文献】特開2008-179940(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
G06T 7/00
G06T 1/00
E02F 9/26
(57)【特許請求の範囲】
【請求項1】
作業車両の周囲を撮像した撮像画像を取得する画像取得部と、
前記作業車両の周囲の障害物を検出する検出部と、
前記作業車両を中心とした所定範囲内に前記障害物が存在するか否かを判定する存在判定部と、
前記検出部によって複数の障害物が検出された場合に、前記撮像画像に対応する領域において検出された前記複数の障害物の中で障害物の確からしさを示す検出精度が高い障害物に係る位置に、障害物を識別可能な表示をするための信号を生成する表示制御部と
を備え、
前記表示制御部は、前記所定範囲内に複数の障害物が検出された場合に、前記複数の障害物のうち、当該所定範囲内における前記検出精度が高い障害物に係る位置に障害物を識別可能な表示をさせ、前記所定範囲内に障害物が検出されない場合に、前記複数の障害物のうち、前記所定範囲外における前記検出精度が高い障害物に係る位置に障害物を識別可能な表示をさせる
作業車両の表示システム。
【請求項2】
作業車両の周囲を撮像した撮像画像を取得する画像取得部と、
前記作業車両の周囲の障害物を検出する検出部と、
前記検出部によって複数の障害物が検出された場合に、前記撮像画像に対応する領域において検出された前記複数の障害物の中で障害物の確からしさを示す検出精度が高い障害物に係る位置に、障害物を識別可能な表示をするための信号を生成する表示制御部と、
を備え、
前記画像取得部は、前記作業車両の周囲を撮像した複数の撮像画像を取得し、
前記表示制御部は、前記複数の撮像画像のうち、隣り合う撮像画像の撮像範囲が重なり合う部分において検出された第一の障害物の前記検出精度が、前記重なり合う部分と異なる部分において検出された第二の障害物の前記検出精度よりも高い場合、前記第一の障害物に係る位置とともに前記第二の障害物に係る位置に障害物を識別可能な表示をするための信号を生成する
業車両の表示システム。
【請求項3】
複数の撮像画像に基づいて、前記作業車両の周囲の俯瞰画像を生成する画像生成部を備え、
前記画像取得部は、前記作業車両の周囲を撮像した撮像画像を取得し、
前記検出部は、前記複数の撮像画像それぞれについて前記障害物の検出処理を実行し、
前記表示制御部は、検出された前記複数の障害物の中で前記検出精度が高い障害物に係る位置に、前記障害物を識別可能な表示を前記俯瞰画像上に表示させるための信号を、前記複数の撮像画像に対応する前記俯瞰画像の領域毎に生成する
請求項1、または請求項2に記載の作業車両の表示システム。
【請求項4】
前記表示制御部は、前記撮像画像のうち、所定の領域で検出された障害物は除外し、除外した障害物以外の複数の障害物の中で前記検出精度が高い障害物に係る位置に、前記障害物を識別可能な表示を前記俯瞰画像上に表示させるための信号を生成する
請求項3に記載の作業車両の表示システム。
【請求項5】
前記撮像画像に基づいて、前記作業車両の周囲の画像である単カメラ画像を生成する画像生成部を備え、
前記表示制御部は、検出された前記複数の障害物の中で前記検出精度が高い障害物に係る位置に、前記障害物を識別可能な表示を前記単カメラ画像上に表示させるための信号を生成する
請求項1から請求項4の何れか1項に記載の作業車両の表示システム。
【請求項6】
前記表示制御部は、検出された前記複数の障害物の中で、前記検出精度が最も高い障害物に係る位置に障害物を識別可能な表示をするための信号を生成する
請求項1から請求項5の何れか1項に記載の作業車両の表示システム。
【請求項7】
前記表示制御部は、検出された前記障害物の中で、前記検出精度が高い順に所定数の障害物に係る位置に障害物を識別可能な表示をするための信号を生成する
請求項1から請求項5の何れか1項に記載の作業車両の表示システム。
【請求項8】
作業車両の周囲を撮像した撮像画像を取得するステップと、
前記撮像画像に写った障害物の検出処理を実行するステップと、
前記作業車両を中心とした所定範囲内に前記障害物が存在するか否かを判定するステップと、
前記検出処理において複数の障害物が検出された場合に、前記撮像画像に対応する領域において検出された前記複数の障害物の中で障害物の確からしさを示す検出精度が高い障害物に係る位置に、障害物を識別可能な表示をするための信号を生成するステップと
を備え、
前記信号を生成するステップでは、前記所定範囲内に複数の障害物が検出された場合に、前記複数の障害物のうち、当該所定範囲内における前記検出精度が高い障害物に係る位置に障害物を識別可能な表示をさせ、前記所定範囲内に障害物が検出されない場合に、前記複数の障害物のうち、前記所定範囲外における前記検出精度が高い障害物に係る位置に障害物を識別可能な表示をさせる
作業車両の表示方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、作業車両の表示システムおよび作業車両の表示方法に関する。
本願は、2019年7月18日に日本に出願された特願2019-133074号について優先権を主張し、その内容をここに援用する。
【背景技術】
【0002】
特許文献1には、作業車両の周辺の人を検知する周辺監視システムに係る技術が開示されております。特許文献1に記載の技術によれば、周辺監視システムは、画像処理によって画像に人が含まれるか否かを識別する。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2017-151815号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、人などの障害物の検出処理において、1つの領域から複数の障害物が検出されることがある。このとき、検出処理によって検出されたすべての障害物を画面に表示させる場合、大量の検出結果が表示されることとなり、必要な情報がすぐに判別できない可能性がある。
【0005】
本開示の目的は、障害物の検出に係る必要な情報の見落としが生じる可能性を低減することができる作業車両の表示システムおよび作業車両の表示方法を提供することにある。
【課題を解決するための手段】
【0006】
本開示の第1の態様によれば、作業車両の表示システムは、作業車両の周囲を撮像した撮像画像を取得する画像取得部と、前記作業車両の周囲の障害物を検出する検出部と、前記検出部によって複数の障害物が検出された場合に、前記撮像画像に対応する領域において検出された前記複数の障害物の中で障害物の確からしさを示す検出精度が高い障害物に係る位置に、障害物を識別可能な表示をするための信号を生成する表示制御部とを備える。
【発明の効果】
【0007】
上記態様によれば、表示システムは、障害物の検出に係る必要な情報の見落としが生じる可能性を低減することができる。
【図面の簡単な説明】
【0008】
図1】第1の実施形態に係る作業車両の構成を示す概略図である。
図2】第1の実施形態に係る作業車両が備える複数のカメラの撮像範囲を示す図である。
図3】第1の実施形態に係る運転室の内部の構成を示す図である。
図4】第1の実施形態に係る制御装置の構成を示す概略ブロック図である。
図5】第1の実施形態に係る制御装置の動作を示すフローチャートである。
図6】第1の実施形態に係る表示画像の例である。
図7】第1の実施形態に係る表示画像の例である。
図8】第1の実施形態に係る表示画像の例である。
図9】第1の実施形態に係る表示画像の例である。
図10】他の実施形態に係る制御装置の動作を示すフローチャートである。
図11】他の実施形態に係る表示画像の例である。
図12】他の実施形態に係る表示画像の例である。
図13】他の実施形態における表示画像のフレーム領域と撮像画像であるとの対応の例である。
【発明を実施するための形態】
【0009】
〈第1の実施形態〉
以下、図面を参照しながら実施形態について詳しく説明する。
【0010】
《作業車両の構成》
図1は、第1の実施形態に係る作業車両の構成を示す概略図である。
作業車両100は、施工現場にて稼働し、土砂などの施工対象を施工する。第1の実施形態に係る作業車両100は、例えば油圧ショベルである。作業車両100は、走行体110、旋回体120、作業機130および運転室140を備える。
走行体110は、作業車両100を走行可能に支持する。走行体110は、例えば左右1対の無限軌道である。
旋回体120は、走行体110に旋回中心回りに旋回可能に支持される。
作業機130は、油圧により駆動する。作業機130は、旋回体120の前部に上下方向に駆動可能に支持される。運転室140は、オペレータが搭乗し、作業車両100の操作を行うためのスペースである。運転室140は、旋回体120の左前部に設けられる。
ここで、旋回体120のうち作業機130が取り付けられる部分を前部という。また、旋回体120について、前部を基準に、反対側の部分を後部、左側の部分を左部、右側の部分を右部という。
【0011】
《旋回体の構成》
旋回体120には、作業車両100の周囲を撮像する複数のカメラ121が設けられる。図2は、第1の実施形態に係る作業車両が備える複数のカメラの撮像範囲を示す図である。
具体的には、旋回体120には、旋回体120の周囲のうち左後方範囲Raを撮像する左後方カメラ121A、旋回体120の周囲のうち後方範囲Rbを撮像する後方カメラ121B、旋回体120の周囲のうち右後方範囲Rcを撮像する右後方カメラ121C、旋回体120の周囲の右前方範囲Rdを撮像する右前方カメラ121Dが設けられる。なお、複数のカメラ121の撮像範囲の一部は、互いに重複していてもよい。
複数のカメラ121の撮像範囲は、作業車両100の全周のうち、運転室140から視認可能な左前方範囲Reを除く範囲をカバーする。なお、第1の実施形態に係るカメラ121は、旋回体120の左後方、後方、右後方、および右前方を撮像するが、他の実施形態においてはこれに限られない。例えば、他の実施形態に係るカメラ121の数および撮像範囲は、図1および図2に示す例と異なっていてよい。
【0012】
なお、左後方カメラ121Aは、図2の後方範囲Rbに示すように、旋回体120の左側方領域、及び左後方領域の範囲を撮像するものであるが、そのどちらか一方の領域を撮像するものであってもよい。同様に、右後方カメラ121Cは、図2の右後方範囲Rcに示すように、旋回体120の右側方領域、及び右後方領域の範囲を撮像するものであるが、そのどちらか一方の領域を撮像するものであってもよい。同様に、右前方カメラ121Dは、図2の右前方範囲Rdに示すように、旋回体120の右前方領域、及び右側方領域の範囲を撮像するものであるが、そのどちらか一方の領域を撮像するものであってもよい。
【0013】
《作業機の構成》
作業機130は、ブーム131、アーム132、バケット133、ブームシリンダ134、アームシリンダ135、およびバケットシリンダ136を備える。
【0014】
ブーム131の基端部は、旋回体120にブームピンP1を介して取り付けられる。
アーム132は、ブーム131とバケット133とを連結する。アーム132の基端部は、ブーム131の先端部にアームピンP2を介して取り付けられる。
バケット133は、土砂などを掘削するための刃と掘削した土砂を収容するための収容部とを備える。バケット133の基端部は、アーム132の先端部にバケットピンP3を介して取り付けられる。
【0015】
ブームシリンダ134は、ブーム131を作動させるための油圧シリンダである。ブームシリンダ134の基端部は、旋回体120に取り付けられる。ブームシリンダ134の先端部は、ブーム131に取り付けられる。
アームシリンダ135は、アーム132を駆動するための油圧シリンダである。アームシリンダ135の基端部は、ブーム131に取り付けられる。アームシリンダ135の先端部は、アーム132に取り付けられる。
バケットシリンダ136は、バケット133を駆動するための油圧シリンダである。バケットシリンダ136の基端部は、アーム132に取り付けられる。バケットシリンダ136の先端部は、バケット133に接続されるリンク部材に取り付けられる。
【0016】
《運転室の構成》
図3は、第1の実施形態に係る運転室の内部の構成を示す図である。
運転室140内には、運転席141、操作装置142および制御装置143が設けられる。
【0017】
操作装置142は、オペレータの手動操作によって走行体110、旋回体120および作業機130を駆動させるためのインタフェースである。操作装置142は、左操作レバー1421、右操作レバー1422、左フットペダル1423、右フットペダル1424、左走行レバー1425、右走行レバー1426を備える。
【0018】
左操作レバー1421は、運転席141の左側に設けられる。右操作レバー1422は、運転席141の右側に設けられる。
【0019】
左操作レバー1421は、旋回体120の旋回動作、及び、アーム132の引き/押し動作を行うための操作機構である。具体的には、作業車両100のオペレータが左操作レバー1421を前方に倒すと、アーム132が押し動作する。また、作業車両100のオペレータが左操作レバー1421を後方に倒すと、アーム132が引き動作する。また、作業車両100のオペレータが左操作レバー1421を右方向に倒すと、旋回体120が右旋回する。また、作業車両100のオペレータが左操作レバー1421を左方向に倒すと、旋回体120が左旋回する。なお、他の実施形態においては、左操作レバー1421を前後方向に倒した場合に旋回体120が右旋回または左旋回し、左操作レバー1421が左右方向に倒した場合にアーム132がダンプ動作または掘削動作してもよい。
【0020】
右操作レバー1422は、バケット133の掘削/ダンプ動作、及び、ブーム131の上げ/下げ動作を行うための操作機構である。具体的には、作業車両100のオペレータが右操作レバー1422を前方に倒すと、ブーム131の下げ動作が実行される。また、作業車両100のオペレータが右操作レバー1422を後方に倒すと、ブーム131の上げ動作が実行される。また、作業車両100のオペレータが右操作レバー1422を右方向に倒すと、バケット133のダンプ動作が行われる。また、作業車両100のオペレータが右操作レバー1422を左方向に倒すと、バケット133の掘削動作が行われる。
【0021】
左フットペダル1423は、運転席141の前方の床面の左側に配置される。右フットペダル1424は、運転席141の前方の床面の左側に配置される。左走行レバー1425は、左フットペダル1423に軸支され、左走行レバー1425の傾斜と左フットペダル1423の押し下げが連動するように構成される。右走行レバー1426は、右フットペダル1424に軸支され、右走行レバー1426の傾斜と右フットペダル1424の押し下げが連動するように構成される。
【0022】
左フットペダル1423および左走行レバー1425は、走行体110の左側履帯の回転駆動に対応する。具体的には、作業車両100のオペレータが左フットペダル1423または左走行レバー1425を前方に倒すと、左側履帯は前進方向に回転する。また、作業車両100のオペレータが左フットペダル1423または左走行レバー1425を後方に倒すと、左側履帯は後進方向に回転する。
【0023】
右フットペダル1424および右走行レバー1426は、走行体110の右側履帯の回転駆動に対応する。具体的には、作業車両100のオペレータが右フットペダル1424または右走行レバー1426を前方に倒すと、右側履帯は前進方向に回転する。また、作業車両100のオペレータが右フットペダル1424または右走行レバー1426を後方に倒すと、右側履帯は後進方向に回転する。
【0024】
制御装置143は、入出力装置であり、例えば、複数のカメラ121によって取得された作業車両100の周囲状況を俯瞰画像として表示することができる。第1の実施形態に係る制御装置143の入力手段は、ハードキーである。なお、他の実施形態においては、タッチパネル、マウス、またはキーボード等を入力手段として用いてもよい。
【0025】
《制御装置の構成》
図4は、第1の実施形態に係る制御装置の構成を示す概略ブロック図である。
制御装置143は、プロセッサ210、メインメモリ230、ストレージ250、インタフェース270を備えるコンピュータである。
【0026】
ストレージ250は、一時的でない有形の記憶媒体である。ストレージ250の例としては、HDD(Hard Disk Drive)、SSD(Solid State Drive)、磁気ディスク、光磁気ディスク、CD-ROM(Compact Disc Read Only Memory)、DVD-ROM(Digital Versatile Disc Read Only Memory)、半導体メモリ等が挙げられる。ストレージ250は、制御装置143のバスに直接接続された内部メディアであってもよいし、インタフェース270または通信回線を介して制御装置143に接続される外部メディアであってもよい。ストレージ250は、作業車両100の周囲監視を実現するためのプログラムを記憶する。
【0027】
プログラムは、制御装置143に発揮させる機能の一部を実現するためのものであってもよい。例えば、プログラムは、ストレージ250に既に記憶されている他のプログラムとの組み合わせ、または他の装置に実装された他のプログラムとの組み合わせによって機能を発揮させるものであってもよい。なお、他の実施形態においては、制御装置143は、上記構成に加えて、または上記構成に代えてPLD(Programmable Logic Device)などのカスタムLSI(Large Scale Integrated Circuit)を備えてもよい。PLDの例としては、PAL(Programmable Array Logic)、GAL(Generic Array Logic)、CPLD(Complex Programmable Logic Device)、FPGA(Field Programmable Gate Array)が挙げられる。この場合、プロセッサによって実現される機能の一部または全部が当該集積回路によって実現されてよい。
【0028】
また、ストレージ250は、人物を検知するための人物辞書データD1を記憶する。人物辞書データD1は、例えば人物が写る複数の既知の画像それぞれから抽出された特徴量の辞書データである。特徴量の例としては、HOG(Histograms of Oriented Gradients)やCoHOG(Co-occurrence HOG)を用いることができる。
【0029】
プロセッサ210は、プログラムを実行することで、画像取得部211、特徴量抽出部212、検出部213、画像生成部214、マーカ配置部215、存在判定部216、表示制御部217として機能する。また、プログラムの実行により、メインメモリ230には、マーカ記憶部231の記憶領域が確保される。
【0030】
画像取得部211は、複数のカメラ121から画像を取得する。各カメラ121から取得する画像は、所定のフレームレートで更新されるフレーム画像である。
特徴量抽出部212は、画像取得部211が取得したフレーム画像から特徴量を抽出する。特徴量抽出部212が抽出する特徴量の例としては、HOG特徴量やCoHOG特徴量などが挙げられる。
【0031】
検出部213は、特徴量抽出部212が抽出した特徴量とストレージ250に記憶される人物辞書データD1とに基づいて、フレーム画像における人物を検出する。人物の検出方法の例としては、パターンマッチング、機械学習に基づく物体検出処理などが挙げられる。人物は、障害物の一例である。なお、第1の実施形態においては、検出部213は、画像の特徴量を用いて人物の検出を行うが、これに限られない。例えば、他の実施形態においては、検出部213は、赤外線センサの計測値などに基づいて人物の検出を行ってもよい。検出部213は、検出された人物ごとに、検出精度を特定する。検出精度は、人物の確からしさを示す精度であり、例えば特徴量の類似度や尤度として表される。
【0032】
画像生成部214は、画像取得部211が取得した複数のフレーム画像を変形し、合成することで、作業車両100を中心として、現場を上方から平面視した俯瞰画像を生成する。すなわち、画像生成部214は、複数のフレーム画像それぞれを俯瞰座標系に変形し、変形後のフレーム画像を合成することで、俯瞰画像を生成する。なお、画像生成部214は、変形後のそれぞれのフレーム画像の一部を切り出して、切り出したフレーム画像を合成することで、俯瞰画像を生成してもよい。画像生成部214が生成する俯瞰画像の中央には、作業車両100を上方から平面視した画像が予め貼り付けられている。
【0033】
マーカ配置部215は、画像生成部214が生成した俯瞰画像に重畳させて、人物の検出位置に対応する位置に、人物の位置を示すマーカを配置する。なお、他の実施形態に係るマーカ配置部215は、検出位置から所定の範囲内にマーカを配置してもよい。マーカの形状は、例えば、円、楕円、正多角形、多角形などが挙げられる。なお、マーカは、障害物を識別可能な表示の一例である。他の実施形態においては、障害物を識別可能な表示は、例えば、人物を示すテキストの表示、人物の色の変更、人物の形状の変更など、障害物を識別できる表示であればよい。
マーカ配置部215は、配置したマーカの位置をマーカ記憶部231に記録する。マーカ記憶部231は、俯瞰画像に配置されたマーカの位置を記憶する。
【0034】
マーカ配置部215は、検出位置と、作業車両100を中心として設定された警告範囲との位置関係に応じて、マーカの色を異ならせる。例えば、マーカ配置部215は、検出位置が警告範囲内である場合に、マーカの色を赤にし、検出位置が警告範囲外である場合に、マーカの色を黄色にする。警告範囲は、例えば作業車両100の旋回中心を中心とする円として設定されてよい。
なお、マーカの色およびマーカの位置と色の関係は、これに限られない。例えば、他の実施形態に係るマーカ配置部215は、赤および黄色以外の色をマーカに設定してもよい。また、他の実施形態に係るマーカ配置部215は、検出位置が警告範囲内である場合に、マーカの色を赤にし、検出位置が警告範囲外かつ注意範囲内である場合に、マーカの色を黄色にし、検出位置が注意範囲外である場合に、マーカの色を灰色にしてもよい。また、検出位置が警告範囲内、または注意範囲内である場合に、マーカの色を赤にしてもよい。また、検出位置にかかわらず、マーカの色を赤にしてもよい。注意範囲は、例えば作業車両100の旋回中心を中心とする円であって、警告範囲の外側の範囲として設定されてよい。
【0035】
また、マーカ配置部215は、俯瞰画像において、マーカの配置とともに人物を検出した位置を含む領域を強調表示するようにしてもよい。領域は、複数のカメラ121の撮像範囲によって決定される。なお、該領域は、1つのカメラ121の撮像範囲によって決定されてもよいし、少なくとも2つのカメラ121の撮像範囲によって決定されてもよい。また、該領域は、撮像範囲より狭い範囲としてもよい。強調表示の例としては、例えば、領域の枠を赤い太枠で表示することなどが挙げられる。なお、強調表示の例は、これに限られず、赤色以外の色によるものであってもよい。また、強調表示は、領域の枠の点滅によってなされるものであってもよい。
【0036】
また、マーカ配置部215は、検出位置が警告範囲内、または注意範囲内である場合にのみ、その位置を含む領域を強調表示するようにしてもよい。この場合、検出された人物にマーカが配置されるとともに、検出した位置に対応する領域が強調表示されることで、オペレータは、注意すべき人物および、方向を容易に理解できる。すなわち、制御装置143は、オペレータに注意を促すことが出来る。
【0037】
存在判定部216は、俯瞰座標系の検出位置に基づいて、人物が作業車両100を中心として設定された注意範囲または警告範囲の内側に存在するか否かを判定する。
【0038】
表示制御部217は、マーカが配置された俯瞰画像に、存在判定部216の判定結果に応じたアイコンを付すことで監視画像を生成する。表示制御部217は、生成した監視画像をタッチパネルに出力する。アイコンは、例えば人物が注意範囲内に存在しない場合、注意範囲内かつ警告範囲外に存在する場合、警告範囲内に存在する場合で、それぞれ態様を異ならせる。アイコンの態様の例としては、色、透明度、大きさなどが挙げられる。
【0039】
《制御装置の動作》
図5は、第1の実施形態に係る制御装置の動作を示すフローチャートである。
制御装置143は、周囲監視処理を開始すると、画像取得部211は、複数のカメラ121からフレーム画像を取得する(ステップS1)。次に、制御装置143は、取得したフレーム画像に基づいて人物検出処理P1と表示制御処理P2とを並列で実行する。
【0040】
人物検出処理P1は、以下のステップS2からステップS3の処理である。
特徴量抽出部212は、ステップS1で取得したフレーム画像から特徴量を抽出する(ステップS2)。次に、検出部213は、ストレージ250から人物辞書データD1を読み出し、抽出された特徴量と人物辞書データD1とを照合することにより、フレーム画像において人物が存在する検出位置を特定する(ステップS3)。人物検出処理P1は、表示制御処理P2と比較して計算量が多い。
【0041】
表示制御処理P2は、以下のステップS4からステップS9の処理である。
画像生成部214は、ステップS1で取得したフレーム画像に基づいて、俯瞰画像を生成する(ステップS4)。次に、存在判定部216は、マーカ記憶部231が記憶するマーカの位置に基づいて、人物が注意範囲または警告範囲の内側に存在するか否かを判定する(ステップS5)。
【0042】
表示制御部217は、ステップS4で生成した俯瞰画像上に、マーカ記憶部231が記憶する位置および大きさのマーカを描画し、さらに俯瞰画像のうち左前方範囲Reに相当する位置に、ステップS7の判定結果に応じたアイコンを付すことで監視画像を生成する(ステップS6)。表示制御部217は、生成した監視画像をタッチパネルに出力する(ステップS7)。
【0043】
次に、表示制御部217は、人物検出処理P1が完了したか否かを判定する(ステップS8)。人物検出処理P1が完了していない場合(ステップS8:NO)、画像取得部211は、複数のカメラ121から次のフレーム画像を取得し(ステップS9)、処理をステップS4に戻す。
【0044】
人物検出処理P1および表示制御処理P2が完了すると、存在判定部216は、人物検出処理P1において検出対象となったフレーム画像のそれぞれについて、ステップS3の検出処理の結果に係る検出位置に基づいて、人物が警告範囲の内側に存在するか否かを判定する(ステップS10)。マーカ配置部215は、人物が警告範囲の内側に存在するフレーム画像については(ステップS10:YES)、警告範囲内において、検出結果が示す検出精度が最も高い人物に係る検出位置を1つ特定する(ステップS11)。
【0045】
人物が警告範囲の内側に存在しないフレーム画像については(ステップS10:NO)、存在判定部216は、ステップS3の検出処理の結果に係る検出位置に基づいて、人物が注意範囲の内側に存在するか否かを判定する(ステップS12)。マーカ配置部215は、人物が注意範囲の内側に存在するフレーム画像については(ステップS12:YES)、注意範囲内において、検出結果が示す検出精度が最も高い人物に係る検出位置を1つ特定する(ステップS13)。マーカ配置部215は、警告範囲および注意範囲内に人物が存在しないフレーム画像については(ステップS12:NO)、検出結果が示す検出精度が最も高い人物を特定する(ステップS14)。
【0046】
そして、マーカ配置部215は、人物検出処理P1において検出対象となったフレーム画像のそれぞれについて、ステップS10からステップS14の何れかによって特定された人物の検出位置にマーカを配置する。すなわちマーカ配置部215は、マーカ記憶部231に、検出位置に対応する位置のマーカの情報を記録し(ステップS15)、制御装置143は周辺監視処理を終了する。
【0047】
なお、マーカは、配置されてから一定時間が経過すると消える。すなわち、マーカ配置部215は、マーカの配置から一定時間が経過したときに、マーカ記憶部231から該当するマーカの情報を削除する。なお、他の実施形態に係るマーカ配置部215は、マーカが所定サイズ以上になった場合に、マーカを削除してもよい。また、このときマーカ配置部215は、検出位置と警告範囲との関係に基づいてマーカの色を決定してもよい。これにより、俯瞰画像には、複数のフレーム画像に対応する領域ごとのマーカの数を1以下に抑えることができる。
【0048】
なお、人物検出処理P1は、複数のフレーム画像について並列に実行されてもよいし、各フレーム画像について順に実行されてもよい。また、マーカ配置部215は、他のフレーム画像から抽出された人物に係るマーカが検出位置に既にある場合、その検出位置にマーカを配置しなくてもよい。これにより、マーカが重複して配置され、見づらくなるのを防止することができる。また、人物検出処理P1が各フレーム画像について順に実行される場合、ステップS10からステップS15の処理は、人物検出処理P1の対象となったフレーム画像のみについて行われる。
なお、図5に示すフローチャートは一例であり、他の実施形態においては必ずしもすべてのステップを実行しなくてもよい。例えば、他の実施形態においては、ステップS2、ステップS5からステップS9、ステップS10からステップS13の何れかが実行されなくてもよい。
【0049】
《表示画像の例》
図6~9は、第1の実施形態に係る表示画像の例である。
図6~9によれば、表示画像には、表示制御部217が生成した監視画像G1と、単カメラ画像G2とが表示される。また、表示画像には、作業モードインジケータG32、SMR(service meter reading)インジケータG33、燃料レベルインジケータG34、作動油温インジケータG35、およびエンジン水温インジケータG36が含まれる。監視画像G1には、俯瞰画像G11と、注意範囲を示す領域枠G12と、警告範囲を示す領域枠G13と、複数のマーカG14とアイコンG15とが含まれる。単カメラ画像G2は、複数のカメラ121のうち1つが撮像したフレーム画像である。
【0050】
また、図6~9には、表示画像には表示されないが、ステップS10からステップS14の処理において特定されなかった検出位置Eが示されている。また、図6~9には、表示画像には表示されないフレーム領域F1、F2、F3、F4が示されている。フレームF1は、左後方カメラ121Aによって撮像される左後方範囲Raに対応するフレーム領域である。フレームF2は、後方カメラ121Bによって撮像される後方範囲Rbに対応するフレーム領域である。フレームF3は、右後方カメラ121Cによって撮像される右後方範囲Rcに対応するフレーム領域である。フレームF4は、右前方カメラ121Dによって撮像される右前方範囲Rdに対応するフレーム領域である。なお、前方、及び左前方のフレーム領域F0に俯瞰画像G11は生成されない。オペレータは、運転室140の前方、及び左前方を直接視認できるためである。
【0051】
図6は、作業車両の警告範囲内に一人以上の人物が存在する場合であって、単カメラ画像G2に、右前方カメラ121Dが撮像したフレーム画像が表示されている表示画像の例である。図6によれば、警告範囲内に一人以上の人物が検出されている場合に、最も検出精度の高い人物に係る検出位置にのみマーカG14が付されている。これにより、オペレータは、近距離における人物の中で特に注意すべき人物を把握することができる。なお、図6は、警告範囲内に一人以上の人物が存在する場合の例であるが、警告範囲内に人物が存在せず、注意範囲内に一人以上の人物が存在する場合においても、上記と同様の結果となる。なお、一人以上の人物は、一人の人物であってもよいし、複数の人物であってもよい。
【0052】
図7は、注意範囲外に一人以上の人物が存在する場合であって、単カメラ画像G2に、右後方カメラ121Cが撮像したフレーム画像が表示されている表示画像の例である。図7によれば、注意範囲より外に一人以上の人物が検出されている場合に、最も検出精度の高い人物に係る検出位置にのみマーカG14が付されている。これにより、オペレータは、近距離に人物が存在しない場合において、特に注意すべき人物を把握することができる。なお、一人以上の人物は、一人の人物であってもよいし、複数の人物であってもよい。
【0053】
図8は、注意範囲内に一人以上の人物が存在し、物体が注意範囲内と、注意範囲外に存在する場合であって、単カメラ画像G2に、左後方カメラ121Aが撮像したフレーム画像が表示されている表示画像の例である。図8によれば、物体が人物として誤検知され、注意範囲内に一人以上の人物が検出され、注意範囲外に人物が検出されている場合に、注意範囲内において最も検出精度の高い人物に係る検出位置にのみマーカG14が付されている。人物と物体を比較すると、一般的に人物の方が検出精度が高くなるため、物体ではなく、人物にかかる位置にマーカG14が付されることになる。これにより、オペレータは、特に注意すべき人物を把握することができる。
【0054】
また、複数の検出された人物の中で最も検出精度の高い人物にのみマーカG14を付すようにするので、誤検知に係る位置にマーカG14が付されることを防ぐことができる。また、注意範囲外に人物を検出しても、注意範囲内の人物にのみマーカG14を付すことで、マーカの煩わしさを防止し、必要な情報を直ぐに判別することができる。なお、図8は、注意範囲内に一人以上の人物と物体が存在する場合の例であるが、警告範囲内に一人以上の人物と物体が存在する場合においても、上記と同様の結果となる。なお、一人以上の人物は、一人の人物であってもよいし、複数の人物であってもよい。
【0055】
図9は、警告範囲内に一人以上の人物が存在し、注意範囲外に一人以上の人物が存在する場合であって、単カメラ画像G2に、右前方カメラ121Dが撮像したフレーム画像が表示されている表示画像の例である。図9によれば、警告範囲内に一人以上の人物が存在し、注意範囲外に一人以上の人物が存在する場合に、警告範囲内の中で最も検出精度の高い人物に係る検出位置にのみマーカG14が付されている。仮に注意範囲外に存在する人物の方が警告範囲内の人物よりも検出精度が高かったとしても、警告範囲内の中で最も検出精度の高い人物にのみマーカG14が付されることになる。これにより、オペレータは、複数の人物が検出された場合に特に注意すべき人物を把握することができる。また、マーカの煩わしさを防止し、必要な情報を直ぐに判別することができる。なお、一人以上の人物は、一人の人物であってもよいし、複数の人物であってもよい。
【0056】
作業車両のキーオン時には、単カメラ画像G2として、後方カメラ121Bが撮像したフレーム画像が作業車両のキーオン時に表示される。単カメラ画像G2は、制御装置143の入力手段によって、他のカメラ121が撮像したフレーム画像に切り替えることができる。なお、後方カメラ121B以外のカメラ121が撮像したフレーム画像を、キーオン時に表示される単カメラフレーム画像G2としても良い。また、人物を検出した場合、単カメラ画像G2が、人物が撮像されたカメラ121のフレーム画像に自動的に切り替えるようにしても良い。
【0057】
《作用・効果》
このように、第1の実施形態に係る制御装置143は、撮像画像に写った障害物の検出処理において複数の障害物が検出された場合に、検出精度が最も高い所定数の障害物に係る位置にマーカを配置した表示画像を表示させる。これにより、表示画像におけるマーカの数を低減することができ、障害物の検出に係る必要な情報の見落としが生じる可能性を低減することができる。
【0058】
また、第1の実施形態に係る制御装置143は、作業車両100を中心とした所定範囲内に複数の障害物が検出された場合に、当該範囲内における検出精度が最も高い所定数の障害物に係る位置にマーカを配置した表示画像を表示させる。これにより、作業車両の近傍の障害物より遠くの障害物の方が検出精度が高い場合にも、近傍の障害物を優先して通知することができる。なお、他の実施形態においては、これに限られない。例えば、他の実施形態に係る制御装置143は、注意範囲および警告範囲に関わらず、検出精度が最も高い所定数の障害物に係る位置にマーカを配置した表示画像を表示させてもよい。
【0059】
〈他の実施形態〉
以上、図面を参照して一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、様々な設計変更等をすることが可能である。他の実施形態においては、上述の処理の順序が適宜変更されてもよい。また、一部の処理が並列に実行されてもよい。
【0060】
上述した実施形態では、作業車両100は、油圧ショベルとして説明したが、他の実施形態においては、ダンプトラック、ホイールローダなど種々の作業車両に適用可能である。例えば、ダンプトラックや、ホイールローダや他の作業車両用の表示システムに適用可能である。
【0061】
また、上述した実施形態では、1台の制御装置143が作業車両に設置されるものとして説明したが、他の実施形態においては、制御装置143の一部の構成を他の制御装置に配置し、2台以上の制御装置からなる表示システムから実現されてもよい。なお、上述の実施形態に示す1台の制御装置143も、表示システムの一例である。
【0062】
上述した実施形態に係る制御装置143は、作業車両に設置されるものとして説明したが、他の実施形態においては、制御装置143の一部、または全部の構成が作業車両の外部に設置されてもよい。
【0063】
また、上述した実施形態に係る制御装置143は、人物を検出するが、人物以外の障害物を検出してもよい。
また上述した実施形態に係る制御装置143は、左前方範囲Reを撮像する左前方カメラを備えないが、他の実施形態においては左前方範囲Reを撮像する左前方カメラを備えてもよい。この場合、制御装置143は、作業車両100の周囲の全周が写る俯瞰画像を生成することができる。他方、この場合においても、制御装置143は、人物検出処理P1については、左前方カメラのフレーム画像から人物を検出しなくてもよい。これは、人物検出処理P1の計算量が多いため、制御装置143による監視の必要性が低い範囲について人物検出処理P1を行わないことで、全体の計算負荷の増加を防ぐためである。
【0064】
また、上述した実施形態に係る制御装置143は、各フレーム画像について検出精度が最も高い検出位置を1つ特定するが、これに限られない。例えば、他の実施形態においては、検出精度が高い順に2以上の所定数の検出位置を特定してもよい。また例えば、他の実施形態においては、すべてのフレーム画像(左後方範囲Ra、後方範囲Rb、右後方範囲Rc、右前方範囲Rd)について、検出精度が高い検出位置を所定数特定してもよいし、フレーム画像の組み合わせごと(たとえば左後方範囲Raと後方範囲Rbの組み合わせ、および右後方範囲Rcと右前方範囲Rdの組み合わせ)に、検出精度が高い検出位置を所定数特定してもよい。
【0065】
また、上述した実施形態に係る制御装置143は、検出結果を表示させることでオペレータに注意を促すが、他の実施形態においては、さらに制御装置143の検出結果に基づいて制御装置が作業車両100を制御してもよい。例えば、警告領域にマーカが配置された場合に制御装置が作業車両100の走行、旋回および作業機の操作を禁止するように制御してもよい。この場合、上述の実施形態のようにマーカの数を低減しておくことで、誤検知によって作業車両100の停止制御がなされることを防ぐことができる。
【0066】
上述した実施形態に係る制御装置143はディスプレイを有し、当該ディスプレイに表示画像を表示させるが、他の実施形態においてはこれに限られない。例えば、他の実施形態に係る制御装置143は、ディスプレイを備えないものであって、制御装置143と別体のディスプレイに表示画像を表示させる信号を送信するものであってよい。当該信号は、障害物に係る位置にマーカを配置した表示画像を表示するための信号である。なお、制御装置143とは別体のディスプレイと、上述した制御装置143の構成の一部ずつを備える2台以上の制御装置とからなる表示システムから実現されてもよい。
【0067】
また、上述した実施形態においては、警報範囲、注意範囲は、作業車両の旋回中心を中心とする円として説明したが、他の実施形態においては、作業車両100の旋回中心を中心とする円以外の範囲であってもよい。例えば、作業車両100の旋回中心を中心とする円を、前部、後部、左部、右部の一部の方向に所定の距離拡大した範囲であってもよい。また、作業車両100の旋回中心以外の部分を中心とする円であってもよい。また、作業機130の作動範囲から求まる範囲としてもよい。また、楕円、多角形、直線と曲線から形成される範囲であってもよい。
【0068】
また、上述した実施形態では、ディスプレイが作業車両100に設置されるものとして説明したが、他の実施形態においては、ディスプレイが作業車両100の外に設置されるものであってもよい。例えば、作業現場から離れた地点にディスプレイを設け、制御装置143は、ディスプレイに表示画像を表示させる信号をインターネットなどのネットワークを介して送信するものであってよい。
【0069】
また、上述した実施形態では、警告範囲と注意範囲が設定されるものとして説明したが、他の実施形態においては、警告範囲と注意範囲のうち、いずれかの範囲が設定されるものであってもよい。また、3つ以上の範囲が設定されるものであってもよい。
【0070】
また、上述した実施形態においては、マーカG14が俯瞰画像G11に付されるが、これに限られない。例えば、他の実施形態においては、マーカG14が俯瞰画像G11と単カメラ画像G2の両方に付されてもよいし、マーカG14が単カメラ画像G2のみに付されてもよい。このとき、俯瞰画像G11と単カメラ画像G2の両方について、検出精度が高い所定数の検出位置にマーカG14を付してよい。また、俯瞰画像G11と単カメラ画像G2の一方の画像については検出精度が高い所定数の検出位置にのみマーカG14を付し、他方の画像については全ての検出位置にマーカG4を付してもよい。
【0071】
また、他の実施形態においては、表示画像に俯瞰画像G11および単カメラ画像G2のいずれか一方のみが含まれてもよい。この場合、マーカG14は、表示画像に含まれる俯瞰画像G11または単カメラ画像G2に付される。また、他の実施形態においては、複数のカメラ121による単カメラ画像G2が並べて表示されてもよい。この場合、マーカG14は、1つの単カメラ画像G2に付されてもよいし、2つ以上の単カメラ画像に付されてもよい。
【0072】
ここで、制御装置143が、マーカG14が付された単カメラ画像G2を含む表示画像を生成する例について説明する。
図10は、他の実施形態に係る制御装置の動作を示すフローチャートである。他の実施形態においては、制御装置143は、第1の実施形態とステップS4、ステップS6およびステップS15に代えて、ステップS104、ステップS106およびステップS115を実行する。
制御装置143の画像生成部214は、ステップS104において、ステップS1で取得したフレーム画像に基づいて、単カメラ画像を生成する。
制御装置143の表示制御部217は、ステップS106において、ステップS104で生成した単カメラ画像上に、マーカ記憶部231が記憶する位置のマーカを描画し、さらに単カメラ画像に、ステップS5の判定結果に応じたアイコンを付すことで、表示画像を生成する。当該アイコンは、単カメラ画像のうち、作業車両100の一部が映っている領域などの監視の必要性が低い位置に配置されることで、アイコンが制御装置143による監視の必要性が高い位置に存在する人物を遮蔽することを防ぐことができる。
制御装置143のマーカ配置部215は、ステップS115において、ステップS3の検出処理の結果に係る検出位置にマーカを配置する。すなわちマーカ配置部215は、マーカ記憶部231に、検出位置のマーカの情報を記録する。
【0073】
図11は、他の実施形態に係る表示画像の例である。
図11によれば、表示画像には、異なるカメラ121が撮像した2つの単カメラ画像G2が含まれる。単カメラ画像G2には、それぞれマーカG14が1つずつ付されている。なお、図11に示す例では、2つの単カメラ画像G2のそれぞれについて、検出精度が高い検出位置を所定数特定してマーカG14を付しているが、これに限られない。例えば、他の実施形態においては、2つの単カメラ画像G2の一方について、検出精度が高い検出位置を所定数特定してマーカG14を付し、他方についてマーカG14を付さなくてもよい。また他の実施形態においては、2つの単カメラ画像G2の一方について、検出精度が高い検出位置を所定数特定してマーカG14を付し、他方については全ての検出位置にマーカG14を付してもよい。また、他の実施形態においては、表示画像に3つ以上の単カメラ画像G2が含まれてもよい。
【0074】
図12は、他の実施形態に係る表示画像の例である。
フレーム領域F1、F2、F3、F4は、撮像範囲が重なりあう場合がある。図12の斜線部は、実際の画面には表示されない撮像範囲の重なり合う部分である。例えば、フレーム領域F3とフレーム領域F4は、フレーム領域F3に対応する右後方カメラ121Cの撮像範囲と、フレーム領域F4に対応する右前方カメラ121Dの撮像範囲の一部が重なり合う場合がある。フレーム領域F3、F4のうち重なり合う部分で検出された人物の検出精度が、重なり合う部分以外で検出された人物の検出精度よりも高い場合、重なり合う部分以外で検出された他の人物の位置にもマーカG14を配置するようにしてよい。
また、撮像範囲が重なり合う部分で検出された人物の検出精度が重なり合う部分以外で検出された人物の検出精度よりも高い場合、隣り合うフレーム領域の中で、例えば、フレーム領域F3とフレーム領域F4との中で、検出された複数の人物のうち、検出精度が高い順に所定数の検出位置にマーカG14を配置するようにしてもよい。この場合、重なり合う部分で検出した人物のみにマーカG14が配置されることを防止することができる。
なお、フレーム領域F3とF4の重なり合う部分の例において説明したが、フレーム領域F1、F2、F3、F4のうち、隣り合うフレーム領域のいずれの組み合わせにおいて、上記の処理を行ってもよい。
なお、重なり合う部分で人物が検出されたことの決定は、例えば、フレーム画像毎に、隣り合うカメラとの撮像範囲が重なり合う部分を定めておき、その重なり合う部分において人物が検出されたか否か判定することで決定することができる。
【0075】
また、各カメラ121の撮像範囲が、対応するフレーム領域F1、F2、F3、F4よりも広い場合がある。図13は、他の実施形態における表示画像のフレーム領域と撮像画像との対応の例である。
図13のように、後方カメラ121Bのフレーム画像において複数の人物を検出した場合、フレーム領域外OFで検出した人物を除外のうえ、フレーム領域外OFを除外したフレーム画像のうち検出精度が高い人物の位置にマーカを配置するようにしてもよい。これによって、フレーム領域外OFで検出した人物にマーカG14が配置されることを防止され、特定された監視の必要性が高い領域にマーカG14が付されるため、必要な情報を直ぐに判別することができる。なお、フレーム領域外OFは、フレーム画像における所定の領域であって、例えば、俯瞰画像を生成する際に切り出されたフレーム画像の一部以外の領域、つまり、俯瞰画像に表示されない領域である俯瞰画像の領域外、とされてもよい。
また、フレーム画像において複数の人物を検出した場合、注意範囲外で検出した人物を除外のうえ、注意範囲外を除外したフレーム画像のうち検出精度が高い人物の位置にマーカを配置するようにしてもよい。これによって、注意範囲外で検出した人物にマーカG14が配置されることを防止され、特定された注意範囲内の人物にマーカG14が付されるため、必要な情報を直ぐに判別することができる。
また、上述した実施形態では、フレーム領域F1、F2、F3、F4の線が表示画像には表示されないものとして説明したが、これに限られない。例えば、他の実施形態においては、フレーム領域F1、F2、F3、F4の線が表示画像に表示させるようにしてもよい。
【産業上の利用可能性】
【0076】
上記開示によれば、表示システムは、障害物の検出に係る必要な情報の見落としが生じる可能性を低減することができる。
【符号の説明】
【0077】
100…作業車両 110…走行体 120…旋回体 121…カメラ 130…作業機 140…運転室 141…運転席 143…制御装置 211…画像取得部 212…特徴量抽出部 213…検出部 214…画像生成部 215…マーカ配置部 216…存在判定部 217…表示制御部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13