(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-11-07
(45)【発行日】2022-11-15
(54)【発明の名称】作業機械用周辺監視システム、表示装置
(51)【国際特許分類】
H04N 7/18 20060101AFI20221108BHJP
B60R 1/00 20220101ALI20221108BHJP
E02F 9/26 20060101ALI20221108BHJP
【FI】
H04N7/18 J
H04N7/18 V
B60R1/00
E02F9/26 A
(21)【出願番号】P 2018549017
(86)(22)【出願日】2017-10-31
(86)【国際出願番号】 JP2017039339
(87)【国際公開番号】W WO2018084146
(87)【国際公開日】2018-05-11
【審査請求日】2020-07-15
(31)【優先権主張番号】P 2016214714
(32)【優先日】2016-11-01
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】502246528
【氏名又は名称】住友建機株式会社
(74)【代理人】
【識別番号】100107766
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】泉川 岳哉
【審査官】秦野 孝一郎
(56)【参考文献】
【文献】特開2014-183497(JP,A)
【文献】特開2015-184839(JP,A)
【文献】特開2014-183500(JP,A)
【文献】特開2012-82608(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
B60R 1/00
E02F 9/00-9/28
(57)【特許請求の範囲】
【請求項1】
作業機械のキャビン内に設けられる表示装置と、
前記作業機械の周辺を撮像する撮像装置と、
前記撮像装置の撮像画像に基づき前記作業機械の周辺画像を生成すると共に、前記作業機械を模式的に表す作業機械画像と、前記作業機械と前記撮像装置の撮像範囲との相対位置関係に合わせて、前記作業機械画像の周囲に配置される前記周辺画像とを含む監視用画像を前記表示装置に表示させる表示制御部と、を備え、
前記表示制御部は、前記監視用画像における前記周辺画像の一部領域であって、前記作業機械画像よりも前記周辺画像に含まれる
2以上の所定の対象物
の位置で規定される図形の略図心位置に近い位置を中心とし且つ
前記2以上の前記対象物が含まれる一部領域を抜き出し且つ拡大した拡大監視用画像を前記表示装置に表示させる、
作業機械用周辺監視システム。
【請求項2】
作業機械のキャビン内に設けられる表示装置と、
前記作業機械の周辺を撮像する撮像装置と、
前記撮像装置の撮像画像に基づき前記作業機械の周辺画像を生成すると共に、前記作業機械を模式的に表す作業機械画像と、前記作業機械と前記撮像装置の撮像範囲との相対位置関係に合わせて、前記作業機械画像の周囲に配置される前記周辺画像とを含む監視用画像を前記表示装置に表示させる表示制御部と、を備え、
前記表示制御部は、前記監視用画像における前記周辺画像の一部領域であって
、前記周辺画像に含まれる
2以上の所定の対象物
のうちの前記作業機械に
最も近い
前記対象物の位置を中心とし且つ前記対象物が含まれる一部領域を抜き出し且つ拡大した拡大監視用画像を前記表示装置に表示させる、
作業機械用周辺監視システム。
【請求項3】
作業機械のキャビン内に設けられる表示装置と、
前記作業機械の周辺を撮像する撮像装置と、
前記撮像装置の撮像画像に基づき前記作業機械の
周辺を前記撮像装置とは異なる視点から見た周辺画像を生成すると共に、前記作業機械を模式的に表す作業機械画像と、前記作業機械と前記撮像装置の撮像範囲との相対位置関係に合わせて、前記作業機械画像の周囲に配置される前記周辺画像とを含む監視用画像を前記表示装置に表示させる表示制御部と、
前記作業機械の周辺の所定領域内で所定の対象物を検知する検知部と、を備え、
前記表示制御部は、
前記検知部により前記対象物が検知された場合に、前記監視用画像における前記周辺画像の
うちの一部領域
のみを前記表示装置に表示させ、その際、前記作業機械画像よりも前記周辺画像に含まれる
、前記検知部により検知された前記対象物に近い位置を中心とし且つ前記対象物が含まれる
前記一部領域を抜き出し且つ拡大した拡大監視用画像を前記表示装置に表示させる、
作業機械用周辺監視システム。
【請求項4】
前記表示制御部は、前記作業機械画像の少なくとも一部を含む前記拡大監視用画像を前記表示装置に表示させる、
請求項1
乃至3の何れか一項に記載の作業機械用周辺監視システム。
【請求項5】
前記表示制御部は、前記周辺画像に含まれる前記対象物の位置を中心とする前記一部領域を抜き出し且つ拡大した前記拡大監視用画像を前記表示装置に表示させる、
請求項
3に記載の作業機械用周辺監視システム。
【請求項6】
作業機械を模式的に表す作業機械画像と、前記作業機械の周辺を撮像する撮像装置の撮像画像に基づき生成される、前記作業機械の周辺画像であって、前記作業機械と前記撮像装置の撮像範囲との相対位置関係に合わせて、前記作業機械画像の周囲に配置される前記周辺画像とを含む監視用画像を表示すると共に、前記監視用画像における前記周辺画像の一部領域であって、前記作業機械画像よりも前記周辺画像に含まれる
2以上の所定の対象物
の位置で規定される図形の略図心位置に近い位置を中心とし且つ
前記2以上の前記対象物が含まれる一部領域を抜き出し且つ拡大した拡大監視用画像を表示する、
表示装置。
【請求項7】
作業機械を模式的に表す作業機械画像と、前記作業機械の周辺を撮像する撮像装置の撮像画像に基づき生成される、前記作業機械の周辺画像であって、前記作業機械と前記撮像装置の撮像範囲との相対位置関係に合わせて、前記作業機械画像の周囲に配置される前記周辺画像とを含む監視用画像を表示すると共に、前記監視用画像における前記周辺画像の一部領域であって
、前記周辺画像に含まれる
2以上の所定の対象物
のうちの前記作業機械に
最も近い
前記対象物の位置を中心とし且つ前記対象物が含まれる一部領域を抜き出し且つ拡大した拡大監視用画像を表示する、
表示装置。
【請求項8】
作業機械を模式的に表す作業機械画像と、前記作業機械の周辺を撮像する撮像装置の撮像画像に基づき生成される、前記作業機械の周辺画像であって、前記作業機械と前記撮像装置の撮像範囲との相対位置関係に合わせて、前記作業機械画像の周囲に配置される前記周辺画像とを含む監視用画像を表示すると共に、
所定の対象物が検知された場合に、前記監視用画像における前記周辺画像の
うちの一部領域
のみを表示し、その際、前記作業機械画像よりも前記周辺画像に含まれる
、検知された前記対象物に近い位置を中心とし且つ前記対象物が含まれる
前記一部領域を抜き出し且つ拡大した拡大監視用画像を表示する、
表示装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、作業機械用周辺監視システム等に関する。
【背景技術】
【0002】
作業機械に取り付けられる周辺を撮像する撮像装置(カメラ)の撮像画像に基づき生成された監視用画像(例えば、作業機械の真上から見た俯瞰画像)を操縦席周辺のモニタに表示させる周辺監視装置が知られている(例えば、特許文献1参照)
【0003】
特許文献1では、作業機械の周辺の所定領域内で人が検知された場合、監視用画像を広域表示から近傍表示に拡大表示させている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1では、単純に作業機械を模式的に表した画像を中心として監視用画像を広域表示から近傍表示に拡大する。そのため、オペレータは、監視用画像における中央部の作業機械を模した画像の周辺に表示される、検知された人の状態を即座に把握できない可能性がある。
【0006】
そこで、上記課題に鑑み、作業機械の周辺で人が検知された場合に、オペレータに検知された人の状態をより早く把握させることが可能な作業機械用周辺監視システム等を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記目的を達成するため、本発明の一実施形態では、
作業機械のキャビン内に設けられる表示装置と、
前記作業機械の周辺を撮像する撮像装置と、
前記撮像装置の撮像画像に基づき前記作業機械の周辺画像を生成すると共に、前記作業機械を模式的に表す作業機械画像と、前記作業機械と前記撮像装置の撮像範囲との相対位置関係に合わせて、前記作業機械画像の周囲に配置される前記周辺画像とを含む監視用画像を前記表示装置に表示させる表示制御部と、を備え、
前記表示制御部は、前記監視用画像における前記周辺画像の一部領域であって、前記作業機械画像よりも前記周辺画像に含まれる2以上の所定の対象物の位置で規定される図形の略図心位置に近い位置を中心とし且つ前記2以上の前記対象物が含まれる一部領域を抜き出し且つ拡大した拡大監視用画像を前記表示装置に表示させる、
作業機械用周辺監視システムが提供される。
また、本発明の他の実施形態では、
作業機械のキャビン内に設けられる表示装置と、
前記作業機械の周辺を撮像する撮像装置と、
前記撮像装置の撮像画像に基づき前記作業機械の周辺画像を生成すると共に、前記作業機械を模式的に表す作業機械画像と、前記作業機械と前記撮像装置の撮像範囲との相対位置関係に合わせて、前記作業機械画像の周囲に配置される前記周辺画像とを含む監視用画像を前記表示装置に表示させる表示制御部と、を備え、
前記表示制御部は、前記監視用画像における前記周辺画像の一部領域であって、前記周辺画像に含まれる2以上の所定の対象物のうちの前記作業機械に最も近い前記対象物の位置を中心とし且つ前記対象物が含まれる一部領域を抜き出し且つ拡大した拡大監視用画像を前記表示装置に表示させる、
作業機械用周辺監視システムが提供される。
また、本発明の更に他の実施形態では、
作業機械のキャビン内に設けられる表示装置と、
前記作業機械の周辺を撮像する撮像装置と、
前記撮像装置の撮像画像に基づき前記作業機械の周辺を前記撮像装置とは異なる視点から見た周辺画像を生成すると共に、前記作業機械を模式的に表す作業機械画像と、前記作業機械と前記撮像装置の撮像範囲との相対位置関係に合わせて、前記作業機械画像の周囲に配置される前記周辺画像とを含む監視用画像を前記表示装置に表示させる表示制御部と、
前記作業機械の周辺の所定領域内で所定の対象物を検知する検知部と、を備え、
前記表示制御部は、前記検知部により前記対象物が検知された場合に、前記監視用画像における前記周辺画像のうちの一部領域のみを前記表示装置に表示させ、その際、前記作業機械画像よりも前記周辺画像に含まれる、前記検知部により検知された前記対象物に近い位置を中心とし且つ前記対象物が含まれる前記一部領域を抜き出し且つ拡大した拡大監視用画像を前記表示装置に表示させる、
作業機械用周辺監視システムが提供される。
また、本発明の更に他の実施形態では、
作業機械を模式的に表す作業機械画像と、前記作業機械の周辺を撮像する撮像装置の撮像画像に基づき生成される、前記作業機械の周辺画像であって、前記作業機械と前記撮像装置の撮像範囲との相対位置関係に合わせて、前記作業機械画像の周囲に配置される前記周辺画像とを含む監視用画像を表示すると共に、前記監視用画像における前記周辺画像の一部領域であって、前記作業機械画像よりも前記周辺画像に含まれる2以上の所定の対象物の位置で規定される図形の略図心位置に近い位置を中心とし且つ前記2以上の前記対象物が含まれる一部領域を抜き出し且つ拡大した拡大監視用画像を表示する、
表示装置が提供される。
また、本発明の更に他の実施形態では、
作業機械を模式的に表す作業機械画像と、前記作業機械の周辺を撮像する撮像装置の撮像画像に基づき生成される、前記作業機械の周辺画像であって、前記作業機械と前記撮像装置の撮像範囲との相対位置関係に合わせて、前記作業機械画像の周囲に配置される前記周辺画像とを含む監視用画像を表示すると共に、前記監視用画像における前記周辺画像の一部領域であって、前記周辺画像に含まれる2以上の所定の対象物のうちの前記作業機械に最も近い前記対象物の位置を中心とし且つ前記対象物が含まれる一部領域を抜き出し且つ拡大した拡大監視用画像を表示する、
表示装置が提供される。
また、本発明の更に他の実施形態では、
作業機械を模式的に表す作業機械画像と、前記作業機械の周辺を撮像する撮像装置の撮像画像に基づき生成される、前記作業機械の周辺画像であって、前記作業機械と前記撮像装置の撮像範囲との相対位置関係に合わせて、前記作業機械画像の周囲に配置される前記周辺画像とを含む監視用画像を表示すると共に、所定の対象物が検知された場合に、前記監視用画像における前記周辺画像のうちの一部領域のみを表示し、その際、前記作業機械画像よりも前記周辺画像に含まれる、検知された前記対象物に近い位置を中心とし且つ前記対象物が含まれる前記一部領域を抜き出し且つ拡大した拡大監視用画像を表示する、
表示装置が提供される。
【発明の効果】
【0008】
上述の実施形態によれば、作業機械の周辺で人が検知された場合に、オペレータに検知された人の状態をより早く把握させることが可能な作業機械用周辺監視システム等を提供することができる。
【図面の簡単な説明】
【0009】
【
図1】本実施形態に係る周辺監視システムが搭載される作業機械の一例を示す図である。
【
図2A】本実施形態に係る周辺監視システムの構成の一例を示す図である。
【
図2B】本実施形態に係る周辺監視システムの構成の他の例を示す図である。
【
図3】表示装置に表示される監視用画像の一例を示す図である。
【
図4A】表示装置に表示される拡大監視用画像の第1例を説明する図である。
【
図4B】表示装置に表示される拡大監視用画像の第1例を説明する図である。
【
図5A】表示装置に表示される拡大監視用画像の第2例を説明する図である。
【
図5B】表示装置に表示される拡大監視用画像の第2例を説明する図である。
【
図6A】表示装置に表示される拡大監視用画像の第3例を説明する図である。
【
図6B】表示装置に表示される拡大監視用画像の第3例を説明する図である。
【
図7A】表示装置に表示される拡大監視用画像の第4例を説明する図である。
【
図7B】表示装置に表示される拡大監視用画像の第4例を説明する図である。
【
図8】表示装置に表示される別視点監視用画像の一例を説明する図である。
【
図9】表示装置に表示される部分別視点監視用画像の一例を説明する図である。
【
図10】周辺監視システム(表示制御部)による処理の一例を概略的に示すフローチャートである。
【発明を実施するための形態】
【0010】
以下、図面を参照して発明を実施するための形態について説明する。
【0011】
[作業機械の構成]
まず、
図1を参照して、本実施形態に係る周辺監視システム100(
図2参照)が搭載される作業機械について説明をする。
【0012】
図1は、本実施形態に係る周辺監視システム100が搭載される作業機械の一例を示す図であり、具体的には、ショベルの側面図である。
【0013】
尚、本実施形態に係る周辺監視システム100は、当然の如く、ショベル以外の作業機械、例えば、ホイールローダ、アスファルトフィニッシャ等に搭載されてもよい。
【0014】
本実施形態に係るショベルは、下部走行体1と、旋回機構2を介して旋回可能に下部走行体1に搭載される上部旋回体3と、作業装置としてのブーム4、アーム5、及びバケット6と、オペレータが搭乗するキャビン10を備える。
【0015】
下部走行体1は、例えば、左右1対のクローラを含み、それぞれのクローラが走行油圧モータ(不図示)で油圧駆動されることにより、ショベルを走行させる。
【0016】
上部旋回体3は、旋回油圧モータ、或いは、電動機(共に不図示)等で駆動されることにより、下部走行体1に対して旋回する。
【0017】
ブーム4は、上部旋回体3の前部中央に俯仰可能に枢着され、ブーム4の先端には、アーム5が上下回動可能に枢着され、アーム5の先端には、バケット6が上下回動可能に枢着される。ブーム4、アーム5、及びバケット6は、それぞれ、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9により油圧駆動される。
【0018】
キャビン10は、オペレータが搭乗する操縦室であり、上部旋回体3の前部左側に搭載される。
【0019】
また、本実施形態に係るショベルは、コントローラ30と、撮像装置40と、物体検知センサ42と、表示装置50を備える。
【0020】
コントローラ30は、ショベルの駆動制御を行う制御装置である。コントローラ30は、キャビン10内に搭載される。
【0021】
撮像装置40は、上部旋回体3の上部に取り付けられ、ショベルの周辺を撮像する。撮像装置40は、後方カメラ40B、左側方カメラ40L、右側方カメラ40Rを含む。
【0022】
後方カメラ40Bは、上部旋回体3の後端上部に取り付けられ、上部旋回体3の後方を撮像する。
【0023】
左側方カメラ40Lは、上部旋回体3の左端上部に取り付けられ、上部旋回体3の左側方を撮像する。
【0024】
右側方カメラ40Rは、上部旋回体3の右端上部に取り付けられ、上部旋回体3の右側方を撮像する。
【0025】
物体検知センサ42は、上部旋回体3の外側面等に取り付けられ、ショベルの周辺、具体的には、上部旋回体3の後方、左側方、及び、右側方にいる物体(障害物)を検知する。物体検知センサ42により検知されうる物体には、人が含まれうる。具体的には、物体検知センサ42は、上部旋回体3の後方の物体を検知するセンサと、上部旋回体3の左側方の物体を検知するセンサと、上部旋回体3の右側方の物体を検知するセンサの三つのセンサを含む態様であってよい。物体検知センサ42には、例えば、検知波やレーザーをショベル(上部旋回体3)の周辺に出力し、その反射波や反射光を受信することにより、物体を検知可能な超音波センサ、ミリ波レーダ、LIDAR(Light Detection and Ranging)等が含まれうる。物体検知センサ42は、例えば、反射波や反射光の強度に基づき、検知された物体が人であるのか人以外の物体であるのかを判断することが可能である。また、物体検知センサ42は、例えば、ステレオカメラであってもよい。
【0026】
表示装置50は、キャビン10内の操縦席の周辺に設けられ、コントローラ30(後述する表示制御部302)による制御の下、オペレータに通知する各種画像情報を表示する。
【0027】
[周辺監視システムの構成]
次に、
図2A,
図2Bを参照して、周辺監視システム100の構成について説明する。
【0028】
図2Aは、本実施形態に係る周辺監視システム100の構成の一例を示すブロック図である。
【0029】
本実施形態に係る周辺監視システム100は、コントローラ30、撮像装置40、表示装置50を含む。
【0030】
コントローラ30は、周辺監視システム100における主たる制御処理を行う。コントローラ30は、その機能が任意のハードウェア、ソフトウェア、或いはその組み合わせにより実現されてよく、例えば、CPU,RAM,ROM,I/O等を含むマイクロコンピュータを中心に構成される。コントローラ30は、ROMに格納される各種プログラムをCPU上で実行することにより実現される機能部として、人検知部301、表示制御部302を含む。
【0031】
撮像装置40は、上述の如く、後方カメラ40B、左側方カメラ40L、右側方カメラ40Rを含む。後方カメラ40B、左側方カメラ40L、右側方カメラ40Rは、上部旋回体3の上部において、光軸が斜め下方に向くように取り付けられ、ショベル近傍の地面からショベルの遠方までを含む上下方向の撮像範囲(画角)を有する。後方カメラ40B、左側方カメラ40L、右側方カメラ40Rは、ショベルの運転中、所定周期(例えば、1/30秒)毎に、撮像画像をコントローラ30に出力し、撮像画像は、コントローラ30に取り込まれる。
【0032】
物体検知センサ42は、ショベルの運転中、所定周期ごとに、上部旋回体3の周辺(具体的には、上部旋回体3の後方、左側方、及び、右側方)の検知結果をコントローラ30に出力し、検知結果は、コントローラ30に取り込まれる。
【0033】
表示装置50は、撮像装置40の撮像画像(スルー画像)や、コントローラ30(表示制御部302)が撮像装置40の撮像画像に基づき生成する周辺画像(例えば、後述する視点変換画像)等を表示する。
【0034】
人検知部301は、撮像装置40により撮像された撮像画像に基づき、ショベルの周辺の所定領域内、例えば、ショベルから所定距離D1(例えば、5メートル)以内の人を検知する。例えば、人検知部301は、既知の各種画像処理手法や機械学習ベースの識別器等を任意に適用することにより、撮像画像内の人を認識すると共に、認識した人の実在位置(ショベルから認識した人までの距離D等)を特定することができる。
【0035】
尚、
図2B(本実施形態に係る周辺監視システム100の構成の他の例を示すブロック図)に示すように、人検知部301は、物体検知センサ42の検知結果に基づき、ショベル周辺の所定領域内の人を検知してもよい。このとき、人検知部301は、物体検知センサ42の検知結果に含まれる反射波や反射光の強度やパターン等の特性に基づき、検知された物体が人であるか否かを判定することができる。また、人検知部301は、いわゆるセンサフュージョンによって、撮像装置40により撮像された撮像画像と、物体検知センサ42による検知結果の双方に基づき、監視対象である人を検知してもよい。
【0036】
表示制御部302は、表示装置50に各種情報画像を表示させる。例えば、表示制御部302は、撮像装置40の撮像画像に基づき周辺画像を生成し、表示装置50に表示させる。具体的には、表示制御部302は、周辺画像として、後方カメラ40B、左側方カメラ40L、右側方カメラ40Rの撮像画像に基づき、既知の視点変換処理を行うことにより、視点変換画像(仮想視点から見た画像)を生成し、表示装置50に表示させる。また、表示制御部302は、周辺画像を表示装置50に表示させる際、周辺画像に写る撮像装置40の撮像範囲のショベルに対する相対位置関係を明示するため、ショベルを模式的に表すショベル画像(作業機械画像の一例)を併せて表示装置50に表示させる。即ち、表示制御部302は、ショベル画像と、ショベルと撮像装置40の撮像範囲との相対位置関係に合わせて、ショベル画像の周囲に配置される周辺画像とを含む監視用画像を生成し、表示装置50に表示させる。以下、
図3を参照して、表示装置50の詳細と併せて、表示装置50に表示される監視用画像について説明をする。
【0037】
図3は、表示装置50に表示される監視用画像の一例を示す図である。
【0038】
図3に示すように、表示装置50は、各種情報画像が表示される表示部50Aと、各種情報画像に表示される操作対象(例えば、操作ボタンアイコンやカーソル等)を操作するハードウェアによる操作部50Bを含む。
【0039】
本例では、表示部50Aには、監視用画像MPだけでなく、ショベルの運転に関連する各種情報を提示する運転情報画像IPが表示される。具体的には、表示部50Aの上半分には、監視用画像MPが表示され、下半分には、運転情報画像IPが表示される。
【0040】
運転情報画像IPは、日時表示領域IPa、走行モード表示領域IPb、エンドアタッチメント表示領域IPc、エンジン制御状態表示領域IPe、エンジン作動時間表示領域IPf、冷却水温表示領域IPg、燃料残量表示領域IPh、回転数モード表示領域IPi、作動油温表示領域IPk、カメラ画像表示領域IPm、アラーム表示領域IPp、及び向き表示アイコンIPxを含む。
【0041】
日時表示領域IPaは、現在の日時を画像表示する領域である。本例では、デジタル表示が採用され、日付が2013年2月19日であり、時刻が23時59分であることを示している。
【0042】
走行モード表示領域IPbは、現在の走行モードを画像表示する領域である。走行モードは、可変容量ポンプを用いた走行用油圧モータの設定状態を表す。具体的には、走行モードは、低速モード及び高速モードを有する。低速モードは、「亀」を象ったマークで表示され、高速モードは「兎」を象ったマークで表示される。本例では、「亀」を象ったマークが表示されており、オペレータは、低速モードが設定されていることを認識できる。
【0043】
エンドアタッチメント表示領域IPcは、現在装着されているエンドアタッチメントを表す画像を画像表示する領域である。ショベルに装着されるエンドアタッチメントには、バケット6の他、削岩機、グラップル、リフティングマグネットなど様々なエンドアタッチメントが含まれる。エンドアタッチメント表示領域IPcは、例えば、これらのエンドアタッチメントを象ったマークを表示する。本例では、削岩機を象ったマークが表示されており、オペレータは、削岩機がエンドアタッチメントとして取り付けられていることを認識できる。
【0044】
エンジン制御状態表示領域IPeは、エンジンの制御状態を画像表示する領域である。本例では、オペレータは、エンジンの制御状態として「自動減速・自動停止モード」が選択されていることを認識できる。なお、「自動減速・自動停止モード」は、エンジン負荷が小さい状態の継続時間に応じて、エンジン回転数を自動的に低減し、さらにはエンジンを自動的に停止させる制御状態を意味する。その他、エンジンの制御状態には、「自動減速モード」、「自動停止モード」、「手動減速モード」等がある。
【0045】
エンジン作動時間表示領域IPfは、エンジンの累積作動時間を画像表示する領域である。本例では、単位「hr(時)」を用いた値が表示される。
【0046】
冷却水温表示領域IPgは、現在のエンジン冷却水の温度状態を画像表示する領域である。本例では、エンジン冷却水の温度状態を表すバーグラフが表示されている。なお、エンジン冷却水の温度は、エンジンに取り付けられる水温センサが出力するデータに基づき表示される。
【0047】
具体的には、冷却水温表示領域IPgは、異常範囲表示IPg1、注意範囲表示IPg2、正常範囲表示IPg3、セグメント表示IPg4、及びアイコン表示IPg5を含む。
【0048】
異常範囲表示IPg1、注意範囲表示IPg2、正常範囲表示IPg3は、それぞれ、エンジン冷却水の温度が異常高温状態、注意を要する状態、正常状態にあることをオペレータに知らせるための表示である。また、セグメント表示IPg4は、エンジン冷却水の温度の高低をオペレータに知らせるための表示である。また、アイコン表示IPg5は、異常範囲表示IPg1、注意範囲表示IPg2、正常範囲表示IPg3、及びセグメント表示IPg4がエンジン冷却水の温度に関する表示であることを表すシンボル図形等のアイコンである。
【0049】
尚、アイコン表示IPg5は、エンジン冷却水の温度に関する表示であることを表す文字情報であってもよい。
【0050】
本例では、セグメント表示IPg4は、点灯・消灯状態が個別に制御される8つのセグメントで構成され、冷却水温が高くなるほど点灯状態のセグメントの数が増加する。本例では、4つのセグメントが点灯状態となっている。また、セグメント表示IPg4は、所定円の一部(円弧)を構成し、エンジン冷却水の温度の上下動に応じてその円弧の長さが伸縮するように表示される。また、本例では、それぞれのセグメントが表す温度の幅は同じであるが、セグメントごとに温度の幅を変えてもよい。
【0051】
また、本例では、異常範囲表示IPg1、注意範囲表示IPg2、正常範囲表示IPg3は、それぞれ、セグメント表示IPg4の伸縮方向(所定円の円周方向)に沿うように並べて配置される円弧状の図形であり、赤色、黄色、緑色で表示される。また、セグメント表示IPg4は、1番目(最下位)から6番目のセグメントが正常範囲に属し、7番目のセグメントが注意範囲に属し、8番目(最上位)のセグメントが異常範囲に属する。
【0052】
尚、冷却水温表示領域IPgには、異常範囲表示IPg1、注意範囲表示IPg2、及び正常範囲表示IPg3が円弧状の図形として表示される代わりに、異常レベル、注意レベル、正常レベルを表す文字、記号等がそれぞれの境界部分に表示してもよい。
【0053】
また、異常範囲表示、注意範囲表示、正常範囲表示、セグメント表示、及び、アイコン表示を含む上述の構成は、燃料残量表示領域IPh及び作動油温表示領域IPkにおいても同様に採用されうる。また、燃料残量表示領域IPhでは、異常範囲、注意範囲、及び正常範囲を表す円弧状の図形を表示する代わりに、「Full(満タン状態)」を表す文字「F」又は黒丸(塗りつぶされた丸印)、「Empty(空状態)」を表す文字「E」又は白丸(塗りつぶされていない丸印)等がそれぞれの境界部分に表示されてもよい。
【0054】
燃料残量表示領域IPhは、燃料タンクに貯蔵されている燃料の残量状態を画像表示する領域である。本例では、現在の燃料の残量状態を表すバーグラフが表示される。燃料残量表示領域IPhの燃料の残量は、燃料タンク内の燃料残量センサにより出力されるデータに基づき表示される。
【0055】
回転数モード表示領域IPiは、現在の回転数モードを画像表示する領域である。回転数モードは、例えば、SPモード、Hモード、Aモード、及び、アイドリングモードの4つを含む。本例では、SPモードを表す記号「SP」が表示されている。
【0056】
作動油温表示領域IPkは、作動油タンク内の作動油の温度状態を画像表示する領域である。本例では、作動油の温度状態を表すバーグラフが表示されている。作動油温表示領域IPkの作動油の温度は、作動油タンク内の油温センサにより出力されるデータに基づき表示される。
【0057】
尚、冷却水温表示領域IPg、燃料残量表示領域IPh、及び、作動油温表示領域IPkでは、バーグラフ表示の代わりに針表示が採用されてもよい。
【0058】
カメラ画像表示領域IPmは、後方カメラ40B、左側方カメラ40L、及び、右側方カメラ40Rのうちの少なくとも一つの撮像画像(スルー画像)をそのまま表示する領域である。これにより、オペレータは、監視用画像MPの他、撮像装置40により撮像された撮像画像(スルー画像)をそのまま運転情報画像IP内で視認することができる。
【0059】
例えば、カメラ画像表示領域IPmには、ショベルが稼働している間、常に後方カメラ40Bにより撮像された撮像画像が表示されてよい。このとき、カメラ画像表示領域IPmの後方カメラ40Bの撮像画像(スルー画像)は、望ましくは、鏡像で表示されるとよい。
【0060】
また、本例では、カメラ画像表示領域IPmは、運転情報画像IPの右側の3分の2程度の領域を占める。表示装置50が運転席の右側前方に設置される環境において、運転席(オペレータ)に近い側に燃料残量表示領域IPh等が表示され、運転席(オペレータ)から遠い側にカメラ画像表示領域IPmが表示されるようにして、全体的な視認性を高めるためである。但し、運転情報画像IPにおける各表示領域のサイズ及び配置は、必要に応じて変更されてもよい。
【0061】
また、カメラ画像表示領域IPmに表示される撮像画像は、タッチパネル式の表示部50Aに対するタッチ操作等や操作部50Bに対する操作に応じて、表示される撮像画像の撮像元の撮像装置40が切り替えられたり、撮像画像の拡大或いは縮小が行われたりしてもよい。例えば、オペレータは、操作部50Bの十字ボタン50Baにより左右方向を指定する操作を行うことにより、カメラ画像表示領域IPmに表示される撮像画像(スルー画像)の撮像元の撮像装置40(後方カメラ40B、左側方カメラ40L、右側方カメラ40R)を切り替え可能な態様であってよい。また、オペレータは、拡縮ボタン50Bbの上方向を指定するボタン及び下方向を指定するボタンのそれぞれを押圧操作することより、撮像画像を拡大させたり、縮小させたりすることが可能な態様であってよい。このとき、オペレータは、タッチパネル式の表示部50A上のカメラ画像表示領域IPmの任意の位置をタッチすることにより、位置を指定し、当該指定位置を中心として、拡大縮小を行うことができる。また、オペレータは、十字ボタン50Baによって、カーソルを動かし、カーソル位置を中心として、拡大縮小を行うことが可能な態様であってもよい。
【0062】
アラーム表示領域IPpは、アラームを表示する領域である。本例では、電気系統異常が発生したことを表す警告メッセージがスルー画像上に重畳表示されている。また、本例では、アラーム表示領域IPpには、後方カメラ40Bにより撮像された撮像画像がカメラ画像表示領域IPmに表示されないままレバー操作が行われた場合に、その旨を警告するアラームが表示される。また、アラーム表示領域IPpには、表示すべきアラームが存在しない場合、スルー画像がそのまま表示される。
【0063】
向き表示アイコンIPxは、運転情報画像IPに表示される撮像画像(スルー画像)を撮像した撮像装置40の向きとショベル(上部旋回体3のアタッチメント)の向きとの相対的関係を表すアイコンである。本例では、カメラ画像表示領域IPmに表示されるカメラ画像を撮像する撮像装置40が後方カメラ40Bであることを表す向き表示アイコンIPxがカメラ画像表示領域IPmの右下隅に表示されている。
【0064】
尚、向き表示アイコンIPxは、カメラ画像表示領域IPmの下部中央、左下隅、右上隅、左上隅等、右下隅以外の位置に表示されてもよく、カメラ画像表示領域IPmの外部に表示されてもよい。
【0065】
また、運転情報画像IPは、上述の表示領域IPa~IPkの一部を省略してもよいし、上述以外の表示領域を含んでもよい。例えば、運転情報画像IPは、排ガスフィルタ(例えば、ディーゼル微粒子除去装置(DPF:Diesel Particulate Filter)等)の詰まり具合を表示する排ガスフィルタ状態表示領域を含んでいてもよい。具体的には、排ガスフィルタ状態表示領域は、排ガスフィルタの許容最大使用時間に対する現在の使用時間の割合を表すバーグラフを表示してもよい。また、運転情報画像IPは、作動油の温度状態の表示を省略してもよく、作動油の温度状態及び冷却水の温度状態の表示を省略してもよい。
【0066】
また、カメラ画像表示領域IPmの下部には、上部旋回体3のカバーの後端上縁の画像である車体画像としてのカバー画像IPqが含まれる。これにより、表示装置50は、カメラ画像表示領域IPmに表示される物体とショベルとの間の距離感をオペレータがより容易に掴めるようにする。また、本実施例では、向き表示アイコンIPxは、カバー画像IPq上に重畳表示される。向き表示アイコンIPxの背景色が常に同じになるようにしてその視認性を高めるためである。また、カメラ画像の見たい部分を向き表示アイコンIPxが隠してしまうのを防止するためである。但し、向き表示アイコンIPxは、カメラ画像表示領域IPmの外部に表示されてもよい。
【0067】
また、
図3に示すように、表示装置50の表示部50Aの上半分の横長の長方形の領域(例えば、アスペクト比4:3の画面)には、上述の如く、ショベル画像CGと、ショベル画像CGの周囲に配置される周辺画像EPとを含む監視用画像MPが表示されている。これにより、オペレータは、周辺画像EPに写っている人を含む物体と、ショベルとの位置関係を適切に把握することができる。
【0068】
本例における周辺画像EPは、ショベル周辺を真上から見た路面画像と、その路面画像の周りに配置される、ショベル周辺を水平方向に見た水平画像とを組み合わせた視点変換画像である。周辺画像(視点変換画像)は、後方カメラ40B、左側方カメラ40L、及び右側方カメラ40Rのそれぞれの撮像画像を空間モデルに投影した上で、その空間モデルに投影された投影画像を別の二次元平面に再投影することによって得られる。空間モデルは、仮想空間における撮像画像の投影対象であり、撮像画像が位置する平面以外の平面若しくは曲面を含む一又は複数の平面若しくは曲面で構成される。以下、本実施形態における周辺画像は、上記路面画像と上記水平画像とを組み合わせた視点変換画像である前提で説明を続ける。
【0069】
また、監視用画像には、ショベルからの距離Dが一定の位置を表す線分Lが重畳表示されてもよい。線分Lは、例えば、ショベルからの距離が所定距離D1よりも小さい所定距離D2の位置を表す。これにより、周辺画像に人を含む物体が写っている場合、ショベルからどの程度離れた位置にいるかを把握することができる。
【0070】
また、監視用画像MPは、上述した運転情報画像IPのカメラ画像表示領域IPmと同様、タッチパネル式の表示部50Aに対するタッチ操作等や操作部50Bに対する操作に応じて、監視用画像MPの拡大或いは縮小が行われたりしてもよい。例えば、オペレータは、拡縮ボタン50Bbの上方向を指定するボタン及び下方向を指定するボタンのそれぞれを押圧操作することより、監視用画像を拡大させたり、縮小させたりすることが可能な態様であってよい。このとき、オペレータは、タッチパネル式の表示部50A上の監視用画像MPの任意の位置をタッチすることにより、位置を指定し、当該指定位置を中心として、拡大縮小を行うことができる。また、オペレータは、十字ボタン50Baによって、カーソルを動かし、カーソル位置を中心として、拡大縮小を行うことが可能な態様であってもよい。
【0071】
[監視用画像の表示態様の概要]
次に、表示制御部302の特徴的な機能について説明をする。
【0072】
表示制御部302は、人検知部301によりショベルの周辺の所定領域内で人が検知された場合、検知された人がオペレータにより視認され易くなるように、監視用画像の表示態様を変更する。具体的には、表示制御部302は、人検知部301によりショベルの周辺の所定領域内で人が検知された場合、監視用画像を、該監視用画像内における検知された人の位置が、他の位置よりも重視(強調)される表示態様に変更する。
【0073】
例えば、表示制御部302は、人検知部301によりショベルの周辺の所定領域内で人が検知された場合、検知された人が含まれる周辺画像の一部領域を拡大した画像(以下、「拡大監視用画像」と称する)を生成し、表示装置50に表示させる。以下、拡大監視用画像と区別するため、人検知部301によりショベルの周辺の所定領域内で人が検知されていない場合の監視用画像(
図3参照)を「通常監視用画像」と称する。例えば、表示制御部302は、通常監視用画像における周辺画像の一部領域であって、ショベル画像よりも周辺画像に含まれる検知された人に近い位置を中心とする、当該人が含まれる一部領域を拡大した拡大監視用画像を生成する。また、例えば、表示制御部302は、上記周辺画像の一部領域に合わせて、ショベル画像も拡大した拡大監視用画像を生成する。これにより、表示制御部302は、監視用画像において、検知された人に近い位置を中心として配置し、且つ、検知された人の位置を含む一部領域を拡大することで、検知された人の位置が他の位置よりも重視される表示態様の監視用画像を表示装置50に表示させることができる。
【0074】
尚、表示制御部302は、通常監視用画像の一部領域を切り出して拡大することにより、拡大監視用画像を生成してよい。また、表示制御部302は、撮像装置40の撮像画像に基づき上記一部領域に対応する周辺画像(視点変換画像)を生成し、ショベル画像と結合することにより、拡大監視用画像を生成してもよい。
【0075】
また、本例において、表示制御部302は、人検知部301により検知された人とショベルとの距離Dに応じて、監視用画像の表示態様の変更の仕様を変化させてもよい。例えば、表示制御部302は、人検知部301により検知された人とショベルとの距離Dが小さくなるほど、拡大監視用画像の通常監視用画像に対する拡大率を大きくしてよい。具体的には、表示制御部302は、人検知部301によりショベル周辺の所定領域内で検知された人とショベルとの距離Dが所定距離D2(D1>D2)以下である場合、距離Dが所定距離D2以下でない場合よりも上記拡大率を大きくしてよい。これにより、検知された人がショベルに比較的接近している状況では、オペレータは、検知された人の状態をより把握し易くなり、検知された人の安全性を確実に確保することができる。一方、検知された人がショベルから比較的離れている状況では、拡大監視用画像に周辺画像のより多くの領域が含まれうるため、ショベル周辺全体の状態を把握しつつ、検知された人の状態を把握することが可能となり、今後の安全行動をとりやすくなる。
【0076】
尚、本例において、表示制御部302は、監視用画像の検知された人を含む一部領域を拡大するが、通常監視用画像における検知された人に近い位置が画面の中心となるように、通常監視用画像の画面上における配置を変更するだけでもよい。また、本例において、表示制御部302は、表示装置50の表示内容を通常監視用画像と拡大監視用画像との間で切り替える際、切替前の画像から切替後の画像に一気に切り替えてもよいし、モーフィング等の手法を用いて、切替前の画像から切替後の画像に連続的に変化させてもよい。
【0077】
拡大監視用画像の詳細については、後述する(
図4~
図7参照)。
【0078】
また、例えば、表示制御部302は、人検知部301によりショベルの周辺の所定領域内で人が検知された場合、検知された人を視認し易い仮想視点から見たショベル周辺の周辺画像を含む監視用画像を生成し、表示装置50に表示させる。つまり、表示制御部302は、人検知部301によりショベルの周辺の所定領域内で人が検知された場合、撮像装置40の撮像画像に基づき、通常監視用画像と異なる仮想視点から見た視点変換画像(周辺画像)を含む監視用画像を生成し、表示装置50に表示させる。具体的には、表示制御部302は、同じ仮想視点から見たショベル画像と、ショベルと撮像装置40の撮像範囲との相対位置関係に合わせて、ショベル画像の周囲に配置される周辺画像とを含む監視用画像を生成してよい。以下、通常監視用画像と区別するため、当該監視用画像を「別視点監視用画像」と称する。
【0079】
別視点監視用画像の詳細については、後述する(
図8参照)。
【0080】
また、例えば、表示制御部302は、人検知部301によりショベルの周辺の所定領域内で人が検知された場合、通常監視用画像の周辺画像のうちの人が含まれる一部領域に対応する別視点監視用画像(以下、「部分別視点監視用画像」と称する)を生成し、表示装置50に表示させてもよい。このとき、部分別視点監視用画像には、検知された人を含む周辺画像と、当該周辺画像に対応する大きさ及び位置関係で配置されるショベル画像の少なくとも一部とが含まれてよい。
【0081】
部分別視点監視用画像の詳細については、後述する(
図9参照)。
【0082】
尚、人検知部301によりショベルの周辺の所定領域内で人が検知された場合に、監視用画像の表示態様が変更される機能は、オペレータによる操作によりON/OFFされうる態様であってよい。例えば、オペレータは、上述した表示装置50のタッチパネル式の表示部50Aに表示されるソフトウェアによる操作対象(所定のアイコンボタン等)やハードウェアによる操作部50B等に対する操作により、当該機能をON/OFF可能であってよい。
【0083】
[監視用画像の表示態様の詳細]
以下、
図4~
図9を参照して、表示装置50に表示される監視用画像の表示態様の変更の詳細について説明をする。
【0084】
まず、
図4は、表示装置50に表示される拡大監視用画像の第1例を説明する図である。具体的には、
図4Aは、表示装置50に表示される通常監視用画像であり、
図4Bは、人検知部301により人が検知されることにより表示装置50に表示される拡大監視用画像の第1例である。
【0085】
図4Aに示すように、監視用画像MP(通常監視用画像)における周辺画像EPには、ショベル後方の線分Lよりショベルに近い位置、即ち、ショベル後方のショベルから所定距離D2以内の領域に、作業者W1が写っている。このような状況において、人検知部301は、当該作業者W1を検知すると、表示制御部302に人が検知された旨を通知する。これにより、表示制御部302は、上述の如く、監視用画像の表示態様を変化させる。
【0086】
具体的には、
図4Bに示すように、表示制御部302は、
図4の監視用画像MP(通常監視用画像)において、ショベル画像CGよりも周辺画像EPに含まれる作業者W1に近い位置(本例では、作業者W1の位置)を中心とする、作業者W1を含む周辺画像EPの一部領域A1(
図4A参照)を拡大した監視用画像MP(拡大監視用画像)を生成し、表示装置50に表示させる。また、本例では、表示制御部302は、周辺画像EPの上記一部領域A1に合わせて、ショベル画像CGも同じ拡大率で拡大した拡大監視用画像を生成する。即ち、表示制御部302は、通常監視用画像における作業者W1の位置を中心とする、一部領域A1を拡大した拡大監視用画像を生成し、表示装置50に表示させる。
【0087】
本例における表示装置50に表示される拡大監視用画像の略中央には、作業者W1が位置する。そのため、オペレータは、人検知部301によりショベルの周辺の所定領域内で人(作業者W1)が検知された場合に、表示装置50の表示内容(拡大監視用画像)を見て、検知された人(作業者W1)がどのような行動を行っているか等を容易に把握することができる。よって、オペレータによるショベルの操作時における安全性を高めることができる。また、本例では、ショベル画像の少なくとも一部が拡大監視用画像に含まれるため、人検知部301により検知された人(作業者W1)とショベルとの相対的な位置関係を容易に把握することができる。また、本例では、通常監視用画像に対して、周辺画像と同じ拡大率で拡大されたショベル画像が拡大監視用画像に含まれるため、人検知部301により検知された人(作業者W1)とショベルとの相対的な位置関係をより正確に把握することができる。
【0088】
尚、通常監視用画像から拡大監視用画像への表示態様の変更仕様は、拡大監視用画像の中心がショベル画像より検知された人に近づく範囲で、表示装置50のタッチパネル式の表示部50Aやハードウェアによる操作部50Bを用いたオペレータの操作によって、適宜調整可能であってもよい。例えば、オペレータは、タッチパネル式の表示部50Aや操作部50Bに対する操作により、拡大率や拡大監視用画像の中心をショベル画像CGからずらし量(表示部50AにおけるX軸方向及びY軸方向のずらし量)等の設定値を調整可能であってよい。また、例えば、オペレータは、表示部50Aに通常監視用画像が表示されている状態で、タッチパネル式の表示部50Aや操作部50Bに対する操作によって、通常監視用画像を好みの中心位置で好みの拡大率に拡大させた上で、所定の確定操作を行うことにより、
拡大監視
用画像の中心位置及び拡大率を設定可能であってよく、人が検知されたエリア(後方、左側方、或いは、右側方)ごとに、複数の仕様を設定可能であってもよい。また、例えば、オペレータは、表示部50Aに拡大監視用画像が表示されている状態で、タッチパネル式の表示部50Aや操作部50Bに対する操作により、拡大監視用画像に含まれる周辺画像EPの範囲を、検知された人が含まれる範囲で適宜調整可能であってもよい。これにより、周辺監視システム100は、オペレータによる好みにあった拡大監視用画像を表示装置50に表示させることができる。以下、
図5~
図7、
図9の場合についても同様である。
【0089】
続いて、
図5は、表示装置50に表示される拡大監視用画像の第2例を説明する図である。具体的には、
図5Aは、表示装置50に表示される通常監視用画像であり、
図5Bは、人検知部301により人が検知されることにより表示装置50に表示される拡大監視用画像の第2例である。
【0090】
尚、
図5(
図5A,
図5B)では、
図4に表示される表示装置50の表示部50A及び操作部50B等は省略されているが、
図3、
図4の場合と同様、監視用画像(通常監視用画像及び拡大監視用画像)は、表示装置50の表示部50Aに運転情報画像IPと共に表示される態様であってよい。以下、
図6~
図9の場合についても同様である。
【0091】
図5Aに示すように、通常監視用画像における周辺画像には、ショベル後方の線分Lよりショベルに近い位置、即ち、ショベル後方のショベルから所定距離D2以内の領域に、作業者W1が写っている。また、監視用画像における周辺画像には、ショベル右後側方の線分L付近、即ち、ショベル後側方のショベルから所定距離D2付近の領域に、作業者W2が写っている。このような状況において、人検知部301は、当該作業者W1,W2を検知すると、表示制御部302に人が検知された旨を通知する。これにより、表示制御部302は、上述の如く、監視用画像の表示態様を変化させる。
【0092】
具体的には、
図5Bに示すように、表示制御部302は、通常監視用画像において、ショベル画像CGよりも周辺画像EPに含まれる作業者W1,W2に近い位置(本例では、作業者W1,W2の位置で規定される図形の略図心位置、即ち、作業者W1,W2の位置を繋ぐ線分の略中点位置)を中心とする、作業者W1、W2を含む周辺画像EPの一部領域A2(
図5A参照)を拡大した拡大監視用画像を生成し、表示装置50に表示させる。また、本例では、表示制御部302は、第1例と同様、周辺画像EPの上記一部領域A2に合わせて、ショベル画像CGも同じ拡大率で拡大した拡大監視用画像を生成する。即ち、表示制御部302は、通常監視用画像における作業者W1,W2の位置を繋ぐ線分の略中点位置を中心とする、一部領域A2をそのまま拡大した拡大監視用画像を生成し、表示装置50に表示させる。
【0093】
人検知部301により検知された2以上の人(作業者W1,W2)がショベルの後方寄りにいる場合や相互に近い位置にいる場合等において、表示装置50に表示される拡大監視用画像に含まれる作業者W1,W2は、ショベル画像よりも中央寄りに位置する。そのため、オペレータは、人検知部301によりショベルの周辺の所定領域内で2以上の人(作業者W1,W2)が検知された場合に、表示装置50の表示内容(拡大監視用画像)の中から中央寄りに配置される、検知された人(作業者W1,W2)を容易に認識できる。そして、オペレータは、検知された人(作業者W1,W2)がどのような行動を行っているか等を容易に把握することができる。また、本例では、検知された2以上の人(作業者W1,W2)が全て含まれるように拡大監視用画像が生成されるため、検知された2以上の人の全ての行動等を把握することができる。また、本例では、第1例と同様、ショベル画像の少なくとも一部が拡大監視用画像に含まれるため、人検知部301により検知された人(作業者W1,W2)とショベルとの相対的な位置関係を容易に把握することができる。また、本例では、第1例と同様、通常監視用画像に対して、周辺画像と同じ拡大率で拡大されたショベル画像が拡大監視用画像に含まれるため、人検知部301により検知された人(作業者W1,W2)とショベルとの相対的な位置関係をより正確に把握することができる。
【0094】
尚、本例では、表示制御部302は、作業者W1,W2の位置で規定される図形の略図心位置を中心とする、作業者W1、W2を含む周辺画像EPの一部領域A2(
図5A参照)を拡大した拡大監視用画像を生成するが、当該態様に限定されない。即ち、拡大監視用画像(一部領域A2)は、ショベル画像CGよりも作業者W1,W2の位置で規定される図形の略図心位置に近い位置を中心とすればよい。
【0095】
続いて、
図6は、表示装置50に表示される拡大監視用画像の第3例を説明する図である。具体的には、
図6Aは、表示装置50に表示される通常監視用画像であり、
図6Bは、人検知部301により人が検知されることにより表示装置50に表示される拡大監視用画像の第3例である。
【0096】
尚、
図6Aは、一点鎖線で囲まれる部分(一部領域A3)の配置を除き、
図5Aと同様であるため、
図5Aと異なる部分を中心に説明を行う。
【0097】
図6Aに示すように、通常監視用画像のショベルの周辺の所定領域内に、
図5Aと同様、作業者W1,W2が写っている。このような状況において、人検知部301は、当該作業者W1,W2を検知すると、表示制御部302に人が検知された旨を通知する。これにより、表示制御部302は、上述の如く、監視用画像の表示態様を変化させる。
【0098】
具体的には、
図6Bに示すように、表示制御部302は、通常監視用画像において、ショベル画像CGよりも周辺画像EPに含まれる作業者W1,W2に近い位置(本例では、作業者W1,W2のうち、ショベルに最も近い位置にいる作業者W1)を中心とする、作業者W1、W2を含む周辺画像EPの一部領域A3(
図6A参照)を拡大した拡大監視用画像を生成し、表示装置50に表示させる。また、本例では、表示制御部302は、第1例等と同様、周辺画像EPの上記一部領域A3に合わせて、ショベル画像CGも同じ拡大率で拡大した拡大監視用画像を生成する。即ち、表示制御部302は、通常監視用画像における作業者W1の位置を中心とする、一部領域A3をそのまま拡大した拡大監視用画像を生成し、表示装置50に表示させる。
【0099】
本例における表示装置50に表示される拡大監視用画像の略中央には、人検知部301により検知された2以上の人(作業者W1,W2)のうちのショベルに最も近い作業者W1が位置する。そのため、オペレータは、人検知部301によりショベルの周辺の所定領域内で2以上の人(作業者W1,W2)が検知された場合に、表示装置50の表示内容(拡大監視用画像)を確認することで、検知された2以上の人(作業者W1,W2)のうちの最もショベルの近くにいる人(作業者W1)を容易に認識できる。そして、オペレータは、最もショベルの近くにいる人(作業者W1)がどのような行動を行っているか等を容易に把握することができる。また、本例では、第2例と同様、検知された2以上の人が全て含まれるように拡大監視用画像が生成されるため、検知された2以上の人の全ての行動等を把握することができる。また、本例では、第1例等と同様、ショベル画像の少なくとも一部が拡大監視用画像に含まれるため、人検知部301により検知された人(作業者W1,W2)とショベルとの相対的な位置関係を容易に把握することができる。また、本例では、第1例等と同様、通常監視用画像に対して、周辺画像と同じ拡大率で拡大されたショベル画像が拡大監視用画像に含まれるため、人検知部301により検知された人(作業者W1,W2)とショベルとの相対的な位置関係をより正確に把握することができる。
【0100】
続いて、
図7は、表示装置50に表示される拡大監視用画像の第4例を説明する図である。具体的には、
図7Aは、表示装置50に表示される通常監視用画像であり、
図7Bは、人検知部301により人が検知されることにより表示装置50に表示される拡大監視用画像の第4例である。
【0101】
尚、本例では、
図7A,7Bに示すように、表示装置50は、縦長の長方形の画面(例えば、アスペクト比9:16の画面)を有する。また、
図7Aは、表示装置50が縦長の長方形の画面である点と、一点鎖線で囲まれる部分(一部領域A4)の配置とを除き、
図4Aと同様であるため、
図4Aと異なる部分を中心に説明をする。
【0102】
図7Aに示すように、通常監視用画像における周辺画像には、
図4Aと同様、ショベルの周辺(後方)の所定領域内にいる作業者W1が写っている。このような状況において、人検知部301は、当該作業者W1を検知すると、表示制御部302に人が検知された旨を通知する。これにより、表示制御部302は、上述の如く、監視用画像の表示態様を変化させる。
【0103】
具体的には、
図7Bに示すように、表示制御部302は、通常監視用画像において、ショベル画像CGよりも周辺画像EPに含まれる作業者W1に近い位置(本例では、作業者W1の位置)を中心とする、作業者W1を含む周辺画像EPの一部領域A4を拡大した拡大監視用画像を生成し、表示装置50に表示させる。また、本例では、表示制御部302は、線分Lよりショベル(ショベル画像)に近い近傍領域、即ち、ショベルから所定距離D2以内の近傍領域の全てが含まれる周辺画像EPの一部領域A4(
図7A参照)を拡大した拡大監視用画像を生成する。また、本例では、表示制御部302は、周辺画像EPの上記一部領域A4に合わせて、ショベル画像CGも同じ拡大率で拡大した拡大監視用画像を生成する。即ち、表示制御部302は、通常監視用画像における作業者W1の位置を中心とし、周辺画像EPにおけるショベルから所定距離D2以内の近傍領域の全てが含まれる、一部領域A4をそのまま拡大した拡大監視用画像を生成し、表示装置50に表示させる。
【0104】
本例における表示装置50に表示される拡大監視用画像の略中央には、第1例と同様、作業者W1が位置する。そのため、オペレータは、人検知部301によりショベルの周辺の所定領域内で人(作業者W1)が検知された場合に、表示装置50の表示内容(拡大監視用画像)を見て、検知された人(作業者W1)がどのような行動を行っているか等を容易に把握することができる。また、本例では、第1例等と同様、ショベル画像の少なくとも一部が拡大監視用画像に含まれるため、人検知部301により検知された人(作業者W1)とショベルとの相対的な位置関係を容易に把握することができる。また、本例では、第1例等と同様、通常監視用画像に対して、周辺画像と同じ拡大率で拡大されたショベル画像が拡大監視用画像に含まれるため、人検知部301により検知された人(作業者W1)とショベルとの相対的な位置関係をより正確に把握することができる。また、本例では、ショベルから所定距離D2以内の近傍領域の全てが拡大監視用画像に含まれるため、オペレータは、ショベルに近接する近傍領域の状況を確認しつつ、検知された人の行動等を把握することができる。よって、オペレータによるショベルの操作時における安全性を更に高めることができる。
【0105】
続いて、
図8は、表示装置50に表示される別視点監視用画像の一例を示す図である。以下、
図8は、
図4Aの通常監視用画像から切り替えられた別視点監視用画像である前提で説明を進める。
【0106】
図4Aに示すように、通常監視用画像内の周辺画像のショベル(上部旋回体3)の後方に作業者W1が写っている状況において、人検知部301は、当該作業者W1を検知すると、表示制御部302に人が検知された旨を通知する。これにより、表示制御部302は、上述の如く、監視用画像の表示態様を変化させる。
【0107】
具体的には、
図8に示すように、表示制御部302は、撮像装置40の撮像画像に基づき、ショベルの後方斜め上(本例の場合、ショベルの後方の水平面から45度上方の角度方向。以下、
図9についても同様)の仮想視点から見た視点変換画像としての周辺画像EPを生成する。そして、表示制御部302は、当該周辺画像と同様のショベルの後方斜め上の仮想視点から見たショベル画像CGと、ショベルと撮像装置40の撮像範囲との相対位置関係と合わせてショベル画像CGの周囲に配置される周辺画像EPを含む別視点監視用画像を表示装置50に表示させる。これにより、オペレータがショベルの後方斜め上から作業者とショベルを見た状態を仮想的に実
現できるため、オペレータは、ショベルの後方の検知された人(作業者W1)とショベルとの位置関係(距離感)を把握し易くなる。
【0108】
また、表示制御部302は、ショベルの前方斜め上の仮想視点から見た視点変換画像としての周辺画像を含む別視点監視用画像を生成し、表示装置50に表示させてもよい。これにより、オペレータがショベルの前方斜め上から検知された人(作業者W1)とショベルを見た状態を仮想的に実現できるため、オペレータは、検知された人を含むショベルの後方の領域の視野が広がり、作業者の状況を把握し易くなる。
【0109】
つまり、表示制御部302は、人検知部301によりショベルから見て相対的に後方にいる人が検知された場合、仮想視点の水平面に対する角度方向を真上から前方或いは後方にずらした斜め上方向から見た視点変換画像としての周辺画像を含む別視点監視用画像を生成し、表示装置50に表示させてよい。これにより、周辺監視システム100は、オペレータに対して、監視用画像における検知された人(作業者W1)の把握を促すことができる。具体的には、周辺監視システム100は、仮想視点の水平面に対する角度方向をショベルから見て相対的に人が存在する側(本例の場合、後方)にずらすことにより、上述の如く、ショベルの後方の作業者とショベルとの位置関係(距離感)をオペレータに把握させ易くなる。また、周辺監視システム100は、仮想視点の水平面に対する角度方向をショベルから見て相対的に人が存在する側(本例の場合、後方)にずらすことにより、作業者を含むショベルの後方の領域の視野が広がり、オペレータに検知された人の状況を把握させ易くなる。
【0110】
また、同様に、表示制御部302は、人検知部301によりショベルから見て相対的に右方向或いは左方向にいる人が検知された場合、仮想視点の水平面に対する角度方向を真上から右方向或いは左方向にずらした斜め上方向から見た視点変換画像としての周辺画像を含む別視点監視用画像を生成し、表示装置50に表示させてよい。これにより、周辺監視システム100は、ショベルから見て相対的に後方にいる人が検知された場合と同様、オペレータに対して、監視用画像における検知された人(作業者W1)の把握を促すことができる。
【0111】
尚、撮像装置40は、ショベル(上部旋回体3)の前方を撮像するカメラ(前方カメラ)を含んでもよく、併せて、人検知部301は、ショベルの前方を含む所定領域内の人を検知してよい。この場合、表示制御部302は、ショベルの周囲の水平方向360°の範囲を真上から見た俯瞰画像と水平画像とを組み合わせた周辺画像を含む通常監視用画像を生成してよい。そして、表示制御部302は、人検知部301によりショベルから見て相対的に前方にいる人が検知された場合、後方にいる人が検知された場合と同様、仮想視点の水平面に対する角度方向を真上から前方或いは後方にずらした斜め上方向から見た視点変換画像としての周辺画像を含む別視点監視用画像を生成し、表示装置50に表示させてよい。これにより、周辺監視システム100は、ショベルから見て相対的に後方にいる人が検知された場合と同様、オペレータに対して、監視用画像における検知された人(作業者W1)の把握を促すことができる。以下、部分別視点監視用画像の場合についても同様である。
【0112】
続いて、
図9は、表示装置50に表示される部分別視点監視用画像の一例を示す図である。以下、
図9は、
図4Aの通常監視用画像から切り替えられた
部分別視点監視用画像である前提で説明を進める。
【0113】
図4Aに示すように、通常監視用画像内の周辺画像のショベル(上部旋回体3)の後方に作業者W1が写っている状況において、人検知部301は、当該作業者W1を検知すると、表示制御部302に人が検知された旨を通知する。これにより、表示制御部302は、上述の如く、監視用画像の表示態様を変化させる。
【0114】
具体的には、
図9に示すように、表示制御部302は、撮像装置40の撮像画像に基づき、ショベルの後方斜め上の仮想視点から視点変換画像であって、通常監視用画像の検知された人のいる部分を含む一部領域に対応する視点変換画像としての周辺画像を生成する。そして、表示制御部302は、当該周辺画像と同様のショベル後方斜め上の仮想視点から見たショベル画像CGの一部と、ショベルと撮像装置40の撮像範囲との相対位置関係を合わせてショベル画像CG(の一部)の周囲に配置される周辺画像EPを含む部分別視点監視用画像を表示装置50に表示させる。これにより、別視点監視用画像の場合と同様、オペレータがショベルの後方斜め上から作業者とショベルを見た状態を仮想的に実
現できるため、オペレータは、ショベルの後方の検知された人(作業者W1)とショベルとの位置関係(距離感)を把握し易くなる。また、本例では、通常監視用画像内の検知された人が含まれる一部領域だけが部分別視点監視用画像として表示装置50に表示されるため、オペレータは、検知された人の状況を更に把握し易くなる。
【0115】
また、表示制御部302は、通常監視用画像の検知された人を含む一部領域をショベルの前方斜め上の仮想視点から見た視点変換画像としての周辺画像を含む部分別視点監視用画像を生成し、表示装置50に表示させてもよい。これにより、別視点監視用画像の場合と同様、オペレータがショベルの前方斜め上から検知された人(作業者W1)とショベルを見た状態を仮想的に実現できるため、検知された人を含むショベルの後方の領域の視野が広がり、オペレータは、作業者の状況を把握し易くなる。
【0116】
つまり、表示制御部302は、人検知部301によりショベルから見て相対的に後方にいる人が検知された場合、仮想視点の水平面に対する角度方向を真上から前方或いは後方にずらした斜め上方向から見た視点変換画像であって、通常監視用画像の検知された人のいる部分を含む一部領域に対応する視点変換画像としての周辺画像を含む部分別視点監視用画像を生成し、表示装置50に表示させてよい。これにより、周辺監視システム100は、オペレータに対して、監視用画像における検知された人(作業者W1)の把握を更に促すことができる。
【0117】
また、同様に、表示制御部302は、人検知部301によりショベルから見て相対的に右方向或いは左方向にいる人が検知された場合、仮想視点の水平面に対する角度方向を真上から右方向或いは左方向にずらした斜め上方向から見た視点変換画像であって、通常監視用画像の検知された人のいる部分を含む一部領域に対応する視点変換画像としての周辺画像を含む部分別視点監視用画像を生成し、表示装置50に表示させてよい。これにより、周辺監視システム100は、ショベルから見て相対的に後方にいる人が検知された場合と同様、オペレータに対して、監視用画像における検知された人(作業者W1)の把握を更に促すことができる。
【0118】
尚、
図9に示す部分別視点監視用画像は、
図8の別視点監視用画像の一部領域A2に対応する。そのため、表示制御部302は、撮像装置40の撮像画像に基づき、別視点監視用画像を生成した後、生成した別視点変換画像の一部領域A2を切り出して拡大することにより部分別視点監視用画像を生成してもよい。
【0119】
[監視用画像の表示処理の詳細]
次に、
図10を参照して、本実施形態に係る周辺監視システム100(表示制御部302)による監視用画像を表示装置50に表示させる処理(表示処理)の処理フローについて説明をする。以下、拡大監視用画像、別視点監視用画像、及び、部分別視点監視用画像を総括的に「人検知時監視用画像」と称する場合がある。
【0120】
図10は、本実施形態に係る周辺監視システム100(表示制御部302)による表示処理の一例を概略的に示すフローチャートである。本フローチャートによる処理は、例えば、オペレータによる所定の開始操作や所定の開始条件に応じて、表示装置50への通常監視用画像、或いは、人検知時監視用画像の表示が開始されると、併せて開始され、所定時間間隔で繰り返し実行される。また、本フローチャートによる処理は、例えば、オペレータによる所定の終了操作や所定の終了条件に応じて、表示装置50への監視用画像(通常監視用画像或いは人検知時監視用画像)の表示が終了されると、併せて、終了される。
【0121】
ステップS101にて、表示制御部302は、人検知時に監視用画像の表示態様が変更される機能がONされているか否かを判定する。表示制御部302は、当該機能がONされている場合、ステップS102に進み、それ以外の場合、今回の処理を終了する。
【0122】
ステップS102にて、表示制御部302は、人検知部301がショベルの周辺の所定領域内で人を検知したか否かを判定する。表示制御部302は、人検知部301が人を検知していない場合、ステップS104に進み、人を検知している場合、ステップS106に進む。
【0123】
ステップS104にて、表示制御部302は、表示装置50に通常監視用画像を表示させる。
【0124】
一方、ステップS106にて、表示制御部302は、表示装置50に人検知時監視用画像を表示させる。
【0125】
尚、表示制御部302は、本ステップにおける処理により、拡大監視用画像、別視点監視用画像、及び、部分別視点監視用画像のうちの二以上の人検知時監視用画像からオペレータ等による前もっての選択操作に応じて選択される一の人検知時監視用画像を表示可能であってよい。また、表示制御部302は、本ステップの処理により、拡大監視用画像、別視点監視用画像、及び、部分別視点監視用画像のうちの何れか一つの人検知時監視用画像だけを表示装置50に表示可能な態様であってもよい。
【0126】
ステップS108にて、表示制御部302は、表示装置50における前回の画像切替(通常監視用画像から人検知時監視用画像への画像切替、或いは、人検知時監視用画像から通常監視用画像への画像切替)から所定時間以上経過したかを判定する。表示制御部302は、表示装置50における前回の画像切替から所定時間以上経過していない場合、本ステップの処理を繰り返し、前回の画面切替から所定時間以上経過している場合(或いは、本フローチャートによる処理の開始後、画面切替が行われていない場合)、ステップS102に戻り、本フローチャートによる処理を繰り返す。これにより、例えば、人がショベルの周辺の所定領域(ショベルから所定距離D1以内の領域)の境界部分に位置する場合等において、通常監視用画像と拡大監視用画像等との間で画面の内容が頻繁に切り替わるハンチングの発生を防止することができる。
【0127】
[作用]
このように、本実施形態では、表示制御部302は、人検知部301により所定領域内で人が検知された場合、通常監視用画像における周辺画像の一部領域であって、ショベル画像よりも周辺画像に含まれる人に近い位置を中心とする、人が含まれる一部領域を拡大した拡大監視用画像を表示装置50に表示させる。これにより、人検知部301によりショベルの周辺に人が検知された場合に、検知された人が含まれる部分が中央寄りに配置された拡大監視用画像が表示装置50に表示される。そのため、オペレータは、表示装置50の画面の中央寄りに表示される検知された人を容易に確認できると共に、検知された人の行動内容等の状態を容易に把握することができる。よって、周辺監視システム100は、オペレータによるショベルの操作時における安全性を更に高めることができる。
【0128】
また、本実施形態では、表示制御部302は、人検知部301により所定領域内で人が検知された場合、仮想視点の水平面に対する角度方向を真上からショベルに対して検知された人に近づく方向或いは離れる方向にずらした斜め上方向から見た視点変換画像としての周辺画像を含む別視点監視用画像を生成し、表示装置50に表示させる。これにより、周辺監視システム100は、上述の如く、オペレータに対して、監視用画像による検知された人の把握を促すことができる。よって、周辺監視システム100は、オペレータによるショベルの操作時における安全性を更に高めることができる。
【0129】
また、本実施形態では、表示制御部302は、人検知部301により所定領域内で人が検知された場合、仮想視点の水平面に対する角度方向を真上からショベルに対して検知された人に近づく方向或いは離れる方向にずらした斜め上方向から見た視点変換画像であって、通常監視用画像内の検知された人のいる部分を含む一部領域に対応する視点変換画像としての周辺画像を含む部分別視点監視用画像を生成し、表示装置50に表示させる。これにより、周辺監視システム100は、上述の如く、オペレータに対して、監視用画像による検知された人の把握を更に促すことができる。よって、周辺監視システム100は、オペレータによるショベルの操作時における安全性を更に高めることができる。
【0130】
尚、上述した、検知された人とショベルとの距離Dに応じて、監視用画像の表示態様の変更の仕様を変化させる他の態様として、表示制御部302は、拡大監視用画像として拡大表示させる、通常監視用画像の人を含む一部領域の中心を変化させてもよい。例えば、表示制御部302は、人とショベルとの距離Dが比較的小さい(例えば、距離Dが所定距離D2以下である)場合、通常監視用画像における周辺画像の一部領域であって、ショベル画像よりも周辺画像に含まれる人に近い位置を中心とする、人が含まれる一部領域を拡大した拡大監視用画像を表示装置50に表示させる。一方、表示制御部302は、人とショベルとの距離Dが比較的大きい(例えば、距離Dが所定距離D2以下でない)場合、通常監視用画像におけるショベル画像を中心とする、人が含まれる一部領域を拡大した拡大監視用画像を表示装置50に表示させる。これにより、検知された人がショベルと比較的接近している状況では、オペレータは、検知された人の状態をより把握し易くなり、検知された人の安全性を確実に確保することができる。一方、検知された人がショベルから比較的離れた状況では、オペレータは、ショベル周辺全体の状態を把握しつつ、検知された人の状態を把握することが可能となり、今後の安全行動をとりやすくなる。
【0131】
また、本実施形態では、ショベル画像も周辺画像の一部領域に合わせて拡大した拡大監視用画像が生成されるが、周辺画像の一部領域だけを拡大し、ショベル画像を拡大しない拡大監視用画像が生成されてもよい。
【0132】
また、本実施形態では、ショベル画像の少なくとも一部を含む拡大監視画像が生成されるが、例えば、ショベル画像を含まない拡大監視用画像が生成されてもよい。
【0133】
以上、本発明を実施するための形態について詳述したが、本発明はかかる特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
【0134】
例えば、上述した実施形態では、監視用画像内における検知された人の位置が、他の位置よりも重視(強調)される表示態様として、拡大監視用画像、別視点監視画像、及び、部分別視点監視用画像が例示されるが、これらには限定されない。例えば、表示制御部302は、人検知部301によりショベルの周辺の所定領域内で人が検知された場合、通常監視用画像における検知された人が含まれない領域に、後方カメラ40B、左側方カメラ40L、及び、右側方カメラ40Rのそれぞれの撮像画像のうちの検知された人が映っている撮像画像(スルー画像)をそのまま重畳して配置する監視用画像を生成し、表示装置50に表示させてもよい。これにより、通常監視用画像における人が含まれる領域が強調されるため、オペレータは、検知された人の状況を把握し易くなると共に、検知された人が映るスルー画像を合わせて視認することができるため、オペレータは、検知された人の状況を更に把握し易くなる。
【0135】
また、例えば、上述した実施形態では、コントローラ30(周辺監視システム100)は、監視対象として人を検知するが、人を含む或いは人以外の物体(例えば、ショベルの周辺の他の作業機械、車両、仮置きされている工材等)を検知してもよい。この場合、コントローラ30(表示制御部302)は、監視対象の物体の検知の有無に応じて、上述と同様に、監視用画像の表示態様を変化させる。
【0136】
尚、本願は、2016年11月1日に出願した日本国特許出願2016-214714号に基づく優先権を主張するものであり、その日本国特許出願の全内容を本願に参照により援用する。
【符号の説明】
【0137】
30 コントローラ
301 人検知部
302 表示制御部
40 撮像装置
40B 後方カメラ
40L 左側方カメラ
40R 右側方カメラ
50 表示装置
100 周辺監視システム(作業機械用周辺監視システム)