(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-12-20
(45)【発行日】2023-12-28
(54)【発明の名称】ショベル
(51)【国際特許分類】
E02F 9/26 20060101AFI20231221BHJP
H04N 7/18 20060101ALI20231221BHJP
【FI】
E02F9/26 B
H04N7/18 J
(21)【出願番号】P 2021516223
(86)(22)【出願日】2020-04-23
(86)【国際出願番号】 JP2020017575
(87)【国際公開番号】W WO2020218455
(87)【国際公開日】2020-10-29
【審査請求日】2023-02-15
(31)【優先権主張番号】P 2019086883
(32)【優先日】2019-04-26
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】502246528
【氏名又は名称】住友建機株式会社
(74)【代理人】
【識別番号】100107766
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】辻 敬一
(72)【発明者】
【氏名】守本 崇昭
(72)【発明者】
【氏名】中山 篤史
【審査官】松本 泰典
(56)【参考文献】
【文献】特開2017-203352(JP,A)
【文献】特開2010-59653(JP,A)
【文献】特開2019-60228(JP,A)
【文献】国際公開第2018/008542(WO,A1)
【文献】国際公開第2018/047954(WO,A1)
【文献】米国特許出願公開第2018/0352162(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
E02F 9/26
H04N 7/18
(57)【特許請求の範囲】
【請求項1】
一対のクローラを含む下部走行体と、
前記下部走行体に旋回自在に搭載される上部旋回体と、
前記上部旋回体に搭載され、ショベルの周囲を撮像する撮像装置と、
前記上部旋回体に搭載され、ショベルの周囲の状況に関する情報を取得可能な取得装置と、
前記取得装置の出力に基づき、ショベルの周囲の所定の物体を検出する検出部と、
前記撮像装置の撮像画像に基づき、ショベルの周囲の状況を表す周囲画像を表示する表示装置と、を備え、
前記検出部の検出範囲には、前記表示装置に表示される前記周囲画像に映っているショベルの周囲の相対的に近い範囲全体が含まれ
、
前記上部旋回体が旋回し、その向きが前記クローラの直進方向と揃っている基準状態から外れている場合に、前記クローラの直進方向に面する空間は、前記検出部により前記所定の物体を検出可能な範囲、及び、前記周囲画像として前記表示装置に表示可能な範囲の少なくとも一方に含まれる、
ショベル。
【請求項2】
前記検出部は、前記表示装置に表示される前記周囲画像に前記所定の物体の一部だけが映っている場合であっても、当該所定の物体を検出可能に構成される、
請求項1に記載のショベル。
【請求項3】
前記表示装置は、前記周囲画像に一部だけが映っている前記所定の物体が前記検出部により検出されている場合、当該所定の物体が検出されていることを示す画像を表示する、
請求項2に記載のショベル。
【請求項4】
前記周囲画像は、前記撮像画像であり、
前記検出部は、前記表示装置に表示される前記撮像画像の左右方向の端部に前記所定の物体の一部だけが映っている場合であっても、当該所定の物体を検出可能に構成される、
請求項2
又は3に記載のショベル。
【請求項5】
前記周囲画像は、前記撮像画像に基づき生成される、ショベルの周囲の俯瞰画像を含み、
前記検出部は、前記俯瞰画像のショベルを中心とする周方向の端部に前記所定の物体の一部だけが映っている場合であっても、当該所定の物体を検出可能に構成される、
請求項2
又は3に記載のショベル。
【請求項6】
前記撮像装置には、3つのカメラが少なくとも含まれ、
前記取得装置には、4つのセンサが少なくとも含まれる、
請求項
1乃至5の何れか一項に記載のショベル。
【請求項7】
前記3つのカメラは、それぞれ、前記上部旋回体の左前方から左後方に亘る左側方の範囲、前記上部旋回体の左後方から右後方に亘る後方の範囲、及び前記上部旋回体の右後方から右前方に亘る右側方の範囲のそれぞれを撮像し、
前記4つのセンサは、それぞれ、前記上部旋回体の左前方から左後方に亘る左側方の範囲、前記上部旋回体の左後方から後方に亘る左後方の範囲、前記上部旋回体の後方から右後方に亘る右後方の範囲、及び前記上部旋回体の右後方から右側方に亘る右側方の範囲のそれぞれの状況に関する情報を取得する、
請求項
6に記載のショベル。
【請求項8】
前記4つのセンサのうち、前記上部旋回体の左側方の範囲及び右側方の範囲を担当する2つのセンサは、それぞれ、前記下部走行体の直進方向を基準とする前記上部旋回体の旋回角度が90度である場合に、前記上部旋回体から見た前側の前記クローラに直進方向で面している空間の前記情報を取得可能に構成される、
請求項
7に記載のショベル。
【請求項9】
前記4つのセンサは、それぞれ、LIDARである、
請求項7
又は8に記載のショベル。
【請求項10】
前記検出部により前記所定の物体が検出される場合に、ショベルの動作を制限する動作制限部を備える、
請求項1
乃至9の何れか一項に記載のショベル。
【請求項11】
前記クローラの直進方向を基準とする前記上部旋回体の旋回角度が90度である場合に、前記上部旋回体から見た前側の前記クローラに直進方向で面する空間は、前記検出部により前記所定の物体を検出可能な範囲、及び、前記周囲画像として前記表示装置に表示可能な範囲の少なくとも一方に含まれる、
請求項
1乃至10の何れか一項に記載のショベル。
【請求項12】
前記上部旋回体が前記クローラの直進方向を基準として相対的に大きく旋回している場合に、前記クローラの直進方向に面する空間は、前記検出部により前記所定の物体を検出可能な範囲、及び、前記周囲画像として前記表示装置に表示可能な範囲の双方に含まれる、
請求項
1乃至11の何れか一項に記載のショベル。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、ショベルに関する。
【背景技術】
【0002】
ショベルの周囲の画像をキャビン内の表示装置に表示したり、ショベルの周囲の監視対象の物体を検出したりする技術が知られている(特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、例えば、表示装置に表示可能なショベルの周囲の範囲や、ショベルの周囲の物体検出可能な範囲は、ショベルの安全性やユーザの感性等を考慮して、より適切であることが望ましい。
【0005】
そこで、上記課題に鑑み、表示装置に表示可能なショベルの周囲の範囲や物体を検出可能なショベルの周囲の範囲をより適切に実現可能な技術を提供することを目的とする。
【課題を解決するための手段】
【0006】
上記目的を達成するため、本開示の一実施形態では、
一対のクローラを含む下部走行体と、
前記下部走行体に旋回自在に搭載される上部旋回体と、
前記上部旋回体に搭載され、ショベルの周囲を撮像する撮像装置と、
前記上部旋回体に搭載され、ショベルの周囲の状況に関する情報を取得可能な取得装置と、
前記取得装置の出力に基づき、ショベルの周囲の所定の物体を検出する検出部と、
前記撮像装置の撮像画像に基づき、ショベルの周囲の状況を表す周囲画像を表示する表示装置と、を備え、
前記検出部の検出範囲には、前記表示装置に表示される前記周囲画像に映っているショベルの周囲の相対的に近い範囲全体が含まれ、
前記上部旋回体が旋回し、その向きが前記クローラの直進方向と揃っている基準状態から外れている場合に、前記クローラの直進方向に面する空間は、前記検出部により前記所定の物体を検出可能な範囲、及び、前記周囲画像として前記表示装置に表示可能な範囲の少なくとも一方に含まれる、
ショベルが提供される。
【発明の効果】
【0008】
上述の実施形態によれば、表示装置に表示可能なショベルの周囲の範囲や物体を検出可能なショベルの周囲の範囲をより適切に実現可能な技術を提供することができる。
【図面の簡単な説明】
【0009】
【
図1】ショベル管理システムの一例を示す図である。
【
図3】周辺監視装置の構成の一例を示すブロック図である。
【
図4】ホーンを吹鳴させるための回路構成の一例を示す図である。
【
図5】走行アラームを吹鳴させるための回路構成の一例を示す図である。
【
図6】表示装置に表示される監視画像の一例(スルー画像)を示す図である。
【
図7】表示装置に表示される監視画像の他の例(俯瞰画像)を示す図である。
【
図8】撮像装置の撮像画像に基づく表示可能エリア及び検出可能エリアの一例を示す図である。
【
図9】検出部の検出可能エリアの第1例を示す図である。
【
図10】検出部による監視対象の検出時に表示装置に表示される監視画像の具体例を示す図である。
【
図11】検出部の検出可能エリアの第2例を示す図である。
【
図12】作業現場の作業者の第1例を示す図である。
【
図13】作業現場の作業者の第2例を示す図である。
【
図14】作業現場の作業者の第3例を示す図である。
【
図15】作業現場の作業者の第4例を示す図である。
【
図16】オプション装備の装着時における動作制限範囲を示す図である。
【
図17】ショベルの周囲の監視対象との接触の有無の判断方法を説明する図である。
【
図18】動作制限機能の作動制御方法を説明する図である。
【
図19】動作制限機能の作動制御方法を説明する図である。
【
図20】検出部による監視対象の検出時における監視画像の具体例を示す図である。
【
図21】検出部による監視対象の検出時における監視画像の具体例を示す図である。
【
図22】検出部による監視対象の検出時における監視画像の具体例を示す図である。
【
図23】作業現場安全管理システムの構成の一例を示す図である。
【発明を実施するための形態】
【0010】
以下、図面を参照して実施形態について説明する。
【0011】
[ショベル管理システムの概要]
まず、
図1、
図2を参照して、本実施形態に係るショベル管理システム1000の概要について説明をする。
【0012】
図1は、本実施形態に係るショベル管理システム1000の一例を示す図である。
図1において、ショベル100は、側面図が示される。また、
図2は、ショベル100の上面図である。
【0013】
ショベル管理システム1000は、ショベル100と、管理装置200と、端末装置300とを含む。
【0014】
ショベル管理システム1000は、例えば、管理装置200や端末装置300を用いて、ショベル100の稼働状況や運用状況等の監視(管理)を行う。
【0015】
ショベル管理システム1000に含まれるショベル100は、一台であってもよいし、複数台であってもよい。また、ショベル管理システム1000に含まれる管理装置200は、一つであってもよいし、複数であってもよい。また、ショベル管理システム1000に含まれる端末装置300は、一つであってもよいし、複数であってもよい。
【0016】
<ショベルの概要>
ショベル100は、下部走行体1と、旋回機構2を介して旋回可能に下部走行体1に搭載される上部旋回体3と、アタッチメントとしてのブーム4、アーム5、及び、バケット6と、キャビン10とを備える。
【0017】
ショベル100は、キャビン10に搭乗するオペレータの操作に応じて、下部走行体1(左右のクローラ一対のクローラ1C)、上部旋回体3、ブーム4、アーム5、及びバケット6等の被駆動要素を動作させる。
【0018】
また、ショベル100は、キャビン10に搭乗するオペレータによって操作可能に構成されるのに代えて、或いは、加えて、ショベル100の外部から遠隔操作(リモート操作)が可能に構成されてもよい。ショベル100が遠隔操作される場合、キャビン10の内部は、無人状態であってもよい。以下、オペレータの操作には、キャビン10のオペレータの操作装置26に対する操作、及び外部のオペレータの遠隔操作の少なくとも一方が含まれる前提で説明を進める。
【0019】
遠隔操作には、例えば、所定の外部装置で行われるショベル100のアクチュエータに関する操作入力によって、ショベル100が操作される態様が含まれる。所定の外部装置は、例えば、管理装置200や端末装置300であってよい。この場合、ショベル100は、例えば、後述の通信装置70を通じて、例えば、遠隔操作用の上部旋回体3の前方を撮像する前方カメラや後述の撮像装置40が出力する画像情報(撮像画像)を外部装置に送信してよい。そして、外部装置は、自装置に設けられる表示装置(以下、「遠隔操作用表示装置」)に受信される画像情報(撮像画像)を表示させてよい。また、ショベル100のキャビン10の内部の表示装置50に表示される各種の情報画像(情報画面)は、同様に、外部装置の遠隔操作用表示装置にも表示されてよい。これにより、外部装置のオペレータは、例えば、遠隔操作用表示装置に表示されるショベル100の周囲の様子を表す撮像画像や情報画面等の表示内容を確認しながら、ショベル100を遠隔操作することができる。そして、ショベル100は、通信装置70により外部装置から受信される、遠隔操作の内容を表す遠隔操作信号に応じて、アクチュエータを動作させ、下部走行体1(左右のクローラ1C)、上部旋回体3、ブーム4、アーム5、及びバケット6等の被駆動要素を駆動してよい。
【0020】
また、遠隔操作には、例えば、ショベル100の周囲の人(例えば、作業者)のショベル100に対する外部からの音声入力やジェスチャ入力等によって、ショベル100が操作される態様が含まれてよい。具体的には、ショベル100は、ショベル100(自機)に搭載される音声入力装置(例えば、マイクロフォン)やジェスチャ入力装置(例えば、撮像装置)等を通じて、周囲の作業者等により発話される音声や作業者等により行われるジェスチャ等を認識する。そして、ショベル100は、認識した音声やジェスチャ等の内容に応じて、アクチュエータを動作させ、下部走行体1(左右のクローラ1C)、上部旋回体3、ブーム4、アーム5、及びバケット6等の被駆動要素を駆動してもよい。
【0021】
また、ショベル100は、オペレータの操作の内容に依らず、自動でアクチュエータを動作させてもよい。これにより、ショベル100は、下部走行体1(左右のクローラ1C)、上部旋回体3、ブーム4、アーム5、及びバケット6等の被駆動要素の少なくとも一部を自動で動作させる機能(いわゆる「自動運転機能」或いは「マシンコントロール機能」)を実現する。
【0022】
自動運転機能には、オペレータの操作装置26に対する操作や遠隔操作に応じて、操作対象の被駆動要素(アクチュエータ)以外の被駆動要素(アクチュエータ)を自動で動作させる機能(いわゆる「半自動運機能」)が含まれてよい。また、自動運転機能には、オペレータの操作装置26に対する操作や遠隔操作がない前提で、複数の被駆動要素(アクチュエータ)の少なくとも一部を自動で動作させる機能(いわゆる「完全自動運転機能」)が含まれてよい。ショベル100において、完全自動運転機能が有効な場合、キャビン10の内部は無人状態であってよい。また、半自動運転機能や完全自動運転機能等には、自動運転の対象の被駆動要素(アクチュエータ)の動作内容が予め規定されるルールに従って自動的に決定される態様が含まれてよい。また、半自動運転機能や完全自動運転機能等には、ショベル100が自律的に各種の判断を行い、その判断結果に沿って、自律的に自動運転の対象の被駆動要素(アクチュエータ)の動作内容が決定される態様(いわゆる「自律運転機能」)が含まれてもよい。
【0023】
下部走行体1は、例えば、左右一対のクローラ1C(左側のクローラ1CL及び右側のクローラ1CR)を含み、クローラ1CL,1CRがそれぞれに対応する走行油圧モータ1Mで油圧駆動されることにより、自走する。
【0024】
上部旋回体3は、旋回油圧モータ2Aで旋回機構2が油圧駆動されることにより、下部走行体1に対して旋回する。
【0025】
上部旋回体3には、その上面に、撮像装置40及び周囲情報取得装置45が搭載される。
【0026】
また、上部旋回体3には、ショベル100の動力源が搭載される。ショベル100の動力源には、例えば、所定の燃料(例えば、軽油)で稼働するエンジン11(例えば、ディーゼルエンジン等)が含まれる。また、ショベル100の動力源には、エンジン11に代えて、或いは、加えて、蓄電装置(例えば、キャパシタやリチウムイオンバッテリ等)或いはケーブルで接続される外部の電源から供給される電力で稼働する電動機等が含まれてもよい。
【0027】
また、上部旋回体3には、メインポンプ14、パイロットポンプ15、及びコントロールバルブ17等の各種の油圧機器が搭載される。
【0028】
メインポンプ14は、エンジン11や電動機等の動力源で駆動され、コントローラ30の制御下で、各種の油圧アクチュエータに作動油を供給する。油圧アクチュエータには、上述の走行油圧モータ1M、及び旋回油圧モータ2Aの他、後述のブームシリンダ7、アームシリンダ8、及びバケットシリンダ9等が含まれる。
【0029】
パイロットポンプ15は、エンジン11や電動機等の動力源で駆動され、油圧パイロット式の各種油圧機器(例えば、操作装置26やコントロールバルブ17等)に作動油を供給する。
【0030】
コントロールバルブ17は、被駆動要素(即ち、対応する油圧アクチュエータ)の操作状態に応じて、メインポンプ14から吐出される作動油をそれぞれの油圧アクチュエータに選択的に供給し、油圧アクチュエータに供給される作動油の流量及び流れの方向を調整する。例えば、コントロールバルブ17は、それぞれの油圧アクチュエータに供給される作動油の方向及び流量を制御する複数の制御弁(方向切換弁)等により構成されてよい。コントロールバルブ17は、例えば、油圧駆動式(油圧パイロット式)であり、それぞれの油圧アクチュエータの操作内容や自動運転機能に対応する操作指令に応じたパイロット圧が入力される。これにより、入力されるパイロット圧に応じて、それぞれの油圧アクチュエータに対応する制御弁(方向切換弁)が駆動される。また、コントロールバルブ17は、例えば、電磁ソレノイド式等の電気駆動式であってもよく、操作装置26の操作内容や自動運転機能に対応する操作指令に応じた電気信号が入力される。これにより、入力される電気信号に応じて、それぞれの油圧アクチュエータに対応する制御弁(方向切換弁)が駆動される。
【0031】
ブーム4は、上部旋回体3の前部中央に俯仰可能に取り付けられ(枢着され)、ブーム4の先端には、アーム5が上下回動可能に取り付けられ(枢着され)、アーム5の先端には、バケット6が上下回動可能に取り付けられる(枢着される)。
【0032】
バケット6は、エンドアタッチメントの一例であり、ショベル100の作業内容に応じて、適宜交換可能な態様で、アーム5の先端に取り付けられている。つまり、アーム5の先端には、バケット6に代えて、バケット6とは異なる種類のバケット、例えば、相対的に大きい大型バケット、法面用バケット、浚渫用バケット等が取り付けられてもよい。また、アーム5の先端には、バケット以外の種類のエンドアタッチメント、例えば、攪拌機、ブレーカ、クラッシャー等が取り付けられてもよい。また、アーム5と、エンドアタッチメントとの間には、例えば、クイックカップリングやチルトローテータ等の予備アタッチメントが介装されてもよい。
【0033】
ブーム4、アーム5、及び、バケット6は、それぞれ、ブームシリンダ7、アームシリンダ8、及び、バケットシリンダ9により油圧駆動される。
【0034】
キャビン10は、オペレータが搭乗し、ショベル100を操作するための操縦室であり、例えば、上部旋回体3の前部左側に搭載される。
【0035】
キャビン10の内部には、例えば、操作装置26、コントローラ30、表示装置50、入力装置52、音出力装置54等が設けられる。また、キャビン10の上面には、例えば、通信装置70が設けられる。
【0036】
操作装置26は、下部走行体1、上部旋回体3、アタッチメント(ブーム4、アーム5、及びバケット6)等のアクチュエータ(具体的には、油圧アクチュエータ)で駆動される被駆動要素を操作するために用いられる。換言すれば、操作装置26は、被駆動要素を駆動するそれぞれの油圧アクチュエータ(クローラ1CL,1CRのそれぞれに対応する走行油圧モータ1M、旋回油圧モータ2A、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9等)を操作するために用いられる。操作装置26は、例えば、それぞれの被駆動要素、即ち、それぞれの油圧アクチュエータに対応するレバー装置やペダル装置等を含む。
【0037】
操作装置26は、例えば、油圧パイロット式である。この場合、操作装置26は、パイロットポンプ15から供給される作動油を用いて、それぞれの被駆動要素(即ち、対応するそれぞれの油圧アクチュエータ)に関する操作内容(例えば、操作方向及び操作量等)に応じたパイロット圧をコントロールバルブ17に出力する。これにより、コントロールバルブ17は、操作装置26の操作内容に応じた、それぞれの被駆動要素(即ち、対応するそれぞれの油圧アクチュエータ)の動作を実現することができる。
【0038】
また、操作装置26は、例えば、電気式であってもよい。この場合、操作装置26は、それぞれの被駆動要素(即ち、対応するそれぞれの油圧アクチュエータ)の操作内容に対応する電気信号(以下、「操作信号」)をコントローラ30に出力する。そして、コントローラ30は、パイロットポンプ15とコントロールバルブ17との間の油路(パイロットライン)に設けられる、操作用の油圧制御弁(例えば、後述の油圧制御弁56)に操作信号に対応する制御指令を出力する。これにより、操作用の油圧制御弁は、パイロットポンプ15から供給される作動油を用いて、操作信号に応じたパイロット圧、つまり、操作装置26におけるそれぞれの被駆動要素(即ち、それぞれの油圧アクチュエータ)に関する操作内容に応じたパイロット圧をコントロールバルブ17に作用させることができる。よって、コントロールバルブ17は、操作装置26の操作内容に応じた、それぞれの被駆動要素(即ち、対応するそれぞれの油圧アクチュエータ)の動作を実現することができる。
【0039】
また、ショベル100の被駆動要素、即ち、対応するアクチュエータ(油圧アクチュエータ)は、上述の如く、遠隔操作されてもよい。例えば、所定の外部装置から遠隔操作の内容を表す信号(遠隔操作信号)がショベル100に送信されると共に、コントローラ30は、通信装置70を通じて、遠隔操作信号を受信する。そして、コントローラ30は、操作用の油圧制御弁に対して、遠隔操作信号で規定される遠隔操作の内容(例えば、操作対象の被駆動要素或いは油圧アクチュエータ、操作方向、及び操作量等)に応じた制御指令を出力する。これにより、操作用の油圧制御弁は、パイロットポンプ15から供給される作動油を用いて、遠隔操作の内容に応じたパイロット圧を油圧駆動式のコントロールバルブ17に作用させることができる。よって、コントロールバルブ17は、遠隔操作の内容に応じた、それぞれの被駆動要素(即ち、対応するそれぞれの油圧アクチュエータ)の動作を実現することができる。
【0040】
尚、ショベル100は、各種の油圧アクチュエータの一部又は全部が電動アクチュエータに置換されてもよい。つまり、ショベル100は、ハイブリッドショベルや電動ショベルであってもよい。この場合、コントローラ30は、操作装置26の操作内容、遠隔操作信号で規定される遠隔操作の内容、自動運転機能に対応する操作指令の内容等に応じた制御指令を電動アクチュエータ或いは電動アクチュエータを駆動するドライバ等に出力してよい。
【0041】
また、キャビン10のゲートロックレバーが立てられた状態(以下、「ロック状態」)にある場合、操作装置26に対する操作、遠隔操作、自動運転機能に対応する操作指令が無効にされ、ショベル100が動作しない。一方、ゲートロックレバーが下ろされた状態(以下、「解除状態」)にある場合、操作装置26に対する操作、遠隔操作、自動運転機能に対応する操作指令が有効になり、ショベル100が動作する。これにより、例えば、ゲートロックレバーが立てられた状態で、オペレータが操縦席に乗り込んだり、操縦席からキャビン10の外に降りたりする場合に、操作装置26にオペレータの体が触れて、ショベル100が動作してしまう事態を回避することができる。また、例えば、ゲートロックレバーを下ろされた状態にすることで、オペレータは、ショベル100の操作を開始することができる。
【0042】
例えば、ゲートロックレバーの操作状態と、パイロットポンプ15から各種油圧機器(例えば、油圧パイロット式の操作装置26や操作用の油圧制御弁)にパイロット圧を供給するパイロットラインの最上流のゲートロック弁の開閉状態とが連動する。具体的には、ゲートロックレバーが解除状態の場合、ゲートロック弁が開弁状態(連通状態)に維持され、パイロットポンプ15から操作装置26や操作用の油圧制御弁にパイロット圧が供給される。そのため、操作装置26や操作用の油圧制御弁は、オペレータの操作に応じたパイロット圧をコントロールバルブ17に供給し、油圧アクチュエータを作動させることができる。一方、ゲートロックレバーがロック状態の場合、ゲートロック弁が閉弁状態(遮断状態)に維持され、パイロットポンプ15から操作装置26や操作用の油圧制御弁へのパイロット圧の供給が遮断される。そのため、操作装置26や操作用の油圧制御弁は、オペレータの操作に応じたパイロット圧をコントロールバルブ17に供給することができず、オペレータの操作や自動運転機能に対応する操作指令を無効にすることができる。
【0043】
また、上述の如く、油圧アクチュエータの一部又は全部が電動アクチュエータに置換される場合もありうる。この場合、例えば、コントローラ30は、ゲートロックレバーがロック状態の場合、オペレータの操作や自動運転機能の操作指令に対応する制御指令を電動アクチュエータやドライバ等に出力しないようにしてよい。これにより、ゲートロックレバーのロック状態に合わせて、オペレータの操作や自動運転機能に対応する操作指令を無効にすることができる。
【0044】
通信装置70は、通信回線NWを通じて、ショベル100の外部(例えば、管理装置200や端末装置300)と通信を行う。
【0045】
通信回線NWは、例えば、広域ネットワーク(WAN:Wide Area Network)を含む。広域ネットワークには、例えば、基地局を末端とする移動体通信網が含まれてよい。また、広域ネットワークには、例えば、通信衛星を利用する衛星通信網が含まれてよい。また、広域ネットワークには、例えば、インターネット網が含まれてよい。また、通信回線NWは、例えば、管理装置200が設置される施設等の内部のローカルネットワーク(LAN:Local Area Network)を含む。ローカルネットワークは、有線であってもよいし、無線であってもよいし、その両方を含む態様であってもよい。また、通信回線NWは、例えば、WiFiやブルートゥース(登録商標)等の無線による近距離通信回線を含んでもよい。
【0046】
ショベル100は、例えば、通信装置70を用いて、管理装置200と相互に通信を行う。これにより、ショベル100は、管理装置200にショベル100(自機)に関するデータを送信したり、ショベル100(自機)の制御に関するデータを受信したりすることができる。
【0047】
また、ショベル100は、例えば、通信装置70を用いて、端末装置300と相互に通信を行ってもよい。この場合、ショベル100は、管理装置200を介して、間接的に、端末装置300と通信を行ってもよいし、直接的に、端末装置300と通信を行ってもよい。
【0048】
<管理装置の概要>
管理装置200は、ショベル100の外部に設けられ、例えば、ショベル100の稼働状態や運用状態等を管理する。また、管理装置200は、ショベル100の遠隔操作を支援してもよい。
【0049】
管理装置200は、例えば、ショベル100の作業現場の外部の管理センタ等に設置されるクラウドサーバである。また、管理装置200は、例えば、ショベル100の作業現場内の仮設事務所や作業現場の近くの局舎や基地局等に設置されるエッジサーバであってもよい。また、管理装置200は、例えば、ショベル100の作業現場内の仮設事務所等に配置される定置型の端末装置(定置端末)或いは携帯型の端末装置(携帯端末)であってもよい。定置端末には、例えば、デスクトップ型のコンピュータ端末が含まれてよい。また、携帯端末には、例えば、携帯電話、スマートフォン、タブレット端末、ラップトップ型のコンピュータ端末等が含まれてよい。
【0050】
管理装置200は、制御装置210と、通信装置220と、出力装置230と、入力装置240とを含む。
【0051】
制御装置210は、管理装置200に関する制御を行う。制御装置210の機能は、任意のハードウェア、或いは、任意のハードウェア及びソフトウェアの組み合わせ等により実現されてよい。制御装置210は、例えば、CPU(Central Processing Unit)、RAM(Random Access Memory)等のメモリ装置、ROM(Read Only Memory)等の補助記憶装置、及び外部との入出力用のインタフェース装置等を含むコンピュータを中心に構成される。以下、後述の制御装置310についても同様の構成であってよい。
【0052】
通信装置220は、通信回線NWを通じて、管理装置200の外部(例えば、ショベル100や端末装置300)等と通信を行う。
【0053】
出力装置230は、管理装置200の管理者や作業者等のユーザ(以下、「管理装置ユーザ」)に向けて情報を出力する。出力装置230は、例えば、視覚的な情報を出力する表示装置や照明装置等を含んでよい。表示装置は、例えば、画像情報を出力する液晶ディスプレイや有機EL(Electroluminescence)ディスプレイ等を含む。また、表示装置は、上述の遠隔操作用表示装置を含んでもよい。また、出力装置230は、例えば、聴覚的な情報を出力する音出力装置を含んでもよい。音出力装置は、例えば、スピーカやブザー等を含む。
【0054】
入力装置240は、管理装置ユーザからの各種入力を受け付け、その入力内容に対応する信号は、制御装置210に取り込まれる。入力装置240は、例えば、管理装置ユーザからの操作入力を受け付ける操作入力装置を含む。操作入力装置は、例えば、マウス、キーボード、タッチパネル、ボタン、トグル、レバー等を含んでよい。また、入力装置240は、例えば、管理装置ユーザからの音声入力やジェスチャ入力を受け付ける音声入力装置やジェスチャ入力装置を含んでもよい。音声入力装置は、例えば、管理装置ユーザが発話する音声データを取得するマイクロフォンを含む。ジェスチャ入力装置は、例えば、管理装置ユーザのジェスチャの様子を撮像する撮像装置(カメラ)を含む。また、入力装置240は、例えば、遠隔操作用操作装置を含んでもよい。
【0055】
制御装置210は、通信装置220を用いて、ショベル100及び端末装置300のそれぞれと相互に通信を行う。これにより、管理装置200は、例えば、ショベル100から送信(アップロード)される各種データを受信し、ショベル100に関する各種データを収集することができる。また、制御装置210は、例えば、通信装置220を用いて、ショベル100の制御に関するデータをショベル100に送信し、外部からショベル100の制御を行ってもよい。また、制御装置210は、例えば、通信装置220を用いて、端末装置300からの要求に応じる形で、端末装置300に各種データを提供してよい。また、制御装置210は、例えば、通信装置220を用いて、入力装置240(遠隔操作用操作装置)から受け付けられる遠隔操作の内容を表す信号(遠隔操作信号)を遠隔操作の対象のショベル100に送信してよい。これにより、管理装置200は、ショベル100の遠隔操作を支援することができる。
【0056】
<端末装置の概要>
端末装置300は、例えば、ショベル管理システム1000において、情報提供を受けるユーザが利用する端末装置(ユーザ端末)である。また、端末装置300は、ショベル100の遠隔操作を支援してもよい。
【0057】
端末装置300は、例えば、ユーザが所持するラップトップ型のコンピュータ端末、タブレット端末、スマートフォン等の汎用の携帯端末である。また、端末装置300は、デスクトップ型のコンピュータ等の汎用の定置端末であってもよい。また、端末装置300は、ショベル100に関するデータ(情報)の提供を受けたり、遠隔操作を支援したりするための専用の端末装置(携帯端末或いは定置端末)であってもよい。
【0058】
端末装置300は、制御装置310と、通信装置320と、出力装置330と、入力装置340とを含む。
【0059】
制御装置310は、端末装置300に関する制御を行う。
【0060】
通信装置320は、通信回線NWを通じて、端末装置300の外部(例えば、ショベル100や管理装置200)等と通信を行う。
【0061】
出力装置330は、端末装置300の管理者や作業者等のユーザ(以下、「端末装置ユーザ」)に向けて情報を出力する。出力装置330は、例えば、視覚的な情報を出力する表示装置や照明装置等を含んでよい。表示装置は、例えば、画像情報を出力する液晶ディスプレイや有機ELディスプレイ等を含む。また、表示装置は、上述の遠隔操作用表示装置を含んでもよい。また、出力装置330は、例えば、聴覚的な情報を出力する音出力装置を含んでもよい。音出力装置は、例えば、スピーカやブザー等を含む。
【0062】
入力装置340は、端末装置ユーザからの各種入力を受け付け、その入力内容に対応する信号は、制御装置310に取り込まれる。入力装置340は、例えば、端末装置ユーザからの操作入力を受け付ける操作入力装置を含む。操作入力装置は、例えば、マウス、キーボード、タッチパネル、ボタン、トグル、レバー等を含んでよい。また、入力装置340は、例えば、端末装置ユーザからの音声入力やジェスチャ入力を受け付ける音声入力装置やジェスチャ入力装置を含んでもよい。音声入力装置は、例えば、端末装置ユーザが発話する音声データを取得するマイクロフォンを含む。ジェスチャ入力装置は、例えば、端末装置ユーザのジェスチャの様子を撮像する撮像装置(カメラ)を含む。また、入力装置340は、例えば、遠隔操作用操作装置を含んでもよい。
【0063】
制御装置310は、通信装置320を用いて、管理装置200と相互に通信を行う。これにより、端末装置300は、管理装置200に対して、ショベル100に関するデータ等の提供を要求することができる。また、端末装置300は、管理装置200から送信される、ショベル100に関するデータを受信し、出力装置330(表示装置)を通じて、ショベル100に関する情報をユーザに提供してよい。
【0064】
また、制御装置310は、通信装置320を用いて、ショベル100と相互に通信を行ってもよい。この場合、端末装置300は、管理装置200を介して、間接的に、ショベル100と通信を行ってもよいし、直接的に、ショベル100と通信を行ってもよい。制御装置310は、例えば、通信装置320を用いて、入力装置340(遠隔操作用操作装置)から受け付けられる遠隔操作の内容を表す信号(遠隔操作信号)を遠隔操作の対象のショベル100に送信してよい。これにより、端末装置300は、ショベル100の遠隔操作を支援することができる。
【0065】
[周辺監視装置の構成]
次に、
図1、
図2に加えて、
図3~
図7を参照して、本実施形態に係るショベル100に搭載される周辺監視装置150の構成について説明をする。
【0066】
図3~
図5は、本実施形態に係る周辺監視装置150の構成を説明する図である。具体的には、
図3は、本実施形態に係る周辺監視装置150の構成の一例を示すブロック図である。
図4は、ホーン54aを吹鳴させるための回路構成の一例を示す図である。
図5は、走行アラーム54bを吹鳴させるための回路構成の一例を示す図である。
【0067】
周辺監視装置150は、ショベル100の周囲の所定範囲内への監視対象である所定の物体(以下、単に「監視対象」)の進入を監視する。そして、周辺監視装置150は、ショベル100の周囲の所定範囲内で監視対象を検出する場合に、ショベル100の周囲の安全性を確保するための安全機能を作動させる。
【0068】
安全機能には、例えば、キャビン10の内部、キャビン10の外部、及びショベル100の遠隔のオペレータや管理者等の少なくとも一つに対する警報を出力する等し、監視対象の検出を報知する報知機能が含まれてよい。これにより、キャビン10の内部のオペレータ、ショベル100の周囲の作業者、ショベル100の遠隔操作を行うオペレータや管理者等に対して、ショベル100の周囲の所定範囲内に監視対象が存在していることに関する注意を促すことができる。以下、キャビン10の内部、即ち、オペレータ等に対する報知機能を「内部報知機能」と称する場合がある。また、キャビン10の外部、即ち、ショベル100の周囲の作業者等に対する報知機能を「外部報知機能」と称する場合がある。また、キャビン10の遠隔のオペレータや管理者等に対する報知機能を「遠隔報知機能」と称する場合がある。また、安全機能には、例えば、操作装置26の操作や遠隔操作に対するショベル100の動作を制限する動作制限機能が含まれてよい。
【0069】
動作制限機能には、操作装置26の操作、遠隔操作、或いは自動運転機能に対応する操作指令に対するショベル100の動作速度を通常よりも遅くする動作減速機能、及び操作装置26の操作、遠隔操作、或いは自動運転機能に対応する操作指令に関わらず、ショベル100の動作を停止させ、停止状態を維持させる動作停止機能の少なくとも一方が含まれる。
【0070】
監視対象には、ショベル100の周囲で作業する作業者や作業現場の監督者等の人が含まれてよい。また、監視対象には、作業現場に仮置きされた資材、作業現場の仮設事務所等の定置された移動しない障害物やトラックを含む車両等の移動する障害物等、人以外の任意の物体(即ち、障害物)が含まれうる。以下、本実施形態では、監視対象が人である場合を中心に説明を続ける。
【0071】
図3に示すように、周辺監視装置150は、コントローラ30と、操作情報出力装置29と、撮像装置40と、周囲情報取得装置45と、表示装置50と、入力装置52と、音出力装置54と、油圧制御弁56と、通信装置70とを含む。
【0072】
コントローラ30は、周辺監視装置150の機能に関する制御を行う制御装置である。コントローラ30は、例えば、キャビン10内に搭載される。
【0073】
コントローラ30は、その機能が任意のハードウェア、或いは、任意のハードウェア及びソフトウェアの組み合わせ等により実現されてよい。コントローラ30は、例えば、CPU、RAM等のメモリ装置(主記憶装置)、ROM等の補助記憶装置、及び外部との入出力用のインタフェース装置等を含むコンピュータを中心に構成される。コントローラ30は、例えば、補助記憶装置にインストールされる一以上のプログラムをCPU上で実行することにより実現される機能部として、表示処理部301と、設定部302と、検出部304と、安全機能制御部305とを含む。また、コントローラ30は、記憶部303を利用する。記憶部303は、例えば、補助記憶装置や、コントローラ30と通信可能に接続される外部記憶装置等により実現されうる。
【0074】
尚、コントローラ30の機能の一部又は全部は、他のコントローラにより実現されてもよい。つまり、周辺監視装置150の機能は、複数のコントローラにより分担されることにより実現されてもよい。また、コントローラ30は、周辺監視装置150の機能以外のショベル100に関する制御を行ってもよい。つまり、コントローラ30は、周辺監視装置150の機能に特化した専用の制御装置であってもよいし、周辺監視装置150の機能を含むショベル100の各種機能に関する制御を行う汎用の制御装置であってもよい。また、コントローラ30の機能の一部又は全部は、ショベル100の外部(例えば、管理装置200)に移管されてもよい。この場合、ショベル100は、例えば、管理装置200等の外部装置からの制御指令に応じて、リアルタイムにその動作が制御されてよい。例えば、5G(5th Generation)の移動体通信網等のように、通信回線NWを通じて非常に高速の通信を実行可能な場合、管理装置200からショベル100に制御指令を逐次送信する制御態様でも、遅延のないショベル100の動作制御を実現可能だからである。
【0075】
操作情報出力装置29は、操作装置26の操作内容、遠隔操作の内容、或いは、自動運転機能に対応する操作指令の内容、つまり、それぞれの被駆動要素(即ち、対応するそれぞれの油圧アクチュエータ)に関する操作内容に関する情報(以下、「操作情報」)を出力する。
【0076】
操作情報出力装置29は、例えば、操作装置26の操作内容に関する情報を取得するセンサ(以下、「操作情報取得センサ」)であってよい。操作情報取得センサは、例えば、操作装置26のレバーやペダル等の操作方向や操作量を感知するリニアエンコーダである。また、操作情報取得センサは、例えば、油圧パイロット式の操作装置26の二次側のパイロット圧を感知する圧力センサである。また、操作情報出力装置29は、例えば、電気式の操作装置26であってよい。電気式の操作装置26から出力される操作信号は、操作情報に相当するからである。また、ショベル100が遠隔操作される場合、操作情報出力装置29は、例えば、外部装置から遠隔操作信号を受信する通信装置70である。また、ショベル100が自動運転機能により動作する場合、操作情報出力装置29は、例えば、操作指令を出力する演算装置であってよい。
【0077】
撮像装置40は、上部旋回体3の上部に取り付けられ、ショベル100に相対的に近い領域から相対的に遠い領域に亘るショベル100の周囲を撮像し、撮像画像を出力する。撮像装置40は、カメラ40B,40L,40Rを含む。以下、カメラ40B,40L,40Rを包括的に「カメラ40X」と称する場合がある。
【0078】
カメラ40B、カメラ40L、及びカメラ40Rは、それぞれ、上部旋回体3の後端上部、左端上部、及び、右端上部に取り付けられ、上部旋回体3の後方、左側方、及び、右側方を撮像する。例えば、カメラ40Xは、非常に広い画角を有する単眼カメラ(即ち、広角カメラ)である。また、例えば、カメラ40Xは、ステレオカメラやデプスカメラ等であってもよい。カメラ40Bは、上部旋回体3の後方の撮像範囲、例えば、左後方から右後方に亘る水平方向(即ち、ショベル100から見た周方向)の撮像範囲を撮像する。また、カメラ40Lは、例えば、上部旋回体3の左側方の撮像範囲、例えば、上部旋回体3の左前方から左後方に亘る水平方向(ショベル100から見た周方向)の撮像範囲を撮像する。また、カメラ40Rは、例えば、上部旋回体3の右側方の撮像範囲、例えば、上部旋回体3の右前方から右後方に亘る水平方向(ショベル100から見た周方向)の撮像範囲を撮像する。また、カメラ40Xは、上部旋回体3の上部において、光軸が斜め下方に向くように取り付けられ、ショベル100の近傍の地面からショベル100の遠方までを含む上下方向の撮像範囲を撮像する。
【0079】
カメラ40Xは、例えば、ショベル100の起動(即ち、キースイッチON)から停止(即ち、キースイッチOFF)までの間で、所定周期(例えば、1/30秒)ごとに、撮像画像を出力する。カメラ40Xから出力される撮像画像は、コントローラ30に取り込まれる。
【0080】
尚、ショベル100が遠隔操作される場合、撮像装置40の他に、ショベル100の前方の様子を、遠隔操作を行うオペレータが確認するための画像を取得する、上述の遠隔操作用の前方カメラが設けられてよい。
【0081】
周囲情報取得装置45(取得装置の一例)は、上部旋回体3の上部に取り付けられ、ショベル100の周囲の状況に関する情報を取得する。周囲情報取得装置45は、センサ45BL,45BR,45L,45Rを含む。以下、センサ45BL,45BR,45L,45Rを包括的に「センサ45X」と称する場合がある。
【0082】
センサ45BL、センサ45BR、センサ45L、及びセンサ45Rは、それぞれ、上部旋回体3の左寄りの後端上部、右寄りの後端上部、左端上部、及び、右端上部に取り付けられ、上部旋回体3の左後方、右後方、左側方、及び、右側方の状況に関する情報を取得する。例えば、センサ45Xは、LIDAR(Light Detection and Ranging)である。また、例えば、センサ45Xは、例えば、ミリ波レーダや超音波センサ等であってもよい。以下、センサ45XがLIDARである場合を中心に説明を進める。
【0083】
センサ45Xは、例えば、ある方向に赤外線を照射する共に、その方向の物体からの反射光(赤外線)を受光することにより、ショベル100の周囲の状況を表す情報、具体的には、受光される反射光に関する情報(以下、「受光情報」)を取得する。センサ45Xは、例えば、走査型のLIDARであり、赤外線レーザの照射方向を上下方向及び左右方向に走査可能な三次元レーザスキャナである。また、センサ45Xは、発光モジュールから赤外線を三次元の広範囲に照射し、反射光(赤外線)を三次元距離画像素子で撮像する、いわゆるフラッシュ型LIDARであってもよい。
【0084】
受光情報には、赤外線の照射方向ごとの赤外線の照射から反射光が受光されるまでの時間(TOF:Time Of Flight)に関する情報(以下、「TOF情報」)、及び赤外線の照射方向ごとの受光される反射光の強度に関する情報(以下、「受光強度情報」)が含まれる。
【0085】
センサ45BLは、上部旋回体3の左後方の照射範囲、例えば、上部旋回体3の左後方から後方に亘る水平方向(即ち、ショベル100から見た周方向)の照射範囲に赤外線を照射可能に構成される。また、センサ45BRは、上部旋回体3の右後方の照射範囲、例えば、上部旋回体3の右後方から後方に亘る水平方向(ショベル100から見た周方向)の照射範囲に赤外線を照射可能に構成される。また、センサ45Lは、上部旋回体3の左側方の照射範囲、例えば、上部旋回体3の左前方から左後方に亘る水平方向(ショベル100から見た周方向)の照射範囲に赤外線を照射可能に構成される。また、センサ45Rは、上部旋回体3の右側方の照射範囲、例えば、上部旋回体3の右前方から右後方に亘る水平方向(ショベルから見た周方向)の照射範囲に赤外線を照射可能に構成される。また、センサ45Xは、上部旋回体3の上部において、光軸(即ち、赤外線の照射方向の基準軸)が斜め下方に向くように取り付けられ、ショベル100に相対的に近い地面の部分を中心とする上下方向の赤外線の照射範囲を有する。
【0086】
センサ45Xは、それぞれ、ショベル100の起動から停止までの間で、所定周期ごとに、受光情報を出力する。センサ45Xから出力される受光情報は、コントローラ30に取り込まれる。
【0087】
表示装置50は、キャビン10内の操縦席の周辺、具体的には、操縦席に着座するオペレータから視認し易い位置に設けられ、オペレータに通知する各種画像情報を表示する。表示装置50は、例えば、液晶ディスプレイや有機ELディスプレイであり、入力装置52を兼ねるタッチパネル式であってもよい。表示装置50は、後述の如く、コントローラ30(表示処理部301)の制御下で、例えば、撮像装置40の撮像画像に基づき、ショベル100(自機)の周囲の様子を表す画像(以下、「監視画像」)を表示する。
【0088】
入力装置52は、オペレータからの周辺監視装置150の機能に関する各種入力を受け付け、コントローラ30に出力する。入力装置52は、例えば、タッチパネル、タッチパッド、ボタン、トグル、回転ノブ等の任意のハードウェアの操作入力装置を含む。また、入力装置52は、例えば、表示装置50に表示される操作画面上の仮想的なボタンアイコン等、ハードウェアの操作手段を通じて操作可能なソフトウェアの操作入力手段を含んでもよい。また、入力装置52は、オペレータ等のユーザの音声入力やジェスチャ入力を受け付ける音声入力装置やジェスチャ入力装置を含んでもよい。
【0089】
音出力装置54は、キャビン10の内部及び外部の少なくとも一方に向けて音を出力する。音出力装置54は、例えば、キャビン10の内部に設けられるスピーカやブザー等を含んでよく、オペレータに向けて音を出力してよい。また、音出力装置54は、例えば、ホーン54aや走行アラーム54b等を含んでよく、キャビン10の外部、具体的には、ショベル100の周囲に向けて音を出力してよい。
【0090】
ホーン54aは、例えば、上部旋回体3の前部に搭載される。
【0091】
図4に示すように、ホーン54aは、キャビン10内に設けられるノブスイッチ64のON操作に応じて、ホーン54aとバッテリ60との間の電力経路に設けられるリレー62が閉成されることにより、吹鳴する。オペレータ等は、走行開始時に、ノブスイッチ64をON操作し、ホーン54aを吹鳴させることにより、ショベル100(下部走行体1)が走行開始することをショベル100の周囲に通知することができる。
【0092】
走行アラーム54bは、例えば、上部旋回体3の後部に搭載される。
【0093】
図5に示すように、走行アラーム54bは、コントローラ30の制御下で、下部走行体1の走行時、つまり、クローラ1Cの操作がされている場合に、所定のパターンで所定の音(例えば、"ピー、ピー、ピー、・・・"と繰り返し吹鳴するビープ音)を出力する。
【0094】
図3に戻り、油圧制御弁56は、パイロットポンプ15とコントロールバルブ17(具体的には、それぞれの油圧アクチュエータに対応する制御弁のパイロットポート)との間を繋ぐパイロットラインに設けられる。油圧制御弁56は、コントローラ30からの制御指令で動作可能であり、コントロールバルブ17に作用するパイロット圧を調整する。油圧制御弁56は、例えば、パイロットポンプ15と油圧パイロット式の操作装置26との間のパイロットライン、つまり、操作装置26の一次側のパイロットラインに設けられてよい。また、油圧制御弁56は、例えば、操作装置26とコントロールバルブ17との間のパイロットライン、つまり、操作装置26の二次側のパイロットラインに設けられてもよい。また、油圧制御弁56は、例えば、電気式の操作装置26の場合、遠隔操作の場合、自動運転機能の場合等における上述の操作用の油圧制御弁であってもよい。油圧制御弁56は、例えば、電磁比例弁である。具体的には、油圧制御弁56は、コントローラ30の制御下で、操作装置26の操作内容、或いは、遠隔操作の内容とは関係なく、コントロールバルブ17に作用させるパイロット圧を調整することができる。換言すれば、コントローラ30は、油圧制御弁56を用いて、操作装置26の操作内容や遠隔操作の内容と関係なく、ショベル100の動作を自動制御し、自動運転機能を実現することができる。
【0095】
表示処理部301は、撮像装置40の撮像画像に基づき、表示装置50にショベル100の周囲の様子(状況)を表す監視画像(周囲画像)を表示させる。
【0096】
例えば、表示処理部301は、入力装置52に対する所定操作に応じて、監視画像として、カメラ40B,40L,40Rのうちの少なくとも一つの撮像画像を表示装置50に表示させる。つまり、表示処理部301は、カメラ40B,40L,40Rのうちの全ての撮像画像或いは二つのカメラの撮像画像を表示装置50に並べて表示させてもよいし、何れか一つのカメラの撮像画像を表示装置50に表示させてもよい。以下、表示装置50に表示される当該撮像画像を「スルー画像」と称する場合がある。
【0097】
表示処理部301は、入力装置52に対する所定操作に応じて、カメラ40B,40L,40Rの撮像画像のうちのどの撮像画像を表示装置50に表示させるかを切り替えてよい。これにより、オペレータは、入力装置52を操作することで、自分が見たい方向のスルー画像を表示装置50に表示させることができる。
【0098】
また、例えば、表示処理部301は、撮像装置40の撮像画像に基づき、複数のカメラ(カメラ40B,40L,40Rのうちの少なくとも二つのカメラ)の撮像画像を合成した合成画像を生成し、合成画像を含む監視画像を表示装置50に表示させる。
【0099】
具体的には、表示処理部301は、合成画像として、カメラ40B、40L,40Rの撮像画像に基づき、既知の視点変換処理及び合成処理等を行うことにより、仮想視点から見た視点変換画像を生成し、表示装置50に表示させる。また、表示処理部301は、合成画像を表示装置50に表示させる際、撮像装置40の撮像範囲とショベル100との相対位置関係を明示するため、ショベル100を模式的に表すショベル画像を併せて表示装置50に表示させる。即ち、表示処理部301は、ショベル画像と、ショベル100と撮像装置40の撮像範囲との相対位置関係に合わせて、ショベル画像の周囲に配置される視点変換画像とを含む監視画像を生成し、表示装置50に表示させる。
【0100】
尚、表示処理部301の機能は、表示装置50に内蔵されてもよい。
【0101】
例えば、
図6、
図7は、表示装置50に表示される監視画像の具体例を示す図である。具体的には、
図6は、表示装置50に表示される監視画像の一例(スルー画像を含む監視画像MP1)を示す図であり、
図7は、表示装置50に表示される監視画像の他の例(視点変換画像を含む監視画像MP2)を示す図である。
【0102】
図6に示すように、本例では、表示装置50には、監視画像MP1として、カメラ40Bの撮像画像(スルー画像)が表示されている。これにより、オペレータは、ショベル100の周囲(本例では、上部旋回体3の後方)の状況(例えば、ショベル100の周囲における人等の監視対象の有無)を把握することができる。
【0103】
また、
図7に示すように、表示装置50には、ショベル画像CGと、ショベル画像CGの周囲に配置される視点変換画像EPとを含む監視画像MP2が表示される。これにより、オペレータは、ショベル100と視点変換画像EPに映っている周囲の物体との位置関係を適切に把握することができる。
【0104】
また、監視画像MP2の視点変換画像EPには、ショベル100からの一定距離のラインLN1が重畳して表示される。ラインLN1は、例えば、周辺監視装置150(検出部304)による監視対象の監視エリアの外縁を表してよい。これにより、オペレータは、ショベル100と視点変換画像EPに映っている周囲の物体との距離関係を適切に把握することができる。
【0105】
本例では、視点変換画像EPは、ショベル100に隣接する周辺領域を真上から見た俯瞰画像BVPと、当該俯瞰画像BVPの周りに配置される、ショベル100から当該周辺領域を水平方向に見た水平画像HVPとの組み合わせで構成される。視点変換画像EPは、カメラ40B,40L,40Rのそれぞれの撮像画像を空間モデルに投影した上で、その空間モデルに投影された投影画像を別の二次元平面に再投影することにより得られる。空間モデルは、仮想空間における撮像画像の投影対象であり、撮像画像が位置する平面以外の平面或いは曲面を含む一又は複数の平面或いは曲面で構成される。
【0106】
また、表示処理部301は、通信装置70を通じて、撮像装置40の撮像画像に基づき生成する監視画像を管理装置200や端末装置300に送信してもよい。これにより、管理装置200は、ショベル100から監視画像を受信し、出力装置230(例えば、遠隔操作用表示装置)に監視画像を表示させることができる。同様に、端末装置300は、ショベル100から監視画像を受信し、出力装置330(例えば、遠隔操作用表示装置)に監視画像を表示させることができる。そのため、管理装置200や端末装置300を利用するショベル100のオペレータは、出力装置230や出力装置330に表示される監視画像を確認しながら、ショベル100を遠隔操作することができる。また、管理装置200や端末装置300を利用するショベル100の管理者等は、出力装置230や出力装置330に表示される監視画像を確認しながら、自動運転機能で作業を行う複数のショベル100のそれぞれの作業状況を遠隔から監視することができる。
【0107】
図3に戻り、設定部302は、オペレータ等の要求、即ち、入力装置52を通じたオペレータ等の操作に応じて、周辺監視装置150に関する各種の設定を行う。例えば、設定部302は、検出部304に関する検出条件や安全機能制御部305に関する安全機能の作動条件等を設定する。設定部302により設定される設定内容は、記憶部303に保存(登録)される。
【0108】
記憶部303は、周辺監視装置150に関する各種の情報が記憶(登録)される。
【0109】
検出部304は、撮像装置40及び周囲情報取得装置45の出力に基づき、ショベル100(上部旋回体3)の周囲の監視対象を検出する。検出部304は、検出部304Aと検出部304Bとを含む。
【0110】
検出部304Aは、撮像装置40の出力、即ち、撮像装置40で撮像された撮像画像に基づき、ショベル100(上部旋回体3)の周辺の所定の監視エリア(以下、便宜的に「第1監視エリア」)において、監視対象を検出する。以下、検出部304に関する説明は、ショベル100が水平面に位置している仮定の下で行う。
【0111】
検出部304Aは、例えば、ショベル100から見た水平方向(以下、単に「水平方向」)、つまり、ショベル100が作業している(下部走行体1が接地している)平面(以下、便宜的に「作業平面」)に沿う方向に延在する第1監視エリア内において、監視対象を検出する。具体的には、検出部304Aは、ショベル100(上部旋回体3)からの水平方向の距離Dが所定距離Dth1(例えば、5メートル)以内の第1監視エリア内で、監視対象を検出してよい。
【0112】
例えば、検出部304Aは、既知の各種画像処理手法や人工知能(AI:Artificial Intelligence)等を含む機械学習ベースの識別器等を任意に適用することにより、撮像画像内の監視対象を認識する。また、監視対象が作業者等の人である場合、検出部304Aは、認識した人が予め登録される複数の登録済みの作業者(以下、「登録作業者」)の中の何れに該当するかを特定してもよい。
【0113】
また、検出部304Aは、既知の各種手法を適用することにより、単眼の撮像装置40の撮像画像に映っている、認識された監視対象(人)が存在する位置(例えば、足元位置)(以下、「実在位置」)を判定(推定)することができる。
【0114】
例えば、検出部304Aは、認識された監視対象の撮像画像上における大きさ(例えば、撮像画像上の高さ方向の大きさ)に基づき、ショベル100から見た水平方向の位置(以下、「水平位置」)を推定する。認識された監視対象の撮像画像上における大きさは、監視対象がショベル100から離れるほど小さくなる相関関係があるからである。具体的には、監視対象には、想定される大きさの範囲(例えば、想定される人の身長の範囲)があるため、想定された大きさの範囲に含まれる当該監視対象のショベル100から見た水平位置と、撮像画像上での大きさとの相関関係が予め規定されうる。そのため、検出部304Aは、例えば、コントローラ30の補助記憶装置等の内部メモリに予め格納される、撮像画像上の監視対象の大きさとショベル100から見た水平位置との相関関係を表すマップや変換式等に基づき、認識された監視対象の実在位置(ショベル100からの水平位置)を推定することができる。
【0115】
また、例えば、検出部304Aは、監視対象がショベル100(具体的には、下部走行体1)と同じ平面上に存在する前提の下、撮像画像の当該平面上への射影変換(ホモグラフィ)等によって、その実在位置(例えば、足元位置)を推定することができる。この場合、撮像画像を構成するある部分(ある点)は、ショベル100と同じ平面上のある位置に対応づけられる。
【0116】
検出部304Bは、周囲情報取得装置45の出力(即ち、受光情報)に基づき、ショベル100(上部旋回体3)の周辺の所定の監視エリア(以下、便宜的に「第2監視エリア」)において、監視対象を検出する。以下、第1監視エリア及び第2監視エリアを包括的に「監視エリア」と称する場合がある。
【0117】
検出部304Bは、例えば、水平方向、つまり、作業平面に沿う方向に延在する第2監視エリア内において、監視対象を検出する。具体的には、検出部304Bは、ショベル100(上部旋回体3)からの水平方向の距離Dが所定距離Dth2以内の第2監視エリア内で、監視対象を検出してもよい。所定距離Dth1,Dth2は、同じであってもよいし、異なっていてもよい。即ち、第1監視エリアと第2監視エリアとは同じであってもよいし、異なっていてもよい。例えば、検出部304Aは、ショベル100から相対的に遠方の範囲を含む第1監視エリアの監視対象を監視し、検出部304Bは、第1監視エリアよりもショベル100から相対的に近い範囲に限定される第2監視エリアの監視対象を監視する態様であってよい。
【0118】
検出部304Bは、周囲情報取得装置45から取り込まれる受光情報のうちのTOF情報に基づき、周囲の物体の存在及びその位置を認識する。また、検出部304Bは、複数の照射方向からの受光される反射光に対応する受光情報(TOF情報)に基づき、物体の形状や物体の大きさ等を認識することにより、周囲の物体の種別を認識し、その物体が監視対象に該当するか否かを判別してよい。また、検出部304Bは、受光情報のうちの受光強度情報に基づき、周囲の物体の再帰反射性や反射率を認識することにより、物体の種別を認識し、その物体が監視対象に該当するか否かを判別してもよい。
【0119】
また、検出部304A,304Bは、入力装置52に対するオペレータ等による所定の操作に応じて、その機能がON(有効)/OFF(無効)の間で切り替えられてもよい。この場合、検出部304A,304Bの何れか一方の機能がOFF(無効)になっている場合、他方の機能をOFF(無効)にする操作が無効になる態様であってもよい。つまり、検出部304A,304Bのうちの何れか一方の機能だけをOFF(無効)に切り替え可能な態様であってもよい。
【0120】
尚、検出部304は、検出部304A,304Bに基づき、監視対象に関する二つの検出結果を出力する代わりに、撮像装置40及び周囲情報取得装置45の双方の出力を統合的に用いて、監視対象に関する一つの検出結果を出力する態様であってもよい。また、検出部304は、撮像装置40及び周囲情報取得装置45の出力のうちの何れか一方だけに基づき、監視対象を検出してもよい。また、検出部304Aの機能の一部又は全部は、撮像装置40(カメラ40X)に内蔵されてもよい。また、検出部304Bの機能は、周囲情報取得装置45(センサ45X)に内蔵されてもよい。例えば、検出部304Bの機能のうち、受光情報(TOF情報及び受光強度情報)に基づき、物体を検出する機能は、センサ45Xに内蔵され、センサ45Xにより検出される物体が監視対象に該当するか否かを判断する機能だけをコントローラ30が実現する態様であってもよい。
【0121】
安全機能制御部305(動作制限部の一例)は、検出部304により監視対象が検出される場合に、安全機能に関する制御を行い、安全機能を作動させる。
【0122】
安全機能制御部305は、例えば、検出部304により監視エリアに含まれる所定の範囲(以下、「報知範囲」)で監視対象が検出される場合に、報知機能を作動させる。報知範囲は、監視エリアと同じであってもよいし、監視エリアよりもその外縁がショベル100に相対的に近くなるように設定されてもよい。
【0123】
安全機能制御部305は、例えば、音出力装置54を制御することにより、キャビン10の内部及び外部の少なくとも一方に対する音(即ち、聴覚的な方法)による報知機能を作動させる。このとき、安全機能制御部305は、各種条件に応じて、出力される音の音高、音圧、音色、音を周期的に吹鳴させる場合の吹鳴周期、音声の内容等を異ならせてもよい。
【0124】
また、安全機能制御部305は、例えば、キャビン10の内部に対する視覚的な方法による報知機能を作動させる。具体的には、安全機能制御部305は、表示処理部301を通じて表示装置50を制御することにより、表示装置50に表示されている監視画像上に、監視対象が検出されていることを表す画像を表示させてよい(例えば、
図20~
図22参照)。また、安全機能制御部305は、表示処理部301を通じて、表示装置50に表示される監視画像に映っている監視対象や、検出された監視対象のショベル100から見た位置に対応する監視画像上の位置を強調させてもよい。より具体的には、安全機能制御部305は、表示処理部301を通じて、監視画像上に映っている監視対象を囲む枠を重畳して表示させたり、検出された監視対象の実在位置に対応する監視画像上の位置にマーカを重畳して表示させたりしてよい(例えば、
図10、
図21、
図22参照)。これにより、表示装置50は、オペレータに対する視覚的な報知機能を実現することができる。また、安全機能制御部305は、キャビン10の内部の警告灯や照明装置等を用いて、監視対象が検出されていることをキャビン10の内部のオペレータ等に対して通知してもよい。
【0125】
また、安全機能制御部305は、例えば、上部旋回体3のハウス部等に設けられる前照灯等の照明装置や外部用の表示装置を制御することにより、ショベル100の周囲の作業者や監督者等に視覚的な方法による報知機能を作動させてもよい。また、安全機能制御部305は、例えば、オペレータが着座する操縦席を振動させる振動発生装置を制御することにより、触覚的な方法でキャビン10内のオペレータに対する報知機能を作動させてもよい。これにより、周辺監視装置150は、オペレータやショベル100の周囲の作業者及び監督者等に対して、ショベル100の周囲に監視対象(例えば、作業者等の人)が存在することを認識させることができる。そのため、周辺監視装置150は、オペレータに対して、ショベル100の周辺の安全状況の確認を促すことができると共に、監視エリア内の作業者等に対して、監視エリアからの退避を促すことができる。
【0126】
また、安全機能制御部305は、例えば、通信装置70を通じて、報知機能の作動を示す指令信号を管理装置200や端末装置300に送信することにより、遠隔報知機能を作動させてもよい。この場合、管理装置200(制御装置210)は、通信装置220によりショベル100から指令信号を受信すると、出力装置230を通じて、視覚的な方法や聴覚的な方法による警報を出力してよい。これにより、管理装置200の管理者、作業者、管理装置200を通じてショベル100の遠隔操作を行うオペレータ等は、ショベル100の周囲の報知範囲内に監視対象が進入したことを把握することができる。同様に、端末装置300(制御装置310)は、通信装置320によりショベル100から指令信号を受信すると、出力装置330を通じて、視覚的な方法や聴覚的な方法による警報を出力してよい。
【0127】
尚、安全機能制御部305の遠隔報知機能は、管理装置200や端末装置300に移管されてもよい。この場合、管理装置200は、ショベル100から検出部304による監視対象の検出状況に関する情報を受信し、受信した情報に基づき、報知範囲内への監視対象の進入の有無を判断し、報知範囲内に監視対象が存在する場合に、外部報知機能を作動させる。端末装置300の場合も同様であってよい。
【0128】
また、安全機能制御部305は、報知範囲内で検出されている監視対象と、ショベル100との位置関係に応じて、報知態様(即ち、報知の仕方)を異ならせてもよい。
【0129】
例えば、安全機能制御部305は、検出部304により報知範囲内で検出された監視対象が相対的にショベル100から遠い位置に存在する場合、オペレータ等に監視対象への注意を促す程度の相対的に緊急度が低い警報(以下、「注意レベルの警報」)を出力してよい。以下、報知範囲のうちのショベル100から相対的に遠い範囲、即ち、注意レベルの警報に対応する範囲を便宜的に「注意報知範囲」と称する場合がある。一方、安全機能制御部305は、検出部304により報知範囲内で検出された監視対象が相対的にショベル100から近い位置に存在する場合、監視対象がショベル100に接近し危険度が高まっていることを知らせる相対的に緊急度が高い警報(以下、「警戒レベルの警報」)を出力してよい。以下、報知範囲のうちのショベル100からの距離が相対的に近い範囲、即ち、警戒レベルの警報に対応する範囲を「警戒報知範囲」と称する場合がある。
【0130】
この場合、安全機能制御部305は、注意レベルの警報と警戒レベルの警報との間で、音出力装置54から出力される音の音高、音圧、音色、吹鳴周期等を異ならせてよい。また、安全機能制御部305は、注意レベルの警報と警戒レベルの警報との間で、表示装置50に表示される監視画像上に表示される監視対象が検出されていることを表す画像や、監視対象或いは監視対象の位置を強調させる画像(例えば、枠やマーカ等)の色、形状、大きさ、点滅の有無、点滅周期等を異ならせてよい。これにより、周辺監視装置150は、音出力装置54から出力される報知音(警報音)や表示装置50に表示される報知画像の相違によって、オペレータ等に緊急度、換言すれば、監視対象のショベル100に対する接近度を把握させることができる。
【0131】
安全機能制御部305は、報知機能の作動開始後、検出部304により検出されていた監視対象が監視エリア内で検出されなくなった場合、或いは、入力装置52を通じて、報知機能の作動を解除する所定の操作が受け付けられた場合に、報知機能を停止させてよい。
【0132】
また、安全機能制御部305は、例えば、検出部304により監視エリアに含まれる所定範囲(以下、「動作制限範囲」)内で監視対象が検出される場合に、動作制限機能を作動させる。動作制限範囲は、監視エリアと同じであってもよいし、監視エリアよりもその外縁がショベル100に相対的に近くなるように設定されてもよい。また、動作制限範囲には、操作装置26の操作、遠隔操作、自動運転機能に対応する操作指令に対するショベル100の動作速度を通常よりも遅くする動作減速範囲、及び操作装置26の操作、遠隔操作、自動運転機能に対応する操作指令に関わらず、ショベル100の動作を停止させ、停止状態を維持させる動作停止範囲の少なくとも一方が含まれる。例えば、動作制限範囲に動作減速範囲及び動作停止範囲の双方が含まれる場合、動作停止範囲は、例えば、動作制限範囲のうちのショベル100に近接する範囲であり、動作減速範囲は、動作制限範囲のうちの動作停止範囲の外側に設定される範囲である。
【0133】
安全機能制御部305は、油圧制御弁56を制御することにより、ショベル100の動作を制限する動作制限機能を作動させる。この場合、安全機能制御部305は、全ての被駆動要素(即ち、対応する油圧アクチュエータ)の動作を制限してもよいし、一部の被駆動要素(油圧アクチュエータ)の動作を制限してもよい。これにより、周辺監視装置150は、ショベル100の周囲に監視対象が存在する場合に、ショベル100の動作を減速させたり、停止させたりすることができる。そのため、周辺監視装置150は、ショベル100の周囲の監視対象とショベル100との接触の発生を抑制することができる。
【0134】
また、安全機能制御部305は、動作制限機能の作動開始後、検出部304により検出されていた監視対象が検出されなくなった場合、或いは、入力装置52を通じて、動作制限機能の作動を解除する所定の操作が受け付けられた場合に、動作制限機能を停止させる。入力装置52に対する報知機能の作動解除のための操作と、動作制限機能の作動解除のための操作とは、同一であってもよいし、異なっていてもよい。
【0135】
また、安全機能制御部305は、検出部304による監視対象の検出とは異なる他の所定の条件(以下、「他の作動条件」)の成立に応じて、安全機能を作動させてもよい。
【0136】
安全機能制御部305は、例えば、キャビン10の内部のオペレータがシートベルトを装着していない場合に、内部報知機能を作動させたり、ショベル100の動作を禁止(停止)させる態様の動作制限機能を作動させたりしてよい。これにより、キャビン10のオペレータに対して、シートベルトの装着を促すことができる。そのため、ショベル100の安全性を向上させることができる。
【0137】
また、安全機能制御部305は、例えば、キャビン10の開閉可能な窓が開放されている場合に、内部報知機能を作動させたり、ショベル100の動作を禁止(停止)させる態様の動作制限機能を作動させたりしてよい。仮に、キャビン10の窓が開放されている状態で、ショベル100の転倒等が発生すると、キャビン10の外部にオペレータが放出されてしまう可能性があるからである。これにより、キャビン10のオペレータに対して、キャビン10の窓を閉じるように促すことができる。そのため、ショベル100の安全性を向上させることができる。
【0138】
[ショベルの周囲の表示可能エリア及び監視対象の検出可能エリア]
次に、
図8~
図11を参照して、撮像装置40の撮像画像に基づき、表示装置50、出力装置230(表示装置)、及び出力装置330(表示装置)(以下、「表示装置50等」)に表示可能なショベル100の周囲の範囲(以下、「表示可能エリア」)、及び検出部304が監視対象を検出可能なショベル100の周囲の範囲(以下、「検出可能エリア」)について説明する。
【0139】
以下、本例では、ショベル100が水平面に位置している前提で説明を進める。また、本例では、ショベル100(具体的には、上部旋回体3)から見た周方向(旋回方向)における表示可能エリア及び検出可能エリアを中心に説明を行う。つまり、本例では、表示可能エリアは、ショベル100から見た水平方向での360度の角度方向の範囲のうちの撮像装置40の撮像画像に基づき表示装置50等が表示可能な角度方向の範囲を意味する。同様に、本例では、検出可能エリアは、ショベル100から見た水平方向での360度の角度方向の範囲のうちの検出部304が監視対象を検出可能な角度方向の範囲を意味する。そのため、表示可能エリア、検出部304Aの検出可能エリア、及び検出部304Bの検出可能エリアの相互間を比較する場合、ショベル100から見た周方向の範囲(即ち、水平方向の角度範囲)を比較対象とし、径方向(遠近方向)や上下方向の範囲を比較対象から除外する場合がある。
【0140】
<撮像装置の撮像画像に基づく表示可能エリアと検出可能エリアとの対比>
図8は、ショベル100を上面視で見たときの撮像装置40の撮像画像に基づく表示装置50等への表示可能エリア及び検出部304Aの検出可能エリアの一例を示す図である。
【0141】
図8に示すように、カメラ40Xの水平方向の撮像範囲(画角)は、カメラ40Xから延び出す二本の一点鎖線の間の角度範囲により表される。そのため、表示可能エリアは、カメラ40B,40L,40Rの全ての水平方向の撮像範囲の和集合に相当する範囲で表される。
【0142】
一方、撮像装置40(カメラ40X)の撮像画像に基づく検出部304Aの検出可能エリアは、図中の梨地の部分に相当する。具体的には、検出部304Aの検出可能エリアは、カメラ40B,40L,40Rのそれぞれから延び出す二本の実線(ショベル100に近接する部分は点線)の間の角度範囲のうちのショベル100に近接する範囲を除く範囲で表される。カメラ40Xが設置される上部旋回体3の上面は、地面から相対的に高い位置にあり、上部旋回体3に近接する範囲の地面付近の監視対象が一部しか撮像画像に映らなかったり、上部旋回体3の車体が撮像画像に映って上部旋回体3に近接する範囲の地面が車体の死角になってしまったりする場合があるからである。
【0143】
また、検出部304Aの検出可能エリアに対応するカメラ40B,40L,40Rのそれぞれから延び出す二本の実線の間の角度範囲は、カメラ40B,40L,40Rの撮像範囲に対応する実際の画角(二本の一点鎖線の間の角度範囲)より狭くなる。ショベル100(上部旋回体3)から見た水平方向のカメラ40B,40L,40Rの撮像範囲(画角)の端部では、監視対象が一部しか映らず、検出部304Aが撮像画像から監視対象を認識(検出)できない場合があるからである。
【0144】
例えば、上部旋回体3の左前方に作業者401が位置している。作業者401の一部は、カメラ40Lの水平方向の撮像範囲に相当する二本の一点鎖線の間の角度範囲に含まれている。そのため、表示装置50等は、コントローラ30(表示処理部301)の制御下で、カメラ40Lの撮像画像に基づき、作業者401の一部を含む監視画像を表示することができる。
【0145】
一方、作業者401は、カメラ40Lの水平方向の撮像範囲の前側の端部に位置している。そのため、作業者401の位置は、検出部304Aの検出可能エリアに含まれず、検出部304Aは、カメラ40Lの撮像画像に一部だけが映っている作業者401を検出することができない。
【0146】
同様に、上部旋回体3の右前方に作業者402が位置している。作業者402の一部は、カメラ40Rの水平方向の撮像範囲に相当する二本の一点鎖線の間の角度範囲に含まれている。そのため、表示装置50等は、コントローラ30(表示処理部301)の制御下で、カメラ40Rの撮像画像に基づき、作業者402の一部を含む監視画像を表示することができる。
【0147】
一方、作業者402は、カメラ40Rの水平方向の撮像範囲の前側の端部に位置している。そのため、作業者402の位置は、検出部304Aの検出エリアに含まれず、検出部304Aは、カメラ40Rの撮像画像に一部だけが映っている作業者402を検出することができない。
【0148】
このように、表示可能エリアのうちのカメラ40L,40Rの前側の画角の端部に位置している監視対象は、検出部304Aにより検出することができない場合がある。そのため、撮像装置40(カメラ40X)だけを用いて、ショベル100の周囲の監視対象を検出する場合、表示装置50等に映っているにも関わらず、検出されない監視対象が存在し、ショベル100のオペレータや管理者等に違和感を与える可能性がある。
【0149】
<監視対象の検出可能エリアの第1例>
図9は、ショベル100を上面視で見たときの撮像装置40を用いる検出部304Aの検出可能エリア及び周囲情報取得装置45を用いる検出部304Bの検出可能エリアの第1例を示す図である。
【0150】
図9に示すように、検出部304Aの検出可能エリアは、上述の如く、図中の梨地の部分に相当する。そのため、上述の如く、カメラ40Xから延び出す二本の一点鎖線の間の角度範囲によって規定される表示可能エリアのうちのカメラ40L,40Rの前側の画角の端部が検出部304Aの検出可能エリアから外れてしまっている。
【0151】
一方、検出部304Bの検出可能エリアは、センサ45Xのそれぞれから延び出す二本の太線の間の水平方向の角度範囲(即ち、水平方向の検出角度の範囲)によって規定される。具体的には、検出部304Bの検出可能エリアは、センサ45BL,45BR,45L,45Rのそれぞれの水平方向の検出角度の範囲の和集合として表される。二本の太線により規定される水平方向の検出角度の範囲は、例えば、LIDARの赤外線の水平方向の照射範囲に相当する。
【0152】
センサ45Lの水平方向の検出角度の範囲には、作業者401の位置(即ち、占有する範囲)を含む、表示可能エリアのうちのカメラ40Lの画角の前側の端部が全て含まれる。また、センサ45Rの水平方向の検出角度の範囲には、作業者402の位置(即ち、占有する範囲)を含む、表示可能エリアのうちのカメラ40Rの画角の前側の端部が全て含まれる。つまり、検出部304Bの検出可能エリアには、検出部304Aの検出可能エリアが略全て含まれている。これにより、検出部304Bは、上部旋回体3の左前方及び右前方において、表示可能エリアのうちの検出部304Aの検出エリアの範囲外に相当する範囲の監視対象を検出することができる。そのため、カメラ40L,40Rに対応する表示可能エリアの前側の端部、即ち、それぞれの撮像画像の右端部及び左端部に一部だけが含まれている監視対象(例えば、作業者401,402)を検出することができる。
【0153】
例えば、
図10は、検出部304による監視対象の検出時に表示される監視画像の具体例(監視画像500)を示す図である。具体的には、
図10は、監視画像500として表示装置50に表示される、
図9の状況におけるカメラ40Lの撮像画像(スルー画像)を示す図である。
【0154】
尚、監視画像500は、ショベル100の表示装置50に代えて、或いは、加えて、管理装置200の出力装置230(表示装置)や端末装置300の出力装置330(表示装置)に表示されてもよい。これにより、ショベル100のオペレータは、監視画像500を確認しながら、ショベル100の遠隔操作を行うことができる。また、ショベル100の管理者等は、監視画像500を通じて、例えば、自動運転機能で作業が行われている複数のショベル100のそれぞれの作業状況を遠隔監視することができる。
【0155】
図9に示すように、カメラ40Lの表示可能エリアの前側の端部には、作業者401の位置している範囲の一部が含まれている。そのため、
図10に示すように、表示可能エリアの前側の端部に相当する、監視画像500(カメラ40Lの撮像画像)の右端部には、作業者401に相当する作業者510の一部が表示されている(映っている)。
【0156】
また、上述の如く、検出部304(検出部304B)は、カメラ40Lの表示可能エリアの前側の端部に位置し、その一部だけが撮像画像(スルー画像)に映っている作業者401(作業者510)を検出することができる。そのため、監視画像500には、映っている作業者510が検出部304(検出部304B)により検出されていることを表す枠520が表示される。これにより、ショベル100のオペレータや管理者等のユーザは、監視画像500に一部しか映っていない監視対象(作業者510)であっても、検出部304(検出部304B)により検出可能であることを把握することができる。
【0157】
同様に、監視画像MP2(
図7参照)が表示装置50等に表示される場合も、視点変換画像EPのショベル画像CGから見た左前方及び右前方の端部に作業者401,402が一部だけ映っていても、検出部304Bは、作業者401,402を検出できる。そのため、視点変換画像EPを含む監視画像MP2に映っている作業者401,402には、検出部304により検出されていることを表す枠が取り囲むように表示されてよい。これにより、監視画像500の場合と同様、ショベル100のオペレータや管理者等のユーザは、視点変換画像EP(監視画像MP2)に一部しか映っていない監視対象であっても、検出部304により検出可能であることを把握することができる。
【0158】
尚、監視画像(スルー画像や視点変換画像EP等の周囲画像)に一部が映っている監視対象が検出されていることを表す画像は、枠(例えば、枠520)とは異なる態様であってもよい。例えば、監視画像(周囲画像)に一部が映っている監視対象が検出されていることを表す画像は、後述の
図20や
図22の指示画像(例えば、指示画像913や指示画像934,935)の態様であってもよい。
【0159】
このように、本例では、検出部304は、周囲情報取得装置45(センサ45X)を用いて、撮像装置40の撮像画像を利用するだけでは監視対象を検出できない範囲を補完して、その範囲の監視対象を検出することができる。そのため、検出部304は、表示装置50に表示される監視画像に映っているショベル100から見た周囲の周方向の範囲全体、即ち、ショベル100の周囲の相対的に近い範囲全体の監視対象を検出することができる。つまり、検出部304Bは、ショベル100から見た周方向において、カメラ40B,40L,40Rの撮像範囲に含まれる全ての監視対象、つまり、表示装置50に表示される監視画像に映っている全ての監視対象を検出することができる。例えば、撮像装置40の撮像画像の左右の端部に監視対象が一部だけしか映っていない場合であっても、検出部304Bは、その監視対象を検出することができる。よって、表示装置50の表示内容(監視対象が映っている)と検出結果(監視対象の未検出)との間の乖離に伴う違和感をユーザに与えてしまうような事態を抑制することができる。
【0160】
図9に戻り、また、例えば、ショベル100は、下部走行体1の直進方向(延在方向)と上部旋回体3の向きとが略揃っている状態で作業を行う場合がある。この場合、
図9に示すように、上部旋回体3の左前方や右前方の相対的に近い位置に作業者401,402が存在しても、作業者401,402とショベル100との接触等が発生する危険性はそれほど高くない。ショベル100は、上部旋回体3の前後方向にしか走行できず、仮に、下部走行体1が走行しても、上部旋回体3の左前方及び右前方の作業者401,402と接触する可能性は低いと考えられるからである。また、上部旋回体3の前端部は、旋回中心からの距離が相対的に近いため、上部旋回体3が旋回しても、上部旋回体3の前端部と作業者401,402との距離が短くなるような事態は発生しにくいと考えられるからである。
【0161】
一方、ショベル100は、相対的に高い頻度で上部旋回体3が旋回しながら作業を行う場合もある。そのため、例えば、下部走行体1の直進方向(延在方向)を基準とする上部旋回体3の旋回角度が相対的に大きい状態(例えば、
図9の点線のクローラ1CL,1CRの場合のように旋回角度が略90度の状態)で作業が行われる場合もある。この場合、
図9に示すように、上部旋回体3の左前方や右前方の相対的に近い位置の作業者401,402が上部旋回体3から見た前側のクローラ1C(クローラ1CL)に進行方向で面している状態になる可能性がある。そのため、仮に、下部走行体1が走行してしまうと、作業者401,402との接触が発生する可能性が高くなる。また、上部旋回体3から見た前側のクローラ1C(クローラ1CL)に面している空間は、キャビン10から見て死角になり易く、キャビン10のオペレータからも視認できない可能性がある。
【0162】
これに対して、本例では、
図9に示すように、表示可能エリアの中に、クローラ1CLに面している作業者401,402の少なくとも一部が含まれている。具体的には、カメラ40Lの水平方向の撮像範囲の前側の端部に、クローラ1CLに面している作業者401の一部が含まれている。また、カメラ40Rの水平方向の撮像範囲の前側の端部に、クローラ1CLに面している作業者402が含まれている。そのため、キャビン10のオペレータは、クローラ1CLに面している作業者401,402がキャビン10から見て死角になるような場合であっても、表示装置50の監視画像を通じて、作業者401,402の存在を把握することができる。また、管理装置200や端末装置300を利用するショベル100の遠隔のオペレータや管理者等についても、出力装置230や出力装置330の監視画像を通じて、作業者401,402の存在を把握することができる。そのため、ショベル100の安全性を向上させることができる。
【0163】
また、上部旋回体3から見た前側のクローラ1C(クローラ1CL)に面する位置の作業者401,402は、カメラ40L,40Rの撮像画像の左右の端にその一部が写り込み、監視画像として表示装置50等に表示される可能性がある。しかし、検出部304Aは、上述の如く、カメラ40L,40Rの撮像画像に一部しか映っていない監視対象としての作業者401,402を認識(検出)することができない。
【0164】
一方、
図9に示すように、検出部304Bの検出可能エリアは、上述の如く、センサ45BL,45BR,45L,45Rのそれぞれの水平方向における赤外線の照射範囲(図中の二本の太線の間の角度範囲)により規定される。画像認識の場合と異なり、監視対象の一部からの反射光しか受光できない場合であっても、上述の如く、受光情報に基づく物体の形状、大きさや反射光の受光強度等から監視対象を認識(検出)することが可能だからである。
【0165】
具体的には、センサ45Lに対応する検出部304Bの検出可能エリアには、下部走行体1の直進方向を基準とする上部旋回体3の旋回角度が略90度の場合における上部旋回体3から見た前側のクローラ1C(クローラ1CL)の左端部及び左側の直進方向に面する位置にいる作業者401が含まれる。また、センサ45Rに対応する検出部304Bの検出可能エリアには、下部走行体1の直進方向を基準とする上部旋回体3の旋回角度が略90度の場合における上部旋回体3から見た前側のクローラ1C(クローラ1CL)の右端部及び右側の直進方向に面する位置にいる作業者402が含まれる。
【0166】
例えば、上述の如く、下部走行体1の直進方向を基準とする上部旋回体3の旋回角度が略90度の状態で下部走行体1が走行し始めると、作業者401,402との接触が発生してしまう可能性がある。また、この状態では、キャビン10から作業者401,402を目視するのは難しい可能性がある。
【0167】
これに対して、検出部304Bは、上述の如く、下部走行体1の直進方向を基準とする上部旋回体3の旋回角度が略90度の場合における上部旋回体3から見た前側のクローラ1Cの直進方向に面する空間の監視対象を検出できる。そのため、周辺監視装置150は、作業者401,402の検出に基づき、報知機能や動作制限機能等の安全機能を作動させることができる。よって、ショベル100の安全性をより向上させることができる。
【0168】
このように、本例では、上部旋回体3の向きがクローラ1Cの直進方向と揃っている基準状態から外れている場合に、上部旋回体3の前側のクローラ1Cの直進方向に面する空間は、監視画像としての表示装置50等への表示可能エリアに含まれる。また、本例では、上部旋回体3の向きがクローラ1Cの直進方向と揃っている基準状態から外れている場合に、上部旋回体3の前側のクローラ1Cの直進方向に面する空間は、検出部304による監視対象の検出可能エリアに含まれる。
【0169】
例えば、下部走行体1にカメラ40Xやセンサ45X等を搭載可能であれば、上部旋回体3の旋回状態に依らず、下部走行体1(クローラ1C)から見た特定の場所の監視対象を検出したり、表示装置50等に表示させたりすることが比較的容易である。
【0170】
しかしながら、実際上、ショベル100の作業環境やオペレータの操作の実情等を考慮すると、下部走行体1にカメラ40Xやセンサ45X等を搭載するのは現実的ではない。カメラ40Xやセンサ45X等が土砂等の付着で機能を果たせなくなったり、地面との接触で損傷したりする可能性が高いからである。また、オペレータは、上部旋回体3のアタッチメントを利用して作業を行う場合が多く、オペレータにとっては、上部旋回体3を基準とする監視対象の位置関係に関する情報が必要だからである。そのため、カメラ40Xやセンサ45X等を上部旋回体3に搭載する必要がある。よって、上部旋回体3の向きとクローラ1Cとの間の関係が基準状態から外れてしまうと、カメラ40Xやセンサ45X等が下部走行体1の走行時における周囲の物体との位置関係に関する情報を適切に取得できない可能性がある。
【0171】
具体的には、下部走行体1の進行方向と上部旋回体3の向きとが一致する状態で、下部走行体1が上部旋回体3の前方に進む場合、キャビン10のオペレータは、クローラ1Cの前方に面する作業者等を直接視認することができる。また、遠隔操作や遠隔監視が行われる場合についても、遠隔操作用の前方カメラの撮像画像が遠隔操作用表示装置に表示されるので、その表示内容からクローラ1Cの前に面する作業者等を確認することができる。また、同じ状態で、下部走行体1が上部旋回体3の後方に進む場合、ショベル100のオペレータや管理者等は、表示装置50等に表示されるカメラ40Bの撮像画像によって、クローラ1Cの後方に面する作業者等を確認できる。
【0172】
一方、下部走行体1の進行方向と上部旋回体3の向きとが揃っている状態から外れてしまうと、カメラ40Xやセンサ45Xの数や配置等によっては、下部走行体1(クローラ1C)に面している空間の情報を適切に取得することができない可能性がある。例えば、上部旋回体3の後方を中心として左側方と右側方との間に亘る相対的に広い範囲が、キャビン10のオペレータから死角になるため、この範囲に対応するカメラ40Xやセンサ45Xは相対的に多く設置される可能性がある。これに対して、上部旋回体3の前方は、オペレータや管理者等が直接視認できたり、前方カメラの表示画像で確認できたりするため、上部旋回体3の右前方から左前方に亘る範囲に対応するカメラ40Xやセンサ45Xは相対的に少なく設置される可能性がある。そのため、下部走行体1の進行方向と上部旋回体3の向きとが揃っている状態から外れた場合に、上部旋回体3の左前方や右前方でクローラ1Cと面している空間が存在すると、カメラ40Xやセンサ45Xがこの空間の情報を適切に取得できない可能性がある。
【0173】
これに対して、本例では、上部旋回体3の向きがクローラ1Cの直進方向と揃っている状態から外れている場合に、上部旋回体3の前側のクローラ1Cの直進方向に面する空間を監視画像としての表示装置50等への表示可能エリアに含めることができる。また、上部旋回体3の向きがクローラ1Cの直進方向と揃っている状態から外れている場合に、上部旋回体3の前側のクローラ1Cの直進方向に面する空間を、検出部304による監視対象の検出可能エリアに含めることができる。そのため、ショベル100の下部走行体1の走行時における安全性を向上させることができる。
【0174】
尚、表示可能エリア及び検出可能エリアのうちの何れか一方だけに、上部旋回体3の前側のクローラ1Cの直進方向に面する空間が含まれる態様であってもよい。また、センサ45Xの数は、ショベル100から見た周方向における検出部304Bの検出可能エリアの中に、ショベル100の周囲の周方向の表示可能エリア全体が含まれる限り、任意であってよい。センサ45Xの配置についても同様である。また、検出部304A,304Bを用いて、監視対象に関する検出結果が冗長的に二つ出力される代わりに、撮像装置40及び周囲情報取得装置45の双方の出力を統合的に用いて、監視対象に関する検出結果が一つ出力される構成が採用されてもよい。この場合についても、同様の作用・効果を奏する。以下、後述の第2例の場合についても同様である。
【0175】
<監視対象の検出可能エリアの第2例>
図11は、ショベル100を上面視で見たときの撮像装置40を用いる検出部304Aの検出可能エリア及び周囲情報取得装置45を用いる検出部304Bの検出可能エリアの第2例を示す図である。
【0176】
図11に示すように、本例では、上部旋回体3の上面において、センサ45Lに代えて、センサ45LF,45LRが設けられ、センサ45Rに代えて、45RF,45RRが設けられる点が異なる。つまり、本例では、周囲情報取得装置45は、センサ45BL,45BR,45LF,45LR,45RF,45RRを含む。以下、本例では、上述の第1例と異なる部分を中心に説明を行い、同じ部分や対応する部分の説明を省略する場合がある。また、本例では、センサ45BL,45BR,45LF,45LR,45RF,45RRを包括的に「センサ45X」と称する場合がある。
【0177】
例えば、ショベル100は、上部旋回体3がクローラ1Cの直進方向(クローラ1Cの前後軸)を基準とする旋回角度が90度より小さい範囲で相対的に大きく旋回した状態(
図11の点線のクローラ1CL,1CRの状態)で作業を行う場合がある。具体的には、本例では、ショベル100は、上部旋回体3がクローラ1Cの直進方向を基準として右方向に75度旋回した状態である。
【0178】
この状態において、上部旋回体3から見た前側のクローラ1C(クローラ1CR)の前端部における直進方向に面する位置に作業者403が位置している。この場合、作業者403は、キャビン10の正面から外れた位置に存在するため、キャビン10のオペレータは、作業者403を目視するのは難しい可能性がある。同様に、ショベル100の遠隔のオペレータや管理者等は、管理装置200の出力装置230(表示装置)や端末装置300の出力装置330(表示装置)に表示される遠隔操作用の前方カメラの画像でも作業者403を確認できない可能性がある。また、クローラ1CRの前端部における直進方向に面している空間は、検出部304Aの検出可能エリア(図中の梨地部分)から大きく外れており、且つ、カメラ40Lの撮像範囲(図中の二本の一点鎖線の間の角度範囲)にも含まれない。
【0179】
これに対して、本例では、上部旋回体3の左側方の範囲を担当するセンサ45Xが二つ(センサ45LF,45LR)設けられる。具体的には、センサ45LFは、上部旋回体3の上面の左端部の前寄りにおいて、光軸が上面視でやや左前方に向くように設置される。また、センサ45LRは、上部旋回体3の上面の左端部の後寄りにおいて、光軸が上面視でやや左後方に向くように設置される。これにより、センサ45LRを用いて、上部旋回体3の左前方から左後方に亘る左側方を赤外線の照射範囲として保持しつつ、センサ45LFを用いて、クローラ1CRの前端部及び直進方向に面する空間を照射範囲に含めることができる。よって、検出部304Bは、上部旋回体3がクローラ1Cの直進方向を基準とする旋回角度が90度より小さい範囲で相対的に大きく旋回した状態において、クローラ1CRの前端部における直進方向に面する位置に存在する作業者403を検出することができる。
【0180】
また、本例では、上部旋回体3の右側方の範囲を担当するセンサ45Xが二つ(センサ45RF,45RR)設けられる。具体的には、センサ45RFは、上部旋回体3の上面の右端部の前寄りにおいて、光軸が上面視でやや右前方に向くように設置される。また、センサ45RRは、上部旋回体3の上面の右端部の後寄りにおいて、光軸が上面視でやや右後方に向くように設置される。これにより、
図11の場合(クローラ1Cの前後軸が左上がりの状態)とは、逆に、クローラ1Cの前後軸が右上がりの状態において、センサ45RRを用いて、上部旋回体3の右前方から右後方に亘る右側方を赤外線の照射範囲として保持しつつ、センサ45RFを用いて、クローラ1CRの後端部及び直進方向に面する空間を照射範囲に含めることができる。よって、検出部304Bは、この状態において、クローラ1CRの後端部における直進方向に面する位置に存在する作業者を検出することができる。
【0181】
このように、本例では、上部旋回体3がクローラ1Cの直進方向を基準として相対的に大きく旋回している状態において、クローラ1Cの直進方向に面する空間は、検出部304により監視対象を検出可能な範囲(検出可能エリア)に含まれる。具体的には、センサ45Xの数や配置が適宜工夫され、検出部304Bは、上部旋回体3がクローラ1Cの直進方向を基準とする旋回角度が90度より小さい範囲で相対的に大きく旋回した状態において、上部旋回体3から見た前側のクローラ1Cに直進方向で面する位置に存在する監視対象(例えば、作業者403)を検出することができる。これにより、ショベル100の安全性を更に向上させることができる。
【0182】
尚、上部旋回体3がクローラ1Cの直進方向を基準として相対的に大きく旋回している状態において、クローラ1Cの直進方向に面する空間を検出部304の検出可能エリアに含めることに代えて、或いは、加えて、カメラ40Xの数や配置を適宜工夫することにより、監視画像として表示装置50等に表示可能な範囲(表示可能エリア)に含めるようにしてもよい。これにより、オペレータ等は、表示装置50等の監視画像を通じて、クローラ1Cの直進方向に面する空間の様子を把握することができる。
【0183】
[監視対象の検出方法]
次に、
図12~
図15を参照して、検出部304による監視対象の検出方法の具体例について説明する。
【0184】
<監視対象の認識方法の具体例>
図12~
図15は、監視対象としての作業現場の人、即ち、作業者の具体例を示す図である。具体的には、
図12は、作業者の第1例(作業者W1)を示す図である。
図13は、作業者の第2例(作業者W2)を示す図である。
図14は、作業者の第3例(作業者W3)を示す図である。
図15は、作業者の第4例(作業者W4)を示す図である。
【0185】
図12に示すように、作業者W1は、ヘルメットHMT及び反射材付きのベスト(以下、「反射ベスト」)RVを着用している。反射材は、再帰反射性(照射光を光源に向けて反射する性能)が非常に高い部材である。
【0186】
図13に示すように、作業者W2は、ヘルメットHMTを着用する一方、反射ベストRVを着用していない。
【0187】
図14に示すように、作業者W3は、反射ベストRVを着用する一方、ヘルメットHMTを着用していない。
【0188】
図15に示すように、作業者W4は、ヘルメットHMT及び反射ベストRVの双方共に着用していない。
【0189】
検出部304Aは、監視対象としての人(作業者)の検出を行う場合、撮像装置40の撮像画像の中から人(作業者)全体の認識及びヘルメットの認識の双方を試みる。これにより、検出部304Aは、人の向きや姿勢等に起因して、人全体を、所定基準を超える確からしさで認識できない場合であっても、ヘルメットを、所定基準を超える確からしさで認識できる場合に、作業者を検出することができる。つまり、検出部304Aは、作業者W1~W4のうち、ヘルメットHMTを着用するW1,W2を他の作業者W3,W4よりも相対的に高い確率で検出することができる。
【0190】
一方、検出部304Bは、監視対象としての人(作業者)の検出を行う場合、受光情報に基づき、受光される反射光(赤外線)の受光強度が相対的に高い(具体的には、所定基準よりも高い)物体の認識(検出)を試みる。反射光の受光強度は、受光強度情報に基づき取得される。また、物体からの反射光の受光強度は、物体の表面の再帰反射性が高くなるほど高くなる一方、物体からセンサ45Xまでの距離が長くなるほど低くなる。そのため、検出部304Bは、受光強度情報に基づく受光強度を、TOF情報に基づく物体までの距離を考慮して、例えば、物体が所定の距離にあると仮定したときの受光強度に補正してもよい。このとき、所定基準は、反射材とそれ以外の物体とを判別可能な態様で予め設定される。これにより、検出部304Bは、反射光の受光強度が相対的に高い物体が認識される場合、反射ベスト等の反射材付きの被服を着用した作業者であると判断し、当該作業者を検出することができる。反射材付きの被服には、反射ベストの他、反射材付きのジャケット、反射材付きのパンツ等、反射材が取り付けられる任意の被服が含まれる。つまり、検出部304Bは、作業者W1~W4のうち、反射ベストRVを着用するW1,W3を他の作業者W2,W4よりも相対的に高い確率で検出することができる。
【0191】
尚、検出部304Bは、複数の照射方向から受光される反射光に対応する受光情報から物体の形状や大きさを認識することが可能である。そのため、検出部304Bは、監視対象としての人(作業者)の検出を行う場合、受光情報に基づく物体の形状や大きさ等を用いて、人(作業者)を認識してもよい。
【0192】
検出部304は、上述の如く、検出部304A,304Bの双方を用いて、監視対象を検出する。これにより、検出部304は、ヘルメット及び反射材付きの被服の双方を着用した作業者(例えば、作業者W1)を最も高い確率で検出する。また、検出部304は、ヘルメット及び反射材付きの被服の何れか一方を着用した作業者を(例えば、作業者W2,W3)、ヘルメット及び反射材付きの被服の双方を着用した作業者の場合よりも低い、ある程度の確率で検出することができる。また、検出部304は、ヘルメット及び反射材付きの被服の双方を未着用の作業者(例えば、作業者W4)を最も低い確率で検出する。換言すれば、検出部304は、ヘルメット及び反射材付きの被服の双方を着用する人を最も検出し易く、ヘルメット及び反射材付きの被服の何れか一方を着用する人をその次に検出し易く、ヘルメット及び反射材付きの被服の双方共に未着用の人を最も検出しにくい態様で構成される。
【0193】
例えば、撮像装置40の撮像画像だけを用いて監視対象としての人が認識(検出)される場合、人の向きや姿勢等によっては人として認識されなかったり、人以外の物体を人であると認識してしまったりする可能性がある。
【0194】
これに対して、本例では、撮像装置40(カメラ40X)の出力(撮像画像)を用いる検出部304Aの他、周囲情報取得装置45(センサ45X)の出力(受光情報)を用いる検出部304Bが設けられる。これにより、周辺監視装置150は、検出部304Aの検出結果だけでなく、検出部304Bの検出結果を用いることができる。そのため、周辺監視装置150は、検出部304Aにより検出されるべき人が検出されない場合や人でない物体が人として検出されてしまう場合であっても、検出部304Bの検出結果を用いて、未検出や誤検出を抑制することができる。よって、ショベル100の安全性をより向上させることができる。また、本例では、検出部304は、安全装備としてのヘルメット及び反射材付きの被服を着用している作業者を相対的に高い精度で検出することができる。そのため、周辺監視装置150は、作業者自身の安全性の確保、ひいては、作業現場の安全性の確保の観点から作業者にヘルメットや反射材付きの被服の着用を促すことができる。
【0195】
尚、本例では、検出部304は、作業者が着用しているヘルメットや反射材付きの被服を識別可能に構成されるが、他の安全装備を識別する態様で監視対象としての人(作業者)を検出(認識)してもよい。識別対象の安全装備には、例えば、安全帯、騒音現場における耳栓、安全靴、アーク溶接用や防振用等の手袋、防塵用や防毒用のマスク、防塵用や遮光用等のメガネ、溶接用面、作業機械等が接近するとアラームを出力するID(Identifier)タグ等が含まれうる。これにより、周辺監視装置150は、より多くの安全装備の装着を作業者に促すことができる。
【0196】
<監視対象の位置の特定方法>
検出部304Aは、撮像画像の中における認識された人(作業者)全体やヘルメットに対応する部分画像の大きさや位置等に基づき、ショベル100から見た作業者の位置(例えば、足元位置)を特定する。作業者のカメラ40Xからの距離によって、撮像画像上での作業者の大きさが変化するからである。また、作業者のカメラ40Xからの距離及び方向によって、撮像画像上での映る位置が変化するからである。
【0197】
一方、検出部304Bは、受光情報のうちのTOF情報に基づき、ショベル100から見た作業者の位置を特定する。TOF情報には、センサ45Xから見た光の照射方向、及び当該照射方向への光の照射から反射光が受光されるまでの時間が含まれ、前者に基づきセンサ45Xからの物体の方向が特定され、後者に基づきセンサ45Xと物体との距離が特定されうるからである。
【0198】
例えば、物体からの反射光(赤外線)の受光強度は、上述の如く、物体とセンサ45Xとの距離が長くなるほど低くなる。そのため、その性質を利用すると、受光強度情報から監視対象の位置(距離)を特定することも可能である。しかしながら、物体からの反射光の受光強度は、その物体の表面の性質、具体的には、再帰反射性や反射率等によっても変化する。そのため、受光強度情報だけを用いて、監視対象の位置が特定される場合、特定される位置の精度が相対的に低下し、周辺監視装置150は、周囲の監視対象の位置を正確に把握することができない可能性がある。例えば、作業者が着用する反射材付きの被服の再帰反射性のバラツキが大きい場合、反射光の受光強度のレンジが相対的に広くなり、受光強度情報に基づく距離情報の精度が低下してしまう可能性がある。よって、監視対象の位置に応じて、報知機能や動作制限機能等の安全機能を作動させる場合に、報知機能や動作制限機能の作動条件にバラツキが生じうる。
【0199】
これに対して、検出部304Bは、受光強度情報、及びTOF情報に基づき、監視対象を認識(検出)し、監視対象の位置を特定する。そして、安全機能制御部305は、検出部304Bにより受光される反射光の強度が相対的に高く、且つ、ショベル100に対する距離が相対的に近い(即ち、報知範囲や動作制限範囲内の)監視対象が検出される場合に、報知機能及び動作制限機能の少なくとも一方を作動させる。つまり、安全機能制御部305は、センサ45Xの出力(受光強度情報及びTOF情報)に基づき、警報の出力やショベル100の動作制限を行う。これにより、周辺監視装置150は、TOF情報を用いることができるため、受光強度情報だけを用いる場合よりも相対的に高い精度で、ショベル100の周囲の監視対象の位置を特定することができる。そのため、周辺監視装置150は、監視対象の位置に応じて、報知機能や動作制限機能等の安全機能を作動させる場合に、報知機能や動作制限機能の作動条件のバラツキを抑制することができる。よって、周辺監視装置150は、ショベル100の安全性を向上させることができる。
【0200】
尚、本例では、検出部304Bは、TOF情報に代えて、或いは、加えて、ショベル100の周囲の物体までの距離に関する他の情報を用いて、監視対象の位置を特定してもよい。例えば、検出部304Bは、撮像装置40(カメラ40X)としてのステレオカメラの撮像画像に基づき取得される、周囲の物体までの距離に関する情報を用いて、監視対象の位置を特定してもよい。
【0201】
[安全機能の作動制御方法]
次に、安全機能制御部305による安全機能(報知機能及び動作制限機能)の作動制御方法の具体例について説明する。
【0202】
本例では、安全機能制御部305は、検出部304Aにより監視対象が検出される場合と、検出部304Bにより監視対象が検出される場合とで、安全機能の作動態様を異ならせる。
【0203】
<安全機能の作動制御方法の第1例>
安全機能制御部305は、検出部304Aにより監視対象が検出される場合、安全機能のうちの報知機能だけを作動させる。つまり、安全機能制御部305は、検出部304Aにより監視対象が検出される場合、監視対象とショベル100との距離等に関係なく、動作制限機能を作動させない。具体的には、安全機能制御部305は、検出部304Aにより報知範囲(以下、便宜的に「第1報知範囲」)内で監視対象が検出される場合、報知機能を作動させ、検出部304Aによる監視対象の検出に対応する動作制限範囲(以下、便宜的に「第1動作制限範囲」)は、設定されない。
【0204】
一方、安全機能制御部305は、検出部304Bにより動作制限範囲(以下、便宜的に「第2動作制限範囲」)で監視対象が検出される場合に、動作制限機能を作動させる。また、安全機能制御部305は、検出部304Bにより報知範囲(以下、便宜的に「第2報知範囲」)で監視対象が検出される場合に、報知機能を作動させてもよい。第1報知範囲及び第2報知範囲は、同じであってもよいし、異なっていてもよい。
【0205】
例えば、監視対象に関する検出精度が相対的に低いにも関わらず、その検出結果に基づき、動作制限機能が作動すると、報知機能が作動する場合より、オペレータに違和感を与えたり、ショベル100の作業効率を低下させたりする可能性が高くなる。
【0206】
これに対して、本例では、周辺監視装置150は、検出部304A,304Bのうち、検出部304Bで監視対象が検出される場合だけ、動作制限機能の作動を許容する。撮像装置40の撮像画像に対する画像認識で監視対象を検出する場合よりも、周囲情報取得装置45の受光情報に基づき監視対象を検出する場合の方が、相対的に検出精度が高くなる傾向にあるからである。つまり、検出部304Aよりも検出部304Bの方が監視対象に関する検出精度が高くなる傾向があるからである。これにより、周辺監視装置150は、オペレータに与える違和感やショベル100の作業効率の低下等を抑制しつつ、ショベル100の安全性を向上させることができる。
【0207】
<安全機能の作動制御方法の第2例>
安全機能制御部305は、検出部304Aにより第1報知範囲で監視対象が検出される場合と、検出部304Bにより第2報知範囲で監視対象が検出される場合とで、報知機能を作動させる際の報知態様(即ち、報知の仕方)を異ならせる。これにより、ショベル100のオペレータ、管理者、周囲の作業者等は、撮像装置40(カメラ40X)を用いて監視対象が検出されているのか、周囲情報取得装置45(センサ45X)を用いて監視対象が検出されているのかを、容易に把握することができる。
【0208】
例えば、安全機能制御部305は、検出部304Aにより監視対象が検出される場合と、検出部304Bにより監視対象が検出される場合とで、音出力装置54から出力される音の音色、音量、パターン、吹鳴周期、音声の内容等を異ならせてよい。また、遠隔報知機能により、管理装置200の出力装置230(音出力装置)や端末装置300の出力装置330(音出力装置)が作動する場合についても同様であってよい。具体的には、安全機能制御部305は、検出部304Bにより監視対象が検出される場合、検出部304Aにより監視対象が検出される場合よりも緊急度(危険度)が高いことを表す音色、音量、パターン、吹鳴周期、音声の内容等が採用されてもよい。上述の如く、検出部304Aよりも検出部304Bの方が監視対象に関する検出精度が高くなる傾向があるからである。
【0209】
また、例えば、安全機能制御部305は、検出部304Aにより監視対象が検出される場合と、検出部304Bにより監視対象が検出される場合とで、表示装置50等に表示される報知機能に関する表示態様を異ならせてもよい(例えば、
図20参照)。
【0210】
[オプション装備の装着時における安全機能の作動制御方法]
次に、
図16を参照して、ショベル100の占有体積を増加させるオプション装備(以下、単に「オプション装備」)の装着時における安全機能制御部305による安全機能の作動制御方法の具体例について説明する。
【0211】
図16は、オプション装備の装着時における動作制限範囲を説明する図である。
【0212】
図16に示すように、本例では、ショベル100には、下部走行体1の前側にオプション装備としてのブレード90が取り付けられている。具体的には、ブレード90は、下部走行体1(クローラ1CL,1CR)の直進方向の前側に飛び出す態様で取り付けられる(図中の白抜き矢印)。そのため、下部走行体1がブレード90の装着される方向(図中の右方向)に走行(例えば、直進走行或いは緩旋回走行)する場合に、ブレード90が装着されない状態よりも周囲の作業者610とショベル100(ブレード90)との距離が近づく。また、下部走行体1がピボットターンやスピンターン等を行う場合に、ブレード90も下部走行体1の動作に伴いショベル100の周囲に向けて旋回動作を行うため、ブレード90が下部走行体1の前側に飛び出す分だけ旋回半径が広くなる。よって、ショベル100にブレード90が装着されていない状態よりも周囲の作業者610とショベル100(ブレード90)との距離が近づく可能性がある。
【0213】
これに対して、安全機能制御部305は、ショベル100の動作(即ち、下部走行体1の走行動作)に伴いブレード90がショベル100の周囲に向けて移動する場合に、その他の場合よりも、安全機能を作動し易くする。その他の場合には、例えば、下部走行体1がブレード90の装着されない後方に走行し、ブレード90がショベル100の周囲から離れる場合が含まれる。本例では、ブレード90がショベル100の周囲に向かう方向、つまり、下部走行体1の前方における動作制限範囲の外縁が、下部走行体1に装着されるブレード90が下部走行体1にブレード90が装着されない場合(例えば、図中の点線620)よりもショベル100から遠ざかるように設定される(例えば、図中の点線630)。当該設定(変更)は、設定部302により実行され、その設定内容は、記憶部303に登録されてよい。また、報知機能に対応する報知範囲の外縁についても同様であってよい。これにより、安全機能制御部305は、ショベル100がブレード90の装着される下部走行体1の前側(図中の右側)に向けて走行する場合に、検出部304による作業者610の検出に応じて、より早く安全機能(警報機能や動作制限機能)を作動させることができる。そのため、安全機能制御部305は、オプション装備の装着に合わせて、より適切に安全機能を作動させることができる。よって、周辺監視装置150は、ショベル100の安全性をより向上させることができる。換言すれば、安全機能制御部305は、オプション装備(ブレード90)が装着されている場合、オプション装備が装着されていない場合よりもショベル100の安全性が相対的に高くなる態様で安全機能を作動させることができる。
【0214】
また、報知範囲や動作制限範囲の外縁がショベル100から遠ざかる方向に設定される代わりに、安全機能を作動させるための他の条件が緩和されることにより、安全機能が作動し易くなるように設定されてもよい。例えば、安全機能の作動条件として、検出部304により検出される監視対象の確からしさの度合い(以下、「監視対象の確度」)に関する条件が含まる場合、当該条件を緩和してもよい。監視対象の確度に関する情報は、検出部304から出力される。具体的には、設定部302は、ショベル100の動作に伴いブレード90がショベル100の周囲に向けて移動する場合に、その他の場合よりも監視対象の確度の条件に対応する閾値を相対的に低く設定してよい。また、設定部302は、ブレード90が装着される場合、ブレード90が装着されない場合よりも監視対象の確度の条件に対応する閾値を相対的に低く設定してよい。これにより、安全機能制御部305は、オプション装備の装着に合わせて、より適切に安全機能を作動させることができる。
【0215】
また、安全機能の作動条件が緩和される代わりに、作動する安全機能が相対的に安全性の高い仕様に切り替えられてもよい。例えば、設定部302は、ショベル100の動作に伴いブレード90がショベル100の周囲に向けて移動する場合に、安全機能として報知機能及び動作制限機能を作動可能に設定し、その他の場合に、報知機能だけを作動可能と設定してもよい。また、設定部302は、ブレード90が装着される場合に、安全機能として報知機能及び動作制限機能を作動可能に設定し、ブレード90が装着されない場合に、安全機能として報知機能だけを作動可能に設定してもよい。動作制限機能は、オペレータ等の意図に関わらず、強制的にショベル100の動作を制限することができる点で、報知機能よりも相対的に安全性が高いからである。また、設定部302は、ショベル100の動作に伴いブレード90がショベル100の周囲に向けて移動する場合に、相対的に高い制限度で動作制限機能を作動可能に設定し、その他の場合に、相対的に低い制限度で動作制限機能を作動可能に設定してもよい。また、設定部302は、ブレード90が装着される場合に、相対的に高い制限度で動作制限機能を作動可能に設定し、ブレード90が装着されない場合に、相対的に低い制限度で動作制限機能を作動可能に設定してもよい。また、設定部302は、ショベル100の動作に伴いブレード90がショベル100の周囲に向けて移動する場合に、相対的に高い緊急度(危険度)を表す態様で報知機能を作動可能に設定し、その他の場合に、相対的に低い緊急度(危険度)を表す態様で報知機能を作動可能に設定してもよい。また、設定部302は、ブレード90が装着される場合に、相対的に高い緊急度(危険度)を表す態様で報知機能を作動可能に設定し、ブレード90が装着されない場合に、相対的に低い緊急度(危険度)を表す態様で報知機能を作動可能に設定してもよい。これにより、安全機能制御部305は、オプション装備の装着に合わせて、より適切に安全機能を作動させることができる。
【0216】
また、ブレード90に代えて、或いは加えて、他の種類のオプション装備が取り付けられる場合についても、同様に、相対的に安全性が高くなる態様で安全機能が作動されてよい。他の種類のオプション装備には、例えば、上部旋回体3の後部に装着される追加のカウンタウェイトや標準装備のカウンタウェイトより重量が重い大型のカウンタウェイトが含まれてよい。また、他の種類のオプション装備には、アーム5の代わりに装着される相対的に長いロングアームが含まれてよい。また、他の種類のオプション装備には、例えば、バケット6の代わりに取り付けられるエンドアタッチメントとしての予備アタッチメント(例えば、ブレーカや攪拌機等)やエンドアタッチメントとアーム5との間に取り付けられる予備アタッチメント(例えば、クイックカップリングやチルトローテータ等)が含まれてもよい。
【0217】
また、安全機能制御部305は、オプション装備が着脱可能である場合に、オプション装備の種類ごとに、オプション装備の有無を判断し、その判断結果に応じて、上述の如く、安全機能の作動態様を変化させてもよい。例えば、設定部302は、入力装置52を通じたオペレータ等の所定の入力に応じて、オプション装備の装着状態(例えば、オプション装備の種類ごとの装着の有無等)に関する設定を行う。そして、安全機能制御部305は、記憶部303に登録されるその設定内容に基づき、オプション装備の有無を判断してよい。また、例えば、安全機能制御部305は、オプション装備の装着状況に関する情報を取得可能なセンサ(例えば、撮像装置40やオプション装備の取付部に設けられるスイッチ)等の出力に基づき、オプション装備の種類ごとにオプション装備が装着されているか否かを自動で判断してもよい。
【0218】
また、表示処理部301は、オプション装備が装着されていない状態からオプション装備が装着されている状態に移行した場合に、安全機能の作動態様の変更に関する通知(以下、単に「変更通知」)を表示装置50等に表示させてもよい。当該変更通知には、安全機能の作動対象が自動で変更されることの通知が含まれる。これにより、周辺監視装置150は、オプション装備の装着によって、自動で、安全機能の作動態様が変更されることをオペレータや管理者等に把握させることができる。また、当該変更通知には、安全機能の作動態様の変更の許否を促す通知であってもよい。この場合、オペレータや管理者等のユーザは、当該変更通知が表示装置50等に表示される場合に、入力装置52,240,340を通じて、安全機能の作動態様の変更を許可したり、拒否したりすることができる。そのため、オプション装備の装着状況に応じた安全機能の作動態様の変更に対して、オペレータや管理者等のユーザの意思を反映させることができる。また、当該変更通知には、安全機能の作動態様の手動での変更を促す通知であってもよい。この場合、ユーザは、当該変更通知に応じて、手動で、安全機能の作動態様の変更を行うことができる。つまり、設定部302は、入力装置52,240,340を通じたオペレータや管理者等による手動での設定操作に応じて、安全機能の作動態様を変更することができる。そのため、オプション装備の装着状況に応じた安全機能の作動態様の変更に対して、オペレータ等のユーザの意思を反映させることができる。
【0219】
[外部報知機能の作動制御方法]
次に、安全機能制御部305による外部報知機能の作動制御方法の具体例について説明する。
【0220】
安全機能制御部305は、上述の如く、検出部304により監視対象が検出される場合に、外部報知機能を作動可能に構成される。
【0221】
例えば、監視対象としての作業者の動作に起因するショベル100と周囲の作業者との位置関係の変化は、相対的に緩やかであり、急激に安全性が低下する可能性が低いと考えられる。そのため、それほど安全性が低下していない状況では、外部報知機能を作動させる必要性は相対的に低く、逆に、外部報知機能を作動させると、例えば、作業者が驚いて作業のミスを誘発する可能性もある。よって、本例では、安全機能制御部305は、検出部304により(報知範囲内で)監視対象が検出される場合に、外部報知機能を作動させるときと、外部報知機能を作動させないときとがある。
【0222】
一方、例えば、ショベル100は、その操作状況や地形の状況によっては、その動作に起因して急激に安全性が低下する場合も想定される。そのため、それほど安全性が低下していない状況であっても、キャビン10の内部のオペレータや遠隔操作のオペレータに対して、周囲の作業者等の監視対象の存在を通知する必要性が高いと考えられる。また、ショベル100が自動運転機能で作業を行っている場合に、ショベル100の管理者等は、例えば、管理装置200の出力装置230(表示装置)に表示される監視画像を見ながら、それぞれのショベル100の作業状況を監視する場合もある。同様に、ショベル100の管理者等は、端末装置300を用いて、その作業状況を監視する場合もある。そのため、それほど安全性が低下していない状況であっても、遠隔でショベル100の作業状況を監視する管理者等に対して、周囲の作業者等の監視対象の存在を通知する必要性が高いと考えられる。よって、安全機能制御部305は、検出部304により報知範囲内で監視対象が検出される場合に、外部報知機能がしないときでも、内部報知機能や遠隔報知機能を作動させてよい。
【0223】
例えば、安全機能制御部305は、検出部304A及び検出部304Bの何れにより監視対象が検出されているのかに応じて、外部報知機能を作動させるときと、作動させないときとを切り替えてよい。具体的には、安全機能制御部305は、検出部304Aにより監視対象が検出される場合に、外部報知機能を作動不可である一方、検出部304Bにより監視対象が検出される場合に、外部報知機能を作動可能であるように構成されてよい。例えば、外部報知機能が作動すると、ショベル100の周囲の作業者等の作業が止まってしまう可能性があり、仮に誤報であると、不要な外部報知機能の作動による作業効率の低下が生じる可能性がある。これに対して、上述の如く、検出部304A,304Bのうちの相対的に検出精度が高い傾向にある検出部304Bにより監視対象が検出される場合だけ、外部報知機能を作動可能にさせることで、ショベル100の周囲の安全性と作業効率とのバランスを図ることができる。
【0224】
また、例えば、安全機能制御部305は、検出部304により監視対象が検出される場合に、動作制限機能の作動状況と連動させることにより、外部報知機能を作動させるときと、作動させないときとを切り替えてもよい。具体的には、安全機能制御部305は、検出部304により報知範囲で監視対象が検出される場合であっても、動作制限機能(例えば、動作減速機能)が作動しない場合(例えば、後述の如く、監視対象とショベル100との接触する可能性がない場合等)、外部報知機能を作動させないようにしてよい。一方、安全機能制御部305は、検出部304により報知範囲で監視対象が検出され、且つ、動作制限機能(例えば、動作減速機能)が作動している場合に、外部報知機能を作動させてよい。これにより、周辺監視装置150は、ショベル100の安全性を確保しつつ、周囲の監視対象とショベル100との接触の可能性が低い状況で、外部報知機能が作動し、ショベル100の周囲の作業者等の作業が止まってしまうような事態の発生を抑制できる。そのため、ショベル100の安全性を考慮しつつ、作業現場の作業効率の低下を抑制することができる。また、ショベル100の動作制限機能が作動すると、ショベル100の周囲の作業者等の注意を引くことになるため、そもそも、ショベル100の周囲の作業が停止したり、滞ったりする可能性が高い。そのため、そのような状況で作動する外部報知機能が仮に誤報であったとしても、そもそも、ショベル100の周囲の作業が停止したり、滞ったりしているため、作業効率の低下の問題も生じにくくなる。
【0225】
また、例えば、安全機能制御部305は、検出部304により報知範囲で監視対象が検出されている場合に、ショベル100の動作する方向に監視対象が存在するか否かに応じて、外部報知機能を作動させるときと、作動させないときとを切り替えてもよい。具体的には、安全機能制御部305は、ショベル100の操作情報に基づき、被駆動要素(例えば、下部走行体1、上部旋回体3、アタッチメント等)の操作に伴うショベル100の動作する方向を判断し、ショベル100の動作する方向に監視対象が存在しないときに、外部報知機能を作動させないようにしてよい。一方、安全機能制御部305は、ショベル100の操作情報に基づき、被駆動要素の操作に伴うショベル100の動作する方向を判断し、ショベル100の動作する方向に監視対象が存在するときに、外部報知機能を作動させてよい。これにより、周辺監視装置150は、ショベル100の安全性を確保しつつ、周囲の監視対象とショベル100との接触の可能性が低い状況で、外部報知機能が作動し、ショベル100の周囲の作業者等の作業が止まってしまうような事態の発生を抑制できる。そのため、ショベル100の安全性を考慮しつつ、作業現場の作業効率の低下を抑制することができる。
【0226】
また、例えば、安全機能制御部305は、検出部304により報知範囲で監視対象が検出されている場合に、ショベル100と当該監視対象との位置関係に基づく危険度の高低に応じて、外部報知機能を作動させるときと、作動させないときとを切り替えてもよい。
具体的には、安全機能制御部305は、ショベル100と当該監視対象との位置関係に基づく危険度(例えば、接触の可能性等)が相対的に高いときに、外部報知機能を作動させる一方、ショベル100と当該監視対象との位置関係に基づく危険度が相対的に低いときに、外部報知機能を作動させないようにしてよい。当該危険度は、例えば、監視対象とショベル100との距離に基づき取得(算出)されてよい。また、当該危険度は、例えば、監視対象と、ショベル100の操作に対応する被駆動要素の動作方向(例えば、下部走行体1の進行方向、上部旋回体3の旋回方向、アタッチメントの移動方向等)に基づき取得(算出)されてもよい。これにより、周辺監視装置150は、ショベル100の安全性を確保しつつ、周囲の監視対象とショベル100との接触の可能性が低い状況で、外部報知機能が作動し、ショベル100の周囲の作業者等の作業が止まってしまうような事態の発生を抑制できる。そのため、ショベル100の安全性を考慮しつつ、作業現場の作業効率の低下を抑制することができる。
【0227】
また、例えば、安全機能制御部305は、検出部304により報知範囲で監視対象が検出されている場合、ゲートロックレバーの操作状態に応じて、外部報知機能を作動させるときと、作動させないときとを切り替えてもよい。具体的には、安全機能制御部305は、ゲートロックレバーが解除状態のときに、外部報知機能を作動させてよい。ゲートロックレバーが解除状態のときには、オペレータの操作や自動運転機能に対応する操作指令に応じて、ショベル100が動作する可能性が高いからである。一方、安全機能制御部305は、ゲートロックレバーがロック状態のときに、外部報知機能を作動させないようにしてよい。ゲートロックレバーがロック状態のときには、オペレータの操作や自動運転機能に対応する操作指令が無効にされ、ショベル100が動作しないからである。これにより、ショベル100の安全性を考慮しつつ、作業現場の作業効率の低下を抑制することができる。
【0228】
また、例えば、安全機能制御部305は、検出部304により報知範囲で監視対象が検出されている場合、他の作動条件の成立でショベル100の動作を停止させているか否かに応じて、外部報知機能を作動させるときと、作動させないときとを切り替えてもよい。具体的には、安全機能制御部305は、他の作動条件の成立に応じてショベル100の動作を停止(禁止)させていないときに、外部報知機能を作動させてよい。オペレータの操作や自動運転機能に対応する操作指令に応じてショベル100が動作する可能性があるからである。一方、安全機能制御部305は、他の作動条件の成立に応じてショベル100の動作を停止(禁止)させているときに、外部報知機能を作動させないようにしてよい。オペレータの操作や自動運転機能に対応する操作指令に依らず、ショベル100が停止されているからである。これにより、ショベル100の安全性を考慮しつつ、作業現場の作業効率の低下を抑制することができる。
【0229】
また、例えば、安全機能制御部305は、検出部304により報知範囲で監視対象が検出されている場合、ショベル100の停止状態の継続時間の長短に応じて、外部報知機能を作動させるときと、作動させないときとを切り替えてもよい。具体的には、安全機能制御部305は、ショベル100の停止している継続時間が所定閾値より長いときに、外部報知機能を作動させてよい。ショベル100の停止している継続時間が相対的に長くなると、ショベル100の周囲の作業者等には、ショベル100が動かないだろうという意識が強くなり、安全性への意識が低下する可能性があるからである。一方、安全機能制御部305は、ショベル100の停止している継続時間が所定閾値以下であるとき(ショベル100が停止していないときを含む)に、外部報知機能を作動させないようにしてよい。逆に、ショベル100の停止している継続時間が相対的に短く、ショベル100が断続的に動いているような状態では、ショベル100の動作への作業者の注意が働きやすく、作業者の安全性に対する意識は相対的に高いと考えられるからである。これにより、ショベル100の安全性を考慮しつつ、作業現場の作業効率の低下を抑制することができる。
【0230】
また、安全機能制御部305は、検出部304により報知範囲で監視対象が検出されている場合、ショベル100の停止状態での動作の開始の兆候に応じて、外部報知機能を作動させるときと、作動させないときとを切り替えてもよい。具体的には、安全機能制御部305は、ショベル100が停止しており、且つ、ショベル100が動作を開始する兆候があるときに、外部報知機能を作動させてよい。また、安全機能制御部305は、ショベル100の停止している継続時間が所定閾値以上で、且つ、ショベル100が動作を開始する兆候があるときに、外部報知機能を作動させてもよい。ショベル100が動作を開始する可能性が高いからである。一方、安全機能制御部305は、ショベル100が停止していないとき、或いは、停止中のショベル100が動作を開始する兆候がないときに、外部報知機能を作動させないようにしてよい。また、安全機能制御部305は、ショベル100が停止している継続時間が所定閾値以下であるとき(ショベル100が停止していないときを含む)、或いは、停止中のショベル100が動作を開始する兆候がないときに、外部報知機能を作動させないようにしてもよい。上述の如く、ショベル100が動いている状況では、ショベル100への作業者の注意が働きやすく、作業者の安全性に対する意識は相対的に高いと考えられるからである。また、ショベル100が動作を開始する可能性が低い状況では、外部報知機能の必要性が相対的に低下するからである。これにより、ショベル100の安全性を考慮しつつ、作業現場の作業効率の低下を抑制することができる。
【0231】
ショベル100の動作の開始の兆候の有無は、例えば、ゲートロックレバーの操作状態に基づき判断されてよい。ゲートロックレバーがロック状態にある場合、ショベル100が動作を開始する可能性が低い一方、ゲートロックレバーがロック状態から解除状態に操作された場合、ショベル100が動作を開始する可能性が高いからである。また、ショベル100の動作の開始の兆候の有無は、例えば、オペレータの操作の開始の兆候の有無によって判断されてよい。オペレータの操作の開始の兆候の有無は、例えば、キャビン10の室内に設置されるカメラや遠隔操作のオペレータを撮像するカメラの撮像画像に基づき認識されてよい。遠隔操作のオペレータを撮像するカメラは、例えば、管理装置200や端末装置300に設置される。また、オペレータの操作の開始の兆候の有無は、例えば、操作装置26や遠隔操作用操作装置に対するオペレータによる接触状態(把持状態)に基づき認識されてもよい。例えば、操作装置26や遠隔操作用操作装置がオペレータにより握られていない場合、その出力は、ゼロに相当する状態で安定している。一方、操作装置26や遠隔操作用操作装置をオペレータが手で握ると、操作装置26や遠隔操作用操作装置の出力は、操作開始前において、微少な操作量を示す状態に移行する。そのため、操作装置26や遠隔操作用操作装置の出力(圧力信号や電気信号)を監視することにより、操作装置や遠隔操作用操作装置に対するオペレータの手の接触状態を把握し、オペレータの操作開始の兆候の有無を認識することができる。また、ショベル100の動作の開始の兆候の有無は、ショベル100の動作パターンに基づき、判断されてもよい。ショベル100の動作パターンは、例えば、オペレータの操作の内容や自動運転機能に対応する操作指令の内容の履歴に基づき認識されてよい。
【0232】
また、例えば、設定部302は、入力装置52を通じてオペレータ等による所定の操作に応じて、外部報知機能のON(有効)及びOFF(無効)を切り替える設定を行ってもよい。この場合、安全機能制御部305は、検出部304により報知範囲で監視対象が検出される場合、外部報知機能の作動の有無に関する設定状況に応じて、外部報知機能を作動させるときと、作動させないときとを切り替えてよい。具体的には、安全機能制御部305は、検出部304により報知範囲で監視対象が検出される場合、外部報知機能がON(有効)に設定されているときに、外部報知機能を作動させ、外部報知機能がOFF(無効)に設定されているときに、外部報知機能を作動させないようにしてよい。これにより、周辺監視装置150は、外部報知機能を作動させるか否かの判断に対して、オペレータ等の意思を反映させることができる。
【0233】
安全機能制御部305は、上述の如く、音出力装置54を通じて、外部報知機能を作動させてよい。音出力装置54には、上述の如く、例えば、ホーン54aや走行アラーム54b等が含まれる。これにより、安全機能制御部305は、既存のホーン54aや走行アラーム54bを用いて、外部報知機能を実現させることができる。そのため、外部報知機能の実現のためのコストを抑制することができる。
【0234】
例えば、ホーン54aは、ノブスイッチ64のON操作とは無関係に、コントローラ30からの外部報知機能の作動に対応する制御指令(制御電流)に応じて、コイルが通電され、リレー62が閉成されることにより、吹鳴可能な構成であってよい。コントローラ30は、ホーンリレーの開閉パターンを適宜制御することにより、ホーン54aから所定の吹鳴パターンで音を出力させることができる。このとき、外部報知機能に対応するホーン54aの吹鳴パターンは、通常、オペレータ等が走行開始時に吹鳴させるときの吹鳴パターンと異なる態様に設定されてよい。これにより、周辺監視装置150は、ショベル100の周囲の作業者等に対して、ショベル100の走行開始の通知(合図)と、外部報知機能の作動とを識別させることができる。
【0235】
また、例えば、走行アラーム54bは、コントローラ30の外部報知機能の作動に対応する制御指令に応じて、所定の吹鳴パターンで音を出力する。このとき、外部報知機能に対応する走行アラームの吹鳴パターンは、通常の下部走行体1の走行時とは異なる態様(例えば、"ピピピッ、ピピピッ、ピピピッ、・・・"と繰り返し吹鳴するビープ音)に設定されてよい。これにより、周辺監視装置150は、ホーン54aの場合と同様、ショベル100の周囲の作業者等に対して、ショベル100の走行時の通知と、外部報知機能の作動とを識別させることができる。
【0236】
また、安全機能制御部305は、上述の如く、上部旋回体3のハウス部等に設けられる前照灯等の照明装置や外部用の表示装置を用いて、外部報知機能を作動させてもよい。
【0237】
例えば、照明装置は、コントローラ30の外部報知機能の作動に対応する制御指令に応じて、点灯したり、所定のパターンで点灯と消灯とを繰り返したりする。
【0238】
また、例えば、外部用の表示装置は、コントローラ30の外部報知機能の作動に対応する制御指令に応じて、ショベル100の周囲の作業者や監督者等にショベル100の周囲からの待避を促す文字情報を表示させる。
【0239】
[動作制限機能の作動制御方法]
次に、
図17~
図19を参照して、安全機能制御部305による動作制限機能の作動制御方法の具体例について説明する。
【0240】
図17は、ショベル100の周囲の監視対象との接触の有無の判断方法を説明する図であり、具体的には、
図17は、ショベル100の下部走行体1(クローラ1CL,1CR)が図中の右方向に直進走行している作業状況700を示している。
図18、
図19は、動作制限機能の作動制御方法を説明する図である。具体的には、
図18、
図19は、それぞれ、ショベル100の作業状況810,820における動作制限機能の作動制御方法を示す図である。
【0241】
本例では、安全機能制御部305は、検出部304により動作制限範囲に監視対象が検出される場合、ショベル100の操作(即ち、操作装置26の操作や遠隔操作)や自動運転機能に対応する操作指令に応じたショベル100の動作によって、当該監視対象とショベル100との接触が生じるか否かを判断する。そして、安全機能制御部305は、当該監視対象とショベル100との接触が生じると判断する場合に、動作停止機能を作動させ、ショベル100の操作に対するショベル100の動作を停止させる。
【0242】
具体的には、安全機能制御部305は、操作対象の被駆動要素の操作情報に基づき、被駆動要素の動作する方向を判断してよい。そして、安全機能制御部305は、ショベル100の外面と(検出部304により検出されている)監視対象との位置関係に関する情報と、判断したショベル100の動作する方向とに基づき、ショベル100と監視対象との接触の有無を予測してよい。ショベル100の外面と監視対象との位置関係に関する情報には、例えば、撮像装置40(カメラ40X)や周囲情報取得装置45(センサ45X)の出力情報や検出部304の検出結果等が含まれうる。また、ショベル100の外面と監視対象との位置関係に関する情報には、例えば、カメラ40Xやセンサ45Xのショベル100(上部旋回体3)における設置位置に関する情報が含まれうる。監視対象に関する情報を取得しているカメラ40X、センサ45Xの設置場所から、監視対象がショベル100の外面のどの部分と近いのか等を判断することができるからである。また、ショベル100の外面と監視対象との位置関係に関する情報には、ショベル100が動作する方向に対するショベル100の体格(例えば、幅等の諸元や形状等)に関する情報が含まれうる。ショベル100が動作する方向に対するショベル100の体格(占有幅)によって、ショベル100の外面と監視対象との位置関係が変化しうるからである。
【0243】
例えば、安全機能制御部305は、検出部304により監視対象が検出されている場合、所定周期ごとに、被駆動要素の操作情報に基づき、被駆動要素の動作に伴うショベル100の動作する方向を判断する。これにより、被駆動要素の操作情報の変化に合わせて、ショベル100の動作する方向の判断結果が更新される。同様に、検出部304は、所定周期ごとに、ショベル100の周囲の監視対象を検出する処理を行い、検出される監視対象の位置情報を出力する。これにより、検出部304により継続して検出されている監視対象のショベル100に対する相対的な位置情報が遂次更新される。そして、安全機能制御部305は、自らが判断するショベル100の動作する方向と、検出部304から出力される監視対象の位置情報とに基づき、今後の所定時間が経過するまでの間で、ショベル100と監視対象との接触が生じるか否かを判断してよい。これにより、安全機能制御部305は、逐次更新されるショベル100の動作する方向とショベル100から見た監視対象の位置とに合わせて、逐次、ショベル100と周囲の監視対象との間の接触の有無の判断結果を更新していくことができる。そのため、被駆動要素に関する操作内容が変化するような状況(例えば、下部走行体1に関する操作内容が、直進走行から緩旋回走行に変化する走行操作が行われる場合等)であっても、適切に、ショベル100と監視対象との間の接触の有無を判断することができる。
【0244】
また、例えば、安全機能制御部305は、ショベル100の外面と監視対象との位置関係に関する情報と、判断したショベル100の動作する方向とに基づき設定される所定範囲(即ち、動作停止範囲)を用いて、ショベル100と監視対象との接触の有無を判断してもよい。具体的には、動作停止範囲は、ショベル100と監視対象との間の接触が生じうる範囲として、所定周期ごとに、設定部302により設定されてよい。
【0245】
例えば、
図17の作業状況700では、上部旋回体3及びアタッチメントが実線で示されるショベル100(以下、便宜的に、「実線のショベル100」)は、下部走行体1の直進方向(図中の右方向)に対して、上部旋回体3(アタッチメント)が左方向に90度旋回し、図中の上方向を向いている。また、上部旋回体3及びアタッチメントが一点鎖線で示されるショベル100(以下、便宜的に、「一点鎖線のショベル100」)は、下部走行体1の直進方向(図中の右方向)に対して、上部旋回体3が左方向に旋回し、図中の右斜め上方向を向いている。
【0246】
実線のショベル100の下部走行体1が図中の右方向に走行する場合、機体(下部走行体1及び上部旋回体3)は、上面視で、クローラ1CLの左端部(外端部)と上部旋回体3の後端部とにより規定される点線710の間の幅(範囲)を通過する。そのため、安全機能制御部305は、実線のショベル100の状態の場合、下部走行体1の走行時に、クローラ1CLの左端部(外端部)及び上部旋回体3の後端部と、周囲の監視対象(例えば、作業者730)との位置関係によって、監視対象とショベル100(機体)との接触の有無を判断することができる。また、安全機能制御部305は、ショベル100の直進方向(図中の右方向)に対するショベル100の機体の体格(点線710の間の幅)と、ショベル100の周囲の監視対象の相対位置とによって、監視対象とショベル100(機体)との接触の有無を判断することも可能である。例えば、安全機能制御部305は、点線710の間の幅に対して所定の余裕分(例えば、1メートル~1.5メートル)を付加した幅で規定される動作停止範囲内で、監視対象が検出される場合に、ショベル100と監視対象との接触が生じると判断してよい。
【0247】
一方、一点鎖線のショベル100の下部走行体1が図中の右方向に走行する場合、機体(下部走行体1及び上部旋回体3)は、上面視で、上部旋回体3の左前端の隅部と右後端の隅部とにより規定される一点鎖線720の間の幅(範囲)を通過する。そのため、安全機能制御部305は、一点鎖線のショベル100の状態の場合、下部走行体1の走行時に、上部旋回体3の左前端の隅部及び右後端の隅部と、周囲の監視対象(例えば、作業者730)との位置関係によって、監視対象とショベル100(機体)との接触の有無を判断することができる。また、安全機能制御部305は、ショベル100の直進方向(図中の右方向)に対するショベル100の機体の体格(一点鎖線720の間の幅)と、ショベル100の周囲の監視対象の相対位置とによって、監視対象とショベル100(機体)との接触の有無を判断することも可能である。例えば、安全機能制御部305は、一点鎖線720の間の幅に対して所定の余裕分を追加した幅で規定される動作停止範囲内で、監視対象が検出される場合に、ショベル100と監視対象との接触が生じると判断してよい。
【0248】
上述の如く、実線のショベル100の状態の場合、動作停止範囲は、点線710の間の範囲に相当し、一点鎖線のショベル100の状態の場合、動作停止範囲は、一点鎖線720の間の範囲に相当する。つまり、設定部302は、下部走行体1に対する上部旋回体3の旋回角度に応じて、動作停止範囲を変化させてよい。これにより、設定部302は、上部旋回体3の旋回角度に合わせて、より適切に、動作停止範囲を設定することができる。上部旋回体3の旋回角度に関する情報は、例えば、カメラ40Xの撮像画像に基づき取得されてよい。具体的には、カメラ40Xの撮像画像に映っているクローラの見え方やどのカメラ40Xに映っているか等に応じて、上部旋回体3の旋回角度が判断されうる。また、上部旋回体3の旋回角度に関する情報を取得可能なセンサ(例えば、上部旋回体3に搭載される、ロータリエンコーダ、加速度センサ、角速度センサ、六軸センサ、IMU(Inertial Measurement Unit等)がショベル100に設けられてもよい。
【0249】
また、
図17の作業状況700では、下部走行体1が直進走行する場合を想定するが、下部走行体1は、直進走行の他、緩旋回走行、ピボットターン、スピンターン等の走行態様を有する。そのため、安全機能制御部305は、操作情報出力装置29から入力される操作情報に基づき、下部走行体1の直進走行に対応する走行操作であるのか、緩旋回走行に対応する走行操作であるのか、ピボットターンに対応する旋回操作であるのか、スピンターンに対応する旋回操作であるのかを判断してよい。つまり、下部走行体1に関する操作情報には、直進走行に対応する走行操作を表す情報、緩旋回走行に対応する走行操作を表す情報、ピボットターンに対応する走行操作を表す情報、及びスピンターンに対応する走行操作を表す情報の少なくとも一つが含まれてよい。
【0250】
このように、安全機能制御部305は、ショベル100の被駆動要素の動作方向に対する機体等の体格(占有幅)を考慮することにより、ショベル100と検出部304により検出される周囲の監視対象との間の接触の有無を判断することができる。具体的には、安全機能制御部305は、ショベル100の被駆動要素に関する操作情報、及びショベル100の外面と監視対象との間の位置関係に関する情報に基づき、被駆動要素の動作に伴い監視対象とショベル100との接触が生じるか否かを判断してよい。また、下部走行体1の走行操作の場合、下部走行体1の走行操作に関する情報には、直進走行に対応する走行操作を表す情報、緩旋回走行に対応する走行操作を表す情報、ピボットターンに対応する走行操作を表す情報、及びスピンターンに対応する走行操作を表す情報の少なくとも一つが含まれる。これにより、安全機能制御部305は、下部走行体1の進行方向をより詳細に把握し、より適切に、ショベル100と監視対象との間の接触の有無を判断することができる。
【0251】
例えば、
図18の作業状況810では、ショベル100は、下部走行体1の直進方向(図中の右方向)を基準とする旋回角度が左方向に90度の状態にある。また、下部走行体1の前方(図中の右方向)の正面には、検出部304により検出される作業者811が存在する。
【0252】
この場合、安全機能制御部305は、下部走行体1の走行操作に応じて、下部走行体1が後方(図中の左方向)に進行(後進)することを許容する。ショベル100は、作業者811から離れる方向に移動するため、ショベル100と作業者811との接触が生じ得ないからである。一方、安全機能制御部305は、下部走行体1の走行操作に応じて、下部走行体1の前方(図中の右方向)に進行(前進)することを禁止し、動作停止機能を作動させる。作業者811は、ショベル100の進行方向の正面に存在するため、そのまま進行すると、ショベル100が作業者811に近づき、ショベル100と作業者811との間に接触が生じるからである。
【0253】
また、
図19の作業状況820では、
図18の作業状況810と同様、ショベル100は、下部走行体1の直進方向(図中の右方向)を基準とする旋回角度が左方向に90度の状態にある。また、下部走行体1の右斜め後方、且つ、クローラ1CRの右斜め前方には、検出部304により検出される作業者821が存在する。
【0254】
この場合、安全機能制御部305は、下部走行体1の走行操作に応じて、下部走行体1が後方(図中の左方向)に進行(後進)することを許容する。ショベル100は、作業者811から離れる方向に移動するため、ショベル100と作業者811との接触が生じ得ないからである。また、安全機能制御部305は、下部走行体1の走行操作に応じて、下部走行体1の前方(図中の右方向)に進行(前進)することも許容する。ショベル100は、下部走行体1の走行に伴い作業者812に近づくものの、ショベル100の占有幅の端部(一点鎖線822)からある程度離れているため、そのまま進行(直進)しても、ショベル100と作業者811との間に接触が生じないからである。
【0255】
尚、
図19の作業状況820において、下部走行体1の右方向への緩旋回走行に対応する走行操作が行われる場合、ショベル100は、右方向に旋回しながら、作業者812に向かって移動する。そのため、安全機能制御部305は、下部走行体1の走行操作が右方向への緩旋回走行である場合、ショベル100の進行を禁止し、動作停止機能を作動させてよい。これにより、安全機能制御部305は、下部走行体1の走行操作の内容に応じて、より適切に、動作停止機能を作動させることができる。
【0256】
このように、安全機能制御部305は、ショベル100の操作に応じて、ショベル100が検出部304により検出される監視対象と接触しそうな場合、動作停止機能を作動させ、当該操作に対するショベル100の動作を停止させる。一方、安全機能制御部305は、ショベル100の操作に応じて、ショベル100が検出部304に検出される監視対象に近づく場合あっても、監視対象とショベル100との接触が生じない場合、当該操作に対するショベル100の動作を許容する。具体的には、安全機能制御部305は、被駆動要素のショベル100と検出部304により検出される監視対象とが接触するか否かを判断し、ショベル100と監視対象との間の接触が生じないと判断する場合に、ショベル100の操作に対するショベル100の動作を許容する。このとき、安全機能制御部305は、動作減速機能を作動させ、ショベル100の動作速度を減速させながら、ショベル100の動作を許容してもよいし、ショベル100の動作制限機能自体を作動させずに、ショベル100の動作を許容してもよい。これにより、周辺監視装置150は、ショベル100と監視対象との間の接触が生じない場合には、ショベル100の動作を許容し、ショベル100の安全性と作業効率とのバランスを図ることができる。よって、周辺監視装置150は、ショベル100の周囲の障害物(監視対象)の存在に応じて、より適切にショベル100の動作を停止させることができる。
【0257】
[監視対象の検出時における監視画像の表示制御方法]
次に、
図20~
図22を参照して、検出部304による監視対象の検出時における表示処理部301による監視画像の表示制御方法の具体例を説明する。
【0258】
図20~
図22は、検出部304による監視対象の検出時における監視画像の具体例を示す図である。具体的には、
図20~
図22は、それぞれ、検出部304による監視対象の検出時における表示装置50に表示される監視画像の第1例~第3例(監視画像910~930)を示す図である。
【0259】
尚、
図22では、実際には表示されていない指示画像934,935が点線で描画されている。
【0260】
まず、
図20に示すように、表示装置50には、表示処理部301の制御下で、監視画像910として、カメラ40Bの撮像画像(スルー画像)が表示されている。
【0261】
監視画像910には、ヘルメット及び反射ベストを着用している作業者911が映っている。本例では、作業者911は、ヘルメット及び反射ベストの双方を着用していることから、検出部304A及び検出部304Bの双方により検出されている。
【0262】
また、監視画像910には、検出部304Aにより作業者911が検出されていることを示す枠912が重畳して表示される。これにより、オペレータ等は、検出部304Aにより検出された作業者911の存在やその位置を認識し易くなる。
【0263】
また、枠912は、検出部304(検出部304A)により検出されている監視対象(作業者911)のショベル100からの距離に応じて、その表示態様が変化してもよい。例えば、枠912は、検出部304Aにより検出されている監視対象とショベル100との間の距離が相対的に離れている場合、黄色で表示され、当該監視対象とショベル100との間の距離が相対的に近い場合、赤色で表示されてよい。これにより、オペレータ等は、枠912の表示態様を通じて、ショベル100と監視対象との位置関係(距離)を把握することができる。上述の
図10の枠520や後述する
図22の枠932についても同様であってよい。
【0264】
また、監視画像910には、監視画像910内に検出部304Bにより検出された監視対象(作業者911)が存在することを表す指示画像913が重畳して表示される。これにより、オペレータ等は、検出部304Bにより検出された監視対象が現在表示されている監視画像910内にいることを認識することができる。
【0265】
指示画像913は、アローヘッド(矢尻)形状を有し、監視画像910の下端部、即ち、監視画像の910の上下方向のうちのショベル100の機体(上部旋回体3)寄りの端部に表示される。指示画像913は、監視画像910のショベル100の機体側に相当する下端部から監視画像910の内向き、即ち、監視画像910の内側に相当する上向きを指し示している。これにより、指示画像913は、具体的に、監視画像910内に検出部304Bにより検出された監視対象(作業者911)が存在することを表すことができる。
【0266】
また、指示画像913は、複数の円形状の画像(具体的には、14個の円形状の画像)によってアローヘッド形状が構成されており、円形状の画像の間の隙間部から監視画像910が露出している。これにより、指示画像913が監視画像910(カメラ40Xの撮像画像)に重畳して表示される場合であっても、指示画像913が表示される監視画像910の部分に対応するショベル100の周囲の様子をオペレータ等に適切に把握させることができる。また、指示画像913が監視対象に相当する画像部分に重畳して表示される場合であっても、指示画像913の隙間部を通じて、監視対象に相当する画像部分と背景に相当する画像部分とがそのまま露出する。そのため、オペレータ等のユーザは、監視画像910において、指示画像913が重畳している、監視対象に相当する画像部分と背景に相当する画像部分とを容易に区別することができる。以下、後述する
図21の指示画像921,922及び
図22の指示画像933~935についても同様である。
【0267】
尚、指示画像913は、隙間部のない連続的なアローヘッド形状により構成されてもよい。この場合、指示画像913(連続的なアローヘッド形状)は、重畳している裏側の画像部分を透過して視認可能な態様で表示されてもよい。これにより、指示画像913が監視画像910(カメラ40Xの撮像画像)に重畳して表示される場合であっても、指示画像913が表示される監視画像910の部分に対応するショベル100の周囲の様子をオペレータ等に適切に把握させることができる。
【0268】
また、指示画像913は、検出部304(検出部304B)により検出されている監視対象(作業者911)のショベル100からの距離に応じて、その表示態様が変化してもよい。例えば、指示画像913は、検出部304Bにより検出されている監視対象とショベル100との間の距離が相対的に離れている場合、黄色で表示され、当該監視対象とショベル100との間の距離が相対的に近い場合、赤色で表示されてよい。これにより、オペレータ等は、指示画像913の表示態様を通じて、ショベル100と監視対象との位置関係(距離)を把握することができる。以下、後述する
図21の指示画像921,922及び
図22の指示画像933~935についても同様であってよい。
【0269】
尚、本例では、表示装置50の表示領域全体に監視画像910が表示されるが、表示装置50の表示領域に余白を残す態様で、監視画像910が表示されてもよい。この場合、余白部分に、指示画像913が表示されてもよい。以下、後述する
図21の指示画像921,922についても同様であってよい。また、指示画像913は、検出部304Bにより監視対象が検出される場合だけでなく、検出部304Aにより監視対象が検出される場合に表示されてもよい。以下、後述する
図21の指示画像921,922及び
図22の指示画像933~935についても同様であってよい。また、指示画像913に代えて、監視画像910に検出部304Bにより検出されている監視対象が存在することを指示可能な他の態様の指示画像が表示されてもよい。例えば、監視画像910の下端部に、上向きの矢印形状を有する指示画像がカメラ40Bの撮像画像に重畳して表示されてもよい。また、例えば、監視画像910の下端部に、上向きの頂点を有する二等辺三角形(或いは正三角形)の指示画像がカメラ40Bの撮像画像に重畳して表示されてもよい。この場合、矢印形状や二等辺三角形等の指示画像は、指示画像913と同様に、重畳している裏側の画像部分がそのまま露出する隙間部を有する態様であってもよいし、重畳している裏側の画像部分を透過して視認可能な態様であってもよい。これにより、指示画像913の場合と同様、監視画像910に重畳して指示画像が表示される場合であっても、指示画像が表示される監視画像910の部分に対応するショベル100の周囲の様子をオペレータ等に適切に把握させることができる。以下、後述する
図21の指示画像921,922及び
図22の指示画像933~935についても同様であってよい。
【0270】
このように、監視画像910(スルー画像)には、ショベル100(上部旋回体3)から撮像画像に表示されている範囲を見たときの検出部304Bにより検出されている監視対象(作業者911)の存在する方向を表す指示画像913が表示される。これにより、オペレータは、指示画像913を通じて、表示装置50の撮像画像に表示されているショベル100の周囲の範囲を基準として、どの方向に検出部304Bにより検出されている監視対象が存在するのかを容易に把握することができる。
【0271】
続いて、
図21に示すように、表示装置50には、監視画像920として、カメラ40Bの撮像画像(スルー画像)が表示されている。
【0272】
本例では、監視画像920に対応するショベル100の周囲の範囲外で検出部304Bにより監視対象(作業者)が検出されている。
【0273】
監視画像920には、監視画像920に対応するショベル100の周囲の範囲外で検出部304Bにより監視対象が検出されていることを示す指示画像921,922が重畳して表示されている。これにより、オペレータ等は、監視画像920に対応するショベル100の周囲の範囲外で監視対象が検出されていることを認識することができる。
【0274】
指示画像921は、
図20の指示画像913と同様に、アローヘッド(矢印)形状を有し、監視画像920の左端の上下方向の中央付近に重畳して表示される。指示画像921は、監視画像920の外向き、即ち、監視画像920の外側に相当する左方向を指し示している。これにより、指示画像921は、監視画像920に対応するショベル100の周囲の範囲よりも周方向で左側の範囲(例えば、カメラ40Rの撮像範囲)に検出部304Bにより検出されている監視対象が存在していることを表すことができる。つまり、指示画像921は、監視画像920を基準として、検出部304Bにより検出されている監視対象が存在する方向を指し示している。これにより、オペレータ等は、表示装置50に現在表示されている監視画像920を基準としてどの方向に監視対象が存在するかを直感的に把握することができる。そのため、オペレータ等は、入力装置52を通じて、表示装置50の表示内容を切り替える操作を行い、検出部304Bにより検出されている監視対象を撮像範囲に含むカメラ40Rの撮像画像を監視画像として表示装置50に表示させることができる。
【0275】
指示画像922は、指示画像921と同様に、アローヘッド形状を有し、監視画像920の右端の上下方向の中央付近に重畳して表示される。指示画像922は、監視画像920の外向き、即ち、監視画像920の外側に相当する右方向を指し示している。これにより、指示画像922は、監視画像920に対応するショベル100の周囲の範囲よりも周方向で右側の範囲(例えば、カメラ40Lの撮像範囲)に検出部304Bにより検出されている監視対象が存在していることを表すことができる。つまり、指示画像922は、監視画像920を基準として、検出部304Bにより検出されている監視対象が存在する方向を指し示している。これにより、オペレータ等は、表示装置50に現在表示されている監視画像920を基準としてどの方向に監視対象が存在するかを直感的に把握することができる。そのため、オペレータ等は、入力装置52を通じて、表示装置50の表示内容を切り替える操作を行い、検出部304Bにより検出されている監視対象を撮像範囲に含むカメラ40Lの撮像画像を監視画像として表示装置50に表示させることができる。
【0276】
尚、表示処理部301は、表示装置50に表示されている監視画像に対応するショベル100の周囲の範囲外で検出部304により監視対象が検出される場合に、入力装置52を通じて、表示内容を切り替える操作がされない限り、表示装置50に当該監視画像を表示させる状態を維持してよい。指示画像921,922を通じて、オペレータ等は、検出されている監視対象の存在する位置を把握できるからである。これにより、周辺監視装置150は、表示装置50の表示内容に関するユーザの意志を優先させることができる。また、キャビン10内には、表示装置50とは別に、他の表示装置が設けられてもよい。この場合、表示処理部301は、表示装置50に表示されている監視画像に対応するショベル100の周囲の範囲外で検出部304により監視対象が検出される場合に、当該監視対象が存在する位置に対応するカメラ40Xの撮像画像を他の表示装置に自動で表示させてもよい。これにより、オペレータ等の利便性が向上する。また、コントローラ30は、表示装置50に表示されている監視画像に対応するショベル100の周囲の範囲外で検出部304により監視対象が検出されている場合に、表示装置50を通じてその旨を教示するのに代えて、或いは、加えて、他の方法で、その旨をオペレータ等に教示してもよい。例えば、コントローラ30は、表示装置50に表示されている監視画像に対応するショベル100の周囲の範囲外で監視対象が検出されている場合に、音出力装置54を通じて、所定の音や音声を出力させることにより、その旨をオペレータ等に教示してもよい。
【0277】
このように、監視画像920(スルー画像)には、ショベル100(上部旋回体3)から撮像画像に表示されている範囲を見たときの検出部304Bにより検出されている監視対象の存在する方向を表す指示画像921,922が表示される。これにより、オペレータは、指示画像921,922を通じて、表示装置50の撮像画像に表示されているショベル100の周囲の範囲を基準として、どの方向に検出部304Bにより検出されている監視対象が存在するのかを容易に把握することができる。
【0278】
続いて、
図22に示すように、表示装置50には、カメラ40B,40L,40Rの撮像画像に基づく視点変換画像EP及びショベル画像CGを含む監視画像930が表示される。
【0279】
本例では、監視画像930には、上部旋回体3の後方に対応する位置に、ヘルメット及び反射ベストを着用している作業者931が映っている。本例では、作業者931は、ヘルメット及び反射ベストの双方を着用していることから、検出部304A及び検出部304Bの双方により検出されている。
【0280】
また、監視画像930には、検出部304Aにより作業者931が検出されていることを示す枠932が重畳して表示される。これにより、オペレータ等は、検出部304Aにより検出された作業者931の存在やその位置を認識し易くなる。
【0281】
また、監視画像930には、監視画像910内に検出部304Bにより検出された監視対象(作業者931)が存在することを表す指示画像933が表示される。これにより、オペレータ等は、検出部304Bにより検出された監視対象が現在表示されている監視画像930内にいることを認識することができる。
【0282】
指示画像933は、視点変換画像EPにおけるショベル100(ショベル画像CG)から見て後方の外縁部分、即ち、水平画像HVPの部分に重畳して表示される。指示画像933は、視点変換画像EPの外縁(水平画像HVPの部分)から内向き、即ち、視点変換画像EPの外縁からショベル100(ショベル画像CG)に向かう上向きを指し示している。これにより、指示画像933は、具体的に、監視画像930内に検出部304Bにより検出された監視対象(作業者931)が存在することを表すことができる。また、指示画像933は、上部旋回体3の後方に対応する視点変換画像EP(水平画像HVP)の部分に重畳して配置される。これにより、検出部304Bにより検出されている監視対象(作業者931)がショベル100(上部旋回体3)の後方に存在していることを表すことができる。
【0283】
また、本例では検出されていないが、検出部304Bにより上部旋回体3の左側方(例えば、カメラ40Lの撮像範囲)で監視対象が検出されている場合には、上部旋回体3の左側方に対応する視点変換画像EP(水平画像HVP)の部分に指示画像934(点線)が表示される。指示画像934は、視点変換画像EPにおけるショベル100(ショベル画像CG)から見て左方向の外縁部分、即ち、水平画像HVPの部分に重畳して表示される。指示画像934は、視点変換画像EPの外縁(水平画像HVPの部分)から内向き、即ち、視点変換画像EPの外縁からショベル100(ショベル画像CG)に向かう右向きを指し示している。これにより、指示画像934は、具体的に、監視画像930内に検出部304Bにより検出された監視対象が存在することを表すことができる。また、指示画像934は、上部旋回体3の左方向に対応する視点変換画像EP(水平画像HVP)の部分に重畳して配置される。これにより、検出部304Bにより検出されている監視対象がショベル100(上部旋回体3)の左方向に存在していることを表すことができる。
【0284】
同様に、本例では検出されていないが、検出部304Bにより上部旋回体3の右側方(例えば、カメラ40Rの撮像範囲)で検出部304Bにより監視対象が検出されている場合には、上部旋回体3の右側方に対応する視点変換画像EP(水平画像HVP)の部分に指示画像935(点線)が表示される。指示画像935は、視点変換画像EPにおけるショベル100(ショベル画像CG)から見て右方向の外縁部分、即ち、水平画像HVPの部分に重畳して表示される。指示画像935は、視点変換画像EPの外縁(水平画像HVPの部分)から内向き、即ち、視点変換画像EPの外縁からショベル100(ショベル画像CG)に向かう左向きを指し示している。これにより、指示画像935は、具体的に、監視画像930内に検出部304Bにより検出された監視対象が存在することを表すことができる。また、指示画像935は、上部旋回体3の右方向に対応する視点変換画像EP(水平画像HVP)の部分に重畳して配置される。これにより、検出部304Bにより検出されている監視対象がショベル100(上部旋回体3)の右方向に存在していることを表すことができる。
【0285】
尚、指示画像933~935は、監視画像930のうちの視点変換画像EPの周囲の余白部分に表示されてもよい。
【0286】
また、本例の監視画像910,920,930と同様の監視画像は、管理装置200の出力装置230(表示装置)や端末装置300の出力装置330(表示装置)に表示されてよい。これにより、オペレータは、管理装置200や端末装置300の表示装置に表示される同様の監視画像を確認しながら、ショベル100の遠隔操作を行うことができる。また、ショベル100が自動運転機能で作業を行っている場合に、ショベル100の管理者等は、管理装置200の出力装置230(表示装置)に表示される同様の監視画像を見ながら、複数のショベル100のそれぞれの作業状況を監視することができる。同様に、ショベル100の管理者等は、例えば、端末装置300の出力装置330(表示装置)に表示される同様の監視画像を見ながら、それぞれのショベル100の作業状況を監視することができる。
【0287】
[作用]
次に、本実施形態に係るショベル100(周辺監視装置150)の作用について説明する。
【0288】
本実施形態では、検出部304Bの監視対象の検出範囲には、表示装置50等に表示される周囲画像(例えば、スルー画像や視点変換画像)に映っているショベル100の周囲の相対的に近い範囲全体が含まれる。
【0289】
これにより、周辺監視装置150は、表示装置50等に周囲画像として表示可能な、ショベル100から相対的に近い監視エリアに進入している全ての監視対象を検出することができる。そのため、周辺監視装置150は、表示装置50に監視対象が表示されているにも関わらず、検出されないような事態を抑制することができる。よって、周辺監視装置150は、監視対象を検出可能なショベル100の周囲の範囲をより適切に実現することができる。
【0290】
また、本実施形態では、検出部304Bは、表示装置50等に表示される周囲画像に所定の物体の一部だけが映っている場合であっても、所定の物体を検出可能に構成されてよい。
【0291】
これにより、周辺監視装置150は、例えば、表示装置50等のスルー画像に監視対象の一部しか映っておらず、撮像装置40の撮像画像を用いても当該監視対象を検出できない状況であっても、当該監視対象を検出することができる。
【0292】
また、本実施形態では、表示装置50等は、周囲画像に一部だけが映っている所定の物体が検出部304により検出されている場合、当該所定の物体が検出されていることを示す画像(例えば、
図10の枠520)を表示してよい。
【0293】
これにより、周辺監視装置150は、周囲画像に一部だけが映っている監視対象が検出されていることをショベル100のオペレータや管理者等のユーザに通知することができる。そのため、周辺監視装置150は、一部だけが周囲画像に映っている監視対象であっても、検出可能である旨をユーザに認識させることができる。
【0294】
また、本実施形態では、検出部304は、表示装置50等に表示されるカメラ40Xの撮像画像(スルー画像)の左右方向の端部に所定の物体の一部だけが映っている場合であっても、当該所定の物体を検出可能に構成されてよい。
【0295】
これにより、周辺監視装置150は、具体的に、スルー画像に一部だけが映っている監視対象であっても、検出可能である旨をユーザに認識させることができる。
【0296】
また、本実施形態では、検出部304は、表示装置50等に表示される視点変換画像EPのショベル画像CGを中心とする周方向の端部に所定の物体の一部だけが映っている場合であっても、当該所定の物体を検出可能に構成されてよい。
【0297】
これにより、周辺監視装置150は、具体的に、視点変換画像EPに一部だけが映っている監視対象であっても、検出可能である旨をユーザに認識させることができる。
【0298】
また、本実施形態では、上部旋回体3が旋回し、その向きがクローラ1Cの直進方向と揃っている基準状態から外れている場合に、クローラ1Cの直進方向に面する空間は、検出部304により所定の物体を検出可能な範囲、及び、周囲画像(監視画像)として表示装置50等に表示可能な範囲の少なくとも一方に含まれてよい。
【0299】
例えば、クローラ1Cの進行方向がキャビン10の前方から大きくずれて、オペレータからクローラ1Cの直進方向に面する位置が目視しづらい状況が生じうる。
【0300】
これに対して、周辺監視装置150は、このような状況であっても、クローラ1Cの直進方向に面する位置に存在する監視対象を検出したり、当該位置を表示装置50等に表示させたりすることができる。そのため、周辺監視装置150は、上述の如く、下部走行体1の走行時における安全性を向上させることができる。
【0301】
また、本実施形態では、撮像装置40には、3つのカメラ40Xが少なくとも含まれ、周囲情報取得装置45には、4つのセンサ45Xが少なくとも含まれてよい。具体的には、3つのカメラ40X(カメラ40B,40L,40R)は、それぞれ、上部旋回体3の左前方から左後方に亘る左側方の範囲、上部旋回体3の左後方から右後方に亘る後方の範囲、及び上部旋回体3の右後方から右前方に亘る右側方の範囲のそれぞれを撮像し、4つのセンサ45X(センサ45BL,45BR,45L,45R)は、それぞれ、上部旋回体3の左前方から左後方に亘る左側方の範囲、上部旋回体3の左後方から後方に亘る左後方の範囲、上部旋回体3の後方から右後方に亘る右後方の範囲、及び上部旋回体3の右後方から右側方に亘る右側方の範囲のそれぞれの状況に関する情報を取得してよい。
【0302】
これにより、周辺監視装置150は、具体的に、4つのセンサ45Xを用いて、表示装置50等に周囲画像として表示可能なショベル100から見た周囲の周方向の範囲の全ての監視対象を検出することができる。
【0303】
また、本実施形態では、4つのセンサ45Xのうち、上部旋回体3の左側方の範囲及び右側方の範囲を担当する2つのセンサ45X(45L,45R)は、それぞれ、下部走行体1の直進方向を基準とする上部旋回体3の旋回角度が90度である場合に、上部旋回体3から見た前側のクローラ1Cに直進方向で面している空間の情報を取得可能に構成されてよい。
【0304】
これにより、周辺監視装置150は、下部走行体1の直進方向を基準とする上部旋回体3の旋回角度が90度である状態において、センサ45L,45Rの出力情報を用いて、クローラ1Cの直進方向に面する位置に存在する監視対象を検出することができる。
【0305】
また、本実施形態では、センサ45Xは、LIDARであってよい。
【0306】
これにより、周辺監視装置150は、例えば、LIDARから出力される受光強度情報を用いて、ショベル100の作業現場の作業者が着用する反射材付きの被服(例えば、反射ベストRV等)を高い精度で認識することできる。そのため、周辺監視装置150は、相対的に高い精度で、監視対象としてのショベル100の周囲の作業者を検出することができる。
【0307】
また、本実施形態では、安全機能制御部305は、検出部304Bにより所定の物体が検出される場合に、ショベル100の動作を制限してよい。
【0308】
これにより、周辺監視装置150は、表示装置50等に周囲画像として表示可能なショベル100の周囲の周方向の動作制限範囲に存在する監視対象の全てを対象として、ショベル100の動作制限を行うことできる。よって、周辺監視装置150は、ショベル100の安全性を向上させることができる。
【0309】
また、本実施形態では、上部旋回体3が旋回し、その向きがクローラ1Cの直進方向をと揃っている基準状態から外れている場合に、クローラ1Cの直進方向に面する空間は、検出部304Bにより所定の物体を検出可能な範囲、及び、周囲画像として表示装置50等に表示可能な範囲の少なくとも一方に含まれる。
【0310】
例えば、クローラ1Cの進行方向がキャビン10の前方から大きくずれて、オペレータからクローラ1Cの直進方向に面する位置が目視しづらい状況が生じうる。
【0311】
これに対して、周辺監視装置150は、このような状況であっても、クローラ1Cの直進方向に面する位置に存在する監視対象を検出したり、当該位置を表示装置50等に表示させたりすることができる。よって、周辺監視装置150は、ショベル100の安全性を向上させることができる。
【0312】
また、本実施形態では、クローラ1Cの直進方向を基準とする上部旋回体3の旋回角度が90度である場合に、上部旋回体3から見た前側のクローラ1Cに直進方向で面する空間は、検出部304Bにより所定の物体を検出可能な範囲、及び、周囲画像として表示装置50等に表示可能な範囲の少なくとも一方に含まれてよい。
【0313】
例えば、下部走行体1を上部旋回体3から見て左右方向に走行させながら、順次、法面の切り土や転圧等の成形作業等を行うような状況が生じうる。
【0314】
これに対して、周辺監視装置150は、例えば、このような状況において、前側のクローラ1Cの直進方向に面する位置の監視対象を検出したり、当該位置を表示装置50等に表示させたりすることができる。これにより、周辺監視装置150は、具体的な作業状況において、ショベル100の安全性を向上させることができる。
【0315】
[変形・変更]
以上、実施形態について詳述したが、本開示はかかる特定の実施形態に限定されるものではなく、特許請求の範囲に記載された要旨の範囲内において、種々の変形・変更が可能である。
【0316】
例えば、上述した実施形態に係る周辺監視装置150は、ショベル100以外の任意の作業機械に搭載されてよい。例えば、周辺監視装置150は、エンドアタッチメントとしてリフティングマグネットが取り付けられたリフマグ機、ブルドーザ、ホイールローダ、アスファルトフィニッシャ、林業機械等に搭載されてもよい。
【0317】
また、上述した実施形態及び変形例の検出部304の機能、つまり、安全装備の装着状況を識別可能な検出装置(識別装置)は、ショベル100に代えて、或いは、加えて、作業現場の構造物、他の作業機械、作業車両、建物等に設けられてもよい。作業現場の構造物は、例えば、入口のゲート等を含む。作業現場の他の作業機械は、例えば、ブルドーザ、クレーン等を含む。作業現場の作業車両は、例えば、トラック等を含む。作業現場の建物は、例えば、仮設事務所等を含む。これにより、例えば、作業現場の管理者等は、検出装置の検出結果を利用して、作業現場で広範囲に、作業現場の作業者の安全装備の装着状況を把握することができる。そのため、管理者等は、検出装置の検出結果を利用して、作業現場の安全管理を行うことができる。また、検出装置の検出結果に関する情報は、記憶部に記録される態様であってもよい。この場合、検出装置と、記憶部や記録部等の構成を実現するハードウェア(例えば、端末装置やサーバ装置)等とは、同じ場所に設けられてもよいし、有線或いは無線を通じて通信可能な態様で異なる場所に設けられてもよい。
【0318】
例えば、
図23は、作業現場安全管理システム2000の構成の一例を示すブロック図である。
【0319】
図23に示すように、作業現場安全管理システム2000は、制御装置2100と、カメラ2200と、センサ2300と、入力装置2400と、出力装置2500と、通信装置2600とを含む。
【0320】
制御装置2100は、作業現場安全管理システム2000に関する制御を行う。制御装置2100は、作業現場内において、カメラ2200やセンサ2300が設置される場所と同じ或いは相対的に近い場所に設置されてもよいし、カメラ2200やセンサ2300と異なる場所に設置されてもよい。制御装置2100は、例えば、作業現場の構造物や建物等に設置されてよい。また、制御装置2100は、例えば、作業現場のショベル100を含む作業機械や作業車両等に設置されてもよい。ショベル100に設置される場合、制御装置2100は、上述の実施形態のコントローラ30に相当する。
【0321】
制御装置2100の機能は、任意のハードウェア、或いは、任意のハードウェア及びソフトウェアの組み合わせ等により実現されてよい。制御装置2100は、例えば、CPU、RAM等のメモリ装置、ROM等の補助記憶装置、及び外部との入出力用のインタフェース装置等を含むコンピュータを中心に構成されてよい。
【0322】
制御装置2100は、例えば、補助記憶装置にインストールされるプログラムをメモリ装置にロードし、CPUで実行することにより実現される機能部として、検出部2110と、設定部2120と、ログ出力部2150とを含む。また、制御装置2100は、例えば、制御装置2100の補助記憶装置等の内部メモリや制御装置2100と通信可能な外部記憶装置に規定される記憶領域により実現される記憶部2130,2140を利用する。
【0323】
カメラ2200は、作業現場の様子を撮像する。カメラ2200は、制御装置2100と通信可能に接続され、その出力(撮像画像)は、制御装置2100に取り込まれる。カメラ2200は、例えば、作業現場の構造物や建物等に設置されてよい。また、カメラ2200は、例えば、作業現場のショベル100を含む作業機械や作業車両等に設置されてもよい。ショベル100に設置される場合、カメラ2200は、上述の実施形態の撮像装置40(カメラ40X)に相当する。
【0324】
センサ2300は、作業現場の状況に関する情報を取得する。センサ2300は、制御装置2100と通信可能に接続され、その出力は、制御装置2100に取り込まれる。センサ2300は、例えば、周囲情報取得装置45(センサ45X)と同様、LIDARであってよい。また、センサ2300は、例えば、周囲情報取得装置45(センサ45X)と同様、ミリ波レーダや超音波センサ等であってもよい。以下、センサ2300がLIDARである場合を中心に説明する。
【0325】
カメラ2200の撮像範囲と、センサ2300の情報取得範囲とは、少なくとも一部が重複するように設定される。これにより、カメラ2200の出力を用いる場合、及びセンサ2300の出力を用いる場合の双方で、検出部2110は、その重複する範囲に存在する同じ監視対象(作業者)を検出することができる。
【0326】
入力装置2400は、作業現場の管理者、監督者、作業者等のユーザからの各種入力を受け付ける。入力装置2400は、制御装置2100と通信可能に接続され、受け付けられる各種入力に対応する信号は、制御装置2100に取り込まれる。入力装置2400は、例えば、ユーザからの操作入力を受け付ける操作入力装置を含む。また、入力装置2400は、例えば、ユーザからの音声入力やジェスチャ入力等を受け付ける音声入力装置やジェスチャ入力装置等を含んでもよい。
【0327】
出力装置2500は、制御装置2100と通信可能に接続され、制御装置2100から入力されるデータに基づき、作業現場の管理者、監督者、作業者等のユーザに向けて情報を出力する。出力装置2500は、例えば、視覚的情報を出力する表示装置や照明装置等を含む。また、出力装置2500は、例えば、聴覚的情報を出力する音出力装置を含む。
【0328】
通信装置2600は、制御装置2100と同じ場所に設置され、制御装置2100が設置される場所の外部(例えば、管理装置200や端末装置300等)と通信を行う。
【0329】
検出部2110は、カメラ2200やセンサ2300の出力に基づき、作業現場の作業者を検出する。検出部2110は、検出部2110A,2110Bを含む。
【0330】
検出部2110Aは、上述の実施形態の検出部304Aと同様の方法で、カメラ2200の出力(撮像画像)に基づき、作業現場の所定の監視エリアにおいて、人(作業者)を検出する。これにより、検出部2110Aは、監視エリア内の作業者を検出し、作業者の位置を特定したり、検出された作業者が予め登録される複数の登録作業者の中の何れに該当するかを特定したりすることができる。また、検出部2110Aは、カメラ2200の撮像画像上のヘルメットを認識することにより、ヘルメットを装着している作業者を相対的に高い確率(検出精度)で検出することができる。つまり、検出部2110Aは、ヘルメット以外の特徴に基づき検出された作業者や検出部2110Bにより検出された作業者のヘルメットの着用の有無を識別することができる。
【0331】
検出部2110Bは、上述の実施形態の検出部304Bと同様の方法で、センサ2300の出力に基づき、作業現場の検出部2110Aの場合と同じ監視エリアにおいて、人(作業者)を検出する。これにより、検出部2110Bは、監視エリア内の作業者を検出し、作業者の位置を特定することができる。また、検出部2110Bは、受光強度情報を利用することにより、反射材付きの被服を着用している作業者を相対的に高い確率(検出精度)で検出することができる。つまり、検出部2110Bは、反射材付きの被服以外の特徴に基づき検出された作業者や検出部2110Aにより検出された作業者の反射材の被服の着用の有無を識別することができる。
【0332】
また、検出部2110は、作業者を検出した場合に、検出された作業者の複数の(種類の)安全装備の装着状況を判断してよい。複数の安全装備は、例えば、作業現場安全管理システム2000の管理対象の作業現場で装着が義務付けられている、或いは、推奨されている安全装備である。複数の安全装備には、例えば、上述の如く、ヘルメットや反射材付きの被服が含まれてよい。また、複数の安全装備には、例えば、上述の如く、安全帯、騒音現場における耳栓、安全靴等が含まれてもよい。また、複数の安全装備には、例えば、アーク溶接用や防振用等の手袋、防塵用や防毒用のマスク、防塵用や遮光用等のメガネ、溶接用面等が含まれてもよい。また、複数の安全装備には、例えば、作業機械等が接近するとアラームを出力するIDタグ等が含まれてもよい。
【0333】
検出部2110は、例えば、作業者を検出した場合に、検出部2110A及び検出部2110Bの検出結果に基づき、ヘルメット及び反射材付きの被服のそれぞれの着用の有無を判断してよい。
【0334】
また、検出部2110は、例えば、作業者を検出した場合に、カメラ2200の出力(撮像画像)、及びセンサ2300の出力(受光情報)を総合的に考慮して、複数の安全装備の装着状況を判断してもよい。具体的には、検出部2110は、カメラ2200の撮像画像の画像特徴量と、受光情報に基づく作業者の装着物の立体形状等とに基づき、複数の安全装備ごとの装着の有無を判断してよい。この場合、記憶部2130には、複数の安全装備ごとの安全装備の装着の有無を判断するための画像特徴量及び受光情報等に関するデータベース(以下、「装着状況判断用データベース」)が構築されてよい。装着状況判断用データベースは、例えば、実験やシミュレーションの結果を利用した機械学習(強化学習)等により予め構築されてよい。そして、検出部2110は、カメラ2200の撮像画像の画像特徴量、及びセンサ2300の受光情報と、装着状況判断データベースの内容とを比較し、検出された作業者の複数の安全装備ごとの装着の有無を判断してよい。
【0335】
また、検出部2110は、出力装置2500を通じて、検出した作業者の複数の安全装備の装着状況の判断結果に関する情報を検出された作業者を含むユーザに向けて出力してよい。
【0336】
検出部2110は、例えば、複数の安全装備の何れかを装着していないと判断する場合に、出力装置2500を通じて、安全装備の未装着を示すアラーム(警告)を出力してよい。また、検出部2110は、例えば、複数の安全装備を全て装着している場合に、出力装置2500を通じて、全ての安全装備の装着が完了していることを示す通知を作業者に向けて出力してもよい。これにより、作業現場安全管理システム2000は、作業者に対して、作業現場で装着が義務付けられている、或いは、推奨されている複数の安全装備の装着を促すことができる。
【0337】
設定部2120は、入力装置2400で受け付けられるユーザからの所定の入力に応じて、作業現場安全管理システム2000に関する設定を行う。これにより、ユーザは、入力装置2400を通じて、所望の態様で、作業現場安全管理システム2000に関する設定を制御装置2100に行わせることができる。
【0338】
設定部2120は、例えば、入力装置2400を通じた所定の入力に応じて、識別対象の安全装備の追加や削除等の設定を行ってよい。また、設定部2120は、例えば、入力装置2400を通じた所定の入力に応じて、装着状況判断用データベースに関する設定、即ち、装着状況判断用データベースの新規登録や更新等を行ってもよい。設定部2120により行われる設定(変更)の内容は、記憶部2130に登録(記憶)される。
【0339】
記憶部2130には、作業現場安全管理システム2000に関する各種の設定内容等が記憶されている。記憶部2130には、例えば、上述の如く、識別対象の複数の種類の安全装備を規定する設定内容等が登録されている。また、記憶部2130には、例えば、上述の如く、装着状況判断用データベースが構築されている。
【0340】
記憶部2140には、検出部2110による作業者の複数の安全装備の装着状況に関する判断結果に関するログ情報が記憶(記録)される。例えば、検出部2110により作業者が検出されると、作業者の検出日時、検出された作業者の識別情報(例えば、複数の登録作業者ごとに固有のID)、及び複数の安全装備ごとの装着の有無を示す情報を含むログ情報(レコード)が記憶部2140に記録される。これにより、レコードデータ群による複数の安全装備の装着状況の判断結果に関するデータベースを記憶部2140に構築することができる。
【0341】
ログ出力部2150は、記憶部2140に記録される、作業者の複数の安全装備の装着状況の判断結果に関するログ情報を外部に出力する。
【0342】
ログ出力部2150は、例えば、入力装置2400を通じた所定の入力に応じて、記憶部2140のログ情報を、出力装置2500に通じて、ユーザに出力する。これにより、ユーザは、出力装置2500を通じて、過去の作業者の安全装備の装着状況の履歴を確認したり、その履歴から作業現場での安全装備の装着状況に関する分析を行ったりすることができる。
【0343】
また、ログ出力部2150は、例えば、入力装置2400を通じた所定の入力に応じて、記憶部2140のログ情報を、通信装置2600を通じて、制御装置2100の外部(例えば、管理装置200や端末装置300)に出力(送信)してもよい。これにより、例えば、ユーザは、管理装置200や端末装置300等の外部にログ情報を取り出して、過去の作業者の安全装備の装着状況の履歴を確認したり、その履歴から作業現場での安全装備の装着状況に関する分析を行ったりすることができる。
【0344】
このように、本例では、作業現場安全管理システム2000は、異なる種類の複数のセンサ(例えば、カメラ2200及びセンサ2300)を含む。そして、検出部2110は、複数のセンサの出力に基づき、作業現場の作業者を検出し、作業現場で装着が推奨されている、或いは、義務付けられている複数の安全装備ごとの作業者による装着状況を判断(識別)する。
【0345】
これにより、作業現場安全管理システム2000は、作業現場の作業者の安全装備の装着状況を把握することができる。そのため、作業現場の管理者等は、例えば、作業現場の検出された作業者の複数の安全装備の装着状況の判断結果(識別結果)に基づき、安全装備の装着を行っていない特定の作業者に対して、安全装備の装着を促すことができる。よって、作業現場安全管理システム2000は、作業現場の安全性を向上させることができる。
【0346】
また、本例では、記憶部2140には、検出部2110による検出された作業者の複数の安全装備の装着状況の判断結果(識別結果)に関する情報が記録されてよい。
【0347】
これにより、ユーザは、例えば、出力装置2500や制御装置2100と通信可能に接続される外部装置(例えば、管理装置200や端末装置300等)を通じて、事後的に、安全装備の装着状況に関する判断結果のログ情報(履歴)を確認することができる。そのため、ユーザは、事後的に、ログ情報を確認したり、分析したりすることによって、作業現場の安全装備の装着率の向上の施策等を検討することができる。よって、作業現場安全管理システム2000は、作業現場の安全性を更に向上させることができる。
【0348】
最後に、本願は、2019年4月26日に出願した日本国特許出願2019-086883号に基づく優先権を主張するものであり、日本国特許出願の全内容を本願に参照により援用する。
【符号の説明】
【0349】
1 下部走行体
1C,1CL,1CR クローラ
3 上部旋回体
4 ブーム
5 アーム
6 バケット
10 キャビン
30 コントローラ
40 撮像装置
40B,40L,40R カメラ
45 周囲情報取得装置(取得装置)
45BL,45BR,45L,45LF,45LR,45R,45RF,45RR センサ
50 表示装置
52 入力装置
54 音出力装置
54a ホーン
54b 走行アラーム
56 油圧制御弁
70 通信装置
100 ショベル
150 周辺監視装置
200 管理装置
210 制御装置
220 通信装置
230 出力装置
240 入力装置
300 端末装置
301 表示処理部
302 設定部
303 記憶部
304 検出部
304A 検出部
304B 検出部
305 安全機能制御部(動作制限部)
310 制御装置
320 通信装置
330 出力装置
340 入力装置
1000 ショベル管理システム
2000 作業現場安全管理システム
2100 制御装置
2110 検出部
2120 設定部
2130 記憶部
2140 記憶部
2150 ログ出力部
2200 カメラ
2300 センサ
2400 入力装置
2500 出力装置
2600 通信装置
HMT ヘルメット
RV 反射ベスト