IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 住友重機械工業株式会社の特許一覧

特開2024-100378作業機械の管理システム及び作業機械
<>
  • 特開-作業機械の管理システム及び作業機械 図1
  • 特開-作業機械の管理システム及び作業機械 図2
  • 特開-作業機械の管理システム及び作業機械 図3
  • 特開-作業機械の管理システム及び作業機械 図4
  • 特開-作業機械の管理システム及び作業機械 図5
  • 特開-作業機械の管理システム及び作業機械 図6
  • 特開-作業機械の管理システム及び作業機械 図7
  • 特開-作業機械の管理システム及び作業機械 図8
  • 特開-作業機械の管理システム及び作業機械 図9
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024100378
(43)【公開日】2024-07-26
(54)【発明の名称】作業機械の管理システム及び作業機械
(51)【国際特許分類】
   E02F 9/24 20060101AFI20240719BHJP
   E02F 9/26 20060101ALI20240719BHJP
【FI】
E02F9/24 H
E02F9/26 A
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2023004337
(22)【出願日】2023-01-16
(71)【出願人】
【識別番号】000002107
【氏名又は名称】住友重機械工業株式会社
(74)【代理人】
【識別番号】100090033
【弁理士】
【氏名又は名称】荒船 博司
(74)【代理人】
【識別番号】100093045
【弁理士】
【氏名又は名称】荒船 良男
(72)【発明者】
【氏名】羅 子涵
(72)【発明者】
【氏名】古川 瑞
【テーマコード(参考)】
2D015
【Fターム(参考)】
2D015EA02
2D015EB01
2D015GA03
2D015GB06
2D015HA03
2D015HB03
2D015HB04
2D015HB05
(57)【要約】
【課題】構成の追加を抑えて作業機械の運転者の乗降の適正化を図る。
【解決手段】作業機械100の運転者OPの乗降時の姿勢を示す姿勢情報を取得する取得手段40と、作業機械100の外部に姿勢情報を送信する送信手段31と、受信した姿勢情報に基づいて乗降時の姿勢の適否を判断する判断手段211,212とを有し、二点支持や体を外側に向けた不適正な姿勢での乗降を検出し、認識可能に報知したり、作業機械の外部に送信して、その発生を抑制する。
【選択図】図2
【特許請求の範囲】
【請求項1】
作業機械の運転者の乗降時の姿勢を示す姿勢情報を取得する取得手段と、
前記作業機械の外部に前記姿勢情報を送信する送信手段と、
受信した前記姿勢情報に基づいて乗降時の姿勢の適否を判断する判断手段と、
を有する作業機械の管理システム。
【請求項2】
前記乗降時の姿勢の適否に基づいて報知処理を行う報知処理部を有する、
請求項1に記載の作業機械の管理システム。
【請求項3】
前記報知処理部が行う前記報知処理は、乗降時の不適正な姿勢の発生の報知、乗降時の姿勢の不適正な姿勢の発生をログとして記録する処理、又は、乗降時の姿勢の適否を示す適否情報を送信する処理のいずれか一つ又は複数である
請求項2に記載の作業機械の管理システム。
【請求項4】
乗降時の姿勢の適否は、四肢の内の三肢以上で体を支えている姿勢か否かである
請求項1に記載の作業機械の管理システム。
【請求項5】
乗降時の姿勢の適否は、前記運転者の向きの適否である
請求項1に記載の作業機械の管理システム。
【請求項6】
作業機械の運転者の乗降時の姿勢を示す姿勢情報を取得する取得手段と、
受信した前記姿勢情報に基づいて、乗降時の姿勢の適否を判断する判断手段と、
報知処理を行う報知処理部と、
を有する作業機械。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、作業機械の管理システム及び作業機械に関する。
【背景技術】
【0002】
作業機械の運転者の乗降を適切に行うために、従来は、運転席に通じる階段状の昇降装置が搭載されていた(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2022-85194号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、昇降装置は、作業機械の大型化や複雑化、重量の増加、製造コストの上昇等を生じるおそれがあった。
本発明は、構成の追加を抑えて作業機械の運転者の乗降の適正化を図ることを目的とする。
【課題を解決するための手段】
【0005】
本発明に係る作業機械の管理システムは、
作業機械の運転者の乗降時の姿勢を示す姿勢情報を取得する取得手段と、
前記作業機械の外部に前記姿勢情報を送信する送信手段と、
受信した前記姿勢情報に基づいて乗降時の姿勢の適否を判断する判断手段と、
を備える構成である。
【0006】
また、本発明に係る作業機械は、
作業機械の運転者の乗降時の姿勢を示す姿勢情報を取得する取得手段と、
受信した前記姿勢情報に基づいて、乗降時の姿勢の適否を判断する判断手段と、
報知処理を行う報知処理部と、
を備える構成である。
【発明の効果】
【0007】
本発明によれば、構成の追加を抑えて作業機械の運転者の乗降の適正化を図ることができる。
【図面の簡単な説明】
【0008】
図1】第1実施形態に係る管理システムのショベルの側面図である。
図2】ショベルの管理システムの概略構成を示すブロック図である。
図3】キャビンの内部を運転席から前方に見た図である。
図4】乗降を行うオペレータを撮像した1フレーム分の画像を示している。
図5図4の画像から検出されたオペレータの骨格を視覚的に表現した説明図である。
図6】姿勢情報の取得から報知までの一連の処理においてショベルのコントローラが行う処理を示すフローチャートである。
図7】姿勢情報の取得から報知までの一連の処理において管理装置の制御部が行う処理を示すフローチャートである。
図8】第2実施形態に係る管理システムの概略構成を示すブロック図である。
図9】ショベルのコントローラが行う、姿勢情報の取得から報知までの一連の処理を示すフローチャートである。
【発明を実施するための形態】
【0009】
[第1実施形態]
以下、本発明の第1実施形態について、図面を参照して詳細に説明する。
本実施形態では、作業機械としてのショベルの管理システムについて例示する。
図1はショベル100の側面図、図2はショベルの管理システム1000の概略構成を示すブロック図である。
この図に示すように、ショベルの管理システム1000は、ネットワークNWを通じて通信可能となるショベル100及び管理装置200から構成されている。
上記管理システム1000は、ショベル100を複数有する構成としてもよい。
【0010】
[ショベルの構成]
図1に示すように、ショベル100は、下部走行体1と、旋回機構2を介して旋回可能に下部走行体1に搭載される上部旋回体3と、アタッチメント11としてのブーム4、アーム5及びバケット6と、運転者としてのオペレータOPが搭乗する運転席としてのキャビン10とを備える。アタッチメント11は、作業要素(例えば、バケット、クラッシャー、クレーン装置等)が設けられていれば、これに限られない。
【0011】
下部走行体1は、例えば、左右一対のクローラを含み、それぞれのクローラが走行油圧モータ(不図示)で油圧駆動されることにより、ショベル100を走行させる。
上部旋回体3は、旋回油圧モータ或いは電動機(共に不図示)等で駆動されることにより、下部走行体1に対して旋回する。
【0012】
ブーム4は、上部旋回体3の前部中央に俯仰可能に枢着され、ブーム4の先端には、アーム5が上下回動可能に枢着され、アーム5の先端には、バケット6が上下回動可能に枢着される。ブーム4、アーム5及びバケット6は、それぞれ、ブームシリンダ7、アームシリンダ8、及びバケットシリンダ9により油圧駆動される。
キャビン10は、オペレータが搭乗する操縦室であり、例えば上部旋回体3の前部左側に搭載される。ショベル100は、キャビン10に搭乗するオペレータの操作に応じて、アクチュエータを動作させ、下部走行体1、上部旋回体3、ブーム4、アーム5及びバケット6等の被駆動要素を駆動する。
【0013】
図1に示すように、ショベル100は、上記構成のほか、撮像装置40と、距離センサ41と、動作・姿勢状態センサ42と、位置センサ43と、方位センサ44と、操作装置45と、画像表示装置47と、音声出力装置48と、通信機器49と、コントローラ30と、記憶部46とを備える。
【0014】
距離センサ41は、ショベル100の周辺の物体までの距離を測定してその情報(二次元又は三次元の距離情報)を取得する測距手段であり、取得した情報をコントローラ30に出力する。距離センサ41は、例えば、ショベル100の前方、後方、左方、右方の3方の計測が可能なように設けられている。
【0015】
動作・姿勢状態センサ42は、ショベル100の動作状態や姿勢状態を検出するセンサであり、検出結果をコントローラ30に出力する。動作・姿勢状態センサ42は、ブーム角度センサと、アーム角度センサと、バケット角度センサと、三軸慣性センサ(IMU:Inertial Measurement Unit)と、旋回角度センサと、加速度センサとを含む。
これらのセンサは、ブーム等のシリンダのストロークセンサ、ロータリーエンコーダ等の回転情報を取得するセンサで構成されてもよく、IMUで取得される加速度(速度、位置も含んでもよい)により代替されてもよい。
ブーム角度センサは、上部旋回体3に対する所定角度を基準とするブーム4の回動角度(以下、「ブーム角度」と称する)を検出する。
アーム角度センサは、ブーム4を基準とするアーム5の回動角度(以下、「アーム角度」と称する)を検出する。
バケット角度センサは、アーム5を基準とするバケット6の回動角度(以下、「バケット角度」と称する)を検出する。
IMUは、ブーム4、アーム5の各々と上部旋回体3(アタッチメント11以外の箇所)に取り付けられている。そして、所定の三軸に沿ったブーム4、アーム5及び上部旋回体3の加速度、及び、所定の三軸廻りのブーム4、アーム5及び上部旋回体3の角加速度を検出する。また、上部旋回体3に設けられたIMUは、絶対的な水平面に対する上部旋回体3の傾斜角度を検出する。
旋回角度センサは、上部旋回体3の所定の角度方向を基準とする旋回角度を検出する。ただし、これに限られず、上部旋回体3に設けられたGPSやIMUセンサに基づいて旋回角度が検出されてもよい。
加速度センサは、上部旋回体3の旋回軸から離れた位置に取り付けられ、上部旋回体3の当該位置における加速度を検出する。これにより、加速度センサの検出結果に基づき、上部旋回体3が旋回しているのか、或いは、下部走行体1が走行しているのか等が判別されうる。
【0016】
位置センサ43は、作業機械の位置情報を取得する位置情報取得部として機能し、例えば、上部旋回体3に装備される。
位置センサ43は、ショベル100の位置(現在位置)の情報を取得するセンサであり、本実施形態ではGNSS(Global Navigation Satellite System)受信機である。位置センサ43は、ショベル100の位置の情報を含む信号をGNSS衛星から受信し、取得したショベル100の位置情報をコントローラ30に出力する。なお、位置センサ43は、ショベル100の位置の情報を取得できるものであればGNSS受信機でなくともよく、例えばGNSS以外の衛星測位システムを利用するものであってもよい。また、位置センサ43は、下部走行体1に設けられていてもよい。
【0017】
方位センサ44は、上部旋回体3に設けられ、上部旋回体3が向いている方位(方向)の情報を取得するセンサであり、例えば地磁気センサである。方位センサ44は、上部旋回体3の方位の情報を取得して、コントローラ30に出力する。なお、方位センサ44は、上部旋回体3の方位の情報を取得できればよく、そのセンサ種別等は特に限定されない。例えばGNSS受信機を2つ設け、その位置情報の差異から方位情報を取得してもよい。
【0018】
記憶部46は、各種のデータ等の情報を書き込み及び読み出し可能に記憶する不揮発性メモリ、HDD(Hard Disk Drive)、SSD(Solid State Drive)等の記憶部である。
【0019】
通信機器49は、所定の無線通信規格に基づき、所定の通信ネットワークNWを通じて遠隔の外部機器である管理装置200や他のショベル100等と各種情報を送受信する通信デバイスである。通信ネットワークNWには、例えば、基地局を末端とする移動体通信網、上空の通信衛星を利用する衛星通信網、WiFiやブルートゥース(登録商標)等のプロトコルに準拠する近距離通信網、インターネット通信網等を含んでもよい。
【0020】
コントローラ30は、ショベル100各部の動作を制御してショベル100の駆動制御を行う制御装置である。コントローラ30は、キャビン10内に搭載される。コントローラ30は、その機能が任意のハードウェア、ソフトウェア、或いはその組み合わせにより実現されてよい。コントローラ30は、例えば、CPU,RAM,ROM,I/O等を含むマイクロコンピュータを中心に構成される。コントローラ30は、これらの他にも、例えばFPGAやASICなどを含んで構成されてもよい。
【0021】
また、コントローラ30は、EEPROM(Electrically Erasable Programmable Read-Only Memory)等の内部メモリに規定される記憶領域を含む。
この記憶領域は、画像処理を含むショベル100の各部を動作させるための各種プログラムや各種データ等を格納するほか、コントローラ30の作業領域としても機能する。
【0022】
また、ショベル100のコントローラ30は、通信機器49及び所定の通信ネットワークNWを通じて、外部の管理装置200と相互に通信を行うことができる。コントローラ30は、通信により、管理装置200に各種のデータを送信することができる。
【0023】
また、コントローラ30は、図2に示すように、機能ブロックとして、姿勢情報取得処理部31等を有する。姿勢情報取得処理部31は、コントローラ30が各種のプログラムを実行することで実現する機能的構成だが、ハードウェアで実現させてもよい。
【0024】
図3はキャビン10の内部を運転席101から前方に見た図である。
キャビン10内には運転席101が設置されている。そして、運転席101の左右両側には操作レバー102、前側にはペダル103、各操作レバー102の後方には各種の操作スイッチ104等が取り付けられている。これらは、操作装置45を構成する。
これらの操作装置45は、オペレータが各動作要素(下部走行体1、上部旋回体3、ブーム4、アーム5及びバケット6等)の操作を行う操作手段である。換言すれば、操作装置45は、各動作要素を駆動するそれぞれの油圧アクチュエータの操作を行う操作手段であり、操作内容に応じた操作信号をコントローラ30に出力する。
また、操作装置45は、撮像装置40、距離センサ41、動作・姿勢状態センサ42、位置センサ43、画像表示装置47、音声出力装置48、通信機器49等の操作を行う操作手段でもあり、これら各部に対する操作指令をコントローラ30に出力する。
【0025】
運転席101の前方にはフロントウインドウ105が位置する。フロントウインドウ105の左側には、オペレータOPの乗降口106があり、開閉可能な扉107が取り付けられている。
【0026】
フロントウインドウ105の右側のピラー108の下部には、画像表示装置47が取り付けられている。
画像表示装置47は、コントローラ30による制御の下、オペレータOPに通知する各種画像情報を表示する。画像表示装置47は、例えば液晶ディスプレイや有機EL(Electroluminescence)ディスプレイであり、操作装置45の少なくとも一部を兼ねるタッチパネル式であってもよい。
【0027】
さらに、右側のピラー108において、画像表示装置47の上側には、音声出力装置48が設けられている。音声出力装置48は、コントローラ30による制御の下、オペレータOPに対して通知する各種音声情報を出力する。音声出力装置48は、例えば、スピーカやブザー等である。
【0028】
また、右側のピラー108の上部には、キャビン10内及び乗降口106を撮像するための撮像装置40が取り付けられている。
撮像装置40は、その視線が、キャビン10に対する乗降時及び運転席101の着席時のオペレータOPを撮像するのに適した向きとなるように調整され、固定されている。
なお、キャビン10に対する乗降時のオペレータOPを撮像する撮像装置と運転席101の着席時のオペレータOPを撮像する撮像装置とを個別に用意して各々の撮像に適した配置でキャビン10に設けてもよい。
また、運転支援や作業を記録するために、ショベル100の前方、左方、右方、後方を撮像する撮像装置を別途備える構成としてもよい。
【0029】
[姿勢情報取得処理部]
図4はショベル100の撮像装置40が乗降口106から乗降を行うオペレータOPを動画で撮像した撮像画像データの1フレームを示している。
ショベル100の姿勢情報取得処理部31は、取得手段としての撮像装置40によってキャビン10内及び乗降口106の撮像画像データを取得する。そして、送信手段としての姿勢情報取得処理部31は、通信機器49を通じて、オペレータOPの乗降時の姿勢を示す姿勢情報として撮像画像データを管理装置200に送信する。この撮像画像データは、動画データであり、図4に示すような1フレームの画像が経時的に複数連続した画像データの集合体からなる。撮像画像データの複数のフレームは、乗降時のオペレータOPの状態の経時的な変化を示している。
【0030】
姿勢情報取得処理部31は、設定された時間帯で連続的に撮像装置40による撮像を行い、撮像画像データの送信を行う構成としてもよいし、所定のトリガーによって撮像とデータ送信の開始と終了を決定する構成としてもよい。
例えば、姿勢情報取得処理部31は、扉107の開放動作をトリガーとして撮像さらにはデータ送信を開始してもよい。同様に、開放された扉107が閉じられた動作をトリガーとして撮像さらにはデータ送信を終了してもよい。この場合、扉107の開閉は、マイクロスイッチ等のセンサによって検出してもよい。
【0031】
[管理装置]
管理装置200は、ショベル100と地理的に離れた位置に配置され、例えば、監督者によって利用される。管理装置200は、例えば、ショベル100が作業を行う作業現場の外部に設けられる管理センタ等に設置され、一又は複数のサーバコンピュータ等を中心に構成されるサーバ装置である。この場合、サーバ装置は、ショベル100(複数であってもよい)とによって構築されるシステムを運用する事業者等の自社サーバであってもよいし、レンタルサーバであってもよい。また、このサーバ装置は、いわゆるクラウドサーバであってもよい。また、管理装置200は、ショベル100の作業現場内の管理事務所等に配置されるサーバ装置(いわゆるエッジサーバ)であってもよいし、定置型或いは携帯型の汎用のコンピュータ端末であってもよい。
【0032】
管理装置200は、図2に示すように、制御部210と記憶部220と通信機器230と画像表示装置240とを備える。
【0033】
通信機器230は、所定の無線通信規格に基づき、所定の通信ネットワークNWを通じてショベル100と各種情報を送受信する通信デバイスである。通信機器230により、管理装置200は、ショベル100のコントローラ30と協働した所定の処理を行うこともできる。
【0034】
画像表示装置240は、管理装置200を利用する監督者に通知する各種画像情報を表示する。画像表示装置240は、例えば液晶ディスプレイや有機ELディスプレイであり、操作装置としての機能も有するタッチパネル式であってもよい。また、画像表示装置240とは別に操作装置を設けてもよい。
【0035】
記憶部220は、ログ格納部221、骨格検出モデル222、姿勢検出モデル223を有する。
【0036】
ログ格納部221は、ショベル100に関するログの記憶領域である。
ログは、例えば、ショベル100を特定する固有の識別子、オペレータOPの氏名、ショベル100の各種動作が実行されたときの動作記録、ショベル100が保有する各種のセンサによる検出情報、ログ記録時の時刻、ショベル100の現在位置等である。これらの一部又は全部の情報は、通信機器230を介してショベル100から取得する。
また、後述する、ショベル100のオペレータOPの乗降時の姿勢の適否の判定結果も、ログとして記録される。
【0037】
骨格検出モデル222は、後述するショベル100のオペレータOPの乗降時の姿勢の適否の判定処理において、ショベル100から取得したキャビン10に乗降するオペレータOPの撮像画像データから骨格を出力するための機械学習モデルである。
姿勢検出モデル223は、後述するショベル100のオペレータOPの乗降時の姿勢の適否の判定処理において、オペレータOPの骨格から姿勢を出力するための機械学習モデルである。
【0038】
制御部210は、例えば、CPU,RAM,ROM,I/O等を含むマイクロコンピュータを中心に構成される。制御部210は、これらの他にも、例えばFPGAやASICなどを含んで構成されてもよい。
【0039】
制御部210は、骨格推定処理部211、姿勢推定処理部212、報知処理部213等を有する。これらは、制御部210が各種のプログラムを実行することで実現する機能的構成だが、これらの機能的構成をハードウェアで実現させてもよい。
上記骨格推定処理部211及び姿勢推定処理部212は、オペレータOPのショベル100への乗降時の姿勢の適否を判断する判断手段を構成する。
【0040】
[骨格推定処理部]
骨格推定処理部211は、ショベル100の姿勢情報取得処理部31から受信した撮像画像データに基づいてキャビン10に対して乗降するオペレータOPの骨格を推定的に検出する。
【0041】
骨格推定処理部211は、撮像画像データの複数のフレームの画像に対して順番にオペレータOPに対応する部分を抽出する。オペレータOPに対応する部分は、オペレータOPがいない状態のキャビン10内及び乗降口106の画像との対比により抽出することができる。
【0042】
そして、骨格推定処理部211は、オペレータOPに対応する部分を骨格検出モデル222に入力することで、オペレータOPの骨格を検出する。図5は前述した図4の1フレームの画像データから検出されたオペレータOPの骨格を視覚的に表現した説明図である。
【0043】
骨格検出モデル222は、1フレームの画像データのオペレータOPに対応する部分が入力されると、オペレータOPの体の各部に対応する複数の検出点Pを検出し、検出点Pの位置を座標で出力する。なお、骨格検出モデル222の検出ロジックは、ディープニューラルネットワークのアルゴリズムを適用することが好ましい。
オペレータOPの複数の検出点Pは、例えば、顔のパーツ、体の各関節等である。ただし、検出点Pはこれらに限定されない。
また、複数の検出点Pから二つの検出点P間を連結するパーツTを特定してもよい。
【0044】
なお、骨格推定処理部211は、オペレータOPの各検出点Pの位置座標を推定骨格データとして、姿勢推定処理部212に入力する。パーツTの特定を行う場合には、各パーツTの向き、長さ等の情報も推定骨格データに含ませてもよい。
【0045】
[姿勢推定処理部]
管理装置200の姿勢推定処理部212は、骨格推定処理部211から入力された推定骨格データに基づいて姿勢の判定を行う。姿勢推定処理部212は、最新のフレームの画像データの推定骨格データを、姿勢検出モデル223に入力する。
【0046】
姿勢検出モデル223は、1フレームの画像データごとに、推定骨格データの複数の検出点Pを入力することによって、オペレータOPの姿勢の判定結果を出力する。
即ち、姿勢推定処理部212によって推定骨格データの複数の検出点Pが入力されると、姿勢検出モデル223は、複数の検出点Pに基づいて、適正な姿勢とされる複数の姿勢のうちのいずれか一つに該当するか否かを判定する。なお、姿勢検出モデル223の判定ロジックは、ディープニューラルネットワークのアルゴリズムを適用することが好ましい。
【0047】
姿勢検出モデル223が判定する「適正な姿勢」とは、例えば、乗降を行うオペレータOPが、四肢の内の三肢以上で体を支えている姿勢(いわゆる、三点支持)、体の向きがキャビン10の内側に向けられた姿勢、キャビン10に設けられた手すりを掴んでいる姿勢等である。
【0048】
なお、姿勢検出モデル223は、複数の検出点Pに基づいて、不適正な姿勢とされる複数の姿勢のうちのいずれかに該当するか否かを判定してもよい。この場合、「不適正な姿勢」とは、前述した「適正な姿勢」のそれぞれの例に反する姿勢である。即ち、二肢以下で体を支えている姿勢(二点支持)、体の向きがキャビン10の外側に向けられた姿勢、手すりを掴んでいない姿勢等である。
【0049】
姿勢推定処理部212は、これらに定める「適正な姿勢」の全てに該当する場合、或いは、「不適正な姿勢」のどれにも該当しなかった場合に、オペレータOPが適正な姿勢で乗降しているとの判定結果を、報知処理部213に出力する。
また、姿勢推定処理部212は、これらに定める「適正な姿勢」の一つでも該当しなかった場合、或いは、「不適正な姿勢」のいずれか一つでも該当した場合には、オペレータOPが不適正な姿勢で乗降しているとの判定結果を、報知処理部213に出力する。
【0050】
なお、姿勢推定処理部212は、一つのフレームの画像データのみから判定しないで、連続する複数のフレームの画像データによる姿勢の変化から姿勢の適否を判定してもよい。例えば、キャビン10から降車する場合の飛び降り動作を「不適正な姿勢」に加え、複数のフレームの画像データによる姿勢の変化が飛び降りを示す場合に「不適正な姿勢」と判定する等である。
また、個々のフレームの画像データから適否を判定する場合でも、個々のフレームの画像データについて「不適正な姿勢」との判定が所定回数連続した場合に「不適正な姿勢」と確定的に判定してもよい。
【0051】
[報知処理部]
報知処理部213は、姿勢推定処理部212からオペレータOPの不適正な姿勢で乗降しているとの判定結果が入力されると、報知処理を実行する。
報知処理部213は、報知処理として、オペレータOPが不適正な姿勢で乗降を行っていることを示す報知画面を画像表示装置240に表示させて監督者に報知する。また、管理装置200が、音声出力装置を備える場合には、報知音や報知メッセージの出力等を行ってもよい。
【0052】
さらに、報知処理部213は、報知処理として、不適正な姿勢での乗降の発生を情報として含めたログを、ショベル100を特定する固有の識別子、オペレータOPの氏名、ログ記録時の時刻、ショベル100の現在位置等の情報と共にログ格納部221に記録する。
【0053】
なお、ショベル100と管理装置200の間の通信が十分に高速であって制御部210の処理能力が十分に高速である場合には、報知処理部213は、報知処理として、ショベル100にも通知してもよい。その場合、ショベル100が報知処理部を有する構成とすることが好ましい。ショベル100の報知処理部は、管理装置200からの通知を受けて、画像表示装置47に報知画面を表示し、音声出力装置48から報知音や報知メッセージの出力を行うことができる。
【0054】
[姿勢情報の取得から報知までの処理]
管理システム1000におけるオペレータOPの姿勢情報の取得から報知までの一連の処理について説明する。図6は姿勢情報の取得から報知までの一連の処理においてショベル100のコントローラ30が行う処理を示すフローチャート、図7は管理装置200の制御部210が行う処理を示すフローチャートである。
【0055】
まず、ショベル100の姿勢情報取得処理部31は、キャビン10に対して乗降を行うオペレータOPを撮像装置40によって撮像する(ステップS1)。
そして、姿勢情報取得処理部31は、撮像による撮像画像データを姿勢情報として管理装置200に送信する(ステップS3)。
【0056】
一方、管理装置200の制御部210は、ショベル100のコントローラ30からの撮像画像データ(姿勢情報)の受信の有無を判定する(ステップT1)。
【0057】
そして、撮像画像データ(姿勢情報)の受信を認識すると、骨格推定処理部211は、1フレームの画像データごとにオペレータOPに対応する部分を抽出する(ステップT3)。
さらに、オペレータOPに対応する部分のデータを骨格検出モデル222に入力し、オペレータOPの複数の検出点Pの位置座標を推定骨格データとして取得する(ステップT5)。骨格推定処理部211は、推定骨格データを姿勢推定処理部212に入力する。
【0058】
姿勢推定処理部212は、推定骨格データを姿勢検出モデル223に入力する。そして、姿勢検出モデル223による「適正な姿勢」の判定結果を取得する(ステップT7)。姿勢推定処理部212は、判定結果を報知処理部213に入力する。
【0059】
報知処理部213は、姿勢推定処理部212から、オペレータOPが「適正な姿勢」であることを示す判定結果が入力された場合には、そのまま処理を終了する(ステップT9)。
また、報知処理部213は、姿勢推定処理部212から、オペレータOPが「不適正な姿勢」であることを示す判定結果が入力された場合には、報知処理を実行する(ステップT11)。即ち、報知処理部213は、報知画面を画像表示装置240に表示すると共に、「不適正な姿勢」での乗降をログとしてログ格納部221に記録して処理を終了する。
【0060】
なお、図7に示した管理装置200の制御部210が行う処理は、撮像画像データの1フレームごとに逐次実行してもよいし、所定数分のフレームの間隔をあけて間欠的に行ってもよい。
【0061】
[第1実施形態の技術的効果]
上記管理システム1000は、ショベル100のオペレータOPの姿勢情報に基づいて、骨格推定処理部211及び姿勢推定処理部212が乗降時の姿勢の適否を判断する。
これにより、オペレータOPによる不適正な乗降を監視することができ、その防止、抑制に貢献する。
このため、ショベル100に対する昇降装置の設置を不要とし、ショベル100の大型化や複雑化、重量の増加、製造コストの上昇等を抑えて、乗降の適正化を図ることが可能となる。
【0062】
さらに、管理システム1000は、管理装置200がオペレータOPの姿勢の適否に基づいて報知処理を行う報知処理部213を有するので、オペレータOPによる不適正な乗降の発生をより効果的に認識させることができる。
【0063】
また、上記報知処理部213は、報知処理として、乗降時の不適正な姿勢の発生の報知、乗降時の姿勢の不適正な姿勢の発生をログとして記録する処理を行っている。
このため、オペレータOPによる不適正な乗降の発生をより迅速に認識させることが可能となる。
また、報知処理部213は、報知処理として、乗降時の不適正な姿勢の発生をログとして記録する処理も行っている。
このため、乗降時の不適正な姿勢の発生が記録として残されるため、後からも、確認的に不適正な乗降の発生を認識することが可能となる。
【0064】
姿勢推定処理部212は、乗降時の姿勢の適否として、オペレータOPの四肢の内の三肢以上で体を支えている姿勢か否かを判定要素の一つとしている。
このため、オペレータOPによる乗降時に発生しやすい三肢未満での支持(二点支持)により乗降時の姿勢を摘発することができ、より効果的に乗降の適正化を図ることが可能となる。
【0065】
また、姿勢推定処理部212は、乗降時の姿勢の適否として、オペレータOPの体の向きも判定要素の一つとしている。
このため、オペレータOPによる降車時に発生しやすい外向き姿勢により乗降時の姿勢の適否が判定されるので、より効果的に乗降の適正化を図ることが可能となる。
【0066】
[第2実施形態]
本発明の第2実施形態について、図面を参照して詳細に説明する。
図8は、ショベルの管理システム1000Aの概略構成を示すブロック図である。本実施形態では、管理システム1000Aにおける、前述した管理システム1000と異なる点を主に説明する。また、管理システム1000Aの管理システム1000と共通する構成については、同符号を付して重複する説明は省略する。
【0067】
管理システム1000Aは、ネットワークNWを通じて通信可能となるショベル100A及び管理装置200Aから構成されている。なお、この管理システム1000Aでは、オペレータOPの姿勢情報の取得から報知までの一連の処理を全てショベル100Aのコントローラ30Aが行うことができる。一方、管理装置200Aは、主にログを記録する処理を行う。
【0068】
上記ショベル100Aのコントローラ30Aは、その機能が任意のハードウェア、ソフトウェア、或いはその組み合わせにより実現される。さらに、コントローラ30Aは、機能的構成として、姿勢情報取得処理部31、報知処理部32、骨格推定処理部33及び姿勢推定処理部34を有する。
【0069】
骨格推定処理部33、姿勢推定処理部34は、前述した管理装置200の制御部210の骨格推定処理部211、姿勢推定処理部212と同一の処理を行う。つまり、骨格推定処理部33と姿勢推定処理部34は、乗降時の姿勢の適否を判断する判断手段を構成する。
【0070】
また、報知処理部32は、管理装置200の制御部210の報知処理部213と同一の処理を行う。
即ち、報知処理部32は、報知処理として、オペレータOPの不適正な姿勢での乗降の発生を示す報知画面をキャビン10内の画像表示装置47に表示し、音声出力装置48による報知音や報知メッセージの出力を行う。
また、報知処理部32は、報知処理として、不適正な姿勢での乗降の発生を情報として含めたログを、通信ネットワークNWを通じて管理装置200Aに送信する。
【0071】
さらに、ショベル100Aは、各種のデータ等の情報を書き込み及び読み出し可能に記憶する記憶部46Aを備える。
記憶部46Aは、前述した管理装置200の記憶部220が有していた骨格検出モデル222、姿勢検出モデル223と同じ骨格検出モデル461、姿勢検出モデル462を有する。
【0072】
[姿勢情報の取得から報知までの処理]
ショベル100AにおけるオペレータOPの姿勢情報の取得から報知までの一連の処理について説明する。図9はショベル100Aのコントローラ30Aが行う、姿勢情報の取得から報知までの一連の処理を示すフローチャートである。
【0073】
まず、ショベル100Aのコントローラ30Aの姿勢情報取得処理部31は、キャビン10の乗降を行うオペレータOPを撮像する(ステップS21)。そして、撮像画像データを姿勢情報として骨格推定処理部33に出力する。
【0074】
骨格推定処理部33は、撮像画像データの1フレームの画像データごとにオペレータOPに対応する部分を抽出する(ステップS23)。
さらに、オペレータOPに対応する部分のデータを骨格検出モデル461に入力し、推定骨格データを取得する(ステップS25)。取得した推定骨格データは、姿勢推定処理部34に入力される。
【0075】
姿勢推定処理部34は、推定骨格データを姿勢検出モデル462に入力する。そして、「適正な姿勢」の判定結果を取得する(ステップS27)。姿勢推定処理部34は、判定結果を報知処理部32に入力する。
【0076】
報知処理部32は、姿勢推定処理部34から、オペレータOPが「適正な姿勢」であることを示す判定結果が入力された場合には、そのまま処理を終了する(ステップS29)。
また、報知処理部32は、姿勢推定処理部34から、オペレータOPが「不適正な姿勢」であることを示す判定結果が入力された場合には、報知処理を実行する(ステップS31)。
即ち、報知処理部32は、報知画面を画像表示装置47に表示し、音声出力装置48から報知音や報知メッセージを出力させる。
さらに、報知処理部32は、「不適正な姿勢」での乗降をログとして通信ネットワークNWを通じて管理装置200Aに送信する。
管理装置200Aでは、記憶部220A内のログ格納部221に「不適正な姿勢」での乗降をログとして記録する。
【0077】
なお、図9に示したコントローラ30Aが行う処理も、撮像画像データの1フレームごとに逐次実行してもよいし、所定数分のフレームの間隔をあけて間欠的に行ってもよい。
【0078】
[第2実施形態の技術的効果]
上記ショベル100Aは、オペレータOPの乗降の適正化について、前述した管理システム1000と同一の技術的効果を有する。
さらに、上記ショベル100Aは、姿勢情報取得処理部31が取得したオペレータOPの姿勢情報としての撮像画像データに基づいて、骨格推定処理部33及び姿勢推定処理部34が乗降時の姿勢の適否を判断する。
この場合、姿勢情報としての撮像画像データを、通信ネットワークNWを通じて管理装置200Aに送信する処理が不要となるので、乗降時の姿勢の適否の判断を迅速に行うことが可能となる。
これにより、オペレータOPによる不適正な乗降を監視することができ、より効果的に、その防止、抑制に貢献する。
このため、ショベル100Aに対する昇降装置の設置を不要とし、ショベル100Aの大型化や複雑化、重量の増加、製造コストの上昇等を抑えて、乗降の適正化を図ることが可能となる。
【0079】
さらに、ショベル100Aは、撮像画像データを、通信ネットワークNWを通じて管理装置200Aに送信する処理が不要となるので、報知処理部32により報知処理を迅速に行うことが可能となる。
このため、不適正な姿勢で乗降を行ったオペレータOPに対して、その場で報知することができ、不適正な姿勢で乗降を行ったことを、より速やかに認識させることが可能となる。このため、再度の不適正な姿勢での乗降の抑止効果が高く、乗降時の姿勢の適正化を効果的に推進させることが可能となる。
【0080】
[その他]
以上、本発明の実施形態について説明したが、本発明は上記実施形態やその変形例に限られない。
例えば、前述した管理装置200の報知処理部213やショベル100Aの報知処理部32は、オペレータOPによる不適正な姿勢での乗降時に報知処理を行う場合を例示したが、適正な姿勢での乗降時にも適正な姿勢で乗降が行われたことを画像や音声で報知してもよい。また、適正な姿勢での乗降をログとして記録させてもよい。
【0081】
また、ショベル100,100Aの撮像装置40は、キャビン10の内部に設けられ、キャビン10の内側から乗降を行うオペレータOPの撮像を行っているがこれに限定されない。例えば、撮像装置40をキャビン10の外部に配置し、キャビン10の外側から乗降を行うオペレータOPの撮像を行ってもよい。
【0082】
また、姿勢情報取得処理部31は、オペレータOPの姿勢情報は、撮像装置40によらず、キャビン10の乗降のために設けられたステップや把手に設けられた手足の接触を検出するセンサ(接触センサ、マイクロスイッチ等)によって取得してもよい。
これにより、判断手段(姿勢推定処理部212,34)は、これらの手足の接触点数から四肢の内の三肢以上で体を支えている姿勢か否かによって姿勢の適否を判断することができる。
【0083】
また、第1実施形態では、オペレータOPの乗降時の姿勢を示す姿勢情報を撮像画像データとする内容を例示したが、姿勢情報は、これに限定されない。姿勢情報は、オペレータOPの乗降時の姿勢の判断材料となるあらゆる情報が含まれる。例えば、前述した骨格推定処理部211が出力する推定骨格データや姿勢推定処理部212が出力するオペレータOPの姿勢の判定結果を姿勢情報としてもよい。
【0084】
姿勢情報を推定骨格データとする場合、ショベル100のコントローラ30が骨格推定処理部211を有する構成とする。そして、姿勢情報取得処理部31(送信手段)が通信機器49を通じて推定骨格データ(姿勢情報)を管理装置200に送信する。
【0085】
また、姿勢情報をオペレータOPの姿勢の判定結果とする場合、ショベル100のコントローラ30が骨格推定処理部211及び姿勢推定処理部212を有する構成とする。そして、姿勢情報取得処理部31(送信手段)が通信機器49を通じてオペレータOPの姿勢の判定結果(姿勢情報)を管理装置200に送信する。
【0086】
また、管理装置200の制御部210又はショベル100Aのコントローラ30Aは、オペレータOPの乗降時の姿勢の適否について監視を行っているが、オペレータOPの他の状態についても監視してもよい。
例えば、キャビン10内の撮像装置40により、運転席101にいるオペレータOPの状態監視(体調不良、意識喪失状態等)を行ってもよい。これらの状態監視にも、撮像画像からディープニューラルネットワークのアルゴリズムが適用された機械学習モデルを利用して、該当する状態を検出することが好ましい。
【0087】
また、本発明に係る作業機械は、ショベルに限定されず、作業機械全般(建設機械も含む)に適用可能である。例えば、本発明に係る作業機械の表示装置は、ホイールローダ、ブルドーザ、モータグレーダ、スキッドステアローダ、コンパクトトラックローダ、自走式クレーン等にも適用可能である。
特に、上記の内、上部旋回体を備える作業機械は、昇降装置の設置が難しいことから、より好適に本発明を適用することができる。
【0088】
その他、実施の形態で示した細部は、発明の趣旨を逸脱しない範囲で適宜変更可能である。
【符号の説明】
【0089】
10 キャビン
30,30A コントローラ
31 姿勢情報取得処理部(送信手段)
32 報知処理部
33 骨格推定処理部(判断手段)
34 姿勢推定処理部(判断手段)
40 撮像装置(取得手段)
46,46A 記憶部
47 画像表示装置
48 音声出力装置
49 通信機器
100,100A ショベル
107 扉
108 ピラー
200 管理装置
200,200A 管理装置
210 制御部
211 骨格推定処理部(判断手段)
212 姿勢推定処理部(判断手段)
213 報知処理部
220,220A 記憶部
221 ログ格納部
222 骨格検出モデル
223 姿勢検出モデル
230 通信機器
240 画像表示装置
461 骨格検出モデル
462 姿勢検出モデル
1000,1000A 管理システム
NW 通信ネットワーク
OP オペレータ
図1
図2
図3
図4
図5
図6
図7
図8
図9