(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-05-27
(45)【発行日】2024-06-04
(54)【発明の名称】建設機械の点検システム
(51)【国際特許分類】
H04N 7/18 20060101AFI20240528BHJP
E02F 9/26 20060101ALI20240528BHJP
【FI】
H04N7/18 D
H04N7/18 E
H04N7/18 F
E02F9/26 A
(21)【出願番号】P 2020002727
(22)【出願日】2020-01-10
【審査請求日】2022-10-12
(73)【特許権者】
【識別番号】000246273
【氏名又は名称】コベルコ建機株式会社
(74)【代理人】
【識別番号】110000800
【氏名又は名称】デロイトトーマツ弁理士法人
(72)【発明者】
【氏名】佐々木 均
(72)【発明者】
【氏名】山▲崎▼ 洋一郎
【審査官】益戸 宏
(56)【参考文献】
【文献】特開2009-068920(JP,A)
【文献】特開2005-273470(JP,A)
【文献】特開2013-221303(JP,A)
【文献】特開2004-343322(JP,A)
【文献】特開平11-298887(JP,A)
【文献】国際公開第2019/181923(WO,A1)
【文献】特開2006-221311(JP,A)
【文献】特開2009-105564(JP,A)
【文献】特開平05-143714(JP,A)
【文献】米国特許出願公開第2019/0268571(US,A1)
【文献】特表2002-522980(JP,A)
【文献】米国特許出願公開第2001/0029613(US,A1)
【文献】特開2016-053531(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
E02F 9/26
H04N 23/00
(57)【特許請求の範囲】
【請求項1】
建設機械の配置環境に該建設機械の外観を撮影し得るように配置された複数のカメラと、
該複数のカメラのそれぞれの撮影映像を受信可能に前記建設機械の外部に配置され、受信した撮影映像を表示可能な表示器を備える撮影映像処理部と、
前記建設機械の点検時に、
少なくとも第1情報及び第2情報に基づいて、前記複数のカメラから、前記建設機械の点検対象部位を撮影するためのカメラである点検用カメラを選定するカメラ選定部とを備え、
前記第1情報は、前記建設機械と前記複数のカメラのそれぞれとの位置関係、又は、前記建設機械と前記複数のカメラのそれぞれの撮影可能領域との位置関係を示す情報であり、かつ、前記第2情報は、前記建設機械における前記点検対象部位の位置を示す情報であり、
前記撮影映像処理部は、前記選定された点検用カメラにより前記点検対象部位の画像を含むように撮影された撮影映像を受信して、該撮影映像を前記表示器に表示させ得るように構成されていることを特徴とする建設機械の点検システム。
【請求項2】
建設機械の配置環境に該建設機械の外観を撮影し得るように配置された複数のカメラと、
該複数のカメラのそれぞれの撮影映像を受信可能に前記建設機械の外部に配置され、受信した撮影映像を表示可能な表示器を備える撮影映像処理部と、
前記建設機械の点検時に、前記複数のカメラから、該建設機械の点検対象部位を撮影するためのカメラである点検用カメラを選定するカメラ選定部とを備え、
前記カメラ選定部は、前記複数のカメラのそれぞれの撮影映像を取得すると共に、当該それぞれの撮影映像から前記点検対象部位の画像を認識する画像認識処理を実行し、少なくとも該画像認識処理の結果に基づいて前記点検用カメラを選定するように構成され、
前記撮影映像処理部は、前記選定された点検用カメラにより前記点検対象部位の画像を含むように撮影された撮影映像を受信して、該撮影映像を前記表示器に表示させ得るように構成されていることを特徴とする建設機械の点検システム。
【請求項3】
請求項1
又は2記載の建設機械の点検システムにおいて、
前記複数のカメラは、前記建設機械の外部に配置されたカメラである外部カメラと、前記建設機械にあらかじめ搭載されているカメラである搭載カメラとを含むことを特徴とする建設機械の点検システム。
【請求項4】
請求項1
~3のいずれか1項に記載の建設機械の点検システムにおいて、
前記建設機械の点検対象部位は複数の部位であり、前記カメラ選定部は、当該複数の点検対象部位のそれぞれ毎に、前記点検用カメラを選定するように構成されていることを特徴とする建設機械の点検システム。
【請求項5】
請求項1~
4のいずれか1項に記載の建設機械の点検システムにおいて、
前記撮影映像処理部は、前記点検用カメラによる撮影映像を取得するとき、該点検用カメラの撮影方向と、該点検用カメラの撮影倍率と、前記建設機械の向きとのうちの少なくとも1つを変化させる機能をさらに有するように構成されていることを特徴とする建設機械の点検システム。
【請求項6】
請求項1~
5のいずれか1項に記載の建設機械の点検システムにおいて、
前記撮影映像処理部は、前記点検用カメラにより前記点検対象部位の画像を含むように撮影された撮影映像に基づいて、該点検対象部位の状態を判定する機能と、該判定の結果を示す情報を、前記建設機械の点検時に前記表示器を視認する点検作業者に報知する機能とをさらに含むことを特徴とする建設機械の点検システム。
【請求項7】
請求項
6記載の建設機械の点検システムにおいて、
前記撮影映像処理部は、前記点検用カメラにより前記点検対象部位の画像を含むように撮影された撮影映像を前記表示器に表示させることと並行して、該表示器に前記判定の結果を示す情報を表示させるように構成されていることを特徴とする建設機械の点検システム。
【請求項8】
請求項1~
7のいずれか1項に記載の建設機械の点検システムにおいて、
前記カメラ選定部及び前記撮影映像処理部は、所定の点検開始条件が成立することに応じて、それぞれの処理を開始するように構成されていることを特徴とする建設機械の点検システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、建設機械の点検システムに関する。
【背景技術】
【0002】
油圧ショベル等の建設機械では、その機体の各部に異物が当たることや、ブーム、アーム等の可動部に大きな負荷がかかりやすいこと等から、外面部の亀裂等の損傷の有無や、油漏れの有無等を適宜点検する必要がある。
【0003】
この場合、建設機械を操縦するオペレータ等の点検作業者が、建設機械の近くで目視による点検を行うことが従来より一般に行われている。
【0004】
また、例えば特許文献1に見られるように、エンジンルームを撮影する点検用カメラが搭載された支持部を建設機械に取付けて、点検作業者が、建設機械の運転室のディスプレイにて、カメラの撮影映像を視認し得るようにした点検装置が知られている。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、建設機械の点検作業を、建設機械から離れた場所でも行い得ることが望まれる。特に、遠隔操縦を行い得る建設機械では、それを操縦するオペレータ等が建設機械から離れた場所に居るので、点検作業も、離れた場所で行い得ることが望まれる。
【0007】
この場合、特許文献1に見られる技術では、点検時に建設機械にカメラを取り付ける必要があるので、カメラの撮影映像を建設機械から離れた場所でディスプレイで見られるようにしても、該カメラの取付け作業を行う作業者が必要になってしまう。また、建設機械に1つのカメラを取り付けただけでは、建設機械の複数の部位の点検を行うことは困難である。ひいては、建設機械に複数のカメラを取り付ける作業や、カメラの取付け部位の変更作業が必要になってしまう。
【0008】
一方、遠隔操縦を行い得る建設機械の配置環境では、該建設機械の動作状況を視覚的に確認し得るようにするために、通常、該建設機械を外部から撮影し得る複数のカメラが配置される。そこで、これらのカメラを利用して建設機械の点検作業を行うことが考えられる。
【0009】
本発明はかかる背景に鑑みてなされたものであり、建設機械の点検作業を、離れた場所から適切に行うことを可能とするシステムを提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明の建設機械の点検システムは、上記の目的を達成するために、建設機械の配置環境に該建設機械の外観を撮影し得るように配置された複数のカメラと、
該複数のカメラのそれぞれの撮影映像を受信可能に前記建設機械の外部に配置され、受信した撮影映像を表示可能な表示器を備える撮影映像処理部と、
前記建設機械の点検時に、少なくとも第1情報及び第2情報に基づいて、前記複数のカメラから、該建設機械の点検対象部位を撮影するためのカメラである点検用カメラを選定するカメラ選定部とを備え、
該第1情報は、前記建設機械と前記複数のカメラのそれぞれとの位置関係、又は、前記建設機械と前記複数のカメラのそれぞれの撮影可能領域との位置関係を示し、該第2情報は、前記建設機械における前記点検対象部位の位置を示し、
前記撮影映像処理部は、前記選定された点検用カメラにより前記点検対象部位の画像を含むように撮影された撮影映像を受信して、該撮影映像を前記表示器に表示させ得るように構成されていることを特徴とする(第1発明の第1態様)。
【0011】
かかる第1発明の第1態様によれば、建設機械の配置環境に配置された複数のカメラから、点検対象部位を撮影する上で好適な点検用カメラを選定することができると共に、その点検用カメラの撮影映像(点検対象部位の画像を含む撮影映像)を建設機械の外部の表示器で表示させることができる。このため、点検作業者は、表示器の表示情報から点検対象部位の状態を視覚的に確認することができる。従って、建設機械の点検時に点検用カメラを建設機械に取付けたりする作業を必要とせずに、建設機械の点検作業を、離れた場所から適切に行うことが可能となる。
また、前記カメラ選定部は、前記建設機械と前記複数のカメラのそれぞれとの位置関係、又は、前記建設機械と前記複数のカメラのそれぞれの撮影可能領域との位置関係を示す第1情報と、前記建設機械における前記点検対象部位の位置を示す第2情報とを取得し、少なくとも該第1情報及び該第2情報に基づいて前記点検用カメラを選定するように構成され得るため、上記第1情報及び第2情報に基づいて点検用カメラを選定することで、点検対象部位の画像を含む撮影映像を撮影し得る点検用カメラを適切に選定できる。
【0012】
本発明の建設機械の点検システムは、上記の目的を達成するために、建設機械の配置環境に該建設機械の外観を撮影し得るように配置された複数のカメラと、
該複数のカメラのそれぞれの撮影映像を受信可能に前記建設機械の外部に配置され、受信した撮影映像を表示可能な表示器を備える撮影映像処理部と、
前記建設機械の点検時に、前記複数のカメラから、該建設機械の点検対象部位を撮影するためのカメラである点検用カメラを選定するカメラ選定部とを備え、
前記カメラ選定部は、前記複数のカメラのそれぞれの撮影映像を取得すると共に、当該それぞれの撮影映像から前記点検対象部位の画像を認識する画像認識処理を実行し、少なくとも該画像認識処理の結果に基づいて前記点検用カメラを選定するように構成され、
前記撮影映像処理部は、前記選定された点検用カメラにより前記点検対象部位の画像を含むように撮影された撮影映像を受信して、該撮影映像を前記表示器に表示させ得るように構成されていることを特徴とする(第1発明の第2態様)。
【0013】
かかる第1発明の第2態様によれば、建設機械の配置環境に配置された複数のカメラから、点検対象部位を撮影する上で好適な点検用カメラを選定することができると共に、その点検用カメラの撮影映像(点検対象部位の画像を含む撮影映像)を建設機械の外部の表示器で表示させることができる。このため、点検作業者は、表示器の表示情報から点検対象部位の状態を視覚的に確認することができる。従って、建設機械の点検時に点検用カメラを建設機械に取付けたりする作業を必要とせずに、建設機械の点検作業を、離れた場所から適切に行うことが可能となる。
これによれば、上記画像認識処理の結果に基づいて点検用カメラを選定することで、複数のカメラのうち、点検対象部位の適切な画像を実際に撮影し得るカメラを点検用カメラとして選定することができる。例えば、レンズの汚れや障害物等により、点検対象部位の画像を鮮明に撮影できないカメラが点検用カメラとして選定されてしまうのを防止できる。
【0014】
上記第1発明では、前記複数のカメラは、前記建設機械の外部に配置されたカメラである外部カメラと、前記建設機械にあらかじめ搭載されているカメラである搭載カメラとを含むことが好ましい(第2発明)。
【0015】
これによれば、前記複数のカメラが、外部カメラに加えて、搭載カメラを含むので、建設機械の様々な点件対象部位に対して、該点検対象部位の画像含む撮影映像を撮影する上で好適な点検用カメラを選定することが可能となる。
【0016】
上記第1発明又は第2発明では、前記建設機械の点検対象部位が複数の部位である場合には、前記カメラ選定部は、当該複数の点検対象部位のそれぞれ毎に、前記点検用カメラを選定するように構成されていることが好ましい(第3発明)。
【0017】
これによれば、複数の点検対象部位のそれぞれ毎に、各点検対象部位を含む画像を含む撮影映像を撮影する上で好適な点検用カメラを選定できる。
【0020】
上記第1~第3発明では、前記撮影映像処理部は、前記点検用カメラによる撮影映像を取得するとき、該点検用カメラの撮影方向と、該点検用カメラの撮影倍率と、前記建設機械の向きとのうちの少なくとも1つを変化させる機能をさらに有するように構成されていることが好ましい(第4発明)。
【0021】
これによれば、点検用カメラの撮影映像中に、点検対象部位の状態を確認する上で好適な画像が含まれるように(例えば、点検対象部位の正面画像が撮影映像中の中央付近に写るように、あるいは、該点検対象部位の画像が見やすい大きさの画像になるように)することが可能となる。
【0022】
上記第1~第4発明では、前記撮影映像処理部は、前記点検用カメラにより前記点検対象部位の画像を含むように撮影された撮影映像に基づいて、該点検対象部位の状態を判定する機能と、該判定の結果を示す情報を、前記建設機械の点検時に前記表示器を視認する点検作業者に報知する機能とをさらに含み得る(第5発明)。
【0023】
これによれば、点検作業者は、表示器に表示される点検用カメラの撮影映像中の点検対象部位の画像から該点検対象部位の状態を確認できると共に、上記判定の結果を知ることができるので、点検作業者が点検対象部位の状態を誤って特定してしまうのを防止することが可能となる。
【0024】
上記第5発明では、前記撮影映像処理部は、前記点検用カメラにより前記点検対象部位の画像を含むように撮影された撮影映像を前記表示器に表示させることと並行して、該表示器に前記判定の結果を示す情報を表示させるように構成され得る(第6発明)。
【0025】
これによれば、点検作業者は、表示器に表示される点検用カメラの撮影映像中の点検対象部位の画像から点検対象部位の状態を確認しながら、上記判定の結果を認識できるので、画像に基づく点検対象部位の状態の確認を効率よく行うことが可能となる。
【0026】
上記第1~第6発明では、前記カメラ選定部及び前記撮影映像処理部は、所定の点検開始条件が成立することに応じて、それぞれの処理を開始するように構成され得る(第7発明)。これによれば、建設機械の点検を好適なタイミングで行うことができる。
【図面の簡単な説明】
【0027】
【
図1】本発明の実施形態の点検システムとしての機能を有する遠隔操縦システムの全体構成を示す図。
【
図2】
図1に示す遠隔操縦システムの制御処理に関する構成を示すブロック図。
【発明を実施するための形態】
【0028】
本発明の一実施形態を
図1~
図5を参照して以下に説明する。
図1は本実施形態の点検システムとしての機能を含む建設機械の遠隔操縦システム1の全体構成を示している。この遠隔操縦システム1は、オペレータが操縦装置40を操作することで、該オペレータ又は操縦装置40に対して操縦対象の建設機械として割り当てられた建設機械10を遠隔操縦し得るように構成されたシステムである。なお、
図1では、建設機械10と操縦装置40とをそれぞれ1つだけ代表的に記載しているが、遠隔操縦システム1には、複数の建設機械10と複数の操縦装置40とが含まれ得る。
【0029】
遠隔操縦システム1は、操縦装置40及び建設機械10の他、遠隔操縦システム1に関する様々な運営処理、情報処理等を行うサーバ50と、各建設機械10が配置される配置環境としての作業現場に設置された複数のカメラ60(以降、現場設置カメラ60という)とを含む。
【0030】
そして、各建設機械10と各操縦装置40とサーバ50とが、無線通信網を含むネットワークNWを介して相互に通信を行うことが可能である。また、各操縦装置40及びサーバ50は、適宜、ネットワークNWを介して現場設置カメラ60の撮影映像を取得することが可能である。各現場設置カメラ60は、その撮影方向(光軸の向き)や撮影倍率を操縦装置40又はサーバ50からの指令より、適宜変更し得るように構成されている。
【0031】
各建設機械10としては、例えば油圧ショベルを採用し得る。この場合、建設機械10は、公知の油圧ショベルと同様に、クローラ式(又は車輪型)の走行体11と、該走行体11に旋回可能に搭載された旋回体12と、旋回体12の前部に取り付けられた作業装置13とを備える。旋回体12は、運転室12aを前部に有し、後述のエンジン22及び油圧回路装置21等が収容された機械室12bを後部に有する。また、作業装置13は、ブーム13a、アーム13b及びアタッチメント13c(例えばバケット)を有する。
【0032】
また、詳細な図示は省略するが、各建設機械10は、
図2に示すように、複数の油圧アクチュエータ20と、各油圧アクチュエータ20に作動油を供給するための図示しない油圧ポンプや方向切換弁等を含む油圧回路装置21と、油圧回路装置21の油圧ポンプを駆動するエンジン22と、各油圧アクチュエータ20の作動を操作するための操作装置23と、操作装置23を駆動する電動式の操作駆動装置24と、建設機械10の周囲(運転室12aの前方を含む)の状況を撮影し得るように旋回体12等に搭載された複数のカメラ25(以降、搭載カメラ25という)と、建設機械10の運転制御を行う機能を有する制御装置30(以降、機械側制御装置30という)とを備える。なお、
図2では、油圧アクチュエータ20及び搭載カメラ25は、それぞれの1つを代表的に記載している。
【0033】
油圧アクチュエータ20には、作業装置13のブーム13a、アーム13b及びアタッチメント13cをそれぞれ駆動する油圧シリンダ20a,20b,20c(
図1に示す)が含まれると共に、走行体11の走行駆動を行う走行用油圧モータ(図示省略)と、旋回体12の旋回駆動を行う旋回用油圧モータ(図示省略)とが含まれる。
【0034】
操作装置23は、運転室12aに配置される操作レバーや操作ペダル、操作スイッチ等を含む。また、操作駆動装置24は、例えば複数の電動モータを有し、操作装置23に含まれる操作レバーや操作ペダルを、適宜の動力伝達機を介して電動モータにより駆動し得るように構成されている。
【0035】
機械側制御装置30は、例えばマイクロコンピュータ、メモリ(RAM、ROM等)、インターフェース回路、無線通信機等を含む1つ以上の電子回路ユニットにより構成される。そして、機械側制御装置30は、実装されたハードウェア構成及びプログラム(ソフトウェア構成)の一方又は両方により実現される機能として、搭載カメラ25の撮影映像を取得する機能と、操縦装置40の後述のマスター側制御装置47及びサーバ50のそれぞれとの通信をネットワークNWを介して行う機能と、油圧回路装置21に備えられた電動弁(電磁比例弁等)、エンジン22及び操作駆動装置24のそれぞれの作動制御を通じて建設機械10の運転制御を行う機能とを有する。
【0036】
この場合、機械側制御装置30は、マスター側制御装置47又はサーバ50との通信によって、建設機械10の作動指令を受信することや、搭載カメラ25の撮影映像や建設機械10の作動状態を示す情報をマスター側制御装置47又はサーバ50に送信することが可能である。
【0037】
各操縦装置40は、
図3に示すように、遠隔操縦室41内に、オペレータが着座するシート42と、建設機械10の遠隔操縦のためにオペレータが操作する操作装置43と、音響情報(聴覚的情報)の出力装置としてのスピーカ44と、表示情報(視覚的情報)の出力装置としてのディスプレイ45とを備える。
【0038】
操作装置43は、例えば、建設機械10の操作装置23と同様もしくは類似の構成のものを採用し得る。例えば
図3に例示する操作装置43は、シート42に着座したオペレータが操作し得るようにシート42の前側に配置された操作ペダル43ap付きの操作レバー43aと、シート42の左右の両側に各々配置された操作レバー43bとを含む。ただし、操作装置43は、建設機械10の操作装置23と異なる構成のものであってもよい。例えば操作装置43は、ジョイスティック、操作ボタン等を有する携帯型の操作装置であってもよい。
【0039】
スピーカ44は、遠隔操縦室41の複数個所(例えば、遠隔操縦室41の前部、後部及び左右の両側)に設置されている。ディスプレイ45は、例えば液晶ディスプレイ、ヘッドアップディスプレイ等により構成され、シート42に着座したオペレータが視認し得るように遠隔操縦室41に設置されている。なお、本実施形態では、ディスプレイ45は、本発明における表示器として機能し得るものである。
【0040】
また、
図2に示すように、操縦装置40は、さらに、操作装置43の操作状態を検出するための操作状態検出器46と、操縦装置40に関する制御処理を実行する機能を有するマスター側制御装置47とを備える。なお、マスター側制御装置47は、遠隔操縦室41の内部及び外部のいずれに配置されていてもよい。
【0041】
操作状態検出器46は、例えば、操作装置43に組み込まれたポテンショメータ、接点スイッチ等を含み、操作装置43の各操作部(操作レバー43a,43b、操作ペダル43ap等)の操作状態を示す検出信号を出力するように構成されている。
【0042】
マスター側制御装置47は、例えば、マイクロコンピュータ、メモリ(RAM、ROM等)、インターフェース回路、通信機等を含む1つ以上の電子回路ユニットにより構成される。そして、マスター側制御装置47は、実装されたハードウェア構成及びプログラム(ソフトウェア構成)の一方又は両方により実現される機能として、操作状態検出器46の検出信号を取得する機能と、操縦対象の建設機械10が配置された作業現場の現場設置カメラ60の撮影映像をネットワークNWを介して取得する機能と、操縦対象の各建設機械10の機械側制御装置30及びサーバ50のそれぞれとの通信をネットワークNWを介して行う機能と、スピーカ44の作動制御及びディスプレイ45の表示制御を行う機能とを有する。
【0043】
この場合、マスター側制御装置47は、建設機械10の機械側制御装置30との通信によって、該建設機械10の搭載カメラ25の撮影映像や、該建設機械10の作動状態を示す情報を機械側制御装置30から取得し得ると共に、操作装置43の操作状態に応じて生成した建設機械10の作動指令を機械側制御装置30に送信することが可能である。また、マスター側制御装置47は、サーバ50との通信によって、建設機械10の遠隔操縦に関する様々な情報や指令をサーバ50から取得することが可能である。
【0044】
サーバ50は、例えば1つ以上のコンピュータ、あるいは、マイクロコンピュータ等を含む1つ以上の電子回路ユニット、あるいは、これらの組み合わせにより構成される。そして、サーバ50は、実装されたハードウェア構成及びプログラム(ソフトウェア構成)の一方又は両方により実現される機能として、各現場設置カメラ60の撮影映像をネットワークNWを介して取得する機能と、各建設機械10の機械側制御装置30及び各操縦装置40のマスター側制御装置47のそれぞれとの通信をネットワークNWを介して行う機能とを有する。さらに、サーバ50は、操縦装置40のオペレータ等が操作可能な図示しない通信端末(例えば、スマートフォン、タブレット端末、パソコン等)と通信を行うことも可能である。
【0045】
そして、サーバ50は、建設機械10の機械側制御装置30との通信によって、該建設機械10の搭載カメラ25の撮影映像や、該建設機械10の作動状態を示す情報を機械側制御装置30から取得し得る。
【0046】
また、サーバ50は、操縦装置40のマスター側制御装置47との通信によって、操縦装置40の作動状態を示す情報をマスター側制御装置47から取得し得ると共に、建設機械10の遠隔操縦又は点検に関する様々な情報や指令を、該建設機械10を操縦可能な操縦装置40のマスター側制御装置47に送信することが可能である。
【0047】
また、サーバ50には、建設機械10及び操縦装置40のそれぞれの稼働スケジュール及び稼働履歴を示す情報が記憶保持されていると共に、各現場設置カメラ60の位置情報(グローバル座標系で見た各現場設置カメラ60の位置を示す情報)もしくは各現場設置カメラ60の撮影可能領域の位置情報(グローバル座標系で見た各現場設置カメラ60の撮影可能範囲の位置を示す情報)が記憶保持されている。なお、各現場設置カメラ60の位置情報には、各現場設置カメラ60の光軸の向き、もしくはその可変範囲を示す情報が含まれ得る。また、各現場設置カメラ60又はその撮影可能範囲の位置情報を、各現場設置カメラ60に備えられたメモリに記憶保持しておき、それをサーバ50が各現場設置カメラ60から適宜、取得し得るようにしてもよい。
【0048】
さらに、サーバ50は、各建設機械10の位置情報(グローバル座標系で見た建設機械10の位置を示す情報)を、GNSS(Global Navigation Satellite System)や、各建設機械10が配置された作業現場の現場設置カメラ60の撮影映像、もしくは、各建設機械10の周囲に存在する他の建設機械10の搭載カメラ25の撮影映像を用いて、適宜、取得することが可能である。なお、建設機械10の位置情報には、該建設機械10の走行体11又は旋回体12の向きを示す情報が含まれ得る。
【0049】
また、サーバ50には、建設機械10の機種毎に、各機種の建設機械10について外観に基づく点検を適宜実施すべき部位としてあらかじめ定められた複数の点検対象部位の位置情報(建設機械10に設定されたローカル座標系で見た位置を示す情報)と、各機種の建設機械10の各搭載カメラ25の位置情報(建設機械10に設定されたローカル座標系で見た位置を示す情報)、もしくは、各搭載カメラ25の撮影可能範囲の位置情報(建設機械10に設定されたローカル座標系で見た位置を示す情報)とが保存されている。なお、各搭載カメラ25の位置情報には、カメラ25の光軸の向きを示す情報が含まれ得る。
【0050】
補足すると、建設機械10の各点検対象部位の位置情報と、建設機械10の各搭載カメラ25もしくはその撮影可能範囲の位置情報とを、該建設機械10の機械側制御装置30に記憶しておき、これらの位置情報をサーバ50が適宜、機械側制御装置30から取得し得るようにしてもよい。
【0051】
そして、サーバ50は、建設機械10の複数の点検対象部位の点検に関する処理として、操縦装置40のマスター側制御装置47との協働によって、操縦装置40のディスプレイ45に点検用の撮影映像等を表示させる撮影映像処理部50aとしての機能と、建設機械10の搭載カメラ25と該建設機械10が配置される作業現場の現場設置カメラ60とから点検用の撮影映像を撮影するための点検用カメラを選定するカメラ選定部50bとしての機能とを含む。この場合、撮影映像処理部50aは、現場設置カメラ60又は搭載カメラ25の撮影映像に建設機械10が写っている場合に、該撮影映像に写っている該建設機械10の各点検対象部位の画像部分を特定する機能と、点検用カメラの撮影映像から点検対象部位の状態を判定する(正常な状態であるか、何らかの異常があるかの判定を行う)機能とを含む。補足すると、本実施形態では、操縦装置40のマスター側制御装置47は、本発明における撮影映像処理部の一部の機能を含む。
【0052】
次に、各建設機械10の点検作業に関して説明する。各建設機械10の点検(外観に基づく点検)を行う点検作業者は、該点検を実施しようとするとき、その旨を、操縦装置40の所定の操作によって、あるいは、該点検作業者が操作可能な通信端末の所定の操作によって、サーバ50に通知する。これに応じて、サーバ50は、該建設機械10の点検に関する処理を開始する。
【0053】
あるいは、サーバ50は、各建設機械10の稼働スケジュールもしくは稼働履歴に基づく、所定の点検開始条件が成立したタイミング(例えば、該建設機械10による作業開始前のタイミング、あるいは、作業終了後のタイミング、あるいは、建設機械10の累積の稼働時間が所定時間に達した時点の近辺のタイミング等)において、点検作業者が点検対象の建設機械10を操縦可能な操縦装置40を起動した状態で、該建設機械10の点検に関する処理を開始する。なお、上記点検作業者は、建設機械10を操縦するオペレータに限らず、該オペレータ以外の作業者であってもよい。
【0054】
このとき、サーバ50は、点検対象の建設機械10の複数の点検対象部位のそれぞれを、点検作業者による操縦装置40の操作(もしくは通信端末の操作)に応じて順次選択する。あるいは、サーバ50は、建設機械10の複数の点検対象部位のそれぞれを、所定の順番で順次選択する。そして、サーバ50は、点検対象の建設機械10が配置された作業現場の複数の現場設置カメラ60と、点検対象の建設機械10の複数の搭載カメラ25と、点検対象の建設機械10の周囲に存在する他の建設機械10の搭載カメラ25とのうちのいずれかのカメラを、点検対象の建設機械10について選択した点検対象部位(以降、単に選択点検対象部位という)を撮影するための点検用カメラとして選定する処理をカメラ選定部50bにより実行する。なお、本実施形態では、点検対象の建設機械10が配置された作業現場(配置環境)の複数の現場設置カメラ60と、該建設機械10の周囲に存在する他の建設機械10の搭載カメラ25とが本発明における外部カメラに相当する。
【0055】
カメラ選定部50bの処理は、具体的には以下のように実行される。すなわち、カメラ選定部50bは、点検対象の建設機械10が配置された作業現場の各現場設置カメラ60もしくはその撮影可能範囲の位置情報と、点検対象の建設機械10の位置情報と、該建設機械10での選択点検対象部位の位置情報とに基づいて、あるいは、これらの位置情報と、点検対象の建設機械10の旋回体12及び作業装置13の両方もしくは一方の姿勢に関する検出情報とに基づいて、各現場設置カメラ60と、選択点検対象部位との位置関係を特定する。
【0056】
この場合、特定する位置関係には、例えば、各現場設置カメラ60と選択点検対象部位との距離と、各現場設置カメラ60に対する選択点検対象部位の方位と、各現場設置カメラ60の撮影可能な範囲内に選択点検対象部位が存在するか否かの情報とが含まれる。
【0057】
また、建設機械10の旋回体12の姿勢に関する検出情報としては、例えば旋回体12の旋回角度の検出値及び旋回体12の傾斜角度の検出値が用いられ、作業装置13の姿勢に関する検出情報としては、例えばブーム13a、アーム13b及びアタッチメント13cの揺動角度の検出値が用いられる。そして、サーバ50は、これらの検出情報を、点検対象の建設機械10の機械側制御装置30を介して取得する。
【0058】
また、カメラ選定部50bは、点検対象の建設機械10での各搭載カメラ25もしくはその撮影可能範囲の位置情報と、該建設機械10での選択点検対象部位の位置情報とに基づいて、あるいは、これらの位置情報と、点検対象の建設機械10の旋回体12及び作業装置13の両方もしくは一方の姿勢に関する検出情報とに基づいて、点検対象の建設機械10の各搭載カメラ25と、選択点検対象部位との位置関係を特定する。
【0059】
この場合、特定する位置関係には、例えば、点検対象の建設機械10の各搭載カメラ25と選択点検対象部位との距離と、各搭載カメラ25に対する選択点検対象部位の方位と、各搭載カメラ25の撮影可能な範囲内に選択点検対象部位が存在するか否かの情報とが含まれる。なお、点検対象の建設機械10の旋回体12及び作業装置13のそれぞれの姿勢に関する検出情報は、各現場設置カメラ60と、選択点検対象部位との位置関係を特定する場合と同様に取得し得る。
【0060】
また、カメラ選定部50bは、点検対象の建設機械10の周囲に存在する他の建設機械10の位置情報と、該他の建設機械10での各搭載カメラ25もしくはその撮影可能範囲の位置情報と、点検対象の建設機械10の位置情報と、該点検対象の建設機械10での選択点検対象部位の位置情報とに基づいて、あるいは、これらの位置情報と、上記他の建設機械10の旋回体12及び作業装置13の両方もしくは一方の姿勢に関する検出情報と、点検対象の建設機械10の旋回体12及び作業装置13の両方もしくは一方の姿勢に関する検出情報とに基づいて、上記他の建設機械10の各搭載カメラ25と、点検対象の建設機械10の選択点検対象部位との位置関係を特定する。
【0061】
この場合、特定する位置関係には、例えば、上記他の建設機械10の各搭載カメラ25と点検対象の建設機械10の選択点検対象部位との距離と、上記他の建設機械10の各搭載カメラ25に対する点検対象の建設機械10の選択点検対象部位の方位と、上記他の建設機械10の各搭載カメラ25の撮影可能な範囲内に選択点検対象部位が存在するか否かの情報が含まれる。なお、点検対象の建設機械10の旋回体12及び作業装置13のそれぞれの姿勢に関する検出情報は、各現場設置カメラ60と、選択点検対象部位との位置関係を特定する場合と同様に取得し得る。このことは、点検対象の建設機械10の周囲に存在する他の建設機械10の旋回体12及び作業装置13のそれぞれの姿勢に関する検出情報についても同様である。
【0062】
上記の如くカメラ選定部50bは、点検対象の建設機械10が配置された作業現場の各現場設置カメラ60と、該建設機械10の各搭載カメラ25と、該建設機械10の周囲に存在する他の建設機械10の各搭載カメラ25とのそれぞれと、点検対象の建設機械10の選択点検対象部位との位置関係を特定する。
【0063】
そして、カメラ選定部50bは、当該位置関係の特定結果に基づいて、選択点検対象部位を撮影し得るカメラ(撮影可能範囲に選択点検対象部位を含むカメラ)を点検用カメラの候補(以降、点検用カメラ候補という)として抽出する。さらに、カメラ選定部50bは、当該点検用カメラ候補のそれぞれの撮影画像(選択点検対象部位を撮影範囲内に含む撮影画像)を取得する。この場合、カメラ選定部50bは、点検用カメラ候補がその光軸の向きを変更し得るものである場合には、該光軸の可変範囲内で、該光軸の向きを選択点検対象部位に極力近づけるように該点検用カメラ候補の向きを調整した上で、該点検用カメラ候補の撮影映像を取得する。
【0064】
そして、カメラ選定部50bは、各点検用カメラ候補の撮影画像に対する画像認識処理によって、該撮影画像から選択点検対象部位の画像を認識し得るか否かを判定し、その判定結果が肯定的となった点検用カメラ候補を、選択点検対象部位に対する点検用カメラとして決定する。この場合、選択点検対象部位の画像をサーバ50が認識し得る撮影映像を取得可能な点検用カメラ候補が複数ある場合には、それらの複数の点検用カメラ候補が点検用カメラとして決定される。
【0065】
例えば、
図4に示す状況において、点検対象の建設機械10のブーム13aとアーム13bとの連結部分が選択点検対象部位10xである場合を想定する。ここでは、点検対象の建設機械10の作業現場に、3つの現場設置カメラ60(60a,60b,60c)が設置されており、また、点検対象の建設機械10の周囲には、他の建設機械10が存在しないものとする。また、
図4では、建設機械10の搭載カメラ25として、例えば運転室12aの天井部に前方を撮影し得るように搭載された搭載カメラ25aだけを代表的に図示している。
【0066】
この場合、建設機械10の作業現場の現場設置カメラ60(60a,60b,60c)のうち、現場設置カメラ60a,60bのそれぞれの撮影可能範囲に、選択点検対象部位10xが含まれる一方、現場設置カメラ60cの撮影可能範囲には、選択点検対象部位10xが含まれない。また、現場設置カメラ60aの撮影画像には、選択点検対象部位10xの画像が写るものの、現場設置カメラ60bと、選択点検対象部位10xとの間には、障害物が存在するために、現場設置カメラ60bの撮影映像には、選択点検対象部位10xの画像が写らない。
【0067】
また、建設機械10の搭載カメラ25のうち、搭載カメラ25aの撮影可能範囲に選択点検対象部位10xが存在し、他の搭載カメラ25(図示せず)の撮影可能範囲には、選択点検対象部位10xは含まれない。そして、搭載カメラ25aの撮影映像には、選択点検対象部位10xの画像が写る。
【0068】
このような状況では、現場設置カメラ60a,60bと搭載カメラ25aとが点検用カメラ候補として抽出され、さらに、現場設置カメラ60aと搭載カメラ25aとが点検用カメラとして選定される。
【0069】
上記の如くカメラ選定部50bにより点検用カメラを決定することで、点検対象の建設機械10が配置された作業現場の現場設置カメラ60と、該建設機械10の搭載カメラ25と、該建設機械10の周囲に存在する他の建設機械10の搭載カメラ25とのうち、選択点検対象部位の適正な(明瞭な)画像を適切に撮影し得る1つ又は複数のカメラが点検用カメラとして選定される。このため、選択点検対象部位が撮影可能範囲に含まれないカメラはもちろん、障害物やカメラのレンズの汚れ等に起因して、選択点検対象部位の画像を適正に撮影できないカメラが、点検用カメラとして選定されるのを防止できる。
【0070】
補足すると、選択点検対象部位の適正な(明瞭な)画像を撮影し得る点検用カメラ候補が複数ある場合において、それらの複数の点検用カメラ候補のうち、例えば選択点検対象部位との距離が最も近いか、もしくは、該距離が所定距離内となる点検用カメラ候補を点検用カメラとして選定してもよい。例えば、
図4に示す状況で、搭載カメラ25aだけを点検用カメラとして選定してもよい。
【0071】
あるいは、選択点検対象部位の適正な(明瞭な)画像を撮影し得る複数の点検用カメラ候補のうち、例えば選択点検対象部位の正面方向に対する光軸方向の偏差が最小もしくは所定範囲内になる点検用カメラ候補を点検用カメラとして決定してもよい。例えば、
図4に示す状況で、現場設置カメラ60aだけを点検用カメラとして選定してもよい。
【0072】
サーバ50は上記の如くカメラ選定部50bにより点検用カメラを選定した後、撮影映像処理部50aの処理を実行する。該撮影映像処理部50aは、点検用カメラの撮影映像を、点検対象の建設機械10のマスター側制御装置47に送信すると共に、該撮影映像をディスプレイ45に表示させるようにマスター側制御装置47に指令する。
【0073】
これに応じて、マスター側制御装置47は、点検用カメラの撮影映像をディスプレイ45に表示させる。この場合、点検用カメラが複数である場合には、点検作業者による操縦装置40の所定の操作に応じて、各点検用カメラの撮影映像を選択的にディスプレイ45に表示させることもできる。例えば、
図4に示す状況において、点検用カメラとしての現場設置カメラ60の撮影画像が、
図5に例示する如く、ディスプレイ45に表示される。
【0074】
また、点検用カメラが撮影倍率や、撮影方向(光軸方向)を調整し得るものである場合には、点検作業者は、操縦装置40の所定の操作、あるいは、通信端末(図示しない)の操作によって、点検用カメラの撮影倍率や、撮影方向の調整をサーバ50に指令することもできる。このとき、サーバ50は点検用カメラの撮影倍率や撮影方向を、点検作業者による指令に応じて制御する。
【0075】
補足すると、例えばサーバ50が点検対象の建設機械10の自動操縦を行い得るように構成されている場合には、サーバ50の撮影映像処理部50aは、点検作業者からの要求(操縦装置40又は通信端末の操作による要求)に応じて、点検用カメラに対する建設機械10の向きを調整するように、該建設機械10の走行体11の走行動作や旋回体12の旋回動作を行わせるようにしてもよい。あるいは、操縦装置40のマスター側制御装置47が、点検作業者からの要求(操縦装置40又は通信端末の操作による要求)に応じて、点検用カメラに対する建設機械10の向きを調整するように、該建設機械10の走行体11の走行動作や旋回体12の旋回動作を行わせるようにしてもよい。
【0076】
また、サーバ50の撮影映像処理部50aは、点検用カメラの撮影映像から、事前学習に基づいて、選択点検対象部位が、正常な状態であるか否かを判定する。例えば、正常な状態であるときの建設機械10の各点検対象部位の画像を事前学習させることにより学習済みモデルを作成し、この学習済みモデルに基づいて、選択点検対象部位が、正常な状態であるか否かが判定される。そして、その判定結果を示す情報をマスター側制御装置47に送信する。このとき、マスター側制御装置47は、判定結果を示す情報を、点検用カメラの撮影映像と共に、ディスプレイ45に表示し、あるいは、音声によりスピーカ44から出力させる。
【0077】
点検作業者は、上記の如くディスプレイ45に表示される点検用カメラの撮影映像に基づいて、選択点検対象部位に亀裂や油漏れ等の異常があるか否かを確認する。この時、点検作業者は、サーバ50の撮影映像処理部50aによる判定結果を、ディスプレイ45の表示、あるいはスピーカ44から出力される音声により認識し、その判定結果と自身の判定結果とを照合することができる。
【0078】
このため、点検作業者は、選択点検対象部位の異常の有無を慎重に判定することができ、ひいては、信頼性の高い判定を行うことができる。特に、サーバ50による判定結果が、点検用カメラの撮影映像と共に、ディスプレイ45に表示される場合には、点検作業者は、サーバ50による判定結果を視覚的に認識しながら、選択点検対象部位の画像を注意深く視認することができるため、該点検作業者による異常の有無の判定結果の信頼性を効果的に高めることができる。
【0079】
そして、点検作業者による選択点検対象部位の異常の有無の判定結果は、該点検作業者による操縦装置40の操作、あるいは通信端末の操作によって、サーバ50に送信され、該サーバ50で保存される。本実施形態では、点検対象の建設機械10の複数の点検対象部位のそれぞれについて、順次、上記の如く外観に基づく点検が実施される。なお、建設機械10の複数の点検対象部位のそれぞれについての異常の有無の判定結果は、サーバ50から建設機械10の管理者等に通知される。あるいは、該判定結果は、点検作業者が通信端末等を介して建設機械10の管理者等に通知する。
【0080】
以上説明した実施形態によれば、点検対象の建設機械10の作業現場の現場設置カメラ60、あるいは、該点検対象の建設機械10の周囲に存在する他の建設機械10の搭載カメラ25、あるいは、該点検対象の建設機械10の搭載カメラ25を点検用カメラとして利用することができる。このため、点検作業者は、建設機械10に点検用のカメラを装着する作業を行ったりすることを必要とせずに、該建設機械10から離れた場所で、該建設機械10の複数の点検対象部位のそれぞれの適正な撮影映像を見ることができる。ひいてては、該建設機械10の複数の点検対象部位のそれぞれの外観に基づく点検を、該建設機械10から離れた場所で効率よく実施することができる。
【0081】
また、点検作業者は、点検用カメラの撮影映像の倍率や撮影方向を調整することもできるので、点検対象部位の異常の有無を確認しやすい撮影映像を見ることができる。このため、点検作業者による異常の有無の判定結果の信頼性を高めることができる。加えて、点検作業者は、サーバ50による判定結果を知ることがもできるので、点検対象部位の異常の有無を慎重に判定することができ、ひいては、点検作業者による判定結果の信頼性をより一層高めることができる。
【0082】
なお、本発明は、以上説明した実施形態に限定されるものではなく、他の実施形態を採用することもできる。以下に他の実施形態をいくつか説明する。前記実施形態では、サーバ50に撮影映像処理部50a及びカメラ選定部50bとしての機能を持たせたが、撮影映像処理部50a及びカメラ選定部50bの機能の全体又は一部を操縦装置40のマスター側制御装置47、あるいは、点検作業者が操作可能な通信端末に持たせてもよい。
【0083】
また、前記実施液体では、点検用カメラの撮影映像を表示する表示器として、操縦装置40のディスプレイ45を使用したが、該表示器は、例えば、点検作業者が操作可能な通信端末の表示器であってもよい。
【0084】
また、前記実施形態では、本発明における外部カメラとして、現場設置カメラ60と、点検対象の建設機械10の周囲に存在する他の建設機械10の搭載カメラ25を使用したが、該外部カメラは、例えば、作業現場で飛行させるドローン等の飛行体に搭載されるカメラを含んでいてもよい。
【0085】
また、前記実施形態では、点検対象の建設機械10が配置された作業現場の各現場設置カメラ60、該建設機械10の各搭載カメラ25、及び、該建設機械10の周囲に存在する他の建設機械10の各搭載カメラ25のそれぞれと、点検対象の建設機械10の選択点検対象部位との位置関係に基づいて抽出した点検用カメラ候補うち、選択点検対象部位の画像を撮影し得るカメラを点検用カメラとして選定した。
【0086】
ただし、例えば、上記位置関係に基づいて、撮影可能範囲内に選択点検対象部位が含まれると判断し得る各カメラを点検用カメラとして選定してもよい。あるいは、例えば、点検対象の建設機械10が配置された作業現場の各現場設置カメラ60、該建設機械10の各搭載カメラ25、及び、該建設機械10の周囲に存在する他の建設機械10の各搭載カメラ25のそれぞれの撮影映像を取得すると共に、それぞれの撮影映像に対して選択点検対象部位の画像を認識する画像認識処理を実行し、選択点検対象部位の画像が写っているカメラを点検用カメラとして選定してもよい。
【0087】
また、前記実施形態では、建設機械10として、油圧ショベルを例示したが、本発明における建設機秋は、油圧ショベルに限らず、例えば、クレーン等の建設機械であってもよい。
【符号の説明】
【0088】
1…遠隔操縦システム(点検システム)、10…建設機械、10x…点検対象部位、25…搭載カメラ、60…現場設置カメラ(外部カメラ)、50a…撮影映像処理部、50b…カメラ選定部。