(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0018】
以下、添付図面を参照しながら、本発明の実施の形態について詳述する。
【0019】
図1及び
図2を参照しながら、本発明の実施の形態による作業機械の周囲監視システム10について説明する。
図1は、周囲監視システム10によって監視される作業機械WMの作業領域WSを示す説明図である。
図2は、周囲監視システム10の概略構成を示すブロック図である。
図2では、便宜上、1つの作業機械WMしか図示していない。作業機械WMは、例えば、油圧ショベルである。
【0020】
周囲監視システム10は、作業領域WSに存在する複数(
図1に示す例では、3つ)の作業機械WMの各々の周囲を監視するためのシステムである。周囲監視システム10は、カメラ12と、画像処理装置14と、制御装置16と、表示装置18と、動作制御装置20と、稼働情報サーバ22とを備える。ここで、制御装置16、表示装置18及び動作制御装置20は、作業機械WMに設けられている。
【0021】
図1及び
図2を参照しながら、カメラ12について説明する。カメラ12は、例えば、ステレオカメラである。カメラ12は、作業領域WSに設けられた支柱121に配置されている(
図1参照)。カメラ12は、作業領域WSに存在する複数の作業機械WMと、複数の作業機械WMの各々の周囲とを含むように、作業領域WSを撮影する。
【0022】
図2を参照しながら、処理装置の一部を構成する画像処理装置14について説明する。画像処理装置14は、カメラ12によって撮影された画像に基づく処理を実行する。
【0023】
画像処理装置14は、例えば、中央演算処理装置が記憶装置に記憶されているプログラムを読み出して、所定の処理を行うことで実現される。なお、画像処理装置14の少なくとも一部を、ASIC等の集積回路によって実現してもよい。
【0024】
画像処理装置14は、表示範囲選択部141と、位置関係把握部142とを含む。以下、これらについて説明する。
【0025】
表示範囲選択部141は、カメラ12によって撮影された画像から表示装置18に表示する範囲を選択する。その方法は、例えば、以下のとおりである。
【0026】
表示範囲選択部141は、先ず、稼働情報サーバ22から送信されてきた作業機械WMの位置情報及び識別符号と、画像処理装置14が予め記憶しているカメラ12の設置位置情報、設置方向情報及び画角情報とを用いて、カメラ12の撮影範囲に含まれる作業機械WMを特定し、カメラ12によって撮影された画像に含まれる複数の作業機械WMのなかから1つの作業機械WMを選択する。なお、カメラ12がGPS受信機、方位センサ及び角度センサを備えている場合には、GPS受信機で受信した位置情報と、方位センサ及び角度センサから取得した設置方向情報と、カメラ12が予め記憶している画角情報とを、画像処理装置14がカメラ12から取得するようにしてもよい。続いて、表示範囲選択部141は、選択した作業機械WMとその周囲とが含まれるような範囲をカメラ12によって撮影された画像から選択する。表示範囲選択部141は、このような選択処理を複数の作業機械WMの全てについて行う。なお、表示範囲選択部141が選択する範囲は、好ましくは、作業機械WMの後方の領域を含む。
【0027】
このようにして選択した範囲の画像を表示するための信号(選択画像表示信号)を、表示範囲選択部141が生成する。表示範囲選択部141は、生成した選択画像表示信号を、作業機械WMに配置された制御装置16に送信する。選択画像表示信号は、例えば、無線によって送信される。
【0028】
位置関係把握部142は、作業機械WMの周囲に存在する障害物と作業機械WMとの位置関係を把握する。ここで、障害物は、作業機械WMの安全な動作を妨げるものであれば、特に限定されない。障害物は、例えば、他の作業機械WMである。
【0029】
位置関係把握部142は、例えば、以下の方法により、作業機械WMの周囲に存在する障害物と作業機械WMとの位置関係を把握する。
【0030】
位置関係把握部142は、先ず、表示範囲選択部141が選択した範囲の画像に基づいて、作業機械の周囲に障害物が存在するか否かを判定する。障害物が存在するのであれば、位置関係把握部142は、障害物から作業機械WMまでの距離を算出する。続いて、位置関係把握部142は、算出した距離が所定の基準距離よりも短いか否かを判定する。所定の基準距離は、例えば、作業機械WMが障害物と接触するのを回避するための動作を行うときの基準となる距離である。
【0031】
このようにして把握された障害物と作業機械WMとの位置関係に基づいて、位置関係把握部142は、作業機械WMの動作を制御するための信号(動作制御信号)を生成する。動作制御信号は、作業機械WMの動作速度を減速する減速信号であってもよいし、作業機械WMの動作を停止する停止信号であってもよい。
【0032】
位置関係把握部142は、生成した動作制御信号を、作業機械WMに配置された制御装置16に送信する。動作制御信号は、例えば、無線によって送信される。
【0033】
図2を参照しながら、処理装置の一部を構成する制御装置16について説明する。制御装置16は、作業機械WMに配置されている。制御装置16は、作業機械WMの動きや、作業機械WMが備える各種の装置の動作を制御する。
【0034】
制御装置16は、例えば、中央演算処理装置が記憶装置に記憶されているプログラムを読み出して、所定の処理を行うことで実現される。なお、制御装置16の少なくとも一部を、ASIC等の集積回路によって実現してもよい。
【0035】
制御装置16は、表示制御部161と、動作制御部162と、情報送信部163とを含む。以下、これらについて説明する。
【0036】
表示制御部161は、画像処理装置14から送信されてきた選択画像表示信号に基づいて、作業機械WMに配置されている表示装置18に画像を表示する。ここで、表示装置18は、例えば、作業機械WMのキャブ内であって、作業機械WMのオペレータが視認可能な位置に配置されている。表示装置18に表示される画像は、作業機械WMとその周囲を含む画像である。表示装置18は、例えば、液晶表示装置である。
【0037】
動作制御部162は、画像表示装置14から送信されてきた動作制御信号に基づいて、作業機械WMに設けられた油圧回路が備える動作制御装置20の動作を制御する。動作制御装置20は、例えば、油圧回路が備えるコントロールバルブを含む。動作制御装置20の動作により、油圧回路が備えるアクチュエータの動作が制御される。その結果、作業機械WMの動作が制御され、例えば、作業機械WMが障害物と接触するのを回避するための動作が行われる。
【0038】
情報送信部163は、作業機械WMに設けられたGPS受信装置24によって受信された作業機械WMの位置情報を、稼働情報サーバ22に送信する。これに加えて、情報送信部163は、当該情報送信部163を備える作業機械WMに付与された識別符号を、稼働情報サーバ22に送信する。
【0039】
図2を参照しながら、処理装置の一部を構成する稼働情報サーバ22について説明する。稼働情報サーバ22は、複数の作業機械WMの各々から送信されてきた作業機械WMの位置情報及び識別符号を格納する。稼働情報サーバ22は、作業機械WMの位置情報及び識別符号を画像処理装置14に送信する。
【0040】
図3を参照しながら、処理装置の一部を構成する画像処理装置14が実行する監視制御について説明する。
図3は、画像処理装置14が実行する監視制御を示すフローチャートである。
【0041】
先ず、画像処理装置14は、ステップS11において、カメラ12によって撮影された画像を取得する。カメラ12によって撮影された画像を取得する処理は、例えば、画像処理装置14がカメラ12に要求信号を送信し、当該要求信号を受信したカメラ12が当該要求信号を受信したときの画像を画像処理装置14に送信することで行ってもよい。或いは、カメラ12による撮影が行われているときには、上記の要求信号を送信しなくても、カメラ12から画像が送られてくるようにしてもよい。
【0042】
続いて、画像処理装置14は、ステップS12において、複数の作業機械WMの各々の位置情報及び識別符号を取得する。複数の作業機械WMの各々の位置情報及び識別符号を取得する処理は、例えば、画像処理装置14が稼働情報サーバ22に要求信号を送信し、当該要求信号を受信した稼働情報サーバ22が当該要求信号を受信したときの複数の作業機械WMの各々の位置情報及び識別符号を画像処理装置14に送信することで行ってもよい。或いは、カメラ12による撮影が行われているときには、上記の要求信号を送信しなくても、稼働情報サーバ22から複数の作業機械WMの各々の位置情報及び識別符号が送られてくるようにしてもよい。
【0043】
続いて、画像処理装置14(具体的には、表示範囲選択部141)は、ステップS13において、表示範囲選択処理を実行する。この処理は、カメラ12によって撮影された画像から複数の作業機械WMの各々が有する表示装置18に表示する範囲を選択するものである。
【0044】
図4を参照しながら、表示範囲選択処理について説明する。
図4は、表示範囲選択処理を示すフローチャートである。
【0045】
先ず、画像処理装置14は、ステップS131において、複数の作業機械WMのなかから1つの作業機械WMを選択する。
【0046】
続いて、画像処理装置14は、ステップS132において、ステップS131で選択した作業機械WMの位置情報及び識別符号(ステップS12で取得した位置情報及び識別符号)を参照して、カメラ12によって撮影された画像での当該選択した作業機械WMの位置を特定する。
【0047】
続いて、画像処理装置14は、ステップS133において、カメラ12によって撮影された画像から当該選択した作業機械WM及びその周囲を含む範囲を選択する。
【0048】
続いて、画像処理装置14は、ステップS134において、複数の作業機械WMの全てを選択したか否かを判定する。全ての作業機械WMを選択していない場合(ステップS134:NO)、画像処理装置14は、ステップS131以降の処理を繰り返す。一方、全ての作業機械WMを選択している場合(ステップS134:YES)、画像処理装置14は、表示範囲選択処理を終了する。
【0049】
再び、
図3を参照しながら、説明する。上記表示範囲選択処理が終了した後、画像処理装置14(具体的には、位置関係把握部142)は、ステップS14において、位置関係把握処理を実行する。この処理は、ステップS13で選択した範囲の画像に基づいて、作業機械WMと障害物との位置関係を把握するものである。
【0050】
図5を参照しながら、位置関係把握処理について説明する。
図5は、位置関係把握処理を示すフローチャートである。
【0051】
先ず、画像処理装置14は、ステップS141において、ステップS13で選択した範囲の画像に障害物が含まれているか否かを判定する。例えば、障害物が他の作業機械WMである場合には、当該他の作業機械WMの位置情報及び識別符号を利用して、障害物が存在するか否かを判定する。
【0052】
障害物が含まれていない場合(ステップS141:NO)には、画像処理装置14は、位置関係把握処理を終了する。一方、障害物が含まれている場合(ステップS141:YES)には、画像処理装置14は、ステップS142において、ステップS13で選択した範囲の画像に含まれる距離情報に基づいて、作業機械WMから障害物までの距離を測定する。
【0053】
続いて、画像処理装置14は、ステップS143において、ステップS142で測定した距離(作業機械WMから障害物までの距離)が所定の基準距離よりも短いか否かを判定する。
【0054】
ステップS142で測定した距離が所定の基準距離以上である場合(ステップS143:NO)、画像処理装置14は、位置関係把握処理を終了する。一方、ステップS142で測定した距離が所定の基準距離よりも短い場合(ステップS143:YES)には、画像処理装置14は、作業機械WMが障害物と接触する可能性があると判定し、ステップS144において、作業機械WMが障害物と接触するのを回避するための動作制御信号を生成する。
【0055】
続いて、画像処理装置14は、ステップS145において、ステップS144で生成した動作制御信号を、作業機械WMに送信する。動作制御信号を受信した作業機械WMの制御装置16(具体的には、動作制御部162)は、受信した動作制御信号に基づいて、動作制御装置20の動作を制御する。これにより、作業機械WMが障害物と接触するのを回避するための動作が行われる。
【0056】
上記のように、動作制御信号を送信した後、画像処理装置14は、位置関係把握処理を終了する。
【0057】
再び、
図3を参照しながら、説明する。上記位置関係把握処理が終了した後、画像処理装置14は、ステップS15において、表示装置18が表示する画像のデータを複数の作業機械WMの各々に送信する。複数の作業機械WMの各々が有する制御装置16(具体的には、表示制御部161)は、受信した画像のデータに基づいて、表示装置18に画像を表示する。
【0058】
上記のように、表示装置18が表示する画像のデータを複数の作業機械WMの各々に送信した後、画像処理装置14は、監視制御を終了する。
【0059】
周囲監視システム10においては、カメラ12によって撮影された画像の少なくとも一部が表示装置18に表示される。そのため、作業機械WMのオペレータは、自身が操作する作業機械WMの表示装置18に表示されている画像により、自身が操作する作業機械WM及びその周囲の状況を客観的に見ることができる。その結果、作業機械WMのオペレータは、自身が操作する作業機械WMの周囲の状況を容易に且つ的確に把握することができる。
【0060】
周囲監視システム10においては、カメラ12で撮影された画像から表示装置18に表示される範囲を選択している。そのため、オペレータが作業機械WMの周囲の状況を把握するのに必要な情報だけを表示装置18に表示することができる。その結果、オペレータが作業機械WM及びその周囲の状況を把握するときの負担を軽減することができる。
【0061】
周囲監視システム10においては、オペレータによる目視が困難な作業機械WMの後方の領域が表示装置18に表示される。そのため、オペレータは、自身が操作する作業機械WMの後方の状況を容易に且つ的確に把握することができる。
【0062】
周囲監視システム10においては、作業機械WMから障害物までの距離に応じた動作を作業機械WMに行わせることができる。そのため、例えば、作業機械WMが障害物に接触するおそれがある場合には、障害物との接触を回避するための動作を作業機械WMに行わせることができる。
【0063】
周囲監視システム10においては、画像処理装置14が複数の作業機械WMから離れて設けられている。そのため、複数の作業機械WMの各々が有する表示装置18に表示される画像を単一の制御装置14によって生成することができる。
【0064】
以上、本発明の実施の形態について詳述してきたが、これはあくまでも例示であって、上記実施の形態は、本発明の趣旨を逸脱しない範囲内で適宜変形して実施することができる。
【0065】
上記実施の形態において、位置関係把握部142は、動作制御信号の代わりに、障害物と作業機械WMとの位置関係を示す信号(位置関係信号)を制御装置16に送信してもよい。この場合、制御装置16が備える動作制御部162は、位置関係把握部142から送信されてきた位置関係信号に基づいて、作業機械WMの動きを制御すればよい。
【0066】
上記実施の形態では、作業機械WMと障害物との位置関係により、作業機械WMの動作を制御していたが、作業機械WMの動作を制御する代わりに、或いは、作業機械WMの動作を制御するとともに、作業機械WMのオペレータに警告をしてもよい。当該警告は、例えば、視覚によるものであってもよいし、聴覚によるものであってもよい。
【0067】
上記実施の形態において、作業機械WMは、オペレータによる操作状況に関する情報を稼働情報サーバ22に送信してもよい。この場合、稼働情報サーバ22がオペレータによる操作状況に関する情報を画像処理装置14に送信すれば、画像処理装置14が、オペレータによる操作状況に関する情報も考慮して、作業機械WMが障害物と接触するのを回避するための動作制御信号を生成することができる。なお、作業機械の操作状況に関する情報は、例えば、作業機械のキャブ内に設けられた操作装置の操作状況を示す情報である。
【0068】
以上、本発明の実施の形態及びその応用例について詳述してきたが、これらはあくまでも例示であって、本発明は、上述の実施の形態及びその応用例によって、何等、限定されない。
【0069】
本発明において、作業機械は、所定の作業を行うことができるものであれば、特に限定されない。作業機械は、例えば、自走式の作業機械である。自走式の作業機械は、例えば、下部走行体と上部旋回体とを備える。作業機械は、例えば、油圧式の作業機械である。油圧式の作業機械は、例えば、油圧ショベルである。
【0070】
本発明において、作業機械は、有人運転されるものであってもよいし、無人運転されるものであってもよい。
【0071】
本発明において、作業領域に存在する作業機械は、1台であってもよいし、複数台であってもよい。
【0072】
本発明において、作業領域は、作業機械が作業する領域であれば、特に限定されない。
【0073】
本発明において、撮影装置が配置される位置は、少なくとも作業機械とその周囲を撮影することができる位置であれば、特に限定されない。撮影装置は、好ましくは、地面から離れた位置に配置される。これにより、少なくとも作業機械とその周囲を容易に撮影することができる。
【0074】
本発明において、撮影装置は、1つであってもよいし、複数であってもよい。
【0075】
本発明において、撮影装置は、所定の位置に固定された状態で配置されていてもよいし、移動可能に配置されていてもよい。
【0076】
本発明において、撮影装置は、少なくとも作業機械とその周囲を撮影することができるものであれば、特に限定されない。撮影装置は、例えば、ステレオカメラである。ステレオカメラによって撮影された画像は距離情報を含む。そのため、撮影装置が撮影した画像から作業機械の位置を容易に特定することができる。
【0077】
本発明において、撮影装置が撮影する画像は、少なくとも作業機械とその周囲を含む画像であれば、特に限定されない。撮影装置が撮影する画像は、作業領域の全体を含んでいなくてもよい。
【0078】
本発明において、撮影装置が撮影する画像は、カラー画像であってもよいし、モノクロ画像であってもよい。
【0079】
本発明において、撮影装置が撮影する画像は、好ましくは、作業領域に存在する全ての作業機械と、これらの作業機械の各々の周囲とを含む。これにより、作業領域に存在する全ての作業機械の周囲を一度に撮影することができる。
【0080】
本発明において、撮影装置が撮影する領域は、作業領域に存在する作業機械の数や位置等に応じて、適宜、変更してもよい。例えば、作業領域に存在する作業機械が1台だけである場合には、当該1台の作業機械及びその周囲だけを撮影するようにしてもよい。
【0081】
本発明において、撮影装置が撮影する作業機械の周囲は、好ましくは、作業機械の後方の領域を含む。これにより、作業機械のオペレータによる目視が困難な領域の状況を、オペレータに認識させることができる。
【0082】
本発明において、撮影装置が作業機械を撮影する方向は、特に限定されない。
【0083】
本発明において、撮影装置が撮影を開始するタイミングは、特に限定されない。撮影装置が撮影を開始するタイミングは、例えば、作業領域に存在する作業機械の駆動源が始動したときである。作業領域に複数の作業機械が存在するのであれば、少なくとも1つの作業機械の駆動源が始動したときに、撮影装置による撮影を開始すればよい。
【0084】
本発明において、撮影装置が撮影を終了するタイミングは、特に限定されない。撮影装置が撮影を終了するタイミングは、例えば、作業領域に存在する全ての作業機械の駆動源が停止したときである。
【0085】
本発明において、表示装置に表示される画像は、少なくとも作業機械とその周囲を含む画像であれば、特に限定されない。表示装置に表示される画像は、撮影装置が撮影した画像そのものであってもよいし、撮影装置が撮影した画像の一部であってもよい。撮影装置によって撮影された画像そのものを表示装置が表示する場合、例えば、オペレータが表示装置を操作することにより、オペレータが操作している作業機械とその周囲を拡大して表示するようにしてもよい。
【0086】
本発明において、表示装置に表示される画像は、静止画であってもよいし、動画であってもよい。表示装置に表示される画像が静止画である場合、表示装置は、例えば、表示する静止画を定期的(例えば、1秒ごと)に更新する。表示装置に表示される画像が動画である場合、当該動画は、音声を含んでいてもよいし、音声を含んでいなくてもよい。
【0087】
本発明において、表示装置に表示される画像は、カラー画像であってもよいし、モノクロ画像であってもよい。
【0088】
本発明において、表示装置に表示される画像は、撮影装置によって撮影された画像から選択された範囲をそのまま表示する画像であってもよいし、撮影装置によって撮影された画像から選択された範囲の画像に対して何らかの加工を行った画像であってもよい。画像を加工する態様は、特に限定されない。例えば、画像に含まれる作業機械及び障害物の少なくとも一方を強調するような加工であってもよい。このような加工は、例えば、作業機械及び障害物の少なくとも一方を他とは異なる色に着色することで実現される。
【0089】
本発明において、表示装置が配置される位置は、作業機械のオペレータによる視認が可能な位置であれば、特に限定されない。表示装置は、例えば、作業機械のオペレータが着座する運転席の近傍に配置される。
【0090】
本発明において、処理装置は、撮影装置によって撮影された画像に基づいて処理を行うものであれば、特に限定されない。処理装置は、例えば、中央演算処理装置が記憶装置に記憶されているプログラムを読み出して、所定の処理を行うことで実現される。なお、処理装置の少なくとも一部を、ASIC等の集積回路によって実現してもよい。
【0091】
本発明において、処理装置が配置される位置は、特に限定されない。処理装置は、作業機械から離れた位置に配置されていてもよいし、作業機械に配置されていてもよい。処理装置は、その一部が作業機械から離れた位置に配置され、残りの一部が作業機械に配置されていてもよい。
【0092】
本発明において、表示範囲選択部が撮影装置によって撮影された画像から表示装置に表示する範囲を選択する態様は、特に限定されない。表示装置は、例えば、撮影装置によって撮影された画像に含まれる作業機械を選択し、当該選択した作業機械とその周囲を含むような範囲を表示装置に表示する範囲として選択すればよい。
【0093】
本発明において、表示範囲選択部が選択した範囲において作業機械の周囲が占める割合は、特に限定されない。表示範囲選択部が選択する範囲は、例えば、作業機械の周囲に障害物が存在するか否かにより、適宜、変更してもよい。
【0094】
本発明において、障害物とは、作業機械の安全な動作を妨げるものであれば、特に限定されない。障害物は、例えば、他の作業機械であってもよいし、人であってもよいし、作業領域に存在する構造物であってもよい。
【0095】
本発明において、表示範囲選択部は、障害物が作業領域に存在する場合には、少なくとも作業機械の周囲に存在する障害物と作業機械との位置関係が判るように、撮影装置によって撮影された画像から表示装置に表示する範囲を選択するようにしてもよい。
【0096】
本発明において、位置関係把握部が作業機械の周囲に存在する障害物と作業機械との位置関係を把握する態様は、特に限定されない。例えば、位置関係把握部は、障害物から作業機械までの距離を算出し、当該距離と所定の基準距離との関係に基づいて、障害物と作業機械との位置関係を把握する。所定の基準距離は、例えば、障害物から作業機械までの距離が当該基準距離よりも短い場合には、作業機械が障害物と接触するのを回避するための動作を行うときの基準となる距離である。
【0097】
本発明において、動作制御部が作業機械の動作を制御する態様は、作業機械そのものの動きを制御する態様だけでなく、作業機械が備える装置の動作を制御する態様を含む。作業機械そのものの動きを制御する態様は、例えば、作業機械が障害物に接触するのを回避するための動作を行うようにすることを含む。作業機械そのものの動きを制御する態様は、例えば、作業機械が上部旋回体及び下部走行体を備える場合、上部旋回体及び下部走行体の少なくとも一方の動作を制御する態様を含む。作業機械が備える装置の動作を制御する態様は、当該装置を用いて、障害物の存在を作業機械のオペレータに報知する態様を含む。作業機械が備える装置の動作を制御する態様は、例えば、作業機械に配置された表示装置の動作を制御する態様を含む。