(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024172371
(43)【公開日】2024-12-12
(54)【発明の名称】動作表示システム及び動作表示方法
(51)【国際特許分類】
B66C 13/46 20060101AFI20241205BHJP
B66C 23/88 20060101ALI20241205BHJP
B66C 15/00 20060101ALI20241205BHJP
【FI】
B66C13/46 Z
B66C23/88 D
B66C15/00 E
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2023090040
(22)【出願日】2023-05-31
(71)【出願人】
【識別番号】595145050
【氏名又は名称】株式会社日立プラントサービス
(74)【代理人】
【識別番号】110001807
【氏名又は名称】弁理士法人磯野国際特許商標事務所
(72)【発明者】
【氏名】平畠 諒大
(72)【発明者】
【氏名】坪倉 徹哉
(72)【発明者】
【氏名】近江 純
【テーマコード(参考)】
3F204
3F205
【Fターム(参考)】
3F204AA04
3F204BA02
3F204CA05
3F204FC01
3F204FC03
3F205AA06
3F205HC04
3F205HC07
(57)【要約】
【課題】利便性の高い動作表示システム等を提供する。
【解決手段】動作表示システムは、クレーンの使用予定地でのクレーン用マーカK1の読取結果に基づいて、クレーンの3次元モデル画像であるクレーンモデルM1を使用予定地の撮影画像に重畳表示させる処理部を備え、処理部は、ユーザによるクレーンモデルM1のパラメータ調整に伴って、クレーンモデルM1を撮影画像に重畳表示させながらクレーンモデルM1を動かす。
【選択図】
図4
【特許請求の範囲】
【請求項1】
移動式重機の使用予定地での第1マーカの読取結果に基づいて、前記移動式重機の3次元モデル画像である重機モデルを前記使用予定地の撮影画像に重畳表示させる処理部を備え、
前記処理部は、ユーザによる前記重機モデルのパラメータ調整に伴って、当該重機モデルを前記撮影画像に重畳表示させながら当該重機モデルを動かす、動作表示システム。
【請求項2】
前記処理部は、前記使用予定地での第2マーカの読取結果に基づいて、所定の物体の3次元モデル画像である物体モデルを前記撮影画像に重畳表示させ、ユーザによる前記物体モデルのパラメータ調整に伴って、当該物体モデルを前記撮影画像に重畳表示させながら、当該物体モデルの位置、大きさ、傾き、及び形状のうちの少なくとも一つを変化させること
を特徴とする請求項1に記載の動作表示システム。
【請求項3】
前記処理部は、前記重機モデルを動かす過程で当該重機モデルが前記物体モデルに接触する場合、所定の警告表示を行うこと
を特徴とする請求項2に記載の動作表示システム。
【請求項4】
前記処理部は、前記重機モデルと前記物体モデルとが接触する場合、前記重機モデルにおける接触箇所、及び、前記物体モデルにおける接触箇所のうちの少なくとも一方を強調表示すること
を特徴とする請求項3に記載の動作表示システム。
【請求項5】
前記処理部は、前記移動式重機のフックに吊り下げられる搬入物の3次元モデル画像である搬入物モデルを前記撮影画像に重畳表示させ、ユーザによる前記重機モデルのパラメータ調整に伴って、前記重機モデル及び前記搬入物モデルを動かすこと
を特徴とする請求項2に記載の動作表示システム。
【請求項6】
前記処理部は、前記重機モデルを動かす過程で前記搬入物モデルが前記物体モデルに接触する場合、所定の警告表示を行うこと
を特徴とする請求項5に記載の動作表示システム。
【請求項7】
前記処理部は、前記重機モデルが前記撮影画像に重畳表示された状態で、当該重機モデルの複数のパラメータに対応付けられる複数のバーを前記撮影画像に重畳表示させ、複数の前記バーのうちの少なくとも一つの操作に伴って、前記重機モデルを動かすこと
を特徴とする請求項1に記載の動作表示システム。
【請求項8】
前記処理部は、前記物体モデルが前記撮影画像に重畳表示された状態で、当該物体モデルの複数のパラメータに対応付けられる複数のバーを前記撮影画像に重畳表示させ、複数の前記バーのうちの少なくとも一つの操作に伴って、前記物体モデルの位置、大きさ、傾き、及び形状のうちの少なくとも一つを変化させること
を特徴とする請求項2に記載の動作表示システム。
【請求項9】
前記処理部は、前記物体モデルが前記撮影画像に重畳表示された状態で、当該物体モデルの透明度のパラメータに対応付けられる所定のバーを前記撮影画像に重畳表示させ、当該バーの操作に伴って、前記物体モデルの透明度を変化させること
を特徴とする請求項2に記載の動作表示システム。
【請求項10】
移動式重機の使用予定地での第1マーカの読取結果に基づいて、前記移動式重機の3次元モデル画像である重機モデルを前記使用予定地の撮影画像に重畳表示させる重機モデル表示処理と、
ユーザによる前記重機モデルのパラメータ調整に伴って、当該重機モデルを前記撮影画像に重畳表示させながら当該重機モデルを動かす動作表示処理と、を含む、動作表示方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、動作表示システム等に関する。
【背景技術】
【0002】
作業現場の撮影画像に仮想的なクレーンの3次元画像を重畳表示させる技術として、例えば、特許文献1に記載の技術が知られている。すなわち、特許文献1には、「クレーンの三次元画像に相当する仮想クレーンの画像情報を生成する仮想クレーン生成部と、・・・前記仮想クレーンを、前記カメラ画像に重ねて表示する画像表示部と、」を備えるクレーン情報表示システムについて記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1には、前記したように、クレーンの3次元画像である仮想クレーンを撮影画像に重畳表示することは記載されているが、利便性の点で改善の余地がある。
【0005】
そこで、本開示は、利便性の高い動作表示システム等を提供することを課題とする。
【課題を解決するための手段】
【0006】
前記した課題を解決するために、本開示に係る動作表示システムは、移動式重機の使用予定地での第1マーカの読取結果に基づいて、前記移動式重機の3次元モデル画像である重機モデルを前記使用予定地の撮影画像に重畳表示させる処理部を備え、前記処理部は、ユーザによる前記重機モデルのパラメータ調整に伴って、当該重機モデルを前記撮影画像に重畳表示させながら当該重機モデルを動かすこととした。
【発明の効果】
【0007】
本開示によれば、利便性の高い動作表示システム等を提供できる。
【図面の簡単な説明】
【0008】
【
図1】実施形態に係る動作表示システムの対象の一例であるクレーンの側面図である。
【
図2】実施形態に係る動作表示システムの機能ブロック図である。
【
図3】実施形態に係る動作表示システムにおける物体モデルの表示例を示す図である。
【
図4】実施形態に係る動作表示システムにおけるクレーンモデルの表示例を示す図である。
【
図5】実施形態に係る動作表示システムの処理部が実行する処理のフローチャートである。
【
図6】実施形態に係る動作表示システムにおいて、クレーンモデルのブームが伏せられた状態の表示例である。
【
図7】実施形態に係る動作表示システムにおいて、クレーンモデルのブームが起こされた状態の表示例である。
【
図8】実施形態に係る動作表示システムにおいて、クレーンモデルのブームが物体モデルに接触した場合の表示例である。
【
図9】実施形態に係る動作表示システムにおいて、搬入物モデルが物体モデルに接触した場合の表示例である。
【発明を実施するための形態】
【0009】
≪実施形態≫
以下では、移動式重機の一例であるクレーン20(
図1参照)について簡単に説明した後、動作表示システム10(
図2参照)について詳細に説明する。
【0010】
<クレーンの構成>
図1は、実施形態に係る動作表示システムの対象の一例であるクレーン20の側面図である。
図1に示すクレーン20(移動式重機)は、搬入物30を吊り上げて鉛直方向や水平方向に移動させるための機械である。
図1に示すように、クレーン20は、走行体21と、アウトリガ22と、旋回体23と、ブーム24と、ジブ25と、ワイヤロープ26と、フック27と、を備えている。
【0011】
走行体21は、道路や作業現場を自走するための装置である。走行体21は、タイヤ21aや車体フレーム21bを備える他、図示はしないが、燃料タンクやエンジンやドライブシャフトを備えている。
【0012】
アウトリガ22は、クレーン20の転倒を防止するために、車体フレーム21bから突き出した状態で接地される部材である。アウトリガ22は、車体フレーム21bの前部側面に設置される左右一対のフロントアウトリガ22aと、車体フレーム21bの後部側面に設置される左右一対のリアアウトリガ22bと、を含んで構成されている。なお、クレーン20の走行中は、アウトリガ22が車体フレーム21bに収納される。また、クレーン20で搬入物30を吊り上げる際には、アウトリガ22が水平方向及び鉛直方向に突き出された状態で接地され、車体全体を持ち上げて車体の姿勢を安定させるようになっている。
【0013】
旋回体23は、台座23aと、キャビン23bと、を備え、走行体21に対して鉛直軸回りに回転自在に構成されている。台座23aは、ターンテーブル(図示せず)や旋回用モータ(図示せず)によって鉛直軸回りに回転する部分であり、走行体21の上側に設置されている。キャビン23bは、作業員が操作部(図示せず)を所定に操作するための運転室であり、台座23aと一体で旋回するようになっている。作業員による操作部の操作で、走行体21やアウトリガ22の他、旋回体23やブーム24、ジブ25、ウインチ(図示せず)が所定に制御される。
【0014】
ブーム24は、基端ブーム24aと、複数の中間ブーム24b,24c,24dと、先端ブーム24eと、起伏シリンダ24fと、を備えている。そして、中間ブーム24b,24c,24d及び先端ブーム24eが基端ブーム24aの内部に入れ子式で順次に格納されるようになっている。基端ブーム24aは、その基端側が旋回体23に設置され、旋回体23と一体で旋回する。起伏シリンダ24fは、基端ブーム24a等が起伏する際の起伏角を調整するためのシリンダである。起伏シリンダ24fの一端側は旋回体23に設置され、他端側は基端ブーム24aに設置されている。そして、操作部(図示せず)の操作によって、ブーム24が所定に伸縮したり起伏したりするようになっている。
【0015】
ジブ25は、先端ブーム24eの先端付近を支点として傾斜角が調整される部材である。ジブ25は、複数の部材が入れ子式に格納された構造で所定に伸縮されるようになっている。ワイヤロープ26は、フック27で搬入物30を吊り下げるための金属製の綱であり、ブーム24の基端付近のウインチ(図示せず)に巻回されている。ワイヤロープ26は、ウインチからブーム24に沿って延びており、さらに、ジブ25に掛け回されて鉛直方向に吊り下げられている。
【0016】
フック27は、搬入物30を吊り下げるための鉤状部材であり、ワイヤロープ26の最下部に設置される。そいて、ウインチ(図示せず)によってワイヤロープ26が繰り出されることでフック27が下降し、また、ワイヤロープ26が巻き上げられることでフック27が上昇するようになっている。このような構成のクレーン20は、ワイヤロープ26の繰出し・巻上げの他、ブーム24やジブ25の起伏・伸縮や、旋回体23の旋回によって、フック27に吊り下げられた搬入物30を所定に移動させるようになっている。
【0017】
なお、「移動式重機」は、
図1に示すクレーン20に限定されるものではない。クレーン20はラフテレーンクレーンを示しているが、例えば、トラッククレーンやオールテレーンクレーン、クローラクレーンの他、鉄道クレーンや浮きクレーンといったものも「移動式重機」に含まれる。その他にも、ブルドーザやショベルカー、高所作業車、穴掘建柱車といったものも「移動式重機」に含まれる。
【0018】
<クレーンと物体との接触について>
クレーン20を使用予定地(つまり、作業現場)で用いる際には、作業員が使用予定地の下見を行ったり、CAD(Computer Aided Design)でシミュレーションを行ったりして、クレーン20の使用時に支障が生じないかを事前に確認することが多い。
【0019】
しかしながら、これまでの技術では、実際に作業員が使用予定地でクレーン20を使用した場合に、次のような事態が生じる可能性があった。すなわち、シミュレーションには含まれていなかった木や岩石や看板等の物体にブーム24が接触(干渉)したり、所定の建物や道路標識や街灯や電柱といった物体にブーム24が接触(干渉)したりする可能性があった。
【0020】
そこで、本実施形態では、仮想的な3次元モデル画像であるクレーンモデルM1(
図4参照)及び物体モデルM2(
図3参照)を撮影画像に重畳表示させ、クレーンモデルM1が物体モデルM2に接触しないかどうかを処理部14(
図2参照)が判定するようにしている。これによって、作業員がクレーン20(
図1参照)を実際に使用したときに支障が生じないか否かを作業員が事前に把握できる。
【0021】
<動作表示システムの構成>
図2は、動作表示システム10の機能ブロック図である。
図2に示す動作表示システム10は、クレーン20(
図1参照)の3次元モデル画像であるクレーンモデルM1(
図4参照)を表示部15に表示させ、ユーザによる所定のパラメータ調整に伴って、クレーンモデルM1を画面上で動かす機能を有している。その他にも、動作表示システム10は、所定の物体モデルM2(
図3参照)を表示部15に表示させたり、クレーンモデルM1と物体モデルM2とが接触するか否かを判定したりする機能も有している。
【0022】
図2に示すように、動作表示システム10は、記憶部11と、カメラ12と、情報入力部13と、処理部14と、表示部15と、を備えている。記憶部11は、図示はしないが、ROM(Read Only Memory)等の不揮発性メモリと、RAM(Random Access Memory)やレジスタ等の揮発性メモリと、を含んで構成されている。記憶部11には、クレーンモデル情報11aや物体モデル情報11bの他、所定のプログラムやパラメータが予め格納されている。
【0023】
クレーンモデル情報11aは、クレーン20の3次元モデル画像であるクレーンモデルM1(
図4参照)を表示させるための情報である。物体モデル情報11bは、所定の物体の3次元モデル画像である物体モデルM2(
図3参照)を表示させるための情報である。前記した所定の物体とは、例えば、クレーン20(
図1参照)の使用予定地に存在する建物や木や岩石等の他、看板や道路標識、街灯、電柱といったものである。言い換えると、所定の物体とは、自然・人工に関わらず、地上にある所定の地物のことを意味している。
【0024】
カメラ12は、クレーン20(
図1参照)の使用予定地を撮影したり、後記するクレーン用マーカK1(
図4参照)や物体用マーカK2(
図3参照)を撮影したりするためのデバイスである。このようなカメラ12が有するイメージセンサとして、例えば、CCDセンサ(Charge Coupled Device)やCMOSセンサ(Complementary Metal Oxide Semiconductor)が用いられる。
【0025】
情報入力部13は、ユーザの操作を受け付ける機能を有している。このような情報入力部13として、例えば、タブレットやスマートフォンのタッチパネルが用いられるが、これに限定されるものではない。その他にも、情報入力部13として、マウスやキーボードやポインティングディバイスといったものが用いられてもよい。
【0026】
処理部14は、例えば、CPU(Central Processing Unit)であり、記憶部11に格納されたプログラムを読み出して、所定の処理を実行する。
図2に示すように、処理部14は、距離測定部14aと、画像生成部14bと、接触判定部14cと、を備えている。
【0027】
距離測定部14aは、クレーン用マーカK1(第1マーカ:
図4参照)と物体用マーカK2(第2マーカ:
図3参照)との間の距離を測定する。なお、クレーン用マーカK1(
図4参照)は、クレーン20(
図1参照)の使用予定地の撮影画像に所定のクレーンモデルM1(
図4参照)を重畳表示させる際の基準位置(つまり、目印)を示すマーカである。このクレーン用マーカK1から読み取られる情報は、クレーンモデル情報11aに予め対応付けられている。また、物体用マーカK2(
図3参照)は、クレーン20(
図1参照)の使用予定地の撮影画像に所定の物体モデルM2(
図3参照)を重畳表示させる際の基準位置(つまり、目印)を示すマーカである。この物体用マーカK2から読み取られる情報は、物体モデル情報11bに予め対応付けられている。
【0028】
例えば、距離測定部14aは加速度センサであり、クレーン用マーカK1から物体用マーカK2までユーザが直線的に歩く際の加速度に基づいて、クレーン用マーカK1と物体用マーカK2との間の距離を測定する。この距離の測定値は、クレーンモデルM1が物体モデルM2に接触するか否かの判定の際に用いられる。
【0029】
画像生成部14bは、クレーン用マーカK1(
図4参照)の撮影画像から読み取られる情報に基づいて、記憶部11からクレーンモデル情報11aを読み出す。そして、画像生成部14bは、クレーンモデル情報11aに基づいて、所定のクレーンモデルM1(
図4参照)の画像データを生成し、この画像データをカメラ12の撮影画像に重畳表示させる。さらに、画像生成部14bは、ユーザによる所定のパラメータ調整に基づいて、クレーンモデルM1を画面上で動かすようにする。
【0030】
また、画像生成部14bは、物体用マーカK2(
図3参照)の撮影画像から読み取られる情報に基づいて、記憶部11から物体モデル情報11bを読み出す。そして、画像生成部14bは、物体モデル情報11bに基づいて、所定の物体モデルM2(
図3参照)の画像データを生成し、この画像データをカメラ12の撮影画像に重畳表示させる。さらに、画像生成部14bは、ユーザによる所定のパラメータ調整に基づいて、物体モデルM2の位置や大きさや形状を適宜に変化させる。
【0031】
接触判定部14cは、距離測定部14aの測定値の他、クレーンモデルM1(
図4参照)や物体モデルM2(
図3参照)の各パラメータに基づいて、クレーンモデルM1が物体モデルM2に接触するか否かを判定する。
表示部15は、処理部14の処理結果を所定に表示させる。このような表示部15として、例えば、ディスプレイが用いられる。なお、タッチパネル式のディスプレイのように、情報入力部13及び表示部15の機能を兼ね備えたものが用いられてもよい。
【0032】
また、
図2に示す動作表示システム10の機能が、タブレットやスマートフォンの他、ヘッドセット、VR(Virtual Reality)ゴーグル、スマートグラスといった装置で実現されるようにしてもよい。前記した装置は、動作表示システム10の処理を単体で行うようにしてもよく、また、サーバ等(図示せず)のコンピュータから適宜に情報を取得するようにしてもよい。
【0033】
図3は、物体モデルM2の表示例を示す図である。
なお、
図3に示すタブレット40は、前記した記憶部11(
図2参照)やカメラ12(
図2参照)の他、情報入力部13(
図2参照)や処理部14(
図2参照)や表示部15(
図2参照)の機能を有するものとする。また、タブレット40には、クレーンモデルM1(
図4参照)や物体モデルM2を表示させるための所定のアプリケーションが予めインストールされているものとする。
【0034】
図3に示す物体モデルM2は、クレーン20(
図1参照)の使用予定地の付近に存在する建物や木の他、看板や街灯や電柱や道路標識といった所定の物体を表す3次元モデル画像である。このような物体モデルM2の表示に用いられる物体モデル情報11b(
図2参照)は、前記したように、物体用マーカK2の情報に対応付けて、記憶部11(
図2参照)に予め格納されている。
【0035】
物体用マーカK2は、クレーン20の使用予定地の付近に存在する建物等のそばに置かれた状態で、カメラ12(
図2参照)によって撮影される。なお、物体用マーカK2が所定箇所に貼り付けられるようにしてもよい。物体用マーカK2に印刷された所定のパターンは、物体モデルM2を示すQRコード(登録商標)やバーコードであってもよく、また、他の所定の図柄や表示画像であってもよい。物体用マーカK2が印刷又は表示される媒体は、紙であってもよく、また、薄板状の樹脂やディスプレイであってもよい。
【0036】
図3の例では、物体用マーカK2として、所定のQRコード(登録商標)が印刷された矩形状の紙がクレーン20の使用予定地の付近の路面(所定の物体のそば)に置かれている。そして、ユーザがタブレット40を所定のマーカ読取りモードにして、物体用マーカK2をカメラ12(
図2参照)で撮影することによって、物体用マーカK2の情報が読み取られるようになっている。処理部14(
図2参照)は、クレーン20(移動式重機:
図1参照)の使用予定地での物体用マーカK2(第2マーカ)の読取結果に基づいて、所定の物体の3次元モデル画像である物体モデルM2を撮影画像に重畳表示させる。
【0037】
図3の例では、物体モデルM2の前面(手前側の面)と下面との間の辺が物体用マーカK2の中心に重なるように表示されている。具体的には、一辺が1.0[m]の立方体が、あたかも路面に置かれているように、仮想的な物体モデルM2として撮影画像に重畳表示されている。なお、物体モデルM2の初期の表示位置と物体用マーカK2との間の位置関係は予め設定されているが、適宜に変更可能である。また、物体モデルM2の表示のさせ方は、例えば、撮影画像上の物体用マーカK2の写り方や撮影画像のエッジ検出等に基づいて適宜に調整される。
【0038】
図3の例では、タブレット40の表示部15における左下隅部の付近に複数のバーB2(スライダバー)が上下方向に並んで表示されている。これらのバーB2は、物体モデルM2の大きさ・形状・傾き・透明度・位置の各パラメータをユーザが調整する際の操作部(ユーザインタフェース)として機能する。例えば、作業現場付近の所定の建物にクレーン20(
図1参照)が接触するか否かをユーザが事前に確認したい場合には、撮影画像上の当該建物に物体モデルM2がぴったりと重なるように(例えば、
図6参照)、物体モデルM2の大きさ・形状・傾き・位置が調整される。なお、バーB2の右横に表示されている複数のテキストボックスには、それぞれ、数値を直接的に入力することも可能である。
【0039】
図3に示す複数のバーB2のうち、「幅」・「高さ」・「奥行」のバーは、物体モデルM2の大きさや形状を変化させる際に用いられる。具体的に説明すると、「幅」のバーは、直方体状の物体モデルM2の横幅の調整に用いられる。例えば、物体モデルの「幅」が1.0[m]から20.0[m]に変更された場合には、横幅が20.0[m]の直方体状の仮想的な物体モデルM2が、あたかも実際に存在しているかのように撮影画像に重畳表示される。
図3に示す「高さ」のバーは、直方体状の物体モデルM2の高さ方向の長さの調整に用いられる。また、「奥行」のバーは、直方体状の物体モデルM2の奥行方向の長さの調整に用いられる。
【0040】
図3に示す「傾きX」のバーは、物体モデルM2の重心を通るX方向(横方向)の軸(図示せず)を中心として物体モデルM2を所定に回転させることで、前後の傾きを調整する際に用いられる。また、「傾きY」のバーは、物体モデルM2の重心を通るY方向(奥行方向)の軸(図示せず)を中心として物体モデルM2を所定に回転させることで、左右の傾きを調整する際に用いられる。
【0041】
図3に示す「透明度」のバーは、物体モデルM2を表示させる際の透明度の調整に用いられる。例えば、「透明度」が高くなるほど、物体モデルM2が透けて、背景の建物等が見えやすくなる。
図3の例では、透明度が30%になっているため、撮影画像に含まれる建物等の稜線が透けて見えている(
図3の破線を参照)。このように、処理部14(
図2参照)は、物体モデルM2が撮影画像に重畳表示された状態で、物体モデルM2の透明度のパラメータに対応付けられる所定のバーを撮影画像に重畳表示させ、このバーの操作に伴って、物体モデルM2の透明度を変化させる。
【0042】
これによって、例えば、物体モデルM2の大きさ・傾き・位置・形状をユーザが適宜に調整して、撮影画像上の建物に物体モデルM2をぴったりと重ねるといった作業が行いやすくなる(
図6参照)。仮に、物体モデルM2の一部が建物の画面上の輪郭からはみ出ていた場合でも、透明な物体モデルM2から建物が透けて見えるため、ユーザが画面上の建物の輪郭を確認しながら、物体モデルM2の大きさ等を微調整できる。
【0043】
図3に示す「オフセットX」・「オフセットY」・「オフセットZ」のバーは、物体モデルM2の位置を変化させる際に用いられる。具体的に説明すると、「オフセットX」のバーは、撮影画像上で物体モデルM2をX方向(横方向)に移動させる際に用いられる。また、「オフセットY」のバーは、撮影画像上で物体モデルM2をY方向(奥行方向)に移動させる際に用いられる。「オフセットZ」のバーは、撮影画像上で物体モデルM2をZ方向(高さ方向)に移動させる際に用いられる。
【0044】
このように処理部14(
図2参照)は、物体モデルM2が撮影画像に重畳表示された状態で、物体モデルM2の複数のパラメータに対応付けられる複数のバーB2を撮影画像に重畳表示させる。そして、処理部14は、複数のバーB2のうちの少なくとも一つの操作に伴って、物体モデルM2の位置、大きさ、傾き、及び形状のうちの少なくとも一つを変化させる。
【0045】
なお、物体用マーカK2をユーザが拾い上げて別の位置に移動させた上で、この物体用マーカK2を再び撮影した場合には、移動後の物体用マーカK2の位置に合わせて、物体モデルM2の画面上の位置も変化する。したがって、ユーザが物体モデルM2の画面上の位置を変化させる際には、オフセットX,Y,Zのバーを操作してもよいし、物体用マーカK2を別の位置に移動させてもよい。
【0046】
図3の表示画面の右下隅部に表示されている3つのボタンのうち、上段のボタンT2は、物体モデルM2の表示やパラメータ調整の際に選択されるボタンである。
図3の例では、物体モデルM2に対応するボタンT2が選択され、このボタンT2が強調表示されている。中段のボタンT1は、クレーンモデルM1(
図4参照)の表示やパラメータ調整の際に選択されるボタンである。下段のボタンT0は、物体モデルM2やクレーンモデルM1の表示が中断される際に選択されるボタンである。
【0047】
図4は、クレーンモデルM1の表示例を示す図である。
図4に示すクレーンモデルM1(重機モデル)は、移動式重機であるクレーン20(
図1参照)の3次元モデル画像である。このようなクレーンモデルM1の表示に用いられるクレーンモデル情報11a(
図2参照)は、前記したように、クレーン用マーカK1の情報に対応付けて、記憶部11(
図2参照)に予め格納されている。
【0048】
クレーン用マーカK1は、クレーン20の使用予定地に置かれた状態で、カメラ12(
図2参照)によって撮影される。クレーン用マーカK1に印刷された所定のパターンは、クレーンモデルM1を示すQRコード(登録商標)やバーコードであってもよく、また、他の所定の図柄や表示画像であってもよい。クレーン用マーカK1が印刷又は表示される媒体は、紙の他に、薄板状の樹脂やディスプレイであってもよい。
【0049】
図4の例では、クレーン用マーカK1として、所定のQRコード(登録商標)が印刷された矩形状の紙がクレーン20(
図1参照)の使用予定地の路面に置かれている。そして、ユーザがタブレット40を所定のマーカ読取りモードにして、クレーン用マーカK1をカメラ12(
図2参照)で撮影することによって、クレーン用マーカK1の情報が読み取られるようになっている。処理部14(
図2参照)は、クレーン用マーカK1の読取結果に基づいて、所定のクレーンモデルM1を撮影画像に重畳表示させる。
【0050】
図4の例ではクレーンモデルM1における右側のリアアウトリガM1aの接地箇所の付近にクレーン用マーカK1が位置するように、クレーンモデルM1が表示されている。そして、仮想的なクレーンモデルM1が、あたかも路面上に存在するかのように、撮影画像に重畳表示されている。なお、クレーンモデルM1の初期の表示位置とクレーン用マーカK1との間の位置関係は予め設定されているが、適宜に変更可能である。
【0051】
図4の例では、タブレット40の表示部15の左下隅部の付近に複数のバーB1(スライダバー)が上下方向に並んで表示されている。これらのバーB1は、クレーンモデルM1の大きさ・傾き・位置の他、ブームM1bやジブM1cの角度・長さや、台座M1dの回転角度をユーザが調整する際の操作部(ユーザインタフェース)として機能する。
【0052】
図4に示す複数のバーB1のうち、「スケール」のバーは、クレーン20(
図1参照)の実際の大きさを基準とした場合のクレーンモデルM1の倍率(スケール)の調整に用いられる。
図4の例では、スケールが「0.1」であり、クレーンモデルM1がかなり小さめに表示されている。
【0053】
「ブーム角度」のバーは、クレーンモデルM1のブームM1bの角度の調整に用いられる。「ブーム長」のバーは、クレーンモデルM1のブームM1bの長さの調整に用いられる。「台座の回転角度」のバーは、クレーンモデルM1の台座M1dの回転角度の調整に用いられる。「ジブ角度」のバーは、クレーンモデルM1のジブM1cの角度の調整に用いられる。「ジブ長」のバーは、クレーンモデルM1のジブM1cの長さの調整に用いられる。
【0054】
図4に示す「傾きX」のバーは、クレーンモデルM1の重心を通るX方向(横方向)の軸(図示せず)を中心としてクレーンモデルM1を所定に回転させることで、前後の傾きを調整する際に用いられる。また、「傾きY」のバーは、Y方向(奥行方向)の軸(図示せず)を中心としてクレーンモデルM1を所定に回転させることで、左右の傾きを調整する際に用いられる。
【0055】
図4に示す「オフセットX」・「オフセットY」・「オフセットZ」のバーは、クレーンモデルM1の位置を変化させる際に用いられる。具体的に説明すると、「オフセットX」のバーは、撮影画像上でクレーンモデルM1をX方向(横方向)に移動させる際に用いられる。また、「オフセットY」のバーは、撮影画像上でクレーンモデルM1をY方向(奥行方向)に移動させる際に用いられる。「オフセットZ」のバーは、撮影画像上でクレーンモデルM1をZ方向(高さ方向)に移動させる際に用いられる。
【0056】
このように処理部14(
図2参照)は、クレーンモデルM1(重機モデル)が撮影画像に重畳表示された状態で、クレーンモデルM1の複数のパラメータに対応付けられる複数のバーB1を撮影画像に重畳表示させる。そして、処理部14は、複数のバーB1のうちの少なくとも一つの操作に伴って、クレーンモデルM1を動かすようにする。
【0057】
図5は、動作表示システムの処理部が実行する処理のフローチャートである(適宜、
図2も参照)。
ステップS101において処理部14は、カメラ12の撮影画像から物体用マーカK2(
図3参照)を読み込む。例えば、作業現場でクレーン20(
図1参照)を使用した場合に、クレーン20のブーム24(
図1参照)が所定の建物に接触するか否かを確認したい場合、ユーザは、この建物のそばに物体用マーカK2を置いて、カメラ12で物体用マーカK2(
図3参照)を撮影する。これによって、物体用マーカK2の情報が読み込まれる。
【0058】
ステップS102において処理部14は、画像生成部14bによって、撮影画像に物体モデルM2(
図3参照)を重畳表示させる。これによって、例えば、直方体状の物体モデルM2が、撮影画像上の建物等の物体のそばに重畳表示される。
【0059】
ステップS103において処理部14は、所定のパラメータに基づいて、物体モデルM2(
図3参照)を調整する。すなわち、処理部14は、ユーザによる物体モデルM2のパラメータ調整に伴って、物体モデルM2を撮影画像に重畳表示させながら、この物体モデルM2の位置、大きさ、傾き、及び形状のうちの少なくとも一つを変化させる(
図3参照)。例えば、ユーザは、直方体状の物体モデルM2が撮影画像上の所定の木を含むようにパラメータ調整を行ってもよい。物体モデルM2を撮影画像上のどの物体に合わせるかは、作業現場の状況や所定の作業計画に基づいて設定される。
【0060】
ステップS104において処理部14は、カメラ12の撮影画像からクレーン用マーカK1(
図4参照)を読み込む。すなわち、ユーザは、クレーン20(
図1参照)の使用予定地にクレーン用マーカK1を置いて、カメラ12でクレーン用マーカK1を撮影する。これによって、クレーン用マーカK1の情報が読み込まれる。
【0061】
ステップS105において処理部14は、画像生成部14bによって、撮影画像にクレーンモデルM1(
図4参照)を重畳表示させる。すなわち、処理部14は、クレーン20(移動式重機:
図1参照)の使用予定地でのクレーン用マーカK1(第1マーカ)の読取結果に基づいて、クレーン20の3次元モデル画像であるクレーンモデルM1(重機モデル)を使用予定地の撮影画像に重畳表示させる(重機モデル表示処理)。これによって、例えば、
図4に示すようなクレーンモデルM1が撮影画像に重畳表示される。つまり、クレーン20の使用予定地の撮影画像に物体モデルM2(S102)及びクレーンモデルM1(S105)の両方が重畳表示される。
【0062】
ステップS106において処理部14は、所定のパラメータに基づいて、クレーンモデルM1(
図4参照)を調整する。すなわち、処理部14は、ユーザによるクレーンモデルM1(重機モデル)のパラメータ調整に伴って、クレーンモデルM1を撮影画像に重畳表示させながら当該クレーンモデルM1を動かす(動作表示処理)。これによって、クレーンモデルM1を撮影画像に重畳表示させた状態で、クレーンモデルM1の連続的な動きをユーザが視認できる。つまり、実物のクレーン20(
図1参照)が使用予定地で実際に使用される状況とほとんど変わらない状況を表示させることができる。
【0063】
また、クレーンモデルM1(
図4参照)のブームM1b(
図4参照)の長さや角度といったパラメータをユーザが調整した場合、パラメータの変化に連動して、撮影画像上でクレーンモデルM1のブームM1bが連続的に動く。これによって、ユーザは、実際にクレーン20(
図1参照)を運転した場合の動きを、クレーンモデルM1のひとつひとつの動きとして作業現場で確認できる。
【0064】
次に、ステップS107において処理部14は、2つのマーカ間の距離情報を取得する。すなわち、処理部14は、距離測定部14aによって、物体用マーカK2(
図3参照)とクレーン用マーカK1(
図4参照)との間の距離を測定する。例えば、処理部14は、ユーザが物体用マーカK2の位置からクレーン用マーカK1の位置まで直線的に歩いたときの加速度に基づいて、2つのマーカ間の距離を測定する。なお、ユーザが距離測定器(図示せず)を用いて、2つのマーカ間の距離を測定し、その測定値を入力するようにしてもよい。
【0065】
ちなみに、所定にパラメータに基づいて物体モデルM2を調整する処理(S103)やクレーンモデルM1を調整する処理(S106)は、2つのマーカ間の距離情報が取得された後も行うことができる。
【0066】
次に、ステップS108において処理部14は、クレーンモデルM1が物体モデルM2に接触したか否かを判定する。すなわち、処理部14は、2つのマーカ間の距離情報の他、物体モデルM2及びクレーンモデルM1の各パラメータに基づいて、クレーンモデルM1が物体モデルM2に接触したか否かを接触判定部14cによって判定する。ステップS108においてクレーンモデルM1が物体モデルM2に接触した場合(S108:Yes)、処理部14の処理はステップS109に進む。
【0067】
ステップS109において処理部14は、所定の警告を表示する。処理部14は、例えば、「衝突しました!」(
図8参照)といった所定の警告を表示させる。このように、処理部14は、クレーンモデルM1(重機モデル)を動かす過程でクレーンモデルM1が物体モデルM2に接触する場合、所定の警告表示を行うようにする(S109)。これによって、クレーンモデルM1と同様に実際のクレーン20(
図1参照)を動かした場合には、クレーン20が建物等に接触することをユーザが事前に把握できる。
【0068】
なお、
図5では省略しているが、クレーンモデルM1と物体モデルM2とが接触するという警告が出された場合でも(S109)、ユーザは、クレーンモデルM1の位置や角度を変えたり、クレーンモデルM1のブームM1b(
図4参照)やジブM1c(
図4参照)の長さ・角度を変えたりして、再試行することが可能である。また、クレーンモデルM1の配置や動作が適切な場合でも物体モデルM2と接触するような場合には、例えば、サイズや型式の異なる別のクレーンのクレーンモデル(図示せず)が適宜に選択された上で、物体モデルM2と接触するか否かが再び判定される。
【0069】
また、ステップS108においてクレーンモデルM1が物体モデルM2に接触しない場合(S108:No)、処理部14は、一連の処理を終了する(END)。この場合には、クレーンモデルM1に対応する実物のクレーン20(
図1参照)を運転しても特に問題がないことをユーザが事前に把握できる。ちなみに、クレーンモデルM1が物体モデルM2に接触しない場合でも、ユーザがクレーンモデルM1のパラメータを適宜に変更して、さまざまな運転状況でのクレーンモデルM1の動きを確認することも可能である。
【0070】
図6は、クレーンモデルM1のブームM1bが伏せられた状態の表示例である。
図6の例では、紙面右側に破線で示す建物H1に略一致するように、物体モデルM2の位置・大きさ・傾きが調整されている(
図5のS103に対応)。なお、物体モデルM2が建物H1の全体に完全に一致している必要は特になく、建物H1においてクレーン20(
図1参照)のブーム24(
図1参照)が接触する可能性のある部分が物体モデルM2に含まれていればよい。また、
図6には、クレーン用マーカK1や物体用マーカK2も図示している。
【0071】
図6の例では、撮影画像において建物H1の手前側に実物大(つまり、スケールが1.0)のクレーンモデルM1が重畳表示されている。その他、クレーンモデルM1の各パラメータを調整するための複数のバーB1が表示されている。
図6の例では、「ブーム角度」が0.00°であるため、ブームM1bが水平方向に伏せた状態になっている。そして、
図6の状態からユーザが「ブーム角度」や「ブーム長」のバーを動かして各値を変化させると、これに伴って、クレーンモデルM1のブームM1bの角度や長さが連続的に変化する様子が表示される。ちなみに、
図6のように、バーB1を撮影画像に重畳表示せることも可能である他、所定の操作によって、これらのバーB1を撮影画像に重畳表示させないようにすることも可能である(
図7~
図9参照)。
【0072】
図7は、クレーンモデルM1のブームM1bが起こされた状態の表示例である。
図7の例では、ブームM1bの角度が50°に変更された状態でクレーンモデルM1が撮影画像に重畳表示されている。なお、
図7の状態からユーザがバーB1を操作して、ブームM1bの長さの値を大きくすると、これに伴って、撮影画像上のクレーンモデルM1のブームM1bが連続的に伸びる様子が表示される(
図5のS106に対応)。このように、作業現場でクレーン20(
図1参照)が実際に使用される場合とほとんど変わらない状況をクレーンモデルM1で再現できる。
【0073】
図8は、クレーンモデルM1のブームM1bが物体モデルM2に接触した場合の表示例である。
図8の例では、クレーンモデルM1のブームM1bの先端が物体モデルM2に接触したため、「衝突しました!」という警告メッセージが表示されている(
図5のS109に対応)。また、衝突時のクレーンモデルM1の高さ(地面からブームM1bの先端までの高さ)の他、台座M1dの幅・奥行も表示されている。これによって、ユーザは、実際のクレーン20(
図1参照)で同様の運転を行った場合には、ブーム24(
図1参照)の先端が建物H1に衝突する可能性が高いことを事前に把握できる。
【0074】
なお、クレーンモデルM1(重機モデル)と物体モデルM2とが接触する場合、クレーンモデルM1における接触箇所、及び、物体モデルM2における接触箇所のうちの少なくとも一方を処理部14が強調表示することが好ましい。これによって、クレーンモデルM1や物体モデルM2のどこが接触したのかをユーザが一目で把握できる。前記した「強調表示」の例として、クレーンモデルM1や物体モデルM2における接触箇所が周囲の色とは異なる色で表示されようにしてもよい。
図8の例では、物体モデルM2においてクレーンモデルM1と接触した箇所M2aが周囲の色とは異なる色で強調表示されている。
【0075】
図9は、搬入物モデルM3が物体モデルM2に接触した場合の表示例である。
図9に示すように、クレーン20(移動式重機:
図1参照)のフック27(
図1参照)に吊り下げられる搬入物30(
図1参照)の3次元モデル画像である搬入物モデルM3が使用予定地の撮影画像に重畳表示されるようにしてもよい。そして、ユーザによるクレーンモデルM1(重機モデル)のパラメータ調整に伴って、処理部14(
図2参照)がクレーンモデルM1及び搬入物モデルM3を動かすようにするとよい。これによって、作業現場でフック27(
図1参照)に搬入物30(
図1参照)を吊り下げた場合に、搬入物30が物体に接触するか否かをユーザが事前に把握できる。
図9では、搬入物モデルM3が直方体状である例を示しているが、他の形状であってもよい。搬入物モデルM3の大きさや形状の他、クレーンモデルM1のフックM1fへの設置状態や透明度等は、ユーザによるパラメータ調整に伴って適宜に変更される。
【0076】
また、クレーンモデルM1、搬入物モデルM3、及び物体モデルM2のそれぞれのパラメータ、並びに、クレーン用マーカK1と物体用マーカK2との間の距離に基づいて、搬入物モデルM3と物体モデルM2とが接触するか否かを処理部14(
図2参照)が判定することが好ましい。この場合において、クレーンモデルM1(重機モデル)を動かす過程で搬入物モデルM3が物体モデルM2に接触する場合、処理部14は、所定の警告表示を行う。これによって、クレーンモデルM1と同様に実際のクレーン20(
図1参照)を動かした場合には、搬入物30(
図1参照)が建物H1に接触することをユーザが事前に把握できる。
【0077】
また、搬入物モデルM3と物体モデルM2とが接触する場合、搬入物モデルM3における接触箇所、及び、物体モデルM2における接触箇所のうちの少なくとも一方を処理部14が強調表示することが好ましい。これによって、搬入物モデルM3や物体モデルM2のどこが接触したのかをユーザが一目で把握できる。
図9の例では、物体モデルM2において搬入物モデルM3と接触した箇所M2bが周囲の色とは異なる色で強調表示されている。
【0078】
<効果>
本実施形態によれば、クレーン用マーカK1と物体用マーカK2との間の距離の測定値の他、クレーンモデルM1や物体モデルM2の各パラメータに基づいて、クレーンモデルM1が物体モデルM2に接触するか否かを処理部14が高精度で判定できる。したがって、作業現場でクレーン20が建物や木に接触するといったことを未然に防止できる。また、全てのパラメータが決定された後にクレーンモデルM1や物体モデルM2が初めて表示されるわけでは特になく、パラメータが変更される過程でクレーンモデルM1等が連続的に動くように表示される。したがって、これまでの技術に比べて、動作表示システム10の利便性を高めることができる。
【0079】
≪変形例≫
以上、本開示に係る動作表示システム10や動作表示方法について実施形態で説明したが、この記載に限定されるものではなく、さまざまな変更を行うことができる。
例えば、実施形態では、物体モデルM2の表示や調整に関する処理(
図5のS101~S103)が行われた後、クレーンモデルM1の表示や調整に関する処理(S104~S106)が行われる場合について説明したが、これに限らない。すなわち、クレーンモデルM1の表示や調整に関する処理(S104~S106)が行われた後、物体モデルM2の表示や調整に関する処理(S101~S103)が行われるようにしてもよい。なお、クレーンモデルM1や物体モデルM2の調整は、それぞれ、ユーザの納得がいくまで何回でも行うことが可能である。
【0080】
また、実施形態では、物体モデルM2やクレーンモデルM1のパラメータ調整が行われた後(
図5のS103、S106)、物体用マーカK2とクレーン用マーカK1との間の距離が測定される(S107)場合について説明したが、これに限らない。例えば、
図5のステップS101の処理に先立って、物体用マーカK2とクレーン用マーカK1との間の距離が測定されるようにしてもよい。その他にも、例えば、処理部14が物体モデルM2の表示や調整に関する処理(
図5のS101~S103)を行った後、物体用マーカK2とクレーン用マーカK1との間の距離を測定し、さらに、クレーンモデルM1の表示や調整に関する処理(S104~S106)を行うようにしてもよい。
【0081】
また、実施形態では、クレーンモデルM1(
図4参照)が所定の種類のクレーン20(
図1参照)に対応する場合について説明したが、これに限らない。例えば、複数種類のクレーンモデルが所定の識別情報に対応付けて予め記憶されるようにしてもよい。そして、複数種類のクレーンモデルのうちの一つをユーザが選択するようにしてもよい。
【0082】
また、実施形態では、クレーンモデルM1(
図4参照)のパラメータ調整が所定のバーB1(
図4参照)を用いて行われ、また、物体モデルM2(
図3参照)のパラメータ調整が別のバーB2(
図3参照)を用いて行われる場合について説明したが、これに限らない。すなわち、パラメータ調整が可能であれば、他の手段が用いられてもよい。例えば、ユーザがパラメータの数値を入力するようにしてもよい。この場合において、パラメータが離散的に変更された場合でも、クレーンモデルM1が連続的に動くようにするとよい。これによって、ユーザがクレーンモデルM1の動きを確認する際の視認性が高められる。
【0083】
また、実施形態では、物体用マーカK2の読取りと、クレーン用マーカK1の読取りと、が別々のタイミングで行われる場合について説明したが、これらの処理が並行して行われてもよい。
また、実施形態では、クレーンモデルM1及び物体モデルM2の両方が表示される場合について説明したが、これに限らない。例えば、クレーンモデルM1を単体で表示させ、ユーザが所定のパラメータを調整することで、撮影画像上でクレーンモデルM1を動かすようにしてもよい。このような構成でも、実物のクレーン20の動きをクレーンモデルM1で再現できるため、ユーザにとっての利便性が高められる。
【0084】
また、実施形態では、クレーン用マーカK1(
図4参照)や物体用マーカK2(
図3参照)として、所定のQRコード(登録商標)が印刷された紙が用いられる場合について説明したが、これに限らない。例えば、カメラ12(
図2参照)で撮影されて写るものであれば、〇や□や+といった図形の他、所定の模様や図柄がクレーン用マーカK1や物体用マーカK2のパターンとして用いられてもよい。また、クレーン用マーカK1や物体用マーカK2は、紙に印刷されたものに限定されず、所定の球体や板材やシートであってもよい。
【0085】
また、実施形態では、物体モデルM2(
図3参照)の形状が直方体状である場合について説明したが、これに限らない。例えば、物体モデルは、円柱状や角柱状であってもよく、また、円錐状や角錐状、球状、楕円体状、多面体状であってもよい。
【0086】
また、動作表示システム10の処理(動作表示方法)が、コンピュータの所定のプログラムとして実行されるようにしてもよい。前記したプログラムは、通信線を介して提供できる他、所定の記録媒体に書き込んで配布することも可能である。
【0087】
また、本開示は、実施形態に限定されるものではなく、様々な変形例が含まれる。例えば、実施形態は、本開示を分かりやすく説明するために詳細に説明したものであり、必ずしも説明したすべての構成を備えるものに限定されるものではない。
また、前記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、前記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、又は、ICカード、SDカード、DVD等の記録媒体に格納することができる。
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には、ほとんどすべての構成が相互に接続されていると考えてもよい。
【符号の説明】
【0088】
10 動作表示システム
11 記憶部
12 カメラ
13 情報入力部
14 処理部
15 表示部
20 クレーン(移動式重機)
30 搬入物
40 タブレット
B1 バー(重機モデルのパラメータ調整用のバー)
B2 バー(物体モデルのパラメータ調整用のバー)
H1 建物(物体)
K1 クレーン用マーカ(第1マーカ)
K2 物体用マーカ(第2マーカ)
M1 クレーンモデル(重機モデル)
M2 物体モデル
M3 搬入物モデル
S105 ステップ(重機モデル表示処理)
S106 ステップ(動作表示処理)