(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-08
(45)【発行日】2024-07-17
(54)【発明の名称】3D設計データ作成方法、建設工事方法、3D設計データ作成システムおよび3D設計データ作成プログラム
(51)【国際特許分類】
G06Q 50/08 20120101AFI20240709BHJP
【FI】
G06Q50/08
(21)【出願番号】P 2021115322
(22)【出願日】2021-07-12
【審査請求日】2021-08-16
(73)【特許権者】
【識別番号】390019998
【氏名又は名称】東亜道路工業株式会社
(74)【代理人】
【識別番号】100114258
【氏名又は名称】福地 武雄
(74)【代理人】
【識別番号】100125391
【氏名又は名称】白川 洋一
(72)【発明者】
【氏名】梅田 隼
(72)【発明者】
【氏名】松村 高志
(72)【発明者】
【氏名】塚本 真也
【審査官】福田 正悟
(56)【参考文献】
【文献】国際公開第2005/024144(WO,A1)
【文献】特開2003-333590(JP,A)
【文献】特開2020-051029(JP,A)
【文献】特開2021-059970(JP,A)
【文献】特開2020-183696(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06Q 10/00-99/00
(57)【特許請求の範囲】
【請求項1】
建設機械に搭載されたカメラが撮影した画像に基づいて、情報処理装置を用いて施工目標となる3D設計データを作成する3D設計データ作成方法であって、
建設機械を走行させながら、前記建設機械に搭載された単一のまたは複数のカメラで施工範囲内または施工範囲外の高さ情報が必要な箇所に設置されたマーカーを撮影する第1工程と、
前記カメラで撮影されたマーカーの画像から、前記画像内のマーカーの位置座標および前記カメラの位置座標を取得する第2工程と、
少なくとも一つの前記マーカーの位置座標と前記カメラの位置座標、または複数の前記マーカーの位置座標から平面を特定することで3D設計データを作成する第3工程と、を少なくとも含み、
前記各位置座標は三次元座標であることを特徴とする3D設計データ作成方法。
【請求項2】
前記第2工程では、VisualSLAM技術を用いて、前記カメラの位置座標および撮影範囲に存在する対象物の3次元情報を取得し、前記カメラで撮影された画像に基づいて、画像認識または3次元点群形状の認識によって前記画像内のマーカーの位置座標を取得することを特徴とする請求項1記載の3D設計データ作成方法。
【請求項3】
前記第3工程では、VisualSLAM技術を用いて複数のマーカー間の相対的な位置関係を取得し、前記相対的な位置関係に基づいて、TIN(Triangulated Irregular Network)データを作成し、平面を特定することを特徴とする請求項1記載の3D設計データ作成方法。
【請求項4】
前記第1工程では、施工範囲内または施工範囲外の高さ情報が必要な箇所に3つ以上のマーカーを有するマーカー柱を設置し、
前記第2工程では、前記カメラで前記マーカー柱を撮影することを特徴とする請求項1記載の3D設計データ作成方法。
【請求項5】
前記第3工程では、前記カメラによって撮影されたマーカー柱が1本である場合は、そのマーカー柱の下端と前記カメラの位置座標から変換された前記建設機械の作業具の位置とを結ぶ直線およびこの直線と直交しそのマーカー柱の下端を通る水平線とで前記平面を特定し、前記カメラが撮影したマーカー柱が2本である場合は、各マーカー柱の下端と前記カメラの位置座標から変換された前記建設機械の作業具の位置とからなる3点で前記平面を特定し、前記カメラによって撮影されたマーカー柱が3本である場合は、各マーカー柱の下端からなる3点で前記平面を特定することを特徴とする請求項4記載の3D設計データ作成方法。
【請求項6】
前記カメラで撮影されたマーカー柱の画像に基づいて、3次元空間における前記カメラの姿勢情報を取得する第4工程と、
前記3次元空間における前記カメラの姿勢情報を、前記建設機械の姿勢情報に変換し、施工対象を特定する第5工程をさらに含むことを特徴とする請求項1から請求項5のいずれかに記載の3D設計データ作成方法。
【請求項7】
前記建設機械に搭載された
単一または複数のカメラが撮影した画像
および施工範囲内または施工範囲外の高さ情報が必要な箇所に設置された前記マーカーのみに基づいて、請求項1から請求項6のいずれかに記載の3D設計データ作成方法によって作成された3D設計データと前記カメラの位置座標を
、前記情報処理装置が前記建設機械へ送信し、
前記建設機械の作業具が前記3D設計データに基づいて動作することを特徴とする建設工事方法。
【請求項8】
施工目標となる3D設計データを作成する3D設計データ作成システムであって、
建設機械に搭載され、前記建設機械の走行中に、施工範囲内または施工範囲外の高さ情報が必要な箇所設置されたマーカーを撮影する単一のまたは複数のカメラと、
前記カメラで撮影されたマーカーの画像から、前記画像内のマーカーの位置座標および前記カメラの位置座標を取得する位置座標取得部と、
少なくとも一つの前記マーカーの位置座標と前記カメラの位置座標、または複数の前記マーカーの位置座標から平面を特定することで3D設計データを作成する3D設計データ作成部と、を備え、
前記各位置座標は三次元座標であることを特徴とする3D設計データ作成システム。
【請求項9】
建設機械に搭載されたカメラが撮影した画像に基づいて、施工目標となる3D設計データを作成する3D設計データ作成プログラムであって、
建設機械を走行させながら、前記建設機械に搭載された単一のまたは複数のカメラで施工範囲内または施工範囲外の高さ情報が必要な箇所に設置されたマーカーを撮影する処理と、
前記カメラで撮影されたマーカーの画像から、前記画像内のマーカーの位置座標および前記カメラの位置座標を取得する処理と、
少なくとも一つの前記マーカーの位置座標と前記カメラの位置座標、または複数の前記マーカーの位置座標から平面を特定することで3D設計データを作成する処理と、をコンピュータに実行させ、
前記各位置座標は三次元座標であることを特徴とする3D設計データ作成プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、建設機械に搭載されたカメラが撮影した画像に基づいて、施工目標となる3D設計データを作成する技術に関する。
【背景技術】
【0002】
近年、建設技術者不足が深刻化しており、この対策として、ICT(Information and Communication Technology)を活用する「i-Construction」と呼ばれる施策が進められている。「i-Construction」に基づく建設工事では、測量を行い、施工前の施工範囲の形状データである初期形状データを取得し、施工目標とする目標形状データを作成し、建設機械を操作して目標形状となるように施工を行う。また、施工後の施工対象の形状を計測し、目標形状データとの適合性について検査する。各工程においては、3D設計データや3D測量データを活用することによって、自動化による省力化が可能である(例えば、非特許文献1)。
【0003】
このような「i-Construction」の具体例として、建設機械(例えば、油圧ショベル、ブルドーザー、トラック)に搭載したGNSS(Global Navigation Satellite Systems:全地球航法衛星システム)や、IMU(Inertial Measurement Unit:慣性計測装置)等で得られた複数のデータを合成することによって、現在の施工対象の形状データ(例えば、地形データ)を把握し、当該形状データを用いて作業を行う建設工事方法が知られている(例えば、非特許文献1)。
【0004】
図16Aおよび
図16Bは、従来のICTを利用しない、路盤を施工する際の建設工事方法の一例を示す図である。
図16Aは、施工範囲内の水糸検測を実施する測点を示し、
図16Bは、路床160aの上層に路盤160bを有する施工範囲の断面図を示す。従来は、測点に設置した丁張に水糸を張り、水糸から路盤までの下がり量を測定し、下がり量と設計値との差を路面にスプレーなどでマーキングし、オペレータが差の数字を見ながら手動で建設機械のブレード(作業具)の上下を調整し、
図16Bに示すような設計の高さになるまで繰り返していた。
【0005】
図17Aは、従来のICTを利用した、路盤を施工する際の建設工事方法の一例を示す図であり、
図17Bは、路床170aの上層に路盤170bを有する施工範囲の断面図を示す。
図17Aに示すように、事前に4点ABCDの座標を、TS(Total Station トータルステーション)等の測量機器により測量し、設計データ(通常は最終仕上がり面である、舗装面の高さ)のTIN(Triangulated Irregular Network)を作成する。作成したTINを建設機械に内蔵したPCで読み込み、建設機械とTSを通信させることで設計面との高さを算出する。例えば、現地の座標において、ある箇所の舗装設計高さが0.7(m)であり、建設機械のブレード(作業具)の下端と建設機械に設置したプリズムの距離がhであり、TSで観測している建設機械に設置したプリズムの高さをzとすると、次式が成立するようにオペレータに表示し、または自動制御を行なう。
0.7-0.05-z+h=0
【0006】
特許文献1には、作業の精度向上及び工程の短縮化を図ることを目的として、測量を行い、施工前の施工対象の形状データである初期形状データを取得する第1工程と、初期形状データと、施工目標とする目標形状データとに基づいて施工計画を策定する第2工程と、施工計画に従って、建設作業機械を用いて施工を行う第3工程とを含み、第3工程においては、目標形状データと、3Dレーザースキャナにより取得した点群データに基づき部分的に逐次更新される現況形状データとを用いて作業を行う技術が開示されている。
【0007】
また、特許文献2には、建設機械による施工箇所をその建設機械からみて自律的にモニタすることで、当該モニタを簡便かつ高精度に行うことを目的として、施工現場エリアを移動可能な建設機械に搭載される検出センサ部を用い、前記施工現場エリアの基準点となる位置に設置された外部指標についての前記検出センサ部での検出結果と、前記建設機械が有する可動作業具に付された可動指標についての前記検出センサ部での検出結果とを基に、前記外部指標および前記可動指標の各位置と前記検出センサ部の位置との位置関係を利用した測量演算を行って、前記外部指標と前記検出センサ部との位置関係を認識し、前記可動指標と前記検出センサ部との位置関係を認識し、さらに前記可動指標と前記可動作業具による施工箇所との位置関係を認識し、これらの認識結果を組み合わせることで前記基準点を基準とした場合の前記施工現場エリアでの前記可動作業具による施工箇所の三次元座標値を含む位置情報を認識する技術が開示されている。
【先行技術文献】
【特許文献】
【0008】
【文献】特開2019-218766号公報
【文献】特許第6684004号明細書
【非特許文献】
【0009】
【文献】国土交通省 i-Construction ~建設現場の生産性革命~ 参考資料 平成28年3月(URL: www.mlit.go.jp/common/001127740.pdf)
【発明の概要】
【発明が解決しようとする課題】
【0010】
しかしながら、従来の技術では、建設現場で施工する前に、3次元設計データ(3D設計データという場合もある)を、CAD(Computer Aided Design)などを用いて作成する必要があり、その3次元設計データの作成には、相応の知識や技量が必要であると共に、多大な労力と時間を要する。
【0011】
本発明は、このような事情に鑑みてなされたものであり、事前に3D設計データを作成する必要がなく、建設現場に設置したマーカーの位置情報に基づいて、自動的に設計データを作成し、そのデータに基づいて施工することによって、施工精度の向上および工程の短縮を図ることができる3D設計データ作成方法、建設工事方法、3D設計データ作成システムおよび3D設計データ作成プログラムを提供することを目的とする。
【課題を解決するための手段】
【0012】
(1)上記の目的を達成するために、本発明は、以下のような手段を講じた。すなわち、本発明の3D設計データ作成方法は、建設機械に搭載されたカメラが撮影した画像に基づいて、施工目標となる3D設計データを作成する3D設計データ作成方法であって、建設機械を走行させながら、前記建設機械に搭載された単一のまたは複数のカメラで施工範囲内または施工範囲外の高さ情報が必要な箇所に設置されたマーカーを撮影する第1工程と、前記カメラで撮影されたマーカーの画像から、前記画像内のマーカーの位置座標および前記カメラの位置座標を取得する第2工程と、少なくとも一つの前記マーカーの位置座標と前記カメラの位置座標、または複数の前記マーカーの位置座標から平面を特定することで3D設計データを作成する第3工程と、を少なくとも含むことを特徴とする。
【0013】
この構成により、事前に3D設計データを作成する必要がなく、施工の結果を即座に次の施工に反映することができるため、高精度な施工を行なうことが可能となる。また、建設機械の操縦者が十分な知識や経験を有していなかったとしても、所望の施工を容易に行うことが可能となる。また、TS(Total Station)では、施工中にTSとプリズムとが遮蔽され、計測が中断する場合があり、GNSS(Global Navigation Satellite Systems)では、天候の影響を受けたり、周辺構造物による通信途絶が生じたり、マルチパスによる誤差が発生する場合があるが、本発明では、これらの制約を受けることが少ない。本発明によれば、精度が高く高効率な情報化施工を実現することが可能となる。
【0014】
(2)また、本発明の3D設計データ作成方法において、前記第2工程では、VisualSLAM技術を用いて、前記カメラの位置座標および撮影範囲に存在する対象物の3次元情報を取得し、前記カメラで撮影された画像に基づいて、画像認識または3次元点群形状の認識によって前記画像内のマーカーの位置座標を取得することを特徴とする。
【0015】
この構成により、映像が遮られた場合であっても、VisualSLAM技術によって、事前に取得した周囲の3次元情報と現在のカメラ画像とのマッチングを行ない、現在位置を推測することができるため、施工を継続することが可能となる。
【0016】
(3)また、本発明の3D設計データ作成方法において、前記第3工程では、VisualSLAM技術を用いて複数のマーカー間の相対的な位置関係を取得し、前記相対的な位置関係に基づいて、TIN(Triangulated Irregular Network)データを作成し、平面を特定することを特徴とする。
【0017】
この構成により、VisualSLAM技術を用いて取得された複数のマーカー間の相対的な位置関係に基づいて、3D設計データを作成することが可能となる。
【0018】
(4)また、本発明の3D設計データ作成方法において、前記第1工程では、施工範囲内または施工範囲外の高さ情報が必要な箇所に3つ以上のマーカーを有するマーカー柱を設置し、前記第2工程では、前記カメラで前記マーカー柱を撮影することを特徴とする。
【0019】
この構成により、各マーカー柱の位置座標と前記カメラの位置座標、または各マーカー柱の位置座標から平面を特定し、3D設計データを作成することが可能となる。
【0020】
(5)また、本発明の3D設計データ作成方法において、前記第3工程では、前記カメラによって撮影されたマーカー柱が1本である場合は、そのマーカー柱の下端と前記カメラの位置座標から変換された前記建設機械の作業具の位置とを結ぶ直線およびこの直線と直交しそのマーカー柱の下端を通る水平線とで前記平面を特定し、前記カメラが撮影したマーカー柱が2本である場合は、各マーカー柱の下端と前記カメラの位置座標から変換された前記建設機械の作業具の位置とからなる3点で前記平面を特定し、前記カメラによって撮影されたマーカー柱が3本である場合は、各マーカー柱の下端からなる3点で前記平面を特定することを特徴とする。
【0021】
この構成により、マーカー柱の本数に応じて平面を特定し、3D設計データを作成することが可能となる。
【0022】
(6)また、本発明の3D設計データ作成方法において、前記カメラで撮影されたマーカー柱の画像に基づいて、3次元空間における前記カメラの姿勢情報を取得する第4工程と、前記3次元空間における前記カメラの姿勢情報を、前記建設機械の姿勢情報に変換し、施工対象を特定する第5工程をさらに含むことを特徴とする。
【0023】
この構成により、カメラで撮影されたマーカー柱の画像に基づいて、ロール、ピッチ、ヨーといった3次元空間におけるカメラの姿勢情報を得ることができる。このカメラの姿勢情報を建設機械の姿勢情報に変換することによって、建設機械が備える作業具の施工対象を特定することが可能となる。これにより、有効な情報化施工を実現することが可能となる。
【0024】
(7)また、本発明の建設工事方法は、上記(1)から(6)のいずれかに記載の3D設計データ作成方法によって作成された3D設計データと前記カメラの位置座標を前記建設機械へ送信し、前記建設機械の作業具が前記3D設計データに基づいて動作することを特徴とする。
【0025】
この構成により、カメラと計算用コンピュータのみによって、簡易かつ安価にマシンガイダンスを実現することが可能となる。本発明によれば、事前に3D設計データを作成する必要がなく、施工の結果を即座に次の施工に反映することができるため、高精度な施工を行なうことが可能となる。
【0026】
(8)また、本発明の3D設計データ作成システムは、施工目標となる3D設計データを作成する3D設計データ作成システムであって、建設機械に搭載され、前記建設機械の走行中に、施工範囲内または施工範囲外の高さ情報が必要な箇所設置されたマーカーを撮影する単一のまたは複数のカメラと、前記カメラで撮影されたマーカーの画像から、前記画像内のマーカーの位置座標および前記カメラの位置座標を取得する位置座標取得部と、少なくとも一つの前記マーカーの位置座標と前記カメラの位置座標、または複数の前記マーカーの位置座標から平面を特定することで3D設計データを作成する3D設計データ作成部と、を備えることを特徴とする。
【0027】
この構成により、事前に3D設計データを作成する必要がなく、施工の結果を即座に次の施工に反映することができるため、高精度な施工を行なうことが可能となる。また、建設機械の操縦者が十分な知識や経験を有していなかったとしても、所望の施工を容易に行うことが可能となる。また、TS(Total Station)では、施工中にTSとプリズムとが遮蔽され、計測が中断する場合があり、GNSS(Global Navigation Satellite Systems)では、天候の影響を受けたり、周辺構造物による通信途絶が生じたり、マルチパスによる誤差が発生する場合があるが、本発明では、これらの制約を受けることが少ない。本発明によれば、精度が高く高効率な情報化施工を実現することが可能となる。
【0028】
(9)また、本発明の3D設計データ作成プログラムは、建設機械に搭載されたカメラが撮影した画像に基づいて、施工目標となる3D設計データを作成する3D設計データ作成プログラムであって、建設機械を走行させながら、前記建設機械に搭載された単一のまたは複数のカメラで施工範囲内または施工範囲外の高さ情報が必要な箇所に設置されたマーカーを撮影する処理と、前記カメラで撮影されたマーカーの画像から、前記画像内のマーカーの位置座標および前記カメラの位置座標を取得する処理と、少なくとも一つの前記マーカーの位置座標と前記カメラの位置座標、または複数の前記マーカーの位置座標から平面を特定することで3D設計データを作成する処理と、をコンピュータに実行させることを特徴とする。
【0029】
この構成により、事前に3D設計データを作成する必要がなく、施工の結果を即座に次の施工に反映することができるため、高精度な施工を行なうことが可能となる。また、建設機械の操縦者が十分な知識や経験を有していなかったとしても、所望の施工を容易に行うことが可能となる。また、TS(Total Station)では、施工中にTSとプリズムとが遮蔽され、計測が中断する場合があり、GNSS(Global Navigation Satellite Systems)では、天候の影響を受けたり、周辺構造物による通信途絶が生じたり、マルチパスによる誤差が発生する場合があるが、本発明では、これらの制約を受けることが少ない。本発明によれば、精度が高く高効率な情報化施工を実現することが可能となる。
【発明の効果】
【0030】
本発明によれば、事前に3D設計データを作成する必要がなく、施工の結果を即座に次の施工に反映することができるため、高精度な施工を行なうことが可能となる。
【図面の簡単な説明】
【0031】
【
図1A】本実施形態に係る3D設計データ作成システムの概略構成を示す図である。
【
図1B】本実施形態に係る3D設計データ作成システムのブロック図である。
【
図1C】本実施形態に係る3D設計データ作成システムにおいて使用するマーカーの一形態を示す図である。
【
図1D】本実施形態に係る3D設計データ作成システムにおいて使用するマーカーの他の一形態を示す図である。
【
図2】コンビニエンスストアの駐車場を施工する場合の施工範囲の一例を示す図である。
【
図3】
図2における新設する舗装範囲の断面図である。
【
図4】
図2における点ABCDの位置にマーカーを設置した状態を示す図である。
【
図5】
図4におけるマーカーの位置座標に基づいてTIN(Triangulated Irregular Network)を作成する様子を示す図である。
【
図6】
図5におけるVisualSLAMにより得られたローカル点群座標におけるTINによる設計高さZ、カメラ座標z、カメラと作業具下端までの高低差hとの関係を示す断面図である。
【
図7】実施例1に係る3D設計データ作成システムの動作例1のフローチャートである。
【
図8】実施例1に係る3D設計データ作成システムの動作例2のフローチャートである。
【
図9】実施例1に係る3D設計データ作成システムの動作例3のフローチャートである。
【
図10A】カメラで撮影された画像から、カメラと物体(マーカー)との相対位置を検出するために用いる画像表示例を示す図である。
【
図11】5つのマーカーM3を備えるマーカー柱M14の外観を示す図である。
【
図12】マーカー柱M14を建設現場内外の特徴点において、所定の高さを有するように設置した様子を示す図である。
【
図16A】従来のICTを利用しない、路盤を施工する際の建設工事方法の一例において、施工範囲内の水糸結測箇所を示す図である。
【
図16B】路床160aの上層に路盤160bを有する施工範囲の断面図を示す図である。
【
図17A】従来のICTを利用した、路盤を施工する際の建設工事方法の一例を示す図である。
【
図17B】路床170aの上層に路盤170bを有する施工範囲の断面図を示す図である。
【発明を実施するための形態】
【0032】
本発明者らは、従来から施工前に3D設計データを作成するために大きな労力と時間を要してきたことに着目し、建設機械に設置されたカメラで建設現場の施工範囲内外に設置されたマーカーを撮影し、建設機械とマーカーとの位置情報に基づいて、リアルタイムに3D設計データを作成できることを見出し、本発明に至った。
【0033】
すなわち、本発明の3D設計データ作成方法は、建設機械に搭載されたカメラが撮影した画像に基づいて、施工目標となる3D設計データを作成する3D設計データ作成方法であって、建設機械を走行させながら、前記建設機械に搭載された単一のまたは複数のカメラで施工範囲内または施工範囲外の高さ情報が必要な箇所に設置されたマーカーを撮影する第1工程と、前記カメラで撮影されたマーカーの画像から、前記画像内のマーカーの位置座標および前記カメラの位置座標を取得する第2工程と、少なくとも一つの前記マーカーの位置座標と前記カメラの位置座標、または複数の前記マーカーの位置座標から平面を特定することで3D設計データを作成する第3工程と、を少なくとも含むことを特徴とする。
【0034】
これにより、本発明者らは、事前に3D設計データを作成する必要をなくし、施工の結果を即座に次の施工に反映させ、高精度な施工を行なうことを可能とした。以下、本発明の実施形態について、図面を参照しながら具体的に説明する。本明細書においては、「3D設計データ」とは、設計段階において事前に作成されるデータのみならず、施工段階において現場でリアルタイムに生成され施工目標となるデータをも意味するものとする。
【0035】
図1Aは、本実施形態に係る3D設計データ作成システムの概略構成を示す図である。この3D設計データ作成システム1において、建設機械10は、工事のために使用される機械全般のうち、土地や建物等の施工対象の形状を直接変更するものである。本実施形態では、建設機械10は、ブルドーザーや油圧ショベルを想定している。建設機械10には、単一または複数のカメラ12と、コンピュータ14とが設けられている。カメラ12は、単眼カメラ、ステレオカメラ、depthカメラなどを適用することができる。コンピュータ14には、後述するデータの処理を行なうためのアプリケーションがインストールされているものとする。なお、建設機械10の作業具(ブレード)の動きのモニタリングは、チルトセンサ、ジャイロセンサなどを用いることが可能である。
【0036】
本実施形態に係る3D設計データ作成システムは、いわゆる「スタンドアローン型」として、自装置のみでデータ処理を完結させることができる。一方、「クライアントサーバ型」として、アクセスポイント16、ネットワーク17を介してサーバ18と通信を行ない、カメラ12で取得した画像が、ネットワーク17を介してサーバ18へ送信され、サーバ18においてデータ処理がされ、処理後のデータをコンピュータ14に返す構成を採ることも可能である。「クライアントサーバ型」を採ることによって、処理すべきデータ量が大きくなってもサーバ18でデータ処理を行なって、処理結果のみをコンピュータ14へ送信することができるようになる。本実施形態によれば、マシンガイダンスを行なう場合、必要な機材は、カメラとコンピュータのみとなるため、簡易かつ安価で実施することが可能となる。
【0037】
図1Bは、本実施形態に係る3D設計データ作成システムのブロック図である。
図1Bに示すように、本実施形態に係る3D設計データ作成システムは、建設機械10に搭載された単一のまたは複数のカメラ12によって、建設機械10の走行中に、施工範囲内または施工範囲外の高さ情報が必要な箇所設置されたマーカー(後述する)を撮影する。また、位置座標取得部14aによって、カメラ12で撮影されたマーカーの画像から、画像内のマーカーの位置座標およびカメラ12の位置座標を取得する。3D設計データ作成部14bは、少なくとも一つのマーカーの位置座標とカメラ12の位置座標、または複数のマーカーの位置座標から平面を特定することで3D設計データを作成する。出力部14cは、ディスプレイやスピーカなどの出力インタフェースであり、データ処理後の画像をディスプレイに表示したり、施工すべき箇所を音声で案内したりするように構成することができる。なお、各構成要素は、機能を発揮するための各種装置、例えば、プロセッサユニット(CPU等)、記憶装置(RAM、ROM、フラッシュメモリ、磁気ディスク等)、入出力装置(データや信号等を送受信するためのインタフェース等)を適宜有する。記憶装置には各構成要素の機能を実現させるためのプログラムが記憶されていてもよい。各構成要素を構成するハードウェア(電子装置等)は、有線又は無線により他のハードウェアとデータ等のやり取りが可能なように構成されている。これにより、マシンガイダンスを実施することが可能となる。
【0038】
図1Cは、本実施形態に係る3D設計データ作成システムにおいて使用するマーカーの一形態を示す図である。ここでは、単一の球体のマーカーM1を三脚M10で支持する構成を採っている。また、
図1Dは、本実施形態に係る3D設計データ作成システムにおいて使用するマーカーの他の一形態を示す図である。ここでは、ボードM12に5つのマーカーM2が設けられた構成を採っている。マーカーM1や、5つのマーカーM2を有するボードM12のように、カメラの撮影対象となるマーカーは、周囲の環境内には存在せず、明確に区別できる特徴的な構成をとる必要がある。次に、本実施形態に係る3D設計データ作成システムの実施例について説明する。
【実施例1】
【0039】
図2は、小規模な駐車場を施工する場合の施工範囲の一例を示す図である。
図2に示すように、4点ABCDで囲まれた範囲を施工する。点Aの座標を(x,y,z)=(0,0,0)とし、点Bの座標を(x,y,z)=(0,10,0)とし、点Cの座標を(x,y,z)=(10,10,1)とし、点Dの座標を(x,y,z)=(10,0,1)とする。
図2に示すように、x-z平面は、点Aから点Dの方向へ+10パーセントの勾配があるものとする。
【0040】
図3は、
図2における新設する舗装範囲の断面図である。新設する舗装範囲20は、例えば路床20aの上層に路盤20bが構成されるものとする。路盤20bは、例えば、100mmの厚さを有するように構成される。この路盤20bの上層にアスファルト合材からなる舗装20cが設けられる。舗装20cは、例えば、50mmの厚さを有するように構成される。小規模な駐車場などでは、
図3に示すように、新設舗装範囲20の近傍に、店舗の建屋や乗り入れ部となる歩道などの既設舗装21や縁石などの既設構造物が存在する。このため、構築しようとしている駐車場舗装においては、事前に出来上がっている既設舗装又は既設構造物と段差が生じないように施工しなければならない。また、既設舗装又は既設構造物は、経年に伴う変形により図面と一致しないこともあるため、図面通りには施工できないことがあり得る。本実施形態に係る3D設計データ作成システムによれば、リアルタイムで3D設計データを作成することができるため、事前の3D設計データを用意する必要がなく、このような施工上の必要を満たすことが可能である。
【0041】
図4は、
図2における点ABCDの位置にマーカーを設置した状態を示す図である。すなわち、高さ情報が必要な箇所に、マーカーMを設置する。ここでは、設計データを必要とせず、また、事前測量の必要もない。各マーカーMの高さは、仕上がり高さ(最終仕上がりの舗装面の高さ)から任意の長さを「オフセット」して設置する。ここでは、1mのオフセットをしており、各マーカーMの座標は、点A’では(x,y,z)=(0,0,1)となり、点B’では(x,y,z)=(0,10,1)となり、点C’では(x,y,z)=(10,10,2)となり、点D’では(x,y,z)=(10,0,1)となる。
【0042】
次に、
図4に示すように、カメラを設置した建設機械10を走行させる。そして、VisualSLAM技術を用いて、カメラの位置座標と周囲の3次元情報を取得する。この座標は「ローカル座標」であり、カメラの初期位置や方向などは、解析条件により異なる。VisualSLAM技術については、特開2009-237848号公報、特開2020-160594号公報、国際公開WO2012/106068号に開示されている技術を用いることが可能である。また、設置されたマーカーMを画像または3次元点群の形状から認識・抽出し、そのマーカーの位置座標を別途保存する。さらに、全周囲の観測により、例えば、建物Jや樹木など、施工範囲内外の3次元情報およびマーカーMの位置情報を取得する。
【0043】
図5は、
図4におけるマーカーの位置座標に基づいてTIN(Triangulated Irregular Network)を作成する様子を示す図である。すなわち、マーカーMと、そのマーカーMに隣接する二つのマーカーMからなるTINを作成する。このTINは、マーカーMを設置した時のオフセット分(この場合は1m)だけ舗装仕上がり高さより高い。TINを作成した後、TINとカメラの位置情報とを用いて、TINとカメラの高低差を算出し、建設機械10の作業具の下端が設計高さになるようにオペレータに表示し、または自動制御を行う。例えば、VisualSLAMにより得られたローカル点群座標におけるTINによる設計高さを「Z」とし、カメラ座標を「z」とし、カメラと作業具下端までの高低差を「h」とする。ここで、「h」は、作業具の上下動により変化するが、作業具にチルトセンサやジャイロ計を設置することで、従来から、初期状態の「h0」からの変動量を把握することが可能である。
【0044】
図6は、
図5におけるVisualSLAMにより得られたローカル点群座標におけるTINによる設計高さZ、カメラ座標z、カメラと作業具下端までの高低差hとの関係を示す断面図である。例えば路盤の施工時には、次式が成り立つような建設機械10の制御を行なう。
Z-(1+0.05)=z-h
【0045】
次に、以上のように構成された実施例1に係る3D設計データ作成システムの動作について説明する。
[動作例1]
図7は、実施例1に係る3D設計データ作成システムの動作例1のフローチャートである。まず、建設機械10にカメラ12を取り付けると共に(ステップS01)、建設機械10の作業具の上下動を検出するセンサを設置する(ステップS02)。次に、カメラ12と作業具の刃先の初期距離「h0」を測定すると共に(ステップS03)、マーカーMを施工範囲内または施工範囲外の高さ情報が必要な箇所に設置する(ステップS04)。ここで、マーカーMの高さは、設計面(施工面)から任意の高さだけオフセットする。実施例1では、オフセットを1mとする。
【0046】
次に、建設機械10を走行させながら、カメラ12によって施工範囲内外の撮影を行なう(ステップS05)。次に、VisualSLAMを用いて、自己位置座標(カメラ12の位置座標)を取得し、保存すると共に(ステップS06)、周囲の3次元座標を取得し、保存する(ステップS07)。次に、カメラ12で取得した画像または3次元点群データから、画像内のマーカーMを抽出し(ステップS08)、マーカーMの3次元座標情報を取得し、保存する(ステップS09)。その後、各マーカーMからなるTINを作成する(ステップS10)。
【0047】
次に、ステップS06およびステップS10から得られたデータに基づいて、現在の自己位置座標、各マーカーMからなるTIN、マーカーMのオフセット量、初期距離h0、作業具の上下移動量に基づいて、施工層の設計面と作業具の刃先の高低差を算出する(ステップS11)。最後に、建設機械10の操作者へ、ステップS11で算出した高低差を伝達する(ステップS12)。ここでは、コンピュータ14のディスプレイで表示したり、スピーカから音声案内をしたりすることが可能である。また、ステップS12において、高低差を0とするように作業具を自動制御しても良い(ステップS12)。
【0048】
[動作例2]
図8は、実施例1に係る3D設計データ作成システムの動作例2のフローチャートである。まず、建設機械10の作業具にカメラ12を取り付け(ステップS13)、カメラ12と作業具の刃先の初期距離h0を測定する(ステップS14)。また、マーカーMを施工範囲内または施工範囲外の高さ情報が必要な箇所に設置する(ステップS15)。ここで、マーカーMの高さは、設計面(施工面)から任意の高さだけオフセットする。実施例1では、オフセットを1mとする。
【0049】
次に、建設機械10を走行させながら、カメラ12によって施工範囲内外の撮影を行なう(ステップS16)。次に、VisualSLAMを用いて、自己位置座標(カメラ12の位置座標)を取得し、保存すると共に(ステップS17)、周囲の3次元座標を取得し、保存する(ステップS18)。次に、カメラ12で取得した画像または3次元点群データから、画像内のマーカーMを抽出し(ステップS19)、マーカーMの3次元座標情報を取得し、保存する(ステップS20)。その後、各マーカーMからなるTINを作成する(ステップS21)。
【0050】
次に、ステップS17およびステップS21から得られたデータに基づいて、現在の自己位置座標、各マーカーMからなるTIN、マーカーMのオフセット量、初期距離h0に基づいて、施工層の設計面と作業具の刃先の高低差を算出する(ステップS22)。最後に、建設機械10の操作者へ、ステップS22で算出した高低差を伝達する(ステップS23)。ここでは、コンピュータ14のディスプレイで表示したり、スピーカから音声案内をしたりすることが可能である。また、ステップS23において、高低差を0とするように作業具を自動制御しても良い(ステップS23)。
【0051】
[動作例3]
図9は、実施例1に係る3D設計データ作成システムの動作例3のフローチャートである。まず、建設機械10にカメラ12を取り付ける(ステップS24)。次に、カメラ12と作業具の刃先の初期距離「h0」を測定する(ステップS25)。また、マーカーMを施工範囲内または施工範囲外の高さ情報が必要な箇所に設置する(ステップS26)。ここで、マーカーMの高さは、設計面(施工面)から任意の高さだけオフセットする。実施例1では、オフセットを1mとする。さらに、マーカーBを作業具に設置する(ステップS27)。
【0052】
次に、建設機械10を走行させながら、カメラ12によって施工範囲内外の撮影を行なう(ステップS28)。次に、VisualSLAMを用いて、自己位置座標(カメラ12の位置座標)を取得し、保存すると共に(ステップS29)、周囲の3次元座標を取得し、保存する(ステップS30)。次に、カメラ12で取得した画像または3次元点群データから、画像内のマーカーM、マーカーBを抽出し(ステップS31)、マーカーMの3次元座標情報を取得し、保存する(ステップS32)。その後、マーカーMからなるTINを作成する(ステップS33)。また、ステップS31において、マーカーBの位置座標に基づいて、カメラ12と作業具との相対的位置を算出し、保存する(ステップS34)。
【0053】
次に、ステップS29、ステップS33およびステップS34から得られたデータに基づいて、現在の自己位置座標、マーカーMからなるTIN、マーカーMのオフセット量、初期距離h0、カメラ12と作業具との相対的位置に基づいて、施工層の設計面と作業具の刃先の高低差を算出する(ステップS35)。最後に、建設機械10の操作者へ、ステップS35で算出した高低差を伝達する(ステップS36)。ここでは、コンピュータ14のディスプレイで表示したり、スピーカから音声案内をしたりすることが可能である。また、ステップS12において、高低差を0とするように作業具を自動制御しても良い(ステップS36)。
【0054】
以上説明したように、実施例1によれば、TSやGNSSとは異なり、施工範囲の環境や条件等の制約が少なくて済むこととなる。また、TSでは、施行中にTSとプリズムとの間が遮蔽され計測が中断する場合があり、GNSSでは、天候の影響を受けることがあり、また、周辺構造物による受信不可状態の発生やマルチパスによる誤差が発生する場合がある。これに対し、実施例1によれば、SLAMは映像が遮られた後でも、事前に取得した周囲の3次元情報と現在カメラ画像のマッチングを行い、現在位置を推測できるため、施工を継続可能である。
【実施例2】
【0055】
実施例2では、建設機械10に搭載されるカメラ12により、施工範囲内外に配置するマーカー柱を撮影する。マーカー柱には、3つ以上のマーカーが配置されており、カメラで撮影した画像からマーカーの位置および大きさを求め、さらに、マーカーとマーカー柱との位置関係より、カメラとマーカー柱の相対位置関係(x,y,z,ロール,ピッチ,ヨー)を算出する。施工範囲内外に設置するマーカー柱は、施工の目標高さより所定の高さだけ高い位置に設定する。なお、設置する高さに応じて、カメラで識別できるようにマーカーの色を変化させても良い。
【0056】
これにより、カメラの撮影位置と目標高さとの相違を演算することができ、その演算結果に基づいて、建設機械10を適切に操縦したり、制御したりすることができる。
【0057】
[カメラとマーカー柱の相対位置を算出する原理]
図10Aは、カメラで撮影された画像から、カメラと物体(マーカー)との相対位置を検出するために用いる画像表示例を示す。
図10Bは、マーカーの直径を示す図である。
図10Aに示すように、画像から物体を検知し(
図10Aの場合は球体を検知)、画像上の大きさの情報から、カメラと物体の相対距離、その物体の画像上のxy座標を求めることが可能である。
【0058】
図11は、5つのマーカーM3を備えるマーカー柱M14の外観を示す図である。
図11に示すように、円形のマーカーM3を3つ以上配置した(ここでは5つのマーカーを配置した)マーカー柱M14を用意する。事前に、マーカー柱M14内の各マーカーM3の相対的な位置関係を測定しておく。カメラ12でマーカー柱M14を撮影すると、カメラ12とマーカー柱14に配置された各マーカーM3との相対距離により、カメラ12の、マーカー柱M14からの相対位置が求まる。なお、3次元空間にカメラ12を配置した場合、(x,y,z)の位置とカメラの方向(ヨー,ロール,ピッチ)の6次元の未知数があるため、マーカー柱M14には少なくとも3つのマーカーM3を用いる必要がある。
【0059】
図12は、マーカー柱M14を建設現場内外の特徴点において、所定の高さを有するように設置した様子を示す図である。この「特徴点」とは、現場の周辺や、勾配の変化点のことを意味する。特徴点については、現場の座標系におけるxy座標は不明であってもよい。z座標については、施工の仕上がり面から所定の高さに配置する。例えば、マーカー柱M14の下端が仕上がり面になるように設置したり、仕上がり面から10cm高い位置と決めて設置したりすることができる。マーカー柱M14を鉛直に設置するなど、現場座標系においてマーカー柱M14の方向を決めると、マーカー柱M14とカメラ12との相対的な方向(ヨー,ロール,ピッチ)の関係より、現場座標系におけるカメラ12の方向が決まる。現場座標系におけるカメラ12の方向が分かるということは、カメラを取り付けた建設機械10の姿勢が分かるということになる。つまり、現場の水平面に対して建設機械10が上向きの方向にあるのか、下向きの方向にあるのかが明らかとなる。
【0060】
[リアルタイムで3D設計データを作成する方法]
カメラで捉えているマーカー柱の数によって、3D設計データの作成方法が異なる。
【0061】
[カメラで捉えているマーカー柱の数が1本である場合]
図13Aは、施工範囲の一部の平面図であり、
図13Bは、施工範囲の一部の正面図であり、
図13Cは、施工範囲の一部の側面図である。カメラで捉えているマーカー柱M14が1本である場合は、マーカー柱M14の下端を点P1(0,0,0)とする座標系を考える。カメラC10から変換した建設機械の作業具の位置を点C(Xc,Yc,Zc)とする。施工層の設計面を、点P1と点Cを通る平面とするが、2点では1平面に確定しないため、点P1を通り、ベクトル(P1C)と直交し、z=0の直線Lを仮定し、この直線が含まれる平面を3D設計データとする。
【0062】
[カメラで捉えているマーカー柱の数が2本である場合]
図14Aは、施工範囲の一部の平面図であり、
図14Bは、施工範囲の一部の正面図であり、
図14Cは、施工範囲の一部の側面図である。カメラで捉えているマーカー柱M14が2本である場合は、マーカー柱M14の点P1(0,0,0)、点P2(X2,Y2,Z2)、カメラの点C(Xc,Yc,Zc)が含まれる平面を3D設計データとする。
【0063】
[カメラで捉えているマーカー柱の数が3本である場合]
図15Aは、施工範囲の一部の平面図であり、
図15Bは、施工範囲の一部の正面図であり、
図15Cは、施工範囲の一部の側面図である。カメラで捉えているマーカー柱M14が3本である場合は、マーカー柱M14の点P1(0,0,0)、点P2(X2,Y2,Z2)、点P3(X3,Y3,Z3)が含まれる平面を3D設計データとする。
【0064】
なお、マーカー柱M14が4本以上である場合は、マーカー柱M14が3本である場合と同様に扱うことができるが、誤差を分配することができるというメリットがある。
【0065】
以上説明したように、実施例2によれば、事前に3D設計データを準備することなく、高精度に施工することができる。また、施工の結果を即座に次の施工に反映するため(リアルタイム計測するため)、知識や経験に乏しい操縦者でも容易に精度の高い施工を行うことができる。さらに、TSやGNSSとは異なり、施工範囲の環境や条件等の制約が少なくて済むこととなる。
【符号の説明】
【0066】
1 3D設計データ作成システム
10 建設機械
12 カメラ
14 コンピュータ
14a 位置座標取得部
14b 3D設計データ作成部
14c 出力部
16 アクセスポイント
17 ネットワーク
18 サーバ
20 舗装範囲
20a 路床
20b 路盤
20c 舗装
21 既設舗装
B マーカー
C10 カメラ
M マーカー
M1 マーカー
M10 三脚
M12 ボード
M14 マーカー柱
M2 マーカー
M3 マーカー