(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022161770
(43)【公開日】2022-10-21
(54)【発明の名称】作業支援システム及び作業支援方法
(51)【国際特許分類】
G06Q 50/08 20120101AFI20221014BHJP
G06T 19/00 20110101ALI20221014BHJP
【FI】
G06Q50/08
G06T19/00 600
【審査請求】未請求
【請求項の数】2
【出願形態】OL
(21)【出願番号】P 2021085471
(22)【出願日】2021-05-20
(31)【優先権主張番号】63/173,456
(32)【優先日】2021-04-11
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】000000549
【氏名又は名称】株式会社大林組
(74)【代理人】
【識別番号】100105957
【弁理士】
【氏名又は名称】恩田 誠
(74)【代理人】
【識別番号】100068755
【弁理士】
【氏名又は名称】恩田 博宣
(72)【発明者】
【氏名】中林 拓馬
(72)【発明者】
【氏名】中村 允哉
(72)【発明者】
【氏名】池田 雄一
【テーマコード(参考)】
5B050
5L049
【Fターム(参考)】
5B050DA01
5B050EA05
5B050EA13
5B050EA19
5L049CC07
(57)【要約】
【課題】作業現場で、効率的かつ的確な確認作業を支援するための作業支援システム及び作業支援方法を提供する。
【解決手段】作業支援システムA1は、BIMを用いて、仮想空間に要素を配置して設計を行なう設計装置10と、仮想空間に配置された要素の3次元モデルを表示する作業支援装置30とを備える。設計装置10が、BIMを用いて、仮想空間に第1位置補正マーカを配置する。そして、作業支援装置30が、現実空間において、カメラ30bにより撮影された第2位置補正マーカと、仮想空間に配置された第1位置補正マーカとの位置関係により、現実空間と仮想空間との位置合わせを行ない、仮想空間に配置された要素の3次元モデルを、カメラ30bによる撮影画像に重畳した複合現実画像を出力する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
BIMを用いて、仮想空間に要素を配置して設計を行なう設計装置と、仮想空間に配置された要素の3次元モデルを表示する作業支援装置とを備えた作業支援システムであって、
前記設計装置が、前記BIMを用いて、前記仮想空間に第1位置補正マーカを配置し、
前記作業支援装置が、
現実空間において、カメラにより撮影された第2位置補正マーカと、前記仮想空間に配置された第1位置補正マーカとの位置関係により、前記現実空間と前記仮想空間との位置合わせを行ない、
前記仮想空間に配置された要素の3次元モデルを、前記カメラによる撮影画像に重畳した複合現実画像を出力することを特徴とする作業支援システム。
【請求項2】
BIMを用いて、仮想空間に要素を配置して設計を行なう設計装置と、仮想空間に配置された要素の3次元モデルを表示する作業支援装置とを用いた作業支援システムを用いて、作業支援を行なう方法であって、
前記設計装置が、前記BIMを用いて、前記仮想空間に第1位置補正マーカを配置し、
前記作業支援装置が、
現実空間において、カメラにより撮影された第2位置補正マーカと、前記仮想空間に配置された第1位置補正マーカとの位置関係により、前記現実空間と前記仮想空間との位置合わせを行ない、
前記仮想空間に配置された要素の3次元モデルを、前記カメラによる撮影画像に重畳した複合現実画像を出力することを特徴とする作業支援方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、作業現場での確認作業を支援する作業支援システム及び作業支援方法に関する。
【背景技術】
【0002】
現場において、作業者が、現場図面等を参照しながら、現場状況を確認することがある。この場合、コンピュータ端末を用いることもある(例えば、特許文献1参照)。この文献に開示された技術においては、建設中のプラントにおけるプラントの建設や、維持管理作業を支援するため、タブレットは、測定された実位置から、記憶手段に格納されている仮想空間内の立体形状を表示するための仮想カメラの仮想位置を求める。そして、仮想カメラの視点で仮想空間内のオブジェクトを、進捗状態ごとに異なる表示形態にて表示手段に表示する。表示されたオブジェクトのIDと、入力されたオブジェクトの検査データとを対応付けて記憶手段に格納する。
【0003】
また、建築物の設計においては、BIM(Building Information Modeling)を用いることがある。そして、このBIMを用いて、構造物の検査を行なうこともある(例えば、特許文献2参照)。この文献に開示された技術においては、ユーザ端末の制御部は、現在位置を特定し、現在位置に応じた3次元モデルの仮想画像を、カメラから取得した構造物画像に合わせて重畳表示する。更に、制御部は、構造物画像を用いて、検査対象の評価項目の評価結果を取得し、評価結果を、3次元モデルにおける検査対象の位置に関連付けて、検査情報記憶部に記録する。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2015-011620号公報
【特許文献2】特開2019-027855号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、仮想空間の3次元モデルと現在位置との位置合わせがずれていると、的確な作業を行なうことができない。また、BIMデータは、このような位置合わせを考慮して生成されていない。
【課題を解決するための手段】
【0006】
上記課題を解決するための作業支援システムは、BIMを用いて、仮想空間に要素を配置して設計を行なう設計装置と、仮想空間に配置された要素の3次元モデルを表示する作業支援装置とを備える。前記設計装置が、前記BIMを用いて、前記仮想空間に第1位置補正マーカを配置する。そして、前記作業支援装置が、現実空間において、カメラにより撮影された第2位置補正マーカと、前記仮想空間に配置された第1位置補正マーカとの位置関係により、前記現実空間と前記仮想空間との位置合わせを行ない、前記仮想空間に配置された要素の3次元モデルを、前記カメラによる撮影画像に重畳した複合現実画像を出力する。
【発明の効果】
【0007】
本開示によれば、作業現場において、効率的かつ的確な確認作業を支援することができる。
【図面の簡単な説明】
【0008】
【発明を実施するための形態】
【0009】
以下、
図1~
図20を用いて、作業支援システム及び作業支援方法を具体化した一実施形態を説明する。本実施形態では、建物の建築現場において、BIM画像と現場状況とを比較しながら検査を行なう場合に用いる作業支援システム及び作業支援方法として説明する。
本実施形態では、
図1に示すように、ネットワークを介して相互に接続された設計装置10、支援サーバ20、作業支援装置30を用いる。
【0010】
(ハードウェア構成の説明)
図2を用いて、設計装置10、支援サーバ20、作業支援装置30を構成する情報処理装置H10のハードウェア構成を説明する。情報処理装置H10は、通信装置H11、入力装置H12、表示装置H13、記憶装置H14、プロセッサH15を備える。なお、このハードウェア構成は一例であり、他のハードウェアにより実現することも可能である。
【0011】
通信装置H11は、他の装置との間で通信経路を確立して、データの送受信を実行するインタフェースであり、例えばネットワークインタフェースや無線インタフェース等である。
【0012】
入力装置H12は、各種情報の入力を受け付ける装置であり、例えばマウスやキーボード等である。表示装置H13は、各種情報を表示するディスプレイ等である。なお、入力装置H12及び表示装置H13として、タッチパネルディスプレイを用いてもよい。
【0013】
記憶装置H14は、設計装置10、支援サーバ20、作業支援装置30の各種機能を実行するためのデータや各種プログラムを格納する記憶装置である。記憶装置H14の一例としては、ROM、RAM、ハードディスク等がある。
【0014】
プロセッサH15は、記憶装置H14に記憶されるプログラムやデータを用いて、設計装置10、支援サーバ20、作業支援装置30における各処理を制御する。プロセッサH15の一例としては、例えばCPUやMPU等がある。このプロセッサH15は、ROM等に記憶されるプログラムをRAMに展開して、各処理のための各種プロセスを実行する。
【0015】
プロセッサH15は、自身が実行するすべての処理についてソフトウェア処理を行なうものに限られない。例えば、プロセッサH15は、自身が実行する処理の少なくとも一部についてハードウェア処理を行なう専用のハードウェア回路(例えば、特定用途向け集積回路:ASIC)を備えてもよい。すなわち、プロセッサH15は、以下で構成し得る。
【0016】
〔1〕コンピュータプログラム(ソフトウェア)に従って動作する1つ以上のプロセッサ
〔2〕各種処理のうち少なくとも一部の処理を実行する1つ以上の専用のハードウェア回路
〔3〕それらの組み合わせ、を含む回路(circuitry)
プロセッサは、CPU並びに、RAM及びROM等のメモリを含み、メモリは、処理をCPUに実行させるように構成されたプログラムコード又は指令を格納している。メモリすなわちコンピュータ可読媒体は、汎用又は専用のコンピュータでアクセスできるあらゆる利用可能な媒体を含む。
【0017】
(システム構成)
次に、
図1を用いて、作業支援システムA1の各機能を説明する。
設計装置10は、BIM(Building Information Modeling)を用いて、構造物の設計処理(3次元CAD処理)を行なうためのコンピュータ端末である。このBIMでは、建築に用いる要素の形状だけではなく、建物要素の属性(プロパティ)を管理することができる。この設計装置10は、オペレーティングシステム上で動作するBIMアプリケーションにより、BIM実行部11として機能する。
【0018】
BIM実行部11は、BIM技術により、3次元モデル(オブジェクト)を仮想3次元空間上で配置することにより、3次元CAD(computer-aided design)を実現する。各3次元モデルは、建築に関する各種情報を属性として保持している。
【0019】
支援サーバ20は、複合現実(MR:Mixed Reality)を利用して、現場状況の管理を支援する処理を実行するコンピュータシステムである。この支援サーバ20は、制御部21、BIM情報記憶部22、表示モデル記憶部23、検査情報記憶部24を備える。
【0020】
制御部21は、後述する処理(変換段階、管理段階等を含む処理)を行なう。このための処理プログラムを実行することにより、制御部21は、変換部211、管理部212等として機能する。
【0021】
変換部211は、3次元CADデータを、複合現実の仮想空間に表示可能なデータに変換する。ここでは、BIMを利用して設計された3次元CADデータを、軽量化、ポリゴン化して、作業支援装置30の表示アプリケーションで利用可能なフォーマットに変換する。
管理部212は、作業支援装置30から現場状況における検査結果を取得し、検査情報記憶部24に記録する。
【0022】
図3に示すように、BIM情報記憶部22には、BIMにおいて作成したBIMモデル情報220が記録される。このBIMモデル情報220は、3次元CADを用いて、建築物の設計を行なった場合に記録される。BIMモデル情報220は、プロジェクト情報に対して、BIMモデル(要素モデル、配置情報、属性情報)を含む。
【0023】
プロジェクト情報は、プロジェクトID、建築現場の名称、経度・緯度、建設現場の方位等に関する情報を含む。
要素モデルは、建築現場を構成する各要素の3次元形状(3次元モデル)に関する情報である。本実施形態では、要素として、建築要素オブジェクト、空間オブジェクト、マーカオブジェクトが用いられる。建築要素オブジェクトは、建築に用いる資機材に関するオブジェクトである。空間オブジェクトは、部屋や領域等を仕切る空間を特定するオブジェクトである。マーカオブジェクトは、仮想空間と現実空間との位置合わせに用いるオブジェクトである。
【0024】
配置情報は、3次元モデルを配置(仮想空間内の座標)に関する情報を含む。
属性情報は、この要素モデルのオブジェクトIDを含む。建築要素オブジェクトには、更に、仕様(資機材の種類、規格、寸法、面積、体積、素材、価格等)、工程に関するプロパティ情報が記録される。マーカオブジェクトには、属性情報としてマーカIDが記録される。マップピンオブジェクトには、属性情報として指摘IDが記録される。
【0025】
表示モデル記憶部23は、複合現実の仮想空間において表示可能な3次元モデル(MRモデル情報)が記録される。このMRモデル情報は、BIMモデル情報220の変換処理を行なった場合に記録される。このMRモデル情報にも、BIMモデル情報220と同様に、仮想空間における配置情報、属性情報が記録されている。
【0026】
図4に示すように、検査情報記憶部24には、現場での検査における指摘に関する検査結果情報240が記録される。この検査結果情報240は、作業支援装置30から指摘情報を取得した場合に記録される。検査結果情報240は、プロジェクトID、指摘ID、指摘箇所座標、カメラ座標、日時、部屋、部位、検査項目、メモ、写真、音声に関する情報を含む。
【0027】
プロジェクトIDは、指摘があったプロジェクトを特定するための識別子である。
指摘IDは、このプロジェクトにおける各指摘を特定するための識別子である。
指摘箇所座標情報は、この指摘の位置(仮想空間内の座標)に関する情報を含む。
カメラ座標情報は、この指摘を作成した際のカメラ位置(仮想空間内の座標)に関する情報を含む。
【0028】
日時情報は、この指摘が登録された年月日及び時刻に関する情報を含む。
部屋情報は、この指摘が行なわれた空間を特定するための識別子に関する情報を含む。例えば、指摘が行なわれた空間のオブジェクトIDを用いてもよい。
【0029】
部位情報は、この指摘が行なわれた建築要素に関する情報を含む。例えば、指摘が行なわれた資材(建築要素)のオブジェクトIDを用いてもよい。
検査項目情報は、指摘された項目に関する情報を含む。例えば、資材における「キズ」等が記録される。
メモ情報は、検査項目における具体的な説明に関する情報を含む。
写真情報は、必要に応じて、この指摘箇所を撮影した画像である。
音声情報は、必要に応じて、検査項目における具体的な説明の音声、もしくは環境音の録音情報を含む。
【0030】
図1に示す作業支援装置30は、現場において構造物の検査を支援するコンピュータ端末(例えば、タブレット端末)である。この作業支援装置30は、タッチパネルディスプレイ30a、カメラ30b、位置特定部30cを備える。更に、作業支援装置30は、作業支援プログラムを実行することにより、MR処理部31、検査支援部32を実現するとともに、表示モデル記憶部35を備える。
【0031】
タッチパネルディスプレイ30aは、各種情報を入力するための入力部として機能するとともに、各種情報を出力するための出力部として機能する。なお、入力部、出力部は、情報の入力や出力が可能なハードウェアであれば、タッチパネルディスプレイ30aに限定されるものではない。
【0032】
カメラ30bは、被写体を撮影する撮影部である。
位置特定部30cは、自己位置推定により、作業支援装置30の現在地を特定する処理を実行する。この自己位置推定には、例えば、カメラ30bで逐次撮影された画像の相対的な変化に応じて移動距離を推定する視覚オドメトリー技術(VO:visual odometry)を用いることができる。この技術では、位置特定部30cは、撮影画像内の特徴点の検出、特徴点の相関位置関係に応じて、カメラ30bの動きを推定する。なお、位置の特定は、視覚オドメトリー技術を用いる方法に限定されるものではない。例えば、3軸の加速度センサやジャイロセンサ等のIMU(Inertial Measurement Unit)を用いたり、併用したりして、VIO(visual-inertial odometry)を行なうようにしてもよい。
【0033】
MR処理部31は、カメラ30bによって撮影した画像に対して、表示モデル記憶部35に記録されたMRモデルを重畳して表示する処理を実行する。
検査支援部32は、カメラ30bによる撮影画像とMRモデルとを比較して、建築要素の検査を支援する処理を実行する。
【0034】
表示モデル記憶部35には、支援サーバ20から取得した表示モデルが記録される。更に、検査において、指摘事項が登録された場合、マップピンオブジェクトの3次元モデルが登録される。このマップピンオブジェクトは、指摘事項の配置を示すオブジェクトである。マップピンオブジェクトは、属性情報として指摘ID、検査項目を保持する。
【0035】
〔作業支援処理〕
図5~
図20を用いて、作業支援処理を説明する。以下では、設計処理(
図5)、作業開始処理(
図6)、作業時処理(
図7)、指摘支援処理(
図8)、検査支援処理(
図9)の順番で説明する。
【0036】
(設計処理)
まず、
図5を用いて、設計処理を説明する。
ここでは、設計装置10のBIM実行部11は、BIMモデル生成処理を実行する(ステップS101)。具体的には、ユーザは、設計装置10のBIM実行部11を用いて、プロジェクト情報を入力する。この場合、BIM実行部11は、プロジェクト情報を含めたBIMモデル情報220を、支援サーバ20のBIM情報記憶部22に記録する。
【0037】
そして、ユーザは、BIM実行部11によって出力されたCAD画面上で、建物を構成する各要素(オブジェクト)の3次元要素モデルを配置することにより、設計を行なう。各要素についての属性情報が入力された場合、BIM実行部11は、BIMモデルの属性情報として記録する。そして、BIM実行部11は、作成したBIMモデル情報220を、支援サーバ20のBIM情報記憶部22に記録する。
【0038】
次に、設計装置10のBIM実行部11は、位置補正マーカの設置処理を実行する(ステップS102)。具体的には、ユーザは、設計装置10のBIM実行部11を用いて、建物の所定位置に、所定の向きで、位置補正マーカ(第1位置補正マーカ)を設置する。この位置補正マーカも、BIM上での一つのオブジェクトである。この場合、BIM実行部11は、このオブジェクトの属性情報として「マーカ」、「マーカID」、「マーカ寸法」を設定する。本実施形態では、位置補正マーカを、例えば、通り芯の交点等、現場において、位置決め容易で、配置し易い場所に設定する。
図10に示すように、BIMのCAD図面500に位置補正マーカ501を設置する。
【0039】
次に、支援サーバ20の制御部21は、MR用データ変換処理を実行する(ステップS103)。具体的には、設計装置10に設計完了が入力された場合、制御部21の変換部211は、BIM情報記憶部22に記録されたBIMモデル情報220のBIMモデルを、複合現実の仮想空間内で表示可能なMRモデルに変換する。ここでは、BIMモデルを軽量化してポリゴン化し、作業支援装置30のMR処理部31で表示可能な形式のMRモデルを生成する。このMRモデルには、建築要素オブジェクト、空間オブジェクト、マーカオブジェクトの3次元モデルが含まれる。
【0040】
(作業開始処理)
次に、
図6を用いて、作業開始処理を説明する。ここでは、現場において、BIMにおいて設定された位置補正マーカに対応する位置に、予め位置補正マーカ(第2位置補正マーカ)を印刷したシートを配置しておく。位置補正マーカとしては、マーカIDをコード化した2次元コード画像を用いる。この2次元コード画像は、BIMで設計した所定の大きさの矩形状の外枠を有しており、BIMで配置された向きに置く。そして、作業支援装置30において、作業支援プログラムを実行させて、MR処理部31を起動する。
【0041】
ここでは、作業支援装置30は、プロジェクト選択処理を実行する(ステップS201)。具体的には、ユーザは、支援サーバ20の表示モデル記憶部23に記録されたプロジェクトを選択する。この場合、MR処理部31は、表示モデル記憶部23から、選択されたプロジェクトのMRモデルを取得し、表示モデル記憶部35に記録する。
【0042】
次に、作業支援装置30は、位置補正マーカ撮影処理を実行する(ステップS202)。具体的には、ユーザは、位置補正マーカが配置されている場所まで移動する。そして、タッチパネルディスプレイ30aで位置補正マーカを確認する。
【0043】
この場合、タッチパネルディスプレイ30aの表示画面において、マーカ位置合わせの作業指示項目ボタンを選択すると、画面に、マーカを特定する四角形枠が表示される。
そして、
図11に示す表示画面510のように、現場に配置されたシート511を作業支援装置30のカメラ30bで捉える。シート511には、マーカIDをコード化した2次元コード画像が所定の大きさで、位置補正マーカとして印刷されている。そして、画面に表示された四角形枠を、シート511の位置補正マーカ512に重なるように一致させた状態を確認した後、タッチパネルディスプレイ30aで撮影する。
【0044】
次に、作業支援装置30は、位置補正マーカのデコード処理を実行する(ステップS203)。具体的には、MR処理部31は、位置補正マーカ512をデコードして、マーカID、マーカ寸法を取得する。
【0045】
次に、作業支援装置30は、位置合わせ処理を実行する(ステップS204)。具体的には、MR処理部31は、撮影された2次元コード画像の撮影画像内の配置(形状、大きさ、向き)を、デコードしたマーカIDの仮想空間内の位置補正マーカの配置に対応させる。この対応付けにより、撮影された位置(座標)や向きを特定して、仮想空間内の座標軸を、現実空間内の座標軸に合わせるとともに、マーカ寸法に応じて縮尺を決定する。この結果、取得したMRモデルを用いて、作業支援装置30のカメラ30bを視点とする仮想空間の視野画像を、カメラ30bの撮影画像に写像可能なように位置合わせを実現する。
【0046】
次に、作業支援装置30は、空間オブジェクトの特定処理を実行する(ステップS205)。具体的には、MR処理部31は、仮想空間内の視点が、空間オブジェクト内に含まれる場合には、この空間オブジェクトの属性情報を、タッチパネルディスプレイ30aに出力する。
【0047】
次に、作業支援装置30は、重畳度に応じて、オブジェクトの表示処理を実行する(ステップS206)。具体的には、MR処理部31は、タッチパネルディスプレイ30aに、カメラ30bの撮影画像と、仮想空間の視野内の表示対象のMRモデル画像とを重畳させた複合現実画像を表示する。更に、MR処理部31は、タッチパネルディスプレイ30aに、スライダを表示する。このスライダを用いることにより、タッチパネルディスプレイ30aに表示されるMRモデル画像の重畳度を調整することができる。
【0048】
図12の表示画像520に示すように、スライダSD1により重畳度「100%」にすると、MRモデル画像のみとなる。
図13に示すように、表示画像530のスライダSD1により重畳度を下げると、MRモデルが透過するようになり、現場の実像とMRモデル画像が重畳した形態で表示される。
【0049】
図14に示すように、表示画像540のスライダSD1により重畳度「0%」にすると、MRモデルが透明になり、現場の撮影画像のみが表示される。
そして、後述するようにユーザは、作業支援装置30を携帯して移動しながら、検査を行なう。
【0050】
また、後述するように、移動後に、新たなシート511を見つけることもある。
図15に示すように、この場合には、再び、マーカ位置合わせの作業指示項目ボタンを選択する。そして、表示画像550に表示される四角形枠の位置補正マーカ552を用いて、作業支援装置30は、位置補正マーカ撮影処理(ステップS202)~位置合わせ処理(ステップS204)を実行する。
【0051】
(作業時処理)
次に、
図7を用いて、作業時処理を説明する。ユーザは、検査を行なうために、作業支援装置30を携帯して移動する。この処理は、継続して実行される。
【0052】
この場合、作業支援装置30は、自己位置の推定処理を実行する(ステップS301)。具体的には、位置特定部30cは、逐次撮影された画像において、自己位置推定により、仮想空間内において、視点の配置(カメラ位置や向き)を特定する。
【0053】
次に、作業支援装置30は、視野内の指摘事項の表示処理を実行する(ステップS302)。具体的には、MR処理部31は、表示しているプロジェクトIDに関連付けられた検査結果情報240を、検査情報記憶部24から取得する。そして、MR処理部31は、検査結果情報240の指摘箇所座標情報を用いて、指摘の位置を特定する。次に、MR処理部31は、検査結果情報240の検査項目を取得する。そして、MR処理部31は、指摘の位置に、検査項目を表示したマップピンオブジェクトを、仮想空間において、他の3次元オブジェクトと識別できるように、明示的に表示する。なお、このマップピンオブジェクトは、仮想空間と現実空間の重畳度の影響を受けず、視野内に常に表示される。この場合、距離が遠ければマップピンオブジェクトが小さくなるように表示する。
【0054】
次に、作業支援装置30は、ステップS205と同様に、空間オブジェクトの特定処理を実行する(ステップS303)。
次に、作業支援装置30は、表示対象属性の選択の判定処理を実行する(ステップS304)。具体的には、仮想空間に特定の種類のオブジェクトのみを表示させる場合には、タッチパネルディスプレイ30aにおいて表示対象属性を指定する。
【0055】
表示対象属性が選択された場合(ステップS304において「YES」の場合)、表示対象属性に応じてオブジェクトの特定処理を実行する(ステップS305)。この場合、MR処理部31は、表示モデル記憶部35において、指定された表示対象属性を有するMRモデルを表示対象として特定する。
【0056】
一方、表示対象属性が選択されていない場合(ステップS304において「NO」の場合)、表示対象属性に応じてオブジェクトの特定処理(ステップS305)をスキップして、表示モデル記憶部35において、すべてのMRモデルを表示対象として特定する。
【0057】
そして、作業支援装置30は、ステップS206と同様に、重畳度に応じてオブジェクトの表示処理を実行する(ステップS306)。具体的には、MR処理部31は、表示モデル記憶部35において、指定された表示対象のMRモデルを表示する。
【0058】
(指摘支援処理)
次に、
図8を用いて、指摘支援処理を説明する。
まず、作業支援装置30は、オブジェクト選択処理を実行する(ステップS401)。具体的には、ユーザが、検査対象を確認する場合、タッチパネルディスプレイ30aにMRモデル画像を表示させた状態で、選択するオブジェクトを指で指定する。この場合、MR処理部31は、指定されたオブジェクトのオブジェクトIDを特定する。
【0059】
次に、作業支援装置30は、属性情報の表示処理を実行する(ステップS402)。具体的には、MR処理部31は、表示モデル記憶部23から、指定されたオブジェクトの属性情報を取得し、タッチパネルディスプレイ30aに出力する。
【0060】
例えば、
図16に示すように、表示画面560において、オブジェクト561を指定する場合を想定する。
この場合、
図17に示すように、表示画面560には、属性情報562が表示される。
【0061】
次に、作業支援装置30は、指摘事項の設定処理を実行する(ステップS403)。具体的には、ユーザが指摘事項を入力する場合、タッチパネルディスプレイ30aにおいて、指摘箇所をタッチする。この場合、MR処理部31は、指摘事項入力画面572をタッチパネルディスプレイ30aに出力する。
【0062】
図18に示すように、表示画面570において、タッチ位置にマップピンオブジェクト571を配置し、指摘事項入力画面572をタッチパネルディスプレイ30aに出力する。そして、検査項目が入力された場合、MR処理部31は、マップピンオブジェクト571の近傍に検査項目を表示する。なお、この段階では、まだ、指摘事項は支援サーバ20に登録されていないので、マップピンオブジェクト571には光彩が付加された形態で、第1色(例えば白色等)で表示される。
更に、指摘箇所を、必要に応じて、カメラ30bを用いて撮影する。この場合、作業支援装置30は、指摘箇所座標、カメラ座標を特定する。
図19に示すように、指摘箇所をカメラ30bで撮影した場合には、撮影画像573は指摘事項入力画面572に設定される。
また、MR処理部31は、ユーザの指示に応じて、検査項目における具体的な説明の音声、もしくは環境音を録音し、音声情報として検査情報記憶部24に記録する。
【0063】
次に、作業支援装置30は、サーバ登録処理を実行する(ステップS404)。具体的には、ユーザが指摘事項の入力を完了した場合、指摘事項入力画面572の「記録を保存」ボタンを選択する。この場合、MR処理部31は、指摘事項入力画面572の入力内容を支援サーバ20に送信する。この指摘事項には、タッチ位置に応じた指摘箇所座標、カメラ座標、日時、部屋、部位、検査項目、メモに関するデータを含める。そして、支援サーバ20の管理部212は、指摘IDを付与した検査結果情報240を生成し、検査情報記憶部24に記録する。
【0064】
図20の表示画面580に示すように、登録済みの表示形態(光彩を削除した形態)に変化させたマップピンオブジェクト581が表示される。MR処理部31は、このマップピンオブジェクト581を、指摘項目に応じた第2色(例えば、黄色や赤色)で表示する。
【0065】
(検査支援処理)
次に、
図9を用いて、検査支援処理を説明する。
ここでは、作業支援装置30は、ステップS401と同様に、オブジェクト選択処理を実行する(ステップS501)。
【0066】
次に、作業支援装置30は、撮影画像の取得処理を実行する(ステップS502)。具体的には、検査支援部32は、カメラ30bによって撮影した画像において、選択されたオブジェクトに対応する建築要素画像を抽出する。
【0067】
次に、作業支援装置30は、画像の比較処理を実行する(ステップS503)。具体的には、検査支援部32は、建築要素画像の性状と、選択されたオブジェクトのMRモデル情報(要素モデル、属性)を用いて、両者の性状を比較する。性状としては、例えば、形状、大きさ、材質、色彩等の少なくとも一つを用いる。
【0068】
次に、作業支援装置30は、現場状況の正否評価処理を実行する(ステップS504)。具体的には、検査支援部32は、資機材画像により特定した性状と、MRモデル情報の性状との一致又は不一致に応じて正否を判定する。
【0069】
次に、作業支援装置30は、現場状況の登録処理を実行する(ステップS505)。具体的には、検査支援部32は、支援サーバ20に判定結果を送信する。この判定結果には、選択されたオブジェクトのオブジェクトID、空間オブジェクトのオブジェクトID、判定結果に関するデータを含める。支援サーバ20の管理部212は、受信した判定結果に対して指摘IDを付与する。そして、管理部212は、検査結果情報240を生成し、検査情報記憶部24に記録する。ここで、検査結果情報240の日時データ領域には、現在日時を記録する。部屋データ領域には、空間オブジェクトのオブジェクトIDを記録する。部位データ領域には、選択されたオブジェクトのオブジェクトIDを記録する。検査項目データ領域には、性状相違を示す情報を記録する。メモデータ領域には、性状相違の内容(形状、大きさ、材質、色彩等)を記録する。
【0070】
本実施形態によれば、以下のような効果を得ることができる。
(1)本実施形態では、設計装置10のBIM実行部11は、位置補正マーカの設置処理を実行する(ステップS102)。そして、作業支援装置30は、位置補正マーカ撮影処理(ステップS202)、位置補正マーカのデコード処理(ステップS203)、位置合わせ処理(ステップS204)を実行する。これにより、BIMにより設計されたオブジェクトと、現実空間のオブジェクトとの位置合わせを行なうことができる。
【0071】
(2)本実施形態では、設計装置10のBIM実行部11は、位置補正マーカの設置処理を実行する(ステップS102)。ここでは、位置補正マーカを、現場において、位置決め容易で、配置し易い場所に設定する。これにより、構造物の設計に用いる基準位置を用いて、位置合わせのためのマーカを配置することができる。例えば、通り芯等の基準位置では、現実空間において墨出し(水平位置や中心位置の表示)が行なわれているので、的確に位置補正マーカが付されたシートを配置することができる。
【0072】
(3)本実施形態では、新たなシート511を見つけた場合には、位置補正マーカ552により、作業支援装置30は、位置補正マーカ撮影処理(ステップS202)~位置合わせ処理(ステップS204)を実行する。これにより、自己位置推定により生じた誤差を是正することができる。
【0073】
(4)本実施形態では、作業支援装置30は、視野内の指摘事項の表示処理を実行する(ステップS302)。これにより、MRモデル画像において視認しにくい位置にある指摘事項を容易に把握することができる。
【0074】
(5)本実施形態では、作業支援装置30は、サーバ登録処理を実行する(ステップS404)。これにより、複数の作業支援装置30を用いる場合にも、指摘事項等の情報共有を行なうことができる。
【0075】
(6)本実施形態では、作業支援装置30は、撮影画像の取得処理(ステップS502)、画像の比較処理(ステップS503)、現場状況の正否評価処理(ステップS504)を実行する。これにより、現場において、効率的に検査を行なうことができる。
【0076】
本実施形態は、以下のように変更して実施することができる。本実施形態及び以下の変更例は、技術的に矛盾しない範囲で互いに組み合わせて実施することができる。
・上記実施形態では、建物の建築現場において、BIM画像と現場状況とを比較しながら検査を行なう場合に用いる。本開示の適用対象は、建築現場に限定されるものではない。すなわち、本開示のBIMは、例えば、土木等の建設設計に用いられるCIM(Construction Information Modeling)を含む技術である。
【0077】
・上記実施形態では、設計装置10、支援サーバ20及び作業支援装置30を用いる。ハードウェア構成は、これに限定されるものではない。例えば、設計装置10や作業支援装置30において、BIMモデル情報からMRモデル情報に変換するようにしてもよい。この場合には、変換部211を各端末に設ける。
【0078】
また、検査情報記憶部24を、BIM情報を管理する支援サーバ20とは異なる検査管理サーバに設けてもよい。この場合には、作業支援装置30は、検査結果を検査管理サーバにアップロードする。
【0079】
・上記実施形態では、作業支援装置30として、タッチパネルディスプレイ30aを備えたタブレット端末を用いる。これに代えて、HoloLens(登録商標)等のHMD(Head Mounted Display)を用いてもよい。この場合には、音声認識、使用者の手を利用したハンドジェスチャー等の操作により、入力を行なう。
【0080】
・上記実施形態では、作業支援装置30の位置特定部30cは、自己位置推定により、作業支援装置30の現在地を特定する処理を実行する。作業支援装置30の現在位置の特定方法は、これに限定されるものではない。例えば、GPS(Global Positioning System)を用いてもよい。また、LIDAR(Light Detection and Ranging)技術を用いてもよい。
【0081】
・上記実施形態では、設計装置10のBIM実行部11は、位置補正マーカの設置処理を実行する(ステップS102)。ここでは、位置補正マーカを、例えば、通り芯の交点等、現場において、位置決め容易で、配置し易い場所に設定する。これに代えて、設計装置10が、位置補正マーカを設定するようにしてもよい。例えば、設計装置10に、現場において基準となる部分を認識するためのマーカ位置選択情報を保持させておく。マーカ位置選択情報としては、複数の通り芯の交点等を用いることができる。また、複数の位置補正マーカを配置する場合には、所定間隔毎に、配置位置を特定する。そして、BIM実行部11が、マーカ位置選択情報を用いて、特定した配置位置に位置補正マーカを設定する。この場合、現場の工程に応じて、位置補正マーカを配置する場所を決定するようにしてもよい。例えば、工程に応じて、外部から視認可能なオブジェクトを特定し、このオブジェクトに応じて、位置補正マーカの配置を決定する。
【0082】
また、位置合わせに用いる位置補正マーカも、2次元コード画像に限定されるものではない。固有の識別子として認識できるものであれば、2次元画像だけでなく3次元形状でもよい。この場合も、BIMの建築要素オブジェクトにマーカ属性を付与することで、2次元コード画像と同様に位置合わせが可能となる。例えば、現場において、既に配置されている既設オブジェクトを位置補正マーカとして利用してもよい。既設オブジェクトとしては、早い段階で配置される非常灯等を用いることができる。この場合には、位置特定部30cが、画像認識処理により、既設オブジェクトを認識する。そして、位置特定部30cが、認識したオブジェクト配置及び形状と、BIMモデル情報の要素モデルの配置(形状、大きさ、向き)とを比較して、位置合わせを行なう。
【0083】
・上記実施形態では、位置補正マーカを、床に配置するが、位置補正マーカの配置は、床等の平面に限定されない。例えば、柱の側面に垂直に配置してもよい。床スラブのコンクリートがまだ打設されずに鉄筋だけが組まれているような工程において、位置補正マーカを床スラブ上に配置した場合には、位置補正マーカが歪むことがある。このような施工状況においても、柱の側面は、歪みが少ないため、撮影位置を特定して、位置合わせの誤差を少なくすることができる。
【0084】
・上記実施形態では、作業支援装置30は、表示対象属性の特定処理を実行する(ステップS305)。ここで、MRモデル情報に含まれる工程に応じて、表示対象属性を特定するようにしてもよい。例えば、MRモデル情報の工程実施日に基づいて、現在日時の時点で構築されている建築要素を表示対象属性として特定する。また、次の工程において、構築される建築要素を表示対象として特定してもよい。また、工程ごとに建築要素のプリセットを登録できるようにしておき、プリセットに応じて、表示対象を特定するようにしてもよい。
【0085】
更に、後工程で配置される建築要素により、撮影位置から視認できなくなるオブジェクトについては、後工程においても視認可能なオブジェクトと異なる表示形態(例えば、半透明や点線等)に変更して表示するようにしてもよい。
【0086】
・上記実施形態では、作業支援装置30は、指摘事項の設定処理を実行する(ステップS403)。ここで、指摘事項入力画面の部屋欄に、空間オブジェクトのオブジェクトIDを初期設定するようにしてもよい。
【0087】
・上記実施形態では、作業支援装置30は、画像の比較処理(ステップS503)、現場状況の正否評価処理(ステップS504)を実行する。検査方法は、画像比較に限定されるものではない。例えば、カメラ30bによる撮影画像の画像認識処理を用いてもよい。この場合には、検査支援部32が画像認識処理により、被写体の形状、大きさ、材質を特定する。そして、検査支援部32は、表示モデル記憶部35に記録されたオブジェクトの属性情報と比較して、正否を判定して出力する。
【0088】
・上記実施形態では、作業支援装置30は、画像の比較処理(ステップS503)、現場状況の正否評価処理(ステップS504)を実行する。ここで、正否評価結果に基づいて、MRモデル画像の表示形態を変更するようにしてもよい。例えば、MRモデル画像の配色を変更する。具体的には、検査支援部32は、MRモデル画像と構造物画像との差異を領域毎に算出し、差異が大きい領域については、濃いはっきりとした配色でMRモデル画像を表示する。一方、MRモデル画像と構造物画像との差異が小さい領域については、MR処理部31は、BIM画像の透明度を高くして表示する。
【0089】
・上記実施形態では、作業支援装置30は、視野内の指摘事項の表示処理を実行する(ステップS302)。ここでは、MR処理部31は、仮想空間において、指摘の位置に、検査項目を表示したマップピンオブジェクトを表示する。指摘事項の表示は、マップピンオブジェクトを用いる場合に限定されない。例えば、建築要素オブジェクトに指摘事項を表示するようにしてもよい。
【0090】
次に、上記実施形態及び別例から把握できる技術的思想について以下に追記する。
(a)BIMを用いて、仮想空間に配置されたオブジェクトの3次元モデルを記録する表示モデル記憶部に接続された作業支援装置であって、
前記作業支援装置が、
現実空間において、カメラにより撮影された位置補正マーカと、前記BIMの前記仮想空間に配置された位置補正マーカの3次元モデルとの位置関係により、前記現実空間と前記仮想空間との位置合わせを行ない、
前記仮想空間に配置されたオブジェクトを、前記カメラによる撮影画像に重畳した複合現実画像を出力するMR処理部を備えることを特徴とする作業支援装置。
(b)前記MR処理部が、
現在位置を特定し、
前記現在地が含まれる空間オブジェクトを特定し、
前記空間オブジェクトの属性情報を出力することを特徴とする(a)に記載の作業支援装置。
【0091】
(c)前記MR処理部が、
前記仮想空間に配置されたオブジェクトの属性情報において工程を特定し、
前記工程を用いて、前記複合現実画像に出力するオブジェクトを特定することを特徴とする請求項(a)又は(b)に記載の作業支援装置。
【0092】
(d)前記MR処理部が、前記撮影画像に入力された指摘事項を示すオブジェクトを生成し、前記仮想空間内に表示することを特徴とする請求項(a)~(c)の何れか一項に記載の作業支援装置。
【0093】
(e)前記複合現実画像を用いて入力された指摘事項を、前記仮想空間内の位置に関連付けて記録する検査支援部を更に備えることを特徴とする請求項(a)~(d)の何れか一項に記載の作業支援装置。
(f)前記検査支援部が、前記撮影画像に含まれるオブジェクトの性状と、仮想空間に配置されたオブジェクトの性状とを比較し、比較結果を出力することを特徴とする(e)に記載の作業支援装置。
【0094】
(g)位置補正マーカとして、仮想空間内において、マーカ位置選択情報を用いて選択したオブジェクト又は前記オブジェクトの基準線を設定することを特徴とする(a)~(f)の何れか一項に記載の作業支援装置。
【符号の説明】
【0095】
A1…作業支援システム、10…設計装置、11…BIM実行部、20…支援サーバ、21…制御部、211…変換部、212…管理部、22…BIM情報記憶部、23…表示モデル記憶部、24…検査情報記憶部、30…作業支援装置、30a…タッチパネルディスプレイ、30b…カメラ、30c…位置特定部、31…MR処理部、32…検査支援部、35…表示モデル記憶部