(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024123457
(43)【公開日】2024-09-12
(54)【発明の名称】拡張現実表示システム及び方法
(51)【国際特許分類】
G06T 19/00 20110101AFI20240905BHJP
G06Q 50/08 20120101ALI20240905BHJP
【FI】
G06T19/00 A
G06Q50/08
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2023030890
(22)【出願日】2023-03-01
(71)【出願人】
【識別番号】000166432
【氏名又は名称】戸田建設株式会社
(74)【代理人】
【識別番号】110001014
【氏名又は名称】弁理士法人東京アルパ特許事務所
(72)【発明者】
【氏名】安武 祐太
(72)【発明者】
【氏名】八代 成美
【テーマコード(参考)】
5B050
5L049
5L050
【Fターム(参考)】
5B050AA10
5B050BA09
5B050CA07
5B050DA04
5B050EA05
5B050EA07
5B050EA09
5B050EA19
5B050EA27
5B050FA02
5B050FA05
5B050FA14
5L049CC07
5L050CC07
(57)【要約】
【課題】位置表示片を正確な位置に設置する。
【解決手段】目視表示部32は、表示片作成部12が作成する位置表示片13が設置されるべき位置を表す情報を作業者が目視によって読み取り可能な形式で表示する。目視表示部32は、建築物の通り芯、床面、壁面などの基準面からの距離を表す数値を含んでもよく、位置表示片13を設置すべき面を表す情報を含んでもよく、位置表示片13を設置すべき面を近傍から見た投影画像を含んでもよい。位置表示片13は、目視表示部32を含んでもよく、位置表示片13が設置されるべき位置を表す情報を位置推定部15が取得可能な形式で表示する機械表示部31を含んでもよい。
【選択図】
図1
【特許請求の範囲】
【請求項1】
建築物を表す三次元モデルデータを記憶するモデル記憶部と、
撮像装置を有する携帯端末装置の前記建築物に対する位置及び向きを推定する位置推定部と、
前記モデル記憶部が記憶した三次元モデルデータと、前記位置推定部が推定した位置及び向きとに基づいて、前記携帯端末装置の前記撮像装置から見た前記建築物の投影画像を生成し、表示装置に表示するモデル表示部と、
前記建築物の所定の位置に設置され前記所定の位置を表す情報を表示する位置表示片を作成する表示片作成部と、
前記位置表示片が設置されるべき位置を表す情報を作業者が目視によって読み取り可能な形式で表示する目視表示部と
を備え、
前記位置推定部は、前記撮像装置が撮影した画像から前記位置表示片が表示した情報を取得し、取得した情報に基づいて、前記携帯端末装置の前記建築物に対する位置及び向きを推定する、拡張現実表示システム。
【請求項2】
前記目視表示部は、基準面からの距離を表す数値を含む、
請求項1の拡張現実表示システム。
【請求項3】
前記基準面は、前記建築物の通り芯、床面及び壁面のうち少なくともいずれかである、
請求項2の拡張現実表示システム。
【請求項4】
前記表示片作成部が作成する前記位置表示片は、前記目視表示部を含む、
請求項1乃至3いずれかの拡張現実表示システム。
【請求項5】
前記表示片作成部が作成する前記位置表示片は、
前記位置表示片が設置されるべき位置を表す情報を前記位置推定部が取得可能な形式で表示する機械表示部を有する、
請求項1乃至3いずれかの拡張現実表示システム。
【請求項6】
前記目視表示部は、前記位置表示片を設置すべき面を表す情報を含む、
請求項1乃至3いずれかの拡張現実表示システム。
【請求項7】
前記位置表示片を設置すべき面を表す情報は、前記位置表示片を設置すべき面を近傍から見た投影画像を含む、
請求項6の拡張現実表示システム。
【請求項8】
前記表示片作成部が作成する前記位置表示片は、前記所定の位置に位置合わせすべき前記位置表示片の上の位置を示す目印を含む、
請求項1乃至3いずれかの拡張現実表示システム。
【請求項9】
前記表示片作成部は、
前記モデル記憶部が記憶した三次元モデルデータに基づいて、前記建築物の投影画像を生成して表示する作成モデル表示部と、
前記作成モデル表示部が表示した投影画像の上で作業者が指定した前記位置表示片を設置する位置を入力する設置位置入力部と、
前記設置位置入力部が入力した位置を表す情報を表示する位置表示片を作成する作成部と
を有する、請求項1乃至3いずれかの拡張現実表示システム。
【請求項10】
前記設置位置入力部は、基準面からの距離に基づいて、前記位置表示片を設置する位置を入力する、
請求項9の拡張現実表示システム。
【請求項11】
請求項1乃至3いずれかの拡張現実表示システムを使用した拡張現実表示方法において、
前記表示片作成部を用いて、位置表示片を作成し、
前記表示片作成部を用いて作成された前記位置表示片を、前記目視表示部に表示された情報が表す位置に配置し、
前記目視表示部に表示された情報が表す位置に配置された前記位置表示片を、前記撮像装置で撮影することにより、前記位置推定部が前記携帯端末装置の前記建築物に対する位置及び向きを推定する、
拡張現実表示方法。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、拡張現実を表示するシステム及び方法に関する。
【背景技術】
【0002】
特許文献1は、作業現場で、効率的かつ的確な確認作業を支援するための作業支援システム及び作業支援方法を開示している。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1の作業支援システムでは、作業支援装置が、現実空間において、カメラにより撮影された第2位置補正マーカと、仮想空間に配置された第1位置補正マーカとの位置関係により、現実空間と仮想空間との位置合わせを行ない、仮想空間に配置された要素の3次元モデルを、カメラによる撮影画像に重畳した複合現実画像を出力するので、第2位置補正マーカが現実空間に配置された位置が、第1位置補正マーカが仮想空間に配置された位置からずれていると、正しく位置合わせをすることができない。
このため、位置補正マーカを配置する位置は、例えば通り芯の交点など、現場において位置決めが容易な位置に限られる。
この発明は、例えばこのような課題を解決することを目的とする。
【課題を解決するための手段】
【0005】
拡張現実表示システムは、建築物を表す三次元モデルデータを記憶するモデル記憶部と、撮像装置と表示装置とを有する携帯端末装置の前記建築物に対する位置及び向きを推定する位置推定部と、前記モデル記憶部が記憶した三次元モデルデータと、前記位置推定部が推定した位置及び向きとに基づいて、前記携帯端末装置の前記撮像装置から見た前記建築物の投影画像を生成し、前記携帯端末装置の前記表示装置に表示するモデル表示部と、前記建築物の所定の位置に設置され前記所定の位置を表す情報を表示する位置表示片を作成する表示片作成部と、前記位置表示片が設置されるべき位置を表す情報を作業者が目視によって読み取り可能な形式で表示する目視表示部とを備える。
前記位置推定部は、前記撮像装置が撮影した画像から前記位置表示片が表示した情報を取得し、取得した情報に基づいて、前記携帯端末装置の前記建築物に対する位置及び向きを推定する。
【発明の効果】
【0006】
前記拡張現実表示システムによれば、位置表示片の目視表示部に表示された情報に基づいて作業者が位置表示片を正確な位置に設置することができるので、これに基づいて携帯端末装置の位置及び向きを正確に推定することができる。また、位置表示片を設置する位置の自由度が高くなるので、作業の進捗によって隠れてしまう位置を避けることができ、位置表示片を設置し直す手間を省くことができる。
【図面の簡単な説明】
【0007】
【
図1】拡張現実表示システムの一例を示すブロック図。
【発明を実施するための形態】
【0008】
図1を参照して、拡張現実表示システム10について説明する。
拡張現実表示システム10は、例えば、建築物の建築現場に持ち込んだ携帯端末装置14の撮像装置41で建築中の建築物を撮影し、その建築物の建築中や完成後の状態を表す三次元モデルデータから生成した透視投影法などによる仮想的な投影画像を、撮影した建築物の実際の画像に重ねてリアルタイムで携帯端末装置14の表示装置42に表示する。これにより、これから実施する作業の手順を確認したり、完了した作業が正しく実施されたかを確認したりすることができる。
【0009】
拡張現実表示システム10は、例えば、モデル記憶部11と、表示片作成部12と、位置推定部15と、モデル表示部16とを有する。これらの機能ブロックは、例えばコンピュータがコンピュータプログラムを実行することにより実現される。なお、これらの機能ブロックは、携帯端末装置14のハードウェアを用いて実現してもよいし、携帯端末装置14と通信可能なサーバ装置など、携帯端末装置14とは異なるハードウェアを用いて実現してもよい。
【0010】
モデル記憶部11は、建築物を表す三次元モデルデータを記憶する。モデル記憶部11が記憶する三次元モデルデータは、例えば、建築物の建築情報モデル(BIM)データである。あるいは、BIMデータを変換したポリゴンデータなどであってもよい。
【0011】
表示片作成部12は、位置表示片13を作成する。位置表示片13は、例えばシールなどの紙片であり、例えば建築物の床や柱、壁などに貼付されることにより、建築物のなかに設置される。位置表示片13は、位置表示片13自身が設置される位置を表す情報を表示する。表示片作成部12は、例えば、白紙の紙片の表面にプリンタなどの印刷装置を用いてこのような情報を印刷することにより、位置表示片13を作成する。
【0012】
表示片作成部12は、例えば、作成モデル表示部21と、設置位置入力部22と、作成部23とを有する。
作成モデル表示部21は、モデル記憶部11が記憶した三次元モデルデータに基づいて、建築物の透視投影法や平行投影法などによる投影画像を生成し、表示装置に表示する。作成モデル表示部21が生成した投影画像を表示する表示装置は、携帯端末装置14の表示装置42であってもよいし、パソコンなど携帯端末装置14とは異なる装置に接続された表示装置であってもよい。
作成モデル表示部21が生成する投影画像の視点は、作業者の操作により、建築物のなかを自由に移動できる。
設置位置入力部22は、位置表示片13を設置する位置を入力する。例えば、作成モデル表示部21が表示装置に表示した投影画像上で、位置表示片13を設置したい位置に作業者がマウスカーソルを合わせてクリックすることにより、位置表示片13を設置したい位置を入力する。例えば、設置位置入力部22は、クリックした位置に表示されているオブジェクトの表面に位置表示片13を設置するものとして、その表面上のクリックした位置を、位置表示片13を設置する位置として取得する。例えば、クリックした位置に表示されているのが床面であれば、その床面上のクリックした位置を取得し、クリックした位置に表示されているのが壁面であれば、その壁面上のクリックした位置を取得する。
作成部23は、設置位置入力部22が入力した位置を表す情報を表示する位置表示片13を作成する。
【0013】
表示片作成部12によって作成される位置表示片13は、機械表示部31と、目視表示部32とを有する。
機械表示部31は、携帯端末装置14の撮像装置41が撮影することにより、そこに書き込まれた情報を位置推定部15が読み取ることが可能な形式で、位置表示片13が配置される位置を表す情報を表示する。機械表示部31が表示する情報は、例えば、モデル記憶部11が記憶した三次元モデルデータにおける原点を基準とする三次元座標や、位置表示片13が設置される面の法線ベクトルなどを含む。
目視表示部32は、作業者が目視することにより読み取ることが可能な形式で、位置表示片13が配置される位置を表す情報を表示する。目視表示部32が表示する情報は、例えば、位置表示片13を貼付すべき面を表す情報と、その面のどこに位置表示片13を貼付すべきかを表す情報とを含む。
【0014】
図2を参照して、位置表示片13の一例について更に詳しく説明する。
位置表示片13は、上述した機械表示部31及び目視表示部32に加えて、更に、目印33及び34を含む。
目印33は、横方向に延びる直線である。目印34は、縦方向に延びる直線である。位置表示片13は、目印33と目印34が交わる交点(この例では、機械表示部31の中心)が、この位置表示片13が表示する情報によって表される位置になるように位置合わせして配置される。
機械表示部31は、例えば二次元バーコードである。
【0015】
目視表示部32は、例えば、投影画像321と、平面
図322とを含む。
投影画像321は、位置表示片13を設置すべき位置を近傍から見たものであり、モデル記憶部11が記憶した三次元モデルと、設置位置入力部22が入力した位置とに基づいて、作成部23が透視投影法や平行投影法などによって生成した画像である。
投影画像321のなかに記載されている記号「X7」「Y7」「B2FL」は、位置表示片13を設置すべき位置の基準となる基準面を表している。ここで、「X7」「Y7」は、建築物の通り芯を表し、「B2FL」は、地下2階のフロアレベルを表している。また、数値「510」「1,000」は、位置表示片13を設置すべき位置の基準面からの距離を表している。
すなわち、この例において、位置表示片13を貼付すべき面は、地下2階の通り芯X7と通り芯Y7との交点に設けられた柱の側面であって、通り芯X7から510mmの位置にある側面である。なお、投影画像321を見ればどちら側の面に貼付すればよいかが明白な場合は、通り芯X7からの距離を記載しなくてもよい。
また、その側面上において位置表示片13を貼付すべき位置は、通り芯Y7上であって、地下2階のフロアレベルから1000mmの位置である。この例では、通り芯Y7からの距離を記載しないことにより、位置表示片13を貼付すべき位置の通り芯Y7からの距離が0であることを表しているが、明示的に記載してもよい。
平面
図322は、投影画像321が表す位置が、フロア全体のなかのどのあたりにあるかを表している。
【0016】
このように、投影画像321とそのなかに記載された記号及び数値とによって、位置表示片13を設置すべき位置を表示するので、位置表示片13を設置する作業者が、位置表示片13を設置すべき位置を容易に理解することができ、誤解などにより間違った位置に位置表示片13が設置されるのを防ぐことができる。
【0017】
なお、この例では、通り芯を基準面としてそこからの距離を表示しているが、位置表示片13を設置する位置が通り芯から遠い位置であったり、通り芯との間に壁などの障害物があったりする場合は、例えば最寄りの壁の表面など他の垂直面を基準面としてそこからの距離を表示してもよい。高さ方向についても同様に、フロアレベルを基準面とするのではなく、例えばスラブの上面など他の水平面を基準面としてもよい。
【0018】
位置表示片13の設置作業は、例えば、以下のようにして実施される。
まず、作業者は、位置表示片13を設置すべきフロアに向かい、平面
図322を見て、位置表示片13を設置すべき位置を探す。
位置表示片13を設置すべき位置の近くに着いたのち、作業者は、投影画像321を見て、位置表示片13を設置すべき面を特定する。
建築現場において、通り芯の位置には、墨出しなどによって印が付けられている。作業者は、この印を基準にするなどして、メジャーなどの測定装置を用いて、通り芯やフロアレベルなどの基準面からの距離を測定し、位置表示片13を設置すべき位置を決定する。
最後に、決定した位置に、目印33と目印34との交点を位置合わせして、位置表示片13を壁面に貼付するなどして設置する。
なお、工事の進捗によっては、位置表示片13を設置すべき面がまだ存在しない場合もある。そのような場合は、位置表示片13を設置すべき位置に適当な支持部材を配置し、そこに位置表示片13を設置してもよい。
【0019】
図1に戻り、拡張現実表示システム10の説明を続ける。
携帯端末装置14は、例えばタブレット端末やVRゴーグルなどであり、少なくとも、撮像装置41と、表示装置42とを有する。上述したとおり、携帯端末装置14は、モデル記憶部11や表示片作成部12や位置推定部15やモデル表示部16を有してもよい。
撮像装置41は、携帯端末装置14の周囲を撮影する。位置表示片13が設置された建築物のなかに携帯端末装置14を持ち込んで撮像装置41で撮影することにより、撮像装置41が撮影した画像に位置表示片13が含まれる場合がある。
表示装置42は、画像を表示する。撮像装置41が撮影した画像に重ねてモデル表示部16が生成した画像をリアルタイムで表示することにより、表示装置42に拡張現実画像が表示される。
【0020】
位置推定部15は、携帯端末装置14の位置及び向きを推定する。例えば、撮像装置41が撮影した画像に写っている位置表示片13から得られる情報を用いて、携帯端末装置14の位置及び向きを推定する。
例えば、位置推定部15は、撮像装置41が撮影した画像を解析して、機械表示部31が表示している情報(例えば、位置表示片13が設置されている位置の三次元座標や、位置表示片13が設置されている面の法線ベクトルなど)を取得する。
そして、位置推定部15は、撮像装置41が撮影した画像に写っている位置表示片13の位置(例えば、機械表示部31の中心位置)や向きが、取得した情報が表す位置や向きに一致するよう、携帯端末装置14の位置及び向きを推定する。
その後、位置推定部15は、例えば携帯端末装置14が内蔵している加速度センサや角速度センサが検知した情報を用いて、携帯端末装置14の位置や向きの変化を把握し、推定した携帯端末装置14の位置及び向きを更新する。
【0021】
モデル表示部16は、モデル記憶部11が記憶した三次元モデルデータと、位置推定部15が推定した携帯端末装置14の位置及び向きとに基づいて、携帯端末装置14の撮像装置41から見た建築物の投影画像を生成し、生成した投影画像を携帯端末装置14の表示装置42に表示させる。
【0022】
以上のように、位置表示片13が目視表示部32を有し、作業者が目視表示部32に表示された情報に基づいて位置表示片13を設置するので、位置表示片13を正確な位置に設置することができる。
位置表示片13を設置する位置に対する制約が緩和されるので、後の工程で隠れてしまう位置を避けて位置表示片13を設置することができ、作業の手間を削減することができる。
目視表示部32に表示される情報が、例えば最寄りの通り芯や床面、壁面などの基準面からの距離を含むので、現場で測定することにより、位置表示片13を正確な位置に容易に設置することができる。
目視表示部32に表示される情報が、位置表示片13を設置すべき面を表す情報を含むので、位置表示片13を正確な位置に容易に設置することができる。
これらの情報は、単なる文字情報として表示してもよい。しかし、位置表示片13を設置すべき位置を近傍から見た投影画像321のなかに表示すれば、作業者が容易に理解でき、誤解によって誤った位置に位置表示片13が設置されるのを防ぐことができるので好ましい。これを文字情報と併用すれば、更にわかりやすくなるので好ましい。
位置表示片13が位置合わせのための目印33及び34を含むので、位置表示片13を正確な位置に容易に設置することができる。
【0023】
撮像装置41による位置表示片13の撮影は、作業者が意図的に実行したものであってもよいし、作業中に偶然撮影されたものであってもよい。例えば、作業開始時や、現実の画像と拡張現実画像との間のずれが気になった時点で、初期設定処理を開始し、最寄りに設置された位置表示片13を探して撮影して、位置合わせを実施してもよい。また、撮像装置41が撮影した画像に位置表示片13が写り込むごとに、位置合わせを実施してもよい。
【0024】
表示片作成部12は、作成モデル表示部21が生成し表示した投影画像ではなく、モデル表示部16が生成して携帯端末装置14の表示装置42に表示した投影画像上で、位置表示片13を設置すべき位置を設置位置入力部22が入力し、その場で、位置表示片13を作成してもよい。
加速度センサや角速度センサによる携帯端末装置14の位置及び向きの推定は、移動により誤差が累積していくので、位置表示片13は、所定の間隔で複数設けることが望ましい。例えば、5m移動するごとに誤差が10mm発生する場合、誤差を40mm以内に抑えるには、すべての地点から20m以内に必ず位置表示片13が1つ以上存在する必要がある。
そこで、例えば、表示片作成部12が位置表示片13を作成した位置を記憶しておく設置位置記憶部を設け、作成モデル表示部21が表示している投影画像の視点から所定の距離(例えば20m)の範囲内に、位置表示片13を作成した位置が存在しない場合、そのあたりに位置表示片13を設置すべき旨を警告してもよい。
また、設置位置記憶部が記憶した位置に基づいて、携帯端末装置14がある位置の近くに設置された位置表示片13の位置への案内を、表示装置42に表示する表示片案内部を設けてもよい。これにより、作業者が位置表示片13を探すのを容易にすることができる。
表示片作成部12が作成する位置表示片13は、紙片ではなく、機械表示部31や目視表示部32を表示した電子ペーパーなどの電子端末装置であってもよい。
目視表示部32は、表示片作成部12が作成する位置表示片13に含まれるのではなく、位置表示片13から独立していてもよい。例えば、位置表示片13とは異なる紙片に目視表示部32を印刷してもよいし、タブレットなどの電子端末装置に表示してもよい。
【0025】
以上説明した実施形態は、本発明の理解を容易にするための一例である。本発明は、これに限定されるものではなく、添付の特許請求の範囲によって定義される範囲から逸脱することなく様々に修正し、変更し、追加し、又は除去したものを含む。これは、以上の説明から当業者に容易に理解することができる。
【0026】
現実空間にAR表示したBIMモデルの位置合わせは、困難である。そのため、位置情報を記録したマーカーを設置する。
BIM上の通り芯をベースとして、位置情報を指定する。具体的には、最寄りの通り芯までの距離を表示する。これにより、マーカーの貼付け位置を可視化する。
BIM上で位置情報を目視で指定して、現場にて大まかな場所に位置情報コードを貼りつけると、貼り付け場所が曖昧になる。そのため、正確なBIM情報出力に弊害がでる。高さ方向での位置指定が曖昧だと、垂直面での正確な読み込みができない。
また、現場のスラブなどの床水平面は、配筋が組まれだすとマーカーが読み込めなくなる場合がある。
位置情報コードを作成する過程で、最寄りの通り芯をベースとした位置指定をする。指定した位置から、最寄りの通り芯までの距離を自動出力する。位置情報コードを設置する位置は、例えばまだ存在していない柱の側面であってもよい。
床面でも、最寄り通り芯からの距離を指定できる。これにより、BIMモデルの正確な位置情報の指定、出力が可能になる。特に柱などの垂直面においても、正確なBIM位置の読み込みが可能になる。
【符号の説明】
【0027】
10 拡張現実表示システム、11 モデル記憶部、12 表示片作成部、13 位置表示片、14 携帯端末装置、15 位置推定部、16 モデル表示部、21 作成モデル表示部、22 設置位置入力部、23 作成部、31 機械表示部、32 目視表示部、321 投影画像、322 平面図、33,34 目印、41 撮像装置、42 表示装置。