(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2024-11-05
(45)【発行日】2024-11-13
(54)【発明の名称】プログラム
(51)【国際特許分類】
G01C 3/06 20060101AFI20241106BHJP
G06F 3/048 20130101ALI20241106BHJP
G06T 19/00 20110101ALI20241106BHJP
【FI】
G01C3/06 120S
G06F3/048
G06T19/00 600
(21)【出願番号】P 2023073977
(22)【出願日】2023-04-28
【審査請求日】2023-07-05
【早期審査対象出願】
【前置審査】
(73)【特許権者】
【識別番号】307042385
【氏名又は名称】ミサワホーム株式会社
(74)【代理人】
【識別番号】100090033
【氏名又は名称】荒船 博司
(72)【発明者】
【氏名】相馬 康幸
(72)【発明者】
【氏名】林 康治
(72)【発明者】
【氏名】小瀧 次郎
(72)【発明者】
【氏名】伊藤 博
【審査官】國田 正久
(56)【参考文献】
【文献】特開2014-155173(JP,A)
【文献】特開2021-064300(JP,A)
【文献】特開2020-132361(JP,A)
【文献】特開2020-197045(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01C 1/00-15/14
G01B 11/00-11/30
G03B 15/00
G06T 3/00-3/60
7/00-7/90
19/00
G06F 3/048
(57)【特許請求の範囲】
【請求項1】
撮像装置によって撮像された映像を入力するとともに、三次元形状計測器によって計測された複数の計測対象点の三次元的な座標値からなる点群データを入力するコンピューターに、
前記三次元形状計測器から入力した点群データの中から、対象面の点群データを抽出して認識する認識処理と、
前記認識処理によって認識された前記対象面の点群データに基づいて、前記撮像装置によって撮像された映像の二次元的なスクリーン座標系に
、真っ直ぐに延びた第1線分に沿ってそれよりも短い複数の第2線分が一定間隔で配列された目盛り画像を射影変換の写像をして、前記撮像装置によって撮像された映像を背景として、前記目盛り画像を前景としてこれらを合成する合成処理と、
入力デバイスからの信号に基づいて、前記第1線分に沿う方向における前記目盛り画像の表示範囲を決定する処理と、を実行させ
、
前記合成処理が、前記撮像装置によって撮像された映像に前記目盛り画像を前記表示範囲で合成する処理を含む
ことを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、プログラムに関する。
【背景技術】
【0002】
特許文献1は、レーザースキャナーによってトンネル内の三次元形状を測量し、管理装置によってレーザースキャナーの測量データに基づいてトンネルの施工を管理するシステムを開示する。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1の技術は、トンネルの内面等の形状を正確に測量するのに適しているが、使用者には高度な測量技術が要求される上、使用目的もトンネルの測量に限られている。
そこで、本発明は上記事情に鑑みてなされたものであり、本発明の目的は、住宅の壁、天井および床などのような対象面を簡易に測量できるようにすることである。
【課題を解決するための手段】
【0005】
以下の括弧書きで示された参照符号は
図1~
図9において参照される。
【0006】
請求項1に係る発明によれば、撮像装置(14)によって撮像された映像を入力するとともに、三次元形状計測器(15)によって計測された複数の計測対象点の三次元的な座標値からなる点群データを入力するコンピューター(11)に、
前記三次元形状計測器(15)から入力した点群データの中から、対象面の点群データを抽出して認識する認識処理と、
前記認識処理によって認識された前記対象面の点群データに基づいて、前記撮像装置(14)によって撮像された映像の二次元的なスクリーン座標系に、真っ直ぐに延びた第1線分に沿ってそれよりも短い複数の第2線分が一定間隔で配列された目盛り画像(23)を射影変換の写像をして、前記撮像装置(14)によって撮像された映像を背景として、前記目盛り画像(23)を前景としてこれらを合成する合成処理と、
入力デバイスからの信号に基づいて、前記第1線分に沿う方向における前記目盛り画像(23)の表示範囲を決定する処理と、を実行させ、
前記合成処理が、前記撮像装置によって撮像された映像に前記目盛り画像(23)を前記表示範囲で合成する処理を含む
ことを特徴とするプログラム(17)が提供される。
【0007】
以上のような請求項1に係る発明によれば、撮像装置(14)に撮像された映像中の対象面は遠近感により実際の形状から歪んでいるところ、目盛り画像(23)が対象面の点群データにも基づいてその映像の二次元なスクリーン座標系に射影変換されるため、目盛り画像(23)も対象面の歪みに合わせて歪む。そのため、対象面に沿う長さ等を目盛り画像(23)から正確に計測することができる。また、使用者にとっては、撮像装置(14)に撮像された映像と目盛り画像(23)との合成映像を見るだけで、対象面を簡易に測量することができる。
以上のような請求項1に係る発明によれば、対象面上の計測対象物の長さに目盛り画像(23)の表示範囲を合わせることができる。
【発明の効果】
【0024】
本発明によれば、使用者にとっては、撮像装置に撮像された映像と目盛り画像との合成映像を見るだけで、対象面を簡易に測量することができる。
【図面の簡単な説明】
【0025】
【
図1】
図1は、計測支援装置の使用状況の一例を示す図である。
【
図3】
図3は、第1の目盛り画像を示した図である。
【
図4】
図4は、第2の目盛り画像を示した図である。
【
図5】
図5は、第3の目盛り画像を示した図である。
【
図6】
図6は、計測支援装置の表示デバイスに表示されるライブビュー画面の一例を示した図である。
【
図7】
図7は、計測支援装置の表示デバイスに表示されるライブビュー画面の一例を示した図である。
【
図8】
図8は、計測支援装置の表示デバイスに表示されるライブビュー画面の一例を示した図である。
【
図9】
図9は、計測支援装置の表示デバイスに表示されるライブビュー画面の一例を示した図である。
【発明を実施するための形態】
【0026】
以下、図面を参照して、実施形態について説明する。実施形態の特徴及び技術的な効果は、以下の詳細な説明及び図面から理解される。ただし、本発明の範囲は、以下に開示された実施形態に限定されない。図面は例示のみのために提供されるため、本発明の範囲は図面の例示に限定されない。
【0027】
以下の説明において、「第1」及び「第2」などのような序数が共通の名称に付されている場合、序数はそれが付された対象を識別する目的でのみ用いられる。序数はそれが付された対象を特定の対象に限定しない上、序数はそれが付された対象の順番、順位、順序、階級、優先及び劣後などを特定しない。
【0028】
<1. 計測支援装置の使用状態>
図1は、計測支援装置10の使用状況の一例を示す図である。
複数のパネル95が立設された状態で部屋91の外周に配列され、これにより部屋91の壁92~94が構成されている。パネル95は例えば石膏ボード、合板又は構造用パネルであり、ここでいう構造用パネルはパネル工法で使用されるものをいう。
図1に示す例では、壁92~94には壁紙が貼り付けられていないが、壁紙が貼り付けられていてもよい。家具96が部屋91内にて壁92に寄って配置されている。
【0029】
使用者90は、計測支援装置10を用いて、部屋91内にて壁92~94に沿う長さなどを計測する。具体的には、使用者が計測支援装置10を壁92~94及び家具96に向けて計測支援装置10によって壁92~94及び家具96を撮影すると、壁92~94及び家具96が写った映像が計測支援装置10に表示される。使用者が映像中の壁92~94の何れかの像を指定すると、目盛りの像が射影変換によって映像中の指定像に合わせて台形型歪みの処理を施された上で、目盛りの像が指定像に重畳表示される。使用者が映像中の目盛りの像を視認して、映像中の指定像に沿った長さなどを実寸で計測することができる。つまり、使用者は、壁92~94の高さ、幅および対角線長などのような実寸長を映像中の目盛り像により計測することができる。また、家具96が壁92に寄っていることから、使用者が映像中の目盛りの像から家具96の高さ及び横幅などを計測することができる。
【0030】
計測支援装置10によって撮影される対象は壁92~94及び家具96に限るものではない。計測する長さは、壁92~94に沿うものに限るものでなく、内壁、外壁、天井及び床等のような平面に沿うものであればよい。
【0031】
<2. 計測支援装置の構成>
図2は、計測支援装置10のブロック図である。
【0032】
計測支援装置10は、携帯電話機、スマートフォン、タブレット型コンピューターシステム、ラップトップ型コンピューターシステム及びデスクトップ型コンピューターシステムなどのようなコンピューターシステムである。
【0033】
計測支援装置10は、コンピューター11、入力デバイス12、表示デバイス13、撮像装置14、三次元形状計測器15及びメモリデバイス16を有する。
【0034】
コンピューター11は、メインボード、1又は複数のハードウェアプロセッサー、GPU(Graphics Processing Unit)及びRAM(Random Access Memory)などを有する。メインボードは、バス、バスコントローラ及びインターフェース回路などを有するとともに、ハードウェアプロセッサー、GPU、RAM、入力デバイス12、表示デバイス13、撮像装置14、三次元形状計測器15及びメモリデバイス16の間で情報を伝送する。ハードウェアプロセッサーは、例えばCPU(Central Processing Unit)であってもよい。ハードウェアプロセッサーは、各種の演算処理を行う。RAMは、ハードウェアプロセッサーによる演算処理に際して、ハードウェアプロセッサーに記憶領域又は作業領域を提供する。GPUは、ハードウェアプロセッサーよりも高速に行える処理(例えば、画像処理及び行列演算処理)をハードウェアプロセッサーの指令の下で行う。
【0035】
入力デバイス12は、キーボード、マウス、タッチパネル、タッチパッド、スタライス、ポインティングデバイス、キー及び押しボタンなどのような入力装置である。入力デバイス12は、使用者が入力デバイス12に対して行った操作の内容に応じた信号をコンピューター11に出力する。コンピューター11は、入力デバイス12から転送された信号に従って、使用者による入力及び指令を認識する。
【0036】
表示デバイス13は、例えば液晶ディスプレイデバイス又は有機ELディスプレイデバイスであってもよい。表示デバイス13は、コンピューター11から入力した映像信号に従った映像を表示する。表示デバイス13の表示画面内の点の位置を座標値で示すための二次元的な座標系のことをスクリーン座標系という。なお、入力デバイス12がタッチパネルである場合、入力デバイス12が表示デバイス13に重ねられている。
【0037】
撮像装置14は、対象物の像を撮像して、対象物の像が写った映像を生成して、その映像の信号をコンピューター11に転送する。撮像装置14はレンズ、撮像素子及び画像処理回路等を有する。レンズは、対象物の像を撮像素子に結像する。撮像素子は、非常に短い周期で対象物の像を次々に撮像して、対象物の像が写った画像を次々に画像処理回路に出力する。画像処理回路は、撮像素子から次々に入力される画像を画像処理することによって、これら画像から所定のフレームレートの映像信号を生成して、映像信号をコンピューター11に出力する。
【0038】
撮像装置14と三次元形状計測器15が互いに固定されている。そのため、撮像装置14に対する三次元形状計測15の相対的な位置は不変である。
【0039】
三次元形状計測器15は、光学式の測域センサであって、LiDAR(Light Detection And Ranging)とも呼ばれる。三次元形状計測器15は、対象物の三次元形状を計測して、対象物の三次元形状を点群データとしてコンピューター11に出力する。
【0040】
具体的には、三次元形状計測器15は、撮像装置14の撮影範囲に向けてレーザービームを投光するとともに、対象物に入射したレーザービームの反射光を受光することによって、三次元形状計測器15から計測対象点までの距離を検出する。計測対象点とは、レーザービームが対象物に入射した位置のことをいう。また、三次元形状計測器15は、レーザービームを2軸回りに偏向させることによって、三次元形状計測器15から計測対象点への方角を直交2軸回りの第1偏角及び第2偏角として検出する。つまり、三次元形状計測器15は、計測対象点の三次元的な位置を極座標系における極座標値、つまり距離、第1偏角及び第2偏角により表現するよう、計測対象点の位置を検出する。三次元形状計測器15は、計測対象点の三次元的な位置を、極座標系から直交座標系に換算してもよい。レーザービームの偏向とは、レーザービームの出射方向を直交2軸回りに変位させることをいう。直交2軸とは、三次元形状計測器15を通って互いに直交する2軸のことをいう。直交2軸は、撮像装置14の光軸に直交する面に沿っていてもよい。
【0041】
三次元形状計測器15は、レーザービームを偏向させながら、非常に短い周期で周期的に計測対象点の位置を計測するため、計測対象点の座標値を次々にコンピューター11に出力する。これら計測対象点の座標値のデータ列のことを点群データという。計測対象点の集合が対象物であり、点群データは対象物の三次元形状を表す。計測対象点の位置を座標値で表すための座標系のことをワールド座標系といい、ワールド座標系の原点は例えば三次元形状計測器15に設定されている。三次元形状計測器15が撮像装置14の撮影範囲の全体を1回走査することを1サイクルという。
【0042】
なお、三次元形状計測器15は、いわゆるステレオカメラであってもよい。ステレオカメラとは、複数のカメラの視差を利用して、これらカメラによって撮影された複数の映像から対象物の三次元形状を計測して、対象物の三次元形状を点群データとしてコンピューター11に出力する。三次元形状計測器15がステレオカメラである場合、撮像装置14が三次元形状計測器15の複数のカメラのうちの1体であってもよい。
【0043】
メモリデバイス16は汎用OS(Operating System)を記憶し、これにより汎用OSが計測支援装置10にインストールされている。汎用OSとは、例えば、Windows(登録商標)、Android(登録商標)、iOS(登録商標)、macOS(登録商標)、Linux(登録商標)又はUnix(登録商標)である。汎用OSが起動されると、コンピューター11が汎用OSを実行する。
【0044】
メモリデバイス16は計測支援プログラム17を記憶する。計測支援プログラム17は汎用OSにインストールされている。計測支援プログラム17は、コンピューター11が汎用OS上で実行可能なアプリケーションプログラムである。
【0045】
メモリデバイス16は目盛り画像21~23を記憶する。第1及び第2の目盛り画像21,22はラスター形式とベクター形式の何れであってもよい。第3の目盛り画像23はベクター形式である。目盛り画像21~23の解像度及び大きさは、目盛り画像21~23がそれらの形状を維持してワールド座標系にマップされた場合にこれら目盛り画像21~23の目盛りによって示される長さがその実寸に等しくなるように設定されている。
【0046】
第1の目盛り画像21はグリッド像である。次の表のように複数種類の第1の目盛り画像21がメモリデバイス16に記憶されている。
【0047】
【0048】
図3は、正方格子模様の第1の目盛り画像21を示す図である。
図3に示すように、グリッド線21aが正方格子を成すように縦横に延びており、グリッド線21aによって囲われた各正方領域21bは透明な背景によって構成されている。縦グリッド模様の第1の目盛り画像21では、グリッド線が互いに平行に縦方向に延びている。横グリッド模様の第1のメモリ画像21では、グリッド線が互いに平行に横方向に延びている。なお、縦方向のことを垂直方向ともいい、横方向のことを水平方向ともいう。
【0049】
図4に示すように、第2の目盛り画像22は、複数の十字マーク22a~22cを規則的に二次元配列した像である。具体的には、複数の第1の十字マーク22aがパネル95と相似形の長方形の2つの長辺に沿って一定間隔で配列され、複数の第2の十字マーク22bが長方形の2つの短辺に沿って一定間隔で配列され、複数の第3の十字マーク22cが長方形の2つの短辺の中点を結ぶ中線に沿って一定間隔で配列されている。これら十字マーク22a~22cは、例えば、パネル95のビス留めの位置を表す。第2の目盛り画像22のうち十字マーク22a~22c以外の領域22dは透明な背景によって構成されている。複数種類の第2の目盛り画像22がメモリデバイス16に記憶されている。具体的には、標準天井パネル用、準耐火天井パネル用及び壁パネル用の第2の目盛り画像22が目盛りデバイス16に記憶されている。例えば複数の十字マーク22a~22cの間隔及び配置が種類ごとに異なっている。
【0050】
図5に示すように、第3の目盛り画像23は、ルーラーの目盛りを描画した像である。具体的には、長い線分23aが縦方向に真っ直ぐ延びており、複数の線分23bが線分23aに沿って一定間隔で縦方向に配列されている。線分23bは長いものと短いものに分類され、長さを表す数字23cが長い線分23bに付されている。第3の目盛り画像23がベクター形式であるため、第3の目盛り画像23が劣化されることなく線分23a及び線分23bの太さを変更できるととともに、線分23a、線分23b及び数字23cの表示・非表示を選択できる。
【0051】
次の表のように複数種類の第3の目盛り画像23がメモリデバイス16に記憶されている。
【0052】
【0053】
なお、計測支援装置10が持ち運び可能なスマートフォン又はタブレット型コンピューターシステムであることが好ましい。この場合、入力デバイス12がタッチパネルであり、コンピューター11、入力デバイス12、表示デバイス13、撮像装置14、三次元形状計測器15及びメモリデバイス16が薄い筐体に収容され、入力デバイス12が表示デバイス13に重ねられて、入力デバイス12及び表示デバイス13が筐体のおもて側の透明な面に臨み、撮像装置14及び三次元形状計測器15が裏側の面の透明な窓に臨んで互いに近接配置されている。この場合、使用者が計測支援装置10の筐体のおもて側の面を自身に向けて、筐体の裏側の面を対象物に向けて、計測支援装置10により対象物を撮影する。
【0054】
<3. 計測支援プログラム>
以下に、計測支援プログラム17がコンピューター11に実行させる処理の流れについて説明する。
【0055】
(1) 計測支援プログラムの起動
まず、使用者が入力デバイス12を操作することによって計測支援プログラム17の起動をコンピューター11に指令すると、コンピューター11がその旨を認識して、計測支援プログラム17の実行を開始する。
【0056】
(2) 三次元形状計測器及び撮像装置の起動
その後、コンピューター11が三次元形状計測器15を起動する。そうすると、三次元形状計測器15が撮像装置14の視野内の対象物の形状を継続的に計測して、点群データを継続的にコンピューター11に出力する。
【0057】
コンピューター11は、三次元形状計測器15の起動と同時に、撮像装置14を起動する。そうすると、撮像装置14が視野内の像を継続的に撮像して、撮像により得た映像をコンピューター11に継続的に出力する。
【0058】
使用者が入力デバイス12を操作することによって計測支援プログラム17の停止をコンピューター11に指令するまでは、コンピューター11が撮像装置14及び三次元形状計測器15の動作を継続させる。
【0059】
(3) ライブビュー画面の表示
三次元形状計測器15及び撮像装置14の動作中、コンピューター11は、撮像装置14によって撮像される映像を背景として、オブジェクトを前景として、オブジェクトを映像に配置してこれらを合成する。コンピューター11は、合成後の映像の信号を表示デバイス13に出力することによって、ライブビュー画面を表示デバイス13に表示させる。
図6は、ライブビュー画面の一例を示した図である。
図6に示すように、撮像装置14によって撮像される映像が背景として表示デバイス13のライブビュー画面にリアルタイムで表示され、オブジェクト101~108が前景として背景に重ねられて表示デバイス13のライブビュー画面に表示される。オブジェクト101~105が寄せ集められてライブビュー画面の右下に配置され、オブジェクト106,160が画面の中央に配置され、オブジェクト107がライブビュー画面の右に配置され、オブジェクト108はライブビュー画面の上に配置されている。
【0060】
オブジェクト101は、第1モードの動作をコンピューター11に指令するための移行ボタンなどのようなGUI(Graphical User Interface)要素である。
オブジェクト102は、第2モードの動作をコンピューター11に指令するための移行ボタンなどのようなGUI要素である。
オブジェクト103は、第3モードの動作をコンピューター11に指令するための移行ボタンなどのようなGUI要素である。
オブジェクト104は、第4モードの動作をコンピューター11に指令するための移行ボタンなどのようなGUI要素である。
オブジェクト105は、オブジェクト101~104の何れかの選択の決定をコンピューター11に認識させるための決定ボタンなどのようなGUI要素である。
オブジェクト101~105が寄せ集められてライブビュー画面の右下に配置されているため、使用者が両手で計測支援装置10を持って、オブジェクト101~105を選択・決定するよう入力デバイス12を操作しやすい。例えば入力デバイス12が表示デバイス13に重ねられたタッチパネルである場合、オブジェクト101~105を右手の親指でタップしやすい。
【0061】
オブジェクト106は、矩形状の枠線である。オブジェクト160は、オブジェクト106よりも狭い面積の丸印である。オブジェクト160は、点群データの中から、オブジェクト160に合わせられた面をコンピューター11の認識対象に定めるための目標である。オブジェクト106は、認識対象に定められる面を目安とするためのガイドである。コンピューター11が対象面を認識する処理については後に詳細に説明する。
オブジェクト107は、コンピューター11による対象面の認識をキャンセル又はリセットさせるためのキャンセルボタンなどのようなGUI要素である。
オブジェクト108は、コンピューター11によって認識された対象面から三次元形状計測器15までの距離を示すテキストである。コンピューター11が距離を算出する処理については後に詳細に説明する。
【0062】
(4) 対象面の認識及び距離の算出
使用者は、ライブビュー画面を見ながら、撮像装置14及び三次元形状計測器15を壁92~94、他の壁、床、天井、外壁、柱の表面、梁の表面、ドア面及び家具5の表面などのような対象面に向けて、オブジェクト160をライブビュー画面中の対象面の像に合わせ、その後、撮像装置14及び三次元形状計測器15の位置及び向きをできる限り固定する。そうすると、コンピューター11は、三次元形状計測器15から入力した点群データの中から、対象面の点群データを認識する。例えば、コンピューター11は、点群データについて三次元特徴量を算出し、三次元特徴量を利用して、三次元形状計測器15から入力した点群データの中から平坦な対象面の点群データを抽出して認識する。
【0063】
次に、コンピューター11が、認識した対象面の点群データに基づいて、三次元形状計測器15から対象面までの距離を算出する。例えば、次の通りである。コンピューター11は、ワールド座標系における三次元形状計測器15の位置つまり原点を通って撮像装置14の光軸に平行な直線から、対象面の点群データの各計測対象点までの距離を算出する。次に、コンピューター11は、各計測対象点までの距離を比較して、対象面の点群データのうち、撮像装置14の光軸に平行な直線に最も近い計測対象点を特定する。次に、コンピューター11が最も近い計測対象点から原点までの距離を算出し、その距離が三次元形状計測器15から対象面までの距離に相当する。
【0064】
次に、コンピューター11は、算出距離に従って、ライブビュー画面におけるオブジェクト108を、算出距離を示すテキストに更新する。
【0065】
コンピューター11は、オブジェクト108の更新と合わせて、ライブビュー画面における対象面の像に半透明の色を付す。具体的に次に通りである。まず、コンピューター11は、対象面の点群データをワールド座標系からスクリーン座標系に中心投影による写像をする。つまり、コンピューター11は、対象面の点群データの各計測対象点の座標値をワールド座標系からスクリーン座標系に変換する。なお、撮像装置14に対する三次元形状計測15の相対的な位置が不変であるため、座標値をワールド座標系からスクリーン座標系に変換するための中心投影用座標変換マトリクスの各要素が定数としてプログラム17に予め設定されてもよい。なお、中心投影のことを透視投影ともいう。
【0066】
次に、コンピューター11は、エッジ抽出処理等によって、スクリーン座標系において対象面の点群データが占める閉領域を特定する。次に、コンピューター11は、閉領域に色(つまり、RGB値)及び透過度を付す。透過度はアルファ値ともいう。次に、コンピューター11は、ライブビュー画面における撮像装置14の撮影映像に、色及び透過度が付された閉領域をアルファブレンドする。これにより、半透明又は不透明な閉領域が撮像装置14の撮影映像の中の対象面の像に合成されることから、対象面の像が閉領域の色を合成されてライブビュー画面に表示される。
図1及び
図6に示す例では、壁94が対象面であり、壁94の像110が閉領域の色を合成され、
図6に示す模様が閉領域の色を表す。
【0067】
ライブビュー画面において、オブジェクト108が更新され、対象面の像が半透明な色を付されることによって、使用者がコンピューター11による対象面の認識及び距離の算出を視覚的に把握できる。
【0068】
コンピューター11が三次元形状計測器15から1サイクル分の点群データを入力するたびに、コンピューター11が上述のような一連の処理を行う。そのため、手ぶれ等によって撮像装置14及び三次元形状計測器15が位置ずれしても、オブジェクト108の表示が三次元形状計測器15から対象面までの距離の変化に従ってリアルタイムに更新される上、閉領域の形状及び位置が三次元形状計測器15に対する対象面の相対的な位置の変化に従ってリアルタイムに更新される。なお、コンピューター11が1サイクル分の点群データの中から対象面の点群データを最初に認識した後は、コンピューター11がトラッキング処理を行うことによって、その後の各サイクル分の点群データの中から、最初に認識の対象面にマッチングする対象面の点群データを抽出して認識してもよい。この場合には、手ぶれ等によって撮像装置14及び三次元形状計測器15が位置ずれしても、対象面がコンピューター11によって追尾される。もちろん、コンピューター11が1サイクル分の点群データの中から対象面の点群データを最初に認識した後も、コンピューター11がトラックキング処理を行わず、ライブビュー画面の中央にオブジェクト160に合わせられた面がコンピューター11によって認識対象に定められてもよい。
【0069】
対象面の認識及び距離の算出の後、使用者が入力デバイス12を操作することによってオブジェクト107を選択すると、コンピューター11がその旨を認識する。そうすると、コンピューター11が、前述のアルファブレンドを解除するとともに、ライブビュー画面におけるオブジェクト108を、未知を示すテキストに更新する。更に、コンピューター11が、認識した対象面及び算出した距離をリセット又はキャンセルして、対象面の認識及び距離の算出を再度開始する。
【0070】
コンピューター11が上述のように対象面を認識するまでは、使用者が入力デバイス12を操作することによってオブジェクト105を選択しても、コンピューター11がオブジェクト105の選択を無視する。一方、使用者が入力デバイス12を操作することによってオブジェクト101~104の何れか1つを選択した上で、オブジェクト105を選択して決定すると、コンピューター11がその旨を認識する。使用者がオブジェクト101を選択した場合には、オブジェクト105の選択及び決定はコンピューター11に第1モードの動作を開始させる。使用者がオブジェクト102を選択した場合には、オブジェクト105の選択及び決定はコンピューター11に第2モードの動作を開始させる。使用者がオブジェクト103を選択した場合には、オブジェクト105の選択及び決定はコンピューター11に第3モードの動作を開始させる。使用者がオブジェクト101を選択した場合には、オブジェクト105の選択及び決定はコンピューター11に第4モードの動作を開始させる。コンピューター11は第1~第4モードの動作中でも対象面の認識及び距離の算出を継続する。以下に第1~第4モードについて詳細に説明する。
【0071】
(5) 第1モード
上述のように、使用者が入力デバイス12によりオブジェクト101を選択した場合には、コンピューター11がライブビュー画面のオブジェクト101~108の表示を消した上で、色付きの閉領域の合成を解除する。その上で、コンピューター11は、撮像装置14の撮像映像に何れかの種類の第1の目盛り画像21を合成して、その合成済み映像を背景として、オブジェクトを前景として、オブジェクトを合成済み映像に配置してこれらを合成する。コンピューター11は、合成後の映像の信号を表示デバイス13に出力することによって、ライブビュー画面を表示デバイス13に表示させる。
図7は、ライブビュー画面の一例を示した図である。
図7に示すように、撮像装置14によって撮像される映像が背景として表示デバイス13のライブビュー画面にリアルタイムで表示され、オブジェクト201~212,221~233,241~243,260が前景として背景に重ねられて表示デバイス13のライブビュー画面に表示される。オブジェクト201~212が寄せ集められてライブビュー画面の左下に配置され、オブジェクト221~233が寄せ集められてライブビュー画面の右下に配置され、オブジェクト241,242がライブビュー画面の右に配置され、オブジェクト243はライブビュー画面の上に配置され、オブジェクト260はライブビュー画面の中央に配置されている。
【0072】
使用者はライブビュー画面を見て、対象面に存在する傷および模様などのような計測対象の位置、大きさ及び範囲などを第1の目盛り画像21のグリッドから簡易的に計測することができる。
【0073】
(5-1) 第1の目盛り画像の合成
第1の目盛り画像21は以下のようにして撮像装置14の撮像映像に合成される。
【0074】
コンピューター11は、複数種類の第1の目盛り画像21の中から、何れかの種類の第1の目盛り画像21を選択する。選択される種類は使用者によるオブジェクト201~206の選択によって決まる。但し、第1モード開始後の最初の第1の目盛り画像21の合成の場合、デフォルトの種類である。
【0075】
コンピューター11は、第1の目盛り画像21の二次元的なローカル座標系における第1の目盛り画像21を複製して、第1目盛り画像21を横方向に近接して並べる。但し、複製される目盛り画像21の数は使用者によるオブジェクト207~210の選択の有無等によって決まり、複製される目盛り画像21の数がゼロであることもある。複製される目盛り画像21の数の初期値がゼロであり、第1モード開始後の最初の第1の目盛り画像21の合成の場合、複製される目盛り画像21の数が必ずゼロである。
【0076】
次に、コンピューター11は、第1の目盛り画像21(第1の目盛り画像21が複製された場合には、横方向に並べられた複数の第1の目盛り画像21)のローカル座標系における第1の目盛り画像21の平行移動量及び回転角を決定する。平行移動量とは、第1の目盛り画像21に沿って第1の目盛り画像21の垂直方向及び水平方向の移動量という。回転角とは、第1の目盛り画像21に垂直な軸回りの回転角をいう。平行移動量及び回転角が使用者によるオブジェクト221~226の選択の有無等によって決まり、平行移動量及び回転角がゼロであることもある。平行移動量及び回転角の初期値がゼロであり、第1モード開始後の最初の第1の目盛り画像21の合成の場合、平行移動量及び回転角が必ずゼロである。
【0077】
次に、コンピューター11は、第1の目盛り画像21(第1の目盛り画像21が複製された場合には、横方向に並べられた複数の第1の目盛り画像21)の奥行き移動量を決定する。奥行き移動量とは、第1の目盛り画像21に垂直な軸方向への移動量のことをいう。奥行き移動量は使用者によるオブジェクト230,231の選択の有無等によって決まる。奥行き移動量の初期値がゼロであり、第1モード開始後の最初の第1の目盛り画像21の合成の場合、奥行き移動量が必ずゼロである。
【0078】
次に、コンピューター11が、認識した対象面の点群データと前記中心投影用座標変換マトリクスと平行移動量と回転角と奥行き移動量とに基づいて、射影変換マトリクスを算出する。射影変換マトリクスとは、ワールド座標系の対象面に形状を維持してマップされた第1の目盛り画像21をスクリーン座標系に中心投影による写像をした場合に、第1の目盛り画像21に台形歪みを生じさせるような座標変換マトリクスをいう。
【0079】
次に、コンピューター11は、第1の目盛り画像21に透過度を付す。透過度は使用者によるオブジェクト230,231の選択の有無等によって決まる。透過度の初期値が完全な透明を示すゼロであり、第1モード開始後の最初の第1の目盛り画像21の合成の場合、透過度が必ずゼロである。なお、第1の目盛り画像21のグリッド線以外の領域は透明のままである。
【0080】
次に、コンピューター11が、射影変換マトリクスに従って第1の目盛り画像21をスクリーン座標系に写像する。なお、写像後の第1の目盛り画像21がスクリーン座標系において対象面の点群データの占める閉領域の外縁からはみ出る場合、コンピューター11が、写像後の第1の目盛り画像21のうち、閉領域の外縁からはみ出た部分を切り取り、残りの部分を残すトリミング処理を行ってもよい。
【0081】
次に、コンピューター11は、撮像装置14の撮影映像に、透過度が付された第1の目盛り画像21をアルファブレンドする。これにより、グリッド線が半透明又は不透明な第1の目盛り画像21が台形歪みを有した状態で撮像装置14の撮影映像の中の対象面の像に合成されることから、対象面の像が第1の目盛り画像21のグリッド線を合成されてライブビュー画面に表示される。なお、撮像装置14の光軸が対象面に対して垂直であれば、ライブビュー画面の中のグリッド線に台形歪みが生じていない。これは、射影変換マトリクスが対象面の点群データに基づいて算出されるためである。
【0082】
以後、コンピューター11が三次元形状計測器15から1サイクル分の点群データを入力するたびに、コンピューター11が上述のような一連の処理を行う。そのため、手ぶれ等によって撮像装置14及び三次元形状計測器15が位置ずれしても、ライブビュー画面におけるグリッドの位置、大きさ及び歪みがライブビュー画面における対象面の位置、大きさ及び歪みに従ってリアルタイムに更新される。
【0083】
(5-2) オブジェクト
コンピューター11が「(5-1) 第1の目盛り画像の合成」に記載の一連の処理を繰り返し実行することによって、オブジェクト201~212,221~233,241~243,260がライブビュー画面に表示される。以下、オブジェクト201~212,221~233,241~243,260について詳細に説明する。
【0084】
オブジェクト241は、ライブビュー画面を静止画又は動画として記録するためのボタンなどのようなGUIである。
オブジェクト242は、コンピューター11による対象面の認識をキャンセル又はリセットさせるためのキャンセルボタンなどのようなGUI要素である。
オブジェクト243は、コンピューター11によって認識された対象面から三次元形状計測器15までの距離を示すテキストである。
オブジェクト260は、点群データの中から、オブジェクト260に合わせられた面をコンピューター11の認識対象に定めるための目標である。
【0085】
コンピューター11が「(5-1) 第1の目盛り画像の合成」に記載の一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作してオブジェクト241を選択すると、コンピューター11が、ライブビュー画面を静止画又は動画としてキャプチャして、その静止画又は動画をメモリデバイス16に記録する。動画の記録の場合、オブジェクト241の再度の選択は、コンピューター11による動画の記録の停止を引き起こす。静止画の記録の場合、コンピューター11は、その静止画のライブビュー画面に同期した点群データを静止画に対応付けてその点群データをメモリデバイス16に記録する。動画の記録の場合、コンピューター11は、その動画のライブビュー画面に同期した時系列の点群データを動画に対応付けて、それら点群データを時系列でメモリデバイス16に記録する。
【0086】
コンピューター11が「(5-1) 第1の目盛り画像の合成」に記載の一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作してオブジェクト242を選択する。そうすると、コンピューター11が、認識した対象面及び算出した距離をリセット又はキャンセルして、「(3) ライブビュー画面の表示」及び「(4) 対象面の認識及び距離の算出」に記載の一連の処理を再度実行する。
【0087】
オブジェクト212は、オブジェクト201~211が配置されたウィンドウなどのようなGUI要素である。オブジェクト211は、オブジェクト212の最小化及びその解除のためのボタンなどのようなGUI要素である。
【0088】
コンピューター11が「(5-1) 第1の目盛り画像の合成」に記載の一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作してオブジェクト211を選択すると、コンピューター11が、オブジェクト211の表示を残してオブジェクト201~210,212の表示を消す。これにより、オブジェクト212が最小化される。その後、使用者が入力デバイス12を操作してオブジェクト211を選択すると、コンピューター11がオブジェクト201~212をライブビュー画面に再度表示する。
【0089】
オブジェクト233は、オブジェクト221~232が配置されたウィンドウなどのようなGUI要素である。オブジェクト232は、オブジェクト233の最小化及びその解除のためのボタンなどのようなGUI要素である。
【0090】
コンピューター11が「(5-1) 第1の目盛り画像の合成」に記載の一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作してオブジェクト232を選択すると、コンピューター11が、オブジェクト232の表示を残してオブジェクト221~231,233の表示を消す。これにより、オブジェクト233が最小化される。その後、使用者が入力デバイス12を操作してオブジェクト232を選択すると、コンピューター11がオブジェクト221~232をライブビュー画面に再度表示する。
【0091】
オブジェクト231は、認識した対象面の変更するためのボタンなどのようなGUI要素である。
コンピューター11が「(5-1) 第1の目盛り画像の合成」に記載の一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作してオブジェクト231を選択すると、コンピューター11がトラッキング処理による対象面の追尾を中止して、別の対象面の認識と追尾をして、別の対象面から三次元形状計測器15までの距離を算出する。
【0092】
オブジェクト201~211が寄せ集められてライブビュー画面の左下に配置されているため、使用者が両手で計測支援装置10を持って、オブジェクト201~211を左手の親指でタップしやすい。オブジェクト221~232が寄せ集められてライブビュー画面の右下に配置されているため、使用者が両手で計測支援装置10を持って、オブジェクト201~211を右手の親指でタップしやすい。なお、オブジェクト201~212が寄せ集められてライブビュー画面の右下に配置され、オブジェクト221~233が寄せ集められてライブビュー画面の左下に配置されてもよい。
【0093】
コンピューター11が上述のような一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作してオブジェクト201~210,221~229を選択すると、ライブビュー画面におけるグリッドの表示が変更される。以下、詳細に説明する。
【0094】
(5-2-1) グリッドの種類の変更
オブジェクト201は、グリッド線の間隔が1mmである種類の第1の目盛り画像21を選択するための選択ボタンなどのようなGUI要素である。
オブジェクト202は、グリッド線の間隔が10mmである種類の第1の目盛り画像21を選択するための選択ボタンなどのようなGUI要素である。
オブジェクト203は、グリッド線の間隔が20mmである種類の第1の目盛り画像21を選択するための選択ボタンなどのようなGUI要素である
オブジェクト204は、グリッドの模様が正方格子である種類の第1の目盛り画像21を選択するための選択ボタンなどのようなGUI要素である。
オブジェクト205は、グリッドの模様が縦グリッドである種類の第1の目盛り画像21を選択するための選択ボタンなどのようなGUI要素である。
オブジェクト206は、グリッドの模様が正方格子である種類の第1の目盛り画像21を選択するための選択ボタンなどのようなGUI要素である。
【0095】
コンピューター11が「(5-1) 第1の目盛り画像の合成」に記載の一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作することによってオブジェクト201~203の中から1つを選択し、オブジェクト204~206の中から1つを選択したら、コンピューター11がその旨を認識する。コンピューター11は、次回以降の一連の処理において、オブジェクト201~203の中からの選択とオブジェクト204~206の中からの選択に従った種類の第1の目盛り画像21を選択する。そのため、オブジェクト201~203の中からの選択の変更は、ライブビュー画面におけるグリッドの模様の変更を引き起こし、オブジェクト203~206の中からの選択の変更は、ライブビュー画面におけるグリッド線の間隔の変更を引き越す。
【0096】
(5-2-2) グリッドの増減
オブジェクト207は、左に複製する第1の目盛り画像21の数を1ずつデクリメントするための削減ボタンなどのようなGUI要素である。
オブジェクト208は、左に複製する第1の目盛り画像21の数を1ずつインクリメントするための増加ボタンなどのようなGUI要素である。
オブジェクト209は、右に複製する第1の目盛り画像21の数を1ずつデクリメントするための削減ボタンなどのようなGUI要素である。
オブジェクト210は、右に複製する第1の目盛り画像21の数を1ずつインクリメントするための増加ボタンなどのようなGUI要素である。
【0097】
コンピューター11が上述のような一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作することによってオブジェクト207~210の何れかを選択したら、コンピューター11がその旨を認識する。コンピューター11は、次回以降の一連の処理において、オブジェクト207~209の中からの選択に応じて、複製する第1の目盛り画像21の数を増減する。従って、オブジェクト207の選択は、ライブビュー画面におけるグリッドを左に増やし、オブジェクト208の選択は、ライブビュー画面におけるグリッドを左から減らし、オブジェクト209の選択は、ライブビュー画面におけるグリッドを右に増やし、オブジェクト208の選択は、ライブビュー画面におけるグリッドを右から減らす。
【0098】
(5-2-3) グリッドの平行移動
オブジェクト221は、第1の目盛り画像21の上への平行移動量を所定量だけインクリメントするための上移動ボタンなどのようなGUI要素である。オブジェクト221は、第1の目盛り画像21の下への平行移動量を所定量だけデクリメントするためのGUI要素でもある。
オブジェクト222は、第1の目盛り画像21の下への平行移動量を所定量だけインクリメントするための下移動ボタンなどのようなGUI要素である。
オブジェクト223は、第1の目盛り画像21の左への平行移動量を所定量だけインクリメントするための左移動ボタンなどのようなGUI要素である。
オブジェクト224は、第1の目盛り画像21の右への平行移動量を所定量だけインクリメントするための右移動ボタンなどのようなGUI要素である。
【0099】
コンピューター11が「(5-1) 第1の目盛り画像の合成」に記載の一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作することによってオブジェクト221~224の何れかを選択したら、コンピューター11がその旨を認識する。コンピューター11は、次回以降の一連の処理において、オブジェクト222~224の中からの選択に応じて、第1の目盛り画像21の平行移動量を増減する。従って、オブジェクト221の選択は、ライブビュー画面におけるグリッドの上への所定量の移動を引き起こし、オブジェクト222の選択は、ライブビュー画面におけるグリッドの下への所定量の移動を引き起こし、オブジェクト223の選択は、ライブビュー画面におけるグリッドの左への所定量の移動を引き起こし、オブジェクト224の選択は、ライブビュー画面におけるグリッドの右への所定量の移動を引き起こす。
【0100】
(5-2-4) グリッドの回転
オブジェクト225は、第1の目盛り画像21の左回りの回転角を1°だけインクリメントするための回転ボタンなどのようなGUI要素である。オブジェクト225は、第1の目盛り画像21の右回りの回転角を1°だけデクリメントするための回転ボタンなどのようなGUI要素でもある。
オブジェクト226は、第1の目盛り画像21の右回りの回転角を1°だけインクリメントするための回転ボタンなどのようなGUI要素である。
オブジェクト227は、第1の目盛り画像21の左回りの回転角を45°だけインクリメントするための回転ボタンなどのようなGUI要素である。
オブジェクト228は、第1の目盛り画像21の右回りの回転角を45°だけインクリメントするための回転ボタンなどのようなGUI要素である。
【0101】
コンピューター11が「(5-1) 第1の目盛り画像の合成」に記載の一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作することによってオブジェクト225~227の何れかを選択したら、コンピューター11がその旨を認識する。コンピューター11は、次回以降の一連の処理において、オブジェクト225~227の中からの選択に応じて、第1の目盛り画像21の回転角を増減する。従って、オブジェクト225の選択は、ライブビュー画面におけるグリッドの1°の左回りの回転を引き起こし、オブジェクト226の選択は、ライブビュー画面におけるグリッドの1°の右回りの回転を引き越し、オブジェクト227の選択は、ライブビュー画面におけるグリッドの45°の左回りの回転を引き起こし、オブジェクト228の選択は、ライブビュー画面におけるグリッドの45°の右回りの回転を引き起こす。
【0102】
(5-2-5) グリッドの透明性の変更及びグリッドの奥行き方向の移動
オブジェクト229は、第1の目盛り画像21の透過度を所定量だけインクリメントするためのボタンなどのようなGUI要素である。オブジェクト229は、第1の目盛り画像21の奥行き移動量を所定量だけインクリメントするためのGUIでもある。
オブジェクト230は、第1の目盛り画像21の透過度を所定量だけデクリメントするためのボタンなどのようなGUI要素である。オブジェクト229は、第1の目盛り画像21の奥行き移動量を所定量だけデクリメントするためのGUIでもある。
【0103】
コンピューター11が「(5-1) 第1の目盛り画像の合成」に記載の一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作することによってオブジェクト229,230のどちらかを選択したら、コンピューター11がその旨を認識する。コンピューター11は、次回以降の一連の処理において、オブジェクト229,230の中からの選択に応じて、第1の目盛り画像21に付す透過度を増減するとともに、第1の目盛り画像21の奥行き移動量を増減する。従って、オブジェクト229の選択は、ライブビュー画面におけるグリッド線の透明性を上げる上、ワールド座標系において対象面に対して垂直な方向に沿って対象面の奥の方へ第1の目盛り画像21を移動させる。オブジェクト230の選択は、ライブビュー画面におけるグリッド線の透明性を下げる上、ワールド座標系において対象面に対して垂直な方向に沿って対象面の手前の方へ第1の目盛り画像21を移動させる。グリッド線の透明性を上げることは、ライブビュー画面においてグリッド線が対象面の奥の方へ移動することを表現し、グリッド線の透明性を下げることは、ライブビュー画面においてグリッド線が対象面の手前の方へ移動することを表現する。第1の目盛り画像21がワールド座標系において対象面に対して垂直な方向に沿って対象面の奥の方へ移動することは、ライブビュー画面において第1の目盛り画像21が縮小することを表現し、第1の目盛り画像21がワールド座標系において対象面に対して垂直な方向に沿って対象面の手前の方へ移動することは、ライブビュー画面において第1の目盛り画像21が縮小することを表現する。
【0104】
(6) 第2モード
上述のように、使用者が入力デバイス12によりオブジェクト102を選択した場合には、コンピューター11がライブビュー画面のオブジェクト101~108の表示を消した上で、色付きの閉領域の合成を解除する。その上で、コンピューター11は、撮像装置14の撮像映像に何れかの種類の第2の目盛り画像22を合成して、その合成済み映像を背景として、オブジェクトを前景として、オブジェクトを合成済み映像に配置してこれらを合成する。コンピューター11は、合成後の映像の信号を表示デバイス13に出力することによって、ライブビュー画面を表示デバイス13に表示させる。
図8は、ライブビュー画面の一例を示した図である。
図8に示すように、撮像装置14によって撮像される映像が背景として表示デバイス13のライブビュー画面にリアルタイムで表示され、オブジェクト301~303,307~312,321~333,341~343,360が前景として背景に重ねられて表示デバイス13のライブビュー画面に表示される。オブジェクト301~303,307~312が寄せ集められてライブビュー画面の左下に配置され、オブジェクト321~333が寄せ集められてライブビュー画面の右下に配置され、オブジェクト341,342がライブビュー画面の右に配置され、オブジェクト343がライブビュー画面の上に配置され、オブジェクト360がライブビュー画面の中央に配置されている。なお、オブジェクト301~303,307~312が寄せ集められてライブビュー画面の右下に配置され、オブジェクト321~333が寄せ集められてライブビュー画面の左下に配置されてもよい。
【0105】
使用者はライブビュー画面を見て、対象面に存在するビスなどのような計測対象の数、位置及びそれらの正確性を第2の目盛り画像22の十字マークから簡易的に計測することができる。例えば、使用者がライブビュー画面の中の第2の目盛り画像22をパネル95の像に合わせることによって、パネル95のビスの数、位置及びそれらの正確性を十字マークから簡易的に計測できる。
【0106】
コンピューター11が第2の目盛り画像22を撮像装置14の撮像映像に合成する処理は、コンピューター11が第1の目盛り画像21を撮像装置14の撮像映像に合成する処理と同様である。
【0107】
オブジェクト301は、壁パネル用である種類の第2の目盛り画像22を選択するための選択ボタンなどのようなGUI要素である。
オブジェクト302は、標準天井パネル用である種類の第2の目盛り画像22を選択するための選択ボタンなどのようなGUI要素である。
オブジェクト303は、準耐火天井パネル用である種類の第2の目盛り画像22を選択するための選択ボタンなどのようなGUI要素である。
【0108】
使用者が入力デバイス12を操作することによってオブジェクト301~303の中から1つを選択したら、コンピューター11がその旨を認識する。コンピューター11は、オブジェクト301~303の中からの選択に従った種類の第2の目盛り画像22を選択する。そのため、オブジェクト301~303の中からの選択の変更は、ライブビュー画面における十字マークの変更を引き越す。
【0109】
第2モードにおけるオブジェクト307~310,321~332,341~343,360は第1モードにおけるオブジェクト207~210,221~232,241~243,260にそれぞれ相当する。使用者がオブジェクト307~310,321~332,341,342を選択したことに伴ってコンピューター11が実行する処理は、使用者がオブジェクト207~210,221~232,241,242を選択したことに伴ってコンピューター11が実行する処理と同様である。
【0110】
(6) 第3モード
上述のように、使用者が入力デバイス12によりオブジェクト103を選択した場合には、コンピューター11がライブビュー画面のオブジェクト101~108の表示を消した上で、色付きの閉領域の合成を解除する。その上で、コンピューター11は、撮像装置14の撮像映像に何れかの種類の第3の目盛り画像3を合成して、その合成済み映像を背景として、オブジェクトを前景として、オブジェクトを合成済み映像に配置してこれらを合成する。コンピューター11は、合成後の映像の信号を表示デバイス13に出力することによって、ライブビュー画面を表示デバイス13に表示させる。
図9は、ライブビュー画面の一例を示した図である。
図9に示すように、撮像装置14によって撮像される映像が背景として表示デバイス13のライブビュー画面にリアルタイムで表示され、オブジェクト401~405,407~418,421~433,441~444,460が前景として背景に重ねられて表示デバイス13のライブビュー画面に表示される。オブジェクト401~405,407~418が寄せ集められてライブビュー画面の左下に配置され、オブジェクト421~433が寄せ集められてライブビュー画面の右下に配置され、オブジェクト441,442がライブビュー画面の右に配置され、オブジェクト433がライブビュー画面の上に配置され、オブジェクト460がライブビュー画面の中央に配置されている。なお、オブジェクト401~405,407~418が寄せ集められてライブビュー画面の右下に配置され、オブジェクト421~433が寄せ集められてライブビュー画面の左下に配置されてもよい。
【0111】
使用者はライブビュー画面を見て、対象面に沿う長さを第3の目盛り画像23の線分23bの数等から簡易的に計測することができる。例えば、使用者はパネル95の高さ及び幅やパネル95に寄せられた物の高さ、幅及び長さ等を簡易的に計測できる。
【0112】
コンピューター11が第3の目盛り画像23を撮像装置14の撮像映像に合成する処理は、コンピューター11が第1の目盛り画像21を撮像装置14の撮像映像に合成する処理と同様である。但し、第1モードでは、コンピューター11が複数の第1の目盛り画像21を共通のローカル座標系に複製して配置したのに対して、第3モードでは、コンピューター11が複数の第3の目盛り画像23を個別のローカル座標系に複製して配置する。そのため、使用者がライブビュー画面において入力デバイス12を操作することによって第3の目盛り画像23ごとに選択・非選択・編集をすることができる。なお、選択された第3の目盛り画像23の線分23a,23b及び数字23cの色は、選択されていない第3の目盛り画像23の線分23a,23b及び数字23cの色と異なる。
【0113】
オブジェクト307は、選択された第3の目盛り画像23を削除するための削除ボタンなどのようなGUI要素である。
オブジェクト308は、第3の目盛り画像23を追加表示するための追加ボタンなどのようなGUI要素である。
【0114】
使用者が入力デバイス12を操作することによってライブビュー画面中の何れかの第3の目盛り画像23を選択した上で、オブジェクト307を選択する。そうすると、コンピューター11が選択された第3の目盛り画像23を削除するため、選択された第3の目盛り画像23がライブビュー画面から消える。
【0115】
使用者が入力デバイス12を操作することによってオブジェクト308を選択する。そうすると、コンピューター11が第3の目盛り画像23を複製してそれをライブビュー画面に追加するため、第3の目盛り画像23がライブビュー画面に追加的に表示される。
【0116】
オブジェクト401~405は、ライブビュー画面において選択された第3の目盛り画像23の種類を変更するためのボタンなどのようなGUI要素である。
オブジェクト401は、長い線分23bの間隔が10cmである種類の第3の目盛り画像23を選択するための選択ボタンなどのようなGUI要素である。
オブジェクト402は、長い線分23bの間隔が15cmである種類の第3の目盛り画像23を選択するための選択ボタンなどのようなGUI要素である。
オブジェクト403は、長い線分23bの間隔が20cmである種類の第3の目盛り画像23を選択するための選択ボタンなどのようなGUI要素である。
オブジェクト404は、線分23aに対する線分23bの配置が左である種類の第3の目盛り画像23を選択するための選択ボタンなどのようなGUI要素である。
オブジェクト405は、線分23aに対する線分23bの配置が右である種類の第3の目盛り画像23を選択するための選択ボタンなどのようなGUI要素である。
【0117】
コンピューター11が一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作することによってオブジェクト401~403の中から1つを選択したら、コンピューター11がその旨を認識する。そうすると、コンピューター11は、次回以降の一連の処理において、オブジェクト401~403の中からの選択に従った種類の第3の目盛り画像23を選択する。そのため、オブジェクト401~403の中からの選択の変更は、数字23cが付された長い線分23bの間隔の変更を引き起こす。
コンピューター11が一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作することによってオブジェクト404,405の中から1つを選択したら、コンピューター11がその旨を認識する。そうすると、コンピューター11は、次回以降の一連の処理において、オブジェクト404,405の中からの選択に従った種類の第3の目盛り画像23を選択する。そのため、オブジェクト404,405の中からの選択の変更は、線分23aに対する線分23bの配置の変更を引き起こす。つまり、オブジェクト404,405の中からの選択の変更は、ライブビュー画面において選択された第3の目盛り画像23が左右反転するような表示を引き起こす。
【0118】
オブジェクト409,410,412,413は、ライブビュー画面において選択された第3の目盛り画像23の表示領域を線分23aに沿って変更させる変更ボタンなどのようなGUI要素である。
オブジェクト409は、ライブビュー画面において選択された第3の目盛り画像23の表示領域を線分23aに沿って1cmだけ狭めるための削減ボタンなどのようなGUI要素である。オブジェクト409は、ライブビュー画面において選択された第3の目盛り画像23の非表示領域を線分23aに沿って1cmだけ拡げるためのGUI要素でもある。
オブジェクト410は、ライブビュー画面において選択された第3の目盛り画像23の表示領域を線分23aに沿って1cmだけ拡げるための増加ボタンなどのようなGUI要素である。
オブジェクト412は、ライブビュー画面において選択された第3の目盛り画像23の表示領域を線分23aに沿って50cmだけ狭めるための削減ボタンなどのようなGUIである。
オブジェクト413は、ライブビュー画面において選択された第3の目盛り画像23の表示領域を線分23aに沿って50cmだけ拡げるための増加ボタンなどのようなGUI要素である。
【0119】
コンピューター11が一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作することによってオブジェクト409,410,412,413の何れかを選択したら、コンピューター11がその旨を認識する。コンピューター11は、次回以降の一連の処理において、オブジェクト409,410,412,413の中からの選択に応じて、ライブビュー画面において選択された第3の目盛り画像23の表示領域を線分23aに沿って拡縮する。オブジェクト409,412の選択は、ライブビュー画面において選択された第3の目盛り画像23がその端のほうから消えるような表示を引き起こす。オブジェクト409,412の選択は、ライブビュー画面において選択された第3の目盛り画像23がその端のほうへ現れる表示を引き起こす。ここでいう「端の方」とは、「数が大きな数字23cの方」のことをいう。
【0120】
オブジェクト414は、ライブビュー画面において選択された第3の目盛り画像23の数字23cの表示・非表示を切り替えるための切り替えボタンなどのようなGUI要素である。
コンピューター11が一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作することによってオブジェクト414の選択・非選択を切り替えたら、コンピューター11がその旨を認識する。コンピューター11は、次回以降の一連の処理において、オブジェクト414の選択・非選択に応じて、ライブビュー画面において選択された第3の目盛り画像23の数字23cの表示・非表示を切り替える。そのため、オブジェクト414の選択は、ライブビュー画面において選択された第3の目盛り画像23の数字23cを現すような表示を引き起こし、オブジェクト414の非選択は、ライブビュー画面において選択された第3の目盛り画像23の数字23cを消すような表示を引き起こす。
【0121】
オブジェクト415~417は、ライブビュー画面において選択された第3の目盛り画像23の線分23a,23bの太さを変更させる変更ボタンなどのようなGUI要素である。
オブジェクト415は、ライブビュー画面において選択された第3の目盛り画像23の線分23a,23bを細線にするためGUI要素である。
オブジェクト415は、ライブビュー画面において選択された第3の目盛り画像23の線分23a,23bを中太線にするためGUI要素である。
オブジェクト415は、ライブビュー画面において選択された第3の目盛り画像23の線分23a,23bを太線にするためGUI要素である。
【0122】
コンピューター11が一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作することによってオブジェクト415~417の何れかを選択したら、コンピューター11がその旨を認識する。コンピューター11は、次回以降の一連の処理において、オブジェクト415~417の中からの選択に応じて、ライブビュー画面において選択された第3の目盛り画像23の線分23a,23bの太さを設定する。そのため、オブジェクト415~417の選択は、ライブビュー画面において選択された第3の目盛り画像23の線分23a、23bの太さを変えるような表示を引き起こす。
【0123】
オブジェクト418は、ライブビュー画面における各第3の目盛り画像23の識別番号の表示・非表示を切り替えるための切り替えボタンなどのようなGUI要素である。
コンピューター11が一連の処理を繰り返し実行している際に、使用者が入力デバイス12を操作することによってオブジェクト418の選択・非選択を切り替えたら、コンピューター11がその旨を認識する。コンピューター11は、次回以降の一連の処理において、オブジェクト418の選択・非選択に応じて、ライブビュー画面において選択された第3の目盛り画像23の識別番号の表示・非表示を切り替える。そのため、オブジェクト418の選択は、ライブビュー画面における各第3の目盛り画像23の近くに識別番号を付すような表示を引き起こし、オブジェクト418の非選択は、その識別番号を消すような表示を引き起こす。
【0124】
第4モードにおけるオブジェクト421~432,441~443,460は第1モードにおけるオブジェクト221~232,241~243,260にそれぞれ相当する。使用者がオブジェクト421~432,441,442を選択したことに伴ってコンピューター11が実行する処理は、使用者がオブジェクト221~232,241,242を選択したことに伴ってコンピューター11が実行する処理と同様である。但し、第1モードでは、複数の第1の目盛り画像21がライブビュー画面に表示されている場合、コンピューター11がオブジェクト221~232の選択に応じた処理を全ての第1の目盛り画像21に対して施すのに対して、第1モードでは、複数の第3の目盛り画像23がライブビュー画面に表示されている場合、コンピューター11がオブジェクト421~432の選択に応じた処理を選択中の第3の目盛り画像23に対して施す。
【0125】
(6) 第4モード
第3モードと同様に、第4モードでは、第3の目盛り画像23がライブビュー画面に表示され、第4モードのコンピューター11の処理は第3モードのコンピューター11の処理と同じである。ただし、第3モードでは、第3の目盛り画像23の回転角の初期値がゼロであるのに対して、第4モードでは、第3の目盛り画像23の回転角の初期値が90°又はマイナス90°である。そのため、第3モードでは、最初に表示される第3の目盛り画像23の線分23bがライブビュー画面の垂直方向に配列されるのに対して、第4モードでは、最初に表示される第3の目盛り画像23の線分23bがライブビュー画面の水平方向に配列される。
【0126】
<4. 有利な効果>
撮像装置14に撮像された映像中の対象面は遠近感により実際の形状から歪んでいるところ、第1モードでは、
図7に示すように、目盛り画像21が対象面の点群データにも基づいて撮像装置14の撮像映像の二次元なスクリーン座標系に射影変換されるため、第1の目盛り画像21も対象面の歪みに合わせて歪む。そのため、対象面に存在する傷および模様などのような計測対象の位置、大きさ及び範囲などを第1の目盛り画像21のグリッドから簡易且つ正確に計測することができる。第2モードでは、第2の目盛り画像22が対象面の歪みに合わせて歪むため、対象面に存在するビスなどのような計測対象の数、位置及びそれらの正確性を第2の目盛り画像22の十字マークから簡易且つ正確に計測することができる。第3モード及び第4モードでは、第3の目盛り画像23が対象面の歪みに合わせて歪むため、対象面に沿う長さを第3の目盛り画像23の線分23bの数等から簡易且つ正確に計測することができる。
【0127】
オブジェクト221~224,321~324,421~424の選択によって、ライブビュー画面中の目盛り画像21,22,23を対象面の歪みに合わせて対象面に沿って平行移動させることにより、対象面上のどの位置にある対象も測量することができる。
【0128】
オブジェクト225~228,325~328,425~428の選択によって、ライブビュー画面の目盛り画像21,22,23を対象面に合わせて対象面の直交軸回りに回転させることにより、対象面上のどの姿勢又は向きに対象も測量することができる。
【0129】
オブジェクト229,230,329,330,429,430の選択により、ワールド座標系における対象面に対して垂直な方向への計測対象物の位置ずれに合わせて、その計測対象物を測量することができる。
【0130】
オブジェクト229,230,329,330,429,430の選択により、ライブビュー画面における目盛り画像21,22,23)が対象面の手前又は奥の方にあることを表現できる。
【0131】
オブジェクト201~203の選択によって、ライブビュー画面中の目盛り画像21のグリッド線の間隔を調整できるため、長さの計測単位を調整することができる。同様に、オブジェクト401~403の選択によって、長さの計測単位を調整することができる。
【0132】
オブジェクト204を選択すれば、ライブビュー画面中の垂直方向及び水平方向の長さを計測することができる。オブジェクト205を選択すれば、ライブビュー画面中の水平方向の長さを計測することができる。オブジェクト206を選択すれば、ライブビュー画面中の垂直方向の長さを計測することができる。
【0133】
オブジェクト409,410,412,413の選択よって、ライブビュー画面中の第3の目盛り画像23の表示領域を計測対象の長さに合わせて調整することができる。
【0134】
オブジェクト415~417の選択によって、ライブビュー画面中の第3の目盛り画像23の線分23a,23bの太さを調整することができる。
【0135】
オブジェクト404,405の選択によって、ライブビュー画面中の計測対象の位置及び向きなどに合わせて第3の目盛り画像23を反転させることができる。
【0136】
計測支援装置10のコンピューター11はスマートフォンなどのような携帯型コンピューターによって構成されているところ、近年の携帯型コンピューターが著しく進歩しており、携帯型コンピューターを長期に亘って使用できる上、携帯型コンピューターの消費電力も少ない。そのため、計測支援装置10を用いて測量することは、省エネ社会の実現と、二酸化炭素の排出量の削減と、カーボンニュートラルの推進と、脱炭素社会の実現と、持続可能な開発目標(Sustainable Development Goals:SDGs)の推進とに貢献する。
【符号の説明】
【0137】
10 計測支援装置
11 コンピューター
12 入力デバイス
13 表示デバイス
14 撮像装置
15 三次元形状計測器
17 計測支援プログラム
21 第1の目盛り画像
21a グリッド線
21b 正方領域
22 第2の目盛り画像
22a,22b,22c 十字マーク
23 第3の目盛り画像
23a 第1線分
23b 第2線分
23c 数字
【要約】
【課題】本発明は、住宅の壁、天井および床などのような対象面を簡易に測量できるようにすることを目的とする。
【解決手段】プログラム17は、撮像装置14によって撮像された映像を入力するとともに、三次元形状計測器15によって計測された複数の計測対象点の三次元的な座標値からなる点群データを入力するコンピューター11に、三次元形状計測器15から入力した点群データの中から、対象面の点群データを抽出して認識する認識処理と、認識処理によって認識された対象面の点群データに基づいて、撮像装置14によって撮像された映像の二次元的なスクリーン座標系に目盛り画像21,22又は23を射影変換の写像をして、撮像装置14によって撮像された映像を背景として、目盛り画像21,22,23を前景としてこれらを合成する合成処理と、を実行させる。
【選択図】
図2