(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023083310
(43)【公開日】2023-06-15
(54)【発明の名称】地物管理システム
(51)【国際特許分類】
G01C 7/02 20060101AFI20230608BHJP
G06T 7/70 20170101ALI20230608BHJP
G06T 7/00 20170101ALI20230608BHJP
G06T 3/00 20060101ALI20230608BHJP
G06T 5/50 20060101ALI20230608BHJP
【FI】
G01C7/02
G06T7/70 Z
G06T7/00 650A
G06T3/00 725
G06T5/50
【審査請求】有
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2023051608
(22)【出願日】2023-03-28
(62)【分割の表示】P 2019065920の分割
【原出願日】2019-03-29
(71)【出願人】
【識別番号】500063228
【氏名又は名称】田中 成典
(71)【出願人】
【識別番号】502235692
【氏名又は名称】中村 健二
(71)【出願人】
【識別番号】511121768
【氏名又は名称】今井 龍一
(71)【出願人】
【識別番号】517309320
【氏名又は名称】塚田 義典
(71)【出願人】
【識別番号】516119678
【氏名又は名称】株式会社日本インシーク
(71)【出願人】
【識別番号】519113745
【氏名又は名称】Intelligent Style株式会社
(74)【代理人】
【識別番号】100092956
【弁理士】
【氏名又は名称】古谷 栄男
(74)【代理人】
【識別番号】100101018
【弁理士】
【氏名又は名称】松下 正
(72)【発明者】
【氏名】田中 成典
(72)【発明者】
【氏名】中村 健二
(72)【発明者】
【氏名】今井 龍一
(72)【発明者】
【氏名】塚田 義典
(72)【発明者】
【氏名】梅▲原▼ 喜政
(72)【発明者】
【氏名】平野 順俊
(72)【発明者】
【氏名】大月 庄治
(72)【発明者】
【氏名】田中 恭介
(72)【発明者】
【氏名】川村 義和
(72)【発明者】
【氏名】楠本 博
(57)【要約】
【課題】 地物を効率よく管理することのできるシステムを提供する。
【解決手段】 携帯端末装置240のカメラ244によって撮像された地物の撮像画像は、画像送信手段242によってサーバ装置210に送信される。この際、カメラ244に撮像位置付加機能があれば当該撮像位置(絶対座標による位置)が併せてサーバ装置210に送信される。サーバ装置210の受信手段216は、撮像画像および撮像位置を受信する。二次元投影画像生成手段218は、撮像位置に基づいて、当該撮像位置から周囲の三次元点群データを見た時の二次元投影画像を複数の角度について生成する。比較手段220は、生成された複数の二次元投影画像のうち、受信した撮像画像と最も良く合致する二次元投影画像を選択する。これにより、当該撮像された地物の画像を選択された二次元投影画像の地物と対応付けて記録する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
サーバ装置と前記サーバ装置と通信可能な端末装置とを備えた地物管理システムであって、
前記サーバ装置は、
位置の定義された地物を含む三次元点群データを記録する記録部と、
前記端末装置から送信されてきた地物を含む撮像画像と撮像位置を受信する受信手段と、
前記受信した撮像位置を中心として、前記三次元点群データを、異なる角度から平面投影して、複数の角度からの二次元投影画像を生成し、前記受信した地物を含む撮像画像と前記生成された各二次元投影画像との比較に基づいて、地物の撮像画像と地物の三次元点群データとを対応付ける撮像画像・点群データ対応手段とを備え、
前記端末装置は、
カメラによって撮像された地物を含む撮像画像を撮像位置とともに地物管理サーバ装置に送信する画像送信手段とを備えたことを特徴とする地物管理システム。
【請求項2】
位置の定義された地物を含む三次元点群データを記録する記録部と、
端末装置から送信されてきた地物を含む撮像画像と撮像位置を受信する受信手段と、
前記受信した撮像位置を中心として、前記三次元点群データを、異なる角度から平面投影して、複数の角度からの二次元投影画像を生成し、前記受信した地物を含む撮像画像と前記生成された各二次元投影画像との比較に基づいて、地物の撮像画像と地物の三次元点群データとを対応付ける撮像画像・点群データ対応手段と、
を備えたサーバ装置。
【請求項3】
サーバ装置をコンピュータによって実現するためのサーバプログラムであって、コンピュータを、
端末装置から送信されてきた地物を含む撮像画像と撮像位置を受信する受信手段と、
前記受信した撮像位置を中心として、記録部に記録された位置の定義された地物を含む三次元点群データを、異なる角度から平面投影して、複数の角度からの二次元投影画像を生成し、前記受信した地物を含む撮像画像と前記生成された各二次元投影画像との比較に基づいて、地物の撮像画像と地物の三次元点群データとを対応付ける撮像画像・点群データ対応手段として機能させるためのサーバプログラム。
【請求項4】
請求項1~3のいずれかのシステム、装置またはプログラムにおいて、
前記撮像画像・点群データ対応手段は、
前記撮像画像中の地物の外形形状を示す撮像画像外形形状生成手段と、
前記各二次元投影画像中の地物の外形形状を示す二次元投影画像外形形状生成手段と、
前記撮像画像中の地物の外形形状と前記各二次元投影画像中の地物の外形形状を比較して、外形形状が合致する二次元投影画像を選択し、地物の撮像画像と地物の三次元点群データとを対応付ける手段とを備えることを特徴とするシステム、装置またはプログラム。
【請求項5】
請求項1~4のいずれかのシステム、装置またはプログラムにおいて、
前記サーバ装置の記録部は、地物の外形を囲った外形領域、地物名を記録しており、
前記撮像画像・点群データ対応手段は、
前記撮像画像中から地物部分を抽出して地物名を推定する地物推定手段を有し、
前記受信した撮像位置を中心として、推定した地物名と同じ地物名を有する地物の三次元点群データを、異なる角度から平面投影して、複数の角度からの二次元投影画像を生成し、前記受信した地物部分の撮像画像と前記生成された各二次元投影画像との比較に基づいて、地物の撮像画像と地物の三次元点群データとを対応付けることを特徴とするシステム、装置またはプログラム。
【請求項6】
請求項1~4のいずれかのシステム、装置またはプログラムにおいて、
前記サーバ装置の記録部は、地物の外形を囲った外形領域、地物名を記録しており、
前記端末装置の画像送信手段は、操作者の入力を受けて、撮像画像中の地物のバウンダリボックスおよび地物名を付与してサーバ装置に送信し、
前記撮像画像・点群データ対応手段は、
前記受信した撮像位置を中心として、送信されてきた地物名と同じ地物名を有する地物の三次元点群データを、異なる角度から平面投影して、複数の角度からの二次元投影画像を生成し、前記受信した地物部分の撮像画像と前記生成された各二次元投影画像との比較に基づいて、地物の撮像画像と地物の三次元点群データとを対応付けることを特徴とするシステム、装置またはプログラム。
【請求項7】
請求項1~6のいずれかのシステム、装置またはプログラムにおいて、
前記撮影画像・点群データ対応手段は、前記撮像位置の近傍に仮想撮像位置を複数個生成し、各仮想撮像位置を基準として三次元点群データを平面投影した二次元投影画像を生成することを特徴とするシステム、装置またはプログラム。
【請求項8】
請求項1~7のいずれかのシステム、装置またはプログラムにおいて、
前記撮影画像・点群データ対応手段は、地物に対する撮像位置および撮像方向も特定することを特徴とするシステム、装置またはプログラム。
【請求項9】
請求項1~8のいずれかのシステム、装置またはプログラムにおいて、
前記端末装置から送信される地物の撮影画像には、撮像方向も付されており、
前記撮影画像・点群データ対応手段は、前記撮影方向に基づいて、前記二次元投影画像を生成する角度を絞り込むことを特徴とするシステム、装置またはプログラム。
【請求項10】
請求項1~9のいずれかのシステム、装置またはプログラムにおいて、
前記三次元点群データ、前記属性データの外形領域は、絶対座標にて示されることを特徴とするシステム、装置またはプログラム。
【請求項11】
請求項1~10のいずれかのシステム、装置またはプログラムにおいて、
前記地物抽出手段は、過去の地物の撮像位置と撮像方向に基づいて、地物の外形領域データまたは地物の三次元点群データを平面に投影し、過去二次元投影画像を生成して、これを第2の端末装置に送信し、
当該第2の端末装置は、カメラによる撮像の際に、カメラのファインダー画像に前記位置二次元投影画像を重ねて表示することを特徴とするシステム、装置またはプログラム。
【請求項12】
請求項1~11のいずれかのシステム、装置またはプログラムにおいて、
前記サーバ装置は、
前記三次元点群データを記録する点群データサーバ装置と、
前記外形領域を含む属性データを記録する属性データサーバ装置とを備えることを特徴とするシステム、装置またはプログラム。
【請求項13】
位置の定義された地物を含む三次元点群データを記録し、
地物を含む撮像画像を撮像した際の撮像位置を中心として、前記三次元点群データを、異なる角度から平面投影して、複数の角度からの二次元投影画像を生成し、
前記撮像画像と前記生成された各二次元投影画像との比較に基づいて、地物の撮像画像と地物の三次元点群データとを対応付けることを特徴とする地物管理方法。
【請求項14】
サーバ装置と前記サーバ装置と通信可能な端末装置とを備えた地物管理システムであって、
前記サーバ装置は、
位置の定義された第1領域および第2領域の区別がなされた三次元点群データを記録する記録部と、
前記端末装置から送信されてきた第1領域および第2領域を含む撮像画像と撮像位置を受信する受信手段と、
前記撮像画像に基づいて、第1領域および第2領域を他の部分から区別して抽出する領域推定手段と、
前記受信した撮像位置を中心として、第1領域および第2領域の区別された前記三次元点群データを、異なる角度から平面投影して、複数の角度からの二次元投影画像を生成し、前記第1領域および第2領域の区別された撮像画像と前記生成された各二次元投影画像との比較に基づいて、撮影画像と三次元点群データとを対応付ける撮像画像・点群データ対応手段とを備え、
前記端末装置は、
カメラによって撮像された第1領域および第2領域を含む撮像画像を撮像位置とともに地物管理サーバ装置に送信する画像送信手段とを備えたことを特徴とする地物管理システム。
【請求項15】
位置の定義された第1領域および第2領域の区別がなされた三次元点群データを記録する記録部と、
端末装置から送信されてきた第1領域および第2領域を含む撮像画像と撮像位置を受信する受信手段と、
前記撮像画像に基づいて、第1領域および第2領域を他の部分から区別して抽出する領域推定手段と、
前記受信した撮像位置を中心として、第1領域および第2領域の区別された前記三次元点群データを、異なる角度から平面投影して、複数の角度からの二次元投影画像を生成し、前記第1領域および第2領域の区別された撮像画像と前記生成された各二次元投影画像との比較に基づいて、撮影画像と三次元点群データとを対応付ける撮像画像・点群データ対応手段と、
を備えたサーバ装置。
【請求項16】
サーバ装置をコンピュータによって実現するためのサーバプログラムであって、コンピュータを、
端末装置から送信されてきた第1領域および第2領域を含む撮像画像と撮像位置を受信する受信手段と、
前記撮像画像に基づいて、第1領域および第2領域を他の部分から区別して抽出する領域推定手段と、
前記受信した撮像位置を中心として、記録部に記録された第1領域および第2領域の区別された前記三次元点群データを、異なる角度から平面投影して、複数の角度からの二次元投影画像を生成し、前記第1領域および第2領域の区別された撮像画像と前記生成された各二次元投影画像との比較に基づいて、撮影画像と三次元点群データとを対応付ける撮像画像・点群データ対応手段として機能させるためのサーバプログラム。
【請求項17】
サーバ装置と当該サーバ装置と通信可能な携帯端末装置とを備えた地物管理システムであって、
前記サーバ装置は、
地物を含む三次元点群データおよび過去の撮像位置、撮像方向を記録する記録部と、
前記過去の撮像位置、撮像方向に基づいて、地物の三次元点群データまたはその三次元モデルを平面に投影して過去二次元投影画像を生成し、端末装置に送信する過去二次元投影画像生成手段とを備え、
前記端末装置は、
地物を撮像するためのカメラのファインダー画像に、サーバ装置から受信した過去二次元投影画像を透過画像として重ねて表示部に表示する表示手段とを備えたことを特徴とする地物管理システム。
【請求項18】
地物を含む三次元点群データおよび過去の撮像位置、撮像方向を記録する記録部と、
前記過去の撮像位置、撮像方向に基づいて、地物の三次元点群データまたはその三次元モデルを平面に投影して過去二次元投影画像を生成し、携帯端末装置に送信する過去二次元投影画像生成手段と、
を備えたサーバ装置。
【請求項19】
コンピュータによってサーバ装置を実現するためのサーバプログラムであって、コンピュータを、
記録部に記録された過去の撮像位置、撮像方向に基づいて、地物の三次元点群データまたはその三次元モデルを平面に投影して過去二次元投影画像を生成し、端末装置に送信する過去二次元投影画像生成手段として機能させるためのサーバプログラム。
【請求項20】
地物を含む三次元点群データおよび過去の撮像位置、撮像方向を記録しておき、
前記過去の撮像位置、撮像方向に基づいて、地物の三次元点群データまたはその三次元モデルを平面に投影して過去二次元投影画像を生成し、
カメラのファインダー画像に、過去二次元投影画像を重ねて表示することを特徴とする地物管理方法。
【請求項21】
サーバ装置と当該サーバ装置と通信可能な携帯端末装置とを備えた地物管理システムであって、
前記サーバ装置は、
地物を含む三次元点群データおよび過去の撮像位置、撮像方向を記録する記録部と、
撮像位置、撮像方向を端末装置に送信する送信手段とを備え、
前記端末装置は、
受信した撮像位置、撮像方向を、表示部において地図上に表示する表示手段を備えたことを特徴とする地物管理システム。
【請求項22】
地物を含む三次元点群データおよび過去の撮像位置、撮像方向を記録しておき、
前記過去の撮像位置、撮像方向を地図上に表示することを特徴とする地物管理方法。
【請求項23】
サーバ装置と当該サーバ装置と通信可能な端末装置とを備えた地物管理システムであって、
前記サーバ装置は、道路表示地物を含む反射強度付きの三次元点群データおよび前記道路表示地物の外形を囲った外形領域データを記録しており、
前記端末装置は、
前記サーバ装置から前記道路表示地物の外形領域データを取得する外形領域データ取得手段と、
当該道路表示地物の外形領域データに対応する三次元点群データを、前記サーバ装置から取得する三次元点群データ取得手段と、
取得した道路表示地物の外形領域と三次元点群データとを重ねて表示部に表示する表示手段と、
を備えたことを特徴とする地物管理システム。
【請求項24】
サーバ装置から前記道路表示地物の外形領域データを取得する外形領域データ取得手段と、
当該道路表示地物の外形領域データに対応する三次元点群データを、前記サーバ装置から取得する三次元点群データ取得手段と、
取得した道路表示地物の外形領域と三次元点群データとを重ねて表示部に表示する表示手段と、
を備えた端末装置。
【請求項25】
コンピュータによって端末装置を実現するためのサーバプログラムであって、コンピュータを、
サーバ装置から前記道路表示地物の外形領域データを取得する外形領域データ取得手段と、
当該道路表示地物の外形領域データに対応する三次元点群データを、前記サーバ装置から取得する三次元点群データ取得手段と、
取得した道路表示地物の外形領域と三次元点群データとを重ねて表示部に表示する表示手段として機能させるための端末プログラム。
【請求項26】
道路表示地物を含む反射強度付きの三次元点群データおよび前記道路表示地物の外形を囲った外形領域データを記録しておき、
前記道路表示地物の外形領域データを取得し、
当該道路表示地物の外形領域データに対応する三次元点群データを取得し、
取得した道路表示地物の外形領域と三次元点群データとを重ねて表示部に表示することを特徴とする地物管理方法。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、地物を計測した点群データを用いた地物管理システムに関するものである。
【背景技術】
【0002】
無人航空機(UAV)や自動車などにレーザ測量装置を搭載し、地表面の形状や地物を計測することが行われている。たとえば、自動車を用いたMMS(モービル・マッピング・システム)では、自動車の天井にGPS受信機、動画撮像カメラ、IMU、レーザスキャナを搭載し、自動車によって道路などを走行しながら計測を行う。動画撮像カメラは、アナログ、ディジタルどちらでもよい。
【0003】
このような計測によって、地表面や地物外形を示す三次元点群データを得ることができる。GPSによって得た位置およびレーザスキャナの走査方向と距離によって、それぞれの三次元点群データには、絶対座標(平面直角座標、緯度・経度・標高など)による位置が付されている。また、動画撮像カメラによって地表面や地物が撮像されて動画データ(静止画データ)が生成される。この動画データには、刻々と変化する撮像位置が紐付けられて記録される。
【0004】
三次元点群データを得ることで、地表面や地物の現状を知ることができ、保守、地図作成などに役立てることができる。
【0005】
発明者らは、三次元点群データ中の地物に対して、その領域を絶対座標で示すデータや名称などを含む属性データを付与することを提唱している。
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、上記属性データによって、標準化が進みデータ蓄積の豊富化が進んでいるが、その一方で、当該属性データを保守等に利用する際に、効率良く地物を管理することのできるシステムが望まれている。たとえば、各地物の外観を撮像した写真を適切に管理することが望まれている。
【0007】
この発明は、上記のような問題点を解決して、地物を効率よく管理することのできるシステムを提供することを目的とする。
【課題を解決するための手段】
【0008】
この発明の独立して適用可能な特徴を以下に列挙する。
【0009】
(1)(2)(3)この発明に係る地物管理システムは、サーバ装置と前記サーバ装置と通信可能な端末装置とを備えた地物管理システムであって、前記サーバ装置は、位置の定義された地物を含む三次元点群データを記録する記録部と、前記端末装置から送信されてきた地物を含む撮像画像と撮像位置を受信する受信手段と、前記受信した撮像位置を中心として、前記三次元点群データを、異なる角度から平面投影して、複数の角度からの二次元投影画像を生成し、前記受信した地物を含む撮像画像と前記生成された各二次元投影画像との比較に基づいて、地物の撮像画像と地物の三次元点群データとを対応付ける撮像画像・点群データ対応手段とを備え、前記端末装置は、カメラによって撮像された地物を含む撮像画像を撮像位置とともに地物管理サーバ装置に送信する画像送信手段とを備えたことを特徴としている。
【0010】
したがって、地物の三次元点群データに対応付けて、当該地物を撮像した写真を記録しておくことができる。
【0011】
(4)この発明に係る地物管理システムは、撮像画像・点群データ対応手段が、前記撮像画像中の地物の外形形状を示す撮像画像外形形状生成手段と、前記各二次元投影画像中の地物の外形形状を示す二次元投影画像外形形状生成手段と、前記撮像画像中の地物の外形形状と前記各二次元投影画像中の地物の外形形状を比較して、外形形状が合致する二次元投影画像を選択し、地物の撮像画像と地物の三次元点群データとを対応付ける手段とを備えることを特徴としている。
【0012】
したがって、角度によって変化が明確な外形形状を用いることで、マッチング処理を容易に行うことができる。
【0013】
(5)この発明に係る地物管理システムは、サーバ装置の記録部は、地物の外形を囲った外形領域、地物名を記録しており、前記撮像画像・点群データ対応手段は、前記撮像画像中から地物部分を抽出して地物名を推定する地物推定手段を有し、前記受信した撮像位置を中心として、推定した地物名と同じ地物名を有する地物の三次元点群データを、異なる角度から平面投影して、複数の角度からの二次元投影画像を生成し、前記受信した地物部分の撮像画像と前記生成された各二次元投影画像との比較に基づいて、地物の撮像画像と地物の三次元点群データとを対応付けることを特徴としている。
【0014】
したがって、所定の地物のみを対象としてマッチングを行うことができ、その精度を高めることができる。
【0015】
(6)この発明に係る地物管理システムは、サーバ装置の記録部は、地物の外形を囲った外形領域、地物名を記録しており、前記端末装置の画像送信手段は、操作者の入力を受けて、撮像画像中の地物のバウンダリボックスおよび地物名を付与してサーバ装置に送信し、前記撮像画像・点群データ対応手段は、前記受信した撮像位置を中心として、送信されてきた地物名と同じ地物名を有する地物の三次元点群データを、異なる角度から平面投影して、複数の角度からの二次元投影画像を生成し、前記受信した地物部分の撮像画像と前記生成された各二次元投影画像との比較に基づいて、地物の撮像画像と地物の三次元点群データとを対応付けることを特徴としている。
【0016】
したがって、所定の地物のみを対象としてマッチングを行うことができ、その精度を高めることができる。
【0017】
(7)この発明に係る地物管理システムは、撮影画像・点群データ対応手段が、前記撮像位置の近傍に仮想撮像位置を複数個生成し、各仮想撮像位置を基準として三次元点群データを平面投影した二次元投影画像を生成することを特徴としている。
【0018】
したがって、より正確に撮像位置を特定することができる。
【0019】
(8)この発明に係る地物管理システムは、撮影画像・点群データ対応手段が、地物に対する撮像位置および撮像方向も特定することを特徴としている。
【0020】
したがって、撮像位置だけでなく撮像方向も特定し、この情報を利用することができる。
【0021】
(9)この発明に係る地物管理システムは、端末装置から送信される地物の撮影画像には、撮像方向も付されており、前記撮影画像・点群データ対応手段は、前記撮影方向に基づいて、前記二次元投影画像を生成する角度を絞り込むことを特徴としている。
【0022】
したがって、マッチング処理を迅速化することができる。
【0023】
(10)この発明に係る地物管理システムは、三次元点群データ、前記属性データの外形領域は、絶対座標にて示されることを特徴としている。
【0024】
したがって、属性データと三次元点群データとを独立して記録することができ、三次元点群データから生成した属性データを他の三次元点群データのために用いることができる。
【0025】
(11)この発明に係る地物管理システムは、地物抽出手段が、過去の地物の撮像位置と撮像方向に基づいて、地物の外形領域データまたは地物の三次元点群データを平面に投影し、過去二次元投影画像を生成して、これを第2の端末装置に送信し、当該第2の端末装置は、カメラによる撮像の際に、カメラのファインダー画像に前記位置二次元投影画像を重ねて表示することを特徴としている。
【0026】
したがって、過去の撮像時と同じ位置同じ角度から地物を撮像することが容易となる。
【0027】
(12)この発明に係る地物管理システムは、サーバ装置が、前記三次元点群データを記録する点群データサーバ装置と、前記外形領域を含む属性データを記録する属性データサーバ装置とを備えることを特徴としている。
【0028】
したがって、独立して属性データを記録する属性データサーバ装置を設け、これを利用することができる。
【0029】
(13)この発明に係る地物管理システムは、地物を含む撮像画像を撮像した際の撮像位置を中心として、前記三次元点群データを、異なる角度から平面投影して、複数の角度からの二次元投影画像を生成し、前記撮像画像と前記生成された各二次元投影画像との比較に基づいて、地物の撮像画像と地物の三次元点群データとを対応付けることを特徴としている。
【0030】
したがって、地物の三次元点群データに対応付けて、当該地物を撮像した写真を記録しておくことができる。
【0031】
(14)(15)(16)この発明に係る地物管理システムは、サーバ装置が、位置の定義された第1領域および第2領域の区別がなされた三次元点群データを記録する記録部と、前記端末装置から送信されてきた第1領域および第2領域を含む撮像画像と撮像位置を受信する受信手段と、前記撮像画像に基づいて、第1領域および第2領域を他の部分から区別して抽出する領域推定手段と、前記受信した撮像位置を中心として、第1領域および第2領域の区別された前記三次元点群データを、異なる角度から平面投影して、複数の角度からの二次元投影画像を生成し、前記第1領域および第2領域の区別された撮像画像と前記生成された各二次元投影画像との比較に基づいて、撮影画像と三次元点群データとを対応付ける撮像画像・点群データ対応手段とを備え、前記端末装置は、カメラによって撮像された第1領域および第2領域を含む撮像画像を撮像位置とともに地物管理サーバ装置に送信する画像送信手段とを備えたことを特徴としている。
【0032】
したがって、地物全体ではなくその一部である部分的な領域しか撮像されていなくとも、撮像位置や方向を特定することができる。
【0033】
(17)(18)(19)この発明に係る地物管理システムは、サーバ装置が、地物を含む三次元点群データおよび過去の撮像位置、撮像方向を記録する記録部と、前記過去の撮像位置、撮像方向に基づいて、地物の三次元点群データまたはその三次元モデルを平面に投影して過去二次元投影画像を生成し、端末装置に送信する過去二次元投影画像生成手段とを備え、端末装置が、地物を撮像するためのカメラのファインダー画像に、サーバ装置から受信した過去二次元投影画像を透過画像として重ねて表示部に表示する表示手段とを備えたことを特徴としている。
【0034】
したがって、過去の画像を参照しながら撮像位置を合わせて、過去の撮像時と同じ位置・方向にて撮像を行うことができる。
【0035】
(20)この発明に係る地物管理方法は、地物を含む三次元点群データおよび過去の撮像位置、撮像方向を記録しておき、前記過去の撮像位置、撮像方向に基づいて、地物の三次元点群データまたはその三次元モデルを平面に投影して過去二次元投影画像を生成し、カメラのファインダー画像に、過去二次元投影画像を重ねて表示することを特徴としている。
【0036】
したがって、過去の画像を参照しながら撮像位置を合わせて、過去の撮像時と同じ位置・方向にて撮像を行うことができる。
【0037】
(21)(22)この発明に係る地物管理システムは、サーバ装置と当該サーバ装置と通信可能な携帯端末装置とを備えた地物管理システムであって、前記サーバ装置が、地物を含む三次元点群データおよび過去の撮像位置、撮像方向を記録する記録部と、撮像位置、撮像方向を端末装置に送信する送信手段とを備え、前記端末装置は、受信した撮像位置、撮像方向を、表示部において地図上に表示する表示手段を備えたことを特徴としている。
【0038】
したがって、過去の撮像位置、撮像方向を容易に知ることができる。
【0039】
(23)(24)(25)この発明に係る地物管理システムは、サーバ装置と当該サーバ装置と通信可能な端末装置とを備えた地物管理システムであって、前記サーバ装置は、道路表示地物を含む反射強度付きの三次元点群データおよび前記道路表示地物の外形を囲った外形領域データを記録しており、前記端末装置は、前記サーバ装置から前記道路表示地物の外形領域データを取得する外形領域データ取得手段と、当該道路表示地物の外形領域データに対応する三次元点群データを、前記サーバ装置から取得する三次元点群データ取得手段と、取得した道路表示地物の外形領域と三次元点群データとを重ねて表示部に表示する表示手段とを備えたことを特徴としている。
【0040】
したがって、道路表示地物の劣化の程度を容易に判定することができる。
【0041】
(26)この発明に係る地物管理方法は、道路表示地物を含む反射強度付きの三次元点群データおよび前記道路表示地物の外形を囲った外形領域データを記録しておき、前記道路表示地物の外形領域データを取得し、当該道路表示地物の外形領域データに対応する三次元点群データを取得し、取得した道路表示地物の外形領域と三次元点群データとを重ねて表示部に表示することを特徴としている。
【0042】
したがって、道路表示地物の劣化の程度を容易に判定することができる。
【0043】
「受信手段」は、実施形態においては、ステップS602に対応して属性データサーバ装置60が行う処理がこれに対応する。
【0044】
「撮像画像・点群データ対応手段」は、実施形態においては、ステップS701~S707がこれに対応する。
【0045】
「画像送信手段」は、実施形態においては、ステップS602がこれに対応する。
【0046】
「外形領域データ取得手段」は、実施形態においては、ステップS651がこれに対応する。
【0047】
「三次元点群データ取得手段」は、実施形態においては、ステップS652がこれに対応する。
【0048】
「表示手段」は、実施形態においては、ステップS653がこれに対応する。
【0049】
「プログラム」とは、CPUにより直接実行可能なプログラムだけでなく、ソース形式のプログラム、圧縮処理がされたプログラム、暗号化されたプログラム等を含む概念である。
【図面の簡単な説明】
【0050】
【
図1】この発明の一実施形態による地物管理システムの機能ブロック図である。
【
図3】携帯端末装置21のハードウエア構成である。
【
図4】属性サーバ装置60のハードウエア構成である。
【
図7】地盤点を検出するための処理を示す図である。
【
図9】地物の平面図に三次元点群データを重ねた状態を示す図である。
【
図12】地物の三次元点群データに基づいて地物名を推定する処理を説明するための図である。
【
図16】ユーザによって撮像された地物の撮像画像である。
【
図17】三次元点群データに基づいて生成した地物の三次元モデルを示す図である。
【
図18】角度を変えて投影して生成した二次元投影画像の例である。
【
図19】撮像画像から地物の輪郭を抽出した輪郭画像である。
【
図20】二次元投影画像の地物の輪郭線に基づいて切り出した地物の撮像画像である。
【
図21】撮像位置Pと仮想位置P1、P2・・・P23、P24を示す図である。
【
図22】ユーザによって地物がマークされた撮像画像を示す図である。
【
図23】カメラのファインダー画面に前回画像を重ねて表示した例である。
【
図24】第2の実施形態による地物管理システムの機能ブロック図である。
【
図26】センターラインの輝度つき三次元点群データと外形領域とを重ねて表示した状態を示す図である。
【
図27】この発明の第3の実施形態による点群データ管理システムの機能ブロック図である。
【
図28】点群データ管理システムのシステム構成である。
【
図30】地物の三次元点群データの取得と三次元モデル生成のフローチャートである。
【
図31】地物の三次元点群データの取得と三次元モデル生成のフローチャートである。
【
図33】
図33Aは第1の方向からの地物の第1三次元点群データであり、
図33Bは第2の方向からの地物の第2三次元点群データである。
【
図37】第4の実施形態による点群データ管理システムの機能ブロック図である。
【
図38】経時変化取得のためのフローチャートである。
【
図39】経時変化取得のためのフローチャートである。
【
図41】日時の異なる三次元点群データの選択を求める画面例である。
【
図42】第5の実施形態による地物検索システムの機能ブロック図である。
【
図48】各時刻における撮像軌跡200と地物106との関係を示す図である。
【
図49】検索対象地物にマークが付された画像を示す図である。
【発明を実施するための形態】
【0051】
1.第1の実施形態
1.1全体構成
図1に、この発明の一実施形態による地物管理システムの全体構成を示す。サーバ装置210の記録部214には、地物を含む絶対座標による三次元点群データ222が記録されている。
【0052】
携帯端末装置240は、カメラ244を備えている。カメラ244によって撮像された地物の撮像画像は、画像送信手段242によってサーバ装置210に送信される。この際、カメラ244に撮像位置付加機能があれば当該撮像位置(絶対座標による位置)が併せてサーバ装置210に送信される。カメラ244にかかる機能がなければ、GPS等による撮像位置が付されてサーバ装置210に送信される。
【0053】
サーバ装置210の受信手段216は、撮像画像および撮像位置を受信する。二次元投影画像生成手段218は、撮像位置に基づいて、当該撮像位置から周囲の三次元点群データを見た時の二次元投影画像を複数の角度について生成する。比較手段220は、生成された複数の二次元投影画像のうち、受信した撮像画像と最も良く合致する二次元投影画像を選択する。
【0054】
これにより、当該撮像された地物の画像を選択された二次元投影画像の地物と対応付けて記録する。このようにして、三次元点群データに対し、外観状況などを示す撮像画像を関連づけて記録することができる。
【0055】
1.2システム構成
図2に、一実施形態による点群データ管理システムのシステム構成を示す。この実施形態では、点群サーバ装置40a、40b・・・40nおよび属性データサーバ装置60によって、サーバ装置が構成されている。
【0056】
インターネット上には点群サーバ装置40a、40b・・・40nが設けられている。また、属性データサーバ装置60も設けられている。これらサーバ装置40a、40b・・・40n、60に、インターネットを介して通信可能に端末装置20a・・・20n、携帯端末装置20a・・・20nが設けられている。
【0057】
携帯端末装置21のハードウエア構成を、
図3に示す。CPU(GPU等でもよい。以下同じ)80には、メモリ82、タッチ・ディスプレイ84、不揮発性メモリ86、通信回路92、カメラ88、GPS受信機98が接続されている。通信回路92は、インターネットに接続するためのものである。携帯端末装置21としては、スマートフォン、タブレット、ウエアラブルコンピュータなどを用いることができる。
【0058】
不揮発性メモリ86には、オペレーティングシステム94、携帯端末プログラム96が記録されている。携帯端末プログラム96は、オペレーティングシステム94と協働してその機能を発揮するものである。
【0059】
属性データサーバ装置60のハードウエア構成を、
図4に示す。CPU81には、メモリ83、ディスプレイ85、ハードディスク87、DVD-ROMドライブ89、キーボード/マウス91、通信回路93が接続されている。通信回路93は、インターネットに接続するためのものである。
【0060】
ハードディスク87には、オペレーティングシステム95、属性サーバプログラム97が記録されている。属性サーバプログラム97は、オペレーティングシステム95と協働してその機能を発揮するものである。これらプログラムは、DVD-ROM99に記録されていたものを、DVD-ROMドライブ89を介して、ハードディスク87にインストールしたものである。
【0061】
端末装置20a・・・20n、点群サーバ装置40a、40b・・・40nのハードウエア構成も同様である。ただし、端末装置20aにおいては、属性サーバプログラム97に代えて端末プログラムが記録されている。また、点群サーバ装置40a、40b・・・40nにおいては、属性サーバプログラム97に代えて点群サーバプログラムが記録されている。
【0062】
1.3点群データの公開処理
測量事業者は、自動車などに搭載したMMSなどにより道路および地物の三次元点群データおよび動画を生成する。生成された三次元点群データは、たとえば、DVD-ROMなどの記録媒体に記録され、端末装置20のハードディスク87に取り込まれる。
【0063】
ここで、地物とは、たとえば、道路設計基準情報(距離標、道路中心線、測点など)、道路面地物(車道部、歩道部、軌道敷など)、道路面と領域を共有する地物(停止線、区画線、横断歩道、路面標示など)、道路面以外の地物(標識柱、照明柱、信号機、歩道橋など)、道路面を指示する地物(擁壁、橋梁、法面、トンネル、シェッド等)である。なお、道路地物には限らない。
【0064】
測量事業者は、端末プログラムを起動し記録された三次元点群データに基づいて属性データを生成する。
図5に、端末プログラム96における属性データ生成処理のフローチャートを示す。
【0065】
端末装置20aのCPU81は、まず、記録されている三次元点群データを読み出す(ステップS1)。三次元点群データの例を
図6に示す。この実施形態では、測定対象の色、レーザの反射強度も含めて計測を行った三次元点群データとしている。また、三次元点群データには、測定方法・測定機器の情報が記録されている。
【0066】
CPU80は、この三次元点群データにおいて、所定距離内にある点同士をクラスタとしてまとめる。これにより、さまざまな大きさのクラスタが形成されることになる。そして、CPU81は、所定体積、所定点群数以下、所定点群密度以下などのクラスタをノイズとして除去する(ステップS2)。
【0067】
続いて、CPU81は、Cloth Simulation(クロスシミュレーション)手法などを用いて、地盤点(地表面)の抽出を行う(ステップS2)。地盤点抽出において、まず、CPU80は、三次元点群データの標高値を反転する。たとえば、
図7Aに示すような断面の三次元点群データ(図においては点群を線として表している)があれば、
図7Bに示すような反転三次元点群データが得られる。
【0068】
次に、CPU81は、反転三次元点群データに対して上方向から布をかけたようにシミュレーションを行う。
図7Cに、シミュレーションされた布を破線にて示す。続いてCPU81は、当該シミュレーションされた布が接する三次元点群データを地盤点として抽出する。次に、CPU81は標高値を再反転して、
図7Dに示すような地盤点を得る。
【0069】
このようにして抽出された地盤点は、概ね正確であるが、
図7Dに示すように、地物の存在する近傍100において一部地物を含んでしまうことがある。そこで、抽出された各地盤点によって形成される線の法線方向を算出し、当該法線が上下方向に対して所定角度以上(たとえば30度以上)の部分を地盤点から除く。これにより、
図7Eに示すような地盤点を得ることができる。
【0070】
なお、この実施形態では、地盤点抽出にCloth Simulation(クロスシミュレーション)を用いたが、最下点抽出方法など他の方法によって地盤点を抽出してもよい。
【0071】
以上のようにして地盤点を抽出すると、CPU81は、三次元点群データから地盤点を取り除く。これにより、地盤の上に存在する地物のみの三次元点群データが得られる(ステップS4)。
【0072】
次に、CPU81は、ハードディスク87に記録されている地物の平面的配置を示す設計データを読み出す。この設計データは、上記三次元点群データを計測した地物の設計時の図面である。
図8に、設計図の例を示す。CPU80は、この設計データに基づいて、各地物の平面形状を抽出する(ステップS5)。この実施形態では、地物の平面外形形状を内包する矩形として平面形状を抽出するようにしている。なお、各地物の平面外形形状をそのまま平面形状として抽出するようにしてもよい。
【0073】
続いて、CPU81は、この平面形状に地物のみの三次元点群データを重ねる。平面形状の基となった設計データの絶対座標と、三次元点群データの絶対座標を合致させて重ね合わせを行う。なお、この際、平面形状の高さ方向の位置を、三次元点群データの地盤点(地表面)の高さ(標高)に合わせるようにする。合致させた状態を示すのが
図9である。
図9においては、
図7、
図8の地物のうち歩道橋の部分のみを示している。枠線300で示すのが歩道橋(地物)の平面外形形状を囲う矩形の平面形状であり、この平面形状300と歩道橋(地物)の三次元点群データの位置が合致していることがわかる。なお、平面外形形状は、本来平面で表されるものであるが、
図9においては、分かりやすくするため高さを持たせて示している。
【0074】
CPU81は、各地物について、地物の平面形状に対応する三次元点群データのうち最も標高の高いものを選択する。その高さを平面形状に与えて、地物の領域を決定する。これにより、
図10に示すように、地物を囲う立体形状(直方体)を特定することができる。CPU81は、このようにして生成した立体形状を外形領域データとして記録する。この実施形態では、平面形状と水平方位高の絶対座標による位置と高さとによって外形領域データを記録するようにしている。
【0075】
次に、CPU81は、三次元点群データに各地物の領域を重ねて、ディスプレイ84に表示する。操作者は、この画面をみて各地物の領域をマウス91によって選択する。これにより、地物名などの属性データの入力画面が表示されるので、操作者がこの入力を行う。また、外形領域データの立体形状の頂点の座標に基づいて、中心位置(その他、地物を代表する位置を用いてもよい)の座標を算出し地物の座標位置とする。このようにして、属性データを生成し記録することができる。
図11に、この実施形態における属性データの項目を示す。作成日時は、三次元点群データの作成日時(計測日時)である。地物名は、地物の名称である。地物領域は、上記地物の外形を示す外形データである。地物位置は、上記にて算出した中心位置である。この実施形態では、三次元点群データは、XML形式にて記録するようにしている。
【0076】
なお、上記では、地物名を操作者が入力するようにしているが、三次元点群データに基づいて地物名を推定するようにしてもよい。たとえば、
図12に示すように、地物の三次元点群データ6を異なる角度の平面に投影して、当該投影した画像と地物名を学習データとして深層学習プログラム(その他の機械学習プログラムを用いてもよい)を学習させる。さまざまな地物について学習を行い、学習済みの地物推定プログラムを得る。この地物推定プログラムに、地物の推定を行う対象の三次元点群データを与え、自動的に地物名を推定して付与するようにしてもよい。あるいは、推定した地物名を表示し、操作者に確認をさせるようにしてもよい。
【0077】
また、三次元点群データ6と外形領域がずれている可能性もあるので、ディスプレイ85に表示し、両者の位置が合致するように操作者がマウスなどで位置合わせをするようにしてもよい。
【0078】
以上のようにして属性データを得ることができる。
【0079】
なお、上記では、平面データに高さを与えることによって地物の外形領域を決定するようにしている。しかし、設計データなどの平面データが無い場合には、三次元点群データ自体から外形領域を決定するようにしてもよい。
【0080】
たとえば、次のようにして外形領域を決定する。三次元空間を小さな立方体グリッドで分割し、上下左右斜めに隣接するグリッドに点が存在する場合、これらを一つにまとめていく。たとえば、コネクテッド・コンポーネントを用いた空間ラベリングの手法を用いることができる。
【0081】
点の存在するグリッドとしてまとめられた各領域について、所定体積、所定点群数以下、所定点群密度以下などの領域はノイズであるとして除去する。残った各領域が地物に対応する領域となる。各領域について、その外形を囲う直方体を設定する。この直方体が地物の外形領域である。
【0082】
以上のようにして、端末装置20において三次元点群データに対応する属性データを生成することができる。測量事業者は、納品先にこの三次元点群データと属性データを納品する。
【0083】
また、測量事業者の判断により、属性データのみを属性データサーバ装置60にアップロードすることができる。これにより、三次元点群データを必要とする企業が、属性データサーバ装置60にアクセスして属性データを参照することができる。属性データに、対応する三次元点群データの提供企業の情報を記録しておけば、三次元点群データを必要とする企業が、これに基づいて測量事業者に三次元点群データの入手依頼を行うことができる。
【0084】
また、三次元点群データを点群サーバ装置40にアップロードするようにしてもよい。三次元点群データの依頼者が地方公共団体などである場合、所定の点群サーバ装置40にアップロードするように求めることもある。これにより、三次元点群データと属性データが、インターネット上で公開されることになる。
【0085】
さらに、三次元点群データや属性データの外形領域データは、絶対座標にて示されている。したがって、異なる事業者が、それぞれ異なる点群サーバ装置にアップロードした同一地物についての三次元点群データが複数個ある場合、少なくとも一つの属性データがアップロードされていれば、これら複数の三次元点群データを取得することができる。たとえば、同一地物について、事業者によって異なる方向からの三次元点群データがある場合、両者を取得することで、より完全な三次元点群データを得ることができる。
【0086】
1.4地物管理処理
図13に、地物管理処理のフローチャートを示す。たとえば損傷の生じている地物の近くに行って、ユーザ(当該地物の管理担当者など)が携帯端末装置21のカメラ88にて、地物を撮像する(ステップS601)。携帯端末装置21のCPU80(以下、携帯端末装置21と省略することがある)は、ユーザの操作に応じて、このようにして生成された撮像画像を、属性データサーバ装置60に送信する(ステップS602)。この際、携帯端末装置21は、撮像時にGPS受信機98にて取得した位置(撮像位置)を、併せて送信する。
図16に、撮像画像の例を示す。
【0087】
これを受けた属性データサーバ装置60のCPU81(以下属性データサーバ装置60と省略することがある)は、当該撮像位置の近傍の地物の属性データを取得する(ステップS701)。属性データには、地物の種別(地物名)や地物の位置が記録されているので、撮像位置から所定距離内にある地物を抽出する。
【0088】
次に、属性データサーバ装置60は、抽出した地物の外形領域に基づいて、各点群サーバ装置40a、40b・・・40nに対して、当該外形領域に含まれる三次元点群データ(すなわち地物の三次元点群データ)を記録していれば送信するように依頼する(ステップS702)。
【0089】
点群サーバ装置40a、40b・・・40nのうち、対応する三次元点群データを記録保持している点群サーバ装置40は、これに応じて当該地物の三次元点群データを属性データサーバ装置60に返信する(ステップS801)。
【0090】
属性データサーバ装置60は、受信した地物の三次元点群データに基づいて外形を表す三次元モデル(絶対座標にて特定される三次元モデル)を生成する(ステップS703)。なお、この三次元モデルは、予め生成して記録しておいてもよい。各地物について生成された三次元モデルの例を、
図17に示す。
【0091】
次に、各地物について生成された三次元モデルについて、
図17に示す撮像位置PHを中心として、角度を変えながら二次元投影画像を生成する(ステップS704)。生成された二次元投影画像の例を
図18A、B、Cに示す。
図18は、3つの角度からの二次元投影画像のみを示しているが、他の角度からの二次元投影画像も同様に生成される。
【0092】
続いて、属性データサーバ装置60は、撮像画像に写し出された地物の輪郭画像を生成する。撮像画像から、そこに写し出された所定のオブジェクト(ここでは地物)の輪郭を抽出する処理は、たとえばMask R-CNN(https://github.com/matterport/Mask_RCNN)によって行うことができる。
図19に輪郭画像を示す。
【0093】
属性データサーバ装置60は、
図19の輪郭化された撮像画像と、
図18に示す各二次元投影画像とを比較し、最も良くマッチングするものを選択する(ステップS705)。このマッチングには、たとえばSIFT、SURF、KAZE、A-KAZEを用いることができる。たとえば、
図18Bの二次元投影画像が選択されたものとする。このマッチングにより、
図18Bを生成した際の角度に基づいて、撮像方向も得ることができる。
【0094】
次に、属性データサーバ装置60は、選択された二次元投影画像の中にある地物の外形を抽出する。さらに、この外形に基づいて撮像画像を切り取り、地物のみの撮像画像を得る(ステップS706)。切り取って得られた地物画像を
図20に示す。
【0095】
属性データサーバ装置60は、地物画像および撮像位置、撮像方向を当該地物の属性データに対応付けて記録する(ステップS707)。
【0096】
したがって、各端末装置20a・・・20nや各携帯端末装置21a・・・21nから、属性データサーバ装置60にアクセスして、各地物の撮像画像を閲覧・取得することができる。これによって、各地物の管理を容易に行うことができる。また、現場において撮像を行う者も、自ら地物の三次元点群データに対する紐付けを行う必要なく、対応づけを自動的に行うことができる。
【0097】
1.5その他
(1)上記実施形態では、二次元投影画像を生成する際に、携帯端末装置21から受信した撮像位置をそのまま用いている。しかし、その位置精度に問題がある場合には、
図21に示すように、受信した撮像位置Pの周りに仮想位置P1、P2・・・P23、P24を設定し、それぞれを中心として二次元投影画像を生成するようにしてもよい。
【0098】
これらによって生成された二次元投影画像について撮像画像とのマッチングを行い、最も良く合致する二次元投影画像を選択する。選択された二次元投影画像に対応する仮想位置を、修正された撮像位置として記録する。
【0099】
また、平面的な位置(緯度経度)だけでなく、高さ(標高)についても受信した高さに対して上下に変化させて仮想位置を設定するようにしてもよい。
【0100】
(2)上記実施形態では、撮像画像の地物の輪郭と、二次元投影画像の地物の輪郭(三次元モデル)とを比較してマッチングを行うようにしている。しかし、三次元点群データを二次元投影し、点群データと撮像画像とを比較するようにしてもよい。この場合、撮像画像がカラーであれば、二次元投影した点群データも計測時の色データに基づいてカラーとし、色も含めたマッチングを行うことで合致度の判定精度を高めることができる。
【0101】
(3)上記実施形態では、撮像位置から所定範囲内にある地物の全てについて二次元投影画像を生成し、撮像画像全体とマッチングを行うようにしている。しかし、撮像画像中に地物が実質的に一つだけ撮像されているような場合には、撮像画像中の地物名を特定し、特定された地物名の三次元点群データのみを対象として二次元投影画像を生成し、地物の撮像画像とのマッチングを行うようにしてもよい。
【0102】
この場合、たとえば、
図22に示すように、携帯端末装置21を操作して、ユーザが撮像画像中から注目する地物の部分にマークを付して、属性データサーバ装置60に送信するようにしてもよい。この際、ユーザは、携帯端末装置21を操作し、地物名(予め定められた地物名のプルダウンメニューから選択することが好ましい)を入力し、併せて送信する。
【0103】
属性サーバ装置60においては、撮像位置から所定範囲内にある地物のうち、送られてきた地物名のものを選択し、二次元投影画像を生成する。この時、各地物ごとに異なる角度からの二次元投影画像を生成する。
【0104】
マッチングにおいては、ユーザが選択した地物の撮像画像と、各地物の二次元投影画像とを比較する。最も良く合致した地物の二次元投影画像に対応付けて地物の撮像画像を記録する。
【0105】
なお、マッチングは、三次元モデルを用いてもよいし、点群データにて行うようにしてもよい。
【0106】
また、上記では、ユーザが地物名を入力するようにしている。しかし、携帯端末装置21または属性データサーバ装置60において、撮像された画像中のオブジェクトを識別し、地物名を判別するようにしてもよい。各地物の画像と地物名とを学習データとして学習したディープラーニング等の学習モデルを用い、画像中の地物を抽出してその地物名を得ることができる(たとえば、YOLO、Mask R-CNNなどのプログラムを用いることができる)。この場合、ユーザが撮像画像中から地物を選択し、選択された地物の地物名を携帯端末装置21または属性データサーバ装置60が自動的に判定するようにすることが好ましい。
【0107】
(4)上記実施形態では、撮像位置から所定範囲内にある地物について二次元投影画像を生成し、撮像画像とマッチングを行うようにしている。そのマッチングにおいては、画像情報のみを用いている。
【0108】
しかし、撮像画像中の各地物の地物名をユーザが入力し、あるいは携帯端末装置21や属性データサーバ装置60にて自動判定(上述のYOLO等を用いる)し、当該地物名も含めてマッチングを行うようにしてもよい。
【0109】
また、複数の地物が撮像画像中にある場合画像から各地物名を特定し、一方、
属性データから各地物の地物名を取得し、これら地物名の位置関係(画像上での順番)も含めてマッチングを行うようにしてもよい。
【0110】
(5)上記実施形態では、三次元点群データおよび属性データにおいて絶対座標を用いて表現するようにしている。しかし、三次元点群データと属性データが対応付けられていれば、必ずしも絶対座標である必要はない。
【0111】
(6)上記実施形態では、撮像位置の周囲に地物が多く存在すればマッチングの精度が向上する。しかし、道路と法面しか撮像画像中に写っていないような場合であっても、撮像位置を特定することができる。
【0112】
たとえば、標識などの地物のない山間の道路において事故が生じ、その現場の撮像写真に基づいて、事故現場を特定する場合になどにも用いることができる。この場合、撮像画像を画像セグメンテーション手法の一つであるSegNetなどの深層学習によって学習されたモデルにて、道路面と法面に分離する。一方、三次元点群データにて各位置からの道路面と法面を分離した二次元平面画像を生成する。両者が最も良く合致する点が、撮像位置(事故現場)であると判定することができる。
【0113】
また、一つの地物において同じような構造が複数箇所ある場合(たとえば橋の橋桁)に、各箇所ごとに上述の仮想撮像位置、撮像方向を設定して二次元投影画像を生成してマッチングを行うことにより、撮像された位置が特定できる。これにより、いずれの箇所(複数あるうちのいずれの橋桁)が撮像されたのかを特定することができる。
【0114】
(7)上記実施形態では、携帯端末装置21から撮像画像、撮像位置を属性データサーバ装置60に送信するようにしている。しかし、携帯端末装置21に地磁気センサ(方位を取得)、ジャイロセンサ(ピッチ、ロール等の傾き)などを設けて、撮像方向も送信するようにしてもよい。属性データサーバ装置60では、受信した撮像方向に基づいて、その前後の角度についてのみ二次元平面画像を生成する。これにより、マッチング精度を高めることができる。
【0115】
(8)上記実施形態では、カメラにて地物を撮像する際に、過去の履歴は用いられていなかった。しかし、カメラにて地物を撮像する際に、その撮像位置、撮像方向を属性データサーバ装置60に送信し、過去に近傍において同様の方向から撮像された結果が保存されていれば、これを取得するようにしてもよい。属性データサーバ装置60は、過去の撮像位置、撮像方向に基づいて二次元投影画像を生成し、これを携帯端末装置21に送信する。過去二次元投影画像を受信した携帯端末装置21は、
図23に示すように、その過去画像IMをカメラのファインダー画面に透過画像として重ねて表示する。
図23では、一部の地物の過去画像IMのみを表示しているが、過去画像全体を表示するようにしてもよい。
【0116】
これにより、過去に撮像した位置と同じ位置にて撮像を行う必要がある場合に、その位置や方向を合致させるのが容易となる。たとえば、特定の地物の経時変化を観測する場合などに有効である。
【0117】
なお、過去の二次元投影画像に代えて、過去の撮像画像を透過画像として重ねて表示するようにしてもよい。
【0118】
さらに、過去の画像を重ねて表示することに代えて、あるいはこれに加えて、地図上に過去の撮像時の撮像位置と撮像方向を示すようにしてもよい。この際、現在の撮像位置と撮像方向も示すことで、過去の撮像位置と撮像方向に合致させて撮像を行うことが容易となる。
【0119】
(9)上記実施形態では、撮像画像中の地物を特定してその輪郭と、三次元点群データの輪郭とに基づいてマッチングを行うようにしている。しかし、撮像画像中から、地物及び地物以外の全ての輪郭(エッジ)を抽出し、これと三次元点群データの輪郭とをマッチングさせるようにしてもよい。撮像画像からのエッジ抽出には、たとえば、プレウイット・フィルタ、ソーベル・フィルタ、ラプラシアン・フィルタ、LoGフィルタ、DoGフィルタ、Canny方、Hough変換などを用いることができる。
【0120】
(10)上記実施形態では、第1点群サーバ装置40a、第2点群サーバ装置40bが別のサーバ装置として構築されていたが、単一のサーバ装置として構築されていてもよい。
【0121】
(11)上記実施形態では、第1点群サーバ装置40a、第2点群サーバ装置40bと属性データサーバ装置60とが別のサーバ装置として構築されていたが、単一のサーバ装置として構築されていてもよい。
【0122】
(12)上記実施形態では、属性データサーバ装置によってステップS702、S703、S704、S705、S706の処理を行っている。しかし、これを携帯端末装置や端末装置において実行し、抽出した地物の画像を属性データサーバ装置に送信して記録するようにしてもよい。
【0123】
(13)上記実施形態では、携帯端末装置によって地物を撮像し、撮像した画像を送信するようにしている。しかし、カメラなどで撮像した画像をPC等の端末装置に取り込んで、送信するようにしてもよい。
【0124】
(14)上記実施形態および変形例は、その本質に反しない限り、他の実施形態と組み合わせて実行可能である。
【0125】
2.第2の実施形態
2.1全体構成
図24に、第2の実施形態による地物管理システムの機能ブロック図を示す。この実施形態においては、属性サーバ装置211と三次元点群サーバ装置213とによってサーバ装置が構成されている。
【0126】
端末装置260の外形領域データ取得手段262は、属性サーバ装置211から道路表示物(地物)の外形領域データ224を取得する。この外形領域データは、センターラインなど道路標示物の設置時のものを用いることが好ましい。
【0127】
三次元点群データ取得手段264は、外形領域データ224に基づいて当該外形領域に含まれる道路表示物の三次元点群データ222を取得する。この三次元点群データ222には、各点の輝度も含まれている。
【0128】
表示手段266は、上記取得した外形領域データによる外形領域と三次元点群データの各点を輝度付き(輝度が高いと明るく低いと暗く)で表示する。これにより、道路表示物の設置時の状況が外形領域として示され、現在の状況が三次元点群データの輝度として示される。したがって、道路表示物の補修の必要性、補修箇所などを知ることができる。
【0129】
2.2システム構成
システム構成は、第1の実施形態において示した
図2と同様である。また、点群サーバ装置40、属性データサーバ装置60、端末装置20、携帯端末装置21のハードウエア構成も、第1の実施形態と同様である。
【0130】
2.3地物管理処理
図25に、地物管理処理のフローチャートを示す。図において、端末装置として示しているのは端末プログラムのフローチャート、属性データサーバ装置として示しているのは属性データサーバプログラムのフローチャート、点群サーバ装置として示しているのは点群サーバプログラムのフローチャートである。
【0131】
まず、端末装置20bのCPU81(以下端末装置20bと省略することがある)は、属性データサーバ装置60にアクセスし、所望の道路表示物の存在する場所を指定する(ステップS651)。場所の指定は、たとえば緯度経度などで範囲を指定して行う。住所を入力するようにし、これを緯度経度の範囲に変換してもよい。
【0132】
これを受けて、属性サーバ装置60のCPU(以下属性サーバ装置と省略することがある)は、属性データを検索し当該指定された場所内にある道路表示物の外形領域データを抽出する(ステップS751)。ここで、道路表示物とは、地物の一つであり、道路面に表示された識別マークである。たとえば、センターライン、横断歩道などである。
【0133】
属性サーバ装置60は、抽出した外形領域データ(平面形状データとその絶対座標における位置と高さ)、地物名(センターライン、横断歩道など)などを端末装置20bに送信する。外形領域データが複数抽出されている場合には、これら複数の外形領域データを送信する。
【0134】
端末装置20bは、各点群サーバ装置40a・・・40nにアクセスし、受信した外形領域データの三次元点群データを返信するように要求する(ステップS652)。なお、同一の道路表示物について複数の外形領域データが存在する場合には、端末装置20bにおいて外形領域データの測定日時を表示し、ユーザに選択させるようにしてもよい。ユーザは、最も古い、あるいは道路表示物の設置時の外形領域データを選択する。端末装置20bは、選択された外形領域データに基づいて、三次元点群データを要求する。
【0135】
これを受けて、点群サーバ装置40a・・・40nのうち、当該外形領域データに含まれる三次元点群データを記録している点群サーバ装置は、当該三次元点群データを、各外形領域データに対応付けて端末装置20bに送信する(ステップS851)。
【0136】
端末装置20bは、受信した外形領域データに三次元点群データの輝度を重ねて表示する(ステップS653)。その表示例を
図26に示す。ここでは、センターラインの道路表示物を例として示す。外形領域データに基づいて表示されているのが外形領域600である。高輝度領域602は、輝度の高い三次元点群データによって表示される領域である。三次元点群データは点であるが、
図26においては、集合しているため領域として示されている。
【0137】
外形領域600の中が、全て高輝度領域602にて埋まっていれば、当該センターラインは剥がれ等がなく健全であると判断できる。センターラインに、剥がれや傷などがあれば当該部分のレーザの反射強度は低くなる。したがって、
図26に示すように、外形領域600の中に、低輝度領域604が表示されることになる。これにより、補修の必要なセンターラインや補修箇所を知ることができる。
【0138】
2.4その他
(1)上記実施形態では、平面的な領域を持つ矩形の地物(道路表示物)を対象として説明を行った。しかし、立体的な領域をつ直方体の地物であって、表面が他の部分よりも反射強度の高い地物を対象として、同様の処理を行うことができる。
【0139】
(2)上記実施形態では、矩形の道路表示物を対象としている。しかし、外形領域データとして道路表示物に沿った形状(たとえば道路上に表示された文字の形状)を外形形状データとして記録していれば、そのような形状の道路表示物にも適用することができる。
【0140】
(3)上記実施形態では、三次元点群データの輝度を、外形形状と比較するようにしている。しかし、三次元点群データ自体(輝度値なし)を表示して、外形形状と比較するようにしてもよい。
【0141】
(4)上記実施形態では、第1点群サーバ装置40a、第2点群サーバ装置40bが別のサーバ装置として構築されていたが、単一のサーバ装置として構築されていてもよい。
【0142】
(5)上記実施形態では、第1点群サーバ装置40a、第2点群サーバ装置40bと属性データサーバ装置60とが別のサーバ装置として構築されていたが、単一のサーバ装置として構築されていてもよい。
【0143】
(6)上記実施形態および変形例は、その本質に反しない限り、他の実施形態と組み合わせて実行可能である。
【0144】
3.第3の実施形態
3.1全体構成
図27に、この発明の第3の実施形態による点群データ管理システムの全体構成を示す。第1点群サーバ装置40aには、地物を含む絶対座標による第1方向からの第1三次元点群データファイルが記録されている。第2点群サーバ装置40bには、地物を含む絶対座標による第2方向からの第2三次元点群データファイルが記録されている。属性データサーバ装置60には、地物の外形を囲った絶対座標による外形領域データが記録されている。
【0145】
端末装置20は、これらサーバ装置と通信可能である。端末装置20の三次元点群データ取得手段22は、所望の地物の外形領域データを、属性データサーバ装置60から取得する。三次元点群データ取得手段22は、取得した地物の外形領域データに基づいて、第1点群サーバ装置40aにアクセスし、当該領域に含まれる三次元点群データを第1三次元点群データとして取得する。さらに、三次元点群データ取得手段22は、取得した地物の外形領域データに基づいて、第1点群サーバ装置40bにアクセスし、当該領域に含まれる三次元点群データを第2三次元点群データとして取得する。
【0146】
三次元モデル構築手段24は、上記取得した第1三次元点群データと第2三次元点群データに基づいて、当該地物の三次元形状を構築する。このように、絶対座標の付された外形領域データであることを利用して、インターネット上などに分散して記録されている、対象となる地物の異なる方向からの三次元点群データを集めることができる。したがって、より完全な地物の三次元モデルを形成することができる。
【0147】
3.2システム構成
図28に、第3の実施形態による点群データ管理システムのシステム構成を示す。インターネット上には点群サーバ装置40a、40b・・・40nが設けられている。また、属性データサーバ装置60も設けられている。これらサーバ装置40a、40b・・・40n、60に、インターネットを介して通信可能に端末装置20a、20b・・・20nが設けられている。
【0148】
端末装置20のハードウエア構成を、
図29に示す。CPU80には、メモリ82、ディスプレイ84、ハードディスク86、DVD-ROMドライブ88、キーボード/マウス90、通信回路92が接続されている。通信回路92は、インターネットに接続するためのものである。
【0149】
ハードディスク86には、オペレーティングシステム94、端末プログラム96が記録されている。端末プログラム96は、オペレーティングシステム94と協働してその機能を発揮するものである。これらプログラムは、DVD-ROM98に記録されていたものを、DVD-ROMドライブ88を介して、ハードディスク86にインストールしたものである。
【0150】
点群サーバ装置40、属性データサーバ装置60も、同様のハードウエア構成である。ただし、点群サーバ装置40においては、端末プログラム96に代えて、点群サーバプログラムが記録されている。また、属性データサーバ装置60においては、端末プログラム96に代えて、属性データサーバプログラムが記録されている。
【0151】
3.3三次元モデル構築処理
次に、上記のようにして公開された複数の三次元点群データに基づいて、三次元モデルを構築する処理について説明する。
【0152】
以下では、特定の地物についての三次元モデルを構築する場合について説明する。
【0153】
図30、
図31に、三次元モデル構築のフローチャートを示す。図において、端末装置として示しているのは端末プログラムのフローチャート、属性データサーバ装置として示しているのは属性データサーバプログラムのフローチャート、点群サーバ装置として示しているのは点群サーバプログラムのフローチャートである。
【0154】
まず、端末装置20bのCPU80(以下端末装置20bと省略することがある)は、属性データサーバ60にアクセスし、所望の地物の存在する場所を指定する(ステップS11)。場所の指定は、たとえば緯度経度などで範囲を指定して行う。住所、地名を入力(あるいは検索)するようにし、これを緯度経度の範囲に変換してもよい。また、地図上でクリックや選択した範囲を緯度経度の範囲に変換してもよい。
【0155】
これを受けて、属性サーバ装置60のCPU(以下属性サーバ装置と省略することがある)は、属性データを検索し当該指定された場所内(場所外の近傍を含めてもよい)にある外形領域データを抽出する(ステップS21)。属性サーバ装置60は、抽出した外形領域データ(平面形状データとその絶対座標における位置と高さ)、地物名などを端末装置20bに送信する。
【0156】
端末装置20bは、受信した外形領域データに基づいて外形領域と地物名をディスプレイ84に表示する(ステップS12)。表示例を、
図32に示す。各地物の外形領域102~112が示され、その近傍に地物名が示されている。
【0157】
ユーザは、端末装置20bのマウス90を操作し、所望の地物の外形領域を選択する。ここでは、建物の外形領域110が選択されたものとして説明を進める。この選択を受けて、端末装置20bは、建物の外形領域110の外形領域データを指定して、三次元点群データの要求を各点群サーバ装置40a~40nに送信する(ステップS13)。
【0158】
この要求を受けた各点群サーバ装置40a~40nは、当該外形領域110内の三次元点群データを自らが保持しているかどうかを判断し、保持していれば返送する。ここでは、点群サーバ装置40a~40nのうち、点群サーバ装置40a、40bの2つが、建物の外形領域110の三次元点群データを保持しているものとして説明を進める。
【0159】
点群サーバ装置40aのCPU(以下、点群サーバ装置40aと省略することがある)は、当該建物の外形領域110の三次元点群データを、端末装置20bに返信する(ステップS31)。
【0160】
同様に、点群サーバ装置40bのCPU(以下、点群サーバ装置40bと省略することがある)は、当該建物の外形領域110の三次元点群データを、端末装置20bに返信する(ステップS41)。
【0161】
なお、点群サーバ装置40a、40bは、指定された外形領域110に対して、計測誤差を考慮して広くした領域の三次元点群データを送信するようにしている。計測誤差は、計測方法・機器によって異なるので、当該三次元点群データがどのような計測方法・機器によって計測されたのかにより異なる。したがって、計測方法・機器により上記の広くした領域は異なる。
【0162】
端末装置20bは、点群サーバ装置40aからの三次元点群データ(第1三次元点群データ)と、点群サーバ装置40bからの三次元点群データ(第2三次元点群データ)とを受信する。
図33Aに第1三次元点群データ、
図33Bに第2三次元点群データの例を示す。
図33A、
図33Bに示すように、第1三次元点群データは、紙面に向かって、直方体の手前側から計測したものである。第2三次元点群データは、紙面に向かって、直方体の後ろ側から計測したものである。
【0163】
端末装置20bは、第1三次元点群データと第2三次元点群データの位置を合わせて合成し、
図34に示すような合成三次元点群データを生成する(ステップS14)。この図からも明らかなように、第1三次元点群データ、第2三次元点群データ単独の場合よりも、情報量の多い(手前側と後ろ側からの計測データの双方を持つ)三次元点群データを得ることができる。
【0164】
このようにして得られた合成三次元点群データは、様々な用途に用いることができる。この実施形態では、合成三次元点群データに基づいて、地物の三次元モデルを生成するようにしている。
【0165】
端末装置20bは、合成三次元点群データに基づいて、地物の外形面を生成する(ステップS15)。この処理は、たとえば、三次元凸包アルゴリズム(http:/www.qhull.org/download/)によって行うことができる。
図35Aに、生成された地物の三次元モデルを示す。第1三次元点群データのみで生成した三次元モデル、第2三次元点群データのみで生成した三次元モデルよりも完成度の高い三次元モデルを生成することができる。端末装置20bは、これをディスプレイ84に表示するとともに、ハードディスク86に記録する(ステップS15)。
【0166】
この実施形態によれば、同一地物について、インターネット上に点在する複数の三次元点群データを容易に検索し、これを合成して合成三次元点群データを得ることができる。また、同一地物についての複数の三次元点群データのうちいずれか一つに基づいて、一つの属性データが生成されていれば、上記の検索や合成を行うことができる。これは、属性データが三次元点群データとは独立しており、属性データの外形領域データが絶対座標にて定義されているからである。
【0167】
3.4その他
(1)上記実施形態では、2つの三次元点群データを取得して合成三次元点群データを得ている。しかし、3つ以上の三次元点群データを取得して合成三次元点群データを生成してもよい。
【0168】
(2)上記実施形態では、一つの地物についての合成三次元点群データを得るようにしている。しかし、複数の地物についての合成三次元点群データを得るようにしてもよい。また、所定範囲内にある地物全てについての合成三次元データを得るようにしてもよい。このような例を、
図36A、
図36B、
図36Cに示す。
図36Aが第1三次元点群データ、
図36Bが第2三次元点群データ、
図36Cが合成三次元点群データである。
【0169】
(3)上記実施形態においては、計測方向の異なる三次元点群データを合成している。しかし、地物までの計測距離の異なる三次元点群データや計測機器の異なる(たとえば、MMSとUAVによる計測)三次元点群データを合成してもよい。
【0170】
(4)上記実施形態においては、ステップS21において、場所に対して属性データが一つだけ見いだされた場合について説明した。しかし、異なる測定事業者が同一の場所について三次元点群データを作成し、それぞれが属性データをアップロードしている場合や、同一の事業者であっても、異なる時期に同一の場所について三次元点群データを作成し、それぞれが属性データをアップロードしている場合がある。このような場合には、指定された場所に対して複数の属性データが見いだされる。この場合、属性データサーバ装置60は、複数の属性データがある旨を端末装置20bに送信する。端末装置20bは、複数の属性データについて作成日時、作成機器などをディスプレイ84に表示し、操作者に選択させる。選択された属性データに基づいて、外形領域を送信する(ステップS21)。
【0171】
(5)上記実施形態では、端末装置20bが三次元点群データ要求を行っている(ステップS13)。しかし、属性データサーバ装置60がこれを行い、その結果を端末装置20bに送信するようにしてもよい。
【0172】
(6)上記実施形態では、端末装置20bにおいて三次元点群データの合成や三次元モデルの生成を行っている。しかし、いずれか一方または双方を、属性データサーバ装置60にて行い、その結果を端末装置20bに送信するようにしてもよい。
【0173】
(7)上記実施形態では、ステップS14において、端末装置20bが三次元点群データを取得した際に、いずれの方向から計測したものであるかを表示していない。しかし、これを明確にするために、取得した三次元点群データに付されているデータに基づいて、
図35Bに示すように、矢印にて、地物に対する計測方向と距離を表示するようにしてもよい。矢印の根元が計測位置、矢印の方向が計測方向である。
図35Bの場合であれば、2カ所から計測された三次元点群データが存在することが明確となる。
【0174】
したがって、この画面表示に基づいて、次に計測を行う場合、合成三次元点群データの品質を向上するのであれば、矢印とは異なる方向から計測することが好ましいことが分かる。また、地物の時間的な変化を知りたいのであれば、矢印と同じ位置、方向から計測を行うのが好ましい。
【0175】
(8)上記実施形態では、第1・第2の三次元点群データを単純に合成して合成三次元点群データを生成している。しかし、三次元点群データのうち、同一箇所について第1三次元点群データと第2三次元点群データが存在する場合、当該箇所においては、測定精度の高い三次元点群データのみを採用して合成三次元点群データを生成するようにしてもよい。
【0176】
(9)上記実施形態では、第1点群サーバ装置40a、第2点群サーバ装置40bが別のサーバ装置として構築されていたが、単一のサーバ装置として構築されていてもよい。
【0177】
(10)上記実施形態では、第1点群サーバ装置40a、第2点群サーバ装置40bと属性データサーバ装置60とが別のサーバ装置として構築されていたが、単一のサーバ装置として構築されていてもよい。
【0178】
(11)上記実施形態および変形例は、その本質に反しない限り、他の実施形態と組み合わせて実行可能である。
【0179】
4.第4の実施形態
4.1全体構成
図37に、この発明の第2の実施形態による点群データ管理システムの全体構成を示す。第1点群サーバ装置40aには、地物を含む絶対座標による第1日時における第1三次元点群データファイルが記録されている。第2点群サーバ装置40bには、地物を含む絶対座標による第2日時における第2三次元点群データファイルが記録されている。属性データサーバ装置60には、地物の外形を囲った絶対座標による外形領域データが記録されている。
【0180】
端末装置20は、これらサーバ装置と通信可能である。端末装置20の三次元点群データ取得手段22は、所望の地物の外形領域データを、属性データサーバ装置60から取得する。三次元点群データ取得手段22は、取得した地物の外形領域データに基づいて、第1点群サーバ装置40aにアクセスし、当該領域に含まれる三次元点群データを第1三次元点群データとして取得する。さらに、三次元点群データ取得手段22は、取得した地物の外形領域データに基づいて、第1点群サーバ装置40bにアクセスし、当該領域に含まれる三次元点群データを第2三次元点群データとして取得する。
【0181】
経時変化取得手段25は、取得した第1日時における第1三次元点群データと第2日時における第2三次元点群データとに基づいて、第1日時と第2日時における地物の形状変化を算出する。
【0182】
4.2システム構成
システム構成は、第3の実施形態と同じである。
【0183】
4.3経時変化算出処理
次に、公開された複数の三次元点群データに基づいて、地物の経時変化を取得する処理について説明する。
【0184】
図38、
図39に、地物の経時変化取得のフローチャートを示す。図において、端末装置として示しているのは端末プログラムのフローチャート、属性データサーバ装置として示しているのは属性データサーバプログラムのフローチャート、点群サーバ装置として示しているのは点群サーバプログラムのフローチャートである。
【0185】
まず、端末装置20bのCPU80(以下端末装置20bと省略することがある)は、属性データサーバ60にアクセスし、所望の地物の存在する場所を指定する(ステップS11)。場所の指定は、たとえば緯度経度などで範囲を指定して行う。住所、地名を入力(あるいは検索)するようにし、これを緯度経度の範囲に変換してもよい。また、地図上でクリックや選択した範囲を緯度経度の範囲に変換してもよい。
【0186】
これを受けて、属性サーバ装置60のCPU(以下属性サーバ装置と省略することがある)は、属性データを検索し当該指定された場所内にある外形領域データを抽出する(ステップS21)。属性サーバ装置60は、抽出した外形領域データ(平面形状データとその絶対座標における位置と高さ)、地物名などを端末装置20bに送信する。
【0187】
端末装置20bは、受信した外形領域データに基づいて外形領域と地物名をディスプレイ84に表示する(ステップS12)。表示例を、
図32に示す。各地物の外形領域102~112が示され、その近傍に地物名が示されている。
【0188】
ユーザは、端末装置20bのマウス90を操作し、所望の地物の外形領域を選択する。ここでは、建物の外形領域110が選択されたものとして説明を進める。この選択を受けて、端末装置20bは、建物の外形領域110の外形領域データを指定して、三次元点群データの要求を各点群サーバ装置40a~40nに送信する(ステップS13)。
【0189】
この要求を受けた各点群サーバ装置40a~40nは、当該外形領域110内の三次元点群データを自らが保持しているかどうかを判断し、保持していれば返送する。ここでは、点群サーバ装置40a~40nのうち、点群サーバ装置40a、40bの2つが、建物の外形領域110の三次元点群データを保持しているものとして説明を進める。
【0190】
点群サーバ装置40aのCPU(以下、点群サーバ装置40aと省略することがある)は、当該建物の外形領域110の三次元点群データを、端末装置20bに返信する(ステップS31)。
【0191】
同様に、点群サーバ装置40bのCPU(以下、点群サーバ装置40bと省略することがある)は、当該建物の外形領域110の三次元点群データを、端末装置20bに返信する(ステップS41)。
【0192】
端末装置20bは、点群サーバ装置40aからの三次元点群データ(第1三次元点群データ)と、点群サーバ装置40bからの三次元点群データ(第2三次元点群データ)とを受信する。ここで、第1三次元点群データと第2三次元点群データは、実質的に同じ方向から地物を計測したものである。ただし、その計測日時が異なっている。
【0193】
端末装置20bは、第1三次元点群データに基づいて地物の第1日時における三次元モデルを生成する(ステップS17)。また、第2三次元点群データに基づいて地物の第2日時における三次元モデルを生成する(ステップS17)。
【0194】
端末装置20bは、生成した第1日時の三次元モデルと第2日時の三次元モデルを、ディスプレイ84に比較可能に表示する(ステップS18)。たとえば、
図40に示すように、第1日時の三次元モデル120と第2日時の三次元モデル122を表示する。その下には、地物名と計測年月日が示されている。したがって、
図40の例であれば、2010年2月24日におけるビルの外形と、2019年3月5日におけるビルの外形が変化していることが比較して分かる。
【0195】
なお、比較を容易にするために、両者を異なる色で重ねて表示するようにしてもよい。
【0196】
また、たとえば、第1日時において地物が存在せず、第2日時において地物が存在するような状況があれば(たとえば、道路標識が新たに設置されたなど)、第2日時において当該場所の計測データがあれば地物の三次元点群データを得ることができる。ただし、第1日時において当該場所の計測データがあったとしても、地物の三次元点群データは得られない。したがって、これに基づく三次元モデルを表示することで、第1日時には地物がなく、第2日時には地物が存在することが明確となる。
【0197】
なお、上記のような経時比較の目的からは、地物に対する計測方向が同じ(あるいは類似した)三次元点群データを用いることが好ましい。
【0198】
4.4その他
(1)上記実施形態では、2つの日時における三次元点群データによってそれぞれ三次元モデルを生成し、比較を行うようにしている。しかし、3つ以上の日時における三次元点群データを取得して、それぞれ三次元モデルを生成し、比較を行うようにしてもよい。
【0199】
(2)上記実施形態では、一つの地物についての経時比較を行うようにしている。しかし、複数の地物についての経時比較を行うようにしてもよい。また、所定範囲内にある地物全てについての経時比較を行うようにしてもよい。
【0200】
(3)上記実施形態では、端末装置20bが三次元点群データ要求を行っている(ステップS13)。しかし、属性データサーバ装置60がこれを行い、その結果を端末装置20bに送信するようにしてもよい。
【0201】
(6)上記実施形態では、端末装置20bにおいて三次元モデルの生成を行っている。しかし、属性データサーバ装置60にて行い、その結果を端末装置20bに送信するようにしてもよい。
【0202】
(7)上記実施形態では、ステップS17において、端末装置20bが三次元点群データを取得した際に、各三次元点群データがいつ計測されたものであるかを表示していない。しかし、これを明確にするために、取得した三次元点群データに付されているデータに基づいて、
図41に示すように、各三次元点群データの測定日時を表示するようにしてもよい。多くの日時の三次元点群データが存在する場合には、このような表示を行うことが好ましい。ユーザは、これを見て、比較したい年月日を所定数選択し、三次元モデルを表示させることができる。
【0203】
(8)上記実施形態および変形例は、その本質に反しない限り、他の実施形態と組み合わせて実行可能である。たとえば、同一日時(同一月や同一年でもよい)において異なる方向からの複数の三次元点群データがある場合には、合成三次元点群データを生成して三次元モデルを生成し、これを他の日時の三次元モデルと比較するようにしてもよい。
【0204】
(9)上記実施形態では、第1点群サーバ装置40a、第2点群サーバ装置40bが別のサーバ装置として構築されていたが、単一のサーバ装置として構築されていてもよい。
【0205】
(10)上記実施形態では、第1点群サーバ装置40a、第2点群サーバ装置40bと属性データサーバ装置60とが別のサーバ装置として構築されていたが、単一のサーバ装置として構築されていてもよい。
【0206】
(11)上記実施形態では、検索された動画データを端末装置において再生するようにしている。この際、当該動画を撮像した近傍の地図や三次元点群データなどを併せて表示するようにしてもよい。また、動画の再生に合致するように、時間とともに変化する撮像位置から見た三次元点群データを表示するようにしてもよい。
【0207】
(12)上記実施形態では、2つの時点の地物の三次元モデルを比較表示するようにしている。しかし、両者について、三次元モデルの外形線の法線ベクトルを表示して、表面の角度変化を分かりやすくしてもよい。
【0208】
また、微小エリア(25cm立方領域)に区分して、当該エリア内の点の数を比較して表示してもよい。これにより、地物表面の粗さ度合いを比較することができる。
【0209】
さらにまた、各点や各エリアの反射強度を比較してもよい。これによって、表面の滑らかさを比較することができる。
【0210】
また、三次元モデルの体積を比較するようにしてもよい。これにより、植栽などの成長、葉の付き具合などを比較できる。
【0211】
(13)上記実施形態および変形例は、その本質に反しない限り、他の実施形態と組み合わせて実行可能である。
【0212】
5.第5の実施形態
5.1全体構成
図42に、この発明の第5の実施形態による地物検索システムの機能ブロック図を示す。地物検索サーバ装置150の記録部158には、三次元点群データの地物名、外形領域、位置などの属性データ、動画データが記録されている。
【0213】
地物検索サーバ装置150の属性データ送信手段150は、記録部158に記録されている三次元点群データに対応する地物名または外形領域を読み出して、端末装置40に送信する。端末装置40の地物属性データ表示手段182は受信した地物の地物名または外形領域を、表示部188に表示する。
【0214】
端末装置40を操作する操作者は、マウス90を用いて表示された地物の地物名または外形領域を見て、動画を検索したい地物を選択する。選択情報送信手段184は、いずれの地物が選択されたかを、地物検索サーバ装置150に送信する。
【0215】
地物検索サーバ装置150の地物位置取得手段154は、選択された地物の位置を取得する。動画データ送信手段156は、動画データを時間順に探索し、地物位置の近傍の撮像位置情報が付された部分を抽出する。抽出した動画データを、端末装置40に送信する。端末装置40の動画再生手段186は、受信した動画データを表示部188において再生する。
【0216】
これにより、膨大な量の動画データ中から、所望の地物が撮像されている箇所を容易に検索して表示することができる。
【0217】
5.2システム構成
図43に、第3の実施形態による点群データ管理システムのシステム構成を示す。インターネット上には点群サーバ装置40a、40b・・・40nが設けられている。また、地物検索サーバ装置62も設けられている。点群サーバ装置40a、40b・・・40nには、計測された地物の三次元点群データと計測時に撮像された動画データ(撮像位置情報付き)が記録されている。地物検索サーバ装置62には、
図11に示すような属性データが記録されている。これらサーバ装置40a、40b・・・40n、60に、インターネットを介して通信可能に端末装置20a、20b・・・20nが設けられている。
【0218】
端末装置20のハードウエア構成は、
図29と同様である。点群サーバ装置40、地物検索サーバ装置62も、同様のハードウエア構成である。ただし、点群サーバ装置40においては、端末プログラム96に代えて、点群サーバプログラムが記録されている。また、地物検索サーバ装置62においては、端末プログラム96に代えて、地物検索サーバプログラムが記録されている。
【0219】
5.3地物検索処理
図44に、地物検索のフローチャートを示す。図において、端末装置として示しているのは端末プログラムのフローチャート、地物検索サーバ装置として示しているのは地物検索サーバプログラムのフローチャートである。
【0220】
まず、端末装置20bのCPU80(以下端末装置20bと省略することがある)は、地物検索サーバ装置62にアクセスし、所望の地物の存在する場所を指定する(ステップS11)。場所の指定は、たとえば緯度経度などで範囲を指定して行う。住所、地名を入力(あるいは検索)するようにし、これを緯度経度の範囲に変換してもよい。また、地図上でクリックや選択した範囲を緯度経度の範囲に変換してもよい。
【0221】
これを受けて、地物検索サーバ装置62のCPU(以下地物検索サーバ装置62と省略することがある)は、属性データを検索し当該指定された場所内にある外形領域データを抽出する(ステップS51)。地物検索サーバ装置62は、抽出した外形領域データ(平面形状データとその絶対座標における位置と高さ)、地物名などを端末装置20bに送信する。
【0222】
端末装置20bは、受信した外形領域データに基づいて外形領域と地物名をディスプレイ84に表示する(ステップS12)。表示例を、
図32に示す。各地物の外形領域102~112が示され、その近傍に地物名が示されている。
【0223】
ユーザは、端末装置20bのマウス90を操作し、所望の地物の外形領域を選択する。ここでは、標識の外形領域106が選択されたものとして説明を進める。この選択を受けて、端末装置20bは、標識の外形領域106の外形領域データを指定して、この標識が撮像されている動画の部分を検索する指示を、地物検索サーバ装置62に送信する(ステップS19)。
【0224】
地物検索サーバ装置62は、指定された地物の属性データを読み出し、地物の位置(絶対座標による位置)を取得する(ステップS52)。次に、地物検索サーバ装置62は、この地物位置に基づいて、撮像動画データ162において当該地物が撮像されている部分を抽出する(ステップS53)。
【0225】
図45に、撮像動画データ162のデータ構成を示す。動画本体データ170に関連づけて、撮像時刻を示すタイムスタンプTS1、TS2・・・が関連づけて記録されている。また、撮像したカメラ(もしくはカメラを搭載した車など)の位置が絶対座標にて記録されている。また、図示していないが、撮像動画データ162には、当該動画全体としての撮像エリア情報が関連づけられて記録されている。
【0226】
図46に撮像エリア情報の考え方を示す。実線で示すのが撮像経路Rである。開始点Sから撮像を開始し、終了点Eまで撮像を行ったことが示されている。この撮像経路Rを外包する破線にて示すのが撮像エリアARである。撮像エリアARは、たとえば、対角の絶対座標(撮像エリア情報)によって特定される。
【0227】
図47に、ステップS53の動画部分の抽出処理の詳細を示す。地物検索サーバ装置62は、検索対象である地物の位置に基づいて、当該計測位置が撮像エリア内に含まれる動画データ162を選択する(ステップS531)。このようにして選択された動画データ162には、地物を撮像した部分が含まれる可能性がある。地物検索サーバ装置62は、選択された動画データ162のそれぞれについて、当該撮像された部分があるかどうかを検索する。
【0228】
ステップS533において、地物検索サーバ装置62は、動画データ162に記録された撮像位置を時刻順に読み出す(ステップS533)。
図45の例であれば、撮像位置PS1、PS2・・・PSnを読み出すことになる。
【0229】
地物検索サーバ装置62は、読み出した撮像位置PS1、PS2・・・PSnのうち、最も地物の位置に近い撮像位置PSfを特定する(ステップS534)。地物検索サーバ装置62は、最も近い撮像位置PSfと地物位置との距離が所定値以下であるかどうかを判断する(ステップS535)。所定値以下であれば、当該箇所に地物が撮像されていることになる。地物検索サーバ装置62は、特定した撮像位置PSfの前後所定時間分の動画データを抽出する(ステップS536)。撮像位置PSfと地物位置との距離が所定値を超えていれば、動画部分の抽出は行わない。
【0230】
以上の処理を、ステップS531にて選択した動画全てについて行う(ステップS532、S537)。
【0231】
以上のようにして、動画データの部分を抽出すると、地物検索サーバ装置62は、これを端末装置20bに送信する(ステップS54)。
【0232】
端末装置20bは、これを受けて、ディスプレイ84に抽出した動画データの部分を表示する(ステップS20)。なお、複数の動画データがある場合には、再生前に、撮像日時とともに動画データを一覧表示し、ユーザに選択させて再生することが好ましい。
【0233】
ユーザは、この動画を見て、検索対象とした地物の状況を画像として把握することができる。たとえば、
図32の画面表示にて特定することが可能な地物の状態(ボルトやナットに付された緩み検出マーク(たとえば合いマーク)の確認、外観劣化状況の確認など)を知りたい時などに用いることができる。
【0234】
なお、上記の検出マークの確認や、外観劣化状況の確認は、画像処理やAIによって端末装置が行うようにしてもよい。
【0235】
5.4その他
(1)上記実施形態では、属性データの地物位置および動画データの撮像位置を絶対座標にて示している。したがって、動画データのそれぞれに対応する属性データを用意しなくとも、属性データが一つあれば複数の動画データから地物を検索することができる。
【0236】
なお、各動画データに対応して属性データを設ける場合であれば、地物位置および撮像位置は、両データ間で整合が取れていればよく絶対座標とする必要はない。また、動画データに対応した属性データがある場合には、地物位置と撮像位置に基づく検索ではなく、地物の三次元点群データを作成した日時と撮影日時に基づく検索を行うこともできる。
【0237】
(2)上記実施形態では、
図32に示すように外形領域と地物名とによって検索したい地物を特定するようにしている。しかし、外形領域を表示せず、地物名だけを表示してユーザに選択させるようにしてもよい。
【0238】
(3)上記実施形態では、地物が撮像されている動画の部分を抽出して再生するようにしている。しかし、これに加えて、動画中の地物にマークを施して再生するようにしてもよい。
【0239】
地物検索サーバ装置62は、以下のような処理を行うことで、これを実現することができる。たとえば、
図48に示すような地物の外形領域があるとき、標識106を検索対象としたとする。この外形領域が配置された空間に、動画を撮像した際の軌跡200を描く。この軌跡200には時刻が付されているので各点における撮像時刻を知ることができる。各撮像時刻t1、t2・・・において、対象とする地物106がいずれの方向に、どのような距離で存在するかを判定する。
【0240】
この方向と距離に基づいて、撮像動画の対応する同時刻において、地物106がどのように撮像されるかを算出する。このようにして生成した地物106の外形領域の各時刻における見え方を、抽出した動画に重ねて、端末装置20bに送信する。
【0241】
端末装置20bにおいてこれを再生すると、
図49に示すように、画像中の目的とする地物を囲うように外形領域の枠が表示されることになる。したがって、ユーザは、目的とする地物を容易に動画中から見いだすことができる。
【0242】
(4)上記実施形態では、点群サーバ装置40と検索サーバ装置62とが別のサーバ装置として構築されていたが、単一のサーバ装置として構築されていてもよい。
【0243】
(5)上記実施形態では、動画を検索する場合について説明した。しかし、同様の処理にて、撮像場所と撮像時間の付された静止画を検索することもできる。
【0244】
(6)上記実施形態および変形例は、その本質に反しない限り、他の実施形態と組み合わせて実行可能である。
【手続補正書】
【提出日】2023-03-28
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
サーバ装置と当該サーバ装置と通信可能な携帯端末装置とを備えた地物管理システムであって、
前記サーバ装置は、
地物を含む三次元点群データおよび過去の撮像位置、撮像方向を記録する記録部と、
前記過去の撮像位置、撮像方向に基づいて、地物の三次元点群データまたはその三次元モデルを平面に投影して過去二次元投影画像を生成し、端末装置に送信する過去二次元投影画像生成手段とを備え、
前記端末装置は、
地物を撮像するためのカメラのファインダー画像に、サーバ装置から受信した過去二次元投影画像を透過画像として重ねて表示部に表示する表示手段とを備えたことを特徴とする地物管理システム。
【請求項2】
地物を含む三次元点群データおよび過去の撮像位置、撮像方向を記録する記録部と、
前記過去の撮像位置、撮像方向に基づいて、地物の三次元点群データまたはその三次元モデルを平面に投影して過去二次元投影画像を生成し、携帯端末装置に送信する過去二次元投影画像生成手段と、
を備えたサーバ装置。
【請求項3】
コンピュータによってサーバ装置を実現するためのサーバプログラムであって、コンピュータを、
記録部に記録された過去の撮像位置、撮像方向に基づいて、地物の三次元点群データまたはその三次元モデルを平面に投影して過去二次元投影画像を生成し、端末装置に送信する過去二次元投影画像生成手段として機能させるためのサーバプログラム。
【請求項4】
地物を含む三次元点群データおよび過去の撮像位置、撮像方向を記録しておき、
前記過去の撮像位置、撮像方向に基づいて、地物の三次元点群データまたはその三次元モデルを平面に投影して過去二次元投影画像を生成し、
カメラのファインダー画像に、過去二次元投影画像を重ねて表示することを特徴とする地物管理方法。
【請求項5】
サーバ装置と当該サーバ装置と通信可能な携帯端末装置とを備えた地物管理システムであって、
前記サーバ装置は、
地物を含む三次元点群データおよび過去の撮像位置、撮像方向を記録する記録部と、
撮像位置、撮像方向を端末装置に送信する送信手段とを備え、
前記端末装置は、
受信した撮像位置、撮像方向を、表示部において地図上に表示する表示手段を備えたことを特徴とする地物管理システム。
【請求項6】
地物を含む三次元点群データおよび過去の撮像位置、撮像方向を記録しておき、
前記過去の撮像位置、撮像方向を地図上に表示することを特徴とする地物管理方法。
【請求項7】
サーバ装置と当該サーバ装置と通信可能な端末装置とを備えた地物管理システムであって、
前記サーバ装置は、道路表示地物を含む反射強度付きの三次元点群データおよび前記道路表示地物の外形を囲った外形領域データを記録しており、
前記端末装置は、
前記サーバ装置から前記道路表示地物の外形領域データを取得する外形領域データ取得手段と、
当該道路表示地物の外形領域データに対応する三次元点群データを、前記サーバ装置から取得する三次元点群データ取得手段と、
取得した道路表示地物の外形領域と三次元点群データとを重ねて表示部に表示する表示手段と、
を備えたことを特徴とする地物管理システム。
【請求項8】
サーバ装置から前記道路表示地物の外形領域データを取得する外形領域データ取得手段と、
当該道路表示地物の外形領域データに対応する三次元点群データを、前記サーバ装置から取得する三次元点群データ取得手段と、
取得した道路表示地物の外形領域と三次元点群データとを重ねて表示部に表示する表示手段と、
を備えた端末装置。
【請求項9】
コンピュータによって端末装置を実現するためのサーバプログラムであって、コンピュータを、
サーバ装置から前記道路表示地物の外形領域データを取得する外形領域データ取得手段と、
当該道路表示地物の外形領域データに対応する三次元点群データを、前記サーバ装置から取得する三次元点群データ取得手段と、
取得した道路表示地物の外形領域と三次元点群データとを重ねて表示部に表示する表示手段として機能させるための端末プログラム。
【請求項10】
道路表示地物を含む反射強度付きの三次元点群データおよび前記道路表示地物の外形を囲った外形領域データを記録しておき、
前記道路表示地物の外形領域データを取得し、
当該道路表示地物の外形領域データに対応する三次元点群データを取得し、
取得した道路表示地物の外形領域と三次元点群データとを重ねて表示部に表示することを特徴とする地物管理方法。