(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023136509
(43)【公開日】2023-09-29
(54)【発明の名称】情報処理装置、情報処理システム、情報処理方法およびプログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20230922BHJP
G01B 11/00 20060101ALI20230922BHJP
【FI】
G06T7/00 C
G01B11/00 B
G06T7/00 U
【審査請求】未請求
【請求項の数】16
【出願形態】OL
(21)【出願番号】P 2022042232
(22)【出願日】2022-03-17
(71)【出願人】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(72)【発明者】
【氏名】辰野 響
(72)【発明者】
【氏名】高橋 禎郎
(72)【発明者】
【氏名】秋田 泰宏
【テーマコード(参考)】
2F065
5L096
【Fターム(参考)】
2F065AA04
2F065AA06
2F065AA53
2F065BB05
2F065DD06
2F065FF12
2F065GG04
2F065MM15
2F065MM25
2F065PP22
2F065QQ31
2F065QQ38
5L096AA06
5L096AA09
5L096CA24
5L096DA01
5L096FA09
5L096FA69
5L096FA76
(57)【要約】
【課題】対象物を示す三次元点群における特定点群を容易に設定することを課題とする。
【解決手段】本発明の情報処理装置の一実施形態に係るデータ管理装置5は、対象物の一例である法面を示す輝度画像(撮影画像データ7A)中の特定位置211を特定することを決定する決定操作に基づき、輝度画像と座標が対応付けられた三次元点群(測距画像データ8A)における、特定位置211と座標が対応付けられた特定点群221を設定する設定部55を備える。
【選択図】
図37
【特許請求の範囲】
【請求項1】
対象物を示す輝度画像について、前記輝度画像中の特定位置を特定することを決定する決定操作に基づき、前記対象物を示す三次元点群について、前記特定位置に対応する前記三次元点群の特定点群を設定する設定手段を備える情報処理装置。
【請求項2】
前記輝度画像と前記三次元点群とは座標が対応付けされており、
前記設定手段は、前記特定位置の座標に基づき、前記特定点群を設定する請求項1記載の情報処理装置。
【請求項3】
前記特定点群の座標を記憶部に記憶させる記憶制御手段を備えた請求項2記載の情報処理装置。
【請求項4】
前記三次元点群中で前記特定点群を識別する特定点群識別画像を生成する画像生成手段を備えた請求項1~3の何れか記載の情報処理装置。
【請求項5】
前記特定点群識別画像を外部装置に送信する送信手段を備えた請求項4記載の情報処理装置。
【請求項6】
前記特定点群識別画像を、前記三次元点群と対応づけて表示部に表示させる表示制御手段を備えた請求項4または5記載の情報処理装置。
【請求項7】
前記設定手段は、前記特定位置を特定する特定操作に基づき、前記特定点群を設定する請求項1~6の何れか記載の情報処理装置。
【請求項8】
前記設定手段は、前記特定操作を受け付ける特定受付画面で特定された前記特定位置に基づき、前記特定点群を設定し、
前記特定受付画面は、前記輝度画像を含む請求項7記載の情報処理装置。
【請求項9】
前記設定手段は、
前記輝度画像における所定の条件を満たす位置を前記特定位置とする前記決定操作に基づき、前記特定点群を設定する請求項1~6の何れか記載の情報処理装置。
【請求項10】
前記設定手段は、
前記輝度画像における、他の輝度画像と一致または相違する部分を前記特定位置とする前記決定操作に基づき、前記特定点群を設定する請求項9記載の情報処理装置。
【請求項11】
前記設定手段は、前記輝度画像における、他の輝度画像における特定部分と対応する部分を前記特定位置として、前記特定点群を設定する請求項10記載の情報処理装置。
【請求項12】
前記設定手段は、前記特定位置と座標が対応付けられた複数の前記特定点群を設定する請求項1~11の何れか記載の情報処理装置。
【請求項13】
情報処理装置と、前記情報処理装置と通信可能な通信端末と、を備えた情報処理システムであって、
前記情報処理装置は、
前記通信端末に対して、対象物を示す輝度画像について、前記輝度画像中の特定位置を特定することを決定する決定操作を受け付ける決定受付画面に係る決定受付画面情報を送信する送信手段と、
前記決定受付画面で受け付けられた前記決定操作に基づき、前記対象物を示す三次元点群について、前記特定位置に対応する前記三次元点群の特定点群を設定する設定手段と、を備え、
前記送信手段は、前記通信端末に対して、さらに、前記三次元点群中で前記特定点群を識別する特定点群識別画像を送信し、
前記通信端末は、
前記決定受付画面情報および前記特定点群識別画像を受信する受信手段と、
前記決定受付画面を表示部に表示させるとともに、前記特定点群識別画像を前記三次元点群と対応づけて前記表示部に表示させる表示制御手段と、
前記決定受付画面に対する前記決定操作を受け付ける受付手段と、
を備えた情報処理システム。
【請求項14】
通信端末に対して、対象物を示す輝度画像について、前記輝度画像中の特定位置を特定することを決定する決定操作を受け付ける決定受付画面に係る決定受付画面情報を送信する決定受付画面送信ステップと、
前記決定受付画面で受け付けられた前記決定操作に基づき、前記対象物を示す三次元点群ついて、前記特定位置に対応する前記三次元点群の特定点群を設定する設定ステップと、
前記通信端末に対して、さらに、前記三次元点群中で前記特定点群を識別する特定点群識別画像を送信する識別画像送信ステップと、
を実行することを特徴とする情報処理方法。
【請求項15】
対象物を示す輝度画像について、前記輝度画像中の特定位置を特定することを決定する決定操作を受け付ける受付ステップと、
前記受付ステップで受け付けられた前記決定操作に基づき、前記対象物を示す三次元点群について、前記特定位置に対応する前記三次元点群の特定点群を設定する設定ステップと、
前記特定点群識別画像を前記三次元点群と対応づけて表示する表示ステップと、
を実行することを特徴とする情報処理方法。
【請求項16】
コンピュータに、請求項14または15記載の情報処理方法を実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理システム、情報処理方法およびプログラムに関する。
【背景技術】
【0002】
特許文献1には、合成三次元写真画像14からCADなどの設計図作成手段で、測量計算、面積計算を行ない、劣化個所だけを表示した正面
図15と、断面
図16を作成することが記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明は、対象物を示す三次元点群における特定点群を容易に設定することを課題とする。
【課題を解決するための手段】
【0005】
本発明の請求項1に係る情報処理装置は、対象物を示す輝度画像について、輝度画像中の特定位置を特定することを決定する決定操作に基づき、対象物を示す三次元点群について、特定位置に対応する三次元点群の特定点群を設定する設定手段を備える。
【発明の効果】
【0006】
本発明は、対象物を示す三次元点群における特定点群を容易に設定することができる。
【図面の簡単な説明】
【0007】
【
図1】実施形態に係る状態検査システムの全体構成の一例を示す図である。
【
図2】実施形態に係る移動体システムを用いて法面状態を検査する様子の一例を示す図である。
【
図4】データ取得装置のハードウエア構成の一例を示す図である。
【
図5】評価装置およびデータ管理装置のハードウエア構成の一例を示す図である。
【
図6】状態検査システムの機能構成の一例を示す図である。
【
図7】状態種別管理テーブルの一例を示す概念図である。
【
図8】状態種別管理テーブルの一例を示す概念図である。
【
図9】(A)は、取得データ管理テーブルに一例を示す概念図であり、(B)は、処理データ管理テーブルの一例を示す概念図である。
【
図10】移動体システムによって取得される撮影画像について説明するための図である。
【
図12】移動体システムを用いたデータ取得処理の一例を示すシーケンス図である。
【
図13】評価対象データの生成処理の一例を示すシーケンス図である。
【
図14】法面状態の評価結果であるレポートの生成処理の一例を示すシーケンス図である。
【
図15】評価装置に表示された評価画面の一例を示す図である。
【
図16】処理データが表示された評価画面の一例を示す図である。
【
図17】法面状態の検出処理の一例を示すフローチャートである。
【
図18】形状データの検出結果が表示された評価画面の一例を示す図である。
【
図19】損傷検出結果を示す表示画面の一例を示す図である。
【
図20】検出された法面の形状の断面画像の一例を示す図である。
【
図22】地図情報と対応付けて記憶される現場情報の一例を示す図である。
【
図23】評価装置によって生成された評価レポートの一例を示す図である。
【
図24】評価装置によって生成された評価レポートの一例を示す図である。
【
図25】評価装置によって生成された評価レポートの一例を示す図である。
【
図26】損傷検出結果を示す表示画面の別の例を示す図である。
【
図27】検出された法面の形状の断面画像の別の例を示す図である。
【
図28】予兆検出結果を示す表示画面の例を示す図である。
【
図29】予兆検出結果を含む評価レポートの一例を示す図である。
【
図30】予兆検出結果を含む評価レポートの他の一例を示す図である。
【
図31】変形例1に係る移動体システムを用いて法面状態を検査する様子の一例を示す図である。
【
図32】変形例2に係る移動体システムを用いて法面状態を点検する様子の一例を示す図である。
【
図33】変形例3に係る移動体システムを用いて法面状態を点検する様子の一例を示す図である。
【
図34】状態検査システムにおける表示処理の一例を示すシーケンス図である。
【
図35】状態検査システムの表示画面における操作の説明図である。
【
図36】
図33に示した操作に基づく処理を示すフローチャートである。
【
図39】表示画面に表示される断面表示画像の具体例である。
【
図40】表面画像解析に係る処理を示すフローチャートである。
【
図42】表面画像比較に係る処理を示すフローチャートである。
【
図44】表面画像比較に係る処理の変形例を示すフローチャートである。
【
図45】
図36に示した処理の変形例を示すフローチャートである。
【
図47】
図36に示した処理の第2の変形例を示すフローチャートである。
【発明を実施するための形態】
【0008】
以下、図面を参照しながら、発明を実施するための形態を説明する。なお、図面の説明において同一要素には同一符号を付し、重複する説明は省略する。
【0009】
●第1の実施形態●
●システムの概略
まず、
図1および
図2を用いて、状態検査システムの概略について説明する。
図1は、実施形態に係る状態検査システムの全体構成の一例を示す図である。
図1に示されている状態検査システム1は、情報処理システムの一例であり、移動体システム60によって取得された各種データを用いて、道路土工構造物の状態の検査を行うためのシステムである。道路土工構造物とは、道路を建設するために構築する土砂や岩石等の地盤材料を主材料として構成される構造物およびそれらに附帯する構造物の総称であり、切土・斜面安定施設、盛土、カルバートおよびこれらに類するものをいう。以下、道路土工構造物を法面と称する。
【0010】
状態検査システム1は、移動体システム60、評価システム4、国、自治体の端末装置1100および委託事業者の端末装置1200によって構成されている。移動体システム60は、データ取得装置9およびデータ取得装置9を搭載した車両等の移動体6によって構成されている。データ取得装置9は、構造物を計測する計測装置の例である撮影装置7、並びに距離センサ8aおよびGNSS(Global Navigation Satellite System:全球測位衛星システム)センサ8bを有している。GNSSは、GPS(Global Positioning System)または準天頂衛星(QZSS)等の衛星測位システムの総称である。
【0011】
撮影装置7は、光電変換素子を一列または複数列に配置させたラインセンサを搭載したラインカメラである。撮影装置7は、移動体6の走行方向に沿った撮影面上にある所定の撮影範囲に沿った位置を撮影する。なお、撮影装置は、ラインカメラに限られず、光電変換素子が面状に配置されたエリアセンサを搭載したカメラであってもよい。また、撮影装置は、複数のカメラによって構成されていてもよい。
【0012】
距離センサ8aは、ToFセンサ(Time of Flight)であり、撮影装置7によって撮影された被写体との距離を計測する。GNSSセンサ8bは、複数のGNSS衛星が発信した各時間の信号を受信し、各信号を受信した時刻との差で衛星までの距離を算出することで、地球上の位置を計測する測位手段である。測位手段は、測位専用の装置であってもよく、PC(Personal Computer)やスマートフォン等にインストールされた測位専用のアプリケーションであってもよい。距離センサ8aおよびGNSSセンサ8bは、センサ装置の一例である。また、距離センサ8aは、三次元センサの一例である。
【0013】
距離センサ8aとして用いられるToFセンサは、光源から物体にレーザー光を照射し、その散乱や反射光を計測することにより、光源から物体までの距離を測定する。
【0014】
本実施形態では、距離センサ8aは、LiDAR(Light Detection and Ranging)センサである。LiDARとは、パルスを用いて光飛行時間を測定する方式であるが、ToFセンサのその他の方式として、位相差検出方式で距離を計測してもよい。位相差検出方式では、基本周波数で振幅変調したレーザ光を計測範囲に照射し、その反射光を受光して照射光と反射光との位相差を測定することで時間を求め、その時間に光速をかけて距離を算出する。また、距離センサ8aは、ステレオカメラ等により構成されてもよい。
【0015】
移動体システム60は、三次元センサを用いることで、法面の高さ、傾斜角度またははらみだし等の二次元の画像からは得ることが困難な三次元の情報を得ることができる。
【0016】
なお、移動体システム60は、さらに、角度センサ8cを搭載した構成であってもよい。角度センサ8cは、撮影装置7の撮影方向の角度(姿勢)または角速度(または角加速度)を検出するためのジャイロセンサ等である。
【0017】
評価システム4は、評価装置3およびデータ管理装置5によって構築されている。評価システム4を構成する評価装置3およびデータ管理装置5は、通信ネットワーク100を介して移動体システム60、端末装置1100および端末装置1200と通信することができる。通信ネットワーク100は、インターネット、移動体通信網、LAN(Local Area Network)等によって構築されている。なお、通信ネットワーク100には、有線通信だけでなく、3G(3rd Generation)、4G(4th Generation)、5G(5th Generation)、Wi-Fi(Wireless Fidelity)(登録商標)、WiMAX(Worldwide Interoperability for Microwave Access)またはLTE(Long Term Evolution)等の無線通信によるネットワークが含まれてもよい。また、評価装置3およびデータ管理装置5は、NFC(Near Field Communication)(登録商標)等の近距離通信技術による通信機能を備えていてもよい。
【0018】
データ管理装置5は、情報処理装置の一例であり、データ取得装置9によって取得された各種データを管理するPC等のコンピュータである。データ管理装置5は、データ取得装置9から各種取得データを受信し、受信した各種取得データを、データ解析を行う評価装置3に受け渡す。なお、データ管理装置5から評価装置3への各種取得データの受け渡し方法はUSB(Universal Serial Bus)メモリ等を使った人的な移動であってもよい。
【0019】
評価装置3は、データ管理装置5から受け渡された各種取得データに基づいて、法面の状態を評価するPC等のコンピュータである。評価装置3は、法面状態を評価するための専用アプリケーションプログラムがインストールされている。評価装置3は、撮影画像データおよびセンサデータから法面の種別または構造を検出して形状データを抽出するとともに、変状の有無や変状の度合いを検出することによる詳細分析を行う。また、評価装置3は、撮影画像データおよびセンサデータ、評価対象データ、並びに詳細分析結果を用いて、国、自治体または委託事業者等の道路管理者に提出するためのレポートを生成する。評価装置3によって生成されたレポートのデータは、委託事業者を介して国、自治体に、電子データまたは書類に印刷した状態で提出される。評価装置3によって生成されるレポートは、調査記録表、点検表、調査台帳または調書等と称される。なお、評価装置3は、PCに限られず、スマートフォンまたはタブレット端末等であってもよい。また、評価システム4は、評価装置3とデータ管理装置5を、一台の装置または端末として構築する構成であってもよい。
【0020】
端末装置1200は、委託事業者に備えられており、端末装置1100は、国、自治体に備えられている。評価装置3、端末装置1100および端末装置1200は、データ管理装置5と通信可能な通信端末の例であり、データ管理装置5で管理される各種データが閲覧可能である。
【0021】
図2は、実施形態に係る移動体システムを用いて法面状態を検査する様子の一例を示す図である。
図2に示されているように、移動体システム6は、データ取得装置9を搭載した移動体6を道路上に走行させながら、撮影装置7で法面の所定範囲を撮影していく。
【0022】
ここで、
図2に示されているように、法面のうち、削った斜面を切土法面、土を盛った斜面を盛土法面という。また、山の脇に通した道路において、側面にある斜面のことを自然斜面という。切土法面や盛土法面は、法面の表面に植物を植えることで耐久性が増し、そのまま数十年変化させないで済ませられることがある。しかしながら、このようなケースばかりではなく、風雨等によって切土法面、盛土法面および自然斜面の劣化が進むと、表面の岩や土が落ちてくる表層崩壊や山が崩れて道路封鎖に至る崩壊が起こる。このような事態を避けるため、斜面の表面には、モルタルを吹き付けたり(モルタル吹付)、コンクリートの構造物を設置し固めることで斜面が風雨にさらされて劣化する速度を遅くしたりする手法が取られている。このような手法によって構築された構造物を土工構造物という。土工構造物には、自然斜面と道路の間に設置する擁壁や落石が道路に落下することを防ぐ落石防護柵等が存在するが、いずれも道路への土砂や落石などの流出による道路封鎖または人的被害を未然に防ぐためのものである。
【0023】
近年、施工から数十年経過した土工構造物の劣化が著しく、社会インフラの整備が大きな課題となっている。そのため、土工構造物の劣化を早期に発見し、土工構造物を長持ちさせるための点検および老朽化保全が重要となる。従来の自然斜面および土工構造物の点検は、斜面の落石、崩壊、地滑りまたは土石流を調査して修繕計画を作成するもので、専門家による目視点検によって行われていた。
【0024】
しかしながら、専門家による目視点検では、日本中に大量にある土工構造物を一定期間に点検しきれないことや高所や川沿いの盛土等を点検できないといった効率面の問題に加えて、目視点検では、土工構造物表層に発生するひびまたは剥離といった変状の劣化の進行度合いを定量的に把握できなかった。
【0025】
そこで、実施形態に係る状態検査システム1は、撮影装置7によって土工構造物斜面の撮影画像データを取得し、距離センサ8a等の三次元センサによって三次元情報を含むセンサデータを取得する。そして、評価システム4は、取得された撮影画像データとセンサデータを組み合わせて法面状態の評価を行うことで、法面の三次元形状を示す形状データを検出するとともに、ひびや剥離といった変状を検出する。これによって、状態検査システム1は、人間の目視では点検が困難な評価を効率的に行うことができる。
【0026】
図3は、実施形態の課題を説明する図である。
図3(a)は、崩壊5年前の法面の表面を示す画像であり、
図3(b)は、
図3(a)に示す画像の説明図である。この状態は、法面表層のひび割れが目立つ段階であり、ひび割れ、剥離、湧水等の表層の変状または変状の予兆を検出するために、展開図等に示される画像解析が有効である。
【0027】
図3(c)は、崩壊2年前の法面の表面を示す画像であり、
図3(d)は、
図3(c)に示す画像の説明図である。この状態は、法面内部が土砂化し、土砂が法面表層を押し、斜面が膨らんだ段階であり、ひび割れを伴う段差、はらみだし等の三次元的な変状を検出するために、展開図等の画像+断面図等の三次元解析が有効である。
【0028】
図3(d)は、崩壊5年前の法面の表面を示す画像であり、
図3(b)は、
図3(a)に示す画像の説明図である。この状態は、法面表層が土砂を抑えきれず崩壊している。
【0029】
三次元解析は、三次元点群データを用いて行われるが、例えば、法面の範囲がどこまでで、法面と道路等の境界がどこか等、ユーザが三次元点群を見ただけでは認識することが困難であった。同様に、変状箇所を三次元解析しようとしても、ユーザが三次元点群を見て変状箇所を特定することが困難であった。ここで、モデルや学習処理を用いることにより、三次元点群中の法面や変状箇所等を認識させることも考えられるが、演算量が膨大となるため処理に時間やコストが掛かり、また認識精度という観点でも課題があった。
【0030】
本実施形態は、このような課題に鑑みて、三次元点群における所望の位置を容易に設定することができるデータ管理装置5、状態検査システム1、データ管理装置5または評価装置3等で実行される情報処理方法およびプログラムを提供することを目的とする。なお、本実施形態は、法面に限られず、トンネル、橋梁のほか、ビル等の建造物等、輝度画像と三次元点群を確認する必要がある対象物に適用可能である。
【0031】
●ハードウエア構成
次に、
図4および
図5を用いて、状態検査システム1を構成する各装置のハードウエア構成について説明する。なお、
図4および
図5に示されているハードウエア構成は、必要に応じて構成要素が追加または削除されてもよい。
【0032】
○データ取得装置のハードウエア構成○
図4は、データ取得装置のハードウエア構成の一例を示す図である。データ取得装置9は、
図1に示されているような撮影装置7およびセンサ装置8とともに、データ取得装置9の処理または動作を制御するコントローラ900を備える。
【0033】
コントローラ900は、撮影装置I/F(Interface)901、センサ装置I/F902、バスライン910、CPU(Central Processing Unit)911、ROM(Read Only Memory)912、RAM(Random Access Memory)913、HD(Hard Disk)914、HDD(Hard Disk Drive)コントローラ915、ネットワークI/F916、DVD-RW(Digital Versatile Disk Rewritable)ドライブ918、メディアI/F922、外部機器接続I/F923およびタイマ924を備えている。
【0034】
これらのうち、撮影装置I/F901は、撮影装置7との間で各種データまたは情報の送受信を行うためのインターフェースである。センサ装置I/F902は、センサ装置8との間で各種データまたは情報の送受信を行うためのインターフェースである。バスライン910は、
図4に示されているCPU911等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0035】
また、CPU911は、データ取得装置9全体の動作を制御する。ROM912は、IPL等のCPU911の駆動に用いられるプログラムを記憶する。RAM913は、CPU911のワークエリアとして使用される。HD914は、プログラム等の各種データを記憶する。HDDコントローラ915は、CPU911の制御にしたがってHD914に対する各種データの読み出しまたは書き込みを制御する。ネットワークI/F916は、通信ネットワーク100を利用してデータ通信をするためのインターフェースである。
DVD-RWドライブ918は、着脱可能な記録媒体の一例としてのDVD-RW917に対する各種データの読み出しまたは書き込みを制御する。なお、DVD-RWに限らず、DVD-RやBlu-ray(登録商標) Disc(ブルーレイディスク)等であってもよい。メディアI/F922は、フラッシュメモリ等の記録メディア921に対するデータの読み出しまたは書き込み(記憶)を制御する。外部機器接続I/F923は、ディスプレイ、受付部および表示制御部を有する外部PC930等の外部機器を接続するためのインターフェースである。タイマ924は、時間計測機能を有する計測装置である。タイマ924は、コンピュータによるソフトタイマでもよい。タイマ924は、GNSSのセンサ8bの時刻と同期することが好ましい。これにより、各センサデータおよび撮影画像データは、時刻の同期、位置の対応付けが容易になる。
【0036】
○評価装置のハードウエア構成○
図5は、評価装置のハードウエア構成の一例を示す図である。評価装置3の各ハードウエア構成は、300番台の符号で示されている。
図5に示されているように、評価装置3は、コンピュータによって構築されており、
図5に示されているように、CPU301、ROM302、RAM303、HD304、HDDコントローラ305、ディスプレイ306、外部機器接続I/F308、ネットワークI/F309、バスライン310、キーボード311、ポインティングデバイス312、DVD-RWドライブ314、およびメディアI/F316を備えている。
【0037】
これらのうち、CPU301は、評価装置3全体の動作を制御する。ROM302は、IPL等のCPU301の駆動に用いられるプログラムを記憶する。RAM303は、CPU301のワークエリアとして使用される。HD304は、プログラム等の各種データを記憶する。HDDコントローラ305は、CPU301の制御にしたがってHD304に対する各種データの読み出しまたは書き込みを制御する。ディスプレイ306は、カーソル、メニュー、ウィンドウ、文字、または画像等の各種情報を表示する。ディスプレイ306は、表示部の一例である。外部機器接続I/F308は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USBメモリやプリンタ等である。ネットワークI/F309は、通信ネットワーク100を利用してデータ通信をするためのインターフェースである。バスライン310は、
図5に示されているCPU301等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0038】
また、キーボード311は、文字、数値、各種指示等の入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス312は、各種指示の選択や実行、処理対象の選択、カーソルの移動等を行う入力手段の一種である。DVD-RWドライブ314は、着脱可能な記録媒体の一例としてのDVD-RW313に対する各種データの読み出しまたは書き込みを制御する。なお、DVD-RWに限らず、DVD-RやBlu-ray) Disc等であってもよい。メディアI/F316は、フラッシュメモリ等の記録メディア315に対するデータの読み出しまたは書き込み(記憶)を制御する。
【0039】
○データ管理装置のハードウエア構成○
図5は、データ管理装置のハードウエア構成の一例を示す図である。データ管理装置5の各ハードウエア構成は、括弧内の500番台の符号で示されている。
図5に示されているように、データ管理装置5は、コンピュータによって構築されており、
図5に示されているように、評価装置3と同様の構成を備えているため、各ハードウエア構成の説明を省略する。なお、端末装置1100.1200も、コンピュータによって構築され、評価装置3と同様の構成を備えているが、各ハードウエア構成の説明は省略する。
【0040】
なお、上記各プログラムは、インストール可能な形式または実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。記録媒体の例として、CD-R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、Blu-ray Disc、SDカード、USBメモリ等が挙げられる。また、記録媒体は、プログラム製品(Program Product)として、国内または国外へ提供されることができる。例えば、実施形態に係る評価システム4は、本発明に係るプログラムが実行されることで本発明に係る評価方法を実現する。
【0041】
●機能構成
次に、
図6を用いて、実施形態に係る状態検査システムの機能構成について説明する。
図6は、第1の実施形態に係る状態検査システムの機能構成の一例を示す図である。なお、
図6には、
図1に示されている装置のうち、後述の処理または動作に関連しているものが示されている。
【0042】
○データ取得装置の機能構成○
まず、
図6を用いて、データ取得装置9の機能構成について説明する。データ取得装置9は、通信部91、判断部92、撮影装置制御部93、センサ装置制御部94、撮影画像データ取得部95、センサデータ取得部96、時刻データ取得部97、要求受付部98および記憶・読出部99を有している。これら各部は、
図4に示されている各構成要素のいずれかが、HD914からRAM913上に展開されたデータ取得装置用のプログラムに従ったCPU911からの命令によって動作することで実現される機能または手段である。また、データ取得装置9は、
図4に示されているROM912およびHD914によって構築される記憶部9000を有している。また、
図4に示されるデータ取得装置9に接続される外部PC930は、受付部および表示制御部を有する。
【0043】
通信部91は、主に、ネットワークI/F916に対するCPU911の処理によって実現され、通信ネットワーク100を介して、他の装置との間で各種データまたは情報の通信を行う。通信部91は、例えば、撮影画像データ取得部95およびセンサデータ取得部96によって取得された取得データを、データ管理装置5に対して送信する。判断部92は、CPU911の処理によって実現され、各種判断を行う。
【0044】
撮影装置制御部93は、主に、撮影装置I/F901に対するCPU911の処理によって実現され、撮影装置7による撮影処理を制御する。センサ装置制御部94は、主に、センサ装置I/F902に対するCPU911の処理によって実現され、センサ装置8に対するデータ取得処理を制御する。
【0045】
撮影画像データ取得部95は、主に、撮影装置I/F901に対するCPU911の処理によって実現され、撮影装置7によって撮影された撮影画像に係る撮影画像データを取得する。センサデータ取得部96は、主に、センサ装置I/F902に対するCPU911の処理によって実現され、センサ装置8による検知結果であるセンサデータを取得する。時刻データ取得部97は、主に、タイマ924に対するCPU911の処理によって実現され、撮影画像データ取得部95またはセンサデータ取得部96によってデータが取得された時刻を示す時刻データを取得する。
【0046】
要求受付部98は、主に、外部機器接続I/F923に対するCPU911の処理によって実現され、CPU911の処理によって実現され、外部PC930等から所定の要求を受け付ける。
【0047】
記憶・読出部99は、主に、CPU911の処理によって実現され、記憶部9000に、各種データ(または情報)を記憶したり、記憶部9000から各種データ(または情報)を読み出したりする。
【0048】
○評価装置の機能構成○
続いて、
図6を用いて、評価装置3の機能構成について説明する。評価装置3は、通信部31、受付部32、表示制御部33、判断部34、評価対象データ生成部35、検出部36、地図データ管理部37、レポート生成部38および記憶・読出部39を有している。これら各部は、
図5に示されている各構成要素のいずれかが、HD304からRAM303上に展開され評価装置用のプログラムに従ったCPU301からの命令によって動作することで実現される機能または手段である。また、評価装置3は、
図5に示されているROM302およびHD304によって構築される記憶部3000を有している。
【0049】
通信部31は、主に、ネットワークI/F309に対するCPU301の処理によって実現され、通信ネットワーク100を介して、他の装置との間で各種データまたは情報の通信を行う。通信部31は、例えば、データ管理装置5との間で、法面状態の評価に係る各種データを送受信する。
【0050】
受付部32は、主に、キーボード311またはポインティングデバイス312に対するCPU301の処理によって実現され、利用者から各種の選択または入力を受け付ける。受付部32は、後述する評価画面400に対する各種選択または入力を受け付ける。表示制御部33は、主に、CPU301の処理によって実現され、ディスプレイ306に、各種画像を表示させる。表示制御部33は、後述する評価画面400を、ディスプレイ306に表示させる。判断部34は、CPU301の処理によって実現され、各種判断を行う。受付部32は、操作受付手段の一例である。
【0051】
評価対象データ生成部35は、CPU301の処理によって実現され、評価対象のデータを生成する。検出部36は、主に、CPU301の処理によって実現され、評価対象データ生成部35によって生成された評価対象データを用いて、法面の状態の検出処理を行う。地図データ管理部37は、主に、CPU301の処理によって実現され、外部サーバ等から取得した地図情報を管理する。地図情報は、地図上の任意の位置における位置情報を含む。
【0052】
レポート生成部38は、主に、CPU301の処理によって実現され、評価結果に基づいて、道路管理者に提出する評価レポートを生成する。
【0053】
記憶・読出部39は、主に、CPU301の処理によって実現され、記憶部3000に、各種データ(または情報)を記憶したり、記憶部3000から各種データ(または情報)を読み出したりする。
【0054】
○データ管理装置の機能構成○
続いて、
図6を用いて、データ管理装置5の機能構成について説明する。データ管理装置5は、通信部51、判断部52、データ管理部53および記憶・読出部59を有している。これら各部は、
図5に示されている各構成要素のいずれかが、HD504からRAM503上に展開されデータ管理装置用のプログラムに従ったCPU501からの命令によって動作することで実現される機能または手段である。また、データ管理装置5は、
図5に示されているROM502およびHD504によって構築される記憶部5000を有している。
【0055】
通信部51は、主に、ネットワークI/F509に対するCPU501の処理によって実現され、通信ネットワーク100を介して、他の装置との間で各種データまたは情報の通信を行う。通信部51は、例えば、データ取得装置9から送信された、撮影画像データおよびセンサデータを受信する。また、通信部51は、例えば、評価装置3等との間で、法面状態の評価等に係る各種データを送受信する。通信部51は、指示受付手段の一例である。判断部52は、位置生成手段の一例であり、CPU501の処理によって実現され、各種判断を行う。
【0056】
データ管理部53は、主に、CPU501の処理によって実現され、法面状態の評価に係る各種データの管理を行う。データ管理部53は、例えば、データ取得装置9から送信された撮影画像データおよびセンサデータを、取得データ管理DB5001に登録する。また、データ管理部53は、例えば、評価装置3によって処理または生成されたデータを、処理データ管理DB5003に登録する。生成部54は、主に、CPU501の処理によって実現され、法面に係る各種画像データを生成する。
【0057】
記憶・読出部59は、主に、CPU501の処理によって実現され、記憶部5000に、各種データ(または情報)を記憶したり、記憶部5000から各種データ(または情報)を読み出したりする。
○端末装置の機能構成○
【0058】
続いて、
図6を用いて、端末装置1100の機能構成について説明する。端末装置1100は、通信部1101、受付部1102、表示制御部1103、判断部1104および記憶・読出部1105を有している。これら各部は、
図5に示されている各構成要素のいずれかが、HDからRAM上に展開され端末装置用のプログラムに従ったCPUからの命令によって動作することで実現される機能または手段である。また、データ管理装置5は、
図5に示されているROMおよびHDによって構築される記憶部1106を有している。
【0059】
通信部1101は、主に、ネットワークI/Fに対するCPUの処理によって実現され、通信ネットワーク100を介して、他の装置との間で各種データまたは情報の通信を行う。
【0060】
受付部1102は、主に、キーボードまたはポインティングデバイスに対するCPUの処理によって実現され、利用者から各種の選択または入力を受け付ける。表示制御部1103は、主に、CPUの処理によって実現され、ディスプレイに、各種画像を表示させる。判断部1104は、CPU301の処理によって実現され、各種判断を行う。受付部1102は、操作受付手段の一例である。
【0061】
記憶・読出部1105は、主に、CPUの処理によって実現され、記憶部1106に、各種データ(または情報)を記憶したり、記憶部1106から各種データ(または情報)を読み出したりする。
【0062】
続いて、
図6を用いて、端末装置1200の機能構成について説明する。端末装置1200は、通信部1201、受付部1202、表示制御部1203、判断部1204および記憶・読出部1205を有している。これら各部は、
図5に示されている各構成要素のいずれかが、HDからRAM上に展開され端末装置用のプログラムに従ったCPUからの命令によって動作することで実現される機能または手段である。また、データ管理装置5は、
図5に示されているROMおよびHDによって構築される記憶部1206を有している。
【0063】
通信部1201は、主に、ネットワークI/Fに対するCPUの処理によって実現され、通信ネットワーク100を介して、他の装置との間で各種データまたは情報の通信を行う。
【0064】
受付部1202は、主に、キーボードまたはポインティングデバイスに対するCPUの処理によって実現され、利用者から各種の選択または入力を受け付ける。表示制御部1203は、主に、CPUの処理によって実現され、ディスプレイに、各種画像を表示させる。判断部1204は、CPU301の処理によって実現され、各種判断を行う。
【0065】
記憶・読出部1205は、主に、CPUの処理によって実現され、記憶部1206に、各種データ(または情報)を記憶したり、記憶部1206から各種データ(または情報)を読み出したりする。
【0066】
○状態種別管理テーブル
図7および
図8は、状態種別管理テーブルの一例を示す概念図である。状態種別管理テーブルは、法面の状態種別を検出するための教師データを管理するためのテーブルである。記憶部3000には、
図7および
図8に示されているような状態種別管理テーブルによって構成されている状態種別管理DB3001が構築されている。この状態種別管理テーブルでは、種別Noごとに、状態種別を示す種別名、教師画像、および備考欄が関連づけられて管理されている。
【0067】
これらのうち、種別名は、法面、法面の周囲の物理量および現場情報の状態を識別するための状態種別を示す名称である。ここで、状態種別には、擁壁、法枠、吹付モルタル、金網、柵、排水穴、パイプ、小段の排水路等の構造物である法面そのものの種別と、湧水、苔、植物、落石、土砂、日当たり等の法面の周囲の物理量を示す種別が含まれる。また、状態種別には、移動体システム60によるデータ取得を支援する現場情報として、ポール、電柱、標識または看板等の種別が含まれている。さらに、状態種別には、構造物の付帯情報として、過去の点検実施時や施工時に設置された、変状の存在を示すチョーキング等の目印情報や、測定装置や、対策跡などの、人工物を含んでいても良い。また、教師画像は、教師データの一例であり、撮影画像データから法面、法面の周囲の物理量および現場情報の状態種別を判別するための機械学習に用いる教師画像である。ここで教師データとは、一般に画像と呼ばれる輝度画像やRGB画像等に限らず、状態種別の判別するための情報が含まれてさえいれば良く、深度情報やテキストや音声などの形式であっても良い。備考欄には、状態の種別を検出するための検出基準となる情報が示されている。
【0068】
○取得データ管理テーブル
図9(A)は、取得データ管理テーブルの一例を示す概念図である。取得データ管理テーブルは、データ取得装置9によって取得された各種取得データを管理するためのテーブルである。記憶部5000には、
図9(A)に示されているような取得データ管理テーブルによって構成されている取得データ管理DB5001が構築されている。この取得データ管理テーブルでは、フォルダごとに、撮影画像データ、センサデータおよび取得時刻が関連づけられて管理されている。
【0069】
これらのうち、撮影画像データおよびセンサデータは、データ取得装置9から送信された取得データのデータファイルである。また、取得時刻は、撮影画像データおよびセンサデータがデータ取得装置9によって取得された時刻を示す。一つの点検工程において取得されたデータは、同一のフォルダ内に記憶される。撮影画像データおよびセンサデータに含まれる三次元センサデータは、後述するように、座標が対応付けて記憶される。また、撮影画像データおよびセンサデータに含まれる三次元センサデータは、センサデータに含まれる測位データに対応付けて記憶されている。これにより、評価装置3の地図データ管理部37により管理される地図情報における任意の位置を選択すると、当該位置における撮影画像データおよび三次元センサデータを、取得データ管理DB5001から読み出すことが可能である。
【0070】
○処理データ管理テーブル
図9(B)は、処理データ管理テーブルの一例を示す概念図である。処理データ管理テーブルは、評価装置3によって処理された各種処理データを管理するためのテーブルである。記憶部5000には、
図9(B)に示されているような処理データ管理テーブルによって構成されている処理データ管理DB5003が構築されている。この処理データ管理テーブルでは、フォルダごとに、評価対象データ、評価データ、測位データおよびコメントが関連づけられて管理されている。
【0071】
これらのうち、評価対象データは、評価装置3による法面状態の検出評価に用いるデータファイルである。また、評価データは、評価装置3による評価結果を示すデータファイルである。さらに、測位データは、GNSSセンサ8bによって計測された位置情報を示すデータである。また、コメントは、評価対象データまたは評価データに対する評価者によって入力された書誌情報である。これにより、評価装置3の地図データ管理部37により管理される地図情報における任意の位置を選択すると、当該位置における評価データを、処理データ管理DB5003から読み出すことが可能である。
【0072】
図10は、移動体システムによって取得される撮影画像について説明するための図である。
【0073】
移動体システム60は、移動体6を走行させながら、データ取得装置9に備えられた撮影装置7を用いて、道路上に設けられた法面を撮影する。
図10に示すX軸方向は、移動体6の移動方向を示し、Y軸方向は鉛直方向、Z軸方向は、X軸方向およびY軸方向に直交し、移動体6から法面に向かう奥行き方向を示す。
【0074】
データ取得装置9は、移動体6の走行に伴い、
図10に示されているように、撮影画像1、測距画像1および撮影画像2、測距画像2を時系列に取得していく。測距画像1および測距画像2は、距離センサ8aにより取得された画像である。このとき、撮影装置7およびセンサ装置8は、時刻同期が取られており、撮影画像1および測距画像1と、撮影画像2および測距画像2は、夫々法面の同じ領域に対する画像となる。また、撮影時の車両の姿勢から撮影画像の傾き補正(画像補正)が行われ、撮影画像の時刻から画像データと測位データ(北緯東経)が紐づけられる。
【0075】
このように、移動体システム60は、移動体6としての車両を走行させながら、法面が撮影された撮影画像データおよび撮影装置7の撮影に応じて取得されたセンサデータを取得し、データ管理装置5に対してアップロードする。
【0076】
【0077】
図11(a)は、
図10に示した撮影画像1、2等の撮影画像データ7Aを示す。撮影装置7により取得された撮影画像データ7Aの各画素7A1は、
図10に示したX軸方向およびY軸方向に対応する座標で配置されており、蓄電量に対応する輝度情報を有する。すなわち、撮影画像データ7Aは、輝度画像の一例である。
【0078】
そして、撮影画像データ7Aの各画素7A1の輝度情報は、
図10に示したX軸方向およびY軸方向に対応する座標に対応付けて、
図9に示した撮影画像データとして、記憶部5000に記憶される。
【0079】
図11(b)は、
図10に示した測距画像1、2等の測距画像データ8Aを示す。距離センサ8aにより取得された測距画像データ8Aの各画素8A1は、
図10に示したX軸方向およびY軸方向に対応する座標で配置されており、蓄電量に対応する
図10に示したZ軸方向における距離情報を有する。なお、測距画像データ8Aは、三次元点群データであるが、一般的にユーザに視認させる際には、輝度情報を付与して可視表示するため、測距画像データと称する。そして、撮影画像データ7Aおよび測距画像データ8Aを総称して、画像データと称する。
【0080】
そして、測距画像データ8Aの各画素8A1の距離情報は、
図10に示したX軸方向およびY軸方向に対応する座標に対応付けて、
図9に示したセンサデータに含まれる三次元データとして、記憶部5000に記憶される。
【0081】
ここで、
図11(a)に示す撮影画像データ7Aと、
図11(b)に示す測距画像データ8Aは、夫々法面の同じ領域に対する画像であるから、
図10に示したX軸方向およびY軸方向に対応する座標に対応付けて、輝度情報および距離情報が、記憶部5000に記憶されることになる。
【0082】
●実施形態の処理または動作
○データ取得処理○
次に、
図12乃至
図27を用いて、実施形態に係る状態検査システム1の処理または動作について説明する。まず、
図12および
図10を用いて、移動体システム60を用いたデータ取得処理について説明する。法面状態の点検作業者は、移動体6に搭乗して道路上の存在する法面の撮影を行い、取得したデータをデータ管理装置5にアップロードする。以下、詳細に説明する。
【0083】
図12は、移動体システムを用いたデータ取得処理の一例を示すシーケンス図である。まず、点検作業者が外部PC330に対して所定の入力操作等を行うことで、データ取得装置9の要求受付部98は、データ取得開始要求を受け付ける(ステップS11)。そして、データ取得装置9は、撮影装置7およびセンサ装置8を用いたデータ取得処理を実行する(ステップS12)。具体的には、撮影装置制御部93は、撮影装置7に対して撮影要求を行うことで、所定の領域に対する撮影処理を開始する。また、センサ装置制御部94は、撮影装置7による撮影処理と同期させながら、距離センサ8aおよびGNSSセンサ8bによる検知処理を開始する。そして、撮影画像データ取得部95は、撮影装置7によって取得された撮影画像データを取得し、センサデータ取得部96は、距離センサ8aおよびGNSSセンサ8bによって取得されたセンサデータを取得する。また、時刻データ取得部97は、撮影画像データ取得部95およびセンサデータ取得部96によって各種データが取得された時刻を示す時刻データを取得する。
【0084】
次に、点検作業者が外部PC330等に対して所定の入力操作を行うことで、要求受付部98は、取得した各種データのアップロード要求を受け付ける(ステップS13)。そして、通信部91は、データ管理装置5に対して、ステップS12で取得された取得データである撮影画像データ、センサデータおよび時刻データをアップロード(送信)する(ステップS14)。これにより、データ管理装置5の通信部51は、データ取得装置9から送信された取得データを受信する。そして、データ管理装置5のデータ管理部53は、ステップS14で受信された取得データを、取得データ管理DB5001(
図9(A)参照)に登録する(ステップS15)。データ管理部53は、取得データに含まれている各データの取得時刻を示す時刻データに関連づけて、撮影画像データおよびセンサデータを一つのフォルダに記憶する。
【0085】
○法面状態の評価処理○
○評価対象データの生成
次に、
図13および
図27を用いて、評価システム4がデータ管理装置5に記憶された取得データを用いて法面状態の評価を行う処理について説明する。まず、
図13を用いて、法面状態の評価処理に用いる評価対象データを生成する処理について説明する。
図13は、評価対象データの生成処理の一例を示すシーケンス図である。
【0086】
まず、評価装置3の通信部31は、データ管理装置5に対して、評価対象データの生成要求を送信する(ステップS31)。この生成要求には、生成対象のデータが記憶されたフォルダ名が含まれている。これにより、データ管理装置5の通信部51は、評価装置3から送信された生成要求を受信する。
【0087】
次に、データ管理装置5の記憶・読出部59は、ステップS31で受信された生成要求に含まれているフォルダ名を検索キーとして取得データ管理DB5001を検索することにより、生成要求に含まれているフォルダ名に関連づけられた取得データを読み出す(ステップS32)。そいて、通信部51は、評価装置3に対して、ステップS32で読み出された取得データを送信する(ステップS33)。この取得データには、撮影画像データ、センサデータおよび時刻データが含まれている、これにより、評価装置3の通信部31は、データ管理装置5から送信された取得データを受信する。
【0088】
次に、評価装置3の評価対象データ生成部35は、ステップS33で受信された取得データを用いて、評価対象データを生成する(ステップS34)。具体的には、評価対象データ生成部35は、受信された距離センサ8aのセンサデータに基づき、撮影時の撮影装置7(移動体6)の姿勢から撮影画像データの傾き補正を行う。また、評価対象データ生成部35は、受信された時刻データに基づき、受信されたGNSSセンサ8bのセンサデータである測位データと撮影画像データの紐づけを行う。さらに、評価対象データ生成部35は、複数の撮影画像データを一つの画像データに合成する処理を行う。
【0089】
このように、評価対象データ生成部35は、画像データに対する傾き補正機能、画像データと位置情報の連携機能および画像データの合成機能を有する。評価対象データ生成部35は、データ管理装置5から受信された取得データを用いて、後述の検出部36およびレポート生成部38による処理が行いやすいように、受信された撮影画像データに対する画像補正を行う。
【0090】
次に、評価装置3の通信部31は、データ管理装置5に対して、ステップS34で生成された生成データを送信する(ステップS35)この生成データには、評価対象データ生成部35で生成された評価対象データ、測位データおよびコメントが含まれている。これにより、データ管理装置5の通信部51は、評価装置3から送信された生成データを受信する。そして、データ管理装置5のデータ管理部53は、ステップS35で受信された生成データを、処理データ管理DB5003(
図9(B)参照)に記憶する(ステップS36)。具体的には、データ管理部53は、生成データに含まれている評価対象データ、測位データおよびコメントを関連づけて一つのフォルダに記憶させる。
【0091】
このように、評価システム4は、データ取得装置9から取得した各種データ(撮影画像データ、センサデータおよび時刻データ)に基づく画像処理を行うことで、法面状態の評価に用いる評価対象データを生成する。
【0092】
○評価レポートの生成
続いて、
図14および
図25を用いて、評価システム4において道路管理者へ提出する評価レポートの生成する処理について説明する。評価者は、データ取得装置9によって取得された撮影画像データおよびセンサデータ等を用いて、法面の状態の評価を行い、評価結果を示す評価レポートを生成する。以下詳細に説明する。
【0093】
図14は、法面状態の評価結果であるレポートの生成処理の一例を示すシーケンス図である。まず、評価装置3の表示制御部33は、法面状態の評価処理を行うための評価画面400を、ディスプレイ306に表示させる(ステップS51)。
図15は、評価装置に表示された評価画面の一例を示す図である。
図15に示されている評価画面400には、評価対象データの選択領域410、法面状態の検出を行うための評価項目を選択する評価項目選択領域430、形状データを表示する形状データ表示領域460、評価結果をデータ管理装置5にアップロードする際に押下される「アップロード」ボタン491、および評価レポートを生成する際に押下される「レポート生成」ボタン493が含まれている。このうち、選択領域410には、評価対象データが記憶されたフォルダを指定する「フォルダ指定」ボタン411、指定されたフォルダ名が表示される表示領域413、および指定されたフォルダに記憶された評価対象データのダウンロードを要求する際に押下される「OK」ボタン415が含まれている。
【0094】
次に、評価者が「フォルダ指定」ボタン411を用いたフォルダ指定を行うことで、評価装置3の受付部32は、評価対象データの選択を受け付ける(ステップS52)。例えば、
図15の例の場合、受付部32は、「フォルダ0615」に記憶された評価対象データの選択を受け付ける。
【0095】
次に、通信部31は、データ管理装置5に対して、ステップS52で選択された評価対象データの読出要求を送信する(ステップS53)。この読出要求には、ステップS52で選択されたフォルダ名が含まれている。これにより、データ管理装置5の通信部51は、評価装置3から送信された読出要求を受信する。
【0096】
次に、データ管理装置5の記憶・読出部59は、ステップS53で受信された読出要求に含まれているフォルダ名を検索キーとして処理データ管理DB5003(
図9(B)参照)を検索することで、読出要求に含まれているフォルダ名に関連づけられた処理データを読み出す(ステップS54)。そして、通信部51は、評価装置3に対して、ステップS54で読み出された処理データを送信する(ステップS55)。この処理データには、評価対象データ、測位データおよびコメントが含まれている。これにより、評価装置3の通信部31は、データ管理装置5から送信された処理データを受信する。
【0097】
次に、評価装置3の表示制御部33は、ステップS54で受信された処理データを、評価画面400の評価項目選択領域430に表示させる(ステップS56)。
図16は、処理データが表示された評価画面の一例を示す図である。
図16に示されている評価項目選択領域430には、データ管理装置5から送信された処理データである評価対象データの画像を表示する画像表示領域431、評価対象データの書誌情報を表示する書誌情報表示領域433、並びに画像表示領域431に表示される画像を切り替える際に押下される「Back」ボタン437および「Next」ボタン439が含まれている。また、評価項目選択領域430には、法面の形状の検出を行う際に押下される「形状検出」ボタン451、法面の損傷状態の検出を行う際に押下される「損傷検出」ボタン453、地図情報を生成する際に押下される「地図情報」ボタン455および法面の損傷の予兆状態の検出を行う際に押下される「予兆検出」ボタン457が含まれている。
【0098】
また、画像表示領域431には、評価対象データの画像に重畳させて評価領域435a,435bが表示されている。評価領域435a,435bは、後述する法面状態の検出処理における評価範囲を示す。評価者は、評価領域435a,435bに対するタップ、ドラッグ、スワイプ、ピンチイン、ピンチアウト等の入力操作によって、評価領域435a,435bの移動および評価領域435a,435bの拡大もしくは縮小を行う。なお、評価領域435a,435bの数は、これに限られず、一つであってもよいし、三つ以上であってもよい。また、画像表示領域431に対して評価領域435a,435bを表示させずに、画像表示領域431全体を評価範囲とする構成であってもよい。
【0099】
次に、評価装置3は、評価対象データを用いた法面状態の検出処理を行う(ステップS57)。ここで、
図17を用いて、法面状態の検出処理について詳細に説明する。
図17は、法面状態の検出処理の一例を示すフローチャートである。
【0100】
まず、評価者が評価項目選択領域430に含まれている「形状検出」ボタン451を押下することで、受付部32は、形状検出要求を受け付ける(ステップS71)。次に、検出部36は、評価対象データを用いた形状検出処理を行う(ステップS72)。ここで、法面の形状を示す形状データは、法面の延長、高さおよび傾斜角度等の三次元情報、並びに位置情報等によって表される。法面の延長とは、平面図における法面の長さ(法面の傾斜が分かる横断面の奥行き方向の長さ)である。また、形状データには、法面が自然斜面であるか、または土工構造物であるかの法面の種類を示す情報も含まれる。さらに、法面は土工構造物である場合、形状データには、土工構造物の種別の情報も含まれる。土木構造物の種別は、例えば、擁壁、法枠、モルタル吹付、アンカーの有無、または盛土等である。
【0101】
具体的には、検出部36は、評価対象データに含まれている画像データおよび三次元データに基づいて、法面の延長、高さおよび傾斜角度を検出する。また、検出部36は、状態種別管理DB3001(
図7参照)を用いて、評価対象データである画像に示されている法面の種別を検出する。この場合、検出部36は、状態種別管理テーブルに示されている教師画像を用いた画像マッチング処理によって法面の種別を検出する。
【0102】
次に、表示制御部33は、ステップS72における検出結果である形状データを、評価画面400の形状データ表示領域460に表示させる(ステップS73)。
図18は、形状データの検出結果が表示された評価画面の一例を示す図である。
図18に示されている形状データ表示領域460には、検出部36による形状検出結果を示す形状データの書誌事項の表示領域461、および形状検出結果の詳細データを表示させる際に押下される「詳細表示」ボタン463が含まれている。このうち、表示領域461には、例えば、法面の全長、および法面全体における検出された種別ごとの割合が示されている。
【0103】
なお、以上説明したステップS71~S73において、「形状検出」処理に代えて、「構造物情報検出」処理を行っても良い。
【0104】
この場合、評価者が評価項目選択領域430に含まれている「形状検出」ボタン451に代わる「構造物情報検出」ボタンを押下することで、受付部32は、構造物情報検出要求を受け付ける(ステップS71)。次に、検出部36は、評価対象データを用いた構造物情報検出処理を行う(ステップS72)。そして、表示制御部33は、ステップS72における検出結果である構造物情報検出情報を、評価画面400の形状データ表示領域460に代わる構造物情報表示領域に表示させる(ステップS73)。
【0105】
ここで、構造物情報は、上述した形状データ以外に、構造物の付帯情報を含む。具体的には、検出部36は、評価対象データに含まれている画像データおよび三次元データに基づいて、状態種別管理DB3001(
図7および
図8参照)を用いて、評価対象データである画像に示されている法面の種別、および法面の付帯情報の種別を検出する。この場合、検出部36は、状態種別管理テーブルに示されている教師画像を用いた画像マッチング処理によって法面の種別、および法面の付帯情報を検出する。
【0106】
次に、評価者が評価項目選択領域430に含まれている「損傷検出」ボタン453を押下することによって、受付部32は、法面状態の損傷検出を要求する損傷検出要求を受け付けた場合(ステップS74のYES)、処理をステップS75へ移行させる。一方で、受付部32は、損傷検出要求が受け付けられない場合(ステップS74のNO)、処理をステップS77へ移行させる。検出部36は、評価対象データに対する法面状態の損傷検出処理を行う(ステップS75)。
【0107】
ここで、法面状態の損傷検出処理は、法面の損傷度合いを表す損傷データとして、法面に存在する変状の有無または変状の度合いを検出する。変状の度合いは、変状の劣化度合いを示し、ひびの幅、隔離のサイズ、または浮きの大きさ等である。検出部36は、評価対象データに含まれている画像データおよびセンサデータに基づいて、法面の変状の有無または変状の度合いを検出する。また、検出部36は、予め定められた変状劣化度の検出式等を用いて、変状の度合い所定値を超えているか否かを検出する。この場合、検出部36は、ひびの幅が一定以上であるか、剥離のサイズが一定以上か、または浮きが大きいか等を判定する。
【0108】
そして、
図13に示したステップS36において、データ管理装置5のデータ管理部53は、損傷位置の座標と損傷の種類を、
図11に示した撮影画像データ7A におけるX軸方向およびY軸方向に対応する座標に対応付けて、処理データ管理DB5003に記憶する。
【0109】
次に、表示制御部33は、ステップS75における損傷検出結果を示す表示画面470を、ディスプレイ306に表示させる(ステップS76)。
図19は、損傷検出結果を示す表示画面の一例を示す図である。
図19に示されている表示画面470には、評価対象の法面全体における損傷の検出位置が表示された表示画像領域480、検出された損傷の位置に対応する撮影画像が表示された詳細情報表示領域485、および検出された法面の断面図を表示させる際に押下される「断面図」ボタン489が含まれている。このうち、表示画像領域480は、評価対象の法面の二次元形状を示す画像に対して、検出された損傷の位置を示す画像(P1~P4)が描画された平面図が示されている。また、表示画像領域480には、評価対象の法面の位置を示す位置座標(測位データ)が示されている。
【0110】
また、評価者が「断面図」ボタン489を押下することで、表示制御部33は、
図20に示されている断面画像475を、ディスプレイ306に表示させる。
図20に示されている断面画像475は、検出部36によって検出された形状データに基づいて描画された評価対象の法面の断面図を示す。形状データは、距離センサ8a(三次元センサ)によるセンサデータを用いて検出されるため、
図20に示されているように、二次元画像のみでは算出できない法面の傾斜または高さ等の三次元情報も含めて詳細に表現することができる。
【0111】
次に、評価者が評価項目選択領域430に含まれている「地図情報」ボタン455を押下することによって、受付部32は、地図情報取得要求を受け付けた場合(ステップS77のYES)、処理をステップS78へ移行させる。一方で、受付部32は、地図情報取得要求が受け付けられない場合(ステップS77のNO)、処理を終了する。検出部36は、評価対象の法面状態の位置を示す地図情報を生成する(ステップS78)。具体的には、検出部36は、外部のWEBサーバ等が提供する所定のサービスまたはアプリケーションを用いて利用可能な地図データに対応する、ステップS55で取得された測位データが示す位置(北緯、東経)に対して、法面の位置を示す画像が付与された地図情報を生成する。外部のWEBサーバ等から提供される地図データは、地図データ管理部37によって管理されている。
【0112】
次に、表示制御部33は、ステップS78で生成された地図情報490を、ディスプレイ306に表示させる(ステップS79)。
図21は、地図情報の一例を示す図である。上述のように、地図情報490には、地図データに対して、評価対象の法面の位置を示す画像491a,491bが描画されている。
図21に示されている地図情報490には、点検の開始位置および終了位置に、画像491a,491bが描画され、画像491a,491bとそれぞれ対応付けて“起点”のテキスト493a、および“終点”のテキスト493bが描画され、検査対象の法面の範囲が示されている。なお、より正確な法面の位置を示したい場合には、検出部36は、国土地理院等が保有している測位地図データと測位データとを照合して地図情報を生成することが好ましい。
【0113】
図22は、地図情報と対応付けて記憶される現場情報の一例を示す図である。
図22(a)~(i)に示す画像は、
図9(B)に示した処理データ管理テーブルにおいて、測位データに対応付けて記憶されており、表示制御部33は、
図21に示した地図情報490上で任意の位置がクリックされると、クリックした位置に対応する測位データに対応付けられた点検現場を示す画像をディスプレイ306に表示させる。
【0114】
ここで、「点検現場」は、
図21に示した点検の開始位置から終了位置までの区間だけでなく、健全性の判断をするために必要な、点検の開始位置から終了位置までの区間の周辺領域も含むものとする。
【0115】
図22(a)および(b)は、
図21に示した起点491aおよび終点491bを示す現場の画像である。
図22(c)は、点検現場における歩道を示す画像であり、
図22(d)は、点検現場における側溝を示す画像である。
【0116】
図22(e)および(f)は、点検現場における退避スペースを示す画像である。
図22(g)は、点検現場における舗装状況を示す画像であり、
図22(h)および(i)は、点検現場における道路勾配を示す画像である。
【0117】
再点検等により現場確認に出向く際に、これら
図22(a)~(i)に示す画像をディスプレイ306上で事前確認することにより、事前準備や現場での作業が効率化される。
【0118】
図17に戻って、評価者が評価項目選択領域430に含まれている「予兆検出」ボタン457を押下することによって、受付部32は、法面状態の損傷の予兆検出を要求する予兆検出要求を受け付けた場合(ステップS80のYES)、処理をステップS81へ移行させる。一方で、受付部32は、予兆検出要求が受け付けられない場合(ステップS80のNO)、処理を終了させる。検出部36は、評価対象データに対する法面状態の予兆検出処理を行う(ステップS82)。
【0119】
状態検査システム1において、従来から、法面の変状が認められたときにその状態および位置を特定することが行われている。しかしながら、法面に変状が生じる前に、変状が生じる位置の予兆を示す情報について計測する、という観点は知られていない。ここで、法面状態の損傷の予兆検出処理は、法面の損傷の予兆を表す予兆データとして、法面の周囲の物理量を示す周囲データを含む法面の計測データに基づき、法面の変状の予兆を検出する。
【0120】
計測データは、法面を撮影装置7により撮影した撮影画像データ、あるいは、法面を距離センサ8a等の三次元センサにより計測したセンサデータを含む。
【0121】
周囲データは、法面以外の物体の計測データを含み、法面以外の物体は、湧水、土砂、岩石、および植物のうちの少なくとも1つを含む。
【0122】
法面の計測データに、法面表面に発生している湧水を示す周囲データが含まれる場合、法面の裏側から、滞留水が圧力をかけている可能性があるため、法面の変状の予兆があると検出される。具体的には、湧水の有無に限らず、湧水の量、種類および位置に応じて、法面の変状の予兆があると検出される。
【0123】
法面の計測データに、法面表面に発生している植物、苔を示す周囲データが含まれる場合、湧水が発生し、法面の裏側から、滞留水が圧力をかけている可能性があるため、法面の変状の予兆があると検出される。具体的には、植物、苔の有無に限らず、植物、苔の量、種類および位置に応じて、法面の変状の予兆があると検出される。
【0124】
法面の計測データに、法面周囲の落石、土砂を示す周囲データが含まれる場合、法面の裏側および上側に異常が生じている可能性があるため、法面の変状の予兆があると検出される。具体的には、落石、土砂の有無に限らず、落石、土砂の量、種類および位置に応じて、法面の変状の予兆があると検出される。
【0125】
法面の計測データに、排水穴、パイプ、小段の排水路等の詰まりを示す周囲データが含まれる場合、法面の裏側から表側への排水が阻害され、法面の裏側から、滞留水が圧力をかけている可能性があるため、法面の変状の予兆があると検出される。具体的には、詰まりの有無に限らず、詰まりの原因となる異物の量、種類および位置に応じて、法面の変状の予兆があると検出される。
【0126】
なお、排水穴、パイプ、小段の排水路等自体が損傷している場合は、法面の変状として検出されるが、排水穴、パイプ、小段の排水路等の詰まりは、法面の変状としては検出されず、法面の変状の予兆として検出される。
【0127】
以上説明した法面以外の物体の計測データは、複数の計測データの組み合わせにより、法面の変状の予兆があると検出してもよい。具体的には、法面のごく一部にしか湧水を示す周囲データが存在しなかったとしても、法面の全面に苔が広がっている場合は、日常的には、法面の全面に湧水が広がっていると推定され、法面の変状の予兆があると検出される。
【0128】
また、周囲データは、物体以外の物理量の計測データを含み、物体以外の物理量の計測データは光の計測データを含む。
【0129】
法面の計測データに、日当たりの良さを示す周囲データが含まれる場合、上記した法面以外の物体の計測データと組み合わせて、法面の変状の予兆があると検出される。具体的には、日当たりがよく法面が乾燥しやすいにも関わらず、苔が発生している場合、湧水が発生し、法面の裏側から、滞留水が圧力をかけている可能性があるため、法面の変状の予兆があると検出される。
【0130】
そして、法面状態の損傷の予兆検出処理は、法面の損傷の予兆を表す予兆データとして、法面の周囲の物理量を示す周囲データを含む法面の計測データに基づき、法面の変状の予兆についてのコメントを生成する。そして、
図13に示したステップS36において、データ管理装置5のデータ管理部53は、変状の予兆の位置の座標とコメントを、
図11に示した撮影画像データ7A におけるX軸方向およびY軸方向に対応する座標に対応付けて、処理データ管理DB5003に記憶する。
【0131】
具体的には、取得した周囲データの一例である撮影画像データに基づき、
図8に示した状態種別管理テーブルの教師画像を参照し、湧水等の法面の周囲の物理量の種別およびその量や位置等を示すコメントを生成する。一例として、「苔率30%、起点高さ3~20m付近に多く分布」というコメントを生成する。
【0132】
次に、表示制御部33は、ステップS81における予兆検出結果を示す表示画面1470を、ディスプレイ306に表示させる(ステップS82)。表示画面の詳細については、
後述する。
【0133】
また、評価者が「断面図」ボタン1489を押下することで、表示制御部33は、
図20に示したものと同様に、断面画像475をディスプレイ306に表示させる。
【0134】
このように、評価システム4は、法面状態の評価として、三次元情報を含む法面の形状、法面の損傷の度合い、法面の変状の予兆および評価対象の法面の位置を検出する。
【0135】
図14に戻り、評価者が評価画面400に含まれている「アップロード」ボタン491を押下することで、受付部32は、評価結果のアップロード要求を受け付ける(ステップS58)。そして、通信部31は、データ管理装置5に対して、評価結果のアップロード(送信)を行う(ステップS59)。これにより、データ管理装置5の通信部51は、評価装置3から送信された評価データを受信する。そして、データ管理装置5のデータ管理部53は、ステップS59で受信された評価データを、処理データ管理DB5003(
図9(B)参照)に登録する(ステップS60)。この場合、データ管理部53は、評価データを、評価を行った評価対象データ等と関連づけて一つのフォルダに記憶する。
【0136】
また、評価者が評価画面400に含まれている「レポート生成」ボタン493を押下することで、受付部32は、評価レポートの生成要求を受け付ける(ステップS61)。そして、レポート生成部38は、検出部36による法面状態の検出結果に基づいて、評価レポートを生成する(ステップS62)。レポート生成部38は、国等から発行された点検要領、または道路管理者からの要望に沿った様式に基づいて、上述した評価結果を示す評価データを整列させて評価レポートを生成する。
【0137】
図23乃至
図25は、評価装置によって生成された評価レポートの一例を示す図である。
図23に示されている1ページ目の評価レポートには、上部に路線名等の書誌的事項、下部に点検対象の法面の位置を示す位置図および評価結果が示されている。
図23に示されている位置図には、検出部36によって生成された地図情報(
図21参照)が含まれている。
【0138】
また、
図24に示されている2ページ目の評価レポートには、平面図および断面図が示されている。
図24に示されている評価レポートは、検出部36による損傷検出結果および形状検出結果に基づいて生成される。このうち、平面図には、検出部36による損傷分析結果を示す画像(
図19参照)が含まれており、断面図には、検出部36による形状検出結果に基づいて描画された評価対象の法面の断面図(
図20参照)が含まれている。
【0139】
さらに、
図25に示されている3ページ目の評価レポートには、評価対象の法面が撮影された撮影画像データが示されている。
図25に示されている評価レポートは、
図24の平面図および断面図により示される法面の状態や形状を視覚的に示す。
【0140】
このように、評価装置3は、法面状態の評価結果を用いて、道路管理者に提供する評価レポートを作成する。なお、評価レポートの記載内容またはレイアウトは、これに限られない。
【0141】
以上により、評価システム4は、移動体システム60によって取得された撮影画像データ、センサデータ(三次元データ)および測位データを用いた法面状態の評価を行うことで、法面の形状並びに損傷の位置および度合いを示したレポートを生成する。これによって、評価システム4は、法面検査に用いる画像判定サービスまたは法面の形状もしくは損傷判定サービスとしてのレポート生成機能の質と効率を向上させることができる。
【0142】
なお、検出部36による状態検出処理は、
図17に示されている全ての処理を実行されている必要はなく、少なくともステップS71~ステップS73に示す形状検出処理が行われる構成であればよい。評価者は、必要に応じて形状検出処理に加えて、ステップS74~ステップS76に示す損傷検出処理およびステップS77~ステップS79に示す地図情報生成処理を実行することによって、詳細な評価結果を評価レポートに記述することができる。
【0143】
○法面状態評価の変形例
ここで、
図26および
図27を用いて、法面状態の評価処理の変形例について説明する。
【0144】
図26は、損傷検出結果を示す表示画面を示す図であり、
図27は、検出された法面の形状の断面画像を示す図である。
図26に示されている表示画面470および
図27に示されている断面画像475には、
図18および
図19にそれぞれ示されている例に加えて、新たに検出された変状(P5)が描画されている。P5の位置には、はらみだし(浮き上がり)が検出される。このように、距離センサを用いた検出を行うことで、より詳細な三次元情報を取得することができる。
【0145】
図28は、予兆検出結果を示す表示画面の一例を示す図であり、
図17のステップS82でディスプレイ306に表示される表示画面に対応する。
【0146】
図28に示されている表示画面1470には、評価対象の法面全体における変状の予兆の検出位置が表示された表示画像領域1480、検出された変状の予兆の位置に対応する撮影画像が表示された詳細情報表示領域1485、および検出された法面の断面図を表示させる際に押下される「断面図」ボタン1489が含まれている。このうち、表示画像領域1480は、評価対象の法面の二次元形状を示す画像に対して、検出された変状の予兆の位置を示す画像(P1~P4)が描画された平面図が示されている。また、表示画像領域1480には、評価対象の法面の位置を示す位置座標(測位データ)が示されている。
【0147】
詳細情報表示領域1485には、変状の予兆の位置を示す画像P1~P4のそれぞれに対応付けてコメント1401~1404が表示されている。
【0148】
これらのコメント1401~1404は、
図17のステップS82で説明したように、画像P1~P4に基づき、
図8に示した状態種別管理テーブルの教師画像を参照し、法面の周囲の物理量の種別を示すコメントとして生成されたものである。
【0149】
図29および
図30は、予兆検出結果を含む評価レポートの一例を示す図である。
【0150】
図29に示される予兆検出結果を含む評価レポートには、
図28に示したディスプレイ306の詳細情報表示領域1485に表示された撮影画像P1~P4およびコメント1401~1404に対応して、評価対象の法面の変状の予兆を示す撮影画像P1~P4およびコメント1401~1404が示されている。
【0151】
図30に示される予兆検出結果を含む評価レポートには、評価対象の法面が撮影された撮影画像P1、P2およびコメント1411、1412と、評価対象の法面の変状の予兆を示す撮影画像P3、P4およびコメント1413、1414が示されている。
【0152】
図29および
図30に示した予兆検出結果を含む評価レポートは、
図23乃至
図25に示した評価レポートに含まれてもよく、
図23乃至
図25に示した評価レポートに対する補足資料として用いられても良い。
【0153】
●移動体システムの変形例
○変形例1○
次に、
図31乃至
図33を用いて、移動体システム60の変形例について説明する。まず、
図31は、変形例1に係る移動体システムを用いて法面状態を検査する様子の一例を示す図である。変形例1に係る移動体システム60は、高所の撮影を可能にするため、データ取得装置9が移動体6の上面に設置したポールに固定されているシステムである。
【0154】
上述の実施形態の撮影装置7では、地面からの高さが低く、
図31に示されているような擁壁の上の小段、法枠の上の小段、またはモルタル吹付の上の小段の撮影を行うことが難しい。また、現在の道路土工構造物の小段は、
図31に示されているように、蓋がなされておらず、枯れ葉等が堆積して水路が詰まる不具合が発生するおそれがあり、定期的な清掃を必要とする。そのため、高所からの撮影が可能な変形例1に係る移動体システム60を用いることで、例えば、人間が斜面を登って水路の詰まり具合を確認するのは難しい場合であっても、移動体6の走行動作に伴う撮影処理によって確認することができるので、点検効率が大幅に向上させることができる。
【0155】
○変形例2○
図32は、変形例2に係る移動体システムを用いて法面状態を点検する様子の一例を示す図である。変形例2に係る移動体システム60(60a,60b)は、例えば、変形例1のポール付き撮影装置でも撮影できないような高所または道路脇より下の盛土法面の撮影を行うために、移動体6の一例として、データ取得装置9を搭載したドローンを用いるシステムである。
【0156】
移動体6としてのドローンは、撮影装置7だけでなく、距離センサ8a、GNSSセンサ8b、または角度センサ8c等のセンサ装置を備えたデータ取得装置9を搭載することで、移動体6としての車両では評価できなかった高所や盛土の状態評価を行うことができる。特に、盛土や高所は、人間が近接目視に向かうことが困難な場所であり、変形例2のようなドローンによる撮影が望まれる。また、盛土や高所の法面は、木や草といった植生が多く茂っている場所が多い。そのため、データ取得装置9は、広角画像を撮影可能な撮影装置7を備えることが好ましい。
【0157】
○変形例3○
図33は、変形例3に係る移動体システムを用いて法面状態を点検する様子の一例を示す図である。
図33に示されているように、法面は、道路上の構造物であるトンネルや橋梁とは異なり、複雑な構造を持つ。例えば、法面は、斜面が平面ではなくうねっていたり(例えば、岸壁にモルタル吹き付けを行った土工構造物)、植生が生えていたり、金網が貼られていたりする。そのため、変形例3に係る移動体システム60(60a,60b,60c)は、植物や金網等の物体と法面の形状とを区別するため、センサ装置8として、波長情報を取得可能なスペクトルカメラ、赤外線カメラまたは被写界深度拡大カメラ(EDof(Expanded Depth of Field)カメラ)を備える。
【0158】
また、変形例3に係る移動体システム60は、法面の形状と区別するためのツールだけでなく、データ取得装置9に照明装置を搭載に、天候や陽当たり等の様々な条件下で法面撮影が行える構成にすることが好ましい。この場合の照明装置は、撮影装置7による撮影範囲に対応したエリアを照射するライン照明装置、または撮影装置7およびセンサ装置8と同期させた時分割の照明装置であることが好ましい。
【0159】
さらに、変形例3に係る移動体システム60によって取得されたデータを処理するために、評価装置3の評価対象データ生成部35は、細かな変状も見逃さないように手振れ補正機能、焦点深度補正機能(ぼけ補正機能)、歪み補正機能またはコントラスト強調機能等の画像処理機能を有していることが好ましい。また、評価対象データ生成部35は、草、苔または金網等の土工構造物上の変状を覆い隠すノイズの削除機能または草などの影と、ひびなどの変状とを判別する機能を有していることが好ましい。このように、状態検査システム1は、変形例3に係る移動体システム60を用いることで、複雑な構造を有する箇所や、草、苔または金網等が存在する箇所においても、法面状態の評価を精度良く行うことができる。
【0160】
図34は、状態検査システムにおける表示処理の一例を示すシーケンス図である。
【0161】
以下、評価装置3とデータ管理装置5間のシーケンスについて説明するが、データ取得装置9、端末装置1100および端末装置1200とデータ管理装置5間のシーケンスについても同様である。
【0162】
評価装置3のユーザが、例えば、
図15に示した「フォルダ指定」ボタン411を用いたフォルダ指定を行うことで、評価装置3の受付部32は、対象データの選択を受け付ける(ステップS91)。
図15の例の場合、受付部32は、「フォルダ0615」に記憶された評価データの選択を受け付ける。あるいは、評価装置3のユーザが、評価装置3の地図データ管理部37により管理される地図情報における任意の位置を選択することで、評価装置3の受付部32は、地図情報における位置情報の選択を受け付けてもよい。
【0163】
次に、通信部31は、データ管理装置5に対して、ステップS91で選択された対象データに係る入出力画面の要求を送信して、データ管理装置5の通信部51は、評価装置3から送信された要求を受信する。(ステップS92)。この要求には、ステップS91で選択されたフォルダ名が含まれている。あるいは、この要求には、地図情報における位置情報が含まれてもよい。
【0164】
次に、データ管理装置5の記憶・読出部59は、ステップS92で受信された要求に含まれているフォルダ名を検索キーとして処理データ管理DB5003(
図9(B)参照)を検索することで、要求に含まれているフォルダ名に関連づけられた画像データを読み出す。あるいは、記憶・読出部59は、ステップS92で受信された要求に含まれている位置情報を検索キーとして取得データ管理DB5001を検索することで、要求に含まれている位置情報に関連づけられた画像データを読み出す。
【0165】
データ管理装置5の生成部54は、記憶・読出部59が読みだした画像データに基づき当該画像データを含む入出力画面を生成する(ステップS93)。この入出力画面は、法面を示す輝度画像中の特定位置を特定する特定操作を受け付ける特定受付画面、および法面を示す輝度画像中の特定位置を特定することを決定する決定操作を受け付ける決定受付画面を含む。
【0166】
通信部51は、評価装置3に対して、ステップS93で生成した入出力画面に係る入出力画面情報を送信して、評価装置3の通信部31は、データ管理装置5から送信された入出力画面情報を受信する(ステップS94)。ステップS94は、決定受付画面送信ステップの一例である。
【0167】
次に、評価装置3の表示制御部33は、ステップS94で受信された入出力画面を、ディスプレイ306に表示させる(ステップS95)。評価装置3の受付部32は、表示された入出力画面に対するユーザの所定の入力操作を受け付ける。この入力操作は、法面を示す輝度画像中の特定位置を特定する特定操作、および法面を示す輝度画像中の特定位置を特定することを決定する決定操作を含む。ステップS95は、受付ステップの一例である。
【0168】
通信部31は、データ管理装置5に対して、受付部32が受け付けた入力操作に係る入力情報を送信して、データ管理装置5の通信部51は、評価装置3から送信された入力情報を受信する。(ステップS96)。この入力情報は、法面を示す輝度画像中の特定位置を示す特定情報を含む。
【0169】
データ管理装置5の生成部54は、受信した入力情報に基づき、ステップS93で記憶・読出部59が読みだした画像データを用いて、特定位置と座標が対応付けられた特定点群を設定するとともに、表示画像を生成する(ステップS97)。この表示画像は、法面の表面を示す表面画像および表面画像における特定位置を示す表面位置画像を含む表面表示画像と、法面の断面を示す断面画像および断面画像における特定位置を示す断面位置画像を含む断面表示画像を含む。表面位置画像は、表面画像中で特定位置を識別する特定位置識別画像の一例であり、断面位置画像は、三次元点群中で特定点群を識別する特定点群識別画像の一例である。ステップS97は、設定ステップ、および画像生成ステップの一例である。
【0170】
データ管理装置5の通信部51は、評価装置3に対して、ステップS97で生成した表示画像を送信して、評価装置3の通信部31は、データ管理装置5から送信された表示画像を受信する(ステップS98)。ステップS98は、識別画像送信ステップの一例である。
【0171】
評価装置3の表示制御部33は、ステップS98で受信した表示画像をディスプレイ306に表示させる(ステップS99)。ステップS99は、表示ステップの一例である。
【0172】
図34は、評価装置3とデータ管理装置5間の表示処理に係るシーケンスを示したが、評価装置3は、単独で表示処理を実行してもよい。
【0173】
この場合、データ送受信に係るステップS92、94、96、98が省略され、評価装置3は、ステップS91,93、95、97、99を単独で実行することにより、
図34と同様の表示処理が行える。データ取得装置9、端末装置1100および端末装置1200についても、それぞれ評価装置3と同様に単独で表示処理を実行することができる。
【0174】
〇特定位置を特定する特定操作に基づく、特定点群の設定
図35は、状態検査システムの表示画面における操作の説明図である。
図35は、
図34に示したシーケンス図のステップS95において、評価装置3のディスプレイ306に表示される入出力画面2000を示すが、データ取得装置9、端末装置1100および端末装置1200の夫々のディスプレイに表示される入出力画面2000についても同様である。
【0175】
評価装置3の表示制御部33は、法面を示す輝度画像中の特定位置を特定する特定操作を受け付ける特定受付画面2010と、法面を示す輝度画像中の特定位置を特定することを決定する決定操作を受け付ける決定受付画面2020を含む入出力画面2000を表示させる。
【0176】
表示制御部33は、特定受付画面2010中に、法面の表面を示す表面画像2100を表示させるとともに、ポインティングデバイス312により操作されるポインタ2300を表面画像2100上に表示させる。
【0177】
表面画像2100は、
図9(A)に示した撮影画像データから
図34のステップS92で読み出された輝度画像であり、表示制御部33は、
図10に示した撮影画像1,2、および
図11に示した撮影画像データ7Aに示されるX軸方向およびY軸方向と対応付けて、表面画像2100を表示させる。
【0178】
表示制御部33は、特定位置決定ボタン2400、解析ボタン2430、および比較ボタン2440を含む決定受付画面2020を表示させる。解析ボタン2430、および比較ボタン2440は、表面画像2100または断面画像2200における所定の条件を満たす部分の位置を特定位置とすることを決定する決定操作を受け付けるボタンである。
【0179】
決定ボタン2400は、特定受付画面2010で特定された法面における特定位置を決定する決定操作を受け付けるボタンである。決定ボタン2400は、特定受付画面2010に対する特定操作により特定された特定位置だけでなく、判断部52等により特定され、特定受付画面2010に表示された特定位置を決定してもよい。
【0180】
解析ボタン2430は、表面画像2100を解析して得られる部分を特定位置とすることを決定する決定操作を受け付けるボタンであり、比較ボタン2440は、表面画像2100を他の画像と比較して得られる部分を特定位置とすることを決定する決定操作を受け付けるボタンである。
【0181】
図36は、
図33に示した操作に基づく処理を示すフローチャートである。
図36(a)は、評価装置3における処理を示し、
図36(b)は、データ管理装置5における処理を示す。
【0182】
評価装置3の受付部32は、ポインタ2300により表面画像2100上の所定の位置を特定する特定操作がされると、当該特定操作を受け付けて(ステップS101)、特定位置決定ボタン2400により決定操作がされると、当該決定操作を受け付ける(ステップS102)。所定の位置は、ピンポイントの位置を特定するものでもよく、領域を特定するものでもよい。
【0183】
次に、評価装置3の判断部34は、特定操作がされた位置の表面画像2100におけるXY座標を特定位置として検出する(ステップS103)。以下、この特定位置は、XY座標における点を示すものとして説明するが、XY座標における範囲を示すものでも良い。
【0184】
次に、評価装置3の通信部31は、データ管理装置5に対して、受付部32が受け付けた入力操作に係る入力情報を送信する(ステップS104)。この入力情報は、ポインタ2300による特定操作に基づく、XY座標で特定位置を示す特定位置情報を含む。
【0185】
データ管理装置5の通信部51は、評価装置3から送信された入力情報を受信し、設定部55は、受信した入力情報に含まれる特定位置情報に基づき、
図11(B)に示した三次元点群データのうち、特定位置のXY座標と重なる三次元点群データを特定点群として設定し、記憶・読出部59は、特定点群の座標を記憶部5000に記憶させる(ステップS105)。
【0186】
生成部54は、特定位置情報に基づき、
図11(A)に示した画像データを用いて、特定位置のXY座標と重なる表面位置画像を、表面画像に重畳して生成して、表面表示画像を生成する(ステップS106)。
【0187】
続いて、生成部54は、
図11(A)に示した画像データおよび
図11(B)に示した測距データを用いて、特定位置のX座標に対応する断面画像を生成する(ステップS107)。
図11(B)に示した測距データが、特定位置のX座標を含まない場合は、
図11(B)に示した測距データに含まれる特定位置のX座標近傍のデータに基づき、断面画像を生成する。
【0188】
なお、生成部54は、ステップS107において、
図10に示したZ軸方向および鉛直方向を含む断面の断面画像を生成したが、Z軸方向および鉛直方向から傾斜した方向を含む断面の断面画像や、Z軸方向から傾斜した方向を含む断面の断面画像を生成しても良い。
【0189】
生成部54は、特定位置のY座標と重なる断面位置画像を、断面画像の稜線と重畳して生成し、断面表示画像を生成する(ステップS108)。
【0190】
通信部51は、評価装置3に対して、ステップS107で生成した表面表示画像およびステップS108で生成した断面表示画像を送信する(ステップS109)
【0191】
そして、
図34のステップS98およびS99に示したように、評価装置3の通信部31は、データ管理装置5から送信された表面表示画像および断面表示画像を受信し、評価装置3の表示制御部33は、受信した表面表示画像および断面表示画像をディスプレイ306に表示させる。
【0192】
図37は、特定位置と特定点群の説明図である。
図37(a)は、
図11(a)に示した撮影画像データ7A中で特定された特定位置(領域)211Aおよび特定位置(点)211Bを示し、
図37(b)は、
図11(b)に示した測距画像データ8Aにおける特定点群(領域)221Aおよび特定点群(点)221Bを示す。
【0193】
設定部55は、
図37(a)および
図37(b)に示すように、撮影画像データ7A(輝度画像)と座標が対応付けられた測距画像データ8A(三次元点群)における、特定位置(領域)211Aと座標が対応付けられた特定点群(領域)221Aを設定する。
【0194】
特定位置(領域)211Aが、例えば、X座標がX1~X2の範囲、Y座標がY1~Y2の範囲である場合、特定点群(領域)221Aは、X1~X2の範囲、Y1~Y2の範囲に入る複数の画素8A1に対して設定される。
【0195】
同様に、設定部55は、撮影画像データ7A(輝度画像)と座標が対応付けられた測距画像データ8A(三次元点群)における、特定位置(点)211Bと座標が対応付けられた特定点群(点)221Bを設定する。
【0196】
特定位置(点)211Bが、例えば、X座標がX3、Y座標がY3である場合、特定点群(点)221Bは、X座標がX3、Y座標がY3に対応する画素8A1に対して設定される。
【0197】
以上では、X座標およびY座標の二次元座標で説明したが、設定部55は、X座標またはY座標の一次元座標で示される特定位置に対応する、X座標またはY座標の一次元座標で示される特定点群を設定してもよい。例えば、
図10に示したY軸方向について、撮影画像データ7Aおよび測距画像データ8Aについて、Y座標の一次元座標で対応付けし、
図10に示したX軸方向は撮影画像データ7Aおよび測距画像データ8Aをそれぞれ取得した時間に基づき位置関係を対応付けしてもよい。
【0198】
また、撮影画像データ7Aおよび測距画像データ8Aのそれぞれは、必ずしも、
図10に示したX軸方向およびY軸方向に対応する座標に対応付けられていなくてもよく、撮影画像データ7Aの各画素7A1のそれぞれと、測距画像データ8Aの各画素8A1のそれぞれとが、対応づけられていればよい。例えば、記憶部5000に記憶される撮影画像データ7Aの特定画素7A1のアドレスと、記憶部5000に記憶される測距画像データ8Aの特定の画素8A1のアドレスとが、対応付けられていればよい。
【0199】
図38は、
図34に示した処理後の表示画面の一例である。
図38は、
図34に示したシーケンス図のステップS99において、評価装置3のディスプレイ306に表示される入出力画面2000を示す。
【0200】
決定受付画面2020の表示内容は、
図35と同一であるが、特定受付画面2010の表示内容は、
図35とは異なる。
【0201】
評価装置3の表示制御部33は、法面の表面を示す表面画像2100および表面画像2100における特定位置を示す表面位置画像2110を含む表面表示画像2150と、法面の断面を示す断面画像2200および断面画像2200における特定位置を示す断面位置画像2210を含む断面表示画像2250を特定受付画面2010に表示させる。表面位置画像2110は、表面画像中で特定位置を識別する特定位置識別画像の一例であり、断面位置画像2210は、三次元点群中で特定点群を識別する特定点群識別画像の一例である。
【0202】
表示制御部33は、
図10に示したY軸方向およびZ軸方向と対応付けて、断面画像2200を表示させる。
【0203】
ユーザは、表面位置画像2110と、断面位置画像2210を見比べることにより、法面を示す輝度画像中の特定位置と座標が対応付けられた、三次元点群における特定点群を確認することができる。
【0204】
図39は、表示画面に表示される断面表示画像の具体例である。
【0205】
評価装置3の表示制御部33は、Y軸方向のスケール2251およびZ軸方向のスケール2252と対応付けて、断面表示画像2250を表示させる。
【0206】
また、表示制御部33は、断面位置画像2210に対応付けて特定位置の長さ、高さ等の詳細情報2211を表示させる。さらに、表示制御部33は、ポインタ2300で2点をポインティングすることにより、ルーラ2212および8cm等の距離情報2213を表示させる。
【0207】
〇表面画像の解析結果にかかる特定位置に基づく、特定点群の設定
図40は、表面画像解析に係る処理を示すフローチャートである。
図40(a)は、評価装置3における処理を示し、
図40(b)は、データ管理装置5における処理を示す。
【0208】
評価装置3の受付部32は、正面図解析ボタン2430が操作されると、当該操作を受け付けて(ステップS131)、評価装置3の通信部31は、データ管理装置5に対して、受付部32が受け付けた入力操作に係る入力情報を送信する(ステップS132)。この入力情報は、表面画像2100を解析して得られる部分を特定位置として、法面における特定位置を示す画像を生成することを指示する指示情報を含む。
【0209】
データ管理装置5の通信部51は、評価装置3から送信された入力情報を受信し、判断部52は、記憶・読出部59により処理データ管理DB5003から読み出された表面画像と教師画像を比較し、教師画像と一致する部分のXY座標を特定位置として検出する(ステップS135)。ここで、データ管理装置5は、
図7および
図8に示した教師画像を、評価装置3の状態種別管理DB3001から取得する。
【0210】
判断部52は、表面画像と複数の教師画像を比較し、複数の教師画像の夫々と一致する部分のXY座標を複数の特定位置として検出することができる。設定部55は、ステップS135で検出した特定位置に基づき、
図11(B)に示した三次元点群データのうち、特定位置のXY座標と重なる三次元点群データを特定点群として設定し、記憶・読出部59は、特定点群の座標を記憶部5000に記憶させる(ステップS136)。
【0211】
生成部54は、
図11(A)に示した画像データを用いて、特定位置のXY座標と重なる表面位置画像を、表面画像に重畳して生成して、表面表示画像を生成する(ステップS137)。表面位置画像は、特定位置のXY座標と必ずしも完全一致する必要はなく、特定位置のXY座標と重なっていればよい。
【0212】
生成部54は、特定位置が複数の場合、複数の特定位置のそれぞれのXY座標と重なる表面位置画像を、それぞれ表面画像に重畳して生成して、表面表示画像を生成することができる。
【0213】
続いて、生成部54は、
図11(A)に示した画像データおよび
図11(B)に示した測距データを用いて、特定位置のX座標に対応する断面画像を生成する(ステップS138)。
図11(B)に示した測距データが、特定位置のX座標を含まない場合は、
図11(B)に示した測距データに含まれる特定位置のX座標近傍のデータに基づき、断面画像を生成する。
【0214】
なお、生成部54は、ステップS138において、
図10に示したZ軸方向および鉛直方向を含む断面の断面画像を生成したが、Z軸方向および鉛直方向から傾斜した方向を含む断面の断面画像や、Z軸方向から傾斜した方向を含む断面の断面画像を生成しても良い。
【0215】
生成部54は、特定位置が複数の場合、複数の特定位置のそれぞれのX座標とそれぞれ重なる断面画像を複数生成することができる。
【0216】
生成部54は、特定位置のY座標と重なる断面位置画像を、断面画像の稜線と重畳して生成し、断面表示画像を生成する(ステップS139)。
【0217】
生成部54は、特定位置が複数の場合、複数の断面画像のそれぞれについて、ステップS139を実行することができる。
【0218】
通信部51は、評価装置3に対して、ステップS137で生成した表面表示画像およびステップS139で生成した1つまたは複数の断面表示画像を送信する(ステップS140)
【0219】
そして、
図34のステップS98およびS99に示したように、評価装置3の通信部31は、データ管理装置5から送信された表面表示画像および1つまたは複数の断面表示画像を受信し、評価装置3の表示制御部33は、受信した表面表示画像および1つまたは複数の断面表示画像をディスプレイ306に表示させる。
【0220】
図41は、
図40に示した処理後の表示画面の一例である。
図41は、
図40に示した処理後に、評価装置3のディスプレイ306に表示される入出力画面2000を示す。
【0221】
評価装置3の表示制御部33は、表面画像2100と、表面画像2100における第1の特定位置を示す第1の表面位置画像2110Aと、表面画像2100における第2の特定位置を示す第2の表面位置画像2110Bと、を含む表面表示画像2150を表示させる。
【0222】
また、表示制御部33は、第1の断面画像2200Aと、第1の断面画像2200Aにおける第1の特定位置を示す第1の断面位置画像2210Aと、を含む第1の断面表示画像2250Aを表示させるとともに、第2の断面画像2200Bと、第2の断面画像2200Bにおける第2の特定位置を示す第2の断面位置画像2210Bと、を含む第2の断面表示画像2250Bを表示させる。
【0223】
ここで、第1の特定位置は、一例として、
図40のステップS135で、縦横ひび割れパターンを示す教師画像と一致すると判断された表面画像における部分を示す。また、第2の特定位置は、一例として、
図40のステップS135で、密集ひび割れパターンを示す教師画像と一致すると判断された表面画像における部分を示す。
【0224】
〇過去画像との比較結果にかかる特定位置に基づく、特定点群の設定
図42は、表面画像比較に係る処理を示すフローチャートである。
図42(a)は、評価装置3における処理を示し、
図42(b)は、データ管理装置5における処理を示す。
【0225】
評価装置3の受付部32は、正面図比較ボタン2440が操作されると、当該操作を受け付けて(ステップS151)、評価装置3の通信部31は、データ管理装置5に対して、受付部32が受け付けた入力操作に係る入力情報を送信する(ステップS152)。この入力情報は、表面画像2100を他の画像と比較して得られる部分を特定位置として、法面における特定位置を示す画像を生成することを指示する指示情報を含む。
【0226】
データ管理装置5の通信部51は、評価装置3から送信された入力情報を受信し、判断部52は、記憶・読出部59により処理データ管理DB5003から読み出された表面画像と過去の表面画像を比較し、相違する部分のXY座標を特定位置として検出する(ステップS155)。ここで、記憶・読出部59は、一例として、
図9(A)に示した測位データを検索キーとして、表面画像と同じ箇所を撮像した過去画像を、処理データ管理DB5003から読み出すことができる。
【0227】
判断部52は、表面画像と過去画像を比較し、複数の相違する部分のXY座標を複数の特定位置として検出することができる。設定部55は、ステップS155で検出した特定位置に基づき、
図11(B)に示した三次元点群データのうち、特定位置のXY座標と重なる三次元点群データを特定点群として設定し、記憶・読出部59は、特定点群の座標を記憶部5000に記憶させる(ステップS156)。
【0228】
生成部54は、特定位置のXY座標と重なる表面位置画像を、表面画像に重畳して生成して、表面表示画像を生成する(ステップS157)。表面位置画像は、特定位置のXY座標と必ずしも完全一致する必要はなく、特定位置のXY座標と重なっていればよい。
【0229】
生成部54は、特定位置が複数の場合、複数の特定位置のそれぞれのXY座標と重なる表面位置画像を、それぞれ表面画像に重畳して生成して、表面表示画像を生成することができる。
【0230】
そして、生成部54は、特定位置のXY座標と重なる他の位置画像を、過去画像に重畳して生成して、過去表示画像を生成する(ステップS158)。他の位置画像は、特定位置のXY座標と必ずしも完全一致する必要はなく、特定位置のXY座標と重なっていればよい。
【0231】
生成部54は、特定位置が複数の場合、複数の特定位置のそれぞれのXY座標と重なる他の位置画像を、それぞれ過去画像に重畳して生成して、過去表示画像を生成することができる。
【0232】
続いて、生成部54は、
図11(A)に示した画像データおよび
図11(B)に示した測距データを用いて、特定位置のX座標に対応する断面画像を生成する(ステップS159)。
図11(B)に示した測距データが、特定位置のX座標を含まない場合は、
図11(B)に示した測距データに含まれる特定位置のX座標近傍のデータに基づき、断面画像を生成する。
【0233】
生成部54は、ステップS159において、
図10に示したZ軸方向および鉛直方向を含む断面の断面画像を生成したが、Z軸方向および鉛直方向から傾斜した方向を含む断面の断面画像や、Z軸方向から傾斜した方向を含む断面の断面画像を生成しても良い。
【0234】
生成部54は、特定位置が複数の場合、複数の特定位置のそれぞれのX座標とそれぞれ重なる断面画像を複数生成することができる。
【0235】
生成部54は、特定位置のY座標と重なる断面位置画像を、断面画像の稜線と重畳して生成し、断面表示画像を生成する(ステップS160)。
【0236】
生成部54は、特定位置が複数の場合、複数の断面画像のそれぞれについて、ステップS160を実行することができる。
【0237】
通信部51は、評価装置3に対して、ステップS157で生成した表面表示画像、ステップS158で生成した過去表示画像およびステップS160で生成した1つまたは複数の断面表示画像を送信する(ステップS161)
【0238】
そして、
図34のステップS98およびS99に示したように、評価装置3の通信部31は、データ管理装置5から送信された表面表示画像、過去表示画像および1つまたは複数の断面表示画像を受信し、評価装置3の表示制御部33は、受信した表面表示画像、過去表示画像および1つまたは複数の断面表示画像をディスプレイ306に表示させる。
【0239】
図43は、
図42に示した処理後の表示画面の一例である。
図43は、
図42に示した処理後に、評価装置3のディスプレイ306に表示される入出力画面2000を示す。
【0240】
評価装置3の表示制御部33は、表面画像2100と表面位置画像2110を含む表面表示画像2150と、断面画像2200と断面位置画像2210を含む断面表示画像2250に加えて、過去画像2160と、表面画像2160における特定位置を示す他の位置画像2170と、を含む過去表示画像2180を表示させる。
【0241】
図44は、表面画像比較に係る処理の変形例を示すフローチャートである。
図44は、
図42(b)に示したデータ管理装置5における処理の変形例を示す。
【0242】
データ管理装置5の通信部51は、評価装置3から送信された入力情報を受信し、判断部52は、記憶・読出部59により処理データ管理DB5003から読み出された表面画像と点検画像を比較し、点検画像中の点検位置に対応する部分のXY座標を特定位置として検出する(ステップS165)。ここで、データ管理装置5は、一例として、
図19の表示画像領域480に示されるような、複数の点検位置(P1~P4)が描画された点検画像を、記録メディア315等から取得することができる。
【0243】
判断部52は、点検画像中の複数の点検位置のXY座標を複数の特定位置として検出することができる。
【0244】
設定部55は、ステップS165で検出した特定位置に基づき、
図11(B)に示した三次元点群データのうち、特定位置のXY座標と重なる三次元点群データを特定点群として設定し、記憶・読出部59は、特定点群の座標を記憶部5000に記憶させる(ステップS166)。
【0245】
生成部54は、特定位置のXY座標と重なる表面位置画像を、表面画像に重畳して生成して、表面表示画像を生成する(ステップS167)。表面位置画像は、特定位置のXY座標と必ずしも完全一致する必要はなく、特定位置のXY座標と重なっていればよい。
【0246】
生成部54は、特定位置が複数の場合、複数の特定位置のそれぞれのXY座標と重なる表面位置画像を、それぞれ表面画像に重畳して生成して、表面表示画像を生成することができる。
【0247】
続いて、生成部54は、
図11(A)に示した画像データおよび
図11(B)に示した測距データを用いて、特定位置のX座標に対応する断面画像を生成する(ステップS168)。
図11(B)に示した測距データが、特定位置のX座標を含まない場合は、
図11(B)に示した測距データに含まれる特定位置のX座標近傍のデータに基づき、断面画像を生成する。
【0248】
生成部54は、ステップS168において、
図10に示したZ軸方向および鉛直方向を
含む断面の断面画像を生成するが、Z軸方向および鉛直方向から傾斜した方向を含む断面の断面画像や、Z軸方向から傾斜した方向を含む断面の断面画像を生成しても良い。
【0249】
生成部54は、特定位置が複数の場合、複数の特定位置のそれぞれのX座標とそれぞれ重なる断面画像を複数生成することができる。
【0250】
生成部54は、特定位置のY座標と重なる断面位置画像を、断面画像の稜線と重畳して生成し、断面表示画像を生成する(ステップS169)。
【0251】
生成部54は、特定位置が複数の場合、複数の断面画像のそれぞれについて、ステップS169を実行することができる。通信部51は、評価装置3に対して、ステップS167で生成した表面表示画像、およびステップS169で生成した1つまたは複数の断面表示画像を送信する(ステップS170)
【0252】
そして、
図34のステップS98およびS99に示したように、評価装置3の通信部31は、データ管理装置5から送信された表面表示画像、および1つまたは複数の断面表示画像を受信し、評価装置3の表示制御部33は、受信した表面表示画像、過去表示画像および1つまたは複数の断面表示画像をディスプレイ306に表示させる。
【0253】
〇特定位置を特定する特定操作に基づく、複数の特定点群の設定
図45は、
図36に示した処理の変形例を示すフローチャートである。
図45(a)は、評価装置3における処理を示し、
図45(b)は、データ管理装置5における処理を示す。
【0254】
図45(a)に示すステップS191~S194は、
図36(a)に示したステップS101~S104と同じである。なお、以下、特定位置は、XY座標における範囲を示すものとして説明するが、XY座標における点を示すものでも良い。
【0255】
データ管理装置5の通信部51は、評価装置3から送信された入力情報を受信し、設定部55は、受信した入力情報に含まれる特定位置情報に基づき、
図11(B)に示した三次元点群データのうち、特定位置のXY座標と重なる三次元点群データを特定点群として設定し、記憶・読出部59は、特定点群の座標を記憶部5000に記憶させる(ステップS195)。
【0256】
生成部54は、特定位置情報に基づき、
図11(A)に示した画像データを用いて、特定位置のXY座標と重なる表面位置画像を、表面画像に重畳して生成して、表面表示画像を生成する(ステップS196)。
【0257】
続いて、生成部54は、
図11(A)に示した画像データおよび
図11(B)に示した測距データを用いて、特定位置のX座標に対応する複数の断面画像を生成する(ステップS197)。
【0258】
生成部54は、ステップS197において、
図10に示したZ軸方向および鉛直方向を含む断面の断面画像を生成するが、Z軸方向および鉛直方向から傾斜した方向を含む断面の断面画像や、Z軸方向から傾斜した方向を含む断面の断面画像を生成しても良い。
【0259】
生成部54は、特定位置のY座標と重なる複数の断面位置画像を、複数の断面画像夫々の稜線と重畳して生成し、複数の断面表示画像を生成する(ステップS198)。
【0260】
通信部51は、評価装置3に対して、ステップS196で生成した表面表示画像およびステップS198で生成した複数の断面表示画像を送信する(ステップS199)。そして、
図34のステップS98およびS99に示したように、評価装置3の通信部31は、データ管理装置5から送信された表面表示画像および複数の断面表示画像を受信し、評価装置3の表示制御部33は、受信した表面表示画像および複数の断面表示画像をディスプレイ306に表示させる。
【0261】
【0262】
評価装置3の表示制御部33は、
図38に示した断面表示画像2250に代えて、複数の断面表示画像2250A~Eを特定受付画面2010に表示させる。
【0263】
複数の断面表示画像2250A~Eのそれぞれは、断面画像2200A~Eのそれぞれ、および断面位置画像2210A~Eのそれぞれを含む。
【0264】
表示制御部33は、複数の断面表示画像2250A~Eのそれぞれに対応付けて、X軸方向におけるズレ量を表示させる。
【0265】
図46において、断面表示画像2250Cを±0の基準として、断面表示画像2250Aは、断面表示画像2250Cに対してX軸方向に-20cmずれた断面を示し、断面表示画像2250Bは、断面表示画像2250Cに対してX軸方向に-10cmずれた断面を示し、断面表示画像2250Dは、断面表示画像2250Cに対してX軸方向に+10cmずれた断面を示し、断面表示画像2250Eは、断面表示画像2250Cに対してX軸方向に+20cmずれた断面を示す。
【0266】
〇特定位置を指定する操作に基づく、複数の表面表示画像の生成
図47は、
図36に示した処理の第2の変形例を示すフローチャートである。
図47(a)は、評価装置3における処理を示し、
図47(b)は、データ管理装置5における処理を示す。
【0267】
図47(a)に示すステップS201~S204は、
図36(a)に示したステップS101~S104と同じである。なお、以下、特定位置は、XY座標における点を示すものとして説明するが、XY座標における範囲を示すものでも良い。
【0268】
データ管理装置5の通信部51は、評価装置3から送信された入力情報を受信し、設定部55は、受信した入力情報に含まれる特定位置情報に基づき、
図11(B)に示した三次元点群データのうち、特定位置のXY座標と重なる三次元点群データを特定点群として設定し、記憶・読出部59は、特定点群の座標を記憶部5000に記憶させる(ステップS205)。
【0269】
生成部54は、特定位置情報に基づき、
図11(A)に示した画像データを用いて、特定位置のXY座標と重なる表面位置画像を、表面画像に重畳して生成して、表面表示画像を生成する(ステップS206)。
【0270】
そして、生成部54は、特定位置のXY座標と重なる表面位置画像を、表面画像の拡大画像に重畳して生成して、表面拡大表示画像を生成する(ステップ207)。
【0271】
続いて、生成部54は、
図11(A)に示した画像データおよび
図11(B)に示した測距データを用いて、特定位置のX座標に対応する断面画像を生成する(ステップS208)。
図11(B)に示した測距データが、特定位置のX座標を含まない場合は、
図11(B)に示した測距データに含まれる特定位置のX座標近傍のデータに基づき、断面画像を生成する。
【0272】
生成部54は、ステップS207において、
図10に示したZ軸方向および鉛直方向を含む断面の断面画像を生成するが、Z軸方向および鉛直方向から傾斜した方向を含む断面の断面画像や、Z軸方向から傾斜した方向を含む断面の断面画像を生成しても良い。
【0273】
生成部54は、特定位置のY座標と重なる断面位置画像を、断面画像の稜線と重畳して生成し、断面表示画像を生成する(ステップS209)。通信部51は、評価装置3に対して、ステップS206で生成した表面表示画像、ステップS207で生成した表面拡大表示画像およびステップS209で生成した断面表示画像を送信する(ステップS210)
【0274】
そして、
図34のステップS98およびS99に示したように、評価装置3の通信部31は、データ管理装置5から送信された表面表示画像、表面拡大表示画像および断面表示画像を受信し、評価装置3の表示制御部33は、受信した表面表示画像、表面拡大表示画像および断面表示画像をディスプレイ306に表示させる。
【0275】
図48は、
図47に示した処理後の表示画面の一例である。評価装置3の表示制御部33は、
図38に示した表面表示画像2150および断面表示画像2250に加えて、表面画像2100を拡大した拡大画像2100Eと、拡大画像2100Eにおける特定位置を示す拡大表面位置画像2110Eを含む表面拡大表示画像2150Eを特定受付画面2010に表示させる。
【0276】
●実施形態の効果
以上説明したように、状態検査システム1は、撮影装置7および距離センサ8a等の三次元センサを用いて取得されたデータに基づいて、土工構造物の形状検出、並びに土工構造物表層の形状変化および土工構造物表層に発生する変状の検出を定量的に行うことができるとともに、評価結果に基づいて、
図23乃至
図25、
図29および
図30に示されるような評価レポートを自動的に生成することができるので、法面点検の効率を大幅な向上させることができる。また、状態検査システム1は、移動体システム60を用いることで、高所や盛土など人間がいけない場所の点検を行うことができる。
【0277】
さらに、状態検査システム1は、地図データと法面状態の評価結果を組み合わせることで評価対象の法面の位置を把握させることができるので、目視点検に行く必要がない土工構造物斜面を抽出することができるとともに、一斜面あたりの点検速度の向上を図ることができる。また、状態検査システム1は、評価結果をデータ管理装置5に登録することで、変状の経時変化を定量的に蓄積可能とし、健全性診断を合理的かつ効率的にする。
【0278】
なお、上述の実施形態において、法面状態の検査および評価の例を説明したが、状態検査システム1は、法面状態の検査のみならず、路面、トンネル、橋梁等の他の構造物の検査と併用して用いられてもよい。状態検査システム1は、移動体システム60を用いて、道路上の様々な構造物の点検を行うことで、インフラ点検の更なる効率化を図ることができる。
【0279】
●まとめ●
以上説明したように、本発明の情報処理装置の一実施形態に係るデータ管理装置5は、対象物の一例である法面または法面とその周囲の表面を示す輝度画像(撮影画像データ7A)について、輝度画像中の特定位置211を特定することを決定する決定操作を受け付ける決定受付画面2020に対する決定操作に基づき、法面または法面とその周囲の表面を示す三次元点群(測距画像データ8A)について、特定位置211に対応する三次元点群の特定点群221を設定する設定部55を備える。さらに、輝度画像と三次元点群とは座標が対応付けされており、設定部55は、特定位置211の座標に基づき、特定点群221を設定する。
【0280】
これにより、三次元点群からだけでは設定するのが困難である法面の範囲や法面における変状箇所等の特定点群について、輝度画像中で特定された特定位置に基づき、容易に設定することができる。
【0281】
なお、本発明の情報処理装置は、三次元点群に基づき、CADデータ等の三次元形状情報を生成する三次元形状生成装置であってもよく、その場合、対象物は、法面に限られず、三次元形状情報を生成する必要のある任意の物体であればよい。
【0282】
特に、三次元点群中の特定点群にラベリングして、他の点群と識別できるようにするセグメンテーション処理や、ラベリングされた点群のうち距離が近い特定点群をグループ化するクラスタリング処理においては、輝度画像中で特定された特定位置に基づき、セグメンテーション処理やクラスタリング処理を容易に行うことができる。
【0283】
データ管理装置5は、特定点群の三次元点群中の座標を記憶部5000に記憶させる記憶制御手段の一例である記憶・読出部59を備える。
【0284】
これにより、三次元点群からだけでは設定するのが困難である法面の範囲や変状箇所等の特定点群の座標について、輝度画像中で特定された特定位置に基づき、容易に記憶させることができる。
【0285】
データ管理装置5は、三次元点群中で特定点群を識別する特定点群識別画像の一例である断面位置画像2210を生成する画像生成手段の一例である生成部54を備える。これにより、特定点群を断面位置画像2210によって識別することができる。
【0286】
データ管理装置5は、断面位置画像2210を外部装置に送信する送信手段を備える。これにより、外部装置の一例である通信端末3,9,1100,1200にて、特定点群を断面位置画像2210によって識別することができる。
【0287】
データ管理装置5は、断面位置画像2210を、三次元点群と対応づけて表示部に表示させる表示制御手段を備える。これにより、三次元点群と対応づけて表示された断面位置画像2210によって、特定点群を識別することができる。
【0288】
設定部55は、特定位置を特定する特定操作に基づき、特定点群を設定する。これにより、特定操作によって輝度画像中で特定された特定位置に基づき、特定点群を設定することができる。
【0289】
設定部55は、特定操作を受け付ける特定受付画面2010で特定された特定位置に基づき、特定点群を設定し、特定受付画面は、輝度画像の一例である表面画像2100を含む。これにより、表面画像2100を確認しながら特定位置を特定することができる。
【0290】
設定部55は、輝度画像における所定の条件を満たす位置を特定位置とする決定操作に基づき、特定点群を設定する。これにより、輝度画像中における所定の条件を満たす位置を特定位置として、特定点群を設定することができる。
【0291】
設定部55は、輝度画像における、他の輝度画像と一致または相違する部分を特定位置とする決定操作を受け付ける比較ボタン2440に対する決定操作に基づき、特定点群を設定する。これにより、輝度画像が他の輝度画像と一致または相違する部分を特定位置として、特定点群を設定することができる。
【0292】
設定部55は、輝度画像における、他の輝度画像における特定部分と対応する部分を特定位置として、特定点群を設定する。これにより、輝度画像における、他の輝度画像における特定部分と対応する部分を特定位置として、特定点群を設定することができる。
【0293】
設定部55は、特定位置と座標が対応付けられた複数の特定点群を設定する。これにより、広い領域を特定する特定位置に対して、複数の特定点群を設定することができる。
【0294】
本発明の情報処理システムの一実施形態に係る状態検査システム1は、情報処理装置の一例であるデータ管理装置5と、データ管理装置5と通信可能な通信端末3,9,1100,1200と、を備える。
【0295】
データ管理装置5は、通信端末3,9,1100,1200に対して、法面または法面とその周囲の表面を示す輝度画像について、輝度画像中の特定位置を特定することを決定する決定操作を受け付ける決定受付画面2020に係る決定受付画面情報を送信する通信部51と、決定受付画面2020で受け付けられた決定操作に基づき、法面または法面とその周囲の表面を示す三次元点群について、特定位置211に対応する三次元点群の特定点群221を設定する設定部55を備える。
【0296】
輝度画像と三次元点群とは座標が対応付けされており、設定部55は、特定位置211の座標に基づき特定点群221を設定し、通信部51は、通信端末3,9,1100,1200に対して、さらに、三次元点群中で特定点群を識別する断面位置画像2210を送信する。
【0297】
通信端末3,9,1100,1200は、決定受付画面情報および特定点群識別画像を受信する通信部31等と、決定受付画面2020を表示部にディスプレイ306等させるとともに、断面位置画像2210を三次元点群と対応づけてディスプレイ306等に表示させる表示制御部33等と、決定受付画面2020に対する決定操作を受け付ける受付部32等と、を備える。
【0298】
本発明の一実施形態に係る情報処理方法は、通信端末3,9,1100,1200に対して、法面または法面とその周囲の表面を示す輝度画像について、輝度画像中の特定位置を特定することを決定する決定操作を受け付ける決定受付画面2020に係る決定受付画面情報を送信する決定受付画面送信ステップと、決定受付画面2020で受け付けられた決定操作に基づき、法面または法面とその周囲の表面を示す三次元点群について、特定位置211に対応する三次元点群の特定点群221を設定する設定ステップと、通信端末3,9,1100,1200に対して、さらに、三次元点群中で特定点群を識別する断面位置画像2210を送信する識別画像送信ステップと、を備え、輝度画像と三次元点群とは座標が対応付けされており、設定ステップは、特定位置211の座標に基づき、特定点群221を設定する。
【0299】
本発明の一実施形態に係る情報処理方法は、法面または法面とその周囲の表面を示す輝度画像について、輝度画像中の特定位置を特定することを決定する決定操作を受け付ける受付ステップと、受付ステップで受け付けられた決定操作に基づき、法面または法面とその周囲の表面を示す三次元点群について、特定位置211に対応する三次元点群の特定点群221を設定する設定ステップと、断面位置画像2210を三次元点群と対応づけて表示する表示ステップと、を備え、輝度画像と三次元点群とは座標が対応付けされており、設定ステップは、特定位置211の座標に基づき、特定点群221を設定する。
【0300】
本発明の一実施形態に係るプログラムは、以上の情報処理方法をコンピュータに実行させる。
【0301】
●補足●
上記で説明した実施形態の各機能は、一または複数の処理回路によって実現することが可能である。ここで、本実施形態における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウエアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)、SOC(System on a chip)、GPU(Graphics Processing Unit)および従来の回路モジュール等のデバイスを含むものとする。
【0302】
また、上記で説明した実施形態の各種テーブルは、機械学習の学習効果によって生成されたものでもよく、関連づけられている各項目のデータを機械学習にて分類付けすることで、テーブルを使用しなくてもよい。ここで、機械学習とは、コンピュータに人のような学習能力を獲得させるための技術であり,コンピュータが,データ識別等の判断に必要なアルゴリズムを,事前に取り込まれる学習データから自律的に生成し,新たなデータについてこれを適用して予測を行う技術のことをいう。機械学習のための学習方法は、教師あり学習、教師なし学習、半教師学習、強化学習、深層学習のいずれかの方法でもよく、さらに、これらの学習方法を組み合わせた学習方法でもよく、機械学習のための学習方法は問わない。
【0303】
また、上記で説明した実施形態の各種テーブルは、画像処理手法を用いて生成されたものでもよい。画像処理手法の例としては、エッジ検出や直線検出、2値化処理等である。また、同様に、音声を取り扱う場合は、フーリエ変換等の音声変換手法を用いても良い。
【0304】
これまで本発明の一実施形態に係る評価システム、状態検査システム、評価方法およびプログラムについて説明してきたが、本発明は、上述した実施形態に限定されるものではなく、他の実施形態の追加、変更または削除等、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
【符号の説明】
【0305】
1 状態検査システム(情報処理システムの一例)
3 評価装置(通信端末、外部装置の一例)
4 評価システム
5 データ管理装置(情報処理装置の一例)
6 移動体
7 撮影装置
7A 撮影画像データ(輝度画像)
8 センサ装置
8A 測距画像データ(三次元点群)
8a 距離センサ(三次元センサの一例)
8c 角度センサ(三次元センサの一例)
9 データ取得装置(通信端末の一例)
31 通信部(受信手段の一例)
32 受付部(操作受付手段の一例)
33 表示制御部(表示制御手段の一例)
35 評価対象データ生成部(評価対象データ生成手段の一例)
36 検出部(検出手段の一例)
38 レポート生成部(評価情報生成手段の一例)
51 通信部(送信手段の一例)
52 判断部(位置生成手段の一例)
54 生成部(画像生成手段の一例)
55 設定部(設定手段の一例)
59 記憶・読出部(記憶制御手段の一例)
60 移動体システム
211A 特定位置(領域)
211B 特定位置(点)
221A 特定点群(領域)
221B 特定点群(点)
1100 (通信端末の一例)
1200 (通信端末の一例)
2000 入出力画面
2010 特定受付画面
2020 決定受付画面
2100 表面画像
2110 表面位置画像(特定位置識別画像の一例)
2150 表面表示画像
2160 他の画像
2170 他の位置画像
2180 他の表示画像
2200 断面画像
2210 断面位置画像(特定点群識別画像の一例)
2250 断面表示画像
2300 ポインタ
2400 特定位置決定ボタン
2430 解析ボタン
2440 比較ボタン