IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社リコーの特許一覧

特開2024-47548情報処理装置、情報処理方法、プログラムおよび情報処理システム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024047548
(43)【公開日】2024-04-05
(54)【発明の名称】情報処理装置、情報処理方法、プログラムおよび情報処理システム
(51)【国際特許分類】
   E01C 23/01 20060101AFI20240329BHJP
   G06T 17/05 20110101ALI20240329BHJP
【FI】
E01C23/01
G06T17/05
【審査請求】未請求
【請求項の数】18
【出願形態】OL
(21)【出願番号】P 2023124018
(22)【出願日】2023-07-31
(31)【優先権主張番号】P 2022152354
(32)【優先日】2022-09-26
(33)【優先権主張国・地域又は機関】JP
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.BLU―RAY DISC
(71)【出願人】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】山本 良二
(72)【発明者】
【氏名】辰野 響
【テーマコード(参考)】
2D053
5B050
【Fターム(参考)】
2D053AA31
2D053AB02
2D053FA03
5B050AA03
5B050BA02
5B050BA06
5B050DA02
5B050EA19
(57)【要約】
【課題】未知の法面80の位置を確認することこと。
【解決手段】データ管理装置5は、移動体6に設置された撮影装置7により、法面80および法面80以外を含む対象領域70を移動体6の移動方向に沿って複数の撮影領域dnに分けて撮影したそれぞれの撮影画像pnをつなぎ合わせて、移動体6の移動方向における法面80と法面80以外の境界を含む合成画像2500を表示する入出力画面2000を生成する生成部54を備える。
【選択図】図17
【特許請求の範囲】
【請求項1】
移動体に設置された撮影装置により、対象物および対象物以外を含む対象領域を前記移動体の移動方向に沿って複数の撮影領域に分けて撮影したそれぞれの撮影画像をつなぎ合わせて、前記移動体の移動方向における前記対象物と前記対象物以外の境界を含む合成画像を表示する表示画面を生成する生成手段を備えた情報処理装置。
【請求項2】
前記生成手段は、前記境界の推定位置を示すマーカーを前記合成画像に重畳させて表示する前記表示画面を生成する請求項1記載の情報処理装置。
【請求項3】
前記生成手段は、前記対象部の一端の前記境界の推定される位置を示す第1のマーカーと、前記対象部の他端の前記境界の推定される位置を示す第2のマーカーを一画面または一ラインで表示する前記表示画面を生成する請求項2記載の情報処理装置。
【請求項4】
前記生成手段は、前記対象物の推定される種別を示す種別情報を表示する種別表示画面を生成する請求項1記載の情報処理装置。
【請求項5】
前記種別情報または前記種別情報に対応する画像情報を選択する選択操作に基づき、前記合成画像のうち前記選択された種別情報または画像情報に対応する前記対象物を撮影した撮影画像が、表示部に表示される請求項4記載の情報処理装置。
【請求項6】
前記合成画像における一部の領域を特定することを決定する決定操作に基づき、前記一部の領域に対応する部分画像を設定する設定手段を備えた請求項1記載の情報処理装置。
【請求項7】
前記生成手段は、前記合成画像を分割した複数の分割画像のそれぞれの分割画像を並べて表示するように、前記表示画面を生成する請求項1記載の情報処理装置。
【請求項8】
前記生成手段は、記憶手段に記憶された前記複数の撮影領域に分けて撮影されたそれぞれの撮影画像よりも低い解像度で、前記合成画像を表示するように、前記表示画面を生成する請求項1記載の情報処理装置。
【請求項9】
前記対象領域は、前記移動体の移動方向と交差する方向において異なる範囲である第1の対象領域および第2の対象領域を含み、
前記第1の対象領域を前記移動体の移動方向に沿って複数の第1の撮影領域に分けて撮影したそれぞれの第1の撮影画像をつなぎ合わせた第1の合成画像、および前記第2の対象領域を前記移動体の移動方向に沿って複数の第2の撮影領域に分けて撮影したそれぞれの第2の撮影画像をつなぎ合わせた第2の合成画像について、
前記生成手段は、
前記第1の合成画像および前記第2の合成画像の少なくとも一方を含む前記表示画面を生成する請求項1記載の情報処理装置。
【請求項10】
前記第1の合成画像における一部の領域を特定することを決定する第1の決定操作に基づき、前記第1の合成画像における前記一部の領域に対応する第1の部分画像を設定するとともに、前記第2の合成画像における前記一部の領域に対応する第2の部分画像を設定する設定手段を備えた請求項9記載の情報処理装置。
【請求項11】
前記設定手段は、
前記第1の部分画像と、第2の部分画像をつなぎ合わせた統合部分画像を設定する請求項10記載の情報処理装置。
【請求項12】
前記設定手段は、前記決定操作に基づき、前記一部の領域に対応する位置情報を設定する請求項6記載の情報処理装置。
【請求項13】
前記設定手段は、前記決定操作に基づき、前記複数の撮影領域に対応する三次元点群について、前記一部の領域に対応する特定点群を設定する請求項6または12記載の情報処理装置。
【請求項14】
移動体に設置された撮影装置により、対象物および対象物以外を含む対象領域を前記移動体の移動方向に沿って複数の撮影領域に分けて撮影したそれぞれの撮影画像をつなぎ合わせて、前記移動体の移動方向における前記対象物と前記対象物以外の境界を含む合成画像を表示する表示画面を生成する生成ステップを実行する情報処理方法。
【請求項15】
移動体に設置された撮影装置により、対象物および対象物以外を含む対象領域を前記移動体の移動方向に沿って複数の撮影領域に分けて撮影する撮影ステップと、
前記複数の撮影領域に分けて撮影したそれぞれの撮影画像をつなぎ合わせて、前記移動体の移動方向における前記対象物と前記対象物以外の境界を含む合成画像を表示する表示画面を生成する生成ステップと、を実行する情報処理方法。
【請求項16】
コンピュータに、請求項14または15記載の情報処理方法を実行させるプログラム。
【請求項17】
移動体および前記移動体に設置された撮影装置を備えた撮影システムと、前記撮影システムで撮影された画像を処理する情報処理装置と、を備えた情報処理システムであって、
前記撮影システムは、
前記撮影装置により、対象物および対象物以外を含む対象領域を前記移動体の移動方向に沿って複数の撮影領域に分けて撮影し、
前記情報処理装置は、
前記複数の撮影領域に分けて撮影されたそれぞれの撮影画像をつなぎ合わせて、前記移動体の移動方向における前記対象物と前記対象物以外の境界を含む合成画像を表示する表示画面を生成する生成手段を備える情報処理システム。
【請求項18】
前記情報処理装置と通信可能な端末装置をさらに備え、
前記情報処理装置は、
前記端末装置に対して、前記表示画面を示す表示画面情報を送信する送信手段をさらに備え、
前記端末装置は、
前記情報処理装置から送信された、前記表示画面情報を受信する受信手段と、
前記表示画面を表示部に表示する表示制御手段と、
を備える請求項17記載の情報処理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理方法、プログラムおよび情報処理システムに関する。
【背景技術】
【0002】
特許文献1には、移動体で移動しながら各ラインカメラで撮影を繰返すことによって、移動方向に長く伸びるとともに各ラインカメラの視野角以上に広く拡がるパノラマ映像を作成する方法と装置が記載されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第4551990号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明は、移動体に設置された撮影装置により撮影された撮影画像において、対象部の位置を確認することを課題とする。
【課題を解決するための手段】
【0005】
本発明に係る情報処理装置は、移動体に設置された撮影装置により、対象物および対象物以外を含む対象領域を移動体の移動方向に沿って複数の撮影領域に分けて撮影したそれぞれの撮影画像をつなぎ合わせて、前記移動体の移動方向における前記対象物と前記対象物以外の境界を含む合成画像を表示する表示画面を生成する生成手段を備える。
【発明の効果】
【0006】
本発明は、移動体に設置された撮影装置により撮影された撮影画像における対象部の位置を確認することができる。
【図面の簡単な説明】
【0007】
図1】実施形態に係る状態検査システムの全体構成の一例を示す図である。
図2】実施形態に係る移動体システムを用いて法面状態を検査する様子の一例を示す図である。
図3】法面の状態を説明する図である。
図4】データ取得装置のハードウエア構成の一例を示す図である。
図5】評価装置およびデータ管理装置のハードウエア構成の一例を示す図である。
図6】状態検査システムの機能構成の一例を示す図である。
図7】状態種別管理テーブルの一例を示す概念図である。
図8】状態種別管理テーブルの一例を示す概念図である。
図9】(A)は、取得データ管理テーブルに一例を示す概念図であり、(B)は、処理データ管理テーブルの一例を示す概念図である。
図10】移動体システムによって取得される撮影画像について説明するための図である。
図11】撮影画像と測距画像の説明図である。
図12】複数の撮影領域の説明図である。
図13】実施形態に係る複数の撮影装置を備えた移動体システムを示す図である。
図14】移動体システムを用いたデータ取得処理の一例を示すシーケンス図である。
図15】評価対象データの生成処理の一例を示すシーケンス図である。
図16】状態検査システムの合成画像の説明図である。
図17】状態検査システムの入出力画面における操作の説明図である。
図18】状態検査システムの入出力画面における操作の他の説明図である。
図19図17および図18に示した操作に基づく処理を示すフローチャートである。
図20】状態検査システムの統合部分画像の説明図である。
図21】評価対象データの生成処理の変形例を示すシーケンス図である。
図22】法面状態の評価結果であるレポートの生成処理の一例を示すシーケンス図である。
図23】法面状態の検出処理の一例を示すフローチャートである。
図24】状態検査システムにおける表示処理の一例を示すシーケンス図である。
図25】状態検査システムの表示画面における操作の説明図である。
図26図25に示した操作に基づく処理を示すフローチャートである。
図27図26に示した処理後の表示画面の一例である。
図28】状態検査システムの機能構成の変形例を示す図である。
図29図28に示した変形例における処理を示すフローチャートである。
図30図28に示した変形例における検出データ表示画面の一例を示す図である。
図31図28に示した変形例における地図画面の一例を示す図である。
図32】変形例1に係る移動体システムを用いて法面状態を検査する様子の一例を示す図である。
図33】変形例2に係る移動体システムを用いて法面状態を点検する様子の一例を示す図である。
図34】変形例3に係る移動体システムを用いて法面状態を点検する様子の一例を示す図である。
【発明を実施するための形態】
【0008】
以下、図面を参照しながら、発明を実施するための形態を説明する。なお、図面の説明において同一要素には同一符号を付し、重複する説明は省略する。
【0009】
●第1の実施形態●
●システムの概略
まず、図1および図2を用いて、状態検査システムの概略について説明する。図1は、実施形態に係る状態検査システムの全体構成の一例を示す図である。図1に示されている状態検査システム1は、情報処理システムの一例であり、移動体システム60によって取得された各種データを用いて、道路土工構造物の状態の検査を行うためのシステムである。道路土工構造物とは、道路を建設するために構築する土砂や岩石等の地盤材料を主材料として構成される構造物およびそれらに附帯する構造物の総称であり、切土・斜面安定施設、盛土、カルバートおよびこれらに類するものをいう。以下、道路土工構造物を法面と称する。
【0010】
状態検査システム1は、移動体システム60、評価システム4、国、自治体の通信端末1100および委託事業者の通信端末1200によって構成されている。移動体システム60は、撮影システムの一例であり、データ取得装置9およびデータ取得装置9を搭載した車両等の移動体6によって構成されている。車両は、道路上を走行する車両であってもよく、線路上を走行する車両であってもよい。データ取得装置9は、構造物を計測する計測装置の例である撮影装置7、並びに距離センサ8aおよびGNSS(Global Navigation Satellite System:全球測位衛星システム)センサ8bを有している。GNSSは、GPS(Global Positioning System)または準天頂衛星(QZSS)等の衛星測位システムの総称である。
【0011】
撮影装置7は、光電変換素子を一列または複数列に配置させたラインセンサを搭載したラインカメラである。撮影装置7は、移動体6の走行方向に沿った撮影面上にある所定の撮影範囲に沿った位置を撮影する。なお、撮影装置は、ラインカメラに限られず、光電変換素子が面状に配置されたエリアセンサを搭載したカメラであってもよい。また、撮影装置は、複数のカメラによって構成されていてもよい。
【0012】
距離センサ8aは、ToFセンサ(Time of Flight)であり、撮影装置7によって撮影された被写体との距離を計測する。GNSSセンサ8bは、複数のGNSS衛星が発信した各時間の信号を受信し、各信号を受信した時刻との差で衛星までの距離を算出することで、地球上の位置を計測する測位手段である。測位手段は、測位専用の装置であってもよく、PC(Personal Computer)やスマートフォン等にインストールされた測位専用のアプリケーションであってもよい。距離センサ8aおよびGNSSセンサ8bは、センサ装置の一例である。また、距離センサ8aは、三次元センサの一例である。
【0013】
距離センサ8aとして用いられるToFセンサは、光源から物体にレーザ光を照射し、その散乱や反射光を計測することにより、光源から物体までの距離を測定する。
【0014】
本実施形態では、距離センサ8aは、LiDAR(Light Detection and Ranging)センサである。LiDARとは、パルスを用いて光飛行時間を測定する方式であるが、ToFセンサのその他の方式として、位相差検出方式で距離を計測してもよい。位相差検出方式では、基本周波数で振幅変調したレーザ光を計測範囲に照射し、その反射光を受光して照射光と反射光との位相差を測定することで時間を求め、その時間に光速をかけて距離を算出する。また、距離センサ8aは、ステレオカメラ等により構成されてもよい。
【0015】
移動体システム60は、三次元センサを用いることで、法面の高さ、傾斜角度またははらみだし等の二次元の画像からは得ることが困難な三次元の情報を得ることができる。
【0016】
なお、移動体システム60は、さらに、角度センサ8cを搭載した構成であってもよい。角度センサ8cは、撮影装置7の撮影方向の角度(姿勢)または角速度(または各加速度)を検出するためのジャイロセンサ等である。
【0017】
評価システム4は、評価装置3およびデータ管理装置5によって構築されている。評価システム4を構成する評価装置3およびデータ管理装置5は、通信ネットワーク100を介して移動体システム60、通信端末1100および通信端末1200と通信することができる。通信ネットワーク100は、インターネット、移動体通信網、LAN(Local Area Network)等によって構築されている。なお、通信ネットワーク100には、有線通信だけでなく、3G(3rd Generation)、4G(4th Generation)、5G(5th Generation)、Wi-Fi(Wireless Fidelity)(登録商標)、WiMAX(Worldwide Interoperability for Microwave Access)またはLTE(Long Term Evolution)等の無線通信によるネットワークが含まれてもよい。また、評価装置3およびデータ管理装置5は、NFC(Near Field Communication)(登録商標)等の近距離通信技術による通信機能を備えていてもよい。
【0018】
データ管理装置5は、情報処理装置の一例であり、データ取得装置9によって取得された各種データを管理するPC等のコンピュータである。データ管理装置5は、データ取得装置9から各種取得データを受信し、受信した各種取得データを、データ解析を行う評価装置3に受け渡す。なお、データ管理装置5から評価装置3への各種取得データの受け渡し方法はUSB(Universal Serial Bus)メモリ等を使った人的な移動であってもよい。
【0019】
評価装置3は、データ管理装置5から受け渡された各種取得データに基づいて、法面の状態を評価するPC等のコンピュータである。評価装置3は、法面状態を評価するための専用アプリケーションプログラムがインストールされている。評価装置3は、撮影画像データおよびセンサデータから法面の種別または構造を検出して形状データを抽出するとともに、変状の有無や変状の度合いを検出することによる詳細分析を行う。また、評価装置3は、撮影画像データおよびセンサデータ、評価対象データ、並びに詳細分析結果を用いて、国、自治体または委託事業者等の道路管理者に提出するためのレポートを生成する。評価装置3によって生成されたレポートのデータは、委託事業者を介して国、自治体に、電子データまたは書類に印刷した状態で提出される。評価装置3によって生成されるレポートは、調査記録表、点検表、調査台帳または調書等と称される。なお、評価装置3は、PCに限られず、スマートフォンまたはタブレット端末等であってもよい。また、評価システム4は、評価装置3とデータ管理装置5を、一台の装置または端末として構築する構成であってもよい。
【0020】
通信端末1200は、委託事業者に備えられており、通信端末1100は、国、自治体に備えられている。評価装置3、通信端末1100および通信端末1200は、データ管理装置5と通信可能な通信端末の例であり、データ管理装置5で管理される各種データが閲覧可能である。
【0021】
図2は、実施形態に係る移動体システムを用いて法面状態を検査する様子の一例を示す図である。図2に示されているように、移動体システム6は、データ取得装置9を搭載した移動体6を道路上に走行させながら、撮影装置7で法面の所定範囲を撮影していく。
【0022】
あるいは、法面の位置が未知の場合は、移動体システム6は、移動体6を道路上で数km~数十km走行させながら、撮影装置7は、法面と、法面以外の領域を含む所定範囲を撮影していく。法面以外の領域は、落石防護網・落石防護柵等の法面以外の土工構造物、道路、脇道の道路、自然斜面、信号、標識、店舗、海(海岸線を走る際)、車等が含まれる。
【0023】
ここで、図2に示されているように、法面のうち、削った斜面を切土法面、土を盛った斜面を盛土法面という。また、山の脇に通した道路において、側面にある斜面のことを自然斜面という。切土法面や盛土法面は、法面の表面に植物を植えることで耐久性が増し、そのまま数十年変化させないで済ませられることがある。しかしながら、このようなケースばかりではなく、風雨等によって切土法面、盛土法面および自然斜面の劣化が進むと、表面の岩や土が落ちてくる表層崩壊や山が崩れて道路封鎖に至る崩壊が起こる。このような事態を避けるため、斜面の表面には、モルタルを吹き付けたり(モルタル吹付)、コンクリートの構造物を設置し固めることで斜面が風雨にさらされて劣化する速度を遅くしたりする手法が取られている。このような手法によって構築された構造物を土工構造物という。土工構造物には、自然斜面と道路の間に設置する擁壁や落石が道路に落下することを防ぐ落石防護柵等が存在するが、いずれも道路への土砂や落石などの流出による道路封鎖または人的被害を未然に防ぐためのものである。
【0024】
近年、施工から数十年経過した土工構造物の劣化が著しく、社会インフラの整備が大きな課題となっている。そのため、土工構造物の劣化を早期に発見し、土工構造物を長持ちさせるための点検および老朽化保全が重要となる。従来の自然斜面および土工構造物の点検は、斜面の落石、崩壊、地滑りまたは土石流を調査して修繕計画を作成するもので、専門家による目視点検によって行われていた。
【0025】
しかしながら、専門家による目視点検では、日本中に大量にある土工構造物を一定期間に点検しきれないことや高所や川沿いの盛土等を点検できないといった効率面の問題に加えて、目視点検では、土工構造物表層に発生するひびまたは剥離といった変状の劣化の進行度合いを定量的に把握できなかった。
【0026】
そこで、実施形態に係る状態検査システム1は、撮影装置7によって土工構造物斜面の撮影画像データを取得し、距離センサ8a等の三次元センサによって三次元情報を含むセンサデータを取得する。そして、評価システム4は、取得された撮影画像データとセンサデータを組み合わせて法面状態の評価を行うことで、法面の三次元形状を示す形状データを検出するとともに、ひびや剥離といった変状を検出する。これによって、状態検査システム1は、人間の目視では点検が困難な評価を効率的に行うことができる。
【0027】
図3は、法面の状態を説明する図である。図3(a)は、崩壊5年前の法面の表面を示す画像であり、図3(b)は、図3(a)に示す画像の説明図である。この状態は、法面表層のひび割れが目立つ段階であり、ひび割れ、剥離、湧水等の表層の変状または変状の予兆を検出するために、展開図等に示される画像解析が有効である。
【0028】
図3(c)は、崩壊2年前の法面の表面を示す画像であり、図3(d)は、図3(c)に示す画像の説明図である。この状態は、法面内部が土砂化し、土砂が法面表層を押し、斜面が膨らんだ段階であり、ひび割れを伴う段差、はらみだし等の三次元的な変状を検出するために、展開図等の画像+断面図等の三次元解析が有効である。
【0029】
図3(d)は、崩壊5年前の法面の表面を示す画像であり、図3(b)は、図3(a)に示す画像の説明図である。この状態は、法面表層が土砂を抑えきれず崩壊している。
【0030】
●ハードウエア構成
次に、図4および図5を用いて、状態検査システム1を構成する各装置のハードウエア構成について説明する。なお、図4および図5に示されているハードウエア構成は、必要に応じて構成要素が追加または削除されてもよい。
【0031】
○データ取得装置のハードウエア構成○
図4は、データ取得装置のハードウエア構成の一例を示す図である。データ取得装置9は、図1に示されているような撮影装置7およびセンサ装置8とともに、データ取得装置9の処理または動作を制御するコントローラ900を備える。
【0032】
コントローラ900は、撮影装置I/F(Interface)901、センサ装置I/F902、バスライン910、CPU(Central Processing Unit)911、ROM(Read Only Memory)912、RAM(Random Access Memory)913、HD(Hard Disk)914、HDD(Hard Disk Drive)コントローラ915、ネットワークI/F916、DVD-RW(Digital Versatile Disk Rewritable)ドライブ918、メディアI/F922、外部機器接続I/F923およびタイマ924を備えている。
【0033】
これらのうち、撮影装置I/F901は、撮影装置7との間で各種データまたは情報の送受信を行うためのインターフェースである。センサ装置I/F902は、センサ装置8との間で各種データまたは情報の送受信を行うためのインターフェースである。バスライン910は、図4に示されているCPU911等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0034】
また、CPU911は、データ取得装置9全体の動作を制御する。ROM912は、IPL等のCPU911の駆動に用いられるプログラムを記憶する。RAM913は、CPU911のワークエリアとして使用される。HD914は、プログラム等の各種データを記憶する。HDDコントローラ915は、CPU911の制御にしたがってHD914に対する各種データの読み出しまたは書き込みを制御する。ネットワークI/F916は、通信ネットワーク100を利用してデータ通信をするためのインターフェースである。
【0035】
DVD-RWドライブ918は、着脱可能な記録媒体の一例としてのDVD-RW917に対する各種データの読み出しまたは書き込みを制御する。なお、DVD-RWに限らず、DVD-RやBlu-ray(登録商標) Disc(ブルーレイディスク)等であってもよい。
【0036】
メディアI/F922は、フラッシュメモリ等の記録メディア921に対するデータの読み出しまたは書き込み(記憶)を制御する。外部機器接続I/F923は、ディスプレイ、受付部および表示制御部を有する外部PC930等の外部機器を接続するためのインターフェースである。タイマ924は、時間計測機能を有する計測装置である。タイマ924は、コンピュータによるソフトタイマでもよい。タイマ924は、GNSSのセンサ8bの時刻と同期することが好ましい。これにより、各センサデータおよび撮影画像データは、時刻の同期、位置の対応付けが容易になる。
【0037】
○評価装置のハードウエア構成○
図5は、評価装置のハードウエア構成の一例を示す図である。評価装置3の各ハードウエア構成は、300番台の符号で示されている。図5に示されているように、評価装置3は、コンピュータによって構築されており、図5に示されているように、CPU301、ROM302、RAM303、HD304、HDDコントローラ305、ディスプレイ306、外部機器接続I/F308、ネットワークI/F309、バスライン310、キーボード311、ポインティングデバイス312、DVD-RWドライブ314、およびメディアI/F316を備えている。
【0038】
これらのうち、CPU301は、評価装置3全体の動作を制御する。ROM302は、IPL等のCPU301の駆動に用いられるプログラムを記憶する。RAM303は、CPU301のワークエリアとして使用される。HD304は、プログラム等の各種データを記憶する。HDDコントローラ305は、CPU301の制御にしたがってHD304に対する各種データの読み出しまたは書き込みを制御する。ディスプレイ306は、カーソル、メニュー、ウィンドウ、文字、または画像等の各種情報を表示する。ディスプレイ306は、表示部の一例である。外部機器接続I/F308は、各種の外部機器を接続するためのインターフェースである。この場合の外部機器は、例えば、USBメモリやプリンタ等である。ネットワークI/F309は、通信ネットワーク100を利用してデータ通信をするためのインターフェースである。バスライン310は、図5に示されているCPU301等の各構成要素を電気的に接続するためのアドレスバスやデータバス等である。
【0039】
また、キーボード311は、文字、数値、各種指示等の入力のための複数のキーを備えた入力手段の一種である。ポインティングデバイス312は、各種指示の選択や実行、処理対象の選択、カーソルの移動等を行う入力手段の一種である。DVD-RWドライブ314は、着脱可能な記録媒体の一例としてのDVD-RW313に対する各種データの読み出しまたは書き込みを制御する。なお、DVD-RWに限らず、DVD-RやBlu-ray) Disc等であってもよい。メディアI/F316は、フラッシュメモリ等の記録メディア315に対するデータの読み出しまたは書き込み(記憶)を制御する。
【0040】
○データ管理装置のハードウエア構成○
図5は、データ管理装置のハードウエア構成の一例を示す図である。データ管理装置5の各ハードウエア構成は、括弧内の500番台の符号で示されている。図5に示されているように、データ管理装置5は、コンピュータによって構築されており、図5に示されているように、評価装置3と同様の構成を備えているため、各ハードウエア構成の説明を省略する。なお、通信端末1100.1200も、コンピュータによって構築され、評価装置3と同様の構成を備えているが、各ハードウエア構成の説明は省略する。
【0041】
なお、上記各プログラムは、インストール可能な形式または実行可能な形式のファイルで、コンピュータで読み取り可能な記録媒体に記録して流通させるようにしてもよい。記録媒体の例として、CD-R(Compact Disc Recordable)、DVD(Digital Versatile Disk)、Blu-ray Disc、SDカード、USBメモリ等が挙げられる。また、記録媒体は、プログラム製品(Program Product)として、国内または国外へ提供されることができる。例えば、実施形態に係る評価システム4は、本発明に係るプログラムが実行されることで本発明に係る評価方法を実現する。
【0042】
●機能構成
次に、図6を用いて、実施形態に係る状態検査システムの機能構成について説明する。図6は、第1の実施形態に係る状態検査システムの機能構成の一例を示す図である。なお、図6には、図1に示されている装置のうち、後述の処理または動作に関連しているものが示されている。
【0043】
○データ取得装置の機能構成○
まず、図6を用いて、データ取得装置9の機能構成について説明する。データ取得装置9は、通信部91、算出部92、撮影装置制御部93、センサ装置制御部94、撮影画像データ取得部95、センサデータ取得部96、時刻データ取得部97、要求受付部98および記憶・読出部99を有している。これら各部は、図4に示されている各構成要素のいずれかが、HD914からRAM913上に展開されたデータ取得装置用のプログラムに従ったCPU911からの命令によって動作することで実現される機能または手段である。また、データ取得装置9は、図4に示されているROM912およびHD914によって構築される記憶部9000を有している。また、図4に示されるデータ取得装置9に接続される外部PC930は、受付部および表示制御部を有する。
【0044】
通信部91は、主に、ネットワークI/F916に対するCPU911の処理によって実現され、通信ネットワーク100を介して、他の装置との間で各種データまたは情報の通信を行う。通信部91は、例えば、撮影画像データ取得部95およびセンサデータ取得部96によって取得された取得データを、データ管理装置5に対して送信する。算出部92は、CPU911の処理によって実現され、各種算出を行う。
【0045】
撮影装置制御部93は、主に、撮影装置I/F901に対するCPU911の処理によって実現され、撮影装置7による撮影処理を制御する。センサ装置制御部94は、主に、センサ装置I/F902に対するCPU911の処理によって実現され、センサ装置8に対するデータ取得処理を制御する。撮影装置制御部93は、角度変更部の一例である。
【0046】
撮影画像データ取得部95は、主に、撮影装置I/F901に対するCPU911の処理によって実現され、撮影装置7によって撮影された撮影画像に係る撮影画像データを取得する。センサデータ取得部96は、主に、センサ装置I/F902に対するCPU911の処理によって実現され、センサ装置8による検知結果であるセンサデータを取得する。センサデータ取得部96は、距離情報取得部および位置情報取得部の一例である。時刻データ取得部97は、主に、タイマ924に対するCPU911の処理によって実現され、撮影画像データ取得部95またはセンサデータ取得部96によってデータが取得された時刻を示す時刻データを取得する。
【0047】
要求受付部98は、主に、外部機器接続I/F923に対するCPU911の処理によって実現され、CPU911の処理によって実現され、外部PC930等から所定の要求を受け付ける。
【0048】
記憶・読出部99は、主に、CPU911の処理によって実現され、記憶部9000に、各種データ(または情報)を記憶したり、記憶部9000から各種データ(または情報)を読み出したりする。
【0049】
○評価装置の機能構成○
続いて、図6を用いて、評価装置3の機能構成について説明する。評価装置3は、通信部31、受付部32、表示制御部33、判断部34、評価対象データ生成部35、検出部36、地図データ管理部37、レポート生成部38および記憶・読出部39を有している。これら各部は、図5に示されている各構成要素のいずれかが、HD304からRAM303上に展開され評価装置用のプログラムに従ったCPU301からの命令によって動作することで実現される機能または手段である。また、評価装置3は、図5に示されているROM302およびHD304によって構築される記憶部3000を有している。
【0050】
通信部31は、主に、ネットワークI/F309に対するCPU301の処理によって実現され、通信ネットワーク100を介して、他の装置との間で各種データまたは情報の通信を行う。通信部31は、例えば、データ管理装置5との間で、法面状態の評価に係る各種データを送受信する。
【0051】
受付部32は、主に、キーボード311またはポインティングデバイス312に対するCPU301の処理によって実現され、利用者から各種の選択または入力を受け付ける。受付部32は、後述する評価画面400に対する各種選択または入力を受け付ける。表示制御部33は、主に、CPU301の処理によって実現され、ディスプレイ306に、各種画像を表示させる。表示制御部33は、後述する評価画面400を、ディスプレイ306に表示させる。判断部34は、CPU301の処理によって実現され、各種判断を行う。受付部32は、操作受付手段の一例である。
【0052】
評価対象データ生成部35は、CPU301の処理によって実現され、評価対象のデータを生成する。検出部36は、主に、CPU301の処理によって実現され、評価対象データ生成部35によって生成された評価対象データを用いて、法面の状態の検出処理を行う。地図データ管理部37は、主に、CPU301の処理によって実現され、外部サーバ等から取得した地図情報を管理する。地図情報は、地図上の任意の位置における位置情報を含む。
【0053】
レポート生成部38は、主に、CPU301の処理によって実現され、評価結果に基づいて、道路管理者に提出する評価レポートを生成する。
【0054】
記憶・読出部39は、主に、CPU301の処理によって実現され、記憶部3000に、各種データ(または情報)を記憶したり、記憶部3000から各種データ(または情報)を読み出したりする。設定部40は、主に、CPU301の処理によって実現され、各種設定を行う。
【0055】
○データ管理装置の機能構成○
続いて、図6を用いて、データ管理装置5の機能構成について説明する。データ管理装置5は、通信部51、判断部52、データ管理部53および記憶・読出部59を有している。これら各部は、図5に示されている各構成要素のいずれかが、HD504からRAM503上に展開されデータ管理装置用のプログラムに従ったCPU501からの命令によって動作することで実現される機能または手段である。また、データ管理装置5は、図5に示されているROM502およびHD504によって構築される記憶部5000を有している。
【0056】
通信部51は、主に、ネットワークI/F509に対するCPU501の処理によって実現され、通信ネットワーク100を介して、他の装置との間で各種データまたは情報の通信を行う。通信部51は、例えば、データ取得装置9から送信された、撮影画像データおよびセンサデータを受信する。また、通信部51は、例えば、評価装置3等との間で、法面状態の評価等に係る各種データを送受信する。通信部51は、指示受付手段の一例である。判断部52は、位置生成手段の一例であり、CPU501の処理によって実現され、各種判断を行う。
【0057】
データ管理部53は、主に、CPU501の処理によって実現され、法面状態の評価に係る各種データの管理を行う。データ管理部53は、例えば、データ取得装置9から送信された撮影画像データおよびセンサデータを、取得データ管理DB5001に登録する。また、データ管理部53は、例えば、評価装置3によって処理または生成されたデータを、処理データ管理DB5003に登録する。生成部54は、主に、CPU501の処理によって実現され、法面に係る各種画像データを生成する。設定部55は、主に、CPU501の処理によって実現され、各種設定を行う。
【0058】
記憶・読出部59は、主に、CPU501の処理によって実現され、記憶部5000に、各種データ(または情報)を記憶したり、記憶部5000から各種データ(または情報)を読み出したりする。
○端末装置の機能構成○
【0059】
続いて、図6を用いて、通信端末1100の機能構成について説明する。通信端末1100は、通信部1101、受付部1102、表示制御部1103、判断部1104および記憶・読出部1105を有している。これら各部は、図5に示されている各構成要素のいずれかが、HDからRAM上に展開され端末装置用のプログラムに従ったCPUからの命令によって動作することで実現される機能または手段である。また、データ管理装置5は、図5に示されているROMおよびHDによって構築される記憶部1106を有している。
【0060】
通信部1101は、主に、ネットワークI/Fに対するCPUの処理によって実現され、通信ネットワーク100を介して、他の装置との間で各種データまたは情報の通信を行う。
【0061】
受付部1102は、主に、キーボードまたはポインティングデバイスに対するCPUの処理によって実現され、利用者から各種の選択または入力を受け付ける。表示制御部1103は、主に、CPUの処理によって実現され、ディスプレイに、各種画像を表示させる。判断部1104は、CPU301の処理によって実現され、各種判断を行う。受付部1102は、操作受付手段の一例である。
【0062】
記憶・読出部1105は、主に、CPUの処理によって実現され、記憶部1106に、各種データ(または情報)を記憶したり、記憶部1106から各種データ(または情報)を読み出したりする。
【0063】
続いて、図6を用いて、通信端末1200の機能構成について説明する。通信端末1200は、通信部1201、受付部1202、表示制御部1203、判断部1204および記憶・読出部1205を有している。これら各部は、図5に示されている各構成要素のいずれかが、HDからRAM上に展開され端末装置用のプログラムに従ったCPUからの命令によって動作することで実現される機能または手段である。また、データ管理装置5は、図5に示されているROMおよびHDによって構築される記憶部1206を有している。
【0064】
通信部1201は、主に、ネットワークI/Fに対するCPUの処理によって実現され、通信ネットワーク100を介して、他の装置との間で各種データまたは情報の通信を行う。
【0065】
受付部1202は、主に、キーボードまたはポインティングデバイスに対するCPUの処理によって実現され、利用者から各種の選択または入力を受け付ける。表示制御部1203は、主に、CPUの処理によって実現され、ディスプレイに、各種画像を表示させる。判断部1204は、CPU301の処理によって実現され、各種判断を行う。
【0066】
記憶・読出部1205は、主に、CPUの処理によって実現され、記憶部1206に、各種データ(または情報)を記憶したり、記憶部1206から各種データ(または情報)を読み出したりする。
【0067】
○状態種別管理テーブル
図7および図8は、状態種別管理テーブルの一例を示す概念図である。状態種別管理テーブルは、法面の状態種別を検出するための教師データを管理するためのテーブルである。記憶部3000には、図7および図8に示されているような状態種別管理テーブルによって構成されている状態種別管理DB3001が構築されている。この状態種別管理テーブルでは、種別Noごとに、状態種別を示す種別名、教師画像、および備考欄が関連づけられて管理されている。
【0068】
これらのうち、種別名は、法面、法面の周囲の物理量および現場情報の状態を識別するための状態種別を示す名称である。ここで、状態種別には、擁壁、法枠、吹付モルタル、金網、柵、排水穴、パイプ、小段の排水路等の構造物である法面そのものの種別と、湧水、苔、植物、落石、土砂、日当たり等の法面の周囲の物理量を示す種別が含まれる。また、状態種別には、移動体システム60によるデータ取得を支援する現場情報として、ポール、電柱、標識または看板等の種別が含まれている。さらに、状態種別には、構造物の付帯情報として、過去の点検実施時や施工時に設置された、変状の存在を示すチョーキング等の目印情報や、測定装置や、対策跡などの、人工物を含んでいても良い。また、教師画像は、教師データの一例であり、撮影画像データから法面、法面の周囲の物理量および現場情報の状態種別を判別するための機械学習に用いる教師画像である。ここで教師データとは、一般に画像と呼ばれる輝度画像やRGB画像等に限らず、状態種別の判別するための情報が含まれてさえいれば良く、深度情報やテキストや音声などの形式であっても良い。備考欄には、状態の種別を検出するための検出基準となる情報が示されている。
【0069】
○取得データ管理テーブル
図9(A)は、取得データ管理テーブルの一例を示す概念図である。取得データ管理テーブルは、データ取得装置9によって取得された各種取得データを管理するためのテーブルである。記憶部5000には、図9(A)に示されているような取得データ管理テーブルによって構成されている取得データ管理DB5001が構築されている。この取得データ管理テーブルでは、フォルダごとに、撮影画像データ、センサデータおよび取得時刻が関連づけられて管理されている。
【0070】
これらのうち、撮影画像データおよびセンサデータは、データ取得装置9から送信された取得データのデータファイルである。また、取得時刻は、撮影画像データおよびセンサデータがデータ取得装置9によって取得された時刻を示す。一つの点検工程において取得されたデータは、同一のフォルダ内に記憶される。撮影画像データおよびセンサデータに含まれる三次元センサデータは、後述するように、座標が対応付けて記憶される。また、撮影画像データおよびセンサデータに含まれる三次元センサデータは、センサデータに含まれる測位データに対応付けて記憶されている。これにより、評価装置3の地図データ管理部37により管理される地図情報における任意の位置を選択すると、当該位置における撮影画像データおよび三次元センサデータを、取得データ管理DB5001から読み出すことが可能である。
【0071】
○処理データ管理テーブル
図9(B)は、処理データ管理テーブルの一例を示す概念図である。処理データ管理テーブルは、評価装置3によって処理された各種処理データを管理するためのテーブルである。記憶部5000には、図9(B)に示されているような処理データ管理テーブルによって構成されている処理データ管理DB5003が構築されている。この処理データ管理テーブルでは、フォルダごとに、評価対象データ、評価データ、測位データおよびコメントが関連づけられて管理されている。
【0072】
これらのうち、評価対象データは、評価装置3による法面状態の検出評価に用いるデータファイルである。また、評価データは、評価装置3による評価結果を示すデータファイルである。さらに、測位データは、GNSSセンサ8bによって計測された位置情報を示すデータである。また、コメントは、評価対象データまたは評価データに対する評価者によって入力された書誌情報である。これにより、評価装置3の地図データ管理部37により管理される地図情報における任意の位置を選択すると、当該位置における評価データを、処理データ管理DB5003から読み出すことが可能である。
【0073】
図10は、移動体システムによって取得される撮影画像について説明するための図である。
【0074】
移動体システム60は、移動体6を走行させながら、データ取得装置9に備えられた撮影装置7を用いて、道路上に設けられた法面を撮影する。図10に示すX軸方向は、移動体6の移動方向を示し、Y軸方向は鉛直方向、Z軸方向は、X軸方向およびY軸方向に直交し、移動体6から法面に向かう奥行き方向を示す。
【0075】
データ取得装置9は、移動体6の走行に伴い、図10に示されているように、撮影画像1、測距画像1および撮影画像2、測距画像2を時系列に取得していく。測距画像1および測距画像2は、距離センサ8aにより取得された画像である。このとき、撮影装置7およびセンサ装置8は、時刻同期が取られており、撮影画像1および測距画像1と、撮影画像2および測距画像2は、夫々法面の同じ領域に対する画像となる。また、撮影時の車両の姿勢から撮影画像の傾き補正(画像補正)が行われ、撮影画像の時刻から画像データと測位データ(北緯東経)が紐づけられる。
【0076】
このように、移動体システム60は、移動体6としての車両を走行させながら、法面が撮影された撮影画像データおよび撮影装置7の撮影に応じて取得されたセンサデータを取得し、データ管理装置5に対してアップロードする。なお、データ取得装置9は、測距画像と撮影画像をそれぞれ別々の走行時に取得してもよいが、崩落等による法面形状の変化を考慮すると、同一の法面形状に対して同一の走行時に測距画像と撮影画像を取得することが好ましい。
【0077】
図11は、撮影画像と測距画像の説明図である。
【0078】
図11(a)は、図10に示した撮影画像1、2等の撮影画像データ7Aを示す。撮影装置7により取得された撮影画像データ7Aの各画素7A1は、図10に示したX軸方向およびY軸方向に対応する座標で配置されており、蓄電量に対応する輝度情報を有する。すなわち、撮影画像データ7Aは、輝度画像の一例である。
【0079】
そして、撮影画像データ7Aの各画素7A1の輝度情報は、図10に示したX軸方向およびY軸方向に対応する座標に対応付けて、図9に示した撮影画像データとして、記憶部5000に記憶される。
【0080】
図11(b)は、図10に示した測距画像1、2等の測距画像データ8Aを示す。距離センサ8aにより取得された測距画像データ8Aの各画素8A1は、図10に示したX軸方向およびY軸方向に対応する座標で配置されており、蓄電量に対応する図10に示したZ軸方向における距離情報を有する。なお、測距画像データ8Aは、三次元点群データであるが、一般的にユーザに視認させる際には、輝度情報を付与して可視表示するため、測距画像データと称する。そして、撮影画像データ7Aおよび測距画像データ8Aを総称して、画像データと称する。
【0081】
そして、測距画像データ8Aの各画素8A1の距離情報は、図10に示したX軸方向およびY軸方向に対応する座標に対応付けて、図9に示したセンサデータに含まれる三次元データとして、記憶部5000に記憶される。
【0082】
ここで、図11(a)に示す撮影画像データ7Aと、図11(b)に示す測距画像データ8Aは、夫々法面の同じ領域に対する画像であるから、図10に示したX軸方向およびY軸方向に対応する座標に対応付けて、輝度情報および距離情報が、記憶部5000に記憶されることになる。
【0083】
図12は、複数の撮影領域の説明図である。図12(a)に示すように、撮影装置7は、移動体6とともに移動しながら、検査、評価の対象物である法面80を撮影する。具体的には、撮影装置7は、移動体6の移動方向であるX軸方向に沿って一定の撮影間隔tで、法面80を含む対象領域70を複数の撮影領域d11、d12・・・に分けて撮影する。
【0084】
ここで、X軸方向における法面80の位置が未知の場合は、撮影装置7は、検査、評価の対象物である法面80および検査、評価の対象物以外の領域を含む対象領域70を複数の撮影領域d11、d12・・・に分けて撮影し、後述するように、複数の撮影領域から法面80を撮影した複数の撮影領域が特定される。
【0085】
図12(b)に示すように、複数の撮影領域d11、d12・・・を撮影した撮影画像はY軸方向に長いスリット状の撮影画像であり、これら複数の撮影領域d11、d12・・・を撮像した画像をつなぎ合わせることにより、X軸方向に連続する対象領域70の撮影画像を得ることができる。
【0086】
図12(c)は、対象領域70全体を撮像する際に、対象領域70全体を複数の対象領域に分けて撮像する場合を示した図である。図12(c)では、対象領域70全体は、撮影画像を複数の対象領域701A、702A、701Bおよび702Bという4つの対象領域に分けて撮像される。
【0087】
図12(b)に示す場合と同様に、複数の対象領域701A、702A、701Bおよび702Bのそれぞれは、複数の撮影領域d11、d12・・・に分けて撮像され、これら、複数の撮影領域d11、d12・・・を撮像した画像をつなぎ合わせることにより、複数の対象領域701A、702A、701Bおよび702Bそれぞれの撮影画像を得ることができる。そして、複数の対象領域701A、702A、701Bおよび702Bのそれぞれを撮影した撮影画像をつなぎ合わせることにより、対象領域70の撮影画像を得ることができる。
【0088】
この場合、撮影装置7は、複数の撮影装置を備えており、対象領域702Aおよび702Bは、対象領域701Aおよび701Bを撮影する撮影装置とは異なる撮影装置により撮影される。
【0089】
また、対象領域701Bは、対象領域701Aを撮影したのと同じ撮影装置により、異なる撮影条件で撮影され、対象領域702Bも、対象領域702Aを撮影したのと同じ撮影装置により、異なる撮影条件で撮影される。
【0090】
なお、図12(a)に示したように、撮影装置7が、法面80の対象領域を複数の撮影領域d11、d12・・・に分けて撮影するタイミングで、距離センサ8aも、距離センサ8aから複数の撮影領域d11、d12・・・のそれぞれへの距離を示す距離情報を取得することが望ましい。
【0091】
これにより、図10で説明したように、撮影装置7により取得された撮影画像データ7Aの各画素7A1の輝度情報と、距離センサ8aにより取得された測距画像データ8Aの各画素8A1の距離情報を容易に対応付けることができる。そして、法面80の対象領域を撮影した撮像画像の各画像の輝度情報と法面80の対象領域を測距した測距画像の各画素の距離情報とを対応付けすることで、法面80の対象領域について、高精度な検査を行うことが出来る。
【0092】
図13は、実施形態に係る複数の撮影装置を備えた移動体システムを示す図である。
【0093】
撮影装置7は、複数の撮影装置71、72、73を含み、撮影装置71、72、73は、それぞれ法面80の対象領域701、対象領域701より上方の対象領域702、対象領域702より上方の対象領域703を撮影する。
【0094】
ここで、第1、第2の対象領域は、対象領域701、対象領域702、および対象領域703の何れか2つを示し、第1、第2の撮影装置は、複数の撮影装置71、72、73のうち、第1、第2の対象領域に対応する撮影装置を示す。
【0095】
●実施形態の処理または動作
○データ取得処理○
次に、図14を用いて、移動体システム60を用いたデータ取得処理について説明する。法面状態の点検作業者は、移動体6に搭乗して道路上の存在する法面の撮影を行い、取得したデータをデータ管理装置5にアップロードする。以下、詳細に説明する。
【0096】
図14は、移動体システムを用いたデータ取得処理の一例を示すシーケンス図である。まず、点検作業者が外部PC330に対して所定の入力操作等を行うことで、データ取得装置9の要求受付部98は、データ取得開始要求を受け付ける(ステップS11)。そして、データ取得装置9は、撮影装置7およびセンサ装置8を用いたデータ取得処理を実行する(ステップS12)。
【0097】
具体的には、撮影装置制御部93は、撮影装置7に対して撮影要求を行うことで、所定の領域に対する撮影処理を開始する。
【0098】
なお、法面の位置が既知である必要はない。すなわち、移動体システム6は、移動体6を走行させながら、撮影装置7により法面と法面以外の領域を含む所定の領域を撮影していくものであり、撮影装置制御部93は、法面以外の領域に対して撮影処理を開始し、法面に対する撮影処理を経て、法面以外の領域に対して撮影処理を終了する。これにより、移動体6の移動方向における法面の一端から他端までの全域を撮影することができる。
【0099】
また、センサ装置制御部94は、撮影装置7による撮影処理と同期させながら、距離センサ8aおよびGNSSセンサ8bによる検知処理を開始する。そして、撮影画像データ取得部95は、撮影装置7によって取得された撮影画像データを取得し、センサデータ取得部96は、距離センサ8aおよびGNSSセンサ8bによって取得されたセンサデータを取得する。また、時刻データ取得部97は、撮影画像データ取得部95およびセンサデータ取得部96によって各種データが取得された時刻を示す時刻データを取得する。
【0100】
次に、点検作業者が外部PC330等に対して所定の入力操作を行うことで、要求受付部98は、取得した各種データのアップロード要求を受け付ける(ステップS13)。そして、通信部91は、データ管理装置5に対して、ステップS12で取得された取得データである撮影画像データ、センサデータおよび時刻データをアップロード(送信)する(ステップS14)。これにより、データ管理装置5の通信部51は、データ取得装置9から送信された取得データを受信する。そして、データ管理装置5のデータ管理部53は、ステップS14で受信された取得データを、取得データ管理DB5001(図9(A)参照)に登録する(ステップS15)。データ管理部53は、取得データに含まれている各データの取得時刻を示す時刻データに関連づけて、撮影画像データおよびセンサデータを一つのフォルダに記憶する。
【0101】
○法面状態の評価処理○
○評価対象データの生成
図15は、評価対象データの生成処理の一例を示すシーケンス図である。
【0102】
以下、評価装置3とデータ管理装置5間のシーケンスについて説明するが、データ取得装置9、通信端末1100および通信端末1200とデータ管理装置5間のシーケンスについても同様である。
【0103】
評価装置3のユーザが、フォルダ指定を行うことで、評価装置3の受付部32は、生成対象データの選択を受け付ける(ステップS31)。あるいは、評価装置3のユーザが、評価装置3の地図データ管理部37により管理される地図情報における任意の位置を選択することで、評価装置3の受付部32は、地図情報における位置情報の選択を受け付けてもよい。
【0104】
次に、通信部31は、データ管理装置5に対して、ステップS11で選択された生成対象データに係る評価対象データの生成要求を送信して、データ管理装置5の通信部51は、評価装置3から送信された要求を受信する。(ステップS32)。この要求には、ステップS31で選択されたフォルダ名が含まれている。あるいは、この要求には、地図情報における位置情報が含まれてもよい。
【0105】
次に、データ管理装置5の記憶・読出部59は、ステップS32で受信された生成要求に含まれているフォルダ名を検索キーとして取得データ管理DB5001を検索することにより、生成要求に含まれているフォルダ名に関連づけられた取得データを読み出す。あるいは、記憶・読出部59は、ステップS32で受信された要求に含まれている位置情報を検索キーとして取得データ管理DB5001を検索することで、要求に含まれている位置情報に関連づけられた取得データを読み出す。この取得データには、撮影画像データ、センサデータおよび時刻データが含まれている。
【0106】
データ管理装置5の生成部54は、記憶・読出部59が読みだした取得データに基づき、評価対象データを生成する(ステップS33)。具体的には、生成部54は、取得された距離センサ8aのセンサデータに基づき、撮影時の撮影装置7(移動体6)の姿勢から撮影画像データの傾き補正を行う。また、生成部54は、取得された時刻データに基づき、取得されたGNSSセンサ8bのセンサデータである測位データと撮影画像データの紐づけを行う。さらに、生成部54は、複数の撮影画像データを一つの画像データに合成する処理を行う。
【0107】
具体的には、図12で説明したように、生成部54は、複数の撮影領域のそれぞれの撮影画像をつなぎ合わせた合成画像を生成することにより、対象領域70や複数の対象領域701A、702A、701Bおよび702Bのそれぞれの撮影画像を得る。
【0108】
また、生成部54は、複数の対象領域701A、702A、701Bおよび702Bそれぞれの撮影画像をつなぎ合わせた合成画像を生成することにより、対象領域70全体の撮影画像を得る。
【0109】
ここで、前述したように、対象領域70は、法面80と、法面80以外の領域を含む。
【0110】
このように、生成部54は、画像データに対する傾き補正機能、画像データと位置情報の連携機能および画像データの合成機能を有する。生成部54は、取得データを用いて、後述の検出部36およびレポート生成部38による処理が行いやすいように、取得された撮影画像データに対する画像補正を行う。
【0111】
次に、生成部54は、合成画像を含む入出力画面を生成する(ステップS34)。この入出力画面は、対象領域70を移動体6の移動方向に沿って複数の撮影領域dnに分けて撮影したそれぞれの撮影画像をつなぎ合わせた合成画像を表示する表示画面の一例であり、ステップS34は生成ステップの一例である。
【0112】
ここで、生成部54は、ステップS33で生成された合成画像よりも低い解像度の合成画像を生成し、この低い解像度の合成画像を含む入出力画面を生成する。
【0113】
すなわち、生成部54は、取得データ管理DB5001に記憶された複数の撮影領域dnに分けて撮影されたそれぞれの撮影画像よりも低い解像度で、合成画像2500を表示するように、入出力画面を生成する。これにより、合成画像を含む入出力画面を生成するときの処理速度が向上する。
【0114】
また、生成部54は、図13で説明した撮影装置71、72、73により撮影された対象領域701、702、703にそれぞれ対応する複数の合成画像を含む入出力画面を生成する。
【0115】
すなわち、対象領域70は、移動体66の移動方向と交差する方向において異なる範囲である第1の対象領域および第2の対象領域を含み、第1の対象領域を移動体66の移動方向に沿って複数の第1の撮影領域dnに分けて撮影したそれぞれの第1の撮影画像pnをつなぎ合わせた第1の合成画像、および第2の対象領域を移動体66の移動方向に沿って複数の第2の撮影領域dnに分けて撮影したそれぞれの第2の撮影画像pnをつなぎ合わせた第2の合成画像について、生成部54は、第1の合成画像および第2の合成画像の少なくとも一方を含む入出力画面2000を生成する。
【0116】
通信部51は、評価装置3に対して、ステップS34で生成した入出力画面に係る入出力画面情報を送信して、評価装置3の通信部31は、データ管理装置5から送信された入出力画面情報を受信する(ステップS35)。
【0117】
ここで、前述したように、入出力画面は、取得データ管理DB5001に記憶された複数の撮影画像よりも低い解像度で生成された合成画像を含むため、合成画像を含む入出力画面を送信するときの通信負荷が低減する。
【0118】
次に、評価装置3の表示制御部33は、ステップS34で受信された入出力画面を、ディスプレイ306に表示させて、評価装置3の受付部32は、表示された入出力画面に対するユーザの所定の入力操作を受け付ける(ステップS36)。この入力操作は、合成画像における一部の領域を特定することを決定する決定操作を含む。
【0119】
ここで、前述したように、入出力画面は、取得データ管理DB5001に記憶された複数の撮影画像よりも低い解像度で生成された合成画像を含むため、合成画像を含む入出力画面を表示するときの処理速度が向上する。
【0120】
通信部31は、データ管理装置5に対して、受付部32が受け付けた入力操作に係る入力情報を送信して、データ管理装置5の通信部51は、評価装置3から送信された入力情報を受信する。(ステップS37)。この入力情報は、合成画像における一部の領域を特定する特定領域情報やコメント、複数の法面のうち特定の法面を識別する識別情報等を含む。
【0121】
次に、設定部55は、ステップS37で受信された入力情報に基づき、ステップS33で生成した評価対象データを更新して、処理データ管理DB5003(図9(B)参照)に記憶する(ステップS38)。設定部55は、設定手段の一例である。
【0122】
具体的には、設定部55は、合成画像における一部の領域を特定する特定領域情報に基づき、一部の領域に対応する部分画像や、位置情報や、複数の撮影領域dnに対応する三次元点群における特定点群を設定することにより、評価対象データを更新して、生成データに含まれている評価対象データ、測位データおよびコメントを関連づけて一つのフォルダに記憶させる。
【0123】
ここで、前述したように、入出力画面に含まれる合成画像は、取得データ管理DB5001に記憶された複数の撮影画像よりも低い解像度で生成された画像であったが、ステップS38で記憶される部分画像は、取得データ管理DB5001に記憶された複数の撮影画像と同じ高解像度の画像であるため、後述の検出部36およびレポート生成部38による処理を高精度で実行することができる。
【0124】
次に、通信部51は、評価装置3に対して、ステップS38で更新した生成データに含まれる部分画像を示す部分画像情報を送信して、評価装置3の通信部31は、データ管理装置5から送信された部分画像情報を受信する(ステップS39)。そして、評価装置3の表示制御部33は、ステップS39で受信された部分画像を、ディスプレイ306に表示させる。
【0125】
以上において、図6におけるデータ管理装置5の機能を評価装置3に一体化し、図15におけるデータ管理装置5の処理も評価装置3が実行しても良い。
【0126】
図16は、状態検査システムの合成画像の説明図である。
【0127】
図16(a)は、図15のステップS33で生成された合成画像2500を示す。合成画像2500は、対象領域70を移動体6の移動方向に沿って複数の撮影領域dnに分けて撮影したそれぞれの撮影画像p1~plをつなぎ合わせた画像であり、前述したように、法面の位置が未知の場合は、数km~数十kmにも亘る道程に相当するため、全てを一覧することは困難である。
【0128】
図16(b)は、図15のステップS34で生成された入出力画面に含まれる合成画像2500を示す。
【0129】
図15のステップS34において、生成部54は、合成画像2500を複数の分割画像群250A、250B・・・に分割するとともに、それぞれの分割画像群250A、250B・・・において、複数の分割画像250A1~Amのそれぞれの分割画像を並べて表示するように、入出力画面を生成している。複数の分割画像250A1~Amのそれぞれの分割画像は、複数の撮影画像p1~pn、pn+1~p2n・・・をつなぎ合わせた画像である。
【0130】
ここで、複数の分割画像群250A、250Bそれぞれは、1つの入出力画面に表示される範囲を示し、例えば、ディスプレイ306等に切り替え表示される。生成部54は、複数の分割画像群250A、250Bそれぞれについて、画像解析し、移動体6の移動方向における法面80と法面80以外の境界が存在する可能性がある箇所を特定することが好ましい。
【0131】
また、図15のステップS34において、生成部54は、入出力画が表示されるディスプレイ306等の解像度に応じて、分割画像群250A、250B・・・の数、および1つの分割画像群に含まれる分割画像250A1~Amの数、1つの分割画像に含まれる撮影画像p1~pnの数が異なるように、入出力画面を生成する。
【0132】
すなわち、生成部54は、移動体66の移動距離に対応する移動体66の移動方向における合成画像2500の長さが異なるように、入出力画面を生成する。
【0133】
図17は、状態検査システムの入出力画面における操作の説明図である。
【0134】
図17は、状態検査システムの入出力画面における操作の説明図である。図17は、図15に示したシーケンス図のステップS36において、評価装置3のディスプレイ306に表示される入出力画面2000を示すが、データ取得装置9、通信端末1100および通信端末1200の夫々のディスプレイに表示される入出力画面2000についても同様である。
【0135】
評価装置3の表示制御部33は、合成画像2500における一部の領域を特定する特定操作を受け付ける特定受付画面2010と、合成画像2500における一部の領域を特定することを決定する決定操作を受け付ける決定受付画面2020を含む入出力画面2000を表示させる。
【0136】
表示制御部33は、特定受付画面2010中に、合成画像2500を表示させるとともに、ポインティングデバイス312により操作されるポインタ2300を合成画像2500上に表示させる。
【0137】
合成画像2500は、図15のステップS34で説明したように、対象領域70を移動体6の移動方向に沿って複数の撮影領域dnに分けて撮影したそれぞれの撮影画像をつなぎ合わせた画像であり、図16(b)で説明したように、複数の分割画像のそれぞれの分割画像を並べた分割画像群として表示されている。
【0138】
図17では、それぞれの分割画像が、移動体6の移動方向に沿った道程が100mの撮影画像を示し、7つの分割画像を並べた分割画像群が、移動体6の移動方向に沿った道程が700mの撮影画像を示している。
【0139】
表示制御部33は、決定受付画面2020中に、開始位置指定ボタン2402、終了位置指定ボタン2404、縮小ボタン2406、および拡大ボタン2408を表示させる。
【0140】
開始位置指定ボタン2402および終了位置指定ボタン2404は、合成画像2500上に、開始位置バー250Sおよび終了位置バー250Gをそれぞれ表示させることを指示するボタンである。
【0141】
開始位置バー250Sおよび終了位置バー250Gは、ポインタ2300の操作により、合成画像2500上の任意の位置に移動可能である。
【0142】
特定位置決定ボタン2400は、開始位置バー250Sおよび終了位置バー250Gの成画像2500上の位置を確定するボタンである。
【0143】
縮小ボタン2406および拡大ボタン2408は、合成画像2500を縮小、拡大表示させることを指示するボタンである。画面切替ボタン2409は、図16(b)に示した複数の分割画像群250A、250Bのそれぞれを切り替え表示するボタンである。
【0144】
図17において、ユーザが開始位置指定ボタン2402を操作すると、受付部32は当該操作を受け付けて、表示制御部33は、合成画像2500上の任意の位置に開始位置バー250Sを表示させる。
【0145】
ユーザが終了位置指定ボタン2404を操作すると、受付部32は当該操作を受け付けて、表示制御部33は、合成画像2500上の任意の位置に終了位置バー250Gを表示させる。
【0146】
ユーザが、ポインタ2300の操作により、開始位置バー250Sおよび終了位置バー250Gを合成画像2500上の法面80の両側の境界の位置に移動させると、受付部32は、合成画像2500における一部の領域を特定する特定操作として受け付ける。ここで、合成画像2500における開始位置バー250Sおよび終了位置バー250Gの位置を示す位置情報は、合成画像2500における一部の領域を特定する特定領域情報の一例である。
【0147】
ユーザが、特定位置決定ボタン2400を操作すると、受付部32は、合成画像2500における一部の領域を特定することを決定する決定操作として受け付ける。
【0148】
図17では、合成画像2500上で、移動体66の移動方向における異なる位置の複数の法面80の両側の境界に対応して、複数対の開始位置バー250S1~250S3および終了位置バー250G1~250G3が表示されている。
【0149】
ここで、仮に合成画像2500が、開始位置バー250S1と終了位置バー250G1の間の領域しか表示しなかったとしたら、ユーザは、移動体66の移動方向における法面80の両側の境界を確認できないため、法面80の位置や範囲を正確に確認することができない。
【0150】
本実施形態では、合成画像2500が移動体6の移動方向における法面80の両側の境界を含むように、生成部54が、合成画像2500を含む入出力画面2000を生成する。これにより、ユーザは、入出力画面2000に表示される法面80の両側の境界を含む合成画像2500を確認して、法面80の位置や範囲を正確に確認することができる。また、表示制御部33は、図16(b)で説明した複数の分割画像群250A、250Bのうち、画像解析により、移動体6の移動方向における法面80と法面80以外の境界が存在する可能性がある分割画像群について、優先順位を高くして、入出力画面2000に表示させる。これにより、法面80と法面80以外の境界が全く存在しない分割画像群を表示することによる、ユーザの無駄なチェック工数を低減することができる。
【0151】
また、合成画像2500が移動体66の移動方向における異なる位置の複数の法面80の両側の境界を含むように、生成部54は、合成画像2500を含む入出力画面2000を生成する。これにより、ユーザは、入出力画面2000に表示される複数の法面80のそれぞれの両側の境界を含む合成画像2500を確認して、複数の法面80の位置や範囲を正確に確認することができる。
【0152】
図18は、状態検査システムの入出力画面における操作の他の説明図である。
【0153】
図18は、図17に示した入出力画面において、拡大ボタン2408を操作した後の状態を示す。
【0154】
図18に示す合成画像2500は、図17に示した合成画像2500に比べて拡大されており、それぞれの分割画像が、移動体6の移動方向に沿った道程が50mの撮影画像を示し、4つの分割画像を並べた分割画像群が、移動体6の移動方向に沿った道程が200mの撮影画像を示している。
【0155】
図17に示した合成画像2500では、法面80の境界が不鮮明である場合には、図18に示すように拡大された合成画像2500を表示することにより、法面80の境界を正確に確認することができる。
【0156】
図19は、図17および図18に示した操作に基づく処理を示すフローチャートである。
【0157】
図19(a)は、評価装置3における処理を示し、図19(b)は、データ管理装置5における処理を示す。
【0158】
評価装置3の受付部32は、ポインタ2300の操作により開始位置バー250Sおよび終了位置バー250Gを合成画像2500上で移動させると、合成画像2500における一部の領域を特定する特定操作として受け付けて(ステップS151)、特定位置決定ボタン2400が操作されると、合成画像2500における一部の領域を特定することを決定する決定操作として受け付ける(ステップS152)。
【0159】
次に、評価装置3の判断部34は、特定操作がされた開始位置バー250Sおよび終了位置バー250Gの合成画像2500におけるそれぞれのX座標を特定領域情報として検出する(ステップS153)
【0160】
次に、評価装置3の通信部31は、データ管理装置5に対して、受付部32が受け付けた入力操作に係る入力情報を送信する(ステップS154)。この入力情報は、ポインタ2300による特定操作に基づく、X座標で特定領域を示す特定領域情報を含む。
【0161】
データ管理装置5の通信部51は、評価装置3から送信された入力情報を受信し、設定部55は、受信した入力情報に含まれる特定領域情報に基づき、図15のステップS33で生成した合成画像2500のうち、特定領域の両側のX座標の間の複数の撮影画像を部分画像として設定し、生成部54は、後工程で法面80の評価がしやすいように、部分画像に対して幾何、色、明るさ、色ズレ補正を施す。記憶・読出部59は、部分画像およびその座標を記憶部5000に記憶させる(ステップS155)。
【0162】
設定部55は、他の撮影装置で撮影した他の合成画像のうち、ステップS155で設定した部分画像とX座標が対応する他の撮影領域の複数の撮影画像を他の部分画像として設定し、生成部54は、後工程で法面80の評価がしやすいように、他の部分画像に対して幾何、色、明るさ、色ズレ補正を施す。記憶・読出部59は、他の部分画像およびその座標を記憶部5000に記憶させる(ステップS156)。
【0163】
ここで、ステップS155で設定される部分画像は、一例として、図13で説明した撮影装置72により撮影された対象領域702における部分画像であり、ステップS156で設定される他の部分画像は、一例として、図13で説明した撮影装置71または73により撮影された対象領域701または703における部分画像である。
【0164】
すなわち、設定部55は、ステップS155で、第1の合成画像における一部の領域を特定することを決定する第1の決定操作に基づき、第1の合成画像における一部の領域に対応する第1の部分画像を設定するとともに、ステップS156で、第2の合成画像における一部の領域に対応する第2の部分画像を設定する。
【0165】
設定部55は、ステップS155で設定された部分画像と、ステップS156で設定された他の部分画像をつなぎ合わせた統合部分画像を設定し、生成部54は、後工程で法面80の評価がしやすいように、統合部分画像に対して繋ぎ処理を施す。記憶・読出部59は、統合部分画像およびその座標を記憶部5000に記憶させる(ステップS157)。
【0166】
設定部55は、図11(B)に示した三次元点群データのうち、ステップS157で設定した統合部分画像とX座標が対応する三次元点群データを特定点群として設定し、記憶・読出部59は、特定点群の座標を記憶部5000に記憶させる(ステップS158)。
【0167】
設定部55は、ステップS33で撮影画像データと紐づけされた測位データのうち、ステップS157で設定した統合部分画像と取得時刻が対応する位置情報を設定し、記憶・読出部59は、統合部分画像と取得時刻が対応する位置情報を記憶部5000に記憶させる(ステップS159)。
【0168】
通信部51は、評価装置3に対して、ステップS157で設定した統合部分画像を示す統合部分画像情報を送信する(ステップS161)
【0169】
そして、図15のステップS39で説明したように、評価装置3の通信部31は、データ管理装置5から送信された統合部分画像情報を受信し、評価装置3の表示制御部33は、受信された統合部分画像を、ディスプレイ306に表示させる。
【0170】
図20は、状態検査システムの統合部分画像の説明図である。
【0171】
図20(a)は、上部部分画像255∪、中部部分画像255M、および下部部分画像255Lを示す。
【0172】
中部部分画像255Mは、図13で説明した撮影装置72により撮影された対象領域702における部分画像であり、図19に示したステップS155において、設定部55により設定される。
【0173】
上部部分画像255∪、および下部部分画像255Lは、図13で説明した撮影装置71および73により撮影された対象領域701および703における部分画像であり、図19に示したステップS156において、設定部55により設定される。
【0174】
上部部分画像255∪、中部部分画像255M、および下部部分画像255Lは、図19のステップS155、S156で説明したように、後工程で法面80の評価がしやすいように、生成部54により、それぞれ幾何、色、明るさ、色ズレ補正が施されている。
【0175】
図20(b)は、上部部分画像255∪、中部部分画像255M、および下部部分画像255Lをつなぎ合わせた統合部分画像2550を示す。
【0176】
統合部分画像2550は、図19のステップS157で説明したように、後工程で法面80の評価がしやすいように、生成部54により、繋ぎ処理が施されている。
【0177】
図21は、評価対象データの生成処理の変形例を示すシーケンス図である。
【0178】
まず、評価装置3のユーザが、フォルダ指定を行うことで、評価装置3の受付部32は、生成対象データの選択を受け付ける。あるいは、評価装置3のユーザが、評価装置3の地図データ管理部37により管理される地図情報における任意の位置を選択することで、評価装置3の受付部32は、地図情報における位置情報の選択を受け付けてもよい。
【0179】
評価装置3の通信部31は、データ管理装置5に対して、評価対象データの生成要求を送信する(ステップS41)。この生成要求には、生成対象のデータが記憶されたフォルダ名が含まれている。あるいは、この要求には、地図情報における位置情報が含まれてもよい。これにより、データ管理装置5の通信部51は、評価装置3から送信された生成要求を受信する。
【0180】
次に、データ管理装置5の記憶・読出部59は、ステップS41で受信された生成要求に含まれているフォルダ名を検索キーとして取得データ管理DB5001を検索することにより、生成要求に含まれているフォルダ名に関連づけられた取得データを読み出す(ステップS42)。あるいは、記憶・読出部59は、ステップS32で受信された要求に含まれている位置情報を検索キーとして取得データ管理DB5001を検索することで、要求に含まれている位置情報に関連づけられた取得データを読み出す。
【0181】
そして、通信部51は、評価装置3に対して、ステップS42で読み出された取得データを送信する(ステップS43)。この取得データには、撮影画像データ、センサデータおよび時刻データが含まれている、これにより、評価装置3の通信部31は、データ管理装置5から送信された取得データを受信する。
【0182】
次に、評価装置3の評価対象データ生成部35は、ステップS43で受信された取得データを用いて、評価対象データを生成する(ステップS44)。具体的には、評価対象データ生成部35は、受信された距離センサ8aのセンサデータに基づき、撮影時の撮影装置7(移動体6)の姿勢から撮影画像データの傾き補正を行う。また、評価対象データ生成部35は、受信された時刻データに基づき、受信されたGNSSセンサ8bのセンサデータである測位データと撮影画像データの紐づけを行う。さらに、評価対象データ生成部35は、複数の撮影画像データを一つの画像データに合成する処理を行う。
【0183】
具体的には、図12で説明したように、評価対象データ生成部35は、複数の撮影領域のそれぞれの撮影画像をつなぎ合わせた合成画像を生成することにより、対象領域70や複数の対象領域701A、702A、701Bおよび702Bのそれぞれの撮影画像を得る。
【0184】
また、評価対象データ生成部35は、複数の対象領域701A、702A、701Bおよび702Bそれぞれの撮影画像をつなぎ合わせた合成画像を生成することにより、対象領域70全体の撮影画像を得る。
【0185】
ここで、前述したように、法面80の位置が未知の場合は、対象領域70は、法面80と、法面80以外の領域を含む。
【0186】
このように、評価対象データ生成部35は、画像データに対する傾き補正機能、画像データと位置情報の連携機能および画像データの合成機能を有する。評価対象データ生成部35は、データ管理装置5から受信された取得データを用いて、後述の検出部36およびレポート生成部38による処理が行いやすいように、受信された撮影画像データに対する画像補正を行う。
【0187】
次に、評価対象データ生成部35は、合成画像を含む入出力画面を生成する。この入出力画面は、対象領域70を移動体6の移動方向に沿って複数の撮影領域dnに分けて撮影したそれぞれの撮影画像をつなぎ合わせた合成画像を表示する表示画面の一例であり、ステップS44は生成ステップの一例である。
【0188】
次に、表示制御部33は、生成した入出力画面を、ディスプレイ306に表示させて、評価装置3の受付部32は、表示された入出力画面に対するユーザの所定の入力操作を受け付ける。この入力操作は、合成画像における一部の領域を特定することを決定する決定操作を含む。
【0189】
次に、設定部40は、入力操作に係る入力情報に基づき、生成した評価対象データを更新する。設定部40は、設定手段の一例である。
【0190】
具体的には、設定部55は、合成画像における一部の領域を特定する特定領域情報に基づき、一部の領域に対応する部分画像や、位置情報や、複数の撮影領域dnに対応する三次元点群における特定点群を設定することにより、評価対象データを更新する。
【0191】
次に、評価装置3の通信部31は、データ管理装置5に対して、ステップS44で生成、更新された生成データを送信する(ステップS45)この生成データには、評価対象データ生成部35で生成され、設定部55で更新された評価対象データ、測位データおよびコメントが含まれている。これにより、データ管理装置5の通信部51は、評価装置3から送信された生成データを受信する。そして、データ管理装置5のデータ管理部53は、ステップS35で受信された生成データを、処理データ管理DB5003(図9(B)参照)に記憶する(ステップS46)。具体的には、データ管理部53は、生成データに含まれている評価対象データ、測位データおよびコメントを関連づけて一つのフォルダに記憶させる。
【0192】
このように、評価システム4は、データ取得装置9から取得した各種データ(撮影画像データ、センサデータおよび時刻データ)に基づく画像処理を行うことで、法面状態の評価に用いる評価対象データを生成、更新する。
【0193】
○評価レポートの生成
図22は、法面状態の評価結果であるレポートの生成処理の一例を示すシーケンス図である。
【0194】
まず、評価装置3の表示制御部33は、法面状態の評価処理を行うための評価画面400を、ディスプレイ306に表示させる(ステップS51)。
【0195】
次に、評価装置3の受付部32は、評価対象データの選択を受け付ける(ステップS52)。
【0196】
次に、通信部31は、データ管理装置5に対して、ステップS52で選択された評価対象データの読出要求を送信する(ステップS53)。この読出要求には、ステップS52で選択されたフォルダ名が含まれている。これにより、データ管理装置5の通信部51は、評価装置3から送信された読出要求を受信する。
【0197】
次に、データ管理装置5の記憶・読出部59は、ステップS53で受信された読出要求に含まれているフォルダ名を検索キーとして処理データ管理DB5003(図9(B)参照)を検索することで、読出要求に含まれているフォルダ名に関連づけられた処理データを読み出す(ステップS54)。そして、通信部51は、評価装置3に対して、ステップS54で読み出された処理データを送信する(ステップS55)。この処理データには、評価対象データ、測位データおよびコメントが含まれている。これにより、評価装置3の通信部31は、データ管理装置5から送信された処理データを受信する。
【0198】
次に、評価装置3の表示制御部33は、ステップS54で受信された処理データを、ディスプレイ306に表示させる(ステップS56)。
【0199】
次に、評価装置3は、評価対象データを用いた法面状態の検出処理を行う(ステップS57)。法面状態の検出処理についての詳細は、後述する。
【0200】
受付部32は、評価結果のアップロード要求を受け付ける(ステップS58)。そして、通信部31は、データ管理装置5に対して、評価結果のアップロード(送信)を行う(ステップS59)。これにより、データ管理装置5の通信部51は、評価装置3から送信された評価データを受信する。そして、データ管理装置5のデータ管理部53は、ステップS59で受信された評価データを、処理データ管理DB5003(図9(B)参照)に登録する(ステップS60)。この場合、データ管理部53は、評価データを、評価を行った評価対象データ等と関連づけて一つのフォルダに記憶する。
【0201】
また、受付部32は、評価レポートの生成要求を受け付ける(ステップS61)。そして、レポート生成部38は、検出部36による法面状態の検出結果に基づいて、評価レポートを生成する(ステップS62)。レポート生成部38は、国等から発行された点検要領、または道路管理者からの要望に沿った様式に基づいて、上述した評価結果を示す評価データを整列させて評価レポートを生成する。
【0202】
ここで、図23を用いて、法面状態の検出処理について詳細に説明する。図23は、法面状態の検出処理の一例を示すフローチャートである。
【0203】
まず、受付部32は、形状検出要求を受け付ける(ステップS71)。次に、検出部36は、評価対象データを用いた形状検出処理を行う(ステップS72)。ここで、法面の形状を示す形状データは、法面の延長、高さおよび傾斜角度等の三次元情報、並びに位置情報等によって表される。法面の延長とは、平面図における法面の長さ(法面の傾斜が分かる横断面の奥行き方向の長さ)である。また、形状データには、法面が自然斜面であるか、または土工構造物であるかの法面の種類を示す情報も含まれる。さらに、法面は土工構造物である場合、形状データには、土工構造物の種別の情報も含まれる。土木構造物の種別は、例えば、擁壁、法枠、モルタル吹付、アンカーの有無、または盛土等である。
【0204】
具体的には、検出部36は、評価対象データに含まれている画像データおよび三次元データに基づいて、法面の延長、高さおよび傾斜角度を検出する。また、検出部36は、状態種別管理DB3001(図7参照)を用いて、評価対象データである画像に示されている法面の種別を検出する。この場合、検出部36は、状態種別管理テーブルに示されている教師画像を用いた画像マッチング処理によって法面の種別を検出する。
【0205】
次に、表示制御部33は、ステップS72における検出結果である形状データを、ディスプレイ306に表示させる(ステップS73)。なお、以上説明したステップS71~S73において、「形状検出」処理に代えて、「構造物情報検出」処理を行っても良い。
【0206】
この場合、受付部32は、構造物情報検出要求を受け付ける(ステップS71)。次に、検出部36は、評価対象データを用いた構造物情報検出処理を行う(ステップS72)。そして、表示制御部33は、ステップS72における検出結果である構造物情報検出情報を、ディスプレイ306に表示させる(ステップS73)。
【0207】
ここで、構造物情報は、上述した形状データ以外に、構造物の付帯情報を含む。具体的には、検出部36は、評価対象データに含まれている画像データおよび三次元データに基づいて、状態種別管理DB3001(図7および図8参照)を用いて、評価対象データである画像に示されている法面の種別、および法面の付帯情報の種別を検出する。この場合、検出部36は、状態種別管理テーブルに示されている教師画像を用いた画像マッチング処理によって法面の種別、および法面の付帯情報を検出する。
【0208】
次に、受付部32は、法面状態の損傷検出を要求する損傷検出要求を受け付けた場合(ステップS74のYES)、処理をステップS75へ移行させる。一方で、受付部32は、損傷検出要求が受け付けられない場合(ステップS74のNO)、処理をステップS77へ移行させる。検出部36は、評価対象データに対する法面状態の損傷検出処理を行う(ステップS75)。
【0209】
ここで、法面状態の損傷検出処理は、法面の損傷度合いを表す損傷データとして、法面に存在する変状の有無または変状の度合いを検出する。変状の度合いは、変状の劣化度合いを示し、ひびの幅、隔離のサイズ、または浮きの大きさ等である。検出部36は、評価対象データに含まれている画像データおよびセンサデータに基づいて、法面の変状の有無または変状の度合いを検出する。(評価ステップの一例)また、検出部36は、予め定められた変状劣化度の検出式等を用いて、変状の度合い所定値を超えているか否かを検出する。この場合、検出部36は、ひびの幅が一定以上であるか、剥離のサイズが一定以上か、または浮きが大きいか等を判定する。
【0210】
そして、図15に示したステップS38において、データ管理装置5のデータ管理部53は、損傷位置の座標と損傷の種類を、図11に示した撮影画像データ7AにおけるX軸方向およびY軸方向に対応する座標に対応付けて、処理データ管理DB5003に記憶する。
【0211】
次に、表示制御部33は、ステップS75における損傷検出結果を示す表示画面を、ディスプレイ306に表示させる(ステップS76)。
【0212】
また、表示制御部33は、断面画像をディスプレイ306に表示させる。断面画像は、検出部36によって検出された形状データに基づいて描画された評価対象の法面の断面図を示す。形状データは、距離センサ8a(三次元センサ)によるセンサデータを用いて検出されるため、二次元画像のみでは算出できない法面の傾斜または高さ等の三次元情報も含めて詳細に表現することができる。
【0213】
次に、受付部32は、地図情報取得要求を受け付けた場合(ステップS77のYES)、処理をステップS78へ移行させる。一方で、受付部32は、地図情報取得要求が受け付けられない場合(ステップS77のNO)、処理を終了する。検出部36は、評価対象の法面状態の位置を示す地図情報を生成する(ステップS78)。具体的には、検出部36は、外部のWEBサーバ等が提供する所定のサービスまたはアプリケーションを用いて利用可能な地図データに対応する、ステップS55で取得された測位データが示す位置(北緯、東経)に対して、法面の位置を示す画像が付与された地図情報を生成する。外部のWEBサーバ等から提供される地図データは、地図データ管理部37によって管理されている。
【0214】
次に、表示制御部33は、ステップS78で生成された地図情報490を、ディスプレイ306に表示させる(ステップS79)。
【0215】
受付部32は、法面状態の損傷の予兆検出を要求する予兆検出要求を受け付けた場合(ステップS80のYES)、処理をステップS81へ移行させる。一方で、受付部32は、予兆検出要求が受け付けられない場合(ステップS80のNO)、処理を終了させる。検出部36は、評価対象データに対する法面状態の予兆検出処理を行う(ステップS81)。
【0216】
状態検査システム1において、従来から、法面の変状が認められたときにその状態および位置を特定することが行われている。しかしながら、法面に変状が生じる前に、変状が生じる位置の予兆を示す情報について計測する、という観点は知られていない。ここで、法面状態の損傷の予兆検出処理は、法面の損傷の予兆を表す予兆データとして、法面の周囲の物理量を示す周囲データを含む法面の計測データに基づき、法面の変状の予兆を検出する。
【0217】
計測データは、法面を撮影装置7により撮影した撮影画像データ、あるいは、法面を距離センサ8a等の三次元センサにより計測したセンサデータを含む。
【0218】
周囲データは、法面以外の物体の計測データを含み、法面以外の物体は、湧水、土砂、岩石、および植物のうちの少なくとも1つを含む。
【0219】
法面の計測データに、法面表面に発生している湧水を示す周囲データが含まれる場合、法面の裏側から、滞留水が圧力をかけている可能性があるため、法面の変状の予兆があると検出される。具体的には、湧水の有無に限らず、湧水の量、種類および位置に応じて、法面の変状の予兆があると検出される。
【0220】
法面の計測データに、法面表面に発生している植物、苔を示す周囲データが含まれる場合、湧水が発生し、法面の裏側から、滞留水が圧力をかけている可能性があるため、法面の変状の予兆があると検出される。具体的には、植物、苔の有無に限らず、植物、苔の量、種類および位置に応じて、法面の変状の予兆があると検出される。
【0221】
法面の計測データに、法面周囲の落石、土砂を示す周囲データが含まれる場合、法面の裏側および上側に異常が生じている可能性があるため、法面の変状の予兆があると検出される。具体的には、落石、土砂の有無に限らず、落石、土砂の量、種類および位置に応じて、法面の変状の予兆があると検出される。
【0222】
法面の計測データに、排水穴、パイプ、小段の排水路等の詰まりを示す周囲データが含まれる場合、法面の裏側から表側への排水が阻害され、法面の裏側から、滞留水が圧力をかけている可能性があるため、法面の変状の予兆があると検出される。具体的には、詰まりの有無に限らず、詰まりの原因となる異物の量、種類および位置に応じて、法面の変状の予兆があると検出される。
【0223】
なお、排水穴、パイプ、小段の排水路等自体が損傷している場合は、法面の変状として検出されるが、排水穴、パイプ、小段の排水路等の詰まりは、法面の変状としては検出されず、法面の変状の予兆として検出される。
【0224】
以上説明した法面以外の物体の計測データは、複数の計測データの組み合わせにより、法面の変状の予兆があると検出してもよい。具体的には、法面のごく一部にしか湧水を示す周囲データが存在しなかったとしても、法面の全面に苔が広がっている場合は、日常的には、法面の全面に湧水が広がっていると推定され、法面の変状の予兆があると検出される。
【0225】
また、周囲データは、物体以外の物理量の計測データを含み、物体以外の物理量の計測データは光の計測データを含む。
【0226】
法面の計測データに、日当たりの良さを示す周囲データが含まれる場合、上記した法面以外の物体の計測データと組み合わせて、法面の変状の予兆があると検出される。具体的には、日当たりがよく法面が乾燥しやすいにも関わらず、苔が発生している場合、湧水が発生し、法面の裏側から、滞留水が圧力をかけている可能性があるため、法面の変状の予兆があると検出される。
【0227】
そして、法面状態の損傷の予兆検出処理は、法面の損傷の予兆を表す予兆データとして、法面の周囲の物理量を示す周囲データを含む法面の計測データに基づき、法面の変状の予兆についてのコメントを生成する。そして、図15に示したステップS38において、データ管理装置5のデータ管理部53は、変状の予兆の位置の座標とコメントを、図11に示した撮影画像データ7AにおけるX軸方向およびY軸方向に対応する座標に対応付けて、処理データ管理DB5003に記憶する。
【0228】
具体的には、取得した周囲データの一例である撮影画像データに基づき、図8に示した状態種別管理テーブルの教師画像を参照し、湧水等の法面の周囲の物理量の種別およびその量や位置等を示すコメントを生成する。一例として、「苔率30%、起点高さ3~20m付近に多く分布」というコメントを生成する。
【0229】
次に、表示制御部33は、ステップS81における予兆検出結果を示す表示画面を、ディスプレイ306に表示させる(ステップS82)。
【0230】
また、表示制御部33は、断面画像をディスプレイ306に表示させる。このように、評価システム4は、法面状態の評価として、三次元情報を含む法面の形状、法面の損傷の度合い、法面の変状の予兆および評価対象の法面の位置を検出する。
【0231】
図24は、状態検査システムにおける表示処理の一例を示すシーケンス図である。
【0232】
以下、評価装置3とデータ管理装置5間のシーケンスについて説明するが、データ取得装置9、通信端末1100および通信端末1200とデータ管理装置5間のシーケンスについても同様である。
【0233】
評価装置3のユーザが、フォルダ指定を行うことで、評価装置3の受付部32は、対象データの選択を受け付ける(ステップS91)。あるいは、評価装置3のユーザが、評価装置3の地図データ管理部37により管理される地図情報における任意の位置を選択することで、評価装置3の受付部32は、地図情報における位置情報の選択を受け付けてもよい。
【0234】
次に、通信部31は、データ管理装置5に対して、ステップS91で選択された対象データに係る入出力画面の要求を送信して、データ管理装置5の通信部51は、評価装置3から送信された要求を受信する。(ステップS92)。この要求には、ステップS91で選択されたフォルダ名が含まれている。あるいは、この要求には、地図情報における位置情報が含まれてもよい。
【0235】
次に、データ管理装置5の記憶・読出部59は、ステップS92で受信された要求に含まれているフォルダ名を検索キーとして処理データ管理DB5003(図9(B)参照)を検索することで、要求に含まれているフォルダ名に関連づけられた画像データを読み出す。あるいは、記憶・読出部59は、ステップS92で受信された要求に含まれている位置情報を検索キーとして取得データ管理DB5001を検索することで、要求に含まれている位置情報に関連づけられた画像データを読み出す。
【0236】
データ管理装置5の生成部54は、記憶・読出部59が読みだした画像データに基づき当該画像データを含む入出力画面を生成する(ステップS93)。この入出力画面は、法面を示す輝度画像中の特定位置を示す画像を生成することを指示する指示操作を受け付ける画面である。
【0237】
通信部51は、評価装置3に対して、ステップS93で生成した入出力画面に係る入出力画面情報を送信して、評価装置3の通信部31は、データ管理装置5から送信された入出力画面情報を受信する(ステップS94)。ステップS94は、決定受付画面送信ステップの一例である。
【0238】
次に、評価装置3の表示制御部33は、ステップS94で受信された入出力画面を、ディスプレイ306に表示させる(ステップS95)。評価装置3の受付部32は、表示された入出力画面に対するユーザの所定の入力操作を受け付ける。この入力操作は、法面を示す輝度画像中の特定位置を示す画像を生成することを指示する指示操作を含む。ステップS95は、受付ステップの一例である。
【0239】
通信部31は、データ管理装置5に対して、受付部32が受け付けた入力操作に係る入力情報を送信して、データ管理装置5の通信部51は、評価装置3から送信された入力情報を受信する。(ステップS96)。この入力情報は、法面を示す輝度画像中の特定位置を示す画像を生成することを指示する指示情報を含む。
【0240】
データ管理装置5の生成部54は、受信した入力情報に基づき、ステップS93で記憶・読出部59が読みだした画像データを用いて表示画像を生成する(ステップS97)。この表示画像は、法面の表面を示す表面画像および表面画像における特定位置を示す表面位置画像を含む表面表示画像と、法面の断面を示す断面画像および断面画像における特定位置を示す断面位置画像を含む断面表示画像を含む。ステップS97は、画像生成ステップの一例である。
【0241】
データ管理装置5の通信部51は、評価装置3に対して、ステップS97で生成した表示画像を送信して、評価装置3の通信部31は、データ管理装置5から送信された表示画像を受信する(ステップS98)。ステップS98は、表示画像送信ステップの一例である。
【0242】
評価装置3の表示制御部33は、ステップS98で受信した表示画像をディスプレイ306に表示させる(ステップS99)。ステップS99は、表示ステップの一例である。
【0243】
図24は、評価装置3とデータ管理装置5間の表示処理に係るシーケンスを示したが、評価装置3は、単独で表示処理を実行してもよい。
【0244】
この場合、データ送受信に係るステップS92、94、96、98が省略され、評価装置3は、ステップS91,93、95、97、99を単独で実行することにより、図24と同様の表示処理が行える。データ取得装置9、通信端末1100および通信端末1200についても、それぞれ評価装置3と同様に単独で表示処理を実行することができる。
【0245】
〇特定位置を指定する操作に基づく、表面表示画像の生成
図25は、状態検査システムの表示画面における操作の説明図である。図25は、図24に示したシーケンス図のステップS95において、評価装置3のディスプレイ306に表示される入出力画面2000を示すが、データ取得装置9、通信端末1100および通信端末1200の夫々のディスプレイに表示される入出力画面2000についても同様である。
【0246】
評価装置3の表示制御部33は、法面を示す輝度画像中の特定位置を指定する指定操作を受け付ける特定受付画面2010と、法面における特定位置を示す画像を生成することを決定する決定操作を受け付ける決定受付画面2020を含む入出力画面2000を表示させる。
【0247】
表示制御部33は、特定受付画面2010中に、法面の表面を示す表面画像2100を表示させるとともに、ポインティングデバイス312により操作されるポインタ2300を表面画像2100上に表示させる。
【0248】
表面画像2100は、図9(A)に示した撮影画像データから図24のステップS93で読み出された輝度画像であり、表示制御部33は、図10に示した撮影画像1,2、および図11に示した撮影画像データ7Aに示されるX軸方向およびY軸方向と対応付けて、表面画像2100を表示させる。
【0249】
表示制御部33は、特定位置決定ボタン2400、変状確認ボタン2410、変状予兆確認ボタン2420、正面図解析ボタン2430、正面図比較ボタン2440、断面図解析ボタン2450、および断面図比較ボタン2460を含む決定受付画面2020を表示させる。変状確認ボタン2410、変状予兆確認ボタン2420、正面図解析ボタン2430、正面図比較ボタン2440、断面図解析ボタン2450、および断面図比較ボタン2460は、表面画像2100または断面画像2200における所定の条件を満たす部分の位置を特定位置として、法面における特定位置を示す画像を生成することを指示するボタンである。
【0250】
特定位置決定ボタン2400は、特定受付画面2010で指定された法面における特定位置を確定して、法面における特定位置を示す画像を生成することを指示するボタンである。特定位置決定ボタン2400は、特定受付画面2010で指定された特定位置だけでなく、判断部52等により特定され、特定受付画面2010に表示された特定位置を決定してもよい。
【0251】
変状確認ボタン2410は、法面の変状を示す位置を特定位置として、法面における特定位置を示す画像を生成することを指示するボタンであり、変状予兆確認ボタン2420は、法面の変状の予兆を示す位置を特定位置として、法面における特定位置を示す画像を生成することを指示するボタンである。
【0252】
正面図解析ボタン2430は、表面画像2100を解析して得られる部分を特定位置として、法面における特定位置を示す画像を生成することを指示するボタンであり、正面図比較ボタン2440は、表面画像2100を他の画像と比較して得られる部分を特定位置として、法面における特定位置を示す画像を生成することを指示するボタンである。
【0253】
断面図解析ボタン2450は、後述する断面画像を解析して得られる部分を特定位置として、法面における特定位置を示す画像を生成することを指示するボタンであり、断面図比較ボタン2460は、断面画像を他の画像と比較して得られる部分を特定位置として、法面における特定位置を示す画像を生成することを指示するボタンである。
【0254】
図26は、図25に示した操作に基づく処理を示すフローチャートである。図26(a)は、評価装置3における処理を示し、図26(b)は、データ管理装置5における処理を示す。
【0255】
評価装置3の受付部32は、ポインタ2300により表面画像2100上の所定の位置がポインティングされると、当該ポインティング操作を受け付けて(ステップS101)、特定位置決定ボタン2400が操作されると、当該操作を受け付ける(ステップS102)。
【0256】
次に、評価装置3の判断部34は、ポインティングされた位置の表面画像2100におけるXY座標を特定位置として検出する(ステップS103)。この特定位置は、XY座標における点を示してもよく、領域を示しても良い。
【0257】
次に、評価装置3の通信部31は、データ管理装置5に対して、受付部32が受け付けた入力操作に係る入力情報を送信する(ステップS104)。この入力情報は、ポインタ2300によるポインティング操作に基づく、XY座標で特定位置を指定する指定情報と、特定位置確定ボタン2400の操作に基づく、法面における特定位置を示す画像を生成することを指示する指示情報を含む。
【0258】
データ管理装置5の通信部51は、評価装置3から送信された入力情報を受信し、生成部54は、受信した入力情報に含まれる指示情報および指定情報に基づき、図11(A)に示した画像データを用いて、特定位置のXY座標と重なる表面位置画像を、表面画像に重畳して生成して、表面表示画像を生成する(ステップS105)。表面位置画像は、特定位置のXY座標と必ずしも完全一致する必要はなく、特定位置のXY座標と重なっていればよい。
【0259】
続いて、生成部54は、図11(A)に示した画像データおよび図11(B)に示した測距データを用いて、特定位置のX座標に対応する断面画像を生成する(ステップS106)。図11(B)に示した測距データが、特定位置のX座標を含まない場合は、図11(B)に示した測距データに含まれる特定位置のX座標近傍のデータに基づき、断面画像を生成する。
【0260】
なお、生成部54は、ステップS106において、図10に示したZ軸方向および鉛直方向を含む断面の断面画像を生成したが、Z軸方向および鉛直方向から傾斜した方向を含む断面の断面画像や、Z軸方向から傾斜した方向を含む断面の断面画像を生成しても良い。
【0261】
生成部54は、特定位置のY座標と重なる断面位置画像を、断面画像の稜線と重畳して生成し、断面表示画像を生成する(ステップS107)。
【0262】
通信部51は、評価装置3に対して、ステップS105で生成した表面表示画像およびステップS107で生成した断面表示画像を送信する(ステップS108)
【0263】
そして、図24のステップS98およびS99に示したように、評価装置3の通信部31は、データ管理装置5から送信された表面表示画像および断面表示画像を受信し、評価装置3の表示制御部33は、受信した表面表示画像および断面表示画像をディスプレイ306に表示させる。
【0264】
図27は、図26に示した処理後の表示画面の一例である。図27は、図24に示したシーケンス図のステップS99において、評価装置3のディスプレイ306に表示される入出力画面2000を示す。
【0265】
決定受付画面2020の表示内容は、図25と同一であるが、特定受付画面2010の表示内容は、図25とは異なる。
【0266】
評価装置3の表示制御部33は、法面の表面を示す表面画像2100および表面画像2100における特定位置を示す表面位置画像2110を含む表面表示画像2150と、法面の断面を示す断面画像2200および断面画像2200における特定位置を示す断面位置画像2210を含む断面表示画像2250を特定受付画面2010に表示させる。
【0267】
表示制御部33は、図10に示したY軸方向およびZ軸方向と対応付けて、断面画像2200を表示させる。
【0268】
ユーザは、表面位置画像2110と、断面位置画像2210を見比べることにより、特定位置の状態を適切に評価、確認することができる。
【0269】
図28は、状態検査システムの機能構成の変形例を示す図である。
【0270】
図28に示す変形例では、図6では評価装置3が備えていた判断部34、評価対象データ生成部35、検出部36、地図データ管理部37、レポート生成部38、および設定部40に代えて、データ管理装置5が、判断部534、評価対象データ生成部535、検出部536、地図データ管理部537、レポート生成部538、および設定部540を備える。
【0271】
図28に示す判断部534、評価対象データ生成部535、検出部536、地図データ管理部537、レポート生成部538、および設定部540のそれぞれは、図6で示した判断部34、評価対象データ生成部35、検出部36、地図データ管理部37、レポート生成部38、および設定部40のそれぞれと同様の機能または手段である。
【0272】
また、図6では評価装置3の記憶部3000が備えていた状態種別管理DB3001に代えて、データ管理装置5の記憶部5000が、状態種別管理DB5005を備える。
【0273】
図28に示す状態種別管理DB5005は、図6で示した状態種別管理DB3001と同様のデータを管理する。
【0274】
図29は、図28に示した変形例における処理を示すフローチャートである。
【0275】
図29(a)は、データ管理装置5における処理を示す。
【0276】
検出部536は、図23のステップS72における検出部36の処理と同様に、状態種別管理DB3001(図7参照)を用いて、図16に示した合成画像に示されている法面の種別を検出する(ステップS201)。検出部536は、法面の種別を複数検出することができる。
【0277】
生成部54は、ステップS201で検出された検出データを含む検出データ表示画面を生成する(ステップS202)。生成部54は、複数の検出データを含む検出データ表示画面を生成することができる。
【0278】
生成部54は、ステップS201で検出された検出データに基づき、法面80と法面80以外の境界、すなわち、移動体6の移動方向における法面80の開始位置および終了位置を推定する(ステップS203)。検出部536は、開始位置および終了位置の組み合わせを複数推定することができる。
【0279】
生成部54は、ステップS203で推定した開始位置および終了位置に基づき、図17および図18に示した入出力画面2000と同様に、合成画像に対して開始位置バーおよび終了位置バーを重畳した入出力画面を生成する(ステップS204)。生成部54は、合成画像に対して開始位置バーおよび終了位置バーの組み合わせを複数重畳した入出力画面を生成することができる。
【0280】
生成部54は、ステップS203で推定した開始位置および終了位置に基づき、図23のステップS78で生成された地図情報と同様に、地図データに対して開始位置を示す画像および終了位置を示す画像を重畳した地図画面を生成する(ステップS205)。生成部54は、開始位置を示す画像および終了位置を示す画像の組み合わせを複数重畳した地図画面を生成することができる。
【0281】
通信部51は、評価装置3に対して、ステップS202で生成した検出データ表示画面を示す検出データ表示画面情報、ステップS204で生成した入出力画面を示す入出力画面情報、およびステップS205で地図画面を示す地図画面情報を送信する(ステップS206)。
【0282】
通信部51は、データ取得装置9、通信端末1100および通信端末1200に対しても、これらの情報を送信できる。
【0283】
図29(b)は、評価装置3における処理を示す。データ取得装置9、通信端末1100および通信端末1200における処理も同様である。
【0284】
通信部31は、データ管理装置5から送信された検出データ表示画面情報、入出力画面情報、および地図画面情報を受信する(ステップS211)
表示制御部33は、ステップS211で受信した検出データ表示画面情報に示される検出データ表示画面をディスプレイ306に表示させる(ステップS212)。
【0285】
受付部32が、検出データ表示画面に含まれる1つまたは複数の検出データを選択する選択操作を受け付けると(ステップS213)、表示制御部33は、ステップS213で選択された検出データを含むように、ステップS211で受信した入出力画面情報に示される入出力画面をディスプレイ306に表示させる(ステップS214)。
【0286】
具体的には、図16(b)に示したように、入出力画面が、複数の分割画像群250A、250Bを含む場合、表示制御部33は、検出データを含む分割画像群をディスプレイ306に表示させる。
【0287】
また、ステップS214で表示される入出力画面は、図17に示した入出力画面2000と同様であるが、図17では、ユーザが開始位置指定ボタン2402および終了位置指定ボタン2404を操作すると、表示制御部33は、合成画像2500上の任意の位置に開始位置バー250Sおよび終了位置バー250Gを表示させたのに対して、ステップS214で表示される入出力画面では、表示制御部33は、合成画像2500上の図29(a)のステップS203で推定された開始位置および終了位置に、開始位置バー250Sおよび終了位置バー250Gを表示させる。
【0288】
ここで、開始位置バー250Sは、法面80の一端の法面80以外との境界の推定される位置を示す第1のマーカーの一例であり、終了位置バー250Gは、法面80の他端の法面80以外との境界の推定される位置を示す第2のマーカーの一例である。
【0289】
次に、表示制御部33は、ステップS213で選択された検出データを含むように、ステップS211で受信した地図画面情報に示される地図画面をディスプレイ306に表示させる(ステップS215)。
【0290】
図30は、図28に示した変形例における検出データ表示画面の一例を示す図である。
【0291】
図30は、図29に示したフローチャートのステップS212において、評価装置3のディスプレイ306に表示される検出データ表示画面3000を示すが、データ取得装置9、通信端末1100および通信端末1200の夫々のディスプレイに表示される検出データ表示画面についても同様である。検出データ表示画面3000は、種別表示画面の一例である。
【0292】
評価装置3の表示制御部33は、図29(a)のステップS201で検出された複数の検出データを示すテキスト情報3100A~3100D、および画像情報3200A~3200Dを含む検出データ表示画面3000をディスプレイ306に表示させる。テキスト情報3100A~3100Dは、法面の種別および工法に係るテキスト情報を含む。テキスト情報3100A~3100Dは、種別情報の一例である。
【0293】
評価装置3の受付部32は、ポインタ2300によりテキスト情報3100A~3100D、および画像情報3200A~3200Dの何れかの上の所定の位置がポインティングされると、図29(b)のステップS213に示したように、当該ポインティングされた検出データの選択操作を受け付ける。
【0294】
表示制御部33は、図17に示した入出力画面2000に対して、検出データ表示画面3000を切替表示してもよく、別ウィンドウで表示させてもよい。
【0295】
図31は、図28に示した変形例における地図画面の一例を示す図である。
【0296】
図31は、図29に示したフローチャートのステップS215において、評価装置3のディスプレイ306に表示される地図画面490を示すが、データ取得装置9、通信端末1100および通信端末1200の夫々のディスプレイに表示される地図画面についても同様である。
【0297】
表示制御部33は、撮影開始位置492aおよび撮影終了位置492bを含む撮影経路492、移動体6の移動方向における法面80の開始位置491a、および移動体6の移動方向における法面80の終了位置491bを含む地図画面490をディスプレイ306に表示させる。開始位置491aは、法面80の一端の一例であり、終了位置491bは、法面80の他端の一例である。
【0298】
撮影経路492は、図16等で説明した合成画像の撮影位置に対応しており、図29(b)のステップS213で選択された検出データの撮影位置を含む。
【0299】
また、開始位置491a、および終了位置491bは、図29(a)のステップS203で推定された開始位置および終了位置に対応する。
【0300】
表示制御部33は、図17に示した入出力画面2000に対して、地図画面490を切替表示してもよく、別ウィンドウで表示させてもよい。
【0301】
●移動体システムの変形例
○変形例1○
次に、図32乃至図34を用いて、移動体システム60の変形例について説明する。まず、図32は、変形例1に係る移動体システムを用いて法面状態を検査する様子の一例を示す図である。変形例1に係る移動体システム60は、高所の撮影を可能にするため、データ取得装置9が移動体6の上面に設置したポールに固定されているシステムである。
【0302】
上述の実施形態の撮影装置7では、地面からの高さが低く、図32に示されているような擁壁の上の小段、法枠の上の小段、またはモルタル吹付の上の小段の撮影を行うことが難しい。また、現在の道路土工構造物の小段は、図32に示されているように、蓋がなされておらず、枯れ葉等が堆積して水路が詰まる不具合が発生するおそれがあり、定期的な清掃を必要とする。そのため、高所からの撮影が可能な変形例1に係る移動体システム60を用いることで、例えば、人間が斜面を登って水路の詰まり具合を確認するのは難しい場合であっても、移動体6の走行動作に伴う撮影処理によって確認することができるので、点検効率が大幅に向上させることができる。
【0303】
○変形例2○
図33は、変形例2に係る移動体システムを用いて法面状態を点検する様子の一例を示す図である。変形例2に係る移動体システム60(60a,60b)は、例えば、変形例1のポール付き撮影装置でも撮影できないような高所または道路脇より下の盛土法面の撮影を行うために、移動体6の一例として、データ取得装置9を搭載したドローンを用いるシステムである。
【0304】
移動体6としてのドローンは、撮影装置7だけでなく、距離センサ8a、GNSSセンサ8b、または角度センサ8c等のセンサ装置を備えたデータ取得装置9を搭載することで、移動体6としての車両では評価できなかった高所や盛土の状態評価を行うことができる。特に、盛土や高所は、人間が近接目視に向かうことが困難な場所であり、変形例2のようなドローンによる撮影が望まれる。また、盛土や高所の法面は、木や草といった植生が多く茂っている場所が多い。そのため、データ取得装置9は、広角画像を撮影可能な撮影装置7を備えることが好ましい。
【0305】
ドローンにおいても、図25(a)のステップS123で説明したように、撮影時の移動ラインが、ステップS122で予定されていた移動ラインからなるべく外れないように走行することが望ましい。
【0306】
○変形例3○
図34は、変形例3に係る移動体システムを用いて法面状態を点検する様子の一例を示す図である。図34に示されているように、法面は、道路上の構造物であるトンネルや橋梁とは異なり、複雑な構造を持つ。
【0307】
例えば、法面は、斜面が平面ではなくうねっていたり(例えば、岸壁にモルタル吹き付けを行った土工構造物)、植生が生えていたり、金網が貼られていたりする。そのため、変形例3に係る移動体システム60(60a,60b,60c)は、植物や金網等の物体と法面の形状とを区別するため、センサ装置8として、波長情報を取得可能なスペクトルカメラ、赤外線カメラまたは被写界深度拡大カメラ(EDof(Expanded Depth of Field)カメラ)を備える。
【0308】
また、変形例3に係る移動体システム60は、法面の形状と区別するためのツールだけでなく、データ取得装置9に照明装置を搭載に、天候や陽当たり等の様々な条件下で法面撮影が行える構成にすることが好ましい。この場合の照明装置は、撮影装置7による撮影範囲に対応したエリアを照射するライン照明装置、または撮影装置7およびセンサ装置8と同期させた時分割の照明装置であることが好ましい。
【0309】
さらに、変形例3に係る移動体システム60によって取得されたデータを処理するために、評価装置3の評価対象データ生成部35は、細かな変状も見逃さないように手振れ補正機能、焦点深度補正機能(ぼけ補正機能)、歪み補正機能またはコントラスト強調機能等の画像処理機能を有していることが好ましい。また、評価対象データ生成部35は、草、苔または金網等の土工構造物上の変状を覆い隠すノイズの削除機能または草などの影と、ひびなどの変状とを判別する機能を有していることが好ましい。このように、状態検査システム1は、変形例3に係る移動体システム60を用いることで、複雑な構造を有する箇所や、草、苔または金網等が存在する箇所においても、法面状態の評価を精度良く行うことができる。
【0310】
●まとめ●
[第1態様]
本発明の一実施形態に係るデータ管理装置5は、移動体6に設置された撮影装置7により、法面80および法面80以外を含む対象領域70を移動体6の移動方向に沿って複数の撮影領域dnに分けて撮影したそれぞれの撮影画像pnをつなぎ合わせて、移動体6の移動方向における法面80と法面80以外の境界を含む合成画像2500を表示する入出力画面2000を生成する生成部54を備える。
【0311】
ここで、データ管理装置5は情報処理装置の一例であり、法面80は対象物の一例であり、入出力画面2000は表示画面の一例であり、生成部54は生成手段の一例である。
【0312】
これにより、入出力画面2000に表示される法面80と法面80以外の境界を含む合成画像2500を確認して、未知の法面80の位置を確認することができる。
【0313】
[第1態様の2]
第1態様において、生成部54は、合成画像2500が、移動体66の移動方向における異なる位置の複数の法面80の法面80以外に対する境界を含むように、入出力画面2000を生成する。
【0314】
これにより、複数の法面80の位置を確認することができる。
【0315】
[第1態様の3]
第1態様または第1態様の2において、生成部54は、入出力画面2000が表示されるディスプレイ306等の解像度に応じて、移動体66の移動距離に対応する移動体66の移動方向における合成画像2500の長さが異なるように、入出力画面2000を生成する。
【0316】
これにより、入出力画面2000に表示される法面80の両側の境界を含む合成画像2500の視認性が向上し、法面80の位置を容易に確認することができる。
【0317】
[第2態様]
第1態様において、生成部54は、境界の推定位置を示すマーカーの例である開始位置バー250Sおよび終了位置バー250Gを合成画像2500に重畳させて表示する入出力画面2000を生成する。
【0318】
これにより、ユーザは、開始位置バー250Sおよび終了位置バー250Gにより、境界の推定位置を容易に認識することができる。
【0319】
[第3態様]
第2態様において、生成部54は、法面80の一端の境界の推定される位置を示す第1のマーカーと、法面80他端の境界の推定される位置を示す第2のマーカーを一画面または一ラインで表示する入出力画面2000を生成する。開始位置バー250Sは第1のマーカーの一例であり、終了位置バー250Gは第2のマーカーの一例である。
【0320】
これにより、ユーザは、一画面または一ラインで、法面80の一端の境界と他端の境界を容易に認識することができる。
【0321】
[第4態様]
第1態様~第3態様の何れかにおいて、生成部54は、法面80の推定される種別を示すテキスト情報3100A~3100Dを表示する検出データ表示画面3000を生成する。テキスト情報3100A~3100Dは種別情報の一例であり、検出データ表示画面3000は種別表示画面の一例である。これにより、ユーザは、法面80の推定される種別を確認することができる。
【0322】
[第5態様]
第4態様において、評価装置3の表示制御部33は、ディスプレイ306に表示されたテキスト情報3100A~3100Dまたはテキスト情報3100A~3100Dに対応する画像情報3200A~3200Dを選択する選択操作に基づき、合成画像2500のうち選択されたテキスト情報3100A~3100Dに対応する法面80を撮影した撮影画像を、ディスプレイ306に表示させる。
【0323】
これにより、ユーザは、合成画像2500のうち、法面80の推定される種別に対応する法面80を撮影した撮影画像を確認することができる。
【0324】
[第6態様]
第1態様~第5態様の何れかにおいて、データ管理装置5は、合成画像2500における一部の領域を特定することを決定する特定位置決定ボタン2400に対する決定操作に基づき、一部の領域に対応する部分画像255を設定する設定部55を備える。設定部55は、設定手段の一例である。
【0325】
これにより、法面80に対応する一部の領域を特定して、法面80に対応する部分画像255を設定することができる。
【0326】
[第7態様]
第1態様~第6態様の何れかにおいて、生成部54は、合成画像2500を分割した複数の分割画像250A1~Amのそれぞれの分割画像を並べて表示するように、入出力画面2000を生成する。
【0327】
これにより、移動体6の移動方向における合成画像2500や法面80の長さが長い場合でも、1つの入出力画面2000で法面80の位置を容易に確認することができる。
【0328】
[第8態様]
第1態様~第7態様の何れかにおいて、生成部54は、取得データ管理DB5001に記憶された複数の撮影領域dnに分けて撮影されたそれぞれの撮影画像pnよりも低い解像度で、合成画像2500を表示するように、入出力画面2000を生成する。
【0329】
これにより、入出力画面2000を生成したり表示したりするときの処理速度が向上するとともに、入出力画面2000を示す入出力画面情報を送受信するときの通信負荷が低減する。
【0330】
[第9態様]
第1態様~第8態様の何れかにおいて、対象領域70は、移動体66の移動方向と交差する方向において異なる範囲である第1の対象領域および第2の対象領域を含み、
第1の対象領域を移動体66の移動方向に沿って複数の第1の撮影領域dnに分けて撮影したそれぞれの第1の撮影画像pnをつなぎ合わせた第1の合成画像、および第2の対象領域を移動体66の移動方向に沿って複数の第2の撮影領域dnに分けて撮影したそれぞれの第2の撮影画像pnをつなぎ合わせた第2の合成画像について、生成部54は、第1の合成画像および第2の合成画像の少なくとも一方を含む入出力画面2000を生成する。
【0331】
これにより、移動体66の移動方向と交差する方向において異なる範囲である第1の合成画像、第2の合成画像を確認して、法面80の位置を確認することができる。
【0332】
[第10態様]
第9態様において、データ管理装置5は、第1の合成画像における一部の領域を特定することを決定する第1の決定操作に基づき、第1の合成画像における一部の領域に対応する第1の部分画像を設定するとともに、第2の合成画像における一部の領域に対応する第2の部分画像を設定する設定部55を備える。
【0333】
これにより、第1の合成画像2500における一部の領域に対応する第1の部分画像を設定するための第1の決定操作に基づき、第2の合成画像2500における一部の領域に対応する第2の部分画像を設定することができる。
【0334】
[第11態様]
第10態様において、設定部55は、第1の部分画像と、第2の部分画像をつなぎ合わせた統合部分画像を設定する。
【0335】
[第12態様]
第6態様において、設定部55は、決定操作に基づき、一部の領域に対応する位置情報を設定する。
【0336】
[第13態様]
第6態様または第12態様において、設定部55は、決定操作に基づき、複数の撮影領域dnに対応する三次元点群について、一部の領域に対応する特定点群を設定する。
【0337】
[第14態様]
本発明の一実施形態に係る情報処理方法は、移動体66に設置された撮影装置7により、法面80および法面80以外を含む対象領域70を移動体66の移動方向に沿って複数の撮影領域dnに分けて撮影したそれぞれの撮影画像pnをつなぎ合わせて、移動体6の移動方向における法面80と法面80以外の境界を含む合成画像2500を表示する入出力画面2000を生成する生成ステップを実行する。
【0338】
[第15態様]
本発明の一実施形態に係る情報処理方法は、移動体66に設置された撮影装置7により、法面80および法面80以外を含む対象領域70を移動体66の移動方向に沿って複数の撮影領域dnに分けて撮影する撮影ステップと、複数の撮影領域dnに分けて撮影したそれぞれの撮影画像pnをつなぎ合わせて、移動体6の移動方向における法面80と法面80以外の境界を含む合成画像2500を表示する入出力画面2000を生成する生成ステップを実行する。
【0339】
[第16態様]
本発明の一実施形態に係るプログラムは、コンピュータに、第14態様または第15態様記載の情報処理方法を実行させる。
【0340】
[第17態様]
本発明の一実施形態に係る状態検査システム1は、移動体66および移動体66に設置された撮影装置7を備えた移動体システム60と、移動体システム60で撮影された画像を処理するデータ管理装置5と、を備え、移動体システム60は、撮影装置7により、法面80および法面80以外を含む対象領域70を移動体66の移動方向に沿って複数の撮影領域dnに分けて撮影し、データ管理装置5は、複数の撮影領域dnに分けて撮影されたそれぞれの撮影画像pnをつなぎ合わせて、移動体6の移動方向における法面80と法面80以外の境界を含む合成画像2500を表示する入出力画面2000を生成する生成部54を備える。
【0341】
ここで、状態検査システム1は情報処理システムの一例であり、移動体システム60は撮影システムの一例である。
【0342】
[第18態様]
第17態様において、データ管理装置5と通信可能な評価装置3、通信端末1100、または1200をさらに備え、データ管理装置5は、端末装置に対して、入出力画面2000を示す入出力画面2000情報を送信する通信部51をさらに備え、評価装置3、通信端末1100、または1200は、データ管理装置5から送信された、入出力画面2000情報を受信する通信部31、1101、1201と、入出力画面2000をディスプレイ306等に表示する表示制御部33、1103、1203と、を備える。
【0343】
●補足●
上記で説明した実施形態の各機能は、一または複数の処理回路によって実現することが可能である。ここで、本実施形態における「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウエアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(digital signal processor)、FPGA(field programmable gate array)、SOC(System on a chip)、GPU(Graphics Processing Unit)および従来の回路モジュール等のデバイスを含むものとする。
【0344】
また、上記で説明した実施形態の各種テーブルは、機械学習の学習効果によって生成されたものでもよく、関連づけられている各項目のデータを機械学習にて分類付けすることで、テーブルを使用しなくてもよい。ここで、機械学習とは、コンピュータに人のような学習能力を獲得させるための技術であり,コンピュータが,データ識別等の判断に必要なアルゴリズムを,事前に取り込まれる学習データから自律的に生成し,新たなデータについてこれを適用して予測を行う技術のことをいう。機械学習のための学習方法は、教師あり学習、教師なし学習、半教師学習、強化学習、深層学習のいずれかの方法でもよく、さらに、これらの学習方法を組み合わせた学習方法でもよく、機械学習のための学習方法は問わない。
【0345】
また、上記で説明した実施形態の各種テーブルは、画像処理手法を用いて生成されたものでもよい。画像処理手法の例としては、エッジ検出や直線検出、2値化処理等である。また、同様に、音声を取り扱う場合は、フーリエ変換等の音声変換手法を用いても良い。
【0346】
これまで本発明の一実施形態に係る評価システム、状態検査システム、評価方法およびプログラムについて説明してきたが、本発明は、上述した実施形態に限定されるものではなく、他の実施形態の追加、変更または削除等、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
【符号の説明】
【0347】
1 状態検査システム(情報処理システムの一例)
3 評価装置(通信装置の一例)
4 評価システム
5 データ管理装置(情報処理装置の一例)
6 移動体
7 撮影装置
7A 撮影画像データ(輝度画像)
8 センサ装置
8A 測距画像データ(三次元点群)
8a 距離センサ(三次元センサの一例)
8b GNSSセンサ
8c 角度センサ(三次元センサの一例)
9 データ取得装置(通信端末の一例)
92 算出部
93 撮影装置制御部(角度変更部の一例)
96 センサデータ取得部(距離情報取得部、位置情報取得部の一例)
31 通信部(受信手段の一例)
32 受付部(操作受付手段の一例)
33 表示制御部(表示制御手段の一例)
35 評価対象データ生成部(評価対象データ生成手段の一例)
36 検出部(検出手段の一例)
38 レポート生成部(評価情報生成手段の一例)
51 通信部(送信手段の一例)
52 判断部(位置生成手段の一例)
54 生成部(画像生成手段の一例)
55 設定部(設定手段の一例)
59 記憶・読出部(記憶制御手段の一例)
60 移動体システム(撮影システムの一例)
71~73 撮影装置
70 撮影範囲(対象領域)
80 法面
D 撮影装置から斜面までの距離
H 移動体に対する前記撮影装置の高さ
d11、d1n、d1x 撮影領域
701~703 対象領域
Dk 小段の奥行
Hk 小段の高さ
1100 通信端末
1200 通信端末
2000 入出力画面(表示画面の一例)
2010 特定受付画面
2020 決定受付画面
2100 表面画像
2110 表面位置画像(特定位置識別画像の一例)
2150 表面表示画像
2160 他の画像
2170 他の位置画像
2180 他の表示画像
2200 断面画像
2210 断面位置画像(特定点群識別画像の一例)
2250 断面表示画像
2300 ポインタ
2400 特定位置決定ボタン
2402 開始位置指定ボタン
2404 終了位置指定ボタン
2406 縮小ボタン
2408 拡大ボタン
2409 画面切替ボタン
2410 変状確認ボタン
2420 変状予兆確認ボタン
2430 正面図解析ボタン
2440 正面図比較ボタン
2450 断面図解析ボタン
2460 断面図比較ボタン
2500 合成画像
250A、250B 分割画像群
250A1~Am 分割画像
250S 開始位置バー(第1のマーカーの一例)
250G 終了位置バー(第2のマーカーの一例)
2550 統合部分画像
255∪ 上部部分画像
255M 中部部分画像
255L 下部部分画像
3000 検出データ表示画面(種別表示画面の一例)
3100A~3100D テキスト情報(種別情報の一例)
3200A~3200D 画像情報
490 地図画面
491a 移動体6の移動方向における法面80の開始位置(法面80の一端の一例)
491b 移動体6の移動方向における法面80の終了位置(法面80の他端の一例)
492 撮影経路
492a 撮影開始位置
492b 撮影終了位置
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30
図31
図32
図33
図34