【新規性喪失の例外の表示】特許法第30条第2項適用 平成29年5月21日 ウェブサイトへ掲載 https://mainichi.jp/articles/20170521/k00/00m/020/095000c 平成29年6月6日 ウェブサイトへ掲載 http://itpro.nikkeibp.co.jp/atcl/column/17/051900200/052400007/ http://techon.nikkeibp.co.jp/atcl/feature/15/052300099/052600007/ http://kenplatz.nikkeibp.co.jp/atcl/cntcolumn/15/00023/00009/ http://kenplatz.nikkeibp.co.jp/atcl/bldnews/15/052401378/00009/
(58)【調査した分野】(Int.Cl.,DB名)
前記画像取得部が取得した前記画像内において、前記画像を分割し、分割された第1部分画像と、前記第1部分画像の頂点部分または辺部分を含む第2部分画像と、を生成する部分画像生成部を備える、
請求項1または2に記載の情報処理装置。
前記部分画像生成部は、前記画像取得部が取得した前記画像間において、前記画像を分割し、分割された第1部分画像と、前記第1部分画像の頂点部分または辺部分を含む第2部分画像と、を生成する、
請求項3に記載の情報処理装置。
前記画像取得部が取得した連続する複数の前記画像間において、前記画像を分割し、分割された第1部分画像と、前記第1部分画像の頂点部分または辺部分を含む第2部分画像と、を生成する、
請求項5から請求項7のいずれか一項に記載の情報処理装置。
【発明を実施するための形態】
【0021】
以下、本発明の各実施形態について図面を参照しながら説明する。
【0022】
<第1の実施形態>
図1は、本発明の第1の実施形態に係る情報処理システムsysの構成の一例を示す概略図である。
情報処理システムsysは、少なくとも情報処理装置1を含んで構成される。情報処理システムsysは、建造物の表面の状態を解析するシステムである。以下では、一例として、情報処理システムsysが建造物の表面の損傷を解析する場合について説明する。
建造物は、例えば、道路、橋梁、施設等であり、社会インフラも含まれる。また、表面は、建造物の外部表面又は内部表面である。つまり、建造物の表面とは、例えば、道路の路面や橋梁、施設の上面、側面、下面である。損傷とは、物理的な凹凸、色彩の変化、亀裂や破損等である。以下の説明では、一例として路面の損傷を評価、解析する場合について説明するが、これに限られず、各種建造物の損傷の評価、解析にも適用可能である。
【0023】
路面の損傷は、例えば路面の轍掘れ、ポットホール、ひび割れ(クラックとも称する))、段差、施工継目などが含まれる。ひび割れには、線状ひび割れ、面状ひび割れが含まれる。線状ひび割れは、縦断ひび割れ、横断ひび割れ等が含まれる。面状ひび割れには、亀甲状ひび割れなどが含まれる。
【0024】
情報処理システムsysにおいて、情報処理装置1は、1または複数の路面の画像Pを取得する。路面の画像Pは、情報処理システムsysに撮像装置が含まれる場合に、該撮像装置で撮像して取得してもよいし、定点カメラ、ユーザの手持ちのカメラ、車載カメラ等で撮影された路面の画像Pを、ネットワークまたは入力インタフェースを介して取得してもよい。
【0025】
情報処理装置1は、取得した路面の画像に基づいて、画像中の路面の損傷度合を算出する。
【0026】
図2は、本発明の第1の実施形態に係る路面の画像の一例を示す説明図である。
図3は、本発明の第1の実施形態に係る路面の画像の他の一例を示す説明図である。
図4は、本発明の第1の実施形態に係る路面の画像の他の一例を示す説明図である。
図5は、本発明の第1の実施形態に係る路面の画像の他の一例を示す説明図である。
図6は、本発明の第1の実施形態に係る路面の画像の他の一例を示す説明図である。
図2に示す路面の画像P1は、轍D1の例である。
図3に示す路面の画像P2は、ポットホールD2の例である。
図4に示す路面の画像P3は、ひび割れD3の例である。
図5に示す路面の画像P4は、段差D4の例である。
図6に示す路面の画像P5は、パッチングD5の例である。情報処理装置1は、
図2から
図6に図示する例の他、上述した各種の路面の損傷度合を評価、解析する。
【0027】
次に、情報処理システムsysを用いた路面の損傷の解析の概要を説明する。
【0028】
まず、ユーザは、路面の画像を撮影する。路面の画像は、例えば、車載カメラで撮影された画像、路面や路肩を移動しながら撮影された画像等の移動体により撮影された画像や定点カメラで撮影された画像など、路面が含まれる画像であればいかなる撮影方法で撮影されたものであってもよい。画像は、静止画像に限られず動画像であってもよい。移動体は、例えば、車両、人、飛行体、無人撮影機器、動物などである。例えば、車載カメラで撮影する場合や、ユーザが路面や路肩を移動しながら撮影する場合は、車両やユーザの移動に応じて路面を適宜撮影する。
【0029】
なお、以下の説明では、路面の画像に対して位置情報やタイムスタンプが標準形式(例えば、EXIFなど)で格納されている場合の一例を説明するが、位置情報やタイムスタンプの形式や格納方法および抽出方法は任意である。また、位置情報やタイムスタンプは、絶対値であってもよいし相対値であってもよい。
なお、位置情報やタイムスタンプの取得は、GPS(Global Positioning System)センサを搭載した撮影機器や外部装置を使用してもよい。
【0030】
次に、情報処理装置1は、通信網、メモリカード等の入力インタフェースを介して路面の画像を取得する。情報処理装置1は、例えば、取得した路面の画像を解析し、画像中の路面の損傷を解析する。情報処理装置1は、例えば、画像中の路面の特徴量を算出して路面の状態を解析したり、人工知能を用いて路面の状態を解析したりする。人工知能は、例えば、多層パーセプトロン(多層ニューラルネットワーク)を備える。人工知能は、路面損傷等の解析対象を撮像した教師画像(例えば、画像P1〜P5等)に基づいて、取得した路面の画像に対して深層学習(ディープラーニング)が行われる。なお、人工知能には、従来の人工知能で用いられてきた任意の技術やフレームワーク等を適用してもよい。
情報処理装置1は、路面の画像の解析結果として、路面の損傷度合や、路面の損傷の損傷種別などを出力する。本実施形態では、深層学習により解析する場合の一例について説明する。
【0031】
図7は、本発明の第1の実施形態に係る情報処理装置1の構成の一例を示す概略ブロック図である。
情報処理装置1は、入力部10と、通信部13と、記憶部15と、制御部17と、出力部19と、を含んで構成される。制御部17は、画像取得部171と、画像抽出部173と、領域抽出部175と、算出部177と、を含んで構成される。算出部177は、状態判定部1771と、度合算出部1773と、を含んで構成される。
【0032】
入力部10は、各種情報の入力を受け付ける。入力部10は、例えば、マウス、タッチパッド等のポインティングデバイスや、キーボードや、外部機器から情報を取得するための入力インタフェース等である。
【0033】
通信部13は、他の装置と各種情報を送受信する。通信部13は、例えば、通信用IC(Integrated Circuit)や通信用ポート等を備える。
【0034】
記憶部15は、各種情報を記憶する。記憶部15は、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)等を備える。また、記憶部15は、HDD(Hard Disc Drive)、EEPROM(Electrically Erasable Programmable Read Only Memory)、フラッシュメモリ等を備えてもよい。記憶部15は、情報処理装置1が備えるCPU(Central Processing Unit、非図示)やGPU(Graphics Processing Unit、非図示)が実行するための各種プログラムやCPUやGPUが実行した処理の結果などを記憶する。また、記憶部15は、情報処理装置1による解析結果(学習結果)を記憶する。解析結果とは、例えば、ニューラルネットワークのネットワークの状態を示す情報である。ニューラルネットワークのネットワークの状態を示す情報とは、例えば、ニューラルネットワークを構成する各ノード(ユニット)に係る活性化関数のパラメータの値を示す情報等である。
【0035】
出力部19は、各種情報を出力する。出力部19は、例えば、液晶ディスプレイ、有機ELディスプレイ、プラズマディスプレイ等の表示装置、解析結果を出力する出力インタフェース等である。
【0036】
制御部17は、情報処理装置1を制御する。具体的には、例えば、記憶部15に予め記憶されたプログラムを、CPUやGPUが実行することにより制御する。なお、制御部17の一部又は全部を、LSI(Large Scale Integration)やASIC(Application Specific Integrated Circuit)等のハードウェアの集積回路として実現してもよい。
制御部17は、画像取得部171と、画像抽出部173と、領域抽出部175と、算出部177と、を含んで構成される。算出部177は、状態判定部1771と、度合算出部1773と、を含んで構成される。
【0037】
画像取得部171は、入力部10や通信部13を介して、1または複数の路面の画像を取得する。画像取得部171は、取得した路面の画像を表す情報を、画像抽出部173に出力する。
【0038】
画像抽出部173は、画像取得部171から路面の画像を表す情報が入力されると、路面の画像に対して各種画像処理を行う。画像抽出部173は、例えば、路面の画像がエンコードされた動画像である場合には、各フレームを静止画像に変換する。また、画像抽出部173は、路面の画像を表す情報に含まれる路面の画像のメタデータを参照して、タイムスタンプ、位置情報などを抽出する。画像抽出部173は、取得した一連の路面の画像から、検査画像候補の特定、該検査画像候補の抽出等の処理を実行する。なお、画像抽出部173は、取得した一連の路面の画像から、路面損傷の有無を解析しない画像の特定、抽出等の処理を実行してもよい。
【0039】
領域抽出部175は、メタデータから抽出した位置情報に基づいて、複数の路面の画像間で重複する路面の領域がなく、且つ欠落する路面の領域が無いように、画像抽出部173が抽出した検査画像候補の中から検査画像を抽出する。ここで複数の路面の画像間は、複数フレームの画像間のことである。領域抽出部175は、抽出した検査画像を表す情報および対応する位置情報を算出部177に出力する。
なお、領域抽出部175は、位置情報を用いずに、複数の路面の画像間で重複する路面の領域がなく、且つ欠落する路面の領域が無いように、画像抽出部173が抽出した検査画像候補の中から検査画像を抽出してもよい。この場合、例えば、ある検査画像候補と、該検査画像候補と連続する検査画像候補との対応点マッチングを用いればよい。
【0040】
算出部177は、深層学習により検査画像中の路面の損傷を解析する。具体的には、状態判定部1771は、深層学習により各検査画像中の路面に損傷があるか否かを判定し、路面の損傷が検出された検査画像を「1」、路面の損傷が検出されていない検査画像を「0」のように2値化して損傷有無情報を算出する。度合算出部1773は、損傷有無情報に基づいて損傷度合を算出する。具体的には、度合算出部1773は、所定区間、例えば20m区間における損傷有無情報の総和を、該所定区間における検査画像数で除算することで損傷度合を算出する。算出部177は、算出した損傷度合と、位置情報とを出力部19に出力させる。
【0041】
なお、算出部177は、損傷度合を算出せずに損傷有無情報をそのまま出力部19に出力してもよい。
なお、算出部177は、算出した損傷度合を、複数の閾値と比較し、損傷度合がいずれの閾値の範囲内であるかを判定し、判定結果に応じて複数の損傷区分に分類してもよい。複数の損傷区分は、例えば、損傷の程度が小さい区分1、損傷の程度が中程度の区分2、損傷の度合いが大きい区分3などの段階的な区分であればよい。この場合、算出部177は、損傷度合を出力部19に出力させる代わりに、又は加えて、損傷区分を出力させてもよい。
【0042】
図8は、本発明の第1の実施形態に係る損傷度合の算出処理の一例を示すフローチャートである。
ステップS101において、画像取得部171は、入力部10や通信部13を介して、1または複数の路面の画像を取得する。
ステップS103において、画像抽出部173は、画像取得部171から路面の画像を表す情報が入力されると、路面の画像に対して各種画像処理を行う。また、画像抽出部173は、路面の画像を表す情報に含まれる路面の画像のメタデータを参照して、タイムスタンプ、位置情報などを抽出する。画像抽出部173は、取得した一連の路面の画像から、検査画像候補の特定、該検査画像候補の抽出等の処理を実行する。
【0043】
ステップS105において、領域抽出部175は、メタデータから抽出した位置情報に基づいて、複数の路面の画像間で重複する路面の領域がなく、且つ欠落する路面の領域が無いように、画像抽出部173が抽出した検査画像候補の中から検査画像を抽出する。
ステップS107において、状態判定部1771は、深層学習により各検査画像中の路面に損傷があるか否かを判定し、路面の損傷が検出された検査画像を「1」、路面の損傷が検出されていない検査画像を「0」のように2値化して損傷有無情報を算出する。
【0044】
ステップS109において、度合算出部1773は、損傷有無情報に基づいて損傷度合を算出する。具体的には、度合算出部1773は、所定区間、例えば20m区間における損傷有無情報の総和を、該所定区間における検査画像数で除算することで損傷度合を算出する。
【0045】
このように、第1の実施形態による情報処理装置1は、撮像装置で撮影された面を含む領域の画像を取得する画像取得部171と、画像取得部171が取得した画像に基づいて、面の損傷度合を算出する算出部177と、を備える。
これにより、面の損傷を自動検出するとともに、定量的な評価ができるため、建造物の損傷の自動検出の際の利便性を向上させることができる。
【0046】
<第2の実施形態>
第2の実施形態では、複数の路面の画像間で領域の一部を重複させて検査画像を抽出する場合の一例について説明する。なお、第2の実施形態では、第1の実施形態と異なる部分を中心に説明する。
【0047】
図9は、第2の実施形態に係る情報処理装置1Aの構成の一例を示す概略ブロック図である。
情報処理装置1Aは、入力部10と、通信部13と、記憶部15と、制御部17と、出力部19と、を含んで構成される。制御部17は、画像取得部171と、画像抽出部173と、重複領域抽出部175Aと、算出部177と、を含んで構成される。算出部177は、状態判定部1771と、度合算出部1773と、を含んで構成される。
【0048】
重複領域抽出部175Aは、メタデータから抽出した位置情報に基づいて、複数の路面の画像間で、ある路面の画像における路面の領域と、他の路面の画像における路面の領域と重複する路面の領域とのうちの少なくとも一部が重複するように、画像抽出部173が抽出した検査画像候補の中から検査画像を抽出する。換言すれば、重複領域抽出部175Aは、複数の路面の画像間において、時間的に路面の領域が重複するように検査画像候補の中から検査画像を抽出する。また、重複領域抽出部175Aが抽出する各検査画像は、複数の路面の画像間において、ある路面の画像の路面の領域の頂点部分や辺部分が他の路面の画像の路面の領域に含まれる。重複領域抽出部175Aは、抽出した検査画像を表す情報および対応する位置情報を算出部177に出力する。
【0049】
図10は、本発明の第2の実施形態に係る損傷度合の算出処理の一例を示すフローチャートである。
ステップS201において、画像取得部171は、入力部10や通信部13を介して、1または複数の路面の画像を取得する。
ステップS203において、画像抽出部173は、後述する画像抽出処理を実行する。
ステップS205において、重複領域抽出部175Aは、メタデータから抽出した位置情報に基づいて、複数の路面の画像間で、ある路面の画像における路面の領域と、他の路面の画像における路面の領域と重複する路面の領域とのうちの少なくとも一部が重複するように、画像抽出部173が抽出した検査画像候補の中から検査画像を抽出する。
【0050】
ステップS207において、状態判定部1771は、深層学習により各検査画像中の路面に損傷があるか否かを判定し、路面の損傷が検出された検査画像を「1」、路面の損傷が検出されていない検査画像を「0」のように2値化して損傷有無情報を算出する。
ステップS209において、度合算出部1773は、損傷有無情報に基づいて損傷度合を算出する。具体的には、度合算出部1773は、所定区間、例えば20m区間における損傷有無情報の総和を、該所定区間における検査画像数で除算することで損傷度合を算出する。
【0051】
図11は、本発明の第2の実施形態に係る損傷度合の算出処理の一例を示すフローチャートである。
ステップS301において、画像抽出部173は、フレームの路面の画像を選択する。具体的には、路面の画像が未選択の場合、画像抽出部173は、最初のフレームの路面の画像を選択する。一方、既にフレームを選択している場合、画像抽出部173は、選択中のフレームの次のフレームの路面の画像を選択する。
【0052】
ステップS303において、画像抽出部173は、選択中のフレームの画像に対応する位置情報を参照し、1つ前のフレームに対応する位置情報からの移動距離を算出する。以下では、この移動距離を「画像間の距離」と称する。
ステップS305において、画像抽出部173は、算出した移動距離を、移動距離合計に加算する。移動距離合計は、画像抽出処理の開始時に初期化される。
【0053】
ステップS307において、画像抽出部173は、移動距離合計と、所定設定距離とを比較する。移動距離合計が設定距離に比して大きい場合(ステップS307;YES)、制御部17は、ステップS309の処理を実行する。一方、移動距離合計が設定距離に比して小さい場合(ステップS307;NO)、制御部17は、ステップS315に処理を実行する。
【0054】
ステップS309において、画像抽出部173は、移動距離合計を0に設定して初期化する。
ステップS311において、画像抽出部173は、選択中の画像を検査画像候補に設定する。
【0055】
ステップS313において、画像抽出部173は、次のフレームの路面の画像の有無を確認する。画像が存在する場合(ステップS313;YES)、制御部17、ステップS301の処理を実行する。画像が存在しない場合(ステップS313;NO)、制御部17は、ステップS315に処理を実行する。
ステップS315において、画像抽出部173は、検査画像候補を重複領域抽出部175Aに出力する。
【0056】
なお、設定距離は、例えば、1つの検査画像における路面損傷の認識精度に応じて設定されてよい。また、例えば、1つの検査画像において、近傍だけでなく遠くに写る路面損傷を検出できる場合には、設定距離を大きくし、各検査画像に写る路面の重複を少なくしてよい。また、1つの検査画像において、遠くに写る路面損傷を検出不可能な場合には、設定距離を小さくし、各検査画像に写る路面の重複を多くしてよい。これにより、路面損傷の解析に要する負荷を低減しつつ、路面損傷の認識精度を維持することができる。
【0057】
このように、第2の実施形態による情報処理装置1Aは、撮像装置で撮影された面を含む領域の画像を取得する画像取得部171と、画像取得部171が取得した画像に基づいて、面の損傷度合を算出する算出部177と、を備える。
また、算出部177は、画像取得部171が取得した連続する複数の画像の各々について、それぞれの画像中の面の損傷度合を算出する。また、情報処理装置1Aは、それぞれの画像中の面の状態を判定する状態判定部1771、をさらに備え、算出部177は、それぞれの画像中の面の状態に基づいて、それぞれの画像中の面の損傷度合を算出する。
これにより、面の損傷を自動検出するとともに、定量的な評価ができるため、建造物の損傷の自動検出の際の利便性を向上させることができる。
【0058】
<第3の実施形態>
第3の実施形態では、1つの路面の画像内で複数の領域に分割し、該複数の領域のそれぞれが、該画像内の他の領域と一部が重複する場合の一例について説明する。なお、第3の実施形態では、第1の実施形態と異なる部分を中心に説明する。
【0059】
図12は、本発明の第3の実施形態に係る情報処理装置1Bの構成の一例を示す概略ブロック図である。
情報処理装置1Bは、入力部10と、通信部13と、記憶部15と、制御部17と、出力部19と、を含んで構成される。
制御部17は、画像取得部171と、画像抽出部173と、部分画像抽出部175Bと、算出部177と、を含んで構成される。算出部177は、状態判定部1771と、度合算出部1773と、を含んで構成される。
【0060】
部分画像抽出部175Bは、メタデータから抽出した位置情報に基づいて、それぞれの検査画像候補から互いに一部が重複する複数の路面の領域を抽出する。換言すれば、部分画像抽出部175Bは、ある検査画像候補内で路面を含む複数の領域を抽出し、該複数の領域のそれぞれは、ある領域の頂点部や辺部が他の領域に含まれる。部分画像抽出部175Bは、複数の領域を抽出した検査画像候補を、検査画像として特定し、検査画像を表す情報、および検査画像候補から抽出された複数の領域を表す領域情報と、位置情報とを算出部177に出力する。
【0061】
算出部177は、深層学習により検査画像中の路面の損傷を解析する。具体的には、状態判定部1771は、深層学習により各検査画像中の路面に損傷があるか否かを複数の領域のそれぞれで判定して判定スコア(確信度)の値を算出する。
度合算出部1773は、損傷有無情報に基づいて損傷度合、例えば、ひび割れ率を算出する。具体的には、度合算出部1773は、所定区間、例えば20m区間における判定スコアの値の総和を、該所定区間における検査画像中の領域数で除算することで損傷度合を算出する。算出部177は、算出した損傷度合と、位置情報とを出力部19に出力させる。ここで、移動距離が所定区間に満たない場合、算出部177は、検査画像毎に損傷度合を算出する。
【0062】
なお、算出部177は、算出した判定スコアの値と所定閾値とを比較してもよく、例えば、判定スコアの値が所定閾値以上であるときは「1」、判定スコアの値が所定閾値未満であるときは「0」のように2値化してもよい。また、判定スコアの値が所定閾値以下であるときは、判定スコアの値を「0」としてもよい。
【0063】
図13は、本発明の第3の実施形態に係る損傷度合算出処理の一例を示すフローチャートである。
ステップS401において、画像取得部171は、入力部10や通信部13を介して、1または複数の路面の画像を取得する。
ステップS403において、画像抽出部173は、後述する画像抽出処理を実行する。
ステップS405において、部分画像抽出部175Bは、メタデータから抽出した位置情報に基づいて、それぞれの検査画像候補から互いに一部が重複する複数の路面の領域を抽出する。部分画像抽出部175Bは、複数の領域を抽出した検査画像候補を、検査画像として特定し、検査画像を表す情報、および検査画像候補から抽出された複数の領域を表す領域情報と、位置情報とを算出部177に出力する。
【0064】
ステップS407において、状態判定部1771は、深層学習により各検査画像中の路面に損傷があるか否かを複数の領域のそれぞれで判定して判定スコア(確信度)の値を算出する。
ステップS409において、所定区間、例えば20m区間における判定スコアの値の総和を、該所定区間における検査画像中の領域数で除算することで損傷度合を算出する。
【0065】
図14は、本発明の第3の実施形態に係る損傷度合の算出処理の一例を示すフローチャートである。
ステップS501において、画像抽出部173は、フレームの路面の画像を選択する。具体的には、路面の画像が未選択の場合、画像抽出部173は、最初のフレームの路面の画像を選択する。一方、既にフレームを選択している場合、画像抽出部173は、選択中のフレームの次のフレームの路面の画像を選択する。
【0066】
ステップS503において、画像抽出部173は、選択中のフレームの画像に対応する位置情報を参照し、1つ前のフレームに対応する位置情報からの移動距離を算出する。以下では、この移動距離を「画像間の距離」と称する。
ステップS505において、画像抽出部173は、算出した移動距離を、移動距離合計に加算する。移動距離合計は、画像抽出処理の開始時に初期化される。
【0067】
ステップS507において、画像抽出部173は、移動距離合計と、所定設定距離とを比較する。移動距離合計が設定距離に比して大きい場合(ステップS507;YES)、制御部17は、ステップS509の処理を実行する。一方、移動距離合計が設定距離に比して小さい場合(ステップS507;NO)、制御部17は、ステップS515に処理を実行する。
【0068】
ステップS509において、画像抽出部173は、移動距離合計を0に設定して初期化する。
ステップS511において、画像抽出部173は、選択中の画像を検査画像候補に設定する。
【0069】
ステップS513において、画像抽出部173は、次のフレームの路面の画像の有無を確認する。画像が存在する場合(ステップS513;YES)、制御部17、ステップS501の処理を実行する。画像が存在しない場合(ステップS513;NO)、制御部17は、ステップS515に処理を実行する。
ステップS515において、画像抽出部173は、検査画像候補と、領域情報とを部分画像抽出部175Bに出力する。
【0070】
このように、第3の実施形態による情報処理装置1Bは、撮像装置で撮影された面を含む領域の画像を取得する画像取得部171と、画像取得部171が取得した画像に基づいて、面の損傷度合を算出する算出部177と、を備える。
情報処理装置1Bは、画像取得部171が取得した画像を分割し、画像の一部分である部分画像を複数生成する部分画像生成部(部分画像抽出部175B)、をさらに備え、算出部177は、部分画像生成部(部分画像抽出部175B)が生成した部分画像の各々について、部分画像中の面の損傷度合を算出する。
情報処理装置1Bは、部分画像生成部(部分画像抽出部175B)が生成した部分画像の各々について、部分画像中の面の状態を判定する状態判定部1771、をさらに備え、算出部177は、部分画像中の面の状態に基づいて、部分画像中の面の損傷度合を算出する。
部分画像生成部(部分画像抽出部175B)は、画像取得部171が取得した画像内において、画像を分割し、分割された第1部分画像と、前記第1部分画像の頂点部分または辺部分を含む第2部分画像と、を生成する。
これにより、面の損傷を自動検出するとともに、定量的な評価ができるため、建造物の損傷の自動検出の際の利便性を向上させることができる。
【0071】
なお、状態判定部1771は、損傷種別に応じた損傷クラスを算出してもよい。具体的には、例えば、亀甲状ひび割れや複数本の線状ひび割れなどの面状ひび割れを、損傷クラス「1」、縦断ひび割れ、横断ひび割れなどの単数の線状ひび割れを、損傷クラス「0.6」、ひび割れなどの損傷がない損傷クラスを、損傷クラス「0」のように機械学習により領域ごとの損傷クラスを算出してもよい。この場合、第3の実施形態における判定スコアの値の代わりに、損傷クラスの値を用いて損傷度合を算出すればよい。
【0072】
なお、損傷度合がひび割れ率の一例について説明したが、損傷度合は、轍掘れ量であってもよい。また、損傷度合は、ひび割れ率や轍掘れ量の他、損傷区分であってもよい。
【0073】
<第4の実施形態>
第1の実施形態から第3の実施形態では、損傷度合を算出する場合の一例について説明した。
第4の実施形態では、損傷の種別を判定する場合の一例について説明する。ここで、第4の実施形態では、第1の実施形態、第2の実施形態、第3の実施形態、各変形例と異なる部分を中心に説明する。
ここで、路面を修繕するときには、路面の損傷の種別に応じて、修繕に係る作業工程、作業日数、費用等が変わる。そのため、路面の損傷の種別が検出できれば、すなわち、路面の状態を評価できれば、これらの見積りが可能となり、ユーザの利便性を向上させることができる。
【0074】
なお、以下の説明では、第1の実施形態、第2の実施形態、第3の実施形態、各変形例で説明した内容、またはこれらの一部または全部を組み合わせて、状態判定部1771が路面の領域ごとの判定スコアの値、損傷クラスの値、損傷有無情報のいずれかを損傷スコアとして算出した場合の一例について説明する。
また、第1の実施形態、第2の実施形態、第3の実施形態、各変形例で説明した内容、またはこれらの一部または全部を組み合わせて、度合算出部1773が算出した損傷度合を、損傷スコアとして用いてもよい。この場合、損傷度合を算出した所定区間の路面を、1つの路面の領域として扱ってもよいし、所定区間を短い区間として該短い所定区間の路面を1つの路面の領域として扱ってもよい。
【0075】
第4の実施形態では、複数の路面の領域と、それぞれの領域における損傷スコアとの分布に基づいて、路面の損傷の種別を判定する。路面の損傷の種別は、例えば、縦断ひび割れ、横断ひび割れ、亀甲状ひび割れ、縦断ひび割れかつ轍掘れ、施工継目、くぼみ、全体的にまばらに存在する損傷などである。
図15から
図22を参照して説明する。
【0076】
図15は、本発明の第4の実施形態に係る路面の損傷種別の一例を示す図である。
図16は、本発明の第4の実施形態に係る路面の損傷種別の他の一例を示す図である。
図17は、本発明の第4の実施形態に係る路面の損傷種別の他の一例を示す図である。
図18は、本発明の第4の実施形態に係る路面の損傷種別の他の一例を示す図である。
図19は、本発明の第4の実施形態に係る路面の損傷種別の他の一例を示す図である。
図20は、本発明の第4の実施形態に係る路面の損傷種別の他の一例を示す図である。
図21は、本発明の第4の実施形態に係る路面の損傷種別の他の一例を示す図である。
図22は、本発明の第4の実施形態に係る路面の損傷種別の他の一例を示す図である。
ここで、各図は、路面の一部を表したものであり、各図におけるマス目、すなわち路面の領域数が多い方向が走行方向、路面の領域数が少ない方向が幅員方向である。
【0077】
図15に図示する例は、縦断ひび割れである。図示する実線は、ひび割れを表し、ハッチで示す複数の領域に渡ってひび割れが縦断している。
図16に図示する例は、横断ひび割れである。図示する実線は、ひび割れを表し、ハッチで示す複数の領域に渡ってひび割れが横断している。
図17に図示する例は、亀甲状ひび割れである。図示する実線は、ひび割れを表し、ハッチで示す複数の領域に渡ってひび割れが縦横格子状、すなわち亀甲状に発生している。
図18に図示する例は、縦断ひび割れかつ轍掘れである。図示する実線は、ひび割れを表し、ハッチで示す複数の領域に渡ってひび割れが複数本縦断し、また、複数本縦断するひび割れが略平行に発生している。
図19に図示する例は、施工継ぎ目である。図示する実線は、施工によって生じた継ぎ目を表し、ハッチで示す複数の領域に渡って、例えば縦断ひび割れよりも多くの領域に渡って継ぎ目が発生している。
【0078】
図20に図示する例は、くぼみである。図示する実線は、ひび割れを表し、ハッチで示す複数の領域に渡って口の字状にひび割れが発生している。
図21に図示する例は、全体にまばらに存在する損傷である。図示する実線は、ひび割れなどの損傷を表し、ハッチで示す複数の領域でかつ所定区間にまばらに発生している。
図22に図示する例は、亀甲状ひび割れである。図示する実線は、ひび割れを表し、ハッチで示す複数の領域に渡ってひび割れが縦横格子状、すなわち亀甲状に発生している。ここで、
図22に示す2種のハッチは、損傷スコアが第1所定値以上第2所定値未満である領域と、第2所定値以上である領域である。ハッチ中央部分は、損傷スコアが高い領域、すなわち損傷スコアが第2所定値以上である領域である。
図22に図示する例の場合、損傷スコアとして判定スコアの値、または損傷クラスの値を用いればよい。
【0079】
情報処理装置1Cは、
図18から
図22に示すような路面の損傷の種別を、路面の領域ごとの損傷スコアおよび損傷スコアが所定値以上である領域の分布に応じて分類判定する。
【0080】
図23は、本発明の第4の実施形態に係る情報処理装置1Cの構成の一例を示す概略ブロック図である。
情報処理装置1Cは、入力部10と、通信部13と、記憶部15と、制御部17と出力部19と、を含んで構成される。制御部17は、損傷スコア算出部177Cと、分類部179と、を含んで構成される。分類部179は、統合部1791と、分類判定部1793と、を含んで構成される。
【0081】
損傷スコア算出部177Cは、上述した情報処理装置1、1A、1Bの制御部17の一部または全部の機能を有し、第1の実施形態、第2の実施形態、第3の実施形態、各変形例で説明した内容、またはこれらの一部または全部を組み合わせて、損傷スコアを算出する。具体的な説明は、上述した各実施形態、各変形例の説明を援用し、記載を省略する。
損傷スコア算出部177Cは、算出した損傷スコアと、該損傷スコアに対応する路面の領域の情報とを、分類部179に出力する。
【0082】
分類部179は、各メッシュの損傷スコアの分布に応じて路面の損傷種別を分類する。具体的には、統合部1791は、メッシュ毎の損傷スコアを算出する。
【0083】
分類判定部1793は、所定区間における領域ごとの損傷スコアの分布と既知の損傷種別毎の損傷の分布を比較して損傷の種別を判定する。具体的には、分類判定部1793は、例えば、所定値以上の損傷スコアの領域が所定数、例えば3つ以上縦方向に連続して分布する場合、縦断ひび割れと判定する。また、分類判定部1793は、例えば、所定値以上の損傷スコアの領域が所定数、例えば3つ以上横方向に連続して分布する場合、横断ひび割れと判定する。また、分類判定部1793は、例えば、所定値以上の損傷スコアの領域が所定数、例えば2つ以上、縦方向に連続し、かつ所定値以上の損傷スコアの領域が所定数、例えば2つ以上、横方向に連続して分布する場合、亀甲状ひび割れと判定する。
【0084】
また、分類判定部1793は、例えば、複数の縦断ひび割れが平行して分布する場合、縦断ひび割れかつ轍掘れと判定する。また、分類判定部1793は、例えば、所定値以上の損傷スコアの領域が所定数、例えば6つ以上縦方向に連続して分布する場合、施工継ぎ目と判定する。また、分類判定部1793は、例えば、所定値以上の損傷スコアの領域が所定数、例えば2つ以上、縦方向に連続し、かつ所定値以上の損傷スコアの領域が所定数、例えば2つ以上、横方向に連続して分布し、口の字状に分布する場合、くぼみと判定する。また、分類判定部1793は、例えば、所定値以上の損傷スコアの領域が所定数、まばらに分布する場合、全体的にまばらに存在する損傷と判定する。
【0085】
このように、分類判定部1793は、所定区間における損傷スコアの領域の分布に応じて路面の損傷の種別を判定する。分類判定部1793は、判定結果を出力部19に出力する。
【0086】
なお、分類判定部1793が損傷の種別の判定に用いる所定値は、同じ値であってもよいし、それぞれ異なる値であってもよい。
なお、統合部1791は、各領域の情報に含まれる領域の位置情報に応じて、判定対象の路面の位置と領域とを対応付けを行わなくてもよい。すなわち、統合部1791は、位置情報を用いなくてもよい。この場合、分類部179として統合部1791、分類判定部1793の処理を行えばよい。例えば、分類部179は、路面の領域の情報に含まれる各領域の情報と、各領域の損傷スコアとを統合し、路面の各領域と各損傷スコアとを対応付けて、上述の分類判定部1793の処理を行えばよい。
【0087】
図24は、本発明の第4の実施形態に係る損傷種別判定処理の一例を示すフローチャートである。
ステップS601において、損傷スコア算出部177Cは、上述した情報処理装置1、1A、1Bの制御部17の一部または全部の機能を有し、第1の実施形態、第2の実施形態、第3の実施形態、各変形例で説明した内容、またはこれらの一部または全部を組み合わせて、損傷スコアを算出する。
ステップS603において、分類部179は、路面の領域の情報に含まれる各領域の情報と、各領域の損傷スコアとを統合する。
ステップS605において、分類部179は、所定区間における領域ごとの損傷スコアの分布に応じて複数の路面の損傷種別のうちのいずれの損傷の種別であるかを判定する。また、分布による判定は、上述したように既知の分布に基づくルールベースで行っても良いし、分布の教師データに基づく深層学習で行っても良い。
【0088】
このように、第4の実施形態によれば、情報処理装置1Cは、撮像装置で撮像された面を含む領域の画像を取得する画像取得部171と、画像取得部171が取得した画像に基づいて、面の損傷度合を算出する算出部177と、算出部177が算出した損傷度合に応じて面の損傷種別を判定する種別判定部(分類判定部1793)と、を備える。
また、情報処理装置1Cは、画像取得部171が取得した画像を分割し、画像の一部分である部分画像を複数生成する部分画像生成部(部分画像抽出部175B)、をさらに備え、種別判定部(分類判定部1793)は、部分画像生成部(部分画像抽出部175B)が抽出した部分画像中の面の損傷度合に基づいて、面の前記損傷種別を判定する。
【0089】
また、種別判定部(分類判定部1793)は、損傷度合が所定値以上である部分画像の分布に基づいて、面の前記損傷種別を判定する。
また、種別判定部(分類判定部1793)は、1つの画像から生成された複数の部分画像の各々の中の面の損傷度合を統合して、面の損傷種別を判定する。
また、種別判定部(分類判定部1793)は、画像取得部171が取得した連続する複数の画像のそれぞれの前記画像中の面の損傷度合に基づいて、面の損傷種別を判定する。
また、種別判定部(分類判定部1793)は、損傷度合が所定値以上である複数の画像の分布に基づいて、面の前記損傷種別を判定する。
また、種別判定部(分類判定部1793)は、連続する複数の画像におけるぞれぞれの画像中の面の損傷度合を統合して、面の損傷種別を判定する。
また、算出部177は、深層学習により損傷度合を算出する。
【0090】
これにより、いずれの損傷であるかを分類することができるため、ユーザの利便性を向上させることができる。
【0091】
なお、上記各実施形態、各変形例において、位置情報と、路面の損傷種別または/および路面の損傷度合とを対応付けて、例えば地図上に出力してもよいし、位置情報と、路面の損傷種別または/および路面の損傷度合とを対応付けて、リストで出力してもよい。
【0092】
なお、上記各実施形態、各変形例において、判定スコアの値に、判定クラスの値を重みとして乗算させて、損傷スコアとして用いたり、損傷度合を算出したりしてもよい。
【0093】
なお、上記各実施形態、各変形例において、損傷度合として轍掘れ量を用いる場合は、轍掘れの深さを深層学習によって算出してもよい。
【0094】
なお、各実施形態、各変形例について説明したが、一例であってこれらに限られず、例えば、各実施形態や各変形例のうちのいずれかや、各実施形態の一部や各変形例の一部を、他の1または複数の実施形態や他の1または複数の変形例と組み合わせて本発明の一態様を実現させてもよい。
【0095】
なお、本実施形態における情報処理装置1の各処理を実行するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、当該記録媒体に記録されたプログラムを、コンピュータシステムに読み込ませ、実行することにより、情報処理装置1に係る上述した種々の処理を行ってもよい。
【0096】
なお、ここでいう「コンピュータシステム」とは、OSや周辺機器などのハードウェアを含むものであってもよい。また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリなどの書き込み可能な不揮発性メモリ、CD−ROMなどの可搬媒体、コンピュータシステムに内蔵されるハードディスクなどの記憶装置のことをいう。
【0097】
さらに「コンピュータ読み取り可能な記録媒体」とは、インターネットなどのネットワークや電話回線などの通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、このプログラムを記憶装置などに格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。
【0098】
ここで、プログラムを伝送する「伝送媒体」は、インターネットなどのネットワーク(通信網)や電話回線などの通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
【0099】
以上、本発明の実施形態について図面を参照して詳述したが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計なども含まれる。