(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0010】
以下、本発明の一実施形態について、図面を参照して説明する。
[第1の実施形態]
〔不具合解析システム1の概要〕
本発明の第1の実施形態について説明する。
図1は、不具合解析システム1の概要を示す図である。
本実施形態に係る不具合解析システム1は、建造物の表面の状態を解析するシステムである。以下では、一例として、不具合解析システム1が建造物の表面に現れた視認可能な不具合を解析する場合について説明する。
建造物とは、例えば、道路、橋梁、施設等であり、社会インフラを含む。
表面とは、建造物の外部又は内部の表面である。つまり、建造物の表面とは、例えば、道路の路面や橋梁、施設の上面、側面、下面である。
視認可能な不具合とは、物理的な凹凸、色彩の変化等である。
【0011】
以下では、一例として、路面に現れた不具合(以下、「路面不具合」と称する。)を解析する場合について説明する。
路面不具合には、例えば、轍、ポットホール、ひび割れ(クラック)、段差がある。
図2から
図6は、路面不具合を撮像した画像の例を示す図である。
図2に示す画像P1は、轍D1の例を示す。
図3に示す画像P2は、ポットホールD2の例を示す。
図4に示す画像P3は、ひび割れD3の例を示す。
図5に示す画像P4は、段差D4の例を示す。なお、不具合解析システム1は、路面不具合以外にも、パッチング等の路面の状態を解析してよい。
図6に示す画像P5は、パッチングD5の例を示す。
【0012】
次に、不具合解析システム1を用いた路面不具合の解析の概要について説明する。
まず、ユーザは、撮像部11を備える車両10に運転して、路面不具合を解析する道路を走行する。撮像部11は、路面を撮像可能に車両10に設置されている。そして、撮像部11は、車両10の走行に応じて移り変わる路面を随時撮像する。以下では、路面の画像を「路面画像」と称する。また、ユーザは、路面画像の撮像中、車両10の位置を随時計測する。以下では、測位結果を示す情報(データ)を「測位情報」と称する。
【0013】
次に、不具合解析システム1は、路面画像を示す情報(以下、「路面画像情報」と称する。)とを、不具合解析用人工知能を用いて解析する。不具合解析用人工知能は、例えば、多層パーセプトロン(多層ニューラルネットワーク)を備える。不具合解析用人工知能には、路面不具合等の解析対象を撮像した教示画像(例えば、画像P1〜P5)により深層学習(ディープラーニング)が予め行われている。不具合解析用人工知能には、従来の人工知能で用いられてきた任意の技術やフレームワーク等を適用してよい。深層学習により、不具合解析システム1は、路面画像に写り込んだ路面不具合を、不具合解析用人工知能を用いることにより検出することができる。また、不具合解析システム1は、路面不具合が検出された路面画像の撮像時の測位結果を特定することにより、不具合が存在する場所を特定することができる。
【0014】
不具合解析システム1は、路面画像情報の解析の結果、検出された路面不具合と路面不具合の位置とを対応付けて出力する。不具合解析システム1は、例えば、地図上に路面不具合の場所を示すとともに、路面不具合の種類を対応付けて示す。解析結果は、ユーザにより編集可能としてよい。
このように、不具合解析システム1は、深層学習した人工知能を用いて、画像中に写り込んだ不具合を検出する。深層学習は、適切な教示情報により学習が行われれば、高い認識精度が得られるという特性がある。そのため、不具合解析システム1は、撮像した範囲については、建造物の不具合を網羅的に検出することができる。
【0015】
また、不具合解析システム1は、例えば、従来の路面性状測定車のようにレーザー照射器、電子ストリーク撮像装置、加速度センサ等の特別な測定機器を備えなくてもよい。従って、不具合解析システム1は、安価に精度よく建造物の不具合を検出することができる。なお、不具合解析システム1は、レーザー照射器、電子ストリーク撮像装置、加速度センサ等を備えてもよい。
以上が、不具合解析システム1の概要についての説明である。
【0016】
〔不具合解析システム1の構成〕
次に、不具合解析システム1の構成について説明する。
図7は、不具合解析システム1の構成を示すブロック図である。
不具合解析システム1は、車両10と、不具合解析装置30と、不具合情報管理装置50と、台帳情報管理装置70と、地図情報管理装置90と、を備える。車両10には、撮像部11と、測位部12と、情報端末装置13とが搭載されている。情報端末装置13と、不具合解析装置30と、不具合情報管理装置50と、台帳情報管理装置70と、地図情報管理装置90とは、それぞれ、ネットワークNWに接続し、互いに通信を行うことができる。
【0017】
車両10は、路面を撮像可能に移動する移動体である。例えば、車両10は、自動車、自転車、電車等であり、建造物上を移動する移動体である。なお、車両10のような建造物に接触しながら移動する移動体の代わりに、ラジオコントロールヘリコプター、ドローン等の建造物に接触しない移動体を用いてもよい。
【0018】
撮像部11は、路面を撮像して路面画像情報を生成する。撮像部11は、動画像(映像)を撮像してもよいし、静止画像を連続して撮像してもよい。ここでは、一例として、動画像のフレームレート、或いは、静止画像の撮像間隔が一定である場合について説明する。撮像部11が生成した路面画像情報は、記憶媒体を介して他の装置に出力可能としてもよいし、ネットワークを介して他の装置に送信可能としてもよい。撮像部11は、車両10の車内に設置されてもよい。このような場合には、撮像部11は、車両10のフロントガラスやリアガラス越しに路面を撮像することがある。ガラスによる反射が路面画像に写り込むことを抑制するため、撮像部11のレンズに偏光フィルタを取り付けてよい。
【0019】
測位部12は、測位を行う。測位部12は、例えば、GPS(Global Positioning System)センサである。測位部12は、静止衛星型衛星航法補強システム、ODB2(On−board diagnostics 2)等の速度センサ、加速度センサ等を用いて測位を行ってもよい。測位部12は、所定の時間間隔で測位を行ってもよいし、撮像部11による路面画像の取得と同期して測位を行ってもよい。撮像部11による路面画像の取得と同期していない場合には、測位の開始と撮像の開始とを合致させておく。そして、撮像のタイミングと測位のタイミングとのずれは、2つの測位点の移動を、その間の路面画像の数で除算して、各路面画像に対応する位置を特定してよい。
【0020】
情報端末装置13は、例えば、カーナビゲーション端末等の車載端末、スマートフォン、タブレット端末、PDA(Personal Digital Assistant)端末、パーソナルコンピュータ、ウェアラブル端末等のコンピュータシステムを備える電子機器である。情報端末装置13は、ネットワークNWに接続する他の装置から情報を受信して、受信した情報の内容を表示したり、音声出力したりする。例えば、情報端末装置13は、路面不具合の解析結果を示す情報を受信して、解析結果を表示する。また、情報端末装置13は、タッチパネル、機械式ボタン、キーボード、マイク等の入力部を備えてよい。この場合、入力部が、ユーザから受け付けたユーザ入力情報の内容を、ネットワークNWに接続する他の装置に送信してもよい。
【0021】
なお、撮像部11、測位部12、情報端末装置13は、一体の装置であってもよいし、別体の装置であってもよい。例えば、路面画像の撮像と、GPSによる測位と、路面不具合の解析結果の表示との全てを1台のスマートフォンが行ってもよい。また、撮像部11、測位部12、情報端末装置13は、音声入力により操作されてもよい。これにより、車両10の走行中であっても、車両10の運転手が1人で各種装置を操作することができる。また、撮像部11、測位部12、情報端末装置13は、ネットワークNWを介して遠隔操作されてもよいし、赤外線等の近距離無線通信を介して操作されてもよい。
【0022】
不具合解析装置30は、路面画像から路面不具合を解析する装置である。不具合情報管理装置50は、例えば、パーソナルコンピュータ、サーバ装置等のコンピュータシステムを備える電子機器である。不具合解析装置30には、不具合解析用人工知能が実装されている。
【0023】
不具合情報管理装置50は、不具合情報を管理する装置である。ここで、「情報の管理」とは、情報を、新規に書き込んだり、編集したり、削除したり、読み出したり、受信したり、送信したりすることをいう。不具合情報管理装置50は、例えば、サーバ装置等のコンピュータシステムを備える電子機器である。
不具合情報とは、路面不具合の内容、路面不具合の場所等の路面不具合に関する情報である。つまり、不具合情報とは、面の状態を示す情報の一例である。不具合情報には、路面不具合が存在していないことが記述されてもよい。
【0024】
不具合情報管理装置50は、第1種不具合情報記憶部51と、第2種不具合情報記憶部52と、を備える。第1種不具合情報記憶部51は、第1種不具合情報を記憶する。第2種不具合情報記憶部52は、第2種不具合情報を記憶する。
第1種不具合情報とは、人手により確認された路面不具合に関する情報である。第1種不具合情報は、不具合解析用人工知能の機械学習に用いられる。
第2種不具合情報とは、不具合解析用人工知能により検出された路面不具合に関する情報である。つまり、第2種不具合情報とは、不具合解析装置30による解析結果を示す情報である。
【0025】
台帳情報管理装置70は、道路台帳情報を管理する装置である。台帳情報管理装置70は、例えば、サーバ装置等のコンピュータシステムを備える電子機器である。台帳情報管理装置70は、道路台帳情報を記憶する台帳情報記憶部71を備える。
地図情報管理装置90は、地図情報を管理する装置である。台帳情報管理装置70は、例えば、サーバ装置等のコンピュータシステムを備える電子機器である。地図情報管理装置90は、地図情報を記憶する地図情報記憶部91を備える。地図情報とは、建造物の名称、座標、住所、範囲等を含む情報であり、地図の生成に用いられる情報である。
以上が、不具合解析システム1の構成についての説明である。
【0026】
〔情報のデータ構成〕
次に、不具合解析システム1が処理する情報のデータ構成について説明する。
まず、路面画像情報について説明する。ここでは、一例として、路面画像情報が動画像である場合について説明する。
図8は、路面画像情報のデータ構成を示す図である。
図8に示す例では、路面画像情報は、フレーム番号情報(
図8の「フレーム番号」)と、フレーム時間情報(
図8の「フレーム時間」)と、フレーム画像情報(
図8における「フレーム画像」)と、を含み、これらを対応付けて構成される。
フレーム番号情報とは、路面画像の動画像を構成する各フレームの識別情報である。フレーム番号情報は、例えば、動画像の開始から終了までの各フレームに対して昇順に割当てられた番号である。
【0027】
フレーム時間情報とは、動画像の再生を行う場合に、各フレームを表示するタイミングを示す情報である。
フレーム画像情報とは、各フレームの画像を示す情報である。フレーム画像は、エンコードされていてもよい。
以上が、路面画像情報のデータ構成についての説明である。
【0028】
次に、測位情報について説明する。
図9は、測位情報のデータ構成を示す図である。
図9に示す例では、測位情報は、タイムスタンプ情報(
図9の「タイムスタンプ」)と、測位座標情報(
図9の「座標」)とを含み、これらを対応付けて構成される。
タイムスタンプ情報とは、測位を行った時刻を示す情報である。
測位座標情報とは、測位の結果、特定された位置を示す情報である。
以上が、測位情報のデータ構成についての説明である。
【0029】
次に、不具合情報について説明する。
図10は、不具合情報のデータ構成を示す図である。
図10に示す例では、不具合情報は、路面不具合ID(
図10の「路面不具合ID」)と、住所情報(
図10の「住所」)と、不具合座標情報(
図10の「座標」)と、路面不具合種別情報(
図10の「路面不具合種別」)と、不具合画像情報(
図10の「画像」)と、を含み、これらを互いに対応付けて構成される。
【0030】
路面不具合ID(Identifier)とは、不具合解析装置30により検出された、又は、人手により確認された路面不具合を個別に識別する識別情報である。
住所情報とは、路面不具合が存在する場所の住所を示す情報である。
不具合座標情報とは、路面不具合が存在する場所の座標を示す情報である。
路面不具合種別情報とは、路面不具合の種別を示す情報である。
不具合画像情報とは、路面不具合を撮像した画像を示す情報である。
以上が、不具合情報のデータ構成についての説明である。
【0031】
次に、台帳情報について説明する。
図11は、台帳情報のデータ構成を示す図である。
図11に示す例では、台帳情報は、路線番号情報(
図11の「路線番号」)と、道路種別情報(
図11の「道路種別」)と、路線名称情報(
図11の「路線名称」)と、区間番号情報(
図11の「区間番号」)と、改良区分情報(
図11の「改良区分」)と、路面種別情報(
図11の「路面種別」)と、全幅員情報(
図11の「全幅員」)と、道路幅員情報(
図11の「道路幅員」)と、を含み、これらを対応付けて構成される。
【0032】
路線番号情報とは、道路の路線を識別する識別情報である。
道路種別情報とは、道路の種別を示す情報である。
路線名称情報とは、道路の路線の名称を示す情報である。
区間番号情報とは、路線における道路の区間を示す情報である。
改良区分情報とは、道路の改良区分を示す情報である。
路面種別情報とは、道路の路線の種別を示す情報である。
全幅員情報とは、道路の全幅員を示す情報である。
道路幅員情報とは、道路の幅員を示す情報である。
以上が、台帳情報のデータ構成についての説明である。
【0033】
〔不具合解析装置30の構成〕
次に、不具合解析装置30の構成について説明する。
図12は、不具合解析装置30の構成を示すブロック図である。
図12に示す例において、不具合解析装置30は、入力部31と、表示部32と、音声再生部33と、通信部34と、記憶部35と、制御部360と、を備える。
入力部31は、不具合解析装置30のユーザから、各種情報の入力を受け付ける。入力部31は、例えば、マウス、タッチパッド等のポインティングデバイス、キーボード等を備える。
表示部32は、テキストや画像等の各種情報を表示する。表示部32は、例えば、有機EL(Electro−Luminscence)ディスプレイパネルや液晶ディスプレイパネル等を備える。不具合解析装置30による路面不具合の解析結果を表示する。
音声再生部33は、音声を再生する。音声再生部33は、例えば、スピーカ、アンプ等である。
通信部34は、他の装置と情報を送受信する。通信部34は、例えば、通信用IC(Integrated Circuit)や通信用ポート等を備える。
記憶部35は、各種情報を記憶する。記憶部35は、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)等を備える。また、記憶部35は、HDD(Hard Disc Drive)、EEPROM(Electrically Erasable Programmable Read Only Memory)、フラッシュメモリ等を備えてもよい。記憶部35は、不具合解析装置30が備えるCPU(Central Processing Unit、不図示)やGPU(Graphics Processing Unit、不図示)が実行するための各種プログラムやCPUやGPUが実行した処理の結果などを記憶する。また、記憶部35は、学習結果記憶部351を備える。
学習結果記憶部351は、不具合解析装置30が備える不具合解析用人工知能の学習結果を記憶する。学習結果とは、例えば、ニューラルネットワークのネットワークの状態を示す情報である。ニューラルネットワークのネットワークの状態を示す情報とは、例えば、ニューラルネットワークを構成する各ノード(ユニット)に係る活性化関数のパラメータの値を示す情報等である。
【0034】
制御部360は、例えば、記憶部35に予め記憶されたプログラムを、不具合解析装置30が備えるCPUやGPUが実行することにより実現される。なお、制御部360の一部又は全部は、LSI(Large Scale Integration)やASIC(Application Specific Integrated Circuit)等のハードウェアの集積回路として実現されてもよい。制御部360は、情報取得部(画像取得部)361と、画像変換部362と、解析部365と、結果生成部368と、結果編集部369と、を備える。
【0035】
情報取得部361は、入力部31や通信部34を介して、路面不具合の解析に必要な各種情報を取得する。情報取得部361は、例えば、路面画像情報、測位情報を記憶媒体から読み出す。また、情報取得部361は、例えば、路面画像情報、測位情報、ユーザ入力情報を、情報端末装置13から取得する。また、情報取得部361は、例えば、不具合情報を、不具合情報管理装置50から取得する。また、情報取得部361は、例えば、台帳情報を、台帳情報管理装置70から取得する。情報取得部361は、取得した各種情報を、画像変換部362、解析部365、結果編集部369に出力する。
【0036】
画像変換部362は、情報取得部361から路面画像情報と測位情報と取得する。画像変換部362は、取得した路面画像情報を変換する。また、画像変換部362は、路面画像情報のフレーム時間情報と、測位情報のタイムスタンプとに基づいて、路面画像の各フレームと、測位座標情報とを対応付ける。なお、画像変換部362は、例えば、路面画像がエンコードされた動画像である場合には、各フレームを静止画像に変換してよい。また、画像変換部362は、画像抽出部363と、領域抽出部(部分画像生成部)364と、を備える。
【0037】
画像抽出部363は、画像抽出処理を実行する。
画像抽出処理とは、路面画像情報から、路面不具合の有無を解析する対象の画像(以下、「検査画像」と称する。)を抽出する処理である。換言すると、画像抽出処理とは、撮像部11が撮像した一連の画像から、検査画像を特定したり、抽出したり、抜き出したり、絞り込んだりする処理である。また、画像抽出処理とは、撮像部11が撮像した一連の画像から、路面不具合の有無を解析しない画像を特定したり、抽出したり、抜き出したり、間引いたりする処理である。
【0038】
画像変換部362は、測位情報に基づいて、撮像範囲の時間的な重複が必要十分になるように検査画像を抽出する。例えば、路面画像情報の各フレームの撮像間隔が短く、車両10の移動速度が小さい場合には、複数のフレームに渡って、路面の同じ部分が繰り返し撮像されることになる。このように時間的に重複したフレームのそれぞれについて、路面不具合の有無を解析すると、路面不具合の検出漏れを低減することできるが、解析に要する負荷が増大してしまう。
【0039】
そこで、画像抽出部363は、測位情報に基づき、複数のフレームの検査領域において、路面の同じ部分が所定の頻度で含まれるように検査画像を抽出する。検査領域とは、例えば、画像内において、路面不具合の有無を解析する対象の領域である。検査画像の抽出において、路面の同じ部分が含まれる頻度は、測位部12の測位精度や不具合解析用人工知能の認識精度に基づいて決定されてよい。例えば、測位精度や認識精度が高い場合には、頻度を低くしてよいし、測位精度や認識精度が低い場合には、頻度を高くしてよい。
【0040】
このように検査画像を抽出することにより、不具合解析装置30は、路面不具合の認識精度を保ちつつ、解析に要する負荷を低減することができる。また、不具合解析装置30は、検査画像を連続して表示した場合には、一定距離ごと、すなわち、一定の速度で車両10を走らせながら路面画像を撮像したように表示することができる。従って、不具合解析装置30は、路面画像の撮像後に、路面画像に写った路面不具合を目視で確認する場合であっても、確認しやすくすることができる。
画像抽出部363は、画像抽出処理により抽出した検査画像の情報を、領域抽出部364に出力する。
【0041】
領域抽出部364は、画像抽出部363から検出画像の情報を取得する。領域抽出部364は、検出画像に対して、領域抽出処理を実行する。
領域抽出処理とは、検査画像から、検査領域を抽出する処理である。換言すると、領域抽出処理とは、検査画像から検査領域を、特定したり、抽出したり、抜き出したり、絞り込んだり、生成したり、検査画像を分割したりする処理である。また、領域抽出処理とは、検査画像から、路面不具合の有無を解析しない領域を特定したり、抽出したり、抜き出したり、間引いたりする処理である。検査画像には、路面以外の物体が写り込む場合がある。例えば、検査画像には、道路脇の家屋や道路上の他の車両等が写り込むことがある。これら路面以外の物体についても路面不具合を解析すると、路面以外の物体について路面不具合であると誤認識してしまい、認識精度が低下する可能性がある。特に、路面以外の物体についての機械学習が不十分である場合には、このような誤認識が起こりやすい。また、これら路面以外の物体についても路面不具合を解析すると、路面不具合の解析に要する負荷が増大してしまう。
【0042】
そこで、領域抽出処理では、検査画像から検査領域として、路面の領域を抽出する。また、領域抽出処理では、路面外の領域を除外してもよい。また、領域抽出処理では、1つの画像から互いに重複する複数の領域を抽出してもよい。複数の領域が重複する場合は、ある領域の頂点部分や辺部分が他の領域に含まれる。
領域抽出部364は、領域抽出処理により抽出した検査領域の情報を、解析部365に出力する。また、領域抽出部364は、検査領域の各々の検査画像における位置を示す情報を、解析部365に出力する。
【0043】
解析部365は、不具合解析用人工知能として実装される。解析部365は、学習部366と、認識部367と、を備える。
学習部366は、不具合情報管理装置50が管理する第1種不具合情報を用いて機械学習を実行する。学習部366は、第1種不具合情報の他、路面画像に写り込む可能性がある路面不具合以外の物体を写した画像により強化学習を行ってもよい。例えば、マンホールの画像や側溝を写した画像等により強化学習を行ってもよい。これにより、不具合解析用人工知能は、路面不具合以外の物体を識別することができるため、路面不具合以外の物体を、路面不具合であると誤認識しにくくなる。従って、路面不具合の認識精度を向上させることができる。
【0044】
認識部(状態判定部)367は、領域抽出部364から取得した検査領域の情報に基づいて、各検査領域における路面不具合の有無を解析する。つまり、認識部367は、各検査領域における路面の状態を判定する。認識部367は、各検査領域で検出された路面不具合の各々を1つの路面不具合として判定してもよいし、隣接する複数の検査領域で検出された路面不具合をまとめて1つの路面不具合として判定してもよい。また、認識部367は、各検査画像で検出された路面不具合の各々を1つの路面不具合として判定してもよいし、連続する検査画像で検出された路面不具合をまとめて1つの路面不具合として判定してもよい。このように、認識部367は、複数の検査領域や複数の検査画像の判定結果を統合して判定してもよい。
【0045】
また、認識部367は、路面不具合が検出された検査画像に対応する測位情報を特定することで、路面不具合の位置を特定することができる。また、認識部367は、検査領域の検査画像における位置を示す情報を、領域抽出部364から取得することにより、路面不具合の位置をさらに正確に特定することができる。また、不具合解析装置30は、加速度の変化に基づく路面の凹凸の検出結果や他の画像解析プログラムによる路面不具合の解析結果等の他の手法を用いた路面不具合の解析結果と組み合わせて、路面不具合の有無を解析してもよい。
【0046】
認識部367は、解析結果を不具合情報管理装置50に送信する。これにより、解析結果が第2種不具合情報として、不具合情報管理装置50に記憶される。解析結果は、例えば、路面不具合が検出された検査画像、検査領域、路面不具合の種別、判定スコア(確信度)等を含む。解析部365は、判定スコアの値、前後の路面画像における路面不具合の解析結果、同じ路面画像の複数の検査領域における路面不具合の解析結果等を参照して、路面不具合の度合いや発生範囲を特定することができる。解析部365は、例えば、路面不具合の種別の候補が複数ある場合には、判定スコアの最も高い種別を設定してもよいし、その全てを設定してもよい。
【0047】
また、解析部365は、重複した検査領域において、判定結果が別れた場合には、そのいずれを採用してもよい。例えば、解析部365は、一方の検査領域で「路面不具合あり」と判定し、他方の検査領域で「路面不具合なし」と判定した場合には、OR処理を行って「路面不具合あり」と判定してもよいし、AND処理を行って「路面不具合なし」と判定してもよい。OR処理を行って「路面不具合あり」と判定する場合は、不具合解析装置30は、路面不具合の検出漏れを防ぐことができる。また、AND処理を行って「路面不具合なし」と判定する場合は、路面不具合の誤検出を抑制することができる。
【0048】
結果生成部368は、第1種不具合情報や第2種不具合情報(すなわち、解析部365による解析結果)を示すテキストや画像、音声等の提示情報を生成する。結果生成部368は、例えば、不具合情報を付加した動画や検査画像をフレーム番号順に再生する動画を生成する。結果生成部368が生成する提示情報の画面の具体例については、後述する。結果生成部368は、生成した提示情報を表示部32や音声再生部33を介して提示する。このとき、結果生成部368は、不具合情報管理装置50と、台帳情報管理装置70と、地図情報管理装置90とが管理する任意の情報を参照して、提示情報を生成してよい。
【0049】
結果編集部369は、ユーザからの指示に応じて不具合情報の編集を行う。例えば、結果編集部369は、不具合情報管理装置50に記憶された第2種不具合情報を、ユーザからの指示に応じて編集してもよい。また、例えば、結果編集部369は、不具合情報管理装置50に記憶された第2種不具合情報を、ユーザからの指示に応じて第1種不具合情報として記憶させてもよい。これにより、解析部365により検出された路面不具合の画像を、不具合人工知能の学習に利用することができる。なお、結果編集部369は、ユーザからの指示に代えて、他の路面不具合を検出するプログラムや、路面監視に用いる他のプログラムが出力する結果に応じて上記の処理を行ってもよい。
以上が、不具合解析装置30の構成についての説明である。
【0050】
〔不具合解析装置30の動作〕
次に、不具合解析装置30の動作について説明する。
図13は、不具合解析装置30による全体的な処理の流れを示すフローチャートである。
(ステップS100)情報取得部361は、路面画像情報と、測位情報とを取得する。その後、制御部360は、ステップS102に処理を進める。
(ステップS102)画像変換部362は、画像抽出処理を実行し、検査画像を抽出する。その後、制御部360は、ステップS104に処理を進める。
【0051】
(ステップS104)画像変換部362は、領域抽出処理を実行し、検査領域を抽出する。その後、制御部360は、ステップS106に処理を進める。
(ステップS106)解析部365は、各検査画像の各検査領域に含まれる路面不具合を解析する。解析部365は、解析結果を示す不具合情報を、第2種不具合情報として、不具合情報管理装置50に記憶させる。その後、制御部360は、ステップS108に処理を進める。
(ステップS108)結果生成部368は、不具合情報管理装置50が管理する不具合情報をユーザに提示するための提示情報を生成する。結果生成部368は、生成した提示情報を表示部32や音声再生部33に出力する。その後、制御部360は、
図13に示す処理を終了する。
なお、ステップS102、S104の処理は、省略可能である。
以上が、不具合解析装置30による全体的な処理の流れについての説明である。
【0052】
〔画像抽出処理〕
次に、不具合解析装置30による画像抽出処理について説明する。
ここでは、一例として、車両10の移動に応じて変化する一連の路面画像から、所定の設定距離の移動に対応する路面画像を抽出する場合について説明する。
図14は、不具合解析装置30による画像抽出処理の流れを示すフローチャートである。
(ステップS200)画像抽出部363は、フレームIDに基づいてフレーム(画像)を選択する。例えば、画像抽出部363は、フレームを未選択の場合には、最初のフレームを選択する。また、画像抽出部363は、既にフレームを選択している場合には、選択中のフレームの次のフレームを選択する。その後、制御部360は、ステップS202に処理を進める。
【0053】
(ステップS202)画像抽出部363は、選択中のフレームに対応する測位情報を参照し、1つ前のフレームに対応する測位結果からの移動距離を算出する。以下では、この移動距離を「画像間の距離」と称することがある。その後、制御部360は、ステップS204に処理を進める。
(ステップS204)画像抽出部363は、算出した移動距離を、移動距離合計に加算する。なお、移動距離合計は、画像抽出処理の開始時に初期化される。その後、制御部360は、ステップS206に処理を進める。
【0054】
(ステップS206)画像抽出部363は、移動距離合計と、所定の設定距離とを比較する。移動距離合計が設定距離に比して大きい場合(ステップS206;YES)、制御部360は、ステップS208に処理を進める。移動距離合計が設定距離に比して小さい場合(ステップS206;NO)、制御部360は、ステップS214に処理を進める。
【0055】
ここで、設定距離は、例えば、1つの検査画像における路面不具合の認識精度に応じて設定されてよい。例えば、1つの検査画像において、近傍だけでなく遠くに写る路面不具合を検出できる場合には、設定距離を大きくし、各検査画像に写る路面の重複を少なくしてよい。また、1つの検査画像において、遠くに写る路面不具合を検出できない場合には、設定距離を小さくし、各検査画像に写る路面の重複を多くしてよい。これにより、路面不具合の解析に要する負荷を低減しつつ、路面不具合の認識精度を維持することができる。
【0056】
(ステップS208)画像抽出部363は、移動距離合計を0に設定し、初期化する。その後、制御部360は、ステップS210に処理を進める。
(ステップS210)画像抽出部363は、選択中の画像と測位情報とを対応付ける。その後、制御部360は、ステップS212に処理を進める。
(ステップS212)画像抽出部363は、選択画像を検査画像として設定する。その後、制御部360は、ステップS214に処理を進める。
【0057】
(ステップS214)画像抽出部363は、次の画像の有無と、その画像に対応する測位結果の有無とを確認する。画像及び測位結果が存在する場合(ステップS214;YES)、制御部360、ステップS216に処理を進める。画像及び測位結果が存在しない場合(ステップS214;NO)、制御部360は、ステップS216に処理を進める。
(ステップS216)画像抽出部363は、検査画像と、検査画像に対応する測位情報とを記憶部35に記憶し、参照可能にする。その後、制御部360は、
図14に示す処理を終了する。
なお、検出画像は、例えば、10フレーム間隔等、設定距離に依らずに抽出されてもよい。また、
図14に示す処理では省略したが、測位情報は、車両10の速度情報等により補正されたものであってもよい。
以上が、画像抽出処理の説明である。
【0058】
〔領域抽出処理〕
次に、領域抽出処理について説明する。
図15は、検査画像の一例を示す図である。
図15に示す例において、撮像部11は、車両10の前方を撮像するように設置されている。この撮像部11によって撮像された検査画像P6には、3つのラインによって区切られた2車線の道路の路面が含まれている。また、検査画像P6には、縁石R4によって区切られた沿道が含まれている。
【0059】
ここで、検査画像P6において、車両10の下側には車道が位置し、車両10の上側の空間は開けている。撮像部11の撮像面に近い物体は大きく映るため、検査画像P6の下側(手前側)、すなわち車両10に近い路面は大きく写り、検査画像P6の中央部(奥行側)、すなわち車両10から遠い路面は小さく写る。つまり、検査画像P6の下側の路面は、現実には同じ面積であっても、より多い画素数で撮像される。そのため、同じ面積の路面不具合であっても、検査画像P6の下側と中央部とでは、下側に写る路面不具合の方が高い精度で認識することができる。また、検査画像P6の撮像において、車両10の近傍に他の車両が存在している場合であっても、検査画像P6の下側には、車両10のごく近傍が撮像されるため、中央部よりも確実に路面が写ることになる。また、車両10が右左折する場合、撮像範囲の変化量は、検査画像P6の中央部よりも下側の方が少ない。従って、車両10が右左折する場合には、検査画像P6の中央部では解析されない部分が生じうる。また、車両10は、基本的に車線の中央付近を走行するので、撮像部11が車両10の進行方向を撮像するように設定されている場合、検査画像P6の横方向においては、特に画像の端部に路面以外の沿道や路肩等が写り込みやすい。
【0060】
図16は、領域抽出処理の一例を示す図である。
図16に示す検査画像P7は、
図15に示す検査画像P6と同様に撮像された画像である。
図16に示す領域A1〜A10は、それぞれ、検査画像P7に設定された検査領域を示す。このように検査領域A1〜A10を設定することにより、各検査領域A1〜A10は、路面以外の物体を含みにくくなる。これにより、路面不具合以外の物体を、路面不具合であると誤認識してしまうことが少なくなるため、不具合解析装置30は、路面不具合の認識精度を向上させることができる。また、路面不具合の画像内の位置を特定することができる。また、検査画像P7に複数の路面不具合が写る場合であっても、各検査領域A1〜A10に個々の路面不具合のみを含みやすくなる。これにより、不具合解析装置30は、個々の路面不具合の種別を精度よく認識することができる。
【0061】
また、上記のように検査画像P7の下側と中央部とでは、下側に写る路面不具合の方が高い精度で認識できる。そのため、検査画像P7の縦方向については、中央部よりも下側に、より多くの検査領域を設定している。また、上記のように検査画像P7の縦方向では、中央側よりも下側に路面が写る。そして、上記のように検査画像P7の縦方向では、中央側よりも下側の方が右左折時の撮像範囲の変化が小さい。従って、下側により多くの検査領域を設定することにより、路面不具合を精度よく認識することができる。また、上記のように検査画像P7の横方向においては、画像の端部に路面以外の沿道等が写り込みやすい。そのため、検査画像P7の中央部の横方向においては、端部よりも中央近傍に、より多くの検査領域を設定している。また、検査領域A1〜A10は、その一部が互いに重複するように設定されている。これにより、路面不具合がある検査領域の境界や端部に含まれる場合であっても、その検査領域に重複して設定された検査領域において、路面不具合を中央近傍に含むことができる。従って、不具合解析装置30は、路面不具合の検出漏れを抑制し、認識精度を向上させることができる。
以上が、領域抽出処理についての説明である。
【0062】
〔不具合情報の提示〕
次に、不具合情報の提示について説明する。
不具合情報は、不具合解析装置30が提示してもよいし、情報端末装置13が提示してもよい。
図17は、不具合情報の提示画面の一例を示す図である。
図17に示す例において、画面O1は、複数の領域O2〜O4を含む。画面O1は、例えばウェブページ化され、任意の端末のウェブブラウザから参照可能である。
領域O2は、車両10の位置を示すマーカO21、路面不具合の位置を示すマーカO22、路面画像を取得した位置、すなわち車両10の走行経路O23を、地図上に表示した画像を提示する領域である。車両10のマーカO21、地図の縮尺、地図の範囲は、ユーザによる操作に応じて変更可能である。地図の範囲は、車両10のマーカO21の位置、路面不具合のマーカO22の位置、車両10の走行経路O23に応じて定められてもよい。
【0063】
また、路面不具合のマーカO22は、地図の縮尺や路面不具合の密集度に応じてまとめられてよい。例えば、不具合解析装置30は、1つの検査画像の複数の検査領域から検出された路面不具合、連続する複数の検査画像から検出された路面不具合等を1つのマーカO22にまとめてよい。まとめられたマーカO22は、ユーザからの選択に応じて個別に確認できるようにしてよい。また、路面不具合のマーカO22は、路面不具合の種別や度合い、発生範囲、第1種不具合情報か第2種不具合情報か等に応じて異なる表示態様(絵柄、色彩、形状、大きさ、透明度等)で示されてよい。
【0064】
領域O3は、路面画像を表示する領域である。領域O3は、画像抽出処理により抽出された検査画像を連続的に表示する。画像抽出処理において各画像間の重複の頻度を一定にしている場合には、領域O3で再生される動画像は、一定の走行速度で撮像されたように表現される。従って、ユーザは、効率よく路面不具合を確認することができる。
領域O4は、検出された路面不具合を含む路面画像のフレームを一覧表示する領域である。領域O4には、各フレームにおいて、路面不具合を検出した検査領域O41が表示される。
【0065】
領域O2〜O4の表示は、互いに連携していてよい。例えば、領域O2における車両10の位置O21において撮像された路面画像が、領域O3に表示されるようにしてよい。また、車両10の位置O21から所定距離に位置する路面不具合を含む路面画像が、領域O4に表示されるようにしてもよい。例えば、領域O2において、車両10のマーカO21の位置を変更することに応じて、領域O3の表示や領域O4の表示が切り替わるようにしてよい。
【0066】
また、提示画面O1には、上記以外の任意の情報が表示されてよい。不具合解析装置30は、例えば、路面不具合のマーカO22が選択された場合に、その路面不具合について、位置、路面不具合種別、撮像時刻、路線番号、道路工事履歴等の各種情報を表示してもよい。また、不具合解析装置30は、提示画面O1に路面不具合の総数や路面不具合の走行距離ごとの平均等の数値を表示してもよい。また、不具合解析装置30は、撮像時刻、天候、他の手法を用いた路面不具合の解析結果(加速度の変化に基づく路面の凹凸の検出結果、他の画像解析プログラムによる路面不具合の解析結果)等を表示してもよい。
【0067】
また、情報端末装置13、不具合解析装置30は、提示画面O1を介して、ユーザによる不具合情報の修正を受け付けてよい。例えば、ユーザにより路面不具合のマーカO22が選択された場合に、マーカO22の削除や路面不具合の種別の変更を受け付け可能としてよい。また、不具合解析装置30は、領域O3に表示されている路面画像と、当該路面画像内の領域とが選択された場合に、選択された領域及び路面画像と、その路面画像に対応する測位情報とに基づいて不具合情報を生成してもよい。そして、生成した不具合情報を、第1種不具合情報として、不具合情報管理装置50に記憶させてもよい。
以上が、不具合情報の提示についての説明である。
【0068】
〔第1の実施形態のまとめ〕
以上説明したように、不具合解析装置30は、面(例えば、路面)を撮像した画像について、当該面の状態を示す教示データ(例えば、第1種不具合情報)に基づいて、深層学習を行う学習部366と、面を含む領域が撮像された画像(例えば、路面画像)であって、撮像された位置を示す位置情報(例えば、測位情報)と対応付けられた画像を取得する情報取得部361と、前記学習部366の学習結果に基づいて、前記情報取得部361が取得した画像中の面の状態を判定する認識部367と、を備える。
これにより、不具合解析装置30は、撮像された面について、各場所の状態を網羅的に解析することができる。
【0069】
また、不具合解析装置30において、認識部367は、1つの画像から出力された複数の部分画像の各々の中の面の状態の判定結果を統合して、当該面の状態を判定する。
これにより、不具合解析装置30は、面の各場所の状態を、周囲の状態を参照して判定する。従って、不具合解析装置30は、面の状態の判定精度を向上させることができる。
【0070】
また、不具合解析装置30において、認識部367は、情報取得部361が取得する、続けて撮像された複数の画像の各々の中の面の状態の判定結果を統合して、当該面の状態を判定する。
これにより、不具合解析装置30は、面の各場所の状態を、周囲の状態を参照して判定する。従って、不具合解析装置30は、面の状態の判定精度を向上させることができる。
【0071】
また、不具合解析装置30において、例えば、教示データ(例えば、第1種不具合情報)は、前記認識部367による判定結果を、ユーザからの入力又は他の装置による判定結果に基づいて確定させたデータである。
これにより、不具合解析装置30の判定結果の正当性をユーザが確認した場合、判定に用いられた画像を深層学習に用いることができる。不具合解析装置30は、例えば、判定結果が誤っている場合も、再学習を行うことができるため、より正しい判定結果を表示することができるようになる。従って、不具合解析装置30は、面の状態の判定精度を向上させることができる。
【0072】
また、不具合解析装置30は、面(例えば、路面)に沿って移動する移動体(例えば、車両10)に搭載された撮像部11で続けて撮像され、当該面を含む領域が撮像された画像を取得する情報取得部361と、前記移動体の移動情報(例えば、測位情報)に基づいて、前記続けて撮像された画像(例えば、路面画像)から第1画像を間引くことで、残りの第2画像(例えば、検査画像)を抽出する画像抽出部363と、前記第2画像の各々について、当該第2画像中の面の状態を判定する認識部367と、を備える。
これにより、不具合解析装置30は、移動体の移動に応じて面の状態を判定する画像の量を調整する。従って、不具合解析装置30は、面の状態の判定精度を維持しつつ、判定に要する負荷を低減することができる。
【0073】
また、不具合解析装置30において、画像抽出部363は、前記移動体(例えば、車両10)の時間に対する移動距離に基づいて、前記第2画像(例えば、検査画像)を抽出する。
これにより、不具合解析装置30は、移動体の移動速度に応じて、面の状態を判定する画像の量を調整する。従って、不具合解析装置30は、面の状態の判定精度を維持しつつ、判定に要する負荷を低減することができる。
【0074】
また、不具合解析装置30は、面(例えば、路面)に沿って移動する移動体(車両10)に搭載された撮像部11で続けて撮像され、当該面を含む領域が撮像された画像を取得する情報取得部361と、前記情報取得部361が取得した画像の一部分である部分画像を複数出力する領域抽出部364と、前記領域抽出部364が出力した部分画像の各々について、当該部分画像中の面の状態を判定する認識部367と、を備える。
これにより、不具合解析装置30は、画像の一部から面の状態を判定するため、画像に判定精度の低下させる要素が写り込んでいた場合、その要素を排除して判定を行うことができる。従って、不具合解析装置30は、面の状態の判定精度を向上させることができる。
【0075】
また、不具合解析装置30において、領域抽出部364は、前記移動体(例えば、車両10)の進行方向に対して、手前の前記部分画像(例えば、
図16における下側の検査領域A1)を、奥の前記部分画像(例えば、
図16における中央部の検査領域A10)より多く出力する。
これにより、不具合解析装置30は、画像において、情報量の豊富な手前側に写る面の状態を重点的に判定する。また、画像の手前側には、移動体の近傍が写るため、面以外の物体が写り込みにくい。また、画像の手前側では、移動体の移動方向が変化した場合の撮像範囲の変化量が小さい。従って、不具合解析装置30は、面の状態の判定精度を向上させるとともに、判定に要する負荷を低減することができる。
【0076】
また、不具合解析装置30において、領域抽出部364は、画像(例えば、検査画像)を分割し、分割された第1部分画像(例えば、
図16における検査領域A1)と、前記第1部分画像の頂点部分又は辺部分を含む第2部分画像(例えば、
図16における領域A5)と、を出力する。
これにより、不具合解析装置30は、1つの画像から複数の重複した部分画像を生成する。従って、不具合解析装置30は、部分画像の境界の面の状態の判定精度を向上させることができる。
【0077】
また、不具合解析装置30は、面(例えば、路面)に沿って移動する移動体(例えば、車両10)に搭載された撮像部11で撮像され、当該面を含む領域が撮像された画像を取得する情報取得部361と、前記画像取得部が取得する画像の各々ついて、前記画像中の面の状態を示す状態情報(例えば、不具合情報)と、前記面の位置を示す位置情報(例えば、測位情報)と、を出力する認識部367と、地図上に、前記位置情報が示す位置に、当該位置の面の状態を示す状態情報と、当該面を含む画像と、を対応付けて表示する表示部32と、を備える。
これにより、ユーザは、地図を参照すれば、どの位置のどの面がどのような状態にあるのかを即座に把握することができる。つまり、不具合解析装置30は、面の状態を分かりやすく提示することができる。
【0078】
また、不具合解析装置30において、表示部32は、予め定めた範囲内(例えば、所定距離以内)に前記位置情報(例えば、不具合座標情報)が属する面(例えば、路面)であって、前記状態情報(例えば、不具合情報)が同一(例えば、路面不具合が存在)である複数の面については、当該複数の面を代表する代表位置に、当該状態情報を対応付けて表示する。
これにより、不具合解析装置30は、地図上に複数の状態情報が密集する場合であっても、代表位置を示すため、面の状態を分かりやすく提示することができる。
以上が、第1の実施形態についての説明である。
【0079】
[第2の実施形態]
第2の実施形態について説明する。ここでは、上述した各実施形態と同様の構成については、同一の符号を付し、説明を援用する。
〔不具合解析システム1Aの概要〕
本実施形態に係る不具合解析システム1A(不図示)は、第1の実施形態に係る不具合解析システム1と同様の構成を備える。ただし、不具合解析システム1Aは、画像抽出処理において、道路のカーブを検出する処理を行う点が異なる。カーブでは、車両の移動方向が変化する。カーブでは車両10の移動速度が一定であったとしても、路面画像の特に奥側の撮像範囲の変化が直線より大きくなる。そこで、カーブの度合いに応じて画像間の移動距離を補正する。これにより、路面不具合の解析精度を向上させることができるとともに、解析に要する処理の負荷を低減することができる。
【0080】
〔不具合解析システム1Aの構成〕
不具合解析システム1Aは、不具合解析システム1が備える不具合解析装置30に代えて、不具合解析装置30A(不図示)を備える。不具合解析装置30Aは、不具合解析装置30が備える画像抽出部363に代えて、画像抽出部363A(不図示)を備える。
画像抽出部363Aは、画像抽出部363と同様に画像抽出処理を行う。ただし、画像抽出部363Aは、画像間の移動距離を、道路のカーブに応じて補正する点が異なる。画像抽出部363Aは、カーブの度合いが大きい程(すなわち、カーブが急である程)、画像間の移動距離が大きくなるように補正し、カーブの度合いが小さい程(すなわち、カーブが緩やかである程)、画像間の移動距離が小さくなるように補正する。つまり、カーブの度合いが大きい程、少ない路面画像が間引かれ、カーブの度合いが小さい程、多くの路面画像が間引かれるようにする。これにより、カーブの度合いが大きい程、より多くの画像が抽出され、カーブの度合いが小さい程、より少ない画像が抽出されるようになる。
【0081】
ここで、2種類のカーブの解析手法について説明する。
まず、第1のカーブ解析手法について説明する。
図18は、第1のカーブ解析手法の概要を示す図である。
図18に示す例では、道路R10上に8つの測位点m1〜m8が存在する。道路R10は、概ね位置m4〜m7に渡り、カーブしている。
第1のカーブ解析手法では、連続した3点の測位情報から傾き度合いを計測する。例えば、測位点m5におけるカーブを解析する場合、測位点m4から測位点m5への移動方向v4と、測位点m5から測位点m6への移動方向v5とを算出する。そして、2つの移動方向v4、v5のなす角度θを算出する。これにより、画像抽出部363Aは、カーブの度合いを示す角度θを算出することができる。
【0082】
次に、第2のカーブ解析手法について説明する。
図19は、第2のカーブ解析手法の概要を示す図である。
図19に示す例では、
図18に示す例と同様に、道路R10上に8つの測位点m1〜m8が存在する。
第2のカーブ解析手法では、所定期間内に測定された位置間の距離の総和と、所定期間の最初と最後とで測定された位置の距離とを比較することにカーブの度合いを算出する。例えば、測位点m2の測定開始から所定期間内に特定された測位点が、測位点m3〜m7である場合、画像抽出部363は、測位点m2〜m3、m3〜m4、m4〜m5、m5〜m6、m6〜m7間のそれぞれの距離の総和L1を算出する。また、画像抽出部363Aは、測位点m2〜m7間の直線距離L2を算出する。画像抽出部363Aは、距離L1と距離L2とを比較することによりカーブの度合いを特定することができる。例えば、距離L1に比して距離L2が短い程、カーブの度合いが大きい。また、距離L1と距離L2が同程度であれば、カーブの度合いが小さい。
【0083】
上記の第1のカーブ解析手法では、右折と左折とを判断することができる。
上記の第2のカーブ解析手法では、距離の算出及び距離の比較しか行わないため、処理に要する負荷を低減することができる。
以上が、不具合解析システム1Aの構成についての説明である。
【0084】
〔不具合解析装置30Aの動作〕
次に、不具合解析装置30Aの動作について説明する。ここでは、画像抽出処理における動作について説明する。
図20は、不具合解析装置30Aによる画像抽出処理の流れを示すフローチャートである。
図20に示すステップS200、S202、S204〜S216の処理は、
図14に示す処理と同様であるため、説明を援用する。
【0085】
(ステップS203A)ステップS202の処理の後、画像抽出部363Aは、カーブの度合いを算出する。そして、画像抽出部363Aは、カーブの度合いに応じて、画像間の移動距離を補正する。その後、制御部360は、ステップS204に処理を進める。
なお、ここでは、画像間の移動距離を補正する場合について説明したが、画像間の移動距離の代わりに設定距離を補正してもよい。また、距離の補正は、任意の方法により行われてよい。例えば、カーブの度合いごとの補正量を予め設定し、この補正量に基づいて距離の補正が行われてもよいし、カーブの度合いを示すパラメータを含む関数により補正が行われてもよい。
以上が、不具合解析装置30Aの動作についての説明である。
【0086】
〔第2の実施形態のまとめ〕
以上説明したように、不具合解析装置30Aは、移動体(例えば、車両10)の移動方向の変化量(例えば、カーブの度合い)に基づいて、第2画像(例えば、検査画像)を抽出する。
これにより、不具合解析装置30Aは、例えば移動体の移動方向の変化量に応じて第2画像の抽出量を変化させる。つまり、画像の撮像範囲の変化に応じて第2画像の抽出量を変化させる。従って、移動体の移動方向が一定でない場合であっても、面の状態の判定に必要十分な第2画像を抽出することができる。
【0087】
また、移動体(例えば、車両10)の移動方向の変化量(例えば、カーブの度合い)が大きい場合に、前記移動体の移動方向の変化量が小さい場合と比較して多くの第2画像(例えば、検査画像)を抽出する。
これにより、不具合解析装置30Aは、移動体の移動方向が一定でない場合であっても、面の状態の判定に必要十分な第2画像を抽出することができる。
以上が、第2の実施形態についての説明である。
【0088】
[変形例]
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成は上述の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。例えば、上述の第1〜2の実施形態において説明した各構成は、任意に組み合わせることができる。また、例えば、上述の第1〜2の実施形態において説明した各構成は、特定の機能を発揮するのに不要である場合には、省略することができる。また、例えば、上述の第1〜2の実施形態において説明した各構成は、任意に分離して別体の装置に備えることができる。
【0089】
なお、情報端末装置13は、車両10に搭載されず、ユーザにより携行されてもよい。そして、ユーザが車両10の内外で発見した路面不具合に関する不具合情報を、情報端末装置13において生成してもよい。例えば、ユーザによる「ひび割れ」という音声入力に応じて静止画像の撮像を行い、撮像した静止画像に路面不具合種別として「ひび割れ」を対応付けた不具合情報を生成してもよい。この場合、情報端末装置13が生成した不具合情報を、第1種不具合情報として、不具合情報管理装置50に記憶させてもよい。或いは、ユーザによる「ひび割れ」という音声入力に応じて撮像中の路面画像にフラグ情報を対応付けてもよい。このフラグ情報とは、ユーザによる路面不具合の確認結果を示す情報である。不具合解析装置30は、フラグ情報が対応付けられた路面画像を、画像抽出処理において検出画像として優先的に抽出するようにしたり、領域抽出処理において抽出する検査領域の数を増やしたりして、手厚く解析するようにしてもよい。これにより、不具合解析システム1、1Aは、路面不具合の検出漏れを防ぎ、路面不具合の認識精度を向上させることができる。
【0090】
なお、撮像部11や測位部12は、撮像や測位を支援する機能を搭載してもよい。例えば、撮像部11の設置環境が整ったり、GPSの電波が受信できて測位可能となったりした場合等に撮像や測位を行えるようになったことを通知するようにしてもよい。
【0091】
なお、情報端末装置13は、自装置の移動と同期して、不具合情報をユーザに提示してもよい。例えば、
図17に示す車両10のマーカO21を、自装置の位置と同期させてよい。また、自装置がマーカO22の近傍に位置した場合に、近傍に路面不具合が存在することをユーザに通知してもよい。これにより、ユーザは、自身の近傍に位置する路面不具合を確認することができる。ユーザは、例えば、情報端末装置13を携行して車両を運転することにより、過去に検出された路面不具合を容易に確認することができる。従って、不具合解析システム1、1Aは、路面不具合の位置や進行状況を容易に再確認可能としたり、路面不具合の危険性を通知したりすることができる。
【0092】
このように、情報端末装置13は、不具合解析装置30からの出力に基づいて、移動体(例えば、路面画像の撮像時とは異なる車両)の位置に基づいて、前記面(例えば、路面)を含む画像を表示する。
これにより、情報端末装置13は、例えば、移動体の近傍の面の画像を提示するため、移動体で移動中のユーザに、面の状態を分かりやすく提示することができる。
【0093】
また、情報端末装置13は、不具合解析装置30からの出力に基づいて、移動体(例えば、路面画像の撮像時とは異なる車両))の位置と前記位置情報(例えば、測位情報)とに基づいて、当該位置情報に対応する状態情報を表示する。
これにより、情報端末装置13は、例えば、移動体の近傍の面の状態を提示するため、移動体で移動中のユーザに、面の状態を分かりやすく提示することができる。
【0094】
なお、不具合解析装置30、30Aは、上記した以外の物体や不具合を認識するように予め機械学習を行っていてもよい。例えば、不具合解析装置30はマンホール、トンネル壁面損傷、道路落下物、路面のオイル染み、ガードレール損傷、電柱損傷、道路の落書き、道路標識、区画線のかすれ、積雪、冠水、側溝の破損等を認識するようにしてもよい。また、認識する項目について、その度合いを認識するようにしてよい。
【0095】
なお、不具合解析装置30、30Aは、複数の撮像部11により撮像された路面画像を統合して路面の状態を判定してもよい。例えば、複数台の車両10が道路を並走し、各車両に搭載された撮像部11は、それぞれ路面画像を撮像する。また、各車両10に搭載された測位部12は、それぞれ測位を行う。不具合解析装置30、30Aは、このようにして撮像された複数の路面画像を、例えば、各フレームの撮像時刻に基づいて並び替え、再構成する。そして、不具合解析装置3030、30Aは、再構成した路面画像について、路面の状態を判定してよい。
【0096】
なお、不具合解析装置30、30Aは、領域抽出処理において、検査領域以外を除外する(間引く)処理を行ってもよい。
図21は、領域抽出処理の別例を示す図である。
図21に示す例では、検査画像P8から、領域A21を間引き、残りの台形型の領域を検査領域としている。領域A21は、撮像画像への路面の写り方に応じて予め定められてよい。このように、不具合解析装置30、30Aは、検査領域としない領域を定めてもよい。
【0097】
また、上述した実施形態において、領域抽出処理では、大きさが同じ複数の検査領域を抽出する場合について説明したが、これには限らない。例えば、路面画像において、奥行側、すなわち遠方の部分については、検査領域を小さく設定し、手前側、すなわち近傍の部分については、検査領域を大きく設定してよい。例えば、
図16に示す例では、領域A1〜A4の大きさに比して、領域A10の大きさを小さく設定してよい。これにより、路面画像の奥行側において、複数の路面不具合が1つの検出領域に含まれたり、路面不具合以外の物体が検出領域に含まれたりすることを抑制することができる。
【0098】
また、上述した実施形態において、領域抽出処理では、複数の検査領域を重複させて抽出する場合について説明したが、これには限らない。各検査領域は、重複しないように抽出されてもよい。また、不具合解析装置30、30Aは、検査画像の全ての部分を網羅するように、検査領域を抽出してもよい。
【0099】
また、領域抽出処理において、検査領域は、固定でなくてもよい。不具合解析装置30、30Aは、例えば、移動方向の変化に応じて検査領域の位置や数を変化させてもよい。不具合解析装置30、30Aは、例えば、右折の場合には検査画像の右側に、より多くの検査領域を設定し、左折の場合には検査画像の左側に、より多くの検査領域を設定してもよい。また、不具合解析装置30、30Aは、例えば、移動方向の変化量に応じて検査領域の位置や数を変化させてもよい。例えば、カーブの度合いが大きい場合には、検査画像の手前側に、より多くの検査領域を設定してもよい。
【0100】
また、不具合解析装置30、30Aは、検査領域について、解析不能であるという解析結果を出力してもよい。不具合解析装置30、30Aは、例えば、検査領域に路面が写っていない場合、影の影響により検査領域が不明瞭であった場合、積雪がある場合、冠水がある場合に、解析不能であるという解析結果を、その理由とともに出力してよい。
【0101】
なお、上述した実施形態では、不具合解析用人工知能を用いて路面不具合を検出する態様について説明したが、これには限らない。不具合解析装置30、30Aは、例えば、画像特徴量を抽出して、路面不具合を解析してもよい。また、不具合解析装置30、30Aは、例えば、サポートベクターマシンやクラスタリング等の手法を用いて路面不具合を解析してもよい。
【0102】
なお、不具合情報の提示態様は、上述したものに限られない。不具合解析装置30、30Aは、例えば、異なる時期に撮像された路面画像の解析し、路面不具合が増えた箇所のみを提示するようにしてもよい。
なお、一度に撮像された一連の路面画像の解析範囲は、ユーザからの入力により定められてよい。不具合解析装置30、30Aは、例えば、解析するフレームの範囲を時間指定により受け付けてもよいし、場所の指定により受け付けてもよい。不具合解析装置30、30Aは、場所の指定を受け付ける場合、指定された場所の座標と、路面画像に対応付けられている測位情報とを参照して解析範囲を定めてよい。
【0103】
なお、測位情報は、任意の手法により、精度の向上が図られてよい。例えば、不具合解析装置30、30Aは、GPSによりドップラー方式で測定された速度情報やODB2等により得られる速度情報を用いることにより、GPSによる測位結果に誤差があった場合でも、速度情報に基づいて移動距離を修正して測位精度を向上させることができる。また、例えば、不具合解析装置30、30Aは、道路の情報やユーザから入力された走行経路の情報等を用いて測位精度を向上させてよい。
【0104】
なお、撮像部11は、任意の態様により車両10に搭載されてよい。
撮像部11は、車内に設置されてもよいし、車外に設置されてもよい。また、撮像部11は、車両の前方を撮像するように設置されてもよいし、後方を撮像するように設置されてもよい。また、撮像部11は、ユーザが身に着ける等、ユーザが携行してもよい。
【0105】
また、上述の情報端末装置13、不具合解析装置30、不具合情報管理装置50、地図情報管理装置90の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより情報端末装置13、不具合解析装置30、不具合情報管理装置50、地図情報管理装置90としての処理を行ってもよい。ここで、「記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行する」とは、コンピュータシステムにプログラムをインストールすることを含む。ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、インターネットやWAN、LAN、専用回線等の通信回線を含むネットワークを介して接続された複数のコンピュータ装置を含んでもよい。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。このように、プログラムを記憶した記録媒体は、CD−ROM等の非一過性の記録媒体であってもよい。また、記録媒体には、当該プログラムを配信するために配信サーバからアクセス可能な内部または外部に設けられた記録媒体も含まれる。配信サーバの記録媒体に記憶されるプログラムのコードは、端末装置で実行可能な形式のプログラムのコードと異なるものでもよい。すなわち、配信サーバからダウンロードされて端末装置で実行可能な形でインストールができるものであれば、配信サーバで記憶される形式は問わない。なお、プログラムを複数に分割し、それぞれ異なるタイミングでダウンロードした後に端末装置で合体される構成や、分割されたプログラムのそれぞれを配信する配信サーバが異なっていてもよい。さらに「コンピュータ読み取り可能な記録媒体」とは、ネットワークを介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、上述した機能の一部を実現するためのものであってもよい。さらに、上述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。