(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-06-18
(45)【発行日】2024-06-26
(54)【発明の名称】管渠損傷特定装置、管渠損傷特定方法および管渠損傷特定プログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20240619BHJP
【FI】
G06T7/00 610
(21)【出願番号】P 2021041891
(22)【出願日】2021-03-15
【審査請求日】2023-05-31
(73)【特許権者】
【識別番号】000140292
【氏名又は名称】株式会社奥村組
(73)【特許権者】
【識別番号】394026714
【氏名又は名称】株式会社ジャスト
(74)【代理人】
【識別番号】110002170
【氏名又は名称】弁理士法人翔和国際特許事務所
(72)【発明者】
【氏名】岩下 将也
(72)【発明者】
【氏名】山口 治
(72)【発明者】
【氏名】角田 賢明
(72)【発明者】
【氏名】鎌形 勇樹
【審査官】伊知地 和之
(56)【参考文献】
【文献】米国特許出願公開第2003/0023404(US,A1)
【文献】米国特許出願公開第2017/0323163(US,A1)
【文献】中国特許出願公開第111667470(CN,A)
【文献】特開2005-227055(JP,A)
【文献】特開2019-056668(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
E03F 1/00 - 11/00
G06T 7/00 - 7/90
G06V 10/00 - 20/90
G06V 30/418
G06V 40/16
G06V 40/20
CSDB(日本国特許庁)
IEEE Xplore
(57)【特許請求の範囲】
【請求項1】
第1管渠の内周面を撮像した第1内周面画像を取得する画像取得部と、
取得した前記第1内周面画像を前記第1内周面画像における前記第1管渠の任意位置で切り開いて展開して得られる第1展開平面画像を生成する第1展開平面画像生成部と、
前記第1展開平面画像を用いて、前記第1管渠に発生している損傷を決定する損傷決定部と、
前記損傷を識別可能な識別子を付与して、決定された損傷とともに前記第1展開平面画像を人工知能に学習させて、学習済み損傷
種類特定モデルを生成するモデル生成部と、
第2管渠の内周面を撮像した第2内周面画像を受け付ける画像受付部と、
前記第2内周面画像を、前記第2内周面画像における前記第2管渠の任意位置から切り開いて展開して得られる第2展開平面画像を生成する第2展開平面画像生成部と、
前記第2展開平面画像と前記学習済み損傷種類特定モデルとを用いて、前記第2管渠に発生している損傷から欠落とひび割れとを判定し、さらに、判定されたひび割れから破損とクラックとを判定する損傷発生判定部と、
前記損傷発生判定部により、前記ひび割れが発生していると判定された場合、前記第2展開平面画像と前記学習済み損傷種類特定モデルとを用いて、前記ひび割れの損傷種類を判定する損傷種類判定部と、
を備えた管渠損傷特定装置。
【請求項2】
前記損傷決定部は、
前記第1展開平面画像において、前記欠落として判定されたひび割れ以外のひび割れの前記第1管渠の軸方向および周方向の長さを測定する長さ測定部と、
前記第1展開平面画像において、前記欠落として判定されたひび割れ以外のひび割れの前記軸方向または前記周方向に対する傾きを導出する傾き導出部と、
をさらに有し、
測定された前記軸方向および前記周方向の長さと、導出された前記軸方向または前記周方向の傾きと、に基づいて、前記ひび割れが、損傷としてクラックまたは破損に該当すると決定する、請求項1に記載の管渠損傷特定装置。
【請求項3】
前記損傷種類判定部は、
前記ひび割れが、前記周方向に対して所定傾きを有し、前記周方向に所定長さを有する場合、損傷種類としてクラックに該当すると判定し、
前記ひび割れが、前記軸方向に対して所定傾きを有し、前記軸方向に所定長さを有する場合、損傷種類として破損に該当すると判定する、
請求項2に記載の管渠損傷特定装置。
【請求項4】
前記第1展開平面画像および前記第2展開平面画像は、前記第1内周面画像および前記第2内周面画像を、前記第1管渠および前記第2管渠の底部部分から切り開いて展開して得られる底部展開平面画像である、請求項1~3のいずれか1項に記載の管渠損傷特定装置。
【請求項5】
前記モデル生成部は、水増しデータとして、左右反転画像を用いて前記学習済み損傷
種類特定モデルを生成する請求項1~4のいずれか1項に記載の管渠損傷特定装置。
【請求項6】
前記モデル生成部は、転移学習を用いて前記学習済み損傷
種類特定モデルを生成する請求項1~5のいずれか1項に記載の管渠損傷特定装置。
【請求項7】
第1管渠の内周面を撮像した第1内周面画像を取得する画像取得ステップと、
取得した前記第1内周面画像を前記第1内周面画像における前記第1管渠の任意位置で切り開いて展開して得られる第1展開平面画像を生成する第1展開平面画像生成ステップと、
前記第1展開平面画像を用いて、前記第1管渠に発生している損傷を決定する損傷決定ステップと、
前記損傷を識別可能な識別子を付与して、決定された損傷とともに前記第1展開平面画像を人工知能に学習させて、学習済み損傷
種類特定モデルを生成するモデル生成ステップと、
第2管渠の内周面を撮像した第2内周面画像を受け付ける画像受付ステップと、
前記第2内周面画像を、前記第2内周面画像における前記第2管渠の任意位置から切り開いて展開して得られる第2展開平面画像を生成する第2展開平面画像生成ステップと、
前記第2展開平面画像と前記学習済み損傷種類特定モデルとを用いて、前記第2管渠に発生している損傷から欠落とひび割れとを判定し、さらに、判定されたひび割れから破損とクラックとを判定する損傷発生判定ステップと、
前記損傷発生判定ステップにおいて、前記ひび割れが発生していると判定された場合、前記第2展開平面画像と前記学習済み損傷種類特定モデルとを用いて、前記ひび割れの損傷種類を判定する損傷種類判定ステップと、
を含む管渠損傷特定方法。
【請求項8】
第1管渠の内周面を撮像した第1内周面画像を取得する画像取得ステップと、
取得した前記第1内周面画像を前記第1内周面画像における前記第1管渠の任意位置で切り開いて展開して得られる第1展開平面画像を生成する第1展開平面画像生成ステップと、
前記第1展開平面画像を用いて、前記第1管渠に発生している損傷を決定する損傷決定ステップと、
前記損傷を識別可能な識別子を付与して、決定された損傷とともに前記第1展開平面画像を人工知能に学習させて、学習済み損傷
種類特定モデルを生成するモデル生成ステップと、
第2管渠の内周面を撮像した第2内周面画像を受け付ける画像受付ステップと、
前記第2内周面画像を、前記第2内周面画像における前記第2管渠の任意位置から切り開いて展開して得られる第2展開平面画像を生成する第2展開平面画像生成ステップと、
前記第2展開平面画像と前記学習済み損傷種類特定モデルとを用いて、前記第2管渠に発生している損傷から欠落とひび割れとを判定し、さらに、判定されたひび割れから破損とクラックとを判定する損傷発生判定ステップと、
前記損傷発生判定ステップにおいて、前記ひび割れが発生していると判定された場合、前記第2展開平面画像と前記学習済み損傷種類特定モデルとを用いて、前記ひび割れの損傷種類を判定する損傷種類判定ステップと、
をコンピュータに実行させる管渠損傷特定プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、管渠損傷特定装置、管渠損傷特定方法および管渠損傷特定プログラムに関し、特に、コンピュータに組み込まれた画像解析プログラムおよび人工知能による特定結果から管渠の損傷を特定する装置に関する。
【背景技術】
【0002】
インフラ構造物の老朽化は加速度的に進んでおり,維持管理・更新の必要性は,今後さらに増大していくと言われている。労働人口が減り続ける中、維持管理・更新にかかる労務の効率化は喫緊の課題となっている。維持管理・更新にかかる労務の効率化の実現に向け、近年著しく性能が向上しているAIによる画像認識技術を適用する研究事例が増えている。深層学習と呼ばれる高度なニューラルネットワークを用いれば、従来では困難であった人間の直感に近い画像認識が実現でき損傷部位の目視点検の補助や代替が期待できる。
【0003】
一方、管渠などインフラ構造物の検査においては、例えば、特許文献1および特許文献2に記載の技術のように、調査対象の流路管内に投入する装置本体に、テレビカメラ等の撮影装置や蛍光灯等の照明装置を搭載し、撮影装置により撮影した管内画像をもとに損傷などの調査を行っていた。
【先行技術文献】
【特許文献】
【0004】
【文献】特開平5-346027号公報
【文献】特開平7-216972号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上記文献に記載の技術では、撮像した管内画像を作業員が目で見て調査を行うものであり、見落としや見誤りが発生し易く、管渠に発生した損傷の種類を精度高く判定することができなかった。
【課題を解決するための手段】
【0006】
上記目的を達成するため、本発明に係る管渠損傷特定装置は、
第1管渠の内周面を撮像した第1内周面画像を取得する画像取得部と、
取得した前記第1内周面画像を前記第1内周面画像における前記第1管渠の任意位置で切り開いて展開して得られる第1展開平面画像を生成する第1展開平面画像生成部と、
前記第1展開平面画像を用いて、前記第1管渠に発生している損傷を決定する損傷決定部と、
前記損傷を識別可能な識別子を付与して、決定された損傷とともに前記第1展開平面画像を人工知能に学習させて、学習済み損傷特定モデルを生成するモデル生成部と、
第2管渠の内周面を撮像した第2内周面画像を受け付ける画像受付部と、
前記第2内周面画像を、前記第2内周面画像における前記第2管渠の任意位置から切り開いて展開して得られる第2展開平面画像を生成する第2展開平面画像生成部と、
前記第2展開平面画像と前記学習済み損傷種類特定モデルとを用いて、前記第2管渠に発生している損傷から欠落とひび割れとを判定し、さらに、判定されたひび割れから破損とクラックとを判定する損傷発生判定部と、
前記損傷発生判定部により、前記ひび割れが発生していると判定された場合、前記第2展開平面画像と前記学習済み損傷種類特定モデルとを用いて、前記ひび割れの損傷種類を判定する損傷種類判定部と、
を備えた。
【0007】
また、上記目的を達成するため、本発明に係る管渠損傷特定方法は、
第1管渠の内周面を撮像した第1内周面画像を取得する画像取得ステップと、
取得した前記第1内周面画像を前記第1内周面画像における前記第1管渠の任意位置で切り開いて展開して得られる第1展開平面画像を生成する第1展開平面画像生成ステップと、
前記第1展開平面画像を用いて、前記第1管渠に発生している損傷を決定する損傷決定ステップと、
前記損傷を識別可能な識別子を付与して、決定された損傷とともに前記第1展開平面画像を人工知能に学習させて、学習済み損傷特定モデルを生成するモデル生成ステップと、
第2管渠の内周面を撮像した第2内周面画像を受け付ける画像受付ステップと、
前記第2内周面画像を、前記第2内周面画像における前記第2管渠の任意位置から切り開いて展開して得られる第2展開平面画像を生成する第2展開平面画像生成ステップと、
前記第2展開平面画像と前記学習済み損傷種類特定モデルとを用いて、前記第2管渠に発生している損傷から欠落とひび割れとを判定し、さらに、判定されたひび割れから破損とクラックとを判定する損傷発生判定ステップと、
前記損傷発生判定ステップにおいて、前記ひび割れが発生していると判定された場合、前記第2展開平面画像と前記学習済み損傷種類特定モデルとを用いて、前記ひび割れの損傷種類を判定する損傷種類判定ステップと、
を含む。
【0008】
さらに、上記目的を達成するため、本発明に係る管渠損傷特定プログラムは、
第1管渠の内周面を撮像した第1内周面画像を取得する画像取得ステップと、
取得した前記第1内周面画像を前記第1内周面画像における前記第1管渠の任意位置で切り開いて展開して得られる第1展開平面画像を生成する第1展開平面画像生成ステップと、
前記第1展開平面画像を用いて、前記第1管渠に発生している損傷を決定する損傷決定ステップと、
前記損傷を識別可能な識別子を付与して、決定された損傷とともに前記第1展開平面画像を人工知能に学習させて、学習済み損傷特定モデルを生成するモデル生成ステップと、
第2管渠の内周面を撮像した第2内周面画像を受け付ける画像受付ステップと、
前記第2内周面画像を、前記第2内周面画像における前記第2管渠の任意位置から切り開いて展開して得られる第2展開平面画像を生成する第2展開平面画像生成ステップと、
前記第2展開平面画像と前記学習済み損傷種類特定モデルとを用いて、前記第2管渠に発生している損傷から欠落とひび割れとを判定し、さらに、判定されたひび割れから破損とクラックとを判定する損傷発生判定ステップと、
前記損傷発生判定ステップにおいて、前記ひび割れが発生していると判定された場合、前記第2展開平面画像と前記学習済み損傷種類特定モデルとを用いて、前記ひび割れの損傷種類を判定する損傷種類判定ステップと、
をコンピュータに実行させる。
【発明の効果】
【0009】
本発明の管渠損傷判定装置によれば、人工知能による機械学習を用いて管渠の損傷の種類を判定するので、管渠に発生した損傷の種類を精度高く判定することができる。
【図面の簡単な説明】
【0010】
【
図1】本発明の好ましい実施形態に係る管渠損傷特定装置による処理の概要を説明するための図である。
【
図2A】本発明の好ましい実施形態に係る管渠損傷特定装置の構成を説明するためのブロック図である。
【
図2B】本発明の好ましい実施形態に係る管渠損傷特定装置により決定される損傷について説明する図である。
【
図3】本発明の好ましい実施形態に係る管渠損傷特定装置が有する態様テーブルの一例を説明するための図である。
【
図4】本発明の好ましい実施形態に係る管渠損傷特定装置のハードウェア構成を説明するためのブロック図である。
【
図5A】本発明の好ましい実施形態に係る管渠損傷特定装置の処理手順を説明するためのフローチャートである。
【
図5B】本発明の好ましい実施形態に係る管渠損傷特定装置の損傷決定の処理手順の詳細を説明するためのフローチャートである。
【発明を実施するための形態】
【0011】
以下に、本発明を実施するための形態について、図面を参照して、例示的に詳しく説明する。ただし、以下の実施形態に記載されている、構成、数値、処理の流れ、機能要素などは一例に過ぎず、その変形や変更は自由であって、本発明の技術範囲を以下の記載に限定する趣旨のものではない。
【0012】
本発明の好ましい実施形態としての管渠損傷特定装置100について、
図1~
図5を参照して説明する。管渠損傷特定装置100は、管渠に発生したひび割れの態様に基づいて、当該ひび割れが、欠落、クラックおよび破損のいずれの損傷種類に該当するかを判定する装置である。
【0013】
ここで、管渠とは、水路の総称であり、給水、排水を目的として作られる水路全体を指す。例えば、上水管、下水管、給水管などが含まれる。本実施形態においては、管渠として下水管150,170を例に説明をする。また、管渠の材質としては、コンクリート、陶器、鉄、塩化ビニルなどが含まれ、管渠の種類としては、コンクリート管、コンクリートヒューム管、陶管、鉄管、塩化ビニル管などが含まれる。
【0014】
なお、以下の説明では、管渠として、下水管150(下水管170)を例に説明をする。下水管150の管径(内径)は、作業員が下水管150内に入って作業することが困難な程度の大きさであり、例えば、200mm~3000mmの下水管150であるが、下水管150の管径は、これには限定されない。
【0015】
下水管150の内部の検査においては、自走式検査ロボット140のカメラ142で撮像した下水管150(170)の内周面の画像を用いた検査が行われている。ここで、下水管150の内周面画像は、下水管150の軸方向(中心軸方向)に撮像した軸方向内周面画像110(160)となっている。下水管150の軸方向は、下水管150の敷設方向に垂直な面における下水管150の円形断面の中心軸の方向、つまり、下水管150の敷設方向(走行方向)に沿った方向である。
【0016】
そして、作業員は、下水管150の外部に設置されたディスプレイなどを用いて、カメラ142で撮像した画像を確認し、下水管150に発生しているひび割れの位置や大きさ、角度などの検査を行う。制御部141は、自走式検査ロボット140の自走速度や撮影スケージュール、撮像条件を制御したり、管渠損傷特定装置100や作業員が所持するタブレット端末130との間の通信を制御したりする。作業員は、例えば、タブレット端末130にインストールされた操作用アプリケーションを用いて、自走式検査ロボット140を操作する。なお、自走式検査ロボット140が入れないような、管径の小さな下水管の場合、自走式検査ロボット140の代わりにファイバースコープなどの超小型検査装置を用いてもよい。
【0017】
そして、制御部141は、カメラ142で撮像した軸方向内周面画像110(160)を、管渠損傷特定装置100に送信する。なお、軸方向内周面画像110は、人工知能による機械学習のための画像であり、軸方向内周面画像160は、ひび割れの態様に基づいて、いずれの損傷種類に該当するかを判定した下水管170の画像である。また、カメラ142は、通常の広角カメラ、全周カメラのいずれであてもよい。広角カメラの場合、1周分の画像を複数回に分けて撮像し、撮像した複数枚の画像を繋いで軸方向内周面画像110(160)を生成してもよい。
【0018】
また、軸方向内周面画像110(160)は、所定のピッチ(例えば、0.1m)ごとに決められた位置で下水管150(170)の軸方向に撮像された画像である。例えば、下水管150の継手(ジョイント部分)から継手(ジョイント部分)の間を1ユニットとした場合に、1ユニットごとに撮像した画像(軸方向内周面画像110(160))を輪切りにして、輪切り画像143を得て、これらを繋ぎ合わせることで軸方向内周面画像110(160)を生成してもよい。
【0019】
そして、本実施形態においては、まず初めに、下水管150の内周面画像の撮像前に、自走式検査ロボット140の撮像部としてのカメラ142の中心軸と下水管150の中心軸151とが合致するように、自走式検査ロボット140を下水管150にセットすることが好ましい。そして、自走式検査ロボット140を走行させながら、検査対象範囲の下水管150の内周面を撮像する。撮像が完了したら、制御部141は、撮像した画像を管渠損傷特定装置100に送信する。
【0020】
管渠損傷特定装置100は、受信した軸方向内周面画像110から、人工知能に学習させるための教師データを作成して、学習させて、学習済み損傷種類特定モデルを生成する。そして、管渠損傷特定装置100は、生成した学習済み損傷種類特定モデルを用いて、管渠に発生したひび割れが該当する損傷種類を判定する。判定する損傷種類には、欠落、クラックおよび破損が含まれる。
【0021】
判定された損傷種類は、例えば、作業員が所持するタブレット端末130などの携帯端末に出力される。作業員は、タブレット端末130のディスプレイに表示された判定結果を参照して、下水管170に発生している損傷がどの損傷種類に属するかを認識する。なお、管渠損傷特定装置100は、判定した損傷種類に応じて、アラートを出力してもよい。例えば、損傷種類ごとにアラートの内容を変えて出力してもよい。また、例えば、損傷としてのひび割れの長さや向きに応じて、警告音や振動、光、メッセージなどを出力してもよい。
【0022】
次に
図2Aを参照して本実施形態に係る管渠損傷特定装置100の構成について説明する。管渠損傷特定装置100は、画像取得部201、展開平面画像生成部202、損傷決定部203、モデル生成部204、画像受付部205、展開平面画像生成部206、損傷発生判定部207および損傷種類判定部208を有する。損傷決定部203は、さらに、長さ測定部231および傾き導出部232を有する。
【0023】
画像取得部201は、下水管150の内周面を下水管150の軸方向に撮像した軸方向内周面画像110を取得する。画像取得部201は、自走式検査ロボット140のカメラ142で撮像した軸方向内周面画像110を制御部141から取得してもよいし、作業員が所持するタブレット端末130などを経由して取得してもよい。なお、軸方向内周面画像110は、後の人工知能による機械学習に用いられる画像である。ここで、軸方向内周面画像110は、下水管150の内周面を所定の間隔(ピッチ)ごとの決められた位置で下水管150の軸方向に撮像した連続画像であり、所定ピッチは、例えば、10cmであるが、これには限定されない。軸方向内周面画像110は、自走式検査ロボット140が10cm進むごとに撮像されて画像である。
【0024】
展開平面画像生成部202は、取得した軸方向内周面画像110を軸方向内周面画像110における下水管150の任意位置で切り開いて展開して得られる展開平面画像101を生成する。展開平面画像生成部202は、例えば、取得してた軸方向内周面画像110を軸方向内周面画像110における下水管150の底部部分から切り開いて展開して得られる底部展開平面画像を生成する。なお、展開平面画像生成部202が生成する展開平面画像は、底部展開平面画像には限定されず、例えば、軸方向内周面画像110の天井部分や側部部分(下水管150の天井部分や側部部分)から切り開いて展開して得られる天井展開平面画像や側部展開平面画像などを生成してもよい。
【0025】
ここで、展開平面画像生成部202は、まず、画像取得部201が取得した所定間隔ごとに撮像された軸方向内周面画像110から輪切りにされた帯状の画像である輪切り画像143を生成する。そして、展開平面画像生成部202は、生成された輪切り画像143を下水管150の任意位置で切り開いて展開して、展開画像を生成する。次に、展開平面画像生成部202は、生成した複数の展開画像を繋ぎ合わせて、横長の展開平面画像101を生成する。例えば、底部展開平面画像においては、下水管150の天井部分が帯状の平面画像の中央に位置し、底部部分が左右両端に位置するようになる。このような平面画像を生成することにより、下水管150において、水が流れない部分が画像の縦方向の中央に位置するようになるので、後の人工知能による機械学習の効率や精度が上昇する。
【0026】
なお、輪切り画像143は、自走式検査ロボット140において予め生成しておき、画像取得部201が、自走式検査ロボット140により生成された輪切り画像143を取得してもよい。そして、展開平面画像生成部202は、複数の輪切り画像143から生成された展開平面画像のそれぞれを繋いで1枚の横長の画像として展開平面画像101を生成する。
【0027】
損傷決定部203は、展開平面画像101を用いて、下水管150に発生している損傷を決定する。損傷決定部203は、まず、展開平面画像101を用いて、損傷として欠落が発生しているか否かを決定する。その後、損傷決定部203は、欠落以外の損傷、すなわち、ひび割れの損傷種類を決定する。損傷決定部203は、さらに、長さ測定部231および傾き導出部232を有している。まず、長さ測定部231は、展開平面画像101において、欠落として判定されたひび割れ以外のひび割れの下水管150の軸方向および周方向の長さを測定する。さらに、傾き導出部232は、展開平面画像101において、欠落として判定されたひび割れ以外のひび割れの軸方向または周方向に対する傾きを導出する。そして、損傷決定部203は、下水管150のひび割れの長さや傾きに基づいて、下水管150に発生している損傷を決定する。なお、損傷決定部203は、損傷種類として、欠落、破損a、破損b、クラックa、クラックbを決定する。破損a、bは、軸方向に伸びるひび割れであり、その軸方向の長さが管径の1/2未満か否かで決定される。1/2未満でない場合、破損aとなり、1/2未満の場合、破損bとなる。クラックa、bは、周方向に伸びるひび割れであり、その周方向の長さが円周の2/3未満か否かで決定される。2/3未満でない場合、クラックaとなり、2/3未満の場合、クラックbとなる。
【0028】
具体的には、
図2B(a)~(c)に示したように、損傷決定部203は、ひび割れの長さおよび傾きに基づいて、下水管150に発生している損傷を決定する。なお、
図2B(a)および(b)は、展開平面画像101の一部を模式的に示した図となっている。
【0029】
長さ測定部231は、ひび割れの長さを測定する。また、傾き導出部232は、ひび割れの傾きを導出する。そして、損傷決定部203は、以下の基準に基づいて、ひび割れが、破損に該当するのか、クラックに該当するのかを決定する。
【0030】
具体的には、損傷決定部203は、
図2B(a)に示したように、ひび割れの長さが、管長(ジョイントとジョイントとの間の長さ)の1/2未満か、1/2以上かに基づいて、破損か否かを決定する。あるいは、損傷決定部203は、
図2B(b)に示したように、ひび割れの長が、下水管150の内周面の円周の2/3未満か、2/3以上かに基づいて、クラックか否かを決定する。なお、ひび割れの角度は、
図2B(c)に示したように、下水管150の軸方向(敷設方向)に対して垂直な方向に対する角度に基づいて、導出される。損傷決定部203は、ひび割れの角度が、30°未満であれば、クラック、30°以上であれば、破損と判定する。
【0031】
また、損傷決定部203は、物体検知(Object Detection)を用いて、損傷の発生箇所を特定する。物体検知のアルゴリズムとして、例えば、Faster R-CNN(Faster Region with Convolutional Neural Network)を用いることができる。
【0032】
モデル生成部204は、損傷を識別可能な識別子を付与して、決定された損傷を人工知能に学習させて、学習済み損傷種類特定モデルを生成する。損傷に付与される識別子は、損傷の長さや角度(方向)、損傷種類などである。これらの識別子は、展開平面画像101に付与しても、あるいは、識別子を所定のデータベース等に記憶しておき、適宜読み出すようにしてもよい。
【0033】
そして、モデル生成部204は、識別子を付与した展開平面画像101を人工知能(AI)に機械学習させ、学習済み損傷種類特定モデルを生成する。なお、モデル生成部204は、生成した学習済み損傷種類特定モデルを所定のストレージ等に保存しておいてもよい。この場合、新たな学習用画像(軸方向内周面画像160)を取得して、所定の処理を施した後、機械学習を行い、学習済み損傷種類特定モデルを生成するたびに、保存された学習済み損傷種類特定モデルを更新するようにしてもよい。
【0034】
また、人工知能による機械学習は、既知のアルゴリズムを用いて行われる。機械学習において、損失関数は、重み指定を行い、事象数の逆数を採用した。また、モデル生成部204は、人工知能による機械学習の精度を向上させて、より精度の高い損傷種類特定モデルを生成するために、人工知能に学習させる軸方向内周面画像110および展開平面画像101の数を水増しする。モデル生成部204は、例えば、左右反転を用いて水増しデータを得る。さらに、モデル生成部204は、人工知能による機械学習の精度を向上させるために、転移学習を用いてもよい。ここで、転移学習とは、異なるデータセットを用いた学習済みモデルを、別の問題に転用し、部分的な学習をすることで、モデルの性能向上を狙う手法である。特に、教師データが十分ではない場合に、推論性能の向上と学習時間の低減とが期待できる手法である。
【0035】
なお、生成された学習済み損傷種類特定モデルの評価には、再現率(Recall)および適合率(Precision)を用いた。再現率は、再現率=TP/(TP+FN)で表され、結果として出てくるべきもののうち、実際にでてきたものの割合を示す。すなわち、取り漏らしがないかに関する指標である(網羅性に関する指標)。適合率は、適合率=TP/(TP+FP)で表され、正しかったものの割合を示す。出てきたすべての結果の中に、どれだけ正解が含まれているかの割合を示す指標である(正確性に関する指標)。なお、TP=真陽性(True Positive)、FP=偽陽性(False Positive)、FN=偽陰性(False Negative)である。
【0036】
画像受付部205は、下水管170の内周面を下水管170の軸方向に撮像した軸方向内周面画像160を受け付ける。軸方向内周面画像160は、自走式検査ロボット140が撮像した画像であり、制御部141から画像受付部205に対して送信された画像である。なお、軸方向内周面画像160は、検査対象となる下水管170の内周面を撮像した画像であり、損傷種類を特定したい下水管170である。
【0037】
展開平面画像生成部206は、受け付けた軸方向内周面画像160を軸方向内周面画像における下水管170の任意位置から切り開いて展開して得られる展開平面画像161を生成する。展開平面画像生成部206は、展開平面画像生成部202と同様に、受け付けた軸方向内周面画像160を軸方向内周面画像160の任意の位置、例えば、下水管170の底部部分から切り開いて展開して得られる展開平面画像161を生成する。展開平面画像161は、展開平面画像101と同様に、複数の輪切り画像を繋ぎ合わせて生成された横長の画像である。
【0038】
損傷発生判定部207は、展開平面画像161と学習済み損傷種類特定モデルとを用いて、下水管170に発生している損傷から欠落とひび割れとを判定し、さらに、判定されたひび割れから破損とクラックとを判定する。
【0039】
損傷種類判定部208は、損傷発生判定部207により、ひび割れが発生していると判定された場合、展開平面画像161と学習済み損傷種類特定モデルとを用いて、ひび割れの損傷種類を判定する。つまり、損傷種類判定部208は、発生しているひび割れが、クラックa、bおよび破損a、bのいずれの損傷種類に該当するかを判定する。
【0040】
図3は、管渠損傷特定装置100が有する態様テーブル301の一例を説明するための図である。態様テーブル301は、損傷種類311に関連付けてひび割れ態様312を記憶する。損傷種類311は、管渠損傷特定装置100が特定する損傷の種類である。ひび割れ態様312は、ひび割れの方向や長さ、傾きなどを含む。そして、管渠損傷特定装置100は、例えば、態様テーブル301を参照して、損傷種類を判定する。
【0041】
図4を参照して、管渠損傷特定装置100のハードウェア構成について説明する。CPU(Central Processing Unit)410は、演算制御用のプロセッサであり、プログラムを実行することで
図2の管渠損傷特定装置100の各機能構成を実現する。CPU410は複数のプロセッサを有し、異なるプログラムやモジュール、タスク、スレッドなどを並行して実行してもよい。ROM(Read Only Memory)420は、初期データおよびプログラムなどの固定データおよびその他のプログラムを記憶する。また、ネットワークインタフェース430は、ネットワークを介して他の装置などと通信する。なお、CPU410は1つに限定されず、複数のCPUであっても、あるいは画像処理用のGPU(Graphics Processing Unit)を含んでもよい。また、ネットワークインタフェース430は、CPU410とは独立したCPUを有して、RAM(Random Access Memory)440の領域に送受信データを書き込みあるいは読み出しするのが望ましい。また、RAM440とストレージ450との間でデータを転送するDMAC(Direct Memory Access Controller)を設けるのが望ましい(図示なし)。さらに、CPU410は、RAM440にデータが受信あるいは転送されたことを認識してデータを処理する。また、CPU410は、処理結果をRAM440に準備し、後の送信あるいは転送はネットワークインタフェース430やDMACに任せる。
【0042】
RAM440は、CPU410が一時記憶のワークエリアとして使用するランダムアクセスメモリである。RAM440には、本実施形態の実現に必要なデータを記憶する記憶領域が確保されている。内周面画像データ441は、下水管150,170の軸方向に撮像した内周面の画像である。展開平面画像データ442は、撮像された軸方向内周面画像を下水管の任意位置で切り開いて展開した2次元の平面画像のデータである。下水管データ443は、下水管150,170に関するデータであり、管径や全長などデータである。撮像条件データ444は、カメラ142で下水管150,170の内周面を撮像した際の条件である。長さ/傾きデータ445は、下水管に発生しているひび割れの長さや傾きに関するデータである。
【0043】
送受信データ446は、ネットワークインタフェース430を介して送受信されるデータである。また、RAM440は、各種アプリケーションモジュールを実行するためのアプリケーション実行領域447を有する。
【0044】
ストレージ450には、データベースや各種パラメータ、あるいは本実施形態の実現に必要な以下のデータまたはプログラムが記憶されている。ストレージ450は、態様テーブル301を格納する。態様テーブル301は、
図3に示した、損傷種類311とひび割れ態様312との関係を管理するテーブルである。
【0045】
ストレージ450は、さらに、画像取得モジュール451、展開平面画像生成モジュール452、損傷決定モジュール453、モデル生成モジュール454、画像受付モジュール455、展開平面画像生成モジュール456、ひび割れ発生判定モジュール457および損傷種類判定モジュール458を格納する。画像取得モジュール451は、軸方向内周面画像110を取得するモジュールである。展開平面画像生成モジュール452は、取得した軸方向内周面画像110を下水管150の任意位置で切り開いて展開して得られる展開平面画像101を生成するモジュールである。損傷決定モジュール453は、展開平面画像101を用いて、下水管150に発生している損傷を決定するモジュールである。なお、損傷決定モジュール453は、さらに、長さ測定モジュールと傾き導出モジュールとを有し、長さ測定モジュールは、ひび割れの長さを測定するモジュールであり、傾き導出モジュールは、ひび割れの傾きを導出するモジュールである。モデル生成モジュール454は、学習済み損傷種類特定モデルを生成するモジュールである。画像受付モジュール455は、下水管170の内周面を下水管170の軸方向に撮像した軸方向内周面画像160を受け付けるモジュールである。展開平面画像生成モジュール456は、取得した軸方向内周面画像160を軸方向内周面画像160における下水管170の任意位置で切り開いて展開して得られる展開平面画像161を生成するモジュールである。損傷発生判定モジュール457は、展開平面画像161と学習済み損傷種類特定モデルとを用いて、下水管170に損傷としてのひび割れが発生しているか否かを判定するモジュールである。損傷種類判定モジュール458は、下水管170にひび割れが発生していると判定された場合、展開平面画像161と学習済み損傷種類特定モデルとを用いて、下水管170に発生しているひび割れが、欠落、クラックおよび破損のいずれの損傷種類に該当するかを判定するモジュールである。これらのモジュール451~458は、CPU410によりRAM440のアプリケーション実行領域447に読み出され、実行される。制御プログラム459は、管渠損傷特定装置100の全体を制御するためのプログラムである。
【0046】
入出力インタフェース460は、入出力機器との入出力データをインタフェースする。入出力インタフェース460には、表示部461、操作部462、が接続される。また、入出力インタフェース460には、さらに、記憶媒体464が接続されてもよい。さらに、音声出力部であるスピーカ463や、音声入力部であるマイク(図示せず)、あるいは、GPS位置判定部が設億されてもよい。なお、
図4に示したRAM440やストレージ450には、管渠損傷特定装置100が有する汎用の機能や他の実現可能な機能に関するプログラムやデータは図示されていない。
【0047】
次に
図5Aおよび
図5Bに示したフローチャートを参照して、管渠損傷特定装置100の処理手順について説明する。これらのフローチャートは、
図4のCPU410がRAM440を使用して実行し、
図2の管渠損傷特定装置100の各機能構成を実現する。
【0048】
まず
図5Aを参照して、ステップS501において、画像取得部201は、軸方向内周面画像110を取得する。ステップS503において、展開平面画像生成部202は、軸方向内周面画像110を軸方向内周面画像110における下水管150の任意位置で切り開いて展開して得られる展開平面画像101を生成する。ステップS505において、損傷決定部203は、展開平面画像101を用いて、下水管150に発生している損傷を決定する。ステップS507において、モデル生成部204は、損傷を識別可能な識別子を付与して、識別子を付与された損傷とともに展開平面画像101を人工知能に学習させて、学習済み損傷種類特定モデルを生成する。
【0049】
ステップS509において、画像受付部205は、下水管170の内周面を下水管170の軸方向に撮像した軸方向内周面画像160を受け付ける。ステップS511において、展開平面画像生成部206は、受け付けた軸方向内周面画像160を軸方向内周面画像160における下水管170の任意位置で切り開いて展開して得られる展開平面画像161を生成する。ステップS513において、損傷発生判定部207は、展開平面画像161と学習済み損傷種類特定モデルとを用いて、下水管170に損傷としてのひび割れが発生しているか否かを判定する。ステップS515において、損傷種類判定部208は、ステップS513においてひび割れが発生していると判定された場合、展開平面画像161と学習済み損傷種類特定モデルとを用いて、ひび割れが、欠落、クラックおよび破損のいずれの損傷種類に該当するかを判定する。
【0050】
次に、
図5Bを参照して、ステップS505の損傷決定処理の詳細について説明する。ステップS521において、損傷決定部203は、展開平面画像101を用いて、下水管150に欠落が発生しているか否かを判定する。欠落が発生していないと判定した場合(ステップS521のNO)、管渠損傷特定装置100は、ステップS523へ進む。ステップS523において、損傷決定部203は、展開平面画像101を用いて、下水管150にひび割れが発生しているか否かを判定する。ひび割れが発生していると判定した場合(ステップS523のYES)、管渠損傷特定装置100は、ステップS525へ進む。ステップS525において、損傷決定部203は、発生しているひび割れの方向が、軸方向か周方向かを判定する。軸方向のひび割れと判定した場合(ステップS525のYES)、管渠損傷特定装置100は、ステップS527へ進む。ステップS527において、損傷決定部203は、ひびわれの長さが下水管150のジョイントとジョイントとの間の長さ(管径)の1/2未満か否かを判定する。管径の1/2未満と判定した場合(ステップS527のYES)、管渠損傷特定装置100は、ステップS529へ進む。ステップS529において、損傷決定部203は、損傷としてのひび割れの損傷種類として、破損bに該当すると判定する。管径の1/2未満でないと判定した場合(ステップS527のNO)、管渠損傷特定装置100は、ステップS531へ進む。ステップS531において、損傷決定部203は、損傷としてのひび割れの損傷種類として、破損aに該当すると判定する。ステップS521において、欠落が発生していると判定した場合(ステップS521のYES)、管渠損傷特定装置100は、ステップS533へ進む。ステップS533において、損傷決定部203は、欠落と判定する。
【0051】
周方向のひび割れと判定した場合、管渠損傷特定装置100は、ステップS535に進む。ステップS535において、損傷決定部203はひび割れの長さが、下水管150の円周の2/3未満か否かを判定する。円周の2/3未満と判定した場合(ステップS535のYES)、管渠損傷特定装置100は、ステップS537へ進む。ステップS537において、損傷決定部203は、損傷としてのひび割れの損傷種類として、クラックbと判定する。
【0052】
ステップS535において、円周の2/3未満でないと判定した場合(ステップS535のNO)、管渠損傷特定装置100は、ステップS539へ進む。ステップS539において、損傷決定部203は、クラックaと判定する。ステップS523において、ひび割れが発生しいないと判定した場合(ステップS523のNO)、管渠損傷特定装置100は、処理を終了する。
【0053】
本実施形態によれば、人工知能による機械学習を用いて、管渠に発生した損傷の損傷種類を特定するための損傷種類特定モデルを生成するので、管渠に発生した損傷の損傷種類を精度高く迅速に判定することができる。
【0054】
[他の実施形態]
以上、実施形態を参照して本発明を説明したが、本発明は上記実施形態に限定されるものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得る様々な変更をすることができる。また、それぞれの実施形態に含まれる別々の特徴を如何様に組み合わせたシステムまたは装置も、本発明の範疇に含まれる。
【0055】
また、本発明は、複数の機器から構成されるシステムに適用されてもよいし、単体の装置に適用されてもよい。さらに、本発明は、実施形態の機能を実現する情報処理プログラムが、システムあるいは装置に直接あるいは遠隔から供給される場合にも適用可能である。したがって、本発明の機能をコンピュータで実現するために、コンピュータにインストールされるプログラム、あるいはそのプログラムを格納した媒体、そのプログラムをダウンロードさせるWWW(World Wide Web)サーバも、本発明の範疇に含まれる。特に、少なくとも、上述した実施形態に含まれる処理ステップをコンピュータに実行させるプログラムを格納した非一時的コンピュータ可読媒体(non-transitory computer readable medium)は本発明の範疇に含まれる。