IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社東芝の特許一覧 ▶ 東芝電機サービス株式会社の特許一覧

特開2024-176373管内検査装置、管内検査方法、およびプログラム
<>
  • 特開-管内検査装置、管内検査方法、およびプログラム 図1
  • 特開-管内検査装置、管内検査方法、およびプログラム 図2
  • 特開-管内検査装置、管内検査方法、およびプログラム 図3
  • 特開-管内検査装置、管内検査方法、およびプログラム 図4
  • 特開-管内検査装置、管内検査方法、およびプログラム 図5
  • 特開-管内検査装置、管内検査方法、およびプログラム 図6
  • 特開-管内検査装置、管内検査方法、およびプログラム 図7
  • 特開-管内検査装置、管内検査方法、およびプログラム 図8
  • 特開-管内検査装置、管内検査方法、およびプログラム 図9
  • 特開-管内検査装置、管内検査方法、およびプログラム 図10
  • 特開-管内検査装置、管内検査方法、およびプログラム 図11
  • 特開-管内検査装置、管内検査方法、およびプログラム 図12
  • 特開-管内検査装置、管内検査方法、およびプログラム 図13
  • 特開-管内検査装置、管内検査方法、およびプログラム 図14
  • 特開-管内検査装置、管内検査方法、およびプログラム 図15
  • 特開-管内検査装置、管内検査方法、およびプログラム 図16
  • 特開-管内検査装置、管内検査方法、およびプログラム 図17
  • 特開-管内検査装置、管内検査方法、およびプログラム 図18
  • 特開-管内検査装置、管内検査方法、およびプログラム 図19
  • 特開-管内検査装置、管内検査方法、およびプログラム 図20
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024176373
(43)【公開日】2024-12-19
(54)【発明の名称】管内検査装置、管内検査方法、およびプログラム
(51)【国際特許分類】
   G01N 21/954 20060101AFI20241212BHJP
【FI】
G01N21/954 A
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2023094863
(22)【出願日】2023-06-08
(71)【出願人】
【識別番号】000003078
【氏名又は名称】株式会社東芝
(71)【出願人】
【識別番号】598076591
【氏名又は名称】東芝インフラシステムズ株式会社
(74)【代理人】
【識別番号】110003708
【氏名又は名称】弁理士法人鈴榮特許綜合事務所
(72)【発明者】
【氏名】助川 寛
(72)【発明者】
【氏名】朴 英
(72)【発明者】
【氏名】君山 健二
(72)【発明者】
【氏名】杉野 寿治
(72)【発明者】
【氏名】中村 健介
【テーマコード(参考)】
2G051
【Fターム(参考)】
2G051AA82
2G051AB01
2G051AB02
2G051AC17
2G051CA04
2G051FA01
(57)【要約】
【課題】 効率良く管内を検査できるようにすること。
【解決手段】 実施形態の管内検査装置は、管内を移動するカメラで撮影して得られる複数の映像、または1つの映像を構成する複数の映像部分に対し、当該複数の映像または複数の映像部分のそれぞれに含まれる個々の画像のうち撮影時刻が異なり撮影位置が同じである画像どうしを対応付ける位置合わせを行う映像位置合わせ部と、前記位置合わせの行われた複数の映像または複数の映像部分を、比較できるように並べて表示装置に表示させる出力処理部とを具備し、前記出力処理部は、前記撮影時刻が異なり撮影位置が同じである画像どうしを同時に表示させる。
【選択図】 図13
【特許請求の範囲】
【請求項1】
管内を移動するカメラで撮影して得られる複数の映像、または1つの映像を構成する複数の映像部分に対し、当該複数の映像または複数の映像部分のそれぞれに含まれる個々の画像のうち撮影時刻が異なり撮影位置が同じである画像どうしを対応付ける位置合わせを行う映像位置合わせ部と、
前記位置合わせが行われた複数の映像を、比較できるように並べて表示装置に表示させる出力処理部と、を具備し、
前記出力処理部は、前記撮影時刻が異なり撮影位置が同じである画像どうしを同時に表示させる、
管内検査装置。
【請求項2】
前記出力処理部は、前記複数の映像部分として、カメラが管内の往路を移動して撮影した往路の映像部分と、前記往路と逆方向の復路を移動して撮影した復路の映像部分とを、比較できるように並べて表示装置に表示させる、
請求項1に記載の管内検査装置。
【請求項3】
前記出力処理部は、前記往路の映像部分と前記復路の映像部分のそれぞれに含まれる個々の画像の中から、それぞれ代表として選択される1つ以上の代表画像であって、撮影時刻が異なり撮影位置が同じである代表画像どうしを、比較できるように並べて表示させる、
請求項2に記載の管内検査装置。
【請求項4】
前記出力処理部は、前記複数の映像として、同一の管で異なる撮影時間帯に撮影された複数の映像を、比較できるように並べて表示装置に表示させる、
請求項1に記載の管内検査装置。
【請求項5】
前記出力処理部は、前記同一の管で異なる撮影時間帯に撮影された複数の映像のそれぞれに含まれる個々の画像の中から、それぞれ代表として選択される1つ以上の代表画像であって、撮影時刻が異なり撮影位置が同じである代表画像どうしを、比較できるように並べて表示させる、
請求項4に記載の管内検査装置。
【請求項6】
管内の映像から3次元情報を復元する3次元情報取得部をさらに具備し、
前記出力処理部は、前記3次元情報をもとに、利用者が画像上で指定する対象物の長さ・面積・体積のいずれか少なくとも一つを計測して、計測結果を表示する、
請求項1に記載の管内検査装置。
【請求項7】
前記出力処理部は、
利用者が前記対象物の計測範囲を指定することを可能にする画像を表示する、
請求項6に記載の管内検査装置。
【請求項8】
前記出力処理部は、
利用者が前記対象物の計測範囲を指定することを可能にする前記3次元情報に基づく画像を表示する、
請求項6に記載の管内検査装置。
【請求項9】
映像位置合わせ部により、管内を移動するカメラで撮影して得られる複数の映像、または1つの映像を構成する複数の映像部分に対し、当該複数の映像または複数の映像部分のそれぞれに含まれる個々の画像のうち撮影時刻が異なり撮影位置が同じである画像どうしを対応付ける位置合わせを行うことと、
出力処理部により、前記位置合わせの行われた複数の映像または複数の映像部分を、比較できるように並べて表示装置に表示させ、前記撮影時刻が異なり撮影位置が同じである画像どうしを同時に表示させることと、
を含む、管内検査方法。
【請求項10】
1つまたは複数のコンピュータに、
管内を移動するカメラで撮影して得られる複数の映像、または1つの映像を構成する複数の映像に対し、当該複数の映像または複数の映像部分のそれぞれに含まれる個々の画像のうち撮影時刻が異なり撮影位置が同じである画像どうしを対応付ける位置合わせを行う機能と、
前記位置合わせの行われた複数の映像または複数の映像部分を、比較できるように並べて表示装置に表示させ、前記撮影時刻が異なり撮影位置が同じである画像どうしを同時に表示させる機能と、
を実現させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、管内検査装置、管内検査方法、およびプログラムに関する。
【背景技術】
【0002】
水道管などの管は、長年の使用により管内に堆積物やサビなどが生じると、異物の堆積・付着や、管の内面の劣化・剥離などが起こり、管内に各種の異常が生じる。
【0003】
水道管などの管内を検査するためには、例えば管内にカメラを挿入し、カメラを管内で移動させたり途中で止めたりしながら管内全域を撮影し、これより得られる映像に基づき、管の異常の有無などを調べる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特許第6532412号公報
【特許文献2】特開2021-162547号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
管内検査では、撮影を終えた管の映像から、例えば管の劣化状況を検証したり、管の洗浄前後の状態の違いを検証したりすることがある。その際に、複数の映像を比較することがよく行われる。しかし、複数の映像はそれぞれカメラの移動した軌跡が異なることが多いため、見比べるべき同じ撮影位置のフレームどうしを思うように突き合わせることができず、上記したような検証を正しく行うことができないことが多い。そのため、対処に手間取り、検査を効率良く進めることができないことがある。
【0006】
発明が解決しようとする課題は、効率良く管内を検査することを可能にする、管内検査装置、管内検査方法、およびプログラムを提供することにある。
【課題を解決するための手段】
【0007】
実施形態の管内検査装置は、管内を移動するカメラで撮影して得られる複数の映像、または1つの映像を構成する複数の映像部分に対し、当該複数の映像または複数の映像部分のそれぞれに含まれる個々の画像のうち撮影時刻が異なり撮影位置が同じである画像どうしを対応付ける位置合わせを行う映像位置合わせ部と、前記位置合わせの行われた複数の映像または複数の映像部分を、比較できるように並べて表示装置に表示させる出力処理部とを具備し、前記出力処理部は、前記撮影時刻が異なり撮影位置が同じである画像どうしを同時に表示させる。
【図面の簡単な説明】
【0008】
図1図1は、実施形態に係る管内検査装置を含むシステム全体の構成の一例を示す図である。
図2図2は、実施形態による管内検査装置1の構成の例を示す図である。
図3図3は、水道管3にカメラ4が挿入された状態の一例を示す図である。
図4図4は、カメラ4により実際に撮影された映像に含まれる画像の一例を示す図である。
図5図5は、ケーブル長を示す情報(即ち、カメラ4の位置情報)が表示された画像の一例を示す図である。
図6図6は、管内を往復移動するカメラ4の位置と時間(フレーム)との関係を示す図である。
図7図7は、フレームの対応付けに使用するテーブルの例(その1)および当該テーブルを用いてフレームを対応付けした結果をまとめたテーブルの例を示す図である。
図8図8は、フレームの対応付けに使用するテーブルの例(その2)および当該テーブルを用いてフレームを対応付けした結果をまとめたテーブルの例を示す図である。
図9図9は、出力処理部80に備えられる各種の機能により実現される画面の遷移の一例を示す図である。
図10図10は、映像リスト画面51Aの一例を示す図である。
図11図11は、映像解析結果確認画面52Aの一例を示す図である。
図12図12は、タイムバー52cの例を拡大して示す図である。
図13図13は、往路復路比較画面53Aの一例を示す図である。
図14図14は、往路復路比較リスト画面53A’の一例を示す図である。
図15図15は、差分比較画面54Aの一例を示す図である。
図16図16は、差分比較リスト画面54A’の一例を示す図である。
図17図17は、2D計測画面55Aの一例を示す図である。
図18図18は、3D計測画面56Aの一例を示す図である。
図19図19は、実施形態による管内検査装置の動作の一例を示すフローチャートである。
図20図20は、出力処理部80によるUIに関わる動作の一例を示すフローチャートである。
【発明を実施するための形態】
【0009】
以下、図面を参照して、実施の形態について説明する。
【0010】
<システム構成>
図1は、実施形態に係る管内検査装置を含むシステム全体の構成の一例を示す図である。
【0011】
本実施形態では、一例として水道管(上水管)の管内の検査、特に不断水検査として管内が満水の状態で管内の検査を行うことを前提に説明するが、本実施形態はこの例に限定されるものではなく、例えば下水管などを含む各種管の管内の検査にも適用することが可能である。
【0012】
本実施形態に係る管内検査装置1は、例えば、図1に示されるように現場2に設置された水道管3の管内を撮影するカメラ4の映像に基づいて管内の検査を行う。カメラ4で撮影された映像は、情報端末(例えば、パーソナルコンピュータ、スマートフォン、もしくはタブレット)に取り込まれる。映像は、例えば複数の画像(フレーム)からなる動画である。また、情報端末には、カメラに付随する属性を示す属性情報が保管されてもよい。撮影された映像(即ち、動画)は、例えば複数の連続した画像(フレーム)からなる映像データ(ファイル)として、記録媒体5に記録されるか、あるいは、ネットワーク上(クラウド上)の所定のサーバの記憶部にアップロードされて保管される。
【0013】
管内検査装置1は、記録媒体5に記録された映像データを取り込むか、あるいは、所定のサーバの記憶部に保管されている映像データを取り込み、これらを用いて管内の検査を行う。属性情報は、映像データと共に記録媒体5やサーバを経由して管内検査装置1に取り込まれるようにしてもよいし、映像データとは異なるルートで、記録媒体5やサーバを経由せずに管内検査装置1に取り込まれるようにしてもよい。
【0014】
実施形態による管内検査装置1の構成の例を図2に示す。図2は、管内検査装置1の構成の一例を示す図である。
【0015】
図2に示される管内検査装置1は、各種の機能として、映像入力部10、属性情報入力部11、カメラ位置・動き検知部20、異常検知部30、統合判定部40、映像位置合わせ部50、3次元情報取得部60、情報管理部70、および出力処理部80を備える。これらの機能の一部または全部は、1つまたは複数のコンピュータに実行させるためのプログラムとして実現される。
【0016】
なお、図2に図示される構成例は一例であって、この例に限定されるものではない。例えば、管内検査装置1は、1つの装置に限らず、複数の装置により構成されてもよいし、これらの複数の装置が別々の場所に存在していてもよい。また、上記した各種の機能も別々の装置に備えられ、別々の場所に存在していてもよい。
【0017】
例えば、映像入力部10、属性情報入力部11、カメラ位置・動き検知部20、異常検知部30、統合判定部40、映像位置合わせ部50、3次元情報取得部60、および情報管理部70は、所定のサーバに備えられ、出力処理部80は、任意の情報端末(例えば、パーソナルコンピュータ、スマートフォン、もしくはタブレット)に備えられる、といった形態であってもよい。この場合、出力処理部80は、UI(User Interface)を実現するプログラムとして、所定のサーバから任意の情報端末側に予め提供されたものであってもよい。
【0018】
映像入力部10は、水道管3の管内を撮影したカメラ4の映像データを入力する。
【0019】
属性情報入力部11は、カメラ4の属性情報を入力する。当該属性情報は、カメラ位置・動き検知部20、異常検知部30、および情報管理部70に供給され、各部の処理において必要に応じて使用される。
【0020】
カメラ位置・動き検知部20は、映像入力部10により入力される映像データおよび属性情報入力部11により入力される属性情報を用いて、管内におけるカメラ4の位置または動きを検出する。
【0021】
異常検知部30は、カメラ位置・動き検知部20により検出されるカメラ4の位置や動きに応じて、カメラ4が撮影する検知対象の映像データの中から1つ又は複数の画像を選択し、選択した画像を用いて管内の各検知対象の異常の有無および異常レベルを判定し、判定した結果を検知対象毎に異常検知結果として生成する。
【0022】
ここでいう検知対象とは、(1)サビ、(2)堆積物、(3)部分的な異物の付着・管表面の防食の劣化、(4)管内全体に膜状に付着した汚れ、および、(5)浮遊物のいずれかを指す。
【0023】
統合判定部40は、異常検知部30により検知対象毎に生成された異常検知結果を統合して、管内の異常のレベルを示す統合判定結果を生成する。
【0024】
映像位置合わせ部50は、映像入力部10により入力された映像およびカメラ位置・動き検知部20により検出されるカメラ4の位置や動きの情報を用い、管内を移動するカメラで撮影して得られる複数の映像、または1つの映像を構成する複数の映像部分に対し、当該複数の映像または複数の映像部分のそれぞれに含まれる個々の画像(フレーム)のうち撮影時刻が異なり撮影位置が同じである画像どうしを対応付ける位置合わせを行う。
【0025】
3次元情報取得部60は、映像入力部10により入力された映像から3次元情報を復元する。3次元情報は、3次元的な立体感のある画像を形成する情報である。3次元情報の生成方法等については、後で説明する。
【0026】
情報管理部70は、カメラ位置・動き検知部20により検出されたカメラ4の位置や動きの情報、異常検知部30により検知対象毎に生成された異常検知結果および統合判定部40により生成された統合判定結果を含む情報、映像位置合わせ部50により生成された映像位置合わせ結果を含む情報、3次元情報取得部60により復元された3次元情報を含む情報、属性情報入力部11により入力された属性情報などを管理する。
【0027】
出力処理部80は、利用者の操作を受け付け、利用者の操作に応じて情報管理部70で管理される各種の情報を表示装置に出力する。
【0028】
<主要な構成要素の詳細>
以下に、管内検査装置1を構成する主要な要素について詳細に説明する。
【0029】
・映像入力部10
映像入力部10は、管内を撮影したカメラ4の映像データを所定の情報端末から記録媒体5経由もしくはサーバ経由で取得して入力する。例えば図1に示されるように映像データのファイルをSDカードなどの記録媒体5に保存し、その記録媒体5を読み込むリーダーによってそのファイルを読み取ることで映像データの入力を行うことができる。
【0030】
図3に、水道管3にカメラ4が挿入された状態の一例を示す。ここで、カメラ4は、図3に示されるように、現場2において水道管3の管内を移動するため、全体として防水加工が施されていてもよい。また、カメラ4には、照明を付けて管内を明るくする機能や、当該カメラ4が常に上下・水平を保つような回転機構が備わっていてもよい。このカメラ4に長いケーブル6を接続し、消火栓7等からそのケーブル6を押し込むことにより水道管3内にカメラ4を挿入し、水道管3内の撮影を行う。撮影では、カメラ4を上流側と下流側の双方に挿入させる。これを実現するため、消火栓7から水道管3に到達するところまでに配置された治具により、カメラ4を挿入する方向を制御することができるようになっている。
【0031】
また、カメラ4には、カメラ4の向きや動きの情報を得るために、ジャイロセンサや加速度センサなどのセンサを搭載し、これらによりカメラ4の向きや動きを検出するようにしてもよい。この場合、センサはカメラ4の動きや位置を計測できるものであれば種類は問わない。カメラ4の向きや動きの情報は、カメラ位置・動き検知部20においてカメラ4の動きや位置を検出する際に利用することができる。
【0032】
カメラ4の映像は、ケーブル6を経由して消火栓7の外にある情報端末に供給され、前述したように記録媒体5に記録されるか、もしくはクラウド上の所定のサーバにアップロードされて所定の記憶部に保管される。映像の記録方式はどのような方式でもよく、方式は問わない。例えばアナログNTSC方式でもよいし、また、デジタル未圧縮の形態でもよいし、デジタル符号化の形態でもよい。
【0033】
図4に、カメラ4により実際に撮影された映像に含まれる画像の一例を示す。正常であれば円筒状の管内に異物は殆ど見られないが、管内に異常が生じていると、図4(a)のように管内で異物が堆積して付着している状態や、管の内面が劣化して剥離している状態、図4(b)のように管内で異物が浮遊物として水に混じって流れている状態などが撮影される。
【0034】
・属性情報入力部11
続いて属性情報入力部11について説明する。
【0035】
属性情報は、前述したように、映像データと共に記録媒体5やサーバを経由して管内検査装置1に取り込まれるようにしてもよいし、映像データとは異なるルートで、記録媒体5やサーバを経由せずに管内検査装置1に取り込まれるようにしてもよいが、カメラ4からまたはキーボードやマウスなどの入力装置から入力してもよい。その場合、カメラ4内のセンサ等から得られる情報を属性情報としてもよい。いずれかの形で生成された属性情報をデータファイルとしてSDカードなどの記録媒体に保存し、その媒体を読み込むリーダーによってそのファイルを読み取ることで属性情報の入力を行うようにしてもよい。
【0036】
属性情報入力部11が入力する属性情報には、例えばカメラ4を水道管3の管内に挿入した際のケーブル6の長さ(ケーブル長)を示す情報があり、これは管内におけるカメラ4の位置情報となる。図5に、ケーブル長を示す情報(即ち、カメラ4の位置情報)が表示された画像の一例を示す。
【0037】
ケーブル長を示す情報は、映像データの所定位置に重畳して記録することにより、後述のカメラ位置・動き検出部20において利用することが可能となる。映像をデジタル形式で記録するのであれば、ケーブル長を示す情報を、映像データ中に重畳するのではなく、映像データと同期させて記録するようにしてもよい。
【0038】
属性情報入力部11では、他の属性情報を入力することも可能である。例えば、水道管の位置(地名・緯度経度・住所など)、水道管の種類、水道管の管径、水道管の布設年度、前回検査日時やその時の診断結果、またカメラの型式やレンズパラメータなどの属性情報を、映像を記録する記録媒体に関連付けて記録することで、属性情報入力部11での入力が可能になる。
【0039】
また、カメラ4にジャイロセンサや加速度センサなどのセンサが搭載される場合には、それらをもとにカメラ4の位置や動きを示す情報を属性情報とし、当該属性情報を後述のカメラ位置・動き検出部20で利用するようにしてもよい。
【0040】
・カメラ位置・動き検出部20
カメラ位置・動き検出部20は、管内におけるカメラ4の現在の位置を検出するとともに、カメラ4の動きの有無なども併せて検出する。本例の場合は、映像データおよび属性情報が映像入力部10および属性情報入力部11を経由してカメラ位置・動き検出部20に入力されることを前提としており、当該映像データおよび属性情報を用いてカメラ位置・動き検出部20がカメラ4の位置と動きの検出を行う。
【0041】
以下に、映像データを用いてカメラ4の位置・動きを検出する手法について説明する。
【0042】
(1)カメラの位置の検出
最初に、カメラ4の位置の検出について説明する。カメラ4の位置の検出は、最も簡単な手法としては、属性情報入力部11により入力される属性情報からケーブル長を示す情報(即ち、カメラ4の位置情報)を読み取ることで実現可能である。映像データがデジタル形式であれば、映像データ中の各フレームに対応させてケーブル長を示す情報を埋め込んでおいてその値を読み取るだけで実現可能である。
【0043】
映像データ中にケーブル長を示す情報を重畳して記録している場合には、光学文字認識(OCR)を用いてその情報を読み取ればよい。この場合、カメラ4内の文字表示領域を指定することなく、個々の画像から文字が横に並んでいる領域を見つけることで認識が可能となる。例えば、0~9および小数点を示す「・」をテンプレートとして登録しておき、テンプレートマッチングで画像内を探索し、いずれかの文字とヒットする文字が横に並んでいる領域があることを利用して文字領域を見つけると同時に、最もヒットした数字のテンプレート情報から数値を読み取るようにしてもよい。
【0044】
図5の画像の例では、「1」「6」「・」「4」のテンプレートが画面右上の領域でマッチングスコアが高くなり、Y軸方向の位置がほぼ同じで左右に並んでいることから16.4と値を読み取ることが可能である。この場合の文字認識には、例えば以下の参考文献1の技術を利用してもよい。
【0045】
・参考文献1
「O.Hori,“A video text extraction method for character recognition”, Proceedings of the Fifth International Conference on Document Analysis and Recognition. ICDAR '99 (Cat. No.PR00318)」
また、カメラ4の型式を指定する情報を、事前に属性情報に含めておくことにより、当該型式に応じてケーブル長を示す情報を表示する領域を設定するようにしてもよい。
【0046】
なお、ケーブル押し込み型のカメラの場合、押し込み時にはケーブル6がたわみ、引き戻し時にはケーブル6が伸びるため、同じ地点でもケーブル6の長さが違って表示される傾向がある。そのため、押し込み時と引き戻し時の往復の画像を比較して、類似した画像に対し引き戻し時のケーブル長の値を正式な値として補正するなどにより、位置の精度を高めるようにしてもよい。その際、類似画像を比較する手法を利用してもよいし、以下の参考文献2に示される単眼カメラによる3次元情報の再構成技術を用いることでより正確な位置を求めるようにしてもよい。
【0047】
・参考文献2
「関,“移動カメラ画像からの3次元形状復元・自己位置推定(SLAM)と高密度な3次元形状復元”,情報処理学会研究報告コンピュータビジョンとイメージメディア(CVIM),2014-CVIM-190,2014」
また、水道管3の種類がわかっていれば、管どうしの個々の接続部の位置がわかる。そこで、個々の接続部の位置が映像の中で同心円状の一定以上の輝度変化(エッジ)として現れる場合は、その同心円状のエッジが検出された数を数えることにより、カメラ4の位置を求めるようにしてもよい。
【0048】
(2)カメラの動きの検出
続いて、カメラ4の動きの検出について説明する。簡単な手法としては、画像全体でオプティカルフローを求め、フローの方向から消失点を求めた時に多くのフローベクトルが消失点を起点または終点としていることがわかれば、カメラ4が移動していることがわかる。
【0049】
ただし、水道管3内を撮影している場合、水道管3内に浮遊物があると管の奥に向かって、または管の奥から手前に浮遊物が流れてくるため、カメラ4が止まっていても消失点方向のベクトルが発生してしまうことがある。そこで、カメラ4が動くと露光時間内に画像が変化することによるぶれ(モーションブラー)が発生して画像全体がぼけることを検知することでカメラ4の動きの有無を判定するようにしてもよい。例えば、画像内のエッジ強度を求め、その値を累積することでエッジの累積強度がある閾値よりも大きくなった状態が停止状態、ある閾値よりも低くなった状態がぼけているため動いている状態と判定してもよい。
【0050】
なお、浮遊物の影響を減らすため、累積対象とする画素を管の周辺部(中央部を除く)に限るなど、領域を限定するようにしてもよい。また、エッジの強度は隣接画素とのエッジでなく、画像全体にFFTをかけて周波数の高い成分のパワーを累積することによって求めてもよい。例えば、浮遊物で発生する周波数を事前に求めておいてその周波数を除外することなどにより精度良く動きの有無を検出することができる。
【0051】
そのほか、NTSC(National Television Standards Committee)のアナログ信号形式で保存された映像に限定される手法であるが、この場合はインタレース方式により上下方向が1行ごとに交互に画像が記録されるので、カメラ4に動きがあった場合にコーミングノイズと呼ばれる縞状態のノイズが発生する。これは、奇数行と偶数行とで撮影する時間が異なるため、明るさに変化が発生したところに縞状になって輝度変化が発生することによる。そこで、この縞状の部分について、Y(x,y)を座標x,yの輝度値Yとしたとき、所定の係数をαとして、以下のような式を満たす画素が所定画素以上ある場合に、コーミングノイズ発生と判定し、カメラ4が動いていると判定するようにしてもよい。
【0052】
|Y(x,y)-Y(x,y-1)| > |(x,y)-y(x,y-2)|+α
上記式によれば通常なら輝度は空間内で滑らかに変化するため、1行上よりも2行上との輝度差の方が大きくなるのが通常だが、コーミングノイズが発生すると、2行上よりも1行上との輝度差の方が大きくなる。本手法ではそのような現象を利用している。
【0053】
属性情報入力部11からカメラ位置・動き検出部20に、カメラ4に搭載されたジャイロセンサや加速度センサなどのセンサの情報が入力されるのであれば、その情報を読みこむことによってカメラ4の動きの検出は容易に行える。この場合、水中の状況によらずカメラ4の動きを正確に検出することが可能となる。
【0054】
以上により、カメラ4の現在位置、およびカメラ4の動きの有無を検出することが可能となる。
【0055】
・異常検知部30
異常検知部30は、映像データから検知対象毎に水道管3内の異常の有無を検知するとともに異常のレベルを判定する。本実施形態では、検知対象として、(1)サビ、(2)堆積物、(3)部分的な異物の付着・管表面の防食の劣化、(4)管内全体に膜状に付着した汚れ、および、(5)浮遊物、を検知することを想定している。以下、各検知対象を検知する手法について説明する。
【0056】
(1)サビ
サビは、管の内面が腐食して錆びることにより発生し、色として赤茶色の状態になることが多い。管の内面は正常の状態では赤茶色になることはないため、色の検出により赤茶色の領域を見つけることでサビを検知することが可能である。
サビの異常のレベルは、例えば映像データから管内の形状や閉塞率をもとに判定してもよい。また、閉塞率を指標とする方法以外にも、画面内のサビの面積(画素数)の合計値、ラベリングなどによってサビの塊の大きさ、判定対象とする領域を事前に定め、その領域内のサビの面積を指標とすることなど、他の値を指標としてもよい。
【0057】
(2)堆積物
堆積物の検知では、管の下部に堆積している異物を堆積物として検知する。
堆積物の異常のレベルは、例えば面積や体積をもとに判定してもよい。また、面積や体積を指標とする方法以外にも、堆積物の存在する範囲の大きさやラベリングして求めた塊の数の多さなどを指標にしてもよい。
【0058】
(3)部分的な異物の付着・管表面の防食の劣化
正常な水道管は表面が一面同一の色となっているため、エッジ状の特徴が存在しない。一方、部分的な異物の付着・管表面の防食の劣化(以下、異物付着・内面劣化)の異常が発生するとエッジ状の特徴が映像に現れやすい。そこで、エッジ処理により検出されるエッジを利用することで、異物付着・内面劣化を検出することができ、その異常レベルを求めることができる。
例えば、図4(a)の画像の例に示されるように、エッジが検出されたらその連結範囲の外接矩形を求め、その外接矩形の面積をもとに異常レベルを判定してもよい。また、外接矩形の面積を指標とする方法以外にも、異常領域の数や分布範囲の大きさ(存在する異常の塊の全体の外接矩形の大きさ)などを指標にしてもよい。
【0059】
(4)管内全体に膜状に付着した汚れ
管内全体に膜状に付着した汚れ(以下、膜状の付着物)は、上記(3)に示した方法で検出することは困難である。そこで、管内表面の明るさや色の平均値を求め、正常時の状態との差分を求めることで、膜状の付着物を検出することができ、その異常レベルを求めることができる。
膜状の付着物の異常のレベルは、例えば正常状態との輝度の変化量の多さをもとに判定してもよい。輝度の変化量の多さを指標とする方法以外にも、カメラ4の跡の線の大きさ、例えば線の太さや長さ、面積、エッジ強度の累積値などを指標としてよい。
【0060】
(5)浮遊物
浮遊物は、管内を流れる水中に含まれる異物であり、図4(b)の画像の例に示されるようにオプティカルフローの形で映る。浮遊物は、当該オプティカルフローから検出することができる。
浮遊物の異常のレベルについては、例えば何も浮遊物がない状態を正常(例えばレベルS)とし、浮遊物の量が多くになるにつれて異常レベルを高める(悪化させる)といった判定を行ってもよい。
【0061】
・統合判定部40
統合判定部40は、前述した5種類の検知対象について、個別に異常を検知した後に、それらの結果の相互の関係性を利用して最終結果を出力する。なお、相互の関係性を利用せず、そのまま最終結果として出力しても問題ない。
【0062】
異常の統合判定結果を求める際には、例えば、検知対象毎の異常検知結果の相互の関係性に応じて、統合判定結果を生成する演算方法(重みづけ加算方法など)を変える(例えばマージや除外などを行う)ようにしてもよい。例えば、サビの判定の時はサビだけを利用するが、堆積物の判定の時はサビ・堆積物の両方を利用するなどの対応が可能である。
【0063】
異常の統合判定結果の求め方としては、例えば、Y(1)からY(5)が5種類の異常それぞれの最終結果、X1~X5が個別に求めた異常検知結果、a~eがそれぞれの重み係数であるとして、次の式のように各異常検知結果に所定の係数をかけることで重み付けをして最終結果を求めてもよい。
【0064】
Y(i) = a*X1 + b*X2 + c*X3 + d*X4 + e*X5
式中のそれぞれの係数を調整することにより、個別の依存関係が明確な場合に適切な対応が可能となる。例えば、堆積物の異常レベルを判定する場合、サビ・堆積物の異常検出結果のOR(論理和)をとった結果を異常検知結果として判定するようにすることや(上記Yの式の係数により実現が可能でもある)、所定の異常があった場合、別の異常検知結果から除外するなども上記式により可能である。
【0065】
また、所定の異常を先に求め、その結果を利用して別の異常検知の結果を調整するようにしてもよい。例えば、検知対象間の影響の有無に応じて、所定の検知対象の異常レベルを調整する(例えば堆積物は、浮遊物とまぎれやすいので、浮遊物の有無によって異常レベルを調整する)ようにしてもよい。
【0066】
例えば、浮遊物については、映像の全領域にまたがって発生するため、浮遊物の異常の有無や異常のレベルを先に判定し、浮遊物が多い時には他の異常検知対象の検知結果の基準を補正するようにしてもよい。浮遊物が多い時には画像中の異常が見えにくくなるため、本来ある異常が漏れてしまったり、逆に異常がないのに異常と判定されやすくなったりする。異常のレベルを所定のレベルで下げるようにしたり上げるようにしたりすることも可能であるほか、異常を判定する領域(区間)の領域の長さを浮遊物の量に応じて変えてもよい。例えば、浮遊物が多い時には長い範囲で求めた異常検知結果からレベル判定を行うことによりノイズの影響を軽減することができる。
【0067】
また、5種類の異常検知に限らず、管全体の総合判定結果として異常検知の種類によらず1つの総合判定結果を出力するようにしてもよい。これは、5種類の異常レベル判定結果の最悪値、平均値、重み付け加算などから求めれば実現が可能となる。
【0068】
・映像位置合わせ部50
映像位置合わせ部50は、前述したように、映像入力部10により入力された映像およびカメラ位置・動き検知部20により検出されるカメラ4の位置や動きの情報を用い、管内を移動するカメラ4で撮影して得られる複数の映像、または1つの映像を構成する複数の映像部分に対し、当該複数の映像または複数の映像部分のそれぞれに含まれる個々の画像のうち撮影時刻が異なり撮影位置が同じである画像どうしを対応付ける位置合わせを行う。
【0069】
本例では、位置合わせの例として以下に示す[A]と[B]の2種類を想定している。それぞれの実現方法について、以下に説明する。
【0070】
[A]1つの映像の中の異なる時間(フレーム)間で同じカメラ位置のフレームどうしを対応付ける方法
最初に、1つ目の映像の中の異なる時間のフレームの対応付け方法について説明する。
【0071】
まず、映像中の各フレームの位置情報の取得は、カメラ位置・動き検知部20の中で実施される映像中の位置情報の読み取りにより実現できる。具体的には、図5で説明したように、水道管3のカメラ映像ではカメラ4を押し込むために接続されたケーブルの挿入量に応じた文字情報が映像に埋め込まれており、この値を読み込むことで水道管3の入り口からの距離が求められる。この文字情報は同じ映像中の固定位置(カメラ4の種類によって異なる)に表示されるため、この領域の文字情報をOCR技術等で読み取ることで現状のカメラ位置を獲得する。なお、ケーブルを押し込む往路ではケーブルがたわみやすく実際のカメラ位置よりケーブル長は大きめに出るため、それを想定した補正処理(一定の比率で長さを減らすなど)をして精度を高めることもできる。
【0072】
図6に、管内を往復移動するカメラ4の位置と時間(フレーム)との関係を示す。
【0073】
水道管3の調査映像の場合、カメラ4を押し込んで撮影する往路の映像と、一番奥まで到達したらケーブルを引き戻すことでカメラ4が戻ってくる復路の映像とが撮影される。
【0074】
図6に示されるように、映像の前半は往路に対応し、映像の後半は復路に対応する。この場合、映像の前半と後半とで水道管3内の同一地点を通過することになる。そこで、往路の各映像に対し、復路で撮影した映像を対応付ける処理を行う。この処理は事前にOCR読み取り値のリセットする(管内に挿入した直後の基準位置を0.0mとするようにリセットする)ことを前提としており、また、映像の先頭と映像の最後の位置が0.0mとなることを前提としている。
【0075】
図7(a)に、フレームの対応付けに使用するテーブルの例(その1)を示す。
【0076】
縦軸は、往路(映像の最初から後半に向かって進む方向)に対応する映像のフレーム番号とそれぞれのカメラ位置(OCR読み取り値)を示し、横軸は、復路(映像の最後から前半に向かって逆向きに進む方向)に対応する映像のフレーム番号とそれぞれのカメラ位置(OCR読み取り値)を示す。
【0077】
(手順1)
まず、カメラ4の折り返し地点を映像中から求める。折り返し地点を求めるためには、OCR読み取り値の最大値を求めるとともに、カメラ4の動きが止まる場所をカメラ位置・動き検知部20の検知結果から求める。図7(a)では映像全体が9フレームの中で、3.0mがOCR読み取り値の最大値であるため、折り返し地点を5フレーム目とする。
【0078】
(手順2)
映像の先頭で基準の0.0mとなるフレームをFA、映像の最後に0.0mとなるフレームをFBと設定する。図7(a)ではFA=1、FB=9となる(数値はフレーム番号を表す)。
【0079】
(手順3)
FA/FBのフレームの画像におけるOCR読み取り値をそれぞれOCR(FA)/OCR(FB)として比較する。
【0080】
OCR(FA)=OCR(FB)の場合:FAは1フレーム加算、FBは1フレーム減算する。
【0081】
OCR(FA)>OCR(FB)の場合:FAはそのまま、FBは1フレーム減算する。
【0082】
OCR(FA)<OCR(FB)の場合:FAは1フレーム加算、FBはそのままとする。
【0083】
このようにすることでOCR読み取り値が常に同じ値となるように往路と復路のフレームを対応付けできる。
【0084】
この処理をFAもFBも折り返し地点に到達するまで繰り返す。
【0085】
以下に、図7(a)のテーブルに基づく具体的な処理例を示す。
【0086】
テーブル内で「スタート」と記されたFA=1,FB=9の位置から開始する(テーブル内の(1))。
【0087】
次に、FA(frame=1)の読み取り値=0.0m、FB(frame=9)の読み取り値=0.0mであるため、FAを1フレーム加算、FBを1フレーム減算し、FA=2、FB=8として対応付ける(テーブル内の(2))。
【0088】
次に、FA(frame=2)の読み取り値=1.0m、FB(frame=8)の読み取り値=1.0mであるため、同じくFAを1フレーム加算、FBを1フレーム減算し、FA=3、FB=7として対応付ける(テーブル内の(3))。
【0089】
次に、FA(frame=3)の読み取り値=1.0m、FB(frame=7)の読み取り値=2.0mであるため、FAのみ1フレーム加算、FBはそのままでFA=4、FB=7として対応付ける(テーブル内の(4))。
【0090】
次に、FA(frame=4)の読み取り値=2.0m、FB(frame=7)の読み取り値=2.0mであるため、FAとFBそれぞれ1フレーム加算し、FA=5、FB=6として対応付ける(テーブル内の(6))。
【0091】
最後に、FA(frame=5)の読み取り値=3.0m、FB(frame=6)の読み取り値=2.0mであるため、FBのみ1フレーム減算しFA=5、FB=5として対応付ける(テーブル内の(7))。
【0092】
ここで、FAもFBも折り返し地点に到達したため対応付け処理を完了する。
【0093】
(手順4)
対応付けた結果を映像位置合わせ情報としてテーブルで管理する。
【0094】
(手順5)
次に、図7(a)のテーブルを用いてフレームを対応付けした結果を、別のテーブルにまとめて管理する。
【0095】
図7(b)に、図7(a)のテーブルを用いてフレームを対応付けした結果をまとめたテーブルの例を示す。
【0096】
図7(b)は、往路・復路のいずれの方向からも対応付けられたフレームを確認することが可能なテーブルの例である。横軸は、往路・復路のいずれにも適用される映像のフレーム番号とそれぞれのカメラ位置(OCR読み取り値)を示す。縦軸には、往路・復路の2項目が設けられている。
【0097】
1段目の往路の行には、往路の映像のフレーム番号1~5に対応する、復路の映像のフレーム番号が、対応付けの結果と共に記載されている。2段目の復路の行には、復路の映像のフレーム番号5~9に対応する、往路の映像のフレーム番号が、対応付けの結果と共に記載されている。
【0098】
往路と復路との間では、1つのフレームに対し複数のフレームが対応付けられることもあるため、必ずしも1:1の関係で対応付けられるわけではない。
【0099】
図7(b)のようなテーブルを管理しておくことで、往路・復路のいずれの方向からも対応付けられたフレームを即座に特定することができる。
【0100】
[B]2本以上の映像の間で同じカメラ位置のフレームどうしを対応付ける方法
次に、複数の映像間で対応付けする方法について説明する。
【0101】
ここでは、基本的に1つ目の映像のフレームを基準として、2つ目以降を対応付けする方法を例にして説明する。映像が3つ以上あったとしても、3つ目以降もここで説明する2つ目の映像を1つ目の映像に対して対応付けするのと同様に、いずれも1つ目の映像を基準として対応付けすれば、映像の数によらず対応付けを行える。
【0102】
図8(a)に、フレームの対応付けに使用するテーブルの例(その2)を示す。
【0103】
横軸は、1つ目の映像(映像1)のフレーム番号とそれぞれのカメラ位置(OCR読み取り値)を示し、縦軸は、2つ目の映像(映像2)のフレーム番号とそれぞれのカメラ位置(OCR読み取り値)を示す。
【0104】
(手順1)
まず、各映像でカメラ4の折り返し地点を映像中から求める。折り返し地点を求めるためには、OCR読み取り値の最大値を求めるとともに、カメラ4の動きが止まる場所をカメラ位置・動き検知部20の検知結果から求める。図6では映像1も映像2も3.0mがOCR読み取り値の最大値であるため、映像1ではOCR値が3.0mとなる7フレーム目を折り返し地点に、映像2では同様にOCR値が3.0mとなる5フレーム目を折り返し地点とする。
【0105】
(手順2)
映像1・映像2の先頭で基準の0.0mとなるフレームをそれぞれFA・FBと設定する。図6の例でも初期値はいずれも0.0mとなるためFA=1、FB=1となる。
【0106】
また往路と復路でOCR読み取り値の増分方向が異なるため、まずは往路モード(OCR値が増加する方向)で処理を進める。
【0107】
(手順3)
FA/FBのフレームの画像におけるOCR読み取り値をそれぞれOCR(FA)/OCR(FB)として比較する。
【0108】
・OCR(FA)=OCR(FB)の場合:FAとFBともに1フレーム加算する。
【0109】
・OCR(FA)>OCR(FB)の場合:FAはそのまま、FBは1フレーム加算する。
【0110】
・OCR(FA)<OCR(FB)の場合:FAは1フレーム加算、FBはそのままとする。
【0111】
このようにすることでOCR読み取り値が常に同じ値となるように1つ目と2つ目のフレームを対応付けできる。この処理をFAもFBも折り返し地点に到達するまで繰り返す。
【0112】
以下に、図8(a)のテーブルに基づく具体的な処理例を示す。
【0113】
テーブル内で「スタート」と記されたFA=1,FB=1の位置から開始する
次に、FA(frame=1)の読み取り値=0.0m、FB(frame=1)の読み取り値=0.0mであるため、FAとFBそれぞれ1フレーム加算し、FA=2、FB=8として対応付ける(テーブル内の(2))。
【0114】
次に、FA(frame=2)の読み取り値=1.0m、FB(frame=2)の読み取り値=1.0mであるため、同じくFAとFBそれぞれ1フレーム加算し、FA=3、FB=3として対応付ける(テーブル内の(3))。
【0115】
次に、FA(frame=3)の読み取り値=1.0m、FB(frame=3)の読み取り値=1.0mであるため、同じくFAとFBそれぞれ1フレーム加算し、FA=4、FB=4として対応付ける(テーブル内の(4))。
【0116】
次に、FA(frame=4)の読み取り値=2.0m、FB(frame=4)の読み取り値=2.0mであるため、同じくFAとFBそれぞれ1フレーム加算し、FA=5、FB=5として対応付ける(テーブル内の(5))。
【0117】
次に、FA(frame=5)の読み取り値=3.0m、FB(frame=5)の読み取り値=2.0mであるため、FBのみ1フレーム加算し、FA=5、FB=6として対応付ける(テーブル内の(6))。
【0118】
最後に、FA(frame=5)の読み取り値=3.0m、FB(frame=6)の読み取り値=2.0mであるため、FBのみ1フレーム加算し、FA=5、FB=7として対応付ける(テーブル内の(7))。
【0119】
ここで、FAもFBも折り返し地点に到達したため、対応付け処理を復路用に切り替える。
【0120】
(手順4)
次に、往路モードでは往路と逆でOCR値が小さくなる方向で位置合わせしながらフレームを進める。
【0121】
・OCR(FA)=OCR(FB)の場合:FAとFBともに1フレーム加算する。
【0122】
・OCR(FA)>OCR(FB)の場合:FAは1フレーム加算、FBはそのままとする。
【0123】
・CR(FA)<OCR(FB)の場合:FAはそのまま、FBは1フレーム加算する。
【0124】
(手順5)
対応付けた結果を映像位置合わせ情報としてテーブルで管理する。
【0125】
(手順6)
次に、図8(a)のテーブルを用いてフレームを対応付けした結果を、別のテーブルにまとめて管理する。
【0126】
図8(b)に、図8(a)のテーブルを用いてフレームを対応付けした結果をまとめたテーブルの例を示す。
【0127】
図8(b)は、映像1・映像2のいずれからも対応付けられたフレームを確認することが可能なテーブルの例である。横軸は、図8(a)の場合と同様に、映像1のフレーム番号とそれぞれのカメラ位置(OCR読み取り値)を示す。
【0128】
縦軸には、映像2のフレーム番号の項目のみが設けられている。ここの行には、映像1のフレーム番号1~11に対応する、映像2のフレーム番号が、対応付けの結果と共に記載されている。
【0129】
ここでは、1つ目の映像(映像1)を基準として2つ目の映像(映像2)を対応付けたテーブルの例を示しているが、映像が3本以上ある場合は、図8(b)の行方向に3つ目の映像のフレーム番号や4つ目の映像のフレーム番号の情報を追加して管理すれば、映像の数によらず対応付けを行える。
【0130】
図8(b)のようなテーブルを管理しておくことで、複数の映像のいずれからも対応付けられたフレームを即座に特定することができる。
【0131】
・3次元情報取得部60
3次元情報取得部60は、前述したように、映像入力部10により入力された映像から3次元情報を復元する。例えば単眼カメラで撮影された2次元の映像から、3次元情報を求める技術は多く開発されている。
【0132】
例えば、以下の参考文献の技術を使うことで実現ができる。
【0133】
・参考文献3
Masako Kashiwagiほか,“Deep Depth From Aberration Map”,Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV), 2019, pp. 4070-4079(https://openaccess.thecvf.com/content_ICCV_2019/html/Kashiwagi_Deep_Depth_From_Aberration_Map_ICCV_2019_paper.html)
・参考文献4
N. Mishima et al., “Absolute Scale from Varifocal Monocular Camera > through SfM and Defocus Combined,” BMVC, 2021.(https://www.bmvc2021-virtualconference.com/assets/papers/0287.pdf)
これらの技術によって得られる3次元情報として、映像中の各フレームの静止画に対し、各画素のカメラからの距離値を付与するRGB-D(RGBの色情報と距離値)を管理する方法でもよいし、それらの情報を3次元点群情報として管理してもよい。どちらも管内の所定の場所の色情報(RGB値)と、3次元的な距離情報(相対的な位置関係)を保持することができる。求めた3次元情報は、情報管理部70にて管理される。
【0134】
・情報管理部70
情報管理部70は、前述したように、カメラ位置・動き検知部20、異常検知部30、統合判定部40、映像位置合わせ部50、および3次元情報取得部60のそれぞれから供給される各種の情報を管理することで、出力処理部80における各種の画面表示やUI機能の実現を可能にする。
【0135】
情報管理部70は、カメラ位置・動き検知部20より得られる情報として、各フレーム単位でOCR読み取り値(カメラ位置)などを、例えばテーブル形式で管理する。
【0136】
また、情報管理部70は、異常検知部30および統合判定部40より得られる情報として、検知対象毎の異常検知結果および映像全体で1つの総合判定結果などを管理する。この場合、フレーム単位で、入力画像と処理結果画像(画素単位で異常の有無が表示される画像)および各異常に対するランク判定結果を、テーブル形式で管理する。
【0137】
また、情報管理部70は、映像位置合わせ部50より得られる情報として、映像の位置合わせ結果などを管理する。映像の位置合わせ結果は、指定された映像の数によって変わる。1つの映像の場合は、往路と復路の対応付けのみとなる。2本以上の映像の場合は、各映像内における往路・復路との対応付けと、映像間の対応付けの両方となる。
【0138】
また、情報管理部70は、3次元情報取得部60より得られる情報として、3次元情報などを管理する。3次元情報の例としては、各フレームのRGBD値や、水道管全体の3次元点群情報が挙げられる。
【0139】
・出力処理部80
出力処理部80は、前述したように、利用者の操作を受け付け、利用者の操作に応じて情報管理部70で管理される各種の情報を表示装置に出力する。
【0140】
例えば、出力処理部80は、映像位置合わせ部50で位置合わせの行われた複数の映像または複数の映像部分を、比較できるように並べて表示装置に表示させる機能を有する。
【0141】
また、出力処理部80は、複数の映像部分として、カメラ4が管内の往路を移動して撮影した往路の映像部分と、往路と逆方向の復路を移動して撮影した復路の映像部分とを、比較できるように並べて表示装置に表示させる機能を有する。
【0142】
また、出力処理部80は、往路の映像部分と復路の映像部分のそれぞれに含まれる個々の画像の中から、それぞれ代表として選択される1つ以上の代表画像であって、撮影時刻が異なり撮影位置が同じである代表画像どうしを、比較できるように並べて表示させる機能を有する。
【0143】
また、出力処理部80は、複数の映像として、同一の管で異なる撮影時間帯に撮影された複数の映像を、比較できるように並べて表示装置に表示させる機能を有する。
【0144】
また、出力処理部80は、同一の管で異なる撮影時間帯に撮影された複数の映像のそれぞれに含まれる個々の画像の中から、それぞれ代表として選択される1つ以上の代表画像であって、撮影時刻が異なり撮影位置が同じである代表画像どうしを、比較できるように並べて表示させる機能を有する。
【0145】
また、出力処理部80は、3次元情報取得部60が管内の映像から得る3次元情報をもとに、利用者が画像上で指定する対象物の長さ・面積・体積のいずれか少なくとも一つを計測して、計測結果を表示する機能を有する。
【0146】
また、出力処理部80は、利用者が対象物の計測範囲を指定することを可能にする画像を表示する機能を有する。
【0147】
また、出力処理部80は、利用者が対象物の計測範囲を指定することを可能にする上記3次元情報に基づく画像を表示する機能を有する。
【0148】
出力処理部80は、入力された映像、異常検知結果を比較しながら効率よく異常の内容を確認できる画面のほか、映像の一覧管理や、映像を比較表示する画面、映像の各種計測を行う画面など表示することが可能である。
【0149】
出力処理部80の機能を搭載可能なハードウェアの構成としては、例えばパーソナルコンピュータ(PC)と液晶ディスプレイ等の表示機器から構成されていてもよく、その場合、PC内に映像入力部10で撮影された映像、属性情報入力部11で入力された属性情報、異常検知部30・統合判定部40で検知・判定された結果を管理し、操作に応じて必要な画面をディスプレイ上に表示する。表示するデバイスは代表的な液晶ディスプレイを例に挙げるが、タブレットやスマートフォンでもよく、液晶と異なる方式のディスプレイでも同様に実現可能である。また、画面の操作や領域の指定、再生や停止等の制御をするための操作を可能にするため、マウスやタッチパネル等の画面操作用UIを有する。文字入力やショートカットキーによる操作効率化のためのキーボードも併せて接続してもよい。
【0150】
(各種の表示画面)
本実施形態では、表示される画面として以下の8種類の画面から構成される例を示す。
【0151】
図9に、出力処理部80に備えられる各種の機能により実現される画面の遷移の一例を示す。
【0152】
基本的な画像の構成として以下の8種類の例を示すが、画面をより細かく分割してもよいし、統合してより少ない画面で構成しても同様の機能が実現可能である。また、画面遷移の際には別ウィンドウを開いてもよいし、同じウィンドウの画面のレイアウト変更を行ってもよい。
【0153】
出力処理部80は、以下に示す各種の表示画面を表示装置に表示させる処理やその他作業者の入力操作に応じた各種の処理を行う。
【0154】
1)複数の映像を入力して一覧として管理する映像リスト画面51A
2)映像に対し入力映像と異常検知結果(映像解析結果)を表示する映像解析結果確認画面52A
3)映像解析結果確認画面52Aで表示されている映像に対し往路・復路に対応付けられた各映像を並べて表示し、各映像を再生しながら比較することができる往路復路比較画面53A
4)映像解析結果確認画面52Aで表示されている映像に対し往路・復路に対応付けられた各映像の代表画像を並べて表示し、各映像の代表画像を比較することができる往路復路比較リスト画面53A’
5)少なくとも2つ選択された撮影時間帯の異なる映像を並べて表示し、映像を再生しながら比較することができる差分比較画面54A
6)少なくとも2つ選択された撮影時間帯の異なる映像の代表画像を並べて表示し、代表画像を比較することができる差分比較リスト画面54A’
7)指定された映像の画面表示された画像において、画像中にある対象物の長さ・面積・体積を計測できる2D計測画面55A
8)指定された映像の画面表示された画像において、表示された画像に対応付けられた3次元点群を表示して、画像中にある対象物の長さ・面積・体積を計測できる3D計測画面56A
出力処理部80は、上で述べた表示画面以外の画面も、操作に応じて適宜表示させることができる。
【0155】
(画面遷移の概要)
本実施形態では、システムやプログラムの起動時は映像リスト画面51Aが表示される。映像リスト画面51Aでは、調査用の映像の一覧が表示され、この画面で編集・検索・追加・削除などが可能である。映像リストの中から映像を1つ選択した状態で、後述する「映像解析画面へ」を押すことで映像解析結果確認画面52Aを開くことができる。また、複数の映像を選択した状態から、後述する「差分比較画面へ」や「差分比較リスト画面へ」を押すことでそれぞれ差分比較画面54Aや差分比較リスト画面54A’を開くことができる。また、映像解析結果確認画面52Aにおいては、後述する「往路復路比較表示」ボタンや「往路復路比較リスト表示」ボタンを押すことでそれぞれ往路復路比較画面53Aや往路復路比較リスト画面53A’を開くことができ、後述する「2D計測」ボタンや「3D計測」ボタンを押すことでそれぞれ2D計測画面55Aや3D計測画面56Aを開くことができる。
【0156】
(各種の表示画面の構成)
図9に示される映像リスト画面51Aには、映像リスト51a、映像ファイル情報51b、ステータス情報51c、解析実行ボタン51d、映像解析結果確認表示ボタン51e、レポート表示ボタン51f、差分比較表示ボタン51g、差分比較リスト表示ボタン51hなどが表示される。
【0157】
また、映像解析結果確認画面52Aには、入力映像52a、処理結果映像52b、タイムバー52c、異常種別情報52d、部分判定バー52e、キャプチャアイコン領域52f、映像再生機能52g、画面拡大ボタン52h,52i、キャプチャ実行ボタン52j,52k、総合判定結果情報52l、部分判定結果情報52m、カラー切替ボタン52n、サムネイル表示領域52o、レポート表示ボタン52p、2D計測ボタン52r、3D計測ボタン52s、往路復路比較表示ボタン52t、往路復路比較リスト表示ボタン52uなどが表示される。
【0158】
往路復路比較画面53Aには、往路側の映像53a、復路側の映像53bなどが表示される。
【0159】
往路復路比較リスト画面53A’には、往路代表画像リスト53a’、復路代表画像リスト53b’などが表示される。
【0160】
差分比較画面54Aには、比較対象とする複数の映像54a,54b、映像ファイル情報54c、タイムバー54d、映像再生機能54e、スナップショット表示領域54f、スナップショット実行ボタン54g、レポート表示ボタン54h、映像位置合わせ表示再生用チェックボックス54i、映像位置合わせ表示再生機能54jなどが表示される。
【0161】
差分比較リスト画面54A’には、日付の異なる複数の代表画像リスト54a’などが表示される。
【0162】
2D計測画面55Aには、2D映像55a、計測結果表示領域55b、計測モード表示領域55cなどが表示される。
【0163】
3D計測画面56Aには、3D映像56a、計測結果表示領域56b、操作モード表示領域56c、計測モード情報56dなどが表示される。
【0164】
なお、これらの画面に表示される個々の情報の詳細については後で説明する。
【0165】
(各種の画面の詳細)
以下、図10図18を参照しながら、映像リスト画面51A、映像解析結果確認画面52A、往路復路比較画面53A、往路復路比較リスト画面53A’、差分比較画面54A、差分比較リスト画面54A’、2D計測画面55A、および3D計測画面56Aの詳細を説明する。
【0166】
なお、図10図18にそれぞれ示す画面の例は一例であって、その例に限定されるものではない。図10図18に表示される個々の情報は適宜、追加・変更・削除してもよい。
【0167】
(映像リスト画面51A)
図10に、映像リスト画面51Aの一例を示す。
【0168】
映像リスト画面51Aでは、映像リスト51aが表示される。映像リスト51aにおいては、個々の映像が、映像ファイル情報51bという単位で管理される。映像ファイル情報51bで管理される個々の映像は、ファイル形式の映像データ(映像ファイル)として扱われる。
【0169】
例えば画面右上にある「データ取込」と記されたボタンを押す(例えば入力装置によるクリックまたはタップをする)ことにより、記憶装置に既に記憶されている複数の映像データ(映像ファイル)のうち、映像リスト51aに追加したい映像ファイルを指定して、指定した映像ファイルの情報を映像リスト51aに追加することが可能になる。例えば「データ取込」と記されたボタンを押したときに、別のウィンドウが表示され、そのウィンドウの中で所望の映像ファイルを指定できるようにしてもよい。当該ウィンドウでは、キーワード(例えば、具体的な撮影日時、撮影場所など)を入力して絞り込みを行うことで所望の映像ファイルを指定できるようにしてもよいし、複数用意される選択肢(すなわち、複数の映像ファイル)の中から所望の映像ファイルを指定できるようにしてもよい。
【0170】
作業者が映像リスト51aに追加したい映像ファイルを指定すると、記憶装置に既に記憶されている複数の映像ファイルの中から、指定された映像ファイルが読み出され、映像リスト51a内にその映像ファイルの情報が取り込まれて追加される。
【0171】
本例では、映像ファイルを指定することで記憶装置からその映像ファイルの情報を映像リスト51a内に取り込む例を示しているが、別の端末からネットワーク経由で映像ファイルの情報を転送(アップロード)することで映像リスト51a内への取り込みを行ってもよいし、映像ファイルが記憶されているメモリカードなどのメディアをカードリーダなどに差し込むことによってそのメディアから映像ファイルの情報を読み出して映像リスト51a内に取り込むようにしてもよい。
【0172】
映像リスト51aに追加される映像ファイルには、映像に付随する情報(属性情報)が含まれていてもよい。また、属性情報は映像ファイルに含まれていてもよいが、属性情報を別のファイル(属性ファイル)に保管し、属性ファイルを映像ファイルと関連付けて管理するようにしてもよい。その場合、映像ファイルを指定したときに、その映像ファイルの情報とともに関連する属性ファイルの情報が映像リスト51a内に取り込まれるようにしてもよい。このとき、映像ファイルの情報と属性ファイルの情報とがまとめられ、1つのファイルの情報として映像リスト51a内に追加されるようにしてもよい。
【0173】
各映像ファイル情報51bにおいて表示される情報は、対応する映像に関連する情報を含む。ここには、当該映像に付随する属性情報が含まれてもよい。また、映像ファイル情報51bの内容は、後述するように作業者が自由に編集することができる。
【0174】
本例では、各映像ファイル情報51bが、リスト(表)形式で一覧表示される例を示しているが、この例に限定されるものではない。例えば、アイコンが並ぶ形式で各映像ファイル情報51bが表示されるようにしてもよい。
【0175】
図10の例では、映像リスト51aは、1つの映像につき映像ファイル情報51bを1行で表示している。映像リスト51aに表示される項目は、各映像ファイル情報51bで管理される映像ファイルのファイル名・撮影日時(撮影時間帯)・撮影場所・管の情報(口径・材質など)・敷設年度などを含む。これらの中には属性情報に相当するものが含まれてもよい。なお、列の方向に並ぶNo.の数字は、数字に限らず、アルファベットや記号など、映像を識別できる情報であればどんなものでもよい。
【0176】
映像ファイル情報51bにおいては、各項目の内容を作業者が直接編集できるようにしてもよいし、編集対象となる映像ファイル情報51bを選択し、かつ、例えば「情報入力」と記されたボタンを押した場合にのみ、編集を行えるようにしてもよい。また、編集においては、文字等の入力を行えるようにしてもよいし、予め用意された複数の選択肢の中から1つを選択できる(例えば、管の口径(cm)では、選択肢「100」,「150」,「200」等の中から1つを選択できる)ようにしてもよい。
【0177】
また、画面上部には、映像ファイルの検索に使用できる各種のコントロール(撮影場所、撮影日時、フリーキーワード等の条件の指定を可能とするコントロール)が配置されている。これらコントロールで具体的な撮影場所、撮影日時などの条件を指定した上で、「検索」と記されたボタンを押すと、条件に合致した映像ファイルの情報が映像ファイル情報51bとして映像リスト51aに表示される。
【0178】
例えば、撮影場所を指定した場合に、撮影場所が同じで撮影日時が異なる複数の映像ファイル情報51bが表示されれば、作業者はそれらを比較することが可能になる。また、撮影日時を指定した場合に、撮影日時が同じで撮影場所が異なる複数の映像ファイル情報51bが表示されれば、作業者はそれらを比較することが可能になる。
【0179】
なお、映像ファイルの検索を行う際に、上記コントロールを使用する代わりに、別のウィンドウを開けるようにし、そのウィンドウで条件を指定して検索を行えるようにしてもよい。その場合、複数の選択肢の中から1つを選択できるようにしてもよいし、キーワードを入力して検索を行えるようにしてもよい。
【0180】
また、画面右側に示されるように、各映像の処理の状態を示す項目として、映像ファイル情報51b毎にステータス情報51cが表示されてもよい。ステータス情報51cには、映像解析が済んでいない未解析の状態であれば「未解析」、映像解析が済んでいる解析済の状態(但し、レポートは未作成の状態)であれば「解析済」、解析済で且つレポートが作成済の状態であれば、「レポート作成済」といった3種類のステータスのいずれかが表示される。また、このようなステータスを検索の対象に含めて検索を行えるようにしてもよい。
【0181】
ステータスが「解析済」の場合は、総合判定結果に示される異常レベル(例えば、「S」、「A」、「B」、「C」、「D」のいずれか)が項目の1つとして表示されてもよい。
【0182】
ステータスが「未解析」の場合は、解析対象の映像を選択して解析実行ボタン51dを押すことにより、映像解析を実施することができる。映像解析が完了して映像解析結果が生成されると、ステータスが「解析済」に変わる。
【0183】
また、画面右下には、映像解析結果確認表示ボタン51e、レポート表示ボタン51f、差分比較表示ボタン51gがある。
【0184】
ステータスが「未解析」の1つの映像ファイル情報51bを選択した状態で、例えば「映像解析結果へ」と記された映像解析結果確認表示ボタン51eを押すことにより、対応する映像の映像解析結果確認画面52Aを開くことができる。映像解析結果確認表示ボタン51eを押す操作でなく、リストのダブルクリック(ダブルタップ)等で開けるようにしてもよい。ステータス表示が「解析済」となっていることが前提であるが、未解析の状態で映像解析結果確認表示ボタン51eを押した場合は、例えば「まだ映像解析をしていません」旨のメッセージを表示して映像解析の実行を作業者に促すようにしてもよい。
【0185】
また、ステータスが「レポート作成済」の1つの映像ファイル情報51bを選択した状態で、例えば「レポート画面へ」と記されたレポート表示ボタン51fを押すことにより、レポートの作成が可能なレポート画面を直接開くことができる。
【0186】
また、2つの映像ファイル情報51bを選択した状態で、例えば「差分比較画面へ」と記された差分比較表示ボタン51gを押すことにより、対応する2つの映像が並べられた差分比較画面54Aを開くことができる。
【0187】
また、複数の日付の異なる映像ファイル情報51bを選択した状態で、例えば「差分比較リスト画面へ」と記された差分比較リスト表示ボタン51hを押すことにより、対応する複数の日付の異なる代表画像が並べられた差分比較リスト画面54A’を開くことができる。
【0188】
なお、画面のレイアウトやウィンドウを別に開くかどうかなどは、設計上の事項であり、適宜変更して実施しても構わない。このことは、後述する各種の表示画面についても同じことが言える。
【0189】
(映像解析結果確認画面52A)
図11に、映像解析結果確認画面52Aの一例を示す。
【0190】
映像解析結果確認画面52Aには、入力映像52aおよび処理結果映像52bが比較しやすいように並んで表示される。入力映像52aには、映像リスト画面51Aにおいて指定された映像の例えば1フレーム分の画像が表示される。処理結果映像52bには、その画像に対して映像解析を行った処理結果が重畳された画像が表示される。具体的には、異常を示す領域に、色付けがされた状態で表示される。
【0191】
より具体的には、異常を示す領域に、検知対象としている異常種別(ここでは、「錆」、「堆積物」、「内面付着」、「異物付着」、「内面防食」、「浮遊物」)ごとに異なる色が色塗された状態で表示される。
【0192】
色塗表示には、異常種別を識別できるように異常種別毎に異なる色(ここでは、「錆」には桃色、「堆積物」には緑色、「内面付着」には紫色、「異物付着」には柿色、「内面防食」には青色、「浮遊物」には水色)が適用される第1のモードと、異常レベルを識別できるように異常レベル毎に異なる色(ここでは、「A」には緑色、「B」には黄緑色、「C」には橙色、「D」には赤茶色、「S」には色塗せず)が適用される第2のモードとが用意されており、いずれか一方のモードを後述するカラー切替ボタン52nで選択できるようになっている。
【0193】
図11の例では、処理結果映像52bにおいて、錆が検出された部分に、部分判定結果の異常レベルDを示す赤茶色が色塗された例が示されている。
【0194】
なお、本例では、異常種別の違いや異常レベルの違いを、色の違いで表現する場合を例示するが、この例に限定されるものではない。例えば、色の違いの代わりに、色のトーンの違い、色の透過度の違い等で表現してもよい。
【0195】
入力映像52aおよび処理結果映像52bの下側には、タイムバー52cがある。タイムバー52cは、カメラ4による撮影を開始してから終了するまでの映像の撮影時刻と管内の長手方向のカメラ位置との関係を示すグラフを含む。
【0196】
図12に、タイムバー52cの例を拡大して示す。タイムバー52c内のグラフでは、横軸に映像の撮影時刻、縦軸にカメラ位置をとり、グラフ中にカメラ4の動きTが示される。また、入力映像52aおよび処理結果映像52bにおいて表示される映像の時間軸上の位置と管内の長手方向のカメラ位置との関係が、縦長のポインターPが示される。タイムバー52cの下には、映像中の各フレームに対しカメラ位置・動き検知部20から求められるカメラ位置の情報を表示する。図12の例では、縦軸を示すカメラ位置は上端が0mで、下に向かうほどカメラが管の奥に進んだ状態となる。このグラフから、表示される映像のカメラ位置を確認できるだけでなく、カメラの動きやカメラが往路なのか復路なのかも確認することができる。
【0197】
ポインターPをドラッグ操作などにより左右に動かせば、それに連動して入力映像52aおよび処理結果映像52bも変化するようになっている。例えばポインターPを左右に移動させることにより、映像の任意の撮影時刻もしくは任意のカメラ位置のフレーム(画像)を探し(シークし)、任意の撮影時刻もしくは任意のカメラ位置の画像を入力映像52aおよび処理結果映像52bに表示させることができる。このとき入力映像52aおよび処理結果映像52bの中の右上には、カメラ位置を示す情報が表示される。撮影時刻も併せて表示されるようにしてもよい。
【0198】
タイムバー52cの下側には、異常種別情報52dと部分判定バー52eがある。図11の例では、異常種別情報52dにおいて、上から順に「錆」、「堆積物」、「内面付着」、「異物付着」、「内面防食」が配列され、それぞれの色が定義されている(但し、「浮遊物」の図示は省略されている)。この配列に対応するように、部分判定バー52e内には、「錆」、「堆積物」、「内面付着」、「異物付着」、「内面防食」に対応する複数のバーが配置されている。これら異常種別毎に配置された複数のバーは、それぞれ、異常が表われる時間軸上の位置において、異常レベル毎に異なる色で色塗されている。上述した縦長のポインターPは、部分判定バー52e内においても、左右に移動するようになっている。
【0199】
図11の例では、ポインターPが、「錆」に対応するバーにかかり、そのバーが赤茶色で表示されていることから、その映像時刻・カメラ位置における「錆」の異常レベルが「D」であることがわかる。
【0200】
よって、作業者はタイムバー52c、異常種別情報52d、部分判定バー52eおよびポインターPを参照することで、映像中におけるどの撮影時刻・カメラ位置のフレーム(画像)においてどの異常がどの異常レベルにて発生しているかを容易に把握できる。さらに作業者は、ポインターPをドラッグ操作などにより移動させることで、任意の撮影時刻・カメラ位置のフレーム(画像)を入力映像52aおよび処理結果映像52bに表示させ、異常の状況を視認することができる。
【0201】
部分判定バー52eの下側には映像再生機能52gがある。映像再生機能52gには、映像再生に関する各種のコントロールボタンが用意されており、作業者はこれらのボタンを操作することで、入力映像52aおよび処理結果映像52bの再生・停止・早送り・巻き戻し・コマ送り・コマ戻しを行えるようになっている。上述したポインターPは、映像の再生・停止・早送り・巻き戻し・コマ送り・コマ戻しに応じて左右に動く。
【0202】
入力映像52aおよび処理結果映像52bの上側には、総合判定結果情報52lおよび部分判定結果情報52mがある。総合判定結果情報52lは、映像全体としての異常レベルを示す総合判定結果の情報である。部分判定結果情報52mは、異常種別毎に、異常ランクの表示を行うか否かの選択を行うことを可能にするとともに、選択した異常種別について処理結果映像52b中の該当する領域に色付けがされるようにすることを可能にする情報である。
【0203】
画面拡大ボタン52h,52iは、それぞれ、押す操作を行うごとに、対応する映像が拡大した状態と通常の大きさの状態とが切り替えられる。例えば入力映像52aと処理結果映像52bのうち、入力映像52aをより詳細に確認したい場合、画面拡大ボタン52hを押すと、入力映像52aが拡大された状態で表示される。一方、入力映像52aと処理結果映像52bのうち、処理結果映像52bをより詳細に確認したい場合、画面拡大ボタン52iを押すと、処理結果映像52bが拡大された状態で表示される。
【0204】
キャプチャ実行ボタン52j,52kは、入力映像52aまたは処理結果映像52bから、現在表示されている画像をキャプチャして所定の記憶領域に保管するとともにその画像を小さくして例えばサムネイル画像として図11に示される画面右側のサムネイル表示領域52oに表示させることを可能にするボタンである。
【0205】
例えば映像52a,52bにおける代表的な異常が見られる画像(フレーム)をあとで改めて確認したい場合、キャプチャ実行ボタン52j,52kを押すことにより、当該画像をキャプチャし、キャプチャした画像を記憶装置に記録しておき、あとでその画像を確認することができる。
【0206】
キャプチャ実行ボタン52j,52kを押したときには、現在表示されている画像がキャプチャされ、キャプチャされた画像と、その画像に含まれる異常種別、各異常種別に対する異常レベル、カメラ位置、撮影時刻などの情報(対応する映像解析結果の情報を含む)とが関連付けられた状態で、また、記憶装置に記録されるとともに、図11に示される画面右側のサムネイル表示領域52oに追加される。
【0207】
サムネイル表示領域52oに追加されて表示されるものは、サムネイル画像と、それに関する異常種別、各異常種別に対する異常レベル、カメラ位置、撮影時刻を示す情報の少なくとも1つとを含む。
【0208】
サムネイル表示領域52oに複数のサムネイル画像がある場合、それらは見やすくなるように一覧表示される。サムネイル表示領域52oの中に、同一の映像で異なる時刻に撮影された画像が複数表示される場合、各画像が時刻順に並べられるようにしてもよいし、キャプチャした順に並べられるようにしてもよいし、撮影したときのカメラ位置の順に並べられるようにしてもよい。サムネイル画像の並びは作業者が自由に変えられるようにしてもよい。その場合、サムネイル表示領域52oなどに各種のソートを自由に行える機能が設けられてもよい。そのようにすると、作業者はサムネイル画像の並びを所望の順に並び替えることができ、使い勝手のよいものとすることができる。
【0209】
キャプチャ実行ボタン52jまたは52kが押されることで、映像中のある画像のキャプチャされた場合、当該画像がキャプチャ済みであることを示すキャプチャアイコンが、図11中の部分判定バー52eの下にあるキャプチャアイコン領域52fの中にマークや記号などとして表示される。当該画像のキャプチャアイコンが表示される位置は、当該画像が撮影された時刻を示している。キャプチャアイコンの上側には、例えば部分判定バー52e上を通ってタイムバー52cの方へ向けて縦に延びる棒状の線が同時に表示される。タイムバー52c内のグラフの横軸は、映像の撮影時刻を示しているため、当該棒状の線およびキャプチャアイコンの位置から、キャプチャを行った画像の撮影時刻を把握することができるとともに、部分判定バー52eの各バーから、当該画像にどのような異常種別が含まれ、各異常種別がどのような異常レベルを示しているのかを把握することができる。
【0210】
また、映像再生機能52gには、作業者がキャプチャアイコン領域52fの中のキャプチャアイコン及び棒状の線と、ポインターPとを参照しながら、キャプチャされた複数のフレーム(画像)をスキップさせることを可能にする機能が備えられている。
【0211】
また、映像再生機能52gは、再生・停止・早送り・巻き戻しに対応したボタンを含むことに加え、キャプチャしたフレーム(画像)をスキップさせるボタンをさらに含み、これらのボタンは、それぞれ、押されるたびに、キャプチャされた複数のフレーム(画像)を早送りの方向または巻き戻しの方向にスキップさせる。
【0212】
また、映像解析結果確認画面52Aには、2D計測ボタン52r、3D計測ボタン52s、往路復路比較表示ボタン52t、往路復路比較リスト表示ボタン52uが配置されている。
【0213】
往路復路比較表示ボタン52tを押すと、現在表示している画像(フレーム)を基準として、映像位置合わせ部50において対応付けた往路側・復路側の同一地点の画像を並べて比較表示する往路復路比較画面53Aが開かれる。また、往路復路比較リスト表示ボタン52uを押すと、往路の代表画像および復路の代表画像を含む往路復路比較リスト画面53A’が開かれる。
【0214】
また、2D計測ボタン52rや3D計測ボタン52sを押すと、映像解析結果確認画面52Aで表示されている映像に対し、長さ・面積・体積を計測するための計測用画面として2D計測画面55Aや3D計測画面56Aが開かれる。
【0215】
(往路復路比較画面53A)
図13に、往路復路比較画面53Aの一例を示す。
【0216】
往路復路比較画面53Aでは、同一の映像の行きと帰りの位置合わせ表示を行うことができる。
【0217】
往路復路比較画面53Aには、比較対象とする往路側の映像53aおよび復路側の映像53bのほか、往路側の映像53aおよび復路側の映像53bのそれぞれに対応する、映像ファイル情報53c、タイムバー53d、映像再生機能(再生コントロール)53eなどが表示される。タイムバー53dおよび映像再生機能(再生コントロール)53eは、前述した映像解析結果確認画面52A内のタイムバー52cおよび映像再生機能52gと同等の機能を有するものである。
【0218】
図13に示されるように、左側に往路側の映像53a、右側に復路側の映像53bが並んで表示され、それぞれの映像の下に再生コントロール53eが配置される。
【0219】
事前に映像位置合わせ部50において往路側の映像53aおよび復路側の映像53bのそれぞれに対応付けられたフレームが存在するため、例えば再生コントロール53eを左側の往路表示側で再生した時は、往路側の映像53aのフレームが表示されると同時に、往路側の映像53aフレームに対応付けられた復路側の映像53bのフレームが表示される。
【0220】
また、再生コントロール53eを右側の復路表示側で再生した時は、復路側の映像53bのフレームが表示されると同時に、復路側の映像53bのフレームに対応付けられた往路側の映像53aのフレームが表示される。
【0221】
なお、フレームによっては1フレームに対して複数フレームの画像が対応付けられている場合があるが、その場合は順次対応付けられた複数フレームがフレーム順に再生される。
【0222】
(往路復路比較リスト画面53A’)
図14に、往路復路比較リスト画面53A’の一例を示す。
【0223】
往路復路比較リスト画面53A’は、往路側の映像53aおよび復路側の映像53bからそれぞれ選択される少なくとも1つ以上の代表画像を比較できるように並べて表示することを可能にする。
【0224】
すなわち、往路復路比較画面53Aで往路側の映像53aと復路側の映像53aとを映像を再生させる代わりに、往路復路比較リスト画面53A’でいくつかの代表画像によるリストをして表示させることができる。その場合、後述する代表画像の選択ルールに則って、往路側の映像から選択されるいくつかの代表画像と、復路側の映像から選択されるいくつかの代表画像とを、それぞれ、図14に示されるように往路代表画像リスト53a’、復路代表画像リスト53b’として表示する。
【0225】
例えば、往路代表画像リスト53a’では、個々の代表画像が上段にて左から右にカメラが進む方向(カメラ位置の値が大きくなる方向)に並べられ、復路代表画像リスト53b’では、個々の代表画像が下段にて右から左にカメラが進む方向(カメラ位置の値が小さくなる方向)に並べられる。その際、往路代表画像リスト53a’の個々の代表画像と、復路代表画像リスト53b’の個々の代表画像とが、比較しやすいように上下方向に揃えられた形で一覧表示される。これにより、対応づけられた代表画像どうしを上下に比較しやすく、双方の違いを確認しやすくなる。
【0226】
図14では、復路代表画像リスト53b’のいくつかの代表画像の中に、異常53pや管の接合部53qの存在を確認できる例が示されている。
【0227】
往路復路比較リスト画面53A’の右上には、モード選択項目53c’が設けられている。モード選択項目53c’は、代表画像表示基準(モード)を選択するために使用される。各種のモードとして、「指定フレーム」、「位置合わせ手動」、「位置合わせ間引き」、「位置合わせ所定部位」、「位置合わせ所定部位異常検知結果」が用意されている。
【0228】
各映像の代表画像リスト54a’は、事前に設定した代表画像表示基準(モード)に従って並べられて表示される。設定した代表画像表示基準(モード)は、代表画像の選択ルールを決定付ける。

各映像から選択する代表画像の選択基準としてモード選択項目53c’に設けられたラジオボタンのいずれかを選択することにより、以下のいずれかのモードの選択が可能である。
【0229】
・「指定フレーム」
指定のフレームで間引きして並べることが可能である(但し、位置合わせはされない)。間引きするフレーム数は、「詳細設定」ボタンを押して開いた画面で指定できる。
【0230】
・「位置合わせ手動」
映像位置合わせ部50により複数の映像間で対応付けられた個々のフレームのセットに対し、人間が手動で選択したフレームを表示させることが可能である。例えば、映像解析結果確認画面52Aでキャプチャの機能を用いて選択した場所を位置合わせして表示できるようにする。
【0231】
・「位置合わせ間引き」
映像位置合わせ部50により複数の映像間で対応付けられた個々のフレームのセットに対し、映像位置合わせ部50により水道管内の位置が同じ場所となるように合わせたうえで、指定のフレーム数毎に間引いて表示することが可能である。間引きするフレーム数は「詳細設定」ボタンを押して開いた設定画面で指定できる。
【0232】
・「位置合わせ所定部位」
水道管内の位置が同じ場所となるように合わせたうえで、接合部(管と管のつなぎ目)・直管部中間(管の直線的な部分の中央付近)・穿孔部(直観部の途中にある穴のあいた部分)等の特徴的な場所を選択して表示する。表示する所定部位については「詳細設定」を押された時に開く画面を開き、チェックボックスなどで表示する/しないを設定できるようにしてもよい。
【0233】
・「位置合わせ所定部位異常検知結果」
「位置合わせ所定部位」の表示方法に加え、水道管内で検出された異常が存在する場所のフレームを代表画像として選択することが可能である。代表画像として選択する異常の種別や、判定ランクの閾値等は、「詳細設定」を押した時に開かれる画面で選択することができるようにしてもよい。
【0234】
(差分比較画面54A)
図15に、差分比較画面54Aの一例を示す。
【0235】
差分比較画面54Aは、映像リスト画面51Aの映像リスト51aで管理される複数の映像から選択された複数の映像54a,54bを作業者が比較できるようにする画面である。ここでは、2つの映像54a,54bが表示される例について説明する。
【0236】
差分比較画面54Aには、比較対象とする複数の映像54a,54bのほかに、映像ファイル情報54c、タイムバー54d、映像再生機能54e、スナップショット表示領域54f、スナップショット実行ボタン54g、レポート表示ボタン54hなどが表示される。タイムバー54dおよび映像再生機能54eは、前述したタイムバー52cおよび映像再生機能52gと同等の機能を有するものである。
【0237】
映像ファイル情報54cには、[水道管名]、[撮影日時]、[総合判定](総合判定結果の異常ランクに相当)、[距離](カメラ位置に相当)が表示される。但し、これらの情報は必ずしも全て表示される必要はなく、表示されないものがあってもよい。
【0238】
並べられた2つの映像54a,54bは、それぞれ独立して再生やシーク等を行えるようになっている。再生やシーク等は、タイムバー54dおよび映像再生機能54eを用いて行うことができる。基本的に映像を並べて比較表示でき、併せてカメラ位置を表示できるようにする機能があることを基本とするが、映像解析が完了した画像であれば、総合判定結果や異常検知結果を画面に表示できるようにしてもよい。その場合の画面構成は、映像解析結果確認画面52Aの処理結果画像や部分判定表示と同じ表示で実現してもよい。
【0239】
また、2つの映像54a,54bは、撮影時のカメラの動きが異なるため、同期して再生する必要はなく、別々に再生できるようになっている。2つの映像54a,54bは、カメラ位置の情報にあわせて同じカメラ位置の画像を表示できるようにしてもよい。
【0240】
また、差分比較画面54Aには、「スクショ」と記されたスナップショット実行ボタン54gがある。2つの映像54a,54bの中の任意の撮影時刻の画像がそれぞれ表示されている状態で、スナップショット実行ボタン54gが押されると、該当する画像のスナップショットが取られて保管されるとともに、その画像がスナップショットとしてサムネイルの表示形式でスナップショット表示領域54fに表示される。2つの画像を並べてキャプチャすることによって、これらの画像をレポート画面上で表示できるようにしてもよいし、個別の画像ファイルとして保存できるようにしてもよい。
【0241】
また、スナップショットの画像がある状態で、例えば「レポート画面へ」と記されたボタン54hが押されると、レポート画面が開かれて表示されることになる。レポート画面では、当該スナップショットの画像を、レポートの作成に使用することができる。
【0242】
このように作業者は、必要に応じて映像リスト画面51Aの映像リスト51aで管理される複数の映像から任意に選択された複数の映像を自由に比較することができる。これにより、例えば時間経過観察や洗管前後での確認作業を簡単に行うことができる。さらに比較結果を報告書の作成に活用することができる。
【0243】
さらに、差分比較画面54Aでは、映像リスト画面51Aの映像リスト51aから任意に選択された複数の映像を、個々のフレームを位置合わせした状態で、同時再生表示することが可能である。
【0244】
本例では2つの映像を並べて表示する例が示されているが、映像位置合わせ部50では2本に限らず3本以上の映像でも同様に映像位置合わせは可能であるため、3本以上の映像を並べて表示することも可能である。その場合、表示する映像の数に合わせて、タイムバー54dと映像再生機能(再生コントロール)54eとを増やせばよい。
【0245】
さらに、差分比較画面54Aでは、2つの映像54a,54bを同時に再生表示することができるように、2つの映像54a,54bにそれぞれに対応するタイムバー54dおよび映像再生機能(再生コントロール)54eだけでなく、映像位置合わせ表示再生用チェックボックス54i、映像位置合わせ表示再生機能(再生コントロール)54jが配置されている。
【0246】
映像位置合わせ表示再生用チェックボックス54iは、チェックが入っているか否か、すなわちオンの状態かオフの状態かによって、再生方法が変わる。例えば、以下の2つを切り替えることが可能である。
【0247】
オンの状態:映像位置合わせ再生が有効となり、映像位置合わせ部50により個々のフレームが位置合わせされた状態で2つの映像54a,54bが同時再生される。
【0248】
オフの状態:映像位置合わせ再生が無効となり、単純に映像のフレーム数を合わせた状態で2つの映像54a,54bが別々に再生される。
【0249】
映像位置合わせ表示再生機能(再生コントロール)54jは、映像位置合わせ表示再生用チェックボックス54iは、チェックが入っているときに使用することができ、2つの映像54a,54bを同時再生させることができる。停止・早送り・巻き戻し・コマ送り・コマ戻しも、2つの映像54a,54bのそれぞれのフレームが位置合わせされた状態で行われる。このとき、2つの映像再生機能(再生コントロール)54eは使用する必要がない。
【0250】
(差分比較リスト画面54A’)
図16に、差分比較リスト画面54A’の一例を示す。
【0251】
差分比較リスト画面54A’は、複数の映像からそれぞれ選択される少なくとも1つ以上の代表画像を比較できるように並べて表示することを可能にする。その場合、後述する代表画像の選択ルールに則って、各映像から選択されるいくつかの代表画像を、それぞれ、図16に示されるように映像ごとに代表画像リスト54a’として表示する。
【0252】
個々のフレームを位置合わせした状態で各映像を表示する点では、差分比較画面54Aと同様であるが、差分比較リスト画面54A’では、図16に示されるように、横方向に映像毎に個々のフレームの時間方向に代表画像が並べられ、縦方向には選択された複数の映像が並べられる。本例では、同一の水道管で異なる日時で撮影された複数の映像が指定された状態において、各映像から同じ位置を示す1つ以上の代表画像を並べて比較表示する。
【0253】
図16では、撮影年月日の異なる3つの映像が選択され、撮影年月日順に上から並べられた場合の例が示されている。
【0254】
また、図16では、2021/9/21付けの映像の代表画像リスト54a’のいくつかの代表画像の中に、各種の異常53p,53rや管の接合部54qの存在を確認できる例が示されている。
【0255】
差分比較リスト画面54A’の右上には、モード選択項目54b’が設けられている。モード選択項目54b’は、代表画像表示基準(モード)を選択するために使用される。各種のモードとして、「指定フレーム」、「位置合わせ手動」、「位置合わせ間引き」、「位置合わせ所定部位」、「位置合わせ所定部位異常検知結果」が用意されている。
【0256】
各映像の代表画像リスト54a’は、事前に設定した代表画像表示基準(モード)に従って並べられて表示される。設定した代表画像表示基準(モード)は、代表画像の選択ルールを決定付ける。
【0257】
各映像から選択する代表画像の選択基準としてモード選択項目54b’に設けられたラジオボタンのいずれかを選択することにより、以下のいずれかのモードの選択が可能である。なお、各モードの機能は、図14の往路復路比較リスト画面53A’のモード選択項目53c’の説明で示したものと同じであるため、ここではその説明を省略する。
【0258】
・「指定フレーム」
・「位置合わせ手動」
・「位置合わせ間引き」
・「位置合わせ所定部位」
・「位置合わせ所定部位異常検知結果」
(2D計測画面55A)
図17に、2D計測画面55Aの一例を示す。
【0259】
2D計測画面55Aでは、水道管3の2次元画像から3次元的な計測を行うことを可能にする。
【0260】
2D計測画面55Aには、2D映像55a、計測結果表示領域55b、計測モード表示領域55c、映像再生機能(再生コントロール)55dなどが表示される。
【0261】
映像解析結果確認画面52Aで、計測対象の異常が表示された状態において、2D計測ボタン52rを押すことにより、図17に示す2D計測画面55Aを開いて計測を行うことが可能になる。
【0262】
3次元情報取得部60において映像から3次元情報を復元できているため、画面に表示された各画素に相当する3次元情報が所定の記憶領域にすでに保管されている。
【0263】
計測モード表示領域55cにおいて「計測モード」を「長さ」に指定している場合は、画面内におけるマウスドラッグなどで指定した線分55eの両端の画素に相当する3次元的位置の距離を計算することによって「長さ」を計測できる。
【0264】
計測モード表示領域55cにおいて「計測モード」が「面積」の場合は、マウスドラッグ操作で矩形領域を指定、もしくはマウスクリックでポリゴン領域を指定する。例えば最初の始点はクリックで、次のクリックを下の場所まで線分55eをつなげてポリゴンを構成し、始点付近を指定した時に終了することで終点を指定できる。また、ダブルクリック・右クリック等でも終点を指定できる。終点が始点と異なる場合は終点と始点を自動的につなげればよい。
【0265】
矩形やポリゴン内に存在する立体物の面積は2次元画像上の面積を計算してもよいし、3次元点群上の最も大きな面積を計算できるようにしてもよい。堆積も面積と同様な指定方法で計測できる。
【0266】
これらの手段によって指定した領域の計測結果は、計測結果表示領域55b内の「計測結果」の下に表示される。
【0267】
なお、画像の下には再生コントロールを準備して、映像解析結果確認画面52Aに戻らなくても前後のフレームに移動できるようにしてもよい。
【0268】
以上により、表示した画像において対象物の計測が可能となる。なお、2D計測画面55Aの内容は映像解析結果確認画面52A上でも同様の画像を表示しているため、コントロールやモード選択部分を映像解析結果確認画面52A内において別ウィンドウが開かないようにしてもよい。
【0269】
(3D計測画面56A)
図18に、3D計測画面56Aの一例を示す。
【0270】
3D計測画面56Aでは、水道管3の三次元点群画像から3次元的な計測を行うことを可能にする。
【0271】
3D計測画面56Aには、3D映像56a、計測結果表示領域56b、操作モード表示領域56c、計測モード情報56dなどが表示される。
【0272】
映像解析結果確認画面52Aで、計測対象の異常が表示された状態において、「3D計測」ボタンを押すことにより、図18に示す3D計測画面56Aを開いて計測を行うことが可能になる。
【0273】
3次元情報取得部60において映像から3次元情報を復元できているため、画面に表示された各画素に相当する3次元情報が所定の記憶領域にすでに保管されている。
【0274】
なお、3次元点群のビューを変更する場合、長さ等の計測で同様のマウス操作が必要となるため、「操作モード」を「計測」「ビュー変更」を切り替えるコントロールも画面上に配置することでマウス操作がビュー変更なのか計測なのかを切り替えられるようにしてもよい。
【0275】
ここでは、操作モード表示領域56cにおいて「操作モード」を「ビュー変更」にした場合の操作例を説明する。
【0276】
点群の平行移動・回転・拡大縮小がマウス操作で可能となる。また、「操作モード」を「計測」にすると3次元点群を利用した計測が可能となる。
【0277】
計測モード情報56dにおいて「計測モード」を「長さ」に指定している場合には画面内におけるマウスドラッグなどで指定した線分56eの両端の画素に相当する3次元的位置の距離を計算することによって「長さ」が計測できる。
【0278】
計測モード情報56dにおいて「計測モード」が「面積」の場合は、マウスドラッグ操作で矩形領域を指定、もしくはマウスクリックでポリゴン領域を指定する。例えば最初の始点はクリックで、次のクリックを下場所まで線分56eをつなげてポリゴンを構成し、始点付近を指定した時に終了することで終点を指定できる。また、ダブルクリック・右クリック等でも終点を指定できる。終点が始点と異なる場合は終点と始点を自動的につなげればよい。
【0279】
矩形やポリゴン内に存在する立体物の面積は2次元画像上の面積を計算してもよいし、3次元点群上の最も大きな面積を計算できるようにしてもよい。堆積も面積と同様な指定方法で計測できる。
【0280】
これらの手段によって指定した領域の計測結果は、計測結果表示領域56b内の「計測結果」の下に表示される。
【0281】
<基本動作>
次に、図19のフローチャートを参照して、実施形態による管内検査装置の動作の一例を説明する。なお、図19に示される個々の処理は、ステップの番号の順に必ずしも行われるとは限らず、適宜変更することが可能である。
【0282】
映像入力部10は、水道管3の管内を移動しながら撮影を行ったカメラ4の映像データを入力し、属性情報入力部11は、カメラ4に付随する属性を示す属性情報を入力する(ステップS1)。
【0283】
次に、カメラ位置・動き検出部20は、映像入力部10により入力された映像データおよび属性情報入力部11により入力された属性情報を用いて、管内におけるカメラ4の位置や動きを検出する(ステップS2)。
【0284】
次に、異常検知部30は、カメラ位置・動き検知部20により検出されるカメラ4の位置や動きに応じて、カメラ4が撮影する検知対象の映像データの中から1つ又は複数の画像を選択し、選択した画像を用いて管内の各検知対象の異常の有無および異常レベルを判定し、判定した結果を検知対象毎に異常検知結果として生成する(ステップS3)。統合判定部40は、異常検知部30により検知対象毎に生成された異常検知結果を統合して、管内の異常のレベルを示す統合判定結果を生成する(ステップS4)。
【0285】
一方で、映像位置合わせ部50は、映像入力部10により入力された映像およびカメラ位置・動き検知部20により検出されるカメラ4の位置や動きの情報を用い、管内を移動するカメラで撮影して得られる複数の映像、または1つの映像を構成する複数の映像に対し、当該複数の映像のそれぞれに含まれる個々の画像(フレーム)のうち撮影時刻が異なり撮影位置が同じである画像どうしを対応付ける位置合わせを行う(ステップS5)。3次元情報取得部60は、映像入力部10により入力された映像から3次元情報を復元する(ステップS6)。
【0286】
情報管理部70は、カメラ位置・動き検知部20により検出されたカメラ4の位置や動きの情報、異常検知部30により検知対象毎に生成された異常検知結果および統合判定部40により生成された統合判定結果を含む情報、映像位置合わせ部50により生成された映像位置合わせ結果を含む情報、3次元情報取得部60により復元された3次元情報を含む情報、属性情報入力部11により入力された属性情報などを管理する(ステップS7)。
【0287】
出力処理部80は、利用者の操作を受け付け、利用者の操作に応じて情報管理部70で管理される各種の情報を表示装置に出力する(ステップS8)。出力処理部80は、検査結果に相当する異常検知結果や統合判定結果を出力するだけでなく、後述する図20のフローチャートで示すように、UIで実現される各種の表示画面(映像リスト画面51A、映像解析結果確認画面52A、往路復路比較画面53A、往路復路比較リスト画面53A’、差分比較画面54A、差分比較リスト画面54A’、2D計測画面55A、3D計測画面56Aなど)に関わる各種の情報を、操作に応じて出力する。
【0288】
<UIに関わる動作>
次に、図20のフローチャートを参照して、出力処理部80によるUIに関わる動作の一例を説明する。なお、ここでは、映像解析処理がすでに完了している状態にあるものとして説明する。
【0289】
最初に、管内をカメラ4で撮影して得られた各種の映像を管理するための映像リスト51aが映像リスト画面51Aに表示される。表示された映像リスト画面51Aに対して作業者から何らかの操作があった場合には、その操作に応じた処理が行われる(ステップS11)。
【0290】
ここで、例えば映像リスト画面51Aの映像リスト51aの中から1つの映像が選択された状態で、例えば「映像解析画面へ」と記された映像解析表示ボタン51eを押す操作(例えば入力装置によるクリックまたはタップの操作)が行われた場合(ステップS12のYES)は、ステップS19へ進む。
【0291】
一方、そうではなくて例えば、映像リスト画面51Aにおいて、複数の映像が選択された状態で、「差分比較画面へ」と記された差分比較表示ボタン51gを押す操作が行われた場合(ステップS12のNO、ステップS13のYES)、差分比較画面54Aが開かれて表示され、選択された複数の入力映像54a,54bを比較しながら差分の確認を行うことが可能になる。表示された差分比較画面54Aに対して作業者から何らかの操作があった場合には、その操作に応じた処理が行われる(ステップS14)。
【0292】
また、映像リスト画面51Aにおいて、複数の映像が選択された状態で、「差分比較リスト画面へ」と記された差分比較表示ボタン51gを押す操作が行われた場合(ステップS13のNO、ステップS15のYES)、差分比較リスト画面54A’が開かれて表示され、選択された複数の入力映像54a,54bの代表画像を並べて表示し、比較することが可能になる。表示された差分比較リスト画面54A’に対して作業者から何らかの操作があった場合には、その操作に応じた処理が行われる(ステップS16)。
【0293】
また、映像リスト画面51Aにおいて、上記以外の操作が行われた場合には(ステップS15のNO、ステップS17のYES)、その操作に応じた処理が行われる(ステップS18)。
【0294】
上記ステップS12において、映像リスト画面51Aの映像リスト51aの中から1つの映像が選択された状態で、例えば「映像解析画面へ」と記された映像解析表示ボタン51eを押す操作(例えば入力装置によるクリックまたはタップの操作)が行われた場合(ステップS12のYES)、映像解析結果確認画面52Aが開かれて表示され、入力映像52aと処理結果映像52bとを比較して確認作業を行うことが可能になる。表示された映像解析結果確認画面52Aに対して作業者から何らかの操作があった場合には、その操作に応じた処理が行われる(ステップS19)。
【0295】
映像解析結果確認画面52において、往路復路比較表示ボタン52tを押す操作が行われた場合(ステップS20のYES)、路復路比較画面53Aが開かれて表示され、映像解析結果確認画面52Aで表示されている映像に対し往路・復路に対応付けられた各画像を並べて表示し、比較することが可能になる。表示された路復路比較画面53Aに対して作業者から何らかの操作があった場合には、その操作に応じた処理が行われる(ステップS21)。
【0296】
また、映像解析結果確認画面52において、往路復路比較リスト表示ボタン52uを押す操作が行われた場合(ステップS20のNO、ステップS22のYES)、往路復路比較リスト画面53A’が開かれて表示され、映像解析結果確認画面52Aで表示されている各映像に対し往路・復路に対応付けられた各映像の代表画像を並べて表示し、比較することが可能になる。表示された往路復路比較リスト画面53A’に対して作業者から何らかの操作があった場合には、その操作に応じた処理が行われる(ステップS23)。
【0297】
また、映像解析結果確認画面52において、2D計測ボタン52rを押す操作が行われた場合(ステップS22のNO、ステップS24のYES)、2D計測画面55Aが開かれて表示され、画像中にある対象物の長さ・面積・体積の計測を行うことが可能になる。表示された2D計測画面55Aに対して作業者から何らかの操作があった場合には、その操作に応じた処理が行われる(ステップS25)。
【0298】
また、映像解析結果確認画面52において、3D計測ボタン52sを押す操作が行われた場合(ステップS24のNO、ステップS26のYES)、3D計測画面56Aが開かれて表示され、表示された3次元点群の画像中にある対象物の長さ・面積・体積の計測を行うことが可能になる。表示された3D計測画面56Aに対して作業者から何らかの操作があった場合には、その操作に応じた処理が行われる(ステップS27)。
【0299】
また、映像解析結果確認画面52において、上記以外の操作が行われた場合には(ステップS26のNO、ステップS28のYES)、その操作に応じた処理が行われる(ステップS29)。
【0300】
以上の処理により、管内検査装置により表示される各種の表示画面での作業者の操作に応じた適切な処理を行うことで、作業の効率を高めることが可能になる。
【0301】
実施形態によれば、映像を構成する個々のフレームの位置合わせことにより、対象となる管の劣化状況や洗浄前後の比較、カメラの動きによって異物の動きを確認することで堆積した物の挙動などを効率よく確認することが可能となる。また、計測機能により特殊な機器の利用、基準物をカメラの視野内に置くことや、事前に既知のサイズのもので作ったモデルを別途準備等することがなく、UIを通じて水道管3内の対象の長さ・面積・体積を効率よく計測することが可能となる。
【0302】
以上詳述したように、実施形態によれば、効率良く管内を検査することが可能となる。
【符号の説明】
【0303】
1…管内検査装置、2…現場、3…水道管、4…カメラ、5…記録媒体、10…映像入力部、11…属性情報入力部、12…設定部、20…カメラ位置・動き検出部、30…異常検知部、40…統合判定部、50…映像位置合わせ部、60…3次元情報取得部、70…情報管理部、80…出力処理部、、51A…映像リスト画面、52A…映像解析結果確認画面、53A…往路復路比較画面、53A’…往路復路比較リスト画面、54A…差分比較画面、54A’…差分比較リスト画面、55A…2D計測画面、56A…3D計測画面。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20