【実施例1】
【0013】
図1は、本発明の実施例1に係る画像処理の各手段の構成図である。与えられる情報は、第一の画像12および第二の画像10である。第一の画像12および第二の画像10は、管内において長手方向に撮影した直視画像であり、その模式図を
図2に示す。
図2では分かりやすさのため、下水40および長手方向に延在する構造物の継ぎ目46も示している。
【0014】
第二の画像10は、領域抽出手段14に与えられる。領域抽出手段14では第二の画像10から第二の画像の第一の領域16、第二の画像の第二の領域18、そして第二の画像の第三の領域19を抽出する。これら第二の画像の第一の領域16と第二の画像の第二の領域18は、画像中心から対称で、できるだけ離れた位置にあることが望ましい。一方、第二の画像の第三の領域19は第二の画像の第一の領域16と第二の画像の第二の領域18を結ぶ線上の中点から直角に交わる線上にあることが望ましい。たとえば、
図3で示すように第二の画像の右端付近と左端付近を第二の画像の第一の領域16および第二の画像の第二の領域18として用い、画像中央の上端付近を第二の画像の第三の領域19として用いるのが望ましい。下水管のように下方に液体が流れており、その表面の特徴が短時間で変化してしまう場合には、画像の下端付近を第一、第二および第三の領域として用いないことが望ましい。これら第二の画像の第一の領域16、第二の画像の第二の領域18および第二の画像の第三の領域19はいずれも第二の画像10の端付近に位置することが望ましいが、レンズの歪みが大きい場合やブレ、ピントのずれがある場合には必ずしも端である必要はない。第二の画像の第一の領域16、第二の画像の第二の領域18および第二の画像の第三の領域19の領域の大きさについては限定されないが、以降の処理を高速化したい場合には小さく設定することが望ましい。
【0015】
以下は、第二の画像の第一の領域16を画像の左端付近、第二の画像の第二の領域18を画像の右端付近、第二の画像の第三の領域19を画像の上端付近の小領域と設定した場合について説明する。
【0016】
抽出された第二の画像の第一の領域16は、マッチング手段20へ送られる。マッチング手段20には、第一の画像12も与えられる。第一の画像12は第二の画像10の撮影範囲よりも広範囲を撮影したものとする。すなわち、第一の画像12の撮影位置は、第二の画像の撮影位置よりも後ろに位置する。移動体によって画像を撮影する場合には、前方の画面を撮影することが一般的であることから、 第一の画像12は第二の画像10よりも過去の時点で撮影されることになる。第一の画像12と第二の画像10の撮影位置の関係を
図4に示す。この図では便宜上2台の撮影装置が描かれているが、現実的には1台の撮影装置が移動体によって移動した前と後の位置関係を示している。第一の画像を撮影する位置にある撮影装置42が、第二の画像を撮影する位置にある撮影装置44よりも左側、すなわち後方に位置する。
【0017】
マッチング手段20では、第一の画像12の中で、第二の画像の第一の領域16がもっとも整合する領域を探索する。この際には全画面を探索しても良いが、第一の画像12と第二の画像10の撮影時刻の差が短い場合には、第二の画像の第一の領域16の存在した付近の座標で第一の画像12を探索することが良い。
図5に探索結果の例を模式図で示す。抽出した第一の領域が第一の画像中で対応する領域48が示されている。マッチング手段20の結果として得られた第一の領域の対応情報22は、位置差分算出手段26へ送られる。
【0018】
位置差分算出手段26では、第二の画像の第一の領域16が第一の画像12の中でどの程度ずれているかを計算する。このずれは、第二の画像の第一の領域16と、第二の画像の第二の領域18を結ぶ線上方向に向かう偏差とする。このずれの情報は、第一の領域の位置の偏差28として、内面距離比率算出手段32へ送られる。
【0019】
第二の画像の第二の領域18についても、上記と同様の処理を施す。
図6に探索結果の例を模式図で示す。抽出した第二の画像の第二の領域18が第一の画像中で対応する領域50が示されている。第一の領域の場合と同様に、第二の領域の対応情報24や第二の領域の位置の偏差30を求め、第二の領域の位置の偏差30が内面距離比率算出手段32へ送られる。
【0020】
第二の画像の第三の領域19については、第二の画像の第一の領域16や第二の画像の第二の領域18の場合とは異なる方向に向かって偏差を求める。具体的には、第二の画像の第一の領域16と、第二の画像の第二の領域18を結ぶ線と垂直の方向の偏差を求める。このずれの情報は第三の領域の位置の偏差31として、内面距離比率算出手段32へ送られる。
図7に探索結果の例を模式図で示す。抽出した第二の画像の第三の領域19が第一の画像中で対応する領域51が示されている。
【0021】
図8は、第一の領域と第二の領域の位置が、第一の画像と第二の画像で異なる位置にあり、それぞれ偏差を有することを示す模式図である。第一の領域の位置の偏差28が、第二の領域の位置の偏差30に比べて大きい例を示している。
【0022】
内面距離比率算出手段32は、第一の領域の位置の偏差28と第二の領域の位置の偏差30の値に基づいて、長手方向に延在する構造物38の内面から撮影装置までの距離の比率を計算する。
図9は、第一の画像と第二の画像における光学的幾何関係を示す模式図である。第一の画像が投影される等価画像平面64には第二の画像の第一の領域16と第二の画像の第二の領域18も映り込む。その映り込む位置は、第二の画像が投影される等価画像平面65の上での第二の画像の第一の領域16と第二の画像の第二の領域18の投影位置とはそれぞれ第一の領域の位置の偏差28および第二の領域の位置の偏差30だけずれることになる。
【0023】
第一の領域の位置の偏差28と第二の領域の位置の偏差30の比率は、幾何的な位置関係に基づき、撮影装置の画角に関する係数、第一の画像を撮影する位置と第二の画像を撮影する位置の差分62、左側内面との距離58、右側内面との距離60を用いて式(1)で表すことができる。ただし、dL:第一の領域の位置の偏差28、dR:第二の領域の位置の偏差30、L:左側内面との距離58、R: 右側内面との距離60、m:第一の画像を撮影する位置と第二の画像を撮影する位置の差分62、a:撮影装置の画角に関する係数である。
【0024】
dL:dR=a・m+R:a・m+L ・・・式(1)
ここで、第一の画像を撮影する位置と第二の画像を撮影する位置の差分62が、左側内面との距離58および右側内面との距離60に比べて十分に小さければ、画角が90度のときでaはたかだか1.0であるため式(1)の右辺の微小項となるa・mを無視することができ、
dL:dR=R:L ・・・式(2)
が成り立つ。動画の撮影装置の場合、1秒間に50から60フレームの画像を撮影できるのが普通であり、第一の画像を撮影する位置と第二の画像を撮影する位置の差分62を十分小さく設定できる。すなわち、この式(2)を用いることで、第一の領域の位置の偏差28と第二の領域の位置の偏差30の値に基づき、構造物の左右内面から撮影装置までの距離の比率34を算出することができる。なお、第一の画像を撮影する位置と第二の画像を撮影する位置の差分62と撮影装置の画角aが分かる場合には、式(1)をそのまま用いることができ、より正確な結果を得ることが可能である。
【0025】
次に、第三の領域の位置の偏差31を用いて上下方向の内面から撮影装置までの距離の比率35を求める。第三の領域の位置の偏差31は、第一の領域の位置の偏差28や第二の領域の位置の偏差30に比べると一般的に小さい。これは、通常の撮影装置で撮影した画像は正方形ではなく横長の長方形であるためである。すなわち、上下方向の画角は左右方向よりも小さい。上下方向と左右方向の画角の比率を補正係数αとして用いると、式(2)とほぼ同様に
dL:dR:α×(1 - dU)=R:L:U ・・・式(3)
が得られる。ただし、dU:第三の領域の位置の偏差31、U:上側内面との距離61である。補正係数αの値は撮影装置の仕様として事前に分かるため、(1 - dU)を乗じることによってUの比率が分かる。
【0026】
この結果を用いれば、断面が円形の管の場合、下側内面との距離の比率も簡単な減算によって求めることができる。たとえば、R:L:U=0.35:0.65:0.3であれば、下側内面との距離の比率は 1.0-0.3=0.7 と計算することができる。
【0027】
同様に、断面が矩形で高さと幅の比率が分かっている管であっても、Uの比率が分かれば下側内面との距離の比率も減算によって求めることができる。ただし、その比率はRとLに対する比率であるため、断面形状が正方形ではない場合には以下に示す計算で求めることができる。
【0028】
たとえば、矩形管の幅が5m、高さが3mの場合にR:L:U=0.35:0.65:0.3であったとする。その場合は左側内面から撮影装置までの距離は5×0.35=1.75m、右側内面から撮影装置までの距離は5×0.65=3.75m、上側内面から撮影装置までの距離は5×0.3=1.5mとなる。矩形管の高さは3mなので、下側内面から撮影装置までの距離は3-1.5=1.5mとなり、撮影装置は矩形管の天井から半分の高さに位置することになる。
【0029】
以上のように求められた構造物の左右内面から撮影装置までの距離の比率34および構造物の上下内面から撮影装置までの距離の比率35は表示装置36に送られ、画面上に結果が表示される。
【0030】
図10は、表示装置36の画面の一例である。この例では壁面から撮影装置までの距離比率を左:右=0.35:0.65、天井から撮影装置までの距離比率を0.30と示している。なお、
図10では左右の距離比率を合計すれば1.0となるような数値として示しているが、合計が100など相対的な関係が分かりやすい数値での表示であればとくにこの例には限らない。
【0031】
数値表示の下には図示の例を示している。大きな円は円管の場合の断面を表したもので、その中に存在する黒丸が撮影装置の位置を意図したものである。壁面から撮影装置までの距離比率が左:右:上=0.5:0.5:0.5であれば、大きな円の中心に黒丸が位置し、上述のように左:右:上=0.35:0.65:0.30であれば左上側に黒丸が位置する。このような図示の表示を設けることで、断面上のどの位置で画像が撮影されたかを誤りなく一目で把握することができる。
【実施例2】
【0032】
図11は、本発明の実施例2に係る画像処理の各手段の構成図である。構造物内面から撮影装置までの距離の比率34と構造物の上下内面から撮影装置までの距離の比率35が計算されるまでは、実施例1と同様の処理を実施する。構造物内面から撮影装置までの距離の比率34は、内面距離算出手段70に与えられる。内面距離算出手段70には、長手方向に延在する構造物の内面の断面寸法68も与えられ、左側内面との距離58、右側内面との距離60、上側内面との距離61が計算される。
【0033】
たとえば、断面形状が円形の円管の場合、長手方向に延在する構造物の内面の断面寸法68として直径Cが与えられるとするとそれぞれ式(4)から式(6)で距離を計算できる。ここで、L:左側内面との距離58、R: 右側内面との距離60、U:上側内面との距離61、dL:第一の領域の位置の偏差28、dR:第二の領域の位置の偏差30、dU:第三の領域の位置の偏差31である。
【0034】
L=C×(dR÷(dL+dR)) ・・・式(4)
R=C×(dL÷(dL+dR)) ・・・式(5)
U=C×((1 - dU)÷(dL+dR)) ・・・式(6)
断面形状が矩形の場合には、直径Cの代わりに矩形の幅Wあるいは高さHを乗じることで、左側内面との距離58、右側内面との距離60、上側内面との距離61を式(7)から式(9)で計算できる。
【0035】
L=W×(dR÷(dL+dR)) ・・・式(7)
R=W×(dL÷(dL+dR)) ・・・式(8)
U=H×((1 - dU)÷(dL+dR)) ・・・式(9)
このように計算された左側内面との距離58、右側内面との距離60、上側内面との距離61の値は表示装置36に送られて、画面上に結果が表示される。
【0036】
図12は、表示装置36の画面の一例である。この例では壁面から撮影装置までの距離を左:0.7m、右:1.3m、上:0.6mと示している。その下の図は実施例1と同様の表示内容であり、このような図示も設けることで断面上のどの位置で画像が撮影されたかを誤りなく一目で把握することができる。
【実施例3】
【0037】
図13は、本発明の実施例3に係る画像処理の各手段の構成図である。構造物の左右内面から撮影装置までの距離の比率34と構造物の上下内面から撮影装置までの距離の比率35が計算されるまでは実施例1と同様である。実施例3においてこれらの値は展開図計算手段72に与えられる。一方、第二の画像10は消失点計算手段76に与えられ、消失点座標78が計算される。計算された消失点座標78も展開図計算手段72に与えられる。
【0038】
この消失点計算手段76では、
図2で示したような直視画像の中で、長手方向の最も遠い点である消失点の座標を画像処理によって求める。この画像処理方法には様々なやり方がありそのいずれを用いても良いが、たとえば以下に示す手順で求めることができる。
(1) 直視画像の中で最も明度が低い(=暗い)画素を探索し、その明度の画素で構成される最大の円を探索する。その中心位置(x,y)と半径rを記憶する。
(2)基準となる明度を少し高め、その明度の画素で構成される最大の円を探索する。そ
の中心位置(x,y)と半径rを記憶する。
(3)(1)(2)を反復する。
(4)x = f(r)となる一次の近似関数fを最小二乗法で求める。
(5)y = g(r)となる一次の近似関数gを最小二乗法で求める。
(6)(4)(5)の一次の近似関数に半径r=0を代入した結果のxとyを消失点の座標と
する。
【0039】
これは、基本的に管内に照明が備えられていないため消失点が最も暗く、断面が円管の場合には画像上で消失点の画素から撮影装置付近の画素に向かって円形状に徐々に明るさが増えていく特徴を利用するものである。なお、断面が矩形の場合も同様の手順で消失点を求めることができる。その際には、(1)と(2)において探索する図形を円ではなく矩形とし、半径rの代わりに長辺あるいは短辺の値を用いれば良い。
【0040】
展開図計算手段72では、この消失点の座標78に加え構造物の左右内面から撮影装置までの距離の比率34および構造物の上下内面から撮影装置までの距離の比率35を用いて展開図を生成する。展開図の作成手順を
図14で模式的に示す。以下は断面が円である円管の場合について説明するが、断面形状および寸法が分かっている矩形管でも同様の手順で展開図を得ることができる。
【0041】
図14(a)は、
図2で示した直視画像と同じものである。この直視画像から、
図14(b)で示すように互いに交差しない円群の画素を読み出す。円群の中心位置は異なるのが一般的であり、その位置を決定するため、上述した消失点の座標78と構造物の左右内面から撮影装置までの距離の比率34および構造物の上下内面から撮影装置までの距離の比率35を用いる。
【0042】
円群のうち半径が最小(すなわち0)の円の中心位置は消失点と一致する。構造物の左右内面から撮影装置までの距離の比率34および構造物の上下内面から撮影装置までの距離の比率35が小さいほど、円群の中心位置はその反対側に移動する。たとえば、
図14(b)で示すように上側内面との距離の比率が下側内面との距離の比率に比べて小さい(すなわち、撮影装置が天井に近い)場合、円の半径が大きくなるほど中心位置が下方に移動する。
【0043】
図14(b)では分かりやすく表現するため半径や中心位置を疎にとった円群を示したが、これを密にとることで直視画像(a)の画素を円群として読み出すことができる。円群の半径は長手方向に延在する構造物の奥行きに対応しており、これを幾何的に座標変換してプロットすることで
図14(c)のような展開図を得ることができる。これは1つの直視画像の展開図である。撮影装置を備えた移動体が移動することで、進行方向に向けて複数の第一の画像12および複数の第二の画像10を得ることができる。そのそれぞれの画像の組に対して
図14(c)のような展開図を得ることができるため、それらを奥行き方向に連結することで円筒形状の管を切り開いた形の展開図として提供することができる。この連結にあたっては、それぞれの展開図を全部用いても良いし、一部を用いても良い。直視画像(a)における消失点付近は暗く、かつ円群の1つに含まれる画素数が少ないため画質が悪いため、ほかの展開図での情報が得られるのであればその部分は使用しないのが良い。この例を模式的に
図15に示す。
図15では、たとえば3つの展開
図1〜展開
図3があった場合に、その奥行き方向の手前側から明るい部分のみを切り出し、それをつなげ合わせて連結された展開
図82が得られる手順を示している。この図中では展開
図3までしか記載していないが、図中の連結された展開
図82を得るためには11枚の展開図が必要である。この連結する枚数にはとくに限定はない。なお、連結にあたっては、それぞれの連結部近傍での画像のマッチングをとり、できるだけずれが少ないように連結することが望ましい。このように連結された展開
図82は表示装置36に送られ、画面あるいは印刷物として出力される。
【0044】
以上のように、本発明によれば、撮影装置を搭載した移動体が距離センサを備えなくても、長手方向に延在する構造物内面からの距離の情報を撮影画像に基づいて求めることができる。求められた距離の情報を用いることで、歪みが少ない高品質の展開図を得ることが可能となる。