(58)【調査した分野】(Int.Cl.,DB名)
異なる時間に撮影された同じ空間に関する第1の画像データおよび第2の画像データをそれぞれ第1の3次元形状データおよび第2の3次元形状データに再構成し、画像データの各々の画素と3次元形状データの各々のドットとを紐付けて保存する3次元データ生成部と、
上記3次元データ生成部により生成された上記第1の3次元形状データおよび上記第2の3次元形状データの位置合わせを行う位置合わせ部と、
上記第1の画像データの中から特定の部位が指定された場合、上記第1の3次元形状データの中から、上記特定の部位の画素に紐付けられているドットを特定する第1のドット特定部と、
上記位置合わせ部により上記第1の3次元形状データと位置合わせが行われた上記第2の3次元形状データの中から、上記第1のドット特定部により特定されたドットに対応する位置のドットを特定する第2のドット特定部と、
上記第2の画像データの中から、上記第2のドット特定部により上記第2の3次元形状データの中から特定されたドットに紐付けられている画素から成る部位を特定する対応部位特定部とを備えたことを特徴とする画像処理装置。
画像処理装置の3次元データ生成部が、異なる時間に撮影された同じ空間に関する第1の画像データおよび第2の画像データをそれぞれ第1の3次元形状データおよび第2の3次元形状データに再構成し、画像データの各々の画素と3次元形状データの各々のドットとを紐付けて保存する第1のステップと、
上記画像処理装置の位置合わせ部が、上記3次元データ生成部により生成された上記第1の3次元形状データおよび上記第2の3次元形状データの位置合わせを行う第2のステップと、
上記画像処理装置の第1のドット特定部が、上記第1の画像データの中から特定の部位が指定された場合、上記第1の3次元形状データの中から、上記特定の部位の画素に紐付けられているドットを特定する第3のステップと、
上記画像処理装置の第2のドット特定部が、上記位置合わせ部により上記第1の3次元形状データと位置合わせが行われた上記第2の3次元形状データの中から、上記第1のドット特定部により特定されたドットに対応する位置のドットを特定する第4のステップと、
上記画像処理装置の対応部位特定部が、上記第2の画像データの中から、上記第2のドット特定部により上記第2の3次元形状データの中から特定されたドットに紐付けられている画素から成る部位を特定する第5のステップとを有することを特徴とする画像マッチングによる同一部位検出方法。
異なる時間に撮影された同じ空間に関する第1の画像データおよび第2の画像データをそれぞれ第1の3次元形状データおよび第2の3次元形状データに再構成し、画像データの各々の画素と3次元形状データの各々のドットとを紐付けて保存する3次元データ生成手段、
上記3次元データ生成手段により生成された上記第1の3次元形状データおよび上記第2の3次元形状データの位置合わせを行う位置合わせ手段、
上記第1の画像データの中から特定の部位が指定された場合、上記第1の3次元形状データの中から、上記特定の部位の画素に紐付けられているドットを特定する第1のドット特定手段、
上記位置合わせ部により上記第1の3次元形状データと位置合わせが行われた上記第2の3次元形状データの中から、上記第1のドット特定手段により特定されたドットに対応する位置のドットを特定する第2のドット特定手段、および
上記第2の画像データの中から、上記第2のドット特定手段により上記第2の3次元形状データの中から特定されたドットに紐付けられている画素から成る部位を特定する対応部位特定手段
としてコンピュータを機能させるための画像処理用プログラム。
【背景技術】
【0002】
従来、同一の空間を異なる時間に撮影した複数の画像を比較することにより、当該空間内にある対象物の変化を観察することが行われている。例えば、道路やトンネル、建造物などの対象物を定期的に撮影し、撮影された画像を比較することにより、当該対象物の変状の有無や劣化状況を点検することが行われている。その際、対象物の中の特定の部位のみに注目して時間経過による変化を観察することもある。
【0003】
上記のように、画像の比較によって対象物の時間経過による変化を観察する場合、それぞれの画像の中から同じ対象物を同定する必要がある。対象物の中の特定の部位のみを比較する場合は、それぞれの画像の中からその同じ部位を同定する必要がある。従来、複数の画像からそれぞれ同一の部位を検出するために、所定のアルゴリズムに従って画像の特徴量を算出し、特徴量が互いに同じとなる部分を同一部位として検出するようにしていた。
【0004】
しかしながら、同一の空間を撮影した場合であっても、カメラの位置、姿勢、対象物までの距離などが過去の撮影時と完全に一致することはないため、撮影された画像もアングルや視野等が全く同じとはならない。そのため、特徴量による同一部位の検出がうまくいかないことがあるという問題があった。また、特定の部位に変化が生じていた場合には、その部位の特徴量は異なった値となるため、同一部位として検出できない場合があるという問題もあった。
【0005】
なお、過去に撮影したある対象物の画像に対して、現在撮影しようとしている同じ対象物の画面上の位置関係を正確に合わせることができるようにした撮影装置が提案されている(例えば、特許文献1参照)。この特許文献1に記載の撮像装置では、過去に撮影した画像を記憶する記憶媒体から所望の画像を読み出してメモリに一旦記憶した後、メモリで輝度信号成分のみの画像信号を生成して読み出し、撮影中の画像と合成表示を行う。撮影者は、表示された輝度信号成分のみの画像を参照しながら、撮影装置の位置や方向、画角を調整し、過去の画像と同じ位置関係になったときに撮影を行う。
【0006】
また、同一検査対象物の同一箇所に対して探傷部を走査し、過去の探傷検査データと比較して検査対象物の健全性の評価を行う探傷検査装置において、複雑な形状をした検査対象物の探傷を時間をおいて行う場合であっても、作業性および再現性が良く精度良く探傷検査データを得ることができるようにした技術も提案されている(例えば、特許文献2参照)。
【0007】
この特許文献2に記載の探傷検査装置では、予め定めた固定点Aを基準点として検査対象物の画像データおよび検査対象物上を探傷走査した探傷部の走査軌跡データをセンサ部で計測する。画像処理部は、計測した画像データに基づいて、検査対象物の3次元形状データおよびその3次元形状データ上での探傷部の走査軌跡データを演算する。座標補正部は、記憶部に記憶された過去の検査対象物の3次元形状データとの座標のずれを補正し、現在の検査対象物の3次元形状データを過去の検査対象物の3次元形状データの座標に一致させ、表示装置に過去の探傷部の走査軌跡データを案内表示する。作業員は、この案内表示に従って探傷部を探傷走査する。また、特許文献2には、この案内表示に代えて、過去の探傷部の走査軌跡データに従って自動で探傷部を走査することも記載されている。
【発明の概要】
【発明が解決しようとする課題】
【0009】
特許文献1に記載の技術によれば、過去に撮影した画像と今回撮影した画像とを一致させることができるので、両画上の同一箇所を、対象物の同一部位として検出することが可能となる。しかしながら、撮影者は、表示部を見ながら撮影装置の位置、方向、画角等を調整して撮影を行わなければならず、非常に面倒である。
【0010】
また、特許文献2に記載の技術によれば、過去に撮影した画像から演算した3次元形状データの座標に対して、今回撮影した画像から演算した3次元形状データの座標を一致させた上で、過去の探傷部の走査軌跡を案内表示したり、その走査軌跡データに従って自動で探傷部を走査したりしているので、過去の走査軌跡と同じ軌跡で探傷部の走査を行うことが可能となる。しかしながら、特許文献2に記載の技術を用いても、探傷部という機械的な設備を過去と同一の軌跡に従って検査対象物上を走査させることができるのみで、撮影した過去の画像と今回の画像とから互いに同一の部位を検出することはできない。
【0011】
本発明は、このような問題を解決するために成されたものであり、異なる時間に撮影された画像のアングルや視野等が互いに異なっていても、また、画像内の特定の部位に時間経過による変化が生じていても、その部位を同一部位として検出することができるようにすることを目的とする。
【課題を解決するための手段】
【0012】
上記した課題を解決するために、本発明では、異なる時間に撮影された同じ空間に関する第1および第2の画像データをそれぞれ第1および第2の3次元形状データに再構成し、画像データの各々の画素と3次元形状データの各々のドットとを紐付けて保存するとともに、第1の3次元形状データおよび第2の3次元形状データの位置合わせを行う。そして、第1の画像データの中から特定の部位が指定された場合、当該特定の部位の画素に紐付けられているドットを第1の3次元形状データの中から特定し、当該ドットに対応する位置のドットを第2の3次元形状データの中から特定し、さらに、当該特定されたドットに紐付けられている画素から成る部位を第2の画像データの中から特定するようにしている。
【発明の効果】
【0013】
上記のように構成した本発明によれば、異なる時間に撮影された同じ空間に関する2つの画像データのアングルや視野等が互いに異なっていても、それぞれの画像データが3次元形状データに変換されて位置合わせされるので、アングルや視野等の違いが矯正される。その上で、2つの画像データのうち第1の画像データの中から特定の部位が指定されると、その部位に対応する第2の画像データ上の部位が、第1の3次元形状データ上のドットと、そのドットに対応する第2の3次元形状データ上のドットとを辿ることによって特定される。また、本発明によれば、画像の特徴量の一致判定により同一部位を特定していないので、第1の画像データの特定の部位において、第2の画像データが撮影されるまでの時間経過の間に変化が生じていても、当該特定の部位と同一の部位を第2の画像データから検出することができる。
【0014】
これにより、本発明によれば、異なる時間に撮影された画像のアングルや視野等が互いに異なっていても、また、画像内の特定の部位に時間経過による変化が生じていても、その部位を同一部位として検出することができる。
【発明を実施するための形態】
【0016】
以下、本発明の一実施形態を図面に基づいて説明する。
図1は、本実施形態による画像処理装置の機能構成例を示すブロック図である。
図1に示すように、本実施形態の画像処理装置は、その機能構成として、画像データ入力部1、3次元データ生成部2、位置合わせ部3、表示部4、操作受付部5、第1のドット特定部6、第2のドット特定部7および対応部位特定部8を備えている。また、本実施形態の画像処理装置は、データ記憶媒体として、紐付けデータ記憶部10を備えている。
【0017】
上記各機能ブロック1〜8は、ハードウェア、DSP(Digital Signal Processor)、ソフトウェアの何れによっても構成することが可能である。例えばソフトウェアによって構成する場合、上記各機能ブロック1〜8は、実際にはコンピュータのCPU、RAM、ROMなどを備えて構成され、RAMやROM、ハードディスクまたは半導体メモリ等の記録媒体に記憶された画像処理用プログラムが動作することによって実現される。
【0018】
したがって、上記各機能ブロック1〜8の機能は、上記画像処理用プログラムを例えばCD−ROMのような記録媒体に記録し、コンピュータに読み込ませることによって実現できるものである。上記画像処理用プログラムを記録する記録媒体としては、CD−ROM以外に、フレキシブルディスク、磁気テープ、光ディスク、光磁気ディスク、DVD、不揮発性メモリカード等を用いることができる。また、上記画像処理用プログラムをインターネット等のネットワークを介してコンピュータにダウンロードすることによっても実現できる。
【0019】
画像データ入力部1は、異なる時間に撮影された同じ空間に関する第1の画像データおよび第2の画像データを入力する。ここでは一例として、空間内の特定の部位について過去の状態と現在の状態とを比較して、時間経過によって何らかの変化が生じているか否かを検査するケースを想定する。この場合において、第1の画像データは、ある空間を撮影した過去の画像データであるとする。また、第2の画像データは、同じ空間を撮影した現在の画像データであるとする。
【0020】
本実施形態において入力する画像データは、連続した複数のフレームから成るビデオ画像データであり、各フレームは、異なる投影角度から撮影されたものである。なお、画像データ入力部1が入力する画像データは、ビデオ画像データに限らない。例えば、異なる投影角度から撮影された複数枚の静止画像データであってもよい。
【0021】
3次元データ生成部2は、画像データ入力部1により入力された第1の画像データおよび第2の画像データを、それぞれ第1の3次元形状データおよび第2の3次元形状データに再構成する。そして、画像データの各々の画素と3次元形状データの各々のドットとを紐付けて紐付けデータ記憶部10に保存する。ここで、3次元データ生成部2は、公知の3次元再構成法を用いて、異なる投影角度から撮影された複数の2次元画像データの集合から、1つの3次元形状データを生成する。
【0022】
画像データの各画素と3次元形状データの各ドットとの紐付けは、画像データのフレーム毎に行う。すなわち、画像データが4枚のフレームから構成される場合、3次元データ生成部2は、1枚目のフレーム画像の各画素と3次元形状データの各ドットとの紐付けを行い、その紐付けを表すデータを紐付けデータ記憶部10に保存する。2〜4枚目のフレーム画像についても同様に3次元形状データとの紐付けを行い、その紐付けを表すデータを紐付けデータ記憶部10に保存する。
【0023】
位置合わせ部3は、3次元データ生成部2により第1の画像データから生成された第1の3次元形状データと、3次元データ生成部2により第2の画像データから生成された第2の3次元形状データとの位置合わせを行う。すなわち、過去と現在で同じの空間を撮影したとしても、カメラの位置や姿勢などが完全に一致することはないため、第1の画像データと第2の画像データは、アングルや視野等が全く同じとはならない。そのため、3次元データ生成部2により生成される3次元形状データも、形状自体は同じものとなっていても、位置がずれた状態となっている。位置合わせ部3は、公知の位置合わせ技術を用いてこの3次元形状データの位置ずれを補正し、第1の3次元形状データと第2の3次元形状データとの位置を一致させる。
【0024】
表示部4は、画像データ入力部1により入力された画像データを図示しない表示装置に表示させる。操作受付部5は、表示部4により表示された第1の画像データの中から特定の部位を指定するユーザ操作を受け付ける。特定の部位の指定は、例えば、マウスのクリック操作またはドラッグ操作により行うことが可能である。クリック操作は、特定の部位として所望の1点を指定するときに行う。一方、ドラッグ操作は、特定の部位として所望の領域を指定するときに行う。
【0025】
第1のドット特定部6は、第1の画像データの中から特定の部位が指定された場合、紐付けデータ記憶部10を参照して、位置合わせ部3により位置合わせが行われた第1の3次元形状データの中から、上記指定された特定の部位の画素に紐付けられているドットを特定する。ここで、特定の部位の指定が1点(1画素)で行われている場合は、第1のドット特定部6は、その1画素に紐付けられている1つのドットを特定する。一方、特定の部位の指定が領域(複数画素)の指定で行われている場合は、第1のドット特定部6は、その複数画素に紐付けられている複数のドットをそれぞれ特定する。
【0026】
第2のドット特定部7は、位置合わせ部3により第1の3次元形状データと位置合わせが行われた第2の3次元形状データの中から、第1のドット特定部6により特定されたドットに対応する位置のドットを特定する。ここで、第1のドット特定部6により第1の3次元形状データ上の1つのドットが特定されている場合、第2のドット特定部7は、その1つのドットと同じ位置に対応する1つのドットを第2の3次元形状データから特定する。また、第1のドット特定部6により第1の3次元形状データ上の複数のドットが特定されている場合、第2のドット特定部7は、その複数のドットと同じ位置に対応する複数のドットを第2の3次元形状データから特定する。
【0027】
対応部位特定部8は、紐付けデータ記憶部10を参照して、画像データ入力部1により入力された第2の画像データの中から、第2のドット特定部7により第2の3次元形状データの中から特定されたドットに紐付けられている画素から成る部位を特定する。そして、表示部4は、第2の画像データ上で対応部位特定部8により特定された部位を表示させる。この表示の仕方は任意に決めることが可能である。例えば、操作受付部16により指定された第1の画像データ上の特定の部位と、対応部位特定部8により特定された第2の画像データ上の特定の部位とを識別可能なように、当該部位に所定形状の枠を付けて表示する。
【0028】
図2は、上記のように構成した本実施形態による画像処理装置の動作を説明するための図である。
図2(a)は、ある空間を撮影した第1の画像データ(過去の画像データ)を示している。
図2(b)は、同じ空間を撮影した第2の画像データ(現在の画像データ)を示している。第1の画像データおよび第2の画像データは、共に4枚のフレーム画像から構成されている。
【0029】
図2(c)は、
図2(a)に示した第1の画像データから3次元データ生成部2により生成された第1の3次元形状データを示している。
図2(d)は、
図2(b)に示した第2の画像データから3次元データ生成部2により生成された第2の3次元形状データを示している。
【0030】
ここで、
図2(a)に示す第1の画像データを構成する各画素と、
図2(c)に示す第1の3次元形状データを構成する各ドットとの紐付けを表すデータが紐付けデータ記憶部10に保存される。同様に、
図2(b)に示す第2の画像データを構成する各画素と、
図2(d)に示す第2の3次元形状データを構成する各ドットとの紐付けを表すデータが紐付けデータ記憶部10に保存される。
【0031】
さらに、
図2(c)に示す第1の3次元形状データと、
図2(d)に示す第2の3次元形状データとの位置合わせが位置合わせ部3により行われる。これにより、第1の3次元形状データを構成する各ドットの位置と、第2の3次元形状データを構成する各ドットの位置との対応付けが行われる。
【0032】
ここで、表示部4によって図示しない表示装置に表示された
図2(a)の第1の画像データ上で、特定の部位21を指定するユーザ操作を操作受付部5が受け付けたとする。この場合、第1のドット特定部6は、紐付けデータ記憶部10を参照して、
図2(c)に示す第1の3次元形状データの中から、上記指定された特定の部位21の画素に紐付けられている部位22のドットを特定する。
【0033】
次に、第2のドット特定部7は、
図2(d)に示す第2の3次元形状データの中から、第1のドット特定部6により特定された部位22のドットに対応する位置にある部位23のドットを特定する。さらに、対応部位特定部8は、紐付けデータ記憶部10を参照して、
図2(b)に示す第2の画像データの中から、第2の3次元形状データの中から特定された部位23のドットに紐付けられている画素から成る部位24を特定する。
【0034】
そして、表示部4は、第2の画像データ上で対応部位特定部8により特定された部位24を表示させる。
図3は、対応部位特定部8により第2の画像データ上で特定された部位24の表示例を示す図である。
図3の例では、第1の画像データおよび第2の画像データを並べて表示させ、第1の画像データ上で指定された特定の部位21と、当該特定の部位21に対応する部位として第2の画像データ上で特定された部位24とを識別可能なように、各部位21,24の周囲に円形の枠31,34を付けて表示している。
【0035】
図4は、本実施形態による画像処理装置の動作例を示すフローチャートである。
図4において、まず、画像データ入力部1は、ある空間において過去に撮影された第1の画像データおよび同じ空間において現在撮影された第2の画像データを入力する(ステップS1)。
【0036】
次に、3次元データ生成部2は、画像データ入力部1により入力された第1の画像データおよび第2の画像データを、それぞれ第1の3次元形状データおよび第2の3次元形状データに再構成する(ステップS2)。このとき、3次元データ生成部2は、画像データの各々の画素と3次元形状データの各々のドットとを紐付けて紐付けデータ記憶部10に保存する。
【0037】
さらに、位置合わせ部3は、第1の3次元形状データと第2の3次元形状データとの位置合わせを行う(ステップS3)。位置合わせが終わると、表示部4は、画像データ入力部1により入力された画像データを表示装置に表示させる(ステップS4)。なお、この画像データの表示は、ステップS1で画像データを入力した直後から行うようにしてもよい。
【0038】
ここで、操作受付部5は、表示部4により表示された第1の画像データの中から特定の部位を指定するユーザ操作を受け付けたか否かを判定する(ステップS5)。当該ユーザ操作が行われていない場合は、ステップS5の判定処理が繰り返し実行される。
【0039】
一方、当該ユーザ操作を操作受付部5が受け付けた場合、第1のドット特定部6は、紐付けデータ記憶部10を参照して、位置合わせが行われた第1の3次元形状データの中から、上記指定された特定の部位の画素に紐付けられているドットを特定する(ステップS6)。
【0040】
さらに、第2のドット特定部7は、第1のドット特定部6により第1の3次元形状データ上で特定されたドットに対応する位置のドットを第2の3次元形状データの中から特定する(ステップS7)。次いで、対応部位特定部8は、紐付けデータ記憶部10を参照して、第2のドット特定部7により第2の3次元形状データの中から特定されたドットに紐付けられている画素から成る部位を第2の画像データの中から特定する(ステップS8)。
【0041】
そして、表示部4は、第2の画像データ上で対応部位特定部8により特定された部位を図示しない表示装置に表示させる(ステップS9)。これにより、
図4に示すフローチャートの処理は終了する。
【0042】
以上詳しく説明したように、本実施形態によれば、異なる時間に撮影された同じ空間に関する2つの画像データのアングルや視野等が互いに異なっていても、それぞれの画像データが3次元形状データに変換されて位置合わせされるので、アングルや視野等の違いが矯正される。その上で、2つの画像データのうち第1の画像データの中から特定の部位が指定されると、その部位に対応する第2の画像データ上の部位が、第1の3次元形状データ上のドットと、そのドットに対応する第2の3次元形状データ上のドットとを辿ることによって特定される。
【0043】
また、本実施形態によれば、画像の特徴量の一致判定により同一部位を特定していないので、第1の画像データの特定の部位において、第2の画像データが撮影されるまでの時間経過の間に変化が生じていても、当該特定の部位と同一の部位を第2の画像データから検出することができる。
【0044】
これにより、本実施形態によれば、異なる時間に撮影された画像のアングルや視野等が互いに異なっていても、また、画像内の特定の部位に時間経過による変化が生じていても、その部位を同一部位として検出することができる。
【0045】
なお、上記実施形態では、ある空間を撮影した過去の画像データを第1の画像データとし、同じ空間を撮影した現在の画像データを第2の画像データとする例について説明したが、これとは逆に、過去の画像データを第2の画像データ、現在の画像データを第1の画像データとしてもよい。この場合、現在の撮影画像データ上で特定の部位を指定すると、その部位に対応する部位を過去の撮影画像データ上から特定することが可能である。
【0046】
また、上記実施形態では、第1の画像データを構成する1つのフレーム画像上で指定した特定の部位に対応する部位を、第2の画像データを構成する1つのフレーム画像上から特定する例について説明したが、本発明はこれに限定されない。例えば、第1の画像データを構成する1つのフレーム画像上で指定した特定の部位に対応する部位を、第2の画像データを構成する複数のフレーム画像上から特定するようにしてもよい。この場合、対応部位特定部8は、第2の画像データを構成する複数のフレーム画像の中から、第2のドット特定部7により第2の3次元形状データの中から特定されたドットに紐付けられている画素から成る部位をそれぞれ特定する。
【0047】
また、第1の画像データを構成する1つのフレーム画像上で指定した特定の部位に対応する部位を、第1の画像データを構成する残りのフレーム画像上から特定するようにしてもよい。この場合、画像処理装置は 第1の画像データを構成する複数のフレーム画像のうち、特定の部位の指定が行われたフレーム画像以外の残りのフレーム画像の中から、第1のドット特定部6により第1の3次元形状データの中から特定されたドットに紐付けられている画素から成る部位をそれぞれ特定する第2の対応部位特定部を更に備える。
【0048】
その他、上記実施形態は、何れも本発明を実施するにあたっての具体化の一例を示したものに過ぎず、これによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその要旨、またはその主要な特徴から逸脱することなく、様々な形で実施することができる。