(58)【調査した分野】(Int.Cl.,DB名)
検査対象物を撮像するカメラ、前記カメラで撮像された前記検査対象物の動画を取得し前記動画の処理を行う画像処理装置、前記画像処理装置で処理された動画を表示する表示装置、および前記画像処理装置で処理された動画を記憶する記憶装置を備えた検査装置における検査方法であって、
前記画像処理装置により、前記カメラで撮像された検査対象物の動画を取得し、取得した動画を、複数の画像フレームに分割し、前記各画像フレームを複数の分割領域に分割して分割動画を作成し、前記分割動画毎に画質改善処理の強度に関わる指標値を算出し、前記分割動画毎に指標値の値に応じた前記画質改善処理の強度を設定して画質改善処理を施して高画質動画を作成し、作成した前記高画質動画を前記表示装置に表示させ、前記高画質動画を前記記憶装置に記憶させ、
前記指標値は、前記分割動画内の構造物または欠陥の存在度合い、前記分割動画のノイズ度合い、または前記分割動画のぼけ度合いであることを特徴とする検査方法。
【発明を実施するための形態】
【0023】
以下、本発明の実施の形態を図面に基づいて詳細に説明する。なお、実施の形態を説明するための全図において、同一の部材には原則として同一の符号を付し、その繰り返しの説明は省略する。
【0024】
(実施の形態1)
<検査装置の構成>
図1により、本発明の実施の形態1に係る検査装置の構成について説明する。
図1は本発明の実施の形態1に係る検査装置の構成を示す構成図である。
【0025】
図1において、検査装置は、例えば、カメラ201、画像処理装置202、記憶装置203、表示装置であるGUI204から構成される。検査対象物205が放射線の影響が大きい原子炉である場合、カメラ201のみを検査対象物205の近くに置いて検査を行い、カメラ201以外の画像処理装置202、記憶装置203、GUI204は放射線量が多い環境の外に出す。
【0026】
また、カメラ201は、照明206や駆動部(図示せず)を備えていても良い。照明206は検査対象物205を照らす。カメラ201で検査対象物205を撮像して動画を取得する。カメラ201は、カラー動画またはグレースケール動画を撮像することができる。カメラ201の種類として、撮像管、CCD、CMOSなどを用いることができる。
【0027】
カメラ201からの動画は、ケーブル207を通して画像処理装置202に伝送する。カメラ201と画像処理装置202との通信は、無線で行っても良い。
【0028】
<画像処理装置の構成>
次に、
図2により、本発明の実施の形態1に係る検査装置の画像処理装置の構成について説明する。
図2は本発明の実施の形態1に係る検査装置の画像処理装置の構成を示す構成図である。
【0029】
図2において、画像処理装置202は、カメラ201で撮像した動画を入力する画像入力部2021、入力した動画を一旦記憶しておく画像メモリ2022、画像メモリ2022に記憶された動画を用いて分割動画を設定する分割動画設定部2023、分割動画設定部2023で設定された分割動画毎に指標値を算出する指標値算出部2026、指標値算出部2026で算出された指標値に基づいて画質改善用分割動画を設定する画質改善分割動画設定部2027、画質改善分割動画設定部2027で設定された画質改善用分割動画毎に画質改善強度を設定する画質改善設定部2028、画質改善分割動画設定部2027で設定された画質改善用分割動画毎に画像縮小の設定を行う画像縮小設定部2029、画質改善設定部2028で設定された画質改善強度と画像縮小設定部2029で設定された画像縮小の設定を用いて、画質改善分割動画設定部2027で設定された画質改善用分割動画の画質改善と画像縮小を行う画質改善画像縮小部2024、画質改善と画像縮小をされた動画を出力する画像出力部2025を備えている。
【0030】
ここで、分割しない場合や縮小しない場合などでは、画質改善分割動画設定部2027や画像縮小設定部2029が無い構成も考えられる。また、画質改善画像縮小部2024で画質改善のみ行う場合も考えられる。
【0031】
画像処理装置202は画質改善と画像縮小をした画像や入力画像を画像出力部2025から出力してGUI204に表示し、記憶装置203に記録して保存する。
【0032】
<目視検査のシーケンス>
次に、
図3により、本発明の実施の形態1に係る検査装置による目視検査のシーケンスについて説明する。
図3は本発明の実施の形態1に係る検査装置による目視検査のシーケンスを示す図である。
【0033】
検査手順101は、カメラ撮像ステップS102、分割動画作成ステップS103、指標値算出ステップS104、画質改善用分割動画作成ステップS107、画質改善設定ステップS108、画像縮小設定ステップS109、画質改善画像縮小ステップS105、画面表示ステップS106から構成される。
【0034】
ここで、画質改善用分割動画作成ステップS107、画像縮小設定ステップS109は無いシーケンスも考えられる。カメラの映像は動画であるため、上記のステップは原則としてフレーム毎に繰り返し実行される。
【0035】
カメラ撮像ステップS102では、カメラ201により検査対象物205を撮像した動画106を取得する。分割動画作成ステップS103では、取得した動画106について分割動画112を作成する。
【0036】
指標値算出ステップS104では、分割動画毎に画質改善処理の強度に関わる指標値113を算出する。画質改善用分割動画作成ステップS107では、指標値に基づいて分割動画114を作成する。
図3に示す例では、例えば、構造物115や欠陥116が映っているB領域117、背景であるC領域118をそれぞれ分割動画としている。
【0037】
また、取得動画106の一部をトリミングしたA領域119を分割動画とする場合もある。画質改善設定ステップS108では、分割動画毎に画質改善強度を設定する。画像縮小設定ステップS109では、分割動画毎に画像縮小の設定を行う。画質改善画像縮小ステップS105では、分割動画に対し、画質改善強度を用いた画質改善処理と、画像縮小設定を用いた画像縮小とを施して高画質動画111を作成する。
【0038】
また、画質改善のみ施して高画質動画111を作成する場合も考えられる。
図3に示す例では、例えば、B領域の分割動画であるB動画120に画質改善処理を施し高分解能高画質動画121を作成し、高分解能高画質動画121を縮小して、C領域の分割動画に縮小を施した縮小C動画122と合わせて縮小高分解能高画質動画123を作成する。
【0039】
または、A領域119の分割動画であるトリミングA動画124に画質改善処理を施したズーム高画質動画125を作成する場合もある。上記画質改善画像縮小ステップS105は代表的なものであり他の組み合わせを用いても良い。
【0040】
画面表示ステップS106では、高画質動画111を目視検査用にGUI204に表示する。または高画質動画111を記憶装置203に記憶する。
【0041】
<画像処理>
次に、本発明の実施の形態1に係る検査装置による画像処理について説明する。
【0042】
本実施の形態では、放射線の影響がある環境で検査対象物をカメラで撮像して検査対象物の動画を取得し、取得動画を複数の画像フレームに分割し、前記各画像フレームを複数の分割領域に分割して分割動画を作成し、その分割動画毎に画質改善処理の強度に関わる指標値を算出し、分割動画毎に指標値を用いて画質改善処理の強度を設定して画質改善処理を施して高画質動画を作成し、高画質動画を画面に表示する、または高画質動画を記憶装置に記憶している。
【0043】
従来技術のように取得動画に一様な画質改善処理を施した場合、画像フレーム毎または各画像フレームを複数に分割した分割領域毎にみると画質が不十分となる課題がある。取得動画の中で、画質改善処理の効果が出る箇所では画質改善処理を強く施し、画質改善処理の副作用が出る箇所では画質改善処理を弱く施すべきである。
【0044】
そこで、本実施の形態では、取得動画を複数の画像フレームに分割し、画像フレームを更に複数の分割領域に分割して分割動画を作成し、分割動画毎に異なる画質改善処理を施している。
【0045】
これにより、取得動画の中で、画質改善処理の効果が出る分割動画のみ動画を高画質化し、全体の視認性向上を図ることが可能となる。
【0046】
また、従来技術では、分割動画毎に画質改善処理を施す際に、画質改善処理の強度を適切に設定することができないという課題がある。画質改善処理の強度を設定するための目安を設ける必要がある。
【0047】
そこで、本実施の形態では、画質改善処理の強度を設定する目安として、分割動画毎に画質改善処理の強度に関わる指標値を算出している。これにより、分割動画毎に画質改善処理を施す際に、画質改善処理の強度を適切に設定する目安を得ることが可能となる。
【0048】
また、従来技術では、分割領域の境界では画質改善処理の強度が不連続に変わるため、分割領域の境界で画像が不自然に変化するという課題がある。分割領域の境界で画像が不自然に変化することを防ぐ必要がある。
【0049】
そこで、本実施の形態では、強度が連続的に変化するように調整して設定している。これにより、分割領域の境界で画像が不自然に変化することを抑制できる。
【0050】
具体的には、本実施の形態では、画質改善処理に画像復元処理を用いる。
【0051】
画像復元処理は一般的に知られた手法であり、例えば、元画像にぼけ関数が畳みこまれて劣化画像が生成されるというモデルで劣化過程を定義し、劣化画像にぼけ関数を逆畳み込みすることで元画像に復元する手法である。ぼけ関数は一般に2次元のガウス関数で表現されることが多い。
【0052】
本実施の形態の検査対象物に画像復元処理を単純に適用すると、構造物または欠陥をシャープにするが、一方でノイズを強調してしまうという課題がある。構造物も欠陥も無い場合は復元するべき対象が無くノイズを強調するだけなので、画像復元処理を弱く施すべきである。
【0053】
そこで、本実施の形態では、構造物または欠陥がある場合は画像復元を強く施してシャープにし、ノイズのみがある場合は画像復元を弱くしノイズの強調を抑制し、全体の視認性向上を図ることが可能となる。
【0054】
<指標値算出と画質改善処理の強度の設定>
次に、
図4により、本発明の実施の形態1に係る検査装置の指標値算出と画質改善処理の強度の設定について説明する。
図4は本発明の実施の形態1に係る検査装置の指標値算出と画質改善処理の強度の設定を説明するための説明図である。
【0055】
図4に示す例では、例えば、取得動画106のある画像フレーム301には構造物302が写っており、構造物302上には欠陥303が筋上に存在している。
【0056】
動画の分割方法としては、例えば、取得動画を複数の画像フレームに分割しかつ各画像フレームを複数の分割領域に分割することとし、分割動画304が作成される。分割領域への分割は任意の形状が可能であるが、
図3では短冊状の分割領域に分割した例を示している。分割領域の境界310は図では縦横の点線で示している。点線で囲まれた一区画が分割動画1個である。
【0057】
指標値算出は実際には分割動画の全ての画素値を用いて行うが、以下では説明を簡単にするため、画像フレーム301のAA’断面のみを使って説明する。画像フレーム301のAA’断面の画素値は例えば画素値グラフ305に示すようになる。画素値グラフ305の横軸の1メモリは分割動画1個分に対応している。AA’断面状の画素数はAA’断面状の分割動画数に比べて非常に多いものとし、横軸の1メモリには複数の画素が含まれているものとする。
【0058】
例えば、指標値を構造物または欠陥の存在度合いとし、その指標値は例えば、分割動画に平滑化処理をかけ、それを元の分割動画から差し引き、引いた結果の平均として算出する。
【0059】
AA’断面の分割動画毎に算出すると、算出結果は例えば指標値グラフ306に示すようになる。指標値グラフ306の横軸の1メモリは分割動画1個分に対応している。分割動画1個につき指標値1個を算出するため、指標値グラフ306の横軸の1メモリにつき指標値1個がプロットされている。
【0060】
画質改善処理は、例えば画像復元処理とし、例えば、ぼけ関数を逆畳み込みする処理とする。画質改善処理の強度はぼけ関数の大きさとする。ぼけ関数が大きいほど画像復元は強くなる。画像復元処理は構造物または欠陥をシャープにする性質があるため、構造物または欠陥の存在度合いが大きいほどぼけ関数を大きく設定して画像復元処理を施す。指標値と画像復元の強度との関係は指標値−強度グラフ311で示したようになる。
【0061】
算出された指標値を基に設定する画像復元処理の強度は例えば、画像復元処理強度グラフ307のようになる。画像復元処理強度グラフ307の横軸の1メモリは分割動画1個分に対応している。分割動画1個につき画像復元処理強度1個を設定するため、画像復元処理強度グラフ307の横軸の1メモリにつき強度1個がプロットされている。
【0062】
また、例えば分割領域の境界近傍では、境界の両側の画像復元処理の強度を補間し、両方の強度の中間的な強度で設定することで、分割領域の境界で画像復元処理の強度を連続的に変化させる。
【0063】
例えば分割領域の境界308を挟んで、第3分割領域の強度312と第4分割領域の強度313とは大きく異なり不連続となっている。そこで更に境界の両側の画像復元処理の強度を補間し、滑らかに変化させることで、分割領域の境界で画像復元処理の強度を連続的に変化させる。補間した画像復元処理の強度は例えば、画像復元処理強度グラフ309のようになる。
【0064】
画像復元処理強度グラフ309の横軸の1メモリは分割動画1個分に対応している。分割動画と分割動画との間の強度は滑らかな変化となっている。これにより、分割領域の境界で画像が不自然に変化することを抑制できる。
【0065】
このような方法で、構造物または欠陥の存在度合いを用いて画質改善処理を適切に施すことが可能となる。
【0066】
(実施の形態2)
実施の形態2は、実施の形態1において、画像フレーム毎の分割領域への分割が、格子状の分割としたものであり、検査装置の構成や画像処理装置での画像処理などは実施の形態1と同様である。
【0067】
<分割動画作成の分割領域への分割>
図5により、本発明の実施の形態2に係る検査装置の分割動画作成の分割領域への分割について説明する。
図5は本発明の実施の形態2に係る検査装置の分割動画作成の分割領域への分割を説明するための説明図である。
【0068】
図5に示すように、本実施の形態では、分割領域への分割において、画像フレーム301を複数の格子状分割領域に分割して分割動画401を作成する。分割領域の境界402は図では縦横の点線で示している。点線で囲まれた一区画が分割動画1個である。
【0069】
実施の形態1では、分割領域毎に指標値を算出し、その指標値に基づき分割領域毎に異なる画質改善処理を施しているが、そもそも適切な画質改善結果を得るにはどのような領域分割の単位で指標値を算出するのが望ましいかを指標値算出前に知ることは困難である。
【0070】
そこで、指標値算出の単位を単純な格子形状として与え、指標値を算出した後、その指標値に応じて画質改善処理用の分割領域を決定することが有効と考えられる。このような処理のため、実施の形態2では、指標値算出用の単位を格子状に与えている。これにより、指標値を算出する上で必要な分割領域への分割を行うことが可能となる。
【0071】
(実施の形態3)
実施の形態3は、実施の形態1、2において、指標値を、分割動画内の構造物または欠陥の存在度合い、分割動画のノイズ度合い、または分割動画のぼけ度合いとしたものであり、検査装置の構成や画像処理装置での画像処理などは実施の形態1と同様である。
【0072】
分割動画毎に画質改善処理を施すためには、分割動画毎に画質改善処理の強度に関わる指標値を算出することが必要である。そのためには画質改善処理の強度に関わる指標値を決定しなければならない。基本的に画質の低下が発生している箇所に対しては画質改善処理を施す必要がある。
【0073】
画質低下の主要因はノイズまたはぼけである。一方、ユーザが見たいものが存在しない箇所に対しては画質改善処理を施す必要がない場合がある。ユーザが見たいものは構造物または欠陥である。
【0074】
そこで本実施の形態では、ノイズ度合い、ぼけ度合い、構造物または欠陥の存在度合いを指標値としている。これにより、分割動画毎に画質改善処理の強度に関わる指標値に応じて、画質改善処理の強度を設定することが可能となる。
【0075】
例えば、画質改善処理として画像復元処理を考えると、画像復元処理は構造物または欠陥をシャープにするが、一方でノイズを強調してしまう性質がある。そこで、例えば構造物や欠陥がある場合のみ画像復元処理を施すべきである。また、例えば、ノイズが強い場合は画像復元処理を抑えるべきである。また、例えば、動画のぼけが強い場合は画像復元処理を強くすべきである。
【0076】
そこで、本実施の形態では、指標値を構造物または欠陥の存在度合いとし、例えば、分割動画に平滑化処理をかけ、それを元の分割動画から差し引き、引いた結果の平均として算出する。
【0077】
<指標値算出と画質改善処理の強度の設定>
次に、
図6により、本発明の実施の形態3に係る検査装置の指標値算出と画質改善処理の強度の設定について説明する。
図6は本発明の実施の形態3に係る検査装置の指標値算出と画質改善処理の強度の設定を説明するための説明図であり、
図6(a)と
図6(b)は別の動画フレームを示している。
【0078】
図6(a)において、
図4に示す例と同様に取得動画106のある画像フレーム301には構造物302が写っており、構造物302上には欠陥303が筋上に存在している。画像フレーム301には放射線によるノイズが重畳されているものとする。分割領域への分割は、実施の形態2と同様に格子状に分割した例を示している。
【0079】
また、実施の形態1と同様に、画像フレーム301のAA’断面のみを使って説明する。画像フレーム301のAA’断面の画素値は例えば画素値グラフ305に示すようになる。
【0080】
例えば、指標値をノイズ度合いとし、例えば分割動画に平滑化処理をかけ、それを元の分割動画から差し引き、引いた結果の標準偏差として算出する。AA’断面の分割動画毎に算出すると、算出結果は例えば指標値グラフ501に示すようになる。
【0081】
なお、ノイズ度合いのノイズの判断方法としては、例えば、周波数の高周波成分により判断する。
【0082】
実施の形態1と同様に、画質改善処理を画像復元処理とし、画像復元処理の強度はぼけ関数の大きさとすると、ノイズが強い場合は画像復元処理を抑えるように設定する。指標値と画像復元の強度との関係は指標値−強度グラフ509で示したようになる。算出された指標値を基に設定する画像復元処理の強度は例えば、画像復元処理強度グラフ502のようになる。
【0083】
実施の形態1と同様に、境界の両側の画像復元処理の強度を補間し、画質改善処理の強度は例えば、画質改善処理強度グラフ503のようになる。
【0084】
また、
図6(b)に示す取得動画106の別の画像フレーム504にも構造物302が写っており、構造物302上には欠陥303が筋上に存在している。画像フレーム504にも放射線によるノイズが重畳されているものとする。画像フレームが異なるということは撮像タイミングが異なるということである。撮像タイミングが異なると重畳するノイズの大きさも異なる可能性がある。
【0085】
実施の形態1と同様に、画像フレーム504のAA’断面のみを使って説明する。画像フレーム504のAA’断面の画素値は例えば画素値グラフ505に示すようになる。前述の例と同様に指標値をノイズ度合いとし、AA’断面の分割動画毎に算出する。算出結果は例えば指標値グラフ506に示すようになる。
【0086】
算出された指標値を基に設定する画像復元処理の強度は、例えば、画像復元処理強度グラフ507のようになる。実施の形態1と同様に、境界の両側の画像復元処理の強度を補間し、画質改善処理の強度は、例えば、画質改善処理強度グラフ508のようになる。
【0087】
画像フレーム301と画像フレーム504とは異なったノイズが重畳されているため、指標値算出の結果は異なり、画質改善処理の強度も異なったものとなる。このように画像フレームが異なる分割動画についても画像復元処理の強度を変えて設定することが可能である。
【0088】
指標値が、ぼけ度合いである場合についても、同様に分割動画毎に指標値算出と画像復元処理の強度の設定を行うことが可能である。ぼけ度合いは、例えば、分割動画に一般的に知られるケプストラム解析をかけて得られるPSF(point spread function:点拡がり関数)とする。
【0089】
前述のように、カメラを移動させながら検査対象物を撮像するため、動画中の画像フレーム毎にカメラと検査対象物との距離が変わる。また、検査対象物は奥行きを持った構造であるため、各画像フレーム上の位置によってもカメラと検査対象物との距離が変わる。これによって、画像フレーム毎にまたは各画像フレーム上の位置毎に画像のぼけ度合いも変わるが、分割動画毎にぼけ度合いの変化に応じて画像復元処理の強度の設定を行うことが可能である。
【0090】
このような方法で、構造物や欠陥の多少に応じて、またはノイズの大小に応じて、または動画のぼけの大小に応じて、画質改善処理の強度を設定することが可能となる。
【0091】
(実施の形態4)
実施の形態4は、実施の形態1、2において、高画質動画の作成における分割動画への分割方法を、指標値の算出における分割動画への分割方法と異なるようにしたものであり、検査装置の構成や画像処理装置での画像処理などは実施の形態1と同様である。
【0092】
画質改善処理は、構造物や欠陥の多少に応じて、またはノイズの大小に応じて、または動画のぼけの大小に応じて施すべきである。そのため高画質動画の作成に適した分割領域に分割することが課題となる。
【0093】
指標値の算出において用いた分割動画への分割は指標値算出前に行った分割方法であるため、指標値の大小とは無関係な分割方法である。一方、高画質動画の作成における分割動画への分割は指標値に基づいて行うべきである。
【0094】
そこで本実施の形態では、高画質動画の作成における分割動画への分割方法を、指標値の算出における分割動画への分割方法と異なるようにしている。これにより、高画質動画の作成に適した分割領域に分割することが可能となる。
【0095】
<分割動画への分割方法>
図7により、本発明の実施の形態4に係る検査装置の分割動画への分割方法について説明する。
図7は本発明の実施の形態4に係る検査装置の分割動画への分割方法を説明するための説明図である。
【0096】
図7において、指標値の算出においては、例えば画像フレーム301の分割領域への分割は格子状に分割して分割動画401を作成する。分割動画には構造物302が存在する分割動画601と背景に相当する分割動画602とがある。
【0097】
指標値を、例えば、構造物や欠陥の存在度合いとし、分割動画毎に算出すると、例えば、指標値分布グラフ603に示すようになる。指標値分布グラフ603のx、y軸の1メモリは分割動画1個分に対応している。構造物や欠陥は多様な形状であるため、指標値の算出において用いた分割領域にきれいに収まるとは限らない。
【0098】
そこで、この構造物または欠陥の存在度合いを用いて、存在度合いが似ている複数の分割動画をまとめてまとめ分割動画とする。例えば、指標値分布グラフ603上では構造物が存在する分割動画の指標値604は大きく、背景に相当する分割動画の指標値605は小さい。
【0099】
そこで、前記高画質動画の作成における分割動画の作成606においては、指標値の大きい分割動画をまとめてまとめ分割動画607とする。図ではまとめ分割動画607は白線で囲まれた領域で示しており、構造物や欠陥が存在する分割動画からなっている。また、指標値の小さい分割動画をまとめて別のまとめ分割動画608とする。
図7では白線の外側の領域で示しており、背景に相当する分割動画からなっている。これによって、指標値が似ている分割動画をまとめて同じ画質改善処理を施すことができる。
【0100】
または、例えば、構造物や欠陥は多様な形状であるため、分割領域の一部にのみ存在する場合がある。そこで、分割領域内で、例えば、色情報を基に周囲と色が異なる箇所を構造物または欠陥が存在する箇所として求めて分割動画とする。
【0101】
例えば、画像フレーム301において欠陥303が存在する分割動画609がある。これを拡大した動画610を示す。欠陥303は分割動画の一部にのみ存在する。欠陥が存在する箇所は、この分割動画の中でもユーザが特に見たい箇所である。そこで、例えば、欠陥303は周囲よりも黒いという色情報を用いて、この分割動画の中から欠陥が存在する箇所を更に分割して別の分割動画611とする。
【0102】
これにより、指標値の算出において用いた分割動画の複数をまとめて構造物や欠陥を包含する分割動画にすることが可能となる。また、指標値の算出において用いた分割動画を更に分割して、構造物や欠陥が存在する箇所だけを分割動画にすることが可能となる。
【0103】
(実施の形態5)
実施の形態5は、実施の形態1、2において、画像復元の強度を、画像復元処理で用いるぼけ関数の大きさ、または画像復元処理の反復回数としたものであり、検査装置の構成や画像処理装置での画像処理などは実施の形態1と同様である。
【0104】
画質改善処理として画像復元処理を行う場合、指標値を用いて画質改善処理の強度を適切に設定することが課題となる。画像復元の強度を左右する主な要素は画像復元処理で用いるぼけ関数の大きさ、または画像復元処理の反復回数である。
【0105】
そこで本実施の形態では、画像復元処理で用いるぼけ関数の大きさ、または画像復元処理の反復回数を画像復元の強度としている。これにより、指標値の変化に応じて画質改善処理の強度を適切に設定することが可能となる。
【0106】
<指標値算出と画質改善処理の強度の設定>
次に、
図8により、本発明の実施の形態5に係る検査装置の指標値算出と画質改善処理の強度の設定について説明する。
図8は本発明の実施の形態5に係る検査装置の指標値算出と画質改善処理の強度の設定を説明するための説明図である。
【0107】
本実施の形態では、画像復元処理の強度の設定を、例えば、画質改善処理の強度をぼけ関数の大きさとしている。構造物や欠陥の存在度が大きい場合はぼけ関数を大きくして画像復元を強くする。
【0108】
図8において、取得動画106のある画像フレーム301には構造物302が写っており、構造物302上には欠陥303が筋上に存在している。画像フレーム301には放射線によるノイズが重畳されているものとする。分割領域への分割は格子状に分割した例を示している。実施の形態1と同様に、画像フレーム301のAA’断面のみを使って説明する。
【0109】
指標値を構造物または欠陥の存在度合いとし、指標値算出結果は指標値グラフ306に示すようになる。例えば、画質改善処理の強度を画像復元の反復回数とする。構造物や欠陥の存在度が大きい場合は反復回数を多くして画像復元を強くする。指標値と画像復元の強度との関係は指標値−強度グラフ703で示したようになる。
【0110】
画像復元処理の反復回数は整数で設定するため、強度はステップ上に変化する。算出された指標値を基に設定する画像復元処理の強度は例えば、画像復元処理強度グラフ701のようになる。実施の形態1と同様に、境界の両側の画像復元処理の強度を補間し、画像復元処理の強度は例えば、画像復元処理強度グラフ702のようになる。これにより、指標値の変化に応じて画像復元処理の強度を適切に設定することが可能となる。
【0111】
(実施の形態6)
実施の形態6は、実施の形態3において、ノイズ度合いを画面に表示する、または記憶装置に記憶するようにしたものであり、検査装置の構成や画像処理装置での画像処理などは実施の形態1と同様である。
【0112】
取得動画に対して画質改善処理を施すため、表示、記憶する動画のノイズは元の取得動画とは異なるものとなり、元のノイズを把握する必要がある。
【0113】
本実施の形態では、元のノイズを把握できるようにするために、指標値として算出しているノイズ度合いをGUI204による画面に表示または記憶装置203に記憶している。
【0114】
<画面表示例>
図9により、本発明の実施の形態6に係る検査装置のGUIによる画面表示例について説明する。
図9は本発明の実施の形態6に係る検査装置のGUIによる画面表示例を説明するための説明図であり、
図9(a)は画面表示例、
図9(b)はノイズ度合いを表示するダイアログの拡大図を示している。
【0115】
図9(a)に示すように、GUI204上には高画質動画801を表示する。また、例えば、GUI204上にダイアログ802を表示する。ダイアログ802には、
図9(b)に示すように各画像フレームのノイズ度合いの値803を表示する。ダイアログ802には、ノイズ度合いのゲージ804を表示しても良い。
【0116】
更に、ダイアログ802にはGUI204上に表示した高画質動画801にラベルを付けて保存するためのボタン805を表示する。GUI204上に高画質動画が表示されている状態でボタン805をクリックすることにより、GUI204上に表示されている動画にラベルとしてノイズ度合いが付けられて記憶装置203に記憶される。
【0117】
これにより、ユーザが検査箇所のノイズ度合いを検査時または検査後に把握することが可能となる。
【0118】
(実施の形態7)
実施の形態7は、実施の形態6において、ぼけ度合いから算出したカメラの放射能損傷度を画面に表示する、または記憶装置に記憶するようにしたものであり、検査装置の構成や画像処理装置での画像処理などは実施の形態1と同様である。
【0119】
放射線が多い環境ではカメラ内の電子回路が損傷し、その機能を徐々に喪失する。しかしながらカメラの損傷度合いや寿命はわからないが、カメラの損傷は、取得動画のぼけ度合いが徐々に強くなる現象となって現れる。
【0120】
本実施の形態では、指標値としてぼけ度合いを算出する。そこで、そのぼけ度合いからカメラの放射能損傷度を推定し、推定した放射能損傷度をGUI204による画面に表示、または記憶装置203に記憶している。
【0121】
これにより、ユーザがカメラの放射能損傷度を検査時または検査後に把握し、カメラの寿命や交換時期の判断の一助とすることが可能となる。
【0122】
<放射能損傷度の推定>
次に、
図10により、本発明の実施の形態7に係る検査装置の放射能損傷度の推定について説明する。
図10は本発明の実施の形態7に係る検査装置の放射能損傷度の推定を説明するための説明図である。
【0123】
本実施の形態では、実施の形態1と同様に、取得動画を分割する。指標値をぼけ度合いとし、分割動画毎に指標値を算出する。放射能損傷度が大きいほどぼけ度合いが大きくなるので、指標値とカメラの放射能損傷度との関係は、
図10の指標値−損傷度グラフ901のようになる。
【0124】
指標値−損傷度グラフ901から算出した指標値からカメラの放射能損傷度を推定する。例えば、指標値がぼけd902なら損傷度D903となる。推定した損傷度はGUI204による画面に表示、または記憶装置203に記憶する。
【0125】
<画面表示例>
図11により、本発明の実施の形態7に係る検査装置のGUIによる画面表示例について説明する。
図11は本発明の実施の形態7に係る検査装置のGUIによる画面表示例を説明するための説明図であり、
図11(a)は画面表示例、
図11(b)は放射線損傷度を表示するダイアログの拡大図を示している。
【0126】
図11(a)に示すように、実施の形態6と同様にGUI204上には高画質動画801、ダイアログ802を表示する。また、GUI204上にダイアログ1002を表示する。ダイアログ1002には、
図11(b)に示すように放射能損傷度の値1003を表示する。ダイアログ1002には、放射能損傷度のゲージ1004を表示しても良い。
【0127】
更に、ダイアログ1002にはGUI204上に表示した高画質動画801にラベルを付けて保存するためのボタン1005を表示する。GUI204上に高画質動画が表示されている状態でボタン1005をクリックすることにより、GUI204上に表示されている動画にラベルとして放射能損傷度が付けられて記憶装置203に記憶される。
【0128】
これにより、ユーザがカメラの放射能損傷度を検査時または検査後に把握し、カメラの寿命や交換時期の判断の一助とすることが可能となる。
【0129】
なお、指標値−損傷度グラフ901は、予め損傷度がわかっているカメラでぼけ度合いを算出して作成すれば良い。
【0130】
(実施の形態8)
実施の形態8は、放射線の影響がある環境で検査対象物を、画面表示画素数または記憶画素数より多くの画素数を持つカメラで撮像して検査対象物の動画を取得し、取得動画を複数の画像フレームに分割、または各画像フレームを複数の分割領域に分割して分割動画を作成する分割を行い、縮小処理で使用する縮小率を用いて縮小後に信号成分が保存されるように、画質改善処理を設定あるいは縮小処理を設定し、分割動画毎に設定された画質改善処理を施して高画質動画を作成し、高画質動画から分割動画毎に設定された縮小処理を施して高画質縮小動画を作成し、高画質縮小動画を画面に表示するとともに、高画質縮小動画を記憶装置に記憶するようにしたものであり、カメラ以外の検査装置の構成や画像処理装置での画像処理などは実施の形態1と同様である。
【0131】
発電プラント等の検査においては、検査に使用した動画を保存することとなっている。ここで使用される動画フォーマットは従来の検査で用いているカメラで取得した画像がちょうど収まる画素数となっている。この画素数では分解能が不足している場合がある。
【0132】
そこで、本実施の形態では、画面表示画素数または記憶画素数より多くの画素数を持つカメラで撮像し検査対象物の動画を取得する。一方、取得動画そのままでは保存する動画フォーマットに収まらないため縮小が必要である。単純に縮小すると画素数の減少によって分解能が減少してしまうため、画素数の多いカメラで撮像する利点が生かせず、従来の検査で用いているカメラで撮像する場合と変わらなくなる。
【0133】
そこで、縮小後に必要な信号成分が保存されるように、取得動画を複数の分割動画に分割し、分割動画毎に縮小率に応じて画質改善処理と縮小処理を施している。
【0134】
これにより分解能を向上した高画質動画を得ることが可能となる。
【0135】
ここで、保存する動画フォーマットは日本や米国等で使用される動画フォーマットとヨーロッパ等で使用される動画フォーマットは別であることと、将来的により画素数の多い規格が使用される可能性がありそれらに対応することが必要である。現在、日本や米国で使用されるNTSC規格、またはヨーロッパ等で使用されるPAL規格、または、将来使用される可能性があるHDTV規格に対応するものとする。
【0136】
例えば、従来のテレビモニタやDVDの動画フォーマットの規格がNTSCであった場合、それらへの表示や保存を行う可能性があるため、NTSC規格より多くの画素数を持つカメラで取得した動画をNTSC規格へ縮小する必要が生じるので、これに対応する。
【0137】
また、分割領域の境界では画質改善処理の強度が不連続に変わるため、分割領域の境界で画像が不自然に変化するため、分割領域の境界で画像が不自然に変化することを防ぐ必要がある。
【0138】
そこで、本実施の形態では、強度が連続的に変化するように調整して設定している。
【0139】
これにより、分割領域の境界で画像が不自然に変化することを抑制することが可能となる。
【0140】
<指標値算出と画質改善処理の強度の設定>
次に、
図12により、本発明の実施の形態8に係る検査装置の指標値算出と画質改善処理の強度の設定について説明する。
図12は本発明の実施の形態8に係る検査装置の指標値算出と画質改善処理の強度の設定を説明するための説明図である。
【0141】
図12において、取得動画106のある画像フレーム301には構造物302が写っており、構造物302上には欠陥303が筋上に存在している。分割領域への分割は実施の形態2と同様に格子状に分割した例を示している。また、実施の形態1と同様に、画像フレーム301のAA’断面のみを使って説明する。
【0142】
画像フレーム301のAA’断面の画素値は、例えば、画素値グラフ305に示すようになる。
【0143】
例えば、分割動画毎に構造物または欠陥の存在度合いを算出し、存在度合いが大きい分割動画の画質改善処理の強度を強くする。指標値算出結果は例えば指標値グラフ306に示すようになる。
【0144】
画質改善処理は、例えば、画像復元処理とし、ぼけ関数を逆畳み込みする処理とする。画質改善処理の強度はぼけ関数の大きさとする。このとき縮小処理で使用する縮小率を用いて画質改善処理の強度を設定する。
【0145】
指標値と画像復元の強度との関係は指標値−強度グラフ1101で示したようになる。構造物または欠陥の存在度合いが大きい分割動画では画質改善処理の強度を強くする。例えば、縮小率1/2である場合は画質改善処理の強度を2倍の強さに設定する。指標値−強度グラフ1101では細線で示した強さに設定する。画像復元処理の強度は例えば、画像復元処理強度グラフ1102のようになる。
【0146】
指標値が大きい分割動画1103では点線で示した強度から実線で示した強度に設定する。更に、境界の両側の画像復元処理の強度を補間し、画像復元処理強度グラフ1104のようになる。
【0147】
ここで縮小率はカメラの画素数と画面表示画素数または記憶画素数から決まるものであり、予め、ユーザ入力または計算で与えられているものとする。
図13に検査を行うための画面表示の例を示す。
図13は本発明の実施の形態8に係る検査装置のGUIによる画面表示例を説明するための説明図であり、
図13(a)は画面表示例、
図13(b)は縮小率を表示するダイアログの拡大図を示している。
【0148】
実施の形態7と同様に、GUI204上には高画質動画801、ダイアログ802、ダイアログ1002を表示する。また、GUI204上にダイアログ1202を表示する。
【0149】
ダイアログ1202には、
図13(b)に示すようにカメラ画素数の入力・表示欄1203、画面表示画素数の入力・表示欄1204、記憶画素数の入力・表示欄1205、縮小率の入力・表示欄1206を設けている。
【0150】
各入力欄にユーザがカメラ画素数、画面表示画素数、記憶画素数、縮小率を入力する。ここで縮小率は、画面表示画素数、記憶画素数の小さい方をカメラ画素数で割った値を自動算出して縮小率の入力・表示欄1206に表示しても良い。
【0151】
次に、分割動画である分割領域毎に設定された画質改善処理の強度を用いて画質改善処理である信号強調処理を施し高画質化動画を作成する。次に、高画質化動画に前記縮小率で縮小処理を施し高画質縮小動画を作成する。
【0152】
または、例えば、分割領域毎に、上記同様に構造物または欠陥の存在度合いを算出し、存在度合いが大きい分割動画の画質改善処理の強度を強くする。画質改善処理は画像復元処理とし、画質改善処理の強度は画質復元処理の強度とする。
【0153】
また、縮小率を用いて縮小処理の設定を行う。例えば、縮小率1/2である場合は2画素以内に構造物または欠陥の存在度合いが大きい画素がある場合はその画素を選択することにより縮小を行うように設定する。次に、分割領域毎に設定された画質改善処理の強度を用いて信号強調処理を施し高画質化動画を作成する。次に、高画質化動画に設定した縮小処理を施し高画質縮小動画を作成する。
【0154】
これにより構造物または欠陥の存在度合いに応じて強度、かつ縮小率にも応じた強度で信号強調を行うまたは縮小処理を行うことで構造物または欠陥が保存された高画質縮小動画を得ることが可能となる。
【0155】
または、画質改善処理を、例えば、ノイズ抑制処理とし、過去複数画像フレームと加算する処理とする。画質改善処理の強度はフレーム加算数とする。分割動画毎に、例えば、ノイズ度合いを算出する。ノイズ度合いが大きい分割動画はフレーム加算数を多くする。このとき縮小処理で使用する縮小率も用いてフレーム加算数を設定する。
【0156】
縮小率が小さいと縮小によるノイズ抑制が期待できるのでフレーム加算数を調整する。例えば縮小率1/2である場合はフレーム加算数を1/2に調整する。次に分割動画毎に設定されたフレーム加算数を用いてノイズ抑制処理を施し高画質化動画を作成する。
【0157】
(実施の形態9)
実施の形態9は、実施の形態8において、画像フレーム毎の分割領域への分割を、格子状の分割としたものであり、検査装置の構成や画像処理装置での画像処理などは実施の形態8と同様である。
【0158】
<分割動画作成の分割領域への分割>
図14により、本発明の実施の形態9に係る検査装置の分割動画作成の分割領域への分割について説明する。
図14は本発明の実施の形態9に係る検査装置の分割動画作成の分割領域への分割を説明するための説明図である。
【0159】
本実施の形態では、
図14に示すように、分割領域への分割において、画像フレーム301を複数の格子状分割領域に分割して分割動画1301を作成する。分割領域の境界1302は図では縦横の点線で示している。点線で囲まれた一区画が分割動画1個である。
【0160】
このように、指標値算出の単位を単純な格子形状として与え、指標値を算出した後、その指標値に応じて画質改善処理用の分割領域を決定するために、指標値算出用の単位を格子状に与えている。これにより、指標値を算出する上で必要な分割領域への分割を行うことが可能となる。
【0161】
(実施の形態10)
実施の形態10は、実施の形態8、9において、カメラを従来使用しているカメラより画素数の多い高分解能カメラとしたものであり、検査装置の構成や画像処理装置での画像処理などは実施の形態8、9と同様である。
【0162】
検出対象としている欠陥は1mil幅以上の大きさであり、従来使用している30万画素のカメラで撮像すると、カメラと対象物との距離によっては取得動画上でサブピクセルの大きさとなるため、そのままでは視認性が悪いので、カメラを接近させる必要がある。検査の信頼性を向上させるためには、取得動画上で検出対象としている欠陥が1ピクセル程度以上の大きさになっていることが望ましい。
【0163】
そこで、本実施の形態では、従来使用している30万画素のカメラより画素数の多い高分解能な(例えば100万画素以上の)カメラを使用している。
【0164】
これにより、従来の約2倍の分解能を備えることとなり、カメラを接近させることなく1mil幅以上の欠陥は取得動画上で1ピクセル程度以上の大きさになるため、欠陥を容易に検出することが可能となる。
【0165】
<検査対象物の撮像例>
図15により、本発明の実施の形態10に係る検査装置の検査対象物の撮像例について説明する。
図15は本発明の実施の形態10に係る検査装置の検査対象物の撮像例を説明するための説明図である。
【0166】
図15に示すように、例えば、画像フレーム301において欠陥303が存在する箇所がある。30万画素のカメラで対象物に接近せずに撮像した場合、欠陥303が存在する箇所を拡大したものは
図15の1303で示す画像となる。点線で囲まれた各正方領域が1画素である。欠陥303は縦筋状であり1画素未満の幅となる。
【0167】
また、120万画素のカメラで撮像した場合、欠陥303が存在する箇所を拡大したものは
図15の1304で示す画像となる。点線で囲まれた各正方領域が1画素である。この場合は、欠陥303は約1画素の幅となる。
【0168】
これにより、欠陥を安定して検出することが可能となる。
【0169】
(実施の形態11)
実施の形態11は、実施の形態1〜10において、カメラで撮像した動画を画像処理した高画質化動画と同時にGUI204に表示したり、記憶装置203に記憶するようにしたものであり、検査装置の構成や画像処理装置での画像処理などは実施の形態1と同様である。
【0170】
高画質化動画だけを表示、保存した場合、ユーザは元の動画のノイズ、コントラスト、ぼけの度合いを把握できないため、元の動画のノイズ、コントラスト、ぼけの度合いを把握するには元の動画を表示してユーザに提示することが有効である。
【0171】
そこで、本実施の形態では、元の動画の状態を把握できるようにするため、カメラで撮像した動画を高画質化動画と同時に表示や記憶するようにしている。
【0172】
<画面表示例>
図16により、本発明の実施の形態11に係る検査装置のGUIによる画面表示例について説明する。
図16は本発明の実施の形態11に係る検査装置のGUIによる画面表示例を説明するための説明図であり、
図16(a)、(b)は画面表示例、
図16(c)は表示を切り替えるためのダイアログの拡大図を示している。
【0173】
図16(a)に示すように、実施の形態8と同様に、GUI204上には高画質動画801、ダイアログ802、ダイアログ1002、ダイアログ1202を表示する。また、GUI204上にダイアログ1402を表示する。
【0174】
ダイアログ1402には、
図16(c)に示すように撮像画像、処理結果、2画面を切り替えるための表示画像の切り替えボタン1403を設けている。
【0175】
切り替えボタン1403を撮像画像にするとGUI204上の高画質動画801は撮像画像に切り替わり、切り替えボタン1403を処理結果にすると高画質動画801は処理結果画像に切り替わり、切り替えボタン1403を2画面にすると、
図16(b)に示すようにGUI204上に撮像画像1404と処理結果画像1405とが同時に表示される。
【0176】
これにより、元の動画と高画質化動画を見比べることができ、元の動画のノイズ、コントラスト、ぼけの度合いを用意に把握することが可能となる。
【0177】
(実施の形態12)
実施の形態12は、実施の形態8において、取得動画を、画面表示画素数または記憶画素数に収まる画素数にトリミングするようにしたものであり、検査装置の構成や画像処理装置での画像処理などは実施の形態1と同様である。
【0178】
記憶画素数より多くの画素数を持つカメラで撮像し検査対象物の動画を取得し、取得動画を縮小しない場合は、画面表示画素数または記憶画素数に収まらない場合があり、この場合は、画面表示画素数または記憶画素数に収まるように、縮小処理以外で取得動画を小さくすることが必要である。
【0179】
そこで、本実施の形態では、取得動画を画面表示画素数または記憶画素数に収まる画素数にトリミングして小さくしている。
【0180】
これにより、画面表示画素数または記憶画素数に収まるような高画質動画を得ることが可能となる。
【0181】
また、上記トリミングの際、取得動画中のどこの箇所を選択してトリミングするかが重要であり、トリミングする際にはユーザが見たいものを選択するべきである。例えば、ユーザが見たいものは構造物または欠陥である。
【0182】
そこで、本実施の形態では、分割領域毎に指標値を算出し、指標値に基づいてトリミングをしている。例えば、分割領域毎に指標値として構造物または欠陥の存在度合いを算出する。算出した指標値に基づいて、例えば、構造物または欠陥の存在度合いが最も大きい分割領域を中心に、画面表示画素数または記憶画素数に収まるような画素数でトリミング領域を選択してトリミングする。
【0183】
<トリミングの一例>
図17〜19により、本発明の実施の形態12に係る検査装置のトリミングの一例について説明する。
図17〜19は本発明の実施の形態12に係る検査装置のトリミングの一例を説明するための説明図であり、
図17は欠陥の存在度合いが最も大きい分割領域を中心にトリミングする例、
図18は画像の中心近傍をトリミング箇所に設定する例、
図19はGUI上でトリミング箇所をユーザが指定する例を示している。
【0184】
図17においては、取得動画のある画像フレーム301には欠陥303が筋上に存在している。実施の形態1などで説明したように、欠陥がある箇所で構造物または欠陥の存在度合いが最も大きいので、これを中心にトリミング箇所1501を選択する。
【0185】
また、
図18においては、ユーザは見たい箇所を画面の中心に捉えるだろうことを前提に、画面の中心をトリミング箇所1601の中心として設定する例である。
【0186】
また、
図19においては、
図19(a)のようにGUI204上でユーザがマウスカーソル1701等で任意箇所1702をトリミング箇所として指定する。また、
図19(b)のようにGUI204上でユーザがマウスカーソル1703等でコーナを指定して任意矩形領域1704を注目領域として指定しても良い。
【0187】
これにより、トリミングする際の指針が得られ有効なトリミング領域を選択することが可能となる。
【0188】
以上、本発明者によってなされた発明を実施の形態に基づき具体的に説明したが、本発明は前記実施の形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることはいうまでもない。