【文献】
楜澤 信 Makoto Kurumisawa,産業を支える画像技術 〜その広がりと学術・技術的深化〜,映像情報メディア学会誌 第65巻 第11号 The Journal of The Institute of Image Information and Television Engineers,日本,(社)映像情報メディア学会 The Institute of Image Information and Television Engineers,第65巻,p.1490-1496
(58)【調査した分野】(Int.Cl.,DB名)
前記合成画像生成工程により生成された合成画像又は前記第2合成画像生成工程により生成された第2合成画像に前記カラー撮影画像を組み合わせてカラー画像を生成するカラー画像生成工程を含む請求項1又は2に記載の画像処理方法。
前記合成画像生成手段により生成された合成画像又は前記第2合成画像生成手段により生成された第2合成画像に前記カラー撮影画像を組み合わせてカラー画像を生成するカラー画像生成手段を備える請求項4又は5に記載の画像処理装置。
【背景技術】
【0002】
各種製鋼炉や溶鋼鍋等に採用される耐火煉瓦や不定形耐火物は、操業に伴って徐々に損傷する。このため、耐火煉瓦や不定形耐火物(以下、総称して「耐火物」という。)の損傷状態を観察し、損傷箇所があった場合には補修を行う必要がある。
【0003】
耐火物の損傷状態を観察するためには、高温部からの強い熱放射光を除去することが必要である。熱放射光を除去する技術としては、黒体輻射密度の比較的低い波長532nmの拡散レーザー光を炉内壁面に照射し、炉内壁面からの反射光をCCDカメラにより撮影する技術が知られている(例えば、特許文献1参照)。
【0004】
また、被検体に放射線を照射し、被検体を透過した放射線をイメージインテンシファイヤで検出し、検出信号にRGB分離処理やバックグラウンドのリファレンス画像を引き算する処理等を施すことで、画像の視認性を高める技術が知られている(例えば、特許文献2参照)。
【0005】
しかしながら、特許文献1の技術はレーザー光源を必要とする。このため、特許文献1のような装置構成を実現するには、コストと手間を要する。
【0006】
また、特許文献2の技術は、X(γ)線を用いて物質の破損等を把握する技術であって、測定対象物は人体等である。このため、赤熱した高温部を含む物を測定対象物としていない。また、特許文献2に記載のバックグラウンド除去技術は、バックグラウンドノイズ除去のために事前又は事後に撮影したリファレンス画像を引き算する処理であり、撮影した画像から得られたバックグランド信号を除去する処理ではない。
【0007】
更に特許文献2に記載のRGB分離処理は、X線透過の割合に応じてRGBの信号が同時に異なった状態で出力されるカラーイメージインテンシファイヤと組み合わせて利用した場合に、ダイナミックレンジを向上させる効果が得られるものであり、この装置構成以外において同様の効果を発揮するものではない。
【発明を実施するための形態】
【0014】
図1は、本発明の画像処理方法を実施する画像処理装置の構成例を示すブロック図である。
【0015】
図1の画像処理装置は、対象物をカラー撮影する撮影手段と、その撮影手段により撮影されたカラー撮影画像を処理する画像処理部とからなる。
【0016】
撮影手段としてはデジタルカメラを用いることができ、そのデジタルカメラには、所定の波長域を透過する1種又は2種以上のフィルタを選択的に付加することができる。
【0017】
画像処理部は、メモリ手段と、分離画像生成手段、バックグラウンド信号除去処理手段、合成画像生成手段及びカラー画像生成手段からなる画像処理手段とを備えてなる。メモリ手段は、撮影手段により撮影されたカラー撮影画像のデータを保存し、そのカラー撮影画像のデータを画像処理手段に提供し、また、画像処理手段による画像処理後のデータを保存する機能を有する。また、画像処理手段である分離画像生成手段、バックグラウンド信号除去処理手段、合成画像生成手段及びカラー画像生成手段は、それぞれ後述する分離画像生成工程、バックグラウンド信号除去処理工程、合成画像生成工程及びカラー画像生成工程を実行する。これらの画像処理手段はCPUにて実現することができ、上述のメモリ手段と合わせて画像処理部は1台のコンピュータで実現することができる。
【0018】
図2Aは
図1の画像処理装置による画像処理方法の各工程を示すフロー図である。以下、
図1及び
図2Aを参照して各工程を説明する。
【0019】
(A)撮影工程(
図2Aの(A1))
撮影手段(デジタルカメラ)により、赤熱した高温部を含む対象物をカラー撮影し、そのカラー撮影画像のデータをメモリ手段に保存する。撮影手段には、必要に応じて、所定の波長域を透過する光学フィルタを付加することができる。
【0020】
光学フィルタとしては、例えば赤熱時に放射光が強く発生する500nm以上の波長域を遮断するものを使用することができる。このような光学フィルタを有する撮影手段により撮影されたカラー撮影画像を使用することにより、光学フィルタを使用しない場合と比較して赤熱部の観察を容易にする効果が得られる。
【0021】
(B)分離画像生成工程(
図2Aの(B1))
分離画像生成手段により、上述の撮影工程により撮影されたカラー撮影画像を、RGBの3成分に分離して分離画像を生成する。
【0022】
本発明においてカラー撮影画像をRGBの3成分に分離する技術的意義は以下のとおりである。
【0023】
赤熱した対象物から発せられる放射光の強度はプランクの式により計算することができる。
図3は、計算により求めた各温度における波長と放射光の強度(分光放射発散度)との関係を示している。同じ温度でも波長によって放射光の強度が異なることが確認できる。
【0024】
カラーのデジタルカメラでは、イメージセンサに設けられたカラーフィルタやプリズム等により入射光を赤(R)、緑(G)、青(B)に分離して処理するが、赤熱した対象物から発せられる放射光をRGBに分離すると、700K〜3000Kの温度域においては、必ず赤、緑、青の順に強度が大きいことが
図3から確認できる。このため、カラー撮影画像において、赤画像は青画像と比較して放射光が強い信号で処理される。
【0025】
赤熱した高温部(赤熱領域)を含むカラー撮影画像において赤熱領域が観察しにくくなっている場合、赤画像では赤熱領域内の輝度値は輝度範囲の最大値付近を取っており、赤熱領域内には輝度変化がほとんどない場合が多い。同じカラー撮影画像において、青画像では青色の放射光の強度が赤色よりも弱いために、赤熱領域内にも対象物の表面状態の違いによる輝度変化が得られることが多い。なお、緑画像では一般に赤画像と青画像の中間的な特性が得られるが、これは緑色の放射光の強度が赤色と青色の中間に位置するためである。
【0026】
赤熱領域を含むカラー撮影画像における低温領域は、逆に赤画像で観察すると表面状態を把握しやすい場合が多い。低温領域が観察しにくいのは、赤熱領域の輝度が高いために、低温領域は一般に輝度が不足気味となることが理由である。対象物からの光は放射光と反射光であり、それらを合わせた光の強度がセンサで感知されて画像として記録されるが、放射光は青よりも赤が強いために、青画像よりも赤画像のほうが低温領域の輝度が高くなる。このため、低温領域は赤画像で観察すると表面状態を把握しやすい。
【0027】
このように、カラー撮影画像をRGBの3成分に分離することで、B成分の分離画像を参照することにより赤熱領域の表面状態を明瞭に確認することができ、R成分の分離画像を参照することにより低温領域の表面状態を明瞭に確認することができる。
【0028】
(C)バックグラウンド信号除去工程(
図2Aの(C1)及び(C2))
バックグラウンド信号除去手段により、上述の分離画像生成工程により分離された分離画像のそれぞれにおいて、分離画像内の各画素について当該画素を含む所定範囲内の画素群の平均輝度値を演算してメモリ手段に保存し(
図2Aの(C1))、演算した平均輝度値を当該画素の輝度値(初期輝度値)から差し引く(
図2Aの(C2)。すなわち、各分離画像内の全ての画素について当該初期輝度値から当該平均輝度値を差し引くバックグラウンド信号除去処理を行う。なお、平均輝度値を演算する際の「所定範囲」については、例えば当該画素を中心とする半径(画素数)として予め設定しておく。
【0029】
なお、多くの画像で利用されている8bit又は16bitの符号なし表現を出力画像としてバックグラウンド信号除去処理を行うと、値が負になり情報が欠落する場合がある。この場合、バックグラウンド信号除去処理と同時に全ての画素に同一のオフセット量を加算して情報の欠落が起こらないようにする。オフセット量は、画像の状態から判断して任意に決めてよいが、多くの場合は処理対象の画像が表示可能な最大輝度の半分程度、すなわち8bit符号なしの場合には128,16bit符号なしの場合には32768程度にすればよい。
【0030】
このバックグラウンド信号除去処理の効果は次のとおりである。カラー撮影画像(元画像)では、平均輝度が高い領域と低い領域の違いを表現するために広い輝度幅が使われている。この平均輝度の違いは対象物の温度差が反映されたものであり、高温及び低温の各領域内の表面状態を把握するには不用な信号である。バックグラウンド信号除去処理を行うことで、上述の表面状態の把握には不用な信号が除去され、その結果、高温及び低温の各領域内の輝度の違いを拡大して表現することが可能となり、各領域内のコントラストを大幅に向上することが可能となる。
【0031】
なお、
図2Aのフローでは、バックグラウンド信号除去工程後の分離画像について、高温及び低温の各領域内での輝度の違いを確認しやすくするために、コントラストを調整する処理を行う。コントラスト(増幅割合)は予め設定しておく。ただし、コントラストを調整する処理は省略可能である。
【0032】
(D)合成画像生成工程(
図2Aの(D1)又は(D2))
合成画像生成手段により、上述のバックグランド信号除去処理工程により処理された分離画像を合成して合成画像を生成する。この合成画像の生成において、RGBそれぞれの分離画像の合成比率(ブレンド比(RGB比))の決定方法は、固定型(
図2Aの(D1))と、輝度値依存型(
図2Aの(D2))とがある。
【0033】
固定型では、予め設定された特定(固定)のRGB比でRGBの分離画像を合成して合成画像を生成する。
【0034】
一方、輝度値依存型では、各画素の輝度値に応じて画素毎にRGB比を変動させる。その具体的な手順は以下のとおりである。
【0035】
まず、メモリ手段に保存されたRGB分離前のカラー撮影画像内の各画素(x,y)について当該画素(x,y)を含む所定範囲内の画素群の平均輝度値である分離前平均輝度値(va(x,y))を演算し、この演算した各画素の分離前平均輝度値(va(x,y))の最大値(vamax)及び最小値(vamin)を算出する(ここで、(x,y)は画素の位置を特定するカラー撮影画像内のx,y座標値である。)。そして、各画素(x,y)において、その画素の分離前平均輝度値(va(x,y))が最大値(vamax)に近いほど、B成分の分離画像の合成比率(cB(x,y))がR成分の分離画像の合成比率(cR(x,y))よりも多くなるように合成して合成画像を生成する。言い換えれば、各画素(x,y)において、その画素の分離前平均輝度値(va(x,y))が最小値(vamin)に近いほど、R成分の分離画像の合成比率(cR(x,y))がB成分の分離画像の合成比率(cB(x,y))よりも多くなるように合成して合成画像を生成する。G成分の分離画像の合成比率(cG(x,y))については予め設定された一定値とする。
【0036】
より具体的には、B成分の分離画像の合成比率(cB(x,y))及びR成分の分離画像の合成比率(cR(x,y))は、例えば以下の関係式により決定する。
cB(x,y)=(va(x,y)-vamin)/(vamax-vamin)
cR(x,y) = 1-cB
【0037】
この関係式に基づくB成分及びR成分の合成比率は
図4のようになる。
図4の横軸は各画素の分離前平均輝度値(va(x,y))を最大値(vamax)を100として正規化した後の分離前平均輝度値を示し、縦軸はB成分及びR成分の合成比率を示す。
【0038】
なお、上記関係式では
図4に示すようにB成分及びR成分の合成比率を線形的に変化させているが、その画素の分離前平均輝度値(va(x,y))が最大値(vamax)に近いほど、B成分の分離画像の合成比率(cB(x,y))がR成分の分離画像の合成比率(cR(x,y))よりも多くなるように合成するという条件を満たせば線形的に変化させる必要はなく、例えば指数関数的に変化させてもよい。ただし、演算処理の単純化の点では、
図4のように線形的に変化させることが好ましい。
【0039】
このように、合成画像生成工程により、上述のバックグランド信号除去処理工程により処理された分離画像を合成して合成画像を生成することで、B成分の分離画像による高温部(赤熱領域)の表面状態と低温領域の表面状態とを一枚の画像で容易に確認することができる。特に、上述の輝度値依存型により合成する場合は、領域(画素)毎に適したバランスでR成分とB成分を合成することが可能となり、合成比率を一定とするよりも、より一層表面状態を把握しやすい画像を得ることができる。
【0040】
(E)カラー画像生成工程(
図2Aの(E1))
カラー画像生成手段により、上述の合成画像生成工程により生成された合成画像に、撮影手段で撮影したカラー撮影画像(元画像)を所定の組み込み比率で組み合わせてカラー画像を生成する。元画像の組み込み比率は予め設定しておく。
【0041】
このように合成画像に元画像を組み合わせて得られたカラー画像を参照することで、ユーザは対象物の構成や位置関係を容易に把握することができる。すなわち、合成画像には元画像のカラー情報や高温部と低温部との相対的な輝度変化が含まれないので、ユーザは対象物の構成や位置関係を把握することが難しい。合成画像に元画像を所定の組み込み比率で組み合わせることで、元画像のカラー情報や高温部と低温部との相対的な輝度変化が組み込まれるので、ユーザは対象物の構成や位置関係を容易に把握することができる。
【0042】
以上説明した
図2Aのフローでは、撮影工程において得た単一のカラー撮影画像を処理するようにしたが、本発明では、撮影工程において撮影条件を変更して複数のカラー撮影画像を得、これらのカラー撮影画像を処理するようにすることもできる。そのときのフローを
図2Bに示す。
【0043】
まず、撮影工程では第1ループにより複数のカラー撮影画像をメモリ手段に保存する。具体的には、同一の撮影手段(デジタルカメラ)を用いて同じ視野でシャッター速度、絞り、感度、光学フィルタ条件等の撮影条件を変更して撮影した複数のカラー撮影画像を得、これを処理対象とするためにメモリ手段に保存する。なお、上記の「光学フィルタ条件」の変更とは、光学フィルタの使用の有無及び光学フィルタの種類の変更による光学フィルタ条件の変更のことをいう。
【0044】
次に、第2ループにより、撮影工程で得られた複数のカラー撮影画像のそれぞれについて、
図2Aで説明した「(B)分離画像生成工程」、「(C)バックグラウンド信号除去工程」及び「(D)合成画像生成工程」を実行し、複数の合成画像を生成する。そして、生成された複数の合成画像を、予め設定された比率(ブレンド比)で合成して第2合成画像を生成する(第2合成画像生成工程)。このブレンド比はユーザにより任意に設定できるが、カラー撮影画像を目視確認した場合に、例えば高温領域など観察したい領域内のコントラストが大きい画像について比率を大きくするとよい結果が得られやすい。
【0045】
最後に、
図2Aで説明した「(E)カラー画像生成工程」により、上述の第2合成画像に、撮影工程で撮影したカラー撮影画像(元画像)を所定の組み込み比率で組み合わせてカラー画像を生成する。このとき、カラー撮影画像は複数あるので、それらのカラー撮影画像から任意の1つ又は複数のカラー撮影画像を任意の割合で合成した画像を元画像として使用することができる。
【0046】
このように、撮影条件を変更した複数のカラー撮影画像を使用可能とすることで、例えば撮影条件の変更により平均輝度が低くなるように調整すると高温領域が観察しやすいカラー撮影画像が得られ、逆に平均輝度が低くなるように調整すると低温領域が観察しやすいカラー撮影画像が得られ、これらの平均輝度の異なる複数の画像をカラー撮影画像として処理することにより、広い温度域について観察に適した処理を行うことができる。
【実施例】
【0047】
図1の画像処理装置を使用して
図2Aのフローに従って、対象物としてコークス炉の炉壁を観察した。
【0048】
図5は、撮影工程で撮影されたカラー撮影画像の一例を示す。ただし、
図5は実際のカラー撮影画像をグレースケールに変換したものである。このカラー撮影画像は、
図6に示す位置関係で配置されたデジタルカメラによりカラー撮影されたもので、
図5及び
図6にはそれぞれ対応する部位を記載している。なお、この撮影工程ではデジタルカメラに内蔵された赤外線カットフィルタを用いている。
【0049】
図7は、分離画像生成工程により
図5のカラー撮影画像(元画像)をRGBの3成分に分離した分離画像を示し、(a)はR成分の分離画像(R画像)、(b)はG成分の分離画像(G画像)、(c)はB成分の分離画像(B画像)を示す。
【0050】
図8は、バックグラウンド信号除去処理工程により、
図7の各分離画像においてバックグラウンド信号除去処理を実行した後の分離画像を示し、(a)はR成分の分離画像(R画像)、(b)はG成分の分離画像(G画像)、(c)はB成分の分離画像(B画像)を示す。このバックグラウンド信号除去処理工程において各分離画像内の各画素の平均輝度値を演算する際の「所定範囲」は当該画素を中心として半径30画素の円の範囲とした。
【0051】
図8(c)のB画像を参照すると、
図5の元画像では確認できない損傷部が確認できる。なお、このB画像のみからは損傷部であることは判断が難しい場合もあるが、定期的に同箇所を撮影し経時変化を観察することでより確実に判断できる。いずれにしても、
図8(c)のB画像を参照すると、
図5の元画像では確認できない炉壁高温部(赤熱領域)の表面状態を確認できる。同様に
図8(a)のR画像を参照すると、
図5の元画像では確認できない炉壁低温部の表面状態を確認できる。
【0052】
図9は、合成画像生成工程により
図8の各分離画像を合成して得られた合成画像を示す。この合成画像生成工程では、各分離画像の合成比率(RGB比)をR画像:0.3、G画像:0.1、B画像:0.6とした上述の固定型により各分離画像を合成した。
図9を参照すると、
図8(c)のB画像による炉壁高温部の表面状態と
図8(a)のR画像による炉壁低温部の表面状態とを一枚の画像で容易に確認することができる。
【0053】
図10は、カラー画像生成工程により
図9の合成画像に
図5の元画像を組み合わせて得られたカラー画像を示す。ただし、
図10は実際のカラー画像をグレースケールに変換したものである。このカラー画像生成工程において元画像の組み込み比率は0.05(5%)とした。
図10を参照すると、
図9に比べ対象物(コークス炉)の構成や位置関係を容易に把握することができる。