(58)【調査した分野】(Int.Cl.,DB名)
前記筋状ノイズが発生する方向に並ぶ画素に対して前記筋状ノイズが発生する方向と交差する方向に隣接する画素の画素値を用いて、前記筋状ノイズが発生する方向に並ぶ画素の画素値を平滑化処理し、平滑化済みの画素値である平滑化画素値を、前記目標値として算出する平滑化処理部をさらに備え、
前記補正係数算出部は、前記筋状ノイズが発生する方向に並ぶ画素の画素値と前記平滑化画素値とで表される複数の座標値を前記補正式である多項式関数で近似し、多項式関数に含まれる前記複数の補正係数を算出する
ことを特徴とする請求項1に記載の赤外線撮像装置。
前記筋状ノイズが発生する方向に並ぶ画素に対して前記筋状ノイズが発生する方向と交差する方向に隣接する画素の画素値を用いて、前記筋状ノイズが発生する方向に並ぶ画素の画素値を平滑化処理し、平滑化済みの画素値である平滑化画素値を、前記目標値として算出する平滑化処理部と、
前記筋状ノイズが発生する方向に並ぶ画素の画素値と、前記平滑化画素値とをそれぞれ降順または昇順でソートするソーティング部と、
をさらに備え、
前記補正係数算出部は、前記筋状ノイズが発生する方向に並ぶ画素の画素値とその順番で表される座標値、および前記平滑化画素値とその順番で表される座標値をそれぞれ多項式関数で近似し、それぞれの多項式関数の係数を用いて前記補正式の前記複数の補正係数を算出する
ことを特徴とする請求項1に記載の赤外線撮像装置。
前記一枚の熱画像の中で前記筋状ノイズが発生する方向に並ぶ画素の集合である画素列に含まれる画素の画素値を降順または昇順でソートし、前記筋状ノイズが発生する方向と交差する方向に隣接する画素列に含まれる画素の画素値を降順または昇順でソートするソーティング部をさらに備え、
前記補正係数算出部は、
前記筋状ノイズが発生する方向に並ぶ画素の画素値とその順番で表される座標値を多項式関数で近似して、多項式関数の係数を算出し、
前記隣接する画素列に含まれる画素の画素値とその順番で表される座標値を多項式関数で近似して、多項式関数の係数を算出し、
前記筋状ノイズが発生する方向に並ぶ画素の画素値に基づいて算出された係数と、前記隣接する画素列に含まれる画素の画素値に基づいて算出された係数との平均値である平均係数を算出し、
前記画素値の異なる複数の画素の画素値に基づいて算出された係数と、前記平均係数を用いて前記補正式の前記複数の補正係数を算出する
ことを特徴とする請求項1に記載の赤外線撮像装置。
【発明を実施するための形態】
【0011】
以下、本発明の実施の形態について、図を用いて説明する。図中の同一の符号は、同一または相当する部分を表す。
【0012】
実施の形態1
本発明の実施の形態1に係る赤外線撮像装置1の構成について、
図1、
図2および
図3を用いて説明する。
図1に示されるように、赤外線撮像装置1は、熱画像センサ2および熱画像処理装置3を含む。
【0013】
熱画像センサ2は、室内に設置された電気製品に設けられ、室内に存在する物体から放射される赤外線(約8μmから12μmの電磁波)を受光して赤外線の強度に対応した信号を出力するものである。熱画像センサ2は、物体から放射される赤外線を検出し赤外線の強度に対応した電圧信号を出力する複数の赤外線検出素子で構成されている。赤外線検出素子としては、例えば焦電素子が挙げられる。
複数の赤外線検出素子は、マトリックス状に配置されており、行方向に並ぶ素子には一本の駆動線が接続され、電力が供給される。
熱画像センサ2は、通信線9を介して熱画像処理装置3に接続され、素子が出力する電圧信号を熱画像処理装置3へ送信する。
【0014】
ここで説明した赤外線検出素子は、製造誤差や使用環境の影響を受けて、個々に、赤外線検出素子への入力値(赤外線強度)と赤外線検出素子からの出力値(熱画像の画素値)との関係が異なる。
図2に示すように、各赤外線検出素子の入力値と出力値との関係は、一次関数y=ax+b(y:出力値、x:入力値、aおよびb:係数)で近似して表すことができ、それぞれの素子で係数aまたは係数bが異なっている。例えば、赤外線検出素子Aに対してX1の入力があった場合、その出力はY1であり、赤外線検出素子Cに対してX1の入力があった場合、その出力はY2であり(Y2>Y1)、入力値X1に対しては赤外線検出素子Cのほうが赤外線検出素子Aよりも出力値が大きい。
また、上述のとおり、行方向に並んだ赤外線検出素子は、同一の駆動線に接続され電力の供給を受けている。そのため、行方向に並んだ赤外線検出素子の感度を示す係数aは、駆動線の特性によって影響を受け、行方向に並んだ赤外線検出素子すべてが、ほかの赤外線検出素子に比べ傾きが大きくになり高感度になるまたは傾きが小さくなり低感度になる場合がある(すなわち、行方向に並んだ赤外線検出素子の係数aが一律に増加または減少する)。また、切片成分である係数bも同様に変化する場合があり、これらの場合、行方向に並んだ赤外線検出素子すべての出力値が変化してしまう。この場合、熱画像には熱画像の一端から他端まで行方向に延びる筋状のノイズ(以下、筋状ノイズという)が生じる。
さらに、熱画像センサの使用を継続すると、例えば駆動線の特性の変化などにより行方向に並んだ赤外線検出素子の感度を示す係数aまたは切片成分である係数bが変化するため、筋状ノイズの強度は、常に一定ではなく、経時的に変化する。
【0015】
熱画像処理装置3は、上述の熱画像センサ2から電圧信号を受信して熱画像を生成し、熱画像に含まれる筋状ノイズを補正するものであり、
図1に示すように、プロセッサ4、メモリ5、記憶装置6、インタフェース7、およびデータバス8を備えている。
プロセッサ4は、熱画像センサ2から送信される電圧信号に基づいて熱画像を生成するためのプログラム、熱画像に含まれる画素の画素値を補正式で補正するためのプログラム、補正式に含まれる補正係数を算出するためのプログラムなど各種プログラムを読み出し、メモリ5に展開して、当該プログラムを実行する。
メモリ5は、RAM(Random Access Memory)などの揮発性の記憶媒体であり、プロセッサ4がプログラムを実行する際にプログラムを展開する領域、各種キャッシュおよびバッファとして用いられる。
記憶装置6は、HDD(Hard Disk Drive)またはSSD(Solid State Disk)などの大容量の不揮発性の記録媒体であり、プロセッサ4が実行する各種プログラムなどを記憶している。
インタフェース7は、熱画像センサ2から送信される電圧信号を受信し、熱画像処理装置3が筋状ノイズを補正した補正済みの熱画像を表示装置等(不図示)の出力先へ送信するものである。
データバス8は、プロセッサ4、メモリ5、記憶装置6およびインタフェース7を通信可能に接続する伝送路である。
【0016】
通信線9は、熱画像センサ2と熱画像処理装置3、および熱画像処理装置3と表示装置等の出力先とを接続し、電圧信号などを送信するケーブルである。
【0017】
熱画像処理装置3は、
図3に示すように、熱画像生成部31、平滑化処理部32、補正係数算出部33、および熱画像補正部34により構成されている。熱画像生成部31、平滑化処理部32、補正係数算出部33、および熱画像補正部34は、プロセッサ4が各種プログラムを実行することにより実現されている。
熱画像生成部31は、インタフェース7を介して受信した熱画像センサ2の電圧信号を画素値に変換して、筋状ノイズが発生する方向に画素値の異なる複数の画素を含む一枚の熱画像を生成する機能を有する。
平滑化処理部32は、熱画像生成部31が生成した一枚の熱画像における筋状ノイズが発生する方向に並ぶ画素の集合である画素列であって、画素値の異なる複数の画素を含む画素列に含まれる画素の画素値(対象画素値)ごとに、筋状ノイズが発生する方向と交差する方向に隣接する画素列に含まれる隣接する画素の画素値(隣接画素値)を用いて平滑化処理を行い、各画素の補正前画素値に対応する目標値としての平滑化済みの画素値(平滑化画素値)を算出する機能を有する。この平滑化画素値は、対象画素値と隣接画素値の平均値である。
【0018】
補正係数算出部33は、熱画像生成部31が生成した熱画像における対象画素値を筋状ノイズが抑制された目標値に変換するための補正式z=cy+d(z:補正後の画素値(目標値)、y:熱画像の画素値、cおよびd:補正係数)に含まれる二つの補正係数cおよびdを算出する機能を有する。
熱画像補正部34は、補正係数算出部33が算出した二つの補正係数を用いて熱画像生成部31が生成した画像を補正する機能を有する。
なお、対象画素値は、特定の画素列に対して平滑化処理、補正係数算出処理または補正処理を行う場合に、特定の画素列に含まれる画素値をいうものであり、隣接画素値は、特定の画素列に隣接する画素列に含まれる画素値をいうものである。したがって、処理が進んで特定の画素列が変われば、対象画素値および隣接画素値が指す画素値も変わる。対象画素値と呼んでいたものが隣接画素値になることもあれば、その反対もありうる。
【0019】
ここまで、赤外線撮像装置1の構成について説明した。次に、
図4から
図7を用いて、赤外線撮像装置1の動作ついて説明する。
まず、
図4に示されるフローチャートに従って、赤外線撮像装置1が熱画像を生成し、熱画像に含まれる筋状ノイズを低減し、画像を出力する処理について説明する。この処理は、
図3のブロック図では熱画像センサ2、熱画像生成部31、熱画像補正部34、出力先をつなぐ矢印で表されている。
【0020】
熱画像センサ2は、電気製品の稼働時に一定の間隔で室内を撮影し、赤外線に対応した電圧信号を通信線9を介して熱画像処理装置3へ送信する。
図4のフローチャートの処理は、熱画像処理装置3が熱画像センサ2から電圧信号を受信するたびに開始される。
ここで、熱画像センサ2は、電気製品の稼働時に室内を撮影する。電気製品が稼働していることで、電気製品自体またはその周辺の物体が温められることになるため、熱画像は、露光状態で室内における温度の異なる複数の領域を撮影したものとなり、熱画像センサ2の電圧信号に基づいて生成される熱画像は、筋状ノイズが発生する方向(行方向)に画素値の異なる複数の画素を含むこととなる。
【0021】
まず、熱画像生成部31は、熱画像センサ2の電圧信号から一枚の熱画像を生成する(ステップS001)。
具体的には、熱画像センサ2は、赤外線検出素子の配置と対応づけられた順序に従って、各赤外線検出素子から出力される電圧信号を熱画像処理装置3へ送信する。熱画像処理装置3は、インタフェース7を介して電圧信号を受信して、素子の配置と対応づけられた順序の情報とともに電圧信号の電圧値をメモリ5または記憶装置6(以下、メモリ5等と記載する)へ記憶する。赤外線撮像装置1のプロセッサ4は電圧値と順序の情報とを読み出して、電圧値を予め対応づけられた画素値に変換するとともに、順序の情報を用いて、画素値を並べ、一枚の熱画像を生成し、メモリ5等へ記憶する。
【0022】
次に、熱画像補正部34は、熱画像生成部31が生成した一枚の熱画像におけるL行目の画素列の各画素値を取得する(ステップS002)。ここでLは自然数であり、本フローチャートの処理が始まった際に初期値としてL=1が設定されている。
具体的には、プロセッサ4は、生成した一枚の熱画像のL行目(Lが初期値の場合は1行目)の左端の画素を開始位置として、行方向に並ぶ各画素値をメモリ5等から読み出す。
【0023】
次に、熱画像補正部34は、L行目に対応する補正式を用いて、L行目の各画素値を補正する(ステップS003)。
補正式は上述のz=cy+dであり、行ごとに補正係数cおよびdは異なっている。なお、補正係数cおよびdは、後述の
図5のフローチャートで説明する補正係数算出処理で算出されるものである。
具体的には、プロセッサ4は、L行目を補正するために予め用意されている補正係数cおよびdをメモリ5等から読み出し、これらの補正係数とL行目の一番左に位置する画素の画素値を補正式に代入して、一番左に位置する画素の目標値であるzを求める。このzが筋状ノイズを低減した補正後の画素値である。また、プロセッサ4は、二番目以降の画素の画素値も同様に処理し、複数の補正後の画素値からなる画素値列を、行の情報とともにメモリ5等に記憶する。
【0024】
次に、熱画像補正部34(プロセッサ4)は、LをL+1に置き換える処理を行い(ステップS004)、L(L+1に置き換え済み)行目に画素列が存在するか判定し(ステップS005)、存在する場合(ステップS005でYESの場合)は、ステップS002からステップS004の処理を繰り返す。
【0025】
L(L+1に置き換えられている)行目に画素列が存在しない場合(ステップS005でNOの場合)、すなわち、すべての行の画素列を補正し終えた場合、熱画像補正部34は、補正後の画素値を用いて画像を再構築し、補正後の画像を生成する(ステップS006)。
具体的には、プロセッサ4は、メモリ5等から各画素列の補正後の画素値と行の情報を読み出し、行の情報に沿って画素列を並べ替え、一枚の熱画像を生成する。
【0026】
最後に、熱画像補正部34は、補正後の熱画像を出力先へ出力する(ステップS007)。
具体的には、プロセッサ4は、画像のデータを所定の通信規格に沿ったデータフレームに変換して、インタフェース7を介して出力先へ送信する。
【0027】
ここまで赤外線撮像装置1における熱画像を補正して出力する処理を説明した。次に、赤外線撮像装置1が熱画像を補正する際に用いる補正係数cおよびdを算出する処理について、
図5のフローチャートを用いて説明する。この処理は、
図3のブロック図では熱画像センサ2、熱画像生成部31、補正係数算出部33、熱画像補正部34をつなぐ矢印、および熱画像センサ2、熱画像生成部31、平滑化処理部32、補正係数算出部33、熱画像補正部34をつなぐ矢印で表されている。
【0028】
図5のフローチャートに示される処理は、赤外線撮像装置1が
図4のフローチャートに沿って熱画像を補正する処理を開始してから所定の時間が経過するたびに開始される。
【0029】
まず、熱画像生成部31は、熱画像センサ2の電圧信号から一枚の熱画像を生成する(ステップS101)。この処理は
図4のステップS001と同様である。
【0030】
次に、平滑化処理部32は、熱画像生成部31が生成した一枚の熱画像におけるM行目、M−1行目、およびM+1行目の画素列の各画素値を取得する(ステップS102)。ここでMは自然数であり、本フローチャートの処理が始まった際に初期値としてM=1が設定されている。
具体的には、プロセッサ4は、生成した一枚の熱画像のM行目、M−1行目、およびM+1行目の左端の画素を開始位置として、行方向に並ぶ各画素値をメモリ5から読み出す。
なお、M=1の場合、すなわち、熱画像の最上段の画素列の画素値を読み出す場合、M−1行目は存在しないので、代わりにM行目またはM+1行目と同様の画素列がM−1行目に存在するとして、別途読み出しているM行目またはM+1行目の画素列をM−1行目の画素列として扱うこととする。熱画像の最下段についても同様に、M+1行目の画素列が存在しないため、別途読み出しているM行目またはM−1行目の画素列をM+1行目の画素列として扱うこととする。
また、ここでは、M行目に含まれる画素値が対象画素値であり、M−1行目、およびM+1行目に含まれる画素値が隣接画素値である。
【0031】
次に、平滑化処理部32は、M行目の各対象画素値を、各対象画素と隣接するM−1行目、およびM+1行目の画素である隣接画素値で平滑化し、M行目の各画素の平滑化画素値を取得する(ステップS103)。
具体的なプロセッサ4の処理を、
図6を用いて説明する。例えば
図6(a)のM行目の対象画素値を平滑化する場合、プロセッサ4は、それぞれの対象画素値と、対応する二つの隣接画素値の平均値を求める(例えば
図6(a)の枠Aの範囲で平均値を求める)。この平均値は、M行目の画素列の一番左の対象画素値および一番左の隣接画素値で求め、二番目以降の対象画素値および隣接画素値も同様に処理して求められる。求めた複数の平均値を各対象画素値に対応する平滑化画素値として、行の情報および行内での画素の位置情報とともにメモリ5等に記憶する。
ここで、
図6(a)の枠Aの範囲で平均値を求める平滑化処理を行うと、
図6(b)のようにM行目において筋状ノイズが低減された平滑化画素値で構成される平滑化熱画像が得られる。M行目における赤外線の分布と隣接するM−1行目およびM+1行目における赤外線分布とは概ね相関があるため、M行目に含まれる個々の対象画素値と、平滑化熱画像に含まれる平滑化画素値の対応関係は維持されているとみなすことができ、筋状ノイズが低減された平滑化画素値を対象画素値の目標値zとすることができる。平滑化画素値を目標値zとして、以降のステップS106から109の処理で各行の補正式z=cy+dの補正係数を算出する。
【0032】
図5のフローチャートに戻って、平滑化処理部32(プロセッサ4)は、MをM+1に置き換える処理を行い(ステップS104)、M(M+1に置き換え済み)行目に画素列が存在するか判定し(ステップS105)、存在する場合(ステップS105でYESの場合)は、ステップS102からステップS104の処理を繰り返す。存在しない場合(ステップS105でNOの場合)は、ステップS106以降の補正係数を算出する処理を開始する。
【0033】
次に、補正係数算出部33は、N行目の各対象画素値と、N行目の各平滑化画素値とを取得し、対応する対象画素列と平滑化画素列とで複数の座標値を設定する(ステップS106)。ここでNは自然数であり、本フローチャートの処理が始まった際に初期値としてN=1が設定されている。
具体的なプロセッサ4の処理を、
図7を用いて説明する。例えばN行目の対象画素値と平滑化画素値とから座標値を設定する場合、プロセッサ4は、熱画像のN行目の画素列の対象画素値を読み出す(
図7(a)におけるN1からN6)。また、プロセッサ4は、平滑化熱画像のN行目の画素列の平滑化画素値を読み出す(
図7(b)におけるN1hからN6h)。そして、プロセッサ4は、対象画素値と、対応する平滑化画素値を用いて、対象画素値をy座標、平滑化画素値をz座標とする座標値(例えば(N1,N1h))を設定する(ステップS106)。
【0034】
次に、補正係数算出部33は、設定した座標群をy−z座標空間にプロットし、直線近似して直線の式z=cy+dを求め、補正係数cおよびdを算出する(ステップS107)。ここで、複数の座標値は、異なる位置にプロットされる。上述のとおり、一枚の熱画像は、筋状ノイズが発生する方向(行方向)に画素値の異なる複数の画素を含んでいるため、プロットの位置がずれる。この位置の違い、すなわち画素値の違いに基づいて補正係数cおよびdを算出する。
具体的には、プロセッサ4は、設定した座標値と直線の式z=cy+dとの距離が最小になるように最小二乗法を用いて、補正係数cおよびdを算出し(
図7(c))、行の情報とともにメモリ5等へ記憶する。
【0035】
その後、補正係数算出部33(プロセッサ4)は、NをN+1に置き換える処理を行い(ステップS108)、N(N+1に置き換え済み)行目に画素列が存在するか判定し(ステップS109)、存在する場合(ステップS109でYESの場合)は、ステップS106からステップS108の処理を繰り返す。存在しない場合(ステップS109でNOの場合)は、熱画像のすべての行で補正係数cおよびdを算出し終えているので、処理を終了する。
【0036】
本発明の実施の形態1に係る赤外線撮像装置1は、以上のように構成されており、次のような効果を奏する。
赤外線撮像装置1は、一枚の熱画像に含まれる画素の画素値の違いに基づいて複数の補正係数を算出している。複数の補正係数を求めるためには、複数の異なる画素値が必要となる。例えば、一枚の熱画像に同一の画素値しか含まれない場合や一枚の画像に含まれる画素値の平均値を用いて複数の補正係数を求める場合、温度状況の異なる複数の熱画像を撮影しなければならない。これに対して、当該赤外線撮像装置1を用いることで、一枚の熱画像だけで複数の補正係数を算出することができる。よって、複数の熱画像を用意せずとも複数の補正係数を算出でき、算出された補正係数により精度よく筋状ノイズを低減することができる。
【0037】
また、赤外線撮像装置1は、複数の補正係数を求めて、それらを用いて熱画像を補正している。これに対して、一つの補正係数を求め、熱画像を補正する場合、十分に筋状ノイズを低減できない。例えば、対象画素値と平滑化画素値の差分値を求め(z=y+dにおける係数dを求めることとなる)、差分値だけで熱画像を補正する場合、どのような入力値であっても差分値を加算する補正しかできない。しかし、
図2に示したように、赤外線検出素子の感度(係数a)は様々であり、a=1とは限らない。入力値が変化すると、a=1より高感度の素子の出力値は、入力値の変化量より大きく変化する。このような素子の出力値を差分値だけで補正しても、補正量は不足する。また、低感度の素子の出力値に対しては補正量が大きくなりすぎる。当該赤外線撮像装置1は、複数の補正係数(補正係数dだけでなく補正係数c)を算出することで、入力値が変化しても筋状ノイズを精度よく低減することが可能である。
【0038】
また、赤外線撮像装置1は、目標値として、一枚の熱画像から得られる平滑化画素値を用いている。目標値を予め用意しておく場合、目標値に対応した温度状況で熱画像を撮影しなければ補正係数を求めることができないが、当該赤外線撮像装置1は、温度状況が一定ではない運用時の熱画像を用いて補正係数を算出することができる。よって、当該赤外線撮像装置1の運用を開始しても適宜、補正係数を更新することが可能となる。
【0039】
また、赤外線撮像装置1は、熱画像の対象画素値と、平滑化熱画像の平滑化画素値(目標値)を用いて座標値を設定し、座標値を直線近似することで補正係数を算出している。よって、座標値の設定および一回の直線近似の処理を行うだけで補正係数を算出でき、効率的に補正係数の更新を行うことができる。
また、赤外線撮像装置1は、座標値を直線近似して補正係数を算出している。補正係数を算出する行に熱源体のエッジ部分が位置する場合、エッジ部分は平滑化されてしまい、平滑化画素値の目標値としての精度が低下してしまう場合がある。このような平滑化画素値を目標値として対象画素値を補正すると、適切な熱画像が得られないが、当該赤外線撮像装置1では、複数の座標値を直線で近似するため、エッジ部分の平滑化画素値の座標値が含まれていたとしても、エッジ部分は行に含まれる画素全体としては割合が少ないので、エッジ部分による補正精度の低下を抑制することができる。
【0040】
実施の形態2
次に、本発明の実施の形態2について説明する。実施の形態1で説明した構成および動作と同様の部分については説明を省略し、実施の形態1と異なる部分について、以下に説明する。
実施の形態1では、熱画像の対象画素値と、平滑化熱画像の平滑化画素値(目標値)を用いて座標値を設定し、座標値を直線近似することで補正係数を算出していた。
実施の形態2では、熱画像の対象画素値をソートして降順または昇順に並べたものを直線近似してy=en+f(y:対象画素値、n:対象画素値の順番、eおよびf:係数)を求め、平滑化熱画像の平滑化画素値(目標値)をソートして降順または昇順に並べたものを直線近似してz=gn+h(z:平滑化画素値(目標値)、n:平滑化画素値の順番、gおよびh:係数)を求め、これらの式を合成してz=cy+dの形に変形して、補正係数cおよびdを求める。
【0041】
実施の形態2の赤外線撮像装置201は、
図8に示されるように、実施の形態1の構成に加え、第1ソーティング部235、第2ソーティング部236を備えている。
第1ソーティング部235は、熱画像の中で行方向に並ぶ対象画素値を降順または昇順に並び替える機能を有する。
第2ソーティング部236は、平滑化熱画像の中で行方向に並ぶ平滑化画素値を降順または昇順に並び替える機能を有する。
また、第1ソーティング部235および第2ソーティング部236を総称して、単にソーティング部と呼ぶ。
【0042】
次に、実施の形態2に係る赤外線撮像装置201の補正係数を算出する処理について、
図9を用いて説明する。実施の形態2においても、実施の形態1のステップS101からステップS105までの処理(
図5)は同様である。そのため、
図10のフローチャートは、ステップS105の処理が終わった後の実施の形態2の処理を示している。
【0043】
まず、第1ソーティング部235は、熱画像のN行目の対象画素値を降順または昇順でソートする(ステップS201)。ここでNは自然数であり、本フローチャートの処理が始まった際に初期値としてN=1が設定されている。
具体的には、プロセッサ4は、熱画像のN行目の対象画素値をメモリ5等から読み出し、バブルソートなどの公知の手法で画素値を降順または昇順でソートし、ソート後の順番で画素値をメモリ5等に記憶する。
また、第2ソーティング部236は、平滑化熱画像のN行目の平滑化画素値を降順または昇順でソートする(ステップS202)。ソートを行う対象となる画素値が平滑化画素値であるだけで、ステップS201と同様の処理である。
【0044】
次に、補正係数算出部233は、熱画像の対象画素値yとその順番nからなる座標値(n,y)を設定し、
図10(a)に示されるように、n−y座標空間にプロットし、直線近似して直線の式y=en+fを求め、係数eおよびfを算出する(ステップS203)。
同様に、補正係数算出部233は、平滑化熱画像の平滑化画素値zとその順番nからなる座標値(n,z)を設定し、
図10(b)に示されるように、n−z座標空間にプロットし、直線近似して直線の式z=gn+hを求め、係数gおよびhを算出する(ステップS204)。
【0045】
ステップS203およびステップS204の具体的なプロセッサ4の処理は次のとおりである。プロセッサ4は、熱画像のN行目のソート後の対象画素値をメモリ5等から読み出し、対象画素値yとその順番nよりなる座標値を設定し、各座標値と直線の式y=en+fとの距離が最小になるように最小二乗法を用いて、係数eおよびfを算出する。また、プロセッサ4は、平滑化熱画像についても同様に処理を行い、直線の式z=gn+hの係数gおよびhを算出する。
なお、対象画素値yはソートされており、もともと(N1、N2、N3、N4、N5、N6)と並んでいたが、(N1、N4、N3、N6、N2、N5)と並び替えられている。また、この平滑化画素値zもソートされており、もともと(N1h、N2h、N3h、N4h、N5h、N6h)と並んでいたが、(N1h、N4h、N3h、N6h、N2h、N5h)と並び替えられている(
図10(a)および(b))。ソート前の対象画素値(N1、N2、N3、N4、N5、N6)と、ソート前の平滑化画素値(N1h、N2h、N3h、N4h、N5h、N6h)は、それぞれ同じ画素の画素値であるから、画素値の順番は対応している。一方、ソートすることで、順番の対応関係が崩れる可能性があるが、平滑化画素値は隣接する画素値を用いて算出されたものであり、隣接する画素値の分布は対象画素値の分布と概ね相関があることから、ソート後の順番でも概ね対応関係は崩れない。そのため、直線の式y=en+fにおける順番nと、直線の式z=gn+hにおける順番nとは対応したものとなる。
【0046】
次に、補正係数算出部233は、算出した係数e、f、g、hから補正係数cおよびdを算出する(ステップS205)。
熱画像の直線の式y=en+fと、平滑化熱画像の直線の式z=gn+hとは、上述のとおり順番nが対応しているので、一方の式をn=の形に変形して、他方の式に代入し、z=cy+dの形に変形することで、補正係数cおよびdを求めることができる。変形した式は次のとおりである。
【0047】
【数1】
すなわち、補正係数cおよびdは係数e、f、g、hを用いて次のように表すことができる。
【0050】
具体的には、プロセッサ4は、上記の補正係数cおよびdと係数e、f、g、hとの変換式をメモリ5等から読み出し、係数e、f、g、hを代入して、補正係数cおよびdを算出し、メモリ5等に記憶する。
【0051】
その後、補正係数算出部233(プロセッサ4)は、NをN+1に置き換える処理を行い(ステップS206)、N(N+1に置き換え済み)行目に画素列が存在するか判定し(ステップS207)、存在する場合(ステップS207でYESの場合)は、ステップS201からステップS206の処理を繰り返す。存在しない場合(ステップS207でNOの場合)は、熱画像のすべての行で補正係数cおよびdを算出し終えているので、処理を終了する。
【0052】
本発明の実施の形態2に係る赤外線撮像装置201は、以上のように構成されており、次のような効果を奏する。
実施の形態2に係る赤外線撮像装置201は、実施の形態1における座標値の設定および一回の直線近似の処理を行うだけで補正係数を算出できるという効果を除いて、同様の効果を奏する。
【0053】
実施の形態3
次に、本発明の実施の形態3について説明する。実施の形態1および2で説明した構成および動作と同様の部分については説明を省略し、実施の形態1および2と異なる部分について、以下に説明する。
実施の形態1および2では、熱画像の対象画素値と、平滑化熱画像の平滑化画素値(目標値)を用いて補正係数を算出していた。
実施の形態3では、行ごとに熱画像の対象画素値をソートして降順または昇順に並べたものを直線近似してy=en+f(y:対象画素値、n:対象画素値の順番、eおよびf:係数)を求め、また、平滑化熱画像の平滑化画素値(目標値)の直線の式に代えて、隣接する行の対象画素値の直線の式に含まれる係数を用いてz=in+j(z:目標値、n:目標値の順番、iおよびj:係数)を求め、これらの式を合成してz=cy+dの形に変形して、補正係数cおよびdを求める。
【0054】
実施の形態3の赤外線撮像装置301は、
図11に示されるように、実施の形態2の構成から平滑化処理部32および第2ソーティング部236を除いたものである。
【0055】
次に、実施の形態3に係る赤外線撮像装置301の補正係数を算出する処理について、
図12を用いて説明する。
図12のフローチャートは
図5および
図9と対応するフローチャートであり、
図5および
図9と異なる点を中心に説明する。
【0056】
まず、熱画像生成部31は、熱画像センサ2の電圧信号から一枚の熱画像を生成する(ステップS301)。この処理は
図5のステップS101と同様である。
次に、第1ソーティング部235は、一枚の熱画像のS行目に並ぶ画素の集合である画素列に含まれる対象画素値を降順または昇順でソートする(ステップS302)。この処理は
図9のステップS201と同様である。なお、Sは自然数であり、本フローチャートの処理が始まった際に初期値としてS=1が設定されている。
【0057】
次に、補正係数算出部333は、熱画像に含まれる画素である対象画素値(ソート後)とその順番の座標値を直線近似し、直線の式y=en+fに含まれる係数eおよびfを算出する(ステップS303)。この処理は、
図9のステップS203の処理と同様である。
【0058】
その後、補正係数算出部333(プロセッサ4)は、SをS+1に置き換える処理を行い(ステップS304)、S(S+1に置き換え済み)行目に画素列が存在するか判定し(ステップS305)、存在する場合(ステップS305でYESの場合)は、ステップS302からステップS304の処理を繰り返す。繰り返すことにより、S行目の画素列だけでなく、S行目の画素列に対して列方向に隣接する画素列もソートされ、直線の式y=en+fに含まれる係数eおよびfも算出される。存在しない場合(ステップS305でNOの場合)は、熱画像のすべての行で直線の式の係数eおよびfを算出し終えているので、ステップS306の処理を開始する。
【0059】
次に、補正係数算出部333は、T行目、T−1行目、およびT+1行目の直線の式の係数eおよびfの平均値を算出し、係数の平均値である平均係数iおよびjを算出する(ステップS306)。この平均係数iおよびjは、目標値zを降順または昇順で並べた際の直線の式z=in+jの係数であるとみなす。理由は次のとおりである。
対象となる行および隣接する行の対象画素値yは程度の差はあるものの、筋状ノイズにより増加または低減されている。そのため、これらの対象画素値yの平均値は、筋状ノイズによる増減が相殺され、目標値zに近いものとなる。したがって、複数の直線の式を平均化することで、y
AVE=e
AVE・n+f
AVE=zとみなすことができる。
以上から、平均係数iは、e
AVE、すなわち対象となる行および隣接する行の係数eを平均化したもの、平均係数jは、f
AVE、すなわち対象となる行および隣接する行の係数fを平均化したものとして算出することができる。
なお、ここでTは自然数であり、本フローチャートの処理が始まった際に初期値としてT=1が設定されている。
【0060】
係数を平均化する処理は具体的には次のとおりである。プロセッサ4は、T行目、T−1行目、およびT+1行目の直線の式の係数をメモリ5から読み出し、各係数eおよびfの平均値を算出し、平均係数iおよびjとしてメモリ5等へ記憶する。
なお、T=1の場合、すなわち、熱画像の最上段の係数を読み出す場合、T−1行目は存在しないので、代わりにT行目またはT+1行目と同様の係数がT−1行目に存在するとして、別途読み出しているT行目またはT+1行目の係数をT−1行目の係数として扱うこととする。熱画像の最下段についても同様に、T+1行目の係数が存在しないため、別途読み出しているT行目またはT−1行目の係数をT+1行目の係数として扱うこととする。
【0061】
次に、補正係数算出部333は、算出した係数e、f、および平均係数i、jから補正係数cおよびdを算出する(ステップS307)。このとき、y=en+fとz=in+jを合成して補正係数を求める処理および考え方は、
図9のステップS205と同様である。
具体的には、プロセッサ4は、上記の補正係数cおよびdと係数e、f、および平均係数i、jの変換式(
図9のステップS205と同様)をメモリ5等から読み出し、係数e、f、および平均係数i、jを代入して、補正係数cおよびdを算出し、メモリ5等に記憶して更新する。
【0062】
その後、補正係数算出部333(プロセッサ4)は、TをT+1に置き換える処理を行い(ステップS308)、T(T+1に置き換え済み)行目に係数が存在するか判定し(ステップS309)、存在する場合(ステップS309でYESの場合)は、ステップS306からステップS308の処理を繰り返す。存在しない場合(ステップS309でNOの場合)は、熱画像のすべての行で補正係数cおよびdを算出し終えているので、処理を終了する。
【0063】
本発明の実施の形態3に係る赤外線撮像装置301は、以上のように構成されており、次のような効果を奏する。
実施の形態3に係る赤外線撮像装置301は、実施の形態1と同様の効果を奏するだけでなく、熱画像の平滑化処理および平滑化熱画像に含まれる平滑化画素値のソーティング処理を行う必要がなく、迅速に補正係数を算出することができる。
【0064】
実施の形態4
次に、本発明の実施の形態4について説明する。実施の形態1、2および3で説明した構成および動作と同様の部分については説明を省略し、実施の形態1、2および3と異なる部分について、以下に説明する。なお、実施の形態4は、実施の形態1、2または3と組み合わせて実施することができる。
実施の形態4の赤外線撮像装置は、実施の形態2(
図8)と同様の構成であるが、補正係数算出部に熱画像の画素値および平滑化熱画像の画素値の一部を除去する機能が追加されている。
補正係数算出部は、ソーティングされた熱画像の画素列の端部に位置する画素値を除去する機能を有する。また、ソーティングされた平滑化熱画像の画素列の端部に位置する平滑化画素値を除去する機能を有する。
それぞれのソーティングされた画素列の端部を除去することは、画素列の中で大きな値および小さな値を、以降の補正係数算出部の処理(例えば補正係数cおよびdを算出する処理)に用いないことを意味する。例えば、室内に電球、ガスコンロまたは人などが存在すると、熱画像内にそれらの輪郭であるエッジ部分が生じる。実施の形態1または実施の形態2で熱画像を平滑化処理する際に、平滑化によってこのエッジ部分がならされてしまい、平滑化画素値の目標値としての精度が低下してしまう場合がある。また、外気によって冷やされた窓なども同様に精度を低下させる場合がある。補正係数算出部は、これらの例のように画素列の中で大きな値および小さな値を持つ物体を補正係数の算出処理から除外するものである。
【0065】
実施の形態4の赤外線撮像装置の補正係数を算出する処理は、実施の形態2の
図9のフローチャートと同様であるが、ステップS202とステップS203の間に、画素列の端部を除去する処理が追加される。また、端部を除去して二つの補正係数を算出することになるため、熱画像における筋状ノイズが発生する方向に位置する画素列に少なくとも四つの画素値が含まれていることが必要である。
端部を除去する処理を具体的に示すと、プロセッサ4は、熱画像の画素列の中で大きな値を除去するための閾値をメモリ5等から読み出し、ソート後の画素列の最も大きい値から順番に閾値を上回るか否かを判定し、閾値を上回らない値が見つかるまで判定を繰り返し、閾値を上回る画素値を画素列から削除する。
同様に、プロセッサ4は、熱画像の画素列の中で小さな値を除去するための閾値をメモリ5等から読み出し、画素列を最も小さな値から走査して、閾値を下回る画素値を画素列から削除する。
この処理は、平滑化熱画像についても行われる。
【0066】
本発明の実施の形態4に係る赤外線撮像装置は、以上のように構成されており、次のような効果を奏する。
赤外線撮像装置が撮影する熱画像には人などの熱源物体が写りこむことがある。また、窓などの極端に冷やされた物体が写りこむことがある。これらの物体のエッジ部分は、平滑化処理を行うと消失してしまい、目標値の精度が低下する。そのため、実施の形態4の赤外線撮像装置は、これらの物体を補正係数算出処理から除去する。よって、算出される補正係数の精度低下を抑制することができる。
【0067】
ここで、実施の形態4の赤外線撮像装置の変形例および補足説明を行う。
実施の形態4の赤外線撮像装置1は、ソート後の画素列の端部を閾値と比較して、除去する画素値を決定していたが、閾値を用いずに、除去する画素値の数を予め定めておき、対応する数の画素値を除去するようにしてもよい。
また、実施の形態4の赤外線撮像装置は、画素列の両端部の画素値を除去していたが、一方の端部のみ除去してもよい。この場合、熱画像における筋状ノイズが発生する方向に位置する画素列に少なくとも三つの画素値が含まれていればよい。
また、実施の形態4の赤外線撮像装置は、ソート後の画素列の端部を除去していたが、ソートされていない画素列の個々の画素値に対して、閾値を用いて除去するか否かを判定してもよい。
【0068】
実施の形態5
次に、本発明の実施の形態5について説明する。実施の形態1、2、3および4で説明した構成および動作と同様の部分については説明を省略し、実施の形態1、2、3および4と異なる部分について、以下に説明する。なお、実施の形態5は、実施の形態1、2、3,4またはその変形例と組み合わせて実施することができる。
【0069】
実施の形態1では、赤外線検出素子がマトリックス状に配置された熱画像センサ2を用いていた。
実施の形態5では、複数の赤外線検出素子が縦方向に一列に並んだ熱画像センサ502を用い、この熱画像センサ502を横方向に移動させ、赤外線検出素子の出力である電圧信号を合成することで一枚の熱画像を生成する。
【0070】
実施の形態5の赤外線撮像装置501は、上述のとおり、熱画像センサ502の構成が異なるほか、
図13および
図14に示すように、実施の形態1の赤外線撮像装置1の構成にセンサ移動部504が追加されている。
熱画像センサ502は、複数の赤外線検出素子が縦方向に一列に並んだものである。
センサ移動部504は、熱画像センサ502の位置を変化させるように、横方向、すなわち熱画像センサ502が並んだ方向と交差する方向に熱画像センサ502を移動するものである。具体的には、モータであり、モータの回転軸と熱画像センサ502とが駆動部材505を介して接続され、モータの回転動作が熱画像センサ502へ伝達される。
また、センサ移動部504は、ロータリエンコーダを備えており、モータの回転量、すなわち、熱画像センサ502の移動量を示す信号を、通信線9を介して熱画像処理装置503(より具体的には、熱画像生成部531)へ送信する。
【0071】
実施の形態5の赤外線撮像装置501における熱画像生成部531は、熱画像センサ502からの移動しながら受光した赤外線に対応する電圧信号と、センサ移動部504からの移動量を示す信号を受信して、電圧信号を並べ替え、一枚の熱画像を生成する。
【0072】
図15を用いて、実施の形態5の熱画像センサ502、センサ移動部504、および生成される熱画像について説明する。
図15(a)は、センサ移動部504の回転軸を中心に、熱画像センサ502が回転するように構成された例を示す図である。熱画像センサ502は、回転軸と同心円状に円弧を描くように回転し、周辺の赤外線に対応する電圧信号を送信する。
図15(b)は、センサ移動部504の回転動作に伴って、熱画像センサ502が並進運動するように構成された例を示す図である。熱画像センサ502は、並進運動しながら、周辺の赤外線に対応する電圧信号を送信する。
図15(c)は、ある位置における熱画像センサ502の電圧信号から生成される熱画像I1と、複数の熱画像I1を合成して一枚の熱画像I2の例を示す図である。一枚の熱画像I2は、熱画像センサ502が可動域の範囲内で移動した際の熱画像I1を合成したものとなる。
【0073】
本発明の実施の形態5に係る赤外線撮像装置501は、以上のように構成されており、次のような効果を奏する。
実施の形態5の赤外線撮像装置501は、赤外線検出素子をマトリックス状に配置する必要がなく、少ない赤外線検出素子でも熱画像の撮像が可能となる。赤外線検出素子を少なくすることで、赤外線検出素子をマトリックス状に並べるためのスペースがない場合でも赤外線撮像装置501を設置することができる。また、赤外線検出素子を少なくすることで、赤外線撮像装置501を設置するためのコストを低減することができる。
【0074】
また、実施の形態5の赤外線撮像装置501で熱画像を撮像した場合であっても、筋状ノイズは生じうる。縦方向に並べた赤外線検出素子ごとに、入出力の関係を示す式y=ax+b(
図2参照)における係数a(感度)または切片成分である係数bが異なると、画像を合成した際に筋状ノイズとなりうる。しかし、実施の形態5の赤外線撮像装置501は実施の形態1などと同様、補正係数を算出することができるので、筋状ノイズを低減する処理を行うことができる。そのほか、実施の形態1、2、3、4と同様の効果を奏する。
【0075】
ここで、実施の形態5の赤外線撮像装置501の変形例および補足説明を行う。
実施の形態5では、センサ移動部504で熱画像センサ502の位置を移動する例を示したが、モータの回転軸上に熱画像センサ502を固定して、熱画像センサ502の方向を変化させるようにしてもよい。
また、実施の形態5では、熱画像センサ502が縦方向に並んでおり、センサ移動部504が横方向に熱画像センサ502を移動させる例を示したが、熱画像センサ502が横方向に並んでおり、センサ移動部504が縦方向に熱画像センサ502を移動させるようにしてもよい。
【0076】
以上、実施の形態1から実施の形態5について説明した。ここで、実施の形態1から実施の形態5の変形例の説明および補足説明を行う。
実施の形態1から実施の形態5の赤外線撮像装置では、直線の式や補正式として一次関数を用いて係数、補正係数を算出していたが、三次関数などの多項式関数を用いてもよい。高次の多項式関数を用いることで、精度よく画素値を近似することができる。また、高次の多項式を用いる場合、補正係数は、2つ以上となる。
【0077】
実施の形態1から実施の形態5では、筋状ノイズが発生する方向を熱画像の行方向としていたが、列方向や斜め方向であってもよい。
駆動線が行方向に配置された赤外線検出素子に接続されていることが、行方向に筋状ノイズが発生する原因と述べたが、駆動線が列方向や斜め方向に接続された場合、列方向や斜め方向に筋状ノイズが発生する。
【0078】
また、実施の形態1から実施の形態5では、駆動線の特性の違いにより筋状ノイズが発生するとしたが、筋状ノイズの発生原因はこれに限らない。行方向などに並ぶ赤外線検出素子が同一の出力線(電圧信号を送信する線)で接続されている場合、この出力線の特性のバラツキにより筋状ノイズが発生しうる。また、この出力線に接続されたA/D変換器やアンプなどの特性がばらつく場合も同様である。
さらに、画像を生成する処理では、筋状ノイズを低減する処理以外にもノイズ低減処理が行われる場合があり、この処理が一行ごとに行われる場合は、一行ごとにノイズ低減処理の程度が異なり、筋状ノイズが発生しうる。
実施の形態1から実施の形態5の赤外線撮像装置は、これらの筋状ノイズについても同様に低減することができる。
【0079】
実施の形態1から実施の形態5の赤外線撮像装置は、赤外線検出素子として、焦電素子をもちいていたが、ゼーベック効果を生じさせる熱電対を接続したサーモパイル型、温度情報による抵抗値の変化を利用したボロメータ型などの赤外線検出素子を用いてもよい。これらのほか、赤外線を検出できるものであればその種類を問わない。
【0080】
実施の形態1から実施の形態5では、熱画像処理装置に含まれる熱画像生成部が熱画像センサの電圧信号を受信して熱画像を生成することとしていたが、熱画像生成部は、熱画像センサに設けられていてもよい。
【0081】
実施の形態1および実施の形態2では、平滑化処理として対象画素値と隣接画素値の平均値を求める処理を行っていたが、平均値を求めるための対象画素値、隣接画素値の個々に重みづけをして、平均値を求めてもよい。また、対象画素値を用いずに、隣接画素値だけで平均値を求めてもよい。また、対象画素値および2つの隣接画素値を含む3つの画素値を用いて平滑化処理を行っていたが、隣接画素値にさらに隣接する2つの画素値用いて5つの画素値で平滑化処理を行ってもよい。さらに隣接する画素値を用いて5つ以上の画素値で平滑化処理を行ってもよい。
実施の形態3では、平均係数を求めるために3つの隣接する行の係数の平均値を算出していたが、個々の係数に重みづけをして、平均値を求めてもよい。また、補正係数を求める行の係数を用いずに、隣接する行の係数だけを用いて平均係数を求めてもよい。また、3つの隣接する行だけでなく、さらに3つの行に隣接する2つの行の係数を用いて5つの行の係数で平均値を求めてもよい。さらに隣接する行の係数を用いて5つ以上の行の係数で平均値を求めてもよい。
【0082】
実施の形態1から実施の形態5の赤外線撮像装置は、室内の電気製品に設置されるものとした。電気製品に設置することで、熱画像を電気製品の制御に利用できる。また電気製品の設置された室内の温度状況を確認するために熱画像を用いることができる。
さらに、実施の形態1から実施の形態5の赤外線撮像装置は、電気製品に設置するだけでなく、室内外に設置される防犯または監視用のカメラとして用いてもよい。
【0083】
実施の形態1から実施の形態5の赤外線撮像装置は、
図4のフローチャートに沿って熱画像を補正等する処理を開始してから所定の時間が経過するたびに、
図5などのフローチャートに沿って補正係数の算出処理を開始するものとしたが、一枚の熱画像が生成されるたびに、すなわち、
図4のフローチャートの処理と同時に、毎回、補正係数の算出処理をおこなってもよい。
また、筋状ノイズの強度は、外部の環境温度に依存して変化することがあるため、赤外線撮像装置に温度検出器を設けておき、温度が予め定めた閾値以上変化した場合に補正係数の算出処理を開始してもよい。
また、
図4のフローチャートに沿って熱画像を補正等する処理と、
図5などのフローチャートに沿って補正係数を算出する処理を同時に行う場合、熱画像を生成する処理は共通するため、別々に行う必要はない。
【0084】
実施の形態1から実施の形態5の赤外線撮像装置は、熱画像生成部、平滑化処理部、補正係数算出部、熱画像補正部、第1ソーティング部、第2ソーティング部が行う処理をコンピュータなどの計算装置に実行させるためのプログラムを計算装置にインストールすることで実現することができる。