IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本放送協会の特許一覧

<>
  • 特許-画像雑音除去装置及びプログラム 図1
  • 特許-画像雑音除去装置及びプログラム 図2
  • 特許-画像雑音除去装置及びプログラム 図3
  • 特許-画像雑音除去装置及びプログラム 図4
  • 特許-画像雑音除去装置及びプログラム 図5
  • 特許-画像雑音除去装置及びプログラム 図6
  • 特許-画像雑音除去装置及びプログラム 図7
  • 特許-画像雑音除去装置及びプログラム 図8
  • 特許-画像雑音除去装置及びプログラム 図9
  • 特許-画像雑音除去装置及びプログラム 図10
  • 特許-画像雑音除去装置及びプログラム 図11
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-04-12
(45)【発行日】2022-04-20
(54)【発明の名称】画像雑音除去装置及びプログラム
(51)【国際特許分類】
   G06T 5/00 20060101AFI20220413BHJP
   H04N 5/93 20060101ALI20220413BHJP
【FI】
G06T5/00 705
H04N5/93
【請求項の数】 6
(21)【出願番号】P 2018059763
(22)【出願日】2018-03-27
(65)【公開番号】P2019174933
(43)【公開日】2019-10-10
【審査請求日】2021-02-01
【国等の委託研究の成果に係る記載事項】(出願人による申告)平成29年度、総務省、「地上テレビジョン放送の高度化技術の研究開発」に係わる委託研究、産業技術力強化法第19条の適用を受ける特許出願
(73)【特許権者】
【識別番号】000004352
【氏名又は名称】日本放送協会
(74)【代理人】
【識別番号】100143568
【弁理士】
【氏名又は名称】英 貢
(72)【発明者】
【氏名】松尾 康孝
(72)【発明者】
【氏名】井口 和久
(72)【発明者】
【氏名】神田 菊文
【審査官】豊田 好一
(56)【参考文献】
【文献】特開2010-232892(JP,A)
【文献】特開2009-98742(JP,A)
【文献】特開2010-251874(JP,A)
【文献】特開2010-45711(JP,A)
【文献】特開2014-238657(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 5/00
H04N 5/93
H04N 5/21
H04N 1/40
(57)【特許請求の範囲】
【請求項1】
動画又は静止画のフレーム画像を入力しウェーブレットパケット分解に基づくウェーブレット縮退を用いて雑音除去を行う画像雑音除去装置であって、
入力画像に対しn階ウェーブレットパケット分解処理を施し、各周波数帯域の周波数分解係数を抽出するウェーブレットパケット分解部と、
n階の各対角高周波帯域内の同一位相位置における周波数分解係数について、所定の閾値を用いて雑音成分であるか否かを判定し、対応する閾値以上のパワーを持つ位相位置の係数を、雑音成分を示す雑音成分係数として決定する雑音成分判定部と、
各周波数帯域における当該雑音成分係数に応じた所定の雑音レベル算出法に基づき複数種類の雑音レベルを算出する雑音レベル検出部と、
当該複数種類の雑音レベル及び設定された縮退関数パラメータに基づいて縮退関数を設定し、当該各周波数帯域の周波数分解係数に対し当該縮退関数を適用してウェーブレット縮退処理を実行することにより各周波数帯域内の周波数分解係数の雑音除去を行うウェーブレット縮退部と、
雑音除去後の各周波数帯域内の周波数分解係数を用いてウェーブレット再構成処理を施すことにより出力画像を生成する再構成部と、
を備えることを特徴とする画像雑音除去装置。
【請求項2】
前記雑音成分判定部は、n階の各対角高周波帯域内の同一位相位置における周波数分解係数について、全ての各対角高周波帯域で周波数分解係数の分散特徴に応じた閾値を用いて、対応する閾値以上のパワーを持つ位相位置の係数を、雑音成分を示す雑音成分係数として判定することを特徴とする、請求項1に記載の画像雑音除去装置。
【請求項3】
前記雑音成分判定部は、n階の各対角高周波帯域内の同一位相位置における周波数分解係数について、全ての各対角高周波帯域で周波数分解係数の分散特徴に応じた閾値について周波数に反比例するよう変化させた複数種類の閾値を用いて、対応する閾値以上のパワーを持つ位相位置の係数を、雑音成分を示す雑音成分係数として判定することを特徴とする、請求項1に記載の画像雑音除去装置。
【請求項4】
前記雑音レベル検出部は、算出する当該複数種類の雑音レベルとして、第1の雑音レベル及び第2の雑音レベルを含み、
前記第1の雑音レベルは、1階水平低周波・垂直低周波領域内、1階水平低周波・垂直高周波領域内、1階水平高周波・垂直低周波領域内、及び1階水平高周波・垂直高周波領域内における各n階周波数領域に対して、対応するn階の対角高周波帯域内の雑音成分係数の非零係数の絶対値の中央値又は平均値とし、
前記第2の雑音レベルは、該対角高周波帯域内の雑音成分係数の非零係数の絶対値の最大値とすることを特徴とする、請求項1から3のいずれか一項に記載の画像雑音除去装置。
【請求項5】
前記ウェーブレット縮退部は、予め設定される非高周波数制限帯域に適用する第1の縮退関数と、該第1の縮退関数に対し所定の減衰係数を乗じた高周波数制限帯域に適用する第2の縮退関数とを含む複数種類の縮退関数を用いて、当該ウェーブレット縮退処理を実行することを特徴とする、請求項1から4のいずれか一項に記載の画像雑音除去装置。
【請求項6】
コンピューターを、請求項1から5のいずれか一項に記載の画像雑音除去装置として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動画又は静止画のフレーム画像を入力しウェーブレットパケット分解に基づくウェーブレット縮退を用いて雑音除去を行う画像雑音除去装置及びプログラムに関する。
【背景技術】
【0002】
従来、動画又は静止画のフレーム画像を入力しウェーブレットパケット分解に基づくウェーブレット縮退を用いて雑音除去を行う技法として、入力画像をウェーブレット変換した周波数分解係数のうち、所定の雑音レベル以下の成分をコアリングすることによりノイズ除去を行うことが知られている(例えば、非特許文献1参照)。
【0003】
また、ウェーブレット縮退を用いた画像雑音除去装置として、高周波ノイズ画像と低周波ノイズ画像を抽出し、これらの画像が輝度成分の画像であるか色差成分の画像であるかに応じて分けて統合することで雑音レベルの低減を行う技法が知られている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0004】
【文献】特許第5352942号明細書
【非特許文献】
【0005】
【文献】David L. Donoho, Iain M. Johnstone, Gerard Kerkyacharian and Dominique Picard: “Wavelet Shrinkage: Asymptopia?”, Journal of the Royal Statistical Society. Series B (Methodological), Vol. 57, No. 2, pp. 301-369, 1995.
【発明の概要】
【発明が解決しようとする課題】
【0006】
上述したように、従来から、非特許文献1や特許文献1などのように、画像に対しウェーブレット縮退を用いて雑音除去する技法が知られている。
【0007】
一般に、RGB色の色空間で画像を撮像するカメラ系において、画像に重畳される雑音には、熱雑音やショット雑音がある。これらの雑音は、カメラ系の撮像素子として用いる例えばCMOSセンサの感光部や、CMOSセンサの画素毎に組み込まれているアンプ等の要因によって引き起こされる。このうち、熱雑音は白色ガウス性を持ち、雑音レベルは全周波数帯域においてほぼ一定である。一方、ショット雑音は空間低周波帯域において支配的となり、雑音レベルは周波数fに反比例(1/f)する。このため、熱雑音やショット雑音による全周波数帯の雑音レベル(RGB色の色空間毎の雑音レベル)は或る程度の有色性を持ち、空間低周波側では高く、或る一定値以上の空間高周波帯域ではほぼ一定である。
【0008】
しかし、非特許文献1に開示されるような従来のウェーブレット縮退を用いた雑音除去では、空間高周波帯域成分はほぼ雑音成分となるため、その雑音レベルを「空間高周波帯域」のパワー値(要素値)の分散値から求めている。この場合、雑音レベルの検出精度が低いという問題がある。
【0009】
また、特許文献1に開示されるような高周波ノイズ画像と低周波ノイズ画像が輝度成分の画像であるか色差成分の画像であるかに応じて分けて統合する技法では、所謂、輝度成分と色差成分の伝送に係る伝送符号化の処理に組み入れることが想定されている。しかし、上述したように、カメラ系で撮像された画像には既に熱雑音やショット雑音が含まれていることから、当該画像を輝度成分と色差成分に変換する前に雑音除去を行う方が、雑音除去性能の向上の観点から望ましい。
【0010】
そこで、本発明の目的は、動画又は静止画のフレーム画像を入力しウェーブレットパケット分解に基づくウェーブレット縮退を用いて高精度に雑音除去を行う画像雑音除去装置及びプログラムを提供することにある。
【課題を解決するための手段】
【0011】
本発明の画像雑音除去装置は、動画又は静止画のフレーム画像を入力しウェーブレットパケット分解に基づくウェーブレット縮退を用いて雑音除去を行う画像雑音除去装置であって、入力画像に対しn階ウェーブレットパケット分解処理を施し、各周波数帯域の周波数分解係数を抽出するウェーブレットパケット分解部と、n階の各対角高周波帯域内の同一位相位置における周波数分解係数について、所定の閾値を用いて雑音成分であるか否かを判定し、対応する閾値以上のパワーを持つ位相位置の係数を、雑音成分を示す雑音成分係数として決定する雑音成分判定部と、各周波数帯域における当該雑音成分係数に応じた所定の雑音レベル算出法に基づき複数種類の雑音レベルを算出する雑音レベル検出部と、当該複数種類の雑音レベル及び設定された縮退関数パラメータに基づいて縮退関数を設定し、当該各周波数帯域の周波数分解係数に対し当該縮退関数を適用してウェーブレット縮退処理を実行することにより各周波数帯域内の周波数分解係数の雑音除去を行うウェーブレット縮退部と、雑音除去後の各周波数帯域内の周波数分解係数を用いてウェーブレット再構成処理を施すことにより出力画像を生成する再構成部と、を備えることを特徴とする。
【0012】
また、本発明の画像雑音除去装置において、前記雑音成分判定部は、n階の各対角高周波帯域内の同一位相位置における周波数分解係数について、全ての各対角高周波帯域で周波数分解係数の分散特徴に応じた閾値を用いて、対応する閾値以上のパワーを持つ位相位置の係数を、雑音成分を示す雑音成分係数として判定することを特徴とする。
【0013】
また、本発明の画像雑音除去装置において、前記雑音成分判定部は、n階の各対角高周波帯域内の同一位相位置における周波数分解係数について、全ての各対角高周波帯域で周波数分解係数の分散特徴に応じた閾値について周波数に反比例するよう変化させた複数種類の閾値を用いて、対応する閾値以上のパワーを持つ位相位置の係数を、雑音成分を示す雑音成分係数として判定することを特徴とする。
【0014】
また、本発明の画像雑音除去装置において、前記雑音レベル検出部は、算出する当該複数種類の雑音レベルとして、第1の雑音レベル及び第2の雑音レベルを含み、前記第1の雑音レベルは、1階水平低周波・垂直低周波領域内、1階水平低周波・垂直高周波領域内、1階水平高周波・垂直低周波領域内、及び1階水平高周波・垂直高周波領域内における各n階周波数領域に対して、対応するn階の対角高周波帯域内の雑音成分係数の非零係数の絶対値の中央値又は平均値とし、前記第2の雑音レベルは、該対角高周波帯域内の雑音成分係数の非零係数の絶対値の最大値とすることを特徴とする。
【0015】
また、本発明の画像雑音除去装置において、前記ウェーブレット縮退部は、予め設定される非高周波数制限帯域に適用する第1の縮退関数と、該第1の縮退関数に対し所定の減衰係数を乗じた高周波数制限帯域に適用する第2の縮退関数とを含む複数種類の縮退関数を用いて、当該ウェーブレット縮退処理を実行することを特徴とする。
【0016】
更に、本発明のプログラムは、コンピューターを、本発明の画像雑音除去装置として機能させるためのプログラムとして構成する。
【発明の効果】
【0017】
本発明によれば、例えばカメラ系の画像に重畳される熱雑音やショット雑音の特徴を考慮して雑音除去量の制御を適応的に行うものとなるため、処理対象の入力画像の雑音除去を高精度に行うことができる。
【図面の簡単な説明】
【0018】
図1】本発明による一実施形態の画像雑音除去装置の概略構成を示すブロック図である。
図2】本発明による一実施形態の画像雑音除去装置における実施例1の画像雑音除去処理を示すフローチャートである。
図3】本発明による一実施形態の画像雑音除去装置における実施例1の画像雑音除去処理に係る2階ウェーブレットパケット分解によって得られる周波数帯域を示す図である。
図4】熱雑音とショット雑音の周波数特性を示す図である。
図5】本発明による一実施形態の画像雑音除去装置における実施例1の画像雑音除去処理に係る縮退関数の説明図である。
図6】本発明による一実施形態の画像雑音除去装置における実施例1の画像雑音除去処理に係る変形例の縮退関数の説明図である。
図7】本発明による一実施形態の画像雑音除去装置における実施例2の画像雑音除去処理を示すフローチャートである。
図8】本発明による一実施形態の画像雑音除去装置における実施例3の画像雑音除去処理を示すフローチャートである。
図9】本発明による一実施形態の画像雑音除去装置における実施例3の画像雑音除去処理に係る3階ウェーブレットパケット分解によって得られる周波数帯域を示す図である。
図10】本発明による一実施形態の画像雑音除去装置における実施例3の画像雑音除去処理に係る縮退関数の説明図である。
図11】(a)は本発明による一実施形態の画像雑音除去装置における実施例2の画像雑音除去処理を入力画像に対し施した画像例であり、(b)は従来技法における非特許文献1の処理を入力画像に対し施した画像例である。
【発明を実施するための形態】
【0019】
以下、本発明による一実施形態の画像雑音除去装置1について、図面を参照して詳細に説明する。
【0020】
〔装置構成〕
図1は本発明による一実施形態の画像雑音除去装置1の概略構成を示すブロック図である。本実施形態の実施形態の画像雑音除去装置1は、ウェーブレットパケット分解部11、雑音成分判定部12、雑音レベル検出部13、ウェーブレット縮退部14、及び再構成部15を備える。
【0021】
ウェーブレットパケット分解部11は、動画又は静止画の色空間毎(例えばカラー時はRGB色毎、グレー時は単色)のフレーム画像を入力画像として入力し、設定されたウェーブレットパケット分解階数(n階)に従って(n≧2)、入力画像に対しn階ウェーブレットパケット分解処理を施し、各周波数帯域の周波数分解係数を抽出して雑音成分判定部12及びウェーブレット縮退部14に出力する。
【0022】
雑音成分判定部12は、ウェーブレットパケット分解部11から各周波数帯域の周波数分解係数を入力し、n階の各対角(水平・垂直)高周波帯域内の同一位相位置における周波数分解係数について、全ての各対角高周波帯域で周波数分解係数の分散特徴に応じた閾値(後述する実施例1)、或いは該閾値について周波数fに反比例(1/f)するよう変化させた複数種類の閾値(後述する実施例2)を用いて雑音成分であるか否かを判定し、対応する閾値以上のパワーを持つ位相位置の係数を、雑音成分を示す雑音成分係数として決定し、雑音レベル検出部13に出力する。
【0023】
雑音レベル検出部13は、雑音成分判定部12から各周波数帯域における雑音成分係数を入力し、雑音成分係数の特徴を考慮した雑音レベルを適応的に検出するために、当該雑音成分係数に応じた所定の雑音レベル算出法(詳細に各実施例で後述する)に基づき複数種類の雑音レベルを算出し、ウェーブレット縮退部14に出力する。
【0024】
ウェーブレット縮退部14は、雑音レベル検出部13から複数種類の雑音レベルを入力し、当該複数種類の雑音レベル及び設定された縮退関数パラメータに基づいて縮退関数を設定する。そして、ウェーブレット縮退部14は、ウェーブレットパケット分解部11から入力された各周波数帯域の周波数分解係数に対し、当該縮退関数を適用してウェーブレット縮退処理を実行することにより各周波数帯域内の周波数分解係数の雑音除去を行い、雑音除去後の各周波数帯域内の周波数分解係数を再構成部15に出力する。
【0025】
ここで、縮退関数パラメータは、複数種類の雑音レベルに応じて縮退関数Fを適応的に設定するためのパラメータである。詳細は各実施例で後述するが、縮退関数パラメータは、縮退関数Fに対し複数種類の雑音レベル(例えば2つの雑音レベルL,L)に対応した各雑音レベルを抑圧する傾きを規定する傾き係数(例えば傾き係数m,m)を含み、更に高周波数制限帯域を規定する水平・垂直高域制限周波数Lfh,Lfv及び縮退関数Fに対する減衰係数(例えば2段階のα,β)を含めることができる。
【0026】
再構成部15は、ウェーブレット縮退部14から入力された雑音除去後の各周波数帯域内の周波数分解係数を用いてウェーブレット再構成処理を施すことにより出力画像(動画又は静止画の色空間毎(例えばカラー時はRGB色毎、グレー時は単色)のフレーム画像)を生成し出力する。
【0027】
〔装置動作〕
以下、より具体的に、本実施形態の画像雑音除去装置1の動作として、各実施例の画像雑音除去処理について順に説明する。
【0028】
(実施例1の画像雑音除去処理)
図2は、本発明による一実施形態の画像雑音除去装置1における実施例1の画像雑音除去処理を示すフローチャートである。
【0029】
まず、画像雑音除去装置1は、ウェーブレットパケット分解部11により、設定されたウェーブレットパケット分解階数(n階)に従って(n≧2)、入力画像に対し色空間毎にウェーブレットパケット分解処理を施し、各周波数帯域Di,jの周波数分解係数di,j k,lを得る(ステップS1)。
【0030】
図3には、n=2としたときの実施例1の画像雑音除去処理に係る2階ウェーブレットパケット分解によって得られる周波数帯域Di,jを示している。尚、図3では放送カメラで撮像された所謂8Kの映像の画像サイズ(水平解像度8K(7680画素)×垂直解像度4K(4320画素))のフレーム画像を入力画像とした例であり、この入力画像に対しそれぞれ水平・垂直方向に2階ウェーブレットパケット分解を行うことで、水平周波数×垂直周波数で表される図示するような周波数帯域Di,jに分解される。ここで、i,jは、それぞれ周波数帯域Di,jの水平,垂直方向の帯域番号である。そしてDi,jは周波数分解係数di,j k,lから構成される。ここで、k,lは、それぞれDi,j内の水平,垂直方向の位相位置である。
【0031】
このように、入力画像に対し色空間毎にウェーブレットパケット分解処理を施すことで、各周波数帯域Di,jの周波数分解係数di,j k,lを得ることができる。
【0032】
図2を参照するに、続いて、画像雑音除去装置1は、雑音成分判定部12により、n階の各対角(水平・垂直)高周波帯域内の同一位相位置k,lにおける周波数分解係数di,j k,lを参照する。そして、雑音成分判定部12は、当該位相位置の周波数分解係数di,j k,lが雑音か否かを判別するために、全ての各対角高周波帯域で周波数分解係数di,j k,lの分散特徴に応じた閾値を用いて雑音成分であるか否かを判定し、当該閾値以上のパワーを持つ位相位置の係数を、雑音成分を示す雑音成分係数ri,j k,lとして決定する(ステップS2)。
【0033】
尚、図4に示すように、当該入力画像には熱雑音とショット雑音が含まれている。熱雑音は、白色ガウス性を持ち、全ての周波数帯域において一定の雑音レベルを持つ。またショット雑音は、有色性を持ち、周波数fに反比例(1/f)する雑音レベルを持つ。このため、熱雑音やショット雑音による全周波数帯の雑音レベル(RGB色の色空間毎の雑音レベル)は或る程度の有色性を持ち、空間低周波側では高く、或る一定値以上の空間高周波帯域ではほぼ一定である。
【0034】
ここで、実施例1の画像雑音除去処理では熱雑音の除去を対象とし、雑音成分判定部12は、熱雑音の周波数特性を考慮して各周波数帯域Di,jにおける雑音成分係数ri,j k,lを判定する。
【0035】
図4に示したように、熱雑音については全ての周波数帯域において一定の雑音レベルを持つ。このため、雑音成分判定部12は、ウェーブレットパケット分解したn階において、水平及び垂直方向の相関が低い対角高周波帯域の成分を調べ、全ての対角周波数帯域において周波数分解係数の分散特徴に応じた閾値以上のパワーを持つ位相位置の周波数分解係数di,j k,lは雑音成分であると判定する。
【0036】
具体例としては、雑音成分判定部12は、図3において、n=2としたとき、ウェーブレットパケット分解した2階の対角高周波帯域{D2,2,D2,4,D4,2,D4,4}の任意位相位置k,lにおける{|d2,2 k,l|,|d2,4 k,l|,|d4,2 k,l|,|d4,4 k,l|}が全て閾値τ以上であれば、当該位相位置k,lにおける{|d2,2 k,l|,|d2,4 k,l|,|d4,2 k,l|,|d4,4 k,l|}は雑音であると判定する。
【0037】
尚、閾値τは、最高対角周波数帯域D4,4内の全ての周波数分解係数の絶対値“|{d4,4 k,l∀(k,l)}|”の標準偏差、平均値、及び中央値のうちいずれか1つ以上を用いて定めることができ、例えば閾値τは当該標準偏差とすることができる。
【0038】
そして、雑音成分判定部12は、閾値τ以上であるときの各周波数分解係数{|d2,2 k,l|,|d2,4 k,l|,|d4,2 k,l|,|d4,4 k,l|}を、それぞれ雑音成分係数{r2,2 k,l,r2,4 k,l,r4,2 k,l,r4,4 k,l}として出力する。
【0039】
図2を参照するに、続いて、画像雑音除去装置1は、雑音レベル検出部13により、各周波数帯域における雑音成分係数ri,j k,lを入力し、雑音成分係数ri,j k,lの特徴を考慮した雑音レベルを適応的に検出するために、当該雑音成分係数ri,j k,lに応じた所定の雑音レベル算出法に基づき複数種類(本例では2種類)の雑音レベルLi,j ,Li,j を算出する(ステップS3)。
【0040】
雑音レベル算出法として、例えば雑音成分係数{r2,2 k,l,r2,4 k,l,r4,2 k,l,r4,4 k,l}が得られているとき、1階水平低周波・垂直低周波領域内における各n(本例ではn=2)階周波数領域に対して、第1の雑音レベル{L1,1 ,L1,2 ,L2,1 ,L2,2 }は、対応するn(本例ではn=2)階の対角高周波帯域内の雑音成分係数r2,2 k,lの非零係数の絶対値の中央値(又は平均値)とし、第2の雑音レベル{L1,1 ,L1,2 ,L2,1 ,L2,2 }は、該対角高周波帯域内の雑音成分係数r2,2 k,lの非零係数の絶対値の最大値とする。
【0041】
以下同様に、1階水平低周波・垂直高周波領域内における各n(本例ではn=2)階周波数領域に対して、第1の雑音レベル{L1,3 ,L1,4 ,L2,3 ,L2,4 }は、対応するn(本例ではn=2)階の対角高周波帯域内の雑音成分係数r2,4 k,lの非零係数の絶対値の中央値(又は平均値)とし、第2の雑音レベル{L1,3 ,L1,4 ,L2,3 ,L2,4 }は、該対角高周波帯域内の雑音成分係数r2,4 k,lの非零係数の絶対値の最大値とする。
【0042】
そして、1階水平高周波・垂直低周波領域内における各n(本例ではn=2)階周波数領域に対して、第1の雑音レベル{L3,1 ,L3,2 ,L4,1 ,L4,2 }は、対応するn(本例ではn=2)階の対角高周波帯域内の雑音成分係数r4,2 k,lの非零係数の絶対値の中央値(又は平均値)とし、第2の雑音レベル{L3,1 ,L3,2 ,L4,1 ,L4,2 }は、該対角高周波帯域内の雑音成分係数r4,2 k,lの非零係数の絶対値の最大値とする。
【0043】
そして、1階水平高周波・垂直高周波領域内における各n(本例ではn=2)階周波数領域に対して、第1の雑音レベル{L3,3 ,L3,4 ,L4,3 ,L4,4 }は、対応するn(本例ではn=2)階の対角高周波帯域内の雑音成分係数r4,4 k,lの非零係数の絶対値の中央値(又は平均値)とし、第2の雑音レベル{L3,3 ,L3,4 ,L4,3 ,L4,4 }は、該対角高周波帯域内の雑音成分係数r4,4 k,lの非零係数の絶対値の最大値とする。
【0044】
図2を参照するに、続いて、画像雑音除去装置1は、ウェーブレット縮退部14により、複数種類(本例では2種類)の雑音レベルLi,j ,Li,j (ここでは、L,Lと略す)、及び設定された縮退関数パラメータ(各雑音レベルの抑圧量を指定する傾き係数m,m)に基づいて縮退関数F(L,L,m,m)を設定する(ステップS4)。
【0045】
2種類の雑音レベルL,Lに基づく縮退関数F(L,L,m,m)として、例えば図5に示すように、ソフトシュリンケージ(Soft-shrinkage)関数を用いることができる。図5に例示する縮退関数F(L,L,m,m)では、入力値と出力値が1対1で線形比例する原関数に対し入力値として0から第1の雑音レベルLまでの±範囲では傾き係数m=0により出力値が0に抑圧され、第1の雑音レベルLから第2の雑音レベルLまでの±範囲では傾き係数mにより出力値が線形に抑圧される。
【0046】
そして、ウェーブレット縮退部14は、ウェーブレットパケット分解部11から入力された各周波数帯域Di,jの周波数分解係数di,j k,lに対し、当該縮退関数F(L,L,m,m)を適用してウェーブレット縮退処理(要素値変換処理)を実行する。これにより各周波数帯域Di,jの周波数分解係数di,j k,lの雑音除去を行う。
【0047】
最終的に、画像雑音除去装置1は、再構成部15により、ウェーブレット縮退処理によって雑音除去された各周波数帯域Di,jの周波数分解係数di,j k,lを用いてウェーブレット再構成処理を施すことにより出力画像を生成し出力する(ステップS5)。
【0048】
尚、上述した実施例1の例では、図5に例示したように、2種類の雑音レベルL,L、及び各雑音レベルの抑圧量を指定する2種類の傾き係数m,mに基づいて縮退関数F(L,L,m,m)を設定する例を説明したが、3種類以上の雑音レベル、及び各雑音レベルの抑圧量を指定する3種類以上の傾き係数に基づいて縮退関数Fを設定することもできる。
【0049】
例えば、雑音成分判定部12は、n=2としたとき、ウェーブレットパケット分解した2階の対角高周波帯域{D2,2,D2,4,D4,2,D4,4}の任意位相位置k,lにおける{d2,2 k,l,d2,4 k,l,d4,2 k,l,d4,4 k,l}が全て閾値τ0以上τ1未満であれば当該位相位置k,lにおける{d2,2 k,l,d2,4 k,l,d4,2 k,l,d4,4 k,l}は第1の雑音レベルの雑音であると判定し、閾値τ1以上τ2未満であれば第2の雑音レベルの雑音であると判定し、閾値τ2以上であれば第3の雑音レベルの雑音であると判定する。
【0050】
閾値τ0,τ1,τ2は、最高対角周波数帯域D4,4内の全ての周波数分解係数の絶対値“|{d4,4 k,l∀(k,l)}|”の標準偏差、平均値、及び中央値のうちいずれか1つ以上を用いて定めることができる。
【0051】
或いは、雑音レベル検出部13の処理で用いるn階の対角高周波帯域内の雑音成分係数の非零係数の絶対値の中央値を第1の雑音レベルとし、その平均値を第2の雑音レベルとし、その最大値を第3の雑音レベルとして算出することもできる。
【0052】
3種類の雑音レベルL,L,L、及び各雑音レベルに応じた3種類の傾き係数m,m,mに基づく縮退関数F(L,L,L,m,m,m)として、例えば図6に示すように、同じくソフトシュリンケージ(Soft-shrinkage)関数を用いることができ、より細かい雑音レベルの抑圧が可能となる。
【0053】
以上のように、実施例1の画像雑音除去処理に基づいた画像雑音除去装置1によれば、例えばカメラ系の画像に重畳される熱雑音の特徴を考慮して雑音除去量の制御を適応的に行うものとなるため、処理対象の入力画像の雑音除去を高精度に行うことができる。
【0054】
(実施例2の画像雑音除去処理)
図7は、本発明による一実施形態の画像雑音除去装置1における実施例2の画像雑音除去処理を示すフローチャートである。
【0055】
図7に示す実施例2の画像雑音除去処理は、図2に示す実施例1と比較して、カメラ系の画像に重畳される熱雑音の特徴だけでなく、ショット雑音の特徴をも考慮して雑音除去量の制御を適応的に行う点で相違している。具体的には、図2に示すステップS2に係る雑音成分判定部12の処理が図7に示すステップS2Aへと置き換えられており、他の処理は同様である。
【0056】
まず、画像雑音除去装置1は、ウェーブレットパケット分解部11により、設定されたウェーブレットパケット分解階数(n階)に従って(n≧2)、入力画像に対し色空間毎にウェーブレットパケット分解処理を施し、各周波数帯域Di,jの周波数分解係数di,j k,lを得る(ステップS1)。
【0057】
上述したように、図3には、n=2としたときの2階ウェーブレットパケット分解によって得られる周波数帯域Di,jを示している。
【0058】
続いて、図7に示す実施例2において、画像雑音除去装置1は、雑音成分判定部12により、n階の各対角(水平・垂直)高周波帯域内の同一位相位置k,lにおける周波数分解係数di,j k,lを参照する。そして、雑音成分判定部12は、当該位相位置の周波数分解係数di,j k,lが雑音か否かを判別するために、全ての各対角高周波帯域で全ての各対角高周波帯域で周波数分解係数di,j k,lの分散特徴に応じた閾値について、周波数fに反比例(1/f)するよう変化させた複数種類の閾値を用いて雑音成分であるか否かを判定し、対応する閾値以上のパワーを持つ位相位置の係数を、雑音成分を示す雑音成分係数ri,j k,lとして決定する(ステップS2A)。
【0059】
図4に示したように、熱雑音については全ての周波数帯域において一定の雑音レベルを持ち、ショット雑音は1/fで示されるレベルを持つ。このため、実施例2に係る雑音成分判定部12は、ウェーブレットパケット分解したn階において、水平及び垂直方向の相関が低い対角高周波帯域の成分を調べ、全ての対角周波数帯域において閾値以上のパワーを持ち、且つその閾値が1/fで変化させた複数種類の閾値を用いて、対応する閾値以上のパワーを持つ位相位置の周波数分解係数di,j k,lは雑音成分であると判定する。
【0060】
具体例としては、雑音成分判定部12は、図3において、n=2としたとき、ウェーブレットパケット分解した2階の対角高周波帯域{D2,2,D2,4,D4,2,D4,4}の任意位相位置k,lにおける{|d2,2 k,l|,|d2,4 k,l|,|d4,2 k,l|,|d4,4 k,l|}が各々閾値{τ2,2,τ2,4,τ4,2,τ4,4}以上であれば、当該位相位置k,lにおける{|d2,2 k,l|,|d2,4 k,l|,|d4,2 k,l|,|d4,4 k,l|}は雑音であると判定する。
【0061】
尚、閾値{τ2,2,τ2,4,τ4,2,τ4,4}のうち、閾値τ4,4は最高対角周波数帯域D4,4内の全ての周波数分解係数の絶対値“|{d4,4 k,l∀(k,l)}|”の標準偏差、平均値、及び中央値のうちいずれか1つ以上を用いて定めることができ、例えば閾値τは当該標準偏差とすることができる。
【0062】
また、閾値{τ2,2,τ2,4,τ4,2}については閾値τ4,4に対して1/fの値とする。例えば、τ2,2=(1/0.5)τ4,4、τ2,4=(1/0.32)τ4,4、τ4,2=(1/0.18)τ4,4、とする。ここで0.5,0.32,0.18は、入力画像のアスペクト比を水平16:垂直9とした時の最高対角周波数帯域D4,4に対する周波数領域{D2,2,D2,4,D4,2}への距離から算出した値である。
【0063】
そして、雑音成分判定部12は、それぞれの閾値{τ2,2,τ2,4,τ4,2,τ4,4}以上であるときの各周波数分解係数{|d2,2 k,l|,|d2,4 k,l|,|d4,2 k,l|,|d4,4 k,l|}を、それぞれ雑音成分係数{r2,2 k,l,r2,4 k,l,r4,2 k,l,r4,4 k,l}として出力する。
【0064】
図7を参照するに、続いて、画像雑音除去装置1は、図2に示す実施例1と同様に、雑音レベル検出部13により、当該雑音成分係数ri,j k,lに応じた所定の雑音レベル算出法に基づき複数種類(本例では2種類)の雑音レベルLi,j ,Li,j を算出する(ステップS3)。
【0065】
続いて、画像雑音除去装置1は、図2に示す実施例1と同様に、ウェーブレット縮退部14により、複数種類(本例では2種類)の雑音レベルLi,j ,Li,j (ここでは、L,Lと略す)、及び設定された縮退関数パラメータ(各雑音レベルの抑圧量を指定する傾き係数m,m)に基づいて縮退関数F(L,L,m,m)を設定する(ステップS4)。
【0066】
そして、ウェーブレット縮退部14は、ウェーブレットパケット分解部11から入力された各周波数帯域Di,jの周波数分解係数di,j k,lに対し、当該縮退関数F(L,L,m,m)を適用してウェーブレット縮退処理(要素値変換処理)を実行する。これにより各周波数帯域Di,jの周波数分解係数di,j k,lの雑音除去を行う。
【0067】
最終的に、画像雑音除去装置1は、再構成部15により、ウェーブレット縮退処理によって雑音除去された各周波数帯域Di,jの周波数分解係数di,j k,lを用いてウェーブレット再構成処理を施すことにより出力画像を生成し出力する(ステップS5)。
【0068】
尚、上述した実施例2の例では、図5に例示したものと同様に、2種類の雑音レベルL,L、及び各雑音レベルの抑圧量を指定する2種類の傾き係数m,mに基づいて縮退関数F(L,L,m,m)を設定する例を説明したが、図6に例示したものと同様に、3種類以上の雑音レベル、及び各雑音レベルの抑圧量を指定する3種類以上の傾き係数に基づいて縮退関数Fを設定することもできる。
【0069】
以上のように、実施例2の画像雑音除去処理に基づいた画像雑音除去装置1によれば、例えばカメラ系の画像に重畳される熱雑音の特徴だけでなく、ショット雑音の特徴をも考慮して雑音除去量の制御を適応的に行うものとなるため、処理対象の入力画像の雑音除去を高精度に行うことができる。
【0070】
(実施例3の画像雑音除去処理)
図8は、本発明による一実施形態の画像雑音除去装置1における実施例3の画像雑音除去処理を示すフローチャートである。
【0071】
図8に示す実施例3の画像雑音除去処理は、図2に示す実施例1及び図7に示す実施例2と比較して、カメラ系の画像に重畳される熱雑音の特徴、或いは熱雑音の特徴の特徴に加えショット雑音の特徴をも考慮して雑音除去量の制御を適応的に行うだけでなく、帯域制限処理を行う点で相違している。具体的には、図2に示すステップS2、或いは図7に示すステップS2Aと同様に雑音成分判定部12の処理を行い(ステップS2B)、図2及び図7に示すステップS4が図8に示すステップS4Bへと置き換えられており、他の処理は同様である。
【0072】
まず、画像雑音除去装置1は、ウェーブレットパケット分解部11により、設定されたウェーブレットパケット分解階数(n階)に従って(n≧2)、入力画像に対し色空間毎にウェーブレットパケット分解処理を施し、各周波数帯域Di,jの周波数分解係数di,j k,lを得る(ステップS1)。
【0073】
実施例3に係る処理の説明にあたり、図9には、n=3としたときの実施例3の画像雑音除去処理に係る3階ウェーブレットパケット分解によって得られる周波数帯域Di,jを示している。尚、図9では放送カメラで撮像された所謂8Kの映像の画像サイズ(水平解像度8K(7680画素)×垂直解像度4K(4320画素))のフレーム画像を入力画像とした例であり、この入力画像に対しそれぞれ水平・垂直方向に3階ウェーブレットパケット分解を行うことで、水平周波数×垂直周波数で表される図示するような周波数帯域Di,jに分解される。
【0074】
図9を参照するに、実施例3では、帯域制限処理を行うために、i≦6且つj≦6の周波数領域Di,jを非高周波数制限帯域LB0とし、i>6又はj>6の周波数領域Di,jを高周波数制限帯域LB1として区分している。周波数制限帯域LB1を規定する水平・垂直高域制限周波数Lfh,Lfvは、縮退関数パラメータに含まれる。そして、水平及び垂直方向の相関が低い最高対角周波数帯域D8,8の成分は、ほぼ雑音成分となる。
【0075】
続いて、図8に示す実施例3において、画像雑音除去装置1は、雑音成分判定部12により、n階の各対角(水平・垂直)高周波帯域内の同一位相位置k,lにおける周波数分解係数di,j k,lを参照する。そして、雑音成分判定部12は、当該位相位置の周波数分解係数di,j k,lが雑音か否かを判別するために、全ての各対角高周波帯域で全ての各対角高周波帯域で周波数分解係数di,j k,lの分散特徴に応じた閾値を用いて(実施例1と同様)、或いは該閾値について周波数fに反比例(1/f)するよう変化させた複数種類の閾値を用いて(実施例2と同様)、雑音成分であるか否かを判定し、対応する閾値以上のパワーを持つ位相位置の係数を、雑音成分を示す雑音成分係数ri,j k,lとして決定する(ステップS2B)。
【0076】
実施例2と同様に処理するときの具体例としては、雑音成分判定部12は、図9において、n=3としたとき、ウェーブレットパケット分解した3階の対角高周波帯域{D4,4,D4,8,D8,4,D8,8}の任意位相位置k,lにおける{|d4,4 k,l|,|d4,2 k,l|,|d8,4 k,l|,|d8,8 k,l|}が各々閾値{τ4,4,τ4,8,τ8,4,τ8,8}以上であれば、当該位相位置k,lにおける{|d4,4 k,l|,|d4,2 k,l|,|d8,4 k,l|,|d8,8 k,l|}は雑音であると判定する。
【0077】
尚、閾値{τ4,4,τ4,8,τ8,4,τ8,8}のうち、閾値τ8,8は最高対角周波数帯域D8,8内の全ての周波数分解係数の絶対値“|{d8,8 k,l∀(k,l)}|”の標準偏差、平均値、及び中央値のうちいずれか1つ以上を用いて定めることができ、例えば閾値τは当該標準偏差とすることができる。
【0078】
また、閾値{τ4,4,τ4,8,τ8,4}については閾値τ8,8に対して1/fの値とする。例えば、τ4,4=(1/0.5)τ8,8、τ4,8=(1/0.32)τ8,8、τ4,2=(1/0.18)τ8,8、とする。ここで0.5,0.32,0.18は、入力画像のアスペクト比を水平16:垂直9とした時の最高対角周波数帯域D8,8に対する周波数領域{D4,4,D4,8,D8,4}への距離から算出した値である。
【0079】
そして、雑音成分判定部12は、それぞれの閾値{τ4,4,τ4,8,τ8,4,τ8,8}以上であるときの各周波数分解係数{|d4,4 k,l|,|d4,2 k,l|,|d8,4 k,l|,|d8,8 k,l|}を、それぞれ雑音成分係数{r4,4 k,l,r4,2 k,l,r8,4 k,l,r8,8 k,l}として出力する。
【0080】
図8を参照するに、続いて、画像雑音除去装置1は、図2に示す実施例1,2と同様に、雑音レベル検出部13により、当該雑音成分係数ri,j k,lに応じた所定の雑音レベル算出法に基づき複数種類(本例では2種類)の雑音レベルLi,j ,Li,j を算出する(ステップS3)。
【0081】
続いて、画像雑音除去装置1は、ウェーブレット縮退部14により、まず、複数種類(本例では2種類)の雑音レベルLi,j ,Li,j (ここでは、L,Lと略す)、及び設定された縮退関数パラメータ(各雑音レベルの抑圧量を指定する傾き係数m,m)に基づいて縮退関数F(L,L,m,m)を設定する(ステップS4B)。
【0082】
ここで、縮退関数パラメータは、複数種類の雑音レベルに応じて縮退関数Fを適応的に設定するためのパラメータである。実施例3に係る縮退関数パラメータは、縮退関数Fに対し複数種類の雑音レベル(例えば2つの雑音レベルL,L)に対応した各雑音レベルを抑圧する傾きを規定する傾き係数(例えば傾き係数m,m)を含み、更に高周波数制限帯域を規定する水平・垂直高域制限周波数Lfh,Lfv及び縮退関数Fに対する減衰係数(例えば2段階のα,β)を含めることができる。
【0083】
2種類の雑音レベルL,Lに基づく縮退関数F(L,L,m,m)として、例えば図10に示すように、ソフトシュリンケージ(Soft-shrinkage)関数を用いることができる。図10に例示する縮退関数F(L,L,m,m)では、入力値と出力値が1対1で線形比例する原関数に対し入力値として0から第1の雑音レベルLまでの±範囲では傾き係数m=0により出力値が0に抑圧され、第1の雑音レベルLから第2の雑音レベルLまでの±範囲では傾き係数mにより出力値が線形に抑圧される。
【0084】
この縮退関数F(L,L,m,m)は、図9に示す非高周波数制限帯域LB0に対して適用される。
【0085】
一方、図9に示す高周波数制限帯域LB1に対して、第2の雑音レベルLが所定の閾値th以上である時は縮退関数α×F(L,L,m,m)が適用される。例えば、α=0.1とすることで非高周波数制限帯域LB0の周波数分解係数di,j k,lに対し高周波数制限帯域LB1の周波数分解係数di,j k,lを20dB減衰させることができる。
【0086】
また、図9に示す高周波数制限帯域LB1に対して、第2の雑音レベルLが所定の閾値th未満である時は縮退関数β×F(L,L,m,m)が適用される。例えば、β=0.01とすることで非高周波数制限帯域LB0の周波数分解係数di,j k,lに対し高周波数制限帯域LB1の周波数分解係数di,j k,lを40dB減衰させることができる。
【0087】
このような減衰係数は、上記のように2種類のα,βを設定する代わりに、1種類とすることや複数種類の閾値thを基に3種類以上とすることも可能である。3階以上のウェーブレットパケット分解を行うと、その水平及び垂直方向の相関が低い最高対角周波数帯域(n=3のときD8,8)の成分は、ほぼ雑音成分となることから、縮退関数Fに減衰係数を乗じたものを設定することで、より雑音成分の抑圧が可能となる。
【0088】
そして、ウェーブレット縮退部14は、ウェーブレットパケット分解部11から入力された各周波数帯域Di,jの周波数分解係数di,j k,lに対し、各周波数帯域Di,jに応じた縮退関数を適用してウェーブレット縮退処理(要素値変換処理)を実行する。これにより各周波数帯域Di,jの周波数分解係数di,j k,lの雑音除去を行う。
【0089】
図8を参照するに、最終的に、画像雑音除去装置1は、再構成部15により、ウェーブレット縮退処理によって雑音除去された各周波数帯域Di,jの周波数分解係数di,j k,lを用いてウェーブレット再構成処理を施すことにより出力画像を生成し出力する(ステップS5)。
【0090】
尚、上述した実施例3の例では、図10に例示したように、2種類の雑音レベルL,L、及び各雑音レベルの抑圧量を指定する2種類の傾き係数m,mに基づいて縮退関数F(L,L,m,m)を設定する例を説明したが、図6に例示したものと同様に、3種類以上の雑音レベル、及び各雑音レベルの抑圧量を指定する3種類以上の傾き係数に基づいて縮退関数Fを設定することもできる。
【0091】
以上のように、実施例3の画像雑音除去処理に基づいた画像雑音除去装置1によれば、例えばカメラ系の画像に重畳される熱雑音の特徴だけでなく、ショット雑音の特徴をも考慮して雑音除去量の制御を適応的に行うものとなるため、処理対象の入力画像の雑音除去を高精度に行うことができる。
【0092】
図11(a)は本発明による一実施形態の画像雑音除去装置1における実施例2の画像雑音除去処理を入力画像に対し施した画像例であり、図11(b)は従来技法における非特許文献1の処理を入力画像に対し施した画像例である。本発明に係る画像雑音除去処理を行うことで、より高画質となる雑音除去の高精度化が実現できることが分かる。
【0093】
以上の実施形態における画像雑音除去装置1は、コンピューターにより構成することができ、画像雑音除去装置1の各処理部を機能させるためのプログラムを好適に用いることができる。具体的には、画像雑音除去装置1の各処理部を制御するための制御部をコンピューター内の中央演算処理装置(CPU)で構成でき、且つ、各処理部を動作させるのに必要となるプログラムを適宜記憶する記憶部を少なくとも1つのメモリで構成させることができる。即ち、そのようなコンピューターに、CPUによって該プログラムを実行させることにより、画像雑音除去装置1の各処理部の有する機能を実現させることができる。更に、画像雑音除去装置1の各処理部の有する機能を実現させるためのプログラムを、前述の記憶部(メモリ)の所定の領域に格納させることができる。そのような記憶部は、装置内部のRAM又はROMなどで構成させることができ、或いは又、外部記憶装置(例えば、ハードディスク)で構成させることもできる。また、そのようなプログラムは、コンピューターで利用されるOS上のソフトウェア(ROM又は外部記憶装置に格納される)の一部で構成させることができる。更に、そのようなコンピューターに、画像雑音除去装置1の各処理部として機能させるためのプログラムは、コンピューター読取り可能な記録媒体に記録することができる。また、画像雑音除去装置1の各処理部をハードウェア又はソフトウェアの一部として構成させ、各々を組み合わせて実現させることもできる。
【0094】
以上、特定の実施形態の例を挙げて本発明を説明したが、本発明は前述の実施形態の例に限定されるものではなく、その技術思想を逸脱しない範囲で種々変形可能である。例えば、上述した実施形態の例では、主として、2階又は3階ウェーブレットパケット分解に基づくウェーブレット縮退を用いて雑音除去を行う例を説明したが、4階以上のウェーブレットパケット分解に基づいたウェーブレット縮退を用いて雑音除去を行う処理とすることもできる。従って、本発明に係る画像雑音除去装置1は、上述した実施形態の例に限定されるものではなく、特許請求の範囲の記載によってのみ制限される。
【産業上の利用可能性】
【0095】
本発明によれば、例えばカメラ系の画像に重畳される熱雑音やショット雑音の特徴を考慮して雑音除去量の制御を適応的に行うものとなるため、処理対象の入力画像の雑音除去を高精度に行う用途に有用である。
【符号の説明】
【0096】
1 画像雑音除去装置
11 ウェーブレットパケット分解部
12 雑音成分判定部
13 雑音レベル検出部
14 ウェーブレット縮退部
15 再構成部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11