【文献】
Yasutaka Matsuo et al.,REDUCING NOISE IN HIGH-RESOLUTION VIDEO SEQUENCES BY USING WAVELET SHRINKAGE IN THE TEMPORAL-SPATIAL DOMAIN,Picture Coding Symposium, 2009. PCS 2009,IEEE,2009年 5月 6日,p.1-4
(58)【調査した分野】(Int.Cl.,DB名)
前記低階調雑音画像生成手段及び前記低階調信号画像生成手段は、前記階調削減処理として、ロイド−マックス法を用いることを特徴とする請求項1又は請求項2に記載の階調削減符号化装置。
前記階調重み情報生成手段は、請求項2に記載の階調削減符号化装置から最適フィルタ情報が入力され、入力された前記最適フィルタ情報が示すフィルタ係数を設定することを特徴とする請求項4に記載の階調復元復号装置。
【発明を実施するための形態】
【0025】
以下、本発明の各実施形態について、適宜図面を参照しながら詳細に説明する。なお、各実施形態において、同一の機能を有する手段には同一の符号を付し、説明を省略した。
【0026】
(第1実施形態)
[階調削減符号化装置の構成]
図1を参照し、本発明の第1実施形態に係る階調削減符号化装置1の構成について、説明する。
図1に示すように、階調復元システム1000は、階調の削減及び復元を行うものであり、階調削減符号化装置1と、階調復元復号装置2とを備える。
階調削減符号化装置1は、原画像の階調を削減するものであり、階調削減手段10と、符号化手段11と、復号手段12と、階調復元・最適フィルタ情報生成手段13とを備える。
【0027】
<階調削減手段>
図2,
図3を参照し、階調削減手段10について、説明する(適宜
図1参照)。
図2に示すように、階調削減手段10は、階調削減画像を生成するものである。このため、階調削減手段10は、雑音レベル検出手段100と、画像分離手段101と、低階調雑音画像生成手段102と、グラデーション領域検出手段103と、低階調信号画像生成手段104と、画像合成手段105とを備える。
【0028】
まず、階調削減手段10の入出力について、説明する。
この階調削減手段10は、外部から原画像が入力される。
また、階調削減手段10は、生成した階調削減画像を符号化手段11に出力し、階調変換コードブックを階調復元・最適フィルタ情報生成手段13に出力する。
【0029】
ここで、原画像とは、例えば、人物、風景等を撮影した一般的な画像である。また、CG(コンピュータグラフィックス)で作成したCG画像は、階調の空間連続性が乏しいため、この原画像から除かれる。
また、階調削減画像とは、原画像の階調を削減した画像である。
【0030】
次に、階調削減手段10が備える各手段の処理について、説明する。
雑音レベル検出手段100は、原画像に時空間方向の周波数解析処理を行って、予め設定された第1閾値以上の周波数成分から孤立点成分を抽出する。そして、雑音レベル検出手段100は、抽出した孤立点成分のレベルを雑音レベルとして検出するものである。
【0031】
具体的には、雑音レベル検出手段100は、周波数解析処理として、ウェーブレット分解を用いる。すなわち、雑音レベル検出手段100は、時間方向に連続した原画像の列を時空間方向でウェーブレット分解し、その時空間周波数成分のうち、予め設定された周波数以上の高周波数成分から孤立点成分を抽出する。このとき、原画像に複数の孤立点が含まれる場合、雑音レベル検出手段100は、抽出した全孤立点成分のうち、レベルがゼロ以外となる孤立点成分の中央値を、雑音レベルとして検出してもよい。
なお、孤立点とは、全ての近傍8画素と階調値が異なる画素のことである。
【0032】
ここで、白色雑音は、ランダム雑音のため、時空間方向の何れにも相関が低い孤立点成分となる。つまり、原画像を時空間方向にウェーブレット分解した時空間周波数成分は、時空間何れの方向でも変動(画素値差分)が大きくなる。ただし、エッジなどの連続した高周波成分は、時空間高周波帯域にも連続して現れる。そこで、雑音レベル検出手段100は、時空間高周波帯域の白色雑音成分を、原画像の孤立点成分として抽出する。
【0033】
また、雑音レベル検出手段100は、抽出した孤立点成分のRMS(二乗平均平方根)を雑音レベルとして検出する。そして、雑音レベル検出手段100は、原画像と、検出した雑音レベルとを画像分離手段101に出力する。
【0034】
画像分離手段101は、雑音レベル検出手段100から入力された原画像を、雑音レベル以下の画素で構成される雑音画像と、雑音レベルを超える画素で構成される信号画像とに分離するものである。そして、画像分離手段101は、分離した雑音画像を低階調雑音画像生成手段102に出力し、分離した信号画像をグラデーション領域検出手段103に出力する。
【0035】
低階調雑音画像生成手段102は、画像分離手段101から入力された雑音画像に階調削減処理を行って、雑音画像の階調を削減した低階調雑音画像を生成するものである。このため、低階調雑音画像生成手段102は、低階調雑音画像再量子化初期値決定手段102aと、低階調雑音画像再量子化手段102bとを備える。
【0036】
低階調雑音画像再量子化初期値決定手段102aは、雑音画像を再量子化するときに必要となる低階調雑音画像再量子化初期値を決定するものである。つまり、低階調雑音画像再量子化初期値決定手段102aは、雑音レベルL
N以下が粗く量子化されるように、低階調雑音画像再量子化初期値を決定する。例えば、0からL
N以下までのレベルでは、量子化ステップがL
N/2^Δステップであるとする。この場合、低階調雑音画像再量子化初期値決定手段102aは、例えば、0からL
N以下までのレベルでは、量子化ステップをL
N/2^(Δ+1)ステップとして決定する。
【0037】
そして、低階調雑音画像再量子化初期値決定手段102aは、決定した量子化ステップの最小値及び最大値と、最小値と最大値との間になるステップ値とを、低階調雑音画像再量子化初期値として低階調雑音画像再量子化手段102bに出力する。さらに、低階調雑音画像再量子化初期値決定手段102aは、雑音画像をトレーニングセット(学習データ)として、低階調雑音画像再量子化手段102bに出力する。
【0038】
低階調雑音画像再量子化手段102bは、低階調雑音画像再量子化初期値決定手段102aから入力された低階調雑音画像再量子化初期値を用いて、雑音画像に階調削減処理を行い、雑音画像階調変換コードブックと、低階調雑音画像を生成するものである。そして、低階調雑音画像再量子化手段102bは、雑音画像階調変換コードブックと、生成した低階調雑音画像とを画像合成手段105に出力する。
なお、この階調削減処理は、雑音画像の分離元となる原画像が既に量子化されているため、再量子化とも呼ばれる。
【0039】
<<ロイド−マックス法>>
ここで、低階調雑音画像再量子化手段102bが、階調削減処理としてロイド−マックス法を用いるため、このロイド−マックス法を詳細に説明する。
ロイド−マックス法において、原画像の階調数をΔビット削減する場合を考える。この場合、原画像をトレーニングセットとして、初期階調変換コードブック(低階調雑音画像再量子化初期値)を随時更新しながら、原画像における階調値の重みに応じた階調変換コードブック(雑音画像階調変換コードブック)と、この階調変換コードブックにより階調を削減した画像とを生成する。このロイド−マックス法を用いることで、原画像で出現頻度が高い階調値付近を細かく再量子化し、出現頻度が低い階調値付近を粗く再量子化することができる。
【0040】
例えば、原画像の階調数を10ビット(階調値=0〜1023、階調数=1024)とし、階調削減画像の階調数を8ビット(階調値=0〜255、階調数=256)とし、Δ=2ビットとする。この場合、初期階調変換コードブックでは、下記の表1に示すように、変換前階調値が、原画像の階調値を2^Δで割って余りを切り捨てた階調値となる。また、変換後階調値が、変換前階調値を2^Δ倍した階調値となる。
【0042】
なお、ロイド−マックス法は、例えば、参考文献「“A genetic Lloyd-Max image quantization algorithm”,P.Scheunders,Pattern Recognition Letters,Vol.17,issue 4,p.547-556.1996」に記載されている。
【0043】
グラデーション領域検出手段103は、画像分離手段101から入力された信号画像の画素毎に、空間方向の周波数解析処理を行って信号画像の全周波数帯域に対する予め設定された低周波数帯域の割合を算出する。そして、グラデーション領域検出手段103は、算出した割合が予め設定された第2閾値以上となる画素領域をグラデーション領域として検出するものである。
【0044】
具体的には、グラデーション領域検出手段103は、周波数解析処理として、デシメーション(間引き)なしのウェーブレット分解を用いる。すなわち、グラデーション領域検出手段103は、デシメーションなしでn階(nは1以上の整数)のウェーブレット分解を信号画像に行い、
図3に示すように、信号画像の画素毎にパワースペクトル90を求める。
【0045】
また、グラデーション領域検出手段103は、信号画像の画素毎に、全周波数帯域Fでのパワーと、低周波数帯域F/8でのパワーとの割合を算出する。具体的には、グラデーション領域検出手段103は、
図3のパワースペクトル90において、低周波数帯域を示すドット部分の面積と、全周波数帯域を示すドット部分及び白地部分の合計面積とを算出する。また、グラデーション領域検出手段103は、信号画像の画素毎に、合計面積に対するドット部分の面積の割合を算出する。そして、グラデーション領域検出手段103は、算出した割合が第2閾値(例えば、99%)以上となる画素で構成される画素領域を、グラデーション領域として検出する。さらに、グラデーション領域検出手段103は、検出したグラデーション領域を示すグラデーション領域情報を生成し、生成したグラデーション領域情報と、信号画像とを低階調信号画像生成手段104に出力する。
【0046】
なお、
図3では、デシメーションなしで3階のウェーブレット分解が行われており(n=3)、低周波数帯域が全周波数帯域の1/8に設定されている。
また、グラデーション領域とは、被写体の内部のように、各画素の階調値が滑らかに連続する領域のことである。
【0047】
低階調信号画像生成手段104は、グラデーション領域検出手段103から入力されたグラデーション領域情報を参照し、信号画像のグラデーション領域に階調削減処理を行って、信号画像の階調を削減した低階調信号画像を生成するものである。このため、低階調信号画像生成手段104は、低階調信号画像再量子化初期値決定手段104aと、低階調信号画像再量子化手段104bとを備える。
【0048】
低階調信号画像再量子化初期値決定手段104aは、信号画像を再量子化するときに必要となる低階調信号画像再量子化初期値を決定するものである。つまり、低階調信号画像再量子化初期値決定手段104aは、雑音レベルL
Nより上のレベルについて、低階調信号画像再量子化初期値を決定する。通常、L
Nから最大階調値までのレベルでは、量子化ステップがL
N/2^Δステップであるとする。この場合、低階調信号画像再量子化初期値決定手段104aは、例えば、L
Nから最大階調値までのレベルでは、量子化ステップをL
N/2^(Δ−1)ステップとして決定する。
【0049】
そして、低階調信号画像再量子化初期値決定手段104aは、決定した量子化ステップの最小値及び最大値と、最小値と最大値との間になるステップ値とを、低階調信号画像再量子化初期値として低階調信号画像再量子化手段104bに出力する。
【0050】
さらに、低階調信号画像再量子化初期値決定手段104aは、信号画像をトレーニングセットとして、低階調信号画像再量子化手段104bに出力する。
ここで、ロイド−マックス法では、グラデーション領域の階調頻度を大きくしたトレーニングセットを用いることで、グラデーション領域に多くの階調値が割り当てることができる。このため、低階調信号画像再量子化初期値決定手段104aは、出力する信号画像のグラデーション領域に含まれる画素の階調値をα倍することが好ましい。例えば、αは、1.1や2.2のように、1を超える値で設定できる。
【0051】
低階調信号画像再量子化手段104bは、低階調信号画像再量子化初期値決定手段104aから入力された低階調信号画像再量子化初期値(ロイド−マックス法の初期階調変換コードブック)を用いて、信号画像のグラデーション領域に階調削減処理を行い、信号画像階調変換コードブック(ロイド−マックス法の階調変換コードブック)と、低階調信号画像とを生成するものである。そして、低階調信号画像再量子化手段104bは、信号画像階調変換コードブックと、生成した低階調信号画像とを画像合成手段105に出力する。
なお、低階調信号画像再量子化手段104bは、低階調雑音画像再量子化手段102bと同様、階調削減処理としてロイド−マックス法を用いるため、詳細な説明を省略する。
【0052】
画像合成手段105は、低階調雑音画像再量子化手段102bから入力された低階調雑音画像と、低階調信号画像再量子化手段104bから入力された低階調信号画像とを合成し、階調削減画像を生成するものである。
【0053】
また、画像合成手段105は、雑音画像階調変換コードブックと信号画像階調変換コードブックとを合わせて、階調変換コードブックを生成する。この階調変換コードブックは、前記した表1と同様、変換前階調値及び変換後階調値をデータ項目として有する。例えば、雑音レベルL
N=40の場合、階調変換コードブックは、40以下のレベルを粗く再量子化し、40を超えるレベルを細かく再量子化するコードブックとなる。
【0054】
ここで、階調変換コードブックの変換後階調値は、伸長階調値と呼ばれることがある。また、変換後階調値の間にある階調値は、中間階調値と呼ばれることがある。例えば、階調変換コードブックに変換後階調値=0,4,8,12が含まれている場合を考える。この場合、伸長階調値は、0,4,8,12となる。また、中間階調値は、伸長階調値0,4の間にある1〜3と、伸長階調値4,8の間にある5〜7と、伸長階調値8,12の間にある9〜11とになる。
【0055】
<符号化手段>
図1に戻り、階調削減符号化装置1の構成について、説明する。
符号化手段11は、階調削減手段10から入力された階調削減画像を符号化することで、符号化画像を生成するものである。例えば、符号化手段11は、MPEG(Moving Picture Expert Group)−4 AVC(Advanced Video Coding)/H.264、HEVC(High Efficiency Video Coding)等の符号化手法を用いる。そして、符号化手段11は、生成した符号化画像を復号手段12と、階調復元復号装置2とに出力する。
【0056】
<復号手段>
復号手段12は、符号化手段11から入力された符号化画像を復号することで、復号画像を生成するものである。ここで、復号手段12は、符号化手段11の符号化手法に対応した復号手法を用いる。そして、復号手段12は、生成した復号画像を階調復元・最適フィルタ情報生成手段13に出力する。
【0057】
<階調復元・最適フィルタ情報生成手段>
図4〜
図6を参照し、階調復元・最適フィルタ情報生成手段13について、説明する(適宜
図1参照)。
図4に示すように、階調復元・最適フィルタ情報生成手段13は、復号画像を用いて、後記する階調復元復号装置2が階調を復元するときに必要な最適フィルタ情報を生成するものである。このため、階調復元・最適フィルタ情報生成手段13は、周辺階調重み情報生成手段(階調重み情報生成手段)130と、階調値ヒストグラム算出手段131と、中間階調値復元手段(中間階調復元画像生成手段)132と、最適フィルタ情報生成手段133とを備える。
【0058】
まず、階調復元・最適フィルタ情報生成手段13の入出力について、説明する。
階調復元・最適フィルタ情報生成手段13は、外部から原画像と、後記するフィルタ情報群及びブロック分割情報とが入力される。また、階調復元・最適フィルタ情報生成手段13は、階調削減手段10から階調変換コードブックが入力され、復号手段12から復号画像が入力される。
また、階調復元・最適フィルタ情報生成手段13は、生成した最適フィルタ情報と、階調変換コードブックとを階調復元復号装置2に出力する。
【0059】
<<周辺階調重み情報生成手段>>
次に、階調復元・最適フィルタ情報生成手段13が備える各手段の処理について、説明する。
周辺階調重み情報生成手段130は、フィルタ情報群に設定されたフィルタ情報(フィルタ係数)毎に、エッジ保存型フィルタを復号画像に適用することで、復号画像の各画素の階調値が重み付けられた周辺階調重み情報(階調重み情報)を生成するものである。
【0060】
このフィルタ情報群は、ガウシアン分散値σ
1,σ
2を示すフィルタ情報が異なる値で設定されたものである。例えば、フィルタ情報群は、ガウシアン分散値σ
1=0.1,1.1,2.1,3.1,・・・というように、1.0刻みで異なるフィルタ情報が複数設定される(ガウシアン分散値σ
2も同様)。
【0061】
本実施形態では、周辺階調重み情報生成手段130は、エッジ保存型フィルタとして、下記の式(1)で定義されたバイラテラル(bilateral)なガウシアンフィルタを用いて、それぞれのフィルタ情報で周辺階調重み情報O(i,j)を生成する。すなわち、周辺階調重み情報生成手段130は、フィルタ情報を用いた畳込処理により、復号画像の各画素の階調値I(i,j)に空間距離D
1及び輝度距離D
2による重み付けを行う。このとき、周辺階調重み情報生成手段130は、ラスタスキャンを行うように画素位置(i,j)を変化させて、復号画像の全ての画素から、フィルタ情報毎に周辺階調重み情報O(i,j)を生成する。そして、周辺階調重み情報生成手段130は、フィルタ情報群と、フィルタ情報毎に生成した周辺階調重み情報O(i,j)と、復号画像とを中間階調値復元手段132に出力する。
【0063】
この式(1)では、階調値(輝度値)I、空間距離D
1、輝度距離D
2、画素の水平位置i、画素の垂直位置j、ガウシアンフィルタを適用する画素領域のサイズS、及び、ガウシアン分散値σで表される。
また、m,nは、例えば、ガウシアンフィルタの領域サイズSが3の場合、−3から3までの値をとる。
以後、周辺階調重み情報は、各画素の階調値を重み付けた値であるため、重み付き階調値と呼ぶことがある。
【0064】
<<階調値ヒストグラム算出手段>>
階調値ヒストグラム算出手段131は、原画像から、原画像の階調値毎の画素数を示す階調値ヒストグラムを算出するものである。本実施形態では、階調値ヒストグラム算出手段131は、
図5に示すように、階調値=0〜1023の画素数を示す階調値ヒストグラム91を算出する。そして、階調値ヒストグラム算出手段131は、生成した階調値ヒストグラム91を中間階調値復元手段132に出力する。
なお、
図5の階調値ヒストグラム91では、一部階調値のみを図示した。
【0065】
<<中間階調値復元手段>>
図6に示すように、中間階調値復元手段132は、フィルタ情報毎に、周辺階調重み情報生成手段130から入力された復号画像92で同一階調値の画素について、周辺階調重み情報93による並び順を算出する。そして、中間階調値復元手段132は、階調値ヒストグラムを参照して、同一階調値の画素数と、同一階調値に対応する伸長階調値及び中間階調値の画素数の割合とに基づいて、算出した並び順で同一階調値の画素に伸長階調値又は中間階調値を割り当てた中間階調復元画像94を生成するものである。
【0066】
ここで、中間階調値復元手段132は、階調変換コードブックを用いて、復号画像の階調値を変換(伸長)して、階調伸長画像を生成する。そして、中間階調値復元手段132は、生成した階調伸長画像において、この階調伸長画像で抜けている中間階調値を、以下のように復元する。
【0067】
このとき、中間階調値復元手段132は、復号画像92の最小階調値(例えば、0)から最大階調値(例えば、255)までを順に指定階調値(同一階調値)として指定し、指定階調値の画素に対して処理を行う。
【0068】
以下、説明を簡易にするために、指定階調値=32であり、復号画像92に指定階調値=32の画素が100個含まれることとする。また、
図5に示すように、指定階調値=32の場合、伸長階調値=128と、中間階調値=127,129,130とが対応することとする。つまり、復号画像92での指定階調値=32には、中間階調復元画像94での階調値127〜130が対応する。
【0069】
また、
図5の階調値ヒストグラム91では、階調値=127の画素数が19であり、階調値=128の画素数が29であり、階調値=129の画素数が27であり、階調値=130の画素数が25であることとする(階調値127〜130で画素数の合計が100)。
【0070】
図6では、エッジEgの付近に着目し、各画素の階調値を5,8,32といった数値で表し、指定階調値=32の画素を符号a,b,c,dで図示した(丸付きの数値)。
また、100個存在する指定階調値=32の画素のうち、4個の画素a,b,c,dに着目して説明する。
【0071】
中間階調値復元手段132は、
図6(a)に示すように、復号画像92から、指定階調値=32の画素a,b,c,dを検出する。そして、中間階調値復元手段132は、検出した画素a,b,c,dの位置情報(画素座標)を生成する。
【0072】
また、中間階調値復元手段132は、
図6(b)に示すように、全画素分の周辺階調重み情報93から、位置情報で特定される画素a,b,c,dの重み付き階調値=33,37,34,28を抽出する。
【0073】
そして、中間階調値復元手段132は、
図6(b)に示すように、復号画像92で指定階調値=32の画素a,b,c,dについて、重み付き階調値による並び順を算出するものである。つまり、中間階調値復元手段132は、100個存在する指定階調値=32の画素を重み付き階調値の昇順で並び替えて、各画素の並び順を算出する。
図6(b)では、画素a,b,c,dの並び順を上付き数値で図示し、画素aが42番目であり、画素bが87番目であり、画素cが63番目であり、画素dが31番目となっている。
【0074】
さらに、中間階調値復元手段132は、
図6(c)に示すように、
図5の階調値ヒストグラム91を参照して、重み付き階調値の並び順で、指定階調値=32の画素a,b,c,dに伸長階調値=128又は中間階調値=127,129,130を割り当てる。前記したように、指定階調値=32の画素は、合計100個である。また、
図5の階調値ヒストグラム91において、階調値が127,128,129,130となる画素数の割合は、19:29:27:25となっている。このため、中間階調値復元手段35は、100個存在する指定階調値=32の画素に対し、重み付き階調値の昇順で、19個の画素に中間階調値=127、29個の画素に伸長階調値=128、27個の画素に中間階調値=129、25個の画素に中間階調値=130をそれぞれ割り当てる。従って、画素a,b,c,dは、それぞれ、階調値=128,130,129,128が割り当てられる。
【0075】
このように、中間階調値復元手段132は、
図6の処理を全ての指定階調値の画素に対して行い、全ての画素に階調値=0〜1023を割り当てた中間階調復元画像94を生成する。さらに、中間階調値復元手段132は、全ての周辺階調重み情報を用いて、平滑化の程度が異なる中間階調復元画像94を複数生成する。その後、中間階調値復元手段132は、生成した複数の中間階調復元画像94と、フィルタ情報群と、階調変換コードブックとを最適フィルタ情報生成手段133に出力する。
【0076】
最適フィルタ情報生成手段133は、外部から入力されたブロック分割情報を参照し、複数の中間階調復元画像と、原画像とを所定サイズのブロックに分割する。そして、最適フィルタ情報生成手段133は、ブロック毎に、原画像に最も類似する中間階調復元画像のフィルタ情報を最適フィルタ情報として生成するものである。
このブロック分割情報は、中間階調復元画像及び原画像を分割するブロックのサイズを表す情報であり、手動で設定される。
【0077】
具体的には、最適フィルタ情報生成手段133は、複数の中間階調復元画像及び原画像を、ブロック分割情報で指定された同一サイズのブロックに分割する。また、最適フィルタ情報生成手段133は、同一位置のブロック毎に、原画像の画素と各中間階調復元画像の対応画素との階調値の差分二乗和を求める。そして、最適フィルタ情報生成手段133は、同一位置のブロック毎に、各中間階調復元画像のうち、差分二乗和が最小になる中間階調復元画像を最も類似する中間階調復元画像として求める。さらに、最適フィルタ情報生成手段133は、最も類似する中間階調復元画像を生成したときの全ブロック分のフィルタ情報を、最適フィルタ情報として生成する。
【0078】
[階調復元復号装置の構成]
図1に戻り、本発明の第1実施形態に係る階調復元復号装置2の構成について、説明する。
階調復元復号装置2は、符号化画像及び最適フィルタ情報を用いて、削減された階調を復元するものであり、復号手段20と、階調復元手段21とを備える。
【0079】
<復号手段>
復号手段20は、階調削減符号化装置1から入力された符号化画像を復号することで、復号画像を生成するものである。ここで、復号手段20は、復号手段12と同様の復号手法を用いる。そして、復号手段20は、生成した復号画像を階調復元手段21に出力する。
【0080】
<階調復元手段>
図7を参照し、階調復元手段21について、説明する(適宜
図1参照)。
階調復元手段21は、最適フィルタ情報を用いて、復号画像の階調を復元するものである。このため、階調復元手段21は、周辺階調重み情報生成手段(階調重み情報生成手段)210と、階調値ヒストグラム設定手段211と、中間階調値復元手段(中間階調復元画像生成手段)212とを備える。
【0081】
まず、階調復元手段21の入出力について、説明する。
階調復元手段21は、階調削減符号化装置1から階調変換コードブックと、最適フィルタ情報とが入力される。また、階調復元手段21は、復号手段20から復号画像が入力される。
また、階調復元手段21は、生成した中間階調復元画像を外部に出力する。
【0082】
次に、階調復元手段21が備える各手段の処理について、階調復元・最適フィルタ情報生成手段13と異なる点を説明する。
周辺階調重み情報生成手段210は、最適フィルタ情報をフィルタ情報の初期値として設定し、この最適フィルタ情報によるエッジ保存型フィルタを復号画像に適用することで、復号画像の各画素の階調値が重み付けられた周辺階調重み情報を生成するものである。
つまり、周辺階調重み情報生成手段210は、フィルタ情報群の代わりに最適フィルタ情報を用いて、周辺階調重み情報を1つ生成する。他の点、周辺階調重み情報生成手段210は、周辺階調重み情報生成手段130と同様のため、詳細な説明を省略する。
【0083】
階調値ヒストグラム設定手段211は、階調値ヒストグラムが予め設定されるものである。ここで、階調値ヒストグラム設定手段211は、以下で説明する第1例〜第3例の何れかの手法で階調値ヒストグラムを予め設定する(
図8〜
図10参照)。
【0084】
<階調値ヒストグラムの設定:第1例>
この第1例は、階調値ヒストグラム算出手段131(
図4)で生成された階調値ヒストグラムをそのまま設定する手法である。つまり、階調値ヒストグラム設定手段211は、階調値ヒストグラム算出手段131から階調値ヒストグラムが入力され、入力された階調値ヒストグラムをそのまま設定する。この第1例によれば、階調値ヒストグラム設定手段211は、階調値ヒストグラムを生成する必要がないため、演算処理の高速化を図ることができる。
なお、第1例を用いる場合、階調値ヒストグラム設定手段211に復号画像を入力する必要がない。
【0085】
<階調値ヒストグラムの設定:第2例>
この第2例は、推定により階調値ヒストグラム91を設定する手法である
階調値ヒストグラム設定手段211は、原画像と復号画像との階調数の比(例えば、1024/256=4)が、復元倍率として予め設定されている。
【0086】
また、
図8に示すように、階調値ヒストグラム設定手段211は、復号画像で階調値毎の画素数を示す復号画像ヒストグラム95を算出する。本実施形態では、復号画像の階調数=256である。従って、階調値ヒストグラム設定手段211は、階調値=0,1,2,3,・・・,255の復号画像ヒストグラム95を算出する。
【0087】
そして、
図9に示すように、階調値ヒストグラム設定手段211は、算出した復号画像ヒストグラム95(
図8)の階調値に復元倍率を乗じて、階調値ヒストグラム91の伸長階調値を算出する。本実施形態では、復元倍率が4であり、復号画像ヒストグラム95の階調値=0,1,2,3,・・・,255である。従って、階調値ヒストグラム設定手段211は、階調値ヒストグラム91の伸長階調値=0,4,8,12,・・・,1020を算出する。このとき、階調値ヒストグラム91の画素数(縦軸)は、
図8の復号画像ヒストグラム95と同じ値になる。つまり、
図8の符号α
0,α
1,α
2,α
3における階調値(横軸)を4倍したものが、
図9の符号α
0,α
1,α
2,α
3となる。
【0088】
さらに、階調値ヒストグラム設定手段211は、一般的な画像で各画素の階調値が滑らかに連続する性質を利用して、最小二乗法により中間階調値の画素数を推定する。
図9では、中間階調値は、伸長階調値0,4の間にある1〜3と、伸長階調値4,8の間にある5〜7と、伸長階調値8,12の間にある9〜11とになる。まず、階調値ヒストグラム設定手段211は、最小二乗法を用いて、伸長階調値0,4の間にある中間階調値1〜3の画素数を推定する。具体的には、階調値ヒストグラム設定手段211は、階調値ヒストグラム91で伸長階調値=0,4の画素数を結ぶように、最小二乗直線β
1を引く。すなわち、最小二乗直線β
1は、伸長階調値=0,4の間にある中間階調値=1〜3の画素数を推定したものになる。従って、階調値ヒストグラム設定手段211は、この最小二乗直線β
1が示す値を中間階調値=1〜3の画素数として推定する。その後、階調値ヒストグラム設定手段211は、最小二乗直線β
1と同様に最小二乗直線β
2,β
3を引いて、中間階調値=5〜7,9〜11の画素数を求め、階調値ヒストグラム91を推定する。この第2例によれば、階調値ヒストグラム設定手段211は、階調値ヒストグラムにおいて、中間階調値の画素数が滑らかに連続し、中間階調値の正確性をより向上させることができる。
なお、階調値ヒストグラム設定手段211は、全ての階調値で画素数を推定することは言うまでもない。
【0089】
<階調値ヒストグラムの設定:第3例>
この第3例は、コピーにより階調値ヒストグラム91を設定する手法である
階調値ヒストグラム設定手段211は、第2例と同様、復号画像ヒストグラム95(
図8)を算出し、伸長階調値を算出する。つまり、
図8の符号α
0,α
1,α
2,α
3における階調値を4倍したものが、
図10の符号α
0,α
1,α
2,α
3となる。
【0090】
また、
図10に示すように、階調値ヒストグラム設定手段211は、中間階調値を伸長階調値と同じ値としてコピーする。例えば、伸長階調値4を基準として、復元倍率=4の階調値だけ前後する中間階調値=3,5,6に着目する。この場合、階調値ヒストグラム設定手段211は、伸長階調値4の画素数を中間階調値=3,5,6の画素数としてコピーする。つまり、階調値ヒストグラム91では、階調値=3〜6の画素数が同じ値となる。
【0091】
これと同様、階調値ヒストグラム設定手段211は、伸長階調値=8の画素数を中間階調値=7,9,10の画素数としてコピーし、伸長階調値=12の画素数を中間階調値=11,13,14の画素数としてコピーする。このようにして、階調値ヒストグラム設定手段211は、全ての階調値の画素数を示す階調値ヒストグラム91を生成する。この第3例によれば、階調値ヒストグラム設定手段211は、簡易な演算処理で階調値ヒストグラムを生成するため、演算処理の高速化を図ることができる。
なお、階調値ヒストグラム設定手段211は、階調値ヒストグラム91に負の階調値が存在しないため、伸長階調値=0の画素数を中間階調値=1,2の画素数としてコピーする。
【0092】
図7に戻り、階調復元手段21の説明を続ける。
中間階調値復元手段212は、復号画像で同一階調値の画素について、周辺階調重み情報による並び順を算出する。そして、中間階調値復元手段212は、階調値ヒストグラムを参照して、同一階調値の画素数と、同一階調値に対応する伸長階調値及び中間階調値の画素数の割合とに基づいて、算出した並び順で同一階調値の画素に伸長階調値又は中間階調値を割り当てた中間階調復元画像を生成するものである。
なお、中間階調値復元手段212は、中間階調復元画像を1つ生成する以外、中間階調値復元手段132と同様のため、詳細な説明を省略する。
【0093】
[階調削減符号化装置の動作]
図11を参照し、
図1の階調削減符号化装置1の動作について、説明する(適宜
図1参照)。
階調削減符号化装置1は、階調削減手段10によって、階調削減画像を生成する(ステップS10:階調削減画像生成処理)。
階調削減符号化装置1は、符号化手段11によって、階調削減画像を符号化することで、符号化画像を生成する(ステップS11)。
【0094】
階調削減符号化装置1は、復号手段12によって、符号化画像を復号することで、復号画像を生成する(ステップS12)。
階調削減符号化装置1は、階調復元・最適フィルタ情報生成手段13によって、復号画像を用いて、最適フィルタ情報を生成する(ステップS13:階調復元・最適フィルタ情報生成処理)。
【0095】
<階調削減画像生成処理>
図12を参照し、
図11の階調削減画像生成処理について、説明する。
階調削減手段10は、雑音レベル検出手段100によって、原画像に時空間方向の周波数解析処理を行って、第1閾値以上の周波数成分から孤立点成分を抽出し、抽出した孤立点成分のレベルを雑音レベルとして検出する(ステップS100)。
【0096】
階調削減手段10は、画像分離手段101によって、原画像を、雑音レベル以下の画素で構成される雑音画像と、雑音レベルを超える画素で構成される信号画像とに分離する(ステップS101)。
【0097】
階調削減手段10は、低階調雑音画像再量子化初期値決定手段102aによって、雑音レベルが粗く量子化されるように、低階調雑音画像再量子化初期値を決定する(ステップS102)。
【0098】
階調削減手段10は、低階調雑音画像再量子化手段102bによって、低階調雑音画像再量子化初期値を用いて、雑音画像に階調削減処理を行い、雑音画像階調変換コードブックと、低階調雑音画像を生成する(ステップS103)。
【0099】
階調削減手段10は、グラデーション領域検出手段103によって、信号画像の画素毎に、空間方向の周波数解析処理を行って信号画像の全周波数帯域に対する低周波数帯域の割合を算出し、算出した割合が第2閾値以上となる画素領域をグラデーション領域として検出する(ステップS104)。
【0100】
階調削減手段10は、低階調信号画像再量子化初期値決定手段104aによって、低階調信号画像再量子化初期値を決定する(ステップS105)。
【0101】
階調削減手段10は、低階調信号画像再量子化手段104bによって、低階調信号画像再量子化初期値を用いて、信号画像に階調削減処理を行い、信号画像階調変換コードブックと、低階調信号画像とを生成する(ステップS106)。
【0102】
階調削減手段10は、画像合成手段105によって、低階調雑音画像と、低階調信号画像とを合成して、階調削減画像を生成する。また、階調削減手段10は、画像合成手段105によって、雑音画像階調変換コードブックと信号画像階調変換コードブックとを合わせて、階調変換コードブックを生成する(ステップS107)。
【0103】
<階調復元・最適フィルタ情報生成処理>
図13を参照し、
図11の階調復元・最適フィルタ情報生成処理について、説明する。
階調復元・最適フィルタ情報生成手段13は、周辺階調重み情報生成手段130によって、フィルタ情報毎に、エッジ保存型フィルタを復号画像に適用することで、周辺階調重み情報を生成する(ステップS130)。
階調復元・最適フィルタ情報生成手段13は、階調値ヒストグラム算出手段131によって、階調値ヒストグラムを算出する(ステップS131)。
【0104】
階調復元・最適フィルタ情報生成手段13は、中間階調値復元手段132によって、フィルタ情報毎に、復号画像で同一階調値の画素について、周辺階調重み情報による並び順を算出する。また、階調復元・最適フィルタ情報生成手段13は、中間階調値復元手段132によって、階調値ヒストグラムを参照して、同一階調値の画素数と、同一階調値に対応する伸長階調値及び中間階調値の画素数の割合とに基づいて、中間階調復元画像を生成する(ステップS132)。
【0105】
階調復元・最適フィルタ情報生成手段13は、最適フィルタ情報生成手段133によって、ブロック分割情報を参照し、複数の中間階調復元画像と、原画像とを所定サイズのブロックに分割し、ブロック毎に最適フィルタ情報を生成する(ステップS133)。
【0106】
[階調復元復号装置の動作]
図11に戻り、
図1の階調復元復号装置2の動作について、説明する(適宜
図1参照)。
階調復元復号装置2は、復号手段20によって、ステップS11で生成された符号化画像を復号することで、復号画像を生成する(ステップS20)。
階調復元復号装置2は、階調復元手段21によって、ステップS13で生成された最適フィルタ情報を用いて、復号画像の階調を復元する(ステップS21)。
【0107】
以上のように、本発明の第1実施形態に係る階調削減符号化装置1は、原画像の雑音成分と、雑音以外の信号成分とを区別して階調を削減する。従って、階調削減符号化装置1及び階調復元復号装置2は、雑音成分のデータ量を少なくすると共に、信号成分の階調数を高くできるため、圧縮効率を改善し、擬似輪郭の発生を抑制することができる。
【0108】
さらに、階調削減符号化装置1及び階調復元復号装置2は、最適フィルタ情報をサイド情報として利用できるため、階調値をより正確に復元することができる。
さらに、階調削減符号化装置1は、ロイド−マックス法により、原画像で出現頻度が高い階調値付近に階調数を多く割り当てて、出現頻度が低い階調値付近に割り当てられる階調数を少なくし、階調値をより正確に復元することができる。
【0109】
(第2実施形態)
[階調削減符号化装置の構成]
図14を参照し、本発明の第2実施形態に係る階調削減符号化装置1Aの構成について、第1実施形態と異なる点を説明する。
階調削減符号化装置1Aは、最適フィルタ情報を生成しない点が第1実施形態と異なる。このため、階調削減符号化装置1Aは、階調削減手段10と、符号化手段11とを備える。
なお、階調削減符号化装置1Aの各手段は、
図1と同様のため、詳細な説明を省略する。
【0110】
[階調復元復号装置の構成]
階調復元復号装置2Aは、予め設定されたフィルタ情報の初期値(初期フィルタ情報)を用いて、削減された階調を復元するものである。このため、階調復元復号装置2Aは、復号手段20と、階調復元手段21Aとを備える。
【0111】
なお、復号手段20は、
図1と同様のため、詳細な説明を省略する。
また、階調復元手段21Aは、初期フィルタ情報を手動で設定する以外、
図1の階調復元手段21と同様のため、詳細な説明を省略する。
【0112】
[階調削減符号化装置の動作]
図15を参照し、
図14の階調削減符号化装置1Aの動作について、説明する(適宜
図14参照)。
階調削減符号化装置1Aは、階調削減手段10によって、原画像の階調を削減した階調削減画像を生成する(ステップS10)。
階調削減符号化装置1Aは、符号化手段11によって、階調削減画像を符号化することで、符号化画像を生成する(ステップS11)。
【0113】
[階調復元復号装置の動作]
図14の階調復元復号装置2Aの動作について、説明する(適宜
図14参照)。
階調復元復号装置2Aは、復号手段20によって、ステップS11で生成された符号化画像を復号することで、復号画像を生成する(ステップS20)。
階調復元復号装置2Aは、階調復元手段21Aによって、初期フィルタ情報を用いて、復号画像の階調を復元する(ステップS21A)。
【0114】
以上のように、本発明の第2実施形態に係る階調削減符号化装置1A及び階調復元復号装置2Aは、第1実施形態と同様、圧縮効率を改善し、擬似輪郭の発生を抑制することができる。
さらに、階調削減符号化装置1Aは、最適フィルタ情報を生成する必要がないため、演算処理の高速化を図ることができる。
【0115】
以上、本発明の実施形態について説明したが、本発明はこれに限定されるものではなく、その趣旨を変えない範囲で実施することができる。実施形態の変形例を以下に示す。
【0116】
(変形例1)
各実施形態では、式(1)のガウシアンフィルタを用いることとして説明したが、本発明のエッジ保存型フィルタは、これに限定されない。
つまり、周辺階調重み情報生成手段130は、エッジ保存型フィルタとして、下記の式(2)で定義されたモノラテラル(monolateral)なガウシアンフィルタを用いることもできる。この式(2)は、式(1)から輝度距離D
2に関する項を削除したものである。
【0118】
<中間階調復元画像の比較>
式(2)のガウシアンフィルタを用いた場合でも、階調復元・最適フィルタ情報生成手段13の各手段は、第1実施形態と同様の処理により、中間階調復元画像94Aを生成する。しかし、生成した中間階調復元画像94Aは、式(1)及び式(2)のようにガウシアンフィルタが異なるため、中間階調復元画像94と異なる階調値を有することになる。そこで、
図16を参照し、式(1)及び式(2)のガウシアンフィルタで生成した中間階調復元画像の相違について、説明する(適宜
図1,
図6参照)。
【0119】
中間階調値復元手段132は、
図16(a)に示すように、復号画像92から、指定階調値=32の画素a,b,c,dを検出する。この処理結果は、
図6(a)と何ら変わることがない。
【0120】
また、中間階調値復元手段132は、
図16(b)に示すように、全ての画素の周辺階調重み情報93Aから、画素a,b,c,dの重み付き階調値33,34,33,19を抽出する。つまり、
図6(b)及び
図16(b)では、式(1)及び式(2)のようにガウシアンフィルタが異なるため、画素a,b,c,dの重み付き階調値が異なっている。
【0121】
そして、中間階調値復元手段132は、
図16(b)に示すように、画素a,b,c,dについて、重み付き階調値の並び順を算出し、重み付き階調値の並び順で画素a,b,c,dに伸長階調値=128又は中間階調値=127,129,130を割り当てる。
図16(b)では、画素aが36番目であり、画素bが65番目であり、画素cが37番目であり、画素dが4番目である。従って、画素a,b,c,dは、それぞれ、階調値128,129,129,127が割り当てられる。
【0122】
ここで、
図6(c)の中間階調復元画像94では、画素b,c,dの階調値=130,129,128である。一方、
図16(c)の中間階調復元画像94Aでは、画素b,c,dの階調値=129,128,127である。つまり、画素b,c,dの階調値は、中間階調復元画像94が中間階調復元画像94Aよりも高く、エッジEgの右側に位置する画素の階調値との差もより大きくなる。以上より、中間階調復元画像94AではエッジEgが十分に鮮明であり、中間階調復元画像94ではエッジEgが極めて鮮明になることがわかる。
【0123】
(変形例2)
第2実施形態では、階調削減処理としてロイド−マックス法を用いることとして説明したが、階調削減処理は、これに限定されない。
第2実施形態において、階調削減手段10は、階調削減処理として、切り捨て処理を用いることもできる。
【0124】
この切り捨て処理では、原画像の階調数をΔビット削減する場合、原画像の階調値を2^Δで割って余りを切り捨てて、階調削減画像を生成することになる。この切り捨て処理が簡易な演算のため、階調削減手段10は、演算処理を高速化することができる。
【0125】
例えば、原画像の階調数を10ビットとし、階調削減画像の階調数を8ビットとし、Δ=2ビットとする。この場合、切り捨て処理において、階調変換コードブックでは、変換前階調値が、原画像の階調値を2^Δで割って余りを切り捨てた階調値となる。また、変換後階調値が、変換前階調値を2^Δ倍した階調値となる。従って、階調変換コードブックは、前記した表1と同一になる。
【0126】
(変形例3)
第2実施形態において、階調削減手段10は、階調削減処理として、四捨五入処理を用いることもできる。
【0127】
この四捨五入処理では、原画像の階調数をΔビット削減する場合、原画像の階調値を2^Δで割って余りを四捨五入し、階調削減画像を生成することになる。この四捨五入処理が簡易な演算のため、階調削減手段10は、演算処理を高速化することができる。
【0128】
例えば、原画像の階調数を10ビットとし、階調削減画像の階調数を8ビットとし、Δ=2ビットとする。この場合、四捨五入処理において、階調変換コードブックでは、変換前階調値が、原画像の階調値を2^Δで割って余りを四捨五入した階調値となる。また、変換後階調値が、変換前階調値を2^Δ倍した階調値となる。従って、階調変換コードブックは、前記した表1と同一になる。