(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024123792
(43)【公開日】2024-09-12
(54)【発明の名称】画像処理装置、画像処理方法、エンコーダ、デコーダ、画像処理プログラム、及び画像処理システム
(51)【国際特許分類】
H04N 19/593 20140101AFI20240905BHJP
H04N 19/61 20140101ALI20240905BHJP
H04N 1/417 20060101ALI20240905BHJP
【FI】
H04N19/593
H04N19/61
H04N1/417
【審査請求】未請求
【請求項の数】13
【出願形態】OL
(21)【出願番号】P 2023031477
(22)【出願日】2023-03-02
(71)【出願人】
【識別番号】398034168
【氏名又は名称】株式会社アクセル
(74)【代理人】
【識別番号】110000279
【氏名又は名称】弁理士法人ウィルフォート国際特許事務所
(72)【発明者】
【氏名】小島 悠貴
【テーマコード(参考)】
5C159
5C178
【Fターム(参考)】
5C159LC09
5C159MA04
5C159MA22
5C159MC11
5C159TB08
5C159TC02
5C159TC42
5C159UA02
5C159UA05
5C178BC26
5C178BC29
5C178BC66
(57)【要約】
【課題】画像における輝度値についての交流成分の予測精度を向上できるようにする。
【解決手段】所定の画像中の所定の対象ブロックにおける鞍型交流成分の予測値を算出するエンコーダ10において、鞍型交流成分は、前記対象ブロックを2×2の子ブロックに分割した場合の前記対象ブロックの中心に対して対向する2つの子ブロックの組同士の輝度の差分であり、対象ブロック及び第1方向に並ぶブロックのそれぞれを前記第1方向に直交する第2方向について2分した、複数の第1方向長2分ブロックの輝度値に基づいて、前記対象ブロックの前記第1方向長2分ブロックの第1方向交流成分を算出し、前記対象ブロックの2つの前記第1方向長2分ブロックの前記第1方向交流成分の差分により第1鞍型交流成分を推定する交流成分予測部14を備えるように構成する。
【選択図】
図1
【特許請求の範囲】
【請求項1】
所定の画像中の所定の対象ブロックにおける鞍型交流成分の予測値を算出する画像処理装置であって、
前記鞍型交流成分は、前記対象ブロックを2×2の子ブロックに分割した場合の前記対象ブロックの中心に対して対向する2つの子ブロックの組同士の輝度の差分であり、
前記対象ブロック及び第1方向に並ぶブロックのそれぞれを前記第1方向に直交する第2方向について2分した、複数の第1方向長2分ブロックの輝度値に基づいて、前記対象ブロックの前記第1方向長2分ブロックの第1方向交流成分を算出する第1方向交流成分算出部と、
前記対象ブロックの2つの前記第1方向長2分ブロックの前記第1方向交流成分の差分により第1鞍型交流成分を推定する第1鞍型交流成分推定部と、
を備える画像処理装置。
【請求項2】
前記第1方向交流成分算出部は、前記複数の第1方向長2分ブロックの輝度値を、前記対象ブロックの前記第2方向に並ぶブロックの輝度値に基づいて推定する
請求項1に記載の画像処理装置。
【請求項3】
前記第1方向交流成分算出部は、前記第1方向長2分ブロックの輝度を推定する複数の推定方法の中の、推定される前記第1方向長2分ブロックの輝度値と、前記第1方向長2分ブロックが属するブロックの輝度と、の差がより小さくなる推定方法により推定された輝度値を、前記第1方向長2分ブロックの輝度値とする
請求項1に記載の画像処理装置。
【請求項4】
前記第1方向交流成分算出部は、前記対象ブロックの前記第1方向長2分ブロックの第1方向交流成分を、前記複数の第1方向長2分ブロックの輝度値と、エンコード処理の前記対象ブロックに対する処理時に把握可能となる前記対象ブロックに隣接するブロックの一部の子ブロックの輝度値と、に基づいて算出する
請求項2に記載の画像処理装置。
【請求項5】
前記対象ブロック及び前記第2方向に並ぶブロックのそれぞれを前記第1方向について2分した、複数の第2方向長2分ブロックの輝度値に基づいて、前記対象ブロックの前記第2方向長2分ブロックの第2方向交流成分を算出する第2方向交流成分算出部と、
前記対象ブロックの2つの前記第2方向長2分ブロックの前記第2方向交流成分の差分により第2鞍型交流成分を算出する第2鞍型交流成分推定部と、
前記第1鞍型交流成分と、前記第2鞍型交流成分とに基づいて、前記対象ブロックの前記鞍型交流成分の予測値を決定する予測値決定部と、
を更に備える請求項1から請求項4のいずれか1項に記載の画像処理装置。
【請求項6】
所定の画像中の所定の対象ブロックにおける鞍型交流成分の予測値を算出する画像処理装置であって、
前記鞍型交流成分は、前記対象ブロックを2×2の子ブロックに分割した場合の前記対象ブロックの中心に対して対向する2つの子ブロックの組同士の輝度の差分であり、
前記対象ブロック及び第1方向に並ぶブロックのそれぞれを前記第1方向に直交する第2方向について2分した、複数の第1方向長2分ブロックの輝度値に基づいて、前記対象ブロックの各子ブロックの輝度値を予測する第1子ブロック輝度予測部と、
前記各子ブロックの輝度値に基づいて第1鞍型交流成分を推定する第1鞍型交流成分推定部と、
を備える画像処理装置。
【請求項7】
前記第1子ブロック輝度予測部は、前記複数の第1方向長2分ブロックの輝度値を、前記対象ブロックの前記第2方向に並ぶブロックの輝度値に基づいて推定する
請求項6に記載の画像処理装置。
【請求項8】
前記第1子ブロック輝度予測部は、前記複数の第1方向長2分ブロックの輝度値と、エンコード処理の前記対象ブロックに対する処理時に把握可能となる前記対象ブロックに隣接するブロックの一部の子ブロックの輝度値と、に基づいて、前記対象ブロックの各子ブロックの輝度値を予測する
請求項6又は請求項7に記載の画像処理装置。
【請求項9】
対象画像の圧縮データを生成するエンコーダであって、
対象画像の各ブロックを対象ブロックとして、前記対象ブロック及び第1方向に並ぶブロックのそれぞれを前記第1方向に直交する第2方向について2分した、複数の第1方向長2分ブロックの輝度値に基づいて、前記対象ブロックの前記第1方向長2分ブロックの第1方向交流成分を算出する第1方向交流成分算出部と、
前記対象ブロックの2つの前記第1方向長2分ブロックの前記第1方向交流成分の差分により前記対象ブロックを2×2の子ブロックに分割した場合の前記対象ブロックの中心に対して対向する2つの子ブロックの組同士の輝度の差分である鞍型交流成分を推定する鞍型交流成分推定部と、
それぞれの前記対象ブロックに対する鞍型交流成分から、推定された前記鞍型交流成分を減算することにより、それぞれの前記対象ブロックにおける前記鞍型交流成分についての予測残差を算出する予測残差算出部と、
前記対象画像中の最上位の対象ブロックの輝度と、それぞれの対象ブロックの鞍型交流成分に対する予測残差とを含むデータを圧縮して圧縮データとして出力する
圧縮データ出力部と、
を備える
エンコーダ。
【請求項10】
対象画像の圧縮データを伸長するデコーダであって、
前記圧縮データを入力する圧縮データ入力部と、
前記圧縮データを復号する復号部と、
復号されたデータに含まれる前記対象画像におけるそれぞれの対象ブロック及び第1方向に並ぶブロックのそれぞれを前記第1方向に直交する第2方向について2分した、複数の第1方向長2分ブロックの輝度値に基づいて、前記対象ブロックの前記第1方向長2分ブロックの第1方向交流成分を算出する第1方向交流成分算出部と、
前記対象ブロックの2つの前記第1方向長2分ブロックの前記第1方向交流成分の差分により前記対象ブロックを2×2の子ブロックに分割した場合の前記対象ブロックの中心に対して対向する2つの子ブロックの組同士の輝度の差分である鞍型交流成分を推定する鞍型交流成分推定部と、
それぞれの前記対象ブロックの鞍型交流成分の予測値と、前記圧縮データにより復元されたそれぞれの前記対象ブロックの前記鞍型交流成分に対する予測残差とに基づいて、それぞれの前記対象ブロックの鞍型交流成分を算出する鞍型交流成分算出部と、
算出された前記鞍型交流成分に基づいて前記対象ブロックに含まれる子ブロックの輝度値を算出する輝度値算出部と、
を備える
デコーダ。
【請求項11】
所定の画像中の所定の対象ブロックにおける鞍型交流成分の予測値を算出する画像処理装置による画像処理方法であって、
前記鞍型交流成分は、前記対象ブロックを2×2の子ブロックに分割した場合の前記対象ブロックの中心に対して対向する2つの子ブロックの組同士の輝度の差分であり、
前記対象ブロック及び第1方向に並ぶブロックのそれぞれを前記第1方向に直交する第2方向について2分した、複数の第1方向長2分ブロックの輝度値に基づいて、前記対象ブロックの前記第1方向長2分ブロックの第1方向交流成分を算出し、
前記対象ブロックの2つの前記第1方向長2分ブロックの前記第1方向交流成分の差分により第1鞍型交流成分を推定する
画像処理方法。
【請求項12】
所定の画像中の所定の対象ブロックにおける鞍型交流成分の予測値を算出させる処理をコンピュータに実行させる画像処理プログラムであって、
前記鞍型交流成分は、前記対象ブロックを2×2の子ブロックに分割した場合の前記対象ブロックの中心に対して対向する2つの子ブロックの組同士の輝度の差分であり、
前記コンピュータに、
前記対象ブロック及び第1方向に並ぶブロックのそれぞれを前記第1方向に直交する第2方向について2分した、複数の第1方向長2分ブロックの輝度値に基づいて、前記対象ブロックの前記第1方向長2分ブロックの第1方向交流成分を算出させ、
前記対象ブロックの2つの前記第1方向長2分ブロックの前記第1方向交流成分の差分により第1鞍型交流成分を推定させる
画像処理プログラム。
【請求項13】
対象画像の圧縮データを生成するエンコーダと、前記対象画像の前記圧縮データを伸長するデコーダとを備える画像処理システムであって、
前記エンコーダは、
対象画像の各ブロックを対象ブロックとして、前記対象ブロック及び第1方向に並ぶブロックのそれぞれを前記第1方向に直交する第2方向について2分した、複数の第1方向長2分ブロックの輝度値に基づいて、前記対象ブロックの前記第1方向長2分ブロックの第1方向交流成分を算出する第1方向交流成分算出部と、
前記対象ブロックの2つの前記第1方向長2分ブロックの前記第1方向交流成分の差分により前記対象ブロックを2×2の子ブロックに分割した場合の前記対象ブロックの中心に対して対向する2つの子ブロックの組同士の輝度の差分である鞍型交流成分を推定する鞍型交流成分推定部と、
それぞれの前記対象ブロックに対する鞍型交流成分から、推定された前記鞍型交流成分を減算することにより、それぞれの前記対象ブロックにおける前記鞍型交流成分についての予測残差を算出する予測残差算出部と、
前記対象画像中の最上位の対象ブロックの輝度と、それぞれの対象ブロックの鞍型交流成分に対する予測残差とを含むデータを圧縮して圧縮データとして出力する
圧縮データ出力部と、を備え、
前記デコーダは、
前記圧縮データを入力する圧縮データ入力部と、
前記圧縮データを復号する復号部と、
復号されたデータに含まれる前記対象画像におけるそれぞれの対象ブロック及び第1方向に並ぶブロックのそれぞれを前記第1方向に直交する第2方向について2分した、複数の第1方向長2分ブロックの輝度値に基づいて、前記対象ブロックの前記第1方向長2分ブロックの前記第1方向交流成分を算出する第1方向交流成分算出部と、
前記対象ブロックの2つの前記第1方向長2分ブロックの前記第1方向交流成分の差分により前記対象ブロックを2×2の子ブロックに分割した場合の前記対象ブロックの中心に対して対向する2つの子ブロックの組同士の輝度の差分である鞍型交流成分を推定する鞍型交流成分推定部と、
それぞれの前記対象ブロックの鞍型交流成分の予測値と、前記圧縮データにより復元されたそれぞれの前記対象ブロックの前記鞍型交流成分に対する予測残差とに基づいて、それぞれの前記対象ブロックの鞍型交流成分を算出する鞍型交流成分算出部と、
算出された前記鞍型交流成分に基づいて前記対象ブロックに含まれる子ブロックの輝度値を算出する輝度値算出部と、
を備える
画像処理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、静止画像や動画像等の画像を処理する技術に関する。
【背景技術】
【0002】
従来、画像データの容量を抑えるために画像圧縮処理が行われている。例えば、画像圧縮処理の要素技術として、交流成分予測が知られている。
【0003】
交流成分予測は、画像平面上に設定されたブロックのうち、対象ブロックおよびその周辺ブロックの直流成分を参照することにより対象ブロック上の交流成分を予測する処理である。交流成分予測により予測された交流成分は、対象ブロック上に存在する子ブロックの生成に用いることができる。これについては、例えば、非特許文献1に記載されている。
【0004】
また、既に求まった子ブロックの情報を対象ブロックの予測に逐次利用することで予測精度を高める方法が非特許文献2に開示されている。また、周囲のブロックの情報に基づいて交流成分を予測する方法が非特許文献3に開示されている。
【0005】
また、特許文献1には、水平方向・垂直方向以外の直交する交流成分についても予測することで予測精度を高める技術が開示されている。
【0006】
ここで、2×2ブロックのアダマール変換には、4つの基底が存在する。本明細書では、4つの規定について、それぞれΜ基底(直流の基底)、α基底(水平方向の基底)、β基底(垂直方向の基底)、γ基底(鞍型の基底)と呼び、それぞれの基底による成分を直流成分、α成分、β成分、γ成分と呼ぶ。ここで、α成分、β成分、γ成分は、交流成分である。例えば、γ成分を予測する交流成分予測について特許文献2に開示されている。
【先行技術文献】
【特許文献】
【0007】
【特許文献1】特開2011-239191号公報
【特許文献2】特開2013-51609号公報
【非特許文献】
【0008】
【非特許文献1】徳永 隆治、フラクタルと画像処理-差分力学系の基礎と応用、コロナ社、2002
【非特許文献2】星月優佑,田中英智,客野一樹,徳永隆治,“ブロック中心値補正及び直流成分保存型フィルタによる交流成分予測の改良,” 電子情報通信学会論文誌(A), Vol. J-92-A, No.1, pp. 62-66 (2009).
【非特許文献3】小島悠貴,森屋和喜,星月優佑,客野一樹,徳永隆治,“交流成分予測に基づく平均値保存型画像フィルタの改良―1係数族による解析―,” 電子情報通信学会論文誌(A), Vol. J-92-A, No.12, pp. 999-1008 (2009).
【発明の概要】
【発明が解決しようとする課題】
【0009】
画像圧縮処理においては、画像の圧縮率を向上することが要請されており、いかに画像の輝度値の予測精度を向上させるかが重要である。特に、画像における輝度値についての交流成分(例えば、アダマール変換に使用する各基底の成分)の予測精度を向上させることが必要である。
【0010】
本発明は、上記事情に鑑みなされたものであり、その目的は、画像における輝度値についての交流成分の予測精度を向上する技術を提供することにある。
【課題を解決するための手段】
【0011】
上記目的を達成するため、第1の観点に係る画像処理装置は、所定の画像中の所定の対象ブロックにおける鞍型交流成分の予測値を算出する画像処理装置であって、前記鞍型交流成分は、前記対象ブロックを2×2の子ブロックに分割した場合の前記対象ブロックの中心に対して対向する2つの子ブロックの組同士の輝度の差分であり、前記対象ブロック及び第1方向に並ぶブロックのそれぞれを前記第1方向に直交する第2方向について2分した、複数の第1方向長2分ブロックの輝度値に基づいて、前記対象ブロックの前記第1方向長2分ブロックの第1方向交流成分を算出する第1方向交流成分算出部と、前記対象ブロックの2つの前記第1方向長2分ブロックの前記第1方向交流成分の差分により第1鞍型交流成分を推定する第1鞍型交流成分推定部と、を備える。
【発明の効果】
【0012】
本発明によれば、画像における輝度値についての交流成分の予測精度を向上することができる。
【図面の簡単な説明】
【0013】
【
図1】
図1は、一実施形態に係る画像処理システムの全体構成図である。
【
図2】
図2は、一実施形態に係るブロック及び子ブロックを説明する図である。
【
図3】
図3は、一実施形態に係るブロックの表記を説明する図である。
【
図4】
図4は、一実施形態に係る縦長の2分ブロックの表記を説明する図である。
【
図5】
図5は、一実施形態に係る横長の2分ブロックの表記を説明する図である。
【
図6】
図6は、一実施形態に係るシーケンシャル処理におけるγ成分予測を説明する図である。
【
図7】
図7は、一実施形態に係るエンコード処理のフローチャートである。
【
図8】
図8は、一実施形態に係るデコード処理のフローチャートである。
【
図9】
図9は、一実施形態に係るコンピュータ装置の構成図である。
【発明を実施するための形態】
【0014】
実施形態について、図面を参照して説明する。なお、以下に説明する実施形態は特許請求の範囲に係る発明を限定するものではなく、また実施形態の中で説明されている諸要素及びその組み合わせの全てが発明の解決手段に必須であるとは限らない。
【0015】
まず、一実施形態に係る画像処理システムについて説明する。
【0016】
図1は、一実施形態に係る画像処理システムの全体構成図である。
【0017】
画像処理システム1は、画像処理装置の一例としてのエンコーダ10と、画像処理装置の一例としてのデコーダ30とを備える。エンコーダ10とデコーダ30とは、ネットワーク50を介して接続されている。ネットワーク50は、例えば、Local Area Netowork(LAN)や、Wide Area Network(WAN)等である。
【0018】
エンコーダ10は、対象画像入力部11と、DC変換部12と、アダマール変換部13と、交流成分予測部14と、予測残差算出部15と、符号化部16と、圧縮データ出力部17と、を有する。ここで、交流成分予測部14は、第1方向交流成分算出部、第2方向交流成分算出部、第1鞍型交流成分推定部、第2鞍型交流成分推定部、第1子ブロック輝度予測部、及び予測値決定部の一例である。
【0019】
対象画像入力部11は、圧縮対象の画像(対象画像)を入力する。対象画像は、例えば、静止画像であってもよく、動画像の1フレームの画像であってもよい。対象画像は、エンコーダ10内の補助記憶装置106(
図9参照)から取得するようにしてもよく、或いは、図示しない撮像装置から取得するようにしてもよい。
【0020】
DC変換部12は、対象画像の各画素の輝度値に基づいて、対象画像中の処理対象とするブロック(対象ブロック)における直流成分(M成分ともいう)を生成する。対象ブロックとしては、例えば、最上位階層(第1階層)のブロックは、16画素×16画素である。第1階層よりも下の階層のブロックについては、第2階層のブロックは、8画素×8画素であり、第3階層のブロックは、4画素×4画素であり、第4階層のブロックは、2画素×2画素である。対象ブロックにおける直流成分は、例えば、対象ブロックに含まれる画素の輝度値の平均値である。なお、以下の処理においては、他の機能部がランダムアクセスに対応した構成とした場合には、対象画像中のブロックにおける対象ブロックを任意に決定してもよく、複数の対象ブロックを選択して並行処理してもよい。一方、他の機能部が、対象画像中のブロックについて所定の順番で実行するシーケンシャルアクセスに対応した構成とした場合には、予め決まった順番に従って対象ブロックが決定されるものとする。シーケンシャルアクセスの場合には、例えば、画像中の、左下から横方向のブロックが順次対象ブロックとされ、横方向の全てのブロックを対象ブロックとした後に一段上のブロックについて同様に順次対象ブロックとされる。なお、対象ブロックの順番は、これに限られず、デコーダ30側との間で共通に認識できる順番であればよい。また、DC変換部12は、対象ブロックを構成する複数の子ブロックについての各画素の輝度値に基づいて、各子ブロックの直流成分を算出する。
【0021】
ここで、各ブロックと子ブロックとの関係と、本明細書でのブロックと、そのブロックとの表記について説明する。
【0022】
図2は、一実施形態に係るブロック及び子ブロックを説明する図である。
【0023】
ここで、ブロック60は、B[x、y]と表記される。ここで、[x、y]は、ブロックの中心位置を示す。ここで、ブロック60が対象ブロックの場合には、その中心位置が、原点である[0,0]とされ、B[0,0]と表記される。ブロック60は、例えば、2×2の4等分された子ブロックを含む。B[0,0]の子ブロックは、b[-1/4,1/4]、b[-1/4,-1/4]、b[1/4,1/4]、b[1/4,-1/4]と表記される。子ブロックについても、[]内の値は、子ブロックの中心位置(対象ブロックの中心を原点とする座標系での位置)を示す。ここで、ブロックB[]の直流成分(輝度値)は、M[]と表記され、子ブロックb[]の直流成分は、μ[]と表記される。
【0024】
図3は、一実施形態に係るブロックの表記を説明する図である。
【0025】
対象ブロックB[0,0]の周囲のブロックは、
図3に示すように、各ブロックの対象ブロックの中心を原点とした場合の中心位置の座標を使用して、B[x、y]のように表記される。なお、xは、横軸方向(第2方向)の位置を示し、yは、縦方向(第1方向)の位置を示す。なお、横方向を第2方向とし、縦方向を第1方向としているが、横方向を第1方向とし、縦方向を第2方向としてもよい。例えば、B[0,0]の左隣のブロックは、B[-1,0]であり、右隣のブロックは、B[1,0]であり、真上のブロックは、B[0,1]であり、真下のブロックは、B[0,-1]である。なお、対象ブロックB[0,0]が画像の端である場合等のように、画像に対応するブロックが存在しない場合があるが、この場合には、仮想的なブロックを想定するようにすればよい。また、この場合には、仮想的なブロックの直流成分の値としては、所定の値、例えば、黒に相当する値や、画像の端と同じ値としてもよい。
【0026】
図4は、一実施形態に係る縦長の2分ブロックの表記を説明する図である。
【0027】
ブロックBを横方向(第2方向)について2分した縦長の部分ブロック(2分ブロック:第1方向長2分ブロック)について、BH[x,y]と表記される。ここで、[x、y]は、2分ブロックの中心位置を示す。例えば、B[0,0]を横方向について2分した2分ブロックは、BH[-1/4,0]、BH[1/4,0]と表記され、B[0,1]を横方向について2分した2分ブロックは、BH[-1/4,1]、BH[1/4,1]と表記される。ここで、ブロックBH[]の直流成分(輝度値)は、MH[]と表記される。
【0028】
図5は、一実施形態に係る横長の2分ブロックの表記を説明する図である。
【0029】
ブロックBを縦方向(第1方向)について2分した横長の部分ブロック(2分ブロック:第2方向長2分ブロック)について、BV[x,y]と表記される。ここで、[x、y]は、2分ブロックの中心位置を示す。例えば、B[0,0]を縦方向について2分した2分ブロックは、BV[0,1/4]、BV[0,-1/4]と表記され、B[1,0]を縦方向について2分した2分ブロックは、BV[1,1/4]、BV[1,-1/4]と表記される。ここで、ブロックBV[]の直流成分(輝度値)は、MV[]と表記される。
【0030】
図1の説明に戻り、アダマール変換部13は、対象ブロックの直流成分Mと、横方向の交流成分であるα成分(第2方向交流成分)と、縦方向の交流成分であるβ成分(第1方向交流成分)と、斜め方向の交流成分であるγ成分(鞍型交流成分)とを算出するアダマール変換を行う。なお、直流成分Mは、対象ブロックの直流成分と同一であるので、計算により算出する必要はない。
【0031】
ここで、対象ブロックB[0,0]の直流成分M[0,0]、交流成分α[0,0]、交流成分β[0,0]、交流成分γ[0,0]は、対象ブロックの子ブロックb[-1/4,1/4]、b[-1/4,-1/4]、b[1/4,1/4]、b[1/4,-1/4]の直流成分μ[-1/4,1/4]、μ[-1/4,-1/4]、μ[1/4,1/4]、μ[1/4,-1/4]により、以下の式(1)に示すように表すことができる。なお、γ成分は、対象ブロックを2×2の子ブロックに分割した場合の対象ブロックの中心に対して対向する2つの子ブロックの組同士の輝度の差分ということができる。
【0032】
【0033】
交流成分予測部14は、交流成分予測により対象ブロックB[0,0]についての各交流成分の予測値α~[0,0]、β~[0,0]、γ~[0,0]を算出する。ここで、α~は、記号の直上に「~」を配置した記号と同様のものである。ここで、交流成分予測は、対象ブロックの子ブロックの直流成分μ[-1/4,1/4]、μ[-1/4,-1/4]、μ[1/4,1/4]、μ[1/4,-1/4]の少なくとも一部が未知である場合に、各交流成分を予測する技術である。
【0034】
交流成分予測部14は、対象ブロックB[0,0]についての交流成分の予測値α~[0,0]、β~[0,0]について、複数のブロックの直流成分を用いて、公知の技術により予測する。
【0035】
また、交流成分予測部14は、対象ブロックB[0,0]についてのγ成分の予測値γ~[0,0]を予測する。γ成分の交流成分予測としては、エンコード時に把握可能な一部の子ブロックの直流成分を使用せずに算出する方法(第1予測方法)と、エンコード時に把握可能な一部の子ブロックの直流成分を使用して算出する方法(第2予測方法)との2つがある。
【0036】
<把握可能な一部の子ブロックの直流成分を使用せずにγ成分の予測値を算出する方法(第1予測方法)>
まず、把握可能な一部の子ブロックの直流成分を使用せずにγ成分の予測値を算出する方法について説明する。
【0037】
<<縦長の2分ブロックの直流成分の予測>>
交流成分予測部14は、ブロックB[0,y]を、横方向において2分割した縦長の2分ブロックBH[-1/4,y]とBH[1/4,y]との直流成分の予測値であるM~
H[-1/4,y]とM~
H[1/4,y]とを横方向に並ぶブロックの直流成分を用いて予測する。例えば、交流成分予測部14は、M~
H[-1/4,y]とM~
H[1/4,y]を以下の式(2)、式(3)により予測する。ここで、yは、以降の処理で使用する範囲であり、本例では、例えば、-2~2の整数である。なお、予測方法は、これに限られず、例えば、式(2)、(3)の右辺第2項に代えて、(M[1,y]-M[-1,y])/8としてもよい。
【0038】
【0039】
ここで、式(2),式(3)のα~
Hθ[0,y]は、以下に示す式(4)に示す通りである。
【0040】
【0041】
ここで、α~
H1[0,y]は、以下に示す式(5)に示す通りであり、θ~
H1[0,y]は、式(6)に示す通りである。また、sign(x)は、式(7)に示す通りであり、min()は、最も小さい値を返す関数であり、max()は、最も大きい値を返す関数である。
【0042】
【0043】
ここで、式(2)のM~
H[-1/4,y]は、非特許文献3の式(10)における子ブロックの直流成分VULと、VBLとの平均に対応するので、これらの関係に基づいて、α~
H1[0,y]は、式(5)に示すように表される。なお、κは、交流成分予測の強度であり、非特許文献3のλに対応する。本実施形態では、κは、1より小さい値であり、例えば、1/4としてもよい。また、式(3)のM~
H[1/4,y]は、非特許文献3の式(10)における子ブロックの直流成分VURと、VBRとの平均に対応するので、これらの関係に基づいて、上記同様のα~
H1[0,y]により表すことができる。式(5)は、M~
H[-1/4,y]と、M[0,y]との差を予測する方法の一例である。
【0044】
また、式(6)は、B[0、y]の左側のB[-2,y]とB[-1,y]との直流成分の差と、B[-1,y]とB[0,y]との直流成分の差との大きい方の値と、B[0,y]の右側のB[2,y]とB[1,y]との直流成分の差と、B[1,y]とB[0,y]との直流成分の差との大きい方の値と、を算出し、これらの値の中の小さい値が、θ~
H1[0,y]であることを示している。式(6)により、横方向に並ぶブロックにおける直流成分の差が極端に表れる部分の値を制限し、直流成分の差が極端に表れることの影響を抑制することができる。式(6)は、M~
H[-1/4,y]と、M[0,y]との差を予測する方法の他の例である。
【0045】
また、式(4)によると、α~
H1[0,y]とθ~
H1[0,y]とのうちの小さい値を、α~
H1[0,y]と同じ符号とすることにより、α~
Hθ[0,y]としている。これにより、M~
H[-1/4,y]と、M[0,y]との差を予測する2つの方法の中で差が大きく出ない予測方法の値を選択していることになる。
【0046】
<<縦長の2分ブロックの直流成分の予測値に基づく子ブロックの直流成分の予測>>
次に、交流成分予測部14は、2分ブロックBH[-1/4,y]とBH[1/4,y]との直流成分の予測値であるM~
H[-1/4,y]とM~
H[1/4,y]とを用いて、各子ブロックb[-1/4,1/4]、b[-1/4,-1/4]、b[1/4,1/4]、b[1/4,-1/4]の直流成分の予測値μ~
H[-1/4,1/4]、μ~
H[-1/4,-1/4]、μ~
H[1/4,1/4]、μ~
H[1/4,-1/4]を予測する。本実施形態では、交流成分予測部14は、以下の式(8)~(11)により、各子ブロックの直流成分の予測値を算出する。
【0047】
【0048】
ここで、式(8)~(11)のβ~
Hθ[x,0]は、以下に示す式(12)に示す通りである。また、式(12)のβ~
H1[x,0]は、以下に示す式(13)に示す通りであり、θ~
H1[x,0]は、式(14)に示す通りである。
【0049】
【0050】
ここで、式(13)は、式(5)と同様な処理を、2分ブロックを用いて縦方向に行ったことに相当し、式(14)は、式(6)と同様な処理を、2分ブロックを用いて縦方向に行ったことに相当する。
【0051】
<<縦長の2分ブロックを用いたγ成分の予測値の算出>>
次いで、交流成分予測部14は、各子ブロックの直流成分の予測値μ~
H[-1/4,1/4]、μ~
H[-1/4,-1/4]、μ~
H[1/4,1/4]、μ~
H[1/4,-1/4]を式(1)に代入することにより、γ成分の予測値であるγ~
H[0,0]を算出する。
【0052】
ここで、γ~
H[0,0]は、以下の式(15)に示すように表すことができる。
【0053】
【0054】
例えば、式(15)に、式(8)~(11)を代入すると、γ~
H[0,0]は、以下の式(16)に示すよう表すことができる。
【0055】
【0056】
式(16)を参照すると、γ成分の予測値であるγ~
H[0,0]は、β~
Hθ[-1/4,0]と、β~
Hθ[1/4,0]とから算出できることが分かる。
そこで、交流成分予測部14は、β~
Hθ[-1/4,0]と、β~
Hθ[1/4,0]とを算出し、式(16)により、γ~
H[0,0]を算出するようにしてもよい。
【0057】
<<横長の2分ブロックの直流成分の予測>>
次に、交流成分予測部14は、各子ブロックb[-1/4,1/4]、b[-1/4,-1/4]、b[1/4,1/4]、b[1/4,-1/4]の直流成分の予測値を上記した交流成分予測と違う方法で予測する。ここで、以下の方法で予測した各子ブロックの直流成分をμ~
V[-1/4,1/4]、μ~
V[-1/4,-1/4]、μ~
V[1/4,1/4]、μ~
V[1/4,-1/4]と表記する。
【0058】
ここで、以下の交流成分予測は、上記した交流成分予測と同様な処理を、処理における縦と横の関係を入れ替えて、すなわち、座標系を90度回転させて行う方法である。
【0059】
そこで、交流成分予測部14は、ブロックB[0,y]を、縦方向において2分割した横長の2分ブロックBV[x,-1/4]とBV[x,1/4]との直流成分の予測値であるM~
V[x,-1/4]とM~
V[x,1/4]とを以下の式(17)、式(18)により予測する。ここで、xは、以降の処理で使用する範囲であり、本例では、例えば、-2~2の整数である。
【0060】
【0061】
ここで、式(17),式(18)のβ~
Vθ[x,0]は、以下に示す式(19)に示す通りである。
【0062】
【0063】
ここで、β~
V1[x,0]は、以下に示す式(20)に示す通りであり、θ~
V1[x,0]は、式(21)に示す通りである。
【0064】
【0065】
<<横長の2分ブロックの直流成分の予測値に基づく子ブロックの直流成分の予測>>
次に、交流成分予測部14は、2分ブロックBV[x,-1/4]とBV[x,1/4]との直流成分の予測値であるM~
V[x,-1/4]とM~
V[x,1/4]とを用いて、各子ブロックb[-1/4,1/4]、b[-1/4,-1/4]、b[1/4,1/4]、b[1/4,-1/4]の直流成分の予測値μ~
V[-1/4,1/4]、μ~
V[-1/4,-1/4]、μ~
V[1/4,1/4]、μ~
V[1/4,-1/4]を予測する。本実施形態では、交流成分予測部14は、以下の式(22)~(25)により、各子ブロックの直流成分の予測値を算出する。
【0066】
【0067】
ここで、式(22)~(25)のα~
Vθ[0,y]は、以下に示す式(26)に示す通りである。なお、α~
Vθ[]は、B[]のα成分の予測値である。また、式(26)のα~
V1[0,y]は、以下に示す式(27)に示す通りであり、θ~
V1[0,y]は、式(28)に示す通りである。
【0068】
【0069】
ここで、式(27)は、式(20)と同様な処理を、2分ブロックを用いて横方向に行ったことに相当し、式(28)は、式(21)と同様な処理を、2分ブロックを用いて横方向に行ったことに相当する。
【0070】
<<横長の2分ブロックを用いたγ成分の予測値の算出>>
次いで、交流成分予測部14は、各子ブロックの直流成分の予測値μ~
V[-1/4,1/4]、μ~
V[-1/4,-1/4]、μ~
V[1/4,1/4]、μ~
V[1/4,-1/4]を式(1)に代入することにより、γ成分の予測値であるγ~
V[0,0]を算出する。具体的には、γ~
V[0,0]を、以下の式(29)により算出する。
【0071】
【0072】
ここで、式(29)に対して、式(22)~(25)を代入すると、γ~
V[0,0]は、以下の式(30)に示すように表すことができる。
【0073】
【0074】
式(30)からわかるように、γ~
V[0,0]は、α成分の予測値であるα~
Vθ[0,-1/4]と、α~
Vθ[0,1/4]とを用いて算出することができる。したがって、交流成分予測部14は、上記した計算ではなく、式(30)により、γ~
V[0,0]を算出するようにしてもよい。
【0075】
次いで、交流成分予測部14は、γ~
H[0,0]と、γ~
V[0,0]とに基づいて、最終的なγ成分の予測値γ~[0,0]を決定する。例えば、交流成分予測部14は、以下の式(31)に示すように単純平均により算出してもよいし、γ~
H[0,0]と、γ~
V[0,0]との重みを変えた加重平均により算出してもよい。
【0076】
【0077】
上記した把握可能な一部の子ブロックの直流成分を使用せずにγ成分の予測値を算出する方法によると、子ブロックの直流成分が算出されていなくても対象ブロックのγ成分の予測値を算出することができる。したがって、画像に含まれる各ブロックをランダムに処理することもできるし、複数のブロックを並列に処理することもできる。
【0078】
<把握可能な一部の子ブロックの直流成分を使用してγ成分の予測値を算出する方法(第2予測方法)>
次に、把握可能な一部の子ブロックの直流成分を使用してγ成分の予測値を算出する方法について説明する。ここで、把握可能な子ブロックとは、エンコードを行う際に、対象ブロックのγ成分の予測値を算出するまでに処理が実行されて直流成分が算出されている子ブロックを意味している。
【0079】
まず、対象画像の圧縮データをデコード及びエンコードするシーケンシャル処理における対象ブロックの処理の順番及び処理により把握される子ブロックの直流成分について説明する。
【0080】
図6は、一実施形態に係るシーケンシャル処理における対象ブロックを処理する場合に把握可能な子ブロックの直流成分を説明する図である。
【0081】
シーケンシャル処理においては、例えば、対象ブロックを画像の左下のブロックから右側に変更して処理をし、右端まで処理をしたら一つ上の段の左端のブロックを対象ブロックとして処理をする。この場合、例えば、対象ブロックB[0,0]を処理する際には、デコード時においても、下側のブロックであるB[0,-1]の子ブロックb[-1/4,-3/4]、b[1/4,-3/4]と、左側のB[-1,0]の子ブロックb[-3/4,1/4]、b[-3/4,-1/4]とについての直流成分を把握することができる。本例では、把握可能な子ブロックであるb[-1/4,-3/4]、b[1/4,-3/4]、b[-3/4,1/4]、b[-3/4,-1/4]の直流成分を、γ成分の予測値の予測に使用する。
【0082】
次に、把握可能な一部の子ブロックの直流成分を使用してα、β成分の予測値を算出する方法について説明する。
【0083】
非特許文献2に記載されている技術を用いると、対象ブロックB[0,0]の子ブロックの直流成分の予測値μ~[-1/4,-1/4]、μ~[-1/4,1/4]、μ~[1/4,-1/4]、μ~[1/4,1/4]は、把握可能な一部の子ブロックを用いて、以下の式(32)~(35)に示すように表すことができる。ここで、M’[-1,0]、M’[-1,0]は、把握可能な子ブロックの直流成分を使用して表されるブロックの輝度値であり、式(36)、(37)に示すように表される。
【0084】
【0085】
式(32)~(35)を、式(1)に代入してアダマール変換すると、α成分の予測値α~[0,0]は、以下の式(38)に示すように表され、β成分の予測値β~[0,0]は、以下の式(39)に示すように表される。
【0086】
【0087】
ここで、子ブロックb[-3/4,-1/4]、b[-3/4,1/4]の輝度値の係数が等しいから、2分ブロックBH[-3/4,0]の輝度値は、以下の式(40)に示すように表される。
【0088】
【0089】
したがって、α成分の予測値α~[0,0]は、式(38)を、式(40)を用いて変換すると、式(41)に示すように表すことができる。
【0090】
【0091】
また、子ブロックb[-1/4,-3/4]、b[1/4,-3/4]の輝度値の係数が等しいから、2分ブロックBV[0,-3/4]の輝度値は、以下の式(42)に示すように表される。
【0092】
【0093】
したがって、β成分の予測値β~[0,0]は、式(39)を、式(42)を用いて変換すると、式(43)に示すように表すことができる。
【0094】
【0095】
そこで、交流成分予測部14は、式(41)により、α~[0,0]を算出し、式(43)により、β~[0,0]を算出する。
【0096】
<<γ成分の予測>>
<<<縦長の2分ブロックの直流成分の予測>>>
交流成分予測部14は、ブロックB[0,y]を、横方向において2分割した縦長の2分ブロックBH[-1/4,y]とBH[1/4,y]との直流成分の予測値であるM~
H[-1/4,y]とM~
H[1/4,y]とを横方向に並ぶブロックの直流成分を用いて予測する。なお、BH[-1/4,y]とBH[1/4,y]との直流成分の予測は、第1予測方法と同様な方法でもよいし、違う方法でもよい。
【0097】
<<縦長の2分ブロックの直流成分の予測値と、把握可能な子ブロックの直流成分と、に基づく子ブロックの直流成分の予測>>
次に、交流成分予測部14は、2分ブロックBH[-1/4,y]とBH[1/4,y]との直流成分の予測値であるM~
H[-1/4,y]とM~
H[1/4,y]と、把握可能な子ブロックb[-1/4,-3/4]、b[1/4,-3/4]の直流成分μ[-1/4,-3/4]、μ[1/4,-3/4]とを用いて、各子ブロックb[-1/4,-1/4]、b[1/4,-1/4]、b[-1/4,1/4]、b[1/4,1/4]の直流成分の予測値μ~
H[-1/4,-1/4]、μ~
H[1/4,-1/4]、μ~
H[-1/4,1/4]、μ~
H[1/4,1/4]を予測する。本実施形態では、交流成分予測部14は、以下の式(44)~(47)により、各子ブロックの直流成分の予測値を算出する。
【0098】
【0099】
次いで、交流成分予測部14は、第1予測方法と同様な方法により、γ成分の予測値であるγ~
H[0,0]を算出する。
【0100】
<<横長の2分ブロックの直流成分の予測>>
交流成分予測部14は、ブロックB[x,0]を、縦方向において2分割した横長の2分ブロックBV[x,-1/4]とBV[x,1/4]との直流成分の予測値であるM~
V[x,-1/4]とM~
V[x,1/4]とを縦方向に並ぶブロックの直流成分を用いて予測する。なお、BV[x,-1/4]とBV[x,1/4]との直流成分の予測は、第1予測方法と同様な方法でもよいし、違う方法でもよい。
【0101】
<<<横長の2分ブロックの直流成分の予測値と、把握可能な子ブロックの直流成分と、に基づく子ブロックの直流成分の予測>>
次に、交流成分予測部14は、2分ブロックBV[x,-1/4]とBV[x,1/4]との直流成分の予測値であるM~
V[x,-1/4]とM~
V[x,1/4]と、把握可能な子ブロックb[-3/4,-1/4]、b[-3/4,1/4]の直流成分μ[-3/4,-1/4]、μ[-3/4,1/4]とを用いて、各子ブロックb[-1/4,1/4]、b[-1/4,-1/4]、b[1/4,-1/4]、b[1/4,1/4]の直流成分の予測値μ~
V[-1/4,-1/4]、μ~
V[1/4,-1/4]、μ~
V[-1/4,1/4]、μ~
V[1/4,1/4]を予測する。本実施形態では、交流成分予測部14は、以下の式(48)~(51)により、各子ブロックの直流成分の予測値を算出する。
【0102】
【0103】
次いで、交流成分予測部14は、第1予測方法と同様な方法により、γ成分の予測値であるγ~
V[0,0]を算出する。
【0104】
次いで、交流成分予測部14は、第1予測方法と同様な方法により、γ~
H[0,0]とγ~
V[0,0]とに基づいて最終的なγ成分の予測値であるγ~[0,0]を算出する。
【0105】
上記した把握可能な一部の子ブロックの直流成分を使用してγ成分の予測値を算出する方法によると、把握可能な子ブロックの実際の直流成分を使用しているので、より精度よくγ成分を予測することができる。
【0106】
予測残差算出部15は、各階層の各対象ブロックに対する各交流成分についての予測残差eを算出する。本実施形態では、各対象ブロックについてのα成分、β成分、γ成分に対する予測残差eα、eβ、eγは、以下の式(52)、(53)、(54)で算出している。なお、β成分に対する予測残差eβを算出する処理は、α成分に対する予測残差eαを算出する処理における座標系を90度回転させた状態で同様な処理を行うようにすればよい。
予測残差eα[0,0]=α[0,0]-α~[0,0] ・・・(52)
予測残差eβ[0,0]=β[0,0]-β~[0,0] ・・・(53)
予測残差eγ[0,0]=γ[0,0]-γ~[0,0] ・・・(54)
【0107】
符号化部16は、予測残差算出部15により算出された各階層の各ブロックの予測残差eα、eβ、eγに対して、例えば、量子化等の非可逆変換を行い、更に、ハフマン符号化や算術符号化といったエントロピ符号化を施すことにより、対象ブロックに対する圧縮データを生成する。
【0108】
本実施形態では、符号化部16は、各ブロックの予測残差eα、eβ、eγ、直流成分Mに対して、以下の式(55)に示す関数Q(x)を適用することにより、以下の式(56)~式(58)に示す各予測残差を量子化した値(α・[0,0]、β・[0,0]、γ・[0,0])と、式(59)に示す直流成分Mを量子化した値M・[0,0]を得る。
【0109】
【0110】
ここで、qは、圧縮率を調整する量子化パラメータである。
【0111】
α・[0,0]=Q(eα[0,0]) ・・・(56)
β・[0,0]=Q(eβ[0,0]) ・・・(57)
γ・[0,0]=Q(eγ[0,0]) ・・・(58)
M・[0,0]=Q(M[0,0]) ・・・(59)
【0112】
次いで、符号化部16は、各ブロックのα・[0,0]、β・[0,0]、γ・[0,0]をエントロピ符号化により圧縮データを作成する。また、符号化部16は、最上位の各ブロックの直流成分Mを量子化したM・[0,0]について公知の圧縮技術により圧縮データを生成する。
【0113】
圧縮データ出力部17は、符号化部16によって生成された圧縮データをデコーダ30に出力する。ここで、圧縮データには、最上位の各ブロックの直流成分Mと、各階層における各ブロックのα、β、γ成分の予測残差eα、eβ、eγとの量子化後の値について圧縮されたデータが含まれる。
【0114】
デコーダ30は、圧縮データ入力部31と、復号部32と、交流成分予測部33と、交流成分算出部34と、逆アダマール変換部35と、画像表示部36と、を有する。ここで、交流成分予測部33は、第1方向交流成分算出部、第2方向交流成分算出部、第1鞍型交流成分推定部、第2鞍型交流成分推定部、第1子ブロック輝度予測部、鞍型交流成分算出部、及び予測値決定部の一例である。
【0115】
圧縮データ入力部31は、ネットワーク50を介してエンコーダ10から送信される圧縮データを入力する。復号部32は、圧縮データ入力部31が入力した圧縮データに対して、符号化部18による符号化に対応する復号を実行することにより、圧縮データを復号する。次いで、符号化部18は、量子化後の値(α・[0,0]、β・[0,0]、γ・[0,0]、M・[0,0])に対して、逆量子化(Q-1)を行うことにより、eα’[0,0]、eβ’[0,0]、eγ’[0,0]、M’[0,0]を得る。ここで、逆量子化の式は、例えば、Q-1(x)=xqとしてもよい。これにより、最上位の各ブロックの直流成分Mと、各階層における各ブロックのα、β、γ成分の予測残差eα、eβ、eγの再現値を得ることができる。
【0116】
交流成分予測部33は、交流成分予測部14と同様な処理を実行する。
【0117】
交流成分算出部34は、対象ブロックについてのα、β、γ成分を算出する。具体的には、交流成分算出部34は、以下の式(60)、(61)、(62)に従って、α、β、γ成分の再現値α’[0,0],β’[0,0],γ’[0,0]を算出する。
α’[0,0]=eα’[0,0]+α~[0,0] ・・・(60)
β’[0,0]=eβ’[0,0]+β~[0,0] ・・・(61)
γ’[0,0]=eγ’[0,0]+γ~[0,0] ・・・(62)
【0118】
逆アダマール変換部35は、輝度値算出部の一例であり、交流成分算出部34により算出された対象ブロックについてのα成分、β成分、γ成分、及び直流成分Mに基づいて、対象ブロックに含まれる各子ブロックの直流成分を算出する逆アダマール変換を行う。具体的には、逆アダマール変換部35は、α’[0,0],β’[0,0],γ’[0,0],M’[0,0]に対して式(63)を適用することにより、対象ブロックに含まれる各子ブロックの直流成分の再現値μ’[-1/4,-1/4]、μ’[1/4,-1/4]、μ’[-1/4,1/4]、μ’[1/4,1/4]を算出する。
【0119】
【0120】
また、逆アダマール変換部35は、対象ブロックが最下位の対象ブロックである場合には、対象ブロックについてのα成分、β成分、γ成分、及び直流成分Mに基づいて、対象ブロックに含まれる各画素の直流成分を算出する。このようにして、逆アダマール変換部35の処理により、対象画像中の各画素の直流成分が算出される。
【0121】
画像表示部36は、表示装置108(
図9参照)に対して、逆アダマール変換部35により算出された対象画像中の各画素の輝度の直流成分に基づいて画像を表示する。
【0122】
次に、画像処理システム1における処理動作について説明する。
【0123】
まず、エンコーダ10によるエンコード処理について説明する。
【0124】
図7は、一実施形態に係るエンコード処理のフローチャートである。
【0125】
エンコード処理においては、まず、対象画像入力部11が、エンコード対象の画像(対象画像)を入力し、DC変換部12が、対象ブロックの子ブロックの輝度の直流成分を算出する(ステップS11)。なお、ステップS11を最初に実行する時には、最上位の階層のブロックを対象ブロックとして処理を実行する。
【0126】
次いで、アダマール変換部13は、アダマール変換を行って、対象ブロックの輝度の交流成分(α、β、γ成分)と、直流成分Mとを算出する(ステップS12)。
【0127】
次いで、交流成分予測部14は、対象ブロックについての交流成分(α、β、γ成分)の予測値を算出する(ステップS13)。本実施形態では、ステップS13以降の処理は、まずは、対象ブロックのα成分を対象に実行し、その後、β成分を対象に実行し、その後、γ成分を対象に実行する。
【0128】
次いで、予測残差算出部15は、対象ブロックに対する処理対象の交流成分の予測残差e(eα、eβ、又はeγ)を算出する(ステップS14)。具体的には、予測残差算出部15は、上述の式(52)、(53)、(54)に従って、予測残差eを算出する。
【0129】
次いで、符号化部16は、予測残差算出部15により算出された予測残差eに対して、例えば、量子化等の非可逆変換を行い、更に、ハフマン符号化や算術符号化といったエントロピ符号化を施すことにより、対象ブロックの予測残差eに対する圧縮データを生成する(ステップS15)。
【0130】
次いで、DC変換部12は、処理を実行している階層内の全てのブロックに対して処理済みか否かを判定し(ステップS16)、階層内の全てのブロックに対して処理済みでない場合(ステップS16:N)には、処理をステップS11に進めて、次の対象ブロックに対する処理を実行する。ここで、次の対象ブロックは、予測残差算出部15が把握可能な一部の子ブロックの直流成分を使用せずにγ成分の予測値を算出する場合においては、任意のブロックでよく、予測残差算出部15が把握可能な一部の子ブロックの直流成分を使用してγ成分の予測値を算出する場合には、あらかじめ決められた所定の順番に従ったブロックである。一方、階層内の全てのブロックに対して処理済みである場合(ステップS16:Y)には、DC変換部12は、1つ下の階層のブロックがあるか否かを判定する(ステップS17)。
【0131】
この結果、1つ下の階層のブロックがある場合(ステップS17:Y)には、DC変換部12は、処理する階層を下位の階層に変更し(ステップS18)、処理をステップS11に進めて、下位の階層におけるブロックに対する処理を実行する。
【0132】
一方、1つ下の階層のブロックがない場合(ステップS17:N)には、DC変換部12は、処理を終了する。これにより、まずは、α成分についての圧縮データが生成されたこととなる。
【0133】
次に、エンコーダ10は、上記したエンコード処理を、β成分を処理対象として実行することにより、β成分に対する圧縮データを生成する。
【0134】
次に、エンコーダ10は、上記したエンコード処理を、γ成分を処理対象として実行することにより、γ成分に対する圧縮データを生成する。
【0135】
次に、エンコーダ10は、最上位の階層の各ブロックについての直流成分M(最上位階層のブロックの直流成分M)について、圧縮データを生成する処理を実行する。直流成分Mの圧縮データを生成する処理は、公知の技術を用いることができる。
【0136】
この後、圧縮データ出力部20は、α、β、γ成分、及び最上位の階層の各ブロックについての直流成分Mについての圧縮データをまとめて、対象画像の圧縮データに含めて、デコーダ30に出力(送信)する。
【0137】
このエンコード処理では、上記したγ成分予測を行っているので、予測精度を向上することができる。これにより、予測残差の値を小さくすることができ、輝度の予測残差に対する圧縮効率を向上することができる。
【0138】
次に、デコーダ30によるデコード処理について説明する。
【0139】
図8は、一実施形態に係るデコード処理のフローチャートである。
【0140】
圧縮データ入力部31は、ネットワーク50を介してエンコーダ10から送信される圧縮データを入力する(ステップS31)。
【0141】
次いで、復号部32は、圧縮データ入力部31が入力した圧縮データを復号する(ステップS32)。これにより、最上位の各ブロックの直流成分Mと、各階層における各ブロックの交流成分α、β、γの予測残差eα、eβ、eγとを得ることができる。
【0142】
次いで、交流成分予測部33は、エンコーダ10で実行した交流成分予測と同様な処理により対象ブロックについてのα成分の予測値を算出する(ステップS33)。ここで、対象ブロックは、予測残差算出部15が把握可能な一部の子ブロックの直流成分を使用せずにα成分の予測値を算出した場合においては、任意のブロックでよく、予測残差算出部15が把握可能な一部の子ブロックの直流成分を使用してα成分の予測値を算出した場合には、エンコーダ10での処理の実行順と同様な順番で選択される。
【0143】
次いで、交流成分算出部34は、対象ブロックについてのα成分を算出する(ステップS34)。
【0144】
次いで、デコーダ30は、β成分及びγ成分を算出する(ステップS35)。具体的には、β成分については、ステップS33~ステップS34と同様な処理により、算出することができる。また、γ成分については、ステップS33~ステップS34と同様な処理により、算出することができる。
【0145】
次いで、交流成分予測部33は、処理を実行している階層内の全てのブロックに対して処理済みか否かを判定し(ステップS36)、階層内の全てのブロックに対して処理済みでない場合(ステップS36:N)には、処理をステップS33に進めて、次の対象ブロックに対する処理を実行する。一方、階層内の全てのブロックに対して処理済みである場合(ステップS36:Y)には、逆アダマール変換部35は、交流成分算出部34により算出された対象ブロックについてのα成分、β成分、γ成分、及び直流成分Mに基づいて、対象ブロックに含まれる各子ブロックの直流成分を算出する逆アダマール変換を行う(ステップS37)。なお、対象ブロックが最下位の対象ブロックである場合、すなわち、2画素×2画素のブロックである場合には、逆アダマール変換部35は、対象ブロックについてのα成分、β成分、γ成分、及び直流成分Mに基づいて、対象ブロックに含まれる各画素の直流成分を算出する。
【0146】
次いで、交流成分予測部33は、1つ下の階層のブロックがあるか否かを判定する(ステップS38)。この結果、1つ下の階層のブロックがある場合(ステップS38:Y)には、交流成分予測部33は、処理する階層を下位の階層に変更し(ステップS39)、処理をステップS33に進めて、下位の階層におけるブロックに対する処理を実行する。
【0147】
一方、1つ下の階層のブロックがない場合(ステップS38:N)には、画像表示部36は、表示装置108に対して、逆アダマール変換部35により算出された対象画像中の各画素の輝度の直流成分に基づいて画像を表示し(ステップS40)、処理を終了する。
【0148】
上記したデコード処理によると、エンコーダ10で作成された圧縮データに基づいて、適切に画像を表示することができる。
【0149】
上記したエンコーダ10及びデコーダ30は、それぞれコンピュータ装置により構成することができる。
【0150】
図9は、一実施形態に係るコンピュータ装置の構成図である。なお、本実施形態では、エンコーダ10及びデコーダ30は、別々のコンピュータ装置で構成されているが、これらコンピュータ装置は、同様な構成を有するものとすることができる。したがって、以下の説明では、便宜的に
図9に示すコンピュータ装置を用いて、エンコーダ10及びデコーダ30を構成するコンピュータ装置について説明することとする。
【0151】
コンピュータ装置100は、例えば、Central Processin Unit(CPU)101と、メインメモリ102と、Graphics Processing Unit(GPU)103と、リーダライタ104と、通信インターフェース(通信I/F)105と、補助記憶装置106と、入出力インターフェース(入出力I/F)107と、表示装置108と、入力装置109とを備える。CPU101、メインメモリ102、GPU103、リーダライタ104、通信I/F105、補助記憶装置106、入出力I/F107、及び表示装置108は、バス110を介して接続されている。エンコーダ10と、デコーダ30とは、それぞれコンピュータ装置100に記載の構成要素の一部または全てを適宜選択して構成される。
【0152】
エンコーダ10を構成するコンピュータ装置100において、CPU101は、補助記憶装置106に格納された画像処理プログラムを実行することにより、例えば、対象画像入力部11、DC変換部12、アダマール変換部13、交流成分予測部14、予測残差算出部15、符号化部16、及び圧縮データ出力部17を構成する。
【0153】
デコーダ30を構成するコンピュータ装置100において、CPU101は、補助記憶装置106に格納された画像処理プログラムを実行することにより、例えば、圧縮データ入力部31、復号部32、交流成分予測部33、交流成分算出部34、逆アダマール変換部35、及び画像表示部36を構成する。
【0154】
メインメモリ102は、例えば、RAM、ROM等であり、CPU101に実行されるプログラム(処理プログラム等)や、各種情報を記憶する。補助記憶装置106は、例えば、Hard DISK Drive(HDD)、Solid State Drive(SSD)等の非一時的記憶デバイス(不揮発性記憶デバイス)であり、CPU101で実行されるプログラムや、各種情報を記憶する。
【0155】
GPU103は、例えば、画像処理等の特定の処理の実行に適しているプロセッサであり、例えば、並列的に行われる処理の実行に適している。本実施形態では、GPU103は、CPU101の指示に従って所定の処理を実行する。
【0156】
リーダライタ104は、記録媒体111を着脱可能であり、記録媒体111からのデータの読み出し、及び記録媒体111へのデータの書き込みを行う。記録媒体111としては、例えば、SDメモリーカード、FD(フロッピーディスク:登録商標)、CD、DVD、BD(登録商標)、フラッシュメモリ等の非一時的記録媒体(不揮発性記録媒体)がある。本実施形態においては、記録媒体111に、処理プログラムを格納しておき、リーダライタ104により、これを読み出して、利用するようにしてもよい。また、エンコーダ10を構成するコンピュータ装置100において、記録媒体111に、処理対象の画像データを格納しておき、リーダライタ104により、これを読み出して使用するようにしてもよい。また、エンコーダ10を構成するコンピュータ装置100において、リーダライタ104により、圧縮データを記録媒体111に格納するようにしてもよい。また、デコーダ30を構成するコンピュータ装置100において、リーダライタ104により、記録媒体111から圧縮データを読み出して利用するようにしてもよい。
【0157】
通信I/F105は、ネットワーク50に接続されており、ネットワーク50に接続された他の装置との間でのデータの送受信を行う。
【0158】
入出力I/F107は、例えば、マウス、キーボード等の入力装置109と接続されている。エンコーダ10を構成するコンピュータ装置100において、入出力I/F107は、入力装置109を用いた、エンコーダ10のユーザによる操作入力を受け付ける。また、デコーダ30を構成するコンピュータ装置100において、入出力I/F107は、入力装置109を用いた、デコーダ30のユーザによる操作入力を受け付ける。
【0159】
表示装置108は、例えば、液晶ディスプレイ等のディスプレイ装置であり、各種情報を表示出力する。表示装置108は、例えば、デコーダ30において、画像表示部39による画像の表示に使用される。
【0160】
なお、本発明は、上述の実施形態及び変形例に限定されるものではなく、本発明の趣旨を逸脱しない範囲で、適宜変形して実施することが可能である。
【0161】
例えば、上記実施形態では、画像を圧縮する際において実施形態に係るγ成分予測を行うようにしていたが、例えば、画像を拡大する場合に、以下に示すように、γ成分予測を利用することもできる。この場合には、対象ブロックB[0,0]を、1つの画素として処理を行う。まず、対象ブロックBのα~[0,0]、b~[0,0]、γ~[0,0]を算出する。α~[0,0]と、b~[0,0]とは、既存の技術により予測してよく、例えば、以下の式(64)、(65)により算出してもよい。
【0162】
【0163】
γ成分の予測値γ~[0,0]は、例えば、上記実施形態における、把握可能な一部の子ブロックの直流成分を使用せずにγ成分の予測値を算出する方法(第1予測方法)を用いて算出する。
【0164】
次いで、M[0,0]、α~[0,0]、b~[0,0]、γ~[0,0]を、式(63)に代入することにより、対象ブロックBの子ブロックの輝度値を算出する。ここで、対象ブロックBは、画素であるので、子ブロックは、画素に含まれる2×2の部分画素の輝度値である。このため、全ての画素に対して、同様な処理をすることにより、各画素についての2×2の部分画素の輝度が得られることとなる。この部分画素を1つの画素とした画像を作成することにより、元の画像を4倍の画像に拡大することができる。
【0165】
また、上記実施形態では、γ~
H[0,0]と、γ~
V[0,0]とに基づいて、最終的なγ成分の予測値γ~[0,0]を決定するようにしていたが、γ~
H[0,0]と、γ~
V[0,0]とのいずれか一方を最終的なγ成分の予測値γ~[0,0]としてもよい。
【0166】
また、上記実施形態では、エンコーダにおいて、各ブロックの予測残差eα、eβ、eγを量子化した後に符号化するようにしていたが、この場合には、デコーダ側で再現されるブロックB[x、y]の直流成分M’[x,y]を予め算出し、予測残差を算出するために用いたM[x、y]に代えて、M’[x,y]を用いるようにしてもよい。このようにすると、エンコーダ側でデコーダ側と同じ状態で予測残差を算出することができ、予測残差の予測精度を向上させることができる。
【0167】
また、上記したデコード処理のステップS33において、予測残差算出部15が把握可能な一部の子ブロックの直流成分を使用してγ成分の予測値を算出した場合に、エンコーダ10での処理の実行順と同様な順番で選択される例を示していたが、例えば、α成分を対象ブロックと同じサイズのブロックの直流成分により予測を行っている場合には、子ブロックの直流成分を参照する必要がなく、既に揃っているブロックの直流成分を利用すればよいので、対象ブロックは任意のブロックとしてもよい。
【0168】
また、上記実施形態における第2予測方法においては、交流成分予測部14は、対象ブロックの各子ブロックの輝度値を予測し、γ成分を予測していたが、例えば、以下に示す式(66)に示すβ~
Hθ[x,0](xは、-1/4,1/4)を算出し、式(16)によりγ成分を算出するようにしてもよい。
【0169】
【0170】
ここで、式(66)は、式(44)~式(47)と、式(8)~(11)とを比較することにより得られる。β~
Hθ[x,0]は、式(66)からわかるように、把握可能な子ブロックの輝度値を用いて予測することができる。同様に、座標系を90度回転させた状態でも式(66)と同様な処理を行うことにより式(30)におけるα~
Vθ[0,-1/4]と、α~
Vθ[0,1/4]とを算出することができ、把握可能な子ブロックの輝度値を用いてγ成分を予測することができる。
【0171】
また、上記実施形態では、各ブロックの予測残差eα、eβ、eγを量子化した後に符号化するようにしていたが、予測残差eα、eβ、eγを量子化せずに符号化するようにしてもよい。
【0172】
また、上記実施形態では、エンコード処理及びデコード処理において、すべての階層のブロックに対して同様な処理を行って、エンコード又はデコードするようにしていたが、本発明はこれに限られず、いずれかの階層に対して、異なる処理により、エンコード又はデコードするようにしてもよい。
【0173】
また、上記実施形態では、コンピュータ装置100がエンコーダ10又はデコーダ30のいずれか一方を備えている例を示していた。本発明はこれに限られず、コンピュータ装置100内にエンコーダ10とデコーダ30との両方を備えるようにしてもよい。
【符号の説明】
【0174】
1…画像処理システム、10…エンコーダ、11…対象画像入力部、12…DC変換部、13…アダマール変換部、14…交流成分予測部、15…予測残差算出部、16…符号化部、17…圧縮データ出力部、30…デコーダ、31…圧縮データ入力部、32…復号部、33…交流成分予測部、34…交流成分算出部、35…逆アダマール変換部、36…画像表示部、50…ネットワーク、100…コンピュータ装置、101…CPU、102…メインメモリ、108…表示装置、111…記録媒体