特許 7562451 圧縮装置および制御方法

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2024-09-27

(45)【発行日】2024-10-07

(54)【発明の名称】圧縮装置および制御方法

(51)【国際特許分類】

   H03M 7/42 20060101AFI20240930BHJP

【ＦＩ】

H03M7/42

【請求項の数】 8

(21)【出願番号】P 2021039512

(22)【出願日】2021-03-11

(65)【公開番号】P2022139227

(43)【公開日】2022-09-26

【審査請求日】2023-09-11

(73)【特許権者】

【識別番号】318010018

【氏名又は名称】キオクシア株式会社

(74)【代理人】

【識別番号】110001737

【氏名又は名称】弁理士法人スズエ国際特許事務所

(72)【発明者】

【氏名】小玉 翔

(72)【発明者】

【氏名】住吉 正人

(72)【発明者】

【氏名】中西 圭里

【審査官】鉢呂 健

(56)【参考文献】

【文献】特開平０５－１１０４５０（ＪＰ，Ａ）

【文献】特開平７－２１２２４３（ＪＰ，Ａ）

【文献】特表２０１７－５２８０１５（ＪＰ，Ａ）

【文献】米国特許第６６９０３０６（ＵＳ，Ｂ１）

【文献】米国特許第６９１９８２６（ＵＳ，Ｂ１）

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｈ０３Ｍ ３／００－９／００

(57)【特許請求の範囲】

【請求項1】

複数のシンボルの各々の出現頻度に基づいて、前記複数のシンボルにそれぞれ関連付けられる複数の符号長を決定し、
前記複数のシンボルが、上限値を超えた１つ以上の第１符号長にそれぞれ関連付けられた１つ以上の第１シンボルを含む場合、前記１つ以上の第１符号長を前記上限値に変更し、前記複数のシンボルの内、前記上限値未満である１つ以上の第２符号長にそれぞれ関連付けられた１つ以上の第２シンボルから、関連付けられた符号長が長いものから順に、少なくとも１つの第３シンボルを選択し、前記少なくとも１つの第３シンボルに関連付けられた少なくとも１つの第３符号長を前記上限値に変更し、変更した前記１つ以上の第１符号長および前記少なくとも１つの第３符号長を少なくとも用いて、前記複数のシンボルと、前記複数のシンボルにそれぞれ関連付けられた複数の可変長符号とを示す符号化情報を生成する符号化情報生成部と、
前記符号化情報を用いてシンボルを可変長符号に変換する符号化部とを具備し、
前記複数の可変長符号の各々の符号長は、１から前記上限値までのビット長である圧縮装置。

【請求項2】

前記符号化情報生成部は、前記少なくとも１つの第３符号長を前記上限値に変更した場合、クラフト不等式

【数1】

に基づいて、前記クラフト不等式の左辺の値を計算し、
Ｓは、前記複数のシンボルを示し、
ｓは、前記複数のシンボルに属するシンボルを示し、
ｌ（ｓ）は、シンボルｓに関連付けられた符号長を示し、
前記符号化情報生成部は、計算した前記クラフト不等式の左辺の値が１より大きい場合、前記１つ以上の第２シンボルから、関連付けられた符号長が長いものから順に、まだ選択されていない少なくとも１つの第４シンボルを選択し、前記少なくとも１つの第４シンボルに関連付けられた少なくとも１つの第４符号長を前記上限値に変更し、前記クラフト不等式の左辺の値を計算する処理を、前記クラフト不等式の左辺の値が１以下になるまで繰り返し行う、請求項１記載の圧縮装置。

【請求項3】

前記少なくとも１つの第３シンボルは、Ｍ個のシンボルであり、
前記Ｍは、２以上の整数であり、
前記符号化情報生成部は、
前記Ｍ個のシンボルにそれぞれ関連付けられたＭ個の符号長を並列に前記上限値に変更し、
前記クラフト不等式の左辺の値を計算する、請求項２記載の圧縮装置。

【請求項4】

前記少なくとも１つの第４シンボルは、Ｎ個のシンボルであり、
前記Ｎは、前記Ｍ以下の整数であり、
前記符号化情報生成部は、
前記Ｎ個のシンボルにそれぞれ関連付けられたＮ個の符号長を並列に前記上限値に変更し、
前記クラフト不等式の左辺の値を計算する、請求項３記載の圧縮装置。

【請求項5】

圧縮装置の制御方法であって、
符号化情報生成部によって、複数のシンボルの各々の出現頻度に基づいて、前記複数のシンボルにそれぞれ関連付けられる複数の符号長を決定し、
前記複数のシンボルが、上限値を超えた１つ以上の第１符号長にそれぞれ関連付けられた１つ以上の第１シンボルを含む場合、前記符号化情報生成部によって、前記１つ以上の第１符号長を前記上限値に変更し、前記複数のシンボルの内、前記上限値未満である１つ以上の第２符号長にそれぞれ関連付けられた１つ以上の第２シンボルから、関連付けられた符号長が長いものから順に、少なくとも１つの第３シンボルを選択し、前記少なくとも１つの第３シンボルに関連付けられた少なくとも１つの第３符号長を前記上限値に変更し、変更した前記１つ以上の第１符号長および前記少なくとも１つの第３符号長を少なくとも用いて、前記複数のシンボルと、前記複数のシンボルにそれぞれ関連付けられた複数の可変長符号とを示す符号化情報を生成し、
符号化部によって、前記符号化情報を用いてシンボルを可変長符号に変換し、
前記複数の可変長符号の各々の符号長は、１から前記上限値までのビット長である制御方法。

【請求項6】

前記少なくとも１つの第３符号長を前記上限値に変更した場合、前記符号化情報生成部によって、クラフト不等式

【数2】

に基づいて、前記クラフト不等式の左辺の第１の値を計算し、
Ｓは、前記複数のシンボルを示し、
ｓは、前記複数のシンボルに属するシンボルを示し、
ｌ（ｓ）は、シンボルｓに関連付けられた符号長を示し、
計算した前記クラフト不等式の左辺の値が１より大きい場合、前記符号化情報生成部によって、前記１つ以上の第２シンボルから、関連付けられた符号長が長いものから順に、まだ選択されていない少なくとも１つの第４シンボルを選択し、前記少なくとも１つの第４シンボルに関連付けられた少なくとも１つの第４符号長を前記上限値に変更し、前記クラフト不等式の左辺の値を計算する処理を、前記クラフト不等式の左辺の値が１以下になるまで繰り返し行う、請求項５記載の制御方法。

【請求項7】

前記少なくとも１つの第３シンボルは、Ｍ個のシンボルであり、
前記Ｍは、２以上の整数であり、
前記符号化情報生成部によって、前記Ｍ個のシンボルにそれぞれ関連付けられたＭ個の符号長を並列に前記上限値に変更し、
前記符号化情報生成部によって、前記クラフト不等式の左辺の値を計算する、請求項６記載の制御方法。

【請求項8】

前記少なくとも１つの第４シンボルは、Ｎ個のシンボルであり、
前記Ｎは、前記Ｍ以下の整数であり、
前記符号化情報生成部によって、前記Ｎ個のシンボルにそれぞれ関連付けられたＮ個の符号長を並列に前記上限値に変更し、
前記符号化情報生成部によって、前記クラフト不等式の左辺の値を計算する、請求項７記載の制御方法。

【発明の詳細な説明】

【技術分野】

【0001】

本発明の実施形態は、圧縮装置および制御方法に関する。

【背景技術】

【0002】

動的ハフマン符号化は、符号化対象のシンボルの出現頻度に基づいて動的に符号化テーブルを生成する可変長符号化方式である。動的ハフマン符号化では、出現頻度が高いシンボルには短い符号語が割り当てられ、出現頻度が低いシンボルには長い符号語が割り当てられる。

【0003】

データ圧縮規格で定められた制約や、圧縮装置および伸張装置のハードウェア実装における制約によっては、動的ハフマン符号化で割り当てられる符号語の長さ（符号長）が、制約に基づく上限値を超えないようにしなければならない場合がある。このような場合には、シンボル毎の出現頻度を用いて符号化テーブルを生成する段階において、シンボルに割り当てられる符号語の長さが上限値以下となるように符号化テーブルを生成する必要がある。

【先行技術文献】

【特許文献】

【0004】

【文献】米国特許出願公開第２０２０／００９９９５８号明細書

【発明の概要】

【発明が解決しようとする課題】

【0005】

本発明が解決しようとする課題は、符号長を上限値以下に制約する場合に圧縮性能の低下を抑制できる圧縮装置、および制御方法を提供することである。

【課題を解決するための手段】

【0006】

実施形態によれば、圧縮装置は、符号化情報生成部と符号化部とを具備する。符号化情報生成部は、複数のシンボルの各々の出現頻度に基づいて、前記複数のシンボルにそれぞれ関連付けられる複数の符号長を決定する。前記符号化情報生成部は、前記複数のシンボルが、上限値を超えた１つ以上の第１符号長にそれぞれ関連付けられた１つ以上の第１シンボルを含む場合、前記１つ以上の第１符号長を前記上限値に変更し、前記複数のシンボルの内、前記上限値未満である１つ以上の第２符号長にそれぞれ関連付けられた１つ以上の第２シンボルから、関連付けられた符号長が長いものから順に、少なくとも１つの第３シンボルを選択し、前記少なくとも１つの第３シンボルに関連付けられた少なくとも１つの第３符号長を前記上限値に変更し、変更した前記１つ以上の第１符号長および前記少なくとも１つの第３符号長を少なくとも用いて、前記複数のシンボルと、前記複数のシンボルにそれぞれ関連付けられた複数の可変長符号とを示す符号化情報を生成する。符号化部は、前記符号化情報を用いてシンボルを可変長符号に変換する。前記複数の可変長符号の各々の符号長は、１から前記上限値までのビット長である。

【図面の簡単な説明】

【0007】

【図1】第１実施形態に係る圧縮装置を含む情報処理システムの構成例を示すブロック図。

【図2】第１実施形態の圧縮装置の構成例を示すブロック図。

【図3】第１実施形態の圧縮装置に設けられる動的ハフマン符号化器の構成例を示すブロック図。

【図4】第１実施形態の圧縮装置において実行される符号長決定処理の手順の例を示すフローチャート。

【図5】第１実施形態の圧縮装置において用いられる頻度テーブルの構成例を示す図。

【図6】第１実施形態の圧縮装置において生成されるハフマン木の例を示す図。

【図7】第１実施形態の圧縮装置において用いられる符号長テーブルの構成例を示す図。

【図8】第１実施形態の圧縮装置において実行される上限違反修正処理の手順の例を示すフローチャート。

【図9】第１実施形態の圧縮装置において実行される冗長リーフ除去処理の手順の例を示すフローチャート。

【図10】第１実施形態の圧縮装置における図６のハフマン木の変形例を示す図。

【図11】第１実施形態の圧縮装置における図１０のハフマン木の変形例を示す図。

【図12】第１実施形態の圧縮装置における図１１のハフマン木の変形例を示す図。

【図13】第１実施形態の圧縮装置における図１２のハフマン木の変形例を示す図。

【図14】第１実施形態の圧縮装置における図７の符号長テーブルの変更例を示す図。

【図15】第１実施形態の圧縮装置における図１４の符号長テーブルの変更例を示す図。

【図16】第１実施形態の圧縮装置における図１５の符号長テーブルの変更例を示す図。

【図17】第１実施形態の圧縮装置における図１６の符号長テーブルの変更例を示す図。

【図18】第１実施形態の圧縮装置において実行される、シンボルに符号ビット列を割り当てる疑似プログラムの例を示す図。

【図19】第１実施形態の圧縮装置におけるシンボルへの符号ビット列の割り当ての例を示す図。

【図20】比較例に係る圧縮装置において実行される符号長制約処理の手順の例を示すフローチャート。

【図21】比較例に係る圧縮装置におけるハフマン木の変形例を示す図。

【図22】比較例に係る圧縮装置における図２２のハフマン木の変形例を示す図。

【発明を実施するための形態】

【0008】

以下、実施の形態について図面を参照して説明する。

【0009】

（第１実施形態）
図１は、第１実施形態に係る圧縮装置１５を含む情報処理システム１の構成例を示す。情報処理システム１は、ホストデバイス２（以下、ホスト２と称する）と、メモリシステム３とを含む。

【0010】

メモリシステム３は、ＮＡＮＤ型フラッシュメモリ５のような不揮発性メモリにデータを書き込み、不揮発性メモリからデータを読み出すように構成された半導体ストレージデバイスである。メモリシステム３は、例えばＮＡＮＤ型フラッシュメモリ５を備えるソリッドステートドライブ（ＳＳＤ）として実現される。以下では、メモリシステム３がＳＳＤとして実現される場合について例示するが、メモリシステム３はハードディスクドライブ（ＨＤＤ）として実現されてもよい。

【0011】

ホスト２は、大量且つ多様なデータをメモリシステム３に保存するストレージサーバであってもよいし、パーソナルコンピュータであってもよい。

【0012】

メモリシステム３は、ホスト２のストレージとして使用され得る。メモリシステム３はホスト２に内蔵されてもよいし、ホスト２にケーブルまたはネットワークを介して接続されてもよい。

【0013】

ホスト２とメモリシステム３とを接続するためのインタフェースは、ＳＣＳＩ、Ｓｅｒｉａｌ Ａｔｔａｃｈｅｄ ＳＣＳＩ（ＳＡＳ）、ＡＴＡ（ＡＴ Ａｔｔａｃｈｍｅｎｔ）、Ｓｅｒｉａｌ ＡＴＡ（ＳＡＴＡ）、ＰＣＩ Ｅｘｐｒｅｓｓ（ＰＣＩｅ）（登録商標）、Ｅｔｈｅｒｎｅｔ（登録商標）、Ｆｉｂｒｅ ｃｈａｎｎｅｌ、ＮＶＭ Ｅｘｐｒｅｓｓ（ＮＶＭｅ）（登録商標）等に準拠する。

【0014】

メモリシステム３は、コントローラ４およびＮＡＮＤ型フラッシュメモリ５を備える。コントローラ４は、Ｓｙｓｔｅｍ－ｏｎ－ａ－ｃｈｉｐ（ＳｏＣ）のような回路によって実現され得る。

【0015】

コントローラ４は、揮発性メモリであるランダムアクセスメモリ（ＲＡＭ）、例えばダイナミックランダムアクセスメモリ（ＤＲＡＭ）６を備えていてもよい。あるいは、スタティックランダムアクセスメモリ（ＳＲＡＭ）のようなＲＡＭがコントローラ４に内蔵されていてもよい。なお、ＤＲＡＭ６が、コントローラ４に内蔵されていてもよい。

【0016】

ＤＲＡＭ６等のＲＡＭには、例えばＮＡＮＤ型フラッシュメモリ５からロードされるファームウェア（ＦＷ）の格納領域が設けられる。

【0017】

ＮＡＮＤ型フラッシュメモリ５は複数のブロックを含む。各ブロックは複数のページを含む。１つのブロックは最小の消去単位として機能する。ブロックは、「消去ブロック」、または「物理ブロック」と称されることもある。各ページは、同一ワード線に接続された複数のメモリセルを含む。１つのページは、データ書き込み動作およびデータ読み出し動作の単位である。なお、ワード線をデータ書き込み動作およびデータ読み出し動作の単位としてもよい。

【0018】

各ブロックに対して許容できるプログラム／イレーズサイクル数には上限（最大Ｐ／Ｅサイクル数）がある。あるブロックの１回のＰ／Ｅサイクルは、このブロック内のすべてのメモリセルを消去状態にするための消去動作と、このブロックのページそれぞれにデータを書き込む書き込み動作とを含む。

【0019】

コントローラ４は、ホストインタフェース（ホストＩ／Ｆ）１１、ＣＰＵ１２、ＮＡＮＤインタフェース（ＮＡＮＤ Ｉ／Ｆ）１３、ＤＲＡＭインタフェース（ＤＲＡＭ Ｉ／Ｆ）１４、および圧縮装置１５を含んでもよい。これらホストＩ／Ｆ１１、ＣＰＵ１２、ＮＡＮＤ Ｉ／Ｆ１３、ＤＲＡＭ Ｉ／Ｆ１４、および圧縮装置１５は、バス１０を介して相互接続され得る。

【0020】

コントローラ４は、Ｔｏｇｇｌｅ ＤＤＲ、Ｏｐｅｎ ＮＡＮＤ Ｆｌａｓｈ Ｉｎｔｅｒｆａｃｅ（ＯＮＦＩ）等のインタフェース規格に対応するＮＡＮＤ Ｉ／Ｆ１３を介して、ＮＡＮＤ型フラッシュメモリ５に電気的に接続されている。ＮＡＮＤ Ｉ／Ｆ１３は、ＮＡＮＤ型フラッシュメモリ５を制御するように構成されたＮＡＮＤ制御回路として機能する。

【0021】

コントローラ４は、ＮＡＮＤ型フラッシュメモリ５を制御するように構成されたメモリコントローラとして機能する。

【0022】

コントローラ４は、ＮＡＮＤ型フラッシュメモリ５のデータ管理およびブロック管理を実行するように構成されたフラッシュトランスレーション層（ＦＴＬ）として機能してもよい。このＦＴＬによって実行されるデータ管理には、（１）論理アドレスそれぞれとＮＡＮＤ型フラッシュメモリ５の物理アドレスそれぞれとの間の対応関係を示すマッピング情報の管理、（２）ページ単位のリード／ライト動作とブロック単位の消去（イレーズ）動作とを隠蔽するための処理、等が含まれる。論理アドレスは、メモリシステム３をアドレス指定するためにホスト２によって使用されるアドレスである。

【0023】

論理アドレスそれぞれと物理アドレスそれぞれとの間のマッピングの管理は、論理物理アドレス変換テーブルを用いて実行される。コントローラ４は、論理物理アドレス変換テーブルを使用して、論理アドレスそれぞれと物理アドレスそれぞれとの間のマッピングを特定の管理サイズ単位で管理する。ある論理アドレスに対応する物理アドレスは、この論理アドレスのデータが書き込まれたＮＡＮＤ型フラッシュメモリ５内の物理記憶位置を示す。論理物理アドレス変換テーブルは、メモリシステム３の電源オン時にＮＡＮＤ型フラッシュメモリ５からＤＲＡＭ６にロードされてもよい。

【0024】

１つのページへのデータ書き込みは、１回のＰ／Ｅサイクル当たり１回のみ可能である。このため、コントローラ４は、ある論理アドレスに対応する更新データを、この論理アドレスに対応する以前のデータが格納されている物理記憶位置ではなく、別の物理記憶位置に書き込む。そして、コントローラ４は、この論理アドレスをこの別の物理記憶位置に関連付けるように論理物理アドレス変換テーブルを更新することにより、以前のデータを無効化する。

【0025】

ブロック管理には、不良ブロックの管理、ウェアレベリング、ガベージコレクション、等が含まれる。

【0026】

ホストＩ／Ｆ１１は、メモリシステム３と、メモリシステム３の外部装置であるホスト２との通信を行うハードウェアインタフェースである。ホストＩ／Ｆ１１は、ホスト２から様々なコマンド、例えば、Ｉ／Ｏコマンド、各種制御コマンドを受信する回路として機能する。Ｉ／Ｏコマンドには、ライトコマンド、リードコマンド、が含まれ得る。制御コマンドには、アンマップコマンド（トリムコマンド）、フォーマットコマンドが含まれ得る。ホストＩ／Ｆ１１は、コマンドに応じた応答やデータをホスト２に送信する回路としても機能する。

【0027】

ＤＲＡＭ Ｉ／Ｆ１４は、ＤＲＡＭ６のアクセスを制御するように構成されたＤＲＡＭ制御回路として機能する。ＤＲＡＭ６の記憶領域は、ＦＷを格納するための領域や、リード／ライトバッファ等として利用されるバッファ領域に割り当てられる。

【0028】

ＣＰＵ１２は、ホストＩ／Ｆ１１、ＮＡＮＤ Ｉ／Ｆ１３、およびＤＲＡＭ Ｉ／Ｆ１４を制御するように構成されたプロセッサである。ＣＰＵ１２は、ＤＲＡＭ６にロードされたＦＷを実行することによって様々な処理を行う。つまり、ＦＷはＣＰＵ１２の動作を制御するための制御プログラムである。ＣＰＵ１２は、前述のＦＴＬの処理に加え、ホスト２からの様々なコマンドを処理するためのコマンド処理等を実行することができる。なお、ＦＴＬ処理およびコマンド処理の一部または全部は、コントローラ４内の専用ハードウェアによって実行されてもよい。

【0029】

圧縮装置１５は、ＮＡＮＤ型フラッシュメモリ５に書き込むべきデータを符号化することにより、そのデータを圧縮する。圧縮装置１５は、例えばホスト２からライトコマンドを受け付けたことに応じて受信した平文のデータを、符号化する。圧縮装置１５は、データを圧縮するために、例えば動的ハフマン符号化を実現するための構成を有する。

【0030】

図２は圧縮装置１５の一構成例を示す。圧縮装置１５は、例えば、動的ハフマン符号化器２１とパック処理部２２とを備える。

【0031】

動的ハフマン符号化器２１は、入力されたシンボルに対して、動的ハフマン符号化を行う。動的ハフマン符号化は、符号化対象のシンボルの出現頻度を用いて動的に符号化テーブルを生成する可変長符号化方式である。符号化テーブルは、複数のシンボルと、複数のシンボルにそれぞれ関連付けられた複数の可変長符号（符号語）とを示す情報を含む。動的ハフマン符号化では、出現頻度が高いシンボルには短い符号語が割り当てられ、出現頻度が低いシンボルには長い符号語が割り当てられる。動的ハフマン符号化器２１は、このような割り当てに従い、入力されたシンボルを符号語に変換する。つまり、変換により得られる符号語は、可変長符号である。なお、シンボルは、例えば固定長のデータである。

【0032】

動的ハフマン符号化器２１は、動的ハフマン符号化により得られた可変長符号をパック処理部２２に送出する。また、動的ハフマン符号化器２１は、符号化テーブルに示される複数のシンボルにそれぞれ割り当てられた複数の可変長符号の長さ（すなわち複数の符号長）を、特定のシンボル順にパック処理部２２に送出する。特定のシンボル順は、例えば、対応する複数のシンボルのアルファベット順に従う順序である。つまり、特定のシンボル順に並べられた複数の符号長は、例えば、アルファベット順に並べられた複数のシンボルとそれぞれ対応するように並べ替えられた複数の符号長である。

【0033】

パック処理部２２は、動的ハフマン符号化器２１から出力された１つ以上の可変長符号をまとめて、特定のデータサイズ毎の圧縮データ（圧縮ストリーム）として出力し得る。パック処理部２２は、特定のシンボル順に並べられた複数の符号長を、この圧縮データのヘッダとして挿入する。特定のシンボル順に並べられた複数の符号長は、伸張装置１６が圧縮データを復号する際に、符号化テーブル（復号テーブル）を復元するために用いられる。

【0034】

動的ハフマン符号化器２１およびパック処理部２２の一部または全ては、回路のようなハードウェアとして実現されてもよいし、少なくとも１つのプロセッサによって実行されるプログラム（すなわちソフトウェア）として実現されてもよい。

【0035】

なお、コントローラ４は、伸張装置１６を備えていてもよい。伸張装置１６は、ＮＡＮＤ型フラッシュメモリ５から読み出された圧縮データを復号することにより、その圧縮データを伸張する。例えば、コントローラ４がホスト２からリードコマンドを受け付けたことに応じて、伸張装置１６は、ＮＡＮＤ型フラッシュメモリ５から読み出された圧縮データを、復号する。コントローラ４は、ホスト２からのリードコマンドに対する応答として、復号したデータをホスト２へ送信する。伸張装置１６は、圧縮装置１５による圧縮のための構成に準じて、圧縮データを伸張（すなわち逆変換）するための構成を備える。

【0036】

コントローラ４は、さらに、ＥＣＣエンコーダとＥＣＣデコーダを備えてもよい。この場合、ＥＣＣエンコーダが、パック処理部２２から出力される圧縮データに対して誤り訂正用のパリティ（ＥＣＣパリティ）を生成し、生成したＥＣＣパリティと圧縮データとを有する符号語を生成する。そして、ＣＰＵ１２が、符号語をＮＡＮＤ Ｉ／Ｆ１３経由でＮＡＮＤ型フラッシュメモリ５へ書き込むように構成される。また、この場合、コントローラ４が例えばホスト２から発行されるリードコマンドに基づいてＮＡＮＤ型フラッシュメモリ５からデータを読み出す際に、ＣＰＵ１２がＮＡＮＤ Ｉ／Ｆ１３経由でＮＡＮＤ型フラッシュメモリ５から符号語を読み出し、ＥＣＣデコーダが当該読み出された符号語に対して、エラー検出処理、エラー訂正処理を実行し、圧縮データを生成する。そして、伸張装置１６が、生成された圧縮データを伸張するように構成される。すなわち、コントローラ４は、パック処理部２２から出力される圧縮データに基づくデータをＮＡＮＤ型フラッシュメモリ５に書き込み、ＮＡＮＤ型フラッシュメモリ５から読み出したデータに基づいて圧縮データを生成し、生成された圧縮データを伸張するように構成されてもよい。

【0037】

図３は、動的ハフマン符号化器２１の構成例を示すブロック図である。動的ハフマン符号化器２１は、例えば、ディレイバッファ３１、符号化テーブル生成部３２、および符号化部３３を備える。

【0038】

ディレイバッファ３１は、動的ハフマン符号化器２１に入力されたシンボルを記憶（バッファリング）する。ディレイバッファ３１は、記憶したシンボルを、例えば特定のタイミングまで遅延させて、符号化部３３に送出する。

【0039】

符号化テーブル生成部３２は、動的ハフマン符号化器２１に入力されたシンボルを用いて、符号化テーブル４３を生成する。符号化テーブル４３は、複数のシンボルと、複数のシンボルにそれぞれ関連付けられた複数の可変長符号（すなわち複数の符号ビット列）とを示す情報を含む。

【0040】

より詳しくは、符号化テーブル生成部３２は、特定単位の入力データに含まれる複数のシンボルの出現頻度に基づき、符号長の上限値の制約を考慮して、符号化テーブル４３を生成する。特定単位は、特定のデータ量単位であってもよいし、ファイルのような特定のまとまりを単位としてもよい。特定のまとまりを単位とする場合、符号化テーブル生成部３２は、入力データの終端を示すデータを検出することにより、特定単位の入力データを認識する。また、符号長の上限値の制約とは、シンボルが動的ハフマン符号化によって変換される可変長符号の長さ（符号長）の上限値に関する制約である。符号長の上限値は、例えば、データ圧縮規格で定められた制約や、圧縮装置１５および伸張装置１６のハードウェア実装における制約に基づき決定される。符号化テーブル生成部３２は、符号長の上限値の制約に従って、符号化テーブル４３に示される各シンボルに割り当てられる可変長符号の長さが、制約に基づく上限値を超えないように、符号化テーブル４３を生成する。

【0041】

符号化テーブル生成部３２は、例えば、頻度テーブル生成部３２１、符号長決定部３２２、符号長上限違反修正部３２３、およびカノニカルハフマン処理部３２４を備える。

【0042】

頻度テーブル生成部３２１は、入力されたシンボルを用いて頻度テーブル４１を生成する。頻度テーブル４１は、複数のシンボルと、複数のシンボルそれぞれの出現頻度とを示すテーブルである。頻度テーブル４１の具体的な構成例については、図５を参照して後述する。

【0043】

符号長決定部３２２は、頻度テーブル４１を用いて、複数のシンボルにそれぞれ関連付けられる複数の符号長を決定する。符号長決定部３２２は、例えば、出現頻度が高いシンボルに短い符号長を関連付け、出現頻度が低いシンボルに長い符号長を関連付ける。なお、シンボルに関連付けられる符号長とは、そのシンボルに割り当てられる可変長符号（すなわち符号ビット列）の長さである。符号長は、例えばビット単位の長さで表される。以下では、シンボルに関連付けられる符号長を、単に、シンボルの符号長とも称する。なお、符号長決定部３２２は、複数のシンボルの各々の符号長を決定する際に、符号長の上限値の制約を考慮しない。符号長決定部３２２の具体的な動作は、図４を参照して後述する。

【0044】

符号長上限違反修正部３２３は、符号長の上限値の制約があって、符号長テーブル４２に示される複数のシンボルが、上限値を超えた符号長に関連付けられたシンボルを含む場合、そのシンボルの符号長を上限値に変更（修正）する。また、符号長上限違反修正部３２３は、符号長テーブル４２に示される複数のシンボルの内、上限値未満である符号長に関連付けられた１つ以上のシンボルから、関連付けられた符号長が長いものから順に、少なくとも１つのシンボルを選択する。符号長上限違反修正部３２３は、選択した少なくとも１つのシンボルに関連付けられた符号長を上限値に変更する。

【0045】

そして、符号長上限違反修正部３２３は、修正した符号長を含む符号長テーブル４２をカノニカルハフマン処理部３２４に送出する。また、符号長上限違反修正部３２３は、修正した符号長を含む符号長テーブル４２に示される符号長を、特定のシンボル順にパック処理部２２に送出する。特定のシンボル順は、例えば、対応するシンボルのアルファベット順に従う順序である。

【0046】

なお、符号長上限違反修正部３２３は、符号長決定部３２２によって生成された符号長テーブル４２に、上限値を超えた符号長が含まれていない場合、その符号長テーブル４２をそのままカノニカルハフマン処理部３２４に送出する。また、符号長上限違反修正部３２３は、その符号長テーブル４２に示されるシンボルの符号長を、特定のシンボル順にパック処理部２２に送出する。

【0047】

符号長上限違反修正部３２３は、例えば、符号長ソート部３５１、符号長クリップ部３５２、符号長変更部３５３、クラフト不等式左辺計算部３５４、終了判定部３５５、および冗長リーフ除去部３５６を備える。これら各部の動作については、図８および図９を参照して後述する。

【0048】

カノニカルハフマン処理部３２４は、符号長上限違反修正部３２３によって修正された符号長を含む符号長テーブル４２を用いて、例えばカノニカルハフマン方式により符号化テーブル４３を生成する。修正された符号長を含む符号長テーブル４２は、例えば、上限値を超えた値から上限値に変更された符号長と、上限値未満の値から上限値に変更された符号長とを少なくとも含み得る。また、カノニカルハフマン方式は、シンボルの符号長のみを用いて、シンボルに割り当てる符号ビット列（可変長符号）を決定可能な方式である。カノニカルハフマン処理部３２４は、生成した符号化テーブル４３を符号化部３３に送出する。カノニカルハフマン処理部３２４の具体的な動作については、図１８および図１９を参照して後述する。

【0049】

符号化部３３は、カノニカルハフマン処理部３２４によって送出された符号化テーブル４３を用いて、ディレイバッファ３１によって送出されたシンボルを、可変長符号（符号ビット列）に変換する。符号化部３３は、変換により得られた可変長符号をパック処理部２２に送出する。

【0050】

以上の構成により、動的ハフマン符号化器２１は、入力されたシンボルを動的ハフマン符号化して、可変長符号に変換できる。

【0051】

ここで、符号化テーブル生成部３２内の、符号長決定部３２２、符号長上限違反修正部３２３、およびカノニカルハフマン処理部３２４のそれぞれの動作について具体的に説明する。

【0052】

図４は、符号長決定部３２２によって実行される符号長決定処理の手順の例を示すフローチャートである。符号長決定処理は、頻度テーブル４１を用いて、複数のシンボルそれぞれの符号長を決定するための処理である。符号長決定部３２２は、例えば、特定単位の入力データに含まれる複数のシンボルに対応する頻度テーブル４１が生成されたことに応じて、符号長決定処理を実行する。

【0053】

まず、符号長決定部３２２は、頻度テーブル４１において出現頻度が０より高い全てのシンボルを、ハフマン木上のリーフノードとして追加する（ステップＳ１１）。つまり、符号長決定部３２２は、頻度テーブル４１内の出現頻度が０より高いシンボルの数に相当するリーフノードを含むハフマン木を生成する。

【0054】

次いで、符号長決定部３２２は、ハフマン木において、親ノードを持たない全てのリーフノードおよび中間ノードから、出現頻度が最も低いノードＡと、次に低いノードＢを選択する（ステップＳ１２）。符号長決定部３２２は、選択したノードＡとノードＢを子として持つ中間ノードをハフマン木に追加する（ステップＳ１３）。そして、符号長決定部３２２は、追加した中間ノードの出現頻度として、ノードＡとノードＢの出現頻度の和を設定する（ステップＳ１４）。

【0055】

符号長決定部３２２は、ハフマン木に、親ノードを持たないリーフノードと中間ノードが合わせて２つ以上存在しているか否かを判定する（ステップＳ１５）。ハフマン木に、親ノードを持たないリーフノードと中間ノードが合わせて２つ以上存在している場合（ステップＳ１５のＹＥＳ）、符号長決定部３２２による処理はステップＳ１２に進む。つまり、符号長決定部３２２は、親ノードを持たないリーフノードおよび中間ノードを子として持つ中間ノードを追加するための手順をさらに行う。

【0056】

ハフマン木に、親ノードを持たないリーフノードと中間ノードが合わせて２つ未満である場合（ステップＳ１５のＮＯ）、符号長決定部３２２は符号長決定処理を終了する。

【0057】

以上の符号長決定処理によって、符号長決定部３２２はハフマン木を構築できる。構築したハフマン木は、出現頻度が１以上である複数のシンボルにそれぞれ対応する複数のリーフノードを含む。符号長決定部３２２は、出現頻度が低いシンボルに対応するリーフノードからボトムアップにハフマン木を構築する。符号長決定部３２２は、構築したハフマン木を用いて、複数のシンボルそれぞれの符号長を決定できる。ルートノードを起点とするリーフノードの深さは、対応するシンボルの符号長に相当する。よって、符号長決定部３２２はハフマン木を用いて、シンボルの符号長を決定できる。

【0058】

図５から図７を参照して、頻度テーブル４１を用いて符号長テーブル４２が生成される具体的な例を説明する。

【0059】

図５は、頻度テーブル生成部３２１によって生成される頻度テーブル４１の構成例を示す。頻度テーブル４１は、複数のシンボルにそれぞれ対応する複数のエントリを含む。複数のエントリの各々は、例えば、シンボルフィールドと出現頻度フィールドとを含む。

【0060】

シンボルフィールドは、対応するシンボルを示す。
出現頻度フィールドは、対応するシンボルの出現頻度を示す。より具体的には、出現頻度フィールドは、例えば、処理対象の入力データにおいて、対応するシンボルが出現した回数を示す。

【0061】

なお、以下では、シンボルフィールドに示される値を、単に、シンボルとも称する。頻度テーブル４１の他の各フィールドに示される値、および他のテーブルの各フィールドに示される値についても同様である。

【0062】

図５に示す例では、シンボル“ａ”の出現頻度は１２０である。シンボル“ｂ”の出現頻度は６０である。シンボル“ｃ”の出現頻度は２９である。シンボル“ｄ”の出現頻度は１４である。シンボル“ｅ”の出現頻度は４である。シンボル“ｆ”およびシンボル“ｇ”の出現頻度は３である。シンボル“ｈ”の出現頻度は２である。シンボル“ｉ”およびシンボル“ｊ”の出現頻度は０である。

【0063】

図６は、符号長決定部３２２によって生成されるハフマン木５０の例を示す。ここでは、符号長決定部３２２が、図５に示した頻度テーブル４１を用いてハフマン木５０を生成する場合について例示する。

【0064】

まず、符号長決定部３２２は頻度テーブル４１から、出現頻度が０より高い８つのシンボル“ａ”，“ｂ”，“ｃ”，“ｄ”，“ｅ”，“ｆ”，“ｇ”，“ｈ”を選択する。符号長決定部３２２は、選択した８つのシンボルをそれぞれ割り当てる８つのリーフノード５１１，５２１，５３１，５４１，５６１，５６２，５６３，５６４を含むハフマン木５０を生成する。各リーフノードには、対応するシンボルの出現頻度が設定される。以下では、リーフノードを割り当てたシンボルの集合（すなわち出現頻度が０より高いシンボルの集合）を、シンボルの集合Ｓとも称する。

【0065】

符号長決定部３２２は、ハフマン木５０の親ノードを持たない全リーフノードおよび全中間ノードから、出現頻度が最も低いシンボル“ｈ”のリーフノード５６４と、次に低いシンボル“ｇ”のリーフノード５６３とを選択する。そして、符号長決定部３２２は、選択したリーフノード５６４とリーフノード５６３とを子として持つ中間ノード５５２を、ハフマン木５０に追加する。符号長決定部３２２は、中間ノード５５２の出現頻度として、リーフノード５６４の出現頻度とリーフノード５６３の出現頻度の和（＝２＋３＝５）を設定する。

【0066】

次に、符号長決定部３２２は、ハフマン木５０の親ノードを持たない全リーフノードおよび全中間ノードから、出現頻度が最も低いシンボル“ｆ”のリーフノード５６２と、次に低いシンボル“ｅ”のリーフノード５６１とを選択する。そして、符号長決定部３２２は、選択したリーフノード５６２とリーフノード５６１とを子として持つ中間ノード５５１を、ハフマン木５０に追加する。符号長決定部３２２は、追加した中間ノード５５１の出現頻度として、リーフノード５６２の出現頻度とリーフノード５６１の出現頻度の和（＝３＋４＝７）を設定する。

【0067】

次いで、符号長決定部３２２は、ハフマン木５０の親ノードを持たない全リーフノードおよび全中間ノードから、出現頻度が最も低い中間ノード５５２と、次に低い中間ノード５５１とを選択する。そして、符号長決定部３２２は、選択した中間ノード５５２と中間ノード５５１とを子として持つ中間ノード５４２を、ハフマン木５０に追加する。符号長決定部３２２は、追加した中間ノード５４２の出現頻度として、中間ノード５５２の出現頻度と中間ノード５５１の出現頻度の和（＝５＋７＝１２）を設定する。

【0068】

同様にして、符号長決定部３２２は、ハフマン木５０において、親ノードを持たないリーフノードと中間ノードが合わせて１つ以下になるまで（すなわち、親ノードを持たないノードがルートノード５０１のみになるまで）、中間ノードを追加する動作を繰り返し行う。これにより、図６に示すハフマン木５０を構築できる。

【0069】

符号長決定部３２２は、構築したハフマン木５０を用いて符号長テーブル４２を生成する。符号長テーブル４２は、複数のシンボルと、複数のシンボルにそれぞれ関連付けられた複数の符号長とを管理するためのテーブルである。

【0070】

具体的には、符号長決定部３２２は、構築したハフマン木５０を用いて、８つのシンボル“ａ”，“ｂ”，“ｃ”，“ｄ”，“ｅ”，“ｆ”，“ｇ”，“ｈ”の各々の符号長を決定する。１つのシンボルに対応するリーフノードの、ルートノード５０１を起点とする深さは、そのシンボルの符号長を示す。例えば、シンボル“ａ”のリーフノード５１１の、ルートノード５０１を起点とする深さは１である。よって、シンボル“ａ”の符号長は、１ビットである。また例えば、シンボル“ｈ”のリーフノード５６４の、ルートノード５０１を起点とする深さは６である。よって、シンボル“ｈ”の符号長は、６ビットである。

【0071】

図７は、符号長決定部３２２によって生成される符号長テーブル４２の構成例を示す。符号長テーブル４２は、複数のシンボルにそれぞれ対応する複数のエントリを含む。複数のエントリの各々は、例えば、シンボルフィールドと符号長フィールドとを含む。

【0072】

シンボルフィールドは、対応するシンボルを示す。
符号長フィールドは、対応するシンボルに対して、符号長決定部３２２によって決定された符号長を示す。符号長は、前述した通り、ハフマン木５０における、対応するシンボルのリーフノードの、ルートノード５０１を起点とする深さに基づき決定される。以下では、符号長決定部３２２によって決定された符号長を、制約前符号長と称することがある。つまり、制約前符号長は、シンボルの出現頻度に基づき、符号長の上限値の制約を考慮せずに決定された符号長である。

【0073】

図７では、図６に示したハフマン木５０を用いて生成された符号長テーブル４２を例示している。具体的には、符号長テーブル４２は、シンボル“ａ”の符号長（制約前符号長）が１ビットであることを示している。符号長テーブル４２は、シンボル“ｂ”の符号長が２ビットであることを示している。符号長テーブル４２は、シンボル“ｃ”の符号長が３ビットであることを示している。符号長テーブル４２は、シンボル“ｄ”の符号長が４ビットであることを示している。また、符号長テーブル４２は、シンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”のそれぞれの符号長が６ビットであることを示している。

【0074】

次いで、符号長上限違反修正部３２３の具体的な動作例について説明する。符号長上限違反修正部３２３は、符号長決定部３２２によって生成された符号長テーブル４２を用いて、上限値を超えた符号長を、上限値以下に修正する。

【0075】

図８は、符号長上限違反修正部３２３によって実行される上限違反修正処理の手順の例を示すフローチャートである。上限違反修正処理は、シンボルに関連付けられる符号長の上限値が設定されている場合に、上限値を超えた符号長を、上限値以下に修正するための処理である。符号長上限違反修正部３２３は、例えば図４に示した符号長決定処理の実行が完了した後に、上限違反修正処理の実行を開始する。

【0076】

まず、符号長上限違反修正部３２３の符号長ソート部３５１は、符号長テーブル４２内のエントリを符号長でソートする（ステップＳ２１）。符号長ソート部３５１は、符号長テーブル４２内のエントリを、例えば、符号長の昇順にソートする。そして、符号長クリップ部３５２は、符号長テーブル４２において、上限値を超えている全てのシンボルの符号長を上限値に変更する（ステップＳ２２）。

【0077】

次いで、符号長変更部３５３は、符号長テーブル４２において、符号長が長いシンボルから順に、符号長が上限値よりも小さいＭ個のシンボルを選択する（ステップＳ２３）。なお、Ｍは１以上の整数である。符号長変更部３５３は、符号長テーブル４２において、選択したＭ個のシンボルの符号長を並列に上限値に変更する（ステップＳ２４）。このように、Ｍは、符号長を並列に変更するシンボルの数を示す。Ｍが大きいほど、一度に符号長を上限値に変更するシンボルの数が増える。以下では、Ｍを、並列度とも称する。

【0078】

クラフト不等式左辺計算部３５４は、変更した符号長を含むシンボルの集合Ｓの符号長を用いて、クラフト不等式の左辺の値Ｋを計算する（ステップＳ２５）。クラフト不等式は、以下の式（１）で表される。

【0079】

【数1】

なお、ｓは、シンボルの集合Ｓに属するシンボルを示す。ｌ（ｓ）は、シンボルｓに関連付けられた符号長を示す。

【0080】

シンボルの集合Ｓと各シンボルｓ∈Ｓの符号長ｌ（ｓ）がクラフト不等式を満たす場合、有効な符号化テーブル４３が存在することが保証される。つまり、各シンボルｓ∈Ｓの符号長ｌ（ｓ）に基づき生成された符号化テーブル４３を用いて、正しく符号化および復号を行うことができる。

【0081】

これに対して、シンボルの集合Ｓと各シンボルｓ∈Ｓの符号長ｌ（ｓ）がクラフト不等式を満たさない場合、有効な符号化テーブル４３が存在しない。よって、各シンボルｓ∈Ｓの符号長ｌ（ｓ）に基づき生成された符号化テーブル４３を用いて、正しく符号化および復号を行うことができない。

【0082】

終了判定部３５５は、計算したクラフト不等式の左辺の値Ｋが１以下であるか否かを判定する（ステップＳ２６）。つまり、終了判定部３５５は、現在の符号長テーブル４２に示されるシンボルの集合Ｓに含まれる複数のシンボルｓの符号長ｌ（ｓ）が、クラフト不等式を満たしているか否かを判定する。

【0083】

クラフト不等式の左辺の値Ｋが１より大きい場合（ステップＳ２６のＮＯ）、符号長上限違反修正部３２３による処理はステップＳ２３に戻る。つまり、符号長変更部３５３およびクラフト不等式左辺計算部３５４は、関連付けられた符号長が長いものから順に、まだ選択されていない、上限値より小さい符号長のＭ個のシンボルを選択し、選択したＭ個のシンボルの符号長を上限値に変更し、クラフト不等式の左辺の値Ｋを計算する処理を、符号長テーブル４２に示されるシンボルの集合Ｓに含まれる複数のシンボルｓの符号長ｌ（ｓ）が、クラフト不等式を満たすまで（すなわち、クラフト不等式の左辺の値が１以下になるまで）、繰り返し行う。

【0084】

なお、前述した通り、Ｍが大きいほど、一度に符号長を上限値に変更するシンボルの数は増える。したがって、Ｍを２以上に設定することで、Ｍが１である場合よりも、クラフト不等式を満たすまでのサイクル数を低減し得る。ここで、サイクル数は、ステップＳ２３からステップＳ２５までの手順を１回実行することを１サイクルとして、１サイクルの処理が実行される回数を指す。符号長上限違反修正部３２３は、例えば、圧縮装置１５に要求されるレイテンシの上限を満たすように、Ｍの値を設定し得る。

【0085】

クラフト不等式の左辺の値Ｋが１以下である場合（ステップＳ２６のＹＥＳ）、冗長リーフ除去部３５６は冗長リーフ除去処理を実行し（ステップＳ２７）、上限違反修正処理を終了する。冗長リーフ除去処理は、上限値よりも小さい符号長を上限値に変更したことによって発生した冗長なリーフノードを、ハフマン木５０から除去するための処理である。冗長リーフ除去処理の具体的な手順については、図９のフローチャートを参照して後述する。

【0086】

以上の上限違反修正処理により、符号長上限違反修正部３２３は、シンボルに関連付けられた上限値を超えた符号長を、上限値に変更できる。この変更により、符号長テーブル４２に示されるシンボルの集合Ｓに含まれる複数のシンボルｓの符号長ｌ（ｓ）は、クラフト不等式を満たさなくなる。そのため、符号長上限違反修正部３２３はさらに、符号長が上限値よりも小さいＭ個のシンボルを選択し、選択したＭ個のシンボルの符号長を上限値に変更する処理を、クラフト不等式を満たすまで繰り返し行う。これにより、符号長上限違反修正部３２３は、上限値以下であって、クラフト不等式を満たす符号長に関連付けられたシンボルの集合Ｓを含む符号長テーブル４２を取得できる。

【0087】

図９は、冗長リーフ除去部３５６によって実行される冗長リーフ除去処理の手順の例を示すフローチャートである。冗長リーフ除去処理は、図８を参照して前述した上限違反修正処理のステップＳ２７に相当する。

【0088】

まず、冗長リーフ除去部３５６は、クラフト不等式の左辺の値Ｋが１未満であるか否かを判定する（ステップＳ３０１）。なお、このクラフト不等式の左辺の値Ｋは、冗長リーフ除去処理を実行する直前に、図８を参照して前述した上限違反修正処理のステップＳ２５で、クラフト不等式左辺計算部３５４によって計算された値である。したがって、このクラフト不等式の左辺の値Ｋは、１以下である。

【0089】

クラフト不等式の左辺の値Ｋが１未満でない場合（ステップＳ３０１のＮＯ）、すなわち１である場合、冗長リーフ除去部３５６は冗長リーフ除去処理を終了する。つまり、冗長リーフ除去部３５６は、クラフト不等式の左辺の値Ｋが１である場合、ハフマン木５０に冗長なリーフノードが存在していないと判断する。よって、冗長リーフ除去部３５６は冗長リーフ除去処理を終了する。

【0090】

クラフト不等式の左辺の値Ｋが１未満である場合（ステップＳ３０１のＹＥＳ）、冗長リーフ除去部３５６は、制約前符号長が上限値未満であって、且つ符号長を上限値に変更したシンボル群を、制約前符号長が短い順に取得する（ステップＳ３０２）。冗長リーフ除去部３５６は、クラフト不等式の左辺の値Ｋが１未満である場合、ハフマン木５０に冗長なリーフノードが存在していると判断する。冗長リーフ除去部３５６は変数ｉに１を設定する（ステップＳ３０３）。変数ｉは、取得したシンボル群に含まれる１つのシンボルを特定するために用いられる。

【0091】

次いで、冗長リーフ除去部３５６は、取得したシンボル群から、ｉ番目のシンボルｓを選択する（ステップＳ３０４）。冗長リーフ除去部３５６は、シンボルｓの符号長を１ビット減少させる（ステップＳ３０５）。冗長リーフ除去部３５６は、変更した符号長を含むシンボルの集合Ｓの符号長を用いて、クラフト不等式の左辺の値Ｋを計算する（ステップＳ３０６）。なお、このクラフト不等式の左辺の値Ｋは、クラフト不等式左辺計算部３５４によって計算されてもよい。そして、冗長リーフ除去部３５６は、計算したクラフト不等式の左辺の値Ｋが１以下であるか否かを判定する（ステップＳ３０７）。つまり、冗長リーフ除去部３５６は、変更した符号長を含むシンボルの集合Ｓの符号長が、クラフト不等式を満たしているか否かを判定する。

【0092】

クラフト不等式の左辺の値Ｋが１より大きい場合（ステップＳ３０７のＮＯ）、冗長リーフ除去部３５６は、シンボルｓの符号長を１ビット増加させる（ステップＳ３０８）。つまり、冗長リーフ除去部３５６は、ステップＳ３０５でシンボルｓの符号長を１ビット減少させたことによって、シンボルの集合Ｓの符号長がクラフト不等式を満たさなくなったと判断する。そのため、冗長リーフ除去部３５６は、シンボルｓの符号長を元に戻す。そして、冗長リーフ除去部３５６は変数ｉに１を加え（ステップＳ３０９）、冗長リーフ除去部３５６による処理はステップＳ３０４に進む。これにより、冗長リーフ除去部３５６は、ステップＳ３０２で取得したシンボル群から、後続する別のシンボルを選択し、その別のシンボルの符号長を減少させるための処理を行う。

【0093】

クラフト不等式の左辺の値Ｋが１以下である場合（ステップＳ３０７のＹＥＳ）、冗長リーフ除去部３５６は、クラフト不等式の左辺の値Ｋが１未満であるか否かを判定する（ステップＳ３１０）。

【0094】

クラフト不等式の左辺の値Ｋが１未満である場合（ステップＳ３１０のＹＥＳ）、冗長リーフ除去部３５６による処理はステップＳ３０５に進む。これにより、シンボルｓの符号長をさらに減少させるための処理が行われる。つまり、冗長リーフ除去部３５６は、クラフト不等式の左辺の値Ｋが１未満である場合、ハフマン木５０に冗長なリーフノードが存在していると判断して、シンボルｓの符号長をさらに減少させるための処理を行う。

【0095】

クラフト不等式の左辺の値Ｋが１未満でない場合（ステップＳ３１０のＮＯ）、すなわち１である場合、冗長リーフ除去部３５６は冗長リーフ除去処理を終了する。つまり、冗長リーフ除去部３５６は、クラフト不等式の左辺の値Ｋが１である場合、ハフマン木５０に冗長なリーフノードが存在していないと判断して、冗長リーフ除去処理を終了する。

【0096】

以上の冗長リーフ除去処理により、冗長リーフ除去部３５６は、上限違反修正処理において上限値よりも小さい符号長を上限値に変更したことによって発生した冗長なリーフノードを、ハフマン木５０から除去できる。より具体的には、冗長リーフ除去部３５６は、クラフト不等式の左辺の値Ｋが１になるまで、制約前符号長が上限値未満であったシンボルの符号長を１ビットずつ減少させる処理を繰り返し行い得る。これにより、符号長上限違反修正部３２３は、クラフト不等式の左辺の値Ｋが１である符号長テーブル４２を取得できる。

【0097】

図１０から図１３を参照して、図６のハフマン木５０の変形例により、符号長上限違反修正部３２３がシンボルの集合Ｓの符号長を上限値に制約する動作を説明する。図６のハフマン木５０は、符号長決定部３２２が、シンボルの出現頻度に基づき、符号長の上限値を考慮することなく構築したハフマン木である。符号長上限違反修正部３２３は、符号長の上限値の制約とクラフト不等式とを満たすように、図６のハフマン木５０を変形する。ここでは、符号長の上限値が４であるものとする。また、説明を分かりやすくするために、並列度Ｍが１であるものとする。

【0098】

図１０は、符号長上限違反修正部３２３が、符号長が上限値を超えているシンボルと、符号長を上限値まで伸ばすシンボルとを決定する例を示す。

【0099】

具体的には、符号長上限違反修正部３２３は、符号長が４を超えている４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”（すなわち、リーフノード５６１，５６２，５６３，５６４）を決定する。符号長上限違反修正部３２３は、決定した４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”の符号長を、６ビットから４ビットに変更する。

【0100】

また、符号長上限違反修正部３２３は、符号長が４ビット未満であるシンボルの内、最も長い符号長のシンボル“ｃ”（すなわち、リーフノード５３１）を決定する。符号長上限違反修正部３２３は、決定したシンボル“ｃ”の符号長を３ビットから４ビットに変更する。

【0101】

図１１は、前述した変更により、４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”の符号長と、シンボル“ｃ”の符号長とが変更されたハフマン木５０を示す。

【0102】

シンボル“ｃ”の符号長を３ビットから４ビットに変更したことにより、ノード５３１はリーフノードから中間ノードに変更され、中間ノード５３１を親ノードとする２つのリーフノード５４３，５４４がハフマン木５０に追加されている。リーフノード５４３には、シンボル“ｃ”が割り当てられている。リーフノード５４４には、シンボル“ｅ”が割り当てられている。

【0103】

また、ハフマン木５０では、４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”の符号長を６ビットから４ビットに変更したことにより、中間ノード５３２を親ノードとする４つのリーフノード５４１，５４５，５４６，５４２が生じている。よって、このハフマン木５０は無効なハフマン木である。したがって、このハフマン木５０に基づいて決定されるハフマン符号は、クラフト不等式を満たさない（すなわち、Ｋ＞１である）無効なハフマン符号となる。

【0104】

そのため、符号長上限違反修正部３２３は、符号長を上限値まで伸ばすリーフノードをさらに決定する。具体的には、符号長上限違反修正部３２３は、符号長が４未満であるシンボルの内、最も長い符号長のシンボル“ｂ”（すなわち、リーフノード５２１）を決定する。符号長上限違反修正部３２３は、決定したシンボル“ｂ”の符号長を２ビットから４ビットに変更する。

【0105】

図１２は、シンボル“ｂ”の符号長が変更されたハフマン木５０を示す。

【0106】

シンボル“ｂ”の符号長を２ビットから４ビットに変更したことにより、ノード５２１はリーフノードから中間ノードに変更され、中間ノード５３１を親ノードとする２つの中間ノード５３３，５３４と、中間ノード５３３を親ノードとする２つのリーフノード５４７，５４８と、中間ノード５３４を親ノードとする２つのリーフノード５４５，５４６とがハフマン木５０に追加されている。このハフマン木５０は有効なハフマン木５０である。したがって、このハフマン木５０に基づいて決定されるハフマン符号は、クラフト不等式を満たす（すなわち、Ｋ＜１である）有効なハフマン符号となる。

【0107】

符号長上限違反修正部３２３は、さらに、いずれのシンボルも割り当てられていない冗長なリーフノード５４８を除去する。

【0108】

図１３は、冗長なリーフノード５４８が除去されたハフマン木５０を示す。
冗長なリーフノード５４８と、リーフノード５４７と、中間ノード５３３とからなる二分木は、マージされ、リーフノード５３３となる。リーフノード５３３には、リーフノード５４７に割り当てられていたシンボル“ｂ”が割り当てられる。つまり、シンボル“ｂ”の符号長は、１ビット減少して、４ビットから３ビットになる。

【0109】

このハフマン木５０は有効なハフマン木５０である。したがって、このハフマン木５０に基づいて決定されるハフマン符号は、クラフト不等式を満たし、且つ冗長な符号割り当てのない（すなわち、Ｋ＝１である）有効なハフマン符号となる。

【0110】

次いで、図１４から図１７を参照して、符号長テーブル４２の変更例により、符号長上限違反修正部３２３が符号長を上限値に制約する動作を説明する。図１４から図１７に示す符号長テーブル４２は、符号長決定部３２２によって決定された制約前符号長に加えて、符号長上限違反修正部３２３によって決定（修正）された符号長も管理する。以下では、符号長上限違反修正部３２３によって決定された符号長を、制約後符号長と称することがある。制約後符号長は、シンボルの出現頻度と、符号長の上限値の制約とに基づいて決定された符号長である。

【0111】

図１４は、符号長上限違反修正部３２３による符号長テーブル４２の変更例を示す。符号長テーブル４２の各エントリは、シンボルフィールド、制約前符号長フィールド、および制約後符号長フィールドを含む。

【0112】

シンボルフィールドは、対応するシンボルを示す。制約前符号長フィールドは、対応するシンボルの制約前符号長（すなわち、符号長決定部３２２によって決定された符号長）を示す。制約後符号長フィールドは、対応するシンボルの制約後符号長を示す。制約後符号長は、対応するシンボルの制約前符号長であるか、あるいは符号長上限違反修正部３２３によって制約前符号長から変更された符号長である。

【0113】

図１４に示す例において、シンボルフィールドに設定されている値は、図７に示した符号長テーブル４２のシンボルフィールドに設定されている値と同一である。また、図１４に示す例において、制約前符号長フィールドに設定されている値は、図７に示した符号長テーブル４２の制約前符号長フィールドに設定されている値と同一である。

【0114】

符号長上限違反修正部３２３は、制約後符号長フィールドの初期値として、例えば、対応するシンボルの制約前符号長を設定する。そして、符号長上限違反修正部３２３は、制約後符号長フィールドに示される符号長が上限値を超えている場合、その符号長を上限値に変更する。

【0115】

図１４に示す例では、上限値は４ビットである。この場合、符号長上限違反修正部３２３は、制約前符号長が上限値を超えている４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”を特定する。そして、符号長上限違反修正部３２３は、特定した４つのシンボルそれぞれの制約後符号長を６ビットから４ビットに変更する。なお、制約前符号長が上限値を超えていない４つのシンボル“ａ”，“ｂ”，“ｃ”，“ｄ”のそれぞれの制約後符号長は、制約前符号長と一致している。

【0116】

符号長テーブル４２に示されるシンボルの集合Ｓの制約後符号長は、クラフト不等式を満たしていない。シンボルの集合Ｓは、符号長テーブル４２に示される８つのシンボル“ａ”，“ｂ”，“ｃ”，“ｄ”，“ｅ”，“ｆ”，“ｇ”，“ｈ”である。シンボルの集合Ｓの制約後符号長は、符号長テーブル４２に示される８つのシンボル“ａ”，“ｂ”，“ｃ”，“ｄ”，“ｅ”，“ｆ”，“ｇ”，“ｈ”にそれぞれ関連付けられた８つの制約後符号長である。したがって、符号長テーブル４２に示される８つのシンボル“ａ”，“ｂ”，“ｃ”，“ｄ”，“ｅ”，“ｆ”，“ｇ”，“ｈ”にそれぞれ関連付けられた８つの制約後符号長は、クラフト不等式を満たしていない（すなわち、Ｋ＞１である）。そのため、符号長上限違反修正部３２３は、制約後符号長が上限値未満であるシンボルから、制約後符号長を伸ばすシンボルを選択する。

【0117】

図１５は、符号長上限違反修正部３２３が、制約後符号長が上限値未満であるシンボルから、制約後符号長を伸ばすシンボルを選択し、選択したシンボルの制約後符号長を上限値に変更する例を示す。

【0118】

符号長上限違反修正部３２３は、制約後符号長が上限値未満であるシンボルの内、制約後符号長が長いものから順にＭ個のシンボルを選択する。なお、ここでは、説明を分かりやすくするために、Ｍが１である場合について例示する。よって、符号長上限違反修正部３２３は、制約後符号長が４ビット未満であるシンボルの内、制約後符号長が最も長いシンボル“ｃ”を選択する。

【0119】

符号長上限違反修正部３２３は、選択したシンボル“ｃ”の制約後符号長を、３ビットから４ビットに変更する。そして、符号長上限違反修正部３２３は、シンボルの集合Ｓの制約後符号長を用いてクラフト不等式の左辺の値Ｋを計算する。符号長上限違反修正部３２３は、クラフト不等式の左辺の値Ｋが１より大きいので、シンボルの集合Ｓの制約後符号長がクラフト不等式を満たしていないと判断する。そのため、符号長上限違反修正部３２３はさらに、制約後符号長が上限値未満であるシンボルの内、制約後符号長が長いものから順にＭ個のシンボルを選択し、選択したシンボルの制約後符号長を上限値に変更する。

【0120】

図１６は、符号長上限違反修正部３２３が、さらに、制約後符号長が上限値未満であるシンボルから、制約後符号長を伸ばすシンボルを選択し、選択したシンボルの制約後符号長を上限値に変更する例を示す。

【0121】

具体的には、符号長上限違反修正部３２３は、制約後符号長が４未満であるシンボルの内、制約後符号長が最も長いシンボル“ｂ”を選択する。符号長上限違反修正部３２３は、選択したシンボル“ｂ”の制約後符号長を、２ビットから４ビットに変更する。そして、符号長上限違反修正部３２３は、シンボルの集合Ｓの制約後符号長を用いてクラフト不等式の左辺の値Ｋを計算する。符号長上限違反修正部３２３は、クラフト不等式の左辺の値Ｋが１以下であるので、シンボルの集合Ｓの制約後符号長がクラフト不等式を満たしていると判断する。

【0122】

次いで、符号長上限違反修正部３２３は、冗長に増加している制約後符号長を減少させる動作を行う。

【0123】

図１７は、符号長上限違反修正部３２３が、冗長に増加している制約後符号長を減少させる例を示す。

【0124】

符号長上限違反修正部３２３は、制約前符号長が上限値未満であって、且つ制約後符号長が上限値に変更されたシンボルから、制約前符号長が短い順に、シンボルを１つずつ選択する。具体的には、符号長上限違反修正部３２３は、まず、符号長上限違反修正部３２３は、制約前符号長が上限値未満であって、且つ制約後符号長が上限値に変更された２つのシンボル“ｂ”および“ｃ”から、制約前符号長が最も短いシンボル“ｂ”を選択する。符号長上限違反修正部３２３は、選択したシンボル“ｂ”の制約後符号長を１ビット減少させて、４ビットから３ビットに変更する。

【0125】

そして、符号長上限違反修正部３２３は、シンボルの集合Ｓの制約後符号長を用いて、クラフト不等式の左辺の値Ｋを計算する。そして、符号長上限違反修正部３２３は、計算したクラフト不等式の左辺の値Ｋが１であるので、制約後符号長の変更を終了する。

【0126】

なお、もし、計算したクラフト不等式の左辺の値Ｋが１より大きいならば、符号長上限違反修正部３２３は、シンボル“ｂ”の制約後符号長を元に戻し、別のシンボル（例えばシンボル“ｃ”）の制約後符号長を１ビット減少させる。より具体的には、シンボル“ｂ”の制約後符号長を１ビット増加させて、３ビットから４ビットに戻す。そして、符号長上限違反修正部３２３は、制約前符号長が上限値未満であって、且つ制約後符号長が上限値に変更された別のシンボル（例えばシンボル“ｃ”）の制約後符号長を１ビット減少させる。そして、符号長上限違反修正部３２３は、シンボルの集合Ｓの制約後符号長を用いて、クラフト不等式の左辺の値Ｋを再度計算する。符号長上限違反修正部３２３は、計算したクラフト不等式の左辺の値Ｋが１である場合、制約後符号長の変更を終了する。

【0127】

また、もし、計算したクラフト不等式の左辺の値Ｋが１より小さいならば、符号長上限違反修正部３２３は、シンボル“ｂ”の制約後符号長をさらに１ビット減少させる。そして、符号長上限違反修正部３２３は、シンボルの集合Ｓの制約後符号長を用いて、クラフト不等式の左辺の値Ｋを再度計算する。符号長上限違反修正部３２３は、計算したクラフト不等式の左辺の値Ｋが１である場合、制約後符号長の変更を終了する。

【0128】

このように、符号長上限違反修正部３２３は、制約前符号長が上限値未満であって、且つ制約後符号長が上限値に変更されたシンボルを、制約前符号長が短い順に１つずつ、制約後符号長を１ビット減少させて、クラフト不等式の左辺の値Ｋが１になったかどうかを判定する動作を繰り返し行う。また、１つのシンボルの制約後符号長を１ビット減少させた場合に、クラフト不等式の左辺の値Ｋが１より小さい場合、符号長上限違反修正部３２３は、そのシンボルの制約後符号長をさらに１ビット減少させる。

【0129】

クラフト不等式の左辺の値Ｋが１である場合、シンボルの集合Ｓの制約後符号長に基づいて決定されるハフマン符号は、クラフト不等式を満たし、且つ冗長な符号割り当てのない有効なハフマン符号となる。つまり、図１７に示すシンボルの集合Ｓの制約後符号長は、クラフト不等式を満たし、且つ冗長なリーフノードがない図１３のハフマン木５０に相当する。

【0130】

符号長上限違反修正部３２３（より詳しくは、冗長リーフ除去部３５６）は、符号長テーブル４２をカノニカルハフマン処理部３２４に送出する。具体的には、符号長上限違反修正部３２３は、符号長テーブル４２に示される複数のシンボルと、複数のシンボルにそれぞれ関連付けられた複数の制約後符号長とを、カノニカルハフマン処理部３２４に送出する。

【0131】

また、符号長上限違反修正部３２３は、複数の制約後符号長を特定のシンボル順にパック処理部２２に送出する。特定のシンボル順は、例えば、対応する複数のシンボルのアルファベット順に従う順序である。つまり、符号長上限違反修正部３２３は、複数のシンボルのアルファベット順に従って、対応する制約後符号長を順にパック処理部２２に送出する。

【0132】

カノニカルハフマン処理部３２４は、符号長上限違反修正部３２３によって送出された符号長テーブル４２を用いて、カノニカルハフマン方式により、符号化テーブル４３を生成する。符号化テーブル４３は、符号長上限違反修正部３２３によって修正された符号長を含み得る。カノニカルハフマン方式は、シンボルの符号長のみを用いて、シンボルに割り当てる符号ビット列（可変長符号）を決定可能な方式である。カノニカルハフマン方式では、以下の規則（１）および（２）に従って、シンボルに符号ビット列を割り当てる。

【0133】

（１）符号長が短いシンボルに割り当てる符号ビット列は、符号長が長いシンボルに割り当てる符号ビット列に対して、辞書順で先行する。
（２）符号長が等しい任意の２つのシンボルにおいて、シンボル順序で先行するシンボルに割り当てる符号ビット列は、シンボル順序で後続するシンボルに割り当てる符号ビット列に対して、辞書順で先行する。

【0134】

例えば、符号ビット列の辞書順を決定するために、ビット値“０”および“１”の辞書順を、“０”，“１”の順序と定義する。この場合、複数の符号ビット列に含まれる対応するビット値の順序（ビット順序）を、上位ビットから順に比較することによって、これら複数の符号ビット列の辞書順を決定できる。

【0135】

より具体的には、例えば、“１’ｂ０”，“２’ｂ１０”，“３’ｂ１１０”，“３’ｂ１１１”は、辞書順に並んだ４つの符号ビット列である。なお、“Ｘ’ｂ”に後続する０または１のビット値のデータ列は、Ｘビットのビットデータ列を示している。したがって、これら４つの符号ビット列において、１ビットの符号ビット列“１’ｂ０”は、２ビットの符号ビット列“２’ｂ１０”に対して、最上位ビットのビット順序が先行する。２ビットの符号ビット列“２’ｂ１０”は、３ビットの符号ビット列“３’ｂ１１０”に対して、最上位の次のビットのビット順序が先行している。３ビットの符号ビット列“３’ｂ１１０”は、３ビットの符号ビット列“３’ｂ１１１”に対して、最下位ビットのビット順序が先行する。

【0136】

図１８は、カノニカルハフマン処理部３２４がシンボルに符号ビット列を割り当てるための疑似プログラムの例を示す。疑似プログラムにおいて、変数ｃｏｄｅは、シンボルに割り当てられる符号ビット列を算出するために用いられる。

【0137】

まず、カノニカルハフマン処理部３２４は、ｃｏｄｅに０（＝１’ｂ０）を設定する。なお、このｃｏｄｅのビット数は、符号ビット列を割り当てるべき複数のシンボルにそれぞれ関連付けられた複数の符号長の内、最小の符号長に従う。

【0138】

次いで、カノニカルハフマン処理部３２４は、１回のｗｈｉｌｅループにおいて、符号長が短い順、且つ同一符号長の場合は特定のシンボル順に、１つのシンボルに割り当てる符号ビット列を決定する。

【0139】

例えば、１回目のｗｈｉｌｅループにおいて、カノニカルハフマン処理部３２４は、符号長が最も短いシンボルであって、且つ同一符号長の別のシンボルがある場合には特定のシンボル順で先になるシンボルを、符号ビット列を割り当てる対象として選択する。そして、カノニカルハフマン処理部３２４は、選択したシンボルの符号ビット列として、ｃｏｄｅ（＝１’ｂ０）を割り当てる。なお、前述した通り、最初に割り当てるｃｏｄｅのビット数は最小符号長に依存する。この例では、最小符号長が１であることを想定している。そして、カノニカルハフマン処理部３２４は、ｃｏｄｅに１を加えた値を、次のシンボルの符号長から現在のシンボルの符号長を引いたビット数だけ、左にシフトするシフト演算を行い、このシフト演算により得られた値をｃｏｄｅに設定する。例えば、次のシンボルの符号長から現在のシンボルの符号長を引いたビット数が１である場合、ｃｏｄｅ（＝１’ｂ０）に１を加えた値である１’ｂ１を、１ビット左にシフトした値２’ｂ１０が、ｃｏｄｅに設定される。

【0140】

また例えば、２回目のｗｈｉｌｅループにおいて、カノニカルハフマン処理部３２４は、符号長が２番目に短いシンボルか、あるいは符号長が最も短いシンボルであって、且つ同一符号長の別のシンボルがある場合には特定のシンボル順で２番目になるシンボルを、符号ビット列を割り当てる対象として選択する。カノニカルハフマン処理部３２４は、選択したシンボルの符号ビット列として、ｃｏｄｅ（＝２’ｂ１０）を割り当てる。そして、カノニカルハフマン処理部３２４は、ｃｏｄｅに１を加えた値を、次のシンボルの符号長から現在のシンボルの符号長を引いたビット数だけ、左にシフトするシフト演算を行い、このシフト演算により得られた値をｃｏｄｅに設定する。例えば、次のシンボルの符号長から現在のシンボルの符号長を引いたビット数が１である場合、ｃｏｄｅ（＝２’ｂ１０）に１を加えた値である２’ｂ１１を、１ビット左にシフトした値３’ｂ１１０が、ｃｏｄｅに設定される。

【0141】

このようなループ処理を行うことにより、カノニカルハフマン処理部３２４は、シンボル間の順序関係と、複数のシンボルにそれぞれ対応する複数の符号長とを用いて、複数のシンボルにそれぞれ符号ビット列を割り当てることができる。つまり、カノニカルハフマン処理部３２４は、シンボル間の順序関係と、各シンボルの符号長とが決定されることで、各シンボルに割り当てる符号ビット列を一意に決定できる。

【0142】

これは、パック処理部２２によって出力される圧縮データに、ヘッダとして、予め規定したシンボル順に従って並べられた複数の符号長を符号化することで、伸張装置１６が復号テーブルを復元可能であることを示している。シンボル順に従って並べられた複数の符号長を符号化することにより、符号ビット列そのものを符号化する場合と比較して、圧縮データの符号量オーバーヘッドを大幅に削減できる。

【0143】

したがって、前述したように、符号長上限違反修正部３２３（より詳しくは、冗長リーフ除去部３５６）は、修正後の符号長テーブル４２に示される複数の符号長（制約後符号長）を、対応する複数のシンボルのシンボル順に従って、パック処理部２２に送出する。パック処理部２２は、シンボル順に従って並べられた複数の符号長を、圧縮データの先頭にヘッダとして付加する。

【0144】

図１９は、カノニカルハフマン処理部３２４による、シンボルへの符号ビット列の割り当ての例を示す。ここでは、図１８に示した疑似プログラムを実行するカノニカルハフマン処理部３２４が、図１９に示す４つのシンボル“Ｂ”、“Ａ”、“Ｃ”、“Ｄ”に対して、符号長を用いて符号ビット列を割り当てる例について説明する。

【0145】

４つのシンボル“Ｂ”、“Ａ”、“Ｃ”、“Ｄ”は、符号長が短い順、且つ同一符号長の複数のシンボルがある場合には特定のシンボル順（ここではアルファベット順）にソートされている。具体的には、シンボル“Ｂ”の符号長は１であり、最も短い。シンボル“Ａ”の符号長は２であり、２番目に短い。シンボル“Ｃ”およびシンボル“Ｄ”の符号長は３であり、３番目に短い。また、シンボル“Ｃ”は、シンボル“Ｄ”よりもアルファベット順で先行する。

【0146】

まず、カノニカルハフマン処理部３２４は、ｃｏｄｅに０（＝１’ｂ０）を設定する。

【0147】

次に、カノニカルハフマン処理部３２４は、１回目のｗｈｉｌｅループにおいて、符号長が最も短いシンボル“Ｂ”を、符号ビット列を割り当てる対象として選択する。カノニカルハフマン処理部３２４は、選択したシンボル“Ｂ”の符号ビット列として、ｃｏｄｅ（＝１’ｂ０）を割り当てる。最初に割り当てるｃｏｄｅのビット数は、４つのシンボル“Ｂ”、“Ａ”、“Ｃ”、“Ｄ”の符号長の内、最小の符号長（すなわち、シンボル“Ｂ”の符号長）に従う。よって、このｃｏｄｅのビット数は１である。そして、カノニカルハフマン処理部３２４は、ｃｏｄｅに１を加えた値を、次のシンボル“Ａ”の符号長から現在のシンボル“Ｂ”の符号長を引いた１ビット（＝２－１）だけ、左にシフトするシフト演算を行い、このシフト演算により得られた値２’ｂ１０をｃｏｄｅに設定する。

【0148】

２回目のｗｈｉｌｅループにおいて、カノニカルハフマン処理部３２４は、符号長が２番目に短いシンボル“Ａ”を、符号ビット列を割り当てる対象として選択する。カノニカルハフマン処理部３２４は、選択したシンボル“Ａ”の符号ビット列として、ｃｏｄｅ（＝２’ｂ１０）を割り当てる。そして、カノニカルハフマン処理部３２４は、ｃｏｄｅに１を加えた値を、次のシンボル“Ｃ”の符号長から現在のシンボルの符号長“Ａ”を引いた１ビット（＝３－２）だけ、左にシフトするシフト演算を行い、このシフト演算により得られた値３’ｂ１１０をｃｏｄｅに設定する。

【0149】

３回目のｗｈｉｌｅループにおいて、カノニカルハフマン処理部３２４は、符号長が３番目に短く、同一符号長のシンボル“Ｄ”よりも特定のシンボル順で先になるシンボル“Ｃ”を、符号ビット列を割り当てる対象として選択する。カノニカルハフマン処理部３２４は、選択したシンボル“Ｃ”の符号ビット列として、ｃｏｄｅ（＝３’ｂ１１０）を割り当てる。そして、カノニカルハフマン処理部３２４は、ｃｏｄｅに１を加えた値を、次のシンボル“Ｄ”の符号長から現在のシンボルの符号長“Ｃ”を引いた０ビット（＝３－３）だけ、左にシフトするシフト演算を行い、このシフト演算により得られた値３’ｂ１１１をｃｏｄｅに設定する。つまり、カノニカルハフマン処理部３２４は、２つのシンボル“Ｃ”および“Ｄ”の符号長が同一である場合には、ｃｏｄｅに１を加えた値を、新たなｃｏｄｅの値として設定する。

【0150】

４回目のｗｈｉｌｅループにおいて、カノニカルハフマン処理部３２４は、符号長が３番目に短く、同一符号長のシンボル“Ｃ”よりも特定のシンボル順で後になるシンボル“Ｄ”を、符号ビット列を割り当てる対象として選択する。カノニカルハフマン処理部３２４は、選択したシンボル“Ｄ”の符号ビット列として、ｃｏｄｅ（＝３’ｂ１１１）を割り当てる。

【0151】

以上により、カノニカルハフマン処理部３２４は、複数のシンボルそれぞれの符号長と、同一符号長の複数のシンボルがある場合の特定のシンボル順とに基づいて、複数のシンボルそれぞれに割り当てる符号ビット列を一意に決定できる。カノニカルハフマン処理部３２４は、複数のシンボルと、複数のシンボルにそれぞれ割り当てられた複数の符号ビット列とを示す符号化テーブル４３を、符号化部３３に送出する。

【0152】

これにより、符号化部３３は、符号化テーブル４３を用いて、ディレイバッファ３１によって送出されたシンボルを、符号ビット列（可変長符号）に変換できる。

【0153】

以上の構成により、動的ハフマン符号化器２１は、符号長を上限値以下に制約する場合に圧縮性能の低下を抑制できる。

【0154】

ここで、本実施形態の動的ハフマン符号化器２１が、符号長を上限値以下に制約する場合に圧縮性能の低下を抑制できることを、比較例に係る圧縮装置に設けられる動的ハフマン符号化器を用いて説明する。

【0155】

図２０は、比較例の動的ハフマン符号化器によって実行される符号長制約処理の手順の例を示すフローチャートである。動的ハフマン符号化器は、例えば、図４を参照して前述した符号長決定処理を実行した後に、符号長制約処理を実行する。ここでは、動的ハフマン符号化器が、符号長決定部３２２によって生成された符号長テーブル４２を用いる場合を例示する。符号長テーブル４２は、複数のシンボルと、複数のシンボルにそれぞれ関連付けられた複数の符号長とを示す情報を含む。複数の符号長は、符号長の上限値を考慮せずに決定された符号長である。

【0156】

まず、比較例の動的ハフマン符号化器は、符号長テーブル４２に示される複数のシンボルから、上限値を超えた符号長を有するｎ個のシンボル全てに符号化空間を提供可能なシンボルｓを選択する（ステップＳ４１）。ｎ個のシンボル全てに符号化空間を提供可能であるとは、符号長テーブル４２に対応するハフマン木において、ｎ個のシンボル全てに、上限値以下の符号長に対応するリーフノードを割り当て可能であることを意味する。

【0157】

次いで、動的ハフマン符号化器は、シンボルｓの符号長を上限値に変更する（ステップＳ４２）。動的ハフマン符号化器は、ｎ個のシンボルのそれぞれの符号長を上限値に変更する（ステップＳ４３）。動的ハフマン符号化器は、シンボルｓの符号長を上限値に変更したことで生じた符号化空間内の空きのリーフノードに、ｎ個のシンボルを割り当てる（ステップＳ４４）。そして、動的ハフマン符号化器は、いずれのシンボルにも割り当てられていないリーフノードを含む二分木をマージして（ステップＳ４５）、符号長制約処理を終了する。

【0158】

以上の符号長制約処理により、比較例の動的ハフマン符号化器は、シンボルに関連付けられた上限値を超えた符号長を、上限値に変更できる。動的ハフマン符号化器は、上限値を超えた符号長を有するｎ個のシンボル全てに符号化空間を提供可能なシンボルｓの符号長を上限値に変更することにより、ｎ個のシンボルの符号長を上限値に変更する。

【0159】

しかし、シンボルｓの符号長が大きく変更された場合、動的ハフマン符号化器の圧縮性能は大きく低下する可能性がある。

【0160】

図２１および図２２を参照し、比較例の動的ハフマン符号化器が図６のハフマン木５０を変形する例を用いて、圧縮性能の低下について説明する。図６のハフマン木５０は、符号長決定部３２２が、シンボルの出現頻度に基づき、符号長の上限値を考慮することなく構築したハフマン木である。ここでは、符号長の上限値が４であるものとする。

【0161】

図２１は、比較例の動的ハフマン符号化器が、上限値を超えた符号長のシンボルと、上限値を超えた符号長のシンボル全てに符号化空間を提供可能なシンボルを決定する例を示す。

【0162】

具体的には、動的ハフマン符号化器は、ハフマン木６０において、符号長が４を超えている４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”（すなわち、リーフノード６６１，６６２，６６３，６６４）を決定する。動的ハフマン符号化器は、決定した４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”の符号長を、６ビットから４ビットに変更する。動的ハフマン符号化器は、ハフマン木６０において、４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”に対応するリーフノード６６１，６６２，６６３，６６４を接続する親ノードを変更することによって、符号長（すなわち、リーフノードの深さ）が４ビットになるように変更する。

【0163】

動的ハフマン符号化器は、４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”の符号長を６ビットから４ビットに変更する場合、符号長が十分に短いリーフノードＬ（図２１に示す例では、リーフノード６１１）を選択する。そして、動的ハフマン符号化器は、選択したリーフノードＬに対応するシンボル“ａ”と、符号長が４を超えている４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”とをそれぞれ割り当てる５つのリーフノードを有し、ノードＬを親ノードとする部分木を構成する。符号長が十分に短いリーフノードＬは、この部分木を構成した場合に、全てのシンボルの符号長が上限値以下になるリーフノードを指す。動的ハフマン符号化器は、下記の式（２）を満たすリーフノードの内、符号長が最も長いリーフノードを、リーフノードＬとして選択する。
２^{（符号長上限値－リーフノードＬの符号長）}≧
１＋符号長の上限値の制約に違反したシンボル数 式（２）

【0164】

式（２）の左辺は、リーフノードＬを親ノードとし、ルートノード６０１からの深さが上限値以下となる部分木の最大リーフノード数を示す。すなわち、式（２）の左辺は、リーフノードＬを親ノードとして、全てのリーフノードが符号長の上限値の制約を満たす部分木を構築した場合に、その部分木で受け持つことが可能な最大のシンボル数を示している。

【0165】

式（２）の右辺は、リーフノードＬに対応するシンボルの数（すなわち、１）と、符号長の上限値の制約に違反し、符号長の変更が必要であるシンボルの数との和を示す。

【0166】

式（２）を満たすリーフノードに対してハフマン木の変形処理を行うことによって、リーフノードＬを親ノードとする部分木で、リーフノードＬに対応するシンボルと、符号長の上限値の制約に違反したシンボルとのそれぞれに、リーフノードを割り当てることができる。

【0167】

図２１に示す例では、動的ハフマン符号化器は、４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”全てに符号化空間を提供可能なシンボル“ａ”（すなわち、リーフノード６１１）を決定する。シンボル“ａ”の符号長は１ビットである。シンボル“ａ”の符号長を１ビットから４ビットに変更することにより、７個のリーフノードがハフマン木６０に追加される。より詳しくは、シンボル“ａ”の符号長を１から４に変更することにより、ハフマン木６０に、符号長（深さ）が４ビットである８個（＝２^{（４－１）}）のリーフノード６４３，６４４，６５４，６４６，６４７，６４８，６４９，６４０を有する部分木が設けられる。この８個のリーフノード６４３，６４４，６５４，６４６，６４７，６４８，６４９，６４０の内、１つのリーフノード６４７には、シンボル“ａ”が割り当てられる。よって、シンボル“ａ”の符号長を１ビットから４ビットに変更することにより、７個のリーフノードがハフマン木６０に追加されることになる。

【0168】

追加されるリーフノードの数（＝７）は、符号長が４を超えているシンボルの数（＝４）以上である。したがって、シンボル“ａ”は、４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”全てに符号化空間を提供可能であると云える。つまり、シンボル“ａ”に対応するリーフノード６１１は、式（２）を満たしている（２^４－１＝８≧１＋４）。

【0169】

なお、符号長が次に長いシンボル“ｂ”に対応するリーフノード６２１は、式（２）を満たしていない（２^４－２＝４＜１＋４）。よって、動的ハフマン符号化器は、４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”全てに符号化空間を提供可能なシンボル“ａ”を決定する。

【0170】

動的ハフマン符号化器は、４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”を、例えば、追加されたリーフノード６４７，６４８，６４９，６４０にそれぞれ割り当てる。

【0171】

また、動的ハフマン符号化器は、いずれのシンボルも割り当てられていない冗長な３つのリーフノード６４３，６４４，６４５を除去してもよい。動的ハフマン符号化器は、冗長なリーフノード６４３，６４４，６４５を有する二分木を順次マージすることにより、冗長なリーフノードを除去する。３つのリーフノード６４３，６４４，６４５の除去により、中間ノード６２３は、シンボル“ａ”が割り当てられたリーフノード６２３になる。つまり、シンボル“ａ”の符号長は２ビットになる。

【0172】

図２２は、４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”とシンボル“ａ”の符号長が変更された後、冗長なリーフノードが除去されたハフマン木６０を示す。

【0173】

このハフマン木６０では、４つのシンボル“ｅ”，“ｆ”，“ｇ”，“ｈ”の符号長は４ビットである。また、シンボル“ａ”の符号長は２ビットである。したがって、全てのシンボルの符号長が上限値（４ビット）以下であるハフマン木６０が構築されている。

【0174】

図２１および図２２に示したハフマン木６０の変形例では、動的ハフマン符号化器は、元の符号長が最も短いシンボル“ａ”の符号長を増加させている。関連付けられた符号長が短いシンボルほど、出現頻度は高い。よって、そのシンボルに対応する可変長符号が圧縮データに出現する頻度も高くなる。そのため、関連付けられた元の符号長（制約前符号長）が短いシンボルほど、符号長を増加させることによる圧縮性能への影響が大きい。

【0175】

比較例の動的ハフマン符号化器は、図２１および図２２のハフマン木６０に示すように、シンボル“ａ”に関連付けられた最も短い符号長を２倍に増加させている。これは、動的ハフマン符号化器の圧縮性能を大きく低下させる。

【0176】

これに対して、第１実施形態に係る圧縮装置１５の動的ハフマン符号化器２１は、上限値未満であって、より長い符号長に関連付けられたシンボルから優先して、符号長を増加させる。つまり、動的ハフマン符号化器２１は、出現頻度がより低いシンボルを、符号長を増加させるシンボルとして、高い優先度で選択する。これにより、符号長を上限値以下に制約する場合にも圧縮性能の低下を抑制できる。

【0177】

第１実施形態の動的ハフマン符号化器２１によって変形された図１３のハフマン木５０が、比較例の動的ハフマン符号化器によって変形された図２２のハフマン木６０よりも、圧縮性能で優れることを、以下に証明する。ここでは、シンボルｘの出現頻度をＦ（ｘ）と表記する。比較例の動的ハフマン符号化器が、図２２のハフマン木６０に基づきシンボルを符号化した場合の総符号量をＣｏｄｅＢｉｔ１とする。また、第１実施形態の動的ハフマン符号化器２１が、図１３のハフマン木５０に基づきシンボルを符号化した場合の総符号量をＣｏｄｅＢｉｔ２とする。

【0178】

ＣｏｄｅＢｉｔ１は下記の式（３）で計算される。
ＣｏｄｅＢｉｔ１＝
２×Ｆ（ａ）＋２×Ｆ（ｂ）＋３×（Ｆ（ｃ）＋Ｆ（ｄ））
＋４×（Ｆ（ｅ）＋Ｆ（ｆ）＋Ｆ（ｇ）＋Ｆ（ｈ）） 式（３）

【0179】

ＣｏｄｅＢｉｔ２は下記の式（４）で計算される。
ＣｏｄｅＢｉｔ２＝
１×Ｆ（ａ）＋３×Ｆ（ｂ）＋４×（Ｆ（ｃ）＋Ｆ（ｄ））
＋４×（Ｆ（ｅ）+Ｆ（ｆ）+Ｆ（ｇ）+Ｆ（ｈ）） 式（４）

【0180】

ＣｏｄｅＢｉｔ１とＣｏｄｅＢｉｔ２の差は、下記の式（５）で計算される。
ＣｏｄｅＢｉｔ１－ＣｏｄｅＢｉｔ２＝
Ｆ（ａ）－（Ｆ（ｂ）＋Ｆ（ｃ）＋Ｆ（ｄ）） 式（５）

【0181】

また、変形前の図６のハフマン木５０によれば、シンボルの出現頻度には以下の３つの関係が成り立つ。
Ｆ（ｃ）≧Ｆ（ｄ）＋Ｆ（ｅ）＋Ｆ（ｆ）＋Ｆ（ｇ）＋Ｆ（ｈ）
Ｆ（ｂ）≧Ｆ（ｃ）＋Ｆ（ｄ）＋Ｆ（ｅ）＋Ｆ（ｆ）＋Ｆ（ｇ）＋Ｆ（ｈ）
Ｆ（ａ）≧Ｆ（ｂ）＋Ｆ（ｃ）＋Ｆ（ｄ）＋Ｆ（ｅ）＋Ｆ（ｆ）＋Ｆ（ｇ）＋Ｆ（ｈ）

【0182】

したがって、第１実施形態の動的ハフマン符号化器２１による総符号化量ＣｏｄｅＢｉｔ２は、比較例の動的ハフマン符号化器による総符号化量ＣｏｄｅＢｉｔ１よりも小さい。よって、第１実施形態の動的ハフマン符号化器２１によって変形された図１３のハフマン木５０に基づく圧縮性能は、比較例の動的ハフマン符号化器によって変形された図２２のハフマン木６０に基づく圧縮性能よりも高い。つまり、第１実施形態の動的ハフマン符号化器２１は、符号長を上限値以下に制約する場合に、比較例の動的ハフマン符号化器と比較して、圧縮性能の低下を抑制できる。

【0183】

なお、第１実施形態の動的ハフマン符号化器２１は、シンボルの符号長を上限値以下に制約する場合に、符号長が上限値未満であって、且つより長いシンボルから順に、１つ以上のシンボルの符号長を増加させる。そのため、第１実施形態の動的ハフマン符号化器２１は、１つのシンボルの符号長を増加させる比較例の動的ハフマン符号化器と比較して、シンボルの符号長を増加させるためのステップ数（すなわち、処理サイクル数）が増加する可能性がある。

【0184】

ステップ数の増加に対処するため、第１実施形態の動的ハフマン符号化器２１は、Ｍ個のシンボルそれぞれの符号長を並列に増加させる。これにより、第１実施形態の動的ハフマン符号化器２１は、第１実施形態の動的ハフマン符号化器２１は、シンボルの符号長を増加させるためのステップ数の増加を抑制できる。

【0185】

したがって、第１実施形態の動的ハフマン符号化器２１は、符号長を上限値以下に制約する場合に、シンボルの符号長を増加させるためのステップ数の増加を抑制しながら、圧縮性能の低下を抑制できる。

【0186】

（第２実施形態）
第１実施形態では、動的ハフマン符号化器２１の符号長上限違反修正部３２３は、１サイクルの処理において、符号長が上限値未満であるＭ個のシンボルを選択し、Ｍ個のシンボルの符号長を並列に上限値に変更する。これに対して、第２実施形態では、符号長上限違反修正部３２３は、１サイクルの処理において、符号長が上限値未満であるＭ個のシンボルを選択し、Ｍ個のシンボルの符号長を並列に上限値に変更し、この１サイクルの処理より後の別の１サイクルの処理において、符号長が上限値未満であるＮ個のシンボルを選択し、Ｎ個のシンボルの符号長を並列に上限値に変更する。なお、ＮはＭ以下の整数である。

【0187】

第２実施形態に係る圧縮装置１５の構成は第１実施形態の圧縮装置１５と同様であり、第２実施形態と第１実施形態とでは、符号長上限違反修正部３２３によって実行される処理の手順のみが異なる。以下、第１実施形態と異なる点を主に説明する。

【0188】

図８のフローチャートに示した上限違反修正処理のステップＳ２３からステップＳ２５までの手順は、クラフト不等式の左辺の値Ｋが１より大きい間、繰り返し実行されるループ処理である。

【0189】

具体的には、前述したように、符号長変更部３５３は、符号長テーブル４２において、符号長が長いシンボルから順に、符号長が上限値よりも小さいＭ個のシンボルを選択する（ステップＳ２３）。符号長変更部３５３は、符号長テーブル４２において、選択したＭ個のシンボルの符号長を並列に上限値に変更する（ステップＳ２４）。そして、クラフト不等式左辺計算部３５４は、変更した符号長を含むシンボルの集合Ｓの符号長を用いて、クラフト不等式の左辺の値Ｋを計算する（ステップＳ２５）。

【0190】

以下では、ステップＳ２３からステップＳ２５までの手順を１回実行することを、１サイクルの処理と称する。

【0191】

１サイクルの処理を実行した回数（すなわち、サイクル数）が増加するほど、構築するハフマン木５０に冗長なリーフノードを生じさせる可能性が高い。これは、以下の２つの理由による。
（１）サイクル数が増加するほど、変更されるシンボルの符号長（制約前符号長）が短くなるので、符号長を上限値に変更したことにより追加されるリーフノードの数が増加する。
（２）サイクル数が増加するほど、クラフト不等式の左辺の値Ｋは１以下に近付いているので、符号長を上限値に変更したことにより追加されるリーフノードの内、冗長になるリーフノードの数が増加しやすい。

【0192】

そのため、符号長上限違反修正部３２３は、１サイクルの処理で符号長を並列に変更するシンボルの数（並列度）Ｍを、特定の初期値から開始して、サイクル数が増加するほど減少させ得る。例えば、符号長上限違反修正部３２３は、Ｍの初期値として４を設定して、２サイクルの処理を実行する。そして、符号長上限違反修正部３２３は、Ｍを４から２に変更して、２サイクルの処理を実行する。さらに、符号長上限違反修正部３２３は、Ｍを２から１に変更して、以降のサイクル処理を実行する。

【0193】

このように、符号長上限違反修正部３２３は、サイクル数が増加するほど、１サイクルの処理で符号長が上限値に変更されるシンボルの数を減少させる。つまり、符号長上限違反修正部３２３は、ある１サイクルの処理において、符号長が上限値未満であるＭ個（例えば４個）のシンボルを選択し、Ｍ個のシンボルの符号長を並列に上限値に変更する。そして、符号長上限違反修正部３２３は、この１サイクルの処理より後の別の１サイクルの処理において、符号長が上限値未満であるＮ個（例えば２個）のシンボルを選択し、Ｎ個のシンボルの符号長を並列に上限値に変更する。Ｍは、例えば２以上の整数である。Ｎは、Ｍ以下の整数である。

【0194】

これにより、符号長上限違反修正部３２３は、符号長の変更に応じて発生し得る冗長なリーフノードの数を抑制できる。したがって、符号長上限違反修正部３２３は、冗長なリーフノードを除去するために要する処理量を低減できる。

【0195】

以上説明したように、第１および第２実施形態によれば、符号長を上限値以下に制約する場合に圧縮性能の低下を抑制できる。

【0196】

符号化テーブル生成部３２は、複数のシンボルの各々の出現頻度に基づいて、複数のシンボルにそれぞれ関連付けられる複数の符号長を決定する。符号化テーブル生成部３２は、複数のシンボルが、上限値を超えた１つ以上の第１符号長にそれぞれ関連付けられた１つ以上の第１シンボルを含む場合、１つ以上の第１符号長を上限値に変更し、複数のシンボルの内、上限値未満である１つ以上の第２符号長にそれぞれ関連付けられた１つ以上の第２シンボルから、関連付けられた符号長が長いものから順に、少なくとも１つの第３シンボルを選択し、少なくとも１つの第３シンボルに関連付けられた少なくとも１つの第３符号長を上限値に変更し、変更した１つ以上の第１符号長および少なくとも１つの第３符号長を少なくとも用いて、複数のシンボルと、複数のシンボルにそれぞれ関連付けられた複数の可変長符号とを示す符号化テーブル４３を生成する。符号化部３３は、符号化テーブル４３を用いてシンボルを可変長符号に変換する。複数の可変長符号の各々の符号長は、１から上限値までのビット長である。

【0197】

このように、符号化テーブル生成部３２は、複数のシンボルの内、上限値未満である１つ以上の第２符号長にそれぞれ関連付けられた１つ以上の第２シンボルから、関連付けられた符号長が長いものから順に、少なくとも１つの第３シンボルを選択し、少なくとも１つの第３シンボルに関連付けられた少なくとも１つの第３符号長を上限値に変更する。これにより、例えば、上限値を超えた符号長を有するシンボル全てに符号化空間を提供可能な１つのシンボルを選択し、選択したシンボルの符号長を上限値に変更する場合と比較して、圧縮性能の低下を抑制できる。

【0198】

第１および第２実施形態に記載された様々な機能の各々は、回路（処理回路）によって実現されてもよい。処理回路の例には、中央処理装置（ＣＰＵ）のような、プログラムされたプロセッサが含まれる。このプロセッサは、メモリに格納されたコンピュータプログラム（命令群）を実行することによって、記載された機能それぞれを実行する。このプロセッサは、電気回路を含むマイクロプロセッサであってもよい。処理回路の例には、デジタル信号プロセッサ（ＤＳＰ）、特定用途向け集積回路（ＡＳＩＣ）、マイクロコントローラ、コントローラ、他の電気回路部品も含まれる。これら実施形態に記載されたＣＰＵ以外の他のコンポーネントの各々もまた処理回路によって実現されてもよい。

【0199】

本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。

【符号の説明】

【0200】

１…情報処理システム、２…ホスト、３…メモリシステム、４…コントローラ、５…ＮＡＮＤ型フラッシュメモリ、１０…バス、１１…ホストＩ／Ｆ、１２…ＣＰＵ、１３…ＮＡＮＤ Ｉ／Ｆ、１４…ＤＲＡＭ Ｉ／Ｆ、１５…圧縮装置、１６…伸張装置、２１…動的ハフマン符号化器、２２…パック処理部、３１…ディレイバッファ、３２…符号化テーブル生成部、３３…符号化部、３２１…頻度テーブル生成部、３２２…符号長決定部、３２３…符号長上限違反修正部、３２４…カノニカルハフマン処理部、３５１…符号長ソート部、３５２…符号長クリップ部、３５３…符号長変更部、３５４…クラフト不等式左辺計算部、３５５…終了判定部、３５６…冗長リーフ除去部、４１…頻度テーブル、４２…符号長テーブル、４３…符号化テーブル。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9】

【図10】

【図11】

【図12】

【図13】

【図14】

【図15】

【図16】

【図17】

【図18】

【図19】

【図20】

【図21】

【図22】