IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社JVCケンウッドの特許一覧

特開2024-167347動画像符号化装置、動画像符号化方法、及び動画像符号化プログラム、動画像復号装置、動画像復号方法及び動画像復号プログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024167347
(43)【公開日】2024-12-03
(54)【発明の名称】動画像符号化装置、動画像符号化方法、及び動画像符号化プログラム、動画像復号装置、動画像復号方法及び動画像復号プログラム
(51)【国際特許分類】
   H04N 19/11 20140101AFI20241126BHJP
   H04N 19/136 20140101ALI20241126BHJP
   H04N 19/176 20140101ALI20241126BHJP
【FI】
H04N19/11
H04N19/136
H04N19/176
【審査請求】有
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2024148597
(22)【出願日】2024-08-30
(62)【分割の表示】P 2024029842の分割
【原出願日】2020-06-19
(31)【優先権主張番号】P 2019114395
(32)【優先日】2019-06-20
(33)【優先権主張国・地域又は機関】JP
(71)【出願人】
【識別番号】308036402
【氏名又は名称】株式会社JVCケンウッド
(72)【発明者】
【氏名】竹原 英樹
(72)【発明者】
【氏名】中村 博哉
(72)【発明者】
【氏名】坂爪 智
(72)【発明者】
【氏名】福島 茂
(72)【発明者】
【氏名】熊倉 徹
(72)【発明者】
【氏名】倉重 宏之
(57)【要約】
【課題】画像符号化及び復号化に適したブロック分割を行うことにより、符号化効率を向
上させる技術を提供する。
【解決手段】符号化情報格納メモリに格納された符号化情報から処理対象ピクチャ内の処
理対象ブロックのブロックベクトル候補を導出するブロックベクトル候補導出部と、前記
ブロックベクトル候補から選択ブロックベクトルを選択する選択部と、前記選択ブロック
ベクトルにより参照する参照ブロックについて、参照可能領域の内部を参照するように前
記参照ブロックの参照位置を補正する参照位置補正部とを備え、前記参照ブロックの参照
位置に基づいて、前記処理対象ピクチャ内の復号済み画素を、前記処理対象ブロックの予
測値として復号画像メモリ部から取得する。
【選択図】図2
【特許請求の範囲】
【請求項1】
イントラブロックコピー基準ブロック単位で符号化する画像符号化装置であって、
符号化情報格納メモリに格納された符号化情報から処理対象ピクチャ内の処理対象ブロックのブロックベクトル候補を導出してブロックベクトル候補リストを生成するブロックベクトル候補リスト生成部と、
履歴予測ブロックベクトル候補リストに登録されている履歴予測ブロックベクトル候補を前記ブロックベクトル候補リストに追加する履歴ブロックベクトル候補導出部と、
前記ブロックベクトル候補リストから選択ブロックベクトルを選択する選択部と、
前記ブロックベクトル候補リスト内の前記選択ブロックベクトルの位置を示すブロックベクトルインデックスを符号化する符号化部と、
前記選択ブロックベクトルにより参照する参照ブロックについて、参照可能領域の内部を参照するように前記参照ブロックの参照位置を補正する参照位置補正部と、
前記参照ブロックの参照位置に基づいて、前記処理対象ピクチャ内の復号済み画素を、前記処理対象ブロックの予測値として復号画像メモリから取得する予測部とを備え、
前記参照位置補正部は、前記処理対象ブロックを含むイントラブロックコピー基準ブロックの直前に符号化処理された固定数のイントラブロックコピー基準ブロックを参照可能領域とし、符号化処理が完了しているか否かに関わらず、前記参照可能領域より前のイントラブロックコピー基準ブロックを無効参照領域として設定することを特徴とする画像符号化装置。
【請求項2】
イントラブロックコピー基準ブロック単位で符号化する画像符号化方法であって、
符号化情報格納メモリに格納された符号化情報から処理対象ピクチャ内の処理対象ブロックのブロックベクトル候補を導出してブロックベクトル候補リストを生成するブロックベクトル候補リスト生成ステップと、
履歴予測ブロックベクトル候補リストに登録されている履歴予測ブロックベクトル候補を前記ブロックベクトル候補リストに追加する履歴ブロックベクトル候補導出ステップと、
前記ブロックベクトル候補リストから選択ブロックベクトルを選択する選択ステップと、
前記ブロックベクトル候補リスト内の前記選択ブロックベクトルの位置を示すブロックベクトルインデックスを符号化する符号化ステップと、
前記選択ブロックベクトルにより参照する参照ブロックについて、参照可能領域の内部を参照するように前記参照ブロックの参照位置を補正する参照位置補正ステップと、
前記参照ブロックの参照位置に基づいて、前記処理対象ピクチャ内の復号済み画素を、
前記処理対象ブロックの予測値として復号画像メモリから取得する予測ステップとを有し、
前記参照位置補正ステップは、前記処理対象ブロックを含むイントラブロックコピー基準ブロックの直前に符号化処理された固定数のイントラブロックコピー基準ブロックを参照可能領域とし、符号化処理が完了しているか否かに関わらず、前記参照可能領域より前のイントラブロックコピー基準ブロックを無効参照領域として設定することを特徴とする画像符号化方法。
【請求項3】
イントラブロックコピー基準ブロック単位で符号化する画像符号化プログラムであって、
符号化情報格納メモリに格納された符号化情報から処理対象ピクチャ内の処理対象ブロックのブロックベクトル候補を導出してブロックベクトル候補リストを生成するブロックベクトル候補リスト生成ステップと、
履歴予測ブロックベクトル候補リストに登録されている履歴予測ブロックベクトル候補を前記ブロックベクトル候補リストに追加する履歴ブロックベクトル候補導出ステップと、
前記ブロックベクトル候補リストから選択ブロックベクトルを選択する選択ステップと、
前記ブロックベクトル候補リスト内の前記選択ブロックベクトルの位置を示すブロックベクトルインデックスを符号化する符号化ステップと、
前記選択ブロックベクトルにより参照する参照ブロックについて、参照可能領域の内部を参照するように前記参照ブロックの参照位置を補正する参照位置補正ステップと、
前記参照ブロックの参照位置に基づいて、前記処理対象ピクチャ内の復号済み画素を、
前記処理対象ブロックの予測値として復号画像メモリから取得する予測ステップとをコンピュータに実行させ、
前記参照位置補正ステップは、前記処理対象ブロックを含むイントラブロックコピー基準ブロックの直前に符号化処理された固定数のイントラブロックコピー基準ブロックを参照可能領域とし、符号化処理が完了しているか否かに関わらず、前記参照可能領域より前のイントラブロックコピー基準ブロックを無効参照領域として設定することを特徴とする画像符号化プログラム。
【請求項4】
イントラブロックコピー基準ブロック単位で復号する画像復号装置であって、
符号化情報格納メモリに格納された符号化情報から処理対象ピクチャ内の処理対象ブロックのブロックベクトル候補を導出してブロックベクトル候補リストを生成するブロックベクトル候補リスト生成部と、
履歴予測ブロックベクトル候補リストに登録されている履歴予測ブロックベクトル候補を前記ブロックベクトル候補リストに追加する履歴ブロックベクトル候補導出部と、
前記ブロックベクトル候補リスト内の前記選択ブロックベクトルの位置を示すブロックベクトルインデックスを復号する復号部と、
前記ブロックベクトルインデックスに基づいて、前記ブロックベクトル候補リストから選択ブロックベクトルを選択する選択部と、
前記選択ブロックベクトルにより参照する参照ブロックについて、参照可能領域の内部を参照するように前記参照ブロックの参照位置を補正する参照位置補正部と、
前記参照ブロックの参照位置に基づいて、前記処理対象ピクチャ内の復号済み画素を、
前記処理対象ブロックの予測値として復号画像メモリから取得する予測部とを備え、
前記参照位置補正部は、前記処理対象ブロックを含むイントラブロックコピー基準ブロックの直前に復号処理された固定数のイントラブロックコピー基準ブロックを参照可能領域とし、復号処理が完了しているか否かに関わらず、前記参照可能領域より前のイントラブロックコピー基準ブロックを無効参照領域として設定することを特徴とする画像復号装置。
【請求項5】
イントラブロックコピー基準ブロック単位で復号する画像復号方法であって、
符号化情報格納メモリに格納された符号化情報から処理対象ピクチャ内の処理対象ブロックのブロックベクトル候補を導出してブロックベクトル候補リストを生成するブロックベクトル候補リスト生成ステップと、
履歴予測ブロックベクトル候補リストに登録されている履歴予測ブロックベクトル候補を前記ブロックベクトル候補リストに追加する履歴ブロックベクトル候補導出ステップと、
前記ブロックベクトルインデックスに基づいて、前記ブロックベクトル候補リスト内の前記選択ブロックベクトルの位置を示すブロックベクトルインデックスを復号する復号ステップと、
前記ブロックベクトル候補リストから選択ブロックベクトルを選択する選択ステップと、
前記選択ブロックベクトルにより参照する参照ブロックについて、参照可能領域の内部を参照するように前記参照ブロックの参照位置を補正する参照位置補正ステップと、
前記参照ブロックの参照位置に基づいて、前記処理対象ピクチャ内の復号済み画素を、
前記処理対象ブロックの予測値として復号画像メモリから取得する予測ステップとを有し、
前記参照位置補正ステップは、前記処理対象ブロックを含むイントラブロックコピー基準ブロックの直前に復号処理された固定数のイントラブロックコピー基準ブロックを参照可能領域とし、復号処理が完了しているか否かに関わらず、前記参照可能領域より前のイントラブロックコピー基準ブロックを無効参照領域として設定することを特徴とする画像復号方法。
【請求項6】
イントラブロックコピー基準ブロック単位で復号する画像復号プログラムであって、
符号化情報格納メモリに格納された符号化情報から処理対象ピクチャ内の処理対象ブロックのブロックベクトル候補を導出してブロックベクトル候補リストを生成するブロックベクトル候補リスト生成ステップと、
履歴予測ブロックベクトル候補リストに登録されている履歴予測ブロックベクトル候補を前記ブロックベクトル候補リストに追加する履歴ブロックベクトル候補導出ステップと、
前記ブロックベクトル候補リスト内の前記選択ブロックベクトルの位置を示すブロックベクトルインデックスを復号する復号ステップと、
前記ブロックベクトルインデックスに基づいて、前記ブロックベクトル候補リストから選択ブロックベクトルを選択する選択ステップと、
前記選択ブロックベクトルにより参照する参照ブロックについて、参照可能領域の内部を参照するように前記参照ブロックの参照位置を補正する参照位置補正ステップと、
前記参照ブロックの参照位置に基づいて、前記処理対象ピクチャ内の復号済み画素を、
前記処理対象ブロックの予測値として復号画像メモリから取得する予測ステップとをコンピュータに実行させ、
前記参照位置補正ステップは、前記処理対象ブロックを含むイントラブロックコピー基準ブロックの直前に復号処理された固定数のイントラブロックコピー基準ブロックを参照可能領域とし、復号処理が完了しているか否かに関わらず、前記参照可能領域より前のイントラブロックコピー基準ブロックを無効参照領域として設定することを特徴とする画像復号プログラム。
【請求項7】
請求項2に記載された画像符号化方法に従って生成されたビットストリームを記録媒体に格納する格納方法。
【請求項8】
請求項2に記載された画像符号化方法に従って生成されたビットストリームを伝送する伝送方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像をブロックに分割して予測を行う画像符号化及び復号技術に関する。
【背景技術】
【0002】
画像の符号化及び復号では、処理の対象となる画像を所定数の画素の集合であるブロッ
クに分割し、ブロック単位で処理をする。適切なブロックに分割し、画面内予測(イント
ラ予測)、画面間予測(インター予測)を適切に設定することにより、符号化効率が向上
する。
【0003】
特許文献1には符号化・復号対象のブロックに隣接する復号済みの画素を用いて予測画
像を得るイントラ予測技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009-246975号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1の技術は符号化・復号対象のブロックに隣接する復号済みの
画素のみを予測に用いるものであり、予測効率が悪い。
【課題を解決するための手段】
【0006】
上記課題を解決する本発明のある態様では、符号化情報格納メモリに格納された符号化
情報から処理対象ピクチャ内の処理対象ブロックのブロックベクトル候補を導出するブロ
ックベクトル候補導出部と、前記ブロックベクトル候補から選択ブロックベクトルを選択
する選択部と、前記選択ブロックベクトルにより参照する参照ブロックについて、参照可
能領域の内部を参照するように前記参照ブロックの参照位置を補正する参照位置補正部と
を備え、前記参照ブロックの参照位置に基づいて、前記処理対象ピクチャ内の復号済み画
素を、前記処理対象ブロックの予測値として復号画像メモリ部から取得する。
【発明の効果】
【0007】
本発明によれば、高効率な画像符号化・復号処理を低負荷で実現することができる。
【図面の簡単な説明】
【0008】
図1】本発明の実施の形態に係る画像符号化装置のブロック図である。
図2】本発明の実施の形態に係る画像復号装置のブロック図である。
図3】ツリーブロックを分割する動作を説明するためのフローチャートである。
図4】入力された画像をツリーブロックに分割する様子を示す図である。
図5】z-スキャンを説明する図である。
図6A】ブロックの分割形状を示す図である。
図6B】ブロックの分割形状を示す図である。
図6C】ブロックの分割形状を示す図である。
図6D】ブロックの分割形状を示す図である。
図6E】ブロックの分割形状を示す図である。
図7】ブロックを4分割する動作を説明するためのフローチャートである。
図8】ブロックを2分割または3分割する動作を説明するためのフローチャートである。
図9】ブロック分割の形状を表現するためのシンタックスである。
図10A】イントラ予測を説明するための図である。
図10B】イントラ予測を説明するための図である。
図11】インター予測の参照ブロックを説明するための図である。
図12A】符号化ブロック予測モードを表現するためのシンタックスである。
図12B】符号化ブロック予測モードを表現するためのシンタックスである。
図13】インター予測に関するシンタックスエレメントとモードの対応を示す図である。
図14】制御点2点のアフィン変換動き補償を説明するための図である。
図15】制御点3点のアフィン変換動き補償を説明するための図である。
図16図1のインター予測部102の詳細な構成のブロック図である。
図17図16の通常予測動きベクトルモード導出部301の詳細な構成のブロック図である。
図18図16の通常マージモード導出部302の詳細な構成のブロック図である。
図19図16の通常予測動きベクトルモード導出部301の通常予測動きベクトルモード導出処理を説明するためのフローチャートである。
図20】通常予測動きベクトルモード導出処理の処理手順を表すフローチャートである。
図21】通常マージモード導出処理の処理手順を説明するフローチャートである。
図22図2のインター予測部203の詳細な構成のブロック図である。
図23図22の通常予測動きベクトルモード導出部401の詳細な構成のブロック図である。
図24図22の通常マージモード導出部402の詳細な構成のブロック図である。
図25図22の通常予測動きベクトルモード導出部401の通常予測動きベクトルモード導出処理を説明するためのフローチャートである。
図26】履歴予測動きベクトル候補リスト初期化・更新処理手順を説明する図である。
図27】履歴予測動きベクトル候補リスト初期化・更新処理手順における、同一要素確認処理手順のフローチャートである。
図28】履歴予測動きベクトル候補リスト初期化・更新処理手順における、要素シフト処理手順のフローチャートである。
図29】履歴予測動きベクトル候補導出処理手順を説明するフローチャートである。
図30】履歴マージ候補導出処理手順を説明するフローチャートである。
図31A】履歴予測動きベクトル候補リスト更新処理の一例を説明するための図である。
図31B】履歴予測動きベクトル候補リスト更新処理の一例を説明するための図である。
図31C】履歴予測動きベクトル候補リスト更新処理の一例を説明するための図である。
図32】L0予測であってL0の参照ピクチャ(RefL0Pic)が処理対象ピクチャ(CurPic)より前の時刻にある場合の動き補償予測を説明するための図である。
図33】L0予測であってL0予測の参照ピクチャが処理対象ピクチャより後の時刻にある場合の動き補償予測を説明するための図である。
図34】双予測であってL0予測の参照ピクチャが処理対象ピクチャより前の時刻にあって、L1予測の参照ピクチャが処理対象ピクチャより後の時刻にある場合の動き補償予測の予測方向を説明するための図である。
図35】双予測であってL0予測の参照ピクチャとL1予測の参照ピクチャが処理対象ピクチャより前の時刻にある場合の動き補償予測の予測方向を説明するための図である。
図36】双予測であってL0予測の参照ピクチャとL1予測の参照ピクチャが処理対象ピクチャより後の時刻にある場合の動き補償予測の予測方向を説明するための図である。
図37】本発明の実施の形態の符号化復号装置のハードウェア構成の一例を説明するための図である。
図38】平均マージ候補導出処理手順を説明するフローチャートである。
図39A】イントラブロックコピーの有効参照領域を説明する図である。
図39B】イントラブロックコピーの有効参照領域を説明する図である。
図40図1のイントラ予測部103の詳細な構成のブロック図である。
図41図2のイントラ予測部204の詳細な構成のブロック図である。
図42】イントラブロックコピー予測部352のブロック図である。
図43】イントラブロックコピー予測部362のブロック図である。
図44】イントラブロックコピー予測部352の予測イントラブロックコピー処理を説明するためのフローチャートである。
図45】イントラブロックコピー予測部362の予測イントラブロックコピー処理を説明するためのフローチャートである。
図46】マージイントラブロックコピー処理を説明するためのフローチャートである。
図47】予測イントラブロックコピーのブロックベクトルモード導出処理の処理手順を表すフローチャートである。
図48】参照位置補正部380及び参照位置補正部480の処理を説明する図である。
図49】参照位置を補正する様子を示す図である。
図50A】参照可能領域を矩形状とした場合の左上および右下の位置を説明する図である。
図50B】参照可能領域を矩形状とした場合の左上および右下の位置を説明する図である。
図50C】参照可能領域を矩形状とした場合の左上および右下の位置を説明する図である。
図50D】参照可能領域を矩形状とした場合の左上および右下の位置を説明する図である。
図51】参照可能領域が矩形でない部分の参照位置を補正する処理を説明する図である。
図52A】参照位置を補正する様子を示す図である。
図52B】参照位置を補正する様子を示す図である。
図53】参照位置補正部380及び参照位置補正部480の処理を説明する図である。
図54A】参照可能領域を2つに分解する様子を説明する図である。
図54B】参照可能領域を2つに分解する様子を説明する図である。
図54C】参照可能領域を2つに分解する様子を説明する図である。
図54D】参照可能領域を2つに分解する様子を説明する図である。
図55】参照可能領域を2つに分解し、それぞれの参照位置を補正する処理を説明する図である。
【発明を実施するための形態】
【0009】
本実施の形態において使用する技術、及び技術用語を定義する。
【0010】
<ツリーブロック>
実施の形態では、所定の大きさで符号化・復号処理対象画像を均等分割する。この単位
をツリーブロックと定義する。図4では、ツリーブロックのサイズを128x128画素
としているが、ツリーブロックのサイズはこれに限定されるものではなく、任意のサイズ
を設定してよい。処理対象(符号化処理においては符号化対象、復号処理においては復号
対象に対応する。)のツリーブロックは、ラスタスキャン順、すなわち左から右、上から
下の順序で切り替わる。各ツリーブロックの内部は、さらに再帰的な分割が可能である。
ツリーブロックを再帰的に分割した後の、符号化・復号の対象となるブロックを符号化ブ
ロックと定義する。また、ツリーブロック、符号化ブロックを総称してブロックと定義す
る。適切なブロック分割を行うことにより効率的な符号化が可能となる。ツリーブロック
のサイズは、符号化装置と復号装置で予め取り決めた固定値とすることもできるし、符号
化装置が決定したツリーブロックのサイズを復号装置に伝送するような構成をとることも
できる。ここでは、ツリーブロックの最大サイズを128x128画素、ツリーブロック
の最小サイズを16x16画素とする。また、符号化ブロックの最大サイズを64x64
画素、符号化ブロックの最小サイズを4x4画素とする。
【0011】
<予測モード>
処理対象符号化ブロック単位で、処理対象画像の処理済み画像信号から予測を行うイン
トラ予測(MODE_INTRA)、及び処理済み画像の画像信号から予測を行うインター予測(MO
DE_INTER)を切り替える。
【0012】
処理済み画像は、符号化処理においては符号化が完了した信号を復号した画像、画像信
号、ツリーブロック、ブロック、符号化ブロック等に用いられ、復号処理においては復号
が完了した画像、画像信号、ツリーブロック、ブロック、符号化ブロック等に用いられる
【0013】
このイントラ予測(MODE_INTRA)とインター予測(MODE_INTER)を識別するモードを予
測モード(PredMode)と定義する。予測モード(PredMode)はイントラ予測(MODE_INTRA
)、またはインター予測(MODE_INTER)を値として持つ。
【0014】
<イントラブロックコピー予測>
イントラブロックコピー(Intra Block Copy)予測は、処理対象ピクチャにおける復号
済みの画素を予測値として参照し、処理対象ブロックを符号化/復号する処理である。そ
して、処理対象ブロックから参照する画素までの距離は、ブロックベクトルで表す。ブロ
ックベクトルは処理対象ピクチャを参照し、参照ピクチャは一意に定まるため、参照イン
デックスは不要である。ブロックベクトルと動きベクトルの違いは、参照するピクチャが
処理対象ピクチャか処理済みピクチャかである。また、ブロックベクトルは、適応動きベ
クトル解像度(AMVR)を用いて、1画素精度または4画素精度を選択できる。
【0015】
イントラブロックコピーでは、予測イントラブロックコピーモードと、マージイントラ
ブロックコピーモードの2つのモードを選択可能である。
【0016】
予測イントラブロックコピーモードは、処理済みの情報から導出する予測ブロックベク
トルと、差分ブロックベクトルから、処理対象ブロックのブロックベクトルを決定するモ
ードである。予測ブロックベクトルは、処理対象ブロックに隣接する処理済みブロックと
、予測ブロックベクトルを特定するためのインデックスから導出する。予測ブロックベク
トルを特定するためのインデックス、差分ブロックベクトルはビットストリームで伝送す
る。
【0017】
マージイントラブロックコピーモードは、差分動きベクトルを伝送せずに、処理対象ブ
ロックに隣接する処理済みブロックのイントラブロックコピー予測情報から、処理対象ブ
ロックのイントラブロックコピー予測情報を導出するモードである。
【0018】
<インター予測>
処理済み画像の画像信号から予測を行うインター予測では、複数の処理済み画像を参照
ピクチャとして用いることができる。複数の参照ピクチャを管理するため、L0(参照リ
スト0)とL1(参照リスト1)の2種類の参照リストを定義し、それぞれ参照インデッ
クスを用いて参照ピクチャを特定する。PスライスではL0予測(Pred_L0)が利用可能
である。BスライスではL0予測(Pred_L0)、L1予測(Pred_L1)、双予測(Pred_BI
)が利用可能である。L0予測(Pred_L0)はL0で管理されている参照ピクチャを参照
するインター予測であり、L1予測(Pred_L1)はL1で管理されている参照ピクチャを
参照するインター予測である。双予測(Pred_BI)はL0予測とL1予測が共に行われ、
L0とL1のそれぞれで管理されている1つずつの参照ピクチャを参照するインター予測
である。L0予測、L1予測、双予測を特定する情報を、インター予測モードと定義する
。以降の処理において出力に添え字LXが付いている定数、変数に関しては、L0、L1
ごとに処理が行われることを前提とする。
【0019】
<予測動きベクトルモード>
予測動きベクトルモードは、予測動きベクトルを特定するためのインデックス、差分動
きベクトル、インター予測モード、参照インデックスを伝送し、処理対象ブロックのイン
ター予測情報を決定するモードである。予測動きベクトルは、処理対象ブロックに隣接す
る処理済みブロック、または処理済み画像に属するブロックで処理対象ブロックと同一位
置またはその付近(近傍)に位置するブロックから導出した予測動きベクトル候補と、予
測動きベクトルを特定するためのインデックスから導出する。
【0020】
<マージモード>
マージモードは、差分動きベクトル、参照インデックスを伝送せずに、処理対象ブロッ
クに隣接する処理済みブロック、または処理済み画像に属するブロックで処理対象ブロッ
クと同一位置またはその付近(近傍)に位置するブロックのインター予測情報から、処理
対象ブロックのインター予測情報を導出するモードである。
【0021】
処理対象ブロックに隣接する処理済みブロック、およびその処理済みブロックのインタ
ー予測情報を空間マージ候補と定義する。処理済み画像に属するブロックで処理対象ブロ
ックと同一位置またはその付近(近傍)に位置するブロック、およびそのブロックのイン
ター予測情報から導出されるインター予測情報を時間マージ候補と定義する。各マージ候
補はマージ候補リストに登録され、マージインデックスにより、処理対象ブロックの予測
で使用するマージ候補を特定する。
【0022】
<隣接ブロック>
図11は、予測動きベクトルモード、マージモードで、インター予測情報を導出するた
めに参照する参照ブロックを説明する図である。A0,A1,A2,B0,B1,B2,
B3は、処理対象ブロックに隣接する処理済みブロックである。T0は、処理済み画像に
属するブロックで、処理対象画像における処理対象ブロックと同一位置またはその付近(
近傍)に位置するブロックである。
【0023】
A1,A2は、処理対象符号化ブロックの左側に位置し、処理対象符号化ブロックに隣
接するブロックである。B1,B3は、処理対象符号化ブロックの上側に位置し、処理対
象符号化ブロックに隣接するブロックである。A0,B0,B2はそれぞれ、処理対象符
号化ブロックの左下、右上、左上に位置するブロックである。
【0024】
予測動きベクトルモード、マージモードにおいて隣接ブロックをどのように扱うかの詳
細については後述する。
【0025】
<アフィン変換動き補償>
アフィン変換動き補償は、符号化ブロックを所定単位のサブブロックに分割し、分割さ
れた各サブブロックに対して個別に動きベクトルを決定して動き補償を行うものである。
各サブブロックの動きベクトルは、処理対象ブロックに隣接する処理済みブロック、また
は処理済み画像に属するブロックで処理対象ブロックと同一位置またはその付近(近傍)
に位置するブロックのインター予測情報から導出する1つ以上の制御点に基づき導出する
。本実施の形態では、サブブロックのサイズを4x4画素とするが、サブブロックのサイ
ズはこれに限定されるものではないし、画素単位で動きベクトルを導出してもよい。
【0026】
図14に、制御点が2つの場合のアフィン変換動き補償の例を示す。この場合、2つの
制御点が水平方向成分、垂直方向成分の2つのパラメータを有する。このため、制御点が
2つの場合のアフィン変換を、4パラメータアフィン変換と呼称する。図14のCP1、
CP2が制御点である。
【0027】
図15に、制御点が3つの場合のアフィン変換動き補償の例を示す。この場合、3つの
制御点が水平方向成分、垂直方向成分の2つのパラメータを有する。このため、制御点が
3つの場合のアフィン変換を、6パラメータアフィン変換と呼称する。図15のCP1、
CP2、CP3が制御点である。
【0028】
アフィン変換動き補償は、予測動きベクトルモードおよびマージモードのいずれのモー
ドにおいても利用可能である。予測動きベクトルモードでアフィン変換動き補償を適用す
るモードをサブブロック予測動きベクトルモードと定義し、マージモードでアフィン変換
動き補償を適用するモードをサブブロックマージモードと定義する。
【0029】
<符号化ブロックのシンタックス>
図12A図12B、および図13を用いて、符号化ブロックの予測モードを表現する
ためのシンタックスを説明する。図12Aのpred_mode_flagは、インター予測か否かを示
すフラグである。pred_mode_flagが0であればインター予測となり、pred_mode_flagが1
であればイントラ予測となる。イントラ予測の場合には、イントラブロックコピー予測で
あるかを示すフラグであるpred_mode_ibc_flagを送る。イントラブロックコピー予測であ
る場合(pred_mode_ibc_flag=1)は、merge_flagを送る。merge_flagは、マージイントラ
ブロックコピーモードとするか、予測イントラブロックコピーモードとするかを示すフラ
グである。マージイントラブロックコピーモードである場合(merge_flag=1)は、マージ
インデックスmerge_idxを送る。イントラブロックコピー予測でない場合(pred_mode_ibc
_flag=0)、通常イントラ予測とし、通常イントラ予測の情報intra_pred_modeを送る。
【0030】
インター予測の場合にはmerge_flagを送る。merge_flagは、マージモードとするか、予
測動きベクトルモードとするかを示すフラグである。予測動きベクトルモードの場合(me
rge_flag=0)、サブブロック予測動きベクトルモードを適用するか否かを示すフラグinte
r_affine_flagを送る。サブブロック予測動きベクトルモードを適用する場合(inter_aff
ine_flag=1)、cu_affine_type_flagを送る。cu_affine_type_flagは、サブブロック予測
動きベクトルモードにおいて、制御点の数を決定するためのフラグである。
【0031】
一方、マージモードの場合(merge_flag=1)、図12Bのmerge_subblock_flagを送る
。merge_subblock_flagは、サブブロックマージモードを適用するか否かを示すフラグで
ある。サブブロックマージモードの場合(merge_subblock_flag=1)、マージインデック
スmerge_subblock_idxを送る。一方、サブブロックマージモードでない場合(merge_subb
lock_flag=0)、三角マージモードを適用するか否かを示すフラグmerge_triangle_flagを
送る。三角マージモードを適用する場合(merge_triangle_flag=1)、ブロックを分割す
る方向merge_triangle_split_dir、および分割された2つのパーティションごとにマージ
三角インデックスmerge_triangle_idx0,merge_triangle_idx1を送る。一方、三角マージ
モードを適用しない場合(merge_triangle_flag=0)、マージインデックスmerge_idxを送
る。
【0032】
図13にインター予測の各シンタックスエレメントの値と、それに対応する予測モード
を示す。merge_flag=0,inter_affine_flag=0は、通常予測動きベクトルモード(Inter Pr
ed Mode)に対応する。merge_flag=0,inter_affine_flag=1は、サブブロック予測動きベ
クトルモード(Inter Affine Mode)に対応する。merge_flag=1,merge_subblock_flag=0,
merge_trianlge_flag=0は、通常マージモード(Merge Mode)に対応する。merge_flag=1,
merge_subblock_flag=0,merge_trianlge_flag=1は、三角マージモード(Triangle Merge
Mode)に対応する。merge_flag=1,merge_subblock_flag=1は、サブブロックマージモード
(Affine Merge Mode)に対応する。
【0033】
<POC>
POC(Picture Order Count)は符号化されるピクチャに関連付けられる変数であり
、ピクチャの出力順序に応じた1ずつ増加する値が設定される。POCの値によって、同
じピクチャであるかを判別したり、出力順序でのピクチャ間の前後関係を判別したり、ピ
クチャ間の距離を導出したりすることができる。例えば、2つのピクチャのPOCが同じ
値を持つ場合、同一のピクチャであると判断できる。2つのピクチャのPOCが違う値を
持つ場合、POCの値が小さいピクチャのほうが、先に出力されるピクチャであると判断
でき、2つのピクチャのPOCの差が時間軸方向でのピクチャ間距離を示す。
(第1の実施の形態)
本発明の第1の実施の形態に係る画像符号化装置100及び画像復号装置200につい
て説明する。
【0034】
図1は、第1の実施の形態に係る画像符号化装置100のブロック図である。実施の形
態の画像符号化装置100は、ブロック分割部101、インター予測部102、イントラ
予測部103、復号画像メモリ104、予測方法決定部105、残差生成部106、直交
変換・量子化部107、ビット列符号化部108、逆量子化・逆直交変換部109、復号
画像信号重畳部110、および符号化情報格納メモリ111を備える。
【0035】
ブロック分割部101は、入力された画像を再帰的に分割して、符号化ブロックを生成
する。ブロック分割部101は、分割対象となるブロックを水平方向と垂直方向にそれぞ
れ分割する4分割部と、分割対象となるブロックを水平方向または垂直方向のいずれかに
分割する2-3分割部とを含む。ブロック分割部101は、生成した符号化ブロックを処
理対象符号化ブロックとし、その処理対象符号化ブロックの画像信号を、インター予測部
102、イントラ予測部103および残差生成部106に供給する。また、ブロック分割
部101は、決定した再帰分割構造を示す情報をビット列符号化部108に供給する。ブ
ロック分割部101の詳細な動作は後述する。
【0036】
インター予測部102は、処理対象符号化ブロックのインター予測を行う。インター予
測部102は、符号化情報格納メモリ111に格納されているインター予測情報と、復号
画像メモリ104に格納されている復号済みの画像信号とから、複数のインター予測情報
の候補を導出し、導出した複数の候補の中から適したインター予測モードを選択し、選択
されたインター予測モード、及び選択されたインター予測モードに応じた予測画像信号を
予測方法決定部105に供給する。インター予測部102の詳細な構成と動作は後述する
【0037】
イントラ予測部103は、処理対象符号化ブロックのイントラ予測を行う。イントラ予
測部103は、復号画像メモリ104に格納されている復号済みの画像信号を参照画素と
して参照し、符号化情報格納メモリ111に格納されているイントラ予測モード等の符号
化情報に基づくイントラ予測により予測画像信号を生成する。イントラ予測では、イント
ラ予測部103は、複数のイントラ予測モードの中から適したイントラ予測モードを選択
し、選択されたイントラ予測モード、及び選択されたイントラ予測モードに応じた予測画
像信号を予測方法決定部105に供給する。イントラ予測部103の詳細な構成と動作は
後述する。
【0038】
復号画像メモリ104は、復号画像信号重畳部110で生成した復号画像を格納する。
復号画像メモリ104は、格納している復号画像を、インター予測部102、イントラ予
測部103に供給する。
【0039】
予測方法決定部105は、イントラ予測とインター予測のそれぞれに対して、符号化情
報及び残差の符号量、予測画像信号と処理対象画像信号との間の歪量等を用いて評価する
ことにより、最適な予測モードを決定する。イントラ予測の場合は、予測方法決定部10
5は、イントラ予測モード等のイントラ予測情報を符号化情報としてビット列符号化部1
08に供給する。インター予測のマージモードの場合は、予測方法決定部105は、マー
ジインデックス、サブブロックマージモードか否かを示す情報(サブブロックマージフラ
グ)等のインター予測情報を符号化情報としてビット列符号化部108に供給する。イン
ター予測の予測動きベクトルモードの場合は、予測方法決定部105は、インター予測モ
ード、予測動きベクトルインデックス、L0、L1の参照インデックス、差分動きベクト
ル、サブブロック予測動きベクトルモードか否かを示す情報(サブブロック予測動きベク
トルフラグ)等のインター予測情報を符号化情報としてビット列符号化部108に供給す
る。さらに、予測方法決定部105は、決定した符号化情報を符号化情報格納メモリ11
1に供給する。予測方法決定部105は、残差生成部106及び予測画像信号を復号画像
信号重畳部110に供給する。
【0040】
残差生成部106は、処理対象の画像信号から予測画像信号を減ずることにより残差を
生成し、直交変換・量子化部107に供給する。
【0041】
直交変換・量子化部107は、残差に対して量子化パラメータに応じて直交変換及び量
子化を行い直交変換・量子化された残差を生成し、生成した残差をビット列符号化部10
8と逆量子化・逆直交変換部109とに供給する。
【0042】
ビット列符号化部108は、シーケンス、ピクチャ、スライス、符号化ブロック単位の
情報に加えて、符号化ブロック毎に予測方法決定部105によって決定された予測方法に
応じた符号化情報を符号化する。具体的には、ビット列符号化部108は、符号化ブロッ
ク毎の予測モードPredModeを符号化する。予測モードがインター予測(MODE_INTER)の場
合、ビット列符号化部108は、マージモードか否かを判別するフラグ、サブブロックマ
ージフラグ、マージモードの場合はマージインデックス、マージモードでない場合はイン
ター予測モード、予測動きベクトルインデックス、差分動きベクトルに関する情報、サブ
ブロック予測動きベクトルフラグ等の符号化情報(インター予測情報)を規定のシンタッ
クス(ビット列の構文規則)に従って符号化し、第1のビット列を生成する。予測モード
がイントラ予測(MODE_INTRA)の場合、ビット列符号化部108は、イントラブロックコ
ピーか否かを判別するフラグを規定のシンタックスに従って符号化する。イントラブロッ
クコピーの場合は、マージモードならばマージインデックス、マージモードでないならば
予測ブロックベクトルインデックス、差分ブロックベクトル等の符号化情報(イントラ予
測情報)を規定のシンタックスに従って符号化する。イントラブロックコピーでない場合
は、イントラ予測モード等の符号化情報(イントラ予測情報)を規定のシンタックスに従
って符号化する。以上の符号化により、第1のビット列を生成する。また、ビット列符号
化部108は、直交変換及び量子化された残差を規定のシンタックスに従ってエントロピ
ー符号化して第2のビット列を生成する。ビット列符号化部108は、第1のビット列と
第2のビット列を規定のシンタックスに従って多重化し、ビットストリームを出力する。
【0043】
逆量子化・逆直交変換部109は、直交変換・量子化部107から供給された直交変換
・量子化された残差を逆量子化及び逆直交変換して残差を算出し、算出した残差を復号画
像信号重畳部110に供給する。
【0044】
復号画像信号重畳部110は、予測方法決定部105による決定に応じた予測画像信号
と逆量子化・逆直交変換部109で逆量子化及び逆直交変換された残差を重畳して復号画
像を生成し、復号画像メモリ104に格納する。なお、復号画像信号重畳部110は、復
号画像に対して符号化によるブロック歪等の歪を減少させるフィルタリング処理を施した
後、復号画像メモリ104に格納してもよい。
【0045】
符号化情報格納メモリ111は、予測方法決定部105で決定した、予測モード(イン
ター予測またはイントラ予測)等の符号化情報を格納する。インター予測の場合は、符号
化情報格納メモリ111が格納する符号化情報には、決定した動きベクトル、参照リスト
L0、L1の参照インデックス、履歴予測動きベクトル候補リスト等のインター予測情報
が含まれる。またインター予測のマージモードの場合は、符号化情報格納メモリ111が
格納する符号化情報には、上述の各情報に加え、マージインデックス、サブブロックマー
ジモードか否かを示す情報(サブブロックマージフラグ)のインター予測情報が含まれる
。またインター予測の予測動きベクトルモードの場合は、符号化情報格納メモリ111が
格納する符号化情報には、上述の各情報に加え、インター予測モード、予測動きベクトル
インデックス、差分動きベクトル、サブブロック予測動きベクトルモードか否かを示す情
報(サブブロック予測動きベクトルフラグ)等のインター予測情報が含まれる。イントラ
予測の場合は、符号化情報格納メモリ111が格納する符号化情報には、決定したイント
ラ予測モード等のイントラ予測情報が含まれる。
【0046】
図2は、図1の画像符号化装置に対応した本発明の実施の形態に係る画像復号装置の構
成を示すブロックである。実施の形態の画像復号装置は、ビット列復号部201、ブロッ
ク分割部202、インター予測部203、イントラ予測部204、符号化情報格納メモリ
205、逆量子化・逆直交変換部206、復号画像信号重畳部207、および復号画像メ
モリ208を備える。
【0047】
図2の画像復号装置の復号処理は、図1の画像符号化装置の内部に設けられている復号
処理に対応するものであるから、図2の符号化情報格納メモリ205、逆量子化・逆直交
変換部206、復号画像信号重畳部207、および復号画像メモリ208の各構成は、図
1の画像符号化装置の符号化情報格納メモリ111、逆量子化・逆直交変換部109、復
号画像信号重畳部110、および復号画像メモリ104の各構成とそれぞれ対応する機能
を有する。
【0048】
ビット列復号部201に供給されるビットストリームは、規定のシンタックスの規則に
従って分離される。ビット列復号部201は、分離された第1のビット列を復号し、シー
ケンス、ピクチャ、スライス、符号化ブロック単位の情報、及び、符号化ブロック単位の
符号化情報を得る。具体的には、ビット列復号部201は、符号化ブロック単位でインタ
ー予測(MODE_INTER)かイントラ予測(MODE_INTRA)かを判別する予測モードPredModeを
復号する。予測モードがインター予測(MODE_INTER)の場合、ビット列復号部201は、
マージモードか否かを判別するフラグ、マージモードの場合はマージインデックス、サブ
ブロックマージフラグ、予測動きベクトルモードである場合はインター予測モード、予測
動きベクトルインデックス、差分動きベクトル、サブブロック予測動きベクトルフラグ等
に関する符号化情報(インター予測情報)を規定のシンタックスに従って復号し、符号化
情報(インター予測情報)をインター予測部203、およびブロック分割部202を介し
て符号化情報格納メモリ205に供給する。予測モードがイントラ予測(MODE_INTRA)の
場合、ビット列復号部201は、イントラブロックコピーか否かを判別するフラグを復号
する。イントラブロックコピーの場合は、マージモードならばマージインデックス、マー
ジモードでないならば予測ブロックベクトルインデックス、差分ブロックベクトル等の符
号化情報(イントラ予測情報)を規定のシンタックスに従って復号する。イントラブロッ
クコピーでない場合は、イントラ予測モード等の符号化情報(イントラ予測情報)を規定
のシンタックスに従って復号する。以上の復号により、符号化情報(イントラ予測情報)
をインター予測部203またはイントラ予測部204、およびブロック分割部202を介
して符号化情報格納メモリ205に供給する。ビット列復号部201は、分離した第2の
ビット列を復号して直交変換・量子化された残差を算出し、直交変換・量子化された残差
を逆量子化・逆直交変換部206に供給する。
【0049】
インター予測部203は、処理対象の符号化ブロックの予測モードPredModeがインター
予測(MODE_INTER)で予測動きベクトルモードである時に、符号化情報格納メモリ205
に記憶されている既に復号された画像信号の符号化情報を用いて、複数の予測動きベクト
ルの候補を導出して、導出した複数の予測動きベクトルの候補を、後述する予測動きベク
トル候補リストに登録する。インター予測部203は、予測動きベクトル候補リストに登
録された複数の予測動きベクトルの候補の中から、ビット列復号部201で復号され供給
される予測動きベクトルインデックスに応じた予測動きベクトルを選択し、ビット列復号
部201で復号された差分動きベクトルと選択された予測動きベクトルから動きベクトル
を算出し、算出した動きベクトルを他の符号化情報とともに符号化情報格納メモリ205
に格納する。ここで供給・格納する符号化ブロックの符号化情報は、予測モードPredMode
、L0予測、及びL1予測を利用するか否かを示すフラグpredFlagL0[xP][yP], predFlag
L1[xP][yP]、L0、L1の参照インデックスrefIdxL0[xP][yP], refIdxL1[xP][yP]、L0
、L1の動きベクトルmvL0[xP][yP], mvL1[xP][yP]等である。ここで、xP、yPはピクチャ
内での符号化ブロックの左上の画素の位置を示すインデックスである。予測モードPredMo
deがインター予測(MODE_INTER)で、インター予測モードがL0予測(Pred_L0)の場合
、L0予測を利用するか否かを示すフラグpredFlagL0は1、L1予測を利用するか否かを
示すフラグpredFlagL1は0である。インター予測モードがL1予測(Pred_L1)の場合、
L0予測を利用するか否かを示すフラグpredFlagL0は0、L1予測を利用するか否かを示
すフラグpredFlagL1は1である。インター予測モードが双予測(Pred_BI)の場合、L0
予測を利用するか否かを示すフラグpredFlagL0、L1予測を利用するか否かを示すフラグ
predFlagL1は共に1である。さらに、処理対象の符号化ブロックの予測モードPredModeが
インター予測(MODE_INTER)でマージモードの時に、マージ候補を導出する。符号化情報
格納メモリ205に記憶されている既に復号された符号化ブロックの符号化情報を用いて
、複数のマージの候補を導出して後述するマージ候補リストに登録し、マージ候補リスト
に登録された複数のマージ候補の中からビット列復号部201で復号され供給されるマー
ジインデックスに対応したマージ候補を選択し、選択されたマージ候補のL0予測、及び
L1予測を利用するか否かを示すフラグpredFlagL0[xP][yP], predFlagL1[xP][yP]、L0
、L1の参照インデックスrefIdxL0[xP][yP], refIdxL1[xP][yP]、L0、L1の動きベク
トルmvL0[xP][yP], mvL1[xP][yP]等のインター予測情報を符号化情報格納メモリ205に
格納する。ここで、xP、yPはピクチャ内での符号化ブロックの左上の画素の位置を示すイ
ンデックスである。インター予測部203の詳細な構成と動作は後述する。
【0050】
イントラ予測部204は、処理対象の符号化ブロックの予測モードPredModeがイントラ
予測(MODE_INTRA)の時に、イントラ予測を行う。ビット列復号部201で復号された符
号化情報にはイントラ予測モードが含まれている。イントラ予測部204は、ビット列復
号部201で復号された符号化情報に含まれるイントラ予測モードに応じて、復号画像メ
モリ208に格納されている復号済みの画像信号からイントラ予測により予測画像信号を
生成し、生成した予測画像信号を復号画像信号重畳部207に供給する。イントラ予測部
204は、画像符号化装置100のイントラ予測部103に対応するものであるから、イ
ントラ予測部103と同様の処理を行う。
【0051】
逆量子化・逆直交変換部206は、ビット列復号部201で復号された直交変換・量子
化された残差に対して逆直交変換及び逆量子化を行い、逆直交変換・逆量子化された残差
を得る。
【0052】
復号画像信号重畳部207は、インター予測部203でインター予測された予測画像信
号、またはイントラ予測部204でイントラ予測された予測画像信号と、逆量子化・逆直
交変換部206により逆直交変換・逆量子化された残差とを重畳することにより、復号画
像信号を復号し、復号した復号画像信号を復号画像メモリ208に格納する。復号画像メ
モリ208に格納する際には、復号画像信号重畳部207は、復号画像に対して符号化に
よるブロック歪等を減少させるフィルタリング処理を施した後、復号画像メモリ208に
格納してもよい。
【0053】
次に、画像符号化装置100におけるブロック分割部101の動作について説明する。
図3は、画像をツリーブロックに分割し、各ツリーブロックをさらに分割する動作を示す
フローチャートである。まず、入力された画像を、所定サイズのツリーブロックに分割す
る(ステップS1001)。各ツリーブロックについては、所定の順序、すなわちラスタ
スキャン順に走査し(ステップS1002)、処理対象のツリーブロックの内部を分割す
る(ステップS1003)。
【0054】
図7は、ステップS1003の分割処理の詳細動作を示すフローチャートである。まず
、処理対象のブロックを4分割するか否かを判断する(ステップS1101)。
【0055】
処理対象ブロックを4分割すると判断した場合は、処理対象ブロックを4分割する(ス
テップS1102)。処理対象ブロックを分割した各ブロックについて、Zスキャン順、
すなわち左上、右上、左下、右下の順に走査する(ステップS1103)。図5は、Zス
キャン順の例であり、図6Aの601は、処理対象ブロックを4分割した例である。図6
Aの601の番号0~3は処理の順番を示したものである。そしてステップS1101で
分割した各ブロックについて、図7の分割処理を再帰的に実行する(ステップS1104
)。
【0056】
処理対象ブロックを4分割しないと判断した場合は、2-3分割を行う(ステップS1
105)。
【0057】
図8は、ステップS1105の2-3分割処理の詳細動作を示すフローチャートである
。まず、処理対象のブロックを2-3分割するか否か、すなわち2分割または3分割の何
れかを行うか否かを判断する(ステップS1201)。
【0058】
処理対象ブロックを2-3分割すると判断しない場合、すなわち分割しないと判断した
場合は、分割を終了する(ステップS1211)。つまり、再帰的な分割処理により分割
されたブロックに対して、さらなる再帰的な分割処理はしない。
【0059】
処理対象のブロックを2-3分割すると判断した場合は、さらに処理対象ブロックを2
分割するか否か(ステップS1202)を判断する。
【0060】
処理対象ブロックを2分割すると判断した場合は、処理対象ブロックを上下(垂直方向
)に分割するか否かを判断し(ステップS1203)、その結果に基づき、処理対象ブロ
ックを上下(垂直方向)に2分割する(ステップS1204)か、処理対象ブロックを左
右(水平方向)に2分割する(ステップS1205)。ステップS1204の結果、処理
対象ブロックは、図6Bの602に示す通り、上下(垂直方向)2分割に分割され、ステ
ップS1205の結果、処理対象ブロックは、図6Dの604に示す通り、左右(水平方
向)2分割に分割される。
【0061】
ステップS1202において、処理対象のブロックを2分割すると判断しなかった場合
、すなわち3分割すると判断した場合は、処理対象ブロックを上中下(垂直方向)に分割
するか否かを判断し(ステップS1206)、その結果に基づき、処理対象ブロックを上
中下(垂直方向)に3分割する(ステップS1207)か、処理対象ブロックを左中右(
水平方向)に3分割する(ステップS1208)。ステップS1207の結果、処理対象
ブロックは、図6Cの603に示す通り、上中下(垂直方向)3分割に分割され、ステッ
プS1208の結果、処理対象ブロックは、図6Eの605に示す通り、左中右(水平方
向)3分割に分割される。
【0062】
ステップS1204、ステップS1205、ステップS1207、ステップS1208
のいずれかを実行後、処理対象ブロックを分割した各ブロックについて、左から右、上か
ら下の順に走査する(ステップS1209)。図6B~Eの602から605の番号0~
2は処理の順番を示したものである。分割した各ブロックについて、図8の2-3分割処
理を再帰的に実行する(ステップS1210)。
【0063】
ここで説明した再帰的なブロック分割は、分割する回数、または、処理対象のブロック
のサイズ等により、分割要否を制限してもよい。分割要否を制限する情報は、符号化装置
と復号化装置の間で予め取り決めを行うことで、情報の伝達を行わない構成で実現しても
よいし、符号化装置が分割要否を制限する情報を決定し、ビット列に記録することにより
、復号化装置に伝達する構成で実現してもよい。
【0064】
あるブロックを分割したとき、分割前のブロックを親ブロックと呼び、分割後の各ブロ
ックを子ブロックと呼ぶ。
【0065】
次に、画像復号装置200におけるブロック分割部202の動作について説明する。ブ
ロック分割部202は、画像符号化装置100のブロック分割部101と同様の処理手順
でツリーブロックを分割するものである。ただし、画像符号化装置100のブロック分割
部101では、画像認識による最適形状の推定や歪レート最適化等最適化手法を適用し、
最適なブロック分割の形状を決定するのに対し、画像復号装置200におけるブロック分
割部202は、ビット列に記録されたブロック分割情報を復号することにより、ブロック
分割形状を決定する点が異なる。
【0066】
第1の実施の形態のブロック分割に関するシンタックス(ビット列の構文規則)を図9
に示す。coding_quadtree()はブロックの4分割処理にかかるシンタックスを表す。multi
_type_tree()はブロックの2分割または3分割処理にかかるシンタックスを表す。qt_spl
itはブロックを4分割するか否かを示すフラグである。ブロックを4分割する場合は、qt
_split=1とし、4分割しない場合は、qt_split=0とする。4分割する場合(qt_split=1)、
4分割した各ブロックについて、再帰的に4分割処理をする(coding_quadtree(0), codin
g_quadtree(1), coding_quadtree(2), coding_quadtree(3)、引数の0~3は図6Aの6
01の番号に対応する。)。4分割しない場合(qt_split=0)は、multi_type_tree()に従い
、後続の分割を決定する。mtt_splitは、さらに分割をするか否かを示すフラグである。
さらに分割をする場合(mtt_split=1)、垂直方向に分割するか水平方向に分割するかを示
すフラグであるmtt_split_verticalと、2分割するか3分割するかを決定するフラグであ
るmtt_split_binaryを伝送する。mtt_split_vertical=1は、垂直方向に分割することを示
し、mtt_split_vertical=0は、水平方向に分割することを示す。mtt_split_binary=1は、
2分割することを示し、mtt_split_binary=0は3分割することを示す。2分割する場合(m
tt_split_binary=1)、2分割した各ブロックについて、再帰的に分割処理をする(multi_t
ype_tree(0), multi_type_tree(1)、引数の0~1は図6B~Dの602または604の
番号に対応する。)。3分割する場合(mtt_split_binary=0)、3分割した各ブロックにつ
いて、再帰的に分割処理をする(multi_type_tree(0), multi_type_tree(1), multi_type_
tree(2)、0~2は図6Bの603または図6Eの605の番号に対応する。)。mtt_spli
t=0となるまで、再帰的にmulti_type_treeを呼び出すことにより、階層的なブロック分割
を行う。
【0067】
<イントラ予測>
実施の形態に係るイントラ予測方法は、図1の画像符号化装置100のイントラ予測部
103および図2の画像復号装置200のイントラ予測部204において実施される。
【0068】
実施の形態に係るイントラ予測方法について、図面を用いて説明する。イントラ予測方
法は符号化ブロック単位で符号化及び復号の処理の何れでも実施される。
【0069】
<符号化側のイントラ予測部103の説明>
図40図1の画像符号化装置100のイントラ予測部103の詳細な構成を示す図で
ある。通常イントラ予測部351は、処理対象の符号化ブロックに隣接する復号済み画素
から、通常イントラ予測により予測画像信号を生成し、複数のイントラ予測モードの中か
ら適したイントラ予測モードを選択し、選択されたイントラ予測モード、及び選択された
イントラ予測モードに応じた予測画像信号を予測方法決定部105に供給する。図10A
及び図10Bにイントラ予測の例を示す。図10Aは、通常イントラ予測の予測方向とイ
ントラ予測モード番号の対応を示したものである。例えば、イントラ予測モード50は、
垂直方向に画素をコピーすることによりイントラ予測画像を生成する。イントラ予測モー
ド1は、DCモードであり、処理対象ブロックのすべての画素値を参照画素の平均値とす
るモードである。イントラ予測モード0はPlanarモードであり、垂直方向・水平方
向の参照画素から2次元的なイントラ予測画像を作成するモードである。図10Bは、イ
ントラ予測モード40の場合のイントラ予測画像を生成する例である。処理対象ブロック
の各画素に対し、イントラ予測モードの示す方向の参照画素の値をコピーする。イントラ
予測モードの参照画素が整数位置でない場合には、周辺の整数位置の参照画素値から補間
により参照画素値を決定する。
【0070】
イントラブロックコピー予測部352は、復号画像メモリ104から処理対象の符号化
ブロックと同一の画像信号の復号済み領域を取得し、イントラブロックコピー処理により
、予測画像信号を生成し、予測方法決定部105に供給する。イントラブロックコピー予
測部352の詳細な構成と処理については後述する。
【0071】
<復号側のイントラ予測部204の説明>
図41図2の画像復号装置200のイントラ予測部204の詳細な構成を示す図であ
る。
【0072】
通常イントラ予測部361は、処理対象の符号化ブロックに隣接する復号済み画素から
、通常イントラ予測により予測画像信号を生成し、複数のイントラ予測モードの中から適
したイントラ予測モードを選択し、選択されたイントラ予測モード、及び選択されたイン
トラ予測モードに応じた予測画像信号を得る。この予測画像信号がスイッチ364を経由
して復号画像信号重畳部207に供給される。図41の通常イントラ予測部361の処理
は、図40の通常イントラ予測部351に対応するものであるため、詳細の説明を省略す
る。
【0073】
イントラブロックコピー予測部362は、復号画像メモリ208から処理対象の符号化
ブロックと同一の画像信号の復号済み領域を取得し、イントラブロックコピー処理により
、予測画像信号を得る。この予測画像信号がスイッチ364を経由して復号画像信号重畳
部207に供給される。イントラブロックコピー予測部362の詳細な構成と処理につい
ては後述する。
【0074】
<インター予測>
実施の形態に係るインター予測方法は、図1の画像符号化装置のインター予測部102
および図2の画像復号装置のインター予測部203において実施される。
【0075】
実施の形態によるインター予測方法について、図面を用いて説明する。インター予測方
法は符号化ブロック単位で符号化及び復号の処理の何れでも実施される。
【0076】
<符号化側のインター予測部102の説明>
図16図1の画像符号化装置のインター予測部102の詳細な構成を示す図である。
通常予測動きベクトルモード導出部301は、複数の通常予測動きベクトル候補を導出し
て予測動きベクトルを選択し、選択した予測動きベクトルと、検出された動きベクトルと
の差分動きベクトルを算出する。検出されたインター予測モード、参照インデックス、動
きベクトル、算出された差分動きベクトルが通常予測動きベクトルモードのインター予測
情報となる。このインター予測情報がインター予測モード判定部305に供給される。通
常予測動きベクトルモード導出部301の詳細な構成と処理については後述する。
【0077】
通常マージモード導出部302では複数の通常マージ候補を導出して通常マージ候補を
選択し、通常マージモードのインター予測情報を得る。このインター予測情報がインター
予測モード判定部305に供給される。通常マージモード導出部302の詳細な構成と処
理については後述する。
【0078】
サブブロック予測動きベクトルモード導出部303では複数のサブブロック予測動きベ
クトル候補を導出してサブブロック予測動きベクトルを選択し、選択したサブブロック予
測動きベクトルと、検出した動きベクトルとの差分動きベクトルを算出する。検出された
インター予測モード、参照インデックス、動きベクトル、算出された差分動きベクトルが
サブブロック予測動きベクトルモードのインター予測情報となる。このインター予測情報
がインター予測モード判定部305に供給される。
【0079】
サブブロックマージモード導出部304では複数のサブブロックマージ候補を導出して
サブブロックマージ候補を選択し、サブブロックマージモードのインター予測情報を得る
。このインター予測情報がインター予測モード判定部305に供給される。
【0080】
インター予測モード判定部305では通常予測動きベクトルモード導出部301、通常
マージモード導出部302、サブブロック予測動きベクトルモード導出部303、サブブ
ロックマージモード導出部304から供給されるインター予測情報に基づいて、インター
予測情報を判定する。インター予測モード判定部305から判定結果に応じたインター予
測情報が動き補償予測部306に供給される。
【0081】
動き補償予測部306では判定されたインター予測情報に基づいて、復号画像メモリ1
04に格納されている参照画像信号に対してインター予測を行う。動き補償予測部306
の詳細な構成と処理については後述する。
【0082】
<復号側のインター予測部203の説明>
図22図2の画像復号装置のインター予測部203の詳細な構成を示す図である。
【0083】
通常予測動きベクトルモード導出部401は複数の通常予測動きベクトル候補を導出し
て予測動きベクトルを選択し、選択した予測動きベクトルと、復号した差分動きベクトル
との加算値を算出して動きベクトルとする。復号されたインター予測モード、参照インデ
ックス、動きベクトルが通常予測動きベクトルモードのインター予測情報となる。このイ
ンター予測情報がスイッチ408を経由して動き補償予測部406に供給される。通常予
測動きベクトルモード導出部401の詳細な構成と処理については後述する。
【0084】
通常マージモード導出部402では複数の通常マージ候補を導出して通常マージ候補を
選択し、通常マージモードのインター予測情報を得る。このインター予測情報がスイッチ
408を経由して動き補償予測部406に供給される。通常マージモード導出部402の
詳細な構成と処理については後述する。
【0085】
サブブロック予測動きベクトルモード導出部403では複数のサブブロック予測動きベ
クトル候補を導出してサブブロック予測動きベクトルを選択し、選択したサブブロック予
測動きベクトルと、復号した差分動きベクトルとの加算値を算出して動きベクトルとする
。復号されたインター予測モード、参照インデックス、動きベクトルがサブブロック予測
動きベクトルモードのインター予測情報となる。このインター予測情報がスイッチ408
を経由して動き補償予測部406に供給される。
【0086】
サブブロックマージモード導出部404では複数のサブブロックマージ候補を導出して
サブブロックマージ候補を選択し、サブブロックマージモードのインター予測情報を得る
。このインター予測情報がスイッチ408を経由して動き補償予測部406に供給される
【0087】
動き補償予測部406では判定されたインター予測情報に基づいて、復号画像メモリ2
08に格納されている参照画像信号に対してインター予測を行う。動き補償予測部406
の詳細な構成と処理については符号化側の動き補償予測部306と同様である。
【0088】
<通常予測動きベクトルモード導出部(通常AMVP)>
図17の通常予測動きベクトルモード導出部301は、空間予測動きベクトル候補導出
部321、時間予測動きベクトル候補導出部322、履歴予測動きベクトル候補導出部3
23、予測動きベクトル候補補充部325、通常動きベクトル検出部326、予測動きベ
クトル候補選択部327、動きベクトル減算部328を含む。
【0089】
図23の通常予測動きベクトルモード導出部401は、空間予測動きベクトル候補導出
部421、時間予測動きベクトル候補導出部422、履歴予測動きベクトル候補導出部4
23、予測動きベクトル候補補充部425、予測動きベクトル候補選択部426、動きベ
クトル加算部427を含む。
【0090】
符号化側の通常予測動きベクトルモード導出部301および復号側の通常予測動きベク
トルモード導出部401の処理手順について、それぞれ図19図25のフローチャート
を用いて説明する。図19は符号化側の通常動きベクトルモード導出部301による通常
予測動きベクトルモード導出処理手順を示すフローチャートであり、図25は復号側の通
常動きベクトルモード導出部401による通常予測動きベクトルモード導出処理手順を示
すフローチャートである。
【0091】
<通常予測動きベクトルモード導出部(通常AMVP):符号化側の説明>
図19を参照して符号化側の通常予測動きベクトルモード導出処理手順を説明する。図
19の処理手順の説明において、図19に示した通常という言葉を省略することがある。
【0092】
まず、通常動きベクトル検出部326でインター予測モードおよび参照インデックス毎
に通常動きベクトルを検出する(図19のステップS100)。
【0093】
続いて、空間予測動きベクトル候補導出部321、時間予測動きベクトル候補導出部3
22、履歴予測動きベクトル候補導出部323、予測動きベクトル候補補充部325、予
測動きベクトル候補選択部327、動きベクトル減算部328で、通常予測動きベクトル
モードのインター予測で用いる動きベクトルの差分動きベクトルをL0、L1毎にそれぞ
れ算出する(図19のステップS101~S106)。具体的には処理対象ブロックの予
測モードPredModeがインター予測(MODE_INTER)で、インター予測モードがL0予測(Pr
ed_L0)の場合、L0の予測動きベクトル候補リストmvpListL0を算出して、予測動きベク
トルmvpL0を選択し、L0の動きベクトルmvL0の差分動きベクトルmvdL0を算出する。処理
対象ブロックのインター予測モードがL1予測(Pred_L1)の場合、L1の予測動きベク
トル候補リストmvpListL1を算出して、予測動きベクトルmvpL1を選択し、L1の動きベク
トルmvL1の差分動きベクトルmvdL1を算出する。処理対象ブロックのインター予測モード
が双予測(Pred_BI)の場合、L0予測とL1予測が共に行われ、L0の予測動きベクト
ル候補リストmvpListL0を算出して、L0の予測動きベクトルmvpL0を選択し、L0の動き
ベクトルmvL0の差分動きベクトルmvdL0を算出するとともに、L1の予測動きベクトル候
補リストmvpListL1を算出して、L1の予測動きベクトルmvpL1を算出し、L1の動きベク
トルmvL1の差分動きベクトルmvdL1をそれぞれ算出する。
【0094】
L0、L1それぞれについて、差分動きベクトル算出処理を行うが、L0、L1ともに
共通の処理となる。したがって、以下の説明においてはL0、L1を共通のLXとして表
す。L0の差分動きベクトルを算出する処理ではLXのXが0であり、L1の差分動きベ
クトルを算出する処理ではLXのXが1である。また、LXの差分動きベクトルを算出す
る処理中に、LXではなく、もう一方のリストの情報を参照する場合、もう一方のリスト
をLYとして表す。
【0095】
LXの動きベクトルmvLXを使用する場合(図19のステップS102:YES)、LX
の予測動きベクトルの候補を算出してLXの予測動きベクトル候補リストmvpListLXを構
築する(図19のステップS103)。通常予測動きベクトルモード導出部301の中の
空間予測動きベクトル候補導出部321、時間予測動きベクトル候補導出部322、履歴
予測動きベクトル候補導出部323、予測動きベクトル候補補充部325で複数の予測動
きベクトルの候補を導出して予測動きベクトル候補リストmvpListLXを構築する。図19
のステップS103の詳細な処理手順については図20のフローチャートを用いて後述す
る。
【0096】
続いて、予測動きベクトル候補選択部327により、LXの予測動きベクトル候補リス
トmvpListLXからLXの予測動きベクトルmvpLXを選択する(図19のステップS104)
。ここで、予測動きベクトル候補リストmvpListLXの中で、ある1つの要素(0から数え
てi番目の要素)をmvpListLX[i]として表す。動きベクトルmvLXと予測動きベクトル候補
リストmvpListLXの中に格納された各予測動きベクトルの候補mvpListLX[i]との差分であ
るそれぞれの差分動きベクトルを算出する。それら差分動きベクトルを符号化したときの
符号量を予測動きベクトル候補リストmvpListLXの要素(予測動きベクトル候補)ごとに
算出する。そして、予測動きベクトル候補リストmvpListLXに登録された各要素の中で、
予測動きベクトルの候補毎の符号量が最小となる予測動きベクトルの候補mvpListLX[i]を
予測動きベクトルmvpLXとして選択し、そのインデックスiを取得する。予測動きベクトル
候補リストmvpListLXの中で最小の発生符号量となる予測動きベクトルの候補が複数存在
する場合には、予測動きベクトル候補リストmvpListLXの中のインデックスiが小さい番号
で表される予測動きベクトルの候補mvpListLX[i]を最適な予測動きベクトルmvpLXとして
選択し、そのインデックスiを取得する。
【0097】
続いて、動きベクトル減算部328で、LXの動きベクトルmvLXから選択されたLXの
予測動きベクトルmvpLXを減算し、
mvdLX = mvLX - mvpLX
としてLXの差分動きベクトルmvdLXを算出する(図19のステップS105)。
【0098】
<通常予測動きベクトルモード導出部(通常AMVP):復号側の説明>
次に、図25を参照して復号側の通常予測動きベクトルモード処理手順を説明する。復
号側では、空間予測動きベクトル候補導出部421、時間予測動きベクトル候補導出部4
22、履歴予測動きベクトル候補導出部423、予測動きベクトル候補補充部425で、
通常予測動きベクトルモードのインター予測で用いる動きベクトルをL0,L1毎にそれ
ぞれ算出する(図25のステップS201~S206)。具体的には処理対象ブロックの
予測モードPredModeがインター予測(MODE_INTER)で、処理対象ブロックのインター予測
モードがL0予測(Pred_L0)の場合、L0の予測動きベクトル候補リストmvpListL0を算
出して、予測動きベクトルmvpL0を選択し、L0の動きベクトルmvL0を算出する。処理対
象ブロックのインター予測モードがL1予測(Pred_L1)の場合、L1の予測動きベクト
ル候補リストmvpListL1を算出して、予測動きベクトルmvpL1を選択し、L1の動きベクト
ルmvL1を算出する。処理対象ブロックのインター予測モードが双予測(Pred_BI)の場合
、L0予測とL1予測が共に行われ、L0の予測動きベクトル候補リストmvpListL0を算
出して、L0の予測動きベクトルmvpL0を選択し、L0の動きベクトルmvL0を算出すると
ともに、L1の予測動きベクトル候補リストmvpListL1を算出して、L1の予測動きベク
トルmvpL1を算出し、L1の動きベクトルmvL1をそれぞれ算出する。
【0099】
符号化側と同様に、復号側でもL0、L1それぞれについて、動きベクトル算出処理を
行うが、L0、L1ともに共通の処理となる。したがって、以下の説明においてはL0、
L1を共通のLXとして表す。LXは処理対象の符号化ブロックのインター予測に用いる
インター予測モードを表す。L0の動きベクトルを算出する処理ではXが0であり、L1
の動きベクトルを算出する処理ではXが1である。また、LXの動きベクトルを算出する
処理中に、算出対象のLXと同じ参照リストではなく、もう一方の参照リストの情報を参
照する場合、もう一方の参照リストをLYとして表す。
【0100】
LXの動きベクトルmvLXを使用する場合(図25のステップS202:YES)、LX
の予測動きベクトルの候補を算出してLXの予測動きベクトル候補リストmvpListLXを構
築する(図25のステップS203)。通常予測動きベクトルモード導出部401の中の
空間予測動きベクトル候補導出部421、時間予測動きベクトル候補導出部422、履歴
予測動きベクトル候補導出部423、予測動きベクトル候補補充部425で複数の予測動
きベクトルの候補を算出し、予測動きベクトル候補リストmvpListLXを構築する。図25
のステップS203の詳細な処理手順については図20のフローチャートを用いて後述す
る。
【0101】
続いて、予測動きベクトル候補選択部426で予測動きベクトル候補リストmvpListLX
からビット列復号部201にて復号されて供給される予測動きベクトルのインデックスmv
pIdxLXに対応する予測動きベクトルの候補mvpListLX[mvpIdxLX]を選択された予測動きベ
クトルmvpLXとして取り出す(図25のステップS204)。
【0102】
続いて、動きベクトル加算部427でビット列復号部201にて復号されて供給される
LXの差分動きベクトルmvdLXとLXの予測動きベクトルmvpLXを加算し、
mvLX = mvpLX + mvdLX
としてLXの動きベクトルmvLXを算出する(図25のステップS205)。
【0103】
<通常予測動きベクトルモード導出部(通常AMVP):動きベクトルの予測方法>
図20は本発明の実施の形態に係る画像符号化装置の通常予測動きベクトルモード導出
部301及び画像復号装置の通常予測動きベクトルモード導出部401とで共通する機能
を有する通常予測動きベクトルモード導出処理の処理手順を表すフローチャートである。
【0104】
通常予測動きベクトルモード導出部301及び通常予測動きベクトルモード導出部40
1では、予測動きベクトル候補リストmvpListLXを備えている。予測動きベクトル候補リ
ストmvpListLXはリスト構造を成し、予測動きベクトル候補リスト内部の所在を示す予測
動きベクトルインデックスと、インデックスに対応する予測動きベクトル候補とを要素と
して格納する記憶領域が設けられている。予測動きベクトルインデックスの数字は0から
開始され、予測動きベクトル候補リストmvpListLXの記憶領域に、予測動きベクトル候補
が格納される。本実施の形態においては、予測動きベクトル候補リストmvpListLXは少な
くとも2個の予測動きベクトル候補(インター予測情報)を登録することができるものと
する。さらに、予測動きベクトル候補リストmvpListLXに登録されている予測動きベクト
ル候補数を示す変数numCurrMvpCandに0を設定する。
【0105】
空間予測動きベクトル候補導出部321及び421は、左側に隣接するブロックからの
予測動きベクトルの候補を導出する。この処理では、左側に隣接するブロック(図11
A0またはA1)のインター予測情報、すなわち予測動きベクトル候補が利用できるか否
かを示すフラグ、及び動きベクトル、参照インデックス等を参照して予測動きベクトルmv
LXA導出し、導出したmvLXAを予測動きベクトル候補リストmvpListLXに追加する(図20
のステップS301)。なお、L0予測のときXは0、L1予測のときXは1とする(以
下同様)。続いて、空間予測動きベクトル候補導出部321及び421は、上側に隣接す
るブロックからの予測動きベクトルの候補を導出する。この処理では、上側に隣接するブ
ロック(図11のB0,B1,またはB2)のインター予測情報、すなわち予測動きベク
トル候補が利用できるか否かを示すフラグ、及び動きベクトル、参照インデックス等を参
照して予測動きベクトルmvLXBを導出し、それぞれ導出したmvLXAとmvLXBとが等しくなけ
れば、mvLXBを予測動きベクトル候補リストmvpListLXに追加する(図20のステップS3
02)。図20のステップS301とS302の処理は参照する隣接ブロックの位置と数
が異なる点以外は共通であり、符号化ブロックの予測動きベクトル候補が利用できるか否
かを示すフラグavailableFlagLXN、及び動きベクトルmvLXN、参照インデックスrefIdxN(
NはAまたはBを示す、以下同様)を導出する。
【0106】
続いて、時間予測動きベクトル候補導出部322及び422は、現在の処理対象ピクチ
ャとは時間が異なるピクチャにおけるブロックからの予測動きベクトルの候補を導出する
。この処理では、異なる時間のピクチャの符号化ブロックの予測動きベクトル候補が利用
できるか否かを示すフラグavailableFlagLXCol、及び動きベクトルmvLXCol、参照インデ
ックスrefIdxCol、参照リストlistColを導出し、mvLXColを予測動きベクトル候補リストm
vpListLXに追加する(図20のステップS303)。
【0107】
なお、シーケンス(SPS)、ピクチャ(PPS)、またはスライスの単位で時間予測
動きベクトル候補導出部322及び422の処理を省略することができるものとする。
【0108】
続いて、履歴予測動きベクトル候補導出部323及び423は履歴予測動きベクトル候
補リストHmvpCandListに登録されている履歴予測動きベクトル候補を予測動きベクトル候
補リストmvpListLXに追加する。(図20のステップS304)。このステップS304
の登録処理手順の詳細については図29のフローチャートを用いて後述する。
【0109】
続いて予測動きベクトル候補補充部325及び425は予測動きベクトル候補リストmv
pListLXを満たすまで、(0,0)等の、所定の値の予測動きベクトル候補を追加する(
図20のS305)。
【0110】
<通常マージモード導出部(通常マージ)>
図18の通常マージモード導出部302は、空間マージ候補導出部341、時間マージ
候補導出部342、平均マージ候補導出部344、履歴マージ候補導出部345、マージ
候補補充部346、マージ候補選択部347を含む。
【0111】
図24の通常マージモード導出部402は、空間マージ候補導出部441、時間マージ
候補導出部442、平均マージ候補導出部444、履歴マージ候補導出部445、マージ
候補補充部446、マージ候補選択部447を含む。
【0112】
図21は本発明の実施の形態に係る画像符号化装置の通常マージモード導出部302及
び画像復号装置の通常マージモード導出部402とで共通する機能を有する通常マージモ
ード導出処理の手順を説明するフローチャートである。
【0113】
以下、諸過程を順を追って説明する。なお、以下の説明においては特に断りのない限り
スライスタイプslice_typeがBスライスの場合について説明するが、Pスライスの場合に
も適用できる。ただし、スライスタイプslice_typeがPスライスの場合、インター予測モ
ードとしてL0予測(Pred_L0)だけがあり、L1予測(Pred_L1)、双予測(Pred_BI)
がないので、L1に纏わる処理を省略することができる。
【0114】
通常マージモード導出部302及び通常マージモード導出部402では、マージ候補リ
ストmergeCandListを備えている。マージ候補リストmergeCandListはリスト構造を成し、
マージ候補リスト内部の所在を示すマージインデックスと、インデックスに対応するマー
ジ候補を要素として格納する記憶領域が設けられている。マージインデックスの数字は0
から開始され、マージ候補リストmergeCandListの記憶領域に、マージ候補が格納される
。以降の処理では、マージ候補リストmergeCandListに登録されたマージインデックスi
のマージ候補は、mergeCandList[i]で表すこととする。本実施の形態においては、マージ
候補リストmergeCandListは少なくとも6個のマージ候補(インター予測情報)を登録す
ることができるものとする。さらに、マージ候補リストmergeCandListに登録されている
マージ候補数を示す変数numCurrMergeCandに0を設定する。
【0115】
空間マージ候補導出部341及び空間マージ候補導出部441では、画像符号化装置の
符号化情報格納メモリ111または画像復号装置の符号化情報格納メモリ205に格納さ
れている符号化情報から、処理対象ブロックに隣接するそれぞれのブロック(図11のB
1、A1、B0、A0、B2)からの空間マージ候補をB1、A1、B0、A0、B2の
順に導出して、導出された空間マージ候補をマージ候補リストmergeCandListに登録する
図21のステップS401)。ここで、B1、A1、B0、A0、B2または時間マー
ジ候補Colのいずれかを示すNを定義する。ブロックNのインター予測情報が空間マー
ジ候補として利用できるか否かを示すフラグavailableFlagN、空間マージ候補NのL0の
参照インデックスrefIdxL0N及びL1の参照インデックスrefIdxL1N、L0予測が行われる
か否かを示すL0予測フラグpredFlagL0NおよびL1予測が行われるか否かを示すL1予
測フラグpredFlagL1N、L0の動きベクトルmvL0N、L1の動きベクトルmvL1Nを導出する
。ただし、本実施の形態においては処理対象となる符号化ブロックに含まれるブロックの
インター予測情報を参照せずに、マージ候補を導出するので、処理対象の符号化ブロック
に含まれるブロックのインター予測情報を用いる空間マージ候補は導出しない。
【0116】
続いて、時間マージ候補導出部342及び時間マージ候補導出部442では、異なる時
間のピクチャからの時間マージ候補を導出して、導出された時間マージ候補をマージ候補
リストmergeCandListに登録する(図21のステップS402)。時間マージ候補が利用
できるか否かを示すフラグavailableFlagCol、時間マージ候補のL0予測が行われるか否
かを示すL0予測フラグpredFlagL0ColおよびL1予測が行われるか否かを示すL1予測
フラグpredFlagL1Col、及びL0の動きベクトルmvL0Col、L1の動きベクトルmvL1Colを
導出する。
【0117】
なお、シーケンス(SPS)、ピクチャ(PPS)、またはスライスの単位で時間マー
ジ候補導出部342及び時間マージ候補導出部442の処理を省略することができるもの
とする。
【0118】
続いて、履歴マージ候補導出部345及び履歴マージ候補導出部445では、履歴予測
動きベクトル候補リストHmvpCandListに登録されている履歴予測動きベクトル候補をマー
ジ候補リストmergeCandListに登録する(図21のステップS403)。
【0119】
なお、マージ候補リストmergeCandList内に登録されているマージ候補数numCurrMergeC
andが、最大マージ候補数MaxNumMergeCandより小さい場合、マージ候補リストmergeCandL
ist内に登録されているマージ候補数numCurrMergeCandが最大マージ候補数MaxNumMergeCa
ndを上限として履歴マージ候補は導出されて、マージ候補リストmergeCandListに登録さ
れる。
【0120】
続いて、平均マージ候補導出部344及び平均マージ候補導出部444では、マージ候
補リストmergeCandListから平均マージ候補を導出して、導出された平均マージ候補をマ
ージ候補リストmergeCandListに追加する(図21のステップS404)。
【0121】
なお、マージ候補リストmergeCandList内に登録されているマージ候補数numCurrMergeC
andが、最大マージ候補数MaxNumMergeCandより小さい場合、マージ候補リストmergeCandL
ist内に登録されているマージ候補数numCurrMergeCandが最大マージ候補数MaxNumMergeCa
ndを上限として平均マージ候補は導出されて、マージ候補リストmergeCandListに登録さ
れる。
【0122】
ここで、平均マージ候補は、マージ候補リストmergeCandListに登録されている第1の
マージ候補と第2のマージ候補の有する動きベクトルをL0予測及びL1予測毎に平均し
て得られる動きベクトルを有する新たなマージ候補である。
【0123】
続いて、マージ候補補充部346及びマージ候補補充部446では、マージ候補リスト
mergeCandList内に登録されているマージ候補数numCurrMergeCandが、最大マージ候補数M
axNumMergeCandより小さい場合、マージ候補リストmergeCandList内に登録されているマ
ージ候補数numCurrMergeCandが最大マージ候補数MaxNumMergeCandを上限として追加マー
ジ候補を導出して、マージ候補リストmergeCandListに登録する(図21のステップS4
05)。最大マージ候補数MaxNumMergeCandを上限として、Pスライスでは、動きベクト
ルが(0,0)の値を持つ予測モードがL0予測(Pred_L0)のマージ候補を追加する。
Bスライスでは、動きベクトルが(0,0)の値を持つ予測モードが双予測(Pred_BI)
のマージ候補を追加する。マージ候補を追加する際の参照インデックスは、すでに追加し
た参照インデックスと異なる。
【0124】
続いて、マージ候補選択部347及びマージ候補選択部447では、マージ候補リスト
mergeCandList内に登録されているマージ候補からマージ候補を選択する。符号化側のマ
ージ候補選択部347では、符号量とひずみ量を算出することによりマージ候補を選択し
、選択されたマージ候補を示すマージインデックス、マージ候補のインター予測情報を、
インター予測モード判定部305を介して動き補償予測部306に供給する。一方、復号
側のマージ候補選択部447では、復号されたマージインデックスに基づいて、マージ候
補を選択し、選択されたマージ候補を動き補償予測部406に供給する。
【0125】
<履歴予測動きベクトル候補リストの更新>
次に、符号化側の符号化情報格納メモリ111及び復号側の符号化情報格納メモリ20
5に備える履歴予測動きベクトル候補リストHmvpCandListの初期化方法および更新方法に
ついて詳細に説明する。図26は履歴予測動きベクトル候補リスト初期化・更新処理手順
を説明するフローチャートである。
【0126】
本実施の形態では、履歴予測動きベクトル候補リストHmvpCandListの更新は、符号化情
報格納メモリ111及び符号化情報格納メモリ205で実施されるものとする。インター
予測部102及びインター予測部203の中に履歴予測動きベクトル候補リスト更新部を
設置して履歴予測動きベクトル候補リストHmvpCandListの更新を実施させてもよい。
【0127】
スライスの先頭で履歴予測動きベクトル候補リストHmvpCandListの初期設定を行い、符
号化側では予測方法決定部105で通常予測動きベクトルモードまたは通常マージモード
が選択された場合に履歴予測動きベクトル候補リストHmvpCandListを更新し、復号側では
、ビット列復号部201で復号された予測情報が通常予測動きベクトルモードまたは通常
マージモードの場合に履歴予測動きベクトル候補リストHmvpCandListを更新する。
【0128】
通常予測動きベクトルモードまたは通常マージモードでインター予測を行う際に用いる
インター予測情報を、インター予測情報候補hMvpCandとして履歴予測動きベクトル候補リ
ストHmvpCandListに登録する。インター予測情報候補hMvpCandには、L0の参照インデッ
クスrefIdxL0およびL1の参照インデックスrefIdxL1、L0予測が行われるか否かを示す
L0予測フラグpredFlagL0およびL1予測が行われるか否かを示すL1予測フラグpredFl
agL1、L0の動きベクトルmvL0、L1の動きベクトルmvL1が含まれる。
【0129】
符号化側の符号化情報格納メモリ111及び復号側の符号化情報格納メモリ205に備
える履歴予測動きベクトル候補リストHmvpCandListに登録されている要素(すなわち、イ
ンター予測情報)の中に、インター予測情報候補hMvpCandと同じ値のインター予測情報が
存在する場合は、履歴予測動きベクトル候補リストHmvpCandListからその要素を削除する
。一方、インター予測情報候補hMvpCandと同じ値のインター予測情報が存在しない場合は
、履歴予測動きベクトル候補リストHmvpCandListの先頭の要素を削除し、履歴予測動きベ
クトル候補リストHmvpCandListの最後に、インター予測情報候補hMvpCandを追加する。
【0130】
本発明の符号化側の符号化情報格納メモリ111及び復号側の符号化情報格納メモリ2
05に備える履歴予測動きベクトル候補リストHmvpCandListの要素の数は6とする。
【0131】
まず、スライス単位での履歴予測動きベクトル候補リストHmvpCandListの初期化を行う
図26のステップS2101)。スライスの先頭で履歴予測動きベクトル候補リストHm
vpCandListのすべての要素を空にし、履歴予測動きベクトル候補リストHmvpCandListに登
録されている履歴予測動きベクトル候補の数(現在の候補数)NumHmvpCandの値は0に設定
する。
【0132】
なお、履歴予測動きベクトル候補リストHmvpCandListの初期化をスライス単位(スライ
スの最初の符号化ブロック)で実施するとしたが、ピクチャ単位、タイル単位やツリーブ
ロック行単位で実施しても良い。
【0133】
続いて、スライス内の符号化ブロック毎に以下の履歴予測動きベクトル候補リストHmvp
CandListの更新処理を繰り返し行なう(図26のステップS2102~S2107)。
【0134】
まず、符号化ブロック単位での初期設定を行う。同一候補が存在するか否かを示すフラ
グidenticalCandExistにFALSE(偽)の値を設定し、削除対象の候補を示す削除対象イン
デックスremoveIdxに0を設定する(図26のステップS2103)。
【0135】
登録対象のインター予測情報候補hMvpCandが存在するか否かを判定する(図26のステ
ップS2104)。符号化側の予測方法決定部105で通常予測動きベクトルモードまた
は通常マージモードと判定された場合、または復号側のビット列復号部201で通常予測
動きベクトルモードまたは通常マージモードとして復号された場合、そのインター予測情
報を登録対象のインター予測情報候補hMvpCandとする。符号化側の予測方法決定部105
でイントラ予測モード、サブブロック予測動きベクトルモードまたはサブブロックマージ
モードと判定された場合、または復号側のビット列復号部201でイントラ予測モード、
サブブロック予測動きベクトルモードまたはサブブロックマージモードとして復号された
場合、履歴予測動きベクトル候補リストHmvpCandListの更新処理を行わず、登録対象のイ
ンター予測情報候補hMvpCandは存在しない。登録対象のインター予測情報候補hMvpCandが
存在しない場合はステップS2105~S2106をスキップする(図26のステップS
2104:NO)。登録対象のインター予測情報候補hMvpCandが存在する場合はステップ
S2105以下の処理を行う(図26のステップS2104:YES)。
【0136】
続いて、履歴予測動きベクトル候補リストHmvpCandListの各要素の中に登録対象のイン
ター予測情報候補hMvpCandと同じ値の要素(インター予測情報)、すなわち同一の要素が
存在するか否かを判定する(図26のステップS2105)。図27はこの同一要素確認
処理手順のフローチャートである。履歴予測動きベクトル候補の数NumHmvpCandの値が0
の場合(図27のステップS2121:NO)、履歴予測動きベクトル候補リストHmvpCa
ndListは空で、同一候補は存在しないので図27のステップS2122~S2125をス
キップし、本同一要素確認処理手順を終了する。履歴予測動きベクトル候補の数NumHmvpC
andの値が0より大きい場合(図27のステップS2121のYES)、履歴予測動きベク
トルインデックスhMvpIdxが0からNumHmvpCand-1まで、ステップS2123の処理を繰り
返す(図27のステップS2122~S2125)。まず、履歴予測動きベクトル候補リ
ストの0から数えてhMvpIdx番目の要素HmvpCandList[hMvpIdx]がインター予測情報候補hM
vpCandと同一か否かを比較する(図27のステップS2123)。同一の場合(図27
ステップS2123:YES)、同一候補が存在するか否かを示すフラグidenticalCandE
xistにTRUE(真)の値を設定し、削除対象の要素の位置を示す削除対象インデックスremo
veIdxに現在の履歴予測動きベクトルインデックスhMvpIdxの値を設定し、本同一要素確認
処理を終了する。同一でない場合(図27のステップS2123:NO)、hMvpIdxを1イ
ンクリメントし、履歴予測動きベクトルインデックスhMvpIdxがNumHmvpCand-1以下であれ
ば、ステップS2123以降の処理を行う。
【0137】
再び図26のフローチャートに戻り、履歴予測動きベクトル候補リストHmvpCandListの
要素のシフト及び追加処理を行う(図26のステップS2106)。図28図26のス
テップS2106の履歴予測動きベクトル候補リストHmvpCandListの要素シフト/追加処
理手順のフローチャートである。まず、履歴予測動きベクトル候補リストHmvpCandListに
格納されている要素を除いてから新たな要素を追加するか、要素を除かずに新たな要素追
加するかを判定する。具体的には同一候補が存在するか否かを示すフラグidenticalCandE
xistにTRUE(真)またはNumHmvpCandが6か否かを比較する(図28のステップS2141
)。同一候補が存在するか否かを示すフラグidenticalCandExistにTRUE(真)または現在
の候補数NumHmvpCandが6のいずれかの条件を満たす場合(図28のステップS2141:
YES)、履歴予測動きベクトル候補リストHmvpCandListに格納されている要素を除いて
から新たな要素を追加する。インデックスiの初期値をremoveIdx + 1の値に設定する。こ
の初期値からNumHmvpCandまで、ステップS2143の要素シフト処理を繰り返す。(図
28のステップS2142~S2144)。HmvpCandList[ i - 1 ]にHmvpCandList[ i
]の要素をコピーすることで要素を前方にシフトし(図28のステップS2143)、iを
1インクリメントする(図28のステップS2142~S2144)。続いて、履歴予測
動きベクトル候補リストの最後に相当する0から数えて(NumHmvpCand-1)番目 HmvpCandLi
st[NumHmvpCand-1]にインター予測情報候補hMvpCandを追加し(図28のステップS21
45)、本履歴予測動きベクトル候補リストHmvpCandListの要素シフト・追加処理を終了
する。一方、同一候補が存在するか否かを示すフラグidenticalCandExistにTRUE(真)お
よびNumHmvpCandが6のいずれの条件も満たさない場合(図28のステップS2141:N
O)、履歴予測動きベクトル候補リストHmvpCandListに格納されている要素を除かずに、
履歴予測動きベクトル候補リストの最後にインター予測情報候補hMvpCandを追加する(図
28のステップS2146)。ここで、履歴予測動きベクトル候補リストの最後とは、0
から数えてNumHmvpCand番目のHmvpCandList[NumHmvpCand]である。また、NumHmvpCandを
1インクリメントして、本履歴予測動きベクトル候補リストHmvpCandListの要素シフトお
よび追加処理を終了する。
【0138】
図31は履歴予測動きベクトル候補リストの更新処理の一例を説明する図である。6つ
の要素(インター予測情報)を登録済みの履歴予測動きベクトル候補リストHmvpCandList
に新たな要素を追加する場合、履歴予測動きベクトル候補リストHmvpCandListの前方の要
素から順に新たなインター予測情報と比較して(図31A)、新たな要素が履歴予測動き
ベクトル候補リストHmvpCandListの先頭から3番目の要素HMVP2と同じ値であれば、履歴
予測動きベクトル候補リストHmvpCandListから要素HMVP2を削除して後方の要素HMVP3~HM
VP5を前方に1つずつシフト(コピー)し、履歴予測動きベクトル候補リストHmvpCandLis
tの最後に新たな要素を追加して(図31B)、履歴予測動きベクトル候補リストHmvpCan
dListの更新を完了する(図31C)。
【0139】
<履歴予測動きベクトル候補導出処理>
次に、符号化側の通常予測動きベクトルモード導出部301の履歴予測動きベクトル候
補導出部323、復号側の通常予測動きベクトルモード導出部401の履歴予測動きベク
トル候補導出部423で共通の処理である図20のステップS304の処理手順である履
歴予測動きベクトル候補リストHmvpCandListからの履歴予測動きベクトル候補の導出方法
について詳細に説明する。図29は履歴予測動きベクトル候補導出処理手順を説明するフ
ローチャートである。
【0140】
現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpLis
tLXの最大要素数(ここでは2とする)以上または履歴予測動きベクトル候補の数がNumHm
vpCandの値が0の場合(図29のステップS2201のNO)、図29のステップS22
02からS2209の処理を省略し、履歴予測動きベクトル候補導出処理手順を終了する
。現在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpLis
tLXの最大要素数である2より小さい場合、かつ履歴予測動きベクトル候補の数NumHmvpCa
ndの値が0より大きい場合(図29のステップS2201のYES)、図29のステップ
S2202からS2209の処理を行う。
【0141】
続いて、インデックスiが1から、4と履歴予測動きベクトル候補の数numCheckedHMVP
Candのいずれか小さい値まで、図29のステップS2203からS2208の処理を繰り
返す(図29のステップS2202~S2209)。現在の予測動きベクトル候補の数nu
mCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数である2以上の場合
図29のステップS2203:NO)、図29のステップS2204からS2209の
処理を省略し、本履歴予測動きベクトル候補導出処理手順を終了する。現在の予測動きベ
クトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数で
ある2より小さい場合(図29のステップS2203:YES)、図29のステップS2
204以降の処理を行う。
【0142】
続いて、ステップS2205からS2207までの処理をYが0と1(L0とL1)に
ついてそれぞれ行う(図29のステップS2204~S2208)。現在の予測動きベク
トル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLXの最大要素数であ
る2以上の場合(図29のステップS2205:NO)、図29のステップS2206か
らS2209の処理を省略し、本履歴予測動きベクトル候補導出処理手順を終了する。現
在の予測動きベクトル候補の数numCurrMvpCandが予測動きベクトル候補リストmvpListLX
の最大要素数である2より小さい場合(図29のステップS2205:YES)、図29
のステップS2206以降の処理を行う。
【0143】
続いて、履歴予測動きベクトル候補リストHmvpCandListの中に、符号化/復号対象動き
ベクトルの参照インデックスrefIdxLXと同じ参照インデックスの要素であり、予測動きベ
クトルリストmvpListLXのどの要素とも異なる要素の場合(図29のステップS2206
:YES)、予測動きベクトル候補リストの0から数えてnumCurrMvpCand番目の要素mvpL
istLX[numCurrMvpCand]に履歴予測動きベクトル候補HmvpCandList[NumHmvpCand - i]のLY
の動きベクトルを追加し(図29のステップS2207)、現在の予測動きベクトル候補
の数numCurrMvpCandを1インクリメントする。履歴予測動きベクトル候補リストHmvpCand
Listの中に、符号化/復号対象動きベクトルの参照インデックスrefIdxLXと同じ参照イン
デックスの要素であり、予測動きベクトルリストmvpListLXのどの要素とも異なる要素が
ない場合(図29のステップS2206:NO)、ステップS2207の追加処理をスキ
ップする。
【0144】
以上の図29のステップS2205からS2207の処理をL0とL1で双方ともに行
う(図29のステップS2204~S2208)。インデックスiを1インクリメントし
、インデックスiが4と履歴予測動きベクトル候補の数NumHmvpCandのいずれか小さい値
以下の場合、再びステップS2203以降の処理を行う(図29のステップS2202~
S2209)。
【0145】
<履歴マージ候補導出処理>
次に、符号化側の通常マージモード導出部302の履歴マージ候補導出部345、復号
側の通常マージモード導出部402の履歴マージ候補導出部445で共通の処理である図
21のステップS404の処理手順である履歴マージ候補リストHmvpCandListからの履歴
マージ候補の導出方法について詳細に説明する。図30は履歴マージ候補導出処理手順を
説明するフローチャートである。
【0146】
まず、初期化処理を行う(図30のステップS2301)。isPruned[i]の0から(numCu
rrMergeCand -1)番目のそれぞれの要素にFALSEの値を設定し、変数numOrigMergeCandに現
在のマージ候補リストに登録されている要素の数numCurrMergeCandを設定する。
【0147】
続いて、インデックスhMvpIdxの初期値を1に設定し、この初期値からNumHmvpCandまで
図30のステップS2303からステップS2310までの追加処理を繰り返す(図3
0のステップS2302~S2311)。現在のマージ候補リストに登録されている要素
の数numCurrMergeCandが(最大マージ候補数MaxNumMergeCand-1)以下でなければ、マージ
候補リストのすべての要素にマージ候補が追加されたので、本履歴マージ候補導出処理を
終了する(図30のステップS2303のNO)。現在のマージ候補リストに登録されて
いる要素の数numCurrMergeCandが(最大マージ候補数MaxNumMergeCand-1)以下の場合、ス
テップS2304以降の処理を行う。sameMotionにFALSE(偽)の値を設定する(図30
のステップS2304)。続いて、インデックスiの初期値を0に設定し、この初期値から
numOrigMergeCand-1まで図30のステップS2306、S2307の処理を行う(図30
のS2305~S2308)。履歴動きベクトル予測候補リストの0から数えて(NumHmvp
Cand - hMvpIdx)番目の要素HmvpCandList[NumHmvpCand- hMvpIdx]がマージ候補リストの
0から数えてi番目の要素mergeCandList[i]と同じ値か否かを比較する(図30のステッ
プS2306)。
【0148】
マージ候補の同じ値とはマージ候補が持つすべての構成要素(インター予測モード、参
照インデックス、動きベクトル)の値が同じ場合にマージ候補が同じ値とする。マージ候
補が同じ値、かつisPruned[i]がFALSEの場合(図30のステップS2306のYES)、
sameMotionおよびisPruned[i]共にTRUE(真)を設定する(図30のステップS2307
)。同じ値でない場合(図30のステップS2306のNO)、ステップS2307の処
理をスキップする。図30のステップS2305からステップS2308までの繰り返し
処理が完了したらsameMotionがFALSE(偽)か否かを比較し(図30のステップS230
9)、sameMotionが FALSE(偽)の場合(図30のステップS2309のYES)、すな
わち履歴予測動きベクトル候補リストの0から数えて(NumHmvpCand - hMvpIdx)番目の要
素HmvpCandList[NumHmvpCand - hMvpIdx]はmergeCandListに存在しないので、マージ候補
リストのnumCurrMergeCand番目のmergeCandList[numCurrMergeCand]に履歴予測動きベク
トル候補リストの0から数えて(NumHmvpCand - hMvpIdx)番目の要素HmvpCandList[NumHmv
pCand - hMvpIdx]を追加し、numCurrMergeCandを1インクリメントする(図30のステッ
プS2310)。インデックスhMvpIdxを1インクリメントし(図30のステップS23
02)、図30のステップS2302~S2311の繰り返し処理を行う。
【0149】
履歴予測動きベクトル候補リストのすべての要素の確認が完了するか、マージ候補リス
トのすべての要素にマージ候補が追加されたら、本履歴マージ候補の導出処理を完了する
【0150】
<平均マージ候補導出処理>
次に、符号化側の通常マージモード導出部302の平均マージ候補導出部344、復号
側の通常マージモード導出部402の平均マージ候補導出部444で共通の処理である図
21のステップS403の処理手順である平均マージ候補の導出方法について詳細に説明
する。図38は平均マージ候補導出処理手順を説明するフローチャートである。
【0151】
まず、初期化処理を行う(図38のステップS1301)。変数numOrigMergeCandに現
在のマージ候補リストに登録されている要素の数numCurrMergeCandを設定する。
【0152】
続いて、マージ候補リストの先頭から順に走査し、2つの動き情報を決定する。1つ目
の動き情報を示すインデックスi=0、2つ目の動き情報を示すインデックスj=1とする。(
図38のステップS1302~S1303)。現在のマージ候補リストに登録されている
要素の数numCurrMergeCandが(最大マージ候補数MaxNumMergeCand-1)以下でなければ、マ
ージ候補リストのすべての要素にマージ候補が追加されたので、本履歴マージ候補導出処
理を終了する(図38のステップS1304)。現在のマージ候補リストに登録されてい
る要素の数numCurrMergeCandが(最大マージ候補数MaxNumMergeCand-1)以下の場合は、ス
テップS1305以降の処理を行う。
【0153】
マージ候補リストのi番目の動き情報mergeCandList[i]とマージ候補リストのj番目の動
き情報mergeCandList[j]がともに無効であるか否かを判定し(図38のステップS130
5)、ともに無効である場合は、mergeCandList[i]とmergeCandList[j]の平均マージ候補
の導出を行わず、次の要素に移る。mergeCandList[i]とmergeCandList[j]がともに無効で
ない場合は、Xを0と1として以下の処理を繰り返す(図38のステップS1306からS
1314)。
【0154】
mergeCandList[i]のLX予測が有効であるかを判定する(図38のステップS1307)
。mergeCandList[i]のLX予測が有効である場合は、mergeCandList[j]のLX予測が有効であ
るかを判定する(図38のステップS1308)。mergeCandList[j]のLX予測が有効であ
る場合、すなわち、mergeCandList[i]のLX予測とmergeCandList[j]のLX予測がともに有効
である場合は、mergeCandList[i]のLX予測の動きベクトルとmergeCandList[j]のLX予測の
動きベクトルを平均したLX予測の動きベクトルとmergeCandList[i]のLX予測の参照インデ
ックスを有するLX予測の平均マージ候補を導出してaverageCandのLX予測に設定し、avera
geCandのLX予測を有効とする(図38のステップS1309)。図38のステップS13
08で、mergeCandList[j]のLX予測が有効でない場合、すなわち、mergeCandList[i]のLX
予測が有効、かつmergeCandList[j]のLX予測が無効である場合は、mergeCandList[i]のLX
予測の動きベクトルと参照インデックスを有するLX予測の平均マージ候補を導出してaver
ageCandのLX予測に設定し、averageCandのLX予測を有効とする(図38のステップS13
10)。図38のステップS1307で、mergeCandList[i]のLX予測が有効でない場合、
mergeCandList[j]のLX予測が有効であるか否かを判定する(図38のステップS1311
)。mergeCandList[j]のLX予測が有効である場合、すなわちmergeCandList[i]のLX予測が
無効、かつmergeCandList[j] のLX予測が有効である場合は、mergeCandList[j]のLX予測
の動きベクトルと参照インデックスを有するLX予測の平均マージ候補を導出してaverageC
andのLX予測に設定し、averageCandのLX予測を有効とする(図38のステップS1312
)。図38のステップS1311で、mergeCandList[j]のLX予測が有効でない場合、すな
わちmergeCandList[i]のLX予測、mergeCandList[j]のLX予測がともに無効である場合は、
averageCandのLX予測を無効とする(図38のステップS1312)。
【0155】
以上のように生成されたL0予測、L1予測またはBI予測の平均マージ候補averageCandを
、マージ候補リストのnumCurrMergeCand番目のmergeCandList[numCurrMergeCand]に追加
し、numCurrMergeCandを1インクリメントする(図38のステップS1315)。以上で
、平均マージ候補の導出処理を完了する。
【0156】
なお、平均マージ候補は動きベクトルの水平成分と動きベクトルの垂直成分それぞれで
平均される。
【0157】
<動き補償予測処理>
動き補償予測部306は、符号化において現在予測処理の対象となっているブロックの
位置およびサイズを取得する。また、動き補償予測部306は、インター予測情報をイン
ター予測モード判定部305から取得する。取得したインター予測情報から参照インデッ
クスおよび動きベクトルを導出し、復号画像メモリ104内の参照インデックスで特定さ
れる参照ピクチャを、動きベクトルの分だけ予測ブロックの画像信号と同一位置より移動
させた位置の画像信号を取得した後に予測信号を生成する。
【0158】
インター予測におけるインター予測モードがL0予測やL1予測のような、単一の参照ピク
チャからの予測の場合には、1つの参照ピクチャから取得した予測信号を動き補償予測信
号とし、インター予測モードがBI予測のような、予測モードが2つの参照ピクチャからの
予測の場合には、2つの参照ピクチャから取得した予測信号を重みづけ平均したものを動
き補償予測信号とし、動き補償予測信号を予測方法決定部105に供給する。ここでは双
予測の重みづけ平均の比率を1:1とするが、他の比率を用いて重みづけ平均を行っても
良い。例えば、予測対象となっているピクチャと参照ピクチャとのピクチャ間隔が近いも
のほど重みづけの比率が大きくなるようにしてもよい。また、重みづけ比率の算出をピク
チャ間隔の組み合わせと重みづけ比率との対応表を用いて行うようにしても良い。
【0159】
動き補償予測部406は、符号化側の動き補償予測部306と同様の機能をもつ。動き
補償予測部406は、インター予測情報を、通常予測動きベクトルモード導出部401、
通常マージモード導出部402、サブブロック予測動きベクトルモード導出部403、サ
ブブロックマージモード導出部404から、スイッチ408を介して取得する。動き補償
予測部406は、得られた動き補償予測信号を、復号画像信号重畳部207に供給する。
【0160】
<インター予測モードについて>
単一の参照ピクチャからの予測を行う処理を単予測と定義し、単予測の場合はL0予測
またはL1予測という、参照リストL0、L1に登録された2つの参照ピクチャのいずれ
か一方を利用した予測を行う。
【0161】
図32は単予測であってL0の参照ピクチャ(RefL0Pic)が処理対象ピクチャ
(CurPic)より前の時刻にある場合を示している。図33は単予測であってL0予
測の参照ピクチャが処理対象ピクチャより後の時刻にある場合を示している。同様に、図
32および図33のL0予測の参照ピクチャをL1予測の参照ピクチャ(RefL1Pi
c)に置き換えて単予測を行うこともできる。
【0162】
2つの参照ピクチャからの予測を行う処理を双予測と定義し、双予測の場合はL0予測
とL1予測の双方を利用してBI予測と表現する。図34は双予測であってL0予測の参
照ピクチャが処理対象ピクチャより前の時刻にあって、L1予測の参照ピクチャが処理対
象ピクチャより後の時刻にある場合を示している。図35は双予測であってL0予測の参
照ピクチャとL1予測の参照ピクチャが処理対象ピクチャより前の時刻にある場合を示し
ている。図36は双予測であってL0予測の参照ピクチャとL1予測の参照ピクチャが処
理対象ピクチャより後の時刻にある場合を示している。
【0163】
このように、L0/L1の予測種別と時間の関係は、L0が過去方向、L1が未来方向
とは限定されずに用いることが可能である。また双予測の場合に、同一の参照ピクチャを
用いてL0予測及びL1予測のそれぞれを行ってもよい。なお、動き補償予測を単予測で
行うか双予測で行うかの判断は、例えばL0予測を利用するか否か及びL1予測を利用す
るか否かを示す情報(例えば、フラグ)に基づき判断される。
【0164】
<参照インデックスについて>
本発明の実施の形態では、動き補償予測の精度向上のために、動き補償予測において複
数の参照ピクチャの中から最適な参照ピクチャを選択することを可能とする。そのため、
動き補償予測で利用した参照ピクチャを参照インデックスとして利用するとともに、参照
インデックスを差分動きベクトルとともにビットストリーム中に符号化する。
【0165】
<通常予測動きベクトルモードに基づく動き補償処理>
動き補償予測部306は、図16の符号化側におけるインター予測部102でも示され
るように、インター予測モード判定部305において、通常予測動きベクトルモード導出
部301によるインター予測情報が選択された場合には、このインター予測情報をインタ
ー予測モード判定部305から取得し、現在処理対象となっているブロックのインター予
測モード、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生
成された動き補償予測信号は、予測方法決定部105に供給される。
【0166】
同様に、動き補償予測部406は、図22の復号側におけるインター予測部203でも
示されるように、復号の過程でスイッチ408が通常予測動きベクトルモード導出部40
1に接続された場合には、通常予測動きベクトルモード導出部401によるインター予測
情報を取得し、現在処理対象となっているブロックのインター予測モード、参照インデッ
クス、動きベクトルを導出し、動き補償予測信号を生成する。生成された動き補償予測信
号は、復号画像信号重畳部207に供給される。
【0167】
<通常マージモードに基づく動き補償処理>
動き補償予測部306は、図16の符号化側におけるインター予測部102でも示され
るように、インター予測モード判定部305において、通常マージモード導出部302に
よるインター予測情報が選択された場合には、このインター予測情報をインター予測モー
ド判定部305から取得し、現在処理対象となっているブロックのインター予測モード、
参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生成された動
き補償予測信号は、予測方法決定部105に供給される。
【0168】
同様に、動き補償予測部406は、図22の復号側におけるインター予測部203でも
示されるように、復号の過程でスイッチ408が通常マージモード導出部402に接続さ
れた場合には、通常マージモード導出部402によるインター予測情報を取得し、現在処
理対象となっているブロックのインター予測モード、参照インデックス、動きベクトルを
導出し、動き補償予測信号を生成する。生成された動き補償予測信号は、復号画像信号重
畳部207に供給される。
【0169】
<サブブロック予測動きベクトルモードに基づく動き補償処理>
動き補償予測部306は、図16の符号化側におけるインター予測部102でも示され
るように、インター予測モード判定部305において、サブブロック予測動きベクトルモ
ード導出部303によるインター予測情報が選択された場合には、このインター予測情報
をインター予測モード判定部305から取得し、現在処理対象となっているブロックのイ
ンター予測モード、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成
する。生成された動き補償予測信号は、予測方法決定部105に供給される。
【0170】
同様に、動き補償予測部406は、図22の復号側におけるインター予測部203でも
示されるように、復号の過程でスイッチ408がサブブロック予測動きベクトルモード導
出部403に接続された場合には、サブブロック予測動きベクトルモード導出部403に
よるインター予測情報を取得し、現在処理対象となっているブロックのインター予測モー
ド、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生成され
た動き補償予測信号は、復号画像信号重畳部207に供給される。
【0171】
<サブブロックマージモードに基づく動き補償処理>
動き補償予測部306は、図16の符号化側におけるインター予測部102でも示され
るように、インター予測モード判定部305において、サブブロックマージモード導出部
304によるインター予測情報が選択された場合には、このインター予測情報をインター
予測モード判定部305から取得し、現在処理対象となっているブロックのインター予測
モード、参照インデックス、動きベクトルを導出し、動き補償予測信号を生成する。生成
された動き補償予測信号は、予測方法決定部105に供給される。
【0172】
同様に、動き補償予測部406は、図22の復号側におけるインター予測部203でも
示されるように、復号の過程でスイッチ408がサブブロックマージモード導出部404
に接続された場合には、サブブロックマージモード導出部404によるインター予測情報
を取得し、現在処理対象となっているブロックのインター予測モード、参照インデックス
、動きベクトルを導出し、動き補償予測信号を生成する。生成された動き補償予測信号は
、復号画像信号重畳部207に供給される。
【0173】
<アフィン変換予測に基づく動き補償処理>
通常予測動きベクトルモード、および通常マージモードでは、以下のフラグに基づいて
アフィンモデルによる動き補償が利用できる。以下のフラグは、符号化処理においてイン
ター予測モード判定部305により決定されるインター予測の条件に基づいて以下のフラ
グに反映され、ビットストリーム中に符号化される。復号処理においては、ビットストリ
ーム中の以下のフラグに基づいてアフィンモデルによる動き補償を行うか否かを特定する
【0174】
sps_affine_enabled_flagは、インター予測において、アフィンモデルによる動き補償
が利用できるか否かを表す。sps_affine_enabled_flagが0であれば、シーケンス単位で
アフィンモデルによる動き補償ではないように抑制される。また、inter_affine_flag と
cu_affine_type_flag は、符号化ビデオシーケンスのCU(符号化ブロック)シンタック
スにおいて伝送されない。sps_affine_enabled_flagが1であれば、符号化ビデオシーケ
ンスにおいてアフィンモデルによる動き補償を利用できる。
【0175】
sps_affine_type_flagは、インター予測において、6パラメータアフィンモデルによる
動き補償が利用できるか否かを表す。sps_affine_type_flagが0であれば、6パラメータ
アフィンモデルによる動き補償ではないように抑制される。また、cu_affine_type_flag
は、符号化ビデオシーケンスのCUシンタックスにおいて伝送されない。sps_affine_typ
e_flagが1であれば、符号化ビデオシーケンスにおいて6パラメータアフィンモデルによ
る動き補償を利用できる。sps_affine_type_flagが存在しない場合には、0であるものと
する。
【0176】
PまたはBスライスを復号している場合、現在処理対象となっているCUにおいて、inte
r_affine_flagが1であれば、現在処理対象となっているCUの動き補償予測信号を生成
するために、アフィンモデルによる動き補償が用いられる。inter_affine_flagが0であ
れば、現在処理対象となっているCUにアフィンモデルは用いられない。inter_affine_f
lagが存在しない場合には、0であるものとする。
【0177】
PまたはBスライスを復号している場合、現在処理対象となっているCUにおいて、cu_a
ffine_type_flagが1であれば、現在処理対象となっているCUの動き補償予測信号を生
成するために、6パラメータアフィンモデルによる動き補償が用いられる。cu_affine_typ
e_flagが0であれば、現在処理対象となっているCUの動き補償予測信号を生成するため
に、4パラメータアフィンモデルによる動き補償が用いられる。
【0178】
アフィンモデルによる動き補償では、サブブロック単位で参照インデックスや動きベク
トルが導出されることから、サブブロック単位で処理対象となっている参照インデックス
や動きベクトルを用いて動き補償予測信号を生成する。
【0179】
4パラメータアフィンモデルは2つの制御点のそれぞれの動きベクトルの水平成分及び
垂直成分の4つのパラメータからサブブロックの動きベクトルを導出し、サブブロック単
位で動き補償を行うモードである。
【0180】
<イントラブロックコピー(IBC)>
図39を参照してイントラブロックコピーの有効参照領域を説明する。図39Aは符号
化ツリーブロック単位をイントラブロックコピー基準ブロックとして、有効参照領域を決
定する場合の例である。図39Aの500、501、502、503、504は符号化ツ
リーブロックであり、504が処理対象の符号化ツリーブロックである。505は、処理
対象符号化ブロックである。符号化ツリーブロックの処理順は、500、501、502
、503、504の順とする。この場合、処理対象符号化ブロック505を含む符号化ツ
リーブロック504の直前に処理された3つの符号化ツリーブロック501、502、5
03を処理対象符号化ブロック505の有効参照領域とする。符号化ツリーブロック50
1より前に処理された符号化ツリーブロック、及び処理対象符号化ブロック505より前
に処理が完了しているか否かに関わらず、処理対象符号化ブロック505を含む符号化ツ
リーブロック504に含まれる領域はすべて無効参照領域とする。
【0181】
図39Bは、符号化ツリーブロックを4分割した単位をイントラブロックコピー基準ブ
ロックとして、有効参照領域を決定する場合の例である。図39Bの515、516は符
号化ツリーブロックであり、516が処理対象の符号化ツリーブロックである。符号化ツ
リーブロック515は506、507、508、509に4分割され、516は510、
511、512、513に4分割される。514は処理対象符号化ブロックである。イン
トラブロックコピー基準ブロックの処理順は、506、507、508、509、510
、511、512、513の順とする。この場合、処理対象符号化ブロック514を含む
イントラブロックコピー基準ブロック511の直前に処理された3つのイントラブロック
コピー基準ブロック508、509、510を処理対象符号化ブロック514の有効参照
領域とする。イントラブロックコピー基準ブロック508より前に処理された符号化ツリ
ーブロック、及び処理対象符号化ブロック514より前に処理が完了しているか否かに関
わらず、処理対象符号化ブロック514を含むイントラブロックコピー基準ブロック51
1に含まれる領域はすべて無効参照領域とする。
【0182】
<予測イントラブロックコピー:符号化側の説明>
図44を参照して符号化側の予測イントラブロックコピー処理手順を説明する。
【0183】
まず、ブロックベクトル検出部375でブロックベクトルmvLを検出する(図44のス
テップS4500)。 続いて、IBC空間ブロックベクトル候補導出部371、IB
C履歴予測ブロックベクトル候補導出部372、IBC予測ブロックベクトル候補補充部
373、IBC予測ブロックベクトル候補選択部376、ブロックベクトル減算部378
で、予測ブロックベクトルモードで用いるブロックベクトルの差分ブロックベクトルを算
出する(図44のステップS4501~S4503)。
【0184】
予測ブロックベクトルの候補を算出してブロックベクトル候補リストmvpListを構築す
る(図44のステップS4501)。イントラブロックコピー予測部352の中のIBC
空間ブロックベクトル候補導出部371、IBC履歴ブロックベクトル候補導出部372
、IBC予測ブロックベクトル候補補充部373で複数の予測ブロックベクトルの候補を
導出して予測ブロックベクトル候補リストmvpListを構築する。図44のステップS45
01の詳細な処理手順については図47のフローチャートを用いて後述する。
【0185】
続いて、IBC予測ブロックベクトル候補選択部376により、予測ブロックベクトル
候補リストmvpListLから予測ブロックベクトルmvpLを選択する(図44のステップS45
02)。ブロックベクトルmvLと予測ブロックベクトル候補リストmvpListLの中に格納さ
れた各予測ブロックベクトルの候補mvpListL[i]との差分であるそれぞれの差分ブロック
ベクトルを算出する。それら差分ブロックベクトルを符号化したときの符号量を予測ブロ
ックベクトル候補リストmvpListLの要素ごとに算出する。そして、予測ブロックベクトル
候補リストmvpListLに登録された各要素の中で、予測ブロックベクトルの候補毎の符号量
が最小となる予測ブロックベクトルの候補mvpListL[i]を予測ブロックベクトルmvpLとし
て選択し、そのインデックスiを取得する。予測ブロックベクトル候補リストmvpListLの
中で最小の発生符号量となる予測ブロックベクトルの候補が複数存在する場合には、予測
ブロックベクトル候補リストmvpListLの中のインデックスiが小さい番号で表される予測
ブロックベクトルの候補mvpListL[i]を最適予測ブロックベクトルmvpLとして選択し、そ
のインデックスiを取得する。
【0186】
続いて、ブロックベクトル減算部378で、ブロックベクトルmvLから選択された予測
ブロックベクトルmvpLを減算し、
mvdL = mvL - mvpL
として差分ブロックベクトルmvdLを算出する(図44のステップS4503)。
【0187】
<予測イントラブロックコピー:復号側の説明>
次に、図45を参照して復号側の予測ブロックベクトルモード処理手順を説明する。復
号側では、IBC空間予測ブロックベクトル候補導出部471、IBC履歴ブロックベク
トル候補導出部472、IBC予測ブロックベクトル補充部473で、予測ブロックベク
トルモードで用いるブロックベクトルを算出する(図45のステップS4600~S46
02)。具体的には予測ブロックベクトル候補リストmvpListLを算出して、予測ブロック
ベクトルmvpLを選択し、ブロックベクトルmvLを算出する。
【0188】
予測ブロックベクトルの候補を算出して予測ブロックベクトル候補リストmvpListLを構
築する(図45のステップS4601)。イントラブロックコピー予測部362の中のI
BC空間ブロックベクトル候補導出部471、IBC履歴ブロックベクトル候補導出部4
72、IBCブロックベクトル補充部473で複数の予測ブロックベクトルの候補を算出
し、予測ブロックベクトル候補リストmvpListLを構築する。図45のステップS4601
の詳細な処理手順については説明を省略する。 続いて、IBC予測ブロックベクトル
候補選択部476で予測ブロックベクトル候補リストmvpListLからビット列復号部201
にて復号されて供給される予測ブロックベクトルのインデックスmvpIdxLに対応する予測
ブロックベクトルの候補mvpListL[mvpIdxL]を選択された予測ブロックベクトルmvpLとし
て取り出す(図45のステップS4601)。 続いて、ブロックベクトル加算部47
8でビット列復号部201にて復号されて供給される差分ブロックベクトルmvdLと予測ブ
ロックベクトルmvpLを加算し、
mvL = mvpL + mvdL
としてブロックベクトルmvLを算出する(図45のステップS4602)。
【0189】
<予測ブロックベクトルモード:ブロックベクトルの予測方法>
図47は本発明の実施の形態に係る動画像符号化装置のイントラブロックコピー予測部
352及び動画像復号装置のイントラブロックコピー予測部362とで共通する機能を有
する予測イントラブロックコピーモード導出処理の処理手順を表すフローチャートである
【0190】
イントラブロックコピー予測部352及びイントラブロックコピー予測部362では、
予測ブロックベクトル候補リストmvpListLを備えている。予測ブロックベクトル候補リス
トmvpListLはリスト構造を成し、予測ブロックベクトル候補リスト内部の所在を示す予測
ブロックベクトルインデックスと、インデックスに対応する予測ブロックベクトル候補を
要素として格納する記憶領域が設けられている。予測ブロックベクトルインデックスの数
字は0から開始され、予測ブロックベクトル候補リストmvpListLの記憶領域に、予測ブロ
ックベクトル候補が格納される。本実施の形態においては、予測ブロックベクトル候補リ
ストmvpListLは3個の予測ブロックベクトル候補を登録することができるものとする。さ
らに、予測ブロックベクトル候補リストmvpListLに登録されている予測ブロックベクトル
候補数を示す変数numCurrMvpIbcCandに0を設定する。
【0191】
IBC空間ブロックベクトル候補導出部371及び471は、左側に隣接するブロック
からの予測ブロックベクトルの候補を導出する(図47のステップS4801)。この処
理では、左側に隣接するブロック(A0またはA1)の予測ブロックベクトル候補が利用
できるか否かを示すフラグavailableFlagLA、及びブロックベクトルmvLAを導出し、mvLA
を予測ブロックベクトル候補リストmvpListLに追加する。続いて、IBC空間ブロックベ
クトル候補導出部371及び471は、上側に隣接するブロック(B0,B1またはB2
)からの予測ブロックベクトルの候補を導出する(図47のステップS4802)。この
処理では、上側に隣接するブロックの予測動きベクトル候補が利用できるか否かを示すフ
ラグavailableFlagLB、及びブロックベクトルmvLBを導出し、mvLAとmvLBが等しくなけれ
ば、mvLBを予測ブロックベクトル候補リストmvpListLに追加する。図47のステップS4
801とS4802の処理は参照する隣接ブロックの位置と数が異なる点以外は共通であ
り、符号化ブロックの予測ブロックベクトル候補が利用できるか否かを示すフラグavaila
bleFlagLN、及び動きベクトルmvLN(NはAまたはB、以下同様)を導出する。
【0192】
続いて、IBC履歴ブロックベクトル候補導出部372及び472は履歴ブロックベク
トル候補リストHmvpIbcCandListに登録されている履歴ブロックベクトル候補を予測ブロ
ックベクトル候補リストmvpListLに追加する。(図47のステップS4803)。このス
テップS4803の登録処理手順の詳細については図29のフローチャートで示された動
作の説明において、動きベクトルをブロックベクトル、参照インデックスのリストをL0
、履歴予測動きベクトル候補リストHmvpCandListを履歴ブロックベクトル候補リストHmvp
IbcCandListとした場合の動作と同様であれば良いため、説明を省略する。
【0193】
続いてIBC予測ブロックベクトル補充部373及び473は予測ブロックベクトル候
補リストmvpListLを満たすまで(0,0)等、所定の値のブロックベクトルを追加する(
図47のS4804)。
【0194】
<マージイントラブロックコピーモード導出部>
図42のイントラブロックコピー予測部352は、IBC空間ブロックベクトル候補導
出部371、IBC履歴ブロックベクトル候補導出部372、IBCブロックベクトル補
充部373、参照位置補正部380、参照領域境界補正部381、IBCマージ候補選択
部374、IBC予測モード判定部377を含む。
【0195】
図43のイントラブロックコピー予測部362は、IBC空間ブロックベクトル候補導
出部471、IBC履歴ブロックベクトル候補導出部472、IBCブロックベクトル補
充部473、IBCマージ候補選択部474、参照位置補正部480、参照領域境界補正
部481、ブロックコピー部477を含む。
【0196】
図46は本発明の実施の形態に係る動画像符号化装置のイントラブロックコピー予測部
352及び動画像復号装置のイントラブロックコピー予測部362とで共通する機能を有
するマージイントラブロックコピーモード導出処理の手順を説明するフローチャートであ
る。
【0197】
イントラブロックコピー予測部352及びイントラブロックコピー予測部362では、
マージイントラブロックコピー候補リストmergeIbcCandListを備えている。マージイント
ラブロックコピー候補リストmergeIbcCandListはリスト構造を成し、マージイントラブロ
ックコピー候補内部の所在を示すマージインデックスと、インデックスに対応するマージ
イントラブロックコピー候補を要素として格納する記憶領域が設けられている。マージイ
ンデックスの数字は0から開始され、マージイントラブロックコピー候補リストmergeIbc
CandListの記憶領域に、マージイントラブロックコピー候補が格納される。以降の処理で
は、マージイントラブロックコピー候補リストmergeIbcCandListに登録されたマージイン
デックスiのマージ候補は、mergeIbcCandList [i]で表すこととする。本実施の形態にお
いては、マージ候補リストmergeCandListは少なくとも3個のマージイントラブロックコ
ピー候補を登録することができるものとする。さらに、マージイントラブロックコピー候
補リストmergeIbcCandListに登録されているマージイントラブロックコピー候補数を示す
変数numCurrMergeIbcCandに0を設定する。
【0198】
IBC空間ブロックベクトル候補導出部371及びIBC空間ブロックベクトル候補導
出部471では、動画像符号化装置の符号化情報格納メモリ111または動画像復号装置
の符号化情報格納メモリ205に格納されている符号化情報から、処理対象ブロックの左
側と上側に隣接するブロックからの空間マージ候補A,Bを導出して、導出された空間マ
ージ候補をマージイントラブロックコピー候補リストmergeIbcCandListに登録する(図4
6のステップS4701)。ここで、空間マージ候補A,Bのいずれかを示すNを定義す
る。ブロックNのイントラブロックコピー予測情報が空間ブロックベクトルマージ候補N
として利用できるか否かを示すフラグavailableFlagN、ブロックベクトルmvLを導出する
。ただし、本実施の形態においては処理対象となる符号化ブロックを含むブロックに含ま
れる他の符号化ブロックを参照せずに、ブロックベクトルマージ候補を導出するので、処
理対象の符号化ブロックを含むブロックに含まれる空間ブロックベクトルマージ候補は導
出しない。
【0199】
続いて、IBC履歴ブロックベクトル候補導出部372及びIBC履歴ブロックベクト
ル候補導出部472では、履歴予測ブロックベクトル候補リストHmvpIbcCandListに登録
されている履歴予測ブロックベクトル候補をマージイントラブロックコピー候補リストme
rgeIbcCandListに追加する(図46のステップS4702)。本実施例においては、merg
eIbcCandListに追加済みのブロックベクトルと履歴予測ブロックベクトル候補のブロック
ベクトルが同一の値を持つ場合には、mergeIbcCandListへの追加を行わないものとする。
【0200】
続いて、IBC予測ブロックベクトル補充部373及びIBC予測ブロックベクトル補
充部473は、マージイントラブロックコピー候補リストmergeIbcCandList内に登録され
ているマージ候補数numCurrMergeIbcCandが、最大イントラブロックマージ候補数MaxNumM
ergeIbcCandより小さい場合、マージイントラブロックコピー候補リストmergeIbcCandLis
t内に登録されているマージ候補数numCurrMergeIbcCandが最大マージ候補数MaxNumMergeI
bcCandを上限として追加イントラブロックマージ候補を導出して、マージイントラブロッ
クコピー候補リストmergeIbcCandListに登録する(図46のステップS4703)。最大
マージ候補数MaxNumMergeIbcCandを上限として、(0,0)の値を持つブロックベクトル
をマージイントラブロックコピー候補リストmergeIbcCandListに追加する。
【0201】
続いて、IBCマージ候補選択部374及びIBCマージ候補選択部474では、マー
ジイントラブロックコピー候補リストmergeIbcCandList内に登録されているイントラブロ
ックマージ候補から1つを選択する(図46のステップS4704)。IBCマージ候補
選択部374では、参照位置の復号画像を復号画像メモリ104から取得して符号量とひ
ずみ量を算出することによりマージ候補を選択し、選択されたイントラブロックマージ候
補を示すマージインデックスをIBC予測モード判定部377に供給する。IBC予測モ
ード判定部377は、符号量とひずみ量を算出することによりマージモードか否かを選択
し、その結果を予測方法決定部105に供給する。一方、復号側のIBCマージ候補選択
部474では、復号されたマージインデックスに基づいて、イントラブロックマージ候補
を選択し、選択したイントラブロックマージ候補を参照位置補正部480に供給する。
【0202】
続いて、参照位置補正部380及び参照位置補正部480では、イントラブロックマー
ジ候補に対し参照位置を補正する処理を行う(図46のステップS4705)。参照位置
補正部380及び参照位置補正部480の処理の詳細は後述する。
【0203】
続いて、参照領域境界補正部381及び参照領域境界補正部481では、イントラブロ
ックマージ候補に対し参照領域境界を補正する処理を行う(図46のステップS4706
)。参照位置補正部381及び参照位置補正部481の処理の詳細は後述する。
【0204】
ブロックコピー部477は、参照位置の復号画像を復号画像メモリ208から取得し、
復号画像信号重畳部207に供給する。ここで、ブロックコピー部477では、輝度成分
と色差成分がコピーされる。
【0205】
上記のブロックベクトルmvLは輝度のブロックベクトルを示す。色差のブロックベクト
ルmvCは、色差フォーマットが420の場合、
mvC = ( ( mvL >> ( 3 + 2 ) ) * 32
となる。上式により、mvCのx,y成分それぞれが処理される。
【0206】
<参照位置補正部>
図48は、参照位置補正部380及び参照位置補正部480の処理を説明するフローチ
ャートである。いま、イントラブロックコピー基準ブロックの単位は符号化ツリーブロッ
ク(CTU)であり、その大きさは128x128画素でないものとする。
【0207】
まず、参照ブロックの左上および右下の位置を算出する(S6001)。参照ブロック
とは、処理対象符号化ブロックがブロックベクトルを用いて参照するブロックを示す。参
照ブロックの左上を( xRefTL, yRefTL )、右下を( xRefBR, yRefBR )とすると、
( xRefTL, yRefTL ) = ( xCb + ( mvL[ 0 ] >> 4 ), yCb + ( mvL[ 1 ] >> 4 ) )
( xRefBR, yRefBR ) = ( xRefTL + cbWidth - 1, yRefTL + cbHeight - 1 )
となる。ここで、処理対象符号化ブロックの位置を(xCb,yCb)、ブロックベクトルを(mvL[
0],mvL[1])とし、処理対象符号化ブロックの幅はcbWidth、高さはcbHeightとする。
【0208】
次に、CTUの大きさが128x128画素か否かを判定する(S6002)。いま、その大きさ
は128x128画素でないので(S6002:NO)、参照可能領域の左上および右下の位置
を算出する(S6003)。参照可能領域の左上を( xAvlTL, yAvlTL )、右下を( xAvlBR
, yAvlBR )とすると、
NL = Min( 1, 7 - CtbLog2SizeY ) - ( 1 << ((7 - CtbLog2SizeY) << 1) )
( xAvlTL, yAvlTL ) = ( ((xCb >> CtbLog2SizeY) + NL) << CtbLog2SizeY,
(yCb >> CtbLog2SizeY) << CtbLog2SizeY )
( xAvlBR, yAvlBR ) = ( ((xCb >> CtbLog2SizeY) << CtbLog2SizeY) - 1,
(((yCb >> CtbLog2SizeY) + 1) << CtbLog2SizeY) - 1 )
となる。ここで、CTUのサイズはCtbLog2SizeYとする。
【0209】
次に、参照ブロックのx方向の参照位置が、参照可能領域の左上より小さいか否かを判
定する(S6004)。判定が偽ならば(S6004:NO)、次の処理(S6006)
に進む。一方、判定が真ならば(S6004:YES)、参照可能領域の左上に合わせて
x方向の参照位置を補正する(S6005)。
【0210】
図49は、参照位置を補正する様子を示す図である。6001は処理対象符号化ツリー
ブロックを、6002は処理対象符号化ブロックを、6003は参照可能領域を示す。い
ま、参照ブロックr2が6011に位置していたとすると、x方向の参照位置が、参照可能
領域の左上より小さい(S6004:YES)。よって、xRefTL=xAvlTLとして6012
の位置に参照位置を補正する(S6005)。ここで、S6001にあるようにxRefBR=x
RefTL+cbWidth-1であるから、xRefTLを補正したことに伴ってxRefBRも補正されることに
なる。この参照位置の補正において、ブロックベクトルmvL[0]を補正しても良い。つまり

mvL[0] = (xAvlTL - xCb) << 4
と補正する。これにより、xRefTL=xAvlTLとなるので、参照位置を補正できる。
【0211】
このように、参照ブロックが参照可能領域の外部に位置していた場合に、その参照位置
を補正することによって、参照可能となる。
【0212】
いま、イントラブロックコピー予測部352において構築したブロックベクトル候補リ
ストのうち、いくつかのブロックベクトルが参照可能領域の外側であったとする。参照位
置を補正しない場合には、それらのブロックベクトルによる参照が不可能なので、それら
のブロックベクトルをIBCマージモードの候補とすることが出来ない。一方、本発明に
おいて参照位置を補正する場合には、構築したブロックベクトル候補リストの全てのブロ
ックベクトルは、参照可能領域の内側となる。よって、全てのブロックベクトルによる参
照が可能であり、全てのブロックベクトルをIBCマージモードの候補とすることが出来
る。従って、IBCマージモード選択部374において、全てのブロックベクトルに対応
するそれぞれのIBCマージモードの候補から最適な予測モードを選択できるので、符号
化効率が向上する。
【0213】
いま、イントラブロックコピー予測部362において構築したブロックベクトル候補リ
ストのうち、いくつかのブロックベクトルが参照可能領域の外側であったとする。参照位
置を補正しない場合には、それらのブロックベクトルによる参照が不可能なので、それら
のブロックベクトルを用いたIBCマージモードは、復号することが出来ない。本発明で
はない符号化装置では、それらのブロックベクトルを用いたIBCマージモードを示すマ
ージインデックスは、符号化しないものとして動作する。しかし、動作不良などのため、
そのようなマージインデックスが符号化されて、ビットストリームが生成される可能性が
ある。あるいはパケットロスなどによりビットストリームの一部が欠けるなどして、復号
結果がそのようなマージインデックスとなる可能性がある。このような不完全なビットス
トリームを復号しようとすると、参照可能領域の外側を参照しようとして正しくない位置
の復号画像メモリにアクセスする可能性がある。その結果、復号装置によって復号結果が
異なったり、復号処理が停止したりする。一方、本発明において参照位置を補正する場合
には、構築したブロックベクトル候補リストの全てのブロックベクトルは、参照可能領域
の内側となる。従って、このような不完全なビットストリームを復号しても、参照可能領
域の内側に参照位置が補正されて参照が可能となる。このように、参照位置を補正するこ
とにより、メモリアクセス範囲を保証する。その結果、復号装置によって復号結果が同じ
になり、復号処理を継続できるので、復号装置のロバスト性を向上させることができる。
【0214】
また、参照位置の補正においてブロックベクトルを補正する場合、その対象は輝度のブ
ロックベクトルである。ここで、色差のブロックベクトルは、輝度のブロックベクトルか
ら算出される。つまり、輝度のブロックベクトルを補正すれば、色差のブロックベクトル
も補正されることになる。よって、色差において、再び参照位置を補正する必要はない。
ブロックベクトルを補正しない場合に輝度と色差の両方で参照可能か否かを判定する必要
があるのに比べて、処理量を削減することができる。
【0215】
加えて、参照位置の補正においてブロックベクトルを補正する場合、補正したブロック
ベクトルは、処理対象符号化ブロックのブロックベクトルとして、符号化情報格納メモリ
111または符号化情報格納メモリ205に格納される。つまり、補正した参照位置とブ
ロックベクトルが指す位置が同じである。ここで、復号結果を復号画像メモリに保存する
際にデブロックフィルタ処理をすることがある。このフィルタ処理において、ブロック境
界に面した2つのブロックが持つブロックベクトルの差分によって、フィルタの強度を制
御する。ブロックベクトルを補正しない場合には補正した参照位置とブロックベクトルが
指す位置が異なるのに比べて、より適切なフィルタの強度となるため、符号化効率を向上
させることができる。
【0216】
続いて、参照ブロックのy方向の参照位置が、参照可能領域の左上より小さいか否かを
判定する(S6006)。判定が偽ならば(S6006:NO)、次の処理(S6008
)に進む。一方、判定が真ならば(S6006:YES)、参照可能領域の左上に合わせ
てy方向の参照位置を補正する(S6007)。
【0217】
いま、参照ブロックr4が6021に位置していたとすると、y方向の参照位置が、参照
可能領域の左上より小さい(S6006:YES)。よって、yRefTL=yAvlTLとして60
22の位置に参照位置を補正する(S6007)。ここで、S6001にあるようにyRef
BR=yRefTL+cbHeight-1であるから、yRefTLを補正したことに伴ってyRefBRも補正されるこ
とになる。この参照位置の補正において、ブロックベクトルmvL[1]を補正しても良い。つ
まり、
mvL[1] = (yAvlTL - yCb) << 4
と補正する。これにより、yRefTL=yAvlTLとなるので、参照位置を補正できる。
【0218】
続いて、参照ブロックのx方向の参照位置が、参照可能領域の右下より大きいか否かを
判定する(S6008)。判定が偽ならば(S6008:NO)、次の処理(S6010
)に進む。一方、判定が真ならば(S6008:YES)、参照可能領域の右下に合わせ
てx方向の参照位置を補正する(S6009)。
【0219】
いま、参照ブロックr7が6031に位置していたとすると、x方向の参照位置が、参照
可能領域の右下より大きい(S6008:YES)。よって、xRefBR=xAvlBRとして60
32の位置に参照位置を補正する(S6009)。ここで、S6001にあるようにxRef
BR=xRefTL+cbWidth-1、つまりxRefTL=xRefBR-(cbWidth-1)であるから、xRefBRを補正した
ことに伴ってxRefTLも補正されることになる。この参照位置の補正において、ブロックベ
クトルmvL[0]を補正しても良い。つまり、
mvL[0] = (xAvlBR - (xCb + cbWidth - 1)) << 4
と補正する。これにより、xRefBR=xAvlBRとなるので、参照位置を補正できる。
【0220】
続いて、参照ブロックのy方向の参照位置が、参照可能領域の右下より大きいか否かを
判定する(S6010)。判定が偽ならば(S6010:NO)、処理を終了する。一方
、判定が真ならば(S6010:YES)、参照可能領域の右下に合わせてy方向の参照
位置を補正する(S6011)。
【0221】
いま、参照ブロックr5が6041に位置していたとすると、y方向の参照位置が、参照
可能領域の右下より大きい(S6010:YES)。よって、yRefBR=yAvlBRとして60
42の位置に参照位置を補正する(S6011)。ここで、S6001にあるようにyRef
BR=yRefTL+cbHeight-1、つまりyRefTL=yRefBR-(cbHeight-1)であるから、yRefBRを補正し
たことに伴ってyRefTLも補正されることになる。この参照位置の補正において、ブロック
ベクトルmvL[1]を補正しても良い。つまり、
mvL[1] = (yAvlBR - (yCb + cbHeitght - 1)) << 4
と補正する。これにより、yRefBR=yAvlBRとなるので、参照位置を補正できる。
【0222】
ここで、参照ブロックr1が6051に位置している場合について説明する。この場合は
、参照ブロックがr2の場合と同様に、x方向の参照位置を補正する。さらに、参照ブロッ
クがr4の場合と同様に、y方向の参照位置を補正する。その結果、参照ブロックr1は、参
照可能領域の内部である6052に位置する。
【0223】
参照ブロックr3が6061に位置している場合、参照ブロックr6が6062に位置して
いる場合、参照ブロックr8が6063に位置している場合は、上記と同様にx,y各方向の
参照位置を補正する。その結果、それぞれの参照ブロックは、参照可能領域の内部に位置
する。
【0224】
以上により、CTUの大きさが128x128画素でない場合の処理は終了する。一方、CTUの大
きさが128x128画素の場合(S6002:YES)、参照可能領域を矩形状とした場合の左上
および右下の位置を算出する(S6012)。
【0225】
図50は、参照可能領域を矩形状とした場合の左上および右下の位置を説明する図であ
る。図50Aの場合、処理対象の符号化ツリーブロック6101は4分割されており、そ
の分割の左上に処理対象の符号化ブロック6102が位置している。このとき、参照可能
領域は6103内の斜線部のように逆L字形となる。参照可能領域を矩形状とした場合、
その範囲は6103の矩形状の範囲とする。参照可能領域を矩形状とした場合、参照ブロ
ックの左上を( xRefTL, yRefTL )、右下を( xRefBR, yRefBR )とすると、
offset[4] = {0, 64, 128, 128}
NL = -offset[3 - blk_idx], NR = offset[blk_idx]
( xAvlTL, yAvlTL ) = ( (xCb >> CtbLog2SizeY) << CtbLog2SizeY + NL,
(yCb >> CtbLog2SizeY) << CtbLog2SizeY )
( xAvlBR, yAvlBR ) = ( ((xCb >> CtbLog2SizeY) << CtbLog2SizeY) - 1 + NR,
(((yCb >> CtbLog2SizeY) + 1) << CtbLog2SizeY) - 1 )
となる。ここで、blk_idxは、処理対象の符号化ブロックの位置を示すインデックスであ
る。処理対象の符号化ツリーブロックを4分割したうち、処理対象の符号化ブロックが左
上に位置している場合は、blk_idx=0とする。同様に、処理対象の符号化ブロックがそれ
ぞれ右上、左下、右下に位置している場合は、blk_idxは1,2,3とする。図50Aはblk_id
x=0の場合を示す図である。同様に、図50Bから図50Dは、それぞれblk_idx=1から3
の場合を示す図である。
【0226】
次に、参照可能領域が矩形でない部分の参照位置を補正する(S6013)。図51
、参照可能領域が矩形でない部分の参照位置を補正する処理を説明するフローチャートで
ある。まず、参照可能領域の左上の位置を算出する(S6021)。参照可能領域は図5
0の斜線部なので、blk_idx=3の場合を除いて、左上の位置は6111と6112の2点あ
る。それぞれ(X1, Y1),(X2, Y2)とすると、
offset[4] = {64, 128, 64, 0}, NL = offset[blk_idx]
(X1, Y1) = (xAvlTL, yAvlTL + 64)
(X2, Y2) = (xAvlTL + NL, yAvlTL)
となる。
【0227】
次に、参照可能領域の左上に合わせて参照位置を補正するか否かを判定する(S602
2)。この判定では、blk_idx=3でなく、かつ参照ブロックがX2とY1より小さい領域に位
置している場合に真と判定する(S6022:YES)。偽の場合(S6022:NO)
、次の処理(S6026)に進む。
【0228】
次に、参照ブロックと参照可能領域のx方向との差分が、参照ブロックと参照可能領域
のy方向との差分より小さいか否かを判定する(S6023)。判定が真の場合(S60
23:YES)、x方向の参照位置を補正する(S6024)。一方、判定が偽の場合(
S6023:NO)、y方向の参照位置を補正する(S6025)。
【0229】
図52Aは、S6024とS6025において、参照位置を補正する様子を示す図であ
る。いま、blk_idx=0である。参照ブロックr1が6201に位置していたとすると、blk_i
dx=3でなく、かつ参照ブロックの左上がX2(6112のx方向)とY1(6111のy方向)
より小さい領域に位置している(S6022:YES)。また、参照ブロックと参照可能
領域のx方向との差分が、参照ブロックと参照可能領域のy方向との差分より小さい(S6
023:YES)。よって、xRefTL=xAvlTL+NLとして6202の位置にx方向の参照位置
を補正する(S6024)。ここで、S6001にあるようにxRefBR=xRefTL+cbWidth-1
であるから、xRefTLを補正したことに伴ってxRefBRも補正されることになる。この参照位
置の補正において、ブロックベクトルmvL[0]を補正しても良い。つまり、
mvL[0] = (xAvlTL + NL - xCb) << 4
と補正する。これにより、xRefTL=xAvlTL+NLとなるので、参照位置を補正できる。
【0230】
一方、参照ブロックr2が6203に位置していたとすると、blk_idx=3でなく、かつ参
照ブロックの左上がX2(6112のx方向)とY1(6111のy方向)より小さい領域に位
置している(S6022:YES)。また、参照ブロックと参照可能領域のx方向との差
分が、参照ブロックと参照可能領域のy方向との差分より小さくない(S6023:NO
)。よって、yRefTL=yAvlTL+64として6204の位置にy方向の参照位置を補正する(S
6025)。ここで、S6001にあるようにyRefBR=yRefTL+cbHeight-1であるから、yR
efTLを補正したことに伴ってyRefBRも補正されることになる。この参照位置の補正におい
て、ブロックベクトルmvL[0]を補正しても良い。つまり、
mvL[1] = (yAvlTL + 64 - yCb) << 4
と補正する。これにより、yRefTL=yAvlTL+64となるので、参照位置を補正できる。
【0231】
ここで、参照ブロックr3が6205に位置していたとする。この場合、参照ブロックと
参照可能領域のx方向との差分が、参照ブロックと参照可能領域のy方向との差分より小さ
い(S6023:YES)。よって、参照ブロックr1と同様にx方向の参照位置を補正す
ることで、6206に位置する(S6024)。この時点において、参照ブロックは参照
可能領域の外側である。しかし、後述のS6006とS6007の処理により、y方向の
参照位置を補正する。結局、参照ブロックは、参照可能領域の内側となる。
【0232】
続いて、参照可能領域の右下の位置を算出する(S6026)。参照可能領域は図50
の斜線部なので、blk_idx=0の場合を除いて、右下の位置は6113と6114の2点ある
。それぞれ(X3, Y3),(X4, Y4)とすると、
offset[4] = {0, 64, 128, 64}, NR = offset[blk_idx]
(X3, Y3) = (xAvlBR, yAvlBR - 64)
(X4, Y4) = (xAvlBR - NR, yAvlBR)
となる。
【0233】
次に、参照可能領域の右下に合わせて参照位置を補正するか否かを判定する(S602
7)。この判定では、blk_idx=0でなく、かつ参照ブロックがX4とY3より大きい領域に位
置している場合に真と判定する(S6027:YES)。偽の場合(S6027:NO)
、処理を終了する。
【0234】
次に、参照ブロックと参照可能領域のx方向との差分が、参照ブロックと参照可能領域
のy方向との差分より小さいか否かを判定する(S6028)。判定が真の場合(S60
28:YES)、x方向の参照位置を補正する(S6029)。一方、判定が偽の場合(
S6028:NO)、y方向の参照位置を補正する(S6030)。
【0235】
図52Bは、S6029とS6030において、参照位置を補正する様子を示す図であ
る。いま、blk_idx=3である。参照ブロックr1が6211に位置していたとすると、blk_i
dx=0でなく、かつ参照ブロックの右下がX4(6114のx方向)とY3(6113のy方向)
より大きい領域に位置している(S6027:YES)。また、参照ブロックと参照可能
領域のx方向との差分が、参照ブロックと参照可能領域のy方向との差分より小さい(S6
028:YES)。よって、xRefBR=xAvlBRとして6212の位置にx方向の参照位置を補
正する(S6029)。ここで、S6001にあるようにxRefBR=xRefTL+cbWidth-1、つ
まりxRefTL=xRefBR-(cbWidth-1)であるから、xRefBRを補正したことに伴ってxRefTLも補
正されることになる。この参照位置の補正において、ブロックベクトルmvL[0]を補正して
も良い。つまり、
mvL[0] = (xAvlBR - NR - (xCb + cbWitdh - 1)) << 4
と補正する。これにより、xRefBR=xAvlBRとなるので、参照位置を補正できる。
【0236】
一方、参照ブロックr2が6213に位置していたとすると、blk_idx=0でなく、かつ参
照ブロックの右下がX4(6114のx方向)とY3(6113のy方向)より大きい領域に位
置している(S6027:YES)。また、参照ブロックと参照可能領域のx方向との差
分が、参照ブロックと参照可能領域のy方向との差分より小さくない(S6028:NO
)。よって、yRefBR=yAvlBRとして6214の位置にy方向の参照位置を補正する(S60
30)。ここで、S6001にあるようにyRefBR=yRefTL+cbHeight-1、つまりyRefTL=yRe
fBR-(cbHeight-1)であるから、yRefBRを補正したことに伴ってyRefTLも補正されることに
なる。この参照位置の補正において、ブロックベクトルmvL[1]を補正しても良い。つまり

mvL[1] = (yAvlBR - 64 - (yCb + cbHeight - 1)) << 4
と補正する。これにより、yRefBR=yAvlBRとなるので、参照位置を補正できる。
【0237】
ここで、参照ブロックr3が6215に位置していたとする。この場合、参照ブロックと
参照可能領域のx方向との差分が、参照ブロックと参照可能領域のy方向との差分より小さ
くない(S6028:NO)。よって、参照ブロックr2と同様にy方向の参照位置を補正
することで、6216に位置する(S6030)。この時点において、参照ブロックは参
照可能領域の外側である。しかし、後述のS6008とS6009の処理により、x方向
の参照位置を補正する。結局、参照ブロックは、参照可能領域の内側となる。
【0238】
図52では、blk_idx=0と3の場合を例に参照位置を補正する処理を説明した。blk_idx=
1や2の場合、blk_idx=0と3の場合と同様に参照位置を補正する処理をする。
【0239】
参照可能領域が矩形でない部分の参照位置を補正する処理(S6013)の後、S60
04からS6011の処理をする。以上により、CTUの大きさが128x128画素の場合の処理
は終了する。
【0240】
いま、参照可能領域が矩形でない部分の参照位置を補正する処理(S6013)におい
て、参照可能領域の左上に合わせてx方向の参照位置を補正する処理(S6024)をし
たとする。すると、参照ブロックのx方向の参照位置が、参照可能領域の左上より小さく
なることはないので、S6004の判定は常に偽(S6004:NO)となる。従って、
S6024の処理をした場合は、S6004とS6005の処理をしないようにしても良
い。同様に、S6025の処理をした場合はS6006とS6007の処理をしないよう
にしても良いし、S6029の処理をした場合はS6008とS6009の処理をしない
ようにしても良いし、S6030の処理をした場合はS6010とS6011の処理をし
ないようにしても良い。
【0241】
また、図51のフローチャートにおいて、ステップS6023の比較処理を省略し、常
にステップS6024を実行するような構成を取っても良いし、常にステップS6025
を実行するような構成を取っても良い。同様に、ステップS6028の比較処理を省略し
、常にステップS6029を実行するような構成を取っても良いし、常にステップS60
30を実行するような構成を取っても良い。そのような構成においては、簡便な処理で参
照位置を補正することが可能となる。
【0242】
図48では、CTUの大きさが128x128画素の場合において、S6012、S6013およ
びS6004からS6011の処理を用いて参照位置を補正している。これに代わり、図
53のように、参照可能領域を2つに分解し、それぞれの参照位置を補正する処理(S6
101)によっても実現出来る。
【0243】
図54は、参照可能領域を2つに分解する様子を説明する図である。図50において参
照可能領域を矩形状としているのとは異なり、図54では参照可能領域を2つに分解して
いる。処理対象の符号化ツリーブロック(6101)を4分割したうち、処理対象の符号
化ブロック(6102)が左上に位置している場合は、blk_idx=0とする。同様に、処理
対象の符号化ブロックがそれぞれ右上、左下、右下に位置している場合は、blk_idxは1,2
,3とする。図54Aはblk_idx=0の場合を示す図である。同様に、図54Bから図54D
は、それぞれblk_idx=1から3の場合を示す図である。また、一方の参照可能領域(630
1)を参照可能領域Aとし、他方の参照可能領域(6302)を参照可能領域Bとする。
【0244】
図55は、参照可能領域を2つに分解し、それぞれの参照位置を補正する処理(S61
01)を説明するフローチャートである。図55において、図48と同じ処理には同じス
テップ番号を付し、説明を省略する。まず、参照可能領域Aの左上および右下の位置を算
出する(S6111)。参照可能領域Aの左上を( xAvlTL, yAvlTL )、右下を( xAvlBR,
yAvlBR )とすると、
xOffsetTL[4] = {-128, -128, -64, 0}, yOffsetTL[4] = {64, 64, 64, 0}
xOffsetBR[4] = {0, 0, 0, 128}, yOffsetBR[4] = {128, 128, 128, 64}
( xAvlTL, yAvlTL ) = ( (xCb >> CtbLog2SizeY) << CtbLog2SizeY
+ xOffsetTL[blk_idx],
(yCb >> CtbLog2SizeY) << CtbLog2SizeY + yOffsetTL[blk_idx])
( xAvlBR, yAvlBR ) = ( ((xCb >> CtbLog2SizeY) << CtbLog2SizeY) - 1
+ xOffsetBR[blk_idx],
(((yCb >> CtbLog2SizeY) + 1) << CtbLog2SizeY) - 1 + yOffsetBR[blk_idx] )
となる。
【0245】
次に、参照ブロックが参照可能領域Aの外部か否かについて、
out_xRefTL = xRefTL < xAvlTL
out_yRefTL = yRefTL < yAvlTL
out_xRefBR = xRefBR > xAvlBR
out_yRefBR = yRefBR > yAvlBR
として算出する(S6112)。
【0246】
次に、参照可能領域Bの左上および右下の位置を算出する(S6113)。参照可能領
域Bの左上を( xAvlTL, yAvlTL )、右下を( xAvlBR, yAvlBR )とすると、
xOffsetTL[4] = {-64, 0, 0, 0}, yOffsetTL[4] = {0, 0, 0, 0}
xOffsetBR[4] = {0, 64, 128, 64}, yOffsetBR[4] = {128, 64, 64, 128}
( xAvlTL, yAvlTL ) = ( (xCb >> CtbLog2SizeY) << CtbLog2SizeY
+ xOffsetTL[blk_idx],
(yCb >> CtbLog2SizeY) << CtbLog2SizeY + yOffsetTL[blk_idx])
( xAvlBR, yAvlBR ) = ( ((xCb >> CtbLog2SizeY) << CtbLog2SizeY) - 1
+ xOffsetBR[blk_idx],
(((yCb >> CtbLog2SizeY) + 1) << CtbLog2SizeY) - 1 + yOffsetBR[blk_idx] )
となる。
【0247】
次に、参照ブロックのx方向の参照位置が参照可能領域Aの左上より小さく、かつ参照
ブロックのx方向の参照位置が参照可能領域Bの左上より小さいか否かを判定する(S6
114)。判定が偽ならば(S6114:NO)、次の処理(S6116)に進む。一方
、判定が真ならば(S6114:YES)、参照可能領域Bの左上に合わせてx方向の参
照位置を補正する(S6005)。S6005の処理はすでに説明しているため、説明を
省略する。
【0248】
続いて、参照ブロックのy方向の参照位置が参照可能領域Aの左上より小さく、かつ参
照ブロックのy方向の参照位置が参照可能領域Bの左上より小さいか否かを判定する(S
6116)。判定が偽ならば(S6116:NO)、次の処理(S6118)に進む。一
方、判定が真ならば(S6116:YES)、参照可能領域Bの左上に合わせてy方向の
参照位置を補正する(S6007)。S6007の処理はすでに説明しているため、説明
を省略する。
【0249】
次に、参照ブロックのx方向の参照位置が参照可能領域Aの右下より大きく、かつ参照
ブロックのx方向の参照位置が参照可能領域Bの右下より大きいか否かを判定する(S6
118)。判定が偽ならば(S6118:NO)、次の処理(S6120)に進む。一方
、判定が真ならば(S6118:YES)、参照可能領域Bの右下に合わせてx方向の参
照位置を補正する(S6009)。S6009の処理はすでに説明しているため、説明を
省略する。
【0250】
次に、参照ブロックのy方向の参照位置が参照可能領域Aの右下より大きく、かつ参照
ブロックのy方向の参照位置が参照可能領域Bの右下より大きいか否かを判定する(S6
120)。判定が偽ならば(S6120:NO)、処理を終了する。一方、判定が真なら
ば(S6120:YES)、参照可能領域Bの右下に合わせてy方向の参照位置を補正す
る(S6011)。S6011の処理はすでに説明しているため、説明を省略する。
【0251】
以上により、CTUの大きさが128x128画素の場合において、参照ブロックが参照可能領域
の外部に位置していたとしても、参照位置を補正して参照可能となる。また、参照可能領
域を2つに分解してそれぞれの参照位置を補正することで、処理を簡易化して演算量を削
減することが出来る。ここでは、一方の参照可能領域(6301)を参照可能領域Aとし
、他方の参照可能領域(6302)を参照可能領域Bとしている。代わりに、参照可能領
域Aと参照可能領域Bを入れ替えて、一方の参照可能領域(6301)を参照可能領域B
とし、他方の参照可能領域(6302)を参照可能領域Aとして処理しても良い。
【0252】
本実施例では、CTUの大きさが128x128画素か否かを判定し(S6002)、処理を切り
替えている。これは、イントラブロックコピー基準ブロックが、符号化ツリーブロックを
4分割した単位か否か判定するようにしても良いし、CTUの大きさが符号化ブロックの最
大サイズより大きいか否かを判定するようにしても良い。
【0253】
以上に述べた全ての実施の形態は、複数を組み合わせても良い。
【0254】
以上に述べた全ての実施の形態において、画像符号化装置が出力するビットストリーム
は、実施の形態で用いられた符号化方法に応じて復号することができるように特定のデー
タフォーマットを有している。ビットストリームは、HDD、SSD、フラッシュメモリ
、光ディスク等のコンピュータ等で読み解き可能な記録媒体に記録して提供しても良いし
、有線あるいは無線のネットワークを通してサーバから提供しても良い。従って、この画
像符号化装置に対応する画像復号装置は、提供手段によらず、この特定のデータフォーマ
ットのビットストリームを復号することができる。
【0255】
画像符号化装置と画像復号装置の間でビットストリームをやりとりするために、有線ま
たは無線のネットワークが用いられる場合、通信路の伝送形態に適したデータ形式にビッ
トストリームを変換して伝送してもよい。その場合、画像符号化装置が出力するビットス
トリームを通信路の伝送形態に適したデータ形式の符号化データに変換してネットワーク
に送信する送信装置と、ネットワークから符号化データを受信してビットストリームに復
元して画像復号装置に供給する受信装置とが設けられる。送信装置は、画像符号化装置が
出力するビットストリームをバッファするメモリと、ビットストリームをパケット化する
パケット処理部と、ネットワークを介してパケット化された符号化データを送信する送信
部とを含む。受信装置は、ネットワークを介してパケット化された符号化データを受信す
る受信部と、受信された符号化データをバッファするメモリと、符号化データをパケット
処理してビットストリームを生成し、画像復号装置に提供するパケット処理部とを含む。
【0256】
画像符号化装置と画像復号装置の間でビットストリームをやりとりするために、有線ま
たは無線のネットワークが用いられる場合、送信装置、受信装置に加え、さらに、送信装
置が送信する符号化データを受信し、受信装置に供給する中継装置が設けられても良い。
中継装置は、送信装置が送信するパケット化された符号化データを受信する受信部と、受
信された符号化データをバッファするメモリと、パケットされた符号化データとネットワ
ークに送信する送信部とを含む。さらに、中継装置は、パケット化された符号化データを
パケット処理してビットストリームを生成する受信パケット処理部と、ビットストリーム
を蓄積する記録媒体と、ビットストリームをパケット化する送信パケット処理部を含んで
も良い。
【0257】
また、画像復号装置で復号された画像を表示する表示部を構成に追加することで、表示
装置としても良い。その場合、表示部は、復号画像信号重畳部207により生成され、復
号画像メモリ208に格納された復号画像信号を読み出して画面に表示する。
【0258】
また、撮像部を構成に追加し、撮像した画像を画像符号化装置に入力することで、撮像
装置としても良い。その場合、撮像部は、撮像した画像信号をブロック分割部101に入
力する。
【0259】
図37に、本実施の形態の符号化復号装置のハードウェア構成の一例を示す。符号化復
号装置は、本発明の実施の形態に係る画像符号化装置、および画像復号装置の構成を包含
する。係る符号化復号装置9000は、CPU9001、コーデックIC9002、I/
Oインターフェース9003、メモリ9004、光学ディスクドライブ9005、ネット
ワークインターフェース9006、ビデオインターフェース9009を有し、各部はバス
9010により接続される。
【0260】
画像符号化部9007と画像復号部9008は、典型的にはコーデックIC9002と
して実装される。本発明の実施の形態に係る画像符号化装置の画像符号化処理は、画像符
号化部9007により実行され、本発明の実施の形態に係る画像復号装置における画像復
号処理は、画像復号部9008により実行される。I/Oインターフェース9003は、
例えばUSBインターフェースにより実現され、外部のキーボード9104、マウス91
05等と接続する。CPU9001は、I/Oインターフェース9003を介して入力し
たユーザー操作に基づき、ユーザーの所望する動作を実行するように符号化復号装置90
00を制御する。キーボード9104、マウス9105等によるユーザーの操作としては
、符号化、復号のどちらの機能を実行するかの選択、符号化品質の設定、ビットストリー
ムの入出力先、画像の入出力先等がある。
【0261】
ユーザーがディスク記録媒体9100に記録された画像を再生する操作を所望する場合
、光学ディスクドライブ9005は、挿入されたディスク記録媒体9100からビットス
トリームを読出し、読み出したビットストリームを、バス9010を介してコーデックI
C9002の画像復号部9008に送る。画像復号部9008は入力したビットストリー
ムに対して本発明の実施の形態に係る画像復号装置における画像復号処理を実行し、復号
画像を、ビデオインターフェース9009を介して外部のモニタ9103へ送る。また、
符号化復号装置9000は、ネットワークインターフェース9006を有し、ネットワー
ク9101を介して、外部の配信サーバ9106や、携帯端末9107と接続可能である
。ユーザーがディスク記録媒体9100に記録された画像に変えて、配信サーバ9106
や携帯端末9107に記録された画像を再生することを所望する場合は、ネットワークイ
ンターフェース9006は、入力されたディスク記録媒体9100からビットストリーム
を読出すことに変えて、ネットワーク9101よりビットストリームを取得する。また、
ユーザーがメモリ9004に記録された画像を再生することを所望する場合は、メモリ9
004に記録されたビットストリームに対して、本発明の実施の形態に係る画像復号装置
における画像復号処理を実行する。
【0262】
ユーザーが外部のカメラ9102で撮像した画像を符号化しメモリ9004に記録する
操作を所望する場合、ビデオインターフェース9009は、カメラ9102から画像を入
力し、バス9010を介し、コーデックIC9002の画像符号化部9007に送る。画
像符号化部9007は、ビデオインターフェース9009を介して入力した画像に対して
本発明の実施の形態に係る画像符号化装置における画像符号化処理を実行し、ビットスト
リームを作成する。そしてビットストリームを、バス9010を介し、メモリ9004へ
送る。ユーザーがメモリ9004に変えて、ディスク記録媒体9100にビットストリー
ムを記録することを所望する場合は、光学ディスクドライブ9005は、挿入されたディ
スク記録媒体9100に対しビットストリームの書き出しを行う。
【0263】
画像符号化装置を有し画像復号装置を有さないハードウェア構成や、画像復号装置を有
し画像符号化装置を有さないハードウェア構成を実現することも可能である。そのような
ハードウェア構成は、例えばコーデックIC9002が、画像符号化部9007、または
画像復号部9008にそれぞれ置き換わることにより実現される。
【0264】
以上の符号化及び復号に関する処理は、ハードウェアを用いた伝送、蓄積、受信装置と
して実現しても良いのは勿論のこと、ROM(リード・オンリー・メモリ)やフラッシュ
メモリ等に記憶されているファームウェアや、コンピュータ等のソフトウェアによって実
現しても良い。そのファームウェアプログラム、ソフトウェアプログラムをコンピュータ
等で読み取り可能な記録媒体に記録して提供しても良いし、有線あるいは無線のネットワ
ークを通してサーバから提供しても良いし、地上波あるいは衛星ディジタル放送のデータ
放送として提供しても良い。
【0265】
以上、本発明を実施の形態をもとに説明した。実施の形態は例示であり、それらの各構
成要素や各処理プロセスの組み合わせにいろいろな変形例が可能なこと、またそうした変
形例も本発明の範囲にあることは当業者に理解されるところである。
【符号の説明】
【0266】
100 画像符号化装置、 101 ブロック分割部、 102 インター予測部、
103 イントラ予測部、104 復号画像メモリ、 105 予測方法決定部、 10
6 残差生成部、 107 直交変換・量子化部、 108 ビット列符号化部、 10
9 逆量子化・逆直交変換部、 110 復号画像信号重畳部、 111 符号化情報格
納メモリ、 200 画像復号装置、 201 ビット列復号部、 202 ブロック分
割部、 203 インター予測部、 204 イントラ予測部、 205 符号化情報格
納メモリ、 206 逆量子化・逆直交変換部、 207 復号画像信号重畳部、 20
8 復号画像メモリ。
図1
図2
図3
図4
図5
図6A
図6B
図6C
図6D
図6E
図7
図8
図9
図10A
図10B
図11
図12A
図12B
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24
図25
図26
図27
図28
図29
図30
図31A
図31B
図31C
図32
図33
図34
図35
図36
図37
図38
図39A
図39B
図40
図41
図42
図43
図44
図45
図46
図47
図48
図49
図50A
図50B
図50C
図50D
図51
図52A
図52B
図53
図54A
図54B
図54C
図54D
図55