▶ パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカの特許一覧
特開2023-164617画像符号化装置、画像復号装置及びビットストリーム生成装置
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023164617
(43)【公開日】2023-11-10
(54)【発明の名称】画像符号化装置、画像復号装置及びビットストリーム生成装置
(51)【国際特許分類】
H04N 19/513 20140101AFI20231102BHJP
H04N 19/105 20140101ALI20231102BHJP
【ＦＩ】
H04N19/513
H04N19/105
【審査請求】有
【請求項の数】3
【出願形態】ＯＬ
(21)【出願番号】P 2023151749
(22)【出願日】2023-09-19
(62)【分割の表示】P 2021512826の分割
【原出願日】2019-09-03
(31)【優先権主張番号】62/728,364
(32)【優先日】2018-09-07
(33)【優先権主張国・地域又は機関】US
(71)【出願人】
【識別番号】514136668
【氏名又は名称】パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ
【氏名又は名称原語表記】Ｐａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ
(74)【代理人】
【識別番号】100109210
【弁理士】
【氏名又は名称】新居 広守
(74)【代理人】
【識別番号】100137235
【弁理士】
【氏名又は名称】寺谷 英作
(74)【代理人】
【識別番号】100131417
【弁理士】
【氏名又は名称】道坂 伸一
(72)【発明者】
【氏名】リャオ ル リン
(72)【発明者】
【氏名】リム チョン スン
(72)【発明者】
【氏名】スン ハイ ウェイ
(72)【発明者】
【氏名】テオ ハン ブン
(72)【発明者】
【氏名】リ ジン ヤ
(72)【発明者】
【氏名】安倍 清史
(72)【発明者】
【氏名】西 孝啓
(72)【発明者】
【氏名】遠間 正真
(57)【要約】
【課題】メモリ量を抑制することができる画像符号化装置を提供する。
【解決手段】画像符号化装置は、回路と、回路に接続されたメモリとを備え、回路は、動作において、単予測動きベクトルである第１動きベクトルを用いて画像ブロックの第１パーティションに対する第１画素セットを予測し、単予測動きベクトルである第２動きベクトルを用いて画像ブロックの第２パーティションに対する第２画素セットを予測し、第１パーティションと第２パーティションとが重なり合う第１部分の複数の画素について、第１画素セットと第２画素セットとを重み付けし、第１動きベクトルと第２動きベクトルとを双予測動きベクトルとして且つ第１部分の動きベクトルとしてメモリに格納し、重み付けされた第１部分の複数の画素を少なくとも用いて、第１パーティションを符号化する。
【選択図】図６８
【解決手段】画像符号化装置は、回路と、回路に接続されたメモリとを備え、回路は、動作において、単予測動きベクトルである第１動きベクトルを用いて画像ブロックの第１パーティションに対する第１画素セットを予測し、単予測動きベクトルである第２動きベクトルを用いて画像ブロックの第２パーティションに対する第２画素セットを予測し、第１パーティションと第２パーティションとが重なり合う第１部分の複数の画素について、第１画素セットと第２画素セットとを重み付けし、第１動きベクトルと第２動きベクトルとを双予測動きベクトルとして且つ第１部分の動きベクトルとしてメモリに格納し、重み付けされた第１部分の複数の画素を少なくとも用いて、第１パーティションを符号化する。
【選択図】図６８
【特許請求の範囲】
【請求項1】
回路と、
前記回路に接続されたメモリとを備え、
前記回路は、動作において、
単予測動きベクトルである第１動きベクトルを用いて画像ブロックの第１パーティションに対する第１画素セットを予測し、
単予測動きベクトルである第２動きベクトルを用いて前記画像ブロックの第２パーティションに対する第２画素セットを予測し、
前記第１パーティションと前記第２パーティションとが重なり合う第１部分の複数の画素について、前記第１画素セットと前記第２画素セットとを重み付けし、
前記第１動きベクトルと前記第２動きベクトルとを双予測動きベクトルとして且つ前記第１部分の動きベクトルとして前記メモリに格納し、
重み付けされた前記第１部分の複数の画素を少なくとも用いて、前記第１パーティションを符号化する
画像符号化装置。
前記回路に接続されたメモリとを備え、
前記回路は、動作において、
単予測動きベクトルである第１動きベクトルを用いて画像ブロックの第１パーティションに対する第１画素セットを予測し、
単予測動きベクトルである第２動きベクトルを用いて前記画像ブロックの第２パーティションに対する第２画素セットを予測し、
前記第１パーティションと前記第２パーティションとが重なり合う第１部分の複数の画素について、前記第１画素セットと前記第２画素セットとを重み付けし、
前記第１動きベクトルと前記第２動きベクトルとを双予測動きベクトルとして且つ前記第１部分の動きベクトルとして前記メモリに格納し、
重み付けされた前記第１部分の複数の画素を少なくとも用いて、前記第１パーティションを符号化する
画像符号化装置。
【請求項2】
回路と、
前記回路に接続されたメモリとを備え、
前記回路は、動作において、
単予測動きベクトルである第１動きベクトルを用いて画像ブロックの第１パーティションに対する第１画素セットを予測し、
単予測動きベクトルである第２動きベクトルを用いて前記画像ブロックの第２パーティションに対する第２画素セットを予測し、
前記第１パーティションと前記第２パーティションとが重なり合う第１部分の複数の画素について、前記第１画素セットと前記第２画素セットとを重み付けし、
前記第１動きベクトルと前記第２動きベクトルとを双予測動きベクトルとして且つ前記第１部分の動きベクトルとして前記メモリに格納し、
重み付けされた前記第１部分の複数の画素を少なくとも用いて、前記第１パーティションを復号する
画像復号装置。
前記回路に接続されたメモリとを備え、
前記回路は、動作において、
単予測動きベクトルである第１動きベクトルを用いて画像ブロックの第１パーティションに対する第１画素セットを予測し、
単予測動きベクトルである第２動きベクトルを用いて前記画像ブロックの第２パーティションに対する第２画素セットを予測し、
前記第１パーティションと前記第２パーティションとが重なり合う第１部分の複数の画素について、前記第１画素セットと前記第２画素セットとを重み付けし、
前記第１動きベクトルと前記第２動きベクトルとを双予測動きベクトルとして且つ前記第１部分の動きベクトルとして前記メモリに格納し、
重み付けされた前記第１部分の複数の画素を少なくとも用いて、前記第１パーティションを復号する
画像復号装置。
【請求項3】
回路と、
前記回路に接続されたメモリとを備え、
前記回路は、動作において、
画像ブロック中の第１パーティションおよび第２パーティションに対してパーティション処理を復号装置に実行させるための情報を生成し、
前記情報をビットストリームに含め、
前記パーティション処理は、
前記第１パーティションに対する第１画素セットが単予測動きベクトルである第１動きベクトルを用いて予測されることと、
前記第２パーティションに対する第２画素セットが単予測動きベクトルである第２動きベクトルを用いて予測されることと、
前記第１パーティションと前記第２パーティションとが重なり合う第１部分の複数の画素について、前記第１画素セットと前記第２画素セットとが重み付けされることと、
前記第１動きベクトルと前記第２動きベクトルとが双予測動きベクトルとして且つ前記第１部分の動きベクトルとして前記メモリに格納されることと、
前記第１パーティションが重み付けされた前記第１部分の複数の画素を少なくとも用いて、復号されることとを含む、
ビットストリーム生成装置。
前記回路に接続されたメモリとを備え、
前記回路は、動作において、
画像ブロック中の第１パーティションおよび第２パーティションに対してパーティション処理を復号装置に実行させるための情報を生成し、
前記情報をビットストリームに含め、
前記パーティション処理は、
前記第１パーティションに対する第１画素セットが単予測動きベクトルである第１動きベクトルを用いて予測されることと、
前記第２パーティションに対する第２画素セットが単予測動きベクトルである第２動きベクトルを用いて予測されることと、
前記第１パーティションと前記第２パーティションとが重なり合う第１部分の複数の画素について、前記第１画素セットと前記第２画素セットとが重み付けされることと、
前記第１動きベクトルと前記第２動きベクトルとが双予測動きベクトルとして且つ前記第１部分の動きベクトルとして前記メモリに格納されることと、
前記第１パーティションが重み付けされた前記第１部分の複数の画素を少なくとも用いて、復号されることとを含む、
ビットストリーム生成装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、ビデオコーディングに関し、特に参照フレームに基づいてカレントフレームの予測を構築するインター予測機能を実施するための動画像の符号化および復号におけるシステム、構成要素、ならびに方法などに関する。
【背景技術】
【0002】
ビデオコーディング技術は、Ｈ．２６１およびＭＰＥＧ－１から、Ｈ．２６４／ＡＶＣ（Ａｄｖａｎｃｅｄ Ｖｉｄｅｏ Ｃｏｄｉｎｇ）、ＭＰＥＧ－ＬＡ、Ｈ．２６５／ＨＥＶＣ（Ｈｉｇｈ Ｅｆｆｉｃｉｅｎｃｙ Ｖｉｄｅｏ Ｃｏｄｉｎｇ）、およびＨ．２６６／ＶＶＣ（Ｖｅｒｓａｔｉｌｅ Ｖｉｄｅｏ Ｃｏｄｅｃ）へ進歩している。この進歩に伴い、様々な用途において増え続けるデジタルビデオデータ量を処理するために、ビデオコーディング技術の改良および最適化を提供することが常に必要とされている。本開示は、特に参照フレームに基づいてカレントフレームの予測を構築するインター予測機能において、ビデオコーディングにおけるさらなる進歩、改良および最適化に関する。
【発明の概要】
【0003】
本開示の一態様に係る画像符号化装置は、回路と、前記回路に接続されたメモリとを備え、前記回路は、動作において、単予測動きベクトルである第１動きベクトルを用いて画像ブロックの第１パーティションに対する第１画素セットを予測し、単予測動きベクトルである第２動きベクトルを用いて前記画像ブロックの第２パーティションに対する第２画素セットを予測し、前記第１パーティションと前記第２パーティションとが重なり合う第１部分の複数の画素について、前記第１画素セットと前記第２画素セットとを重み付けし、前記第１動きベクトルと前記第２動きベクトルとを双予測動きベクトルとして且つ前記第１部分の動きベクトルとして前記メモリに格納し、重み付けされた前記第１部分の複数の画素を少なくとも用いて、前記第１パーティションを符号化する。
【0004】
本開示の一態様に係る画像復号装置は、回路と、前記回路に接続されたメモリとを備え、前記回路は、動作において、単予測動きベクトルである第１動きベクトルを用いて画像ブロックの第１パーティションに対する第１画素セットを予測し、単予測動きベクトルである第２動きベクトルを用いて前記画像ブロックの第２パーティションに対する第２画素セットを予測し、前記第１パーティションと前記第２パーティションとが重なり合う第１部分の複数の画素について、前記第１画素セットと前記第２画素セットとを重み付けし、前記第１動きベクトルと前記第２動きベクトルとを双予測動きベクトルとして且つ前記第１部分の動きベクトルとして前記メモリに格納し、重み付けされた前記第１部分の複数の画素を少なくとも用いて、前記第１パーティションを復号する。
【0005】
本開示の一態様に係るビットストリーム生成装置は、回路と、前記回路に接続されたメモリとを備え、前記回路は、動作において、画像ブロック中の第１パーティションおよび第２パーティションに対してパーティション処理を復号装置に実行させるための情報を生成し、前記情報をビットストリームに含め、前記パーティション処理は、前記第１パーティションに対する第１画素セットが単予測動きベクトルである第１動きベクトルを用いて予測されることと、前記第２パーティションに対する第２画素セットが単予測動きベクトルである第２動きベクトルを用いて予測されることと、前記第１パーティションと前記第２パーティションとが重なり合う第１部分の複数の画素について、前記第１画素セットと前記第２画素セットとが重み付けされることと、前記第１動きベクトルと前記第２動きベクトルとが双予測動きベクトルとして且つ前記第１部分の動きベクトルとして前記メモリに格納されることと、前記第１パーティションが重み付けされた前記第１部分の複数の画素を少なくとも用いて、復号されることとを含む。
【0006】
一態様において、画像符号化装置は、回路と前記回路に接続されたメモリとを備える。前記回路は、動作において、第１動きベクトルを用いてカレントピクチャの第１パーティションに対する第１画素セットを予測し、第２動きベクトルを用いてカレントピクチャの第２パーティションに対する第２画素セットを予測する。前記第１パーティションと前記第２パーティションとが重なり合う第１部分の複数の画素について、前記第１画素セットと前記第２画素セットとを重み付けする。第１条件に基づき、前記第１動きベクトルおよび前記第２動きベクトルのうちの一方を前記第１部分の動きベクトルとして前記メモリに格納する。前記第１条件とは異なる第２条件に基づき、前記第１動きベクトルおよび前記第２動きベクトルの両方を前記第１部分の動きベクトルとして前記メモリに格納する。重み付けされた前記第１部分の複数の画素を少なくとも用いて、前記第１パーティションを符号化する。
【0007】
一態様において、画像符号化装置は、動作において、原ピクチャを受信し、複数のブロックに分割する分割部と、動作において、前記分割部から前記複数のブロックと、予測制御部から複数の予測とを受信し、各予測を対応ブロックから減算して残差を出力する第１加算部と、動作において、前記第１加算部から出力された複数の残差に対して変換を行って、複数の変換係数を出力する変換部と、動作において、前記複数の変換係数を量子化して、複数の量子化変換係数を生成する量子化部と、動作において、前記複数の量子化変換係数を符号化して、ビットストリームを生成するエントロピー符号化部と、動作において、前記複数の量子化変換係数を逆量子化して、前記複数の変換係数を取得し、前記複数の変換係数を逆変換して、前記複数の残差を取得する逆量子化変換部と、動作において、前記逆量子化変換部から出力された前記複数の残差と、前記予測制御部から出力された前記複数の予測とを加算して、前記複数のブロックを再構成する第２加算部と、インター予測部、イントラ予測部及びメモリに接続された前記予測制御部とを備える。前記インター予測部は、動作において、符号化済みの参照ピクチャにおける参照ブロックに基づいてカレントブロックの予測を生成する。前記イントラ予測部は、動作において、カレントピクチャにおける符号化済みの参照ブロックに基づいてカレントブロックの予測を生成する。前記インター予測部は、動作において、第１動きベクトルを用いてカレントピクチャの第１パーティションに対する第１画素セットを予測し、第２動きベクトルを用いてカレントピクチャの第２パーティションに対する第２画素セットを予測する。前記第１パーティションと前記第２パーティションとが重なり合う第１部分の複数の画素について、前記第１画素セットと前記第２画素セットとを重み付けする。第１条件に基づき、前記第１動きベクトルおよび前記第２動きベクトルのうちの一方を前記第１部分の動きベクトルとして前記メモリに格納する。前記第１条件とは異なる第２条件に基づき、前記第１動きベクトルおよび前記第２動きベクトルの両方を前記第１部分の動きベクトルとして前記メモリに格納する。重み付けされた前記第１部分の複数の画素を少なくとも用いて、前記第１パーティションを符号化する。
【0008】
一態様において、画像符号化方法は、第１動きベクトルを用いてカレントピクチャの第１パーティションに対する第１画素セットを予測し、第２動きベクトルを用いてカレントピクチャの第２パーティションに対する第２画素セットを予測する。前記第１パーティションと前記第２パーティションとが重なり合う第１部分の複数の画素について、前記第１画素セットと前記第２画素セットとを重み付けする。第１条件に基づき、前記第１動きベクトルおよび前記第２動きベクトルのうちの一方を前記第１部分の動きベクトルとしてメモリに格納する。前記第１条件とは異なる第２条件に基づき、前記第１動きベクトルおよび前記第２動きベクトルの両方を前記第１部分の動きベクトルとして前記メモリに格納する。重み付けされた前記第１部分の複数の画素を少なくとも用いて、前記第１パーティションを符号化する。
【0009】
一態様において、画像復号装置は、回路と前記回路に接続されたメモリとを備える。前記回路は、動作において、第１動きベクトルを用いてカレントピクチャの第１パーティションに対する第１画素セットを予測し、第２動きベクトルを用いてカレントピクチャの第２パーティションに対する第２画素セットを予測する。前記第１パーティションと前記第２パーティションとが重なり合う第１部分の複数の画素について、前記第１画素セットと前記第２画素セットとを重み付けする。第１条件に基づき、前記第１動きベクトルおよび前記第２動きベクトルのうちの一方を前記第１部分の動きベクトルとして前記メモリに格納する。前記第１条件とは異なる第２条件に基づき、前記第１動きベクトルおよび前記第２動きベクトルの両方を前記第１部分の動きベクトルとして前記メモリに格納する。重み付けされた前記第１部分の複数の画素を少なくとも用いて、前記第１パーティションを復号する。
【0010】
一態様において、動作において、符号化ビットストリームを受信し復号して、複数の量子化変換係数を取得するエントロピー復号部と、動作において、前記複数の量子化変換係数を逆量子化して複数の変換係数を取得し、前記複数の変換係数を逆変換して複数の残差を取得する逆量子化変換部と、動作において、前記逆量子化変換部から出力される前記複数の残差と、予測制御部から出力される複数の予測とを加算して、複数のブロックを再構成する加算部と、インター予測部、イントラ予測部及びメモリに接続された前記予測制御部とを備える。前記インター予測部は、動作において、復号済みの参照ピクチャにおける参照ブロックに基づいてカレントブロックの予測を生成する。前記イントラ予測部は、動作において、カレントピクチャにおける復号済みの参照ブロックに基づいてカレントブロックの予測を生成する。前記インター予測部は、動作において、第１動きベクトルを用いてカレントピクチャの第１パーティションに対する第１画素セットを予測し、第２動きベクトルを用いてカレントピクチャの第２パーティションに対する第２画素セットを予測する。前記第１パーティションと前記第２パーティションとが重なり合う第１部分の複数の画素について、前記第１画素セットと前記第２画素セットとを重み付けする。第１条件に基づき、前記第１動きベクトルおよび前記第２動きベクトルのうちの一方を前記第１部分の動きベクトルとして前記メモリに格納する。前記第１条件とは異なる第２条件に基づき、前記第１動きベクトルおよび前記第２動きベクトルの両方を前記第１部分の動きベクトルとして前記メモリに格納する。重み付けされた前記第１部分の複数の画素を少なくとも用いて、前記第１パーティションを復号する。
【0011】
一態様において、画像復号方法は、第１動きベクトルを用いてカレントピクチャの第１パーティションに対する第１画素セットを予測し、第２動きベクトルを用いてカレントピクチャの第２パーティションに対する第２画素セットを予測する。前記第１パーティションと前記第２パーティションとが重なり合う第１部分の複数の画素について、前記第１画素セットと前記第２画素セットとを重み付けする。第１条件に基づき、前記第１動きベクトルおよび前記第２動きベクトルのうちの一方を前記第１部分の動きベクトルとしてメモリに格納する。前記第１条件とは異なる第２条件に基づき、前記第１動きベクトルおよび前記第２動きベクトルの両方を前記第１部分の動きベクトルとして前記メモリに格納する。重み付けされた前記第１部分の複数の画素を少なくとも用いて、前記第１パーティションを復号する。
【0012】
本開示における実施の形態のいくつかの実装は、符号化効率を改善してもよいし、符号化／復号処理を簡素化してもよいし、符号化／復号処理速度を速くしてもよいし、適切なフィルタ、ブロックサイズ、動きベクトル、参照ピクチャ、参照ブロック等のような、符号化及び復号に用いられる適切な構成要素／動作を効率よく選択してもよい。
【0013】
本開示の一態様におけるさらなる利点および効果は、明細書および図面から明らかにされる。かかる利点および／または効果は、いくつかの実施の形態並びに明細書および図面に記載された特徴によってそれぞれ得られるが、１つまたはそれ以上の利点および／または効果を得るために必ずしも全てが提供される必要はない。
【0014】
なお、これらの全般的または具体的な態様は、システム、方法、集積回路、コンピュータプログラム、記録媒体、又は、これらの任意な組み合わせで実現されてもよい。
【図面の簡単な説明】
【0015】
【図47】図４７は、一実施形態に従って、少なくとも、非矩形形状（例えば三角形）を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割してさらに処理を行う全体処理フローを示すフローチャートである。
【図48】図４８は、非矩形形状（例えば三角形）を有する第１パーティション、及び、第２パーティション（これも示された複数の例において非矩形形状を有する）に画像ブロックを分割する２つの例示的な方法を示す図である。
【図49】図４９は、第１パーティションに基づいて予測される複数の境界画素の複数の第１値と、第２パーティションに基づいて予測される複数の境界画素の複数の第２値とを重み付けすることを伴う境界平滑化処理の一例を示す図である。
【図50】図５０は、第１パーティションに基づいて予測される複数の境界画素の複数の第１値と、第２パーティションに基づいて予測される複数の境界画素の複数の第２値とを重み付けすることを伴う境界平滑化処理の３つのさらなる例を示す図である。
【図55】図５５は、示された複数の例において少なくとも５つの辺と角との多角形である非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割する複数のさらなる例を示す図である。
【図56】図５６は、第１パーティションに基づいて予測される複数の境界画像の複数の第１値と、第２パーティションに基づいて予測される複数の境界画像の複数の第２値とを重み付けすることを伴う境界平滑化処理を示すフローチャートである。
【図57A】図５７Ａは、複数の境界画素の重み付けされる複数の第１値が、第１パーティションに基づいて予測され、複数の境界画素の重み付けされる複数の第２値が第２パーティションに基づいて予測される境界平滑化処理の例を示す図である。
【図57B】図５７Ｂは、複数の境界画素の重み付けされる複数の第１値が、第１パーティションに基づいて予測され、複数の境界画素の重み付けされる複数の第２値が第２パーティションに基づいて予測される境界平滑化処理の例を示す図である。
【図57C】図５７Ｃは、複数の境界画素の重み付けされる複数の第１値が、第１パーティションに基づいて予測され、複数の境界画素の重み付けされる複数の第２値が第２パーティションに基づいて予測される境界平滑化処理の例を示す図である。
【図57D】図５７Ｄは、複数の境界画素の重み付けされる複数の第１値が、第１パーティションに基づいて予測され、複数の境界画素の重み付けされる複数の第２値が第２パーティションに基づいて予測される境界平滑化処理の例を示す図である。
【図58】図５８は、分割を示すパーティションパラメータに基づいて、非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割し、エントロピー符号化において、パーティションパラメータを含む１つ以上のパラメータをビットストリームに書き込む符号化装置側で行われる方法を示すフローチャートである。
【図59】図５９は、非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割することを示すパーティションパラメータを含む１つ以上のパラメータをビットストリームから読み解き、パーティションパラメータに基づいて、複数のパーティションに画像ブロックを分割し、第１パーティション及び第２パーティションを復号する復号装置側で行われる方法を示すフローチャートである。
【図60】図６０は、非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割することをそれぞれ示す複数のパーティションパラメータ（「複数の第１インデックス値」）例、及び、複数のパーティションパラメータによってそれぞれ一体として符号化され得る複数の情報セットを示すテーブル図である。
【図61】図６１は、第１パラメータ及び第２パラメータの一方が、非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割することを示すパーティションパラメータである、第１パラメータ及び第２パラメータの複数の組み合わせ例の表である。
【発明を実施するための形態】
【0016】
以下、実施の形態について図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの関係及び順序などは、一例であり、請求の範囲を限定する主旨ではない。
【0017】
以下では、符号化装置および復号化装置の実施の形態を説明する。実施の形態は、本開示の各態様で説明する処理および／または構成を適用可能な符号化装置および復号化装置の例である。処理および／または構成は、実施の形態とは異なる符号化装置および復号化装置においても実施可能である。例えば、実施の形態に対して適用される処理および／または構成に関して、例えば以下のいずれかを実施してもよい。
【0018】
（１）本開示の各態様で説明する実施の形態の符号化装置または復号装置の複数の構成要素のうちいずれかは、本開示の各態様のいずれかで説明する他の構成要素に置き換えまたは組み合わせられてもよい。
【0019】
（２）実施の形態の符号化装置または復号装置において、当該符号化装置または復号装置の複数の構成要素のうち一部の構成要素によって行われる機能または処理に、機能または処理の追加、置き換え、削除などの任意の変更がなされてもよい。例えば、いずれかの機能または処理は、本開示の各態様のいずれかで説明する他の機能または処理に、置き換えまたは組み合わせられてもよい。
【0020】
（３）実施の形態の符号化装置または復号装置が実施する方法において、当該方法に含まれる複数の処理のうちの一部の処理について、追加、置き換えおよび削除などの任意の変更がなされてもよい。例えば、方法におけるいずれかの処理は、本開示の各態様のいずれかで説明する他の処理に、置き換えまたは組み合わせられてもよい。
【0021】
（４）実施の形態の符号化装置または復号装置を構成する複数の構成要素のうちの一部の構成要素は、本開示の各態様のいずれかで説明する構成要素と組み合わせられてもよいし、本開示の各態様のいずれかで説明する機能の一部を備える構成要素と組み合わせられてもよいし、本開示の各態様で説明する構成要素が実施する処理の一部を実施する構成要素と組み合わせられてもよい。
【0022】
（５）実施の形態の符号化装置または復号装置の機能の一部を備える構成要素、または、実施の形態の符号化装置または復号装置の処理の一部を実施する構成要素は、本開示の各態様いずれかで説明する構成要素と、本開示の各態様でいずれかで説明する機能の一部を備える構成要素と、または、本開示の各態様のいずれかで説明する処理の一部を実施する構成要素と組み合わせまたは置き換えられてもよい。
【0023】
（６）実施の形態の符号化装置または復号装置が実施する方法において、当該方法に含まれる複数の処理のいずれかは、本開示の各態様のいずれかで説明する処理に、または、同様のいずれかの処理に、置き換えまたは組み合わせられてもよい。
【0024】
（７）実施の形態の符号化装置または復号装置が実施する方法に含まれる複数の処理のうちの一部の処理は、本開示の各態様のいずれかで説明する処理と組み合わせられてもよい。
【0025】
（８）本開示の各態様で説明する処理および／または構成の実施の仕方は、実施の形態の符号化装置または復号装置に限定されるものではない。例えば、処理および／または構成は、実施の形態において開示する動画像符号化または動画像復号とは異なる目的で利用される装置において実施されてもよい。
【0026】
［符号化装置］
まず、実施の形態に係る符号化装置を説明する。図１は、実施の形態に係る符号化装置１００の機能構成を示すブロック図である。符号化装置１００は、動画像をブロック単位で符号化する動画像符号化装置である。
まず、実施の形態に係る符号化装置を説明する。図１は、実施の形態に係る符号化装置１００の機能構成を示すブロック図である。符号化装置１００は、動画像をブロック単位で符号化する動画像符号化装置である。
【0027】
図１に示すように、符号化装置１００は、画像をブロック単位で符号化する装置であって、分割部１０２と、減算部１０４と、変換部１０６と、量子化部１０８と、エントロピー符号化部１１０と、逆量子化部１１２と、逆変換部１１４と、加算部１１６と、ブロックメモリ１１８と、ループフィルタ部１２０と、フレームメモリ１２２と、イントラ予測部１２４と、インター予測部１２６と、予測制御部１２８と、を備える。
【0028】
符号化装置１００は、例えば、汎用プロセッサ及びメモリにより実現される。この場合、メモリに格納されたソフトウェアプログラムがプロセッサにより実行されたときに、プロセッサは、分割部１０２、減算部１０４、変換部１０６、量子化部１０８、エントロピー符号化部１１０、逆量子化部１１２、逆変換部１１４、加算部１１６、ループフィルタ部１２０、イントラ予測部１２４、インター予測部１２６及び予測制御部１２８として機能する。また、符号化装置１００は、分割部１０２、減算部１０４、変換部１０６、量子化部１０８、エントロピー符号化部１１０、逆量子化部１１２、逆変換部１１４、加算部１１６、ループフィルタ部１２０、イントラ予測部１２４、インター予測部１２６及び予測制御部１２８に対応する専用の１以上の電子回路として実現されてもよい。
【0029】
以下に、符号化装置１００の全体的な処理の流れを説明した後に、符号化装置１００に含まれる各構成要素について説明する。
【0030】
［符号化処理の全体フロー］
図２は、符号化装置１００による全体的な符号化処理の一例を示すフローチャートである。
図２は、符号化装置１００による全体的な符号化処理の一例を示すフローチャートである。
【0031】
まず、符号化装置１００の分割部１０２は、動画像である入力画像に含まれる各ピクチャを複数の固定サイズのブロック（例えば、１２８×１２８画素）に分割する（ステップＳａ＿１）。そして、分割部１０２は、その固定サイズのブロックに対して分割パターン（ブロック形状ともいう）を選択する（ステップＳａ＿２）。つまり、分割部１０２は、固定サイズのブロックを、その選択された分割パターンを構成する複数のブロックに、さらに分割する。そして、符号化装置１００は、その複数のブロックのそれぞれについて、そのブロック（すなわち符号化対象ブロック）に対してステップＳａ＿３～Ｓａ＿９の処理を行う。
【0032】
つまり、イントラ予測部１２４、インター予測部１２６および予測制御部１２８の全てまたは一部からなる予測処理部は、符号化対象ブロック（カレントブロックともいう）の予測信号（予測ブロックともいう）を生成する（ステップＳａ＿３）。
【0033】
次に、減算部１０４は、符号化対象ブロックと予測ブロックとの差分を予測残差（差分ブロックともいう）として生成する（ステップＳａ＿４）。
【0034】
次に、変換部１０６および量子化部１０８は、その差分ブロックに対して変換および量子化を行うことによって、複数の量子化係数を生成する（ステップＳａ＿５）。なお、複数の量子化係数からなるブロックを係数ブロックともいう。
【0035】
次に、エントロピー符号化部１１０は、その係数ブロックと、予測信号の生成に関する予測パラメータとに対して符号化（具体的にはエントロピー符号化）を行うことによって、符号化信号を生成する（ステップＳａ＿６）。なお、符号化信号は、符号化ビットストリーム、圧縮ビットストリーム、またはストリームともいう。
【0036】
次に、逆量子化部１１２および逆変換部１１４は、係数ブロックに対して逆量子化および逆変換を行うことによって、複数の予測残差（すなわち差分ブロック）を復元する（ステップＳａ＿７）。
【0037】
次に、加算部１１６は、その復元された差分ブロックに予測ブロックを加算することによってカレントブロックを再構成画像（再構成ブロックまたは復号画像ブロックともいう）に再構成する（ステップＳａ＿８）。これにより、再構成画像が生成される。
【0038】
この再構成画像が生成されると、ループフィルタ部１２０は、その再構成画像に対してフィルタリングを必要に応じて行う（ステップＳａ＿９）。
【0039】
そして、符号化装置１００は、ピクチャ全体の符号化が完了したか否かを判定し（ステップＳａ＿１０）、完了していないと判定する場合（ステップＳａ＿１０のＮｏ）、ステップＳａ＿２からの処理を繰り返し実行する。
【0040】
なお、上述の例では、符号化装置１００は、固定サイズのブロックに対して１つの分割パターンを選択し、その分割パターンにしたがって各ブロックの符号化を行うが、複数の分割パターンのそれぞれにしたがって各ブロックの符号化を行ってもよい。この場合には、符号化装置１００は、複数の分割パターンのそれぞれに対するコストを評価し、例えば最も小さいコストの分割パターンにしたがった符号化によって得られる符号化信号を、出力される符号化信号として選択してもよい。
【0041】
図示されているように、これらのステップＳａ＿１～Ｓａ＿１０の処理は、符号化装置１００によってシーケンシャルに行われる。あるいは、それらの処理のうちの一部の複数の処理が並列に行われてもよく、それらの処理の順番の入れ替え等が行われてもよい。
【0042】
［分割部］
分割部１０２は、入力動画像に含まれる各ピクチャを複数のブロックに分割し、各ブロックを減算部１０４に出力する。例えば、分割部１０２は、まず、ピクチャを固定サイズ（例えば１２８ｘ１２８）のブロックに分割する。他の固定ブロックサイズが採用されてもよい。この固定サイズのブロックは、符号化ツリーユニット（ＣＴＵ）と呼ばれることがある。そして、分割部１０２は、例えば再帰的な四分木（ｑｕａｄｔｒｅｅ）及び／又は二分木（ｂｉｎａｒｙ ｔｒｅｅ）ブロック分割に基づいて、固定サイズのブロックの各々を可変サイズ（例えば６４ｘ６４以下）のブロックに分割する。すなわち、分割部１０２は、分割パターンを選択する。この可変サイズのブロックは、符号化ユニット（ＣＵ）、予測ユニット（ＰＵ）あるいは変換ユニット（ＴＵ）と呼ばれることがある。なお、種々の処理例では、ＣＵ、ＰＵ及びＴＵは区別される必要はなく、ピクチャ内の一部又はすべてのブロックがＣＵ、ＰＵ、ＴＵの処理単位となってもよい。
分割部１０２は、入力動画像に含まれる各ピクチャを複数のブロックに分割し、各ブロックを減算部１０４に出力する。例えば、分割部１０２は、まず、ピクチャを固定サイズ（例えば１２８ｘ１２８）のブロックに分割する。他の固定ブロックサイズが採用されてもよい。この固定サイズのブロックは、符号化ツリーユニット（ＣＴＵ）と呼ばれることがある。そして、分割部１０２は、例えば再帰的な四分木（ｑｕａｄｔｒｅｅ）及び／又は二分木（ｂｉｎａｒｙ ｔｒｅｅ）ブロック分割に基づいて、固定サイズのブロックの各々を可変サイズ（例えば６４ｘ６４以下）のブロックに分割する。すなわち、分割部１０２は、分割パターンを選択する。この可変サイズのブロックは、符号化ユニット（ＣＵ）、予測ユニット（ＰＵ）あるいは変換ユニット（ＴＵ）と呼ばれることがある。なお、種々の処理例では、ＣＵ、ＰＵ及びＴＵは区別される必要はなく、ピクチャ内の一部又はすべてのブロックがＣＵ、ＰＵ、ＴＵの処理単位となってもよい。
【0043】
【0044】
ここでは、ブロック１０は、１２８ｘ１２８画素の正方形ブロック（１２８ｘ１２８ブロック）である。この１２８ｘ１２８ブロック１０は、まず、４つの正方形の６４ｘ６４ブロックに分割される（四分木ブロック分割）。
【0045】
左上の６４ｘ６４ブロックは、さらに２つの矩形の３２ｘ６４ブロックに垂直に分割され、左の３２ｘ６４ブロックはさらに２つの矩形の１６ｘ６４ブロックに垂直に分割される（二分木ブロック分割）。その結果、左上の６４ｘ６４ブロックは、２つの１６ｘ６４ブロック１１、１２と、３２ｘ６４ブロック１３とに分割される。
【0046】
右上の６４ｘ６４ブロックは、２つの矩形の６４ｘ３２ブロック１４、１５に水平に分割される（二分木ブロック分割）。
【0047】
左下の６４ｘ６４ブロックは、４つの正方形の３２ｘ３２ブロックに分割される（四分木ブロック分割）。４つの３２ｘ３２ブロックのうち左上のブロック及び右下のブロックはさらに分割される。左上の３２ｘ３２ブロックは、２つの矩形の１６ｘ３２ブロックに垂直に分割され、右の１６ｘ３２ブロックはさらに２つの１６ｘ１６ブロックに水平に分割される（二分木ブロック分割）。右下の３２ｘ３２ブロックは、２つの３２ｘ１６ブロックに水平に分割される（二分木ブロック分割）。その結果、左下の６４ｘ６４ブロックは、１６ｘ３２ブロック１６と、２つの１６ｘ１６ブロック１７、１８と、２つの３２ｘ３２ブロック１９、２０と、２つの３２ｘ１６ブロック２１、２２とに分割される。
【0048】
右下の６４ｘ６４ブロック２３は分割されない。
【0049】
以上のように、図３では、ブロック１０は、再帰的な四分木及び二分木ブロック分割に基づいて、１３個の可変サイズのブロック１１～２３に分割される。このような分割は、ＱＴＢＴ（ｑｕａｄ－ｔｒｅｅ ｐｌｕｓ ｂｉｎａｒｙ ｔｒｅｅ）分割と呼ばれることがある。
【0050】
なお、図３では、１つのブロックが４つ又は２つのブロックに分割されていたが（四分木又は二分木ブロック分割）、分割はこれらに限定されない。例えば、１つのブロックが３つのブロックに分割されてもよい（三分木ブロック分割）。このような三分木ブロック分割を含む分割は、ＭＢＴ（ｍｕｌｔｉ ｔｙｐｅ ｔｒｅｅ）分割と呼ばれることがある。
【0051】
［ピクチャの構成 スライス／タイル］
ピクチャを並列にデコードするために、ピクチャはスライス単位またはタイル単位で構成される場合がある。スライス単位またはタイル単位からなるピクチャは、分割部１０２によって構成されてもよい。
ピクチャを並列にデコードするために、ピクチャはスライス単位またはタイル単位で構成される場合がある。スライス単位またはタイル単位からなるピクチャは、分割部１０２によって構成されてもよい。
【0052】
スライスは、ピクチャを構成する基本的な符号化の単位である。ピクチャは、例えば１つ以上のスライスから構成される。また、スライスは、１つ以上の連続するＣＴＵ（Ｃｏｄｉｎｇ Ｔｒｅｅ Ｕｎｉｔ）からなる。
【0053】
図４Ａは、スライスの構成の一例を示す概念図である。例えば、ピクチャは、１１×８個のＣＴＵを含み、かつ、４つのスライス（スライス１－４）に分割される。スライス１は、１６個のＣＴＵからなり、スライス２は、２１個のＣＴＵからなり、スライス３は、２９個のＣＴＵからなり、スライス４は、２２個のＣＴＵからなる。ここで、ピクチャ内の各ＣＴＵは、いずれかのスライスに属する。スライスの形状は、ピクチャを水平方向に分割した形になる。スライスの境界は、画面端である必要はなく、画面内のＣＴＵの境界のうちどこであってもよい。スライスの中のＣＴＵの処理順（符号化順または復号順）は、例えばラスタ・スキャン順である。また、スライスは、ヘッダ情報と符号化データを含む。ヘッダ情報には、スライスの先頭のＣＴＵアドレス、スライス・タイプなどそのスライスの特徴が記述されてもよい。
【0054】
タイルは、ピクチャを構成する矩形領域の単位である。各タイルにはＴｉｌｅＩｄと呼ばれる番号がラスタ・スキャン順に割り振られてもよい。
【0055】
図４Ｂは、タイルの構成の一例を示す概念図である。例えば、ピクチャは、１１×８個のＣＴＵを含み、かつ、４つの矩形領域のタイル（タイル１－４）に分割される。タイルが使用される場合、タイルが使用されない場合と比べてＣＴＵの処理順が変更される。タイルが使用されない場合、ピクチャ内の複数のＣＴＵはラスタ・スキャン順に処理される。タイルが使用される場合には、複数のタイルのそれぞれにおいて、少なくとも１つのＣＴＵがラスタ・スキャン順に処理される。例えば、図４Ｂに示すように、タイル１に含まれる複数のＣＴＵの処理順は、タイル１の１行目左端からタイル１の１行目右端まで向かい、次に、タイル１の２行目左端からタイル１の２行目右端まで向かう順である。
【0056】
なお、１つのタイルは、１つ以上のスライスを含む場合があり、１つのスライスは、１つ以上のタイルを含む場合がある。
【0057】
［減算部］
減算部１０４は、分割部１０２から入力され、分割部１０２によって分割されたブロック単位で、原信号（原サンプル）から予測信号（以下に示す予測制御部１２８から入力される予測サンプル）を減算する。つまり、減算部１０４は、符号化対象ブロック（以下、カレントブロックという）の予測誤差（残差ともいう）を算出する。そして、減算部１０４は、算出された予測誤差（残差）を変換部１０６に出力する。
減算部１０４は、分割部１０２から入力され、分割部１０２によって分割されたブロック単位で、原信号（原サンプル）から予測信号（以下に示す予測制御部１２８から入力される予測サンプル）を減算する。つまり、減算部１０４は、符号化対象ブロック（以下、カレントブロックという）の予測誤差（残差ともいう）を算出する。そして、減算部１０４は、算出された予測誤差（残差）を変換部１０６に出力する。
【0058】
原信号は、符号化装置１００の入力信号であり、動画像を構成する各ピクチャの画像を表す信号（例えば輝度（ｌｕｍａ）信号及び２つの色差（ｃｈｒｏｍａ）信号）である。以下において、画像を表す信号をサンプルということもある。
【0059】
［変換部］
変換部１０６は、空間領域の予測誤差を周波数領域の変換係数に変換し、変換係数を量子化部１０８に出力する。具体的には、変換部１０６は、例えば空間領域の予測誤差に対して所定の離散コサイン変換（ＤＣＴ）又は離散サイン変換（ＤＳＴ）を行う。所定のＤＣＴ又はＤＳＴは、予め定められていてもよい。
変換部１０６は、空間領域の予測誤差を周波数領域の変換係数に変換し、変換係数を量子化部１０８に出力する。具体的には、変換部１０６は、例えば空間領域の予測誤差に対して所定の離散コサイン変換（ＤＣＴ）又は離散サイン変換（ＤＳＴ）を行う。所定のＤＣＴ又はＤＳＴは、予め定められていてもよい。
【0060】
なお、変換部１０６は、複数の変換タイプの中から適応的に変換タイプを選択し、選択された変換タイプに対応する変換基底関数（ｔｒａｎｓｆｏｒｍ ｂａｓｉｓ ｆｕｎｃｔｉｏｎ）を用いて、予測誤差を変換係数に変換してもよい。このような変換は、ＥＭＴ（ｅｘｐｌｉｃｉｔ ｍｕｌｔｉｐｌｅ ｃｏｒｅ ｔｒａｎｓｆｏｒｍ）又はＡＭＴ（ａｄａｐｔｉｖｅ ｍｕｌｔｉｐｌｅ ｔｒａｎｓｆｏｒｍ）と呼ばれることがある。
【0061】
複数の変換タイプは、例えば、ＤＣＴ－ＩＩ、ＤＣＴ－Ｖ、ＤＣＴ－ＶＩＩＩ、ＤＳＴ－Ｉ及びＤＳＴ－ＶＩＩを含む。図５Ａは、変換タイプ例に対応する変換基底関数を示す表である。図５ＡにおいてＮは入力画素の数を示す。これらの複数の変換タイプの中からの変換タイプの選択は、例えば、予測の種類（イントラ予測及びインター予測）に依存してもよいし、イントラ予測モードに依存してもよい。
【0062】
このようなＥＭＴ又はＡＭＴを適用するか否かを示す情報（例えばＥＭＴフラグまたはＡＭＴフラグと呼ばれる）及び選択された変換タイプを示す情報は、通常、ＣＵレベルで信号化される。なお、これらの情報の信号化は、ＣＵレベルに限定される必要はなく、他のレベル（例えば、ビットシーケンスレベル、ピクチャレベル、スライスレベル、タイルレベル又はＣＴＵレベル）であってもよい。
【0063】
また、変換部１０６は、変換係数（変換結果）を再変換してもよい。このような再変換は、ＡＳＴ（ａｄａｐｔｉｖｅ ｓｅｃｏｎｄａｒｙ ｔｒａｎｓｆｏｒｍ）又はＮＳＳＴ（ｎｏｎ－ｓｅｐａｒａｂｌｅ ｓｅｃｏｎｄａｒｙ ｔｒａｎｓｆｏｒｍ）と呼ばれることがある。例えば、変換部１０６は、イントラ予測誤差に対応する変換係数のブロックに含まれるサブブロック（例えば４ｘ４サブブロック）ごとに再変換を行う。ＮＳＳＴを適用するか否かを示す情報及びＮＳＳＴに用いられる変換行列に関する情報は、通常、ＣＵレベルで信号化される。なお、これらの情報の信号化は、ＣＵレベルに限定される必要はなく、他のレベル（例えば、シーケンスレベル、ピクチャレベル、スライスレベル、タイルレベル又はＣＴＵレベル）であってもよい。
【0064】
変換部１０６には、Ｓｅｐａｒａｂｌｅな変換と、Ｎｏｎ－Ｓｅｐａｒａｂｌｅな変換とが適用されてもよい。Ｓｅｐａｒａｂｌｅな変換とは、入力の次元の数だけ方向ごとに分離して複数回変換を行う方式であり、Ｎｏｎ－Ｓｅｐａｒａｂｌｅな変換とは、入力が多次元であった際に２つ以上の次元をまとめて１次元とみなして、まとめて変換を行う方式である。
【0065】
例えば、Ｎｏｎ－Ｓｅｐａｒａｂｌｅな変換の一例として、入力が４×４のブロックであった場合にはそれを１６個の要素を持ったひとつの配列とみなし、その配列に対して１６×１６の変換行列で変換処理を行うようなものが挙げられる。
【0066】
また、Ｎｏｎ－Ｓｅｐａｒａｂｌｅな変換のさらなる例では、４×４の入力ブロックを１６個の要素を持ったひとつの配列とみなした後に、その配列に対してＧｉｖｅｎｓ回転を複数回行うような変換（Ｈｙｐｅｒｃｕｂｅ Ｇｉｖｅｎｓ Ｔｒａｎｓｆｏｒｍ）が行われてもよい。
【0067】
変換部１０６での変換では、ＣＵ内の領域に応じて周波数領域に変換する基底のタイプを切替えることもできる。一例として、ＳＶＴ（Ｓｐａｔｉａｌｌｙ Ｖａｒｙｉｎｇ Ｔｒａｎｓｆｏｒｍ）がある。ＳＶＴでは、図５Ｂに示すように、水平あるいは垂直方向にＣＵを２等分し、いずれか一方の領域のみ周波数領域への変換を行う。変換基底のタイプは領域毎に設定でき、例えば、ＤＳＴ７とＤＣＴ８が用いられる。本例ではＣＵ内の２つの領域のうち、どちらか一方のみ変換を行い、もう一方は変換を行わないが、２つの領域共に変換してもよい。また、分割方法も２等分だけでなく、４等分、あるいは分割を示す情報を別途符号化してＣＵ分割と同様にシグナリングするなど、より柔軟にすることもできる。なお、ＳＶＴは、ＳＢＴ（Ｓｕｂ－ｂｌｏｃｋ Ｔｒａｎｓｆｏｒｍ）と呼ぶこともある。
【0068】
［量子化部］
量子化部１０８は、変換部１０６から出力された変換係数を量子化する。具体的には、量子化部１０８は、カレントブロックの変換係数を所定の走査順序で走査し、走査された変換係数に対応する量子化パラメータ（ＱＰ）に基づいて当該変換係数を量子化する。そして、量子化部１０８は、カレントブロックの量子化された変換係数（以下、量子化係数という）をエントロピー符号化部１１０及び逆量子化部１１２に出力する。所定の走査順序は、予め定められていてもよい。
量子化部１０８は、変換部１０６から出力された変換係数を量子化する。具体的には、量子化部１０８は、カレントブロックの変換係数を所定の走査順序で走査し、走査された変換係数に対応する量子化パラメータ（ＱＰ）に基づいて当該変換係数を量子化する。そして、量子化部１０８は、カレントブロックの量子化された変換係数（以下、量子化係数という）をエントロピー符号化部１１０及び逆量子化部１１２に出力する。所定の走査順序は、予め定められていてもよい。
【0069】
所定の走査順序は、変換係数の量子化／逆量子化のための順序である。例えば、所定の走査順序は、周波数の昇順（低周波から高周波の順）又は降順（高周波から低周波の順）で定義されてもよい。
【0070】
量子化パラメータ（ＱＰ）とは、量子化ステップ（量子化幅）を定義するパラメータである。例えば、量子化パラメータの値が増加すれば量子化ステップも増加する。つまり、量子化パラメータの値が増加すれば量子化誤差が増大する。
【0071】
また、量子化には、量子化マトリックスが使用される場合がある。例えば、４ｘ４および８ｘ８などの周波数変換サイズと、イントラ予測およびインター予測などの予測モードと、輝度および色差などの画素成分とに対応して数種類の量子化マトリックスが使われる場合がある。なお、量子化とは、所定の間隔でサンプリングした値を所定のレベルに対応づけてデジタル化することをいい、この技術分野では、丸め、ラウンディング、スケーリングといった他の表現を用いて参照されてもよいし、丸め、ラウンディング、スケーリングを採用してもよい。所定の間隔及びレベルは、予め定められていてもよい。
【0072】
量子化マトリックスを使用する方法として、符号化装置側で直接設定された量子化マトリックスを使用する方法と、デフォルトの量子化マトリックス（デフォルトマトリックス）を使用する方法とがある。符号化装置側では、量子化マトリックスを直接設定することにより、画像の特徴に応じた量子化マトリックスを設定することができる。しかし、この場合、量子化マトリックスの符号化によって、符号量が増加するというデメリットがある。
【0073】
一方、量子化マトリックスを使用せず、高域成分の係数も低域成分の係数も同じように量子化する方法もある。なお、この方法は、係数が全て同じ値である量子化マトリックス（フラットなマトリックス）を用いる方法に等しい。
【0074】
量子化マトリックスは、例えば、ＳＰＳ（シーケンスパラメータセット：Ｓｅｑｕｅｎｃｅ Ｐａｒａｍｅｔｅｒ Ｓｅｔ）またはＰＰＳ（ピクチャパラメータセット：Ｐｉｃｔｕｒｅ Ｐａｒａｍｅｔｅｒ Ｓｅｔ）で指定されてもよい。ＳＰＳは、シーケンスに対して用いられるパラメータを含み、ＰＰＳは、ピクチャに対して用いられるパラメータを含む。ＳＰＳとＰＰＳとは、単にパラメータセットと呼ばれる場合がある。
【0075】
［エントロピー符号化部］
エントロピー符号化部１１０は、量子化部１０８から入力された量子化係数に基づいて符号化信号（符号化ビットストリーム）を生成する。具体的には、エントロピー符号化部１１０は、例えば、量子化係数を二値化し、二値信号を算術符号化し、圧縮されたビットストリームまたはシーケンスを出力する。
エントロピー符号化部１１０は、量子化部１０８から入力された量子化係数に基づいて符号化信号（符号化ビットストリーム）を生成する。具体的には、エントロピー符号化部１１０は、例えば、量子化係数を二値化し、二値信号を算術符号化し、圧縮されたビットストリームまたはシーケンスを出力する。
【0076】
［逆量子化部］
逆量子化部１１２は、量子化部１０８から入力された量子化係数を逆量子化する。具体的には、逆量子化部１１２は、カレントブロックの量子化係数を所定の走査順序で逆量子化する。そして、逆量子化部１１２は、カレントブロックの逆量子化された変換係数を逆変換部１１４に出力する。所定の走査順序は、予め定められていてもよい。
逆量子化部１１２は、量子化部１０８から入力された量子化係数を逆量子化する。具体的には、逆量子化部１１２は、カレントブロックの量子化係数を所定の走査順序で逆量子化する。そして、逆量子化部１１２は、カレントブロックの逆量子化された変換係数を逆変換部１１４に出力する。所定の走査順序は、予め定められていてもよい。
【0077】
［逆変換部］
逆変換部１１４は、逆量子化部１１２から入力された変換係数を逆変換することにより予測誤差（残差）を復元する。具体的には、逆変換部１１４は、変換係数に対して、変換部１０６による変換に対応する逆変換を行うことにより、カレントブロックの予測誤差を復元する。そして、逆変換部１１４は、復元された予測誤差を加算部１１６に出力する。
逆変換部１１４は、逆量子化部１１２から入力された変換係数を逆変換することにより予測誤差（残差）を復元する。具体的には、逆変換部１１４は、変換係数に対して、変換部１０６による変換に対応する逆変換を行うことにより、カレントブロックの予測誤差を復元する。そして、逆変換部１１４は、復元された予測誤差を加算部１１６に出力する。
【0078】
なお、復元された予測誤差は、通常、量子化により情報が失われているので、減算部１０４が算出した予測誤差と一致しない。すなわち、復元された予測誤差には、通常、量子化誤差が含まれている。
【0079】
［加算部］
加算部１１６は、逆変換部１１４から入力された予測誤差と予測制御部１２８から入力された予測サンプルとを加算することによりカレントブロックを再構成する。そして、加算部１１６は、再構成されたブロックをブロックメモリ１１８及びループフィルタ部１２０に出力する。再構成ブロックは、ローカル復号ブロックと呼ばれることもある。
加算部１１６は、逆変換部１１４から入力された予測誤差と予測制御部１２８から入力された予測サンプルとを加算することによりカレントブロックを再構成する。そして、加算部１１６は、再構成されたブロックをブロックメモリ１１８及びループフィルタ部１２０に出力する。再構成ブロックは、ローカル復号ブロックと呼ばれることもある。
【0080】
［ブロックメモリ］
ブロックメモリ１１８は、例えば、イントラ予測で参照されるブロックであって符号化対象ピクチャ（カレントピクチャという）内のブロックを格納するための記憶部である。具体的には、ブロックメモリ１１８は、加算部１１６から出力された再構成ブロックを格納する。
ブロックメモリ１１８は、例えば、イントラ予測で参照されるブロックであって符号化対象ピクチャ（カレントピクチャという）内のブロックを格納するための記憶部である。具体的には、ブロックメモリ１１８は、加算部１１６から出力された再構成ブロックを格納する。
【0081】
［フレームメモリ］
フレームメモリ１２２は、例えば、インター予測に用いられる参照ピクチャを格納するための記憶部であり、フレームバッファと呼ばれることもある。具体的には、フレームメモリ１２２は、ループフィルタ部１２０によってフィルタされた再構成ブロックを格納する。
フレームメモリ１２２は、例えば、インター予測に用いられる参照ピクチャを格納するための記憶部であり、フレームバッファと呼ばれることもある。具体的には、フレームメモリ１２２は、ループフィルタ部１２０によってフィルタされた再構成ブロックを格納する。
【0082】
［ループフィルタ部］
ループフィルタ部１２０は、加算部１１６によって再構成されたブロックにループフィルタを施し、フィルタされた再構成ブロックをフレームメモリ１２２に出力する。ループフィルタとは、符号化ループ内で用いられるフィルタ（インループフィルタ）であり、例えば、デブロッキング・フィルタ（ＤＦまたはＤＢＦ）、サンプルアダプティブオフセット（ＳＡＯ）及びアダプティブループフィルタ（ＡＬＦ）などを含む。
ループフィルタ部１２０は、加算部１１６によって再構成されたブロックにループフィルタを施し、フィルタされた再構成ブロックをフレームメモリ１２２に出力する。ループフィルタとは、符号化ループ内で用いられるフィルタ（インループフィルタ）であり、例えば、デブロッキング・フィルタ（ＤＦまたはＤＢＦ）、サンプルアダプティブオフセット（ＳＡＯ）及びアダプティブループフィルタ（ＡＬＦ）などを含む。
【0083】
ＡＬＦでは、符号化歪みを除去するための最小二乗誤差フィルタが適用され、例えばカレントブロック内の２ｘ２サブブロックごとに、局所的な勾配（ｇｒａｄｉｅｎｔ）の方向及び活性度（ａｃｔｉｖｉｔｙ）に基づいて複数のフィルタの中から選択された１つのフィルタが適用される。
【0084】
具体的には、まず、サブブロック（例えば２ｘ２サブブロック）が複数のクラス（例えば１５又は２５クラス）に分類される。サブブロックの分類は、勾配の方向及び活性度に基づいて行われる。例えば、勾配の方向値Ｄ（例えば０～２又は０～４）と勾配の活性値Ａ（例えば０～４）とを用いて分類値Ｃ（例えばＣ＝５Ｄ＋Ａ）が算出される。そして、分類値Ｃに基づいて、サブブロックが複数のクラスに分類される。
【0085】
勾配の方向値Ｄは、例えば、複数の方向（例えば水平、垂直及び２つの対角方向）の勾配を比較することにより導出される。また、勾配の活性値Ａは、例えば、複数の方向の勾配を加算し、加算結果を量子化することにより導出される。
【0086】
このような分類の結果に基づいて、複数のフィルタの中からサブブロックのためのフィルタが決定される。
【0087】
ＡＬＦで用いられるフィルタの形状としては例えば円対称形状が利用される。図６Ａ～図６Ｃは、ＡＬＦで用いられるフィルタの形状の複数の例を示す図である。図６Ａは、５ｘ５ダイヤモンド形状フィルタを示し、図６Ｂは、７ｘ７ダイヤモンド形状フィルタを示し、図６Ｃは、９ｘ９ダイヤモンド形状フィルタを示す。フィルタの形状を示す情報は、通常、ピクチャレベルで信号化される。なお、フィルタの形状を示す情報の信号化は、ピクチャレベルに限定される必要はなく、他のレベル（例えば、シーケンスレベル、スライスレベル、タイルレベル、ＣＴＵレベル又はＣＵレベル）であってもよい。
【0088】
ＡＬＦのオン／オフは、例えば、ピクチャレベル又はＣＵレベルで決定されてもよい。例えば、輝度についてはＣＵレベルでＡＬＦを適用するか否かが決定されてもよく、色差についてはピクチャレベルでＡＬＦを適用するか否かが決定されてもよい。ＡＬＦのオン／オフを示す情報は、通常、ピクチャレベル又はＣＵレベルで信号化される。なお、ＡＬＦのオン／オフを示す情報の信号化は、ピクチャレベル又はＣＵレベルに限定される必要はなく、他のレベル（例えば、シーケンスレベル、スライスレベル、タイルレベル又はＣＴＵレベル）であってもよい。
【0089】
選択可能な複数のフィルタ（例えば１５又は２５までのフィルタ）の係数セットは、通常、ピクチャレベルで信号化される。なお、係数セットの信号化は、ピクチャレベルに限定される必要はなく、他のレベル（例えば、シーケンスレベル、スライスレベル、タイルレベル、ＣＴＵレベル、ＣＵレベル又はサブブロックレベル）であってもよい。
【0090】
［ループフィルタ部 ＞ デブロッキング・フィルタ］
デブロッキング・フィルタでは、ループフィルタ部１２０は、再構成画像のブロック境界にフィルタ処理を行うことによって、そのブロック境界に生じる歪みを減少させる。
デブロッキング・フィルタでは、ループフィルタ部１２０は、再構成画像のブロック境界にフィルタ処理を行うことによって、そのブロック境界に生じる歪みを減少させる。
【0091】
図７は、デブロッキング・フィルタとして機能するループフィルタ部１２０の詳細な構成の一例を示すブロック図である。
【0092】
ループフィルタ部１２０は、境界判定部１２０１、フィルタ判定部１２０３と、フィルタ処理部１２０５と、処理判定部１２０８と、フィルタ特性決定部１２０７と、スイッチ１２０２、１２０４および１２０６とを備える。
【0093】
境界判定部１２０１は、デブロッキング・フィルタ処理される画素（すなわち対象画素）がブロック境界付近に存在しているか否かを判定する。そして、境界判定部１２０１は、その判定結果をスイッチ１２０２および処理判定部１２０８に出力する。
【0094】
スイッチ１２０２は、対象画素がブロック境界付近に存在していると境界判定部１２０１によって判定された場合には、フィルタ処理前の画像を、スイッチ１２０４に出力する。逆に、スイッチ１２０２は、境界判定部１２０１によって対象画素がブロック境界付近に存在していないと判定された場合には、フィルタ処理前の画像をスイッチ１２０６に出力する。
【0095】
フィルタ判定部１２０３は、対象画素の周辺にある少なくとも１つの周辺画素の画素値に基づいて、対象画素に対してデブロッキング・フィルタ処理を行うか否かを判定する。そして、フィルタ判定部１２０３は、その判定結果をスイッチ１２０４および処理判定部１２０８に出力する。
【0096】
スイッチ１２０４は、対象画素にデブロッキング・フィルタ処理を行うとフィルタ判定部１２０３によって判定された場合には、スイッチ１２０２を介して取得したフィルタ処理前の画像を、フィルタ処理部１２０５に出力する。逆に、スイッチ１２０４は、対象画素にデブロッキング・フィルタ処理を行わないとフィルタ判定部１２０３によって判定された場合には、スイッチ１２０２を介して取得したフィルタ処理前の画像をスイッチ１２０６に出力する。
【0097】
フィルタ処理部１２０５は、スイッチ１２０２および１２０４を介してフィルタ処理前の画像を取得した場合には、フィルタ特性決定部１２０７によって決定されたフィルタ特性を有するデブロッキング・フィルタ処理を、対象画素に対して実行する。そして、フィルタ処理部１２０５は、そのフィルタ処理後の画素をスイッチ１２０６に出力する。
【0098】
スイッチ１２０６は、処理判定部１２０８による制御に応じて、デブロッキング・フィルタ処理されていない画素と、フィルタ処理部１２０５によってデブロッキング・フィルタ処理された画素とを選択的に出力する。
【0099】
処理判定部１２０８は、境界判定部１２０１およびフィルタ判定部１２０３のそれぞれの判定結果に基づいて、スイッチ１２０６を制御する。つまり、処理判定部１２０８は、対象画素がブロック境界付近に存在していると境界判定部１２０１によって判定され、かつ、対象画素にデブロッキング・フィルタ処理を行うとフィルタ判定部１２０３によって判定された場合には、デブロッキング・フィルタ処理された画素をスイッチ１２０６から出力させる。また、上述の場合以外では、処理判定部１２０８は、デブロッキング・フィルタ処理されていない画素をスイッチ１２０６から出力させる。このような画素の出力が繰り返し行われることによって、フィルタ処理後の画像がスイッチ１２０６から出力される。
【0100】
図８は、ブロック境界に対して対称なフィルタ特性を有するデブロッキング・フィルタの例を示す概念図である。
【0101】
デブロッキング・フィルタ処理では、例えば、画素値と量子化パラメータを用いて、特性の異なる２つのデブロッキング・フィルタ、すなわちストロングフィルタおよびウィークフィルタのうちの何れか１つが選択される。ストロングフィルタでは、図８に示すように、ブロック境界を挟んで画素ｐ０～ｐ２と、画素ｑ０～ｑ２とが存在する場合、画素ｑ０～ｑ２のそれぞれの画素値は、例えば以下の式に示す演算を行うことによって、画素値ｑ’０～ｑ’２に変更される。
【0102】
ｑ’０＝（ｐ１＋２×ｐ０＋２×ｑ０＋２×ｑ１＋ｑ２＋４）／８
ｑ’１＝（ｐ０＋ｑ０＋ｑ１＋ｑ２＋２）／４
ｑ’２＝（ｐ０＋ｑ０＋ｑ１＋３×ｑ２＋２×ｑ３＋４）／８
ｑ’１＝（ｐ０＋ｑ０＋ｑ１＋ｑ２＋２）／４
ｑ’２＝（ｐ０＋ｑ０＋ｑ１＋３×ｑ２＋２×ｑ３＋４）／８
【0103】
なお、上述の式において、ｐ０～ｐ２およびｑ０～ｑ２は、画素ｐ０～ｐ２および画素ｑ０～ｑ２のそれぞれの画素値である。また、ｑ３は、画素ｑ２にブロック境界と反対側に隣接する画素ｑ３の画素値である。また、上述の各式の右辺において、デブロッキング・フィルタ処理に用いられる各画素の画素値に乗算される係数が、フィルタ係数である。
【0104】
さらに、デブロッキング・フィルタ処理では、演算後の画素値が閾値を超えて設定されないように、クリップ処理が行われてもよい。このクリップ処理では、上述の式による演算後の画素値は、量子化パラメータから決定される閾値を用いて、「演算対象画素値±２×閾値」にクリップされる。これにより、過度な平滑化を防ぐことができる。
【0105】
【0106】
デブロッキング・フィルタ処理が行われるブロック境界は、例えば、図９で示すような８×８画素ブロックのＰＵ（Ｐｒｅｄｉｃｔｉｏｎ Ｕｎｉｔ）またはＴＵ（Ｔｒａｎｓｆｏｒｍ Ｕｎｉｔ）の境界である。デブロッキング・フィルタ処理は、４行または４列を単位に行われ得る。まず、図９に示すブロックＰおよびブロックＱに対して、図１０のようにＢｓ（Ｂｏｕｎｄａｒｙ Ｓｔｒｅｎｇｔｈ）値が決定される。
【0107】
図１０のＢｓ値にしたがい、同一の画像に属するブロック境界であっても、異なる強さのデブロッキング・フィルタ処理を行うか否かが決定される。色差信号に対するデブロッキング・フィルタ処理は、Ｂｓ値が２の場合に行われる。輝度信号に対するデブロッキング・フィルタ処理は、Ｂｓ値が１以上であって、所定の条件が満たされた場合に行われる。所定の条件は、予め定められていてもよい。なお、Ｂｓ値の判定条件は図１０に示したものに限定されず、他のパラメータに基づいて決定されてもよい。
【0108】
［予測処理部（イントラ予測部・インター予測部・予測制御部）］
図１１は、符号化装置１００の予測処理部で行われる処理の一例を示すフローチャートである。なお、予測処理部は、イントラ予測部１２４、インター予測部１２６、および予測制御部１２８の全てまたは一部の構成要素からなる。
図１１は、符号化装置１００の予測処理部で行われる処理の一例を示すフローチャートである。なお、予測処理部は、イントラ予測部１２４、インター予測部１２６、および予測制御部１２８の全てまたは一部の構成要素からなる。
【0109】
予測処理部は、カレントブロックの予測画像を生成する（ステップＳｂ＿１）。この予測画像は、予測信号または予測ブロックともいう。なお、予測信号には、例えばイントラ予測信号またはインター予測信号がある。具体的には、予測処理部は、予測ブロックの生成、差分ブロックの生成、係数ブロックの生成、差分ブロックの復元、および復号画像ブロックの生成が行われることによって既に得られている再構成画像を用いて、カレントブロックの予測画像を生成する。
【0110】
再構成画像は、例えば、参照ピクチャの画像であってもよいし、カレントブロックを含むピクチャであるカレントピクチャ内の符号化済みのブロックの画像であってもよい。カレントピクチャ内の符号化済みのブロックは、例えばカレントブロックの隣接ブロックである。
【0111】
図１２は、符号化装置１００の予測処理部で行われる処理の他の例を示すフローチャートである。
【0112】
予測処理部は、第１の方式で予測画像を生成し（ステップＳｃ＿１ａ）、第２の方式で予測画像を生成し（ステップＳｃ＿１ｂ）、第３の方式で予測画像を生成する（ステップＳｃ＿１ｃ）。第１の方式、第２の方式、および第３の方式は、予測画像を生成するための互いに異なる方式であって、それぞれ例えば、インター予測方式、イントラ予測方式、および、それら以外の予測方式であってもよい。これらの予測方式では、上述の再構成画像を用いてもよい。
【0113】
次に、予測処理部は、ステップＳｃ＿１ａ、Ｓｃ＿１ｂ、およびＳｃ＿１ｃで生成された複数の予測画像のうちの何れか１つを選択する（ステップＳｃ＿２）。この予測画像の選択、すなわち最終的な予測画像を得るための方式またはモードの選択は、生成された各予測画像に対するコストを算出し、そのコストに基づいて行われてもよい。または、その予測画像の選択は、符号化の処理に用いられるパラメータに基づいて行われてもよい。符号化装置１００は、その選択された予測画像、方式またはモードを特定するための情報を符号化信号（符号化ビットストリームともいう）に信号化してもよい。その情報は、例えばフラグなどであってもよい。これにより、復号装置は、その情報に基づいて、符号化装置１００において選択された方式またはモードにしたがって予測画像を生成することができる。なお、図１２に示す例では、予測処理部は、各方式で予測画像を生成した後に、何れかの予測画像を選択する。しかし、予測処理部は、それらの予測画像を生成する前に、上述の符号化の処理に用いられるパラメータに基づいて、方式またはモードを選択し、その方式またはモードにしたがって予測画像を生成してもよい。
【0114】
例えば、第１の方式および第２の方式は、それぞれイントラ予測およびインター予測であって、予測処理部は、これらの予測方式にしたがって生成される予測画像から、カレントブロックに対する最終的な予測画像を選択してもよい。
【0115】
図１３は、符号化装置１００の予測処理部で行われる処理の他の例を示すフローチャートである。
【0116】
まず、予測処理部は、イントラ予測によって予測画像を生成し（ステップＳｄ＿１ａ）、インター予測によって予測画像を生成する（ステップＳｄ＿１ｂ）。なお、イントラ予測によって生成された予測画像を、イントラ予測画像ともいい、インター予測によって生成された予測画像を、インター予測画像ともいう。
【0117】
次に、予測処理部は、イントラ予測画像およびインター予測画像のそれぞれを評価する（ステップＳｄ＿２）。この評価には、コストが用いられてもよい。つまり、予測処理部は、イントラ予測画像およびインター予測画像のそれぞれのコストＣを算出する。このコストＣは、Ｒ－Ｄ最適化モデルの式、例えば、Ｃ＝Ｄ＋λ×Ｒによって算出され得る。この式において、Ｄは、予測画像の符号化歪であって、例えば、カレントブロックの画素値と予測画像の画素値との差分絶対値和などによって表される。また、Ｒは、予測画像の発生符号量であって、具体的には、予測画像を生成するための動き情報などの符号化に必要な符号量などである。また、λは、例えばラグランジュの未定乗数である。
【0118】
そして、予測処理部は、イントラ予測画像およびインター予測画像から、最も小さいコストＣが算出された予測画像を、カレントブロックの最終的な予測画像として選択する（ステップＳｄ＿３）。つまり、カレントブロックの予測画像を生成するための予測方式またはモードが選択される。
【0119】
［イントラ予測部］
イントラ予測部１２４は、ブロックメモリ１１８に格納されたカレントピクチャ内のブロックを参照してカレントブロックのイントラ予測（画面内予測ともいう）を行うことで、予測信号（イントラ予測信号）を生成する。具体的には、イントラ予測部１２４は、カレントブロックに隣接するブロックのサンプル（例えば輝度値、色差値）を参照してイントラ予測を行うことでイントラ予測信号を生成し、イントラ予測信号を予測制御部１２８に出力する。
イントラ予測部１２４は、ブロックメモリ１１８に格納されたカレントピクチャ内のブロックを参照してカレントブロックのイントラ予測（画面内予測ともいう）を行うことで、予測信号（イントラ予測信号）を生成する。具体的には、イントラ予測部１２４は、カレントブロックに隣接するブロックのサンプル（例えば輝度値、色差値）を参照してイントラ予測を行うことでイントラ予測信号を生成し、イントラ予測信号を予測制御部１２８に出力する。
【0120】
例えば、イントラ予測部１２４は、規定の複数のイントラ予測モードのうちの１つを用いてイントラ予測を行う。複数のイントラ予測モードは、通常、１以上の非方向性予測モードと、複数の方向性予測モードと、を含む。規定の複数のモードは、予め規定されていてもよい。
【0121】
１以上の非方向性予測モードは、例えばＨ．２６５／ＨＥＶＣ規格で規定されたＰｌａｎａｒ予測モード及びＤＣ予測モードを含む。
【0122】
複数の方向性予測モードは、例えばＨ．２６５／ＨＥＶＣ規格で規定された３３方向の予測モードを含む。なお、複数の方向性予測モードは、３３方向に加えてさらに３２方向の予測モード（合計で６５個の方向性予測モード）を含んでもよい。図１４は、イントラ予測において用いられ得る全６７個のイントラ予測モード（２個の非方向性予測モード及び６５個の方向性予測モード）を示す概念図である。実線矢印は、Ｈ．２６５／ＨＥＶＣ規格で規定された３３方向を表し、破線矢印は、追加された３２方向を表す（２個の非方向性予測モードは図１４には図示されていない）。
【0123】
種々の処理例では、色差ブロックのイントラ予測において、輝度ブロックが参照されてもよい。つまり、カレントブロックの輝度成分に基づいて、カレントブロックの色差成分が予測されてもよい。このようなイントラ予測は、ＣＣＬＭ（ｃｒｏｓｓ－ｃｏｍｐｏｎｅｎｔ ｌｉｎｅａｒ ｍｏｄｅｌ）予測と呼ばれることがある。このような輝度ブロックを参照する色差ブロックのイントラ予測モード（例えばＣＣＬＭモードと呼ばれる）は、色差ブロックのイントラ予測モードの１つとして加えられてもよい。
【0124】
イントラ予測部１２４は、水平／垂直方向の参照画素の勾配に基づいてイントラ予測後の画素値を補正してもよい。このような補正をともなうイントラ予測は、ＰＤＰＣ（ｐｏｓｉｔｉｏｎ ｄｅｐｅｎｄｅｎｔ ｉｎｔｒａ ｐｒｅｄｉｃｔｉｏｎ ｃｏｍｂｉｎａｔｉｏｎ）と呼ばれることがある。ＰＤＰＣの適用の有無を示す情報（例えばＰＤＰＣフラグと呼ばれる）は、通常、ＣＵレベルで信号化される。なお、この情報の信号化は、ＣＵレベルに限定される必要はなく、他のレベル（例えば、シーケンスレベル、ピクチャレベル、スライスレベル、タイルレベル又はＣＴＵレベル）であってもよい。
【0125】
［インター予測部］
インター予測部１２６は、フレームメモリ１２２に格納された参照ピクチャであってカレントピクチャとは異なる参照ピクチャを参照してカレントブロックのインター予測（画面間予測ともいう）を行うことで、予測信号（インター予測信号）を生成する。インター予測は、カレントブロック又はカレントブロック内のカレントサブブロック（例えば４ｘ４ブロック）の単位で行われる。例えば、インター予測部１２６は、カレントブロック又はカレントサブブロックについて参照ピクチャ内で動き探索（ｍｏｔｉｏｎ ｅｓｔｉｍａｔｉｏｎ）を行い、そのカレントブロック又はカレントサブブロックに最も一致する参照ブロック又はサブブロックを見つける。そして、インター予測部１２６は、参照ブロック又はサブブロックからカレントブロック又はサブブロックへの動き又は変化を補償する動き情報（例えば動きベクトル）を取得する。インター予測部１２６は、その動き情報に基づいて、動き補償（または動き予測）を行い、カレントブロック又はサブブロックのインター予測信号を生成する。インター予測部１２６は、生成されたインター予測信号を予測制御部１２８に出力する。
インター予測部１２６は、フレームメモリ１２２に格納された参照ピクチャであってカレントピクチャとは異なる参照ピクチャを参照してカレントブロックのインター予測（画面間予測ともいう）を行うことで、予測信号（インター予測信号）を生成する。インター予測は、カレントブロック又はカレントブロック内のカレントサブブロック（例えば４ｘ４ブロック）の単位で行われる。例えば、インター予測部１２６は、カレントブロック又はカレントサブブロックについて参照ピクチャ内で動き探索（ｍｏｔｉｏｎ ｅｓｔｉｍａｔｉｏｎ）を行い、そのカレントブロック又はカレントサブブロックに最も一致する参照ブロック又はサブブロックを見つける。そして、インター予測部１２６は、参照ブロック又はサブブロックからカレントブロック又はサブブロックへの動き又は変化を補償する動き情報（例えば動きベクトル）を取得する。インター予測部１２６は、その動き情報に基づいて、動き補償（または動き予測）を行い、カレントブロック又はサブブロックのインター予測信号を生成する。インター予測部１２６は、生成されたインター予測信号を予測制御部１２８に出力する。
【0126】
動き補償に用いられた動き情報は、多様な形態でインター予測信号として信号化されてもよい。例えば、動きベクトルが信号化されてもよい。他の例として、動きベクトルと予測動きベクトル（ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｐｒｅｄｉｃｔｏｒ）との差分が信号化されてもよい。
【0127】
［インター予測の基本フロー］
図１５は、インター予測の基本的な流れの一例を示すフローチャートである。
図１５は、インター予測の基本的な流れの一例を示すフローチャートである。
【0128】
インター予測部１２６は、まず、予測画像を生成する（ステップＳｅ＿１～Ｓｅ＿３）。次に、減算部１０４は、カレントブロックと予測画像との差分を予測残差として生成する（ステップＳｅ＿４）。
【0129】
ここで、インター予測部１２６は、予測画像の生成では、カレントブロックの動きベクトル（ＭＶ）の決定（ステップＳｅ＿１およびＳｅ＿２）と、動き補償（ステップＳｅ＿３）とを行うことによって、その予測画像を生成する。また、インター予測部１２６は、ＭＶの決定では、候補動きベクトル（候補ＭＶ）の選択（ステップＳｅ＿１）と、ＭＶの導出（ステップＳｅ＿２）とを行うことによって、そのＭＶを決定する。候補ＭＶの選択は、例えば、候補ＭＶリストから少なくとも１つの候補ＭＶを選択することによって行われる。また、ＭＶの導出では、インター予測部１２６は、少なくとも１つの候補ＭＶから、さらに少なくとも１つの候補ＭＶを選択することによって、その選択された少なくとも１つの候補ＭＶを、カレントブロックのＭＶとして決定してもよい。あるいは、インター予測部１２６は、その選択された少なくとも１つの候補ＭＶのそれぞれについて、その候補ＭＶで指示される参照ピクチャの領域を探索することによって、カレントブロックのＭＶを決定してもよい。なお、この参照ピクチャの領域を探索することを、動き探索（ｍｏｔｉｏｎ ｅｓｔｉｍａｔｉｏｎ）と称してもよい。
【0130】
また、上述の例では、ステップＳｅ＿１～Ｓｅ＿３は、インター予測部１２６によって行われるが、例えばステップＳｅ＿１またはステップＳｅ＿２などの処理は、符号化装置１００に含まれる他の構成要素によって行われてもよい。
【0131】
［動きベクトルの導出のフロー］
図１６は、動きベクトル導出の一例を示すフローチャートである。
図１６は、動きベクトル導出の一例を示すフローチャートである。
【0132】
インター予測部１２６は、動き情報（例えばＭＶ）を符号化するモードで、カレントブロックのＭＶを導出する。この場合、例えば動き情報が予測パラメータとして符号化されて、信号化される。つまり、符号化された動き情報が、符号化信号（符号化ビットストリームともいう）に含まれる。
【0133】
あるいは、インター予測部１２６は、動き情報を符号化しないモードでＭＶを導出する。この場合には、動き情報は、符号化信号に含まれない。
【0134】
ここで、ＭＶ導出のモードには、後述のノーマルインターモード、マージモード、ＦＲＵＣモードおよびアフィンモードなどがあってもよい。これらのモードのうち、動き情報を符号化するモードには、ノーマルインターモード、マージモード、およびアフィンモード（具体的には、アフィンインターモードおよびアフィンマージモード）などがある。なお、動き情報には、ＭＶだけでなく、後述の予測動きベクトル選択情報が含まれてもよい。また、動き情報を符号化しないモードには、ＦＲＵＣモードなどがある。インター予測部１２６は、これらの複数のモードから、カレントブロックのＭＶを導出するためのモードを選択し、その選択されたモードを用いてカレントブロックのＭＶを導出する。
【0135】
図１７は、動きベクトル導出の他の例を示すフローチャートである。
【0136】
インター予測部１２６は、差分ＭＶを符号化するモードで、カレントブロックのＭＶを導出する。この場合、例えば差分ＭＶが予測パラメータとして符号化されて、信号化される。つまり、符号化された差分ＭＶが、符号化信号に含まれる。この差分ＭＶは、カレントブロックのＭＶと、その予測ＭＶとの差である。
【0137】
あるいは、インター予測部１２６は、差分ＭＶを符号化しないモードでＭＶを導出する。この場合には、符号化された差分ＭＶは、符号化信号に含まれない。
【0138】
ここで、上述のようにＭＶの導出のモードには、後述のノーマルインター、マージモード、ＦＲＵＣモードおよびアフィンモードなどがある。これらのモードのうち、差分ＭＶを符号化するモードには、ノーマルインターモードおよびアフィンモード（具体的には、アフィンインターモード）などがある。また、差分ＭＶを符号化しないモードには、ＦＲＵＣモード、マージモードおよびアフィンモード（具体的には、アフィンマージモード）などがある。インター予測部１２６は、これらの複数のモードから、カレントブロックのＭＶを導出するためのモードを選択し、その選択されたモードを用いてカレントブロックのＭＶを導出する。
【0139】
［動きベクトルの導出のフロー］
図１８は、動きベクトル導出の他の例を示すフローチャートである。ＭＶ導出のモード、すなわちインター予測モードには、複数のモードがあり、大きく分けて、差分ＭＶを符号化するモードと、差分動きベクトルを符号化しないモードとがある。差分ＭＶを符号化しないモードには、マージモード、ＦＲＵＣモード、およびアフィンモード（具体的には、アフィンマージモード）がある。これらのモードの詳細については、後述するが、簡単には、マージモードは、周辺の符号化済みブロックから動きベクトルを選択することによって、カレントブロックのＭＶを導出するモードであり、ＦＲＵＣモードは、符号化済み領域間で探索を行うことによって、カレントブロックのＭＶを導出するモードである。また、アフィンモードは、アフィン変換を想定して、カレントブロックを構成する複数のサブブロックそれぞれの動きベクトルを、カレントブロックのＭＶとして導出するモードである。
図１８は、動きベクトル導出の他の例を示すフローチャートである。ＭＶ導出のモード、すなわちインター予測モードには、複数のモードがあり、大きく分けて、差分ＭＶを符号化するモードと、差分動きベクトルを符号化しないモードとがある。差分ＭＶを符号化しないモードには、マージモード、ＦＲＵＣモード、およびアフィンモード（具体的には、アフィンマージモード）がある。これらのモードの詳細については、後述するが、簡単には、マージモードは、周辺の符号化済みブロックから動きベクトルを選択することによって、カレントブロックのＭＶを導出するモードであり、ＦＲＵＣモードは、符号化済み領域間で探索を行うことによって、カレントブロックのＭＶを導出するモードである。また、アフィンモードは、アフィン変換を想定して、カレントブロックを構成する複数のサブブロックそれぞれの動きベクトルを、カレントブロックのＭＶとして導出するモードである。
【0140】
具体的には、図示されるように、インター予測部１２６は、インター予測モード情報が０を示す場合（Ｓｆ＿１で０）、マージモードにより動きベクトルを導出する（Ｓｆ＿２）。また、インター予測部１２６は、インター予測モード情報が１を示す場合（Ｓｆ＿１で１）、ＦＲＵＣモードにより動きベクトルを導出する（Ｓｆ＿３）。また、インター予測部１２６は、インター予測モード情報が２を示す場合（Ｓｆ＿１で２）、アフィンモード（具体的には、アフィンマージモード）により動きベクトルを導出する（Ｓｆ＿４）。また、インター予測部１２６は、インター予測モード情報が３を示す場合（Ｓｆ＿１で３）、差分ＭＶを符号化するモード（例えば、ノーマルインターモード）により動きベクトルを導出する（Ｓｆ＿５）。
【0141】
［ＭＶ導出 ＞ ノーマルインターモード］
ノーマルインターモードは、候補ＭＶによって示される参照ピクチャの領域から、カレントブロックの画像に類似するブロックに基づいて、カレントブロックのＭＶを導出するインター予測モードである。また、このノーマルインターモードでは、差分ＭＶが符号化される。
ノーマルインターモードは、候補ＭＶによって示される参照ピクチャの領域から、カレントブロックの画像に類似するブロックに基づいて、カレントブロックのＭＶを導出するインター予測モードである。また、このノーマルインターモードでは、差分ＭＶが符号化される。
【0142】
図１９は、ノーマルインターモードによるインター予測の例を示すフローチャートである。
【0143】
インター予測部１２６は、まず、時間的または空間的にカレントブロックの周囲にある複数の符号化済みブロックのＭＶなどの情報に基づいて、そのカレントブロックに対して複数の候補ＭＶを取得する（ステップＳｇ＿１）。つまり、インター予測部１２６は、候補ＭＶリストを作成する。
【0144】
次に、インター予測部１２６は、ステップＳｇ＿１で取得された複数の候補ＭＶの中から、Ｎ個（Ｎは２以上の整数）の候補ＭＶのそれぞれを予測動きベクトル候補（予測ＭＶ候補ともいう）として、所定の優先順位に従って抽出する（ステップＳｇ＿２）。なお、その優先順位は、Ｎ個の候補ＭＶのそれぞれに対して予め定められていてもよい。
【0145】
次に、インター予測部１２６は、そのＮ個の予測動きベクトル候補の中から１つの予測動きベクトル候補を、カレントブロックの予測動きベクトル（予測ＭＶともいう）として選択する（ステップＳｇ＿３）。このとき、インター予測部１２６は、選択された予測動きベクトルを識別するための予測動きベクトル選択情報をストリームに符号化する。なお、ストリームは、上述の符号化信号または符号化ビットストリームである。
【0146】
次に、インター予測部１２６は、符号化済み参照ピクチャを参照し、カレントブロックのＭＶを導出する（ステップＳｇ＿４）。このとき、インター予測部１２６は、さらに、その導出されたＭＶと予測動きベクトルとの差分値を差分ＭＶとしてストリームに符号化する。なお、符号化済み参照ピクチャは、符号化後に再構成された複数のブロックからなるピクチャである。
【0147】
最後に、インター予測部１２６は、その導出されたＭＶと符号化済み参照ピクチャとを用いてカレントブロックに対して動き補償を行ことにより、そのカレントブロックの予測画像を生成する（ステップＳｇ＿５）。なお、予測画像は、上述のインター予測信号である。
【0148】
また、符号化信号に含められる、予測画像の生成に用いられたインター予測モード（上述の例ではノーマルインターモード）を示す情報は、例えば予測パラメータとして符号化される。
【0149】
なお、候補ＭＶリストは、他のモードに用いられるリストと共通に用いられてもよい。また、候補ＭＶリストに関する処理を、他のモードに用いられるリストに関する処理に適用してもよい。この候補ＭＶリストに関する処理は、例えば、候補ＭＶリストからの候補ＭＶの抽出もしくは選択、候補ＭＶの並び替え、または、候補ＭＶの削除などである。
【0150】
［ＭＶ導出 ＞ マージモード］
マージモードは、候補ＭＶリストから候補ＭＶをカレントブロックのＭＶとして選択することによって、そのＭＶを導出するインター予測モードである。
マージモードは、候補ＭＶリストから候補ＭＶをカレントブロックのＭＶとして選択することによって、そのＭＶを導出するインター予測モードである。
【0151】
図２０は、マージモードによるインター予測の例を示すフローチャートである。
【0152】
インター予測部１２６は、まず、時間的または空間的にカレントブロックの周囲にある複数の符号化済みブロックのＭＶなどの情報に基づいて、そのカレントブロックに対して複数の候補ＭＶを取得する（ステップＳｈ＿１）。つまり、インター予測部１２６は、候補ＭＶリストを作成する。
【0153】
次に、インター予測部１２６は、ステップＳｈ＿１で取得された複数の候補ＭＶの中から１つの候補ＭＶを選択することによって、カレントブロックのＭＶを導出する（ステップＳｈ＿２）。このとき、インター予測部１２６は、選択された候補ＭＶを識別するためのＭＶ選択情報をストリームに符号化する。
【0154】
最後に、インター予測部１２６は、その導出されたＭＶと符号化済み参照ピクチャとを用いてカレントブロックに対して動き補償を行ことにより、そのカレントブロックの予測画像を生成する（ステップＳｈ＿３）。
【0155】
また、符号化信号に含められる、予測画像の生成に用いられたインター予測モード（上述の例ではマージモード）を示す情報は、例えば予測パラメータとして符号化される。
【0156】
図２１は、マージモードによるカレントピクチャの動きベクトル導出処理の一例を説明するための概念図である。
【0157】
まず、予測ＭＶの候補を登録した予測ＭＶリストを生成する。予測ＭＶの候補としては、対象ブロックの空間的に周辺に位置する複数の符号化済みブロックが持つＭＶである空間隣接予測ＭＶ、符号化済み参照ピクチャにおける対象ブロックの位置を投影した近辺のブロックが持つＭＶである時間隣接予測ＭＶ、空間隣接予測ＭＶと時間隣接予測ＭＶのＭＶ値を組み合わせて生成したＭＶである結合予測ＭＶ、および値がゼロのＭＶであるゼロ予測ＭＶ等がある。
【0158】
次に、予測ＭＶリストに登録されている複数の予測ＭＶの中から１つの予測ＭＶを選択することで、対象ブロックのＭＶとして決定する。
【0159】
さらに、可変長符号化部では、どの予測ＭＶを選択したかを示す信号であるｍｅｒｇｅ＿ｉｄｘをストリームに記述して符号化する。
【0160】
なお、図２１で説明した予測ＭＶリストに登録する予測ＭＶは一例であり、図中の個数とは異なる個数であったり、図中の予測ＭＶの一部の種類を含まない構成であったり、図中の予測ＭＶの種類以外の予測ＭＶを追加した構成であったりしてもよい。
【0161】
マージモードにより導出した対象ブロックのＭＶを用いて、後述するＤＭＶＲ（ｄｅｃｏｄｅｒ ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｒｅｆｉｎｅｍｅｎｔ）処理を行うことによって最終的なＭＶを決定してもよい。
【0162】
なお、予測ＭＶの候補は、上述の候補ＭＶであり、予測ＭＶリストは、上述の候補ＭＶリストである。また、候補ＭＶリストを、候補リストと称してもよい。また、ｍｅｒｇｅ＿ｉｄｘは、ＭＶ選択情報である。
【0163】
［ＭＶ導出 ＞ ＦＲＵＣモード］
動き情報は符号化装置側から信号化されずに、復号装置側で導出されてもよい。なお、上述のように、Ｈ．２６５／ＨＥＶＣ規格で規定されたマージモードが用いられてもよい。また例えば、復号装置側で動き探索を行うことにより動き情報が導出されてもよい。実施の形態において、復号装置側では、カレントブロックの画素値を用いずに動き探索が行われる。
動き情報は符号化装置側から信号化されずに、復号装置側で導出されてもよい。なお、上述のように、Ｈ．２６５／ＨＥＶＣ規格で規定されたマージモードが用いられてもよい。また例えば、復号装置側で動き探索を行うことにより動き情報が導出されてもよい。実施の形態において、復号装置側では、カレントブロックの画素値を用いずに動き探索が行われる。
【0164】
ここで、復号装置側で動き探索を行うモードについて説明する。この復号装置側で動き探索を行うモードは、ＰＭＭＶＤ（ｐａｔｔｅｒｎ ｍａｔｃｈｅｄ ｍｏｔｉｏｎ ｖｅｃｔｏｒ ｄｅｒｉｖａｔｉｏｎ）モード又はＦＲＵＣ（ｆｒａｍｅ ｒａｔｅ ｕｐ－ｃｏｎｖｅｒｓｉｏｎ）モードと呼ばれることがある。
【0165】
フローチャートの形式でＦＲＵＣ処理の一例を図２２に示す。まず、カレントブロックに空間的又は時間的に隣接する符号化済みブロックの動きベクトルを参照して、各々が予測動きベクトル（ＭＶ）を有する複数の候補のリスト（すなわち、候補ＭＶリストであって、マージリストと共通であってもよい）が生成される（ステップＳｉ＿１）。次に、候補ＭＶリストに登録されている複数の候補ＭＶの中からベスト候補ＭＶを選択する（ステップＳｉ＿２）。例えば、候補ＭＶリストに含まれる各候補ＭＶの評価値が算出され、評価値に基づいて１つの候補ＭＶが選択される。そして、選択された候補の動きベクトルに基づいて、カレントブロックのための動きベクトルが導出される（ステップＳｉ＿４）。具体的には、例えば、選択された候補の動きベクトル（ベスト候補ＭＶ）がそのままカレントブロックのための動きベクトルとして導出される。また例えば、選択された候補の動きベクトルに対応する参照ピクチャ内の位置の周辺領域において、パターンマッチングを行うことにより、カレントブロックのための動きベクトルが導出されてもよい。すなわち、ベスト候補ＭＶの周辺の領域に対して、参照ピクチャにおけるパターンマッチングおよび評価値を用いた探索を行い、さらに評価値が良い値となるＭＶがあった場合は、ベスト候補ＭＶを前記ＭＶに更新して、それをカレントブロックの最終的なＭＶとしてもよい。より良い評価値を有するＭＶへの更新を行う処理を実施しない構成とすることも可能である。
【0166】
最後に、インター予測部１２６は、その導出されたＭＶと符号化済み参照ピクチャとを用いてカレントブロックに対して動き補償を行ことにより、そのカレントブロックの予測画像を生成する（ステップＳｉ＿５）。
【0167】
サブブロック単位で処理を行う場合も全く同様の処理としてもよい。
【0168】
評価値は、種々の方法によって算出されてもよい。例えば、動きベクトルに対応する参照ピクチャ内の領域の再構成画像と、所定の領域（その領域は、例えば、以下に示すように、他の参照ピクチャの領域またはカレントピクチャの隣接ブロックの領域であってもよい）の再構成画像とを比較する。所定の領域は予め定められていてもよい。
【0169】
そして、２つの再構成画像の画素値の差分を算出して、動きベクトルの評価値に用いてもよい。なお、差分値に加えてそれ以外の情報を用いて評価値を算出してもよい。
【0170】
次に、パターンマッチングの例について詳細に説明する。まず、候補ＭＶリスト（例えばマージリスト）に含まれる１つの候補ＭＶを、パターンマッチングによる探索のスタートポイントとして選択する。例えば、パターンマッチングとしては、第１パターンマッチング又は第２パターンマッチングが用いられ得る。第１パターンマッチング及び第２パターンマッチングは、それぞれ、バイラテラルマッチング（ｂｉｌａｔｅｒａｌ ｍａｔｃｈｉｎｇ）及びテンプレートマッチング（ｔｅｍｐｌａｔｅ ｍａｔｃｈｉｎｇ）と呼ばれることがある。
【0171】
［ＭＶ導出 ＞ ＦＲＵＣ ＞ バイラテラルマッチング］
第１パターンマッチングでは、異なる２つの参照ピクチャ内の２つのブロックであってカレントブロックの動き軌道（ｍｏｔｉｏｎ ｔｒａｊｅｃｔｏｒｙ）に沿う２つのブロックの間でパターンマッチングが行われる。したがって、第１パターンマッチングでは、上述した候補の評価値の算出のための所定の領域として、カレントブロックの動き軌道に沿う他の参照ピクチャ内の領域が用いられる。所定の領域は、予め定められていてもよい。
第１パターンマッチングでは、異なる２つの参照ピクチャ内の２つのブロックであってカレントブロックの動き軌道（ｍｏｔｉｏｎ ｔｒａｊｅｃｔｏｒｙ）に沿う２つのブロックの間でパターンマッチングが行われる。したがって、第１パターンマッチングでは、上述した候補の評価値の算出のための所定の領域として、カレントブロックの動き軌道に沿う他の参照ピクチャ内の領域が用いられる。所定の領域は、予め定められていてもよい。
【0172】
図２３は、動き軌道に沿う２つの参照ピクチャにおける２つのブロック間での第１パターンマッチング（バイラテラルマッチング）の一例を説明するための概念図である。図２３に示すように、第１パターンマッチングでは、カレントブロック（Ｃｕｒ ｂｌｏｃｋ）の動き軌道に沿う２つのブロックであって異なる２つの参照ピクチャ（Ｒｅｆ０、Ｒｅｆ１）内の２つのブロックのペアの中で最もマッチするペアを探索することにより２つの動きベクトル（ＭＶ０、ＭＶ１）が導出される。具体的には、カレントブロックに対して、候補ＭＶで指定された第１の符号化済み参照ピクチャ（Ｒｅｆ０）内の指定位置における再構成画像と、前記候補ＭＶを表示時間間隔でスケーリングした対称ＭＶで指定された第２の符号化済み参照ピクチャ（Ｒｅｆ１）内の指定位置における再構成画像との差分を導出し、得られた差分値を用いて評価値を算出する。複数の候補ＭＶの中で最も評価値が良い値となる候補ＭＶを最終ＭＶとして選択することが可能であり、良い結果をもたらし得る。
【0173】
連続的な動き軌道の仮定の下では、２つの参照ブロックを指し示す動きベクトル（ＭＶ０、ＭＶ１）は、カレントピクチャ（Ｃｕｒ Ｐｉｃ）と２つの参照ピクチャ（Ｒｅｆ０、Ｒｅｆ１）との間の時間的な距離（ＴＤ０、ＴＤ１）に対して比例する。例えば、カレントピクチャが時間的に２つの参照ピクチャの間に位置し、カレントピクチャから２つの参照ピクチャへの時間的な距離が等しい場合、第１パターンマッチングでは、鏡映対称な双方向の動きベクトルが導出される。
【0174】
［ＭＶ導出 ＞ ＦＲＵＣ ＞ テンプレートマッチング］
第２パターンマッチング（テンプレートマッチング）では、カレントピクチャ内のテンプレート（カレントピクチャ内でカレントブロックに隣接するブロック（例えば上及び／又は左隣接ブロック））と参照ピクチャ内のブロックとの間でパターンマッチングが行われる。したがって、第２パターンマッチングでは、上述した候補の評価値の算出のための所定の領域として、カレントピクチャ内のカレントブロックに隣接するブロックが用いられる。
第２パターンマッチング（テンプレートマッチング）では、カレントピクチャ内のテンプレート（カレントピクチャ内でカレントブロックに隣接するブロック（例えば上及び／又は左隣接ブロック））と参照ピクチャ内のブロックとの間でパターンマッチングが行われる。したがって、第２パターンマッチングでは、上述した候補の評価値の算出のための所定の領域として、カレントピクチャ内のカレントブロックに隣接するブロックが用いられる。
【0175】
図２４は、カレントピクチャ内のテンプレートと参照ピクチャ内のブロックとの間でのパターンマッチング（テンプレートマッチング）の一例を説明するための概念図である。図２４に示すように、第２パターンマッチングでは、カレントピクチャ（Ｃｕｒ Ｐｉｃ）内でカレントブロック（Ｃｕｒ ｂｌｏｃｋ）に隣接するブロックと最もマッチするブロックを参照ピクチャ（Ｒｅｆ０）内で探索することによりカレントブロックの動きベクトルが導出される。具体的には、カレントブロックに対して、左隣接および上隣接の両方もしくはどちらか一方の符号化済み領域の再構成画像と、候補ＭＶで指定された符号化済み参照ピクチャ（Ｒｅｆ０）内の同等位置における再構成画像との差分を導出し、得られた差分値を用いて評価値を算出し、複数の候補ＭＶの中で最も評価値が良い値となる候補ＭＶをベスト候補ＭＶとして選択することが可能である。
【0176】
このようなＦＲＵＣモードを適用するか否かを示す情報（例えばＦＲＵＣフラグと呼ばれる）は、ＣＵレベルで信号化されてもよい。また、ＦＲＵＣモードが適用される場合（例えばＦＲＵＣフラグが真の場合）、適用可能なパターンマッチングの方法（第１パターンマッチング又は第２パターンマッチング）を示す情報がＣＵレベルで信号化されてもよい。なお、これらの情報の信号化は、ＣＵレベルに限定される必要はなく、他のレベル（例えば、シーケンスレベル、ピクチャレベル、スライスレベル、タイルレベル、ＣＴＵレベル又はサブブロックレベル）であってもよい。
【0177】
［ＭＶ導出 ＞ アフィンモード］
次に、複数の隣接ブロックの動きベクトルに基づいてサブブロック単位で動きベクトルを導出するアフィンモードについて説明する。このモードは、アフィン動き補償予測（ａｆｆｉｎｅ ｍｏｔｉｏｎ ｃｏｍｐｅｎｓａｔｉｏｎ ｐｒｅｄｉｃｔｉｏｎ）モードと呼ばれることがある。
次に、複数の隣接ブロックの動きベクトルに基づいてサブブロック単位で動きベクトルを導出するアフィンモードについて説明する。このモードは、アフィン動き補償予測（ａｆｆｉｎｅ ｍｏｔｉｏｎ ｃｏｍｐｅｎｓａｔｉｏｎ ｐｒｅｄｉｃｔｉｏｎ）モードと呼ばれることがある。
【0178】
図２５Ａは、複数の隣接ブロックの動きベクトルに基づくサブブロック単位の動きベクトルの導出の一例を説明するための概念図である。図２５Ａにおいて、カレントブロックは、１６の４ｘ４サブブロックを含む。ここでは、隣接ブロックの動きベクトルに基づいてカレントブロックの左上角制御ポイントの動きベクトルｖ０が導出され、同様に、隣接サブブロックの動きベクトルに基づいてカレントブロックの右上角制御ポイントの動きベクトルｖ１が導出される。そして、以下の式（１Ａ）により、２つの動きベクトルｖ０及びｖ１が投影されてもよく、カレントブロック内の各サブブロックの動きベクトル（ｖｘ，ｖｙ）が導出されてもよい。
【0179】
【数1】
【0180】
ここで、ｘ及びｙは、それぞれ、サブブロックの水平位置及び垂直位置を示し、ｗは、所定の重み係数を示す。所定の重み係数は、予め決定されていてもよい。
【0181】
このようなアフィンモードを示す情報（例えばアフィンフラグと呼ばれる）は、ＣＵレベルで信号化されてもよい。なお、このアフィンモードを示す情報の信号化は、ＣＵレベルに限定される必要はなく、他のレベル（例えば、シーケンスレベル、ピクチャレベル、スライスレベル、タイルレベル、ＣＴＵレベル又はサブブロックレベル）であってもよい。
【0182】
また、このようなアフィンモードでは、左上及び右上角制御ポイントの動きベクトルの導出方法が異なるいくつかのモードを含んでもよい。例えば、アフィンモードには、アフィンインター（アフィンノーマルインターともいう）モードと、アフィンマージモードの２つのモードがある。
【0183】
［ＭＶ導出 ＞ アフィンモード］
図２５Ｂは、３つの制御ポイントを有するアフィンモードにおけるサブブロック単位の動きベクトルの導出の一例を説明するための概念図である。図２５Ｂにおいて、カレントブロックは、１６の４ｘ４サブブロックを含む。ここでは、隣接ブロックの動きベクトルに基づいてカレントブロックの左上角制御ポイントの動きベクトルｖ０が導出され、同様に、隣接ブロックの動きベクトルに基づいてカレントブロックの右上角制御ポイントの動きベクトルｖ１、隣接ブロックの動きベクトルに基づいてカレントブロックの左下角制御ポイントの動きベクトルｖ２が導出される。そして、以下の式（１Ｂ）により、３つの動きベクトルｖ０、ｖ１及びｖ２が投影されてもよく、カレントブロック内の各サブブロックの動きベクトル（ｖｘ，ｖｙ）が導出されてもよい。
図２５Ｂは、３つの制御ポイントを有するアフィンモードにおけるサブブロック単位の動きベクトルの導出の一例を説明するための概念図である。図２５Ｂにおいて、カレントブロックは、１６の４ｘ４サブブロックを含む。ここでは、隣接ブロックの動きベクトルに基づいてカレントブロックの左上角制御ポイントの動きベクトルｖ０が導出され、同様に、隣接ブロックの動きベクトルに基づいてカレントブロックの右上角制御ポイントの動きベクトルｖ１、隣接ブロックの動きベクトルに基づいてカレントブロックの左下角制御ポイントの動きベクトルｖ２が導出される。そして、以下の式（１Ｂ）により、３つの動きベクトルｖ０、ｖ１及びｖ２が投影されてもよく、カレントブロック内の各サブブロックの動きベクトル（ｖｘ，ｖｙ）が導出されてもよい。
【0184】
【数2】
【0185】
ここで、ｘ及びｙは、それぞれ、サブブロック中心の水平位置及び垂直位置を示し、ｗは、カレントブロックの幅、ｈは、カレントブロックの高さを示す。
【0186】
異なる制御ポイント数（例えば、２つと３つ）のアフィンモードは、ＣＵレベルで切り替えて信号化されてもよい。なお、ＣＵレベルで使用しているアフィンモードの制御ポイント数を示す情報を、他のレベル（例えば、シーケンスレベル、ピクチャレベル、スライスレベル、タイルレベル、ＣＴＵレベル又はサブブロックレベル）で信号化してもよい。
【0187】
また、このような３つの制御ポイントを有するアフィンモードでは、左上、右上及び左下角制御ポイントの動きベクトルの導出方法が異なるいくつかのモードを含んでもよい。例えば、アフィンモードには、アフィンインター（アフィンノーマルインターともいう）モードと、アフィンマージモードの２つのモードがある。
【0188】
【0189】
アフィンマージモードでは、図２６Ａに示すように、例えば、カレントブロックに隣接する符号化済みブロックＡ（左）、ブロックＢ（上）、ブロックＣ（右上）、ブロックＤ（左下）およびブロックＥ（左上）のうち、アフィンモードで符号化されたブロックに対応する複数の動きベクトルに基づいて、カレントブロックの制御ポイントのそれぞれの予測動きベクトルが算出される。具体的には、符号化済みブロックＡ（左）、ブロックＢ（上）、ブロックＣ（右上）、ブロックＤ（左下）およびブロックＥ（左上）の順序でこれらのブロックが検査され、アフィンモードで符号化された最初の有効なブロックが特定される。この特定されたブロックに対応する複数の動きベクトルに基づいて、カレントブロックの制御ポイントの予測動きベクトルが算出される。
【0190】
例えば、図２６Ｂに示すように、カレントブロックの左に隣接するブロックＡが２つの制御ポイントを有するアフィンモードで符号化されている場合は、ブロックＡを含む符号化済みブロックの左上角および右上角の位置に投影した動きベクトルｖ３およびｖ４が導出される。そして、導出された動きベクトルｖ３およびｖ４から、カレントブロックの左上角の制御ポイントの予測動きベクトルｖ０と、右上角の制御ポイントの予測動きベクトルｖ１が算出される。
【0191】
例えば、図２６Ｃに示すように、カレントブロックの左に隣接するブロックＡが３つの制御ポイントを有するアフィンモードで符号化されている場合は、ブロックＡを含む符号化済みブロックの左上角、右上角および左下角の位置に投影した動きベクトルｖ３、ｖ４およびｖ５が導出される。そして、導出された動きベクトルｖ３、ｖ４およびｖ５から、カレントブロックの左上角の制御ポイントの予測動きベクトルｖ０と、右上角の制御ポイントの予測動きベクトルｖ１と、左下角の制御ポイントの予測動きベクトルｖ２が算出される。
【0192】
なお、後述する図２９のステップＳｊ＿１におけるカレントブロックの制御ポイントのそれぞれの予測動きベクトルの導出に、この予測動きベクトル導出方法を用いてもよい。
【0193】
図２７は、アフィンマージモードの一例を示すフローチャートである。
【0194】
アフィンマージモードでは、図示されるように、まず、インター予測部１２６は、カレントブロックの制御ポイントのそれぞれの予測ＭＶを導出する（ステップＳｋ＿１）。制御ポイントは、図２５Ａに示すように、カレントブロックの左上角および右上角のポイント、或いは図２５Ｂに示すように、カレントブロックの左上角、右上角および左下角のポイントである。
【0195】
つまり、インター予測部１２６は、図２６Ａに示すように、符号化済みブロックＡ（左）、ブロックＢ（上）、ブロックＣ（右上）、ブロックＤ（左下）およびブロックＥ（左上）の順序にこれらのブロックを検査し、アフィンモードで符号化された最初の有効なブロックを特定する。
【0196】
そして、ブロックＡが特定されブロックＡが２つの制御ポイントを有する場合、図２６Ｂに示すように、インター予測部１２６は、ブロックＡを含む符号化済みブロックの左上角および右上角の動きベクトルｖ３およびｖ４から、カレントブロックの左上角の制御ポイントの動きベクトルｖ０と、右上角の制御ポイントの動きベクトルｖ１とを算出する。例えば、インター予測部１２６は、符号化済みブロックの左上角および右上角の動きベクトルｖ３およびｖ４を、カレントブロックに投影することによって、カレントブロックの左上角の制御ポイントの予測動きベクトルｖ０と、右上角の制御ポイントの予測動きベクトルｖ１とを算出する。
【0197】
或いは、ブロックＡが特定されブロックＡが３つの制御ポイントを有する場合、図２６Ｃに示すように、インター予測部１２６は、ブロックＡを含む符号化済みブロックの左上角、右上角および左下角の動きベクトルｖ３、ｖ４およびｖ５から、カレントブロックの左上角の制御ポイントの動きベクトルｖ０と、右上角の制御ポイントの動きベクトルｖ１、左下角の制御ポイントの動きベクトルｖ２とを算出する。例えば、インター予測部１２６は、符号化済みブロックの左上角、右上角および左下角の動きベクトルｖ３、ｖ４およびｖ５を、カレントブロックに投影することによって、カレントブロックの左上角の制御ポイントの予測動きベクトルｖ０と、右上角の制御ポイントの予測動きベクトルｖ１、左下角の制御ポイントの動きベクトルｖ２とを算出する。
【0198】
次に、インター予測部１２６は、カレントブロックに含まれる複数のサブブロックのそれぞれについて、動き補償を行う。すなわち、インター予測部１２６は、その複数のサブブロックのそれぞれについて、２つの予測動きベクトルｖ０およびｖ１と上述の式（１Ａ）、或いは３つの予測動きベクトルｖ０、ｖ１およびｖ２と上述の式（１Ｂ）とを用いて、そのサブブロックの動きベクトルをアフィンＭＶとして算出する（ステップＳｋ＿２）。そして、インター予測部１２６は、それらのアフィンＭＶおよび符号化済み参照ピクチャを用いてそのサブブロックに対して動き補償を行う（ステップＳｋ＿３）。その結果、カレントブロックに対して動き補償が行われ、そのカレントブロックの予測画像が生成される。
【0199】
［ＭＶ導出 ＞ アフィンインターモード］
図２８Ａは、２つの制御ポイントを有するアフィンインターモードを説明するための概念図である。
図２８Ａは、２つの制御ポイントを有するアフィンインターモードを説明するための概念図である。
【0200】
このアフィンインターモードでは、図２８Ａに示すように、カレントブロックに隣接する符号化済みブロックＡ、ブロックＢおよびブロックＣの動きベクトルから選択された動きベクトルが、カレントブロックの左上角の制御ポイントの予測動きベクトルｖ０として用いられる。同様に、カレントブロックに隣接する符号化済みブロックＤおよびブロックＥの動きベクトルから選択された動きベクトルが、カレントブロックの右上角の制御ポイントの予測動きベクトルｖ１として用いられる。
【0201】
図２８Ｂは、３つの制御ポイントを有するアフィンインターモードを説明するための概念図である。
【0202】
このアフィンインターモードでは、図２８Ｂに示すように、カレントブロックに隣接する符号化済みブロックＡ、ブロックＢおよびブロックＣの動きベクトルから選択された動きベクトルが、カレントブロックの左上角の制御ポイントの予測動きベクトルｖ０として用いられる。同様に、カレントブロックに隣接する符号化済みブロックＤおよびブロックＥの動きベクトルから選択された動きベクトルが、カレントブロックの右上角の制御ポイントの予測動きベクトルｖ１として用いられる。更に、カレントブロックに隣接する符号化済みブロックＦおよびブロックＧの動きベクトルから選択された動きベクトルが、カレントブロックの左下角の制御ポイントの予測動きベクトルｖ２として用いられる。
【0203】
図２９は、アフィンインターモードの一例を示すフローチャートである。
【0204】
図示されるように、アフィンインターモードでは、まず、インター予測部１２６は、カレントブロックの２つまたは３つの制御ポイントのそれぞれの予測ＭＶ（ｖ０，ｖ１）または（ｖ０，ｖ１，ｖ２）を導出する（ステップＳｊ＿１）。制御ポイントは、図２５Ａまたは図２５Ｂに示すように、カレントブロックの左上角、右上角或いは左下角のポイントである。
【0205】
つまり、インター予測部１２６は、図２８Ａまたは図２８Ｂに示すカレントブロックの各制御ポイント近傍の符号化済みブロックのうちの何れかのブロックの動きベクトルを選択することによって、カレントブロックの制御ポイントの予測動きベクトル（ｖ０，ｖ１）または（ｖ０，ｖ１，ｖ２）を導出する。このとき、インター予測部１２６は、選択された２つの動きベクトルを識別するための予測動きベクトル選択情報をストリームに符号化する。
【0206】
例えば、インター予測部１２６は、カレントブロックに隣接する符号化済みブロックからどのブロックの動きベクトルを制御ポイントの予測動きベクトルとして選択するかを、コスト評価等を用いて決定し、どの予測動きベクトルを選択したかを示すフラグをビットストリームに記述してもよい。
【0207】
次に、インター予測部１２６は、ステップＳｊ＿１で選択または導出された予測動きベクトルをそれぞれ更新しながら（ステップＳｊ＿２）、動き探索を行う（ステップＳｊ＿３およびＳｊ＿４）。つまり、インター予測部１２６は、更新される予測動きベクトルに対応する各サブブロックの動きベクトルをアフィンＭＶとして、上述の式（１Ａ）または式（１Ｂ）を用いて算出する（ステップＳｊ＿３）。そして、インター予測部１２６は、それらのアフィンＭＶおよび符号化済み参照ピクチャを用いて各サブブロックに対して動き補償を行う（ステップＳｊ＿４）。その結果、インター予測部１２６は、動き探索ループにおいて、例えば最も小さいコストが得られる予測動きベクトルを、制御ポイントの動きベクトルとして決定する（ステップＳｊ＿５）。このとき、インター予測部１２６は、さらに、その決定されたＭＶと予測動きベクトルとのそれぞれの差分値を差分ＭＶとしてストリームに符号化する。
【0208】
最後に、インター予測部１２６は、その決定されたＭＶと符号化済み参照ピクチャとを用いてカレントブロックに対して動き補償を行ことにより、そのカレントブロックの予測画像を生成する（ステップＳｊ＿６）。
【0209】
［ＭＶ導出 ＞ アフィンインターモード］
異なる制御ポイント数（例えば、２つと３つ）のアフィンモードをＣＵレベルで切り替えて信号化する場合、符号化済みブロックとカレントブロックで制御ポイントの数が異なる場合がある。図３０Ａおよび図３０Ｂは、符号化済みブロックとカレントブロックで制御ポイントの数が異なる場合の、制御ポイントの予測ベクトル導出方法を説明するための概念図である。
異なる制御ポイント数（例えば、２つと３つ）のアフィンモードをＣＵレベルで切り替えて信号化する場合、符号化済みブロックとカレントブロックで制御ポイントの数が異なる場合がある。図３０Ａおよび図３０Ｂは、符号化済みブロックとカレントブロックで制御ポイントの数が異なる場合の、制御ポイントの予測ベクトル導出方法を説明するための概念図である。
【0210】
例えば、図３０Ａに示すように、カレントブロックが左上角、右上角および左下角の３つの制御ポイントを有し、カレントブロックの左に隣接するブロックＡが２つの制御ポイントを有するアフィンモードで符号化されている場合は、ブロックＡを含む符号化済みブロックの左上角および右上角の位置に投影した動きベクトルｖ３およびｖ４が導出される。そして、導出された動きベクトルｖ３およびｖ４から、カレントブロックの左上角の制御ポイントの予測動きベクトルｖ０と、右上角の制御ポイントの予測動きベクトルｖ１が算出される。更に、導出された動きベクトルｖ０およびｖ１から、左下角の制御ポイントの予測動きベクトルｖ２が算出される。
【0211】
例えば、図３０Ｂに示すように、カレントブロックが左上角および右上角の２つの制御ポイントを有し、カレントブロックの左に隣接するブロックＡが３つの制御ポイントを有するアフィンモードで符号化されている場合は、ブロックＡを含む符号化済みブロックの左上角、右上角および左下角の位置に投影した動きベクトルｖ３、ｖ４およびｖ５が導出される。そして、導出された動きベクトルｖ３、ｖ４およびｖ５から、カレントブロックの左上角の制御ポイントの予測動きベクトルｖ０と、右上角の制御ポイントの予測動きベクトルｖ１が算出される。
【0212】
図２９のステップＳｊ＿１におけるカレントブロックの制御ポイントのそれぞれの予測動きベクトルの導出に、この予測動きベクトル導出方法を用いてもよい。
【0213】
［ＭＶ導出 ＞ ＤＭＶＲ］
図３１Ａは、マージモードおよびＤＭＶＲの関係を示すフローチャートである。
図３１Ａは、マージモードおよびＤＭＶＲの関係を示すフローチャートである。
【0214】
インター予測部１２６は、マージモードでカレントブロックの動きベクトルを導出する（ステップＳｌ＿１）。次に、インター予測部１２６は、動きベクトルの探索、すなわち動き探索を行うか否かを判定する（ステップＳｌ＿２）。ここで、インター予測部１２６は、動き探索を行わないと判定すると（ステップＳｌ＿２のＮｏ）、ステップＳｌ＿１で導出された動きベクトルを、カレントブロックに対する最終の動きベクトルとして決定する（ステップＳｌ＿４）。すなわち、この場合には、マージモードでカレントブロックの動きベクトルが決定される。
【0215】
一方、ステップＳｌ＿１で動き探索を行うと判定すると（ステップＳｌ＿２のＹｅｓ）、インター予測部１２６は、ステップＳｌ＿１で導出された動きベクトルによって示される参照ピクチャの周辺領域を探索することによって、カレントブロックに対して最終の動きベクトルを導出する（ステップＳｌ＿３）。すなわち、この場合には、ＤＭＶＲでカレントブロックの動きベクトルが決定される。
【0216】
図３１Ｂは、ＭＶを決定するためのＤＭＶＲ処理の一例を説明するための概念図である。
【0217】
まず、（例えばマージモードにおいて）カレントブロックに設定された最適ＭＶＰを、候補ＭＶとする。そして、候補ＭＶ（Ｌ０）に従って、Ｌ０方向の符号化済みピクチャである第１参照ピクチャ（Ｌ０）から参照画素を特定する。同様に、候補ＭＶ（Ｌ１）に従って、Ｌ１方向の符号化済みピクチャである第２参照ピクチャ（Ｌ１）から参照画素を特定する。これらの参照画素の平均をとることでテンプレートを生成する。
【0218】
次に、前記テンプレートを用いて、第１参照ピクチャ（Ｌ０）および第２参照ピクチャ（Ｌ１）の候補ＭＶの周辺領域をそれぞれ探索し、コストが最小となるＭＶを最終的なＭＶとして決定する。なお、コスト値は、例えば、テンプレートの各画素値と探索領域の各画素値との差分値および候補ＭＶ値等を用いて算出してもよい。
【0219】
なお、典型的には、符号化装置と、後述の復号化装置とでは、ここで説明した処理の構成および動作は基本的に共通である。
【0220】
ここで説明した処理例そのものでなくても、候補ＭＶの周辺を探索して最終的なＭＶを導出することができる処理であれば、どのような処理を用いてもよい。
【0221】
［動き補償 ＞ ＢＩＯ／ＯＢＭＣ］
動き補償では、予測画像を生成し、その予測画像を補正するモードがある。そのモードは、例えば、後述のＢＩＯおよびＯＢＭＣである。
動き補償では、予測画像を生成し、その予測画像を補正するモードがある。そのモードは、例えば、後述のＢＩＯおよびＯＢＭＣである。
【0222】
図３２は、予測画像の生成の一例を示すフローチャートである。
【0223】
インター予測部１２６は、予測画像を生成し（ステップＳｍ＿１）、例えば上述の何れかのモードによってその予測画像を補正する（ステップＳｍ＿２）。
【0224】
図３３は、予測画像の生成の他の例を示すフローチャートである。
【0225】
インター予測部１２６は、カレントブロックの動きベクトルを決定する（ステップＳｎ＿１）。次に、インター予測部１２６は、予測画像を生成し（ステップＳｎ＿２）、補正処理を行うか否かを判定する（ステップＳｎ＿３）。ここで、インター予測部１２６は、補正処理を行うと判定すると（ステップＳｎ＿３のＹｅｓ）、その予測画像を補正することによって最終的な予測画像を生成する（ステップＳｎ＿４）。一方、インター予測部１２６は、補正処理を行わないと判定すると（ステップＳｎ＿３のＮｏ）、その予測画像を補正することなく最終的な予測画像として出力する（ステップＳｎ＿５）。
【0226】
また、動き補償では、予測画像を生成するときに輝度を補正するモードがある。そのモードは、例えば、後述のＬＩＣである。
【0227】
図３４は、予測画像の生成の他の例を示すフローチャートである。
【0228】
インター予測部１２６は、カレントブロックの動きベクトルを導出する（ステップＳｏ＿１）。次に、インター予測部１２６は、輝度補正処理を行うか否かを判定する（ステップＳｏ＿２）。ここで、インター予測部１２６は、輝度補正処理を行うと判定すると（ステップＳｏ＿２のＹｅｓ）、輝度補正を行いながら予測画像を生成する（ステップＳｏ＿３）。つまり、ＬＩＣによって予測画像が生成される。一方、インター予測部１２６は、輝度補正処理を行わないと判定すると（ステップＳｏ＿２のＮｏ）、輝度補正を行うことなく通常の動き補償によって予測画像を生成する（ステップＳｏ＿４）。
【0229】
［動き補償 ＞ ＯＢＭＣ］
動き探索により得られたカレントブロックの動き情報だけでなく、隣接ブロックの動き情報も用いて、インター予測信号が生成されてもよい。具体的には、（参照ピクチャ内の）動き探索により得られた動き情報に基づく予測信号と、（カレントピクチャ内の）隣接ブロックの動き情報に基づく予測信号と、を重み付け加算することにより、カレントブロック内のサブブロック単位でインター予測信号が生成されてもよい。このようなインター予測（動き補償）は、ＯＢＭＣ（ｏｖｅｒｌａｐｐｅｄ ｂｌｏｃｋ ｍｏｔｉｏｎ ｃｏｍｐｅｎｓａｔｉｏｎ）と呼ばれることがある。
動き探索により得られたカレントブロックの動き情報だけでなく、隣接ブロックの動き情報も用いて、インター予測信号が生成されてもよい。具体的には、（参照ピクチャ内の）動き探索により得られた動き情報に基づく予測信号と、（カレントピクチャ内の）隣接ブロックの動き情報に基づく予測信号と、を重み付け加算することにより、カレントブロック内のサブブロック単位でインター予測信号が生成されてもよい。このようなインター予測（動き補償）は、ＯＢＭＣ（ｏｖｅｒｌａｐｐｅｄ ｂｌｏｃｋ ｍｏｔｉｏｎ ｃｏｍｐｅｎｓａｔｉｏｎ）と呼ばれることがある。
【0230】
ＯＢＭＣモードでは、ＯＢＭＣのためのサブブロックのサイズを示す情報（例えばＯＢＭＣブロックサイズと呼ばれる）は、シーケンスレベルで信号化されてもよい。さらに、ＯＢＭＣモードを適用するか否かを示す情報（例えばＯＢＭＣフラグと呼ばれる）は、ＣＵレベルで信号化されてもよい。なお、これらの情報の信号化のレベルは、シーケンスレベル及びＣＵレベルに限定される必要はなく、他のレベル（例えばピクチャレベル、スライスレベル、タイルレベル、ＣＴＵレベル又はサブブロックレベル）であってもよい。
【0231】
【0232】
まず、図３６に示すように、処理対象（カレント）ブロックに割り当てられた動きベクトル（ＭＶ）を用いて通常の動き補償による予測画像（Ｐｒｅｄ）を取得する。図３６において、矢印“ＭＶ”は参照ピクチャを指し、予測画像を得るためにカレントピクチャのカレントブロックが何を参照しているかを示している。
【0233】
次に、符号化済みの左隣接ブロックに対して既に導出された動きベクトル（ＭＶ＿Ｌ）を符号化対象ブロックに適用（再利用）して予測画像（Ｐｒｅｄ＿Ｌ）を取得する。動きベクトル（ＭＶ＿Ｌ）は、カレントブロックから参照ピクチャを指す矢印”ＭＶ＿Ｌ”によって示される。そして、２つの予測画像ＰｒｅｄとＰｒｅｄ＿Ｌとを重ね合わせることで予測画像の１回目の補正を行う。これは、隣接ブロック間の境界を混ぜ合わせる効果を有する。
【0234】
同様に、符号化済みの上隣接ブロックに対して既に導出された動きベクトル（ＭＶ＿Ｕ）を符号化対象ブロックに適用（再利用）して予測画像（Ｐｒｅｄ＿Ｕ）を取得する。動きベクトル（ＭＶ＿Ｕ）は、カレントブロックから参照ピクチャを指す矢印”ＭＶ＿Ｕ”によって示される。そして、予測画像Ｐｒｅｄ＿Ｕを１回目の補正を行った予測画像（例えば、ＰｒｅｄとＰｒｅｄ＿Ｌ）に重ね合わせることで予測画像の２回目の補正を行う。これは、隣接ブロック間の境界を混ぜ合わせる効果を有する。２回目の補正によって得られた予測画像は、隣接ブロックとの境界が混ぜ合わされた（スムージングされた）、カレントブロックの最終的な予測画像である。
【0235】
なお、上述の例は、左隣接および上隣接のブロックを用いた２パスの補正方法であるが、その補正方法は、右隣接および／または下隣接のブロックも用いた３パスまたはそれ以上のパスの補正方法であってもよい。
【0236】
なお、重ね合わせを行う領域はブロック全体の画素領域ではなく、ブロック境界近傍の一部の領域のみであってもよい。
【0237】
なお、ここでは１枚の参照ピクチャから、追加的な予測画像Ｐｒｅｄ＿ＬおよびＰｒｅｄ＿Ｕを重ね合わせることで１枚の予測画像Ｐｒｅｄを得るためのＯＢＭＣの予測画像補正処理について説明した。しかし、複数の参照画像に基づいて予測画像が補正される場合には、同様の処理が複数の参照ピクチャのそれぞれに適用されてもよい。このような場合、複数の参照ピクチャに基づくＯＢＭＣの画像補正を行うことによって、各々の参照ピクチャから、補正された予測画像を取得した後に、その取得された複数の補正予測画像をさらに重ね合わせることで最終的な予測画像を取得する。
【0238】
なお、ＯＢＭＣでは、対象ブロックの単位は、予測ブロック単位であっても、予測ブロックをさらに分割したサブブロック単位であってもよい。
【0239】
ＯＢＭＣ処理を適用するかどうかの判定の方法として、例えば、ＯＢＭＣ処理を適用するかどうかを示す信号であるｏｂｍｃ＿ｆｌａｇを用いる方法がある。具体的な一例としては、符号化装置は、対象ブロックが動きの複雑な領域に属しているかどうかを判定してもよい。符号化装置は、動きの複雑な領域に属している場合は、ｏｂｍｃ＿ｆｌａｇとして値１を設定してＯＢＭＣ処理を適用して符号化を行い、動きの複雑な領域に属していない場合は、ｏｂｍｃ＿ｆｌａｇとして値０を設定してＯＢＭＣ処理を適用せずにブロックの符号化を行う。一方、復号化装置では、ストリーム（例えば圧縮シーケンス）に記述されたｏｂｍｃ＿ｆｌａｇを復号することで、その値に応じてＯＢＭＣ処理を適用するかどうかを切替えて復号を行う。
【0240】
インター予測部１２６は、上述の例では、矩形のカレントブロックに対して１つの矩形の予測画像を生成する。しかし、インター予測部１２６は、その矩形のカレントブロックに対して矩形と異なる形状の複数の予測画像を生成し、それらの複数の予測画像を結合することによって、最終的な矩形の予測画像を生成してもよい。矩形と異なる形状は、例えば三角形であってもよい。
【0241】
図３７は、２つの三角形の予測画像の生成を説明するための概念図である。
【0242】
インター予測部１２６は、カレントブロック内の三角形の第１パーティションに対して、その第１パーティションの第１ＭＶを用いて動き補償を行うことによって、三角形の予測画像を生成する。同様に、インター予測部１２６は、カレントブロック内の三角形の第２パーティションに対して、その第２パーティションの第２ＭＶを用いて動き補償を行うことによって、三角形の予測画像を生成する。そして、インター予測部１２６は、これらの予測画像を結合することによって、カレントブロックと同じ矩形の予測画像を生成する。
【0243】
なお、図３７に示す例では、第１パーティションおよび第２パーティションはそれぞれ三角形であるが、台形であってもよく、それぞれ互いに異なる形状であってもよい。さらに、図３７に示す例では、カレントブロックが２つのパーティションから構成されているが、３つ以上のパーティションから構成されていてもよい。
【0244】
また、第１パーティションおよび第２パーティションは重複していてもよい。すなわち、第１パーティションおよび第２パーティションは同じ画素領域を含んでいてもよい。この場合、第１パーティションにおける予測画像と第２パーティションにおける予測画像とを用いてカレントブロックの予測画像を生成してもよい。
【0245】
また、この例では２つのパーティションともにインター予測で予測画像が生成される例を示したが、少なくとも１つのパーティションについてイントラ予測によって予測画像を生成してもよい。
【0246】
［動き補償 ＞ ＢＩＯ］
次に、動きベクトルを導出する方法について説明する。まず、等速直線運動を仮定したモデルに基づいて動きベクトルを導出するモードについて説明する。このモードは、ＢＩＯ（ｂｉ－ｄｉｒｅｃｔｉｏｎａｌ ｏｐｔｉｃａｌ ｆｌｏｗ）モードと呼ばれることがある。
次に、動きベクトルを導出する方法について説明する。まず、等速直線運動を仮定したモデルに基づいて動きベクトルを導出するモードについて説明する。このモードは、ＢＩＯ（ｂｉ－ｄｉｒｅｃｔｉｏｎａｌ ｏｐｔｉｃａｌ ｆｌｏｗ）モードと呼ばれることがある。
【0247】
図３８は、等速直線運動を仮定したモデルを説明するための概念図である。図３８において、（ｖｘ，ｖｙ）は、速度ベクトルを示し、τ０、τ１は、それぞれ、カレントピクチャ（Ｃｕｒ Ｐｉｃ）と２つの参照ピクチャ（Ｒｅｆ０，Ｒｅｆ１）との間の時間的な距離を示す。（ＭＶｘ０，ＭＶｙ０）は、参照ピクチャＲｅｆ０に対応する動きベクトルを示し、（ＭＶｘ１、ＭＶｙ１）は、参照ピクチャＲｅｆ１に対応する動きベクトルを示す。
【0248】
このとき速度ベクトル（ｖｘ，ｖｙ）の等速直線運動の仮定の下では、（ＭＶｘ０，ＭＶｙ０）及び（ＭＶｘ１，ＭＶｙ１）は、それぞれ、（ｖｘτ０，ｖｙτ０）及び（－ｖｘτ１，－ｖｙτ１）と表され、以下のオプティカルフロー等式（２）が採用されてもよい。
【0249】
【数3】
【0250】
ここで、Ｉ（ｋ）は、動き補償後の参照画像ｋ（ｋ＝０，１）の輝度値を示す。このオプティカルフロー等式は、（ｉ）輝度値の時間微分と、（ｉｉ）水平方向の速度及び参照画像の空間勾配の水平成分の積と、（ｉｉｉ）垂直方向の速度及び参照画像の空間勾配の垂直成分の積と、の和が、ゼロと等しいことを示す。このオプティカルフロー等式とエルミート補間（Ｈｅｒｍｉｔｅ ｉｎｔｅｒｐｏｌａｔｉｏｎ）との組み合わせに基づいて、マージリスト等から得られるブロック単位の動きベクトルが画素単位で補正されてもよい。
【0251】
なお、等速直線運動を仮定したモデルに基づく動きベクトルの導出とは異なる方法で、復号装置側で動きベクトルが導出されてもよい。例えば、複数の隣接ブロックの動きベクトルに基づいてサブブロック単位で動きベクトルが導出されてもよい。
【0252】
［動き補償 ＞ ＬＩＣ］
次に、ＬＩＣ（ｌｏｃａｌ ｉｌｌｕｍｉｎａｔｉｏｎ ｃｏｍｐｅｎｓａｔｉｏｎ）処理を用いて予測画像（予測）を生成するモードの一例について説明する。
次に、ＬＩＣ（ｌｏｃａｌ ｉｌｌｕｍｉｎａｔｉｏｎ ｃｏｍｐｅｎｓａｔｉｏｎ）処理を用いて予測画像（予測）を生成するモードの一例について説明する。
【0253】
図３９は、ＬＩＣ処理による輝度補正処理を用いた予測画像生成方法の一例を説明するための概念図である。
【0254】
まず、符号化済みの参照ピクチャからＭＶを導出して、カレントブロックに対応する参照画像を取得する。
【0255】
次に、カレントブロックに対して、参照ピクチャとカレントピクチャとで輝度値がどのように変化したかを示す情報を抽出する。この抽出は、カレントピクチャにおける符号化済み左隣接参照領域（周辺参照領域）および符号化済み上隣参照領域（周辺参照領域）の輝度画素値と、導出されたＭＶで指定された参照ピクチャ内の同等位置における輝度画素値とに基づいて行われる。そして、輝度値がどのように変化したかを示す情報を用いて、輝度補正パラメータを算出する。
【0256】
ＭＶで指定された参照ピクチャ内の参照画像に対して前記輝度補正パラメータを適用する輝度補正処理を行うことで、カレントブロックに対する予測画像を生成する。
【0257】
なお、図３９における前記周辺参照領域の形状は一例であり、これ以外の形状を用いてもよい。
【0258】
また、ここでは１枚の参照ピクチャから予測画像を生成する処理について説明したが、複数枚の参照ピクチャから予測画像を生成する場合も同様であり、各々の参照ピクチャから取得した参照画像に、上述と同様の方法で輝度補正処理を行ってから予測画像を生成してもよい。
【0259】
ＬＩＣ処理を適用するかどうかの判定の方法として、例えば、ＬＩＣ処理を適用するかどうかを示す信号であるｌｉｃ＿ｆｌａｇを用いる方法がある。具体的な一例としては、符号化装置において、カレントブロックが、輝度変化が発生している領域に属しているかどうかを判定し、輝度変化が発生している領域に属している場合はｌｉｃ＿ｆｌａｇとして値１を設定してＬＩＣ処理を適用して符号化を行い、輝度変化が発生している領域に属していない場合はｌｉｃ＿ｆｌａｇとして値０を設定してＬＩＣ処理を適用せずに符号化を行う。一方、復号化装置では、ストリームに記述されたｌｉｃ＿ｆｌａｇを復号化することで、その値に応じてＬＩＣ処理を適用するかどうかを切替えて復号を行ってもよい。
【0260】
ＬＩＣ処理を適用するかどうかの判定の別の方法として、例えば、周辺ブロックでＬＩＣ処理を適用したかどうかに従って判定する方法もある。具体的な一例としては、カレントブロックがマージモードであった場合、マージモード処理におけるＭＶの導出の際に選択した周辺の符号化済みブロックがＬＩＣ処理を適用して符号化したかどうかを判定する。その結果に応じてＬＩＣ処理を適用するかどうかを切替えて符号化を行う。なお、この例の場合でも、同じ処理が復号装置側の処理に適用される。
【0261】
ＬＩＣ処理（輝度補正処理）の態様について図３９を用いて説明したが、以下、その詳細を説明する。
【0262】
まず、インター予測部１２６は、符号化済みピクチャである参照ピクチャから符号化対象ブロックに対応する参照画像を取得するための動きベクトルを導出する。
【0263】
次に、インター予測部１２６は、符号化対象ブロックに対して、左隣接および上隣接の符号化済み周辺参照領域の輝度画素値と、動きベクトルで指定された参照ピクチャ内の同等位置における輝度画素値とを用いて、参照ピクチャと符号化対象ピクチャとで輝度値がどのように変化したかを示す情報を抽出して輝度補正パラメータを算出する。例えば、符号化対象ピクチャ内の周辺参照領域内のある画素の輝度画素値をｐ０とし、当該画素と同等位置の、参照ピクチャ内の周辺参照領域内の画素の輝度画素値をｐ１とする。インター予測部１２６は、周辺参照領域内の複数の画素に対して、Ａ×ｐ１＋Ｂ＝ｐ０を最適化する係数Ａ及びＢを輝度補正パラメータとして算出する。
【0264】
次に、インター予測部１２６は、動きベクトルで指定された参照ピクチャ内の参照画像に対して輝度補正パラメータを用いて輝度補正処理を行うことで、符号化対象ブロックに対する予測画像を生成する。例えば、参照画像内の輝度画素値をｐ２とし、輝度補正処理後の予測画像の輝度画素値をｐ３とする。インター予測部１２６は、参照画像内の各画素に対して、Ａ×ｐ２＋Ｂ＝ｐ３を算出することで輝度補正処理後の予測画像を生成する。
【0265】
なお、図３９における周辺参照領域の形状は一例であり、これ以外の形状を用いてもよい。また、図３９に示す周辺参照領域の一部が用いられてもよい。例えば、上隣接画素および左隣接画素のそれぞれから間引いた所定数の画素を含む領域を周辺参照領域として用いてもよい。また、周辺参照領域は、符号化対象ブロックに隣接する領域に限らず、符号化対象ブロックに隣接しない領域であってもよい。画素に関する所定数は、予め定められていてもよい。
【0266】
また、図３９に示す例では、参照ピクチャ内の周辺参照領域は、符号化対象ピクチャ内の周辺参照領域から、符号化対象ピクチャの動きベクトルで指定される領域であるが、他の動きベクトルで指定される領域であってもよい。例えば、当該他の動きベクトルは、符号化対象ピクチャ内の周辺参照領域の動きベクトルであってもよい。
【0267】
なお、ここでは、符号化装置１００における動作を説明したが、復号装置２００における動作も典型的には同様である。
【0268】
なお、ＬＩＣ処理は輝度のみではなく、色差に適用してもよい。このとき、Ｙ、Ｃｂ、およびＣｒのそれぞれに対して個別に補正パラメータを導出してもよいし、いずれかに対して共通の補正パラメータを用いてもよい。
【0269】
また、ＬＩＣ処理はサブブロック単位で適用してもよい。例えば、カレントサブブロックの周辺参照領域と、カレントサブブロックのＭＶで指定された参照ピクチャ内の参照サブブロックの周辺参照領域を用いて補正パラメータを導出してもよい。
【0270】
［予測制御部］
予測制御部１２８は、イントラ予測信号（イントラ予測部１２４から出力される信号）及びインター予測信号（インター予測部１２６から出力される信号）のいずれかを選択し、選択した信号を予測信号として減算部１０４及び加算部１１６に出力する。
予測制御部１２８は、イントラ予測信号（イントラ予測部１２４から出力される信号）及びインター予測信号（インター予測部１２６から出力される信号）のいずれかを選択し、選択した信号を予測信号として減算部１０４及び加算部１１６に出力する。
【0271】
図１に示すように、種々の符号化装置例では、予測制御部１２８は、エントロピー符号化部１１０に入力される予測パラメータを出力してもよい。エントロピー符号化部１１０は、予測制御部１２８から入力されるその予測パラメータ、量子化部１０８から入力される量子化係数に基づいて、符号化ビットストリーム（またはシーケンス）を生成してもよい。予測パラメータは復号装置に使用されてもよい。復号装置は、符号化ビットストリームを受信して復号し、イントラ予測部１２４、インター予測部１２６および予測制御部１２８において行われる予測処理と同じ処理を行ってもよい。予測パラメータは、選択予測信号（例えば、動きベクトル、予測タイプ、または、イントラ予測部１２４またはインター予測部１２６で用いられた予測モード）、または、イントラ予測部１２４、インター予測部１２６および予測制御部１２８において行われる予測処理に基づく、あるいはその予測処理を示す、任意のインデックス、フラグ、もしくは値を含んでいてもよい。
【0272】
［符号化装置の実装例］
図４０は、符号化装置１００の実装例を示すブロック図である。符号化装置１００は、プロセッサａ１及びメモリａ２を備える。例えば、図１に示された符号化装置１００の複数の構成要素は、図４０に示されたプロセッサａ１及びメモリａ２によって実装される。
図４０は、符号化装置１００の実装例を示すブロック図である。符号化装置１００は、プロセッサａ１及びメモリａ２を備える。例えば、図１に示された符号化装置１００の複数の構成要素は、図４０に示されたプロセッサａ１及びメモリａ２によって実装される。
【0273】
プロセッサａ１は、情報処理を行う回路であり、メモリａ２にアクセス可能な回路である。例えば、プロセッサａ１は、動画像を符号化する専用又は汎用の電子回路である。プロセッサａ１は、ＣＰＵのようなプロセッサであってもよい。また、プロセッサａ１は、複数の電子回路の集合体であってもよい。また、例えば、プロセッサａ１は、図１等に示された符号化装置１００の複数の構成要素のうち、複数の構成要素の役割を果たしてもよい。
【0274】
メモリａ２は、プロセッサａ１が動画像を符号化するための情報が記憶される専用又は汎用のメモリである。メモリａ２は、電子回路であってもよく、プロセッサａ１に接続されていてもよい。また、メモリａ２は、プロセッサａ１に含まれていてもよい。また、メモリａ２は、複数の電子回路の集合体であってもよい。また、メモリａ２は、磁気ディスク又は光ディスク等であってもよいし、ストレージ又は記録媒体等と表現されてもよい。また、メモリａ２は、不揮発性メモリでもよいし、揮発性メモリでもよい。
【0275】
例えば、メモリａ２には、符号化される動画像が記憶されてもよいし、符号化された動画像に対応するビット列が記憶されてもよい。また、メモリａ２には、プロセッサａ１が動画像を符号化するためのプログラムが記憶されていてもよい。
【0276】
また、例えば、メモリａ２は、図１等に示された符号化装置１００の複数の構成要素のうち、情報を記憶するための構成要素の役割を果たしてもよい。例えば、メモリａ２は、図１に示されたブロックメモリ１１８及びフレームメモリ１２２の役割を果たしてもよい。より具体的には、メモリａ２には、再構成済みブロック及び再構成済みピクチャ等が記憶されてもよい。
【0277】
なお、符号化装置１００において、図１等に示された複数の構成要素の全てが実装されなくてもよいし、上述された複数の処理の全てが行われなくてもよい。図１等に示された複数の構成要素の一部は、他の装置に含まれていてもよいし、上述された複数の処理の一部は、他の装置によって実行されてもよい。
【0278】
［復号装置］
次に、例えば上記の符号化装置１００から出力された符号化信号（符号化ビットストリーム）を復号可能な復号装置について説明する。図４１は、実施の形態に係る復号装置２００の機能構成を示すブロック図である。復号装置２００は、動画像をブロック単位で復号する動画像復号装置である。
次に、例えば上記の符号化装置１００から出力された符号化信号（符号化ビットストリーム）を復号可能な復号装置について説明する。図４１は、実施の形態に係る復号装置２００の機能構成を示すブロック図である。復号装置２００は、動画像をブロック単位で復号する動画像復号装置である。
【0279】
図４１に示すように、復号装置２００は、エントロピー復号部２０２と、逆量子化部２０４と、逆変換部２０６と、加算部２０８と、ブロックメモリ２１０と、ループフィルタ部２１２と、フレームメモリ２１４と、イントラ予測部２１６と、インター予測部２１８と、予測制御部２２０と、を備える。
【0280】
復号装置２００は、例えば、汎用プロセッサ及びメモリにより実現される。この場合、メモリに格納されたソフトウェアプログラムがプロセッサにより実行されたときに、プロセッサは、エントロピー復号部２０２、逆量子化部２０４、逆変換部２０６、加算部２０８、ループフィルタ部２１２、イントラ予測部２１６、インター予測部２１８及び予測制御部２２０として機能する。また、復号装置２００は、エントロピー復号部２０２、逆量子化部２０４、逆変換部２０６、加算部２０８、ループフィルタ部２１２、イントラ予測部２１６、インター予測部２１８及び予測制御部２２０に対応する専用の１以上の電子回路として実現されてもよい。
【0281】
以下に、復号装置２００の全体的な処理の流れを説明した後に、復号装置２００に含まれる各構成要素について説明する。
【0282】
［復号処理の全体フロー］
図４２は、復号装置２００による全体的な復号処理の一例を示すフローチャートである。
図４２は、復号装置２００による全体的な復号処理の一例を示すフローチャートである。
【0283】
まず、復号装置２００のエントロピー復号部２０２は、固定サイズのブロック（例えば、１２８×１２８画素）の分割パターンを特定する（ステップＳｐ＿１）。この分割パターンは、符号化装置１００によって選択された分割パターンである。そして、復号装置２００は、その分割パターンを構成する複数のブロックのそれぞれに対してステップＳｐ＿２～Ｓｐ＿６の処理を行う。
【0284】
つまり、エントロピー復号部２０２は、復号対象ブロック（カレントブロックともいう）の符号化された量子化係数および予測パラメータを復号（具体的にはエントロピー復号）する（ステップＳｐ＿２）。
【0285】
次に、逆量子化部２０４および逆変換部２０６は、複数の量子化係数に対して逆量子化および逆変換を行うことによって、複数の予測残差（すなわち差分ブロック）を復元する（ステップＳｐ＿３）。
【0286】
次に、イントラ予測部２１６、インター予測部２１８および予測制御部２２０の全てまたは一部からなる予測処理部は、カレントブロックの予測信号（予測ブロックともいう）を生成する（ステップＳｐ＿４）。
【0287】
次に、加算部２０８は、差分ブロックに予測ブロックを加算することによってカレントブロックを再構成画像（復号画像ブロックともいう）に再構成する（ステップＳｐ＿５）。
【0288】
そして、この再構成画像が生成されると、ループフィルタ部２１２は、その再構成画像に対してフィルタリングを行う（ステップＳｐ＿６）。
【0289】
そして、復号装置２００は、ピクチャ全体の復号が完了したか否かを判定し（ステップＳｐ＿７）、完了していないと判定する場合（ステップＳｐ＿７のＮｏ）、ステップＳｐ＿１からの処理を繰り返し実行する。
【0290】
図示されたように、ステップＳｐ＿１～Ｓｐ＿７の処理は、復号装置２００によってシーケンシャルに行われる。あるいは、それらの処理のうちの一部の複数の処理が並列に行われてもよく、順番の入れ替え等が行われてもよい。
【0291】
［エントロピー復号部］
エントロピー復号部２０２は、符号化ビットストリームをエントロピー復号する。具体的には、エントロピー復号部２０２は、例えば、符号化ビットストリームから二値信号に算術復号する。そして、エントロピー復号部２０２は、二値信号を多値化（ｄｅｂｉｎａｒｉｚｅ）する。エントロピー復号部２０２は、ブロック単位で量子化係数を逆量子化部２０４に出力する。エントロピー復号部２０２は、実施の形態におけるイントラ予測部２１６、インター予測部２１８および予測制御部２２０に、符号化ビットストリーム（図１参照）に含まれている予測パラメータを出力してもよい。イントラ予測部２１６、インター予測部２１８および予測制御部２２０は、符号化装置側におけるイントラ予測部１２４、インター予測部１２６および予測制御部１２８で行われる処理と同じ予測処理を実行することができる。
エントロピー復号部２０２は、符号化ビットストリームをエントロピー復号する。具体的には、エントロピー復号部２０２は、例えば、符号化ビットストリームから二値信号に算術復号する。そして、エントロピー復号部２０２は、二値信号を多値化（ｄｅｂｉｎａｒｉｚｅ）する。エントロピー復号部２０２は、ブロック単位で量子化係数を逆量子化部２０４に出力する。エントロピー復号部２０２は、実施の形態におけるイントラ予測部２１６、インター予測部２１８および予測制御部２２０に、符号化ビットストリーム（図１参照）に含まれている予測パラメータを出力してもよい。イントラ予測部２１６、インター予測部２１８および予測制御部２２０は、符号化装置側におけるイントラ予測部１２４、インター予測部１２６および予測制御部１２８で行われる処理と同じ予測処理を実行することができる。
【0292】
［逆量子化部］
逆量子化部２０４は、エントロピー復号部２０２からの入力である復号対象ブロック（以下、カレントブロックという）の量子化係数を逆量子化する。具体的には、逆量子化部２０４は、カレントブロックの量子化係数の各々について、当該量子化係数に対応する量子化パラメータに基づいて当該量子化係数を逆量子化する。そして、逆量子化部２０４は、カレントブロックの逆量子化された量子化係数（つまり変換係数）を逆変換部２０６に出力する。
逆量子化部２０４は、エントロピー復号部２０２からの入力である復号対象ブロック（以下、カレントブロックという）の量子化係数を逆量子化する。具体的には、逆量子化部２０４は、カレントブロックの量子化係数の各々について、当該量子化係数に対応する量子化パラメータに基づいて当該量子化係数を逆量子化する。そして、逆量子化部２０４は、カレントブロックの逆量子化された量子化係数（つまり変換係数）を逆変換部２０６に出力する。
【0293】
［逆変換部］
逆変換部２０６は、逆量子化部２０４からの入力である変換係数を逆変換することにより予測誤差を復元する。
逆変換部２０６は、逆量子化部２０４からの入力である変換係数を逆変換することにより予測誤差を復元する。
【0294】
例えば符号化ビットストリームから読み解かれた情報がＥＭＴ又はＡＭＴを適用することを示す場合（例えばＡＭＴフラグが真）、逆変換部２０６は、読み解かれた変換タイプを示す情報に基づいてカレントブロックの変換係数を逆変換する。
【0295】
また例えば、符号化ビットストリームから読み解かれた情報がＮＳＳＴを適用することを示す場合、逆変換部２０６は、変換係数に逆再変換を適用する。
【0296】
［加算部］
加算部２０８は、逆変換部２０６からの入力である予測誤差と予測制御部２２０からの入力である予測サンプルとを加算することによりカレントブロックを再構成する。そして、加算部２０８は、再構成されたブロックをブロックメモリ２１０及びループフィルタ部２１２に出力する。
加算部２０８は、逆変換部２０６からの入力である予測誤差と予測制御部２２０からの入力である予測サンプルとを加算することによりカレントブロックを再構成する。そして、加算部２０８は、再構成されたブロックをブロックメモリ２１０及びループフィルタ部２１２に出力する。
【0297】
［ブロックメモリ］
ブロックメモリ２１０は、イントラ予測で参照されるブロックであって復号対象ピクチャ（以下、カレントピクチャという）内のブロックを格納するための記憶部である。具体的には、ブロックメモリ２１０は、加算部２０８から出力された再構成ブロックを格納する。
ブロックメモリ２１０は、イントラ予測で参照されるブロックであって復号対象ピクチャ（以下、カレントピクチャという）内のブロックを格納するための記憶部である。具体的には、ブロックメモリ２１０は、加算部２０８から出力された再構成ブロックを格納する。
【0298】
［ループフィルタ部］
ループフィルタ部２１２は、加算部２０８によって再構成されたブロックにループフィルタを施し、フィルタされた再構成ブロックをフレームメモリ２１４及び表示装置等に出力する。
ループフィルタ部２１２は、加算部２０８によって再構成されたブロックにループフィルタを施し、フィルタされた再構成ブロックをフレームメモリ２１４及び表示装置等に出力する。
【0299】
符号化ビットストリームから読み解かれたＡＬＦのオン／オフを示す情報がＡＬＦのオンを示す場合、局所的な勾配の方向及び活性度に基づいて複数のフィルタの中から１つのフィルタが選択され、選択されたフィルタが再構成ブロックに適用される。
【0300】
［フレームメモリ］
フレームメモリ２１４は、インター予測に用いられる参照ピクチャを格納するための記憶部であり、フレームバッファと呼ばれることもある。具体的には、フレームメモリ２１４は、ループフィルタ部２１２によってフィルタされた再構成ブロックを格納する。
フレームメモリ２１４は、インター予測に用いられる参照ピクチャを格納するための記憶部であり、フレームバッファと呼ばれることもある。具体的には、フレームメモリ２１４は、ループフィルタ部２１２によってフィルタされた再構成ブロックを格納する。
【0301】
［予測処理部（イントラ予測部・インター予測部・予測制御部）］
図４３は、復号装置２００の予測処理部で行われる処理の一例を示すフローチャートである。なお、予測処理部は、イントラ予測部２１６、インター予測部２１８、および予測制御部２２０の全てまたは一部の構成要素からなる。
図４３は、復号装置２００の予測処理部で行われる処理の一例を示すフローチャートである。なお、予測処理部は、イントラ予測部２１６、インター予測部２１８、および予測制御部２２０の全てまたは一部の構成要素からなる。
【0302】
予測処理部は、カレントブロックの予測画像を生成する（ステップＳｑ＿１）。この予測画像は、予測信号または予測ブロックともいう。なお、予測信号には、例えばイントラ予測信号またはインター予測信号がある。具体的には、予測処理部は、予測ブロックの生成、差分ブロックの生成、係数ブロックの生成、差分ブロックの復元、および復号画像ブロックの生成が行われることによって既に得られている再構成画像を用いて、カレントブロックの予測画像を生成する。
【0303】
再構成画像は、例えば、参照ピクチャの画像であってもよいし、カレントブロックを含むピクチャであるカレントピクチャ内の復号済みのブロックの画像であってもよい。カレントピクチャ内の復号済みのブロックは、例えばカレントブロックの隣接ブロックである。
【0304】
図４４は、復号装置２００の予測処理部で行われる処理の他の例を示すフローチャートである。
【0305】
予測処理部は、予測画像を生成するための方式またはモードを判定する（ステップＳｒ＿１）。例えば、この方式またはモードは、例えば予測パラメータなどに基づいて判定されてもよい。
【0306】
予測処理部は、予測画像を生成するためのモードとして第１の方式を判定した場合には、その第１の方式にしたがって予測画像を生成する（ステップＳｒ＿２ａ）。また、予測処理部は、予測画像を生成するためのモードとして第２の方式を判定した場合には、その第２の方式にしたがって予測画像を生成する（ステップＳｒ＿２ｂ）。また、予測処理部は、予測画像を生成するためのモードとして第３の方式を判定した場合には、その第３の方式にしたがって予測画像を生成する（ステップＳｒ＿２ｃ）。
【0307】
第１の方式、第２の方式、および第３の方式は、予測画像を生成するための互いに異なる方式であって、それぞれ例えば、インター予測方式、イントラ予測方式、および、それら以外の予測方式であってもよい。これらの予測方式では、上述の再構成画像を用いてもよい。
【0308】
［イントラ予測部］
イントラ予測部２１６は、符号化ビットストリームから読み解かれたイントラ予測モードに基づいて、ブロックメモリ２１０に格納されたカレントピクチャ内のブロックを参照してイントラ予測を行うことで、予測信号（イントラ予測信号）を生成する。具体的には、イントラ予測部２１６は、カレントブロックに隣接するブロックのサンプル（例えば輝度値、色差値）を参照してイントラ予測を行うことでイントラ予測信号を生成し、イントラ予測信号を予測制御部２２０に出力する。
イントラ予測部２１６は、符号化ビットストリームから読み解かれたイントラ予測モードに基づいて、ブロックメモリ２１０に格納されたカレントピクチャ内のブロックを参照してイントラ予測を行うことで、予測信号（イントラ予測信号）を生成する。具体的には、イントラ予測部２１６は、カレントブロックに隣接するブロックのサンプル（例えば輝度値、色差値）を参照してイントラ予測を行うことでイントラ予測信号を生成し、イントラ予測信号を予測制御部２２０に出力する。
【0309】
なお、色差ブロックのイントラ予測において輝度ブロックを参照するイントラ予測モードが選択されている場合は、イントラ予測部２１６は、カレントブロックの輝度成分に基づいて、カレントブロックの色差成分を予測してもよい。
【0310】
また、符号化ビットストリームから読み解かれた情報がＰＤＰＣの適用を示す場合、イントラ予測部２１６は、水平／垂直方向の参照画素の勾配に基づいてイントラ予測後の画素値を補正する。
【0311】
［インター予測部］
インター予測部２１８は、フレームメモリ２１４に格納された参照ピクチャを参照して、カレントブロックを予測する。予測は、カレントブロック又はカレントブロック内のサブブロック（例えば４ｘ４ブロック）の単位で行われる。例えば、インター予測部２１８は、符号化ビットストリーム（例えば、エントロピー復号部２０２から出力される予測パラメータ）から読み解かれた動き情報（例えば動きベクトル）を用いて動き補償を行うことでカレントブロック又はサブブロックのインター予測信号を生成し、インター予測信号を予測制御部２２０に出力する。
インター予測部２１８は、フレームメモリ２１４に格納された参照ピクチャを参照して、カレントブロックを予測する。予測は、カレントブロック又はカレントブロック内のサブブロック（例えば４ｘ４ブロック）の単位で行われる。例えば、インター予測部２１８は、符号化ビットストリーム（例えば、エントロピー復号部２０２から出力される予測パラメータ）から読み解かれた動き情報（例えば動きベクトル）を用いて動き補償を行うことでカレントブロック又はサブブロックのインター予測信号を生成し、インター予測信号を予測制御部２２０に出力する。
【0312】
符号化ビットストリームから読み解かれた情報がＯＢＭＣモードを適用することを示す場合、インター予測部２１８は、動き探索により得られたカレントブロックの動き情報だけでなく、隣接ブロックの動き情報も用いて、インター予測信号を生成する。
【0313】
また、符号化ビットストリームから読み解かれた情報がＦＲＵＣモードを適用することを示す場合、インター予測部２１８は、符号化ストリームから読み解かれたパターンマッチングの方法（バイラテラルマッチング又はテンプレートマッチング）に従って動き探索を行うことにより動き情報を導出する。そして、インター予測部２１８は、導出された動き情報を用いて動き補償（予測）を行う。
【0314】
また、インター予測部２１８は、ＢＩＯモードが適用される場合に、等速直線運動を仮定したモデルに基づいて動きベクトルを導出する。また、符号化ビットストリームから読み解かれた情報がアフィン動き補償予測モードを適用することを示す場合には、インター予測部２１８は、複数の隣接ブロックの動きベクトルに基づいてサブブロック単位で動きベクトルを導出する。
【0315】
［ＭＶ導出 ＞ ノーマルインターモード］
符号化ビットストリームから読み解かれた情報がノーマルインターモードを適用することを示す場合、インター予測部２１８は、符号化ストリームから読み解かれた情報に基づいて、ＭＶを導出し、そのＭＶを用いて動き補償（予測）を行う。
符号化ビットストリームから読み解かれた情報がノーマルインターモードを適用することを示す場合、インター予測部２１８は、符号化ストリームから読み解かれた情報に基づいて、ＭＶを導出し、そのＭＶを用いて動き補償（予測）を行う。
【0316】
図４５は、復号装置２００におけるノーマルインターモードによるインター予測の例を示すフローチャートである。
【0317】
復号装置２００のインター予測部２１８は、ブロックごとに、そのブロックに対して動き補償を行う。インター予測部２１８は、時間的または空間的にカレントブロックの周囲にある複数の復号済みブロックのＭＶなどの情報に基づいて、そのカレントブロックに対して複数の候補ＭＶを取得する（ステップＳｓ＿１）。つまり、インター予測部２１８は、候補ＭＶリストを作成する。
【0318】
次に、インター予測部２１８は、ステップＳｓ＿１で取得された複数の候補ＭＶの中から、Ｎ個（Ｎは２以上の整数）の候補ＭＶのそれぞれを予測動きベクトル候補（予測ＭＶ候補ともいう）として、所定の優先順位に従って抽出する（ステップＳｓ＿２）。なお、その優先順位は、Ｎ個の予測ＭＶ候補のそれぞれに対して予め定められていてもよい。
【0319】
次に、インター予測部２１８は、入力されたストリーム（すなわち符号化ビットストリーム）から予測動きベクトル選択情報を復号し、その復号された予測動きベクトル選択情報を用いて、そのＮ個の予測ＭＶ候補の中から１つの予測ＭＶ候補を、カレントブロックの予測動きベクトル（予測ＭＶともいう）として選択する（ステップＳｓ＿３）。
【0320】
次に、インター予測部２１８は、入力されたストリームから差分ＭＶを復号し、その復号された差分ＭＶである差分値と、選択された予測動きベクトルとを加算することによって、カレントブロックのＭＶを導出する（ステップＳｓ＿４）。
【0321】
最後に、インター予測部２１８は、その導出されたＭＶと復号済み参照ピクチャとを用いてカレントブロックに対して動き補償を行ことにより、そのカレントブロックの予測画像を生成する（ステップＳｓ＿５）。
【0322】
［予測制御部］
予測制御部２２０は、イントラ予測信号及びインター予測信号のいずれかを選択し、選択した信号を予測信号として加算部２０８に出力する。全体的に、復号装置側の予測制御部２２０、イントラ予測部２１６およびインター予測部２１８の構成、機能、および処理は、符号化装置側の予測制御部１２８、イントラ予測部１２４およびインター予測部１２６の構成、機能、および処理と対応していてもよい。
予測制御部２２０は、イントラ予測信号及びインター予測信号のいずれかを選択し、選択した信号を予測信号として加算部２０８に出力する。全体的に、復号装置側の予測制御部２２０、イントラ予測部２１６およびインター予測部２１８の構成、機能、および処理は、符号化装置側の予測制御部１２８、イントラ予測部１２４およびインター予測部１２６の構成、機能、および処理と対応していてもよい。
【0323】
［復号装置の実装例］
図４６は、復号装置２００の実装例を示すブロック図である。復号装置２００は、プロセッサｂ１及びメモリｂ２を備える。例えば、図４１に示された復号装置２００の複数の構成要素は、図４６に示されたプロセッサｂ１及びメモリｂ２によって実装される。
図４６は、復号装置２００の実装例を示すブロック図である。復号装置２００は、プロセッサｂ１及びメモリｂ２を備える。例えば、図４１に示された復号装置２００の複数の構成要素は、図４６に示されたプロセッサｂ１及びメモリｂ２によって実装される。
【0324】
プロセッサｂ１は、情報処理を行う回路であり、メモリｂ２にアクセス可能な回路である。例えば、プロセッサｂ１は、符号化された動画像（すなわち符号化ビットストリーム）を復号する専用又は汎用の電子回路である。プロセッサｂ１は、ＣＰＵのようなプロセッサであってもよい。また、プロセッサｂ１は、複数の電子回路の集合体であってもよい。また、例えば、プロセッサｂ１は、図４１等に示された復号装置２００の複数の構成要素のうち、複数の構成要素の役割を果たしてもよい。
【0325】
メモリｂ２は、プロセッサｂ１が符号化ビットストリームを復号するための情報が記憶される専用又は汎用のメモリである。メモリｂ２は、電子回路であってもよく、プロセッサｂ１に接続されていてもよい。また、メモリｂ２は、プロセッサｂ１に含まれていてもよい。また、メモリｂ２は、複数の電子回路の集合体であってもよい。また、メモリｂ２は、磁気ディスク又は光ディスク等であってもよいし、ストレージ又は記録媒体等と表現されてもよい。また、メモリｂ２は、不揮発性メモリでもよいし、揮発性メモリでもよい。
【0326】
例えば、メモリｂ２には、動画像が記憶されてもよいし、符号化ビットストリームが記憶されてもよい。また、メモリｂ２には、プロセッサｂ１が符号化ビットストリームを復号するためのプログラムが記憶されていてもよい。
【0327】
また、例えば、メモリｂ２は、図４１等に示された復号装置２００の複数の構成要素のうち、情報を記憶するための構成要素の役割を果たしてもよい。具体的には、メモリｂ２は、図４１に示されたブロックメモリ２１０及びフレームメモリ２１４の役割を果たしてもよい。より具体的には、メモリｂ２には、再構成済みブロック及び再構成済みピクチャ等が記憶されてもよい。
【0328】
なお、復号装置２００において、図４１等に示された複数の構成要素の全てが実装されなくてもよいし、上述された複数の処理の全てが行われなくてもよい。図４１等に示された複数の構成要素の一部は、他の装置に含まれていてもよいし、上述された複数の処理の一部は、他の装置によって実行されてもよい。
【0329】
［各用語の定義］
各用語は一例として、以下のような定義であってもよい。
各用語は一例として、以下のような定義であってもよい。
【0330】
ピクチャは、モノクロフォーマットにおける複数の輝度サンプルの配列、又は、４：２：０、４：２：２及び４：４：４のカラーフォーマットにおける複数の輝度サンプルの配列及び複数の色差サンプルの２つの対応配列である。ピクチャは、フレーム又はフィールドであってもよい。
【0331】
フレームは、複数のサンプル行０、２、４、・・・が生じるトップフィールド、及び、複数のサンプル行１、３、５、・・・が生じるボトムフィールドの組成物である。
【0332】
スライスは、１つの独立スライスセグメント、及び、（もしあれば）同じアクセスユニット内の（もしあれば）次の独立スライスセグメントに先行する全ての後続の従属スライスセグメントに含まれる整数個の符号化ツリーユニットである。
【0333】
タイルは、ピクチャにおける特定のタイル列及び特定のタイル行内の複数の符号化ツリーブロックの矩形領域である。タイルは、タイルのエッジを跨ぐループフィルタが依然として適用されてもよいが、独立して復号及び符号化され得ることが意図された、フレームの矩形領域であってもよい。
【0334】
ブロックは、複数のサンプルのＭｘＮ（Ｎ行Ｍ列）配列、又は、複数の変換係数のＭｘＮ配列である。ブロックは、１つの輝度及び２つの色差の複数の行列からなる複数の画素の正方形又は矩形の領域であってもよい。
【0335】
ＣＴＵ（符号化ツリーユニット）は、３つのサンプル配列を有するピクチャの複数の輝度サンプルの符号化ツリーブロックであってもよいし、複数の色差サンプルの２つの対応符号化ツリーブロックであってもよい。あるいは、ＣＴＵは、モノクロピクチャと、３つの分離されたカラー平面及び複数のサンプルの符号化に用いられるシンタックス構造を用いて符号化されるピクチャとのいずれかの複数のサンプルの符号化ツリーブロックであってもよい。
【0336】
スーパーブロックは、１つ又は２つのモード情報ブロックを構成し、又は、再帰的に４つの３２×３２ブロックに分割され、さらに分割され得る６４×６４画素の正方形ブロックであってもよい。
【0337】
［非矩形分割］
符号化装置（図１参照）のイントラ予測部１２４及びインター予測部１２６に接続された予測制御部１２８においても、復号装置（図４１参照）のイントラ予測部２１６及びインター予測部２１８に接続された予測制御部２２０においても、従来、各ブロックの分割から得られ、動き情報（例えば複数の動きベクトル）が得られる複数のパーティション（又は、複数の可変サイズブロック、又は、複数のサブブロック）は、図３に示されるように、常に矩形である。発明者らは、三角形形状のような非矩形形状を有する複数のパーティションを生成することが、様々な実施において、ピクチャにおける画像の内容に応じて、画質及び符号化効率の改善を導くことを発見した。以下、予測の目的で画像ブロックから分割される少なくとも１つのパーティションが非矩形形状を有する様々な実施の形態が述べられる。なお、これらの実施の形態は、符号化装置側（イントラ予測部１２４及びインター予測部１２６に接続された予測制御部１２８）に対して、及び、復号装置側（イントラ予測部２１６及びインター予測部２１８に接続された予測制御部２２０）に対して、等しく適用可能であり、図１の符号化装置等に、又は、図４１の復号装置等に、実装されてもよい。
符号化装置（図１参照）のイントラ予測部１２４及びインター予測部１２６に接続された予測制御部１２８においても、復号装置（図４１参照）のイントラ予測部２１６及びインター予測部２１８に接続された予測制御部２２０においても、従来、各ブロックの分割から得られ、動き情報（例えば複数の動きベクトル）が得られる複数のパーティション（又は、複数の可変サイズブロック、又は、複数のサブブロック）は、図３に示されるように、常に矩形である。発明者らは、三角形形状のような非矩形形状を有する複数のパーティションを生成することが、様々な実施において、ピクチャにおける画像の内容に応じて、画質及び符号化効率の改善を導くことを発見した。以下、予測の目的で画像ブロックから分割される少なくとも１つのパーティションが非矩形形状を有する様々な実施の形態が述べられる。なお、これらの実施の形態は、符号化装置側（イントラ予測部１２４及びインター予測部１２６に接続された予測制御部１２８）に対して、及び、復号装置側（イントラ予測部２１６及びインター予測部２１８に接続された予測制御部２２０）に対して、等しく適用可能であり、図１の符号化装置等に、又は、図４１の復号装置等に、実装されてもよい。
【0338】
図４７は、非矩形形状（例えば三角形）を有する少なくとも第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割し、さらに、第１パーティションと第２パーティションとの再構成された組み合わせとして画像ブロックを符号化（又は復号）する処理を行う処理の一例を示すフローチャートである。
【0339】
ステップＳ１００１で、画像ブロックは、非矩形形状を有する第１パーティション、及び、非矩形形状を有しても有さなくてもよい第２パーティションを含む複数のパーティションに分割される。例えば、図４８に示されるように、画像ブロックは、共に非矩形形状（例えば三角形）を有する第１パーティション及び第２パーティションを作成するため、画像ブロックの左上角から画像ブロックの右下角へ分割されてもよい。あるいは、画像ブロックは、共に非矩形形状（例えば三角形）を有する第１パーティション及び第２パーティションを作成するため、画像ブロックの右上角から画像ブロックの左下角へ分割されてもよい。図４８及び図５３～図５５を参照して、後に、非矩形の分割の様々な例が述べられる。
【0340】
ステップＳ１００２において、処理は、第１パーティションについて第１動きベクトルを予測し、第２パーティションについて第２動きベクトルを予測する。例えば、第１動きベクトル及び第２動きベクトルを予測することは、第１動きベクトル候補セットから第１動きベクトルを選択すること、及び、第２動きベクトル候補セットから第２動きベクトルを選択することを含んでいてもよい。
【0341】
ステップＳ１００３において、上記のステップＳ１００２で導出された第１動きベクトルを用いて第１パーティションを取得し、上記のステップＳ１００２で導出された第２動きベクトルを用いて第２パーティションを取得するため、動き補償処理が行われる。
【0342】
ステップＳ１００４において、第１パーティションと第２パーティションとの（再構成された）組み合わせとして画像ブロックについて予測処理が行われる。予測処理は、第１パーティションと第２パーティションとの間の境界を滑らかにするための境界平滑化処理を含む。例えば、境界平滑化処理は、第１パーティションに基づいて予測される、複数の境界画素の複数の第１値と、第２パーティションに基づいて予測される、複数の境界画素の複数の第２値とを重み付けすることを伴う。境界平滑化処理の様々な実装が、図４９、図５０、図５６及び図５７Ａ～図５７Ｄを参照して後に述べられる。
【0343】
ステップＳ１００５において、処理は、非矩形形状を有する第１パーティション、及び、第２パーティションに画像ブロックを分割することを示すパーティションパラメータを含む１つ以上のパラメータを用いて画像ブロックを符号化又は復号する。図５１の表に集約されるように、例えば、パーティションパラメータ（「第１インデックス値」）は、例えば、（例えば図４８に示されるように左上から右下へ又は右上から左下への）分割に適用される分割方向と、上述されたステップＳ１００２で導出された第１動きベクトル及び第２動きベクトルとを一体として符号化してもよい。パーティションパラメータを含む１つ以上のパラメータを伴うこのようなパーティションシンタックス動作の詳細は、図５１、図５２及び図５８～図６１を参照して、後に詳細に述べられる。
【0344】
図５３は、画像ブロックを分割する処理２０００を示すフローチャートである。ステップＳ２００１において、処理は、非矩形形状を有する第１パーティション、及び、非矩形形状を有しても有さなくてもよい第２パーティションを含む複数のパーティションに画像を分割する。図４８に示されるように、画像ブロックは、三角形形状を有する第１パーティション、及び、同じく三角形形状を有する第２パーティションに分割される。少なくとも第１パーティションが非矩形形状を有する、第１パーティション及び第２パーティションを含む複数のパーティションに画像ブロックが分割される多数の他の例がある。非矩形形状は、三角形であってもよいし、台形であってもよいし、少なくとも５つの辺と角とを有する多角形であってもよい。
【0345】
例えば、図５４に示されるように、画像ブロックは、２つの三角形形状パーティションに分割されてもよい。画像ブロックは、２つの三角形形状パーティションよりも多く（例えば３つの三角形形状パーティション）に分割されてもよい。画像ブロックは、１つ又は複数の三角形形状パーティションと、１つ又は複数の矩形形状パーティションとの組み合わせに分割されてもよい。あるいは、画像ブロックは、１つ又は複数の三角形形状パーティションと、１つ又は複数の多角形形状パーティションとの組み合わせに分割されてもよい。
【0346】
さらに図５５に示されるように、画像ブロックは、Ｌ形状（多角形形状）パーティションと、矩形形状パーティションとに分割されてもよい。画像ブロックは、五角形（多角形）形状パーティションと、三角形形状パーティションとに分割されてもよい。画像ブロックは、六角形（多角形）形状パーティションと、五角形（多角形）形状パーティションとに分割されてもよい。あるいは、画像ブロックは、複数の多角形形状パーティションに分割されてもよい。
【0347】
図５３を再び参照し、ステップＳ２００２において、処理は、第１パーティションについて、例えば第１動きベクトル候補セットから第１パーティションを選択することによって、第１動きベクトルを予測し、第２パーティションについて、例えば第２動きベクトル候補セットから第２パーティションを選択することによって、第２動きベクトルを予測する。例えば、第１動きベクトル候補セットは、第１パーティションに隣接する複数のパーティションの複数の動きベクトルを含んでいてもよく、第２動きベクトル候補セットは、第２パーティションに隣接する複数のパーティションの複数の動きベクトルを含んでいてもよい。隣接する複数のパーティションは、空間的に隣接する複数のパーティションと、時間的に隣接する複数のパーティションとの一方又は両方であってもよい。空間的に隣接する複数のパーティションのいくつかの例は、処理されるパーティションの左、左下、下、右下、右、右上、上又は左上に位置するパーティションを含む。時間的に隣接する複数のパーティションの複数の例は、画像ブロックの複数の参照ピクチャにおける複数のｃｏ－ｌｏｃａｔｅｄパーティションを含む。
【0348】
様々な実装において、第１パーティションに隣接する複数のパーティション、及び、第２パーティションに隣接する複数のパーティションは、第１パーティション及び第２パーティションに分割される画像ブロックの外部であってもよい。第１動きベクトル候補セットは、第２動きベクトル候補セットと、同じであってもよいし、異なっていてもよい。さらに、第１動きベクトル候補セット、及び、第２動きベクトル候補セットの少なくとも１つは、画像ブロックについて準備された他の第３動きベクトル候補セットと同じであってもよい。
【0349】
いくつかの実装では、ステップＳ２００２において、第１パーティションと同様に第２パーティションも非矩形形状（例えば三角形）を有するとの判定に応じて、処理２０００は、第１パーティションを除く（つまり第１パーティションの動きベクトルを除く）、第２パーティションに隣接する複数のパーティションの複数の動きベクトルを含む第２動きベクトル候補セットを（非矩形形状第２パーティションについて）作成する。一方、第１パーティションと同様でなく第２パーティションが矩形形状を有するとの判定に応じて、処理２０００は、第１パーティションを含む、第２パーティションに隣接する複数のパーティションの複数の動きベクトルを含む第２動きベクトル候補セットを（矩形形状第２パーティションについて）作成する。
【0350】
ステップＳ２００３において、処理は、上述されたステップＳ２００２で導出された第１動きベクトルを用いて第１パーティションを符号化又は復号し、上述されたステップＳ２００２で導出された第２動きベクトルを用いて第２パーティションを符号化又は復号する。
【0351】
図５３の処理２０００のような画像ブロック分割処理は、例えば図１に示されたような回路及び回路に接続されたメモリを含む画像符号化装置によって行われてもよい。回路は、動作において、非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割すること（ステップＳ２００１）、第１パーティションについて第１動きベクトル、及び、第２パーティションについて第２動きベクトルを予測すること（ステップＳ２００２）、第１動きベクトルを用いて第１パーティションを、及び、第２動きベクトルを用いて第２パーティションを符号化すること（ステップＳ２００３）を行う。
【0352】
他の実施の形態に従って、図１に示されたような、画像符号化装置は、動作において原画像を受信し複数のブロックに分割する分割部１０２、動作において分割部から複数のブロック、及び、予測制御部１２８から複数の予測を受信し、各予測をその対応ブロックから減算して、残差を出力する加算部１０４、動作において加算部１０４から出力された複数の残差に変換を行って複数の変換係数を出力する変換部１０６、動作において複数の変換係数を量子化して複数の量子化変換係数を生成する量子化部１０８、動作において複数の量子化変換係数を符号化してビットストリームを生成するエントロピー符号化部１１０、及び、動作において符号化済み参照ピクチャにおける参照ブロックに基づいてカレントブロックの予測を生成するインター予測部１２６と、動作においてカレントピクチャにおける符号化済み参照ブロックに基づいてカレントブロックの予測を生成するイントラ予測部１２４と、メモリ１１８、１２２とに接続された予測制御部１２８を含んで、提供される。予測制御部１２８は、動作において、非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに複数のブロックを分割し（図５３、ステップＳ２００１）、第１パーティションについて第１動きベクトル、及び、第２パーティションについて第２動きベクトルを予測し（ステップＳ２００２）、第１動きベクトルを用いて第１パーティションを、及び、第２動きベクトルを用いて第２パーティションを符号化する（ステップＳ２００３）。
【0353】
他の実施の形態に従って、例えば図４１に示されるような、回路及び回路に接続されたメモリを含む画像復号装置が提供される。回路は、動作において、非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割すること（図５３、ステップＳ２００１）と、第１パーティションについて第１動きベクトル、及び、第２パーティションについて第２動きベクトルを予測すること（ステップＳ２００２）と、第１動きベクトルを用いて第１パーティションを、及び、第２動きベクトルを用いて第２パーティションを復号すること（ステップＳ２００３）とを行う。
【0354】
さらに実施の形態に従って、図４１に示された画像復号装置は、動作において符号化ビットストリームを受信し復号して複数の量子化変換係数を取得するエントロピー復号部２０２、動作において、複数の量子化変換係数を逆量子化して複数の変換係数を取得し、複数の変換係数を逆変換して複数の残差を取得する逆量子化部２０４及び逆変換部２０６、動作において、逆量子化部２０４及び逆変換部２０６から出力された複数の残差と、予測制御部２２０から出力された複数の予測とを加算して複数のブロックを再構成する加算部２０８、及び、動作において復号済みの参照ピクチャにおける参照ブロックに基づいてカレントブロックの予測を生成するインター予測部２１８と、動作においてカレントピクチャにおける復号済み参照ブロックに基づいてカレントブロックの予測を生成するイントラ予測部２１６と、メモリ２１０、２１４とに接続された予測制御部２２０を含んで、提供される。予測制御部２２０は、動作において、非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割し（図５３、ステップＳ２００１）、第１パーティションについて第１動きベクトル、及び、第２パーティションについて第２動きベクトルを予測し（ステップＳ２００２）、第１動きベクトルを用いて第１パーティションを、及び、第２動きベクトルを用いて第２パーティションを復号する（ステップＳ２００３）。
【0355】
［境界平滑化］
図４７、ステップＳ１００４において上述されたように、様々な実施の形態に従って、非矩形形状を有する第１パーティションと、第２パーティションとの（再構成された）組み合わせとして画像ブロックについて予測処理を行うことは、第１パーティションと第２パーティションとの間の境界に沿う境界平滑化処理の適用を伴ってもよい。
図４７、ステップＳ１００４において上述されたように、様々な実施の形態に従って、非矩形形状を有する第１パーティションと、第２パーティションとの（再構成された）組み合わせとして画像ブロックについて予測処理を行うことは、第１パーティションと第２パーティションとの間の境界に沿う境界平滑化処理の適用を伴ってもよい。
【0356】
例えば、図５７Ｂは、第１パーティションに基づいて第１予測された複数の境界画素の複数の第１値と、第２パーティションに基づいて第２予測された複数の境界画素の複数の第２値とを重み付けすることを伴う境界平滑化処理の一例を示す。
【0357】
図５６は、一実施形態に従って、第１パーティションに基づいて第１予測された複数の境界画素の複数の第１値と、第２パーティションに基づいて第２予測された複数の境界画素の複数の第２値とを重み付けすることを伴う全体の境界平滑化処理３０００を示すフローチャートである。ステップＳ３００１において、図５７Ａ、又は、上述された図４８、図５４及び図５５に示されたように、画像ブロックは、少なくとも第１パーティションが非矩形形状を有する、第１パーティション及び第２パーティションに、境界に沿って分割される。
【0358】
ステップＳ３００２において、境界に沿う、第１パーティションの画素セット（図５７Ａにおける「複数の境界画素」）の複数の第１値（例えば色、輝度、透明性等）は、第１パーティションの情報を用いて、第１予測される。ステップＳ３００３において、境界に沿う、第１パーティションの（同じ）画素セットの複数の第２値は、第２パーティションの情報を用いて第２予測される。いくつかの実施の形態において、第１予測及び第２予測の少なくとも１つが、符号化済み参照ピクチャにおける参照パーティションに基づいて複数の第１値及び複数の第２値を予測するインター予測処理である。図５７Ｄを参照して、いくつか実装では、予測処理は、第１パーティション及び第２パーティションが重なる画素セットを含む第１パーティション（「第１サンプルセット」）の全ての画素の複数の第１値を予測し、第１パーティションと第２パーティションとが重なる画素セット（「第２サンプルセット」）のみの第２値を予測する。他の実装において、第１予測及び第２予測の少なくとも１つは、カレントピクチャにおける符号化済み参照パーティションに基づいて複数の第１値及び複数の第２値を予測するイントラ予測処理である。いくつかの実装において、第１予測に用いられる予測方法は、第２予測に用いられる予測方法とは異なる。例えば、第１予測は、インター予測処理を含んでいてもよいし、第２予測は、イントラ予測処理を含んでいてもよい。複数の第１値の第１予測、又は、複数の第２値の第２予測に用いられる情報は、第１パーティション又は第２パーティションの複数の動きベクトル、複数のイントラ予測方向等であってもよい。
【0359】
ステップＳ３００４において、第１パーティションを用いて予測される複数の第１値、及び、第２パーティションを用いて予測される複数の第２値は、重み付けされる。ステップＳ３００５において、第１パーティションは、重み付けされた複数の第１値及び複数の第２値を用いて符号化又は復号される。
【0360】
図５７Ｂは、第１パーティション及び第２パーティションが各行又は各行の（最大）５画素で重なる境界平滑化動作の例を示す。すなわち、複数の第１値が第１パーティションに基づいて予測され、複数の第２値が第２パーティションに基づいて予測される各行又は各列の画素セットの数は、最大で５つである。図５７Ｃは、第１パーティション及び第２パーティションが各行又は各列の（最大）３画素で重なる境界平滑化動作の他の例を示す。すなわち、複数の第１値が第１パーティションに基づいて予測され、複数の第２値が第２パーティションに基づいて予測される各行又は各列の画素セットの数は、最大で３つである。
【0361】
図４９は、第１パーティション及び第２パーティションが各行又は各列の（最大）４画素で重なる境界平滑化動作の他の例を示す。すなわち、複数の第１値が第１パーティションに基づいて予測され、複数の第２値が第２パーティションに基づいて予測される各行又は各列の画素セットの数は、最大で４つである。示された例において、１／８、１／４、３／４及び７／８の複数の重みが、それぞれ、セットにおける４つの画素の複数の第１値に、７／８、３／４、１／４及び１／８の複数の重みが、それぞれ、セットにおける４つの画素の複数の第２値に、適用されてもよい。
【0362】
図５０は、さらに、第１パーティション及び第２パーティションが各行又は各列の０画素で重なる（つまりそれらが重ならい）、各行又は各列の（最大）１画素で重なる、及び、各行又は各列の（最大）２画素で重なる境界平滑化動作の複数の例を示す。第１パーティション及び第２パーティションが重ならない例において、複数のゼロ重みが適用される。第１パーティション及び第２パーティションが各行又は各列の１画素で重なる例において、第１パーティションに基づいて予測されるセットにおける複数の画素の複数の第１値に１／２の重みが適用されてもよく、第２パーティションに基づいて予測されるセットにおける複数の画素の複数の第２値に１／２の重みが適用されてもよい。第１パーティション及び第２パーティションが各行又は各列の２画素で重なる例において、第１パーティションに基づいて予測されるセットにおける２つの画素の複数の第１値に、それぞれ、１／３及び２／３の重みが適用されてもよく、第２パーティションに基づいて予測されるセットにおける２つの画素の複数の第２値に、それぞれ、２／３及び１／３の重みが適用されてもよい。
【0363】
上述された複数の実施の形態に従って、第１パーティション及び第２パーティションが重なるセットにおける複数の画素の数は整数である。他の複数の実装において、セットにおいて重なる画素の数は、例えば、非整数であってもよいし、分数であってもよい。画素セットの複数の第１値及び複数の第２値に適用される複数の重みも、各適用に応じて、分数又は整数であってもよい。
【0364】
図５６の処理３０００のような境界平滑化処理は、例えば図１に示されたような回路及び回路に接続されたメモリを含む画像符号化装置によって行われてもよい。回路は、動作において、画像ブロックから分割される、非矩形形状を有する第１パーティションと、第２パーティションとの間の境界に沿って境界平滑化動作を行う（図５６、ステップＳ３００１）。境界平滑化動作は、境界に沿う、第１パーティションの画素セットの複数の第１値を第１パーティションの情報を用いて予測すること（ステップＳ３００２）と、境界に沿う、第１パーティションの画素セットの複数の第２値を第２パーティションの情報を用いて第２予測すること（ステップＳ３００３）と、複数の第１値及び複数の第２値を重み付けすること（ステップＳ３００４）と、重み付けされた複数の第１値、及び、重み付けされた複数の第２値を用いて、第１パーティションを符号化すること（ステップＳ３００５）とを含む。
【0365】
他の実施の形態に従って、図１に示されたような、画像符号化装置は、動作において原画像を受信し複数のブロックに分割する分割部１０２、動作において分割部から複数のブロック、及び、予測制御部１２８から複数の予測を受信し、各予測をその対応ブロックから減算して、残差を出力する加算部１０４、動作において加算部１０４から出力された複数の残差に変換を行って複数の変換係数を出力する変換部１０６、動作において複数の変換係数を量子化して複数の量子化変換係数を生成する量子化部１０８、動作において複数の量子化変換係数を符号化してビットストリームを生成するエントロピー符号化部１１０、及び、動作において符号化済み参照ピクチャにおける参照ブロックに基づいてカレントブロックの予測を生成するインター予測部１２６と、動作においてカレントピクチャにおける符号化済み参照ブロックに基づいてカレントブロックの予測を生成するイントラ予測部１２４と、メモリ１１８、１２２とに接続された予測制御部１２８を含んで、提供される。予測制御部１２８は、動作において、画像ブロックから分割される、非矩形形状を有する第１パーティションと、第２パーティションとの間の境界に沿って境界平滑化動作を行う（図５６、ステップＳ３００１）。境界平滑化動作は、境界に沿う、第１パーティションの画素セットの複数の第１値を、第１パーティションの情報を用いて第１予測すること（ステップＳ３００２）と、境界に沿う、第１パーティションの画素セットの複数の第２値を、第２パーティションの情報を用いて第２予測すること（ステップＳ３００３）と、複数の第１値及び複数の第２値を重み付けすること（ステップＳ３００４）と、重み付けされた複数の第１値、及び、重み付けされた複数の第２値を用いて第１パーティションを符号化すること（ステップＳ３００５）とを含む。
【0366】
他の実施の形態に従って、例えば、図４１に示されたような、回路及び回路に接続されたメモリを含む画像復号装置が提供される。回路は、動作において、画像ブロックから分割される、非矩形形状を有する第１パーティションと、第２パーティションとの間の境界に沿って境界平滑化動作を行う（図５６、ステップＳ３００１）。境界平滑化動作は、境界に沿う、第１パーティションの画素セットの複数の第１値を第１パーティションの情報を用いて第１予測すること（ステップＳ３００２）と、境界に沿う、第１パーティションの画素セットの複数の第２値を第２パーティションの情報を用いて第２予測すること（ステップＳ３００３）と、複数の第１値及び複数の第２値を重み付けすること（ステップＳ３００４）と、重み付けされた複数の第１値、及び、重み付けされた複数の第２値を用いて、第１パーティションを復号すること（ステップＳ３００５）とを含む。
【0367】
他の実施の形態に従って、図４１に示された画像復号装置は、動作において符号化ビットストリームを受信し復号して複数の量子化変換係数を取得するエントロピー復号部２０２、動作において、複数の量子化変換係数を逆量子化して複数の変換係数を取得し、複数の変換係数を逆変換して複数の残差を取得する逆量子化部２０４及び逆変換部２０６、動作において、逆量子化部２０４及び逆変換部２０６から出力された複数の残差と、予測制御部２２０から出力された複数の予測とを加算して複数のブロックを再構成する加算部２０８、及び、動作において復号済みの参照ピクチャにおける参照ブロックに基づいてカレントブロックの予測を生成するインター予測部２１８と、動作においてカレントピクチャにおける復号済み参照ブロックに基づいてカレントブロックの予測を生成するイントラ予測部２１６と、メモリ２１０、２１４とに接続された予測制御部２２０を含んで、提供される。予測制御部２２０は、動作において、画像ブロックから分割される、非矩形形状を有する第１パーティションと、第２パーティションとの間の境界に沿って境界平滑化動作を行う（図５６、ステップＳ３００１）。境界平滑化動作は、境界に沿う、第１パーティションの画素セットの複数の第１値を第１パーティションの情報を用いて第１予測すること（ステップＳ３００２）と、境界に沿う、第１パーティションの画素セットの複数の第２値を第２パーティションの情報を用いて第２予測すること（ステップＳ３００３）と、複数の第１値及び複数の第２値を重み付けすること（ステップＳ３００４）と、重み付けされた複数の第１値、及び、重み付けされた複数の第２値を用いて、第１パーティションを復号すること（ステップＳ３００５）とを含む。
【0368】
［パーティションパラメータシンタックスを用いるエントロピー符号化及び復号］
図４７、ステップＳ１００５に示されるように、様々な実施の形態に従って、非矩形形状を有する第１パーティション、及び、第２パーティションに分割された画像ブロックは、画像ブロックの非矩形分割を示すパーティションパラメータを含む１つ以上のパラメータを用いて符号化又は復号されてもよい。様々な実施の形態において、このようなパーティションパラメータは、後により十分に述べられるように、例えば、分割に適用される分割方向（例えば、左上から右下へ、又は、右上から左下へ、図４８参照）と、ステップＳ１００２で予測された第１動きベクトル及び第２動きベクトルとを一体として符号化してもよい。
図４７、ステップＳ１００５に示されるように、様々な実施の形態に従って、非矩形形状を有する第１パーティション、及び、第２パーティションに分割された画像ブロックは、画像ブロックの非矩形分割を示すパーティションパラメータを含む１つ以上のパラメータを用いて符号化又は復号されてもよい。様々な実施の形態において、このようなパーティションパラメータは、後により十分に述べられるように、例えば、分割に適用される分割方向（例えば、左上から右下へ、又は、右上から左下へ、図４８参照）と、ステップＳ１００２で予測された第１動きベクトル及び第２動きベクトルとを一体として符号化してもよい。
【0369】
図５１は、複数のサンプルパーティションパラメータ（「第１インデックス値」）及び複数のパーティションパラメータによってそれぞれ一体として符号化される複数の情報セットの表である。複数のパーティションパラメータ（「第１インデックス値」）は、０から６に入り、共に三角形である第１パーティション及び第２パーティションに画像ブロックを分割する方向（図４８参照）、第１パーティションについて予測された第１動きベクトル（図４７、ステップＳ１００２）、及び、第２パーティションについて予測された第２動きベクトル（図４７、ステップＳ１００２）を一体として符号化する。特に、パーティションパラメータ０は、分割方向が左上角から右下角であること、第１動きベクトルが第１パーティションについて第１動きベクトル候補セットに列挙された「第２」動きベクトルであること、及び、第２動きベクトルが第２パーティションについて第２動きベクトル候補セットに列挙された「第１」動きベクトルであることを符号化する。
【0370】
パーティションパラメータ１は、分割方向が右上角から左下角であること、第１動きベクトルが第１パーティションについて第１動きベクトル候補セットに列挙された「第１」動きベクトルであること、及び、第２動きベクトルが第２パーティションについて第２動きベクトル候補セットに列挙された「第２」動きベクトルであることを符号化する。パーティションパラメータ２は、分割方向が右上角から左下角であること、第１動きベクトルが第１パーティションについて第１動きベクトル候補セットに列挙された「第２」動きベクトルであること、及び、第２動きベクトルが第２パーティションについて第２動きベクトル候補セットに列挙された「第１」動きベクトルであることを符号化する。パーティションパラメータ３は、分割方向が左上角から右下角であること、第１動きベクトルが第１パーティションについて第１動きベクトル候補セットに列挙された「第２」動きベクトルであること、及び、第２動きベクトルが第２パーティションについて第２動きベクトル候補セットに列挙された「第２」動きベクトルであることを符号化する。パーティションパラメータ４は、分割方向が右上角から左下角であること、第１動きベクトルが第１パーティションについて第１動きベクトル候補セットに列挙された「第２」動きベクトルであること、及び、第２動きベクトルが第２パーティションについて第２動きベクトル候補セットに列挙された「第３」動きベクトルであることを符号化する。パーティションパラメータ５は、分割方向が左上角から右下角であること、第１動きベクトルが第１パーティションについて第１動きベクトル候補セットに列挙された「第３」動きベクトルであること、及び、第２動きベクトルが第２パーティションについて第２動きベクトル候補セットに列挙された「第１」動きベクトルであることを符号化する。パーティションパラメータ６は、分割方向が左上角から右下角であること、第１動きベクトルが第１パーティションについて第１動きベクトル候補セットに列挙された「第４」動きベクトルであること、及び、第２動きベクトルが第２パーティションについて第２動きベクトル候補セットに列挙された「第１」動きベクトルであることを符号化する。
【0371】
図５８は、符号化装置側で行われる方法４０００を示すフローチャートである。ステップＳ４００１において、処理は、分割を示すパーティションパラメータに基づいて、非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割する。例えば、上述された図５１に示されたように、パーティションパラメータは、画像ブロックを分割する方向（例えば、右上角から左下角、又は、左上角から右下角）を示してもよい。ステップＳ４００２において、処理は、第１パーティション及び第２パーティションを符号化する。ステップＳ４００３において、処理は、復号装置側が１つ以上のパラメータを取得して復号装置側の第１パーティション及び第２パーティションについて（符号化装置側で行われたものと）同じ予測処理を行うため受信でき復号できるビットストリームにパーティションパラメータを含む１つ以上のパラメータを書き込む。パーティションパラメータを含む１つ以上のパラメータは、第１パーティションの非矩形形状、第２パーティションの形状、第１パーティション及び第２パーティションを取得するための画像ブロックの分割に用いられる分割方向、第１パーティションの第１動きベクトル、第２パーティションの第２動きベクトル等のような、様々な情報を一体として又は別々に符号化する。
【0372】
図５９は、復号装置側で行われる方法５０００を示すフローチャートである。ステップＳ５００１において、処理は、非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割することを示すパーティションパラメータを１つ以上のパラメータが含むビットストリームから、１つ以上のパラメータを読み解く。ビットストリームから読み解かれるパーティションパラメータを含む１つ以上のパラメータは、第１パーティションの非矩形形状、第２パーティションの形状、第１パーティション及び第２パーティションを取得するため画像ブロックの分割に用いられる分割方向、第１パーティションの第１動きベクトル、第２パーティションの第２動きベクトル等のような、復号装置側が符号化装置側で行われたものと同じ予測処理行うため必要とされる様々な情報を一体として又は別々に符号化してもよい。ステップＳ５００２において、処理５０００は、ビットストリームから読み解かれたパーティションパラメータに基づいて、画像ブロックを複数のパーティションに分割する。ステップＳ５００３において、処理は、画像ブロックから分割されるような、第１パーティション及び第２パーティションを復号する。
【0373】
図６０は、図５１において上述されたサンプル表に特性が類似し、複数のサンプルパーティションパラメータ（「第１インデックス値」）及びそれぞれ複数のパーティションパラメータによって一体として符号化された複数の情報セットの表である。図６０において、パーティションパラメータ（「第１インデックス値」）は、０から６に入り、画像ブロックから分割される第１パーティション及び第２パーティションの形状、画像ブロックを第１パーティション及び第２パーティションに分割する方向、第１パーティションについて予測される第１動きベクトル（図４７、ステップＳ１００２）、及び、第２パーティションについて予測される第２動きベクトル（図４７、ステップＳ１００２）を一体として符号化する。特に、パーティションパラメータ０は、第１パーティションも第２パーティションも三角形形状を有さないこと、従って、分割方向情報が「Ｎ／Ａ」であること、第１動きベクトル情報が「Ｎ／Ａ」であること、及び、第２動きベクトル情報が「Ｎ／Ａ」であることを符号化する。
【0374】
パーティションパラメータ１は、第１パーティション及び第２パーティションが三角形であること、分割方向が左上角から右下角であること、第１動きベクトルが第１パーティションについて第１動きベクトル候補セットに列挙された「第２」動きベクトルであること、及び、第２動きベクトルが第２パーティションについて第２動きベクトル候補セットに列挙された「第１」動きベクトルであることを符号化する。パーティションパラメータ２は、第１パーティション及び第２パーティションが三角形であること、分割方向が右上角から左下角であること、第１動きベクトルが第１パーティションについて第１動きベクトル候補セットに列挙された「第１」動きベクトルであること、及び、第２動きベクトルが第２パーティションについて第２動きベクトル候補セットに列挙された「第２」動きベクトルであることを符号化する。パーティションパラメータ３は、第１パーティション及び第２パーティションが三角形であること、分割方向が右上角から左下角であること、第１動きベクトルが第１パーティションについて第１動きベクトル候補セットに列挙された「第２」動きベクトルであること、及び、第２動きベクトルが第２パーティションについて第２動きベクトル候補セットに列挙された「第１」動きベクトルであることを符号化する。パーティションパラメータ４は、第１パーティション及び第２パーティションが三角形であること、分割方向が左上角から右下角であること、第１動きベクトルが第１パーティションについて第１動きベクトル候補セットに列挙された「第２」動きベクトルであること、及び、第２動きベクトルが第２パーティションについて第２動きベクトル候補セットに列挙された「第２」動きベクトルであることを符号化する。パーティションパラメータ５は、第１パーティション及び第２パーティションが三角形であること、分割方向が右上角から左下角であること、第１動きベクトルが第１パーティションについて第１動きベクトル候補セットに列挙された「第２」動きベクトルであること、及び、第２動きベクトルが第２パーティションについて第２動きベクトル候補セットに列挙された「第３」動きベクトルであることを符号化する。パーティションパラメータ６は、第１パーティション及び第２パーティションが三角形であること、分割方向が左上角から右下角であること、第１動きベクトルが第１パーティションについて第１動きベクトル候補セットに列挙された「第３」動きベクトルであること、及び、第２動きベクトルが第２パーティションについて第２動きベクトル候補セットに列挙された「第１」動きベクトルであることを符号化する。
【0375】
いくつかの実装に従って、複数のパーティションパラメータ（複数のインデックス値）は、少なくとも１つ、又は、１つ以上のパラメータの値に応じて選択される二値化方式に従って、二値化されてもよい。図５２は、複数のインデックス値（複数のパーティションパラメータ値）を二値化する二値化方式例を示す。
【0376】
図６１は、第１パラメータ及び第２パラメータの組み合わせ例の表であり、第１パラメータ及び第２パラメータの一方が、非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割することを示すパーティションパラメータである。この例において、パーティションパラメータは、他の複数のパラメータの１つ以上によって符号化される他の情報を一体として符号化することなく画像ブロックを分割することを示すことに用いられてもよい。
【0377】
図６１における第１例において、第１パラメータは、画像ブロックサイズを示すことに用いられ、第２パラメータは、画像ブロックから分割された複数のパーティションの少なくとも１つが三角形形状を有することを示すためのパーティションパラメータ（フラグ）として用いられる。第１パラメータ及び第２パラメータのこのような組み合わせは、例えば、１）画像ブロックサイズが６４×６４よりも大きい場合に三角形形状パーティションがないこと、又は、２）画像ブロックの幅と高さとの比率が４よりも大きい場合（例えば６４×４）に三角形形状パーティションがないことを示すために用いられてもよい。
【0378】
図６１の第２例において、第１パラメータは、予測モードを示すために用いられ、第２パラメータは、画像ブロックから分割された複数のパーティションの少なくとも１つが三角形形状を有することを示すためのパーティションパラメータ（フラグ）として用いられる。第１パラメータ及び第２パラメータのこのような組み合わせは、例えば、１）画像ブロックがイントラモードで符号化される場合に三角形パーティションがないことを示すために用いられてもよい。
【0379】
図６１の第３例において、第１パラメータは、画像ブロックから分割された複数のパーティションの少なくとも１つが三角形形状を有することを示すためのパーティションパラメータ（フラグ）として用いられ、第２パラメータは、予測モードを示すために用いられる。第１パラメータ及び第２パラメータのこのような組み合わせは、例えば、１）画像ブロックから分割された複数のパーティションの少なくとも１つが三角形形状を有する場合に画像ブロックがインター符号化されなければならいことを示すために用いられてもよい。
【0380】
図６１の第４例において、第１パラメータは、隣接ブロックの動きベクトルを示し、第２パラメータは、画像ブロックを２つの三角形に分割する方向を示すパーティションパラメータとして用いられる。第１パラメータ及び第２パラメータのこのような組み合わせは、例えば、１）隣接ブロックの動きベクトルが斜め方向である場合に画像ブロックを２つの三角形に分割する方向が左上角から右下角であることを示すために用いられてもよい。
【0381】
図６１の第５例において、第１パラメータは、隣接ブロックのイントラ予測方向を示し、第２パラメータは、画像ブロックを２つの三角形に分割する方向を示すパーティションパラメータとして用いられる。第１パラメータ及び第２パラメータのこのような組み合わせは、例えば、１）隣接ブロックのイントラ予測方向が逆斜め方向である場合、画像ブロックを２つの三角形に分割する方向が右上角から左下角であることを示すために用いられてもよい。
【0382】
パーティションパラメータを含む１つ以上のパラメータの複数の表、及び、図５１、図６０及び図６１に示されたような、どの情報が一体として又は別々に符号化されるかは、複数の例のみとして提示され、上述されたパーティションシンタックス動作の部分として様々な情報を一体として又は別々に符号化する他の多数の方法が本開示の範囲内であると理解されるべきである。例えば、パーティションパラメータが、第１パーティションが三角形、台形、又は、少なくとも５つの辺及び角を有する多角形であることを示してもよい。パーティションパラメータは、第２パーティションが、三角形、台形、及び、少なくとも５つの辺及び角を有する多角形のような、非矩形形状を有することを示してもよい。第１パーティションの非矩形形状、第２パーティションの形状（非矩形又は矩形であってもよい）、画像ブロックを複数のパーティションに分割するために適用される分割方向（例えば、画像ブロックの左上角からその右下角、及び、画像ブロックの右上角からその左下角）のような、分割についての１つ以上の情報をパーティションパラメータが示してもよい。パーティションパラメータは、第１パーティションの第１動きベクトル、第２パーティションの第２動きベクトル、画像ブロックサイズ、予測モード、隣接ブロックの動きベクトル、隣接ブロックのイントラ予測方向等のような、さらなる情報を一体として符号化する。あるいは、さらなる情報のいずれかが、パーティションパラメータ以外の１つ以上のパラメータによって別々に符号化されてもよい。
【0383】
図５８の処理４０００のようなパーティションシンタックス動作は、例えば図１に示されたような、回路及び回路に接続されたメモリを含む画像符号化装置によって行われてもよい。回路は、動作において、分割を示すパーティションパラメータに基づいて、非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割すること（図５８、ステップＳ４００１）と、第１パーティション及び第２パーティションを符号化すること（Ｓ４００２）と、パーティションパラメータを含む１つ以上のパラメータをビットストリーム書き込むこと（Ｓ４００３）とを含むパーティションシンタックス動作を行う。
【0384】
他の実施の形態に従って、図１に示されたような、画像符号化装置は、動作において原画像を受信し複数のブロックに分割する分割部１０２、動作において分割部から複数のブロック、及び、予測制御部１２８から複数の予測を受信し、各予測をその対応ブロックから減算して、残差を出力する加算部１０４、動作において加算部１０４から出力された複数の残差に変換を行って複数の変換係数を出力する変換部１０６、動作において複数の変換係数を量子化して複数の量子化変換係数を生成する量子化部１０８、動作において複数の量子化変換係数を符号化してビットストリームを生成するエントロピー符号化部１１０、及び、動作において符号化済み参照ピクチャにおける参照ブロックに基づいてカレントブロックの予測を生成するインター予測部１２６と、動作においてカレントピクチャにおける符号化済み参照ブロックに基づいてカレントブロックの予測を生成するイントラ予測部１２４と、メモリ１１８、１２２とに接続された予測制御部１２８を含んで、提供される。予測制御部１２８は、動作において、分割を示すパーティションパラメータに基づいて、非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割し（図５８、ステップＳ４００１）、第１パーティション及び第２パーティションを符号化する（ステップＳ４００２）。エントロピー符号化部１１０は、動作において、パーティションパラメータを含む１つ以上のパラメータをビットストリーム書き込む（ステップＳ４００３）。
【0385】
他の実施の形態に従って、例えば、図４１に示されたような、回路及び回路に接続されたメモリを含む画像復号装置が提供される。回路は、動作において、非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割することを示すパーティションパラメータを含む１つ以上のパラメータをビットストリームから読み解くこと（図５９、ステップＳ５００１）と、パーティションパラメータに基づいて、画像ブロックを複数のパーティションに分割すること（Ｓ５００２）と、第１パーティション及び第２パーティションを復号すること（Ｓ５００３）とを含むパーティションシンタックス動作を行う。
【0386】
さらに実施の形態に従って、図４１に示された画像復号装置は、動作において符号化ビットストリームを受信し復号して複数の量子化変換係数を取得するエントロピー復号部２０２、動作において、複数の量子化変換係数を逆量子化して複数の変換係数を取得し、複数の変換係数を逆変換して複数の残差を取得する逆量子化部２０４及び逆変換部２０６、動作において、逆量子化部２０４及び逆変換部２０６から出力された複数の残差と、予測制御部２２０から出力された複数の予測とを加算して複数のブロックを再構成する加算部２０８、及び、動作において復号済みの参照ピクチャにおける参照ブロックに基づいてカレントブロックの予測を生成するインター予測部２１８と、動作においてカレントピクチャにおける復号済み参照ブロックに基づいてカレントブロックの予測を生成するイントラ予測部２１６と、メモリ２１０、２１４とに接続された予測制御部２２０を含んで、提供される。エントロピー復号部２０２は、動作において、いくつかの実装では予測制御部２２０と協力して、非矩形形状を有する第１パーティション、及び、第２パーティションを含む複数のパーティションに画像ブロックを分割することを示すパーティションパラメータを含む１つ以上のパラメータをビットストリームから読み解き（図５９、ステップＳ５００１）、パーティションパラメータに基づいて、画像ブロックを複数のパーティションに分割し（Ｓ５００２）、第１パーティション及び第２パーティションを復号する（Ｓ５００３）。
【0387】
他の複数の例に従って、インター予測部は、次の処理を行ってもよい。
【0388】
第１動きベクトル候補セットに含まれる全ての動きベクトル候補は、複数の単予測動きベクトルであってもよい。つまり、インター予測部は、複数の単予測動きベクトルのみを第１動きベクトル候補セットにおける複数の動きベクトル候補として決定してもよい。
【0389】
インター予測部は、第１動きベクトル候補セットから、複数の単予測動きベクトル候補のみを選択してもよい。
【0390】
小さいブロックの予測に単予測動きベクトルのみが用いられてもよい。大きいブロックの予測に双予測動きベクトルが用いられてもよい。一例として、予測処理は、画像ブロックのサイズを判定することを含んでいてもよい。画像ブロックのサイズが閾値よりも大きいと判定された場合、予測が、第１動きベクトル候補セットから第１動きベクトルを選択することを含んでいてもよいし、第１動きベクトル候補セットが、単予測動きベクトル及び／又は双予測動きベクトルを含んでいてもよい。画像ブロックのサイズが閾値よりも大きくないと判定された場合、予測が、第１動きベクトル候補セットから第１動きベクトルを選択することを含んでいてもよいし、第１動きベクトル候補セットが、複数の単予測動きベクトルのみを含んでいてもよい。
【0391】
［重み付き領域に対する動きベクトルの格納方法］
図６２は、第１動きベクトルでカレントピクチャの第１パーティションに対する第１サンプルセットを予測し、第１パーティションとは異なる第２パーティションから第２動きベクトルを取得し、第２動きベクトルで第１パーティションに含まれる第１部分に対する第２サンプルセットを予測し、第１サンプルセットと第２サンプルセットとを重み付けし、第１パーティションに対する第１動きベクトルおよび第２動きベクトルのうち少なくとも一方を格納し、重み付けされたサンプルを用いて第１パーティションを符号化または復号し、一実施形態に従ってさらに処理を行う処理フロー６０００の例を示すフローチャートである。処理フロー６０００は、例えば、図１の符号化装置１００、図４１の復号装置２００などによって行われてもよい。
図６２は、第１動きベクトルでカレントピクチャの第１パーティションに対する第１サンプルセットを予測し、第１パーティションとは異なる第２パーティションから第２動きベクトルを取得し、第２動きベクトルで第１パーティションに含まれる第１部分に対する第２サンプルセットを予測し、第１サンプルセットと第２サンプルセットとを重み付けし、第１パーティションに対する第１動きベクトルおよび第２動きベクトルのうち少なくとも一方を格納し、重み付けされたサンプルを用いて第１パーティションを符号化または復号し、一実施形態に従ってさらに処理を行う処理フロー６０００の例を示すフローチャートである。処理フロー６０００は、例えば、図１の符号化装置１００、図４１の復号装置２００などによって行われてもよい。
【0392】
ステップＳ６００１において、カレントピクチャの第１パーティションに対する第１サンプルセットを、第１動きベクトルを含む１以上の動きベクトルで予測する。第１パーティションは、非矩形形状であってもなくてもよい。第１サンプルセットは、例えば、対応する動きベクトル、輝度画素成分、および、色差画素成分を有する複数の画素ブロックでもよい。例えば、各サンプルは、第１動きベクトルと関連付けられている４×４画素ブロックであって、対応する輝度画素成分および色差画素成分を有する４×４画素ブロックでもよい。
【0393】
第１パーティションは、例えば、複数のパーティションに分割された画像ブロックのパーティションでもよい。図６３は、第１パーティションおよび第２パーティションに画像ブロックを分割する方法の例を示す概念図である。図４８、図５４、および、図５５も参照のこと。例えば、図６３に示すように、画像ブロックは、様々な形状の２以上のパーティションに分割されてもよい。図６３の図例には、画像ブロックの左上角から画像ブロックの右下角へ分割して、共に非矩形形状（例えば、三角形）を有する第１パーティションおよび第２パーティションを生成する画像ブロックと、Ｌ形状パーティションと矩形形状パーティションとに分割された画像ブロックと、五角形形状パーティションと三角形形状パーティションとに分割された画像ブロックと、六角形形状パーティションと五角形形状パーティションとに分割された画像ブロックと、２つの多角形形状パーティションに分割された画像ブロックとが含まれている。図示された様々なパーティション形状は、画像ブロックを別の方法で分割することによって形成されてもよい。例えば、２つの三角形形状パーティションは、画像ブロックの右上角から画像ブロックの左下角へ画像ブロックを分割して、共に三角形形状を有する第１パーティションおよび第２パーティションを生成することによって形成されてもよい。いくつかの実施の形態では、画像ブロックの２以上のパーティションは、重なり合う部分を有してもよい。
【0394】
いくつかの実施の形態では、第１動きベクトルを動き検出処理により取得してもよい。いくつかの実施形態では、第１動きベクトルをビットストリームから解析してもよい。いくつかの実施の形態では、第１動きベクトルは、少なくとも第１パーティションに対する動きベクトル候補セットから予測された動きベクトルでもよい。動きベクトル候補リストの動きベクトル候補は、少なくとも第１パーティションの空間隣接パーティションまたは時間隣接パーティションから導出された動きベクトル候補を含んでもよいし、マージモード、スキップモード、または、インターモードなどの予測モード用の画像ブロックの動きベクトル候補リストから導出されてもよい。
【0395】
図６４は、カレントピクチャの第１パーティションの近傍空間隣接パーティションおよび非近傍空間隣接パーティションを示す概念図である。近傍空間隣接パーティションは、カレントピクチャの第１パーティションに隣接するパーティションである。非近傍空間隣接パーティションは、カレントピクチャの第１パーティションから離れたパーティションである。いくつかの実施の形態では、動きベクトル候補セットを、カレントピクチャの少なくとも第１パーティションの空間隣接パーティションから導出してもよい。
【0396】
第１動きベクトルは、例えば、単予測動きベクトルでも、双予測動きベクトルでもよい。図６５は、カレントピクチャの画像ブロックに対する単予測動きベクトル候補および双予測動きベクトル候補を示す概念図である。単予測動きベクトル候補は、単一の参照ピクチャに対するカレントピクチャ内のカレントブロックの単一動きベクトルである。図６５の上側に示すように、単予測動きベクトル候補は、カレントピクチャのブロックから、表示順でカレントピクチャより前の参照ピクチャのブロックへの動きベクトルである。いくつかの実施の形態では、参照ピクチャは、表示順でカレントピクチャより後でもよい。
【0397】
双予測動きベクトル候補は、第１参照ピクチャに対するカレントブロックの第１動きベクトルと、第２参照ピクチャに対するカレントブロックの第２動きベクトルとの２つの動きベクトルからなる。図６５に示すように、左下側の双予測動きベクトル候補は、カレントピクチャのブロックから第１参照ピクチャのブロックへの第１動きベクトルと、カレントピクチャのブロックから第２参照ピクチャのブロックへの第２動きベクトルとを有する。図示したように、第１参照ピクチャおよび第２参照ピクチャは、表示順でカレントピクチャより前である。図６５の右下側の双予測動きベクトル候補は、カレントピクチャのブロックから第１参照ピクチャのブロックへの第１動きベクトルと、カレントピクチャのブロックから第２参照ピクチャのブロックへの第２動きベクトルとを有する。第１参照ピクチャは、表示順でカレントピクチャより前であり、第２参照ピクチャは、表示順でカレントピクチャより後である。
【0398】
いくつかの実施の形態では、いくつかのパーティション形状を、１タイプの予測動きベクトルと関連付けてもよい。例えば、いくつかの実施の形態では、三角形形状パーティションを、単予測動きベクトル候補と関連付けてもよい。
【0399】
第１サンプルセットの予測は、第１動きベクトルを含む１以上の動きベクトルでの動き補償処理を含んでもよく、動き補償処理は、カレントピクチャ（イントラブロック）からサンプルを予測してもよいし、別のピクチャ（インターブロック）からサンプルを予測してもよいし、それらの組み合わせでもよい。
【0400】
ステップＳ６００２では、第２動きベクトルを含む１以上の動きベクトルを、第１パーティションと異なる第２パーティションから取得する。第２パーティションは、例えば、第１パーティションの空間または時間ｃｏ－ｌｏｃａｔｅｄパーティションであってもよい。第２パーティションの一部は、第１パーティションの一部と空間的に重なり合ってもよい。動き検出処理により第２動きベクトルを取得してもよい。いくつかの実施の形態では、ビットストリームから第２動きベクトルを解析してもよい。いくつかの実施の形態では、第２動きベクトルは、少なくとも第２パーティションの動きベクトル候補セットから予測された動きベクトルでもよい。動きベクトル候補リストの動きベクトル候補は、第２パーティションの空間隣接パーティションまたは時間隣接パーティションから導出された動きベクトル候補を含んでもよいし、マージモード、スキップモード、または、他のインターモードなどの予測モード用の画像ブロックの動きベクトル候補リストから導出してもよい。第２動きベクトルは、単予測動きベクトルでもよいし、双予測動きベクトルでもよい。
【0401】
ステップＳ６００３では、第１パーティションの一部に対する第２サンプルセットを、第２動きベクトルを含む１以上の動きベクトルで予測する。第１パーティションの第１部分は、第１パーティションより小さく、第１パーティションのエッジに隣接して位置し、第１サンプルセットに重なる。第２サンプルセットの予測は、第２動きベクトルを含む１以上の動きベクトルでの動き補償処理を含んでもよく、動き補償処理は、カレントピクチャ（イントラブロック）からサンプルを予測してもよいし、別のピクチャ（インターブロック）からサンプルを予測してもよいし、それらの組み合わせでもよい。第２サンプルセットは、例えば、対応する動きベクトル、輝度画素成分、および、色差画素成分を有する画素ブロックでもよい。例えば、第２サンプルセットの各サンプルは、第２動きベクトルと関連付けられている４×４画素ブロックであって、対応する輝度画素成分および色差画素成分を有する４×４画素ブロックでもよい。
【0402】
図６６は、第１パーティションの第１部分と第１サンプルセットおよび第２サンプルセットとの例を示す概念図である。第１部分は、例えば、第１パーティションの幅または高さの４分の１でもよい。他の例において、第１部分は、第１パーティションのエッジに隣接するＮサンプルに相当する幅を有してもよい。ここで、Ｎは、１以上の整数であり、例えば、２でもよい。図示のとおり、図６６の右の例は、第１部分の外側のサンプルと第１部分の内側のサンプルとを含む第１サンプルセットと、第１部分内のサンプルを含む第２サンプルセットとを備えた、幅が第１パーティションの幅の４分の１である矩形部分を有する矩形パーティションを示している。図６６の真ん中の例は、第１部分の外側のサンプルと第１部分の内側のサンプルとを含む第１サンプルセットと、第１部分内のサンプルを含む第２サンプルセットとを備えた、高さが第１パーティションの高さの４分の１である矩形部分を有する矩形パーティションを示している。図６６の左の例は、第１部分の外側のサンプルと第１部分の内側のサンプルとを含む第１サンプルセットと、第１部分内のサンプルを含む第２サンプルセットとを備えた、高さが２サンプルに対応している多角形部分を有する三角形パーティションを示している。
【0403】
第１部分は、隣接パーティションと重なり合う第１パーティションの一部でもよい。図６７は、隣接パーティションの一部と重なり合う第１パーティションの一部である第１パーティションの第１部分を示す概念図である。図示を簡単にするために、空間的に隣接する矩形パーティションとの重なり部分を有する矩形パーティションを示している。三角形パーティションなど他の形状を有するパーティションを採用してもよい。また、重なり部分は、空間的または時間的に隣接するパーティションと重なり合ってもよい。隣接パーティションは、第２パーティションでもよい。
【0404】
ステップＳ６００４では、第１部分に含まれる第１サンプルセットのサブセットと、第１部分に含まれる第２サンプルセットとを用いて、第１パーティションに含まれる第１部分に対する重み付け処理を行う。当該重み付けは、ｏｖｅｒｌａｐｐｅｄ ｂｌｏｃｋ ｍｏｔｉｏｎ ｃｏｍｐｅｎｓａｔｉｏｎ処理（ＯＢＭＣ、図３５及び図３６並びにそれらの説明を参照のこと）、図４７～図６１を参照して説明された境界平滑化処理など、境界平滑化処理の一部として行われてもよい。例えば、第１部分における第１サンプルセットの複数の画素に、例えば、第１部分が一致している第１パーティションのエッジからのサンプルの距離に基づいて、様々な重みを割り当ててもよい。エッジから遠いサンプルよりも、エッジに近いサンプルほどより小さな重みを割り当ててもよい。同様に、第１パーティションの第１部分における第２サンプルセットの複数の画素に、例えば、第１部分が一致している第１パーティションのエッジからのサンプルの距離に基づいて、様々な重みを割り当ててもよい。エッジから遠いサンプルよりも、エッジに近いサンプルほどより大きな重みを割り当ててもよい。
【0405】
ステップＳ６００５では、第１パーティションの第１部分に対して、第１動きベクトルと第２動きベクトルの一方または両方に基づいた１以上の動きベクトルを格納する。いくつかの実施の形態において、格納される１以上の動きベクトルは、第１動きベクトルおよび第２動きベクトルが指す参照ピクチャリストを考慮してもよい。
【0406】
例えば、図６８は、第１動きベクトルおよび第２動きベクトルが、異なる参照ピクチャリスト内の異なるピクチャを指す単予測動きベクトルである場合の例を示す概念図である。いくつかの実施の形態において、第１動きベクトルおよび第２動きベクトルが、異なる参照ピクチャリスト内の異なるピクチャを指す単予測動きベクトルである場合、第１動きベクトルおよび第２動きベクトルを、第１パーティションの第１部分に対する双予測動きベクトルとして組み合わせて格納してもよい。図６８に示すように、カレントピクチャはＰＯＣ４である。第１動きベクトルＭｖ１は、参照ピクチャＰＯＣ０～ＰＯＣ８を含む参照ピクチャリストＬ０の参照ピクチャＰＯＣ０を指す単予測動きベクトルである。第２動きベクトルＭｖ２は、参照ピクチャＰＯＣ８～ＰＯＣ１６を含む参照ピクチャリストＬ１の参照ピクチャＰＯＣ１６を指す単予測動きベクトルである。第１動きベクトルＭｖ１および第２動きベクトルＭｖ２が、第１パーティションの第１部分に対する双予測動きベクトルとして組み合わされて格納される。
【0407】
他の例として、図６９は、第１動きベクトルおよび第２動きベクトルが、単一の参照ピクチャリスト内のピクチャを指す単予測動きベクトルである場合の例を示す概念図である。双予測動きベクトルは、２つの異なる参照ピクチャリストを指す。このように、第１動きベクトルおよび第２動きベクトルを単に組み合わせることでは、双予測動きベクトルを生成しない。いくつかの実施の形態において、第１動きベクトルおよび第２動きベクトルが、単一の参照ピクチャリスト内の異なる参照ピクチャを指す単予測動きベクトルである場合、指される参照ピクチャのうち一方が、例えば、別の参照ピクチャリストに含まれていれば、そのピクチャに対応する動きベクトル（例えば、第２動きベクトルが指す参照ピクチャが両方の参照ピクチャリストに含まれている場合、第２動きベクトル）を、その別の参照ピクチャリスト内の同じ参照ピクチャを指す動きベクトルで表してもよい。第１動きベクトルおよび第２動きベクトルは、参照ピクチャに対応する動きベクトルを別の参照ピクチャリスト内の参照ピクチャを指す置換動きベクトルに置き換えることによって組み合わせられ、第１パーティションの第１部分に対する双予測動きベクトルとして格納される。図６９に示すように、カレントピクチャはＰＯＣ４である。第１動きベクトルＭｖ１は、参照ピクチャＰＯＣ０～ＰＯＣ８を含む参照ピクチャリストＬ０の参照ピクチャＰＯＣ０を指す単予測動きベクトルである。第２動きベクトルＭｖ２は、参照ピクチャリストＬ０の参照ピクチャＰＯＣ８を指す単予測動きベクトルである。参照ピクチャＰＯＣ８は、参照ピクチャリストＬ１にも含まれる。第２動きベクトルＭｖ２を、参照ピクチャリストＬ１内の参照ピクチャＰＯＣ８を指す置換動きベクトルＭｖ２´で置き換える。第１動きベクトルＭｖ１および置換第２動きベクトルＭｖ２´が、第１パーティションの第１部分に対する双予測動きベクトルとして組み合わされて格納される。つまり、同じピクチャを含む異なるリストを用いてもよい。
【0408】
他の例として、図７０、図７１、および、図７２は、第１動きベクトルおよび第２動きベクトルが、同じ参照ピクチャリスト内の同じ参照ピクチャを指す単予測動きベクトルである場合の例を示す概念図である。いくつかの実施の形態において、第１動きベクトルおよび第２動きベクトルが、同じ参照ピクチャリスト内の同じ参照ピクチャを指す単予測動きベクトルである場合、第１動きベクトルを、第１パーティションの第１部分に対する単予測動きベクトルとして格納する。図７０に示すように、カレントピクチャはＰＯＣ４である。第１動きベクトルＭｖ１は、参照ピクチャＰＯＣ０～ＰＯＣ８を含む参照ピクチャリストＬ０の参照ピクチャＰＯＣ０を指す単予測動きベクトルである。第２動きベクトルＭｖ２は、参照ピクチャリストＬ０の参照ピクチャＰＯＣ０を指す単予測動きベクトルである。第１動きベクトルＭｖ１が、第１パーティションの第１部分に対する単予測動きベクトルとして格納される。
【0409】
いくつかの実施の形態において、第１動きベクトルおよび第２動きベクトルが、同じ参照ピクチャリスト内の同じ参照ピクチャを指す単予測動きベクトルである場合、第２動きベクトルを、第１パーティションの第１部分に対する単予測動きベクトルとして格納する。図７１に示すように、カレントピクチャはＰＯＣ４である。第１動きベクトルＭｖ１は、参照ピクチャＰＯＣ０～ＰＯＣ８を含む参照ピクチャリストＬ０の参照ピクチャＰＯＣ０を指す単予測動きベクトルである。第２動きベクトルＭｖ２は、参照ピクチャリストＬ０の参照ピクチャＰＯＣ０を指す単予測動きベクトルである。第２動きベクトルＭｖ２が、第１パーティションの第１部分に対する単予測動きベクトルとして格納される。
【0410】
いくつかの実施の形態において、第１動きベクトルおよび第２動きベクトルが、同じ参照ピクチャリスト内の同じ参照ピクチャを指す単予測動きベクトルである場合、第２動きベクトルを、別の参照ピクチャリストの参照ピクチャを指す反転動きベクトルで置き換えてから、第１動きベクトルおよび反転動きベクトルを、第１パーティションの第１部分に対する双予測動きベクトルとして組み合わせて格納する。図７２に示すように、カレントピクチャはＰＯＣ４である。第１動きベクトルＭｖ１は、参照ピクチャＰＯＣ０～ＰＯＣ８を含む参照ピクチャリストＬ０の参照ピクチャＰＯＣ０を指す単予測動きベクトルである。第２動きベクトルＭｖ２は、参照ピクチャリストＬ０の参照ピクチャＰＯＣ０を指す単予測動きベクトルである。第２動きベクトルＭｖ２を、図示された参照ピクチャリストＬ１の参照ピクチャＰＯＣ８のような、参照ピクチャリストＬ１内の参照ピクチャを指す反転動きベクトルＭＶ２´で置き換える。第１動きベクトルＭｖ１および反転動きベクトルＭｖ２´が、第１パーティションの第１部分に対する双予測動きベクトルとして組み合わされて格納される。このような別の参照ピクチャリストの参照ピクチャは、様々な方法で選択されてもよい。例えば、参照ピクチャリストＬ０内で第２動きベクトルが指す参照ピクチャと位置が同じである、参照ピクチャリストＬ１内の参照ピクチャを選択してもよいし、参照ピクチャリストＬ０内で第２動きベクトルが指す参照ピクチャとカレントピクチャからの表示順における距離が同じである、参照ピクチャリストＬ１内の参照ピクチャを選択してもよい。反転動きベクトルは、反転動きベクトルが指す別の参照ピクチャリストの参照ピクチャに応じて、適宜、スケーリングされてもよい。
【0411】
いくつかの実施の形態において、第１動きベクトルおよび第２動きベクトルのうちの一方を反転またはスケーリングさせずに第１動きベクトルおよび第２動きベクトルに基づく双予測動きベクトルを格納することができる場合、第１パーティションの第１部分に対し、双予測動きベクトルが格納され（例えば、図６８および図６９の実施の形態を参照のこと）、第１動きベクトルおよび第２動きベクトルのうちの一方を反転またはスケーリングさせずに双予測動きベクトルを生成することができない場合、第１パーティションの第１部分に対し、単予測動きベクトルが格納される（例えば、第１動きベクトルおよび第２動きベクトルのうちの一方を、第１パーティションの第１部分に対する単予測動きベクトルとして格納する、図７０および図７１を参照のこと）。
【0412】
他の例として、第１動きベクトルおよび第２動きベクトルが、同じ参照ピクチャを指す単予測動きベクトルである場合、第１動きベクトルと第２動きベクトルとの平均を求めて、第１パーティションの第１部分に対する単予測動きベクトルとして格納される単予測動きベクトルを生成してもよい。
【0413】
他の例として、第１動きベクトルおよび第２動きベクトルのうち一方が双予測動きベクトルで、他方が単予測動きベクトルでもよい。双予測動きベクトルが、第１パーティションの第１部分に対する動きベクトルとして格納されてもよい。
【0414】
他の例として、第１動きベクトルおよび第２動きベクトルの両方が双予測動きベクトルでもよく、第１動きベクトルの参照ピクチャは第２動きベクトルの参照ピクチャと同じであってもよい。第１動きベクトルと第２動きベクトルとの平均を求めて、第１パーティションの第１部分に対する双予測動きベクトルとして格納される双予測動きベクトルを生成してもよい。
【0415】
他の例として、第１動きベクトルおよび第２動きベクトルの両方が双予測動きベクトルでもよく、第１動きベクトルの参照ピクチャは第２動きベクトルの参照ピクチャと異なっていてもよい。第２動きベクトルを、第１動きベクトルの参照ピクチャに合わせてスケーリングしてから第１動きベクトルとの平均を求めて、平均双予測動きベクトルを生成してもよく、これを、第１パーティションの第１部分の双予測動きベクトルとして格納してもよい。
【0416】
他の例として、例えば、必ず、または、ある条件が存在する場合に、第１動きベクトルを、第１パーティションの第１部分の動きベクトルとして格納してもよい。他の例として、例えば、必ず、または、ある条件が存在する場合に、第２動きベクトルを、第１パーティションの第１部分の動きベクトルとして格納してもよい。ステップＳ６００６において、第１パーティションの第１部分の重み付けされたサンプルを少なくとも用いて、第１パーティションを符号化または復号する。例えば、第１サンプルセットのサンプルの重み付けされた画素成分値（例えば、輝度値、色差値）と、第２サンプルセットの対応するサンプルの重み付けされた画素成分値とを組み合わせて、符号化処理または復号処理で用いられる画素成分値を決定してもよい。例えば、図４７～図６１、および、それらに対応する説明を参照のこと。
【0417】
開示された実施の形態は、重み付き領域（例えば、開示された例における第１パーティションの第１部分）の動きベクトルを格納する方法を導入する。これにより、次に処理するパーティションに対する動きベクトル予測の精度が改善される可能性があり、それにより、処理効率が改善される可能性がある。なお、重み付き領域の動きベクトルは、通常、４画素のブロックに対して格納されてもよい。例えば、各サンプルは、動きベクトルが格納される４×４画素ブロックでもよい。重み付き領域に対する単予測動きベクトルまたは双予測動きベクトルは、顕著になることなく、つまり、どんな場合でも、重み付き領域に対する動きベクトルを格納するために使用されるメモリ量が増加することなく格納されてもよい。
【0418】
なお、画像符号化装置によって実行される符号化方法および符号化処理に対する説明で用いられる用語「符号化」および「処理」は、画像復号装置によって実行される復号方法および復号処理に対する用語「復号」と置き換え可能である。説明した全ての処理および構成要素は必ずしも必要ではなく、いくつかの実施の形態では、説明した１以上の処理を省略してもよい。
【0419】
ここで開示された１以上の態様を本開示における他の態様の少なくとも一部と組み合わせて実施してもよい。また、ここで開示された１以上の態様のフローチャートに記載の一部の処理、装置の一部の構成、シンタックスの一部などを他の態様と組み合わせて実施してもよい。
【0420】
［実施及び応用］
以上の各実施の形態において、機能的又は作用的なブロックの各々は、通常、ＭＰＵ（ｍｉｃｒｏ ｐｒｏｃｃｅｓｓｉｎｇ ｕｎｉｔ）及びメモリ等によって実現可能である。また、機能ブロックの各々による処理は、ＲＯＭ等の記録媒体に記録されたソフトウェア（プログラム）を読み出して実行するプロセッサなどのプログラム実行部として実現されてもよい。当該ソフトウェアは、配布されてもよい。当該ソフトウェアは、半導体メモリなどの様々な記録媒体に記録されてもよい。なお、各機能ブロックをハードウェア（専用回路）によって実現することも可能である。ハードウェア及びソフトウェアの様々な組み合わせが採用され得る。
以上の各実施の形態において、機能的又は作用的なブロックの各々は、通常、ＭＰＵ（ｍｉｃｒｏ ｐｒｏｃｃｅｓｓｉｎｇ ｕｎｉｔ）及びメモリ等によって実現可能である。また、機能ブロックの各々による処理は、ＲＯＭ等の記録媒体に記録されたソフトウェア（プログラム）を読み出して実行するプロセッサなどのプログラム実行部として実現されてもよい。当該ソフトウェアは、配布されてもよい。当該ソフトウェアは、半導体メモリなどの様々な記録媒体に記録されてもよい。なお、各機能ブロックをハードウェア（専用回路）によって実現することも可能である。ハードウェア及びソフトウェアの様々な組み合わせが採用され得る。
【0421】
各実施の形態において説明した処理は、単一の装置（システム）を用いて集中処理することによって実現してもよく、又は、複数の装置を用いて分散処理することによって実現してもよい。また、上記プログラムを実行するプロセッサは、単数であってもよく、複数であってもよい。すなわち、集中処理を行ってもよく、又は分散処理を行ってもよい。
【0422】
本開示の態様は、以上の実施例に限定されることなく、種々の変更が可能であり、それらも本開示の態様の範囲内に包含される。
【0423】
さらにここで、上記各実施の形態で示した動画像符号化方法（画像符号化方法）又は動画像復号化方法（画像復号方法）の応用例、及び、その応用例を実施する種々のシステムを説明する。このようなシステムは、画像符号化方法を用いた画像符号化装置、画像復号方法を用いた画像復号装置、又は、両方を備える画像符号化復号装置を有することを特徴としてもよい。このようなシステムの他の構成について、場合に応じて適切に変更することができる。
【0424】
［使用例］
図７３は、コンテンツ配信サービスを実現する適切なコンテンツ供給システムｅｘ１００の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ、図示された例における固定無線局である基地局ｅｘ１０６、ｅｘ１０７、ｅｘ１０８、ｅｘ１０９、ｅｘ１１０が設置されている。
図７３は、コンテンツ配信サービスを実現する適切なコンテンツ供給システムｅｘ１００の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ、図示された例における固定無線局である基地局ｅｘ１０６、ｅｘ１０７、ｅｘ１０８、ｅｘ１０９、ｅｘ１１０が設置されている。
【0425】
このコンテンツ供給システムｅｘ１００では、インターネットｅｘ１０１に、インターネットサービスプロバイダｅｘ１０２又は通信網ｅｘ１０４、及び基地局ｅｘ１０６～ｅｘ１１０を介して、コンピュータｅｘ１１１、ゲーム機ｅｘ１１２、カメラｅｘ１１３、家電ｅｘ１１４、及びスマートフォンｅｘ１１５などの各機器が接続される。当該コンテンツ供給システムｅｘ１００は、上記のいずれかの装置を組合せて接続するようにしてもよい。種々の実施において、基地局ｅｘ１０６～ｅｘ１１０を介さずに、各機器が電話網又は近距離無線等を介して直接的又は間接的に相互に接続されていてもよい。さらに、ストリーミングサーバｅｘ１０３は、インターネットｅｘ１０１等を介して、コンピュータｅｘ１１１、ゲーム機ｅｘ１１２、カメラｅｘ１１３、家電ｅｘ１１４、及びスマートフォンｅｘ１１５などの各機器と接続されてもよい。また、ストリーミングサーバｅｘ１０３は、衛星ｅｘ１１６を介して、飛行機ｅｘ１１７内のホットスポット内の端末等と接続されてもよい。
【0426】
なお、基地局ｅｘ１０６～ｅｘ１１０の代わりに、無線アクセスポイント又はホットスポット等が用いられてもよい。また、ストリーミングサーバｅｘ１０３は、インターネットｅｘ１０１又はインターネットサービスプロバイダｅｘ１０２を介さずに直接通信網ｅｘ１０４と接続されてもよいし、衛星ｅｘ１１６を介さず直接飛行機ｅｘ１１７と接続されてもよい。
【0427】
カメラｅｘ１１３はデジタルカメラ等の静止画撮影、及び動画撮影が可能な機器である。また、スマートフォンｅｘ１１５は、２Ｇ、３Ｇ、３．９Ｇ、４Ｇ、そして今後は５Ｇと呼ばれる移動通信システムの方式に対応したスマートフォン機、携帯電話機、又はＰＨＳ（Ｐｅｒｓｏｎａｌ Ｈａｎｄｙ－ｐｈｏｎｅ Ｓｙｓｔｅｍ）等である。
【0428】
家電ｅｘ１１４は、冷蔵庫、又は家庭用燃料電池コージェネレーションシステムに含まれる機器等である。
【0429】
コンテンツ供給システムｅｘ１００では、撮影機能を有する端末が基地局ｅｘ１０６等を通じてストリーミングサーバｅｘ１０３に接続されることで、ライブ配信等が可能になる。ライブ配信では、端末（コンピュータｅｘ１１１、ゲーム機ｅｘ１１２、カメラｅｘ１１３、家電ｅｘ１１４、スマートフォンｅｘ１１５、及び飛行機ｅｘ１１７内の端末等）は、ユーザが当該端末を用いて撮影した静止画又は動画コンテンツに対して上記各実施の形態で説明した符号化処理を行ってもよく、符号化により得られた映像データと、映像に対応する音を符号化した音データと多重化してもよく、得られたデータをストリーミングサーバｅｘ１０３に送信してもよい。即ち、各端末は、本開示の一態様に係る画像符号化装置として機能する。
【0430】
一方、ストリーミングサーバｅｘ１０３は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントは、上記符号化処理されたデータを復号化することが可能な、コンピュータｅｘ１１１、ゲーム機ｅｘ１１２、カメラｅｘ１１３、家電ｅｘ１１４、スマートフォンｅｘ１１５、又は飛行機ｅｘ１１７内の端末等である。配信されたデータを受信した各機器は、受信したデータを復号化処理して再生してもよい。即ち、各機器は、本開示の一態様に係る画像復号装置として機能してもよい。
【0431】
［分散処理］
また、ストリーミングサーバｅｘ１０３は複数のサーバ又は複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。例えば、ストリーミングサーバｅｘ１０３は、ＣＤＮ（Ｃｏｎｔｅｎｔｓ Ｄｅｌｉｖｅｒｙ Ｎｅｔｗｏｒｋ）により実現され、世界中に分散された多数のエッジサーバとエッジサーバ間をつなぐネットワークによりコンテンツ配信が実現されていてもよい。ＣＤＮでは、クライアントに応じて物理的に近いエッジサーバが動的に割り当てられ得る。そして、当該エッジサーバにコンテンツがキャッシュ及び配信されることで遅延を減らすことができる。また、いくつかのタイプのエラーが発生した場合又はトラフィックの増加などにより通信状態が変わる場合に複数のエッジサーバで処理を分散したり、他のエッジサーバに配信主体を切り替えたり、障害が生じたネットワークの部分を迂回して配信を続けることができるので、高速かつ安定した配信が実現できる。
また、ストリーミングサーバｅｘ１０３は複数のサーバ又は複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。例えば、ストリーミングサーバｅｘ１０３は、ＣＤＮ（Ｃｏｎｔｅｎｔｓ Ｄｅｌｉｖｅｒｙ Ｎｅｔｗｏｒｋ）により実現され、世界中に分散された多数のエッジサーバとエッジサーバ間をつなぐネットワークによりコンテンツ配信が実現されていてもよい。ＣＤＮでは、クライアントに応じて物理的に近いエッジサーバが動的に割り当てられ得る。そして、当該エッジサーバにコンテンツがキャッシュ及び配信されることで遅延を減らすことができる。また、いくつかのタイプのエラーが発生した場合又はトラフィックの増加などにより通信状態が変わる場合に複数のエッジサーバで処理を分散したり、他のエッジサーバに配信主体を切り替えたり、障害が生じたネットワークの部分を迂回して配信を続けることができるので、高速かつ安定した配信が実現できる。
【0432】
また、配信自体の分散処理にとどまらず、撮影したデータの符号化処理を各端末で行ってもよいし、サーバ側で行ってもよいし、互いに分担して行ってもよい。一例として、一般に符号化処理では、処理ループが２度行われる。１度目のループでフレーム又はシーン単位での画像の複雑さ、又は、符号量が検出される。また、２度目のループでは画質を維持して符号化効率を向上させる処理が行われる。例えば、端末が１度目の符号化処理を行い、コンテンツを受け取ったサーバ側が２度目の符号化処理を行うことで、各端末での処理負荷を減らしつつもコンテンツの質と効率を向上させることができる。この場合、ほぼリアルタイムで受信して復号する要求があれば、端末が行った一度目の符号化済みデータを他の端末で受信して再生することもできるので、より柔軟なリアルタイム配信も可能になる。
【0433】
他の例として、カメラｅｘ１１３等は、画像から特徴量（特徴又は特性の量）を抽出し、特徴量に関するデータをメタデータとして圧縮してサーバに送信する。サーバは、例えば特徴量からオブジェクトの重要性を判断して量子化精度を切り替えるなど、画像の意味（又は内容の重要性）に応じた圧縮を行う。特徴量データはサーバでの再度の圧縮時の動きベクトル予測の精度及び効率向上に特に有効である。また、端末でＶＬＣ（可変長符号化）などの簡易的な符号化を行い、サーバでＣＡＢＡＣ（コンテキスト適応型二値算術符号化方式）など処理負荷の大きな符号化を行ってもよい。
【0434】
さらに他の例として、スタジアム、ショッピングモール、又は工場などにおいては、複数の端末によりほぼ同一のシーンが撮影された複数の映像データが存在する場合がある。この場合には、撮影を行った複数の端末と、必要に応じて撮影をしていない他の端末及びサーバを用いて、例えばＧＯＰ（Ｇｒｏｕｐ ｏｆ Ｐｉｃｔｕｒｅ）単位、ピクチャ単位、又はピクチャを分割したタイル単位などで符号化処理をそれぞれ割り当てて分散処理を行う。これにより、遅延を減らし、よりリアルタイム性を実現できる。
【0435】
複数の映像データはほぼ同一シーンであるため、各端末で撮影された映像データを互いに参照し合えるように、サーバで管理及び／又は指示をしてもよい。また、各端末からの符号化済みデータを、サーバが受信し複数のデータ間で参照関係を変更、又はピクチャ自体を補正或いは差し替えて符号化しなおしてもよい。これにより、一つ一つのデータの質と効率を高めたストリームを生成できる。
【0436】
さらに、サーバは、映像データの符号化方式を変更するトランスコードを行ったうえで映像データを配信してもよい。例えば、サーバは、ＭＰＥＧ系の符号化方式をＶＰ系（例えばＶＰ９）に変換してもよいし、Ｈ．２６４をＨ．２６５に変換等してもよい。
【0437】
このように、符号化処理は、端末、又は１以上のサーバにより行うことが可能である。よって、以下では、処理を行う主体として「サーバ」又は「端末」等の記載を用いるが、サーバで行われる処理の一部又は全てが端末で行われてもよいし、端末で行われる処理の一部又は全てがサーバで行われてもよい。また、これらに関しては、復号処理についても同様である。
【0438】
［３Ｄ、マルチアングル］
互いにほぼ同期した複数のカメラｅｘ１１３及び／又はスマートフォンｅｘ１１５などの端末により撮影された異なるシーン、又は、同一シーンを異なるアングルから撮影した画像或いは映像を統合して利用することが増えてきている。各端末で撮影した映像は、別途取得した端末間の相対的な位置関係、又は、映像に含まれる特徴点が一致する領域などに基づいて統合され得る。
互いにほぼ同期した複数のカメラｅｘ１１３及び／又はスマートフォンｅｘ１１５などの端末により撮影された異なるシーン、又は、同一シーンを異なるアングルから撮影した画像或いは映像を統合して利用することが増えてきている。各端末で撮影した映像は、別途取得した端末間の相対的な位置関係、又は、映像に含まれる特徴点が一致する領域などに基づいて統合され得る。
【0439】
サーバは、２次元の動画像を符号化するだけでなく、動画像のシーン解析などに基づいて自動的に、又は、ユーザが指定した時刻において、静止画を符号化し、受信端末に送信してもよい。サーバは、さらに、撮影端末間の相対的な位置関係を取得できる場合には、２次元の動画像だけでなく、同一シーンが異なるアングルから撮影された映像に基づき、当該シーンの３次元形状を生成できる。サーバは、ポイントクラウドなどにより生成した３次元のデータを別途符号化してもよいし、３次元データを用いて人物又はオブジェクトを認識或いは追跡した結果に基づいて、受信端末に送信する映像を、複数の端末で撮影した映像から、選択、又は、再構成して生成してもよい。
【0440】
このようにして、ユーザは、各撮影端末に対応する各映像を任意に選択してシーンを楽しむこともできるし、複数画像又は映像を用いて再構成された３次元データから選択視点の映像を切り出したコンテンツを楽しむこともできる。さらに、映像と共に、音も複数の相異なるアングルから収音され、サーバは、特定のアングル又は空間からの音を対応する映像と多重化して、多重化された映像と音とを送信してもよい。
【0441】
また、近年ではＶｉｒｔｕａｌ Ｒｅａｌｉｔｙ（ＶＲ）及びＡｕｇｍｅｎｔｅｄ Ｒｅａｌｉｔｙ（ＡＲ）など、現実世界と仮想世界とを対応付けたコンテンツも普及してきている。ＶＲの画像の場合、サーバは、右目用及び左目用の視点画像をそれぞれ作成し、Ｍｕｌｔｉ－Ｖｉｅｗ Ｃｏｄｉｎｇ（ＭＶＣ）などにより各視点映像間で参照を許容する符号化を行ってもよいし、互いに参照せずに別ストリームとして符号化してもよい。別ストリームの復号時には、ユーザの視点に応じて仮想的な３次元空間が再現されるように互いに同期させて再生するとよい。
【0442】
ＡＲの画像の場合には、サーバは、現実空間のカメラ情報に、仮想空間上の仮想物体情報を、３次元的位置又はユーザの視点の動きに基づいて重畳してもよい。復号装置は、仮想物体情報及び３次元データを取得又は保持し、ユーザの視点の動きに応じて２次元画像を生成し、スムーズにつなげることで重畳データを作成してもよい。または、復号装置は仮想物体情報の依頼に加えてユーザの視点の動きをサーバに送信してもよい。サーバは、サーバに保持される３次元データから受信した視点の動きに合わせて重畳データを作成し、重畳データを符号化して復号装置に配信してもよい。なお、重畳データは、典型的には、ＲＧＢ以外に透過度を示すα値を有し、サーバは、３次元データから作成されたオブジェクト以外の部分のα値が０などに設定し、当該部分が透過する状態で、符号化してもよい。もしくは、サーバは、クロマキーのように所定の値のＲＧＢ値を背景に設定し、オブジェクト以外の部分は背景色にしたデータを生成してもよい。所定の値のＲＧＢ値は、予め定められていてもよい。
【0443】
同様に配信されたデータの復号処理はクライアント（例えば、端末）で行っても、サーバ側で行ってもよいし、互いに分担して行ってもよい。一例として、ある端末が、一旦サーバに受信リクエストを送り、そのリクエストに応じたコンテンツを他の端末で受信し復号処理を行い、ディスプレイを有する装置に復号済みの信号が送信されてもよい。通信可能な端末自体の性能によらず処理を分散して適切なコンテンツを選択することで画質のよいデータを再生することができる。また、他の例として大きなサイズの画像データをＴＶ等で受信しつつ、鑑賞者の個人端末にピクチャが分割されたタイルなど一部の領域が復号されて表示されてもよい。これにより、全体像を共有化しつつ、自身の担当分野又はより詳細に確認したい領域を手元で確認することができる。
【0444】
屋内外の近距離、中距離、又は長距離の無線通信が複数使用可能な状況下で、ＭＰＥＧ－ＤＡＳＨなどの配信システム規格を利用して、シームレスにコンテンツを受信することが可能かもしれない。ユーザは、ユーザの端末、屋内外に配置されたディスプレイなどの復号装置又は表示装置を自由に選択しながらリアルタイムで切り替えてもよい。また、自身の位置情報などを用いて、復号する端末及び表示する端末を切り替えながら復号を行うことができる。これにより、ユーザが目的地へ移動している間に、表示可能なデバイスが埋め込まれた隣の建物の壁面又は地面の一部に情報をマップ及び表示することが可能になる。また、符号化データが受信端末から短時間でアクセスできるサーバにキャッシュされている、又は、コンテンツ・デリバリー・サービスにおけるエッジサーバにコピーされている、などの、ネットワーク上での符号化データへのアクセス容易性に基づいて、受信データのビットレートを切り替えることも可能である。
【0445】
［スケーラブル符号化］
コンテンツの切り替えに関して、図７４に示す、上記各実施の形態で示した動画像符号化方法を応用して圧縮符号化されたスケーラブルなストリームを用いて説明する。サーバは、個別のストリームとして内容は同じで質の異なるストリームを複数有していても構わないが、図示するようにレイヤに分けて符号化を行うことで実現される時間的／空間的スケーラブルなストリームの特徴を活かして、コンテンツを切り替える構成であってもよい。つまり、復号側が性能という内的要因と通信帯域の状態などの外的要因とに応じてどのレイヤを復号するかを決定することで、復号側は、低解像度のコンテンツと高解像度のコンテンツとを自由に切り替えて復号できる。例えばユーザが移動中にスマートフォンｅｘ１１５で視聴していた映像の続きを、例えば帰宅後にインターネットＴＶ等の機器で視聴したい場合には、当該機器は、同じストリームを異なるレイヤまで復号すればよいので、サーバ側の負担を軽減できる。
コンテンツの切り替えに関して、図７４に示す、上記各実施の形態で示した動画像符号化方法を応用して圧縮符号化されたスケーラブルなストリームを用いて説明する。サーバは、個別のストリームとして内容は同じで質の異なるストリームを複数有していても構わないが、図示するようにレイヤに分けて符号化を行うことで実現される時間的／空間的スケーラブルなストリームの特徴を活かして、コンテンツを切り替える構成であってもよい。つまり、復号側が性能という内的要因と通信帯域の状態などの外的要因とに応じてどのレイヤを復号するかを決定することで、復号側は、低解像度のコンテンツと高解像度のコンテンツとを自由に切り替えて復号できる。例えばユーザが移動中にスマートフォンｅｘ１１５で視聴していた映像の続きを、例えば帰宅後にインターネットＴＶ等の機器で視聴したい場合には、当該機器は、同じストリームを異なるレイヤまで復号すればよいので、サーバ側の負担を軽減できる。
【0446】
さらに、上記のように、レイヤ毎にピクチャが符号化されており、ベースレイヤの上位のエンハンスメントレイヤでスケーラビリティを実現する構成以外に、エンハンスメントレイヤが画像の統計情報などに基づくメタ情報を含んでいてもよい。復号側が、メタ情報に基づきベースレイヤのピクチャを超解像することで高画質化したコンテンツを生成してもよい。超解像は、解像度を維持及び／又は拡大しつつ、ＳＮ比を向上してもよい。メタ情報は、超解像処理に用いるような線形或いは非線形のフィルタ係数を特定するため情報、又は、超解像処理に用いるフィルタ処理、機械学習或いは最小２乗演算におけるパラメータ値を特定する情報などを含む。
【0447】
または、画像内のオブジェクトなどの意味合いに応じてピクチャがタイル等に分割される構成が提供されてもよい。復号側が、復号するタイルを選択することで一部の領域だけを復号する。さらに、オブジェクトの属性（人物、車、ボールなど）と映像内の位置（同一画像における座標位置など）とをメタ情報として格納することで、復号側は、メタ情報に基づいて所望のオブジェクトの位置を特定し、そのオブジェクトを含むタイルを決定できる。例えば、図７５に示すように、メタ情報は、ＨＥＶＣにおけるＳＥＩ（ｓｕｐｐｌｅｍｅｎｔａｌ ｅｎｈａｎｃｅｍｅｎｔ ｉｎｆｏｒｍａｔｉｏｎ）メッセージなど、画素データとは異なるデータ格納構造を用いて格納されてもよい。このメタ情報は、例えば、メインオブジェクトの位置、サイズ、又は色彩などを示す。
【0448】
ストリーム、シーケンス又はランダムアクセス単位など、複数のピクチャから構成される単位でメタ情報が格納されてもよい。復号側は、特定人物が映像内に出現する時刻などを取得でき、ピクチャ単位の情報と時間情報を合わせることで、オブジェクトが存在するピクチャを特定でき、ピクチャ内でのオブジェクトの位置を決定できる。
【0449】
［Ｗｅｂページの最適化］
図７６は、コンピュータｅｘ１１１等におけるｗｅｂページの表示画面例を示す図である。図７７は、スマートフォンｅｘ１１５等におけるｗｅｂページの表示画面例を示す図である。図７６及び図７７に示すようにｗｅｂページが、画像コンテンツへのリンクであるリンク画像を複数含む場合があり、閲覧するデバイスによってその見え方は異なっていてもよい。画面上に複数のリンク画像が見える場合には、ユーザが明示的にリンク画像を選択するまで、又は画面の中央付近にリンク画像が近付く或いはリンク画像の全体が画面内に入るまで、表示装置（復号装置）は、リンク画像として各コンテンツが有する静止画又はＩピクチャを表示してもよいし、複数の静止画又はＩピクチャ等でｇｉｆアニメのような映像を表示してもよいし、ベースレイヤのみを受信し、映像を復号及び表示してもよい。
図７６は、コンピュータｅｘ１１１等におけるｗｅｂページの表示画面例を示す図である。図７７は、スマートフォンｅｘ１１５等におけるｗｅｂページの表示画面例を示す図である。図７６及び図７７に示すようにｗｅｂページが、画像コンテンツへのリンクであるリンク画像を複数含む場合があり、閲覧するデバイスによってその見え方は異なっていてもよい。画面上に複数のリンク画像が見える場合には、ユーザが明示的にリンク画像を選択するまで、又は画面の中央付近にリンク画像が近付く或いはリンク画像の全体が画面内に入るまで、表示装置（復号装置）は、リンク画像として各コンテンツが有する静止画又はＩピクチャを表示してもよいし、複数の静止画又はＩピクチャ等でｇｉｆアニメのような映像を表示してもよいし、ベースレイヤのみを受信し、映像を復号及び表示してもよい。
【0450】
ユーザによりリンク画像が選択された場合、表示装置は、例えばベースレイヤを最優先にしつつ復号を行う。なお、ｗｅｂページを構成するＨＴＭＬにスケーラブルなコンテンツであることを示す情報があれば、表示装置は、エンハンスメントレイヤまで復号してもよい。さらに、リアルタイム性を担保するために、選択される前又は通信帯域が非常に厳しい場合には、表示装置は、前方参照のピクチャ（Ｉピクチャ、Ｐピクチャ、前方参照のみのＢピクチャ）のみを復号及び表示することで、先頭ピクチャの復号時刻と表示時刻との間の遅延（コンテンツの復号開始から表示開始までの遅延）を低減できる。またさらに、表示装置は、ピクチャの参照関係を敢えて無視して、全てのＢピクチャ及びＰピクチャを前方参照にして粗く復号し、時間が経ち受信したピクチャが増えるにつれて正常の復号を行ってもよい。
【0451】
［自動走行］
また、車の自動走行又は走行支援のため２次元又は３次元の地図情報などのような静止画又は映像データを送受信する場合、受信端末は、１以上のレイヤに属する画像データに加えて、メタ情報として天候又は工事の情報なども受信し、これらを対応付けて復号してもよい。なお、メタ情報は、レイヤに属してもよいし、単に画像データと多重化されてもよい。
また、車の自動走行又は走行支援のため２次元又は３次元の地図情報などのような静止画又は映像データを送受信する場合、受信端末は、１以上のレイヤに属する画像データに加えて、メタ情報として天候又は工事の情報なども受信し、これらを対応付けて復号してもよい。なお、メタ情報は、レイヤに属してもよいし、単に画像データと多重化されてもよい。
【0452】
この場合、受信端末を含む車、ドローン又は飛行機などが移動するため、受信端末は、当該受信端末の位置情報を送信することで、基地局ｅｘ１０６～ｅｘ１１０を切り替えながらシームレスな受信及び復号の実行を実現できる。また、受信端末は、ユーザの選択、ユーザの状況及び／又は通信帯域の状態に応じて、メタ情報をどの程度受信するか、又は地図情報をどの程度更新していくかを動的に切り替えることが可能になる。
【0453】
コンテンツ供給システムｅｘ１００では、ユーザが送信した符号化された情報をリアルタイムでクライアントが受信して復号し、再生することができる。
【0454】
［個人コンテンツの配信］
また、コンテンツ供給システムｅｘ１００では、映像配信業者による高画質で長時間のコンテンツのみならず、個人による低画質で短時間のコンテンツのユニキャスト、又はマルチキャスト配信が可能である。このような個人のコンテンツは今後も増加していくと考えられる。個人コンテンツをより優れたコンテンツにするために、サーバは、編集処理を行ってから符号化処理を行ってもよい。これは、例えば、以下のような構成を用いて実現できる。
また、コンテンツ供給システムｅｘ１００では、映像配信業者による高画質で長時間のコンテンツのみならず、個人による低画質で短時間のコンテンツのユニキャスト、又はマルチキャスト配信が可能である。このような個人のコンテンツは今後も増加していくと考えられる。個人コンテンツをより優れたコンテンツにするために、サーバは、編集処理を行ってから符号化処理を行ってもよい。これは、例えば、以下のような構成を用いて実現できる。
【0455】
撮影時にリアルタイム又は蓄積して撮影後に、サーバは、原画データ又は符号化済みデータから撮影エラー、シーン探索、意味の解析、及びオブジェクト検出などの認識処理を行う。そして、サーバは、認識結果に基づいて手動又は自動で、ピントずれ又は手ブレなどを補正したり、明度が他のピクチャに比べて低い又は焦点が合っていないシーンなどの重要性の低いシーンを削除したり、オブジェクトのエッジを強調したり、色合いを変化させるなどの編集を行う。サーバは、編集結果に基づいて編集後のデータを符号化する。また撮影時刻が長すぎると視聴率が下がることも知られており、サーバは、撮影時間に応じて特定の時間範囲内のコンテンツになるように上記のように重要性が低いシーンのみならず動きが少ないシーンなどを、画像処理結果に基づき自動でクリップしてもよい。または、サーバは、シーンの意味解析の結果に基づいてダイジェストを生成して符号化してもよい。
【0456】
個人コンテンツには、そのままでは著作権、著作者人格権、又は肖像権等の侵害となるものが写り込んでいるケースもあり、共有する範囲が意図した範囲を超えてしまうなど個人にとって不都合な場合もある。よって、例えば、サーバは、画面の周辺部の人の顔、又は家の中などを敢えて焦点が合わない画像に変更して符号化してもよい。さらに、サーバは、符号化対象画像内に、予め登録した人物とは異なる人物の顔が映っているかどうかを認識し、映っている場合には、顔の部分にモザイクをかけるなどの処理を行ってもよい。または、符号化の前処理又は後処理として、著作権などの観点からユーザが画像を加工したい人物又は背景領域を指定してもよい。サーバは、指定された領域を別の映像に置き換える、又は焦点をぼかすなどの処理を行ってもよい。人物であれば、動画像において人物をトラッキングして、人物の顔の部分の映像を置き換えることができる。
【0457】
データ量の小さい個人コンテンツの視聴はリアルタイム性の要求が強いため、帯域幅にもよるが、復号装置は、まずベースレイヤを最優先で受信して復号及び再生を行ってもよい。復号装置は、この間にエンハンスメントレイヤを受信し、再生がループされる場合など２回以上再生される場合に、エンハンスメントレイヤも含めて高画質の映像を再生してもよい。このようにスケーラブルな符号化が行われているストリームであれば、未選択時又は見始めた段階では粗い動画だが、徐々にストリームがスマートになり画像がよくなるような体験を提供することができる。スケーラブル符号化以外にも、１回目に再生される粗いストリームと、１回目の動画を参照して符号化される２回目のストリームとが１つのストリームとして構成されていても同様の体験を提供できる。
【0458】
［その他の実施応用例］
また、これらの符号化又は復号処理は、一般的に各端末が有するＬＳＩｅｘ５００において処理される。ＬＳＩ（ｌａｒｇｅ ｓｃａｌｅ ｉｎｔｅｇｒａｔｉｏｎ ｃｉｒｃｕｉｔｒｙ）ｅｘ５００（図７３参照）は、ワンチップであっても複数チップからなる構成であってもよい。なお、動画像符号化又は復号用のソフトウェアをコンピュータｅｘ１１１等で読み取り可能な何らかの記録メディア（ＣＤ－ＲＯＭ、フレキシブルディスク、又はハードディスクなど）に組み込み、そのソフトウェアを用いて符号化又は復号処理を行ってもよい。さらに、スマートフォンｅｘ１１５がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データはスマートフォンｅｘ１１５が有するＬＳＩｅｘ５００で符号化処理されたデータであってもよい。
また、これらの符号化又は復号処理は、一般的に各端末が有するＬＳＩｅｘ５００において処理される。ＬＳＩ（ｌａｒｇｅ ｓｃａｌｅ ｉｎｔｅｇｒａｔｉｏｎ ｃｉｒｃｕｉｔｒｙ）ｅｘ５００（図７３参照）は、ワンチップであっても複数チップからなる構成であってもよい。なお、動画像符号化又は復号用のソフトウェアをコンピュータｅｘ１１１等で読み取り可能な何らかの記録メディア（ＣＤ－ＲＯＭ、フレキシブルディスク、又はハードディスクなど）に組み込み、そのソフトウェアを用いて符号化又は復号処理を行ってもよい。さらに、スマートフォンｅｘ１１５がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データはスマートフォンｅｘ１１５が有するＬＳＩｅｘ５００で符号化処理されたデータであってもよい。
【0459】
なお、ＬＳＩｅｘ５００は、アプリケーションソフトをダウンロードしてアクティベートする構成であってもよい。この場合、端末は、まず、当該端末がコンテンツの符号化方式に対応しているか、又は、特定サービスの実行能力を有するかを判定する。端末がコンテンツの符号化方式に対応していない場合、又は、特定サービスの実行能力を有さない場合、端末は、コーデック又はアプリケーションソフトをダウンロードし、その後、コンテンツ取得及び再生してもよい。
【0460】
また、インターネットｅｘ１０１を介したコンテンツ供給システムｅｘ１００に限らず、デジタル放送用システムにも上記各実施の形態の少なくとも動画像符号化装置（画像符号化装置）又は動画像復号化装置（画像復号装置）のいずれかを組み込むことができる。衛星などを利用して放送用の電波に映像と音が多重化された多重化データを載せて送受信するため、コンテンツ供給システムｅｘ１００のユニキャストがし易い構成に対してマルチキャスト向きであるという違いがあるが符号化処理及び復号処理に関しては同様の応用が可能である。
【0461】
［ハードウェア構成］
図７８は、図７３に示されたスマートフォンｅｘ１１５のさらに詳細を示す図である。また、図７９は、スマートフォンｅｘ１１５の構成例を示す図である。スマートフォンｅｘ１１５は、基地局ｅｘ１１０との間で電波を送受信するためのアンテナｅｘ４５０と、映像及び静止画を撮ることが可能なカメラ部ｅｘ４６５と、カメラ部ｅｘ４６５で撮像した映像、及びアンテナｅｘ４５０で受信した映像等が復号されたデータを表示する表示部ｅｘ４５８とを備える。スマートフォンｅｘ１１５は、さらに、タッチパネル等である操作部ｅｘ４６６と、音声又は音響を出力するためのスピーカ等である音声出力部ｅｘ４５７と、音声を入力するためのマイク等である音声入力部ｅｘ４５６と、撮影した映像或いは静止画、録音した音声、受信した映像或いは静止画、メール等の符号化されたデータ、又は、復号化されたデータを保存可能なメモリ部ｅｘ４６７と、ユーザを特定し、ネットワークをはじめ各種データへのアクセスの認証をするためのＳＩＭｅｘ４６８とのインタフェース部であるスロット部ｅｘ４６４とを備える。なお、メモリ部ｅｘ４６７の代わりに外付けメモリが用いられてもよい。
図７８は、図７３に示されたスマートフォンｅｘ１１５のさらに詳細を示す図である。また、図７９は、スマートフォンｅｘ１１５の構成例を示す図である。スマートフォンｅｘ１１５は、基地局ｅｘ１１０との間で電波を送受信するためのアンテナｅｘ４５０と、映像及び静止画を撮ることが可能なカメラ部ｅｘ４６５と、カメラ部ｅｘ４６５で撮像した映像、及びアンテナｅｘ４５０で受信した映像等が復号されたデータを表示する表示部ｅｘ４５８とを備える。スマートフォンｅｘ１１５は、さらに、タッチパネル等である操作部ｅｘ４６６と、音声又は音響を出力するためのスピーカ等である音声出力部ｅｘ４５７と、音声を入力するためのマイク等である音声入力部ｅｘ４５６と、撮影した映像或いは静止画、録音した音声、受信した映像或いは静止画、メール等の符号化されたデータ、又は、復号化されたデータを保存可能なメモリ部ｅｘ４６７と、ユーザを特定し、ネットワークをはじめ各種データへのアクセスの認証をするためのＳＩＭｅｘ４６８とのインタフェース部であるスロット部ｅｘ４６４とを備える。なお、メモリ部ｅｘ４６７の代わりに外付けメモリが用いられてもよい。
【0462】
表示部ｅｘ４５８及び操作部ｅｘ４６６等を統括的に制御し得る主制御部ｅｘ４６０と、電源回路部ｅｘ４６１、操作入力制御部ｅｘ４６２、映像信号処理部ｅｘ４５５、カメラインタフェース部ｅｘ４６３、ディスプレイ制御部ｅｘ４５９、変調／復調部ｅｘ４５２、多重／分離部ｅｘ４５３、音声信号処理部ｅｘ４５４、スロット部ｅｘ４６４、及びメモリ部ｅｘ４６７とが同期バスｅｘ４７０を介して接続されている。
【0463】
電源回路部ｅｘ４６１は、ユーザの操作により電源キーがオン状態にされると、スマートフォンｅｘ１１５を動作可能な状態に起動し、バッテリパックから各部に対して電力を供給する。
【0464】
スマートフォンｅｘ１１５は、ＣＰＵ、ＲＯＭ及びＲＡＭ等を有する主制御部ｅｘ４６０の制御に基づいて、通話及データ通信等の処理を行う。通話時は、音声入力部ｅｘ４５６で収音した音声信号を音声信号処理部ｅｘ４５４でデジタル音声信号に変換し、変調／復調部ｅｘ４５２でスペクトラム拡散処理を施し、送信／受信部ｅｘ４５１でデジタルアナログ変換処理及び周波数変換処理を施し、その結果の信号を、アンテナｅｘ４５０を介して送信する。また受信データを増幅して周波数変換処理及びアナログデジタル変換処理を施し、変調／復調部ｅｘ４５２でスペクトラム逆拡散処理し、音声信号処理部ｅｘ４５４でアナログ音声信号に変換した後、これを音声出力部ｅｘ４５７から出力する。データ通信モード時は、本体部の操作部ｅｘ４６６等の操作に基づいてテキスト、静止画、又は映像データが操作入力制御部ｅｘ４６２を介して主制御部ｅｘ４６０の制御下で送出され得る。同様の送受信処理が行われる。データ通信モード時に映像、静止画、又は映像と音声を送信する場合、映像信号処理部ｅｘ４５５は、メモリ部ｅｘ４６７に保存されている映像信号又はカメラ部ｅｘ４６５から入力された映像信号を上記各実施の形態で示した動画像符号化方法によって圧縮符号化し、符号化された映像データを多重／分離部ｅｘ４５３に送出する。音声信号処理部ｅｘ４５４は、映像又は静止画をカメラ部ｅｘ４６５で撮像中に音声入力部ｅｘ４５６で収音した音声信号を符号化し、符号化された音声データを多重／分離部ｅｘ４５３に送出する。多重／分離部ｅｘ４５３は、符号化済み映像データと符号化済み音声データを所定の方式で多重化し、変調／復調部（変調／復調回路部）ｅｘ４５２、及び送信／受信部ｅｘ４５１で変調処理及び変換処理を施してアンテナｅｘ４５０を介して送信する。所定の方式は、予め定められていてもよい。
【0465】
電子メール又はチャットに添付された映像、又はウェブページにリンクされた映像を受信した場合等において、アンテナｅｘ４５０を介して受信された多重化データを復号するために、多重／分離部ｅｘ４５３は、多重化データを分離することにより、多重化データを映像データのビットストリームと音声データのビットストリームとに分け、同期バスｅｘ４７０を介して符号化された映像データを映像信号処理部ｅｘ４５５に供給するとともに、符号化された音声データを音声信号処理部ｅｘ４５４に供給する。映像信号処理部ｅｘ４５５は、上記各実施の形態で示した動画像符号化方法に対応した動画像復号化方法によって映像信号を復号し、ディスプレイ制御部ｅｘ４５９を介して表示部ｅｘ４５８から、リンクされた動画像ファイルに含まれる映像又は静止画が表示される。音声信号処理部ｅｘ４５４は、音声信号を復号し、音声出力部ｅｘ４５７から音声が出力される。リアルタイムストリーミングがますます普及しだしているため、ユーザの状況によっては音声の再生が社会的にふさわしくないこともあり得る。そのため、初期値としては、音声信号は再生せず映像データのみを再生する構成の方が望ましく、ユーザが映像データをクリックするなど操作を行った場合にのみ音声を同期して再生してもよい。
【0466】
またここではスマートフォンｅｘ１１５を例に説明したが、端末としては符号化器及び復号化器を両方持つ送受信型端末の他に、符号化器のみを有する送信端末、及び、復号化器のみを有する受信端末という他の実装形式が考えられる。デジタル放送用システムにおいて、映像データに音声データが多重化された多重化データを受信又は送信するとして説明した。ただし、多重化データには、音声データ以外に映像に関連する文字データなどが多重化されてもよい。また、多重化データではなく映像データ自体が受信又は送信されてもよい。
【0467】
なお、ＣＰＵを含む主制御部ｅｘ４６０が符号化又は復号処理を制御するとして説明したが、種々の端末はＧＰＵを備えることも多い。よって、ＣＰＵとＧＰＵで共通化されたメモリ、又は共通に使用できるようにアドレスが管理されているメモリにより、ＧＰＵの性能を活かして広い領域を一括して処理する構成でもよい。これにより符号化時間を短縮でき、リアルタイム性を確保し、低遅延を実現できる。特に動き探索、デブロックフィルタ、ＳＡＯ（Ｓａｍｐｌｅ Ａｄａｐｔｉｖｅ Ｏｆｆｓｅｔ）、及び変換・量子化の処理を、ＣＰＵではなく、ＧＰＵでピクチャなどの単位で一括して行うと効率的である。
【図1】
【図2】
【図3】
【図4A】
【図4B】
【図5A】
【図5B】
【図6A】
【図6B】
【図6C】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
【図16】
【図17】
【図18】
【図19】
【図20】
【図21】
【図22】
【図23】
【図24】
【図25A】
【図25B】
【図26A】
【図26B】
【図26C】
【図27】
【図28A】
【図28B】
【図29】
【図30A】
【図30B】
【図31A】
【図31B】
【図32】
【図33】
【図34】
【図35】
【図36】
【図37】
【図38】
【図39】
【図40】
【図41】
【図42】
【図43】
【図44】
【図45】
【図46】
【図47】
【図48】
【図49】
【図50】
【図51】
【図52】
【図53】
【図54】
【図55】
【図56】
【図57A】
【図57B】
【図57C】
【図57D】
【図58】
【図59】
【図60】
【図61】
【図62】
【図63】
【図64】
【図65】
【図66】
【図67】
【図68】
【図69】
【図70】
【図71】
【図72】
【図73】
【図74】
【図75】
【図76】
【図77】
【図78】
【図79】