(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-10-15
(45)【発行日】2024-10-23
(54)【発明の名称】ピクチャコーディングのためのイントラランダムアクセスポイント
(51)【国際特許分類】
H04N 19/30 20140101AFI20241016BHJP
H04N 19/172 20140101ALI20241016BHJP
H04N 19/70 20140101ALI20241016BHJP
【FI】
H04N19/30
H04N19/172
H04N19/70
(21)【出願番号】P 2022556152
(86)(22)【出願日】2021-03-16
(86)【国際出願番号】 US2021022572
(87)【国際公開番号】W WO2021188544
(87)【国際公開日】2021-09-23
【審査請求日】2022-09-28
(32)【優先日】2020-03-19
(33)【優先権主張国・地域又は機関】US
【前置審査】
(73)【特許権者】
【識別番号】520477474
【氏名又は名称】バイトダンス インコーポレイテッド
【氏名又は名称原語表記】BYTEDANCE INC.
【住所又は居所原語表記】12655 West Jefferson Boulevard, Sixth Floor, Suite No. 137 Los Angeles, California 90066 United States of America
(74)【代理人】
【識別番号】110002000
【氏名又は名称】弁理士法人栄光事務所
(72)【発明者】
【氏名】ワン イェクイ
【審査官】久保 光宏
(56)【参考文献】
【文献】Benjamin Bross, et al.,"Versatile Video Coding (Draft 8)",Document: JVET-Q2001-vC, [online],JVET-Q2001 (version 13),Joint Video Experts Team (JVET) of ITU-T SG 16 WP 3 and ISO/IEC JTC 1/SC 29/WG 11,2020年02月09日,Pages 3-11,87-90,110,175-177,[令和5年8月28日検索], インターネット, <URL: https://jvet-experts.org/doc_end_user/current_document.php?id=9675> and <URL: https://jvet-experts.org/doc_end_user/documents/17_Brussels/wg11/JVET-Q2001-v13.zip>.,(See document file "JVET-Q2001-vC.docx" in the zip file "JVET-Q2001-v13.zip".)
(58)【調査した分野】(Int.Cl.,DB名)
H04N19/00-19/98
CSDB(日本国特許庁)
学術文献等データベース(日本国特許庁)
IEEEXplore(IEEE)
(57)【特許請求の範囲】
【請求項1】
映像処理の方法であって、
第1の規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、前記映像のビットストリームとの間の変換を実行すること、を有し、
前記第1の規則は、イントラランダムアクセスポイントピクチャに関連付けられた現在のピクチャおよび非リーディングピクチャの復号化順に対する第1の制約が、前記現在のピクチャ、前記イントラランダムアクセスポイントピクチャ、および前記非リーディングピクチャが同じレイヤに存在する場合に限り、適用されることを規定
し、
第2の規則に従って、前記変換が実行され、
前記第2の規則は、第2のピクチャの関連付けられたイントラランダムアクセスポイントピクチャである第1の映像ピクチャと、前記第2のピクチャとが同じ映像レイヤに属するように制約されることを規定し、
前記復号化順または出力順における前記第1の映像ピクチャと前記第2のピクチャとの間において、前記同じ映像レイヤに漸進的復号化リフレッシュピクチャは存在しない、方法。
【請求項2】
前記第1の制約は、フィールドシーケンスフラグの値が0に等しく、かつ、特定の値に等しいNAL(Network Abstraction Layer)ユニットヘッダレイヤ識別子を有する前記現在のピクチャが前記イントラランダムアクセスポイントピクチャに関連付けられたリーディングピクチャである場合、前記現在のピクチャが、前記復号化順において、前記イントラランダムアクセスポイントピクチャに関連付けられたすべての非リーディングピクチャに先行することを規定する、請求項1に記載の方法。
【請求項3】
前記フィールドシーケンスフラグの値が1に等しい場合、picAおよびpicBをそれぞれ、前記復号化順において、
関連付けられたイントラランダムアクセスポイントピクチャに関連付けられた最初および最後のピクチャとすると、前記復号化順においてpicAに先行する特定の値layerIdに等しい
対応するNALユニットヘッダレイヤ識別子を有する最大1つの非リーディングピクチャが存在し、前記復号化順においてpicAとpicBの間の前記特定の値layerIdに等しい
対応するNALユニットヘッダレイヤ識別子を有する非リーディングピクチャは存在しない、請求項2に記載の方法。
【請求項4】
0に等しい前記フィールドシーケンスフラグの前記値は、コーディングされたレイヤ映像シーケンスがフレームを示すピクチャを伝送することを示す、請求項2に記載の方法。
【請求項5】
前記第1の映像ピクチャを有する、映像コーディングレイヤネットワーク抽象レイヤユニットが属するレイヤの識別子、または、非映像コーディングレイヤネットワーク抽象レイヤユニットが適用されるレイヤの識別子は、前記第2のピクチャを有する、映像コーディングレイヤネットワーク抽象レイヤユニットが属するレイヤの識別子、または、非映像コーディングレイヤネットワーク抽象レイヤユニットが適用されるレイヤの識別子と同じである、請求項
1に記載の方法。
【請求項6】
第
3の規則に従って、前記変換が実行され、
前記第
3の規則は、前記ビットストリームにおけるトレイリングピクチャが、漸進的復号化リフレッシュピクチャまたは
関連付けられたイントラランダムアクセスポイントピクチャに関連付けられることを許可されることを規定する、請求項1から
5のいずれか一項に記載の方法。
【請求項7】
前記トレイリングピクチャは、各映像コーディングレイヤネットワーク抽象レイヤユニットがトレイルネットワーク抽象レイヤユニットタイプを有するピクチャである、請求項
6に記載の方法。
【請求項8】
関連付けられたイントラランダムアクセスポイントピクチャまたは漸進的復号化リフレッシュピクチャに関連付けられた前記トレイリングピクチャは、前記復号化順または出力順において、前記
関連付けられたイントラランダムアクセスポイントピクチャまたは前記漸進的復号化リフレッシュピクチャに続く、請求項
6に記載の方法。
【請求項9】
出力順において前記関連付けられたイントラランダムアクセスポイントピクチャに続き、かつ、前記復号化順において前記関連付けられたイントラランダムアクセスポイントに先行するピクチャは、許可されない、請求項
6に記載の方法。
【請求項10】
前記第
3の規則は更に、各レイヤに対し、前記ビットストリームの前記レイヤにおける第1のピクチャを除き、前記レイヤの各ピクチャが、前記復号化順において同じレイヤの、前のイントラランダムアクセスポイントピクチャまたは
少なくとも1つの漸進的デコーダリフレッシュピクチャのうちのより近い方に関連付けられることを規定する、請求項
6に記載の方法。
【請求項11】
第
4の規則に基づいて、前記変換が実行され、
前記第
4の規則は、前記復号化順においてイントラランダムアクセスポイントピクチャに先行するピクチャの出力順に対する第
2の制約が、同じ映像レイヤのピクチャに適用可能であることを規定する、請求項1から
10のいずれか一項に記載の方法。
【請求項12】
前記第
2の制約は、特定の値に等しいNAL(Network Abstraction Layer)ユニットヘッダレイヤ識別子を有し、かつ、前記復号化順において、前記特定の値に等しい前記NALユニットヘッダレイヤ識別子を有するイントラランダムアクセスポイントに先行する任意のピクチャは、前記出力順において、前記イントラランダムアクセスポイントピクチャおよびすべての関連付けられたランダムアクセス復号化可能なリーディングピクチャに先行することが要求されることを規定する、請求項
11に記載の方法。
【請求項13】
前記変換は、前記映像を前記ビットストリームに符号化することを含む、請求項1から
12のいずれか一項に記載の方法。
【請求項14】
前記変換は、前記映像を前記ビットストリームから復号化することを含む、請求項1から
12のいずれか一項に記載の方法。
【請求項15】
プロセッサと、命令を有する非一時的メモリを有する、映像データを処理するための装置であって、
前記命令は、前記プロセッサによって実行された際に、前記プロセッサに、
第1の規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、前記映像のビットストリームとの間の変換を実行すること、を行わせ、
前記第1の規則は、イントラランダムアクセスポイントピクチャに関連付けられた現在のピクチャおよび非リーディングピクチャの復号化順に対する第1の制約が、前記現在のピクチャ、前記イントラランダムアクセスポイントピクチャ、および前記非リーディングピクチャが同じレイヤに存在する場合に限り、適用されることを規定
し、
第2の規則に従って、前記変換が実行され、
前記第2の規則は、第2のピクチャの関連付けられたイントラランダムアクセスポイントピクチャである第1の映像ピクチャと、前記第2のピクチャとが同じ映像レイヤに属するように制約されることを規定し、
前記復号化順または出力順における前記第1の映像ピクチャと前記第2のピクチャとの間において、前記同じ映像レイヤに漸進的復号化リフレッシュピクチャは存在しない、装置。
【請求項16】
プロセッサに、
第1の規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、前記映像のビットストリームとの間の変換を実行すること、を行わせ、
前記第1の規則は、イントラランダムアクセスポイントピクチャに関連付けられた現在のピクチャおよび非リーディングピクチャの復号化順に対する第1の制約が、前記現在のピクチャ、前記イントラランダムアクセスポイントピクチャ、および前記非リーディングピクチャが同じレイヤに存在する場合に限り、適用されることを規定
し、
第2の規則に従って、前記変換が実行され、
前記第2の規則は、第2のピクチャの関連付けられたイントラランダムアクセスポイントピクチャである第1の映像ピクチャと、前記第2のピクチャとが同じ映像レイヤに属するように制約されることを規定し、
前記復号化順または出力順における前記第1の映像ピクチャと前記第2のピクチャとの間において、前記同じ映像レイヤに漸進的復号化リフレッシュピクチャは存在しない、
命令を格納する非一時的コンピュータ可読記憶媒体。
【請求項17】
映像のビットストリームを格納するための方法であって、
第1の規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像のビットストリームを生成することと、
前記ビットストリームを非一時的コンピュータ可読記録媒体に格納することと、を有し、
前記第1の規則は、イントラランダムアクセスポイントピクチャに関連付けられた現在のピクチャおよび非リーディングピクチャの復号化順に対する第1の制約が、前記現在のピクチャ、前記イントラランダムアクセスポイントピクチャ、および前記非リーディングピクチャが同じレイヤに存在する場合に限り、適用されることを規定
し、
第2の規則に従って、前記生成が実行され、
前記第2の規則は、第2のピクチャの関連付けられたイントラランダムアクセスポイントピクチャである第1の映像ピクチャと、前記第2のピクチャとが同じ映像レイヤに属するように制約されることを規定し、
前記復号化順または出力順における前記第1の映像ピクチャと前記第2のピクチャとの間において、前記同じ映像レイヤに漸進的復号化リフレッシュピクチャは存在しない、方法。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互参照
本願は、2020年3月19日出願の米国特許仮出願第62/992046号の優先権および利益を主張する2021年3月16日出願の国際特許出願第PCT/US2021/022572号に基づく上記出願の開示全体は、本明細書の開示として参照によりここに援用される。
【0002】
この特許明細書は、画像および映像の符号化および復号化に関する。
【背景技術】
【0003】
デジタル映像は、インターネット及び他のデジタル通信ネットワークにおいて最大の帯域幅の使用量を占めている。映像を受信及び表示することが可能である接続されたユーザ機器の数が増加するにつれ、デジタル映像の使用に対する帯域幅需要は増大し続けることが予測される。
【発明の概要】
【0004】
本明細書は、改善された性能を提供するビットストリーム構文を使用して、映像のコーディングされた表現を処理するための映像エンコーダおよびデコーダによって使用できる技術を開示する。開示される方法は、映像符号化、または映像復号化、または映像コード変換等の映像処理を実行する装置によって使用してもよい。
【0005】
1つの例示的な態様において、映像処理方法が開示される。この方法は、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間の変換を実行することを含み、コーディングされた表現は、第2のピクチャのイントラランダムアクセスポイントピクチャである第1の映像ピクチャと第2のピクチャとが同じ映像レイヤに属するように制約されることを規定する規則に従って編成される。
【0006】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と映像のコーディングされた表現との間の変換を実行することを含み、コーディングされた表現は、イントラランダムアクセスポイントである第1のタイプのピクチャに続くコーディングされた表現におけるトレイリングピクチャも、漸進的復号化リフレッシュピクチャを含む第2のタイプのピクチャに関連付けられることを許可することを規定するフォーマット規則に準拠する。
【0007】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と映像のコーディングされた表現との間の変換を実行することを含み、コーディングされた表現は、復号順でイントラランダムアクセスポイントに先行するピクチャの出力順に対する制約を、出力順が同じ映像レイヤ内のピクチャにのみ適用可能となるように規定するフォーマット規則に準拠する。
【0008】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間の変換を実行することを含み、コーディングされた表現が、(1)トレイリングピクチャは、出力順において、関連付けられたIRAP(Intra Random Access Point)ピクチャまたはGDR(Gradual Decoder Refresh)ピクチャに続かなければならない、または(2)GDRピクチャのそれと同じレイヤIDを有するピクチャは、出力順において、GDRピクチャおよびGDRピクチャのすべての関連付けられたピクチャに先行しなければならないという制約を規定するフォーマット規則に準拠している。
【0009】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間の変換を実行することを含み、変換は、順序制約が、ピクチャ、IRAPピクチャ、および非リーディングピクチャが同じレイヤにある場合にのみ、ピクチャ、IRAPU(Intra Random Access Point)ピクチャ、および非リーディングピクチャに適用可能であるという規則に準拠し、規則は、(a)フィールドシーケンスの値と復号化順を規定する第1の規則と、(b)レイヤのリーディングおよび/または非リーディングピクチャの順序のうちの一方である。
【0010】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間の変換を実行することを含み、変換は、リーディングピクチャ、RADL(Random Access Decodable Leading)ピクチャ、およびGDR(Gradual Decoding Refresh)ピクチャに関連付けられたRASL(Random Access Skipped Leading)ピクチャの順序を規定する規則に準拠する。
【0011】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間の変換を実行することを含み、変換は、クリーンランダムアクセスピクチャの参照ピクチャリストの制約が1つのレイヤに制限されることを規定する規則に準拠する。
【0012】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間の変換を実行することを含み、変換は、現在のピクチャが利用不可な参照ピクチャを生成するための復号化処理によって生成された参照ピクチャリストにおけるエントリを参照することを許可する条件を規定する規則に準拠する。
【0013】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間の変換を実行することを含み、変換は、現在のピクチャと現在のピクチャに対応する参照ピクチャリストとの間の順序の規則に準拠する。
【0014】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、フォーマット規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行することを含み、フォーマット規則は、第2のピクチャの関連付けられたイントラランダムアクセスポイントピクチャである第1の映像ピクチャと第2のピクチャとが同じ映像レイヤに属するように制約されることを規定する。
【0015】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、フォーマット規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行することを含み、フォーマット規則は、ビットストリームにおけるトレイリングピクチャを漸進的復号化リフレッシュピクチャに関連付けることを許可することを規定する。
【0016】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、フォーマット規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行することを含み、フォーマット規則は、復号化順でイントラランダムアクセスポイントに先行するピクチャの出力順に対する制約が同じ映像レイヤ内のピクチャに適用可能であることを規定する。
【0017】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、フォーマット規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行することを含み、フォーマット規則は、(1)トレイリングピクチャは、関連付けられたイントラランダムアクセスポイントピクチャまたは漸進的デコーダリフレッシュピクチャを出力順に追跡する、または、(2)漸進的デコーダリフレッシュピクチャと同じNAL(Network Abstracion Layer)ユニットヘッダレイヤ識別子を有するピクチャが、出力順で、漸進的デコーダリフレッシュピクチャおよび漸進的デコーダリフレッシュピクチャのすべての関連付けられたピクチャに先行する、という制約を規定する。
【0018】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行することを含み、規則は、ピクチャ、イントラランダムアクセスポイントピクチャ、および非リーディングピクチャが同じレイヤにある場合にのみ、イントラランダムアクセスポイントに関連付けられたピクチャと非リーディングピクチャの復号化順に対して制約を適用することを規定する。
【0019】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行することを含み、規則は、リーディングピクチャ、ランダムアクセス復号化可能なリーディングピクチャ、および漸進的復号化リフレッシュピクチャに関連付けられたランダムアクセスがスキップされたリーディングピクチャの順序を規定する。
【0020】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行することを含み、規則は、クリーンランダムアクセスピクチャのスライスのための参照ピクチャリストに対する制約をレイヤに制限することを規定する。
【0021】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行することを含み、規則は、現在のピクチャの現在のスライスの参照ピクチャリストにおけるアクティブエントリが参照する、利用不可な参照ピクチャを生成するための復号化処理によって生成されたピクチャは存在しないという条件を規定する。
【0022】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行することを含み、規則は、現在のピクチャの現在のスライスの参照ピクチャリストにおけるエントリが参照する、利用不可な参照ピクチャを生成するための復号化処理によって生成されたピクチャは存在しないという条件を規定する。
【0023】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、規則に従って、現在のスライスを含む現在のピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行することを含み、規則は、現在のスライスの参照ピクチャリストが、現在のピクチャに関連付けられたイントラランダムアクセスポイントピクチャに復号化順または出力順で先行するピクチャを指すアクティブエントリを有することは許可されないという条件を規定する。
【0024】
別の例示的な態様において、別の映像処理方法が開示される。この方法は、規則に従って、現在のスライスを含む現在のピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行することを含み、規則は、現在のスライスの参照ピクチャリストが、現在のピクチャに関連付けられたイントラランダムアクセスポイントピクチャに復号化順または出力順で先行するピクチャを指すエントリを有することは許可されないという条件を規定する。
【0025】
さらに別の例示的な態様において、映像エンコーダ装置が開示される。映像エンコーダは、上述した方法を実装するように構成されたプロセッサを備える。
【0026】
さらに別の例示的な態様において、映像デコーダ装置が開示される。映像デコーダは、上述した方法を実装するように構成されたプロセッサを備える。
【0027】
さらに別の例示的な態様では、コードが記憶されたコンピュータ可読媒体が開示される。このコードは、本明細書に記載の方法の1つをプロセッサが実行可能なコードの形式で実施する。
【0028】
これらの及び他の特徴は、本文書全体にわたって説明される。
【図面の簡単な説明】
【0029】
【
図1】映像処理システム例を示すブロック図である。
【
図3】映像処理の例示的な方法のフローチャートである。
【
図4】本開示のいくつかの実施形態による映像コーディングシステムを示すブロック図である。
【
図5】本発明のいくつかの実施形態によるエンコーダを示すブロック図である。
【
図6】本発明のいくつかの実施形態によるデコーダを示すブロック図である。
【
図7A】開示される技術のいくつかの実装形態に基づく、映像処理の例示的な方法のフローチャートを示す。
【
図7B】開示される技術のいくつかの実装形態に基づく、映像処理の例示的な方法のフローチャートを示す。
【
図7C】開示される技術のいくつかの実装形態に基づく、映像処理の例示的な方法のフローチャートを示す。
【
図7D】開示される技術のいくつかの実装形態に基づく、映像処理の例示的な方法のフローチャートを示す。
【
図7E】開示される技術のいくつかの実装形態に基づく、映像処理の例示的な方法のフローチャートを示す。
【
図7F】開示される技術のいくつかの実装形態に基づく、映像処理の例示的な方法のフローチャートを示す。
【
図7G】開示される技術のいくつかの実装形態に基づく、映像処理の例示的な方法のフローチャートを示す。
【
図8A】開示される技術のいくつかの実装形態に基づく、映像処理の例示的な方法のフローチャートを示す。
【
図8B】開示される技術のいくつかの実装形態に基づく、映像処理の例示的な方法のフローチャートを示す。
【
図9A】開示される技術のいくつかの実装形態に基づく、映像処理の例示的な方法のフローチャートを示す。
【
図9B】開示される技術のいくつかの実装形態に基づく、映像処理の例示的な方法のフローチャートを示す。
【発明を実施するための形態】
【0030】
本明細書では、理解を容易にするために章の見出しを使用しており、その技術および各章に記載された実施形態の適用可能性をその章のみに限定するものではない。さらに、H.266という用語は、ある説明において、理解を容易にするためだけに用いられ、開示される技術の範囲を限定するために用いられたものではない。このように、本明細書で説明される技術は、他の映像コーデックプロトコル及び設計にも適用可能である。
【0031】
1.発明の概要
本明細書は、映像コーディング技術に関する。具体的には、異なるタイプのピクチャの定義、復号化順、出力順、および予測関係におけるそれらの関係を含め、ランダムアクセス、サブレイヤスイッチング、およびスケーラビリティのサポートのための様々な態様に関する。この考えは、個々に又は様々な組み合わせで、マルチレイヤ映像コーディング、例えば、現在開発されているVVC(Versatile Video Coding)をサポートする任意の映像コーディング規約又は非標準映像コーデックに適用されてもよい。
【0032】
2.略語
APS Adaptation Parameter Set
AU Access Unit
AUD Access Unit Delimiter
AVC Advanced Video Coding
CLVS Coded Layer Video Sequence
CPB Coded Picture Buffer
CRA Clean Random Access
CTU Coding Tree Unit
CVS Coded Video Sequence
DCI Decoding Capability Information
DPB Decoded Picture Buffer
EOB End Of Bitstream
EOS End Of Sequence
GDR Gradual Decoding Refresh
HEVC High Efficiency Video Coding
HRD Hypothetical Reference Decoder
IDR Instantaneous Decoding Refresh
JEM Joint Exploration Model
MCTS Motion-Constrained Tile Sets
NAL Network Abstraction Layer
OLS Output Layer Set
PH Picture Header
PPS Picture Parameter Set
PTL Profile,Tier and Level
PU Picture Unit
RADL Random Access Decodable Leading (Picture)
RAP Random Access Point
RASL Random Access Skipped Leading (Picture)
RBSP Raw Byte Sequence Payload
RPL Reference Picture List
SEI Supplemental Enhancement Information
SPS Sequence Parameter Set
STSA Step-wise Temporal Sublayer Access
SVC Scalable Video Coding
VCL Video Coding Layer
VPS Video Parameter Set
VTM VVC Test Model
VUI Video Usability Information
VVC Versatile Video Coding
【0033】
3.初期の協議
映像コーディング規格は、主に周知のITU-TおよびISO/IEC規格の開発によって発展してきた。ITU-TはH.261とH.263を作り、ISO/IECはMPEG-1とMPEG-4 Visualを作り、両団体はH.262/MPEG-2 VideoとH.264/MPEG-4 AVC(Advanced Video Coding)とH.265/HEVC規格を共同で作った。H.262以来、映像コーディング規格は、時間予測と変換コーディングが利用されるハイブリッド映像コーディング構造に基づく。HEVCを超えた将来の映像コーディング技術を探索するため、2015年には、VCEGとMPEGが共同でJVET(Joint Video Exploration Team)を設立した。それ以来、多くの新しい方法がJVETによって採用され、JEM(Joint Exploration Model)と呼ばれる参照ソフトウェアに組み込まれてきた。JVETは四半期に1回開催され、新しいコーディング規格はHEVCに比べて50%のビットレート低減を目指している。2018年4月のJVET会議において、新しい映像コーディング規格を「VVC(Versatile Video Coding)」と正式に命名し、その時、第1版のVTM(VVC Test Model)をリリースした。VVCの標準化に寄与する努力が続けられているので、すべてのJVET会議において、VVC標準に新しいコーディング技術が採用されている。毎回の会議の後、VVC作業草案およびテストモデルVTMを更新する。VVCプロジェクトは、現在、2020年7月の会合における技術完成(FDIS)を目指している。
【0034】
3.1 全般およびVVCにおけるSVC(Scalable Video Coding)
SVC(Scalable Video Coding、時には、映像コーディングにおけるスケーラビリティとも呼ばれる)は、BL(Base Layer:基本レイヤ)(時には、RL(Reference Layer:参照レイヤ)と呼ばれる)および1または複数のスケーラブルエンハンスメントレイヤ(EL:Enhancement Layer)が使用される映像コーディングを参照する。SVCにおいて、基本レイヤは、品質の基本レベルの映像データを担持することができる。1または複数のエンハンスメントレイヤは、例えば、より高い空間的、時間的、および/またはSNR(Signal-to-Noise)レベルをサポートするように、追加の映像データを担持することができる。エンハンスメントレイヤは、前の、符号化されたレイヤに対して定義されてもよい。例えば、ボトムレイヤがBLとして機能し、トップレイヤがELとして機能することができる。中間レイヤは、ELまたはRLのいずれか、またはその両方として機能することができる。例えば、中間レイヤ(例えば、最下レイヤでも最上レイヤでもないレイヤ)は、中間レイヤの下のレイヤ、例えば、基本レイヤまたは任意の介在するエンハンスメントレイヤのためのELであってもよく、同時に、中間レイヤの上の1または複数のエンハンスメントレイヤのためのRLとしての役割を果たす。同様に、HEVC規格のマルチビューまたは3D拡張では、複数のビューが存在してもよく、1つのビューの情報を利用して別のビューの情報をコーディング(例えば、符号化または復号化)することができる(例えば、動き推定、動きベクトル予測および/または他の冗長性)。
【0035】
SVCにおいて、エンコーダまたはデコーダで使用されるパラメータは、それらを利用することができるコーディングレベル(例えば、映像レベル、シーケンスレベル、ピクチャレベル、スライスレベル等)に基づいてパラメータセットにグループ分けされる。例えば、ビットストリームにおける異なるレイヤのコーディングされた映像シーケンスによって利用できるパラメータは、VPS(Video Parameter Set)に含まれてもよく、コーディングされた映像シーケンスにおける1または複数のピクチャによって利用されるパラメータは、SPS(Sequence Parameter Set)に含まれてもよい。同様に、ピクチャにおける1または複数のスライスで利用されるパラメータは、PPS(Picture Parameter Set)に含まれてもよく、1つのスライスに固有の他のパラメータは、スライスヘッダに含まれてもよい。同様に、特定のレイヤが所与の時間にどのパラメータセットを使用しているかの指示は、様々なコーディングレベルで提供されてもよい。
【0036】
VVCにおけるRPR(Reference Picture Resampling)のサポートのおかげで、空間的スケーラビリティサポートに必要なアップサンプリングはRPRアップサンプリングフィルタを使用するだけでよいので、追加の信号処理レベルのコーディングツールを必要とせずに、複数のレイヤ、例えば、VVCにおけるSDおよびHD解像度の2つのレイヤを含むビットストリームをサポートするように設計することができる。それにもかかわらず、スケーラビリティサポートのためには、高レベルの構文変更(スケーラビリティをサポートしない場合と比較して)が必要である。スケーラビリティサポートは、VVCバージョン1に規定されている。AVCおよびHEVCの拡張を含む、任意の以前の映像コーディング規格におけるスケーラビリティサポートとは異なり、VVCのスケーラビリティの設計は、シングルレイヤデコーダの設計にできるだけ適したものにされてきた。マルチレイヤビットストリームの復号化能力は、ビットストリームに1つのレイヤしかなかったかの如く規定される。例えば、DPBサイズのような復号化能力は、復号化されるビットストリームのレイヤの数に依存しない手法で規定される。基本的に、シングルレイヤビットストリームのために設計されたデコーダは、マルチレイヤビットストリームを復号化することができるようにするために、多くの変更を必要としない。AVCおよびHEVCの多層拡張の設計と比較して、HLSの態様は、ある程度の柔軟性を犠牲にして大幅に簡略化されてきた。例えば、IRAP AUは、CVSに存在するレイヤの各々にピクチャを含むことが必要である。
【0037】
3.2. HEVCおよびVVCにおけるランダムアクセスとそのサポート
ランダムアクセスとは、復号化順でビットストリームの最初のピクチャでないピクチャからビットストリームのアクセスと復号化を開始することを指す。ブロードキャスト/マルチキャストおよび複数人数によるビデオ会議におけるチューニングおよびチャネル切り替え、ローカル再生およびストリーミングにおける探索、並びにストリーミングにおけるストリーム適応をサポートするために、ビットストリームは、頻繁なランダムアクセスポイントを含むことが必要であり、一般的に、イントラコーディングされたピクチャであるが、インターコーディングされたピクチャであってもよい(例えば、漸進的復号化リフレッシュの場合)。
【0038】
HEVCは、NALユニットタイプによって、NALユニットのヘッダ内のIRAP(Intra Random Access Point)ピクチャを信号通知することを含む。3つのタイプのIRAPピクチャ、即ち、IDR(Instantaneous Decoder Refresh)、CRA(Clean Random Access)、およびBLA(Broken Link Access)のピクチャがサポートされる。IDRピクチャは、インターピクチャ予測構造が現在のGOP(Group-Of-Picture)の前のどのピクチャも参照しないようにするよう、制約しており、従来、クローズドGOPランダムアクセスポイントと呼ばれている。CRAピクチャは、あるピクチャが現在のGOPの前にピクチャを参照することを許可することによって、制限が緩和され、ランダムアクセスの場合、これらはすべて破棄される。CRAピクチャは、従来、オープンGOPランダムアクセスポイントと呼ばれている。BLAピクチャは、通常、例えばストリーム切り替え時に、CRAピクチャにおいて2つのビットストリームまたはその一部をスプライシングすることで生成される。IRAPピクチャのより優れたシステム使用を可能にするために、全部で6つの異なるNALユニットがIRAPピクチャのプロパティを信号通知するように定義され、これらのユニットは、HTTP(DASH)上で動的適応ストリーミングでのランダムアクセスサポートのために使用される、ISOBMFF(ISO Base Media File Format)に定義されるようなストリームアクセスポイントのタイプにより適したものにするために使用できる。
【0039】
VVCは、3つのタイプのIRAPピクチャ、2つのタイプのIDRピクチャ(関連付けられたRADLピクチャを有する1つのタイプおよび関連付けられたRADLピクチャを有しない他のタイプ)およびCRAピクチャの1つのタイプをサポートする。これらは基本的にHEVCと同じである。HEVCにおけるBLAピクチャのタイプは、主に2つの理由により、VVCに含まれていない。
i)BLAピクチャの基本機能性は、CRAピクチャにシーケンス終了NALユニットを加えることで実現でき、このシーケンス終了NALユニットが存在することは、後続のピクチャがシングルレイヤビットストリームにおいて新しいCVSを開始することを示す。
ii)VVCの開発において、NALユニットヘッダのNALユニットタイプフィールドに6ビットの代わりに5ビットを用いることによって示されるように、HEVCよりも少ないNALユニットタイプを規定することが望ましかった。
【0040】
VVCとHEVCとの間のランダムアクセスサポートにおける別の重要な相違は、VVCにおいてより規範的な方法でGDRをサポートすることである。GDRにおいて、ビットストリームの復号化は、インターコーディングされたピクチャから開始することができ、始めは、ピクチャ領域全体を正しく復号化することができないが、複数のピクチャの後に、ピクチャ領域全体を正しく復号化することができるようになる。AVCおよびHEVCはまた、GDRランダムアクセスポイントおよびリカバリポイントの信号通知のためのリカバリポイントSEIメッセージを使用して、GDRをサポートする。VVCにおいて、GDRピクチャを示すために新しいNALユニットタイプが指定され、ピクチャヘッダ構文構造においてリカバリポイントが通知される。CVSおよびビットストリームは、GDRピクチャで開始することができる。これは、1つのビットストリーム全体が、1つのイントラコーディングされたピクチャなしにインターコーディングされたピクチャのみを含むことができることを意味する。GDRサポートをこのように規定する主な利点は、GDRに適合した動作を提供することである。GDRは、エンコーダが、ピクチャ全体をイントラコーディングするのではなく、複数のピクチャにイントラコーディングされたスライスまたはブロックを分布させることによって、ビットストリームのビットレートを平滑化することを可能にし、これにより、ワイヤレスディスプレイ、オンラインゲーム、ドローンに基づくアプリケーションのような超低遅延アプリケーションがより一般的なっているため、今日の方が以前より重要視されているエンドツーエンドの遅延の大幅な低減を可能にする。
【0041】
VVCにおける別のGDRに関連する特徴は、仮想境界信号通知である。GDRピクチャとそのリカバリポイントとの間のピクチャにおける、リフレッシュされた領域(すなわち、正しく復号化された領域)と未リフレッシュの領域との間の境界は、仮想境界として信号通知されてもよく、信号通知された場合、境界をまたがるインループフィルタリングが適用されなくなり、したがって、境界付近のいくつかのサンプルの復号化の不整合が発生しなくなる。これは、アプリケーションがGDR処理中に正しく復号化された領域を表示することを決定した場合に有用となりうる。
【0042】
IRAPピクチャおよびGDRピクチャをまとめて、RAP(Random Access Point)ピクチャと呼ぶことができる。
【0043】
3.3 参照ピクチャ管理およびRPL(Reference Picture List)
参照ピクチャ管理は、インター予測を使用する任意の映像コーディング方式に必要なコア機能性である。それは、DPB(Decoded Picture Buffer)への参照ピクチャの記憶およびそこからの参照ピクチャの除去を管理し、且つ参照ピクチャをRPL内の適切な順序に置く。
【0044】
HEVCの参照ピクチャ管理は、参照ピクチャのマーキングおよびDPB(Decoded Picture Buffer)からの除去、並びにRPLC(Reference Picture List Construction)を含み、AVCのものとは異なる。AVCにおいて、スライディングウィンドウに適応MMCO(Memory Management Control Operation)を加えたものに基づく参照ピクチャマーキング機構の代わりに、HEVCは、いわゆるRPS(Reference Picture Set)に基づく参照ピクチャ管理およびマーキング機構を規定し、その結果、RPLCは、RPS機構に基づく。RPSは、ピクチャに関連付けられた参照ピクチャのセットで構成され、復号化順で関連付けられたピクチャに先行する全ての参照ピクチャで構成され、復号化順で関連付けられたピクチャまたは関連付けられたピクチャの後に続く任意のピクチャのインター予測に使用してもよい。参照ピクチャセットは、参照ピクチャの5つのリストからなる。最初の3つのリストは、現在のピクチャのインター予測において使用してもよく、かつ、復号化順において現在のピクチャに続く1または複数のピクチャのインター予測において使用してもよい、全ての参照ピクチャを含む。他の2つのリストは、現在のピクチャのインター予測において使用されないが、復号化順において現在のピクチャに続く1または複数のピクチャのインター予測において使用してもよい、全ての参照ピクチャからなる。RPSは、主に誤り耐性を改善するために、AVCにおけるような「インターコーディングされた」信号通知の代わりに、DPBステータスの「イントラコーディングされた」信号通知を提供する。HEVCにおけるRPLC処理は、各参照インデックスのRPSサブセットにインデックスを信号通知することによって、RPSに基づいており、この処理は、AVCにおけるRPLC処理よりも簡単である。
【0045】
VVCにおける参照ピクチャ管理は、AVCよりもHEVCに類似しているが、いくぶんシンプルでロバストである。これらの標準におけるように、2つのRPL、list0およびlist1が導出されるが、これらは、HEVCで使用される参照ピクチャセットの概念又はAVCで使用される自動スライディングウィンドウ処理に基づくものではなく、より直接的に信号通知される。参照ピクチャは、RPLのためにアクティブエントリおよび非アクティブエントリのいずれかとしてリストされ、アクティブエントリのみが、現在のピクチャのCTUのインター予測における参照インデックスとして使用してもよい。非アクティブエントリは、ビットストリームの後半に到着する他のピクチャを参照するために、DPBに保持されるべき他のピクチャを示す。
【0046】
3.4 パラメータセット
AVC、HEVC、VVCはパラメータセットを指定する。パラメータセットのタイプは、SPS、PPS、APS、VPSを含む。SPSおよびPPSは、AVC、HEVC、VVCのすべてでサポートされている。VPSは、HEVCから導入されたものであり、HEVCおよびVVCの両方に含まれる。APSは、AVCまたはHEVCに含まれていなかったが、最近のVVC草案のテキストに含まれている。
【0047】
SPSは、シーケンスレベルのヘッダ情報を伝送するように設計され、PPSは、頻繁に変化しないピクチャレベルのヘッダ情報を担持するように設計された。SPSおよびPPSを用いると、シーケンスまたはピクチャごとに頻繁に変化する情報を繰り返す必要がないので、この情報の冗長な信号通知を回避することができる。さらに、SPSおよびPPSを使用することは、重要なヘッダ情報の帯域外伝送を有効化し、それにより、冗長な伝送の必要性を回避するだけでなく、誤り耐性を改善する。
【0048】
VPSは、マルチレイヤのビットストリームのすべてのレイヤに共通であるシーケンスレベルのヘッダ情報を担持するために導入された。
【0049】
APSは、コーディングするためのかなりのビットを必要とし、複数のピクチャによって共有され、そして、シーケンスにおいて非常に多くの異なる変形例が存在し得る、そのようなピクチャレベルまたはスライスレベルの情報を担持するために導入された。
【0050】
3.5 VVCにおける関連定義
最近のVVCテキストJVET-Q2001-vE/v15)における関連する定義は、以下のとおりである。
(特定のピクチャの)関連付けられたIRAPピクチャ:復号化順における前のIRAPピクチャ(存在する場合)は、特定のピクチャと同じ値nuh_layer_idを有する。
CRA(Clean Random Access)PU:コーディングされたピクチャがCRAピクチャであるPU。
CRA(Clean Random Access)ピクチャ:各VCL NALユニットのnal_unit_typeがCRA_NUTであるIRAPピクチャ。
CVS(Coded Video Sequence):復号化順において、すべての後続のAU(ただし、CVSS AUである後続のAUは含まない)を含む、CVSS AUでない0以上のAUが続く、CVSS AUから構成される、AUのシーケンス。
CVSS(Coded Video Sequence Start)AU:CVSの各レイヤにPUがあり、各PUのコーディングされたピクチャがCLVSSピクチャであるAU。
GDR(Gradual Decoding Refresh)AU:本PU各々のコーディングされたピクチャがGDRピクチャであるAU。
GDR(Gradual Decoding Refresh)PU:コーディングされたピクチャがGDRピクチャであるPU。
GDR(Gradual Decoding Refresh)ピクチャ:NALユニットのnal_unit_typeがGDR_NUTであるピクチャ。
IDR(Instantaneous Decoding Refresh)PU:コーディングされたピクチャがIDRピクチャであるPU
IDR(Instantaneous Decoding Refreshu)ピクチャ:各VCL NALユニットのnal_unit_typeがIDR_W_RADLまたはIDR_N_LPであるIRAPピクチャ
IRAP(Intra Random Access Point)AU:CVSの各レイヤにPUが存在し、各PUのコーディングされたピクチャがIRAPピクチャであるAU。
IRAP(Intra Random Access Point)PU:コーディングされたピクチャがIRAPピクチャであるPU
IRAP(Intra Random Access Pint)ピクチャ:IDR_W_RADLからCRA_NUTの範囲内で、すべてのVCL NALユニットのnal_unit_typeが同じ値であるコーディングされたピクチャ。
リーディングピクチャ:関連付けられたIRAPピクチャと同じレイヤにあり、関連付けられたIRAPピクチャに出力順において先行するピクチャ
RADL(Random Access Decodable Leading)PU:コーディングされたピクチャがRADLピクチャであるPU。
RADL(Random Access Decodable Leading)ピクチャ:各VCL NALユニットのnal_unit_typeがRADL_NUTであるピクチャ。
RASL(Random Access Skipped Leading)PU:コーディングされたピクチャが、RASLピクチャであるPU。
RASL(Random Access Skipped Leading)ピクチャ:各VCL NALユニットのnal_unit_typeがRASL_NUTであるピクチャ。
STSA(Step-wise Temporal Sublayer Access)PU:コーディングされたピクチャがSTSAピクチャであるPU。
STSA(Step-wise Temporal Sublayer Access)ピクチャ:各VCL NALユニットのnal_unit_typeがSTSA_NUTであるピクチャ。
注-STSAピクチャは、インター予測参照に対してSTSAピクチャと同じTemporalIdを有するピクチャを使用しない。STSAピクチャと同じTemporalIdを有する、復号化順でSTSAピクチャの後続のピクチャは、インター予測参照にはSTSAピクチャと同じTemporalIdを有する、復号化順でSTSAピクチャの前のピクチャを使用しない。STSAピクチャは、STSAピクチャにおいて、STSAピクチャを含むサブレイヤに対して、直下のサブレイヤからのアップスイッチを有効化する。STSAピクチャのTemporalIdは0より大きくなければならない。
トレイリングピクチャ:出力順の関連付けられたIRAPピクチャに続く非IRAPピクチャであり、STSAピクチャではない。
注-IRAPピクチャに関連付けられたトレイリングピクチャも、復号化順において、IRAPピクチャに続く。出力順において関連付けられたIRAPピクチャに続き、復号化順において関連付けられたIRAPピクチャに先行するピクチャは、許可されない。
【0051】
3.6. VVCにおけるNALユニットヘッダ構文および意味論
最近のVVCテキスト(JVET-Q2001-vE/v15)において、NALユニットヘッダ構文および意味論は以下のとおりである。
【0052】
7.3.1.2 NALユニットヘッダ構文
【0053】
【0054】
7.4.2.2. NALユニットヘッダの意味論
forbidden_zero_bitは、0に等しいものとする。
nuh_reserved_zero_bitは、0に等しいものとする。nuh_reserved_zero_bitの値1は、将来、ITU-T|ISO/IECにより規定してもよい。デコーダは、nuh_reserved_zero_bitが1に等しいNALユニットを無視する(すなわち、ビットストリームから削除し、廃棄する)。
nuh_layer_idは、VCL NALユニットが属するレイヤの識別子、または非VCL NALユニットが適用されるレイヤの識別子を規定する。nuh_layer_idの値は、0から55までの範囲内にあるものとする。nuh_layer_idの他の値は、ITU-T|ISO/IECで将来使用されるよう、確保されている。
nuh_layer_idの値は、1つのコーディングされたピクチャのすべてのVCL NALユニットに対して同じであるものとする。コーディングされたピクチャまたはPUのnuh_layer_idの値は、コーディングされたピクチャまたはPUのVCL NALユニットのnuh_layer_idの値である。
AUD、PH、EOS、FD NALユニットのnuh_layer_idの値は、以下のように制約される。
-nal_unit_typeがAUD_NUTに等しい場合、nuh_layer_idはvps_layer_id[0]に等しいものとする。
-あるいは、nal_unit_typeがPH_NUT、EOS_NUT、FD_NUTに等しい場合、nuh_layer_idは関連付けられたVCL NALユニットのnuh_layer_idに等しいものとする。
注1-DCI、VPS、およびEOB NALユニットのnuh_layer_idの値は制約されていない。
【0055】
nal_unit_typeの値は、CVSS AUのすべてのピクチャについて同じものとする。
nal_unit_typeは、表5で規定されているように、NALユニットタイプ、すなわちNALユニットに含まれるRBSPデータ構造のタイプを規定する。
UNSPEC_28..UNSPEC_31の範囲内にあり、意味論が規定されていないnal_unit_typeを有するNALユニットは、本明細書で規定される復号化処理に影響を及ぼさないものとする。
注2-UNSPEC_28...UNSPEC_31の範囲内にあるNALユニットタイプ、アプリケーションにより決定されたとおりに使用されてもよい。本明細書では、nal_unit_typeのこれらの値の復号化処理は規定されていない。異なるアプリケーションはこれらのNALユニットタイプを異なる目的で使用してもよいので、これらのnal_unit_type値を有するNALユニットを生成するエンコーダの設計、およびこれらのnal_unit_type値を有するNALユニットのコンテンツを解釈するデコーダの設計にあたり、特に注意しなければならない。本明細書は、これらの値の管理を定義していない。これらのnal_unit_type値は、使用の「コリジョン」(すなわち、同じnal_unit_type値に対するNALユニットのコンテンツの意味の異なる定義)が重要でない、または可能でない、または管理された状況、例えば、制御アプリケーションまたはトランスポート仕様において、またはビットストリームが分散される環境を制御することによって定義または管理されるコンテキストでの使用にのみ適している場合がある。
【0056】
(附属書Cに規定されるように)ビットストリームのDUにおけるデータの数を決定すること以外の目的のために、デコーダは、nal_unit_typeの予約済みの値を使用するすべてのNALユニットのコンテンツを無視する(ビットストリームから取り除き、廃棄する)ものとする。
注3-この要件は、本明細書に適合する拡張を将来的に定義することを可能にする。
【0057】
表5-NALユニットタイプコードおよびNALユニットタイプクラス
【0058】
【0059】
【0060】
注4-CRA(Clean Random Access)ピクチャは、ビットストリームに存在する関連付けられたRASLまたはRADLピクチャを有してもよい。
注5-IDR_N_LPに等しいnal_unit_typeを有するIDR(Instantaneous Decoding Refresh)ピクチャは、ビットストリームに存在する関連付けられたリーディングピクチャを有さない。IDR_W_RADLに等しいnal_unit_typeを有するIDRピクチャは、ビットストリームに存在する関連付けられたRASLピクチャ有していないが、ビットストリームに関連付けられたRADLピクチャを有していてもよい。
【0061】
nal_unit_typeの値は、サブピクチャのすべてのVCL NALユニットについて同じものとする。サブピクチャは、サブピクチャのVCL NALユニットと同じNALユニットタイプを有するとみなされる。
任意の特定のピクチャのVCL NALユニットに対して、以下が適用される。
-mixed_nalu_types_in_pic_flagが0に等しい場合、nal_unit_typeの値は、ピクチャの全てのVCL NALユニットについて同じであるべきであり、ピクチャまたはPUは、ピクチャまたはPUのコーディングされたスライスNALユニットと同じNALユニットタイプを有するとみなされる。
-そうでない場合(mixed_nalu_types_in_pic_flagが1に等しい)、ピクチャは、少なくとも2つのサブピクチャを有し、ピクチャのVCL NALユニットは、以下のような正確に2つの異なるnal_unit_type値を有するべきである。ピクチャの少なくとも1つのサブピクチャのVCL NALユニットは、STSA_NUT、RADL_NUT、RASL_NUT、IDR_W_RADL、IDR_N_LP、またはCRA_NUTに等しいnal_unit_typeの特定の値をすべて有する一方、ピクチャ内の他のサブピクチャのVCL NALユニットは、TRAIL_NUT、RADL_NUT、またはRASL_NUTに等しいnal_unit_typeの異なる値をすべて有するべきである。
【0062】
シングルレイヤビットストリームの場合、以下の制約が適用される。
-各ピクチャは、復号化順において、ビットストリームの第1のピクチャを除き、復号化順において前のIRAPピクチャに関連付けられていると考えられる。
-ピクチャがIRAPピクチャのリーディングピクチャである場合、RADLまたはRASLピクチャとする。
-ピクチャがIRAPピクチャのトレイリングピクチャである場合、RADLまたはRASLピクチャではないものとする。
-IDRピクチャに関連付けられたRASLピクチャは、ビットストリームに含まれていないものとする。
-IDR_N_LPに等しいnal_unit_typeを有するIDRピクチャに関連付けられたRADLピクチャは、ビットストリームに含まれていないものとする。
注6-各パラメータセットが参照されるときに、(ビットストリームにおいて、または本明細書で規定されていない外部手段によって)利用可能である限り、IRAP PUの前にあるすべてのPUを廃棄することで(且つIRAPピクチャおよび後続のすべての非RASLピクチャを復号化順に正しく復号化することで)、IRAP PUの位置でランダムアクセスを行うことができる。
-復号化順において、IRAPピクチャに先行するピクチャは、出力順でIRAPピクチャに先行し、出力順において、IRAPピクチャに関連付けられたRADLピクチャに先行するものとする。
-CRAピクチャに関連付けられたRASLピクチャは、出力順でCRAピクチャに関連付けられたRADLピクチャに先行するものとする。
-CRAピクチャに関連付けられたRASLピクチャは、復号化順においてCRAピクチャに先行するIRAPピクチャに、出力順において続くものとする。
-field_seq_flagが0に等しく、現在のピクチャがIRAPピクチャに関連付けられたリーディングピクチャに等しい場合、復号化順において、同じIRAPピクチャに関連付けられたすべての非リーディングピクチャに先行するものとする。そうでない場合、picAおよびpicBを、それぞれ、IRAPピクチャに関連付けられた、復号化順において、最初のおよび最後のリーディングピクチャとすると、復号化順においてpicAに先行する最大で1つの非リーディングピクチャが存在し、復号化順においてpicAおよびpicBの間に非リーディングピクチャはないものとする。
【0063】
nuh_temporal_id_plus1-1は、NALユニットの時間的識別子を規定する。
nuh_temporal_id_plus1の値は0に等しくないものとする。
変数TemporalIdは、以下のように導出される。
TemporalId=nuh_temporal_id_plus1-1 (36)
nal_unit_typeがIDR_W_RADL~RSV_IRAP_12の範囲内にある場合、TemporalIdは0に等しいものとする。
nal_unit_typeがSTSA_NUTに等しく、vps_independent_layer_flag[GeneralLayerIdx[nuh_layer_id]]が1に等しい場合、TemporalIdは0に等しくないものとする。
TemporalIdの値は、AUのすべてのVCL NALユニットに対して同じであるものとする。コーディングされたピクチャ、PU、またはAUのTemporalIdの値は、コーディングされたピクチャ、PU、またはAUのVCL NALユニットのTemporalIdの値である。サブレイヤ表現のTemporalIdの値は、サブレイヤ表現におけるすべてのVCL NALユニットのTemporalIdの最大値である。
【0064】
非VCL NALユニットのTemporalIdの値は、以下のように制約される。
-nal_unit_typeがDCI_NUT、VPS_NUT、VPS_NUT、またはSPS_NUTに等しい場合、TemporalIdは0に等しく、NALユニットを含むAUのTemporalIdは0に等しいものとする。
-そうでない場合、nal_unit_typeがPH_NUTに等しい場合、TemporalIdはNALユニットを含むPUのTemporalIdであるものとする。
-そうでない場合、nal_unit_typeがEOS_NUTまたはEOB_NUTに等しい場合、TemporalIdは0に等しいものとする。
-そうでない場合、nal_unit_typeがAUD_NUT、FD_NUT、PREFIX_SEI_NUT、またはSUFFIX_SEI_NUTに等しい場合、TemporalIdはNALユニットを含むAUのTemporalIdであるものとする。
-そうでない場合、nal_unit_typeがPPS_NUT、PREFIX_APS_NUT、またはSUFFIX_APS_NUTに等しい場合、TemporalIdはNALユニットを含むPUのTemporalId以上であるものとする。
注7-NALユニットが非VCL NALユニットである場合、TemporalIdの値は、非VCL NALユニットが適用されるすべてのAUのTemporalId値の最小値に等しい。nal_unit_typeがPPS_NUT、PREFIX_APS_NUT、またはSUFFIX_APS_NUTに等しい場合、TemporalIdは、包含しているAUのTemporalId以上であってもよく、すべてのPPSおよびAPSがビットストリームの開始に含まれてもよく(例えば、それらが帯域外に輸送されている場合、受信機はそれらをビットストリームの先頭に配置する)、第1のコーディングされたピクチャは、0に等しいTemporalIdを有する。
【0065】
3.7. VVCにおけるピクチャヘッダ構造の構文及び意味論
最近のVVCテキスト(JVET-Q2001-vE/v15)において、本発明に最も関連するピクチャヘッダ構造の構文及び意味論は、以下のとおりである。
【0066】
7.3.2.7 ピクチャヘッダ構造構文
【0067】
【0068】
7.4.3.7 ピクチャヘッダ構造意味論
PH構文構造は、PH構文構造に関連付けられたコーディングされたピクチャのすべてのスライスに共通の情報を含む。
1に等しいgdr_or_irap_pic_flagは、現在のピクチャがGDRまたはIRAPピクチャであることを規定する。0に等しいgdr_or_irap_pic_flagは、現在のピクチャがGDRまたはIRAPピクチャであってもなくてもよいことを規定する。
1に等しいgdr_pic_flagは、PHに関連付けられたピクチャがGDRピクチャであることを規定する。0に等しいgdr_pic_flagは、PHに関連付けられたピクチャがGDRピクチャでないことを規定する。存在しない場合、gdr_pic_flagの値は0に等しいと推測される。gdr_enabled_flagが0に等しい場合、gdr_pic_flagの値は0に等しいものとする。
注1-gdr_or_irap_pic_flagが1に等しく、gdr_pic_flagが0に等しい場合、PHに関連付けられたピクチャはIRAPピクチャである。
...
【0069】
ph_pic_order_cnt_lsbは、現在のピクチャに対するピクチャオーダカウントモジュロMaxPicOrderCntLsbを規定する。ph_pic_order_cnt_lsb構文要素の長さは、log2_max_pic_order_cnt_lsb_minus4+4ビットである。ph_pic_order_cnt_lsbの値は、0からMaxPicOrderCntLsb-1の範囲内とする。
no_output_of_prior_pics_flagは、附属書Cに規定されるように、ビットストリームの最初のピクチャでないCLVSSピクチャの復号化後の、DPBにおける前回復号化されたピクチャの出力に影響を及ぼす。
recovery_poc_cntは、出力順において、復号化されたピクチャのリカバリポイントを規定する。現在のピクチャがPHに関連付けられたGDRピクチャであり、現在のGDRピクチャのPicOrderCntValにrecovery_poc_cntの値を加えたものであるPicOrderCntValを有するCLVSにおいて、復号化順において現在のGDRピクチャに続くピクチャpicAが存在する場合、ピクチャpicAをリカバリポイントピクチャと呼ぶ。そうでない場合、現在のピクチャのPicOrderCntValにrecovery_poc_cntの値を加えたものよりも大きいPicOrderCntValを有する、出力順における第1のピクチャを、リカバリポイントピクチャと呼ぶ。リカバリポイントピクチャは、復号化順において、現在のGDRピクチャに先行しないものとする。recovery_poc_cntの値は、0からMaxPicOrderCntLsb-1の範囲内とする。
【0070】
現在のピクチャがGDRピクチャである場合、変数RpPicOrderCntValは、以下のように導出される。
RpPicOrderCntVal=PicOrderCntVal+recovery_poc_cnt (81)
注2-gdr_enabled_flagが1に等しく、現在のピクチャのPicOrderCntValが関連付けられたGDRピクチャのRpPicOrderCntVal以上である場合、出力順において現在および後続の復号化されたピクチャが、復号化順において関連付けられたGDRピクチャに先行する前のIRAPピクチャ(存在する場合)から復号化処理を開始することによって生成された対応するピクチャに完全に一致する。
...
【0071】
3.8. VVCにおけるRPLの制約
最近のVVCテキスト(JVET-Q2001-vE/v15)において、VVCにおけるRPLの制約は、以下のとおりである(VVCの条項8.3.2 参照ピクチャリスト構築の復号化処理の一部として)。
【0072】
8.3.2 参照ピクチャリスト構築のための復号化処理
...
各iが0または1に等しい場合、RefPicList[i]における第1のNumRefIdxActive[i]エントリは、RefPicList[i]におけるアクティブエントリと称され、RefPicList[i]における他のエントリは、RefPicList[i]における非アクティブエントリと称される。
注2-特定のピクチャは、RefPicList[0]におけるエントリおよびRefPicList[1]におけるエントリの両方により参照されることがあり得る。また、特定のピクチャが、RefPicList[0]における複数のエントリにより、またはRefPicList[1]における複数のエントリにより参照されることもあり得る。
注3-RefPicList[0]のアクティブエントリおよびRefPicList[1]のアクティブエントリは、現在のピクチャおよび復号化順において現在のピクチャに続く1または複数のピクチャのインター予測のために使用してもよい全ての参照ピクチャをまとめて参照する。RefPicList[0]の非アクティブエントリおよびRefPicList[1]の非アクティブエントリは、現在のピクチャのインター予測のためには使用されないが、復号化順において現在のピクチャに続く1または複数のピクチャのためのインター予測において使用してもよい全ての参照ピクチャをまとめて参照する。
注4-RefPicList[0]またはRefPicList[1]には、対応するピクチャがDPBに存在しないため、「参照ピクチャなし」に等しいエントリが1または複数ある場合がある。「参照ピクチャなし」に等しいRefPicList[0]またはRefPicList[0]における各非アクティブエントリは、無視されるべきである。「参照ピクチャなし」に等しいRefPicList[0]またはRefPicList[1]における各アクティブエントリに対し、意図しないピクチャ損失を推測すべきである。
【0073】
ビットストリーム適合性の要件は、以下の制約が適用されることである。
-各iが0または1に等しい場合、num_ref_entries[i][RplsIdx[i]]は、NumRefIdxActive[i]よりも小さくてはならない。
RefPicList[0]またはRefPicList[1]の各アクティブエントリによって参照されるピクチャは、DPBに含まれ、かつ現在のピクチャのTemporalId以下とする。
-RefPicList[0]またはRefPicList[1]の各エントリによって参照されるピクチャは、現在のピクチャではなく、0に等しいnon_reference_picture_flagを有するものとする。
-ピクチャのスライスのRefPicList[0]またはRefPicList[1]におけるSTRPエントリと、同じピクチャの同じスライスまたは異なるスライスのRefPicList[0]またはRefPicList[1]におけるLTRPエントリとは、同じピクチャを参照しないものとする。
-現在のピクチャのPicOrderCntValとエントリにより参照されるピクチャのPicOrderCntValとの差分が224以上であるRefPicList[0]またはRefPicList[1]において、LTRPエントリはないものとする。
-setOfRefPicsは、RefPicList[0]において現在のピクチャと同じnuh_layer_idを有する全てのエントリと、RefPicList[1]において現在のピクチャと同じnuh_layer_idを有する全てのエントリとにより参照される固有のピクチャのセットである。setOfRefPicsにおけるピクチャの数は、MaxDpbSize-1以下でなければならず、MaxDpbSizeは、A.4.2項で規定されるとおりであり、setOfRefPicsは、ピクチャの全てのスライスで同じである。
【0074】
-現在のスライスがSTSA_NUTに等しいnal_unit_typeを有する場合、現在のピクチャのものとTemporalIdが等しく、かつnuh_layer_idが現在のピクチャのものと等しいRefPicList[0]またはRefPicList[1]においてアクティブエントリが存在しないものとする。
-現在のピクチャが、復号化順において、現在のピクチャのものとTemporalIdが等しく、かつ現在のピクチャのものとnuh_layer_idが等しいSTSAピクチャの後に続くピクチャである場合、復号化順において、STSAピクチャに先行し、現在のピクチャのものとTemporalIdが等しく、かつ現在のピクチャのものとnuh_layer_idが等しいピクチャは、RefPicList[0]またはRefPicList[1]にアクティブエントリとして含まれるピクチャはないものとする。
-現在のピクチャがCRAピクチャの場合、RefPicList[0]またはRefPicList[1]のエントリにより参照されるピクチャであって、復号化順において先行するIRAPピクチャ(存在する場合)に、出力順または復号化順において、先行するピクチャはないものとする。
【0075】
-現在のピクチャがトレイリングピクチャである場合、RefPicList[0]またはRefPicList[1]のアクティブエントリにより参照されるピクチャであって、現在のピクチャに関連付けられたIRAPピクチャのために利用不可な参照ピクチャを生成するための復号化処理によって生成されたピクチャはないものとする。
-現在のピクチャが、復号化順と出力順の両方において、同じIRAPピクチャに関連付けられた1または複数のリーディングピクチャに続くトレイリングピクチャである場合、RefPicList[0]またはRefPicList[1]のエントリにより参照されるピクチャであって、現在のピクチャに関連付けられたIRAPピクチャのために利用不可な参照ピクチャを生成するための復号化処理により生成されたピクチャはないものとする。
-現在のピクチャがリカバリポイントピクチャであるか、または出力順においてリカバリポイントピクチャに後続するピクチャである場合、リカバリポイントピクチャのGDRピクチャのために利用不可な参照ピクチャを生成するための復号化処理によって生成されたピクチャを含むRefPicList[0]またはRefPicList[1]のエントリはないものとする。
【0076】
-現在のピクチャがトレイリングピクチャである場合、出力順または復号化順において、関連付けられたIRAPピクチャに先行するRefPicList[0]またはRefPicList[1]のアクティブエントリにより参照されるピクチャはないものとする。
-現在のピクチャが、復号化順および出力順の両方において、同じIRAPピクチャに関連付けられた1または複数のリーディングピクチャに続くトレイリングピクチャである場合、出力順または復号化順において、関連付けられたIRAPピクチャに先行するRefPicList[0]又はRefPicList[1]におけるエントリにより参照されるピクチャはないものとする。
-現在のピクチャがRADLピクチャである場合、RefPicList[0]またはRefPicList[1]に以下のいずれかに該当するアクティブエントリはないものとする。
○RASL ピクチャ
○利用不可な参照ピクチャを生成するために、復号化処理によって生成されたピクチャ
○復号順において、関連付けられたIRAPピクチャに先行するピクチャ
【0077】
-現在のピクチャのスライスのRefPicList[0]またはRefPicList[1]における各ILRPエントリにより参照されるピクチャは、現在のピクチャと同じAU内にあるものとする。
-現在のピクチャのスライスのRefPicList[0]またはRefPicList[1]における各ILRPエントリにより参照されるピクチャは、DPBに存在し、且つ現在のピクチャのものよりも小さいnuh_layer_idを有するものとする。
-スライスのRefPicList[0]またはRefPicList[1]における各ILRPエントリは、アクティブエントリであるものとする。
...
【0078】
4.開示される技術的解決策によって対処する技術的問題
最近のVVCテキスト(JVET-Q2001-vE/v15)における既存の設計は、以下の問題を有する。
1)関連付けられたIRAPピクチャの定義は、特定のピクチャの関連付けられたIRAPピクチャが特定のピクチャと同じレイヤに属するように更新されるべきである。
2)現在のトレイリングピクチャの定義は、以下の通りである。
トレイリングピクチャ:出力順において、関連付けられたIRAPピクチャに続き、かつ、STSAピクチャではない非IRAPピクチャ。
そのため、ビットストリームにはトレイリングピクチャが存在するためのIRAPピクチャが必要であり、ビットストリームにIRAPピクチャがない場合、NALユニットタイプ値TRAIL_NUTを使用できない。しかし、GDRピクチャに関連付けられた非STSAピクチャは、NALユニットタイプ値TRAIL_NUTを使用する必要がある。
3)復号化順におけるIRAPピクチャの前のピクチャの出力順に対する既存の制約は、レイヤ内のピクチャにのみ適用されるように規定される必要がある。
4)GDRピクチャと、復号化順においてその前後のピクチャの間においては相対的な復号化順および出力順に対する制約がない。
5)IRAPピクチャおよび一部の非リーディングピクチャに関連付けられたピクチャの復号化順に対する既存の制約は、レイヤ内のピクチャにのみ適用されるように規定される必要がある。
【0079】
6)現在、GDRピクチャに関連付けられたリーディングピクチャ、RADLピクチャ、およびRASLピクチャはサポートされていない。
7)CRAピクチャのためのRPLに対する既存の制約は、レイヤ内のピクチャにのみ適用されるように規定される必要がある。
8)STSAピクチャ、GDRピクチャに関連付けられたトレイリングピクチャ、およびNoOutputBeforeRecoveryFlagが0に等しいGDRピクチャの場合、利用不可な参照ピクチャを生成するための復号化処理によって生成されないRPLのアクティブエントリに対する制約が欠落している。
9)STSAピクチャ、IDRピクチャ、NoOutputBeforeRecoveryFlagが0に等しいCRAピクチャ等の場合、利用不可な参照ピクチャを生成するための復号化処理によって生成されないRPLのエントリに対する制約が欠落している。
10)STSAピクチャの場合、出力順または復号化順において、関連付けられたIRAPピクチャに先行しないようにRPLにおけるアクティブエントリに対する制約が欠落している。
11)STSAピクチャの場合、出力順または復号化順において、関連付けられたIRAPピクチャに先行しないようにRPLにおけるエントリに対する制約が欠落している。
【0080】
5.実施例及び技術的解決策の例
上述した課題等を解決するために、以下に示す方法が開示されている。本発明は、一般的な概念を説明するための例と見なされるべきであり、狭い意味で解釈されるべきではない。さらに、本発明は、個々に適用されてもよいし、任意に組み合わせて適用されてもよい。
1)課題1を解決するために、関連付けられたIRAPピクチャの定義は、特定のピクチャの関連付けられたIRAPピクチャが特定のピクチャと同じレイヤに属するように更新される。
2)課題2を解決するために、トレイリングピクチャの定義を更新し、トレイリングピクチャはGDRピクチャと関連付けられてもよい。
a.さらに、関連付けられたGDRピクチャの定義を追加し、関連付けられたIRAPピクチャの定義を更新し、ビットストリームにおける第1のピクチャ以外のレイヤの各ピクチャを、復号化順において、同じレイヤの前のIRAPまたはGDRピクチャのうちのより近い方に関連付けるように特定する。
b.さらに、トレイリングピクチャが関連付けられたIRAPまたはGDRピクチャの出力順に従うことを要求する制約が追加される。
【0081】
3)課題3を解決するために、復号化順においてIRAPピクチャに先行するピクチャの出力順に関する既存の制約を、レイヤ内のピクチャに制限を課すのみになるように更新する。
a.一例において、この制約は、以下のように規定される。nuh_layerIdに等しいnuh_layer_idを有するIRAPピクチャに復号順において、先行し、特定の値layerIdに等しいnuh_layer_Idを有する任意のピクチャは、出力順において、IRAPピクチャおよびその関連付けられたRADLピクチャに先行する。
4)課題4を解決するために、以下の制約条件のうちの1または複数を追加する。
a.トレイリングピクチャは、出力順において、関連付けられたIRAPまたはGDRピクチャに後続する。
b.layerIdに等しいnuh_layer_idを有するGDRピクチャに、復号順において、先行し、特定の値layerIdに等しいnuh_layer_idを有する任意のピクチャは、出力順において、GDRピクチャおよびその関連付けられたピクチャに先行する。
【0082】
5)課題5を解決するために、IRAPピクチャおよび一部の非リーディングピクチャに関連付けられたピクチャの復号順に関する既存の制約を、1つのレイヤ内のピクチャに制限を課すのみになるように更新する。
a.一例において、この制約は、以下のように規定される。-field_seq_flagが0に等しく、かつnuh_layer_idが特定の値layerIdに等しい現在のピクチャが、IRAPピクチャに関連付けられたリーディングピクチャである場合、それは、同じIRAPピクチャに関連付けられた全ての非リーディングピクチャに、復号化順において、先行するものとする。そうでない場合、picAおよびpicBを、それぞれ、復号化順において、IRAPピクチャに関連付けられた、最初と最後のリーディングピクチャとすると、復号化順においてpicAに先行する、layerIdに等しいnuh_layer_idを有する非リーディングピクチャが最大1つ存在し、かつ、復号化順において、picAとpicBの間でlayerIdに等しいnuh_layer_idを有する非リーディングピクチャは存在しないものとする。
b.別の例において、この制約は、以下のように規定される。field_seq_flagが0に等しく、現在のピクチャがIRAPピクチャに関連付けられたリーディングピクチャに等しい場合、それは、復号化順において、同じIRAPピクチャに関連付けられたすべての非リーディングピクチャに先行するものとする。そうでない場合、picAおよびpicBを、それぞれ、復号順において、IRAPピクチャに関連付けられた、最初のおよび最後のリーディングピクチャとすると、復号化順においてpicAに先行する、IRAPピクチャに関連付けられた非リーディングピクチャが最大1つ存在し、かつ、復号化順において、picAおよびpicBの間にIRAPピクチャに関連付けられた非リーディングピクチャは存在しないものとする。
【0083】
6)課題6を解決するために、GDRピクチャに関連付けられたリーディングピクチャ、RADLピクチャ、およびRASLピクチャを定義し、規定する。
a.GDRピクチャに関連付けられたリーディングピクチャは、復号化順においてGDRピクチャに続き、出力順においてそれに先行するピクチャである。
b.GDRピクチャに関連付けられたRADLピクチャは、GDRピクチャに関連付けられたリーディングピクチャであり、RADL_NUTに等しいnal_unit_typeを有する。
c.GDRピクチャに関連付けられたRASLピクチャは、GDRピクチャに関連付けられたリーディングピクチャであり、RASL_NUTに等しいnal_unit_typeを有する。
【0084】
7)課題7を解決するために、CRAピクチャのRPLに関する既存の制約を、レイヤ内のピクチャにのみ制限を課すように更新する。
a.一例において、この制約は、以下のように規定される。
現在のピクチャが、特定の値layerIdに等しいnuh_layer_idを有し、CRAピクチャである場合、出力順または復号化順において、復号化順にてlayerIdに等しいnuh_layer_idを有する先行IRAPピクチャ(存在する場合)に先行する、RefPicList[0]またはRefPicList[1]のエントリに参照されるピクチャは存在しないものとする。
【0085】
8)課題8を解決するために、以下の制約条件を規定する。
特定の値layerIdに等しいnuh_layer_idを有する現在のピクチャが、1に等しいNoOutputBeforeRecoveryFlagを有するCRAピクチャに関連付けられたRASLピクチャ、1に等しいNoOutputBeforeRecoveryFlagを有するGDRピクチャ、または、1に等しいNoOutputBeforeRecoveryFlagかつlayerIdに等しいnum_layer_idを有するGDRピクチャの復元ピクチャでない場合、利用不可な参照ピクチャを生成するための復号化処理にて生成された、RefPicList[0]またはRefPicList[1]のアクティブエントリにより参照されるピクチャは存在しないことが規定される。
【0086】
9)課題9を解決するために、以下の制約条件を規定する。
特定の値layerIdに等しいnuh_layer_idを有する現在のピクチャが、1に等しいNoOutputBeforeRecoveryFlagを有するCRAピクチャ、復号化順において、1に等しいNoOutputBeforeRecoveryFlagを有する同じCRAピクチャに関連付けられたリーディングピクチャに先行するピクチャ、1に等しいNoOutputBeforeRecoveryFlagを有するCRAピクチャに関連付けられたリーディングピクチャ、1に等しいNoOutputBeforeRecoveryFlagを有するGDRピクチャ、または、1に等しいNoOutputBeforeRecoveryFlagかつlayerIdに等しいnuh_layer_idを有するGDRピクチャの復元ピクチャでない場合、利用不可な参照ピクチャを生成するための復号化処理にて生成された、RefPicList[0]またはRefPicList[1]のエントリにより参照されるピクチャは存在しないことが規定される。
【0087】
10)課題10を解決するために、以下の制約条件を規定する。
現在のピクチャがIRAPピクチャに関連付けられ、かつ出力順においてIRAPピクチャに続く場合、出力順または復号化順において、関連付けられたIRAPピクチャに先行する、RefPicList[0]またはRefPicList[1]のアクティブエントリにより参照されるピクチャはないものとする。
11)課題11を解決するために、以下の制約条件を規定する。
現在のピクチャがIRAPピクチャに関連付けられ、出力順においてIRAPピクチャに続き、かつ、復号化順および出力順の両方において、同じIRAPピクチャに関連付けられたリーディングピクチャに続く場合、出力順または復号化順において、関連付けられたIRAPピクチャに先行する、RefPicList[0]またはRefPicList[1]のエントリにより参照されるピクチャはないものとする。
【0088】
6.実施形態
以下は、上記第5章に要約されたいくつかの発明の態様のためのいくつかの例示的な実施形態であり、VVC仕様に適用できる。変更されたテキストは、JVET-Q2001-vE/v15における最新のVVCのテキストに基づく。既に追加または修正された最も関連性のある部分は、太字のイタリック文字で強調表示され、且つ削除された部分の一部は、二重括弧でマークされている(例えば、[[a]]は、「a」という文字の削除を示す)。本質的に編集可能であるため、強調されていない他の何らかの変更がある。
【0089】
6.1.第一の実施形態
本実施形態は1、2、3、4、5、及び5a項に対するものである。
【0090】
3 定義
...
【0091】
【0092】
7.4.2.2. NALユニットヘッダの意味論
...
【0093】
【0094】
【0095】
7.4.3.7 ピクチャヘッダ構造意味論
...
【0096】
【0097】
[[現在のピクチャがGDRピクチャである場合、変数RpPicOrderCntValは、以下のように導出される。
RpPicOrderCntVal=PicOrderCntVal+recovery_poc_cnt (81)]]
注2-gdr_enabled_flagが1に等しく、現在のピクチャのPicOrderCntValが関連付けられたGDRピクチャのrecoveryPointPocVal[[RpPicOrderCntVal]]以上である場合、出力順における現在および後続の復号化されたピクチャが、復号化順において関連付けられたGDRピクチャに先行する前のIRAPピクチャ(存在する場合)から復号化処理を開始することによって生成された対応するピクチャに完全に一致する。
...
【0098】
8.3.2 参照ピクチャリスト構築のための復号化処理
...
【0099】
【0100】
【0101】
【0102】
-現在のピクチャがRADLピクチャである場合、RefPicList[0]またはRefPicList[1]に以下のいずれかに該当するアクティブエントリはないものとする。
○RASLピクチャ
[[利用不可な参照ピクチャを生成するための復号化処理によって生成されたピクチャ]]
○復号化順において、関連付けられたIRAPピクチャに先行するピクチャ
-...
【0103】
図1は、本明細書で開示される様々な技術が実装され得る例示的な映像処理システム1900を示すブロック図である。様々な実装形態は、システム1900のコンポーネントの一部または全部を含んでもよい。システム1900は、映像コンテンツを受信するための入力1902を含んでもよい。映像コンテンツは、未加工または非圧縮フォーマット、例えば、8または10ビットのマルチコンポーネント画素値で受信されてもよく、または圧縮または符号化されたフォーマットで受信されてもよい。入力1902は、ネットワークインターフェース、周辺バスインターフェース、または記憶インターフェースを表してもよい。ネットワークインターフェースの例は、イーサネット(登録商標)、PON(登録商標;Passive Optical Network)等の有線インターフェース、およびWi-Fi(登録商標)またはセルラーインターフェース等の無線インターフェースを含む。
【0104】
システム1900は、本明細書に記載される様々なコーディングまたは符号化方法を実装することができるコーディングコンポーネント1904を含んでもよい。コーディングコンポーネント1904は、入力1902からの映像の平均ビットレートをコーディングコンポーネント1904の出力に低減し、映像のコーディングされた表現を生成してもよい。従って、コーディング技術は、映像圧縮または映像トランスコーディング技術と呼ばれることがある。コーディングコンポーネント1904の出力は、コンポーネント1906によって表されるように、記憶されてもよいし、接続された通信を介して送信されてもよい。入力1902において受信された、記憶されたまたは通信された映像のビットストリーム(またはコーディングされた)表現は、コンポーネント1908によって使用されて、表示インターフェース1910に送信される画素値または表示可能な映像を生成してもよい。ビットストリーム表現からユーザが見ることができる映像を生成する処理は、映像展開と呼ばれることがある。さらに、特定の映像処理動作を「コーディング」動作またはツールと呼ぶが、コーディングツールまたは動作は、エンコーダおよびそれに対応する、コーディングの結果を逆にする復号化ツールまたは動作が、デコーダによって行われることが理解されよう。
【0105】
周辺バスインターフェースまたは表示インターフェースの例は、USB(登録商標;Universal Serial Bus)またはHDMI(登録商標;High Definition Multimedia Interface)またはディスプレイポート等を含んでもよい。ストレージインターフェースの例は、SATA(Serial Advanced Technology Attachment)、PCI、IDEインターフェース等を含む。本明細書に記載される技術は、携帯電話、ノートパソコン、スマートフォン、又はデジタルデータ処理及び/又は映像表示を実施可能な他のデバイス等の様々な電子デバイスに実施されてもよい。
【0106】
図2は、映像処理装置3600のブロック図である。装置3600は、本明細書に記載の方法の1または複数を実装するために使用されてもよい。装置3600は、スマートフォン、タブレット、コンピュータ、IoT(Internet of Things)受信機等に実施されてもよい。装置3600は、1または複数のプロセッサ3602と、1または複数のメモリ3604と、映像処理ハードウェア3606と、を含んでもよい。1または複数のプロセッサ3602は、本明細書に記載される1または複数の方法を実装するように構成されてもよい。1または複数のメモリ3604は、本明細書で説明される方法および技術を実装するために使用されるデータおよびコードを記憶するために使用してもよい。映像処理ハードウェア3606は、本明細書に記載される技術をハードウェア回路にて実装するために使用してもよい。
【0107】
図4は、本開示の技法を利用し得る例示的な映像コーディングシステム100を示すブロック図である。
【0108】
図4に示すように、映像コーディングシステム100は、送信元デバイス110と、送信先デバイス120と、を備えてもよい。送信元デバイス110は、符号化された映像データを生成するものであり、映像符号化デバイスとも呼ばれ得る。送信先デバイス120は、送信元デバイス110によって生成された符号化映像データを復号化してよく、映像復号化デバイスとも呼ばれ得る。
【0109】
送信元デバイス110は、映像ソース112と、映像エンコーダ114と、入出力(I/O)インターフェース116と、を含んでよい。
【0110】
映像ソース112は、映像キャプチャデバイスなどのソース、映像コンテンツプロバイダからの映像データを受信するためのインターフェース、および/または映像データを生成するためのコンピュータグラフィックスシステム、またはこれらのソースの組み合わせを含んでもよい。映像データは、1または複数のピクチャを含んでもよい。映像エンコーダ114は、映像ソース112からの映像データを符号化し、ビットストリームを生成する。ビットストリームは、映像データのコーディングされた表現を形成するビットのシーケンスを含んでもよい。ビットストリームは、コーディングされたピクチャおよび関連付けられたデータを含んでもよい。コーディングされたピクチャは、ピクチャのコーディングされた表現である。関連付けられたデータは、シーケンスパラメータセット、ピクチャパラメータセット、および他の構文構造を含んでもよい。I/Oインターフェース116は、変復調器(モデム)および/または送信機を含んでもよい。符号化された映像データは、ネットワーク130aを介して、I/Oインターフェース116を介して送信先デバイス120に直接送信されてよい。符号化された映像データは、送信先デバイス120によるアクセスのために、記録媒体/サーバ130b上に記憶されてもよい。
【0111】
送信先デバイス120は、I/Oインターフェース126、映像デコーダ124、および表示装置122を含んでもよい。
【0112】
I/Oインターフェース126は、受信機および/またはモデムを含んでもよい。I/Oインターフェース126は、送信元デバイス110または記憶媒体/サーバ130bから符号化された映像データを取得してもよい。映像デコーダ124は、符号化された映像データを復号化してもよい。表示装置122は、復号化された映像データをユーザに表示してもよい。表示装置122は、送信先デバイス120と一体化されてもよく、または外部表示装置とインターフェースするように構成される送信先デバイス120の外部にあってもよい。
【0113】
映像エンコーダ114および映像デコーダ124は、HEVC(High Efficiency Video Coding)規格、VVC(Versatile Video Coding)規格、および他の現在および/または更なる規約等の映像圧縮規格に従って動作してもよい。
【0114】
図5は、映像エンコーダ200の一例を示すブロック図であり、この映像エンコーダ200は、
図4に示されるシステム100における映像エンコーダ114であってもよい。
【0115】
映像エンコーダ200は、本開示の技術のいずれか又は全部を実行するように構成されてもよい。
図5の例において、映像エンコーダ200は、複数の機能コンポーネントを含む。本開示で説明される技法は、映像エンコーダ200の様々なコンポーネント間で共有されてもよい。いくつかの例では、プロセッサは、本開示で説明される技術のいずれかまたはすべてを行うように構成してもよい。
【0116】
映像エンコーダ200の機能コンポーネントは、分割部201、モード選択部203、動き推定部204、動き補償部205、およびイントラ予測部206を含んでよい予測部202、残差生成部207、変換部208、量子化部209、逆量子化部210、逆変換部211、再構成部212、バッファ213、およびエントロピー符号化部214を含んでもよい。
【0117】
他の例において、映像エンコーダ200は、より多くの、より少ない、又は異なる機能コンポーネントを含んでもよい。一例において、予測部202は、IBC(Intra Block Copy)部を含んでもよい。IBC部は、少なくとも1つの参照ピクチャが現在の映像ブロックが位置するピクチャであるIBCモードにおいて予測を行うことができる。
【0118】
さらに、動き推定部204および動き補償部205などのいくつかのコンポーネントは、高度に統合されてもよいが、説明のために、
図5の例においては別個に表現されている。
【0119】
分割部201は、ピクチャを1または複数の映像ブロックに分割してもよい。映像エンコーダ200および映像デコーダ300は、様々な映像ブロックサイズをサポートしてもよい。
【0120】
モード選択部203は、例えば、誤りの結果に基づいて、イントラまたはインターのコーディングモードのうちの1つを選択し、得られたイントラまたはインターコーディングされたブロックを残差生成部207に供給し、残差ブロックデータを生成して再構成部212に供給し、符号化されたブロックを参照ピクチャとして使用するために再構成してもよい。いくつかの例において、モード選択部203は、インター予測信号およびイントラ予測信号に基づいて予測を行うCIIP(Combination of Intra and Inter Prediction)モードを選択してもよい。また、モード選択部203は、インター予測の場合、ブロックの動きベクトルの解像度(例えば、サブピクセルまたは整数画素精度)を選択してもよい。
【0121】
現在の映像ブロックに対してインター予測を行うために、動き推定部204は、バッファ213からの1または複数の参照フレームと現在の映像ブロックとを比較することで、現在の映像ブロックのための動き情報を生成してもよい。動き補償部205は、現在の映像ブロックに関連付けられたピクチャ以外のバッファ213からのピクチャの動き情報および復号化されたサンプルに基づいて、現在の映像ブロックのための予測映像ブロックを判定してもよい。
【0122】
動き推定部204および動き補償部205は、現在の映像ブロックがIスライスであるか、Pスライスであるか、またはBスライスであるかによって、例えば、現在の映像ブロックに対して異なる動作を行ってもよい。
【0123】
いくつかの例では、動き推定部204は、現在の映像ブロックに対して単一方向予測を行い、動き推定部204は、現在の映像ブロックに対して、参照映像ブロック用のリスト0またはリスト1の参照ピクチャを検索してもよい。そして、動き推定部204は、参照映像ブロックと、現在の映像ブロックと参照映像ブロックとの間の空間的変位を示す動きベクトルとを含む、リスト0またはリスト1における参照ピクチャを示す参照インデックスを生成してもよい。動き推定部204は、参照インデックス、予測方向インジケータ、および動きベクトルを、現在の映像ブロックの動き情報として出力してもよい。動き補償部205は、現在の映像ブロックの動き情報が示す参照映像ブロックに基づいて、現在のブロックの予測映像ブロックを生成してもよい。
【0124】
他の例において、動き推定部204は、現在の映像ブロックを双方向予測してもよく、動き推定部204は、リスト0における参照ピクチャの中から現在の映像ブロックを求めるための参照映像ブロックを検索してもよく、また、リスト1における参照ピクチャの中から現在の映像ブロックを求めるための別の参照映像ブロックを検索してもよい。そして、動き推定部204は、参照映像ブロックを含むリスト0およびリスト1における参照ピクチャを示す参照インデックスと、参照映像ブロックと現在の映像ブロックとの間の空間的変位を示す動きベクトルとを生成してもよい。動き推定部204は、現在の映像ブロックの参照インデックスおよび動きベクトルを、現在の映像ブロックの動き情報として出力してもよい。動き補償部205は、現在の映像ブロックの動き情報が示す参照映像ブロックに基づいて、現在の映像ブロックの予測映像ブロックを生成してもよい。
【0125】
いくつかの例では、動き推定部204は、デコーダの復号化処理のために、動き情報のフルセットを出力してもよい。
【0126】
いくつかの例では、動き推定部204は、現在の映像のための動き情報のフルセットを出力しなくてもよい。むしろ、動き推定部204は、別の映像ブロックの動き情報を参照して、現在の映像ブロックの動き情報を信号通知してもよい。例えば、動き推定部204は、現在の映像ブロックの動き情報が近傍の映像ブロックの動き情報に十分に類似していることを判定してもよい。
【0127】
一例において、動き推定部204は、現在の映像ブロックに関連付けられた構文構造において、現在の映像ブロックが別の映像ブロックと同じ動き情報を有することを映像デコーダ300に示す値を示してもよい。
【0128】
別の例において、動き推定部204は、現在の映像ブロックに関連付けられた構文構造において、別の映像ブロックと、動きベクトル差分(MVD;Motion Vector Difference)とを識別してもよい。動きベクトル差分は、現在の映像ブロックの動きベクトルと、示された映像ブロックの動きベクトルとの差分を示す。映像デコーダ300は、示された映像ブロックの動きベクトルおよび動きベクトル差分を使用して、現在の映像ブロックの動きベクトルを決定してもよい。
【0129】
上述したように、映像エンコーダ200は、動きベクトルを予測的に信号通知してもよい。映像エンコーダ200によって実装され得る予測信号通知技法の2つの例は、AMVP(Advanced Motion Vector Prediction)およびマージモード信号通知を含む。
【0130】
イントラ予測部206は、現在の映像ブロックに対してイントラ予測を行ってもよい。イントラ予測部206が現在の映像ブロックをイントラ予測する場合、イントラ予測部206は、同じピクチャにおける他の映像ブロックの復号化されたサンプルに基づいて、現在の映像ブロックのための予測データを生成してもよい。現在の映像ブロックのための予測データは、予測された映像ブロック及び様々な構文要素を含んでもよい。
【0131】
残差生成部207は、現在の映像ブロックから現在の映像ブロックの予測された映像ブロックを減算することによって(例えば、マイナス符号によって示されている)、現在の映像ブロックのための残差データを生成してもよい。現在の映像ブロックの残差データは、現在の映像ブロックにおけるサンプルの異なるサンプル成分に対応する残差映像ブロックを含んでもよい。
【0132】
他の例において、例えば、スキップモードにおいて、現在の映像ブロックのための残差データがなくてもよく、残差生成部207は、減算演算を行わなくてもよい。
【0133】
変換処理部208は、現在の映像ブロックに関連付けられた残差映像ブロックに1または複数の変換を適用することによって、現在の映像ブロックのための1または複数の変換係数映像ブロックを生成してもよい。
【0134】
変換処理部208が現在の映像ブロックに関連付けられた変換係数映像ブロックを生成した後、量子化部209は、現在の映像ブロックに関連付けられた1または複数の量子化パラメータ(QP:Quantization Parameter)値に基づいて、現在の映像ブロックに関連付けられた変換係数映像ブロックを量子化してもよい。
【0135】
逆量子化部210および逆変換部211は、変換係数映像ブロックに逆量子化および逆変換をそれぞれ適用し、変換係数映像ブロックから残差映像ブロックを再構成してもよい。再構成部212は、予測部202にて生成された1または複数の予測映像ブロックからの対応するサンプルに再構成された残差映像ブロックを加え、現在のブロックに関連付けられた再構成映像ブロックを生成し、バッファ213に記憶してもよい。
【0136】
再構成部212が映像ブロックを再構成した後、映像ブロックにおける映像ブロッキングアーチファクトを縮小するために、ループフィルタリング動作が行われてもよい。
【0137】
エントロピー符号化部214は、映像エンコーダ200の他の機能コンポーネントからデータを受信してもよい。エントロピー符号化部214がデータを受信すると、エントロピー符号化部214は、1または複数のエントロピー符号化動作を行い、エントロピー符号化されたデータを生成し、エントロピー符号化されたデータを含むビットストリームを出力してもよい。
【0138】
図6は、映像デコーダ300の一例を示すブロック図であり、映像デコーダ300は、
図4に示すシステム100における映像デコーダ114であってもよい。
【0139】
映像デコーダ300は、本開示の技術のいずれか又は全部を実行するように構成されてもよい。
図6の例において、映像デコーダ300は、複数の機能コンポーネントを含む。本開示で説明される技法は、映像デコーダ300の様々なコンポーネント間で共有されてもよい。いくつかの例では、プロセッサは、本開示で説明される技術のいずれかまたはすべてを行うように構成してもよい。
【0140】
図6の例において、映像デコーダ300は、エントロピー復号化部301、動き補償部302、イントラ予測部303、逆量子化部304、逆変換部305、および再構成部306、並びにバッファ307を含む。映像デコーダ300は、いくつかの例では、映像エンコーダ200(
図5)に関して説明した符号化パスとほぼ逆の復号化パスを行ってもよい。
【0141】
エントロピー復号化部301は、符号化されたビットストリームを取り出す。符号化されたビットストリームは、エントロピー符号化された映像データ(例えば、映像データの符号化されたブロック)を含んでもよい。エントロピー復号化部301は、エントロピー符号化された映像データを復号化し、エントロピー復号化された映像データから、動き補償部302は、動きベクトル、動きベクトル精度、参照ピクチャリストインデックス、および他の動き情報を含む動き情報を決定してもよい。動き補償部302は、例えば、AMVP及びマージモードを実行することで、このような情報を判定してもよい。
【0142】
動き補償部302は、動き補償されたブロックを生成してもよく、場合によっては、補間フィルタに基づいて補間を実行する。サブピクセルの精度で使用される補間フィルタのための識別子が、構文要素に含まれてもよい。
【0143】
動き補償部302は、映像ブロックの符号化中に映像エンコーダ200によって使用されるような補間フィルタを使用して、参照ブロックのサブ整数画素のための補間値を計算してもよい。動き補償部302は、受信した構文情報に基づいて、映像エンコーダ200が使用する補間フィルタを決定し、補間フィルタを使用して予測ブロックを生成してもよい。
【0144】
動き補償部302は、符号化された映像シーケンスのフレームおよび/またはスライスを符号化するために使用されるブロックのサイズを判定するための構文情報、符号化された映像シーケンスのピクチャの各マクロブロックがどのように分割されるかを記述する分割情報、各分割がどのように符号化されるかを示すモード、各インター符号化されたブロックに対する1または複数の参照フレーム(および参照フレームリスト)、および符号化された映像シーケンスを復号化するための他の情報のいくつかを使用してもよい。
【0145】
イントラ予測部303は、例えば、ビットストリームにおいて受信したイントラ予測モードを使用して、空間的に隣接するブロックから予測ブロックを形成してもよい。逆量子化部303は、ビットストリームに提供され、エントロピー復号化部301によって復号化された量子化された映像ブロック係数を逆量子化する。逆変換部303は、逆変換を適用する。
【0146】
再構成部306は、残差ブロックと、動き補償部202またはイントラ予測部303によって生成された対応する予測ブロックとを合計し、復号化されたブロックを形成してもよい。所望であれば、ブロックアーチファクトを除去するために、復号化されたブロックをフィルタリングするためにデブロッキングフィルタを適用してもよい。復号化された映像ブロックは、バッファ307に記憶され、バッファ307は、後続の動き補償/イントラ予測のために参照ブロックを提供し、また表示装置に表示するために復号化された映像を生成する。
【0147】
次に、いくつかの実施形態において好適な例を列挙する。
【0148】
以下の項目は、前章に記載された技術の例示的な実施形態を示す。以下の項目は、前章(例えば、項目1)に記載された技術の例示的な実施形態を示す。
【0149】
1.1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間の変換を実行すること(3002)を含み、コーディングされた表現は、第2のピクチャのイントラランダムアクセスポイントピクチャである第1の映像ピクチャと第2のピクチャとが同じ映像レイヤに属するように制約されることを規定する規則に従って構成される、映像処理方法(例えば、
図3に示す方法3000)。
【0150】
以下の項目は、前章(例えば、項目2)に記載された技術の例示的な実施形態を示す。
【0151】
2.1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間の変換を実行することを含み、コーディングされた表現は、イントラランダムアクセスポイントである第1のタイプのピクチャに続くコーディングされた表現におけるトレイリングピクチャも、漸進的復号化リフレッシュピクチャを含む第2のタイプのピクチャに関連付けられることを許可することを規定するフォーマット規則に準拠する、映像処理方法。
【0152】
3.フォーマット規則は、各レイヤに対し、ビットストリームにおけるレイヤの第1のピクチャ以外のレイヤの各ピクチャが、復号化順において、同じレイヤの、前のイントラランダムアクセスポイントまたは漸進的デコーダリフレッシュピクチャのうちのより近い方に関連付けられるように規定されることをさらに規定する、項目2に記載の方法。
【0153】
以下の項目は、前章(例えば、項目3)に記載された技術の例示的な実施形態を示す。
【0154】
4.1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間の変換を実行することを含み、コーディングされた表現は、復号化順においてイントラランダムアクセスポイントに先行するピクチャの出力順に対する制約を、出力順が同じ映像レイヤ内のピクチャにのみ適用可能となるように規定するフォーマット規則に準拠する、映像処理方法。
【0155】
5.制約は、復号化順において、layerIdに等しいnuh_layer_idを有するイントラランダムアクセスポイントピクチャに先行する、特定の値layerIdに等しいnuh_layer_idを有する任意のピクチャが、出力順において、イントラランダムアクセスポイントピクチャおよび関連付けられたすべてのランダムアクセス復号化可能リーディングピクチャに先行する必要があることを規定する、項目1に記載の方法。
【0156】
以下の項目は、前章(例えば、項目4)に記載された技術の例示的な実施形態を示す。
【0157】
6.1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間での変換を実行することを含み、コーディングされた表現は、(1)トレイリングピクチャは、出力順において、関連付けられたIRAP(Intra Random Access Point)ピクチャまたはGDR(Gradual Decoder Refresh)ピクチャに続かなければならない、または(2)GDRピクチャと同じレイヤIDを有するピクチャは、出力順において、GDRピクチャと、GDRピクチャのすべての関連付けられたピクチャに先行しなければならないという制約を規定するフォーマット規則に準拠している、映像処理方法。
【0158】
以下の項目は、前章(例えば、項目5)に記載された技術の例示的な実施形態を示す。
【0159】
7.1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間の変換を実行することを含み、変換は、順序制約が、ピクチャ、IRAP(Intra Random Access Point)ピクチャ、および非リーディングピクチャが同じレイヤにある場合にのみ、ピクチャ、IRAPピクチャ、および非リーディングピクチャに適用可能であるという規則に準拠し、この規則は、
(a)フィールドシーケンスの値および復号化順を規定する第1の規則、または、
(b)レイヤのリーディングおよび/または非リーディングピクチャの順番、のうちの一方である、映像処理方法。
【0160】
以下の項目は、前章(例えば、項目6)に記載された技術の例示的な実施形態を示す。
【0161】
8.1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間の変換を実行することを含み、変換は、リーディングピクチャ、RADL(Random Access Decodable Leading)ピクチャ、およびGDR(Gradual Decoding Refresh)ピクチャに関連付けられたRASL(Random Access Skipped Leading)ピクチャの順序を規定する規則に準拠する、映像処理方法。
【0162】
以下の項目は、前章(例えば、項目7)に記載された技術の例示的な実施形態を示す。
【0163】
9.1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間の変換を実行することを含み、変換は、クリーンランダムアクセスピクチャの参照ピクチャリストの制約がレイヤに制限されることを規定する規則に準拠する、映像処理方法。
【0164】
10.制約は、クリーンランダムアクセスピクチャを有するレイヤに対して、復号化または出力順において先行するイントラランダムアクセスポイントピクチャが、参照ピクチャリストにおけるエントリによって参照されないことを規定する、項目9に記載の方法。
【0165】
以下の項目は、前章(例えば、項目8)に記載された技術の例示的な実施形態を示す。
【0166】
11.1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間の変換を実行することを含み、変換は、現在のピクチャが、利用不可な参照ピクチャを生成するための復号化処理によって生成された参照ピクチャリストにおけるエントリを参照することを許可する条件を規定する規則に準拠する、映像処理方法。
【0167】
12.条件は、現在のピクチャが、1に等しいNoOutputBeforeRecoveryFlagを有するCRA(Clean Random Access)ピクチャに関連付けられたRASL(Random Access Skipped Leading)ピクチャ、1に等しいNoOutputBeforeRecoveryFlagを有するGDR(Gradual Decoder Refresh)ピクチャ、または1に等しいNoOutputBeforeRecoveryFlagを有するGDRピクチャの復元ピクチャであることである、項目11に記載の方法。
【0168】
以下の項目は、前章(例えば、項目9、10および11)に記載された技術の例示的な実施形態を示す。
【0169】
13.1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のコーディングされた表現との間の変換を実行することを含み、変換は、現在のピクチャと現在のピクチャに対応する参照ピクチャリストとの間の順序規則に準拠する、映像処理方法。
【0170】
14.規則は、特定の値layerIdに等しいnuh_layer_idを有する現在のピクチャが、1に等しいNoOutputBeforeRecoveryFlagを有するCRA(Clean Random Access)ピクチャ、符号化順において1に等しいNoOutputBeforeRecoveryFlagを有する同じCRAピクチャに関連付けられたリーディングピクチャに先行するピクチャ、1に等しいNoOutputBeforeRecoveryFlagを有するCRAピクチャに関連付けられたリーディングピクチャ、1に等しいNoOutputBeforeRecoveryFlagを有するGDRピクチャ、または、1に等しいNoOutputBeforeRecoveryFlagおよびlayerIdに等しいnuh_layer_idを通するGDRピクチャの復元ピクチャでない場合、利用不可な参照ピクチャを生成するための復号化処理によって生成されたRefPicList[0]またはRefPicList[1]のエントリにより参照されるピクチャはないものとすることを規定する、項目13に記載の方法。
【0171】
15.規則は、現在のピクチャが、IRAP(Intra Random Access Point)ピクチャに関連付けられ、かつ出力順においてIRAPピクチャに続く場合、出力順または復号化順において、関連付けられたIRAPピクチャに先行する、RefPicList[0]またはRefPicList[1]のアクティブエントリにより参照されるピクチャはないものとすることを規定する、項目13に記載の方法。
【0172】
16.規則は、現在のピクチャが、IRAP(Intra Random Access Point)ピクチャに関連付けられ、出力順においてIRAPピクチャに続き、かつ、復号化順および出力順の両方において、同じIRAPピクチャに関連付けられたリーディングピクチャに続く場合、出力順または復号化順において、関連付けられたIRAPピクチャに先行する、RefPicList[0]またはRefPicList[1]のエントリにより参照されるピクチャはないものと規定する、項目13に記載の方法。
【0173】
17.変換は、映像をコーディングされた表現に符号化することを含む、項目1から16のいずれかに記載の方法。
【0174】
18.変換は、コーディングされた表現を復号化して、映像の画素値を生成することを含む、項目1から16のいずれかに記載の方法。
【0175】
19.項目1から18のうちの1つまたは複数に記載の方法を実装するように構成されたプロセッサを備える、映像復号化装置。
【0176】
20.項目1から18のうちの1つまたは複数に記載の方法を実装するように構成されたプロセッサを備える映像符号化装置。
【0177】
21.コンピュータコードが記憶されたコンピュータプログラム製品において、コードがプロセッサにより実行されると、プロセッサは、項目1から18のいずれかに記載の方法を実装する。
【0178】
22.本明細書に記載の方法、装置またはシステム。
【0179】
第2の節は、前節で論じた技法の例示的な実施例を示す(例えば、項目1~7)。
【0180】
1.フォーマット規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行すること712を含み、フォーマット規則は、第2のピクチャの関連付けられたイントラランダムアクセスポイントピクチャである第1の映像ピクチャと第2のピクチャとが同じ映像レイヤに属するように制約されることを規定する、映像処理の方法(例えば、
図7Aに示す方法710)。
【0181】
2.復号化順における第1の映像ピクチャと第2のピクチャとの間で、同じ映像レイヤに漸進的復号化リフレッシュピクチャがない、項目1に記載の方法。
【0182】
3.第1の映像ピクチャと第2のピクチャとは、映像コーディングレイヤネットワーク抽象化レイヤユニットが属するレイヤの識別子と、非映像コーディングレイヤネットワーク抽象レイヤユニットが適用されるレイヤの識別子とが同じである、項目1に記載の方法。
【0183】
4.復号化順における第1の映像ピクチャと第2のピクチャとの間で、同じ識別子を有する漸進的復号化リフレッシュピクチャがない、項目1から3のいずれかに記載の方法。
【0184】
5.フォーマット規則は、トレイリングピクチャが、出力順において、関連付けられたイントラランダムアクセスポイントピクチャまたは漸進的復号化リフレッシュピクチャに続くことをさらに規定する、項目1に記載の方法。
【0185】
6.フォーマット規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行すること722を含み、フォーマット規則は、ビットストリームにおけるトレイリングピクチャが、漸進的復号化リフレッシュピクチャに関連付けることを許可することを規定する、映像処理方法(例えば、
図7Bに示す方法720)。
【0186】
7.トレイリングピクチャは、各映像コーディングレイヤネットワーク抽象レイヤユニットが、トレイルネットワーク抽象レイヤユニットタイプを有するピクチャである、項目6に記載の方法。
【0187】
8.トレイリングピクチャは、イントラランダムアクセスポイントピクチャに関連付けられることを許可される、項目6または7に記載の方法。
【0188】
9.イントラランダムアクセスポイントピクチャまたは漸進的復号化リフレッシュピクチャに関連付けられたトレイリングピクチャは、復号化順において、イントラランダムアクセスポイントピクチャまたは斬新的復号化リフレッシュピクチャに続く、項目6から8のいずれかに記載の方法。
【0189】
10.出力順において関連付けられたイントラランダムアクセスポイントピクチャに続き、かつ、復号化順において関連付けられたイントラランダムアクセスポイントピクチャに先行するピクチャは、許可されない、項目6から8のいずれかに記載の方法。
【0190】
11.フォーマット規則は、各レイヤに対し、ビットストリームにおけるレイヤの第1のピクチャ以外のレイヤの各ピクチャが、復号化順において、同じレイヤの、前のイントラランダムアクセスポイントまたは漸進的デコーダリフレッシュピクチャのうちのより近いものに関連付けられるように規定されることをさらに規定する、項目6に記載の方法。
【0191】
12.トレイリングピクチャは、出力順において、関連付けられたイントラランダムアクセスポイントまたは漸進的デコーダリフレッシュピクチャに続くことが要求される、項目6または11に記載の方法。
【0192】
13.フォーマット規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行すること732を含み、フォーマット規則は、復号化順においてイントラランダムアクセスポイントに先行するピクチャの出力順に対する制約が同じ映像レイヤ内のピクチャに適用可能であることを規定する、映像処理方法(例えば、
図7Cに示す方法730)。
【0193】
14.制約は、特定の値に等しいNAL(Network Abstraction Layer)ユニットヘッダレイヤ識別子を有し、復号化順において、特定の値に等しいNALユニットヘッダレイヤ識別子を有するイントラランダムアクセスポイントピクチャに先行する任意のピクチャは、出力順において、イントラランダムアクセスポイントピクチャおよびすべての関連付けられたランダムアクセス復号化可能リーディングピクチャに先行することが要求されることを規定する、項目13に記載の方法。
【0194】
15.NAL(Network Abstraction Layer)ユニットヘッダレイヤ識別子は、nuh_layer_idである、項目14に記載の方法。
【0195】
16.NAL(Network Abstraction Layer)ユニットヘッダレイヤ識別子は、映像コーディングレイヤネットワーク抽象レイヤユニットが属するレイヤの識別子、または非映像コーディングレイヤネットワーク抽象レイヤユニットが適用されるレイヤの識別子を規定する、項目14に記載の方法。
【0196】
17.フォーマット規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行すること742を含み、フォーマット規則は、(1)トレイリングピクチャは、出力順において、関連付けられたイントラランダムアクセスポイントピクチャまたは漸進的デコーダリフレッシュピクチャに続く、または、(2)漸進的デコーダリフレッシュピクチャと同じNAL(Network Abstraction Layer)ユニットヘッダレイヤ識別子を有するピクチャが、出力順において、漸進的デコーダリフレッシュピクチャおよび漸進的デコーダリフレッシュピクチャのすべての関連付けられたピクチャに先行する、という制約を規定する、映像処理方法(例えば、
図7Dのい示す方法740)。
【0197】
18.規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行すること752を含み、規則は、ピクチャ、イントラランダムアクセスポイントピクチャ、および非リーディングピクチャが同じレイヤにある場合にのみ、イントラランダムアクセスポイントに関連付けられたピクチャと非リーディングピクチャの復号化順に対する制約を適用することを規定する、映像処理方法(例えば、
図7Eに示す方法750)。
【0198】
19.制約は、フィールドシーケンスフラグの値が0に等しく、かつ、特定の値に等しいNAL(Network Abstraction Layer)ユニットヘッダレイヤ識別子ピクチャを有するピクチャがイントラランダムアクセスポイントピクチャに関連付けられたリーディングピクチャである場合、ピクチャは、復号化順において、イントラランダムアクセスポイントピクチャに関連付けられたすべての非リーディングピクチャに先行することを規定する、項目18に記載の方法。
【0199】
20.0に等しいフィールドシーケンスフラグの値は、コーディングされたレイヤ映像シーケンスがフレームを表すピクチャを伝達することを示す、項目19に記載の方法。
【0200】
21.制約は、フィールドシーケンスフラグの値が0に等しく、かつ、ピクチャが、イントラランダムアクセスポイントピクチャに関連付けられたリーディングピクチャである場合、ピクチャは、復号化順において、イントラランダムアクセスポイントピクチャに関連付けられたすべての非リーディングピクチャに先行することを規定する、項目18に記載の方法。
【0201】
22.規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行すること762を含み、規則は、リーディングピクチャ、ランダムアクセス復号化可能リーディングピクチャ、および漸進的復号化リフレッシュピクチャに関連付けられたランダムアクセススキップリーディングピクチャの順序を規定する、映像処理方法(例えば、
図7Fに示す方法760)。
【0202】
23.漸進的復号化リフレッシュピクチャに関連付けられたリーディングピクチャは、復号化順において漸進的復号化リフレッシュピクチャに続き、出力順において漸進的復号化リフレッシュピクチャに先行する、項目22に記載の方法。
【0203】
24.漸進的復号化リフレッシュピクチャに関連付けられたランダムアクセス復号化可能リーディングピクチャは、漸進的復号化リフレッシュピクチャに関連付けられたリーディングピクチャであり、ランダムアクセス復号化可能リーディングピクチャのコーディングされたスライスに対応するNAL(Network Abstraction Layer)ユニットタイプを有する、項目22に記載の方法。
【0204】
25.漸進的復号化リフレッシュピクチャに関連付けられたランダムアクセス復号化可能リーディングピクチャは、漸進的復号化リフレッシュピクチャに関連付けられたリーディングピクチャであり、ランダムアクセス復号化可能リーディングピクチャのコーディングされたスライスに対応するNAL(Network Abstraction Layer)ユニットタイプを有する、項目22に記載の方法。
【0205】
26.規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行すること772を含み、規則は、クリーンランダムアクセスピクチャのスライスのための参照ピクチャリストに対する制約をレイヤに制限することを規定する、映像処理方法(例えば、
図7Gに示す方法770)。
【0206】
27.制約は、クリーンランダムアクセスピクチャを有するレイヤに対して、復号化または出力順において、先行するイントラランダムアクセスポイントピクチャが、参照ピクチャリストにおけるエントリによって参照されないことを規定する、項目26に記載の方法。
【0207】
28.変換は、映像をビットストリームに符号化することを含む、項目1から27のいずれかに記載の方法。
【0208】
29.変換は、ビットストリームから映像を復号化することを含む、項目1から27までのいずれかに記載の方法。
【0209】
30.変換は、映像からビットストリームを生成することを含み、方法は、ビットストリームを非一時的なコンピュータ可読記録媒体に記憶することをさらに含む、項目1から27のいずれかに記載の方法。
【0210】
31.項目1から30の1つまたは複数に記載の方法を実装するように構成されたプロセッサを備える映像処理装置。
【0211】
32.項目1から30のいずれかに記載の方法と、ビットストリームを非一時的なコンピュータ可読記録媒体に記憶することをさらに含む、映像のビットストリームを記憶する方法。
【0212】
33.実行された際に、項目1から30の1つまたは複数に記載の方法をプロセッサに実装させるプログラムコードを記憶するコンピュータ可読媒体。
【0213】
34.上述した方法のいずれかに従って生成されたビットストリームを記憶するコンピュータ可読媒体。
【0214】
35.項目1から30の1つまたは複数に記載の方法を実装するように構成された、ビットストリーム表現を記憶するための映像処理装置。
【0215】
第3の節は、前章(例えば、項目8及び9)に記載された技術の例示的な実施形態を示す。
【0216】
1.規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行すること810を含み、規則は、利用不可な参照ピクチャを生成するための復号化処理によって生成されたピクチャが、現在のピクチャの現在のスライスの参照ピクチャリストにおけるアクティブエントリによって参照されないという条件を規定する、映像処理方法(例えば、
図8Aに示す方法810)。
【0217】
2.アクティブエントリは、現在のピクチャのインター予測において参照インデックスとして使用するために利用可能なエントリに対応する、項目1に記載の方法。
【0218】
3.条件は、特定の値に等しいNAL(Network Abstraction Layer)ユニットヘッダレイヤ識別子を有する現在のピクチャが、1に等しい復元前の出力がないことを示す変数を有するクリーンランダムアクセスピクチャに関連付けられたランダムアクセススキップリーディングピクチャ、1に等しい変数を有する漸進的デコーダリフレッシュピクチャ、または1に等しい変数および特定の値に等しいNALユニットヘッダレイヤ識別子を有する漸進的デコーダリフレッシュピクチャの復元ピクチャでないことである、項目1に記載の方法。
【0219】
4.規則に従って、1または複数の映像ピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行すること822を含み、規則は、利用不可な参照ピクチャを生成するための復号化処理によって生成されたピクチャが、現在のピクチャの現在のスライスの参照ピクチャリストにおけるエントリによって参照されないという条件を規定する、映像処理方法(例えば、
図8Bに示す方法820)。
【0220】
5.条件は、特定の値に等しいNAL(Network Abstraction Layer)ユニットヘッダレイヤ識別子を有する現在のピクチャが、1に等しい復元前の出力がないことを示す変数を有するクリーンランダムアクセスピクチャ、復号化順において1に等しい変数を有するクリーンランダムアクセスピクチャに関連付けられたリーディングピクチャに先行するピクチャ、または、1に等しい変数および特定の値に等しいNALユニットヘッダレイヤ識別子を有する漸進的デコーダリフレッシュピクチャの復元ピクチャでないことである、項目4に記載の方法。
【0221】
6.変換は、映像をビットストリームに符号化することを含む、項目1から5のいずれかに記載の方法。
【0222】
7.変換は、ビットストリームから映像を復号化することを含む、項目1から5のいずれかに記載の方法。
【0223】
8.変換は、映像からビットストリームを生成することを含み、方法は、ビットストリームを非一時的なコンピュータ可読記録媒体に記憶することをさらに含む、項目1から5のいずれかに記載の方法。
【0224】
9.項目1から8のうちの1つまたは複数に記載の方法を実装するように構成されたプロセッサを備える映像処理装置。
【0225】
10.項目1から8のいずれかに記載の方法と、ビットストリームを非一時的なコンピュータ可読記録媒体に記憶することをさらに含む、映像のビットストリームを記憶する方法。
【0226】
11.実行された際に、項目1から8のうちの1つまたは複数に記載の方法をプロセッサに実装させるプログラムコードを記憶するコンピュータ可読媒体。
【0227】
12.上述した方法のいずれかに従って生成されたビットストリームを記憶するコンピュータ可読媒体。
【0228】
13.項目1から12のうちの1つまたは複数に記載の方法を実装するように構成された、ビットストリーム表現を記憶するための映像処理装置。
【0229】
第4の節の集合は、前節で論じた技法の例示的な実施形態(例えば、項目10および11)を示す。
【0230】
1.規則に従って、現在のスライスを含む現在のピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行すること912を含み、規則は、現在のスライスの参照ピクチャリストが、復号化順または出力順において、現在のピクチャに関連付けられたイントラランダムアクセスポイントピクチャに先行するピクチャを参照するアクティブエントリを有することを許可しないという条件を規定する、映像処理方法(例えば、
図9Aに示す方法910)。
【0231】
2.アクティブエントリは、現在のピクチャのインター予測において参照インデックスとして使用するために利用可能なエントリに対応する、項目1に記載の方法。
【0232】
3.規則は、現在のピクチャの参照ピクチャリストが、復号化順において、現在のピクチャに関連付けられたイントラランダムアクセスポイントピクチャに先行するピクチャを参照するアクティブエントリを有することを許可されない条件を規定する、項目1または2に記載の方法。
【0233】
4.規則は、現在のピクチャの参照ピクチャリストが、出力順において、現在のピクチャに関連付けられたイントラランダムアクセスポイントピクチャに先行するピクチャを参照するアクティブエントリを有することを許可されない条件を規定する、項目1から3のいずれかに記載の方法。
【0234】
5.条件は、現在のピクチャがイントラランダムアクセスポイントピクチャに関連付けられ、かつ復号化順および/または出力順においてイントラランダムアクセスポイントピクチャに続くことである、項目1から4のいずれかに記載の方法。
【0235】
6.現在のピクチャは、映像コーディングレイヤネットワーク抽象レイヤユニットが属するレイヤの識別子、または非映像コーディングレイヤネットワーク抽象レイヤユニットが適用されるレイヤの識別子と同じ値を有するイントラランダムアクセスポイントピクチャに、復号化順および/または出力順において続くことを条件とする、項目1から4のいずれかに記載の方法。
【0236】
7.規則に従って、現在のスライスを含む現在のピクチャを含む1または複数の映像レイヤを有する映像と、映像のビットストリームとの間の変換を実行すること922を含み、規則は、現在のスライスの参照ピクチャリストが、復号化順または出力順において、現在のピクチャに関連付けられたイントラランダムアクセスポイントピクチャに先行するピクチャを指すアクティブエントリを有することを許可しないという条件を規定する、映像処理方法(
図9Bに示す方法920)。
【0237】
8.規則は、現在のピクチャの参照ピクチャリストが、復号化順において、現在のピクチャに関連付けられたイントラランダムアクセスポイントピクチャに先行するピクチャを参照するエントリを有することを許可されない条件を規定する、項目7に記載の方法。
【0238】
9.規則は、現在のピクチャの参照ピクチャリストが、出力順において、現在のピクチャに関連付けられたイントラランダムアクセスポイントピクチャに先行するピクチャを参照するエントリを有することを許可されない条件を規定する、項目7または8に記載の方法。
【0239】
10.イントラランダムアクセスポイントピクチャは、0以上のリーディングピクチャに関連付けられ、条件は、現在のピクチャがイントラランダムアクセスポイントピクチャに関連付けられており、復号化順および/または出力順において、イントラランダムアクセスポイントピクチャに続き、復号化順および出力順の両方において、イントラランダムアクセスポイントピクチャに関連付けられた0以上のリーディングピクチャに続くことである、項目7から9のいずれかに記載の方法。
【0240】
11.イントラランダムアクセスポイントピクチャは、0以上のリーディングピクチャに関連付けられ、条件は、現在のピクチャが、映像コーディングレイヤネットワーク抽象レイヤユニットが属するレイヤの識別子、または非映像コーディングレイヤネットワーク抽象化レイヤユニットが適用されるレイヤの識別子と同じ値を有するイントラランダムアクセスポイントピクチャ、および0以上のリーディングピクチャに、復号化順および/または出力順において続くことである、項目7から9のいずれかに記載の方法。
【0241】
12.変換は、映像をビットストリームに符号化することを含む、項目1から11のいずれかに記載の方法。
【0242】
13.変換は、ビットストリームから映像を復号化することを含む、項目1から11でのいずれかに記載の方法。
【0243】
14.変換は、映像からビットストリームを生成することを含み、方法は、ビットストリームを非一時的なコンピュータ可読記録媒体に記憶することをさらに含む、項目1から11のいずれかに記載の方法。
【0244】
15.項目1から14のうちの1つまたは複数に記載の方法を実装するように構成されたプロセッサを備える映像処理装置。
【0245】
16.項目1から14のいずれかに記載の方法と、ビットストリームを非一時的なコンピュータ可読記録媒体に記憶することをさらに含む、映像のビットストリームを記憶する方法。
【0246】
17.実行された際に、項目1から14のうちの1つまたは複数に記載の方法をプロセッサに実装させるプログラムコードを記憶するコンピュータ可読媒体。
【0247】
18.上述した方法のいずれかに従って生成されたビットストリームを記憶するコンピュータ可読媒体。
【0248】
19.項目1から14のうちの1つまたは複数に記載の方法を実装するように構成された、ビットストリーム表現を記憶するための映像処理装置。
【0249】
本明細書では、「映像処理」という用語は、映像符号化、映像復号化、映像圧縮、または映像展開を指してよい。例えば、映像圧縮アルゴリズムは、映像の画素表現から対応するビットストリーム表現への変換、またはその逆の変換中に適用されてもよい。現在の映像ブロックのビットストリーム表現は、例えば、構文によって規定されるように、ビットストリーム内の同じ場所または異なる場所に拡散されるビットに対応していてもよい。例えば、1つのマクロブロックは、変換およびコーディングされた誤り残差値の観点から、且つビットストリームにおけるヘッダおよび他のフィールドにおけるビットを使用して符号化されてもよい。さらに、変換中、デコーダは、上記解決策で説明されているように、判定に基づいて、いくつかのフィールドが存在しても存在しなくてもよいという知識を持って、ビットストリームを構文解析してもよい。同様に、エンコーダは、特定の構文フィールドが含まれるべきであるか、または含まれないべきであるかを判定し、構文フィールドをコーディングされた表現に含めるか、またはコーディングされた表現から除外することによって、それに応じてコーディングされた表現を生成してもよい。
【0250】
本明細書に記載された開示された、およびその他の解決策、実施例、実施形態、モジュール、および機能動作の実装形態は、本明細書に開示された構造およびその構造的等価物を含め、デジタル電子回路、またはコンピュータソフトウェア、ファームウェア、若しくはハードウェアで実施されてもよく、またはそれらの1または複数の組み合わせで実施してもよい。開示された、およびその他の実施形態は、1または複数のコンピュータプログラム製品、すなわち、データ処理装置によって実装されるため、またはデータ処理装置の動作を制御するために、コンピュータ可読媒体上に符号化されたコンピュータプログラム命令の1または複数のモジュールとして実施することができる。このコンピュータ可読媒体は、機械可読記憶デバイス、機械可読記憶基板、メモリデバイス、機械可読伝播信号をもたらす物質の組成物、またはこれらの1または複数の組み合わせであってもよい。「データ処理装置」という用語は、例えば、プログラマブルプロセッサ、コンピュータ、または複数のプロセッサ、若しくはコンピュータを含む、データを処理するためのすべての装置、デバイス、および機械を含む。この装置は、ハードウェアの他に、当該コンピュータプログラムの実行環境を作るコード、例えば、プロセッサファームウェア、プロトコルスタック、データベース管理システム、オペレーティングシステム、またはこれらの1または複数の組み合わせを構成するコードを含むことができる。伝播信号は、人工的に生成した信号、例えば、機械で生成した電気、光、または電磁信号であり、適切な受信装置に送信するための情報を符号化するために生成される。
【0251】
コンピュータプログラム(プログラム、ソフトウェア、ソフトウェアアプリケーション、スクリプト、またはコードとも呼ばれる)は、コンパイルされた言語または解釈された言語を含む任意の形式のプログラミング言語で記述することができ、また、それは、スタンドアロンプログラムとして、またはコンピューティング環境で使用するのに適したモジュール、コンポーネント、サブルーチン、または他のユニットとして含む任意の形式で展開することができる。コンピュータプログラムは、必ずしもファイルシステムにおけるファイルに対応するとは限らない。プログラムは、他のプログラムまたはデータを保持するファイルの一部(例えば、マークアップ言語文書に格納された1または複数のスクリプト)に記録されていてもよいし、当該プログラム専用の単一のファイルに記憶されていてもよいし、複数の調整ファイル(例えば、1または複数のモジュール、サブプログラム、またはコードの一部を格納するファイル)に記憶されていてもよい。コンピュータプログラムを、1つのサイトに位置する1つのコンピュータ、または複数のサイトに分散され通信ネットワークによって相互接続される複数のコンピュータで実行させるように展開することも可能である。
【0252】
本明細書に記載された処理およびロジックフローは、入力データ上で動作し、出力を生成することによって機能を実行するための1または複数のコンピュータプログラムを実行する1または複数のプログラマブルプロセッサによって行うことができる。処理およびロジックフローはまた、特定用途のロジック回路、例えば、FPGA(Field Programmable Gate Array)またはASIC(Application Specific Integrated Circuit)によって行うことができ、装置はまた、特別目的のロジック回路として実装することができる。
【0253】
コンピュータプログラムの実行に適したプロセッサは、例えば、汎用および専用マイクロプロセッサの両方、並びに任意の種類のデジタルコンピュータの任意の1または複数のプロセッサを含む。一般的に、プロセッサは、リードオンリーメモリまたはランダムアクセスメモリまたはその両方から命令およびデータを受信する。コンピュータの本質的な要素は、命令を実行するためのプロセッサと、命令およびデータを記憶するための1または複数のメモリデバイスとである。一般的に、コンピュータは、データを記憶するための1または複数の大容量記憶デバイス、例えば、磁気、光磁気ディスク、または光ディスクを含んでもよく、またはこれらの大容量記憶デバイスからデータを受信するか、またはこれらにデータを転送するように動作可能に結合されてもよい。しかしながら、コンピュータは、このようなデバイスを有する必要はない。コンピュータプログラム命令およびデータを記憶するのに適したコンピュータ可読媒体は、あらゆる形式の不揮発性メモリ、媒体、およびメモリデバイスを含み、例えば、EPROM、EEPROM、フラッシュ記憶装置、磁気ディスク、例えば内部ハードディスクまたはリムーバブルディスク、光磁気ディスク、およびCD-ROMおよびDVD-ROMディスク等の半導体記憶装置を含む。プロセッサおよびメモリは、特定用途のロジック回路によって補完されてもよく、または特定用途のロジック回路に組み込まれてもよい。
【0254】
本特許明細書は多くの詳細を含むが、これらは、任意の主題の範囲または特許請求の範囲を限定するものと解釈されるべきではなく、むしろ、特定の技術の特定の実施形態に特有であり得る特徴の説明と解釈されるべきである。本特許文献において別個の実施形態のコンテキストで説明されている特定の特徴は、1つの例において組み合わせて実装してもよい。逆に、1つの例のコンテキストで説明された様々な特徴は、複数の実施形態において別個にまたは任意の適切なサブコンビネーションで実装してもよい。さらに、特徴は、特定の組み合わせで作用するものとして上記に記載され、最初にそのように主張されていてもよいが、主張された組み合わせからの1または複数の特徴は、場合によっては、組み合わせから抜粋されることができ、主張された組み合わせは、サブコンビネーションまたはサブコンビネーションのバリエーションに向けられてもよい。
【0255】
同様に、動作は図面において特定の順番で示されているが、これは、所望の結果を達成するために、このような動作が示された特定の順番でまたは連続した順番で行われること、または示された全ての動作が行われることを必要とするものと理解されるべきではない。また、本特許明細書に記載されている例における様々なシステムの構成要素の分離は、全ての実施形態においてこのような分離を必要とするものと理解されるべきではない。
【0256】
いくつかの実装形態および例のみが記載されており、この特許文献に記載され図示されているコンテンツに基づいて、他の実施形態、拡張および変形が可能である。