IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 廈門星宸科技有限公司の特許一覧

<>
  • 特許-映像復号装置および映像復号方法 図1
  • 特許-映像復号装置および映像復号方法 図2
  • 特許-映像復号装置および映像復号方法 図3A
  • 特許-映像復号装置および映像復号方法 図3B
  • 特許-映像復号装置および映像復号方法 図3C
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-01-31
(45)【発行日】2022-02-08
(54)【発明の名称】映像復号装置および映像復号方法
(51)【国際特許分類】
   H04N 19/433 20140101AFI20220201BHJP
   H04N 19/85 20140101ALI20220201BHJP
   H04N 19/426 20140101ALI20220201BHJP
【FI】
H04N19/433
H04N19/85
H04N19/426
【請求項の数】 15
(21)【出願番号】P 2019127671
(22)【出願日】2019-07-09
(65)【公開番号】P2020108135
(43)【公開日】2020-07-09
【審査請求日】2019-07-09
(31)【優先権主張番号】201811593362.0
(32)【優先日】2018-12-25
(33)【優先権主張国・地域又は機関】CN
【前置審査】
(73)【特許権者】
【識別番号】519187872
【氏名又は名称】星宸科技股▲ふん▼有限公司
【氏名又は名称原語表記】SigmaStar Technology Ltd.
(74)【代理人】
【識別番号】100217434
【弁理士】
【氏名又は名称】万野 秀人
(72)【発明者】
【氏名】孫 明勇
【審査官】古市 徹
(56)【参考文献】
【文献】国際公開第2015/115644(WO,A1)
【文献】特開2017-055275(JP,A)
【文献】特開2007-266970(JP,A)
【文献】特表2018-530955(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N19/00-19/98
IEEE Xplore
(57)【特許請求の範囲】
【請求項1】
映像ストリーム中の制御情報を読み取って復号し、
前記制御情報に基づいて、前記映像ストリーム中の複数の映像ストリームパケットを読み取り、
復号回路が、少なくとも前記制御情報に基づいて選択的に、メモリモジュールの第1の一時記憶領域からの第1参照ピクチャ中の対応画素データおよび前記メモリモジュールの第2の一時記憶領域からの第2参照ピクチャ中の対応画素データの少なくとも一方を読み取り、
前記第1参照ピクチャ中の対応画素データおよび前記第2参照ピクチャ中の対応画素データから選択される少なくとも一方、ならびに前記複数の映像ストリームパケットに基づく復号を実行して、復号ピクチャの画素データを生成し、
前記復号を実行する際、前記復号ピクチャの画素データを後処理回路に伝送し、前記制御情報に基づいて、前記復号ピクチャの画素データを前記第1の一時記憶領域および前記第2の一時記憶領域の一方に格納し、
前記制御情報に基づいて前記復号ピクチャの画素データを前記第1の一時記憶領域および前記第2の一時記憶領域の一方に格納するステップにおいて、さらに、前記復号ピクチャが短時間参照ピクチャである場合、前記復号ピクチャの画素データを前記第1の一時記憶領域に格納し、
前記復号ピクチャの画素データを前記第1の一時記憶領域に格納するステップにおいて、さらに、前記復号ピクチャの画素データを、前記第1の一時記憶領域中で前記第1参照ピクチャの領域よりも先に最大動きベクトル検索範囲から格納し、
前記第1参照ピクチャの読み取りにおいて、
前記制御情報に基づいて、前記第1参照ピクチャの参照ピクチャ領域に対応するピクチャ領域スタートアドレスオフセットを取り出し、
前記ピクチャ領域スタートアドレスオフセットと前記第1参照ピクチャの参照ピクチャスタートアドレスオフセットとを加算した後、前記第1の一時記憶領域のサイズで除算して剰余を取得し、
前記第1の一時記憶領域の前記メモリモジュールにおける一時記憶領域スタートアドレスに前記剰余を加算した後の読み取りスタートアドレスから、前記参照ピクチャ領域を読み取る
映像復号方法。
【請求項2】
前記制御情報に基づいて前記復号ピクチャの画素データを前記第1の一時記憶領域および前記第2の一時記憶領域の一方に格納するステップにおいて、さらに、前記復号ピクチャの画素データを圧縮する
請求項1に記載の映像復号方法。
【請求項3】
前記第1の一時記憶領域および前記第2の一時記憶領域は、同一のDRAM(Dynamic Random Access Memory)の中にある
請求項1に記載の映像復号方法。
【請求項4】
メモリモジュールと、
復号回路と、
後処理回路と
前記メモリモジュール、前記復号回路および前記後処理回路に電気的に接続し、複数のファームウエア実行可能命令を実行する処理回路とを備える映像復号装置であって、
映像ストリーム中の制御情報を読み取って復号し、
前記復号回路は、
前記制御情報に基づいて、前記映像ストリーム中の複数の映像ストリームパケットを読み取り、
少なくとも前記制御情報に基づいて選択的に、前記メモリモジュールの第1の一時記憶領域からの第1参照ピクチャ中の対応画素データおよび前記メモリモジュールの第2の一時記憶領域からの第2参照ピクチャ中の対応画素データの少なくとも一方を読み取り、
前記第1参照ピクチャ中の対応画素データおよび前記第2参照ピクチャ中の対応画素データから選択される少なくとも一方、ならびに前記複数の映像ストリームパケットに基づく復号を実行して、復号ピクチャの画素データを生成し、
前記復号を実行する際、前記復号ピクチャの画素データを後処理回路に伝送し、前記制御情報に基づいて、前記復号ピクチャの画素データを前記第1の一時記憶領域および前記第2の一時記憶領域の一方に格納する映像復号方法を実行し、
前記制御情報に基づいて前記復号ピクチャの画素データを前記第1の一時記憶領域および前記第2の一時記憶領域の一方に格納するステップにおいて、さらに、前記復号ピクチャが短時間参照ピクチャである場合、前記復号ピクチャの画素データを前記第1の一時記憶領域に格納し、
前記復号ピクチャの画素データを前記第1の一時記憶領域に格納するステップにおいて、さらに、前記復号ピクチャの画素データを、前記第1の一時記憶領域中で前記第1参照ピクチャの領域よりも先に最大動きベクトル検索範囲から格納し、
前記第1参照ピクチャの読み取りにおいて、
前記制御情報に基づいて、前記第1参照ピクチャの参照ピクチャ領域に対応するピクチャ領域スタートアドレスオフセットを取り出し、
前記ピクチャ領域スタートアドレスオフセットと前記第1参照ピクチャの参照ピクチャスタートアドレスオフセットとを加算した後、前記第1の一時記憶領域のサイズで除算して剰余を取得し、
前記第1の一時記憶領域の前記メモリモジュールにおける一時記憶領域スタートアドレスに前記剰余を加算した後の読み取りスタートアドレスから、前記参照ピクチャ領域を読み取る
映像復号装置。
【請求項5】
前記制御情報に基づいて前記復号ピクチャの画素データを前記第1の一時記憶領域および前記第2の一時記憶領域の一方に格納するステップにおいて、さらに、前記復号ピクチャの画素データを圧縮する
請求項4に記載の映像復号装置。
【請求項6】
前記第1の一時記憶領域と前記第2の一時記憶領域は、同一のDRAM(Dynamic Random Access Memory)の中にある
請求項4に記載の映像復号装置。
【請求項7】
映像ストリーム中の制御情報を読み取って復号し、
前記制御情報に基づいて、前記映像ストリーム中の複数の映像ストリームパケットを読み取り、
少なくとも前記制御情報に基づいて、メモリモジュールの第1の一時記憶領域から少なくとも第1参照ピクチャ中の対応画素データを読み取り、前記第1の一時記憶領域の格納内容は順次格納されたものであり、前記格納内容には、最大動きベクトル検索範囲ピクチャおよび前記第1参照ピクチャが含まれ、
前記複数の映像ストリームパケットおよび少なくとも前記第1参照ピクチャ中の対応画素データに基づく復号を実行して復号ピクチャの画素データを生成し、
前記復号を実行する際、前記復号ピクチャの画素データを後処理回路に伝送して後処理を行い、前記制御情報に基づいて前記復号ピクチャの画素データを前記第1の一時記憶領域に格納し、前記第1の一時記憶領域において前記最大動きベクトル検索範囲ピクチャの前記格納内容から順に前記格納内容を置き換え、
前記第1参照ピクチャの読み取りにおいて、
前記制御情報に基づいて、前記第1参照ピクチャの参照ピクチャ領域に対応するピクチャ領域スタートアドレスオフセットを取り出し、
前記ピクチャ領域スタートアドレスオフセットと前記第1参照ピクチャの参照ピクチャスタートアドレスオフセットとを加算した後、前記第1の一時記憶領域のサイズで除算して剰余を取得し、
前記第1の一時記憶領域の前記メモリモジュールにおける一時記憶領域スタートアドレスに前記剰余を加算した後の読み取りスタートアドレスから、前記参照ピクチャ領域を読み取る
映像復号方法。
【請求項8】
元の前記最大動きベクトル検索範囲ピクチャおよび第1部分の前記第1参照ピクチャを順に前記復号ピクチャの画素データに置き換えて新しい前記第1参照ピクチャとし、前記第1部分の後方に位置する第2部分の前記第1参照ピクチャを新しい前記最大動きベクトル検索範囲ピクチャとする
請求項7に記載の映像復号方法。
【請求項9】
前記復号ピクチャの第1の一時記憶領域への格納において、さらに、
前記復号ピクチャの復号ピクチャ領域に対応する復号ピクチャ領域スタートアドレスオフセットを決定し、
前記復号ピクチャ領域スタートアドレスオフセットと前記復号ピクチャの復号ピクチャスタートアドレスオフセットとを加算した後、前記第1の一時記憶領域のサイズで除算して剰余を取得し、
前記第1の一時記憶領域の前記メモリモジュールにおける一時記憶領域スタートアドレスに前記剰余を加算した後の格納スタートアドレスに、前記復号ピクチャ領域を格納する
請求項7に記載の映像復号方法。
【請求項10】
さらに、前記制御情報に基づいて、前記メモリモジュールの第2の一時記憶領域から少なくとも第2参照ピクチャを読み取り、
前記複数の映像ストリームパケット、ならびに前記第1参照ピクチャおよび第2参照ピクチャに基づいて復号して前記復号ピクチャを生成する
請求項7に記載の映像復号方法。
【請求項11】
前記第1参照ピクチャは、短時間参照ピクチャおよび長時間参照ピクチャの一方であり、前記第2参照ピクチャは、前記短時間参照ピクチャおよび前記長時間参照ピクチャの他方である
請求項10に記載の映像復号方法。
【請求項12】
前記最大動きベクトル検索範囲ピクチャのサイズは、ピクチャ幅と最大検索行数との積である
請求項7に記載の映像復号方法。
【請求項13】
さらに、後処理を行った後の前記復号ピクチャの画素データを、前記メモリモジュールの表示一時記憶領域に格納する。
請求項7に記載の映像復号方法。
【請求項14】
さらに、前記復号ピクチャの画素データを圧縮し、圧縮した後の前記復号ピクチャの画素データを前記第1の一時記憶領域に格納する
請求項7に記載の映像復号方法。
【請求項15】
メモリモジュールと、
復号回路と、
後処理回路と
前記メモリモジュール、前記復号回路および前記後処理回路に電気的に接続し、複数のファームウエア実行可能命令を実行する処理回路とを備える映像復号装置であって、
映像ストリーム中の制御情報を読み取り、
前記復号回路は、
前記制御情報に基づいて、前記映像ストリーム中の複数の映像ストリームパケットを読み取り、
少なくとも前記制御情報に基づいて、前記メモリモジュールの第1の一時記憶領域から少なくとも第1参照ピクチャ中の対応画素データを読み取り、前記第1の一時記憶領域の格納内容は順次格納されたものであり、前記格納内容には、最大動きベクトル検索範囲ピクチャおよび前記第1参照ピクチャが含まれ、
前記複数の映像ストリームパケットおよび少なくとも前記第1参照ピクチャ中の対応画素データに基づく復号を実行して復号ピクチャの画素データを生成し、
前記復号を実行するとともに、前記復号ピクチャの画素データを後処理回路に伝送して後処理を行い、前記制御情報に基づいて前記復号ピクチャの画素データを前記第1の一時記憶領域に格納し、前記第1の一時記憶領域において前記最大動きベクトル検索範囲ピクチャの前記格納内容から順に前記格納内容を置き換える映像復号方法を実行し、
前記第1参照ピクチャの読み取りにおいて、
前記制御情報に基づいて、前記第1参照ピクチャの参照ピクチャ領域に対応するピクチャ領域スタートアドレスオフセットを取り出し、
前記ピクチャ領域スタートアドレスオフセットと前記第1参照ピクチャの参照ピクチャスタートアドレスオフセットとを加算した後、前記第1の一時記憶領域のサイズで除算して剰余を取得し、
前記第1の一時記憶領域の前記メモリモジュールにおける一時記憶領域スタートアドレスに前記剰余を加算した後の読み取りスタートアドレスから、前記参照ピクチャ領域を読み取る
映像復号装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は映像復号技術に関し、特に映像復号装置および映像復号方法に関する。
【背景技術】
【0002】
映像コーデックは、デジタル映画を圧縮または解凍することで、伝送時のさらなる効率化を実現できる。多くの従来の符号化技術において、例えば、H.264、H.265またはHEVCなどの映像符号化復号規格では、動き推定および動き補償技術を用いて、時系列中のピクチャを参照して符号化し、動画像を有効に記録して圧縮することで、伝送および格納するデータ量を低減する。したがって、映像デコーダの一部は、参照ピクチャに基づいて復号しているピクチャを扱うために、複数の符号化タイミングに関する参照ピクチャを格納する必要がある。また、復号中のピクチャについても、復号するプロセスに伴って一時的に格納しなければならない。
【発明の概要】
【発明が解決しようとする課題】
【0003】
しかし、参照ピクチャおよび復号ピクチャは、いずれもメモリに格納しなければならない。もし格納について効率的な設計をしなければ、メモリの空間を利用する時、無駄が生じやすくなる。
【0004】
このような従来技術の問題に鑑み、本発明は、従来の技術を改善することができる映像復号装置および映像復号方法を提供することを目的とする。
【0005】
さらに、本発明は、映像を復号する時に必要な参照ピクチャと生成された復号ピクチャとにメモリモジュールの一時記憶領域を共有させてメモリの使用量を効率的に低減できる映像復号装置および映像復号方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明は、映像ストリーム中の制御情報を読み取り、前記制御情報に基づいて、前記映像ストリーム中の複数の映像ストリームパケットを読み取り、復号回路が、少なくとも前記制御情報に基づいて選択的に、メモリモジュールの第1の一時記憶領域からの第1参照ピクチャ中の対応画素データおよび前記メモリモジュールの第2の一時記憶領域からの第2参照ピクチャ中の対応画素データの少なくとも一方を読み取り、前記第1参照ピクチャ中の対応画素データおよび前記第2参照ピクチャ中の対応画素データから選択される少なくとも一方、ならびに前記映像ストリームパケットに基づく復号を実行して、復号ピクチャの画素データを生成し、前記復号を実行する際、前記復号ピクチャの画素データを後処理回路に伝送し、前記制御情報に基づいて、前記復号ピクチャの画素データを前記第1の一時記憶領域および前記第2の一時記憶領域の一方に格納する映像復号方法を含む。
【0007】
本発明は、さらにメモリモジュール、復号回路、後処理回路および処理回路を備える映像復号装置を含む。処理回路はメモリモジュール、復号回路および後処理回路に電気的に接続し、複数のファームウエア実行可能命令を実行する。これらを備える映像復号装置は映像復号方法を実行する。映像復号方法において、復号回路は、少なくとも前記制御情報に基づいて選択的に、前記メモリモジュールの第1の一時記憶領域からの第1参照ピクチャ中の対応画素データおよび前記メモリモジュールの第2の一時記憶領域からの第2参照ピクチャ中の対応画素データの少なくとも一方を読み取り、前記第1参照ピクチャ中の対応画素データおよび前記第2参照ピクチャ中の対応画素データから選択される少なくとも一方、ならびに前記映像ストリームパケットに基づく復号を実行して、復号ピクチャの画素データを生成し、復号を実行する際、前記復号ピクチャの画素データを後処理回路に伝送し、前記制御情報に基づいて、前記復号ピクチャの画素データを前記第1の一時記憶領域および前記第2の一時記憶領域の一方に格納する。
【0008】
本発明は、映像ストリーム中の制御情報を読み取って復号し、前記制御情報に基づいて、前記映像ストリーム中の複数の映像ストリームパケットを読み取り、少なくとも前記制御情報に基づいて、メモリモジュールの第1の一時記憶領域から少なくとも第1参照ピクチャ中の対応画素データを読み取り、前記第1の一時記憶領域の格納内容は順次格納されたものであり、前記格納内容には、前方に位置する最大動きベクトル検索範囲ピクチャおよび後方に位置する前記第1参照ピクチャが含まれ、前記映像ストリームパケットおよび少なくとも前記第1参照ピクチャ中の対応画素データに基づく復号を実行して復号ピクチャの画素データを生成し、前記復号を実行する際、前記復号ピクチャの画素データを後処理回路に伝送して後処理を行い、前記制御情報に基づいて前記復号ピクチャの画素データを行ごとに前記第1の一時記憶領域に格納し、前記第1の一時記憶領域において最も前方に位置する前記格納内容から順に前記格納内容を置き換える映像復号方法を含む。
【0009】
本発明は、さらにメモリモジュール、復号回路、後処理回路および処理回路を備えるほかの映像復号装置を含む。処理回路はメモリモジュール、復号回路および後処理回路に電気的に接続し、複数のファームウエア実行可能命令を実行する。これらを備える映像復号装置は映像復号方法を実行する。映像復号方法において、映像ストリーム中の制御情報を読み取って復号し、前記復号回路は、前記制御情報に基づいて、前記映像ストリーム中の複数の映像ストリームパケットを読み取り、少なくとも前記制御情報に基づいて、前記メモリモジュールの第1の一時記憶領域から少なくとも第1参照ピクチャ中の対応画素データを読み取り、前記第1の一時記憶領域の格納内容は順次格納されたものであり、前記格納内容には、前方に位置する最大動きベクトル検索範囲ピクチャおよび後方に位置する前記第1参照ピクチャが含まれ、前記映像ストリームパケットおよび少なくとも前記第1参照ピクチャ中の対応画素データに基づく復号を実行して復号ピクチャの画素データを生成し、前記復号を実行するとともに、前記復号ピクチャの画素データを後処理回路に伝送して後処理を行い、前記制御情報に基づいて前記復号ピクチャの画素データを前記第1の一時記憶領域に格納し、前記第1の一時記憶領域において最も前方に位置する前記格納内容から順に前記格納内容を置き換える。
【0010】
本発明の特徴、実施方法および効果について、図面を参照しながら実施の形態を詳しく説明する。
【図面の簡単な説明】
【0011】
図1図1は本発明の一実施例における映像復号装置のブロックを示す図である。
図2図2は本発明の一実施例における映像復号方法のフローを示す図である。
図3A図3Aは本発明の一実施例における第1の一時記憶領域を示す図である。
図3B図3Bは本発明の一実施例における第1の一時記憶領域を示す図である。
図3C図3Cは本発明の一実施例における第1の一時記憶領域を示す図である。
【発明を実施するための形態】
【0012】
(実施の形態)
以下では、図および具体的な実施の形態を用いて、本発明を詳しく説明する。ただし、これらは本発明を限定するものではない。
【0013】
本発明は、復号する際に、メモリに効率的に参照ピクチャおよび復号ピクチャを記憶させて記憶領域の節約効果をもたらす映像復号装置および映像復号方法を提供することを目的とする。
【0014】
図1を参照すると、当該図1は本発明の一実施例における映像復号装置100のブロック図である。映像復号装置100は、映像ストリーム(Element Stream:ES)を受信し、映像ストリームES中の映像ストリームパケットおよび制御情報を復号して後処理を行い、出力復号映像DOIを生成し、表示モジュール(図示せず)に出力復号映像DOIを表示させる。
【0015】
映像復号装置100は、少なくともメモリコントローラ150、メモリモジュール110、復号回路120、後処理回路130および処理回路140を含む。そのうち、メモリモジュール110は、インタフェースを介して映像復号装置100に接続される独立素子でもよい。
【0016】
実施例において、メモリモジュール110は、メモリコントローラ150および復号回路120を介して、後処理回路130および処理回路140に接続される。メモリモジュール110は、映像を復号する時に必要な異なるデータを格納する異なる領域を有し、少なくとも映像ストリームES領域、一つまたは複数の短時間参照ピクチャ領域、一つまたは複数の長時間参照ピクチャ領域およびDOI領域を含む。メモリモジュール110は、スピードが比較的速いメモリ、例えば、DDR SDRAM(Double-Data-Rate Synchronous Dynamic Random Access Memory)で実現してもよいが、それに限らない。
【0017】
実施例において、映像復号装置100は、さらにメモリコントローラ150を含んでもよい。メモリコントローラ150は、例えば、メモリインタフェースユニット(Memory Interface Unit:MIU)により実現されてもよいが、それに限らない。映像復号装置100における他の回路モジュールにおいて、例えば復号回路120、後処理回路130および処理回路140は、メモリコントローラ150を介してメモリモジュール110にアクセスすることで、データをメモリモジュール110に記憶、またはメモリモジュール110からデータを読み取ってもよい。
【0018】
復号回路120は、例えば参照ピクチャおよび映像ストリームパケットに限らない必要なデータに基づいて復号し、順に復号済み画素をメモリ群に格納し、後処理回路130に伝送し、復号ピクチャDIを生成する。デコーダは、例えばH.264あるいはH.265の符号化規格に基づいて復号工程を行うが、それらの符号化規格に限らない。
【0019】
後処理回路130は、復号ピクチャDIに後処理を行うためのものであり、例えばスケーリング(scaling)、映像品質処理またはフォーム変換に限らない後処理を行うことで、出力復号映像DOIを生成する。
【0020】
処理回路140は、メモリモジュール110、復号回路120および後処理回路130に電気的に接続する。処理回路140は一つまたは多数のマイクロプロセッサ(microprocessor)または映像ストリーム分析回路との組み合わせにより構成されてもよく、ファームウエア実行可能命令141を実行することで、映像復号装置100の機能を実行する。更に詳しく説明すると、処理回路140は映像復号装置100に含まれる格納モジュール(図示せず)からファームウエア実行可能命令141を取り出す。ファームウエア実行可能命令141は、例えば映像ストリーム制御情報の復号、復号回路120および後処理回路130などのハードウエアモジュールのファームウエア/ドライバ(firmware/driver)プログラム、およびその他の復号回路120および後処理回路130などのハードウエアモジュールを操作および制御するための関連コマンドを含むが、これらに限らない。さらに、復号回路120および後処理回路130などハードウエアモジュールを操作および制御し、上記の映像ストリームESの復号および後処理を行い、出力復号映像DOIを生成する。
【0021】
実施例において、復号回路120、後処理回路130および処理回路140は、映像ストリーム復号および映像後処理の過程において、必要な制御情報を交換する。
【0022】
図2を合わせて説明する。以下、図1および図2を合わせて、映像復号装置100の詳細な機能をさらに詳しく説明する。
【0023】
図2は本発明の一実施例における映像復号方法200のフローチャートである。映像復号方法200は、図1に示す映像復号装置100に適用してもよい。映像復号方法200の実施例において、図2に示すように、下記のステップを含む。
【0024】
ステップS210において、処理回路140に映像ストリームESにおける制御情報を読み取らせて復号させる。制御情報は、パケットが短時間参照ピクチャ(Short Term Reference Frame:STRF)または長時間参照ピクチャ(Long Term Reference Frame:LTRF)に属するかを識別し、復号するためのパラメーターなどである。
【0025】
実施例において、映像ストリームESは、メモリモジュール110中の映像ストリームパケット一時記憶領域112に一時格納される。処理回路140および復号回路120は、メモリコントローラ150を介して映像ストリームパケット一時記憶領域112を読み取り、映像ストリームES中の制御情報および映像ストリームパケット(ES Packets)を取得する。
【0026】
ステップS220において、復号回路120に、制御情報に基づいて、映像ストリームES中の映像ストリームパケットを読み取らせる。
【0027】
実施例において、映像ストリームESは、制御情報以外に、さらに映像ストリームパケットを含む。そのうち、映像ストリームES中の制御情報は符号化に関連する情報を含み、映像ストリームパケットは実際の映像データである。処理回路140は、制御情報に基づいて、復号するパケットおよび参照するピクチャを把握し、復号回路120を制御して、メモリコントローラ150を介して映像ストリームES中の映像ストリームパケットを読み取らせる。
【0028】
ステップS230において、復号回路120に、少なくとも制御情報に基づいて選択的に、メモリモジュール110の第1の一時記憶領域114からの第1参照ピクチャSF中の対応画素データ、およびメモリモジュール110の第2の一時記憶領域116からの第2参照ピクチャLF中の対応画素データの少なくとも一方を読み取らせる。
【0029】
実施例において、復号回路120は同時に制御情報および映像ストリームパケットの内容に基づいて、上記の読み取り動作を選択的に行うことができる。
【0030】
実施例において、第1の一時記憶領域114に格納される内容は少なくとも第1参照ピクチャSFを含むが、本実施例において、第1参照ピクチャSFは短時間参照ピクチャである。復号対象ピクチャの時系列でN個目のピクチャを例にすると、第1参照ピクチャSFはN-1個目のピクチャ、つまり復号が完了している、直前の復号ピクチャである。第2の一時記憶領域116に格納される内容は、少なくとも第2参照ピクチャLFを含むが、本実施例において、第2参照ピクチャLFは長時間参照ピクチャである。復号対象ピクチャの時系列でN個目のピクチャを例にすると、第2参照ピクチャLFはN-5個目のピクチャであり、直前の復号ピクチャではない。復号回路120は、復号対象ピクチャごとの要求に基づいて、必要な参照データを読み取るが、短時間参照ピクチャおよび長時間参照ピクチャを読み取ってもよいし、短時間参照ピクチャおよび長時間参照ピクチャの一方を読み取ってもよいし、またはいずれの参照ピクチャも読み取らなくてもよい。
【0031】
メモリの節約の点から更に詳しく考えると、もし復号対象ピクチャが短時間参照ピクチャである場合、復号対象ピクチャと直前の復号ピクチャとは第1の一時記憶領域114を共有し、復号対象ピクチャにより徐々に直前の復号ピクチャは上書きされるが、少なくとも現在の復号対象ピクチャを復号するために必要な直前復号ピクチャ領域は確保しなければならない。本実施例において、映像ストリームESに含まれる映像ピクチャのピクチャ高さをHとし、ピクチャ幅をWとし、映像ピクチャのサイズをH×Wとし、符号化復号の規格によりピクチャ間の動きベクトルの最大検索行数がVと設定される時、最大動きベクトル検索範囲ピクチャのサイズはV×Wになる。したがって、第1の一時記憶領域114のサイズはH×W+V×Wであり、第1の一時記憶領域114は環状のバッファメモリ(Ring Buffer)設計でもよいが、本発明は上記に限らない。もし復号対象ピクチャが長時間参照ピクチャである場合、復号対象ピクチャは、直前の復号ピクチャと第2の一時記憶領域116を共有する。その他の点では短時間参照ピクチャと第1の一時記憶領域114を共有する動作と同じであり、ここでは詳しく説明しない。
【0032】
ステップS240において、復号回路120を制御し、第1参照ピクチャSF中の対応画素データおよび第2参照ピクチャLF中の対応画素データから選択される少なくとも一方、ならびに映像ストリームパケットに基づいて復号して、復号ピクチャDIの画素データを生成する。
【0033】
実施例において、復号回路120は、例えばH.264あるいはH.265のビデオ符号化復号規格に基づいて、映像ストリームES中の映像ストリームパケットを順に復号し、現在の復号対象ピクチャの復号が完了するまで、復号済みの画素をメモリモジュール110に格納して後処理回路130に送信し、復号ピクチャDIを生成する。復号回路120が映像ストリームパケットを復号する際には、制御信号および映像ストリームパケットデータに基づいて、第1参照ピクチャSFの画素データおよび第2参照ピクチャLFの画素データを選択的に参照して復号しなければならない。
【0034】
ステップS250において、復号するとともに、復号回路120を制御し、復号ピクチャDI中の復号済みの画素データを順に後処理回路130に伝送して後処理を行い、制御情報により、復号ピクチャDI中の復号済みの画素データを順に第1の一時記憶領域114または第2の一時記憶領域116に格納する。実施例において、もし復号ピクチャDIが短時間参照ピクチャである場合、復号ピクチャDI中の復号済みの画素を順に第1の一時記憶領域114に格納し、または復号ピクチャDIが長時間参照ピクチャである場合、復号ピクチャDI中の復号済みの画素を順に第2の一時記憶領域116に格納する。
【0035】
他の実施例において、1つの短時間参照ピクチャおよび1つの長時間参照ピクチャを格納することに限らず、かつ第1の一時記憶領域に短時間参照ピクチャを格納し、第2の一時記憶領域に長時間参照ピクチャを格納することに限らず、システムにより必要に応じて配置を調整できる。
【0036】
なお、実施例において、後処理回路130の後処理を経て生成される出力復号映像DOIは、外部の表示装置に表示される。
【0037】
本実施例において、復号ピクチャが短時間参照ピクチャである時、復号回路120は、メモリコントローラ150により第1の一時記憶領域114中の第1参照ピクチャSFの画素データを読み取りながら、生成した復号ピクチャDIの画素データをメモリコントローラ150により第1の一時記憶領域114に格納する。
【0038】
第1の一時記憶領域114がリングバッファメモリである例において、復号対象ピクチャの復号に第1参照ピクチャSFを参照しなければならない時、必要な最大動きベクトル検索範囲MFのサイズはV×Wであり、復号回路120が生成する復号ピクチャDIは、第1の一時記憶領域114中の第1参照ピクチャSFの前方のV×W位置から格納しなければならない。復号回路120が生成する復号ピクチャDIは、元の最大動きベクトル検索範囲ピクチャMF1の内容を優先的に置き換える。次に、サイズがV×Wである最大動きベクトル検索範囲ピクチャMF1がすべて置き換えられた後、復号回路120は、すべての復号ピクチャDIのデータを生成および格納し終わるまで、続けて第1部分の第1参照ピクチャSFを置き換える。
【0039】
第1の一時記憶領域114では、復号ピクチャDIにより徐々に第1の一時記憶領域114に格納されている内容を置き換える方法に基づいて、第1参照ピクチャSFおよび復号ピクチャDIに、第1の一時記憶領域114を共有させる。しかし、復号回路120が復号する際には動きベクトルの情報が必要であるため、復号ピクチャDIが最後の一部のピクチャ領域でも変わらず復号回路120が第1参照ピクチャSFを参照して復号できるように、少なくとも第1参照ピクチャSF中の最大動きベクトル検索に適合する範囲を確保しなければならない。そのうち、最大動きベクトル検索の範囲のサイズ(つまりVのサイズ)は必要に応じて決定してもよい。
【0040】
復号ピクチャが長時間参照ピクチャである時、復号回路120は、メモリコントローラ150により第2の一時記憶領域116中の第2参照ピクチャLFを読み取りながら、生成した復号ピクチャDIの画素をメモリコントローラ150により第2の一時記憶領域116に格納する。第2の一時記憶領域116へのアクセス動作と上述の第1の一時記憶領域114へのアクセス動作とは同じなので、ここでは繰り返し説明しない。
【0041】
次に、図3Aから図3Cを参照する。図3Aから図3Cは、それぞれ本発明の一実施例における第1の一時記憶領域114を示す図である。
【0042】
図3Aに示すように、第1の一時記憶領域114には、第1参照ピクチャSFおよび最大動きベクトル検索範囲ピクチャMF1が格納される。復号の開始直後、復号回路120は第1参照ピクチャSFのスタート位置から読み取り、復号した後の復号ピクチャDIを、最大動きベクトル検索範囲ピクチャMF1のスタート位置から格納する。
【0043】
実施例において、以下の方法により第1参照ピクチャSFを読み取る。まず、第1参照ピクチャSFのスタート位置の、第1の一時記憶領域114のスタート位置に対するアドレスオフセットが、処理回路140により参照ピクチャスタートアドレスオフセットStoffとして記録される。さらに、処理回路140は、制御情報により、対応する第1参照ピクチャSF中の、対応する参照ピクチャ領域RBのピクチャ領域スタートアドレスオフセットMboffを取り出す。
【0044】
処理回路140は、さらにピクチャ領域スタートアドレスオフセットMboffと参照ピクチャスタートアドレスオフセットStoffとを加算した後、第1の一時記憶領域114のサイズ(H×W+V×W)で除算して剰余R1を取得する。さらに詳しく言えば、剰余R1=(Mboff+Stoff) mod (H×W+V×W)である。本実施例において、第1参照ピクチャSFが格納される位置は連続するので、ピクチャ領域スタートアドレスオフセットMboffと参照ピクチャスタートアドレスオフセットStoffとを加算した結果は、第1の一時記憶領域114のサイズを上回ることなく、この剰余R1は加算結果と同じになる。
【0045】
次に、処理回路140は、第1の一時記憶領域114がメモリモジュール110の一時記憶領域スタートアドレスIAに剰余を加算した後の読み取りスタートアドレス(IA+R1)を算出し、復号回路120に当該読み取りスタートアドレスに基づいて、必要な参照ピクチャ領域RBを読み取らせる。
【0046】
一方、以下で説明する方法により、復号ピクチャDIの格納を行ってもよい。まず、N個目の復号ピクチャDIについて、そのスタート位置の、第1の一時記憶領域114のスタート位置に対するアドレスオフセットは、処理回路140により復号ピクチャスタートアドレスオフセットNfoffとして記録されてもよい。復号ピクチャDIに含まれる復号ピクチャ領域の、復号ピクチャDIスタート位置に対するオフセットは、処理回路140により復号ピクチャ領域スタートアドレスオフセットMBoffと決定されてもよい。
【0047】
処理回路140は、さらに復号ピクチャ領域スタートアドレスオフセットMBoffと復号ピクチャスタートアドレスオフセットNfoffとを加算した後、第1の一時記憶領域114のサイズで除算して剰余R2を取得する。さらに詳しくいえば、剰余R2=(MBoff+Nfoff) mod (H×W+V×W)である。
【0048】
本実施例において、復号ピクチャDIの格納が最大動きベクトル検索範囲ピクチャMF1のサイズを上回らない時、復号ピクチャ領域スタートアドレスオフセットMBoffと復号ピクチャスタートアドレスオフセットNfoffとを加算した結果は、第1の一時記憶領域114のサイズを上回ることなく、この剰余R2は加算結果と同じになる。
【0049】
次に、処理回路140は、第1の一時記憶領域114がメモリモジュール110の一時記憶領域スタートアドレスIAと剰余とを加算した後の格納スタートアドレス(IA+R2)を算出し、復号回路120に、当該格納スタートアドレスに基づいて復号ピクチャ領域DBを格納させる。
【0050】
復号ピクチャDIの格納が最大動きベクトル検索範囲ピクチャMF1のサイズを上回る時、復号ピクチャ領域スタートアドレスオフセットMBoffと復号ピクチャスタートアドレスオフセットNfoffとを加算した結果は、第1の一時記憶領域114のサイズより大きくなり、加算結果を第1の一時記憶領域114のサイズで除算すれば、商は1より大きくなる。したがって、取得した剰余R2により、処理回路140は、第1の一時記憶領域114のメモリモジュール110における一時記憶領域スタートアドレスIAに剰余を加算した後の、本当の格納スタートアドレス(IA+R2)を算出することが可能で、復号回路120に、当該格納スタートアドレスに基づいて復号ピクチャ領域を格納させる。
【0051】
さらに詳しく言えば、復号ピクチャDIの格納が最大動きベクトル検索範囲ピクチャMF1のサイズを上回る時、処理回路140は、元の第1参照ピクチャSFを置き換えるように、第1の一時記憶領域114の先頭から格納する。
【0052】
したがって、上記の方法により復号した後、図3Bが示すように、格納されるN個目の復号ピクチャDIは新しい第1参照ピクチャSFとなり、第1の一時記憶領域114において二つの部分に分かれる。第1部分は時系列で比較すれば前であり、図3Aの中の最大動きベクトル検索範囲ピクチャMF1に相当する。第2部分は時系列で比較すれば後ろであるが、第1の一時記憶領域114でのアドレスはスタートアドレスから格納されるので、第1部分に比べて前方に位置し、図3Aの中の第1参照ピクチャSFの一部分に相当する。図3A中の第1参照ピクチャSFの他の部分は、新しい最大動きベクトル検索範囲ピクチャMF1になる。
【0053】
また、N+1個目の復号ピクチャDIを復号する時、再び上記動作が行われる。さらに詳しく言えば、復号回路120は上記のアドレスを算出し、図3Bの第1参照ピクチャSFのスタート位置から読み取る。復号後に上記のアドレスを算出し、図3Bの最大動きベクトル検索範囲ピクチャMF1のスタート位置から復号ピクチャDIを格納する。
【0054】
したがって、上記の方法により復号した後、図3Cに示すように、格納されるN+1個目の復号ピクチャDIは新しい第1参照ピクチャSFになる。そして残りの部分の第1参照ピクチャSFは、新しい最大動きベクトル検索範囲ピクチャMF1になる。
【0055】
したがって、本発明の映像復号装置100は、上記の時系列による循環格納の仕組みに基づいて、有効に第1参照ピクチャSFおよび復号ピクチャDIに同一の一時記憶領域を共有させることができる。実際の動作において、第1の一時記憶領域114の循環格納はリングバッファ(circular buffer)の方法で成り立ってもよいし、メモリ管理ユニット(memory management unit)を設けることで成り立ってもよい。
【0056】
さらに、復号ピクチャDIの生成とともに、復号回路120は復号ピクチャDIを同期して後処理回路130に伝送して後処理が行われるので、後処理回路130のアクセスのために復号ピクチャDIを別途格納する必要がない。したがって、上記の本願の仕組みによれば、メモリアクセス帯域幅を節約する目的を果たすことができる。
【0057】
実施例において、復号回路120は、まず生成された復号ピクチャDIを圧縮した後、圧縮後の復号ピクチャDIを第1の一時記憶領域114に格納してもよい。したがって、第1の一時記憶領域114のサイズはさらに低減することが可能で、メモリの使用量をさらに節約できる。
【0058】
ここで注意すべきことは、上記の実施例において、いずれも短時間参照ピクチャ(第1参照ピクチャSF)を格納するための第1の一時記憶領域114を配置することを好ましい例として説明した。しかし、他の実施例において、長時間参照ピクチャ(第2参照ピクチャLF)を格納するための第2の一時記憶領域116を配置しても、上記のリングバッファ構造を有することが可能で、長時間参照ピクチャである第2参照ピクチャLFおよび復号ピクチャDIに、同一の一時記憶領域を共有させることができる。
【0059】
さらに詳しく言うと、処理回路140は制御情報を読み取った後、現在復号して生成された復号ピクチャDIについて、短時間参照ピクチャに対応する第1の一時記憶領域114に格納するか、または長時間参照ピクチャに対応する第2の一時記憶領域116に格納するかを判断し、上述の仕組みにより格納内容の置き換えを行う。したがって、第2の一時記憶領域116の動作メカニズムについては、ここで述べない。
【0060】
さらに、上記の実施例では、第1の一時記憶領域114に1枚の短時間参照ピクチャを格納することを好ましい例として説明した。しかし、他の実施例において、第1の一時記憶領域114は、復号回路120が複数枚の短時間参照ピクチャに基づいて復号できるように、複数枚の短時間参照ピクチャを格納してもよい。
【0061】
そして、上記の実施例では、同時に短時間参照ピクチャおよび長時間参照ピクチャを参照し復号する仕組みについて説明した。しかし、他の実施例において、復号回路120は短時間参照ピクチャのみ参照する方法で復号を行ってもよい。
【0062】
ここで注意すべきことは、上記の実施の形態は好ましい一例にすぎない。その他の実施例において、当業者は本発明の趣旨を逸脱しない範囲で変形することができる。
【0063】
上記のように、本発明における映像復号装置および映像復号方法によると、映像を復号する時に必要な参照ピクチャおよび生成された復号ピクチャにメモリモジュール中の一時記憶領域を共有させ、メモリの使用量を効率的に低減できる。
【0064】
上記のように本発明の実施の形態を説明したが、本発明は、上記実施の形態に限定されるものではない。当業者が本発明の示す内容または暗示する内容に基づいて、本発明の技術的特徴について各種変形を施して得られる変形例のいずれも本発明の範囲に含まれる。言い換えると、本発明の保護範囲は、請求の範囲に記載されている構成要素により決められる。
【符号の説明】
【0065】
100 映像復号装置
110 メモリモジュール
112 映像ストリームパケット一時記憶領域
114 第1の一時記憶領域
116 第2の一時記憶領域
118 表示レジスタ
120 復号回路
130 後処理回路
140 処理回路
141 ファームウエア実行可能命令
150 メモリコントローラ
200 映像復号方法
DB 復号ピクチャ領域
DI 復号ピクチャ
DOI 出力復号映像
ES 映像ストリーム
LF 第2参照ピクチャ
MBoff 復号ピクチャ領域スタートアドレスオフセット
Mboff ピクチャ領域スタートアドレスオフセット
MF1 最大動きベクトル検索範囲ピクチャ
MF2 最大動きベクトル検索範囲ピクチャ
Nfoff 復号ピクチャスタートアドレスオフセット
RB 参照ピクチャ領域
SF 第1参照ピクチャ
Stoff 参照ピクチャスタートアドレスオフセット
S210~S260 ステップ
図1
図2
図3A
図3B
図3C