特許第5746169号(P5746169)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ サムスン エレクトロニクス カンパニー リミテッドの特許一覧

特許5746169大きいサイズの変換単位を利用した映像符号化、復号化方法及び装置
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】5746169
(24)【登録日】2015年5月15日
(45)【発行日】2015年7月8日
(54)【発明の名称】大きいサイズの変換単位を利用した映像符号化、復号化方法及び装置
(51)【国際特許分類】
   H04N 19/119 20140101AFI20150618BHJP
   H04N 19/122 20140101ALI20150618BHJP
   H04N 19/176 20140101ALI20150618BHJP
【FI】
   H04N19/119
   H04N19/122
   H04N19/176
【請求項の数】4
【全頁数】20
(21)【出願番号】特願2012-524649(P2012-524649)
(86)(22)【出願日】2010年8月13日
(65)【公表番号】特表2013-502138(P2013-502138A)
(43)【公表日】2013年1月17日
(86)【国際出願番号】KR2010005327
(87)【国際公開番号】WO2011019234
(87)【国際公開日】20110217
【審査請求日】2013年8月9日
(31)【優先権主張番号】10-2009-0074895
(32)【優先日】2009年8月13日
(33)【優先権主張国】KR
(73)【特許権者】
【識別番号】503447036
【氏名又は名称】サムスン エレクトロニクス カンパニー リミテッド
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(74)【代理人】
【識別番号】100091214
【弁理士】
【氏名又は名称】大貫 進介
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(72)【発明者】
【氏名】リー,タミー
(72)【発明者】
【氏名】ハン,ウ−ジン
(72)【発明者】
【氏名】チェン,ジアンル
(72)【発明者】
【氏名】ジョン,ヘ−ギョン
【審査官】 久保 光宏
(56)【参考文献】
【文献】 特表2011−501566(JP,A)
【文献】 特開2007−243427(JP,A)
【文献】 特開2003−319394(JP,A)
【文献】 国際公開第2007/034918(WO,A1)
【文献】 国際公開第2006/112113(WO,A1)
【文献】 特開2003−250161(JP,A)
【文献】 米国特許第5852469(US,A)
【文献】 Chen, P., et.al.,"Video Coding Using Extended Block Sizes",[online],ITU - Telecommunications Standardization Sector ST,2008年10月15日,Document: VCEG-AJ23,[平成27年2月2日検索],インターネット,URL,http://wftp3.itu.int/av-arch/video-site/0810_San/VCEG-AJ23.zip
【文献】 "ITU-T Recommendation H.264 (03/2005)",[online],ITU-T,2005年 3月,第7.3.4,7.3.5,7.3.5.3,7.4.5.3節,[平成24年2月6日検索],インターネット,URL,http://www.itu.int/rec/dologin_pub.asp?lang=e&id=T-REC-H.264-200503-S!!PDF-E&type=items
【文献】 Yamamoto, T., et.al.,"Analysis on Transform and Partition Selection in Extended Block Sizes and Modification of Block Tra,[online],ITU - Telecommunications Standardization Sector ST,2009年 4月10日,Document:VCEG-AK19,[平成26年12月11日検索], インターネット,URL,http://wftp3.itu.int/av-arch/video-site/0904_Yok/VCEG-AK19.zip
【文献】 Yamamoto, T., et.al.,"Further result on constraining transform candidate in Extended Block Sizes",[online],ITU - Telecommunications Standardization Sector ST,2009年 7月 7日,Document: VCEG-AL19,[平成27年1月27日検索],インターネット,URL,http://wftp3.itu.int/av-arch/video-site/0906_LG/VCEG-AL19.zip
【文献】 Y.B.Yu, et.al.,"LOW BIT RATE VIDEO CODING USING VARIABLE BLOCK SIZE MODEL",Proc. of 1990 Int. Conf. on Acoustics, Speech, and Signal Processing (ICASSP-90),1990年 4月,Vol.4,p.2229-2232,ISSN:1520-6149
【文献】 Naito, S., et.al.,"Efficient coding scheme for super high definition video based on extending H.264 high profile",Proc. of SPIE-IS&T Electronic Imaging, SPIE Vol.6077,2006年 1月,p.607727-1〜607727-8,JST資料番号:D0943ABQ
【文献】 Ma, S., et.al.,"High-definition Video Coding with Super-macroblocks",Proc. of SPIE-IS&T Electronic Imaging, SPIE Vol.6508,2007年 2月,p.650816-1〜650816-12,JST資料番号:D0943ABQ
【文献】 小野定康(外2名),「ユビキタス技術 動画像の高能率符号化−MPEG-4とH.264−」,日本,株式会社オーム社,2005年 4月20日,第1版,第112〜113頁,ISBN:4-274-20060-4
【文献】 Huipin Zhang, et.al.,"REGION-BASED CODING OF MOTION FIELDS FOR LOW-BITRATE VIDEO COMPRESSION",Proceedings of the 2004 Int. Conf. on Image Processing (ICIP 2004),2004年10月,Vol.2,p.1117-1120,ISBN:0-7803-8554-3
(58)【調査した分野】(Int.Cl.,DB名)
H04N19/00−19/98,
CSDB(日本国特許庁),
IEEEXplore(IEEE)
(57)【特許請求の範囲】
【請求項1】
映像復号化装置が映像を復号化する方法において、
前記映像復号化装置が、映像から分割された複数の最大符号化単位を決定する段階と、
前記映像復号化装置が、前記映像に対するビットストリームからパージングされた符号化単位の分割情報を用いて、前記最大符号化単位に含まれた階層構造の符号化単位を決定する段階と、
前記映像復号化装置が、前記ビットストリームに対してエントロピー復号化を行って前記符号化単位に含まれた変換単位の量子化された変換係数を獲得する段階と、
前記映像復号化装置が、前記量子化された変換係数に対して逆量子化及び逆変換を行って前記変換単位のレジデュアル値を獲得する段階と、
前記映像復号化装置が、前記符号化単位に含まれた少なくとも一つの予測単位を用いて予測を行って予測映像を決定し、前記レジデュアル値と前記予測映像を用いて前記符号化単位を復元する段階と、を含み、
前記符号化単位から分割された変換単位のサイズは、前記符号化単位から分割された予測単位のサイズと独立して決定され、
前記最大符号化単位は、前記分割情報によって現在深度と下位深度のうち少なくとも一つを含む深度の符号化単位に階層的に分割され、
前記分割情報が現在深度で分割されたことを示すとき、前記現在深度の符号化単位は隣接符号化単位と独立して正方形の下位深度の符号化単位に4分割され、
前記分割情報が前記現在深度で分割されていないことを示すとき、一つ以上の予測単位は前記現在深度の符号化単位から獲得され、一つ以上の変換単位が前記現在深度の符号化単位から獲得される、ことを特徴とする映像復号化方法。
【請求項2】
前記最大符号化単位が16x16、32x32及び64x64のうち一つに設定される場合、前記符号化単位は8x8、16x16、32x32及び64x64のうち一つに決定され、前記予測単位は前記符号化単位の横と縦のうち少なくとも一つを分割することによって獲得される、ことを特徴とする請求項1に記載の映像復号化方法。
【請求項3】
前記符号化単位に含まれる前記変換単位のサイズ及び前記予測単位のサイズは、それぞれ前記符号化単位の大きさより小さいか等しい、ことを特徴とする請求項1に記載の映像復号化方法。
【請求項4】
映像復号化装置において、
映像から分割された複数個の最大符号化単位を決定し、前記映像に対するビットストリームからパージングされた符号化単位の分割情報を用いて、前記最大符号化単位に含まれた階層構造の符号化単位を決定し、前記ビットストリームに対してエントロピー復号化を行って前記符号化単位に含まれた変換単位の量子化された変換係数を獲得するエントロピー復号化部と、
前記量子化された変換係数に対して逆量子化及び逆変換を行って前記変換単位のレジデュアル値を獲得する逆量子化/逆変換部と、
前記符号化単位に含まれた少なくとも一つの予測単位を用いて予測を行って予測映像を決定し、前記レジデュアル値と前記予測映像を用いて前記符号化単位を復元する復号化部を含み、
前記符号化単位から分割された変換単位のサイズは、前記符号化単位から分割された予測単位のサイズと独立して決定され、
前記最大符号化単位は、前記分割情報によって現在深度と下位深度のうち少なくとも一つを含む深度の符号化単位に階層的に分割され、
前記分割情報が現在深度で分割されることを示すとき、前記現在深度の符号化単位は隣接符号化単位と独立して正方形の下位深度の符号化単位に4分割され、
前記分割情報が前記現在深度で分割されていないことを示すとき、一つ以上の予測単位は前記現在深度の符号化単位から獲得され、一つ以上の変換単位が前記現在深度の符号化単位から獲得される、ことを特徴とすることを特徴とする映像復号化装置。

【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像符号化、復号化方法及び装置に係り、特にピクセルドメインの映像を周波数ドメインの係数に変換して、映像を符号化、復号化する方法及び装置に関する。
【背景技術】
【0002】
ほとんどの映像符号化、復号化方法及び装置は、映像圧縮のためにピクセルドメインの映像を周波数ドメインに変換して符号化する。周波数変換のうち一つの技法であるDCT(Discrete Cosine Transform)は、映像または音声圧縮に使われる広く知られた技術である。DCTを利用した映像符号化方法では、ピクセルドメインの映像をDCTして、離散コサイン係数を生成し、生成された係数を量子化及びエントロピー符号化する。
【発明の概要】
【発明が解決しようとする課題】
【0003】
本発明が解決しようとする課題は、より効率的なDCTを利用した映像を符号化、復号化する方法及び装置を提供するところにあり、前記方法を実行するためのプログラムを記録したコンピュータで読み取り可能な記録媒体を提供するところにある。
【課題を解決するための手段】
【0004】
前記課題を解決するための本発明の一実施形態による映像符号化方法は、隣接した複数の予測単位を選択して、一つの変換単位を設定するステップと、前記変換単位によって、前記複数の予測単位を周波数ドメインに変換して、周波数成分係数を生成するステップと、前記生成された周波数成分係数を量子化するステップと、前記量子化された周波数成分係数をエントロピー符号化するステップと、を含む。
【0005】
本発明の他の実施形態によれば、前記設定するステップは、現在のスライスまたは現在のピクチャーの最大符号化単位から、前記隣接した複数の予測単位を含むサブ符号化単位に段階的に縮小した程度を表す深度に基づいて、一つの変換単位を設定するステップを含む。
【0006】
本発明のさらに他の実施形態によれば、前記設定するステップは、同じ種類の予測モードによって予測が行われた隣接した複数の予測単位を選択して、一つの変換単位を設定するステップを含む。
【0007】
本発明のさらに他の実施形態によれば、前記同じ種類の予測モードは、インター予測モードまたはイントラ予測モードであることを特徴とする。
【0008】
本発明のさらに他の実施形態によれば、前記映像符号化方法は、相異なる変換単位に対して、前記隣接した複数の予測単位を選択して、一つの変換単位を設定するステップと、前記選択された複数の予測単位を一つの変換単位で周波数ドメインに変換して、周波数成分係数を生成するステップと、前記生成された周波数成分係数を量子化するステップと、前記量子化された周波数成分係数をエントロピー符号化するステップを反復して、最適の変換単位を設定するステップとをさらに含む。
【0009】
前記課題を解決するための本発明の一実施形態による映像符号化装置は、隣接した複数の予測単位を選択して、一つの変換単位を設定し、前記変換単位によって、前記複数の予測単位を周波数ドメインに変換して、周波数成分係数を生成する変換部と、前記生成された周波数成分係数を量子化する量子化部と、前記量子化された周波数成分係数をエントロピー符号化するエントロピー符号化部と、を備える。
【0010】
前記課題を解決するための本発明の一実施形態による映像復号化方法は、所定の変換単位によって、周波数ドメインに変換して生成された周波数成分係数をエントロピー復号化するステップと、前記エントロピー復号化された周波数成分係数を逆量子化するステップと、前記周波数成分係数をピクセルドメインに逆変換して、前記変換単位に含まれた隣接した複数の予測単位を復元するステップと、を含む。
【0011】
前記課題を解決するための本発明の一実施形態による映像復号化装置は、所定の変換単位によって、周波数ドメインに変換して生成された周波数成分係数をエントロピー復号化するエントロピー復号化部と、前記エントロピー復号化された周波数成分係数を逆量子化する逆量子化部と、前記周波数成分係数をピクセルドメインに逆変換して、前記変換単位に含まれた隣接した複数の予測単位を復元する逆変換部と、を備える。
【0012】
前記課題を解決するために、本発明の一実施形態は、前記した映像符号化及び復号化方法を実行するためのプログラムを記録したコンピュータで読み取り可能な記録媒体を提供する。
【発明の効果】
【0013】
本発明によれば、予測単位より大きいサイズに変換単位を設定し、DCTを行えるので、映像をより効率的に圧縮して符号化することができる。
【図面の簡単な説明】
【0014】
下記図面を参照して、本発明の実施形態について説明することで、前記または他の特徴及び長所がさらに明白になる。
図1】本発明の一実施形態による映像符号化装置を示す図である。
図2】本発明の一実施形態による映像復号化装置を示す図である。
図3】本発明の一実施形態による階層的な符号化単位を示す図である。
図4】本発明の一実施形態による符号化単位に基づいた映像符号化部を示す図である。
図5】本発明の一実施形態による符号化単位に基づいた映像復号化部を示す図である。
図6】本発明の一実施形態による最大符号化単位、サブ符号化単位、及び予測単位を示す図である。
図7】本発明の一実施形態による符号化単位及び変換単位を示す図である。
図8A】本発明の一実施形態による符号化単位、予測単位、及び変換単位の分割形態を示す図である。
図8B】本発明の一実施形態による符号化単位、予測単位、及び変換単位の分割形態を示す図である。
図9】本発明の他の実施形態による映像符号化装置を示す図である。
図10】本発明の一実施形態による変換部を示す図である。
図11A】本発明の一実施形態による変換単位の類型を示す図である。
図11B】本発明の一実施形態による変換単位の類型を示す図である。
図11C】本発明の一実施形態による変換単位の類型を示す図である。
図12】本発明の一実施形態による相異なる変換単位を示す図である。
図13】本発明の他の実施形態による映像復号化装置を示す図である。
図14】本発明の一実施形態による映像符号化方法を説明するためのフローチャートである。
図15】本発明の一実施形態による映像復号化方法を説明するためのフローチャートである。
【発明を実施するための形態】
【0015】
以下、図面を参照して本発明の実施形態について説明する。実施形態において、文脈によって、“単位”は、サイズの単位であってもよく、そうでなくてもよい。本明細書において、“映像”は、ビデオの静止画または動画、すなわち、ビデオそれ自体を意味する。
【0016】
図1は、本発明の一実施形態による映像符号化装置100を示す。図1を参照すれば、本発明の一実施形態による映像符号化装置100は、最大符号化単位分割部110、符号化深度決定部120、映像データ符号化部130、及び符号化情報符号化部140を備える。
【0017】
最大符号化単位分割部110は、最大サイズの符号化単位である最大符号化単位に基づいて、現在のピクチャーまたは現在のスライスを分割する。現在のピクチャーまたは現在のスライスを少なくとも一つの最大符号化単位に分割する。
【0018】
本発明の一実施形態によれば、最大符号化単位及び深度を利用して、符号化単位が表現される。前述したように、最大符号化単位は、現在のピクチャーの符号化単位のうち最も大きい符号化単位を表し、深度は、符号化単位が階層的に縮小されたサブ符号化単位のサイズを表す。深度が大きくなるにつれて、符号化単位は、最大符号化単位から最小符号化単位まで縮小し、最大符号化単位の深度は、最小深度として定義され、最小符号化単位の深度は、最大深度として定義される。最大符号化単位は、深度が大きくなるにつれて、深度別の符号化単位のサイズは縮小するので、k深度のサブ符号化単位は、複数個(k+n)の深度のサブ符号化単位を含む(k、nは、1より大きいか、またはそれと同じ整数を表す)。
【0019】
符号化されるピクチャーのサイズが大きくなるにつれて、さらに大きい単位で映像を符号化すれば、さらに高い映像圧縮率で映像を符号化できる。しかし、符号化単位を大きくし、そのサイズを固定させれば、変わり続ける映像の特性を反映して効率的に映像を符号化できない。
【0020】
例えば、海または空についての平坦な領域を符号化する時には、符号化単位を大きくするほど、圧縮率が向上するが、人またはビルについての複雑な領域を符号化する時には、符号化単位を小さくするほど、圧縮率が向上する。
【0021】
このために、本発明の一実施形態は、ピクチャーまたはスライスごとに相異なる最大映像符号化単位を設定し、最大深度を設定する。最大深度は、符号化単位が縮小する最大回数を意味するので、最大深度によって、最大映像符号化単位に含まれた最小符号化単位のサイズを可変的に設定できる。
【0022】
符号化深度決定部120は、最大深度を決定する。最大深度は、R−Dコスト(Rate-Distortion Cost)計算に基づいて決定される。最大深度は、ピクチャーまたはスライスごとに異なって決定されるか、またはそれぞれの最大符号化単位ごとに異なって決定されてもよい。決定された最大深度は、符号化情報符号化部140に出力され、最大符号化単位別の映像データは、映像データ符号化部130に出力される。
【0023】
最大深度は、最大符号化単位に含まれる最も小さい符号化単位、すなわち、最小符号化単位を意味する。換言すれば、最大符号化単位は、相異なる深度によって、相異なるサイズのサブ符号化単位に分割される。図8A及び図8Bを参照して詳細に後述する。また、最大符号化単位に含まれた相異なるサイズのサブ符号化単位は、相異なるサイズの処理単位に基づいて予測または変換される。換言すれば、映像符号化装置100は、映像符号化のための複数の処理段階を、多様なサイズ及び多様な形態の処理単位に基づいて行う。映像データの符号化のためには、予測、変換、エントロピー符号化などの処理段階を経るが、あらゆる段階にわたって同じサイズの処理単位が利用されてもよく、段階別に相異なるサイズの処理単位を利用してもよい。
【0024】
例えば、映像符号化装置100は、符号化単位を予測するために、符号化単位と異なる処理単位を選択できる。
【0025】
符号化単位のサイズが2N×2N(ただし、Nは、正の整数)である場合、予測のための処理単位は、2N×2N、2N×N、N×2N、N×Nなどである。換言すれば、符号化単位の高さまたは幅のうち少なくとも一つを半分にする形態の処理単位に基づいて、動き予測が行われてもよい。以下、予測の基礎となるデータ単位は、‘予測単位’という。
【0026】
予測モードは、イントラモード、インターモード及びスキップモードのうち少なくとも一つであり、特定の予測モードは、特定のサイズまたは形態の予測単位に対してのみ行われる。例えば、イントラモードは、正方形の2N×2N、N×Nサイズの予測単位に対してのみ行われる。また、スキップモードは、2N×2Nサイズの予測単位に対してのみ行われる。符号化単位の内部に複数の予測単位があるならば、それぞれの予測単位に対して予測を行って、符号化誤差の最も小さい予測モードが選択される。
【0027】
また、映像符号化装置100は、符号化単位と異なるサイズの処理単位に基づいて、映像データを変換する。符号化単位の変換のために、符号化単位より小さいか、またはそれと同じサイズのデータ単位に基づいて変換が行われる。以下、変換の基礎となる処理単位を‘変換単位’という。変換は、DCT(Discrete Cosine Transformation)またはKLT(Karhunen Loeve Transform)である。
【0028】
符号化深度決定部120は、ラグランジュの乗数(Lagrangian Multiplier)基盤の率−歪曲最適化技法(Rate-Distortion Optimization)を利用して、最大符号化単位に含まれたサブ符号化単位を決定する。換言すれば、最大符号化単位がいかなる形態の複数のサブ符号化単位に分割されるか決定するが、ここで、複数のサブ符号化単位は、深度によってサイズが相異なる。次いで、映像データ符号化部130は、符号化深度決定部120で決定された分割形態、すなわち、最大符号化単位が分割された形態に基づいて、最大符号化単位を符号化して、ビットストリームを出力する。
【0029】
符号化情報符号化部140は、符号化深度決定部120で最大符号化単位の符号化モードについての情報を符号化する。最大符号化単位の分割形態についての情報、最大深度についての情報、及び深度別のサブ符号化単位の符号化モードについての情報を符号化して、ビットストリームを出力する。サブ符号化単位の符号化モードについての情報は、サブ符号化単位の予測単位についての情報、予測単位別の予測モード情報、サブ符号化単位の変換単位についての情報などを含む。
【0030】
最大符号化単位ごとに相異なるサイズのサブ符号化単位が存在し、それぞれのサブ符号化単位ごとに符号化モードについての情報が決定されねばならないので、一つの最大符号化単位に対しては、少なくとも一つの符号化モードについての情報が決定される。
【0031】
映像符号化装置100は、深度が大きくなるにつれて、最大符号化単位を高さ及び幅を半分にして、サブ符号化単位を生成する。すなわち、k深度の符号化単位のサイズが2N×2Nであれば、k+1深度の符号化単位のサイズはN×Nである。
【0032】
したがって、一実施形態による映像復号化装置100は、映像の特性を考慮した最大符号化単位のサイズ及び最大深度に基づいて、それぞれの最大符号化単位ごとに最適の分割形態を決定する。映像特性を考慮して、可変的に相異なるサイズの最大符号化単位を利用して符号化することはいうまでもなく、相異なる深度のサブ符号化単位に最大符号化単位を分割して、映像を符号化することで、多様な解像度の映像をさらに効率的に符号化することができる。
【0033】
図2は、本発明の一実施形態による映像復号化装置200を示す。図2を参照すれば、本発明の一実施形態による映像復号化装置200は、映像データ獲得部210、符号化情報抽出部220、及び映像データ復号化部230を備える。
【0034】
映像データ獲得部210は、映像復号化装置200が受信したビットストリームをパージングして、最大符号化単位別に映像データを獲得して、映像データ復号化部230に出力する。映像データ獲得部210は、現在のピクチャーまたはスライスについてのヘッダから、現在のピクチャーまたはスライスの最大符号化単位についての情報を抽出する。換言すれば、ビットストリームを最大符号化単位に分割して、映像データ復号化部230が最大符号化単位ごとに映像データを復号化する。
【0035】
符号化情報抽出部220は、映像復号化装置200が受信したビット列をパージングして、現在のピクチャーについてのヘッダから、最大符号化単位、最大深度、最大符号化単位の分割形態、サブ符号化単位の符号化モードについての情報を抽出する。分割形態及び符号化モードについての情報は、映像データ復号化部230に出力される。
【0036】
最大符号化単位の分割形態についての情報は、最大符号化単位に含まれた深度によって異なるサイズのサブ符号化単位についての情報を含み、符号化モードについての情報は、サブ符号化単位別の予測単位についての情報、予測モードについての情報、及び変換単位についての情報などを含む。
【0037】
映像データ復号化部230は、符号化情報抽出部220で抽出された情報に基づいて、それぞれの最大符号化単位の映像データを復号化して、現在のピクチャーを復元する。最大符号化単位の分割形態についての情報に基づいて、映像データ復号化部230は、最大符号化単位に含まれたサブ符号化単位を復号化する。復号化過程は、イントラ予測及び動き補償を含む動き予測過程及び逆変換過程を含む。
【0038】
映像データ復号化部230は、サブ符号化単位の予測のために、サブ符号化単位別の予測単位についての情報及び予測モードについての情報に基づいて、イントラ予測またはインター予測を行う。また、映像データ復号化部230は、サブ符号化単位の変換単位についての情報に基づいて、サブ符号化単位ごとに逆変換を行う。
【0039】
図3は、本発明の一実施形態による階層的な符号化単位を示す。図3を参照すれば、本発明による階層的な符号化単位は、幅×高さが64×64である符号化単位から、32×32、16×16、8×8、及び4×4を含む。正方形の符号化単位以外にも、幅×高さが64×32、32×64、32×16、16×32、16×8、8×16、8×4、4×8である符号化単位が存在してもよい。
【0040】
図3を参照すれば、解像度が1920×1080である映像データ310に対して、最大符号化単位のサイズが64×64、最大深度が2に設定されている。
【0041】
解像度が1920×1080である映像データ320に対して、最大符号化単位のサイズが64×64、最大深度が3に設定されている。解像度が352×288である映像データ330に対して、最大符号化単位のサイズが16×16、最大深度が1に設定されている。
【0042】
解像度が高いか、またはデータ量が多い場合、圧縮率の向上だけでなく、映像特性を正確に反映するために、符号化サイズの最大サイズが相対的に大きい。したがって、映像データ330に比べて、解像度の高い映像データ310,320は、最大符号化単位のサイズが64×64に選択される。
【0043】
最大深度は、階層的な符号化単位で総階層数を表す。映像データ310の最大深度は2であるので、映像データ310の符号化単位315は、長軸サイズが64である最大符号化単位から、深度が大きくなるにつれて、長軸サイズが32,16であるサブ符号化単位まで含む。
【0044】
一方、映像データ330の最大深度は1であるので、映像データ330の符号化単位335は、長軸サイズが16である最大符号化単位から、深度が大きくなるにつれて、長軸サイズが8である符号化単位まで含む。
【0045】
映像データ320の最大深度は3であるので、映像データ320の符号化単位325は、長軸サイズが64である最大符号化単位から、深度が大きくなるにつれて、長軸サイズが32,16,8であるサブ符号化単位まで含む。深度が大きくなるほど、さらに小さいサブ符号化単位に基づいて映像を符号化するので、より微細なディテールを含む映像を符号化するのに適している。
【0046】
図4は、本発明の一実施形態による符号化単位に基づいた映像符号化部400を示す。
【0047】
イントラ予測部410は、現在のフレーム405のうち、イントラモードの予測単位に対してイントラ予測を行い、動き推定部420及び動き補償部425は、インターモードの予測単位に対して、現在のフレーム405及び参照フレーム495を利用してインター予測及び動き補償を行う。
【0048】
イントラ予測部410、動き推定部420、及び動き補償部425から出力された予測単位に基づいて、レジデュアル値が生成され、生成されたレジデュアル値は、変換部430及び量子化部440を経て量子化された変換係数として出力される。
【0049】
量子化された変換係数は、逆量子化部460及び逆変換部470を通じて、再びレジデュアル値に復元され、復元されたレジデュアル値は、デブロッキング部480及びループフィルタリング部490を経て後処理されて、参照フレーム495として出力される。量子化された変換係数は、エントロピー符号化部450を経てビットストリーム455に出力される。
【0050】
本発明の一実施形態による映像符号化方法によって符号化するために、映像符号化部400の構成要素であるイントラ予測部410、動き推定部420、動き補償部425、変換部430、量子化部440、エントロピー符号化部450、逆量子化部460、逆変換部470、デブロッキング部480、及びループフィルタリング部490は、いずれも最大符号化単位、深度によるサブ符号化単位、予測単位及び変換単位に基づいて、映像符号化過程を処理する。
【0051】
図5は、本発明の一実施形態による符号化単位に基づいた映像復号化部500を示す。
【0052】
ビットストリーム505がパージング部510を経て、復号化対象である符号化された映像データ、及び復号化のために必要な符号化情報がパージングされる。符号化された映像データは、エントロピー復号化部520及び逆量子化部530を経て、逆量子化されたデータとして出力され、逆変換部540を経てレジデュアル値に復元される。レジデュアル値は、イントラ予測部550のイントラ予測の結果、または動き補償部560の動き補償結果と加算されて、符号化単位別に復元される。復元された符号化単位は、デブロッキング部570及びループフィルタリング部580を経て、次の符号化単位または次のピクチャーの予測に利用される。
【0053】
本発明の一実施形態による映像復号化方法によって復号化するために、映像復号化部500の構成要素であるパージング部510、エントロピー復号化部520、逆量子化部530、逆変換部540、イントラ予測部550、動き補償部560、デブロッキング部570、及びループフィルタリング部580が、いずれも最大符号化単位、深度によるサブ符号化単位、予測単位及び変換単位に基づいて、映像復号化過程を処理する。
【0054】
特に、イントラ予測部550及び動き補償部560は、最大符号化単位及び深度を考慮して、サブ符号化単位内の予測単位及び予測モードを決定し、逆変換部540は、変換単位のサイズを考慮して逆変換を行う。
【0055】
図6は、本発明の一実施形態による最大符号化単位、サブ符号化単位及び予測単位を示す。
【0056】
本発明の一実施形態による映像符号化装置100及び映像復号化装置200は、映像特性を考慮して符号化及び復号化を行うために、階層的な符号化単位を利用する。最大符号化単位及び最大深度は、映像の特性によって適応的に設定されるか、またはユーザーの要求によって多様に設定される。
【0057】
本発明の一実施形態による符号化単位の階層構造600は、最大符号化単位610の高さ及び幅が64であり、最大深度が4である場合を示す。符号化単位の階層構造600の縦軸に沿って深度が大きくなり、深度の増加によって、サブ符号化単位620ないし650の高さ及び幅が縮小する。また、符号化単位の階層構造600の横軸に沿って、最大符号化単位610及びサブ符号化単位620ないし650の予測単位が示されている。
【0058】
最大符号化単位610は、深度が0であり、符号化単位のサイズ、すなわち、高さ及び幅が64×64である。縦軸に沿って深度が大きくなり、サイズ32×32である深度1のサブ符号化単位620、サイズ16×16である深度2のサブ符号化単位630、サイズ8×8である深度3のサブ符号化単位640、サイズ4×4である深度4のサブ符号化単位650が存在する。サイズ4×4である深度4のサブ符号化単位650は、最小符号化単位であり、最小符号化単位は、最小符号化単位より小さい予測単位に分割される。
【0059】
図6を参照すれば、それぞれの深度別に横軸に沿って予測単位の例示が示されている。すなわち、深度0の最大符号化単位610の予測単位は、サイズ64×64の符号化単位610と同じであるか、またはそれより小さいサイズ64×64の予測単位610、サイズ64×32の予測単位612、サイズ32×64の予測単位614、サイズ32×32の予測単位616である。
【0060】
深度1のサイズ32×32の符号化単位620の予測単位は、サイズ32×32の符号化単位620と同じであるか、またはそれより小さいサイズ32×32の予測単位620、サイズ32×16の予測単位622、サイズ16×32の予測単位624、サイズ16×16の予測単位626である。
【0061】
深度2のサイズ16×16の符号化単位630の予測単位は、サイズ16×16の符号化単位630と同じであるか、またはそれより小さいサイズ16×16の予測単位630、サイズ16×8の予測単位632、サイズ8×16の予測単位634、サイズ8×8の予測単位636である。
【0062】
深度3のサイズ8×8の符号化単位640の予測単位は、サイズ8×8の符号化単位640と同じであるか、またはそれより小さいサイズ8×8の予測単位640、サイズ8×4の予測単位642、サイズ4×8の予測単位644、サイズ4×4の予測単位646である。
【0063】
最後に、深度4のサイズ4×4の符号化単位650は、最小符号化単位であり、かつ最大深度の符号化単位であり、符号化単位650の予測単位は、サイズ4×4の予測単位650、サイズ4×2の予測単位652、サイズ2×4の予測単位654、サイズ2×2の予測単位656である。
【0064】
図7は、本発明の一実施形態による符号化単位及び変換単位を示す。
【0065】
本発明の一実施形態による映像符号化装置100及び映像復号化装置200は、最大符号化単位そのまま符号化するか、または最大符号化単位より小さいか、またはそれと同じサブ符号化単位に最大符号化単位を分割して符号化する。符号化過程中で、変換のための変換単位のサイズは、それぞれの符号化単位より大きくない変換単位として選択される。例えば、現在の符号化単位710が64×64サイズである時、32×32サイズの変換単位720を利用して変換が行われる。
【0066】
図8A及び図8Bは、本発明の一実施形態による符号化単位、予測単位及び変換単位の分割形態を示す。
【0067】
図8Aは、本発明の一実施形態による符号化単位及び予測単位を示す。図8Aの左側は、最大符号化単位810を符号化するために、本発明の一実施形態による映像符号化装置100が選択した分割形態を示す。映像符号化装置100は、多様な形態に最大符号化単位810を分割して符号化した後、多様な分割形態の符号化結果をR−Dコストに基づいて比較して、最適の分割形態を選択する。最大符号化単位810をそのまま符号化することが最適である場合には、図8A及び図8Bのように、最大符号化単位810を分割せず、最大符号化単位800を符号化してもよい。
【0068】
図8Aの左側を参照すれば、深度0である最大符号化単位810を深度1以上のサブ符号化単位に分割して符号化する。最大符号化単位810を四つの深度1のサブ符号化単位に分割した後、全部または一部の深度1のサブ符号化単位を再び深度2のサブ符号化単位に分割する。
【0069】
深度1のサブ符号化単位のうち、右側の上部に位置したサブ符号化単位、及び左側の下部に位置したサブ符号化単位が、深度2以上のサブ符号化単位に分割された。深度2以上のサブ符号化単位のうち一部は、再び深度3以上のサブ符号化単位に分割される。
【0070】
図8Bの右側は、最大符号化単位810についての予測単位の分割形態を示す。
【0071】
図8Aの右側を参照すれば、最大符号化単位についての予測単位860は、最大符号化単位810と異なって分割される。換言すれば、サブ符号化単位それぞれについての予測単位は、サブ符号化単位より小さくてもよい。
【0072】
例えば、深度1のサブ符号化単位のうち、右側の下部に位置したサブ符号化単位854についての予測単位は、サブ符号化単位854より小さい。深度2のサブ符号化単位814,816,818,828,850,852のうち、一部のサブ符号化単位815,816,850,852についての予測単位は、サブ符号化単位より小さい。また、深度3のサブ符号化単位822,832,848についての予測単位は、サブ符号化単位より小さい。予測単位は、それぞれのサブ符号化単位を高さまたは幅方向に半分にした形態であってもよく、高さ及び幅方向に4分した形態であってもよい。
【0073】
図8Bは、本発明の一実施形態による予測単位及び変換単位を示す。図8Bの左側は、図8Aの右側に示す最大符号化単位810についての予測単位の分割形態を示し、図8Bの右側は、最大符号化単位810の変換単位の分割形態を示す。
【0074】
図8Bの右側を参照すれば、変換単位870の分割形態は、予測単位860と異なって設定される。
【0075】
例えば、深度1の符号化単位854についての予測単位が、高さを半分にした形態に選択されるとしても、変換単位は、深度1の符号化単位854のサイズと同じサイズに選択される。同様に、深度2の符号化単位814,850についての予測単位が、深度2の符号化単位814,850の高さを半分にした形態に選択されるとしても、変換単位は、深度2の符号化単位814,850の本来のサイズと同じサイズに選択される。
【0076】
予測単位よりさらに小さいサイズに変換単位が選択されてもよい。例えば、深度2の符号化単位852についての予測単位が幅を半分にした形態に選択された場合に、変換単位は、予測単位よりさらに小さい高さ及び幅を半分にした形態に選択される。
【0077】
図9は、本発明の他の実施形態による映像符号化装置900を示す。図9を参照すれば、本発明の一実施形態による映像符号化装置900は、変換部910、量子化部920、及びエントロピー符号化部930を備える。
【0078】
変換部910は、ピクセルドメインの映像処理単位を入力されて、周波数ドメインに変換する。イントラ予測またはインター予測を通じて生成されたレジデュアル値を含む複数の予測単位を入力されて、周波数ドメインに変換する。周波数ドメインに変換した結果、周波数成分の係数が生成される。本発明の一実施形態によれば、周波数ドメインへの変換は、DCTまたはKLTであり、DCTまたはKLTの結果、周波数ドメインの係数が生成される。以下では、DCTを例として説明するが、当業者は、あらゆるピクセルドメインの映像を周波数ドメインに変換するあらゆる変換に本発明が適用されるということが容易に分かるであろう。
【0079】
また、本発明の一実施形態によれば、変換部910は、複数の予測単位をグルーピングして一つの変換単位を設定し、設定された変換単位によって変換を行う。図10図11A図11B及び図12を参照して詳細に説明する。
【0080】
図10は、本発明の一実施形態による変換部910を示す。図10を参照すれば、本発明の一実施形態による変換部910は、選択部1010及び変換実行部1020を備える。
【0081】
選択部1010は、隣接した複数の予測単位を選択して、一つの変換単位を設定する。従来の映像符号化装置によれば、所定のサイズのブロック、すなわち、予測単位によってイントラ予測またはインター予測を行い、予測単位より小さいか、またはそれと同じサイズでDCTを行う。換言すれば、従来の映像符号化装置は、予測単位より小さいか、またはそれと同じ変換単位に基づいて、DCTを行った。
【0082】
しかし、それぞれの変換単位ごとに付加されるヘッダ情報のために、変換単位が小さいほど、付加されるオーバーヘッドが大きくなって、映像符号化の圧縮率を低下させた。かかる問題点を解決するために、本発明の一実施形態による映像符号化装置900は、隣接した複数の予測単位を一つの変換単位にグルーピングし、グルーピング結果として生成された変換単位によってDCTを行う。隣接した複数の予測単位は、類似したレジデュアル値を含む確率が高いので、隣接した複数の予測単位をまとめて一つの変換単位でDCTを行うならば、符号化の圧縮率を大きく向上させることができる。
【0083】
このために、選択部1010は、一つの変換単位にグルーピングして、DCTを行う隣接した複数の予測単位を選択する。図11Aないし図11C及び図12を参照して詳細に説明する。
【0084】
図11Aないし図11Cは、本発明の一実施形態による変換単位の類型を示す。図11Aないし図11Cを参照すれば、所定の符号化単位1110に対して、予測単位1120は、符号化単位1110の幅を半分にした形態である。符号化単位1110は、前述した最大符号化単位であってもよく、最大符号化単位より小さいサブ符号化単位であってもよい。
【0085】
図11Aに示すように、変換単位1130のサイズが予測単位1120より小さいか、または図11Bに示すように、変換単位1140のサイズが予測単位1120と同じである。また、本発明の一実施形態による変換単位1150は、図11Cに示すように、予測単位1120のサイズより大きい。すなわち、変換単位1130ないし1150は、予測単位1120と関係なく設定されてもよい。
【0086】
また、図11Cは、一つの符号化単位1110に含まれた複数の予測単位1120をグルーピングして、予測単位1120を設定する例を示した。しかし、一つの符号化単位ではない複数の符号化単位に含まれた複数の予測単位を一つの変換単位に設定することで、変換単位を符号化単位より大きく設定できる。換言すれば、変換単位は、図11Aないし図11Cと関連して前述したように、符号化単位のサイズと同じであるか、またはそれより小さく設定されてもよく、符号化単位のサイズより大きく設定されてもよい。すなわち、変換単位は、予測単位はいうまでもなく、符号化単位と関係なく設定されてもよい。
【0087】
図11Aないし図11Cは、変換単位が正方形に設定される実施形態を示したが、隣接した予測単位のグルーピング方法によって、変換単位が長方形に設定されてもよい。例えば、図11Aないし図11Cのように、長方形に予測単位が設定されず、符号化単位1110を四つの正方形に四等分した形態に予測単位が設定される場合に、予測単位は、上下または左右に隣接した予測単位のみをグルーピングすることで、横が長いか、または縦が長い長方形に変換単位が設定されてもよい。
【0088】
再び図10を参照すれば、選択部1010が隣接した複数の予測単位を選択する基準には制限がない。しかし、本発明の一実施形態によれば、選択部1010は、深度に基づいて、変換単位を選択する。深度とは、前述したように、現在のスライスまたは現在のピクチャーの最大符号化単位からサブ符号化単位のサイズに段階的に縮小した程度を表す。図3及び図6と関連して前述したように、深度が大きいほど、サブ符号化単位のサイズが小さいことを意味し、これによって、含まれた予測単位も小さくなる。この場合、予測単位より小さいか、またはそれと同じサイズの変換単位によってDCTを行わば、前述したように、変換単位ごとにヘッダ情報が付加されて、映像符号化の圧縮率が低下する。
【0089】
したがって、所定の深度以上のサブ符号化単位は、サブ符号化単位に含まれた予測単位をグルーピングして、一つの変換単位に設定し、DCTが行われる。このために、選択部1010は、サブ符号化単位の深度に基づいて、変換単位を設定する。例えば、選択部1010は、図11Cに示す符号化単位1110の深度がkより大きい場合には、予測単位1120をグルーピングして、一つの変換単位1150に設定する。
【0090】
また、本発明の他の実施形態によれば、選択部1010は、同じ種類の予測モードによって予測が行われた隣接した複数の予測単位を一つの変換単位に設定する。選択部1010は、イントラ予測またはインター予測を利用して予測された、隣接した複数の予測単位をグルーピングして、一つの変換単位に設定する。同じ種類の予測モードによって予測が行われた隣接した複数の予測単位は、類似したレジデュアル値を含む確率が高いので、隣接した複数の予測単位を一つの変換単位にグルーピングして、DCTを行うことが可能である。
【0091】
選択部1010が変換単位を設定すれば、変換実行部1020は、設定された変換単位によって、複数の予測単位を周波数ドメインに変換する。変換実行部1020は、選択された複数の予測単位を一つの変換単位にDCTを行って、離散コサイン係数を生成する。
【0092】
再び図9を参照すれば、量子化部920は、変換部910で生成された周波数成分係数、例えば、離散コサイン係数を量子化する。所定の量子化ステップによって、入力された離散コサイン係数を量子化する。
【0093】
エントロピー符号化部930は、量子化部920で量子化された離散コサイン係数をエントロピー符号化する。CABAC(Context-Adaptive Binary Arithmetic Coding)またはCAVLC(Context-Adaptive Variable Length Coding)を利用して、離散コサイン係数をエントロピー符号化する。
【0094】
本発明の他の実施形態による映像符号化装置900は、相異なる変換単位に対して、前述したDCT、量子化及びエントロピー符号化を反復して、最適の変換単位を決定する。隣接した複数の予測単位を選択する過程を機械的に反復して行って、最適の変換単位を決定する。最適の変換単位は、R−Dコスト(Rate-Distortion Cost)を考慮して決定されるが、図12と関連して詳細に説明する。
【0095】
図12は、本発明の一実施形態による相異なる変換単位を示す。図12を参照すれば、本発明による映像符号化装置900は、相異なる変換単位に対して符号化を反復する。
【0096】
図12に示すように、所定の符号化単位1210は、符号化単位より小さい予測単位1220に基づいて予測符号化される。予測結果、生成されたレジデュアル値はDCTが行われるが、この時、図12に示すように、相異なる変換単位に基づいてDCTが行われる。
【0097】
最初に示す変換単位1230は、符号化単位1210と同じサイズの変換単位であり、符号化単位1210に含まれたあらゆる予測単位をグルーピングしたサイズの変換単位である。
【0098】
二番目に示す変換単位1240は、符号化単位1210の幅を半分にしたサイズの変換単位であり、縦方向に隣接した二つの予測単位をそれぞれグルーピングしたサイズの変換単位である。
【0099】
三番目に示す変換単位1250は、符号化単位1210の高さを半分にしたサイズの変換単位であり、横方向に隣接した二つの予測単位をそれぞれグルーピングしたサイズの変換単位である。
【0100】
四番目に示す変換単位1260は、予測単位1220と同じサイズの変換単位1260に基づいて、変換を行う場合に利用される。
【0101】
図13は、本発明の他の実施形態による映像復号化装置1300を示す。図13を参照すれば、本発明の一実施形態による映像復号化装置1300は、エントロピー復号化部1310、逆量子化部1320、及び逆変換部1330を備える。
【0102】
エントロピー復号化部1310は、所定の変換単位についての周波数成分係数をエントロピー復号化する。図11Aないし図11C及び図12と関連して前述したように、変換単位は、隣接した複数の予測単位をグルーピングして生成された変換単位である。
【0103】
映像符号化装置900と関連して前述したように、変換単位は、深度に基づいて隣接した複数の予測単位をグルーピングした変換単位、または同じ種類の予測モード、すなわち、イントラ予測モードまたはインター予測モードによって予測が行われた、隣接した複数の予測単位をグルーピングした変換単位である。
【0104】
複数の予測単位は、一つの符号化単位ではない複数の符号化単位に含まれた複数の予測単位である。換言すれば、エントロピー復号化部1310でエントロピー復号化される変換単位は、図11Aないし図11Cと関連して前述したように、符号化単位のサイズと同じであるか、またはそれより小さく設定された変換単位であってもよく、符号化単位のサイズより大きく設定された変換単位であってもよい。
【0105】
また、図12と関連して前述したように、隣接した複数の予測単位をグルーピングする過程を機械的に反復して、相異なる変換単位に対して、DCT、量子化、及びエントロピー復号化を反復して行うことで選択された最適の変換単位であってもよい。
【0106】
逆量子化部1320は、エントロピー復号化部1310でエントロピー復号化された周波数成分係数を逆量子化する。
【0107】
逆量子化部1320は、変換単位の符号化時に利用された量子化ステップによってエントロピー復号化された周波数成分係数を逆量子化する。
【0108】
逆変換部1330は、逆量子化された周波数成分係数をピクセルドメインに逆変換する。逆変換部1330は、逆量子化された離散コサイン係数に逆DCTを行って、ピクセルドメインの変換単位を復元する。復元された変換単位は、隣接した複数の予測単位を含む。
【0109】
図14は、本発明の一実施形態による映像符号化方法を説明するためのフローチャートである。図14を参照すれば、ステップ1410で、本発明の一実施形態による映像符号化装置は、隣接した複数の予測単位を選択して、一つの変換単位を設定する。深度に基づいて、隣接した複数の予測単位を選択するか、または同じ種類の予測モードで予測が行われた、隣接した複数の予測単位を選択する。
【0110】
ステップ1420で、映像符号化装置は、ステップ1420で設定された変換単位によって、複数の予測単位を周波数ドメインに変換する。複数の予測単位をグルーピングしてDCTを行うことで、離散コサイン係数を生成する。
【0111】
ステップ1430で、映像符号化装置は、ステップ1420で生成された周波数成分係数、すなわち、離散コサイン係数を所定の量子化ステップによって量子化する。
【0112】
ステップ1440で、映像符号化装置は、ステップ1430で量子化された周波数成分係数をエントロピー符号化する。CABACまたはCAVLCを利用して、離散コサイン係数をエントロピー符号化する。
【0113】
本発明の他の実施形態による映像符号化方法は、相異なる変換単位に対して、前記したステップ1410ないし1440を反復して、最適の変換単位を設定するステップをさらに含んでもよい。図12に示すような相異なる変換単位に対して、変換、量子化及びエントロピー符号化を反復して、最適の変換単位を設定する。
【0114】
図15は、本発明の一実施形態による映像復号化方法を説明するためのフローチャートである。図15を参照すれば、ステップ1510で、本発明の一実施形態による映像復号化装置は、所定の変換単位についての周波数成分係数をエントロピー復号化する。周波数成分係数は、離散コサイン係数である。
【0115】
ステップ1520で、映像復号化装置は、ステップ1510でエントロピー復号化された周波数成分係数を逆量子化する。符号化時に利用された量子化ステップを利用して、離散コサイン係数を逆量子化する。
【0116】
ステップ1530で、映像復号化装置は、ステップ1520で逆量子化された周波数成分係数をピクセルドメインに逆変換して、変換単位を復元する。復元された変換単位は、隣接した複数の予測単位をグルーピングして設定された変換単位である。前述したように、変換単位は、深度に基づいて、隣接した複数の予測単位をグルーピングして設定された変換単位、または、同じ予測モードによって予測が行われた、隣接した複数の予測単位をグルーピングして設定された変換単位である。
【0117】
本発明によれば、予測単位より大きいサイズに変換単位を設定し、変換を行えるので、映像をより効率的に圧縮して符号化することができる。
【0118】
以上のように、本発明は、限定された実施形態と図面により説明したが、本発明が前記の実施形態に限定されるものではなく、これは、当業者ならば、かかる記載から多様な修正及び変形が可能である。したがって、本発明の思想は、後述する特許請求の範囲によってのみ把握されねばならず、それと均等であるか、または等価的な変形は、いずれも本発明の思想の範疇に属するといえる。また、本発明によるシステムは、コンピュータで読み取り可能な記録媒体にコンピュータで読み取り可能なコードで具現することが可能である。
【0119】
例えば、本発明の例示的な実施形態による映像符号化装置、映像復号化装置、映像符号化部、及び映像復号化部は、図1図2図4図5図9図10及び図14に示すような装置のそれぞれのユニットにカップリングされたバス、前記バスに結合された少なくとも一つのプロセッサを含む。また、命令、受信されたメッセージまたは生成されたメッセージを保存するために、前記バスに結合されて、前述したような命令を行うための少なくとも一つのプロセッサにカップリングされたメモリを含む。
【0120】
また、コンピュータで読み取り可能な記録媒体は、コンピュータシステムにより読み取られるデータが保存されるあらゆる種類の記録装置を含む。記録媒体の例としては、ROM、RAM、CD−ROM、磁気テープ、フロッピー(登録商標)ディスク、光データ保存装置などがある。また、コンピュータで読み取り可能な記録媒体は、ネットワークに連結されたコンピュータシステムに分散されて、分散方式でコンピュータで読み取り可能なコードが保存されて実行される。
図1
図2
図3
図4
図5
図6
図7
図8A
図8B
図9
図10
図11a
図11b
図11c
図12
図13
図14
図15