特表-19012728IP Force 特許公報掲載プロジェクト 2015.5.11 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ パナソニックIPマネジメント株式会社の特許一覧
(19)【発行国】日本国特許庁(JP)
【公報種別】再公表特許(A1)
(11)【国際公開番号】WO/0
(43)【国際公開日】2019年1月17日
【発行日】2020年5月21日
(54)【発明の名称】映像表示システム及び映像表示方法
(51)【国際特許分類】
   H04N 21/431 20110101AFI20200424BHJP
   H04N 5/66 20060101ALI20200424BHJP
   H04N 5/20 20060101ALI20200424BHJP
【FI】
   H04N21/431
   H04N5/66 A
   H04N5/20
【審査請求】未請求
【予備審査請求】未請求
【全頁数】64
【出願番号】特願2018-554417(P2018-554417)
(21)【国際出願番号】PCT/0/0
(22)【国際出願日】2018年2月26日
(31)【優先権主張番号】62/532,524
(32)【優先日】2017年7月14日
(33)【優先権主張国】US
(81)【指定国】 AP(BW,GH,GM,KE,LR,LS,MW,MZ,NA,RW,SD,SL,ST,SZ,TZ,UG,ZM,ZW),EA(AM,AZ,BY,KG,KZ,RU,TJ,TM),EP(AL,AT,BE,BG,CH,CY,CZ,DE,DK,EE,ES,FI,FR,GB,GR,HR,HU,IE,IS,IT,LT,LU,LV,MC,MK,MT,NL,NO,PL,PT,RO,RS,SE,SI,SK,SM,TR),OA(BF,BJ,CF,CG,CI,CM,GA,GN,GQ,GW,KM,ML,MR,NE,SN,TD,TG),AE,AG,AL,AM,AO,AT,AU,AZ,BA,BB,BG,BH,BN,BR,BW,BY,BZ,CA,CH,CL,CN,CO,CR,CU,CZ,DE,DJ,DK,DM,DO,DZ,EC,EE,EG,ES,FI,GB,GD,GE,GH,GM,GT,HN,HR,HU,ID,IL,IN,IR,IS,JO,JP,KE,KG,KH,KN,KP,KR,KW,KZ,LA,LC,LK,LR,LS,LU,LY,MA,MD,ME,MG,MK,MN,MW,MX,MY,MZ,NA,NG,NI,NO,NZ,OM,PA,PE,PG,PH,PL,PT,QA,RO,RS,RU,RW,SA,SC,SD,SE,SG,SK,SL,SM,ST,SV,SY,TH,TJ,TM,TN,TR,TT
(71)【出願人】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
(74)【代理人】
【識別番号】100109210
【弁理士】
【氏名又は名称】新居 広守
(74)【代理人】
【識別番号】100137235
【弁理士】
【氏名又は名称】寺谷 英作
(74)【代理人】
【識別番号】100131417
【弁理士】
【氏名又は名称】道坂 伸一
(72)【発明者】
【氏名】小塚 雅之
(72)【発明者】
【氏名】山本 雅哉
(72)【発明者】
【氏名】柏木 吉一郎
(72)【発明者】
【氏名】西尾 歳朗
(72)【発明者】
【氏名】甲野 和彦
(72)【発明者】
【氏名】矢羽田 洋
(72)【発明者】
【氏名】廣田 健
(72)【発明者】
【氏名】森 美裕
【テーマコード(参考)】
5C021
5C058
5C164
【Fターム(参考)】
5C021PA16
5C021PA56
5C021RA16
5C021RB03
5C021XA34
5C021XA35
5C058BA07
5C058BA18
5C164PA34
5C164UB41S
5C164UB82P
5C164YA21
(57)【要約】
映像表示システム(100)は、映像の最大輝度に応じた変換カーブを用いて前記映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部(123B)と、前記トーンマップ処理後の映像を表示する表示部(124)とを備え、前記トーンマップ処理部(123B)は、前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更する第1トーンマップ処理を行うか、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替え、使用するトーンマップ処理を、第2トーンマップ処理から第1トーンマップ処理に切り替える場合、使用する変換カーブを前記一定の変換カーブから時系列に変更する変換カーブに、複数フレームにおいて連続的又は段階的に変更する。
【特許請求の範囲】
【請求項1】
映像の最大輝度に応じた変換カーブを用いて前記映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部と、
前記トーンマップ処理後の映像を表示する表示部とを備え、
前記トーンマップ処理部は、
前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更する第1トーンマップ処理を行うか、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替え、
使用するトーンマップ処理を、前記第2トーンマップ処理から前記第1トーンマップ処理に切り替える場合、使用する変換カーブを前記一定の変換カーブから時系列に変更する変換カーブに、複数フレームにおいて連続的又は段階的に変更する
映像表示システム。
【請求項2】
前記映像表示システムは、さらに、
主映像にグラフィックスを合成することで前記映像を生成する合成部を備え、
前記トーンマップ処理部は、前記主映像に前記グラフィックスが合成されていない場合、前記第1トーンマップ処理を行い、前記主映像に前記グラフィックスが合成された場合、前記第2トーンマップ処理を行う
請求項1記載の映像表示システム。
【請求項3】
前記合成部は、前記主映像に前記グラフィックスを合成したか否かを示す第1フラグを生成し、
前記トーンマップ処理部は、前記第1フラグに応じて、前記第1トーンマップ処理を行うか、前記第2トーンマップ処理を行うかを決定する
請求項2記載の映像表示システム。
【請求項4】
前記グラフィックスは、字幕及びメニューを含み、
前記第1フラグは、前記主映像に前記字幕を合成したか否かを示す第2フラグと、前記主映像に前記メニューを合成したか否かを示す第3フラグとを含む
請求項3記載の映像表示システム。
【請求項5】
前記グラフィックスは字幕であり、
前記第1フラグは、間欠的に字幕が表示される一連の期間である字幕表示期間と、予め定められた時間以上字幕が表示されない字幕不表示期間とを示し、
前記トーンマップ処理部は、前記字幕表示期間において前記第2トーンマップ処理を行い、前記字幕不表示期間において前記第1トーンマップ処理を行う
請求項3記載の映像表示システム。
【請求項6】
前記トーンマップ処理部は、前記第1トーンマップ処理から前記第2トーンマップ処理に切り替わった場合、前記第2トーンマップ処理において、直前の変換カーブを継続して用いる
請求項1〜5のいずれか1項に記載の映像表示システム。
【請求項7】
前記トーンマップ処理部は、前記第2トーンマップ処理において、
境界輝度以上の輝度に対しては、前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更し、
前記境界輝度未満の輝度に対しては、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる
請求項2記載の映像表示システム。
【請求項8】
映像表示システムにおける映像表示方法であって、
映像の最大輝度に応じた変換カーブを用いて前記映像の輝度を変換するトーンマップ処理を行うトーンマップ処理ステップと、
前記トーンマップ処理後の映像を表示する表示ステップとを含み、
前記トーンマップ処理ステップでは、
前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更する第1トーンマップ処理を行うか、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替え、
使用するトーンマップ処理を、前記第2トーンマップ処理から前記第1トーンマップ処理に切り替える場合、使用する変換カーブを前記一定の変換カーブから時系列に変更する変換カーブに、複数フレームにおいて連続的又は段階的に変更する
映像表示方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、映像を表示する映像表示システム及び映像表示方法に関する。
【背景技術】
【0002】
特許文献1には、HDR(High Dynamic Range)映像において、画像上にグラフィックスをマップするための方法及びシステムについて記載されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第6104411号明細書
【非特許文献】
【0004】
【非特許文献1】White Paper Blu-ray Disc Read-Only Format (Ultra HD Blu-ray), Audio Visual Application Format Specifications for BD-ROM Version 3.1, August 2016, http://www.blu-raydisc.com/Assets/Downloadablefile/BD-ROM_Part3_V3.1_WhitePaper_160729_clean.pdf
【発明の概要】
【発明が解決しようとする課題】
【0005】
本開示は、表示する映像の質を向上できる映像表示システム又は映像表示方法を提供する。
【課題を解決するための手段】
【0006】
本開示の一態様に係る映像表示システムは、映像の最大輝度に応じた変換カーブを用いて前記映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部と、前記トーンマップ処理後の映像を表示する表示部とを備え、前記トーンマップ処理部は、前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更する第1トーンマップ処理を行うか、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替え、使用するトーンマップ処理を、前記第2トーンマップ処理から前記第1トーンマップ処理に切り替える場合、使用する変換カーブを前記一定の変換カーブから時系列に変更する変換カーブに、複数フレームにおいて連続的又は段階的に変更する。
【発明の効果】
【0007】
本開示は、表示する映像の質を向上できる映像表示システム又は映像表示方法を提供できる。
【図面の簡単な説明】
【0008】
図1図1は、映像技術の進化について説明するための図である。
図2図2は、コンテンツに新たな映像表現を導入するときの、映像制作、配信方式、及び表示装置の関係について説明するための図である。
図3A図3Aは、トーンマップの一例を示す図である。
図3B図3Bは、トーンマップの一例を示す図である。
図4A図4Aは、スタティックトーンマップの一例を示す図である。
図4B図4Bは、ダイナミックトーンマップの一例を示す図である。
図5図5は、動画にグラフィックスを重畳して表示する例を示す図である。
図6図6は、主映像にグラフィックスが重畳されたときのダイナミックトーンマップの影響を示す図である。
図7図7は、実施の形態1に係る映像表示システムのブロック図である。
図8A図8Aは、実施の形態1に係る主映像ダイナミックメタデータ及びグラフィックス重畳フラグの一例を示す図である。
図8B図8Bは、実施の形態1に係る主映像ダイナミックメタデータ及びグラフィックス重畳フラグの一例を示す図である。
図9図9は、実施の形態1に係るトーンマップ処理部のブロック図である。
図10図10は、実施の形態1に係るトーンマップ処理部の変形例のブロック図である。
図11A図11Aは、実施の形態1に係る比較部における判定処理を説明するための図である。
図11B図11Bは、実施の形態1に係る比較部における判定処理を説明するための図である。
図11C図11Cは、実施の形態1に係る比較部における判定処理を説明するための図である。
図12図12は、実施の形態1に係る映像再生装置の処理を示すフローチャートである。
図13図13は、実施の形態1に係る映像表示装置の処理を示すフローチャートである。
図14図14は、実施の形態2に係るトーンマップ処理部のブロック図である。
図15図15は、実施の形態2に係る映像表示装置の処理を示すフローチャートである。
図16図16は、実施の形態2に係る係数変更部のブロック図である。
図17A図17Aは、実施の形態3に係る主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の一例を示す図である。
図17B図17Bは、実施の形態3に係る主映像ダイナミックメタデータ及びグラフィックス輝度情報の一例を示す図である。
図18A図18Aは、従来のトーンマップによる輝度の変化を示す図である。
図18B図18Bは、実施の形態に係るトーンマップによる輝度の変化を示す図である。
図19図19は、実施の形態4に係る映像表示システムのブロック図である。
図20図20は、実施の形態4に係る映像表示システムのブロック図である。
【発明を実施するための形態】
【0009】
[1−1.背景]
まず、映像技術の変遷について、図1を用いて説明する。図1は、映像技術の進化について説明するための図である。
【0010】
これまで、映像の高画質化としては、表示画素数の拡大に主眼がおかれ、Standard Definition(SD)の720×480画素から、High Definition(HD)の1920×1080画素の映像が普及している。
【0011】
近年、更なる高画質化を目指して、Ultra High Definition(UHD)の3840×1920画素、あるいは、4Kの4096×2048画素の、所謂4K映像の導入が開始された。
【0012】
4Kの導入と共に、ダイナミックレンジ拡張、色域拡大、又は、フレームレートの追加或いは向上なども検討されている。
【0013】
その中でも、ダイナミックレンジについては、暗部階調を維持しつつ、現行のテレビ信号で表現不能な鏡面反射光などの明るい光を、より現実に近い明るさで表現するための方式として、HDR(High Dynamic Range)が注目されている。具体的には、これまでのテレビ信号は、SDR(Standard Dynamic Range)と呼ばれ、最高輝度が100nitであった。これに対して、HDRでは1000nit以上まで最高輝度を拡大することが想定されている。HDRは、SMPTE(Society of Motion Picture & Television Engineers)、及びITU−R(International Telecommunications Union Radiocommunications Sector)などにおいて、マスタリングディスプレー用規格の標準化が進行中である。
【0014】
HDRの具体的な適用先としては、HD及びUHDと同様に、放送、パッケージメディア(Blu−ray(登録商標) Disc等)、及びインターネット配信などが想定されている。
【0015】
[1−2.マスター生成、配信方式、及び表示装置の関係]
図2は、コンテンツに新たな映像表現を導入するときの、映像制作、配信方式、及び表示装置の関係について説明するための図である。
【0016】
映像の高画質化のために新たな映像表現(画素数の増加等)を導入する場合には、図2に示すように、(1)映像制作側のHome Entertainment向けマスターを変更する必要がある。それに応じて、(2)放送、通信、及びパッケージメディア等の配信方式も、(3)その映像を表示するテレビ、又はプロジェクター等の表示装置も更新する必要がある。
【0017】
[1−3.トーンマップ]
トーンマップ(Tone Mapping)は、HDR映像の輝度と映像表示装置の最大輝度(Display Peak Luminance:DPL)との関係から、映像の最大輝度(Maximum Content Luminance Level:MaxCLL)がDPLを超える場合に、映像の輝度を変換し、映像の輝度をDPL以内に収める処理である。この処理により、映像の最大輝度付近の情報を失うことなく映像を表示できる。この変換は、映像表示装置の特性にも依存し、どのように表示するかの考え方にも依存するので、映像表示装置毎に異なった変換カーブが用いられる。
【0018】
図3A及び図3Bは、トーンマップの一例を示す図である。図3Aは、DPLが500nitの場合を示し、図3Bは、DPLが1000nitの場合を示す。また、図3A及び図3Bは、MaxCLLが1000nitの映像を表示した場合のトーンマップと、MaxCLLが4000nitの映像を表示した場合のトーンマップとの例である。
【0019】
図3Aに示すように、DPLが500nitの場合、どちらの映像も500nit以下でMaxCLLまでを表示できるように、輝度が変換されるが、MaxCLLが高い映像のほうが変換の度合いは大きくなる。
【0020】
図3Bに示すように、DPLが1000nitの場合、MaxCLLが1000nitの映像では、トーンマップが行われない。MaxCLLが4000nitの映像では、トーンマップが行われ、4000nitの輝度が1000nitに変換されて表示される。
【0021】
[1−4.ダイナミックメタデータとダイナミックトーンマップ]
図4Aは、スタティックメタデータを用いたトーンマップの例を示す図である。図4Bは、ダイナミックメタデータを用いたダイナミックトーンマップの例を示す図である。
【0022】
図4Aに示すように、スタティックメタデータ(MaxCLL)が用いられる場合、MaxCLLは一連の映像内で最も高い輝度を示すため、映像表示装置は、一連の映像に対して、固定的なトーンマップしか行えない。これに対して、映像表示装置は、図4Bの(a)に示すように、時間変化する輝度に合わせたメタデータ(ここではDynamic MaxCLLと称す)を用いることで、輝度が低い場合は、トーンマップを行わず(図4Bの(b))、輝度が高い場合はトーンマップを行う(図4Bの(c))というように、時間変化する輝度に合わせた最適なトーンマップを実現できる。
【0023】
[1−5.映像とグラフィックスとの合成]
図5は、動画にメニュー及び字幕などのグラフィックスを重畳して、映像表示装置で表示する例を示す図である。ここでは、Ultra HD Blu−rayの例を示す。
【0024】
グラフィックスを重畳する前の動画を主映像と表現する。Ultra HD Blu−rayではグラフィックスは、HD解像度で準備される。映像再生装置は、HDのグラフィックスに対してHD−UHD変換を行うことでUHDのグラフィックスを生成する。そして、映像再生装置は、得られたUHDのグラフィックスと、UHD解像度の主映像とを合成する。そして、映像再生装置は、合成後の映像を、HDMI(登録商標)(High−Definition Multimedia Interface)を通じて映像表示装置に送る。映像表示装置は、送られてきた映像をHDRとして表示する。
【0025】
また、映像再生装置は、ダイナミックメタデータを、主映像の輝度の時間変化に基づいて決定し、HDMIを通じて、映像表示装置に送る。映像表示装置は、送られてきたダイナミックメタデータに基づき、主映像に字幕及びメニューが重畳された映像信号に対して、ダイナミックトーンマップを施す。
【0026】
この状況は、放送又は通信によるOTT(Over The Top)サービスでのHDR映像を表示する場合でも、主映像にメニュー又は字幕が重畳され、得られた映像が映像表示装置で表示される場合は同様である。
【0027】
[1−6.動画にグラフィックスを重畳した映像データにダイナミックトーンマップを行う場合の課題]
ダイナミックメタデータ方式では、HDR映像の輝度分布などの輝度に関わるメタデータがフレーム毎に指定され、映像信号とともに、そのようなメタデータが、映像表示装置に送られる。映像表示装置は、当該映像表示装置の最大輝度などの表示能力に応じて、送られてきたメタデータを参考にして、輝度を変換するなどの処理を行う。このようなダイナミックメタデータ方式は、映像表示装置の輝度などの表示性能によらずできるだけ一定の品質の映像を表示する方式として、注目されている。
【0028】
しかしながら、ダイナミックメタデータは、時間的に変化するために、本来一定であるべき映像の表示が、安定しないという問題がある。
【0029】
表示すべき映像が、同時に編集、又は監修された映像、いわゆる動画だけであるならば、ある程度、映像の状況を考慮した処理が可能である。このような動画を主映像とし、同時に、本来一定であり、まったく変動しない、字幕又はメニューなどのグラフィックスデータが主映像に重畳されて表示されると、ダイナミックメタデータを使用した処理により、一定であるべきグラフィックスの輝度又は色が変化するという悪影響が出てくる。この悪影響は、主映像の輝度が高く、映像表示装置の輝度が低いほど顕著となる。
【0030】
図6は、主映像にグラフィックスが重畳されたときのダイナミックトーンマップの影響を示す図である。ここで、図6の(a)に示すように、重畳されるグラフィックスの輝度を350nit仮定する。図6の(b)に示すように主映像の輝度が低い区間では、トーンマップが行われず、グラフィックスは本来の輝度である350nitで映像表示装置に表示される。一方、図6の(c)に示すように、主映像の輝度が高い区間では、トーンマップが行われ、グラフィックスの輝度は、350nitより低い輝度で映像表示装置に表示される。このように、本来一定であるべきグラフィックスの輝度が時間的に変動することになり、好ましくない状態となる。ここでは輝度だけの影響としたが、実際の映像表示装置では、色成分も影響を受けるために色も影響を受けることもある。
【0031】
[1−7.解決方法]
上記課題を避ける手段として、重畳するグラフィックスの位置情報を映像表示装置に送り、グラフィックスが表示されている部分のみ、ダイナミックメタデータを適用しない方法が考えられる。しかし、この方法は、表示画面の全領域において、グラフィックスが表示されているかどうかの情報の伝送が必要であり、映像表示装置での処理も、表示ピクセル単位での判断が必要など、実現はかなり困難である。
【0032】
上記問題に対して本開示では、映像再生装置は、ダイナミックメタデータの情報として、主映像にグラフィックスが重畳されているかいないかを示す「グラフィックス重畳フラグ」を映像表示装置に送る。グラフィックスとしては、メニュー及び字幕があるため、映像再生装置は、「グラフィックス重畳フラグ」として、「メニュー重畳フラグ」及び「字幕重畳フラグ」を映像表示装置に送ってもよい。
【0033】
映像表示装置は、メニュー重畳フラグの状態により、ダイナミックトーンマップのOn/Off又はその強さを変化させる。これにより、重畳されたグラフィックスへのダイナミックトーンマップの影響を低減できる。また、複数のHDR方式が、一つのストリーム又はディスク内で混在することが許されるので、映像表示装置に適した方式を使用することができる。
【0034】
ここで、メニュー表示時に、ダイナミックトーンマップをやめて、トーンマップを固定する場合は、トーンマップは連続であり違和感はない。しかしながら、メニュー消去時に、トーンマップを固定した状態からダイナミックトーンマップに戻す場合には、その時点での最適なトーンマップは、メニュー表示時のトーンマップとは異なっている。これにより、トーンマップが不連続となってしまうという第1の課題がある。
【0035】
また、字幕表示時に、字幕重畳フラグを映像表示装置に送付し、トーンマップを固定する方法では以下の課題がある。字幕の表示は会話ごとであり、非常に短期間に、字幕が表示されている状況と表示されていない状況が変化する。これにより、字幕が表示されている期間のみ、トーンマップを固定する方式では、処理が困難となるという第2の課題がある。また、字幕表示がOFFになる場合に、メニュー表示をOFFとする場合と同様に、トーンマップが不連続になるという課題がある。
【0036】
本開示では以下の解決方法を用いる。第1の方法では、映像表示装置は、メニュー消去時に、トーンマップを固定した状態からダイナミックトーンマップに戻す場合、以下の何れかの方法を用いてトーンマップの連続性を実現する。
【0037】
(1)映像表示装置は、固定中のトーンマップと表示する映像のトーンマップとがほぼ同様なトーンマップとなるまで、トーンマップ固定し、違和感がないところからダイナミックトーンマップを再開する。
【0038】
(2)映像表示装置は、トーンマップをカテゴリにわけ、固定中のトーンマップと表示する映像のトーンマップとが同一又は近傍のカテゴリの場合に、ダイナミックトーンマップを再開する。カテゴリは、映像の輝度、輝度分布、又は分散などで決定される。あるいは、製作者が、映像に違和感がない範囲でカテゴリを決定する。
【0039】
(3)映像表示装置は、メニュー消去時から所定の時定数に基づき、そのときの規定のダイナミックトーンマップになるようにトーンマップを変化させ、通常のダイナミックトーンマップに戻す。
【0040】
第2の方法では、映像表示装置は、上記第2の課題を解決するために、以下の何れかの方法を用いる。
【0041】
(1)映像表示装置は、個々の字幕の表示状況によらず、字幕表示がONの場合に、トーンマップを固定する。
【0042】
(2)個々の字幕とは別に、所定の間隔の字幕の不表示期間又は表示期間が定義され、映像表示装置は、不表示期間ではダイナミックトーンマップを行い、表示期間ではトーンマップを固定する。
【0043】
さらに、映像表示装置は、字幕のON/OFFに従って、ダイナミックトーンマップを制御する場合において、字幕が実効的にOFFになったことで、トーンマップを固定した状態からダイナミックトーンマップに戻す場合、第1の方法と同様な方法により、違和感なく通常のダイナミックトーンマップを再開する。
【0044】
第3の方法では、映像再生装置は、メニュー又は字幕の実効的な表示のON/OFFを映像表示装置に伝えるより具体的な方法として、メニューと字幕の実効的な最大輝度を示すMAXGLL(Maximum Graphics Luminance Level)又はMAXSLL(Maximum Subtitle Luminance Level)情報を映像表示装置に送付する。
【0045】
このMAXGLL及びMAXSLLは、主映像データ、並びに、主映像データとともに表示されるメニュー及び字幕などのグラフィックスデータの制作時に決定され、映像再生装置は、主映像データとともにMAXGLL及びMAXSLLを取得し、主映像データ、MAXGLL及びMAXSLLを映像表示装置へ送付してもよい。または、映像再生装置は、メニュー又は字幕を主映像に重畳する際に、その輝度を取得することでMAXGLL又はMAXSLLを生成し、生成したMAXGLL又はMAXSLLを映像表示装置に送ってもよい。
【0046】
特に、第2の方法の場合は、映像再生装置又は映像表示装置が、字幕データとは別に、実効的な字幕表示期間を定める必要がある。よって、実効的な字幕表示期間を示すタイミング情報が、字幕の輝度情報とともに、メタデータとして、グラフィックスデータ制作時に作成され、映像再生装置は、メタデータを参照してMAXSLL及びタイミング情報を映像表示装置に送付する。
【0047】
上記の第1の方法により、主映像にダイナミックトーンマップを行うとともに、メニュー又は字幕などのグラフィックスが重畳されている場合には、ダイナミックトーンマップを全て固定したり、グラフィックスの輝度以下でトーンマップを固定したりする映像表示装置において、グラフィックスの重畳をやめて、通常のダイナミックトーンマップに移行した際の違和感を低減できる。
【0048】
また、字幕のON/OFFに従い、ダイナミックトーンマップの処理を変える場合には、字幕のOFFの間隔が短いときのように、ダイナミックトーンマップの変更が難しい場合がある。上記の第2の方法により、実効的なON期間を設定することで、このような場合にもスムーズにダイナミックトーンマップを切り替えることができる。
【0049】
また、上記の第3の方法により、メニュー又は字幕のグラフィックス情報のON/OFF又は輝度情報を正確に映像表示装置に伝えることで、ダイナミックトーンマップの処理を適切に行うことができ、品位が高いHDR映像の再生を実現できる。さらに、データ制作時にタイミング情報及び輝度情報を作成することで、制作者の意図をより正確に反映したダイナミックトーンマップ処理を実現できる。
【0050】
[2.実施の形態1]
本実施の形態では、映像表示装置は、メニュー表示時に、ダイナミックトーンマップを行わずトーンマップを固定する。また、映像表示装置は、メニュー消去時においてトーンマップを固定した状態からダイナミックトーンマップに戻す場合、以下の何れかの方法を用いてトーンマップの連続性を実現する。
【0051】
(1)映像表示装置は、固定中のトーンマップと表示する映像のトーンマップとがほぼ同様なトーンマップとなるところまで、トーンマップ固定し、違和感がないところからダイナミックトーンマップを再開する。
【0052】
(2)映像表示装置は、トーンマップをカテゴリにわけ、固定中のトーンマップと表示する映像のトーンマップとが同一又は近傍のカテゴリの場合に、ダイナミックトーンマップを再開する。カテゴリは、映像の輝度、輝度分布、又は分散などで決定される。あるいは、製作者が、映像に違和感がない範囲でカテゴリを決定する。
【0053】
[2−1.映像表示システムの構成]
図7は、本実施の形態に係る映像表示システム100の構成を示すブロック図である。図7に示す映像表示システム100は、映像再生装置101と、映像表示装置102とを含む。
【0054】
映像再生装置101は、映像を再生し、得られた映像を映像表示装置102に出力する。この映像再生装置101は、取得部111と、デマルチプレクサ112と、主映像デコード部113と、字幕デコード部114と、メニューデコード部115と、メタデータ取得部116と、グラフィックス合成部117と、主映像合成部118と、映像送出部119とを含む。
【0055】
取得部111は、映像信号を取得する。例えば、映像再生装置101がディスク再生装置である場合には、取得部111は、ディスクを再生することで映像信号を取得する。また、映像再生装置101が放送受信装置である場合は、取得部111は、放送波を受信することで映像信号を取得する。また、映像再生装置101がインターネット放送受信装置である場合は、取得部111は、インターネット放送を受信することで映像信号を取得する。
【0056】
デマルチプレクサ112は、映像信号に含まれる符号化された主映像信号、字幕信号及びメニュー信号をそれぞれ、主映像デコード部113、字幕デコード部114及びメニューデコード部115に出力する。
【0057】
主映像デコード部113は、デマルチプレクサ112から出力された符号化された主映像信号を復号する。
【0058】
字幕デコード部114は、デマルチプレクサ112から出力された符号化された字幕信号を復号する。また、字幕デコード部114は、ユーザの操作等に基づき、字幕を表示するか否か、及び表示する字幕の種別を選択し、字幕を表示する場合には、選択した字幕をグラフィックス合成部117に出力する。
【0059】
メニューデコード部115は、デマルチプレクサ112から出力された符号化されたメニュー信号を復号する。また、メニューデコード部115は、ユーザの操作等に基づき、メニューを表示するか否か、及び表示するメニューの種別を選択し、メニューを表示する場合には、選択したメニューをグラフィックス合成部117に出力する。なお、メニューデコード部115は、映像信号からの情報だけでなく、映像再生装置101で動作するプログラムによりメニューを合成及び表示してもよい。
【0060】
メタデータ取得部116は、主映像ダイナミックメタデータを取得する。例えば、メタデータ取得部116は、主映像信号に含まれる情報に基づき主映像ダイナミックデータを生成する。
【0061】
グラフィックス合成部117は、字幕とメニューとを構成することでグラフィックス情報を生成する。なお、上述したようにグラフィックス合成部117は、字幕及びメニューの解像度を変換してもよい。例えば、Ultra HD Blu−rayの場合には、グラフィックス合成部117は、HDの字幕及びメニューをUHDの字幕及びメニューに変換する。
【0062】
また、グラフィックス合成部117は、グラフィックス情報を生成し、生成したグラフィックス情報を主映像に重畳する場合、グラフィックス重畳フラグをONとして、映像送出部119に送る。また、グラフィックス合成部117は、グラフィックス情報を主映像に重畳しない場合、グラフィックス重畳フラグをOFFとして、映像送出部119に送る。なお、グラフィックス重畳フラグは、映像再生装置101内のプログラムにより生成されてもよいし、他の手段によって生成されてもよい。
【0063】
主映像合成部118は、主映像デコード部113で得られた主映像と、グラフィックス合成部117で生成されたグラフィックス情報とを合成することで映像信号を生成する。
【0064】
映像送出部119は、主映像合成部118で生成された映像信号と、ダイナミックメタデータとを、HDMIケーブル等の映像信号伝送手段を介して映像表示装置102に伝送する。ダイナミックメタデータは、メタデータ取得部116で取得された主映像ダイナミックメタデータと、グラフィックス合成部117で生成されたグラフィックス重畳フラグとを含む。
【0065】
図8Aは、映像再生装置101から映像表示装置102に送られる主映像ダイナミックメタデータ及びグラフィックス重畳フラグの構成例を示す図である。図8Aに示すように、主映像ダイナミックメタデータは、主映像の最大輝度及び平均輝度を示す。例えば、主映像ダイナミックメタデータは、1フレーム単位又は複数フレーム単位の最大輝度及び平均輝度を示す。
【0066】
図8Bは、主映像ダイナミックメタデータ及びグラフィックス重畳フラグの別の構成例を示す図である。図8Bに示すようにグラフィックス重畳フラグは、字幕を主映像に重畳しているかどうかを示す字幕重畳フラグと、メニューを主映像に重畳しているかどうかを示すメニュー重畳フラグとを含んでもよい。
【0067】
次に、映像表示装置102の構成について説明する。映像表示装置102は、映像受信部121と、メタデータ取得部122と、トーンマップ処理部123と、表示部124とを備える。
【0068】
映像受信部121は、映像再生装置101から送られてくる映像信号とダイナミックメタデータを受け取る。映像受信部121は、映像信号とダイナミックメタデータとを分離し、映像信号をトーンマップ処理部123へ送り、ダイナミックメタデータをメタデータ取得部122に送る。メタデータ取得部122は、ダイナミックメタデータに含まれる主映像ダイナミックメタデータ及びグラフィックス重畳フラグを制御信号として、トーンマップ処理部123へ送る。
【0069】
トーンマップ処理部123は、主映像ダイナミックメタデータに従い、映像信号のトーンマップ処理を行う。具体的には、トーンマップ処理部123は、グラフィックス重畳フラグがOFFの場合には、主映像ダイナミックメタデータに従い、映像信号のトーンマップ処理(ダイナミックトーンマップ処理)を行う。一方、トーンマップ処理部123は、グラフィックス重畳フラグがONの場合は、重畳されているグラフィックスへのダイナミックトーンマップの影響を低減したトーンマップ処理を行う。表示部124は、トーンマップ処理後の映像信号を表示する。
【0070】
[2−2.トーンマップ処理部]
トーンマップ処理部123の詳細について説明する。図9は、トーンマップ処理部123の構成を示すブロック図である。トーンマップ処理部123は、係数演算部131と、係数保持部132と、トーンマップ部133と、比較部135と、切替部SW1、SW2及びSW3とを備える。
【0071】
映像受信部121からの映像信号は、トーンマップ部133へ送られる。メタデータ取得部122からの主映像ダイナミックメタデータは、係数演算部131に送られる。
【0072】
係数演算部131は、トーンマップ部133におけるトーンマップ処理で用いられるトーンマップ係数を、映像表示装置102の輝度などの映像表示能力に従って算出する。係数保持部132は、係数演算部131が算出したトーンマップ係数を保持する。ここで、トーンマップ係数とは、トーンマップ処理に用いられる変換カーブを示す関数に含まれる係数である。つまり、トーンマップ係数により変換カーブが決定される。
【0073】
切替部SW1は、係数演算部131で算出されたトーンマップ係数(A)と、係数保持部132に保持されているトーンマップ係数(B)との一方を選択し、選択したトーンマップ係数をトーンマップ部133に送る。切替部SW2は、係数演算部131で算出されたトーンマップ係数(A)と、係数保持部132に保持されるトーンマップ係数(B)との一方を選択し、選択したトーンマップ係数を係数保持部132に入力する。つまり、切替部SW2は、係数保持部132に保持されるトーンマップ係数を、係数演算部131で新たに算出されたトーンマップ係数に更新するか(A)、現在保持しているトーンマップ係数を引き続き保持するか(B)を切り替える。
【0074】
切替部SW1及びSW2は、連動しており、切替部SW3の出力信号に応じて切り替わる。切替部SW3の出力信号がOFFである場合、切替部SW1及びSW2は共に(A)に接続される。切替部SW3の出力信号がONである場合、切替部SW1及びSW2は共に(B)に接続される。切替部SW3は、比較部135の出力信号に応じて、グラフィックス重畳フラグを出力する(C)か、常にONを出力する(D)かを切り替える。
【0075】
比較部135は、係数演算部131が主映像ダイナミックメタデータから演算した主映像に応じてダイナミックに変化するトーンマップ係数と、係数保持部132が保持しているグラフィックス重畳フラグがONとなったときのトーンマップ係数とを比較し、比較結果に基づき切替部SW3を制御する。
【0076】
初期状態では、グラフィックス重畳フラグがOFFであり、比較部135に入力される二つのトーンマップ係数は同じであるので、比較部135の出力信号はONであり、切替部SW3は(C)に接続される。
【0077】
グラフィックス重畳フラグがONになると、係数保持部132は、グラフィックス重畳フラグがONに変化したときのトーンマップ係数を保持する。これにより、比較部135に入力される二つのトーンマップ係数が異なり、比較部135の出力信号はOFFとなり、切替部SW3は(D)に接続される。
【0078】
係数演算部131から出力されるトーンマップ係数が、係数保持部132で保持されているトーンマップ係数と同等となると、比較部135の出力信号がONになる。これにより、切替部SW3が(C)に接続され、切替部SW1及びSW2は、グラフィックス重畳フラグの状態により制御される。つまり、グラフィックス重畳フラグがOFFの場合に、切替部SW1及びSW2は(A)に接続され、係数演算部131でダイナミックに演算されるトーンマップ係数が、トーンマップ部133に送られる。これにより、通常のダイナミックトーンマップが実行される。
【0079】
また、グラフィックス重畳フラグが、字幕重畳フラグとメニュー重畳フラグとを含む場合、その組み合わせにより、トーンマップ部133へ入力されるトーンマップ係数の処理を変えることができる。一例として、字幕重畳フラグがONの場合は、トーンマップ係数を固定とする(切替部SW1及びSW2はBに接続される)が、メニュー重畳フラグだけがONの場合は、通常のトーンマップ係数が用いられる(切替部SW1及びSW2はAに接続される)などである。
【0080】
また、本構成は、一例であり、トーンマップ処理部123は、グラフィックス重畳フラグがONの場合、トーンマップ係数を特定の輝度以下で固定してもよいし、トーンマップ処理を行わないとしてもよい。
【0081】
図10は、トーンマップ係数を特定の輝度以下で固定する場合のトーンマップ処理部123Aの構成を示す図である。トーンマップ処理部123Aは、切替部SW1の代わりに係数合成部134を備える。
【0082】
係数合成部134は、切替部SW3の出力信号がONの場合、つまり、切替部SW3が(D)に接続されているか、グラフィックス重畳フラグがONの場合、予め定められた輝度である境界輝度以上の輝度に対してはダイナミックトーンマップ処理を行うが、境界輝度未満の輝度に対しては(1)トーンマップを固定する、(2)トーンマップ処理を行わない、(3)トーンマップの変動を抑える、又は(4)トーンマップの影響が人に感知できない程度とするなどの処理を行う。ここで、境界輝度とは、例えば、グラフィックスに用いられている輝度の最大値より高い輝度である。これにより、グラフィックスに用いられる輝度範囲においてトーンマップが変動することが抑制される。また、上記処理において、境界輝度以上の変換カーブと、境界輝度未満の変換カーブとの連続性を維持するために、係数合成部134は、これらの境界領域において変換カーブが滑らかに変化するように変換カーブを補正してもよい。
【0083】
なお、ここでは、映像、字幕、及びメニューのみについての構成を説明したが、映像再生装置101、及び映像表示装置102では、音声信号なども処理、伝送、及び出力する。これらは、本開示には、かかわりがないために、以降の説明を含め省略している。
【0084】
また、グラフィックス重畳フラグが、字幕重畳フラグとメニュー重畳フラグとを含む場合、図10に示す係数合成部134は、字幕重畳フラグとメニュー重畳フラグの状態により、異なる合成の方法を用いる。例えば、係数合成部134は、字幕重畳フラグがONの場合と、メニュー合成フラグのみがONの場合とで、上記境界輝度を異なる値に設定する。
【0085】
係数合成部134は、表示部124の最高輝度、及びその他の映像に関わる特性を考慮して境界輝度を設定する。ここで、一般的にメニューの輝度レベルは字幕の輝度レベルより高い。よって、係数合成部134は、メニュー重畳フラグがONの場合には、字幕重畳フラグのみがONの場合に比べて、境界輝度を高く設定する。
【0086】
なお、メニューは、使用者の意思によって重畳するかどうかが決められるものであり、メニューへのダイナミックトーンマップの影響よりも、主映像のトーンマップを重視するという考え方もできる。よって、係数合成部134は、メニュー重畳フラグのみがONの場合には、字幕重畳フラグがONの場合に比べて、境界輝度を低く設定してもよい。
【0087】
比較部135は、二つのトーンマップ係数を比較する方法として以下のいずれかの方法を用いる。例えば、比較部135は、二つのトーンマップ係数が完全に一致しているかどうか、又は予め定められた誤差範囲内であるかを判定する。これは、トーンマップ係数の値の範囲が狭い場合に有効である。図11Aは、トーンマップ係数を構成する値が、所定の誤差範囲であれば、一致とみなす場合の判定方法を示す図である。なお、図11Aにおいては、nはトーンマップ係数を構成する値の数であり、T0iは主映像ダイナミックメタデータに基づくトーンマップ係数であり、T1iは係数保持部132で保持しているトーンマップ係数であり、Diはそれぞれの値ごとの所定の誤差である。また、output “YES”, output “NO”は、比較部135の出力信号を“YES”または”NO“とする手続きを示す。
【0088】
別の方法では、比較部135は、トーンマップ係数を構成する個々の値をそのまま比較するのでなく、輝度情報であれば、いくつかのグループに分け、評価し、誤差を認めて比較する。例えば、比較部135は、トーンマップ係数を、最高輝度、中間輝度、低輝度などにわけ、それぞれのについて評価関数を設け評価し、その結果を比較する。
【0089】
あるいは、比較部135は、誤差を比較するのではなく、これらのグループ化した値を用いた座標空間において、所定の値で領域をわけ、同一領域であれば一致と判定し、異なる領域であれば不一致と判定する。図11Bは、この場合の判定例を示す図である。
【0090】
あるいは、比較部135は、同一及び近接領域であれば一致と判定し、その他の場合は不一致と判定する。図11Cは、この場合の判定例を示す図である。
【0091】
なお、図11B及び図11Cでは、座標空間を二次元で表現したが、それ以上の次元が用いられてもよい。
【0092】
[2−3.映像表示システムの動作]
映像表示システムの動作の流れを説明する。図12は、映像再生装置101の動作を示すフローチャートである。映像再生装置101は、映像の再生を開始した後、グラフィックス(字幕、及びメニュー)の処理状態によりグラフィックスが主映像に重畳されているかどうかを判定する(S101)。グラフィックスが主映像に重畳されている場合(S101でYes)、映像再生装置101は、グラフィックス重畳フラグをONに設定する(S102)。一方、グラフィックスが主映像に重畳されていない場合(S101でNo)、映像再生装置101は、グラフィックス重畳フラグをOFFに設定する(S103)。そして、映像再生装置101は、映像再生が完了するか、あるいは、再生停止操作があるまで、ステップS101〜S103の処理を繰り返し行う(S104)。例えば、この処理は、1フレーム単位又は複数フレーム単位で繰り返し行われる。
【0093】
図13は、映像表示装置102の動作を示すフローチャートである。映像表示が開始されると、まず、初期状態として、トーンマップを更新するダイナミックトーンマップが選択される(S111)。具体的には、切替部SW3はCに接続され、切替部SW1及びSW2はそれぞれAに接続される。
【0094】
この状態では、グラフィックス重畳フラグの状態に基づき、切替部SW3の出力信号が定まる。つまり、グラフィックス重畳フラグがOFFの状態では(S112でNo、かつS113でNo)、このダイナミックトーンマップが続く(S115)。また、このとき、係数保持部132では、変化するトーンマップ係数が保持される。
【0095】
一方、グラフィックス重畳フラグがONになると(S112でYes)、映像表示装置102は、トーンマップを固定する(S116)。具体的には、切替部SW3の出力信号がONになる。これにより、切替部SW1及びSW2がBに接続され、係数保持部132には、自身の出力信号が入力される。よって、切替部SW2がAからBとなる直前のトーンマップ係数が係数保持部132に保持される。また、切替部SW1がBに接続されることから、トーンマップ部133へ入力されるトーンマップ係数が固定される。これにより、トーンマップの時間変動がなくなる。このとき、比較部135に入力される二つのトーンマップ係数は、通常異なるため、切替部SW3はDに接続され、切替部SW3の出力信号は常にONとなる。
【0096】
一度、トーンマップが固定される状態になると、グラフィックス重畳フラグがOFFとなっても(S112でNo、かつS113でYes)、ステップS114の条件が満たされない限りこの状態は変わらない(S116)。つまり、グラフィックス重畳フラグがOFFになり(S112でNo、かつS113でYes)、かつ、主映像ダイナミックメタデータに基づくトーンマップ係数が、係数保持部132で保持されているトーンマップ係数、つまり、グラフィックス重畳フラグが最初にONになったときのトーンマップ係数と所定の条件で一致したとき(S114でYes)、トーンマップを固定する状態が解除され、ダイナミックトーンマップに移行する(S115)。
【0097】
具体的には、比較部135の出力信号がONとなり、切替部SW3がCに接続され、グラフィックス重畳フラグの状態が、切替部SW1及びSW2の状態を決める状態となる。ここで、グラフィックス重畳フラグがOFFであれば、切替部SW1及びSW2はAに接続され、主映像のダイナミックメタデータに基づいたトーンマップ係数を用いたダイナミックトーンマップが実行される。
【0098】
これらの一連の処理が、映像の受信完了又は表示OFFの操作がなされるまで繰り返し行われる(S117)。例えば、この処理は、1フレーム単位又は複数フレーム単位で繰り返し行われる。
【0099】
以上のように、本実施の形態に係る映像表示システム100は、映像の最大輝度に応じた変換カーブを用いて映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部123と、トーンマップ処理後の映像を表示する表示部124とを備える。トーンマップ処理部123は、映像における最大輝度の時系列の変化に応じて、変換カーブを時系列に変更する第1トーンマップ処理を行うか(S115)、映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか(S116)、を切り替える。
【0100】
これにより、例えば、映像の種別等に応じて、トーンマップに用いる変換カーブを時系列に変更するか、固定するかを切り替えることができる。よって、映像の種別等に応じて、各時刻において最適なトーンマップを行うか、トーンマップを固定することで、本来一定であるべき映像の輝度が変化することを抑制するかを切り替えることができる。このように、映像表示システム100は、表示する映像の質を向上できる。
【0101】
また、映像表示システム100は、さらに、主映像にグラフィックスを合成することで映像を生成する合成部(主映像合成部118及びグラフィックス合成部117)を備える。トーンマップ処理部123は、主映像にグラフィックスが合成されていない場合(S112でNo)、第1トーンマップ処理を行い(S115)、主映像にグラフィックスが合成された場合(S112でYes)、第2トーンマップ処理を行う(S116)。これにより、グラフィックスの輝度の変化を抑制できる。
【0102】
また、合成部は、主映像にグラフィックスを合成したか否かを示す第1フラグ(グラフィックス重畳フラグ)を生成する。トーンマップ処理部123は、第1フラグに応じて、第1トーンマップ処理を行うか、第2トーンマップ処理を行うかを決定する。
【0103】
また、グラフィックスは、字幕及びメニューを含み、第1フラグは、主映像に字幕を合成したか否かを示す第2フラグ(字幕重畳フラグ)と、主映像にメニューを合成したか否かを示す第3フラグ(メニュー重畳フラグ)とを含む。これによれば、字幕が重畳されている場合とメニューが重畳されている場合とで、それぞれに適したトーンマップ処理を行うことができる。
【0104】
例えば、トーンマップ処理部123は、第1トーンマップ処理から第2トーンマップ処理に切り替わった場合、第2トーンマップ処理において、直前の変換カーブを継続して用いる。これによれば、第1トーンマップ処理から第2トーンマップ処理への切り替わりにおいて輝度が大きく変化することを抑制できる。
【0105】
例えば、図10に示すように、トーンマップ処理部123Aは、第2トーンマップ処理において、境界輝度以上の輝度に対しては、映像における最大輝度の時系列の変化に応じて、変換カーブを時系列に変更し、境界輝度未満の輝度に対しては、映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる。
【0106】
これによれば、境界輝度以上の木地に対しては、各時刻において最適なトーンマップを行うことができるとともに、境界輝度未満の輝度に対しては、輝度が変化することを抑制できる。
【0107】
また、トーンマップ処理部123は、第2トーンマップ処理を行っている状態において、第2トーンマップ処理で用いられる一定の変換カーブと、第1トーンマップ処理で用いられる時系列に変更される変換カーブとが所定の条件を満たす場合、使用するトーンマップ処理を、第2トーンマップ処理から第1トーンマップ処理に切り替え、前記条件を満たさない場合、第2トーンマップ処理を継続する。
【0108】
例えば、前記条件は、第2トーンマップ処理で用いられる一定の変換カーブと、第1トーンマップ処理で用いられる時系列に変更される変換カーブとの差が予め定められた値以下であることである。
【0109】
例えば、変換カーブは複数のカテゴリに分類され、前記条件は、第2トーンマップ処理で用いられる一定の変換カーブと、第1トーンマップ処理で用いられる時系列に変更される変換カーブとの同一のカテゴリに分類されることである。
【0110】
これによれば、第2トーンマップ処理から第1トーンマップ処理への切り替えにおいて、使用されるトーンマップが大きく変更されることを抑制できる。
【0111】
また、本実施の形態に係る映像表示装置102は、映像の最大輝度に応じた変換カーブを用いて映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部123と、トーンマップ処理後の映像を表示する表示部124とを備える。トーンマップ処理部123は、映像における最大輝度の時系列の変化に応じて、変換カーブを時系列に変更する第1トーンマップ処理を行うか(S115)、映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか(S116)、を切り替える。
【0112】
これにより、例えば、映像の種別等に応じて、トーンマップに用いる変換カーブを時系列に変更するか、固定するかを切り替えることができる。よって、映像の種別等に応じて、各時刻において最適なトーンマップを行うか、トーンマップを固定することで、本来一定であるべき映像の輝度が変化することを抑制するかを切り替えることができる。このように、映像表示装置102は、表示する映像の質を向上できる。
【0113】
また、トーンマップ処理部123は、映像にグラフィックスが含まれない場合(S112でNo)、第1トーンマップ処理を行い(S115)、映像にグラフィックスが含まれる場合(S112でYes)、第2トーンマップ処理を行う(S116)。これにより、グラフィックスの輝度の変化を抑制できる。
【0114】
また、トーンマップ処理部123は、第1トーンマップ処理を行うか第2トーンマップ処理を行うかを示す第1フラグ(グラフィックス重畳フラグ)に応じて、第1トーンマップ処理を行うか、第2トーンマップ処理を行うかを決定する。
【0115】
また、第1フラグは、映像に字幕が含まれるか否かを示す第2フラグ(字幕重畳フラグ)と、映像にメニューが含まれるか否かを示す第3フラグ(メニュー重畳フラグ)とを含む。これによれば、字幕が重畳されている場合とメニューが重畳されている場合とで、それぞれに適したトーンマップ処理を行うことができる。
【0116】
[3.実施の形態2]
本実施の形態では、映像表示装置は、メニュー消去時に、トーンマップを固定した状態からダイナミックトーンマップに戻す場合、メニュー消去時から、所定の時定数に基づき、そのときの規定のダイナミックトーンマップになるように使用するトーンマップを変化させる。これにより、トーンマップの連続性を実現できる。
【0117】
映像再生装置101の構成は、実施の形態1と同様であり、説明を省略する。また、映像表示装置102が備えるトーンマップ処理部123Bの構成が実施の形態1のトーンマップ処理部123と異なる。図14は、本実施の形態に係るトーンマップ処理部123Bの構成を示すブロック図である。
【0118】
図14に示すトーンマップ処理部123Bは、切替部SW1の代わりに係数変更部136を備える。また、トーンマップ処理部123Bは、比較部135及び切替部SW3を備えない。
【0119】
図15は、トーンマップ処理部123Bの処理を示すフローチャートである。図15に示す処理は、図13に示す処理に対して、ステップS114の代わりにステップS118を含む。
【0120】
係数演算部131は、主映像ダイナミックメタデータを用いて、映像表示装置102の最大輝度又は表示特性に応じたトーンマップ係数を演算する。グラフィックス重畳フラグがOFFの場合(S112でNo、かつS113でNo)、トーンマップが更新される(S115)。具体的には、切替部SW2はAに接続される。また、係数変更部136は、入力されたトーンマップ係数をそのままトーンマップ部133に出力する。トーンマップ部133は、入力された映像信号を、トーンマップ係数を用いてトーンマップ処理する。これにより、ダイナミックトーンマップが実現される。
【0121】
一方、グラフィックス重畳フラグがOFFからONになると(S112でYes)、トーンマップが固定される(S116)。具体的には、切替部SW2はBに接続され、そのときのトーンマップ係数が、係数保持部132に保持される。この場合、係数変更部136は、係数保持部132から出力されたトーンマップ係数を、トーンマップ部133に出力する。従って、グラフィックス重畳フラグがONの場合、トーンマップ係数が固定され、主映像のトーンマップは固定される。
【0122】
ここで、グラフィックス重畳フラグがONからOFFになると(S112でNo、かつS113でYes)、ダイナミックトーンマップが実施されるように、係数変更部136は、係数演算部131から出力されるトーンマップ係数を出力する。このとき、係数変更部136は、固定されていたトーンマップ係数から、ダイナミックに変動するトーンマップ係数への切り替えを、瞬時に行うのではなく、トーンマップ係数を徐々に変化させる(S118)。
【0123】
なお、徐々に変化するとは、予め定められた期間において、連続的又は段階的にトーンマップ係数が変化することを意味する。つまり、上記期間において、係数保持部132からのトーンマップ係数(以下係数Bと呼ぶ)と係数演算部131からのトーンマップ係数(以下係数Aと呼ぶ)との間の1以上の値を経て、係数Bから係数Aにトーンマップ係数が変更される。また、予め定められた期間とは、例えば、複数フレームが表示される期間である。つまり、係数Bを用いてトーンマップ処理されたフレームと、係数Bと係数Aとの間トーンマップ係数を用いてトーンマップ処理された1以上のフレームと、係数Aを用いてトーンマップ処理されたフレームとが順次出力される。
【0124】
図16に係数変更部136の構成を示すブロック図である。係数変更部136は、係数フェード部141と、比較部142と、切替部SW4及びSW5とを備える。
【0125】
係数演算部131からのトーンマップ係数(係数A)は、切替部SW4のEと比較部142及び係数フェード部141に入力される。係数保持部132からのトーンマップ係数(係数B)は、係数フェード部141に入力される。グラフィックス重畳フラグは、係数フェード部141を制御するために用いられ、また、切替部SW5のGに入力される。係数フェード部141の出力信号は、比較部142に入力されるとともに、切替部SW4のFに入力される。比較部142の出力信号は、切替部SW5を制御する。切替部SW5のHは、常にONとなる信号が入力される。切替部SW5の出力信号で、切替部SW4が制御される。切替部SW4の出力信号は、変更後のトーンマップ係数であり、トーンマップ部133に送られる。
【0126】
以下、図16に示す係数変更部136の動作を説明する。初期状態では、入力される二つの係数Aと係数Bとが同一であり、グラフィックス重畳フラグがOFFであることから、係数フェード部141の出力信号も、係数Aと同じトーンマップ係数である。また、比較部142の出力信号はONとなり、切替部SW5はGに接続される。そのため切替部SW5の出力信号はOFFとなり、切替部SW4はEに接続され、トーンマップ部133へ係数Aがそのまま出力される。
【0127】
この状態で、グラフィックス重畳フラグがONとなると、係数Aは、主映像に応じてダイナミックに変化するが、グラフィックス重畳フラグがONとなった時の係数Aの値が係数Bとして保持される。係数フェード部141は、グラフィックス重畳フラグがONのときは、係数Bをそのまま出力し、グラフィックス重畳フラグがONからOFFに変化したとき、係数Bからその時々の係数Aになるように所定の時定数でフェード処理を行う。比較部142は、グラフィックス重畳フラグがONに変化したとき、入力される係数Aと係数Bとが異なるので、OFFを出力し、切替部SW5がHに接続される。これにより、切替部SW5の出力信号が常にONとなり、切替部SW4がFに接続される。つまり、係数フェード部141が出力したトーンマップ係数がトーンマップ部133に出力される。
【0128】
ここで、グラフィックス重畳フラグがOFFとなると、係数フェード部141で、所定の時定数でのフェード処理が始まることで、係数フェード部141から出力されるトーンマップ係数は、徐々に係数Bから係数Aに近づいていく。
【0129】
比較部142は、係数フェード部141から出力されるトーンマップ係数と、係数Aとを比較し、両者が同一とみなした場合、出力信号をOFFにする。例えば、比較部142は、図11A図11Cで示した方法のように、所定の誤差あるいは、所定の判断基準を用いて二つの係数が一致するか否かを判定する。
【0130】
これにより、切替部SW5がGに接続される。よって、切替部SW5の出力信号は、グラフィックス重畳フラグと同じ値、つまり、OFFとなることで、切替部SW4がEに接続される。これにより、初期状態と同じく、係数Aがそのままトーンマップ部133に出力される。つまり、主映像ダイナミックメタデータに応じたトーンマップ係数が出力さる。
【0131】
以上の処理により、グラフィックス重畳フラグがONとなったときは、ダイナミックトーンマップが固定され、グラフィックス重畳フラグがOFFになったときには、使用されるトーンマップ係数が、変化する主映像ダイナミックメタデータに応じたトーンマップ係数にスムーズに切り替わる。
【0132】
また、グラフィックス重畳フラグにON/OFFを示す情報だけでなく、トーンマップの境界輝度の情報も含まれる場合、映像表示装置102は、係数合成部を備えてもよい。この係数合成部は、境界輝度以上の輝度においては、ダイナミックトーンマップを継続し、境界輝度未満の輝度はトーンマップを固定するように、図15の切替部SW4の出力信号と、係数演算部131からのトーンマップ係数とを合成する。
【0133】
以上のように、本実施の形態に係る映像表示システム100では、トーンマップ処理部123Bは、映像における最大輝度の時系列の変化に応じて、変換カーブを時系列に変更する第1トーンマップ処理を行うか、映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替え、使用するトーンマップ処理を、第2トーンマップ処理から第1トーンマップ処理に切り替える場合、使用する変換カーブを前記一定の変換カーブから時系列に変更する変換カーブに、複数フレームにおいて連続的又は段階的に変更する(S118)。
【0134】
これによれば、第2トーンマップ処理から第1トーンマップ処理への切り替えにおいて、使用されるトーンマップが大きく変更されることを抑制できる。
【0135】
[4.実施の形態3]
字幕表示時に、字幕重畳フラグを映像表示装置に送付し、ダイナミックトーンマップを固定する方法では以下の課題がある。字幕の表示は会話ごとであり、非常に短期間に、字幕が表示されている状況と表示されていない状況が変化する。これにより、字幕が表示されている期間のみ、トーンマップを固定する方式では、処理が困難となるという第2の課題がある。本実施の形態では、以下の何れかの方法によりこの第2の課題を解決する。
【0136】
(1)映像表示装置は、個々の字幕の表示状況によらず、字幕表示がONの場合に、ダイナミックトーンマップを固定する。
【0137】
(2)映像表示装置は、個々の字幕とは別に、所定の間隔の字幕の不表示期間又は表示期間を定義し、不表示期間ではダイナミックトーンマップを行い、表示期間ではトーンマップを固定する。
【0138】
さらに、映像表示装置は、字幕のON/OFFに従って、ダイナミックトーンマップを制御する場合において、字幕が実効的にOFFになったことで、トーンマップを固定した状態からダイナミックトーンマップに戻す場合、実施の形態1又は2と同様な方法により、違和感なく通常のダイナミックトーンマップを再開する。
【0139】
本実施の形態に係る映像表示システム100の全体構成は図7と同じであるため、ここでは詳細を省略する。映像再生装置101は、グラフィックス重畳フラグを、二つにわけ、メニュー重畳フラグ及び字幕重畳フラグを映像表示装置102に送る。または、映像再生装置101は、メニュー最大輝度情報(MAXGLL)及び字幕最大輝度情報(MAXSLL)をグラフィックス重畳フラグとして、映像表示装置102に送る。これにより、映像表示装置102は、適切なトーンマップを行うことができる。
【0140】
図17Aは、主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の構成例を示す図である。また、図17Bは、主映像ダイナミックメタデータ、及びグラフィックス輝度情報の別の構成例を示す図である。ここでは、字幕用のメタデータと、メニュー用のメタデータとが存在している例を示す。
【0141】
図17Aに示す例では、字幕重畳フラグとメニュー重畳フラグとが独立して存在する。また、グラフィックス輝度情報は、字幕の最大輝度を示す字幕最大輝度情報(MAXSLL)と、メニューの最大輝度を示すメニュー最大輝度情報(MAXGLL)とを含む。
【0142】
図17Bに示す例では、MAXSLL、及びMAXGLLの特定の値を字幕又はメニューが重畳されていない状態を示す情報として用いている。具体的には、MAXSLL及びMAXGLLは、それぞれ8ビットで構成される。MAXSLLでは、値0は字幕が存在しないことを示し、値255は字幕が存在するが輝度が不明であることを示し、その他の値は、字幕が存在し、4nitから510nitまで、4nit単位で字幕の明るさを示す。MAXGLLでは、値0はメニューが存在しないことを示し、値255はメニューが存在するが輝度が不明であることを示し、その他の値は、メニューが存在し、8nitから1020nitまで、8nit単位でメニューの明るさを示す。なお、MAXSLL及びMAXSLLの値と輝度の関係として、ここでは、MAXSLLは2nit単位、MAXGLLは4nit単位が用いられる例を示したが、システムによって、適切な単位とすることができる。
【0143】
以下、本実施の形態に係る映像表示システム100の動作を説明する。映像再生装置101は、メニューについては、メニューが表示されているときのみ、メニュー重畳フラグをONにする。一方、字幕は、主映像に同期し、たびたび表示されるため、字幕に対しても、メニューと同様に重畳されているときのみONとするという制御では、映像表示装置102でのトーンマップの切り替えが頻繁に起きる。よって、本実施の形態では、字幕については、以下の動作が用いられる。
【0144】
主映像を再生する場合にその再生制御情報(Blu−rayではPlaylist)に、字幕が定義され、かつ映像再生装置101で字幕表示可能と設定される。さらに、再生制御コマンドで字幕表示がONの場合、映像再生装置101は、主映像の再生を始めるとともに字幕重畳フラグをONとし、かつ、MAXSLLを固定とする。これは、その再生制御情報による再生が終わるまで、あるいは、映像再生装置101の設定で字幕の表示をやめた場合、あるいは、再生制御コマンドで、字幕表示をやめるまで継続される。MAXSLLが輝度不定又は定義されていない場合は、上記の字幕表示期間、及びトーンマップは固定となる。
【0145】
図18Aは、MAXSLLの設定がない場合(従来例)におけるトーンマップの例を示す図である。図18Bは、MAXSLLが設定された場合のトーンマップの例を示す図である。図18Bに示すように、MAXSLLで設定した輝度(200nit)以下の領域でトーンマップが行われず、安定した字幕を表示できる。
【0146】
一方で、上記の制御を行った場合、字幕が実質的に長い期間表示されない場合でも、ダイナミックトーンマップの効果を十分に獲ることができないという欠点がある。よって、所定の時間長さ以上字幕が表示されない期間では、映像再生装置101は、字幕重畳フラグをOFFに設定する。これにより、ダイナミックトーンマップの効果をより多く得ることができる。この字幕重畳フラグをOFFとする字幕不表示期間は、字幕作成時に定義され、字幕データとともに字幕重畳フラグあるいはMAXSLLとして記録される。
【0147】
以上のように、第1フラグ(例えば字幕重畳フラグ又はMAXSLL)は、間欠的に字幕が表示される一連の期間である字幕表示期間と、予め定められた時間以上字幕が表示されない字幕不表示期間とを示す。トーンマップ処理部は、字幕表示期間において第2トーンマップ処理(例えばトーンマップを固定)を行い、字幕不表示期間において第1トーンマップ処理(例えばダイナミックトーンマップ)を行う。これによれば、トーンマップの切り替えが頻繁に起きることを抑制できる。
【0148】
[5.実施の形態4]
本実施の形態では、映像再生装置が、Ultra HD Blu−rayの映像再生装置の場合について説明する。Blu−rayの場合、メニューにBD−J(Blu−ray Disc Java(登録商標))が用いられる場合と、HDMV(High Definition Movie Mode)が用いられる場合があり、以下では、それぞれ実施の形態について説明する。
【0149】
なお、映像表示装置102の構成は、実施の形態1又は実施の形態2と同様である。図19は、メニューにBD−Jが用いられる場合の映像再生装置101Aの構成例を示す図である。図19に示すように映像再生装置101Aは、BD−ROM駆動部152と、BD−Jエンジン153と、デマルチプレクサ154と、PGデコーダ(PG Dec)155と、映像デコーダ(Video Dec)156と、Info Frame変換部157とを備える。
【0150】
映像再生装置101Aが、ディスク151(BD−ROMメディア)から再生を始めると、BD−Jのデータとプログラムが、映像再生装置101Aが備えるメモリに読み込まれる。BD−Jエンジン153は、Javaプログラムを実行する。プログラムが、主映像の再生コマンドである場合、再生コマンドの再生制御情報(Playlist)に従って、映像ストリームがディスクより読み込まれ、デマルチプレクサ154に送られる。デマルチプレクサ154は、映像ストリームを、それぞれの素材ストリームに分け、字幕をPGデコーダ155に送り、主映像を映像デコーダ156に送る。また、ここでは図示していないが、デマルチプレクサ154は、音声を音声デコーダに送る。
【0151】
その後、主映像と字幕とが合成され、得られた映像が音声とともに、HDMIを介して映像表示装置102(例えばTV)に送られる。
【0152】
このとき、主映像のSEIメッセージから、ダイナミックメタデータが抜き取られ、Info Frame変換部157へ送られる。字幕については、字幕重畳フラグ又はMAXSLLが、別途規定されているメタデータから抽出され、Info Frame変換部157へ送られる。または、字幕重畳フラグ又はMAXSLLは、再生制御情報(Playlist)に記述され、再生が始まるときに、メモリに取り込まれ、Info Frame変換部157へ送られる。または、字幕重畳フラグ又はMAXSLLは、字幕データそのものに埋め込まれ、字幕データから抽出され、Info Frame変換部157へ入力される。
【0153】
字幕表示がOFFとなった場合、どちらの場合も、Info Frame変換部157への字幕重畳フラグ又はMAXSLLの入力が止まる。
【0154】
ここで、Javaプログラムでメニューを表示する場合、Javaプログラムにより、メニュー重畳フラグ又はMAXGLLが、Info Frame変換部157に送られる。これにより、主映像、字幕、及びメニューに関するメタデータが、Info Frameとして、映像及び音声とともに、HDMIを通して映像表示装置102へ送られる。
【0155】
図20は、メニューにHDMVが用いられる場合の映像再生装置101Bの構成例を示す図である。図20に示すように映像再生装置101Bは、映像再生装置101Aの構成に対して、BD−Jエンジン153の代わりに、IGデコーダ(IG Dec)158と、BDMVコマンド解釈部(interpreter)159とを備える。
【0156】
HDMVの場合もHDMVのコマンドで映像再生が始まると、BD−Jの場合と同様に、映像、音声及び字幕が処理され、HDMIを経由して映像表示装置102に出力される。ユーザ操作、又はHDMVのコマンドでメニューを表示する場合、IGデコーダ158及びBDMVコマンド解釈部159は、IGストリームとして記録されているIGデータをデコードし、表示するグラフィックスデータとメニューのためのコマンドを抽出する。このとき、コマンドのパラメータに、メニュー重畳フラグ又はMAXGLLを出力する指示が記載されることで、メニュー重畳フラグ又はMAXGLLが、Info Frame変換部157へ送られる。または、IGデータそのものにMAXGLLが記載され、IGデコーダ158及びBDMVコマンド解釈部159から直接、Info Frame変換部157へMAXGLLが送られる。
【0157】
メニュー重畳フラグ又はMAXGLLをInfo Frame変換部157へ送るためのJAVA(登録商標)プログラムとして、以下のようなコマンドが用いられる。(1)メニュー重畳フラグをOFFに設定する。(2)メニュー重畳フラグをONに設定する。(3)メニュー重畳フラグをレジスタの値に設定する。(4)MAXGLLを指定値に設定する。(5)MAXGLLをレジスタの値に設定する。HDMVの場合も上記と同様なコマンドを用いる。
【0158】
また、字幕の場合においても、上記と同様なコマンドを用いてもよい。つまり、字幕重畳フラグ又はMAXSLLをInfo Frame変換部157へ送るためのJAVAプログラムとして、以下のようなコマンドが用いられる。(1)字幕重畳フラグをOFFに設定する。(2)字幕重畳フラグをONに設定する。(3)字幕重畳フラグをレジスタの値に設定する。(4)MAXSLLを指定値に設定する。(5)MAXSLLをレジスタの値に設定する。
【0159】
この場合、映像再生装置は、実際に字幕が表示されていなくても強制的にコマンドで設定した値を出力してもよいし、PGストリーム中で定義した字幕重畳フラグがONの場合のみコマンドを有効とし、コマンドでは字幕重畳フラグをOFFにできないとしてもよい。
【0160】
なお、Blu−ray、Ultra HD Blu−rayの詳細は、例えば、非特許文献1に記載されている。
【0161】
以上により、グラフィックスの有無に応じて、第1トーンマップ処理(例えばダイナミックトーンマップ)と、第2トーンマップ処理(例えばトーンマップを固定)とを切り替えるためのAPI(アプリケーションプログラミングインタフェース)を実現できる。これにより、第1トーンマップ処理と、第2トーンマップ処理との切り替えを容易に実現できる。
【0162】
[6.変形例]
取得部111が取得するHDR映像は、例えばBlu−rayディスク、DVD、Internetの動画配信サイト、放送、又はHDD(Hard Disk Drive)内の映像であってもよい。
【0163】
上記映像再生装置は、ディスクプレイヤー、ディスクレコーダ、セットトップボックス、テレビ、パーソナルコンピュータ、又はスマートフォンなど、記録媒体、放送又はインターネットからの圧縮された映像信号を復号し、映像表示装置に送る装置でもよい。また、映像再生装置の機能の一部又は全てが、映像表示装置102に含まれてもよい。例えば、映像再生装置に含まれる処理部のうち、取得部111以外の処理部が映像表示装置102に含まれてもよい。また、映像表示装置102に含まれる映像受信部121、メタデータ取得部122及びトーンマップ処理部123が映像再生装置に含まれてもよい。また、トーンマップ処理部123に含まれる処理部のうちトーンマップ部133以外の処理部が映像再生装置に含まれてもよい。
【0164】
映像再生装置からの映像信号を映像表示装置に伝送する映像信号伝送手段は、HDMI、DVI、又はDPなどの映像信号を非圧縮の状態で伝送する手段であってもよいし、ネットワークを通じた伝送のように映像信号を圧縮した形式で伝送する手段であってもよい。
【0165】
映像表示装置の最大輝度情報又はトーンマップ情報の映像再生装置への設定は、利用者が映像再生装置にリモートコントローラなどを用いて入力することで行われてもよいし、利用者が映像再生装置が備える操作装置を用いて入力することで行われてもよい。または、利用者は、インターネット又はその他の手段を用いて、これらの情報を取得し、取得した情報をポータブル記憶媒体に保存し、ポータブル記憶媒体を介して、これらの情報を映像再生装置に送ってもよい。また、映像再生装置が直接、インターネットに接続され、映像再生装置は、サーバのデータベースから、これらの情報を取得してもよい。さらに、映像再生装置は、映像表示装置にテストパターンを表示し、表示されたテストパターンを用いて映像表示装置の特性を確認しながら、これらの情報を取得及び記憶してもよい。
【0166】
映像再生装置は、グラフィックス(字幕又はメニュー)の輝度をそのデータから検出することでグラフィックス輝度情報(字幕輝度情報及びメニュー輝度情報を含む)を生成してもよいし、映像データ作成時に予め作成されたグラフィックスの輝度を取得してもよい。例えば、グラフィックスの輝度は、ディスクに記録されていてもよいし、メタデータとして放送又はInternetで送付されてもよい。映像再生装置は、グラフィックスの輝度を読み取り、ダイナミックメタデータの一部として映像表示装置に送る。あるいは、Internetに接続されたサーバのデータベースに、再生するコンテンツに対する情報として、グラフィックス(字幕又はメニュー)の輝度情報が記録されており、映像再生装置は、当該データベースからグラフィックスの輝度情報を取得し、取得した輝度情報を映像表示装置に送ってもよい。
【0167】
以上、本開示の実施の形態に係る映像表示システムについて説明したが、本開示は、この実施の形態に限定されるものではない。
【0168】
また、上記実施の形態に係る映像表示システムに含まれる各処理部は典型的には集積回路であるLSIとして実現される。これらは個別に1チップ化されてもよいし、一部又は全てを含むように1チップ化されてもよい。
【0169】
また、集積回路化はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後にプログラムすることが可能なFPGA(Field Programmable Gate Array)、又はLSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【0170】
また、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
【0171】
また、本開示は、映像表示システムにより実行される各種方法として実現されてもよい。
【0172】
また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
【0173】
また、フローチャートにおける各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時(並列)に実行されてもよい。
【0174】
以上、一つまたは複数の態様に係る映像表示システムについて、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
【産業上の利用可能性】
【0175】
本開示は、映像表示システム、映像再生装置又は映像表示装置に適用できる。
【符号の説明】
【0176】
100 映像表示システム
101、101A、101B 映像再生装置
102 映像表示装置
111 取得部
112 デマルチプレクサ
113 主映像デコード部
114 字幕デコード部
115 メニューデコード部
116、122 メタデータ取得部
117 グラフィックス合成部
118 主映像合成部
119 映像送出部
121 映像受信部
123、123A、123B トーンマップ処理部
124 表示部
131 係数演算部
132 係数保持部
133 トーンマップ部
134 係数合成部
135、142 比較部
136 係数変更部
141 係数フェード部
151 ディスク
152 BD−ROM駆動部
153 BD−Jエンジン
154 デマルチプレクサ
155 PGデコーダ
156 映像デコーダ
157 Info Frame変換部
158 IGデコーダ
159 BDMVコマンド解釈部
図1
図2
図3A
図3B
図4A
図4B
図5
図6
図7
図8A
図8B
図9
図10
図11A
図11B
図11C
図12
図13
図14
図15
図16
図17A
図17B
図18A
図18B
図19
図20

【手続補正書】
【提出日】2018年10月15日
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、映像を表示する映像表示システム及び映像表示方法に関する。
【背景技術】
【0002】
特許文献1には、HDR(High Dynamic Range)映像において、画像上にグラフィックスをマップするための方法及びシステムについて記載されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第6104411号公報
【非特許文献】
【0004】
【非特許文献1】White Paper Blu-ray Disc Read-Only Format (Ultra HD Blu-ray), Audio Visual Application Format Specifications for BD-ROM Version 3.1, August 2016, http://www.blu-raydisc.com/Assets/Downloadablefile/BD-ROM_Part3_V3.1_WhitePaper_160729_clean.pdf
【発明の概要】
【発明が解決しようとする課題】
【0005】
本開示は、表示する映像の質を向上できる映像表示システム又は映像表示方法を提供する。
【課題を解決するための手段】
【0006】
本開示の一態様に係る映像表示システムは、映像の最大輝度に応じた変換カーブを用いて前記映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部と、前記トーンマップ処理後の映像を表示する表示部とを備え、前記トーンマップ処理部は、前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更する第1トーンマップ処理を行うか、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替え、使用するトーンマップ処理を、前記第2トーンマップ処理から前記第1トーンマップ処理に切り替える場合、使用する変換カーブを前記一定の変換カーブから時系列に変更する変換カーブに、複数フレームにおいて連続的又は段階的に変更する。
【発明の効果】
【0007】
本開示は、表示する映像の質を向上できる映像表示システム又は映像表示方法を提供できる。
【図面の簡単な説明】
【0008】
図1図1は、映像技術の進化について説明するための図である。
図2図2は、コンテンツに新たな映像表現を導入するときの、映像制作、配信方式、及び表示装置の関係について説明するための図である。
図3A図3Aは、トーンマップの一例を示す図である。
図3B図3Bは、トーンマップの一例を示す図である。
図4A図4Aは、スタティックトーンマップの一例を示す図である。
図4B図4Bは、ダイナミックトーンマップの一例を示す図である。
図5図5は、動画にグラフィックスを重畳して表示する例を示す図である。
図6図6は、主映像にグラフィックスが重畳されたときのダイナミックトーンマップの影響を示す図である。
図7図7は、実施の形態1に係る映像表示システムのブロック図である。
図8A図8Aは、実施の形態1に係る主映像ダイナミックメタデータ及びグラフィックス重畳フラグの一例を示す図である。
図8B図8Bは、実施の形態1に係る主映像ダイナミックメタデータ及びグラフィックス重畳フラグの一例を示す図である。
図9図9は、実施の形態1に係るトーンマップ処理部のブロック図である。
図10図10は、実施の形態1に係るトーンマップ処理部の変形例のブロック図である。
図11A図11Aは、実施の形態1に係る比較部における判定処理を説明するための図である。
図11B図11Bは、実施の形態1に係る比較部における判定処理を説明するための図である。
図11C図11Cは、実施の形態1に係る比較部における判定処理を説明するための図である。
図12図12は、実施の形態1に係る映像再生装置の処理を示すフローチャートである。
図13図13は、実施の形態1に係る映像表示装置の処理を示すフローチャートである。
図14図14は、実施の形態2に係るトーンマップ処理部のブロック図である。
図15図15は、実施の形態2に係る映像表示装置の処理を示すフローチャートである。
図16図16は、実施の形態2に係る係数変更部のブロック図である。
図17A図17Aは、実施の形態3に係る主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の一例を示す図である。
図17B図17Bは、実施の形態3に係る主映像ダイナミックメタデータ及びグラフィックス輝度情報の一例を示す図である。
図18A図18Aは、従来のトーンマップによる輝度の変化を示す図である。
図18B図18Bは、実施の形態に係るトーンマップによる輝度の変化を示す図である。
図19図19は、実施の形態4に係る映像表示システムのブロック図である。
図20図20は、実施の形態4に係る映像表示システムのブロック図である。
【発明を実施するための形態】
【0009】
[1−1.背景]
まず、映像技術の変遷について、図1を用いて説明する。図1は、映像技術の進化について説明するための図である。
【0010】
これまで、映像の高画質化としては、表示画素数の拡大に主眼がおかれ、Standard Definition(SD)の720×480画素から、High Definition(HD)の1920×1080画素の映像が普及している。
【0011】
近年、更なる高画質化を目指して、Ultra High Definition(UHD)の3840×1920画素、あるいは、4Kの4096×2048画素の、所謂4K映像の導入が開始された。
【0012】
4Kの導入と共に、ダイナミックレンジ拡張、色域拡大、又は、フレームレートの追加或いは向上なども検討されている。
【0013】
その中でも、ダイナミックレンジについては、暗部階調を維持しつつ、現行のテレビ信号で表現不能な鏡面反射光などの明るい光を、より現実に近い明るさで表現するための方式として、HDR(High Dynamic Range)が注目されている。具体的には、これまでのテレビ信号は、SDR(Standard Dynamic Range)と呼ばれ、最高輝度が100nitであった。これに対して、HDRでは1000nit以上まで最高輝度を拡大することが想定されている。HDRは、SMPTE(Society of Motion Picture & Television Engineers)、及びITU−R(International Telecommunications Union Radiocommunications Sector)などにおいて、マスタリングディスプレー用規格の標準化が進行中である。
【0014】
HDRの具体的な適用先としては、HD及びUHDと同様に、放送、パッケージメディア(Blu−ray(登録商標) Disc等)、及びインターネット配信などが想定されている。
【0015】
[1−2.マスター生成、配信方式、及び表示装置の関係]
図2は、コンテンツに新たな映像表現を導入するときの、映像制作、配信方式、及び表示装置の関係について説明するための図である。
【0016】
映像の高画質化のために新たな映像表現(画素数の増加等)を導入する場合には、図2に示すように、(1)映像制作側のHome Entertainment向けマスターを変更する必要がある。それに応じて、(2)放送、通信、及びパッケージメディア等の配信方式も、(3)その映像を表示するテレビ、又はプロジェクター等の表示装置も更新する必要がある。
【0017】
[1−3.トーンマップ]
トーンマップ(Tone Mapping)は、HDR映像の輝度と映像表示装置の最大輝度(Display Peak Luminance:DPL)との関係から、映像の最大輝度(Maximum Content Luminance Level:MaxCLL)がDPLを超える場合に、映像の輝度を変換し、映像の輝度をDPL以内に収める処理である。この処理により、映像の最大輝度付近の情報を失うことなく映像を表示できる。この変換は、映像表示装置の特性にも依存し、どのように表示するかの考え方にも依存するので、映像表示装置毎に異なった変換カーブが用いられる。
【0018】
図3A及び図3Bは、トーンマップの一例を示す図である。図3Aは、DPLが500nitの場合を示し、図3Bは、DPLが1000nitの場合を示す。また、図3A及び図3Bは、MaxCLLが1000nitの映像を表示した場合のトーンマップと、MaxCLLが4000nitの映像を表示した場合のトーンマップとの例である。
【0019】
図3Aに示すように、DPLが500nitの場合、どちらの映像も500nit以下でMaxCLLまでを表示できるように、輝度が変換されるが、MaxCLLが高い映像のほうが変換の度合いは大きくなる。
【0020】
図3Bに示すように、DPLが1000nitの場合、MaxCLLが1000nitの映像では、トーンマップが行われない。MaxCLLが4000nitの映像では、トーンマップが行われ、4000nitの輝度が1000nitに変換されて表示される。
【0021】
[1−4.ダイナミックメタデータとダイナミックトーンマップ]
図4Aは、スタティックメタデータを用いたトーンマップの例を示す図である。図4Bは、ダイナミックメタデータを用いたダイナミックトーンマップの例を示す図である。
【0022】
図4Aに示すように、スタティックメタデータ(MaxCLL)が用いられる場合、MaxCLLは一連の映像内で最も高い輝度を示すため、映像表示装置は、一連の映像に対して、固定的なトーンマップしか行えない。これに対して、映像表示装置は、図4Bの(a)に示すように、時間変化する輝度に合わせたメタデータ(ここではDynamic MaxCLLと称す)を用いることで、輝度が低い場合は、トーンマップを行わず(図4Bの(b))、輝度が高い場合はトーンマップを行う(図4Bの(c))というように、時間変化する輝度に合わせた最適なトーンマップを実現できる。
【0023】
[1−5.映像とグラフィックスとの合成]
図5は、動画にメニュー及び字幕などのグラフィックスを重畳して、映像表示装置で表示する例を示す図である。ここでは、Ultra HD Blu−rayの例を示す。
【0024】
グラフィックスを重畳する前の動画を主映像と表現する。Ultra HD Blu−rayではグラフィックスは、HD解像度で準備される。映像再生装置は、HDのグラフィックスに対してHD−UHD変換を行うことでUHDのグラフィックスを生成する。そして、映像再生装置は、得られたUHDのグラフィックスと、UHD解像度の主映像とを合成する。そして、映像再生装置は、合成後の映像を、HDMI(登録商標)(High−Definition Multimedia Interface)を通じて映像表示装置に送る。映像表示装置は、送られてきた映像をHDRとして表示する。
【0025】
また、映像再生装置は、ダイナミックメタデータを、主映像の輝度の時間変化に基づいて決定し、HDMIを通じて、映像表示装置に送る。映像表示装置は、送られてきたダイナミックメタデータに基づき、主映像に字幕及びメニューが重畳された映像信号に対して、ダイナミックトーンマップを施す。
【0026】
この状況は、放送又は通信によるOTT(Over The Top)サービスでのHDR映像を表示する場合でも、主映像にメニュー又は字幕が重畳され、得られた映像が映像表示装置で表示される場合は同様である。
【0027】
[1−6.動画にグラフィックスを重畳した映像データにダイナミックトーンマップを行う場合の課題]
ダイナミックメタデータ方式では、HDR映像の輝度分布などの輝度に関わるメタデータがフレーム毎に指定され、映像信号とともに、そのようなメタデータが、映像表示装置に送られる。映像表示装置は、当該映像表示装置の最大輝度などの表示能力に応じて、送られてきたメタデータを参考にして、輝度を変換するなどの処理を行う。このようなダイナミックメタデータ方式は、映像表示装置の輝度などの表示性能によらずできるだけ一定の品質の映像を表示する方式として、注目されている。
【0028】
しかしながら、ダイナミックメタデータは、時間的に変化するために、本来一定であるべき映像の表示が、安定しないという問題がある。
【0029】
表示すべき映像が、同時に編集、又は監修された映像、いわゆる動画だけであるならば、ある程度、映像の状況を考慮した処理が可能である。このような動画を主映像とし、同時に、本来一定であり、まったく変動しない、字幕又はメニューなどのグラフィックスデータが主映像に重畳されて表示されると、ダイナミックメタデータを使用した処理により、一定であるべきグラフィックスの輝度又は色が変化するという悪影響が出てくる。この悪影響は、主映像の輝度が高く、映像表示装置の輝度が低いほど顕著となる。
【0030】
図6は、主映像にグラフィックスが重畳されたときのダイナミックトーンマップの影響を示す図である。ここで、図6の(a)に示すように、重畳されるグラフィックスの輝度を350nit仮定する。図6の(b)に示すように主映像の輝度が低い区間では、トーンマップが行われず、グラフィックスは本来の輝度である350nitで映像表示装置に表示される。一方、図6の(c)に示すように、主映像の輝度が高い区間では、トーンマップが行われ、グラフィックスの輝度は、350nitより低い輝度で映像表示装置に表示される。このように、本来一定であるべきグラフィックスの輝度が時間的に変動することになり、好ましくない状態となる。ここでは輝度だけの影響としたが、実際の映像表示装置では、色成分も影響を受けるために色も影響を受けることもある。
【0031】
[1−7.解決方法]
上記課題を避ける手段として、重畳するグラフィックスの位置情報を映像表示装置に送り、グラフィックスが表示されている部分のみ、ダイナミックメタデータを適用しない方法が考えられる。しかし、この方法は、表示画面の全領域において、グラフィックスが表示されているかどうかの情報の伝送が必要であり、映像表示装置での処理も、表示ピクセル単位での判断が必要など、実現はかなり困難である。
【0032】
上記問題に対して本開示では、映像再生装置は、ダイナミックメタデータの情報として、主映像にグラフィックスが重畳されているかいないかを示す「グラフィックス重畳フラグ」を映像表示装置に送る。グラフィックスとしては、メニュー及び字幕があるため、映像再生装置は、「グラフィックス重畳フラグ」として、「メニュー重畳フラグ」及び「字幕重畳フラグ」を映像表示装置に送ってもよい。
【0033】
映像表示装置は、メニュー重畳フラグの状態により、ダイナミックトーンマップのOn/Off又はその強さを変化させる。これにより、重畳されたグラフィックスへのダイナミックトーンマップの影響を低減できる。また、複数のHDR方式が、一つのストリーム又はディスク内で混在することが許されるので、映像表示装置に適した方式を使用することができる。
【0034】
ここで、メニュー表示時に、ダイナミックトーンマップをやめて、トーンマップを固定する場合は、トーンマップは連続であり違和感はない。しかしながら、メニュー消去時に、トーンマップを固定した状態からダイナミックトーンマップに戻す場合には、その時点での最適なトーンマップは、メニュー表示時のトーンマップとは異なっている。これにより、トーンマップが不連続となってしまうという第1の課題がある。
【0035】
また、字幕表示時に、字幕重畳フラグを映像表示装置に送付し、トーンマップを固定する方法では以下の課題がある。字幕の表示は会話ごとであり、非常に短期間に、字幕が表示されている状況と表示されていない状況が変化する。これにより、字幕が表示されている期間のみ、トーンマップを固定する方式では、処理が困難となるという第2の課題がある。また、字幕表示がOFFになる場合に、メニュー表示をOFFとする場合と同様に、トーンマップが不連続になるという課題がある。
【0036】
本開示では以下の解決方法を用いる。第1の方法では、映像表示装置は、メニュー消去時に、トーンマップを固定した状態からダイナミックトーンマップに戻す場合、以下の何れかの方法を用いてトーンマップの連続性を実現する。
【0037】
(1)映像表示装置は、固定中のトーンマップと表示する映像のトーンマップとがほぼ同様なトーンマップとなるまで、トーンマップ固定し、違和感がないところからダイナミックトーンマップを再開する。
【0038】
(2)映像表示装置は、トーンマップをカテゴリにわけ、固定中のトーンマップと表示する映像のトーンマップとが同一又は近傍のカテゴリの場合に、ダイナミックトーンマップを再開する。カテゴリは、映像の輝度、輝度分布、又は分散などで決定される。あるいは、製作者が、映像に違和感がない範囲でカテゴリを決定する。
【0039】
(3)映像表示装置は、メニュー消去時から所定の時定数に基づき、そのときの規定のダイナミックトーンマップになるようにトーンマップを変化させ、通常のダイナミックトーンマップに戻す。
【0040】
第2の方法では、映像表示装置は、上記第2の課題を解決するために、以下の何れかの方法を用いる。
【0041】
(1)映像表示装置は、個々の字幕の表示状況によらず、字幕表示がONの場合に、トーンマップを固定する。
【0042】
(2)個々の字幕とは別に、所定の間隔の字幕の不表示期間又は表示期間が定義され、映像表示装置は、不表示期間ではダイナミックトーンマップを行い、表示期間ではトーンマップを固定する。
【0043】
さらに、映像表示装置は、字幕のON/OFFに従って、ダイナミックトーンマップを制御する場合において、字幕が実効的にOFFになったことで、トーンマップを固定した状態からダイナミックトーンマップに戻す場合、第1の方法と同様な方法により、違和感なく通常のダイナミックトーンマップを再開する。
【0044】
第3の方法では、映像再生装置は、メニュー又は字幕の実効的な表示のON/OFFを映像表示装置に伝えるより具体的な方法として、メニューと字幕の実効的な最大輝度を示すMAXGLL(Maximum Graphics Luminance Level)又はMAXSLL(Maximum Subtitle Luminance Level)情報を映像表示装置に送付する。
【0045】
このMAXGLL及びMAXSLLは、主映像データ、並びに、主映像データとともに表示されるメニュー及び字幕などのグラフィックスデータの制作時に決定され、映像再生装置は、主映像データとともにMAXGLL及びMAXSLLを取得し、主映像データ、MAXGLL及びMAXSLLを映像表示装置へ送付してもよい。または、映像再生装置は、メニュー又は字幕を主映像に重畳する際に、その輝度を取得することでMAXGLL又はMAXSLLを生成し、生成したMAXGLL又はMAXSLLを映像表示装置に送ってもよい。
【0046】
特に、第2の方法の場合は、映像再生装置又は映像表示装置が、字幕データとは別に、実効的な字幕表示期間を定める必要がある。よって、実効的な字幕表示期間を示すタイミング情報が、字幕の輝度情報とともに、メタデータとして、グラフィックスデータ制作時に作成され、映像再生装置は、メタデータを参照してMAXSLL及びタイミング情報を映像表示装置に送付する。
【0047】
上記の第1の方法により、主映像にダイナミックトーンマップを行うとともに、メニュー又は字幕などのグラフィックスが重畳されている場合には、ダイナミックトーンマップを全て固定したり、グラフィックスの輝度以下でトーンマップを固定したりする映像表示装置において、グラフィックスの重畳をやめて、通常のダイナミックトーンマップに移行した際の違和感を低減できる。
【0048】
また、字幕のON/OFFに従い、ダイナミックトーンマップの処理を変える場合には、字幕のOFFの間隔が短いときのように、ダイナミックトーンマップの変更が難しい場合がある。上記の第2の方法により、実効的なON期間を設定することで、このような場合にもスムーズにダイナミックトーンマップを切り替えることができる。
【0049】
また、上記の第3の方法により、メニュー又は字幕のグラフィックス情報のON/OFF又は輝度情報を正確に映像表示装置に伝えることで、ダイナミックトーンマップの処理を適切に行うことができ、品位が高いHDR映像の再生を実現できる。さらに、データ制作時にタイミング情報及び輝度情報を作成することで、制作者の意図をより正確に反映したダイナミックトーンマップ処理を実現できる。
【0050】
[2.実施の形態1]
本実施の形態では、映像表示装置は、メニュー表示時に、ダイナミックトーンマップを行わずトーンマップを固定する。また、映像表示装置は、メニュー消去時においてトーンマップを固定した状態からダイナミックトーンマップに戻す場合、以下の何れかの方法を用いてトーンマップの連続性を実現する。
【0051】
(1)映像表示装置は、固定中のトーンマップと表示する映像のトーンマップとがほぼ同様なトーンマップとなるところまで、トーンマップ固定し、違和感がないところからダイナミックトーンマップを再開する。
【0052】
(2)映像表示装置は、トーンマップをカテゴリにわけ、固定中のトーンマップと表示する映像のトーンマップとが同一又は近傍のカテゴリの場合に、ダイナミックトーンマップを再開する。カテゴリは、映像の輝度、輝度分布、又は分散などで決定される。あるいは、製作者が、映像に違和感がない範囲でカテゴリを決定する。
【0053】
[2−1.映像表示システムの構成]
図7は、本実施の形態に係る映像表示システム100の構成を示すブロック図である。図7に示す映像表示システム100は、映像再生装置101と、映像表示装置102とを含む。
【0054】
映像再生装置101は、映像を再生し、得られた映像を映像表示装置102に出力する。この映像再生装置101は、取得部111と、デマルチプレクサ112と、主映像デコード部113と、字幕デコード部114と、メニューデコード部115と、メタデータ取得部116と、グラフィックス合成部117と、主映像合成部118と、映像送出部119とを含む。
【0055】
取得部111は、映像信号を取得する。例えば、映像再生装置101がディスク再生装置である場合には、取得部111は、ディスクを再生することで映像信号を取得する。また、映像再生装置101が放送受信装置である場合は、取得部111は、放送波を受信することで映像信号を取得する。また、映像再生装置101がインターネット放送受信装置である場合は、取得部111は、インターネット放送を受信することで映像信号を取得する。
【0056】
デマルチプレクサ112は、映像信号に含まれる符号化された主映像信号、字幕信号及びメニュー信号をそれぞれ、主映像デコード部113、字幕デコード部114及びメニューデコード部115に出力する。
【0057】
主映像デコード部113は、デマルチプレクサ112から出力された符号化された主映像信号を復号する。
【0058】
字幕デコード部114は、デマルチプレクサ112から出力された符号化された字幕信号を復号する。また、字幕デコード部114は、ユーザの操作等に基づき、字幕を表示するか否か、及び表示する字幕の種別を選択し、字幕を表示する場合には、選択した字幕をグラフィックス合成部117に出力する。
【0059】
メニューデコード部115は、デマルチプレクサ112から出力された符号化されたメニュー信号を復号する。また、メニューデコード部115は、ユーザの操作等に基づき、メニューを表示するか否か、及び表示するメニューの種別を選択し、メニューを表示する場合には、選択したメニューをグラフィックス合成部117に出力する。なお、メニューデコード部115は、映像信号からの情報だけでなく、映像再生装置101で動作するプログラムによりメニューを合成及び表示してもよい。
【0060】
メタデータ取得部116は、主映像ダイナミックメタデータを取得する。例えば、メタデータ取得部116は、主映像信号に含まれる情報に基づき主映像ダイナミックデータを生成する。
【0061】
グラフィックス合成部117は、字幕とメニューとを構成することでグラフィックス情報を生成する。なお、上述したようにグラフィックス合成部117は、字幕及びメニューの解像度を変換してもよい。例えば、Ultra HD Blu−rayの場合には、グラフィックス合成部117は、HDの字幕及びメニューをUHDの字幕及びメニューに変換する。
【0062】
また、グラフィックス合成部117は、グラフィックス情報を生成し、生成したグラフィックス情報を主映像に重畳する場合、グラフィックス重畳フラグをONとして、映像送出部119に送る。また、グラフィックス合成部117は、グラフィックス情報を主映像に重畳しない場合、グラフィックス重畳フラグをOFFとして、映像送出部119に送る。なお、グラフィックス重畳フラグは、映像再生装置101内のプログラムにより生成されてもよいし、他の手段によって生成されてもよい。
【0063】
主映像合成部118は、主映像デコード部113で得られた主映像と、グラフィックス合成部117で生成されたグラフィックス情報とを合成することで映像信号を生成する。
【0064】
映像送出部119は、主映像合成部118で生成された映像信号と、ダイナミックメタデータとを、HDMIケーブル等の映像信号伝送手段を介して映像表示装置102に伝送する。ダイナミックメタデータは、メタデータ取得部116で取得された主映像ダイナミックメタデータと、グラフィックス合成部117で生成されたグラフィックス重畳フラグとを含む。
【0065】
図8Aは、映像再生装置101から映像表示装置102に送られる主映像ダイナミックメタデータ及びグラフィックス重畳フラグの構成例を示す図である。図8Aに示すように、主映像ダイナミックメタデータは、主映像の最大輝度及び平均輝度を示す。例えば、主映像ダイナミックメタデータは、1フレーム単位又は複数フレーム単位の最大輝度及び平均輝度を示す。
【0066】
図8Bは、主映像ダイナミックメタデータ及びグラフィックス重畳フラグの別の構成例を示す図である。図8Bに示すようにグラフィックス重畳フラグは、字幕を主映像に重畳しているかどうかを示す字幕重畳フラグと、メニューを主映像に重畳しているかどうかを示すメニュー重畳フラグとを含んでもよい。
【0067】
次に、映像表示装置102の構成について説明する。映像表示装置102は、映像受信部121と、メタデータ取得部122と、トーンマップ処理部123と、表示部124とを備える。
【0068】
映像受信部121は、映像再生装置101から送られてくる映像信号とダイナミックメタデータを受け取る。映像受信部121は、映像信号とダイナミックメタデータとを分離し、映像信号をトーンマップ処理部123へ送り、ダイナミックメタデータをメタデータ取得部122に送る。メタデータ取得部122は、ダイナミックメタデータに含まれる主映像ダイナミックメタデータ及びグラフィックス重畳フラグを制御信号として、トーンマップ処理部123へ送る。
【0069】
トーンマップ処理部123は、主映像ダイナミックメタデータに従い、映像信号のトーンマップ処理を行う。具体的には、トーンマップ処理部123は、グラフィックス重畳フラグがOFFの場合には、主映像ダイナミックメタデータに従い、映像信号のトーンマップ処理(ダイナミックトーンマップ処理)を行う。一方、トーンマップ処理部123は、グラフィックス重畳フラグがONの場合は、重畳されているグラフィックスへのダイナミックトーンマップの影響を低減したトーンマップ処理を行う。表示部124は、トーンマップ処理後の映像信号を表示する。
【0070】
[2−2.トーンマップ処理部]
トーンマップ処理部123の詳細について説明する。図9は、トーンマップ処理部123の構成を示すブロック図である。トーンマップ処理部123は、係数演算部131と、係数保持部132と、トーンマップ部133と、比較部135と、切替部SW1、SW2及びSW3とを備える。
【0071】
映像受信部121からの映像信号は、トーンマップ部133へ送られる。メタデータ取得部122からの主映像ダイナミックメタデータは、係数演算部131に送られる。
【0072】
係数演算部131は、トーンマップ部133におけるトーンマップ処理で用いられるトーンマップ係数を、映像表示装置102の輝度などの映像表示能力に従って算出する。係数保持部132は、係数演算部131が算出したトーンマップ係数を保持する。ここで、トーンマップ係数とは、トーンマップ処理に用いられる変換カーブを示す関数に含まれる係数である。つまり、トーンマップ係数により変換カーブが決定される。
【0073】
切替部SW1は、係数演算部131で算出されたトーンマップ係数(A)と、係数保持部132に保持されているトーンマップ係数(B)との一方を選択し、選択したトーンマップ係数をトーンマップ部133に送る。切替部SW2は、係数演算部131で算出されたトーンマップ係数(A)と、係数保持部132に保持されるトーンマップ係数(B)との一方を選択し、選択したトーンマップ係数を係数保持部132に入力する。つまり、切替部SW2は、係数保持部132に保持されるトーンマップ係数を、係数演算部131で新たに算出されたトーンマップ係数に更新するか(A)、現在保持しているトーンマップ係数を引き続き保持するか(B)を切り替える。
【0074】
切替部SW1及びSW2は、連動しており、切替部SW3の出力信号に応じて切り替わる。切替部SW3の出力信号がOFFである場合、切替部SW1及びSW2は共に(A)に接続される。切替部SW3の出力信号がONである場合、切替部SW1及びSW2は共に(B)に接続される。切替部SW3は、比較部135の出力信号に応じて、グラフィックス重畳フラグを出力する(C)か、常にONを出力する(D)かを切り替える。
【0075】
比較部135は、係数演算部131が主映像ダイナミックメタデータから演算した主映像に応じてダイナミックに変化するトーンマップ係数と、係数保持部132が保持しているグラフィックス重畳フラグがONとなったときのトーンマップ係数とを比較し、比較結果に基づき切替部SW3を制御する。
【0076】
初期状態では、グラフィックス重畳フラグがOFFであり、比較部135に入力される二つのトーンマップ係数は同じであるので、比較部135の出力信号はONであり、切替部SW3は(C)に接続される。
【0077】
グラフィックス重畳フラグがONになると、係数保持部132は、グラフィックス重畳フラグがONに変化したときのトーンマップ係数を保持する。これにより、比較部135に入力される二つのトーンマップ係数が異なり、比較部135の出力信号はOFFとなり、切替部SW3は(D)に接続される。
【0078】
係数演算部131から出力されるトーンマップ係数が、係数保持部132で保持されているトーンマップ係数と同等となると、比較部135の出力信号がONになる。これにより、切替部SW3が(C)に接続され、切替部SW1及びSW2は、グラフィックス重畳フラグの状態により制御される。つまり、グラフィックス重畳フラグがOFFの場合に、切替部SW1及びSW2は(A)に接続され、係数演算部131でダイナミックに演算されるトーンマップ係数が、トーンマップ部133に送られる。これにより、通常のダイナミックトーンマップが実行される。
【0079】
また、グラフィックス重畳フラグが、字幕重畳フラグとメニュー重畳フラグとを含む場合、その組み合わせにより、トーンマップ部133へ入力されるトーンマップ係数の処理を変えることができる。一例として、字幕重畳フラグがONの場合は、トーンマップ係数を固定とする(切替部SW1及びSW2はBに接続される)が、メニュー重畳フラグだけがONの場合は、通常のトーンマップ係数が用いられる(切替部SW1及びSW2はAに接続される)などである。
【0080】
また、本構成は、一例であり、トーンマップ処理部123は、グラフィックス重畳フラグがONの場合、トーンマップ係数を特定の輝度以下で固定してもよいし、トーンマップ処理を行わないとしてもよい。
【0081】
図10は、トーンマップ係数を特定の輝度以下で固定する場合のトーンマップ処理部123Aの構成を示す図である。トーンマップ処理部123Aは、切替部SW1の代わりに係数合成部134を備える。
【0082】
係数合成部134は、切替部SW3の出力信号がONの場合、つまり、切替部SW3が(D)に接続されているか、グラフィックス重畳フラグがONの場合、予め定められた輝度である境界輝度以上の輝度に対してはダイナミックトーンマップ処理を行うが、境界輝度未満の輝度に対しては(1)トーンマップを固定する、(2)トーンマップ処理を行わない、(3)トーンマップの変動を抑える、又は(4)トーンマップの影響が人に感知できない程度とするなどの処理を行う。ここで、境界輝度とは、例えば、グラフィックスに用いられている輝度の最大値より高い輝度である。これにより、グラフィックスに用いられる輝度範囲においてトーンマップが変動することが抑制される。また、上記処理において、境界輝度以上の変換カーブと、境界輝度未満の変換カーブとの連続性を維持するために、係数合成部134は、これらの境界領域において変換カーブが滑らかに変化するように変換カーブを補正してもよい。
【0083】
なお、ここでは、映像、字幕、及びメニューのみについての構成を説明したが、映像再生装置101、及び映像表示装置102では、音声信号なども処理、伝送、及び出力する。これらは、本開示には、かかわりがないために、以降の説明を含め省略している。
【0084】
また、グラフィックス重畳フラグが、字幕重畳フラグとメニュー重畳フラグとを含む場合、図10に示す係数合成部134は、字幕重畳フラグとメニュー重畳フラグの状態により、異なる合成の方法を用いる。例えば、係数合成部134は、字幕重畳フラグがONの場合と、メニュー合成フラグのみがONの場合とで、上記境界輝度を異なる値に設定する。
【0085】
係数合成部134は、表示部124の最高輝度、及びその他の映像に関わる特性を考慮して境界輝度を設定する。ここで、一般的にメニューの輝度レベルは字幕の輝度レベルより高い。よって、係数合成部134は、メニュー重畳フラグがONの場合には、字幕重畳フラグのみがONの場合に比べて、境界輝度を高く設定する。
【0086】
なお、メニューは、使用者の意思によって重畳するかどうかが決められるものであり、メニューへのダイナミックトーンマップの影響よりも、主映像のトーンマップを重視するという考え方もできる。よって、係数合成部134は、メニュー重畳フラグのみがONの場合には、字幕重畳フラグがONの場合に比べて、境界輝度を低く設定してもよい。
【0087】
比較部135は、二つのトーンマップ係数を比較する方法として以下のいずれかの方法を用いる。例えば、比較部135は、二つのトーンマップ係数が完全に一致しているかどうか、又は予め定められた誤差範囲内であるかを判定する。これは、トーンマップ係数の値の範囲が狭い場合に有効である。図11Aは、トーンマップ係数を構成する値が、所定の誤差範囲であれば、一致とみなす場合の判定方法を示す図である。なお、図11Aにおいては、nはトーンマップ係数を構成する値の数であり、T0iは主映像ダイナミックメタデータに基づくトーンマップ係数であり、T1iは係数保持部132で保持しているトーンマップ係数であり、Diはそれぞれの値ごとの所定の誤差である。また、output “YES”, output “NO”は、比較部135の出力信号を“YES”または”NO“とする手続きを示す。
【0088】
別の方法では、比較部135は、トーンマップ係数を構成する個々の値をそのまま比較するのでなく、輝度情報であれば、いくつかのグループに分け、評価し、誤差を認めて比較する。例えば、比較部135は、トーンマップ係数を、最高輝度、中間輝度、低輝度などにわけ、それぞれのについて評価関数を設け評価し、その結果を比較する。
【0089】
あるいは、比較部135は、誤差を比較するのではなく、これらのグループ化した値を用いた座標空間において、所定の値で領域をわけ、同一領域であれば一致と判定し、異なる領域であれば不一致と判定する。図11Bは、この場合の判定例を示す図である。
【0090】
あるいは、比較部135は、同一及び近接領域であれば一致と判定し、その他の場合は不一致と判定する。図11Cは、この場合の判定例を示す図である。
【0091】
なお、図11B及び図11Cでは、座標空間を二次元で表現したが、それ以上の次元が用いられてもよい。
【0092】
[2−3.映像表示システムの動作]
映像表示システムの動作の流れを説明する。図12は、映像再生装置101の動作を示すフローチャートである。映像再生装置101は、映像の再生を開始した後、グラフィックス(字幕、及びメニュー)の処理状態によりグラフィックスが主映像に重畳されているかどうかを判定する(S101)。グラフィックスが主映像に重畳されている場合(S101でYes)、映像再生装置101は、グラフィックス重畳フラグをONに設定する(S102)。一方、グラフィックスが主映像に重畳されていない場合(S101でNo)、映像再生装置101は、グラフィックス重畳フラグをOFFに設定する(S103)。そして、映像再生装置101は、映像再生が完了するか、あるいは、再生停止操作があるまで、ステップS101〜S103の処理を繰り返し行う(S104)。例えば、この処理は、1フレーム単位又は複数フレーム単位で繰り返し行われる。
【0093】
図13は、映像表示装置102の動作を示すフローチャートである。映像表示が開始されると、まず、初期状態として、トーンマップを更新するダイナミックトーンマップが選択される(S111)。具体的には、切替部SW3はCに接続され、切替部SW1及びSW2はそれぞれAに接続される。
【0094】
この状態では、グラフィックス重畳フラグの状態に基づき、切替部SW3の出力信号が定まる。つまり、グラフィックス重畳フラグがOFFの状態では(S112でNo、かつS113でNo)、このダイナミックトーンマップが続く(S115)。また、このとき、係数保持部132では、変化するトーンマップ係数が保持される。
【0095】
一方、グラフィックス重畳フラグがONになると(S112でYes)、映像表示装置102は、トーンマップを固定する(S116)。具体的には、切替部SW3の出力信号がONになる。これにより、切替部SW1及びSW2がBに接続され、係数保持部132には、自身の出力信号が入力される。よって、切替部SW2がAからBとなる直前のトーンマップ係数が係数保持部132に保持される。また、切替部SW1がBに接続されることから、トーンマップ部133へ入力されるトーンマップ係数が固定される。これにより、トーンマップの時間変動がなくなる。このとき、比較部135に入力される二つのトーンマップ係数は、通常異なるため、切替部SW3はDに接続され、切替部SW3の出力信号は常にONとなる。
【0096】
一度、トーンマップが固定される状態になると、グラフィックス重畳フラグがOFFとなっても(S112でNo、かつS113でYes)、ステップS114の条件が満たされない限りこの状態は変わらない(S116)。つまり、グラフィックス重畳フラグがOFFになり(S112でNo、かつS113でYes)、かつ、主映像ダイナミックメタデータに基づくトーンマップ係数が、係数保持部132で保持されているトーンマップ係数、つまり、グラフィックス重畳フラグが最初にONになったときのトーンマップ係数と所定の条件で一致したとき(S114でYes)、トーンマップを固定する状態が解除され、ダイナミックトーンマップに移行する(S115)。
【0097】
具体的には、比較部135の出力信号がONとなり、切替部SW3がCに接続され、グラフィックス重畳フラグの状態が、切替部SW1及びSW2の状態を決める状態となる。ここで、グラフィックス重畳フラグがOFFであれば、切替部SW1及びSW2はAに接続され、主映像のダイナミックメタデータに基づいたトーンマップ係数を用いたダイナミックトーンマップが実行される。
【0098】
これらの一連の処理が、映像の受信完了又は表示OFFの操作がなされるまで繰り返し行われる(S117)。例えば、この処理は、1フレーム単位又は複数フレーム単位で繰り返し行われる。
【0099】
以上のように、本実施の形態に係る映像表示システム100は、映像の最大輝度に応じた変換カーブを用いて映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部123と、トーンマップ処理後の映像を表示する表示部124とを備える。トーンマップ処理部123は、映像における最大輝度の時系列の変化に応じて、変換カーブを時系列に変更する第1トーンマップ処理を行うか(S115)、映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか(S116)、を切り替える。
【0100】
これにより、例えば、映像の種別等に応じて、トーンマップに用いる変換カーブを時系列に変更するか、固定するかを切り替えることができる。よって、映像の種別等に応じて、各時刻において最適なトーンマップを行うか、トーンマップを固定することで、本来一定であるべき映像の輝度が変化することを抑制するかを切り替えることができる。このように、映像表示システム100は、表示する映像の質を向上できる。
【0101】
また、映像表示システム100は、さらに、主映像にグラフィックスを合成することで映像を生成する合成部(主映像合成部118及びグラフィックス合成部117)を備える。トーンマップ処理部123は、主映像にグラフィックスが合成されていない場合(S112でNo)、第1トーンマップ処理を行い(S115)、主映像にグラフィックスが合成された場合(S112でYes)、第2トーンマップ処理を行う(S116)。これにより、グラフィックスの輝度の変化を抑制できる。
【0102】
また、合成部は、主映像にグラフィックスを合成したか否かを示す第1フラグ(グラフィックス重畳フラグ)を生成する。トーンマップ処理部123は、第1フラグに応じて、第1トーンマップ処理を行うか、第2トーンマップ処理を行うかを決定する。
【0103】
また、グラフィックスは、字幕及びメニューを含み、第1フラグは、主映像に字幕を合成したか否かを示す第2フラグ(字幕重畳フラグ)と、主映像にメニューを合成したか否かを示す第3フラグ(メニュー重畳フラグ)とを含む。これによれば、字幕が重畳されている場合とメニューが重畳されている場合とで、それぞれに適したトーンマップ処理を行うことができる。
【0104】
例えば、トーンマップ処理部123は、第1トーンマップ処理から第2トーンマップ処理に切り替わった場合、第2トーンマップ処理において、直前の変換カーブを継続して用いる。これによれば、第1トーンマップ処理から第2トーンマップ処理への切り替わりにおいて輝度が大きく変化することを抑制できる。
【0105】
例えば、図10に示すように、トーンマップ処理部123Aは、第2トーンマップ処理において、境界輝度以上の輝度に対しては、映像における最大輝度の時系列の変化に応じて、変換カーブを時系列に変更し、境界輝度未満の輝度に対しては、映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる。
【0106】
これによれば、境界輝度以上の木地に対しては、各時刻において最適なトーンマップを行うことができるとともに、境界輝度未満の輝度に対しては、輝度が変化することを抑制できる。
【0107】
また、トーンマップ処理部123は、第2トーンマップ処理を行っている状態において、第2トーンマップ処理で用いられる一定の変換カーブと、第1トーンマップ処理で用いられる時系列に変更される変換カーブとが所定の条件を満たす場合、使用するトーンマップ処理を、第2トーンマップ処理から第1トーンマップ処理に切り替え、前記条件を満たさない場合、第2トーンマップ処理を継続する。
【0108】
例えば、前記条件は、第2トーンマップ処理で用いられる一定の変換カーブと、第1トーンマップ処理で用いられる時系列に変更される変換カーブとの差が予め定められた値以下であることである。
【0109】
例えば、変換カーブは複数のカテゴリに分類され、前記条件は、第2トーンマップ処理で用いられる一定の変換カーブと、第1トーンマップ処理で用いられる時系列に変更される変換カーブとの同一のカテゴリに分類されることである。
【0110】
これによれば、第2トーンマップ処理から第1トーンマップ処理への切り替えにおいて、使用されるトーンマップが大きく変更されることを抑制できる。
【0111】
また、本実施の形態に係る映像表示装置102は、映像の最大輝度に応じた変換カーブを用いて映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部123と、トーンマップ処理後の映像を表示する表示部124とを備える。トーンマップ処理部123は、映像における最大輝度の時系列の変化に応じて、変換カーブを時系列に変更する第1トーンマップ処理を行うか(S115)、映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか(S116)、を切り替える。
【0112】
これにより、例えば、映像の種別等に応じて、トーンマップに用いる変換カーブを時系列に変更するか、固定するかを切り替えることができる。よって、映像の種別等に応じて、各時刻において最適なトーンマップを行うか、トーンマップを固定することで、本来一定であるべき映像の輝度が変化することを抑制するかを切り替えることができる。このように、映像表示装置102は、表示する映像の質を向上できる。
【0113】
また、トーンマップ処理部123は、映像にグラフィックスが含まれない場合(S112でNo)、第1トーンマップ処理を行い(S115)、映像にグラフィックスが含まれる場合(S112でYes)、第2トーンマップ処理を行う(S116)。これにより、グラフィックスの輝度の変化を抑制できる。
【0114】
また、トーンマップ処理部123は、第1トーンマップ処理を行うか第2トーンマップ処理を行うかを示す第1フラグ(グラフィックス重畳フラグ)に応じて、第1トーンマップ処理を行うか、第2トーンマップ処理を行うかを決定する。
【0115】
また、第1フラグは、映像に字幕が含まれるか否かを示す第2フラグ(字幕重畳フラグ)と、映像にメニューが含まれるか否かを示す第3フラグ(メニュー重畳フラグ)とを含む。これによれば、字幕が重畳されている場合とメニューが重畳されている場合とで、それぞれに適したトーンマップ処理を行うことができる。
【0116】
[3.実施の形態2]
本実施の形態では、映像表示装置は、メニュー消去時に、トーンマップを固定した状態からダイナミックトーンマップに戻す場合、メニュー消去時から、所定の時定数に基づき、そのときの規定のダイナミックトーンマップになるように使用するトーンマップを変化させる。これにより、トーンマップの連続性を実現できる。
【0117】
映像再生装置101の構成は、実施の形態1と同様であり、説明を省略する。また、映像表示装置102が備えるトーンマップ処理部123Bの構成が実施の形態1のトーンマップ処理部123と異なる。図14は、本実施の形態に係るトーンマップ処理部123Bの構成を示すブロック図である。
【0118】
図14に示すトーンマップ処理部123Bは、切替部SW1の代わりに係数変更部136を備える。また、トーンマップ処理部123Bは、比較部135及び切替部SW3を備えない。
【0119】
図15は、トーンマップ処理部123Bの処理を示すフローチャートである。図15に示す処理は、図13に示す処理に対して、ステップS114の代わりにステップS118を含む。
【0120】
係数演算部131は、主映像ダイナミックメタデータを用いて、映像表示装置102の最大輝度又は表示特性に応じたトーンマップ係数を演算する。グラフィックス重畳フラグがOFFの場合(S112でNo、かつS113でNo)、トーンマップが更新される(S115)。具体的には、切替部SW2はAに接続される。また、係数変更部136は、入力されたトーンマップ係数をそのままトーンマップ部133に出力する。トーンマップ部133は、入力された映像信号を、トーンマップ係数を用いてトーンマップ処理する。これにより、ダイナミックトーンマップが実現される。
【0121】
一方、グラフィックス重畳フラグがOFFからONになると(S112でYes)、トーンマップが固定される(S116)。具体的には、切替部SW2はBに接続され、そのときのトーンマップ係数が、係数保持部132に保持される。この場合、係数変更部136は、係数保持部132から出力されたトーンマップ係数を、トーンマップ部133に出力する。従って、グラフィックス重畳フラグがONの場合、トーンマップ係数が固定され、主映像のトーンマップは固定される。
【0122】
ここで、グラフィックス重畳フラグがONからOFFになると(S112でNo、かつS113でYes)、ダイナミックトーンマップが実施されるように、係数変更部136は、係数演算部131から出力されるトーンマップ係数を出力する。このとき、係数変更部136は、固定されていたトーンマップ係数から、ダイナミックに変動するトーンマップ係数への切り替えを、瞬時に行うのではなく、トーンマップ係数を徐々に変化させる(S118)。
【0123】
なお、徐々に変化するとは、予め定められた期間において、連続的又は段階的にトーンマップ係数が変化することを意味する。つまり、上記期間において、係数保持部132からのトーンマップ係数(以下係数Bと呼ぶ)と係数演算部131からのトーンマップ係数(以下係数Aと呼ぶ)との間の1以上の値を経て、係数Bから係数Aにトーンマップ係数が変更される。また、予め定められた期間とは、例えば、複数フレームが表示される期間である。つまり、係数Bを用いてトーンマップ処理されたフレームと、係数Bと係数Aとの間トーンマップ係数を用いてトーンマップ処理された1以上のフレームと、係数Aを用いてトーンマップ処理されたフレームとが順次出力される。
【0124】
図16に係数変更部136の構成を示すブロック図である。係数変更部136は、係数フェード部141と、比較部142と、切替部SW4及びSW5とを備える。
【0125】
係数演算部131からのトーンマップ係数(係数A)は、切替部SW4のEと比較部142及び係数フェード部141に入力される。係数保持部132からのトーンマップ係数(係数B)は、係数フェード部141に入力される。グラフィックス重畳フラグは、係数フェード部141を制御するために用いられ、また、切替部SW5のGに入力される。係数フェード部141の出力信号は、比較部142に入力されるとともに、切替部SW4のFに入力される。比較部142の出力信号は、切替部SW5を制御する。切替部SW5のHは、常にONとなる信号が入力される。切替部SW5の出力信号で、切替部SW4が制御される。切替部SW4の出力信号は、変更後のトーンマップ係数であり、トーンマップ部133に送られる。
【0126】
以下、図16に示す係数変更部136の動作を説明する。初期状態では、入力される二つの係数Aと係数Bとが同一であり、グラフィックス重畳フラグがOFFであることから、係数フェード部141の出力信号も、係数Aと同じトーンマップ係数である。また、比較部142の出力信号はONとなり、切替部SW5はGに接続される。そのため切替部SW5の出力信号はOFFとなり、切替部SW4はEに接続され、トーンマップ部133へ係数Aがそのまま出力される。
【0127】
この状態で、グラフィックス重畳フラグがONとなると、係数Aは、主映像に応じてダイナミックに変化するが、グラフィックス重畳フラグがONとなった時の係数Aの値が係数Bとして保持される。係数フェード部141は、グラフィックス重畳フラグがONのときは、係数Bをそのまま出力し、グラフィックス重畳フラグがONからOFFに変化したとき、係数Bからその時々の係数Aになるように所定の時定数でフェード処理を行う。比較部142は、グラフィックス重畳フラグがONに変化したとき、入力される係数Aと係数Bとが異なるので、OFFを出力し、切替部SW5がHに接続される。これにより、切替部SW5の出力信号が常にONとなり、切替部SW4がFに接続される。つまり、係数フェード部141が出力したトーンマップ係数がトーンマップ部133に出力される。
【0128】
ここで、グラフィックス重畳フラグがOFFとなると、係数フェード部141で、所定の時定数でのフェード処理が始まることで、係数フェード部141から出力されるトーンマップ係数は、徐々に係数Bから係数Aに近づいていく。
【0129】
比較部142は、係数フェード部141から出力されるトーンマップ係数と、係数Aとを比較し、両者が同一とみなした場合、出力信号をOFFにする。例えば、比較部142は、図11A図11Cで示した方法のように、所定の誤差あるいは、所定の判断基準を用いて二つの係数が一致するか否かを判定する。
【0130】
これにより、切替部SW5がGに接続される。よって、切替部SW5の出力信号は、グラフィックス重畳フラグと同じ値、つまり、OFFとなることで、切替部SW4がEに接続される。これにより、初期状態と同じく、係数Aがそのままトーンマップ部133に出力される。つまり、主映像ダイナミックメタデータに応じたトーンマップ係数が出力さる。
【0131】
以上の処理により、グラフィックス重畳フラグがONとなったときは、ダイナミックトーンマップが固定され、グラフィックス重畳フラグがOFFになったときには、使用されるトーンマップ係数が、変化する主映像ダイナミックメタデータに応じたトーンマップ係数にスムーズに切り替わる。
【0132】
また、グラフィックス重畳フラグにON/OFFを示す情報だけでなく、トーンマップの境界輝度の情報も含まれる場合、映像表示装置102は、係数合成部を備えてもよい。この係数合成部は、境界輝度以上の輝度においては、ダイナミックトーンマップを継続し、境界輝度未満の輝度はトーンマップを固定するように、図15の切替部SW4の出力信号と、係数演算部131からのトーンマップ係数とを合成する。
【0133】
以上のように、本実施の形態に係る映像表示システム100では、トーンマップ処理部123Bは、映像における最大輝度の時系列の変化に応じて、変換カーブを時系列に変更する第1トーンマップ処理を行うか、映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替え、使用するトーンマップ処理を、第2トーンマップ処理から第1トーンマップ処理に切り替える場合、使用する変換カーブを前記一定の変換カーブから時系列に変更する変換カーブに、複数フレームにおいて連続的又は段階的に変更する(S118)。
【0134】
これによれば、第2トーンマップ処理から第1トーンマップ処理への切り替えにおいて、使用されるトーンマップが大きく変更されることを抑制できる。
【0135】
[4.実施の形態3]
字幕表示時に、字幕重畳フラグを映像表示装置に送付し、ダイナミックトーンマップを固定する方法では以下の課題がある。字幕の表示は会話ごとであり、非常に短期間に、字幕が表示されている状況と表示されていない状況が変化する。これにより、字幕が表示されている期間のみ、トーンマップを固定する方式では、処理が困難となるという第2の課題がある。本実施の形態では、以下の何れかの方法によりこの第2の課題を解決する。
【0136】
(1)映像表示装置は、個々の字幕の表示状況によらず、字幕表示がONの場合に、ダイナミックトーンマップを固定する。
【0137】
(2)映像表示装置は、個々の字幕とは別に、所定の間隔の字幕の不表示期間又は表示期間を定義し、不表示期間ではダイナミックトーンマップを行い、表示期間ではトーンマップを固定する。
【0138】
さらに、映像表示装置は、字幕のON/OFFに従って、ダイナミックトーンマップを制御する場合において、字幕が実効的にOFFになったことで、トーンマップを固定した状態からダイナミックトーンマップに戻す場合、実施の形態1又は2と同様な方法により、違和感なく通常のダイナミックトーンマップを再開する。
【0139】
本実施の形態に係る映像表示システム100の全体構成は図7と同じであるため、ここでは詳細を省略する。映像再生装置101は、グラフィックス重畳フラグを、二つにわけ、メニュー重畳フラグ及び字幕重畳フラグを映像表示装置102に送る。または、映像再生装置101は、メニュー最大輝度情報(MAXGLL)及び字幕最大輝度情報(MAXSLL)をグラフィックス重畳フラグとして、映像表示装置102に送る。これにより、映像表示装置102は、適切なトーンマップを行うことができる。
【0140】
図17Aは、主映像ダイナミックメタデータ、グラフィックス重畳フラグ及びグラフィックス輝度情報の構成例を示す図である。また、図17Bは、主映像ダイナミックメタデータ、及びグラフィックス輝度情報の別の構成例を示す図である。ここでは、字幕用のメタデータと、メニュー用のメタデータとが存在している例を示す。
【0141】
図17Aに示す例では、字幕重畳フラグとメニュー重畳フラグとが独立して存在する。また、グラフィックス輝度情報は、字幕の最大輝度を示す字幕最大輝度情報(MAXSLL)と、メニューの最大輝度を示すメニュー最大輝度情報(MAXGLL)とを含む。
【0142】
図17Bに示す例では、MAXSLL、及びMAXGLLの特定の値を字幕又はメニューが重畳されていない状態を示す情報として用いている。具体的には、MAXSLL及びMAXGLLは、それぞれ8ビットで構成される。MAXSLLでは、値0は字幕が存在しないことを示し、値255は字幕が存在するが輝度が不明であることを示し、その他の値は、字幕が存在し、4nitから510nitまで、4nit単位で字幕の明るさを示す。MAXGLLでは、値0はメニューが存在しないことを示し、値255はメニューが存在するが輝度が不明であることを示し、その他の値は、メニューが存在し、8nitから1020nitまで、8nit単位でメニューの明るさを示す。なお、MAXSLL及びMAXSLLの値と輝度の関係として、ここでは、MAXSLLは2nit単位、MAXGLLは4nit単位が用いられる例を示したが、システムによって、適切な単位とすることができる。
【0143】
以下、本実施の形態に係る映像表示システム100の動作を説明する。映像再生装置101は、メニューについては、メニューが表示されているときのみ、メニュー重畳フラグをONにする。一方、字幕は、主映像に同期し、たびたび表示されるため、字幕に対しても、メニューと同様に重畳されているときのみONとするという制御では、映像表示装置102でのトーンマップの切り替えが頻繁に起きる。よって、本実施の形態では、字幕については、以下の動作が用いられる。
【0144】
主映像を再生する場合にその再生制御情報(Blu−rayではPlaylist)に、字幕が定義され、かつ映像再生装置101で字幕表示可能と設定される。さらに、再生制御コマンドで字幕表示がONの場合、映像再生装置101は、主映像の再生を始めるとともに字幕重畳フラグをONとし、かつ、MAXSLLを固定とする。これは、その再生制御情報による再生が終わるまで、あるいは、映像再生装置101の設定で字幕の表示をやめた場合、あるいは、再生制御コマンドで、字幕表示をやめるまで継続される。MAXSLLが輝度不定又は定義されていない場合は、上記の字幕表示期間、及びトーンマップは固定となる。
【0145】
図18Aは、MAXSLLの設定がない場合(従来例)におけるトーンマップの例を示す図である。図18Bは、MAXSLLが設定された場合のトーンマップの例を示す図である。図18Bに示すように、MAXSLLで設定した輝度(200nit)以下の領域でトーンマップが行われず、安定した字幕を表示できる。
【0146】
一方で、上記の制御を行った場合、字幕が実質的に長い期間表示されない場合でも、ダイナミックトーンマップの効果を十分に獲ることができないという欠点がある。よって、所定の時間長さ以上字幕が表示されない期間では、映像再生装置101は、字幕重畳フラグをOFFに設定する。これにより、ダイナミックトーンマップの効果をより多く得ることができる。この字幕重畳フラグをOFFとする字幕不表示期間は、字幕作成時に定義され、字幕データとともに字幕重畳フラグあるいはMAXSLLとして記録される。
【0147】
以上のように、第1フラグ(例えば字幕重畳フラグ又はMAXSLL)は、間欠的に字幕が表示される一連の期間である字幕表示期間と、予め定められた時間以上字幕が表示されない字幕不表示期間とを示す。トーンマップ処理部は、字幕表示期間において第2トーンマップ処理(例えばトーンマップを固定)を行い、字幕不表示期間において第1トーンマップ処理(例えばダイナミックトーンマップ)を行う。これによれば、トーンマップの切り替えが頻繁に起きることを抑制できる。
【0148】
[5.実施の形態4]
本実施の形態では、映像再生装置が、Ultra HD Blu−rayの映像再生装置の場合について説明する。Blu−rayの場合、メニューにBD−J(Blu−ray Disc Java(登録商標))が用いられる場合と、HDMV(High Definition Movie Mode)が用いられる場合があり、以下では、それぞれ実施の形態について説明する。
【0149】
なお、映像表示装置102の構成は、実施の形態1又は実施の形態2と同様である。図19は、メニューにBD−Jが用いられる場合の映像再生装置101Aの構成例を示す図である。図19に示すように映像再生装置101Aは、BD−ROM駆動部152と、BD−Jエンジン153と、デマルチプレクサ154と、PGデコーダ(PG Dec)155と、映像デコーダ(Video Dec)156と、Info Frame変換部157とを備える。
【0150】
映像再生装置101Aが、ディスク151(BD−ROMメディア)から再生を始めると、BD−Jのデータとプログラムが、映像再生装置101Aが備えるメモリに読み込まれる。BD−Jエンジン153は、Javaプログラムを実行する。プログラムが、主映像の再生コマンドである場合、再生コマンドの再生制御情報(Playlist)に従って、映像ストリームがディスクより読み込まれ、デマルチプレクサ154に送られる。デマルチプレクサ154は、映像ストリームを、それぞれの素材ストリームに分け、字幕をPGデコーダ155に送り、主映像を映像デコーダ156に送る。また、ここでは図示していないが、デマルチプレクサ154は、音声を音声デコーダに送る。
【0151】
その後、主映像と字幕とが合成され、得られた映像が音声とともに、HDMIを介して映像表示装置102(例えばTV)に送られる。
【0152】
このとき、主映像のSEIメッセージから、ダイナミックメタデータが抜き取られ、Info Frame変換部157へ送られる。字幕については、字幕重畳フラグ又はMAXSLLが、別途規定されているメタデータから抽出され、Info Frame変換部157へ送られる。または、字幕重畳フラグ又はMAXSLLは、再生制御情報(Playlist)に記述され、再生が始まるときに、メモリに取り込まれ、Info Frame変換部157へ送られる。または、字幕重畳フラグ又はMAXSLLは、字幕データそのものに埋め込まれ、字幕データから抽出され、Info Frame変換部157へ入力される。
【0153】
字幕表示がOFFとなった場合、どちらの場合も、Info Frame変換部157への字幕重畳フラグ又はMAXSLLの入力が止まる。
【0154】
ここで、Javaプログラムでメニューを表示する場合、Javaプログラムにより、メニュー重畳フラグ又はMAXGLLが、Info Frame変換部157に送られる。これにより、主映像、字幕、及びメニューに関するメタデータが、Info Frameとして、映像及び音声とともに、HDMIを通して映像表示装置102へ送られる。
【0155】
図20は、メニューにHDMVが用いられる場合の映像再生装置101Bの構成例を示す図である。図20に示すように映像再生装置101Bは、映像再生装置101Aの構成に対して、BD−Jエンジン153の代わりに、IGデコーダ(IG Dec)158と、BDMVコマンド解釈部(interpreter)159とを備える。
【0156】
HDMVの場合もHDMVのコマンドで映像再生が始まると、BD−Jの場合と同様に、映像、音声及び字幕が処理され、HDMIを経由して映像表示装置102に出力される。ユーザ操作、又はHDMVのコマンドでメニューを表示する場合、IGデコーダ158及びBDMVコマンド解釈部159は、IGストリームとして記録されているIGデータをデコードし、表示するグラフィックスデータとメニューのためのコマンドを抽出する。このとき、コマンドのパラメータに、メニュー重畳フラグ又はMAXGLLを出力する指示が記載されることで、メニュー重畳フラグ又はMAXGLLが、Info Frame変換部157へ送られる。または、IGデータそのものにMAXGLLが記載され、IGデコーダ158及びBDMVコマンド解釈部159から直接、Info Frame変換部157へMAXGLLが送られる。
【0157】
メニュー重畳フラグ又はMAXGLLをInfo Frame変換部157へ送るためのJAVA(登録商標)プログラムとして、以下のようなコマンドが用いられる。(1)メニュー重畳フラグをOFFに設定する。(2)メニュー重畳フラグをONに設定する。(3)メニュー重畳フラグをレジスタの値に設定する。(4)MAXGLLを指定値に設定する。(5)MAXGLLをレジスタの値に設定する。HDMVの場合も上記と同様なコマンドを用いる。
【0158】
また、字幕の場合においても、上記と同様なコマンドを用いてもよい。つまり、字幕重畳フラグ又はMAXSLLをInfo Frame変換部157へ送るためのJAVAプログラムとして、以下のようなコマンドが用いられる。(1)字幕重畳フラグをOFFに設定する。(2)字幕重畳フラグをONに設定する。(3)字幕重畳フラグをレジスタの値に設定する。(4)MAXSLLを指定値に設定する。(5)MAXSLLをレジスタの値に設定する。
【0159】
この場合、映像再生装置は、実際に字幕が表示されていなくても強制的にコマンドで設定した値を出力してもよいし、PGストリーム中で定義した字幕重畳フラグがONの場合のみコマンドを有効とし、コマンドでは字幕重畳フラグをOFFにできないとしてもよい。
【0160】
なお、Blu−ray、Ultra HD Blu−rayの詳細は、例えば、非特許文献1に記載されている。
【0161】
以上により、グラフィックスの有無に応じて、第1トーンマップ処理(例えばダイナミックトーンマップ)と、第2トーンマップ処理(例えばトーンマップを固定)とを切り替えるためのAPI(アプリケーションプログラミングインタフェース)を実現できる。これにより、第1トーンマップ処理と、第2トーンマップ処理との切り替えを容易に実現できる。
【0162】
[6.変形例]
取得部111が取得するHDR映像は、例えばBlu−rayディスク、DVD、Internetの動画配信サイト、放送、又はHDD(Hard Disk Drive)内の映像であってもよい。
【0163】
上記映像再生装置は、ディスクプレイヤー、ディスクレコーダ、セットトップボックス、テレビ、パーソナルコンピュータ、又はスマートフォンなど、記録媒体、放送又はインターネットからの圧縮された映像信号を復号し、映像表示装置に送る装置でもよい。また、映像再生装置の機能の一部又は全てが、映像表示装置102に含まれてもよい。例えば、映像再生装置に含まれる処理部のうち、取得部111以外の処理部が映像表示装置102に含まれてもよい。また、映像表示装置102に含まれる映像受信部121、メタデータ取得部122及びトーンマップ処理部123が映像再生装置に含まれてもよい。また、トーンマップ処理部123に含まれる処理部のうちトーンマップ部133以外の処理部が映像再生装置に含まれてもよい。
【0164】
映像再生装置からの映像信号を映像表示装置に伝送する映像信号伝送手段は、HDMI、DVI、又はDPなどの映像信号を非圧縮の状態で伝送する手段であってもよいし、ネットワークを通じた伝送のように映像信号を圧縮した形式で伝送する手段であってもよい。
【0165】
映像表示装置の最大輝度情報又はトーンマップ情報の映像再生装置への設定は、利用者が映像再生装置にリモートコントローラなどを用いて入力することで行われてもよいし、利用者が映像再生装置が備える操作装置を用いて入力することで行われてもよい。または、利用者は、インターネット又はその他の手段を用いて、これらの情報を取得し、取得した情報をポータブル記憶媒体に保存し、ポータブル記憶媒体を介して、これらの情報を映像再生装置に送ってもよい。また、映像再生装置が直接、インターネットに接続され、映像再生装置は、サーバのデータベースから、これらの情報を取得してもよい。さらに、映像再生装置は、映像表示装置にテストパターンを表示し、表示されたテストパターンを用いて映像表示装置の特性を確認しながら、これらの情報を取得及び記憶してもよい。
【0166】
映像再生装置は、グラフィックス(字幕又はメニュー)の輝度をそのデータから検出することでグラフィックス輝度情報(字幕輝度情報及びメニュー輝度情報を含む)を生成してもよいし、映像データ作成時に予め作成されたグラフィックスの輝度を取得してもよい。例えば、グラフィックスの輝度は、ディスクに記録されていてもよいし、メタデータとして放送又はInternetで送付されてもよい。映像再生装置は、グラフィックスの輝度を読み取り、ダイナミックメタデータの一部として映像表示装置に送る。あるいは、Internetに接続されたサーバのデータベースに、再生するコンテンツに対する情報として、グラフィックス(字幕又はメニュー)の輝度情報が記録されており、映像再生装置は、当該データベースからグラフィックスの輝度情報を取得し、取得した輝度情報を映像表示装置に送ってもよい。
【0167】
以上、本開示の実施の形態に係る映像表示システムについて説明したが、本開示は、この実施の形態に限定されるものではない。
【0168】
また、上記実施の形態に係る映像表示システムに含まれる各処理部は典型的には集積回路であるLSIとして実現される。これらは個別に1チップ化されてもよいし、一部又は全てを含むように1チップ化されてもよい。
【0169】
また、集積回路化はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後にプログラムすることが可能なFPGA(Field Programmable Gate Array)、又はLSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【0170】
また、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。
【0171】
また、本開示は、映像表示システムにより実行される各種方法として実現されてもよい。
【0172】
また、ブロック図における機能ブロックの分割は一例であり、複数の機能ブロックを一つの機能ブロックとして実現したり、一つの機能ブロックを複数に分割したり、一部の機能を他の機能ブロックに移してもよい。また、類似する機能を有する複数の機能ブロックの機能を単一のハードウェア又はソフトウェアが並列又は時分割に処理してもよい。
【0173】
また、フローチャートにおける各ステップが実行される順序は、本開示を具体的に説明するために例示するためのものであり、上記以外の順序であってもよい。また、上記ステップの一部が、他のステップと同時(並列)に実行されてもよい。
【0174】
以上、一つまたは複数の態様に係る映像表示システムについて、実施の形態に基づいて説明したが、本開示は、この実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つまたは複数の態様の範囲内に含まれてもよい。
【産業上の利用可能性】
【0175】
本開示は、映像表示システム、映像再生装置又は映像表示装置に適用できる。
【符号の説明】
【0176】
100 映像表示システム
101、101A、101B 映像再生装置
102 映像表示装置
111 取得部
112 デマルチプレクサ
113 主映像デコード部
114 字幕デコード部
115 メニューデコード部
116、122 メタデータ取得部
117 グラフィックス合成部
118 主映像合成部
119 映像送出部
121 映像受信部
123、123A、123B トーンマップ処理部
124 表示部
131 係数演算部
132 係数保持部
133 トーンマップ部
134 係数合成部
135、142 比較部
136 係数変更部
141 係数フェード部
151 ディスク
152 BD−ROM駆動部
153 BD−Jエンジン
154 デマルチプレクサ
155 PGデコーダ
156 映像デコーダ
157 Info Frame変換部
158 IGデコーダ
159 BDMVコマンド解釈部
【手続補正2】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
映像の最大輝度に応じた変換カーブを用いて前記映像の輝度を変換するトーンマップ処理を行うトーンマップ処理部と、
前記トーンマップ処理後の映像を表示する表示部とを備え、
前記トーンマップ処理部は、
前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更する第1トーンマップ処理を行うか、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替え、
使用するトーンマップ処理を、前記第2トーンマップ処理から前記第1トーンマップ処理に切り替える場合、使用する変換カーブを前記一定の変換カーブから時系列に変更する変換カーブに、複数フレームにおいて連続的又は段階的に変更する
映像表示システム。
【請求項2】
前記映像表示システムは、さらに、
主映像にグラフィックスを合成することで前記映像を生成する合成部を備え、
前記トーンマップ処理部は、前記主映像に前記グラフィックスが合成されていない場合、前記第1トーンマップ処理を行い、前記主映像に前記グラフィックスが合成された場合、前記第2トーンマップ処理を行う
請求項1記載の映像表示システム。
【請求項3】
前記合成部は、前記主映像に前記グラフィックスを合成したか否かを示す第1フラグを生成し、
前記トーンマップ処理部は、前記第1フラグに応じて、前記第1トーンマップ処理を行うか、前記第2トーンマップ処理を行うかを決定する
請求項2記載の映像表示システム。
【請求項4】
前記グラフィックスは、字幕及びメニューを含み、
前記第1フラグは、前記主映像に前記字幕を合成したか否かを示す第2フラグと、前記主映像に前記メニューを合成したか否かを示す第3フラグとを含む
請求項3記載の映像表示システム。
【請求項5】
前記グラフィックスは字幕であり、
前記第1フラグは、間欠的に字幕が表示される一連の期間である字幕表示期間と、予め定められた時間以上字幕が表示されない字幕不表示期間とを示し、
前記トーンマップ処理部は、前記字幕表示期間において前記第2トーンマップ処理を行い、前記字幕不表示期間において前記第1トーンマップ処理を行う
請求項3記載の映像表示システム。
【請求項6】
前記トーンマップ処理部は、前記第1トーンマップ処理から前記第2トーンマップ処理に切り替わった場合、前記第2トーンマップ処理において、直前の変換カーブを継続して用いる
請求項1〜5のいずれか1項に記載の映像表示システム。
【請求項7】
前記トーンマップ処理部は、前記第2トーンマップ処理において、
境界輝度以上の輝度に対しては、前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更し、
前記境界輝度未満の輝度に対しては、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる
請求項2記載の映像表示システム。
【請求項8】
映像表示システムにおける映像表示方法であって、
映像の最大輝度に応じた変換カーブを用いて前記映像の輝度を変換するトーンマップ処理を行うトーンマップ処理ステップと、
前記トーンマップ処理後の映像を表示する表示ステップとを含み、
前記トーンマップ処理ステップでは、
前記映像における最大輝度の時系列の変化に応じて、前記変換カーブを時系列に変更する第1トーンマップ処理を行うか、前記映像における最大輝度の時系列の変化に依らず、一定の変換カーブを用いる第2トーンマップ処理を行うか、を切り替え、
使用するトーンマップ処理を、前記第2トーンマップ処理から前記第1トーンマップ処理に切り替える場合、使用する変換カーブを前記一定の変換カーブから時系列に変更する変換カーブに、複数フレームにおいて連続的又は段階的に変更する
映像表示方法。
【手続補正3】
【補正対象書類名】図面
【補正対象項目名】全図
【補正方法】変更
【補正の内容】
図1
図2
図3A
図3B
図4A
図4B
図5
図6
図7
図8A
図8B
図9
図10
図11A
図11B
図11C
図12
図13
図14
図15
図16
図17A
図17B
図18A
図18B
図19
図20
【国際調査報告】