(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-12-01
(45)【発行日】2022-12-09
(54)【発明の名称】映像信号処理装置、映像表示システム、及び映像信号処理方法
(51)【国際特許分類】
H04N 19/503 20140101AFI20221202BHJP
H04N 19/51 20140101ALI20221202BHJP
【FI】
H04N19/503
H04N19/51
(21)【出願番号】P 2018020309
(22)【出願日】2018-02-07
【審査請求日】2021-02-05
(31)【優先権主張番号】P 2017194022
(32)【優先日】2017-10-04
(33)【優先権主張国・地域又は機関】JP
【前置審査】
(73)【特許権者】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
(74)【代理人】
【識別番号】110001379
【氏名又は名称】特許業務法人 大島特許事務所
(72)【発明者】
【氏名】渕上 竜司
【審査官】岩井 健二
(56)【参考文献】
【文献】特開昭62-163432(JP,A)
【文献】特開昭58-136173(JP,A)
【文献】国際公開第98/26600(WO,A1)
【文献】米国特許第5258928(US,A)
【文献】米国特許第4411001(US,A)
【文献】米国特許第3462686(US,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 19/00 - 19/98
(57)【特許請求の範囲】
【請求項1】
入力された第1のビット数を有する第1の映像データを量子化することにより、前記第1のビット数よりも小さいビット数を有する映像データとして出力する映像信号処理装置であって、
前記第1の映像データを量子化した量子化データを出力する量子化器と、
前記量子化器から出力される前記量子化データを記憶する記憶部と、
前記第1の映像データに続けて入力される第2の映像データと前記記憶部に記憶された量子化データとの差分を算出する差分計算器と、
前記差分計算器から出力される前記差分を積算した積分データを出力する積分器と、を備え、
さらに、前記積分器は前記第2の映像データの出力値と前記積分データの出力値とを加えた出力データを生成し、前記量子化器は前記第2の映像データが入力されると前記積分器が生成した出力データを量子化することを特徴とする映像信号処理装置。
【請求項2】
前記第1の映像データと前記第1の映像データ以前の映像データとの間で動きベクトルを算出する動き予測部と、
前記動きベクトルに基づき、前記積分器における前記積分データを補正する動き補償部と、
を更に備えたことを特徴とする請求項1に記載の映像信号処理装置。
【請求項3】
前記量子化器から出力される前記量子化データを圧縮符号化する符号化器と、
前記符号化器から出力される前記量子化データを復号化する復号化器と、
を更に備え、
前記記憶部は、前記復号化器によって復号化された前記量子化データを順次記憶することを特徴とする請求項1に記載の映像信号処理装置。
【請求項4】
前記第1の映像データに関するフレームレートが、60fpsよりも大きいことを特徴とする請求項1に記載の映像信号処理装置。
【請求項5】
請求項1に記載の前記映像信号処理装置と、
前記第1のビット数を有する前記第1の映像データを生成する撮像装置と、
前記映像信号処理装置から出力された映像データを受信し、この受信した前記映像データを復号する復号回路と、
前記復号回路によって復号された映像データに基づく映像を表示する表示装置と、
を備えたことを特徴とする映像表示システム。
【請求項6】
入力された第1のビット数を有する第1の映像データを量子化することにより、前記第1のビット数よりも小さい第2のビット数を有する映像データとして出力する映像信号処理方法であって、
前記第1の映像データに基づく入力データを、前記第2のビット数を有する映像データに量子化および出力し、
前記第2のビット数を有する映像データに量子化された量子化データを記憶し、
前記第1の映像データに続けて入力される第2の映像データと前記記憶された量子化データとの差分を算出し、
前記差分を積算した積分データを生成および出力し、
前記第2の映像データの出力値と前記積分データの出力値とを加えた出力データを生成し、前記第2の映像データが入力されると前記第2の映像データの出力値と前記積分データの出力値とを加えた出力データを量子化することを特徴とする映像信号処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、映像信号処理装置、映像表示システム、及び映像信号処理方法に関し、特に、比較的高いフレームレートを有する映像に好適な映像信号処理装置、映像表示システム、及び映像信号処理方法に関する。
【背景技術】
【0002】
映像(動画像)に対して画像処理や伝送を行うことにより、表示装置に映像を表示する映像表示システムは、人の視覚を考慮して60fps(frame per seconds)以下のフレームレートにて動作するよう設計されるのが一般的である。このような映像表示システムでは、例えば、フレームレートが60fpsの場合には、1フレームあたりの時間が約16.6msとなるため、撮像装置によって生成された映像が表示装置で表示されるまでの間に、複数の画像処理や伝送が実行されることにより、システム全体としてある程度(例えば、100ms)の遅延が発生することになる。
【0003】
そのような撮像(映像出力)に対する映像表示の遅延は、例えば、産業用ロボットで不規則に動く対象をピッキングする場合などのフィードバックを伴うリアルタイムシステムでは、ロボット等の動作の安定性に悪影響を及ぼし得る。また、そのような映像表示の遅延が解消されれば、リアルタイム映像を利用する内視鏡手術及び遠隔手術や、災害救助ロボットの遠隔操作などに用いられる映像表示システムにも有益である。
【0004】
一方で、映像に比較的高いフレームレート(例えば、960fps)を適用することにより、そのような遅延を解消(抑制)することも考えられるが、単にフレームレートを増大させた場合には、伝送量や演算量の増大を招くことになる。
【0005】
従来、映像の高解像度を維持しつつ伝送量を抑制するための技術として、例えば、監視用カメラによって撮影された映像に関し、人が出入りするドアの付近などに注目し、この監視したい注目監視エリアを高フレームレートで表示し、植物が置かれた場所や壁など注目監視エリアの背景となるようなエリアをネットワーク帯域の有効利用を考慮して低フレームレートで伝送を行うようにしたものが知られている。
【先行技術文献】
【特許文献】
【0006】
【発明の概要】
【発明が解決しようとする課題】
【0007】
ところで、上記特許文献1に記載された従来技術では、高フレームレートとして30フレーム/秒程度が想定されているが、映像の高解像度を維持することが前提であるため、より高いフレームレート(例えば、960fps)を適用した場合には、高フレームレートの適用が画像の一部(注目監視エリア)であったとしても伝送量や演算量の増大は問題となり得る。
【0008】
また、上記従来技術では、注目監視エリアのデータに対してMPEG等の方式で符号化処理を行うが、より高いフレームレート(例えば、960fps)を適用した場合には、撮像における露光時間が短くなって映像のS/N比が悪化することにより、MPEG等の符号化処理における画像の圧縮率が向上しないという問題も生じ得る。
【0009】
本開示は、このような従来技術の課題を鑑みて案出されたものであり、比較的高いフレームレートを有する映像(例えば、フレームレートが60fpsを超える映像)を伝送する場合に、表示映像の品質低下を抑制しつつ、映像の伝送量および演算量の増大を抑制することを可能とする映像信号処理装置、映像表示システム、及び映像信号処理方法を提供することを主目的とする。
【課題を解決するための手段】
【0010】
本開示の映像信号処理装置は、高いフレームレートの映像表示の場合にのみ発生する人間の視覚現象に基づいて、効率的且つ低遅延な映像データ圧縮を提供する。
【0011】
本開示の映像信号処理装置は、入力された第1のビット数を有する第1階調の映像データを符号化することにより、前記第1のビット数よりも小さい第2のビット数を有する第2階調の映像データとして出力する映像信号処理装置であって、前記第1階調の映像データに基づく入力データを前記第2階調の映像データに量子化した量子化データを順次出力する量子化器と、前記量子化器から出力される前記量子化データを順次記憶する記憶部と、現フレームに関する前記第1階調の映像データと前記記憶部に記憶された以前のフレームに関する前記量子化データとの差分を順次算出する差分計算器と、前記差分計算器から出力される前記差分を順次積算した積分データを、前記量子化器の前記入力データとして順次出力する積分器と、を備えたことを特徴とする。
【0012】
また、本開示の映像表示システムは、前記映像信号処理装置と、前記第1のビット数を有する第1階調の映像データを生成する撮像装置と、前記映像信号処理装置から出力された前記第2階調の映像データを受信し、この受信した前記第2階調の映像データを復号する復号回路と、前記復号回路によって復号された前記第2階調の映像データに基づく映像を表示する表示装置と、を備えたことを特徴とする。
【0013】
また、本開示の映像信号処理方法は、入力された第1のビット数を有する第1階調の映像データを符号化することにより、前記第1のビット数よりも小さい第2のビット数を有する第2階調の映像データとして出力する映像信号処理方法であって、前記第1階調の映像データに基づく入力データを、前記第2階調の映像データに順次量子化し、前記第2階調の映像データに量子化された量子化データを順次記憶し、現フレームに関する前記第1階調の映像データと前記記憶された以前のフレームに関する前記量子化データとの差分を順次算出し、算出された前記差分データを順次積算した積分データを、前記入力データとして生成することを特徴とする。
【発明の効果】
【0014】
本開示によれば、比較的高いフレームレートを有する映像(例えば、フレームレートが60fpsを超える映像)を伝送する場合に、映像データを効率的に圧縮しつつ低遅延で伝送し、且つ、後続フレームの補正で視覚的階調も回復することが可能となる。このようなことは、従来の比較的低いフレームレートで行っても、時間的ちらつき(フリッカー)を増大させるだけであるが、高いフレームレートにおいて特有に機能する。
【図面の簡単な説明】
【0015】
【
図1】第1実施形態に係る映像表示システムの全体構成図
【
図2】映像表示システムにおける処理の一例を示すタイムチャート
【
図3】映像信号処理装置の概略構成を示すブロック図
【
図4】
図3に示した映像信号処理装置の動作例を示す説明図
【
図5】
図3に示した映像信号処理装置の第1変形例を示すブロック図
【
図6】
図3に示した映像信号処理装置の第2変形例を示すブロック図
【
図7】第2実施形態に係る映像表示システムにおける映像信号処理装置の概略構成を示すブロック図
【
図8】
図7に示した映像信号処理装置の第1の動作例を示す説明図
【
図9】
図7に示した映像信号処理装置の第1の動作例を示す説明図
【
図10】
図7に示した映像信号処理装置の第2の動作例を示す説明図
【
図11】
図7に示した映像信号処理装置の第2の動作例を示す説明図
【
図12】
図7に示した映像信号処理装置の第1変形例を示すブロック図
【
図13】
図7に示した映像信号処理装置の第2変形例を示すブロック図
【
図14】
図7に示した映像信号処理装置の第3変形例を示すブロック図
【
図15】
図14に示した映像信号処理装置の動作例を示す説明図
【
図16】
図14に示した映像信号処理装置の動作例を示す説明図
【
図17】第3実施形態に係る映像表示システムにおける映像信号処理装置の概略構成を示すブロック図
【
図18】
図17に示した映像信号処理装置の第1の動作例を示す説明図
【
図19】
図17に示した映像信号処理装置の第2の動作例を示す説明図
【発明を実施するための形態】
【0016】
前記課題を解決するためになされた第1の発明は、入力された第1のビット数を有する第1階調の映像データを符号化することにより、前記第1のビット数よりも小さい第2のビット数を有する第2階調の映像データとして出力する映像信号処理装置であって、前記第1階調の映像データに基づく入力データを前記第2階調の映像データに量子化した量子化データを順次出力する量子化器と、前記量子化器から出力される前記量子化データを順次記憶する記憶部と、現フレームに関する前記第1階調の映像データと前記記憶部に記憶された以前のフレームに関する前記量子化データとの差分を順次算出する差分計算器と、前記差分計算器から出力される前記差分を順次積算した積分データを、前記量子化器の前記入力データとして順次出力する積分器と、を備えたことを特徴とする。
【0017】
これによると、入力された映像データの階調を量子化により下げると共に、この量子化によって排除された情報(下位のビット)を、後続のフレームに反映させる構成としたため、比較的高いフレームレートを有する映像(例えば、フレームレートが60fpsを超える映像)を伝送する場合に、表示映像の品質低下を抑制しつつ、映像の伝送量および演算量の増大を抑制することが可能となる。
【0018】
また、第2の発明は、入力された第1のビット数を有する第1階調の映像データを符号化することにより、前記第1のビット数よりも小さい第2のビット数を有する第2階調の映像データとして出力する映像信号処理装置であって、前記第1階調の映像データに基づく入力データを前記第2階調の映像データに量子化した量子化データを順次出力する量子化器と、前記量子化器から出力される前記量子化データを順次記憶する記憶部と、前記記憶部に記憶された前記量子化データを順次積算した積分データを順次出力する積分器と、前記第1階調の映像データと前記積分データとの差分を順次算出し、前記量子化器の前記入力データとして順次出力する差分計算器と、を備えたことを特徴とする。
【0019】
これによると、入力された映像データの階調を量子化により下げると共に、この量子化によって排除された情報(下位のビット)を、後続のフレームに反映させる構成としたため、比較的高いフレームレートを有する映像(例えば、フレームレートが60fpsを超える映像)を伝送する場合に、表示映像の品質低下を抑制しつつ、映像の伝送量および演算量の増大を抑制することが可能となる。
【0020】
また、第3の発明は、入力された第1のビット数を有する第1階調の映像データを符号化することにより、前記第1のビット数よりも小さい第2のビット数を有する第2階調の映像データとして出力する映像信号処理装置であって、前記第2のビット数を有する変動値データを統計的または確率的に順次生成するパターン生成部と、前記第1階調の映像データに前記変動値データを順次加算する加算器と、前記加算器から出力されたデータを前記第2階調の映像データに量子化した量子化データを順次出力する量子化器と、を備えたことを特徴とする。
【0021】
これによると、入力された映像データの階調を量子化により下げると共に、この量子化によって排除される情報を代替する変動値データとして反映させる構成としたため、比較的高いフレームレートを有する映像(例えば、フレームレートが60fpsを超える映像)を伝送する場合に、表示映像の品質低下を抑制しつつ、映像の伝送量および演算量の増大を抑制することが可能となる。
【0022】
また、第4の発明は、現フレームに関する前記第1階調の映像データとそれ以前のフレームに関する前記第1階調の映像データとの間で動きベクトルを算出する動き予測部と、前記動きベクトルに基づき、前記積分器における積分データを補正する動き補償部と、を更に備えたことを特徴とする。
【0023】
これによると、映像中に動く物体が存在する場合でも、量子化によって排除された情報(下位のビット)を、後続のフレームに適切に反映させることが可能となる。
【0024】
また、第5の発明は、前記量子化器から出力される前記量子化データを圧縮符号化する符号化器と、前記符号化器から出力される前記量子化データを復号化する復号化器と、を更に備え、前記記憶部は、前記復号化器によって復号化された前記量子化データを順次記憶することを特徴とする。
【0025】
これによると、符号化器においてMPEG等の非可逆的な圧縮符号化を実行する場合でも、その圧縮符号化によって生じるノイズを抑制することが可能となる。
【0026】
また、第6の発明は、前記第1階調の映像データに関するフレームレートが、60fpsよりも大きいことを特徴とする。
【0027】
これによると、比較的高いフレームレートを有する映像に関し、表示映像の品質低下を抑制しつつ、符号化された映像の伝送量および演算量の増大を効果的に抑制することが可能となる。
【0028】
また、第7の発明は、第1から第6の発明のいずれかに係る前記映像信号処理装置と、前記第1のビット数を有する前記第1階調の映像データを生成する撮像装置と、前記映像信号処理装置から出力された前記第2階調の映像データを受信し、この受信した前記第2階調の映像データを復号する復号回路と、前記復号回路によって復号された前記第2階調の映像データに基づく映像を表示する表示装置と、を備えたことを特徴とする映像表示システムである。
【0029】
これによると、比較的高いフレームレートを有する映像(例えば、フレームレートが60fpsを超える映像)を処理する場合でも、表示映像の品質低下を抑制しつつ、符号化された映像の伝送量および演算量の増大を抑制することが可能となる。
【0030】
また、第8の発明は、入力された第1のビット数を有する第1階調の映像データを符号化することにより、前記第1のビット数よりも小さい第2のビット数を有する第2階調の映像データとして出力する映像信号処理方法であって、前記第1階調の映像データに基づく入力データを、前記第2階調の映像データに順次量子化し、前記第2階調の映像データに量子化された量子化データを順次記憶し、現フレームに関する前記第1階調の映像データと前記記憶された以前のフレームに関する前記量子化データとの差分を順次算出し、前記差分を順次積算した積分データを、前記入力データとして生成することを特徴とする。
【0031】
これによると、入力された映像データの階調を量子化により下げると共に、この量子化によって排除された情報を、後続のフレームに反映させる構成としたため、比較的高いフレームレートを有する映像を伝送する場合に、表示映像の品質低下を抑制しつつ、映像の伝送量および演算量の増大を抑制することが可能となる。
【0032】
また、第9の発明は、入力された第1のビット数を有する第1階調の映像データを符号化することにより、前記第1のビット数よりも小さい第2のビット数を有する第2階調の映像データとして出力する映像信号処理方法であって、前記第1階調の映像データに基づく入力データを、前記第2階調の映像データに順次量子化し、前記第2階調の映像データに量子化された量子化データを順次記憶し、前記記憶された前記量子化データを順次積算した積分データを順次生成し、前記第1階調の映像データと前記積分データとの差分を、前記入力データとして順次算出することを特徴とする。
【0033】
これによると、入力された映像データの階調を量子化により下げると共に、この量子化によって排除された情報を、後続のフレームに反映させる構成としたため、比較的高いフレームレートを有する映像を伝送する場合に、表示映像の品質低下を抑制しつつ、映像の伝送量および演算量の増大を抑制することが可能となる。
【0034】
また、第10の発明は、入力された第1のビット数を有する第1階調の映像データを符号化することにより、前記第1のビット数よりも小さい第2のビット数を有する第2階調の映像データとして出力する映像信号処理方法であって、前記第2のビット数を有する変動値データを統計的または確率的に順次生成し、入力された前記第1階調の映像データに前記変動値データを順次加算し、前記加算されたデータを前記第2階調の映像データに量子化した量子化データを順次出力することを特徴とする。
【0035】
これによると、入力された映像データの階調を量子化により下げると共に、この量子化によって排除される情報(下位のビット)を、変動値データとして反映させる構成としたため、比較的高いフレームレートを有する映像(例えば、フレームレートが60fpsを超える映像)を伝送する場合に、表示映像の品質低下を抑制しつつ、映像の伝送量および演算量の増大を抑制することが可能となる。
【0036】
以下、本開示の実施の形態を、図面を参照しながら説明する。
【0037】
(第1実施形態)
図1は、本開示の第1実施形態に係る映像表示システム1の全体構成図であり、
図2は、映像表示システム1における処理(露光、伝送、及び表示)の一例を示すタイムチャートである。
【0038】
図1に示すように、映像表示システム1は、所望の映像を撮影するカメラ(撮像装置)2と、カメラ2から入力される映像データ(映像信号)を、伝送路3を介して送信する送信機4と、送信機4から受信した映像データを受信する受信機5と、受信機5によって受信された映像データに基づく映像を表示する表示デバイス6とを主として備える。
【0039】
カメラ2は、公知の撮影機能や通信機能(無線通信を含む)を有するビデオカメラであり、ここでは、人間の視覚時間感度(すなわち、視覚情報処理の時間的解像度)を超える比較的高いフレームレート(ここでは、960fps)の映像を出力することが可能な高速度カメラである。カメラ2は、公知の通信ケーブル(または通信ネットワーク)を介して送信機4と通信可能に接続され、カメラ2の撮影によって生成された映像データは、リアルタイムで送信機4に対して順次出力される。カメラ2によって撮影される映像の階調は、特に限定されないが、例えば、RGBで各8ビット(24ビットカラー)とすることができる。
【0040】
送信機4および受信機5は、CPUやGPU等のプロセッサやメモリ等の公知のハードウェアを備える。また、後述するように、送信機4および受信機5は、映像データに対して必要な画像処理を行うための画像処理機能や、公知の通信ケーブルまたは通信ネットワークから構成される伝送路3を介して映像データを相互に送受信するための公知の有線または無線通信機能を有する。送信機4はカメラ2と一体に設けられてもよく、また、受信機5は表示デバイス6と一体に設けられてもよい。
【0041】
送信機4は、第1のビット数(例えば、8ビット)を有する第1階調の映像データを符号化することにより、その第1のビット数よりも小さい第2のビット数(例えば、4ビット)を有する第2階調の映像データとして出力する映像信号処理装置11と、映像信号処理装置11から出力される映像データにMPEG、ランレングス符号化等の公知の手法に基づき圧縮符号化(データ圧縮)処理を実行する符号化器12とを備える。また、受信機5は、送信機4から受信した量子化された映像データを復号する復号回路13を備え、復号された映像データに基づき、表示デバイス6で表示可能な表示データを生成する。なお、復号回路13は、後述する第2実施形態に係る映像表示システム1では、送信機4からの映像データを順次積算する機能を有する。
【0042】
表示デバイス6は、送信機4から送信される映像データのフレームレートに応じて映像を表示するための機能を有し、特に限定されるものではないが、例えば、公知の構成を有する液晶ディスプレイやプラズマディスプレイ等から構成される。
【0043】
この映像表示システム1は、カメラ2で撮影された比較的高いフレームレートを有する映像を、伝送等による大きな遅延を発生させることなく、表示デバイス6に表示させることが可能であり、例えば、リアルタイム映像を利用する内視鏡手術及び遠隔手術や、災害救助ロボットの遠隔操作などに用いるのに好適である。
【0044】
また、映像表示システム1では、
図2に示すように、カメラ2のイメージセンサにおける露光、送信機4および受信機5間の映像データの伝送、及び表示デバイス6における表示の処理を、所定周期(
図2中の破線の間隔)で同期するように設定することが可能である。
【0045】
図3は、
図1に示した第1実施形態に係る映像信号処理装置11の概略構成を示すブロック図であり、
図4は、第1実施形態に係る映像信号処理装置11の動作例を示す説明図である。
【0046】
映像信号処理装置11は、量子化器21、第1フレームメモリ(記憶部)22、差分計算器23、積分器24、及び第2フレームメモリ25を備える。
【0047】
量子化器21は、積分器24から出力された第1階調(例えば、8ビット)の映像データに基づくデータ(入力データ)を、第2階調(例えば、4ビット)の映像データに量子化して順次出力する。例えば、量子化器21は、第1階調の8ビットの入力データのうちの上位4ビットを取得する(すなわち、下位4ビットを切り捨てる)ことにより、第2階調に階調を下げたデータ(量子化データ)を生成することができる。この量子化データは、映像データとして伝送路3側(ここでは、符号化器12)に順次出力されると共に、SDRAM等の公知のメモリによって構成される第1フレームメモリ22に順次記憶される。
【0048】
差分計算器23は、カメラ2から順次入力される現フレームに関する8ビットの映像データと第1フレームメモリ22に記憶された以前のフレーム(ここでは、直前のフレーム)に関する量子化データとの差分を順次算出する。このような構成により、量子化器21の処理によって切り捨てられた下位4ビットの情報を、第1フレームメモリ22および差分計算器23を介したフィードバックループによって後続のフレームに順次反映させることが可能となる。
【0049】
積分器24は、差分計算器23から出力される差分を順次積算した積分データを、量子化器21の入力データとして順次出力する。また、算出された積分データは、SDRAM等の公知のメモリによって構成される第2フレームメモリ25に順次記憶され、次回の積分データを算出する際に順次読み出される。
【0050】
図4では、第1実施形態に係る映像信号処理装置11の動作例として、所定の時間間隔(例えば、1ms)で設定された時刻t0~t15において、0~240まで設定された8ビットの映像データ(入力データ)の各階調値が、カメラ2から映像信号処理装置11に入力される場合が示されている。ここでは、説明の便宜上、時刻t0~t15にそれぞれ対応する16のフレームの所定画素について、各階調値(同一の階調値)が連続して入力された場合(各階調値が16フレームにわたり変化しない場合)が示されている。ただし、実際の映像データの階調値はフレーム毎に適宜変化し得る。
【0051】
ここで、量子化器21は、8ビットの映像データの階調値を、0~15の階調値からなる4ビットの映像データに変換して順次出力する。例えば、映像データの階調値が3の場合には、量子化器21からの出力の初期値は、3を16で除した値(ただし、1未満の数値が生じた場合には切り捨てる(以下同様))である0となり、また、積分値(積分器24からの出力値)の初期値は0である。
【0052】
また、映像データの階調値が3の場合、時刻t0においては、量子化器21からの出力値(延いては、送信機4からの出力値)は、積分値の初期値0に映像データの階調値3を加えた値を16で除した値である0となり、積分値は、その初期値0に対し、映像データの階調値3と量子化器21からの出力の初期値との差分(すなわち、差分計算器23による算出値)を加算した値である3となる。ここで、差分計算器23による差分の計算には、量子化器21からの出力値に16を乗じて逆量子化した値が用いられる(以下同様)。
【0053】
続く時刻t1においては、量子化器21からの出力値は、時刻t0における積分値3に映像データの階調値3を加えた値を16で除した値である0となり、積分値は、時刻t0の積分値3に対し、映像データの階調値3と時刻t0における量子化器21からの出力値との差分を加算した値である6となる。
【0054】
続く時刻t2においては、量子化器21からの出力値は、時刻t1における積分値6に映像データの階調値3を加えた値を16で除した値である0となり、積分値は、時刻t1の積分値6に対し、映像データの階調値3と時刻t1における量子化器21からの出力値との差分を加算した値である9となる。以降、時刻t3~時刻t15における量子化器21からの出力値および積分値も上述の場合と同様に設定される。また、映像データの階調値が3以外の場合も、上述の場合と同様に時刻t0~t15における量子化器21からの出力値および積分値を求めることができる。
【0055】
また、各階調値に関し、時刻t0~t15における量子化器21からの出力値の平均値に16を乗じた値(平均値の逆量子化値)は、元の階調値と概ね等しくなる。
【0056】
このように、第1実施形態に係る映像信号処理装置11は、カメラ2から入力された映像データの階調を量子化により下げると共に、この量子化によって排除された情報(ここでは、下位の4ビット)を、積分器24での積分値を介して後続のフレームに反映させる構成としたため、人間の視覚時間感度を超える比較的高いフレームレートを有する映像(例えば、フレームレートが60fpsを超える映像)を伝送する場合に、表示デバイス6における表示映像の品質低下を抑制しつつ、映像の伝送量および演算量の増大を抑制することが可能となる。
【0057】
この場合、送信機4から第2階調(ここでは、4ビット)のデータが出力されるにも拘わらず、表示デバイス6に表示される映像を視聴するユーザは、人の視覚の性質上、表示される物体の運動に関しては1フレーム分の遅延としか認知できないにもかかわらず、階調に関しては10~20フレーム分程度(
図4の例では各階調値の時刻t0~t15における複数のフレームに相当)の映像を残像として重ね合わせたように知覚されることになり、送信機4において排除された階調が視覚的に復元された(あたかも第1階調(ここでは、8ビット)の映像が表示された)ような効果が得られる。また、送信機4から受信機5への映像データの伝送時に一部のデータが欠落した場合も、一時的な階調低下を引き起こすのみで、継続の復号不能には陥らないため、再送制御を行わずにシステム動作を継続できるという利点もある。
【0058】
なお、映像表示システム1は、後述する他の実施形態や複数の変形例を含め、入力される現フレームに関する映像データの階調を量子化により下げると共に、この量子化によって排除された下位ビット(例えば、8ビットにおける下位4ビット)または統計的または確率的手法に基づくそれらの下位ビットに相当する代替データが、後続するフレームに関する映像データにおける上位ビット(例えば、8ビットにおける上位4ビット)に対して影響を及ぼすことが可能な構成であればよい。
【0059】
また、第1実施形態に係る映像信号処理装置11による動作は、従来の音声信号の符号化に用いられるΔΣ(デルタシグマ)変調に類似するが、音声信号に関するΔΣ変調の処理は、音声信号の量子化において発生し得るエイリアスノイズを低減して音質を向上させるためのものであり、映像信号処理装置11による映像の処理とは、目的や効果を異にするものである。
【0060】
図5および
図6は、それぞれ
図3に示した映像信号処理装置11の第1及び第2変形例を示すブロック図である。
図5および
図6では、
図3に示した映像信号処理装置11と同様の構成については、同一の符号が付してある。また、第1及び第2変形例に関し、以下で特に言及しない事項については、上述の第1実施形態に係る映像信号処理装置11と同様として詳細な説明を省略する。
【0061】
(第1実施形態の第1変形例)
上述の例では、映像中に動く物体が存在する場合、例えば、背景画像に関して蓄積された量子化誤差(すなわち、下位4ビット)が、その動く物体の画像に適用されることにより、表示デバイス6で表示される映像品質が低下する(例えば、映像中の動く物体の明るさや色が不自然に変化する)場合がある。
【0062】
そこで、第1変形例に係る映像信号処理装置11では、映像中に存在し得る動く物体の影響を排除するために、
図5に示すように、動き予測部26、第3フレームメモリ27、及び動き補償部28を更に備える。
【0063】
動き予測部26は、カメラ2から入力される各フレームの映像データを第3フレームメモリ27に順次記憶すると共に、現フレームと参照フレームとの映像データの差分から、ブロックマッチング法等の公知の手法に基づき各画素に関する動きベクトルを算出する。
【0064】
動き補償部28は、動き予測部26で算出された動きベクトルの情報を取得し、第2フレームメモリ25から積分データを読み出す場合に、その動きベクトルの情報(動き予測)に基づき、各画素のデータの読出し位置を補償する。
【0065】
このような構成により、映像信号処理装置11では、映像中に動く物体が存在する場合でも、量子化器21における量子化によって排除された情報(下位のビット)を、後続のフレームに適切に反映させることが可能となる。
【0066】
(第1実施形態の第2変形例)
また、上述の例では、映像信号処理装置11の後の符号化器12(
図1参照)においてMPEG等の非可逆的な圧縮符号化に基づく処理を実行した場合、圧縮符号化によって生じるノイズが送信機4から送信される映像データに含まれることになる。
【0067】
そこで、第2変形例に係る映像信号処理装置11では、
図6に示すように、符号化器12が内部に設けられ(すなわち、圧縮符号化が映像信号処理装置11の処理として実行され)、更に、符号化器12によって圧縮符号化された映像データを復号化する復号化器29を備える。
【0068】
このような構成により、非可逆的な圧縮符号化によって生じるノイズは、符号化器12および復号化器29を介して量子化データと共に第1フレームメモリ22に記憶されるため、送信機4から送信される映像データにおいて非可逆的な圧縮符号化によって生じるノイズを抑制することが可能となる。
【0069】
(第2実施形態)
図7は、本開示の第2実施形態に係る映像表示システム1における映像信号処理装置11の概略構成を示すブロック図であり、
図8及び
図9は、それぞれ第2実施形態に係る映像信号処理装置11の第1の動作例を示す説明図(数値例およびそれに対応するグラフ)であり、
図10及び
図11は、それぞれ第2実施形態に係る映像信号処理装置11の第2の動作例を示す説明図(数値例およびそれに対応するグラフ)である。なお、
図8及び
図10における数値例は、それぞれ一部を省略して示してある。また、第2実施形態に関し、以下で特に言及しない事項については、上述の第1実施形態に係る映像信号処理装置11と同様として詳細な説明を省略する。
【0070】
映像信号処理装置11は、量子化器31、第1フレームメモリ(記憶部)32、積分器33、差分計算器34、及び第2フレームメモリ35を備える。
【0071】
量子化器31は、上述の量子化器21と同様に、差分計算器34から出力された第1階調(例えば、8ビット)の映像データに基づくデータ(入力データ)を、第2階調(例えば、4ビット)の映像データに量子化して順次出力する。この量子化データは、伝送路3側(ここでは、符号化器12)に順次出力されると共に、SDRAM等の公知のメモリによって構成される第1フレームメモリ32に順次記憶される。
【0072】
積分器33は、第1フレームメモリ32に記憶されたデータを順次積算した積分データを、差分計算器34に対して順次出力する。また、積分データは、SDRAM等の公知のメモリによって構成される第2フレームメモリ35に順次記憶され、次回の積分データを算出する際に順次読み出される。
【0073】
差分計算器34は、カメラ2から入力される現フレームに関する8ビットの映像データと積分器33からの積分データとの差分を順次算出し、この差分データを量子化器31の入力データとして順次出力する。このような構成により、量子化器31の処理によって切り捨てられた下位4ビットの情報を、第1フレームメモリ32、積分器33、及び差分計算器34を介したフィードバックループにより後続のフレームに反映させることが可能となる。
【0074】
図8及び
図9では、第2実施形態に係る映像信号処理装置11の第1の動作例として、所定の時間間隔(例えば、1ms)で入力されるフレームの所定画素について、0~255まで設定された8ビットの映像データ(入力データ)の階調値が、変化しつつカメラ2から映像信号処理装置11に入力される場合が示されている。ただし、実際の映像データの階調値の変化は、ここに示すものに限定されず任意に変化し得る(後述する他の動作例についても同様)。
【0075】
ここで、量子化器31は、8ビットの映像データの階調値を、-8~7の階調値からなる4ビットの映像データに変換して順次出力する。
図8において、例えば、フレームNo.1では、映像データの階調値8が入力され、この映像データの階調値8と積分値0(積分器33からの出力値)との差分(すなわち、差分計算器34による算出値)に基づく7が、送信機4からの出力値(すなわち、量子化器31からの出力値)となる。ここで、差分計算器34で算出された差分値が7を超える場合には、送信機4からの出力値は上限値7に設定され、その差分値が-8未満の場合には、送信機4からの出力値は下限値-8に設定される(以下同様)。表示デバイス6では、その送信機4からの出力値7を受信し、これを初期の輝度値0(フレームNo.0参照)に加算することにより、対象画素の表示に関して輝度値7が設定される。
【0076】
続くフレームNo.2では、映像データの階調値9が入力され、この映像データの階調値9からフレームNo.2の積分値7(すなわち、フレームNo.1の積分値0および送信機4からの出力値7の和)を減じた値に基づく2が、送信機4からの出力値となる。表示デバイス6では、その送信機4からの出力値2を受信し、これをフレームNo.1までの輝度値7(積分値)に加算することにより、対象画素の表示に関して輝度値9が設定される。
【0077】
続くフレームNo.3では、映像データの階調値10が入力され、この映像データの階調値10からフレームNo.3の積分値9(すなわち、フレームNo.2の積分値7および送信機4からの出力値2の和)を減じた値に基づく1が、送信機4からの出力値となる。表示デバイス6では、その送信機4からの出力値1を受信し、これをフレームNo.2までの輝度値9(積分値)に加算することにより、対象画素の表示に関して輝度値10が設定される。フレームNo.4以降についても、上述の場合と同様に、入力される映像データの階調値に基づき、積分値、送信機4からの出力値、及び表示デバイス6の輝度値がそれぞれ設定される。
【0078】
次に、
図10及び
図11では、第2実施形態に係る映像信号処理装置11の第2の動作例として、所定の時間間隔(例えば、1ms)で入力されるフレームの所定画素について、0~255まで設定された8ビットの映像データ(入力データ)の階調値が、変化しつつカメラ2から映像信号処理装置11に入力される場合が示されている。
【0079】
ここで、量子化器31は、8ビットの映像データの階調値を、-1、1の階調値からなる1ビットの映像データに変換して順次出力する。
図10において、例えば、フレームNo.1では、映像データの階調値8が入力され、この映像データの階調値8と積分値(積分器33からの出力値)との差分(すなわち、差分計算器34による算出値8)に基づく1が、送信機4からの出力値(すなわち、量子化器31からの出力値)となる。ここで、差分計算器34で算出された差分値が1を超える場合には、送信機4からの出力値は上限値1に設定され、その差分値が-1未満の場合には、送信機4からの出力値は下限値-1に設定される(以下同様)。表示デバイス6では、その送信機4からの出力値1を受信し、これを初期の輝度値0(フレームNo.0参照)に加算することにより、対象画素の表示に関して輝度値1が設定される。
【0080】
続くフレームNo.2では、映像データの階調値8が入力され、この映像データの階調値8からフレームNo.2の積分値1(すなわち、フレームNo.1の積分値0および送信機4からの出力値1の和)を減じた値(差分の値は7)に基づく1が、送信機4からの出力値となる。表示デバイス6では、その送信機4からの出力値1を受信し、これをフレームNo.1までの輝度値2(積分値)に加算することにより、対象画素の表示に関して輝度値2が設定される。
【0081】
続くフレームNo.3では、映像データの階調値8が入力され、この映像データの階調値8からフレームNo.3の積分値2(すなわち、フレームNo.2の積分値1および送信機4からの出力値1の和)を減じた値(差分の値は6)に基づく1が、送信機4からの出力値となる。表示デバイス6では、その送信機4からの出力値1を受信し、これをフレームNo.2までの輝度値2(積分値)に加算することにより、対象画素の表示に関して輝度値3が設定される。フレームNo.4以降についても、上述の場合と同様に、入力される映像データの階調値に基づき、積分値、送信機4からの出力値、及び表示デバイス6の輝度値がそれぞれ設定される。
【0082】
このように、第2実施形態に係る映像信号処理装置11は、上述の第1実施形態に係る映像信号処理装置11と同様に、カメラ2から入力された映像データの階調を量子化により下げると共に、この量子化によって排除された情報を、積分器33での積分値を介して後続のフレームに反映させる構成としたため、比較的高いフレームレートを有する映像を伝送する場合に、表示デバイス6における表示映像の品質低下を抑制しつつ(すなわち、
図9、
図11に示すように、映像データの階調値を表示デバイス6の輝度値と良好に一致させて、視覚的階調を回復しつつ)、映像の伝送量および演算量の増大を抑制することが可能となる。
【0083】
また、第2実施形態に係る映像信号処理装置11による動作は、従来の音声信号の符号化に用いられるΔ(デルタ)変調に類似するが、音声信号に関するΔ変調の処理は、音声信号の量子化において発生し得るエイリアスノイズを低減して音質を向上させるためのものであり、映像信号処理装置11による映像の処理とは、目的や効果を異にするものである。
【0084】
図12、
図13、及び
図14は、それぞれ
図7に示した第2実施形態に係る映像信号処理装置11の第1、第2、及び第3変形例を示すブロック図であり、
図15及び
図16は、第3変形例に係る映像信号処理装置11の動作例(数値例およびそれに対応するグラフ)を示す説明図である。
図12~
図14では、
図7に示した映像信号処理装置11と同様の構成については、同一の符号が付してある。また、第1~第3変形例に関し、以下で特に言及しない事項については、上述の第2実施形態に係る映像信号処理装置11と同様として詳細な説明を省略する。
【0085】
(第2実施形態の第1変形例)
上述の第1実施形態の場合と同様に、第2実施形態の第1変形例に係る映像信号処理装置11では、映像中に存在し得る動く物体の影響を排除するために、
図12に示すように、動き予測部36、第3フレームメモリ37、及び動き補償部38を更に備える。
【0086】
動き予測部36は、カメラ2から入力される各フレームの映像データを第3フレームメモリ37に順次記憶すると共に、現フレームと参照フレームとの映像データの差分から、ブロックマッチング法等の公知の手法に基づき各画素に関する動きベクトルを算出する。
【0087】
動き補償部38は、動き予測部36で算出された動きベクトルの情報を取得し、第2フレームメモリ35から積分データを読み出す場合に、その動きベクトルの情報(動き予測)に基づき、各画素の読出し位置を補償する。
【0088】
このような構成により、映像信号処理装置11では、映像中に動く物体が存在する場合でも、量子化器31における量子化によって排除された情報(下位のビット)を、後続のフレームに適切に反映させることが可能となる。
【0089】
(第2実施形態の第2変形例)
また、上述の第1実施形態の場合と同様に、第2変形例に係る映像信号処理装置11では、
図13に示すように、符号化器12が内部に設けられ(すなわち、圧縮符号化が映像信号処理装置11の処理として実行され)、更に、符号化器12によって圧縮符号化された映像データを復号化する復号化器39を備える。
【0090】
このような構成により、非可逆的な圧縮符号化によって生じるノイズは、符号化器12および復号化器39を介して量子化データと共に第1フレームメモリ32に記憶されるため、送信機4から送信される映像データにおいて非可逆的な圧縮符号化によって生じるノイズを抑制することが可能となる。
【0091】
(第2実施形態の第3変形例)
第2実施形態の第3変形例に係る映像信号処理装置11では、量子化器31は、非線形量子化を実行し、また、
図14に示すように、量子化器31からの出力を逆量子化する逆量子化部51を更に備える。逆量子化部51によって逆量子化された量子化器31からの出力は、上述の第2実施形態に係る映像信号処理装置11と同様に、第1フレームメモリ32に順次記憶される。
【0092】
また、この第3変形例に係る映像信号処理装置11を備えた映像表示システム1では、受信機5には、上述のような送信機4からの映像データを順次積算(積分)する機能の他に、その積算される前の映像データを逆量子化するための逆量子化部51と同様の機能が設けられる。
【0093】
図15では、第2実施形態の第3変形例に係る映像信号処理装置11の動作例として、所定の時間間隔(例えば、1ms)で入力されるフレームの所定画素について、0~255まで設定された8ビットの映像データ(入力データ)の階調値が、変化しつつカメラ2から映像信号処理装置11に入力される場合が示されている。
【0094】
ここで、量子化器31は、非線形量子化を実行することにより、8ビットの映像データの階調値を、-5~5の階調値からなる4ビットの映像データに変換して順次出力する。
図15において、例えば、フレームNo.1では、映像データの階調値10が入力され、この映像データの階調値10とフレームNo.1での積分値0(積分器33からの出力値)との差分(すなわち、差分計算器34による算出値)に基づく差分値10(すなわち、差分計算器34による算出値)が量子化器31に入力される。そこで、量子化器31では、その差分値が正の場合には、2を底とする差分値の対数(ただし、1未満の数値が生じた場合には切り捨てる(以下同様))を出力し、また、その差分値が負の場合には、2を底とする差分値の絶対値の対数(ただし、1未満の数値が生じた場合には切り捨てる(以下同様))に-1を乗じた値を出力し、また、差分値が0の場合には、0を出力する(以下同様)。これにより、フレームNo.1では、送信機4からの出力値(すなわち、量子化器31からの出力値)は3となる。ここで、量子化器31からの出力値を「Q」とすると、Qが0以上の場合には、逆量子化部51は、2のQ乗を算出することにより逆量子化を行い、また、Qが負の場合には、逆量子化部51は、2の-Q乗を算出することにより逆量子化を行う(以下同様)。これにより、フレームNo.1では、逆量子化部51からの出力値は8(2の3乗)となる。また、フレームNo.1に関する送信機4からの出力値を受信した受信機5では、逆量子化部51と同様の逆量子化値8が算出され、さらに、表示デバイス6では、その逆量子化値8を初期の輝度値0(フレームNo.0参照)に加算することにより、対象画素の表示に関して輝度値8が設定される。
【0095】
続くフレームNo.2では、映像データの階調値17が入力され、この映像データの階調値17とフレームNo.2での積分値8(フレームNo.1の積分値0と逆量子化値8との和)との差分に基づく差分値9が量子化器31に入力される。これにより、フレームNo.2では、送信機4(量子化器31)からの出力値は3となる。また、フレームNo.2では、逆量子化部51からの出力値は8となる。さらに、フレームNo.2に関し、表示デバイス6では、その逆量子化値8をフレームNo.1までの輝度値8(積分値)に加算することにより、対象画素の表示に関して輝度値16が設定される。
【0096】
続くフレームNo.3では、映像データの階調値28が入力され、この映像データの階調値28とフレームNo.3での積分値16(フレームNo.2の積分値8と逆量子化値8との和)との差分に基づく差分値12が量子化器31に入力される。これにより、フレームNo.3では、送信機4(量子化器31)からの出力値は3となる。また、フレームNo.3では、逆量子化部51からの出力値は8となる。さらに、フレームNo.3に関し、表示デバイス6では、その逆量子化値8をフレームNo.2までの輝度値16に加算することにより、対象画素の表示に関して輝度値24が設定される。フレームNo.4以降についても、上述の場合と同様に、入力される映像データの階調値に基づき、積分値、差分、送信機4からの出力値、及び表示デバイス6の輝度値がそれぞれ設定される。
【0097】
このように、第2実施形態の第3変形例に係る映像信号処理装置11は、上述の第1実施形態に係る映像信号処理装置11と同様に、カメラ2から入力された映像データの階調を量子化により下げると共に、この量子化によって排除された情報を、後続のフレームに反映させる構成としたため、比較的高いフレームレートを有する映像を伝送する場合に、表示デバイス6における表示映像の品質低下を抑制しつつ(すなわち、
図16に示すように、映像データの階調値を表示デバイス6の輝度値と良好に一致させて、視覚的階調を回復しつつ)、映像の伝送量および演算量の増大を抑制することが可能となる。特に、第2実施形態の第3変形例に係る映像信号処理装置11では、非線形量子化を実行するため、カメラ2から入力された映像データの変動が比較的大きい場合(高い周波数を有する場合)にも、上述のような線形量子化を実行する場合と比べて円滑な処理が可能となるという利点がある。
【0098】
(第3実施形態)
図17は、本開示の第3実施形態に係る映像表示システム1における映像信号処理装置11の概略構成を示すブロック図であり、
図18及び
図19は、それぞれ第3実施形態に係る映像信号処理装置11の第1及び第2の動作例を示す説明図である。第3実施形態に関し、以下で特に言及しない事項については、上述の第1または第2実施形態に係る映像信号処理装置11と同様として詳細な説明を省略する。
【0099】
映像信号処理装置11は、パターン生成部41、加算器42、及び量子化器43を備える。
【0100】
パターン生成部41は、カメラ2から入力される第1階調の映像データよりも小さいビット数(例えば、4ビット)を有する変動値データを統計的または確率的に順次生成し、加算器42に対して出力する。このような変動値データは、例えば、乱数や三角波を利用して生成することができる。
【0101】
加算器42は、カメラ2から順次入力される現フレームに関する8ビットの映像データと変動値データを加算したデータを生成し、これを量子化器43に対して出力する。
【0102】
量子化器43は、上述の量子化器21と同様に、加算器42から出力されたデータを第2階調(例えば、4ビット)の映像データに量子化することにより、階調を下げたデータ(量子化データ)を生成することができる。
【0103】
図18では、第3実施形態に係る映像信号処理装置11の第1の動作例として、0~240まで設定された8ビットの映像データ(入力データ)の各階調値が、所定の時間間隔(例えば、1ms)で、カメラ2から映像信号処理装置11に入力される場合が示されている。このとき、パターン生成部41は、三角波を利用して変動値0~15(変動値データ)を順次生成し、これにより、加算器42は、8ビットの映像データとその変動値を加算したデータを生成し、これを量子化器43に対して出力する。また、量子化器43は、加算器42からの8ビットの映像データの階調値を、0~15の階調値からなる4ビットの映像データに変換して順次出力する。
【0104】
変動値0に関し、8ビットの階調値240は、それに変動値0を加算した値を16で除して求められる4ビットの階調値15(ただし、1未満の数値が生じた場合には切り捨てる(以下同様))に変換され、8ビットの階調値239は、それに変動値0を加算した値を16で除して求められる4ビットの階調値14に変換され、それ以降も同様に、8ビットの階調値が4ビットの階調値に変換される。また、変動値1に関し、映像データの8ビットの階調値(映像の輝度値)240は、それに変動値1を加算した値を16で除して求められる4ビットの階調値15に変換され、8ビットの階調値239は、それに変動値1を加算した値を16で除して求められる4ビットの階調値14に変換され、それ以降も同様に、8ビットの階調値が4ビットの階調値に変換される。また、変動値2~15に関しても同様に、映像データの8ビットの階調値から4ビットの階調値14に変換される。
【0105】
図19では、第3実施形態に係る映像信号処理装置11の第2の動作例として、0~240まで設定された8ビットの映像データ(入力データ)の各階調値が、所定の時間間隔(例えば、1ms)で、カメラ2から映像信号処理装置11に入力される場合が示されている。このとき、パターン生成部41は、乱数を利用して変動値0~15(変動値データ)を順次生成し、これにより、加算器42は、8ビットの映像データとその変動値を加算したデータを生成し、これを量子化器43に対して出力する。また、量子化器43は、加算器42からの8ビットの映像データの階調値を、0~15の階調値からなる4ビットの映像データに変換して順次出力する。
【0106】
変動値0に関し、8ビットの階調値240は、それに変動値0を加算した値を16で除して求められる4ビットの階調値15(ただし、1未満の数値が生じた場合には切り捨てる(以下同様))に変換され、8ビットの階調値239は、それに変動値0を加算した値を16で除して求められる4ビットの階調値14に変換され、それ以降も同様に、8ビットの階調値が4ビットの階調値に変換される。また、変動値15に関し、映像データの8ビットの階調値(映像の輝度値)240は、それに変動値15を加算した値を16で除して求められる4ビットの階調値15に変換され、8ビットの階調値239は、それに変動値15を加算した値を16で除して求められる4ビットの階調値15に変換され、それ以降も同様に、8ビットの階調値が4ビットの階調値に変換される。また、他の変動値についても同様に、映像データの8ビットの階調値から4ビットの階調値14に変換される。
【0107】
ここで、8ビットの階調値を「元の階調値」、4ビットの階調値を「変動階調値」と呼ぶものとする。或るフレームにおいて、例えば元の階調値101を出力する場合には、変動階調値6を11回出力し、変動階調値7を5回出力する。即ち、101=6×11+7×5となり、4ビット階調を出力するにもかかわらず、16フレーム内において、変動階調値を必要に応じて変動させることにより、あたかも8ビット階調が表示されたように見せることができる。
【0108】
このような構成により、第3実施形態に係る映像信号処理装置11は、カメラ2から入力された映像データの階調を量子化により下げると共に、この量子化によって排除される情報を代替する変動値データとして反映させる構成としたため、比較的高いフレームレートを有する映像を伝送する場合に、表示映像の品質低下を抑制しつつ、映像の伝送量および演算量の増大を抑制することが可能となる。
【0109】
以上、本開示を特定の実施の形態に基づいて説明したが、これらの実施の形態はあくまでも例示であって、本開示はこれらの実施の形態によって限定されるものではない。なお、上記実施の形態に示した本開示に係る映像信号処理装置、映像表示システム、及び映像信号処理方法の各構成要素は、必ずしも全てが必須ではなく、少なくとも本発明の範囲を逸脱しない限りにおいて適宜取捨選択することが可能である。
【産業上の利用可能性】
【0110】
本開示に係る映像信号処理装置、映像表示システム、及び映像信号処理方法は、比較的高いフレームレートを有する映像(例えば、フレームレートが60fpsを超える映像)を伝送する場合に、高いフレームレートを生かした低遅延の伝送を維持しつつ、表示映像の品質低下を抑制して、映像の伝送量および演算量の増大を抑制することを可能とし、比較的高いフレームレートを有する映像に好適な映像信号処理装置、映像表示システム、及び映像信号処理方法などとして有用である。
【符号の説明】
【0111】
1 :映像表示システム
2 :カメラ(撮像装置)
3 :伝送路
4 :送信機
5 :受信機
6 :表示デバイス
11 :映像信号処理装置
12 :符号化器
13 :復号回路
21 :量子化器
22 :第1フレームメモリ(記憶部)
23 :差分計算器
24 :積分器
25 :第2フレームメモリ
26 :動き予測部
27 :第3フレームメモリ
28 :動き補償部
29 :復号化器
31 :量子化器
32 :第1フレームメモリ(記憶部)
33 :積分器
34 :差分計算器
35 :第2フレームメモリ
36 :動き予測部
37 :第3フレームメモリ
38 :動き補償部
39 :復号化器
41 :パターン生成部
42 :加算器
43 :量子化器
51 :逆量子化部