特許第5880165号(P5880165)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社JVCケンウッドの特許一覧

特許5880165映像信号処理装置、映像信号処理方法、映像信号処理プログラム
<>
  • 特許5880165-映像信号処理装置、映像信号処理方法、映像信号処理プログラム 図000002
  • 特許5880165-映像信号処理装置、映像信号処理方法、映像信号処理プログラム 図000003
  • 特許5880165-映像信号処理装置、映像信号処理方法、映像信号処理プログラム 図000004
  • 特許5880165-映像信号処理装置、映像信号処理方法、映像信号処理プログラム 図000005
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】5880165
(24)【登録日】2016年2月12日
(45)【発行日】2016年3月8日
(54)【発明の名称】映像信号処理装置、映像信号処理方法、映像信号処理プログラム
(51)【国際特許分類】
   H04N 7/01 20060101AFI20160223BHJP
   H04N 13/04 20060101ALI20160223BHJP
【FI】
   H04N7/01 Z
   H04N13/04
【請求項の数】3
【全頁数】13
(21)【出願番号】特願2012-55505(P2012-55505)
(22)【出願日】2012年3月13日
(65)【公開番号】特開2013-191957(P2013-191957A)
(43)【公開日】2013年9月26日
【審査請求日】2014年7月31日
(73)【特許権者】
【識別番号】308036402
【氏名又は名称】株式会社JVCケンウッド
(74)【代理人】
【識別番号】100083806
【弁理士】
【氏名又は名称】三好 秀和
(74)【代理人】
【識別番号】100101247
【弁理士】
【氏名又は名称】高橋 俊一
(72)【発明者】
【氏名】小泉 真季
【審査官】 秦野 孝一郎
(56)【参考文献】
【文献】 特開2011−19037(JP,A)
【文献】 特開2011−77729(JP,A)
【文献】 国際公開第2011/039920(WO,A1)
【文献】 国際公開第2011/061973(WO,A1)
【文献】 特開平11−346346(JP,A)
【文献】 特開2007−74439(JP,A)
【文献】 特開2010−28472(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/01
H04N 13/04
(57)【特許請求の範囲】
【請求項1】
第1のフレームレートの映像が2−3プルダウンによって第2のフレームレートに変換され、1垂直期間に左眼画像のフレームと右眼画像のフレームとが配置されたフレームパッキング方式の立体映像信号を処理する映像信号処理装置であり、
前記左眼画像のフレームの期間と前記右眼画像のフレームの期間とを識別するためのインデックス信号を生成するインデックス生成部と、
前記左眼画像のフレームまたは前記右眼画像のフレームをフレーム分のみ記憶する3つのメモリ領域を有するメモリと、
前記左眼画像のフレームまたは前記右眼画像のフレームを前記3つのメモリ領域に巡回的に書き込むよう制御する書き込み制御部と、
前記インデックス信号と2−3プルダウンのシーケンスのフレーム位相を示すフェイズ信号とに基づいて、前記シーケンスの同じフレームが連続する最初のフレーム位相で前記インデックス信号が左眼画像であることを示す第1の場合と、前記シーケンスの同じフレームが連続する最後のフレーム位相で前記インデックス信号が右眼画像であることを示す第2の場合に、前記書き込み制御部による制御によって、前記左眼画像のフレームまたは前記右眼画像のフレームを前記3つのメモリ領域に書き込む際の巡回を有効にする一方、前記第1及び第2の場合以外の第3の場合では巡回を無効にして、同じメモリ領域に書き込むよう制御する書き込み領域巡回制御部と、
前記インデックス信号と前記フェイズ信号とに基づいて、前記3つのメモリ領域に書き込まれた互いに異なる前記左眼画像のフレームまたは前記右眼画像のフレームのうち、前記第3の場合であって前記インデックス信号が右眼画像であることを示す場合には、前記3つのメモリ領域に対する書き込み順序で最後の1つ前にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出し、前記第1の場合と、前記第2の場合と、前記第3の場合であって前記インデックス信号が左眼画像であることを示す場合には、前記3つのメモリ領域に対する書き込み順序で最後の2つ前にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出して一方の読み出しフレームとし、前記3つのメモリ領域に対する書き込み順序で最後にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出して他方の読み出しフレームとするよう制御する読み出し制御部と、
動きベクトルを参照して、前記3つのメモリ領域より読み出された前記一方の読み出しフレームまたは前記他方の読み出しフレームを用いて補間フレームを生成する補間フレーム生成部と、
を備えることを特徴とする映像信号処理装置。
【請求項2】
第1のフレームレートの映像が2−3プルダウンによって第2のフレームレートに変換され、1垂直期間に左眼画像のフレームと右眼画像のフレームとが配置されたフレームパッキング方式の立体映像信号を処理する映像信号処理方法であり、
前記左眼画像のフレームの期間と前記右眼画像のフレームの期間とを識別するためのインデックス信号を生成し、
前記インデックス信号と2−3プルダウンのシーケンスのフレーム位相を示すフェイズ信号とに基づいて、前記シーケンスの同じフレームが連続する最初のフレーム位相で前記インデックス信号が左眼画像であることを示す第1の場合と、前記シーケンスの同じフレームが連続する最後のフレーム位相で前記インデックス信号が右眼画像であることを示す第2の場合に、前記左眼画像のフレームまたは前記右眼画像のフレームをフレーム分のみ記憶する3つのメモリ領域に巡回的に書き込み、
前記第1及び第2の場合以外の第3の場合に、前記左眼画像のフレームまたは前記右眼画像のフレームを前記3つのメモリ領域に書き込む巡回を停止させて、同じメモリ領域に書き込み、
前記インデックス信号と前記フェイズ信号とに基づいて、前記3つのメモリ領域に書き込まれた互いに異なる前記左眼画像のフレームまたは前記右眼画像のフレームのうち、前記第3の場合であって前記インデックス信号が右眼画像であることを示す場合には、前記3つのメモリ領域に対する書き込み順序で最後の1つ前にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出し、前記第1の場合と、前記第2の場合と、前記第3の場合であって前記インデックス信号が左眼画像であることを示す場合には、前記3つのメモリ領域に対する書き込み順序で最後の2つ前にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出して一方の読み出しフレームとし、前記3つのメモリ領域に対する書き込み順序で最後にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出して他方の読み出しフレームとし、
動きベクトルを参照して、前記3つのメモリ領域より読み出された前記一方の読み出しフレームまたは前記他方の読み出しフレームを用いて補間フレームを生成する
ことを特徴とする映像信号処理方法。
【請求項3】
第1のフレームレートの映像が2−3プルダウンによって第2のフレームレートに変換され、1垂直期間に左眼画像のフレームと右眼画像のフレームとが配置されたフレームパッキング方式の立体映像信号を処理する映像信号処理プログラムであり、
コンピュータに、
前記左眼画像のフレームの期間と前記右眼画像のフレームの期間とを識別するためのインデックス信号を生成するステップと、
前記インデックス信号と2−3プルダウンのシーケンスのフレーム位相を示すフェイズ信号とに基づいて、前記シーケンスの同じフレームが連続する最初のフレーム位相で前記インデックス信号が左眼画像であることを示す第1の場合と、前記シーケンスの同じフレームが連続する最後のフレーム位相で前記インデックス信号が右眼画像であることを示す第2の場合に、前記左眼画像のフレームまたは前記右眼画像のフレームをフレーム分のみ記憶する3つのメモリ領域に巡回的に書き込むステップと、
前記第1及び第2の場合以外の第3の場合に、前記左眼画像のフレームまたは前記右眼画像のフレームを前記3つのメモリ領域に書き込む巡回を停止させて、同じメモリ領域に書き込むステップと、
前記インデックス信号と前記フェイズ信号とに基づいて、前記3つのメモリ領域に書き込まれた互いに異なる前記左眼画像のフレームまたは前記右眼画像のフレームのうち、前記第3の場合であって前記インデックス信号が右眼画像であることを示す場合には、前記3つのメモリ領域に対する書き込み順序で最後の1つ前にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出し、前記第1の場合と、前記第2の場合と、前記第3の場合であって前記インデックス信号が左眼画像であることを示す場合には、前記3つのメモリ領域に対する書き込み順序で最後の2つ前にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出して一方の読み出しフレームとし、前記3つのメモリ領域に対する書き込み順序で最後にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出して他方の読み出しフレームとする読み出しフレーム生成ステップと、
動きベクトルを参照して、前記3つのメモリ領域より読み出された前記一方の読み出しフレームまたは前記他方の読み出しフレームを用いて補間フレームを生成するステップと、
を実行させることを特徴とする映像信号処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、フレームレート24Hzのフィルム映像を2−3プルダウンによってフレームレート60Hzに変換した映像信号を処理する映像信号処理装置、映像信号処理方法、映像信号処理プログラム関する。
【背景技術】
【0002】
フレームレート24Hzで撮影されたフィルム映像を、2−3プルダウンと称される変換処理によって、フレームレート60Hzの標準テレビジョン信号に変換することが行われている。フレームレート24Hzのフィルム映像を2−3プルダウンによってフレームレート60Hzの映像信号に変換すると、フィルム映像の同一のフレームが2つまたは3つ連続することになる。従って、画像の動きは滑らかではない。これをフィルムジャダと称している。
【0003】
そこで、フィルムジャダを除去または軽減するために、2−3プルダウンによってフレームレート60Hzに変換された映像信号の異なる原フレームを混合して補間フレームを生成し、一部のフレームを補間フレームに置き換えることによって画像の動きを滑らかにすることが行われている。画像の動きを滑らかにするよう映像信号を処理することをデジャダと称している。デジャダのためには映像信号の複数フレームを一時的に記憶するメモリが必要となる。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2010−28472号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
近年になって、立体映像信号(3D映像信号)を用いて画像の立体視を実現する3D表示装置が普及し始めている。3D映像信号のフォーマットの1つとして、1垂直期間に左眼画像のフレームと右眼画像のフレームとを1組にして配置して伝送するフレームパッキング方式がある。フレームパッキング方式の3D映像信号では、左眼画像のフレームと右眼画像のフレームはそれぞれ、水平1280画素、垂直720画素の信号である。
【0006】
フレームレート24Hzのフィルム映像を2−3プルダウンによってフレームレート60Hzに変換したフレームパッキング方式の映像信号があり、この映像信号の画像の動きを滑らかにするためにデジャダの処理を行ったとする。上記のように、フレームパッキング方式の3D映像信号は1垂直期間に左眼画像のフレームと右眼画像のフレームとの2フレームを有することから、デジャダの処理を行う映像信号処理装置においては、映像信号のフレームを一時的に記憶するメモリは通常の非立体映像信号(2D映像信号)を処理する場合と比較して多くの容量が必要となる。
【0007】
特許文献1記載の構成では、5フレーム分のメモリ領域が必要となる。従って、回路規模やコストの増大につながるので、好ましくない。
【0008】
本発明はこのような問題点に鑑み、2−3プルダウン変換されたフレームパッキング方式の映像信号の左右のフレームそれぞれに基づいて補間フレームを生成するに際し、映像信号のフレームを一時的に記憶するメモリの容量の増加を極力抑えることができる映像信号処理装置、映像信号処理方法、映像信号処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明は、上述した従来の技術の課題を解決するため、第1のフレームレートの映像が2−3プルダウンによって第2のフレームレートに変換され、1垂直期間に左眼画像のフレームと右眼画像のフレームとが配置されたフレームパッキング方式の立体映像信号を処理する映像信号処理装置であり、前記左眼画像のフレームの期間と前記右眼画像のフレームの期間とを識別するためのインデックス信号を生成するインデックス生成部と、前記左眼画像のフレームまたは前記右眼画像のフレームをフレーム分のみ記憶する3つのメモリ領域を有するメモリと、前記左眼画像のフレームまたは前記右眼画像のフレームを前記3つのメモリ領域に巡回的に書き込むよう制御する書き込み制御部と、前記インデックス信号と2−3プルダウンのシーケンスのフレーム位相を示すフェイズ信号とに基づいて、前記シーケンスの同じフレームが連続する最初のフレーム位相で前記インデックス信号が左眼画像であることを示す第1の場合と、前記シーケンスの同じフレームが連続する最後のフレーム位相で前記インデックス信号が右眼画像であることを示す第2の場合に、前記書き込み制御部による制御によって、前記左眼画像のフレームまたは前記右眼画像のフレームを前記3つのメモリ領域に書き込む際の巡回を有効にする一方、前記第1及び第2の場合以外の第3の場合では巡回を無効にして、同じメモリ領域に書き込むよう制御する書き込み領域巡回制御部と、前記インデックス信号と前記フェイズ信号とに基づいて、前記3つのメモリ領域に書き込まれた互いに異なる前記左眼画像のフレームまたは前記右眼画像のフレームのうち、前記第3の場合であって前記インデックス信号が右眼画像であることを示す場合には、前記3つのメモリ領域に対する書き込み順序で最後の1つ前にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出し、前記第1の場合と、前記第2の場合と、前記第3の場合であって前記インデックス信号が左眼画像であることを示す場合には、前記3つのメモリ領域に対する書き込み順序で最後の2つ前にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出して一方の読み出しフレームとし、前記3つのメモリ領域に対する書き込み順序で最後にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出して他方の読み出しフレームとするよう制御する読み出し制御部と、動きベクトルを参照して、前記3つのメモリ領域より読み出された前記一方の読み出しフレームまたは前記他方の読み出しフレームを用いて補間フレームを生成する補間フレーム生成部とを備えることを特徴とする映像信号処理装置を提供する。
【0010】
また、本発明は、上述した従来の技術の課題を解決するため、第1のフレームレートの映像が2−3プルダウンによって第2のフレームレートに変換され、1垂直期間に左眼画像のフレームと右眼画像のフレームとが配置されたフレームパッキング方式の立体映像信号を処理する映像信号処理方法であり、前記左眼画像のフレームの期間と前記右眼画像のフレームの期間とを識別するためのインデックス信号を生成し、前記インデックス信号と2−3プルダウンのシーケンスのフレーム位相を示すフェイズ信号とに基づいて、前記シーケンスの同じフレームが連続する最初のフレーム位相で前記インデックス信号が左眼画像であることを示す第1の場合と、前記シーケンスの同じフレームが連続する最後のフレーム位相で前記インデックス信号が右眼画像であることを示す第2の場合に、前記左眼画像のフレームまたは前記右眼画像のフレームをフレーム分のみ記憶する3つのメモリ領域に巡回的に書き込み、前記第1及び第2の場合以外の第3の場合に、前記左眼画像のフレームまたは前記右眼画像のフレームを前記3つのメモリ領域に書き込む巡回を停止させて、同じメモリ領域に書き込み、前記インデックス信号と前記フェイズ信号とに基づいて、前記3つのメモリ領域に書き込まれた互いに異なる前記左眼画像のフレームまたは前記右眼画像のフレームのうち、前記第3の場合であって前記インデックス信号が右眼画像であることを示す場合には、前記3つのメモリ領域に対する書き込み順序で最後の1つ前にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出し、前記第1の場合と、前記第2の場合と、前記第3の場合であって前記インデックス信号が左眼画像であることを示す場合には、前記3つのメモリ領域に対する書き込み順序で最後の2つ前にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出して一方の読み出しフレームとし、前記3つのメモリ領域に対する書き込み順序で最後にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出して他方の読み出しフレームとし、動きベクトルを参照して、前記3つのメモリ領域より読み出された前記一方の読み出しフレームまたは前記他方の読み出しフレームを用いて補間フレームを生成することを特徴とする映像信号処理方法を提供する。
【0011】
さらに、本発明は、上述した従来の技術の課題を解決するため、第1のフレームレートの映像が2−3プルダウンによって第2のフレームレートに変換され、1垂直期間に左眼画像のフレームと右眼画像のフレームとが配置されたフレームパッキング方式の立体映像信号を処理する映像信号処理プログラムであり、コンピュータに、前記左眼画像のフレームの期間と前記右眼画像のフレームの期間とを識別するためのインデックス信号を生成するステップと、前記インデックス信号と2−3プルダウンのシーケンスのフレーム位相を示すフェイズ信号とに基づいて、前記シーケンスの同じフレームが連続する最初のフレーム位相で前記インデックス信号が左眼画像であることを示す第1の場合と、前記シーケンスの同じフレームが連続する最後のフレーム位相で前記インデックス信号が右眼画像であることを示す第2の場合に、前記左眼画像のフレームまたは前記右眼画像のフレームをフレーム分のみ記憶する3つのメモリ領域に巡回的に書き込むステップと、前記第1及び第2の場合以外の第3の場合に、前記左眼画像のフレームまたは前記右眼画像のフレームを前記3つのメモリ領域に書き込む巡回を停止させて、同じメモリ領域に書き込むステップと、前記インデックス信号と前記フェイズ信号とに基づいて、前記3つのメモリ領域に書き込まれた互いに異なる前記左眼画像のフレームまたは前記右眼画像のフレームのうち、前記第3の場合であって前記インデックス信号が右眼画像であることを示す場合には、前記3つのメモリ領域に対する書き込み順序で最後の1つ前にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出し、前記第1の場合と、前記第2の場合と、前記第3の場合であって前記インデックス信号が左眼画像であることを示す場合には、前記3つのメモリ領域に対する書き込み順序で最後の2つ前にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出して一方の読み出しフレームとし、前記3つのメモリ領域に対する書き込み順序で最後にフレームを書き込んだメモリ領域に記憶された前記左眼画像のフレームまたは前記右眼画像のフレームを読み出して他方の読み出しフレームとする読み出しフレーム生成ステップと、動きベクトルを参照して、前記3つのメモリ領域より読み出された前記一方の読み出しフレームまたは前記他方の読み出しフレームを用いて補間フレームを生成するステップとを実行させることを特徴とする映像信号処理プログラムを提供する。
【発明の効果】
【0012】
本発明の映像信号処理装置、映像信号処理方法、映像信号処理プログラムによれば、2−3プルダウン変換されたフレームパッキング方式の映像信号の左右のフレームそれぞれに基づいて補間フレームを生成するに際し、映像信号のフレームを一時的に記憶するメモリの容量の増加を極力抑えることが可能となる。
【図面の簡単な説明】
【0013】
図1】本発明の映像信号処理装置の一実施形態を示すブロック図である。
図2】3Dのフィルム映像とフレームレート60Hzのフレームパッキング方式の映像信号との関係を示す図である。
図3】一実施形態の動作を説明するための図である。
図4】一実施形態よる補間フレームの生成動作を説明するための図である。
【発明を実施するための形態】
【0014】
以下、本発明の映像信号処理装置、映像信号処理方法、映像信号処理プログラムの一実施形態について、添付図面を参照して説明する。図1において、入力された映像信号Sinは、第1のフレームレートであるフレームレート24Hzのフィルム映像を2−3プルダウンによって第2のフレームレートであるフレームレート60Hzに変換したフレームパッキング方式の映像信号である。映像信号Sinは、メモリ14及びフレームレート変換部16に入力される。
【0015】
図2を用いて、3Dのフィルム映像と、フレームレート60Hzのフレームパッキング方式の映像信号との関係について説明する。図2(A)において、フレームA-L,B-L,C-L,D-Lは左眼画像のフレームであり、フレームA-R,B-R,C-R,DRは右眼画像のフレームである。左眼画像のフレームA-Lと右眼画像のフレームA-R、左眼画像のフレームB-Lと右眼画像のフレームB-R、左眼画像のフレームC-Lと右眼画像のフレームC-R、左眼画像のフレームD-Lと右眼画像のフレームDRが、それぞれ3Dの組となる。左眼画像のフレームと右眼画像のフレームはそれぞれフレームレート24Hzである。
【0016】
図2(A)のフィルム映像を2−3プルダウンによってフレームレート60Hzに変換し、フレームパッキング方式の映像信号とすると、概念的に図2(B)のようになる。フレームパッキング方式の映像信号では、1垂直期間である1/60秒間に、左眼画像のフレームと右眼画像のフレームとがフレームパッキング方式の映像信号の1フレーム内に配置される。詳細には、1フレーム内の垂直方向上側に左眼画像のフレームが配置され、垂直方向下側に右眼画像のフレームが配置され、左眼画像のフレームと右眼画像のフレームとの間にはブランク層が設けられる。図2(B)では、ブランク層の図示を省略している。
【0017】
図2(B)に示すように、左眼画像のフレームA-Lと右眼画像のフレームA-Rとの組がフレームパッキング方式の映像信号の3フレームの期間連続し、左眼画像のフレームB-Lと右眼画像のフレームB-Rとの組がフレームパッキング方式の映像信号の2フレームの期間連続する。以下同様に、左眼画像のフレームと右眼画像のフレームとの組が3フレーム,2フレーム,3フレーム…と交互に連続することになる。
【0018】
図1に戻り、インデックス生成部17には、同期信号Ssyが入力される。同期信号Ssyは垂直同期信号及び水平同期信号を含む。同期信号Ssyは、垂直期間及び水平期間の区切りを示し、データの有効領域を示すタイミング信号となっている。インデックス生成部17は、入力される同期信号Ssyに基づいて、映像信号Sinとして順次入力される画素データが、左眼画像のフレームの画素データであるか、右眼画像のフレームの画素データであるかを示すインデックス信号を生成する。
【0019】
左眼画像のフレームの画素データであることを示すインデックス信号をインデックス信号iL、右眼画像のフレームの画素データであることを示すインデックス信号をインデックス信号iRとする。インデックス生成部17が生成するインデックス信号iL,iRによって、左眼画像のフレームの期間と右眼画像のフレームの期間とを識別することができる。インデックス生成部17が生成したインデックス信号iL,iRは、書き込み領域巡回制御部12と、読み出し制御部13と、フレームレート変換部16とに入力される。
【0020】
書き込み領域巡回制御部12と、読み出し制御部13と、フレームレート変換部16には、2−3プルダウンのシーケンスのフレーム位相を示すフェイズ信号Sphが入力される。図2(B)に示すように、フェイズ信号Sphが示すフレーム位相はph1,ph2,ph3,ph4,ph5のいずれかである。左眼画像のフレームと右眼画像のフレームとの同じ組が3フレーム連続するときの3フレーム目をフレーム位相ph1とし、同じ組が2フレーム連続するときの1フレーム目をフレーム位相ph2とする。同じ組が2フレーム連続するときの2フレーム目をフレーム位相ph3、同じ組が3フレーム連続するときの1フレーム目をフレーム位相ph4、同じ組が3フレーム連続するときの2フレーム目をフレーム位相ph5とする。
【0021】
動きベクトルMVは、図示していない動きベクトル検出部によって検出される。動きベクトル検出部は、映像信号Sinにおける時間的に隣接したフレーム間の動きを推定して、動きベクトルMVを生成する。動きベクトル検出部は、例えば、映像信号Sinの時間的に隣接するフレーム間において、注目画素群がどの程度移動したかをブロックマッチングによって求め、注目画素群の移動量及び移動方向を求めることによって動きベクトルMVを生成すればよい。
【0022】
動きベクトルMVは、左眼画像と右眼画像とでそれぞれ生成される。左眼画像用の動きベクトルMVを動きベクトルMV-L、右眼画像用の動きベクトルMVを動きベクトルMV-Rとする。後述する補間フレーム生成部15には、補間フレーム生成部15が左眼画像の補間フレームを生成する際には左眼画像用の動きベクトルMV-Lが供給され、右眼画像の補間フレームを生成する際には右眼画像用の動きベクトルMV-Rが供給される。
【0023】
メモリ14は、3つのメモリ領域141〜143を有する。メモリ領域141〜143は、それぞれ、左眼画像または右眼画像のフレームを1フレーム分記憶する容量を有する。書き込み領域巡回制御部12は、インデックス信号iL,iRとフェイズ信号Sphとを参照することによって、特定の条件を満たす場合に、映像信号Sinをメモリ14に書き込む際にメモリ領域141〜143を巡回させるよう制御する制御信号S12を生成する。制御信号S12は、書き込み制御部11,読み出し制御部13,メモリ14に入力される。
【0024】
本実施形態においては、特定の条件とは、インデックス生成部17が生成したインデックス信号が左眼画像のフレームの画素データであることを示すインデックス信号iLであり、フェイズ信号Sphが示すフレーム位相がph2またはph4である場合と、インデックス生成部17が生成したインデックス信号が右眼画像のフレームの画素データであることを示すインデックス信号iRであり、フェイズ信号Sphが示すフレーム位相がph1またはph3の場合である。
【0025】
書き込み制御部11は、映像信号Sinをメモリ14のメモリ領域141〜143のいずれかに書き込む書き込みコマンドC11を生成してメモリ14に供給する。このとき、書き込み制御部11は、制御信号S12に基づいて、映像信号Sinをメモリ領域141〜143に対して巡回的に書き込むよう制御する。書き込み制御部11は例えば“1”,“2”,“3”,“1”,“2”,“3”,“1”…と巡回的にカウントし、フレーム単位でカウンタ値を更新するフレームカウンタを有している。
【0026】
メモリ14は、書き込みコマンドC11として、カウンタ値が“1”のとき映像信号Sinの左眼画像または右眼画像のフレームをメモリ領域141に書き込み、カウンタ値が“2”のときフレームをメモリ領域142に書き込み、カウンタ値が“3”のときフレームをメモリ領域143に書き込む。書き込み制御部11は、制御信号S12に基づいて、上述した特定の条件を満たす場合にフレームカウンタのカウンタ値を更新する。上述した特定の条件を満たさない場合には、フレームカウンタのカウンタ値は更新されない。
【0027】
このように、本実施形態においては、2−3プルダウンのシーケンスの同じフレームが連続する最初のフレーム位相で左眼画像のインデックス信号iLである第1の場合と、2−3プルダウンのシーケンスの同じフレームが連続する最後のフレーム位相で右眼画像のインデックス信号iRである第2の場合に、書き込み制御部11による制御によって、左眼画像のフレームまたは右眼画像のフレームをメモリ領域141〜143に書き込む際の巡回が有効となる。一方、第1及び第2の場合以外の第3の場合では、巡回は無効となって巡回が停止し、左眼画像のフレームまたは右眼画像のフレームは同じメモリ領域に連続して書き込まれる(上書きされる)ことになる。
【0028】
読み出し制御部13は、インデックス信号iL,iRとフェイズ信号Sphと制御信号S12とに基づいて、メモリ領域141〜143のうちの2つの領域から2つのフレーム信号fa,fbそれぞれの画素データを読み出すよう制御する読み出しコマンドC13を生成してメモリ14に供給する。フレーム信号fa,fbは、フレームパッキング方式の映像信号における左眼画像のフレーム信号または右眼画像のフレーム信号である。
【0029】
読み出し制御部13にインデックス信号iLが入力される場合には、読み出し制御部13は、フレーム信号faまたはfbとして、左眼画像のフレーム信号を読み出す読み出しコマンドC13を生成し、インデックス信号iRが入力される場合には、読み出し制御部13は、フレーム信号faまたはfbとして、右眼画像のフレーム信号を読み出す読み出しコマンドC13を生成する。
【0030】
メモリ14から読み出されたフレーム信号fa,fbそれぞれの画素データは、補間フレーム生成部15に入力される。補間フレーム生成部15は、フレーム信号fa,fbそれぞれの画素データを用い、動きベクトルMV(MV-L,MV-R)を参照することによって、フレーム信号fa,fbそれぞれのフレームの間に内挿する補間フレーム信号fiを構成する補間画素データを順次生成する。補間フレーム生成部15によって生成された補間フレーム信号fiは、フレームレート変換部16に入力される。
【0031】
フレームレート変換部16は、フェイズ信号Sphを参照しつつ、適切なシーケンスとなるよう、映像信号Sinの隣接するフレーム間に補間フレーム信号fiによって生成された補間フレームを内挿し、フレームレートを120Hzに変換して映像信号Soutとして出力する。
【0032】
次に、図3を用いて、本実施形態の映像信号処理装置の動作について改めて説明する。図3において、入力映像信号Sinは、左眼画像のフレームZ-Lと右眼画像のフレームZ-Rとの組に続き、左眼画像のフレームA-Lと右眼画像のフレームA-Rとの組が3フレーム、左眼画像のフレームB-Lと右眼画像のフレームB-Rとの組が2フレーム、左眼画像のフレームC-Lと右眼画像のフレームC-Rとの組が3フレームと続いている。なお、左眼画像のフレームZ-Lと右眼画像のフレームZ-Rとの組の前には、左眼画像のフレームY-Lと右眼画像のフレームY-Rとの組が存在している。フェイズ信号Sphが示すフレーム位相はph1,ph2,ph3,ph4,ph5とインデックス信号iL,iRは、図3のようになっている。
【0033】
映像信号Sinが左眼画像のフレームZ-Lのとき、書き込み制御部11のフレームカウンタが例えば“1”であるとする。上述のように、インデックス信号iLでフレーム位相がph2,ph4のとき、インデックス信号iRでフレーム位相がph1,ph3のとき、制御信号S12が書き込み制御部11へと供給されてフレームカウンタのカウンタ値が更新される。従って、フレーム位相ph3における右眼画像のフレームZ-Rのとき、カウンタ値は“2”となり、続くフレーム位相ph4の左眼画像のフレームA-Lのとき、カウンタ値は“3”となる。その後、フレーム位相ph4の右眼画像のフレームA-Rからフレーム位相ph1の左眼画像のフレームA-Lまでカウンタ値は更新されない。
【0034】
フレーム位相ph1の右眼画像のフレームA-Rのとき、カウンタ値は“1”に戻り、フレーム位相ph2の左眼画像のフレームB-Lのとき、カウンタ値は“2”となる。以下、同様にして、上記の条件のときのみカウンタ値が更新される。
【0035】
映像信号Sinの左眼画像または右眼画像のフレームは、フレームカウンタのカウンタ値に対応したメモリ領域へと書き込まれる。カウンタ値が“1”であれば、左眼画像または右眼画像のフレームがメモリ領域141に書き込まれ、カウンタ値が“2”であれば、左眼画像または右眼画像のフレームがメモリ領域142に書き込まれ、カウンタ値が“3”であれば、左眼画像または右眼画像のフレームがメモリ領域143に書き込まれる。図3に示すメモリ14のメモリ領域141〜143において、ハッチングを付しているメモリ領域はフレームの書き込みが更新されたメモリ領域を示している。
【0036】
左眼画像のフレームZ-Lはカウンタ値が“1”であるので、メモリ領域141に書き込まれ、右眼画像のフレームZ-Rはカウンタ値が“2”であるので、メモリ領域142に書き込まれる。これに続く左眼画像のフレームA-Lはカウンタ値が“3”であるので、メモリ領域143に書き込まれる。その後、フレーム位相ph4の右眼画像のフレームA-Rからフレーム位相ph1の左眼画像のフレームA-Lまでカウンタ値は更新されないので、映像信号Sinの左眼画像または右眼画像のフレームはメモリ領域143に順次書き込まれて、メモリ領域143に書き込まれるフレームが更新されることになる。
【0037】
フレーム位相ph1の右眼画像のフレームA-R以降も同様に、映像信号Sinの左眼画像または右眼画像のフレームはカウンタ値に応じたメモリ領域141〜143いずれかのメモリ領域に書き込まれる。
【0038】
図3に示すように、読み出し制御部13は、インデックス信号iLのときには、互いに異なる左眼画像の2フレームをフレーム信号fa,fbとして読み出すよう制御し、インデックス信号iRのときには、互いに異なる右眼画像の2フレームをフレーム信号fa,fbとして読み出すよう制御する。図3より分かるように、左眼画像のフレームと右眼画像のフレームのそれぞれで、隣接する2フレームをフレーム信号fa,fbとして読み出すことができる。
【0039】
隣接する2フレームのフレーム信号fa,fbによって、次のように出力映像信号Soutが生成される。フレーム位相ph4の左眼画像のフレームZ-L,A-Lに基づいて補間フレームZA1-Lが生成され、フレーム位相ph4の右眼画像のフレームZ-R,A-Rに基づいて補間フレームZA1-Rが生成される。フレーム位相ph5の左眼画像のフレームZ-L,A-Lに基づいて補間フレームZA2-Lが生成され、フレーム位相ph5の右眼画像のフレームZ-R,A-Rに基づいて補間フレームZA2-Rが生成される。
【0040】
フレーム位相ph1の左眼画像のフレームZ-L,A-Lでは、左眼画像のフレームA-Lがそのまま出力され、フレーム位相ph1の右眼画像のフレームZ-R,A-Rでは、右眼画像のフレームA-Rがそのまま出力される。以下同様にして、補間フレームAB1-L,AB1-R,AB2-L,AB2-R,BC1-L,BC1-R,BC2-L,BC2-Rが生成される。フレーム位相ph1の左眼画像のフレームB-L,C-Lでは、左眼画像のフレームC-Lがそのまま出力され、フレーム位相ph1の右眼画像のフレームB-R,C-Rでは、右眼画像のフレームC-Rがそのまま出力される。
【0041】
出力映像信号Soutのフレームレートは120Hzであり、入力映像信号Sinのフレームレート60Hzの2倍である。出力映像信号Soutに変換した後のフレーム位相は、図3に示すように、フレーム位相ph1ではph11,ph12、フレーム位相ph2ではph21,ph22、フレーム位相ph3ではph31,ph32、フレーム位相ph4ではph41,ph42、フレーム位相ph5ではph51,ph52となる。
【0042】
さらに図4を用いて、本実施形態の映像信号処理装置による補間フレームの生成動作について説明する。図4(A)は、フレームレート60Hzであり、2−3プルダウン変換によって生成されたフレームパッキング方式の映像信号Sinにおける左眼画像及び右眼画像のフレームの所定の動きを示している。3D映像では、左眼画像と右眼画像とが両眼視差を有するので、左眼画像と右眼画像とは異なる動きとなるのが一般的である。図4(A)に示す例では、左眼画像のフレームA-L,B-L,C-Lで物体の位置が水平に移動し、右眼画像のフレームA-R,B-R,C-Rで物体の位置が水平に移動している。
【0043】
2−3プルダウン変換によってフレーム位相ph2,ph3が同じフレームの組であり、フレーム位相ph4,ph5,ph1が同じフレームの組である。物体は2フレームまたは3フレームごとに移動するため、画像の動きが滑らかでなく、ジャダとして知覚される。
【0044】
図4(B)は、フレームレート120Hzに変換され、ジャダが除去されて画像の動きが滑らかとなった映像信号Soutの各フレームを示している。ハッチングを付している左眼画像のフレームA-L,C-Lは、図3で説明したように、図4(A)の元の左眼画像のフレームA-L,C-Lがそのまま出力される。左眼画像のフレームA-L,C-L間では、補間フレームAB1-L,AB2-L,BC1-L,BC2-Lが出力される。ハッチングを付している右眼画像のフレームA-R,C-Rは、図3で説明したように、図4(A)の元の右眼画像のフレームA-R,C-Rがそのまま出力される。右眼画像のフレームA-R,C-R間では、補間フレームAB1-R,AB2-R,BC1-R,BC2-Rが出力される。
【0045】
図4(B)に示すように、動きベクトルMVは、左眼画像のフレームにおいては動きベクトルMV-Lとして検出され、右眼画像のフレームにおいては動きベクトルMV-Rとして検出されている。左眼画像の補間フレームAB1-L,AB2-L,BC1-L,BC2-L及び右眼画像の補間フレームAB1-R,AB2-R,BC1-R,BC2-Rは、それぞれ、動きベクトルMV-L,MV-Rを参照し、図4(A)の映像信号Sinにおける2つのフレームの時間距離に応じた割合で混合して生成する。
【0046】
図4(A)の映像信号Sinにおける左眼画像のフレームB-Lと右眼画像のフレームB-Rは映像信号Soutとしては出力しないが、左眼画像のフレームB-Lは左眼画像のフレームA-L,C-Lの時間的な中間位置(フレーム位相ph41)に位置し、右眼画像のフレームB-Rは右眼画像のフレームA-R,C-Rの時間的な中間位置(フレーム位相ph42)に位置するものとして補間フレームの生成に利用する。
【0047】
例えば、補間フレームAB1-Lは、左眼画像のフレームA-L(フレーム位相ph12)と左眼画像のフレームB-L(フレーム位相ph41)との時間距離比が2:3であるので、フレームA-L,B-Lとを混合比3:2で混合することによって生成することができる。また、補間フレームAB2-Lは、左眼画像のフレームA-Lと左眼画像のフレームB-Lとの時間距離比が4:1であるので、フレームA-L,B-Lとを混合比1:4で混合することによって生成することができる。
【0048】
以上のようにして、本実施形態の映像信号処理装置及び映像信号処理方法によれば、メモリ14に設けるメモリ領域をメモリ領域141〜143の3フレーム分(フレームパッキング方式の映像信号における左眼画像または右眼画像の3フレーム分)として、映像信号Sinにおける2つのフレームを用いてそれぞれの補間フレームを生成することが可能となる。従って、フレームパッキング方式の映像信号の左眼画像または右眼画像のフレームを一時的に記憶するメモリの容量の増加を極力抑えることができる。
【0049】
以上説明した本実施形態の映像信号処理装置及び映像信号処理方法と同等の構成をコンピュータプログラムによって実現することも可能である。コンピュータに接続されたROM等の記憶媒体に映像信号処理プログラムを記憶しておき、映像信号処理プログラムをコンピュータによって動作させることによって、コンピュータを映像信号処理装置として機能させることができ、上述した映像信号処理方法と同様の各ステップを実行させることが可能である。
【0050】
この場合、コンピュータに、映像信号Sinと同期信号Ssyとフェイズ信号Sphと動きベクトルMVを入力し、コンピュータに接続されたRAM等の作業用のメモリ領域に左眼画像または右眼画像のフレームを記憶させつつ、補間フレームを生成すればよい。本実施形態の映像信号処理プログラムによれば、RAM等の作業用のメモリ領域はメモリ14と同様、左眼画像または右眼画像のフレームを記憶する容量としては、3フレーム分の容量を有すればよいことになる。Ssyとフェイズ信号Sphや動きベクトルMVをコンピュータによって生成してもよい。
【0051】
本発明は以上説明した本実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々変更可能である。本実施形態では、フレームレート変換を行う構成について示したが、フレームレートを変換しなくてもよい。
【符号の説明】
【0052】
11 書き込み制御部
12 書き込み領域巡回制御部
13 読み出し制御部
14 メモリ
15 補間フレーム生成部
16 フレームレート変換部
17 インデックス生成部
141〜143 メモリ領域
図1
図2
図3
図4