特許第5835932号(P5835932)IP Force 特許公報掲載プロジェクト 2015.5.11 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ キヤノン株式会社の特許一覧
<>
  • 特許5835932-画像処理装置、及びその制御方法 図000002
  • 特許5835932-画像処理装置、及びその制御方法 図000003
  • 特許5835932-画像処理装置、及びその制御方法 図000004
  • 特許5835932-画像処理装置、及びその制御方法 図000005
  • 特許5835932-画像処理装置、及びその制御方法 図000006
  • 特許5835932-画像処理装置、及びその制御方法 図000007
  • 特許5835932-画像処理装置、及びその制御方法 図000008
  • 特許5835932-画像処理装置、及びその制御方法 図000009
  • 特許5835932-画像処理装置、及びその制御方法 図000010
  • 特許5835932-画像処理装置、及びその制御方法 図000011
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】5835932
(24)【登録日】2015年11月13日
(45)【発行日】2015年12月24日
(54)【発明の名称】画像処理装置、及びその制御方法
(51)【国際特許分類】
   H04N 21/4728 20110101AFI20151203BHJP
   H04N 21/488 20110101ALI20151203BHJP
   H04N 7/18 20060101ALI20151203BHJP
   H04N 5/445 20110101ALI20151203BHJP
【FI】
   H04N21/4728
   H04N21/488
   H04N7/18 U
   H04N5/445 Z
【請求項の数】8
【全頁数】17
(21)【出願番号】特願2011-94374(P2011-94374)
(22)【出願日】2011年4月20日
(65)【公開番号】特開2012-34343(P2012-34343A)
(43)【公開日】2012年2月16日
【審査請求日】2014年4月16日
(31)【優先権主張番号】特願2010-152071(P2010-152071)
(32)【優先日】2010年7月2日
(33)【優先権主張国】JP
【前置審査】
(73)【特許権者】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】100076428
【弁理士】
【氏名又は名称】大塚 康徳
(74)【代理人】
【識別番号】100112508
【弁理士】
【氏名又は名称】高柳 司郎
(74)【代理人】
【識別番号】100115071
【弁理士】
【氏名又は名称】大塚 康弘
(74)【代理人】
【識別番号】100116894
【弁理士】
【氏名又は名称】木村 秀二
(74)【代理人】
【識別番号】100130409
【弁理士】
【氏名又は名称】下山 治
(74)【代理人】
【識別番号】100134175
【弁理士】
【氏名又は名称】永川 行光
(72)【発明者】
【氏名】浅沼 知也
【審査官】 松元 伸次
(56)【参考文献】
【文献】 特開2003−143505(JP,A)
【文献】 特開2007−150747(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N5/222−5/257
5/38−5/46
7/10
7/14−7/56
21/00−21/858
(57)【特許請求の範囲】
【請求項1】
視点が異なる複数の画像データに基づいて生成される、ユーザに指定された任意の視点における画像データである任意視点画像データを取得する第1取得手段と、
前記第1取得手段で取得した前記任意視点画像データを表示部に出力する出力手段と、
前記視点が異なる複数の画像データの画像に関する第1視点情報と、前記任意視点画像データの画像に関する第2視点情報との一致の度合いを第1閾値と比較し、当該比較の結果に応じて、前記ユーザに対する通知を行う通知手段と、
を備え、
前記通知手段は、前記一致の度合いを、前記第1閾値及び前記第1閾値よりも小さい第2閾値と比較し、当該比較の結果に応じて、前記一致の度合いが前記第1閾値以上である場合の通知が、前記一致の度合いが前記第1閾値未満で前記第2閾値以上である場合の通知と異なるように、前記ユーザに対する通知を行う
ことを特徴とする画像処理装置。
【請求項2】
前記第1視点情報として、前記視点が異なる複数の画像データの各画像に関する視点情報を複数取得する第2取得手段と、
複数の前記第1視点情報それぞれについて前記第2視点情報との一致の度合いを判定する判定手段とを更に備え、
前記判定手段は、前記複数の第1視点情報それぞれと前記第2視点情報との一致の度合いのうちの最大値が前記第1閾値以上であるか否かを判定し、
前記通知手段は、前記最大値が前記第1閾値以上であると前記判定手段で判定された場合に、前記通知を行う
ことを特徴とする請求項1に記載の画像処理装置。
【請求項3】
視点が異なる複数の画像データに基づいて生成される、ユーザに指定された任意の視点における画像データである任意視点画像データを取得する第1取得手段と、
前記第1取得手段で取得した前記任意視点画像データを表示部に出力する出力手段と、
前記視点が異なる複数の画像データの画像に関する第1視点情報と、前記任意視点画像データの画像に関する第2視点情報との一致の度合いを閾値と比較し、当該比較の結果に応じて、前記ユーザに対する通知を行う通知手段と、
前記第1視点情報として、前記視点が異なる複数の画像データの各画像に関する視点情報を複数取得する第2取得手段と、
複数の前記第1視点情報それぞれについて前記第2視点情報との一致の度合いを判定する判定手段と、
を備える画像処理装置であって、
前記判定手段は、前記複数の第1視点情報それぞれと前記第2視点情報との一致の度合いのうちの最大値が前記閾値以上であるか否かを判定し、
前記通知手段は、前記最大値が前記閾値以上であると前記判定手段で判定された場合に、前記通知を行い、
前記画像処理装置は、
前記最大値が前記閾値以上であると前記判定手段で判定された場合に、前記視点が異なる複数の画像データのうち、前記一致の度合いが当該最大値である画像データを受信する受信手段と、
ユーザの指示に応じて、前記任意視点画像データの代わりに前記一致の度合いが当該最大値である画像データを前記表示部に出力するように前記出力手段を制御する制御手段と、を更に備える
ことを特徴とする画像処理装置。
【請求項4】
前記第2取得手段は、前記第1視点情報として、放送信号に含まれる画像データの画像に関する視点情報を更に取得することを特徴とする請求項又はに記載の画像処理装置。
【請求項5】
画像処理装置の制御方法であって、
前記画像処理装置の第1取得手段が、視点が異なる複数の画像データに基づいて生成される、ユーザに指定された任意の視点における画像データである任意視点画像データを取得する第1取得工程と、
前記画像処理装置の出力手段が、前記第1取得工程で前記第1取得手段が取得した前記任意視点画像データを表示部に出力する出力工程と、
前記画像処理装置の通知手段が、前記視点が異なる複数の画像データの画像に関する第1視点情報と、前記任意視点画像データの画像に関する第2視点情報との一致の度合いを第1閾値と比較し、当該比較の結果に応じて、前記ユーザに対する通知を行う通知工程と、
を備え、
前記通知工程では、前記一致の度合いを、前記第1閾値及び前記第1閾値よりも小さい第2閾値と比較し、当該比較の結果に応じて、前記一致の度合いが前記第1閾値以上である場合の通知が、前記一致の度合いが前記第1閾値未満で前記第2閾値以上である場合の通知と異なるように、前記ユーザに対する通知を行う
ことを特徴とする制御方法。
【請求項6】
前記画像処理装置の第2取得手段が、前記第1視点情報として、前記視点が異なる複数の画像データの各画像に関する視点情報を複数取得する第2取得工程と、
前記画像処理装置の判定手段が、複数の前記第1視点情報それぞれについて前記第2視点情報との一致の度合いを判定する判定工程とを更に備え、
前記判定工程では、前記複数の第1視点情報それぞれと前記第2視点情報との一致の度合いのうちの最大値が前記第1閾値以上であるか否かを判定し、
前記通知工程では、前記最大値が前記第1閾値以上であると前記判定工程で判定された場合に、前記通知を行う
ことを特徴とする請求項に記載の制御方法。
【請求項7】
画像処理装置の制御方法であって、
前記画像処理装置の第1取得手段が、視点が異なる複数の画像データに基づいて生成される、ユーザに指定された任意の視点における画像データである任意視点画像データを取得する第1取得工程と、
前記画像処理装置の出力手段が、前記第1取得工程で前記第1取得手段が取得した前記任意視点画像データを表示部に出力する出力工程と、
前記画像処理装置の通知手段が、前記視点が異なる複数の画像データの画像に関する第1視点情報と、前記任意視点画像データの画像に関する第2視点情報との一致の度合いを閾値と比較し、当該比較の結果に応じて、前記ユーザに対する通知を行う通知工程と、
前記画像処理装置の第2取得手段が、前記第1視点情報として、前記視点が異なる複数の画像データの各画像に関する視点情報を複数取得する第2取得工程と、
前記画像処理装置の判定手段が、複数の前記第1視点情報それぞれについて前記第2視点情報との一致の度合いを判定する判定工程と、
を備え、
前記判定工程では、前記複数の第1視点情報それぞれと前記第2視点情報との一致の度合いのうちの最大値が前記閾値以上であるか否かを判定し、
前記通知工程では、前記最大値が前記閾値以上であると前記判定工程で判定された場合に、前記通知を行い、
前記制御方法は、
前記最大値が前記閾値以上であると前記判定工程で判定された場合に、前記画像処理装置の受信手段が、前記視点が異なる複数の画像データのうち、前記一致の度合いが当該最大値である画像データを受信する受信工程と、
前記画像処理装置の制御手段が、ユーザの指示に応じて、前記任意視点画像データの代わりに前記一致の度合いが当該最大値である画像データを前記表示部に出力するように前記出力工程を制御する制御工程と、を更に備える
ことを特徴とする制御方法。
【請求項8】
前記第2取得工程では、前記第1視点情報として、放送信号に含まれる画像データの画像に関する視点情報を更に取得することを特徴とする請求項又はに記載の制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ユーザが視聴を所望する視点に対応する任意視点映像を再生可能な映像処理装置、及びその制御方法に関する。
【背景技術】
【0002】
デジタル放送が開始され、デジタル放送を受信可能なテレビ(デジタルテレビ)が普及している。現在、本格的なデジタル放送時代を迎え、様々な次世代放送システムの研究・開発が多数行われている。その中のひとつとして、カメラ視点をユーザ(視聴者)が自由に指示できる「任意視点映像」が注目されている。ユーザが指示したカメラ視点に対応する任意視点映像は、複数の視点で撮影された映像を用いて生成される。
【0003】
「任意視点映像」と「カメラで実際に撮像された映像(カメラ映像)」との表示の切り替えに関連する技術として、特許文献1が知られている。特許文献1には、放送映像と放送映像に対する視点情報とを含む放送ストリームを受信する受信装置が開示されている。この受信装置は、任意視点映像の配信要求を行う際に、任意視点映像の視点の初期値として放送ストリームから抽出した放送映像の視点情報を利用する。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2007−150747号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
任意視点映像は、視点の異なる複数のカメラから得られる映像を合成することにより生成されるため、一般的に任意視点映像の生成のために用いたカメラからの映像ほどは画質が高くない。従って、カメラからの映像がユーザの要求する視点からの映像だった場合、画質を考慮すると、ユーザはカメラからの映像の方が任意視点映像よりも高い満足度を得られると考えられる。しかしながら、任意視点映像を視聴中のユーザは、自分の要求する視点と近い視点からのカメラからの映像が存在するかどうかを知ることができない。特許文献1に記載の技術は、放送映像(カメラからの映像)から任意視点映像への切り替えを対象とするが、任意視点映像の視聴中に、ユーザの要求する視点とカメラからの映像の視点との関係について認識することができなかった。
【0006】
本発明はこのような状況に鑑みてなされたものであり、視聴中の任意視点映像の視点に近い視点のカメラ映像の存在をユーザに通知する技術を提供することを目的とする。
【課題を解決するための手段】
【0007】
上記課題を解決するために、第1の本発明は、視点が異なる複数の画像データに基づいて生成される、ユーザに指定された任意の視点における画像データである任意視点画像データを取得する第1取得手段と、前記第1取得手段で取得した前記任意視点画像データを表示部に出力する出力手段と、前記視点が異なる複数の画像データの画像に関する第1視点情報と、前記任意視点画像データの画像に関する第2視点情報との一致の度合いを第1閾値と比較し、当該比較の結果に応じて、前記ユーザに対する通知を行う通知手段と、を備え、前記通知手段は、前記一致の度合いを、前記第1閾値及び前記第1閾値よりも小さい第2閾値と比較し、当該比較の結果に応じて、前記一致の度合いが前記第1閾値以上である場合の通知が、前記一致の度合いが前記第1閾値未満で前記第2閾値以上である場合の通知と異なるように、前記ユーザに対する通知を行うことを特徴とする画像処理装置を提供する。
【0008】
なお、その他の本発明の特徴は、添付図面及び以下の発明を実施するための形態における記載によって更に明らかになるものである。
【発明の効果】
【0009】
以上の構成により、本発明によれば、視聴中の任意視点映像の視点に近い視点のカメラ映像の存在をユーザに通知することが可能となる。
【図面の簡単な説明】
【0010】
図1】第1の実施形態に係るデジタル放送受信装置100を含むシステムの構成例を示す図
図2】デジタル放送受信装置100及び放送局250の詳細な構成を示すブロック図
図3】(a)第1の実施形態に係る任意視点映像再生処理を示すシーケンス図、(b)任意視点映像再生処理の他の例を示すシーケンス図
図4】複数の固定カメラ252の各映像の視点(被撮像空間に対する視点)を表す視点情報(撮像視点情報)を取得する処理を示すフローチャート
図5】任意視点映像の視点とカメラ映像の視点との一致度を取得する処理を示すフローチャート
図6】視聴中の任意視点映像の視点に近い視点のカメラ映像の存在をユーザに通知する処理を示すフローチャート
図7】一致度の閾値として複数の閾値が使用される場合の概念図
図8】通知表示GUIの具体例を示す図
図9】通知表示GUIの具体例を示す図
図10】変形例1に係る、視聴中の任意視点映像の視点に近い視点のカメラ映像の存在をユーザに通知する処理を示すフローチャート
【発明を実施するための形態】
【0011】
以下、添付図面を参照して、本発明の実施形態を説明する。なお、本発明の技術的範囲は、特許請求の範囲によって確定されるのであって、以下の個別の実施形態によって限定されるわけではない。また、実施形態の中で説明されている特徴の組み合わせすべてが、本発明に必須とは限らない。
【0012】
[第1の実施形態]
本発明の映像処理装置をデジタル放送受信装置に適用した実施形態について説明する。本実施形態のデジタル放送受信装置は、デジタル放送波(放送信号)に含まれる放送映像を受信可能であり、また、複数のカメラ(撮像装置)それぞれが異なる視点から被撮像空間を撮像することにより得られる複数の映像データをインターネット経由で取得可能である。本実施形態において、「任意視点映像」は、このような複数の映像に基づいて生成される、ユーザに指定された任意の視点から見た前記被撮像空間の仮想的な映像を意味する。本実施形態において任意視点映像は、複数のカメラから得られる複数の映像データを用いて生成されることを想定するが、任意視点映像を生成するための複数の映像データは、複数の視点からのアニメーション映像データやCG映像データなどでもよい。
【0013】
図1は、第1の実施形態に係るデジタル放送受信装置100を含むシステムの構成例を示す図である。デジタル放送受信装置100は、イーサネット(登録商標)101を介して、ルータ103やその他のネットワークデバイス102と通信可能である。デジタル放送受信装置100は、ルータ103を介してインターネット104に接続している。また、デジタル放送受信装置100は、アンテナ105からデジタル放送波を受信し、デジタル放送を再生することができる。
【0014】
図2は、デジタル放送受信装置100及び放送局250の詳細な構成を示すブロック図である。デジタル放送受信装置100は、放送局250が放送する放送映像を受信することができる。最初に、放送映像の受信及び再生等に関係するブロックについて説明する。
【0015】
図2において、アンテナ105により受信された信号は、チューナ部210に入力される。チューナ部210は、トランスポートストリームデータ(TS)を生成する。チューナ部210は、デスクランブラ211を経て、複数チャンネル分の映像、音声データ、及び番組情報データ等が多重化されているTSをデータ分離部212へ出力する。データ分離部212は、リモコン201により選択された番組の音声データ、映像データ、及び番組情報データをTSの中から取り出し、それぞれを音声デコード部213、映像デコード部214、番組情報デコード部215へ入力する。
【0016】
映像デコード部214は、データ分離部212から入力された映像データに対して、MPEG等の復号化処理を施し、復号した映像データを映像処理部217に出力する。音声デコード部213は、データ分離部212から入力された音声データに対して復号化処理を施し、音声制御部219へ出力する。音声制御部219は、音声データに対して、D/A(Digital/Analog)変換処理等を施し、音声出力部221に出力する。
【0017】
番組情報デコード部215は、データ分離部212から入力された番組情報データから所望の情報を取得し、番組情報処理部216、映像処理部217、及びGUI(Graphic User Interface)処理部218へ出力する。番組情報データには、SI(Service Information)データ、及びPSI(Program Specific Information)データが含まれている。
【0018】
映像処理部217は、映像デコード部214から入力された映像データと、番組情報デコード部215から入力された番組情報とに基づいて映像調整処理を施し、調整した映像データを表示制御部220へ出力する。表示制御部220は、映像処理部217及びGUI処理部218から入力された映像データや画面データをリモコン201からの操作に応じて切り替えたり、合成したりするなどしたりして、表示部222へ出力する。選局処理部223は、リモコン201により選局されたチャンネルの音声データ、映像データ及び番組情報データを、チューナ部210を介して受信できるように処理を行う。時間処理部224は、時間のカウントを行う。またメモリ管理部225は、デジタル放送受信装置100内に存在する不図示のメモリの管理を行う。
【0019】
システム制御部226はCPUを有し、不図示のメモリに記憶されたプログラムを実行することにより、各構成要素を統括的にコントロールする。システム制御部226はまた、リモコン201からの指示を受光部202経由で受信する。
【0020】
次に、図2に加えて図3(a)を参照して、任意視点映像生成用データの取得や任意視点映像の再生に関連するブロックについて説明する。図3(a)は、第1の実施形態に係る任意視点映像再生処理を示すシーケンス図である。図3(a)では、デジタル放送受信装置100が任意視点映像を生成する。図3(a)の処理に先立ち、デジタル放送受信装置100は、放送局250の任意視点映像生成用データサーバ251とインターネット104経由で接続する。なお、任意視点映像生成用データを生成する任意視点映像生成用データサーバ251は、放送局250の外にあってもよい。任意視点映像は、視点の異なる複数のカメラ映像を用いて生成する。ここで、カメラ映像とは、任意視点映像が表す被撮像空間の映像であって、カメラ(撮像装置)で実際に撮像された映像を意味する。カメラの例としては、例えば、固定カメラ252や放送カメラ240が挙げられる。ここで、固定カメラ252とは、撮影位置および撮影方向が所定期間中変化しないカメラであり、放送カメラ240とは、ハンディカメラ等のように所定期間内に撮影位置または撮影方向が変化するカメラを想定する。任意視点映像は、固定カメラ252及び放送カメラ240の映像を用いて生成することが可能である。放送カメラ240は複数台あってもよい。デジタル放送送信システム241が送信する放送番組の映像は、放送カメラ240の映像から作成される。放送カメラ240が複数台ある場合には、放送番組の映像は、複数台の放送カメラからの映像を適宜切り替えて作成できる。カメラは、上記のものに限定される訳ではなく、生成する任意視点映像と同じ被撮像空間の映像を表す、デジタル放送受信装置100が取得可能な(受信可能な)映像データを提供するものであれば、どのようなものでも構わない。本実施形態においては、複数の固定カメラ252を用いて任意視点映像を生成する場合について説明する。
【0021】
S300で、任意視点情報処理部232は、リモコン201を介して、ユーザからの任意視点映像の視聴要求を受信する。このとき任意視点情報処理部232は、任意視点映像の視聴要求として、視聴を所望するチャンネル名または番組名と共に、ユーザがリモコンを介して入力した、視聴を所望する映像の視点情報を受信する。ユーザが視聴を所望する映像の視点情報を入力するにあたり、デジタル放送受信装置100は、放送局250からインターネット経由または放送波経由で、視聴を所望する番組における被撮像空間において設定された座標空間に関する情報を受信する。例えば、ユーザが入力した視聴を所望するチャンネル名または番組名に基づいてデジタル放送受信装置100が受信する該番組の映像に、該番組の映像の被撮像空間において任意に設定された座標空間に関する情報が関連付けられているものを受信する。または、ユーザが視聴を所望するチャンネル名または番組名に基づいて、デジタル放送受信装置100が任意視点映像生成用データサーバ251に、該番組の映像の被撮像空間において任意に設定された座標空間に関する情報を送信するように要求してもよい。このように受信した座標空間に関する情報に基づいて、GUI処理部218は、被撮像空間を示すGUIを作成し、表示制御部220は、生成されたGUIを表示部222に表示する。ユーザは、被撮像空間に設定された座標空間における視点を、リモコンを介してGUIを利用して指定することにより、視聴を所望する映像の視点情報を入力する。本発明において映像の視点情報とは、少なくとも被撮像空間における視点位置(座標位置)及び視線方向(パン・チルト角)に関する情報を含む。更に、映像の画角情報(映像に映し出される有効映像領域の大きさ)やズーム率の情報を含んでいてもよい。任意視点情報処理部232は、ユーザが指定した視点情報を内部に記憶する。ユーザが視聴を所望する映像の視点情報の入力方法としては、上記に限られず、例えば被撮像空間に設定された座標空間における視点を数値入力するものでもよく、任意視点映像生成用データサーバ251から送信される、予め決められた複数の視点の中から選択するものでもよい。また、システム制御部226は、ユーザからの視点の変更要求に応じて、被撮像空間を示すGUIを表示部222に表示させるよう、表示制御部220を制御する。S301で、任意視点情報処理部232は、ユーザが視聴を所望する視点における任意視点映像を生成するための任意視点映像作成用データを取得するために、任意視点映像作成用データ取得要求を作成する。S302で、任意視点情報処理部232は、作成された任意視点映像作成用データ取得要求を、要求データ処理部234及び通信制御部227を経由して放送局250の任意視点映像生成用データサーバ251に送信する。任意視点映像作成用データ取得要求の送信に関して具体的には、任意視点映像生成用データサーバ251側で、任意視点映像を生成するために必要な映像データを判断できるように、ユーザがリモコンを介して入力した、視聴を所望する映像の視点情報を送信する。
【0022】
S303で、任意視点映像生成用データサーバ251は、デジタル放送受信装置100から受信した任意視点映像作成用データ取得要求を解析する。S304で、任意視点映像生成用データサーバ251は、複数の固定カメラ252から映像データを取得する。複数の固定カメラ252は、それぞれが異なる視点から被撮像空間(例えば、サッカー競技場)を撮像するように(例えば、被撮像空間を取り囲むように)設置されている。任意視点映像生成用データサーバ251は、取得した映像データに基づき、任意視点映像作成用データを作成する。S305で、任意視点映像生成用データサーバ251は、作成した任意視点映像作成用データをデジタル放送受信装置100へ送信する。
【0023】
任意視点映像作成用データとは具体的には、複数の固定カメラ252から取得した複数の映像データの中で、任意視点映像を生成するために必要な映像データ及び各映像データの撮影位置に関する情報である。任意視点映像作成用データの作成に際して、複数の固定カメラ252から取得した映像データを、任意視点映像データを作成しやすいように加工してもよい。任意視点映像作成用データは上記に限られず、例えば複数の固定カメラ252から取得した全ての映像データ及び各映像データの撮影位置に関する情報を任意視点映像作成用データとしてもよい。
【0024】
S306で、受信データ解析部230は、通信制御部227を介して受信した任意視点映像生成用データを解析し、任意視点映像生成用データを解析結果と共に任意視点情報処理部232に出力する。S307で、任意視点情報処理部232(任意視点映像データ取得手段)は、入力された任意視点映像作成用データ及び解析結果に基づいて任意視点映像を生成する。S308で、任意視点情報処理部232は、任意視点映像を表示制御部220へ出力する。表示制御部220は、入力された任意視点映像と(必要であれば)GUI処理部218から入力されたGUIとを合成して表示部222へ出力する。これにより、任意視点映像が表示される。
【0025】
デジタル放送受信装置100は、ユーザによる視点情報の入力に際し、該番組の映像の被撮像空間に関する情報の受信と共に予め、該被撮像空間を撮影している複数の固定カメラ252全ての映像データ及び各映像データの撮影位置に関する情報を受信していてもよい。その場合は図3(a)のS302からS305のように、任意視点映像作成用データの要求及び送受信を行わなくてもよい。デジタル放送受信装置100が、複数の固定カメラ252の撮影位置に関する情報のみを予め受信していてもよい。その場合は、任意視点映像を生成するために、複数の固定カメラ252の撮影位置に関する情報から、必要な固定カメラ252をデジタル放送受信装置100側で決定し、S302において、該固定カメラ252の映像データの要求を送信してもよい。図3(a)の処理ではデジタル放送受信装置100が任意視点映像を生成したが、他の場所で生成が行われてもよい。一例として、図3(b)は、任意視点映像生成用データサーバが任意視点映像を生成する場合を示す。図3(b)において、図3(a)と同一又は同様の処理が行われるステップには同一の符号を付し、説明を省略する。
【0026】
S311で、任意視点情報処理部232は、ユーザが視聴を所望する視点における任意視点映像を取得する要求を作成する。S312で、任意視点情報処理部232は、作成された任意視点映像取得要求を、要求データ処理部234及び通信制御部227を経由して放送局250の任意視点映像生成用データサーバ251に送信する。その際送信されるデータとしては、少なくともユーザがリモコンを介して入力した、視聴を所望する映像の視点情報を含む。
【0027】
S313で、任意視点映像生成用データサーバ251は、デジタル放送受信装置100から受信した任意視点映像データ取得要求を解析する。S314で、任意視点映像生成用データサーバ251は、複数の固定カメラ252から映像データ及び映像データの撮影位置に関する情報を取得し、取得した映像データに基づき、任意視点映像データを生成する。S315で、任意視点映像生成用データサーバ251は、生成した任意視点映像データをデジタル放送受信装置100へ送信する。S316で、任意視点情報処理部232は、任意視点映像データを表示制御部220へ出力する。表示制御部220は、入力された任意視点映像データと(必要であれば)GUI処理部218から入力されたGUIとを合成して表示部222へ出力する。これにより、任意視点映像が表示される。
【0028】
以上の図3(a)又は図3(b)の処理の繰り返しにより、デジタル放送受信装置100は、ユーザが視聴を所望する視点における任意視点映像を再生することができる。図3(a)又は図3(b)の処理は、少なくとも、ユーザが視聴を所望する映像の視点情報を、リモコンを介して任意視点情報処理部232が受信する度に行われる。例えば、S300において、任意視点映像を視聴中に、ユーザが視聴を所望する視点を変更する要求がリモコンを介して入力される度に行われる。これにより、ユーザが視聴を所望する視点を変更させた場合にも、変更後の視点における任意視点映像を再生することができる。
【0029】
次に、視聴中の(即ち、デジタル放送受信装置100が出力中の)任意視点映像の視点に近い視点のカメラ映像を検出する処理について説明する。
【0030】
最初に、図4乃至図9を参照して、複数の固定カメラ252により得られた複数の映像データの各映像の中から任意視点映像の視点に近い視点を持つ映像を検出する場合について説明する。
【0031】
図4は、複数の固定カメラ252の各映像の視点(被撮像空間に対する視点)を表す視点情報(撮像視点情報)を取得する処理を示すフローチャートである。本フローチャートの処理は、システム制御部226が各部を制御することにより、所定の間隔(例えば、1秒)毎に定期的に行われる。
【0032】
S401で、固定カメラ情報処理部231は、システム制御部226から現在の映像の出力状態(デジタル放送映像出力中、任意視点映像出力中、外部入力映像出力中など)を取得する。表示制御部220で表示部222に出力している映像が、放送波から受信したデジタル放送映像である場合は、映像の出力状態はデジタル放送映像出力中となる。任意視点情報処理部232で生成された、または、通信制御部227を介して受信する任意視点映像生成用データサーバ251で生成された任意視点映像である場合は、映像の出力状態は任意視点映像出力中となる。デジタル放送受信装置と接続された不図示の外部機器からの映像である場合は、映像の出力状態は外部入力映像出力中となる。S402で、固定カメラ情報処理部231は、現在の出力状態が「任意視点映像出力中」であるか否かを判定する。「任意視点映像出力中」の場合、処理はS403に進み、そうでない場合、処理は終了する。
【0033】
S403で、固定カメラ情報処理部231は、デジタル放送受信装置100が任意視点映像生成用データサーバ251から受信可能なカメラ映像を生成する固定カメラ252の数を取得する。具体的には、固定カメラ情報処理部231は、要求データ処理部234及び通信制御部227を介して、任意視点映像生成用データサーバ251に対して固定カメラ252の数を問い合わせる。その後、S404乃至S406の処理が、固定カメラ252の数と同じ回数、繰り返される。
【0034】
S404で、固定カメラ情報処理部231(撮像視点情報取得手段)は、任意視点映像生成用データサーバ251から固定カメラ252それぞれの視点情報(第1視点情報)を取得する(第1視点情報が複数取得される)。S405で、固定カメラ情報処理部231は、S405において以前に取得した保存済みの視点情報がある場合には、S404で取得した視点情報と比較し、一致するか否かを判定する。一致しない場合、S406で、固定カメラ情報処理部231は、内部に保存済みの視点情報を、今回取得した視点情報に更新する。
【0035】
以上の処理により、固定カメラ情報処理部231には、固定カメラ252それぞれの最新の視点情報が保存される。
【0036】
図4では、固定カメラ情報処理部231は、ステップS402において「任意視点映像出力中」と判定された場合に、固定カメラ252の視点情報を任意視点映像生成用データサーバ251から取得した。しかしながら、固定カメラ情報処理部231は、任意視点情報処理部232が任意視点映像を生成する際に、任意視点映像生成用データサーバ251から任意視点映像作成用データと共に固定カメラ252の視点情報を取得している場合は、特別に図4の処理を行わなくてもよい。つまり、図3(a)で説明したように任意視点映像作成用データとして固定カメラ252の映像データと共に(固定カメラ252の視点情報として利用可能な)各映像データの撮影位置に関する情報が提供される場合、固定カメラ情報処理部231は、固定カメラ252の映像データと共に送られてくる視点情報を用いることができる。
【0037】
次に、図5を参照して、任意視点映像の視点とカメラ映像の視点との一致度(一致の度合い)を取得する処理について説明する。本実施形態において一致度は、任意視点映像の視点とカメラ映像の視点とが類似しているほど高い値を示す。図5の処理は、図3(a)又は図3(b)のS300において、ユーザが視聴を所望する映像の視点情報を、リモコンを介して任意視点情報処理部232が受信した場合、及び、図4のS406において固定カメラ252の視点情報が更新された場合に実行される。図5において、図4と同一又は同様の処理が行われるステップには同一の符号を付し、説明を省略する。図5のフローチャートの処理は、図4と同様にシステム制御部226が各部を制御することにより実行される。
【0038】
S503で、視点情報処理部233(任意視点情報取得手段)は、任意視点情報処理部232から、任意視点映像の視点(被撮像空間に対する視点)を表す視点情報(任意視点情報)(第2視点情報)を取得する。S504で、視点情報処理部233は、固定カメラ情報処理部231から、(図4のS406でその映像データの視点情報を保存済みの)固定カメラ252の数を取得する。その後、S505乃至S507の処理が、固定カメラ252の数と同じ回数、繰り返される。
【0039】
S505で、視点情報処理部233は、固定カメラ情報処理部231から各固定カメラ252の視点情報を取得する。S506で、視点情報処理部233は、各固定カメラ252の各視点情報の各視点と任意視点情報の視点とを比較し、一致度を算出する。S507で、視点情報処理部233は、S506で算出した各固定カメラ252についての一致度を保存する。或いは、視点情報処理部233は、全ての固定カメラ252の一致度を保存するのではなく、任意視点映像の視点と各カメラ映像の視点との一致度の中で最大値の一致度と、これに対応する固定カメラ252を示す情報とを保存してもよい。
【0040】
なお、視点の一致度は、例えば、任意視点情報及びカメラ映像の視点情報(カメラ位置、パン・チルト角、ズーム情報、画角情報など)の比較や、任意視点映像及びカメラ映像の画像の比較などにより算出可能であるが、これらに限定される訳ではない。また、カメラ映像の視点情報として、固定カメラ252の視点情報を用いる構成で説明したが、放送カメラ240の視点情報を任意視点映像生成用データサーバ251から取得して、カメラ映像の視点情報として放送カメラ240の視点情報を含めてもよい。
【0041】
次に、図6を参照して、視聴中の任意視点映像の視点に近い視点のカメラ映像の存在をユーザに通知する処理について説明する。本フローチャートの処理は、例えば、図5の処理に続いて実行される。図6のフローチャートの処理は、図4と同様にシステム制御部226が各部を制御することにより実行される。図6において、図4と同一又は同様の処理が行われるステップには同一の符号を付し、説明を省略する。但し、S402で「NO」と判定された場合、処理はS610へ進む。
【0042】
S603で、視点情報処理部233は、視点の一致度の閾値Aを(例えば不図示のメモリから)取得する。S604で、視点情報処理部233は、図5のS507で保存した各固定カメラ252の視点の一致度のうちの最大値Bを取得する。S605で、視点情報処理部233は、視点の一致度の最大値B≧閾値Aであるか否か、即ち、最大値が閾値以上であるか否かを判定する。最大値B≧閾値Aであれば処理はS606に進み、そうでなければ処理はS608に進む。
【0043】
S606で、視点情報処理部233は、S605で閾値以上の一致度であると判定された固定カメラ252の映像の存在を、視聴中の任意視点映像の視点に近い視点のカメラ映像の存在としてユーザに通知中であるか否かを判定する。任意視点映像の視点に近い視点のカメラ映像の存在を通知していない、またはS605で閾値以上の一致度であると判定された固定カメラと異なる固定カメラについて通知中であれば処理はS607に進み、通知中であれば処理はS402に戻る。S607で、視点情報処理部233は、S605で閾値以上と判定された一致度を有する固定カメラの映像の存在をユーザに通知する処理を行う(詳細は図8及び図9を参照して後述)。
【0044】
S608では、視点情報処理部233は、視聴中の任意視点映像の視点に近い視点のカメラ映像の存在をユーザに通知中であるか否かを判定する。通知中であれば処理はS609に進み、通知中でなければ処理はS402に戻る。S609で、視点情報処理部233は、通知停止処理を行う。
【0045】
S610では、視点情報処理部233は、視聴中の任意視点映像の視点に近い視点のカメラ映像の存在をユーザに通知中であるか否かを判定する。通知中であれば処理はS611に進み、通知中でなければ本フローチャートの処理は終了する。S611で、視点情報処理部233は、通知停止処理を行う。
【0046】
以上の処理により、視点情報処理部233は、視聴中の任意視点映像の視点に近い視点のカメラ映像を検出し、その存在をユーザに通知する。また、通知と非通知との切り替えが行われる。
【0047】
ところで、S603及びS605では1つの閾値のみが使用されたが、複数の閾値(例えば、α及びβ)が使用されてもよい。図7は、一致度の閾値として複数の閾値が使用される場合の概念図である。横軸は時間、縦軸は各時間においてS604で取得した一致度の最大値Bである。
【0048】
ユーザが任意視点映像の視聴を開始した時点(時刻t1)では、一致度が閾値β未満である。従って、視聴中の任意視点映像の視点に近い視点のカメラ映像は存在せず、通知は行われない(図6のS605で「NO」と判定される)。その後、ユーザの指示に従って任意視点映像の視点が移動し、時刻t2において、一致度が閾値βに到達する。そのため、図6のS605で「YES」と判定され、視点情報処理部233は、視聴中の任意視点映像の視点に近い視点のカメラ映像の存在を通知する。その後、任意視点映像の視点が更に移動し、時刻t3において、一致度が閾値α(>β)に到達する。この場合も、図6のS605で「YES」と判定されるが、通知の形態が異なる。即ち、視点情報処理部233は、視聴中の任意視点映像の視点にほぼ一致する視点のカメラ映像の存在を通知する。
【0049】
なお、閾値(A、α、β)は、デジタル放送受信装置100が変更できないデータとして記憶していてもよいし、ユーザが変更可能なデータとして記憶していてもよい。
【0050】
次に、通知処理の詳細について説明する。視点情報処理部233は、GUI処理部218に通知表示GUIの生成を指示する。通知表示GUIは、表示制御部220へ入力される。表示制御部220は、映像処理部217から入力される映像に通知表示GUIを重畳して表示部222へ出力する。
【0051】
図8及び図9は、通知表示GUIの具体例を示す図である。図8において、視点情報処理部233は、図6のS605における視点の一致度の判定をもとにGUIの表示により通知を行う。図8(a)において、アイコン801〜805は、ユーザにより指定された任意視点(位置及び方向)を示す。また、被撮像空間における固定カメラの視点を固定カメラ811〜815のようにアイコンで表わす。現在表示中の任意視点映像に対応する視点のアイコンのみが表示される。図8(b)において、任意視点映像821〜825はそれぞれアイコン801〜805の視点における映像の表示画面を示す。なお、本実施形態においては、アイコン801〜805の視点が1つずつ順次指定される場合について説明するが、視点が複数指定されてもよい。その場合には、画面上に複数の映像データを表示すればよい。図8(a)において、任意視点映像の視点がアイコン801の場合、アイコン801の視点と固定カメラ811の視点との視点の一致度が高い(閾値α以上)。そこで、視点情報処理部233は、視聴中の任意視点映像821と共に、該任意視点映像の視点にほぼ一致する視点のカメラ映像の存在を示すGUIを表示する。この際に表示するGUIは、視聴中の任意視点映像の視点にほぼ一致する視点のカメラの位置を表示するものでも、単に視聴中の任意視点映像の視点にほぼ一致する視点のカメラ映像が存在するかしないか、を表示するものでもよい。具体的には、図8(a)のように被撮像空間における、固定カメラの視点情報及び任意視点映像の視点情報をレイアウト表示して、視聴中の任意視点映像の視点にほぼ一致する視点の固定カメラの表示を変える(例えば、アイコン801の視点に近い固定カメラ811のアイコンの色を他のカメラのアイコンと異なる色にする)。この場合、図8(a)のようなGUIを表示部222に全画面表示しても良いし、任意視点映像の一部に子画面として合成して表示してもよい。GUIを全画面表示した場合は、所定時間経過後に任意視点映像に切り替える。または図8(b)のように、ユーザが視聴を所望する視点における任意視点映像(任意視点映像821)の表示中に、視聴中の任意視点映像の視点(アイコン801)にほぼ一致する視点のカメラ(固定カメラ811)の存在を通知するアイコン(アイコン831)を、任意視点映像の一部に合成して表示しても良い。例えば、アイコン803の視点との一致度がβ≦一致度<αである固定カメラ813が存在する場合、視点情報処理部233は、視聴中の任意視点映像の視点に近い視点のカメラ映像の存在を示すGUI(アイコン833)を表示する。ユーザに指定された視点とカメラ映像の視点との一致度に応じて、一致度が閾値α以上の際に表示するGUIと、一致度がβ≦一致度<αの際に表示するGUIとを区別可能に表示してもよい。例えば、図8(a)において、固定カメラ811、815のアイコンと、固定カメラ813とでアイコンの色を変えたり、図8(b)において、アイコン831、835とアイコン833とで色や形状を変えたりしてもよい。また、任意視点映像の視点アイコン802の場合、視点の一致度が一致度<βである固定カメラ(例えば固定カメラ812)しかない。この場合には、視点情報処理部233は、通知を行わない。または、視点の一致度の高いカメラ映像がない旨を通知してもよい。
【0052】
また、図8(b)に代えて図9のように表示することも可能である。図9の例では、視点情報処理部233は、視聴中の任意視点映像の視点に近い視点のカメラ映像を子画面で表示することにより、通知を行う。図9の任意視点映像901〜905は、図8(b)の任意視点映像821〜825と同様に、図8(a)のアイコン801〜805の視点における映像の表示画面を示す。図9では、任意視点映像の視点がアイコン801、803、及び805の場合はそれぞれ任意視点映像の視点とカメラの視点との一致度の高い、図8(a)の固定カメラ811、813及び815の映像が子画面で表示される。デジタル放送受信装置100が任意視点映像を生成する場合であって、任意視点映像生成用データに、図6のS605で閾値以上の一致度であると判定された固定カメラの映像が含まれている場合は、任意視点情報処理部232は、該固定カメラの映像を出力する。そして表示制御部220は、任意視点映像と、視点の一致度が閾値以上である固定カメラの映像とを合成して出力する。任意視点情報処理部232は、S605で閾値以上の一致度であると判定された固定カメラの映像を保持していない場合には、任意視点映像生成用データサーバ251から取得する。また通知方法として、視点の一致度の高い固定カメラ811と815の映像の子画面911と915の大きさを、やや一致度が高い固定カメラ813の映像の子画面913の大きさより大きく表示して、固定カメラ811と815の視点の一致度が固定カメラ813の視点の一致度より高いことをユーザに通知してもよい。
【0053】
以上説明したように、本実施形態によれば、デジタル放送受信装置100は、各固定カメラ252の視点情報を取得し(図4)、各固定カメラ252の視点情報と任意視点映像の視点情報との一致度を算出する(図5)。そして、デジタル放送受信装置100は、算出した一致度の最大値が閾値以上であるか否かを判定し、閾値以上であれば通知を行う(図6)。これにより、視聴中の任意視点映像の視点に近い視点のカメラ映像の存在をユーザに通知することが可能となる。
【0054】
<変形例1>
前述の通り、カメラ映像は放送映像でもよい。この場合、図5及び図6の処理が図10に置き換わる。図10において、図4図5、又は図6と同一又は同様の処理が行われるステップには同一の符号を付し、説明を省略する。図10のフローチャートの処理は、図4と同様にシステム制御部226が各部を制御することにより実行される。
【0055】
S1004で、視点情報処理部233は、番組情報処理部216から放送映像の視点情報を取得する。S1006で、視点情報処理部233は、放送映像の視点情報を任意視点情報と比較し、一致度Bを算出して取得する。こうして、S605で一致度B≧閾値Aであると判定されると、通知が行われる。
【0056】
<変形例2>
視聴中の任意視点映像の視点に近い視点のカメラ映像が検出された場合、デジタル放送受信装置100は、通知に応じたユーザからの指示に応えて、或いは自動的に、任意視点映像の代わりにカメラ映像を出力してもよい。
【0057】
例えば、任意視点映像の視点が図8(a)のアイコン801であるものとする。この場合、任意視点映像の視点(アイコン801)と固定カメラ811の視点との視点の一致度が高い(閾値α以上)ため、図8(b)の通知は、この視点(アイコン801)における任意視点映像の代わりに固定カメラ811のカメラ映像を出力(表示)させることができるということを示す。そして、この通知を見たユーザがリモコン201を用いてカメラ映像への映像切り替え指示を行ったものとする。この場合、システム制御部226の制御に従い、次の処理が行われる。固定カメラ情報処理部231は、複数の固定カメラ252の各一致度のうちの最大値を持つ視点に対応する映像データを、任意視点映像生成用データサーバ251から取得し、取得した映像データを表示制御部220へ出力する。システム制御部226は、任意視点映像データの代わりに、固定カメラ情報処理部231から入力された映像データを出力するように、表示制御部220を制御する。
【0058】
カメラ映像が放送映像の場合は、固定カメラ252の映像データを取得する代わりに、システム制御部226は、放送映像データを取得するようにチューナ部210等を制御する。そして、システム制御部226は、放送映像データを出力するように表示制御部220を制御する。
【0059】
このような制御は、自動的に行われてもよい。即ち、任意視点映像の視点と固定カメラの視点との視点の一致度が高い状態になった場合に、システム制御部226は自動的に、該任意視点映像の代わりに該固定カメラのカメラ映像を出力する制御を行ってもよい。
【0060】
[その他の実施形態]
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10