技術分野
仮想視点レンダリング装置、方法及びプログラムに係り、特に、被写体の3Dモデルへマッピングするテクスチャを対応位置の背景モデルと比較することで被写体ではないテクスチャ部分を透過領域に決定し、レンダリングの際に透過領域を透過処理することで仮想視点画像の品質を高める仮想視点レンダリング装置、方法及びプログラム
要約特許出願時に添付された[要約書]
【課題】被写体の3Dモデルへマッピングするテクスチャを対応位置の背景モデルと比較することで被写体ではないテクスチャ部分を透過領域に決定し、レンダリングの際に透過処理することで仮想視点画像の品質を高める。
【解決手段】仮想視点レンダリング装置1は、被写体のカメラ画像、その背景統計情報、3Dモデル形状およびオクルージョン情報を取得する。仮想視点識別部101は仮想視点の位置を識別する。テクスチャ参照画素位置計算部102は3Dモデルへテクスチャをマッピングするカメラおよびそのカメラ画像上の参照画素位置を計算する。前景透過領域決定部103は各参照画素位置におけるテクスチャおよび背景統計情報の各画素値の比較結果に基づいてレンダリング時の透過領域を決定する。仮想視点画像レンダリング部104は3Dモデルを2D平面へレンダリングして仮想視点画像を合成する際に前記透過領域に透過処理を適用する。
【選択図】図1
発明が解決しようとする課題[発明の詳細な説明]から抜粋
視体積交差法を用いて3Dモデルを再構成する場合、正確な3Dモデルを計算することは難しかった。まず、カメラの台数が不十分の場合にモデルが不正確に生成されがちであるという原理的な問題に加え、そもそも離散化された位置のボクセルグリッドに対してボクセルモデルの形成がされるか否かを判定するため正確なモデル形状を取得することが困難である。ボクセルグリッドを細かくすれば、この位置の量子化誤差は減らせるものの計算量が増大する。
さらに、視体積交差法でモデル生成を行うためには、使用する各カメラの位置や向きを正確に知る必要がある。このようなカメラの位置や向きを正確に特定する技術は「カメラキャリブレーション技術」と呼ばれ、例えば非特許文献4にはカメラキャリブレーションを自動で行う技術が開示されている。しかしながら、カメラキャリブレーションによりカメラの位置や向きを完璧に特定することは困難であり、特定された位置や向きに誤差が混入するという技術課題がある。
さらに、仮想視点画像生成技術を実現するにあたっては複数台のカメラが必須となるが、各カメラのシャッタータイミングの同期にズレが発生していると、特に被写体の移動速度が速い場合などに、視体積交差法で生成した3Dモデルに欠損が生じ得る。
3Dモデルに欠損が生じる技術課題は、視体積交差法に用いるシルエット画像自体の輪郭を膨張させたり、3Dモデルの形状を膨張させたりすることで回避できるが、結果的に本来モデル化されるべきではなかった箇所がモデル化されるなどにより、3Dモデルの正確な形成が妨げられることがある。
また、このような不正確な3Dモデルが形成されることによって、図9に示したように仮想視点画像の主観品質に大きな影響が生じ得る。図9では、本来モデル化されるべきではなかった箇所がモデル化されていることによって、その箇所に対応するフィールド部分がマッピングされてしまっている。
このように、シルエット抽出の精度が高まり、完璧なシルエット抽出が可能であったとしても、シルエット抽出技術以外の様々な誤差に影響され、モデル形状の復元を完璧に行うことは困難である。
本発明の目的は、の技術課題を解決し、被写体の3Dモデルへマッピングするテクスチャを背景モデルと比較することで被写体ではないテクスチャ部分を透過領域に決定し、レンダリングの際に透過領域を透過処理する(換言すれば、レンダリングの際に背景差分処理を再度行う)ことで仮想視点画像の品質を高めることにある。
課題を解決するための手段[発明の詳細な説明]から抜粋
の目的を達成するために、本発明は、被写体の3Dモデルを2D平面へレンダリングして仮想視点画像を生成する仮想視点レンダリング装置において、以下の構成を具備した点に特徴がある。
【発明の効果】
本発明によれば以下のような効果が達成される。
(1) テクスチャマッピングされた3Dモデルを2D平面へレンダリングして仮想視点画像を合成する際に、テクスチャの画素値と背景統計情報の対応する画素値との差分に基づいて背景と推定できる透過領域を決定し、レンダリングの際に透過領域には透過処理を適用するので、背景のテクスチャが前景に表示されることによる仮想視点画像の品質低下を防止できるようになる。
(2) 品質改善が、3Dモデルを生成した後の2D平面へのレンダリング時における透過処理により実現されるので、キャリブレーションの誤差などの影響を受けることがない。
(3) テクスチャおよび背景統計情報(例えば、空舞台)の対応画素の画素値を比較するという簡便な処理で透過領域を決定できるので、リアルタイム性を損なわずに大きな品質向上を期待できる。
(4) 透過処理の適用範囲を仮想視点画像の前景領域縁部から所定幅の範囲内に限定したので、テクスチャの画素値と背景統計情報の対応する画素値との差分が偶然に小さくなっても、不要な透過処理が適用されてしまうことによる品質低下を防止できるようになる。
この発明についての権利主張の範囲[特許請求の範囲]
知財ポータルサイト IP Force にログインして確認する (無料)
この特許公報に記載されている図面[図面の簡単な説明]から抜粋
【図1】本発明を適用した仮想視点レンダリングシステムの第1実施形態の構成を示した機能ブロック図である。
【図2】本発明の概要を説明するための図である。
【図3】仮想視点画像の品質改善例を示した図(その1)である。
【図4】仮想視点画像の品質改善例を示した図(その2)である。
【図5】カメラパラメータの例を示した図である。
【図6】本発明を適用した仮想視点レンダリングシステムの第2実施形態の構成を示した機能ブロック図である。
【図7】3Dモデルを被写体ごとに分割する例を示した図である。
【図8】視体積交差法による3Dモデルの形成方法を示した図である。
【図9】仮想視点画像の主観品質が損なわれる例を示した図である。
【図10】画素単位での透過処理を説明するための図である。
1…仮想視点レンダリング装置,2…背景差分計算部,3…被写体3Dモデル生成部,3a…3Dモデル形状取得部,3b…オクルージョン情報生成部,101…仮想視点識別部,102…テクスチャ参照画素位置計算部,103…前景透過領域決定部,104…仮想視点画像レンダリング部,104a…透過処理部,104b…テクスチャマッピング部,105…前景透過幅決定部
全ての図面はログインすると無料で閲覧できます。ログイン・ユーザー登録