(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022163412
(43)【公開日】2022-10-26
(54)【発明の名称】視覚的顕著性マップ生成装置、視覚的顕著性マップ生成方法及びプログラム
(51)【国際特許分類】
G06T 7/11 20170101AFI20221019BHJP
【FI】
G06T7/11
【審査請求】未請求
【請求項の数】15
【出願形態】OL
(21)【出願番号】P 2021068322
(22)【出願日】2021-04-14
(71)【出願人】
【識別番号】000003193
【氏名又は名称】凸版印刷株式会社
(74)【代理人】
【識別番号】100149548
【弁理士】
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100139686
【弁理士】
【氏名又は名称】鈴木 史朗
(74)【代理人】
【識別番号】100169764
【弁理士】
【氏名又は名称】清水 雄一郎
(74)【代理人】
【識別番号】100147267
【弁理士】
【氏名又は名称】大槻 真紀子
(72)【発明者】
【氏名】岡崎 那耶
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096AA09
5L096CA22
5L096DA01
5L096FA66
5L096FA67
5L096GA55
(57)【要約】
【課題】実物の大きさを考慮するため、観察者と観察対象の画像との視距離と、視距離における視角とに応じて、画像上の実寸法の長さを、視距離、視角それぞれに対応した画像構成単位での長さに変換し、長さから求めたパラメータを用いた特徴検出フィルタで特徴検出を行い、視距離及び視角に対応した精度の高い顕著性マップを生成する視覚的顕著性マップ生成装置を提供する。
【解決手段】本発明は、対象物の画像に対する顕著性マップを生成する顕著性マップ生成装置であり、対象物と対象物を観察する視点との距離である視距離に対応した、当該視点おける視角に対応した実距離単位の第1寸法を、画像を構成する単位である画像構成単位による第2寸法に変換するパラメータ変換部と、第2寸法により求めたパラメータを用いた特徴検出フィルタにより抽出された対象物の特徴を用いて視覚的顕著性マップを生成する視覚的顕著性マップ生成部とを備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
対象物の画像に対する顕著性マップを生成する顕著性マップ生成装置であり、
前記対象物と当該対象物を観察する視点との距離である視距離に対応した、当該視点おける視角に対応した実距離単位の第1寸法を、前記画像を構成する単位である画像構成単位による第2寸法に変換するパラメータ変換部と、
前記第2寸法により求めたパラメータを用いた特徴検出フィルタにより抽出された前記対象物の特徴を用いて視覚的顕著性マップを生成する視覚的顕著性マップ生成部と
を備えることを特徴とする視覚的顕著性マップ生成装置。
【請求項2】
前記画像構成単位がピクセル数である
ことを特徴とする請求項1に記載の視覚的顕著性マップ生成装置。
【請求項3】
前記第1寸法及び前記第2寸法とを求める際、前記視距離及び前記視角のいずれかまたは双方の数値を変更するパラメータ操作部をさらに有する
ことを特徴とする請求項1または請求項2に記載の視覚的顕著性マップ生成装置。
【請求項4】
前記パラメータ変換部が、前記特徴検出フィルタとして方位特徴フィルタで用いる波長パラメータ及び偏差パラメータの各々を前記第2寸法により算出し、
前記視覚的顕著性マップ生成部が、前記波長パラメータ及び前記偏差パラメータの前記方位特徴フィルタを用いて抽出した前記画像の方位特徴により、前記視覚的顕著性マップを生成する
ことを特徴とする請求項1から請求項3のいずれか一項に記載の視覚的顕著性マップ生成装置。
【請求項5】
パラメータ操作部をさらに備え、
前記パラメータ操作部が、操作を行う操作者が入力する数値により、前記視距離、前記視角、前記波長パラメータ及び前記偏差パラメータを変更する
ことを特徴とする請求項4に記載の視覚的顕著性マップ生成装置。
【請求項6】
画像処理部と結果表示部とをさらに備え、
前記画像処理部が、仮想空間内において、前記視点から観察される仮想3次元形状の観察面に、当該観察面の前記顕著性マップを前記対象物の面に貼り付けて顕著性マップ画像を生成し、
当該結果表示部が、前記顕著性マップ画像を表示する
ことを特徴とする請求項1から請求項5のいずれか一項に記載の視覚的顕著性マップ生成装置。
【請求項7】
前記視距離を取得する距離情報取得部をさらに備え、
前記視点が観察者の観察点であり、前記視距離が前記観察点と前記画像が表示される画像表示装置の表示画面との距離である場合、
前記視距離が前記表示画面の近傍に備えられた距離センサにより計測された数値である
ことを特徴とする請求項1から請求項6のいずれか一項に記載の視覚的顕著性マップ生成装置。
【請求項8】
前記視距離を取得する距離情報取得部をさらに備え、
前記距離情報取得部が、前記対象物と前記視点との前記視距離を予め所定の数値に設定する
ことを特徴とする請求項1から請求項6のいずれか一項に記載の視覚的顕著性マップ生成装置。
【請求項9】
前記視距離を取得する距離情報取得部をさらに備え、
前記距離情報取得部が、操作を行う操作者が入力する距離値を、前記視距離として取得する
ことを特徴とする請求項1から請求項6のいずれか一項に記載の視覚的顕著性マップ生成装置。
【請求項10】
前記視距離を取得する距離情報取得部をさらに備え、
実寸法で構築された前記仮想空間内における前記仮想3次元形状と、当該仮想空間内の所定の座標位置との距離を、前記視距離として取得する
ことを特徴とする請求項6に記載の視覚的顕著性マップ生成装置。
【請求項11】
前記視距離を取得する距離情報取得部をさらに備え、
前記距離情報取得部が、実寸法で構築された前記仮想空間内において、当該仮想空間内における視点位置としてヘッドマウントディスプレイの表示画面と、前記仮想3次元形状との距離を、前記視距離として取得する
ことを特徴とする請求項6に記載の視覚的顕著性マップ生成装置。
【請求項12】
前記視距離を取得する距離情報取得部をさらに備え、
実寸法で構築された前記仮想空間内における前記仮想3次元形状と、当該仮想空間内において操作を行う操作者が設定した座標位置との距離を、前記視距離として取得する
ことを特徴とする請求項6に記載の視覚的顕著性マップ生成装置。
【請求項13】
パラメータ操作部をさらに備え、
前記パラメータ操作部が、操作を行う操作の設定により、前記対象物に照射される照射光の特性を変更し、前記対象物の観察者の視認性を変化させる
ことを特徴とする請求項1から請求項12のいずれか一項に記載の視覚的顕著性マップ生成装置。
【請求項14】
対象物の画像に対する顕著性マップを生成する視覚的顕著性マップ生成方法であり、
パラメータ変換部が、対象物を観察する視点との距離である視距離に対応した、当該視点おける視角に対応した実距離単位の第1寸法を、前記画像を構成する単位である画像構成単位による第2寸法に変換するパラメータ変換過程と、
視覚的顕著性マップ生成部が、前記第2寸法により求めたパラメータを用いた特徴検出フィルタにより抽出された前記対象物の特徴を用いて視覚的顕著性マップを生成する視覚的著性マップ生成過程と
を含むことを特徴とする視覚的顕著性マップ生成方法。
【請求項15】
対象物の画像に対する顕著性マップを生成する視覚的顕著性マップ生成装置としてコンピュータを機能させるためのプログラムであり、
前記コンピュータを、
前記対象物と当該対象物を観察する視点との距離である視距離に対応した、当該視点おける視角に対応した実距離単位の第1寸法を、前記画像を構成する単位である画像構成単位による第2寸法に変換するパラメータ変換手段、
前記第2寸法により求めたパラメータを用いた特徴検出フィルタにより抽出された前記対象物の特徴を用いて視覚的顕著性マップを生成する視覚的顕著性マップ生成手段
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像の顕著性を示す顕著性マップを生成する三次元形状モデルに対してテクスチャマッピングを行なうテクスチャ画像を生成する視覚的顕著性マップ生成装置、視覚的顕著性マップ生成方法及びプログラムに関する。
【背景技術】
【0002】
近年、顕著性マップを利用することにより、画像における特徴の顕著さから、観察者の視線が向きやすい画像における領域を予測し、予測結果を提供するビジネスが増加している。
その一例として、室内の空間デザインや広告のデザインの善し悪しの指標の一つとして、空間デザインや広告のデザインなどの画像の顕著性マップを生成することが行われている。
そして、顕著性マップにおける顕著度により、上記空間デザインや広告のデザインの善し悪しを評価することが行われている(例えば、特許文献1参照)。
【0003】
また、観察者と、当該観察者の観察対象である観察対象との距離に応じて、観察者の観察する観察対象の見え方が異なる。
このため、距離に対応した見え方の違いを考慮して、観察対象の顕著性マップを生成することが行われている(例えば、特許文献2参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特許第5416663号公報
【特許文献2】特許第6232712号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1においては、観察対象である対象物の画像がWebページで表示されるコンテンツとしての画像に限定されており、画像におけるパターンのサイズや、観察者との距離の変化などの物理量(実寸法)が考慮されていない。
このため、作成される顕著性マップが、予め設定され、かつ観察者と画像との距離が不明の状態で作成されているため、対象物の実物の大きさに対応しておらず、画像を観察する距離に対応して観察者が視認する顕著性の精度が低いという問題がある。
【0006】
また、特許文献2においては、距離に基づいて画像から得られる特徴成分の比率を調整している。
すなわち、顕著性マップを生成する際に距離を方位成分のバイアス(画像の特徴の強度の調整)として用いるのみであり、物理量としての距離を実際に用いて顕著性マップを生成するアルゴリズムとなっていない。
このため、特許文献2は、用いる画像の特徴(輝度、色度、方位の特徴)を単に減衰させたり、無駄に強調させてしまい、生成する顕著性マップにおける顕著度の精度を低減させる。
【0007】
例えば、対象物としての壁紙や床材などの建装材(対象物)の画像のように、模様や凹凸などの大きさが大小異なるパターンを有する場合、観察者との距離(視距離)による見え方(視認性)の変化を考慮する必要がある。
しかしながら、特許文献1及び特許文献2においては、特徴の方位検出を初めとしたフィルタのパラメータの数値によっては、上術したような多彩なパターンのある建装材の画像の顕著性パップの生成において顕著度の誤検出や検出漏れが発生することになる。
すなわち、対象物の画像の特徴を検出する際に、特徴検出フィルタのパラメータが、対象物の大きさと、当該対象物との実際の距離を反映したものでなく、特徴検出フィルタが高い精度で対象物の画像の特徴を抽出することができず、高い精度の顕著度を有する顕著性マップを生成することができない。
【0008】
本発明は、このような状況に鑑みてなされたもので、実物の大きさを考慮するため、実際の観察者と観察対象の画像との視距離(物理的に意味のある実寸法)と、当該視距離における視角との各々に応じて、画像上の実寸法の長さを、視距離、視角それぞれに対応した画像構成単位での長さに変換し、当該長さから求めたパラメータを用いた特徴検出フィルタにより特徴検出を行うことで、視距離及び視角に対応した精度の高い顕著性マップを生成することが可能な視覚的顕著性マップ生成装置、視覚的顕著性マップ生成方法及びプログラムを提供する。
【課題を解決するための手段】
【0009】
上述した課題を解決するために、本発明の視覚的顕著性マップ生成装置は、対象物の画像に対する顕著性マップを生成する顕著性マップ生成装置であり、前記対象物と当該対象物を観察する視点との距離である視距離に対応した、当該視点おける視角に対応した実距離単位の第1寸法を、前記画像を構成する単位である画像構成単位による第2寸法に変換するパラメータ変換部と、前記第2寸法により求めたパラメータを用いた特徴検出フィルタにより抽出された前記対象物の特徴を用いて視覚的顕著性マップを生成する視覚的顕著性マップ生成部とを備えることを特徴とする。
本発明の視覚的顕著性マップ生成装置は、前記画像構成単位がピクセル数であることを特徴とする。
【0010】
本発明の視覚的顕著性マップ生成装置は、前記第1寸法及び前記第2寸法とを求める際、前記視距離及び前記視角のいずれかまたは双方の数値を変更するパラメータ操作部をさらに有することを特徴とする。
【0011】
本発明の視覚的顕著性マップ生成装置は、前記パラメータ変換部が、前記特徴検出フィルタとして方位特徴フィルタで用いる波長パラメータ及び偏差パラメータの各々を前記第2寸法により算出し、前記視覚的顕著性マップ生成部が、前記波長パラメータ及び前記偏差パラメータの前記方位特徴フィルタを用いて抽出した前記画像の方位特徴により、前記視覚的顕著性マップを生成することを特徴とする。
【0012】
本発明の視覚的顕著性マップ生成装置は、パラメータ操作部をさらに備え、前記パラメータ操作部が、操作を行う操作者が入力する数値により、前記視距離、前記視角、前記波長パラメータ及び前記偏差パラメータを変更することを特徴とする。
【0013】
本発明の視覚的顕著性マップ生成装置は、画像処理部と結果表示部とをさらに備え、前記画像処理部が、仮想空間内において、前記視点から観察される仮想3次元形状の観察面に、当該観察面の前記顕著性マップを前記対象物の面に貼り付けて顕著性マップ画像を生成し、当該結果表示部が、前記顕著性マップ画像を表示することを特徴とする。
【0014】
本発明の視覚的顕著性マップ生成装置は、前記視距離を取得する距離情報取得部をさらに備え、前記視点が観察者の観察点であり、前記視距離が前記観察点と前記画像が表示される画像表示装置の表示画面との距離である場合、前記視距離が前記表示画面の近傍に備えられた距離センサにより計測された数値であることを特徴とする。
【0015】
本発明の視覚的顕著性マップ生成装置は、前記視距離を取得する距離情報取得部をさらに備え、前記距離情報取得部が、前記対象物と前記視点との前記視距離を予め所定の数値に設定することを特徴とする。
【0016】
本発明の視覚的顕著性マップ生成装置は、前記視距離を取得する距離情報取得部をさらに備え、前記距離情報取得部が、操作を行う操作者が入力する距離値を、前記視距離として取得することを特徴とする。
【0017】
本発明の視覚的顕著性マップ生成装置は、前記視距離を取得する距離情報取得部をさらに備え、実寸法で構築された前記仮想空間内における前記仮想3次元形状と、当該仮想空間内の所定の座標位置との距離を、前記視距離として取得することを特徴とする。
【0018】
本発明の視覚的顕著性マップ生成装置は、前記視距離を取得する距離情報取得部をさらに備え、前記距離情報取得部が、実寸法で構築された前記仮想空間内において、当該仮想空間内における視点位置としてヘッドマウントディスプレイの表示画面と、前記仮想3次元形状との距離を、前記視距離として取得することを特徴とする。
【0019】
本発明の視覚的顕著性マップ生成装置は、前記視距離を取得する距離情報取得部をさらに備え、実寸法で構築された前記仮想空間内における前記仮想3次元形状と、当該仮想空間内において操作を行う操作者が設定した座標位置との距離を、前記視距離として取得することを特徴とする。
【0020】
本発明の視覚的顕著性マップ生成装置は、パラメータ操作部をさらに備え、前記パラメータ操作部が、操作を行う操作の設定により、前記対象物に照射される照射光の特性を変更し、前記対象物の観察者の視認性を変化させることを特徴とする。
【0021】
本発明の視覚的顕著性マップ生成方法は、対象物の画像に対する顕著性マップを生成する視覚的顕著性マップ生成方法であり、パラメータ変換部が、対象物を観察する視点との距離である視距離に対応した、当該視点おける視角に対応した実距離単位の第1寸法を、前記画像を構成する単位である画像構成単位による第2寸法に変換するパラメータ変換過程と、視覚的顕著性マップ生成部が、前記第2寸法により求めたパラメータを用いた特徴検出フィルタにより抽出された前記対象物の特徴を用いて視覚的顕著性マップを生成する視覚的顕著性マップ生成過程とを含むことを特徴とする。
【0022】
本発明のプログラムは、対象物の画像に対する視覚的顕著性マップを生成する視覚的顕著性マップ生成装置としてコンピュータを機能させるためのプログラムであり、前記コンピュータを、前記対象物と当該対象物を観察する視点との距離である視距離に対応した、当該視点おける視角に対応した実距離単位の第1寸法を、前記画像を構成する単位である画像構成単位による第2寸法に変換するパラメータ変換手段、前記第2寸法により求めたパラメータを用いた特徴検出フィルタにより抽出された前記対象物の特徴を用いて視覚的顕著性マップを生成する視覚的顕著性マップ生成手段として機能させるためのプログラムである。
【発明の効果】
【0023】
以上説明したように、本発明によれば、実物の大きさを考慮するため、実際の観察者と観察対象の画像との視距離(物理的に意味のある実寸法)と、当該視距離における視角との各々に応じて、画像上の実寸法の長さを、視距離、視角それぞれに対応した画像構成単位での長さに変換し、当該長さから求めたパラメータを用いた特徴検出フィルタにより特徴検出を行うことで、視距離及び視角に対応した精度の高い顕著性マップを生成することが可能な視覚的顕著性マップ生成装置、視覚的顕著性マップ生成方法及びプログラムを提供することができる。
【図面の簡単な説明】
【0024】
【
図1】本発明の第1の実施形態による視覚的顕著性マップ生成装置の構成例を示すブロック図である。
【
図2】第1の実施形態の視覚的顕著性マップ生成装置1における、利用者と対象物の画像との相対位置を説明する図である。
【
図3】距離単位の視距離dに対応する、表示部1_Sの表示画面上の距離単位における長さを、画像構成単位の長さy、すなわちピクセル数に変換する処理を説明する概念図である。
【
図4】本実施形態における視覚的顕著性マップ生成装置1の視角特徴抽出部104の構成例を示す図である。
【
図5】対象物の画像から色相Rs、色相Gs 、色相Bs及び色相Ysの各々を求める処理を示す概念図である。
【
図6】対象物の画像におけるピクセルの各々の階調度から輝度値を算出し輝度値画像を求める処理を示す概念図である。
【
図7】本実施形態における視覚的顕著性マップ生成装置1の特徴別顕著性マップ生成部105の構成例を示す図である。
【
図8】輝度値画像から輝度特徴ガウシアンピラミッド画像を生成し、輝度特徴ガウシアンピラミッド画像から方位特徴ガウシアンピラミッド画像を生成する処理を説明する概念図である。
【
図9】輝度特徴顕著性マップ生成部1053による輝度特徴顕著性マップの生成を説明する概念図である。
【
図10】本実施形態の視覚的顕著性マップ生成装置1による視覚的顕著性マップの生成の処理の動作例を示すフローチャートである。
【
図11】第2の実施形態の視覚的顕著性マップ生成装置1における、利用者と対象物の画像との相対位置を説明する図である。
【発明を実施するための形態】
【0025】
<第1の実施形態>
以下、本発明の第1の実施形態について、図面を参照して説明する。
図1は、本発明の第1の実施形態による視覚的顕著性マップ生成装置の構成例を示すブロック図である。本実施形態においては、図示しない外部装置から、対象物の画像、あるいはCG(computer graphics)等の仮想空間における三次元形状モデル(仮想三次元形状ともいう)のデータが供給される。以下の説明においては、建装材の三次元形状モデルのデータが外部装置から供給される場合を例として説明する。
【0026】
本実施形態の視覚的顕著性マップ生成装置1は、データ入力部101、距離情報取得部102、パラメータ変換部103、視角特徴抽出部104、特徴別顕著性マップ生成部105、視覚的顕著性マップ生成部106、画像処理部107、結果表示部108、三次元形状モデル記憶部109、ガウシアンピラミッド画像記憶部110、特徴別顕著性マップ記憶部111、視覚的顕著性マップ記憶部112及びパラメータ操作部113の各々を備えている。
【0027】
データ入力部101は、建装材の三次元形状モデルのデータを外部装置(例えば、CGデータを作成するサーバなど)から取得し、三次元形状モデル記憶部109に書き込んで記憶させる。
また、データ入力部101は、外部装置、あるいは操作者の入力処理により、表示画面の仕様データとして、分解能の横ピクセル数X及び縦ピクセル数Yと、表示画面の画面サイズを示すインチ数Iとを取得する。
【0028】
距離情報取得部102は、視覚的顕著性マップ生成装置1の表示部(後述する1_S)近傍に配置される距離センサから、上記表示部から操作者(後述する操作者200)までの距離を入力する。
【0029】
図2は、本実施形態の視覚的顕著性マップ生成装置1における、利用者と対象物の画像との相対位置を説明する図である。
操作者200は、視覚的顕著性マップ生成装置1を操作し、視覚的顕著性マップ生成装置1の表示画面に表示される対象物の画像の顕著性を示す顕著性マップを生成させ、対象物のデザインや色などに基づいて、当該対象物が視認された際に視認される顕著性を評価する。
【0030】
視覚的顕著性マップ生成装置1の表示部1_Sの表示画面の枠には、距離センサ300が設置されている。
距離センサ300は、視覚的顕著性マップ生成装置1の表示部1_Sの表示画面と、操作者200との距離、すなわち表示画面と操作者200の視点(観察点)との距離である視距離dを計測する。
【0031】
図1に戻り、パラメータ変換部103は、距離情報取得部102が取得した視点距離Lに対応して、上記表示画面に表示された画像上の長さの単位である画像構成単位(例えば、ピクセル数または画素数など)を、実空間における視距離dの長さの単位である距離単位(例えば、mm、cmなど)に変換する単位変換パラメータを生成する。
ここで、パラメータ変換部103は、データ入力部101を介して、表示画面の仕様データとして、分解能の横ピクセル数X及び縦ピクセル数と、表示画面の画面サイズを示すインチ数Iとを取得する。
【0032】
そして、パラメータ変換部103は、視距離dと、表示部1_Sの表示画面の画面サイズのインチ数Iと、表示画面の横ピクセル数X及び縦ピクセル数Yの各々とから、距離単位あたりのピクセル数nを求める。
このとき、パラメータ変換部103は、例えば、距離単位(例えば、1mm)当りのピクセル数n(pel/mm)を算出する。この算出する際に用いる計算式は、以下の(1)式である。
【0033】
【0034】
そして、パラメータ変換部103は、視距離dに対応する距離単位(mm)における視角(後述する視角α)における画面上の長さpを、上記距離単位当りのピクセル数n及び視角の角度αを用いて、画像構成単位の長さy(画像構成単位のピクセル数)に、以下の(2)式を用いて変換する。
【0035】
【0036】
図3は、距離単位の視距離dに対応する、表示部1_Sの表示画面上の距離単位における長さを、画像構成単位の長さy、すなわちピクセル数に変換する処理を説明する概念図である。
図3において、視角αに対応する表示部1_Sの表示画像上における距離pは、d×tan(α)である。ここで、角度αは、例えば操作者200の視角の角度である。
したがって、パラメータ変換部103は、距離単位(例えば、1mm)当りのピクセル数n(pel/mm)に対して、距離p(=d×tan(α))を乗算することにより、距離単位での長さpを、この長さpと同じ距離単位となる、画像構成単位の長さy(すなわち、ピクセル数y)に変換する。
【0037】
図1に戻り、視角特徴抽出部104は、色相特徴及び輝度特徴の各々を、対象物の画像からそれぞれ抽出する。
図4は、本実施形態における視覚的顕著性マップ生成装置1の視角特徴抽出部104の構成例を示す図である。
図4において、視角特徴抽出部104は、色相特徴抽出部1041及び輝度特徴抽出部1042の各々を備えている。
【0038】
色相特徴抽出部1041は、入力された対象物の画像を、色成分R(Red、赤)、色成分G(Green、緑)及び色成分B(Blue、青)の各々の画像に分解して、それぞれR色成分画像r、G色成分画像g、B色成分画像bそれぞれを生成する。
そして、色相特徴抽出部1041は、R色成分画像r、G色成分画像g及びB色成分画像bの各々を用いて、以下の(3)式により、画像におけるピクセル毎に色相Rs(赤)、色相Gs(緑)、色相Bs(青)、色相Ys(黄)のそれぞれを、色相特徴として求める。
【0039】
【0040】
図5は、対象物の画像から色相Rs、色相Gs 、色相Bs及び色相Ysの各々を求める処理を示す概念図である。
色相特徴抽出部1041は、対象物の画像である入力画像を、色成分R、色成分G及び色成分Bの各々に分解し、R色成分画像r、G色成分画像g、B色成分画像bそれぞれを生成する。
【0041】
そして、色相特徴抽出部1041は、R色成分画像r、G色成分画像g及びB色成分画像bの各々のピクセル毎に、上記(3)式に対してそれぞれのピクセルの色成分R、色成分G、色成分Bのそれぞれの階調度を入力する。
これにより、色相特徴抽出部1041は、ピクセル毎の色相Rs、色相Gs 、色相Bs及び色相Ysの各々を求め、色相Rs画像、色相Gs画像、色相Bs画像、色相Ys画像それぞれを色相画像として生成する。
【0042】
また、色相特徴抽出部1041は、色相Rs画像の各ピクセルAの階調度から、色相Gs画像における上記ピクセルAの各々に対応するピクセルBの階調度を減算し、減算結果の絶対値を階調度とする色相特徴画像RGを生成する。
同様に、色相特徴抽出部1041は、色相Bs画像の各ピクセルCの階調度から、色相Ys画像における上記ピクセルCの各々に対応するピクセルDの階調度を減算し、減算結果の絶対値を階調度とする色相特徴画像BYを生成する。
【0043】
図4に戻り、輝度特徴抽出部1042は、入力された対象物の画像を、色成分R、色成分G及び色成分Bの各々の画像に分解して、R色成分画像r、G色成分画像g、B色成分画像bそれぞれを色相特徴画像として生成する。
そして、輝度特徴抽出部1042は、グレースケール画像を生成して、輝度値画像として使用する。
【0044】
このとき、輝度特徴抽出部1042は、R色成分画像r、G色成分画像g及びB色成分画像bの各々のピクセル毎に、それぞれのピクセルの色成分R、色成分G、色成分Bのそれぞれの階調度の平均値(=(r+g+b)/3)を算出する。
そして、輝度特徴抽出部1042は、算出した色成分R、色成分G、色成分Bのそれぞれの階調度の平均値を、ピクセルの各々の輝度値として用いることにより、輝度値画像の生成を行う。
【0045】
図6は、対象物の画像におけるピクセルの各々の階調度から輝度値を算出し輝度値画像を求める処理を示す概念図である。
図6において、輝度特徴抽出部1042は、対象物の画像である入力画像を、色成分R、色成分G及び色成分Bの各々に分解し、R色成分画像r、G色成分画像g、B色成分画像bそれぞれを生成する。
そして、輝度特徴抽出部1042は、対象物の画像におけるピクセルの色成分R、色成分G及び色成分Bの各々の階調度の平均値を、各ピクセルの輝度値として算出し、輝度値画像(グレースケールの画像)を生成する。
【0046】
図1に戻り、特徴別顕著性マップ生成部105は、視角特徴抽出部104が生成した色相特徴画像(R色成分画像r、G色成分画像g、B色成分画像b)及び輝度特量画像の各々から、方位特徴顕著性マップ、色相特徴顕著性マップ、輝度特徴顕著性マップのそれぞれを生成する。
【0047】
図7は、本実施形態における視覚的顕著性マップ生成装置1の特徴別顕著性マップ生成部105の構成例を示す図である。
図7において、特徴別顕著性マップ生成部105は、ガウシアンピラミッド生成部1051、方位特徴顕著性マップ生成部1052、輝度特徴顕著性マップ生成部1053、色相特徴顕著性マップ生成部1054及び画素値正規化部1055の各々を備えている。
【0048】
ガウシアンピラミッド生成部1051は、色相特徴画像RG及び色相特徴画像BYと輝度値画像との各々のガウシアンピラミッドを、特徴別ガウシアンピラミッド(色相特徴ガウシアンピラミッド画像、輝度特徴ガウシアンピラミッド画像)として生成する。
【0049】
ここで、ガウシアンピラミッド生成部1051は、3種類の色相画像の各々を、画像サイズを1/4とする、すなわち縦ピクセル数及び横ピクセル数をそれぞれ1/2(半分)とする、解像度を低減する処理をn回繰り返して、色相特徴画像RG及び色相特徴画像BYのそれぞれのn段階の色相特徴ガウシアンピラミッド画像を生成する。
そして、ガウシアンピラミッド生成部1051は、生成した色相特徴ガウシアンピラミッド画像の各々を、ガウシアンピラミッド画像記憶部110に書き込んで記憶させる。
【0050】
同様に、ガウシアンピラミッド生成部1051は、輝度値画像の画像サイズを1/4とする、すなわち縦ピクセル数及び横ピクセル数をそれぞれ1/2とする、解像度を順次低減させる処理をn回繰り返して、輝度値画像のn段階の輝度特徴ガウシアンピラミッド画像を生成する。
そして、ガウシアンピラミッド生成部1051は、生成した輝度特徴ガウシアンピラミッド画像の各々を、ガウシアンピラミッド画像記憶部110に書き込んで記憶させる。
【0051】
方位特徴顕著性マップ生成部1052は、ガウシアンピラミッド画像記憶部110から、n段階の、すなわちn枚の輝度特徴ガウシアンピラミッド画像の各々を読み出す。
そして、方位特徴顕著性マップ生成部1052は、ガボールフィルタを用いて、輝度特徴ガウシアンピラミッド画像の各々から、それぞれの段階の輝度特徴ガウシアンピラミッド画像に対応する方位特徴ガウシアンピラミッド画像を生成する。
すなわち、方位特徴顕著性マップ生成部1052は、例えば、以下に示すガボールフィルタの定義式の(4)式を用いて、輝度特徴ガウシアンピラミッド画像から所定方位(角度θの角度方向)における方位特徴を抽出する。
【0052】
下記の(4)式において、波長λは波長(画素周期)であり、θは特徴を検出する方向の角度であり、φは位相であり、σは偏差であり、γは楕円率である。ここで、位相φ及び楕円率γに関しては、ガボールフィルタを用いて方位特徴を抽出する際に用いられる一般的な数値を用いる。ここで、視角の角度αを小さく、あるいは視距離dを短くすることにより、輝度特徴ガウシアンピラミッド画像(グレースケール画像)における対象物の詳細な方向特徴を検出することができ、一方、視角の角度αを大きく、あるいは視距離dを長くすることにより、輝度特徴ガウシアンピラミッド画像における大まかな特徴を検出する。
【0053】
【0054】
また、(4)式におけるx’及びy’の各々は、以下の(5)式により求められる。
【0055】
【0056】
また、(4)式における偏差σは、波長λを用いて下記(6)式において求められる。この(4)式において、係数値bは帯域幅であり、予め設定した数値としても、あるいは任意に設定する数値を用いてもよい。また、πは円周率である。
【0057】
【0058】
上記(4)式及び(6)式における波長λとして、パラメータ変換部103が算出したピクセル数yを用いる。これにより、視距離d及び視角αの各々により求まる表示画面上における距離単位で示される長さpを、画像構成単位で表した長さyを波長λとして使用することができる。
すなわち、視距離d及び視角αの各々を変更することにより、視距離d、視角αそれぞれの組合せに対応した方位特徴を、輝度特徴ガウシアンピラミッド画像から任意に抽出することができる。
そして、方位特徴顕著性マップ生成部1052は、(4)式により輝度特徴ガウシアンピラミッド画像における各ピクセルの方位特徴を画素値として求め、方位特徴ガウシアンピラミッド画像を生成する。
【0059】
図8は、輝度値画像から輝度特徴ガウシアンピラミッド画像を生成し、輝度特徴ガウシアンピラミッド画像から方位特徴ガウシアンピラミッド画像を生成する処理を説明する概念図である。
図8において、輝度値画像(すなわち、輝度特徴ガウシアンピラミッド画像)301_1は、輝度特徴抽出部1042が生成したグレースケール画像である。輝度特徴ガウシアンピラミッド画像3-1_2は、画像分解能を低減する分解能低減処理F1により輝度値画像301_1の縦ピクセル数及び横ピクセル数をそれぞれ1/2(半分)として生成されている。
例えば、輝度値画像301_1における縦ピクセルが512個、横ピクセルが512個である場合、輝度特徴ガウシアンピラミッド画像301_2においては、縦ピクセルが256個、横ピクセルが256個となる。
【0060】
また、輝度特徴ガウシアンピラミッド画像301_3は、画像分解能を低減する分解能低減処理F1により輝度特徴ガウシアンピラミッド画像301_2の縦ピクセル数及び横ピクセル数をそれぞれ1/2として生成されている。
例えば、輝度特徴ガウシアンピラミッド画像301_2における縦ピクセルが256個、横ピクセルが256個である場合、輝度特徴ガウシアンピラミッド画像301_3においては、縦ピクセルが128個、横ピクセルが128個となる。
上述した分化能低減処理をn-1回、順次繰返すことにより、n段階の輝度特徴ガウシアンピラミッド画像として、輝度値画像301_1、輝度特徴ガウシアンピラミッド画像3-1_2から輝度特徴ガウシアンピラミッド画像3-1_nのn枚の輝度特徴ガウシアンピラミッド画像が生成される。輝度値画像301_1は、ガウシアンピラミッドの頂点(ガウシアンピラミッドの1段目)としての輝度特徴ガウシアンピラミッド画像である。
【0061】
ここで、ガウシアンピラミッドを生成する場合、ガウシアンブラー(ガウシアンフィルタ)によって、輝度値画像をぼかすことにより行う構成としてもよい。そして、このガウシアンブラーにおけるぼかしの強度を設定する偏差σとして、ガボールフィルタにおける偏差σを用いる。これにより、ぼかしの強度を視距離dに対応させることができる。
【0062】
そして、輝度特徴ガウシアンピラミッド画像301_1から輝度特徴ガウシアンピラミッド画像301_nの各々に対して、上述したガボールフィルタによる方位特徴を検出するフィルタ処理F2を行う。
このとき、方位特徴顕著性マップ生成部1052は、(4)式における方位の角度θを、例えば0度、45度、90度、135度の各々として、4つの角度θに対応する方位特徴それぞれを、輝度特徴ガウシアンピラミッド画像301_1から輝度特徴ガウシアンピラミッド画像301_n毎に生成する。
【0063】
方位特徴顕著性マップ生成部1052は、例えば、角度θを0度、45度、90度、135度の各々に変更して、輝度特徴ガウシアンピラミッド画像301_1から角度θの各々に対応する方位特徴ガウシアンピラミッド画像401_1(0度、45度、90度、135度)を生成する。
図7においては、角度θが0度の場合に生成される方位特徴ガウシアンピラミッド画像401_1から方位特徴ガウシアンピラミッド画像401_nを示している。したがって、方位特徴ガウシアンピラミッド画像401_1から方位特徴ガウシアンピラミッド画像401_nの組が、角度θ毎に4組生成される。
【0064】
同様に、方位特徴顕著性マップ生成部1052は、例えば、角度θを0度、45度、90度、135度の各々に変更して、輝度特徴ガウシアンピラミッド画像301_2~輝度特徴ガウシアンピラミッド画像301_nから、角度θの各々に対応する方位特徴ガウシアンピラミッド画像401_2から方位特徴ガウシアンピラミッド画像401_n(0度、45度、90度、135度)を生成する。
また、上述したフィルタ処理F2において、方位を変更するために角度θを0度、45度、90度、135度とする以外、(4)式におけるフィルタのパラメータである波長λ、位相φ、偏差σ及び楕円率γの各々は、同一の数値が用いられる。
【0065】
図7に戻り、方位特徴顕著性マップ生成部1052は、生成した方位特徴ガウシアンピラミッド画像401_1から方位特徴ガウシアンピラミッド画像401_nの各々を用いて、方位毎に4つの方位特徴顕著性マップ(0度、45度、90度、135度)を生成する。
輝度特徴顕著性マップ生成部1053は、輝度特徴ガウシアンピラミッド画像301_1~輝度特徴ガウシアンピラミッド画像301_nから、輝度特徴顕著性マップを生成する。
【0066】
図9は、輝度特徴顕著性マップ生成部1053による輝度特徴顕著性マップの生成を説明する概念図である。
図9においては、輝度特徴ガウシアンピラミッド画像301_4~輝度特徴ガウシアンピラミッド画像301_nについては省略してあるが、輝度特徴ガウシアンピラミッド画像301_2及び輝度特徴ガウシアンピラミッド画像301_3の各々と同様の処理が行われる。
図9において、方位特徴顕著性マップ生成部1052は、輝度特徴ガウシアンピラミッド画像301_6及び輝度特徴ガウシアンピラミッド画像301_7の各々の画像サイズの拡大処理F4を行ない、それぞれ比較輝度ガウシアンピラミッド画像302_6、比較輝度ガウシアンピラミッド画像302_7のそれぞれを生成する。
【0067】
拡大処理F4は、輝度特徴ガウシアンピラミッド画像301の各々を、減算する対象の輝度特徴ガウシアンピラミッド画像301の縦のピクセル数及び横のピクセル数を合わせる処理を示す。
このとき、輝度特徴顕著性マップ生成部1053は、例えば、輝度特徴ガウシアンピラミッド画像301_3の各ピクセルの諧調度から、輝度特徴ガウシアンピラミッド画像301_6における対応するピクセルの諧調度を減算する場合、輝度特徴ガウシアンピラミッド画像301_6の各々の縦のピクセル数及び横のピクセル数を4倍の個数にコピー(複製の作成)することにより行う。また、輝度特徴顕著性マップ生成部1053は、輝度特徴ガウシアンピラミッド画像301_3の各ピクセルの諧調度から、輝度特徴ガウシアンピラミッド画像301_7における対応するピクセルの諧調度を減算する場合、輝度特徴ガウシアンピラミッド画像301_7の各々の縦のピクセル数及び横のピクセル数を8倍の個数にコピー(複製の作成)することにより行う。
【0068】
これにより、輝度特徴ガウシアンピラミッド画像301_6及び輝度特徴ガウシアンピラミッド画像301_7の各々は、輝度特徴ガウシアンピラミッド画像301_3と同様の縦ピクセル及び横ピクセル数となる。
このとき、輝度特徴顕著性マップ生成部1053は、輝度特徴ガウシアンピラミッド画像301_3と同様の縦ピクセル及び横ピクセル数として生成した輝度特徴ガウシアンピラミッド画像301_6及び輝度特徴ガウシアンピラミッド画像301_7の各々を、それぞれ比較輝度特徴ガウシアンピラミッド画像302_6及び比較輝度特徴ガウシアンピラミッド画像302_7として出力する。
【0069】
そして、輝度特徴顕著性マップ生成部1053は、輝度特徴ガウシアンピラミッド画像301_3の各ピクセルEの階調度から、比較輝度特徴ガウシアンピラミッド画像302_6における上記ピクセルEの各々に対応するピクセルFの階調度を減算し、減算結果を各ピクセルの階調度とする輝度差分ガウシアンピラミッド画像501_1を生成する。
同様に、輝度特徴顕著性マップ生成部1053は、輝度特徴ガウシアンピラミッド画像301_3の各ピクセルEの階調度から、比較輝度特徴ガウシアンピラミッド画像302_7における上記ピクセルEの各々に対応するピクセルGの階調度を減算し、減算結果を各ピクセルの階調度とする輝度差分ガウシアンピラミッド画像501_2を生成する。
【0070】
図示されていない輝度特徴ガウシアンピラミッド画像301_4から輝度特徴ガウシアンピラミッド画像301_9の各々を用いて、輝度差分ガウシアンピラミッド画像501_3から輝度差分ガウシアンピラミッド画像501_6のそれぞれも生成される。
このとき、輝度特徴顕著性マップ生成部1053は、輝度特徴ガウシアンピラミッド画像301_4の各々のピクセルの輝度値から、比較輝度特徴ガウシアンピラミッド画像302_7のピクセルの輝度値を減算し、輝度差分ガウシアンピラミッド画像501_3を生成する。
また、輝度特徴顕著性マップ生成部1053は、輝度特徴ガウシアンピラミッド画像301_4の各々のピクセルの諧調度から、比較輝度特徴ガウシアンピラミッド画像302_8のピクセルの輝度値を減算し、輝度差分ガウシアンピラミッド画像501_4を生成する。
【0071】
輝度特徴顕著性マップ生成部1053は、輝度特徴ガウシアンピラミッド画像301_5の各々のピクセルの諧調度から、比較輝度特徴ガウシアンピラミッド画像302_8のピクセルの輝度値を減算し、輝度差分ガウシアンピラミッド画像501_5を生成する。
また、輝度特徴顕著性マップ生成部1053は、輝度特徴ガウシアンピラミッド画像301_5の各々のピクセルの諧調度から、比較輝度特徴ガウシアンピラミッド画像302_9のピクセルの輝度値を減算し、輝度差分ガウシアンピラミッド画像501_6を生成する。
そして、輝度特徴顕著性マップ生成部1053は、輝度差分ガウシアンピラミッド画像501_1から輝度差分ガウシアンピラミッド画像501_6の各々を、輝度特徴ガウシアンピラミッド画像301_1と、縦のピクセル数及び横のピクセル数を合わせる拡大処理(拡大処理F4と同様)を行い、ガウシアン輝度差分ガウシアンピラミッド画像501_1から輝度差分ガウシアンピラミッド画像501_6の各々における対応する位置のピクセルそれぞれの輝度値を加算し、加算結果を階調度とする輝度特徴顕著性マップを生成する。
輝度特徴顕著性マップ生成部1053は、生成した輝度特徴顕著性マップを特徴別顕著性マップ記憶部111に書き込んで記憶させる。
【0072】
上述したように、輝度特徴ガウシアンピラミッド画像301_2から輝度特徴ガウシアンピラミッド画像301_nのように、2ガウシアンピラミッドとして縮小された輝度特徴ガウシアンピラミッド画像301_2に対して拡大処理F4を行うことにより、ブラー(ぼかし)がかかった画像(比較輝度特徴ガウシアンピラミッド画像302)となる。
そして、輝度特徴ガウシアンピラミッド画像301から比較輝度特徴ガウシアンピラミッド画像302を減算して輝度値の差分を取ることにより、輝度差分ガウシアンピラミッド画像におけるエッジ成分を得ることができる。
【0073】
このため、輝度差分ガウシアンピラミッド画像を生成する場合、画像間のピクセル値の階調度の差分を取得する際、DoG(Difference of Gaussian)フィルタを用いる構成としてもよい。
ここで、輝度特徴顕著性マップ生成部1053は、例えば、2種類のσで定義された上記DoGフィルタを用いることにより、上述した輝度差分ガウシアンピラミッド画像501を作成する。
【0074】
すなわち、DoGフィルタの演算を行う以下の(7)式において、2種類の偏差σとして、偏差σex(視角0.5度から2度の間)と、偏差σinh(視角10度から20度の間)で設定する。
【0075】
【0076】
この上記(7)式のDoGフィルタにより、偏差σex及び偏差σinhで定義された輝度差分ガウシアンピラミッド画像におけるピクセルの各々の輝度値の差分を求める。このとき、パラメータ変換部103は、偏差σex及び偏差σinhの各々を、(6)式で説明したように、視距離に対応する画像構成要素であるピクセル数により生成する。
【0077】
方位特徴顕著性マップ生成部1052は、上述した輝度特徴顕著性マップ生成部1053の輝度顕著性マップの生成と同様に、4個の角度θ(0度、45度、90度、135度)の各々に対応する方位における方位特徴顕著性マップ(0度、45度、90度、135度)をそれぞれ生成する。
すなわち、方位特徴顕著性マップ生成部1052は、例えば、角度θが0度の方位顕著性マップを生成する場合、角度θが0度で生成したガウシアンピラミッドにおける方位特徴ガウシアンピラミッド画像401_2から方位特徴ガウシアンピラミッド画像401_nの各々をガウシアンピラミッド画像記憶部110からそれぞれ読み出す。
そして、方位特徴顕著性マップ生成部1052は、輝度特徴顕著性マップ生成部1053における拡大処理F4と同様に、方位特徴ガウシアンピラミッド画像401_2~方位特徴ガウシアンピラミッド画像401_nの各々から、比較方位ガウシアンピラミッド画像402_2~比較方位ガウシアンピラミッド画像402_nのそれぞれを生成する。
【0078】
方位特徴顕著性マップ生成部1052は、方位特徴ガウシアンピラミッド画像401_1の各ピクセルHの階調度から、比較方位ガウシアンピラミッド画像402_2における上記ピクセルHの各々に対応するピクセルIの階調度を減算し、減算結果を各ピクセルの階調度とする方位差分ガウシアンピラミッド画像502_2を生成する。
同様に、方位特徴顕著性マップ生成部1052は、方位特徴ガウシアンピラミッド画像401_1の各ピクセルの階調度から、比較方位ガウシアンピラミッド画像402_3~比較方位ガウシアンピラミッド画像402_nの各々のピクセルの階調度を減算し、減算結果を階調度とする方位差分ガウシアンピラミッド画像502_3から方位差分ガウシアンピラミッド画像502_nのそれぞれを生成する。
【0079】
そして、方位特徴顕著性マップ生成部1052は、方位差分ガウシアンピラミッド画像502_2から方位差分ガウシアンピラミッド画像502_nの各々における対応する位置のピクセルそれぞれの輝度値を加算し、加算結果を階調度とする角度θが90度の方位の方位特徴顕著性マップを生成する。
輝度特徴顕著性マップ生成部1053は、生成した方位特徴顕著性マップ(90度)を特徴別顕著性マップ記憶部111に書き込んで記憶させる。
また、輝度特徴顕著性マップ生成部1053は、上述した方位特徴顕著性マップ(90度)の生成と同様の処理により、角度θが0度、45度、135度の方位の方位特徴顕著性マップ(0度)、方位特徴顕著性マップ(45度)、方位特徴顕著性マップ(135度)を生成し、特徴別顕著性マップ記憶部111に書き込んで記憶させる。
【0080】
色相特徴顕著性マップ生成部1054は、上述した輝度特徴顕著性マップ生成部1053の輝度顕著性マップの生成と同様に、 色相特徴画像RG及び色相特徴画像BYの各々に対応する色相特徴顕著性マップ(RG、BY)を生成する。
すなわち、方位特徴顕著性マップ生成部1052は、例えば、色相特徴画像RGの色相特徴顕著性マップを生成する場合、色相特徴画像から生成したガウシアンピラミッドにおける色相特徴ガウシアンピラミッド画像RG601_2から色相特徴ガウシアンピラミッド画像RG601_nの各々をガウシアンピラミッド画像記憶部110からそれぞれ読み出す。
そして、色相特徴顕著性マップ生成部1054は、輝度特徴顕著性マップ生成部1053における拡大処理F4と同様に、色相特徴ガウシアンピラミッド画像RG601_2(ガウシアンピラミッドの2段目)~色相特徴ガウシアンピラミッド画像RG601_n(ガウシアンピラミッドのn段目)の各々から、比較色相ガウシアンピラミッド画像RG602_2~比較色相ガウシアンピラミッド画像RG602_nのそれぞれを生成する。
【0081】
色相特徴顕著性マップ生成部1054は、色相特徴ガウシアンピラミッド画像RG601_1(ガウシアンピラミッドの1段目)の各ピクセルJの階調度から、比較色相ガウシアンピラミッド画像RG602_2における上記ピクセルJの各々に対応するピクセルKの階調度を減算し、減算結果を各ピクセルの階調度とする色相差分ガウシアンピラミッド画像503_2を生成する。
同様に、色相特徴顕著性マップ生成部1054は、色相特徴ガウシアンピラミッド画像RG601_1の各ピクセルの階調度から、比較色相ガウシアンピラミッド画像RG602_3~比較色相ガウシアンピラミッド画像RG602_nの各々のピクセルの階調度を減算し、減算結果を階調度とする色相差分ガウシアンピラミッド画像503_3から色相差分ガウシアンピラミッド画像RG503_nのそれぞれを生成する。
【0082】
そして、色相特徴顕著性マップ生成部1054は、色相差分ガウシアンピラミッド画像503_2から色相差分ガウシアンピラミッド画像503_nの各々における対応する位置のピクセルそれぞれの輝度値を加算し、加算結果を階調度とする、色相特徴画像RGの色相特量顕著性マップ(RG)を生成する。
色相特徴顕著性マップ生成部1054は、生成した色相特徴顕著性マップ(RG)を特徴別顕著性マップ記憶部111に書き込んで記憶させる。
また、色相特徴顕著性マップ生成部1054は、上述した色相特量顕著性マップ(RG)の生成と同様の処理により、色相特徴画像BYに対応する色相特徴顕著性マップ(BY)を生成し、特徴別顕著性マップ記憶部111に書き込んで記憶させる。
【0083】
画素値正規化部1055は、特徴別顕著性マップ記憶部111から、輝度特徴顕著性マップと、方位特徴顕著性マップ(0度、90度、180度、270度)と、色相特徴顕著性マップ(RG、BY)との、計7個の各々のマップをそれぞれ読み出す。
そして、画素値正規化部1055は、読み出した輝度特徴顕著性マップ、方位特徴顕著性マップ(0度、90度、180度、270度)、色相特徴顕著性マップ(RG、BY)の各々の7個のマップ毎に、階調度の正規化を行う。この階調度の正規化は、周囲の領域に比較して階調度の高い領域をより強調させ、周囲の領域と差がない階調度の領域をより差を無くして平坦な数値に変更するために行われる。
【0084】
画素値正規化部1055は、輝度特徴顕著性マップのマップ画像を例として、以下にマップ画像の階調度の正規化の処理を説明する。
#1: 画素値正規化部1055は、輝度特徴顕著性マップの各々のピクセルの階調度を比較し、最も大きな階調度を画像最大値として抽出する。
そして、画素値正規化部1055は、輝度特徴顕著性マップのマップ画像の各々のピクセルの階調度を、それぞれ上記画像最大値により除算し、階調度を0から1とする正規化を行う。
【0085】
#2: 画素値正規化部1055は、輝度特徴顕著性マップのマップ画像を、複数の領域に分割し、分割マップ画像を生成する。
#3: 画素値正規化部1055は、生成した分割マップ画像の各々におけるピクセルの階調度(規格値)を比較し、最大の階調度(規格値)として分割画像最大値を抽出する。
そして、画素値正規化部1055は、分割マップ画像の各々の分割画像最大値の平均値を算出し、算出結果を最大値平均として求める。
#4: 画素値正規化部1055は、画像最大値から最大値平均との差分を算出し、算出結果を二乗して計数Kとする。
【0086】
#5: 画素値正規化部1055は、輝度特徴顕著性マップのマップ画像におけるピクセルの各々の階調度に対して、任意の回数上記計数Kを乗算して新たな輝度特徴顕著性マップのマップ画像を生成する。
#6: 画素値正規化部1055は、新たな輝度特徴顕著性マップのマップ画像を用いて、上記#1から#5の処理を予め設定された回数繰返す。
そして、画素値正規化部1055は、所定の回数の後に、上述した処理により、最後に得られた新たな輝度特徴顕著性マップのマップ画像を特徴別顕著性マップ(輝度特徴)とし、特徴別顕著性マップ記憶部111に対して書き込んで記憶させる。
【0087】
また、画素値正規化部1055は、特徴別顕著性マップ(輝度特徴)の生成の処理と同様の処理を行い、方位特徴顕著性マップ(0度、45度、90度、135度)と、色相特徴顕著性マップ(RG、BY)とに対応する、特徴別顕著性マップ(方位特徴:0度、45度、90度、135度)、特徴別顕著性マップ(色相:RG、BY)のそれぞれを生成する。
そして、画素値正規化部1055は、求めた特徴別顕著性マップ(方位特徴:0度、45度、90度、135度)、特徴別顕著性マップ(色相:RG、BY)それぞれを、特徴別顕著性マップ記憶部111に対して書き込んで記憶させる。
これにより、画素値正規化部1055は、特徴別顕著性マップ(輝度特徴)の1個、特徴別顕著性マップ(方位特徴:0度、45度、90度、135度)の4個、特徴別顕著性マップ(色相:RG、BY)の2個の計7個の特徴別顕著性マップを生成する。
【0088】
図1に戻り、視覚的顕著性マップ生成部106は、特徴別顕著性マップ(輝度特徴)、特徴別顕著性マップ(方位特徴:0度、45度、90度、135度)、特徴別顕著性マップ(色相:RG、BY)の7個の特徴別顕著性マップを、特徴別顕著性マップ記憶部111から読み出す。
視覚的顕著性マップ生成部106は、特徴別顕著性マップ(方位特徴:0度)、特徴別顕著性マップ(方位特徴:45度)、特徴別顕著性マップ(方位特徴:90度)及び特徴別顕著性マップ(方位特徴:135度)の各々を統合し、すなわち各マップにおける位置が同一のピクセルの階調度を比較して最も大きい階調度を統合した階調度とし、統合結果の階調度のピクセルからなる特徴別顕著性マップ(方位特徴)を生成する。
【0089】
また、視覚的顕著性マップ生成部106は、特徴別顕著性マップ(色相:RG)及び特徴別顕著性マップ(色相:BY)の各々を統合し、すなわち各マップにおける位置が同一のピクセルの階調度を比較して最も大きい階調度を統合した階調度とし、統合結果の階調度のピクセルからなる特徴別顕著性マップ(輝度特徴)を生成する。
そして、視覚的顕著性マップ生成部106は、特徴別顕著性マップ(輝度特徴)、特徴別顕著性マップ(方位特徴)及び特徴別顕著性マップ(色相特徴)の各々における位置が同一のピクセルの階調度の線形和を算出し、算出結果の階調度のピクセルからなる視覚的顕著性マップを生成する。
視覚的顕著性マップ生成部106は、対象物の画像の顕著度を示す、生成された視覚的顕著性マップを、視覚的顕著性マップ記憶部112に書き込んで記憶させる。
【0090】
画像処理部107は、三次元形状(対象物)の所定の視点及び観察方向から観察される対象物の画像を生成する。この視点及び観察方向は、操作者が任意に設定できる。
結果表示部108は、作成された視覚的顕著性マップを表示画面に表示させる。このとき、画像処理部107は、上記三次元形状に対してテクスチャとして、視覚的顕著性マップを張り付ける構成としてもよい。
結果表示部108は、対象物の画像及び各特徴別顕著性マップ(輝度特徴、輝度特徴、方位特徴)、視覚的顕著性マップそれぞれを表示する。また、結果表示部108は、対象物に各特徴別顕著性マップ及び視覚的顕著性マップの各々を張り付けて、表示する構成としてもよい。
パラメータ操作部113は、操作者の操作により、視距離d、視角α、ガボールフィルタの各パラメータ(波長λ、偏差σ、角度θ、位相φ、楕円率γ)を変更する処理を行う。
【0091】
図10は、本実施形態の視覚的顕著性マップ生成装置1による視覚的顕著性マップの生成の処理の動作例を示すフローチャートである。
ステップS101:
操作者が外部装置からCGデータを視覚的顕著性マップ生成装置1に読み込む。これにより、データ入力部101は、上記外部装置から入力したCGデータを三次元形状モデル記憶部109に書き込んで記憶させる。
そして、操作者は、結果表示部108の表示部1_Sの表示画面に表示される三次元形状モデルを観察する方向や距離などを調整して取得される観察画像を選択し、当該観察画像を対象物の画像とする。
また、予め作成された対象物の画像を外部装置から読み込みことにより、画像を取得する構成としてもよい。
【0092】
ステップS102:
距離情報取得部102は、
図2で説明したように、距離センサ300が計測する表示部1_Sの表示画面と、操作者200との距離を、視距離dとして取得する。
また、距離情報取得部102には、予め視距離dが○○mと設定されており、操作者に対して「表示画面から○○m離れて観察してください」との通知を行う構成としてもよい。
また、操作者が自身で視距離dを計測したり、あるいは任意の数値として所定の入力手段により視距離dを入力し、当該視距離を距離情報取得部102が取得する構成としてもよい。
【0093】
ステップS103:
輝度特徴抽出部1042は、対象物の画像をR色成分画像r、G色成分画像g及びB色成分画像bを生成する。
そして、輝度特徴抽出部1042は、生成したR色成分画像r、G色成分画像g及びB色成分画像bの各々から、輝度値の特徴を示すグレースケール画像として輝度値画像を生成する。
【0094】
ステップS104:
色相特徴抽出部1041は、対象物の画像をR色成分画像r、G色成分画像g及びB色成分画像bを生成する。
そして、色相特徴抽出部1041は、生成したR色成分画像r、G色成分画像g及びB色成分画像bの各々から、色相特徴として色相特徴画像RG及び色相特徴画像BYの各々を生成する。
【0095】
ステップS105:
ガウシアンピラミッド生成部1051は、色相特徴画像RG及び色相特徴画像BYと輝度値画像との各々のガウシアンピラミッドを、特徴別ガウシアンピラミッド(色相特徴ガウシアンピラミッド画像、輝度特徴ガウシアンピラミッド画像)として生成する。
そして、ガウシアンピラミッド生成部1051は、生成した色相特徴ガウシアンピラミッド画像(RG601_1~RG601_n、BY601_1~BY601_n)及び輝度特徴ガウシアンピラミッド画像(301_1~301_n)を、ガウシアンピラミッド画像記憶部110に書き込んで記憶させる。
【0096】
ステップS106:
方位特徴顕著性マップ生成部1052は、輝度特徴ガウシアンピラミッド画像(301_1~301_n)に対してガボールフィルタを用いて、角度θが0度、45度、90度、135度の各々示す方位に対応する方位特徴ガウシアンピラミッド画像401_2~方位特徴ガウシアンピラミッド画像401_nそれぞれを生成する。
そして、方位特徴顕著性マップ生成部1052は、輝度値画像(方位特徴ガウシアンピラミッド画像401_1)と、方位特徴ガウシアンピラミッド画像401_2~方位特徴ガウシアンピラミッド画像401_nとを用いて、方位特徴顕著性マップ(0度、45度、90度、135度)を生成する。
【0097】
ステップS107:
輝度特徴顕著性マップ生成部1053は、輝度特徴ガウシアンピラミッド画像(301_1~301_n)を用いて、輝度特徴顕著性マップを生成する。
【0098】
ステップS108:
色相特徴顕著性マップ生成部1054は、色相特徴ガウシアンピラミッド画像RG601_2~色相特徴ガウシアンピラミッド画像RG601_nの各々を用いて、色相特徴顕著性マップ(RG)を生成する。
同様に、色相特徴顕著性マップ生成部1054は、色相特徴ガウシアンピラミッド画像BY601_2~色相特徴ガウシアンピラミッド画像BY601_nの各々を用いて、色相特徴顕著性マップ(BY)を生成する。
【0099】
ステップS109:
画素値正規化部1055は、方位特徴顕著性マップ(0度、45度、90度、135度、輝度特徴顕著性マップ、色相特徴顕著性マップ(RG、BY)の7個の顕著性マップの各々の正規化を行う。
そして、特徴別顕著性マップ生成部105は、正規化を行った方位特徴顕著性マップ(0度、45度、90度、135度、輝度特徴顕著性マップ、色相特徴顕著性マップ(RG、BY)の7個の顕著性マップの各々を特徴別顕著性マップ(方位特徴)として、特徴別顕著性マップ記憶部111に対して書き込んで記憶させる。
【0100】
ステップS110:
視覚的顕著性マップ生成部106は、特徴別顕著性マップ(方位特徴:0度)、特徴別顕著性マップ(方位特徴:45度)、特徴別顕著性マップ(方位特徴:90度)及び特徴別顕著性マップ(方位特徴:135度)の各々を統合して特徴別顕著性マップ(方位特徴)を生成する。また、視覚的顕著性マップ生成部106は、特徴別顕著性マップ(色相:RG)及び特徴別顕著性マップ(色相:BY)の各々を統合して、特徴別顕著性マップ(色相特徴)を生成する。
【0101】
そして、視覚的顕著性マップ生成部106は、特徴別顕著性マップ(輝度特徴)、特徴別顕著性マップ(方位特徴)及び特徴別顕著性マップ(色相特徴)の各々における位置が同一のピクセルの階調度の線形和を算出し、算出結果の階調度のピクセルからなる視覚的顕著性マップを生成する。
視覚的顕著性マップ生成部106は、対象物の画像の顕著度を示す、生成された視覚的顕著性マップを、視覚的顕著性マップ記憶部112に書き込んで記憶させる。
【0102】
ステップS111:
結果表示部108は、生成した視覚的顕著性マップを単独で、あるいは対象物の画像に重畳させて表示する。
また、画像処理部107は、生成した視覚的顕著性マップを三次元形状モデルにテクスチャとして貼り付け、視覚的顕著性マップ記憶部112に書き込んで記憶させる構成としてもよい。
【0103】
ステップS112:
パラメータ操作部113は、操作者が視覚的顕著性マップの確認処理を終了したか否かの検出を行う。
このとき、パラメータ操作部113は、視覚的顕著性マップの確認処理が終了していない場合、処理をステップS113へ進める。
一方、パラメータ操作部113は、視覚的顕著性マップの確認処理が終了した場合、処理を終了する。(例えば、対象物の画像を変更して、再度、このフローチャートの処理を行う。)
【0104】
ステップS113:
パラメータ操作部113は、操作者に対してガボールフィルタの各パラメータあるいは視距離dあるいは視角αの変更を促す通知を行う。
そして、パラメータ変換部103は、パラメータ操作部113から供給される視距離d、視角αとガボールフィルタの各パラメータとに対応して、ガボールフィルタのパラメータの変更を行い、処理をステップS103へ進める。
また、パラメータ変換部103は、ガウシアンピラミッドを生成する際、ガウシアンフィルタやDoGフィルタを用いる場合、ガウシアンフィル及びDoGフィルタの偏差σの変更を視距離dに対応したガボールフィルタの偏差σに変更する。
【0105】
上述したように、本実施形態によれば、実空間内において、実物の大きさを考慮するため、実際の観察者と対象物の画像との視距離及び視角に応じて、物理的に意味のある実寸法に対応して、画像上の長さを調整したパラメータを用いた特徴検出フィルタにより特徴検出を行って視覚的顕著性マップを生成、すなわち、視角αによる表示画面における長さyを、実距離(距離単位)の視距離dに対応したピクセル数に変換し、この視角αに対応するピクセル数を波長λとして用い、この波長λから偏差σを求めるため、ガボールフィルタが対象物の画像からの視距離d及び視角αに対応した波長によって方位特徴を求めるため、視距離dの距離で観察する操作者の視認する顕著度を高い精度で求めることが可能となる。
【0106】
本実施形態における視覚的顕著性マップ生成装置における、方向特徴、色相特徴及び輝度特徴の各々から視覚的顕著性マップを生成するアルゴリズムとしては、「A Model of Saliency-based Visual Attention for Rapid Scene Analysis(Laurent Itti, Christof Koch, and Ernst Niebur、IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE, VOL. 20, NO. 11, NOVEMBER 1998)」を元にしている。
【0107】
<第2の実施形態>
以下、本発明の第2の実施形態について、図面を参照して説明する。
本発明の第2の実施形態による視覚的顕著性マップ生成装置の構成は、
図1に示す第1の実施形態と同様である。
以下、第2の実施形態による視覚的顕著性マップ生成装置が、第1の実施形態と異なる点についてのみ説明する。
【0108】
図11は、第2の実施形態の視覚的顕著性マップ生成装置1における、利用者と対象物の画像との相対位置を説明する図である。
第1の実施形態においては、視距離dは、実空間内における表示画面と操作者との距離であった。
一方、第2の実施形態において、視距離dは、実空間における距離単位で示されており、仮想空間400内における視点300Aと、仮想空間400内における観察対象の対象物(仮想三次元形状、例えば建装材など)450との距離である。本実施形態における仮想空間は、実空間と同一の距離単位(mm、cmなどの単位)に対応した、すなわち実寸法の三次元座標系において形成されている。
結果表示部108は、表示画面に対して視点300Aから所定の視点方向から観察される仮想三次元対象物450の画像、すなわち視点300Aにおいて仮想撮像装置で撮像した撮像画像を表示する。
【0109】
視距離d及び視角αによって視覚的顕著性マップを生成する処理については、第2のs実施形態と第1の実施形態とは同様である。
第1の実施形態においては、表示画面に表示されている対象物の画像に対する視覚的顕著性マップを生成している。
しかしながら、第2の実施形態においては、仮想空間400内での視点から視認される仮想三次元形状450における視覚的顕著性マップを生成する。
したがって、第2の実施形態においては、仮想空間400内において、視点300Aから視距離d離れた仮想三次元形状450を、視点300Aから観察して視認される顕著度を示す視覚的顕著性マップが、結果表示部108により表示画面に表示される。
【0110】
仮想空間400内において、操作者がマウスの操作により、視点の位置を移動させたり、視点からの観察方向を移動させたりするごとに、視覚的顕著性マップを生成することにより、視点位置及び観察方向に対応した仮想三次元形状を観察した際に視認される顕著度を示す視覚的顕著性マップを生成することができる。
また、操作者が仮想空間400内にマウスにより、視点及び観察方向の各々をあらかじめ所定の位置に設定して固定状態として視覚的顕著性マップの生成処理を行ってもよい。
【0111】
また、HMD(Head Mounted Display、ヘッドマウントディスプレイ)におけるディスプレイ(表氏画面)に、点300Aから観察して視認される仮想三次元形状450の視覚的顕著性マップを表示する構成にしてもよい。この場合、ディスプレイが仮想空間400内における視点位置となる。
すなわち、HMDを頭部に装着した操作者が、移動したり、頭を回転(上下左右の任意の方向)することにより、仮想空間400内における視点300Aの位置及び観察方向が変化する。
また、第1の実施形態と同様に、画像処理部107は、作成した視覚的顕著性マップを、仮想三次元形状に対してテクスチャとして張り付けて、当該視覚的顕著性マップを生成した視点及び観察方向から表示させる構成としてもよい。
【0112】
上述したように、本実施形態によれば、仮想空間内において、実物の大きさを考慮するため、仮想空間における観察者と対象物(仮想三次元形状)の画像との視距離(実空間と同様の実寸法で示された距離)と視角とに応じて、物理的に意味のある実寸法に対応して、画像上の長さを調整したパラメータを用いた特徴検出フィルタにより特徴検出を行って視覚的顕著性マップを生成、すなわち、視角αによる表示画面における長さyを、実距離(距離単位)の視距離dに対応したピクセル数に変換し、この視角αに対応するピクセル数を波長λとして用い、この波長λから偏差σを求めるため、ガボールフィルタが対象物の画像からの視距離d及び視角αに対応した波長によって方位特徴を求めるため、視距離dの距離で観察する操作者の視認する顕著度を高い精度で求めることが可能となる。
【0113】
また、第1の実施形態及び第2の実施形態の各々においては、結果表示部108が視覚的顕著性マップを表示画面に表示する構成を説明したが、操作者の表示する顕著性マップの選択処理により、特徴別顕著性マップ(方位特徴、色相特徴及び輝度特徴の各々)を視覚的顕著性マップと同様に表示画面に表示する構成としてもよい。
また、第1の実施形態及び第2の実施形態の各々において、仮想空間における対象物である仮想三次元形状(三次元形状モデル)に対して照射される照明の特性を変化させ、対象物の各特徴別顕著性マップ(輝度特徴、輝度特徴、方位特徴)それぞれを求めて、当該対象物の視認性を変更して、視覚的顕著性マップを生成する構成としてもよい。
【0114】
なお、本発明における
図1の分光テクスチャ画像生成システムのそれぞれ機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませて実行することにより、対象物の画像の視覚的顕著性マップを生成する処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OS(Operating System)や周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、ホームページ提供環境(あるいは表示環境)を備えたWWW(World Wide Web)システムも含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM(Read Only Memory)、CD-ROM(Compact Disc - Read Only Memory)等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM(Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
【0115】
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
【0116】
以上、この発明の実施形態を図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計変更等も含まれる。
【符号の説明】
【0117】
1…視覚的顕著性マップ生成装置
101…データ入力部
102…距離情報取得部
103…パラメータ変換部
104…視角特徴抽出部
105…特徴別顕著性マップ生成部
106…視覚的顕著性マップ生成部
107…画像処理部
108…結果表示部
109…三次元形状モデル記憶部
110…ガウシアンピラミッド画像記憶部
111…特徴別顕著性マップ記憶部
112…視覚的顕著性マップ記憶部
113…パラメータ操作部
1041…色相特徴抽出部
1042…輝度特徴抽出部
1051…ガウシアンピラミッド生成部
1052…方位特徴顕著性マップ生成部
1053…輝度特徴顕著性マップ生成部
1054…色相特徴顕著性マップ生成部
1055…画素値正規化部