(58)【調査した分野】(Int.Cl.,DB名)
画像を配置するためのN個(Nは2以上の自然数)の枠、前記N個の中から複数個の枠を組み合わせて構成される1以上の枠セット、および各枠セットに配置される画像それぞれの特徴量に係る評価項目、を有するテンプレートを記憶するテンプレート記憶手段と、
複数の画像を取得する取得手段と、
前記複数の画像に含まれる人物をクラスタリングするオブジェクトクラスタリング手段と、
取得された複数の画像の中からN枚の画像を選択して前記N個の枠に配置した場合の配置パターンを複数生成し、生成した配置パターン毎の評価値を前記評価項目に基づいて算出する評価手段と、
前記評価手段により算出された配置パターン毎の評価値を記憶する評価値記憶手段とを備え、
前記評価項目は、(1)前記複数の画像が分類されたイベントに参加した複数の人物の紹介への適応性を示すオブジェクト紹介度、(2)前記イベントに参加した複数の人物のうち特定の人物が前記イベントで行なった行動の度合いを示すオブジェクト行動度、(3)前記イベントにおける場面の移り変わりの度合いを示す場面遷移度、および(4)前記場面において撮影された人物の寄り引きの対象性の度合いを示す場面全体像度を含み、
前記評価手段は、前記評価値記憶手段に記憶された評価値の中から、最上位の評価値に対応する配置パターンにて配置したN枚の画像を特定する
ことを特徴とする画像評価装置。
【発明を実施するための形態】
【0012】
以下、本発明の実施の形態について、図面を参照しながら説明する。
(実施の形態1)
<構成>
以下、実施の形態1について図面を参照しながら説明する。
【0013】
図1は、実施の形態1における画像評価装置の原理的な構成を示すブロック図である。
【0014】
図1に示すように、画像評価システム1は、記憶媒体2、画像評価装置3およびディスプレイ4を含んで構成される。
【0015】
画像評価装置3は、画像取得部10、オブジェクト抽出部20(オブジェクト特徴量抽出部21、オブジェクトクラスタリング部22を含む)、イベント抽出部30(撮影日時情報抽出部31、イベントクラスタリング部32を含む)、背景抽出部40(背景特徴量抽出部41を含む)、画像評価部50(オブジェクト重要度算出部51、背景重要度算出部52を含む)、記憶部90(テンプレート情報記憶部91、オブジェクトクラスタ情報記憶部92、オブジェクト重要度記憶部93、背景特徴量記憶部94、背景重要度記憶部95、イベントクラスタ情報記憶部96、画像セット情報記憶部97、配置パターン記憶部98を含む)、アルバム情報選択部60(イベントクラスタ選択部61、テンプレート選択部62を含む)、画像セット評価部70(オブジェクト紹介度算出部71、場面遷移度算出部72、オブジェクト行動度算出部73、場面全体像度算出部74を含む)、配置パターン評価部80、表示制御部100を備える。
【0016】
画像取得部10は、記憶媒体2から画像データを取得する。画像取得部10は例えばSDカードリーダーから構成され、SDカードスロット内に挿入されたSDメモリカードとしての記憶媒体2から画像データを取得する。
【0017】
オブジェクト抽出部20は、取得された画像データからオブジェクトを抽出し、抽出したオブジェクトのクラスタリングを行う。
【0018】
具体的には、オブジェクト特徴量抽出部21が、画像取得部10が取得した画像データを対象として、画像からオブジェクトの写る領域を切り出し、そのオブジェクトの特徴量を抽出する。
【0019】
そして、オブジェクトクラスタリング部22が、抽出した特徴量に基づいてクラスタリングを行い、その結果を示す情報をオブジェクトクラスタ情報記憶部92に記憶させる。なお、以下では、オブジェクトは人の顔であるとして説明を行う。
【0020】
上記抽出やクラスタリングは一般的な手法を用いることができる。一例として、画像からオブジェクト特徴量を抽出する方法については、Gaborフィルタによる抽出手法(後述の参考文献1参照)を用いることができる。
【0021】
また、オブジェクト特徴量のクラスタリング手法については、非階層的な手法(固定されたクラスタのそれぞれに代表を与えてクラスタリングする手法)の1つである、k-means法(参考文献1参照)を用いることができる。
【0022】
背景抽出部40は、画像取得部10が取得した画像データを対象として、背景(画像のうち、オブジェクト特徴量抽出部21が切り出した領域を除く領域)の背景特徴量を抽出し、抽出した情報を背景特徴量情報記憶部94に記憶させる。背景特徴量を抽出する手法については、画像を区分し、区分した領域における頻度の高い色特徴量を代表色として抽出し、代表色のヒストグラムを背景特徴量とする。
【0023】
イベント抽出部30は、画像取得部10が取得した画像データを、イベントに基づいて分類する。
【0024】
つまり、撮影日時情報抽出部31は、画像取得部10が取得した画像データを対象として、画像に付加された撮影日時情報を抽出する。
【0025】
イベントクラスタリング部32は、抽出した撮影日時情報に基づいて画像を複数のイベントへとクラスタリングする。そして、クラスタリングした結果を示す情報をイベントクラスタ情報記憶部96に記憶させる。
【0026】
なお、イベントのクラスタリング手法については、任意の時間を閾値として設定し、画像同士の撮影日時の差分が閾値を超えていたものを、イベントの区切りとする手法を用いることができる(参考文献2参照)。
【0027】
画像評価部50は、オブジェクト重要度算出部51と背景重要度算出部52とを含む。
【0028】
オブジェクト重要度算出部51は、オブジェクトクラスタ情報記憶部92に記憶されたオブジェクトクラスタ情報に基づいて、画像に写る人物などのオブジェクトそれぞれの重要度を示すオブジェクト重要度を算出し、算出した情報をオブジェクト重要度記憶部93に記憶させる。
【0029】
この算出方法のあらましとしては、画像に表れるオブジェクトの出現頻度が多いクラスタほど高いオブジェクト重要度と算出するようにする。
【0030】
一例として、
・画像取得部10が取得した画像の枚数・・・100枚
・人物aが写る画像の枚数・・・30枚
・人物bが写る画像の枚数・・・20枚
・人物cが写る画像の枚数・・・10枚
とする。この場合、オブジェクト重要度算出部51は、出現する画像枚数に応じ、人物aの重要度を30、人物bの重要度を20、人物cの重要度を10と算出する(
図12参照)。
【0031】
なお、付加的な要素として、各画像に写る人物の大きさ(占有度)を計算し、占有度が大きいほど重要度が高くなるようにしてもよい。
【0032】
背景重要度算出部52は、オブジェクトクラスタ情報記憶部92に記憶されたオブジェクトクラスタ情報とイベントクラスタ情報記憶部96に記憶されたイベントクラスタ情報と背景特徴量情報記憶部94に記憶された背景特徴量に基づいて、ある同一イベントに属する画像それぞれの背景重要度を算出し、算出した背景重要度を背景重要度記憶部95に記憶させる。この背景重要度の算出方法の詳細については
図14を用いて後述する。
【0033】
記憶部90は、テンプレート情報記憶部91、オブジェクトクラスタ情報記憶部92、オブジェクト重要度記憶部93、背景特徴量情報記憶部94、背景重要度記憶部95、イベントクラスタ情報記憶部96、画像セット情報記憶部97、配置パターン記憶部98を含む。記憶部は例えばRAMから構成することができる。
【0034】
アルバム情報選択部60は、アルバムに関する情報(イベントおよびテンプレート)の選択に関する処理を行う機能を有する。
【0035】
特に、イベントクラスタ選択部61は、アルバムの作成に用いる画像が属するイベントを選択する機能を有する。
【0036】
例えば、イベントクラスタ情報記憶部96に3種類のイベントが記憶されているとする。この場合、イベントクラスタ選択部61は、この3種の中から1種のイベントを選択する。この選択は、ユーザにイベント選択のメニューをディスプレイ4に表示し、入力デバイスからの入力を受け付けることにより行うとしてもよい。
【0037】
テンプレート選択部62は、テンプレート情報記憶部91が記憶する複数種類のテンプレートの中から1種類のテンプレートを選択する。
【0038】
詳しくは後述するが、テンプレート情報記憶部91は、テンプレート毎に、(a)フレームのレイアウトなどを示すデザインに関する情報と、(b)一対のフレームに配置される一対の画像に関する評価項目に関する情報とを記憶している。
【0039】
配置パターン評価部80は、テンプレート選択部62が選択したテンプレートに対して、イベントクラスタ選択部61が選択したイベントクラスタに属する画像を配置した際の配置パターン(複合画像セット)毎に評価値を算出し、算出した評価値を配置パターン情報記憶部98に記憶させる。そして、配置パターン評価部80は、評価値が最上位の配置パターンに対応するアルバムを作成する。
【0040】
例えば、選択されたテンプレートのフレームの数が6個、選択されたイベントクラスタに属する画像の枚数が8枚とすると、8枚の画像を6個のフレームに配置するパターンは、順列で考えると、8!/(8−6)!=20160通りである。
【0041】
この場合、配置パターン評価部80は、総当たりアルゴリズムにしたがって、この20160通りすべての配置パターン毎に評価値を算出する。
【0042】
評価値の細部の算出は画像セット評価部70が担当する。評価値の算出に際しては、
(a)イベントクラスタ情報、(b)オブジェクトクラスタ情報、(c)背景特徴量、(d)オブジェクト重要度、(e)背景重要度、これら(a)〜(e)の要素を用いて、一対の枠に対して配置される一対の画像(画像セット)の評価を行うこととなる。
【0043】
そして、評価値を構成する評価項目には次の4種類があり、各評価項目の概要、および評価の高低に用いる判断要素(カッコ内に簡単な理由を記載する。)の説明は次の通りである。
(評価項目1)「オブジェクト紹介度」・・・画像に写るオブジェクトの紹介性への適応度を示す。
(評価項目1の判断要素)
一対の画像に、より多種類の人物が写っているほど高評価
一対の画像に、写っている人物がより重要なほど高評価
(評価項目2)「オブジェクト行動度」・・・ある場面におけるオブジェクトの行動の度合いを示す。
(評価項目2の判断要素)
両方の画像に同一人物が写っていることが評価の前提条件
・写っている同一人物の重要度が高いほど高評価
・両方の画像の背景重要度が高いほど高評価
・一対の画像間の背景がより類似しているほど高評価(画像間で同じ場面との推測が働くため)
・一対の画像間の撮影日時がより近いほど高評価(日時が近いならば、両方の画像が同じ場面で撮影された一連の画像の関係にあるとの推測が働くため)
(評価項目3)「場面遷移度」・・・場面間の移り変わりの度合いを示す。
(評価項目3の判断要素)
・両方の画像の背景重要度が高いほど高評価
・一対の画像間の背景が非類似であるほど高評価(画像間で場面が異なるとの推測が働くため)
・一対の画像間の撮影日時がより遠いほど高評価(日時が遠いならば、その日時の間で撮影者が移動するなどして、画像間で場面が異なるとの推測が働くため)
(評価項目4)「場面全体像度」・・・特定の場面を振り返るための評価項目であり、ある人物が寄りと引きで写る場合に、この寄り引きの対照性の度合いを示す。
(評価項目4の判断要素)
一対の画像の少なくとも1枚の画像に人物が写っていることが評価の前提条件
・両方の画像の背景重要度が高いほど高評価
・一対の画像間に写っている人物の大きさが異なるほど高評価(寄り引きを示す)
・一対の画像間の背景がより類似しているほど高評価
・一対の画像間の撮影日時がより近いほど高評価
以上が4種類の評価項目1〜4の概要である。なお上に示した各評価項目1〜4の判断要素中で列挙したものはあくまでも一例であり、これに限られるものではない。
【0044】
また、評価項目2,4のオブジェクト行動度,場面全体像度の両者は背景の類似性に着目するものであり、背景が類似する画像間で同一のオブジェクトクラスタに係る変化度を示すものといえる。
【0045】
さて、画像セット評価部70では、オブジェクト紹介度算出部71、場面遷移度算出部72、オブジェクト行動度算出部73および場面全体像度算出部74が、それぞれオブジェクト紹介度、場面遷移度、オブジェクト行動度および場面全体像度を算出する。
【0046】
表示制御部100は、ディスプレイ4に各種表示を行わせる機能を有する。
【0047】
特に、表示制御部100は、配置パターン情報記憶部98に記憶された配置パターンの評価値とテンプレート情報記憶部91に記憶されているテンプレート情報とに基づいて、アルバムの台紙であるテンプレートに、ある配置パターン(例えば、評価値が最高の配置パターン)にしたがって画像を当てはめたアルバムをディスプレイ4の画面に表示させる。
<動作>
以下、画像の配置パターンを評価するまでの流れについて説明する。
【0048】
図2は、全体的な処理の流れを示すフローチャートである。画像評価装置3は、画像取得・オブジェクトと背景とイベント抽出(S21)、画像評価(S22)を行い、イベントクラスタ情報記憶部96からイベントクラスタ情報を取得し、取得した複数のイベントクラスタの中から、ユーザから受け付けることにより、ユーザがアルバムにしたいイベントを選択し(S23)、テンプレート情報記憶部91からテンプレート情報を取得し、ユーザがアルバムの台紙とするテンプレートを選択する(S24)。次に、選択されたイベントクラスタに属する画像群から2枚の画像(一対の画像)を設定し(S25)、設定した一対の画像の画像セット評価(S26)を行い、イベントクラスタに属する全ての画像の組み合わせを設定していなければ(S27:No)、S25に戻り、組み合わせていなかった2枚の画像を設定する。また、イベントクラスタに属する全ての画像の組み合わせを設定していれば(S27:Yes)、配置パターン評価(S28)を行い処理を終える。
【0049】
続いて、ステップS21の画像取得・オブジェクトと背景とイベント抽出の処理について
図3を参照しながら説明する。
【0050】
図3に示すように、画像取得部10は、記憶媒体2から、記憶媒体2内に記憶された画像データを取得する(S31)。
【0051】
ここでは、一例として、記憶媒体2内には、
図4のような人物aや人物bが写る画像A〜画像Cの3枚分の画像データが記憶されており、画像取得部10はこの画像A〜画像Cの画像データを取得するものとする。
【0052】
続いて、オブジェクト抽出部20は、取得された画像データを対象として、画像から顔の領域を切り出し、顔の輪郭などの特徴量や画像に対する顔の写る割合(占有度)などの顔特徴量を抽出する(S32)。
【0053】
そして、オブジェクトクラスタリング部22は、抽出された顔特徴量を用いてクラスタリングを行い、クラスタリングした結果であるオブジェクトクラスタ情報をオブジェクトクラスタ情報記憶部92に記憶させる(S33)。
【0054】
次に、背景抽出部40の背景特徴量抽出部41は、取得された画像データを対象として、背景特徴量を抽出し、背景特徴量情報記憶部94に記憶させる(S34)。この背景特徴量とは、画像の背景の領域(画像のうち、オブジェクトとして切り出された領域を除く領域)の色特徴量に関する情報である。その詳細は
図6を用いて後述する。
【0055】
そして、イベント抽出部30の撮影日時情報抽出部31は、取得された画像データを対象として、デジタルカメラ等で撮影された画像に付与されたExif(Exchangeable image file format)情報から撮影日時情報を抽出する(S35)。そして、イベントクラスタリング部32は、抽出された撮影日時情報を用いてクラスタリングを行い、クラスタリングした結果であるイベントクラスタ情報をイベントクラスタ情報記憶部96に記憶させる(S36)。
【0056】
図4を用いて、ステップS32、S33の動作を具体的に説明すると、オブジェクト特徴量抽出部21は、3枚の画像A〜画像C(
図4(a))から4つの顔F1〜F4を切り出し、顔F1〜F4それぞれの特徴量を抽出する(
図4(b))。
そして、オブジェクトクラスタリング部22は、4つの顔F1〜F4のうち、類似している顔同士の顔F2、F3を人物aとして、また顔F1、F4を人物bとクラスタリングする(
図4(c))。
【0057】
図5は、オブジェクトクラスタリング(S33)の結果を示すオブジェクトクラスタ情報のデータ構造を示す図である。オブジェクトクラスタ情報は、画像に出現する顔のそれぞれがどの人物クラスタに属しているかを示す情報であり、「オブジェクトクラスタ名」、「顔」、「画像」、「顔の占有度」の項目を含む。
【0058】
図6を用いて、ステップS34の動作を具体的に説明すると、背景特徴量抽出部41は、3枚の画像A〜画像C(
図6(a))それぞれについて、32個の領域に区分し(
図6(b))、その中から顔以外の領域である背景領域の区分において最も頻出する色をその区分の代表色として抽出し、抽出した代表色による各画像の色ヒストグラムを背景特徴量として算出する(
図6(c))。
【0059】
そして、顔領域の大きさによる偏りを除くために、各背景特徴量に、(32個/背景領域の個数)を掛け合わせる(正規化)。具体的には、画像A,画像B,画像Cの各背景特徴量に、それぞれ32/18,32/25,32/22を掛け合わせる。
【0060】
なお、ここでは一例として、画像A、B、Cそれぞれの背景特徴量として、各画像の上部と下部に分かれたそれぞれ5色の代表色(黒・白・赤・緑・青)のヒストグラムを算出している。
【0061】
背景特徴量抽出部41は、正規化後の各背景特徴量を、背景特徴量情報記憶部94に記憶させる(
図7参照)。
【0062】
図8を用いて、ステップS35、S36の動作を具体的に説明すると、撮影日時抽出部31は、4枚の画像A〜画像D(
図8(a))からそれぞれ撮影日時を抽出する(
図8(b))。撮影日時の抽出方法としては、例えばデジタルカメラ等で撮影された画像に付与されるExif情報から撮影日時を抽出することができる。そして、イベントクラスタリング部32は、4つの撮影日時の内、日時が近い画像同士の画像A,Bをイベントfとして、また画像C,Dをイベントgとクラスタリングする(
図8(c))。
【0063】
図9は、イベントクラスタリング(S36)の結果を示すイベントクラスタ情報のデータ構造を示す図である。イベントクラスタ情報は、画像がどのイベントクラスタに属しているかを示す情報であり、「イベントクラスタ名」、「画像」、「撮影日時」の項目を含む。
【0064】
図2に戻って説明を続ける。次に、画像評価(S22)の処理について、
図10を用いて説明する。画像評価部は、画像に写るオブジェクトの重要度を算出するオブジェクト重要度を算出し(S101)、次に画像の背景の重要度を算出する(S102)。
【0065】
図11を用いて、オブジェクト重要度を算出する処理(S101)について、説明する。オブジェクト重要度算出部51は、オブジェクトクラスタ情報記憶部92からオブジェクトクラスタ情報を取得する(S111)。
【0066】
オブジェクト重要度算出部51は、取得されたオブジェクトクラスタ情報に基づいて、オブジェクトクラスタ毎に、オブジェクト重要度を算出する(S112)。
【0067】
例えば、オブジェクトクラスタ毎に、画像に写るオブジェクトが属するオブジェクトクラスタの数をカウントし、カウントした数から出現頻度を求める。そして、出現頻度に比例するようにオブジェクト重要度を算出する。
【0068】
これは、ユーザが重要と考えるオブジェクトを、ユーザは頻繁に撮影する傾向から考慮されたものであり、全ての画像において出現頻度が高いオブジェクトは重要であろうという考えに依拠する。
【0069】
図12は、オブジェクト重要度算出の結果を示すオブジェクト重要度のデータ構造を示す図である。オブジェクト重要度記憶部93が記憶するオブジェクト重要度は、画像に写るオブジェクトの重要度を示す情報であり、「オブジェクトクラスタ名」「オブジェクト重要度」「順位」の項目を含む。ここでは一例として、画像に写る人物a,人物bおよび人物cそれぞれのオブジェクト重要度を30,20,10とし、そしてその重要度に基づいた順位が付与されている。
【0070】
図10に戻って画像評価の処理に関する説明を続ける。次に背景重要度を算出する処理(S102)について、
図13を用いて説明する。背景重要度算出部52は、イベントクラスタ情報記憶部96からイベントクラスタ情報、背景特徴量情報記憶部94から背景特徴量を取得する(S131)。
【0071】
背景重要度算出部52は、取得されたイベントクラスタ情報と背景特徴量に基づいて、ユーザがステップS23(
図2参照)で選択したイベントクラスタに属する画像群を特定する。そして、特定した画像群から任意の2枚の画像間の背景特徴量の類似度を算出する(S132)。
【0072】
例えば、選択されたイベントクラスタの画像群が画像Cから画像Fまでの4枚(
図14参照)とすると、背景重要度算出部52は、この4枚の中から2枚の画像の各組み合わせ(
4C
2=4*3/2=6通りある。)について、ぞれぞれ背景特徴量の類似度を算出することとなる。
【0073】
ステップS132に続いて、背景重要度算出部52は、選択されたイベントクラスタに属する画像群の各画像について、その画像とそれ以外の他の画像との背景特徴量の類似度の総和を、対象画像の背景頻度として算出する(S133)。
【0074】
例えば、選択されたイベントクラスタの画像群が画像Cから画像Fまでの4枚(
図14参照)とすると、画像Cの背景頻度は、画像Cと、画像C以外の画像D〜画像Fのいずれかの1枚とを組み合わせた背景特徴量の類似度の総和となる。つまり、
画像Cの背景頻度=画像CD間の背景特徴量の類似度+画像CE間の背景特徴量の類似度+画像CF間の背景特徴量の類似度
となる。
【0075】
これは、イベントにおいてユーザは重要な場面で頻繁に撮影をする傾向を考慮したものであり、類似する背景の画像数が多い(背景頻度が高い)ほど、その背景が写る画像が重要な場面であると考える。
【0076】
続いて、背景重要度算出部52は、オブジェクトクラスタ情報記憶部92からオブジェクトクラスタ情報とオブジェクト重要度情報記憶部93からオブジェクト重要度を取得する(S134)。
【0077】
背景重要度算出部52は、取得されたオブジェクトクラスタ情報とオブジェクト重要度情報とS132で算出された画像間の背景特徴量の類似度に基づいて、画像に写る背景と類似する背景の画像において、重要な人物が一緒に写る(共起する)度合いを示すオブジェクト共起度を算出する(S135)。
【0078】
これは、イベントにおいてユーザは重要な場面で人物を頻繁に撮影する傾向を考慮したものであり、人物が写る背景と類似する背景の画像は、重要な画像であると考える。
【0079】
そして、背景重要度算出部52は、算出された画像の背景頻度とオブジェクト共起度に基づいて、背景重要度を算出し、背景重要度情報記憶部95に記憶させる(S136)。
【0080】
図14を用いて、ステップ132〜136を具体的に説明する。
【0081】
図14(a)の画像C〜画像Fのうち、画像C〜画像Eは、浜辺で撮影された画像であるのに対して、画像Fだけは道路で撮影された画像である。
【0082】
このため、画像Cから画像Eまで2枚を組み合わせたときのの背景類似度(0〜1の範囲であり、0が最も非類似、1が最も類似であることを示す。)は比較的高い値となっている。例えば、画像CE間は0.8、画像DE間は0.7である。
【0083】
これに対して、画像Fを含めて2枚を組み合わせたときの背景類似度は低い値となっており、画像CF間、画像DF間および画像EF間すべて0.1である。
【0084】
図14(b)は背景頻度を算出する例を示し、画像Eの背景頻度(1.6)は、画像CE間(0.8)、画像DE間(0.7)および画像EF間(0.1)の背景特徴量の類似度の総和となっている。
【0085】
図14(c)は、人物共起度(オブジェクト共起度)を算出する例を示す。人物共起度は、画像C・Dに写る人物の重要度と算出した背景特徴量の類似度をそれぞれ掛け合わせ、算出された値の総和を求めることにより算出する。
【0086】
そして、算出した背景類似度と人物共起度掛け合わせ、背景重要度を算出する(
図14(d))。
【0087】
図14では一例として、画像C〜画像Fの画像から、画像Eと画像Fの背景重要度を算出している。この場合、人物が写る画像との背景が類似する画像Eの背景重要度が高く算出され、画像Fの背景重要度が低く算出される。
【0088】
図15は、背景重要度算出(S136)の結果を示す背景重要度のデータ構造を示す図である。背景重要度は、画像に写るオブジェクト以外の領域で、イベントの場面を示す背景の重要度を示す情報であり、「画像ID」「背景重要度」「順位」の項目を含む。ここでは一例として、画像A、Bそれぞれの背景重要度0.6、0.4、そして背景重要度による順位を記憶している。
【0089】
図2に戻って説明を続ける。次に画像セット評価(S26)の処理について、
図16を用いて説明する。
【0090】
画像セット評価部70は、
図2のステップS23〜S25を経て設定された2枚の画像(画像セット)に基づいて、以下の4種類の評価を行う。
【0091】
まず、それぞれ違う重要な人物が写る画像の組み合わせを評価するオブジェクト紹介度を算出する(S161)。
【0092】
続いて、同一の重要な場面で同一の重要な人物が写る画像の組み合わせを評価するオブジェクト行動度を算出する(S162)。
【0093】
次に、それぞれ違う重要な場面の画像組合せを評価する場面遷移度を算出する(S163)。
【0094】
そして、同一の重要な場面で重要な人物が寄りと引きで写る画像の組み合わせを評価する場面全体像度を算出する(S164)。
【0095】
この4種類の評価により、イベントの参加者が分かる画像セット(オブジェクト紹介度)、特定の参加者がイベントで行なった行動が分かる画像セット(オブジェクト行動度)、イベントで参加者が行った場所が分かる画像セット(場面遷移度)、特定の場所の詳細が分かる画像のセット(場面全体像度)を導出することができる。
【0096】
つまり、これら4種類の評価により、イベントで誰がどこでどんな場所でどんなことをしたのかを、効率的に振り返れる画像の組合せを導出することができる。次に、これら4種類の画像セットの評価の算出方法について、具体的に説明する。
【0097】
図17を用いて、オブジェクト紹介度を算出する処理(S161)について、説明する。オブジェクト紹介度算出部71は、オブジェクトクラスタ情報記憶部からオブジェクトクラスタ情報、オブジェクト重要度情報記憶部からオブジェクト重要度を取得する(S171)。
【0098】
オブジェクト紹介度算出部71は、取得されたオブジェクトクラスタ情報とオブジェクト重要度情報に基づいて、設定された両画像にオブジェクトが写っていなければ(S172:No)、
図16のステップ162に移行し、これに対して、両画像にオブジェクトが写っていれば(S172:Yes)、両画像に写る各オブジェクトの重要度を総和でオブジェクト紹介度を算出し、算出したオブジェクト紹介度を画像セット情報記憶に記憶させる(S173)。
【0099】
これは、イベントにおいて、ユーザが参加した全てのメンバを振り返る傾向を考慮したものであり、それぞれ違う重要な人物が写る画像セットであるほど、重要な画像セットと考える。
【0100】
図18を用いて、ステップ173を具体的に説明すると、オブジェクト紹介度算出部71は、8枚の画像G〜画像N(
図18(a))から、例えば画像セットGH(画像Gと画像Hの組み合わせ)では、画像Gに写る人物b,cと、画像Hに写る人物aとのオブジェクト重要度を総和を求め、この総和を画像セットのオブジェクト紹介度として算出する(
図18(b))。
【0101】
図18(b)では、浜辺での画像G〜画像I、海上での画像J〜画像M,道路での画像Nの8つの画像から、画像セットGHと画像セットJK(画像Jと画像Kの組合せ)のオブジェクト紹介度を算出している。この場合、家族が全員揃っている画像セットGHのオブジェクト紹介度が高く算出され、家族が揃っていない画像セットJKのオブジェクト紹介度が低く算出される。
【0102】
なお、
図18(b)左下部に示した画像セットHJでは、画像H,画像J共に同一人物である人物aが写っているため、オブジェクト重要度を加算しないとしている。同一人物の組み合わせは、多様な人物の紹介には寄与しない(相違する人物の組み合わせの方が好ましい)と考えられるからである。
【0103】
図19を用いて、オブジェクト行動度を算出する処理(S162)について、説明する。オブジェクト行動度算出部73は、オブジェクトクラスタ情報記憶部92からオブジェクトクラスタ情報、オブジェクト重要度情報記憶部93からオブジェクト重要度、背景特徴量情報記憶部94から背景特徴量、背景重要度情報記憶部95から背景重要度、イベントクラスタ情報記憶部96から撮影日時情報を取得する(S191)。
【0104】
オブジェクト行動度算出部73は、取得されたオブジェクトクラスタ情報に基づいて、設定された両画像に同一オブジェクトが写っていなければ(S192:No)、
図15のステップ163に移行し、両画像に同一オブジェクトが写っていれば(S192:Yes)、画像間の背景特徴量の類似度を算出し(S193)、続いて画像間の撮影日時の間隔を算出する(S194)。そして、算出された背景特徴量の類似度と撮影日時の間隔と両画像のオブジェクト重要度および両画像の背景重要度に基づいて、オブジェクト行動度を算出し、算出したオブジェクト行動度を画像セット情報記憶部97に記憶させる(S195)。
これは、ユーザがイベントに参加した家族メンバが何をしたのかを振り返る傾向を考慮したものであり、同一の場面で同一の重要な人物が写る画像セットであるほど、重要な画像セットと考える。
【0105】
図20を用いて、ステップS193〜S195を具体的に説明する。
【0106】
図20の8枚の画像G〜画像Nは、ある同じイベントのイベントクラスタに属する画像群である。
【0107】
オブジェクト行動度算出部72は、画像G〜画像Nの中から、同一のオブジェクトが写っている画像セットHJ,JL,HLを算出対象として特定する。
【0108】
図20(b)では、これらの画像セットのうちで画像セットHJ,JLについてのオブジェクト行動度の算出の流れを示している。
【0109】
つまり、画像セットHJ(画像Hと画像Jの組み合わせ)では、両画像に写る人物aのオブジェクト重要度を抽出し、画像H,画像Jの背景重要度の平均を算出し、画像HJ間の背景特徴量の類似度を算出し、画像HJ間の撮影間隔を算出する。
【0110】
なお、背景特徴量の類似度の算出方法として、ヒストグラムインタセクション(参考文献3参照)を用いることができる。
【0111】
また、画像間の撮影間隔(0〜1の範囲であり、0が撮影間隔が最も離れていることを、1が最も近いことを示す。)については、イベントに属する全画像それぞれの撮影日時に基づいて、画像間の撮影間隔を算出し、算出した全ての撮影間隔が0〜1の範囲になるように正規化した値を用いる。
【0112】
そして、抽出したオブジェクト重要度と算出した背景重要度の平均と背景特徴量の類似度と撮影日時の間隔を掛け合わせて、画像セットHJのオブジェクト行動度を算出する。
【0113】
図20(b)では一例として、浜辺での画像G〜画像I、海上での画像J〜画像M,道路での画像Nの8枚の画像から、画像セットHJと画像セットJL(画像Jと画像Lの組合せ)のオブジェクト行動度を算出している。
【0114】
この場合、同じ人物が同じような背景の場面で写る画像セットJLのオブジェクト行動度が高く算出され、同じ人物でも違う背景の場面で写る画像セットHJのオブジェクト行動度は低く算出される。
【0115】
図21を用いて、場面遷移度を算出する処理(S163)について、説明する。場面遷移度算出部72は、背景特徴量情報記憶部94から背景特徴量、背景重要度情報記憶部95から背景重要度、イベントクラスタ情報記憶部96から撮影日時情報を取得する(S211)。
【0116】
場面遷移度算出部72は、取得された背景特徴量と背景重要度と撮影日時情報に基づいて、設定された2枚の画像の背景特徴量の非類似度(=1−類似度)を算出し(S212)、続いて画像間の撮影日時の間隔を算出する(S213)。そして、算出された画像間の背景の非類似度と撮影日時の間隔と両画像の背景重要度に基づいて、背景遷移度を算出し、画像セット情報記憶部に記憶させる(S214)。
【0117】
これはユーザがイベントを行なった複数の場面を振り返る傾向を考慮したものであり、違う場面が写る画像セットであるほど、重要な画像セットと考える。
【0118】
図22を用いて、ステップS212〜S214を具体的に説明すると、場面遷移度算出部72は、8枚の画像G〜画像N(
図22(a))から、例えば画像セットIM(画像Iと画像Mの組み合わせ)では、両画像の背景重要度の平均を算出し、画像間の背景特徴量の非類似度と撮影日時の間隔を算出する。
【0119】
なお、画像間の背景特徴量の非類似度は、1から背景類似度を引いた値により算出する。つまり、画像セットIMの非類似度は、1から画像セットIMの類似度0.2を引いた0.8となる。
【0120】
そして、算出した背景重要度の平均と背景特徴量の非類似度と撮影日時の間隔を掛け合わせて、画像セットIMの場面遷移度を算出する(
図22(b))。
【0121】
図22では一例として、浜辺での画像G〜I、海上での画像J〜M,道路での画像Nの8つの画像から、画像セットIMと画像セットMN(画像Mと画像Nの組合せ)の場面遷移度を算出している。
【0122】
場面遷移度は、背景重要度の平均が高くて、場面変遷の可能性が高い画像セットの組み合わせが高く評価される。
【0123】
背景重要度の平均が高いということは、撮影枚数が多くユーザが重要と考える画像セットである可能性が高いからである。
【0124】
また、場面変遷の可能性は、非類似度が高い、かつ、撮影日時間隔が大きいものほど、高いとする。背景が非類似で、撮影日時に隔たりがある画像セットはユーザが移動て場面が変わったであろうと推測が働くからである。
【0125】
なお、場面遷移度は、人物よりも場面の変遷に着目する変数であるので、人物が写る画像セットは算出対象から除外するとしても構わない。つまり、
図22(a)の8枚の画像のうち、人が写らない3枚の画像I、画像Mおよび画像Nを組み合わせた画像セットのみを算出対象とするとしてもよい。あるいは、算出対象から除外しないとしても、オブジェクトを含む画像セットについては低く評価するようにしてもよい。
【0126】
図22(b)では、より背景重要度が高く、撮影日時の間隔が大きい画像セットIMの方が、画像セットMNと比べて高い場面遷移度が算出されている。
【0127】
図23を用いて、場面全体像を算出する処理(S164)について、説明する。背景全体像度算出部74は、背景特徴量情報記憶部94から背景特徴量、背景重要度情報記憶部95から背景重要度、イベントクラスタ情報記憶部96から撮影日時情報、オブジェクトクラスタ情報記憶部92からオブジェクトクラスタ情報、オブジェクト重要度情報記憶部93からオブジェクト重要度を取得する(S231)。
【0128】
場面全体像度算出部74は、取得された情報に基づいて、設定された両画像にオブジェクトが写っていなければ(S232:No)、
図2のステップS28をに移行し、設定された2枚の画像のいずれかにオブジェクトが写っていれば(S232:Yes)、画像間のオブジェクト占有相違度を算出する(S233)。
【0129】
オブジェクト占有相違度とは、両画像で最も大きく写るオブジェクトに対して、画像間でそのオブジェクトが写る大きさの差分のことである。
【0130】
続いて、画像間の背景の類似度を算出する(S234)。次に、画像間の撮影日時の間隔を算出する(S235)。そして、算出されたオブジェクト占有相違度と背景の類似度と撮影日時の間隔に基づいて、背景全体像度を算出し、画像セット情報記憶部97に記憶させる(S236)。
【0131】
この場面全体像度は、ユーザがイベントを行なった場面の詳細を振り返る傾向を考慮したものであり、同一の場面(=背景特徴量の類似度が高い、撮影日時間隔が近い。)で人物が寄りと引きで写る(=占有相違度が高い。)画像セットであるほど、イベントを振り返る上で重要な画像セットと考える。
【0132】
図24を用いて、ステップS233〜S236を具体的に説明すると、場面全体像度算出部74は、8枚の画像G〜画像Nから、例えば画像セットHI(画像Hと画像Iの組み合わせ)に対して、画像間のオブジェクト占有相違度と背景特徴量の類似度と撮影日時の間隔を算出する。
【0133】
オブジェクト占有相違度の算出では、両画像に人物が写っている場合、両画像の人物の写る大きさの差分を算出するが、画像セットHIの場合、画像Hにのみに人物が写っているため、画像Hに写る人物の写る大きさ(占有度)をオブジェクト占有相違度とする。そして、算出したオブジェクト占有相違度と背景特徴量の類似度と撮影日時の間隔を掛け合わせて、画像セットHIの場面全体像度として算出する(
図24(b))。
【0134】
ここでは一例として、浜辺での画像G〜I、海上での画像J〜M,道路での画像Nの8つの画像から、画像セットHIと画像セットLM(画像Lと画像Mの組合せ)の場面全体像度を算出している。この場合、同じ場面で片方に人物が大きく写る画像セットHIの場面全体像度が高く算出され、同じ場面で片方に人物が小さく写る画像セットLMの場面全体像度が低く算出される。
【0135】
なお、重要な人物が写る画像セットの場面全体像度が高く評価されるようにするために、画像セット中に写るオブジェクト重要度を用いて場面全体像度を算出しても構わない。
【0136】
図25は、画像セット評価算出の結果を示すオブジェクト紹介度・オブジェクト行動度・場面遷移度・場面全体像度のデータ構造を示す図である。
【0137】
画像セット情報記憶部97は、オブジェクト紹介度を、イベントクラスタに属する2枚の画像の組み合わせから、それぞれ違う重要な人物が写る画像セットを評価する情報であり、
図25のテーブル97aのような構造で記憶する。
【0138】
また、オブジェクト行動度は、イベントクラスタに属する2枚の画像の組み合わせから、同一の重要な人物が写る画像セットを評価する情報であり、
図25のテーブル97bのような構造で記憶する。
【0139】
場面遷移度は、イベントクラスタに属する2枚の画像の組み合わせから、それぞれ違う場面が写る画像セットを評価する情報であり、
図25のテーブル97cのような構造で記憶する。
【0140】
場面全体像度は、イベントクラスタに属する2枚の画像の組み合わせから、同一の場面で重要な人物が寄りと引きで写る画像セットを評価する情報であり、
図25のテーブル97dのような構造で記憶する。
【0141】
ここでは一例として、8枚の画像G〜画像Nによる組合せで算出されたオブジェクト紹介度・オブジェクト行動度・場面遷移度・場面全体像度をテーブル構造で記憶している。なお、
図25のテーブル97a〜97dでは、
図18,
図20,
図22,
図24に対応する値を記入しているだけで残部の値を省略しているが、実際には、具体的な値か、値を算出しない評価項目であれば「−」が記入される。
【0142】
図2に戻って説明を続ける。次に配置パターン評価(S28)の処理について、
図26を用いて説明する。
【0143】
配置パターン評価部80は、テンプレート情報記憶部91からテンプレート情報、画像セット情報記憶部97から画像セット評価情報、イベントクラスタ情報記憶部96からイベントクラスタ情報を取得する(S261)。
【0144】
配置パターン評価部80は、取得された情報に基づいて、ユーザが選択したイベントクラスタに属する画像群から、ユーザが選択したテンプレート情報に含まれるフレーム数分の枚数分だけ画像を選択し、フレームに配置した場合の配置パターンを生成する(S262)。
【0145】
続いて、テンプレート情報に含まれる2つのフレーム間の画像セットに定義された評価項目に基づいて、設定された配置パターンの評価値を算出し、配置パターン情報記憶部98に記憶させる(S263)。
【0146】
次に、選択されたイベントクラスタに属する画像群において、すべての配置パターンで配置パターンの評価値を算出できていなければ(S264:No)、ステップ262に戻り、すべての配置パターンで評価値を算出できていれば(S264:Yes)、配置パターン評価部80は、最高の順位の配置パターンを用いてアルバムを作成する(S265)。
【0147】
そして、表示制御部100は、作成されたアルバムをディスプレイ4に表示する(S266)。
【0148】
図27は、テンプレート情報のデータ構造を示す図である。
【0149】
テンプレート情報は、「デザイン(レイアウト)」「評価項目」、「フレーム間の評価項目」を含む。
【0150】
図27には、一例として、テンプレートAのテンプレート情報の詳細のみを示すが、テンプレートB,テンプレートCについても同様なデータ構造となっている。
【0151】
テンプレートAの「デザイン」としては、フレームのレイアウトに関する情報(フレームの座標位置、大きさ、角度)、個々のフレームに関する情報(フレームの背景の色、模様、枠の装飾など)、アルバムの台紙のデザインに関する情報(台紙のサイズ、台紙の背景色など)、などを含む。
【0152】
図27では、簡単なイメージで示しているが、実際には、各種パラメータが所定のデータベース形式で格納されているものとする。
【0153】
テンプレートAの「評価項目」には、画像の特徴量に関する条件の種類が含まれている。この例では、フレーム同士の組合せの条件として、当てはめたい画像の組合せをオブジェクト紹介度(OI)・オブジェクト行動度(OA)・場面遷移度(ST)・場面全体像度(SO)の4種類の条件がある。
【0154】
テンプレートAの「フレーム間の評価項目」は、イベントを容易に振り返れる配置パターンを導出するために、一対のフレームに配置される一対の画像に適用したい評価項目の対応テーブルを含む。この対応テーブルは、例えば、一対のフレームabについてはオブジェクト紹介度(OI)が対応付けている。
【0155】
図28を用いて、ステップS262〜S263を具体的に説明する。
【0156】
ここでは、ユーザによる選択されたテンプレート(
図2:S24)は、テンプレートAであるとする。テンプレートAには、フレームa〜フレームfまでの6個のフレームがある。
【0157】
このため、配置パターン評価部80は、8枚の画像G〜画像N(
図28(a))から、6枚の画像を選択して、6個のフレームに並べる組み合わせ
8P
6=8!/(8−6)!=20160通りの配置パターンP1〜P20160を求める。
【0158】
続いて、配置パターン評価部80は、配置パターン毎に、テンプレートAの「フレーム間の評価項目」により規定されたフレーム間の条件に基づいて、配置パターン評価値を算出する(
図29)。
【0159】
図29に示すように、配置パターン評価値は、テンプレートAの「フレーム間の評価項目」(
図27参照)で規定された、
・フレームab間のOI
・フレームac間のSO
・フレームbc間のSO
・フレームcd間のST
・フレームde間のSO
・フレームdf間のSO
・フレームef間のOA
の全評価項目を加算することにより求める。
【0160】
図29の例では、配置パターンP1および配置パターンP20160の配置パターン評価値が算出されており、配置パターンP20160の評価値200の方が、配置パターンP1よりも高い評価値100となっている。
【0161】
図30は、配置パターン評価算出の結果を示す配置パターン評価値のデータ構造を示す図である。
【0162】
配置パターン評価値は、選択されたイベント画像群とテンプレートに基づく、イベントを効率的に振り返ることができる画像組み合わせの評価を示す情報であり、「配置パターンID」、テンプレートに含むフレームを示す「テンプレートAのパターン」、「配置パターン評価値」、「順位」の項目を含む。
【0163】
ここでは一例として、
図29のP1とP20160の配置パターンのテンプレートαに対するそれぞれの配置パターン評価値100と200、またその配置パターン評価値による順位を記憶している。
【0164】
このうち、特に最高の順位(最高の評価値)の配置パターンP20160は、テンプレートAの各評価項目を最も満足したものであるので、この配置パターンP20160に従ったアルバムは、ユーザの要望に沿ったものとすることができる。
【0165】
図28〜
図30で説明した例では画像の枚数は8枚と少ないが、特に、ユーザがイベントで撮影して保有する画像の枚数が膨大である場合には、アルバムをユーザ自身が手動で作成するのは大変手間であるので、本実施の形態を適用すると効果的である。
【0166】
また、上記膨大な画像が、家族旅行のイベントに関するものであったとしても、上述の4種類の評価項目を用いて画像セットを評価することで、イベントを効率的に振り返ることができる画像の組み合わせを選別し、アルバムを自動作成することができる。
【0167】
家族旅行の画像は、結婚式の画像などとは違って定番の画像の構図パターンというものが無く、従来技術によるアプローチでは家族旅行のアルバムを適切に自動作成することが困難と考えられる。これに対して、本実施の形態によれば、家族旅行のアルバムの自動作成にも寄与することができる。
<補足1>
以上、本実施の形態について説明したが、本発明は上記の内容に限定されず、本発明の目的とそれに関連又は付随する目的を達成するための各種形態においても実施可能であり、例えば、以下であっても構わない。
(1)アルバムの表示例
図31は、テンプレート情報記憶部91が記憶するテンプレートAの別の例を示すものである。基本的には
図27と同様であるが、テンプレートAが「評価項目,コメント」という欄を含む点が異なっている。
【0168】
この「評価項目,コメント」の欄は、評価項目に対するコメントを対応付けを示すものである。例えば、オブジェクト紹介度(OI)には、「こんなメンバーでした」というコメントが対応付けされている。
【0169】
このような対応付けを利用して、自動作成したアルバムのフレーム間にコメントを表示するとしてもよい。
【0170】
その表示例を
図32に示す。
図32(a)は、配置パターン評価値の順位が最上位(1位)の配置パターンP20160を用いて作成したアルバム320aを示し、
図32(b)は、配置パターン評価値の順位が最下位(20160位)の配置パターンP1を用いて作成したアルバム320bを示す。
【0171】
図32に示すように、フレームab間には「こんなメンバーでした」のコメントというように、
図31のテンプレートAで規定された各フレーム間の評価項目に対応するコメントが表示されている。
【0172】
このようにコメントを表示することで、アルバム作成に際して考慮したフレーム間の関係付けをユーザに知らせることができる。よりユーザの満足度の高いアルバムとすることができ、また、手動でコメントを挿入するユーザの手間を軽減できる。
【0173】
なお、アルバム320aにおいて、フレームabには、それぞれ人物が写る画像H画像Gが配置されており、「こんなメンバーでした」というコメントに沿うものとなっている。
【0174】
これに対して、アルバム320bにおいては、フレームabには、それぞれ人物が写らない画像L画像Iが配置されており、「こんなメンバーでした」というコメントとは沿わず、ちぐはぐである。
【0175】
両アルバム320a,320bを対比して見ると、アルバム320aの方がより適切なアルバムに仕上がっていることがわかる。
(2)テンプレートの選択例
図2のステップS24で説明したテンプレート選択のユーザインターフェイスの例について説明を加える。
【0176】
図33は、テンプレート選択部62が、ディスプレイ4に表示させるテンプレート選択の画面330を示す。
【0177】
テンプレート選択部62は、テンプレート情報記憶部91に記憶された3種類のテンプレートA〜Cを読み出し、画面330に表示している。そして、図示しない入力装置を介してユーザからテンプレートの選択を受け付ける。
(3)テンプレートの例
実施の形態で説明したテンプレートAは、4種類の評価項目を用いていたが(
図31参照)、4種類の評価項目がすべて必須というわけではなく、そのうちの任意の評価項目を組み合わせてテンプレートとしてもよい
図34(a)に、テンプレートBのテンプレート情報のデータ構造を示す。テンプレートBは、2個のフレームabだけを含む単純なものであり、フレームab間の評価項目としてオブジェクト紹介度が対応付けられている。
【0178】
図34(b)に、テンプレートBを用いた作成したアルバムの例を示す。
(4)アルバムの例
実施の形態では、台紙上のフレームに画像を貼り付けるタイプのアルバムを例に挙げて説明したが、これに限らず、スライドショータイプのアルバムであっても構わない。
【0179】
一例として、
図35(a)に、テンプレートB’のテンプレート情報のデータ構造を示す。
【0180】
テンプレートB’の「デザイン(レイアウト)」は、スライドショーにおけるスライド番号1〜5にそれぞれ対応する、スライドを示す情報を含んでいる。
例えば、スライド番号3には、スライド枠aが対応付けられており、スライド番号4には、スライド枠bが対応付けられている。
【0181】
また、テンプレートB’の「フレーム間の評価項目」は、一対のスライド枠abを、オブジェクト紹介度を用いて評価することを示す。
【0182】
図35(b)に、テンプレートBを用いた作成したアルバムの例を示す。
(5)配置パターン評価値算出の処理の流れ
実施の形態では、
図26のS262〜S264に示すように、生成した配置パターンすべてについてそれぞれの評価値を算出するとしている(総当たり法)。
【0183】
もっともこれに限らず、例えば、ステップS263で算出された評価値が閾値以上であれば、その時点で評価値算出処理を打ち切ってステップS265に移行するとしても構わない。
(6)テンプレートの枠セットを構成する枠の数
実施の形態では、テンプレートの「フレーム間の評価項目」(
図27参照)は2個の枠のセットから構成されていたが、2個に限られない。2個より大きい個数の枠を枠セットとしてもよい。例えば、3個の枠を枠セットとして構成してもよい。
【0184】
一例として、テンプレートにおいて、3個のフレームであるフレーム123から構成される枠セットに対して、ある評価項目を定義付ける。そして、この枠セットに配置される3個の画像ABCそれぞれの特徴量を組み合わせて評価の高低を評価するとしてもよい。
【0185】
なお、演算に際しては、ステップS25(
図2)において3枚の画像を設定することで、3枚の画像セットの評価値を予め算出しておき、配置パターンの評価に用いるとしてもよい。もっとも、演算量を軽減するために(2個の画像セットの評価値が流用できるように)、画像ABCの3枚の画像セットの評価値は、画像AB,画像BCおよび画像ACとタスキ掛けし2個ずつの画像セットの評価値の平均値を用いる算出するとしてもよい。
【0186】
また、2個の枠セットと3個の枠セットとが混在するようなテンプレートとしても構わない。
【0187】
具体例を説明すると、
図37(a)の例では、フレーム123から構成される枠セットに対して、場面遷移度(ST)の評価項目が対応付けられている。
【0188】
この場面遷移度は、フレーム12の場面遷移度ST
12、フレーム23の場面遷移度ST
23、およびフレーム13の場面遷移度ST
13の3者をタスキ掛けして求めることができる。このような枠セットは、3つの場所で遊んだイベントの画像から、3つの場所が移る画像の組み合わせを取り出すのに有用である。
【0189】
また、
図37(b)の例では、フレーム1234から構成される枠セットに対して、オブジェクト紹介度(OI)の評価項目が対応付けられている。このような枠セットは、4人家族のユーザが撮影した家族の画像の中から、家族の各人が写る画像の組み合わせを取り出すのに有用である。
(7)テンプレートの枠セットに関与しない枠
実施の形態では、テンプレートの「フレーム間の評価項目」(
図27参照)でフレームab,ac,bc,cd,de,df,efの7個の枠セットに評価項目が対応付けられている。
【0190】
このように、フレームa〜fのすべてのフレームは、すくなくとも1つの枠セットを構成するフレームとなっている。言い換えると、上記7個の枠セットを構成する枠は、6個の前記N個の枠のすべてを網羅していることとなる。
【0191】
このため、作成したアルバムにおいては、アルバム内の全フレームが評価項目に関係するフレームであるので、全フレームにおいてフレーム間のつながりを反映させることができ、フレーム間に有機的な関係性を持たせたアルバムとすることができる。
(8)テンプレートの「フレーム間の評価項目」
図27の「フレーム間の評価項目」に重みの項目を追加してもよい。
【0192】
こうすることで、テンプレート内で重要なフレーム(例えば、枠の領域が他と比べて大きい、枠の位置が中央であるなど。)があった場合、他のフレームに比べて優先的に、この重要なフレームに付随する重み値に基づいて適切な評価を行える。
(9)複数のテンプレートを用いた評価
実施の形態では、配置パターン評価(
図26)では、1つのテンプレートを用いて評価するとしたが、これに限らず複数のテンプレートを評価対象としてもよい。
【0193】
例えば、
図36に示すように、テンプレートAおよびテンプレートDについて配置パターン毎の評価値を算出するようにしてもよい。このような処理は、例えば
図2のステップS24においてテンプレートAおよびテンプレートDを自動的に選択し(あるいはユーザから受け付け)、そして、
図26のステップS261〜S264の処理を選択されたテンプレート毎に繰り返すことにより実現できる。
【0194】
なお、
図36の例のテンプレートDは、6個のフレームを有している点はテンプレートAと同様であるが、デザインやフレーム間の評価項目がテンプレートAとは異なっている。
【0195】
図36の例では、評価値240と最大の評価値であるテンプレートDの配置パターンP
D2を用いてアルバムを自動作成することが考えられる。こうすることで、最適なテンプレートとそのテンプレートを用いた最適な配置パターンとを自動的に決定することができる。
(10)配置パターンの数え方
実施の形態では、テンプレートAのフレームa〜fの6個のフレームを区別していたので、8枚の画像を6個のフレームに配置するパターンは、
8P
6=20160通りとしている、このような順列で考えるやり方は、各フレームの個性(テンプレートにおけるフレームの位置、フレームの装飾、フレームの大きさなど)を重視する場合には最適であるが、これに限られない。
【0196】
つまり、6個のフレームを区別せずに組み合わせで考え、8枚の画像を6個のフレームに配置するパターンを、
8C
6=28通りとして扱っても構わない。こうすると、計算量を減らせるという利点がある。
(11)アルバム作成に用いる配置パターン
実施の形態では、最高の順位の配置パターンを用いてアルバムを作成するとしたが(
図26:S265)、これに限られない。例えば、上位3位までの配置パターンを用いて、対応する3つのアルバムを作成し、作成したアルバムの一覧をユーザに表示するとしてもよい。
(12)単一枠の例
実施の形態では、複数の枠(枠セット)に挿入する画像の組み合わせにより評価値を算出するとしているが、必ずしもテンプレートの枠のすべてが枠セットのみから構成されるわけではない。
【0197】
例えば、テンプレートの枠の一部において、1つの枠(単一枠)に1つの評価項目を対応付けるとしてもよい。
【0198】
図37(a)のテンプレートDは、8個のフレーム(フレーム1〜8)を含んでおり、フレーム1 には人物重要度、フレーム2には背景重要度の評価項目が対応付けられている。このように、フレーム1,2は、枠と評価項目とが一対一に対応している。
【0199】
また、フレーム3,4にはオブジェクト紹介度(OI)、フレーム5,6には場面遷移度(ST)、フレーム7,8には場面全体像度(SO)の評価項目が対応付けられている。
図37(b)にテンプレートDの配置パターンとその評価値の例を示す。
(13)枠と評価項目の関係
実施の形態では主に1つの枠セットに1つの評価項目を対応付けるとして説明したが、1つの枠セットに複数の評価項目を対応付けるとしても構わない。また、(12)で説明した単一枠に複数の評価項目を対応付けるとしてもよい。
(14)配置パターン数の削減
実施の形態では、テンプレートの枠に画像を配置した際の配置パターンを全通り生成するとしたが(
図26のS264など)、評価値算出に関する処理負荷を軽減するために、評価値を算出する配置パターンの数を減らすとしてもよい。
【0200】
1つ目の削減手法は、各画像の背景重要度を基に、配置パターンの生成に用いる画像の数を絞り込むものである。
図39を用いて説明する。
【0201】
図39の例では、あるイベントに属する画像が30枚ある。配置パターン評価部80は、30枚の画像それぞれの背景重要度を降順にソートし、上位15枚に絞り込む(S391)。そして、配置パターン評価部80は、絞り込み後の画像を配置パターンの生成に用いる(S392)。
【0202】
例えば、テンプレートの枠の数が4個の場合、30枚の画像の配置パターンは、657,720(=30×29×28×27)通りにもなるが、このような絞り込みを行うことにより、32,760(=15×14×13×12)通りに削減できる。
【0203】
2つ目の削減手法は、画像群をシーンに分割し、各シーンの画像群の平均シーン重要度を基にシーンを絞り込み、絞り込んだシーンを利用して配置パターンを生成するものである。
図40を用いて説明する。
【0204】
図40の例では、あるイベントに属する30枚の画像に対して、配置パターン評価部80は、画像をシーン1〜8に分割し、各シーン毎にそのシーン内の画像の背景重要度の平均値をシーン重要度として求め、求めたシーン重要度を基にシーンを絞り込む。
【0205】
そして、配置パターン評価部80は、シーン重要度が相対的に高いシーン2,4,6,7,8内の21枚の画像を配置パターン生成に用いる(S402)。
【0206】
例えば、テンプレートの枠の数が4個の場合、30枚の画像の配置パターンは、657,720(=30×29×28×27)通りにもなるが、このような絞り込みを行うことにより、143,640(=21×20×19×18)通りに削減できる。
【0207】
特に、シーン単位で組み合わせる場合には、600(=3×5×8×5)通りに削減できる。
【0208】
なお、シーン重要度の算出方法は、上に述べた画像の背景の重要度を用いる手法に限らず、画像のオブジェクトの重要度を考慮した算出手法、ユーザーの嗜好を反映して算出する手法など、その他一般的な手法を用いても構わない。
(15)数式の例
以下、実施の形態で説明した値を評価するための数式の例について説明する。
【0209】
背景類似度は、
図41(a)の式(1)により求めることができる。なお、領域iは、画像を領域分割(セグメンテーション)したときのものである。また、absは絶対値を得るための関数である。
【0210】
撮影時間間隔は、
図41(b)の式(2)により求めることができる。
【0211】
背景重要度は、
図42(a)の式(3)により求めることができる。
【0212】
オブジェクト紹介度は、
図42(b)の式(5)により求めることができる。
【0213】
オブジェクト行動度は、
図43(a)の式(6)により求めることができる。
【0214】
場面遷移度は、
図43(b)の式(7)により求めることができる。
【0215】
場面全体像度は、
図44(a)の式(8)により求めることができる。
【0216】
配置パターン評価値は、
図44(b)の式(9)により求めることができる。
(16)実施の形態では、画像による作品としてアルバムを例として説明したが、ブック形式のアルバムに限らず、写真が遷移するスライドショー形式や写真が多彩なアニメーションで動作するムービー形式で、最適な画像組合せを選択して作品化するとしてもよい。
(17)本実施の形態では、記憶媒体の例として、SDメモリカードを例に挙げて説明したが、記録媒体であればこれに限られず、スマートメディア、コンパクトフラッシュ(登録商標)、メモリースティック(登録商標)、SDメモリーカード、マルチメディアカード、CD-R/RW、DVD±R/RW、DVD-RAM、HD-DVD、BD(Blu-ray Disc)の記録媒体などを用いてもよい。
【0217】
また、画像評価装置を、画像を記憶するデジタルカメラや携帯電話の撮影機器と接続することにより、画像を取得することも考えられる。両者の接続の態様としては、有線(LANケーブル、USBケーブルなど)、無線(赤外線やBluetoothなど)を問わず様々な態様をとり得る。
(18)実施の形態の画像評価装置は、典型的には集積回路であるLSI(Large Scale Integration)として実現されてよい。各回路を個別に1チップとしてもよいし、全ての回路又は一部の回路を含むように1チップ化されてもよい。ここでは、LSIとして記載したが、集積度の違いにより、IC(Integrated Circuit)、システムLSI、スーパLSI、ウルトラLSIと呼称されることもある。また、集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後にプログラム化することが可能なFPGA(FieldProgrammable Gate Array)、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
【0218】
さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
(19)プログラム
実施の形態で示した画像評価に係る処理をコンピュータ等の各種機器のプロセッサ、及びそのプロセッサに接続された各種回路に実行させるためのプログラムコードからなる制御プログラムを、記録媒体に記録すること、又は各種通信路を介して流通させ頒布することもできる。
【0219】
このような記録媒体には、スマートメディア、コンパクトフラッシュ(登録商標)、メモリースティック(登録商標)、SDメモリーカード(登録商標)、マルチメディアカード、CD-R/RW、DVD±R/RW、DVD-RAM、HD-DVD、BD(Blu-ray Disc)等がある。
【0220】
流通、頒布された制御プログラムは、プロセッサに読み出され得るメモリ等に格納されることにより利用に供され、そのプロセッサがその制御プログラムを実行することにより実施の形態で示したような各種機能が実現されるようになる。
<補足2>
本実施の形態は、以下の態様を含むものである。
【0221】
(1)本発明に係る画像評価装置は、画像を配置するためのN個(Nは2以上の自然数)の枠、前記N個の中から複数個の枠を組み合わせて構成される1以上の枠セット、および各枠セットに配置される画像それぞれの特徴量に係る評価項目、を有するテンプレートを記憶するテンプレート記憶手段と、複数の画像を取得する取得手段と、取得された複数の画像の中からN枚の画像を選択して前記N個の枠に配置した場合の配置パターンを複数生成し、生成した配置パターン毎の評価値を前記評価項目に基づいて算出する評価手段と、前記評価手段により算出された配置パターン毎の評価値を記憶する評価値記憶手段とを備え、前記評価手段は、前記評価値記憶手段に記憶された評価値の中から、最上位の評価値に対応する配置パターンにて配置したN枚の画像を特定することを特徴とする。
【0222】
(2)前記枠セットに配置される画像それぞれの特徴量に係る評価項目とは、枠セットに配置される画像が含むオブジェクトの紹介性、または、枠セットに配置される画像の場面の移り変わりを含むとしても構わない。
【0223】
(3)前記複数の画像に含まれるオブジェクトをクラスタリングするオブジェクトクラスタリング手段を備え、前記評価手段は、前記枠セットに配置される画像において、各画像が含むオブジェクトのオブジェクトクラスタが、相違しているほど、前記オブジェクトの紹介性を高く評価するとしても構わない。
【0224】
この構成によれば、人物などのオブジェクトの紹介に適したアルバムの作成に寄与する。
【0225】
(4)クラスタリングされた各オブジェクトクラスタの重要度を算出するオブジェクト重要度算出手段を備え、前記評価手段は、前記枠セットに配置される画像が含むオブジェクトのオブジェクトクラスタの重要度がより高いほど、前記オブジェクトの紹介性を高く評価するとしても構わない。
【0226】
(5)前記複数の画像のそれぞれから、背景の特徴量を抽出する抽出手段を備え、前記評価手段は、前記枠セットに配置される画像において、各画像の背景の特徴量の非類似性または画像間の撮影間隔の大きさに基づいて前記場面の移り変わりを評価するとしても構わない。
【0227】
この構成によれば、場面の移り変わりの紹介に適したアルバムの作成に貢献できる。
【0228】
(6)前記複数の画像のそれぞれについて、背景の重要度を算出する背景重要度算出手段を備え、前記評価手段は、前記枠セットに配置される画像において、各画像の背景の重要度が高いほど、前記場面の移り変わりを高く評価するとしても構わない。
【0229】
(7)前記複数の画像に含まれるオブジェクトをクラスタリングするオブジェクトクラスタリング手段を備え、前記枠セットに配置される画像それぞれの特徴量に係る評価項目とは、背景が類似する画像間における同一のオブジェクトクラスタに係る変化度を含むとしても構わない。
【0230】
(8)前記複数の画像のそれぞれから、背景の特徴量を抽出する抽出手段を備え、前記評価手段は、前記枠セットに配置される画像において、各画像が含むオブジェクトクラスタが同一であって、各画像の背景の特徴量が類似しているほど、前記変化度を高く評価するとしても構わない。
【0231】
この構成によれば、人物などのオブジェクトの行動の紹介に適したアルバムの作成に貢献できる。
【0232】
(9)クラスタリングされた各オブジェクトクラスタの重要度を算出するオブジェクト重要度算出手段と、前記複数の画像のそれぞれについて、背景の重要度を算出する背景重要度算出手段とを備え、前記評価手段は、前記枠セットに配置される画像が含むオブジェクトのオブジェクトクラスタの重要度が高いほど、および、前記枠セットに配置される画像の背景の重要度の少なくとも一方が高いほど、前記変化度をより高く評価するとしても構わない。
【0233】
(10)前記複数の画像のそれぞれから、オブジェクトが占める占有領域を計算する計算手段を備え、前記評価手段は、前記枠セットに配置される画像において、各画像が含むオブジェクトクラスタが同一のオブジェクトが占める占有領域が、相違しているほど、前記変化度を高く評価するとしても構わない。
【0234】
この構成によれば、場面の全体像の紹介に適したアルバムの作成に貢献できる。
【0235】
(11)クラスタリングされた各オブジェクトクラスタの重要度を算出するオブジェクト重要度算出手段と、前記複数の画像のそれぞれについて、背景の重要度を算出する背景重要度算出手段とを備え、前記評価手段は、前記枠セットに配置される画像が含むオブジェクトのオブジェクトクラスタの重要度の少なくとも一方が高いほど、および、前記枠セットに配置される画像の背景の重要度が高いほど、前記変化度をより高く評価するとしても構わない。
【0236】
(12)前記複数の画像のそれぞれについて、背景の重要度を算出する背景重要度算出手段を備え、前記評価手段は、前記枠セットに配置される画像において、各画像の背景の重要度に基づいて前記評価値を算出するとしても構わない。
【0237】
(13)前記複数の画像のそれぞれから、背景の特徴量を抽出する抽出手段を備え、前記背景重要度算出手段は、算出対象となる一の画像と撮影日時が近い他の画像とのそれぞれの背景の特徴量との類似性、および、前記一の画像の背景の特徴量と、重要な人物が写る画像の背景の特徴量の類似性に基づいて、背景の重要度を算出するとしても構わない。
【0238】
(14)評価値の算出の基にした枠セットに係る評価項目に対応する情報を、当該枠セットに配置される画像に関連付けて表示する表示制御手段を備えるとしても構わない。
【0239】
この構成によれば、枠セットに配置される画像どうしの関係性をユーザに知らせることができる。
【0240】
(15)前記テンプレートにおいて、前記1以上の枠セットを構成する枠は、前記N個の枠のすべてを網羅しているとしても構わない。
【0241】
この構成によれば、N個の枠のすべてに配置される画像間に、有機的な関係性を持たせることができる。
【0242】
(16)前記評価手段は、取得された複数の画像の中から、絞り込みを行い、絞り込み後の画像を前記選択の対象とするとしても構わない。
【0243】
この構成によれば、評価値の算出の処理負荷の軽減に貢献することができる。
【0244】
(17)前記複数の画像のそれぞれについて、背景の重要度を算出する背景重要度算出手段を備え、前記評価手段は、前記複数の画像それぞれの背景の重要度に基づいて、前記絞り込みを行うとしても構わない。
【0245】
(18)前記評価手段は、前記複数の画像を複数のシーンに分割し、分割したシーン毎の重要度に基づいて、前記絞り込みを行うとしても構わない。
【0246】
(19)本発明に係る画像評価方法は、複数の画像を取得する取得ステップと、テンプレート記憶手段に記憶されたテンプレートを参照する参照ステップと、ここで、前記テンプレートは、画像を配置するためのN個(Nは2以上の自然数。)の枠、前記N個の中から複数個の枠を組み合わせて構成される1以上の枠セット、および各枠セットに配置される画像それぞれの特徴量に係る評価項目、を有し、さらに、前記参照されたテンプレートに基づいて取得された複数の画像の中からN枚の画像を選択し、選択した前記N個の枠に配置した場合の配置パターンを複数生成し、生成した配置パターン毎の評価値を前記評価項目に基づいて算出する評価ステップと、前記評価ステップにより算出された配置パターン毎の評価値を記憶する評価値記憶ステップと、前記評価値記憶ステップに記憶された評価値の中から、最上位の評価値に対応する配置パターンにて配置したN枚の画像を特定する特定ステップとを含むとする。
【0247】
(20)本発明に係るプログラムは、コンピュータに画像評価処理を実行させるプログラムであって、前記コンピュータに、複数の画像を取得する取得ステップと、テンプレート記憶手段に記憶されたテンプレートを参照する参照ステップと、ここで、前記テンプレートは、画像を配置するためのN個(Nは2以上の自然数。)の枠、前記N個の中から複数個の枠を組み合わせて構成される1以上の枠セット、および各枠セットに配置される画像それぞれの特徴量に係る評価項目、を有し、さらに、前記参照されたテンプレートに基づいて取得された複数の画像の中からN枚の画像を選択し、選択した前記N個の枠に配置した場合の配置パターンを複数生成し、生成した配置パターン毎の評価値を前記評価項目に基づいて算出する評価ステップと、前記評価ステップにより算出された配置パターン毎の評価値を記憶する評価値記憶ステップと、前記評価値記憶ステップに記憶された評価値の中から、最上位の評価値に対応する配置パターンにて配置したN枚の画像を特定する特定ステップを実行させる、ことを特徴とする。
【0248】
(21)本発明に係る集積回路は、画像を配置するためのN個(Nは2以上の自然数)の枠、前記N個の中から複数個の枠を組み合わせて構成される1以上の枠セット、および各枠セットに配置される画像それぞれの特徴量に係る評価項目、を有するテンプレートを記憶するテンプレート記憶手段と、複数の画像を取得する取得手段と、取得された複数の画像の中からN枚の画像を選択して前記N個の枠に配置した場合の配置パターンを複数生成し、生成した配置パターン毎の評価値を前記評価項目に基づいて算出する評価手段と、前記評価手段により算出された配置パターン毎の評価値を記憶する評価値記憶手段を備え、前記評価手段は、前記評価値記憶手段に記憶された評価値の中から、最上位の評価値に対応する配置パターンにて配置したN枚の画像を特定することを特徴とする。
【0249】
(22)前記1以上の枠セットは、いずれも2個の枠から構成されているとしても構わない。
【0250】
(23)前記評価項目は、複数の種類の評価項目を含み、前記1以上の枠セットのそれぞれには、前記評価項目として、前記複数種類の評価項目のうちの少なくとも1つが定義づけられているとしても構わない。
<参考文献>
(1)参考文献1
Gabor特徴の情報量による重みづけマッチングを用いた顔認識
堀田 一弘(埼玉大学(日本学術振興会特別研究員))
電子情報通信学会技術研究報告. HIP,
ヒューマン情報処理 100(34) pp.31-38 20000504
(2)参考文献2
AJohn C. Platt, Mary Czerwinski, Brent A. Field: PhotoTOC: Automatic Clustering for Browsing Personal Photographs, Fourth IEEEPacific Rim Conference on Multimedia (2003)
(3)参考文献3
Swain,M.J. and Ballard,D.H.:"Color Indexing",IJCV,7,pp.11-32(1991)