特開2015-165660(P2015-165660A)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ コニカ ミノルタ ラボラトリー ユー.エス.エー.,インコーポレイテッドの特許一覧

特開2015-165660局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去
<>
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000014
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000015
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000016
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000017
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000018
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000019
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000020
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000021
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000022
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000023
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000024
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000025
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000026
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000027
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000028
  • 特開2015165660-局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去 図000029
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】特開2015-165660(P2015-165660A)
(43)【公開日】2015年9月17日
(54)【発明の名称】局所基準のグラフ基準選択を用いたHDR画像生成におけるゴーストアーチファクトの検出及び除去
(51)【国際特許分類】
   H04N 5/235 20060101AFI20150821BHJP
   G06T 5/00 20060101ALI20150821BHJP
   H04N 5/232 20060101ALI20150821BHJP
【FI】
   H04N5/235
   G06T5/00 735
   H04N5/232 Z
【審査請求】未請求
【請求項の数】15
【出願形態】OL
【外国語出願】
【全頁数】25
(21)【出願番号】特願2015-40789(P2015-40789)
(22)【出願日】2015年3月2日
(31)【優先権主張番号】14/194,168
(32)【優先日】2014年2月28日
(33)【優先権主張国】US
(71)【出願人】
【識別番号】507031918
【氏名又は名称】コニカ ミノルタ ラボラトリー ユー.エス.エー.,インコーポレイテッド
(74)【代理人】
【識別番号】110001254
【氏名又は名称】特許業務法人光陽国際特許事務所
(72)【発明者】
【氏名】ビヤンヴニュ, アレクシス
(72)【発明者】
【氏名】ヴィダル−ナケ, ミシェル ジュリアン
【テーマコード(参考)】
5B057
5C122
【Fターム(参考)】
5B057CA08
5B057CA12
5B057CA16
5B057CB08
5B057CB12
5B057CB16
5B057CE08
5B057CE11
5B057DA08
5B057DC22
5C122DA04
5C122EA21
5C122EA61
5C122FH01
5C122FH09
5C122FH14
5C122FH18
5C122HA88
5C122HB01
5C122HB05
5C122HB06
5C122HB10
(57)【要約】      (修正有)
【課題】HDR(高ダイナミックレンジ)画像生成においてゴーストアーチファクトを検出する改良された方法を提供する。
【解決手段】HDR画像の生成において、ゴーストアーチファクト検出方法はブラケットを複数のタイルに分割し、各タイルに対して一つのブラケットを局所基準ブラケットとして選択する。局所基準ブラケットは、個々のタイルの露出品質を測定する構成要素及び隣接タイルの間の相互関係を測定する構成要素の双方を含む目的関数の最適化を介して選択される。最適化は、目的関数のグラフを構築し、グラフカットアルゴリズムを用いてグラフの最適カットを計算することにより実現される。3つ及び4つの画像の組に対するグラフの例が与えられる。それから、各タイルの局所基準ブラケットを用いて、各タイル基準でゴーストアーチファクト検出が実行される。こうしてゴーストマップが作成され、HDR画像生成に用いられる。
【選択図】なし
【特許請求の範囲】
【請求項1】
複数の入力画像の組から高ダイナミックレンジ(HDR)画像を生成する方法であって、各入力画像にはブラケット指標が割り当てられており、
(a)前記各入力画像をタイルの組に分割する工程であって、すべての画像が同じタイルの組に分割される工程と、
(b)前記タイルの組の各タイルに対する基準ブラケット指標を決定する工程であって、
(b1)前記タイルの組に対する前記ブラケット指標の組の関数として目的関数を定義する工程であって、前記目的関数は、個々のタイルの露出品質を測定する構成要素と、隣接タイルの間の相互関係を測定する構成要素と、を含む工程と、
(b2)前記目的関数を最適化する、前記タイルに対する前記基準ブラケット指標の組を計算する工程と、
を含む工程と、
(c)前記タイルに対する前記基準ブラケット指標の組に基づき、前記各タイルについて、前記ブラケット指標が前記基準ブラケット指標でない前記各入力画像と、前記ブラケット指標が前記基準ブラケット指標である前記各入力画像とを比較することにより、各タイル基準で、前記入力画像の組におけるゴースト誘発画素を検出し、前記各入力画像について、該画像における前記ゴースト誘発画素を示すゴーストマップを生成する工程と、
(d)前記入力画像の組と、対応する前記ゴーストマップとを用いて、HDR画像を生成する工程と、
を有することを特徴とする方法。
【請求項2】
前記工程(b2)は、
グラフの最適カットが、前記目的関数を最適化する前記タイルに対する前記ブラケット指標の組を与えるように、前記目的関数に基づき前記グラフを構築する工程と、
グラフカットアルゴリズムを用いて前記グラフの前記最適カットを計算し、前記目的関数を最適化する前記タイルに対する前記基準ブラケット指標の組を取得する工程と、
を有することを特徴とする請求項1に記載の方法。
【請求項3】
前記工程(b1)の前記目的関数が下記のように定義されることを特徴とする請求項1に記載の方法。
【数11】

(ただし、p及びqはタイル指標、N(p)はタイルpに隣接するタイル指標の組、f及びfはタイルp及びqに対するブラケット指標、fはfにより形成されるベクトル、D(f)はブラケットfのタイルpの露出品質を測定する関数、Vp,q(f,f)はブラケットf,fの隣接する2つのタイルp,qの連関を測定する関数である。)
【請求項4】
前記D(f)は、前記ブラケットfの前記タイルpのすべての画素の画素露出品質値の平均値であることを特徴とする請求項3に記載の方法。
【請求項5】
前記工程(a)の前記タイルの組は、同一のタイルサイズを有し、第1タイル格子を形成しており、
前記方法は、更に、前記第1タイル格子を前記タイルサイズの何分の1か移動させることにより、第2タイル格子を形成する工程を有しており、
前記工程(b1)の前記目的関数において、前記タイル指標p及びqはそれぞれ前記第1タイル格子及び前記第2タイル格子の指標であり、前記タイルpに隣接するタイルN(p)の組は前記第1タイル格子の前記タイルpと重なり合う前記第2タイル格子のタイルであり、
前記Vp,q(f,f)は、前記タイルp及び前記タイルqが互いに重なり合う範囲の前記ブラケットf及びfの画像から計算される相互関係値であることを特徴とする請求項3に記載の方法。
【請求項6】
前記工程(b2)は、
前記目的関数に基づき、ソースノードと、シンクノードと、前記第1タイル格子の前記各タイルp及び前記第2タイル格子の前記各タイルqに対応するM−1個の一連の中間ノードとを有するグラフを構築する工程であって、前記Mは前記入力画像の組における画像数であり、M個の縦方向エッジが、前記関数D(f)に基づいて計算された各々のエッジ重みで、前記各タイルp及び前記各タイルqに対する前記一連の中間ノードを介して、前記ソースノードを前記シンクノードに結合しており、複数の横方向エッジが、前記関数Vp,q(f,f)から計算された各々のエッジ重みで、前記各タイルpの前記中間ノードの各々を、前記各タイルqの前記中間ノードの各々に、又は前記各タイルqの前記中間ノードの各々から結合していると共に、前記各タイルqの前記中間ノードの各々を、前記各タイルpの前記中間ノードの各々に、又は前記各タイルpの前記中間ノードの各々から結合している工程と、
グラフカットアルゴリズムを用いて前記グラフの最適カットを計算し、前記目的関数を最適化する前記タイルに対する前記基準ブラケット指標の組を取得する工程と、
を含むことを特徴とする請求項5に記載の方法。
【請求項7】
前記入力画像の組は、それぞれブラケット指標0、1及び2を有する3つの画像を有し、
前記工程(b2)は、
前記目的関数に基づき、ソースノードと、シンクノードと、前記第1タイル格子の前記各タイルpに対応する第1及び第2の中間ノードと、前記第2タイル格子の前記各タイルqに対応する第1及び第2の中間ノードと、を有するグラフを構築する工程であって、
前記ソースノードは、エッジ重みD(0)及びD(0)を有する各エッジにより、前記各タイルp及び前記各タイルqの前記第1中間ノードに結合されており、
前記各タイルp及び前記各タイルqに対する前記第1中間ノードは、エッジ重みD(1)及びD(1)を有する各エッジにより、前記各タイルp及び前記各タイルqの前記第2中間ノードに結合されており、
前記各タイルp及び前記各タイルqの前記第2中間ノードは、エッジ重みD(1)及びD(1)を有する各エッジにより前記シンクノードに結合されており、
前記各タイルpの前記第1中間ノードは、エッジ重みVp,q(1,0)及びVp,q(0,1)をそれぞれ有する2つのエッジにより、前記各タイルpの隣接タイルqの各々の前記第1中間ノードに、及び前記各タイルpの隣接タイルqの各々の前記第1中間ノードから結合され、前記各タイルqの前記第1中間ノードは、エッジ重みVp,q(0,1)及びVp,q(1,0)をそれぞれ有する2つのエッジにより、前記各タイルqの隣接タイルpの各々の前記中間ノードに、及び前記各タイルqの隣接タイルpの各々の前記中間ノードから結合されており、
前記各タイルpの前記第2中間ノードは、エッジ重みVp,q(2,1)及びVp,q(1,2)をそれぞれ有する2つのエッジにより、前記各タイルpの隣接タイルqの各々の前記第2中間ノードに、及び前記各タイルpの隣接タイルqの各々の前記第2中間ノードから結合され、前記各タイルqの前記第2中間ノードは、エッジ重みVp,q(1,2)及びVp,q(2,1)をそれぞれ有する2つのエッジにより、前記各タイルqの隣接タイルpの各々の前記第2中間ノードに、及び前記各タイルqの隣接タイルpの各々の前記第2中間ノードから結合されており、
前記各タイルpの前記第2中間ノードは、エッジ重みVb=Vp,q(2,0)−Vp,q(1,0)−Vp,q(2,1)を有するエッジにより、前記各タイルpの4つの隣接タイルqの各々の前記第1中間ノードに結合され、前記各タイルqの前記第2中間ノードは、エッジ重みVa=Vp,q(0,2)−Vp,q(0,1)−Vp,q(1,2)を有するエッジにより、前記各タイルqの4つの隣接タイルpの各々の前記第1中間ノードに接続されている工程と、
グラフカットアルゴリズムを用いて前記グラフの最適カットを計算し、前記目的関数を最適化する前記タイルに対する前記基準ブラケット指標の組を取得する工程と、
を含むことを特徴とする請求項5に記載の方法。
【請求項8】
データ処理装置を制御するコンピューター読取可能なプログラムコードが内蔵されたコンピューター使用可能な非一時的媒体を有するコンピュータープログラム製品であって、前記コンピューター読取可能なプログラムコードは、前記データ処理装置に、複数の入力画像の組から高ダイナミックレンジ(HDR)画像を生成する処理を実行させるように構成され、各入力画像にはブラケット指標が割り当てられており、前記処理は、
(a)前記各入力画像をタイルの組に分割する工程であって、すべての画像が同じタイルの組に分割される工程と、
(b)前記タイルの組の各タイルに対する基準ブラケット指標を決定する工程であって、
(b1)前記タイルの組に対する前記ブラケット指標の組の関数として目的関数を定義する工程であって、前記目的関数は、個々のタイルの露出品質を測定する構成要素と、隣接タイルの間の相互関係を測定する構成要素と、を含む工程と、
(b2)前記目的関数を最適化する、前記タイルに対する前記基準ブラケット指標の組を計算する工程と、
を含む工程と、
(c)前記タイルに対する前記基準ブラケット指標の組に基づき、前記各タイルについて、前記ブラケット指標が前記基準ブラケット指標でない前記各入力画像と、前記ブラケット指標が前記基準ブラケット指標である前記各入力画像とを比較することにより、各タイル基準で、前記入力画像の組におけるゴースト誘発画素を検出し、前記各入力画像について、該画像における前記ゴースト誘発画素を示すゴーストマップを生成する工程と、
(d)前記入力画像の組と、対応する前記ゴーストマップとを用いて、HDR画像を生成する工程と、
を有することを特徴とするコンピュータープログラム製品。
【請求項9】
前記工程(b2)は、
グラフの最適カットが、前記目的関数を最適化する前記タイルに対する前記ブラケット指標の組を与えるように、前記目的関数に基づき前記グラフを構築する工程と、
グラフカットアルゴリズムを用いて前記グラフの前記最適カットを計算し、前記目的関数を最適化する前記タイルに対する前記基準ブラケット指標の組を取得する工程と、
を有することを特徴とする請求項8に記載のコンピュータープログラム製品。
【請求項10】
前記工程(b1)の前記目的関数が下記のように定義されることを特徴とする請求項8に記載のコンピュータープログラム製品。
【数12】

(ただし、p及びqはタイル指標、N(p)はタイルpに隣接するタイル指標の組、f及びfはタイルp及びqに対するブラケット指標、fはfにより形成されるベクトル、D(f)はブラケットfのタイルpの露出品質を測定する関数、Vp,q(f,f)はブラケットf,fの隣接する2つのタイルp,qの連関を測定する関数である。)
【請求項11】
前記D(f)は、前記ブラケットfの前記タイルpのすべての画素の画素露出品質値の平均値であることを特徴とする請求項10に記載のコンピュータープログラム製品。
【請求項12】
前記工程(a)の前記タイルの組は、同一のタイルサイズを有し、第1タイル格子を形成しており、
前記処理は、更に、前記第1タイル格子を前記タイルサイズの何分の1か移動させることにより、第2タイル格子を形成する工程を有しており、
前記工程(b1)の前記目的関数において、前記タイル指標p及びqはそれぞれ前記第1タイル格子及び前記第2タイル格子の指標であり、前記タイルpに隣接するタイルN(p)の組は前記第1タイル格子の前記タイルpと重なり合う前記第2タイル格子のタイルであり、
前記Vp,q(f,f)は、前記タイルp及び前記タイルqが互いに重なり合う範囲の前記ブラケットf及びfの画像から計算される相互関係値であることを特徴とする請求項10に記載のコンピュータープログラム製品。
【請求項13】
前記工程(b2)は、
前記目的関数に基づき、ソースノードと、シンクノードと、前記第1タイル格子の前記各タイルp及び前記第2タイル格子の前記各タイルqに対応するM−1個の一連の中間ノードとを有するグラフを構築する工程であって、前記Mは前記入力画像の組における画像数であり、M個の縦方向エッジが、前記関数D(f)に基づいて計算された各々のエッジ重みで、前記各タイルp及び前記各タイルqに対する前記一連の中間ノードを介して、前記ソースノードを前記シンクノードに結合しており、複数の横方向エッジが、前記関数Vp,q(f,f)から計算された各々のエッジ重みで、前記各タイルpの前記中間ノードの各々を、前記各タイルqの前記中間ノードの各々に、又は前記各タイルqの前記中間ノードの各々から結合していると共に、前記各タイルqの前記中間ノードの各々を、前記各タイルpの前記中間ノードの各々に、又は前記各タイルpの前記中間ノードの各々から結合している工程と、
グラフカットアルゴリズムを用いて前記グラフの最適カットを計算し、前記目的関数を最適化する前記タイルに対する前記基準ブラケット指標の組を取得する工程と、
を含むことを特徴とする請求項12に記載のコンピュータープログラム製品。
【請求項14】
前記入力画像の組は、それぞれブラケット指標0、1及び2を有する3つの画像を有し、
前記工程(b2)は、
前記目的関数に基づき、ソースノードと、シンクノードと、前記第1タイル格子の前記各タイルpに対応する第1及び第2の中間ノードと、前記第2タイル格子の前記各タイルqに対応する第1及び第2の中間ノードと、を有するグラフを構築する工程であって、
前記ソースノードは、エッジ重みD(0)及びD(0)を有する各エッジにより、前記各タイルp及び前記各タイルqの前記第1中間ノードに結合されており、
前記各タイルp及び前記各タイルqに対する前記第1中間ノードは、エッジ重みD(1)及びD(1)を有する各エッジにより、前記各タイルp及び前記各タイルqの前記第2中間ノードに結合されており、
前記各タイルp及び前記各タイルqの前記第2中間ノードは、エッジ重みD(1)及びD(1)を有する各エッジにより前記シンクノードに結合されており、
前記各タイルpの前記第1中間ノードは、エッジ重みVp,q(1,0)及びVp,q(0,1)をそれぞれ有する2つのエッジにより、前記各タイルpの隣接タイルqの各々の前記第1中間ノードに、及び前記各タイルpの隣接タイルqの各々の前記第1中間ノードから結合され、前記各タイルqの前記第1中間ノードは、エッジ重みVp,q(0,1)及びVp,q(1,0)をそれぞれ有する2つのエッジにより、前記各タイルqの隣接タイルpの各々の前記中間ノードに、及び前記各タイルqの隣接タイルpの各々の前記中間ノードから結合されており、
前記各タイルpの前記第2中間ノードは、エッジ重みVp,q(2,1)及びVp,q(1,2)をそれぞれ有する2つのエッジにより、前記各タイルpの隣接タイルqの各々の前記第2中間ノードに、及び前記各タイルpの隣接タイルqの各々の前記第2中間ノードから結合され、前記各タイルqの前記第2中間ノードは、エッジ重みVp,q(1,2)及びVp,q(2,1)をそれぞれ有する2つのエッジにより、前記各タイルqの隣接タイルpの各々の前記第2中間ノードに、及び前記各タイルqの隣接タイルpの各々の前記第2中間ノードから結合されており、
前記各タイルpの前記第2中間ノードは、エッジ重みVb=Vp,q(2,0)−Vp,q(1,0)−Vp,q(2,1)を有するエッジにより、前記各タイルpの4つの隣接タイルqの各々の前記第1中間ノードに結合され、前記各タイルqの前記第2中間ノードは、エッジ重みVa=Vp,q(0,2)−Vp,q(0,1)−Vp,q(1,2)を有するエッジにより、前記各タイルqの4つの隣接タイルpの各々の前記第1中間ノードに接続されている工程と、
グラフカットアルゴリズムを用いて前記グラフの最適カットを計算し、前記目的関数を最適化する前記タイルに対する前記基準ブラケット指標の組を取得する工程と、
を含むことを特徴とする請求項12に記載のコンピュータープログラム製品。
【請求項15】
請求項8に記載の前記コンピューター使用可能な非一時的媒体を有するデジタルカメラであって、
画像を取得する撮像部と、
前記撮像部を制御して、異なる露出レベルを有する前記画像の組を取得する制御部と、
を更に有することを特徴とするデジタルカメラ。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、高ダイナミックレンジ(HDR)イメージングに関し、特に、HDR画像生成におけるゴーストアーチファクトの除去に関する。
【背景技術】
【0002】
高ダイナミックレンジ(HDR)イメージングは、明るさ(光強度)の範囲が非常に大きいソースを扱う画像処理及びデジタル写真術において用いられる技術である。例えば、日中の屋外シーンには、青い空及び日に照らされた被写体と共に、陰になった被写体が含まれうる。夜のシーンには、ネオンライト及び明るく照らされた被写体と共に、暗く照らされた被写体が含まれうる。また、屋内シーンには、明るい窓と共に、暗い領域等が含まれうる。これらのシーンは、デジタルカメラ等のイメージング装置にとっての課題である。つまり、現在利用可能なデジタルカメラのイメージセンサのダイナミックレンジでは、そのようなシーンを十分に画像化できない場合が多い。露出レベルがシーンの暗い領域の細部を撮影するのに適している場合、明るい領域は露出過度となって細部が損なわれることが多い。反対に、露出レベルがシーンの明るい領域の細部を撮影するのに適している場合、暗い領域は露出不足となって細部が損なわれることが多い。
【0003】
HDRイメージング技術は、様々な露出レベルで同じシーンにおける一組の複数画像を撮影し、複数画像をデジタル的にマージして、明るい領域及び暗い領域の双方の細部がHDR画像において十分に表されるように、元の複数画像の情報を含むHDR画像を生成することにより、この問題に対処する。一組の複数画像からHDR画像を生成する方法は、一般に知られている。
【0004】
ブラケティングは、異なる露出レベルや、フォーカスや被写界深度等の他の異なる設定値を用いて、同じシーンの複数画像を撮るための写真技術である。カメラには、オートブラケティングを実行できるもの、すなわち設定を複数回変えて複数画像を撮れるものがある。複数画像の各々は、ブラケットと呼ばれることがある。露出ブラケティングにより生成された複数画像は、HDR画像を生成するのに用いられる。
【0005】
HDR画像生成の間、異なる画像(ブラケット)を撮影する間に対象物が移動、出現又は消滅すると、ゴーストアーチファクトが現れることがある。例えば、3つのブラケットを撮影する間、3つ目のブラケットのシーンにだけ人が歩いて入った場合、3つのブラケットから生成されたHDR画像は、シーン上に半透明な人の姿(「ゴースト」)を有することになる。これらの対象物は、本明細書において移動対象物、或いはゴースト誘発対象物と呼ばれる。
【0006】
結果として得られるHDR画像においてゴースト効果を低減又は除去するように画像処理するために、複数画像の中でこのようなゴースト誘発対象物を識別する方法が提案されている。これらの技術のうちいくつかが、A.Srikantha及びD.Sidibe著の調査論文「Ghost Detection and Removal for High Dynamic Range Images: Recent Advances,Signal Processing: image Communications, 27(6),650〜662頁,2012年」に記載されている。
【0007】
一部の公知のゴーストアーチファクト検出方法では、複数のブラケットの一つが、定義上いかなるゴースト誘発対象物も含まない画像である基準画像(バックグラウンド画像とも呼ばれる)として選択される。他のブラケットは基準画像と比較され、ゴースト誘発対象物が存在するか否か、また、どこに存在するかが決定される。このような1つの基準による方法の利点は、非基準ブラケットの各々を処理するときに2つの画像(基準ブラケット及び非基準ブラケット)だけを比較して一致しない画素を検出すればよいので、ゴーストの検出及び除去の問題が単純化される点である。しかしながら、不都合なのは、基準画像の広範囲のいくらかが露出不良(露出過度或いは露出不足)となることがあり、基準として用いた場合、不確実なゴースト検出や、結果として得られるHDR画像の関連範囲における情報喪失及び低品質をもたらす点である。
【0008】
そこで、各画像を複数のタイルに分割して(すべてのブラケットが同じタイルに分割される)、異なるブラケットが異なるタイルの基準ブラケットとして選択されうるように、各タイルに対し、一つのブラケットを基準画像として選択する。各タイルについて選択されたブラケットは、局所基準又は局所バックグラウンドと呼ばれる。そのような方法の一つが、Gokdeniz Karadag及びAhmet Oguz Akyuz著の「Color preserving HDR Fusion for Dynamic Scenes,Journal of WSCG 20(2):155〜160頁, 2012年(「Karadag and Akyuz 2012」)」に記載されている。図2(「Karadag and Akyuz 2012」論文の図1より)は、複数タイルに分割された画像を示している。「S」と付されたタイル(画像の右手上と右手下の角の近く)は、短時間露出ブラケットが基準画像として用いられるタイルを示しており、「L」と付されたタイル(画像の中心近く)は、長時間露出ブラケットが用いられるものを示している(この画像の組は合計3つのブラケットを有していた)。他のタイルについては、中間のブラケットが基準として用いられるが、簡略化のため、図2においてラベルは付されていない。各タイルに対して基準ブラケットが選択された後、非基準ブラケットにおいてゴースト画素が検出される。
【発明の概要】
【発明が解決しようとする課題】
【0009】
「Karadag and Akyuz 2012」論文に記載された方法では、隣接するタイルが同じ移動対象物に関わる一方で、これらに対し異なるブラケットが基準画像として選択された場合に生じる問題がある。例えば、移動対象物Oがブラケット#1において隣接するタイルA及びタイルBに存在するが、ブラケット#2及び#3には存在しない場合、ブラケット#1(対象物Oを有する)がタイルAの基準ブラケットとして選択され、ブラケット#2(対象物Oを有さず、対象物Oの後ろのシーンのみ)がタイルBの基準ブラケットとして選択されると、結果として得られるHDR画像において、タイルA及びタイルBは明らかに矛盾するように見える場合があり、或いは、タイルA又はタイルBの移動対象物に関わる部分の情報が失われる場合がある。
【0010】
したがって、本発明は、関連技術における制約及び不都合による一以上の問題を実質的に予防する、ゴーストアーチファクト検出及び除去のための方法及び関連する装置を対象とする。
【0011】
本発明の目的は、HDR画像生成においてゴーストアーチファクトを検出する改良された方法を提供することである。
【0012】
本発明の追加的な特徴及び利点は以下の記載において述べられ、その一部は当該記載から明らかであるか、本発明の実施により知るところとなる。本発明の目的及び他の利点は、明細書の記載、特許請求の範囲、及び添付図面で詳しく示された構造により実現され、取得される。
【課題を解決するための手段】
【0013】
これらの及び/又は他の目的を達成するために、具現化され広く記載されているように、本発明は、複数の入力画像の組から高ダイナミックレンジ(HDR)画像を生成する方法であって、各入力画像にはブラケット指標が割り当てられており、(a)前記各入力画像をタイルの組に分割する工程であって、すべての画像が同じタイルの組に分割される工程と、(b)前記タイルの組の各タイルに対する基準ブラケット指標を決定する工程であって、(b1)前記タイルの組に対する前記ブラケット指標の組の関数として目的関数を定義する工程であって、前記目的関数は、個々のタイルの露出品質を測定する構成要素と、隣接タイルの間の相互関係を測定する構成要素と、を含む工程と、(b2)前記目的関数を最適化する、前記タイルに対する前記基準ブラケット指標の組を計算する工程と、を含む工程と、(c)前記タイルに対する前記基準ブラケット指標の組に基づき、前記各タイルについて、前記ブラケット指標が前記基準ブラケット指標でない前記各入力画像と、前記ブラケット指標が前記基準ブラケット指標である前記各入力画像とを比較することにより、各タイル基準で、前記入力画像の組におけるゴースト誘発画素を検出し、前記各入力画像について、該画像における前記ゴースト誘発画素を示すゴーストマップを生成する工程と、(d)前記入力画像の組と、対応する前記ゴーストマップとを用いて、HDR画像を生成する工程と、を有することを特徴とする方法である。
【0014】
前記工程(b2)は、グラフの最適カットが、前記目的関数を最適化する前記タイルに対する前記ブラケット指標の組を与えるように、前記目的関数に基づき前記グラフを構築する工程と、グラフカットアルゴリズムを用いて前記グラフの前記最適カットを計算し、前記目的関数を最適化する前記タイルに対する前記基準ブラケット指標の組を取得する工程と、を有してもよい。
【0015】
他の側面では、本発明は、データ処理装置を制御するコンピューター読取可能なプログラムコードが内蔵されたコンピューター使用可能な非一時的媒体(例えば、メモリ又は記憶デバイス)を有するコンピュータープログラム製品であって、前記コンピューター読取可能なプログラムコードは、前記データ処理装置に上記方法を実行させるように構成されている、コンピュータープログラム製品を提供する。
【0016】
上述した概要及び以下の詳細な説明は共に、例示的かつ説明的なものであって、特許請求の範囲に記載された本発明について更なる説明を提供することを意図するものである。
【図面の簡単な説明】
【0017】
図1】本発明の実施形態によるゴーストアーチファクト検出及びHDR画像生成の方法を概略的に示す図である。
図2】複数タイルに分割された画像を示す図であって、公知の方法に従い、異なるブラケットが異なるタイルの基準ブラケットとして選択された図である。
図3】本発明の実施形態において有用な、反転画素露出品質関数を概略的に示す図である。
図4】本発明の実施形態によるタイル対タイルの相互関係の計算に使用する第1タイル格子及び第2タイル格子を概略的に示す図である。
図5】本発明の実施形態による3つの入力画像の組に対するグラフ構造を概略的に示す図である。
図6】本発明の実施形態による3つの入力画像の組に対するグラフ構造を概略的に示す図である。
図7】本発明の実施形態による図6のグラフのグラフカットを概略的に示す図である。
図8】本発明の実施形態による図6のグラフのグラフカットを概略的に示す図である。
図9】本発明の実施形態による図6のグラフのグラフカットを概略的に示す図である。
図10】本発明の実施形態による図6のグラフのグラフカットを概略的に示す図である。
図11】本発明の実施形態による図6のグラフのグラフカットを概略的に示す図である。
図12】本発明の実施形態による図6のグラフのグラフカットを概略的に示す図である。
図13】本発明の実施形態による4つの入力画像の組に対するグラフ構造を概略的に示す図である。
図14】本発明の実施形態によるゴーストアーチファクト検出及びHDR画像生成の方法を概略的に示す図である。
図15】本発明の実施形態を実施しうるデータ処理装置を概略的に示す図である。
図16】本発明の実施形態を実施しうるカメラを概略的に示す図である。
【発明を実施するための形態】
【0018】
本発明の実施形態は、HDR画像作成のための複数画像におけるゴーストアーチファクトを検出する方法を提供する。複数画像(ブラケット)は、同じシーンを異なる露出レベルで撮影することによって得られる。撮影処理の間、カメラは実質的に動かないものと仮定されるが、処理の間、対象物はシーン内を動き、又はシーンに出現若しくはシーンから消滅しうる。本明細書では、かかる対象物をまとめて移動対象物又はゴースト誘発対象物と呼ぶ。未処理の場合、移動対象物は、結果として得られるHDR画像においてゴーストアーチファクトを引き起こす。ゴーストアーチファクト検出方法は、ゴーストアーチファクトを誘発しうる、かかる移動対象物を含む画像の範囲を識別する。この方法はゴーストアーチファクト検出方法と呼ばれるが、HDR画像が生成された後にHDR画像のゴーストアーチファクトを検出するものではないことに注目されたい。むしろ、この方法は、複数のオリジナル画像において、未処理の場合にHDR画像でゴーストアーチファクトを誘発する領域を検出するものである。
【0019】
公知の方法の一部、例えば「Karadag and Akyuz 2012」論文に記載された方法と同様に、本発明の実施形態による方法は、画像全体を複数タイルに分割し(すべてのブラケットが同じタイルに分割される)、各タイルに対して、一つのブラケットを基準ブラケット(局所ブラケット)として選択する。本発明の実施形態は、タイルに対してどのように基準ブラケットを選択するかという点で公知の方法と相違する。本発明の実施形態による方法は、隣接するタイル間の矛盾に起因するアーチファクトを最小限にしながら、局所基準、すなわち、いずれのブラケットが画像の各タイルの基準として用いられるかを決定する。したがって、この方法は、シーンの動的範囲(すなわち移動対象物を伴う範囲)において、隣接するタイルに対して同じ基準ブラケットが選択されるようにしようとする。本発明の実施形態によれば、各タイルに対する基準ブラケットは、タイルの露出品質と、隣接するタイルに矛盾がないこととの双方を考慮した目的関数の最適化を介して選択される。
【0020】
本発明の実施形態によれば、図1に概略するように、各タイルの基準ブラケットを決定する方法は以下の工程を含む。まず、目的関数(最適化される関数)が、一組のタイルに対する一組のブラケット指標の関数として定義される(ステップS11)。目的関数は、個別のタイルの露出品質を測定する構成要素と、隣接するタイルの相互関係を測定する構成要素とを含む。その後、目的関数に基づき、グラフが構成される(ステップS12)。そして、グラフカットアルゴリズムを使用してグラフの最適カットが計算される(ステップS13)。ステップS13で計算された最適カットが、目的関数を最適化する、タイルに対する一組のブラケット指標を与えるように、ステップS12においてグラフが構成される。このブラケット指標は、ゴーストアーチファクト検出及び除去の目的のための基準ブラケットとして使用される。
【0021】
一つの実施形態では、目的関数は以下のように定義される(方程式1)。
【数1】

ただし、p及びqはタイルの指標であり、N(p)はタイルpに隣接するタイル指標の組であり、f及びfはタイルp及びqに対するブラケット指標であり(例えば、全部で3つのブラケットがある場合、各ブラケット指標は0,1又は2の値を取り得る)、fにより形成されるベクトルであるfは最適化されるベクトルであり、D(f)はブラケットfのタイルpの露出品質(HDR文献において露出の適正度ともいう)を測定する関数であり、Vp,q(f,f)はブラケットf,fの隣接する2つのタイルp,qの連関を測定する関数である。
【0022】
目的関数F(f)はベクトルfの関数であり、最適化問題は、関数F(f)を最適化する最適ベクトルfを見つけることである。この最適ベクトルfは、各タイルpに対して、ゴーストアーチファクト検出及び除去の目的のための該タイルに対する基準ブラケットとして選択されるべきブラケット指標を与える。
【0023】
(f)及びVp,q(f,f)の定義によって、F(f)の最適化は、最小化又は最大化となりうる。下記の様々な実施形態では、目的関数F(f)は最小化されるものとして定義される。
【0024】
目的関数Fは、個別のタイルのタイル露出品質を測定する構成要素(D)及び隣接するタイルのタイル対タイルの相互関係を測定する構成要素(V)の双方を含むことがわかる。2つ目の構成要素(V)は、隣接するタイルが同じ対象物を含むか否かの指標としての機能を果たしうる。2つ目の構成要素(V)を含むことは、ゴースト誘発対象物を切断又は分割する基準ブラケットの変化の発生を抑制する助けとなる。
【0025】
一の実施形態では、タイルp及びブラケットfに対する露出品質値D(f)は、このタイル及びブラケットのすべての画素に対する画素露出品質値の平均値である。各画素について、露出品質値は画素強度の関数である。一般に、画素強度が画素強度範囲の中間部分内にある場合は、露出品質値は露出良好を示す値となる。画素強度が中間部分より高いか低い場合は、露出品質値は露出不良を示す値となる。一の特定の例では、画素強度範囲(すなわち取り得る画素値)は0〜255であり、中間部分は10〜245である。目的関数Fが最小化される場合、露出良好を示す露出品質値は、露出不良を示すものより低くなる。一の特定の例では、露出良好を示す値は0であり、露出不良を示す値は0と1の間である。図3に、画素強度の関数としての画素露出品質値の例を示す。露出品質値は中間部分において0であり、画素強度が強度範囲の両端に近づくにつれて0から1に向けて増加している。この例ではより低い露出品質値がより良い露出、すなわち露出過度又は露出不足でない露出に対応するが、慣習として「品質」についてはより高い値が「より良い」ことを連想させるため、このような関数は「逆」露出品質関数と呼ばれうることに注意されたい。目的関数Fが最大化される場合、画素露出品質関数は反転した形状を有しうる。いかなる適切な形状も画素露出品質関数のために用いうる。
【0026】
一の実施形態では、タイル対タイルの相互関係値Vは、図4に概略的に示すように、画像から2つのタイル格子(第1タイル格子及び第2タイル格子)を構成することにより計算される。各タイル格子は同じサイズ及び形の互いに当接するタイルにより形成される。2つのタイル格子は、同じタイルサイズ、形状及び配置を有する。図4に示す好ましい実施形態では、タイルは長方形又は正方形であり、水平及び垂直に整列して規則的な格子を形成する。他のタイルの形状及び配置も使用しうる。一の実施では、各タイルは20×18画素のサイズである。第1タイル格子(図4において太線で示す)は画像全体を分割するものであり、第2タイル格子(図4において細線で示す)は、第1タイル格子に対してタイル高さの半分及びタイル幅の半分だけ横に移動する。第2タイル格子は、(図4に概略するように)それぞれタイル高さ及び幅の半分だけ画像の境界を越えて延在してもよく、又はタイル高さ及び幅の半分だけ画像より小さくてもよい。
【0027】
方程式1において、タイル指標p及びqは、それぞれ第1及び第2タイル格子のタイルを示す。第1タイル格子の各タイルpに対して、その隣接するタイルN(p)の組は、タイルpと一部が重なる第2タイル格子の4つのタイルから構成される。図4は、第1タイル格子のタイルp1(縦線で網かけ)と、第2タイル格子の隣接するタイルq1(横線で網かけ)の一つを示す。反対に、第2タイル格子の各タイルqは、第1タイル格子において4つの隣接するタイルを有する。第2格子において定めたタイルが第1格子の4つの異なるタイルに結合することから、第1格子の隣接するタイルは重複するタイルを介して第2格子と直接結合している。
【0028】
方程式1において、タイルp及びその隣接するタイルqの相互関係の尺度である関数Vp,q(f,f)は、タイルp及びタイルqの互いに重なり合う部分を使って定義される(例えば、図4において縦線及び横線で網かけされ、「p1−q1」と付された部分)。一の実施では、2つのタイルの重なり合う部分の正規化相互相関(NCC)を用いて計算される。例えば、Vp,q(f,f)は、NCCの単調関数として定義することができる。
【0029】
数学的に、同じサイズの2つの画像パッチX及びYの間のNCCは、下記の式によって与えられる。
【数2】

ただし、以下が条件である。
【数3】
NCCは、NCC(X,aY+b)=NCC(X,Y)との特性を有しており、a及びbは定数である。このように、NCCは露出レベル及びコントラストの変化に対して不変である。
【0030】
p,q(f,f)の定義の一の特定の例は、以下の通りである(方程式(2))。
【数4】

ただし、NCCは、ブラケットf及びfに対するタイルp及びタイルqの重複部分の正規化相互相関NCCp,q(f,f)の省略形である。この関数は、下記の考察を元に作成されている。すなわち、指数関数は、好ましくない低いNCCに必要とされる非常に厳しいペナルティーを成す。平方は、NCCの高い値に対する許容範囲(例えば、0.8及び1の間)を表す。露出レベルが近い場合、定数項(例えば、0.3)は同じ基準ブラケットを維持する効果を有する。この定義により、Vp,q(f,f)は、タイルp及びタイルqに対して選択されたブラケットは同じ画像内容(すなわち、同じ対象物)を表すという確信を示す。ブラケットf及びfが同じ対象物からの画像内容でないものを表す場合、両タイルの重なり合う角の間の画像内容の相関関係を測定したNCCは低くなるため、Vp,q(f,f)は低くなると見られる。NCCの他の適切な単調関数を用いても良い。別の実施では、NCCは、画像間の視覚的類似性を測定する他の適切な関数によって置き換えられても良い。そのような関数は、露出レベル及びコントラストに対して不変であるべきである。
【0031】
方程式1において、タイル露出品質値D(f)は、第1タイル格子のすべてのタイルpについて合計され、タイル対タイル相互関係関数Vp,q(f,f)は、まず各タイルpに隣接するすべてのタイルq∈N(p)について合計され、その後、第1タイル格子のすべてのタイルpについて合計される。
【0032】
上述のように、最適化の目的は、目的関数F(f)(方程式(1))を最適化(最小化又は最大化)するベクトルf={fp}を見つけることである。この最適化ベクトルfは、ゴーストアーチファクト検出及びHDR画像生成に使用される、各タイルpに対する基準ブラケットを与える。最適化の問題は、関数Fを表すグラフを構成し、このグラフの最適カットを見つけることで解決する。グラフの構築(図1のステップS12)は、以下に図5及び図6を参照して説明する。下記の記載では、3つのブラケットを有する画像の組が例として使用されるが、この方法は他の数のブラケットに拡大することができる。
【0033】
図5に示すように、グラフは、ソースノード、シンクノード及び複数の中間ノードを有する。第1タイル格子の各タイルpに対応して、2つの中間ノードNp(1)及びNp(2)が提供される。各タイルに対応する中間ノードの数は、ブラケットの数マイナス1である。各タイルpに対応して3つのエッジが提供され、それぞれソースノードを第1中間ノードに結合し、第1中間ノードを第2中間ノードに結合し、第2中間ノードをシンクノードに結合している。3つのエッジに割り当てられた重みは、それぞれD(0),D(1),D(2)であり、方程式(1)に関連して上述したように、D(f)(f=0,1,2)は3つのブラケット0,1,2におけるタイルpに対する露出品質値である。言い換えると、3つのエッジはタイルpに対する3つのブラケット0,1,2を表しており、エッジの重みはそれぞれのタイル露出品質Dを表している。簡略化のため、図5は第1タイル格子の2つのタイルp1及びp2のみに対応する中間ノード、すなわちNp1(1),Np1(2),Np2(1),Np2(2)を含むグラフの一部(部分グラフ)を示している。
【0034】
同様に、図6に示すように、2つの中間ノードNq(1)及びNq(2)が第2タイル格子の各タイルqに対応して設けられると共に、3つのエッジが設けられ、それぞれソースノードを第1中間ノードに結合し、第1中間ノードを第2中間ノードに結合し、第2中間ノードをシンクノードに結合している。3つのエッジに割り当てられた重みは、それぞれDq(0),Dq(1),Dq(2)であり、D(f)(f=0,1,2)は3つのブラケット0,1,2におけるタイルqに対する露出品質値である。簡略化のため、図6は、第1タイル格子における一つのタイルpのみ、及び第2タイル格子における隣接するタイルqの一つ(タイルpに対しては4つの隣接するタイルqがあり、タイルqに対しては4つの隣接するタイルpがある)に対するノードを含む部分グラフを示している。
【0035】
グラフは、上述した同じタイルに対するノードを結合する縦方向のエッジに加えて、タイルpに対する中間ノード及び隣接するタイルqに対する中間ノードを結合する横方向のエッジを含む。横方向のエッジには2種類ある。横方向のエッジの第1の種類は、タイルp及びタイルqに対する1対の対応する中間ノードを結合する。例えば、タイルp及びタイルqに対する第1中間ノードNp(1)及びNq(1)を互いに結合し、タイルp及びタイルqに対する第2中間ノードNp(2)及びNq(2)を互いに結合する。横方向のエッジの種々の第1の種類のエッジ重みは、Np(1)をNq(1)に結合するエッジについてはV10、Nq(1)をNp(1)に結合するエッジについてはV01、Np(2)をNq(2)に結合するエッジについてはV21、Nq(2)をNp(2)に結合するエッジについてはV12である(図6参照)。
【0036】
ここで、V01,V10といった標記は、方程式(1)に関連して上述したタイル対タイル相互関係値Vp,q(f,f)の省略形である。例えば、V01=Vp,q(f=0,f=1)、V10=Vp,q(f=1,f=0)等である。このように、V01はブラケット0のタイルpとブラケット1のタイルqとの相互関係であり、V10はブラケット1のタイルpとブラケット0のタイルqとの相互関係等である。相互関係Vはタイルp及びタイルqの重なり合う部分を用いて計算され(方程式(2)参照)、また、NCC(X,Y)=NCC(Y,X)であることから、双方向における2つの対応する中間ノードを結合する一対のエッジの重み(例えばV01及びV10)は、常に等しい。
【0037】
横方向のエッジの第2の種類は、タイルp及びタイルqについての1対の非対応中間ノードを結合する。具体的には、図6に示すように、重みVaのエッジはタイルqに対する第2中間ノードNq(2)をタイルpに対する第1中間ノードNp(1)に結合し、重みVbのエッジはタイルpに対する第2中間ノードNp(2)をタイルqに対する第1中間ノードNq(1)に結合する。Va及びVbの値を方程式(3)に示す。
【数5】

横方向のエッジの第2の種類(重みは上記で定義)は、グラフによりF関数(方程式(1))の固有表現を達成するように、グラフに加えられる。
【0038】
図5及び図6に示すように、グラフのエッジには方向性がある。本明細書では、エッジの方向がノード1からノード2に向かう場合は、ノード1はノード2「に結合される」と言い、「から結合される」と言う場合は逆方向である。このようなグラフは有向グラフと呼ばれる。より具体的には、グラフはフローネットワークである。フローネットワークとは、各エッジが容量(上述の重み)を有し、フローの入力を受ける有向グラフの一種である。
【0039】
概括すると、本発明の実施形態によれば、ステップS12で構築されるグラフは、ソースノード、シンクノード、第1タイル格子の各タイルpに対応する2つの(第1及び第2)中間ノード、第2タイル格子の各タイルqに対応する2つの(第1及び第2)中間ノードを有する。ソースノードは、各タイルp及び各タイルqの第1中間ノードに結合している。各タイルp及び各タイルqの第1中間ノードは、同じタイルの第2中間ノードに結合している。各タイルp及び各タイルqの第2中間ノードは、シンクノードに結合している。各タイルp(又はq)の第1中間ノードは、2つのエッジにより、4つの隣接するタイルq(又はp)の各々の第1中間ノードに、及びこの第1中間ノードから結合している。各タイルp(又はq)の第2中間ノードは、2つのエッジにより、4つの隣接するタイルq(又はp)の各々の第2中間ノードに、及びこの第2中間ノードから結合している。各タイルp(又はq)の第2中間ノードは、4つの隣接するタイルq(又はp)の各々の第1中間ノードに結合している。種々のエッジのエッジ重みは上述した通りである。便宜上、同じタイル(p又はq)に対するノードを互いに接続し、或いはソース又はシンクに接続するエッジをタイル特有エッジと呼び、異なるタイルに対するノードを接続するエッジを連結エッジと呼ぶ(横方向エッジとも呼ばれる)。
【0040】
グラフの最適カット(本実施形態では最小カット)が最適化問題の解決策を表し、また、目的関数F(f)を最適化(本実施形態では最小化)する最適ベクトルfを与えるように、目的関数F(f)(方程式1)を表すグラフが構築される。
【0041】
グラフカットは、グラフ理論の公知領域であり、エネルギー最小化原理の見地から公式化できる多種多様なローレベルコンピュータビジョン問題を効果的に解決すべく、コンピュータビジョンの分野に適用されている。グラフカットを行うとは、2つの組の間の接続エッジなしで、2つの互いに素な頂点(ノード)のサブセットが得られるように、グラフのエッジの組をカット(除去)することである。カットエッジの組は、カットセットと呼ばれる。本実施形態で構築したグラフのように、一つのソースノード及び一つのシンクノードがあるフローネットワークに対しては、s‐tカットは、ソースとシンクとが異なるサブセットとなるように、すなわち、ソースからシンクへの有向路が存在しないように、一組のエッジ(ソース側からシンク側に向かうエッジのみ含む)をカットするものである。フローネットワークのカットは重みを有しており、この重みはカットセットにおけるすべてのエッジの重みの合計として定義される。
【0042】
例として図6に示すグラフを使用すると、全部で9つの異なるグラフのカット方法があり、そのいくつかが図7〜12に示されている(他のものは、単純な左右対称によって推測することができる)。図7〜12において、白丸はカットされたエッジ(すなわちカットセットのもの)を示しており、その重みはカットの重みに寄与する。エッジがソース側からシンク側にカットを横切る場合は、エッジはカットセットにあるが、逆向きにカットを横切る場合は、カットセットにはない。
【0043】
フローネットワークの最小カットは、最小重みのカットであり、カットの重みはカットセットにおけるすべてのエッジの重みの合計で定義される。フローネットワークに対する最小カットを見つけるための公知のアルゴリズムが存在する。例えば、C++ BOOST ライブラリーは、最小カットアルゴリズムを含む数学的問題を解決するための、無料のオープンソースアルゴリズムを提供する。このように、ステップS13は、最小カットアルゴリズムを用いて、ステップS12で構築されたグラフの最小カットを見つける工程である。
【0044】
上述のように、ステップS12で構築されたグラフにおいて、第1タイル格子のタイルpに対する2つの中間ノードを介してソース及びシンクノードを結合する3つのエッジは、タイルpに対する3つのブラケット0,1,2を表している。これら3つのエッジのうち、ただ1つのエッジが最小カットによりカットされる。このカットエッジは、基準ブラケットとなる、タイルpに対するブラケットを示す。こうして、最小カットが見つけられると、第1格子(すなわち、ベクトルf={f})のすべてのタイルpに対する基準ブラケットを識別することができる。これにより、目的関数F(f)(方程式(1))を最適化(本実施形態では最小化)する最適ベクトルfが与えられる。
【0045】
図13を参照して、4つの入力画像の組の例について説明する。図13のグラフは図6のものと同様であり、同じ/類似の標記が用いられている。例えば、Np(3)は画素pに対する第3中間ノード、Dp(3)はブラケット3のタイルpに対する露出品質値、V23=Vp,q(f=2,f=3)等である。タイルpの第3中間ノードは、重みVd及びVfであるタイルqの第2及び第1中間ノードに結合されており、タイルqの第3中間ノードは、重みVc及びVeであるタイルpの第2及び第1中間ノードに結合されている。Va及びVbの値は、3つの画像の組の例(方程式3)のものと同じであり、VcからVeの値は方程式(4)である。
【数6】
【0046】
より一般的には、M個の入力画像の組に対するグラフは、各タイルp及びqに対するM−1個の中間ノードと、方程式(1)の第1構成要素Dから計算される重みで、各タイルp(又はq)に対するひと続きの中間ノードを介してソースノードをシンクノードに結合するM個の縦方向エッジと、方程式(1)の第2構成要素Vから計算される重みで、各タイルq(又はp)の各中間ノードに、及び/又はこの各中間ノードから、タイルp(又はq)の各中間ノードを結合する横方向エッジと、を有する。
【0047】
5以上の画像による画像の組に対するグラフも同様に構築することが可能であり、本明細書に記載する原理に基づき、エッジの適切な重みを得ることができる。
【0048】
図14を参照して、ゴーストアーチファクト検出及びHDR画像生成の全体処理を以下に記載する。
【0049】
まず、上述の方法で、各ブラケットに使用される第1タイル格子が構成される(ステップS81)。各ブラケットに使用される第2タイル格子は、上述の方法で第1タイル格子を移動させることにより構成される(ステップS82)。各ブラケットについて、第1格子の各タイル及び第2格子の各タイルに対するタイル露出品質値が計算される(ステップS83)。本ステップにおけるタイル露出品質値は、方程式(1)の項D(f)に対応し、本発明の種々の実施形態におけるこれらの定義及び計算は上述した通りである。また、2つのブラケットの組み合わせの各々について、第1格子の各タイルと、第2格子の各隣接タイルとのタイル対タイル相互関係値が計算される(ステップS84)。本ステップの相互関係値は、方程式(1)の項Vp,q(f,f)に対応し、本発明の種々の実施形態におけるこれらの定義及び計算は上述した通りである。ここで、「2つのブラケットの組み合わせ」とは、(f=0,f=1)等の2つのブラケット指標f及びfの組み合わせを言う。
【0050】
その後、ステップS81及びS82で構成された第1格子及び第2格子、及びステップS83及びS84で計算されたタイル露出品質値及びタイル対タイル相互関係値に基づき、グラフ(具体的にはフローネットワーク)が構築される(ステップS85)。グラフは、ソースノード、シンクノード、第1格子の各タイル及び第2格子の各タイルに対応する一以上のノード、並びに、ノード間の種々のタイル特有エッジ及び横方向連結エッジを含む。各エッジは、該エッジに割り当てられた重みを有し、この重みは、タイル露出品質値及びタイル対タイル相互関係値に基づく。本発明の実施形態においてグラフを構築する具体的な方法は、上記に詳述している。その後、最小カットアルゴリズムを用いてグラフの最適カットが計算され、最適カットから第1格子のすべてのタイルに対する基準ブラケットが特定される(ステップS86)。本発明の実施形態において最適カットから基準ブラケットを特定する方法は、上述している。
【0051】
各タイルに対する基準ブラケットが特定されると、各タイルについて非基準ブラケットを基準ブラケットと比較することにより、各タイル基準で、画像の組におけるゴースト誘発画素を検出することができる(ステップS87)。例えば、基準ブラケット及び非基準ブラケット間のタイルの正規化相互相関(NCC)を、そのタイルについての非基準ブラケットがゴースト誘発対象物を含むか否かの指標として計算することができる。「Karadag and Akyuz 2012」論文に記載されているような他の方法を使って、タイルにおけるゴーストアーチファクトを検出することもできる。ステップS87において、各ブラケットに対するゴーストマップが構築される。ゴーストマップは、オリジナル画像と同じサイズを有し、ブラケットの各画素がゴーストを誘発するか否か、ひいてはブラケットの画素がHDR画像の作成に用いられるべきか否かを示すマップである。その後、対応するゴーストマップと共に、複数のブラケットを用いて、HDR画像が生成される(ステップS88)。本工程において、対応するゴーストマップによりゴーストを誘発すると示されたブラケットの画素は、HDR画像の生成に使用されない。その結果、ゴーストアーチファクトが回避される。
【0052】
図14の処理において、ステップS81〜S86は各タイルに対する基準ブラケットの決定に関し、ステップS87〜S88はゴーストアーチファクトの検出及び除去と、HDR画像の生成とに関する。後者のステップの組は、本分野で公知の方法を用いて実施することができる。
【0053】
上述の実施形態には種々の変更を加えうる。例えば、上記実施形態では第1格子及び第2格子で重複するタイルを用いてタイル対タイル相互関係Vp,q(f,f)が定義されるが、第1格子のタイルのみを用いて、第1格子で互いに接する隣接タイルの視覚的類似性を測定する関数によって定義することも可能である。このような他の実施形態のうちの2つを以下に記載する。これらの記載において、タイルqは同じ格子におけるタイルpの隣接タイルである。隣接タイルの組は、タイルpに4つの辺で当接する4つのタイルの組として、或いは、そのような組のサブセットとして定義することができる。
【0054】
タイル対タイル相互関係Vp,q(f,f)を計算する第1の他の方法では、まず下記のNCC値が計算される。
【数7】

ただし、Ifq(R)はブラケットfのタイルpの画像等である。よって、値Aはブラケットf及びfのタイルp及びqの間で計算された正規化相互相関関係である。
【0055】
1については、nを入力画像の組の他のブラケットの指標、すなわちn1及びn1とすると、下記の値が計算される。
【数8】
【0056】
その後、値Hが下記のように計算される。
【数9】
【0057】
それから、タイル対タイル相互関係Vp,q(f,f)がHp,q(f,f)の増加関数として計算される。
【0058】
タイル対タイル相互関係Vp,q(f,f)を計算する第2の他の方法では、まず、ブラケットfによって画素強度値を露出値にマッピングする関数Eにより、各タイルがマッピングされる。すなわち、Eは画素値に適用される逆カメラ応答関数(CRF)である。
【0059】
その後、ItestをEfp(Ifp(R))及びEfq(Ifq(R))の並置(隣接タイル)の画像結果とする。また、distを比較関数(例えば、絶対値差分1−NCC)とする。下記を計算する。
【数10】

ただし、R+RはタイルR及びRを結合(並置)することによって得られた画像パッチを表す。例えば、R及びRが正方形の場合、R+RはR及びRを結合した長方形のパッチとなる。
【0060】
その後、タイル対タイル相互関係Vp,q(f,f)がHp,q(f,f)の増加関数として計算される。
【0061】
タイル対タイル相互関係Vp,q(f,f)が第1格子のタイルのみを用いて計算される場合、グラフ構造は、タイルqが(第2格子ではなく)同じ格子におけるタイルpの隣接タイルであることを除いて、上記と同様となる。
【0062】
本明細書に記載するゴーストアーチファクト検出及びHDR画像生成方法は、図15に示すようなコンピューター120等のデータ処理システムで実施することができる。コンピューター120は、プロセッサー121、記憶デバイス(例えばハードディスクドライブ)122及び内部メモリー(例えばRAM)123を備える。記憶デバイス122は、RAM123に読み出され、プロセッサー121により実行されて上記方法を実施するソフトウェアプログラムを格納する。
【0063】
上記方法は、デジタルカメラ内の一以上のチップ等のハードウェア回路において実施してもよい。図16は、デジタルカメラ130を概略的に示しており、デジタルカメラ130は、プロセッサー131、記憶デバイス132、内部メモリー133と共に、画像を取得する撮像部134及びカメラの種々の機能を制御する制御部135を備えている。制御部135は、オートブラケティングを実行して、異なる露光レベルでの画像の組を自動的に取得することができる。オートブラケティングは周知なので、詳細は省略する。プロセッサー131は、上述のアルゴリズムを用いて画像の組を処理し、HDR画像を生成してもよい。
【0064】
一の側面では、本発明はデータ処理装置において具現化される。データ処理装置はデジタルカメラのデータ処理部であってもよい。他の側面では、本発明は、データ処理装置を制御するためのコンピューター読取可能なプログラムコードを内蔵したコンピューター使用可能な非一時的媒体に具現化されるコンピュータープログラム製品である。他の側面では、本発明は、データ処理装置により実行される方法である。
【0065】
本発明のゴーストアーチファクト検出、HDR画像作成方法及び関連する装置に、本発明の趣旨又は範囲を逸脱することなく、種々の修正や変更を加えうることは、当業者において明らかである。このように、本発明は、添付の特許請求の範囲やその等価物の範囲内の変更点や修正点にまで及ぶことが意図されている。
図1
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図2
【外国語明細書】
2015165660000001.pdf
2015165660000002.pdf
2015165660000003.pdf
2015165660000004.pdf