IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ライカ マイクロシステムズ シーエムエス ゲゼルシャフト ミット ベシュレンクテル ハフツングの特許一覧

特許7391865信号データのボケ除去のためのベースライン推定および半二次最小化を使用する装置および方法
<>
  • 特許-信号データのボケ除去のためのベースライン推定および半二次最小化を使用する装置および方法 図1
  • 特許-信号データのボケ除去のためのベースライン推定および半二次最小化を使用する装置および方法 図2
  • 特許-信号データのボケ除去のためのベースライン推定および半二次最小化を使用する装置および方法 図3
  • 特許-信号データのボケ除去のためのベースライン推定および半二次最小化を使用する装置および方法 図4
  • 特許-信号データのボケ除去のためのベースライン推定および半二次最小化を使用する装置および方法 図5
  • 特許-信号データのボケ除去のためのベースライン推定および半二次最小化を使用する装置および方法 図6
  • 特許-信号データのボケ除去のためのベースライン推定および半二次最小化を使用する装置および方法 図7
  • 特許-信号データのボケ除去のためのベースライン推定および半二次最小化を使用する装置および方法 図8
  • 特許-信号データのボケ除去のためのベースライン推定および半二次最小化を使用する装置および方法 図9
  • 特許-信号データのボケ除去のためのベースライン推定および半二次最小化を使用する装置および方法 図10
  • 特許-信号データのボケ除去のためのベースライン推定および半二次最小化を使用する装置および方法 図11
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-11-27
(45)【発行日】2023-12-05
(54)【発明の名称】信号データのボケ除去のためのベースライン推定および半二次最小化を使用する装置および方法
(51)【国際特許分類】
   G06T 5/00 20060101AFI20231128BHJP
   H03H 17/00 20060101ALI20231128BHJP
【FI】
G06T5/00 710
H03H17/00 601P
【請求項の数】 10
(21)【出願番号】P 2020552395
(86)(22)【出願日】2019-03-29
(65)【公表番号】
(43)【公表日】2021-08-12
(86)【国際出願番号】 EP2019058089
(87)【国際公開番号】W WO2019185916
(87)【国際公開日】2019-10-03
【審査請求日】2022-03-29
(31)【優先権主張番号】102018204943.2
(32)【優先日】2018-03-29
(33)【優先権主張国・地域又は機関】DE
(31)【優先権主張番号】PCT/EP2018/067244
(32)【優先日】2018-06-27
(33)【優先権主張国・地域又は機関】EP
(73)【特許権者】
【識別番号】511079735
【氏名又は名称】ライカ マイクロシステムズ シーエムエス ゲゼルシャフト ミット ベシュレンクテル ハフツング
【氏名又は名称原語表記】Leica Microsystems CMS GmbH
【住所又は居所原語表記】Ernst-Leitz-Strasse 17-37, D-35578 Wetzlar, Germany
(74)【代理人】
【識別番号】100114890
【弁理士】
【氏名又は名称】アインゼル・フェリックス=ラインハルト
(74)【代理人】
【識別番号】100098501
【弁理士】
【氏名又は名称】森田 拓
(74)【代理人】
【識別番号】100116403
【弁理士】
【氏名又は名称】前川 純一
(74)【代理人】
【識別番号】100134315
【弁理士】
【氏名又は名称】永島 秀郎
(74)【代理人】
【識別番号】100135633
【弁理士】
【氏名又は名称】二宮 浩康
(74)【代理人】
【識別番号】100162880
【弁理士】
【氏名又は名称】上島 類
(72)【発明者】
【氏名】カイ ヴァルター
(72)【発明者】
【氏名】フローリアン ツィーシェ
【審査官】▲徳▼田 賢二
(56)【参考文献】
【文献】特開平06-003268(JP,A)
【文献】特表2006-505048(JP,A)
【文献】特表2004-506216(JP,A)
【文献】Vincent MAZET et al.,“Background removal from spectra by designing and minimising a non-quadratic cost function”,Chemometrics and Intelligent Laboratory Systems,2005年04月,Vol. 76, No. 2,p.121-133,DOI: 10.1016/j.chemolab.2004.10.003
(58)【調査した分野】(Int.Cl.,DB名)
G06T 5/00
H03H 17/00
(57)【特許請求の範囲】
【請求項1】
入力信号データ(I(x))によって表される信号におけるベースライン推定のための方法であって、
前記方法は、
・ベースライン推定データ(f(x))を得るために、前記信号におけるベースライン関与(I(x))を推定するステップと、
・前記ベースライン推定データ(f(x))と前記入力信号データ(I(x))とに基づいて、ボケ除去された出力信号データ(O(x))を得るステップと、
を含んでおり、
前記ベースライン関与(I(x))を推定する前記ステップは、
・最小二乗最小化規範(M(f(x)))を最小化することによって、前記入力信号データ(I(x))の少なくともサブセットへの適合として反復半二次最小化スキーム(66)を使用して前記ベースライン推定データ(f(x))を計算するステップを含んでおり、
前記最小二乗最小化規範(M(f(x)))は、ペナルティ項(P(f(x)))を含んでおり、
前記反復半二次最小化スキーム(66)は、第1の反復ステージ(48)と第2の反復ステージ(50)とを含んでおり、
・前記第1の反復ステージ(48)において、補助データ(d(x ))を、以前の反復の前記ベースライン推定データ(f(x ))、切断された二次項(φ(ε(x )))および前記入力信号データ(I(x ))に応じて更新し、
・前記第2の反復ステージ(50)において、前記ベースライン推定データ(f(x ))を、前記入力信号データ(I(x ))と更新された前記補助データ(d(x ))との総計での離散グリーン関数(G(x ))の畳み込みを使用して直接的に計算する、
方法。
【請求項2】
前記ベースライン推定データ(f(x))を、前記入力信号データ(I(x))へのスプライン適合を使用して計算する、
請求項1記載の方法。
【請求項3】
前記最小二乗最小化規範(M(f(x)))は、前記入力信号データ(I(x))と前記ベースライン推定データ(f(x))との間の差を表す、切断された二次項(φ(ε(x)))を含むコスト関数C(f(x))を含んでいる、
請求項1または2記載の方法。
【請求項4】
前記切断された二次項(φ(ε(x)))は、非対称である、
請求項3記載の方法。
【請求項5】
前記ペナルティ項(P(f(x)))は、滑らかでないベースライン推定データにペナルティを課す、
請求項1から4までのいずれか1項記載の方法。
【請求項6】
前記ペナルティ項(P(f(x)))は、前記ベースライン推定データ(f(x))の任意の次数の導関数、特徴抽出線形フィルタ、特徴抽出線形フィルタの線形結合および前記ベースライン推定データ(f(x))の任意の次数の導関数の線形結合のうちの少なくとも1つを含んでいる、
請求項1から5までのいずれか1項記載の方法。
【請求項7】
前記反復半二次最小化スキーム(66)は、LEGENDアルゴリズムである、
請求項1から6までのいずれか1項記載の方法。
【請求項8】
前記出力信号データの逆畳み込みを行う、
請求項1から7までのいずれか1項記載の方法。
【請求項9】
前記入力信号データ(I(x))から前記ベースライン推定データを差し引くことによって、前記ボケ除去された出力信号データ(O(x))を得る、
請求項1から8までのいずれか1項記載の方法。
【請求項10】
コンピュータプログラムがプロセッサ上で実行されるときに、請求項1から9までのいずれか1項記載の方法を実施するためのプログラムコードを有するコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、入力信号データにおけるベースライン推定のための装置および方法に関する。
【背景技術】
【0002】
カメラ等の光学デバイスを使用して、三次元領域の二次元画像を記録する場合には、焦点領域にあるそれらの特徴だけが鮮鋭にレンダリングされるだろう。焦点領域にないアイテムはぼやけている。画像へのこの焦点外れ関与によって、標準のエンジンおよび逆畳み込み等の画像鮮鋭化のための方法では除去されないアーチファクトが生じてしまう。
【発明の概要】
【発明が解決しようとする課題】
【0003】
したがって、課題は、入力信号データによって表される画像等の信号における焦点外れ関与またはベースライン関与を除去する装置および方法を提供することである。
【0004】
画像における焦点外れ関与またはベースライン関与と類似の特性を有するノイズコンテンツは、エイリアシング、ノイズの多い背景、非線形吸収作用および/または散乱作用および/または信号源および/または反射ターゲットの移動によって生じる、さまざまなタイプの入力信号データで存在し得る。したがって、本発明の別の課題は、画像における焦点外れ関与と特性が類似している、入力信号データにおけるノイズ成分を除去することである。
【課題を解決するための手段】
【0005】
本発明では、上述の課題は、入力信号データを少なくとも一時的に(有利には装置の画像保存セクションに)保存するように適合され、ボケ除去された出力信号データを(有利には装置の出力セクションによって)出力するように適合され、出力信号データを計算するために(有利には、ボケ除去セクションを含んでいる、装置の画像プロセッサによって)入力信号データから、入力信号データにおけるベースライン関与を除去する、特に差し引くように適合され、入力信号データの少なくともサブセットへの適合によってベースライン関与を表し、さらに(有利には装置のベースライン推定器エンジンによって)最小二乗最小化規範を含んでいるベースライン推定データを(有利には装置のベースライン推定器エンジンによって)計算するように適合されている、信号におけるベースライン推定のための装置によって解決される。ここで最小二乗最小化規範は、ペナルティ項を含んでいる。
【0006】
さらに、上述の課題は、入力信号データによって表される信号における、特に自動的な、ベースライン推定のための方法によって解決され、この方法は、ベースライン推定データを得るために、信号におけるベースライン関与を、特に自動的に、推定するステップと、ベースライン推定データと入力信号データとに基づいて、ボケ除去された出力信号データを得るステップとを含んでおり、ベースライン関与を推定するステップは、最小二乗最小化規範を最小化することによって、入力信号データの少なくともサブセットへの適合としてベースライン推定データを計算するステップを含んでいる。ここで最小二乗最小化規範は、ペナルティ項を含んでいる。
【0007】
上述の課題はさらに、特許請求の範囲に記載された方法をコンピュータに実施させるプログラムを格納する非一時的なコンピュータ可読媒体によって解決される。
【0008】
上述の課題はまた、コンピュータプログラムがプロセッサ上で実行されるときに、本発明によるノイズ低減方法を実施するためのプログラムコードを有するコンピュータプログラムによって解決され、特許請求の範囲に記載された方法の実施の結果である出力信号データによって解決され、かつ/または、入力信号データおよび出力信号データによってトレーニングされたニューラルネットワークデバイスによって解決され、ここで、出力信号データは、特許請求の範囲に記載された方法によって入力信号データから作成される。
【0009】
以降では、本発明を、単に例として入力画像データを表し得る入力信号データを参照して説明する。しかし、入力画像データに限定されず、用語「色」は一般的に、特定の波長または特定の波長帯域での入力信号の強さまたは強度に関連し得る。用語「色」は必ずしも画像入力データに限定されず、以降にさらに挙げられるように、他のタイプの入力データに関連していてもよい。同様に、用語「色空間」は、入力画像データに限定されず、異なる重畳波長または重畳波長帯域または非重畳波長または非重畳波長帯域で記録された入力信号データのあらゆるセットを表してよい。この文脈における波長は、空間的または時間的な波長に相当してよく、すなわち、時間的または空間的な周波数に関連していてよい。入力信号または出力信号が記録される波長または波長帯域のセットは、「色空間」に相当する。これらの波長または波長帯域のうちのそれぞれ1つが、個別の「チャネル」または「カラーチャネル」を構成する。
【0010】
例えば、入力信号データは、入力画像データ、入力ソナーデータ、入力音データおよび/または入力超音波データ、入力レーダーデータ、ケプストラを含む入力分光法データおよび/または入力スペクトルデータ、入力マイクロ波データ、地震計データ等の入力振動データ、あらゆる種類のトモグラフィの入力トモグラフィデータおよび証券取引データ等の統計データのうちの1つならびにそれらのあらゆる組み合わせであってよい。入力信号データは、一次元、二次元、三次元およびN次元のうちの1つであってよい。
【0011】
出力信号データは、出力画像データ、出力ソナーデータ、出力音データまたは出力超音波データ、出力レーダーデータ、ケプストラを含む出力分光法データおよび/またはスペクトルデータ、出力マイクロ波データ、地震計データ等の出力振動データおよび証券取引データ等の統計データのうちの1つならびにそれらのあらゆる組み合わせであってよい。出力信号データは、一次元、二次元、三次元およびN次元のうちの1つであってよい。出力信号データは、さらなる処理のために出力され得る。
【0012】
すでに画像データと見なされ得る、ソナーデータ、音データおよび超音波データ等の入力信号データでは、本明細書で説明されるベースライン推定が、背景を除去するために使用されてよい。統計データでは、本明細書で説明されるベースライン推定が、グローバルトレンドを除去および/または修正するために使用されてよい。
【0013】
より一般的な用語において、本明細書で説明されるベースライン推定方法は、入力信号データからベースライン推定値を除去するためだけでなく、ベースライン関与I(x)を「合焦」関与I(x)から分離するために使用されてよい。次に、これらの2つの成分が処理され、最終的には個別に分析されてよい。例えば、スペクトルデータ、特にハイパースペクトルデータでは、大規模なベースラインスペクトルフィーチャが、小規模なスペクトルフィーチャから分離されてよい。
【0014】
入力信号データは、有利には、N次元アレイI(x)であり、ここでNは2より大きい整数である。
【0015】
用語xは、N個のロケーション値を含んでおり、かつ離散ロケーションxまたはアレイにおけるそのロケーションへの位置ベクトルを表すタプル
【数1】
に対する簡易表記である。ロケーションxは、入力信号データ内のピクセルまたは有利にはピクセルのコヒーレントセットによって表されてよい。離散ロケーションxは、例えば、二次元の入力信号データの場合の離散ロケーション変数の二つ組
【数2】
および三次元の入力信号データの場合の離散ロケーション変数の三つ組
【数3】
を示す。i番目の次元において、アレイがM個のロケーション、すなわち、
【数4】
を含んでいてよい。全体として、I(x)には(M×・・・×MN)個の要素が含まれていてよい。以降では、具体的なロケーションまたは具体的な次元は参照されないため、ロケーションは単にxによって示される。
【0016】
I(x)は、ロケーションxでのあらゆる値または値の組み合わせであってよく、例えば色空間における色または「チャネル」の強度を表す値、例えばRGB空間における色Rの強度、または1つよりも多くの色の組み合わせ強度、例えばRGB色空間における
【数5】
である。マルチスペクトルまたはハイパースペクトルカメラによって記録された入力画像は、3つよりも多くのチャネルを含んでいてよい。他のタイプの入力信号データについても同様である。
【0017】
例えば、二次元の入力信号データは、3色のRGBフォーマットで利用可能な入力画像データであってよく、二次元の入力信号データ
【数6】
の3つの独立したセットと見なされてよく、ここでI(x)は色Rの強度等の値を表し、IG(x)は色Gの強度等の値を表し、IB(x)は色Bの強度等を表す。択一的に、各色は、別個の入力画像を構成し、したがって別個の入力信号データを構成すると見なされてよい。
【0018】
入力信号データがマルチスペクトルカメラまたはハイパースペクトルカメラを使用して記録されている場合、3つよりも多くのチャネルが入力信号データによって表されてよい。各チャネルは、光スペクトラムの異なるスペクトラムまたはスペクトル範囲を表してよい。例えば、可視光スペクトラムを表すために、3つよりも多くのチャネルが使用されてよい。
【0019】
対象物が少なくとも1つの蛍光体または少なくとも1つの自家蛍光物質等の蛍光材料を含んでいる場合、各チャネルは異なる蛍光スペクトラムを表してよい。例えば、複数の、蛍光を発する蛍光体が入力信号データに存在する場合、1つの蛍光体の各蛍光スペクトラムは、入力信号データの異なるチャネルによって表されてよい。さらに、一方での、照明によって選択的に引き起こされる蛍光と、他方での、引き起こされた蛍光の副産物としてまたは二次的作用として生成され得る自家蛍光とに、異なるチャネルが使用されてよい。付加的なチャネルは、NIRの範囲およびIRの範囲をカバーしてよい。チャネルには必ずしも強度データが含まれているとは限らないが、対象物の画像に関連する他の種類のデータを表してよい。例えば、チャネルは、画像内の特定のロケーションで引き起こされた後の蛍光寿命を表す蛍光寿命データを含んでいてよい。したがって、一般的に、入力信号データは
【数7】
の形式になり、ここで、Cは入力信号データにおけるチャネルの総数である。
【0020】
本発明の装置および方法は、合焦関与が高い空間周波数を有し、例えば、入力信号データ内の短い距離にわたって生じる強度の変化および/または色の変化の原因となるという仮定から始まる。焦点外れ関与は低い空間周波数を有し、すなわち、入力信号データの比較的広いエリアにわたって広がる、主に段階的な強度の変化および/または色の変化につながると仮定される。したがって焦点外れ関与は、入力信号データのベースラインに反映される。
【0021】
この仮定から始めて、入力信号データにわたる強度の変化および/または色の変化は、高い空間周波数の合焦成分I(x)と、低い、ここでは空間周波数の焦点外れ成分またはベースライン成分I(x)とに、
【数8】
として付加的に分離されてよい。
【0022】
その空間周波数が低いため、焦点外れ成分I(x)を、空間周波数が高い特徴として合焦成分が重ね合わされた、多かれ少なかれ滑らかなベースラインと見なすことができる。本発明では、ベースラインは、入力信号データへの適合(fit)を使用して推定される。計算上、適合、すなわちベースライン推定値は、離散ベースライン推定データf(x)によって表される。ベースライン推定データは、N次元および(M×・・・×MN)個の要素を有する超立方体アレイであってもよく、したがって、入力信号データと同じ次元数を有していてよい。
【0023】
空間周波数の代わりに時間周波数が考慮される場合も当然、同じ検討が適用される。この場合、入力信号データは、例えば、スペクトラム、ケプストラムまたは複数のスペクトルまたはケプストラを表してよい。したがって、ベースライン推定を使用して、空間領域または周波数領域における小規模または大規模の(ベースライン)信号コンテンツを抽出および/または削除することができる。
【0024】
ベースライン推定データを計算するために、最小二乗最小化規範(least-square minimization criterion)が使用される。これは、適合のために最小化されるべきである。最小二乗最小化規範の正確な定式化によって、適合の特性、したがってベースライン推定データの特性が決まる。最小二乗最小化規範の不適切な選択は、ベースライン推定値が十分な精度で焦点外れ成分を表さない原因となり得る。
【0025】
ベースライン推定データが入力信号データにおける焦点外れ関与またはベースライン関与の正確な表現であることを保証し、ベースライン推定データが、合焦関与に適合されることを回避するために、本発明による最小二乗最小化規範は、ペナルティ項を含んでいてよい。ペナルティ項は、ベースライン推定データの不所望な動作にペナルティを課すために使用される。これは例えば、高い空間周波数のコンテンツを有し、したがって入力信号データの合焦成分に属すると考えられる入力信号データの成分を表すことである。
【0026】
ベースライン推定データが決定され、したがってI(X)に対するベースライン推定値f(x)が得られると、ベースライン推定値と入力信号データとから、ボケ除去された出力信号データO(x)が得られてよい。特に、出力信号データは、次のように、入力信号データからベースライン推定値を差し引くことによって計算されてよい。
【数9】
【0027】
出力信号データO(x)はまた、有利には、次元NおよびM×・・・×M個の要素を有する離散アレイによって表され、したがって、有利には、入力信号データおよび/またはベースライン推定データと同じ次元数を有する。
【0028】
この文脈において、用語「ボケ除去された」出力信号データは、ベースライン推定値が除去されたあらゆる出力信号データを示す。上述のように、これは必ずしも画像だけに関係するのではなく、あらゆる信号データに関係する。したがって「焦点外れ」成分は、画像データにおける「焦点外れ」成分の特性に類似している特性を有するあらゆるノイズ成分であってよい。
【0029】
本発明の解決策は、先行技術で知られている解決策、例えば、BioVoxxel toolboxにおける「convoluted background subtraction」とは異なる。「convoluted background subtraction」では、背景が、信号またはより具体的には画像の畳み込まれたコピーから差し引かれ、本発明のように(畳み込まれていない)信号または画像から直接的に差し引かれるのではない。
【0030】
上述の装置および方法が、以降で説明する特徴のうちの1つまたは複数を追加することによってさらに改良されてよい。以降の特徴のそれぞれは、他の特徴とは無関係に、本発明の方法および/または装置に追加されてよい。さらに、以降で説明するように、各特徴は独自の有利な技術的な効果を有している。
【0031】
ある実施形態では、多項式適合(polynomial fit)が、入力信号データの次元に応じて、複数の次元で同時に行われてよい。
【0032】
ある特定の例では、適合は、入力信号データに対する多項式適合であってよい。特に、ベースライン推定データは、任意のN次元iにおけるK次多項式によって表されてよい。
【数10】
ここで、ai,kはi番目の次元における多項式の係数である。各次元i=1,・・・,Nに対して、別個の多項式が計算されてよい。
【0033】
最大多項式次数Kの最適値は、ベースライン推定データの必要な滑らかさによって異なる。滑らかなベースラインのために、多項式次数をできるだけ低く設定する必要があるが、他方で非常に不規則な背景の適合は、より高い次数を必要とし得る。
【0034】
多項式適合の場合、ベースライン推定データは多項式係数ai,kのみで構成されていてよい。しかし、入力信号データへの調整を可能にするパラメータだけが最大多項式次数であるため、多項式適合はコントロールするのが難しく、正確ではない場合がある。多項式次数は整数値のみを取ることができる。したがって、常に、最適なベースライン推定値を見つけることができるとは限らない。最適でない多項式適合は、ベースライン推定において局部的な極小値を示す可能性があり、これは不快なアーチファクトを生じさせる可能性がある。
【0035】
したがって、別の有利な実施形態では、入力信号データへの適合は、スプライン適合(spline fit)、特に平滑化スプラインであってよい。スプライン適合は、例えば滑らかさの点でコントロールが容易であり、ノイズに対してロバストであり、かつ生じさせるアーチファクトが少ないため、通常、多項式適合よりも信頼性の高い結果を提供する。他方で、最小二乗最小化規範を最小化するためには、各ピクセルまたはより一般的には入力信号値を変化させる必要があるため、スプライン適合は多項式適合よりも計算が複雑である。
【0036】
ある実施形態では、最小二乗最小化規範M(f(x))は、
【数11】
の形式を有していてよく、ここで、C(f(x))はコスト関数であり、P(f(x))はペナルティ項である。最小二乗最小化規範、コスト関数およびペナルティ項は、有利にはスカラー値である。
【0037】
ある特定の例では、コスト関数は、入力信号データI(x)とベースライン推定データf(x)との間の差を表す。例えば、ε(x)が入力信号データとベースライン推定データとの間の差の項を、
【数12】
として示す場合、コスト関数C(f(x))は
【数13】
を含んでいてよく、これはここでは、入力信号データとi番目の次元におけるベースライン推定データとの間の差分二乗和の全ての次元にわたる二乗平均平方根値の総計の簡略表記とし使用され、すなわち、
【数14】
である。
【0038】
【数15】
はスカラー値である。コスト関数の例は
【数16】
である。
【0039】
ベースライン推定値の精度を高めるために、入力信号データとベースライン推定値との間の差が、例えば、切断された(truncated)差分項を使用して切断されるのは有利であり得る。切断された差分項は、ベースライン推定データに対する入力信号データのピークの影響を低減する。このような低減は、合焦関与がI(x)のピークに存在すると仮定される場合に有益である。切断された差分項があるため、ベースライン推定値から所定の一定の閾値sを超えて偏差する入力信号データのピークは、閾値への適合、特にスプライン適合に対するそのペナルティを切断することによって、コスト関数において「無視」されるだろう。したがって、ベースライン推定データは、限られた量でのみそのようなピークをたどる。切断された二次式(truncated qudratic)は、対称または非対称であってよい。切断された差分項は、以降において、φ(ε(x))によって示される。
【0040】
いくつかの適用では、合焦関与は、入力信号データにおけるピーク、すなわち画像の明るいスポットに含まれ得る、または入力信号データのピーク、すなわち画像の明るいスポットに少なくとも主に含まれ得る。これは、非対称であり、適合、特にスプライン適合が入力信号データにおけるピークではなく谷をたどることを可能にする切断された二次項を選択することによって反映されてよい。例えば、非対称の切断された二次式φ(ε(x))は、
【数17】
の形式であってよい。
【0041】
別の特定の適用において、谷、すなわち、入力信号データの低い値を有する暗いエリアまたは領域も合焦関与として考慮されるべき場合、非対称の切断された二次式の代わりに、対称の切断された二次式が使用されてよい。例えば、対称の切断された二次式は
【数18】
の形式を有していてよい。
【0042】
切断された二次式を使用する場合、コスト関数C(f(x))は有利には、
【数19】
として表されてよい。
【0043】
最小二乗最小化規範M(f(x))におけるペナルティ項P(f(x))は、ベースライン推定値が、合焦成分I(x)に属すると見なされるデータに適合される場合に、ペナルティを導入するあらゆる形をとってよい。入力信号データ成分における合焦成分がベースライン推定データで表される場合、ペナルティ項の値を増加させるペナルティが作成される。
【0044】
例えば、焦点外れ成分I(x)が低い空間周波数を有すると仮定される場合、ペナルティ項は、ベースライン推定値の空間周波数が大きくなると大きくなる項であってよい。
【0045】
そのような項は、ある実施形態では、滑らかなベースラインから偏差する滑らかでないベースライン推定データにペナルティを課すあらさペナルティ項であってよい。そのようなあらさペナルティ項は、高い空間周波数を有するデータの適合に効果的にペナルティを課す。
【0046】
ある態様では、滑らかなベースラインからの偏差は、ベースライン推定データの一次導関数、すなわち急勾配または勾配、および二次導関数、すなわち曲率の少なくとも1つにおいて大きな値をもたらし得る。したがって、あらさペナルティ項は、ベースライン推定データの一次空間導関数、特に一次空間導関数の二乗および/または絶対値、およびベースライン推定データの二次導関数、特に二次空間導関数の二乗および/または絶対値のうちの少なくとも1つを含んでいてよい。より一般的には、ペナルティ項は、ベースライン推定データのあらゆる任意の次数の空間導関数、またはベースライン推定データの空間導関数のあらゆる線形結合を含んでいてよい。異なるペナルティ項が異なる次元において使用されてよい。
【0047】
例えば、あらさペナルティ項P(f(x))は、
【数20】
として形成されてよい。
【0048】
このあらさペナルティ項は、ベースライン推定値の勾配の大きな変化率、または同等に高い曲率にペナルティを課すので、滑らかな推定値に有利である。ここでγは正則化パラメータであり、
【数21】
は、j番目の次元における二次導関数を計算するための離散演算子である。離散において、畳み込みを使用して微分が効率的に計算されてよい。例えば、
【数22】
であり、これは二次微分行列
【数23】
を伴う。
【0049】
正則化パラメータγは、入力信号または入力データの構造に関連して変わる。これは、合焦信号データI(x)おける情報の空間的な長さスケールを大まかに表す。正則化パラメータは、ユーザーによって事前に決定されてよく、有利にはゼロよりも大きい。正則化パラメータの単位は、ペナルティ関数がスカラーの無次元量になるように選択される。典型的には、正則化パラメータの値は0.3から100の間である。
【0050】
しかし、あらさペナルティ項P(f(x))が、
【数24】
として形成されるのは有利である。
【0051】
これは、ベースライン推定データにおける大きな勾配にペナルティを課すあらさペナルティ項である。jにわたった総計によって、異なる次元において異なるペナルティ項を使用することができる。xとf(x)とはどちらも離散的であるので、微分は、微分アレイ∂との畳み込みによって実行可能である、ということに留意されたい。演算子∂は、次元jにおける離散一次導関数演算子または勾配演算子を表し、これは、アレイによって表されてよい。
【0052】
ベースライン推定データの導関数または導関数の線形結合の代わりに、またはベースライン推定データの導関数または導関数の線形結合に加えて、ペナルティ項は、特に線形の特徴抽出フィルタまたはそのようなフィルタの線形結合を含んでいてよい。特徴抽出フィルタは、ソーベルフィルタ、ラプラスフィルタおよび/またはFIRフィルタ、例えば、高い空間周波数用の通過帯域を有するハイパスフィルタまたはバンドパス空間フィルタであってよい。
【0053】
このような一般的な定式化では、j番目の次元に対するペナルティ項は、一般的な演算子ζ(j)を含んでいてよく、
【数25】
として表されてよい。
【0054】
最小二乗最小化規範M(f(x))は、既知の方法を使用して最小化されてよい。ある例では、有利には反復半二次最小化スキーム(iterative half-quadratic minimization scheme)が使用されてよい。半二次最小化を実行するために、ベースライン推定器エンジンは、半二次最小化エンジンを含んでいてよい。半二次最小化は、2つの反復ステージを有する反復メカニズムを含んでいてよい。
【0055】
半二次最小化スキームは、例えば、計算上効率的なLEGENDアルゴリズムの少なくとも一部を含んでいてよい。LEGENDアルゴリズムについては、Idier,J.著(2001年)「Convex Half-Quadratic Criteria and Interacting Variables for Image Restoration」(IEEE Transactions on Image Processing、10(7)、1001-1009頁)およびMazet,V.、Carteret,C.、Bire,D、Idier,J.およびHumbert,B.著(2005年)「Background Removal from Spectra by Designing and Minimizing a Non-Quadratic Cost Function」(Chemometrics and Intelligent Laboratory Systems、76、121-133頁)に記載されている。両方の記事は、その全体が参照により本明細書に組み込まれる。
【0056】
LEGENDアルゴリズムは、有利には入力信号データと同じ次元数である離散補助データd(x)を導入する。補助データは、最新の初期ベースライン推定データ、切断された二次項および入力信号データに応じて、各反復で更新される。
【0057】
LEGENDアルゴリズムでは、コスト関数のみを含み、ペナルティ項を含んでいない最小二乗最小化規範が、収束基準が満たされるまで2つの反復ステップを使用して最小化される。
【0058】
適切な収束基準は、例えば、現在のベースライン推定データと以前のベースライン推定データとの間の、全てのロケーションxにわたる差の総計が所定の閾値よりも小さいということであってよい。
【0059】
さらなる改良において、収束基準は
【数26】
として表されてよく、ここでtは、ユーザーによって設定されてよいスカラー収束値である。
【0060】
LEGENDアルゴリズムにおける開始ステップとして、ベースライン推定データの初期のセットが規定される。
【0061】
LEGENDアルゴリズムは、多項式適合が使用される場合、第1のベースライン推定値
【数27】
に対する係数aの開始セットをi=1,・・・,Nの多項式のそれぞれに対して選択することによって開始されてよい。
【0062】
スプライン適合が使用される場合、LEGENDアルゴリズムを開始するための初期条件は
【数28】
であってよく、第2の反復ステップに入ることによって、反復が開始される。
【0063】
第1の反復ステップでは、補助データは
【数29】
のように更新されてよく、ここでl=1...Lは現在の反復のインデックスであり、αは選択可能な定数であってよい。有利には、αは0.5に近いが、0.5ではない。αの適切な値は0.493である。
【0064】
第2の反復ステップでは、以前に計算された補助データd(x)、以前の反復l-1からのベースライン推定データfl-1(x)およびペナルティ項P(x)に基づいて、ベースライン推定データf(x)が更新される。
【0065】
ベースライン推定データf(x)は、補助データを含めることによって、LEGENDアルゴリズム用に修正された半二次最小化規範M(f(x))を最小化することであってよい。
【0066】
特に、更新されたベースライン推定データは、第2の反復LEGENDステップにおいて、式
【数30】
を使用して計算されてよい。ここで、
【数31】
は、修正された半二次最小化規範を表している。
【0067】
第2の反復ステップは、行列計算
【数32】
を使用してベースライン推定データを更新してよく、ここで
【数33】
は、(M×・・・×MN次元アレイである。二次元の場合、Aは(M-1)(M-l)×Mアレイであり、
【数34】
として得られ、ここで
【数35】
を伴う。
【0068】
(x)およびf(x)を更新するためのこれら2つの反復ステップは、収束基準が満たされるまで繰り返される。
【0069】
本発明の極めて有利な態様では、LEGENDアルゴリズムの第2のステップは、行列計算の代わりに畳み込みを使用して修正される。これによって、計算の労力が大幅に軽減される。
【0070】
より具体的には、有利には、更新されたベースライン推定データf(x)は、入力信号データと更新された補助データとの総計でグリーン関数を畳み込むことによって直接的に計算される。
【0071】
本発明の解決策のより具体的な態様では、LEGENDアルゴリズムの第2の反復ステップは、以降の反復ステップによって置き換えられてよく、ここでは、更新されたベースライン推定データf(x)は、
【数36】
のように、グリーン関数G(x)を使用してl番目の反復において計算される。
【0072】
このステップによって、従来のLEGENDアルゴリズムと比較して、計算負荷が大幅に軽減される。
【0073】
計算負荷の軽減は、本発明の第2の反復ステップに従って、畳み込みが計算されるという事実から得られる。この計算は、FFTアルゴリズムを使用して効率的に実行可能である。さらに、第2の反復ステップは、FFTアルゴリズムのために、グラフィックスプロセッシングユニットまたはFPGA等のアレイプロセッサを完全に利用してよい。入力信号データと他の全てのアレイとが二次元である場合、計算上の問題は(M×MからM×Mへ軽減される。一般的なN次元の場合、計算負荷は(M×・・・×MN次元行列計算から(M×・・・×MN)次元アレイでのFFTの計算へ軽減される。
【0074】
したがって、ボケ除去を、極めて迅速に、有利にはリアルタイムに、二次元入力信号データに対して実行することができる。(2k×2k)信号データアレイ、ここでは画像は、50ms以内にボケ除去が行われてよい。
【0075】
ある特定の実施形態では、グリーン関数は、
【数37】
の形式を有していてよく、ここで、F[・・・]は離散N次元フーリエ変換であり、F-1[・・・]は逆離散N次元フーリエ変換であり、γはあらさペナルティ項の正則化パラメータであり、
【数38】
はロケーションmでのi番目の次元における離散ペナルティアレイであり、Nは次元の総数である。上のインデックス
【数39】
は、各次元jに対して異なるペナルティアレイが存在する可能性があることを示している。
【0076】
一般的に、離散ペナルティアレイ
【数40】
は、j番目の次元に使用されるペナルティ項P(j)(f(x))の汎函数微分(functional derivative)
【数41】
の離散表現に相当する。全ての関数は離散アレイで表されるので、微分を畳み込み
【数42】
によって数値的に実行することができ、ここで
【数43】
は、汎函数微分
【数44】
を計算するための離散アレイである。
【0077】
上述のグリーン関数の大きな利点は、あらゆる形式のペナルティ項P(f(x))が、半二次最小化エンジンにおける第2の反復ステップの高速計算から利益を受け得るということである。したがって、グリーン関数を使用する実施形態では、良好なベースライン推定値を得るために、あらゆるペナルティ項が使用されてよい。
【0078】
ペナルティ項
【数45】
の一般的な定式化のために、アレイ
【数46】

【数47】
によって規定され、ここでζ(i)は、ペナルティ項の一般的な演算子であり、*はN次元の畳み込みを示し、∇は関数f(xi,m)における離散一次汎函数微分に対応し、これは例えば、強度を表してよい。この方程式を最小二乗法で解くことができる。
【0079】
例えば、ペナルティ項が
【数48】
である場合、畳み込みにおける導関数アレイは、
【数49】
として表されてよい。
【0080】
装置は、画像保存セクション等の信号保存セクションを含んでいてよい。信号保存セクションは、少なくとも一時的に、入力信号データを含むように構成されていてよい。
【0081】
装置は、画像出力セクション等の信号出力セクションを含んでいてよい。装置は、ボケ除去された信号出力データを出力するように適合されていてよい。
【0082】
装置はさらに、ベースライン推定を実行するように構成されていてよい、画像プロセッサ等の信号プロセッサを含んでいてよい。
【0083】
信号プロセッサは、ボケ除去セクションを含んでいてよい。ボケ除去セクションは、出力信号データを計算するために、入力信号データからベースライン推定データ等のベースライン関与を差し引くように適合されていてよい。
【0084】
信号プロセッサは、ベースライン推定エンジンを含んでいてよい。ベースライン推定エンジンは、入力信号データの少なくともサブセットへの適合によってベースライン関与を表すベースライン推定データを計算するように構成されていてよい。
【0085】
ベースライン推定エンジンは、最小二乗最小化規範(M(x))の離散表現を含んでいてよい。
【0086】
画像プロセッサとして構成されていてよい信号プロセッサ、ベースライン推定器エンジン、ボケ除去セクションおよび半二次最小化エンジンは、それぞれ、ハードウェア、ソフトウェアまたはハードウェアとソフトウェアとの組み合わせとして実装されていてよい。例えば、信号プロセッサ、ベースライン推定器エンジン、ボケ除去セクションおよび半二次最小化エンジンのうちの少なくとも1つは、少なくとも部分的に、サブルーチン、CPU等の汎用プロセッサおよび/または、CPU、GPU、FPGA、ベクトルプロセッサおよび/またはASIC等の専用プロセッサのセクションによって実装されていてよい。
【0087】
本発明のボケ除去アルゴリズムを実行する別の方法は、入力信号データと出力信号データとの二つ組を使用して、例えば畳み込みニューラルネットワークである人工ニューラルネットワークをトレーニングすることであり、ここで出力信号データは、上述の方法の実施形態を使用して生成されている。この方法でトレーニングされたニューラルネットワークデバイスを、入力信号データと出力信号データとのトレーニングペアを生成するために使用された方法の実装と見なすことができる。ある特定の例において、信号データは、例えば顕微鏡で取得した画像データであってよく、出力信号データは、入力データに本発明のボケ除去アルゴリズムを適用することによって得られた画像であってよい。
【0088】
入力信号データとしての入力画像データのケースにおいて、入力信号データI(x)が、ボケ除去前に畳み込みまたは逆畳み込みされない場合に、本発明のボケ除去が最良の結果を提供するということに留意されたい。入力データI(x)が本発明のボケ除去によって前処理されている場合に、逆畳み込みは、最良の結果を提供する。
【0089】
さらに、ボケ除去による前処理は、SPIM(選択的平面照明顕微鏡法、ライトシート顕微鏡法とも称される)と称される技術で取得された画像の結果を向上させることができる。特に、その後に異なる方向/配向の下で標本を照明するライトシート技術で取得された複数の画像に、本発明によるボケ除去が施され得る。複数画像の逆畳み込みは画像の融合方法であり、これは、分析対象のサンプルによるライトシートの散乱によって生じる影およびボケを軽減する(例えば、Stephan Preibisch等著の刊行物「Efficient Bayesian-based multiview deconvolution」(Nat Methods.、2014年6月、11(6)、645-648頁)を参照されたい)。その後に異なる方向/配向等の下で標本を照明するライトシート技術で取得された複数の画像および/またはライトシートの異なる配向によって取得されたSPIM画像のこのような複数画像の逆畳み込みの結果に、本発明によるボケ除去が施され得る。本発明のボケ除去で入力画像を前処理することによって、複数画像の逆畳み込みの前にボケの関与を取り除くことができ、これによって融合結果が向上する。
【0090】
次に、本発明をさらに、図面にも示されるサンプルの実施形態を使用して、単に例として説明する。図面では、機能と設計とのうちの少なくとも1つに関して互いに対応する特徴には同じ参照番号が使用されている。
【0091】
添付の実施形態に示される特徴の組み合わせは、説明のみを目的としており、変更可能である。例えば、特定の用途に不要な技術的な作用を有する実施形態の特徴は省かれてよい。同様に、実施形態の一部として示されていない特徴が、この特徴に関連する技術的な作用が特定の用途に必要とされる場合には、追加されてよい。
【0092】
以降の例では、本発明の利点を説明するために、入力信号データおよび出力信号データは、それぞれ入力画像データおよび出力画像データである。上記から明らかなように、ベースライン推定にいかなる変更も加えることなく、画像データの代わりに、または画像データに加えて、あらゆる他のタイプの信号データが使用されてよい。
【図面の簡単な説明】
【0093】
図1】本発明の装置の概略図である。
図2】本発明の方法のフローチャートの概略図である。
図3図2の詳細を示す図である。
図4】入力信号データの例を示す図である。
図5図4の入力信号データから導出された、ボケ除去された出力信号データの例を示す図である。
図6図4および図5の線VIに沿った、入力信号データ、ベースライン推定データおよびボケ除去された出力信号データにおける強度分布を示す図である。
図7】入力信号データの別の例を示す図である。
図8図7の入力信号データに基づく出力信号データを示す図である。
図9】逆畳み込み後の図8の出力信号データを示す図である。
図10図7および図8の線Xに沿った入力信号データ、ベースライン推定データおよび出力信号データにおける強度分布を示す図である。
図11】入力信号データ、入力信号データにおける合焦関与、入力信号データにおける焦点外れ関与、ベースライン推定データおよび出力信号データの概略図である。
【発明を実施するための形態】
【0094】
図1をはじめに参照して、装置1の構造について説明する。装置1は、内視鏡または顕微鏡等の医療用観察装置であってよい。単に説明のために、装置1の例として顕微鏡2が示されている。ボケ除去装置およびボケ除去方法の目的に関しては、内視鏡と顕微鏡との間に違いはない。
【0095】
装置1は、例えばカメラ8を用いて入力信号データ6を捕捉するように適合されている信号形成セクション4、特に画像形成セクションを含んでいてよい。カメラ8は、CCD、マルチスペクトルカメラまたはハイパースペクトルカメラであってよく、これは複数のチャネル10において、入力信号データ6、ここでは入力画像データを記録し、ここで各チャネル10は有利には、赤外線から紫外線までの異なる光スペクトル範囲を表す。以降では、入力信号データ6をI(x)とも表す。
【0096】
当然、他のタイプの入力信号データ6が、カメラ以外のデバイスまたはセンサ、例えば1つ以上のマイクロホン、振動センサ、加速度計、速度センサ、アンテナ、圧力トランスデューサ、温度センサ、静電容量センサ、磁気センサおよびそれらのあらゆる組み合わせによって記録されてよい。
【0097】
CCDカメラの場合には、例えば、対象物12の可視光画像を表すために、3つのチャネル10、例えば、Rチャネル、GチャネルおよびBチャネルが提供されてよい。マルチスペクトルカメラまたはハイパースペクトルカメラの場合には、可視光範囲、IR光範囲、NIR光範囲および紫外光範囲のうちの少なくとも1つにおいて、合計3つを超えるチャネル10が使用されてよい。
【0098】
対象物12は、生物物質および/または無生物物質を含んでいてよい。対象物12はさらに、少なくとも1つの蛍光体14等である1つまたは複数の蛍光材料を含んでいてよい。マルチスペクトルカメラまたはハイパースペクトルカメラは、対象物12内の蛍光材料の異なる蛍光スペクトラムごとにチャネル10を有していてよい。例えば、各蛍光体14が、照明16によって引き起こされる蛍光スペクトラムに適合された少なくとも1つのチャネル10によって表されてよい。択一的または付加的に、チャネル10が、自家蛍光スペクトルに対して、または照明16によって励起される蛍光によって引き起こされる二次蛍光のスペクトルに対して、または寿命蛍光データに対して提供されてよい。当然、照明16は、対象物12おいて蛍光を引き起こすことなく、白色光またはあらゆる他の構成の光も放出してよい、または白色光またはあらゆる他の構成の光だけを放出してよい。顕微鏡2は、照明16による適切な蛍光励起波長を有する光で、例えば、対象物12内で蛍光体14の蛍光を励起するように適合されていてよい。
【0099】
照明は、レンズ17を通して案内されてよく、レンズを通して入力信号データも取得される。照明16は、1つまたは複数の異なる方向から対象物12に光を向けるために、1つまたは複数の可撓性光ガイドを含んでいてよい、または1つまたは複数の可撓性光ガイドから成っていてよい。例えばグレアを抑制するために、カメラ8の前面の光路に適切な遮断フィルタ(図示されていない)が配置されていてよい。蛍光の場合には、遮断フィルタは有利には、照明波長のみを遮断し、対象物12内の蛍光体14の蛍光光がカメラ8へ通過することを可能にする。
【0100】
一般への制限なく、入力信号データ6を、あらゆる種類の顕微鏡によって、特にワイドフィールドモードで操作可能な蛍光光顕微鏡で、かつ/または共焦点レーザー走査顕微鏡を使用して捕捉できることが明らかである。
【0101】
1つのチャネル10が二次元画像に含まれている場合、入力信号データ6は二次元である。1つよりも多くのチャネル10が含まれている場合および/または入力信号データ6が三次元画像等の三次元アレイを表している場合、入力画像は、2よりも高い次元数を有し得る。
【0102】
三次元入力信号データ6または三次元入力画像データは、装置1によって、例えばライトフィールド技術を使用することによって、顕微鏡におけるzスタッキングを使用することによって、SCAPE顕微鏡によって得られた画像および/またはSPIM顕微鏡によって得られた画像の三次元再構築を使用することによって記録されてよい。三次元画像の場合、三次元入力信号データ6の各面は、二次元入力画像6と見なされてよい。同様に、各面は、いくつかのチャネル10を含んでいてよい。
【0103】
各チャネル10が、別個の二次元画像または二次元信号と見なされてよい。択一的に複数のチャネルがともに、多次元アレイとして解釈されてよい。
【0104】
入力信号データは、強度等の量I(x)のデジタル表現である。ここで、xは入力信号データ6におけるロケーションを表し、Iはそのロケーションでの量である。用語xは、N次元を含み、離散入力信号データにおける離散ロケーションxを表すタプル
【数50】
に対する簡易表記である。ロケーションxは、入力信号データ内のピクセルまたは有利にはピクセルのコヒーレントセットによって表されてよい。離散ロケーションxは、例えば、二次元入力信号データの場合の離散ロケーション変数の二つ組
【数51】
および三次元入力信号データの場合の離散ロケーション変数の三つ組
【数52】
を示す。i番目の次元において、アレイがM個のロケーション、すなわち、
【数53】
を含んでいてよい。全体として、I(x)には(M×・・・×MN)個の要素が含まれていてよい。
【0105】
カメラ8は、入力信号データ6の後続のセットの時系列18を生成してよい。
【0106】
装置1はさらに、少なくとも一時的に入力信号データ6を含むように適合されている信号保存セクション、特に画像保存セクション20を含んでいてよい。信号保存セクション20は、揮発性メモリまたは不揮発性メモリを含んでいてよく、これはPC等のコンピューティングデバイス24のCPU22および/またはGPU26のキャッシュメモリ等である。画像保存セクション20はさらに、RAM、ハードディスクドライブまたはUSBスティックまたはSDカード等の交換可能なストレージシステムを含んでいてよい。画像保存セクション20は、これらのタイプのメモリのあらゆる組み合わせを含んでいてよい。
【0107】
例えばカメラ8から入力信号データ6を取得するために、信号入力セクション、特に画像入力セクション28が提供されていてよい。信号入力セクション28は、標準のデータ交換プロトコル、ハードウェアコネクタおよび/または無線接続等の標準の接続手段30を含んでいてよい。カメラ8に接続され得る標準のコネクタの例は、HDMI、USBおよびRJ45コネクタである。
【0108】
装置1はさらに、信号出力セクション、特に画像出力セクション32を含んでいてよくこれは、標準のデータ交換プロトコル、ハードウェアコネクタおよび/または無線接続等の標準の接続手段34を含んでいてよく、それぞれがボケ除去された出力信号データ36を1つまたは複数のディスプレイ37に出力するように構成されている。出力信号データ36、ここでは出力画像データは有利には、入力信号データ6と同じ次元数を有しており、離散値O(x)の離散アレイによって表される。
【0109】
入力信号データ6からボケ除去された出力信号データ36を計算するために、信号プロセッサ、特に画像プロセッサ38が提供されていてよい。信号プロセッサ38およびその構成要素は、少なくとも部分的にハードウェア、少なくとも部分的にソフトウェアおよび/またはハードウェアとソフトウェアとの両方の組み合わせであってよい。例えば、信号プロセッサ38は、コンピューティングデバイス24のCPU22およびGPU26のうちの少なくとも1つ、ならびにソフトウェアでコード化され、動作状態として、CPU22および/またはGPU26における構造エンティティとして一時的に存在するセクションを含んでいてよい。信号プロセッサ38は、本発明の装置および方法に必要な動作を実行するように特別に設計された1つまたは複数のASIC等の付加的なハードウェアも含んでいてよい。
【0110】
図1のさらなる説明を続ける前に、入力信号データ6のボケ除去の一般的原理を、図11を参照して説明する。入力信号データ6のボケ除去のために、信号プロセッサ38は、ボケ除去セクション40を含んでいてよい。
【0111】
入力信号データI(x)は、焦点外れ成分I(x)と合焦成分I(x)とから加算的に構成されていると仮定される。合焦成分I(x)には、カメラ8の焦点面からの情報のみが含まれている。焦点外れ成分I(x)は、入力信号データ6に記録された、焦点領域外の領域からの光に起因する。対照的に、合焦成分I(x)は、焦点領域からの関与のみを表す。I(x)もI(x)も不明であるため、推定する必要がある。
【0112】
本発明では、焦点外れ成分またはベースライン成分I(x)は、滑らかなベースラインと同様のものを表す、低い空間周波数を有する成分のみで構成され、これに関して合焦成分I(x)は比較的高い空間周波数で変動すると仮定される。焦点外れ成分I(x)は滑らかであり、大きい長さスケールを有している。対照的に、合焦成分I(x)は滑らかではなく、通常はピークを含んでいる。
【0113】
入力信号データのボケ除去のために、焦点外れ成分またはベースライン成分I(x)に対する推定値が計算される。この推定値は、本発明の装置1および方法において、ベースライン推定データf(x)として表される。ベースライン推定データは、有利には入力信号データ6および/または出力信号データ36と同じ次元数を有する離散アレイである。ベースライン推定データf(x)は、図1において参照番号44によって示されている。ベースライン推定データf(x)は、少なくとも一時的に保存セクション20内に存在してよい。ベースライン推定データが計算されると、ここではO(x)として表される出力信号データが、各ロケーションで、ベースライン推定データを入力信号データから差し引くことによって得られる。
【0114】
図1では、信号プロセッサまたは画像プロセッサ38は、少なくとも、入力信号データ6のサブセットへの適合によって、参照番号44で示される、図1における、ベースライン推定データf(x)を計算するように構成されているベースライン推定器エンジン42を含んでいてよい。有利には、少なくとも、入力信号データのサブセットへの適合は、スプライン適合である。
【0115】
計算上効率的なスプライン適合のために、ベースライン推定器エンジン42は、半二次最小化エンジン46を含んでいてよく、これは、例えば、サブルーチンまたはハードワイヤードアルゴリズムとマッチングソフトウェアとの組み合わせであってよい。半二次最小化エンジン46は、半二次最小化スキームを実行するように構成されていてよく、この目的に向けて、2つの反復ステージ48、50を含んでいてよい。
【0116】
本発明では、半二次最小化エンジン46は、畳み込みを使用して、第2の反復ステージ50においてベースライン推定データ44を計算する。FFTを使用してアレイプロセッサ上でより効率的に畳み込みを計算することができるので、有利には信号プロセッサ38は、GPU26等のアレイプロセッサを含んでいる。動作時に、信号プロセッサは、半二次最小化エンジン46を含んでいる。
【0117】
図2を参照して、入力信号データI(x)または6からボケ除去された出力信号データO(x)または36を計算するステップが、それらが装置1によって実行されるものとして説明されている。有利には、各チャネル10は別個に扱われるということに留意されたい。
【0118】
第1のステップ60では、プリセットされる必要があるベースライン推定器エンジン42のさまざまなパラメータが、例えば、グラフィカルユーザーインターフェース62(図1)を使用して、ユーザーによって規定されてよい。これらのパラメータは、ベースライン推定器エンジン42によって実行されるべき入力信号データ6への適合のタイプを含んでいてよい。例えばユーザーは、入力信号データ6への入力ベースライン推定データ44の多項式適合とスプライン適合との間で選択をしてよい。
【0119】
さらに、ユーザーは、半二次最小化スキームにおいて使用されるさまざまなペナルティ項P(f(x))の間で選択をすることができる。ペナルティ項は、ベースライン推定データにおける合焦関与I(x)の成分の表現にペナルティを課すことによって、ベースライン推定値の形を決定する。
【0120】
例えば、ベースライン推定データ44の滑らかでない特性にペナルティを課すさまざまなペナルティ項の選択がユーザーに提示されてよい。例えば、ペナルティ項は、ベースライン推定データ44のハイパス空間周波数フィルタであってよく、これは、ベースライン推定データ44が高い空間周波数を有する成分を含んでいる場合に大きくなる。他のペナルティ項は、ベースライン推定データ44の勾配を含んでいてよい。ペナルティ項の別の例は、ベースライン推定データ44の曲率であってよい。さらに、ソーベルフィルタ、ラプラスフィルタおよび/またはFIRバンドパスフィルタ、ハイパスフィルタまたはローパスフィルタ等の特徴抽出フィルタがペナルティ項としてユーザーによって選択されてよい。さらに、上記のいずれかの線形結合が選択されてよい。入力信号データ6の異なる次元または異なるチャネルに対して、異なるペナルティ項が選択されてよい。
【0121】
ペナルティ項の一般的な表現は
【数54】
であり、ここでζ(j)は、ペナルティ項のプロパティを規定する、ペナルティ項の一般的な演算子である。
【0122】
以降では、ユーザーが、形式
【数55】
を有する、ベースライン推定データf(xi,m)または44の勾配に基づいて勾配ベースのあらさペナルティ項を選択すると仮定される。
【0123】
このペナルティ項は、ベースライン推定データの大きな勾配にペナルティを課す。演算子∂は、次元jにおける一次導関数または勾配を表している。
【0124】
上述の勾配ベースのペナルティ項を使用する場合、ユーザーによって指定されるパラメータはさらに、正則化パラメータのアレイγを含んでいてよい。勾配ベースのペナルティ項の場合、正則化パラメータアレイは0.3から100の間であり得る。
【0125】
さらに、ベースライン推定器エンジンに対するパラメータを選択する際に、ユーザーは対称の二次項と非対称の二次項φ(ε(x))との間で選択をしてよく、これは、ベースライン推定データへの大きなピークの影響を指定することによってベースライン推定値の形も決定する。
【0126】
最後に、ユーザーは、収束基準および/または収束基準が到達しなければならない閾値tを選択してよい。
【0127】
例えば、ユーザーは非対称の切断された二次式
【数56】
を選択してよく、ここでsは、ユーザーによって入力される閾値を表している。閾値は、入力信号データとベースライン推定データとの間の最大偏差を規定する。ベースライン推定値を超えるピークが、閾値ぶん偏差するピークよりも、ベースライン推定値を誘引することはない。
【0128】
ベースライン推定器エンジン42に対する初期パラメータが設定された後、データは、ステップ64において、反復半二次最小化スキーム66のために初期化される。
【0129】
それ以降、収束基準68が満たされるまで、反復半二次最小化スキーム66が半二次最小化エンジン46によって実行される。この実施形態では、収束基準
【数57】
が使用される。ここで、lは現在の反復を示し、tはユーザーが指定できる一定のスカラー閾値である。
【0130】
収束基準68が満たされる場合には、ベースライン推定データ44が首尾よく計算されたことが仮定される。したがって、ステップ70において、ボケ除去された出力信号データO(x)を得るために、ベースライン推定データf(x)が入力信号データI(x)から差し引かれる。
【0131】
出力信号データO(x)の計算の後、逆畳み込み等の後処理操作72が出力信号データ36上で実行されてよい。
【0132】
出力信号データO(x)は、後処理を伴ってまたは後処理を伴わずにディスプレイ37上に表示されてよい。
【0133】
図3では、図2の詳細IIIが、半二次最小化スキーム66をより詳細に説明するために示されている。半二次最小化スキーム66は、第1の反復ステージ48および第2の反復ステージ50を含んでいる。
【0134】
原則として、半二次最小化エンジン46によって実行される半二次最小化スキーム66は、LEGENDアルゴリズムであってよい。しかし、本発明では、LEGENDアルゴリズムの第2のステップを修正することが有利であり、これは計算負荷を大幅に軽減するために修正されてよい。
【0135】
示された実施形態では、ステップ64でデータを初期化した後、第2の反復ステージ50が開始される。この時点で、ベースライン推定データの第1の推定値f(x)は、グリーン関数G(x)による入力信号データの畳み込みを使用して計算される。
【数58】
【0136】
この実施形態において使用される勾配ベースのペナルティ項に対して、グリーン関数は、
【数59】
のように規定され、ここでF[・・・]は離散N次元フーリエ変換であり、F-1[・・・]は逆離散N次元フーリエ変換であり、γはあらさペナルティ項の正則化パラメータであり、
【数60】
である。
【0137】
次に、第1の反復ステージ48において、補助データd(x)の更新バージョンが、
【数61】
のように現在のベースライン推定データ44を使用して計算されてよい。
【0138】
パラメータαは、ユーザーによって指定され得る定数である。
【0139】
次に、第2の反復ステージ50において、更新されたベースライン推定データ44が、
【数62】
のように、現在の反復lの更新された補助データd(x)を使用して計算される。
【0140】
次のステップでは、収束基準68が満たされているか否かがチェックされる。収束基準68が満たされていない場合、半二次最小化スキーム66は、更新されたベースライン推定データf(x)を使用する反復ステップ48に進む。
【0141】
以降では、ボケ除去された出力信号データの2つの例を示し、ここでは、勾配ベースのペナルティ項が、図2および図3を参照して説明されたグリーン関数による畳み込みを使用する第2の反復ステップとともに使用された。
【0142】
図4は、サンプル写真の入力信号データI(x)または6を示している。図5は、ボケ除去された出力信号データO(x)または36を示している。図4は、DM6000ワイドフィールド顕微鏡およびHCX PL APO CS 100.0x1.40 OILによって、開口数1.4およびピーク発光645nmで記録されたミトコンドリアの写真を示している。ピクセルのサイズは40nmに対応する。
【0143】
図4図5との比較から、焦点外れ成分I(x)のかなりの部分が出力信号データにおいて除去されていることが分かる。これは、それぞれ図4および図5の線VIに沿った強度分布を示す図6によって検証される。ベースライン推定データf(x)が強度分布の滑らかなベースラインを表すのに対して、ピークは出力信号データO(xi)、36において維持されていることが見て取れる。
【0144】
入力信号データI(x)における強度分布が異なる特性を有している場合も、ボケ除去は良好に機能する。これは、ゾウリムシを示す図7図8および図10において示されている。図4が1つのビーズ状の構造を含んでおり、ここでは、合焦点関与と焦点外れ関与とを区別するのは比較的簡単であるのに対して、図7はより複雑な構造を含んでいる。図7においてピクセルは65nmに対応する。画像は、HCX FLUOTAR 100x/1.30 OILレンズを備えるDM8ワイドフィールド顕微鏡を使用して、開口数1.3で、ピーク発光520nmで記録された。
【0145】
図7には、入力信号データI(x)が示されている。図8には、ボケ除去された出力信号データO(x)が示されている。図10には、図7および図8の線Xに沿った、入力信号データ6、ベースライン推定データ44および出力信号データ36の強度分布が示されている。見て取れるように、ベースライン推定データf(x)もピークを含んでいる。しかし、これらのピークの長さスケールは、出力信号データO(x)における強度変動よりも大幅に大きい。
【0146】
図9は、逆畳み込み後の出力信号データ36を示している。出力信号データはボケ除去されているので、畳み込みの結果は、アーチファクトがほとんどない極めて良好な品質を有する。
【0147】
したがって、要約すると、入力信号データのボケ除去のための装置1および方法を説明した。これらの装置および方法は、ベースライン推定データおよび/または特徴抽出フィルタのあらゆる離散導関数次数のペナルティ項を使用してよい。ペナルティ項が使用されているか、いないかに関係なく、滑らかなベースライン推定値を作成するために、多項式適合よりもスプライン適合が有利であり得る。本発明の第3の独立した態様として、第2の反復ステージ50に畳み込みを導入することによって計算負荷を大幅に軽減する半二次最小化エンジン46が提案される。計算効率は、広範囲のペナルティ項に対して保たれ得る。
【0148】
アレイを再配置することによって、データの次元数を変更できるということに留意されたい。例えば、二次元データは、一次元データの1つまたは複数のセットとしてレンダリングされてよい。これは、後続の行または列を縦に並べることによって実現されてよい。さらに、三次元データが、後続の面を縦に並べることによって、二次元データに低減されてよい。この原理を再帰的に使用することによって、あらゆるN次元のデータが、上述のスキームを適用できる一次元または二次元のデータに低減されてよい。
【0149】
逆もまた同様である。あらゆる一次元アレイが、二次元以上のアレイとして配置されてよい。これは単に、これをより小さな一次元アレイに分け、二次元以上のスキームにおいて、有利には同じ長さを有するこれらのより小さなアレイにインデックスを付けることによって行われる。さらに、あらゆるタイプのデータが、例えばグレースケール強度を入力信号データの各値に割り当て、それを上記のように二次元配置または三次元配置で表示することによって、画像データとしてまたは画像として見なされ、表示されてよい。
【0150】
本明細書で使用されるように、用語「および/または(かつ/または)」は、関連する記載項目のうちの1つまたは複数の項目のあらゆる全ての組み合わせを含んでおり、「/」として略記されることがある。
【0151】
いくつかの態様を装置の文脈において説明してきたが、これらの態様が、対応する方法の説明も表していることが明らかであり、ここではブロックまたは装置がステップまたはステップの特徴に対応している。同様に、ステップの文脈において説明された態様は、対応する装置の対応するブロックまたは項目または特徴の説明も表している。ステップの一部または全部は、例えば、プロセッサ、マイクロプロセッサ、プログラマブルコンピュータまたは電子回路等のハードウェア装置(またはハードウェア装置を使用すること)によって実行されてもよい。いくつかの実施形態では、極めて重要なステップのいずれか1つまたは複数が、そのような装置によって実行されてもよい。
【0152】
一定の実装要件に応じて、本発明の実施形態は、ハードウェアまたはソフトウェアで実装され得る。この実装は、非一過性の記録媒体によって実行可能であり、非一過性の記録媒体は、各方法を実施するために、プログラマブルコンピュータシステムと協働する(または協働することが可能である)、電子的に読取可能な制御信号が格納されている、デジタル記録媒体等であり、これは例えば、フロッピーディスク、DVD、ブルーレイ、CD、ROM、PROMおよびEPROM、EEPROMまたはFLASHメモリである。したがって、デジタル記録媒体は、コンピュータ読取可能であってもよい。
【0153】
本発明のいくつかの実施形態は、本明細書に記載のいずれかの方法が実施されるように、プログラマブルコンピュータシステムと協働することができる、電子的に読取可能な制御信号を有するデータ担体を含んでいる。
【0154】
一般的に、本発明の実施形態は、プログラムコードを備えるコンピュータプログラム製品として実装可能であり、このプログラムコードは、コンピュータプログラム製品がコンピュータ上で実行されるときにいずれかの方法を実施するように作動する。このプログラムコードは、例えば、機械可読担体に格納されていてもよい。
【0155】
別の実施形態は、機械可読担体に格納されている、本明細書に記載のいずれかの方法を実施するためのコンピュータプログラムを含んでいる。
【0156】
したがって、換言すれば、本発明の実施形態は、コンピュータプログラムがコンピュータ上で実行されるときに本明細書に記載のいずれかの方法を実施するためのプログラムコードを有するコンピュータプログラムである。
【0157】
したがって、本発明の別の実施形態は、プロセッサによって実行されるときに本明細書に記載のいずれかの方法を実施するために、格納されているコンピュータプログラムを含んでいる記録媒体(またはデータ担体またはコンピュータ読取可能な媒体)である。データ担体、デジタル記録媒体または被記録媒体は、典型的に、有形である、かつ/または非一過性である。本発明の別の実施形態は、プロセッサと記録媒体を含んでいる、本明細書に記載されたような装置である。
【0158】
したがって、本発明の別の実施形態は、本明細書に記載のいずれかの方法を実施するためのコンピュータプログラムを表すデータストリームまたは信号シーケンスである。データストリームまたは信号シーケンスは例えば、データ通信接続、例えばインターネットを介して転送されるように構成されていてもよい。
【0159】
別の実施形態は、処理手段、例えば、本明細書に記載のいずれかの方法を実施するように構成または適合されているコンピュータまたはプログラマブルロジックデバイスを含んでいる。
【0160】
別の実施形態は、本明細書に記載のいずれかの方法を実施するために、インストールされたコンピュータプログラムを有しているコンピュータを含んでいる。
【0161】
本発明の別の実施形態は、本明細書に記載のいずれかの方法を実施するためのコンピュータプログラムを(例えば、電子的にまたは光学的に)受信機に転送するように構成されている装置またはシステムを含んでいる。受信機は、例えば、コンピュータ、モバイル機器、記憶装置等であってもよい。装置またはシステムは、例えば、コンピュータプログラムを受信機に転送するために、ファイルサーバを含んでいてもよい。
【0162】
いくつかの実施形態では、プログラマブルロジックデバイス(例えばフィールド・プログラマブル・ゲート・アレイ)が、本明細書に記載された方法の機能の一部または全部を実行するために使用されてもよい。いくつかの実施形態では、フィールド・プログラマブル・ゲート・アレイは、本明細書に記載のいずれかの方法を実施するためにマイクロプロセッサと協働してもよい。一般的に、有利には、任意のハードウェア装置によって方法が実施される。
【符号の説明】
【0163】
1 装置
2 顕微鏡
4 信号形成セクション
6 入力信号データ、I(x
8 カメラ
10 チャネル
12 対象物
14 蛍光体
16 照明
17 レンズ
18 入力信号データの時系列
20 画像保存セクション
22 CPU
24 コンピューティングデバイス
26 GPU
28 信号入力セクション
30 信号入力セクションの接続手段
32 信号出力セクション
34 信号出力セクションの接続手段
36 出力信号データ、O(x
37 ディスプレイ
38 信号プロセッサ
40 ボケ除去セクション
42 ベースライン推定器エンジン
44 ベースライン推定データ、f(x
46 半二次最小化エンジン
48 第1の反復ステージ
50 第2の反復ステージ
60 ベースライン推定パラメータのセットアップ
62 グラフィカルユーザーインターフェース
64 半二次最小化エンジンおよびスキームの初期化
66 半二次最小化エンジンおよびスキーム
68 収束基準
70 出力信号データの計算
72 後処理操作
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11