(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0017】
本発明は、荷電粒子を試料に照射して画像を取得する走査荷電粒子顕微鏡に係り、特に視認性の高い画像を表示するための走査荷電粒子顕微鏡画像の画像処理方法およびその装置を提供する。以下、本発明に係る実施の形態について図面を用いて説明する。
【0018】
本発明では、以下の走査荷電粒子顕微鏡画像の高画質化方法およびその装置により前記課題を解決する。
【0019】
(1)本発明は、画像のデータ取得領域をデータ未取得領域からの距離に基づいて2個以上の領域に分割し、領域毎に処理方法または処理パラメータを決定することを特徴とする。
これにより、まだ処理を行うのに十分なデータが得られていないような領域(すなわちデータ未取得領域の近傍の領域)と、それ以外の領域、すなわち処理を行うのに十分なデータが得られている領域に分け、前者の領域は暫定的な処理として、例えば不自然な結果になることは抑制できるが画質向上度合いは少ないような処理を施し、後者の領域は通常の高画質化処理を施すといったように、複数の処理を組み合わせることによって全体的に良好な画像を得ることができる。
【0020】
(2)また、本発明は、分割した2個以上の領域のうち、1個以上の領域に対しては、新たに高画質化処理を行わずに過去の処理結果を用いることを特徴とする。特に、データ未取得領域から離れた領域にある、過去の高画質化処理の結果から大きな変化がない領域については、過去の処理結果を用いる。
これにより、全ての取得データに対して高画質化処理を行うと処理時間が長くなってしまうという問題を改善することができる。処理対象とする領域を最小限に抑えることにより、高画質化処理の処理時間を抑え、処理結果を迅速に表示することができる。
【0021】
(3)また、本発明は、スキャン途中で処理パラメータが変更された場合に、処理パラメータ変更後に新たに取得したデータのみでなく、処理パラメータ変更前に取得したデータに対しても変更後の処理パラメータを用いて処理をかけ直す。さらに、処理領域に優先度を付けて、優先度の高い順に順次処理を行うことを特徴とする。
フォーカス位置などの撮像条件をスキャン途中で変更した場合には、既に取得したデータに対して撮像条件変更後の画像に置き換えることはできない。しかし、画像処理パラメータを変更した場合には、本発明により既に取得したデータに対して変更後の処理パラメータで処理を行うことが可能である。また、多くの取得データを得た後で処理パラメータが変更された場合など、変更後の処理パラメータで全取得データに対して処理をかけ直すには少なからず時間がかかる場合がある。この場合に、ユーザが着目している領域(または着目しやすい領域)から優先的に処理を行うことで、時間遅延によりユーザビリティが低下するという問題を防ぐ。
【0022】
(4)また、本発明は、高画質化処理の途中結果を保存しておき、分割により得られた1個以上の領域に対して前記途中結果を用いて処理を行う。
処理パラメータを途中で変更した際、処理パラメータの種類等によっては、高画質化処理を始めからやり直さなくても、途中結果を用いることによって少ない演算量で高画質化結果が得られる場合がある。また、複数種類の処理パラメータを変更した場合に、後述する実施例のように効率良く高画質化処理を行うことも可能になる。
【実施例1】
【0023】
図1は、本発明における試料表面を荷電粒子ビームでスキャン途中に検出器で取得した画像データに対して高画質化処理を施すシーケンスの一実施例図である。1枚分の画像データを取得して表示するまで、ステップS101〜S107を繰り返す。
【0024】
ステップS102では、視野内の一部の領域をスキャンして、画像データの一部を得る。1回分のループでどのくらいの量のデータを取得するかは、スキャンスピードや表示レートによって決まる。例えば、1枚分の画像データを得る、すなわち視野内の全領域をスキャンする時間を60秒とし、表示レートを50ミリ秒とする場合には、画像データの1200分の1の量のデータを1回のループで取得すれば良い。
【0025】
ステップS103では、データ取得領域をデータ未取得領域からの距離に基づいて2個以上の領域に分割する。ステップS104では、ステップS103の分割により得られた領域の各々に対して、高画質化処理の方法および処理パラメータを決定する。ステップS105では、各領域に対してステップS104で決定した処理方法および処理パラメータを用いて高画質化処理を行う。ステップS106では、高画質化結果を表示する。
【0026】
図2Aは、本実施例における走査荷電粒子顕微鏡200の基本構成を示すブロック図である。走査荷電粒子顕微鏡200は、例えば、荷電粒子画像取得装置201、入出力部221、制御部222、処理部223、記憶部224、高画質化部225等を備えて構成される。
【0027】
荷電粒子画像取得装置201では、荷電粒子銃202から荷電粒子ビーム203を発生し、この荷電粒子ビーム203をコンデンサレンズ204や対物レンズ205に通すことにより試料206の表面に集束する。次に、試料206から発生する粒子を検出器208で検出することにより、画像を取得する。画像は、記憶部224に保存される。
【0028】
検出器208は複数個備わっていても良く、さらに、電子を検出する検出器と電磁波を検出する検出器のように異なる粒子を検出する検出器であったり、エネルギーやスピン方向が特定の範囲内にある粒子のみを検出する検出器であったり、2次荷電粒子検出器と後方散乱荷電粒子検出器のように異なる性質の粒子を検出する検出器であっても良い。同じ性質の粒子を検出する検出器が異なる配置位置に複数備わっていても良い。検出器208が複数個備わっている場合には、通常1回の撮像で、画像を複数枚取得することができる。
【0029】
試料206はステージ207に載置されており、ステージ207を移動することにより、試料の任意の位置における画像の取得が可能である。また、ビーム偏向器209で荷電粒子ビーム203の向きを2次元的に変えることにより、荷電粒子ビーム203で試料206の上をスキャンすることができる。
【0030】
入出力部221では、画像撮像位置や撮像条件の入力、画像及び画像の処理結果を画面上に表示して出力することなどを行う。制御部222では、荷電粒子画像取得装置201の制御として、荷電粒子銃202等に印加する電圧や、コンデンサレンズ204および対物レンズ205の焦点位置、ステージ207の位置、ビーム偏向器209による荷電粒子ビーム203の偏向度合い等を制御する。また、制御部222は、入出力部221、処理部223、記憶部224、高画質化部225の制御も行う。
【0031】
処理部223では、各種の処理、例えば、荷電粒子ビーム203の焦点をステージ207に載置された試料206の表面に合わせるために必要な自動焦点合わせに関する処理などを行う。記憶部224では、撮像画像、高画質化後の画像、高画質化処理における途中結果、各種処理パラメータ等を保存する。高画質化部225では、取得したデータに対する高画質化処理を行う。
【0032】
高画質化部225は、
図2Bにその詳細な構成を示すように、領域分割部226、処理方法・パラメータ制御部227、高画質化処理実施部228を備えている。領域分割部226では、ステップS103の処理、すなわちデータ取得領域を2個以上の領域に分割する処理を行う。処理方法・パラメータ制御部227では、ステップS104の処理、すなわちステップS103で分割した領域毎にノイズ除去処理や鮮鋭化処理などを含む高画質化処理の処理方法・パラメータを決定する処理を行う。高画質化処理実施部228では、ステップS103で分割された領域に関する情報と、この分割された各領域に対応する処理方法・パラメータに基づいて高画質化処理を実施する。
【0033】
図3は、試料206の表面を荷電粒子ビーム203でスキャン途中に検出器208で検出して得られた画像データを表示する画面を表す図である。画像301〜303は、時刻t、t+Δt、t+2Δt(Δt>0)のそれぞれにおける画像表示画面である。時刻tでは、位置311までスキャンを行なっており、位置311より上側、または位置311の真横左側の領域321は、データ取得領域である。本領域では取得したデータがあり、画像表示が可能である。一方、それ以外の領域、すなわち位置311より下側、または位置311の真横右側の黒色の領域322は、データ未取得領域である。本領域ではまだデータを取得しておらず、画像表示ができない。
【0034】
時刻t+Δtでは、位置312までスキャンを行なっており、時刻tと比べるとデータ取得領域が広くなっている。時刻t+2Δtでは、位置313までスキャンを行なっており、さらにデータ取得領域が広くなっている。このように、スキャンを開始してからの時間が経過するにしたがって、データ取得領域が広くなる。これに伴い、高画質化処理が必要な画素の数も増えることになる。
【0035】
まず、
図4A〜
図7を用いて、第一の実施形態における、データ取得領域をデータ未取得領域からの距離に基づいて2個以上の領域に分割し、領域毎に処理方法またはパラメータを変える方法について説明する。
【0036】
図4A及び
図4Bは、データ取得領域をデータ未取得領域からの距離に基づいて2個以上の領域に分割して高画質化処理を行う方法の一例を示す図である。
【0037】
図4Aの画像401は、ある時刻tにおける撮像画像および領域分割結果である。領域414(黒色の領域)がデータ未取得領域である。画像401におけるデータ取得領域410(領域411,412,413を合わせた領域)を、データ未取得領域414からの距離に基づいて分割する。
【0038】
データ未取得領域414からの距離の定義は幾つか考えられる。本実施例においては、
図4Cに示すように、データ取得領域410における位置(x、y)とデータ未取得領域414内の任意の位置(xs、ys)との距離D(xs,ys)を、そのy座標の差、すなわち|y−ys|と定義し、データ取得領域410における位置(x、y)とデータ未取得領域414内の全ての位置(xs、ys)との距離D(xs,ys)の最小値、即ちmin D(xs、ys)を、データ未取得領域からの距離Dとする場合を考える。
【0039】
なお、データ未取得領域414からの距離に関する他の定義としては、ユークリッド距離{(x−xs)
2+(y−ys)
2}
1/2や、マンハッタン距離|x−xs|+|y−ys|、それらを一般化した距離{(x−xs)
p+(y−ys)
p}
1/p、各画素の明度値も考慮した距離(例えば測地線距離)を採用する場合などが考えられる。或いは、ユークリッド距離とマンハッタン距離のうち小さい方、といったように、複数の方法で計算した複数の距離から求めた値であっても良い。
【0040】
データ取得領域における位置(x、y)からデータ未取得領域414までの距離Dに対して2個のしきい値T
1、T
2を設定し(T
1<T
2)、
図4Aにおいて、距離DがT
2以上の領域を領域A411、距離DがT
1以上T
2未満の領域を領域B412、距離DがT
1未満の領域を領域C413とする。
【0041】
領域A411は、通常の高画質化処理を行うために十分なデータが全て取得されている領域であり、通常の高画質化処理を行うことができる。ここで、通常の高画質化処理とは、後述する暫定的な高画質化処理ではないという意味である。
【0042】
領域B412は、通常の高画質化処理を行うためには一部のデータが不足している(すなわち取得されていないデータがある)領域であり、暫定的な高画質化処理を行う必要がある。ここで、暫定的な高画質化処理とは、高画質化処理を弱くかけたり、一部の処理をスキップするなどにより、データ未取得領域がない場合に行える処理と比べると高画質化の度合いが小さいような処理を指す。
【0043】
高画質化の度合いが小さいような処理とは、例えばフィルタサイズを小さくしたり、反復回数を減らしたり、明度値が急激に変化することのないよう制約を設けるような処理を表す。また、例えば、通常の処理では高性能な結果が期待できる非線形のフィルタ処理を行い、暫定的な処理では線形フィルタを行なう等、高画質化方法を変更することにより高画質化の度合いを変えても良い。
【0044】
領域C413は、暫定的な処理を行ったとしても良好な結果が得られず、擬似模様などを発生してしまう可能性が高い領域である。
【0045】
本実施例では、領域411〜413に分割し、領域411に対しては通常の高画質化処理である単数又は複数の処理アルゴリズムを含む処理415を施す。また、領域412に対しては暫定的な高画質化処理である単数又は複数の処理アルゴリズムを含む処理416を施す。さらに、領域413に対しては高画質化処理を施さず、また表示もしない。すなわち、データ未取得領域414と同じ扱いとする(例えば領域413およびデータ未取得領域414は共に黒色で塗り潰す)。領域413は、画像の縦方向数ライン分程度の、小さなサイズであることが多いため、データ未取得領域414と同じ扱いとしても大半の用途においては問題にならない。
【0046】
このような処理により、高画質化結果の画像402のように領域4021と領域4022に対して各々の処理結果を表示する。一方、画像401における領域413とデータ見取得領域414は、画像402においては共に未処理領域4023として黒色で塗りつぶされて表示される。
【0047】
このように、データ取得領域をデータ未取得領域からの距離に基づいて2個以上の領域に分割し、領域毎に処理方法またはパラメータを決定して高画質化処理を行うことにより、どの領域にも擬似模様などを発生せずに、自然でかつ高画質な画像を出力できる。
【0048】
なお、分割した領域の境界(例えば領域4021と領域4022の境界)では、明度値が不連続になるなど、途切れた画像に見える場合が考えられる。そこで、各領域が重複領域を持つように分割して処理を行った後、重複領域に対して補間処理を行っても良い。
【0049】
一方、
図4Bの画像403は、
図4Aの画像401を取得した後の時刻t+Δtにおける撮像画像および領域分割結果である。
図4Aに示した時刻tで取得した画像401において高画質化処理を行った後、時刻t+Δtで取得した
図4Bの画像403において高画質化処理を行うことを考える。
【0050】
画像403では、データ取得領域を領域421〜425の5個の領域に分割する。領域422、領域423、領域424は、それぞれ
図4Aの画像401における領域411〜413と同様の処理を行う。領域425はデータ未取得領域である。
【0051】
領域421は処理不要領域で、
図4Aの画像401を取得した時点で領域411と判断した領域と同じである。この領域は、画像401に対して処理A415(すなわち通常の高画質化処理)を行っており、時刻t+Δtにおいて取得した
図4Bの画像403に対して同様に処理A415を行なっても同じ結果が得られる。そのため、画像403における領域421に対しては再度高画質化処理を行う必要はなく、画像402の処理結果をそのまま用いる。
【0052】
画像403に対する高画質化結果の画像404では、処理不要領域4041と領域4042については通常の高画質化処理である処理A415又は処理A426を行った結果を表示し、領域4043については暫定的な高画質化処理である処理B427を行った結果を表示する。領域4044は未処理領域である。
【0053】
このように、処理不要領域4041を抽出して、その領域については、先に実行した高画質化処理のデータを用いることにより今回の高画質化処理である処理A426を実行する領域の対象外とする。これにより、全ての取得データに対して毎回一部を重複しながら高画質化処理を行うことにより処理時間が長くなってしまうという問題を改善することができる。処理対象とする領域を最小限に抑えることにより、処理結果を迅速に表示することができる。
【0054】
図5A及び
図5Bは、通常の高画質化処理を行うために十分なデータを取得する領域について説明している図である。
図5Aの画像501において、領域510は画像データを取得した領域(画像データ取得領域510)、領域515は画像データを未取得の領域(画像データ未取得領域515)を表わしている。
【0055】
領域513は、画素511において通常の高画質化処理を行うために必要なデータ領域を表している。領域513は一辺が数画素又はそれ以上の画素数の正方形であるが、本データ領域がどのような形状になるかは高画質化処理アルゴリズムの内容によって決まる。例えば、移動平均フィルタなどの、有限のフィルタ係数からなる2次元畳込み演算や、メディアンフィルタでは、本データ領域はこのような正方形または長方形となることが多い。領域514は、画素512において通常の高画質化処理を行うために必要なデータ領域を表している。
【0056】
領域513は画像データ未取得領域515と共通部分を持たないため(すなわち、領域513は全て画像データ取得領域510に属するため)、通常の高画質化処理である処理A415又は426を行うために必要なデータが全て揃っている。このため、画素511は通常の高画質化処理である処理A415又は426を行うことができる。
【0057】
一方、領域514の一部は画像データ未取得領域515と重複しており、通常の高画質化処理である処理A415又は426を行うために必要なデータの一部は未取得であるため、暫定的な高画質化処理である処理B416又は427を行う。
【0058】
このように画像データ取得領域510の各画素について、通常の高画質化処理である処理A415又は426を行うために必要なデータ領域(
図5Aの領域513又は514)が画像データ未取得領域515と共通部分を持つか否かを調べれば、通常の高画質化処理である処理A415又は426を行えるか否かがわかる。
【0059】
特に、通常の高画質化処理である処理A415又は426を行うために必要なデータ領域(
図5Aの領域513又は514に相当)の形状および大きさが画素に依存しない場合(固定のフィルタサイズを用いた畳込み演算やメディアンフィルタはこの場合に該当する)は、データ未取得領域515からの距離にしきい値を設定することで、通常の高画質化処理を行えるか否かを高速に確認することができる。
【0060】
図5Aにおいて境界線516は、通常の高画質化処理である処理A415又は426を行える領域517と通常の高画質化処理を行えない領域518との境界を表す。画像データ取得領域510内の位置(x、y)と画像データ未取得領域515との距離Dは、画像データ未取得領域515内の位置(xs、ys)とのL∞距離(すなわち、max(|x−xs|、|y−ys|))の最小値から計算できる。
【0061】
図5Bに示した画像502において、領域523および524は、それぞれ画素521および522において通常の高画質化処理である処理A415又は426を行うために必要なデータ領域を表している。
図5Aに示した画像501の場合とは異なり、領域523および524の形状が正方形や長方形ではないが、高画質化処理の方法によっては(畳込み演算やメディアンフィルタであっても)このような形状になり得る。また、画素521と522でフィルタの形状が異なっていても良い。
【0062】
この例では、画素521では領域523が画像データ未取得領域525と共通部分を持たないため(すなわち、領域523は全て画像データ取得領域520に属するため)、領域523の情報を用いて通常の高画質化処理である処理A415又は426を行うことができる。一方、画素522は領域524の一部が画像データ未取得領域525と重複しており、領域524の情報を用いて通常の高画質化処理である処理A415又は426を行えないため、暫定的な高画質化処理を行う。通常の高画質化処理を行える領域527と通常の高画質化処理が行えない領域528との境界を526に示す。
【0063】
このようにデータ領域の形状が523や524のように正方形や長方形でない場合や画素のよって異なる場合では、通常の高画質化処理を行える領域527と通常の高画質化処理が行えない領域528との境界526の形状が、
図5Aに示した場合の境界516の場合よりも複雑になる。
【0064】
高画質化処理は、ノイズ除去処理や鮮鋭化処理などの幾つかの処理に分けることができる。各処理について通常の高画質化処理である処理A415又は426を行える領域とそうではない通常の高画質化処理である処理A415又は426を行えない領域に分割して、その結果に基づいて各処理の方法(画像処理アルゴリズム)や処理パラメータを決定するようにしても良い。
【0065】
図6Aは、データ取得領域をデータ未取得領域からの距離に基づいて2個以上の領域に分割して高画質化処理を行う方法を表す図であって、
図4とは異なる例を示す。画像601は、ある時刻tにおける撮像画像を領域分割した結果を示す図である。領域615が画像データ未取得領域であり、領域611,612,613,614を含む画像データ取得領域610をデータ未取得領域615からの距離に基づいて分割する。
【0066】
図6Aの場合における高画質化処理は、画像処理のアルゴリズムa(例えばノイズ除去処理)と画像処理のアルゴリズムb(例えば鮮鋭化処理)からなり、各画像処理アルゴリズムについて通常の処理が行える領域と暫定的な処理を行う領域とを求めることができる。
【0067】
領域611はアルゴリズムaとアルゴリズムbについて共に通常の処理として処理A621を行える領域、領域612はアルゴリズムbのみが通常の処理でとして処理し、アルゴリズムaは暫定的な処理を行う処理Bが行われる領域、領域613はアルゴリズムaとアルゴリズムbについて共に通常の処理を行えず何れも暫定的な処理が行う処理B’が行われる領域、領域614はアルゴリズムaとアルゴリズムbについて共に暫定的な処理を行ったとしても良好な結果が得られず擬似模様などを発生してしまう可能性が高い領域である。
【0068】
高画質化処理では、領域611の各画素に対しては、処理A621として
図6Bに示すように、アルゴリズムaとアルゴリズムbについて共に通常の処理を施す。また領域612の各画素に対しては、処理B622として、アルゴリズムaについて暫定的な処理を行い、アルゴリズムbについて通常の処理を行う。領域613の各画素に対しては、処理B’としてアルゴリズムaとアルゴリズムbについて共に暫定的な処理を行う。さらに、領域614の各画素に対しては高画質化処理を施さず、また表示もしない。すなわち、データ未取得領域615と同じ扱いとする。
【0069】
領域612は、アルゴリズムaについては通常の処理が行えないため、高画質化処理全体として通常の処理が行えるか否かという観点で画像データ取得領域610を分割をすると、暫定的な処理を施す領域の側に分割される。しかし、高画質化処理が複数の処理(
図6Aの例では、アルゴリズムaとアルゴリズムb)からなっている場合には、本実施例のように処理毎に通常の処理が行える領域とそうではない領域に分割することにより、領域612に対してアルゴリズムbを行う際には通常の処理を施すことができる。すなわち、各画像処理方法(画像処理のアルゴリズム)について暫定的な処理を行う領域を小さく抑えることができ、より視認性の高い画像を得ることができる。
【0070】
図7は、データ取得領域をデータ未取得領域からの距離に基づいて2個以上の領域に分割して高画質化処理を行う方法の処理フローの一例を示す図である。
図7に示した例は、
図1のステップS103〜S105の処理に対応している。
【0071】
図7において、
図1のステップS102に対応する処理として、ステップS711でオペレータにより設定された処理パラメータを入出力部221から高画質化部225に入力し、ステップS712で制御部222のビーム偏向器209制御情報から取得した荷電粒子ビーム203の試料206表面スキャン位置情報を入力して、S713で入力した処理パラメータの情報とスキャン位置情報とを用いてデータ未取得領域からの距離に対するしきい値(データ未取得領域近傍しきい値)を計算する。この算出したしきい値により、画像データ取得領域内の着目画素がデータ未取得領域の近傍か否かを判定できる。このデータ未取得領域近傍しきい値は、
図6Aにて説明したように、アルゴリズム毎に求めても良い。
【0072】
次に
図1のS103に対応する処理として、ステップS714で荷電粒子画像取得装置201で試料206を撮像して得られた撮像画像701を高画質化部225に入力し、ステップS715において、ステップS713で算出したデータ未取得領域近傍しきい値を用いてステップS714で入力した撮像画像701の領域分割を行う。
【0073】
続いて
図1のS104に対応する処理として、ステップS716において、分割された撮像画像701の各領域について、処理A、処理Bに応じて画像処理方法および処理パラメータを決定し、ステップS717で領域ごとに分割されて各領域における画像処理方法および処理パラメータに関する情報が付与された画像704を作成する。
【0074】
次に、
図1のS105に対応する処理として、ステップS718において、ステップS717で作成した画像704に付与された各領域ごとの画像処理方法および処理パラメータの情報を用いて高画質化処理を行い、ステップS719で高画質化結果を得て、入出力部221の画面上に表示する。処理はある時間間隔(例えばt、t+Δt、t+2Δt、…)毎に行う。時間間隔は等間隔でなくても良い。
【0075】
S716における画像処理方法および処理パラメータを決定するステップでは、
図6Bに示したような通常の高画質化処理と暫定的な高画質化処理のそれぞれの場合における画像処理方法と処理パラメータを予め定めておき、S717の分割された各領域における画像処理方法および処理パラメータを付与するステップにおいて、領域分割の結果に応じて画像処理方法および処理パラメータを決定する。例えば、S711で入力した処理パラメータを用いて、まず通常の高画質化処理である処理A415,426,621などにおける画像処理方法および処理パラメータを決定する。
【0076】
次に、暫定的な高画質化処理である処理B416、427、622などにおける画像処理方法および処理パラメータを決定する。暫定的な高画質化処理である処理B416、427、622などにおける画像処理方法は、全てのデータが取得されていなくても適用できる方法とする。例えば、データ未取得領域414,425、615にある画素に対してはフィルタの適用対象外とするように、フィルタ処理方法を変える。
【0077】
暫定的な高画質化処理である処理B416、427、622などにおける処理パラメータは、例えば、擬似模様を発生させないような弱い値とする。より具体的な例としては、S711で入力する処理パラメータとして平滑化処理のフィルタサイズが15であるという値を入力した場合、通常の高画質化処理である処理A415,426,621などではフィルタサイズが15で平滑化処理を施すが、暫定的な高画質化処理である処理B416、427、622などではフィルタサイズを15と比べて小さな値として例えば3にする。この場合、平滑化の度合いは小さくなるが、撮像画像に近い画像が出力されるため、不自然な結果にはなりにくいことが多い。
【0078】
また、ステップS717において領域分割の結果に応じて画像処理方法および処理パラメータが付与された画像704は分岐されて、一方はステップS718に進んで高画質化処理が施され、他方はステップS720において、画像704が遅延させられる。次に、ステップS720で遅延された画像704は、ステップS715とS716に送られる。
【0079】
ステップS715とS716では、まずステップS720で遅延された画像704の情報を用いずに領域分割(S715)と、画像処理方法・処理パラメータの決定(S716)を行い、次にそれらの結果と遅延された画像704の情報を比較することにより、前回の処理と同じ処理を行う領域が抽出される。この抽出された領域は、
図4を用いて説明した処理不要領域とみなすことができる。この処理不要領域の情報を画像704に付与してステップS718に送ることにより、ステップS718において高画質化処理を行う際に、処理不要領域については高画質化処理をスキップすることができる。これにより、画像704に対する高画質化処理を施す領域を最小限に抑えることができ、処理時間を短縮して、処理の結果を迅速に表示することができる。
【実施例2】
【0080】
次に、
図8A〜12を用いて、第二の実施形態である、ある時刻で処理パラメータが変更された場合の高画質化処理の方法について説明する。
【0081】
図8A乃至
図8Dは、ある時刻で処理パラメータが変更された場合に、どのように高画質化処理を行うかを表す一実施例図である。画像801は、時刻tにおける撮像画像および領域分割結果である。時刻tでは処理パラメータはPであるとする(処理パラメータは通常複数個からなるが、それらを纏めたものをPと呼ぶ)。この場合には、データ取得領域811に対して処理X:813を行い、高画質化領域8021を含む高画質化結果の画像802を求める。
【0082】
812はデータ未取得領域であり、画像802における領域8121はデータ未取得領域812に対応する未処理の領域である。
図8Aには記載していないが、実際には
図4Aで説明したように、データ取得領域811を複数の領域に分割して領域毎に高画質化処理を行う。時刻tの直後で処理パラメータがPからQに変更された場合を考える(処理パラメータPとQは異なる値であるとする)。
【0083】
図8Bの画像803は、時刻t+Δtにおける撮像画像および領域分割結果である。時刻t+Δtにおける処理パラメータはQである。もし可能であれば、全てのデータ取得領域に対して処理パラメータQの高画質化結果を表示できれば望ましいが、処理が間に合わないために困難である場合が多い。そこで、処理が間に合う範囲内で、できるだけ広い領域に対して処理パラメータQでの高画質化処理を行い、その結果を表示する。この際、ユーザはスキャン位置の近傍に着目していることが多いため、スキャン位置近傍に対する高画質化結果を優先的に表示するようにする。そこで、画像803では、スキャン位置に近い領域822に対して、処理Y:824により処理パラメータQでの高画質化処理を行う。
【0084】
一方、領域821は、時刻tにおいて通常の高画質化処理を行ったか暫定的な高画質化処理を行ったかに関係なく、処理を行わない。すなわち、時刻tの時点では処理パラメータPでの暫定的な高画質化処理を行っており、後の時刻で通常の処理を行う予定であったとしても、時刻t+Δtの時点では処理パラメータはPからQに変更されているため、従来の予定通りの処理、すなわち処理パラメータPでの通常の高画質化処理を行うようなことはしない。その結果、高画質化結果の画像804として、処理X:813が施された領域からなる高画質化領域8041と、処理Y:824が施された領域からなる高画質化領域8042を含む画像が得られる。画像804における領域8231はデータ未取得領域823に対応する未処理の領域である。
【0085】
図8Cの画像805は、さらに時刻が進んで時刻t+2Δtにおける撮像画像および領域分割結果である。処理パラメータはQのままであるとする。このとき、まだ処理パラメータQでの高画質化結果を求めていない領域である、領域832と領域834に対して、処理Y:836により処理パラメータQでの高画質化処理を行う。一方、領域831のようなデータ未取得領域835からの距離が長い領域は、まだ処理不要領域のままにしておき、処理を行わない。領域833は既に処理パラメータQでの高画質化結果を求めた領域であるが、この領域833についても処理不要領域として処理を行わない。
【0086】
高画質化結果を示す画像806において、領域832、833、834の各領域では処理パラメータQでの高画質化結果として、領域8062の画像が得られる。一方、領域8061はすでに高画質化処理が行われた処理不要領域831に対応する領域である。画像806における領域8351はデータ未取得領域835に対応する未処理の領域である。
【0087】
高画質化処理を施した画像804と806を比較すると、処理パラメータQでの高画質化結果が得られている領域は、画像806のほうが広くなっている。以下、時刻t+3Δt、t+4Δt等でも同様の処理を繰り返すことにより、十分な時間が経った後では、全てのデータ取得領域に対して処理パラメータBでの高画質化結果を表示できるようにする。
【0088】
図8Dの画像807は、
図8Cの画像805と同様に時刻t+2Δtの撮像画像および領域分割結果であるが、時刻t+Δtの直後でさらに処理パラメータがQからRに変更された場合を表している(処理パラメータP、Q、Rは全て異なる値であるとする)。この場合、処理パラメータがQに変更された場合の処理と同様に、スキャン位置近傍から優先してできるだけ広い領域に対して処理パラメータRの高画質化結果を表示するように処理を施す。
【0089】
具体的には、データ未取得領域844からの距離があるしきい値未満である領域843に対して、処理Z:845により処理パラメータRでの高画質化処理を行い、高画質化処理領域8032を含む高画質化結果の画像808を得る。領域8081及び8082は、それぞれ領域841および842に対応して既に高画質化処理が実施されており、ともに処理不要領域である。領域841および842では、それぞれ処理パラメータPおよびQの高画質化結果が得られている。画像808における領域8441はデータ未取得領域844に対応する未処理の領域である。
【0090】
時刻t+Δtの時点では、処理パラメータQでの高画質化処理を行なっている途中であったが、この処理を中断して処理パラメータRでの処理を優先して行う。この後、処理パラメータがRのまま変更がない場合には、十分時間が経てば全てのデータ取得領域に対して処理パラメータRでの高画質化結果を表示できるように処理を進める。なお、例えば時刻t+2Δtの直後で処理パラメータがPに変更された場合、
図8Aに示した処理パラメータPでの高画質化結果の画像802を利用することができる。過去に求めた高画質化結果を記憶しておき、必要に応じて対応する処理パラメータの結果を表示することもできる。
【0091】
図9A及び
図9Bは、ある時刻で処理パラメータが変更された場合に、どのように高画質化処理を行うかを表す、
図8とは異なる一実施例を示す図である。
図9A及び
図9Bでは記載していないが、実際には
図4A及び
図4Bを用いて説明したように、データ取得領域を複数の領域に分割して領域毎に高画質化処理を行う。
【0092】
図9Aの画像901及び画像902は、それぞれ
図8Aの画像801及び画像802と同じである。ただし、着目点914が画像901上の着目点としてユーザから指定されているとする。画像901の領域911は画像データが取得された領域、領域912は画像データが未取得の領域である。ここで、領域911で取得された画像データに対して処理X:913により処理パラメータPを用いて高画質化処理を行い、高画質化処理領域9021を含む画像902が得られる。画像902における領域9121は、画像901におけるデータ未取得領域912に対応する未処理の領域である。
【0093】
ここで、
図8Bの場合と同様に、画像801を取得した時刻tの直後(時刻t+Δtよりも前の時刻)で処理パラメータがPからQに変更された場合を考える(処理パラメータPとQは異なる値であるとする)。
【0094】
図9Bの画像903は、時刻t+Δtにおける撮像画像および領域分割結果である。
図8Bの画像803の場合とは違い、
図9Aの画像データが取得された領域911を
図9Bのように着目点914の近傍である領域922と、それ以外の領域921に分割し、領域922に対して処理Y:924により処理パラメータQでの高画質化処理を行い、領域921は処理を行わない。領域923は画像データ未取得領域である。その結果、高画質化結果の画像904には、処理パラメータYを用いて処理した高画質化結果を表示する領域925と、時刻tで取得した画像901の領域911に対して処理パラメータPを用いて処理した高画質化結果を表示する領域926と、撮像画像をそのまま表示する領域927ができる。
【0095】
このように着目点914が指定された場合は、その近傍から優先して高画質化処理を施すことにより、着目点914に対する処理結果を迅速に表示することができる。これにより、ユーザは着目点914における画質が高くなるような処理パラメータQを素早く見つけることができる。
【0096】
なお、着目点が指定されなかった場合は、スキャン位置を着目点とみなすことにより、
図8A乃至
図8Dを用いて説明したのと同等の処理を行うことができる。着目点が指定された場合はL∞距離を用い、指定されなかった場合はy座標の差を距離とするなど、距離の定義を変えても良い(実際、
図8A乃至
図8Dではy座標の差を距離とし、
図9A及び
図9BではL∞距離を用いている)。また、着目点はある面積を持った領域でも良いし、点または領域は複数個あっても良い。
図9Bに示した領域927のように、一部の領域において撮像画像をそのまま表示しても良い。処理パラメータを変更した後で着目点が変更された場合には、変更後の着目点の近傍を優先して処理を行うようにする。
【0097】
図10は、データ取得領域をデータ未取得領域からの距離に基づいて2個以上の領域に分割して高画質化処理を行う方法の処理フローを表す一実施例図である。
図7で説明した処理フローと同じ処理や画像等には、同じ番号を付与している。
図7で説明した処理フローとの大きな違いは、高画質化処理結果を保存しておくためのデータベース1001を持っていることである。本データベース1001に異なる処理パラメータでの高画質化結果を記憶しておき、ステップS711で指定された処理パラメータに対応する結果がデータベース1001に記憶されていれば、その結果を利用する。
【0098】
領域分割を行うステップS7151における処理や、分割された各領域について画像処理方法および処理パラメータを決定するステップS7161における処理では、データベース1001内に対応する高画質化結果があるか否かを調べ、ある場合には、ステップS7171において分割された領域毎に処理方法及びパラメータが決定された画像1013に対してステップS7181の高画質化処理にてその結果を用い、ステップS7191で高画質化処理の結果が得られる。
【0099】
これにより、特に処理パラメータが頻繁に変更された場合に、過去に実施した高画質化処理の結果を有効に活用できる。
【0100】
図11A乃至
図11Cは、複数の異なる種類の処理パラメータが変更された場合に、どのように高画質化処理を行うかを説明する図である。
図A乃至
図11Cには記載していないが、実際には
図4A及び
図4Bで説明したように、データ取得領域を複数の領域に分割して領域毎に高画質化処理を行う。
【0101】
図11Aは
図8Aと同様である。画像1101の領域1111は画像データが取得された領域、領域1112は画像データが未取得の領域である。ここで、領域1111で取得された画像データに対して処理X:1113により高画質化処理を行い、高画質化処理が施された領域11021を含む画像1102が得られる。ただし、高画質化処理に用いる処理パラメータとして、パラメータα
1、β
1に設定されている。以下、パラメータα、βの値α
k、β
kを並べて(α
k、β
k)のように表記する。
【0102】
画像1101を取得した時刻tの直後(時刻t+Δtよりも前の時刻)で処理パラメータが(α
1、β
1)から(α
2、β
1)に変更された場合を考える(α
1とα
2は異なる値であるとする)。このとき、
図8Bの場合と同様に、
図11Bの画像1103における領域1122に対しては、処理Y:1124により処理パラメータ(α
2、β
1)での高画質化処理を行い、高画質化処理が施された領域11041を含む画像1104を得る。一方、領域1121は、画像1101を取得した時刻tにおいて通常の高画質化処理を行ったか暫定的な高画質化処理を行ったかに依らず、処理を行わず、時刻tで得られた画像1101に対して高画質化処理が施された領域11021の画像を用いる。領域1123は画像データが未取得の領域である。
【0103】
さらに、画像1103を取得した時刻t+Δtの直後(時刻t+2Δtよりも前の時刻)で処理パラメータが(α
2、β
1)から(α
2、β
2)に変更されたとする(β
1とβ
2は異なる値であるとする)。ここで、パラメータαをα
2に変更した高画質化結果を求める場合と比較し、パラメータβをβ
2に変更した高画質化結果を求めることのほうが、かなり短時間で済むとする。このようなケースの例としては、パラメータαが処理時間が長い処理に対応し、パラメータβが処理時間が短い処理に対応する場合や、値β
2が処理をスキップするような処理を表し、対応する結果を容易に出力できる場合が挙げられる。
【0104】
図8A乃至
図8Dを用いて説明した方法を用いれば、処理パラメータ(α
2、β
2)での高画質化結果を求めていくことができるが、短時間で求めることができるパラメータβ
2での高画質化結果を先に表示することもできる。
【0105】
図11Cの画像1105の例では、画像データ取得領域を領域1131、領域1132、領域1133、および領域1134に分割する。領域1135は、画像データ未取得領域である。領域1131は、
図11Aに示した時刻tにおいて取得した画像1101において処理X:1113により処理パラメータ(α
1、β
1)での高画質化処理を行った領域1111に相当する領域であり、処理Y:1136により処理パラメータ(α
1、β
2)での高画質化処理が実行されて高画質化処理された領域11061が得られる。
【0106】
領域1132は、
図11Bに示した時刻t+Δtにおいて処理Y:1124により処理パラメータ(α
2、β
1)で高画質化処理を行った領域1122に相当する領域であり、処理Z:1137により処理パラメータ(α
2、β
2)での高画質化処理が実行されて高画質化処理された領域11062が得られる。
【0107】
領域1133と1134は、時刻t+Δtと時刻t+2Δtの間に新たにデータを取得した領域であり、領域1134に対しては処理W:1139により処理パラメータ(α
2、β
2)での高画質化処理が実行されて高画質化処理された領域11064が得られる。一方、領域1133に対しては処理V:1138により処理パラメータ(α
0、β
2)での高画質化処理が実行されて高画質化処理された領域11063が得られる。
【0108】
これにより、高画質化した画像1106が得られる。ここで、α
0は、例えばパラメータαに対応する処理を行わないなど、高速に処理を行えるパラメータの値を表す。これにより、全てのデータ取得領域についてパラメータβの値がβ
2であるような処理パラメータで高画質化処理を行う。さらに計算機パワーに余力があるようであれば、領域1134のように一部の領域に対してパラメータαをα
2として高画質化処理を行う。本実施例では、時刻t+Δtから時刻t+2Δtの間に全てのデータ取得領域についてパラメータβの値がβ
2であるような処理パラメータで高画質化処理を行える場合について説明したが、計算機パワーが相対的にない場合には、ある程度の領域に対して値β
2での処理を行い、残りの領域は次の時刻以降で行うようにしてもよい。
【0109】
このように、反映させることが容易なパラメータから優先して高画質化処理を行うことにより、ユーザの待ち時間を抑えることができる。
【0110】
図12は、データ取得領域をデータ未取得領域からの距離に基づいて2個以上の領域に分割して高画質化処理を行う方法において
図11で説明した処理を実現する方法の処理フローを表す一実施例図である。
図10で説明した処理フローと同じ処理を行うステップに対しては同じ番号を付してある。
【0111】
図12に示した処理フローにおいては、データベース1201に異なる処理パラメータでの高画質化結果を記憶しておき、ステップS711で指定された処理パラメータに対応する結果がデータベース1201に記憶されていれば、その結果を利用する。領域分割を行うステップS1211における処理(
図10のステップS7151に相当)や、分割された各領域について画像処理方法および処理パラメータを決定するステップS1212(
図10のステップS7161に相当)における処理では、データベース1201内に対応する高画質化結果があるか否かを調べ、ある場合には、ステップS1213において画像1220に分割された領域毎に処理方法及び決定されたパラメータを付与し、高画質化処理1230を行う。
【0112】
図12に示した処理フローにおいて、
図10で説明した処理フローとの大きな違いは、
図10で説明したステップS7181における高画質化処理が、
図12に示した処理フローにおいては高画質化処理1230としてステップS1214〜S1216の複数のステップに分かれており、その各々がデータベース1201へのアクセスを行うことである。ステップS1214、S1215の結果、すなわち高画質化処理1230における途中結果を、データベース1201に記憶する。S1212において処理パラメータの一部が変更された場合に、高画質化処理1230のステップS1214、S1215において、データベース1201に記憶されている途中結果の情報を用いて処理を行えば良い場合があり、この場合にはデータベース1201に記憶した途中結果を有効利用することができる。
【0113】
例えば、
図11A乃至
図11Cの説明においてパラメータαおよびβは、それぞれステップS1214の高画質化処理1およびステップS1216の高画質化処理3に対応するパラメータであるとする。処理パラメータ(α
1、β
1)での高画質化結果を既に計算したことがありそのデータがデータベース1201に登録されている場合、処理パラメータを(α
1、β
2)に変更したときには、ステップS1216の高画質化処理3のみをやり直せば良い。すなわち、この場合にはデータベース1201に記憶しておいたステップS1215の高画質化処理2の結果を用いて、パラメータβ
2によりステップS1216を行えば良い。
【0114】
ステップS1211の領域分割を行う処理や、ステップS1212の分割された各領域について処理方法および処理パラメータを決定する処理において、与えられた処理パラメータやデータベース1201内の情報を基に、高画質化処理1230のステップS1214、S1215において、データベース1201に記憶されている途中結果を利用できるか否かを判断する。
【0115】
図13は、
図2Aの入出力部221の画面上に表示される、スキャン途中の画像に対する高画質化処理のGUI画面1300の一例を表す図である。本実施例図では、GUI画面1300を、処理パラメータに関する設定を行う領域1321と、データ未取得領域または着目点との距離に関する設定を行う領域1322と、画像表示領域1311とで構成した。(なお、本明細書では、距離に関する設定に必要な項目は、処理パラメータの一部とみなしている。例えばS711でオペレータにより設定される処理パラメータは、距離に関する設定に必要な項目を含む。)
領域1321では、各パラメータの名称1301の傍に、スライダー1302やテキストボックス1303があり、各パラメータの値を変更できるようになっている。また、各パラメータをデフォルト値に戻すためのデフォルトボタン1304が付いている。
【0116】
領域1322では、項目1305の欄に表示されたスキャン位置の近傍を優先して処理する場合と、着目点を優先して処理する場合の両方について設定を行える。項目1305の傍にある、距離の定義を決めるために優先する事項をドロップダウンリスト1306により設定を行う。また、画像表示領域1311を用いて1312、1313のように着目点を設定できる。例えば、マウスの左クリックで着目点を設定できるようにする。着目点は、例えばマウスの右クリックにより解除することもできる。また、チェックボックス1323により、高画質化処理のON、OFFを切り替えることもできる。
【0117】
本チェックボックス1323がチェックされていない場合は、画像表示領域1311に高画質化結果の代わりに撮像画像を表示する。領域1321で処理パラメータを変更した瞬間から高画質化処理に反映させても良いし、反映を実施するためのボタン(本実施例図には記載せず)が押されたときに処理パラメータを反映させても良い。
【0118】
図13Aに示した例では、画像表示領域1311に撮像途中の画像が表示されている状態を示している。領域1314は撮像された領域を示し、領域1315は未撮像領域を示している。着目領域1312の全域及び着目領域1313の境界を実線で表示した領域は、高画質化処理である処理A:415,426又は処理X:813,1113が実行された領域である。一方、着目領域1313の下側の点線で表示した領域は、未撮像領域1315に近いために処理B:416,427又は処理Y:824,1124が実行された領域を示す。
【0119】
一方、
図13Bには、
図13Aの画像表示領域1311に表示した画像が撮像された時点よりも時間が進んで撮像された画像を示す。領域1314が拡大し未撮像領域である領域1315が縮小して、領域1314と1315との境界1316と着目領域1313との距離が
図13Aの場合よりも拡大した状態を示している。この状態において、着目領域1313の下側の領域から未撮像領域1315までの距離が拡大して、
図13Aでは点線で表示されていた着目領域1313の下側の領域は処理A:415,426又は処理X:813,1113が実行される。その結果として、
図13Aでは点線で表示されていた着目領域1313の下側の領域が、
図13Bでは実線で表示されるようになる。
【0120】
このように、処理パラメータの設定を促す画面1321及び1322と画像表示画面1311を近くに配置することにより、高画質化結果を見ながら処理パラメータを変更することができ、適した処理パラメータを効率良く探すことが可能である。