【文献】
B Sander ET AL,Enhanced optical coherence tomography imaging by multiple scan averaging,British Journal of Ophthalmology,英国,2005年 2月,vol.89 no.2,P.207-212
【文献】
Maciej Wojtkowski ET AL,Three-dimensional Retinal Image with High-Speed Ultrahigh-Resolution Optical Coherence Tomography,OPHTHALMOLOGY,米国,2005年 5月23日,vol.112,no.10,P.1734-1746
【文献】
B Sander ET AL,Enhanced optical coherence tomography imaging by multiple scan aveeraging,British Journal of Ophthalmology,英国,2005年 2月,vol.89 no.2,P.207-212
(58)【調査した分野】(Int.Cl.,DB名)
同一位置を複数回走査するように制御されたOCT(Optical Coherence Tomography)の測定光に基づいて得られた被検眼の複数の断層画像それぞれにおけるAスキャン方向に対して直交する方向に所定の幅を有する前記断層画像の一部の領域である部分領域間の類似度を算出する算出手段と、
前記複数の断層画像から、前記算出した類似度が所定値よりも高い前記部分領域を含む断層画像を複数選択する選択手段と、
前記選択された複数の断層画像を加算平均して加算平均画像を生成する生成手段と、
を備えることを特徴とする画像処理装置。
前記算出手段は、基準となる断層画像の前記部分領域と他の異なる断層画像の前記部分領域との類似度を前記部分領域間の類似度として算出することを特徴とする請求項1に記載の画像処理装置。
同一位置を複数回走査するように制御されたOCT(Optical Coherence Tomography)の測定光に基づいて得られた被検眼の複数の断層画像それぞれにおけるAスキャン方向に対して直交する方向に所定の幅を有する前記断層画像の一部の領域である部分領域間の類似度を算出する算出工程と、
前記複数の断層画像から、前記算出した類似度が所定値よりも高い前記部分領域を含む断層画像を複数選択する選択工程と、
前記選択された複数の断層画像を加算平均して加算平均画像を生成する生成工程と、
を備えることを特徴とする画像処理方法。
前記算出工程は、基準となる断層画像の前記部分領域と他の異なる断層画像の前記部分領域との類似度を前記部分領域間の類似度として算出することを特徴とする請求項9に記載の画像処理方法。
前記層検出工程において検出された層は、内境界、神経線維層、視細胞内接外接接合部または網膜色素上皮層のいずれかであることを特徴とする請求項12記載の画像処理方法。
【発明を実施するための形態】
【0012】
(実施例1)
以下、図面を参照しながら、本実施形態に係る画像処理装置を備える画像処理システムについて説明する。
【0013】
図1は、本実施形態に係る画像処理装置110を備える画像処理システム100の構成を示す図である。
図1に示すように、画像処理システム100は、画像処理装置110が、インタフェースを介して断層画像撮影装置120と接続されることにより構成されている。
【0014】
断層画像撮影装置120は、眼部の断層画像を撮影する装置であり、例えばタイムドメイン方式のOCTやフーリエドメイン方式のOCTからなる。なお、断層画像撮影装置120は既知の装置であるため、詳細な説明は省略する。
【0015】
画像処理装置110は、取得部111、記憶部112、画像処理部113、表示制御部114とを備える。
【0016】
取得部111は、断層画像撮影装置120により撮影された断層画像を取得し、記憶部112に格納する。画像処理部113では、記憶部112で記憶している断層画像から、新たな二次元断層画像を生成する。表示制御部114は処理後の画像を図示しないモニタに表示するための制御をする。
【0017】
複数箇所を順次走査してもよいが、特に画質の向上がある例示として、
図3(a)に、断層画像撮影装置120でほぼ同一箇所を繰り返し走査し続けて撮影した例における黄斑部の二次元断層画像群の模式図を示す。ここで二次元断層画像を撮像するために測定光を走査する方向を主走査方向とよぶ。主走査方向に直交する方向を副走査方向とよぶこととする。
【0018】
また、一般に、断層画像撮影装置120では測定光を副走査方向にずらしながら主走査方向の撮像を行う。つまり、本発明は、副走査方向にずらす場合にも適応できるものである。
【0019】
図3(a)において、x、zは座標軸、tは時間軸を表している。T
1〜T
nは異なる時点に撮影した黄斑部の二次元断層画像である。すなわち、二次元断層画像群はほぼ同一箇所を撮影した二次元断層画像の集合により形成される。
【0020】
ここで、高画質化とはS/N比を向上させることを意味するものとする。
また、画質の向上とは、S/N比の向上を意味するものとする。
次に、
図2(a)、
図2(b)のフローチャートを参照して本実施形態の画像処理装置110の処理手順を示す。
【0021】
<ステップS201>
ステップS201では、網膜層を撮影するために、不図示の制御部により、断層画像撮影装置120を制御する。まず、測定光が照射される方向である深度方向(
図3(a)のz方向)とz方向と直交する平面方向(
図3(a)のx方向)との位置を調整する。ここで深度方向の位置を合わせるとは、断層像を得るためのコヒーレントゲートの位置を合わせることに相当する。
【0022】
<ステップS202>
ステップS201で、不図示の制御部により網膜層を撮影するのに適した位置に調整を行った後、ステップS202で、不図示の撮影指示部により撮影開始を指示する。
【0023】
<ステップS203>
ステップS203では、操作者が撮影指示をすると、不図示の制御部により、ほぼ同一箇所を繰り返し走査し、複数の二次元断層画像を撮影する。
なお、不図示の制御部は、副走査方向に移動する間隔を調整する機能も有する。
【0024】
<ステップS204>
ステップS204では、画像処理部113が、記憶部112に記憶された二次元断層画像群を用いて、新たな二次元断層画像を生成する。高画質化した二次元断層画像の生成処理について、
図2(b)を参照して説明する。
【0025】
<ステップS210>
ステップS210では、第一の位置合わせ部115において、二次元断層画像同士の位置合わせを行う。位置合わせ処理としては、例えば、2つの二次元断層画像の類似性を示す評価関数を事前に定義しておき、この評価関数の値が最も良くなるように断層画像を変形する。評価関数としては、画素値で評価する方法が挙げられる(例えば、式(1)の相関係数を用いて評価を行う方法が挙げられる)。また、画像の変形処理としては、アフィン変換を用いて並進や回転を行ったり、拡大率を変化させたりする処理が挙げられる。位置合わせ処理として、特徴点ベースで位置を合わせてもよい。例えば、二次元断層画像から各網膜層や病変などの特徴部を抽出する。内境界膜、神経線維層、視細胞内節外節接合部、網膜色素上皮層は輝度値が高く、層の境界はコントラストが高いため、これらの層や特徴部の検出結果を利用して位置合わせを行う。
【0026】
したがって、二次元断層画像を変形させながら評価関数が最大となる位置変形パラメータを計算し、二次元断層画像間の位置を合わせる。重ね合わせのための二次元断層画像の枚数がN枚であった場合、基準となる二次元断層画像に対してN−1枚の二次元断層画像の位置合わせ処理を行う。
【0027】
<ステップS211>
ステップS211では、判定部117において、対応するAスキャン画像毎に重ね合わせを行うAスキャン画像を判定する。この処理について
図4を用いて説明を行う。T
i’とT
i+1’は、異なる時点で撮像された二次元断層画像で、ステップS210において位置合わせを行ったものである。A
ij’、A
(i+1)j’は、位置合わせ後のT
i’とT
i+1’において、それぞれ対応するAスキャン画像を表している。なお、本発明におけるAスキャン画像は、
図4において、z軸方向に並行な1本の画素列のことをAスキャン画像としている。
【0028】
Aスキャン画像は測定光の入射方向に合致した画像であり、同一箇所から得られた個々のAスキャン画像はほぼ同一の画像情報を有する。このため、眼の固視微動により二次元断層像全体では類似性が低い場合でも、異なる二次元断層像のAスキャン画像において相互に類似性が高いデータが存在する場合がある。
【0029】
同一の斜線の領域R
ij’、R
(i+1)j’はA
ij’、A
(i+1)j’を中心にx軸方向に+−αの領域を表している。算出部116では、Aスキャン画像を中心とした画像領域R
ij’、R
(i+1)j’において、Aスキャン画像間の類似度を算出する。重ね合わせ判定を行うための基準領域をR
ij’とした場合、R
1j’〜 R
nj’の全ての対応する領域間で類似度の計算を算出部116が行う。ここで、Aスキャン画像間の類似性を示す評価関数として相関係数を用いた場合の式を数1に示す。
【0031】
図4の場合において、領域R
ij’をf(x,y)、R
(i+1)j’をg(x,y)とする。
【0034】
は、それぞれ領域f(x,y)と領域g(x,y)の平均を表す。
【0035】
判定部117では、領域毎に重ね合わせに用いる領域を選択する。判定部の処理について
図5を用いて説明をする。
図5は領域間の類似度を算出部116が計算した結果の例を示している。
【0036】
横軸は、撮影した二次元断層画像の番号1〜Nである。縦軸は、基準領域と他の二次元断層画像における領域との類似度を表している。
図5(a)は、閾値Thを設定し、所定値以上の類似度となる領域を選択する場合の例である。
図5(b)は、
図5(a)を類似度順にソートしたものであり、類似度の上位M枚を選択する例である。
図5(c)は、類似度順にソート処理し、ソート処理後の類似度の変化率を線グラフで表している。ここでは、類似度の変化率が著しく低下する前の画像を選択する場合の例である。つまり、ソート処理後の類似度の変化率が所定値を示すところの類似度を求め、求めた類似度以上の値の領域を選択する。
【0037】
また、ソート処理せずに類似度間の変化率を見る。類似度が所定値よりも低下した場合に評価値の計算を算出部116が止める。評価値が所定値以上でかつ計算を止める前の画像を選択する。
【0038】
(a)の閾値の場合は、評価値の悪いものは重ね合わせに用いないので、評価値の良い領域のみ重ね合わせることが出来る。
これは、副走査方向の単位時間あたりの移動距離が小さい場合に好適である。組織構造の変化は少ないが、特異的な眼の動きや、瞬きにより生じた組織構造が大きく異なる領域の画像を選択しない効果を有するからである。
【0039】
(b)の固定枚数としてM枚選択する場合は、画像単位での重ね合わせ平均化処理を行うデータ数にバラツキがなくなる。各Aスキャン画像単位での重ね合わせ平均化処理を行うデータ数にもバラツキがなくなるものである。ノイズの低減化の程度が揃えられるので、画質を同程度にする場合にはより好適である。
【0040】
(c)の変化率を見る場合は、病気などで全体的に画質が悪く全体的に類似度が低くなる場合においても、類似する領域同士を選択することが出来るといった特徴がある。
【0042】
以上において、各領域において、評価値に基づいて重ね合わせを行う領域を選択している。そのため、固視微動などにより二次元断層画像内で網膜層が変形している場合や、まばたきやケラレなどにより、部分的に画質が低下している領域は重ね合わせに用いないので新たに生成した画像は高画質化される。
【0043】
また、副走査方向の単位時間あたりの移動距離に応じて上記の(a)〜(
c)を判定部117は組み合わせる処理を行う。例えば、移動距離が所定値未満の場合には(a)又は(b)の処理を用
いる。
【0044】
<ステップS212>
ステップS212では、生成部118が重ね合わせ処理を行う。ここでは、Aスキャン画像が2つの場合の重ね合わせについて説明をする。
図3(b)は、二次元断層画像をAスキャン画像毎に処理し、1枚の二次元断層画像を合成画像として生成する処理を説明するための図である。つまり、異なる時点で撮像された、異なる二次元断層画像上に位置するAスキャン画像の加算平均処理を例として説明する。
図3(c)は、各画素あたりM個(本例では2個)の画素を用いて加算平均処理を行うことにより生成された高画質化された二次元断層画像である。つまり、
図3(c)において、A
ij”は対応するAスキャン画像について加算平均処理を行うことにより算出された新たなAスキャン画像である。
【0045】
図3(b)において、T
i’とT
i+1’とは、同一断面をそれぞれ異なる時点で撮像した二次元断層画像である。A
ij’、A
(i+1)j’は、断層画像T
i’とT
i+1’におけるそれぞれのAスキャン画像を表している。生成部118は、A
ij’、A
(i+1)j’のAスキャン画像について加算平均処理を行うことにより、
図3(c)におけるA
ij”を算出する。なお、高画質な二次元断層画像(合成画像)の生成処理は、加算平均処理に限定されるものではなく、中央値算出処理、重み付加算平均処理などを用いてもよい。これらの処理を、基準画像T
i’のAスキャン画像(A
i1’からA
im’まで)全てにおいて行う。例えば、重み付加加算平均処理では前述の類似度を加算の重みに用いる。
【0046】
なお、本実施形態において、類似度を計算する領域はR
ij’とし、重ね合わせ処理は、A
ij’で行う場合(Aスキャン画像単位)について説明を行ったが、本発明はこれに限らない。例えば、類似度を計算した領域単位で重ね合わせ処理を行っても良い。また、二次元断層画像で重ね合わせ処理を行ってよい。さらには、αを0(α=0の場合、R
ij’=A
ij’)として、Aスキャン画像単位で類似度を計算して判定を行い、重ね合わせをしても良い。
【0047】
<ステップS205>
ステップS205では、表示制御部114は、ステップS204で生成した高画質な二次元断層画像を不図示の表示部に表示する。また、断層画像撮影装置120の測定光の走査範囲を固定して、ほぼ同一の網膜の領域を走査する例を説明したが、網膜全体を順次走査しても本発明を適用できることは上述したとおりである。
【0048】
以上の説明から明らかなように、本実施形態では、位置合わせを行った複数の二次元断層画像において、対応するAスキャン画像と周辺の領域を用いて領域間の類似度を計算し、各領域単位で重ね合わせ処理に用いる領域の判定を行った。それにより、画像全体では位置が合っているが、固視微動などにより、二次元断層画像内の網膜層が変形している場合においても、部分領域単位で重ね合わせ処理に用いる領域の判定を行うので、高画質化された二次元断層画像を生成することができる。
【0049】
本実施形態によれば、固視微動などにより、二次元断層画像内の網膜層が変形している場合においても高画質な二次元断層画像を取得することが可能となる。 ここで、高画質な画像とは一度の撮影と比較してS/N比が向上している画像をいう。または、診断に必要な情報量が増えている画像のことをいう。
【0050】
(実施例2)
上記第1の実施形態では、位置合わせを行った二次元断層画像において、対応するAスキャン画像と周辺の領域を用いて領域間の類似度を計算し、各領域単位で重ね合わせ処理に用いる領域の判定を行った。本実施形態では、位置合わせを行った二次元断層画像において、Aスキャン画像と周辺の領域を用いて、近傍領域において評価値が高くなる領域を探索し、重ね合わせ処理を行うことを特徴としている。本実施形態によれば、大局的な特徴を用いて全体的に位置合わせを行い、さらに局所的な特徴を用いて位置合わせを行った後に、重ね合わせ処理を行う。
【0051】
図6は、本実施形態に係る画像処理装置610を備える画像処理システム600の構成を示す図である。
図6に示すように、画像処理装置610は、取得部111、記憶部112、画像処理部613、表示制御部114とを備える。このうち、画像処理部613以外は、上記第1の実施形態と同様の機能を有するため、ここでは説明を省略する。
【0052】
画像処理部613において、第二の位置合わせ部619は、Aスキャン画像と周囲の領域を用いて局所的な位置合わせを行う。
【0053】
以下、
図7、
図8を参照して本実施形態の画像処理装置610の処理手順を示す。なお、ステップS704以外は、第1実施形態のステップS201〜ステップS203とステップS205と同様なので説明は省略する。
【0054】
<ステップS704>
ステップS704では、画像処理部613が、大局的な位置合わせと局所的な位置合わせを行い、画像重ね合わせ処理を行うことで、高画質な二次元断層画像を生成する。高画質な二次元断層画像生成処理について、
図7(b)を参照して説明する。
【0055】
<ステップS710>
ステップS710では、第一の位置合わせ部115において、二次元断層画像同士の位置合わせを行う。この処理は、第1実施形態のステップS210と同様なので、説明は省略する。
【0056】
<ステップS711>
ステップS710で大局的な位置合わせを行った二次元断層画像において、対応するAスキャン画像単位で位置合わせを行うことにより、局所的な位置合わせを行う。この処理について
図8(a)を用いて説明を行う。T
i’とT
i+1’は、同一断面を異なる時点で撮像した画像で、ステップS710において位置合わせを行った二次元断層画像である。A
ij’はT
i’におけるAスキャン画像を表している。斜線の領域R
ij”はA
ij’を中心にx軸方向に+−αの範囲を表している。R
(i+1)j”は、T
i+1’においてR
ij”に対応する矩形領域を表しており、S
(i+1)j’は、R
(i+1)j”の矩形領域を動かす探索範囲を表している。基準Aスキャン画像をA
ij’とし、類似度を計算する領域をR
ij”とする場合、探索範囲S
(i+1)j’内において、R
(i+1)j”の矩形領域を走査して、算出部116が評価値を計算する。
【0057】
評価値は、R
ij”とR
(i+1)j”で画素値の相関を算出部116が計算して判定部117が評価を行う。あるいは、網膜層境界を検出することで層厚を検出し、その層厚を用いて類似度の評価値を算出部116が計算する。層厚を用いて類似度を評価する場合を
図8(b)に示す。
図8(b)は、探索範囲S
(i+1)j’内における網膜層境界(内境界膜L
1、網膜色素上皮層L
2)と、網膜層境界から求めた層厚1〜3を表している。矩形領域R
(i+1)j”において各Aスキャン画像上の層厚を求める。そして、R
ij”とR
(i+1)j”内の層厚同士を比較することで評価値を算出部116が計算する。層厚を計算するのに用いる層は上記に限定されるものではなく、神経線維層、視細胞内節外節接合部など、他の層境界を用いて層厚を比較しても良い。
【0058】
なお、本実施形態において、判定部117による重ね合わせ判定の処理を省略したが、Aスキャン画像単位の位置合わせを行った後に、実施例1と同様に類似度により重ね合わせを行うか否かの判定を行うようにしても良い。
【0059】
<ステップS712>
ステップS712では、生成部118において、対応するAスキャン画像同士の重ね合わせ処理を行う。生成部118では、ステップS711において、評価値が最大となる位置の矩形領域R
(i+1)j”の中心に位置するAスキャン画像と、基準画像のAスキャン画像A
ij’との重ね合わせ処理を行う。
【0060】
なお、本実施形態においてR
ij”は、Aスキャン画像位置を中心に+−αの範囲を矩形領域として設定した。この設定方法として、αは固定値ではなく、二次元断層画像に写っている網膜層の画像特徴に応じて動的に変更するようにしても良い。領域設定の例を
図8(c)に示す。例えば、網膜層の形状が平面的であるような場合には、αの範囲を広く設定する(R
(i+1)j”)。網膜層の形状が湾曲している、二次元断層画像中に特徴的な箇所(垂直、水平エッジが多数存在)がある場合には、αの範囲を狭く設定する(R
(i+1)k”)。領域範囲の設定は、画像特徴から症例毎に変更しても良いし、1枚の二次元断層画像内においてAスキャン画像単位で変更しても良い。
【0061】
以上の説明から明らかなように、本実施形態では、位置合わせを行った二次元断層画像において、Aスキャン画像と周辺の領域を用いて、近傍領域において評価値が高くなる領域を探索し、重ね合わせ処理を行った。それにより、画像全体では位置が合っているが、固視微動などにより、二次元断層画像内の網膜層が変形している場合においても、局所単位で位置合わせ処理を行うので、高画質な二次元断層画像を生成することができる。
【0062】
(その他の実施形態)
上記のそれぞれの実施形態は、本発明を画像処理装置として実現したものである。しかしながら、本発明の実施形態は画像処理装置のみに限定されるものではない。本発明をコンピュータ上で動作するソフトウェアとして実現することも可能である。画像処理装置のCPUは、RAMやROMに格納されたコンピュータプログラムやデータを用いてコンピュータ全体の制御を行う。また、画像処理装置の各部に対応するソフトウェアの実行を制御して、各部の機能を実現する。