IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 国立大学法人 筑波大学の特許一覧 ▶ 株式会社トプコンの特許一覧

特許7410481画像処理方法、走査型イメージング方法、画像処理装置、その制御方法、走査型イメージング装置、その制御方法、プログラム、及び記録媒体
<>
  • 特許-画像処理方法、走査型イメージング方法、画像処理装置、その制御方法、走査型イメージング装置、その制御方法、プログラム、及び記録媒体 図1
  • 特許-画像処理方法、走査型イメージング方法、画像処理装置、その制御方法、走査型イメージング装置、その制御方法、プログラム、及び記録媒体 図2
  • 特許-画像処理方法、走査型イメージング方法、画像処理装置、その制御方法、走査型イメージング装置、その制御方法、プログラム、及び記録媒体 図3
  • 特許-画像処理方法、走査型イメージング方法、画像処理装置、その制御方法、走査型イメージング装置、その制御方法、プログラム、及び記録媒体 図4A
  • 特許-画像処理方法、走査型イメージング方法、画像処理装置、その制御方法、走査型イメージング装置、その制御方法、プログラム、及び記録媒体 図4B
  • 特許-画像処理方法、走査型イメージング方法、画像処理装置、その制御方法、走査型イメージング装置、その制御方法、プログラム、及び記録媒体 図5
  • 特許-画像処理方法、走査型イメージング方法、画像処理装置、その制御方法、走査型イメージング装置、その制御方法、プログラム、及び記録媒体 図6
  • 特許-画像処理方法、走査型イメージング方法、画像処理装置、その制御方法、走査型イメージング装置、その制御方法、プログラム、及び記録媒体 図7A
  • 特許-画像処理方法、走査型イメージング方法、画像処理装置、その制御方法、走査型イメージング装置、その制御方法、プログラム、及び記録媒体 図7B
  • 特許-画像処理方法、走査型イメージング方法、画像処理装置、その制御方法、走査型イメージング装置、その制御方法、プログラム、及び記録媒体 図7C
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-12-26
(45)【発行日】2024-01-10
(54)【発明の名称】画像処理方法、走査型イメージング方法、画像処理装置、その制御方法、走査型イメージング装置、その制御方法、プログラム、及び記録媒体
(51)【国際特許分類】
   A61B 3/10 20060101AFI20231227BHJP
   G01N 21/17 20060101ALI20231227BHJP
【FI】
A61B3/10 100
G01N21/17 630
【請求項の数】 24
(21)【出願番号】P 2019223138
(22)【出願日】2019-12-10
(65)【公開番号】P2021090631
(43)【公開日】2021-06-17
【審査請求日】2022-11-24
(73)【特許権者】
【識別番号】504171134
【氏名又は名称】国立大学法人 筑波大学
(73)【特許権者】
【識別番号】000220343
【氏名又は名称】株式会社トプコン
(74)【代理人】
【識別番号】100124626
【弁理士】
【氏名又は名称】榎並 智和
(72)【発明者】
【氏名】巻田 修一
(72)【発明者】
【氏名】安野 嘉晃
(72)【発明者】
【氏名】山口 達夫
(72)【発明者】
【氏名】澁谷 雅博
【審査官】冨永 昌彦
(56)【参考文献】
【文献】特開2018-140004(JP,A)
【文献】特開2018-140049(JP,A)
【文献】米国特許出願公開第2018/0242839(US,A1)
【文献】特表2016-514974(JP,A)
【文献】米国特許出願公開第2015/0324966(US,A1)
【文献】YIWEI Chen, et al.,Three-dimensional eye motion correction by Lissajous scan optical coherence tomography,Biomedical Optics EXPRESS,米国,Optical Society of America,2017年02月23日,Vol.8 No.3,1783-1802
(58)【調査した分野】(Int.Cl.,DB名)
A61B 3/00 - 3/18
G01N 21/00 - 21/61
(57)【特許請求の範囲】
【請求項1】
通信回線若しくは記録媒体を介してサンプルの第1画像及び第2画像を受け付け、又は、サンプルに光走査を適用して収集されたデータに基づいて第1画像及び第2画像を構築し、
通信回線若しくは記録媒体を介してマスク画像を受け付け、又は、サンプルの画像に基づいてマスク画像を生成し、
前記第1画像の画素値の範囲及び前記第2画像の画素値の範囲と前記マスク画像の画素値の範囲との間の差を小さくするように、前記第1画像の画素値の範囲と前記第2画像の画素値の範囲と前記マスク画像の画素値の範囲とを相対的に調整し、
前記第1画像及び前記第2画像のそれぞれに前記マスク画像を合成して第1合成画像及び第2合成画像を生成し、
前記第1合成画像及び前記第2合成画像に基づいて複数の相互相関関数を求め、
前記複数の相互相関関数に基づいて相関係数を算出し、
前記相関係数に基づいて前記第1画像と前記第2画像とのレジストレーションを行う、
画像処理方法。
【請求項2】
前記サンプルの画像及び前記マスク画像の一方の画素値の範囲を他方の画素値の範囲に一致させる、
請求項の画像処理方法。
【請求項3】
前記マスク画像の画素値の範囲に応じて前記サンプルの画像の画素値の範囲を正規化する、
請求項の画像処理方法。
【請求項4】
前記マスク画像の画素値の範囲は閉区間[0,1]に含まれ、
前記サンプルの画像の各画素の値を、当該画像における最大画素値で除算する、
請求項の画像処理方法。
【請求項5】
前記マスク画像の画素値の範囲は閉区間[0,1]に含まれ、
前記サンプルの画像の各画素の値を、当該画像の画素値の範囲の最大値で除算する、
請求項の画像処理方法。
【請求項6】
前記マスク画像は、画素値が0又は1の二値画像である、
請求項1~のいずれかの画像処理方法。
【請求項7】
前記マスク画像は、前記サンプルの画像の定義域に対応する領域内の画素の値が1であり、他の画素の値が0である二値画像である、
請求項の画像処理方法。
【請求項8】
前記マスク画像は、第1マスク画像と第2マスク画像とを含み、
前記第1マスク画像を前記第1画像に合成して前記第1合成画像を生成し、
前記第2マスク画像を前記第2画像に合成して前記第2合成画像を生成する、
請求項1~のいずれかの画像処理方法。
【請求項9】
前記第1マスク画像及び前記第2マスク画像は、同じ寸法及び同じ形状を有する、
請求項の画像処理方法。
【請求項10】
前記第1マスク画像は、前記第1画像の定義域に対応する領域内の画素の値が1であり、他の画素の値が0である二値画像であり、
前記第2マスク画像は、前記第2画像の定義域に対応する領域内の画素の値が1であり、他の画素の値が0である二値画像である、
請求項又はの画像処理方法。
【請求項11】
前記第1画像及び前記第2画像のそれぞれは、一連のサイクルを含む2次元パターンに従う走査を前記サンプルに適用して収集されたデータに基づき構築される、
請求項1~10のいずれかの画像処理方法。
【請求項12】
前記第1画像及び前記第2画像のそれぞれは、リサージュ関数に基づき予め設定された走査プロトコルに基づく2次元パターンに従う走査を前記サンプルに適用して収集されたデータに基づき構築される、
請求項11の画像処理方法。
【請求項13】
一連のサイクルを含む2次元パターンに従う光走査をサンプルに適用してデータを収集し、
前記データに基づいて第1画像及び第2画像を構築し、
前記第1画像の画素値の範囲及び前記第2画像の画素値の範囲と前記マスク画像の画素値の範囲との間の差を小さくするように、前記第1画像の画素値の範囲と前記第2画像の画素値の範囲とマスク画像の画素値の範囲とを相対的に調整し、
前記第1画像及び前記第2画像のそれぞれに前記マスク画像を合成して第1合成画像及び第2合成画像を生成し、
前記第1合成画像及び前記第2合成画像に基づいて複数の相互相関関数を求め、
前記複数の相互相関関数に基づいて相関係数を算出し、
前記相関係数に基づいて前記第1画像と前記第2画像とのレジストレーションを行い、
前記レジストレーションの結果に基づいて前記第1画像と前記第2画像とのマージ画像を構築する、
走査型イメージング方法。
【請求項14】
前記データに基づいて第3画像を構築し、
前記第3画像の画素値の範囲と前記マージ画像の画素値の範囲とマスク画像の画素値の範囲との間の差を小さくするように、前記第3画像の画素値の範囲と前記マージ画像の画素値の範囲とマスク画像の画素値の範囲とを相対的に調整し、
前記第3画像及び前記マージ画像のそれぞれに当該マスク画像を合成して第3合成画像及び第4合成画像を生成し、
前記第3合成画像及び前記第4合成画像に基づいて複数の相互相関関数を求め、
当該複数の相互相関関数に基づいて相関係数を算出し、
当該相関係数に基づいて前記第3画像と前記第4画像とのレジストレーションを行い、
前記レジストレーションの結果に基づいて前記第3画像と前記マージ画像とをマージする、
請求項13の走査型イメージング方法。
【請求項15】
前記一連のサイクルのうちの任意の2つのサイクルは、少なくとも1点で互いに交差し、
前記一連のサイクルのうちの第1サイクル群に従う光走査で収集された第1データに基づいて前記第1画像を構築し、
前記一連のサイクルのうち前記第1サイクル群と異なる第2サイクル群に従う光走査で収集された第2データに基づいて前記第2画像を構築する、
請求項13又は14の走査型イメージング方法。
【請求項16】
リサージュ関数に基づき予め設定された走査プロトコルに基づいて前記2次元パターンに従う光走査を行う、
請求項15の走査型イメージング方法。
【請求項17】
サンプルの第1画像及び第2画像を記憶する記憶部と、
前記第1画像に応じた第1マスク画像と前記第2画像に応じた第2マスク画像とを生成するマスク画像生成部と、
前記第1マスク画像の画素値の範囲及び前記第2マスク画像の画素値の範囲に基づいて、前記第1画像の画素値の範囲及び前記第2画像の画素値の範囲と前記第1マスク画像の画素値の範囲及び前記第2マスク画像の画素値の範囲との間の差を小さくするように、前記第1画像の画素値の範囲及び前記第2画像の画素値の範囲を調整する範囲調整部と、
前記第1画像に前記第1マスク画像を合成して第1合成画像を生成し、且つ、前記第2画像に前記第2マスク画像を合成して第2合成画像を生成する合成画像生成部と、
前記第1合成画像及び前記第2合成画像に基づいて複数の相互相関関数を求める第1算出部と、
前記複数の相互相関関数に基づいて相関係数を算出する第2算出部と、
前記相関係数に基づいて前記第1画像と前記第2画像とのレジストレーションを行うレジストレーション部と
を含む、画像処理装置。
【請求項18】
一連のサイクルを含む2次元パターンに従う光走査によりサンプルから収集されたデータを受け付けるデータ受付部と、
前記データに基づいて前記第1画像及び前記第2画像を構築する画像構築部と
を更に含む、
請求項17の画像処理装置。
【請求項19】
サンプルの第1画像及び第2画像を記憶する記憶部と、プロセッサとを含む画像処理装置を制御する方法であって、
前記プロセッサを、
前記第1画像に応じた第1マスク画像と前記第2画像に応じた第2マスク画像とを生成し、
前記第1マスク画像の画素値の範囲及び前記第2マスク画像の画素値の範囲に基づいて、前記第1画像の画素値の範囲及び前記第2画像の画素値の範囲と前記第1マスク画像の画素値の範囲及び前記第2マスク画像の画素値の範囲との間の差を小さくするように、前記第1画像の画素値の範囲及び前記第2画像の画素値の範囲を調整し、
前記第1画像に前記第1マスク画像を合成して第1合成画像を生成し、且つ、前記第2画像に前記第2マスク画像を合成して第2合成画像を生成し、
前記第1合成画像及び前記第2合成画像に基づいて複数の相互相関関数を求め、
前記複数の相互相関関数に基づいて相関係数を算出し、及び、
前記相関係数に基づいて前記第1画像と前記第2画像とのレジストレーションを行う
ように制御する、
画像処理装置の制御方法。
【請求項20】
一連のサイクルを含む2次元パターンに従う光走査をサンプルに適用してデータを収集する走査部と、
前記データに基づいて第1画像及び第2画像を構築する画像構築部と、
前記第1画像に応じた第1マスク画像と前記第2画像に応じた第2マスク画像とを生成するマスク画像生成部と、
前記第1マスク画像の画素値の範囲及び前記第2マスク画像の画素値の範囲に基づいて、前記第1画像の画素値の範囲及び前記第2画像の画素値の範囲と前記第1マスク画像の画素値の範囲及び前記第2マスク画像の画素値の範囲との間の差を小さくするように、前記第1画像の画素値の範囲及び前記第2画像の画素値の範囲を調整する範囲調整部と、
前記第1画像に前記第1マスク画像を合成して第1合成画像を生成し、且つ、前記第2画像に前記第2マスク画像を合成して第2合成画像を生成する合成画像生成部と、
前記第1合成画像及び前記第2合成画像に基づいて複数の相互相関関数を求める第1算出部と、
前記複数の相互相関関数に基づいて相関係数を算出する第2算出部と、
前記相関係数に基づいて前記第1画像と前記第2画像とのレジストレーションを行うレジストレーション部と、
前記レジストレーションの結果に基づいて前記第1画像と前記第2画像とのマージ画像を構築するマージ処理部と
を含む、走査型イメージング装置。
【請求項21】
前記走査部は、互いに異なる第1方向及び第2方向に光を偏向可能な偏向器を含み、前記第1方向に沿った偏向方向の変化を第1周期で繰り返しつつ前記第2方向に沿った偏向方向の変化を前記第1周期と異なる第2周期で繰り返すことにより前記2次元パターンに従う光走査を前記サンプルに適用する、
請求項20の走査型イメージング装置。
【請求項22】
サンプルに光走査を適用してデータを収集する走査部と、プロセッサとを含む走査型イメージング装置を制御する方法であって、
前記走査部を、一連のサイクルを含む2次元パターンに従う光走査をサンプルに適用してデータを収集するように制御し、
前記プロセッサを、
前記データに基づいて第1画像及び第2画像を構築し、
前記第1画像に応じた第1マスク画像と前記第2画像に応じた第2マスク画像とを生成し、
前記第1マスク画像の画素値の範囲及び前記第2マスク画像の画素値の範囲に基づいて、前記第1画像の画素値の範囲及び前記第2画像の画素値の範囲と前記第1マスク画像の画素値の範囲及び前記第2マスク画像の画素値の範囲との間の差を小さくするように、前記第1画像の画素値の範囲及び前記第2画像の画素値の範囲を調整し、
前記第1画像に前記第1マスク画像を合成して第1合成画像を生成し、且つ、前記第2画像に前記第2マスク画像を合成して第2合成画像を生成し、
前記第1合成画像及び前記第2合成画像に基づいて複数の相互相関関数を求め、
前記複数の相互相関関数に基づいて相関係数を算出し、
前記相関係数に基づいて前記第1画像と前記第2画像とのレジストレーションを行い、及び、
前記レジストレーションの結果に基づいて前記第1画像と前記第2画像とのマージ画像を構築する
ように制御する、
走査型イメージング装置の制御方法。
【請求項23】
請求項1~1619又は22の方法をコンピュータに実行させるプログラム。
【請求項24】
請求項23のプログラムが記録されたコンピュータ可読な非一時的記録媒体。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、画像処理方法、走査型イメージング方法、画像処理装置、その制御方法、走査型イメージング装置、その制御方法、プログラム、及び記録媒体に関する。
【背景技術】
【0002】
イメージング技術の1つに走査型イメージングがある。走査型イメージングとは、サンプルの複数の箇所に順次にビームを照射してデータを収集し、収集されたデータからサンプルの像を構築する技術である。
【0003】
光を利用した走査型イメージングの典型例として光コヒーレンストモグラフィ(OCT;光干渉断層撮影法)が知られている。OCTは、光散乱媒質をマイクロメートルレベル又はそれ以下の分解能で画像化することが可能な技術であり、医用イメージングや非破壊検査などに応用されている。OCTは、低コヒーレンス干渉法に基づく技術であり、典型的には、光散乱媒質のサンプルへの深達性を担保するために近赤外光を利用する。
【0004】
例えば眼科画像診断ではOCT装置の普及が進んでおり、2次元的なイメージングだけでなく、3次元的なイメージング・構造解析・機能解析なども実用化され、診断の強力なツールとして広く利用されるに至っている。また、眼科分野では、走査型レーザー検眼鏡(SLO)など、OCT以外の走査型イメージングも利用されている。なお、近赤外光以外の波長帯の光(電磁波)や超音波を利用した走査型イメージングも知られている。
【0005】
OCTやSLOで利用される走査モードには様々なものがあるが、モーションアーティファクト補正などを目的とした所謂「リサージュ(Lissajous)スキャン」が近年注目を集めている(例えば、特許文献1~4、非特許文献1及び2を参照)。
【0006】
典型的なリサージュスキャンでは、或る程度の大きさを持つループ(サイクル)を描くように測定光を高速走査するため、1つのサイクルからのデータ取得時間の差を実質的に無視することができ、また、異なるサイクルの交差領域を参照してサイクル間の位置合わせを行えるため、サンプルの動きに起因するアーティファクトを補正することが可能である。このようなリサージュスキャンの特徴に着目し、眼科分野では眼球運動に起因するアーティファクトへの対処を図っている。
【0007】
非特許文献1に記載された技術においては、リサージュスキャンで収集されたデータを比較的大きな動きが介在しない複数のサブボリュームに分割し、各サブボリュームの正面プロジェクション画像(en face projection)を構築する。このような正面プロジェクション画像はストリップと呼ばれる。これらストリップの間のレジストレーションを行うことでモーションアーティファクトが補正された画像が得られる。
【0008】
リサージュスキャンの特性として、2つのストリップは4箇所で重複する(交差する)。非特許文献1に記載された画像処理では、最大のストリップが初期基準ストリップとして採用され、初期基準ストリップに対して大きさ順にストリップが逐次にレジストレーションされ、合成される。レジストレーションでは、基準ストリップと他のストリップとの間の相対位置を求めるために相互相関関数が利用される。なお、ストリップは任意の形状を有するため、各ストリップを特定形状(例えば正方形状)の画像として扱うためのマスクを用いてストリップ間のオーバーラップ領域の相関演算が行われる(非特許文献1のAppendix Aを参照)。
【0009】
ここで、ストリップは所定階調の強度画像であり、マスクは二値データである。そのため、マスクの画素値の絶対値は常に小さい(0又は1)一方で、ストリップの画素値の絶対値は大きくなることがある。その影響により、ストリップとマスクとを用いた相関演算においてマスクの効果が無視され、正しい相関係数が得られない場合がある。特に、ストリップ間の相関係数を求めるために単精度浮動小数点型(フロート型)の演算が採用される場合、有効桁数の少なさに起因する丸め誤差の影響により、この問題が顕著に現れる。
【先行技術文献】
【特許文献】
【0010】
【文献】特開2016-17915号公報
【文献】特開2018-68578号公報
【文献】特開2018-140004号公報
【文献】特開2018-140049号公報
【非特許文献】
【0011】
【文献】Yiwei Chen, Young-Joo Hong, Shuichi Makita, and Yoshiaki Yasuno, ”Three-dimensional eye motion correction by Lissajous scan optical coherence tomography”, Biomedical Optics EXPRESS, Vol. 8, No. 3, 1 Mar 2017, PP. 1783-1802
【文献】Yiwei Chen, Young-Joo Hong, Shuichi Makita, and Yoshiaki Yasuno, ”Eye-motion-corrected optical coherence tomography angiography using Lissajous scanning”, Biomedical Optics EXPRESS, Vol. 9, No. 3, 1 Mar 2018, PP. 1111-1129
【発明の概要】
【発明が解決しようとする課題】
【0012】
この発明の1つの目的は、マスクを用いた画像レジストレーションの正確性を向上させることにある。
【課題を解決するための手段】
【0013】
幾つかの態様は、画像処理方法であって、サンプルの第1画像及び第2画像を準備し、マスク画像を準備し、前記第1画像の画素値の範囲と前記第2画像の画素値の範囲と前記マスク画像の画素値の範囲とを相対的に調整し、前記第1画像及び前記第2画像のそれぞれに前記マスク画像を合成して第1合成画像及び第2合成画像を生成し、前記第1合成画像及び前記第2合成画像に基づいて複数の相互相関関数を求め、前記複数の相互相関関数に基づいて相関係数を算出し、前記相関係数に基づいて前記第1画像と前記第2画像とのレジストレーションを行う。
【0014】
幾つかの態様において、画像処理方法は、前記サンプルの画像の画素値の範囲と前記マスク画像の画素値の範囲との間の差を小さくする。
【0015】
幾つかの態様において、画像処理方法は、前記サンプルの画像及び前記マスク画像の一方の画素値の範囲を他方の画素値の範囲に一致させる。
【0016】
幾つかの態様において、画像処理方法は、前記マスク画像の画素値の範囲に応じて前記サンプルの画像の画素値の範囲を正規化する。
【0017】
幾つかの態様において、前記マスク画像の画素値の範囲は閉区間[0,1]に含まれ、画像処理方法は、前記サンプルの画像の各画素の値を、当該画像における最大画素値で除算する。
【0018】
幾つかの態様において、前記マスク画像の画素値の範囲は閉区間[0,1]に含まれ、画像処理方法は、前記サンプルの画像の各画素の値を、当該画像の画素値の範囲の最大値で除算する。
【0019】
幾つかの態様において、前記マスク画像は、画素値が0又は1の二値画像である。
【0020】
幾つかの態様において、前記マスク画像は、前記サンプルの画像の定義域に対応する領域内の画素の値が1であり、他の画素の値が0である二値画像である。
【0021】
幾つかの態様において、前記マスク画像は、第1マスク画像と第2マスク画像とを含み、画像処理方法は、前記第1マスク画像を前記第1画像に合成して前記第1合成画像を生成し、前記第2マスク画像を前記第2画像に合成して前記第2合成画像を生成する。
【0022】
幾つかの態様において、前記第1マスク画像及び前記第2マスク画像は、同じ寸法及び同じ形状を有する。
【0023】
幾つかの態様において、前記第1マスク画像は、前記第1画像の定義域に対応する領域内の画素の値が1であり、他の画素の値が0である二値画像であり、前記第2マスク画像は、前記第2画像の定義域に対応する領域内の画素の値が1であり、他の画素の値が0である二値画像である。
【0024】
幾つかの態様において、前記第1画像及び前記第2画像のそれぞれは、一連のサイクルを含む2次元パターンに従う走査を前記サンプルに適用して収集されたデータに基づき構築される。
【0025】
幾つかの態様において、前記第1画像及び前記第2画像のそれぞれは、リサージュ関数に基づき予め設定された走査プロトコルに基づく2次元パターンに従う走査を前記サンプルに適用して収集されたデータに基づき構築される。
【0026】
幾つかの態様は、走査型イメージング方法であって、一連のサイクルを含む2次元パターンに従う光走査をサンプルに適用してデータを収集し、前記データに基づいて第1画像及び第2画像を構築し、前記第1画像の画素値の範囲と前記第2画像の画素値の範囲とマスク画像の画素値の範囲とを相対的に調整し、前記第1画像及び前記第2画像のそれぞれに前記マスク画像を合成して第1合成画像及び第2合成画像を生成し、前記第1合成画像及び前記第2合成画像に基づいて複数の相互相関関数を求め、前記複数の相互相関関数に基づいて相関係数を算出し、前記相関係数に基づいて前記第1画像と前記第2画像とのレジストレーションを行い、前記レジストレーションの結果に基づいて前記第1画像と前記第2画像とのマージ画像を構築する。
【0027】
幾つかの態様において、走査型イメージング方法は、前記データに基づいて第3画像を構築し、前記第3画像の画素値の範囲と前記マージ画像の画素値の範囲とマスク画像の画素値の範囲とを相対的に調整し、前記第3画像及び前記マージ画像のそれぞれに当該マスク画像を合成して第3合成画像及び第4合成画像を生成し、前記第3合成画像及び前記第4合成画像に基づいて複数の相互相関関数を求め、当該複数の相互相関関数に基づいて相関係数を算出し、当該相関係数に基づいて前記第3画像と前記第4画像とのレジストレーションを行い、前記レジストレーションの結果に基づいて前記第3画像と前記マージ画像とをマージする。
【0028】
幾つかの態様において、前記一連のサイクルのうちの任意の2つのサイクルは、少なくとも1点で互いに交差し、走査型イメージング方法は、前記一連のサイクルのうちの第1サイクル群に従う光走査で収集された第1データに基づいて前記第1画像を構築し、前記一連のサイクルのうち前記第1サイクル群と異なる第2サイクル群に従う光走査で収集された第2データに基づいて前記第2画像を構築する。
【0029】
幾つかの態様において、走査型イメージング方法は、リサージュ関数に基づき予め設定された走査プロトコルに基づいて前記2次元パターンに従う光走査を行う。
【0030】
幾つかの態様は、画像処理装置であって、サンプルの第1画像及び第2画像を記憶する記憶部と、前記第1画像に応じた第1マスク画像と前記第2画像に応じた第2マスク画像とを生成するマスク画像生成部と、前記第1マスク画像の画素値の範囲及び前記第2マスク画像の画素値の範囲に基づいて前記第1画像の画素値の範囲及び前記第2画像の画素値の範囲を調整する範囲調整部と、前記第1画像に前記第1マスク画像を合成して第1合成画像を生成し、且つ、前記第2画像に前記第2マスク画像を合成して第2合成画像を生成する合成画像生成部と、前記第1合成画像及び前記第2合成画像に基づいて複数の相互相関関数を求める第1算出部と、前記複数の相互相関関数に基づいて相関係数を算出する第2算出部と、前記相関係数に基づいて前記第1画像と前記第2画像とのレジストレーションを行うレジストレーション部とを含む。
【0031】
幾つかの態様において、画像処理装置は、一連のサイクルを含む2次元パターンに従う光走査によりサンプルから収集されたデータを受け付けるデータ受付部と、前記データに基づいて前記第1画像及び前記第2画像を構築する画像構築部とを更に含む。
【0032】
幾つかの態様は、サンプルの第1画像及び第2画像を記憶する記憶部と、プロセッサとを含む画像処理装置を制御する方法であって、前記プロセッサを、前記第1画像に応じた第1マスク画像と前記第2画像に応じた第2マスク画像とを生成し、前記第1マスク画像の画素値の範囲及び前記第2マスク画像の画素値の範囲に基づいて前記第1画像の画素値の範囲及び前記第2画像の画素値の範囲を調整し、前記第1画像に前記第1マスク画像を合成して第1合成画像を生成し、且つ、前記第2画像に前記第2マスク画像を合成して第2合成画像を生成し、前記第1合成画像及び前記第2合成画像に基づいて複数の相互相関関数を求め、前記複数の相互相関関数に基づいて相関係数を算出し、及び、前記相関係数に基づいて前記第1画像と前記第2画像とのレジストレーションを行うように制御する。
【0033】
幾つかの態様は、走査型イメージング装置であって、一連のサイクルを含む2次元パターンに従う光走査をサンプルに適用してデータを収集する走査部と、前記データに基づいて第1画像及び第2画像を構築する画像構築部と、前記第1画像に応じた第1マスク画像と前記第2画像に応じた第2マスク画像とを生成するマスク画像生成部と、前記第1マスク画像の画素値の範囲及び前記第2マスク画像の画素値の範囲に基づいて前記第1画像の画素値の範囲及び前記第2画像の画素値の範囲を調整する範囲調整部と、前記第1画像に前記第1マスク画像を合成して第1合成画像を生成し、且つ、前記第2画像に前記第2マスク画像を合成して第2合成画像を生成する合成画像生成部と、前記第1合成画像及び前記第2合成画像に基づいて複数の相互相関関数を求める第1算出部と、前記複数の相互相関関数に基づいて相関係数を算出する第2算出部と、前記相関係数に基づいて前記第1画像と前記第2画像とのレジストレーションを行うレジストレーション部と、前記レジストレーションの結果に基づいて前記第1画像と前記第2画像とのマージ画像を構築するマージ処理部とを含む。
【0034】
幾つかの態様において、前記走査部は、互いに異なる第1方向及び第2方向に光を偏向可能な偏向器を含み、前記第1方向に沿った偏向方向の変化を第1周期で繰り返しつつ前記第2方向に沿った偏向方向の変化を前記第1周期と異なる第2周期で繰り返すことにより前記2次元パターンに従う光走査を前記サンプルに適用する。
【0035】
幾つかの態様は、サンプルに光走査を適用してデータを収集する走査部と、プロセッサとを含む走査型イメージング装置を制御する方法であって、前記走査部を、一連のサイクルを含む2次元パターンに従う光走査をサンプルに適用してデータを収集するように制御し、前記プロセッサを、前記データに基づいて第1画像及び第2画像を構築し、前記第1画像に応じた第1マスク画像と前記第2画像に応じた第2マスク画像とを生成し、前記第1マスク画像の画素値の範囲及び前記第2マスク画像の画素値の範囲に基づいて前記第1画像の画素値の範囲及び前記第2画像の画素値の範囲を調整し、前記第1画像に前記第1マスク画像を合成して第1合成画像を生成し、且つ、前記第2画像に前記第2マスク画像を合成して第2合成画像を生成し、前記第1合成画像及び前記第2合成画像に基づいて複数の相互相関関数を求め、前記複数の相互相関関数に基づいて相関係数を算出し、前記相関係数に基づいて前記第1画像と前記第2画像とのレジストレーションを行い、及び、前記レジストレーションの結果に基づいて前記第1画像と前記第2画像とのマージ画像を構築するように制御する。
【0036】
幾つかの態様は、上記のいずれかの方法をコンピュータに実行させるプログラムである。
【0037】
幾つかの態様は、上記のいずれかの方法をコンピュータに実行させるプログラムが記録された、コンピュータ可読な非一時的記録媒体である。
【0038】
いずれか2以上の態様を少なくとも部分的に組み合わせることが可能である。また、いずれかの態様に対し、本開示に係る任意の事項を少なくとも部分的に組み合わせることが可能である。また、いずれか2以上の態様の少なくとも部分的な組み合わせに対し、本開示に係る任意の事項を少なくとも部分的に組み合わせることが可能である。
【発明の効果】
【0039】
例示的な態様によれば、マスクを用いた画像レジストレーションの正確性を向上させることが可能である。
【図面の簡単な説明】
【0040】
図1】例示的な実施形態に係る走査型イメージング装置(眼科装置)の構成の一例を表す概略図である。
図2】例示的な実施形態に係る走査型イメージング装置(眼科装置)の構成の一例を表す概略図である。
図3】例示的な実施形態に係る走査型イメージング装置(眼科装置)の構成の一例を表す概略図である。
図4A】例示的な実施形態に係る走査型イメージング装置(眼科装置)の構成の一例を表す概略図である。
図4B】例示的な実施形態に係る走査型イメージング装置(眼科装置)の構成の一例を表す概略図である。
図5】例示的な実施形態に係る走査型イメージング装置(眼科装置)が実行するリサージュスキャンのパターンの例を示す概略図である。
図6】例示的な実施形態に係る走査型イメージング装置(眼科装置)の動作の一例を表すフローチャートである。
図7A】例示的な実施形態に係る走査型イメージング装置(眼科装置)の動作の一例を説明するための図である。
図7B】例示的な実施形態に係る走査型イメージング装置(眼科装置)の動作の一例を説明するための図である。
図7C】例示的な実施形態に係る走査型イメージング装置(眼科装置)の動作の一例を説明するための図である。
【発明を実施するための形態】
【0041】
幾つかの例示的な実施形態に係る画像処理方法、走査型イメージング方法、画像処理装置、その制御方法、走査型イメージング装置、その制御方法、プログラム、及び記録媒体について、図面を参照しながら説明する。
【0042】
本明細書にて引用された文献に開示された技術や、それ以外の任意の公知技術を、例示的な実施形態に援用することが可能である。また、特に言及しない限り、「画像データ」とそれに基づく「画像」とを区別せず、被検眼の「部位」とその「画像」とを区別しないものとする。
【0043】
以下に説明する例示的な実施形態に係る走査型イメージング装置は、フーリエドメインOCT(例えば、スウェプトソースOCT)を利用して生体眼の眼底を計測することが可能な眼科装置である。実施形態に採用可能なOCTのタイプは、スウェプトソースOCTに限定されず、例えばスペクトラルドメインOCT又はタイムドメインOCTであってもよい。
【0044】
幾つかの例示的な実施形態に係る走査型イメージング装置は、OCT以外の走査型モダリティを利用可能であってよい。例えば、幾つかの例示的な実施形態は、SLO等の任意の光走査型モダリティを採用することができる。
【0045】
また、幾つかの例示的な実施形態に係る走査型イメージング装置に適用可能な走査型モダリティは、光走査型モダリティには限定されない。例えば、幾つかの例示的な実施形態は、光以外の電磁波を利用した走査型モダリティや、超音波を利用した走査型モダリティなどを採用することができる。
【0046】
幾つかの例示的な実施形態に係る眼科装置は、OCTスキャンで収集されたデータの処理及び/又はSLOで収集されたデータの処理に加え、他のモダリティで取得されたデータを処理可能であってよい。他のモダリティは、例えば、眼底カメラ、スリットランプ顕微鏡、及び眼科手術用顕微鏡のいずれかであってよい。幾つかの例示的な実施形態に係る眼科装置は、このようなモダリティの機能を有していてよい。
【0047】
OCTが適用される対象(サンプル)は眼底に限定されず、前眼部や硝子体など眼の任意の部位であってもよいし、眼以外の生体の部位や組織であってもよいし、生体以外の物体であってもよい。
【0048】
以下に説明する例示的な実施形態に係る眼科装置は、走査型イメージング装置の幾つかの態様、走査型イメージング装置を制御する方法の幾つかの態様、画像処理装置の幾つかの態様、画像処理装置を制御する方法の幾つかの態様、画像処理方法の幾つかの態様、及び、走査型イメージング方法の幾つかの態様を提供する。
【0049】
〈走査型イメージング装置の構成〉
図1に示す眼科装置1は、眼底カメラユニット2、OCTユニット100、及び演算制御ユニット200を含む。眼底カメラユニット2には、被検眼Eを正面から撮影するための要素群(光学要素、機構など)が設けられている。OCTユニット100には、被検眼EにOCTスキャンを適用するための要素群(光学要素、機構など)の一部が設けられている。OCTスキャンのための要素群の他の一部は、眼底カメラユニット2に設けられている。演算制御ユニット200は、各種の演算や制御を実行する1以上のプロセッサを含む。これらに加え、眼科装置1は、被検者の顔を支持するための要素や、OCTスキャンが適用される部位を切り替えるための要素を備えていてもよい。前者の要素の例として、顎受けや額当てがある。後者の要素の例として、OCTスキャン適用部位を眼底から前眼部に切り替えるために使用されるレンズユニットがある。
【0050】
本明細書に開示された要素の機能は、回路構成(circuitry)又は処理回路構成(processing circuitry)を用いて実装される。回路構成又は処理回路構成は、開示された機能を実行するように構成及び/又はプログラムされた、汎用プロセッサ、専用プロセッサ、集積回路、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、ASIC(Application Specific Integrated Circuit)、プログラマブル論理デバイス(例えば、SPLD(Simple Programmable Logic Device)、CPLD(Complex Programmable Logic Device)、FPGA(Field Programmable Gate Array)、従来の回路構成、及びそれらの任意の組み合わせのいずれかを含む。プロセッサは、トランジスタ及び/又は他の回路構成を含む、処理回路構成又は回路構成とみなされる。本開示において、回路構成、ユニット、手段、又はこれらに類する用語は、開示された機能を実行するハードウェア、又は、開示された機能を実行するようにプログラムされたハードウェアである。ハードウェアは、本明細書に開示されたハードウェアであってよく、或いは、記載された機能を実行するようにプログラム及び/又は構成された既知のハードウェアであってもよい。ハードウェアが或るタイプの回路構成とみなされ得るプロセッサである場合、回路構成、ユニット、手段、又はこれらに類する用語は、ハードウェアとソフトウェアとの組み合わせであり、このソフトウェアはハードウェア及び/又はプロセッサを構成するために使用される。
【0051】
〈眼底カメラユニット2〉
眼底カメラユニット2には、被検眼Eの眼底Efを撮影するための光学系が設けられている。取得される眼底Efの画像(眼底像、眼底写真等と呼ばれる)は、観察画像、撮影画像等の正面画像である。観察画像は、例えば近赤外光を用いた動画撮影により得られ、アライメント、フォーカシング、トラッキングなどに利用される。撮影画像は、例えば可視領域又は赤外領域のフラッシュ光を用いた静止画像である。
【0052】
眼底カメラユニット2は、照明光学系10と撮影光学系30とを含む。照明光学系10は被検眼Eに照明光を照射する。撮影光学系30は、被検眼Eからの照明光の戻り光を検出する。OCTユニット100からの測定光は、眼底カメラユニット2内の光路を通じて被検眼Eに導かれ、その戻り光は、同じ光路を通じてOCTユニット100に導かれる。
【0053】
照明光学系10の観察光源11から出力された光(観察照明光)は、凹面鏡12により反射され、集光レンズ13を経由し、可視カットフィルタ14を透過して近赤外光となる。更に、観察照明光は、撮影光源15の近傍にて一旦集束し、ミラー16により反射され、リレーレンズ系17、リレーレンズ18、絞り19、及びリレーレンズ系20を経由する。そして、観察照明光は、孔開きミラー21の周辺部(孔部の周囲の領域)にて反射され、ダイクロイックミラー46を透過し、対物レンズ22により屈折されて被検眼E(眼底Ef)を照明する。観察照明光の被検眼Eからの戻り光は、対物レンズ22により屈折され、ダイクロイックミラー46を透過し、孔開きミラー21の中心領域に形成された孔部を通過し、ダイクロイックミラー55を透過し、撮影合焦レンズ31を経由し、ミラー32により反射される。更に、この戻り光は、ハーフミラー33Aを透過し、ダイクロイックミラー33により反射され、結像レンズ34によりイメージセンサ35の受光面に結像される。イメージセンサ35は、所定のフレームレートで戻り光を検出する。なお、撮影光学系30のフォーカス(焦点位置)は、眼底Ef又は前眼部に合致するように調整される。
【0054】
撮影光源15から出力された光(撮影照明光)は、観察照明光と同様の経路を通って眼底Efに照射される。被検眼Eからの撮影照明光の戻り光は、観察照明光の戻り光と同じ経路を通ってダイクロイックミラー33まで導かれ、ダイクロイックミラー33を透過し、ミラー36により反射され、結像レンズ37によりイメージセンサ38の受光面に結像される。
【0055】
液晶ディスプレイ(LCD)39は固視標(固視標画像)を表示する。LCD39から出力された光束は、その一部がハーフミラー33Aに反射され、ミラー32に反射され、撮影合焦レンズ31及びダイクロイックミラー55を経由し、孔開きミラー21の孔部を通過する。孔開きミラー21の孔部を通過した光束は、ダイクロイックミラー46を透過し、対物レンズ22により屈折されて眼底Efに投射される。LCD39における固視標画像の表示位置を変更することで、被検眼Eの視線を誘導する方向(固視方向、固視位置)が変更される。
【0056】
LCD等の表示デバイスの代わりに、例えば、発光素子アレイ、又は、発光素子とこれを移動する機構との組み合わせを用いてもよい。
【0057】
アライメント光学系50は、被検眼Eに対する光学系の位置合わせ(アライメント)に用いられるアライメント指標を生成する。発光ダイオード(LED)51から出力されたアライメント光は、絞り52、絞り53、及びリレーレンズ54を経由し、ダイクロイックミラー55により反射され、孔開きミラー21の孔部を通過し、ダイクロイックミラー46を透過し、対物レンズ22を介して被検眼Eに投射される。アライメント光の被検眼Eからの戻り光(角膜反射光等)は、観察照明光の戻り光と同じ経路を通ってイメージセンサ35に導かれる。その受光像(アライメント指標像)に基づいてマニュアルアライメントやオートアライメントを実行できる。
【0058】
従来と同様に、本例のアライメント指標像は、アライメント状態により位置が変化する2つの輝点像からなる。被検眼Eと光学系との相対位置がxy方向に変化すると、2つの輝点像が一体的にxy方向に変位する。被検眼Eと光学系との相対位置がz方向に変化すると、2つの輝点像の間の相対位置(距離)が変化する。z方向における被検眼Eと光学系との間の距離が既定のワーキングディスタンスに一致すると、2つの輝点像が重なり合う。xy方向において被検眼Eの位置と光学系の位置とが一致すると、所定のアライメントターゲット内又はその近傍に2つの輝点像が提示される。z方向における被検眼Eと光学系との間の距離がワーキングディスタンスに一致し、且つ、xy方向において被検眼Eの位置と光学系の位置とが一致すると、2つの輝点像が重なり合ってアライメントターゲット内に提示される。
【0059】
オートアライメントでは、データ処理部230が、2つの輝点像の位置を検出し、主制御部211が、2つの輝点像とアライメントターゲットとの位置関係に基づいて後述の移動機構150を制御する。マニュアルアライメントでは、主制御部211が、被検眼Eの観察画像とともに2つの輝点像を表示部241に表示させ、ユーザーが、表示された2つの輝点像を参照しながら操作部242を用いて移動機構150を動作させる。
【0060】
フォーカス光学系60は、被検眼Eに対するフォーカス調整に用いられるスプリット指標を生成する。撮影光学系30の光路(撮影光路)に沿った撮影合焦レンズ31の移動に連動して、フォーカス光学系60は照明光学系10の光路(照明光路)に沿って移動される。反射棒67は、照明光路に対して挿脱される。フォーカス調整を行う際には、反射棒67の反射面が照明光路に傾斜配置される。LED61から出力されたフォーカス光は、リレーレンズ62を通過し、スプリット指標板63により2つの光束に分離され、二孔絞り64を通過し、ミラー65により反射され、集光レンズ66により反射棒67の反射面に一旦結像されて反射される。更に、フォーカス光は、リレーレンズ20を経由し、孔開きミラー21に反射され、ダイクロイックミラー46を透過し、対物レンズ22を介して被検眼Eに投射される。フォーカス光の被検眼Eからの戻り光(眼底反射光等)は、アライメント光の戻り光と同じ経路を通ってイメージセンサ35に導かれる。その受光像(スプリット指標像)に基づいてマニュアルフォーカシングやオートフォーカシングを実行できる。
【0061】
孔開きミラー21とダイクロイックミラー55との間の撮影光路に、視度補正レンズ70及び71を選択的に挿入することができる。視度補正レンズ70は、強度遠視を補正するためのプラスレンズ(凸レンズ)である。視度補正レンズ71は、強度近視を補正するためのマイナスレンズ(凹レンズ)である。
【0062】
ダイクロイックミラー46は、眼底撮影用光路とOCT用光路(測定アーム)とを合成する。ダイクロイックミラー46は、OCTに用いられる波長帯の光を反射し、眼底撮影用の光を透過させる。測定アームには、OCTユニット100側から順に、コリメータレンズユニット40、リトロリフレクタ41、分散補償部材42、OCT合焦レンズ43、光スキャナ44、及びリレーレンズ45が設けられている。
【0063】
リトロリフレクタ41は、図1に示す矢印の方向に移動可能とされ、それにより測定アームの長さが変更される。測定アーム長の変更は、例えば、眼軸長に応じた光路長補正や、干渉状態の調整などに利用される。
【0064】
分散補償部材42は、参照アームに配置された分散補償部材113(後述)とともに、測定光LSの分散特性と参照光LRの分散特性とを合わせるよう作用する。
【0065】
OCT合焦レンズ43は、測定アームのフォーカス調整を行うために測定アームに沿って移動される。撮影合焦レンズ31の移動、フォーカス光学系60の移動、及びOCT合焦レンズ43の移動を連係的に制御することができる。
【0066】
光スキャナ44は、実質的に、被検眼Eの瞳孔と光学的に共役な位置に配置される。光スキャナ44は、測定アームにより導かれる測定光LSを偏向する。光スキャナ44は、例えば、x方向のスキャンを行うためのガルバノミラーと、y方向のスキャンを行うためのガルバノミラーとを含む、2次元スキャンが可能なガルバノスキャナである。
【0067】
〈OCTユニット100〉
図2に例示するように、OCTユニット100には、スウェプトソースOCTを適用するための光学系が設けられている。この光学系は干渉光学系を含む。この干渉光学系は、波長可変光源(波長掃引型光源)からの光を測定光と参照光とに分割し、被検眼Eからの測定光の戻り光と参照光路を経由した参照光とを重ね合わせて干渉光を生成し、この干渉光を検出する。干渉光学系により得られたデータ(検出信号)は、干渉光のスペクトルを表す信号であり、演算制御ユニット200に送られる。
【0068】
光源ユニット101は、例えば、少なくとも近赤外波長帯において出射波長を高速で変化させる近赤外波長可変レーザーを含む。光源ユニット101から出力された光L0は、光ファイバ102により偏波コントローラ103に導かれてその偏光状態が調整される。更に、光L0は、光ファイバ104によりファイバカプラ105に導かれて測定光LSと参照光LRとに分割される。測定光LSの光路は測定アームと呼ばれ、参照光LRの光路は参照アームと呼ばれる。
【0069】
参照光LRは、光ファイバ110によりコリメータ111に導かれて平行光束に変換され、光路長補正部材112及び分散補償部材113を経由し、リトロリフレクタ114に導かれる。光路長補正部材112は、参照光LRの光路長と測定光LSの光路長とを合わせるよう作用する。分散補償部材113は、測定アームに配置された分散補償部材42とともに、参照光LRと測定光LSとの間の分散特性を合わせるよう作用する。リトロリフレクタ114は、これに入射する参照光LRの光路に沿って移動可能であり、それにより参照アームの長さが変更される。参照アーム長の変更は、例えば、眼軸長に応じた光路長補正や、干渉状態の調整などに利用される。
【0070】
リトロリフレクタ114を経由した参照光LRは、分散補償部材113及び光路長補正部材112を経由し、コリメータ116によって平行光束から集束光束に変換され、光ファイバ117に入射する。光ファイバ117に入射した参照光LRは、偏波コントローラ118に導かれてその偏光状態が調整され、光ファイバ119を通じてアッテネータ120に導かれてその光量が調整され、光ファイバ121を通じてファイバカプラ122に導かれる。
【0071】
一方、ファイバカプラ105により生成された測定光LSは、光ファイバ127により導かれてコリメータレンズユニット40により平行光束に変換され、リトロリフレクタ41、分散補償部材42、OCT合焦レンズ43、光スキャナ44及びリレーレンズ45を経由し、ダイクロイックミラー46により反射され、対物レンズ22により屈折されて被検眼Eに投射される。測定光LSは、被検眼Eの様々な深さ位置において散乱・反射される。測定光LSの被検眼Eからの戻り光は、往路と同じ経路を逆向きに進行してファイバカプラ105に導かれ、光ファイバ128を経由してファイバカプラ122に到達する。
【0072】
ファイバカプラ122は、光ファイバ128を介して入射された測定光LSと、光ファイバ121を介して入射された参照光LRとを重ね合わせて干渉光を生成する。ファイバカプラ122は、生成された干渉光を所定の分岐比(例えば1:1)で分岐することで一対の干渉光LCを生成する。一対の干渉光LCは、それぞれ光ファイバ123及び124を通じて検出器125に導かれる。
【0073】
検出器125は、例えばバランスドフォトダイオードを含む。バランスドフォトダイオードは、一対の干渉光LCをそれぞれ検出する一対のフォトディテクタを有し、これらにより得られた一対の検出結果の差分を出力する。検出器125は、この出力(検出信号)をデータ収集システム(DAS)130に送る。
【0074】
データ収集システム130には、光源ユニット101からクロックKCが供給される。クロックKCは、光源ユニット101において、波長可変光源により所定の波長範囲内で掃引される各波長の出力タイミングに同期して生成される。光源ユニット101は、例えば、各出力波長の光L0を分岐して2つの分岐光を生成し、これら分岐光の一方を光学的に遅延させ、これら分岐光を合成し、得られた合成光を検出し、その検出結果に基づいてクロックKCを生成する。データ収集システム130は、検出器125から入力される検出信号のサンプリングをクロックKCに基づいて実行する。データ収集システム130は、このサンプリングの結果を演算制御ユニット200に送る。
【0075】
本例では、測定アーム長を変更するための要素(例えば、リトロリフレクタ41)と、参照アーム長を変更するための要素(例えば、リトロリフレクタ114、又は参照ミラー)との双方が設けられているが、一方の要素のみが設けられていてもよい。また、測定アーム長と参照アーム長との間の差(光路長差)を変更するための要素はこれらに限定されず、任意の要素(光学部材、機構など)であってよい。
【0076】
〈制御系・処理系〉
眼科装置1の制御系及び処理系の構成例を図3図4A及び図4Bに示す。制御部210、画像構築部220、及びデータ処理部230は、例えば演算制御ユニット200に設けられる。眼科装置1は、外部装置との間でデータ通信を行うための通信デバイスを含んでいてもよい。眼科装置1は、記録媒体からのデータ読み出しと、記録媒体へのデータ書き込みとを行うためのドライブ装置(リーダ/ライタ)を含んでいてもよい。
【0077】
〈制御部210〉
制御部210は、各種の制御を実行する。制御部210は、主制御部211と記憶部212とを含む。また、図4Aに示すように、本実施形態において、主制御部211は走査制御部2111を含み、記憶部212は走査プロトコル2121を記憶している。
【0078】
〈主制御部211〉
主制御部211は、プロセッサを含み、眼科装置1の各要素(図1図4Bに示された要素を含む)を制御する。主制御部211は、プロセッサを含むハードウェアと、制御ソフトウェアとの協働によって実現される。走査制御部2111は、所定形状及び所定サイズの走査エリアに関するOCTスキャンの制御を行う。
【0079】
撮影合焦駆動部31Aは、主制御部211の制御の下に、撮影光路に配置された撮影合焦レンズ31と照明光路に配置されたフォーカス光学系60とを移動する。リトロリフレクタ(RR)駆動部41Aは、主制御部211の制御の下に、測定アームに設けられたリトロリフレクタ41を移動する。OCT合焦駆動部43Aは、主制御部211の制御の下に、測定アームに配置されたOCT合焦レンズ43を移動する。測定アームに設けられたリトロリフレクタ(RR)駆動部114Aは、主制御部211の制御の下に、参照アームに配置されたリトロリフレクタ114を移動する。上記した駆動部のそれぞれは、主制御部211の制御の下に動作するパルスモータ等のアクチュエータを含む。光スキャナ44は、主制御部211(走査制御部2111)の制御の下に動作する。
【0080】
移動機構150は、典型的には、眼底カメラユニット2を3次元的に移動し、例えば、±x方向(左右方向)に移動可能なxステージと、xステージを移動するx移動機構と、±y方向(上下方向)に移動可能なyステージと、yステージを移動するy移動機構と、±z方向(奥行き方向)に移動可能なzステージと、zステージを移動するz移動機構とを含む。各移動機構は、主制御部211の制御の下に動作するパルスモータ等のアクチュエータを含む。
【0081】
〈記憶部212〉
記憶部212は各種のデータを記憶する。記憶部212に記憶されるデータとしては、OCT画像、眼底像、被検眼情報、制御情報などがある。被検眼情報は、患者IDや氏名などの被検者情報や、左眼/右眼の識別情報や、電子カルテ情報などを含む。制御情報は、特定の制御に関する情報である。本実施形態の制御情報は、走査プロトコル2121を含む。
【0082】
走査プロトコル2121は、所定形状及び所定サイズの走査エリアに関するOCTスキャンのための制御の内容に関する取り決めであり、各種制御パラメータ(走査制御パラメータ)の組を含む。走査プロトコル2121は、走査モード毎のプロトコルを含む。本実施形態の走査プロトコル2121は、リサージュスキャンのプロトコルを少なくとも含み、更に、例えば、Bスキャン(ラインスキャン)、クロススキャン、ラジアルスキャン、ラスタースキャンなどのプロトコルを含んでいてもよい。
【0083】
本実施形態の走査制御パラメータは、光スキャナ44に対する制御の内容を示すパラメータを少なくとも含む。このパラメータは、例えば、スキャンパターンを示すパラメータ、スキャン速度を示すパラメータ、スキャン間隔を示すパラメータなどがある。スキャンパターンは、スキャンの経路の形状を示し、その例として、リサージュパターン、ラインパターン、クロスパターン、ラジアルパターン、ラスターパターンなどがある。スキャン速度は、例えば、Aスキャンの繰り返しレートとして定義される。スキャン間隔は、例えば、隣接するAスキャンの間隔として、つまりスキャン点の配列間隔として定義される。
【0084】
なお、特許文献1~4並びに非特許文献1及び2の開示のような従来技術と同様に、本実施形態の「リサージュスキャン」は、互いに直交する2つの単振動を順序対として得られる点の軌跡が描くパターン(リサージュパターン、リサージュ図形、リサージュ曲線、リサージュ関数、バウディッチ曲線)を経路とした「狭義の」リサージュスキャンだけでなく、一連のサイクルを含む所定の2次元パターンに従う「広義の」リサージュスキャンであってもよい。
【0085】
本実施形態では、光スキャナ44は、x方向に測定光LSを偏向する第1ガルバノミラーと、y方向に測定光LSを偏向する第2ガルバノミラーとを含む。リサージュスキャンは、x方向に沿った偏向方向の変化を第1周期で繰り返すように第1ガルバノミラーの制御を行いつつ、y方向に沿った偏向方向の変化を第2周期で繰り返すように第2ガルバノミラーの制御を行うことによって実現される。ここで、第1周期と第2周期とは互いに異なる。
【0086】
例えば、本実施形態のリサージュスキャンは、2つの正弦波の組み合わせから得られる狭義のリサージュパターンのスキャンだけでなく、これに特定項(例えば、奇数次の多項式)を加えたパターンのスキャンや、三角波に基づくパターンのスキャンであってもよい。
【0087】
「サイクル」は、一般に、或る長さを持つ複数のサンプリング点から構成されるオブジェクトを意味し、例えば閉曲線又はほぼ閉曲線であってよい(つまり、サイクルの始点と終点とが一致又はほぼ一致していてよい)。
【0088】
典型的には、走査プロトコル2121はリサージュ関数に基づき設定される。非特許文献1の式(9)に示すように、リサージュ関数は、例えば、次のパラメトリック方程式系で表現される:x(ti)=A・cos(2π・(fA/n)・ti)、y(ti)=A・cos(2π・(fA・(n-2)/n2)・ti)。
【0089】
ここで、xはリサージュ曲線が定義される2次元座標系の横軸、yは縦軸、tiはリサージュスキャンにおける第i番目のAラインの収集時点、Aはスキャン範囲(振幅)、fAはAラインの収集レート(スキャン速度、Aスキャンの繰り返しレート)、nはx(横軸)方向の各サイクルにおけるAラインの個数をそれぞれ示す。
【0090】
このようなリサージュスキャンにおいて眼底Efに適用されるスキャンラインの分布の例を図5に示す。
【0091】
(狭義又は広義の)リサージュスキャンに含まれる任意のサイクル対(ペア)が1点以上(特に2点以上)で互いに交差するため、リサージュスキャンにおける任意のサイクル対から収集されたデータ対の間のレジストレーションを行うことができる。これにより、非特許文献1(又は2)に開示された画像構築手法及びモーションアーティファクト補正手法を利用することが可能となる。以下、特に言及しない限り、非特許文献1に記載された手法が適用される。
【0092】
記憶部212に記憶される制御情報は上記の例に限定されない。例えば、制御情報はフォーカス制御を行うための情報(フォーカス制御パラメータ)を含んでいてよい。
【0093】
フォーカス制御パラメータは、OCT合焦駆動部43Aに対する制御の内容を示すパラメータである。フォーカス制御パラメータの例として、測定アームの焦点位置を示すパラメータ、焦点位置の移動速度を示すパラメータ、焦点位置の移動加速度を示すパラメータなどがある。焦点位置を示すパラメータは、例えば、OCT合焦レンズ43の位置を示すパラメータである。焦点位置の移動速度を示すパラメータは、例えば、OCT合焦レンズ43の移動速度を示すパラメータである。焦点位置の移動加速度を示すパラメータは、例えば、OCT合焦レンズ43の移動加速度を示すパラメータである。移動速度は、一定であってもよいし、一定でなくてもよい。移動加速度についても同様である。
【0094】
このようなフォーカス制御パラメータによれば、眼底Efの形状(典型的には、中心部が深く且つ周辺部が浅い凹形状)や収差分布に応じたフォーカス調整が可能になる。フォーカス制御は、例えば、走査制御(リサージュスキャンの繰り返し制御)と連係的に実行される。それにより、モーションアーティファクトが補正され、且つ、スキャン範囲の全体に亘ってピントが合った、高品質の画像が得られる。
【0095】
〈走査制御部2111〉
走査制御部2111は、走査プロトコル2121に基づいて少なくとも光スキャナ44を制御する。走査制御部2111は、走査プロトコル2121に基づく光スキャナ44の制御と連係して光源ユニット101の制御を更に実行してもよい。走査制御部2111は、プロセッサを含むハードウェアと、走査プロトコル2121を含む走査制御ソフトウェアとの協働によって実現される。
【0096】
〈画像構築部220〉
画像構築部220は、プロセッサを含み、データ収集システム130から入力された信号(サンプリングデータ)に基づいて、眼底EfのOCT画像データを構築する。このOCT画像データ構築は、従来のフーリエドメインOCT(スウェプトソースOCT)と同様に、ノイズ除去(ノイズ低減)、フィルタリング、高速フーリエ変換(FFT)などを含む。他のタイプのOCT手法が採用される場合、画像構築部220は、そのタイプに応じた公知の処理を実行することによってOCT画像データを構築する。
【0097】
前述したように、本実施形態ではリサージュスキャンが眼底Efに適用される。画像構築部220は、データ処理部230とともに、リサージュスキャンによる収集とデータ収集システム130によるサンプリングとを介して取得されたデータに対し、例えば非特許文献1又は2に開示された画像構築手法及びモーションアーティファクト補正手法を適用することによって、眼底Efの3次元画像データを構築する。
【0098】
画像構築部220(及び/又はデータ処理部230)は、3次元画像データにレンダリングを適用して表示用画像を形成することができる。適用可能なレンダリング法の例として、ボリュームレンダリング、サーフェスレンダリング、最大値投影(MIP)、最小値投影(MinIP)、多断面再構成(MPR)などがある。
【0099】
画像構築部220(及び/又はデータ処理部230)は、3次元画像データに基づいてOCT正面画像(enface OCT image)を構築することが可能である。例えば、画像構築部220(及び/又はデータ処理部230)は、3次元画像データをz方向(Aライン方向、深さ方向)に投影することでプロジェクションデータを構築することができる。また、画像構築部220(及び/又はデータ処理部230)は、3次元画像データの一部である部分的3次元画像データをz方向に投影することでシャドウグラムを構築することができる。この部分的3次元画像データは、例えば、セグメンテーションを利用して設定される。セグメンテーションは、画像中の部分領域を特定する処理である。本例では、眼底Efの所定組織に相当する画像領域を特定するためにセグメンテーションを行うことができる。
【0100】
眼科装置1は、OCT血管造影(OCT-Angiography)を実施可能であってよい。OCT血管造影は、血管が強調された画像を構築するイメージング技術である(例えば、非特許文献2、特表2015-515894号公報などを参照)。一般に、眼底組織(構造)は時間的に変化しないが、血管内部の血流部分は時間的に変化する。OCT血管造影では、このような時間的変化が存在する部分(血流信号)を強調して画像を生成する。なお、OCT血管造影は、OCTモーションコントラスト撮影(motion contrast imaging)などとも呼ばれる。また、OCT血管造影により取得される画像は、血管造影画像、アンジオグラム(angiogram)、モーションコントラスト画像などと呼ばれる。
【0101】
OCT血管造影が実施される場合、眼科装置1は、眼底Efの同じ領域を所定回数だけ繰り返しスキャンする。例えば、眼科装置1は、前述した走査制御(リサージュスキャンの繰り返し制御)を所定回数だけ繰り返し実施する。それにより、リサージュスキャンの適用領域に対応する複数の3次元データ(3次元データセット)がデータ収集システム130によって収集される。画像構築部220及び/又はデータ処理部230は、この3次元データセットからモーションコントラスト画像を構築することができる。このモーションコントラスト画像は、眼底Efの血流に起因する干渉信号の時間的変化が強調された血管造影画像である。この血管造影画像は、眼底Efの血管の3次元的な分布を表現した3次元血管造影画像データである。
【0102】
画像構築部220及び/又はデータ処理部230は、この3次元血管造影画像データから、任意の2次元血管造影画像データ及び/又は任意の擬似的3次元血管造影画像データを構築することが可能である。例えば、画像構築部220は、3次元血管造影画像データに多断面再構成を適用することにより、眼底Efの任意の断面を表す2次元血管造影画像データを構築することができる。また、画像構築部220は、3次元血管造影画像データにプロジェクション画像化又はシャドウグラム化を適用することにより、眼底Efの正面血管造影画像データを構築することができる。
【0103】
本実施形態において、画像構築部220は、データ収集システム130により収集されたデータから複数のストリップを構築する。非特許文献1に記載されているように、画像構築部220は、リサージュスキャンで収集されたボリューム(3次元データ)を比較的大きな動きが介在しない複数のサブボリュームに分割し、各サブボリュームの正面プロジェクション画像(en face projection)を構築する。この正面プロジェクション画像がストリップである。このようにして得られた複数のストリップに対してレジストレーション及びマージ処理を適用することにより、モーションアーティファクトが補正された画像が得られる。後述するように、レジストレーション及びマージ処理は、データ処理部230によって実行される。
【0104】
画像構築部220は、プロセッサを含むハードウェアと、画像構築ソフトウェアとの協働によって実現される。
【0105】
〈データ処理部230〉
データ処理部230は、プロセッサを含み、被検眼Eの画像に対して各種のデータ処理を適用する。例えば、データ処理部230は、プロセッサを含むハードウェアと、データ処理ソフトウェアとの協働によって実現される。
【0106】
データ処理部230は、眼底Efについて取得された2つの画像の間の位置合わせ(レジストレーション)を行うように構成されてよい。例えば、データ処理部230は、OCTで取得された3次元画像データと、眼底カメラユニット2により取得された正面画像との間のレジストレーションを行うように構成される。また、データ処理部230は、OCTで取得された2つのOCT画像の間のレジストレーションを行うように構成される。また、データ処理部230は、眼底カメラユニット2により取得された2つの正面画像の間のレジストレーションを行うように構成される。また、OCT画像の解析結果や、正面画像の解析結果に対してレジストレーションを適用するように構成されてもよい。これらのレジストレーションは、公知の手法によって実行可能であり、例えば特徴点抽出とアフィン変換とを含む。
【0107】
更に、データ処理部230は、リサージュスキャンを用いて得られたデータを処理するように構成される。前述したように、画像構築部220は、リサージュスキャンで収集されたデータから複数のストリップを構築する。データ処理部230は、これらストリップに対してレジストレーション及びマージ処理を適用することにより、モーションアーティファクトが補正された画像を構築する。
【0108】
リサージュスキャンの特性として、任意の2つのストリップはオーバーラップ領域を有する。非特許文献1に記載された手法と同様に、データ処理部230は、ストリップ間のオーバーラップを利用してストリップ間のレジストレーションを行うように構成される。データ処理部230は、まず、画像構築部220により構築された複数のストリップを大きさ(面積等)に従って順序付け(第1~第Nのストリップ)、最大のストリップである第1のストリップを初期基準ストリップに指定する。次に、データ処理部230は、第1のストリップを基準として第2のストリップのレジストレーションを行い、第1のストリップと第2のストリップとをマージする(合成する)。データ処理部230は、これにより得られたマージストリップを基準として第3のストリップのレジストレーションを行い、このマージストリップと第3のストリップとをマージする。このようなレジストレーション及びマージ処理を上記順序に従って順次に実行することにより第1~第Nのストリップの位置合わせ及び貼り合わせがなされ、モーションアーティファクトが補正された画像が得られる。
【0109】
このようなレジストレーションでは、基準ストリップと他のストリップとの間の相対位置を求めるために相互相関関数が利用されるが、ストリップは任意の形状を有するため、各ストリップを特定形状(例えば正方形状)の画像として扱うためのマスクを用いてストリップ間の相関演算が行われる(非特許文献1のAppendix Aを参照)。
【0110】
前述したように、ストリップは所定階調の強度画像であり、マスク画像は二値画像であるため、ストリップの画素値の絶対値とマスクの画素値の絶対値との差が大きくなり、ストリップとマスクとを用いた相関演算におけるマスクの効果が無視されて正しい相関係数が得られないおそれがある。特に、コスト等の観点から、ストリップ間の相関係数を求めるために単精度浮動小数点型(フロート型)の演算を採用した場合、有効桁数の少なさに起因する丸め誤差の影響により、この問題が顕著に現れる。
【0111】
この問題に対処するために、本実施形態では、図4Bに示す構成を有するデータ処理部230が採用される。本例のデータ処理部230は、マスク画像生成部231と、範囲調整部232と、合成画像生成部233と、相互相関関数算出部234と、相関係数算出部235と、レジストレーション部236と、マージ処理部237とを含む。以下に説明する例では、任意の2つのストリップを考慮し、その一方が基準ストリップ(reference strip)に指定され、この基準ストリップに対して他方のストリップ(対象ストリップ;registering strip)がレジストレーションされる。
【0112】
〈マスク画像生成部231〉
マスク画像生成部231は、基準ストリップに応じた基準マスク画像と、対象ストリップに応じた対象マスク画像とを生成する。マスク画像の幾つかの例を以下に説明するが、これらに限定されるものではない。
【0113】
マスク画像の輪郭形状は、例えば矩形であり、典型的には正方形である。基準マスク画像の形状と対象マスク画像の形状とは同じであってよい。また、基準マスク画像の寸法と対象マスク画像の寸法とは同じであってよい。
【0114】
マスク画像の画素値の範囲は、例えば閉区間[0,1]に含まれるように設定される。典型的には、マスク画像は、画素値が0又は1の二値画像であってよい。具体例として、マスク画像は、ストリップの定義域に対応する領域内の画素の値が1であり、他の画素の値が0である二値画像である。換言すると、非特許文献1の式(20)に示すように、例示的なマスク画像の画素値は、対応するストリップの画像エリアにおける値が1であり、他のエリアにおける値が0である。
【0115】
〈範囲調整部232〉
範囲調整部232は、基準マスク画像の画素値の範囲と、対象マスク画像の画素値の範囲とに基づいて、基準ストリップの画素値の範囲と、対象ストリップの画素値の範囲とを調整するように構成される。典型的には、範囲調整部232は、ストリップの画素値の範囲とマスク画像の画素値の範囲との間の差を小さくするように、基準ストリップの画素値の範囲及び対象ストリップの画素値の範囲の調整を行う。
【0116】
一般に、範囲調整部232は、基準ストリップの画素値の範囲と、対象ストリップの画素値の範囲と、マスク画像の画素値の範囲とを相対的に調整する。典型的な例では、基準ストリップに適用される基準マスク画像と、対象ストリップに適用される対象マスク画像とは異なり、範囲調整部232は、基準ストリップの画素値の範囲と、対象ストリップの画素値の範囲と、基準マスク画像の画素値の範囲と、対象ストリップの画素値の範囲とを相対的に調整する。
【0117】
範囲調整部232は、基準ストリップの画素値の範囲と基準マスク画像の画素値の範囲とを小さくするように基準ストリップの画素値の範囲と基準マスク画像の画素値の範囲とを調整し、且つ、対象ストリップの画素値の範囲と対象マスク画像の画素値の範囲とを小さくするように、対象ストリップの画素値の範囲と対象ストリップの画素値の範囲とを相対的に調整するように構成される。
【0118】
範囲調整部232は、ストリップ及びマスク画像の一方の画素値の範囲を他方の画素値の範囲に一致させるように、ストリップの画素値の範囲とマスク画像の画素値の範囲とを調整するように構成されてよい。例えば、範囲調整部232は、基準ストリップの画素値の範囲と基準マスク画像の画素値の範囲とを一致させるように基準ストリップの画素値の範囲と基準マスク画像の画素値の範囲とを調整し、且つ、対象ストリップの画素値の範囲と対象マスク画像の画素値の範囲とを一致させるように、対象ストリップの画素値の範囲と対象ストリップの画素値の範囲とを相対的に調整するように構成されてよい。
【0119】
例えば、範囲調整部232は、マスク画像の画素値の範囲に応じてストリップの画素値の範囲を正規化するように構成される。この正規化(規格化)の幾つかの例を以下に説明するが、これらに限定されるものではない。
【0120】
正規化の第1の例を説明する。マスク画像の画素値の範囲が閉区間[0,1]に含まれる場合において、範囲調整部232は、ストリップの各画素の値を、このストリップにおける最大画素値で除算する。本例では、範囲調整部232は、まず、ストリップの全ての画素の値を比較して最大値(最大画素値)を特定し、このストリップの各画素の値を最大画素値で除算する。これにより、ストリップの画素値の範囲が、マスク画像の画素値の範囲と同じ閉区間[0,1]に一致される。
【0121】
正規化の第2の例を説明する。マスク画像の画素値の範囲が閉区間[0,1]に含まれる場合において、範囲調整部232は、ストリップの各画素の値を、このストリップの画素値の範囲の最大値で除算する。ストリップの画素値の範囲は予め設定されており、範囲調整部232は、この範囲の上限値(最大値)でストリップの各画素の値を除算する。本例によっても、ストリップの画素値の範囲が、マスク画像の画素値の範囲と同じ閉区間[0,1]に一致される。
【0122】
範囲調整部232が実行する処理により、ストリップの画素値の絶対値とマスクの画素値の絶対値との差を小さくすることができ、ストリップとマスクとを用いた相関演算においてマスクの効果が無視されることが無くなり、相関係数の算出を正確に行うことが可能となる。特に、単精度浮動小数点型(フロート型)の演算を採用した場合であっても、有効桁数の少なさに起因する丸め誤差の影響を排除する(低減する)ことができる。
【0123】
本明細書ではストリップの画素値の範囲のみを変更する例について主に説明するが、マスク画像の画素値の範囲のみを変更してもよいし、ストリップの画素値の範囲とマスク画像の画素値の範囲との双方を変更してもよい。
【0124】
〈合成画像生成部233〉
範囲調整部232による画素値範囲調整が適用されたストリップ及びマスク画像について、合成画像生成部233は、基準ストリップ及び対象ストリップのそれぞれにマスク画像を合成して2つの合成画像を生成する。典型的には、合成画像生成部233は、基準ストリップに基準マスク画像を合成して基準合成画像を生成し、且つ、対象ストリップに対象マスク画像を合成して対象合成画像を生成する。
【0125】
ストリップとマスク画像とを合成する処理は、非特許文献1と同じ要領で実行されてよい。ただし、非特許文献1の手法とは異なり、本実施形態では、ストリップの画素値の範囲とマスク画像の画素値の範囲との間の差を小さくなるように調整されている。典型的には、基準マスク画像及び対象マスク画像の画素値の範囲に一致するように、基準ストリップ及び対象ストリップの画素値の範囲が正規化されている。
【0126】
例えば、非特許文献1の式(19)と同じ要領で、合成画像生成部233は、画素値範囲が正規化されたストリップを、マスク画像と同じ寸法及び同じ形状の画像に埋め込むように構成されてよい。
【0127】
更に、合成画像生成部233は、ストリップの埋め込み画像とマスク画像との合成画像を生成する。この合成画像は、非特許文献1における「f´(r)m(r)」(第1800頁の第2行目等)に相当するが、前述したように、ストリップの埋め込み画像の値が式(19)のそれとは異なっている。
【0128】
〈相互相関関数算出部234〉
相互相関関数算出部234は、合成画像生成部233により生成された2つの合成画像に基づいて複数の相互相関関数を求める。相互相関関数の算出は、非特許文献1と同じ要領で実行される。例えば、相互相関関数算出部234は、基準ストリップ及び基準マスク画像から生成された基準合成画像と、対象ストリップ及び対象マスク画像から生成された対象合成画像とに基づいて、非特許文献1の式(33)に含まれる6個の相互相関関数(画像相互相関、image cross-correlation)を算出する。
【0129】
〈相関係数算出部235〉
相関係数算出部235は、相互相関関数算出部234により算出された複数の相互相関関数に基づいて相関係数を算出する。この演算は、非特許文献1の式(33)に従う。
【0130】
〈レジストレーション部236〉
レジストレーション部236は、相関係数算出部235により算出される相関係数に基づいて、xy方向(ラテラル方向)のレジストレーションが実行される。このレジストレーションは、非特許文献1の「rough lateral motion correction」(第1787頁)に相当する。
【0131】
更に、レジストレーション部236は、スロードリフト(slow drift)やトレモア(tremor)等の眼球運動に起因するラテラル方向の小さなモーションアーティファクトを除去するために、非特許文献1の「fine lateral motion correction」(第1789頁)に相当するレジストレーションを実行するように構成されてもよい。
【0132】
加えて、レジストレーション部236は、z方向(軸方向、アキシャル方向)のモーションアーティファクトを除去するために、非特許文献1の「axial motion correction (rough axial motion correction 及び/又は fine axial motion correction」(第1789頁~第1790頁)に相当するレジストレーションを実行するように構成されてもよい。
【0133】
〈マージ処理部237〉
マージ処理部237は、レジストレーション部236により相対位置調整がなされた基準ストリップと対象ストリップとのマージ画像を構築する。この処理も非特許文献1に記載された手法と同じ要領で実行される。
【0134】
前述したように、データ処理部230は、画像構築部220により構築された複数のストリップを大きさに応じた順序付けに従って、上記した一連の処理を逐次に実行する。これにより、画像構築部220により構築された複数のストリップから、モーションアーティファクトが補正された画像が得られる。得られた画像は、典型的には、リサージュスキャンが適用された範囲全体を表現した画像である。
【0135】
〈ユーザーインターフェイス240〉
ユーザーインターフェイス240は表示部241と操作部242とを含む。表示部241は表示装置3を含む。操作部242は各種の操作デバイスや入力デバイスを含む。ユーザーインターフェイス240は、例えばタッチパネルのような表示機能と操作機能とが一体となったデバイスを含んでいてもよい。ユーザーインターフェイス240の少なくとも一部を含まない実施形態を構築することも可能である。例えば、表示デバイスは、眼科装置1に接続された外部装置であってよい。
【0136】
〈動作〉
眼科装置1の動作について説明する。眼科装置1の動作の例を図6に示す。なお、患者IDの入力、走査モードの設定(リサージュスキャンの指定)、固視標の提示、アライメント、フォーカス調整、OCT光路長調整など、従来と同様の準備的な処理は、既になされたものとする。
【0137】
(S1:リサージュスキャン)
所定の走査開始トリガー信号を受けて、走査制御部2111は、被検眼E(眼底Ef)に対するOCTスキャン(リサージュスキャン)の適用を開始する。
【0138】
走査開始トリガー信号は、例えば、所定の準備動作(アライメント、フォーカス調整、OCT光路長調整など)が完了したことに対応して、又は、操作部242を用いて走査開始指示操作が行われたことに対応して生成される。
【0139】
走査制御部2111は、走査プロトコル2121(リサージュスキャンに対応したプロトコル)に基づいて光スキャナ44及びOCTユニット100などを制御することによってリサージュスキャンを眼底Efに適用する。リサージュスキャンにより収集されたデータは画像構築部220に送られる。
【0140】
(S2:複数のストリップを構築)
画像構築部220は、前述した要領で、ステップS1で収集されたデータに基づいて複数のストリップを構築する。構築された複数のストリップはデータ処理部230に送られる。
【0141】
(S3:基準ストリップと対象ストリップを設定する)
データ処理部230は、ステップS2で構築された複数のストリップを寸法(面積等)に従って順序付けする。本例では、ステップS2で構築された複数のストリップの個数をN個(Nは2以上の整数)であるとする。また、順序付けにより指定された順序に従って、これらN個のストリップを、第1のストリップ、第2のストリップ、・・・、第Nのストリップと呼ぶ。また、第1~第Nのストリップのうちの任意のストリップを第nのストリップと呼ぶことがある(n=1、2、・・・、N)。このように、第1のストリップは最も大きなストリップであり、第2のストリップは2番目に大きなストリップであり、第nのストリップはn番目に大きなストリップであり、第Nのストリップは最も小さなストリップである。
【0142】
本例において、データ処理部230は、第1のストリップを初期基準ストリップに設定し、第2のストリップを初期対象ストリップに設定する。
【0143】
なお、基準ストリップ及び対象ストリップは、それぞれ、非特許文献1のAppendix Aにおける任意形状の画像(arbitrary shaped images)f(r)及びg(r)に相当する。
【0144】
(S4:基準マスク画像と対象マスク画像を設定)
マスク画像生成部231は、基準ストリップに対応するマスク画像(基準マスク画像)と、対象ストリップに対応する対象マスク画像とを生成する。
【0145】
この段階では、マスク画像生成部231は、第1のストリップ及び第2のストリップにそれぞれ対応する2つのマスク画像を生成する。データ処理部230は、第1のストリップに対応する第1のマスク画像を初期基準マスク画像に設定し、第2のストリップに対応する第2のマスク画像を初期対象マスク画像に設定する。
【0146】
なお、基準マスク画像及び対象マスク画像は、それぞれ、非特許文献1のAppendix Aにおける矩形状の二値画像マスク(rectangular shaped binary image masks)m(r)及びm(r)に相当する。
【0147】
(S5:基準ストリップと対象ストリップを正規化)
範囲調整部232は、前述した要領で、ステップS3で設定された基準ストリップと対象ストリップに正規化を施す。ストリップの正規化は、マスク画像の画素値の範囲に応じて行われる。この段階においては、範囲調整部232は、第1のストリップ(基準ストリップ)及び第2のストリップ(対象ストリップ)に正規化を適用する。なお、範囲調整部232が実行する処理は正規化には限定されず、前述した範囲調整処理のいずれか又はそれに類する処理であってよい。
【0148】
本例において、各マスク画像の画素値の範囲は閉区間[0,1]に含まれるものとする。特に、本例の各マスク画像は、対応するストリップの定義域に相当する領域内の画素値が1に設定され且つ他の画素の値が0に設定された二値画像であるものとする。
【0149】
範囲調整部232は、例えば、ストリップの各画素の値をこのストリップにおける最大画素値で除算することにより、又は、ストリップの各画素の値をこのストリップの画素値の範囲(階調範囲)の最大値で除算することにより、このストリップの正規化を行う。
【0150】
また、データ処理部230(合成画像生成部233)は、画素値範囲が正規化されたストリップを、対応するマスク画像と同じ寸法及び同じ形状の画像に埋め込む。正規化された第1のストリップf(r)の埋め込み画像は、非特許文献1のAppendix Aにおける矩形状の画像(rectangular shaped image)f´(r)に類する画像であるが、第1のストリップf(r)の画像エリア内の値域の絶対値(|f(r)|)が1以下に正規化されている。この埋め込み画像を同じくf´(r)と表す。
【0151】
同様に、正規化された第2のストリップg(r)の埋め込み画像は、矩形状の画像g´(r)に類する画像であるが、第2のストリップg(r)の画像エリア内の値域の絶対値(|g(r)|)が1以下に正規化されている。この埋め込み画像を同じくg´(r)と表す。
【0152】
(S6:基準合成画像と対象合成画像を生成)
合成画像生成部233は、正規化されたストリップの埋め込み画像と、対応するマスク画像との合成画像を生成する。
【0153】
この段階においては、合成画像生成部233は、正規化された第1のストリップ(基準ストリップ)の埋め込み画像と、第1のマスク画像(基準マスク画像)との合成画像を生成し、且つ、正規化された第2のストリップ(対象ストリップ)の埋め込み画像と、第2のマスク画像(対象マスク画像)との合成画像を生成する。前者の合成画像を基準合成画像と呼び、後者を対象合成画像と呼ぶ。
【0154】
ここで、基準合成画像及び対象合成画像は、それぞれ、非特許文献1のAppendix Aにおける2つの矩形状の画像の組み合わせ(combination of two rectangle shaped images)f´(r)m(r)及びg´(r)m(r)に相当する。ただし、前述したように、第1のストリップf(r)の画像エリア内の値域の絶対値(|f(r)|)は1以下であり、且つ、第2のストリップg(r)の画像エリア内の値域の絶対値(|g(r)|)は1以下である。
【0155】
図7Aの画像311は、正規化された第1のストリップf(r)の埋め込み画像f´(r)の例であり、画像321は、第1のマスク画像の例である。これら2つの画像311及び321を組み合わせることによって基準合成画像f´(r)m(r)が得られる。
【0156】
同様に、図7Bの画像312は、正規化された第2のストリップf(r)の埋め込み画像g´(r)の例であり、画像322は、第2のマスク画像の例である。これら2つの画像312及び322を組み合わせることによって基準合成画像g´(r)m(r)が得られる。
【0157】
(S7:複数の相互相関関数を算出)
相互相関関数算出部234は、ステップS6で生成された基準合成画像及び対象合成画像に基づいて複数の相互相関関数を算出する。本例では、相互相関関数算出部234は、ステップS6で生成された基準合成画像及び対象合成画像に基づいて、非特許文献1の式(33)に含まれる6個の相互相関関数を算出する。
【0158】
(S8:相関係数を算出)
相関係数算出部235は、ステップS7で算出された複数の相互相関関数に基づいて相関係数を算出する。本例では、相関係数算出部235は、非特許文献1の式(33)に従って、ステップS7で算出された複数の相互相関関数から相関係数(ρ(r´))を算出する。
【0159】
(S9:基準ストリップと対象ストリップとの間のレジストレーション)
基準ストリップ及び対象ストリップに対して、レジストレーション部236は、ステップS8で算出された相関係数に基づきxy方向のレジストレーション(rough lateral motion correction)を適用する。この段階では、第1のストリップf(r)と第2のストリップとの間のレジストレーションが行われる。
【0160】
本例では、ステップS8で算出された相関係数ρ(r´)のピークを検出することにより、基準ストリップと対象ストリップとの間の相対的なシフト量(Δx、Δy)が求められる。
【0161】
更に、レジストレーション部236は、前述した「fine lateral motion correction」や「axial motion correction」などのレジストレーションを基準ストリップ及び対象ストリップに対して適用する。
【0162】
(S10:基準ストリップと対象ストリップのマージ画像を構築)
マージ処理部237は、ステップS9のレジストレーションにより相対位置調整がなされた基準ストリップと対象ストリップとのマージ画像を構築する。図7Cの画像330は、第1のストリップと第2のストリップとのマージ画像の例を示す。
【0163】
(S11:全てのストリップを処理したか?)
ステップS2で得られたN個のストリップの全てに対し、前述した順序に従って逐次に、ステップS3~S10の一連の処理が実行される。
【0164】
Nが3以上の場合において、ステップS10で第1のストリップと第2のストリップとのマージ画像が作成された場合(S11:No)、処理はステップS3に戻る。ステップS3では、第1のストリップと第2のストリップとのマージ画像が新たな基準ストリップに設定され、且つ、第3のストリップが新たな対象ストリップに設定される。新たな基準ストリップと新たな対象ストリップに基づきステップS4~S10の処理を実行することにより、新たな基準ストリップと新たな対象ストリップとのマージ画像が得られる。この新たなマージ画像は、第1~第3のストリップのマージ画像である。このような一連の処理をN個のストリップに対して逐次に適用することにより、N個のストリップの全てのマージ画像が得られる(S11:Yes)。
【0165】
(S12:最終的なマージ画像を保存する)
以上に説明した繰り返し処理により最終的に得られたマージ画像は、モーションアーティファクトが補正された画像であり、且つ、ステップS1のリサージュスキャンの適用範囲全体を表現した画像である。主制御部211は、この最終的なマージ画像を記憶部212(及び/又は、他の記憶装置)に保存する。
【0166】
データ処理部230は、N個のストリップに基づくレジストレーションの結果を利用して、ステップS1で収集されたデータ(3次元データ)、及び/又は、この3次元データから画像構築部220が構築した3次元画像データのレジストレーションを行うことができる。このレジストレーションは、リサージュスキャンの定義座標系を3次元直交座標系(xyz座標系)に変換する処理を含む。この座標変換は、非特許文献1に記載された手法における「remapping」に相当する。主制御部211は、このようにして得られた3次元画像データを、最終的なマージ画像とともに又はその代わりに、記憶部212(及び/又は、他の記憶装置)に保存することができる(エンド)。
【0167】
主制御部211は、最終的なマージ画像を表示部241(及び/又は、他の表示装置)に表示させることができる。また、データ処理部230は、上記座標変換で構築された3次元画像データから任意のレンダリング画像を作成することができる。主制御部211は、このレンダリング画像を表示部241(及び/又は、他の表示装置)に表示させることができる。
【0168】
ここで、ステップS7~S10の処理の実装例を説明する。まず、f´(r)m(r)、g´(r)m(r)、m(r)、m(r)、(f´(r)m(r))、及び(g´(r)m(r))のそれぞれの虚部(imaginary part)を0に設定し、実部(real part)のみにする。
【0169】
次に、f´(r)m(r)、g´(r)m(r)、m(r)、m(r)、(f´(r)m(r))、及び(g´(r)m(r))のそれぞれの実部に対して高速フーリエ変換(FFT)を適用する。
【0170】
次に、これらの高速フーリエ変換で得られた関数群に基づいて、図6のステップS7に示された6個の相互相関関数を算出する。
【0171】
次に、算出された6個の相互相関関数のそれぞれに逆高速フーリエ変換(IFFT)を適用する。
【0172】
次に、非特許文献1の式(33)の相関係数ρ(r´)を算出する。
【0173】
そして、相関係数ρ(r´)のピーク位置を特定することによって基準ストリップf(r)と対象ストリップg(r)との間の相対的なシフト量(Δx、Δy)を算出し、このシフト量に基づいて基準ストリップf(r)と対象ストリップg(r)との間のレジストレーション及びマージ処理を実行する。
【0174】
このような一連の処理をN個のストリップに対して逐次に適用することにより、N個のストリップの全てのマージ画像が得られる。
【0175】
〈作用、効果等〉
例示的な実施形態の幾つかの特徴について説明し、それらにより奏される幾つかの作用及び幾つかの効果について説明する。
【0176】
上記の例示的な実施形態に係る眼科装置1は、走査型イメージング装置の幾つかの態様を提供する。それに加えて、上記の例示的な実施形態に係る眼科装置1は、走査型イメージング装置を制御する方法の幾つかの態様、画像処理装置の幾つかの態様、画像処理装置を制御する方法の幾つかの態様、画像処理方法の幾つかの態様、及び、走査型イメージング方法の幾つかの態様を提供する。
【0177】
なお、走査型イメージング装置を制御する方法の幾つかの態様、画像処理装置の幾つかの態様、画像処理装置を制御する方法の幾つかの態様、画像処理方法の幾つかの態様、及び、走査型イメージング方法の幾つかの態様のいずれかにおいて説明された事項を、上記の例示的な実施形態に係る眼科装置1(より一般に、走査型イメージング装置のいずれかの態様)に適用することが可能である。
【0178】
さて、例示的な実施形態に係る走査型イメージング装置(眼科装置1)は、走査部と、画像構築部220と、マスク画像生成部231と、範囲調整部232と、合成画像生成部233と、相互相関関数算出部234(第1算出部)と、相関係数算出部235(第2算出部)と、レジストレーション部236と、マージ処理部237とを含む。
【0179】
走査部は、サンプル(被検眼E、眼底Ef)に光走査を適用してデータを収集するように構成されている。この光走査は、一連のサイクルを含む2次元パターンに従って実行される。
【0180】
幾つかの例示的な態様において、光走査の2次元パターンに含まれる一連のサイクルのうちの任意の2つのサイクルは、少なくとも1点で互いに交差していてよい。
【0181】
更に、幾つかの例示的な態様において、サンプルに適用される光走査は、リサージュ関数に基づき予め設定された走査プロトコルに基づく2次元パターンに従って実行されてよい。このような光走査の一例が、上記の例示的な実施形態におけるリサージュスキャンである。
【0182】
幾つかの例示的な態様において、走査部は、互いに異なる第1方向(x方向)及び第2方向(y方向)に光を偏向可能な偏向器(光スキャナ44)を含み、第1方向に沿った偏向方向の変化を第1周期で繰り返しつつ第2方向に沿った偏向方向の変化を第1周期と異なる第2周期で繰り返すことによって、2次元パターンに従う光走査をサンプルに適用するように構成されていてよい。
【0183】
上記の例示的な実施形態において、走査部は、OCTユニット100と、測定アームを構成する眼底カメラユニット2内の要素(リトロリフレクタ41、OCT合焦レンズ43、光スキャナ44、対物レンズ22等)とを含み、被検眼EにOCTスキャンを適用してOCTデータを収集する。
【0184】
画像構築部220は、走査部により収集されたデータに基づいて第1画像及び第2画像を構築するように構成されている。上記の例示的な実施形態における基準ストリップ及び対象ストリップの組み合わせは、第1画像及び第2画像の組み合わせの一例である。
【0185】
幾つかの例示的な態様において、光走査の2次元パターンに含まれる一連のサイクルのうちの任意の2つのサイクルが、少なくとも1点で互いに交差する場合、画像構築部220は、一連のサイクルのうちの第1サイクル群に従う光走査で収集された第1データに基づいて第1画像を構築し、且つ、一連のサイクルのうち第1サイクル群と異なる第2サイクル群に従う光走査で収集された第2データに基づいて第2画像を構築するように構成されていてよい。
【0186】
例えば、上記の例示的な実施形態におけるリサージュスキャンのように、光走査の2次元パターンがリサージュ関数に基づき予め設定された走査プロトコルに従っている場合、画像構築部220は、この2次元パターンに含まれる一連のサイクルのうちの第1サイクル群に従う光走査で収集された第1データに基づいて第1画像を構築し、且つ、一連のサイクルのうち第1サイクル群と異なる第2サイクル群に従う光走査で収集された第2データに基づいて第2画像を構築するように構成されていてよい。
【0187】
上記の例示的な実施形態では、一連のサイクルに従う光走査から得られたボリュームのうち、比較的大きな動きが介在しない(第1サイクル群に対応する)第1のサブボリュームの正面プロジェクション画像が第1画像(第1のストリップ)に設定され、比較的大きな動きが介在しない(第1サイクル群とは異なる第2サイクル群に対応する)第2のサブボリュームの正面プロジェクション画像が第2画像(第2のストリップ)に設定される。
【0188】
画像構築部220により構築された第1画像及び第2画像について、マスク画像生成部231は、第1画像に応じた第1マスク画像と、第2画像に応じた第2マスク画像とを生成するように構成されている。なお、ここに言う「第1マスク画像」及び「第2マスク画像」は、上記の例示的な実施形態において複数のストリップに付与された順序に対応する「第1のマスク画像」及び「第2のマスク画像」とは異なる。
【0189】
幾つかの例示的な態様において、マスク画像(第1マスク画像、第2マスク画像)の画素値の範囲は、閉区間[0,1]に含まれていてよい。
【0190】
更に、幾つかの例示的な態様において、マスク画像(第1マスク画像、第2マスク画像)は、画素値が0又は1の二値画像であってよい。
【0191】
例えば、上記の例示的な実施形態のように、マスク画像(第1マスク画像、第2マスク画像)は、サンプルの画像の定義域に対応する領域内の画素の値が1であり、他の画素の値が0である二値画像であってよい。
【0192】
幾つかの例示的な態様において、第1マスク画像及び第2マスク画像は、同じ寸法及び同じ形状を有していてよい。
【0193】
範囲調整部232は、第1マスク画像の画素値の範囲及び第2マスク画像の画素値の範囲に基づいて第1画像の画素値の範囲及び第2画像の画素値の範囲を調整するように構成されている。
【0194】
幾つかの例示的な態様において、範囲調整部232は、サンプルの画像(第1画像、第2画像)の画素値の範囲とマスク画像(第1マスク画像、第2マスク画像)の画素値の範囲との間の差を小さくするように構成されていてよい。例えば、上記の例示的な実施形態のように、範囲調整部232は、サンプルの画像(第1画像、第2画像)の画素値の範囲とマスク画像(第1マスク画像、第2マスク画像)の画素値の範囲とを一致させるように構成されていてよい。
【0195】
更に、幾つかの例示的な態様において、範囲調整部232は、サンプルの画像(第1画像、第2画像)及びマスク画像(第1マスク画像、第2マスク画像)の一方の画素値の範囲を他方の画素値の範囲に一致させるように構成されてよい。例えば、上記の例示的な実施形態のように、範囲調整部232は、サンプルの画像(第1画像、第2画像)の画素値の範囲をマスク画像(第1マスク画像、第2マスク画像)の画素値の範囲に一致させるように構成されていてよい。すなわち、範囲調整部232は、サンプルの画像(第1画像、第2画像)の画素値の範囲と、マスク画像(第1マスク画像、第2マスク画像)の画素値の範囲とを一致させるために、サンプルの画像(第1画像、第2画像)の画素値の範囲を変更するように構成されてよい。
【0196】
幾つかの例示的な態様において、範囲調整部232は、マスク画像(第1マスク画像、第2マスク画像)の画素値の範囲に応じてサンプルの画像(第1画像、第2画像)の画素値の範囲を正規化(規格化)するように構成されていてよい。
【0197】
例えば、マスク画像(第1マスク画像、第2マスク画像)の画素値の範囲が閉区間[0,1]に含まれている場合において、範囲調整部232は、サンプルの画像(第1画像、第2画像)の各画素の値を、当該画像における最大画素値で除算することによって、当該画像の画素値の範囲を正規化するように構成されていてよい。
【0198】
他の例において、マスク画像(第1マスク画像、第2マスク画像)の画素値の範囲が閉区間[0,1]に含まれている場合において、範囲調整部232は、サンプルの画像(第1画像、第2画像)の各画素の値を、当該画像の画素値の範囲の最大値で除算することによって、当該画像の画素値の範囲を正規化するように構成されていてよい。
【0199】
合成画像生成部233は、サンプルの第1画像に第1マスク画像を合成して第1合成画像を生成し、且つ、第2画像に第2マスク画像を合成して第2合成画像を生成するように構成されている。
【0200】
幾つかの例示的な態様において、第1マスク画像及び第2マスク画像は、同じ寸法及び同じ形状を有していてよい。更に、第1マスク画像は、第1画像の定義域に対応する領域内の画素の値が1であり、他の画素の値が0である二値画像であってよく、且つ、第2マスク画像は、第2画像の定義域に対応する領域内の画素の値が1であり、他の画素の値が0である二値画像であってよい。
【0201】
上記の例示的な実施形態では、第1マスク画像と第2マスク画像とは、同じ寸法及び同じ形状を有する。合成画像生成部233は、任意形状の第1画像及び任意形状の第2画像のそれぞれを、これらマスク画像と同じ寸法及び同じ形状の埋め込み画像に変換するように構成されている。更に、合成画像生成部233は、第1画像の埋め込み画像と第1マスク画像とを合成し、且つ、第2画像の埋め込み画像と第2マスク画像とが合成するように構成されている。
【0202】
或いは、上記の例示的な実施形態において、合成画像生成部233は、任意形状の第1画像及び任意形状の第2画像を、互いに同じ寸法及び同じ形状の埋め込み画像にそれぞれ変換するように構成されていてよい。また、マスク画像生成部231は、これらサンプルの画像と同じ寸法及び同じ形状を有する第1マスク画像と第2マスク画像をそれぞれ生成するように構成されていてよい。更に、合成画像生成部233は、第1画像の埋め込み画像と第1マスク画像とを合成し、且つ、第2画像の埋め込み画像と第2マスク画像とが合成するように構成されていてよい。
【0203】
相互相関関数算出部234は、合成画像生成部233により生成された第1合成画像及び第2合成画像に基づいて複数の相互相関関数を求めるように構成されている。
【0204】
相関係数算出部235は、相互相関関数算出部234により求められた複数の相互相関関数に基づいて相関係数を算出するように構成されている。
【0205】
レジストレーション部236は、相関係数算出部235により算出された相関係数に基づいて第1画像と第2画像とのレジストレーションを行うように構成されている。
【0206】
マージ処理部237は、レジストレーション部236により実行されたレジストレーションの結果に基づいて第1画像と第2画像とのマージ画像を構築するように構成されている。
【0207】
上記の例示的な実施形態と同様に、幾つかの例示的な態様において、相互相関関数算出部234(第1算出部)、相関係数算出部235(第2算出部)、レジストレーション部236、及びマージ処理部237のそれぞれが実行する処理及びそのための構成(ハードウェア構成、ソフトウェア構成)は、非特許文献1に記載された手法と同様であってよい。ただし、他の手法を採用することを排除するものではない。
【0208】
上記の例示的な実施形態に係る眼科装置1により提供可能な画像処理方法の幾つかの態様を説明する。幾つかの例示的な態様において、画像処理方法は、以下に説明する工程を含んでいてよい。
【0209】
(画像準備工程)
サンプルの第1画像及び第2画像が準備される。例えば、通信回線や記録媒体を介してサンプルの第1画像及び第2画像が受け付けられる。或いは、サンプルに光走査を適用してデータが収集され、第1画像及び第2画像が構築される。第1画像及び第2画像のそれぞれは、一連のサイクルを含む2次元パターンに従う走査をサンプルに適用して収集されたデータに基づき構築される。例えば、第1画像及び第2画像のそれぞれは、リサージュ関数に基づき予め設定された走査プロトコルに基づく2次元パターンに従う走査をサンプルに適用して収集されたデータに基づき構築される。
【0210】
(マスク準備工程)
マスク画像が準備される。例えば、通信回線や記録媒体を介してマスク画像が受け付けられる。或いは、(サンプルの画像に基づいて)マスク画像が生成される。マスク画像の画素値の範囲は閉区間[0,1]に含まれていてよい。典型的には、マスク画像は、画素値が0又は1の二値画像であってよい。例えば、マスク画像は、サンプルの画像の定義域に対応する領域内の画素の値が1であり、他の画素の値が0である二値画像であってよい。マスク画像は、第1マスク画像と第2マスク画像とを含んでいてよい。第1マスク画像及び第2マスク画像は、同じ寸法及び同じ形状を有していてよい。第1マスク画像は、サンプルの第1画像の定義域に対応する領域内の画素の値が1であり、他の画素の値が0である二値画像であってよく、且つ、第2マスク画像は、サンプルの第2画像の定義域に対応する領域内の画素の値が1であり、他の画素の値が0である二値画像であってよい。
【0211】
(画像値範囲調整工程)
第1画像の画素値の範囲と第2画像の画素値の範囲とマスク画像の画素値の範囲とが相対的に調整される。画素値の範囲の相対的な調整は、典型的には、サンプルの画像(第1画像、第2画像)の画素値の範囲とマスク画像の画素値の範囲との間の差を小さくするように行われる。例えば、画素値の範囲の相対的な調整は、サンプルの画像(第1画像、第2画像)及びマスク画像の一方の画素値の範囲を他方の画素値の範囲に一致させるように行われる。幾つかの例示的な態様において、画素値の範囲の相対的な調整は、マスク画像の画素値の範囲に応じてサンプルの画像(第1画像、第2画像)の画素値の範囲を正規化する処理を含んでいてよい。マスク画像の画素値の範囲が閉区間[0,1]に含まれる場合において、正規化は、サンプルの画像(第1画像、第2画像)の各画素の値を、当該画像における最大画素値で除算する処理を含んでいてよい。或いは、マスク画像の画素値の範囲が閉区間[0,1]に含まれる場合において、正規化は、サンプルの画像(第1画像、第2画像)の各画素の値を、当該画像の画素値の範囲の最大値で除算する処理を含んでいてよい。
【0212】
(合成画像生成工程)
画像値範囲調整工程の後、第1画像及び第2画像のそれぞれにマスク画像が合成されて第1合成画像及び第2合成画像が生成される。マスク画像が、第1マスク画像と第2マスク画像とを含む場合において、合成画像生成工程は、第1マスク画像を第1画像に合成して第1合成画像を生成する工程と、第2マスク画像を第2画像に合成して第2合成画像を生成する工程とを含んでいてよい。ここで、第1マスク画像及び第2マスク画像は、同じ寸法及び同じ形状を有していてもよい。また、第1マスク画像は、第1画像の定義域に対応する領域内の画素の値が1であり、他の画素の値が0である二値画像であってよく、且つ、第2マスク画像は、第2画像の定義域に対応する領域内の画素の値が1であり、他の画素の値が0である二値画像であってよい。
【0213】
(相互相関関数算出工程)
合成画像生成工程によって生成された第1合成画像及び第2合成画像に基づいて複数の相互相関関数が求められる。この工程は、典型的には、非特許文献1に記載された手法に従って行われるが、これに限定されるものではない。
【0214】
(相関係数算出工程)
相互相関関数算出工程において求められた複数の相互相関関数に基づいて相関係数が算出される。この工程は、典型的には、非特許文献1に記載された手法に従って行われるが、これに限定されるものではない。
【0215】
(レジストレーション工程)
相関係数算出工程において算出された相関係数に基づいてサンプルの第1画像と第2画像との間のレジストレーションが行われる。この工程は、典型的には、非特許文献1に記載された手法に従って行われるが、これに限定されるものではない。
【0216】
幾つかの例示的な態様において、画像処理方法は、マージ画像構築工程を更に含んでいてよい。マージ画像構築工程では、レジストレーション工程において行われたレジストレーションの結果(例えば、サンプルの第1画像と第2画像との間の相対的シフト量)に基づいて第1画像と第2画像とのマージ画像が構築される。
【0217】
幾つかの例示的な態様において、画像処理方法は、上記の例示的な実施形態において説明された工程のいずれかを更に含んでいてもよい。
【0218】
上記の例示的な実施形態に係る眼科装置1により提供可能な走査型イメージング方法の幾つかの態様を説明する。幾つかの例示的な態様において、走査型イメージング方法は、以下に説明する工程を含んでいてよい。なお、幾つかの例示的な態様において、走査型イメージング方法は、上記の例示的な実施形態において説明された工程のいずれか、及び/又は、上記の画像処理方法の例示的な態様で説明された工程のいずれかを更に含んでいてもよい。
【0219】
(走査工程)
一連のサイクルを含む2次元パターンに従う光走査がサンプルに適用され、データが収集される。典型的には、一連のサイクルのうちの任意の2つのサイクルは、少なくとも1点で互いに交差する。例えば、2次元パターンに従う光走査は、リサージュ関数に基づき予め設定された走査プロトコルに基づいて行われる。
【0220】
(画像構築工程)
走査工程で収集されたデータに基づいて第1画像及び第2画像が構築される。一連のサイクルのうちの任意の2つのサイクルが少なくとも1点で互いに交差する場合(例えば、リサージュ関数に基づき予め設定された走査プロトコルに基づいて2次元パターンに従う光走査が行われる場合)、一連のサイクルのうちの第1サイクル群に従う光走査で収集された第1データに基づいて第1画像が構築されてよく、且つ、一連のサイクルのうち第1サイクル群と異なる第2サイクル群に従う光走査で収集された第2データに基づいて第2画像が構築されてよい。
【0221】
(画像値範囲調整工程)
第1画像の画素値の範囲と第2画像の画素値の範囲とマスク画像の画素値の範囲とが相対的に調整される。
【0222】
(合成画像生成工程)
画像値範囲調整工程の後、第1画像及び第2画像のそれぞれにマスク画像が合成されて第1合成画像及び第2合成画像が生成される。
【0223】
(相互相関関数算出工程)
合成画像生成工程で生成された第1合成画像及び第2合成画像に基づいて複数の相互相関関数が求められる。
【0224】
(相関係数算出工程)
相互相関関数算出工程で求められた複数の相互相関関数に基づいて相関係数が算出される。
【0225】
(レジストレーション工程)
相関係数算出工程で算出された相関係数に基づいてサンプルの第1画像と第2画像との間のレジストレーションが行われる。
【0226】
(マージ画像構築工程)
レジストレーションの結果に基づいてサンプルの第1画像と第2画像とのマージ画像が構築される。
【0227】
幾つかの例示的な態様において、走査型イメージング方法は、以下の付加的工程を含んでいてよい。
【0228】
第1の付加的工程において、走査工程においてサンプルから収集されたデータに基づいて第3画像が構築される。上記の例示的な実施形態では、第3のストリップが構築される。
【0229】
第2の付加的工程において、第3画像の画素値の範囲と、マージ画像構築工程で構築されたマージ画像の画素値の範囲と、マスク画像の画素値の範囲とが、相対的に調整される。上記の例示的な実施形態では、第3のストリップと、第3のストリップに対応するマスク画像と、第1のストリップ及び第2のストリップのマージ画像と、このマージ画像に対応するマスク画像とについて、画素値範囲調整が適用される。
【0230】
第3の付加的工程において、第3画像及びマージ画像のそれぞれに当該マスク画像を合成して第3合成画像及び第4合成画像が生成される。上記の例示的な実施形態では、第3のストリップとこれに対応するマスク画像との合成画像が生成され、且つ、第1のストリップ及び第2のストリップのマージ画像とこれに対応するマスク画像との合成画像が生成される。
【0231】
第4の付加的工程において、第3合成画像及び第4合成画像に基づいて複数の相互相関関数が求められる。上記の例示的な実施形態では、第3のストリップとこれに対応するマスク画像との合成画像と、上記マージ画像とこれに対応するマスク画像との合成画像とに基づいて、複数の相互相関関数が求められる。
【0232】
第5の付加的工程において、第4の付加的工程で求められた複数の相互相関関数に基づいて相関係数が算出される。上記の例示的な実施形態では、第3のストリップに基づく合成画像及びマージ画像に基づく合成画像を用いて求められた複数の相互相関関数に基づいて、相関係数が算出される。
【0233】
第6の付加的工程において、第5の付加的工程で算出された相関係数に基づいて第3画像と第4画像とのレジストレーションが行われる。上記の例示的な実施形態では、第3のストリップに基づく合成画像及びマージ画像に基づく合成画像を用いて算出された相関係数に基づいて、このマージ画像(第1のストリップ及び第2のストリップのマージ画像)と第3のストリップとの間のレジストレーションが行われる。
【0234】
第7の付加的工程において、第6の付加的工程で実行されたレジストレーションの結果に基づいて第3画像とマージ画像とがマージされる。上記の例示的な実施形態では、マージ画像と第3のストリップとのレジストレーションの結果(相対的なシフト量)に基づいて、このマージ画像(第1のストリップ及び第2のストリップのマージ画像)に対して第3のストリップがマージされる。
【0235】
なお、ここでは、第1のストリップ及び第2のストリップのマージ画像と、第3のストリップとに対する処理を例として説明したが、一般に、上記の例示的な実施形態で説明した通り、第1~第nのストリップのマージ画像と、第n+1のストリップとに対する処理も、同じ要領で実行される(n=2、3、・・・、N-1)。
【0236】
上記の例示的な実施形態に係る眼科装置1により提供可能な画像処理装置の幾つかの態様を説明する。幾つかの例示的な態様において、画像処理装置は、以下に説明する要素を含んでいてよい。なお、幾つかの例示的な態様において、画像処理装置は、上記の例示的な実施形態において説明された要素のいずれか、上記の画像処理方法の例示的な態様で説明された工程を実行するように構成された要素のいずれか、及び、上記の走査型イメージング方法の例示的な態様で説明された工程を実行するように構成された要素のいずれか、のうちのいずれかを更に含んでいてもよい。
【0237】
例示的な態様に係る画像処理装置は、記憶部と、マスク画像生成部と、範囲調整部と、合成画像生成部と、第1算出部と、第2算出部と、レジストレーション部とを含む。
【0238】
記憶部は、サンプルの第1画像及び第2画像を記憶する。上記の例示的な実施形態において、この記憶部は記憶部212に相当する。
【0239】
マスク画像生成部は、第1画像に応じた第1マスク画像と第2画像に応じた第2マスク画像とを生成するように構成される。上記の例示的な実施形態において、マスク画像生成部はマスク画像生成部231に相当する。
【0240】
範囲調整部は、第1マスク画像の画素値の範囲及び第2マスク画像の画素値の範囲に基づいて第1画像の画素値の範囲及び第2画像の画素値の範囲を調整するように構成される。上記の例示的な実施形態において、範囲調整部は範囲調整部232に相当する。
【0241】
合成画像生成部は、第1画像に第1マスク画像を合成して第1合成画像を生成し、且つ、第2画像に第2マスク画像を合成して第2合成画像を生成するように構成される。上記の例示的な実施形態において、合成画像生成部は合成画像生成部233に相当する。
【0242】
第1算出部は、第1合成画像及び第2合成画像に基づいて複数の相互相関関数を求めるように構成される。上記の例示的な実施形態において、第1算出部は相互相関関数算出部234に相当する。
【0243】
第2算出部は、複数の相互相関関数に基づいて相関係数を算出するように構成される。上記の例示的な実施形態において、第2算出部は相関係数算出部235に相当する。
【0244】
レジストレーション部は、相関係数に基づいて第1画像と第2画像とのレジストレーションを行うように構成される。上記の例示的な実施形態において、レジストレーション部はレジストレーション部236に相当する。
【0245】
幾つかの例示的な態様において、画像処理装置は、マージ処理部を更に含んでいてよい。マージ処理部は、レジストレーションの結果に基づいて第1画像と第2画像とのマージ画像を構築するように構成される。
【0246】
幾つかの例示的な態様において、画像処理装置は、データ受付部と、画像構築部とを更に含んでいてよい。
【0247】
データ受付部は、一連のサイクルを含む2次元パターンに従う光走査によりサンプルから収集されたデータを受け付けるように構成される。データ受付部は、例えば、通信回線又は記録媒体を介してデータを受け付けるように構成されていてよい。上記の例示的な実施形態において、データ受付部は、眼科装置1に設けられた通信デバイスに相当する。
【0248】
画像構築部は、データ受付部により受け付けられたデータに基づいて第1画像及び第2画像を構築する。上記の例示的な実施形態において、画像構築部は画像構築部220に相当する。画像構築部により構築された第1画像及び第2画像は記憶部に記憶される。
【0249】
幾つかの例示的な態様において、データ受付部は、一連のサイクルを含む2次元パターンに従う光走査によりサンプルから収集されたデータに基づき構築された第1画像及び第2画像を受け付けるように構成されてよい。この場合、データ受付部により受け付けられた第1画像及び第2画像が記憶部に記憶される。
【0250】
幾つかの例示的な態様において、データ受付部は、一連のサイクルを含む2次元パターンに従う光走査によりサンプルから収集されたデータに基づき構築された3次元画像データを受け付けるように構成されてよい。この場合、画像構築部は、データ受付部により受け付けられた3次元画像データに基づいて第1画像及び第2画像を構築するように構成される。画像構築部により構築された第1画像及び第2画像は記憶部に記憶される。
【0251】
上記の例示的な実施形態に係る眼科装置1により提供可能な、画像処理装置の制御方法の幾つかの態様を説明する。幾つかの例示的な態様において、画像処理装置の制御方法は、以下に説明する工程を含んでいてよい。なお、幾つかの例示的な態様において、画像処理装置の制御方法は、上記の例示的な実施形態において説明された工程のいずれか、上記の画像処理方法の例示的な態様で説明された工程のいずれか、上記の走査型イメージング方法の例示的な態様で説明された工程のいずれか、及び、上記の画像処理装置の例示的な態様で説明された要素により実行される工程のいずれか、のうちのいずれかを更に含んでいてもよい。
【0252】
例示的な態様は、サンプルの第1画像及び第2画像を記憶する記憶部と、プロセッサとを含む画像処理装置を制御する方法であって、このプロセッサが以下の工程を実行するように制御を行う。なお、上記の例示的な実施形態において、記憶部は記憶部212に相当し、プロセッサは少なくともデータ処理部230に相当する。
【0253】
プロセッサは、第1画像に応じた第1マスク画像と第2画像に応じた第2マスク画像とを生成するように制御される。例えば、上記の例示的な実施形態において、データ処理部230は、マスク画像生成部231として動作するように制御される。
【0254】
また、プロセッサは、第1マスク画像の画素値の範囲及び第2マスク画像の画素値の範囲に基づいて第1画像の画素値の範囲及び第2画像の画素値の範囲を調整するように制御される。例えば、上記の例示的な実施形態において、データ処理部230は、範囲調整部232として動作するように制御される。
【0255】
また、プロセッサは、第1画像に第1マスク画像を合成して第1合成画像を生成し、且つ、第2画像に第2マスク画像を合成して第2合成画像を生成するように制御される。例えば、上記の例示的な実施形態において、データ処理部230は、合成画像生成部233として動作するように制御される。
【0256】
また、プロセッサは、第1合成画像及び第2合成画像に基づいて複数の相互相関関数を求めるように制御される。例えば、上記の例示的な実施形態において、データ処理部230は、相互相関関数算出部234として動作するように制御される。
【0257】
また、プロセッサは、複数の相互相関関数に基づいて相関係数を算出するように制御される。例えば、上記の例示的な実施形態において、データ処理部230は、相関係数算出部235として動作するように制御される。
【0258】
また、プロセッサは、相関係数に基づいて第1画像と第2画像とのレジストレーションを行うように制御される。例えば、上記の例示的な実施形態において、データ処理部230は、レジストレーション部236として動作するように制御される。
【0259】
幾つかの例示的な実施形態において、プロセッサは、レジストレーションの結果に基づいて第1画像と第2画像とのマージ画像を構築するように制御されてよい。例えば、上記の例示的な実施形態において、データ処理部230は、マージ処理部237として動作するように制御される。
【0260】
上記の例示的な実施形態に係る眼科装置1により提供可能な、走査型イメージング装置の制御方法の幾つかの態様を説明する。幾つかの例示的な態様において、走査型イメージング装置の制御方法は、以下に説明する工程を含んでいてよい。なお、幾つかの例示的な態様において、走査型イメージング装置の制御方法は、上記の例示的な実施形態において説明された工程のいずれか、上記の画像処理方法の例示的な態様で説明された工程のいずれか、上記の走査型イメージング方法の例示的な態様で説明された工程のいずれか、上記の画像処理装置の例示的な態様で説明された要素により実行される工程のいずれか、及び、上記の画像処理装置の例示的な態様で説明された工程のいずれか、のうちのいずれかを更に含んでいてもよい。
【0261】
例示的な態様は、サンプルに光走査を適用してデータを収集する走査部と、プロセッサとを含む走査型イメージング装置を制御する方法であって、走査部及びプロセッサが以下の工程を実行するように制御を行う。なお、上記の例示的な実施形態において、走査部は、OCTユニット100と、測定アームを構成する眼底カメラユニット2内の要素(リトロリフレクタ41、OCT合焦レンズ43、光スキャナ44、対物レンズ22等)とを含む。また、プロセッサは、画像構築部220及びデータ処理部230に相当する。
【0262】
走査部は、一連のサイクルを含む2次元パターンに従う光走査をサンプルに適用してデータを収集するように制御される。
【0263】
また、プロセッサ(上記の例示的な実施形態では画像構築部220)は、走査部により収集されたデータに基づいて第1画像及び第2画像を構築するように制御される。
【0264】
また、プロセッサ(上記の例示的な実施形態ではデータ処理部230)は、第1画像に応じた第1マスク画像と第2画像に応じた第2マスク画像とを生成するように制御される。
【0265】
また、プロセッサ(上記の例示的な実施形態ではデータ処理部230)は、第1マスク画像の画素値の範囲及び第2マスク画像の画素値の範囲に基づいて第1画像の画素値の範囲及び第2画像の画素値の範囲を調整するように制御される。
【0266】
また、プロセッサ(上記の例示的な実施形態ではデータ処理部230)は、第1画像に第1マスク画像を合成して第1合成画像を生成し、且つ、第2画像に第2マスク画像を合成して第2合成画像を生成するように制御される。
【0267】
また、プロセッサ(上記の例示的な実施形態ではデータ処理部230)は、第1合成画像及び第2合成画像に基づいて複数の相互相関関数を求めるように制御される。
【0268】
また、プロセッサ(上記の例示的な実施形態ではデータ処理部230)は、複数の相互相関関数に基づいて相関係数を算出するように制御される。
【0269】
また、プロセッサ(上記の例示的な実施形態ではデータ処理部230)は、相関係数に基づいて第1画像と第2画像とのレジストレーションを行うように制御される。
【0270】
また、プロセッサ(上記の例示的な実施形態ではデータ処理部230)は、レジストレーションの結果に基づいて第1画像と前記第2画像とのマージ画像を構築するように制御される。
【0271】
幾つかの例示的な態様において、走査型イメージング装置を制御する方法のいずれかの態様をコンピュータに実行させるプログラム、画像処理装置を制御する方法のいずれかの態様をコンピュータに実行させるプログラム、画像処理方法のいずれかの態様をコンピュータに実行させるプログラム、又は、走査型イメージング方法のいずれかの態様をコンピュータに実行させるプログラムを提供することが可能である。
【0272】
また、このようなプログラムを記録したコンピュータ可読な非一時的記録媒体を作成することが可能である。この非一時的記録媒体は任意の形態であってよく、その例として、磁気ディスク、光ディスク、光磁気ディスク、半導体メモリなどがある。
【0273】
以上に説明した幾つかの例示的な態様によれば、マスク画像を利用した画像レジストレーションにおいて、サンプルの画像の画素値の範囲とマスク画像の画素値の範囲とを相対的に調整した上で、レジストレーションのための処理を行うことが可能である。
【0274】
これにより、サンプルの画像の画素値の範囲とマスク画像の画素値の範囲との間の差を小さくすることができる。例えば、サンプルの画像の画素値の大きさと、マスク画像の画素値の大きさとを(ほぼ)一致させることが可能である。
【0275】
したがって、サンプルの画像とマスク画像とを用いた相関演算においてマスク画像の効果が無視されるという従来の問題を解決することができ、正しい相関係数を得ることが可能となる。
【0276】
特に、サンプルの画像同士の相関係数を求めるために単精度浮動小数点型(フロート型)の演算が用いられる場合であっても、有効桁数の少なさに起因する丸め誤差の影響を排除することや小さくすることが可能である。
【0277】
また、複数の相互相関関数から相関係数を算出するアルゴリズムにおいては、個々の相互相関関数に起因する誤差の重ね合わせにより、最終的な相関係数の誤差が大きくなる可能性がある。このような問題に関し、例示的な態様によれば、個々の相互相関関数に起因する誤差を排除することや小さくすることができるため、確度の高い相関係数を得ることが可能である。
【0278】
このように、以上に説明した幾つかの例示的な態様は、マスク画像を用いた画像レジストレーションの正確性の向上に寄与するものである。
【0279】
本開示は、幾つかの態様を例示するものに過ぎず、発明の限定を意図したものではない。この発明を実施しようとする者は、この発明の要旨の範囲内における任意の変形(省略、置換、付加など)を施すことが可能である。
【符号の説明】
【0280】
1 眼科装置
44 光スキャナ
100 OCTユニット
211 主制御部
2111 走査制御部
212 記憶部
2121 走査プロトコル
220 画像構築部
230 データ処理部
231 マスク画像生成部
232 範囲調整部
233 合成画像生成部
234 相互相関関数算出部
235 相関係数算出部
236 レジストレーション部
237 マージ処理部

図1
図2
図3
図4A
図4B
図5
図6
図7A
図7B
図7C