(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-03-06
(45)【発行日】2025-03-14
(54)【発明の名称】眼科撮影装置及び眼科画像処理装置
(51)【国際特許分類】
A61B 3/135 20060101AFI20250307BHJP
A61B 3/10 20060101ALI20250307BHJP
【FI】
A61B3/135
A61B3/10 100
A61B3/10 300
(21)【出願番号】P 2021104547
(22)【出願日】2021-06-24
【審査請求日】2024-06-11
(73)【特許権者】
【識別番号】000220343
【氏名又は名称】株式会社トプコン
(74)【代理人】
【識別番号】100124626
【氏名又は名称】榎並 智和
(72)【発明者】
【氏名】東 神之介
【審査官】▲高▼ 芳徳
(56)【参考文献】
【文献】国際公開第2019/240151(WO,A1)
【文献】国際公開第2021/049104(WO,A1)
【文献】特開2018-033693(JP,A)
【文献】特開2018-000685(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 3/00 - 3/18
(57)【特許請求の範囲】
【請求項1】
被検眼の3次元領域をスリット光でスキャンして一連のシャインプルーフ画像を収集する第1画像収集部と、
前記第1画像収集部による前記3次元領域のスキャンと並行して前記被検眼を繰り返し撮影して一連の時系列画像を収集する第2画像収集部と、
前記一連の時系列画像を解析して前記スキャンにおける前記スリット光の時系列変位を求める第1画像解析部と、
前記スリット光の前記時系列変位に基づいて前記一連のシャインプルーフ画像の補間を行う画像補間部と
を含
み、
前記第1画像解析部は、
前記一連の時系列画像を解析して前記スリット光の一連の像を検出し、
前記スリット光の前記一連の像に基づいて前記スリット光の前記時系列変位を求める、
眼科撮影装置。
【請求項2】
前記第1画像収集部による前記3次元領域のスキャンと、前記第2画像収集部による前記被検眼の繰り返し撮影とが、互いに同期して実行され、
前記画像補間部は、前記スキャンと前記繰り返し撮影との同期に基づく前記一連のシャインプルーフ画像と前記一連の時系列画像との対応関係に更に基づいて前記一連のシャインプルーフ画像の前記補間を行う、
請求項
1の眼科撮影装置。
【請求項3】
前記第1画像収集部は、前記スキャンにおいて前記被検眼を互いに異なる方向からそれぞれ撮影する第1撮影系及び第2撮影系を含み、
前記第1撮影系は、第1シャインプルーフ画像群を収集し、
前記第2撮影系は、第2シャインプルーフ画像群を収集し、
前記一連のシャインプルーフ画像は、前記第1シャインプルーフ画像群と前記第2シャインプルーフ画像群とを含む、
請求項1
又は2の眼科撮影装置。
【請求項4】
前記第1撮影系による撮影と前記第2撮影系による撮影とが互いに同期して実行される、
請求項
3の眼科撮影装置。
【請求項5】
前記第1撮影系による撮影と前記第2撮影系による撮影との同期に基づく前記第1シャインプルーフ画像群と前記第2シャインプルーフ画像群との対応関係に基づいて、前記スキャンに対応する新たな一連のシャインプルーフ画像を前記第1シャインプルーフ画像群及び前記第2シャインプルーフ画像群から選択する画像選択部を更に含み、
前記画像補間部は、前記新たな一連のシャインプルーフ画像の補間を行う、
請求項
4の眼科撮影装置。
【請求項6】
前記第1画像収集部は、前記3次元領域に前記スリット光を投射する照明系を更に含み、
前記第1撮影系の光軸と前記第2撮影系の光軸とは、前記照明系の光軸に対して互いに反対の方向に傾斜して配置され、
前記画像選択部は、前記第1シャインプルーフ画像群と前記第2シャインプルーフ画像群との前記対応関係に基づき角膜反射アーティファクトを含まない複数のシャインプルーフ画像を前記第1シャインプルーフ画像群及び前記第2シャインプルーフ画像群から選択することにより前記新たな一連のシャインプルーフ画像の選択を行う、
請求項
5の眼科撮影装置。
【請求項7】
前記画像補間部は、前記一連のシャインプルーフ画像に描出された前記被検眼の変位をベクトルで表現するオプティカルフローを用いて前記一連のシャインプルーフ画像の前記補間を行う、
請求項1~
6のいずれかの眼科撮影装置。
【請求項8】
前記画像補間部は、予め構築された推論モデルを用いて前記一連のシャインプルーフ画像の前記補間を行い、
前記推論モデルは、
眼のシャインプルーフ画像を少なくとも含む訓練データを用いた機械学習をニューラルネットワークに適用して予め構築され、
同一の眼の2以上の異なる位置をそれぞれ表す2以上のシャインプルーフ画像の入力を受け、前記2以上のシャインプルーフ画像を空間的に補間した補間画像を出力するように構成されている、
請求項1~
7のいずれかの眼科撮影装置。
【請求項9】
前記画像補間部は、
前記第1画像収集部の動作情報及び前記スリット光の前記時系列変位の少なくとも一方に基づいて補間個数を決定する第1補間個数決定部を含み、
前記補間個数の画像によって前記一連のシャインプルーフ画像を補間する、
請求項1~
8のいずれかの眼科撮影装置。
【請求項10】
前記第1画像解析部は、更に、前記第2画像収集部により収集された前記一連の時系列画像を解析して前記被検眼の時系列変位を求め、
前記画像補間部は、
前記第1画像収集部の動作情報及び前記被検眼の前記時系列変位の少なくとも一方に基づいて補間個数を決定する第2補間個数決定部を含み、
前記補間個数の画像によって前記一連のシャインプルーフ画像を補間する、
請求項1~
9のいずれかの眼科撮影装置。
【請求項11】
被検眼の3次元領域をスリット光でスキャンして一連のシャインプルーフ画像を収集する第1画像収集部と、
前記第1画像収集部による前記3次元領域のスキャンと並行して前記被検眼を繰り返し撮影して一連の時系列画像を収集する第2画像収集部と、
前記一連の時系列画像を解析して前記スリット光の一連の像を検出する第2画像解析部と、
前記一連の時系列画像から検出された前記スリット光の前記一連の像に基づいて、前記一連のシャインプルーフ画像のそれぞれに対し、当該シャインプルーフ画像が取得されたときに前記スリット光が投射されていた眼組織を示す識別子を割り当てる識別子付与部と
を含
み、
前記第1画像収集部による前記3次元領域のスキャンと、前記第2画像収集部による前記被検眼の繰り返し撮影とが、互いに同期して実行され、
前記識別子付与部は、前記スキャンと前記繰り返し撮影との同期に基づく前記一連のシャインプルーフ画像と前記一連の時系列画像との対応関係に更に基づいて前記識別子の割り当てを行い、
前記識別子付与部は、
前記スリット光の前記一連の像に基づいて前記一連の時系列画像のそれぞれに前記識別子を割り当て、
前記一連の時系列画像にそれぞれ割り当てられた一連の識別子と前記対応関係とに基づいて前記一連のシャインプルーフ画像のそれぞれに対する前記識別子の割り当てを行う、
眼科撮影装置。
【請求項12】
前記第2画像解析部は、更に、前記一連のシャインプルーフ画像を解析して前記スリット光の一連の像を検出し、
前記識別子付与部は、更に、前記一連のシャインプルーフ画像から検出された前記スリット光の前記一連の像に基づいて前記識別子の割り当てを行う、
請求項
11の眼科撮影装置。
【請求項13】
前記第2画像解析部は、更に、前記一連のシャインプルーフ画像を解析して前記被検眼の関心部位の像を検出し、
前記識別子付与部は、更に、前記一連のシャインプルーフ画像からの前記関心部位の前記像の検出結果に基づいて、前記第2画像収集部により収集された前記一連の時系列画像のいずれかに対し、前記関心部位を示す識別子を割り当てる、
請求項
11又は12の眼科撮影装置。
【請求項14】
前記識別子付与部は、前記眼組織に対応する当該シャインプルーフ画像の部分領域に対して前記識別子を割り当てる、
請求項
11~13のいずれかの眼科撮影装置。
【請求項15】
前記第1画像収集部は、前記スキャンにおいて前記被検眼を互いに異なる方向からそれぞれ撮影する第1撮影系及び第2撮影系を含み、
前記第1撮影系は、第1シャインプルーフ画像群を収集し、
前記第2撮影系は、第2シャインプルーフ画像群を収集し、
前記一連のシャインプルーフ画像は、前記第1シャインプルーフ画像群と前記第2シャインプルーフ画像群とを含む、
請求項
11~14のいずれかの眼科撮影装置。
【請求項16】
前記第1撮影系による撮影と前記第2撮影系による撮影とが互いに同期して実行される、
請求項
15の眼科撮影装置。
【請求項17】
前記第1撮影系による撮影と前記第2撮影系による撮影との同期に基づく前記第1シャインプルーフ画像群と前記第2シャインプルーフ画像群との対応関係に基づいて、前記スキャンに対応する新たな一連のシャインプルーフ画像を前記第1シャインプルーフ画像群及び前記第2シャインプルーフ画像群から選択する画像選択部を更に含み、
前記識別子付与部は、前記新たな一連のシャインプルーフ画像のそれぞれに対して前記識別子の割り当てを行う、
請求項
16の眼科撮影装置。
【請求項18】
前記第1画像収集部は、前記3次元領域に前記スリット光を投射する照明系を更に含み、
前記第1撮影系の光軸と前記第2撮影系の光軸とは、前記照明系の光軸に対して互いに反対の方向に傾斜して配置され、
前記画像選択部は、前記第1シャインプルーフ画像群と前記第2シャインプルーフ画像群との前記対応関係に基づき角膜反射アーティファクトを含まない複数のシャインプルーフ画像を前記第1シャインプルーフ画像群及び前記第2シャインプルーフ画像群から選択することにより前記新たな一連のシャインプルーフ画像の選択を行う、
請求項
17の眼科撮影装置。
【請求項19】
前記第1画像収集部は、前記スリット光の長手方向に直交する方向に前記スリット光を平行移動することによって前記3次元領域の前記スキャンを行う、
請求項1~
18のいずれかの眼科撮影装置。
【請求項20】
前記スリット光の前記長手方向は、被検者の体軸方向に略一致している、
請求項
19の眼科撮影装置。
【請求項21】
前記長手方向における前記スリット光の寸法は、前記体軸方向における角膜径以上であり、
前記スリット光の平行移動の距離は、前記体軸方向に直交する方向における角膜径以上である、
請求項
20の眼科撮影装置。
【請求項22】
被検眼の3次元領域をスキャン光でスキャンすることにより取得された一連の画像と、前記3次元領域のスキャンと並行して前記被検眼を繰り返し撮影して収集された一連の時系列画像とを受け付ける受付部と、
前記一連の時系列画像を解析して前記スキャン光の時系列変位を求める第1画像解析部と、
前記スキャン光の前記時系列変位に基づいて前記一連の画像の補間を行う画像補間部と
を含
み、
前記第1画像解析部は、
前記一連の時系列画像を解析して前記スキャン光の一連の像を検出し、
前記スキャン光の前記一連の像に基づいて前記スキャン光の前記時系列変位を求める、
眼科画像処理装置。
【請求項23】
被検眼の3次元領域をスキャン光でスキャンすることにより取得された一連の画像と、前記3次元領域のスキャン
に同期して実行された前記被検眼
の繰り返し撮影
により収集された一連の時系列画像とを受け付ける受付部と、
前記一連の時系列画像を解析して前記スキャン光の一連の像を検出する第2画像解析部と、
前記一連の時系列画像から検出された前記スキャン光の前記一連の像に基づいて、前記3次元領域を前記スキャン光でスキャンすることにより取得された前記一連の画像のそれぞれに対し、当該画像が取得されたときに前記スキャン光が投射されていた眼組織を示す識別子を割り当てる識別子付与部と
を含
み、
前記識別子付与部は、前記スキャンと前記繰り返し撮影との同期に基づく前記一連の画像と前記一連の時系列画像との対応関係に更に基づいて前記識別子の割り当てを行い、
前記識別子付与部は、
前記スキャン光の前記一連の像に基づいて前記一連の時系列画像のそれぞれに前記識別子を割り当て、
前記一連の時系列画像にそれぞれ割り当てられた一連の識別子と前記対応関係とに基づいて前記一連の画像のそれぞれに対する前記識別子の割り当てを行う、
眼科画像処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、眼科撮影装置及び眼科画像処理装置に関する。
【背景技術】
【0002】
眼科分野において画像診断は重要な位置を占める。画像診断では、各種の眼科撮影装置が用いられる。眼科撮影装置には、スリットランプ顕微鏡、眼底カメラ、走査型レーザー検眼鏡(SLO)、光干渉断層計(OCT)などがある。また、レフラクトメータ、ケラトメータ、眼圧計、スペキュラーマイクロスコープ、ウェーブフロントアナライザ、マイクロペリメータなどの各種の検査装置や測定装置にも、前眼部や眼底を撮影する機能が搭載されている。
【0003】
これら様々な眼科撮影装置のうち最も広く且つ頻繁に使用される装置の1つがスリットランプ顕微鏡である。スリットランプ顕微鏡は、スリット光で被検眼を照明し、照明された断面を側方から顕微鏡で観察したり撮影したりするための眼科装置である(例えば、特許文献1、2を参照)。また、シャインプルーフの条件を満足するように構成された光学系を用いることにより被検眼の3次元領域を比較的高速でスキャンすることが可能なスリットランプ顕微鏡も知られている(例えば、特許文献3を参照)。なお、スリットランプ顕微鏡の他にも、スリット光で対象物をスキャンする撮像方式としてローリングシャッターカメラなどがある。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2016-159073号公報
【文献】特開2016-179004号公報
【文献】特開2019-213733号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明の1つの目的は、被検眼の3次元領域をスリット光でスキャンする眼科撮影装置の性能向上を図ることにある。
【課題を解決するための手段】
【0006】
第1の例示的な態様の眼科撮影装置は、第1画像収集部と、第2画像収集部と、第1画像解析部と、画像補間部とを含んでいる。第1画像収集部は、被検眼の3次元領域をスリット光でスキャンして一連のシャインプルーフ画像を収集するように構成されている。第2画像収集部は、第1画像収集部による3次元領域のスキャンと並行して被検眼を繰り返し撮影して一連の時系列画像を収集するように構成されている。第1画像解析部は、一連の時系列画像を解析して、スキャンにおけるスリット光の時系列変位を求めるように構成されている。画像補間部は、スリット光の時系列変位に基づいて一連のシャインプルーフ画像の補間を行うように構成されている。
【0007】
第2の例示的な態様は、第1の態様の眼科撮影装置であって、第1画像解析部は、一連の時系列画像を解析してスリット光の一連の像を検出し、スリット光の一連の像に基づいてスリット光の時系列変位を求める。
【0008】
第3の例示的な態様は、第1又は第2の態様の眼科撮影装置であって、第1画像収集部による3次元領域のスキャンと、第2画像収集部による被検眼の繰り返し撮影とが、互いに同期して実行される。画像補間部は、スキャンと繰り返し撮影との同期に基づく一連のシャインプルーフ画像と一連の時系列画像との対応関係に更に基づいて一連のシャインプルーフ画像の補間を行う。
【0009】
第4の例示的な態様は、第1~第3の態様のいずれかの眼科撮影装置であって、第1画像収集部は、スキャンにおいて被検眼を互いに異なる方向からそれぞれ撮影する第1撮影系及び第2撮影系を含む。第1撮影系は、第1シャインプルーフ画像群を収集し、第2撮影系は、第2シャインプルーフ画像群を収集する。一連のシャインプルーフ画像は、第1シャインプルーフ画像群と第2シャインプルーフ画像群とを含む。
【0010】
第5の例示的な態様は、第4の態様の眼科撮影装置であって、第1撮影系による撮影と第2撮影系による撮影とが互いに同期して実行される。
【0011】
第6の例示的な態様は、第5の態様の眼科撮影装置であって、画像選択部を更に含む。画像選択部は、第1撮影系による撮影と第2撮影系による撮影との同期に基づく第1シャインプルーフ画像群と第2シャインプルーフ画像群との対応関係に基づいて、スキャンに対応する新たな一連のシャインプルーフ画像を第1シャインプルーフ画像群及び第2シャインプルーフ画像群から選択するように構成されている。画像補間部は、新たな一連のシャインプルーフ画像の補間を行う。
【0012】
第7の例示的な態様は、第6の態様の眼科撮影装置であって、第1画像収集部は、3次元領域にスリット光を投射する照明系を更に含む。第1撮影系の光軸と第2撮影系の光軸とは、照明系の光軸に対して互いに反対の方向に傾斜して配置されている。画像選択部は、第1シャインプルーフ画像群と第2シャインプルーフ画像群との対応関係に基づき角膜反射アーティファクトを含まない複数のシャインプルーフ画像を第1シャインプルーフ画像群及び第2シャインプルーフ画像群から選択することによって、新たな一連のシャインプルーフ画像の選択を行う。
【0013】
第8の例示的な態様は、第1~第7の態様のいずれかの眼科撮影装置であって、画像補間部は、一連のシャインプルーフ画像に描出された被検眼の変位をベクトルで表現するオプティカルフローを用いて一連のシャインプルーフ画像の補間を行う。
【0014】
第9の例示的な態様は、第1~第8の態様のいずれかの眼科撮影装置であって、画像補間部は、予め構築された推論モデルを用いて一連のシャインプルーフ画像の補間を行う。推論モデルは、眼のシャインプルーフ画像を少なくとも含む訓練データを用いた機械学習をニューラルネットワークに適用して予め構築される。推論モデルは、同一の眼の2以上の異なる位置をそれぞれ表す2以上のシャインプルーフ画像の入力を受け、2以上のシャインプルーフ画像を空間的に補間した補間画像を出力するように構成されている。
【0015】
第10の例示的な態様は、第1~第9の態様のいずれかの眼科撮影装置であって、画像補間部は、第1補間個数決定部を含んでいる。第1補間個数決定部は、第1画像収集部の動作情報及びスリット光の時系列変位の少なくとも一方に基づいて補間個数を決定するように構成されている。画像補間部は、補間個数の画像によって一連のシャインプルーフ画像を補間する。
【0016】
第11の例示的な態様は、第1~第10の態様のいずれかの眼科撮影装置であって、第1画像解析部は、更に、第2画像収集部により収集された一連の時系列画像を解析して被検眼の時系列変位を求める。画像補間部は、第2補間個数決定部を含んでいる。第2補間個数決定部は、第1画像収集部の動作情報及び被検眼の時系列変位の少なくとも一方に基づいて補間個数を決定するように構成されている。画像補間部は、補間個数の画像によって一連のシャインプルーフ画像を補間する。
【0017】
第12の例示的な態様の眼科撮影装置は、第1画像収集部と、第2画像収集部と、第2画像解析部と、識別子付与部とを含んでいる。第1画像収集部は、被検眼の3次元領域をスリット光でスキャンして一連のシャインプルーフ画像を収集するように構成されている。第2画像収集部は、第1画像収集部による3次元領域のスキャンと並行して被検眼を繰り返し撮影して一連の時系列画像を収集する。第2画像解析部は、一連の時系列画像を解析してスリット光の一連の像を検出するように構成されている。識別子付与部は、一連の時系列画像から検出されたスリット光の一連の像に基づいて、一連のシャインプルーフ画像のそれぞれに対し、当該シャインプルーフ画像が取得されたときにスリット光が投射されていた眼組織を示す識別子を割り当てるように構成されている。
【0018】
第13の例示的な態様は、第12の態様の眼科撮影装置であって、第1画像収集部による3次元領域のスキャンと、第2画像収集部による被検眼の繰り返し撮影とが、互いに同期して実行される。識別子付与部は、スキャンと繰り返し撮影との同期に基づく一連のシャインプルーフ画像と一連の時系列画像との対応関係に更に基づいて識別子の割り当てを行う。
【0019】
第14の例示的な態様は、第13の態様の眼科撮影装置であって、識別子付与部は、スリット光の一連の像に基づいて一連の時系列画像のそれぞれに識別子を割り当て、一連の時系列画像にそれぞれ割り当てられた一連の識別子と対応関係とに基づいて一連のシャインプルーフ画像のそれぞれに対する識別子の割り当てを行う。
【0020】
第15の例示的な態様は、第12~第14の態様のいずれかの眼科撮影装置であって、第2画像解析部は、更に、一連のシャインプルーフ画像を解析してスリット光の一連の像を検出する。識別子付与部は、更に、一連のシャインプルーフ画像から検出されたスリット光の一連の像に基づいて識別子の割り当てを行う。
【0021】
第16の例示的な態様は、第12~第15のいずれかの眼科撮影装置であって、第2画像解析部は、更に、一連のシャインプルーフ画像を解析して被検眼の関心部位の像を検出する。識別子付与部は、更に、一連のシャインプルーフ画像からの関心部位の像の検出結果に基づいて、第2画像収集部により収集された一連の時系列画像のいずれかに対し、関心部位を示す識別子を割り当てる。
【0022】
第17の例示的な態様は、第12~第16の態様のいずれかの眼科撮影装置であって、識別子付与部は、眼組織に対応する当該シャインプルーフ画像の部分領域に対して識別子を割り当てる。
【0023】
第18の例示的な態様は、第12~第17の態様のいずれかの眼科撮影装置であって、第1画像収集部は、スキャンにおいて被検眼を互いに異なる方向からそれぞれ撮影する第1撮影系及び第2撮影系を含んでいる。第1撮影系は、第1シャインプルーフ画像群を収集し、第2撮影系は、第2シャインプルーフ画像群を収集する。一連のシャインプルーフ画像は、第1シャインプルーフ画像群と第2シャインプルーフ画像群とを含む。
【0024】
第19の例示的な態様は、第18の態様の眼科撮影装置であって、第1撮影系による撮影と第2撮影系による撮影とが互いに同期して実行される。
【0025】
第20の例示的な態様は、第19の態様の眼科撮影装置であって、画像選択部を更に含む。画像選択部は、第1撮影系による撮影と第2撮影系による撮影との同期に基づく第1シャインプルーフ画像群と第2シャインプルーフ画像群との対応関係に基づいて、スキャンに対応する新たな一連のシャインプルーフ画像を第1シャインプルーフ画像群及び第2シャインプルーフ画像群から選択するように構成されている。識別子付与部は、新たな一連のシャインプルーフ画像のそれぞれに対して識別子の割り当てを行う。
【0026】
第21の例示的な態様は、第20の態様の眼科撮影装置であって、第1画像収集部は、照明系を更に含む。照明系は、3次元領域にスリット光を投射するように構成されている。第1撮影系の光軸と第2撮影系の光軸とは、照明系の光軸に対して互いに反対の方向に傾斜して配置されている。画像選択部は、第1シャインプルーフ画像群と第2シャインプルーフ画像群との対応関係に基づき角膜反射アーティファクトを含まない複数のシャインプルーフ画像を第1シャインプルーフ画像群及び第2シャインプルーフ画像群から選択することにより、新たな一連のシャインプルーフ画像の選択を行う。
【0027】
第22の例示的な態様は、第1~第21の態様のいずれかの眼科撮影装置であって、第1画像収集部は、スリット光の長手方向に直交する方向にスリット光を平行移動することによって3次元領域のスキャンを行う。
【0028】
第23の例示的な態様は、第22の態様の眼科撮影装置であって、スリット光の長手方向は、被検者の体軸方向に略一致している。
【0029】
第24の例示的な態様は、第23の態様の眼科撮影装置であって、長手方向におけるスリット光の寸法は、体軸方向における角膜径以上である。スリット光の平行移動の距離は、体軸方向に直交する方向における角膜径以上である。
【0030】
第25の例示的な態様の眼科画像処理装置は、受付部と、第1画像解析部と、画像補間部とを含んでいる。受付部は、被検眼の3次元領域をスキャン光でスキャンすることにより取得された一連の画像と、3次元領域のスキャンと並行して被検眼を繰り返し撮影して収集された一連の時系列画像とを受け付ける。第1画像解析部は、一連の時系列画像を解析してスキャン光の時系列変位を求めるように構成されている。画像補間部は、スキャン光の時系列変位に基づいて一連の画像の補間を行うように構成されている。
【0031】
第26の例示的な態様の眼科画像処理装置は、受付部と、第2画像解析部と、識別子付与部とを含んでいる。受付部は、被検眼の3次元領域をスキャン光でスキャンすることにより取得された一連の画像と、3次元領域のスキャンと並行して被検眼を繰り返し撮影して収集された一連の時系列画像とを受け付ける。第2画像解析部は、一連の時系列画像を解析してスキャン光の一連の像を検出するように構成されている。識別子付与部は、一連の時系列画像から検出されたスキャン光の一連の像に基づいて、3次元領域をスキャン光でスキャンすることにより取得された一連の画像のそれぞれに対し、当該画像が取得されたときにスキャン光が投射されていた眼組織を示す識別子を割り当てるように構成されている。
【発明の効果】
【0032】
例示的な態様によれば、被検眼の3次元領域をスリット光でスキャンする眼科撮影装置の性能向上を図ることができる。
【図面の簡単な説明】
【0033】
【
図1】例示的な態様に係る眼科撮影装置の構成を表す概略図である。
【
図2】例示的な態様に係る眼科撮影装置が実行する処理を説明するための概略図である。
【
図3】例示的な態様に係る眼科撮影装置が実行する処理を表すフロー図である。
【
図4】例示的な態様に係る眼科撮影装置の構成を表す概略図である。
【
図5】例示的な態様に係る眼科撮影装置の構成を表す概略図である。
【
図6A】例示的な態様に係る眼科撮影装置の構成を表す概略図である。
【
図6B】例示的な態様に係る眼科撮影装置の構成を表す概略図である。
【
図7】例示的な態様に係る眼科撮影装置の構成を表す概略図である。
【
図8】例示的な態様に係る眼科撮影装置の構成を表す概略図である。
【
図9】例示的な態様に係る眼科撮影装置の使用形態を表すフロー図である。
【
図10】例示的な態様に係る眼科撮影装置の構成を表す概略図である。
【
図11】例示的な態様に係る眼科撮影装置の使用形態を表すフロー図である。
【
図12】例示的な態様に係る眼科撮影装置の構成を表す概略図である。
【
図13】例示的な態様に係る眼科撮影装置の構成を表す概略図である。
【
図14A】例示的な態様に係る眼科撮影装置の動作を説明するための概略図である。
【
図14B】例示的な態様に係る眼科撮影装置の動作を説明するための概略図である。
【
図15】例示的な態様に係る眼科撮影装置の動作を説明するための概略図である。
【
図16】例示的な態様に係る眼科撮影装置の構成を表す概略図である。
【
図17】例示的な態様に係る眼科撮影装置の構成を表す概略図である。
【
図18】例示的な態様に係る眼科撮影装置の使用形態を表すデータフロー図である。
【発明を実施するための形態】
【0034】
実施形態の幾つかの例示的な態様について、図面を参照しながら詳細に説明する。なお、任意の公知技術を実施形態に組み合わせることができる。例えば、本明細書で引用した文献において開示された任意の事項など、当該技術分野の任意の公知技術を実施形態に組み合わせることが可能である。例えば、本願の出願人に含まれている株式会社トプコンによる特許文献3(特開2019-213733号公報)に開示されている全ての内容は、参照によって本開示に援用される。本願の出願人のいずれかによる当該技術に関する他の文献(特許出願、論文など)についても同様である。また、本明細書において開示された様々な態様のうちのいずれか2つ以上を少なくとも部分的に組み合わせることが可能である。
【0035】
本開示において説明される要素の機能の少なくとも一部は、回路構成(circuitry)又は処理回路構成(processing circuitry)を用いて実装される。回路構成又は処理回路構成は、開示された機能の少なくとも一部を実行するように構成及び/又はプログラムされた、汎用プロセッサ、専用プロセッサ、集積回路、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、ASIC(Application Specific Integrated Circuit)、プログラマブル論理デバイス(例えば、SPLD(Simple Programmable Logic Device)、CPLD(Complex Programmable Logic Device)、FPGA(Field Programmable Gate Array)、従来の回路構成、及びそれらの任意の組み合わせのいずれかを含む。プロセッサは、トランジスタ及び/又は他の回路構成を含む、処理回路構成又は回路構成とみなされる。本開示において、回路構成、ユニット、手段、又はこれらに類する用語は、開示された機能の少なくとも一部を実行するハードウェア、又は、開示された機能の少なくとも一部を実行するようにプログラムされたハードウェアである。ハードウェアは、本明細書に開示されたハードウェアであってよく、或いは、記載された機能の少なくとも一部を実行するようにプログラム及び/又は構成された既知のハードウェアであってもよい。ハードウェアが或るタイプの回路構成とみなされ得るプロセッサである場合、回路構成、ユニット、手段、又はこれらに類する用語は、ハードウェアとソフトウェアとの組み合わせであり、このソフトウェアはハードウェア及び/又はプロセッサを構成するために使用される。
【0036】
<実施形態の概要>
実施形態は、被検眼の3次元領域をスリット光でスキャンして収集された一連の画像を処理する技術に関する。実施形態の幾つかの例示的な態様は、被検眼の3次元領域をスリット光でスキャンして収集された一連の画像を空間的に補間する技術(空間的画像補間)に関する。他の幾つかの例示的な態様は、被検眼の3次元領域をスリット光でスキャンして収集された一連の画像に対して眼組織を示す識別子を付与する技術(眼組織識別子付与)に関する。更に他の幾つかの例示的な態様は、空間的画像補間及び眼組織識別子付与の双方に関する。スリット光を用いたスキャンをスリットスキャンと呼ぶことがある。
【0037】
実施形態では、被検眼の前眼部にスリットスキャンが適用される例示的な態様を説明するが、スリットスキャンが適用される部位は前眼部(例:角膜、虹彩、前房、隅角、毛様体、チン小帯、水晶体、神経、血管などの組織;病変部;治療痕;眼内レンズ、低侵襲緑内障手術(MIGS)デバイスなどの人工物)に限定されない。幾つかの例示的な態様では、後眼部(例:硝子体、網膜、脈絡膜、強膜、視神経乳頭、篩状板、黄斑、神経、血管などの組織;病変部;治療痕;人工網膜などの人工物)にスリットスキャンを適用することができる。また、幾つかの例示的な態様では、瞼やマイボーム腺などの眼球近傍組織にスリットスキャンを適用することができる。更に、幾つかの態様では、前眼部の少なくとも一部、後眼部の少なくとも一部、及び、眼球近傍組織の少なくとも一部のうちのいずれか2つを含む3次元領域又は全てを含む3次元領域に対してスリットスキャンを適用することができる。
【0038】
<空間的画像補間について>
空間的画像補間に関する実施形態の背景や動機付けや概要などについて説明する。従来の典型的な前眼部スリットスキャンでは、角膜(耳側強膜と鼻側強膜との間)を含む3次元領域にスキャンが適用される。このスリットスキャンにおいてシャインプルーフカメラにより収集されるフレーム数は数百枚程度であり、また、各フレーム(シャインプルーフ画像)の縦方向の寸法は1000~3000ピクセル程度である。
【0039】
このような収集画像(収集フレーム)から3次元画像(ボリューム画像)を構築する場合、十分に小さな間隔で配列された画像群を3次元画像化プロセッサに提供するために、隣接するフレームの間隔を小さくする(収集フレームの配列密度を小さくする)必要があるため、得られる3次元画像のアスペクト比(後述するX方向の寸法とY方向の寸法との比)が実際の前眼部のそれと大きく異なるものとなり、観察や診断などの行為や、解析などの処理を難しくするという問題があった。
【0040】
本開示の発明者らは、この問題に着目し、これを解決すべく実施形態に係る空間的画像補間技術を開発した。実施形態では、収集フレームの間隔を狭めることなく3次元画像化を行うために、収集フレームに空間的画像補間を適用することで、コンピュータで生成したフレームを隣接するフレームの間に挿入する。これにより、十分に狭い間隔で配列された一連の画像(一連のフレーム)を取得することができ、収集フレームの間隔を狭めることなく3次元画像を構築することができるため、前眼部の実際の形態に応じたアスペクト比の3次元画像を得ることが可能となる。
【0041】
このような3次元画像から得られるレンダリング画像においても同様である。例えば、前眼部の実際の形態に応じたアスペクト比の3次元画像から正面画像(enface画像、XY座標系で定義される画像)をレンダリングする場合、得られる正面画像は、前眼部の実際の形態に応じたアスペクト比を有する。また、隅角画像(slow-axis scan 断層画像)など、他の種類のレンダリング画像を構築する場合も同様である。
【0042】
前眼部の実際の形態に応じたアスペクト比を有する画像を提供することによって、観察や診断などの行為や解析などの処理が従来よりも容易になり、また、これらの行為や処理の品質(例えば、正確度、精度、信頼性、再現性など)が向上する。したがって、被検眼の3次元領域のスリットスキャンの性能向上を図ることが可能になる。
【0043】
実施形態において、隣接フレーム間それぞれの補間フレーム数は一定でもよいし、一定でなくてもよい。例えば、第1フレームと第2フレームとが隣接し、且つ、第3フレームと第4フレームとが隣接している場合において、第1フレームと第2フレームとの間に補間されるフレームの個数と、第3フレームと第4フレームとの間に補間されるフレームの個数とは、互いに等しくてもよいし、互いに異なってもよい。
【0044】
幾つかの態様では、隣接フレーム間の補間フレーム数を決定することができる。補間フレーム数の決定においては、スリットスキャンにおいてスリット光を移動する距離、被検眼の眼球運動、シャインプルーフカメラの撮影間隔(フレームレート、フレーム収集レート)など、隣接フレーム間隔(隣接フレーム間の距離)に影響する任意の情報を参照することができる。これにより、眼球運動に起因する隣接フレーム間隔のズレや、スキャンの非等速性に起因する隣接フレーム間隔のばらつきなどを補正することが可能になる。
【0045】
空間的画像補間の手法は任意に選択されてよい。幾つかの態様では、OpenCV(Open Source Computer Vision Library)のresize関数又はこれに類するソフトウェアを利用して、オリジナル画像(例えば、収集フレームのみから構築されたオリジナル3次元画像、そのレンダリング画像)を引き延ばす手法を適用してもよい。しかし、この手法は、角膜(角膜輪部)のように境界が明瞭な組織であってフレーム間における位置変化が大きい組織を表現するためには不適当である。本開示の発明者らが実際に試したところ、補間後の画像では角膜境界が非連続になることが確認された。
【0046】
動画像のフレーム補間の手法として、フレーム間における特徴点の動きを解析することによって物体の動きのベクトル表現を得るオプティカルフロー(optical flow、optic flow)がある。オプティカルフローの手法としては、phase correlation、block-based methods、differential methods(例えば、Lucas-Kanade method、Horn-Schunck method、Buxton-Buxton method、Black-Jepson method、General variational methods)、Discrete Optimization methodsなどがある。
【0047】
また、より新しいoptic flowの手法として、畳み込みニューラルネットワーク(CNN)を利用したものがある。このような手法は、例えば、次の文献に開示されている:Huaizu Jiangら、「Super SloMo:High Quality Estimation of Multiple Intermediate Frames for Video Interpolation」、Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR)、2018、pp.9000-9008(arXiv:1712.00080)。
【0048】
単純な線形補間によるフレーム補間手法とCNNによるフレーム補間手法との比較(正面画像の比較)を本開示の発明者らが実施した結果、後者の方が角膜境界を滑らかに表現していることが確認された。幾つかの態様では、オプティカルフローの任意の手法を利用して空間的画像補間を行ってよい。また、幾つかの態様では、任意の訓練(機械学習)が適用された任意のニューラルネットワークを利用して空間的画像補間を行ってよい。更に、幾つかの態様では、任意の訓練(機械学習)が適用されたCNNを用いたオプティカルフローの任意の手法を利用して空間的画像補間を行ってよい。例えば、幾つかの態様では、Huaizu Jiangらの上記文献に記載されたフレーム補間手法を空間的画像補間に応用してもよい。ここで、Huaizu Jiangらの上記文献に記載されたフレーム補間手法は、時間的に配列されたフレーム群(動画像を構成するフレーム群)を補間するものであるのに対し、それを応用した例示的な態様は、空間的に配列された一連の画像を補間するものである点において少なくとも相違していることに注意すべきである。
【0049】
以上説明した事項は、実施形態に係る空間的画像補間の一部に過ぎない。実施形態に係る空間的画像補間の様々な事項については、後述する例示的な態様において説明され技術的に特定される。実施形態に係る空間的画像補間に対して、画像解析や画像補間などの任意の画像処理技術を組み合わせることが可能である。また、実施形態に係る空間的画像補間に提供される画像に対して、任意の画像収集技術、任意の撮影技術、任意の画像処理技術(例えば、画像補正などの前処理)などが適用されてもよい。
【0050】
<眼組織識別子付与について>
眼組織識別子付与に関する実施形態の背景や動機付けや概要などについて説明する。スリットスキャンによって前眼部の3次元領域から収集される一連の画像やその加工画像(3次元画像、レンダリング画像など)は、観察や診断などの行為や解析などの処理に提供される。これらの用途においては、各画像に描出されている眼組織の種類を認識できることが重要である。しかし、スリットスキャンで収集される各画像は、前眼部の断面を表しているため、どの眼組織の断面であるかをその画像から決定(判断、認識)することが困難な場合がある。同様に、角膜頂点のような被検眼の特徴部位を各画像から決定することが困難な場合や、往復スキャンにおける折り返し位置のような撮影プロトコルの特徴位置を各画像から決定することが困難な場合もある。
【0051】
本開示の発明者らは、この問題に着目し、これを解決すべく実施形態に係る眼組織識別子付与技術を開発した。実施形態では、スリットスキャンによる一連の画像の収集と並行して一連の時系列画像の収集を行い、スリットスキャンで得た各画像に描出されている眼組織を、対応する時系列画像を解析して決定する。これにより、スリットスキャンで取得した各画像に対して、その画像が取得されたときにスリット光が投射されていた眼組織を示す識別子(眼組織識別子)を割り当てることができ、観察や診断などの行為や解析などの処理において利用される画像に描出されている眼組織の種類を(例えば、容易に及び/又は正しく)認識することが可能になる。
【0052】
1つの画像に割り当てられる眼組織識別子の個数は任意であってよく、例えば、1つでもよいし、2つ以上でもよい。予め設定された眼組織セットに含まれるいずれの眼組織も或る画像から検出されない場合、その画像に対して何の情報を割り当てなくてもよいし、特定の眼組織が描出されていないことを示す情報をその画像に割り当ててもよい。
【0053】
幾つかの態様では、スリットスキャンで取得された画像を解析することで、その画像に眼組織識別子を割り当てることができる。また、幾つかの態様では、スリットスキャンで取得された画像を解析することで、その画像に対応する時系列画像に眼組織識別子を割り当てることができる。これらの態様は、スリットスキャンで取得された画像からしか検出できない眼組織(部位)を扱う場合や、スリットスキャンで取得された画像からの方が好適に(例えば、高い正確度、高い精度)眼組織を検出する場合に有効と考えられる。例えば、角膜頂点の識別子を付与する場合、眼球内部の組織の識別子を付与する場合などにおいて、これらの態様は有用である。
【0054】
以上説明した事項は、実施形態に係る眼組織識別子付与の一部に過ぎない。実施形態に係る眼組織識別子付与の様々な事項については、後述する例示的な態様において説明され技術的に特定される。実施形態に係る眼組織識別子付与に対して、画像解析やセグメンテーションなどの任意の画像処理技術を組み合わせることが可能である。また、実施形態に係る眼組織識別子付与に提供される画像に対して、任意の画像収集技術、任意の撮影技術、任意の画像処理技術(例えば、画像補正などの前処理)などが適用されてもよい。
【0055】
<第1の態様>
第1の態様は、空間的画像補間を実行可能な眼科撮影装置の例示的な態様を提供する。なお、本態様に係る眼科撮影装置の具体例(実施例)については後述する。
【0056】
図1は、本態様に係る眼科撮影装置の構成を示す。眼科撮影装置1000は、第1画像収集部1010と、第2画像収集部1020と、第1画像解析部1030と、画像補間部1040とを含む。
【0057】
画像補間部1040による空間的画像補間を通じて得られた複数のシャインプルーフ画像(第1画像収集部1010により収集された一連のシャインプルーフ画像と、画像補間部1040により補間されたシャインプルーフ画像群とを含む)は、3次元画像の構築、レンダリング画像の構築、画像解析、画像診断など、各種の後処理において使用される。後処理を実行するための要素(プロセッサ、ユーザーインターフェイスなど)は、眼科撮影装置1000に設けられていてもよいし、眼科撮影装置1000とは異なる装置に設けられていてもよい。
【0058】
第1画像収集部1010は、被検眼の3次元領域をスリット光でスキャンして一連のシャインプルーフ画像を収集するように構成されている。第1画像収集部1010は、被検眼の3次元領域に対するスリット光の投射位置を移動しながら繰り返し撮影を行うことによって一連のシャインプルーフ画像を収集する。第1画像収集部1010は、シャインプルーフの条件を満足するように構成された光学系を有し、シャインプルーフカメラとして機能する。
【0059】
幾つかの例示的な態様において、第1画像収集部1010は、スリット光の長手方向に直交する方向にスリット光を平行移動することによって被検眼の3次元領域をスキャンするように構成されてよい。このようなスキャン態様は、スリット光を回転させて前眼部をスキャンする従来の前眼部撮影装置のそれとは異なっている。
【0060】
ここで、スリット光の長手方向は、被検眼への投射位置におけるスリット光のビーム断面の長手方向、換言すると、被検眼上に形成されたスリット光の像の長手方向であり、被検者の体軸に沿う方向(体軸方向)に略一致していてよい。また、長手方向におけるスリット光の寸法は、被検体の体軸方向における角膜径以上であってよく、スリット光の平行移動の距離は、被検体の体軸方向に直交する方向における角膜径以上であってよい。
【0061】
第1画像収集部1010により収集された一連のシャインプルーフ画像は、時間的に連続して収集された画像群(フレーム群)ではあるが、被検眼の3次元領域における異なる複数の位置から収集された画像群であるから、一般的な動画像とは異なり、空間的に分布する画像群である。
【0062】
第1画像収集部1010の光学系は、スリット光を被検眼の3次元領域に投射する照明系と、照明系からのスリット光が投射されている被検眼の3次元領域を撮影する撮影系とを含む。撮影系は、撮像素子を含む。照明系と撮影系とは、シャインプルーフの条件を満足する。すなわち、照明系の光軸を通る平面(物面を含む平面)と、撮影系の主面と、撮像素子の撮像面とが、同一の直線上にて交差する。これにより、物面内の全ての位置(照明系の光軸に沿う方向における全ての位置)に撮影系のピントが合う。
【0063】
第1画像収集部1010の撮影系は、少なくとも2つの撮影系を含んでいてよい。幾つかの例示的な態様に係る第1画像収集部1010の撮影系は、スリットスキャンにおいて被検眼の3次元領域を互いに異なる方向からそれぞれ撮影する第1撮影系及び第2撮影系を含んでいる。例えば、被検眼への入射位置におけるスリット光のビーム断面の長手方向が上下方向(Y方向)であり、且つ、スリット光の移動方向が水平方向(左右方向、X方向)であるように第1画像収集部1010が構成されている場合、第1撮影系及び第2撮影系は、一方が左斜方から被検眼を撮影し且つ他方が右斜方から被検眼を撮影するように配置されていてよい。第1撮影系により収集される一連のシャインプルーフ画像を第1シャインプルーフ画像群と呼び、第2撮影系により収集される一連のシャインプルーフ画像を第2シャインプルーフ画像群と呼ぶ。このような第1画像収集部1010により収集される一連のシャインプルーフ画像は、第1シャインプルーフ画像群と第2シャインプルーフ画像群とを含む。
【0064】
第2画像収集部1020は、第1画像収集部1010による被検眼の3次元領域のスキャンと並行して被検眼を繰り返し撮影することにより一連の時系列画像を収集するように構成されている。すなわち、一連のシャインプルーフ画像と一連の時系列画像とは、同じ期間において収集される。一連の時系列画像は、時間的に配列された複数の画像である。各時系列画像は、1つの画像である。例えば、第2画像収集部1020は被検眼の3次元領域の動画撮影を行い、一連の時系列画像は動画像(時間的に配列された複数のフレーム)であり、各時系列画像は1つのフレームである。
【0065】
幾つかの例示的な態様では、第1画像収集部1010による被検眼の3次元領域のスリットスキャンと、第2画像収集部1020による被検眼の繰り返し撮影とを、互いに同期して実行してもよい。これにより、第1画像収集部1010により収集された一連のシャインプルーフ画像と、第2画像収集部1020により収集された一連の時系列画像との間の対応関係が得られる。この対応関係は、空間的に配列された一連のシャインプルーフ画像と、時間的に配列された一連の時系列画像との間の対応関係であり、実質的に同時に取得されたシャインプルーフ画像と時系列画像とをペアリングするものである。第1画像収集部1010と第2画像収集部1020との同期は、任意の公知の同期処理によって実現されてよく、例えば、同期制御プログラムに基づき動作する制御プロセッサから第1画像収集部1010と第2画像収集部1020とに同期信号を送ることによって実現されてよい。
【0066】
他の幾つかの例示的な態様では、第1画像収集部1010により収集された一連のシャインプルーフ画像と、第2画像収集部1020により収集された一連の時系列画像との間の対応関係を決定する後処理を実行することができる。例えば、第1画像収集部1010により逐次に取得されるシャインプルーフ画像の所定の処理タイミングと、第2画像収集部1020により逐次に取得される時系列画像の所定の処理タイミングとを互いに照合することによって、一連のシャインプルーフ画像と一連の時系列画像との間の対応関係を決定することができる。
【0067】
一連のシャインプルーフ画像と一連の時系列画像との間の対応関係を決定するための所定の処理タイミングは、例えば、第1画像収集部1010から図示しない制御プロセッサにシャインプルーフ画像が入力されるタイミング(すなわち、制御プロセッサが各シャインプルーフ画像を受け付けるタイミング)と、第2画像収集部1020から制御プロセッサに時系列画像が入力されるタイミング(すなわち、制御プロセッサが各時系列画像を受け付けるタイミング)との組み合わせであってよい。他の例として、所定の処理タイミングは、制御プロセッサが各シャインプルーフ画像を図示しない記憶装置に転送するタイミングと、制御プロセッサが各時系列画像を記憶装置に転送するタイミングとの組み合わせであってよい。更に他の例として、所定の処理タイミングは、第1画像収集部1010により取得された各シャインプルーフ画像がバッファメモリに保存されたタイミング(又は、各シャインプルーフ画像がバッファメモリから読み出されたタイミング)と、第2画像収集部1020により取得された各時系列画像がバッファメモリに保存されたタイミング(又は、各シャインプルーフ画像がバッファメモリから読み出されたタイミング)との組み合わせであってよい。
【0068】
幾つかの例示的な態様に係る第2画像収集部1020は、被検眼を前方(正面方向、又は、斜め方向)から撮影するように構成されていてよい。幾つかの例示的な態様において、第1画像収集部1010の照明系が被検眼に対して正面方向から照明光を投射するように構成されている場合、照明系の光路から分岐した光路に第2画像収集部1020の光学系や撮像素子が設けられていてよい。例えば、本例の第2画像収集部1020の光学系は、第1画像収集部1010の照明系と同軸に配置されていてよい。本例の第2画像収集部1020は、被検眼の正面画像を時系列画像として取得することができる。
【0069】
被検眼を斜方から撮影するように第2画像収集部1020が構成された幾つかの例示的な態様において、第1画像収集部1010の撮影系は、被検眼に対して斜方から照明光を投射するように構成されてよく、且つ、第1画像収集部1010の撮影系の光路から分岐した光路に第2画像収集部1020の光学系や撮像素子が設けられていてよい。例えば、本例の第2画像収集部1020の光学系は、第1画像収集部1010の撮影系と同軸に配置されていてよい。他の幾つかの例示的な態様において、第2画像収集部1020の光軸の向きは、第1画像収集部1010の照明系の光軸の向き及び撮影系の光軸の向きの双方と異なっていてよい。
【0070】
幾つかの例示的な態様に係る第2画像収集部1020は、2以上の異なる方向から被検眼を撮影するように構成されていてよい。その構成及び手法の具体例は、本願の出願人に含まれている株式会社トプコンによる特開2013-248376号公報に開示されている。本例の第2画像収集部1020は、被検眼に対して互いに異なる方向に配置された2つの前眼部カメラを含む。各前眼部カメラは、例えばビデオカメラである。2つの前眼部カメラは、被検眼の前眼部の動画像を互いに異なる方向から取得する。
【0071】
眼科撮影装置1000(例えば、第1画像解析部1030)は、2つの前眼部カメラによりそれぞれ取得された2つの動画像から、実質的に同時に取得された2つのフレーム(撮影画像)を選択(ペアリング)し、ペアリングされた2つのフレームを解析して被検眼の3次元位置を決定することができる。被検眼の3次元位置は前眼部の特定部位の3次元位置であってよく、前眼部の特定部位は瞳孔(瞳孔の中心、重心、輪郭など)であってよい。
【0072】
第1画像解析部1030は、第2画像収集部1020により収集された一連の時系列画像を解析することにより、第1画像収集部1010による被検眼の3次元領域のスキャンにおけるスリット光の時系列変位を求めるように構成されている。スリット光の時系列変位は、被検眼に対するスリット光の投射位置の時系列変化であり、換言すると、被検眼におけるスリット光の投射位置の移動状態である。第1画像解析部1030は、第1画像解析プログラムに基づき動作する第1画像解析プロセッサを含む。
【0073】
幾つかの例示的な態様において、第1画像解析部1030は、第2画像収集部1020により収集された一連の時系列画像を解析してスリット光の一連の像を検出する処理と、検出されたスリット光の一連の像に基づいてスリット光の時系列変位を求める処理とを実行するように構成されてよい。
【0074】
スリット光の一連の像を検出する処理は、各時系列画像を解析してスリット光の像を検出する処理を含む。時系列画像中のスリット光の像を検出することは、時系列画像におけるスリット光の位置を特定することに相当する。このスリット光像検出処理(スリット光位置特定処理)を一連の時系列画像(の一部又は全て)に対して行うことにより、一連の時系列画像が収集された期間におけるスリット光の時系列変位が求められる。
【0075】
第1画像解析部1030が実行する処理の1つの具体例を説明する。
図2を参照する。本例では、被検眼への投射位置におけるスリット光の断面の長手方向はY方向に沿っており、スリットスキャンにおいてスリット光はX方向に移動される。符号F(n)は、第2画像収集部1020により取得された1つの時系列画像(フレーム)を示す。ここで、nは1以上の整数であり、F(n)は第n番目に取得された時系列画像を示す。時系列画像F(n)には、スリット光像L(n)が描出されている。
【0076】
時系列画像F(n)が第1画像解析部1030に入力されると、第1画像解析部1030は、時系列画像F(n)のピクセルの輝度値をY方向に積算(加算)する。すなわち、第1画像解析部1030は、時系列画像F(n)を構成するピクセル群P(X,Y)を、各X座標に対応する部分ピクセル群(Y方向に並ぶ部分ピクセル群)PX(Y)に分ける。各PX(Y)において、Xは固定であり、Yは時系列画像F(n)のY方向の範囲(定義域)にわたる。これにより、時系列画像F(n)の各X座標に対応する部分ピクセル群PX(Y)が定義される。
【0077】
次に、第1画像解析部1030は、各X座標について、対応する部分ピクセル群PX(Y)に含まれる複数のピクセルの輝度値を積算する。X座標値と輝度の積算値(積算輝度値)とを対応付けることにより、時系列画像F(n)のX方向の定義域における積算輝度値の分布を表すグラフ(積算輝度値分布)B(n)が得られる。
【0078】
時系列画像F(n)において、スリット光像L(n)は他の部分よりも明るく描出される。第1画像解析部1030は、積算輝度値分布B(n)のピーク、つまり積算輝度値分布B(n)における最大値を検出し、検出されたピークに対応するX座標X(n)を特定する。特定されたX座標X(n)は、時系列画像F(n)におけるスリット光像L(n)の位置(X座標)として記録される。
【0079】
このような一連の処理を各時系列画像F(n)に対して実行することにより、スリットスキャンにおいてX方向に移動されるスリット光の位置の変化、つまりスリット光の時系列変位が得られる。本例の処理は、輝度値に関する演算処理のみであるから、処理速度の速さ、処理時間の短さ、処理リソースの少なさなどの利点を有する。同じ目的のための処理の他の例として、時系列画像にセグメンテーションを適用してスリット光像を検出する方法がある。なお、画像中の部分領域を特定するための任意の処理、及び/又は、画像中の位置を特定するための任意の処理を適用してもよい。
【0080】
このようなスリット光位置検出の幾つかの応用例を説明する。幾つかの例示的な態様において、撮影プロトコルが往復スキャンである場合、スキャン開始位置のX座標から最も遠いX座標のスリット光の位置を往復スキャンの折り返し位置として特定することができる。
【0081】
スキャン開始位置のX座標と折り返し位置のX座標との差は、X方向におけるスキャン範囲の寸法(スリット光の移動距離、スキャン長)に相当する。なお、往復スキャン以外の撮影プロトコルの場合も同様に、スキャン開始位置のX座標と、スキャン開始位置から最も遠いスリット光のX座標との差は、スキャン長に相当する。
【0082】
更に、幾つかの例示的な態様は、往復スキャンによって収集された一連のシャインプルーフ画像を、往路スキャン(例えば、スキャン範囲の左端から右端までのスリットスキャン、つまり、スキャン開始位置から折り返し位置までのスリットスキャン)で収集された一連のシャインプルーフ画像(第1群)と、復路スキャン(例えば、スキャン範囲の右端から左端までのスリットスキャン、つまり、折り返し位置からスキャン終了位置までのスリットスキャン)で収集された一連のシャインプルーフ画像(第2群)とに分類することができる。なお、折り返し位置に対応するシャインプルーフ画像を第1群及び第2群の双方に含めてもよい。
【0083】
加えて、幾つかの例示的な態様は、第1群(及び、第1群を補間した画像群)に基づき3次元画像を構築し、且つ、第2群(及び、第2群を補間した画像群)に基づき3次元画像を構築することができる。他の幾つかの例示的な態様は、スキャン範囲の右端から左端までの範囲にわたる一連のシャインプルーフ画像を第1群及び第2群から選択し、選択された一連のシャインプルーフ画像(及び、この一連のシャインプルーフ画像を補間した画像群)に基づき3次元画像を構築することができる。
【0084】
画像補間部1040の説明において詳述するが、3次元画像やレンダリング画像を構築するための空間的画像補間において、補間される画像の個数(前述の補間フレーム数)を決定するためにスリット光の時系列変位を用いることができる。
【0085】
以上のように、第1画像解析部1030は、第2画像収集部1020により収集された一連の時系列画像を解析して、スリットスキャンにおけるスリット光の時系列変位を求めるように構成されている。これに加え、第1画像解析部1030は、第2画像収集部1020により収集された一連の時系列画像を解析して、スリットスキャンが行われている期間における被検眼の時系列変位を求めるように構成されていてもよい。被検眼の時系列変位は、眼科撮影装置1000(特に、第1画像収集部1010)に対する被検眼の位置の時系列変化である。被検眼の時系列変位を利用することで、スリットスキャンを行っている期間における被検眼とスリット光との相対位置(相対位置の時系列変化)をより高い正確度且つより高い精度で検出することが可能になる。
【0086】
第1画像解析部1030は、第2画像収集部1020により取得された各時系列画像を解析することによって、この時系列画像に対応する時点における被検眼の位置を特定することができる。更に、第1画像解析部1030は、この要領によって一連の時系列画像から得られた一連の被検眼の位置を時系列に配列することにより、一連の時系列画像が収集期間、つまり一連のシャインプルーフ画像の収集期間における被検眼の時系列変位を求めることができる。
【0087】
被検眼の時系列変位を求めるために第1画像解析部1030が実行する処理の例について、
図3を参照しつつ説明する。本例では、瞳孔の特徴点(例えば、瞳孔中心、瞳孔重心、瞳孔輪郭上の所定位置など)を基準として被検眼の位置が定義される。また、本例の時系列画像は、カラー画像(RGB画像)であるとする。なお、時系列画像はグレースケール画像であってもよく、その場合には、例えば、
図3のステップS3が省略される。
【0088】
第1画像収集部1010によるシャインプルーフ画像の収集とともに第2画像収集部1020による時系列画像の収集が開始されると(S1)、第2画像収集部1020により逐次に取得された時系列画像が逐次に且つリアルタイムで第1画像解析部1030に入力される(S2)。
【0089】
第1画像解析部1030は、入力された時系列画像(RGB画像)から所定のカラーチャネルの画像を抽出する(S3)。本開示の発明者らの検討によれば、瞳孔境界(瞳孔輪郭)が最も明瞭なのは赤チャネルの画像(赤成分の画像、R画像)であった。本例では、第1画像解析部1030は、入力された時系列画像の3つのカラーチャネルの画像のうちから赤チャネルの画像を抽出する。
【0090】
次に、第1画像解析部1030は、ステップS3で抽出されたR画像から所定領域をクロップする(S4)。本例では、この所定領域(クロップ領域)は、瞳孔の像が収まる領域とされる。クロップ領域は、既定の寸法の領域であってよい。例えば、クロップ領域は、512ピクセル×512ピクセルの寸法の領域とされる。クロップ領域の既定寸法は、例えば、第2画像収集部1020の光学系の設計データ、眼科撮影装置1000(第2画像収集部1020)のワーキングディスタンス、標準的な瞳孔寸法(標準瞳孔径)などに基づき設定されてよい。また、時系列画像(又は、第2画像収集部1020により事前に取得された被検眼の画像)に基づいて、この被検眼のためのクロップ領域寸法を決定してもよい。
【0091】
次に、第1画像解析部1030は、ステップS4で得られたクロップ領域に対してコントラスト強調処理を適用する(S5)。このコントラスト強調処理は、例えばヒストグラム均等化であってよく、より具体的には、適応ヒストグラム均等化、コントラスト制限適応ヒストグラム均等化(CLAHE)、マルチピークヒストグラム均等化(MPHE)、多目的ベータ最適化バイヒストグラム均等化(MBOBHE)などであってよい。また、ヒストグラム均等化以外のコントラスト強調手法を用いてもよい。
【0092】
次に、第1画像解析部1030は、ステップS5でコントラストが強調されたクロップ領域から瞳孔像(瞳孔領域)を検出する(S6)。瞳孔領域を検出する手法は任意であってよい。例えば、眼画像を入力とし瞳孔領域の検出結果を出力とするように機械学習により訓練されたCNNを用いた画像セグメンテーション、ダイクストラ法を用いたグラフベースの画像セグメンテーションなどを利用することができる。
【0093】
次に、第1画像解析部1030は、ステップS6で検出された瞳孔領域に基づいて瞳孔の位置を求める(S7)。本ステップで求められる瞳孔の位置は、瞳孔の所定の特徴点の位置(座標)であり、当該時系列画像に対応する時点における被検眼の位置として扱われる。本ステップで瞳孔の位置(被検眼の位置)として得られる情報は、少なくともX座標(スリットスキャンにおけるスキャン光の移動方向における位置)を含み、Y座標(スリット光の断面の長手方向における位置)を更に含んでいてよい。前述したように第2画像収集部1020が2つの前眼部カメラを含む場合、第1画像解析部1030は、瞳孔の位置(被検眼の位置)として3次元位置情報(X座標、Y座標、Z座標)を求めることができる。本ステップで求められた被検眼の位置情報は、例えば、当該時系列画像の順序情報又は当該時系列画像に対応する時点を示す情報(時間情報)と関連付けられて、図示しない記憶装置に保存される。
【0094】
第2画像収集部1020による時系列画像の収集が終了するまで(及び/又は、第1画像収集部1010によるシャインプルーフ画像の収集が終了するまで、若しくは当該一連の処理の終了をユーザーが指示するまで)、第2画像収集部1020により逐次に取得された時系列画像に対してステップS3~S7の一連の処理が適用される(S8:No)。幾つかの例示的な態様では、第2画像収集部1020により収集された全ての時系列画像に対してステップS3~S7の一連の処理が適用されるが、他の幾つかの例示的な態様では、第2画像収集部1020により収集された全ての時系列画像の真部分集合に対してのみ(換言すると、全ての時系列画像から選択又は抽出された時系列画像群に対してのみ)ステップS3~S7の一連の処理が適用される。
【0095】
第2画像収集部1020による時系列画像の収集が終了すると(及び/又は、第1画像収集部1010によるシャインプルーフ画像の収集が終了すると、若しくは当該一連の処理の終了をユーザーが指示すると)、処理はステップS9に移行する(S8:Yes)。
【0096】
処理がステップS9に移行した段階では、第2画像収集部1020により収集された一連の時系列画像(その少なくとも一部)に対応する被検眼の一連の位置情報が保存されている。この被検眼の一連の位置情報のそれぞれは、対応する時系列画像の順序情報又は時間情報に関連付けられている。第1画像解析部1030は、一連の順序情報又は一連の時間情報に基づき被検眼の一連の位置情報を時間軸に配列することによって、被検眼の時系列変位を示すデータを生成することができる(S9)。なお、被検眼の時系列変位データは、ステップS9に移行した時点で既に取得されている一連の順序情報又は一連の時間情報と被検眼の一連の位置情報との間の対応関係自体であってもよいし、この対応関係から得られる任意のデータであってもよい。ステップS9で生成された被検眼の時系列変位データは、図示しない記憶装置に保存される(エンド)。
【0097】
画像補間部1040の説明において詳述するが、3次元画像やレンダリング画像を構築するための空間的画像補間において、補間される画像の個数(前述の補間フレーム数)を決定するために被検眼の時系列変位を用いることができる。
【0098】
画像補間部1040は、第1画像解析部1030により取得されたスリット光の時系列変位に基づいて、第1画像収集部1010により収集された一連のシャインプルーフ画像の補間を行うように構成されている。これにより、収集された一連のシャインプルーフ画像の間隔を狭めることなく、収集された一連のシャインプルーフ画像とこれらを補間する画像群とを含む複数の画像に基づいて、スリットスキャンが適用された被検眼の3次元領域の画像(3次元画像)を構築することができる。このようにして構築された3次元画像のアスペクト比は、前眼部の実際の形態に対応している。この3次元画像から得られるレンダリング画像においても同様である。
【0099】
前述したように、幾つかの例示的な態様では、第1画像収集部1010によるスリットスキャンと、第2画像収集部1020による被検眼の繰り返し撮影とが、互いに同期して実行されてよい。
【0100】
このような態様において、画像補間部1040は、スリットスキャンと繰り返し撮影との間の相互同期(例えば、第1画像収集部1010と第2画像収集部1020との相互同期制御)に基づいて、このスリットスキャンで得られた一連のシャインプルーフ画像と、この繰り返し撮影で得られた一連の時系列画像との間の関連付けを行うことができる。この関連付けは、例えば、互いの取得時間の差が小さいシャインプルーフ画像と時系列画像とを対応付けるように実行される。
【0101】
更に、画像補間部1040は、このようにして得られた一連のシャインプルーフ画像と一連の時系列画像との間の対応関係に更に基づいて(つまり、この対応関係とスリット光の時系列変位とに基づいて)、一連のシャインプルーフ画像の補間を行うことができる。
【0102】
このような態様によれば、スリットスキャンと繰り返し撮影との間の相互同期関係を利用することで、時系列的により高い正確度及びより高い精度で画像補間を行うことが可能になる。したがって、空間的により高い正確度及びより高い精度で画像補間を行うことが可能になる。
【0103】
画像補間部1040の構成例、機能例、変形例などについては後述する。
【0104】
前述したように、幾つかの例示的な態様の第1画像収集部1010は、スリットスキャンにおいて被検眼を互いに異なる方向からそれぞれ撮影する第1撮影系及び第2撮影系を含んでいる。このスリットスキャンで第1撮影系により収集された複数のシャインプルーフ画像を第1シャインプルーフ画像群と呼び、このスリットスキャンで第2撮影系により収集された複数のシャインプルーフ画像を第2シャインプルーフ画像群と呼ぶ。このスリットスキャンで収集される一連のシャインプルーフ画像は、第1シャインプルーフ画像群と第2シャインプルーフ画像群とを含んでいる。
【0105】
このような態様の第1画像収集部1010が実行するスリットスキャンにおいて、第1撮影系による被検眼の撮影と第2撮影系による被検眼の撮影とは、互いに並行して実行される。つまり、第1画像収集部1010は、被検眼の3次元領域に対するスリット光の投射位置を移動しつつ、第1撮影系による撮影と第2撮影系による撮影とを並行して行う。
【0106】
更に、第1画像収集部1010は、第1撮影系による撮影(シャインプルーフ画像の収集)と第2撮影系による撮影(シャインプルーフ画像の収集)とを互いに同期して実行するように構成されていてよい。この同期関係を参照することで、第1シャインプルーフ画像群と第2シャインプルーフ画像群との間の関連付けを、画像処理等を用いることなく、容易に行うことができる。この関連付けは、例えば、互いの取得時間の差が小さいシャインプルーフ画像同士を対応付けるように実行される。
【0107】
このような態様において、眼科撮影装置1000は、第1撮影系による撮影と第2撮影系による撮影との相互同期関係を参照して、当該スリットスキャンに対応する一連のシャインプルーフ画像を第1シャインプルーフ画像群及び第2シャインプルーフ画像群から再構成することができる。
【0108】
一連のシャインプルーフ画像を再構成する機能を有する眼科撮影装置1000の変形例の構成を
図4に示す。本例の眼科撮影装置1000Aの第1画像収集部1010Aは、第1撮影系1011及び第2撮影系1012を含む。第1画像収集部1010Aは、第1撮影系1011による撮影と第2撮影系1012による撮影とを互いに同期して実行するように構成されている。
【0109】
また、眼科撮影装置1000Aは、画像選択部1050を更に含む。画像選択部1050は、第1画像収集部1010Aと画像補間部1040との間に配置されている。画像選択部1050は、第1撮影系1010Aによる撮影と第2撮影系1020Aによる撮影との同期に基づく第1シャインプルーフ画像群と第2シャインプルーフ画像群との対応関係に基づいて、第1シャインプルーフ画像群及び第2シャインプルーフ画像群を収集したスリットスキャンに対応する新たな一連のシャインプルーフ画像を第1シャインプルーフ画像群及び第2シャインプルーフ画像群から選択するように構成されている。端的に言うと、画像選択部1050は、第1撮影系1011及び第2撮影系1012によりそれぞれ収集された第1シャインプルーフ画像群及び第2シャインプルーフ画像群から一連のシャインプルーフ画像を再構成するように構成されている。本例の画像補間部1040は、画像選択部1050により再構成された一連のシャインプルーフ画像の補間を行う。
【0110】
画像選択部1050が実行する画像選択処理の手法は任意であってよい。例えば、第1撮影系1011及び第2撮影系1012の構成及び/又は配置、画像選択の目的及び/又は用途、画像補間部1040の構成及び/又は機能など、所定の条件や所定のパラメータに基づいて、画像選択処理の手法を決定及び/又は選択することができる。
【0111】
画像選択機能を有する眼科撮影装置1000Aの変形例の構成を
図5に示す。本例の眼科撮影装置1000Bの第1画像収集部1010Bは、第1画像収集部1010Aと同様の第1撮影系1011及び第2撮影系1012に加えて、照明系1013を含む。照明系1013は、被検眼の3次元領域にスリット光を投射するように構成されている。本例の画像選択部1050は、第1画像収集部1010Bと画像補間部1040との間に配置されている。
【0112】
第1画像収集部1010Bは、第1撮影系1011による撮影と第2撮影系1012による撮影とを互いに同期して実行する。また、本例においては、第1撮影系1011の光軸と第2撮影系1012の光軸とが、照明系1013の光軸に対して互いに反対の方向に傾斜して配置されている。例えば、第1撮影系1011の光軸は、照明系1013の光軸に対して左方に傾斜して配置されており、且つ、第2撮影系1012の光軸は、照明系1013の光軸に対して右方に傾斜して配置されている。このように配置された第1撮影系1011及び第2撮影系1012をそれぞれ左撮影系及び右撮影系と呼ぶことがある。
【0113】
照明系1013の光軸に対する第1撮影系1011の光軸の傾斜角度と、照明系1013の光軸に対する第2撮影系1012の光軸の傾斜角度とは、互いに等しくてもよいし、互いに相違してもよい。また、これらの傾斜角度は固定されていてもよいし、可変であってもよい。
【0114】
本例の照明系1013は、断面の長手方向がY方向に配向されたスリット光を被検眼に対して正面方向から投射するように構成及び配置される。また、本例の第1画像収集部1010Bは、照明系1013、第1撮影系1011、及び第2撮影系1012を一体的にX方向に移動することによって、被検眼の前眼部の3次元領域に対してスリットスキャンを適用する。
【0115】
本例の画像選択部1050は、第1撮影系1011により収集された第1シャインプルーフ画像群と第2撮影系1012により収集された第2シャインプルーフ画像群との間の対応関係に基づき、アーティファクトを含まない複数のシャインプルーフ画像を第1シャインプルーフ画像群及び第2シャインプルーフ画像群から選択することによって、第1シャインプルーフ画像群及び第2シャインプルーフ画像群を収集したスリットスキャンに対応する新たな一連のシャインプルーフ画像の選択を行う。このアーティファクトは、任意の種類のアーティファクトであってよい。本例のように前眼部スキャンを行う場合、アーティファクトは、角膜反射に起因するアーティファクト(角膜反射アーティファクト)であってよい。以下、画像選択部1050が実行する処理について幾つかの例を説明する。
【0116】
角膜反射アーティファクトが生じるスリット光の投射位置(シャインプルーフ画像、フレーム)は、左撮影系と右撮影系とで異なる。例えば、本例のように、断面の長手方向がY方向に配向されたスリット光を被検眼に対して正面方向から投射しつつ、照明系1013、第1撮影系1011、及び第2撮影系1012を一体的にX方向に移動することによってスリットスキャンを行う場合、スリット光の角膜反射光は、角膜頂点よりも左方の位置にスリット光が投射されているときには左撮影系に入射しやすく、角膜頂点よりも右方の位置にスリット光が投射されているときには右撮影系に入射しやすい。
【0117】
このような事情を考慮し、幾つかの例示的な態様の画像選択部1050は、まず、左撮影系としての第1撮影系1011により収集された第1シャインプルーフ画像群のうちから角膜頂点に対応するシャインプルーフ画像(第1角膜頂点画像)を特定するとともに、右撮影系としての第2撮影系1012により収集された第2シャインプルーフ画像群のうちから角膜頂点に対応するシャインプルーフ画像(第2角膜頂点画像)を特定することができる。
【0118】
幾つかの例示的な態様において、角膜頂点画像を特定する処理は、第1シャインプルーフ画像群に含まれる各シャインプルーフ画像から角膜表面に相当する画像を検出する処理と、これらの検出画像のピクセルのZ座標に基づき最も眼科撮影装置1000Bに近いピクセルを特定する処理と、特定されたピクセルを含むシャインプルーフ画像を第1角膜頂点画像に設定する処理とを含んでいてよい。第2角膜頂点画像の設定も同様である。
【0119】
次に、画像選択部1050は、第1シャインプルーフ画像群のうちから第1角膜頂点画像よりも右方に位置するシャインプルーフ画像群を選択するとともに、第2シャインプルーフ画像群のうちから第2角膜頂点画像よりも左方に位置するシャインプルーフ画像群を選択し、選択された2つのシャインプルーフ画像群(並びに、第1角膜頂点画像及び/又は第2角膜頂点画像)からなる一連のシャインプルーフ画像を形成する。これにより、スリットスキャンが適用された前眼部の3次元領域にわたり、且つ、角膜反射アーティファクトを含まない(その可能性が高い)一連のシャインプルーフ画像が得られる。
【0120】
角膜頂点画像を特定する処理の他の例を説明する。幾つかの例示的な態様の画像選択部1050は、第1撮影系1011(例えば左撮影系)及び第2撮影系1012(例えば右撮影系)により実質的に同時に取得された2つの画像のいずれかに角膜反射アーティファクトが含まれているか判定する。この角膜反射アーティファクト判定処理は、所定の画像解析を含んでおり、例えば、ピクセルに割り当てられた輝度情報に関する閾値処理を含む。なお、実質的に同時に取得された2つの画像を決定する処理は、第1撮影系1011による撮影と第2撮影系1012による撮影との間の同期関係に基づき実行することができる。
【0121】
アーティファクト判定処理に用いられる閾値処理では、例えば、予め設定された閾値を超える輝度値が割り当てられたピクセルが特定される。典型的には、閾値は、画像中のスリット光像(スリット光の投射領域)の輝度値よりも高く設定される。これにより、画像選択部1050は、スリット光像をアーティファクトとして判定することなく、スリット光像よりも明るい像をアーティファクトとして判定するように構成される。シャインプルーフ画像においてスリット光像よりも明るい像は、角膜での正反射に起因する像である可能性が高く、よって、画像選択部1050により検出されるアーティファクトは、角膜反射アーティファクトである可能性が高い。
【0122】
画像選択部1050は、アーティファクト判定のために、例えば、パターン認識、セグメンテーション、エッジ検出など、閾値処理以外の任意の画像解析を実行してもよい。一般に、画像解析、画像処理、人工知能、コグニティブ・コンピューティングなど、任意の情報処理技術を、アーティファクト判定に適用することが可能である。
【0123】
アーティファクト判定の結果、第1撮影系1011及び第2撮影系1012により実質的に同時に取得された2つの画像の一方の画像にアーティファクトが含まれると判定されたとき、画像選択部1050は、他方の画像を選択する。つまり、画像選択部1050は、これら2つの画像のうち、アーティファクトが含まれると判定された画像ではない方の画像を選択する。
【0124】
双方の画像にアーティファクトが含まれると判定された場合、画像選択部1050は、例えば、アーティファクトが観察や診断に与える悪影響の大きさを評価し、悪影響が小さい側の画像を選択することができる。この評価は、例えば、アーティファクトの寸法、強度、形状、及び位置のいずれか1つ以上の条件に基づき行われる。典型的には、寸法が大きいアーティファクト、強度が高いアーティファクト、スリット光像などの注目領域やその近傍に位置するアーティファクトなどは、悪影響が大きいと評価される。
【0125】
なお、双方の画像にアーティファクトが含まれる場合などにおいて、特許文献3(特開2019-213733号公報)に開示されているアーティファクト除去を適用してもよい。
【0126】
これらの変形例によれば、観察や解析や診断の妨げになるアーティファクトを含まない、被検眼の3次元領域の画像を提供することが可能である。例えば、アーティファクトを含まない画像群に基づいて被検眼の3次元画像を構築することが可能である。
【0127】
また、実質的に同一の位置を撮影して得られた画像であっても、左撮影系で得られた画像と右撮影系で得られた画像とでは、描出された所定部位の寸法が互いに異なる場合がある。例えば、実質的に同一の位置を左撮影系及び右撮影系でそれぞれ撮影して得られた左画像及び右画像において、描出されている角膜の厚さが互いに異なる場合がある。このような場合においても、画像選択部1050を用いることによって所定部位の寸法を合わせることが可能になる。
【0128】
画像補間部1040の幾つかの構成例、幾つかの機能例、幾つかの変形例などについて以下に説明する。
【0129】
幾つかの例示的な態様において、画像補間部1040は、前述したオプティカルフローを用いて空間的画像補間を実行するように構成されていてよい。すなわち、画像補間部1040は、第1画像収集部1010により収集された一連のシャインプルーフ画像(又は、画像選択部1050により再構成された一連のシャインプルーフ画像)を受け、この一連のシャインプルーフ画像にオプティカルフローを適用して被検眼の変位をベクトルで表現し、このベクトル表現に基づいてこの一連のシャインプルーフ画像の補間を行うように構成されていてよい。
【0130】
本例によれば、一般的には物体の動き(時間的な変化)を解析するためのオプティカルフローを、物体の空間的な変化を把握するために利用して一連のシャインプルーフ画像の空間的画像補間を実現することが可能になる。
【0131】
幾つかの例示的な態様において、画像補間部1040は、予め構築された推論モデルを用いて空間的画像補間を実行するように構成されていてよい。すなわち、画像補間部1040は、第1画像収集部1010により収集された一連のシャインプルーフ画像(又は、画像選択部1050により再構成された一連のシャインプルーフ画像)を受け、この一連のシャインプルーフ画像を推論モデルに入力し、その出力に基づきこの一連のシャインプルーフ画像の補間を行うように構成されていてよい。
【0132】
空間的画像補間に用いられる推論モデルは、例えば、眼のシャインプルーフ画像を少なくとも含む訓練データを用いた機械学習をニューラルネットワークに適用することによって予め構築される。このようにして構築された推論モデルは、同一の眼の2以上の異なる位置をそれぞれ表す2以上のシャインプルーフ画像を入力とし、これら2以上のシャインプルーフ画像を空間的に補間した補間画像を出力とするように構成されている。推論モデルから出力される補間画像は、入力された2以上のシャインプルーフ画像に付加された画像(画像補間部1040が作成した画像)のみ、又は、入力された2以上のシャインプルーフ画像と付加された画像との双方であってよい。
【0133】
推論モデルを用いて空間的画像補間を実行するように構成された画像補間部1040の例を
図6Aに示す。本例の画像補間部1040Aは、推論モデル1042を用いて空間的画像補間を行うように構成された推論部1041を含んでいる。
【0134】
推論モデル1042は、眼のシャインプルーフ画像を少なくとも含む訓練データを用いた機械学習をニューラルネットワークに適用することによって構築される。推論モデル1042を構築する装置(推論モデル構築装置)は、眼科撮影装置1000(1000A、1000B)に設けられていてもよいし、眼科撮影装置1000(1000A、1000B)の周辺機器(コンピュータなど)に設けられてもよいし、他のコンピュータであってもよい。
【0135】
図6Bに示すモデル構築部1060は、推論モデル構築装置の例であり、学習処理部1061と、ニューラルネットワーク1062とを含む。
【0136】
ニューラルネットワーク1062は、典型的には、畳み込みニューラルネットワーク(CNN)を含む。畳み込みニューラルネットワークの構造の一例を
図6Bに示す。
【0137】
入力層には、画像が入力される。入力層の後ろには、畳み込み層とプーリング層とのペアが複数配置されている。
図6Bに示す例には畳み込み層とプーリング層とのペアが3つ設けられているが、ペアの個数は任意である。
【0138】
畳み込み層では、画像から特徴(輪郭など)を把握するための畳み込み演算が行われる。畳み込み演算は、入力された画像に対する、この画像と同じ次元のフィルタ関数(重み係数、フィルタカーネル)の積和演算である。畳み込み層では、入力された画像の複数の部分にそれぞれ畳み込み演算を適用する。より具体的には、畳み込み層では、フィルタ関数が適用された部分画像の各ピクセルの値に、そのピクセルに対応するフィルタ関数の値(重み)を乗算して積を算出し、この部分画像の複数のピクセルにわたって積の総和を求める。このように得られた積和値は、出力される画像における対応ピクセルに代入される。フィルタ関数を適用する箇所(部分画像)を移動させながら積和演算を行うことで、入力された画像の全体についての畳み込み演算結果が得られる。このような畳み込み演算によれば、多数の重み係数を用いて様々な特徴が抽出された画像が多数得られる。つまり、平滑化画像やエッジ画像などの多数のフィルタ処理画像が得られる。畳み込み層により生成される多数の画像は特徴マップと呼ばれる。
【0139】
プーリング層では、直前の畳み込み層により生成された特徴マップの圧縮(データの間引きなど)が行われる。より具体的には、プーリング層では、特徴マップ内の注目ピクセルの所定の近傍ピクセルにおける統計値を所定のピクセル間隔ごとに算出し、入力された特徴マップよりも小さな寸法の画像を出力する。なお、プーリング演算に適用される統計値は、例えば、最大値(max pooling)又は平均値(average pooling)である。また、プーリング演算に適用されるピクセル間隔は、ストライド(stride)と呼ばれる。
【0140】
畳み込みニューラルネットワークは、畳み込み層とプーリング層との複数のペアによって処理を行うことにより、入力された画像から多くの特徴を抽出することができる。
【0141】
畳み込み層とプーリング層との最後のペアの後ろには、全結合層が設けられている。
図6Bに示す構造例においては2つの全結合層が設けられているが、全結合層の個数は任意である。全結合層では、畳み込みとプーリングとの組み合わせによって圧縮された特徴量を用いて、画像分類、画像セグメンテーション、回帰などの処理を行う。最後の全結合層の後ろには、出力結果を提供する出力層が設けられている。
【0142】
幾つかの例示的な態様において、畳み込みニューラルネットワークは、全結合層を含まなくてもよいし(例えば、全層畳み込みネットワーク(FCN))、サポートベクターマシン、再帰型ニューラルネットワーク(RNN)などを含んでいてもよい。また、ニューラルネットワーク1062に対する機械学習は、転移学習を含んでいてもよい。つまり、ニューラルネットワーク1062は、他の訓練データ(訓練画像)を用いた学習が既に行われてパラメータ調整が為されたニューラルネットワークを含んでいてもよい。また、モデル構築部1060(学習処理部1061)は、学習済みのニューラルネットワーク(ニューラルネットワーク1062)にファインチューニングを適用可能に構成されてもよい。ニューラルネットワーク1062は、例えば、公知のオープンソースのニューラルネットワークアーキテクチャを用いて構築されたものであってよい。
【0143】
学習処理部1061は、訓練データを用いた機械学習をニューラルネットワーク1062に適用する。ニューラルネットワーク1062が畳み込みニューラルネットワークを含んでいる場合、学習処理部1061によって調整されるパラメータは、例えば、畳み込み層のフィルタ係数と、全結合層の結合重み及びオフセットとを含む。
【0144】
訓練データは、前述したように、1以上の眼から取得された1以上のシャインプルーフ画像を含んでいてよい。眼のシャインプルーフ画像は、推論部1041に入力される画像と同種の画像であるから、他の種類の画像のみを含む訓練データを用いて機械学習を行う場合と比較して、推論部1041の出力の品質(正確度、精度など)の向上を図ることができる。
【0145】
訓練データは、同一の眼の2以上の異なる位置をそれぞれ表す2以上のシャインプルーフ画像を含んでいてもよい。この場合における機械学習は、例えば、このような2以上のシャインプルーフ画像を入力としたときの出力(当該2以上のシャインプルーフ画像を空間的に補間した補間画像)を最適化するようにして実行される。本例のシャインプルーフ画像群は、推論部1041に入力される一連のシャインプルーフ画像と同種の画像群であるから、推論部1041の出力の品質の更なる向上を図ることができる。
【0146】
訓練データに含まれる画像の種類はシャインプルーフ画像に限定されず、例えば、他の眼科モダリティ(眼底カメラ、OCT装置、SLO、手術用顕微鏡など)により取得された画像、他の診療科の画像診断モダリティ(超音波診断装置、X線診断装置、X線CT装置、磁気共鳴イメージング(MRI)装置など)により取得された画像、実際の画像を加工して生成された画像、擬似的な画像などを含んでいてもよい。また、データ拡張、データオーギュメンテーションなどの技術を利用して、訓練データに含まれる画像等の個数を増加させてもよい。
【0147】
推論モデル1042を構築するための訓練の手法(機械学習の手法)は任意であってよいが、例えば、教師あり学習、教師なし学習、及び強化学習のいずれか、又は、いずれか2以上の組み合わせであってよい。
【0148】
幾つかの例示的な態様では、入力画像に最終出力のラベルが付された訓練データを用いて教師あり学習が実施される。例えば、訓練データに含まれるシャインプルーフ画像の組のそれぞれ(例えば、同一の眼の2以上の異なる位置をそれぞれ表す2以上のシャインプルーフ画像の組)に対して、予め得られた補間画像がラベルとして予め付帯されている。ラベルは、例えば、医師、コンピュータ、他の推論モデルなどによって生成される。学習処理部1061は、このような訓練データを用いた教師あり学習をニューラルネットワーク1062に適用することによって推論モデル1042を構築することができる。
【0149】
このようにして構築された本例の推論モデル1042は、同一の眼の2以上の異なる位置をそれぞれ表す2以上のシャインプルーフ画像を入力とし、且つ、これら2以上のシャインプルーフ画像を空間的に補間した補間画像を出力とした学習済みモデルである。
【0150】
ニューラルネットワーク1062の特定のユニットに処理が集中しないようにするために、学習処理部1061は、幾つかのユニットをランダムに選んで無効化し、残りのユニットを用いて学習を行ってもよい(ドロップアウト)。
【0151】
推論モデル構築に用いられる手法は、ここに示した例に限定されない。例えば、サポートベクターマシン、ベイズ分類器、ブースティング、k平均法、カーネル密度推定、主成分分析、独立成分分析、自己組織化写像、ランダムフォレスト、敵対的生成ネットワーク(GAN)といった任意の手法を、推論モデルを構築するために利用することが可能である。
【0152】
図6Aに示す推論部1041は、このような推論モデル1042を用いて、被検眼の3次元領域に対するスリットスキャンで収集された一連のシャインプルーフ画像(又は、画像選択部1050により再構成された一連のシャインプルーフ画像)の空間的画像補間を実行する。より具体的に説明すると、まず、推論部1041は、一連のシャインプルーフ画像を推論モデル1042に入力する。推論モデル1042は、入力された一連のシャインプルーフ画像に基づいて補間画像を出力する。
【0153】
幾つかの例示的な態様において、画像補間部1040は、一連のシャインプルーフ画像に対して補間される画像の個数を決定するために、第1画像解析部1030により取得されたスリット光の時系列変位を利用することができる。本態様の画像補間部1040の例を
図7に示す。本例の画像補間部1040Bは、第1補間個数決定部1043を含む。
【0154】
第1補間個数決定部1043は、第1画像収集部1010の動作情報、及び、第1画像解析部1030により取得されたスリット光の時系列変位の少なくとも一方に基づいて、第1画像収集部1010により収集された一連のシャインプルーフ画像(又は、画像選択部1050により再構成された一連のシャインプルーフ画像)の空間的画像補間において付加される画像の個数(補間個数)を決定するように構成されている。画像補間部1040Bは、第1補間個数決定部1043により決定された補間個数の画像によって一連のシャインプルーフ画像の補間を行う。
【0155】
第1画像収集部1010の動作情報は、一連のシャインプルーフ画像を収集するためのスリットスキャンのスキャン条件を含んでいてよい。このスキャン条件は、スキャン長(スリット光の移動距離)、スキャン速度(スリット光の移動速度)、スキャンレート(撮影系の撮影レート、撮影反復周波数、フレームレート、画像収集レート)など、スリットスキャンの任意の条件を含んでいてよい。
【0156】
第1画像収集部1010の動作情報を参照する態様において、第1補間個数決定部1043は、上記のような動作情報に基づいて、互いに隣接する2つのシャインプルーフ画像の距離(画像間隔)を求めることができる。
【0157】
一連のシャインプルーフ画像において画像間隔は均一であると仮定してもよいが、一般に非均一であると考えてよい。例えば、スキャン開始直後の区間(加速区間)、スキャン終了直前の区間(減速区間)、及び往復スキャンの折り返し位置の近傍の区間(減速区間及び加速区間)ではスリット光移動速度は比較的遅く、スキャン範囲の中央位置の近傍の区間ではスリット光移動速度速度は比較的速いため、画像間隔は非均一となる。
【0158】
第1補間個数決定部1043は、動作情報を参照することによって一連のシャインプルーフ画像における各画像間隔を求め、3次元画像化のために要求される既定値(既定の画像間隔)と各画像間隔とを比較することによって、一連のシャインプルーフ画像に対する補間個数を決定することができる。
【0159】
第1画像解析部1030により取得されたスリット光の時系列変位を参照する態様において、第1補間個数決定部1043は、スリットスキャンにおける実際のスリット光の時系列変位(例えば、スリット光の移動距離、各時点における位置、各時点における移動速度、各時点における加速度など)に基づき、第1画像収集部1010の動作情報を参照する場合と同じ要領で補間個数を決定することができる。
【0160】
幾つかの例示的な態様において、画像補間部1040は、一連のシャインプルーフ画像に対して補間される画像の個数を決定するために、第1画像解析部1030により取得された被検眼の時系列変位を利用することができる。本態様の画像補間部1040の例を
図8に示す。本例の画像補間部1040Cは、第2補間個数決定部1044を含む。
【0161】
第2補間個数決定部1044は、第1画像収集部1010の動作情報、及び、第1画像解析部1030により取得された被検眼の時系列変位の少なくとも一方に基づいて、第1画像収集部1010により収集された一連のシャインプルーフ画像(又は、画像選択部1050により再構成された一連のシャインプルーフ画像)の空間的画像補間において付加される画像の個数(補間個数)を決定するように構成されている。画像補間部1040Cは、第2補間個数決定部1044により決定された補間個数の画像によって一連のシャインプルーフ画像の補間を行う。
【0162】
第1画像収集部1010の動作情報を参照する態様において、第2補間個数決定部1044が実行する処理は、前述した第1補間個数決定部1043が実行する処理と同様であってよい。
【0163】
第1画像解析部1030により取得された被検眼の時系列変位を参照する態様では、被検眼の眼球運動(固視ズレなど)がスリットスキャンに与える影響を打ち消すことができる。本態様において、第2補間個数決定部1044は、被検眼の時系列変位からX方向の時系列変位を抽出し、各シャインプルーフ画像に対応する時点における被検眼のX方向の変位を打ち消すように当該シャインプルーフ画像のX方向の位置を補正することができる。これにより、スリットスキャンの期間における被検眼の動きに起因するX方向の画像位置ズレの影響を除去した一連のシャインプルーフ画像が得られる。第2補間個数決定部1044は、このようにして再配列された一連のシャインプルーフ画像の各画像間隔を、3次元画像化のために要求される既定値(既定の画像間隔)と比較することによって、この一連のシャインプルーフ画像に対する補間個数を決定することができる。
【0164】
また、第2補間個数決定部1044は、被検眼の時系列変位からY方向の時系列変位を抽出し、各シャインプルーフ画像に対応する時点における被検眼のY方向の変位にしたがって当該シャインプルーフ画像のY方向の位置を補正することができる。これにより、スリットスキャンの期間における被検眼の動きに起因するY方向の画像位置ズレに合わせた一連のシャインプルーフ画像が得られる。隣接する2つのシャインプルーフ画像の間にY方向の偏位がある場合、画像補間部1040Cは、これら2つのシャインプルーフ画像を補間する各画像を、このY方向の偏位に基づくY方向の傾きに合わせて配置することができる。Z方向の時系列変位が得られる場合も同様であってよい。
【0165】
第1の態様に係る眼科撮影装置1000の使用形態について
図9を参照しつつ説明する。以下に説明する使用形態は例示に過ぎない。例えば、前述した実施形態の概要に記載された任意の事項や、第1の態様において説明された任意の事項を、下記の使用形態に組み合わせることができる。
【0166】
眼科撮影装置1000による撮影の前に実行される各種の動作(準備的動作)は済んでいるものとする。準備的動作としては、眼科撮影装置1000が設置されたテーブルの調整、被検者が使用している椅子の調整、眼科撮影装置1000の顔受け(顎受け、額当てなど)の調整、被検眼に対する眼科撮影装置1000の位置合わせ(アライメント)、スリット光の光量調整などがある。
【0167】
撮影開始の指示を受けて、眼科撮影装置1000は、第1画像収集部1010及び第2画像収集部1020により、一連のシャインプルーフ画像の収集と、一連の時系列画像の収集とを並行して行う(S11)。
【0168】
第1画像収集部1010により収集された一連のシャインプルーフ画像と、第2画像収集部1020により収集された一連の時系列画像とは、例えば、眼科撮影装置1000に設けられた記憶部(図示せず)及び/又は眼科撮影装置1000に接続された記憶装置(図示せず)に保存される。
【0169】
次に、眼科撮影装置1000は、第1画像解析部1030により、ステップS11で第2画像収集部1020により収集された一連の時系列画像を解析することで、ステップS11で第1画像収集部1010により一連のシャインプルーフ画像が収集されていた期間の少なくとも一部におけるスリット光の時系列変位を求める(S12)。
【0170】
第1画像解析部1030により取得されたスリット光の時系列変位の情報は、例えば、眼科撮影装置1000の記憶部及び/又は眼科撮影装置1000に接続された記憶装置に保存される。
【0171】
次に、眼科撮影装置1000は、画像補間部1040により、ステップS12で取得されたスリット光の時系列変位の情報に基づいて、ステップS11で収集された一連のシャインプルーフ画像を補間する(S13)。
【0172】
画像補間部1040により作成されて一連のシャインプルーフ画像に追加された画像群(追加画像群)は、例えば、一連のシャインプルーフ画像とともに保存される。
【0173】
幾つかの例示的な態様では、画像補間部1040は、ステップS11における第1画像収集部1010の動作情報、ステップ12で得られたスリット光の時系列変位の情報、及び、ステップS11で収集された一連の時系列画像から生成される被検眼の時系列変位の情報のいずれか1つ又は2つ以上に基づいて、補間個数を決定することができる。
【0174】
第1画像収集部1010が第1撮影系1011及び第2撮影系1012を含む態様では、眼科撮影装置1000は、画像選択部1050により、第1撮影系1011により収集された第1シャインプルーフ画像群及び第2撮影系1012により収集された第2シャインプルーフ画像群から新たな一連のシャインプルーフ画像(例えば、角膜反射アーティファクトが混入していない複数のシャインプルーフ画像)を形成することができ、更に、画像補間部1040により、この新たな一連のシャインプルーフ画像を補間することができる。新たな一連のシャインプルーフ画像及びそれに追加された画像群(追加画像群)は、例えば、眼科撮影装置1000の記憶部及び/又は眼科撮影装置1000に接続された記憶装置に保存される。
【0175】
次に、眼科撮影装置1000又は図示しない画像処理装置は、一連のシャインプルーフ画像と追加画像群とを含む複数の画像に基づいて3次元画像(3次元ボリューム)を構築し、更に、この3次元画像に基づいてレンダリング画像を構築する(S14)。
【0176】
3次元画像及び/又はレンダリング画像は、例えば、眼科撮影装置1000の記憶部及び/又は眼科撮影装置1000に接続された記憶装置に保存される。
【0177】
次に、眼科撮影装置1000又は図示しないコンピュータは、眼科撮影装置1000の記憶部及び/又は眼科撮影装置1000に接続された記憶装置に保存されたデータを読み出し、被検眼の観察や診断のために各種画像を図示しない表示装置に表示させる(S15)。
【0178】
表示される各種画像は、例えば、ステップS14で構築されたレンダリング画像を含む。ユーザーは、ステップS14で構築された3次元画像に対する所望のレンダリングの適用を指示することができる。
【0179】
また、一連のシャインプルーフ画像を選択的に又は一覧として表示させることが可能である。同様に、追加画像群を選択的に又は一覧として表示させることも可能である。ここで、シャインプルーフ画像の表示態様と、追加画像の表示態様とが、互いに異なっていてもよい。例えば、追加画像を表示するときに、その画像が補間された画像であること、つまり、その画像がコンピュータによって作成されたものであること(被検眼を実際に撮影して得られたものでないこと)を示す情報を付帯的に表示させることができる。同様に、シャインプルーフ画像を表示するときに、その画像が被検眼を実際に撮影して得られたものであることを示す情報を付帯的に表示させることができる。これにより、ユーザーは、表示されている各画像がシャインプルーフ画像であるか追加画像であるかを容易に把握することが可能になる。
【0180】
このような使用形態を実現可能な第1の態様によれば、被検眼の3次元領域から収集された一連のシャインプルーフ画像に追加画像群を補間することができるので、被検眼の3次元領域から収集された一連のシャインプルーフ画像の間隔を狭めることなく3次元画像化を行うことができる。これにより、スリットスキャンが適用された被検眼の3次元領域の実際の形態に応じたアスペクト比の3次元画像やレンダリング画像を得ることが可能となる。よって、従来と比較して、被検眼の観察を容易に且つ正確に行うことが可能となり、診断の正確度や精度の向上が期待される。また、第1の態様で得られた3次元画像やレンダリング画像を用いて画像解析を行うことにより、従来よりも高い品質の解析結果が得られることが期待される。これらの効果に加えて、第1の態様は、本開示に記載された各種の効果を奏する。また、当業者であれば、本開示に明示されていない効果についても、本開示の内容に基づき理解できるであろう。
【0181】
<第2の態様>
第2の態様は、眼組織識別子付与を実行可能な眼科撮影装置の例示的な態様を提供する。なお、本態様に係る眼科撮影装置の具体例(実施例)については後述する。また、前述した実施形態の概要に記載された事項と同様の事項や、第1の態様と同様の事項については、詳しい説明を省略することがある。
【0182】
図10は、本態様に係る眼科撮影装置の構成を示す。眼科撮影装置2000は、第1画像収集部2010と、第2画像収集部2020と、第2画像解析部2030と、識別子付与部2040とを含む。
【0183】
識別子付与部2040による眼組織識別子付与を通じて得られた情報(それぞれに眼組織識別子が付帯された複数のシャインプルーフ画像を含む)は、3次元画像の構築、レンダリング画像の構築、画像解析、画像診断など、各種の後処理において使用される。後処理を実行するための要素(プロセッサ、ユーザーインターフェイスなど)は、眼科撮影装置2000に設けられていてもよいし、眼科撮影装置2000とは異なる装置に設けられていてもよい。
【0184】
第1画像収集部2010は、第1の態様の第1画像収集部1010と同様の機能及び構成を有していてよく、第2画像収集部2020は、第1の態様の第2画像収集部1020と同様の機能及び構成を有していてよい。
【0185】
第2画像解析部2030は、第2画像収集部2020により収集された一連の時系列画像を解析してスリット光の一連の像(一連のスリット光像)を検出する。時系列画像からスリット光像を検出する処理は、第1の態様(第1画像解析部1030)と同じ要領で実行されてよい。
【0186】
識別子付与部2040は、第2画像解析部2030により一連の時系列画像から検出された一連のスリット光像に基づいて、第1画像収集部2010により収集された一連のシャインプルーフ画像のそれぞれに対し、そのシャインプルーフ画像が第1画像収集部2010により取得されたときにスリット光が投射されていた被検眼の眼組織を示す識別子を割り当てる。
【0187】
本態様では、被検眼の前眼部の3次元領域に対してスリットスキャンが適用されるので、シャインプルーフ画像に付与される識別子が示す眼組織は、前眼部の組織や部位を含んでいてよく、更に眼球近傍組織を含んでいてよい。前眼部の組織や部位は、例えば、角膜、角膜頂点、角膜前面、角膜後面、角膜輪部、虹彩、虹彩前面、虹彩後面、虹彩縁、瞳孔、瞳孔縁、瞳孔中心、瞳孔重心、前房、隅角、毛様体、チン小帯、水晶体、神経、血管、病変部、治療痕、被検眼の前眼部に移植された人工物(眼内レンズ、MIGSデバイスなど)、任意の組織及び/又は任意の部位を含んでいてよい。また、眼球近傍組織は、例えば、瞼、マイボーム腺、睫毛、涙点など、任意の組織及び/又は任意の部位を含んでいてよい。
【0188】
幾つかの例示的な態様では、第1画像収集部2010による被検眼の3次元領域のスリットスキャンと、第2画像収集部2020による被検眼の繰り返し撮影とを、互いに同期して実行してもよい。これにより、第1画像収集部2010により収集された一連のシャインプルーフ画像と、第2画像収集部2020により収集された一連の時系列画像との間の対応関係が得られる。第1画像収集部2010と第2画像収集部2020との同期は、第1の態様と同じ要領で実行されてよい。また、一連のシャインプルーフ画像と一連の時系列画像との間の対応関係は、第1の態様のそれと同様であってよい。
【0189】
他の幾つかの例示的な態様では、第1画像収集部2010により収集された一連のシャインプルーフ画像と、第2画像収集部2020により収集された一連の時系列画像との間の対応関係を決定する後処理を実行することができる。この後処理は、第1の態様と同じ要領で実行されてよい。
【0190】
第1画像収集部2010のスリットスキャンと第2画像収集部2020の繰り返し撮影とが同期的に実行される態様において、識別子付与部2040は、この同期に基づく一連のシャインプルーフ画像と一連の時系列画像との対応関係に更に基づいて、識別子の割り当てを行うように構成されてよい。
【0191】
すなわち、このような例示的な態様の識別子付与部2040は、第2画像解析部2030により一連の時系列画像から検出された一連のスリット光像と、第1画像収集部2010のスリットスキャンと第2画像収集部2020の繰り返し撮影との同期に基づく一連のシャインプルーフ画像と一連の時系列画像との対応関係とに基づいて、第1画像収集部2010により収集された各シャインプルーフ画像に対し、そのシャインプルーフ画像が第1画像収集部2010により取得されたときにスリット光が投射されていた被検眼の眼組織を示す識別子を割り当てるように構成されていてよい。後処理によって同様の対応関係を確立する例示的な態様においても同様である。
【0192】
このような例示的な態様によれば、一連のシャインプルーフ画像と一連の時系列画像との間の対応関係を参照することによって、各時系列画像に対応するシャインプルーフ画像を容易に且つ正確に特定することができ、各時系列画像(それに描出されているスリット光像)から決定された眼組織識別子を当該時系列画像に正確に対応するシャインプルーフ画像に割り当てることができる。
【0193】
このような例示的な態様の識別子付与部2040は、次の2つの処理(第1処理及び第2処理)を実行するように構成されていてよい。第1処理において、識別子付与部2040は、一連の時系列画像のそれぞれについて、その時系列画像から検出されたスリット光像に基づいてその時系列画像に眼組織識別子を割り当てる。
【0194】
例えば、第1処理において、識別子付与部2040は、一連の時系列画像のそれぞれについて、次の一連の処理を実行するように構成されていてよい:その時系列画像を解析することにより、上記した各種の眼組織のそれぞれに相当する画像領域(眼組織画像領域)を特定する処理;その時系列画像から検出されたスリット光像と各眼組織画像領域との間の位置関係(重畳関係、交差関係など)を求める処理;各眼組織画像領域について得られたスリット光像に対する位置関係に基づいて、その時系列画像が第2画像収集部2020により取得されたときにスリット光が投射されていた眼組織を特定する処理;特定された眼組織を示す識別子をその時系列画像に割り当てる処理。
【0195】
例えば、角膜に相当する画像領域がスリット光像に少なくとも部分的に重複している場合、角膜を示す識別子がその時系列画像に割り当てられる。1つの時系列画像に割り当てられる眼組織識別子の個数は任意であり、1つ又は2つ以上であってよい。また、その時系列画像が第2画像収集部2020により取得されたときにスリット光が投射されていた眼組織が1つも特定されなかった場合、当該結果(眼組織が特定されなかったこと)を示す情報又はエラー情報をその時系列画像に割り当てることができる。
【0196】
第2処理において、識別子付与部2040は、第1処理によって一連の時系列画像にそれぞれ割り当てられた一連の眼組織識別子と、一連のシャインプルーフ画像と一連の時系列画像との間の対応関係とに基づいて、一連のシャインプルーフ画像のそれぞれに対する眼組織識別子の割り当てを行う。
【0197】
例えば、第2処理において、識別子付与部2040は、一連の時系列画像のそれぞれについて、その時系列画像に対応するシャインプルーフ画像を上記対応関係に基づき特定する処理と、特定されたシャインプルーフ画像に対して、第1の処理でその時系列画像に割り当てられた眼組織識別子を割り当てる処理とを実行するように構成されていてよい。
【0198】
これにより、識別子付与部2040は、一連のシャインプルーフ画像のそれぞれについて、そのシャインプルーフ画像が第1画像収集部2010により取得されたときにスリット光が投射されていた被検眼の眼組織を示す識別子を容易に且つ正確に割り当てることが可能になる。
【0199】
更に、第1画像収集部2010により収集された一連のシャインプルーフ画像のうちから、或る眼組織に対応するシャインプルーフ画像の群を選択することができる。
【0200】
加えて、第1画像収集部2010により収集された一連のシャインプルーフ画像から、第1の眼組織に対応する第1の群、第2の眼組織に対応する第2の群、・・・、第Pの群(Pは2以上の整数)を取得することができる。ここで、Pは2以上の整数である。また、第p1の群と第p2の群とは少なくとも部分的に重複していてもよい(p1及びp2は、1以上且つ2以下の互いに異なる整数である。)。
【0201】
時系列画像に基づくシャインプルーフ画像への眼組織識別子の付与に加えて、幾つかの例示的な態様は、シャインプルーフ画像に基づくシャインプルーフ画像への眼組織識別子の付与、及び/又は、シャインプルーフ画像に基づく時系列画像への眼組織識別子の付与を実行するように構成されていてよい。これらの例示的な態様によれば、時系列画像(正面画像など)では検出が困難又は不可能な眼組織を特定して識別子を付与することが可能になる。例えば、角膜頂点、眼内の組織(水晶体、隅角など)、眼内の病変、眼内に移植された人工物のように、被検眼の正面画像では検出が困難又は不可能な眼組織を特定して識別子を付与することができる。
【0202】
シャインプルーフ画像に基づくシャインプルーフ画像への眼組織識別子の付与を実行するように構成された例示的な態様について説明する。本態様の第2画像解析部2030は、第1画像収集部2010により収集された一連のシャインプルーフ画像を解析してスリット光の一連の像を検出するように構成されてよい。第2画像解析部2030は、各シャインプルーフ画像を解析することで、そのシャインプルーフ画像に描出されているスリット光像を検出する。この処理は、時系列画像からスリット光像を検出する処理と同じ要領で実行されてよい。
【0203】
更に、本態様の識別子付与部2040は、第1画像収集部2010により収集された一連のシャインプルーフ画像から検出された一連のスリット光像に基づいて眼組織識別子の割り当てを行うように構成されてよい。識別子付与部2040は、一連のシャインプルーフ画像のそれぞれについて、そのシャインプルーフ画像から検出されたスリット光像に基づいて、そのシャインプルーフ画像に対して眼組織識別子を割り当てる。シャインプルーフ画像中のスリット光像に基づく当該シャインプルーフ画像への眼組織識別子の付与は、時系列画像中のスリット光像に基づく当該時系列画像への眼組織識別子の付与(前述)と同じ要領で実行されてよい。
【0204】
シャインプルーフ画像に基づく時系列画像への眼組織識別子の付与を実行するように構成された例示的な態様について説明する。本態様の第2画像解析部2030は、第1画像収集部2010により収集された一連のシャインプルーフ画像を解析して被検眼の関心部位の像を検出するように構成されてよい。関心部位は、角膜頂点、眼内の組織、眼内の病変、眼内に移植された人工物などであってよい。シャインプルーフ画像から関心部位の像を検出する処理は、時系列画像から眼組織の像を検出する処理と同じ要領で実行されてよい。
【0205】
更に、本態様の識別子付与部2040は、第1画像収集部2010により収集された一連のシャインプルーフ画像から検出された関心部位の像に基づいて、第2画像収集部2020により収集された一連の時系列画像のいずれかに対して関心部位を示す識別子を割り当てるように構成されてよい。シャインプルーフ画像から得られた情報を時系列画像に付与するために、前述した同期又は後処理を利用して得られる一連のシャインプルーフ画像と一連の時系列画像との間の対応関係を参照することができる。
【0206】
シャインプルーフ画像に対する眼組織識別子の割り当ては、そのシャインプルーフ画像自体に対する眼組織識別子の割り当てであってもよいし、一連のシャインプルーフ画像に対する眼組織識別子の割り当てであってもよいし、一連のシャインプルーフ画像から選択された画像群に対する眼組織識別子の割り当てであってもよいし、そのシャインプルーフ画像の部分領域に対する眼組織識別子の割り当てであってもよい。同様に、時系列画像に対する眼組織識別子の割り当ては、その時系列自体に対する眼組織識別子の割り当てであってもよいし、一連の時系列画像に対する眼組織識別子の割り当てであってもよいし、一連の時系列画像から選択された画像群に対する眼組織識別子の割り当てであってもよいし、その時系列画像の部分領域に対する眼組織識別子の割り当てであってもよい。
【0207】
幾つかの例示的な態様において、識別子付与部2040は、一連のシャインプルーフ画像のそれぞれについて、そのシャインプルーフ画像が第1画像収集部1010により取得されたときにスリット光が投射されていた眼組織に対応する当該シャインプルーフ画像の部分領域に対して、この眼組織に対応する識別子を割り当てるように構成されてよい。
【0208】
例えば、或るシャインプルーフ画像が取得されたときにスリット光が投射されていた眼組織が角膜である場合、識別子付与部2040は、このシャインプルーフ画像において角膜に相当する部分画像(角膜領域)に対し、角膜を示す識別子を割り当てることができる。
【0209】
他の例として、或るシャインプルーフ画像が取得されたときにスリット光が投射されていた眼組織が角膜及び隅角である場合、識別子付与部2040は、このシャインプルーフ画像中の角膜領域及び隅角領域に対してそれぞれ角膜を示す識別子及び隅角を示す識別子を割り当てることができる。
【0210】
このような態様によれば、シャインプルーフ画像のどの部分にスリット光が投射されているかだけでなく、スリット光が投射されている眼組織の種類、範囲、形状などを容易に把握することが可能になる。同様に、時系列画像のどの部分にスリット光が投射されているかだけでなく、スリット光が投射されている眼組織の種類、範囲、形状などを容易に把握することが可能になる。
【0211】
第1の態様で説明した任意の事項を第2の態様に組み合わせることが可能である。その幾つかの例を以下に説明する。なお、第1の態様と第2の態様との組み合わせはこれらに限定されず、第1の態様の任意の事項と第2の態様の任意の事項とを少なくとも部分的に組み合わせることが可能である。
【0212】
幾つかの例示的な態様において、第1画像収集部2010は、スリットスキャンにおいて被検眼を互いに異なる方向からそれぞれ撮影する第1撮影系及び第2撮影系を含んでいてよい。第1撮影系は、第1シャインプルーフ画像群を収集し、第2撮影系は、第2シャインプルーフ画像群を収集する。本態様の第1画像収集部2010により収集される一連のシャインプルーフ画像は、第1シャインプルーフ画像群と第2シャインプルーフ画像群とを含む。本態様に係る第1撮影系及び第2撮影系の図示は省略するが、本態様における第1撮影系及び第2撮影系の配置や機能や構成は、当業者であれば第1の態様の説明中の対応箇所、
図4、
図5などから理解できるであろう。
【0213】
更に、幾つかの例示的な態様では、第1撮影系による撮影と第2撮影系による撮影とを互いに同期して実行することができる。
【0214】
加えて、幾つかの例示的な態様は、第1の態様の画像選択部1050と同様の配置、機能及び構成の画像選択部を含んでいてもよい。本態様の画像選択部は、第1撮影系による撮影と第2撮影系による撮影との同期に基づく第1シャインプルーフ画像群と第2シャインプルーフ画像群との対応関係に基づいて、第1画像収集部2010により実行されたスリットスキャンに対応する新たな一連のシャインプルーフ画像を第1シャインプルーフ画像群及び第2シャインプルーフ画像群から選択するように構成されている。本態様に係る画像選択部の図示は省略するが、本態様における画像選択部の配置や機能や構成は、当業者であれば第1の態様の説明中の対応箇所、
図4、
図5などから理解できるであろう。
【0215】
本態様の識別子付与部2040は、画像選択部により形成された新たな一連のシャインプルーフ画像のそれぞれに対して眼組織識別子の割り当てを行うように構成されていてよい。画像選択部により第1シャインプルーフ画像群及び第2シャインプルーフ画像群から選択された各シャインプルーフ画像に対する眼組織識別子の割り当ては、第1画像収集部2010に対する眼組織識別子の割り当てと同じ要領で実行することができる。
【0216】
幾つかの例示的な態様において、第1画像収集部2010は、被検眼の3次元領域にスリット光を投射する照明系を更に含んでいてよい。更に、第1撮影系の光軸と第2撮影系の光軸とは、照明系の光軸に対して互いに反対の方向に傾斜して配置されていてよい。加えて、画像選択部は、第1シャインプルーフ画像群と第2シャインプルーフ画像群との対応関係に基づき角膜反射アーティファクトを含まない複数のシャインプルーフ画像を第1シャインプルーフ画像群及び第2シャインプルーフ画像群から選択することによって、新たな一連のシャインプルーフ画像の選択を行うことができる。なお、本態様に係る照明系の図示は省略するが、本態様における照明系の配置や機能や構成は、当業者であれば第1の態様の説明中の対応箇所、
図5などから理解できるであろう。
【0217】
幾つかの例示的な態様において、第1画像収集部2010は、スリット光の長手方向に直交する方向にスリット光を平行移動することによって被検眼の3次元領域のスリットスキャンを行うように構成されていてよい。ここで、スリット光の長手方向は、被検者の体軸方向に略一致していてよい。また、長手方向におけるスリット光の寸法は、被検体の体軸方向における角膜径以上であってよく、スリット光の平行移動の距離は、被検体の体軸方向に直交する方向における角膜径以上であってよい。
【0218】
第2の態様に係る眼科撮影装置2000の使用形態について
図11を参照しつつ説明する。以下に説明する使用形態は例示に過ぎない。例えば、前述した実施形態の概要に記載された任意の事項や、第1の態様において説明された任意の事項や、第2の態様において説明された任意の事項を、下記の使用形態に組み合わせることができる。準備的動作は済んでいるものとする。
【0219】
撮影開始の指示を受けて、眼科撮影装置2000は、第1画像収集部2010及び第2画像収集部2020により、一連のシャインプルーフ画像の収集と、一連の時系列画像の収集とを並行して行う(S21)。
【0220】
第1画像収集部2010により収集された一連のシャインプルーフ画像と、第2画像収集部2020により収集された一連の時系列画像とは、例えば、眼科撮影装置2000に設けられた記憶部(図示せず)及び/又は眼科撮影装置2000に接続された記憶装置(図示せず)に保存される。
【0221】
次に、眼科撮影装置2000は、第2画像解析部2030により、ステップS21で第2画像収集部2020により収集された一連の時系列画像を解析して一連のスリット光像を検出する(S22)。
【0222】
次に、眼科撮影装置2000は、識別子付与部2040により、ステップS22で検出された一連のスリット光像に基づいて、ステップS21で収集された一連のシャインプルーフ画像のそれぞれに対し、そのシャインプルーフ画像が取得されたときにスリット光が投射されていた眼組織を示す識別子を割り当てる(S23)。
【0223】
識別子付与部2040により各シャインプルーフ画像に割り当てられた眼組織識別子は、対応するシャインプルーフ画像に関連付けられて保存される。例えば、識別子付与部2040は、シャインプルーフ画像に眼組織識別子を画像又はコードとして埋め込むことができる。この場合、眼組織識別子が埋め込まれたシャインプルーフ画像が保存される。他の例として、DICOM(Digital Imaging and COmmunications in Medicine)規格を用いて画像の管理を行う場合、識別子付与部2040は、シャインプルーフ画像のタグ情報に眼組織識別子を記録することができる。この場合、シャインプルーフ画像に付帯するタグ情報として眼組織識別子が保存される。
【0224】
第1画像収集部2010が第1撮影系(1011)及び第2撮影系(1012)を含む態様では、眼科撮影装置2000は、画像選択部(1050)により、第1撮影系により収集された第1シャインプルーフ画像群及び第2撮影系により収集された第2シャインプルーフ画像群から新たな一連のシャインプルーフ画像(例えば、角膜反射アーティファクトが混入していない複数のシャインプルーフ画像)を形成することができ、更に、識別子付与部2040により、この新たな一連のシャインプルーフ画像のそれぞれに眼組織識別子を付与することができる。
【0225】
新たな一連のシャインプルーフ画像及びそれに付与された眼組織識別子は、例えば、眼科撮影装置2000の記憶部及び/又は眼科撮影装置2000に接続された記憶装置に保存される。
【0226】
幾つかの態様は、次の一連の処理を実行するように構成されてもよい:第1シャインプルーフ画像群のそれぞれに眼組織識別子を付与する処理;第2シャインプルーフ画像群のそれぞれに眼組織識別子を付与する処理;それぞれに眼組織識別子が付与された第1シャインプルーフ画像群、及び、それぞれに眼組織識別子が付与された第2シャインプルーフ画像群から、それぞれに眼組織識別子が付与された新たな一連のシャインプルーフ画像を選択する処理。したがって、第2の態様では、画像選択処理の後に眼組織識別子付与処理を行ってもよいし、画像選択処理の前に眼組織識別子付与処理を行ってもよい。なお、画像選択処理と眼組織識別子付与処理とを少なくとも部分的に並行して行ってもよい。
【0227】
次に、眼科撮影装置2000又は図示しない画像処理装置は、眼科撮影装置2000の記憶部及び/又は眼科撮影装置2000に接続された記憶装置に保存されたデータを読み出し、シャインプルーフ画像を眼組織識別子とともに表示装置に表示させることや、眼組織識別子に基づきシャインプルーフ画像を表示装置に表示させることができる(S24)。
【0228】
例えば、眼科撮影装置2000又は図示しない画像処理装置は、眼組織識別子に示された眼組織の名称(文字列等)をシャインプルーフ画像とともに表示させることができる。他の例において、眼科撮影装置2000又は図示しない画像処理装置は、同じ眼組織の識別子が付与されたシャインプルーフ画像群を一連のシャインプルーフ画像から選択し、選択されたシャインプルーフ画像群を選択的に又は一覧として表示させることができる。更に他の例において、眼科撮影装置2000又は図示しない画像処理装置は、同じ眼組織の識別子が付与されたシャインプルーフ画像群を一連のシャインプルーフ画像から選択し、選択されたシャインプルーフ画像群から3次元画像を構築し、そのレンダリング画像を表示させることができる。
【0229】
眼組織に対応するシャインプルーフ画像の部分領域に眼組織識別子が付与される態様において、眼科撮影装置2000又は図示しない画像処理装置は、眼組織識別子に示された眼組織の領域を示す情報(当該領域の輪郭を示す画像など)をシャインプルーフ画像とともに表示させることができる。
【0230】
眼組織に対応するシャインプルーフ画像の部分領域に眼組織識別子が付与される態様ではない場合においては、眼科撮影装置2000又は図示しない画像処理装置は、眼組織識別子に示された眼組織を参照してシャインプルーフ画像を解析(セグメンテーション)して当該眼組織に対応する部分領域を特定し、特定された部分領域を示す情報をシャインプルーフ画像とともに表示させることができる。
【0231】
シャインプルーフ画像の表示に加えて、又はその代わりに、眼科撮影装置2000又は図示しない画像処理装置は、眼組織識別子を参照してシャインプルーフ画像を解析することができる(S24)。
【0232】
例えば、眼科撮影装置2000又は図示しない画像処理装置は、眼組織識別子に基づいてシャインプルーフ画像中の部分領域を選択し、選択された部分領域に対して画像解析を適用することができる。これにより、画像解析が適用される領域を小さくすることが可能となり、処理時間の短縮、処理リソースの低減などの利点が得られる。眼組織に対応するシャインプルーフ画像の部分領域に眼組織識別子が付与される態様では、同様の処理を容易に行うことができる。
【0233】
他の例において、眼科撮影装置2000又は図示しない画像処理装置は、眼組織識別子に基づいて画像解析プログラムをプログラムライブラリから選択し、選択された画像解析プログラムを用いてシャインプルーフ画像に画像解析を適用することができる。これにより、様々な画像解析プログラムのうちから当該シャインプルーフ画像の解析に適当なプログラムを正確に選択することが可能となり、シャインプルーフ画像の解析の自動化の促進を図ることが可能となる。
【0234】
このような使用形態を実現可能な第2の態様によれば、スリットスキャンで取得した各シャインプルーフ画像に対して、そのシャインプルーフ画像が取得されたときにスリット光が投射されていた眼組織の識別子を割り当てることができる。したがって、ユーザーは、観察や診断などの行為や解析などの処理において利用される画像に描出されている眼組織の種類を容易に且つ正しく把握することが可能になる。また、シャインプルーフ画像の解析をより好適に行うことが可能になる。これらの効果に加えて、第2の態様は、本開示に記載された各種の効果を奏する。また、当業者であれば、本開示に明示されていない効果についても、本開示の内容に基づき理解できるであろう。
【0235】
<第3の態様>
第3の態様は、第1の態様と第2の態様との組み合わせを含む実施例を提供する。第3の態様に係る眼科撮影装置の例を
図12に示す。本態様の眼科撮影装置は、スリットランプ顕微鏡とコンピュータ(情報処理装置)とを組み合わせたシステム(スリットランプ顕微鏡システム1)である。
【0236】
スリットランプ顕微鏡システム1は、本態様では被検眼Eの前眼部撮影に用いられ、照明系2と、撮影系3と、動画撮影系4と、光路結合素子5と、移動機構6と、制御部7と、データ処理部8と、通信部9と、ユーザーインターフェイス10とを含む。被検眼Eの角膜を符号Cで示し、水晶体を符号CLで示す。
【0237】
スリットランプ顕微鏡システム1の要素群の配置の非限定的な例として、幾つかの例示的な態様のスリットランプ顕微鏡システム1は、顕微鏡本体、コンピュータ、及び顕微鏡本体とコンピュータとの間の通信を担う通信デバイスを含んでいる。顕微鏡本体は、照明系2、撮影系3、動画撮影系4、光路結合素子5、及び移動機構6を含む。コンピュータは、制御部7、データ処理部8、通信部9、及びユーザーインターフェイス10を含む。コンピュータは、例えば、顕微鏡本体の近傍に設置されていてもよいし、ネットワーク上に設置されていてもよい。
【0238】
照明系2、撮影系3、及び移動機構6の組み合わせは、第1の態様の第1画像収集部1010の例であり、第2の態様の第1画像収集部2010の例である。照明系2は、第1の態様の照明系1013の例である。動画撮影系4は、第1の態様の第2画像収集部1020の例であり、第2の態様の第2画像収集部2020の例である。
【0239】
照明系2は、被検眼Eの前眼部にスリット光を投射する。符号2aは、照明系2の光軸(照明光軸)を示す。照明系2は、従来のスリットランプ顕微鏡の照明系と同様の構成を備えていてよい。例えば、図示は省略するが、照明系2は、被検眼Eから遠い側から順に、照明光源と、正レンズと、スリット形成部と、対物レンズとを含む。照明光源から出力された照明光は、正レンズを通過してスリット形成部に投射される。スリット形成部は、照明光の一部を通過させてスリット光を生成する。スリット形成部は、一対のスリット刃を有する。これらスリット刃の間隔(スリット幅)を変化させることで、スリット光の幅を変化させることができる。また、一対のスリット刃を回転させることで、スリット光の長手方向の向きを変化させることができる。また、スリット形成部は、スリット光の長手方向の寸法を変化させることができる。スリット形成部により生成されたスリット光は、対物レンズにより屈折されて被検眼Eの前眼部に投射される。
【0240】
照明系2は、スリット光のフォーカス位置を変更するための合焦機構を含んでいてもよい。この合焦機構は、例えば、対物レンズを照明光軸2aに沿って移動させる。或いは、合焦機構は、対物レンズとスリット形成部との間に配置された合焦レンズを移動させる。
【0241】
図12は上面図であり、被検眼Eの軸に沿う方向をZ方向とし、これに直交する方向のうち被検者にとって左右の方向をX方向とし、X方向及びZ方向の双方に直交する方向(上下方向、体軸方向)をY方向とする。本態様では、照明光軸2aが被検眼Eの軸に一致するように被検眼Eに対するスリットランプ顕微鏡システム1のアライメントを行うことができ、より広義には、照明光軸2aが被検眼Eの軸に平行に配置されるようにアライメントを行うことができる。
【0242】
撮影系3は、照明系2からのスリット光が投射されている前眼部を撮影する。符号3aは、撮影系3の光軸(撮影光軸)を示す。撮影系3は、光学系3Aと、撮像素子3Bとを含む。光学系3Aは、スリット光が投射されている被検眼Eの前眼部からの光を撮像素子3Bに導く。光学系3Aは、従来のスリットランプ顕微鏡の撮影系と同様の構成を備えていてよい。例えば、光学系3Aは、被検眼Eに近い側から順に、対物レンズと、変倍光学系と、結像レンズとを含む。スリット光が投射されている被検眼Eの前眼部からの光は、対物レンズ及び変倍光学系を通過し、結像レンズにより撮像素子3Bの撮像面に結像される。撮像素子3Bは、光学系3Aにより導かれた光を撮像面にて受光する。撮像素子3Bは、2次元の撮像エリアを有するエリアセンサを含む。このエリアセンサは、例えば、電荷結合素子(CCD)イメージセンサ、又は相補型金属酸化膜半導体(CMOS)イメージセンサであってよい。
【0243】
撮影系3は、そのフォーカス位置を変更するための合焦機構を含んでいてもよい。この合焦機構は、例えば、対物レンズを撮影光軸3aに沿って移動させる。或いは、合焦機構は、対物レンズと結像レンズとの間に配置された合焦レンズを撮影光軸3aに沿って移動させる。
【0244】
照明系2及び撮影系3は、シャインプルーフカメラとして機能する。すなわち、照明光軸2aに沿う物面と、光学系3Aと、撮像素子3Bの撮像面とが、いわゆるシャインプルーフの条件を満足するように、照明系2及び撮影系3が構成されている。より具体的には、照明光軸2aを通るYZ面(物面を含む)と、光学系3Aの主面と、撮像素子3Bの撮像面とが、同一の直線上にて交差する。これにより、物面内の全ての位置(照明光軸2aに沿う方向における全ての位置)にピントを合わせて撮影を行うことができる。
【0245】
本態様では、例えば、少なくとも角膜Cの前面から水晶体CLの後面までの範囲に撮影系3のピントが合うように、照明系2及び撮影系3が構成されている。すなわち、スリットランプ顕微鏡システム1は、角膜Cの前面の頂点(Z=Z1)から水晶体CLの後面の頂点(Z=Z2)までの範囲の全体に撮影系3のピントが合っている状態で、被検眼Eの前眼部の撮影を行うことができる。なお、照明光軸2aと撮影光軸3aとの交点は、座標Z=Z0に位置している。このような条件は、照明系2に含まれる要素の構成及び配置、撮影系3に含まれる要素の構成及び配置、並びに、照明系2と撮影系3との相対位置などにしたがって実現される。照明系2と撮影系3との相対位置を示すパラメータは、例えば、照明光軸2aと撮影光軸3aとがなす角度θを含む。角度θは、例えば、17.5度、30度、又は45度に設定される。角度θは可変であってもよい。
【0246】
動画撮影系4は、照明系2及び撮影系3による被検眼の撮影と並行して被検眼Eの前眼部を動画撮影する。動画撮影系4は、ビデオカメラとして機能する。
【0247】
光路結合素子5は、照明系2の光路(照明光路)と、動画撮影系4の光路(動画撮影光路)とを結合している。光路結合素子5は、例えば、ハーフミラー又はダイクロイックミラーなどのビームスプリッタであってよい。
【0248】
照明系2、撮影系3、動画撮影系4、及び光路結合素子5を含む光学系の具体例を
図13に示す。本例において、撮影系3は、2つの撮影系(第1撮影系及び第2撮影系)を含んでいる。幾つかの例示的な態様において、スリットランプ顕微鏡システム1の光学系は、
図13に示す要素群に加えて、又はそれらのいずれかの代わりに、スリットランプ顕微鏡システム1は、他の要素(例えば、第1の態様における任意の要素、第2の態様における任意の要素)を含んでいてもよい。
【0249】
図13に示す光学系は、照明系20と、左撮影系30Lと、右撮影系30Rと、動画撮影系40とを含んでいる。照明系20は照明系2の例である。左撮影系30L及び右撮影系30Rの組み合わせは、撮影系3の例であり、第1の態様の第1撮影系1011及び第2撮影系1012の組み合わせの例である。動画撮影系40は、動画撮影系4の例である。ビームスプリッタ47は、光路結合素子5の例である。
【0250】
図13において、符号20aは照明系20の光軸(照明光軸)を示し、符号30Laは左撮影系30Lの光軸(左撮影光軸)を示し、符号30Raは右撮影系30Rの光軸(右撮影光軸)を示す。左撮影光軸30Laの向きと右撮影光軸30Raの向きとは互いに異なっている。照明光軸20aと左撮影光軸30Laとがなす角度をθLで示し、照明光軸20aと右撮影光軸30Raとがなす角度をθRで示す。角度θLと角度θRとは、互いに等しくてもよいし互いに異なってもよい。角度θL及び角度θRのそれぞれは可変であってもよい。照明光軸20aと左撮影光軸30Laと右撮影光軸30Raとは、一点で交差する。
図12と同様に、この交点のZ座標をZ0で示す。
【0251】
本例の移動機構6は、照明系20、左撮影系30L、及び右撮影系30Rを、矢印49で示す方向(X方向)に移動するように構成されている。幾つかの例示的な態様において、照明系20、左撮影系30L、及び右撮影系30Rは、少なくともX方向に移動可能なステージ上に載置されており、且つ、移動機構6は、制御部7からの制御信号にしたがってこの可動ステージをX方向に移動する。
【0252】
照明系20は、被検眼Eの前眼部にスリット光を投射する。照明系20は、従来のスリットランプ顕微鏡の照明系と同様に、被検眼Eから遠い側から順に、照明光源21と、正レンズ22と、スリット形成部23と、対物レンズ群24及び25とを含む。
【0253】
照明光源21から出力された照明光(例えば可視光)は、正レンズ22により屈折されてスリット形成部23に投射される。投射された照明光の一部は、スリット形成部23が形成するスリットを通過してスリット光となる。生成されたスリット光は、対物レンズ群24及び25により屈折された後、ビームスプリッタ47により反射され、被検眼Eの前眼部に投射される。
【0254】
左撮影系30Lは、反射器31Lと、結像レンズ32Lと、撮像素子33Lとを含む。反射器31L及び結像レンズ32Lは、照明系20によりスリット光が投射されている前眼部からの光(左撮影系30Lの方向に進行する光)を撮像素子33Lに導く。
【0255】
前眼部から左撮影系30Lの方向に進行する光は、スリット光が投射されている前眼部からの光であって、照明光軸20aから離れる方向に進行する光である。反射器31Lは、当該光を照明光軸20aに近づく方向に反射する。結像レンズ32Lは、反射器31Lにより反射された光を屈折して撮像素子33Lの撮像面34Lに結像する。撮像素子33Lは、当該光を撮像面34Lにて受光する。
【0256】
左撮影系30Lは、移動機構6による照明系20、左撮影系30L及び右撮影系30Rの移動と並行して繰り返し撮影を行う。これにより複数の前眼部画像(一連のシャインプルーフ画像)が得られる。
【0257】
照明光軸20aに沿う物面と、反射器31L及び結像レンズ32Lを含む光学系と、撮像面34Lとは、シャインプルーフの条件を満足する。より具体的には、反射器31Lによる撮影系30Lの光路の偏向を考慮すると、照明光軸20aを通るYZ面(物面を含む)と、結像レンズ32Lの主面と、撮像面34Lとが、同一の直線上にて交差する。これにより、左撮影系30Lは、物面内の全ての位置(例えば、角膜前面から水晶体後面までの範囲)にピントを合わせて撮影を行うことができる。
【0258】
右撮影系30Rは、反射器31Rと、結像レンズ32Rと、撮像素子33Rとを含む。反射器31R及び結像レンズ32Rは、照明系20によりスリット光が投射されている前眼部からの光(右撮影系30Rの方向に進行する光)を撮像素子33Rに導く。右撮影系30Rは、移動機構6による照明系20、左撮影系30L及び右撮影系30Rの移動と並行して繰り返し撮影を行うことで、複数の前眼部画像(一連のシャインプルーフ画像)を取得する。照明光軸20aに沿う物面と、反射器31R及び結像レンズ32Rを含む光学系と、撮像面34Rとは、シャインプルーフの条件を満足する。
【0259】
左撮影系30Lによるシャインプルーフ画像収集と右撮影系30Rによるシャインプルーフ画像収集とは、互いに並行して行われる。左撮影系30Lにより収集される一連のシャインプルーフ画像と右撮影系30Rにより収集される一連のシャインプルーフ画像との組み合わせは、第1シャインプルーフ画像群と第2シャインプルーフ画像群との組み合わせに相当する。
【0260】
制御部7は、左撮影系30Lによる繰り返し撮影と、右撮影系30Rによる繰り返し撮影とを同期させることができる。これにより、左撮影系30Lにより得られた一連のシャインプルーフ画像と、右撮影系30Rにより得られた一連のシャインプルーフ画像との間の対応関係が得られる。この対応関係は、時間的な対応関係であり、より具体的には、実質的に同時に取得された画像同士をペアリングするものである。
【0261】
或いは、制御部7又はデータ処理部8は、左撮影系30Lにより得られた複数の前眼部画像と、右撮影系30Rにより得られた複数の前眼部画像との間の対応関係を求める処理を実行することができる。例えば、制御部7又はデータ処理部8は、左撮影系30Lから逐次に入力される前眼部画像と、右撮影系30Rから逐次に入力される前眼部画像とを、それらの入力タイミングによってペアリングすることができる。
【0262】
動画撮影系40は、左撮影系30Lによる撮影及び右撮影系30Rによる撮影と並行して、被検眼Eの前眼部を固定位置から動画撮影する。ここで、動画撮影系40は移動機構6によって移動されない。動画撮影系40は、照明系20と同軸に配置されているが、その配置はこれに限定されない。例えば、照明系20と非同軸に動画撮影系を配置することができる。
【0263】
ビームスプリッタ47を透過した光は、反射器48により反射されて動画撮影系40に入射する。動画撮影系40に入射した光は、対物レンズ41により屈折された後、結像レンズ42によって撮像素子43の撮像面に結像される。撮像素子43はエリアセンサである。
【0264】
動画撮影系40は、被検眼Eの動きのモニタ、アライメント、トラッキングなどに利用することができる。更に、動画撮影系40は、一連のシャインプルーフ画像を処理するために利用することができる。
【0265】
図12の参照に戻る。移動機構6は、照明系2及び撮影系3を一体的にX方向に移動するように構成されている。
【0266】
制御部7は、スリットランプ顕微鏡システム1の各部を制御するように構成されている。例えば、制御部7は、照明系2の要素(照明光源、スリット形成部、合焦機構など)、撮影系3の要素(光学系3Aの合焦機構、撮像素子3Bなど)、動画撮影系4の要素(合焦機構、撮像素子など)、移動機構6、データ処理部8、通信部9、ユーザーインターフェイス10などを制御する。
【0267】
制御部7は、照明系2、撮影系3及び移動機構6の制御と、動画撮影系4の制御とを、互いに並行して実行することができる。これにより、第1画像収集部1010(2010)によるスリットスキャン(一連のシャインプルーフ画像の収集)と、第2画像収集部1020(2020)による繰り返し撮影(一連の時系列画像の収集)とを互いに並行して実行することが可能になる。
【0268】
更に、制御部7は、照明系2、撮影系3及び移動機構6の制御と、動画撮影系4の制御とを、互いに同期して実行することができる。これにより、第1画像収集部1010(2010)によるスリットスキャンと第2画像収集部1020(2020)による繰り返し撮影とを互いに同期させることが可能になる。
【0269】
撮影系3が左撮影系30L及び右撮影系30Rを含む態様において、制御部7は、左撮影系30Lによる繰り返し撮影(第1シャインプルーフ画像群の収集)と、右撮影系30Rによる繰り返し撮影(第2シャインプルーフ画像群の収集)とを互いに同期して実行することができる。
【0270】
制御部7は、プロセッサ、主記憶装置、補助記憶装置などを含む。補助記憶装置には、各種の制御プログラム等のコンピュータプログラムが記憶されている。これらのコンピュータプログラムは、スリットランプ顕微鏡システム1がアクセス可能なコンピュータや記憶装置に格納されていてもよい。制御部7の機能は、制御プログラム等のソフトウェアと、プロセッサ等のハードウェアとの協働によって実現される。
【0271】
制御部7は、被検眼Eの前眼部の3次元領域をスリット光でスキャンするために、照明系2、撮影系3及び移動機構6に対して次のような制御を適用することができる。
【0272】
まず、制御部7は、照明系2及び撮影系3を所定のスキャン開始位置に配置するように移動機構6を制御する(アライメント制御)。スキャン開始位置は、例えば、X方向における角膜Cの端部(第1端部)に相当する位置、又は、それよりも被検眼Eの軸から離れた位置である。
図14Aにおける符号X0は、X方向における角膜Cの第1端部に相当するスキャン開始位置を示している。また、
図14Bの符号X0’は、X方向における角膜Cの第1端部に相当する位置よりも被検眼Eの軸EAから離れたスキャン開始位置を示している。
【0273】
制御部7は、照明系2を制御して、被検眼Eの前眼部に対するスリット光の投射を開始させる(スリット光投射制御)。また、制御部7は、撮影系3を制御して、被検眼Eの前眼部の動画撮影を開始させる(撮影制御)。アライメント制御、スリット光投射制御、及び撮影制御の実行後、制御部7は、移動機構6を制御して、照明系2及び撮影系3の移動を開始する(移動制御)。移動制御により、照明系2及び撮影系3が一体的に移動される。つまり、照明系2と撮影系3との相対位置(角度θなど)を維持しつつ(シャインプルーフの条件を満足した状態で)照明系2及び撮影系3が移動される。照明系2及び撮影系3の移動は、前述したスキャン開始位置から所定のスキャン終了位置まで行われる。スキャン終了位置は、例えば、スキャン開始位置と同様に、X方向において第1端部の反対側の角膜Cの端部(第2端部)に相当する位置、又は、それよりも被検眼Eの軸から離れた位置である。
【0274】
本例のスリットスキャンは、スキャン開始位置からスキャン終了位置までの範囲に適用される。このスリットスキャンは、X方向を幅方向とし且つY方向を長手方向としたスリット光の前眼部への投射と、照明系2及び撮影系3のX方向への一体的な移動と、撮影系3による動画撮影とを、互いに並行して(連係して、同期して)実行することによって実現される。スリット光の長さ(つまり、Y方向におけるスリット光のビーム断面の寸法)は、例えば、被検眼Eの表面において角膜Cの径以上に設定されている。また、移動機構6による照明系2及び撮影系3の移動距離は、X方向における角膜径以上に設定されている。これにより、角膜C全体を含む3次元領域にスリットスキャンを適用することが可能になる。
【0275】
このようなスリットスキャンにより、スリット光の投射位置が異なる複数の前眼部画像(一連のシャインプルーフ画像)が得られる。換言すると、スリット光の投射位置がX方向に移動する様が描写された動画像が得られる。このような複数の前眼部画像(つまり、動画像を構成するフレーム群)の例を
図15に示す。
【0276】
図15は、複数の前眼部画像(フレーム群)F1、F2、F3、・・・、FNを示す。これら前眼部画像Fn(n=1、2、・・・、N)の添字nは、時系列順序を表している。つまり、第n番目に取得された前眼部画像が符号Fnで表される。前眼部画像Fnには、スリット光像Anが含まれている。
図15に示すように、スリット光像A1、A2、A3、・・・、ANは、時系列に沿って右方向に移動している。
図15に示す例では、スキャン開始位置及びスキャン終了位置は、X方向における角膜Cの両端に対応する。なお、スキャン開始位置及び/又はスキャン終了位置は本例に限定されず、例えば、角膜端部よりも被検眼Eの軸から離れた位置であってよい。また、スキャンの向きや回数についても任意に設定することが可能である。
【0277】
データ処理部8は、各種のデータ処理を実行するように構成されている。処理されるデータは、スリットランプ顕微鏡システム1により取得されたデータ、及び、外部から入力されたデータのいずれでもよい。
【0278】
データ処理部8は、プロセッサ、主記憶装置、補助記憶装置などを含む。補助記憶装置には、各種のデータ処理プログラム等のコンピュータプログラムが記憶されている。これらのコンピュータプログラムは、スリットランプ顕微鏡システム1がアクセス可能なコンピュータや記憶装置に記憶されていてもよい。データ処理部8の機能は、データ処理プログラム等のソフトウェアと、プロセッサ等のハードウェアとの協働によって実現される。
【0279】
データ処理部8の構成例を
図16に示す。本例のデータ処理部8Aは、空間的画像補間と眼組織識別子付与とを組み合わせた処理を実行可能である。データ処理部8Aは、画像解析部81と、画像補間部82と、識別子付与部83と、3次元画像構築部84とを含んでいる。
【0280】
画像解析部81は、第1の態様の第1画像解析部1030に関する任意の機能と、第2の態様の第2画像解析部2030に関する任意の機能とを有する。画像解析部81には、スリットスキャンによって被検眼Eの前眼部の3次元領域から収集された複数の前眼部画像(一連のシャインプルーフ画像)と、スリットスキャンと並行して動画撮影系4により取得された動画像(一連の時系列画像)とが入力される。
【0281】
例えば、前述したように、画像解析部81は、動画像撮影系4により収集された一連の時系列画像を解析して一連のスリット光像を検出し、検出された一連のスリット光像に基づいてスリット光の時系列変位を求める。スリット光像の検出結果は識別子付与部83に送られ、スリット光の時系列変位の情報は画像補間部82に送られる。
【0282】
画像補間部82は、第1の態様の画像補間部1040に関する任意の機能を有する。画像補間部82は、画像解析部81により取得されたスリット光の時系列変位に基づいて、スリットスキャンで収集された一連のシャインプルーフ画像の補間を行う。補間処理により得られた複数のシャインプルーフ画像(収集された一連のシャインプルーフ画像と、補間により追加された画像群とを含む)は、識別子付与部83に送られる。
【0283】
幾つかの例示的な態様の画像補間部82は、
図6Aの画像補間部1040Aと同様の構成を有し、推論モデルを用いて空間的画像補間を行うように構成されていてよい。
【0284】
幾つかの例示的な態様の画像補間部82は、
図7の画像補間部1040Bと同様の構成及び/又は
図8の画像補間部1040Cと同様の構成を含み、第1画像収集部(照明系2、撮影系3及び移動機構6)の動作情報、スリット光の時系列変位の情報、及び、被検眼の時系列変位の情報のうちの少なくとも1つに基づいて、補間個数を決定することができる。更に、画像補間部82は、決定された補間個数の画像を生成し、一連のシャインプルーフ画像に追加することができる。
【0285】
識別子付与部83は、第2の態様の識別子付与部2040に関する任意の機能を有する。識別子付与部83は、動画撮影系4により収集された一連の時系列画像から検出された一連のスリット光像に基づいて、スリットスキャンで収集された一連のシャインプルーフ画像のそれぞれに眼組織識別子を割り当てる。
【0286】
更に、識別子付与部83は、画像補間部82により一連のシャインプルーフ画像に追加された画像群(追加画像群)のそれぞれに眼組織識別子を割り当てることができる。各追加画像に眼組織識別子を付与する処理は、各シャインプルーフ画像(各収集画像)に眼組織識別子を付与するための前述の処理のいずれかであってよい。
【0287】
或いは、識別子付与部83は、一連のシャインプルーフ画像に付与された眼組織識別子に基づいて、追加画像群に対して眼組織識別子を付与するように構成されてもよい。幾つかの例示的な態様において、識別子付与部83は、互いに隣接する2つのシャインプルーフ画像(例えば、
図15における2つの前眼部画像Fn及びF(n+1))であって、同じ眼組織を示す識別子が付与された2つのシャインプルーフ画像の間に配置された各追加画像に対して、これらシャインプルーフ画像に付与された眼組織識別子と同じ眼組織識別子を割り当てるように構成されてもよい。例えば、
図15における2つの前眼部画像Fn及びF(n+1)の双方に角膜を示す識別子が割り当てられている場合、画像補間部82により前眼部画像Fnと前眼部画像F(n+1)との間に挿入された各画像に対して角膜を示す識別子を割り当てることができる。
【0288】
幾つかの例示的な態様において、識別子付与部83は、まず、シャインプルーフ画像に眼組織識別子を付与するための処理と同様の処理を各追加画像に対して適用することができる(第1の眼組織識別子付与処理)。第1の眼組織識別子付与処理で眼組織識別子が適切に付与された各追加画像については、処理はここで完了となる。第1の眼組織識別子付与処理で眼組織識別子が適切に付与されなかった各追加画像については、識別子付与部83は、一連のシャインプルーフ画像に付与された眼組織識別子に基づいて眼組織識別子を付与することができる(第2の眼組織識別子付与処理)。このような段階的処理の順序は本例に限定されず、例えば本例とは逆の順序であってもよい。また、任意の2つ以上の異なる処理を段階的に実行するようにしてもよい。
【0289】
幾つかの例示的な態様において、一連のシャインプルーフ画像のいずれかに対して眼組織識別子が適切に付与されなかった場合、識別子付与部83は、まず、そのシャインプルーフ画像の近傍に位置する1つ以上の追加画像(例えば、そのシャインプルーフ画像に隣接する1つ以上の追加画像)を選択することができる。次に、識別子付与部83は、選択された追加画像に対して、シャインプルーフ画像に眼組織識別子を付与するための処理と同様の処理を適用することにより、その追加画像に眼組織識別子を付与することができる。続いて、識別子付与部83は、眼組織識別子が付与された追加画像に少なくとも基づいて、対象のシャインプルーフ画像に眼組織識別子を付与することができる。
【0290】
3次元画像構築部84は、識別子付与部83によりそれぞれに眼組織識別子が付与された複数の前眼部画像(一連のシャインプルーフ画像及び追加画像群を含む)に基づいて3次元画像を構築する。3次元画像は、3次元座標系によってピクセルの位置が定義された画像(画像データ)である。3次元画像の例として、ボリュームデータ(ボクセルデータとも呼ばれる)がある。3次元画像構築部84は、任意の公知の3次元画像構築技術(コンピュータグラフィクスなど)を使用する。
【0291】
本例のスリットランプ顕微鏡システム1は、被検眼Eの3次元領域から収集された一連のシャインプルーフ画像に空間的画像補間を施すとともに、補間を通じて得られた複数の画像(例えば、一連のシャインプルーフ画像及び追加画像群)のそれぞれに対して眼組織識別子を付与するように構成されている。このような構成の本例によれば、第1の態様の効果と第2の態様の効果との双方が奏される。更に、本例によれば、空間的画像補間と眼組織識別子付与とを連係させることができるので、スリットスキャンを実行可能な眼科撮影装置の更なる性能向上を図ることが可能である。
【0292】
データ処理部8の他の構成例を
図17に示す。本例のデータ処理部8Bは、
図16のデータ処理部8Aと同様に、画像解析部81、画像補間部82、識別子付与部83、及び3次元画像構築部84を含むとともに、画像選択部85を更に含んでいる。データ処理部8Aと同様の要素については説明を省略する。
【0293】
本例の撮影系3は、
図13の左撮影系30L及び右撮影系30Rのような、第1撮影系及び第2撮影系を含んでいる。本例のスリットスキャンは、左撮影系30Lによる一連のシャインプルーフ画像の収集と、右撮影系30Rによる一連のシャインプルーフ画像の収集とを並行して行う。
【0294】
画像選択部85は、左撮影系30Lにより収集された一連のシャインプルーフ画像と右撮影系30Rにより収集された一連のシャインプルーフ画像との間の対応関係(第1シャインプルーフ画像群と第2シャインプルーフ画像群との間の対応関係)に基づいて、当該スリットスキャンに対応する新たな一連のシャインプルーフ画像をこれら2つの一連のシャインプルーフ画像から選択する。画像選択部85は、第1の態様の画像選択部1050に関する任意の機能を有する。本例の画像補間部82は、画像選択部85により形成された新たな一連のシャインプルーフ画像に対して空間的画像補間を適用する。
【0295】
本例のスリットランプ顕微鏡システム1は、
図13の照明系20のような照明系を含んでいてよい。画像選択部85は、左撮影系30Lにより収集された一連のシャインプルーフ画像と右撮影系30Rにより収集された一連のシャインプルーフ画像との間の対応関係に基づいて、角膜反射アーティファクトを含まない複数のシャインプルーフ画像をこれら2つの一連のシャインプルーフ画像から選択することができる。本例の画像補間部82は、このようにして形成された角膜反射アーティファクトを含まない新たな一連のシャインプルーフ画像に対して空間的画像補間を適用する。
【0296】
本例のスリットランプ顕微鏡システム1は、左撮影系30Lにより収集された一連のシャインプルーフ画像及び右撮影系30Rにより収集された一連のシャインプルーフ画像を含むシャインプルーフ画像の群から選択されて形成された新たな一連のシャインプルーフ画像に空間的画像補間を施すとともに、補間を通じて得られた複数の画像(例えば、当該新たな一連のシャインプルーフ画像及び追加画像群)のそれぞれに対して眼組織識別子を付与するように構成されている。このような構成の本例によれば、第1の態様の効果と第2の態様の効果とに加え、画像選択部1050を含む態様の効果が奏される。更に、本例によれば、シャインプルーフ画像選択、空間的画像補間、及び眼組織識別子付与を連係させることができるので、スリットスキャンを実行可能な眼科撮影装置の更なる性能向上を図ることが可能である。
【0297】
データ処理部8の構成はこれらの例に限定されない。幾つかの例示的な態様のデータ処理部8は、第1の態様の任意のデータ処理機能及び第2の態様の任意のデータ処理機能の一方又は双方を有していてよい。また、幾つかの例示的な態様のデータ処理部8は、特許文献3(特開2019-213733号公報)に開示されている任意のデータ処理機能など、本願の出願人のいずれかにより開示された当該技術に関する任意のデータ処理機能を有していてよい。
【0298】
通信部9は、スリットランプ顕微鏡システム1と他の装置との間におけるデータ通信を行う。すなわち、通信部9は、他の装置へのデータの送信と、他の装置から送信されたデータの受信とを行う。
【0299】
通信部9が実行するデータ通信の方式は任意である。例えば、通信部9は、インターネットに準拠した通信インターフェイス、専用線に準拠した通信インターフェイス、LANに準拠した通信インターフェイス、近距離通信に準拠した通信インターフェイスなど、各種の通信インターフェイスのうちの1つ以上を含む。データ通信は有線通信でも無線通信でもよい。
【0300】
通信部9により送受信されるデータは暗号化されていてよい。その場合、例えば、制御部7及び/又はデータ処理部8は、通信部9により送信されるデータを暗号化する暗号化処理部、及び、通信部9により受信されたデータを復号化する復号化処理部の少なくとも一方を含む。
【0301】
ユーザーインターフェイス10は、表示デバイス、操作デバイスなど、任意のユーザーインターフェイスデバイスを含む。医師、被検者、補助者などのユーザーは、ユーザーインターフェイス10を用いることによって、スリットランプ顕微鏡システム1の操作や、スリットランプ顕微鏡システム1への情報入力を行うことができる。
【0302】
表示デバイスは、制御部7の制御を受けて各種の情報を表示する。表示デバイスは、液晶ディスプレイ(LCD)などのフラットパネルディスプレイを含んでいてよい。操作デバイスは、スリットランプ顕微鏡システム1を操作するためのデバイスや、情報を入力するためのデバイスを含む。操作デバイスは、例えば、ボタン、スイッチ、レバー、ダイアル、ハンドル、ノブ、マウス、キーボード、トラックボール、操作パネルなどを含む。タッチスクリーンのように、表示デバイスと操作デバイスとが一体化したデバイスを用いてもよい。
【0303】
ユーザーインターフェイスの少なくとも一部がスリットランプ顕微鏡システム1の周辺機器として配置されていてもよい。
【0304】
スリットランプ顕微鏡システム1の要素は、以上に説明したものに限定されない。スリットランプ顕微鏡システム1は、スリットランプ顕微鏡に組み合わせることが可能な任意の要素を含んでいてもよく、より一般に、眼科撮影装置に組み合わせることが可能な任意の要素を含んでいてもよい。また、スリットランプ顕微鏡システム1は、スリットランプ顕微鏡により取得された被検眼のデータを処理するための任意の要素を含んでいてもよく、より一般に、任意の眼科データを処理するための任意要素を含んでいてもよい。
【0305】
例えば、スリットランプ顕微鏡システム1は、被検眼Eを固視させるための光(固視光)を出力する固視系を備えていてよい。固視系は、典型的には、少なくとも1つの可視光源(固視光源)、又は、風景チャートや固視標等の画像を表示する表示デバイスを含む。固視系は、例えば、照明系2又は撮影系3と同軸又は非同軸に配置される。
【0306】
本態様のスリットランプ顕微鏡システム1の使用形態の例を説明する。
図18は、本例の流れを表すデータフロー図である。
図18中の各楕円形は処理や動作を示し、各長方形はデータを示している。
【0307】
まず、スリットランプ顕微鏡システム1は、動画撮影系4を用いた動画撮影101と、照明系2、撮影系3及び移動機構6を用いたスリットスキャン102とを実行する。制御部7は、動画撮影101とスリットスキャン102とを互いに同期させるための同期制御を実行する。
【0308】
動画撮影101により取得された動画像(一連の時系列画像)103は、アイトラッキング104とスリット光像の検出106とに用いられる。
【0309】
アイトラッキング104は、動画像103を解析して被検眼Eの動きを検出する処理を少なくとも含む。換言すると、アイトラッキング104は、複数の時点のそれぞれにおける被検眼Eの位置を検出する処理を少なくとも含む。アイトラッキング104は、検出された被検眼Eの動きに合わせて光学系をリアルタイムで移動させる動作(被検眼Eの動きに光学系を追従させる動作)を更に含んでもよい。アイトラッキング104により、被検眼Eの時系列変位105が求められる。
【0310】
スリット光像の検出106は、動画像103を解析して一連のスリット光像を検出する処理を含む。スリット光像の検出106により、スリット光像の時系列変位107が求められる。
【0311】
被検眼Eの時系列変位105及びスリット光像の時系列変位107により、被検眼Eの眼球運動に由来するアーティファクトや、スリットスキャンの非等速性に由来するアーティファクトを補正することができる。被検眼Eの時系列変位105及びスリット光像の時系列変位107は、画像補間部82に入力される。
【0312】
一方、スリットスキャン102は、被検眼Eの前眼部の3次元領域から一連のシャインプルーフ画像を収集する。本例のスリットランプ顕微鏡システム1は、
図13(
図4、
図5)に示す左撮影系30L及び右撮影系30Rを備えている。スリットスキャン102において、左撮影系30Lは一連のシャインプルーフ画像(左画像群108)を収集し、右撮影系30Rは一連のシャインプルーフ画像(右画像群109)を収集する。スリットスキャン102において、制御部7は、左撮影系30Lと右撮影系30Rとを互いに同期させるための同期制御を実行する。したがって、制御部7は、動画撮影系40と左撮影系30Lと右撮影系30Rとを互いに同期させるための同期制御を実行する。
【0313】
スリットスキャン102で収集された左画像群108及び右画像群109は、画像選択部85に入力される。画像選択部85は、左画像群108と右画像群109とを合成する(左右画像群の合成110)。左右画像群の合成110は、左画像群108と右画像群109との間の対応関係に基づいて、スリットスキャン102に対応する新たな一連のシャインプルーフ画像を左画像群108及び右画像群109から選択する処理である。
【0314】
左右画像群の合成110により、角膜反射アーティファクトなどのアーティファクトを除去することができる。つまり、左右画像群の合成110により、角膜反射アーティファクトなどのアーティファクトを含まない新たな一連のシャインプルーフ画像(合成データ111)が形成される。合成データ111は、画像補間部82に入力される。
【0315】
画像補間部82には、被検眼Eの時系列変位105と、スリット光像の時系列変位107と、合成データ111とが入力される。画像の補間112において、画像補間部82は、まず、被検眼Eの時系列変位105及びスリット光像の時系列変位107に基づいて空間的画像補間の条件を決定する。空間的画像補間の条件は、例えば、補間個数、補間位置、及び補間間隔のうちの少なくとも1つを含んでいてよい。なお、画像補間部82は、スリットスキャン102の条件(前述した第1画像収集部1010の動作情報)、被検眼Eの時系列変位105、及びスリット光像の時系列変位107のうちの少なくとも1つに基づいて空間的画像補間の条件を決定することができる。
【0316】
画像の補間112において、画像補間部82は、更に、前段階で決定された条件に基づいて、合成データ111に空間的画像補間を適用する。この空間的画像補間は、合成データ111を構成する複数の画像の間隔を変更することなく実行することができる。
【0317】
なお、幾つかの例示的な態様の空間的画像補間では、合成データ111を構成する複数の画像の間隔の微調整を許容してもよい。この微調整は、合成データ111(左画像群108、右画像群109)により表現される3次元領域のXY面におけるアスペクト比を実質的に変化させることなく実行される。
【0318】
画像の補間112により得られた複数の画像(合成データ111と追加画像群とを含む)は、識別子付与部83に入力される。
【0319】
識別子付与部83は、画像の補間112により得られた複数の画像(合成データ111と追加画像群とを含む)のそれぞれに対して眼組織識別子を割り当てる(識別子の付与113)。眼組織識別子が付与された複数の画像は、3次元画像構築部84に入力される。
【0320】
3次元画像構築部84は、識別子付与部83から入力された複数の画像(合成データ111と追加画像群とを含む)に基づいて3次元画像を構築する(3次元画像の再構成114)。これにより、被検眼Eの前眼部の3次元領域(スリットスキャン102が適用された3次元領域)を表現した3次元ボリューム115が得られる。3次元ボリューム115は、レンダリングや画像解析に用いられる。
【0321】
画像の補間112を行うことにより、3次元ボリュームのアスペクト比やそのレンダリング画像のアスペクト比を、実際の被検眼E(スリットスキャン102が適用された3次元領域)と同様になるようにすることができる。
【0322】
また、画像の補間112において、被検眼Eの時系列変位105及び/又はスリット光像の時系列変位107に基づいて、合成データ111を構成する複数の画像の配列の各間隔ごとに補間枚数を変化させることができる。これにより、スリットスキャン102が被検眼Eに適用されているときに発生した被検眼Eの眼球運動に由来するアーティファクトや、スリットスキャン102の非等速性に由来するアーティファクトを補正することができる。
【0323】
更に、合成データ111を形成することで、スリット光の角膜反射に由来するアーティファクトを除去することができる。
【0324】
このように、本例によれば、前眼部の実際の形態に応じたアスペクト比を有し、且つ、角膜反射に由来するアーティファクト、眼球運動に由来するアーティファクト、スリットスキャンの非等速性に由来するアーティファクトなどの各種アーティファクトを含まない3次元画像を生成することが可能になる。また、このような3次元画像から、前眼部の実際の形態に応じたアスペクト比を有し、且つ、各種アーティファクトを含まないレンダリング画像を作成することができる。加えて、前眼部の実際の形態に応じたアスペクト比を有し、且つ、各種アーティファクトを含まない3次元画像やレンダリング画像を用いて、被検眼Eの画像解析を行うことができる。したがって、被検眼の3次元領域のスリットスキャンの性能向上を図ることが可能になる
【0325】
また、本例によれば、合成データ111を構成する各画像に眼組織識別子を付与することができるので、ユーザーは、観察や診断などの行為や解析などの処理において利用される画像に描出されている眼組織の種類を容易に且つ正しく把握することが可能になる。また、シャインプルーフ画像の解析をより好適に行うことが可能になる。
【0326】
本態様のスリットランプ顕微鏡システム1の使用形態は本例に限定されない。例えば、幾つかの例示的な使用形態は、第1の態様の任意の事項及び/又は第2の態様の任意の事項を含んでいてよい。
【0327】
<第4の態様>
第1~第3の態様は、一連のシャインプルーフ画像を収集する機能と一連の時系列画像を収集する機能とを有する眼科撮影装置に関する。これに対し、第4の態様は、被検眼の画像を外部から受け付ける眼科画像処理装置(コンピュータ、情報処理装置)に関する。
【0328】
幾つかの例示的な態様の眼科画像処理装置は、受付部と、第1画像解析部と、画像補間部とを含む。
【0329】
受付部は、被検眼の3次元領域をスキャン光でスキャンすることにより取得された一連の画像と、この3次元領域のスキャンと並行して被検眼を繰り返し撮影して収集された一連の時系列画像とを受け付ける。受付部は、例えば、通信デバイス及び/又はメディアドライブを含む。通信デバイスは、例えば第3の態様の通信部9であってよく、外部の記憶装置に保存されているデータを受信する。メディアドライブは、記録媒体に記録されているデータを読み出す。
【0330】
被検眼の3次元領域をスキャン光でスキャンすることにより取得された一連の画像は、例えば、スリットスキャンで収集された一連のシャインプルーフ画像、又は、第1撮影系及び第2撮影系によりそれぞれ収集された第1シャインプルーフ画像群及び第2シャインプルーフ画像群から形成された新たな一連のシャインプルーフ画像であってよい。或いは、被検眼の3次元領域をスキャン光でスキャンすることにより取得された一連の画像は、スリットランプ顕微鏡以外のモダリティにより取得されてもよく、例えば、OCT、SLOなどの任意の眼科スキャニングモダリティによって収集された一連の画像であってもよい。
【0331】
眼科画像処理装置の第1画像解析部は、受付部により受け付けられた一連の時系列画像を解析してスキャン光の時系列変位を求める。第1画像解析部は、例えば、第1の態様の第1画像解析部1030、又は、第3の態様の画像解析部81であってよい。
【0332】
眼科画像処理装置の画像補間部は、第1画像解析部により求められたスキャン光の時系列変位に基づいて、スキャン光でスキャンすることにより取得された一連の画像の補間を行う。画像補間部は、例えば、第1の態様の画像補間部1040、又は、第3の態様の画像補間部82であってよい。
【0333】
本態様の眼科画像処理装置によれば、被検眼の実際の形態に応じたアスペクト比で配列された複数の画像を取得することができ、被検眼の実際の形態に応じたアスペクト比の3次元画像やレンダリング画像を取得することが可能になる。また、本態様の眼科画像処理装置に対して本開示の任意の事項を組み合わせることができる。
【0334】
幾つかの例示的な態様の眼科画像処理装置は、受付部と、第2画像解析部と、識別子付与部とを含む。
【0335】
受付部は、被検眼の3次元領域をスキャン光でスキャンすることにより取得された一連の画像と、この3次元領域のスキャンと並行して被検眼を繰り返し撮影して収集された一連の時系列画像とを受け付ける。本態様の眼科画像処理装置の受付部は、上記した態様の眼科画像処理装置の受付部と同様であってよい。
【0336】
本態様の眼科画像処理装置の第2画像解析部は、受付部により受け付けられた一連の時系列画像を解析してスキャン光の一連の像を検出する。第2画像解析部は、例えば、第2の態様の第2画像解析部2030、又は、第3の態様の画像解析部81であってよい。
【0337】
本態様の眼科画像処理装置の識別子付与部は、第2画像解析部により検出されたスキャン光の一連の像に基づいて、被検眼の3次元領域をスキャン光でスキャンすることにより取得された一連の画像のそれぞれに対し、その画像が取得されたときにスキャン光が投射されていた眼組織を示す識別子を割り当てる。識別子付与部は、例えば、第2の態様の識別子付与部2040、又は、第3の態様の識別子付与部83であってよい。
【0338】
本態様の眼科画像処理装置によれば、被検眼の3次元領域をスキャン光でスキャンすることにより取得された一連の画像のそれぞれに眼組織識別子を付与することができるので、ユーザーは、観察や診断などの行為や解析などの処理において利用される画像に描出されている眼組織の種類を容易に且つ正しく把握することが可能になる。また、シャインプルーフ画像の解析をより好適に行うことが可能になる。
【0339】
例示的な態様の眼科画像処理装置は、上記した例に限定されない。例えば、本開示における任意の事項を備えた眼科画像処理装置を構成することができる。
【0340】
<他の事項>
本開示は、実施形態の幾つかの例示的な態様を提示するものである。これらの態様は、本発明の例示に過ぎない。したがって、本発明の要旨の範囲内における任意の変形(省略、置換、付加など)を本開示に適用することが可能である。
【0341】
本開示で説明された任意の1つ以上の処理をコンピュータに実行させるプログラムを構成することが可能である。また、そのようなプログラムを記録した記録媒体を作成することが可能である。記録媒体は、コンピュータによって読み取り可能な非一時的記録媒体である。このような記録媒体の形態は任意であり、その例として、磁気ディスク、光ディスク、光磁気ディスク、半導体メモリなどがある。
【0342】
本発明は、本開示で説明された任意の1つ以上の工程を含む方法を含んでいてよい。例えば、幾つかの例示的な態様に係る方法は、被検眼の3次元領域をスリット光でスキャンして一連のシャインプルーフ画像を収集し、この3次元領域のスキャンと並行して被検眼を繰り返し撮影して一連の時系列画像を収集し、この一連の時系列画像を解析して当該スキャンにおけるスリット光の時系列変位を求め、このスリット光の時系列変位に基づいて一連のシャインプルーフ画像の補間を行うように構成されている。本開示における任意の事項に基づく工程をこの方法に組み合わせることができる。また、画像を収集する工程の代わりに、外部から画像を受け付ける工程を設けてもよい。
【0343】
幾つかの例示的な態様に係る方法は、被検眼の3次元領域をスリット光でスキャンして一連のシャインプルーフ画像を収集し、この3次元領域のスキャンと並行して被検眼を繰り返し撮影して一連の時系列画像を収集し、この一連の時系列画像を解析してスリット光の一連の像を検出し、一連の時系列画像から検出されたスリット光の一連の像に基づいて、一連のシャインプルーフ画像のそれぞれに対し、当該シャインプルーフ画像が取得されたときにスリット光が投射されていた眼組織を示す識別子を割り当てるように構成されている。本開示における任意の事項に基づく工程をこの方法に組み合わせることができる。また、画像を収集する工程の代わりに、外部から画像を受け付ける工程を設けてもよい。
【符号の説明】
【0344】
1000、1000A 眼科撮影装置
1010 第1画像収集部
1011 第1撮影系
1012 第2撮影系
1013 照明系
1020 第2画像収集部
1030 第1画像解析部
1040、1040A、1040B、1040C 画像補間部
1041 推論部
1042 推論モデル
1043 第1補間個数決定部
1044 第2補間個数決定部
1050 画像選択部
2020 眼科撮影装置
2010 第1画像収集部
2020 第2画像収集部
2030 第2画像解析部
2040 識別子付与部