(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024040372
(43)【公開日】2024-03-25
(54)【発明の名称】眼科画像処理プログラムおよび眼科画像処理装置
(51)【国際特許分類】
A61B 3/10 20060101AFI20240315BHJP
【FI】
A61B3/10 100
【審査請求】有
【請求項の数】7
【出願形態】OL
(21)【出願番号】P 2024019436
(22)【出願日】2024-02-13
(62)【分割の表示】P 2019161617の分割
【原出願日】2019-09-04
(71)【出願人】
【識別番号】000135184
【氏名又は名称】株式会社ニデック
(74)【代理人】
【識別番号】100166785
【弁理士】
【氏名又は名称】大川 智也
(72)【発明者】
【氏名】加納 徹哉
(72)【発明者】
【氏名】柴 涼介
(57)【要約】
【課題】ユーザが所望する医療情報を、ユーザに適切に提示できることが可能な眼科画像処理プログラム、および眼科画像処理装置を提供する。
【解決手段】眼科画像処理装置の制御部は、OCT装置によって撮影された眼科画像を取得する(S11)。制御部は、取得された眼科画像のうちの一部の部分画像、または、部分画像に基づいて生成される画像を基画像とし、機械学習アルゴリズムによって訓練された数学モデルに基画像を入力することで、基画像の画質を向上させた高画質画像を医療情報として取得する。制御部は、部分画像を選択する指示が受け付けられた場合に、選択された部分画像に関して取得された医療情報を表示部に表示させる(S28)。制御部は、眼科画像のうち、未だ選択されていない部分画像に関する医療情報を事前に取得して記憶する事前取得処理を実行する(S22)。
【選択図】
図5
【特許請求の範囲】
【請求項1】
被検眼の組織の画像である眼科画像を処理する眼科画像処理装置によって実行される眼科画像処理プログラムであって、
前記眼科画像処理プログラムが前記眼科画像処理装置の制御部によって実行されることで、
OCT装置によって撮影された被検眼の組織の三次元断層画像を取得する画像取得ステップと、
前記画像取得ステップにおいて取得された前記三次元断層画像のうち、2つの境界面に挟まれた一部の領域内の三次元断層画像である部分画像に基づいて、前記部分画像を前記OCT装置の測定光の光軸に沿う方向から見た場合のEnface画像を生成し、機械学習アルゴリズムによって訓練された数学モデルに前記Enface画像を基画像として入力することで、前記基画像の画質を向上させた高画質画像を取得し、記憶装置に記憶させる医療情報取得ステップと、
前記画像取得ステップにおいて取得された前記三次元断層画像における部分画像を選択する指示の入力を受け付ける指示受付ステップと、
部分画像を選択する指示が受け付けられた場合に、前記指示によって選択された部分画像に関して取得された高画質画像を表示部に表示させる医療情報表示ステップと、
が前記眼科画像処理装置によって実行され、
前記医療情報取得ステップでは、前記三次元断層画像のうち、部分画像を選択する指示による選択が未だ行われていない部分画像に関する高画質画像を、当該部分画像を選択する指示の入力が前記指示受付ステップにおいて実際に受け付けられるよりも前に事前に取得して記憶する事前取得処理が実行され、
前記事前取得処理は、部分画像を選択する指示の入力を受け付ける前記指示受付ステップ、および、部分画像を選択する指示によって選択された部分画像に関して取得された高画質画像を表示部に表示させる前記医療情報表示ステップと並行して実行されることを特徴とする眼科画像処理プログラム。
【請求項2】
請求項1に記載の眼科画像処理プログラムであって、
前記指示受付ステップでは、前記制御部は、部分画像の範囲を規定する前記2つの境界面の少なくとも一方の位置を設定する指示を、部分画像を選択する指示として入力することを特徴とする眼科画像処理プログラム。
【請求項3】
請求項2に記載の眼科画像処理プログラムであって、
前記指示受付ステップでは、前記制御部は、前記画像取得ステップにおいて取得された前記三次元断層画像を構成する二次元断層画像に、部分画像の範囲を規定する前記2つの境界面の位置を表示させた状態で、表示されている前記2つの境界面の少なくとも一方の位置を移動させる指示を、部分画像を選択する指示として入力することを特徴とする眼科画像処理プログラム。
【請求項4】
請求項2または3に記載の眼科画像処理プログラムであって、
前記事前取得処理において、前記制御部は、前記画像取得ステップにおいて取得された前記三次元断層画像のうち、2つの境界面の少なくとも一方の位置が互いに異なる複数の部分画像に対して設定された優先順位が高い順に、各々の部分画像に関する高画質画像の取得処理を順次実行することを特徴とする眼科画像処理プログラム。
【請求項5】
請求項4に記載の眼科画像処理プログラムであって、
前記事前取得処理において、前記制御部は、前記指示によって選択される前記部分画像が変更された場合に、変更される前の前記部分画像の境界面に対する、変更された後の前記部分画像の境界面方向に沿って、複数の前記部分画像に対する前記優先順位を順に設定することを特徴とする眼科画像処理プログラム。
【請求項6】
請求項1から5のいずれかに記載の眼科画像処理プログラムであって、
前記Enfece画像は、同一位置に関して異なる時間に取得された少なくとも2つのOCT信号が処理されることで取得されるモーションコントラスト画像であることを特徴とする眼科画像処理装置。
【請求項7】
被検眼の組織の画像である眼科画像を処理する眼科画像処理装置であって、
前記眼科画像処理装置の制御部は、
OCT装置によって撮影された被検眼の組織の三次元断層画像を取得する画像取得ステップと、
前記画像取得ステップにおいて取得された前記三次元断層画像のうち、2つの境界面に挟まれた一部の領域内の三次元断層画像である部分画像に基づいて、前記部分画像を前記OCT装置の測定光の光軸に沿う方向から見た場合のEnface画像を生成し、機械学習アルゴリズムによって訓練された数学モデルに前記Enface画像を基画像として入力することで、前記基画像の画質を向上させた高画質画像を取得し、記憶装置に記憶させる医療情報取得ステップと、
取得された前記三次元断層画像における部分画像を選択する指示の入力を受け付ける指示受付ステップと、
部分画像を選択する指示が受け付けられた場合に、前記指示によって選択された部分画像に関して取得された高画質画像を表示部に表示させる医療情報表示ステップと、
を実行し、
前記医療情報取得ステップでは、前記制御部は、前記三次元断層画像のうち、部分画像を選択する指示による選択が未だ行われていない部分画像に関する高画質画像を、当該部分画像を選択する指示の入力が前記指示受付ステップにおいて実際に受け付けられるよりも前に事前に取得して記憶する事前取得処理を実行し、
前記事前取得処理は、部分画像を選択する指示の入力を受け付ける前記指示受付ステップ、および、部分画像を選択する指示によって選択された部分画像に関して取得された高画質画像を表示部に表示させる前記医療情報表示ステップと並行して実行されることを特徴とする眼科画像処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、被検眼の眼科画像の処理に使用される眼科画像処理プログラムおよび眼科画像処理装置に関する。
【背景技術】
【0002】
機械学習アルゴリズムによって訓練された数学モデルを用いて、種々の医療情報を取得する技術が提案されている。例えば、特許文献1に記載の眼科装置では、機械学習アルゴリズムによって訓練された数学モデルに眼形状パラメータが入力されることで、被検眼のIOL関連情報(例えば、予想術後前房深度)が取得される。取得されたIOL関連情報に基づいて、IOL度数が算出される。
【0003】
また、機械学習アルゴリズムによって訓練された数学モデルを用いて、低画質の画像から高画質の画像を取得することも考えられる。この場合、低画質の画像が数学モデルに入力されることで、高画質の画像が出力される。
【先行技術文献】
【非特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
ユーザは、撮影された画像全体のうち、注目する一部の画像(以下、「部分画像」という)を選択し、選択した部分画像に関する医療情報(例えば高画質画像等)を確認したい場合がある。この場合、画像処理装置は、部分画像がユーザによって選択される毎に、選択された部分画像に関する医療情報を数学モデルによって取得し、取得した医療情報をユーザに提示することが考えられる。しかし、数学モデルを利用して医療情報を取得する処理には時間を要するので、部分画像が選択される毎に医療情報を取得して提示する方法では、ユーザの作業時間を短縮することが困難である。よって、ユーザが所望する医療情報を、ユーザに適切に提示できることが望ましい。
【0006】
本開示の典型的な目的は、ユーザが所望する医療情報を、ユーザに適切に提示できることが可能な眼科画像処理プログラム、および眼科画像処理装置を提供することである。
【課題を解決するための手段】
【0007】
本開示における典型的な実施形態が提供する眼科画像処理プログラムは、被検眼の組織の画像である眼科画像を処理する眼科画像処理装置によって実行される眼科画像処理プログラムであって、前記眼科画像処理プログラムが前記眼科画像処理装置の制御部によって実行されることで、OCT装置によって撮影された被検眼の組織の三次元断層画像を取得する画像取得ステップと、前記画像取得ステップにおいて取得された前記三次元断層画像のうち、2つの境界面に挟まれた一部の領域内の三次元断層画像である部分画像に基づいて、前記部分画像を前記OCT装置の測定光の光軸に沿う方向から見た場合のEnface画像を生成し、機械学習アルゴリズムによって訓練された数学モデルに前記Enface画像を基画像として入力することで、前記基画像の画質を向上させた高画質画像を取得し、記憶装置に記憶させる医療情報取得ステップと、前記画像取得ステップにおいて取得された前記三次元断層画像における部分画像を選択する指示の入力を受け付ける指示受付ステップと、部分画像を選択する指示が受け付けられた場合に、前記指示によって選択された部分画像に関して取得された高画質画像を表示部に表示させる医療情報表示ステップと、が前記眼科画像処理装置によって実行され、前記医療情報取得ステップでは、前記三次元断層画像のうち、部分画像を選択する指示による選択が未だ行われていない部分画像に関する高画質画像を、当該部分画像を選択する指示の入力が前記指示受付ステップにおいて実際に受け付けられるよりも前に事前に取得して記憶する事前取得処理が実行され、前記事前取得処理は、部分画像を選択する指示の入力を受け付ける前記指示受付ステップ、および、部分画像を選択する指示によって選択された部分画像に関して取得された高画質画像を表示部に表示させる前記医療情報表示ステップと並行して実行される。
【0008】
本開示における典型的な実施形態が提供する眼科画像処理装置は、被検眼の組織の画像である眼科画像を処理する眼科画像処理装置であって、前記眼科画像処理装置の制御部は、OCT装置によって撮影された被検眼の組織の三次元断層画像を取得する画像取得ステップと、前記画像取得ステップにおいて取得された前記三次元断層画像のうち、2つの境界面に挟まれた一部の領域内の三次元断層画像である部分画像に基づいて、前記部分画像を前記OCT装置の測定光の光軸に沿う方向から見た場合のEnface画像を生成し、機械学習アルゴリズムによって訓練された数学モデルに前記Enface画像を基画像として入力することで、前記基画像の画質を向上させた高画質画像を取得し、記憶装置に記憶させる医療情報取得ステップと、取得された前記三次元断層画像における部分画像を選択する指示の入力を受け付ける指示受付ステップと、部分画像を選択する指示が受け付けられた場合に、前記指示によって選択された部分画像に関して取得された高画質画像を表示部に表示させる医療情報表示ステップと、を実行し、前記医療情報取得ステップでは、前記制御部は、前記三次元断層画像のうち、部分画像を選択する指示による選択が未だ行われていない部分画像に関する高画質画像を、当該部分画像を選択する指示の入力が前記指示受付ステップにおいて実際に受け付けられるよりも前に事前に取得して記憶する事前取得処理を実行し、前記事前取得処理は、部分画像を選択する指示の入力を受け付ける前記指示受付ステップ、および、部分画像を選択する指示によって選択された部分画像に関して取得された高画質画像を表示部に表示させる前記医療情報表示ステップと並行して実行される。
【0009】
本開示に係る眼科画像処理プログラムおよび眼科画像処理装置によると、ユーザが所望する医療情報が、ユーザに適切に提示される。
【図面の簡単な説明】
【0010】
【
図1】数学モデル構築装置1、眼科画像処理装置21、および眼科画像撮影装置11A,11Bの概略構成を示すブロック図である。
【
図2】高画質の二次元断層画像を数学モデルに出力させる場合の、入力用訓練データと出力用訓練データの一例を示す図である。
【
図3】三次元断層画像50と、三次元断層画像50に含まれる部分画像に基づいて生成されるEnface画像55の一例を示す図である。
【
図4】数学モデル構築装置1が実行する数学モデル構築処理のフローチャートである。
【
図5】眼科画像処理装置21が実行する眼科画像処理のフローチャートである。
【
図6】眼科画像処理の実行中に表示装置28に表示される表示画面60の一例である。
【
図7】ユーザによって選択された部分画像66、および、部分画像66から取得された高画質画像67の一例を示す図である。
【
図8】ユーザが事前取得パターンを設定する際に表示装置に表示される設定画面の一例を示す図である。
【
図9】基準画像BLを基準として複数の部分画像66に対する優先順位を設定する方法の一例を説明するための説明図である。
【
図10】ユーザが選択する部分画像66が切り替えられた方向に沿って、複数の部分画像66に対する優先順位を設定する方法の一例を説明するための説明図である。
【
図11】眼科画像処理装置21が実行する事前取得処理のフローチャートである。
【
図12】第1変容例における眼科画像処理の実行中に表示装置28に表示される表示画面80の一例である。
【発明を実施するための形態】
【0011】
<概要>
本開示で例示する眼科画像処理装置の制御部は、画像取得ステップ、医療情報取得ステップ、指示受付ステップ、および医療情報表示ステップを実行する。画像取得ステップでは、制御部は、OCT装置によって撮影された被検眼の組織の眼科画像を取得する。医療情報取得ステップでは、制御部は、取得された眼科画像のうちの一部の部分画像、または、部分画像に基づいて生成される画像を基画像とし、機械学習アルゴリズムによって訓練された数学モデルに基画像を入力することで、基画像の画質を向上させた高画質画像を医療情報として取得し、記憶装置に記憶させる。指示受付ステップでは、制御部は、取得された眼科画像における部分画像を選択する指示の入力を受け付ける。医療情報表示ステップでは、制御部は、部分画像を選択する指示が受け付けられた場合に、指示によって選択された部分画像に関して取得された医療情報を、表示部に表示させる。医療情報取得ステップでは、制御部は、眼科画像のうち、指示による選択が未だ行われていない部分画像に関する医療情報を事前に取得して記憶する事前取得処理が実行される。
【0012】
本開示で例示する眼科画像処理装置では、事前取得処理によって、ユーザによる選択が未だ行われていない部分画像に関する医療情報(高画質画像)が予め取得されて記憶される。従って、制御部は、実際に選択された部分画像に関する医療情報が既に記憶装置に記憶されている場合には、ユーザが所望する医療情報を短時間で表示部に表示させることができる。よって、ユーザは、所望する医療情報を適切に確認することができる。
【0013】
眼科画像処理装置が処理する眼科画像には、種々の眼科画像を採用できる。例えば、画像取得ステップにおいて取得される眼科画像は、複数の二次元断層画像を含む三次元断層画像であってもよい。この場合、部分画像は、三次元断層画像に含まれる複数の二次元断層画像の1つまたは複数であってもよい。制御部は、部分画像である二次元断層画像を基画像とし、基画像の画質を向上させた画像を高画質画像として取得してもよい。
【0014】
また、眼科画像が三次元断層画像である場合、部分画像は、三次元断層画像の画像領域全体に含まれる一部の三次元断層画像(例えば、2つの境界面に挟まれた領域内の三次元断層画像等)であってもよい。制御部は、部分画像である三次元断層画像を、OCT装置の測定光の光軸に沿う方向(正面方向)から見た場合のEnface画像(OCT正面画像)を、基画像としてもよい。Enface画像は、例えば、光軸に交差するXY方向の各位置において、部分画像の画素値を深さ方向(Z方向)に積算した積算画像であってもよい。また、Enface画像は、XY方向の各位置での部分画像のスペクトルデータの積算値によって生成されてもよい。制御部は、Enface画像である基画像を数学モデルに入力することで、高画質画像を取得してもよい。また、部分画像である三次元断層画像そのものが、基画像として使用されてもよい。また、基画像は、OCTアンジオ画像であってもよい。OCTアンジオ画像は、眼底を正面(つまり、被検眼の視線方向)から見た二次元の正面画像であってもよい。OCTアンジオ画像は、例えば、同一位置に関して異なる時間に取得された少なくとも2つのOCT信号が処理されることで取得されるモーションコントラスト画像であってもよい。
【0015】
また、画像取得ステップにおいて取得される眼科画像は、同一の組織を時系列に沿って断続的に複数回撮影することで取得された、複数の静止画像を含む動画像であってもよい。この場合、部分画像は、動画像を構成する複数の静止画像の1つまたは複数であってもよい。制御部は、部分画像である静止画像を基画像としてもよい。
【0016】
また、画像取得ステップにおいて取得される眼科画像は、静止画である二次元画像であってもよい。この場合、部分画像は、二次元画像の領域内に含まれる一部の領域の画像であってもよい。制御部は、部分画像である一部の領域の画像を基画像としてもよい。
【0017】
制御部は、事前取得処理において、眼科画像における複数の部分画像に対して設定された優先順位が高い順に、各々の部分画像に関する医療情報の取得処理を順次実行してもよい。この場合、複数の部分画像の各々に関し、適切な順番で医療情報が順次取得される。
【0018】
制御部は、事前取得処理において、眼科画像における複数の部分画像の1つまたは複数を基準画像とし、複数の部分画像の各々に対して、基準画像に近い程高い優先順位を設定してもよい。この場合、基準画像に近い部分画像から優先的に医療情報が取得される。従って、基準画像が適切に設定されることで、より適切な順番で医療情報が順次取得される。よって、ユーザの作業時間がさらに短縮され易くなる。
【0019】
なお、優先順位を設定する際の基準となる、基準画像に対する部分画像の「近さ」には、種々の「近さ」を採用できる。例えば、三次元断層画像を構成する二次元断層画像を部分画像とする場合、基準画像とされた二次元断層画像に対する距離の「近さ」が基準として使用されてもよい。
【0020】
また、三次元断層画像の画像領域に含まれる一部の三次元断層画像を部分画像とする場合、基準画像とされた三次元断層画像に対する距離の「近さ」、範囲の「近さ」、重複割合の「近さ」等の少なくともいずれかが、基準として使用されてもよい。また、2つの境界面に挟まれた領域内の三次元断層画像を部分画像とする場合、基準画像の境界面に対する部分画像の境界面の距離の「近さ」が基準として使用されてもよい。
【0021】
また、動画像を構成する静止画像を部分画像とする場合、基準画像とされた静止画像に対する撮影時間の「近さ」が、基準として使用されてもよい。また、二次元画像内の一部の領域の画像を部分画像とする場合、基準画像に対する距離、範囲、および重複割合の少なくともいずれかの「近さ」が基準として使用されてもよい。
【0022】
制御部は、事前取得処理において、眼科画像に写る組織の特定位置を取得し、取得した特定位置における部分画像を基準画像としてもよい。この場合、組織の特定位置から優先的に医療情報が取得される。よって、特定位置における医療情報が適切にユーザによって把握される。
【0023】
なお、制御部が特定位置を取得する方法は適宜選択できる。例えば、制御部は、眼科画像に対して周知の画像処理を行うことで、組織の特定位置を検出してもよい。また、制御部は、眼科画像を入力して特定位置を出力する数学モデルに、取得した眼科画像を入力することで、特定位置を取得してもよい。
【0024】
また、制御部が取得する特定位置の種類も適宜選択できる。例えば、眼科画像が被検眼の眼底画像である場合、特定位置は、眼底における中心窩、視神経乳頭、病変部位、および眼底血管等の少なくともいずれかであってもよい。また、眼底画像が眼底の三次元断層画像である場合、特定位置は、眼底における特定の層の位置であってもよい。
【0025】
また、特定位置は、各種眼科検査装置が用いられることで取得されてもよい。一例として、特定位置は、眼科検査装置の一種である視野計によって判明した位置(例えば、感度が低い眼底上の位置)であってもよい。この場合、制御部は、視野計による検査結果の画像に基づいて、特定位置を取得してもよい。
【0026】
ただし、特定位置に関わらず基準画像が設定されてもよい。例えば、基準画像は、眼科画像の画像領域の中心を含む部分画像であってもよい。
【0027】
制御部は、前記部分画像を選択する指示が受け付けられた場合に、指示によって選択された部分画像を基準画像に設定してもよい。ユーザは、部分画像を選択した際に、選択した部分画像に近い部分画像に関する医療情報も併せて確認したい場合が多い。制御部は、ユーザによって選択された部分画像を基準画像に設定することで、選択された部分画像に近い部分画像についての医療情報を、事前取得処理によって取得して記憶させることができる。その結果、選択された部分画像に近い部分画像の医療情報が、短時間で表示部に表示される。よって、ユーザは、所望する医療情報をより適切に確認することができる。
【0028】
なお、制御部は、指示によって選択された部分画像に関する医療情報が未だ取得されていない場合には、選択された部分画像に関する医療情報を医療情報取得ステップにおいて最優先で取得し、医療情報表示ステップにおいて表示部に表示させてもよい。また、制御部は、指示によって選択された部分画像に関する医療情報が、事前取得処理によって事前に取得されている場合には、既に取得されている医療情報を医療情報表示ステップにおいて表示部に表示させてもよい。その結果、ユーザが所望する医療情報がスムーズに表示部に表示される。
【0029】
制御部は、ユーザの指示によって選択される部分画像が変更された場合に、変更される前の部分画像に対する、変更された後の部分画像の方向に沿って、複数の部分画像に対する優先順位を順に設定してもよい。ユーザは、同一の方向に沿って部分画像を順に切り替えていく場合が多い。制御部は、部分画像が切り替えられた方向に沿って、複数の部分画像に対する優先順位を順に設定することで、ユーザが後で選択する可能性が高い部分画像の医療情報を、予め取得して記憶させておくことができる。よって、ユーザは、所望する医療情報をより適切に確認することができる。
【0030】
制御部は、ユーザによって選択された部分画像を基準画像に設定した場合に、眼科画像における基準画像の位置を記憶装置に記憶させてもよい。制御部は、過去に基準画像の位置が記憶された眼科画像と撮影対象が同一である眼科画像を処理する場合に、眼科画像のうち、過去に記憶された位置の部分画像を基準画像に設定してもよい。同一の被検眼の組織について、異なる時間に眼科画像を撮影して診断等を行う場合に、ユーザは、眼科画像における同一の位置の医療情報を確認する場合が多い。制御部は、過去に記憶された位置の部分画像を基準画像に設定することで、ユーザが確認する可能性が高い位置の医療情報を、予め効率よく取得することができる。
【0031】
制御部は、基準画像を新たに設定した場合に、実行していた事前取得処理を中断し、新たに設定した基準画像に基づく優先順位に従って事前取得処理を再開してもよい。この場合、実行していた事前取得処理が完了した後に、新たに設定した基準画像に基づく事前取得処理を実行する場合に比べて、新たに設定した基準画像に近い部分画像の医療情報が、より短時間で取得される。よって、ユーザは、所望する医療情報をより適切に確認することができる。
【0032】
なお、制御部は、新たに設定した基準画像に基づく事前取得処理が完了した場合に、中断していた事前取得処理を再開してもよい。また、制御部は、複数の部分画像の各々に関する事前取得処理を、優先順位に従って順次実行している際に、既に医療情報が取得された部分画像に対する事前取得処理を省略してもよい。この場合、複数の部分画像の各々に関する医療情報が、より効率よく取得される。
【0033】
眼科画像における複数の部分画像のうち、医療情報が事前に取得される部分画像のパターンが予め設けられていてもよい。制御部は、事前取得処理において、パターンに対応する部分画像に関する医療情報の取得処理を、実行してもよい。この場合、パターンに対応する部分画像に関する医療情報が、事前に取得される。よって、ユーザは、パターンに対応する医療情報を適切に把握することができる。
【0034】
パターンの具体的な態様は適宜選択できる。例えば、眼底の三次元断層画像を構成する二次元断層画像を部分画像とする場合、眼底を正面から見た場合の複数の部分画像の配置が、クロス(十字)状、ラジアル(放射)状、同心円状、ラスター(平行)状、またはこれらの組み合わせ等となるように、パターンが設けられていてもよい。
【0035】
また、眼底の三次元画像のうち、2つの境界面に挟まれた領域内の三次元断層画像を部分画像とする場合、2つの境界面の少なくとも一方の位置が予め設定された部分画像のパターン(例えば、2つの境界面の間の層が、網膜表層、網膜深層、硝子体、網膜外層、ORCC、脈絡毛細管板、脈絡膜等の少なくともいずれかとなるパターン)が設けられていてもよい。特に、2つの境界面に挟まれた領域内の三次元画像を部分画像とする場合には、2つの境界面の組み合わせが多数(場合によっては無限に)存在する。従って、医療情報を表示させる前に、三次元画像に含まれる全ての部分画像について医療情報を事前に取得しておくことは、非常に困難である。これに対し、本開示の眼科画像処理装置では、予め設けられている1つまたは複数のパターンに対応する部分画像に関して、医療情報が事前取得処理によって取得される。よって、ユーザにとって有用な医療情報が、より効率よくユーザに提示される。
【0036】
また、動画像を構成する静止画像を部分画像とする場合、撮影された時間の間隔が一定時間毎となる複数の部分画像のパターンが設けられていてもよい。
【0037】
制御部は、予め設けられた複数のパターンのうち、ユーザによって選択されたパターンに対応する医療情報を、事前取得処理によって取得してもよい。
【0038】
また、制御部は、デフォルトのパターン(例えば、三次元断層画像の中心を通る二次元断層画像等)に対応する医療情報を、自動的に事前取得処理によって取得してもよい。この場合、制御部は、取得された眼科画像についての医療情報の表示を開始させる際に、デフォルトのパターンに対応する医療情報を最初に表示部に表示させてもよい。この場合、ユーザが選択する可能性が高い部分画像をデフォルトのパターンに設定することで、ユーザの利便性がさらに向上する。また、制御部は、取得された眼科画像についての医療情報を表示するための表示画面を表示部に表示させるよりも前に、パターンに対応する医療情報の事前取得処理を行ってもよい。この場合、表示画面を表示部に表示させる際に、パターンに対応する医療情報がスムーズに表示される。
【0039】
画像取得ステップ、医療情報取得ステップ、指示受付ステップ、および医療情報表示ステップを実行するデバイスは、適宜選択できる。例えば、パーソナルコンピュータ(以下、「PC」という)の制御部が、画像取得ステップ、医療情報取得ステップ、指示受付ステップ、および医療情報表示ステップの全てを実行してもよい。つまり、PCの制御部は、OCT装置から眼科画像を取得し、取得した眼科画像に基づいて医療情報を取得してもよい。また、OCT装置の制御部が、画像取得ステップ、医療情報取得ステップ、指示受付ステップ、および医療情報表示ステップの全てを実行してもよい。また、複数のデバイス(例えば、OCT装置およびPC等)の制御部が協働して、画像取得ステップ、医療情報取得ステップ、指示受付ステップ、および医療情報表示ステップを実行してもよい。
【0040】
なお、数学モデルが利用されることで基画像から取得される医療情報は、基画像の画質を向上させた高画質画像に限定されない。例えば、数学モデルは、基画像を入力することで、被検眼の組織の構造の解析結果を出力してもよい。詳細には、医療情報は、組織の層および境界の解析結果(セグメンテーションの結果)等であってもよい。また、医療情報は、被検眼の疾患に関する解析結果であってもよい。
【0041】
また、眼科画像も、OCT装置によって撮影された眼科画像に限定されない。例えば、レーザ走査型検眼装置(SLO)、眼底カメラ、シャインプルーフカメラ、または角膜内皮細胞撮影装置(CEM)等によって撮影された眼科画像にも、本開示で例示する技術の少なくとも一部を適用できる。
【0042】
<実施形態>
(装置構成)
以下、本開示における典型的な実施形態の1つについて、図面を参照して説明する。
図1に示すように、本実施形態では、数学モデル構築装置1、眼科画像処理装置21、および眼科画像撮影装置11A,11Bが用いられる。数学モデル構築装置1は、機械学習アルゴリズムによって数学モデルを訓練させることで、数学モデルを構築する。構築された数学モデルを実現するプログラムは、眼科画像処理装置21の記憶装置24に記憶される。眼科画像処理装置21は、数学モデルに画像(基画像)を入力することで、医療情報を取得する。一例として、本実施形態では、基画像の画質を向上させた(例えば、基画像のノイズの影響を抑制した)高画質画像が、医療情報として取得される。眼科画像撮影装置11A,11Bは、被検眼の組織の画像である眼科画像を撮影する。
【0043】
一例として、本実施形態の数学モデル構築装置1にはパーソナルコンピュータ(以下、「PC」という)が用いられる。詳細は後述するが、数学モデル構築装置1は、眼科画像撮影装置11Aから取得した画像(以下、「訓練用眼科画像」という)と、訓練用眼科画像に対応する医療情報とを利用して数学モデルを訓練させることで、数学モデルを構築する。しかし、数学モデル構築装置1として機能できるデバイスは、PCに限定されない。例えば、眼科画像撮影装置11Aが数学モデル構築装置1として機能してもよい。また、複数のデバイスの制御部(例えば、PCのCPUと、眼科画像撮影装置11AのCPU13A)が、協働して数学モデルを構築してもよい。
【0044】
また、本実施形態の眼科画像処理装置21にはPCが用いられる。しかし、眼科画像処理装置21として機能できるデバイスも、PCに限定されない。例えば、眼科画像撮影装置11Bまたはサーバ等が、眼科画像処理装置21として機能してもよい。眼科画像撮影装置(本実施形態ではOCT装置)11Bが眼科画像処理装置21として機能する場合、眼科画像撮影装置11Bは、眼科画像を撮影しつつ、撮影した眼科画像に含まれる部分画像に関して、適切に医療情報を取得することができる。また、タブレット端末またはスマートフォン等の携帯端末が、眼科画像処理装置21として機能してもよい。複数のデバイスの制御部(例えば、PCのCPUと、眼科画像撮影装置11BのCPU13B)が、協働して各種処理を行ってもよい。
【0045】
また、本実施形態では、各種処理を行うコントローラの一例としてCPUが用いられる場合について例示する。しかし、各種デバイスの少なくとも一部に、CPU以外のコントローラが用いられてもよいことは言うまでもない。例えば、コントローラとしてGPUを採用することで、処理の高速化を図ってもよい。
【0046】
数学モデル構築装置1について説明する。数学モデル構築装置1は、例えば、眼科画像処理装置21または眼科画像処理プログラムをユーザに提供するメーカー等に配置される。数学モデル構築装置1は、各種制御処理を行う制御ユニット2と、通信I/F5を備える。制御ユニット2は、制御を司るコントローラであるCPU3と、プログラムおよびデータ等を記憶することが可能な記憶装置4を備える。記憶装置4には、後述する数学モデル構築処理(
図4参照)を実行するための数学モデル構築プログラムが記憶されている。また、通信I/F5は、数学モデル構築装置1を他のデバイス(例えば、眼科画像撮影装置11Aおよび眼科画像処理装置21等)と接続する。
【0047】
数学モデル構築装置1は、操作部7および表示装置8に接続されている。操作部7は、ユーザが各種指示を数学モデル構築装置1に入力するために、ユーザによって操作される。操作部7には、例えば、キーボード、マウス、タッチパネル等の少なくともいずれかを使用できる。なお、操作部7と共に、または操作部7に代えて、各種指示を入力するためのマイク等が使用されてもよい。表示装置8は、各種画像を表示する。表示装置8には、画像を表示可能な種々のデバイス(例えば、モニタ、ディスプレイ、プロジェクタ等の少なくともいずれか)を使用できる。なお、本開示における「画像」には、静止画像も動画像も共に含まれる。
【0048】
数学モデル構築装置1は、眼科画像撮影装置11Aから眼科画像のデータ(以下、単に「眼科画像」という場合もある)を取得することができる。数学モデル構築装置1は、例えば、有線通信、無線通信、着脱可能な記憶媒体(例えばUSBメモリ)等の少なくともいずれかによって、眼科画像撮影装置11Aから眼科画像のデータを取得してもよい。
【0049】
眼科画像処理装置21について説明する。眼科画像処理装置21は、例えば、被検者の診断または検査等を行う施設(例えば、病院または健康診断施設等)に配置される。眼科画像処理装置21は、各種制御処理を行う制御ユニット22と、通信I/F25を備える。制御ユニット22は、制御を司るコントローラであるCPU23と、プログラムおよびデータ等を記憶することが可能な記憶装置24を備える。記憶装置24には、後述する眼科画像処理(
図5参照)を実行するための眼科画像処理プログラムが記憶されている。眼科画像処理プログラムには、数学モデル構築装置1によって構築された数学モデルを実現させるプログラムが含まれる。通信I/F25は、眼科画像処理装置21を他のデバイス(例えば、眼科画像撮影装置11Bおよび数学モデル構築装置1等)と接続する。
【0050】
眼科画像処理装置21は、操作部27および表示装置28に接続されている。操作部27および表示装置28には、前述した操作部7および表示装置8と同様に、種々のデバイスを使用することができる。
【0051】
眼科画像処理装置21は、眼科画像撮影装置11Bから眼科画像を取得することができる。眼科画像処理装置21は、例えば、有線通信、無線通信、着脱可能な記憶媒体(例えばUSBメモリ)等の少なくともいずれかによって、眼科画像撮影装置11Bから眼科画像を取得してもよい。また、眼科画像処理装置21は、数学モデル構築装置1によって構築された数学モデルを実現させるプログラム等を、通信等を介して取得してもよい。
【0052】
眼科画像撮影装置11A,11Bについて説明する。一例として、本実施形態では、数学モデル構築装置1に眼科画像を提供する眼科画像撮影装置11Aと、眼科画像処理装置21に眼科画像を提供する眼科画像撮影装置11Bが使用される場合について説明する。しかし、使用される眼科画像撮影装置の数は2つに限定されない。例えば、数学モデル構築装置1および眼科画像処理装置21は、複数の眼科画像撮影装置から眼科画像を取得してもよい。また、数学モデル構築装置1および眼科画像処理装置21は、共通する1つの眼科画像撮影装置から眼科画像を取得してもよい。
【0053】
また、本実施形態では、眼科画像撮影装置11(11A,11B)として、OCT装置を例示する。ただし、OCT装置以外の眼科画像撮影装置(例えば、レーザ走査型検眼装置(SLO)、眼底カメラ、シャインプルーフカメラ、または角膜内皮細胞撮影装置(CEM)等)が用いられてもよい。
【0054】
眼科画像撮影装置11(11A,11B)は、各種制御処理を行う制御ユニット12(12A,12B)と、眼科画像撮影部16(16A,16B)を備える。制御ユニット12は、制御を司るコントローラであるCPU13(13A,13B)と、プログラムおよびデータ等を記憶することが可能な記憶装置14(14A,14B)を備える。後述する眼科画像処理(
図5参照)の少なくとも一部を眼科画像撮影装置11が実行する場合には、眼科画像処理を実行するための眼科画像処理プログラムの少なくとも一部が記憶装置14に記憶されることは言うまでもない。
【0055】
眼科画像撮影部16は、被検眼の眼科画像を撮影するために必要な各種構成を備える。本実施形態の眼科画像撮影部16には、OCT光源、OCT光源から出射されたOCT光を測定光と参照光に分岐する分岐光学素子、測定光を走査するための走査部、測定光を被検眼に照射するための光学系、被検眼の組織によって反射された光と参照光の合成光を受光する受光素子等が含まれる。
【0056】
眼科画像撮影装置11は、被検眼の眼底の二次元断層画像および三次元断層画像を撮影することができる。詳細には、CPU13は、スキャンライン上にOCT光(測定光)を走査させることで、スキャンラインに交差する断面の二次元断層画像(
図2等参照)を撮影する。また、CPU13は、OCT光を二次元的に走査することによって、組織における三次元断層画像(
図3等参照)を撮影することができる。例えば、CPU13は、組織を正面から見た際の二次元の領域内において、位置が互いに異なる複数のスキャンライン上の各々に測定光を走査させることで、複数の二次元断層画像を取得する。次いで、CPU13は、撮影された複数の二次元断層画像を組み合わせることで、三次元断層画像を取得する。
【0057】
さらに、CPU13は、組織上の同一部位(本実施形態では、同一のスキャンライン上)に測定光を複数回走査させることで、同一部位の眼科画像を複数撮影することも可能である。CPU13は、同一部位の複数の眼科画像に対して加算平均処理を行うことで、スペックルノイズの影響が抑制された加算平均画像を取得することができる。同一部位の複数の二次元断層画像に対して加算平均処理を行うことで、二次元断層画像の画質を向上させることができる。また、三次元断層画像を構成する複数の二次元断層画像の各々を加算平均画像とすることで、三次元断層画像の画質を向上させることも可能である。加算平均処理は、例えば、複数の眼科画像のうち、同一の位置の画素の画素値を平均化することで行われてもよい。加算平均処理を行う画像の数が多い程、スペックルノイズの影響は抑制され易いが、撮影時間は長くなる。なお、眼科画像撮影装置11は、同一部位の眼科画像を複数撮影する間に、被検眼の動きにOCT光の走査位置を追従させるトラッキング処理を実行する。
【0058】
(数学モデル構築処理)
図2から
図4を参照して、数学モデル構築装置1が実行する数学モデル構築処理について説明する。数学モデル構築処理は、記憶装置4に記憶された数学モデル構築プログラムに従って、CPU3によって実行される。
【0059】
数学モデル構築処理では、訓練用データセットによって数学モデルが訓練されることで、眼科画像に基づいて医療情報を出力する数学モデルが構築される。訓練用データセットには、入力側のデータ(入力用訓練データ)と出力側のデータ(出力用訓練データ)が含まれる。数学モデルには、種々の医療情報を出力させることが可能である。数学モデルに出力させる医療情報の種類に応じて、数学モデルの訓練に用いられる訓練用データセットの種類が定まる。以下、数学モデルに出力させる医療情報の種類と、数学モデルの訓練に用いられる訓練用データセットの関係の一例について説明する。
【0060】
まず、二次元断層画像を基画像として数学モデルに入力することで、基画像の画質を向上させた二次元断層画像(高画質画像)を、医療情報として数学モデルに出力させる場合について説明する。この場合、本実施形態では、被検眼の組織の二次元断層画像を入力用訓練データとし、且つ、入力用訓練データよりも高画質である同一部位の二次元断層画像を出力用訓練データとして、数学モデルが訓練される。なお、高画質画像は、例えば、入力される基画像のノイズを減少させた画像、元画像の解像度を高めた画像、元画像の視認性を向上させた画像等の少なくともいずれかを示す。
【0061】
図2に、高画質の二次元断層画像を数学モデルに出力させる場合の、入力用訓練データと出力用訓練データの一例を示す。
図2に示す例では、CPU3は、組織の同一部位を撮影した複数の二次元断層画像400A~400Xのセット40を取得する。CPU3は、セット40内の複数の二次元断層画像400A~400Xの一部(後述する出力用訓練データの加算平均に使用された枚数よりも少ない枚数)を、入力用訓練データとする。また、CPU3は、セット40内の複数の二次元断層画像400A~400Xの加算平均画像41を、出力用訓練データとして取得する。
図2に例示する入力用訓練データおよび出力用訓練データによって数学モデルが訓練された場合、訓練された数学モデルに二次元断層画像が基画像として入力されることで、スペックルノイズの影響が抑制された高画質画像が出力される。
【0062】
次に、Enface画像を基画像として数学モデルに入力することで、基画像の画質を向上させたEnface画像(高画質画像)を数学モデルに出力させる場合について説明する。この場合、本実施形態では、被検眼の組織のEnface画像を入力用訓練データとし、且つ、入力用訓練データよりも高画質である同一部位のEnface画像を出力用訓練データとして、数学モデルが訓練される。
【0063】
図3を参照して、Enface画像55の一例について説明する。Enface画像55は、三次元断層画像50の画像領域全体に含まれる一部の三次元断層画像(部分画像)を、眼科画像撮影装置(OCT装置)11の測定光の光軸に沿う方向(正面方向)から見た場合の二次元画像である。Enface画像55は、例えば、光軸に交差するXY方向の各位置において、部分画像の画素値を深さ方向(Z方向)に積算した積算画像であってもよい。また、Enface画像55は、XY方向の各位置での部分画像のスペクトルデータの積算値によって生成されてもよい。本実施形態では、三次元断層画像50の画像領域のうち、2つの境界面(スラブ)52A,52Bに挟まれた三次元断層画像が部分画像とされ、部分画像のEnface画像55が生成される。
図3に示す例では、三次元断層画像50を構成する1つの二次元断層画像51(例えば、三次元断層画像50の中心を通る二次元断層画像)上に、2つの境界面52A,52Bの位置が例示されている。境界面52A,52Bの位置が変更されると、部分画像、および、部分画像から生成されるEnface画像55も変更される。
【0064】
高画質のEnface画像55を数学モデルに出力させる場合の、入力用訓練データと出力用訓練データの一例について説明する。CPU3は、眼底画像撮影装置11Aによって同一の組織(本実施形態では同一の被検眼の眼底)について撮影された、複数の三次元断層画像を取得する。複数の三次元断層画像には、低画質の三次元断層画像と高画質の三次元断層画像が含まれる。高画質の三次元断層画像は、前述したように、画像を構成する複数の二次元断層画像の各々を加算平均画像とすることで取得されてもよい。次いで、CPU3は、低画質の三次元断層画像から、一部の三次元断層画像を部分画像として抽出し、抽出した部分画像から生成されるEnface画像を入力用訓練データとする。CPU3は、高画質の三次元断層画像から、入力用訓練データと同じ範囲の三次元断層画像を部分画像として抽出し、抽出した部分画像から生成されるEnface画像を出力用訓練データとする。入力用訓練データおよび出力用訓練データによって数学モデルが訓練された場合、訓練された数学モデルにEnface画像が基画像として入力されることで、基画像の画質が向上された高画質画像が出力される。
【0065】
なお、高画質の二次元断層画像または三次元断層画像を生成する方法を変更することも可能である。例えば、加算平均処理以外の処理によって画質を向上させてもよい。また、入力用訓練データは、組織の断層画像に限定されない。
【0066】
また、数学モデルは、高画質画像以外の医療情報を出力するように訓練されてもよい。例えば、数学モデルに眼科画像を入力することで、被検眼の組織の構造の解析結果を、医療情報として数学モデルに出力させることも可能である。この場合、被検眼の組織の眼科画像を入力用訓練データとし、且つ、入力用訓練データ(眼科画像)に写っている組織の構造を示す医療データを出力用訓練データとして、数学モデルが訓練される。一例として、眼底組織の二次元断層画像を入力用訓練データとし、入力用訓練データに写っている組織の構造の位置(例えば、組織の層および境界の少なくともいずれかの位置)を示すデータを出力用訓練データとして、数学モデルが訓練されてもよい。この場合、訓練された数学モデルに二次元断層画像が入力されると、組織の構造(例えば、層および境界の少なくともいずれかの位置)の解析結果が出力される。また、被検眼の眼底血管、中心窩、および視神経乳頭等少なくともいずれかの解析結果等を数学モデルに出力させることも可能である。入力用訓練データは二次元断層画像である必要は無く、二次元正面画像等であってもよい。
【0067】
また、数学モデルに眼科画像を入力することで、被検眼に何らかの疾患があるか否かを示す自動解析結果を、医療情報として数学モデルに出力させることも可能である。この場合、被検眼の組織の眼科画像(例えば、二次元断層画像、三次元断層画像、Enface画像等の少なくともいずれか)を入力用訓練データとし、且つ、入力用訓練データに写っている撮影対象における疾患の有無、および疾患の種類の少なくともいずれかを示すデータを出力用訓練データとして、数学モデルが訓練されてもよい。
【0068】
図4を参照して、数学モデル構築処理について説明する。CPU3は、眼科画像撮影装置11Aによって撮影された眼科画像の少なくとも一部を、入力用訓練データとして取得する(S1)。本実施形態では、眼科画像のデータは、眼科画像撮影装置11Aによって生成された後、数学モデル構築装置1によって取得される。しかし、CPU3は、眼科画像を生成する基となる信号(例えばOCT信号)を眼科画像撮影装置11Aから取得し、取得した信号に基づいて眼科画像を生成することで、眼科画像のデータを取得してもよい。
【0069】
次いで、CPU3は、S1で取得した入力用訓練データに対応する出力用訓練データを取得する(S3)。入力用訓練データと出力用訓練データの対応関係の一例については、前述した通りである。
【0070】
次いで、CPU3は、機械学習アルゴリズムによって、訓練データセットを用いた数学モデルの訓練を実行する(S3)。機械学習アルゴリズムとしては、例えば、ニューラルネットワーク、ランダムフォレスト、ブースティング、サポートベクターマシン(SVM)等が一般的に知られている。
【0071】
ニューラルネットワークは、生物の神経細胞ネットワークの挙動を模倣する手法である。ニューラルネットワークには、例えば、フィードフォワード(順伝播型)ニューラルネットワーク、RBFネットワーク(放射基底関数)、スパイキングニューラルネットワーク、畳み込みニューラルネットワーク、再帰型ニューラルネットワーク(リカレントニューラルネット、フィードバックニューラルネット等)、確率的ニューラルネット(ボルツマンマシン、ベイシアンネットワーク等)等がある。
【0072】
ランダムフォレストは、ランダムサンプリングされた訓練データに基づいて学習を行って、多数の決定木を生成する方法である。ランダムフォレストを用いる場合、予め識別器として学習しておいた複数の決定木の分岐を辿り、各決定木から得られる結果の平均(あるいは多数決)を取る。
【0073】
ブースティングは、複数の弱識別器を組み合わせることで強識別器を生成する手法である。単純で弱い識別器を逐次的に学習させることで、強識別器を構築する。
【0074】
SVMは、線形入力素子を利用して2クラスのパターン識別器を構成する手法である。SVMは、例えば、訓練データから、各データ点との距離が最大となるマージン最大化超平面を求めるという基準(超平面分離定理)で、線形入力素子のパラメータを学習する。
【0075】
数学モデルは、例えば、入力データと出力データの関係を予測するためのデータ構造を指す。数学モデルは、訓練データセットを用いて訓練されることで構築される。前述したように、訓練データセットは、入力用訓練データと出力用訓練データのセットである。例えば、訓練によって、各入力と出力の相関データ(例えば、重み)が更新される。
【0076】
本実施形態では、機械学習アルゴリズムとして多層型のニューラルネットワークが用いられている。ニューラルネットワークは、データを入力するための入力層と、予測したいデータを生成するための出力層と、入力層と出力層の間の1つ以上の隠れ層を含む。各層には、複数のノード(ユニットとも言われる)が配置される。詳細には、本実施形態では、多層型ニューラルネットワークの一種である畳み込みニューラルネットワーク(CNN)が用いられている。ただし、他の機械学習アルゴリズムが用いられてもよい。例えば、競合する2つのニューラルネットワークを利用する敵対的生成ネットワーク(Generative adversarial networks:GAN)が、機械学習アルゴリズムとして採用されてもよい。
【0077】
数学モデルの構築が完了するまで(S5:NO)、S1~S3の処理が繰り返される。数学モデルの構築が完了すると(S5:YES)、数学モデル構築処理は終了する。構築された数学モデルを実現させるプログラムおよびデータは、眼科画像処理装置21に組み込まれる。
【0078】
(眼科画像処理)
図5~
図11を参照して、眼科画像処理装置21が実行する眼科画像処理の一例について説明する。
図5~
図11では、眼底の三次元断層画像を構成する複数の二次元断層画像を部分画像とし、各々の部分画像の画質を向上させた高画質画像を取得して表示させる場合について例示する。
図5に例示する眼科画像処理は、記憶装置24に記憶された眼科画像処理プログラムに従って、CPU23によって実行される。
【0079】
図5に示すように、CPU23は、眼科画像撮影装置(本実施形態ではOCT装置)11Bによって撮影された、被検眼の組織の眼科画像を取得する(S11)。本実施形態のS11では、被検眼の眼底組織の三次元断層画像(例えば、
図3に示す三次元断層画像50参照)が取得される。前述したように、三次元断層画像は、複数の二次元断層画像を組み合わせる(並べる)ことで生成される。
【0080】
次いで、CPU23は、部分画像選択用画像61を、表示装置28に表示させる(S12)。
図6は、眼科画像処理の実行中に表示装置28に表示される表示画面60の一例である。表示画面60には、部分画像選択用画像61と、選択画像表示欄65が表示される。
【0081】
部分画像選択用画像61は、三次元断層画像に含まれる複数の部分画像66(本実施形態では二次元断層画像)の少なくともいずれかをユーザが選択するために表示される。
図6に示す例では、部分画像選択用画像61には、三次元断層画像をOCT測定光の光軸方向から見た場合の二次元正面画像が含まれる。二次元正面画像の画像領域内に、部分画像66を選択可能な選択範囲62が表示される。選択範囲62内には、選択される部分画像66が通過する選択ライン63が表示される。ユーザは、操作部27(例えばマウス等)を操作し、選択ライン63の位置を所望の位置に設定する(例えば移動させる)ことで、部分画像66を選択する指示を眼科画像処理装置21に入力することができる。CPU23は、選択ライン63が通過する位置の部分画像66を、ユーザによって選択された部分画像66とする。
【0082】
選択画像表示欄65には、ユーザによって選択された部分画像66、および、選択された部分画像66に関する高画質画像67(
図7参照)の少なくともいずれかが表示される。
図6に示す例では、部分画像66に関する高画質画像67を取得するための推論処理中であるため、部分画像66そのものが表示されている。高画質画像67の取得が完了すると、部分画像66の代わりに高画質画像67が表示される。また、選択された部分画像66に関する高画質画像67が、後述する事前取得処理(
図11参照)で既に取得されている場合には、選択画像表示欄65には、部分画像66が選択された時点で、選択された部分画像66に関する高画質画像67が表示される。よって、ユーザの作業時間が適切に短縮される。
【0083】
また、表示画面60(本実施形態では、表示画面60内の選択画像表示欄65)には、部分画像切替ボタン68F,68Bが含まれる。部分画像切替ボタン68Fは、選択する部分画像66を、その時点で選択されている部分画像66から、順方向(例えば、
図6に示す例では、選択範囲62における画面下方向)に隣接している部分画像66に変更する(切り替える)ために操作される。また、部分画像切替ボタン68Bは、選択する部分画像66を、その時点で選択されている部分画像66から、逆方向(例えば、
図6に示す例では、選択範囲62における画面上方向)に隣接している部分画像66に変更するために操作される。ユーザは、部分画像切替ボタン68Fまたは部分画像切替ボタン68Bを連続して操作することで、部分画像66を所定の方向に順に切り替えることができる。
【0084】
さらに、表示画面60には、画像種別表示部69が表示される。画像種別表示部69には、その時点で選択画像表示欄65に表示されている画像が、ユーザによって選択された部分画像66、および、部分画像66に関する高画質画像67のいずれであるかが表示される。従って、ユーザは、選択画像表示欄65に表示されている画像が高画質画像67であるか否かを容易に把握することができる。
【0085】
なお、本実施形態では、部分画像選択用画像61内の選択範囲62に、眼底組織における特定の層(
図6に示す例では、ILMとRPE/BMの間の層)の厚みの分布を二次元的に示す厚みマップが重畳表示される。従って、ユーザは、眼底における特定の層の厚みの分布を考慮したうえで、部分画像66を選択することができる。
【0086】
また、CPU23は、S12で表示画面60の表示を開始させる際に、デフォルトのパターンの部分画像66(例えば、二次元正面画像の画像領域の中心を通る部分画像66等)に関する高画質画像67を、最初に選択画像表示欄65に自動的に表示させる。ここで、CPU23は、表示画面60を表示させるよりも前に、デフォルトのパターンの部分画像66を数学モデルに入力することで、デフォルトのパターンの部分画像66に関する高画質画像67を予め取得しておく。デフォルトのパターンに対応する高画質画像67を予め取得する処理も、事前取得処理の一例である。CPU23は、表示画面60を表示させる際に、デフォルトのパターンに対応する高画質画像67を、最初から選択画像表示欄65に表示させる。従って、デフォルトのパターンに対応する高画質画像67が、スムーズに表示される。
【0087】
図5の説明に戻る。CPU23は、事前取得パターンがユーザによって設定されているか否かを判断する(S13)。
図8は、ユーザが事前取得パターンを設定する際に表示装置28に表示される設定画面の一例を示す。事前取得パターンとは、眼科画像(本実施形態では三次元断層画像)における複数の部分画像66のうち、医療情報(本実施形態では高画質画像67)が事前に取得される部分画像66のパターンである。
【0088】
図8に示すように、CPU23は、事前取得パターンを設定する指示がユーザによって入力されると、パターン選択欄70、位置指定欄71、角度指定欄72、および大きさ指定欄73を表示装置28に表示させる。パターン選択欄70には、部分画像66が通過するラインの配置、数、および形状の少なくともいずれかが互いに異なる複数種類の事前取得パターンが表示される。ユーザは、複数種類の事前取得パターンのうちの1つまたは複数を任意に選択することができる。
【0089】
位置指定欄71では、選択された事前取得パターンを設定する部分画像選択用画像61(
図6参照)上の位置が指定される。例えば、「黄斑中心」が指定されると、選択された事前取得パターンの中心が黄斑(例えば、黄斑の中心である中心窩)に一致するように、事前取得パターンの位置が設定される。眼科画像における黄斑、乳頭、および異常部位等の位置は、眼科画像に対する画像処理が行われることで検出されてもよい。また、機械学習アルゴリズムによって訓練された数学モデルが利用されることで、黄斑等の位置が取得されてもよい。「手動設定」が指定されると、ユーザからの指示によって指定された位置に、選択された事前取得パターンが設定される。角度指定欄72では、選択された事前取得パターンの、眼科画像上における角度が指定される。大きさ指定欄90では、選択された事前取得パターンの、眼科画像上における大きさが設定される。
【0090】
図5の説明に戻る。事前取得パターンが設定されている場合には(S13:YES)、CPU23は、設定されている事前取得パターンに対応する部分画像66を数学モデルに入力することで、入力した部分画像66の画質を向上させた高画質画像67を、医療情報として取得する。事前取得パターンに対応する高画質画像67を取得する処理は、事前取得処理の一例である。CPU23は、取得した高画質画像67を、記憶装置24に記憶させると共に、表示装置28に表示させる(S14)。よって、ユーザは、所望のパターンに対応する高画質画像67を適切に確認することができる。
【0091】
なお、事前取得パターンに対応する高画質画像67は、表示画面60の表示を開始させる処理(S12)よりも前に、事前に実行されていてもよい。この場合、S12では、事前取得パターンに対応する高画質画像67を、最初から選択画像表示欄65に表示させてもよい。その結果、事前取得パターンに対応する高画質画像67が、よりスムーズに表示装置28に表示される。
【0092】
次いで、CPU23は、フォローアップ位置情報が記憶装置24に記憶されているか否かを判断する(S16)。フォローアップ位置情報とは、撮影対象が同一である眼科画像に対して過去に眼科画像処理が行われた際に、ユーザが選択した部分画像66の位置(つまり、後述する基準画像の位置)を示す情報である。フォローアップ位置情報が記憶されている場合には(S16:YES)、CPU23は、フォローアップ位置の部分画像66を、基準画像に設定する。基準画像については後述する。なお、フォローアップ位置が複数記憶されている場合には、いずれかのフォローアップ位置(例えば、過去の処理においてユーザが最初に選択した部分画像66の位置等)が採用されればよい。また、フォローアップ位置情報が記憶されている場合には、フォローアップ位置の部分画像66が、最初に表示画面60に高画質画像67を表示させるデフォルトの部分画像66に設定されてもよい。
【0093】
フォローアップ位置情報が記憶されていない場合には(S16:NO)、CPU23は、眼科画像に写る組織の特定位置を取得する(S18)。特定位置は、例えば、眼底における黄斑、視神経乳頭、病変部位、よび眼底血管等の少なくともいずれかであってもよい。CPU23は、例えば、眼科画像に対して画像処理を行うことで、特定位置を検出してもよい。また、CPU23は、機械学習アルゴリズムによって訓練された数学モデルを利用して、特定位置を取得してもよい。CPU23は、特定位置における部分画像66を、後述する基準画像に設定する(S19)。だたし、特定位置は、予め定められていいてもよい。例えば、前述したデフォルトのパターンの部分画像66の位置が、特定位置とされてもよい。
【0094】
次いで、CPU23は、眼科画像に含まれる複数の部分画像66の各々に対し、後述する事前取得処理(
図9参照)を実行する際の優先順位を、基準画像に基づいて設定する(S21)。優先順位は、複数の部分画像66の各々に対して事前取得処理を実行する順位を示す。つまり、各々の部分画像66に関して医療情報(本実施形態では高画質画像66)を取得する処理は、優先順位に従って順に実行される。基準画像とは、複数の部分画像66に対して優先順位を設定する基準となる部分画像66である。
【0095】
本実施形態のS21では、CPU23は、基準画像に近い程優先順位が高くなるように、複数の部分画像66の優先順位を設定する。詳細には、本実施形態のS21では、CPU23は、基準画像に対する距離が近い程優先順位が高くなるように、複数の部分画像66の優先順位を設定する。
【0096】
図9は、基準画像BLを基準として複数の部分画像66に対する優先順位を設定する方法の一例を説明するための説明図である。
図9では、複数の部分画像66の各々が通過するラインを、OCT測定光の光軸に沿う方向から見た状態を示す。
図9に示すように、本実施形態のS21では、CPU23は、基準画像BLの順方向(図の下方向)および逆方向(図の上方向)の各々に隣接する2つの部分画像66の優先順位を、最も高いP1とする。また、CPU23は、順方向および逆方向の両方において、基準画像BLからの距離が遠くなるほど、優先順位がP2、P3の順に下がるように、優先順位を設定する。その結果、基準画像BLに近い部分画像66に関する医療情報が、優先して取得される。
【0097】
図5の説明に戻る。CPU23は、事前取得処理を開始する(S22)。事前取得処理では、ユーザによって未だ選択されていない部分画像66に関する医療情報が、事前に取得されて記憶される。事前取得処理の詳細については、
図11を参照して後述する。
【0098】
次いで、CPU23は、部分画像66を選択する指示がユーザによって入力されたか否かを判断する(S24)。指示が入力されていなければ(S24:NO)、処理はそのままS29へ移行する。CPU23は、部分画像66を選択する指示の入力を受け付けると(S24:YES)、選択された部分画像66を、新たな基準画像として設定する(S25)。CPU23は、新たに設定した基準画像の位置の情報を、同一の被検眼の眼科画像に対して眼科画像処理を将来実行する際に使用されるフォローアップ位置情報として、記憶装置24に記憶させる(S26)。CPU23は、新たに設定した基準画像に近い順に、複数の部分画像66に対する優先順位を再設定する(S27)。
【0099】
S27では、CPU23は、ユーザによって選択される部分画像66が変更された場合に、変更される前の部分画像66に対する、変更された後の部分画像66の方向に沿って、複数の部分画像66に対する優先順位を順に設定することができる。例えば、部分画像切替ボタン66Fまたは部分画像切替ボタン66B(
図6参照)が操作されることで、選択する部分画像66が切り替えられる場合には、ユーザは、同一の方向(順方向または逆方向)に沿って、選択する部分画像66を連続して切り替えていく場合が多い。従って、本実施形態のCPU23は、部分画像切替ボタン66Fまたは部分画像切替ボタン66Bによって部分画像66が切り替えられた場合、部分画像66が切り替えられた方向に沿って優先順位を再設定する。
【0100】
図10は、ユーザが選択する部分画像66が切り替えられた方向に沿って、複数の部分画像66に対する優先順位を設定する方法の一例を説明するための説明図である。
図10に示す例では、ユーザが選択する部分画像66が、BL1からBL2に切り替えられている。この場合、CPU23は、基準画像をBL1からBL2に変更すると共に(S25)、変更される前の部分画像66(BL1)に対する、変更された後の部分画像66(BL2)の方向(
図10に示す例では、順方向である図面下方向)に沿って、優先順位を再設定する(S27)。つまり、変更された方向について、基準画像BL2からの距離が遠くなるほど優先順位がP1,P2,P3の順に下がるように、優先順位が設定される。
【0101】
次いで、CPU23は、S24で選択された部分画像66に関する医療情報(本実施形態では高画質画像67)を、表示装置28(本実施形態では、
図6に示す選択画像表示欄65)に表示させる(S28)。詳細には、CPU23は、選択された部分画像66に関する医療情報が未だ取得されていない場合には、選択された部分画像66を数学モデルに入力することで、入力した部分画像66に関する医療情報を取得して表示させる。なお、前述したように、医療情報を取得する処理が実行されている間には、選択画像表示欄65には、選択された部分画像66が表示される。選択された部分画像66に関する医療情報が、既に取得されて記憶装置24に記憶されている場合には、CPU23は、記憶されている医療情報を表示装置24に表示させる。
【0102】
処理を終了させる指示が入力されるまで(S29:NO)、S24~S29の処理が繰り返される。終了指示が入力されると(S29:YES)、眼科画像処理は終了する。
【0103】
図11を参照して、眼科画像処理装置21が実行する事前取得処理の一例について説明する。前述したように、事前取得処理では、ユーザによって未だ選択されていない部分画像66に関する医療情報が、事前に取得されて記憶される。各々の部分画像66に関する医療情報の取得処理は、設定されている優先順位に従って順に実行される。
図11に例示する事前取得処理は、記憶装置24に記憶された眼科画像処理プログラムに従って、CPU23によって実行される。事前取得処理は、
図5に例示する眼科画像処理と並行してバックグラウンドで実行される。
【0104】
まず、CPU23は、優先順位をカウントするためのカウンタNの値を「1」とする(S31)。CPU23は、優先順位がN番目の部分画像66に関する医療情報が、既に取得されているか否かを判断する(S32)。N番目の部分画像66に関する医療情報が、既に記憶装置24に記憶されている場合には(S32:YES)、処理の重複を避けて処理時間を短縮するために、カウンタNの値に「1」を加算する(S33)。処理はS32へ戻る。つまり、N番目の部分画像66に関する医療情報が既に取得されている場合には、医療情報を取得する処理が省略される。
【0105】
N番目の部分画像66に関する医療情報が未だ取得されていなければ(S32:NO)、CPU23は、優先順位がN番目の部分画像66を基画像とし、機械学習アルゴリズムによって訓練された数学モデルに基画像と入力する。その結果、基画像の画質を向上させた高画質画像67(
図7参照)を医療情報として出力するための、数学モデルによる推論処理が開始される(S34)。
【0106】
CPU23は、眼科画像処理(
図5参照)において、新たに基準画像が設定されたか否かを判断する(S35)。基準画像が新たに設定されていなければ(S35:NO)、N番目の部分画像66に関する医療情報の取得処理(つまり、S34で開始された推論処理)が完了したか否かが判断される(S36)。医療情報の取得処理が完了していなければ(S36:NO)、処理はS35へ戻り、S35,S36の処理が繰り返される。
【0107】
N番目の部分画像66に関する医療情報の取得処理が完了すると(S36:YES)、CPU23は、取得した医療情報を記憶装置24に記憶させる(S38)。CPU23は、優先順位をカウントするためのカウンタNの値に「1」を追加する(S39)。CPU24は、眼科画像処理(
図5参照)において優先順位が設定された複数の部分画像66に対する、一連の医療情報の取得処理(つまり、現在のカウンタNを用いて実行していた、一群の部分画像66に対する医療情報の取得処理)が完了したか否かを判断する(S40)。完了していなければ(S40:NO)、処理はS32へ戻り、次の優先順位が設定された部分画像40に対する処理が行われる(S32~S38)。
【0108】
N番目の部分画像66に関する医療情報の取得処理が完了する前に(S36:NO)、眼科画像処理(
図5参照)において新たに基準画像が設定された場合には(S35:YES)、医療情報を取得するための優先順位を、新たに設定された基準画像に基づく優先順位に変更することが望ましい。従って、CPU23は、実行中の事前取得処理(推論処理)を中断し(S46)。新たに設定された基準画像に基づいてS27で再設定された優先順位を、改めてセットする(S47)。処理はS31へ戻り、改めてセットされた優先順位に従って、事前取得処理(S31~S40)が実行される。つまり、CPU23は、実行していた一群の部分画像66に対する処理を中断し、新たな一群の部分画像66に対する処理を再開する。
【0109】
現在のカウンタNを用いて実行していた、一群の部分画像66に対する医療情報の取得処理が完了すると(S40:YES)、CPU23は、S46で中断していた他の一群の部分画像66に対する処理があるか否かを判断する(S41)。中断していた処理がある場合(S41:YES)、CPU23は、中断していた処理の優先順位およびカウンタNを再セットし(S42)、処理はS32へ戻る。その結果、中断していた処理が適切に再開される。
【0110】
中断していた処理が無ければ(S41:NO)、眼科画像に含まれる全ての部分画像66に関する医療情報の取得処理が完了したか否かを判断する(S44)。完了していなければ(S44:NO)、未だ医療情報が取得されていない部分画像66に対する処理を実行するために、新たな優先順位が設定されて(S49)、処理はS31へ戻る。全ての部分画像66に関する医療情報が取得されると(S44:YES)、事前取得処理は終了する。
【0111】
(第1変容例)
図12を参照して、上記実施形態の第1変容例について説明する。
図12は、第1変容例における眼科画像処理の実行中に表示装置28に表示される表示画面80の一例である。第1変容例に係る眼科画像処理装置1は、三次元断層画像の画像領域全体に含まれる一部の三次元断層画像を部分画像とし、部分画像からEnface画像55を生成する。眼科画像処理装置1は、生成したEnface画像55の画質を向上させた高画質画像85(85A,85B,85C)を、医療情報として取得する。なお、上記実施形態で例示した眼科画像処理(
図5参照)および事前取得処理(
図11参照)の少なくとも一部は、以下の第1変容例でも同様に採用できる。従って、上記実施形態と同様の処理を採用できる処理については、その説明を省略または簡略化する。
【0112】
第1変容例に係る眼科画像処理(
図5参照)では、まず、被検眼の眼底組織の三次元断層画像(例えば、
図3に示す三次元断層画像50参照)が取得される(S11)。次いで、CPU23は、部分画像選択用画像81(
図12参照)を表示装置28に表示させる(S12)。
図12に示すように、眼科画像処理の実行中には、部分画像選択用画像81と高画質画像85A,85B,85Cが、表示画面80に表示される。第1変容例の部分画像選択用画像81には、S11で取得された三次元断層画像を構成する1つの二次元断層画像が用いられる。部分画像選択用画像81には、部分画像の範囲を規定するための2つの境界面(スラブ)82A,82Bの位置が表示される。2つの境界面82A,82Bに挟まれた領域内の三次元断層画像が、第1変容例における部分画像となる。
【0113】
内部的には、S11で取得された三次元断層画像を構成する複数の二次元断層画像の各々について、画像に写り込む組織の層および層の境界の少なくともいずれか(以下、単に「層・境界」という)の位置が取得されている。層・境界の位置は、二次元断層画像に対する画像処理によって取得されてもよいし、機械学習アルゴリズムが利用されることで取得されてもよい。また、ユーザが層・境界の位置を指定することで、位置が取得されてもよい。
【0114】
ユーザは、操作部27を操作し、表示されている2つの境界面82A,82Bの少なくとも一方の位置を、所望の位置に設定する(例えば移動させる)。その結果、部分画像の範囲を規定する境界面82A,82Bの位置が設定される。つまり、ユーザは、境界面82A,82Bの位置を設定することで、S11で取得された眼科画像における部分画像を選択することができる。一例として、CPU23は、既に取得されている組織の層・境界の位置に対する、ユーザによって設定された境界面82A,82Bの距離および方向に基づいて、三次元断層画像を構成する複数の二次元断層画像の各々について、2つの境界面を設定する。CPU23は、設定した2つの境界面の間に挟まれる領域の三次元断層画像を、部分画像とする。
【0115】
図5の説明に戻る。CPU23は、事前取得パターンがユーザによって設定されているか否かを判断する(S13)。第1変容例における事前取得パターンには、ユーザが注目する可能性が高い特定の層を部分画像とするパターンが予め設けられている。
図12に示す例では、硝子体界面を部分画像とするパターンと、網膜内層を部分画像とするパターンが設定されている。CPU23は、設定されている事前取得パターンに対応する部分画像に基づいて、Enface画像55(
図3参照)を生成する。CPU23は、生成したEnface画像55を基画像として数学モデルに入力することで、高画質画像85A,85Bを取得する。事前取得パターンに対応する高画質画像85A,85Bを取得する処理は、事前取得処理の一例である。CPU23は、取得した高画質画像85A,85Bを記憶装置24に記憶させると共に、表示装置28に表示させる(S14)。
【0116】
前述したように、事前取得パターンに対応する高画質画像85A,85Bは、表示画面80の表示を開始させる処理(S12)よりも前に、事前に実行されていてもよい。この場合、S12では、事前取得パターンに対応する高画質画像85A,85Bを、最初から表示画面80に表示させてもよい。その結果、事前取得パターンに対応する高画質画像85A,85Bが、よりスムーズに表示装置28に表示される。
【0117】
次いで、CPU23は、フォローアップ位置情報が記憶装置24に記憶されているか否かを判断する(S16)。フォローアップ位置は、ユーザが過去の処理において選択した2つの境界面82A,82Bの位置に基づいて設定されてもよい。また、S18,S19の処理で利用される特定位置は、特定の層・境界の位置であってもよい。
【0118】
第1変容例におけるS21では、基準画像とされた三次元断層画像に対する距離の近さ、範囲の近さ、重複割合の近さ等の少なくともいずれかに基づいて、部分画像の優先順位が設定される。例えば、CPU23は、2つの境界面82A,82Bの間の距離を一定としつつ、2つの境界面82A,82Bの位置を単位距離ずつ繰り返し移動させる際の、各々の位置の境界面82A,82Bに挟まれる複数の部分画像に、基準画像に近い順に優先順位を設定してもよい。また、CPU23は、2つの境界面81A,82Bの一方の位置を単位距離ずつ繰り返し移動させる際の、各々の位置の境界面82A,82Bに挟まれる複数の部分画像に、基準画像に近い順に優先順位を設定してもよい。
【0119】
また、第1変容例におけるS27では、部分画像が変更された方向(つまり、境界面82A,82Bが変更された方向)に従って優先順位が設定されてもよい。また、第1変容例におけるS28では、
図12に示すように、選択された部分画像に基づくEnface画像55の高画質画像85Cが、表示画面28に表示される。
【0120】
また、第1変容例におけるS34(
図11参照)では、CPU23は、優先順位N番目の部分画像に基づいて、Enface画像55を生成する。CPU23は、生成したEnface画像55を数学モデルに入力することで、高画質画像85Cを取得する。
【0121】
(第2変容例)
上記実施形態の第2変容例について説明する。上記実施形態および第1変容例の眼科画像処理装置1は、基画像の画質を向上させた高画質画像を医療情報として取得する。しかし、眼科画像処理装置1が取得する医療情報は、高画質画像に限定されない。第2変容例の眼科画像処理装置1は、部分画像、または部分画像に基づいて生成される画像を数学モデルに入力することで、被検眼の組織の構造の解析結果を医療情報として取得する。詳細には、医療情報は、組織の層・境界の解析結果(セグメンテーションの結果)等であってもよい。また、医療情報は、組織の病変部位、または眼底血管等の解析結果であってもよい。この場合、数学モデルの訓練方法には、前述した訓練方法等を採用できる。また、医療情報は、被検眼の疾患に関する解析結果であってもよい。
【0122】
上記実施形態で開示された技術は一例に過ぎない。従って、上記実施形態で例示された技術を変更することも可能である。まず、上記実施形態で例示された複数の技術のうちの一部のみを実行することも可能である。例えば、眼科画像処理(
図5参照)におけるS13~S14、S16~S17、およびS18~S19の少なくともいずれかの処理を省略することも可能である。また、CPU23は、S18,S19の処理を実行する代わりに、予め定められた部分画像(例えば、S11で取得された眼科画像の画像領域の中心を含む部分画像等)を、基準画像に設定してもよい。また、事前取得処理を開始させる処理(S22)は、部分画像の選択指示が受け付けられた以後に実行されてもよい。
【0123】
なお、
図5のS11で眼科画像を取得する処理は、「画像取得ステップ」の一例である。
図5のS14,S28,および
図11のS34~S38で医療情報を取得する処理は、「医療情報取得ステップ」の一例である。
図5のS24で部分画像の選択指示を受け付ける処理は、「指示受付ステップ」の一例である。
図5のS14,S28で医療情報を表示装置28に表示させる処理は、「医療情報表示ステップ」の一例である。
【符号の説明】
【0124】
11A,11B 眼科画像撮影装置
21 眼科画像処理装置
23 CPU
24 記憶装置
27 操作部
28 表示装置
50 三次元断層画像
51 二次元断層画像
55 Enface画像
66 部分画像
67 高画質画像
82A,82B 境界面
85A,85B,85C 高画質画像