(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024105203
(43)【公開日】2024-08-06
(54)【発明の名称】眼科システム、眼科装置、情報処理方法、及びプログラム
(51)【国際特許分類】
A61B 3/10 20060101AFI20240730BHJP
【FI】
A61B3/10
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2024008116
(22)【出願日】2024-01-23
(31)【優先権主張番号】63/481,526
(32)【優先日】2023-01-25
(33)【優先権主張国・地域又は機関】US
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.PYTHON
2.TENSORFLOW
3.MATLAB
(71)【出願人】
【識別番号】520228991
【氏名又は名称】DeepEyeVision株式会社
(74)【代理人】
【識別番号】100079108
【弁理士】
【氏名又は名称】稲葉 良幸
(74)【代理人】
【識別番号】100109346
【弁理士】
【氏名又は名称】大貫 敏史
(74)【代理人】
【識別番号】100117189
【弁理士】
【氏名又は名称】江口 昭彦
(74)【代理人】
【識別番号】100134120
【弁理士】
【氏名又は名称】内藤 和彦
(72)【発明者】
【氏名】シアマック ヨーゼフィ
(72)【発明者】
【氏名】▲高▼橋 秀徳
(72)【発明者】
【氏名】ハゼム アブデルモタール
(72)【発明者】
【氏名】ロッセン ミハイロフ ハザルバッサノフ
(72)【発明者】
【氏名】アリ エイチ. アルーティメミー
(72)【発明者】
【氏名】アレクサンドル ラブリック
【テーマコード(参考)】
4C316
【Fターム(参考)】
4C316AA02
4C316AA03
4C316AA24
4C316AA25
4C316AB01
4C316FA20
4C316FB05
4C316FB21
4C316FB22
4C316FB26
4C316FB27
4C316FZ01
(57)【要約】
【課題】眼科の効率的な診断を支援すること。
【解決手段】被検者に対向する撮像装置により撮像される被検眼の動画像を取得する取得部と、前記動画像に基づいて、前記被検眼における解析対象領域を特定し、前記解析対象領域において、前記被検眼表面の特徴に関する情報の空間的及び/又は時間的分布を解析する解析部と、前記特徴に関する情報の分布に基づいて、前記被検眼が所定の眼疾患に罹患している可能性を評価し、前記可能性の高さに応じて、前記被検眼を前記眼疾患の罹患に関する所定の分類群に分類した分類結果を生成する評価部と、前記分類結果に基づいて、前記被検眼における前記眼疾患の診断を支援する診断支援情報を生成する診断支援情報生成部と、前記診断支援情報の出力を制御する出力制御部と、を有する、眼科システム。
【選択図】
図3
【特許請求の範囲】
【請求項1】
被検者に対向する撮像装置により撮像される被検眼の動画像を取得する取得部と、
前記動画像に基づいて、前記被検眼における解析対象領域を特定し、前記解析対象領域において、前記被検眼表面の特徴に関する情報の空間的及び/又は時間的分布を解析する解析部と、
前記特徴に関する情報の分布に基づいて、前記被検眼が所定の眼疾患に罹患している可能性を評価し、前記可能性の高さに応じて、前記被検眼を前記眼疾患の罹患に関する所定の分類群に分類した分類結果を生成する評価部と、
前記分類結果に基づいて、前記被検眼における前記眼疾患の診断を支援する診断支援情報を生成する診断支援情報生成部と、
前記診断支援情報の出力を制御する出力制御部と、
を有する、眼科システム。
【請求項2】
前記眼疾患が、ドライアイであり、
前記被検眼表面の特徴が、前記被検眼における瞬目前後の干渉縞及び/又は涙液メニスカス高である、
請求項1に記載の眼科システム。
【請求項3】
前記眼疾患が、円錐角膜であり、
前記被検眼表面の特徴が、前記被検眼に対する外部ストレスに対する応答として現れる前記被検眼の角膜形状の動きである、
請求項1に記載の眼科システム。
【請求項4】
前記分類群は、前記被検眼が前記眼疾患に罹患している可能性の高さに応じた分類群であり、前記可能性が第1基準値以上である群と、前記可能性が第2基準値以下である群とを含む、
請求項1から3のいずれか一項に記載の眼科システム。
【請求項5】
前記解析部及び/又は前記評価部は、参照眼の動画像に基づいて訓練された学習済み数理モデルを使用し、前記学習済み数理モデルの訓練に用いられる参照眼の動画像は、参照眼の患者により回答される主観的な報告に関する指標及び/又は医師により回答される臨床パラメータの指標を用いて前記眼疾患に関して分類され、当該分類結果をラベル付けされた動画像である、
請求項1から3のいずれか一項に記載の眼科システム。
【請求項6】
前記解析部は、前記動画像を構成する1以上の各フレームを逐次的に処理することにより、前記特徴に関する情報の分布の経時的な変化を解析し、
前記評価部は、前記解析対象領域と前記特徴に関する情報の分布と前記分布の経時的な変化との少なくとも1つ以上に基づいて、前記被検眼が前記眼疾患に罹患している可能性を評価し、前記可能性の高さに応じて、前記被検眼を前記眼疾患の罹患に関する所定の分類群に分類した分類結果を生成する、
請求項1から3のいずれか一項に記載の眼科システム。
【請求項7】
前記解析部は、前記動画像を構成する1以上のフレームを処理した結果を比較することにより、前記特徴に関する情報の分布の経時的な変化を評価し、
前記評価部は、前記解析対象領域と前記特徴に関する情報の分布と前記分布の経時的な変化との少なくとも1つ以上に基づいて、前記被検眼が前記眼疾患に罹患している可能性を評価し、前記可能性の高さに応じて、前記被検眼を前記眼疾患の罹患に関する所定の分類群に分類した分類結果を生成する、
請求項1から3のいずれか一項に記載の眼科システム。
【請求項8】
前記解析部は、前記解析対象領域における前記特徴に関する情報の分布に基づいて、前記解析対象領域を所定の比率で区分した1以上の各区分の重要度を算出し、前記重要度が所定の閾値以上である区画の空間的及び/又は時間的分布を解析し、
前記評価部は、前記解析対象領域と前記特徴に関する情報の分布と前記区分の分布との少なくとも1つ以上に基づいて、前記被検眼が前記眼疾患に罹患している可能性を評価し、前記可能性の高さに応じて、前記被検眼を前記被検眼の罹患に関する所定の分類群に分類した分類結果を生成する、
請求項1から3のいずれか一項に記載の眼科システム。
【請求項9】
前記分類群は、前記被検眼が前記眼疾患に罹患している可能性の高さに応じた分類群であり、前記可能性が第1基準値以上である群と、前記可能性が第2基準値以上である群とを含み、
前記診断支援情報は、前記被検眼を前記分類群に分類した分類結果と、前記分類結果の生成の根拠となった1以上のフレームに基づいて生成される静止画像及び/又は1以上の動画像とを含む、
請求項1から3のいずれか一項に記載の眼科システム。
【請求項10】
一又は複数のコンピュータが、
被検者に対向する撮像装置により撮像される被検眼の動画像を取得するステップと、
前記動画像に基づいて、前記被検眼における解析対象領域を特定し、前記解析対象領域において、前記被検眼表面の特徴に関する情報の空間的及び/又は時間的分布を解析するステップと、
前記特徴に関する情報の分布に基づいて、前記被検眼が所定の眼疾患に罹患している可能性を評価し、前記可能性の高さに応じて、前記被検眼を前記眼疾患の罹患に関する所定の分類群に分類した分類結果を生成するステップと、
前記分類結果に基づいて、前記被検眼における前記眼疾患の診断を支援する診断支援情報を生成するステップと、
前記診断支援情報の出力を制御するステップと、
を含む、情報処理方法。
【請求項11】
一又は複数のコンピュータに、
被検者に対向する撮像装置により撮像される被検眼の動画像を取得するステップと、
前記動画像に基づいて、前記被検眼における解析対象領域を特定し、前記解析対象領域において、前記被検眼表面の特徴に関する情報の空間的及び/又は時間的分布を解析するステップと、
前記特徴に関する情報の分布に基づいて、前記被検眼が所定の眼疾患に罹患している可能性を評価し、前記可能性の高さに応じて、前記被検眼を前記眼疾患の罹患に関する所定の分類群に分類した分類結果を生成するステップと、
前記分類結果に基づいて、前記被検眼における前記眼疾患の診断を支援する診断支援情報を生成するステップと、
前記診断支援情報の出力を制御するステップと、
を実行させる、プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、眼科システム、眼科装置、情報処理方法、及びプログラムに関する。
【背景技術】
【0002】
眼科では、画像を基に被検眼の状態を評価し、診断や診療的判断を行うことがよく行われており、眼科画像の画像処理に関する多くの手段が開発されている。例えば、特許文献1に記載されるように、角膜の状態を評価する手段として、角膜トポグラフィーは被検眼の状態を検査するために臨床現場で広く使用されている。
【0003】
しかしながら、角膜トポグラフィーを用いた判断は、トポグラフィーマップの主観的観察の結果に依拠することから、先入観が介入する懸念がある。また、角膜の前方突出を特徴とする円錐角膜や、涙液層の不安定化を特徴とするドライアイ等、様々な疾患に適応することができる手段の開発が求められている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
本開示の目的の1つは、眼科の効率的な診断を支援することにある。
【課題を解決するための手段】
【0006】
本開示の一態様に係る眼科システムは、被検者に対向する撮像装置により撮像される被検眼の動画像を取得する取得部と、当該動画像に基づいて、当該被検眼における解析対象領域を特定し、当該解析対象領域において、当該被検眼表面の特徴に関する情報の空間的及び/又は時間的分布を解析する解析部と、当該特徴に関する情報の分布に基づいて、当該被検眼が所定の眼疾患に罹患している可能性を評価し、当該可能性の高さに応じて、当該被検眼を当該眼疾患の罹患に関する所定の分類群に分類した分類結果を生成する評価部と、当該分類結果に基づいて、当該被検眼における当該眼疾患の診断を支援する診断支援情報を生成する診断支援情報生成部と、当該診断支援情報の出力を制御する出力制御部と、を有する。
この態様によれば、眼科システムは、眼科の効率的な診断を支援することができる。
【0007】
本開示の一態様に係る眼科システムは、上記眼科システムにおいて、眼疾患が、ドライアイであり、被検眼表面の特徴が、前記被検眼における瞬目前後の干渉縞及び/又は涙液メニスカス高である。
この態様によれば、眼科システムは、ドライアイの効率的な診断を支援することができる。
【0008】
本開示の一態様に係る眼科システムは、上記眼科システムにおいて、眼疾患が、円錐角膜であり、被検眼の眼表面の特徴が、被検眼に対する外部ストレスに対する応答として現れる被検眼の角膜形状の動きである。
この態様によれば、眼科システムは、円錐角膜の効率的な診断を支援することできる。
【0009】
本開示の一態様に係る眼科システムは、上記眼科システムにおいて、分類群は、被検眼が眼疾患に罹患している可能性の高さに応じた分類群であり、当該可能性が第1基準値以上である群と、当該可能性が第2基準値以下である群とを含む。
この態様によれば、眼科システムは、被検眼が眼疾患に罹患している可能性の高さに応じて分類を行うことができ、眼科の効率的な診断を支援することができる。
【0010】
本開示の一態様に係る眼科システムは、上記眼科システムにおいて、解析部及び/又は評価部は、参照眼の動画像に基づいて訓練された学習済み数理モデルを使用し、当該学習済み数理モデルの訓練に用いられる参照眼の動画像は、参照眼の患者により回答される主観的な報告に関する指標及び/又は医師により回答される臨床パラメータの指標を用いて所定の眼疾患に関して分類され、当該分類結果をラベル付けされた動画像である。
この態様によれば、眼科システムは、学習済み数理モデルを用いて分類の精度を向上させることができる。
【0011】
本開示の一態様に係る眼科システムは、上記眼科システムにおいて、解析部は、当該動画像を構成する1以上の各フレームを逐次的に処理することにより、当該特徴に関する情報の分布の経時的な変化を解析し、評価部は、当該解析対象領域と当該特徴に関する情報の分布と当該分布の経時的な変化との少なくとも1つ以上に基づいて、当該被検眼が当該眼疾患に罹患している可能性を評価し、当該可能性の高さに応じて、当該被検眼を所定の眼疾患の罹患に関する所定の分類群に分類した分類結果を生成する。
この態様によれば、眼科システムは、被検眼の動画像に含まれる情報の経時的な変化を追跡して評価を行うことができる。
【0012】
本開示の一態様に係る眼科システムは、上記眼科システムにおいて、解析部は、当該動画像を構成する1以上の各フレームを処理した結果を比較することにより、当該特徴に関する情報の分布の経時的な変化を解析し、評価部は、当該解析対象領域と当該特徴に関する情報の分布と当該分布の経時的な変化との少なくとも1つ以上に基づいて、当該被検眼が当該眼疾患に罹患している可能性を評価し、当該可能性の高さに応じて、当該被検眼を所定の眼疾患の罹患に関する所定の分類群に分類した分類結果を生成する。
この態様によれば、眼科システムは、被検眼の動画像に含まれる情報の経時的な変化を追跡して評価を行うことができる。
【0013】
本開示の一態様に係る眼科システムは、上記眼科システムにおいて、解析部は、当該解析対象領域における当該特徴に関する情報の分布に基づいて、当該解析対象領域を所定の比率で区分した1以上の各区分の重要度を算出し、当該重要度が所定の閾値以上である区画の空間的及び/又は時間的分布を解析し、評価部は、当該解析対象領域と当該特徴に関する情報の分布と当該区分の分布との少なくとも1つ以上に基づいて、当該被検眼が当該眼疾患に罹患している可能性を評価し、当該可能性の高さに応じて、当該被検眼を当該被検眼の罹患に関する所定の分類群に分類した分類結果を生成する。
この態様によれば、眼科システムは、被検眼表面の特徴に関する情報の分布に基づく重要度の高い領域の分布を用いて評価を行うことができる。
【0014】
本開示の一態様に係る眼科システムは、上記眼科システムにおいて、分類群は、当該被検眼が当該眼疾患に罹患している可能性の高さに応じた分類群であり、当該可能性が第1基準値以上である群と、当該可能性が第2基準値以上である群とを含み、記診断支援情報は、当該被検眼を当該分類群に分類した分類結果と、当該分類結果の生成の根拠となった1以上のフレームに基づいて生成される静止画像及び/又は1以上の動画像とを含む。
この態様によれば、眼科システム1は、ユーザに本実施形態の眼科システムの分類判断の根拠となったフレームを視認可能に提示することができるので、診断支援情報の信頼性を高めることができる。
【0015】
本開示の他の態様に係る情報処理方法は、一又は複数のコンピュータが、被検者に対向する撮像装置により撮像される被検眼の動画像を取得するステップと、当該動画像に基づいて、当該被検眼における解析対象領域を特定し、当該解析対象領域において、当該被検眼表面の特徴に関する情報の空間的及び/又は時間的分布を解析するステップと、当該特徴に関する情報の分布に基づいて、当該被検眼が所定の眼疾患に罹患している可能性を評価し、当該可能性の高さに応じて、当該被検眼を当該眼疾患の罹患に関する所定の分類群に分類した分類結果を生成するステップと、当該分類結果に基づいて、当該被検眼における当該眼疾患の診断を支援する診断支援情報を生成するステップと、当該診断支援情報の出力を制御するステップと、を含む。
この態様によれば、眼科システムは、眼科の効率的な診断を支援することができる。
【0016】
本開示の他の態様に係るプログラムは、一又は複数のコンピュータに、被検者に対向する撮像装置により撮像される被検眼の動画像を取得するステップと、当該動画像に基づいて、当該被検眼における解析対象領域を特定し、当該解析対象領域において、当該被検眼表面の特徴に関する情報の空間的及び/又は時間的分布を解析するステップと、当該特徴に関する情報の分布に基づいて、当該被検眼が所定の眼疾患に罹患している可能性を評価し、当該可能性の高さに応じて、当該被検眼を当該眼疾患の罹患に関する所定の分類群に分類した分類結果を生成するステップと、当該分類結果に基づいて、当該被検眼における当該眼疾患の診断を支援する診断支援情報を生成するステップと、当該診断支援情報の出力を制御するステップと、を実行させる。
この態様によれば、眼科システムは、眼科の効率的な診断を支援することができる。
【0017】
本開示の他の態様に係る眼科装置は、被検者に対向する撮像装置により撮像される被検眼の動画像を取得する取得部と、当該動画像に基づいて、当該被検眼における解析対象領域を特定し、当該解析対象領域において、当該被検眼表面の特徴に関する情報の空間的及び/又は時間的分布を解析する解析部と、当該特徴に関する情報の分布に基づいて、当該被検眼が所定の眼疾患に罹患している可能性を評価し、当該可能性の高さに応じて、当該被検眼を当該眼疾患の罹患に関する所定の分類群に分類した分類結果を生成する評価部と、当該分類結果に基づいて、当該被検眼における当該眼疾患の診断を支援する診断支援情報を生成する診断支援情報生成部と、当該診断支援情報の出力を制御する出力制御部と、を有する。
この態様によれば、眼科システムは、眼科の効率的な診断を支援することができる。
【発明の効果】
【0018】
本開示によれば、眼科の効率的な診断を支援することができる。
【図面の簡単な説明】
【0019】
【
図1】本開示の一態様に係る眼科システムの構成例を示す図である。
【
図2】本開示の一態様に係る眼科装置のハードウェア構成例を示す図である。
【
図3】本開示の一態様に係る眼科装置の機能構成例を示す図である。
【
図4】本開示の一態様に係る眼科システムによる処理フロー例を示す図である。
【
図5】本開示の一態様に係る眼科システムによる処理フロー例を示す図である。
【
図6】本開示の一態様に係る眼科システムによる処理フロー例を示す図である。
【
図7】本開示の一態様に係る眼科システムによる処理フロー例を示す図である。
【
図8】本開示の一態様に係る眼科システムによる処理フロー例を示す図である。
【
図9】本開示の一態様に係る眼科システムによる処理フロー例を示す図である。
【
図10】本開示の一態様に係る眼科システムによる処理フロー例を示す図である。
【
図11】本開示の一態様に係る眼科システムによる処理フロー例を示す図である。
【
図12】学習済み数理モデルの構成例を示す図である。
【発明を実施するための形態】
【0020】
添付図面を参照して、本発明の実施形態(以下、「本実施形態」と称する。)について説明する。以下の実施形態は、本発明の理解を容易にするためのものであり、本発明を限定して解釈するためのものではない。また、本発明は、その要旨を逸脱しない限り、さまざまな変形が可能である。例えば、情報処理のステップは、処理内容に矛盾を生じない範囲で任意に順番を変更し、又は並列に実行することができる。各図において、同一の符号を付したものは、同一又は同様の構成を有する。図面の寸法比率は図示の比率に限られるものではない。さらに、当業者であれば、以下に述べる各要素を均等なものに置換した実施形態を採用することが可能であり、係る実施形態も本発明の範囲に含まれる。
【0021】
<システム構成>
図1は、本実施形態に係る眼科システム1の構成例を示す図である。
図1に示す眼科システム1は、眼科装置10と、1つ以上の撮像装置20と、を備える。
図1に示すように、眼科装置10と、撮像装置20とは、インターネット、イントラネット、無線LAN又は移動通信等の無線又は有線の通信ネットワークを介して通信可能に接続されていてもよい。
本開示において、眼科システム1が撮像装置20を備えるとして説明するが、眼科システム1は、眼科装置10を備えている限り、必ずしも撮像装置20の構成を備えている必要はないし、これらの機能を眼科装置10が担うようにしてもよい。
【0022】
眼科装置10は、眼科の効率的な診断を支援する機能を担う情報処理装置である。例えば、被検眼の動画像を取得して、当該動画像に基づいて、被検眼の眼表面の特徴に関する情報の空間的分布や時間的分布を解析して、当該分布に基づいて、被検眼が所定の眼疾患に罹患している可能性を評価し、当該被検眼を当該眼疾患に関する所定の分類群に分類し、分類の結果に基づいて、診断を支援する情報を生成する。
【0023】
眼科装置10は、1又は複数の情報処理装置から構成されていてもよい。眼科装置10は、仮想的なサーバ(クラウドサーバ等)を用いて構成されていてもよい。眼科装置10は、コンピュータにより構成されていてもよい。
【0024】
撮像装置20は、被検眼を対象とした眼表面の動画像を撮影することができるものであれば特に限定されず、従来公知のものを用いればよい。例えば、赤外線を出力可能な照明系と、動画撮影が可能なデジタルカメラを含む撮影系とを有する撮像装置20が挙げられる。
【0025】
<ハードウェア構成>
図2は、眼科装置10のハードウェア構成例を示す図である。眼科装置10は、CPU(Central Processing Unit)、GPU(Graphical Processing Unit)等のプロセッサ71、無線又は有線通信を行う通信IF(Interface)72、メモリ(例えばRAM(Random Access Memory)又はROM(Read Only Memory))、HDD(Hard Disk Drive)及び/又はSSD(Solid State Drive)等の記憶装置73、入力操作を受け付ける入力装置74及び情報の出力を行う出力装置75を有する。入力装置74は、例えば、キーボード、タッチパネル、マウス及び/又はマイク等である。出力装置75は、例えば、ディスプレイ、タッチパネル及び/又はスピーカ等である。プロセッサ71、通信IF72、記憶装置73、入力装置74及び出力装置75は、1つ又は複数の通信バス76により接続される。
【0026】
<機能構成>
図3は、眼科装置10の機能構成例を示す図である。眼科装置10は、記憶部110と、取得部120と、解析部130と、評価部140と、診断支援情報生成部150と、出力制御部160と、モデル構築部170とを有する。記憶部110は、眼科装置10が有する記憶装置73を用いて実現することができる。取得部120と、解析部130と、評価部140と、診断支援情報生成部150と、出力制御部160と、モデル構築部170とは、眼科装置10が有するプロセッサ71が、記憶装置73に記憶されたプログラムを実行することにより実現することができる。また、当該プログラムは、記憶媒体に格納することができる。当該プログラムを格納した記憶媒体は、コンピュータ読み取り可能な非一時的な記憶媒体(Non-transitory computer readable medium)であってもよい。非一時的な記憶媒体は特に限定されないが、例えば、USB(Universal Serial Bus)メモリ又はCD-ROM(Compact Disc Read-Only Memory)等の記憶媒体であってもよい。
【0027】
本開示において、眼科装置10が、記憶部110と、取得部120と、解析部130と、評価部140と、診断支援情報生成部150と、出力制御部160と、モデル構築部170とを有するとして説明するが、眼科装置10は、必ずしもモデル構築部170を有している必要はなく、当該機能を他の情報処理装置が担うようにしてもよい。
【0028】
また、本開示において、1つの眼科装置10が、記憶部110と、取得部120と、解析部130と、評価部140と、診断支援情報生成部150と、出力制御部160と、モデル構築部170と、を有するとして説明するが、必ずしも1つの眼科装置10により上記全ての機能構成が提供される必要はなく、これらの機能を複数の眼科装置10が担うようにしてもよい。
【0029】
(記憶部)
記憶部110は、眼科装置10が眼科の効率的な診断を支援するために必要な各種データを記憶する。
【0030】
(取得部)
取得部120は、被検眼の動画像を取得する機能を有する。被検眼の動画像は、被検者に対向する撮像装置20により撮像される。
【0031】
本開示において、「動画像を取得する」とは、動画像の入力を受け付けることを含む。取得部120が入力を受け付ける被検眼の動画像は、撮像装置20から送信されるものであってもよく、外部の情報処理装置から送信されるものであってもよく、外部の情報処理装置を介して撮像装置20から送信されるものであってもよい。
【0032】
被検眼の動画像の長さや解像度は特に限定されるものではなく、従来公知の眼科で用いられる撮像装置により撮像される動画像の長さや解像度であってよい。
【0033】
本開示において、被検眼の動画像は、被検者に対向する撮像装置20により撮像される動画像であるとして説明するが、必ずしもこのようにして撮像された動画像に限られるものではない。本実施形態の眼科システム1は眼球の動画像に映り込んだ眼表面に生じている異常を捉えて、眼疾患に罹患している可能性を評価するので、被検眼表面の特徴に関する情報を捉えた動画像であれば、異なる様々な態様によって撮像された動画像であっても用いることが可能であることを、当業者は理解するであろう。
【0034】
(解析部)
解析部130は、取得部120で取得された動画像に基づいて、被検眼における解析対象領域を特定し、当該解析対象領域において、当該被検眼表面の特徴に関する情報(以降、単に「特徴に関する情報」という場合がある。)の空間的及び/又は時間的分布を解析する機能を有する。
【0035】
本開示において、解析対象領域は、被検眼表面の特徴に関する情報を含む領域である。解析対象領域は、被検眼表面の像の一部であってもよく、全部であってもよい。
【0036】
一実施形態において、解析部130は、被検眼の動画像に基づいて、当該被検眼における解析対象領域を特定する。解析部130は、被検眼の動画像を構成する1以上の各フレームにおける、当該被検眼表面の特徴に関する情報を有する領域を探索することにより、解析対象領域を特定してもよい。その他にも、解析部130は、公知の画像処理のプロセスを適用することにより、被検眼表面の所望の特徴に関する情報を含む領域を解析対象領域として特定してもよい。
【0037】
本開示において、被検眼表面の特徴に関する情報は、当該被検眼を所定の眼疾患に関する分類群に分類する処理に資する情報である。
【0038】
一実施形態において、被検眼表面の特徴に関する情報は、当該被検眼の眼表面の特徴であって、当該被検眼が所定の眼疾患に罹患している可能性を提示する被検眼表面の特徴に関する情報である。
【0039】
一実施形態において、被検眼が所定の眼疾患に罹患している可能性を提示する被検眼眼表面の特徴は、角膜や強膜の脆弱性を反映した眼表面の特徴である。本実施形態の眼科システム1は、眼球の動画像に映り込んだ眼表面に生じている異常を捉えて、眼疾患に罹患している可能性を評価するので、角膜や強膜の脆弱性を反映した眼表面の特徴を捉えることにより、角膜や強膜に脆弱性を呈する眼疾患に関する分類を行うことが可能である。角膜や強膜の脆弱性を反映した眼表面の特徴は、例えば、柔らかさ、脆さ、変形しやすさ及び柔軟性等から選択される1つ以上又はそれらの組合せであってもよい。
【0040】
また、例えば、角膜や強膜の脆弱性を反映した眼表面の特徴は、被検眼に対する外部ストレスに対する応答として現れる当該被検眼の角膜や強膜の形状の動きであってもよい。ここで、被検眼に対する外部ストレスは、空気パルス等の物理的な圧力を負荷する操作によって作成し得る。そのような操作は、例えば、一般に眼圧を検査する際に行われる操作であってもよい。また、そのような操作は、接触型であっても、非接触型であってもよい。本実施形態の眼科システム1は、眼球の動画像に移り込んだ眼表面に生じている異常を捉えて、眼疾患に罹患している可能性を評価するので、被検眼表面の特徴に関する情報として外部ストレスに対する応答を捉えた動画像であれば、異なる様々な態様によって被検眼に対して外部ストレスを付与し得ることを、当業者は理解するであろう。
【0041】
一実施形態において、被検眼が所定の眼疾患に罹患している可能性を提示する被検眼眼表面の特徴は、瞬目前後の干渉縞、涙液層の構成及び涙液メニスカス高から選択される1つ以上又はそれらの組合せである。
【0042】
一実施形態において、所定の眼疾患に罹患している可能性を提示する眼表面の特徴は、眼表面に生じている病変である。本実施形態の眼科システム1は、眼球の動画像に映り込んだ眼表面に生じている異常を捉えて、眼疾患に罹患している可能性を評価するので、眼表面に病変を生じている眼疾患に関する分類を行うことが可能である。ここで、眼表面に生じている病変は、被検者に対向する撮像装置20により撮像される静止画によっては、確認することが困難である病変であってもよい。眼表面に生じている病変は、医師又はその他の専門家が動画像を目視することによっては、確認することが困難である病変であってもよい。
【0043】
角膜や強膜の脆弱性を有したり、眼表面に病変を生じ得る眼疾患として、例えば、緑内障(Glaucoma)、角膜変性(corneal degeneration)、角膜混濁(corneal opacity)、兎眼(lagophthalmos)、円錐角膜(keratoconus)、ドライアイ、モーレン潰瘍(Mooren's ulcer)、アレルギー性結膜炎(allergic conjunctivitis)、感染性結膜炎(infectious conjunctivitis)、強膜炎(scleritis)、狭角(narrow angle)、ぶどう膜炎(uveitis)、隅角や虹彩の新生血管(形成)(angle or iris neovascularization)、網膜剥離(retinal detachment)、脈絡膜剥離(choroidal detachment)、硝子体混濁(vitreous opacity)、強度近視(high myopia)等が挙げられる。また、眼疾患は、角膜ジストロフィー(corneal dystrophy)であってもよい。これらの眼疾患は、角膜や強膜に脆弱性を呈したり、眼表面に病変を生じ得るので、本実施形態の眼科システム1により、これらの眼疾患に関する分類を行うことが可能である。
【0044】
また、ドライアイには、蒸発性ドライアイ(evaporative DED)と、シェーグレン症候群を主な原因とする房水不足性ドライアイ(acquisition DED)の2つのサブタイプがある。房水不足性ドライアイの原因としては、リウマチ性関節炎(Rheumatoid arthritis)、全身性エリテマトーデス(Systemic lupus erythematosus)、乾癬性関節炎(Psoriatic arthritis)等の自己免疫疾患が挙げられる。したがって、本実施形態の眼科システム1でドライアイに罹患している可能性を評価することにより、これらの疾患に関する分類を行うことも可能である。
【0045】
本実施形態の眼科システム1によれば、眼疾患の進行が緩やかで、静止画像の撮影によってはなかなか早期の発見や発見すること自体が難しい眼疾患であっても、眼球の動画像から簡便に眼疾患の罹患可能性を発見することができる。
【0046】
本開示において、被検眼表面の特徴に関する情報の空間的分布は、被検眼の動画像を構成する1以上の各フレームにおける被検眼表面の像において、当該特徴に関する情報がどのように配置されているかを示す。被検眼表面の特徴に関する情報の空間的分布は、例えば、被検眼表面の特徴に関する情報の局在、被検眼表面の特徴に関する情報が基準値以上含まれる領域の局在、被検眼表面の特徴に関する情報が基準値以上含まれる領域の面積、被検眼表面の特徴に関する情報が被検眼表面の像における単位面積当たりに存在する量、被検眼表面の特徴に関する情報が被検眼表面の像上で配置されているパターン、被検眼表面の特徴に関する情報の散らばり方等が挙げられる。
【0047】
本開示において、被検眼表面の特徴に関する情報の時間的分布は、被検眼の動画像を構成する1以上のフレームを時系列に沿って並べたときに、当該特徴に関する情報が、各時間単位においてどのように配置されているかを示す。被検眼表面の特徴に関する情報の時間的分布は、例えば、動画像の一部又は全部における当該特徴に関する情報の出現頻度、動画像を構成する1以上の各フレームにおける当該特徴に関する情報の出現頻度等が挙げられる。
【0048】
本開示において、被検眼表面の特徴に関する情報の空間的分布の経時的な変化は、被検眼の動画像を構成する1以上のフレームを時系列に沿って並べたときに、当該特徴に関する情報の分布が、時間の経過とともにどのように変化しているかを示す。
【0049】
一実施形態において、解析部130は、参照眼の動画像に基づいて訓練された学習済み数理モデルであって、当該学習済み数理モデルの訓練に用いられる参照眼の動画像が、参照眼の患者により回答される主観的な報告に関する指標及び/又は医師により回答される臨床パラメータの指標を用いて所定の眼疾患に関して分類され、当該分類結果をラベル付けされた動画像である、学習済み数理モデルを使用する。
解析部130が用いる学習済み数理モデルは、本開示のモデル構築部170によって構築された数理モデルであってもよいし、眼科装置10とは異なる情報処理装置から入力された数理モデルであってもよい。解析部130及び評価部140が学習済み数理モデルを使用する場合、同一の仕様を有する数理モデルを使用することが好ましいが、必ずしも同一の仕様を有する数理モデルを使用することに限られず、解析部130と評価部140とがそれぞれ異なる仕様の数理モデルを使用してもよい。
解析部130は、解析部130が行う処理の一部に学習済み数理モデルを用いてもよいし、解析部130が行う処理の全部に学習済み数理モデルを用いてもよい。
この態様によれば、眼科システム1は、学習済み数理モデルを用いて分類の精度を向上させることができる。
【0050】
一実施形態において、解析部130は、被検眼の動画像を構成する1以上のフレームに対する処理を行う際に、解析のプロセスを終了するか否かを判定し、当該判定の結果に基づいて、当該1以上のフレームに対する処理を継続させる又は終了させる。
解析部130は、所定の眼疾患に関する分類に資する情報を所定の基準値以上含むフレームの存在を確認したことに対応して、解析のプロセスを終了すると判定してもよい。解析部130は、所定の眼疾患に関する分類に資する情報の存在を所定の基準値以上確認したことに対応して、解析のプロセスを終了すると判定してもよい。解析部130は、所定の眼疾患に関する分類に資する情報を所定の基準値以上含むフレームが所定個数存在することを確認したことに対応して、解析のプロセスを終了すると判定してもよい。解析部130は、所定の眼疾患に関する分類に資する情報を所定の基準値以上含むフレームが所定個数連続して存在することを確認したことに対応して、解析のプロセスを終了すると判定してもよい。解析部130は、評価部140による評価のプロセスの進行度に基づいて、解析のプロセスを終了すると判定してもよい。
この態様によれば、眼科システム1は、被検眼の動画像を構成するフレームを複数処理する場合であっても、自動的に解析を行うことが可能となり、ユーザの手間を省き、眼科の効率的な診断を支援することができる。
【0051】
(評価部)
評価部140は、被検眼表面の特徴に関する情報の分布に基づいて、当該被検眼が所定の眼疾患に罹患している可能性を評価し、当該可能性の高さに応じて、当該被検眼を当該眼疾患に関する所定の分類群に分類した分類結果を生成する機能を有する。
【0052】
一実施形態において、評価部140は、被検眼が所定の眼疾患を罹患している可能性の高さに応じて、当該被検眼を2つ以上の分類群に分類した分類結果を生成する。
この態様によれば、眼科システム1は、被検眼が眼疾患に罹患している可能性の高さに応じて分類を行うことができ、眼科の効率的な診断を支援することができる。
分類結果は、疾患眼群と、健常眼群とのいずれかであることに限られない。また、いずれの分類群を「健常眼」と評価するかは特に限定されず、ユーザが適宜判断すればよい。例えば、眼疾患Aに罹患している可能性が第1基準値以上である「高程度の眼疾患Aの罹患可能性を有する群」、当該可能性が第2基準値以上第1基準値未満である「中程度の眼疾患Aの罹患可能性を有する群」、及び当該可能性が第2基準値未満である「低程度の眼疾患Aの罹患可能性を有する群」(ここで第1基準値>第2基準値である)に分類した結果である。例えば、眼疾患Bに罹患している可能性が第1基準値以上である「眼疾患Bの罹患可能性を有する群」、及び当該可能性が第2基準値以下である「眼疾患Bの罹患可能性を有しない群」(ここで第1基準値>第2基準値である)に分類した結果である。例えば、眼疾患Cに罹患している可能性が第1基準値以上である「眼疾患Cの罹患可能性を有する群」、及び当該可能性が第1基準値未満である「眼疾患Cの罹患可能性を有しない群」に分類した結果である。
分類の際に用いる可能性の高さの基準値は、被検者が指示してもよいし、医師が指示してもよいし、コンピュータが指定してもよい。基準値は1つ以上、2つ以上、又は3つ以上用いてもよい。
【0053】
一実施形態において、評価部140は、参照眼の動画像に基づいて訓練された学習済み数理モデルであって、当該学習済み数理モデルの訓練に用いられる参照眼の動画像が、参照眼の患者により回答される主観的な報告に関する指標及び/又は医師により回答される臨床パラメータの指標を用いて所定の眼疾患に関して分類され、当該分類結果をラベル付けされた動画像である、学習済み数理モデルを使用する。
評価部140が用いる学習済み数理モデルは、本開示のモデル構築部170によって構築された数理モデルであってもよいし、眼科装置10とは異なる情報処理装置から入力された数理モデルであってもよい。
評価部140は、評価部140が行う処理の一部に学習済み数理モデルを用いてもよいし、評価部140が行う処理の全部に学習済み数理モデルを用いてもよい。
この態様によれば、眼科システム1は、学習済み数理モデルを用いて分類の精度を向上させることができる。
【0054】
(診断支援情報生成部)
診断支援情報生成部150は、評価部140により生成された分類結果に基づいて、被検眼における眼疾患の診断を支援する診断支援情報を生成する機能を有する。診断支援情報は、医師や患者に提供されて、効率的な診断を支援する。
【0055】
一実施形態において、診断支援情報は、被検眼を所定の分類群に分類した分類結果と、当該分類結果の生成の根拠となった1以上フレームに基づいて生成される静止画像及び/又は動画像とを含む。
評価部140による分類結果が複数の分類群を含む場合は、各分類群の判断の根拠となった1以上のフレームに基づいて生成される静止画像及び/又は動画像とを含む。
この態様によれば、ユーザに本実施形態の眼科システム1の分類判断の根拠となったフレームを視認可能に提示することができるので、診断支援情報の信頼性を高めることができる。
【0056】
一実施形態において、診断支援情報は、被検眼の動画像の解析の際に取得したその他の補足情報を含む。補足情報は、評価部140で評価した眼疾患を罹患している可能性の高さに応じて、治療や医師や医療機関に関する情報を含んでもよい。捕捉情報は、評価部140が評価した被検眼が所定の眼疾患に罹患している可能性に基づいて算出した、分類結果の確信度に関する情報を含んでもよい。補足情報は、アルファブレンディングにより、取得部120が取得した被検眼の動画像又は被検眼の動画像を構成する1以上のフレームに、分類に寄与した領域を可視化したヒートマップを重畳したものを含んでもよい。
この態様によれば、ユーザにとって分かりやすい情報を提示することができるので、眼科の効率的な診断を支援することができる。
【0057】
(出力制御部)
出力制御部160は、診断支援情報生成部150により生成された診断支援情報の出力を制御する機能を有する。本開示において、診断支援情報は、医師、技師、患者、看護師等に提供され、眼科の効率的な診断を支援する。
【0058】
(モデル構築部)
モデル構築部170は、被検眼の動画像を解析するための数理モデルMを構築する機能を有する。本開示において、数理モデルMは、少なくとも画像の処理を行うことのできる数理モデルである。本開示において、「数理モデルを構築する」は、数理モデルを作成することと学習させることとを含む。本開示において、「学習させること」は訓練させることと同義に用いられる場合がある。本開示において、被検眼の動画像を解析するための数理モデルMは、被検眼の動画像を入力データとして受け取り、入力データに基づいて推論を行い、被検眼を疾患眼群と健常眼群とのいずれかに分類する数理モデルである。
【0059】
一実施形態において、モデル構築部170は、参照眼の患者により回答される主観的な報告に関する指標及び/又は医師により回答される臨床パラメータの指標を用いて、所定の眼疾患に関して分類され、当該分類結果をラベル付けされた参照眼の動画像を教師データとして用いて、数理モデルMを構築する。すなわち、被検眼の動画像を解析するための数理モデルMは、参照眼の患者により回答される主観的な報告に関する指標及び/又は医師により回答される臨床パラメータの指標を用いて、所定の眼疾患に関して分類された参照眼の動画像であって、当該分類結果をラベル付けされた動画像の教師データに基づいて、機械学習により訓練された学習済み数理モデルである。
【0060】
一実施形態において、教師データのラベルには、参照眼の患者により回答される主観的な報告に関する指標に基づく情報や、医師により回答される臨床パラメータの指標に基づく情報を含む。
この態様によれば、モデル構築部170は、症状の程度や眼疾患の進行程度や専門家である医師の判断を数理モデルMに学習させることができる。また、モデル構築部170は、構築する数理モデルMの分類精度を向上させることができる。そして、このように学習させて構築された数理モデルMによれば、向上された分類精度を有する分類の処理を行うことが可能である。
【0061】
一実施形態において、参照眼の患者により回答される主観的な報告に関する指標は、主観的な症状の有無に関する情報を含む。例えば、Ocular Surface Disease Index(OSDI)アンケートに従って回答される情報を含む。例としてOSDIアンケートを用いる場合、例えば、[(すべての質問に対するスコアの合計)×100]/[(回答された質問の総数)×4]として、0から100までの範囲で総合OSDIスコアを算出し、総合OSDIスコアが高い程、障害が大きいことの指標として用いることができる。
【0062】
一実施形態において、医師により回答される臨床パラメータの指標は、臨床で医師が診察する際に用いられている眼疾患の診断項目に基づいて被検眼を評価した情報を含む。例えば、TMH、NIKBUT、スリットランプ顕微鏡等を用いて観察される被検眼の眼瞼の異常、シルマーテスト、フルオレセイン染料を用いた角膜や結膜表面の染色、角膜トポグラフィー、眼球断層像に関する情報を含む。
【0063】
一実施形態において、被検眼の動画像を解析するための数理モデルMは、畳み込みニューラルネットワーク(CNN)、畳み込みニューラルネットワーク以外の種類のニューラルネットワーク、長・短期記憶モデル(LSTM)等のニューラルネットワーク以外の種類の数理モデルのうちの1つ以上の数理モデルを含む。
【0064】
一実施形態において、畳み込みニューラルネットワークは、全結合層を含まない全層畳み込みネットワーク(FCN)、サポートベクターマシン、再帰型ニューラルネットワーク(RNN)等を含む。
【0065】
一実施形態において、モデル構築部170は、転移学習を用いて数理モデルMを構築する。すなわち、モデル構築部170は、他の訓練データを用いた機械学習が既に行われてパラメータ調整がなされた学習済みニューラルネットワークを用いて、数理モデルMを構築する。学習済みニューラルネットワークは、公知のオープンソースのニューラルネットワークアーキテクチャを用いて構築されたものであってもよい。
図12は、転移学習を用いて構築された数理モデルMの概念図の一例である。
【0066】
一実施形態において、モデル構築部170は、サポートベクターマシン、ベイズ分類器、ブースティング、カーネル密度推定、主成分分析、k平均法、独立成分分析、自己組織化写像、ランダムフォレスト、敵対的生成ネットワーク(GAN)といった任意の手法を用いて数理モデルMを構築する。
【0067】
一実施形態において、モデル構築部170は、教師あり学習、教師なし学習、及び強化学習のうちの1つ以上の訓練手法を用いて数理モデルMを構築する。
【0068】
一実施形態において、モデル構築部170は、構築した数理モデルMを定期的又は不定期に学習させることにより、更新する。
【0069】
一実施形態において、モデル構築部170は、取得部120により取得された動画像を学習データとして用いて、数理モデルMを学習させる。
【0070】
一実施形態において、数理モデルMによって分類される分類結果は、評価部140が、教師データとの一致度や逸脱度に応じて、被検眼が眼疾患に罹患している可能性を評価し、当該可能性の高さに応じて、被検眼を1以上の分類群に分類した結果である。
【0071】
一実施形態において、モデル構築部170は、数理モデルMが推測した結果と学習データにラベル付けを含む教師データとの誤差を最小化するように、数理モデルMを学習させる。
【0072】
一実施形態において、モデル構築部170は、参照眼から収集された動画像をコンピュータで加工して得られた加工画像を用いて数理モデルMを構築する。加工画像は、例えば、データ拡張(data argumentation)により加工された加工画像が挙げられる。
この態様によれば、モデル構築部170は、過学習のリスクを低減させた数理モデルMを構築することができる。
【0073】
<動作>
(動作例1:
図4参照)
図4は、眼科システム1による処理フロー例を示す図である。眼科システム1は、取得部120により、被検眼の動画像を取得する(ステップS110)。眼科システム1は、解析部130により、被検眼の動画像を解析する(ステップS120)。眼科システム1は、評価部140により、解析部130の解析結果に基づいて、被検眼を所定の眼疾患に関して分類した分類結果を生成する(ステップS130)。眼科システム1は、診断支援情報生成部150により、評価部140が生成した分類結果に基づいて、診断支援情報を生成する(ステップS140)。眼科システム1は、出力制御部160により、診断支援情報の出力を制御する(ステップS150)。
【0074】
(動作例2:
図5参照)
図5は、眼科システム1による処理フロー例を示す図である。眼科システム1は、取得部120により、被検眼の動画像を取得する(ステップS210)。眼科システム1は、解析部130により、被検眼の動画像に基づいて、被検眼表面の特徴に関する情報の空間的及び/又は時間的分布を解析する(ステップS220)。眼科システム1は、評価部140により、解析部130の解析結果に基づいて、被検眼を所定の眼疾患に関して分類した分類結果を生成する(ステップS230)。眼科システム1は、診断支援情報生成部150により、評価部140が生成した分類結果に基づいて、診断支援情報を生成する(ステップS240)。眼科システム1は、出力制御部160により、診断支援情報の出力を制御する(ステップS250)。
【0075】
(動作例3:
図6参照)
図6は、眼科システム1による処理フロー例を示す図である。眼科システム1は、取得部120により、被検眼の動画像を取得する(ステップS310)。眼科システム1は、解析部130により、被検眼の動画像に基づいて、被検眼表面の特徴に関する情報の空間的及び/又は時間的分布を解析する(ステップS220)。眼科システム1は、解析部130により、解析のプロセスを終了するか否かを判定する(ステップS330)。
【0076】
解析を終了しない場合(ステップS330:NO)、ステップS320に戻り、解析を終了すると判断するまで処理を繰り返す。解析を終了する場合(ステップS330:YES)、眼科システム1は、評価部140により、解析部130の解析結果に基づいて、被検眼を所定の眼疾患に関して分類した分類結果を生成する(ステップS340)。眼科システム1は、診断支援情報生成部150により、評価部140が生成した分類結果に基づいて、診断支援情報を生成する(ステップS350)。眼科システム1は、出力制御部160により、診断支援情報の出力を制御する(ステップS360)。
【0077】
(動作例4:
図7参照)
図7は、眼科システム1による処理フロー例を示す図である。眼科システム1は、取得部120により、被検眼の動画像を取得する(ステップS410)。眼科システム1は、解析部130により、被検眼の動画像に基づいて、当該被検眼における解析対象領域を特定する(ステップS420)。
【0078】
眼科システム1は、解析部130により、解析対象領域を所定の比率で区分した1以上の各区分の重要度を算出する(ステップS430)。重要度は、予め設定される所定の基準からの解離度、逸脱度及び所定の基準との一致度等から選択される1つ以上に基づいて、算出してもよい。
【0079】
眼科システム1は、解析部130により、重要度が所定値以上である区分の空間的及び/又は時間的分布を解析する(ステップS440)。眼科システム1は、解析部130により、解析のプロセスを終了するか否かを判定する(ステップS450)。解析を終了しない場合(ステップS450:NO)、ステップS440に戻り、解析を終了するまで処理を繰り返す。解析を終了する場合(ステップS450:YES)、眼科システム1は、評価部140により、解析部130の解析の結果に基づいて、被検眼を所定の眼疾患に関して分類した分類結果を生成する(ステップS460)。眼科システム1は、診断支援情報生成部150により、評価部140が生成した分類結果に基づいて、診断支援情報を生成する(ステップS470)。眼科システム1は、出力制御部160により、診断支援情報の出力を制御する(ステップS480)。
【0080】
(動作例5:
図8参照)
図8は、眼科システム1による処理フロー例を示す図である。眼科システム1は、取得部120により、被検眼の動画像を取得する(ステップS510)。眼科システム1は、解析部130により、被検眼の動画像を解析する(ステップS520)。眼科システム1は、評価部140により、解析部130の解析結果に基づいて、被検眼が所定の眼疾患に罹患している可能性を評価し(ステップS530)、当該可能性の高さに応じて、被検眼を眼疾患に関する分類群に分類する(ステップS540)。眼科システム1は、診断支援情報生成部150により、評価部140が生成した分類結果に基づいて、診断支援情報を生成する(ステップS550)。眼科システム1は、出力制御部160により、診断支援情報の出力を制御する(ステップS560)。
【0081】
(動作例6:
図9参照)
図9は、眼科システム1による処理フロー例を示す図である。眼科システム1は、取得部120により、被検眼の動画像を取得する(ステップS610)。眼科システム1は、解析部130により、学習済み数理モデルを用いて、被検眼の動画像を解析する(ステップS620)。眼科システム1は、評価部140により、学習済み数理モデルを用いて、眼疾患に関する分類結果を生成する(ステップS630)。このとき、学習済み数理モデルは、ステップS620で解析した解析結果を使用してよい。眼科システム1は、診断支援情報生成部150により、評価部140が生成した分類結果に基づいて、診断支援情報を生成する(ステップS640)。眼科システム1は、出力制御部160により、診断支援情報の出力を制御する(ステップS650)。
【0082】
(動作例7:
図10参照)
図10は、眼科システム1による処理フロー例を示す図である。眼科システム1は、取得部120により、被検眼の動画像を取得する(ステップS710)。眼科システム1は、解析部130により、被検眼の動画像に基づいて、当該被検眼における解析対象領域を特定し(ステップS720)、ドライアイに罹患している可能性の高さに応じた分類群に被検眼を分類する処理に資する情報(ここでは、瞬目前後の干渉縞に関する情報)の分布を解析する(ステップS730)。眼科システム1は、評価部140により、解析部130の解析結果に基づいて、被検眼がドライアイに罹患している可能性の高さを評価し、当該可能性の高さに応じて、被検眼を分類する(ステップS740)。
【0083】
眼科システム1は、解析部130により、解析のプロセスを終了するか否かを判定する(ステップS750)。解析を終了しない場合(ステップS750:NO)、ステップS740に戻り、解析を終了するまで処理を繰り返す。解析を終了する場合(ステップS750:YES)、眼科システム1は、評価部140により、解析部130の解析結果に基づいて、被検眼をドライアイに関して分類した分類結果(ここでは、ドライアイを罹患している可能性の高さに応じて分類した分類結果)を生成する(ステップS760)。眼科システム1は、出力制御部160により、診断支援情報の出力を制御する(ステップS770)。
【0084】
(動作例8:
図11参照)
図11は、眼科システム1による処理フロー例を示す図である。被検眼に空気パルスを当てて、外部ストレスを与える(ステップS800)。眼科システム1は、取得部120により、空気パルスに対する応答として現れる被検眼の角膜形状の動きを捉えた動画像を取得する(ステップS810)。眼科システム1は、解析部130により、被検眼の動画像に基づいて、当該被検眼における解析対象領域を特定し(ステップS820)、円錐角膜に罹患している可能性の高さに応じた分類群に被検眼を分類する処理に資する情報(ここでは、空気パルスに対する応答として合わられる被検眼の角膜形状の動きに関する情報)の分布を解析する(ステップS830)。眼科システム1は、評価部140により、解析部130の解析結果に基づいて、被検眼がドライアイに罹患している可能性の高さを評価し、当該可能性の高さに応じて、被検眼を分類する(ステップS840)。
【0085】
眼科システム1は、解析部130により、解析のプロセスを終了するか否かを判定する(ステップS850)。解析を終了しない場合(ステップS850:NO)、ステップS840に戻り、解析を終了するまで処理を繰り返す。解析を終了する場合(ステップS850:YES)、眼科システム1は、評価部140により、解析部130の解析結果に基づいて、被検眼をドライアイに関して分類した分類結果(ここでは、円錐角膜を罹患している可能性の高さに応じて分類した分類結果)を生成する(ステップS860)。眼科システム1は、出力制御部160により、診断支援情報の出力を制御する(ステップS870)。
【0086】
<実施例>
(実施例1)
一実施形態において、評価部140は、複数の眼疾患に関する分類を行う。
一実施形態において、眼疾患に関する評価情報は、被検眼が罹患しているか罹患している可能性がある2以上の眼疾患を特定する情報を含む。
本実施形態の眼科システム1は、眼球の動画像に映り込んだ眼表面に生じている異常を捉えて、眼疾患に罹患している可能性を評価するので、角膜や強膜の脆弱性を有していたり、眼表面に病変を生じ得る眼疾患を罹患しているか罹患している可能性のある眼球と、健常眼とに分類することが可能であり、様々な眼疾患に関する分類に適用することが可能である。したがって、所定の眼疾患に関する分類の際に、その他の潜在的な眼疾患に関する分類を並行して行ってもよい。
診断情報生成部は、評価部140によって生成された複数の分類結果に基づいて、被検眼における当該複数の眼疾患の診断を支援する診断支援情報を生成する。
この態様によれば、複数の眼疾患に罹患している可能性を知ることができるので、眼科の効率的な診断を支援することができる。
【0087】
(実施例2)
一実施形態において、解析部130は、被検眼の動画像を構成する1以上の各フレームを逐次的に処理することにより、被検眼の眼表面の特徴に関する情報の空間的及び/又は時間的分布の経時的な変化を解析する。
評価部140は、解析対象領域と、当該特徴に関する情報の分布と、当該分布の経時的な変化との少なくとも1つ以上に基づいて、当該被検眼が眼疾患に罹患している可能性を評価し、当該可能性の高さに応じて、被検眼を所定の眼疾患に関する分類群に分類する。
この態様によれば、眼科システム1は、被検眼の動画像に含まれる情報の経時的な変化を追跡して評価を行うことができる。
【0088】
(実施例3)
一実施形態において、解析部130は、被検眼の動画像を構成する1以上のフレームを処理した結果を比較することにより、被検眼表面の特徴に関する情報の空間的及び/又は時間的分布の経時的な変化を解析する。
例えば、解析部130は、第1の期間における1以上のフレームを含む第1フレーム群と、第2の期間における1以上のフレームを含む第2フレーム群との間で、被検眼表面の特徴に関する情報の空間的及び/又は時間的分布の平均値を比較することにより、当該被検眼表面の特徴に関する情報の空間的及び/又は時間的分布の経時的な変化を解析してもよい。解析部130は、第1の時点における第1フレームと、第2の時点における第2フレームとの間で、被検眼表面の特徴に関する情報の空間的分布を比較することにより、当該被検眼表面の特徴に関する情報の空間的分布の経時的な変化を解析してもよい。
評価部140は、解析対象領域と、当該特徴に関する情報の分布と、当該分布の経時的な変化との少なくとも1つ以上に基づいて、当該被検眼が眼疾患に罹患している可能性を評価し、当該可能性の高さに応じて、被検眼を所定の眼疾患に関する分類群に分類する。
この態様によれば、眼科システム1は、被検眼の動画像に含まれる情報の経時的な変化を追跡して評価を行うことができる。
【0089】
(実施例4)
一実施形態において、解析部130は、解析対象領域における、被検眼の眼表面の特徴に関する情報の分布に基づいて、当該解析対象領域を所定の比率で区分した1以上の各区分の重要度を算出し、当該重要度が所定の閾値以上である区画の空間的及び/又は時間的分布を解析する。
評価部140は、当該解析対象領域と、当該特徴に関する情報の分布と、当該区分の分布との少なくとも1つ以上に基づいて、当該被検眼が眼疾患に罹患している可能性を評価し、当該可能性の高さに応じて、被検眼を所定の眼疾患に関する分類群に分類する。
【0090】
区分の重要度は、例えば、学習済み数理モデルMにおける、眼疾患Aを罹患している疾患眼の教師データ(正解データ)の動画像に含まれる、眼疾患Aを罹患していることを示す特徴c1に関する情報と、被検眼の動画像に含まれる眼疾患Aを罹患していることを示す特徴c1に関する情報との照合により算出される。すなわち、重要度は、被検眼の動画像をサンプルとして、正解データからの解離度に基づいて、算出される。ここで、正解データからの解離度は、各画素の輝度に基づいて判断してもよい。
【0091】
一実施形態において、所定の眼疾患はドライアイであり、評価部140は解析部130が算出する重要度が所定の閾値以上である区分の空間的な散らばり方に基づいて、被検眼がドライアイに罹患している可能性を評価する。
【0092】
一実施形態において、所定の眼疾患は円錐角膜であり、評価部140は解析部130が算出する重要度が所定の閾値以上である区分の時間的な散らばり方に基づいて、被検眼が円錐角膜に罹患している可能性を評価する。また、例えば、評価部140は解析部130が算出する重要度が所定の閾値以上である区分の空間的な散らばり方に基づいて、被検眼が円錐角膜に罹患している可能性を評価する。
【0093】
(実施例5)
一実施形態において、所定の眼疾患はドライアイであり、被検眼の眼表面の特徴は、瞬目前後の干渉縞、又は涙液メニスカス高である。
以下に、ドライアイの診断支援に関する試験例を示す。
【0094】
試験例1:ドライアイの診断支援
ドライアイは、様々な要因により涙液層の安定性が低下する眼疾患であり、眼不快感や視機能に異常を来し、眼表面の障害を伴うケースも存在する。ドライアイでは、涙液の量が低下したり、質が低下したりすると、涙液層の安定性が低下し、まばたきをせずに涙液層を安定な分布に維持できる時間が短くなる。涙液の量の低下や質の低下の程度や出現は、ヒトによってさまざまである。
【0095】
ヒトがドライアイを診断するには、複数の臨床パラメータに基づいて総合的な判断が必要となり、たとえ専門医であっても、眼表面の動画像のみからドライアイを診断することは難しい。例えば、専門医であっても、眼表面の動画像に含まれるマイヤーリング像の僅かな変化や涙液層の干渉縞等の動態を精度高く確認することは困難である。
【0096】
近年、眼科診断を効率化する観点から、簡便なドライアイの診断システムの開発も進んでいるが、臨床的な検査を行うことなく患者によって回答される主観的な指標を基に判断していることから、臨床所見との間に不一致が存在するリスクを免れることが難しい。
【0097】
本発明者らは、被検眼の眼表面の動画像を用いてドライアイの診断支援を行う試験を実施した。方法及び結果を以下に記載する。
【0098】
1.方法
1-1.被検眼
眼科医療機関を訪れたドライアイの患者128人の合計128眼と、健常者116人の合計116眼とを被検眼とした。
【0099】
1-2.疾患眼と健常眼の事前分類
全被検者について、主観的な目の症状の有無に関する質問と、臨床パラメータ指標による検査を行った。
主観的な症状の有無に関する質問検査は、12項目のOcular Surface Disease Index(OSDI)アンケートに従って、0から4の数値スケールで評価した。総合OSDIスコアは、次の式に基づいて計算された:OSDI=[(すべての質問に対するスコアの合計)×100]/[(回答された質問の総数)×4]。総合OSDIは、0から100までの範囲で、高いスコアほど障害が大きいことを示す。
臨床パラメータ指標による検査は、以下の項目で行った。
(1)TMH及びNIBUTの測定
(2)スリットランプ顕微鏡による瞼縁の観察
(3)フルオレセインブレークアップタイム(FBUT)の測定、
(4)フルオレセイン染料を使用した角膜及び結膜表面の染色、並びに
(5)シルマーテスト
【0100】
FBUTは、通常の生理食塩水の一滴を点眼した後、下眼瞼結膜にフルオレセインストリップを適用して測定された。三回の試験の平均時間が記録された。
FBUTの測定後、角膜及び結膜の染色はNational Eye Institute(NEI) Industry Workshopスケールに従って0から3で評価され、スリットランプ顕微鏡で観察されたフルオレセイン染色のパターンに基づいて0から33で評価された。
シルマーテストIは局所麻酔無しで実施され、5分後の湿潤量が記録された。
【0101】
健常眼は以下の基準を使用して定義した:
(1)OSDIが12未満、
(2)フルオレセイン染色による角膜又は結膜上皮の損傷が無い、
(3)涙膜の異常が無い(NIKBUT(>5秒)、FBUT(>5秒)、TMH≧0.20mm、及びシルマーテスト値が5分後に>5mm)、並びに
(4)瞼の縁の異常が無い。
疾患眼は以下の基準を使用して定義した:
(1)DE症状がある(OSDI≧12)、
(2)フルオレセイン染色による角膜又は結膜上皮の損傷の存在、並びに
(3)NIKBUT(≦5秒)及び/又はFBUT(≦5秒)TBUTによる涙膜の不安定さ、TMH <0.20 mm及び/又はシルマーテストI(5分後に≦5mm)による涙の異常な生成の存在。
【0102】
1-3.動画像撮影
ケラトグラフ5M(Oculus Gmbh)を用いて、被検眼の動画像を撮影した。動画像の撮影は、1秒当たり32フレームのスピードで撮影した。また、被検者に通常どおり瞬きをするよう指示し、各被検眼あたり、2~3回の瞬きがなされる時間、撮影した。撮影に際し、白色光プラチドリング照明を使用し、涙液層に干渉縞を生じる5mm視野で倍率の調整を行いながら撮影した。
【0103】
1-4.動画像前処理(pre-processing)
全ての被検眼から、合計244本のビデオクリップを回収した。疾患眼群は、128本のビデオを含んでおり、健常眼群は、116本のビデオを含んでいた。記録されたビデオは、1秒当たり8フレーム、1360×1024の解像度で、Matroska video(MKV)及びaudio video interleaved(AVI)フォーマットにサンプリングした。各群からランダムに選抜された20本のビデオが、開発(訓練/試験)データセットとは独立した最終的な再テスト用サブセットとして使用された。
【0104】
1-5.訓練サブセットと試験サブセットの準備
計204眼の動画像フレームを抽出して、1024×1024ピクセルの解像度の画像を得るために、同じ像高を維持したまま、中央部の正方形部分に水平にトリミングした。次に、1人の研究者が、ドライアイ群及び健常群の両方において、画像セット(イメージ)全体を手作業で見直し、画質の悪い画像(イメージ)を除外し、まばたき中に瞼が閉じている、又は半分閉じている画像(イメージ)全てに手作業でラベルを付けた。これらの画像(イメージ)は「まばたき(blinking)」グループとして分類した。そして、全ての画像を224×224ピクセルの解像度にリサイズした。
これらと同じプロセスを行い、最終的な再テスト用サブセットを含む40本の動画像を準備した。全ての画像処理ステップは、OpenCVライブラリ(version 4.5.4)を用いて行われた。
【0105】
1-6.数理モデル構築
2700万以下のパラメータで事前に訓練された3つのCNNアーキテクチャ(DenseNet121、Resnet50V2、及びInceptionV3)に基づく転移学習を採用した。これらのモデルを、224×224サイズの入力画像(イメージ)に適合するよう調整し、出力(分類)層を切り捨て、疾患眼、健常眼及びblinkingの3つのクラスの尤度を提供するために、Softmax関数による活性化で重ねて訓練可能な重みをもつカスタムモデルに置換した。
図13は、構築したモデルのアーキテクチャを示す。事前に訓練されたCNNアーキテクチャは、ロードされたImageNetの重みで初期化され、これらの重みがカスタムデザインモデルが訓練される間凍結(訓練不可能)の状態であった。
【0106】
1-7.データ補強及びモデル訓練
過学習のリスクを最小化するために、伝統的な画像補強(Image argumentation)を行い、訓練画像の数を人為的に増加させて補強する処理を行った。この補強する処理は、最小限の回転、幅シフト、高さシフト、スケーリング、水平反転、ズームを含んでいた。各モデルは200エポック(反復)訓練され、損失関数にはカテゴリー・交差・エントロピーを用いた。最適化は、全てのモデルで8に設定されたAdam optimizer Batch sizeを用いて行われた。
【0107】
1-8.モデル試験
訓練後、交差エントロピー損失が最も小さい、最もパフォーマンスの良いモデルが選択された。選択されたモデルのパフォーマンスについて、再テスト用サブセットに基づいて評価を行った。評価には、いくつかの客観的指標(精度、再現率、正確度、特異度、F1スコア、混同行列、受信者操作特性(ROC)曲線、AUC等)を用いた。
【0108】
1-9.ヒト専門家とのパフォーマンス比較
モデルのパフォーマンスを、ヒト専門家のパフォーマンスと比較するために、健常眼群と疾患眼群から100フレームを選抜し、マスクされた専門家の、試験・再試験のばらつきを測定するために、10枚の複製画像を含めた。経験豊富な2人の角膜専門医が、正しい画像(イメージ)クラスを推測するために、画像のレビューを行った。これと同様の操作を10の動画像(うち5本の動画像はドライアイ群(クラス)に対応し、5本の動画像は健常群(クラス)に対応する)において繰り返した。この二値分類タスクに対する3つのCNNモデルについての推論結果も得た。
【0109】
各ネットワークパフォーマンスとの比較を可能にするベンチマークパフォーマンスの指標を得るために、疾患眼群と健常眼群を、年齢、OSDIスコア、及び他の眼試験パラメータ(TMH、NIKBUT、FBUT、フルオレセイン染色スコア、シルマーテストの記録等)に基づいて区別するための二値分類にて訓練されたsupport vector machine(SVM)も用いた。
CNNモデルのパフォーマンスと、SVMモデルのパフォーマンスは、confising matrix、ROC曲線、AUC、Detection error tradeoff(DET)曲線を用いて比較された。DET曲線は、ROC曲線に比べて、分類アルゴリズムの全てのパフォーマンスを視覚的に評価する上で有用である。また、偽陰性エラー率が改善するポイントを抽出する為の操作点解析が容易になる。
【0110】
未見の動画像を試験するために、動画像ストリームを初期化し、各フレームにおいて推測を行い、以前の推測に対する推測を反復的に平均化することによって推測キューを更新し、出力フレームに推測活性をタイムリーに描画し、最後にフレームを動画像フォーマットで保存するPythonスクリプトを開発した。
【0111】
キューあたりの推測の数は最適化された。より具体的には、キューあたりの推測の数(最後のラベルを得るために平均化されるべき)は、フレームがモデルによって分類されたときに推測のちらつきを効果的に防止する閾値まで徐々に増加させた。
【0112】
これらの動画の分類精度は、20フレームにおける推測を平均化した後、正しく分類されたフレームの数に基づいて定義された。平均化された推測の合計数の50%以上が正しい場合、全てのビデオが正しく分類されたものとした。
【0113】
1-10.クラス活性化マップ(CAM)
それぞれのクラスを同定するCNNのために、領域をハイライトする特定のクラスのためのクラス活性化マップ(CAM)は、より重要であった。これにより、CNNモデルの決定基盤を視覚的に検査することができる。最終的なソフトマックス活性化の前に、出力層の重みを逆投影することで、望ましいCAMを生成した。
【0114】
モデル決定に影響を与えた最も重要な画像領域をより深く理解するために、試験サブセットの画像の平均と、それに対応する平均化されたCAMを生成した。誤分類されたフレームとそれらに対応するCAMは除外された。各カテゴリの平均画像を計算するために、次元削減のための主成分分析(PCA)を採用し、ResNet50V2を用いてCAMを生成した。さらに、連続したフレームを使用して、連続したCAMを生成した。これらのCAMフレームは、モデルの推測に影響を与える領域を示すCAMビデオクリップ全体を作成するために使用された。
【0115】
1-11.統計解析
全ての統計解析は、Scipy(Pythonのための計算ツール)及びPythonのscikit-learnライブラリ(version 0.21.3.35)を用いて行われた。scikit-learnは、Scipyの上に構築された機械学習のためのPythonモジュールである。被検者データは、平均±SDで提示された。変数の正規性は、Kolmogorov-Smirnov検定を用いて確認された。
【0116】
バイタル染色のスコアとシルマーテストの記録は、一対のスチューデントのt検定を用いて分析した。全ての解析において、P≦0.05を統計的に有意とみなした。
【0117】
McNemar検定を行って、CNNモデルと角膜専門医の二値分類のパフォーマンスの比較を行った。
【0118】
それぞれ陽性クラスと定義されたクラスと、陰性クラスと定義された他のクラスの3クラス問題にROC曲線に使用を拡張するために、1対全アプローチが適用された。DET曲線は、二値分類のパフォーマンスを比較するために使用された。
【0119】
Pythonプログラミング言語(version3.9.9)をコードスクリプトに使用した。TensorFlowライブラリ(version2.7.0)のインターフェースとして、Keras Open-sourceソフトウェアライブラリ(version2.7.0)を使用した。
【0120】
サンプルサイズの計算には、Pythonにおけるコア計算ライブラリであるNumPy(Numerical Python)を使用した。2つの独立サンプルに対してはt検定を用いた統計的検出力の計算にはTTestIndPowerを用いた。各群に少なくとも114の被検者のサンプルサイズが必要であった(効果量=0.35、α誤差=0.05、検出力=0.75)。
【0121】
深層学習計算には、CUDA 11.0.126ドライブを搭載したNvidia Turingアーキテクチャで提供されるGeForceRTX 2060 SUPERグラフィックカードを搭載したパーソナルコンピュータから構成されるgraphical processing unit(GPU)上で行われた。
【0122】
2.結果
図14は、各モデルの訓練プロセスにおける評価である。ResNst50V2モデルにより、ドライアイ群、健常群、及びblinking群を正しく分類するため、AUCはそれぞれ0.99、0.99及び1.0であった。
【0123】
図15は、3つのCNNモデルに対応する混同行列を示す。
【0124】
図16及び17は、ヒト専門家とSVMモデルの二値分類パフォーマンスの比較を示す。2人の角膜専門医について、10複製フレームに基づく同意率は、それぞれ90%及び80%であった。
二値分類タスクに関し、2人の専門医の分類パフォーマンスは、それぞれ0.865及び0.710であった。SVM分類の精度は0.950であり、2人の専門医よりも有意に高かった(2人の専門医それぞれに対し、p=0.022及びp<0.001)。DenseNet201、ResNet502、及びInception V3 CNNモデルの精度スコアは、それぞれ0.835、0.915、及び0.710であった。3つのCNNモデルは、SVM分類よりも低いスコアを示した(それぞれp=0.032、0.182、及びp<0.001)。
【0125】
全ての動画像は、全てのCNNモデルによって正確に分類された。試験ビデオの平均分類精度は、DenseNet121、ResNst50V2、及びInception V3モデルで、それぞれ0.84、0.91、及び0.80であった。
【0126】
図18は、ResNst50V2及びDenseNet121モデルによって生成されたCAMの15の例を示す。CAMは、臨床的に妥当な空間的推論が可能であると思われる。健常と正しく分類されたほとんどの画像において、より重要な領域が角膜表面上のマイヤー反射で広く散らばっていた。
【0127】
図19は、再試験サブセットに基づく平均化されたCAMに対応する平均化された画像を示す。誤分類されたフレームとそれらに対応するCAMは除外されている。
【0128】
(実施例6)
一実施形態において、所定の眼疾患は円錐角膜であり、眼表面の特徴は、空気パルスを発すること等の被検眼に対する外部ストレスに対する応答として現れる被検眼の角膜形状の動きである。
以下に、円錐角膜の診断支援に関する試験例を示す。
【0129】
試験例2:円錐角膜の診断支援
円錐角膜は、角膜の希薄化と前方突出を特徴とする進行性の眼疾患であり、発症と進行時期が異なることもあり、早期の発見が難しい眼疾患である。進行により近視や乱視等の視機能障害を来し、角膜移植を必要とするケースも存在する。
【0130】
ヒトが円錐角膜を診断するには、細隙灯顕微鏡検査や角膜形状解析(角膜トポグラフィー)を用いるが、前者ではある程度角膜の突出が進行しなければ判断が難しいことから早期発見が困難であり、後者では角膜トポグラフィーの主観的観察に依拠することから、先入観が介入する懸念がある。
【0131】
本発明者らは、被検眼の眼表面の動画像を用いて円錐角膜の診断支援を行う試験を実施した。方法及び結果を以下に記載する。
【0132】
1.方法
1-1.被検眼
2つの被検眼データセットを準備した。第1の被検眼データセットとして、ブラジルの眼科医療機関を訪れた232人の合計447眼(うち131が健常眼であり101が疾患眼)を被検眼とした。第2の被検眼データセットとして、イランの眼科医療機関を訪れた502人の合計502眼(うち259が健常眼であり243が疾患眼)を被検眼とした。
【0133】
1-2.疾患眼と健常眼の事前分類
全被検眼について、2人の独立した角膜の専門医により、FleicherリングやVogt striaeを伴う角膜中心突出のスリットランプ証拠や、ゆがんだkeratometry miresや、網膜赤色反射のゆがみに基づく不規則な角膜の存在を含む臨床指標に基づいて、被検眼の円錐角膜眼と健常眼との分類を行った。
【0134】
1-3.動画像撮影
Corvis ST装置(Oculus Optikgerate GmbH)を用いて、被検眼に空気パルスを発射し、空気パルスに対する応答としての角膜の形状が変化する動画を撮影した。動画像の撮影は、1秒当たり4300フレームのスピードで撮影した。空気パルスが最大になったときが、角膜の最凹時である。空気パルスをオフにしたとき、角膜は、第2のアプラネーション状態を経由してオリジナルの形状に戻る。角膜が最終的にナチュラルな凸形状に戻ったとき、動画像の撮影を終了した。撮影に際し、青色LED光(470nm、紫外線無し)を用いて角膜からの散乱光を記録した。
【0135】
1-4.動画像前処理(pre-processing)
1-4-1.角膜の骨格像を用いたピクセル間距離測定
各マスク処理及び二値化処理を行い、角膜の形態学的な骨格を示すピクセルを残すようにして、角膜像を細線化した。得られた角膜の骨格像を、各リファレンスセグメントと比較して、ピクセル間のずれを計算した。
図20は、角膜の骨格像と、リファレンスセグメントとの各ピクセル間の距離の計算のフローチャートである。各骨格像について、140の動画像フレームを表現する140の数値配列を得るまで処理は繰り返した。
図20に示すように、3つのリファレンスセグメントを設けており、Aは第1のリファレンスセグメント(オリジナルリファレンスセグメント)、Bは第2のリファレンスセグメント(アプラネーションリファレンスセグメント)、Cは第3のリファレンスセグメント(最凹時リファレンスセグメント)である。1~3は、骨格像の状態を示しており、A-1、B-1及びC-1はオリジナルポジションにある角膜骨格像、A-2、B-2及びC-2はアプラネーション角膜骨格像、A-3、B-3及びC-3は最凹時角膜骨格像である。
【0136】
1-4-2.測定したピクセル間距離の可視化
3つのリファレンスセグメントとから算出された数値アレイをヒートマップに変換し、測定したピクセル間距離を可視化した。
図21は、ピクセル間距離の可視化像を示す。計140フレームについて、各可視化像は、縦方向に140の数値配列、横方向に450のカラムを有する。
【0137】
1-4-3.可視化像から疑似画像の生成
同じ動画像から得た3つの可視化像に対応する数値アレイを連結して疑似画像を生成した。
図22は、疑似画像の生成のイメージを示す。1-a、1-b及び1-cは、第1のビデオから得た3つの数値アレイをカラーチャネルに基づいて連結して生成した疑似画像であり、2-a、2-b及び2-cは、第2のビデオから得た3つの数値アレイをカラーチャネルに基づいて連結して生成した疑似画像である。
【0138】
1-5.数理モデル構築
1-5-1.数理モデル構築
事前に訓練されたCNNアーキテクチャ(DenseNet121)に基づく転移学習を採用した。当該アーキテクチャは、1000カテゴリの1400万のイメージを含むImageNet datasetに基づいており、高い精度を有する。事前に学習された当該アーキテクチャによって、各フレームを個別に解析した。
図23は、構築したモデルのアーキテクチャとモデルに画像を入力するイメージを示す。準備した疑似画像をクロッピングし、リサイズし、構築したモデルへ入力した。
【0139】
2.結果
図24は、構築したモデルの訓練のエポック数(反復数)に対する精度(左上図)と損失関数(左下図)と混同行列(右図)とを示す。
【0140】
図25はROC曲線及びYoudenインデックスを示す。
【0141】
図26は、外部検証データセットにおける円錐角膜と健常の二項分類タスクのための、各種分類器の受信者操作特性(ROC)曲線を示す。
【0142】
図27は、外部検証データセットにおける円錐角膜と健常の二項分類タスクのための、各種分類器の検出誤差トレードオフ曲線、および混同行列を示す。
【0143】
図28は、健常群と円錐角膜群における各パラメータ間のスピアマン順位相関係数とそのヒートマップ、またP値が0.05未満のみの表示を示す。
【0144】
図29は、構築したモデルの健常眼の分類に関するCAM活性化マップを示す。
【0145】
図30は、構築したモデルの疾患眼の分類に関するCAM活性化マップを示す。
【0146】
試験例3:円錐角膜の診断支援
本発明者らは、被検眼の眼表面の動画像を用いて円錐角膜の診断支援を行う試験を実施した。方法及び結果を以下に記載する。
【0147】
1.方法
1-1.被検眼
2つの被検眼データセットを準備した。第1の被検眼データセットとして、イランの眼科医療機関を訪れた224人の合計447眼を被検眼とした。第2の被検眼データセットとして、ブラジルの眼科医療機関を訪れた110人の合計219眼を被検眼とした。
【0148】
1-2.疾患眼と健常眼の事前分類
試験例2と同様にして、被検眼の疾患眼と健常眼の事前分類を行った。
【0149】
1-3.動画像撮影
試験例2と同様にして、被検眼の動画像撮影を行った。
【0150】
1-4.動画像前処理(pre-processing)
各動画像について、合計時間は約10秒間であり、各フレームの解像度は、576×224で、RCG(ルート・クロック・ジェネレーター)動画像符号化/復号化フォーマットで毎秒30フレームであった。動画像をAVIコーデックに変換し(Matlabプラットフォームでフレームにアクセスするため)、フレームの解像度を調整し、ディープラーニングモデルに対応するようにフレームをトリミングした。
図31は、被検眼の動画像における前処理によって得られた画像を示す。中央トリミングマスクを使用したマスク処理の後、各フレームに対する処理を行った。
【0151】
また、
図32は、本試験の概要を示すフローチャート図である。
【0152】
1-5.角膜動画像の解析(特徴抽出)
被検眼の動画像を、事前に訓練されたGoogleNet畳み込みニューラルネットワーク(CNN)アーキテクチャを用いて、一連の特徴ベクトルシーケンスに変換した。当該アーキテクチャは、1000カテゴリの1400万のイメージを含むImageNet datasetに基づいており、高い精度を有する。
【0153】
1-6.長・短期記憶(LSTM:Long Short-term memory)の訓練
空気パルスに対する応答としての角膜形状の変形を記録した動画像には、時間的特徴が含まれるため、円錐角膜を検出するための特徴の時間的特性を利用するLSTMモデルを開発した。LSTMモデルには、ベクトルのフォーマットの入力層、2000の隠れユニットを伴う双方向LSTM(BiLSTM)層、ドロップアウト層、2の出力サイズを伴う完全結合層、ソフトマックス層、及び分類層が含まれる。約90%のデータをLSTMモデルの訓練に用い、約10%のデータをモデルの検証に用いた。
【0154】
(全体のフレームワークについて)
図33は、本試験のアプローチの時系列順のステップの概要を示すフローチャート図である。動画像は、まずそれぞれ1024の特徴を有する139のシーケンスに変換した(特徴抽出)。これらのシーケンスは展開され、平坦化された(139×1024の要素を伴うベクトルに変換された)後、円錐角膜検出のための動画像の時間的特性を活用するため、LSTM訓練層に入力された。本試験のアプローチはこのようなフレームワークを有しており、構築されたモデルが、入力された動画像を直接分類できることを利点の一つとして有する。
【0155】
(シナリオデザインについて)
本試験では、2つの異なるシナリオをデザインした。第1のシナリオでは、異なる地域において収集された全てのデータセットを組合わせて、合計666眼から入手した合計666の動画像のうち、85%を開発、10%を微調整(fine tuning)、5%をテストとして選択し、モデルのパフォーマンスを評価した。第2のシナリオでは、一般化可能性を担保するために、ブラジルで収集されたデータセット(開発用データセット)に基づいてモデルを開発し、イランで収集されたデータセット(独立検証用データセット)に基づいてモデルを検証/再テストした。
【0156】
(ヒト専門家と構築したモデルのパフォーマンスの比較)
第2の被検眼データセット(独立検証用データセット)から、健常眼の30本の動画像と、円錐角膜眼の30本の動画像をランダムに選抜し、3人の角膜専門医に対し、これらの動画像のみから円錐角膜か否かを診断させた。モデルの出力と、ヒト専門家の回答とを、AUC指標に基づいて比較した。
【0157】
2.結果
図34は、LSTM訓練のエポック数(反復数)に対する精度(上段)と損失関数(下段)を示す。エポック数が約3000を超えると、LSTMモデルは約90%以上の精度を達成した。
【0158】
第1のシナリオに基づくモデルでは、0.94のAUCと、90%の精度を達成した。
図35は、ROC曲線と混同行列を示す。
【0159】
第2のシナリオに基づくモデルでは、0.86のAUCと67%の精度を達成した。
図36はROC曲線と混同行列を示す。
【産業上の利用可能性】
【0160】
本発明により、複雑な機械や検査を必要とせず、眼球の動画を撮影し入力するという簡便な操作によって、眼疾患に罹患している可能性を発見できることから、比較的安価に定期的な眼の健診サービスを提供したり、被検者の自己診断ツールとして使用されたり、これにより眼科診療の発展や世界的な喫緊の課題である健康寿命の延伸に資することも期待できる。
【0161】
また、眼球や眼球の動画像に対する観察者の主観的な意見や偏見が介入することなく、眼疾患に罹患している可能性を発見できることから、本実施形態の診断支援情報は、ユーザにとって安心できるセカンドオピニオン的な存在として寄与することが期待できる。
【0162】
また、複雑な検査や知見を必要とせず、眼球の動画を撮影し入力するという操作によって、眼疾患に罹患している可能性を発見できることから、高度な専門性や知見を有する医師が在籍していない医療機関や、経験の乏しい医師であっても、本実施形態の診断支援情報を活用して、より簡便に、効率的な診断を提供することができる。
【0163】
さらにはビッグデータとしてAIにより解析を行い、眼科の医師の診断精度を向上させることが期待できる。
【符号の説明】
【0164】
1…眼科システム、10…眼科装置、20…撮像装置、N…通信ネットワーク、71…プロセッサ、72…通信IF、73…記憶装置、74…入力装置、75…出力装置、110…記憶部、120…取得部、130…解析部、140…評価部、150…診断支援情報生成部、160…出力制御部、170…モデル構築部