(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-08-01
(45)【発行日】2022-08-09
(54)【発明の名称】網膜連続撮像中のフラッシュ最適化
(51)【国際特許分類】
A61B 3/15 20060101AFI20220802BHJP
G02B 7/36 20210101ALI20220802BHJP
G03B 13/36 20210101ALI20220802BHJP
A61B 3/12 20060101ALI20220802BHJP
H04N 5/235 20060101ALI20220802BHJP
H04N 5/232 20060101ALI20220802BHJP
H04N 5/225 20060101ALI20220802BHJP
A61B 3/113 20060101ALI20220802BHJP
【FI】
A61B3/15
G02B7/36
G03B13/36
A61B3/12
H04N5/235 400
H04N5/232 290
H04N5/225 600
A61B3/113
(21)【出願番号】P 2020517849
(86)(22)【出願日】2018-10-09
(86)【国際出願番号】 US2018054965
(87)【国際公開番号】W WO2019079063
(87)【国際公開日】2019-04-25
【審査請求日】2020-05-25
(32)【優先日】2017-10-17
(33)【優先権主張国・地域又は機関】US
(73)【特許権者】
【識別番号】516035068
【氏名又は名称】ヴェリリー ライフ サイエンシズ エルエルシー
(74)【代理人】
【識別番号】100079108
【氏名又は名称】稲葉 良幸
(74)【代理人】
【識別番号】100126480
【氏名又は名称】佐藤 睦
(72)【発明者】
【氏名】ウォルシュ,コーリー
(72)【発明者】
【氏名】グリク,エリエゼル
(72)【発明者】
【氏名】カヴーシ,サム
【審査官】北島 拓馬
(56)【参考文献】
【文献】特開2010-194160(JP,A)
【文献】特開2008-212327(JP,A)
【文献】特開2005-245894(JP,A)
【文献】特表2017-526507(JP,A)
【文献】特開2003-339642(JP,A)
【文献】特開2012-050588(JP,A)
【文献】特開2014-083397(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
A61B 3/00 - 3/18
(57)【特許請求の範囲】
【請求項1】
眼の内部を撮像するための装置であって、
画像センサと、
可視光を出力することができる複数の光エミッタ(LE)と、
非可視光を出力することができる複数の非可視光エミッタ(NV-LE)と、
前記複数のLE、前記複数のNV-LE、および前記
画像センサに連結されたコントローラとを備え、前記コントローラは、前記コントローラによって実行されると、前記装置に、
前記複数のNV-LEからの前記非可視光で前記眼を照らすことと、
前記複数のNV-LE中の前記NV-LEの各々について、前記眼からの前記非可視光の反射量を決定することと、
前記NV-LEの各々について前記非可視光の前記反射量に少なくとも部分的に基づいて、前記複数のLE中の1つ以上のLEを選択することと、
前記複数のLE中の選択された1つ以上のLEで前記眼を照らすことと、
前記
画像センサを用いて、前記眼が前記LEからの
前記可視光で照らされている間に、前記眼の内部の一連の画像を撮影することとを含む動作を実行させるロジックを実施する、装置。
【請求項2】
前記LEの各々は、前記NV-LEの各々と同位置に配置され、前記コントローラは、前記コントローラによって実行されると、前記装置に、
前記NV-LEの各々について前記眼からの前記非可視光の前記反射量を、前記LEの各々について前記眼からの前記
可視光の第2の反射量と相関させることを含む動作を実行させるロジックをさらに実施する、請求項1に記載の装置。
【請求項3】
前記LEのうちの選択された1つ以上で前記眼を照らすことは、対応するNV-LEからの前記非可視光の前記反射量が反射閾値よりも大きいとき、前記LEのうちのいくつかを無効にすることを含む、請求項2に記載の装置。
【請求項4】
前記コントローラに連結された複数のフォトダイオードをさらに備え、前記コントローラは、前記コントローラによって実行されると、前記装置に、
前記複数のフォトダイオードを用いて、前記眼からの前記非可視光の前記反射量を測定することを含む動作を実行させるロジックをさらに実施し、前記コントローラは、前記複数のフォトダイオードによって測定された前記反射量を分析して、前記NV-LEの各々について前記眼からの前記非可視光の前記反射量を決定する、請求項1に記載の装置。
【請求項5】
前記コントローラは、前記コントローラによって実行されると、前記装置に、
前記複数のフォトダイオードで測定されるような、前記眼からの前記非可視光の前記反射量に基づいて、前記眼の前記内部に焦点が合ったときを決定することを含む動作を実行させるロジックをさらに実施する、請求項4に記載の装置。
【請求項6】
前記コントローラは、前記コントローラによって実行されると、前記装置に、
前記
画像センサを使用して、前記眼からの前記非可視光の前記反射量を測定することを含む動作を実行させるロジックをさらに実施し、前記コントローラは、前記
画像センサによって測定された前記反射量を分析して、前記NV-LEの各々について前記眼からの前記非可視光の前記反射量を決定する、請求項1に記載の装置。
【請求項7】
前記コントローラは、前記コントローラによって実行されると、前記装置に、
前記
画像センサによって測定される、前記眼からの前記非可視光の前記反射量に基づいて、前記眼の前記内部に焦点が合ったときを決定することを含む動作を実行させるロジックをさらに実施する、請求項6に記載の装置。
【請求項8】
前記コントローラは、前記コントローラによって実行されると、前記装置に、
前記一連の画像の少なくともいくつかの画像を合成して、前記眼の前記内部の合成画像を形成することを含む動作を実行させるロジックをさらに実施し、合成することは、フォーカススタッキング、画像スティッチング、画像ブレンディング、またはこれらの任意の組み合わせのうちの少なくとも1つを含む、請求項1に記載の装置。
【請求項9】
前記NV-LEからの前記非可視光で前記眼を照らすことは、前記複数のNV-LE中の前記NV-LEの各々で前記眼を順次照らすことを含み、LEからの前記
可視光で前記眼を照らすことは、前記複数のLE中のいくつかのLEで前記眼を順次照らすことを含む、請求項1に記載の装置。
【請求項10】
前記コントローラは、前記コントローラによって実行されると、前記装置に、
前記NV-LEの各々について前記眼からの前記非可視光の前記反射量に応答して、前記眼を照らす前記LEの順序を決定することを含む動作を実行させるロジックをさらに実施する、請求項9に記載の装置。
【請求項11】
前記複数のLEおよび前記複数のNV-LEは、リング上に配置され、前記LEの各々および前記NV-LEの各々は、互いに隣接して、かつ前記リングの周りに等間隔で配置されている、請求項1に記載の装置。
【請求項12】
眼の内部を撮像するための装置の作動方法であって、
前記装置は、
画像センサと、複数の光エミッタ(LE)と、複数の非可視光エミッタ(NV-LE)と、前記複数のLE、前記複数のNV-LE、および前記
画像センサに連結されたコントローラとを備え、
前記作動方法は、
前記装置が、前記複数のNV-LE中のNV-LEからの非可視光で前記眼を照らすことと、
前記装置が、前記コントローラを用いて、前記NV-LEの各々について前記眼からの前記非可視光の反射量を決定することと、
前記装置が、前記NV-LEの各々についての前記非可視光の前記反射量に基づいて、前記複数のLEからLEを選択することと、
前記装置が、選択されたLEからの
可視光で前記眼を照らすことと、
前記装置が、前記
画像センサを用いて、前記眼が前記LEからの前記
可視光で照らされている間に、前記眼の内部の画像を含む一連の画像を撮影することと、を含む、作動方法。
【請求項13】
前記装置が、前記コントローラを用いて、前記NV-LEの各々についての前記眼からの前記非可視光の前記反射量を、前記LEの各々についての前記眼からの前記
可視光の第2の反射量と相関させることをさらに含む、請求項12に記載の作動方法。
【請求項14】
前記装置が、前記非可視光の前記反射量に基づいて、前記眼を照らす前記LEの順序を決定することをさらに含む、請求項12に記載の作動方法。
【請求項15】
前記装置が、前記コントローラを用いて、前記一連の画像の少なくともいくつかの画像を合成して前記眼の前記内部の合成画像を形成することをさらに含み、合成することは、フォーカススタッキング、画像スティッチング、画像ブレンディング、またはこれらの任意の組み合わせのうちの少なくとも1つを含む、請求項12に記載の作動方法。
【請求項16】
前記非可視光で前記眼を照らすことは、前記
可視光で前記眼を照らす前に行われ、前記NV-LEの各々は、前記LEの各々と同位置に配置されている、請求項12に記載の作動方法。
【請求項17】
前記装置は、前記コントローラに連結された複数のフォトダイオードをさらに備え、
前記装置が、前記複数のフォトダイオードを用いて、前記NV-LEの各々について前記眼からの前記非可視光の前記反射量を測定することをさらに含む、請求項12に記載の作動方法。
【請求項18】
前記装置が、コントラスト検出オートフォーカスを使用して前記一連の画像を撮影するために、前記
画像センサが合焦であると決定することをさらに含む、請求項17に記載の作動方法。
【請求項19】
前記非可視光の前記反射量を測定することは、前記複数のフォトダイオードの上に配置されたカラーフィルタで前記非可視光以外の光の波長をフィルタリングすることを含む、請求項17に記載の作動方法。
【請求項20】
コントラスト検出オートフォーカスを使用することは、前記フォトダイオード間の前記非可視光の強度差を前記コントローラを用いて測定することを含む、請求項18に記載の作動方法。
【請求項21】
コントラスト検出オートフォーカスを使用することは、前記コントローラを使用して、前記
画像センサ内の隣接ピクセル間の前記非可視光の強度差を決定することを含む、請求項18に記載の作動方法。
【請求項22】
前記装置が、前記複数のLEから前記LEを選択する前に、前記眼の瞳孔の画像を撮影することと、
前記装置が、前記コントローラを用いて、前記画像または前記瞳孔を使用して前記瞳孔の位置を決定することとをさらに含み、前記LEを選択することは、少なくとも部分的には、前記瞳孔の位置を使用して前記LEを選択することを含む、請求項12に記載の作動方法。
【請求項23】
前記選択されたLEのうちの少なくともいくつかは、前記眼を照らすために使用される前記NV-LEの各々と同位置に配置されていない、請求項12に記載の作動方法。
【発明の詳細な説明】
【技術分野】
【0001】
関連出願の相互参照
本出願は、2017年10月17日に出願された米国仮特許出願第62/573,324号の優先権を主張し、その内容は参照により本明細書に組み込まれる。
【0002】
本開示は、概して、撮像技術に関し、具体的には、網膜撮像に関する。
【背景技術】
【0003】
網膜撮像は、多くの網膜疾患のスクリーニング、現場診断、および進行モニタリングのための、基本的な眼検査の一部である。高忠実度の網膜画像は、正確なスクリーニング、診断、およびモニタリングに重要である。瞳孔を通して眼の後部内面(例えば、網膜)を明るく照らすと、画像の忠実度が向上する一方で、光学収差や、レンズフレアなどの画像アーチファクトが生じることがよくある。レンズフレアは、内部反射、さまざまな内部境界での屈折率変化、不完全性などにより、レンズシステムの内部コンポーネントから光が散乱する現象である。この散乱光は、網膜像にレンズフレアとして現れ、画像品質に有害である。明るく照らすほど、レンズフレアが顕著になり、画像の忠実度を向上させるという目標が損なわれる。瞳孔との不整合による角膜反射または虹彩反射が原因で、他の画像アーチファクトが生じる場合がある。
【図面の簡単な説明】
【0004】
本発明の非限定的かつ非網羅的な実施形態を以下の図を参照して説明するが、ここで、特に指定されない限り、同様の参照番号は、さまざまな図全体を通して同様の部分を指す。必要に応じて図面が煩雑にならないように、要素のすべての例が必ずしもラベル付けされているわけではない。図面は必ずしも縮尺通りではなく、説明されている原理を示すことに重点が置かれている。
【0005】
【
図1A】本開示の一実施形態による、眼の内部を撮像するためのシステムを示す。
【
図1B】本開示の一実施形態による、
図1Aの装置に含まれる動的照明器の正面図を示す。
【
図1C】本開示の一実施形態による、
図1Aの装置に含まれる動的照明器の正面図を示す。
【
図2】本開示の一実施形態による、動的照明器を使用する例示的な網膜撮像システムを示す図である。
【
図3】本開示の一実施形態による、統合画像信号プロセッサを含む網膜カメラの機能ブロック図である。
【
図4】本開示の一実施形態による、統合画像信号プロセッサを含む網膜カメラによる画像処理を示すブロック流れ図である。
【
図5A】本開示の一実施形態による、異なる照明パターンで撮影された網膜の画像フレームを示す。
【
図5B】本開示の一実施形態による、異なる照明パターンで撮影された網膜の画像フレームを示す。
【
図5C】本開示の一実施形態による、異なる照明パターンで撮影された網膜の画像フレームを示す。
【
図6】本開示の一実施形態による、虹彩のフォーカススタッキング画像を示す。
【
図7】本開示の一実施形態による、眼の内部を撮像する方法のフローチャートを示す。
【発明を実施するための形態】
【0006】
本明細書では、網膜連続撮像中のフラッシュ最適化のシステム、装置、および方法の実施形態を説明する。以下の説明では、実施形態が完全に理解されるように、多くの特定の詳細を示す。しかしながら、関連技術の当業者は、本明細書に記載された技術が、1つ以上の特定の詳細なしで、または他の方法、構成要素、材料などを用いて実施され得ることを認識するであろう。他の例では、特定の態様を不明瞭にしないために、周知の構造、材料、または操作は詳細に図示または説明しない。
【0007】
本明細書全体を通して「1つの実施形態」または「一実施形態」というのは、実施形態に関連して説明された特定の特徴、構造、または特性が本発明の少なくとも1つの実施形態に含まれることを意味する。したがって、本明細書全体にわたるさまざまな箇所における「1つの実施形態では」または「一実施形態では」という句の出現は、必ずしもすべてが同じ実施形態を指しているわけではない。さらに、特定の特徴、構造、または特性は、1つ以上の実施形態において任意の好適な様式で組み合わせることができる。
【0008】
高忠実度の網膜画像は、多くの網膜疾患のスクリーニング、診断、およびモニタリングに重要である。このために、網膜画像の部分を閉塞または別様に害する画像アーチファクト(例えば、有害な角膜反射など)の事例を低減または排除することが望ましい。本明細書で説明される実施形態は、眼の内部を撮像するときに眼の反射を低減するためのシステムおよび方法を説明する。撮影された画像を合成して、眼の内部(例えば、虹彩)の合成画像を形成する。不良の少ない画像を使用することで、撮影する必要のある画像数が減り、高品質の合成画像を生成するために必要な処理能力も減る。
【0009】
いくつかの実施形態では、眼を撮像するための照明アセンブリに、モジュール式プリント回路基板(PCB)マウントを使用し得る。複数の可視フラッシュ源がPCBに取り付けられ得、どの光が発射すべき(例えば、光源を短時間点灯にし、次いで光源を消灯する)かをすばやく決定する必要があり得る。可視フラッシュ源を順次またはランダムかのいずれかで発射させると、少なくとも1つの良好なフレーム(例えば、焦点が合っている、露出十分なフレーム)が得られる可能性があるだけでなく、不良フレーム(例えば、焦点が外れている、露出不十分なフレーム)の割合も高くなる。ここで、画像フレームを撮影するために発射されるフラッシュ源の順序および数は、赤外線(IR)事前照明を使用し、IR事前照明の、異なる位置からのそれぞれの反射光をモニタリングして、最適化される。
【0010】
いくつかの実施形態では、複数のIR源が、PCB上に、白色/可視源に可能な限り近接して配置され得る。例えば、各IR源のハウジングは、各白色/可視光源のハウジングと接触することができ、または、IR光および可視光は、同じダイオード構造から放射される。すべてのIR源が順次またはランダムに発射され、コントローラ(例えば、汎用プロセッサとメモリ、分散システム、画像信号プロセッサなど)は、どのIR光源が、反射および他の画像不良が最も少なかったかを決定し得る。IR反射は、可視(例えば、白色光など)反射と相関し得る。観察されたIR反射に基づいて、コントローラは、可視画像撮影中にどの可視フラッシュ源を発射させるかを決定する。
【0011】
いくつかの実施形態では、画像処理を備えた画像センサを使用して、眼から反射して戻ったIR光を検出し得、コントローラは、カメラによって観察されるIR反射に基づいて、どの可視光を発射するかを決定し得る。しかしながら、別のまたは同じ実施形態では、可視光エミッタおよびIR光エミッタに近接して配置された一群のフォトダイオードを使用して、低反射フレームを検出し得る。いくつかの実施形態では、最も暗いフレーム(照明が不十分である可能性がある)だけを撮影することは望ましくないため、フォトダイオード上にカラーフィルタを使用して、最も明るい、多くの場合に赤色(網膜は主に赤であるため)の画像を検出することが可能である。これは、撮影中に非常に高速で実行でき、動いている眼により良く対応することができる可能性がある。いくつかの実施形態では、アナログ回路が、IR光エミッタの順次発射を制御し、順番の各ステップにおけるフォトダイオードの出力を分析し、分析に従って画像経路の周りに配置された可視光エミッタの発射を制御することができる。他のまたは同じ実施形態では、追加のマイクロプロセッサ、または網膜カメラの既存のコントローラを使用して、そのようなアナログ回路の機能を達成することができる。いくつかの実施形態では、フォトダイオードは、可視光源およびIR光源と同じPCB上に取り付けられる。いくつかの実施形態では、これらの光検出フォトダイオードは、画像センサ平面の近くまたは周りに配置され得る。これは、大きな反射が画像平面に到達しているかどうかを判定するのに役立つ。
【0012】
いくつかの実施形態では、事前撮影の間、被写体を光路と整列させ、赤外線照明のみを使用して眼を撮像し、反射がどこから生じているかを判定し得る。IR反射は、カメラ(または複数のフォトダイオード)を用いて測定し得、これらの信号は、反射を生成したIR光源を決定するコントローラで受信し得る。IR事前照明は、各IR光エミッタを順番に発射することによって順次に行い得、またはランダムにもしくは他の順番で行い得ることが理解される。画像センサは、赤外線で照らされた画像を受け取り、それらの画像(および他の利用可能な情報)に基づいて、システムは、後続のフェーズにいつ、どのように入るかを決定することができる。赤外線スペクトルで入手可能な情報に基づいて、システムは、高品質の画像を生成すると予想される、順次に発射する1組の白色照明源を決定する。これは、使用可能な赤外線照明器を順次発射させ、各々について品質量を決定することによって達成することができる。次いで、光学系のモデルを使用して、同様に高品質の画像を生成すると予想される1組の白色照明器を決定することができる。IR照明時間は、どの可視光源が高品質の画像を生成するかを決定するのにかかる時間に応じて、可視照明時間よりも長いかまたは短いか、またはその逆であり得ることが理解される。
【0013】
撮影フェーズは継続時間が限られているため、システム構成についての決定をリアルタイムで行うことが重要である。画像センサによって収集されたデータに依存するいかなる方法も、データの転送および処理によって引き起こされる待ち時間を被る可能性がある。述べたように、フラッシュ順番をリアルタイムで更新する1つの潜在的な方法は、1組のフォトダイオードを使用して画質状態を推定することである。不整合な照明は、暗い画像を特徴とする可能性がある。逆に、角膜反射はしばしば明るい白色領域を伴う。高品質の網膜画像は、概して、中程度の明るさで、主に色相が赤である。撮像経路内に光フィルタを備えたフォトダイオードは、これらの状態を非常に迅速に(画像センサ露出よりもはるかに短いタイムスケールで)検出し、有効な照明器のセットを継続的に変更して、好ましい状態に最適化することができる。
【0014】
網膜撮像システムの可視LED(例えば、白色LED、またはレーザーダイオード、フラッシュ電球など他の照明源)が点灯されると、撮影が始まり得る。明るい光により、被写体の虹彩は急速に閉じる。したがって、網膜像を構築するために後で使用されるデータを収集する好機は短い。このフェーズの間、システムを制御して、可能な限り最良のデータを収集することが重要である。一旦白色光が消えると、撮影後処理が開始する。このフェーズでは、前のフェーズの間にシステムによって収集されたデータを処理する時間がある。
【0015】
以下の開示は、
図1A~
図7に関連するので、上で論じられた実施形態を説明する。
【0016】
図1Aは、本開示の一実施形態による、眼の内部を撮像するためのシステム100を示す。図示された撮像システム100の実施形態は、動的照明器105と、カメラ110と、コントローラ115と、眼101の網膜125の連続画像フレームを撮影することができる光学リレーシステム120とを含む。また、眼101の虹彩135および瞳孔130も示されており、光は、瞳孔130を通過して眼101に入り、眼101から出、虹彩135は、光の状態に応じて大きさが増減する。
【0017】
図1Bに関連してより詳細に示されるように、動的照明器105は、可視光を出力することができる複数の可視光発光ダイオード(V-LED)と、赤外光を出力することができる複数の赤外光発光ダイオード(IR-LED)とを含む。動的照明器105、その構成コンポーネント、およびカメラ110(>240フレーム/秒を撮影することが可能であり得る)は、コントローラ115に連結されている。コントローラ115は、コントローラ115によって実行されると、システム100に、複数のIR-LEDからの赤外光で眼101を照らすことと、複数のIR-LED中のIR-LEDの各々について眼101からの赤外光の反射量(例えば、強度、位置に対する強度など)を決定することとを含むさまざまな動作を実行させるロジックを実施する。次いで、システム100は、IR-LEDの各々についての赤外光の反射量に少なくとも部分的に基づいて、複数のV-LED中の選択された1つ以上のV-LEDで眼101を照らし得る。次いで、システム100は、カメラ110を用いて、眼101がV-LEDからの可視光で照らされている間に、眼101の内部(例えば、網膜)の一連の画像を撮影し得る。言い換えると、図示の実施形態では、最初に動的照明器105が眼101をIR光で照らし得、次いでカメラ110が眼101から反射されたIR光を撮像し得る。コントローラ115は、反射IR光の画像を処理し、画像品質を損なう反射がある場所を確認する。コントローラ115は、これらの反射がどのIR-LEDから来たかを確認し得、またどのIR-LEDが反射を生成しなかったのかを確認し得る。次いで、コントローラ115は、反射光を生成しなかったIR-LEDと同位置に配置されたV-LEDのみを発射させ得る(例えば、対応するIR-LEDからの赤外光の反射量が反射閾値よりも大きい場合、V-LEDのいくつかを無効とする)。コントローラ115はまた、IR-LEDの各々についての眼からの赤外光の反射量に応答して、眼101を照らすV-LEDの順序を決定し得る。したがって、カメラ110は、ほとんど反射を含まない眼101の可視画像を撮影する。
【0018】
眼101からのIR光および可視光の反射プロファイルは同じではない可能性があるため(例えば、眼101は可視光よりも多くのIR光を吸収することができ、またはその逆もあり得る)、いくつかの実施形態では、コントローラ115は、IR-LEDの各々についての眼101からの赤外光の反射量をV-LEDの各々についての眼101からの可視光の第2の反射量と相関させ得る。言い換えると、IR光の反射プロファイルを可視光の反射プロファイルと相関させ、コントローラは、IR光の反射プロファイルを見た後に、どのV-LEDを点灯または消灯させるかが分かる。
【0019】
動的照明器105は、可視光パルスおよびIR光パルスを任意の順序で、さらには並行して放射し得、画像を同様の様式で撮影し得ることが理解される。例えば、動的照明器105は、すべてのIR-LEDを順次発射し得、次いで、コントローラ115は、すべてのIR-LEDについて反射プロファイルを展開することができる。次いで、動的照明器105は、選択されたV-LEDを発射することができる。しかしながら、他の実施形態では、動的照明器105は、1つのIR-LEDを発射し、次いで1つのV-LEDを発射するなどしてもよい。他の実施形態では、複数のIR-LEDおよびV-LEDが同時に発射され得る。
【0020】
フォーカススタッキング(つまり、異なる焦点距離で撮影された複数の画像を合成して、個々のソース画像のいずれよりも被写界深度が大きい画像を得る)、画像スティッチング(つまり、視野が重なり合う複数の写真画像を合成して、セグメント化されたパノラマまたは高解像度画像を生成する)、画像ブレンディング(つまり、背景画像と前景画像とを合成して、部分的に透明な外観を得る)、またはこれらの任意の組み合わせのうちの少なくとも1つを使用して、撮影された可視画像の少なくともいくつかを合成して合成画像を形成し得る。
【0021】
低反射の画像を生成する可能性のあるV-LEDのみを点灯することに加えて、低品質画像を除外する他の手法を使用し得ることが理解される。例えば、第1のセットの低品質画像は、第1の輝度閾値よりも大きい輝度値(例えば、画像中のすべてのピクセルまたはピクセルのセットの平均輝度値)を有する露出過多画像、または第2の輝度閾値よりも小さい輝度値を有する露出不足画像を含み得る。いくつかの実施形態では、第1のセットの画像は、(例えば、撮像中に画像センサが動いたために)画像がぼやけすぎている、(例えば、撮像中に被写体が動いたために)画像が網膜の画像を含まないなど、他の理由ではっきりと解像されないことがある。画像は、手動選択または自動選択によって除外され得る(例えば、高域/低域フィルタを使用して高すぎるまたは低すぎる輝度値を有する画像を除外する、および/または機械学習アルゴリズムを使用して、網膜を含まない画像を除外するなど)。
【0022】
図1Bは、本開示の一実施形態による、
図1Aの装置に含まれる動的照明器105の正面図を示す。動的照明器105は、V-LED151、IR-LED153、および(IR光を吸収することができる)フォトダイオード155を含む。図示した実施形態では、V-LED151、IR-LED153、およびフォトダイオード155は、互いに実質的に同位置に配置されている。さらに、動的照明器105の(例えば、上述のPCBを含む)リング160の周りに均一に(または他の実施形態では不均一に)間隔を置いて配置された、V-LED151、IR-LED153、およびフォトダイオード155の各々からなる16個のセットが存在する。当業者は、動的照明器105が(リング以外の)多数の形状を取り得、任意の数のV-LED151、IR-LED153、およびフォトダイオード155を含み得ることを理解するであろう。
【0023】
1つの実施形態では、コントローラ(例えば、コントローラ105)は、すべてのIR-LED153を動的照明器105の周りの時計回りパターン(例えば、1~16)で発射し得、次いで、コントローラは、いくつかのV-LEDのみを同様に時計回りパターン(1、3、5、6、8、9、11など)で発射し得る。あるいは、IR-LED153およびV-LED151の両方を発射する順序は、ランダムであってもよい。いくつかの実施形態では、カメラを使用して、どのIR-LED153が反射を生成するかを決定し得、以下で説明するように、他の実施形態では、フォトダイオード155(およびカメラも)を使用して、より小さい処理能力で反射量を決定し得る。
【0024】
複数のフォトダイオード155(例えば、GaAs系、Si系など)も、コントローラ(例えば、コントローラ155)に連結することができ、コントローラは、動的照明器105に、複数のフォトダイオードを用いて、眼からの赤外光の反射量を測定することを含む動作を実行させる。コントローラは、複数のフォトダイオードによって測定された反射量を分析して、IR-LEDの各々について眼からの赤外光の反射量を決定し得る。いくつかの実施形態では、これは単に閾値レベルの反射であり得、フォトダイオード155のうちの1つが、眼から反射された、閾値レベルよりも大きいIR光を受け取った場合、コントローラは、可視画像撮影中に対応するV-LEDを点灯しない。いくつかの実施形態では、フォトダイオード155は、フォトダイオード155上に配置されたカラーフィルタ(例えば、ポリマーカラーフィルタ、金属メッシュなど)を有し、他の波長の光を遮断しながら、IR光および/または赤色光がフォトダイオードを通過することを可能にする。したがって、フォトダイオード155の測定において誤差を引き起こし得る他の波長の光が除去される。
【0025】
同様に、コントローラは、複数のフォトダイオード155で測定されるような、眼からの赤外光の反射量に基づいて、眼の内部に焦点が合ったときを決定し得る。これは、コントラスト検出オートフォーカスまたは他の技法で達成し得る。フォトダイオード155を使用してカメラが合焦であるかどうかを判定すると、オートフォーカスに必要な処理能力を削減し得る。しかしながら、他のまたは同じ実施形態では、コントローラは、カメラによって測定されるようなIR反射量を分析して、IR-LEDの各々について眼からの赤外光の反射量を決定する。
【0026】
いくつかの実施形態では、同位置配置は、IRおよび白色LEDの「平均的同位置配置」を含み得ることが理解される。両方の光源を同位置に配置するのではなく、IR-LED153は、同じ空間として効果的に作用する(例えば、光学的直径の周りに)V-LED151に隣接して配置される(光学系は対称なので、LEDを同じ直径上に配置することにより、位置X、Yにおけるシフトはいくらか相殺される)。これは、「交互ダイオード構成」に示される。本開示の利益を有する当業者は、他のダイオード構成(図示せず)が考えられることを理解するであろう。
【0027】
当業者は、
図1Aおよび
図1Bに示されたダイオード(V-LEDおよびIR-LED)が、眼を照らすために使用され得る「光エミッタ」の単なる1つの実施形態であることを理解するであろう。フラッシュ電球、レーザーなどの他の光源を使用し得る。さらに、可視光とIR光だけを使用する必要はない。V-LEDは、非可視光エミッタ(NV-LE)または可視光を発し得る他の光エミッタ(LE)に置き換え得る。また、IR-LEDは、他の非可視波長の光(例えば、低エネルギー紫外線など)を生成する他のNV-LEに置き換え得る。
【0028】
図1Cは、本開示の一実施形態による、
図1Aの装置に含まれる動的照明器105の正面図を示す。図示したように、
図1Cの動的照明器105は、
図1Bに示された動的照明器と同じコンポーネントの多くを有する。しかしながら、
図1Cでは、2つのIR-LED153が各V-LED151の両側上に配置されている。さらに、ここでは、内側の円に配置されたIR-LED153およびV-LED151が最初に(一度にすべてまたは個々にかのいずれかで)発射し、その後、内側の円の外に配置された列状のLED(例えば、列2、列3、列4など)が順次発射する。当業者は、図示された列内のLEDが任意の順序(例えば、順次、ランダムなど)に発射し得ること、およびここで説明されたLED発射の順序は単にいくつかの例を示すにすぎないことを理解するであろう。さらに、すべての光エミッタが同じZ平面上に配置されていなくてもよく(ページの内外)、例えば、可視光エミッタは、非可視光エミッタよりも眼の近くに配置され得、またはその逆もあり得る。
【0029】
図示の例では、瞳孔カメラ(
図1Aのカメラ110と同じカメラまたは別個のカメラに含めることができる)は、IR-LED153またはV-LED151のいずれかで眼を照らす前に、瞳孔の位置を決定し得る。瞳孔カメラは、瞳孔の位置についての情報をシステム/コントローラに提供し得、システムは、瞳孔の位置に少なくとも部分的に基づいて、最良の照明条件を得る可能性が高いLEDを選択する。その後、システムは、眼の内部の画像を撮影するときに、より少ない光エミッタで眼を照らすことができる。
【0030】
いくつかの実施形態では、IR-LED153およびV-LED151が同位置に配置される一方で、非可視光エミッタ(例えば、IR-LED153)は、同位置に配置されていない光エミッタ(例えば、V-LED151)にマッピングされ得る。例えば、行3のIR-LED153によって生成された反射は、(IR-LED153およびV-LED151から放射される光の焦点距離は異なるために)行4のV-LEDによって生成された可視反射のより良い指標となり得る。したがって、検索テーブルなどを使用して、可視光エミッタからの可視反射の正確な予測を得るために、どの非可視光エミッタを使用して眼を照らすべきかを決定し得る。述べたように、本実施形態では、眼を照らすのに使用される非可視光エミッタは、可視光エミッタと同位置に配置される必要はない。
【0031】
図2は、本開示の一実施形態による、動的照明器205を使用する例示的な網膜撮像システム200を示す図である。網膜撮像システム200は、システム100の1つの考えられる(より複雑な)実施である。図示した網膜撮像システム200の実施形態は、動的ラジアル照明器205と、網膜カメラ210と、コントローラ215と、ユーザインターフェース215と、ディスプレイ220と、レンズ225およびビームスプリッタ230を含む光学リレーシステムとを含む。システム200は、システム100に関連して説明したのと同じ様式で動作する。
【0032】
動的照明器205の中央セクション235は、網膜225の視野(FOV)の周りの光路内に物理的に配置される。いくつかの実施形態では、動的照明器205の環状領域は、多くの軸外有害反射を網膜カメラ210に到達する前に遮断するためのストップとして動作する。網膜画像は、中央セクション235を通過して網膜カメラ210に送られる。角膜からの有害な反射に起因する画像アーチファクトを低減することに加えて、動的照明器205の環状領域の周りに複数の照明位置を使用することは、システム200のアイボックスを増加させるのにも役立つ。アイボックスとは、眼201の位置を特定して撮像することができる空間内の領域である。いくつかの実施形態では、動的照明器205の個々の光源のすべてまたはいくつかが、網膜225から網膜カメラ210まで延びる撮像経路の外周の外側(例えば、周辺)に配置される。他の実施形態では、動的照明器205の個々の光源の1つ以上が、網膜カメラ210までの撮像経路の外周の内側に配置される。
【0033】
ビームスプリッタ230(または偏光ビームスプリッタ)が、網膜画像の光の一部分を網膜カメラ210に送り、一方で、ディスプレイ220から眼201に出力されたディスプレイ光を反射させるように配置されている。ディスプレイ光は、撮像中に網膜整列を助けるための固視標または他の視覚刺激を含み得る。いくつかの実施形態では、ビームスプリッタ230は、反射性よりも透過性が大きい。1つの実施形態では、ビームスプリッタ230は、約90%透過性であり、10%反射性である。他の反射/透過比が実施されてもよい。レンズ225は、システム200全体にわたって設けられ、画像および光路に収束する光を提供する。ユーザインターフェース215は、連続画像撮影を開始するメカニズムを提供する。1つの実施形態では、ユーザインターフェース215は、ボタン、タッチスクリーン、マウスなどである。
【0034】
図3は、本開示の一実施形態による、統合画像信号プロセッサを含む網膜カメラ300の機能ブロック図である。網膜カメラ300は、網膜カメラ110(または210)の1つの考えられる実施である。図示した網膜カメラ300の実施形態は、2次元センサアレイ305、データ変換回路310、メモリバッファ315、統合画像信号プロセッサ(ISP)320、および出力ポート325を含む。
【0035】
動作中、2次元画像データ(例えば、網膜画像)が、センサアレイ305によって取得され、データ変換回路310によってアナログドメインからデジタルドメインに変換される。画像データは、高フレームレート(例えば、毎秒24、48、60、240、1000フレーム)で取得され、メモリバッファ315に記憶され得る。ISP320は、バッファリングされた網膜画像フレームに動作して、使用可能領域または不良領域を識別し、画像フレーム内の関心領域に注釈を付け、かつ/または使用可能領域を合成して高品質の合成網膜画像とする。したがって、1つの実施形態では、上記の画像処理タスクのいくつかは、コントローラ315からISP320に搭載変更されてもよい。ISP320は、コントローラ315の論理的サブコンポーネントと見なし得る。
【0036】
図4は、本開示の一実施形態による、統合画像信号プロセッサ(例えば、
図3のISP320)を含む網膜カメラ(例えば、
図3の網膜カメラ300)による画像処理を示すブロックフロー図である。図示したように、網膜の画像フレーム405A~405Cが、センサアレイ(例えば、
図3のセンサアレイ305)によって高フレームレートで取得され、データ変換回路(例えば、
図3のデータ変換回路310)によってデジタルドメインに変換され、メモリバッファに(例えば、
図3のメモリバッファ315)にバッファリングされる。画像分析器410が、ISPによって実行され、バッファリングされた網膜画像405を分析して(一種の前処理)、画像フレームのどの部分が十分な品質であり、どれが、容認不可の画像アーチファクトのために不十分な品質であるかを決定する。例えば、画像分析器410は、ぼやけた部分、有用であるために十分なコントラストを有さず、色褪せたり、かつ/または容認不可の角膜または虹彩反射、もしくはレンズフレアを含む部分について、画像フレーム405を分析し得る。容認不可と見なされた画像部分には容認不可のフラグが付けられ(例えば、マークまたは注釈が付けられる)、容認可と見なされた画像部分にはそのようなフラグが付けられる。次いで、画像フレームは互いに位置合わせされ(例えば、ピクセル対ピクセル整列)、画像位置合わせ/トリミングモジュール415によって共通のFOVにトリミングされ、次いで、スタッキングモジュール420によって単一の合成網膜画像425に合成される。スタッキングモジュール420は、画像を合成して、高動的範囲の画像を生成し得る。他の実施形態では、画像フレーム405は、個々の画像フレームの分析および/または注釈付けなしに、単純に合成される。
図3および
図4に関連して説明したすべての画像処理ステップおよびハードウェアは、本開示の教示に従って「コントローラ」の一部と見なすことができる。
【0037】
図5A~
図5Cは、本開示の一実施形態による、異なる照明パターンで撮影された網膜の画像フレームを示す。例えば、
図5Aは、画像の右上の象限に画像アーチファクト525を有する網膜525の例示的な画像フレーム505を示す。これは、眼の右上隅に近接して配置されたIR-LEDによるIR照明の後にカメラによって撮影された画像であり得る。画像アーチファクト525は、角膜反射、虹彩、レンズフレア、またはその他による反射または妨害であり得る。したがって、画像フレーム505の右上の象限は、容認不可の不良領域と見なされ得る。したがって、眼は、右上隅に近接して配置されていないV-LEDによって照らされ得る。対応して、画像アーチファクト530を含む画像フレーム510の右下の象限は、不良領域であると見なされ得る。画像フレーム510は、右下隅に近接して配置されたIR-LEDで照明されていた可能性がある。したがって、眼が、対応するV-LEDで照らされることはない。画像フレーム515には不良がないように見える。画像フレーム515は、眼の左下隅に近接して配置されたIR-LEDによって照明されていた可能性がある。したがって、コントローラは、眼の可視画像を撮影している間、眼の右下隅にあるV-LEDに点灯するよう指示し得る。
【0038】
図6は、本開示の一実施形態による、虹彩のフォーカススタッキング画像を示す。図示したように、網膜の4つの画像フレーム(605A~605D)が画像センサで撮影される。長い線は、網膜内または網膜上の完全に解像された静脈および他の解剖学的構造を表し、短い破線は、画像の焦点が合っていない、または色褪せた部分を表している。図示したように、画像フレーム605Aの左下隅は完全に解像されているが、画像の残りの部分は解像されていない。同様に、画像フレーム605Bの(フレームの左上隅から右下隅まで延在する)中央部分は焦点が合っており、完全に解像されているが、画像フレーム605Bの残りの部分は解像されていない。画像フレーム605Cの右上隅は焦点が合っているが、画像の残りの部分は焦点が合っていない。最後に、画像フレーム605Dは焦点が外れており、有用な情報を含まない。したがって、画像フレーム605Dは除外され、合成画像625に使用するためにスタッキングモジュール620に送られることはない。残りの画像フレーム605A~605Cは、スタッキングモジュール620に送られ、大きな被写界深度を有する単一の高解像度合成画像625に合成される。1つの実施形態では、エッジ検出、特徴検出、またはフーリエ解析を使用して画像を合成し得る。
【0039】
図7は、本開示の一実施形態による、眼の内部を撮像する方法700のフローチャートを示す。方法700のブロック(例えば、ブロック701~707)は、任意の順序で、さらには並行して、起こり得ることが理解される。さらに、ブロックを、本開示の教示に従い、方法700に追加または方法700から除外してもよい。
【0040】
ブロック701は、複数の赤外光発光ダイオード(IR-LED)中のIR-LEDからの赤外光で眼を照らすことを示す。これは、IR-LEDを順番に点灯/消灯することで起こり得る。あるいは、グループをなすIR-LEDを同時に点灯および消灯してもよい。当業者は、IR-LEDが、任意の順序で、さらには並行して、点灯および消灯され得ることを理解するであろう。さらに、眼をIR-LEDおよびV-LEDの両方で同時に照明してもよい。
【0041】
ブロック703は、コントローラを用いて、IR-LEDの各々について眼からの赤外光の反射量を決定することを示す。1つの実施形態では、決定することは、反射して戻ってくる光(例えば、カメラまたはフォトダイオードの飽和レベルを使用して、他のIR-LEDに対して、どれだけのIR光が反射して画像センサに戻るか)を測定することを含み得る。コントローラは、IR-LEDの各々についての眼からの赤外光の反射量を、V-LEDの各々についての眼からの可視光の第2の反射量と相関させ得る。言い換えると、コントローラは、(例えば、検索テーブルなどを介して)どのくらいのIR反射量が特定のレベルの可視反射に対応するかを知ることができる。いくつかの実施形態では、可視光で眼を照らす前に、眼を赤外光で照らし得るが、しかしながら、他の実施形態では、逆もあり得る。
【0042】
いくつかの実施形態では、システムは、複数のフォトダイオードを含み得、複数のフォトダイオードは、IR-LEDの各々について眼からの赤外光の反射量を測定する。複数のフォトダイオード中のフォトダイオードの各々は、IR-LEDの各々およびV-LEDの各々と同位置に配置され得る。
【0043】
ブロック705は、IR-LEDの各々についての赤外光の反射量に基づいて、複数のV-LEDから選択された可視光発光ダイオード(V-LED)からの可視光(例えば、白色光、青色光、緑色光、赤色光、またはこれらの任意の組み合わせ)で眼を照らすことを開示する。いくつかの実施形態では、可視光発光ダイオード(V-LED)からの可視光で眼を照らすことは、対応するIR-LEDからの赤外光の反射量が反射閾値よりも大きいとき、V-LEDのうちのいくつかを無効にすることを含む。さらに、コントローラは、赤外光の反射量に基づいて、眼を照らすV-LEDの順序を決定し得る。V-LEDが活性化される順序およびタイミングを使用して、画像内の反射をさらに軽減し得る。
【0044】
ブロック707は、カメラを用いて、眼がV-LEDからの可視光で照らされている間に、眼の内部の画像を含む一連の画像を撮影することを示す。いくつかの実施形態では、システムは、V-LEDが発射を開始した後、フラッシュ最適化を継続し得る。いくつかの実施形態では、フォトダイオードまたはカメラのいずれかを使用して、反射IR光を撮影し、コントラスト検出オートフォーカスを使用して一連の画像を撮影するためにカメラが合焦であることを判定し得る。いくつかの実施形態では、これは、コントローラを用いて、カメラをオートフォーカスさせるためにカメラまたはフォトダイオードを使用するかどうかに応じて、フォトダイオード間の赤外光の強度差、またはカメラの隣接ピクセル間の赤外光の強度差を測定することを含み得る。
【0045】
一連の画像を撮影した後、コントローラを使用して、一連の画像の少なくともいくつかの画像を合成して、眼の内部の合成画像を形成し、合成することは、フォーカススタッキング、画像スティッチング、画像ブレンディング、これらの任意の組み合わせのうちの少なくとも1つを含む。
【0046】
上記で説明したプロセスは、コンピュータソフトウェアおよびハードウェアの観点から説明されている。説明された技法は、機械によって実行されると、説明された動作を機械に実行させる、有形のまたは非一時的な機械(例えば、コンピュータ)可読記憶媒体内で具現化される機械実行可能命令を構成し得る。さらに、プロセスは、特定用途向け集積回路(「ASIC」)など、またはその他のハードウェア内で具体化され得る。
【0047】
有形の機械可読記憶媒体は、機械(例えば、コンピュータ、ネットワークデバイス、個人用デジタルアシスタント、製造ツール、1つ以上のプロセッサのセットを備える任意のデバイスなど)がアクセス可能な非一時的形態の情報を提供(例えば、記憶)する任意のメカニズムを含む。例えば、機械可読記憶媒体は、記録可能/記録不可能な媒体(例えば、読み取り専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、磁気ディスク記憶媒体、光学記憶媒体、フラッシュメモリデバイスなど)を含む。
【0048】
要約に記載されているものを含む、本発明の例示された実施形態の上記の説明は、網羅的であることや、または本発明を開示された正確な形態に限定することを意図するものではない。本発明の特定の実施形態および例が本明細書に例示目的で記載されているが、当業者が認識するように、本発明の範囲内でさまざまな変更が可能である。
【0049】
これらの変更は、上記の詳細な説明に照らして、本発明に対して行うことができる。以下の特許請求の範囲で使用される用語は、本発明を明細書に開示された特定の実施形態に限定するものと解釈されるべきではない。むしろ、本発明の範囲は、以下の特許請求の範囲によって完全に決定されるべきであり、それらは、特許請求項解釈の確立された原則に従って解釈されるべきである。