(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-01-15
(45)【発行日】2024-01-23
(54)【発明の名称】複数のF値レンズのための方法およびシステム
(51)【国際特許分類】
G03B 11/00 20210101AFI20240116BHJP
H04N 23/55 20230101ALI20240116BHJP
G02B 13/00 20060101ALI20240116BHJP
G02B 13/14 20060101ALI20240116BHJP
【FI】
G03B11/00
H04N23/55
G02B13/00
G02B13/14
【外国語出願】
(21)【出願番号】P 2022038046
(22)【出願日】2022-03-11
(62)【分割の表示】P 2019524158の分割
【原出願日】2017-11-03
【審査請求日】2022-03-11
(32)【優先日】2016-11-10
(33)【優先権主張国・地域又は機関】US
【前置審査】
(73)【特許権者】
【識別番号】514108838
【氏名又は名称】マジック リープ, インコーポレイテッド
【氏名又は名称原語表記】Magic Leap,Inc.
【住所又は居所原語表記】7500 W SUNRISE BLVD,PLANTATION,FL 33322 USA
(74)【代理人】
【識別番号】100078282
【氏名又は名称】山本 秀策
(74)【代理人】
【識別番号】100113413
【氏名又は名称】森下 夏樹
(74)【代理人】
【識別番号】100181674
【氏名又は名称】飯田 貴敏
(74)【代理人】
【識別番号】100181641
【氏名又は名称】石川 大輔
(74)【代理人】
【識別番号】230113332
【氏名又は名称】山本 健策
(72)【発明者】
【氏名】アサフ ペルマン
(72)【発明者】
【氏名】エレツ タドモール
(72)【発明者】
【氏名】デイビッド コーエン
(72)【発明者】
【氏名】ジオラ ヤハブ
【審査官】▲うし▼田 真悟
(56)【参考文献】
【文献】特開2002-369223(JP,A)
【文献】特開2002-152777(JP,A)
【文献】特開2002-318104(JP,A)
【文献】特開2005-004181(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G03B 11/00
H04N 23/55
(57)【特許請求の範囲】
【請求項1】
結像システムであって、
近赤外線(NIR)波長範囲における光および可視波長範囲における光を受け取り、それを透過させるように構成されている第1の組のレンズ要素と、
開口絞りと、
前記開口絞りに位置付けられているフィルタであって、前記フィルタは、
第1の長さ寸法を有する中心領域であって、前記中心領域は、前記第1の組のレンズ要素を通して伝送された前記NIR波長範囲における光および前記可視波長範囲における光の両方を透過するように構成されており、前記中心領域は、前記NIR波長範囲における第1の透過帯域および前記可視波長範囲における第2の透過帯域によって特徴付けられており、前記第2の透過帯域は、前記第1の透過帯域と重複しない、中心領域と、
前記中心領域を包囲する外側領域であって、前記外側領域は、前記第1の長さ寸法より大きい第2の長さ寸法を有し、前記外側領域は、前記第1の組のレンズ要素を通して伝送された前記NIR波長範囲における光のみを透過するように構成されており、前記外側領域は、前記NIRにおける1つのみの透過帯域によって特徴付けられている、外側領域と
を含む、フィルタと、
前記フィルタを通して伝送された前記NIR波長範囲における光を第1の光学経路に沿うように向け、かつ、前記フィルタを通して伝送された前記可視波長範囲における光を第2の光学経路に沿うように向けるように構成されているダイクロイックビームスプリッタであって、前記フィルタは、前記第1の組のレンズ要素と前記ダイクロイックビームスプリッタとの間に配置されている、ダイクロイックビームスプリッタと、
前記第1の光学経路に沿って位置付けられている第2の組のレンズ要素であって、前記第1の組のレンズ要素および前記開口絞りおよび前記フィルタおよび前記第2の組のレンズ要素は、第1のレンズシステムを形成し、前記第1のレンズシステムは、第1の焦点面を画定する、第2の組のレンズ要素と、
前記第1の光学経路に沿って前記第1のレンズシステムの前記第1の焦点面に位置付けられている第1の画像センサであって、前記第1の画像センサは、前記NIR波長範囲における光によって形成される第1の画像を検出するように構成されている、第1の画像センサと、
前記第2の光学経路に沿って位置付けられている第2の画像センサであって、前記第2の画像センサは、前記可視波長範囲における光によって形成される第2の画像を検出するように構成されている、第2の画像センサと
を含み、
前記フィルタは、
前記外側領域の像側に配置されているブラックコーティングをさらに含
み、前記ブラックコーティングは、前記可視波長範囲における高吸収係数と前記NIR波長範囲における高透過率値とを有するように構成されている
、結像システム。
【請求項2】
前記第1の画像は、飛行時間に基づく1つ以上のオブジェクトの3次元画像を含む、請求項1に記載の結像システム。
【請求項3】
前記第2の画像は、1つ以上のオブジェクトの2次元画像を含む、請求項1に記載の結像システム。
【請求項4】
前記第1のレンズシステムは、前記第2の長さ寸法に基づいて、前記NIR波長範囲における光に対するF値によって特徴付けられている、請求項1に記載の結像システム。
【請求項5】
前記F値は、1.0~1.4の範囲である、請求項4に記載の結像システム。
【請求項6】
前記結像システムは、前記ダイクロイックビームスプリッタと前記第2の画像センサとの間に前記第2の光学経路に沿って位置付けられている第3の組のレンズ要素をさらに含み、
前記第1の組のレンズ要素および前記開口絞りおよび前記フィルタおよび前記ダイクロイックビームスプリッタおよび前記第3の組のレンズ要素は、第2のレンズシステムを形成し、前記第2のレンズシステムは、第2の焦点面を画定し、前記第2の画像センサは、前記第2のレンズシステムの前記第2の焦点面に位置付けられている、請求項1に記載の結像システム。
【請求項7】
前記第2のレンズシステムは、前記第1の長さ寸法に基づいて、前記可視波長範囲における光に対するF値によって特徴付けられている、請求項6に記載の結像システム。
【請求項8】
前記F値は、2.0~2.8の範囲である、請求項7に記載の結像システム。
【請求項9】
前記フィルタの前記中心領域は、円形形状を有し、前記フィルタの前記外側領域は、環状形状を有し、前記第1の長さ寸法は、前記中心領域の直径であり、前記第2の長さ寸法は、前記外側領域の外径である、請求項1に記載の結像システム。
【請求項10】
前記第1の長さ寸法と前記第2の長さ寸法との比率は、0.4~0.6の範囲である、請求項9に記載の結像システム。
【請求項11】
前記結像システムは、前記ダイクロイックビームスプリッタと前記第1の画像センサとの間に前記第1の光学経路に沿って位置付けられているミラーをさらに含む、請求項1に記載の結像システム。
【請求項12】
前記結像システムは、第4のレンズ要素をさらに含み、前記ミラーは、前記第2の組のレンズ要素と前記第4のレンズ要素との間に前記第1の光学経路に沿って位置付けられている、請求項11に記載の結像システム。
【請求項13】
前記結像システムは、前記第1の組のレンズ要素の正面に1つ以上のオブジェクトに向かって複数のNIR光パルスを放出するように構成されているNIR光源をさらに含み、
前記複数のNIR光パルスの各々の一部は、前記1つ以上のオブジェクトから反射され、前記NIR波長範囲における光は、それによって前記第1の画像が形成され、前記1つ以上のオブジェクトから反射された前記複数のNIR光パルスの各々の一部を含む、請求項1に記載の結像システム。
【請求項15】
前記波長選択的フィルタの前記中心領域は、第1の直径によって特徴付けられている円形形状を有し、前記波長選択的フィルタの前記外側領域は、前記第1の直径よりも大きい外側の第2の直径によって特徴付けられている環状形状を有する、請求項14に記載の方法。
【請求項16】
前記第1の直径と、前記外側の第2の直径との比率は、0.4~0.6の範囲である、請求項15に記載の方法。
【請求項17】
前記結像システムは、前記ダイクロイックビームスプリッタと前記第2の画像センサとの間に前記第2の光学経路に沿って位置付けられている第3の組のレンズ要素をさらに含み、前記第1の組のレンズ要素および開口絞りおよび前記波長選択的フィルタおよび前記ダイクロイックビームスプリッタおよび前記第3の組のレンズ要素は、第2のレンズシステムを形成し、前記第2のレンズシステムは、第2の焦点面を画定し、前記第2の画像センサは、前記第2のレンズシステムの前記第2の焦点面に位置付けられている、請求項15に記載の方法。
【請求項18】
前記第1のレンズシステムは、前記外側の第2の直径に基づいて、前記NIR波長範囲における光に対する第1のF値によって特徴付けられており、前記第2のレンズシステムは、前記第1の直径に基づいて、前記可視波長範囲における光に対する第2のF値によって特徴付けられている、請求項17に記載の方法。
【発明の詳細な説明】
【背景技術】
【0001】
(関連出願の引用)
本願は、米国仮特許出願第62/420,249号(2016年11月10日出願)の利益を主張し、上記出願の内容は、その全体が参照により引用される。
【0002】
(発明の背景)
光学システムでは、結像レンズは、光をコリメートすること、光を収束させること等のために利用される。光学システムの開発においてなされた進歩にもかかわらず、当技術分野において改良された結像レンズに対する必要性がある。
【発明の概要】
【課題を解決するための手段】
【0003】
(発明の要約)
本発明は、概して、複数のF値レンズを伴う結像システムに関する。本発明のある実施形態によると、結像システムは、1つ以上の第1のオブジェクトに向かって複数のNIR光パルスを放出するように構成された近赤外線(NIR)光源を含む。複数のNIR光パルスの各々の一部は、1つ以上の第1のオブジェクトから反射され得る。結像システムは、結像レンズをさらに含む。結像レンズは、1つ以上の第1のオブジェクトから反射される複数のNIR光パルスの各々の一部を受け取り、それを結像面上に集束させることと、1つ以上の第2のオブジェクトから反射された可視光を受け取り、それを結像面上に集束させることとを行うように構成された1つ以上のレンズ要素を含む。結像レンズは、開口絞りと、開口絞りに位置付けられたフィルタとをさらに含む。フィルタは、第1の長さ寸法を有する中心領域と、第1の長さ寸法より大きい第2の長さ寸法を有する中心領域を包囲する外側領域とを含む。フィルタの中心領域は、NIR波長範囲における第1の透過帯域と、可視波長範囲における第2の透過帯域とによって特徴付けられる。フィルタの外側領域は、NIR波長範囲における第3の透過帯域と、可視波長範囲における実質的に低い透過率値とによって特徴付けられる。結像システムは、結像面に位置付けられた画像センサをさらに含む。画像センサは、ピクセルの2次元アレイを含む。画像センサは、可視波長範囲における1つ以上の第2のオブジェクトの2次元強度画像をビニングされていないピクセル分解能で検出し、NIR波長範囲における1つ以上の第1のオブジェクトの飛行時間3次元画像をビニングされたピクセル分解能で検出するように構成されている。
【0004】
本発明の別の実施形態によると、結像レンズは、1つ以上の第1のオブジェクトから反射された第1の波長範囲における光を受け取り、それを結像面上に集束させることと、1つ以上の第2のオブジェクトから反射された第2の波長範囲における光を受け取り、それを結像面上に集束させることとを行うように構成された1つ以上のレンズ要素を含む。結像レンズは、開口絞りと、開口絞りに位置付けられたフィルタとをさらに含む。フィルタは、第1の長さ寸法を有する中心領域と、第1の長さ寸法より大きい第2の長さ寸法を有する中心領域を包囲する外側領域とを含む。フィルタの中心領域は、第1の波長範囲における第1の透過帯域と、第2の波長範囲における第2の透過帯域とによって特徴付けられる。フィルタの外側領域は、第1の波長範囲における第3の透過帯域と、第2の波長範囲における実質的に低い透過率値とによって特徴付けられる。
【0005】
本発明のさらに別の実施形態によると、結像システムを動作させる方法が、提供される。結像システムは、近赤外線(NIR)光源と、結像レンズと、結像レンズの結像面に位置付けられた画像センサとを含む。方法は、NIR光源を使用して、複数のNIR光パルスを1つ以上の第1のオブジェクトに向かって放出することであって、複数のNIR光パルスの各々の一部は、1つ以上の第1のオブジェクトから反射される、ことと、結像レンズを使用して、1つ以上の第1のオブジェクトから反射される複数のNIR光パルスの各々の一部を受け取り、画像センサ上に集束させることと、画像センサを使用して、放射から検出までの複数のNIR光パルスの各々の一部のための飛行時間を決定することによって、1つ以上の第1のオブジェクトの3次元画像を検出することとによって、結像システムを使用して3次元感知を実施することを含む。結像レンズは、開口絞りと、開口絞りに位置付けられた波長選択的フィルタとを含む。波長選択的フィルタは、第1の領域と、第1の領域を包囲する第2の領域とを有する。波長選択的フィルタは、NIR光に第1の領域および第2の領域を透過させ、可視光に第1の領域のみを透過させるように構成されている。方法は、結像レンズを使用して、1つ以上の第2のオブジェクトから反射された周囲光源からの可視光を受け取り、画像センサ上に集束させることと、画像センサを使用して、1つ以上の第2のオブジェクトの2次元強度画像を検出することとによって、結像システムを使用してコンピュータビジョンを実施することをさらに含む。
【0006】
本発明のさらなる実施形態によると、第1の波長範囲および第2の波長範囲における光を感知するための画像センサは、ピクセルの2次元アレイと、プロセッサとを含む。プロセッサは、第1の波長範囲におけるピクセルのアレイの各ピクセルに対する光強度を測定し、ピクセルグループの組に対して、第2の波長範囲における光強度を測定するように構成されている。各ピクセルグループは、m×nピクセルのアレイのピクセルを含み、mおよびnは、整数であり、mおよびnのうちの少なくとも1つは、2以上である。いくつかの実施形態では、第1の波長範囲は、可視波長に対応し、第2の波長範囲は、近赤外線(NIR)波長に対応する。いくつかの実施形態では、mは、2と等しく、nは、2と等しい。いくつかの実施形態では、ピクセルグループの組に対する第2の波長範囲における光強度を測定することは、m×nピクセルの各グループに対する電荷の総量を読み出すことを含む。いくつかの代替実施形態では、ピクセルグループの組に関する第2の波長範囲における光強度を測定することは、ピクセルのアレイの各ピクセルに対する電荷の量を読み出すことと、各グループ内のm×nピクセルの電荷の量を総和することによって、m×nピクセルの各グループに対する電荷の総量を計算することとを含む。
【0007】
従来の技法に優る多数の利点が、本発明の方法によって達成される。例えば、本発明の実施形態は、波長選択的フィルタをその開口絞りにおいて利用することによって、NIR光のためのより低いF値と、可視光のためのより高いF値とによって特徴付けられ得る結像レンズを提供する。さらに、本発明の実施形態は、ピクセルビニングを使用して、NIR光のためのより低い分解能モードで、本来のピクセル分解能を使用して、可視光のためのより高い分解能モードで動作し得る画像センサを提供する。結像レンズおよび画像センサは、より高速のレンズおよびより多くの光統合が所望されるNIR波長範囲における能動照明を伴うTOF深度センサだけではなく、より高い画像分解能およびより大きな被写界深度が所望される可視波長範囲における受動照明を伴うコンピュータビジョンセンサとしての使用にも好適であり得る。結像レンズは、より低い写真速度において可視光を結像することと、より高速の写真速度においてIR光を結像することの両方の使用のために好適であり得る。本発明のこれらおよび他の実施形態は、その利点および特徴の多くとともに、下記の文章および添付の図と併せてより詳細に説明される。
本願明細書は、例えば、以下の項目も提供する。
(項目1)
結像システムであって、前記結像システムは、
1つ以上の第1のオブジェクトに向かって複数のNIR光パルスを放出するように構成された近赤外線(NIR)光源であって、前記複数のNIR光パルスの各々の一部は、前記1つ以上の第1のオブジェクトから反射される、近赤外線(NIR)光源と、
結像レンズであって、前記結像レンズは、
前記1つ以上の第1のオブジェクトから反射された前記複数のNIR光パルスの各々の一部を受け取り、それを結像面上に集束させることと、1つ以上の第2のオブジェクトから反射された可視光を受け取り、それを前記結像面上に集束させることとを行うように構成された1つ以上のレンズ要素と、
開口絞りと、
前記開口絞りに位置付けられたフィルタと
を含み、
前記フィルタは、
第1の長さ寸法を有する中心領域であって、前記中心領域は、NIR波長範囲における第1の透過帯域と、可視波長範囲における第2の透過帯域とによって特徴付けられる、中心領域と、
前記中心領域を包囲する外側領域であって、前記外側領域は、前記第1の長さ寸法より大きい第2の長さ寸法を有し、前記外側領域は、前記NIR波長範囲における第3の透過帯域と、前記可視波長範囲における実質的に低い透過率値とによって特徴付けられる、外側領域と
を含む、結像レンズと、
前記結像面に位置付けられた画像センサと
を備え、
前記画像センサは、ピクセルの2次元アレイを含み、前記画像センサは、
前記可視波長範囲における前記1つ以上の第2のオブジェクトの2次元強度画像をビニングされていないピクセル分解能で検出することと、
前記NIR波長範囲における前記1つ以上の第1のオブジェクトの飛行時間3次元画像をビニングされたピクセル分解能で検出することと
を行うように構成されている、結像システム。
(項目2)
前記中心領域は、実質的に円形の形状を有し、前記外側領域は、実質的に環状の形状を有し、前記第1の長さ寸法は、前記中心領域の直径であり、前記第2の長さ寸法は、前記外側領域の外径である、項目1に記載の結像システム。
(項目3)
前記第1の長さ寸法と前記第2の長さ寸法との比率は、約0.4~約0.6に及ぶ、項目1に記載の結像システム。
(項目4)
前記第1の長さ寸法と前記第2の長さ寸法との比率は、約0.5である、項目2に記載の結像システム。
(項目5)
前記結像レンズは、前記第2の長さ寸法に基づく前記NIR波長範囲における光のための第1のF値と、前記第1の長さ寸法に基づく前記可視波長範囲における光のための第2のF値とによって特徴付けられる、項目1に記載の結像システム。
(項目6)
前記第1のF値は、約1.0~約1.4に及び、前記第2のF値は、約2.0~約2.8に及ぶ、項目5に記載の結像システム。
(項目7)
前記画像センサは、前記ビニングされたピクセル分解能においてm×nピクセルの各グループの蓄積された電荷を読み出し、mおよびnは、正の整数であり、mおよびnのうちの少なくとも1つは、2以上の値を有する、項目1に記載の結像システム。
(項目8)
結像レンズであって、前記結像レンズは、
1つ以上の第1のオブジェクトから反射された第1の波長範囲における光を受け取り、それを結像面上に集束させることと、1つ以上の第2のオブジェクトから反射された第2の波長範囲における光を受け取り、それを前記結像面上に集束させることとを行うように構成された1つ以上のレンズ要素と、
開口絞りと、
前記開口絞りに位置付けられたフィルタと
を備え、
前記フィルタは、
第1の長さ寸法を有する中心領域であって、前記第1の波長範囲における第1の透過帯域と、前記第2の波長範囲における第2の透過帯域とによって特徴付けられる、中心領域と、
前記中心領域を包囲する外側領域であって、前記外側領域は、前記第1の長さ寸法より大きい第2の長さ寸法を有し、前記外側領域は、前記第1の波長範囲における第3の透過帯域と、前記第2の波長範囲における実質的に低い透過率とによって特徴付けられる、外側領域と
を含む、結像レンズ。
(項目9)
前記第1の波長範囲は、近赤外線(NIR)波長に対応し、前記第2の波長範囲は、可視波長に対応する、項目8に記載の結像レンズ。
(項目10)
前記中心領域は、実質的に円形の形状を有し、前記外側領域は、実質的に環状の形状を有し、前記第1の長さ寸法は、前記中心領域の直径であり、前記第2の長さ寸法は、前記外側領域の外径である、項目8に記載の結像レンズ。
(項目11)
前記フィルタは、前記フィルタの背面上に形成された環状形状を有する薄膜をさらに含み、前記薄膜は、前記第2の波長範囲における光を吸収し、前記第1の波長範囲における光に透過させるように構成されている、項目10に記載の結像レンズ。
(項目12)
前記第1の長さ寸法と前記第2の長さ寸法との比率は、約0.4~約0.6に及ぶ、項目8に記載の結像レンズ。
(項目13)
約1.0~約1.4に及ぶ前記第1の波長範囲における光のための第1のF値と、約2.0~約2.8に及ぶ前記第2の波長範囲における光のための第2のF値とによって特徴付けられる、項目8に記載の結像レンズ。
(項目14)
結像システムを動作させる方法であって、前記結像システムは、近赤外線(NIR)光源と、結像レンズと、前記結像レンズの結像面に位置付けられた画像センサとを備え、
前記方法は、
前記NIR光源を使用して、複数のNIR光パルスを1つ以上の第1のオブジェクトに向かって放出することであって、前記複数のNIR光パルスの各々の一部は、前記1つ以上の第1のオブジェクトから反射される、ことと、
前記結像レンズを使用して、前記1つ以上の第1のオブジェクトから反射された前記複数のNIR光パルスの各々の一部を受け取り、それを前記画像センサ上に集束させることであって、前記結像レンズは、開口絞りと、前記開口絞りに位置付けられた波長選択的フィルタとを含み、前記波長選択的フィルタは、第1の領域および前記第1の領域を包囲する第2の領域を有し、前記波長選択的フィルタは、NIR光に前記第1の領域および前記第2の領域を透過させることと、可視光に前記第1の領域のみを透過させることとを行うように構成されている、ことと、
前記画像センサを使用して、放射から検出までの前記複数のNIR光パルスの各々の一部のための飛行時間を決定することによって、前記1つ以上の第1のオブジェクトの3次元画像を検出することと
によって、前記結像システムを使用して3次元感知を実施することと、
前記結像レンズを使用して、1つ以上の第2のオブジェクトから反射された周囲光源からの可視光を受け取り、それを前記画像センサ上に集束させることと、
前記画像センサを使用して、前記1つ以上の第2のオブジェクトの2次元強度画像を検出することと
によって、前記結像システムを使用してコンピュータビジョンを実施することと
を含む、方法。
(項目15)
3次元感知を実施することは、第1の時間スロット内で実施され、コンピュータビジョンを実施することは、第2の時間スロット内で実施される、項目14に記載の方法。
(項目16)
前記第1の時間スロットおよび前記第2の時間スロットの各々の持続時間は、約1ms~約50msの範囲内である、項目15に記載の方法。
(項目17)
前記第1の領域は、第1の直径によって特徴付けられる実質的に円形の形状を有し、前記第2の領域は、前記第1の直径より大きい外側の第2の直径によって特徴付けられる実質的に環状の形状を有する、項目14に記載の方法。
(項目18)
前記第1の直径と前記第2の直径との比率は、約0.4~約0.6に及ぶ、項目17に記載の方法。
(項目19)
前記画像センサは、ピクセルの2次元アレイを備え、前記1つ以上の第1のオブジェクトの前記3次元画像を検出することは、m×nピクセルの各グループに対する電荷の総量を読み出すことによって実施され、mおよびnは、正の整数であり、mおよびnのうちの少なくとも1つは、2以上である、項目14に記載の方法。
(項目20)
前記画像センサは、ピクセルの2次元アレイを備え、前記1つ以上の第1のオブジェクトの前記3次元画像を検出することは、
前記ピクセルの2次元アレイの各ピクセルに対する電荷の量を読み出すことと、
各グループ内のm×nピクセルの前記電荷の量を総和することによって、前記m×nピクセルの各グループに対する電荷の総量を計算することであって、mおよびnは、整数であり、mおよびnのうちの少なくとも1つは、2以上である、ことと
によって実施される、項目14に記載の方法。
(項目21)
前記画像センサは、ピクセルの2次元アレイを備え、前記1つ以上の第2のオブジェクトの前記2次元強度画像を検出することは、前記ピクセルの2次元アレイの各ピクセルに対する電荷の量を読み出すことによって実施される、項目14に記載の方法。
【図面の簡単な説明】
【0008】
【
図1】
図1は、本発明のある実施形態による、結像システムを含むシステムを図式的に図示する。
【
図2】
図2は、本発明のある実施形態による、結像レンズおよび画像センサを含む結像システムを図式的に図示する。
【
図3】
図3は、本発明のある実施形態による、結像レンズ内で使用され得る波長選択的フィルタの基本構想図を示す。
【
図4A】
図4Aは、本発明のある実施形態による、
図3に図示される波長選択的フィルタの中心領域のための波長の関数として透過率曲線を図示する簡略化されたプロットである。
【
図4B】
図4Bは、本発明のある実施形態による、
図3に図示される波長選択的フィルタの外側領域のための波長の関数として透過率曲線を図示する簡略化されたプロットである。
【
図5】
図5は、本発明のいくつかの実施形態による、波長選択的フィルタの概略断面図を図示する。
【
図6】
図6は、本発明のいくつかの実施形態による、概略結像システムを図示する。
【
図7】
図7は、本発明のいくつかの実施形態による、視野点(例えば、ある入射角においてコリメートされた光線)のための例示的結像システムの光線トレース図を示す。
【
図8】
図8は、本発明のいくつかの実施形態による、光線トレースによってシミュレートされるような画像センサにおける強度分布を示す。
【
図9】
図9は、本発明のいくつかの実施形態による、結像システム内で使用され得る波長選択的フィルタの概略断面図を図示する。
【
図10A】
図10Aは、本発明のいくつかの実施形態による、
図6に図示される波長選択的フィルタを用いた光線トレースシミュレーションからの残影画像の強度分布を示す。
【
図10B】
図10Bは、本発明のいくつかの実施形態による、
図9に図示される波長選択的フィルタを用いた光線トレースシミュレーションからの残影画像の強度分布を示す。
【
図10C】
図10Cは、本発明のいくつかの実施形態による、
図6に図示される波長選択的フィルタを使用した残影画像強度と、
図9に図示される波長選択的フィルタを使用した残影画像強度の比率を示す。
【
図11】
図11は、本発明のいくつかの他の実施形態による、波長選択的フィルタの概略断面図を図示する。
【
図12】
図12は、本発明のいくつかの実施形態による、波長の関数として、
図11に図示されるような「ブラックコーティング」の透過率曲線および反射率曲線を示す。
【
図13】
図13は、本発明のいくつかの実施形態による、波長の関数として、
図11に図示されるような第2の多層薄膜の反射率曲線を示す。
【
図14】
図14は、本発明のある実施形態による、画像センサの波長の関数として、例示的量子効率(Q.E.)曲線を示す。
【
図15】
図15は、発明のある実施形態による、画像センサの平面図を図式的に図示する。
【
図16】
図16は、本発明のある実施形態による、画像センサの動作モードを図式的に図示する。
【
図17】
図17は、本発明の別の実施形態による、結像システムを図式的に図示する。
【
図18】
図18は、本発明のさらなる実施形態による、結像システムを図式的に図示する。
【
図19】
図19は、本発明のある実施形態による、結像システムを動作させる方法を図示する簡略化されたフローチャートである。
【発明を実施するための形態】
【0009】
本発明は、概して、複数のF値レンズを伴う結像システムに関する。光学では、レンズのF値(時として、焦点率、F率、F絞り、または口径比とも称される)は、入射瞳の直径に対するレンズの焦点距離の比率である。F値は、レンズ速度の定量的尺度である無次元数である。したがって、F値またはf/#は、以下によって与えられる。
【数1】
式中、fは、焦点距離であり、Dは、入射瞳(有効開口)の直径である。より高いF値は、所与の焦点長レンズに対するより小さい直径絞りを意味する。円形絞りは、面積A=πr
2を有するので、開口直径を2倍にすること、したがって、F値を半分にすることは、4倍の光をシステムの中に入射させるであろう。逆に言えば、結像レンズのF値を増加させることは、開口サイズを減少させることによって、カメラに入射する光の量を減少させる。例えば、F値を2倍にすることは、1/4の光をシステムの中に入射させるであろう。
【0010】
F値を2倍にした場合に同一写真露光を維持するために、露光時間は、4倍長くある必要があるであろう。または代替として、照明が、元のレベルの4倍のレベルまで増加される必要があるであろう。F値を増加させることは、被写界深度(DoF)を増加させ、画像の空間分解能を増加させる利点を有し得る(例えば、変調伝達関数またはMTFによって測定されるように)。
【0011】
図1は、本発明のある実施形態による、結像システム102と、照明源104とを含むシステム100を図式的に図示する。システム100は、
図1に図示されるように、仮想現実(VR)または拡張現実(AR)体験のためにユーザによって装着され得るゴーグル内に統合され得る。システム100は、VRおよびAR体験を生み出すための他の光学および電子コンポーネントを含み得る。
【0012】
一実施形態では、結像システム102および照明源104は、飛行時間(TOF)深度感知のために使用され得る。照明源104は、複数のレーザパルスを放出するように構成されることができる。複数のレーザパルスの各々の一部は、ユーザの正面のオブジェクトから反射され得る。1つ以上のオブジェクトから反射された複数のレーザパルスの各々の一部は、結像システム102によって受け取られ、結像され得る。結像システム102は、放出から検出までのレーザパルスの各々のための飛行時間を決定し、それによって、ユーザからのオブジェクトの距離を決定するように構成されることができる。照明源104は、垂直キャビティ面発光レーザ(VCSEL)等のレーザ源を備え得る。いくつかの実施形態では、レーザ源は、近赤外線(NIR)波長範囲内、例えば、約750nm~約1400nmに及ぶ波長でレーザパルスを放出するように構成され得る。照明源104は、複数のレーザパルスをコリメートするためのコリメーションレンズも含み得る。
【0013】
いくつかの実施形態では、結像システム102は、コンピュータビジョンのためにも使用され得る。コンピュータビジョンのために使用されるとき、結像システム102は、可視波長範囲における受動周囲光によって照明されたオブジェクトをユーザの正面に結像するように構成される。TOF深度感知およびコンピュータビジョンの両方のための共有結像システムを使用することによって、より低いコストおよびよりコンパクトなシステム設計が、実現され得る。結像システム102は、ARまたはVRシステムの一部として上で説明されるが、結像システム102は、他のシステム内で使用され得ることを理解されたい。他の実施形態では、世界カメラ(WC)106および108ならびに写真カメラ110も、二重機能、すなわち、可視および赤外線光の両方を結像するために構成され得る。
【0014】
いくつかの実施形態では、システム100は、結像システム102を時間共有方式において動作させ得、深度感知とコンピュータビジョンとが、異なる時間スロットにおいて交互に実施される。いくつかの実施形態では、各スロットの持続時間は、深度感知またはコンピュータビジョンのいずれかに有意な待ち時間が存在しないように、約1ms~約50msに及び得る。他の実施形態では、システム100は、下でより詳細に説明されるように、深度感知とコンピュータビジョンとを同時に実施するように、結像システム102を動作させ得る。
【0015】
図2は、本発明のいくつかの実施形態による、二重波長感知のために使用され得る結像システム200を図式的に図示する。例えば、結像システム200は、NIR波長範囲におけるTOF深度感知と可視波長範囲におけるコンピュータビジョンとの両方のために使用され得る。結像システム200は、結像レンズ210と、結像レンズ210の結像面に位置付けられた画像センサ220とを含む。結像レンズ210は、光学軸に沿って配置される1つ以上のレンズ要素216a-216eを含み得る。結像レンズは、入射瞳サイズを画定し得る開口絞り212をさらに含み得る。レンズシステムでは、画像に到達する光の量を決定する制限直径は、開口絞りと呼ばれる。いくつかの実施形態では、開口絞りは、複合結像レンズの正面の近傍に位置付けられ得る。いくつかの他の実施形態では、開口絞りは、複合結像レンズのレンズ要素の2つのグループ間に位置付けられ得る(例えば、
図2に図示されるように)。そのような場合、入射瞳サイズは、開口絞りの画像によって決定され、開口絞りの画像は、開口絞りに先行するレンズ要素によって形成される。以下では、入射瞳サイズは、開口絞りサイズと同一であると仮定される。
【0016】
結像システム200が、TOF深度感知のために使用されるとき、比較的に低電力レーザ源が能動照明のために使用され得るように、結像レンズ210を高速レンズとして構成することが有利であり得る。より低い電力照明は、他の利点の中でもとりわけ、より低いコスト、より小さい形状因子、およびより低い電力消費につながり得る。ある場合、例えば、約f/1~約f/1.4の範囲内の比較的に低f/#が、TOF深度感知のために望ましくあり得る。対照的に、結像システム200が、コンピュータビジョンのために使用されるとき、より高い空間分解能およびより大きい被写界深度(DoF)が達成され得るように、結像レンズ210を低速レンズとして構成することが有利であり得る。ある場合、例えば、約f/2~約f/2.8の範囲内の比較的に高f/#が、コンピュータビジョンのために望ましくあり得る。結像システム200は、異なる波長範囲における光を感知するための異なるレンズ速度を有することが望ましくあり得る他の用途に適用され得る(例えば、赤外線感知および可視光感知のために)。
【0017】
本発明のある実施形態によると、結像レンズ210は、開口絞り212に位置付けられた波長選択的フィルタとして機能し得るフィルタ214を含む。
図3は、本発明のある実施形態による、結像レンズ210内で使用され得るフィルタ214の基本構想図を示す。フィルタ214は、2つの領域、すなわち、第1の直径D
1を伴う中心(例えば、円形)領域310と、中心領域310を包囲する外側(例えば、環状)領域320とを含み得る。外側領域320は、その外径としての第2の直径D
2によって特徴付けられる。第2の直径D
2は、開口絞り212の直径と実質的に同じであり得る。中心領域310は、
図3では円形形状を有するように描写されるが、楕円形、正方形、長方形形状等の他の形状も、使用されることができることを理解されたい。同様に、外側領域320は、
図3では環状形状を有するように描写されるが、他の形状も、可能である。
【0018】
図4Aは、本発明のある実施形態による、フィルタ214の中心領域310のための波長の関数としての例示的透過率曲線のプロットである。
図4Bは、本発明のある実施形態による、フィルタ214の外側領域320のための波長の関数としての例示的透過率曲線のプロットである。
図4Aに図示されるように、フィルタ214の中心領域310は、NIR波長範囲(例えば、約800nm~約950nm)内の第1の透過帯域430と、可視(VIS)波長範囲(例えば、約400nm~約700nm)内の第2の透過帯域440とを有するように構成され得る。故に、中心領域310は、NIRおよび可視波長範囲の両方内の高透過率値によって特徴付けられ得る。
図4Bに図示されるように、外側領域320は、外側領域320が、NIR波長範囲における高透過率値であるが、可視波長範囲における低透過率値によって特徴付けられるように、NIR波長範囲(例えば、約800nm~約950nm)内の1つのみの透過帯域450を有するように構成され得る。
【0019】
いくつかの実施形態では、フィルタ214は、ガラス等の透明基板の表面上に形成される多層薄膜スタックを備え得る。多層薄膜は、異なる屈折率の2つ以上の材料から成る周期的層システムを備え得る。この周期的システムは、1つ以上の所望の波長範囲における表面の透過率を有意に向上させながら、他の波長範囲における表面の透過率を抑制するように工夫され得る。最大透過率は、スタック内の層の数の増加に伴って、最大約100%まで増加され得る。多層薄膜スタックを構成する層の厚さは、概して、4分の1波であり、透過させられるビームが互いに建設的に干渉し、透過を最大化し、反射を最小化するように設計される。一実施形態では、中心領域310内の多層薄膜スタックは、2つの高透過率帯域(一方は、可視波長範囲内であって、他方は、NIR波長範囲内である)を有し、かつ全ての他の波長のための低透過率を有するように工夫され得る。環状領域320内の多層薄膜スタックは、NIR波長範囲における1つのみの高透過率帯域を有し、かつ全ての他の波長のための低透過率を有するように工夫され得る。他の実施形態では、メタ表面フィルタ等の他のタイプの帯域通過フィルタが、使用され得る。
【0020】
図5は、本発明のいくつかの実施形態による、波長選択的フィルタ500の概略断面図を図示する。フィルタ500は、ガラス片等の透明基板502と、基板502の正面表面上に配置される第1の多層薄膜510と、第1の多層薄膜510上に配置される第2の多層薄膜520とを含み得る。第1の多層薄膜510は、直径D
2を伴う円形形状を有し得る。第2の多層薄膜520は、内径D
1および外径D
2を伴う環状形状を有し得る。いくつかの実施形態では、フィルタ500は、反射防止コーティング530を基板502の背面上にさらに含み得る。
【0021】
第1の多層薄膜510は、
図4Aに図示されるように、NIR波長範囲(例えば、約800nm~約950nm)内の第1の透過帯域430と、可視(VIS)波長範囲(例えば、約400nm~約700nm)内の第2の透過帯域440とを呈する透過率曲線を有するように構成され得る。第2の多層薄膜520は、
図4Aにおける破線曲線460によって図示されるようなNIR波長範囲における光に透過させ、可視波長範囲における光を遮断する高域通過フィルタとして構成され得る。したがって、第1の多層薄膜510と第2の多層薄膜520の組み合わせは、フィルタ500の外側領域に対して
図4Bに図示されるように、有効透過率曲線450をもたらし得る。したがって、フィルタ500の外側領域は、NIR波長範囲における光のみに効果的を透過させ得る一方、フィルタ500の中心領域は、可視およびNIR波長範囲の両方内の光に透過させ得る。
【0022】
フィルタ214または500が、
図2に図示されるように、結像レンズ210内の開口絞り212に位置付けられると、フィルタ214または500は、結像されている光の波長範囲に応じて、事実上、結像レンズ210のために2つの異なる開口をもたらし得る。
図3および4A-4Bを参照すると、結像レンズ210がNIR光を結像するために使用されるとき、例えば、TOF深度感知のために使用されるとき、照明レーザ源104(
図1に図示されるような)は、NIR波長範囲内で動作し、NIR光は、フィルタ214の中心領域310および外側領域320の両方を通して伝送される。したがって、NIR光のための結像レンズ210の有効開口は、第2の直径D
2である。結像レンズ210が可視光を結像するために使用されるとき、例えば、コンピュータビジョンのために使用されるとき、照明は、周囲可視光からのものであり、可視光は、中心領域310を通してのみ伝送される。したがって、可視光のための結像レンズ210の有効開口は、第1の直径D
1である。波長選択的フィルタ214を伴う結像レンズ210は、異なる波長範囲における光を感知するために異なるレンズ速度を有することが望ましくあり得る他の用途に適用され得る。
【0023】
結像レンズ210は、焦点距離fを有すると仮定する。結像レンズが、可視光を結像するために使用されるとき、結像レンズ210は、以下によって与えられる可視光のための第1のf/#によって特徴付けられ得る。
【数2】
結像レンズが、NIR光を結像するために使用されるとき、結像レンズ210は、以下によって与えられるNIR光のための第2のf/#によって特徴付けられ得る。
【数3】
【0024】
したがって、結像レンズ210は、NIR波長範囲におけるTOF深度感知のための比較的に低f/#NIRと、可視波長範囲におけるコンピュータビジョンのための比較的に高f/#VISとを有するように構成されることができる。TOF深度感知のために、より低いf/#は、より多くの能動照明NIR光が結像レンズ210を通過し得ることを意味する。したがって、比較的に低電力レーザ源が、照明のために使用され得、それは、他の利点の中でもとりわけ、より低いコスト、より小さい形状因子、およびより低い電力消費につながり得る。いくつかの実施形態では、D2の値は、f/#NIRが約f/1~約f/1.4の範囲内であるように選定され得る。
【0025】
可視波長範囲におけるコンピュータビジョンのために、より高いf/#は、他の利点の中でもとりわけ、結像面におけるより高い空間分解能(例えば、MTFによって測定されるように)およびより大きいDoFをもたらし得る。実際、より低いf/#は、ある場合、可視光を結像するとき、所望されないこともある。下でより完全に説明されるように、画像センサは、典型的には、NIR波長範囲内より可視波長範囲内に高い量子効率を有する。したがって、画像センサは、高速レンズが可視光を結像するために使用されるとき、飽和され得る。いくつかの実施形態では、D1の値は、f/#VISが約f/2~約f/2.8の範囲内であるように選定され得る。VISとNIRモードとの間の強度比率は、故に、比率D1/D2に設定することによって制御されることができる。いくつかの実施形態では、D1/D2の比率は、約0.4~約0.6の範囲内であるように選定され得る。一実施形態では、D1/D2の比率は、f/#VISの値がf/#NIRの値の約2倍であるように、約0.5であるように選定され得る。
【0026】
図6は、いくつかの実施形態による、概略の結像システムを図示する。結像システムは、波長選択的フィルタ600と、光学レンズ610と、画像センサ620とを含み得る。単一レンズ要素が、
図6では、例証の便宜上、光学レンズ610に対して描写されるが、光学レンズ610は、いくつかのレンズ要素を含み得る。フィルタ600は、ガラス片等の透明基板602と、第1の直径D
1を伴う円形形状を有する第1の多層薄膜604と、第1の多層薄膜604を包囲する外径D
2を伴う環状形状を有する第2の多層薄膜606とを含み得る。第1の多層薄膜604は、上で議論されるように、可視およびNIR波長範囲の両方のための高透過率を有するように構成され得、第2の多層薄膜606は、NIR波長範囲のみのために高透過率を有するように構成され得る。
【0027】
図6に図示されるように、可視波長範囲における入射光線は、実線矢印によって表される光経路によって図示されるように、第1の多層薄膜604によって透過させられ、画像スポット622を画像センサに形成し得る。入射光の一部は、画像センサ620によって反射され、破線矢印によって表される光経路によって図示されるように、第2の多層フィルム606の背面側に入射し得る。可視波長範囲における入射光に対して、反射された光は、第2の多層薄膜606が可視波長範囲における低透過率値および高反射率値を有するように構成されるので、第2の多層薄膜606によって反射され得る。第2の多層薄膜606によって反射された光は、残影画像624を画像センサ620に形成し得る。NIR波長範囲における入射光に対して、画像センサ620によって反射され、第2の多層薄膜606の背面側に入射する光の一部は、第2の多層薄膜606がNIR波長範囲における高透過率値を有するように構成されるので、第2の多層薄膜606によって主に透過させられるであろうことに留意されたい。したがって、フィルタ600は、NIR波長範囲における光に対する有意な残影画像問題を提示し得ない。
【0028】
図7は、いくつかの実施形態による、視野点(例えば、ある入射角におけるコリメートされた光線)のための例示的結像システムの光線トレース図を示す。画像システムは、波長選択的フィルタ700と、光学レンズ710と、画像センサ720とを含み得る。
図8は、光線トレースによってシミュレートされるような画像センサ720における強度分布を示す。図示されるように、強度分布は、画像点810と、残影画像820とを示す。残影画像は、実画像を曖昧にし得る。したがって、残影画像の形成を防止することが望ましくあり得る。
【0029】
図9は、いくつかの実施形態による、結像システム内で使用され得、残影画像形成を防止し得る波長選択的フィルタ900の概略断面図を図示する。
図6に図示される波長選択的フィルタ600と同様に、フィルタ900は、透明基板602と、第1の直径D
1を伴う円形形状を有する基板602の正面側上に形成される第1の多層薄膜604と、第1の多層薄膜604を包囲するD
2の外径を伴う環状形状を有する基板602の正面側上に形成される第2の多層薄膜606とを含む。第1の多層薄膜604は、上で議論されるように、可視およびNIR波長範囲の両方における高透過率値を有するように構成され得、第2の多層薄膜606は、NIR波長範囲におけるみに高透過率値を有するように構成され得る。
【0030】
フィルタ900は、基板602の背面側に形成される第3の薄膜910をさらに含み得る。第3の薄膜910は、外径D
2および内径D
3を伴う環状形状を有し得る。D
3は、波長選択的フィルタ600の中心領域(例えば、第1の多層薄膜604)を通して結像システムに入射する入射光線を遮断しないように、第2の多層薄膜606の内径D
1を若干上回り得る。いくつかの実施形態では、D
3の値は、基板602の厚さに依存し得る。比較的に薄い基板602に対して、D
3は、D
1に匹敵し得る。第3の薄膜910は、可視波長範囲における高吸収係数と、NIR波長範囲における高透過率値とを有するように構成され得る。したがって、第3の薄膜910は、「ブラックコーティング」と称され得る。画像センサ620から反射された可視光が、第3の薄膜910上に入射すると、その有意な部分は、第3の薄膜910によって吸収され得、そのわずかな部分のみが、
図9におけるより薄い破線矢印によって表される光経路によって図示されるように、第3の薄膜910によって透過させられ、第2の多層薄膜606の背面上に入射し得る。したがって、残影画像624の強度は、「ブラックコーティング」を伴わないフィルタ600が
図6に図示されるように使用される場合と比較して、有意に低減させられ得る。
【0031】
図10Aは、いくつかの実施形態による、
図6に図示される波長選択的フィルタ600を使用した光線トレースシミュレーションからの残影画像の強度分布を示す。
図10Bは、いくつかの実施形態による、「ブラックコーティング」910を含む
図9に図示される波長選択的フィルタ900を使用した光線トレースシミュレーションからの残影画像の強度分布を示す。図示されるように、残影画像の強度は、「ブラックコーティング」910を波長選択的フィルタ900内に含むことによって、有意に低減させられ得る。
図10Cは、「ブラックコーティング」を含まない波長選択的フィルタ600を使用した残影画像強度と「ブラックコーティング」910を伴う波長選択的フィルタ900を使用した残影画像強度の比率を示す。図示されるように、残影画像強度は、「ブラックコーティング」910を波長選択的フィルタ900内に含むことによって、20倍も低減させられることができる。
【0032】
図11は、いくつかの他の実施形態による、波長選択的フィルタ1100の概略断面図を図示する。フィルタ1100は、透明基板1102と、基板1102の正面表面上に形成される第1の多層薄膜1110とを含み得る。第1の多層薄膜1110は、
図4Aに図示されるように、NIR波長範囲における第1の透過帯域430と、可視波長範囲における第2の透過帯域440とを有するように構成され得る。フィルタ1100は、第1の多層薄膜1110の外側領域上に形成される第2の多層薄膜1120をさらに含み得る。第2の多層薄膜1120は、
図5に図示される波長選択的フィルタ500に類似する高域通過フィルタであるように構成され得る。フィルタ1100は、基板1102の背面上に形成される反射防止コーティング1130をさらに含み得る。反射防止コーティング1130は、基板1102の背面から反射される入射光の量を防止または低減させることができる。フィルタ1100は、反射防止コーティング1130の背面上に形成される「ブラックコーティング」1140をさらに含み得る。「ブラックコーティング」1140は、上で議論されるように、可視光を吸収し、NIR光に透過させるように構成され得る。
【0033】
図12は、いくつかの実施形態による、波長の関数として、「ブラックコーティング」1140の透過率曲線1210および反射率曲線1220を示す。第1の多層薄膜1110の透過率曲線1230も、示される。図示されるように、「ブラックコーティング」1140は、約400nm~約700nmに及ぶ可視波長のための低透過率値と、約800nm~約950nmに及ぶNIR波長内の高透過率値とを有するように構成されることができる。「ブラックコーティング」1140は、約700nm~約800nmに及ぶ波長において比較的に高反射率値を有し得るが、これは、この波長範囲における光が、主に、第1の多層薄膜1110の透過率曲線1230によって証明されるように、第1の多層薄膜1110によって遮断されるので、波長選択的フィルタ1100の性能に有意に影響を及ぼさないこともある。
【0034】
「ブラックコーティング」1140は、可視波長範囲における低反射率値および低透過率値の両方を有することに留意されたい。したがって、「ブラックコーティング」1140は、可視光を実質的に吸収し、それによって、画像センサ620から反射された可視光(
図9に図示されるように)が、透過させられ、第2の多層薄膜606の背面側に入射し、残影画像624を画像センサ620上に形成することを防止し得る。対照的に、反射防止コーティング1130は、通常、低反射率値であるが、高透過率値を有するように構成される。したがって、画像センサ620から反射された可視光は、「ブラックコーティング」1140の不在下、反射防止コーティング1130によって透過させられ、第2の多層薄膜1120によって反射され、残影画像624を画像センサ620上に形成し得る。
【0035】
図13は、いくつかの実施形態による、波長の関数として、第2の多層薄膜1120の反射率曲線1310を示す。図示されるように、第2の多層薄膜1120は、約800nm~約950nmに及ぶNIR波長内のみの低反射率値(したがって、高透過率値)と、全ての他の波長のための比較的に高反射率値とを有するように構成され得る。
図13は、「ブラックコーティング」1140の反射率曲線1220と、第1の多層薄膜1110の透過率曲線1230とも示す。図示されるように、可視波長範囲における「ブラックコーティング」1140の低反射率値は、可視波長範囲における光の反射を低減させ、それによって、残影画像の強度を低減させ得る。
【0036】
図14は、本発明のある実施形態による、
図2に図示されるような結像システム200内で使用され得る画像センサ220の波長の関数としての例示的量子効率(Q.E.)曲線1410を示す。図示されるように、可視(VIS)波長範囲における画像センサ220の量子効率は、NIR波長範囲における量子効率の4倍であり得る。したがって、低f/#レンズは、多くの可視光が画像センサ220まで結像レンズ210を通過することを可能にし得、画像センサ220を飽和させ得る。
【0037】
いくつかの実施形態では、
図2に図示される結像システム200内の画像センサ220は、光をピクセルセルの2次元アレイの電子に変換する電荷結合素子(CCD)または相補的金属酸化物半導体(CMOS)デバイスを備え得る。
図15は、本発明のある実施形態による、画像センサ220の平面図を図式的に図示する。画像センサ220は、ピクセルセル222の2次元アレイを含み得る。各ピクセルセル222の蓄積された電荷の値は、画像の強度分布を取得するために読み出され得る。結像システム200が、可視波長範囲におけるコンピュータビジョンのために使用されるとき、最高可能空間分解能を画像センサ220に有することが望ましくあり得る。他方、結像システム200が、NIR波長範囲におけるTOF深度感知のために使用されるとき、ピクセル分解能を犠牲にして、より多くの光統合を有し、より良好な信号対雑音比(SNR)を達成することが有利であり得る。
【0038】
本発明のいくつかの実施形態によると、画像センサ220は、可視波長範囲およびNIR波長範囲のために異なる分解能モードで動作させられ得る。一実施形態では、画像センサ220は、可視波長範囲のために、本来の分解能で、すなわち、画像センサの物理的ピクセルサイズがサポートし得る最大可能分解能で動作させられ得る。したがって、可視波長範囲におけるコンピュータビジョンのために、画像センサ220は、各ピクセルセル222内の蓄積された電荷が読み出されるように動作させられ得る。
【0039】
NIR波長範囲のために、画像センサ220は、より多くの光統合のために、本来の分解能より低い分解能で動作させられ得る。
図16は、本発明のある実施形態による、画像センサ220の動作モードを図式的に図示する。ピクセルセル222の2次元アレイが、2×2グループ224にビニングされ得る。各グループ224は、4つのピクセルセル222a-222dを含む。この動作モードは、画像センサピクセルビニングと称され得る。他の実施形態では、他のビニング構成も、使用され得る。例えば、画像センサ220のピクセルセル222は、n×nグループにビニングされ得、nは、2以上の整数である。画像センサのピクセルは、m×nグループにもビニングされ得、mおよびnは、整数であり、mおよびnのうちの少なくとも1つは、1を上回り、mは、nと等しいことも、等しくないこともある。ピクセルをビニングすることによって、空間分解能は、本来の分解能と比較して低減させられ得る。画像センサ220が、波長選択的フィルタ214、500、600、900、または1100を含む結像システム内で使用されるとき、結像システムの空間分解能(例えば、変調伝達関数またはMTFによって測定されるように)は、より大きい有効開口サイズにより、NIR波長範囲内でより低くあり得ることから、画像センサにおける空間分解能の低減は、有害ではないこともある。より多くの光統合がビニングによってもたらされる場合、比較的に低電力レーザ源が、能動照明のために使用され得る。より低い電力照明は、他の利点の中でもとりわけ、より低いコスト、より小さい形状因子、およびより低い電力消費につながり得る。
【0040】
一実施形態では、ビニングは、アナログレベルで実施され得、各グループ内のm×nピクセルに対する総蓄積電荷の値が、読み出される。そのような場合、読み出し雑音は、追加されない。別の実施形態では、ビニングは、デジタルレベルで実施され得、各ピクセルのために蓄積された電荷の値が、読み出され、各グループ内のm×nピクセルに対する読み出し値は、次いで、総和される。そのような場合、読み出し雑音が、総和プロセス内に追加される。したがって、後者実施形態は、読み出し雑音が比較的に低い場合、より適切であり得る。
【0041】
上で説明されるように、
図2に図示される結像システム200は、波長選択的フィルタ214をその開口絞りにおいて利用することによって、NIR光のためのより低いF値と、可視光のためのより高いF値とによって特徴付けられ得る結像レンズ210と、ピクセルビニングを使用したNIR光のためのより低い分解能モードと、可視光のためのより高い分解能モードとで動作させられ得る画像センサ220とを含む。結像システム200は、より高速のレンズおよびより多い光統合が所望されるNIR波長範囲における能動照明を伴うTOF深度センサだけではなく、より高い画像分解能およびより大きい被写界深度が所望される可視波長範囲における受動照明を伴うコンピュータビジョンセンサとしての使用にも好適であり得る。
【0042】
図17は、本発明の別の実施形態による、結像システム1700を図示する概略図である。結像システム1700は、複数のレンズ要素1702a-1702fと、開口絞り212に位置付けられるフィルタ214とを含み得る。結像システム800は、フィルタ214後の光学経路内に位置付けられるダイクロイックビームスプリッタ1710をさらに含み得る。ダイクロイックビームスプリッタ1710は、可視光に第1の光学経路に沿って透過させ、IR光を第2の光学経路に沿って反射するように構成され得る。結像システム1700は、可視光のための第1の画像センサ1720(VISセンサ)と、IR光のための第2の画像センサ1730(IRセンサ)とをさらに含み得る。第1の画像センサ1720は、第1の光学経路に沿って配置され、ダイクロイックビームスプリッタ1710によって透過させられる可視光を受け取るように構成される。第2の画像センサ1730は、第2の光学経路に沿って配置され、ダイクロイックビームスプリッタ1710によって反射されたIR光を受け取るように構成される。この方式では、可視光およびIR光は、それぞれ、第1の画像センサ1720および第2の画像センサ17830によって、同時に結像され得る。この構成では、第1の画像センサ1720への第1の光学経路および第2の画像センサ1730への第2の光学経路は、互いに垂直である。
【0043】
図18は、本発明のさらに別の実施形態による、結像システム1800を図示する概略図である。結像システム1800も、フィルタ214後に位置付けられ、可視光に第1の光学経路に沿って透過させ、IR光を第2の光学経路に沿って反射するように構成されるダイクロイックビームスプリッタ1710を含むという点で、結像システム1700に類似する。結像システム1800は、第2の光学経路に沿って位置付けられ、IR光を第2の画像センサ1730に向かって反射するように構成されるミラー1810をさらに含む。この構成では、第1の画像センサ1720への第1の光学経路および第2の画像センサ1730への第2の光学経路は、互いに平行である。結像システム1800は、IR光を第2の画像センサ1730に再集束させるために、第2の光学経路に沿ってミラー1810後に位置付けられるレンズ要素1820をさらに含み得る。
【0044】
図19は、本発明のある実施形態による、結像システムを動作させる方法1900を図示する簡略化されたフローチャートである。方法1900は、結像システムを使用して3次元感知を実施することを含む。いくつかの実施形態では、3次元感知を実施することは、第1の時間スロット内で実施される。結像システムは、近赤外線(NIR)光源と、結像レンズと、結像レンズの結像面に位置付けられた画像センサとを含み得る。
【0045】
ある実施形態では、3次元感知は、NIR光源を使用して、複数のNIR光パルスを1つ以上の第1のオブジェクトに向かって放出すること(1910)によって実施され得る。複数のNIR光パルスの各々の一部が、1つ以上の第1のオブジェクトから反射され得る。方法は、結像レンズを使用して、1つ以上の第1のオブジェクトから反射される複数のNIR光パルスの各々の一部を受け取り、画像センサ上に集束させること(1912)も含む。結像レンズは、開口絞りと、開口絞りに位置付けられた波長選択的フィルタとを含み得る。波長選択的フィルタは、第1の領域と、第1の領域を包囲する第2の領域とを有し得る。一実施形態では、波長選択的フィルタは、NIR光を第1の領域および第2の領域の両方に透過させ、可視光に第1の領域のみを透過させるように構成される。方法は、画像センサを使用して、放出から検出までの複数のNIR光パルスの各々の一部のための飛行時間を決定することによって、1つ以上の第1のオブジェクトの3次元画像を検出すること(1914)をさらに含む。
【0046】
方法1900は、結像システムを使用して第2の時間スロット内でコンピュータビジョンを実施することをさらに含む。コンピュータビジョンを実施することは、第1の時間スロットに続いて、第2の時間スロット内で実施され得る。ある実施形態では、コンピュータビジョンは、結像レンズを使用して、1つ以上の第2のオブジェクトから反射された周囲光源からの可視光を受け取り、画像センサ上に集束させること(1916)と、画像センサを使用して、1つ以上の第2のオブジェクトの2次元強度画像を検出すること(1918)とによって実施され得る。いくつかの実施形態では、第2のオブジェクトのうちのいくつかは、上で説明されるステップ1910-1914において結像された第1のオブジェクトのうちのいくつかと同一であり得る。
【0047】
本発明のある実施形態によると、画像センサは、ピクセルの2次元アレイを含む。いくつかの実施形態では、1つ以上の第1のオブジェクトの3次元画像を検出することは、m×nピクセルの各グループに対して電荷の総量を読み出すことによって実施され、mおよびnは、整数であり、mおよびnのうちの少なくとも1つは、2以上である。いくつかの他の実施形態では、1つ以上の第1のオブジェクトの3次元画像を検出することは、ピクセルの2次元アレイの各ピクセルに対して電荷の量を読み出すことと、各グループ内のm×nピクセルの電荷の量を総和することによって、m×nピクセルの各グルーに対する電荷の総量を計算することとによって実施され、mおよびnは、整数であり、mおよびnのうちの少なくとも1つは、2以上である。
【0048】
一実施形態では、1つ以上の第2のオブジェクトの2次元強度画像を検出することは、ピクセルの2次元アレイの各ピクセルに対して電荷の量を読み出すことによって実施される。
【0049】
いくつかの実施形態では、方法1900は、3次元感知およびコンピュータビジョンをシーケンシャル時間スロットにおいて交互に実施することを含み得、各スロットの持続時間は、約1ms~約50msに及び得る。
【0050】
いくつかの他の実施形態では、方法1900は、
図17または
図18に図示されるもの等の結像システムを使用して3次元感知およびコンピュータビジョンを同時に実施することを含み得る。
【0051】
図19に図示される具体的ステップは、本発明のある実施形態による特定の方法1900を提供することを理解されたい。ステップの他のシーケンスも、代替実施形態に従って実施され得る。例えば、本発明の代替実施形態は、異なる順序で上で概略されたステップを実施し得る。さらに、
図19に図示される個々のステップは、個々のステップの必要に応じて種々のシーケンスで実施され得る複数のサブステップを含み得る。さらに、追加のステップが、特定の用途に応じて追加または除去され得る。当業者は、多くの変形例、修正、および代替を認識するであろう。
【0052】
本明細書に説明される例および実施形態は、例証的目的のためだけのものであり、種々の修正または変更が、それに照らして、当業者に示唆され、本願の精神および範疇ならびに添付の請求項の範囲内に含まれるべきであることも理解されたい。