(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2025093282
(43)【公開日】2025-06-23
(54)【発明の名称】レンズレスイメージングシステム、レンズレスイメージングシステムの製造方法及び電子装置
(51)【国際特許分類】
H10F 39/12 20250101AFI20250616BHJP
【FI】
H01L27/146 D
【審査請求】未請求
【請求項の数】20
【出願形態】OL
(21)【出願番号】P 2024117722
(22)【出願日】2024-07-23
(31)【優先権主張番号】10-2023-0178723
(32)【優先日】2023-12-11
(33)【優先権主張国・地域又は機関】KR
(71)【出願人】
【識別番号】390019839
【氏名又は名称】三星電子株式会社
【氏名又は名称原語表記】Samsung Electronics Co.,Ltd.
【住所又は居所原語表記】129,Samsung-ro,Yeongtong-gu,Suwon-si,Gyeonggi-do,Republic of Korea
(74)【代理人】
【識別番号】100110364
【弁理士】
【氏名又は名称】実広 信哉
(74)【代理人】
【識別番号】100154922
【弁理士】
【氏名又は名称】崔 允辰
(72)【発明者】
【氏名】柳 長雨
(72)【発明者】
【氏名】宋 炳權
(72)【発明者】
【氏名】李 斗鉉
(72)【発明者】
【氏名】金 世允
(72)【発明者】
【氏名】徐 元澤
(72)【発明者】
【氏名】尹 容燮
【テーマコード(参考)】
4M118
【Fターム(参考)】
4M118AA10
4M118AB01
4M118BA14
4M118CA02
4M118CA16
4M118GD20
(57)【要約】
【課題】レンズレスイメージングシステム、レンズレスイメージングシステムの製造方法及び電子装置を提供する。
【解決手段】レンズレスイメージングシステムが開示される。一実施形態によれば、少なくとも1つのドメインを含むコーデッドマスク;及びコーデッドマスクを通過した光を受信し、受信された光に基づいてイメージ生成のための電気信号を発生させるイメージセンサー;を含み、少なくとも1つのドメインのそれぞれは、第1パターンで提供される複数のサブドメインを含み、複数のサブドメインのそれぞれは、第1パターンを含み、複数のサブドメインは、第1パターンと第2パターンとの組み合わせに基づいて入射光を偏向させることができる。
【選択図】
図1
【特許請求の範囲】
【請求項1】
少なくとも1つのドメインを含むコーデッドマスクと、
前記コーデッドマスクを通過した光を受信し、前記受信された光に基づいてイメージ生成のための電気信号を発生させるイメージセンサーと、
を含み、
前記少なくとも1つのドメインのそれぞれは、第1パターンで提供される複数のサブドメインを含み、前記複数のサブドメインのそれぞれは、第1パターンを含み、前記複数のサブドメインは、前記第1パターンと第2パターンとの組み合わせに基づいて入射光を偏向させる、レンズレスイメージングシステム。
【請求項2】
前記コーデッドマスクは、前記入射光の位相または透過率を変化させる、請求項1に記載のレンズレスイメージングシステム。
【請求項3】
前記入射光は、LWIRを含む、請求項1に記載のレンズレスイメージングシステム。
【請求項4】
前記第1パターンは、ランダムドット及びカーブドラインパターンのうちの少なくとも1つを含む、請求項1に記載のレンズレスイメージングシステム。
【請求項5】
前記第2パターンは、メタブレーズド回折格子パターンを含む、請求項1に記載のレンズレスイメージングシステム。
【請求項6】
前記光の偏向角度及び偏向方向のうちの少なくとも1つは、前記複数のサブドメインの各サブドメイン別に変形される、請求項5に記載のレンズレスイメージングシステム。
【請求項7】
前記偏向角度の大きさは、前記複数のサブドメインの各サブドメインの中心と前記複数のサブドメインの各サブドメインに対応するドメインの中心との距離に比例するように形成される、請求項6に記載のレンズレスイメージングシステム。
【請求項8】
前記偏向方向は、前記複数のサブドメインの各サブドメインの中心で前記複数のサブドメインの各サブドメインが対応する前記少なくとも1つのドメインのうちの1つのドメインの中心に向かうように形成される、請求項6に記載のレンズレスイメージングシステム。
【請求項9】
前記少なくとも1つのドメインは、複数のドメインを含み、
前記複数のドメインのうちの各ドメインは、点拡がり関数(PSF)を有する、請求項1に記載のレンズレスイメージングシステム。
【請求項10】
前記コーデッドマスクは、厚さ1mm未満の平板状を有する、請求項1に記載のレンズレスイメージングシステム。
【請求項11】
前記イメージセンサーは、CMOSイメージセンサー及びボロメータのうちの少なくとも1つを含む、請求項1に記載のレンズレスイメージングシステム。
【請求項12】
前記イメージセンサーから発生した電気信号を用いてイメージを復元する復元アルゴリズムを含む制御部をさらに含む、請求項1に記載のレンズレスイメージングシステム。
【請求項13】
前記復元アルゴリズムは、神経網基盤のディープラーニングアルゴリズムを含む、請求項12に記載のレンズレスイメージングシステム。
【請求項14】
基板上にイメージセンサーを形成する段階と、
コーデッドマスクが前記イメージセンサーの一面に対向するように、少なくとも1つのドメインを含むコーデッドマスクを形成する段階と、
を含み、
前記少なくとも1つのドメインのそれぞれは、複数のサブドメインを含み、
前記コーデッドマスクを形成する段階は、
前記複数のサブドメインを第1パターンで形成する段階と、
前記複数のサブドメインの各サブドメインに、入射光を偏向させるように第2パターンを形成する段階と、
を含む、レンズレスイメージングシステムの製造方法。
【請求項15】
前記第1パターンは、ランダムドット及びカーブドラインパターンのうちの少なくとも1つを含む、請求項14に記載のレンズレスイメージングシステムの製造方法。
【請求項16】
前記第2パターンは、メタブレーズド回折格子パターンを含む、請求項14に記載のレンズレスイメージングシステムの製造方法。
【請求項17】
前記第2パターンは、前記複数のサブドメインの各サブドメイン別に光の偏向角度及び偏向方向のうちの少なくとも1つが異なって形成される、請求項16に記載のレンズレスイメージングシステムの製造方法。
【請求項18】
前記偏向角度の大きさは、前記複数のサブドメインの各サブドメインの中心と前記複数のサブドメインの各サブドメインに対応する前記少なくとも1つのドメインの中心との距離に比例するように形成される、請求項17に記載のレンズレスイメージングシステムの製造方法。
【請求項19】
前記偏向方向は、前記複数のサブドメインの各サブドメインの中心で前記複数のサブドメインの各サブドメインに対応する前記少なくとも1つのドメインの中心に向かうように形成される、請求項17に記載のレンズレスイメージングシステムの製造方法。
【請求項20】
被写体に対するイメージを生成するレンズレスイメージングシステムと、
前記レンズレスイメージングシステムを制御するプロセッサと、
を含み、
前記レンズレスイメージングシステムは、
少なくとも1つのドメインを含むコーデッドマスクと、
前記コーデッドマスクを通過した光を受信し、前記受信された光に基づいてイメージ生成のための電気信号を発生させるイメージセンサーと、
を含み、
前記少なくとも1つのドメインは、第1パターンで提供される複数のサブドメインを含み、
前記複数のサブドメインのそれぞれは、第2パターンを含み、
前記複数のサブドメインは、前記第1パターンと第2パターンとの組み合わせに基づいて入射光を偏向させる、電子装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、レンズレスイメージングシステムと、そのレンズレスイメージングシステムの製造方法と、に関する。
【背景技術】
【0002】
一般的なイメージングシステムは、駆動回路を含むイメージセンサーチップ(image sensor chip)と、それを覆うパッケージング、パッケージングに形成された光入射ウィンドウ(window)、ウィンドウ上に形成された波長フィルター及び前記パッケージング上に形成されたレンズシステムと、を含む。一般的なレンズシステムの場合、レンズを備えることによって光の進行に必要な空間が必要であり、レンズ一枚としては、センサーチップの前面に必要な解像度映像を作ることができず、複数枚のレンズを組み合わせるために、イメージングシステムのフォームファクタが大きくなる。特に、LWIR(Long Wave InfraRed)では、低価の材料を使用することができず、コスト高となる。
【0003】
最近、光学系を単純化させて、サイズとコストとを減らすために、イメージングレンズの代わりに、コーデッドマスクを適用したレンズレスイメージングシステムが提案された。ハードウェアの観点からレンズアセンブリーを薄い平面状のコーデッドマスクが代替するので、物体のイメージを直接に撮影することができず、計算アルゴリズムを用いて物体映像を復元する。コーデッドマスクの形態は、平行光が入射してイメージセンサーに結ばれる点拡がり関数(Point Spread Function、PSF)の形状によって大きく曲線型と点パターンとの2つのカテゴリーに分けることができる。一般的に、曲線及び点形態のPSFを提供するコーデッドマスクを適用する場合にも、入射された光はコーデッドマスクの特性上、依然として分散されて測定されるので、一般的なレンズ光学系に比べて、センサーのピクセル当たりに到達する光量インテンシティが低くなる。
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明が解決しようとする課題は、レンズレスイメージングシステム、レンズレスイメージングシステムの製造方法及び電子装置を提供するところにある。
【課題を解決するための手段】
【0005】
一態様によれば、レンズレスイメージングシステムは、少なくとも1つのドメインを含むコーデッドマスク;及び前記コーデッドマスクを通過した光を受信し、前記受信された光に基づいてイメージ生成のための電気信号を発生させるイメージセンサー;を含み、前記少なくとも1つのドメインのそれぞれは、第1パターンで提供される複数のサブドメインを含み、前記複数のサブドメインのそれぞれは、第1パターンを含み、前記複数のサブドメインは、前記第1パターンと第2パターンとの組み合わせに基づいて入射光を偏向させることができる。
【0006】
前記コーデッドマスクは、前記入射光の位相または透過率を変化させることができる。
この際、前記入射光は、LWIRを含みうる。
【0007】
前記第1パターンは、ランダムドット(random dot)及びカーブドライン(curved line)パターンのうちの少なくとも1つを含みうる。
【0008】
前記第2パターンは、メタブレーズド回折格子(meta blazed grating)パターンを含みうる。
【0009】
前記光の偏向角度及び偏向方向のうちの少なくとも1つは、前記複数のサブドメインの各サブドメイン別に変形されうる。
【0010】
偏向角度の大きさは、複数のサブドメインの各サブドメインの中心と前記複数のサブドメインの各サブドメインに対応するドメインの中心との距離に比例するように形成されうる。
【0011】
前記偏向方向は、前記複数のサブドメインの各サブドメインの中心で前記複数のサブドメインの各サブドメインが対応する前記少なくとも1つのドメインのうちの1つのドメインの中心に向かうように形成されうる。
【0012】
前記少なくとも1つのドメインは、複数のドメインを含み、前記複数のドメインのうちの各ドメインは、点拡がり関数(PSF)を有しうる。
【0013】
前記コーデッドマスクは、厚さ1mm未満の平板状を有しうる。
【0014】
前記イメージセンサーは、CMOS(complementary metal-oxide semiconductor)イメージセンサー及びボロメータ(bolometer)のうちの少なくとも1つを含みうる。
【0015】
レンズレスイメージングシステムは、前記イメージセンサーから発生した電気信号を用いてイメージを復元する復元アルゴリズムを含む制御部をさらに含みうる。
【0016】
前記復元アルゴリズムは、神経網基盤のディープラーニングアルゴリズムを含みうる。
【0017】
一態様によれば、レンズレスイメージングシステムの製造方法は、基板上にイメージセンサーを形成する段階;及びコーデッドマスクが前記イメージセンサーの一面に対向するように、少なくとも1つのドメインを含むコーデッドマスクを形成する段階;を含み、前記少なくとも1つのドメインのそれぞれは、複数のサブドメインを含み、前記コーデッドマスクを形成する段階は、前記複数のサブドメインを第1パターンで形成する段階;及び前記複数のサブドメインの各サブドメインに、入射光を偏向させるように第2パターンを形成する段階;を含みうる。
【0018】
前記第1パターンは、ランダムドット及びカーブドラインパターンのうちの少なくとも1つを含みうる。
【0019】
前記第2パターンは、メタブレーズド回折格子パターンを含みうる。
【0020】
前記第2パターンは、前記複数のサブドメインの各サブドメイン別に光の偏向角度及び偏向方向のうちの少なくとも1つが異なって形成されうる。
【0021】
偏向角度の大きさは、複数のサブドメインの各サブドメインの中心と前記複数のサブドメインの各サブドメインに対応する前記少なくとも1つのドメインの中心との距離に比例するように形成されうる。
【0022】
前記偏向方向は、複数のサブドメインの各サブドメインの中心で前記複数のサブドメインの各サブドメインに対応する前記少なくとも1つのドメインの中心に向かうように形成されうる。
【0023】
一態様によれば、電子装置は、被写体に対するイメージを生成するレンズレスイメージングシステム;及び前記レンズレスイメージングシステムを制御するプロセッサ;を含み、前記レンズレスイメージングシステムは、少なくとも1つのドメインを含むコーデッドマスク;及び前記コーデッドマスクを通過した光を受信し、前記受信された光に基づいてイメージ生成のための電気信号を発生させるイメージセンサー;を含み、前記少なくとも1つのドメインは、第1パターンで提供される複数のサブドメインを含み、前記複数のサブドメインのそれぞれは、第2パターンを含み、前記複数のサブドメインは、前記第1パターンと第2パターンとの組み合わせに基づいて入射光を偏向させることができる。
【図面の簡単な説明】
【0024】
【
図1】一実施形態によるレンズレスイメージングシステムのブロック図である。
【
図2A】実施形態によるレンズレスイメージングシステムの概略的な構造を示す図面である。
【
図2B】実施形態によるレンズレスイメージングシステムの概略的な構造を示す図面である。
【
図3A】一実施形態によるコーデッドマスクのパターンを説明する図面である。
【
図3B】一実施形態によるコーデッドマスクのパターンを説明する図面である。
【
図3C】一実施形態によるコーデッドマスクのパターンを説明する図面である。
【
図4A】一般的なレンズレスイメージングシステムと一実施形態のレンズレスイメージングシステムとのシミュレーションの結果を比較説明する図面である。
【
図4B】一般的なレンズレスイメージングシステムと一実施形態のレンズレスイメージングシステムとのシミュレーションの結果を比較説明する図面である。
【
図5】一実施形態によるレンズレスイメージングシステムの製造方法のフローチャートである。
【
図6】一実施形態によるレンズレスイメージングシステムを含む電子装置の概略的な構成を示すブロック図である。
【
図7】
図6の電子装置に含まれたカメラモジュールの概略的な構成を示すブロック図である。
【発明を実施するための形態】
【0025】
その他の実施形態の具体的な事項は、詳細な説明及び図面に含まれている。記載の技術の利点及び特徴、そして、それらを果たす方法は、図面と共に詳細に後述されている実施形態を参照すると、明確になるであろう。明細書の全般に亘って同じ参照符号は、同じ構成要素を称する。
【0026】
第1、第2などの用語は、多様な構成要素の説明に使われるが、構成要素は、用語によって限定されるものではない。用語は、1つの構成要素を他の構成要素から区別する目的のみで使われる。単数の表現は、文脈上、取り立てて明示しない限り、複数の表現を含む。また、ある部分が、ある構成要素を「含む」とする時、これは、特に取り立てて言及しない限り、他の構成要素を除外するものではなく、他の構成要素をさらに含みうることを意味する。また、明細書に記載の「部」、「モジュール」などの用語は、少なくとも1つの機能や動作を処理する単位を意味し、これは、ハードウェアまたはソフトウェアとして具現されるか、ハードウェアとソフトウェアとの組み合わせによって具現可能である。
【0027】
図1は、一実施形態によるレンズレスイメージングシステムのブロック図である。
【0028】
図1を参照すれば、レンズレスイメージングシステム100は、コーデッドマスク110、イメージセンサー120及び制御部130を含みうる。
【0029】
コーデッドマスク110は、イメージセンサー120の前に位置するように配され、イメージ復元に必要な光学的特性を示す特定形態のパターンが形成されうる。コーデッドマスク110に形成された特定形態のパターンについての情報は、被写体(SBJ)から散乱または反射してくる入射光の位相情報と関連し、イメージセンサー120を通じて生成された初期イメージ(CI)を最終イメージ(RI)に復元する過程に必要な情報として使われる。入射光は、長波長赤外線(Long Wave InfraRed、LWIR)、可視光などを含むことができ、これらに制限されるものではない。
【0030】
コーデッドマスク110に形成されたパターンは、コーデッドマスク110を透過する光の透過率を変化させるパターンになり、または透過する光の位相を変化させるパターンにもなりうる。コーデッドマスク110を通過する光は、分散あるいは散乱されてイメージセンサー120に入射される。イメージセンサー120の前に複数のコーデッドマスク110が配置される。複数のコーデッドマスク110は、いずれも同様に位相や透過率を変化させるパターンが形成されても、必要に応じて、一部は、光の位相を変化させるパターンで形成され、残りは、透過率を変化させるパターンで形成されうる。
【0031】
コーデッドマスク110は、後述するように、1つ以上のドメインと各ドメイン別に1つ以上のサブドメインとを含みうる。複数のドメインを含む場合、ドメイン別に独立したPSF(point spread function)を有するようにサブドメインのパターンが形成されうる。各サブドメインは、第1パターンと、第1パターンとは異なる、入射光を偏向させるための第2パターンと、を組み合わせて形成されうる。第1パターンは、ランダムドット、カーブドラインパターンなどを含み、第2パターンは、メタブレーズド回折格子パターンを含みうるが、これに限定されるものではない。サブドメイン別に特定偏向(deflection)角度及び/または特定偏向方向に光を偏向させるように第2パターンが形成されうる。例えば、サブドメイン別に偏向角度の大きさが当該サブドメインの中心と該当サブドメインが属した(例:対応する)ドメインの中心との距離に比例するように形成されうる。また、サブドメイン別に偏向方向は、各サブドメインの中心で各サブドメインが属した(例:対応する)ドメインの中心に向かうように形成されうる。
【0032】
コーデッドマスク110は、一般的なレンズシステムとは異なって、実質的に厚さをほとんど有さないように(例:厚さ0に近接)、厚さ1mm未満の平板状に形成されうる。したがって、一般的なレンズシステムで光の進行に必要であった空間が不要であって、イメージングシステムの全体体積を減らすことができ、よりコンパクトなイメージングシステムを具現することができる。
【0033】
イメージセンサー120は、コーデッドマスク110を通過した光を受信してイメージ生成のための電気的な信号に変換して被写体(SBJ)に対する初期イメージ(CI)を生成することができる。イメージセンサー120は、光電変換素子(例:フォトダイオード)を含みうる。イメージセンサー120は、CMOSイメージセンサー(CIS)あるいはボロメータを含みうるが、これに制限されるものではない。イメージセンサー120は、複数の電磁波センサーで形成されるセンサーアレイを含みうる。
【0034】
制御部130は、イメージセンサー120の駆動と制御とを行うことができる。制御部130は、読み出し集積回路(Readout IC、ROIC)を含みうる。読み出し集積回路は、メモリ(バッファメモリなど)及び/またはイメージシグナルプロセッサを含みうる。
【0035】
制御部130は、イメージセンサー120から生成された初期イメージ(CI)を最終イメージ(RI)に復元する復元アルゴリズム131を含みうる。これとは異なって、復元アルゴリズム131は、イメージセンサー120に含まれることもある。復元アルゴリズム131を用いて復元する最終イメージ(RI)は、得ようとする被写体(SBJ)の2次元あるいは3次元イメージになりうる。復元アルゴリズム131は、神経網基盤のアルゴリズムを含みうる。復元アルゴリズム131は、複数の被写体と復元アルゴリズムを通じて復元されたイメージとを学習データとして、損失関数の損失が最小になるようにディープラーニング基盤であらかじめ学習される。この際、損失関数は、IoU(Intersection over Union)、BCE(Binary Cross Entropy)、PSNR(Peak Signal-to-Noise Ratio)、平均二乗誤差(Mean Squared Error、MSE)、交差エントロピー損失(Cross-Entropy Loss)、ログ尤度損失(Log Likelihood Loss)、周波数ドメイン(frequency domain)損失などを含み、これらに制限されるものではない。
【0036】
図2A及び
図2Bは、実施形態によるレンズレスイメージングシステムの概略的な構造を示す図面である。
【0037】
図2A及び
図2Bを参照すれば、レンズレスイメージングシステム200a、200bは、基板210、絞り220及びウィンドウ層230をさらに含みうる。イメージセンサー120と制御部130は、基板210上に配置される。イメージセンサー120と制御部130は、電気的に基板210に連結される。イメージセンサー120は、基板210上にフリップチップボンディングされる。絞り220は、イメージセンサー120から一定間隔離隔して平行に配置される。絞り220のアパーチャ(aperture)は、
図2Aのようにイメージセンサー120の幅よりも小さく、
図2Bのようにイメージセンサー120の幅よりもさらに大きいか、同じように拡張されても良い。絞り220の他面(イメージセンサー210に対向する面の反対面)には、ウィンドウ層230が配置される。ウィンドウ層230とイメージセンサー120は、一定間隔離隔して平行に配置される。ウィンドウ層230の一面(イメージセンサー120と対向する面)231にコーデッドマスク110が配され、この際、コーデッドマスク110のサイズは、絞り220のアパーチャ220a、220bのサイズと同じか、それより小さく形成されうる。ウィンドウ層230には、多様なチップが配置される。
【0038】
図2Bを参照すれば、ウィンドウ層230の他面(イメージセンサー120と対向する面の反対面)232には、AR(Anti-Reflective)コーティング層240が形成されうる。また、フィルター層250がウィンドウ層230の他面232を覆うように配され、この際、ARコーティング層240は、フィルター層250の一面に直接接触されるように配置される。フィルター層250は、入射光で必要な光のみ通過させ、残りは、遮断して雑音光を最小化することができる。フィルター層250は、ウィンドウ層230の役割あるいは材質を考慮して適切なフィルターが使われる。フィルター層250、変形されたサイズのアパーチャ220b及び
図2Bに示されたコーデッドマスク110は、
図2Aに示された態様(aspect)または次元(dimension)、それらの結合と共に適用可能である。例えば、ARコーティング層240及びフィルター層250は、
図2Aのレンズレスイメージングシステム200aに適用可能であり、アパーチャ220a及びコーデッドマスク110のサイズは、
図2Aで変形されうる。
【0039】
ウィンドウ層230は、入射光を吸収しないか、実質的に吸収しない透明な物質層を含みうる。ウィンドウ層230の材料は、入射光の種類を考慮して選択されうる。一例において、ウィンドウ層230に入射される光がLWIRである場合、ウィンドウ層230は、シリコン層あるいはシリコンウェーハを含みうるが、これに制限されるものではない。一例において、ウィンドウ層230に入射される光が可視光である場合、ウィンドウ層230は、ガラス層あるいはガラス基板を含みうるが、これに制限されるものではない。コーデッドマスク110の材料は、ウィンドウ層230の役割や材料によって変わりうる。
【0040】
このように、コーデッドマスク110が1つ以上のドメインと各ドメインに1つ以上のサブドメインとを含み、この際、各サブドメインに形成されるパターンを光の偏向角度の大きさが、各サブドメインの中心でそのサブドメインが属した(例:対応する)ドメインの中心との距離に比例し、偏向方向を各サブドメインが属した(例:対応する)ドメインの中心に向かせることにより、イメージセンサー120に分散された光エネルギーをドメイン個数ほど集中させることができて、ピクセル当たり強度(intensity)を高めうる。これを通じてイメージセンサー120自体の発熱や内部反射(例:
図2A)などによってノイズが発生した場合にも、イメージセンサー120で受信する信号の性能を向上させうる。
【0041】
図3Aないし
図3Cは、一実施形態によるコーデッドマスクのパターンを説明する図面である。
【0042】
図3Aは、コーデッドマスク110が4個のドメイン31、32、33、34に分けられ、各ドメイン31、32、33、34に11個のサブドメインがランダムドットパターン(例:第1パターン)で形成、配置、提供されていることを例示したものである。例えば、ドメイン31の11個のサブドメインのうちの、各サブドメインは、サブドメイン311及びサブドメイン312を含みうる。各ドメイン31、32、33、34で第1パターンは、互いに異なるランダム位置でドットを形成することにより、サブドメインの位置を異ならせることができるために、各ドメイン31、32、33、34別に独立したPSFを有するコーデッドマスクの組み合わせが可能である。一例において、ランダムドット形態のPSFは、下記の数式1のように球面状または多項式で表現される非球面状と定義される。
【数1】
ここで、
【数2】
は、空間座標(x、y)に対するPSF値を示し、kは、波長数であり、fは、焦点距離である。
【0043】
図3Bは、1つのドメイン32を拡大したものであって、ドメイン32内の各サブドメインがランダムドットパターン(第1パターン)に、同心円と斜線からなるメタブレーズド回折格子パターン(第2パターン)がさらに形成、配置、提供されているか、含んでいることを例示したものである。各サブドメインのメタブレーズド回折格子パターンは、特定偏向角度と特定偏向方向とを有するように形成されうる。
【0044】
例えば、ドメイン32の中心32Cから遠く離れているサブドメイン321(例:中心32Cからサブドメイン322からさらに遠く離れている、中心32Cから他のサブドメインからさらに遠く離れている、他のサブドメイン、例えば、サブドメイン322の中心322Cよりもドメイン32の中心32Cからさらに遠く離れている中心321Cを有する)は、偏向角度の大きさがさらに大きくなるように、同心円と斜線が成す格子をさらに稠密に形成しうる。これに比べて、サブドメイン321よりもドメイン32の中心32Cからさらに近くに位置しているサブドメイン322は、偏向角度の大きさがさらに小さくなるように、同心円と斜線が成す格子の稠密化が不十分でもある。各サブドメインのメタブレーズド回折格子パターンの偏向角度(θ
B)は、下記の数式2のように、ドメイン中心32Cとサブドメイン中心321C、322Cとの距離に比例するように設計することができる。
【数3】
ここで、dは、ブレーズド回折格子の周期を意味する。dが小さいほどさらに大きな角度で偏向が発生する。したがって、dのサイズは、ドメイン中心とサブドメイン中心との距離に反比例するように設定しうる。mは、回折次数を意味する係数であり、λは、波長を示す。
【0045】
また、各サブドメインの偏向方向は、各サブドメインの中心で各サブドメインが属した(例:対応する)ドメインの中心に向かうようにメタブレーズド回折格子パターンが形成されうる。例えば、各サブドメイン321、322に形成されたブレーズド回折格子の斜線は、各サブドメイン321、322の中心321C、322Cとドメイン32の中心32Cとを連結した直線と垂直になるように形成されうる。例えば、サブドメイン323に形成されたブレーズド回折格子の斜線のうち、斜線323Dは、サブドメイン323の中心323Cとドメイン32の中心32Cとを連結した線323Lに実質的に垂直である。
【0046】
図3Cのイメージ350は、本実施形態を適用したコーデッドマスク110構造の一例を図示したものであり、イメージ352は、8~12μmの波長の広帯域の光が平行光で入射する場合、イメージセンサー120から生成されたPSFを例示したものである。本実施形態において、各サブドメインに特定偏向角度と偏向方向とを有するようにメタブレーズド回折格子パターンを形成することにより、コーデッドマスク110によって結像される光エネルギーを各ドメインの中心に集中させることができて、ピクセル当たり強度を向上させうる。
【0047】
図4A及び
図4Bは、一般的なレンズレスイメージングシステムと一実施形態のレンズレスイメージングシステムとのシミュレーションの結果を比較説明する図面である。
図4A及び
図4Bは、それぞれ一般的なランダムドット形態のみで構成されたレンズレスマクス構造と本実施形態によってランダムドットパターンとメタブレーズド回折格子パターンとで形成されたレンズレスマスク構造とを用いてイメージセンサーから測定された映像をシミュレーションしたことを示す。
図4Aにおいて、イメージ400は、レンズレスマスクの位相(phase)パターン、イメージ402は、平行光が入射する場合、イメージセンサーに測定されるPSFシミュレーション、イメージ404は、被写体イメージ、イメージ406は、被写体映像を測定した映像シミュレーションを示したものである。
図4Bにおいて、イメージ450は、レンズレスマスクの位相パターン、イメージ452は、平行光が入射する場合、イメージセンサーに測定されるPSFシミュレーション、イメージ454は、被写体イメージ、イメージ456は、被写体映像を測定した映像シミュレーションを示したものである。
図4A及び
図4Bに示したように、一般的なマスク構造でセンサーイメージ(
図4Aの(4))の最大ピクセル光量は、ほぼ90であるが、本実施形態のマスク構造でセンサーイメージ(
図4Bの(1))の最大ピクセル光量は、ほぼ140であって、性能が向上したことが分かる。
【0048】
図5は、一実施形態によるレンズレスイメージングシステムの製造方法のフローチャートである。
【0049】
図5を参照すれば、まず、基板上にイメージセンサーを形成する(510)。基板上にイメージセンサーをフリップボンディング、蒸着及び/または成長方法で直接形成しうる。イメージセンサーは、基板の外部であらかじめ形成された後、基板の一面に装着されることもある。イメージセンサーが基板の一面に形成される前や後にイメージセンサーの駆動と制御とのための制御部が基板に形成されうる。例えば、制御部は、基板に含まれるように形成されても、基板の一面上に形成されても良い。制御部とイメージセンサーは、電気的に互いに連結するための配線が形成されうる。
【0050】
次いで、イメージセンサーの一面に対向するように、1つ以上のドメインと各ドメイン別の1つ以上のサブドメインとを含むコーデッドマスクを形成しうる(520)。例えば、可視光及び/またはLWIRに透明な材料を用いてウィンドウ層を準備した後、ウィンドウ層の一面上にコーデッドマスクを形成しうる。ウィンドウ層の他面上にフィルター層及び/またはARコーティング層を順次に積層することができる。コーデッドマスクを形成する段階(520)は、各サブドメインに第1パターンを形成する段階(521)と、各サブドメインに入射光を偏向させる第2パターンを形成する段階(522)と、を含みうる。第1パターンは、ランダムドット、カーブドラインパターンなどを含み、第2パターンは、サブドメイン別に特定偏向角度及び/または特定偏向方向に光を偏向させるように設計されたメタブレーズド回折格子パターンを含みうる。例えば、サブドメイン別に偏向角度の大きさは、該当サブドメインの中心と該当サブドメインが属した(例:対応する)ドメインの中心との距離に比例するように設計し、偏向方向は、各サブドメインの中心で各サブドメインが属した(例:対応する)ドメインの中心に向かうように設計することができる。
【0051】
図6は、一実施形態によるレンズレスイメージングシステムを含む電子装置の概略的な構成を示すブロック図である。
【0052】
電子装置は、例えば、スマートフォン、ウェアラブル機器、AR(Augmented Reality)及びVR(Virtual Reality)機器、モノのインターネット(Internet of Things、IoT)機器、家電機器、タブレットPC(Personal Computer)、PDA(Personal Digital Assistant)、PMP(portable Multimedia Player)、ナビゲーション(navigation)、ドローン(drone)、ロボット、無人自動車、自律走行車、先進運転支援システム(Advanced Drivers Assistance System;ADAS)などを含みうる。但し、これらに限定されるものではない。
【0053】
図6を参照すれば、ネットワーク環境600で電子装置601は、示したように多様な装置とモジュールとを含みうる。
【0054】
電子装置601は、プロセッサ620、メモリ630、入力装置650、音響出力装置655、表示装置660、オーディオモジュール670、センサーモジュール676、インターフェース677、ヘブティックモジュール679、カメラモジュール680、電力管理モジュール688、バッテリ689、通信モジュール690、加入者識別モジュール696、及び/またはアンテナモジュール697を含み、この構成要素のうち、一部(表示装置660など)が省略されるか、他の構成要素が追加される。
【0055】
プロセッサ620は、ソフトウェア(プログラム640など)を実行してプロセッサ620に連結された電子装置601のうち、1つまたは複数個の他の構成要素(ハードウェア、ソフトウェア構成要素など)を制御することができ、多様なデータ処理または演算を行うことができる。データ処理または演算の一部で、プロセッサ620は、他の構成要素(センサーモジュール676、通信モジュール690など)から受信された命令及び/またはデータを揮発性メモリ632にロードし、揮発性メモリ632に保存された命令及び/またはデータを処理し、結果データを不揮発性メモリ634に保存することができる。プロセッサ620は、構成要素の作動を同期化するためのマスタークロックを生成して他の構成要素、例えば、画素制御部に提供することができる。
【0056】
プロセッサ620は、メインプロセッサ621(中央処理装置、アプリケーションプロセッサなど)及びこれと独立して、または共に運用可能な補助プロセッサ1823(グラフィック処理装置、イメージシグナルプロセッサ、センサーハブプロセッサ、コミュニケーションプロセッサなど)を含みうる。補助プロセッサ623は、メインプロセッサ621よりも電力を小さく使用し、特化された機能を行うことができる。補助プロセッサ623は、メインプロセッサ621がインアクティブ状態(スリップ状態)にある間にメインプロセッサ621の代わりに、またはメインプロセッサ621がアクティブ状態(アプリケーション実行状態)にある間にメインプロセッサ621と共に、電子装置601の構成要素のうち、一部の構成要素(表示装置660、センサーモジュール676、通信モジュール690など)と関連した機能及び/または状態を制御することができる。補助プロセッサ623(イメージシグナルプロセッサ、コミュニケーションプロセッサなど)は、機能的に関連がある他の構成要素(カメラモジュール680、通信モジュール690など)の一部としても具現される。
【0057】
メモリ630は、電子装置601の構成要素(プロセッサ620、センサーモジュール676など)が必要とする多様なデータを保存することができる。データは、例えば、ソフトウェア(プログラム640など)及び、これと関連した命令に係わる入力データ及び/または出力データを含みうる。メモリ630は、揮発性メモリ632及び/または不揮発性メモリ634を含みうる。
【0058】
プログラム640は、メモリ630にソフトウェアで保存され、運用体制642、ミドルウェア644及び/またはアプリケーション646を含みうる。
【0059】
入力装置650は、電子装置601の構成要素(プロセッサ620など)に使われる命令及び/またはデータを電子装置601の外部(ユーザなど)から受信することができる。入力装置650は、マイク、マウス、キーボード、及び/またはデジタルペン(スタイラスペンなど)を含みうる。
【0060】
音響出力装置655は、音響信号を電子装置601の外部に出力することができる。音響出力装置655は、スピーカー及び/またはレシーバーを含みうる。スピーカーは、マルチメディア再生または録音再生のように一般的な用途として使われ、レシーバーは、着信電話を受信するために使われる。レシーバーは、スピーカーの一部として結合されているか、または独立した別途の装置として具現可能である。
【0061】
表示装置660は、電子装置601の外部に情報を視覚的に提供することができる。表示装置660は、ディスプレイ、ホログラム装置、またはプロジェクター及び当該装置を制御するための制御回路を含みうる。表示装置660は、タッチを感知するように設定されたタッチ回路(Touch Circuitry)、及び/またはタッチによって発生する力の強度を測定するように設定されたセンサー回路(圧力センサーなど)を含みうる。
【0062】
オーディオモジュール670は、音を電気信号に変換させるか、逆に、電気信号を音に変換させることができる。オーディオモジュール670は、入力装置650を通じて音を獲得するか、音響出力装置655、及び/または電子装置601と直接または無線で連結された他の電子装置(電子装置602など)のスピーカー及び/またはヘッドホンを通じて音を出力することができる。
【0063】
センサーモジュール676は、電子装置601の作動状態(電力、温度など)、または外部の環境状態(ユーザ状態など)を感知し、該感知された状態に対応する電気信号及び/またはデータ値を生成することができる。センサーモジュール676は、ジェスチャセンサー、ジャイロセンサー、気圧センサー、マグネチックセンサー、加速度センサー、グリップセンサー、近接センサー、カラーセンサー、IR(Infrared)センサー、生体センサー、温度センサー、湿度センサー、及び/または照度センサーを含みうる。
【0064】
インターフェース677は、電子装置601が他の電子装置(電子装置602など)と直接または無線で連結されるために使われる1つ以上の指定されたプロトコルを支援することができる。インターフェース677は、HDMI(登録商標)(High Definition Multimedia Interface)、USB(Universal Serial Bus)インターフェース、SDカードインターフェース、及び/またはオーディオインターフェースを含みうる。
【0065】
連結端子678は、電子装置601が他の電子装置(電子装置602など)と物理的に連結されるコネクタを含みうる。連結端子678は、HDMIコネクタ、USBコネクタ、SDカードコネクタ、及び/またはオーディオコネクタ(ヘッドホンコネクタなど)を含みうる。
【0066】
ヘブティックモジュール679は、電気信号をユーザが触覚または運動感覚を通じて認知することができる機械的な刺激(振動、動きなど)または電気的な刺激に変換することができる。ヘブティックモジュール679は、モータ、圧電素子、及び/または電気刺激装置を含みうる。
【0067】
カメラモジュール680は、静止画及び動画を撮影することができる。一例において、カメラモジュール680は、前述したレンズレスイメージングシステム100、200a、200bのうちの1つを含みうる。カメラモジュール680は、少なくとも1つのコーデッドマスク、イメージセンサー、イメージシグナルプロセッサ、及び/またはフラッシュを含みうる。
【0068】
電力管理モジュール688は、電子装置601に供給される電力を管理することができる。電力管理モジュール688は、PMIC(Power Management Integrated Circuit)の一部として具現可能である。
【0069】
バッテリ689は、電子装置601の構成要素に電力を供給することができる。バッテリ689は、再充電不可能な1次電池、再充電可能な2次電池及び/または燃料電池を含みうる。
【0070】
通信モジュール690は、電子装置601と他の電子装置(電子装置602、電子装置604、サーバ608など)間の直接(有線)通信チャネル及び/または無線通信チャネルの樹立、及び樹立された通信チャネルを通じた通信遂行を支援することができる。通信モジュール690は、プロセッサ620(アプリケーションプロセッサなど)と独立して運用され、直接通信及び/または無線通信を支援する1つ以上のコミュニケーションプロセッサを含みうる。通信モジュール690は、無線通信モジュール692(セルラー通信モジュール、近距離無線通信モジュール、GNSS(Global Navigation Satellite Systemなど)通信モジュール)及び/または有線通信モジュール694(LAN:Local Area Network)通信モジュール、電力線通信モジュールなど)を含みうる。これらの通信モジュールのうち、該当する通信モジュールは、第1ネットワーク698(ブルートゥース(登録商標)、Wi-Fi DirectまたはIrDA(Infrared Data Association)のような近距離通信ネットワーク)または第2ネットワーク699(セルラーネットワーク、インターネット、またはコンピュータネットワーク(LAN、WANなど)のような遠距離通信ネットワーク)を通じて他の電子装置と通信することができる。このような多種の通信モジュールは、1つの構成要素(単一チップなど)で統合されるか、または互いに別途の複数の構成要素(複数チップ)として具現可能である。無線通信モジュール692は、加入者識別モジュール696に保存された加入者情報(国際モバイル加入者識別子(IMSI)など)を用いて第1ネットワーク698及び/または第2ネットワーク699のような通信ネットワーク内で電子装置601を確認及び認証することができる。
【0071】
アンテナモジュール697は、信号及び/または電力を外部(他の電子装置など)に送信するか、外部から受信することができる。アンテナは、基板(PCBなど)上に形成された導電性パターンからなる放射体を含みうる。アンテナモジュール697は、1つまたは複数のアンテナを含みうる。複数のアンテナが含まれた場合、通信モジュール690によって複数のアンテナのうちから第1ネットワーク698及び/または第2ネットワーク699のような通信ネットワークで使われる通信方式に適したアンテナが選択されうる。選択されたアンテナを通じて通信モジュール690と他の電子装置との間に信号及び/または電力が送信されるか、受信される。アンテナ以外に他の部品(RFICなど)がアンテナモジュール697の一部として含まれる。
【0072】
構成要素のうち、一部は、周辺機器間の通信方式(バス、GPIO(General Purpose Input and Output)、SPI(Serial Peripheral Interface)、MIPI(Mobile Industry Processor Interface)など)を通じて互いに連結され、信号(命令、データなど)を互いに交換することができる。命令またはデータは、第2ネットワーク699に連結されたサーバ608を通じて電子装置601と外部の電子装置604との間に送信または受信される。他の電子装置602、604は、電子装置601と同一の、または他種の装置である。電子装置601で実行される動作の全部または一部は、他の電子装置602、604、608のうち1つ以上の装置で実行可能である。例えば、電子装置601が、所定の機能やサービスを遂行しなければならない時、機能またはサービスを自体的に実行させる代わりに、1つ以上の他の電子装置にその機能またはそのサービスの一部または全体を遂行せよと要請することができる。要請を受信した1つ以上の他の電子装置は、要請と関連した追加機能またはサービスを実行し、その実行の結果を電子装置601に伝達することができる。そのために、クラウドコンピューティング、分散コンピューティング、及び/またはクライアントサーバコンピューティング技術が用いられる。
【0073】
図7は、一実施形態の電子装置に含まれたカメラモジュールの概略的な構成を示すブロック図である。
【0074】
図7を参照すれば、カメラモジュール680は、ウィンドウアセンブリー710、フラッシュ720、イメージセンサー730、イメージスタビライザー740、メモリ750(バッファメモリなど)、及び/またはイメージシグナルプロセッサ760を含みうる。
【0075】
ウィンドウアセンブリー710は、イメージ撮影の対象である被写体から放出される光を収集することができ、前述したウィンドウ層230、コーデッドマスク110、フィルター層及びARコーティング層240が含まれる。カメラモジュール680は、複数のウィンドウアセンブリー710を含むこともあり、この際、カメラモジュール680は、デュアルカメラ、360度カメラ、または球状カメラ(Spherical Camera)などになりうる。複数のウィンドウアセンブリー710のうち、一部は、同じ光学的特性(画角、焦点距離、自動焦点、Fナンバー(F Number)、光学ズームなど)を有するか、または他の光学的特性を有しうる。ウィンドウアセンブリー710は、広角レンズまたは望遠レンズに該当する光学的特性を含みうる。
【0076】
フラッシュ720は、被写体から放出または反射する光を強化するために使われる光を放出することができる。フラッシュ720は、1つ以上の発光ダイオード(RGB:Red-Green-Blue)LED、White LED、Infrared LED、Ultraviolet LEDなど)、及び/またはXenon Lampを含みうる。イメージセンサー730は、被写体から放出または反射してウィンドウアセンブリー710を通じて伝達された光を電気的な信号に変換することにより、被写体に対応するイメージを獲得することができる。イメージセンサー730は、前述したイメージセンサー120を含みうる。
【0077】
イメージスタビライザー740は、カメラモジュール780またはそれを含む電子装置701の動きに反応して、ウィンドウアセンブリー710またはイメージセンサー730を特定の方向に動くか、イメージセンサー730の動作特性を制御(リードアウト(Read-Out)タイミングの調整など)して動きによる否定的な影響を補償させる。イメージスタビライザー740は、カメラモジュール780の内部または外部に配されたジャイロセンサー(図示せず)または加速度センサー(図示せず)を用いてカメラモジュール780または電子装置601の動きを感知することができる。イメージスタビライザー740は、光学式としても具現される。
【0078】
メモリ750は、イメージセンサー730を通じて獲得されたイメージの一部または全体データが次のイメージ処理作業のために保存することができる。例えば、複数のイメージが高速で獲得される場合、獲得された原本データ(Bayer-Patternedデータ、高解像度データなど)は、メモリ750に保存し、低解像度イメージのみをディスプレイした後、選択された(ユーザ選択など)イメージの原本データをイメージシグナルプロセッサ760に伝達させるのに使われる。メモリ750は、電子装置601のメモリ630で統合されているか、または独立して運用される別途のメモリで構成することができる。メモリ750は、またイメージシグナルプロセッサ760で行われるイメージ復元作業のための復元アルゴリズムを含みうる。
【0079】
イメージシグナルプロセッサ760は、イメージセンサー730を通じて獲得されたイメージまたはメモリ750に保存されたイメージデータに対して1つ以上のイメージ処理を行うことができる。1つ以上のイメージ処理は、深度マップ(Depth Map)生成、3次元モデリング、パノラマ生成、特徴点抽出、イメージ合成、イメージ復元、及び/またはイメージ補償(ノイズ減少、解像度調整、輝度調整、ブラーリング(Blurring)、シャープニング(Sharpening)、ソフトニング(Softening)など)を含みうる。イメージシグナルプロセッサ760は、カメラモジュール680に含まれた構成要素(イメージセンサー730など)に対する制御(露出時間制御、またはリードアウトタイミング制御など)を行うことができる。イメージシグナルプロセッサ760によって処理されたイメージは、追加処理のためにメモリ750に再び保存されるか、カメラモジュール680の外部構成要素(メモリ630、表示装置660、電子装置602、電子装置604、サーバ608など)に提供されうる。イメージシグナルプロセッサ760は、プロセッサ620に統合されるか、プロセッサ620と独立して運用される別途のプロセッサで構成することができる。イメージシグナルプロセッサ760がプロセッサ620と別途のプロセッサで構成された場合、イメージシグナルプロセッサ760によって処理されたイメージは、プロセッサ620によって追加のイメージ処理を経た後、表示装置660を通じて表示される。
【0080】
電子装置601は、それぞれ他の属性または機能を有した複数のカメラモジュール680を含みうる。このような場合、複数のカメラモジュール680のうち、1つは、広角カメラであり、他の1つは、望遠カメラである。同様に、複数のカメラモジュール680のうち、1つは、前面カメラであり、他の1つは、裏面カメラである。
【0081】
一方、本実施形態は、コンピュータで読み取り可能な記録媒体にコンピュータで読み取り可能なコードとして具現することが可能である。コンピュータで読み取り可能な記録媒体は、コンピュータシステムによって読み取れるデータが保存されるあらゆる種類の記録装置を含む。
【0082】
コンピュータで読み取り可能な記録媒体の例としては、ROM、RAM、CD-ROM、磁気テープ、フロッピーディスク、光データ記録装置などがあり、また、キャリアウェーブ(例えば、インターネットを介した伝送)の形態で具現するものを含む。また、コンピュータで読み取り可能な記録媒体は、ネットワークで連結されたコンピュータシステムに分散されて、分散方式でコンピュータで読み取り可能なコードとして保存されて実行可能である。そして、本実施形態を具現するための機能的な(functional)プログラム、コード及びコードセグメントは、当該技術分野プログラマーによって容易に推論されうる。
【0083】
当業者ならば、開示された技術的思想や必須的な特徴を変更せずとも、他の具体的な形態で実施可能であることを理解できるであろう。したがって、前述した実施形態は、あらゆる面で例示的なものであり、限定的ではないということを理解せねばならない。
【符号の説明】
【0084】
31 ドメイン
32 ドメイン
33 ドメイン
34 ドメイン
100 レンズレスイメージングシステム
110 コーデッドマスク
120 イメージセンサー
130 制御部
131 復元アルゴリズム
200 レンズレスイメージングシステム
210 基板
220 アパーチャ
230 ウィンドウ層
231 一面
232 他面
240 ARコーティング層
250 フィルター層
311 サブドメイン
312 サブドメイン
321 サブドメイン
322 サブドメイン
600 ネットワーク環境
601 電子装置
602 電子装置
604 電子装置
608 電子装置
608 サーバ
620 プロセッサ
621 メインプロセッサ
623 補助プロセッサ
630 メモリ
632 揮発性メモリ
634 不揮発性メモリ
640 プログラム
642 運用体制
644 ミドルウェア
646 アプリケーション
650 入力装置
655 音響出力装置
660 表示装置
670 オーディオモジュール
676 センサーモジュール
677 インターフェース
678 連結端子
679 ヘブティックモジュール
680 カメラモジュール
688 電力管理モジュール
689 バッテリ
690 通信モジュール
692 無線通信モジュール
694 有線通信モジュール
696 加入者識別モジュール
697 アンテナモジュール
698 第1ネットワーク
699 第2ネットワーク
701 電子装置
710 ウィンドウアセンブリー
720 フラッシュ
730 イメージセンサー
740 イメージスタビライザー
750 メモリ
760 イメージシグナルプロセッサ
780 カメラモジュール