IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ エスケーハイニックス株式会社の特許一覧

<>
  • 特開-距離測定のための装置 図1
  • 特開-距離測定のための装置 図2
  • 特開-距離測定のための装置 図3
  • 特開-距離測定のための装置 図4
  • 特開-距離測定のための装置 図5
  • 特開-距離測定のための装置 図6
  • 特開-距離測定のための装置 図7
  • 特開-距離測定のための装置 図8
  • 特開-距離測定のための装置 図9
  • 特開-距離測定のための装置 図10
  • 特開-距離測定のための装置 図11
  • 特開-距離測定のための装置 図12
  • 特開-距離測定のための装置 図13
  • 特開-距離測定のための装置 図14
  • 特開-距離測定のための装置 図15
  • 特開-距離測定のための装置 図16
  • 特開-距離測定のための装置 図17
  • 特開-距離測定のための装置 図18
  • 特開-距離測定のための装置 図19
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024098937
(43)【公開日】2024-07-24
(54)【発明の名称】距離測定のための装置
(51)【国際特許分類】
   G01S 17/894 20200101AFI20240717BHJP
【FI】
G01S17/894
【審査請求】未請求
【請求項の数】23
【出願形態】OL
(21)【出願番号】P 2023022159
(22)【出願日】2023-02-16
(31)【優先権主張番号】10-2023-0003981
(32)【優先日】2023-01-11
(33)【優先権主張国・地域又は機関】KR
(71)【出願人】
【識別番号】310024033
【氏名又は名称】エスケーハイニックス株式会社
【氏名又は名称原語表記】SK hynix Inc.
【住所又は居所原語表記】2091, Gyeongchung-daero,Bubal-eub,Icheon-si,Gyeonggi-do,Korea
(74)【代理人】
【識別番号】110000796
【氏名又は名称】弁理士法人三枝国際特許事務所
(72)【発明者】
【氏名】長井 利明
【テーマコード(参考)】
5J084
【Fターム(参考)】
5J084AA05
5J084AD02
5J084BA04
5J084BA20
5J084BA36
5J084BA40
5J084CA10
5J084DA01
5J084DA08
5J084EA40
(57)【要約】
【課題】TOF(time of flight)センサを用いた深度画像の生成に必要なデータの容量を減少させる。
【解決手段】装置100は、指定された位相を有する第1変調電圧及び第1変調電圧と180度の位相差を有する第2変調電圧が印加される第1単位画素160と、第1変調電圧と90度の位相差を有する第3変調電圧及び第3変調電圧と180度の位相差を有する第4変調電圧が印加される第2単位画素170と、第1単位画素160及び第2単位画素170から受信した画素データに基づいて、画素データに比べて圧縮されたデータを含む圧縮されたデータセットを生成するデータ圧縮モジュール140と、を含む。
【選択図】図1
【特許請求の範囲】
【請求項1】
指定された位相を有する第1変調電圧及び上記第1変調電圧と180度の位相差を有する第2変調電圧が印加される第1単位画素と、
上記第1変調電圧と90度の位相差を有する第3変調電圧及び上記第3変調電圧と180度の位相差を有する第4変調電圧が印加される第2単位画素と、
上記第1単位画素及び上記第2単位画素から受信した画素データに基づいて、上記画素データに比べて圧縮されたデータを含む圧縮されたデータセットを生成するデータ圧縮モジュールと、を含むことを特徴とする装置。
【請求項2】
上記指定された位相に対応する変調光を出力する光源をさらに含むことを特徴とする請求項1に記載の装置。
【請求項3】
上記第1単位画素は、
上記第1変調電圧が印加される第1制御ノードと、
上記第2変調電圧が印加される第2制御ノードと、
上記指定された位相に対応する変調光が外部物体によって反射された反射光に基づいて生成された第1光電荷をキャプチャーする第1検出ノード及び第2検出ノードと、を含むことを特徴とする請求項1に記載の装置。
【請求項4】
上記第2単位画素は、
上記第3変調電圧が印加される第3制御ノードと、
上記第4変調電圧が印加される第4検出ノードと、
上記反射光に基づいて生成された第2光電荷をキャプチャーする第3検出ノード及び第4検出ノードと、を含むことを特徴とする請求項3に記載の装置。
【請求項5】
上記データ圧縮モジュールは、
上記第1検出ノード、上記第2検出ノード、上記第3検出ノード、及び上記第4検出ノードからそれぞれ第1個数のビットを有する第1画素データ、第2画素データ、第3画素データ、及び第4画素データを受信し、
上記第1画素データ、上記第2画素データ、上記第3画素データ、及び上記第4画素データに基づいて上記第1個数より小さい第2個数のビットを有する上記圧縮されたデータを含む上記圧縮されたデータセットを生成することを特徴とする請求項4に記載の装置。
【請求項6】
上記圧縮されたデータセットに基づいて上記外部物体との距離を識別する距離測定モジュールをさらに含むことを特徴とする請求項5に記載の装置。
【請求項7】
上記データ圧縮モジュールは、
上記第1画素データと上記第2画素データとの差に対応する第1差分データ、及び上記第3画素データと上記第4画素データとの差に対応する第2差分データを取得し、上記第1差分データ及び上記第2差分データはそれぞれ上記第1個数のビットを有し、
上記第1差分データの一部ビットを省略して上記第2個数のビットを有する第1圧縮されたデータを取得し、
上記第2差分データの一部ビットを省略して上記第2個数のビットを有する第2圧縮されたデータを取得することを特徴とする請求項5に記載の装置。
【請求項8】
上記データ圧縮モジュールは、
上記第1差分データ及び上記第2差分データのうちより大きい値を有する差分データが第1閾値未満であるか否かに基づいて上記第1圧縮されたデータ及び上記第2圧縮されたデータを取得することを特徴とする請求項7に記載の装置。
【請求項9】
上記データ圧縮モジュールは、
上記第1差分データ及び上記第2差分データのうちより大きい値を有する差分データが上記第1閾値未満であると判断したことに応答して、上記第1差分データから最上位ビットを含む第3個数のビットを省略して上記第1圧縮されたデータを取得し、上記第2差分データから最上位ビットを含む上記第3個数のビットを省略して上記第2圧縮されたデータを取得することを特徴とする請求項8に記載の装置。
【請求項10】
上記データ圧縮モジュールは、
上記第1差分データ及び上記第2差分データのうちより大きい値を有する差分データが上記第1閾値以上であると判断したことに応答して、上記第1差分データから上記一部ビットを省略して上記第1差分データの最上位ビットを含む上記第1圧縮されたデータを取得し、上記第2差分データから上記一部ビットを省略して上記第2差分データの最上位ビットを含む上記第2圧縮されたデータを取得することを特徴とする請求項8に記載の装置。
【請求項11】
上記データ圧縮モジュールは、
上記第1差分データ及び上記第2差分データのうちより大きい値を有する差分データが上記第1閾値以上であると判断したことに応答して、上記第1差分データ及び上記第2差分データを右側にビットシフト(bit shift)し、
ビットシフトされた第1差分データ及びビットシフトされた第2差分データのうちより大きい値を有するデータが上記閾値未満であるか否かを判断し、
ビットシフトされた第1差分データ及びビットシフトされた第2差分データのうちより大きい値を有するデータが上記第1閾値未満であると判断したことに応答して、上記ビットシフトされた第1差分データから最上位ビットを含む第3個数のビットを省略して上記第1圧縮されたデータを取得し、上記ビットシフトされた第2差分データから最上位ビットを含む上記第3個数のビットを省略して上記第2圧縮されたデータを取得することを特徴とする請求項10に記載の装置。
【請求項12】
上記データ圧縮モジュールは、
上記第1画素データ、上記第2画素データ、上記第3画素データ、及び上記第4画素データからそれぞれ第3個数のビットを省略してそれぞれ上記第2個数のビットを有する第1圧縮されたデータ、第2圧縮されたデータ、第3圧縮されたデータ、及び第4圧縮されたデータを取得することを特徴とする請求項5に記載の装置。
【請求項13】
上記データ圧縮モジュールは、
上記第1画素データと上記第2画素データとの差に対応する第1差分データ及び上記第3画素データと上記第4画素データとの差に対応する第2差分データに基づいて上記省略されるビットの位置を決めることを特徴とする請求項12に記載の装置。
【請求項14】
上記データ圧縮モジュールは、
上記第1差分データ及び上記第2差分データのうちより大きい値を有する差分データが第2閾値未満であると判断したことに応答して、上記第1画素データ、上記第2画素データ、上記第3画素データ、及び上記第4画素データからそれぞれ最上位ビットを含む上記第3個数のビットを省略することを特徴とする請求項13に記載の装置。
【請求項15】
上記データ圧縮モジュールは、
上記第1差分データ及び上記第2差分データのうちより大きい値を有する差分データが第2閾値以上であると判断したことに応答して、上記第1画素データ、上記第2画素データ、上記第3画素データ、及び上記第4画素データからそれぞれ上記第3個数のビットを省略して各画素データの最上位ビットを含む上記第1圧縮されたデータ、上記第2圧縮されたデータ、上記第3圧縮されたデータ、及び上記第4圧縮されたデータを取得することを特徴とする請求項13に記載の装置。
【請求項16】
上記データ圧縮モジュールは、
上記第1画素データまたは上記第2画素データのうち少なくとも1つの画素データが第3閾値以上であることに応答して、上記第1画素データ及び上記第2画素データからそれぞれ指定された値を減算し、上記減算された第1画素データ及び上記減算された第2画素データに基づいて上記第1圧縮されたデータ及び上記第2圧縮されたデータを取得し、
上記第3画素データまたは上記第4画素データのうち少なくとも1つの画素データが上記第3閾値以上であることに応答して、上記第3画素データ及び上記第4画素データからそれぞれ上記指定された値を減算し、上記減算された第3画素データ及び上記減算された第4画素データに基づいて上記第3圧縮されたデータ及び上記第4圧縮されたデータを取得することを特徴とする請求項12に記載の装置。
【請求項17】
光源を介して指定された位相に対応する変調光を出力する段階と、
第1単位画素を介して上記変調光が外部物体によって反射された反射光に対応する第1光電荷を生成し、第2単位画素を介して上記反射光に対応する第2光電荷を生成する段階と、
上記第1単位画素に上記指定された位相を有する第1変調電圧及び上記第1変調電圧と180度の位相差を有する第2変調電圧を印加して上記第1光電荷をキャプチャーし、上記第2単位画素に上記第1変調電圧と90度の位相差を有する第3変調電圧及び上記第3変調電圧と180度の位相差を有する第4変調電圧を印加して上記第2光電荷をキャプチャーする段階と、
上記第1単位画素及び上記第2単位画素を介して画素データを取得する段階と、
上記画素データに基づいて上記画素データに比べて圧縮されたデータを含む圧縮されたデータセットを生成する段階と、を含むことを特徴とする方法。
【請求項18】
上記第1単位画素及び上記第2単位画素を介して上記画素データを取得する段階は、
上記第1変調電圧を第1制御ノードに印加することにより第1検出ノードを介して第1画素データを取得し、上記第2変調電圧を第2制御ノードに印加することにより第2検出ノードを介して第2画素データを取得し、上記第3変調電圧を第3制御ノードに印加することにより第3検出ノードを介して第3画素データを取得し、上記第4変調電圧を第4制御ノードに印加することにより第4検出ノードを介して第4画素データを取得することを特徴とする請求項17に記載の方法。
【請求項19】
上記圧縮されたデータセットを生成する段階は、
それぞれ第1個数のビットを有する上記第1画素データ、上記第2画素データ、上記第3画素データ、及び上記第4画素データに基づいて上記第1個数より小さい第2個数のビットを有する上記圧縮されたデータを生成する段階を含むことを特徴とする請求項18に記載の方法。
【請求項20】
上記圧縮されたデータセットに基づいて上記外部物体との距離を識別する段階をさらに含むことを特徴とする請求項19に記載の方法。
【請求項21】
上記圧縮されたデータセットを生成する段階は、
上記第1画素データと上記第2画素データとの差に対応する第1差分データ、及び上記第3画素データと上記第4画素データとの差に対応する第2差分データを取得する段階、上記第1差分データ及び上記第2差分データはそれぞれ上記第1個数のビットを有し、
上記第1差分データの一部ビットを省略して上記第2個数のビットを有する第1圧縮されたデータを取得し、上記第2差分データの一部ビットを省略して上記第2個数のビットを有する第2圧縮されたデータを取得する段階を含むことを特徴とする請求項19に記載の方法。
【請求項22】
上記第1圧縮されたデータ及び上記第2圧縮されたデータを取得する段階は、
上記第1差分データ及び上記第2差分データのうちより大きい値を有する差分データが第1閾値未満であると判断したことに応答して、上記第1差分データから最上位ビットを含む第3個数のビットを省略して上記第1圧縮されたデータを取得し、上記第2差分データから最上位ビットを含む上記第3個数のビットを省略して上記第2圧縮されたデータを取得する段階を含むことを特徴とする請求項21に記載の方法。
【請求項23】
上記第1圧縮されたデータ及び上記第2圧縮されたデータを取得する段階は、
上記第1差分データ及び上記第2差分データのうちより大きい値を有する差分データが第1閾値以上であると判断したことに応答して、上記第1差分データから上記一部ビットを省略して上記第1差分データの最上位ビットを含む上記第1圧縮されたデータを取得し、上記第2差分データから上記一部ビットを省略して上記第2差分データの最上位ビットを含む上記第2圧縮されたデータを取得する段階を含むことを特徴とする請求項21に記載の方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明はTOF(time of flight)方式を用いて外部物体との距離を測定する技術に関する。
【背景技術】
【0002】
近年、セキュリティ、医療機器、自動車、ゲーム機、VR/AR、モバイル機器などの多様な分野で外部物体との距離を測定するイメージセンサに対する需要が増加している。距離を測定する方式には三角測量(triangulation)方式、飛行時間距離測定(time of flight、以下、TOF)方式、及び干渉法(interferometry)などが含まれる。そのうち、TOF方式は光または信号などの飛行時間、即ち、光または信号を出力した後、外部物体から反射して返ってくる時間を測定して距離を計算する方式であり、活用範囲が広くて処理速度が速く、コストの面でも有利であるというメリットがある。
【0003】
TOF方式の中でも間接(interferometry)TOF方式は光源を介して変調された光波(modulated light wave、以下、変調光)を放出し、変調光は正弦波、パルストレイン、または他の周期的な波形を有することができる。TOFセンサは観測された場面内の表面から上記変調光が反射された反射光を検出する。電子装置は放出された変調光と受信した反射光との位相差を測定し、TOFセンサと上記場面内の外部物体との物理的距離(または深度)を算出する。
【0004】
TOFセンサは2つ以上の画像フレームを用いて外部物体の深度を測定する。電子装置はTOFセンサから取得した生(raw)データをTOFセンサ内部のシリアルインタフェース(serial interface)を介してフレームメモリ(frame memory)に保存する。したがって、電子装置の深度測定性能はフレームメモリの容量及びシリアルインタフェースの速度に応じて変わる。
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明の技術的思想はTOFセンサを用いた深度画像の生成に必要なデータの容量を減少させ、さらには性能の向上した距離測定装置を提供することにある。
【課題を解決するための手段】
【0006】
本開示の実施例による装置は、指定された位相を有する第1変調電圧及び上記第1変調電圧と180度の位相差を有する第2変調電圧が印加される第1単位画素と、上記第1変調電圧と90度の位相差を有する第3変調電圧及び上記第3変調電圧と180度の位相差を有する第4変調電圧が印加される第2単位画素と、上記第1単位画素及び上記第2単位画素から受信した画素データに基づいて、上記画素データに比べて圧縮されたデータを含む圧縮されたデータセットを生成するデータ圧縮モジュールと、を含んでもよい。
【0007】
本開示の実施例による方法は、光源を介して指定された位相に対応する変調光を出力する段階と、第1単位画素を介して上記変調光が外部物体によって反射された反射光に対応する第1光電荷を生成し、第2単位画素を介して上記反射光に対応する第2光電荷を生成する段階と、上記第1単位画素に上記指定された位相を有する第1変調電圧及び上記第1変調電圧と180度の位相差を有する第2変調電圧を印加して上記第1光電荷をキャプチャーし、上記第2単位画素に上記第1変調電圧と90度の位相差を有する第3変調電圧及び上記第3変調電圧と180度の位相差を有する第4変調電圧を印加して上記第2光電荷をキャプチャーする段階と、上記第1単位画素及び上記第2単位画素を介して画素データを取得する段階と、上記画素データに基づいて上記画素データに比べて圧縮されたデータを含む圧縮されたデータセットを生成する段階と、を含んでもよい。
【発明の効果】
【0008】
本開示によると、取得した画素データまたは差分データを圧縮することにより、TOFセンサを用いた深度画像の生成に必要なデータの容量を減少させることができる。これにより、フレームメモリの保存空間のサイズを節約することができ、シリアルインタフェースの帯域幅を節約することができる。
【図面の簡単な説明】
【0009】
図1】本発明の実施例による装置の構成を概略的に説明するための図である。
図2】本発明の実施例に従って変調光と反射光との位相差により外部物体の深度を測定する方法の例を説明するための図である。
図3】本発明の実施例に従って変調光と反射光との位相差により外部物体の深度を測定する方法の他の例を説明するための図である。
図4】本発明の実施例に従って変調光と反射光との位相差により外部物体の深度を測定する方法のさらに他の例を説明するための図である。
図5】本発明の実施例に従ってデータ容量を減少させる方法を説明するための図である。
図6】本発明の実施例に従って第1単位画素及び第2単位画素をともに利用する理由を説明するための図である。
図7】本発明の実施例に従って圧縮されたデータセットを取得することによりデータ容量を減少させる方法を説明するための図である。
図8】本発明の実施例に従って差分データを圧縮する第1方法を説明するための図である。
図9】本発明の実施例の第1方法に従って第1状況で取得した第1圧縮されたデータ及び第2圧縮されたデータの例を説明するための図である。
図10】本発明の実施例の第1方法に従って第2状況で取得した第1圧縮されたデータ及び第2圧縮されたデータの例を説明するための図である。
図11】本発明の実施例の第1方法に従って第3状況で取得した第1圧縮されたデータ及び第2圧縮されたデータの例を説明するための図である。
図12】本発明の実施例の第1方法に従って第4状況で取得した第1圧縮されたデータ及び第2圧縮されたデータの例を説明するための図である。
図13】本発明の実施例に従って画素データを圧縮する第2方法を説明するための図である。
図14】本発明の実施例の第2方法に従って第1状況で取得した圧縮されたデータセットの例を説明するための図である。
図15】本発明の実施例の第2方法に従って第2状況で取得した圧縮されたデータセットの例を説明するための図である。
図16】本発明の実施例の第2方法に従って第3状況で取得した圧縮されたデータセットの例を説明するための図である。
図17】本発明の実施例の第2方法に従って第4状況で取得した圧縮されたデータセットの例を説明するための図である。
図18】本発明の様々な実施例による装置のハードウェア構成を説明するための図である。
図19】本発明の様々な実施例に従ってフレームごとに単位画素に印加される変調電圧の位相を説明するための図である。
【発明を実施するための形態】
【0010】
本明細書または出願に開示されている本発明の概念による実施例に対する特定の構造的または機能的説明は本発明の概念による実施例を説明する目的でのみ例示されており、本発明の概念による実施例は様々な形態で実施することができ、本明細書または出願に説明された実施例に限定されると解釈べきではない。
【0011】
以下では、本発明が属する技術分野で通常の知識を有する者が本発明の技術的思想を容易に実施できる程度に詳細に説明するために、本発明の実施例を添付の図面を参照して説明する。
【0012】
図1は本発明の実施例による装置の構成を概略的に説明するための図である。
【0013】
図1を参照すると、装置100は、光源110、タイミングコントローラ(timing controller、TC)121、制御回路122、リードアウト回路123、画素アレイ130、データ圧縮モジュール140、及び距離測定モジュール150を含んでもよい。装置100はTOF方式を用いて外部物体1との距離、または外部物体1の深度を測定することができる。TOF方式は外部物体1に向けて変調光を照射(emit)し、外部物体1から反射して入射する反射光を検知し、変調光と反射光との位相差(phase difference)に基づいて間接的(indirect)に装置100と外部物体1との距離を測定する方式であることができる。
【0014】
光源110は、タイミングコントローラ121から提供される光変調信号に応答して外部物体1に光を照射することができる。光源110は、特定波長帯域の光(例えば、近赤外線、赤外線、可視光)を発するレーザダイオード(Laser Diode、LD)、発光ダイオード(Light Emitting Diode、LED)、近赤外線レーザ(Near Infrared Laser、NIR)、ポイント光源、白色ランプとモノクロメータ(monochromator)が組み合わさった単色(monochromatic)照明源、または他のレーザ光源の組み合わせであってもよい。例えば、光源110は800nm~1000nmの波長を有する赤外線を発光することができる。光源110から照射される光は予め定められた周波数に変調された変調光(modulated light)であってもよい。即ち、光源110は指定された位相に対応する変調光を出力することができる。指定された位相は指定された周期に応じて活性化電圧と非活性化電圧が繰り返される位相であってもよい。
【0015】
画素アレイ130は2次元マトリックス構造で連続的に配列された複数の単位画素を含むことができる。例えば、画素アレイ130は行(row)方向と列(column)方向に連続して配列された単位画素を含むことができる。上記単位画素は画素アレイ130上で同じ形態が繰り返し配列される最小単位であってもよい。例えば、画素アレイ130は第1単位画素160及び第2単位画素170を含むことができる。第1単位画素160と第2単位画素170は隣接して配置されてもよい。
【0016】
図1を参照すると、第1単位画素160はフォトダイオード165、第1検出ノード161、フォトダイオード165と第1検出ノード161を連結する第1制御ノード163、第2検出ノード162、及びフォトダイオード165と第2検出ノード162を連結する第2制御ノード164を含んでもよい。第2単位画素170はフォトダイオード175、第3検出ノード171、フォトダイオード175と第3検出ノード171を連結する第3制御ノード173、第4検出ノード172、及びフォトダイオード175と第4検出ノード172を連結する第4制御ノード174を含んでもよい。装置は、制御ノード(例えば、163、164、173、174)に変調電圧を印加することにより発生する電荷を検出ノード(例えば、161、162、171、172)を介して収集することができる。図1に示す制御ノード(例えば、163、164、173、174)及び検出ノード(例えば、161、162、171、172)の構造及び形態は一例であり、本開示の権利範囲を制限しない。例えば、制御ノードは検出ノードを取り囲む形状であってもよい。また、制御ノードと検出ノードはタップ(tap)(または、サンプリングポイント)を形成することができる。例えば、第1タップは第1制御ノード163と第1検出ノード161を含んでもよい。
【0017】
例えば、各単位画素はCAPD(Current-Assisted Photonic Demodulator)画素であってもよい。各単位画素は、入射光によって基板内で生成された光電荷を電界のポテンシャル差を利用してキャプチャーすることができる。例えば、第1単位画素160に上記反射光が入射すると、光電変換領域(例えば、基板、フォトダイオード165)を介して反射光に対応する第1光電荷が生成されることができる。第1単位画素160に含まれる第1制御ノード163と第2制御ノード164にはそれぞれ第1変調電圧と第2変調電圧が印加されることができ、上記印加される変調電圧によって第1単位画素160内には画素電流が生成されることができる。装置100は、第1検出ノード161と第2検出ノード162を介して上記画素電流によって移動する第1光電荷をキャプチャーすることができる。図1における第1単位画素160の説明は第2単位画素170にも適用することができる。
【0018】
制御回路122は画素アレイ130の複数の行ライン(row lines)のうち少なくとも1つの行ラインを選択及び制御できる制御信号を生成することができる。上記制御信号はリセットトランジスタを制御するリセット信号(reset signal)、検出領域に蓄積された光電荷の伝達を制御する伝送信号(transfer signal)、高照度条件で追加の静電容量を提供するためのフローティングディフュージョン信号(floating diffusion signal)、選択トランジスタを制御する選択信号(select signal)のうち少なくとも一部を含むことができる。
【0019】
制御回路122は単位画素の基板内に画素電流(pixel current)を生成させるための変調電圧を生成及び出力することができる。制御回路122は第1制御ノード163、第2制御ノード164、第3制御ノード173、及び第4制御ノード174にそれぞれ加わる変調電圧を生成及び出力することができる。
【0020】
タイミングコントローラ121は光源110、制御回路122、及びリードアウト回路123の動作を制御するためのタイミング信号を生成することができる。
【0021】
リードアウト回路123はタイミングコントローラ121の制御に応じて画素アレイ130から出力される画素信号を処理してデジタル信号形態の画素データを生成することができる。例えば、リードアウト回路123は第1検出ノード161から第1画素データ、第2検出ノード162から第2画素データ、第3検出ノード171から第3画素データ、及び第4検出ノード172から第4画素データを取得することができる。
【0022】
リードアウト回路123は画素アレイ130から出力された画素信号に対してCDS(correlated double sampling)を行うことができる。装置100はCDSによって上記画素信号に含まれたリードアウトノイズを減少させることができる。また、リードアウト回路123はCDSが行われた出力信号をデジタル信号に変換するためのADC(analog-digital converter)を含んでもよい。また、リードアウト回路123はADCから出力される画素データを一時保存し、タイミングコントローラ121の制御に応じて外部に出力するためのバッファ回路を含んでもよい。
【0023】
一方、単位画素からリードアウト回路123に画素信号を伝達するための列ラインは、画素アレイ130の1列当たりに少なくとも1つずつ備えられてもよく、各列ラインから出力される画素信号を処理するための構成も各列ラインに対応して備えられてもよい。
【0024】
データ圧縮モジュール140はリードアウト回路123を介して取得した画素データを圧縮することができる。例えば、データ圧縮モジュール140は第1画素データ、第2画素データ、第3画素データ、及び第4画素データに基づいて圧縮されたデータを取得することができる。第1画素データ、第2画素データ、第3画素データ、及び第4画素データは第1個数のビットを有するデータであってもよく、上記圧縮されたデータは上記第1個数より小さい第2個数のビットを有するデータであってもよい。本開示のデータ圧縮モジュール140が画素データを圧縮する方法については、図5以下において後述する。
【0025】
距離測定モジュール150はデータ圧縮モジュール140から圧縮されたデータを受信することができ、上記圧縮されたデータに基づいて装置100と外部物体1との距離(または、外部物体1の深度)を識別することができる。例えば、光源110が装置100が撮影する場面に向けて予め定められた周波数に変調された変調光を照射し、装置100は場面内の外部物体1から反射された反射光(または、入射光)を検知すると、変調光と反射光との間には装置100と外部物体1との距離による時間遅延(time delay)が存在するようになる。変調光の位相が第1位相111に対応する場合、反射光の位相は第1位相111と一定の位相差を有する第2位相112に対応することができる。距離測定モジュール150は第1位相111と第2位相112との位相差に基づいて外部物体1との距離を識別することができる。装置100は変調光と反射光との位相差を利用して各単位画素ごとの深度情報を含む深度画像を生成することができる。
【0026】
図2は本発明の実施例に従って変調光と反射光との位相差により外部物体の深度を測定する方法の例を説明するための図である。
【0027】
図2は、周辺光(ambient light)がないか、または無視できるほど非常に少ない場合に外部物体との距離dを計算する方法を説明する。周辺光がないか、または無視できるほど少ない場合、入射光は変調光による反射光に対応することができる。参照番号210は第1単位画素160、参照番号220は第2単位画素170にそれぞれ対応し、装置100は第1単位画素160と第2単位画素170を利用して変調光と反射光との位相差φを計算することができる。ただし、これは一例であり、参照番号210と参照番号220は第1単位画素160を介して取得する第1画像フレーム及び第2画像フレームにそれぞれ対応することもできる。
【0028】
図2を参照すると、変調光は指定された位相を有し、反射光は変調光と一定の位相差φを有することができる。例えば、上記指定された位相は図1で説明した第1位相111であってもよい。
【0029】
参照番号210を参照すると、装置100は、第1単位画素160の第1制御ノード163には指定された位相を有する第1変調電圧を印加し、第1単位画素160の第2制御ノード164には上記第1変調電圧と180度の位相差を有する第2変調電圧を印加することができる。第1制御ノード163に第1変調電圧が印加される間、第1検出ノード161にはQs0の電荷量が蓄積されることができる。また、第2制御ノード164に第2変調電圧が印加される間、第2検出ノード162にはQs2の電荷量が蓄積されることができる。装置100は上記のような電荷の蓄積をN回繰り返すことができる。一定時間の間、第1検出ノード161と第2検出ノード162にそれぞれ蓄積された電荷量はQ、Qであることができる。リードアウト回路123は第1検出ノード161と第2検出ノード162にそれぞれ蓄積された電荷量をリードアウトしてそれぞれの電荷量Q、Qに比例する画素データC0、を取得することができる。本開示におけるCは第1画素データ、Cは第2画素データと称することができる。
【0030】
参照番号220を参照すると、装置100は、第2単位画素170の第3制御ノード173には第1変調電圧と90度の位相差を有する第3変調電圧を印加し、第2単位画素170の第4制御ノード174には上記第3変調電圧と180度の位相差を有する第4変調電圧を印加することができる。第3制御ノード173に第3変調電圧が印加される間、第3検出ノード171にはQs1の電荷量が蓄積されることができる。また、第4制御ノード174に第4変調電圧が印加される間、第4検出ノード172にはQs3の電荷量が蓄積されることができる。装置100は上記のような電荷の蓄積をN回繰り返すことができる。一定時間の間、第3検出ノード171と第4検出ノード172にそれぞれ蓄積された電荷量はQ、Qであることができる。リードアウト回路123は第3検出ノード171と第4検出ノード172にそれぞれ蓄積された電荷量をリードアウトしてそれぞれの電荷量Q、Qに比例する画素データC1、を取得することができる。本開示におけるCは第3画素データ、Cは第4画素データと称することができる。
【0031】
装置100は、第1検出ノード161、第2検出ノード162、第3検出ノード171、及び第4検出ノード172を介して取得した画素データC、C、C、Cを利用して変調光と反射光との位相差φを計算することができる。位相差φは以下の数式1に基づいて計算されることができる。
【0032】
【数1】
【0033】
数式1を参照すると、第1検出ノード161に蓄積された電荷量Qs0と第2検出ノード162に蓄積された電荷量Qs2との差、及び第3検出ノード171に蓄積された電荷量Qs1と第4検出ノード172に蓄積された電荷量Qs3との差に基づいて位相差φを計算することができる。このとき、各検出ノードに蓄積された電荷量Qs0、Qs2、Qs1、Qs3にNを掛けると、各検出ノードの電荷量Q、Q、Q、Qに対応することができる。例えば、第1検出ノード161の場合、Q=NQs0であり、また、第2検出ノード162の場合、Q=NQs2であることができる。第1単位画素160は上記電荷量Q、Qにそれぞれ比例する画素データC、Cを出力することができる。また、第2単位画素170は上記電荷量Q、Qにそれぞれ比例する画素データC、Cを出力することができる。したがって、装置100は数式1のように各検出ノードから出力される画素データC、C、C、Cを利用して位相差φを演算することができる。
【0034】
即ち、装置100は、第1検出ノード161の第1画素データCと第2検出ノード162の第2画素データCとの差、及び第3検出ノード171の第3画素データCと第4検出ノード172の第4画素データCとの差に基づいて位相差φを計算することができる。上記数式1において、DM0dは指定された位相を有する変調電圧(例えば、第1変調電圧)を利用して光電荷をキャプチャーした場合の差分データ(differential data)に対応し、DM90dは指定された位相と90度の位相差を有する変調電圧(例えば、第3変調電圧)を利用して光電荷をキャプチャーした場合の差分データに対応することができる。
【0035】
装置100は数式1により取得した位相差φに基づいて外部物体1と装置100との距離dを計算することができる。例えば、装置100は以下の数式2に基づいて上記dを計算することができる。数式2において、cは光束、fmodは変調周波数に対応することができる。
【0036】
【数2】
【0037】
即ち、図2を参照すると、周辺光がないか、または非常に少ない状況において、装置100は各検出ノードで取得した画素データC、C、C、Cを利用して装置100と外部物体1との距離dを計算することができる。
【0038】
図3は本発明の実施例に従って変調光と反射光との位相差により外部物体の深度を測定する方法の他の例を説明するための図である。
【0039】
図3では、変調光による反射光の他に周辺光がさらに存在する場合の装置100が外部物体1との距離dを計算する方法を説明する。参照番号310は第1単位画素160、参照番号320は第2単位画素170にそれぞれ対応し、装置100は第1単位画素160と第2単位画素170を利用して変調光と反射光との位相差φを計算することができる。図3に示す内容のうち、図2と重複する内容は説明を省略することができる。
【0040】
図3を参照すると、入射光には変調光による反射光の他に周辺光が含まれてもよい。したがって、第1変調電圧が印加される第1検出ノード161では反射光に対応するQs0及び周辺光に対応するQa0がキャプチャーされ、第2変調電圧が印加される第2検出ノード162では反射光に対応するQs2及び周辺光に対応するQa2がキャプチャーされ、第3変調電圧が印加される第3検出ノード171では反射光に対応するQs1及び周辺光に対応するQa1がキャプチャーされ、第4変調電圧が印加される第4検出ノード172では反射光に対応するQs3及び周辺光に対応するQa3がキャプチャーされることができる。
【0041】
周辺光が一定の状況を仮定すると、Qa0、Qa1、Qa2、及びQa3は互いに同じ値であることができる。従って、装置100は以下の数式3を用いて変調光と反射光との位相差φを計算することができる。
【0042】
【数3】
【0043】
数式3を参照すると、各検出ノードに蓄積された電荷量のうち反射光に対応する電荷量Qs0、Qs2、Qs1、Qs3に基づいて位相差φを計算することができる。このとき、装置100は各検出ノードに蓄積された電荷量Q+Qのうち反射光に対応する電荷量Qだけを分離することは困難である。ただし、周辺光が一定の環境では、Qa0、Qa1、Qa2、及びQa3は互いに同じ値であることができるため、装置100は各検出ノードに蓄積された反射光に対応する電荷量Qに周辺光に対応する電荷量Qを足して位相差φを演算することができる。また、数式1でのように、各検出ノードに蓄積された電荷量(Qs0+Qa0、Qs2+Qa2、Qs1+Qa1、Qs3+Qa3)にNを掛けると、各検出ノードの電荷量Q、Q、Q、Qに対応することができる。例えば、第1検出ノード161の場合はQ=N(Qs0+Qa0)であることができる。第2検出ノード162の場合はQ=N(Qs2+Qa2)であることができる。第1単位画素160は上記電荷量Q、Qにそれぞれ比例する画素データC、Cを出力することができる。また、第2単位画素170は上記電荷量Q、Qにそれぞれ比例する画素データC、Cを出力することができる、したがって、装置100は数式1のように各検出ノードから出力される画素データを利用して位相差φを演算することができる。
【0044】
即ち、数式1と数式3を比較すると、装置100は、図2で説明したように周辺光が非常に少ない場合と図3で説明したように周辺光が存在する場合、同じ式を通じて位相差φを計算することができる。装置100は数式3により取得した位相差φに数式2を適用して距離dを計算することができる。
【0045】
図4は本発明の実施例に従って変調光と反射光との位相差により外部物体の深度を測定する方法のさらに他の例を説明するための図である。
【0046】
図4図3で取得したC、C、C、及びCとともに、指定された位相と180度の位相差を有する変調電圧(例えば、第5変調電圧)及び指定された位相と270度の位相差を有する変調電圧(例えば、第7変調電圧)を利用することで、制御ノード間のミスマッチによる誤差を減らし、距離dをより正確に計算するための方法を説明する。例えば、図3は、図1に示す第1単位画素160と第2単位画素170により取得した第1画像フレームと第2画像フレームにそれぞれ該当し、図4図1に示す第1単位画素160と第2単位画素170により取得した第3画像フレームと第4画像フレームにそれぞれ該当することができる。他の例として、参照番号310、320、410、420はそれぞれ第1単位画素160により取得した第1~第4画像フレームにそれぞれ対応することもできる。
【0047】
装置100は、第1制御ノード163に指定された位相と180度の位相差を有する第5変調電圧を印加し、第2制御ノード164に第5変調電圧と180度の位相差を有する第6変調電圧を印加し、第3制御ノード173に指定された位相と270度の位相差を有する第7変調電圧を印加し、第4制御ノード174に第7変調電圧と180度の位相差を有する第8変調電圧を印加することができる。
【0048】
図4において、第1検出ノード161、第2検出ノード162、第3検出ノード171、及び第4検出ノード172に蓄積された電荷量Q ̄、Q ̄、Q ̄、及びQ ̄にそれぞれ対応する画素データは、C ̄、C ̄、C ̄、及びC ̄と称することができる。図3の参照番号310と図4の参照番号410を比較すると、第1制御ノード163と第2制御ノード164に印加される変調電圧の位相に互いに180度の差が生じることができる。従って、Q ̄=N(Qs2+Qa2)で、Q ̄=N(Qs0+Qa0)であることができる。このとき、第1単位画素160を基準として説明すると、QとQ ̄にはそれぞれ第1検出ノード161と第2検出ノード162間の制御誤差や駆動誤差による誤差値NΔA0が存在し、QとQ ̄にはそれぞれ第1検出ノード161と第2検出ノード162間の制御誤差や駆動誤差による誤差値NΔB0が存在することができる。ただし、数式4の関係式によると、上記誤差値は相殺されることができる。
【0049】
【数4】
【0050】
同様に、第2単位画素170の場合も、数式5の関係が成立することができる。
【0051】
【数5】
【0052】
数式1、数式4、及び数式5を参照すると、装置100は数式6に基づいて変調光と反射光との位相差φを計算することができる。
【0053】
【数6】
【0054】
図2図4を参照すると、装置100は各検出ノードを介して取得した画素データ(例えば、C、C、C、C)及び/または差分データ(例えば、DM0d、DM90d)を利用して外部物体1との距離(または、外部物体1の深度)dを取得することができる。ただし、既存の装置が生(raw)データ状態である画素データ及び/または差分データを利用することに対し、本開示では画素データ及び/または差分データを圧縮してデータ容量を減少させることにより、求められるフレームメモリの保存空間のサイズを節約することができ、求められるシリアルインタフェースの帯域幅を節約することができる。
【0055】
図5は本発明の実施例に従ってデータ容量を減少させる方法を説明するための図である。
【0056】
図5では、装置100の周辺環境に応じて図1に示す第1検出ノード161と第2検出ノード162を介して取得した第1画素データC及び第2画素データCの例を示す。例えば、外部物体1が装置100から近いほどCとCの差は大きく、外部物体1が装置100から離れるほどCとCの差は小さくなることができる。また、周辺光のない状況に比べて周辺光のある状況では、周辺光による光電荷によってCとCの値が大きいことがある。
【0057】
図5において、C code、C code及びDM0d codeはそれぞれ16進数で表現されたデータコードが示されている。また、各コードにおいて0で埋まっていない部分には0~15の数が含まれてもよい。例えば、外部物体1が近く周辺光のない状況では、C codeは0×8395DF14であり、C codeは0×00001FA1であることができる。他の例として、外部物体1が遠く周辺光のない状況では、C codeは0×0000F30Bであり、C codeは0×00000072であることができる。
【0058】
本開示では、画素データC及びCまたは差分データDM0dの容量を減少させるために、各コードの最上位ビットからn個または最下位ビットからn個のビットを省略することができる。装置100は、外部物体1が近い状況、即ち、CとCとの差が大きい状況と、外部物体1が遠い状況、即ち、CとCとの差が小さい状況と、に分けてビットを省略する位置を決めることができる。例えば、外部物体1が遠い状況のようにDM0dコードが最上位ビットから4つの0を含む場合、装置100はDM0dコードの最上位ビットから4つのビットを省略することができる。他の例として、外部物体1が近い状況の場合は、DM0dコードの最下位ビットから4つのビットを省略することができる。
【0059】
図6は本発明の実施例に従って第1単位画素及び第2単位画素をともに利用する理由を説明するための図である。
【0060】
図5で説明したように、装置100は、CとCとの差が一定レベル以上であるか否かを利用して画素データC、Cまたは差分データDM0dの第1個数のビットのうち省略するビットの位置を決めることができる。ただし、CとCの値が同じ場合は、図5に関して説明した方法で省略するビットを決めることが困難であり得る。
【0061】
図6を参照すると、変調光と反射光との位相差が90度に近い場合は、CとCの値が類似することができる。例えば、外部物体1が近い状況であるにも関わらず変調光と反射光との位相差が90度の場合にはCとCが同じ値を有することができる。
【0062】
本開示の装置100は互いに90度の位相差を有する変調電圧が印加される2つの単位画素を利用して省略ビットを決めることができる。例えば、装置100は、図1に示す第1単位画素160の第1制御ノード163に指定された位相に対応する第1変調電圧を印加し、第2単位画素170の第3制御ノード173に第1変調電圧と90度の位相差を有する第3変調電圧を印加することができる。変調光と反射光との位相差が90度に該当し、CとCの値が非常に類似する場合も、装置100は第2単位画素170で取得するCとCを利用してビットを省略する位置を決めることができる。
【0063】
装置100は第1単位画素160から取得する第1画素データCと第2画素データCとの差に対応する第1差分データDM0d、及び第2単位画素170から取得する第3画素データCと第4画素データCとの差に対応する第2差分データDM90dのうちより大きい値を基準として省略するビットの位置を決めることができる。ビット省略によるデータ圧縮の具体的な方法については図8以下で後述する。
【0064】
図7は本発明の実施例に従って圧縮されたデータセットを取得することによってデータ容量を減少させる方法を説明するための図である。
【0065】
図7図1を合わせて参照すると、段階S710において、装置100は光源110を介して指定された位相に対応する変調光を出力することができる。
【0066】
段階S720において、装置100は変調光が外部物体1によって反射された反射光に対応する光電荷を生成することができる。例えば、装置100は第1単位画素160を介して上記反射光に対応する第1光電荷を生成し、第2単位画素170を介して上記反射光に対応する第2光電荷を生成することができる。
【0067】
段階S730において、装置100は第1単位画素160及び第2単位画素170を介して光電荷をキャプチャーすることができる。装置100は第1単位画素160に含まれた第1検出ノード161及び第2検出ノード162を利用して第1光電荷をキャプチャーし、第2単位画素170に含まれた第3検出ノード171及び第4検出ノード172を利用して第2光電荷をキャプチャーすることができる。例えば、装置100は第1制御ノード163と第2制御ノード164にそれぞれ第1変調電圧と第2変調電圧を印加して第1単位画素160の内部に画素電流を発生させることができ、上記画素電流によって移動する第1光電荷を第1検出ノード161及び/または第2検出ノード162を利用してキャプチャーすることができる。第1変調電圧は上記指定された位相を有することができ、第2変調電圧は第1変調電圧と180度の位相差を有することができる。また、装置100は第3制御ノード173と第4制御ノード174にそれぞれ第3変調電圧と第4変調電圧を印加して第2単位画素170の内部に画素電流を発生させることができ、上記画素電流によって移動する第2光電荷を第3検出ノード171及び/または第4検出ノード172を利用してキャプチャーすることができる。第3変調電圧は第1変調電圧と90度の位相差を有することができ、第4変調電圧は第3変調電圧と180度の位相差を有することができる。
【0068】
段階S740において、装置100は第1単位画素160及び第2単位画素170を介して画素データを取得することができる。リードアウト回路123は第1検出ノード161、第2検出ノード162、第3検出ノード171、及び第4検出ノード172からそれぞれ第1個数のビットを有する第1画素データC、第2画素データC、第3画素データC、及び第4画素データCを取得することができ、データ圧縮モジュール140はリードアウト回路123から第1画素データC、第2画素データC、第3画素データC、及び第4画素データCを受信することができる。
【0069】
段階S750において、装置100は画素データに基づいて、画素データに比べて圧縮されたデータを含む圧縮されたデータセットを生成することができる。装置100(例えば、データ圧縮モジュール140)は第1画素データC、第2画素データC、第3画素データC、及び第4画素データCに基づいて、第1個数より小さい第2個数のビットを有する圧縮されたデータを含む圧縮されたデータセットを生成することができる。
【0070】
例えば、上記圧縮されたデータセットには第1差分データDM0dに対応する第1圧縮されたデータ及び第2差分データDM90dに対応する第2圧縮されたデータが含まれてもよい。差分データを圧縮する方法については図8図12で後述する。図8図12で説明する圧縮方法は第1方法と称することができる。
【0071】
他の例として、上記圧縮されたデータセットには第1画素データC、第2画素データC、第3画素データC、及び第4画素データCにそれぞれ対応する第1~第4圧縮されたデータが含まれてもよい。画素データを圧縮する方法については図13図17で後述する。図13図17で説明する圧縮方法は第2方法と称することができる。
【0072】
段階S760において、装置100(例えば、距離測定モジュール150)は上記圧縮されたデータセットに基づいて外部物体1との距離dを識別することができる。例えば、装置100は上記圧縮されたデータセットに含まれた圧縮されたデータを利用して変調光と反射光との位相差φを計算することができ、これに基づいて上記距離dを計算することができる。一実施例では、段階S760は省略されてもよい。
【0073】
図8は本発明の実施例に従って差分データを圧縮する第1方法を説明するための図である。図8で説明する段階は、図7の段階S750を具体的に説明したものと理解することができる。
【0074】
段階S810において、装置100(例えば、データ圧縮モジュール140)は第1画素データCと第2画素データCとの差に対応する第1差分データDM0d、及び第3画素データCと第4画素データCとの差に対応する第2差分データDM90dを取得することができる。第1差分データDM0d及び第2差分データDM90dはそれぞれ第1個数のビットを有することができる。
【0075】
段階S820において、装置100(例えば、データ圧縮モジュール140)は第1差分データDM0d及び第2差分データDM90dのうちより大きい値を有する差分データが第1閾値未満であるか否かを判断することができる。例えば、第1閾値は0×10000であることができる。
【0076】
段階S830において、装置100(例えば、データ圧縮モジュール140)は第1差分データDM0d及び第2差分データDM90dのうちより大きい値を有する差分データが第1閾値未満であると判断したことに応答して省略ビットを決め、圧縮されたデータを取得することができる。例えば、第1差分データDM0dから最上位ビットを含む第3個数のビットを省略して第1圧縮されたデータを取得することができ、第2差分データDM90dから最上位ビットを含む第3個数のビットを省略して第2圧縮されたデータを取得することができる。
【0077】
段階S840において、装置100(例えば、データ圧縮モジュール140)は第1差分データDM0d及び第2差分データDM90dのうちより大きい値を有する差分データが第1閾値以上であると判断したことに応答して、第1差分データDM0d及び第2差分データDM90dを右側にビットシフトすることができる。例えば、装置100は第1差分データDM0d及び第2差分データDM90dを2で分けることができる。装置100は、段階S820及びS840により第1差分データDM0dと第2差分データDM90dのうちより大きい値を有する差分データが第1閾値未満になるまでビットシフトすることができる。
【0078】
第1方法によると、装置100は外部物体1との距離測定のために必要なデータの容量を効果的に縮小することができる。
【0079】
図9図12では、装置100の周辺状況に応じて装置100が図8の段階を行ってデータを圧縮する具体的な例を説明する。
【0080】
図9図12を参照すると、装置100の周辺状況は周辺光の有無及び装置100と外部物体1との距離によって区別されることができる。例えば、第1状況としては周辺光がないかまたは非常に少なく、外部物体1が装置100から遠くにある状況と定義することができる。第2状況としては周辺光があって外部物体1が装置100から遠くにある状況と定義することができる。第3状況としては周辺光がないかまたは非常に少なく、外部物体1が装置100の近くにある状況と定義することができる。第4状況としては周辺光があって外部物体1が装置100の近くにある状態と定義することができる。ただし、状況の定義は、本明細書で定義したことに限定されず、実施例に応じて変わってもよい。
【0081】
図9は本発明の実施例の第1方法に従って第1状況で取得した第1圧縮されたデータ及び第2圧縮されたデータの例を説明するための図である。
【0082】
図9を参照すると、第1状況において、第1画素データCと第2画素データCは第2状況~第4状況に比べて小さい値を有し、第1画素データCと第2画素データCとの差も小さくてもよい。同様に、第3画素データCと第4画素データCも第2状況~第4状況に比べて小さい値を有し、第3画素データCと第4画素データCとの差も小さくてもよい。例えば、図9に示すように、C、C、C、C codeはそれぞれ最上位ビットから4~6個の0を含むことができる。
【0083】
装置100(例えば、データ圧縮モジュール140)は図8の段階S820と関連して、第1差分データDM0dと第2差分データDM90dのうちより大きい値を有する第1差分データDM0dが第1閾値(例えば、0×10000)未満であると判断することができる。
【0084】
従って、装置100(例えば、データ圧縮モジュール140)は図8の段階S830に関連して、第1差分データDM0dから最上位ビットを含む第3個数のビットを省略し、第2差分データDM90dから最上位ビットを含む第3個数のビットを省略することができる。例えば、装置100はDM0d codeとDM90d codeからそれぞれ最上位ビットから4桁のコードを省略することにより、第1圧縮されたデータDM’0d及び第2圧縮されたデータDM’90dを取得することができる。
【0085】
図10は本発明の実施例の第1方法に従って第2状況で取得した第1圧縮されたデータ及び第2圧縮されたデータの例を説明するための図である。
【0086】
図10を参照すると、第2状況における第1画素データCと第2画素データCとの差は第3状況及び第4状況に比べて小さくてもよい。また、第2状況における第3画素データCと第4画素データCとの差は第1画素データCと第2画素データCとの差に比べて小さくてもよい。例えば、図10に示すように、C、C、C、C codeはそれぞれ最上位ビットから2つのゼロを含むことができる。
【0087】
装置100(例えば、データ圧縮モジュール140)は図8の段階S820に関連して、第1差分データDM0dと第2差分データDM90dのうちより大きい値を有する第1差分データDM0dが第1閾値(例えば、0×10000)未満であると判断することができる。
【0088】
従って、装置100(例えば、データ圧縮モジュール140)は図8の段階S830に関連して、第1差分データDM0dから最上位ビットを含む第3個数のビットを省略し、第2差分データDM90dから最上位ビットを含む第3個数のビットを省略することができる。例えば、装置100はDM0d codeとDM90d codeからそれぞれ最上位ビットから4桁のコードを省略することにより、第1圧縮されたデータDM’0d及び第2圧縮されたデータDM’90dを取得することができる。
【0089】
図11は本発明の実施例の第1方法に従って第3状況で取得した第1圧縮されたデータ及び第2圧縮されたデータの例を説明するための図である。
【0090】
図11を参照すると、第3状況における第1画素データCと第2画素データCとの差は第1状況及び第2状況に比べて大きくてもよい。また、第3状況における第3画素データCと第4画素データCとの差は第1画素データCと第2画素データCとの差に比べて小さくてもよい。例えば、図11に示すようなC、C、C、C codeに該当する画素データを取得することができる。
【0091】
装置100(例えば、データ圧縮モジュール140)は図8の段階S820に関連して、第1差分データDM0dと第2差分データDM90dのうちより大きい値を有する第1差分データDM0dが第1閾値(例えば、0×10000)以上であると判断することができる。
【0092】
装置100(例えば、データ圧縮モジュール140)は図8の段階S840に関連して、第1差分データDM0dと第2差分データDM90dを右側にビットシフトすることができる。例えば、装置100は第1差分データDM0dが第1閾値(例えば、0×10000)未満になるように第1差分データDM0dと第2差分データDM90dを2の二乗数で分けることができる。
【0093】
装置100(例えば、データ圧縮モジュール140)は図8の段階S830に関連して、装置100はビットシフトされた第1差分データDM0dが第1閾値(例えば、0×10000)未満であると判断したことに応答して、ビットシフトされた第1差分データDM0dから最上位ビットを含む第3個数のビットを省略し、ビットシフトされた第2差分データDM90dから最上位ビットを含む第3個数のビットを省略することができる。図11を参照すると、装置100は第1差分データDM0dから一部のビットを省略して第1差分データDM0dの最上位ビットを含む第1圧縮されたデータDM’0dを取得し、第2差分データDM90dから一部のビットを省略して第2差分データDM90dの最上位ビットを含む第2圧縮されたデータDM’90dを取得することができる。即ち、装置100は差分データのうちより大きい値が第1閾値以上の場合には差分データを右側にビットシフトした後、最上位ビットから0を有する4桁のコードを省略するため、結果的に差分データの最下位ビットから4桁のコードが省略されることができる。
【0094】
図12は本発明の実施例の第1方法に従って第4状況で取得した第1圧縮されたデータ及び第2圧縮されたデータの例を説明するための図である。
【0095】
図12を参照すると、第4状況における第1画素データCと第2画素データCとの差は第1状況及び第2状況に比べて大きくてもよい。また、第4状況における第3画素データCと第4画素データCとの差は第1画素データCと第2画素データCとの差に比べて小さくてもよい。例えば、図12に示すようなC、C、C、C codeに該当する画素データを取得することができる。
【0096】
装置100(例えば、データ圧縮モジュール140)は図8の段階S820に関連して、第1差分データDM0dと第2差分データDM90dのうちより大きい値を有する第1差分データDM0dが第1閾値(例えば、0×10000)以上であると判断することができる。
【0097】
装置100(例えば、データ圧縮モジュール140)は図8の段階S840に関連して、第1差分データDM0dと第2差分データDM90dを右側にビットシフトすることができる。例えば、装置100は第1差分データDM0dが第1閾値(例えば、0×10000)未満になるように第1差分データDM0dと第2差分データDM90dを2の二乗数で分けることができる。
【0098】
装置100(例えば、データ圧縮モジュール140)は図8の段階S830に関連して、装置100はビットシフトされた第1差分データDM0dが第1閾値(例えば、0×10000)未満であると判断したことに応答して、ビットシフトされた第1差分データDM0dから最上位ビットを含む第3個数のビットを省略し、ビットシフトされた第2差分データDM90dから最上位ビットを含む第3個数のビットを省略することができる。図12を参照すると、装置100は第1差分データDM0dから一部のビットを省略して第1差分データDM0dの最上位ビットを含む第1圧縮されたデータDM’0dを取得し、第2差分データDM90dから一部のビットを省略して第2差分データDM90dの最上位ビットを含む第2圧縮されたデータDM’90dを取得することができる。即ち、装置100は差分データのうちより大きい値が第1閾値以上の場合には差分データを右側にビットシフトした後、最上位ビットから0を有する4桁のコードを省略するため、結果的に差分データの最下位ビットから4桁のコードが省略されることができる。
【0099】
図13は本発明の実施例に従って画素データを圧縮する第2方法を説明するための図である。図13で説明した段階は図7の段階S740及びS750を具体的に説明したものと理解することができる。
【0100】
段階S1310において、装置100(例えば、データ圧縮モジュール140)は第1画素データC、第2画素データC、第3画素データC、及び第4画素データCを取得することができる。段階S1310は図7の段階S740に対応することができる。
【0101】
段階S1312において、装置100(例えば、データ圧縮モジュール140)は第1画素データCと第2画素データCとの差に対応する第1差分データDM0d、及び第3画素データCと第4画素データCとの差に対応する第2差分データDM90dを計算することができる。
【0102】
段階S1314において、装置100(例えば、データ圧縮モジュール140)は第1差分データDM0dと第2差分データDM90dのうちより大きい値を有する差分データにおいて0ではない最も高いビット数(bit number)をnと設定することができる。
【0103】
段階S1316において、装置100(例えば、データ圧縮モジュール140)は第2閾値thCxから1を差し引いた値から0ではない最も高いビット数をmと設定することができる。例えば、第2閾値thCxは0×10000であってもよい。
【0104】
段階S1318において、装置100(例えば、データ圧縮モジュール140)は段階S1312と段階S1314で取得したnとmに基づいて、n-mをビットシフト深度(bit shift depth)kと設定することができる。
【0105】
段階S1320において、装置100(例えば、データ圧縮モジュール140)は第1画素データCと第2画素データCのうちより大きい値を有する画素データが閾値thCxをkだけ左側にビットシフトした値(または、第3閾値=thCx<<k)未満であるか否かを判断することができる。
【0106】
段階S1322において、装置100(例えば、データ圧縮モジュール140)はC及びCのうちより大きい画素データが第3閾値(thCx<<k)以上であると判断したことに応答して、第1画素データC及び第2画素データCからそれぞれ指定された値を減算することができる。例えば、C及びCからそれぞれCとCのうちより大きい値から第2閾値thCxを差し引いて1を足した値(例えば、Max(C、C)-thCx+1)を減算することができる。
【0107】
段階S1324において、装置100(例えば、データ圧縮モジュール140)はCとCのうちより大きい画素データが第3閾値(thCx<<k)未満であると判断したことに応答して、CとCをそれぞれkだけ右側にビットシフトすることができる。または、装置100は段階S1322で指定された値が減算されたCとCをそれぞれkだけ右側にビットシフトすることができる。
【0108】
段階S1326において、装置100(例えば、データ圧縮モジュール140)はS1324で取得したCとCの最上位ビットから指定された数のビットを省略して第1圧縮されたデータ及び第2圧縮されたデータを取得することができる。
【0109】
段階S1328~S1334は段階S1320~S1326で説明した内容をそれぞれ適用することができる。以下の数式7を参照すると、図13で説明した段階に応じてC、C、C、Cでそれぞれ特定の値を減算し、2の二乗数で分けても位相差φは同じ値を有することができる。従って、装置100は位相差φを同様に求めることができ、且つデータの容量を減少させるために図13に示す段階を行うることができる。
【0110】
【数7】
【0111】
第2方法によると、装置100は各検出ノード(例えば、161、162、171、172)から取得した画素データ(例えば、C、C、C、C)に関する情報を保持しながらも、各画素データに比べて縮小された容量の圧縮されたデータセットを取得することができる。
【0112】
図14図17では、装置100の周辺状況に応じて装置100が図13の段階を行って画素データを圧縮する具体的な例を説明する。図14図17における第1状況~第4状況は図9図12で説明した第1状況~第4状況に対応することができる。
【0113】
図14は本発明の実施例の第2方法に従って第1状況で取得した圧縮されたデータセットの例を説明するための図である。
【0114】
装置100(例えば、データ圧縮モジュール140)は第1差分データDM0d及び第2差分データDM90dのうちより大きい値を有する第1差分データDM0dが第2閾値thCx(例えば、0×100000)未満であると判断したことに応答して、第1画素データC、第2画素データC、第3画素データC、及び第4画素データCからそれぞれ最上位ビットを含む上記第3個数のビットを省略することができる。このとき、C、C、C、及びCはすべて第2閾値thCx未満であるため、C、C、C、及びCから特定値を減算しなくてもよい。
【0115】
図14を参照すると、装置100は第1画素データCから最上位ビットから0を有する3桁のコードを省略して第1圧縮されたデータC’を取得し、第2画素データCから最上位ビットから0を有する3桁のコードを省略して第2圧縮されたデータC’を取得し、第3画素データCから最上位ビットから0を有する3桁のコードを省略して第3圧縮されたデータC’を取得し、第4画素データCから最上位ビットから0を有する3桁のコードを省略して第4圧縮されたデータC’を取得することができる。
【0116】
図15は本発明の実施例の第2方法に従って第2状況で取得した圧縮されたデータセットの例を説明するための図である。
【0117】
装置100(例えば、データ圧縮モジュール140)は第1差分データDM0d及び第2差分データDM90dのうちより大きい値を有する第1差分データDM0dが第2閾値thCx(例えば、0×100000)未満であると判断したことに応答して、第1画素データC、第2画素データC、第3画素データC、及び第4画素データCからそれぞれ最上位ビットを含む上記第3個数のビットを省略することができる。
【0118】
このとき、図14の場合と異なり、図15の場合は、C、C、C、及びCが第2閾値thCx未満になるようにC、C、C、及びCから特定値を減算することができる。例えば、図13の段階S1322及びS1330で説明した値をC、C、C、及びCからそれぞれ減算することができる。
【0119】
図15を参照すると、装置100は指定された値を減算した第1画素データCから最上位ビットから0を有する3桁のコードを省略して第1圧縮されたデータC’を取得し、指定された値を減算した第2画素データCから最上位ビットから0を有する3桁のコードを省略して第2圧縮されたデータC’を取得し、指定された値を減算した第3画素データCから最上位ビットから0を有する3桁のコードを省略して第3圧縮されたデータC’を取得し、指定された値を減算した第4画素データCから最上位ビットから0を有する3桁のコードを省略して第4圧縮されたデータC’を取得することができる。
【0120】
図14及び図15を比較すると、図14ではC’+C’の最下位ビットから5番目のビットが0であり、図15ではC’+C’の最下位ビットから5番目のビットが0ではなくてもよい。第1状況に比べて第2状況は周辺光が存在する状況であるため、図14図15ではC’+C’の差が生じ得る。
【0121】
図16は本発明の実施例の第2方法に従って第3状況で取得した圧縮されたデータセットの例を説明するための図である。
【0122】
装置100(例えば、データ圧縮モジュール140)は第1差分データDM0d及び第2差分データDM90dのうちより大きい値を有する第1差分データDM0dが第2閾値thCx(例えば、0×100000)以上であると判断したことに応答して、第1画素データC、第2画素データC、第3画素データC、及び第4画素データCからそれぞれ第3個数のビットを省略して各画素データの最上位ビットを含む第1圧縮されたデータC’、第2圧縮されたデータC’、第3圧縮されたデータC’、及び第4圧縮されたデータC’を取得することができる。
【0123】
このとき、装置100(例えば、データ圧縮モジュール140)は第1画素データCまたは第2画素データCのうち少なくとも1つの画素データが第3閾値(thCx<<k)以上であることに応答して、第1画素データC及び第2画素データCからそれぞれ指定された値を減算し、上記減算された第1画素データC及び上記減算された第2画素データCに基づいて、第1圧縮されたデータC’及び第2圧縮されたデータC’を取得することができる。さらに、装置100(例えば、データ圧縮モジュール140)は第3画素データCまたは第4画素データCのうち少なくとも1つの画素データが第3閾値(thCx<<k)以上であることに応答して、第3画素データC及び第4画素データCからそれぞれ上記指定された値を減算し、上記減算された第3画素データC及び上記減算された第4画素データCに基づいて第3圧縮されたデータC’及び第4圧縮されたデータC’を取得することができる。
【0124】
即ち、装置100は画素データを右側にkだけビットシフトした後、最上位ビットから0を有する3桁のコードを省略するため、結果的に差分データの最下位ビットから3桁のコードが省略されることができる。
【0125】
図17は本発明の実施例の第2方法に従って第4状況で取得した圧縮されたデータセットの例を説明するための図である。
【0126】
装置100(例えば、データ圧縮モジュール140)は第1差分データDM0d及び第2差分データDM90dのうちより大きい値を有する第1差分データDM0dが第2閾値thCx(例えば、0×100000)以上であると判断したことに応答して、第1画素データC、第2画素データC、第3画素データC、及び第4画素データCからそれぞれ第3個数のビットを省略して各画素データの最上位ビットを含む第1圧縮されたデータC’、第2圧縮されたデータC’、第3圧縮されたデータC’、及び第4圧縮されたデータC’を取得することができる。
【0127】
このとき、装置100(例えば、データ圧縮モジュール140)は第1画素データCまたは第2画素データCのうち少なくとも1つの画素データが第3閾値(thCx<<k)以上であることに応答して、第1画素データC及び第2画素データCからそれぞれ指定された値を減算し、上記減算された第1画素データC及び上記減算された第2画素データCに基づいて、第1圧縮されたデータC’及び第2圧縮されたデータC’を取得することができる。さらに、装置100(例えば、データ圧縮モジュール140)は第3画素データCまたは第4画素データCのうち少なくとも1つの画素データが第3閾値(thCx<<k)以上であることに応答して、第3画素データC及び第4画素データCからそれぞれ上記指定された値を減算し、上記減算された第3画素データC及び上記減算された第4画素データCに基づいて第3圧縮されたデータC’及び第4圧縮されたデータC’を取得することができる。
【0128】
即ち、装置100は画素データを右側にkだけビットシフトした後、最上位ビットから0を有する3桁のコードを省略するため、結果的に差分データの最下位ビットから3桁のコードが省略されることができる。
【0129】
図16及び図17を比較すると、図16ではC’+C’の最上位ビットが0であり、図17ではC’+C’の最上位ビットが0ではなくてもよい。第3状況に比べて第4状況は周辺光が存在する状況であるため、図16図17ではC’+C’の差が生じ得る。
【0130】
図18は本発明の様々な実施例による装置のハードウェア構成を説明するための図である。
【0131】
装置100はイメージセンサ(TOFセンサ)1811、1821、1831に含まれた画素アレイ130を介して画素データを取得することができる。装置100はデータ圧縮モジュール1812、1822、1832(例えば、図1のデータ圧縮モジュール140)を介して上記画素データに基づいて圧縮されたデータを生成することができ、上記生成された圧縮されたデータをフレームメモリ1813、1823に保存することができる。このとき、装置100は様々な位置に配置されたデータ圧縮モジュール1812、1822、1832を含んでもよい。
【0132】
例えば、参照番号1810のように、データ圧縮モジュール1812はイメージセンサ1811の外部に配置されてもよい。データ圧縮モジュール1812がシリアルインターフェース1814の後端に配置された場合、データ圧縮モジュール1812でデータが圧縮されることにより、フレームメモリ1813の保存空間を節約することができる。
【0133】
他の例として、参照番号1820のように、データ圧縮モジュール1822はイメージセンサ1821の内部に配置されてもよい。データ圧縮モジュール1822がシリアルインターフェース1824の前端に配置された場合、データ圧縮モジュール1822でデータが圧縮されることにより、シリアルインターフェース1824の帯域幅(bandwidth)及びフレームメモリ1823の保存空間のサイズを節約することができる。
【0134】
さらに他の例として、参照番号1830のように、データ圧縮モジュール1832とメモリ1835がイメージセンサの内部に配置されてもよい。イメージセンサの内部に配置されたメモリ1835はオンセンサメモリ(on-sensor memory)と称することもできる。イメージセンサ1831の内部でデータ圧縮モジュール1832によってデータが圧縮される場合、上記オンセンサメモリ1835の保存空間を節約することができる。
【0135】
図19は本発明の様々な実施例に従ってフレームごとに単位画素に印加される変調電圧の位相を説明するための図である。
【0136】
参照番号1910を参照すると、装置100は、第1単位画素160の第1制御ノード163には指定された位相を有する第1変調電圧を印加し、第2単位画素170の第3制御ノード173には指定された位相と90度の位相差を有する第3変調電圧を印加することができる。参照番号1910において、装置100は、第1画像フレーム1911を介して取得した画素データにより外部物体1の深度を識別することができる。参照番号1910のような方式を利用する場合、装置100は、画素データまたは差分データを一時的に保存しなくても外部物体1の深度を即座(on the fly)で演算することができる。
【0137】
参照番号1920を参照すると、装置100は、第1画像フレーム1921において、第1単位画素160の第1制御ノード163には指定された位相を有する第1変調電圧を印加し、第2単位画素170の第3制御ノード173には指定された位相と90度の位相差を有する第3変調電圧を印加することができる。また、装置100は、第2画像フレーム1922において、第1単位画素160の第1制御ノード163には指定された位相と180度の位相差を有する第5変調電圧を印加し、第2単位画素170の第3制御ノード173には指定された位相と270度の位相差を有する第7変調電圧を印加することができる。参照番号1920において、装置100は、2つの画像フレーム、即ち、第1画像フレーム1921と第2画像フレーム1922を介して取得した画素データに基づいて外部物体1の深度を識別することができる。参照番号1920のような方式を利用する場合、装置100は単位画素内の2つの検出ノードを制御または駆動するときに生じる誤差によるエラーを減少させることができる。
【0138】
参照番号1930を参照すると、装置100は、第1画像フレーム1931において、第1単位画素160の第1制御ノード163には指定された位相を有する第1変調電圧を印加し、第2単位画素170の第3制御ノード173には指定された位相と90度の位相差を有する第3変調電圧を印加することができる。また、装置100は、第2画像フレーム1932において、第1単位画素160の第1制御ノード163には指定された位相と180度の位相差を有する変調電圧を印加し、第2単位画素170の第3制御ノード173には指定された位相と270度の位相差を有する変調電圧を印加することができる。また、装置100は、第3画像フレーム1933において、第1単位画素160の第1制御ノード163には指定された位相と90度の位相差を有する変調電圧を印加し、第2単位画素170の第3制御ノード173には指定された位相を有する変調電圧を印加することができる。また、装置100は、第4画像フレーム1934において、第1単位画素160の第1制御ノード163には指定された位相と270度の位相差を有する変調電圧を印加し、第2単位画素170の第3制御ノード173には指定された位相と180度の位相差を有する変調電圧を印加することができる。参照番号1930において、装置100は、4つの画像フレーム、即ち、第1画像フレーム1931、第2画像フレーム1932、第3画像フレーム1933、及び第4画像フレーム1934を介して取得した画素データに基づいて外部物体1の深度を識別することもできる。参照番号1930のような方式を利用する場合、装置100は検出ノード間の制御誤差または駆動誤差によるエラーをさらに減少させることができ、外部物体1の深度を識別する精度が向上することができる。
【符号の説明】
【0139】
1 外部物体
100 装置
110 光源
121 タイミングコントローラ
122 制御回路
123 リードアウト回路
130 画素アレイ
140 データ圧縮モジュール
150 距離測定モジュール
160 第1単位画素
161 第1検出ノード
162 第2検出ノード
163 第1制御ノード
164 第2制御ノード
165 フォトダイオード
170 第2単位画素
171 第3検出ノード
172 第4検出ノード
173 第3制御ノード
174 第4制御ノード
175 フォトダイオード
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19