IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ セレピクセル テクノロジー カンパニー リミテッドの特許一覧

特許6992238画素収集回路、オプティカルフローセンサー、オプティカルフロー及び画像情報収集システム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2021-12-13
(45)【発行日】2022-01-13
(54)【発明の名称】画素収集回路、オプティカルフローセンサー、オプティカルフロー及び画像情報収集システム
(51)【国際特許分類】
   H04N 5/374 20110101AFI20220105BHJP
   H04N 5/232 20060101ALI20220105BHJP
   H04N 5/225 20060101ALI20220105BHJP
   H04N 5/3745 20110101ALI20220105BHJP
【FI】
H04N5/374
H04N5/232 290
H04N5/225 300
H04N5/3745
【請求項の数】 10
(21)【出願番号】P 2021500323
(86)(22)【出願日】2018-05-24
(65)【公表番号】
(43)【公表日】2021-07-08
(86)【国際出願番号】 CN2018088261
(87)【国際公開番号】W WO2019178939
(87)【国際公開日】2019-09-26
【審査請求日】2020-10-01
(31)【優先権主張番号】201810247041.9
(32)【優先日】2018-03-23
(33)【優先権主張国・地域又は機関】CN
(73)【特許権者】
【識別番号】520363281
【氏名又は名称】オムニビジョン センサー ソリューション (シャンハイ) カンパニー リミテッド
(74)【代理人】
【識別番号】110000877
【氏名又は名称】龍華国際特許業務法人
(72)【発明者】
【氏名】チェン、ショウシュン
【審査官】橘 高志
(56)【参考文献】
【文献】米国特許出願公開第2013/0126703(US,A1)
【文献】特表2017-535999(JP,A)
【文献】特表2016-533140(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/374
H04N 5/232
H04N 5/225
H04N 5/3745
(57)【特許請求の範囲】
【請求項1】
照射される光信号の強度を表す第1電信号をリアルタイムに出力する光電検出ユニットと、
第1入力端子が前記光電検出ユニットの出力端子にカップリングされ、第2入力端子がオプティカルフロー情報リセット線にカップリングされ、前記オプティカルフロー情報リセット線からのリセット信号がキャンセルされたとともに前記第1電信号が所定のトリガー条件を満たすと検出すると、オプティカルフロー情報計時トリガー信号を出力するオプティカルフロー情報計時トリガーユニットと、
第1入力端子が前記オプティカルフロー情報計時トリガーユニットにカップリングされ、第2入力端子が前記オプティカルフロー情報リセット線にカップリングされ、前記オプティカルフロー情報リセット線からのリセット信号がキャンセルされたとともに前記オプティカルフロー情報計時トリガー信号を受信すると、計時スタート信号を出力するオプティカルフロー情報計時制御ユニットと、
第1入力端子が前記オプティカルフロー情報計時制御ユニットにカップリングされ、第2入力端子が前記オプティカルフロー情報リセット線にカップリングされ、前記オプティカルフロー情報リセット線からのリセット信号がキャンセルされたとともに前記計時スタート信号を受信すると、計時を開始し、計時信号を生成するオプティカルフロー情報計時ユニットと、
第1入力端子が前記オプティカルフロー情報計時ユニットにカップリングされ、第2入力端子がオプティカルフロー出力行選択線にカップリングされ、前記オプティカルフロー出力行選択線からのオプティカルフロー行選択信号を受信し、前記オプティカルフロー行選択信号が有効な場合、今回の受信時刻における計時信号をキャッシュして出力する行選択出力ユニットと、
を備える画素収集回路。
【請求項2】
第1入力端子が前記光電検出ユニットの出力端子にカップリングされ、第2入力端子が画像情報収集ラインにカップリングされ、前記画像情報収集ラインからの画像情報収集信号を受信し、今回の受信時刻における第1電信号をサンプリングしてキャッシュする画像情報収集ユニットをさらに備え、
前記行選択出力ユニットは、第3入力端子が前記画像情報収集ユニットにカップリングされ、第4入力端子が画像出力行選択線にカップリングされ、前記画像出力行選択線からの画像行選択信号を受信し、前記画像行選択信号が有効な場合、今回の受信時刻における第1電信号をキャッシュして出力する請求項1に記載の画素収集回路。
【請求項3】
前記画像情報収集ユニットは、受信した前記画像情報収集信号が有効な場合、今回の受信時刻における第1電信号をサンプリングし、受信した前記画像情報収集信号が無効な場合、サンプリングされた第1電信号をキャッシュする請求項2に記載の画素収集回路。
【請求項4】
前記オプティカルフロー情報計時トリガーユニットは、
前記第1電信号に対して増幅操作及びフィルタ操作のうちの少なくとも1つを含む前処理操作を行って、第2電信号を生成するフィルタ増幅モジュールと、
第2電信号が第1閾値よりも大きい及び/又は第2閾値よりも小さいか否かを判断し、第2電信号が第1閾値よりも大きい又は第2閾値よりも小さいと、前記オプティカルフロー情報計時トリガー信号を生成する閾値比較モジュールと、を備える請求項3に記載の画素収集回路。
【請求項5】
前記オプティカルフロー情報計時制御ユニットは、
リセット信号が有効な場合にはリセットされ、前記オプティカルフロー情報計時トリガー信号を初回受信した場合にはセットされるラッチと、
ラッチがセットされる場合には前記計時スタート信号を生成するパルス整形器と、を備える請求項4に記載の画素収集回路。
【請求項6】
前記光電検出ユニットは、
アノードが接地されるフォトダイオード(PD)と、
ソースがフォトダイオード(PD)のカソードに接続され、ドレイン及びゲートが電源(VDD)に接続される第1トランジスタ(T)と、を備える請求項1から5のいずれか一項に記載の画素収集回路。
【請求項7】
前記光電検出ユニットは、
アノードが接地されるフォトダイオード(PD)と、
ソースがフォトダイオード(PD)のカソードに接続され、ドレインが電源(VDD)に接続される第1トランジスタ(T)と、
フォトダイオード(PD)のカソードと第1トランジスタ(T)のゲートとの間に接続される第1増幅器(A)と、を備える請求項1から5のいずれか一項に記載の画素収集回路。
【請求項8】
請求項1から7のいずれか一項に記載の画素収集回路を複数備える画素収集回路アレイと、
画素収集回路アレイ中の少なくとも一部の画素収集回路が出力した計時信号を読み取るオプティカルフロー情報読み出しユニットと、
リセット信号を生成し、オプティカルフロー情報リセット線を介して画素収集回路アレイ中の各画素収集回路に出力するグローバル制御ユニットと、
を備えるオプティカルフローセンサー。
【請求項9】
画素収集回路アレイ中の少なくとも一部の画素収集回路が出力した第1電信号を読み取る画像情報読み出しユニットをさらに備え、
前記グローバル制御ユニットはさらに、画像情報収集信号を生成し、画像情報収集ラインを介して画素収集回路アレイ中の各画素収集回路に出力する請求項8に記載のオプティカルフローセンサー。
【請求項10】
請求項9に記載のオプティカルフローセンサーと、
前記オプティカルフローセンサーの前記オプティカルフロー情報読み出しユニットにカップリングされ、計時信号を取得し、オプティカルフロートリガー画素点の時間マッピング画像を生成するオプティカルフロープリプロセッサと、
前記オプティカルフローセンサーの前記画像情報読み出しユニットにカップリングされ、第1電信号を取得し、全画素点のグレー画像を生成する画像プリプロセッサと、を備えるオプティカルフロー及び画像情報収集システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像収集の技術分野に関し、特に画素収集回路、オプティカルフローセンサー、オプティカルフロー及び画像情報収集システムに関する。
【背景技術】
【0002】
情報技術の継続的な発展に伴い、コンピュータビジョン及び画像情報処理はますます重要となっている。その中で、オプティカルフロー法は画像情報に基づいて対象物の運動状態を決定することができる。オプティカルフロー法は軍用航空宇宙、交通監視、情報科学、気象学や医学等の様々な分野に適用できる。
【0003】
オプティカルフローの概念は、1950年にGibsonによって最初に提案された。現実の物体はカメラの感光素子によってイメージング可能であり、且つ形成された画像中の点が物体の点に一対一対応している。三次元空間の対象物及びシーンを二次元画像平面の運動に対応付けると、二次元画像平面における対象物の投影が運動を形成し、画像平面の輝度モードで表現されるこの運動の流れをオプティカルフローと呼ぶ。
【0004】
現在、オプティカルフローアルゴリズムは通常複雑で、且つ計算量が膨大である。オプティカルフロー計算を行うために、フロントエンド画像収集機器が高フレームレートで画像収集を行い、その後、後続の画像処理機器が高計算量のオプティカルフロー分析を行う必要がある。
【0005】
従来のオプティカルフローセンサーはアクティブ画素センサー及び独立した画像情報プロセッサを集積してオプティカルフロー計算を実現する。従来のオプティカルフロー計算方法は多くの場合、時間領域における複数フレームの画像を計算して運動物体の運動情報を得る。高速運動物体に対するリアルタイムオプティカルフロー分析を取得するために、アクティブ画素センサーは非常に高いフレームレートで動作する必要があり、その結果、オプティカルフロー計算量が増え、リアエンド情報プロセッサのハードウェア要件が高まってしまう。
【0006】
従って、本発明は新たなオプティカルフロー及び画像情報の収集方案を提案している。
【発明の概要】
【発明が解決しようとする課題】
【0007】
本発明は新たなオプティカルフロー収集の技術案を提供し、上記少なくとも1つの課題を効果的に解決する。
【課題を解決するための手段】
【0008】
本発明の一態様によれば、画素収集回路を提供し、照射される光信号の強度を表す第1電信号をリアルタイムに出力する光電検出ユニットと、第1入力端子が光電検出ユニットの出力端子にカップリングされ、第2入力端子がオプティカルフロー情報リセット線にカップリングされ、オプティカルフロー情報リセット線からのリセット信号がキャンセルされたとともに第1電信号が所定のトリガー条件を満たすと検出すると、オプティカルフロー情報計時トリガー信号を出力するオプティカルフロー情報計時トリガーユニットと、第1入力端子がオプティカルフロー情報計時トリガーユニットにカップリングされ、第2入力端子がオプティカルフロー情報リセット線にカップリングされ、オプティカルフロー情報リセット線からのリセット信号がキャンセルされたとともにオプティカルフロー情報計時トリガー信号を受信すると、計時スタート信号を出力するオプティカルフロー情報計時制御ユニットと、第1入力端子がオプティカルフロー情報計時制御ユニットにカップリングされ、第2入力端子がオプティカルフロー情報リセット線にカップリングされ、オプティカルフロー情報リセット線からのリセット信号がキャンセルされたとともに計時スタート信号を受信すると、計時を開始し、計時信号を生成するオプティカルフロー情報計時ユニットと、第1入力端子がオプティカルフロー情報計時ユニットにカップリングされ、第2入力端子がオプティカルフロー出力行選択線にカップリングされ、オプティカルフロー出力行選択線からのオプティカルフロー行選択信号を受信し、前記オプティカルフロー行選択信号が有効な場合、今回の受信時刻における計時信号をキャッシュして出力する行選択出力ユニットと、を備える。
【0009】
本発明に係る画素収集回路では、第1入力端子が光電検出ユニットの出力端子にカップリングされ、第2入力端子が画像情報収集ラインにカップリングされ、画像情報収集ラインからの画像情報収集信号を受信し、今回の受信時刻における第1電信号をサンプリングしてキャッシュする画像情報収集ユニットをさらに備え、行選択出力ユニットは第3入力端子が画像情報収集ユニットにカップリングされ、第4入力端子が画像出力行選択線にカップリングされ、画像出力行選択線からの画像行選択信号を受信し、画像行選択信号が有効な場合、今回の受信時刻における第1電信号をキャッシュして出力するようにしてもよい。
【0010】
本発明の別の態様によれば、オプティカルフローセンサーを提供し、複数の上記画素収集回路を備える画素収集回路アレイと、画素収集回路アレイ中の少なくとも一部の画素収集回路によって出力される計時信号を読み取るオプティカルフロー情報読み出しユニットと、リセット信号を生成し、オプティカルフロー情報リセット線を介して画素収集回路アレイ中の各画素収集回路に出力するグローバル制御ユニットと、を備える。
【0011】
本発明に係るオプティカルフローセンサーでは、画素収集回路アレイ中の少なくとも一部の画素収集回路によって出力される第1電信号を読み取る画像情報読み出しユニットをさらに備え、グローバル制御ユニットはさらに画像情報収集信号を生成し、画像情報収集ラインを介して画素収集回路アレイ中の各画素収集回路に出力するようにしてもよい。
【0012】
本発明のさらに別の態様によれば、オプティカルフロー及び画像情報収集システムを提供し、上記オプティカルフローセンサーと、オプティカルフローセンサー中のオプティカルフロー情報読み出しユニットにカップリングされ、計時信号を取得し、オプティカルフロートリガー画素点の時間マッピング画像を生成するオプティカルフロープリプロセッサと、オプティカルフローセンサー中の画像情報読み出しユニットにカップリングされ、第1電信号を取得し、全画素点のグレー画像を生成する画像プリプロセッサと、を備える。
【発明の効果】
【0013】
以上のように、本発明に係るオプティカルフローセンサーは運動オプティカルフロー情報を効果的に抽出する方案を提供し、該方案によって様々な速度の運動物体に対してオプティカルフロー情報を効果的に抽出することができるとともに、画像情報を収集して、明確で遅延がないフルグレー画像を取得し、抽出されたオプティカルフロー情報に対して背景情報を提供することができる。一実施形態によれば、オプティカルフローセンサーはオプティカルフローフレーム及び画像フレーム情報を並行して個別に出力する。このようにして、本発明に係るオプティカルフロー及び画像情報収集システムによれば、オプティカルフロー及び画像情報を相互に干渉することなく完全に並行して取得でき、且つオプティカルフロー情報及び画像情報の取得及び読み出し速度が異なる要求に応じて調整できる。
【図面の簡単な説明】
【0014】
上記及び関連目的を実現するために、本明細書では、以下の説明及び図面を参照しながらいくつかの例示的な態様を説明し、これらの態様は本明細書に開示されている原理を実施できる様々な形態を示し、且つすべての態様及びその同等態様は請求された主題の範囲に属する。図面を参照しながら以下の詳細説明を読むことにより、本開示の上記及びほかの目的、特徴及び利点がさらに明らかになる。本開示を通して、同一符号は通常、同一部材又は要素を示す。
【0015】
図1図1は本発明のいくつかの実施例に係るオプティカルフロー及び画像情報収集システム100の模式図を示す。
図2A】本発明のいくつかの実施例に係るオプティカルフローセンサー110の動作方式の模式図を示す。
図2B】本発明のいくつかの実施例に係るオプティカルフローセンサー110の動作方式の模式図を示す。
図2C】本発明のいくつかの実施例に係るオプティカルフローセンサー110の動作方式の模式図を示す。
図2D】本発明のいくつかの実施例に係るオプティカルフローセンサー110の動作方式の模式図を示す。
図3A】本発明の実施例に係るオプティカルフローセンサー110のオプティカルフロー情報抽出の模式図を示す。
図3B】本発明の実施例に係るオプティカルフローセンサー110のオプティカルフロー情報抽出の模式図を示す。
図3C】本発明の実施例に係るオプティカルフローセンサー110のオプティカルフロー情報抽出の模式図を示す。
図3D】本発明の実施例に係るオプティカルフローセンサー110のオプティカルフロー情報抽出の模式図を示す。
図3E】本発明の実施例に係るオプティカルフローセンサー110のオプティカルフロー情報抽出の模式図を示す。
図3F】本発明の実施例に係るオプティカルフローセンサー110のオプティカルフロー情報抽出の模式図を示す。
図4図4は本発明のいくつかの実施例に係る画素収集回路400の模式図を示す。
図5A】本発明の実施例に係る光電検出ユニット410の模式図を示す。
図5B】本発明の実施例に係る光電検出ユニット410の模式図を示す。
図5C】本発明の実施例に係る光電検出ユニット410の模式図を示す。
図5D】本発明の実施例に係る光電検出ユニット410の模式図を示す。
図6A】本発明の実施例に係るフィルタ増幅モジュールの模式図を示す。
図6B】本発明の実施例に係るフィルタ増幅モジュールの模式図を示す。
図6C】本発明の実施例に係るフィルタ増幅モジュールの模式図を示す。
図6D】本発明の実施例に係るフィルタ増幅モジュールの模式図を示す。
図7A】本発明の一実施例に係る閾値比較モジュールの模式図を示す。
図7B】本発明の一実施例に係る閾値比較モジュールの模式図を示す。
図7C】本発明の一実施例に係る閾値比較モジュールの模式図を示す。
図7D】本発明の一実施例に係る閾値比較モジュールの模式図を示す。
図8A】本発明の一実施例に係るオプティカルフロー情報計時ユニットの模式図を示す。
図8B】本発明の一実施例に係るオプティカルフロー情報計時ユニットの模式図を示す。
図9図9は本発明の一実施例に係る画素収集回路900の模式図を示す。
図10図10は本発明のいくつかの実施例に係るオプティカルフローセンサー110の模式図を示す。
【発明を実施するための形態】
【0016】
以下、図面を参照しながら本開示の例示的な実施例をさらに詳細に説明する。図面には本開示の例示的な実施例が示されているが、ここで説明される実施例に限定されることなく、様々な形態で本開示を実施できると理解すべきである。その反面、これらの実施例は本開示をよりよく理解でき、且つ本開示の範囲を当業者に完全に伝えることができるために提供されている。
【0017】
図1は本発明のいくつかの実施例に係るオプティカルフロー及び画像情報収集システム100の模式図を示す。図1に示すように、オプティカルフロー及び画像情報収集システム100はオプティカルフローセンサー110、画像プリプロセッサ120及びオプティカルフロープリプロセッサ130を備える。オプティカルフローセンサー110は、複数の画素収集回路(すなわち、画素ユニット)から構成される画素収集回路アレイ111、画像情報読み出しユニット112、オプティカルフロー情報読み出しユニット113及びグローバル制御ユニット114を備える。アレイ111中の各画素収集回路はバスを介して画像情報読み出しユニット112、オプティカルフロー情報読み出しユニット113及びグローバル制御ユニット114にカップリングされる。画素収集回路アレイ111は通常、複数行の画素収集回路を備え、各行はさらに1つ又は複数の画素収集回路を備え、図1には3*2計6個の画素収集回路が示されているが、これに限定されない。グローバル制御ユニット114は画像取得ユニット1142及びオプティカルフロー取得ユニット1144を備え、それらによってグローバルな画像情報収集信号及びリセット信号をそれぞれ生成して、画素収集回路アレイ111全体を制御する。具体的には、アレイ111中の画素収集回路はグローバル制御ユニット114によって供給されたグローバル制御信号の作用下で、画像情報及びオプティカルフロー情報を同時に収集することができる。画像情報は視野内でアレイ111によって感知される照明強度の大きさを反映し、オプティカルフロー情報は視野内の運動の時空間情報を反映し、これら2種の情報は相互に独立した画像情報読み出しユニット112及びオプティカルフロー情報読み出しユニット113の制御下で、それぞれ画像プリプロセッサ120及びオプティカルフロープリプロセッサ130に送信される。
【0018】
一実施形態では、オプティカルフロー情報の収集について、現実世界の運動はセンサーの視野内において感知される光強度変化として反映され、アレイ111は視野内の光強度の変化(例えば、照度変化量や変化速度等)をリアルタイムに同期監視することができる。具体的には、アレイ111中の各画素収集回路は照射される光強度情報をリアルタイムに監視する。1つの画素収集回路は光強度情報の変化が所定の条件を満たす(例えば、照度変化量及び変化速度がいずれもそれぞれの閾値を超える)と決定すると、オプティカルフロートリガー状態に入り、条件を満たさないと、もとの状態を維持する。オプティカルフロートリガー状態に入った画素収集回路は即刻に内部のオプティカルフロー情報計時ユニットをスタートし、該ユニットは画素収集回路の内部でタイマーの機能を実現し、該タイマーは画素収集回路がオプティカルフロートリガーされた後にスタートされ、時間情報を表すために、時間とともに単調に変化する計時信号を生成し、その後、オプティカルフロープリプロセッサ130はオプティカルフロー情報読み出しユニット113によって画素アレイ111中のすべての画素収集回路の計時信号の(読み出される時刻における)過渡振幅を読み取り、二次元の時間マッピング画像(オプティカルフローフレーム)を得ることができ、各画素点の計時信号は、該読み出し時刻において該画素収集回路がオプティカルフロートリガーされたか否か(該信号が有効計時信号であるか否かを検出する)及びトリガーされてからの経過時間(該有効計時信号の振幅の大きさを検出する)を知らせる。オプティカルフローフレームがオプティカルフロートリガー画素ユニットによって出力されるオプティカルフロー計時情報を十分に取得した場合、画素アレイ平面におけるオプティカルフローフレームのマッピングは1つの二次元の時間スロープ平面として表現され、該時間スロープ平面をさらに分析することによって、視野内の運動の方向及び速度の情報を抽出でき、それによってオプティカルフローの計算を実現する。オプティカルフロー情報計時ユニットはランプ信号発生器であり、1回のオプティカルフロー情報検出プロセスには1回のみスタートし、ローカルで時間とともに直線的に変化する1つのランプ信号を生成する。
【0019】
一実施形態では、画像情報の収集について、グローバル制御ユニット114は(グローバル)画像情報収集信号を出し、該信号はアレイ111中のすべての画素収集回路の画像情報収集ユニットを、該時刻における光強度に関連する第1電信号を同時に収集してキャッシュするように制御する。後続の読み出しプロセスでは、各画素収集回路によってキャッシュされた第1電信号を取得するだけで、画像全体の光強度情報(画像フレーム)を取得できる。
【0020】
なお、オプティカルフローセンサー110によるオプティカルフロー及び画像の2種の情報の取得が完全に独立して行われるため、これら2種の情報を並行して出力することができる。まず、アレイ111中の画素収集回路は独立した画像情報収集ユニット及びオプティカルフロー情報計時ユニットによってオプティカルフロー及び画像情報を同時に収集でき、また、これら2種の情報はそれぞれの読み出しユニットの制御で、独立したデータバスを介してそれぞれのプリプロセッサに読み込まれる。このように、オプティカルフローセンサー110は相互に干渉することなくオプティカルフロー及び画像情報を完全に並行して出力することができ、オプティカルフロー情報及び画像情報の取得及び読み出し速度は異なる要求に応じて調整できる。
【0021】
以上の説明によれば、オプティカルフローセンサー110はオプティカルフロー情報及び画像情報を並行して出力することができる。オプティカルフロー情報読み出しユニット113は所定の周波数で画素収集回路アレイ111全体のオプティカルフロー情報計時ユニットの計時信号を走査し、よって連続したオプティカルフローフレームを取得する。各オプティカルフローフレームはトリガーされた画素収集回路のトリガー時刻の時間情報を含み、該時間情報を画素アレイ111の二次元空間でマッピングして形成される時間スロープの向き及び勾配情報を分析し、よって運動のオプティカルフロー情報を得る。一方、画像情報読み出しユニット112は所定の周波数で画素アレイ全体の画像情報収集ユニットによって収集された第1電信号を走査し、よって連続した画像フレームを取得する。各画像フレームは光強度に関連する1つの全画素点のグレー画像を含む。画像フレームによって取得される全画素点のグレー画像はオプティカルフロー情報をマークするための背景画像とするが、オプティカルフローフレームによって取得される時間スロープ平面はオプティカルフロー情報を簡単に抽出できる。
【0022】
以下、図2A図2B図2C及び図2Dを参照しながらオプティカルフローセンサー110の典型的な動作方式を例示的に説明する。図2A図2B図2C及び図2Dでは、斜線付きの正方形はオプティカルフローフレーム、斜線なし正方形は画像フレームを表す。オプティカルフローセンサー110はオプティカルフローフレーム及び画像フレームを並行して個別に出力し、それらのフレームレートは、図2Aに示すように、異なる応用シーンに応じて個別に設定されてもよく、図2Bに示すように、同じフレームレートに設定されてもよく、いくつかの応用では、図2C及び図2Dに示すように、連続したオプティカルフローフレーム出力のみで運動の検出を実現し、又は連続した画像フレーム出力のみで運動の検出を実現する。
【0023】
なお、本発明のオプティカルフローセンサー110の動作方式はさらに上記例以外の同等置換方式として設定されてもよいが、ここでは詳細説明を省略する。
【0024】
以下、それぞれオプティカルフローフレーム及び画像フレームをさらに説明する。
【0025】
1回のオプティカルフロー情報検出プロセスでは、運動オブジェクトがオプティカルフローセンサー110の視野を通過すると、アレイ111中の一部の画素収集回路の照明の変化を引き起こすことができる。画素収集回路は照明変化が閾値を超えると、内部の計時ユニットであるオプティカルフロー情報収集ユニットをスタートし、最も簡単なのは、ローカルでは時間とともに直線的に変化するランプ信号を生成することによって実現することであり、光強度変化がない又は光強度変化が不十分であると検出された画素収集回路の場合、その未トリガー状態を維持し、内部のオプティカルフロー情報計時ユニットがスタートされていない。それと同時に、オプティカルフロー情報読み出しユニット113はアレイ111中の各画素収集回路のオプティカルフロー情報計時ユニットの計時信号を読み取り、リアエンドのオプティカルフロープリプロセッサ130に送信し、オプティカルフロープリプロセッサ130は該計時信号に基づいてオプティカルフロートリガー画素点の時間マッピング画像を得る。例えば、行ごとにアレイ111全体を走査し、各オプティカルフロー情報収集ユニット中のランプ信号の振幅を外部のオプティカルフロープリプロセッサ130に送信する。各画素点の計時信号(ランプ振幅信号)は該読み出し時刻において該画素点がトリガーされたか否か(該信号が有効な計時信号であるか否かを検出するによって)及びトリガーされてからの経過時間(該有効計時信号の振幅を検出するによって)を知らせる。
【0026】
オプティカルフロープリプロセッサ130はさらに該振幅信号に対して増幅、アナログデジタル変換処理及び符号化操作を行い、ランプ信号の振幅から対応する時間情報を取得する。1回のオプティカルフロー情報検出プロセスでは、アレイ111中の画素収集回路は閾値を超える光強度変化が初回検出される場合のみに、トリガーされ、且つオプティカルフロー情報計時ユニットを1回スタートし、すべての画素アレイ111のオプティカルフロー情報計時ユニットを走査して、該走査時刻までのすべてのトリガーされた画素ユニットの空間及びトリガー時刻の時間情報を含む1つのオプティカルフローフレームを取得することができる。第1個のオプティカルフローフレームの出力が1回のオプティカルフロー情報検出の初期時刻に行われるため、第1個のオプティカルフローフレームによって取得される有効画素ユニットの数が少なく(疎らな有効画素ユニットではオプティカルフローフレームで有効な時間スロープ平面を形成することができないため、運動オプティカルフローの分析を実現できない)。オプティカルフロー情報の読み出しが画素収集回路の正常動作に影響を与えることがないため、オプティカルフローフレームが読み出され続けるに伴い、ますます多くの画素収集回路は視野運動に起因する光強度変化が検出されることによってオプティカルフロートリガー状態に入り、内部のオプティカルフロー情報計時ユニットをスタートする。オプティカルフローフレームを出力し続けることによって、現在のフレーム読み出し時刻まで累積されたすべてのスタートされたオプティカルフロー情報計時ユニットの時間情報を取得できる。これらの時間情報(オプティカルフローフレームの連続走査)を累積し続けることによって、画素アレイ111の二次元空間における投影が徐々に1つのスロープ平面(時間スロープ)を形成し、該時間スロープの勾配及び向き情報を分析することによって、有効なオプティカルフロー情報を抽出でき、それによって運動の方向及び速度の検出を実現する。ここまで、1回のオプティカルフロー情報検出の全過程が終了し、次回のオプティカルフロー情報検出を開始できる。
【0027】
一実施形態では、検出される運動の速度によって、1回のオプティカルフロー情報検出プロセスに必要な時間は異なる。高速運動の場合、相対的に短い時間内に十分なトリガー画素ユニットを累積して有効な時間スロープを形成することができ、従って、オプティカルフロー情報検出プロセスが相対的に短く、すなわち1回の運動検出に少ないオプティカルフローフレームが必要である。低速運動の場合、検出される有効運動軌跡を形成するには十分に長い時間がかかり、従って、1回の運動検出に必要な時間が長く、すなわち、複数のオプティカルフローフレームが必要である。以上のように、オプティカルフローフレームの読み出しが画素ユニットの正常動作に影響を与えることがないため、トリガーされた画素ユニットの時間情報が有効であり続け(その計時範囲を超えるまで)、従って、検出時間が十分に長い限り、有効な時間スロープを形成してオプティカルフロー分析を行うことができる。
【0028】
画像フレームの収集について、グローバル制御ユニット114は1つのグローバル画像情報収集信号を提供し、アレイ111中のすべての画素収集回路の画像収集ユニットを、光強度に関連する第1電信号をサンプリングするように制御する。画像プリプロセッサ120は、画像情報読み出しユニット112によってすべての画素収集回路の、画像情報収集信号の有効な時刻における光強度に関連する第1電信号を読み取り、該信号に対して増幅処理及びアナログデジタル変換処理を行うように配置されてもよく、出力されるデータは抽出されたオプティカルフロー情報をマーク可能な完全な背景グレー画像を作成することに用いられてもよい。画素収集アレイ111は光強度に関連する第1電信号を同期サンプリングするため、グローバルシャッターと類似するこの制御メカニズムによって、明確で遅延がない背景画像を取得できる。
【0029】
本発明のオプティカルフローセンサー110がオプティカルフロー情報をどのように抽出するかをより明確に説明するために、以下、図3A-3Fを参照しながら、オプティカルフローセンサー110のオプティカルフローフレーム出力によってオプティカルフロー情報を抽出するプロセスをさらに説明する。
【0030】
説明の便宜上、簡単なシーンを選択して説明し、図3Aに示すように、形状が規則的で材質が均一な立方体AがX方向に沿って所定の速度で運動してオプティカルフローセンサー110の視野範囲に入る。図3Aに示すように、物体Aに斜線を付けることは、物体Aの輝度が背景の輝度よりも低いことを示す。なお、該シーンは単に説明の便宜上選択され、本発明に係るオプティカルフローセンサーはさらに材質や形状が複雑な物体が複雑な運動軌跡に沿って異なる速度で運動するシーンを効果的に検出することができる。また、簡単にするために、オプティカルフローセンサー110のアレイ111は8×8個の画素収集回路のみを備え、P(x,y)は第x行第y列の画素を示す。異なる時刻において、シーンで見た画像は図3Bに示される。初期時刻(t=0)において、画素P(3,1)~P(6,2)の視野領域が物体Aによって示されて、灰色で示され、残りの画素が輝度の高い背景のみを検出し、白色で示される。物体Aの運動に伴い、それらの視野領域の物体Aの運動軌跡によってカバーされる画素ユニットがオプティカルフロートリガー状態に入り、それは、これらの画素ユニットは初期の高輝度背景から低輝度物体への光強度変化を検出したからである(残りの画素ユニットは検出された光強度が変化していないため、トリガーされていない)。以上のように、一旦トリガーされると、画素ユニット内のオプティカルフロー情報計時ユニットがスタートされてオプティカルフローフレーム読み出し時刻からの相対時間情報を報告する。運動の進化及びオプティカルフローフレームの連続出力に伴い、後続のオプティカルフローフレームはより多くのトリガー画素ユニットを検出してより完全な時間マッピング画像を形成する。該シーンでは、定量的な説明の便宜上、物体イメージングの運動速度を1ミリ秒あたり1画素とし、且つ画素ユニットが物体イメージングによって半分カバーされると、オプティカルフロートリガー状態に入ると考えられる。この場合、t=1msにおいて、物体Aのイメージングが右へ1列進み(X方向に沿って運動し且つ速度が1ミリ秒あたり1画素であるためである)、t=2msにおいて、物体Aのイメージングが右へ2列進み、時間の経過に伴い、視野中のイメージングは図3Bに示される。
【0031】
以下、まず、オプティカルフローフレーム読み出し操作がどのように画素ユニット内のオプティカルフロー情報計時ユニットの計時信号によってオプティカルフロートリガー画素ユニットのトリガー時間情報を取得するかを説明する。
【0032】
図3Cは画素ユニット内のオプティカルフロー情報計時ユニットによって生成される計時信号を示しており、なお、該計時信号は単に、説明の便宜上選択される表現方式であり、実際には、ほかの形態で同様な目的を実現してもよい。該計時信号はシングルランプ信号であり、画素ユニットトリガー時刻にスタートされ、その後、徐々に減衰し、時間とともに変化する振幅の傾きは既知で且つ調整可能である。オプティカルフロー情報読み出しユニットは画素アレイ全体のオプティカルフロー情報計時ユニットを走査し続けて、連続したオプティカルフローフレーム出力を取得し、1つのオプティカルフローフレームにおいて、該計時信号の振幅を検出することによって、該画素ユニットトリガー時刻と今回のオプティカルフローフレーム出力との相対時間情報を得ることができる。例えば、ランプ信号全体の振幅が10個の単位であり、時間とともに変化する傾きが1単位/ミリ秒である場合、あるオプティカルフローフレームにおいて、読み取った計時信号の振幅が7(図3C中のA点に示される)であると、画素ユニットが該オプティカルフローフレーム読み出し時刻まで3ミリ秒トリガーされていると判断でき、読み取った計時信号の振幅が2(図3C中のB点に示される)であると、画素ユニットが該オプティカルフローフレーム読み出し時刻まで8ミリ秒トリガーされていると判断できる。従って、各オプティカルフローフレームで読み取った画素ユニットの計時情報は実際には、各画素ユニットが該オプティカルフローフレーム読み出し時刻までトリガーされた時間を示し、該時間情報はオプティカルフロープリプロセッサが取得された各画素ユニットから出力された過渡計時信号の振幅によって算出される。画素ユニットのトリガー時刻が速いほど、読み取られる振幅が低く、トリガー時刻が遅いほど、読み取られる振幅が高く、トリガーされていない画素ユニット及び長時間トリガーされている画素ユニットの読み取られる計時信号の振幅がいずれも非常に低い、これは図3Dから明らかになる。該図はP(3,3)~P(3,8)の6個の画素ユニットによって生成される計時信号を示しており、以上説明されたシーンによれば、P(3,3)~P(3,8)の画素ユニットは順番にトリガーされ、対応するオプティカルフロー情報計時ユニットをスタートし、それぞれ生成された計時信号が時間軸上の平行運動として表現される。1st時刻におけるオプティカルフローフレーム出力について、該時刻までにP(3,3)のみがトリガーされるため、P(3,3)画素ユニットのトリガー時間情報を0.5msと取得でき、6thのオプティカルフローフレーム出力について、これらの画素ユニットがいずれもトリガーされ、これらの画素ユニットのトリガー時刻情報を取得でき、P(3,3)が最も速くトリガーされ、P(3,8)が最も遅くトリガーされるため、対応する計時信号の読み取られる振幅が昇順となり、計時信号が時間とともに変化する傾き及び該読み出し時刻における各計時信号の過渡振幅によって、P(3,3)が該読み出し時刻まで5.5msにトリガーされており、P(3,8)が該読み出し時刻まで0.5msにトリガーされたと判断できる。
【0033】
以下、続いて、これらの抽出された時間情報を説明して二次元時間スロープ平面を取得し、該時間スロープ平面を利用して有効なオプティカルフロー情報を抽出することを説明する。
【0034】
画素ユニットP(3,3)~P(6,3)は第0.5msにトリガーされ(このとき、これらの画素ユニットに対応する視野領域の半分が運動物体によってカバーされるからである)、該時刻においてそれぞれの内部のオプティカルフロー情報収集計時ユニットをスタートする。同様に、物体が運動し続けるに伴い、画素ユニットP(3,4)~P(6,4)は1.5ms時刻にトリガーされ、内部のオプティカルフロー情報収集計時ユニットをスタートする。このとき、P(3,3)~P(6,3)の画素ユニットが1msトリガーされているため、従ってそれらの計時ユニットが1ms計時している。このように分析したところ、後ろの第5~8列の画素ユニット(第3~6行)はそれぞれ第2.5~5.5msにオプティカルフロートリガー状態に入り、それぞれのオプティカルフロー情報収集計時ユニットをスタートする。別の態様では、オプティカルフローセンサーのオプティカルフロー情報読み出しユニットも画素アレイを読み取る画素ユニットの内部のオプティカルフロー情報収集計時ユニットの計時信号を連続的に走査して二次元の時間情報マッピング画像を生成する。分析の便宜上、オプティカルフローセンサー110が1msごとに1つのオプティカルフローフレームを出力すると、各オプティカルフローフレームによって形成される時間マッピング画像は図3Eに示され、図中、A~Fはそれぞれ第1~6msに読み出されるオプティカルフローフレームの時間マッピング画像を示す。第1msに出力されるオプティカルフローフレームとして、このとき、画素ユニットP(3,3)~P(6,3)のみがトリガーされているため、該フレームはこれらの画素ユニットの計時信号を0.5msと取得するしかできず、形成される時間情報マッピング画像は図3E中のAに示される。第2msのオプティカルフローフレームについて、画素ユニットP(3,4)~P(6,4)がさらに1.5msにトリガーされるため、該オプティカルフローフレームはP(3,3)~P(6,3)とP(3,4)~P(6,4)というトリガー画素ユニットを検出できる。該オプティカルフローフレームについて、検出される画素ユニットP(3,3)~P(6,3)の計時信号が1.5msであり、画素ユニットP(3,4)~P(6,4)の計時信号が0.5msであり、形成される時間情報マッピング画像は図3E中のBに示される。以下同様に、第3~6msに出力されるオプティカルフローフレームによって形成される時間マッピング画像は図3E中のC~Fに示される。該図3Eからわかるように、後続のオプティカルフローフレームは前のオプティカルフローフレームよりも多くのトリガー画素ユニットを検出するため、時間マッピング画像上でより有効な時間スロープ平面を形成することができる。高速運動の場合、運動軌跡の延伸速度が速いため、相対的に短い時間内に十分な画素ユニットを累積して、有効な時間スロープ平面を形成することができ、つまり、少ないオプティカルフローフレームだけで運動オプティカルフロー情報の検出を実現でき、低速運動の場合、運動軌跡の延伸速度が遅いため、十分な画素ユニットを累積して有効な時間スロープ平面を形成するには相対的に長い時間が必要であり、つまり、運動オプティカルフロー情報の検出を実現するには多くのオプティカルフローフレームが必要である。従って、有効な時間スロープ平面を形成するのに十分な時間がある限り、オプティカルフローセンサー110は速度が異なる運動を効果的に検出することができる。また、オプティカルフロー情報検出及び画像情報出力が完全に独立するため、オプティカルフロー情報検出と同時に、オプティカルフローセンサー110は高速で遅延のない明確な画像を出力することができる。
【0035】
一実施形態によると、オプティカルフロー情報読み出しユニット113によって生成されるオプティカルフローフレームによってマッピングされる時間スロープ情報を利用してオプティカルフロー分析を簡単に行うことができる。該時間スロープの傾斜度及び向きは物体の運動速度及び運動方向情報を示す。図3F中の(1)は該物体がX軸の逆方向に沿って異なる運動速度で視野を通過する時に形成される時間スロープを示している。運動方向が同じであるため、3つの時間スロープの向きが同じであるが、異なる速度によって時間スロープの傾斜度が異なる。勾配の降順で並べられる3つの時間スロープのそれぞれに対応する運動速度はミリ秒あたり0.5画素、1画素及び2画素である。以上からわかるように、物体の運動速度が遅いほど、形成される時間スロープの傾斜度が大きく、その反面、物体の運動速度が速いほど、形成される時間スロープの傾斜度が小さい。また、図3F中の(2)、(3)はそれぞれ物体がY軸の逆方向及びX軸の反時計回り45°方向に沿って運動する時間スロープを示している。図3Fに示されている時間スロープの向きのXY平面における投影から、物体の運動方向を簡単に取得できる。
【0036】
以下、図4を参照しながら、画素収集回路アレイ111中の画素収集回路をさらに説明する。図4は本発明のいくつかの実施例に係る画素収集回路400の模式図を示す。
【0037】
図4に示すように、画素収集回路400は少なくとも光電検出ユニット410、オプティカルフロー情報計時トリガーユニット420、オプティカルフロー情報計時制御ユニット430、オプティカルフロー情報計時ユニット440及び行選択出力ユニット450を備える。一実施形態では、画素収集回路は画像情報収集ユニット460をさらに備える。図4に示されるオプティカルフロー情報リセット線、画像情報収集ラインはグローバル制御ユニット114のオプティカルフロー取得ユニット1144及び画像取得ユニット1142によって与えられ、画像出力行選択線は画像情報読み出しユニット112から出力され、オプティカルフロー出力行選択線はオプティカルフロー情報読み出しユニット113から出力され、データ出力バスはさらにそれぞれ画像情報読み出しユニット112及びオプティカルフロー情報読み出しユニット113に送られる。
【0038】
光電検出ユニット410は照射される光信号の強度を表す第1電信号をリアルタイムに出力する。ここで、光電検出ユニット410は例えば、様々な対数光検出器であってもよいが、これに限定されない。図5A、5B、5C及び5Dはそれぞれ本発明の実施例に係る光電検出ユニット410の模式図を示す。
【0039】
図5Aに示される実施例では、光電検出ユニット410は、アノードが接地されるフォトダイオードPD、及び第1トランジスタTを備える。第1トランジスタTは、ソースがフォトダイオードPDのカソードに接続され、ドレイン及びゲートが電源VDDに接続される。一応用シーンでは、フォトダイオードPDは照明信号を受信すると、電流Iを生成する。これに加えて、Tのソースとゲートの間で発生する電圧変化はlnIに直線的に相関する。換言すれば、本実施例では、光電検出ユニット410の第1電信号と照射される光信号強度は対数関係を有する。
【0040】
図5Bに示される実施例では、光電検出ユニット410はアノードが接地されるフォトダイオードPD、第1トランジスタT及び第1増幅器Aを備える。第1トランジスタTは、ソースがフォトダイオードPDのカソードに接続され、ドレインが電源VDDに接続され、第1増幅器AはフォトダイオードPDのカソードと第1トランジスタTのゲートとの間に接続される。ここで、第1増幅器AはTのソースとゲートの間で発生する電圧変化の応答速度を向上させることができる。換言すれば、第1増幅器Aは画素収集回路が光強度変化を検出する速度を向上させる。
【0041】
図5Cに示される実施例では、光電検出ユニットはアノードが接地されるフォトダイオードPD、及び直列接続されるN個のトランジスタを備え、ここで、N≧2(図5C中、Nは2であるが、これに限定されない)であり、第1個のトランジスタのソースがフォトダイオードPDのカソードに接続され、第N個のトランジスタのドレインが電源VDDに接続され、各トランジスタのゲートがドレインに接続され、第2~第N個のトランジスタのそれぞれのソースが前のトランジスタのドレインに接続される。ここで、直列接続されるN個のトランジスタは光検出器の電流(電圧)ゲインを高めることができる。
【0042】
図5Dに示される光電検出ユニット410は図5Cに示される実施例をもとに、さらなる第1増幅器Aが配置されている。第1増幅器AはフォトダイオードPDのカソードと第1個のトランジスタのゲートとの間に接続される。上記複数の光電検出ユニット410の実施例を除き、本発明はさらに様々な公知の高リアルタイム性の光電検出ユニットを使用してもよいが、ここでは詳細説明を省略する。
【0043】
なお、従来の光検出技術では、通常、コンデンサを充電し、その後、連続露光(コンデンサの連続放電)を行い、その後、コンデンサの残量に応じて、累積する照明強度を定める。本発明に係る光電検出ユニット410は、光信号強度を表す第1電信号を生成する時、別途の露光時間が不要である。従って、光電検出ユニット410は第1電信号を遅延なく出力することができる。
【0044】
画素ユニット内のオプティカルフロー情報の収集はオプティカルフロー情報計時トリガーユニット420、オプティカルフロー情報計時制御ユニット430及びオプティカルフロー情報計時ユニット440によって共同に行われる。これら3つのモジュールはいずれもオプティカルフロー取得ユニット1144から出力されるグローバルリセット信号の制御を受け、該信号が有効な場合、これらオプティカルフロー情報検出に関連する3つのユニットはいずれもリセットする。リセット信号がキャンセルされると、1回のオプティカルフロー情報の検出は開始し、オプティカルフロー情報読み出しユニット113は、オプティカルフローフレームでオプティカルフロー分析に十分な有効画素ユニットを累積するまですべての画素ユニットのオプティカルフロー情報計時ユニット440を走査し続ける。以下、これら3つのユニットの具体的な機能及び実現を説明する。
【0045】
オプティカルフロー情報計時トリガーユニット420は第1入力端子が光電検出ユニット410の出力端子にカップリングされ、第2入力端子がオプティカルフロー情報リセット線にカップリングされる。本発明の一実施例では、オプティカルフロー情報計時トリガーユニット420はフィルタ増幅モジュール422及び閾値比較モジュール424を備える。オプティカルフロー情報計時トリガーユニット420は1回のオプティカルフロー情報検出の初期段階にリセットされ、その後、オプティカルフロー情報検出プロセスでは、光電検出ユニット410から出力される第1電信号(光強度を表す)の変化が所定のトリガー条件を満たすと、オプティカルフロー情報計時トリガー信号を生成してリアエンドのオプティカルフロー情報計時制御ユニット430に送信する。
【0046】
オプティカルフロー情報を効果的に抽出するために、所定のトリガー条件として、第1電信号の変化速度が十分に速く且つ変化継続時間が十分に長いことを設定する。第1電信号が光電検出ユニット410に照射される光強度信号にリアルタイムに応答するため、以上のように第1電信号の要件は光強度信号の要件である。速度が十分に速く且つ強度が十分に高い光強度変化は物体の有効運動によるものであると考えられる。その反面、速度変化が遅い又は強度が低い光強度変化は背景の光強度のドリフト又はジッターによるものである可能性があり、分析対象となる価値がない。上記要件を実現するために、オプティカルフロー情報計時トリガーユニット420はフィルタ増幅モジュール422及び閾値比較モジュール424を備える。フィルタ増幅モジュール422は第1電信号に対して前処理操作を行って第2電信号を生成し、前処理操作は増幅操作及びフィルタ操作のうちの少なくとも1つを含み、閾値比較モジュール424は第2電信号が第1閾値よりも大きいか否か及び/又は第2閾値よりも小さいか否かを判断し、第2電信号が第1閾値よりも大きい又は第2閾値よりも小さい場合、オプティカルフロー情報計時トリガー信号を生成する。本発明の一実施形態によると、前処理操作において、増幅操作は画素収集回路の光強度検出に対する感度を向上させるために行われるが、必須なものではない。フィルタ操作は一般にハイパスフィルタであり、すなわち、高周波、つまり速度が十分に速い光強度変化のみに応答し、それによって速度が遅い光強度変化を除去する。
【0047】
フィルタ増幅モジュール422は様々な公知のフィルタ及び増幅技術を採用してもよいが、これに限定されない。本発明の図6A、6B、6C、6Dはそれぞれ本発明のいくつかの実施例に係るフィルタ増幅モジュール422の模式図を示す。
【0048】
図6Aに示すように、フィルタ増幅モジュール422は第2増幅器A及びハイパスフィルタを備え、第2増幅器Aは入力正極が光電検出ユニット410の出力端子に接続され、入力負極にプルダウン抵抗器である第1抵抗器Rが接続され、出力端子と入力負極との間に第2抵抗器Rが接続され、第2増幅器A及び第1抵抗器R、第2抵抗器Rは増幅機能を提供し、ゲインが、抵抗器RとRとの比に相関する。第2増幅器Aに接続されるハイパスフィルタは増幅された第1電信号中の周波数閾値よりも低い信号成分を除去し、よって第2電信号を出力する。
【0049】
図6Bに示される実施例では、フィルタ増幅モジュール422は第1コンデンサC、第2増幅器A、第2コンデンサC、第3抵抗器R及び第1スイッチKを備える。第1コンデンサCの第1端子が光電検出ユニット410の出力端子に接続され、第2増幅器Aは入力正極が固定電位に接続され、入力負極が第1コンデンサCの第2端子に接続され、第2コンデンサC、第3抵抗器R及び第1スイッチKはいずれも第2増幅器Aの入力負極と出力端子との間に並列接続され、リセット信号が有効な場合、第1スイッチKをオンし、リセット信号がキャンセルされると、第1スイッチKをオフする。図6Bに示される実施例では、第1コンデンサCは第1電信号中の直流成分を分離することができる。第1コンデンサCと第2コンデンサCとの比はフィルタ増幅モジュール422のゲインに比例する。また、第2コンデンサ C及び第3抵抗器Rはフィルタを構成し、Rは加減抵抗器である。該フィルタは第1電信号の交流成分中の周波数閾値よりも低い信号成分を除去できる。ここで、周波数閾値はRの抵抗値に応じて決められる。Rの抵抗値は例えば、システム100によってグローバル制御ユニット114から送信される指示信号に基づいて調整されてもよく、該指示信号はユーザーの入力に従って決定されてもよいが、これに限定されない。
【0050】
図6Cに示される実施例では、フィルタ増幅モジュール422は第2増幅器A、第1コンデンサC、第1スイッチK及びハイパスフィルタを備える。第2増幅器Aの入力正極が光電検出ユニット410の出力端子に接続され、第1コンデンサCは第1端子が第2増幅器Aの入力負極に接続され、第2端子が固定電位(通常、該固定電位はグランド電位であるが、これに限定されない)に接続され、第1スイッチKは第1コンデンサCの第1端子と光電検出ユニット410の出力端子との間に接続され、ハイパスフィルタは、該第2増幅器Aに接続され、増幅された第1電信号中の所定の周波数閾値よりも低い信号成分を除去し、第2電信号を生成する。リセット信号が有効な場合、第1スイッチKをオンし、リセット信号がキャンセルされると、第1スイッチKをオフする。オプティカルフロー出力モードの開始時、第1スイッチKは第1コンデンサCを、光電検出ユニット410によって出力される第1電信号を参照レベルとして格納するように制御し、その後、第2増幅器Aはリアルタイムな第1電信号と該参照レベルとの差分を検出して増幅する。
【0051】
図6A、6B、6Cに示される実施例は第1電信号の相対変化量に対して増幅及びフィルタ操作を行う。また、図6Dに示されるように、フィルタ増幅モジュール422はさらに第1電信号の変化速度を直接検出することによって光強度変化検出を実現してもよい。フィルタ増幅モジュール422は第1コンデンサC、電流複製器P、第2増幅器A、第2コンデンサC、第1スイッチK及び第3抵抗器Rを備える。第1コンデンサCの第1端子が光電検出ユニット410の出力端子に接続され、電流複製器Pの第1端子が第1コンデンサCの第2端子に接続され、第2増幅器Aは入力正極が固定電位に接続され、入力負極が電流複製器Pの第2端子に接続され、第2コンデンサC、第1スイッチK及び第3抵抗器Rはいずれも第2増幅器Aの入力負極と出力端子との間に並列接続され、リセット信号が有効な場合、第1スイッチKをオンし、リセット信号がキャンセルされると、第1スイッチKをオフする。電流複製器Pの第1端子及び第2端子にそれぞれ第1電流源I及び第2電流源Iが接続され、電流複製器Pはその第1端子を1つの固定レベルにクランプし、第1コンデンサCの電流を、第1電流源Iを介して第2電流源Iに複製する。電流複製器Pは様々な公知の技術によって実現されてもよいが、ここでは詳細説明を省略する。第1コンデンサCは一端が光電検出ユニット410によって出力される第1電信号に接続され、他端が固定レベルに接続される。コンデンサの両端の電圧電流関係によれば、第1コンデンサCの電流が第1電信号の変化率に比例し、該電流が電流源Iを介して電流源Iに複製され、第2コンデンサCを充放電して第2電信号を生成する。このようにして、第2電信号の振幅は第1電信号の変化速度(充放電電流Iの大きさ)及び変化継続時間(充放電電流Iの継続時間)によって決められる。継続時間が長く且つ変化速度が速い第1電信号(光強度)のみは大きい第2電信号を生成できる。また、第3抵抗器Rは調整可能であり、リーク抵抗器として機能し、第2電流源Iが非常に小さい場合における第2コンデンサCへの充電効果を相殺でき、それによって第1電信号の交流成分中の周波数閾値よりも低い信号成分を除去し、ハイパスフィルタの機能を実現する。
【0052】
閾値比較モジュール424の入力端子がフィルタ増幅モジュール422の出力端子にカップリングされる。前記のように、閾値比較モジュール424は第2電信号が第1閾値よりも大きいか否か及び/又は第2閾値よりも小さいか否かを判断し、第1閾値よりも大きい又は第2閾値よりも小さい場合、オプティカルフロー情報収集トリガー信号を生成する。所望の構成に応じて、閾値比較モジュール424は第2電信号が第1閾値よりも大きいか否かのみを判断してもよく、第2電信号が第2閾値よりも小さいか否かを判断してもよく、又は、第2電信号が第1閾値よりも大きいか否かを判断するだけでなく、第2電信号が第2閾値よりも小さいか否かを判断するようにしてもよく、且つ第2閾値は第1閾値よりも小さい。このようにして、本発明の閾値比較モジュール424によって、画素収集回路400での照明強度の変化量が大きいか否かを検出できる(照明強度の増減が可能である)。図7A、7B、7C及び7Dは、それぞれ本発明のいくつかの実施例に係る閾値比較モジュール424の模式図を示し、なお、以下の閾値比較モジュール424についての説明は単に例示的なものであり、本発明ではこれを限定しない。
【0053】
図7Aに示される実施例では、閾値比較モジュール424は、反転入力端子が第1閾値を提供する信号ラインに接続され、非反転入力端子がフィルタ増幅モジュール422の出力端子に接続される第1電圧コンパレータVCを備える。このように、本実施例の閾値比較モジュール424は第2電信号が第1閾値よりも大きいか否かを判断できる。
【0054】
図7Bに示される実施例では、閾値比較モジュール424は、非反転入力端子が第2閾値を提供する信号ラインに接続され、反転入力端子がフィルタ増幅モジュール422の出力端子に接続される第2電圧コンパレータVCを備える。このように、本実施例の閾値比較モジュール424は第2電信号が第2閾値よりも小さいか否かを判断できる。
【0055】
図7Cに示される実施例では、閾値比較モジュール424は、第1電圧コンパレータVC、第2電圧コンパレータVC及びORゲートを備える。第1電圧コンパレータVCは、反転入力端子が第1閾値を提供する信号ラインに接続され、非反転入力端子がフィルタ増幅モジュール422の出力端子に接続され、第2電圧コンパレータVCは、非反転入力端子が第2閾値を提供する信号ラインに接続され、反転入力端子がフィルタ増幅モジュール422の出力端子に接続され、ORゲートは、第1入力端子が第1電圧コンパレータの出力端子にカップリングされ、第2入力端子が第2電圧コンパレータの出力端子にカップリングされ、第1電圧コンパレータの出力及び第2電圧コンパレータの出力に対してOR論理演算を行う。
【0056】
図7Dに示される実施例では、閾値比較モジュール424は、第1入力端子にプルダウンコンデンサである第3コンデンサCが接続され、第2入力端子にプルダウンコンデンサである第4コンデンサCが接続され、第1入力端子と第2入力端子の差圧値信号を出力する差圧コンパレータVDと、第3コンデンサCとフィルタ増幅モジュール422の出力端子との間に設置される第2スイッチKと、第3コンデンサCと第4コンデンサCとの間に順番に直列接続される第1キャッシュB及び第3スイッチKと、反転入力端子が第1閾値を提供する信号ラインに接続され、非反転入力端子が差圧コンパレータの出力端子に接続される第1電圧コンパレータVCと、非反転入力端子が第2閾値を提供する信号ラインに接続され、反転入力端子が差圧コンパレータの出力端子に接続される第2電圧コンパレータVCと、第1入力端子が第1電圧コンパレータの出力端子にカップリングされ、第2入力端子が第2電圧コンパレータの出力端子にカップリングされ、出力端子が第3スイッチKにカップリングされるORゲートと、を備え、差圧コンパレータによって出力される差圧値信号が第1閾値よりも大きい又は第2閾値よりも小さい場合、該閾値比較モジュール424はオプティカルフロー情報計時トリガー信号を出力し、時間順で順番に第2スイッチKをオフし、第3スイッチKをオンし、第3スイッチKをオフし、第2スイッチKをオンする。このようにして、閾値比較モジュール424は第2入力端子により保持された信号を現在の第1入力端子の第2電信号に更新することができる。
【0057】
オプティカルフロー情報計時制御ユニット430は、フロントエンドのオプティカルフロー情報計時トリガーユニット420によって生成されるオプティカルフロー情報計時トリガー信号を受信し、リアエンドのオプティカルフロー情報計時ユニット440の計時スタート信号を生成し、主にラッチ及びパルス整形器の2つの部分から構成される。一実施形態では、ラッチは、リセット信号が有効な場合、リセットされ、オプティカルフロー情報計時トリガー信号を初回受信した場合、セットされ、その後、次回のリセット信号が有効になる(次回のオプティカルフロー情報検出開始)までセット状態を維持し続ける。パルス整形器はラッチによって出力されるラッチ信号を受信し、ラッチがセットされる場合、1つの幅狭パルス信号をリアエンドのオプティカルフロー情報計時ユニット440の計時スタート信号として生成する。本発明のいくつかの実施例では、パルス整形器は必須なものではなく、さらにオプティカルフロー情報計時ユニット440内に配置されてもよい。
【0058】
オプティカルフロー情報計時制御ユニット430をこのような構造とすることで、1回のオプティカルフロー情報検出プロセスでは、画素ユニットのオプティカルフロー情報計時ユニット440は、該画素ユニットにより光強度変化が閾値要求(オプティカルフロー情報計時トリガーユニット420出力計時トリガー信号)を満たすと初回検出された場合のみに1回スタートされ、且つ繰り返してスタートされないことを確保できる。それは、オプティカルフロー情報計時制御ユニット430のラッチが初回セットされた後、能動的にリセットされない(次回のリセット信号が有効になると、強制的にリセットされる)からである。該特性は、1回のオプティカルフロー情報検出プロセスではオプティカルフローフレームが更新し続けることによって、十分に多く累積し続けられる有効画素ユニットの時間情報を取得してオプティカルフロー分析を行うことに必要である。
【0059】
オプティカルフロー情報計時ユニット440は画素ユニットの内部の計時ユニットであり、1回のオプティカルフロー情報検出の初期段階にリセットされ、画素ユニットのオプティカルフロー計時トリガー時刻にスタートされ、計時を開始する。画素ユニットがオプティカルフロー情報読み出しユニットによって読み出される場合、該オプティカルフロー計時ユニット440の現在の計時情報によって該画素トリガー時刻の時間情報を取得できる。
【0060】
図8Aはオプティカルフロー情報計時ユニット440の一実施例を示し、図8Aに示すように、オプティカルフロー情報計時ユニット440は第4スイッチK、第5スイッチK、第5コンデンサC及び第3トランジスタTを備え、第5スイッチK、第5コンデンサC及び第3トランジスタTはいずれも第4スイッチKと固定電位(グランド電位を図示しているが、これに限定されない)との間に並列接続され、第4スイッチKは、第1端子が並列接続される第5スイッチK、第5コンデンサC及び第3トランジスタTに接続され、第2端子が別の固定電位(電源を図示しているが、これに限定されない)に接続される。第3トランジスタTのゲート電圧は外部から入力されるバイアス電圧であるため、Tは電流源に等価でき、且つ電流の大きさは応用シーンに応じて調整可能である。リセット信号が有効な場合、第5スイッチ(K)をオンし、第5コンデンサCの上部極板がグランド電位に放電し、フロントエンドのオプティカルフロー情報計時制御ユニット430によって出力される計時スタートパルスを受信すると、第4スイッチKが短時間オンしてからオフし、第5コンデンサCの上部極板が迅速に電源電圧にプルアップされ(Kはオン)、その後、第3トランジスタTによって徐々に放電し(Kはオフ)、それにより高から低へのランプ信号を形成し、図3Cに示すように、該ランプ信号は実際には計時信号であり、該信号の異なる振幅情報を読み取ることによって画素ユニットトリガー時刻の時間情報を取得できる。該信号の振幅が高いほど、画素ユニットが遅くトリガーされることを示し(対応する運動が遅く発生する)、該信号の振幅が低いほど、画素ユニットが速くトリガーされることを示す(対応する運動が速く発生する)。最低電位がグランド電位である(グランド電位に下がると、これ以上下がることは無理である)しかないため、オプティカルフロー情報計時ユニット440から提供可能な有効時間情報の範囲が限られ、該範囲を超える時間情報は固定値で示されるしかない。以上の分析からわかるように、ランプ信号の傾きはオプティカルフロー情報計時ユニット440の計時範囲を決定し、第3トランジスタTの放電電流及び第5コンデンサCの大きさによって決定され、放電電流が小さく、第5コンデンサCが大きいほど、該ランプ信号の傾きが小さく、減衰が遅く、有効計時範囲が長く、その反面、傾きが大きく、放電が速く、有効計時範囲が短い。徐々に変化するランプ信号は低速運動の検出に効果的であり、この場合、通常、オプティカルフロー分析用の運動軌跡に対応するトリガー画素ユニットを十分に累積するには十分に長い時間だけ待機する必要があるからであり、有効計時範囲が長く、初期トリガーされた画素ユニットが十分に長い時間経過後でも有効な計時情報を提供できるため、理想的な時間スロープ情報を取得できる。高速運動の検出の場合、短時間内に十分な画素トリガーユニットを累積できるため、傾きが大きいランプ信号を採用できる。
【0061】
電流源の実現方式に応じて、オプティカルフロー情報計時ユニット440はさらに図8Bに示される実施例によって実現されてもよく、オプティカルフロー情報計時ユニット440では、第5スイッチK、第5コンデンサC及び第4抵抗器Rはいずれも第4スイッチKと固定電位との間に並列接続され、第4スイッチKは、第1端子が並列接続される第5スイッチK、第5コンデンサC及び第4抵抗器Rに接続され、第2端子が別の固定電位に接続され、リセット信号が有効な場合、第5スイッチ(K)をオンする。このようにして、第5コンデンサCに格納される電荷が第4抵抗器Rによって放電される。オプティカルフロー情報計時ユニット440がスタートされた後、該計時信号は指数関数的に減衰する電圧信号であり、減衰速度が第4抵抗器R及び第5コンデンサCの大きさによって決定される。一般には、第4抵抗器Rは所要の抵抗値が非常に大きく、オフ状態のトランジスタ又は逆バイアスされるダイオードによって実現できる。
【0062】
行選択出力ユニット450は、第1入力端子がオプティカルフロー情報計時ユニット440にカップリングされ、第2入力端子がオプティカルフロー出力行選択線にカップリングされ、オプティカルフロー情報計時ユニット440からの計時信号をキャッシュし、オプティカルフロー行選択信号が有効な場合、オプティカルフローデータ出力バスに送信し、オプティカルフロー行選択信号はオプティカルフロー情報読み出しユニット113からのものであり、オプティカルフローデータ出力バスはオプティカルフロー情報読み出しユニット113に送られる。オプティカルフロー情報読み出しユニット113はオプティカルフロー出力バスのデータを処理して外部のオプティカルフロープリプロセッサ130に送信する。
【0063】
また、画素収集回路400は画像情報を収集する画像情報収集ユニット460をさらに備え、画像情報収集ユニット460は、第1入力端子が光電検出ユニット410の出力端子にカップリングされ、第2入力端子が画像情報収集ラインにカップリングされ、画像情報収集ラインからの画像情報収集信号を受信し、今回の受信時刻における第1電信号をサンプリングしてキャッシュする。画像情報収集信号がグローバル信号であるため、すべての画素収集回路の画像情報収集ユニット460がローカルの光電検出ユニット410によって出力される第1電信号を同期サンプリングし、このようにして、すべての画像情報収集ユニット460が画像プリプロセッサ120に読み込まれると、完全なグレー画像を取得できる。
【0064】
画像情報収集ユニット460は一般には、簡単なサンプリングホールド回路からなり、1つの制御スイッチ及び1つのサンプリングコンデンサを備えるようにしてもよい。制御スイッチは第1入力端子が光電検出ユニットによって出力される第1電信号に接続され、第2端子がサンプリングコンデンサの第1端子に接続され、サンプリングコンデンサの第2端子が固定レベルに接続される。制御スイッチの制御信号はグローバルな画像情報収集信号であり、該信号が有効な場合、制御スイッチをオンし、すべての画素ユニットのサンプリングコンデンサが本画素ユニット中の光電検出ユニット410によって出力される第1電信号をサンプリングし、画像情報収集信号が無効になると、制御スイッチをオフし、サンプリングコンデンサがサンプリングされた第1電信号を保持し、後続で画像情報読み出しユニット110によって画像プリプロセッサ120に読み込んで画像フレームを形成する。
【0065】
本発明のさらに別の実施形態では、行選択出力ユニット450は、第3入力端子が画像情報収集ユニット460にカップリングされ、第4入力端子が画像出力行選択線にカップリングされ、画像情報収集ユニット460からの入力信号(すなわち、第1電信号)をキャッシュし、画像行選択信号が有効な場合、画像データ出力バスに送信し、画像行選択信号は画像情報読み出しユニット112の行選択ユニットからのものであり、画像データ出力バスは画像情報読み出しユニット112に送られる。画像情報読み出しユニット112は画像出力バスのデータを処理して外部の画像プリプロセッサ120に送信する。
【0066】
以上のように、本発明に係る画素収集回路400は、画像及びオプティカルフロー情報を同時に出力でき、また、2つの情報が独立した読み出しチャネルによって外部のプリプロセッサに送信されるため、オプティカルフローセンサー110の画像フレーム及びオプティカルフローフレームの収集は並行し且つ相互に独立している。
【0067】
要するに、オプティカルフロー情報の収集にはグローバルなリセット信号及びオプティカルフロー情報読み出しユニットの制御が必要である。なお、1回のオプティカルフロー情報の検出には、複数のオプティカルフローフレームが可能である。1回のオプティカルフロー情報検出の開始時、リセット信号が有効であり、このとき、画素ユニット中の、オプティカルフロー情報検出に関連するすべてのユニット(例えば、オプティカルフロー情報計時トリガーユニット、オプティカルフロー情報計時制御ユニット及びオプティカルフロー情報計時ユニット)がいずれもリセットされる。その後、リセット信号がキャンセルされ、オプティカルフロー情報検出が開始し、オプティカルフロー情報読み出しユニットが画素アレイ全体のオプティカルフロー情報計時ユニットの計時情報を走査してオプティカルフローフレームを形成する。画像フレームの収集はグローバル制御ユニットにより与えられた画像情報収集信号及び画像情報読み出しユニットによって制御される。1つの画像フレームの収集開始時、画像情報収集信号が短時間内に有効であり、画素アレイ中の画像情報収集ユニットが光電検出ユニットによって出力される第1電信号をサンプリングして保持し、その後、画像情報読み出しユニットが画素アレイ全体の画像情報収集ユニットに格納される、光強度に関連する第1電信号を逐一走査して、完全な画像フレームを得る。
【0068】
図4図8Bについての説明に合わせて、異なる組み合わせ方式によって、画素収集回路は様々な形態として設置されてもよいが、ここでは一々列挙しない。図9はそのうちの1種を例に、画素収集回路900の1つの例示的な模式図を示す。
【0069】
図9に示すように、画素収集回路900は光電検出ユニット910、画像情報収集ユニット920、フィルタ増幅モジュール931、閾値比較モジュール932、オプティカルフロー情報計時制御ユニット940、オプティカルフロー情報計時ユニット950、及び行選択出力ユニット960を備える。フィルタ増幅モジュール931及び閾値比較モジュール932はオプティカルフロー情報計時トリガーユニット930(図示せず)を構成している。図9に示される光電検出ユニット910は図5Bに示される光電検出ユニットとして設置され、勿論、光電検出ユニット910はさらに図5A、5C及び5Dのうちのいずれかとして設置され、又は本発明の目的を実現できるほかのいずれかの光電検出ユニットとして設置されるようにしてもよいが、ここでは詳細説明を省略する。同様に、図9に示されるフィルタ増幅モジュール931は図6Bに示されるフィルタ増幅モジュールとして設置され、なお、フィルタ増幅モジュール931は図6A、6C、6Dのうちのいずれか1種として設置されてもよい。図9に示される閾値比較モジュール932は図7Cに示される閾値比較モジュールとして構成され、なお、閾値比較モジュール932は図7A、7B及び7Dのうちのいずれか1種として構成されてもよいが、ここでは詳細説明を省略する。図9に示されるオプティカルフロー情報計時ユニット950は図8A中の前記オプティカルフロー情報計時ユニットとして構成され、なお、オプティカルフロー情報計時ユニット950はさらに図8Bに示すように構成されてもよいが、ここでは詳細説明を省略する。
【0070】
1回のオプティカルフロー情報検出の開始時、リセット信号が有効であり、フィルタ増幅モジュール931の第1スイッチKをオンし、それから出力される第2電信号を参考電位に固定し、該電位はフィルタ増幅モジュール931の第2増幅器Aの入力正極に接続される参考電位と同じであり、一般にはリアエンドの閾値比較モジュール932の第1閾値~第2閾値である。このようにして、オプティカルフロー情報計時トリガーユニット930はオプティカルフロー情報計時トリガー信号を与えない。リセット信号がキャンセルされると、第1スイッチKをオフし、第1コンデンサCが該時刻において光電検出ユニット910によって出力される第1電信号を後続の検出の初期参照レベルとしてサンプリングする。第2電信号がリアルタイムな第1電信号と初期参照レベルの差分に応答し、第2電信号が閾値比較モジュール932の閾値検出範囲を超えると、オプティカルフロー情報計時トリガー信号を与える。ここで、フィルタ増幅モジュール931の第2コンデンサCと加減抵抗器Rがハイパスフィルタを構成し、それによって第1電信号中のゆっくり変化する低周波成分を遮蔽する。つまり、第2電信号はリアルタイムな第1電信号と初期参照レベルの差分に応答するが、初期参照レベルは完全に第1スイッチKをオフする時の第1電信号によって決定されるのではない。スイッチKをオフした後、第1電信号がゆっくり(低周波)変化すると、それとともに初期参照レベルもリアルタイムにゆっくり変化し、それによって第1電信号の低周波成分を効果的に除去することを確保する。閾値比較モジュール932のOR論理ユニット(すなわち、ORゲート)は前の2つの比較ユニットの出力をOR演算してオプティカルフロー情報計時制御ユニット940に送信し、それによって異なる方向の光強度変化(強から弱へ及び弱から強へ)の検出を確保する。
【0071】
オプティカルフロー情報計時制御ユニット940はフロントエンドのオプティカルフロー情報計時トリガーユニット930によって生成される計時トリガー信号を受信し、リアエンドオプティカルフロー情報計時ユニット950の計時スタート信号を生成する。以上のように、オプティカルフロー情報計時制御ユニット940は主にラッチ及びパルス整形器の2つの部分からなる。フロントエンドのラッチは1回のオプティカルフロー情報検出プロセスでは、該画素ユニットがトリガーされたか否かを表し、リセット信号がグローバルなリセット信号由来であり、セット信号がローカルなオプティカルフロー情報計時トリガー信号由来である。従って、1回のオプティカルフロー情報検出の開始時、アレイ中の画素ユニットの該ラッチがすべて強制的にリセットされる。その後のオプティカルフロー情報検出プロセスでは、有効光強度変化(運動に起因する)が検出された画素ユニットはオプティカルフロー情報トリガー信号によって該ラッチをセットする。自動リセットが不能であるため、該セット状態は次回のリセット信号が有効になる(次回のオプティカルフロー情報検出の開始)まで維持され続ける。それによって、ラッチのセット時刻は、本画素ユニットが1回のオプティカルフロー検出プロセスで有効運動を初回検出した時刻を表し、後続のオプティカルフロー情報トリガーユニットは依然として光強度変化に応答し計時トリガー信号を再び与えることができるが、ラッチがセットされているため、後期の計時トリガー信号が遮蔽される。パルス整形器はラッチによって出力されるラッチ信号を検出し、ラッチのセット時に1つのパルス信号をリアエンドのオプティカルフロー情報計時ユニット950の計時スタート信号として生成する。それによって、1回のオプティカルフロー情報検出プロセスでは、画素収集回路が条件を満たす第1回の光強度変化のみに応答し、単調ゲイン特性を有するオプティカルフロー情報計時ユニット950を1回スタートすることを確保する。アレイ中のトリガーされた画素ユニットの空間及びオプティカルフロー情報計時ユニットの時間情報と運動進化の空間及び時間情報とが確実なマッピング関係を有ることによって、有効なオプティカルフローモードにおける時間マッピング画像を得る。オプティカルフロー情報計時ユニット950に示すように、該時間信号はリセット信号が有効な場合(Kをオンする)、グランド電位にリセットされ、スタートすると(Kをオンする)、迅速に電源電圧にプルアップされ、その後、固定の傾きでグランド電位に下がる。異なる時刻に該ランプ信号の振幅情報を読み取ることで、該画素ユニットトリガー時刻の時間情報を取得することができる。
【0072】
行選択出力ユニット960は選択スイッチを備えた2つのキャッシュとして構成される。2つのキャッシュは独立し、それぞれ画像情報収集ユニット920由来の第1電信号及びオプティカルフロー情報計時ユニット950由来の時間信号を出力する。画像出力行選択線が有効な場合、第1電信号ラインに接続された選択スイッチをオンし、画像情報収集ユニット920由来の第1電信号をキャッシュして第1電信号ラインに送信する。オプティカルフロー出力行選択線が有効な場合、時間信号ラインに接続された選択スイッチをオンし、オプティカルフロー情報計時ユニット950由来の計時信号をキャッシュして時間信号ラインに送信する。
【0073】
図10は本発明のいくつかの実施例に係るオプティカルフローセンサー110の模式図を示す。図10に示すように、オプティカルフローセンサー110は少なくとも画素収集回路アレイ111、オプティカルフロー情報読み出しユニット113及びグローバル制御ユニット114を備える。勿論、オプティカルフローセンサー110が画像情報を簡単に収集できるために、オプティカルフローセンサー110はさらに画像情報読み出しユニット112を備えてもよい。
【0074】
いくつかの実施形態によると、画素収集回路アレイ111は複数の画素収集回路400を備え、画素収集回路400についての説明は上記説明を参照できるため、ここでは詳細説明を省略する。オプティカルフロー情報読み出しユニット113は画素収集回路アレイ111中の少なくとも一部の画素収集回路によって出力される計時信号を読み取り、グローバル制御ユニット114はリセット信号を生成し、オプティカルフロー情報リセット線を介して画素収集回路アレイ111中の各画素収集回路に出力する。同様に、画像情報読み出しユニット112は画素収集回路アレイ111中の少なくとも一部の画素収集回路によって出力される第1電信号を読み取り、グローバル制御ユニット114は画像情報収集信号を生成し、画像情報収集ラインを介して画素収集回路アレイ111中の各画素収集回路に出力する。
【0075】
より具体的には、グローバル制御ユニット114は画像取得モジュール1142及びオプティカルフロー取得モジュール1144を備える。画像取得モジュール1142は画像情報収集ラインを介して画素収集回路アレイ111中の各画素収集回路にカップリングされ、1つの画像フレームの収集の初期段階に、現在時刻における光強度に関連する第1電信号を取得するように、画素アレイの画像情報収集ユニットを制御する。オプティカルフロー取得モジュール1144はオプティカルフロー情報リセット線を介して画素収集回路アレイ111中の各画素収集回路にカップリングされ、リセット信号を生成し、1回のオプティカルフロー情報検出の初期段階にオプティカルフロー情報検出に関連するすべてのユニット/モジュールをリセットする。
【0076】
オプティカルフロー情報読み出しユニット113はオプティカルフロー出力行スキャナー1132(すなわち、行選択ユニット)、時間信号スキャナー1134(すなわち、列選択ユニット)及びオプティカルフロー読み出しコントローラ1136を備える。オプティカルフロー出力行スキャナー1132は1本のオプティカルフロー出力行選択線を介して画素収集回路アレイ中の1行の画素収集回路にカップリングされ、オプティカルフロー読み出しコントローラ1136はオプティカルフロー出力行スキャナー1132を、画素収集回路アレイ中のオプティカルフロー出力行選択線を行ごとに有効にセットするように指示し、時間信号スキャナー1134を、該行の画素収集回路によって出力される計時信号を順番に読み取るように指示する。
【0077】
画像情報読み出しユニット112は画像出力行スキャナー1122(すなわち、行選択ユニット)、第1電信号スキャナー1124(すなわち、列選択ユニット)及び画像読み出しコントローラ1126を備える。画像出力行スキャナー1122は1本の画像出力行選択線を介して画素収集回路アレイ中の1行の画素収集回路にカップリングされ、画像読み出しコントローラ1126は、画像出力行スキャナー1122を、画素収集回路アレイ中の画像出力行選択線を行ごとに有効にセットするように指示し、第1電信号スキャナー1124を、該行の画素収集回路によって出力される第1電信号を順番に読み取るように指示する。
【0078】
図10はアレイ111の一部の画素収集回路を示す。この部分の画素収集回路は行別に第i-1、i及びi+1行(画像/オプティカルフロー出力行選択線に対応する)に分けられ、列別に第j-1、j及びj+1列(データ出力バスである第1電信号ライン及び時間信号ラインに対応する)に分けられるようにしてもよいが、これに限定されない。画素収集回路アレイ111中の各行(例えば、図9中の第i行)は1本の画像出力行選択線を介して画像出力行スキャナー1122にカップリングされ、また、さらに1本のオプティカルフロー出力行選択線を介してオプティカルフロー出力行スキャナー1132にカップリングされる。画素収集回路アレイ111中の各列は第1電信号を伝送する1本のデータライン及び時間信号を伝送する1本のデータラインを介してそれぞれ第1電信号スキャナー1124及び時間信号スキャナー1134にカップリングされる。画像出力行スキャナー1122及び第1電信号スキャナー1124は画像読み出しコントローラ1126の制御下で画素収集回路アレイ111全体によって出力される第1電信号を走査して画像フレーム情報を取得する。オプティカルフロー出力行スキャナー1132及び時間信号スキャナー1134はオプティカルフロー読み出しコントローラ1136の制御下で画素収集回路アレイ111全体によって出力される時間信号を走査してオプティカルフローフレーム情報を取得する。
【0079】
本発明の実施形態によると、画像フレーム出力とオプティカルフローフレーム出力の制御原理は同じであり、以下、画像フレーム出力を例に詳細説明する。画像読み出しコントローラ1126はまず、画像出力行スキャナー1122を、第1行の画素収集回路を選択するように指示し、その後、画像出力行スキャナー1122は第1行の画像出力行選択線を有効にセットする(残りの行選択線はいずれも無効である)。第1行の画素収集回路は収集した第1電信号を行選択出力ユニットによって第1電信号スキャナー1124に送信する。その後、画像読み出しコントローラ1126は第1電信号スキャナー1124を、該行のすべての画素収集回路によって出力される第1電信号を順番に逐一走査するように制御する。第1行の最後の画素収集回路情報の出力が完了すると、画像読み出しコントローラ1126は画像出力行スキャナー1122に行切り替え信号指示を送信し、画像出力行スキャナー1122は第2行にジャンプし、第1電信号スキャナー1124をすべての第2行の画素収集回路からの第1電信号情報を逐一走査して出力するように制御する。アレイ111全体のすべての画素収集回路の第1電信号情報の読み取りが完了するまでこのように繰り返す。オプティカルフロー情報出力モードの操作は、オプティカルフロー読み出しコントローラ1136、オプティカルフロー出力行スキャナー1132及び時間信号スキャナー1134によって行われる以外、これと同様である。
【0080】
以上のように、本オプティカルフローセンサー110は運動オプティカルフロー情報を効果的に抽出する方案を提供し、該方案は様々な速度の運動物体に対してオプティカルフロー情報を効果的に抽出することができるとともに、画像情報を収集して、明確で遅延がない完全なグレー画像を取得し、抽出されたオプティカルフロー情報に背景情報を提供することができる。一実施形態では、オプティカルフローセンサー110はオプティカルフローフレーム及び画像フレーム情報を並行して出力する。各オプティカルフローフレームはトリガーされた画素収集回路の空間及びトリガー時刻の時間情報を含み、時空間情報がマークされた画素ユニットは三次元空間における物体の運動に直接関連付けられ、該時間情報を画素アレイの二次元空間でマッピングして形成される時間スロープ平面の向き及び勾配情報を分析することによって、運動のオプティカルフロー情報を効果的に抽出することができる。各画像フレームの取得は露光時間が不要であり、グローバルシャッターの制御メカニズムと類似し、高速運動の場合であっても明確で遅延がないグレー画像を取得でき、該画像はオプティカルフローフレームから抽出されたオプティカルフロー情報に背景情報を提供できるだけでなく、従来のグレー画像に基づく処理アルゴリズムとコンパチブルもできる。
【0081】
それと同時に、画素収集回路に配置されたオプティカルフロー情報計時ユニットは画素ユニットトリガー時刻の時間情報を提供し、オプティカルフロー情報読み出し操作の干渉を受けることがなく、この非破壊性読み出しメカニズムによって、オプティカルフローフレーム出力の連続性を確保し、すなわち、後続のオプティカルフローフレームは前のすべてのトリガーされた画素ユニットの時間及び空間情報を取得できる。この特性によって、オプティカルフローセンサーは高速で運動する物体を検出できるだけでなく、実際の応用でより見られる中低速で運動する物体を検出できることを確保する。より具体的には、低速運動の場合、運動軌跡延伸を形成するには長い時間が必要であるため、対応する視野内の画素ユニットのトリガー時間間隔が長く、非破壊性読み出しメカニズムによって、連続して出力されるオプティカルフローフレームでいつもオプティカルフロー分析に使用できる(視野の運動軌跡に対応する)トリガー画素ユニットの完全な時空間情報を取得できることを確保する。
【0082】
また、オプティカルフローセンサー110のよるオプティカルフロー及び画像の2種の情報の取得は完全に独立し、オプティカルフローセンサーは相互に干渉することなく完全にオプティカルフロー及び画像情報を並行して出力することができ、オプティカルフロー情報及び画像情報の取得及び読み出し速度は様々な要求に応じて調整可能である。
【0083】
ここで提供される明細書では、大量の詳細が説明されている。それにもかかわらず、本発明の実施例はこれらの詳細なしで実施されてもよいと理解できる。いくつかの例では、本明細書の理解の曖昧さを回避するために、公知の方法、構造及び技術は詳細説明されていない。
【0084】
同様に、本開示を簡略化し各発明の態様の1つ又は複数を理解するのを助けるために、以上の本発明の例示的な実施例についての説明では、本発明の各特徴は単一の実施例、図、又はその説明にグループされてもよいと理解すべきである。それにもかかわらず、該開示されている方法は、主張する本発明は各請求項に明確に記載される特徴よりも多くの特徴を必要とすることを反映するものではないと理解すべきである。より正確には、以下の特許請求の範囲に反映されるように、発明の態様は前に開示された単一の実施例のすべての特徴よりも少ないことにある。従って、具体的な実施形態に準拠する特許請求の範囲は該具体的な実施形態に明確に組み込まれており、各請求項自体は本発明の単独な実施例である。
【0085】
当業者であれば、本明細書に開示されている例における機器のモジュール又はユニット又はアセンブリは該実施例に説明されている機器に配置され、又は該例における機器と異なる1つ又は複数の機器に置換可能に位置決めされるようにしてよいと理解すべきである。上記例におけるモジュールを組み合わせて1つのモジュールを形成してもよく、さらに複数のサブモジュールに分けてもよい。
【0086】
当業者であれば、実施例における機器のモジュールを適応的に変更し、該実施例と異なる1つ又は複数の機器に設置するようにしてもよいと理解できる。実施例におけるモジュール又はユニット又はアセンブリを組み合わせて1つのモジュール又はユニット又はアセンブリを形成してもよく、さらにそれらを複数のサブモジュール又はサブユニット又はサブアセンブリに分けてもよい。このような特徴及び/又はプロセス又はユニットの少なくとも一部が相互に矛盾する以外、本明細書(添付する特許請求の範囲、要約書及び図面を含む)に開示されるすべての特徴及びこのように開示されているいずれかの方法又は機器のすべてのプロセス又はユニットを任意に組み合わせることができる。特に断らない限り、本明細書(添付する特許請求の範囲、要約書及び図面を含む)に開示されている各特徴は同一、同等又は類似目的を提供する代替特徴によって代替されてもよい。
【0087】
本発明はさらに以下のように開示している。
【0088】
A8、前記光電検出ユニットはアノードが接地されるフォトダイオード(PD)と、直列接続されるN個(N≧2)のトランジスタであって、第1個のトランジスタのソースがフォトダイオード(PD)のカソードに接続され、第N個のトランジスタのドレインが電源(VDD)に接続され、各トランジスタのゲートがドレインに接続され、第2~第N個のトランジスタのそれぞれのソースが前のトランジスタのドレインに接続されるA1に記載の画素収集回路。A9、前記光電検出ユニットはアノードが接地されるフォトダイオード(PD)と、直列接続されるN個(N≧2)のトランジスタとを備え、第1個のトランジスタのソースがフォトダイオード(PD)のカソードに接続され、第N個のトランジスタのドレインが電源(VDD)に接続され、第2~第N個のトランジスタのそれぞれのソースが前のトランジスタのドレインに接続され、第2~第N個のトランジスタのそれぞれのゲートがドレインに接続されるN個のトランジスタと、フォトダイオード(PD)のカソードと第1個のトランジスタのゲートとの間に接続される第1増幅器(A)と、を備えるA1に記載の画素収集回路。A10、前記フィルタ増幅モジュールは、入力正極が前記光電検出ユニットの出力端子に接続され、入力負極にプルダウン抵抗器である第1抵抗器(R)が接続され、出力端子と入力負極との間に第2抵抗器(R)が接続され、前記光電検出ユニットによって出力される第1電信号を増幅処理する第2増幅器(A)と、該第2増幅器(A)に接続され、増幅された第1電信号中の周波数閾値よりも低い信号成分を除去して前記第2電信号を出力するハイパスフィルタと、を備えるA4に記載の画素収集回路。A11、前記フィルタ増幅モジュールは、第1端子が前記光電検出ユニットの出力端子に接続される第1コンデンサ(C)と、入力正極が固定電位に接続され、入力負極が第1コンデンサ(C)の第2端子に接続される第2増幅器(A)と、いずれも第2増幅器(A)の入力負極と出力端子との間に並列接続される第2コンデンサ(C)、第3抵抗器(R)及び第1スイッチ(K)と、を備え、リセット信号が有効な場合、第1スイッチ(K)をオンし、リセット信号がキャンセルされると、第1スイッチ(K)をオフするA4に記載の画素収集回路。A12、前記第3抵抗器は加減抵抗器であるA11に記載の画素収集回路。A13、前記フィルタ増幅モジュールは、入力正極が前記光電検出ユニットの出力端子に接続される第2増幅器(A)と、第1端子が第2増幅器(A)の入力負極に接続され、第2端子が固定電位に接続される第1コンデンサ(C)と、第1コンデンサ(C)の第1端子と前記光電検出ユニットの出力端子との間に接続される第1スイッチ(K)と、該第2増幅器(A)に接続され、増幅された第1電信号中の所定の周波数閾値よりも低い信号成分を除去し、前記第2電信号を生成するハイパスフィルタと、を備え、リセット信号が有効な場合、第1スイッチ(K)をオンし、リセット信号がキャンセルされると、第1スイッチ(K)をオフするA4に記載の画素収集回路。A14、前記フィルタ増幅モジュールは、第1端子が前記光電検出ユニットの出力端子に接続される第1コンデンサ(C)と、第1端子が第1コンデンサ(C)の第2端子に接続される電流複製器(P)と、入力正極が固定電位に接続され、入力負極が電流複製器(P)の第2端子に接続される第2増幅器(A)と、いずれも第2増幅器(A)の入力負極と出力端子との間に並列接続される第2コンデンサ(C)、第1スイッチ(K)及び第3抵抗器(R)と、を備え、リセット信号が有効な場合、第1スイッチ(K)をオンし、リセット信号がキャンセルされると、第1スイッチ(K)をオフするA4に記載の画素収集回路。A15、前記閾値比較モジュールは、反転入力端子が前記第1閾値を提供する信号ラインに接続され、非反転入力端子が前記フィルタ増幅モジュールの出力端子に接続される第1電圧コンパレータ(VC)を備えるA4に記載の画素収集回路。A16、前記閾値比較モジュールは、非反転入力端子が前記第2閾値を提供する信号ラインに接続され、反転入力端子が前記フィルタ増幅モジュールの出力端子に接続される第2電圧コンパレータ(VC)を備えるA4に記載の画素収集回路。A17、前記閾値比較モジュールは、反転入力端子が前記第1閾値を提供する信号ラインに接続され、非反転入力端子が前記フィルタ増幅モジュールの出力端子に接続される第1電圧コンパレータ(VC)と、非反転入力端子が前記第2閾値を提供する信号ラインに接続され、反転入力端子が前記フィルタ増幅モジュールの出力端子に接続される第2電圧コンパレータ(VC)と、第1入力端子が第1電圧コンパレータの出力端子にカップリングされ、第2入力端子が第2電圧コンパレータの出力端子にカップリングされ、前記第1電圧コンパレータの出力及び前記第2電圧コンパレータの出力に対してOR論理演算を行うORゲートと、を備えるA4に記載の画素収集回路。A18、前記閾値比較モジュールは、第1入力端子にプルダウンコンデンサである第3コンデンサ(C)が接続され、第2入力端子にプルダウンコンデンサである第4コンデンサ(C)が接続され、第1入力端子と第2入力端子の差圧値信号を出力する差圧コンパレータ(VD)と、第3コンデンサ(C)と前記フィルタ増幅モジュールの出力端子との間に設置される第2スイッチ(K)と、第3コンデンサ(C)と第4コンデンサ(C)との間に順番に直列接続される第1キャッシュ(B)及び第3スイッチ(K)と、反転入力端子が前記第1閾値を提供する信号ラインに接続され、非反転入力端子が差圧コンパレータの出力端子に接続される第1電圧コンパレータ(VC)と、非反転入力端子が前記第2閾値を提供する信号ラインに接続され、反転入力端子が差圧コンパレータの出力端子に接続される第2電圧コンパレータ(VC)と、第1入力端子が第1電圧コンパレータの出力端子にカップリングされ、第2入力端子が第2電圧コンパレータの出力端子にカップリングされ、出力端子が前記第3スイッチ(K)にカップリングされるORゲートと、を備え、前記差圧コンパレータによって出力される差圧値信号が第1閾値よりも大きい又は第2閾値よりも小さい場合、該閾値比較モジュールは前記オプティカルフロー情報計時トリガー信号を出力し、且つ時間順番に第2スイッチ(K)をオフし、第3スイッチ(K)をオンし、第3スイッチ(K)をオフし、第2スイッチ(K)をオンするA4に記載の画素収集回路。A19、前記オプティカルフロー情報計時ユニットは、いずれも第4スイッチ(K)と固定電位との間に並列接続される第5スイッチ(K)、第5コンデンサ(C)及び第3トランジスタ(T)と、第1端子が並列接続される第5スイッチ(K)、第5コンデンサ(C)及び第3トランジスタ(T)に接続され、第2端子が別の固定電位に接続される第4スイッチ(K)と、を備え、リセット信号が有効な場合、第5スイッチ(K)をオンするA1に記載の画素収集回路。A20、前記オプティカルフロー情報計時ユニットは、いずれも第4スイッチ(K)と固定電位との間に並列接続される第5スイッチ(K)、第5コンデンサ(C)及び第4抵抗器(R)と、第1端子が並列接続される第5スイッチ(K)、第5コンデンサ(C)及び第4抵抗器(R)に接続され、第2端子が別の固定電位に接続される第4スイッチ(K)と、を備え、リセット信号が有効な場合、第5スイッチ(K)をオンするA1に記載の画素収集回路。
【0089】
B23、前記オプティカルフロー情報読み出しユニットは、1本のオプティカルフロー出力行選択線を介して前記画素収集回路アレイ中の1行の画素収集回路にカップリングされるオプティカルフロー出力行スキャナーと、時間信号スキャナーと、オプティカルフロー出力行スキャナーを、画素収集回路アレイ中のオプティカルフロー出力行選択線を行ごとに有効にセットするように指示し、時間信号スキャナーを、該行の画素収集回路によって出力される計時信号を順番に読み取るように指示するオプティカルフロー読み出しコントローラと、を備えるB21又は22に記載のオプティカルフローセンサー。B24、前記画像情報読み出しユニットは、1本の画像出力行選択線を介して前記画素収集回路アレイ中の1行の画素収集回路にカップリングされる画像出力行スキャナーと、第1電信号スキャナーと、画像出力行スキャナーを、画素収集回路アレイ中の画像出力行選択線を行ごとに有効にセットするように指示し、第1電信号スキャナーを、該行画素収集回路が出力した第1電信号を順番に読み取るように指示する画像読み出しコントローラと、を備えるB22に記載のオプティカルフローセンサー。B25、前記グローバル制御ユニットは、オプティカルフロー情報リセット線を介して前記画素収集回路アレイ中の各画素収集回路にカップリングされ、リセット信号を生成するオプティカルフロー取得モジュールを備えるB24に記載のオプティカルフローセンサー。B26、前記グローバル制御ユニットは、画像情報収集ラインを介して前記画素収集回路アレイ中の各画素収集回路にカップリングされ、画像情報収集信号を生成する画像取得モジュールをさらに備えるB24に記載のオプティカルフローセンサー。
【0090】
また、当業者であれば、ここに記載されるいくつかの実施例はほかの特徴ではなく、ほかの実施例に含まれるいくつかの特徴を含むにもかかわらず、異なる実施例の特徴の組み合わせは本発明の範囲内に属し且つ異なる実施例を形成すると理解できる。例えば、以下の特許請求の範囲では、主張する実施例のいずれかを任意な組み合わせ方式で使用してもよい。
【0091】
また、前記実施例のうちのいくつかは、ここでは、コンピュータシステムのプロセッサ又は前記機能を実行するほかの装置に実施可能な方法又は方法の要素の組み合わせとして説明されている。従って、前記方法又は方法の要素を実施するための必要な命令を有するプロセッサは該方法又は方法の要素を実施するための装置を形成する。また、装置の実施例のここで記載される要素は、該発明の目的を実施するための要素によって実行される機能を実施するための装置の例である。
【0092】
ここで使用されるように、特に断らない限り、「第1」、「第2」、「第3」等の序数詞を使用して普通の対象を説明する場合、単に係る類似対象の異なる例を示し、このように説明される対象が必ず時間、空間、ランキング又はほかの任意の方式での特定の順序を有することを暗示しない。
【0093】
限られた実施例を参照しながら本発明を説明したが、以上の説明からわかるように、当業者は、ここで説明される本発明の範囲を逸脱せずに、ほかの実施例を想到し得ると理解できる。また、なお、本明細書に使用される言語は主に可読性及び教示の目的のために選択され、本発明の主題を説明又は限定するためのものではない。従って、添付特許請求の範囲の範囲及び精神を逸脱せずに、当業者には種々の修正や変更が明らかになる。本発明の範囲について、本発明は制限的ではなく例示的に開示されており、本発明の範囲は添付特許請求の範囲によって定められる。
図1
図2A
図2B
図2C
図2D
図3A
図3B
図3C
図3D
図3E
図3F
図4
図5A
図5B
図5C
図5D
図6A
図6B
図6C
図6D
図7A
図7B
図7C
図7D
図8A
図8B
図9
図10