特許第6023166号(P6023166)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ フィリップス ライティング ホールディング ビー ヴィの特許一覧

<>
  • 特許6023166-光検出システム及び方法 図000006
  • 特許6023166-光検出システム及び方法 図000007
  • 特許6023166-光検出システム及び方法 図000008
  • 特許6023166-光検出システム及び方法 図000009
  • 特許6023166-光検出システム及び方法 図000010
  • 特許6023166-光検出システム及び方法 図000011
  • 特許6023166-光検出システム及び方法 図000012
  • 特許6023166-光検出システム及び方法 図000013
  • 特許6023166-光検出システム及び方法 図000014
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6023166
(24)【登録日】2016年10月14日
(45)【発行日】2016年11月9日
(54)【発明の名称】光検出システム及び方法
(51)【国際特許分類】
   H04B 10/116 20130101AFI20161027BHJP
   H04N 5/225 20060101ALI20161027BHJP
   H04N 5/232 20060101ALI20161027BHJP
   H05B 37/02 20060101ALN20161027BHJP
【FI】
   H04B9/00 116
   H04N5/225 Z
   H04N5/232 Z
   !H05B37/02 Z
【請求項の数】12
【全頁数】15
(21)【出願番号】特願2014-500526(P2014-500526)
(86)(22)【出願日】2012年3月22日
(65)【公表番号】特表2014-515892(P2014-515892A)
(43)【公表日】2014年7月3日
(86)【国際出願番号】IB2012051370
(87)【国際公開番号】WO2012127439
(87)【国際公開日】20120927
【審査請求日】2015年3月18日
(31)【優先権主張番号】11159149.1
(32)【優先日】2011年3月22日
(33)【優先権主張国】EP
(73)【特許権者】
【識別番号】516043960
【氏名又は名称】フィリップス ライティング ホールディング ビー ヴィ
(74)【代理人】
【識別番号】110001690
【氏名又は名称】特許業務法人M&Sパートナーズ
(72)【発明者】
【氏名】デ ブルーイン フレデリク ヤン
(72)【発明者】
【氏名】ブルテルス ルード
(72)【発明者】
【氏名】フェリ ロレンツォ
(72)【発明者】
【氏名】スヘンク ティム コルネール ウィルヘルムス
(72)【発明者】
【氏名】リートマン ロナルド
【審査官】 前田 典之
(56)【参考文献】
【文献】 特表2010−533950(JP,A)
【文献】 米国特許出願公開第2009/0084847(US,A1)
【文献】 特表2008−533591(JP,A)
【文献】 米国特許出願公開第2010/0147952(US,A1)
【文献】 特開2009−130771(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04B 10/116
H04N 5/225
H04N 5/232
H05B 37/02
(57)【特許請求の範囲】
【請求項1】
発される光の特性における変調の時系列として発される第1の埋め込みコードを有する光寄与を供給する第1の光源を少なくとも具備する照明システムによって照明された場面の少なくとも1つのイメージを取得するローリングシャッタカメラであって、前記イメージが、各画素が前記場面内の異なる物理位置における前記照明システムの総光出力の強度を表す画素のマトリクスを有するとともに、前記イメージが、各々が前記第1の埋め込みコードの前記変調の時系列異なるインスタンスをサンプリングする前記画素のラインを有する、時間的にシフトされた複数のラインインスタンスとして得られ、前記ラインが、前記変調の時系列に対応する変調の空間パターンを生じさせるように、隣接するライン間で時間遅延を伴う異なる時間インスタンスにおいて、時間的にライン毎に露光される、前記ローリングシャッタカメラと、
前記変調の空間パターンから前記第1の埋め込みコードを決定する処理ユニットと、
を有する、光検出システム。
【請求項2】
前記処理ユニットは、前記の各ラインインスタンスに沿った画素値の組み合わせに基づいて、前記第1の埋め込みコードを決定する、請求項1記載の光検出システム。
【請求項3】
前記ラインインスタンスに沿った画素値の組み合わせは、前記得られたイメージの少なくとも1つの所定のサブ領域に制約される、請求項1又は2に記載の光検出システム。
【請求項4】
前記所定のサブ領域の選択は、前記第1の埋め込みコードに関連付けられる変調の予期される空間パターンと整合するフィルタカーネルを有するフィルタで前記イメージを畳み込み積分することによって実行される、請求項3記載の光検出システム。
【請求項5】
前記ラインの各々は、前記マトリクスの前記画素の行を構成する、請求項1記載の光検出システム
【請求項6】
前記画素の行の異なる時間インスタンスにおける露光空間的に単調な順序で発生する、請求項記載の光検出システム。
【請求項7】
前記光検出システムは、取得された前記イメージにおいて複数の光源からの寄与検出及び解析し、各光源の各光寄与は、発される光の特性における変調の時系列として発される埋め込まれた一意のコードを有する、請求項1乃至のいずれか1項に記載の光検出システム。
【請求項8】
前記得られたイメージの焦点ぼけを供給するための光システムを更に有する、請求項1乃至のいずれか1項に記載の光検出システム。
【請求項9】
前記光システムは、前記焦点ぼけされた取得イメージにおけるパターンを供給するための開口マスク素子を有する、請求項記載の光検出システム。
【請求項10】
前記開口マスク素子の空間形状は、異なる光源由来の空間的に離れた光寄与のために選択される、請求項記載の光検出システム。
【請求項11】
前記第1の埋め込みコードは、一定間隔でパケットとともに繰り返し送信される、連続的に繰り返されるデータストリーム、パケット化されたデータストリーム、及び、不規則間隔でパケットとともに繰り返し送信される、パケット化されたデータストリームのうちのいずれかである、請求項1乃至10のいずれか1項に記載の光検出システム。
【請求項12】
前記発される光の特性は、強度変調及び色変調のいずれかである、請求項1乃至11のいずれか1項に記載の光検出システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、概して、照明光検出システムの分野、より具体的には、かかる照明システムの光出力に埋め込まれたデータを検出するためのシステム及び方法に関する。
【背景技術】
【0002】
近年、特定の部屋又は空間のための所望の雰囲気をユーザが得られるようにするため、高度に進んだ照明システムが開発されている。いわゆる場面設定が採用されるこれらの照明システムでは、例えば、スイッチのオン/オフ、調光、及び、色設定について個別に光源が制御される従来の制御に対し、1又は複数の光源のセットが同時に制御される。これらの場面設定アプリケーションのため、直感的なユーザ相互作用が、重要な成功要因である。個々の光源、各光源の能力、及び、各光源の現在の設定についての局所化された識別のような光源に関する情報をユーザに供給することは、直感的な相互作用を可能とするためのキーポイントである。
【0003】
かかる情報をユーザに供給するために、符号化された光(CL:Coded Light)に基づく技術が提案されてきた。CLは、光源の光出力にデータを埋め込むことに基づいている。光源の光出力は、一般的に、例えば、光源を識別するための識別コード、又は、どの光源がどの光源のグループに属しているかを識別するための識別コードを含み得る、繰り返しのデータ信号に応じて変調されている。変調は、一般的に、人間が感知できないほど十分に高い周波数で起こっている。各光源を一意に変調することによって、複数の光源からの光寄与の同時検出が可能である。(理論的には)制限のない数の光源の同期検出及び非同期検出の両方を可能する、連続的な変調及び二値変調などの様々な方法が存在する。
【発明の概要】
【発明が解決しようとする課題】
【0004】
従前、例えば、個々の光源を指して、識別コードを読み出すなど、CL技術を照明システムのコミッショニングのために用いる方法が示されてきた。
【0005】
光源の光出力における識別コードなどの埋め込みデータは、例えば、ランプを制御するためのリモートコントロール内に実装され得る、あるいは、スイッチ又はセンサ装置などの他のユニット内に含まれる光受信器によって検出され得る。これは、単一の位置において存在している埋め込みデータのみが検出され得るという欠点を有する。対照的に、ひと続きの2次元(2D)の場面を、存在している識別コードに関してリアルタイムで特徴付け、光場面において異なる光源の識別コードを区別することが望ましい。
【0006】
場面のイメージ内の複数の位置において存在している埋め込みデータを決定することができるカメラセンサが提案されてきた。しかしながら、カメラセンサを用いる従前の技術の欠点は、連続するイメージの取得に要する時間が、一般的に、埋め込みコード内の単一のビットの継続時間(duration)以下であるということである。埋め込みコードの連続ビットは、カメラの連続的な取得において得られた結果を分析することによって検出される。これは、高い取得率を供給できる高度な、従って高価なカメラの使用を必要とする。従来の低コストのカメラセンサは、一般的に、取得率が低すぎて、人間の目に見えない埋め込みデータ、即ち、高周波CLを検出するのに有用ではない。
【0007】
従って、当該技術分野において、上記問題の少なくとも幾つかを対処する、光源の光出力に埋め込まれたCLを検出するための技術に対する要求が存在する。
【課題を解決するための手段】
【0008】
本発明の目的は、上記問題を克服すること、及び、2Dの場面に存在している異なる光源の埋め込みコードの識別を可能とする態様で、光源の光出力に埋め込まれた2DのCLを検出可能な光検出システム及び方法を提供することである。また、本発明は、従来技術において使用される高価なカメラを用いることなく、高周波CLを検出するのに適した検出システム及び方法を提供することも目的としている。
【0009】
この目的は、添付の独立請求項1に記載の本発明に従った光検出システム、及び、独立請求項14に記載の対応する方法によって達成される。好ましい実施形態が、従属請求項、並びに、以下の説明及び図面において記載されている。
【0010】
従って、本発明の概念によれば、発される光の特性における変調の時系列として発される第1の埋め込みコードを有する光寄与を供給する第1の光源を少なくとも具備する照明システムによって照明された場面の少なくとも1つのイメージを取得するように構成された光検出手段を有する光検出システムが供給される。上記イメージは、各画素が場面内の異なる物理位置における照明システムの総光出力の強度を表す画素のマトリクスを有する。上記イメージは、各々が第1の埋め込みコードの変調の時系列のインスタンスを有する、時間的にシフトされた複数のラインインスタンスによって取得される。上記光検出システムは、変調の空間パターンから第1の埋め込みコードを決定するように構成された処理手段を更に有する。
【0011】
このため、2Dイメージにおける場面から出力される光をキャプチャする光検出システムが提供され、ここで、時間的にシフトされたラインインスタンスが光標本モーメントとして機能する。イメージキャプチャプロセスにおける光検出手段での連続的な行(row)のキャプチャにおける時間的なシフトは、上記変調光源又は光源自身で照明されたオブジェクトの部分に対応する場面の最終的なキャプチャイメージにおける領域のための画素値におけるライン方向の変化(line-wise variation)を上昇させる。画素値におけるライン方向の変化は、照明されたオブジェクトにおけるイメージの上部に重畳された水平ラインのパターンを構成する。符号化された光におけるメッセージ、即ち、埋め込みコードの復号は、変調光源のオリジナルの強度変化に関連付けられる一次元(1D)の信号の復調を必要とする。
【0012】
ライン毎のイメージ取得に基づくイメージ取得を用いることによって、また、イメージのライン周波数が、対応する映像フレームレートよりも高い10から10のオーダにあることになるので、変調光の一時的なサンプルレートが、同じオーダだけ増加する。これにより、光検出システムが、単一のフレーム時間内の複数のチャネルビットを測定することによって、著しく短縮化された測定時間を供給するように設けられる。当該システムは、ローリングシャッタイメージキャプチャ、即ち、イメージセンサとローリングシャッタ手段とを有する光検出手段に基づいていてもよい。これは、一般的に、携帯機器において現在使用される低コストのイメージセンサに属し、従って、検出システムのための低コストのソリューションを供給する。さらに、ローリングシャッタイメージキャプチャの使用は、現在のスマートフォンを、例えば、公的又は私的な領域の照明に存在している符号化光に含まれる情報を利用するアプリケーションの世界を開く符号化光検出器に変身させることを可能とする。現在の電話の追加的な無線接続(Wi-Fi(登録商標)、Bluetooth(登録商標))は、制御信号のフィードバックのための様々な機会を提供する。光に符号化されたデータを検出することに加えて、イメージセンサは、観測される場面に対する個別の光寄与に関する空間情報を供給し続ける。
【0013】
光検出システムの一実施形態によれば、処理手段は、各ラインインスタンスに沿った画素値の組み合わせに基づいて第1の埋め込みコードを決定するように構成される。従って、(2D)イメージからの1Dの信号の復調は、取得イメージの各行(row)に沿った画素値の組み合わせに基づいている。画素値の組み合わせは、各行に沿った、即ち、各ラインインスタンスに沿った画素値の累積的な総和、又は、平均であってもよい。
【0014】
光検出システムの一実施形態によれば、ラインインスタンスに沿った画素値の組み合わせは、取得イメージの少なくとも1つの所定のサブ領域に制限される。行方向の画素値の組み合わせを、場面内の照明されたオブジェクトに対応するイメージにおける領域などの所定のサブ領域に制限することによって、復調された信号の信号対雑音比(SNR)が改善され得る。これらの関連するイメージ領域の選択は、幾つかの態様で実行されてもよいが、最も単純な態様は、イメージにおける最も明るい領域の選択である。復調された1Dの信号からのメッセージの復号は、電気的コンピュータネットワークにおいて用いられる方法を利用して行なわれてもよい。
【0015】
光検出システムの一実施形態によれば、所定のサブ領域の選択は、上記第1の埋め込みコードに関連する変調の予期される空間パターンに整合するように構成されたフィルタカーネルを具備するフィルタでイメージを畳み込むことによって実行される。当該フィルタは、1D又は2Dのフィルタであってもよく、従って、当該フィルタは、フィルタカーネルが光変調信号の特性に関連する予期される強度パターンに整合するように、構成される。
【0016】
光検出システムの一実施形態によれば、光検出手段は、画素の相補群が異なる時間インスタンスにおいて読み出される画素マトリクスを具備するイメージセンサを有する。これは、ひとまとまりの行又は列である補償的な画素群を読み出す必要がないため、好適であるが、早い読み出しを与えるためには、選択された数の画素が単に読み出される必要がある。変調光からのコード復調は、好適には、画素群の時系列が既知である場合に実行されてもよい。各画素群が、隣接する画素で構成される必要はないことに留意する。
【0017】
光検出システムの一実施形態によれば、画素の各相補群は、イメージセンサの画素マトリクスの画素の行を構成する。この場合、センサの画素行の連続的な読み出しを実行する際、読み出しの時系列は、必ずしも、画素表の空間的順序に対応する必要はなく、このことは好適である。
【0018】
光検出システムの一実施形態によれば、光検出手段は、画素マトリクスを具備するイメージセンサを有し、ラインインスタンスは、画素マトリクスからの連続する行の読み出しに対応する。
【0019】
光検出システムの一実施形態によれば、画素の行の異なる時間インスタンスにおける読み出しは、隣接する時間インスタンスが空間的に隣接する画素の行に対応するように、空間的に単調な順序で発生する。この場合、例えば、各ラインインスタンスがイメージセンサの画素マトリクスの行読み出しに対応する場合、通常のローリングシャッタ読み出しが得られる。
【0020】
光検出システムの一実施形態によれば、光検出システムは、複数の光源からの寄与を有する取得イメージを検出及び解析するように構成され、各光源の各光寄与は、発される光の特性における変調の時系列として発される埋め込まれた一意のコードを有する。
【0021】
光検出システムの一実施形態によれば、光検出システムは、取得イメージの焦点ぼけを供給するための光システムを更に有する。
【0022】
光検出システムの一実施形態によれば、光システムは、焦点ぼけした取得イメージにおけるパターンを供給するための開口マスク素子を有する。
【0023】
光検出システムの一実施形態によれば、開口マスク素子の空間形状は、異なる光源由来の空間的に離れた光寄与のために選択される。
【0024】
光検出システムの一実施形態によれば、時間的にシフトされたラインインスタンスのライン読み出し間の選択された時間遅延のために、光検出手段の露光時間は、ライン読み出し間の選択された時間遅延よりも長くなるように選択される。
【0025】
光検出システムの一実施形態によれば、時間的にシフトされたラインインスタンスのライン読み出し間の選択された時間遅延のために、光検出手段の露光時間は、ライン読み出し間の選択された時間遅延と同じになるように選択される。
【0026】
光検出システムの一実施形態によれば、時間的にシフトされたラインインスタンスのライン読み出し間の選択された時間遅延のために、光検出手段の露光時間は、ライン読み出し間の選択された時間遅延よりも短くなるように選択される。
【0027】
光検出システムの一実施形態によれば、光検出手段は、ローリングシャッタカメラである。
【0028】
光検出システムの一実施形態によれば、埋め込みコードは、一定間隔でパケットとともに繰り返し送信される、連続的に繰り返されるデータストリーム、パケット化されたデータストリーム、及び、不規則間隔でパケットとともに繰り返し送信される、パケット化されたデータストリームのうちのいずれかである。
【0029】
光検出システムの一実施形態によれば、発される光の特性は、強度変調及び色変調のいずれかである。
【0030】
本発明の概念の他の側面によれば、照明システムにおける第1の光源の光寄与が場面内の選択された位置において存在するか否かを決定するための方法であって、前記第1の光源の前記光寄与が、発される光の特性における変調の時系列として発される第1の埋め込みコードを有し、前記方法は、前記光寄与の時間的にシフトされたラインインスタンスを取得するステップと、前記変調の空間パターンから前記第1の埋め込みコードを決定するステップとを有する、方法が提供される。
【0031】
ここで用いられるように、「画素」なる用語は、場面内の特定の点に対応するイメージデータの単位を表す。イメージデータは、場面内の異なる点における照明システムの総光出力の強度(又はその派生物)を有する。イメージデータを画素の行及び列で配置することは、3次元(3D)の場面を2Dのイメージで表す態様の1つである。
【0032】
本発明の、これらの及び他の側面、特徴、及び、利点が、後述される実施形態を参照して明りょう且つ明らかになるであろう。本発明は、請求項に記載の特徴の全ての可能な組み合わせに関することに留意すべきである。
【図面の簡単な説明】
【0033】
本発明の、この及び他の側面が、本発明の実施形態を示している添付の図面を参照して、より詳細に説明されるであろう。
図1図1は、本発明の概念に従った光検出システムの実施形態が採用される照明システムの概略図である。
図2図2は、本発明の概念に従った光検出システムの一実施形態の概略的なブロック図である。
図3図3aは、映像ストリーミングモードにおける一般的なグローバルシャッタカメラの時間図であり、図3bは、映像ストリーミングモードにおける一般的なシャッタカメラの時間図である。
図4図4は、本発明の概念に従った光検出システムにおいて用いられるような光強度変調の平均周波数に関する長い露光時間を示す時間図である。
図5図5は、時間領域及びフーリエ変換後の周波数領域における信号表現を示している。
図6図6は、本発明の概念に従った光検出システムにおいて用いられるような光強度変調の平均周波数に関する短い露光時間を示す時間図である。
図7図7は、本発明の概念に従った光検出システムにおいて用いられるような光強度変調の平均周波数に関する極めて短い露光時間を示す時間図である。
図8図8は、光変調信号、即ち、埋め込みコードの特性に関連する予期される強度パターンに整合するフィルタカーネルを有するフィルタ動作の使用を示している。
【発明を実施するための形態】
【0034】
本発明が、以下、添付の図面を参照して、より完全に説明されるであろう。以下の実施形態は、本開示が、詳細且つ完全であり、当該技術分野における当業者に対して本発明の範囲を完全に伝達するような例として与えられる。同様の番号は、本明細書を通じて同様の要素を表す。
【0035】
図1は、照明システム110が設置された構造(ここでは部屋)100を示している。照明システム110は、3つの光源111,112,113と、光源111,112,113を制御するための1又は複数の制御ユニットとを有する。ここで、照明システムは、ユーザが光源を制御できるようにするためのリモートコントロール150を有する。光源は、高圧/低圧ガス放電源、レーザダイオード、無機/有機発光ダイオード、蛍光灯源、又は、ハロゲン源などの任意の適切な光の源を有していてもよい。動作中、各光源111,112,113から個別に供給される光出力I111,I112,I113は、構造100の照明のための照明システムの総光出力にそれぞれ寄与する。構造における様々な光源111,112,113からの照明の寄与は、ここでは、フットプリント114,115として示されている。光源からの当該フットプリントは、重なっていてもよい。各光源は、光出力Iが、一般的に、個別の光源から発される光の特性における変調の時系列として発される埋め込みコードである、個別の識別コードID#1〜ID#3を有するように変調される。変調光は、現在の光設定、及び/又は、他の情報などの光源に関する他の情報を更に有していてもよいが、単純化のために、ここでは、本発明の概念の基本的なアイデアを示すために、識別コードのみが議論されている。識別コードは、Nシンボル(例えばビット)の繰り返しシーケンスを有する。以下の説明では、シンボルは、ビットとして表される。しかしながら、「ビット」なる用語が本願において用いられる場合であっても、「シンボル」のより広い定義が、単一のシンボルによって表される複数のビットを有していてもよいことが理解されるべきである。この一例は、データを埋め込むために0及び1だけが存在するのではなく複数の個別レベルが存在する、マルチレベルシンボルである。照明システムの総光出力は、各々が個別の光源から発せられる複数の識別コードを含んでいてもよい。
【0036】
当該技術分野における当業者にとって既知である、光源の光出力にコードを埋め込むための様々な技術があるが、ここでは、詳細に議論しない。
【0037】
以上を踏まえ、リモートコントロール150は、本発明の概念に従った光検出システムを有しており、このことは、図2に概略的に示されている。光検出システム200は、場面のイメージ、即ち、この例示的な実施形態では、リモートコントロールがユーザによって向けられる、構造100の領域のイメージを取得するためのイメージセンサ210を有している。さらに、光検出システムは、イメージセンサ210のタイミング、露光時間、及び、露光領域を選択するためのシャッタ220と、処理ユニット230と、オプションのメモリ240とを有している。また、光検出システムは、オプションで、光システム250を有していてもよい。イメージを取得する場合、シャッタ220が開かれ、イメージを取得しない場合、シャッタ220は閉じられる。取得イメージは、各画素が、場面内の異なる物理位置における照明システムの総光出力の強度を表す、画素のマトリクスを有する。処理ユニット230は、例えば、(i)イメージセンサ210の分解能(即ち、各イメージ/イメージ部分に含まれる画素数)、(ii)何個の光源が照明システムに含まれているか、及び、(iii)それらの光源が同期的に動作するのか、又は、非同期的に動作するのか、に依存して、場面内の特定の部分に存在している光源識別コードを決定するために、取得イメージ(イメージの行(row))に含まれるデータを処理する異なる方法を実行するように構成されている。
【0038】
光検出システムで実装される方法のために、処理ユニット230は、識別コード、又は、識別コードの派生物、即ち、識別コードに関する情報から得られるパラメータに対してアクセス可能である。
【0039】
光検出システムの一実施形態によれば、識別コードは、光検出システムによって最初は知られていない。この場合、光検出システムは、変調光内にメッセージを符号化するために用いられるプロトコルの知識のみを有する。使用されるプロトコルが前もって既知でない場合、光検出システムは、符号化された光の中のメッセージを復号できるように、使用されるプロトコルを理解できるように構成される。
【0040】
例示の実施形態における光検出システムは、リモートコントロール内に配置されているが、例えば、壁に設置されるか、又は、任意の他の便利な態様で、構造内に組み込まれていてもよい。
【0041】
シャッタ220は、本発明の概念では、ローリングシャッタタイプであり、機械的又は電気的なシャッタであってもよい。ローリングシャッタ220及びイメージセンサ210は、一体化されていてもよく、以下では、ローリングシャッタイメージセンサ又はビデオカメラとして表される。
【0042】
ローリングシャッタイメージセンサは、一般的に、空間分解能の要求が(HD)ビデオの空間分解能の要求を超える写真撮影において用いられる。ローリングシャッタイメージキャプチャは、各ラインの露光後のイメージセンサのライン毎のデータ転送から得られる一方、グローバルシャッタセンサにおいては、全ての画素行が同時にリセット及び露光される。露光の最後において、グローバルシャッタセンサの全ての行が、同時に、イメージセンサの暗い領域に移動される。次いで、画素が、行毎に読み出される。グローバルシャッタセンサのように全ての画素を同時に露光することは、高速で動いているオブジェクトを、幾何学的な歪みなしでキャプチャできるという利点を有する。グローバルシャッタシステムを用いるイメージセンサは、ローリングシャッタセンサよりも設計上、複雑である。
【0043】
次いで、図3は、一般的なグローバルシャッタシステムのための時間図(図3a)と、映像ストリーミングモードにおける一般的なローリングシャッタシステムのための時間図(図3b)とを、それぞれ示している。ここではカメラにおけるCMOSセンサであるイメージセンサにおける画素は、まず、第1のステップSにおいてリセットされ、その後、ステップSにおいて場面からの光に対して露光され、次いで、電荷移動のステップSが実行され、最後に、ステップSにおいて画素が読み出される。グローバルシャッタシステム及びローリングシャッタシステムの2つの主な原理が図示されている。
【0044】
ここで、図3aを参照すると、グローバルシャッタシステムでは、フレーム期間中、まず、全ての行における全ての画素がリセットされ(S)、次に、全ての行Rが露光時間Tの間、同時に露光され(S)、電荷移動が行なわれ(全ての行がセンサの暗い領域に同時に移動される)(S)、最後に、読み出し時間Tの間、行毎に読み出される(S)。
【0045】
ここで、図3bを参照すると、ローリングシャッタシステムでは、フレーム期間中、まず、画素の各行Rが、リセットされ(S)、次に、露光時間Tの間、同時に露光され(S)、電荷移動が行なわれ(行がセンサの暗い領域に同時に移動される)(S)、最後に、読み出し時間Tの間、読み出される(S)。行は、リセット及び露光され、次々に読み出される。ローリングシャッタセンサは、グローバルシャッタCMOSセンサよりも高い画素密度を提供する。後続のラインの順次的な露光は、隣接する行の露光間における時間遅延につながる。このことは、移動しているオブジェクトのキャプチャされたイメージを歪ませる。
【0046】
さらに、本発明の概念では、ローリングシャッタイメージセンサにおける行の後続の露光間で照明が変化する場合のライン方向のアーチファクトの導入が、ここでは、変調光光源における識別コードによって実証される高周波変調光信号を捉えるために、利用される。
【0047】
本発明の概念に従った光検出システムの例示的な実施形態では、図2を参照して説明されたように、シャッタ220及びイメージセンサ210が、ここでは、カメラとして表されるローリングシャッタイメージセンサである。場面のイメージを捉える際に作られるライン方向のアーチファクトは、フレームリフレッシュ周波数又はカメラのフレームレートをはるかに超えて、照明システム100の光出力における時間的な光の変化を区別する機構を供給するために用いられる。例示の実施形態では、映像フレームレートは、25Hz乃至60Hzの範囲内で選択されている。この範囲は、10000Hz乃至20000Hzオーダのライン読み出し周波数を供給する。ライン読み出し周波数は、一時的なサンプルレート、ひいては、変調された光信号の明確な副長のための一時的なバンド幅制限を決定し、これは、サンプル周波数の半分(ナイキスト周波数)までの信号のみがサンプル化されたデータから復調可能であることを述べているナイキストのサンプル理論によって供給される。ここで、ライン読み出し間の時間遅延によって決定されるサンプル周波数fsは、以下の式(1)で示される。
【数1】
【0048】
変調された光信号の復調に影響を及ぼす第2の側面は、センサの露光時間Tである。この段落では、3つの状況について議論する。以下の式(2)に示すような長い露光時間
【数2】
では、大きな露光時間は、高速な光変調の検出能を劣化させる傾向にあるが、露光時間を賢く選択することによって、ナイキスト周波数よりも小さい妨害信号を抑圧することができる。以下の式(3)に示すような「適切な」露光時間
【数3】
は、ナイキスト周波数よりも小さいバンド幅が制限された光変調の検出のために最適な選択である。以下の式(4)に示すような短い露光時間
【数4】
では、ナイキスト周波数を超える光変調を検出するためのオプションを供給する。
【0049】
これらの3つの可能な動作モードが、以下において詳述される。
【0050】
図4では、露光時間がライン読みだし間における遅延よりも極めて長い一般的な状況が図示されている。明確化のために、また、一般の適用性を損なうことがないように、図3a及び図3bで図示されたようなリセット時間及び電荷移動時間については無視する。サンプリングプロセスは、等距離ディラック関数のコーム乗算として考えることができる。露光プロセスは、変調された光信号と露光時間の継続時間を具備する時間的な矩形フィルタとの畳み込みとして表現され得る。周波数領域では、これは、信号スペクトルがシンク関数によって乗算されることを引き起こす。このことは、連続したライン間の特定の時間遅延が与えられる異なる露光時間設定のフィルタリング効果を示す図5に図示されている。左側の図は、時間の関数として信号値を図示しており、右側の図は、周波数の関数としてフーリエ変換の係数を図示している。露光時間を大きくするために、このフィルタは、次第に、ナイキスト周波数までの周波数範囲においてゼロを作るとともに、それ以外では信号振幅を減衰させることによって、変調された光信号の高周波成分を抑圧する。ナイキスト周波数未満におけるゼロの発生は、周波数範囲においてゼロの位置に存在している妨害信号を抑圧するために用いられる。
【0051】
図6は、光強度変調の周波数について短い露光時間を示している。ここで、(S)の間、露光時間Tは、データ転送時間、即ち、(S)の間の読み出し時間Tに等しい。このことは、サンプルレートの半分までの信号の取得を可能にする。露光時間が読み出し時間と等しい(T=T)場合、シンク関数の最初のゼロは、サンプル周波数の倍数において現れる。ナイキスト周波数までの基本周波数帯では、シンク応答の中央ローブの振幅降下は、容易に補正可能である適度な高周波減衰を発生させる。
【0052】
図7は、(S)の間、光強度変調の周波数について極めて短い露光時間Tを示している。ここで、露光時間Tは、データ転送時間、即ち、(S)の間の読み出し時間Tよりも短い(即ち、T<T)。光強度信号が繰り返されるという条件では、この状況は、エイリアシングに基づいて、サンプルレートの半分よりも高い信号の検出を可能とする。露光時間がライン読み出し遅延よりも短く選択され得る場合、図7に示されるように、露光時間が読み出し時間と等しい(T=T)場合、上記中央ローブの減衰が無視できなくなる。この状況では、高周波減衰が無くなり、短い露光時間は、ラインレートを超えた検出を可能とするため、サンプル周波数をはるかに超えた高周波光変調を検出することが可能である。
【0053】
図8において、本発明の一実施形態に従って、イメージ検出のために関連のあるイメージ領域の選択用のフィルタを用いる例が示されている。所与の例において用いられるフィルタカーネルは、特定の変調周波数を具備する領域を識別することを目的としている。示されている2Dのフィルタカーネルは、(複雑な)フィルタ係数が、本質的に、ガウシアン窓によって減衰されたコサイン関数及びサイン関数である1Dのガボールフィルタに基づいている。1Dのガボールフィルタは、一般的に、特定の周波数の隔離された発生の検出のために用いられる。フィルタを水平方向に拡張することによって、再度、ガウシアン窓内で、特定のランプからの光変調が、隣接する列とほとんど等しく現れるイメージにおいてラインに関する変調を発生させるという事実を利用する。結果として生じる2Dのフィルタカーネルの実数成分及び虚数成分は、801及び802として示されている。
【0054】
二値の光変調の場合、上記方法は、データストリーム内に埋め込まれた特定のクロック信号の存在に基づいて、場面内の全ての光源を検出するために用いられ得る。一方、連続的な変調の場合、上記方法は、各々が一意の変調周波数によって特徴付けられる多数の光源から特定の光源を検出するために用いられ得る。2つの異なるランプによって照明された場面を示している例では、入力イメージ803が、複雑なガボールフィルタの2つのカーネル801,802で畳み込みこまれ、結果、振幅(係数)が804として図示される複雑な値のイメージが得られる。他のランプに対応する他の周波数によって特徴付けられる、他のガボールフィルタに反応する振幅は、805として図示されている。特定のランプの識別は、各々が異なる周波数で設計されている複数のガボールフィルタに応じた振幅の比較から得られる。局所的に最大の振幅応答を有するフィルタは、どの光源が局所的に場面に寄与しているのかを明らかにする。異なる周波数値が、光検出における非線形強度変換による高調波歪み、例えば、カメラにおけるガンマ補正に起因する曖昧な新しい周波数の発生を回避するために選択されてきた。一例として、周波数は、電話技術(いわゆるデュアルトーンマルチ周波数(DTMF)システム)におけるダイヤルトーンとして用いられる周波数群から選択されている。「L. Schenker, "Pushbutton calling with a two-group voice-frequency code", The Bell System Technical Journal, 39(1):235-255, Jan. 1960)」を参照するに、21/19のインクリメンタル要素によって分けられた、697Hz、770Hz、852Hz、941Hz、1209Hz、1336Hz、・・・などである。クラス分け結果806は、対応する光源(LED4、LED6)でラベル付けされた、検出光のフットプリントを示している。
【0055】
場面の取得イメージは、垂直方向に走査するローリングシャッタキャプチャとしてキャプチャされる。従って、光変調は、映像フレームの垂直方向においても分配される。結果として、映像フレームにおける光現象の垂直次元は、変調が観測され得る時間窓を制限する。変調光が場面を照明するので、光変調は、光源自体のイメージに現れるほか、照明された場面のイメージにも現れる。場面における個別の光寄与の空間的局所化であるキャプチャされた光フットプリントが十分に大きく、多くのイメージが十分に記録されている限り、識別コードが周期的に繰り返され、識別コードの各ビットがキャプチャされた光フットプリントにおいて最終的に現れる場合には、完全な識別コード(又は変調光において符号化された他のメッセージ)は、再構成されることができる。
【0056】
光検出システムの一実施形態によれば、当該システムは、光システム(図2の光システム250を参照)を更に有する。ビデオカメラのレンズなどの上記光システムは、検出された光、即ち、取得イメージの焦点ぼけを与えるために用いられる。光源又は照明されたフットプリントの大きさが非実際的に小さい場合、例えば、光源が発光ダイオード、LED(例えば、4つのLED)の小さいグループを有する場合、レンズは焦点外に配置される。結果として、点形状の符号化ランプでさえ、円状のぼやけたパターンを作り、これは、日本語で「ぼけ」とも称される。焦点外のレンズで場面内の点形状の光源のイメージをキャプチャする場合、当該点形状の光源からの光出力は、イメージフレームで焦点を合わせられた場合の当該光源の大きさよりも極めて大きいぼけを作る。短い露光において、適切に焦点を合わせられたイメージは、点として光源を示す(実際には、4つのLED要素を示す)。焦点外のイメージは、光源の変調に起因するラインパターンを有するぼけを示す。
【0057】
光検出システムの一実施形態によれば、光システム250は、焦点を外された検出光においてパターンを供給するための開口マスク要素(図示省略)を有する。ぼやけたパターン輪郭は、主に、一般的に円状である開口のサイズ及び形状によって決定される。しかし、円状の開口を減衰マスクにより置き換えることによって、各点形状の光は、減衰マスクのパターンを採用する。これは、符号化開口として称される。好適には、LEDのグループである光源をユス得る場合のように、開口マスク要素の空間的形状は、異なる光源由来の空間的に別個の光寄与のために選択されてもよい。ぼやけ(blur)のサイズは、オブジェクト距離と焦点距離との間の差異に対応するため、小さい開口であっても大きな焦点ぼけのパターンを作ることができる。焦点ぼけのパターン内では、変調された光のパターンが存在したままである。符号化されたカメラ開口の空間的形状は、各々が自身の一意の信号で変調された点形状の光の群(クラスタ)を適切に分離するために選択され得る。
【0058】
光検出システムの一実施形態によれば、点形状光源の形状は、各点形状を単一の支配的な方向に伸長するシリンドリカルレンズなどの非等方性(non-isotropic)光学素子、又は、各点形状をキャプチャされたイメージにおける大きな空間領域に拡散する光拡散素子を用いることにより変更される。伸長の方向として垂直方向が選択される場合、大きな空間の広がりは、より多くのコード情報を有するフラグメントを示す、より大きな時間窓を供給する。他の適切な光学素子は、拡散性素子、回折格子、及び、波面符号化レンズであってもよい。本発明の概念に従った照明システムの出力光信号のラインに関するインスタンスの使用は、信号検出のための様々な利点を有し、イメージデータを分析する際に処理手段において使用され得る。水平方向の広がりは、復調された信号の信号対雑音比が改善され、非均一的な背景による外乱が抑圧されるように、イメージ行に沿った複数の画素の累積の使用を可能とする。
【0059】
変調された光のアーチファクトを伴わない通常のイメージの復調が望ましい場合、映像フォーマット変換において一般的に適用されるデインターレースプロセスに似た、比較的単純な動作が、外乱を除去するために要求される。デインターレースは、プログレッシブイメージシーケンスを作るために、インターレースされた映像シーケンスにおいて失われたイメージ行を作るために用いられる。
【0060】
フットプリントの合成への適用においては、上述のように、イメージ処理は、異なる光寄与を隔離し、変調外乱なしに別個のイメージを再構成することができる。
【0061】
一般的に、人間による不要な光変調の感知、カメライメージにおける望ましくない信号の可視性、及び、カメラの検出能の間にはバランスがある。望ましくない人間の感知性が一般的に勝るため、第1の状態のセットが、上記方法及び光変調の特性に重畳される。アーチファクトフリーのカメライメージを保証するために、変調は、各キャプチャされたイメージにおける画素値を、一般的に、0乃至255の範囲である、画素値の量子化ステップサイズの範囲内で変化させるように選択されなければならない。行に沿った複数のはその上記累積は、変調信号の復調を可能とすることが知られている。
【0062】
別個のランプの識別、及び、他のランプ特有のデータの転送が、連続値又は二値変調スキームの両方に基づいていてもよい。
【0063】
異なるランプの分離(この文脈では、異なるランプ)は、各ランプに対する、異なる変調周波数の割り当て、又は、異なる周波数の組み合わせの割り当てに基づいていてもよい。変調の反復性は、異なる一意の光源識別コードの数が比較的小さいとすれば、小さい信号フラグメントが、異なるデータチャネルの明確な分離のために十分であるということである。異なる光寄与がセンサ上に空間的に重なる場合、この方法は、重なった信号を分離するために十分な直交性も供給することができる。
【0064】
あるいは、異なる光源識別コードの数が大きい場合、特に、各光源が時間(例えば、温度、点灯時間)とともにゆっくりと変化する追加的なデータを送信する場合、ディジタルデータ転送は、一般的に、より適している。異なる光寄与が重なる場合、同期及び非同期光源のためのチャネル分離を保証するために、ディジタル変調方法は、十分な直交性を供給するべきである。
【0065】
ローリングシャッタカメラ及び点形状検出器(例えば、フォトダイオード)による検出を可能とするために、様々な変調スキームの組み合わせが可能である。カメラベース検出の比較的低い周波数(最大10kHzまで)の性質は、一般的に、フォトダイオードによって、まだ検出可能である高周波(最大10MHzまで)変調に対して敏感である。上記ハイブリッド光変調スキームは、カメラベースセンサへの小さいデータ量と点ベースのセンサへの大きいデータ量との同時送信を可能とする。
【0066】
上記説明では、符号化光源の検出のための低コストなカメラのアプリケーションを参照して、本発明の概念が説明されたが、本発明は、これに限定されるべきではない。既存の製品(例えば、スマートフォンなど)の一部として低コストのカメラの性能の限度内で、様々な手段が、検出(短い露光時間、意図的な焦点ぼけ)を改善するために存在してきた。ローリングシャッタセンサがグローバルシャッタセンサよりも費用効率が高くあり続けるため、カスタマイズされたカメラは、照明システム自体の一部として作られてもよいし、携帯端末におけるセンサ素子として、又は、永久的な光検出システムの一部として作られてもよい。これらの場合にも、他の手段が、検出(符号化開口)を改善するために存在してきた。
【0067】
以上、添付の請求項に記載の本発明に従った光検出システムの実施形態が説明されてきた。これらは、単に非限定的な例として理解されるべきである。当業者によって理解されるように、多くの修正及び代替的な実施形態が、本発明の範囲内で可能である。
【0068】
本出願の目的のために、特に、添付の請求項に関して、「有する」なる用語は、他の要素又はステップを除外せず、また、「a」又は「an」なる用語は、複数であることを除外せず、さらに、これら自体が、当該技術分野における当業者にとって明らかであることに留意すべきである。
図1
図2
図3a
図3b
図4
図5
図6
図7
図8