(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-08-19
(45)【発行日】2024-08-27
(54)【発明の名称】赤外線(IR)カットフィルタの切替え制御
(51)【国際特許分類】
H04N 23/12 20230101AFI20240820BHJP
H04N 23/667 20230101ALI20240820BHJP
H04N 23/55 20230101ALI20240820BHJP
H04N 23/56 20230101ALI20240820BHJP
【FI】
H04N23/12
H04N23/667
H04N23/55
H04N23/56
【外国語出願】
(21)【出願番号】P 2023014743
(22)【出願日】2023-02-02
【審査請求日】2024-07-08
(32)【優先日】2022-02-08
(33)【優先権主張国・地域又は機関】EP
【早期審査対象出願】
(73)【特許権者】
【識別番号】502208205
【氏名又は名称】アクシス アーベー
(74)【代理人】
【識別番号】110002077
【氏名又は名称】園田・小林弁理士法人
(72)【発明者】
【氏名】スレッソン, アクセル
(72)【発明者】
【氏名】シンネールグレン, オラ
【審査官】櫃本 研太郎
(56)【参考文献】
【文献】米国特許第9386230(US,B1)
【文献】中国特許出願公開第112770021(CN,A)
【文献】特開2019-205088(JP,A)
【文献】特許第6732059(JP,B1)
【文献】特開2021-168465(JP,A)
【文献】特開2010-161453(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/222-5/257
H04N 9/00-9/898
H04N 23/00-25/79
G08B 13/00-15/02
(57)【特許請求の範囲】
【請求項1】
ビデオカメラ(100)の赤外線カット(IRカット)フィルタ(106)を制御して、昼間モードと夜間モードの間で切り替えるための、前記ビデオカメラにおいて実行される方法であって、前記ビデオカメラは、イメージセンサ(102)が前記イメージセンサの様々な領域において様々な色成分を検知することを可能にするように構成されたカラーフィルタアレイを有する、イメージセンサ(102)を備え、前記方法が、
前記イメージセンサによって受光された周辺光
の量および
前記イメージセンサによって受光された周辺光の色成分を前記イメージセンサが測定するステップ(1002、1102)
であって、前記色成分は、前記色成分に対応する特定の波長間隔内で前記イメージセンサによって受光された周辺光の合計又は積算量を計算することによって決定される、測定するステップと、
前記ビデオカメラが昼間モードに
あるとき、
前記イメージセンサによって受光された周辺光の前記色成分を、様々な発光体に関連づけられた
色成分の寄与の特性値の第1のセットと比較することによって、シーンに存在し、前記周辺光
の強度に寄与する発光体のセットを決定するステップ(1004)と、
前記
イメージセンサによって受光された周辺光
の前記量が第1の閾値よりも低いときは、夜間モードに切り替えるステップ(1006)と、
前記ビデオカメラが夜間モードに
あるとき、
前記イメージセンサによって受光された周辺光の前記色成分を、様々なIR光比率に関連づけられた
色成分の寄与の特性値の第2のセットと比較することによって、
前記イメージセンサによって受光された前記周辺
光のIR光比率を決定するステップ(1106)と、
決定された前記IR光比率および前記
イメージセンサによって受光された周辺光
の前記量に基づいて、可視光強度を決定するステップと、
前記可視光強度が第2の閾値よりも高いときは、昼間モードに切り替えるステップ(1108)と
を含み、
特性値の前記第2のセットが発光体ごとに複数の特性値を含むように、決定された前記発光体のセットのうちの各発光体の波長スペクトルを、
いくつかの異なるレベルのIR光の
スペクトルと混合することによって、特性値の前記第2のセットを取得し、前記第2のセット内の特性値ごとの前記IR光比率が、前記発光体
の前記スペクトルからのIR光と
追加された前記レベルのIR光の
前記スペクトルからのIR光との両方を含むことを特徴とする、方法。
【請求項2】
前記IRカットフィルタが、昼間モードにおいてはIR光が前記イメージセンサに到達することを阻止し、夜間モードにおいてはIR光が前記イメージセンサに到達できるようにする、請求項1に記載の方法。
【請求項3】
前記カラーフィルタアレイは、前記イメージセンサが3つの異なる色成分を測定することを可能にするように構成される、請求項
1に記載の方法。
【請求項4】
3つの前記色成分が、赤色、青色、および緑色である、請求項3に記載の方法。
【請求項5】
前記色成分と特性値の前記比較が、
第3の色成分、または第1、第2若しくは前記第3の色成分の合計に対する前記第1の色成
分の第1の比、および
前記第3の色成分、または前記第1、前記第2若しくは前記第3の色成分の合計に対する前記第2の色成
分の第2の比を取得することと、
取得された前記比を、比の対応する特性値と比較することと
を含む、請求項
1に記載の方法。
【請求項6】
発光体の前記セットを決定する前記ステップが
、様々な発光体に関連づけられた特性値
の前記第1のセットを含む第1のチャートにアクセスすることを含む、請求項
1に記載の方法。
【請求項7】
前記IR光比率を決定する前記ステップが
、様々なIR光比率に関連づけられた特性値
の前記第2のセットを含む第2のチャートにアクセスすることを含む、請求項
1に記載の方法。
【請求項8】
前記方法が、所定の時間間隔で繰り返し実行される、請求項
1に記載の方法。
【請求項9】
前記第1の閾値が、前記第2の閾値よりも低い、請求項
1に記載の方法。
【請求項10】
IR光の前記
いくつかの異なるレベルが、少なくとも3つの異な
るレベルを含む、請求項
1に記載の方法。
【請求項11】
前記いくつかの異なるレベルのIR光
の前記スペクトルが、前記
ビデオカメラの近傍に取り付けられたIR LED照明ユニット(116)の波長スペクトルに対応す
る、請求項
1に記載の方法。
【請求項12】
ビデオカメラ(100)であって、当該ビデオカメラが、
イメージセンサ(102)が前記イメージセンサの様々な領域において様々な色成分を検知することを可能にするように構成されたカラーフィルタアレイを有するイメージセンサ(102)であって、
前記イメージセンサは、前記イメージセンサによって受光された周辺光
の量および
前記イメージセンサによって受光された前記周辺光の色成分を測定するように構成され
、且つ前記色成分は、前記色成分に対応する特定の波長間隔内で前記イメージセンサによって受光された周辺光の合計又は積算量を計算することによって決定される、イメージセンサと、
前記ビデオカメラによって制御されて、昼間モードと夜間モードの間で切り替えるように構成された赤外線カット(IRカット)フィルタ(106)と
を備
え、
前記ビデオカメラ
が昼間モードに
あるとき、
前記イメージセンサによって受光された周辺光の前記色成分を、様々な発光体に関連づけられた
色成分の寄与の特性値の第1のセットと比較することによって、シーンに存在し、前記周辺光
の強度に寄与する発光体のセットを決定し、
前記
イメージセンサによって受光された周辺光
の前記量が第1の閾値よりも低いときは、夜間モードに切り替え、
前記ビデオカメラが夜間モードに
あるとき、
前記イメージセンサによって受光された周辺光の前記色成分を、様々なIR光比率に関連づけられた
色成分の寄与の特性値の第2のセットと比較することによって、
前記イメージセンサによって受光された前記周辺
光のIR光比率を決定し、
決定された前記IR光比率および前記
イメージセンサによって受光された周辺光
の前記量に基づいて、可視光強度を決定し、
前記可視光強度が第2の閾値よりも高いときは、昼間モードに切り替えるように構成され、
前記ビデオカメラは、特性値の前記第2のセットが発光体ごとに複数の特性値を含むように、決定された前記発光体のセットのうちの各発光体の波長スペクトルを、
いくつかの異なるレベルのIR光の
スペクトルと混合することによって、特性値の前記第2のセットを取得するように構成され、前記第2のセット内の特性値ごとの前記IR光比率が、前記発光体
の前記スペクトルからのIR光と
追加された前記レベルのIR光の
前記スペクトルからのIR光との両方を含むことを特徴とする、ビデオカメラ(100)。
【請求項13】
IR LED照明ユニット(116)をさらに備え、IR
光の前記
いくつかの異なるレベルが、前記IR LED照明ユニットの波長スペクトルに対応す
る、請求項12に記載のビデオカメラ。
【請求項14】
処理能力を有する
ビデオカメラにおいて実行され
たとき
に請求項1から11のいずれか一項に記載の方法を実施するための命令を記憶した、非一時的なコンピュータ可読記憶媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、夜間モードと昼間モードの間での赤外線カット(IRカット)フィルタの切替えを制御するために、ビデオカメラにおいて実行される方法に関する。
【背景技術】
【0002】
犯罪行為を抑止するためのビデオ監視などでの比較的従来の目的のためと、交通状況を監視することや物流センタの運営を改善することなどの他の領域の両方で、今日では、デジタルビデオカメラには数多くの使用法が見いだされている。
【0003】
このようなカメラに使用されるイメージセンサは、普通、赤外線(IR)スペクトルにおいて無視できない成分を有するスペクトル応答を有する。このことを説明するために、
図2には、監視カメラに使用される典型的なイメージセンサの異なる3つの色チャネルの相対感度が示してある。
【0004】
低照度の状態では、周辺光のIR成分を使用して、撮像されたシーンについての有用な追加情報を提供することができる。その一方で、ビデオカメラのあらゆる色チャネルが、IRでのスペクトル応答をも有することになり、このことは、IR放射が実際には赤色よりも長い波長に存在するにもかかわらず、青色、緑色、ならびに赤色のチャネルがすべて、このIR放射を含むようになることを意味するので、この特性によって、カラー撮像がより困難にもなる。この結果、日中の撮像時には、イメージセンサに到達するいかなる赤外線成分も、画像におけるカラーバランスを歪ませることになり、イメージセンサを飽和させる場合もある。さらに、カメラは、到来するあらゆる放射を検知することになるので、露出設定などのパラメータが、良好な画質を維持しないような形で影響を受ける場合がある。
【0005】
歪んだ色および起こり得る飽和という有益ではない影響を抑制しながら、改善された低照度撮像の利点を維持するよく知られた方式は、昼間モード動作中にイメージセンサの前方のビーム経路内に移動可能な赤外線カット(IRカット)フィルタを追加することである。このIRカットフィルタは、到来する放射の赤外線部分が、センサに到達するのを阻止する。IRカットフィルタ(IRフィルタと表されることもある)は、昼光状態の間に使用され、カラー画像を取得できるようにする。
【0006】
昼間モードでは、IRカットフィルタが適位置に存在している状態で、イメージセンサの画素は、入射光を個々の光検出器での電荷として検出することができるようになり、各光検出器には、主に赤色、主に緑色、または主に青色の放射を受光するようにカラーフィルタアレイが設けられ、したがって色分解が可能になる。
【0007】
夜間モード、すなわち低照度状態では、IRカットフィルタが取り外される。このことは、スペクトルのIR部分に由来する強度が増加することになり、この増加を使用して画質を改善することを意味する。カメラにはまた、シーンに赤外光を照射し、低照度状態でキャプチャされる画像の画質を改善する、赤外照明ユニットが備えられてもよい。
【0008】
ここでも、IRカットフィルタが取り外され、IR光がセンサに到達するのをもはや阻止しなくなると、カラー画像を提供できなくなることに留意されたい。前述のように、あらゆる色チャネルがスペクトルのIR部分での応答を有するので、IRカットフィルタがない場合には、IR放射が、あらゆる色チャネルにおいて強度を増すことになる。これにより、それぞれの色チャネルに未知の要因が加わることによって、色情報が歪められることになる。したがって、夜間モード動作中に色分解を実行する代わりに、到来する放射の合計の強度のみが各画素について記録されることになり、その結果得られる画像は、通常、モノクロームの強度画像として提示されることになる。
【0009】
カメラは、センサによって受光される周辺光の量に基づいて、夜間モードまたは昼間モードが適切かどうか判定することになる。しかし、夜間モードから昼間モードに切り替えるとき、この切替え後に、IRカットフィルタが周辺光のIR部分を遮ると、周辺光レベルが実際には低すぎ、したがって、切り替えて夜間モードに戻るよう促すことをカメラが発見することは珍しくない。これは結果として、夜間モードと昼間モードの間で行ったり来たりする不都合な切替えをもたらす場合があり、さらに、画像の顕著なちらつき、およびIRフィルタを動かす機構に不必要な摩耗をもたらす場合がある。
【0010】
このように行ったり来たり繰り返される切替えは、明らかに有益ではないので、切り替える前に追加の評価がカメラによって実行されてもよく、ここで、カメラは、昼間モードへの切替えが賢明であることを確認するために、シーン内の周辺光の総量だけではなく、可視光の量を決定しようと試みる。ここでの1つの選択肢は、(IRカットフィルタを有する)補助的な光センサを使用して、シーン内の可視光を測定することである。この選択肢のマイナス面は、さらなる構成要素をカメラに追加し、さらには最終製品のコストおよび複雑さが増すことである。
【0011】
米国特許第9386230号には、様々な既知の光源の色温度が、カメラによってキャプチャされる画像から測定された色温度と比較されるという、この問題への取組みが開示してある。昼間モードへの切替えは、合計のルクスレベルが十分に高い場合にのみ実行され、識別された光源が、赤外線含有量が高い太陽光もしくは白熱光として決定されるかどうか、または測定された色温度は、この光源が非IR光源であると示しているかどうかに応じて、様々なルクス閾値が使用される。
【0012】
赤外線照明ユニットが使用されて、シーンを照明するとき、これにより、IRカットフィルタの切替えをいつ実行すべきか推定するのがさらに複雑となる。米国特許第9386230号では、この状況は、追加された赤外線照明のレベルが大幅に低下するまで測定を実行するのを控えることによって対処され、したがって、ルクスレベルに大きく寄与することはない。
【0013】
本発明は、特に赤外線照明ユニットが存在する場合に、取得された画像またはビデオ内のIRの比率の推定に基づいて、夜間モードから昼間モードへの切替えが賢明かどうか判定する方法に関する。
【先行技術文献】
【特許文献】
【0014】
【発明の概要】
【0015】
本発明の目的は、夜間モード中に監視されるシーンでの可視光の量をより良好に推定することによって、昼間モードと夜間モードの間での切替えを容易にすることである。
【0016】
第1の態様によれば、ビデオカメラの赤外線カット(IRカット)フィルタを制御して、昼間モードと夜間モードの間で切り替えるための、ビデオカメラにおいて実行される方法であって、このカメラは、イメージセンサが、このセンサの様々な領域において様々な色成分を検知することを可能にするように構成されたカラーフィルタアレイを有するイメージセンサを備え、この方法が、周辺光強度および周辺光の色成分をイメージセンサが測定するステップと、昼間モードにおいては、この色成分を、様々な発光体に関連づけられた特性値の第1のセットと比較することによって、シーンに存在し、周辺光強度に寄与する発光体のセットを決定するステップと、この周辺光強度が第1の閾値よりも低いときは、夜間モードに切り替えるステップと、夜間モードにおいては、この色成分を、様々なIR光比率に関連づけられた特性値の第2のセットと比較することによって、周辺光強度のIR光比率を決定するステップと、決定されたこのIR光比率および周辺光強度に基づいて、可視光強度を決定するステップと、可視光強度が第2の閾値よりも高いときは、昼間モードに切り替えるステップとを含み、特性値の第2のセットが発光体ごとに複数の特性値を含むように、決定された発光体のセットのうちの各発光体の波長スペクトルを、追加されたIR光の複数の所定の強度レベルと混合することによって、この特性値の第2のセットを取得し、第2のセット内の特性値ごとのIR光の比率が、発光体からのIR光とIR光の追加された強度レベルとの両方を含む、方法が提供される。
【0017】
この方法を使用して、いつカメラを昼間モードに切り替えるかについて、より良好な情報に基づく決定を下すことが可能になり、シーン内の強いIR光によってシーン内の可視光の量の判断を誤ることにより、タイミング悪く昼間モードに切り替えることによって引き起こされる、IRフィルタの行ったり来たりする切替えが少なくなる。特性値の第2のセットは、追加されたIR光を有するシーンでの光源についてのシミュレートされた値を含むので、周辺光の測定された強度は、大部分がIRに起因するか、大部分が目に見えるか、またはその間のどこかにあるのかを推定することが可能になる。
【0018】
特性値の第2のセットを、光源のセットに関連づけられた値のみに制限し、シーン内の光に寄与する値のみに制限することにより、特性値の第2のセット内の特性値の数が、測定値と比較するときに、有用で明確な結果を高い確率で与えることになる合理的な量まで低減されることになる。
【0019】
対照的に、いくつかの異なるIR光強度レベルと混合される、場合によっては利用可能なあらゆる光源が使用されたはずの場合、数多くの結果が互いに部分的に重なり合うことになっていたはずであり、どの値が関連するかの決定が非常に不確かであるとみなすことになるので、任意の種類の実用的な有用性を可能にするには、そうした値を提示するチャートがあまりにも密集しすぎていたはずである。その代わりに、昼間モードでのシーン内の光に寄与していると判定される光源のセットにまで、この光源を低減することによって、はるかに低密度に存在する特性値のチャートが夜間モードにおいて提供され、これにより、どの光源が、またより重要なことには、どのレベルのIR光がシーンに存在しているのかを決定することが可能になる。
【0020】
この説明全体を通して、撮像における標準的技法であることから、IRおよびNIRという用語を両方とも使用することに気付くかもしれない。しかし、実際は、カラーフィルタアレイの特性と組み合わせた、センサのスペクトル応答に起因して、本発明の様々な態様に関連するのは、IR光のこのNIR部分のみとなる。スペクトルの目に見える部分、ならびに赤外領域の他の部分、すなわちNIR領域の外側の両方において撮像を実行したカメラが利用可能となる場合、本明細書に記載の方法が等しく有用となるはずである。しかし、今日の技術では、可視スペクトル領域およびNIRスペクトル領域の外側での撮像は、他のタイプの撮像装置、すなわち、たとえばマイクロボロメータを使用するサーモグラフィカメラまたはサーマルカメラによって実行され、このようなカメラでは、IRカットフィルタは通常、使用に関わることはなく、したがって、そうしたタイプのカメラにおいて本発明は使用されない。したがって、「赤外線」または「IR」という用語が本明細書において使用されるとき、当業者には、光スペクトルの近赤外線(NIR)領域での放射と解釈されることになる。
【0021】
IRカットフィルタは、昼間モードにおいてはIR光がカメラのイメージセンサに到達することを阻止し、夜間モードにおいてはIR光がイメージセンサに到達できるようにするように構成される。
【0022】
カラーフィルタアレイは、赤色、青色、および緑色でもよい3つの異なる色成分を、センサが測定することを可能にするように構成されてもよく、これは普通に使用される設定であり、標準的な構成要素が利用可能である。
【0023】
色成分と特性値の比較は、第1の色成分とその他の色成分のうちの1つまたは複数の色成分との第1の比、および第2の色成分とその他の色成分のうちの1つまたは複数の色成分との第2の比を取得することと、取得されたこの比率を、比率の対応する特性値と比較することとを含んでもよい。
【0024】
これは、2つの特性値のみを使用して、たとえば3つの色成分を考慮に入れる可能性を与えることになり、比較を実行するのがより容易になることを意味する。
【0025】
発光体のセットを決定するステップは、第1のマトリックステーブルでの探索、すなわち様々な発光体に関連づけられた特性値を含む第1のチャートにアクセスすることを含んでもよく、IR光比率を決定するステップは、第2のマトリックステーブルでの探索、すなわち様々なIR光比率に関連づけられた特性値を含む第2のチャートにアクセスすることを含んでもよい。これらの選択肢の両方とも、比較するためにそれぞれの特性値を記憶およびアクセスする効率的な方式を実現することになる。
【0026】
この方法は、所定の時間間隔で繰り返し実行されてもよい。このようにして、照明環境の変化が考慮に入ることになり、最新情報が常に利用可能となる。
【0027】
第1の閾値は、第2の閾値より低くてもよい。このようにして、安全マージンを取り入れることによって、行ったり来たりする切替えが回避され、その結果、モード間の切替えが実行されたときに、周辺光強度がわずかに変動する場合でも、カメラが直ちに切り替わって元に戻ることにはならない。さらには、これにより、画像のちらつきを回避することによって、画質およびユーザ体験が改善することになる。
【0028】
IR光の所定の複数の強度レベルは、少なくとも3つの異なる強度レベルを含むことが好ましい。このようにして、示されたシーンでの周辺光にどのIR比率が対応するかを、より正確に決定することが可能になる。
【0029】
IR光強度の複数の所定のレベルは、カメラの近傍に取り付けられたIR LED照明ユニットの波長スペクトルに対応する波長スペクトルのIR光を含むことが好ましい。このようにして、夜間モードにおいて比較するために使用される特性値は、測定値とより近く一致することになる。
【0030】
本発明の第2の態様によれば、イメージセンサが、このイメージセンサの様々な領域において様々な色成分を検知することを可能にするように構成されたカラーフィルタアレイを有するイメージセンサであって、周辺光強度およびこの周辺光の色成分を測定するように構成されたイメージセンサと、ビデオカメラによって制御されて、昼間モードと夜間モードの間で切り替えるように構成された赤外線カット(IRカット)フィルタとを備えるビデオカメラであって、昼間モードにおいては、この色成分を、様々な発光体に関連づけられた特性値の第1のセットと比較することによって、シーンに存在し、周辺光強度に寄与する発光体のセットを決定し、この周辺光強度が第1の閾値よりも低いときは、夜間モードに切り替え、夜間モードにおいては、この色成分を、様々なIR光比率に関連づけられた特性値の第2のセットと比較することによって、周辺光強度のIR光比率を決定し、決定されたこのIR光比率および周辺光強度に基づいて、可視光強度を決定し、可視光強度が第2の閾値よりも高いときは、昼間モードに切り替えるように構成され、特性値の第2のセットが発光体ごとに複数の特性値を含むように、決定された発光体のセットのうちの各発光体の波長スペクトルを、追加されたIR光の複数の所定の強度レベルと混合することによって、この特性値の第2のセットを取得するように構成され、第2のセット内の特性値ごとのIR光の比率が、発光体からのIR光とIR光の追加された強度レベルとの両方を含むことを特徴とする、ビデオカメラが提供される。
【0031】
ビデオカメラは、IR LED照明ユニットを備えてもよく、IR光強度の複数の所定のレベルは、このIR LED照明ユニットの波長スペクトルに対応する波長スペクトルのIR光を含む。IR LED照明ユニットは、暗い時間帯では比較的良好な画質をもたらし、IR光強度の所定のレベルをLEDの波長スペクトルに一致させることによって、周辺光に含まれる可視光の量の決定がより厳密になる。
【0032】
本発明の第3の態様によれば、処理能力を有する装置で実行されると、この方法を実施するための命令を記憶した、非一時的なコンピュータ可読記憶媒体が提供される。
【0033】
第1の態様による方法の前述の特徴は、適用可能な場合、この第2の態様および第3の態様にもまた適用される。必要以上の繰返しを避けるために、上記を参照する。
【0034】
本発明の適用可能性のさらなる範囲が、以下に示す詳細な説明から明白になろう。しかし、この詳細な説明からは、本発明の範囲内での様々な変更形態および修正形態が当業者に明らかとなるので、本発明の好ましい実施形態を示しながら、もっぱら例として詳細な説明および具体例を提示することを理解されたい。
【0035】
したがって、本発明は、記載された装置の特定の構成部品、または記載された各方法の動作に限定されるものではなく、したがって、このような装置および方法は変化してもよいことを理解されたい。本明細書において使用される専門用語は、もっぱら具体的な実施形態を説明するためのものであり、限定するものではないことも理解されたい。本明細書および添付の特許請求の範囲で使用されているように、冠詞「a」、「an」、「the」、および「said」は、文脈から明らかにそうでないことが示されていなければ、各要素のうち1つまたは複数の要素が存在することを意味するものであることを留意しなければならない。したがって、たとえば、「1つのユニット(a unit)」または「そのユニット(the unit)」への言及は、いくつかの装置などを含んでもよい。さらに、「comprising」、「including」、「containing」という用語、および同様の言い回しは、他の要素またはステップを排除するものではない。
【0036】
次に、本発明の現時点で好ましい実施形態が示してある添付図面を参照して、以下に本発明をより完全に説明する。しかし、本発明は、数多くの様々な形態で実施されてもよく、本明細書に記載の実施形態に限定されるものと解釈すべきではなく、むしろ、これらの実施形態は、徹底して完全なものにするために、また当業者に本発明の範囲を十分に伝えるために提示される。
【図面の簡単な説明】
【0037】
【
図5】IRが加わった様々な光源スペクトルを示す図である。
【
図6】いくつかの光源の特性値を示すチャートである。
【
図7】IRカットフィルタがオン(定位置にある)状態、およびオフ(取り外された)状態での、カメラのスペクトル応答曲線を示す図である。
【
図8a】IRカットフィルタがオフの状態で、
図7のスペクトル応答曲線に重ね合わされた、D75光源のスペクトルを示す図である。
【
図8b】
図8aのスペクトル応答曲線を乗じた、
図8aのD75スペクトルを示す図である。
【
図9a】様々な量の追加されたIRを有するD65光源のスペクトルを示す図である。
【
図9b】
図9aでのスペクトルにおける、いくつかの特性値を含むチャートである。
【発明を実施するための形態】
【0038】
図1には、監視カメラ100が示してある。このカメラは、イメージセンサ102、および監視されるシーンをイメージセンサ102上に撮像する撮像光学装置104を有する。
【0039】
イメージセンサ102は、複数の撮像画素を含み、各撮像画素は、スペクトル領域内の放射に対して感度がよい。近紫外から近赤外(NIR)までの範囲に及ぶスペクトル領域内で、また場合によっては、さらに赤外スペクトル領域に至るまで、各画素の感度は等しく高い。
【0040】
カラー撮像を実現するために、センサ102の前方にカラーフィルタアレイを配置し、このセンサの各画素に、その前方のカラーフィルタを設ける。一般的なタイプのカラーフィルタアレイは、4つの画素の各グループについて、1つの青色カラーフィルタユニット、1つの赤色カラーフィルタユニット、および2つの緑色カラーフィルタユニットを有するベイヤフィルタである。ベイヤフィルタは、光スペクトルのIR領域の少なくとも一部、すなわち近赤外(NIR)領域においては透明である。この事実は、イメージセンサ102のスペクトル応答と組み合わさって、NIR放射がこのイメージセンサの各画素のそれぞれに到達し、画素に影響を及ぼすことになるという影響を有する。前述の通り、このことが
図2に示してある。
【0041】
したがって、カラー撮像を可能にするために、センサの前方にIRカットフィルタ106が配置される。このIRカットフィルタは、昼間モードの撮像時に挿入され、夜間モードの撮像時に格納される。
【0042】
キャプチャされた画像は、ビデオストリームを生成するために画像処理パイプライン(IPP)108において処理され、次いで、このビデオストリームは、画像符号化ユニット110において、H.264またはH.265などの符号化規格に従って符号化され、最終的に、符号化されたこのビデオストリームは、ネットワークインターフェース112を介してカメラから送信される。このビデオストリームはまた、このためにカメラに設けられたメモリにローカルに記憶されてもよい。
【0043】
中央処理装置(CPU)114は、カメラ100の動作を制御する。現実の状況では、CPUの機能は、たとえば、グラフィック処理装置(GPU)を備えるいくつかの異なるユニットにわたって分散されてもよいが、この説明の目的のために、単一のユニットのみが示してある。
【0044】
IR照明器116の形式での照明ユニットが設けられて、夜間モードにあるときのカメラの撮像能力をさらに改善する。図示された実施形態では、たとえば、1つまたは複数のIR LEDの形式でのIR照明器116は、カメラ100と統合されるが、このカメラ100によって制御される独立型照明器として、または別個のユニットとして設けられてもよい。IR照明器116は、通常、850nmまたは940nmを中心とする波長間隔で照明する。後者の間隔は、人間の目には見えないが、前者は、その場にいる人間には赤色発光として知覚される場合がある。
【0045】
図3には、カメラ100によって撮像されたシーン300が示してあり、ここでは家304の並びに向かって人302が歩いている。本発明では、照明の状況に留意することが関心事である。このシーンにおける潜在的な光源は、燈柱306、家304のうちの1つの家への入口上方の照明設備308、および、ろうそく312、ランプ314、クリスマスツリーの豆電球316など、家304の窓310の内側にある光源によって設けられる。このような人工光源に加えて、太陽も、夜明け、昼間、および夕暮れどきの重要な光源であり、月318から反射されるときには間接光源の役割を果たす。花火320や自動車322のヘッドライトなど、間欠的な性質をもつ他の光源も、時々このシーンに現れる場合がある。
【0046】
シーン内の光源の一部は、可視スペクトルでの増加する光へのその寄与に加えて、IRまたはNIRのスペクトル内のスペクトル成分を有する。これは、ランプ314内に存在する白熱ランプ(タングステンフィラメントを有する普通の電球)の場合、および火の付いたろうそく312と同様の燃えている炎の場合、ならびに太陽光の場合においてもそうである。
【0047】
既に説明したように、カメラ100にはIR照明器116が備えられており、このIR照明器は、通常、IRカットフィルタ106が取り外されるときに夜間モードで起動され、このカメラは、近赤外から赤外のスペクトルの少なくとも一部をも使用して撮像を実行する。したがって、夜間モードにおいては、カメラ100に利用可能な照明は、IR照明器116からの照明と組み合わせた、シーン300での任意の光源からの光から構成されることになり、シーン内の光源からの光は、スペクトルの可視部分とIR部分の両方に存在する場合がある。
【0048】
本発明の重要な目的、すなわち、夜間モード(IRカットフィルタなし)から昼間モード(IRカットフィルタあり)への切替えをいつ実行するのが賢明なのかを決定することに戻ると、夜間モードの撮像中に存在するIR成分によって、このことが重要なタスクとなる。夜間モードでの高強度のIR照明は、実際、IRカットフィルタを挿入することによって、取得された画像が非常に暗くなるときに、シーンが良好に照明されている場合と同様に、容易に見えるようにすることもできる。
【0049】
単純であるが、同時にわずかに実用的ではない手法は、IRカットフィルタを単に挿入し、状況を評価し、次いで、光レベルが低すぎる場合に、フィルタを再び格納するか、またはカメラの制御下で任意のIR照明器を一時的に遮断し、評価を実行することである。しかし、両方の選択肢とも、ビデオストリームにおける目に見える効果なしには実行することが困難であり、通常は、背景技術の段落で述べた、邪魔になるちらつき効果をもたらすことになる。
【0050】
IRフィルタの切替えを制御するための、より良好でより効率的な方式を提供するためには、シーンにおいてどの光源が能動状態にあるかについての情報が関心の対象となるはずである。光源は一般に、そのスペクトル成分、または色温度によって特徴づけることができる。画像のスペクトル成分はさらに、イメージセンサのスペクトル応答、およびカメラにおいて使用されるレンズやフィルタなどの光学素子の効果を介して、光源のスペクトル成分に結び付けられる。すなわち、画像のスペクトル成分は、シーンに存在する照明と、カメラの特性、特にイメージセンサのスペクトル応答との両方に依存することになる。
【0051】
前述の通り、後者は、イメージセンサの典型的なスペクトル応答が示してある
図2に例示されている。
図2でのグラフには、青色202、緑色204、および赤色206の波長の関数として、各色チャネルのスペクトル応答(すなわち、スペクトル感度)が示してある。このグラフにおいて、IRカットフィルタが取り外された(「オフ」)とき、すなわち夜間モードにおいては、色チャネルに関係なく、NIR領域でのスペクトル応答が存在し、850nmを超えると、この応答が概ね等しいことに留意することは興味深い。また、応答の大きさから、IRまたはNIRを含むことが、シーンの撮像にどのように著しく追加される場合があるのかが明らかである。
【0052】
その一方で、
図4には、いくつかの異なる一般的な光源についてのスペクトル成分の
図400が示してあり、ここでAは黒体放射体であり、F12は標準化された蛍光灯であり、D65はシミュレートされた昼光スペクトルであり、
図5には、可視光LEDのスペクトル成分が、様々な強度のNIR LED(850nm)と組み合わされた別の
図500が示してある。
【0053】
スペクトル成分の特徴づけを圧縮するための、好都合で、ホワイトバランス調整との関連でよく知られている方式は、様々な色成分の寄与、すなわち、この色成分に対応する特定の波長間隔内の強度の合計すなわち積算量を見ることである。
【0054】
一般に、色成分は、赤色、緑色、および青色であるが、他の色成分を有する他の何らかの色空間を使用することも可能になるはずである。通常、r/gおよびb/g、またはr/(r+b+g)およびb/(r+b+g)など、成分間の異なる2つの比が使用されて特徴づけを実行し、これにより、3つすべての色成分からの情報を依然として維持しながら、2次元チャートまたはマトリックステーブルでの座標に特徴づけすることの複雑さが低減する。
【0055】
図6には、あらゆる色成分の和で除算した赤色成分の値、およびあらゆる色成分の和で除算した青色成分の値が、D75の光源(北の空の昼光)については602において、LED光源については604において、蛍光光源については606において、またタングステン光源(すなわち、電球)については608においてプロットされた、このようなチャートの一例が示してある。それぞれの値の周りの円には、変動が生じる場合があるという事実、および現実のシーンからの測定値において全く同じ特徴値を見いだせない場合でも、ある特定の光源へのマッピングが実行される場合があるという事実が表してある。
【0056】
図6でのチャートは、シーン内に2つ以上の光源が存在するときに使用することも可能である。その場合には、測定値は、たとえば、おそらく2つまたは3つの光源の混合を表すことになる。このような状況では、チャートにおける測定値までの最短のユークリッド距離を有する光源が存在すると判定することができる。測定値までの最短のユークリッド距離を有する光源をまず選択し、次いで、同様にたとえばこの最短距離の3倍よりも短いユークリッド距離を有するすべての光源を備えるなど、より巧妙な他の方法を使用してもよい。関連するどの光源を備えるべきかを選択する、様々な他の方法も実行可能である。
【0057】
発明者らが気づいたように、光源の既知の特性値と、キャプチャされた画像の対応する値との比較に基づいて、昼間モードにおけるシーンでの照明に寄与する特定の光源を推定することは、かなり容易であり、すなわち、IR成分を無視することができるときには、夜間モードにおいて、特に、強いIRまたはNIRの照明器が存在しない場合に、この方法を利用することは簡単ではない。
【0058】
発明者らは、夜間モードにおける特性値を比較する同じ原理を使用することを可能にする有用な洞察をおこなってきたが、IR照明ユニットが存在する場合にも、夜間モードの分析を実行することができるようにする重要な修正を伴う。
【0059】
初めに、夜間モードに切り替える直前に実行される昼間モードの分析によって、シーンに存在すると判定された光源のみが、夜間モードでの比較に含まれる。このようにして、実現可能なあらゆる光源が考慮される場合よりも、測定値を比較するためのはるかにまばらに存在するチャートが存在することになる。
【0060】
昼間モードにおいて能動状態にあると判定された光源のそれぞれについて、修正された特性値のセット(本明細書においては、特性値の第2のセットとも呼ばれる)が提供され、いくつかの異なるレベルの強度でのIR照明波長スペクトルが、それぞれの光源スペクトルに追加され、修正された特性値が、修正されたこれらのスペクトルから計算される。追加されたこのIR照明レベルは、IR LED照明ユニット116などのIR照明ユニットからの照明を表す。
【0061】
1つの選択肢として、修正されたこれらの特性値は、まず、様々な強度レベルでの追加されたIR成分を有する多種多様な光源についての測定値を有する大規模データベースを準備し、次いで、このデータベースから適切な値を選択することによって決定することもできる。今日では、ホワイトバランス調整用に使用されるデータを準備することとの関連で、このような測定が様々な光源に対して実行され、同様の設定をここで同様に使用することもできる。
【0062】
このような設定では、カメラは、測定されることになる光源の出力を変化させながら、光学的に灰色のターゲットのいくつかの画像をキャプチャするように構成される。IR照明の段階的な追加も取り入れられる。これらの測定は、IRカットフィルタが挿入された状態、および挿入されていない状態で実行されてもよく、次いで、その結果が分析されて、様々な光設定の特性値を見つける。この設定は、カメラ自体のスペクトル応答をマッピングするのに使用されてもよい。次いで、カメラは、10nmの半値全幅(FWHM)などを有する狭帯域放射に露光され、この狭帯域放射は、IRカットフィルタが配置された状態および配置されていない状態で、(カラーフィルタアレイがカメラの前方に配置された状態で)カメラのスペクトル範囲全体にわたって走査され、
図2に示してあるものと同様の結果が生まれる。
【0063】
しかし、追加されたIR強度の様々なレベルを有する数多くの異なる光源に対して、このような測定を実行する代わりに、はるかに好都合なプロセスは、様々な強度レベルでのIR照明スペクトルを有するそれぞれの光源スペクトルの混合を計算し、次いで、IRフィルタが取り外された状態でのこれらの様々なスペクトルに、イメージセンサがどのように応答することになるかを決定するための別の計算を実行する結果として生じるスペクトルから、修正された特性値を決定することである。
【0064】
先に述べたように、イメージセンサは、あらゆる色チャネル全体にわたってIRに対して感度が高く、このことが
図2に示してある。
図7では、カメラのスペクトル応答700が、夜間モード、すなわちIRカットフィルタが取り外された状態と、昼間モード、すなわちIRカットフィルタが適位置にある状態との両方で示してある。
図7でのスペクトル応答は、
図2に示してあるスペクトル応答とはある程度異なるが、それというのも、この説明図は、異なるイメージセンサおよび異なる光学装置を有する、異なるカメラからのものだからである。
【0065】
IRカットフィルタが適位置にある状態、およびIRカットフィルタが取り外された状態での、カメラでのスペクトル応答を、一度に1つの色チャネルについて、生成されたスペクトルのそれぞれと乗算し、次いで、色チャネルごとに加算または統合することによって、光源ごとの様々なIR照明レベルにおける修正された特性値が、その特定の値に関連づけられたIR比率と同様に決定される。前述の通り、このIR比率は、追加されたIR照明と、それぞれの光源のIR成分との両方を含むことになる。
【0066】
より詳細には、この計算は、生成されるスペクトルのそれぞれについて、以下のように実行される。
【0067】
IRカットフィルタがオフの状態でのスペクトル応答に、生成されたスペクトルを乗算し、あらゆる色成分の和(通常は、R+B+G)を決定することによって、光の総量が計算される。
【0068】
IRカットフィルタが適位置にある状態でのスペクトル応答に、生成されたスペクトルを乗算し、あらゆる色成分の和を決定することによって、可視光の量が計算される。
【0069】
可視光の量を光の総量で除算することによって可視分が計算され、1からこの可視分を減算することによって、IR分が計算される。
【0070】
そのIR分に関連づけられた特性値(たいていの場合、2次元チャートでの座標)は、IRカットフィルタがオフの状態で計算された色成分から、たとえば、R/(R+B+G)およびB/(R+B+G)として決定される。
【0071】
このような計算の基礎は、40%のIRを有する、すなわちスペクトルのIR部分の強度が光源の合計の強度の40%である、北の空の昼光に対応する単一の光源D75について
図8に示してある。
図8aには、IR成分を有するD75光源のスペクトル成分と、IRカットフィルタのないカメラのスペクトル応答との両方が示してある。
図8bには、D75スペクトルと色チャネルのスペクトル応答のそれぞれとの間の乗算の結果が示してある。
【0072】
図9aおよび
図9bには、様々なレベルのIR照明と混合された、西欧/北欧での平均的な昼光に対応する、別の光源D65が示してある。
図9aには、いくつかのレベルの追加されたIR光と混合されるときの、D65光源の波長スペクトルが示してある。説明を明確にするために、この図では、y軸の上部が切り取られていることに留意してもよい。実際には、追加されたIRのさらに高いレベルにおけるスペクトル曲線は、はるかに高い量まで続いている。
【0073】
図7に示すように、これらの曲線は、次いで、IRカットフィルタがオフの位置にある状態でセンサからのスペクトル応答で乗算され、色成分ごとの強度を最初に加算または統合し、次いで、あらゆる色成分の和に対する青色成分の比、ならびにあらゆる色成分の和に対する赤色成分の比を決定することによって、特性値が計算される。これらの計算の結果は、
図9bでのチャートに視覚化されている。IRのみを含む光源も含まれている。現実の状況においては、追加される赤外照明のレベルは、70%、80%、90%、95%、97%、および98%となるように選択されてもよいことに留意してもよい。
【0074】
図1に示すシーンにおいては、本明細書において提示される方法は、以下のように機能するはずである。
【0075】
カメラが昼間モードにあるとき、測定が実行されて、キャプチャされた画像から周辺光強度、ならびにこの周辺光の色成分を決定する。この色成分の測定値を使用して、前述のr/(r+b+g)およびb/(r+b+g)などの特性値を計算し、こうした特性値を、数多くの異なる光源についてのこのような特性値を一覧表示したチャートまたはマトリックステーブルと比較する。測定された画像値と同様の特性値を有する光源は、シーンに存在するか、またはシーン内で能動状態にあると判定され、すなわち、これらはシーン内の光強度に寄与している。
【0076】
各画素についての強度を単に追加することによって、色成分の決定を計算することができる。この動作は、イメージセンサの各画素のすべて、すなわち、描写されるシーン全体に実行されてもよく、またはそのシーンの相対的に小さい領域にのみ実行されてもよい。後者の例では、この相対的に小さい領域は、一様な強度など特定の特徴を有する領域、光学的に灰色であると考えられる領域などでもよい。
【0077】
さらに、画像全体において色チャネルごとに画素値の加算を実行する代わりに、様々なサブ領域において別々に演算を実行することも可能になるはずであり、その場合、この結果得られる色成分の測定値は空間分解能を有することになり、すなわち、各値が画像全体にわたって異なる場合がある。この選択肢を使用して、IRカットフィルタを切り替える決定に影響を及ぼさないはずの、自動車のヘッドライトなど、空間的に制限された任意の光源を選別してもよい。一例として、異常値と見ることもできる、逸脱するこのような測定値が、時間とともに画像のいくつかの特定の領域に繰り返し現れる場合、色成分を決定するときには、これらの領域を無視してもよい。
【0078】
現実の状況においては、この測定は、全日にわたって、毎秒15回など連続して実行されるはずである。しかし、本発明にとって最も関心の高い測定は、周辺光強度が夜間モードに切り替わるための閾値よりも低いとカメラが判定する時点の近く、すなわちその直前に実行される測定であることに留意されたい。したがって、シーンにおいてどの光源が能動状態にあり、夜間モードに切り替わる直前の(低レベルではあるが)照明に寄与するかの決定は、夜間モードにおいて決定するのに使用される、修正された特性値を有するチャートに入力されることによって、夜間モードから昼間モードへのスイッチバックをいつ実行すべきかを決定するために使用されることになる情報の基礎を形成することになる。
【0079】
図3に示す例に戻ると、シーンに存在する(また、場合によっては能動状態にある)人工光源は、燈柱306、照明設備308、ろうそく312、ランプ314、および豆電球316である。これらの人工光源に加えて、おそらくは夕日からの寄与が存在し、場合によっては月318からの寄与が存在するはずである。先に述べたように、花火320および自動車322のヘッドライトは、間欠的な性質を有するものであり、測定にさほど寄与することがないはずであり、現時点では無視することができる。
【0080】
夜間モードに切り替わる直前のシーンにおいて存在し、能動状態にあると判定された光源の光源スペクトルのそれぞれは、これまで説明したように、IR光のいくつかの異なるレベルのスペクトルと混合されることになる。次いで、これらの光源スペクトルと、追加されたIR光レベルとの組合せのすべてについて、特性値、ならびにその特定の組合せでのIRのパーセンテージが計算されることになる。追加されたこのIR光レベルは、通常、カメラ100でのIR LED照明ユニット116からの光の様々な強度レベルを表し、追加されたIR光のスペクトルは、カメラおよびその照明ユニットを設定するときに通常知られているIR LED照明ユニットのスペクトルに一致していることが好ましい。
【0081】
これまで説明したように、光源が、そのスペクトルの一部を赤外において有するあらゆる場合において、このIRスペクトル部分は、追加されたIR光強度レベルとともに、その光源の合計のIR比率に寄与することになる。
【0082】
IRの合計の比率は、夜間モードのチャートでの特性値のいくつかの異なる組合せに利用可能となる。このような状況においては、光源スペクトルと、追加されたIR光強度レベルとの2つ以上の組合せが、同じ特性値に関連づけられるという可能性の低い場合には、実際的な解決策は、単に、チャートでのその点を、IR比率のうち最も高い比率に関連づけることになると言ってもよい。
【0083】
測定された特性値がチャート内の値と正確に一致しなくなる原因となる、測定の不正確さなどが存在する場合があるので、様々な方法を使用して、チャート内の最も関連性の高い1つまたは複数の集合点を決定することができる。ちょうど昼間モードのチャートと同様に、単刀直入な選択は、ユークリッド距離を使用し、測定点に最も近い、チャート内の集合点を選択することである。多くの場合、2つ以上の光源が能動状態にあるので(また、そのすべてが、いくつかのレベルのIRと組み合わされることによって、チャート内にいくつかの点を生じさせることになるので)、2つ、3つ、または4つの最も近くの集合点を選択することも適切になる場合がある。
【0084】
次いで、利用可能な可視光の量が、IR光の最も高いパーセンテージに関連づけられたチャート内の点から決定されることになる。次いで、可視光の量は、(1-「チャート内の点に関連づけられたIR比率」)*「測定された周辺光強度」として決定される。次いで、可視光のこの量を第2の閾値と比較して、昼間モードに切り替わることが適切なのかどうか判定する。可視光の量が第2の閾値よりも低い場合は、切替えが実行されることにはならず、すなわち、IRカットフィルタが適位置に留まることになり、可視光の量が第2の閾値よりも高い場合には、カメラが昼間モードに切り替わり、IRカットフィルタを格納することになる。
【0085】
第1の閾値は、通常、第2の閾値よりも低くなり、場合によっては1/2~1/3の低さになり、他の場合には、第2の閾値は、第1の閾値の4倍に設定されて、安全マージンを実現し、昼間モードと夜間モードの間での行ったり来たりする切替えを回避してもよい。この方策は、ヒステリシス機能を取り入れる方式と見ることができる。本明細書において提示される方法を使用することによって、多くの場合、第1の閾値と第2の閾値の間の距離を短縮することが可能になり、その結果、相対的に少ない安全マージンを必要とするより厳密な決定を実行することができ、さらには、適切な状況において夜間モードおよび昼間モードの使用を可能にすることによって、より良好な画質を実現できることを意味することに留意してもよい。これは、各閾値間の差が、シーン内のIRの推定量に部分的に基づいて設定される傾向にあるという事実に起因する。
【0086】
本明細書において説明する方法はまた、昼間モード動作については
図10に、夜間モード動作については
図11に示してある。
図10に示すように、昼間モードの動作中、すなわち、IRカットフィルタが適位置にあるときは、ステップ1002において、カメラのイメージセンサに到達する周辺光の周辺光強度および色成分が測定される。
【0087】
ステップ1004では、色成分を光源の特性値と比較することから、周辺光に寄与している光源のセットが決定される。ステップ1006では、周辺光強度が第1の閾値と比較され、この強度が第1の閾値よりも低い場合は、カメラの動作が夜間モードに切り替えられ、IRカットフィルタが取り外される。周辺光強度が第1の閾値よりも高い場合には、カメラは、やはりステップ1002~1004を繰り返すことになる。
【0088】
図11において、夜間モードでの動作を説明する。初めに、ステップ1102において、決定された光源のセットを、異なるレベルのIR光と組み合わせることによって、特性値の第2のセットが決定される。その結果得られる値が、特性値の第2のセット(この説明では、修正された特性値とも呼ばれる)を形成する。
【0089】
ステップ1104では、昼間モード中でのステップ1002と同様に、周辺光の周辺光強度および色成分が測定される。次のステップ1106では、色成分と特性値の第2のセットとを比較することによって、周辺光でのIRの比率が決定され、これによって、イメージセンサに到達する可視光強度が推定される。
【0090】
ステップ1108では、この推定された可視光強度が、第2の閾値と比較され、この可視光の量がこの第2の閾値よりも高い場合、カメラは昼間モードに切り替わり、IRカットフィルタを挿入する。この可視光の強度がこの閾値を下回る場合、カメラは、夜間モードに留まり、ステップ1104~1108を繰り返すことになる。
【0091】
要するに、本明細書に記載されているのは、カメラにおいて昼間モードでの撮像と夜間モードでの撮像との間でのより良好に制御された切替えを実行する方法であり、ここで、夜間モード中での可視光を決定するとき、昼間モードでの周辺光に寄与する発光体が考慮される。これらの発光体の特性値は、いくつかのレベルのIR光と混合されて、IR照明器の存在をシミュレートし、これらの特性値は、夜間モードにおける周辺光の色成分から得られた対応する値と比較されて、IR比率を決定し、そこから可視光の量を決定する。
【0092】
最後になるが、開示された実施形態に対する他の変形形態は、各図面、本開示、および添付の特許請求の範囲を検討することから、特許請求される本発明を実施する際に当業者が理解することができ、また実現することができると言わなければならない。