(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022171596
(43)【公開日】2022-11-11
(54)【発明の名称】イメージフレームのシーケンスを撮像する方法及びマイクロボロメータデテクタを有するサーマルカメラ
(51)【国際特許分類】
H04N 5/232 20060101AFI20221104BHJP
H04N 5/235 20060101ALI20221104BHJP
H04N 5/33 20060101ALI20221104BHJP
H04N 5/355 20110101ALI20221104BHJP
G01J 1/42 20060101ALI20221104BHJP
G01J 1/44 20060101ALI20221104BHJP
【FI】
H04N5/232 290
H04N5/235 600
H04N5/235 300
H04N5/33
H04N5/355 810
G01J1/42 B
G01J1/44 D
【審査請求】未請求
【請求項の数】15
【出願形態】OL
【外国語出願】
(21)【出願番号】P 2022070577
(22)【出願日】2022-04-22
(31)【優先権主張番号】21171561
(32)【優先日】2021-04-30
(33)【優先権主張国・地域又は機関】EP
(71)【出願人】
【識別番号】502208205
【氏名又は名称】アクシス アーベー
(74)【代理人】
【識別番号】110002077
【氏名又は名称】園田・小林弁理士法人
(72)【発明者】
【氏名】ウィンツェル, トマス
(72)【発明者】
【氏名】ベンツソン, イェスパー
【テーマコード(参考)】
2G065
5C024
5C122
【Fターム(参考)】
2G065AA11
2G065AB02
2G065BA12
2G065BA34
2G065BB21
2G065BC10
2G065BC22
2G065CA12
2G065CA21
2G065DA18
5C024AX06
5C024CX32
5C024CX47
5C024GY31
5C122DA16
5C122EA12
5C122EA23
5C122FA09
5C122FF09
5C122FH01
5C122HA81
5C122HB01
(57)【要約】 (修正有)
【課題】マイクロボロメータデテクタを有するサーマルカメラにおけるイメージフレームのシーケンスを撮像する方法、サーマルカメラ及びコンピュータ可読媒体を提供する。
【解決手段】方法は、イメージフレームの第1のシーケンス及び第2のシーケンスを、サーマルカメラのシャッタが閉状態及び開状態でそれぞれ撮像することを含む。第1のシーケンス及び第2のシーケンスのそれぞれを撮像する間に、マイクロボロメータデテクタの積分時間が、複数の積分時間の間で、積分時間の時間的パターンの1つ又は複数の繰り返しにしたがって切り替えられる。方法はさらに、積分時間が積分時間の時間的パターン内の特定の位置に切り替えられた際に撮像された第2のシーケンスにおけるイメージフレームを、積分時間が積分時間の時間的パターン内の同じ特定の位置に切り替えられた際に撮像された第1のシーケンスにおけるイメージフレームを使用して補正することを含む。
【選択図】
図6
【特許請求の範囲】
【請求項1】
マイクロボロメータデテクタを有するサーマルカメラにおけるイメージフレームのシーケンスを撮像する方法であって、
イメージフレームの第1のシーケンスを、前記サーマルカメラのシャッタが閉状態で、前記マイクロボロメータデテクタの積分時間を、複数の積分時間の間で、積分時間の時間的パターンの1つ又は複数の第1の繰り返しにしたがって切り替える間に撮像することと、
イメージフレームの第2のシーケンスを、前記サーマルカメラの前記シャッタが開状態で、前記マイクロボロメータデテクタの前記積分時間を、前記複数の積分時間の間で、積分時間の前記同じ時間的パターンの1つ又は複数の第2の繰り返しにしたがって切り替える間に撮像することと、
減算により、前記積分時間が前記積分時間の時間的パターン内の特定の位置に切り替えられた際に撮像された前記第2のシーケンスにおけるイメージフレームを、前記積分時間が前記積分時間の時間的パターン内の前記同じ特定の位置に切り替えられた際に撮像された前記第1のシーケンスにおけるイメージフレームを使用して補正することと、
を含む方法。
【請求項2】
前記積分時間の時間的パターンは、前記複数の積分時間の間の切り替えの頻度及び順序を示す、請求項1に記載の方法。
【請求項3】
前記時間的パターンは、前記マイクロボロメータデテクタの前記積分時間が、イメージフレーム毎の間で切り替えられることを示す、請求項1または請求項2に記載の方法。
【請求項4】
n個の積分時間があり、前記時間的パターンは、前記積分時間のそれぞれがn番目のイメージフレーム毎に切り替えられることを示す、請求項1から請求項3のいずれか一項に記載の方法。
【請求項5】
前記積分時間が前記積分時間の時間的パターン内の特定の位置に切り替えられた際に撮像された前記第2のシーケンスにおけるイメージフレームは、前記積分時間が前記積分時間の時間的パターン内の前記同じ特定の位置に切り替えられた際に撮像された前記第1のイメージシーケンスにおける前記イメージフレームの平均を減算することにより補正される、請求項1から請求項4のいずれか一項に記載の方法。
【請求項6】
前記イメージフレームの第2のシーケンスを撮像した後に、イメージフレームの第3のシーケンスを、前記サーマルカメラの前記シャッタが閉状態で、前記マイクロボロメータデテクタの積分時間を、前記複数の積分時間の間で、積分時間の前記同じ時間的パターンの1つ又は複数の第3の繰り返しにしたがって切り替える間に撮像することをさらに含み、
前記第3のシーケンスを撮像することは、
前記イメージフレームの第1のシーケンスを撮像してから温度閾値を超えて変化した前記マイクロボロメータデテクタの温度と、
前記イメージフレームの第1のシーケンスを撮像してから経過した所定時間と、
前記複数の積分時間の中の少なくとも1つの積分時間の調整と、
のうちの少なくとも1つによりトリガされる、請求項1から請求項5のいずれか一項に記載の方法。
【請求項7】
前記イメージフレームの第3のシーケンスは、前記イメージフレームの第3のシーケンスを撮像した後に撮像されたイメージフレームを補正するために使用される、請求項6に記載の方法。
【請求項8】
前記温度閾値は、前記サーマルカメラの周囲温度とともに、予め画定されている関係にしたがって変化する、請求項6又は請求項7に記載の方法。
【請求項9】
前記複数の積分時間の中の1つの積分時間を、前記サーマルカメラの周囲温度における変化を検出することに応えて、又は、前記第2のシーケンスのイメージフレームにおける飽和した又は黒いピクセルの数が飽和閾値を超えることを検出することに応えて調整することをさらに含む、請求項1から請求項8のいずれか一項に記載の方法。
【請求項10】
前記イメージフレームの第2のシーケンスは、前記イメージフレームの第1のシーケンスの後に撮像されている、請求項1から請求項9のいずれか一項に記載の方法。
【請求項11】
前記積分時間の時間的パターンの前記1つ又は複数の第1の繰り返しは、前記積分時間の時間的パターンの前記1つ又は複数の第2の繰り返しよりも少ない繰り返しを含む、請求項1から請求項10のいずれか一項に記載の方法。
【請求項12】
第1の積分時間を有するイメージフレームを、前記イメージフレームの第2のシーケンスから抽出して第1のビデオストリームを生成することと、
前記第1の積分時間より短い第2の積分時間を有するイメージフレームを、前記イメージフレームの第2のシーケンスから抽出して第2のビデオストリームを生成することと、
をさらに含む、請求項1から請求項11のいずれか一項に記載の方法。
【請求項13】
前記第2のビデオストリームを監視し、前記第2のビデオストリームにおけるピクセル値がアラーム閾値を超えた際にアラームを発することを含む、請求項12に記載の方法。
【請求項14】
マイクロボロメータデテクタと、
シャッタと、
前記マイクロボロメータデテクタ及び前記シャッタを制御し、
イメージフレームの第1のシーケンスを、前記シャッタが閉状態で、前記マイクロボロメータデテクタの積分時間を、複数の積分時間の間で、積分時間の時間的パターンの1つ又は複数の第1の繰り返しにしたがって切り替える間に撮像し、
イメージフレームの第2のシーケンスを、前記シャッタが開状態で、前記マイクロボロメータデテクタの前記積分時間を、前記複数の積分時間の間で、前記同じ時間的パターンの1つ又は複数の第2の繰り返しにしたがって切り替える間に撮像するよう構成されているコントローラと、
減算により、前記積分時間が前記積分時間の時間的パターン内の特定の位置に切り替えられた際に撮像された前記第2のシーケンスにおけるイメージフレームを、前記積分時間が前記積分時間の時間的パターン内の前記同じ特定の位置に切り替えられた際に撮像された前記第1のイメージシーケンスにおけるイメージフレームを使用して補正するよう構成されているイメージプロセッサと、
を含む、サーマルカメラ。
【請求項15】
処理能力を有するデバイスにより実行されると、マイクロボロメータデテクタを有するサーマルカメラに、請求項1から請求項13のいずれか一項に記載の方法を実行させるよう適合されているコンピュータコード命令を含む、非一時的コンピュータ可読媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、マイクロボロメータデテクタを有するサーマルカメラに関する。特に、それは、そのようなサーマルカメラを使用してイメージフレームのシーケンスを撮像することに関する。
【背景技術】
【0002】
サーマルカメラは、冷却されないセンサであるマイクロボロメータセンサを使用してイメージフレームを撮像する場合がある。センサにおける不完全なところを補うため、イメージセンサにより撮像されたイメージフレームからシャッタ画像を差し引くことが一般に行われる。シャッタ画像は、サーマルカメラのシャッタが閉じている際に、つまり、シーンからの放熱がセンサに到達しない際にセンサにより撮像された画像であり、それは、センサにおける均一でない誤差の測定を提供する。センサにおいて不完全なところがなければ、シャッタ画像は、完全に均一な画像となるであろう。しかし、センサにおける暗電流により、これが当てはまらない場合があり、シャッタ画像における別々のピクセルの間に差異が生じるであろう。追加的に、暗電流が温度に依存するため、それらの差異は温度とともに変化する。したがって、センサの温度が変動し始める、又は、センサにおいて他の熱変動があると、新たなシャッタ画像が撮像されることが望ましい。例えば、新たなシャッタ画像は、10分毎に、又は、温度における変動が検出されると撮像されてよい。
【0003】
いくつかの状況では、サーマルカメラのダイナミックレンジを拡張することが望ましい。それは、異なる積分時間を循環する間にイメージフレームを撮像することにより達成され得る。異なる積分時間を循環する際に、マイクロボロメータセンサの加熱はフレームの間で変化することとなり、結果として、暗電流の間で変化することとなる。結果として、US7885536B1に記されるように、暗電流値が積分時間とともに変わり、したがって、各積分時間が、関連するシャッタ画像を有することが望ましい。
【0004】
しかし、イメージフレームを異なる積分時間をもって撮像する間のマイクロボロメータセンサの温度変化は、暗電流に影響するだけでなく、撮像したイメージフレームにおいてバイアスを導く結果ともなる。より具体的には、マイクロボロメータセンサが、イメージフレームを第1の積分時間をもって撮像することから、イメージフレームを第2の積分時間をもって撮像することに切り替えられると、マイクロボロメータの温度が、第2の積分時間に関連付けられている温度レベルに落ち着くまでに時間がかかる。これは、第2の積分時間に切り替えられた後に撮像された第1のフレームを読み出すセンサにおいてバイアスを導く。撮像したイメージフレームにおいてさらなる系統的誤差を導かない暗電流補償を有するために、シャッタ画像を生成する際にそのバイアスが考慮されることが望ましい。したがって、改善の余地がある。
【発明の概要】
【0005】
上記を鑑み、本発明の目的はしたがって、上記の問題を軽減することである。特に、その目的は、マイクロボロメータセンサの暗電流を、異なる積分時間の間の切り替え後に導かれるセンサ読み出しバイアスを考慮する方法にて補正することである。
【0006】
本発明は、独立請求項により画定され、その種々の実施形態が、従属請求項により画定される。
【0007】
特に、上記の目的は、マイクロボロメータデテクタを有するサーマルカメラにおけるイメージフレームのシーケンスを撮像する方法により達成される。この方法は、
イメージフレームの第1のシーケンスを、サーマルカメラのシャッタが閉状態で、マイクロボロメータデテクタの積分時間を、複数の積分時間の間で、積分時間の時間的パターンの1つ又は複数の第1の繰り返しにしたがって切り替える間に撮像することと、
イメージフレームの第2のシーケンスを、サーマルカメラのシャッタが開状態で、マイクロボロメータデテクタの積分時間を、複数の積分時間の間で、積分時間の同じ時間的パターンの1つ又は複数の第2の繰り返しにしたがって切り替える間に撮像することと、
積分時間が積分時間の時間的パターン内の特定の位置に切り替えられた際に撮像された第2のシーケンスにおけるイメージフレームを、積分時間が積分時間の時間的パターン内の同じ特定の位置に切り替えられた際に撮像された第1のシーケンスにおけるイメージフレームを使用して補正することと、
を含む。
【0008】
積分時間を、シャッタ画像のフレーム及び通常のイメージフレームを撮像する際のものと同じ反復的な時間的パターンにしたがって切り替えることが好適であることを、発明者達は認識した。そのようにして、時間的パターンの繰り返し内に同じ相対位置を有する通常のイメージフレーム及びシャッタ画像のフレームにおけるバイアスが同じものとなる。さらに、その補正に使用される通常のイメージフレーム及びシャッタ画像は、時間的パターンの繰り返し内の同じ相対位置に相当する。これは、通常のイメージフレームは、その通常のイメージフレームのものと同じ積分時間をもって撮像されたシャッタ画像のフレームを使用して補正されるだけでなく、通常のイメージフレームのそれと同じバイアスをも有することを暗示する。結果として、暗電流補償はさらに正確になり、撮像したイメージフレームに系統的誤差を導き入れない。
【0009】
第2の態様によると、上記の目的は、サーマルカメラにより達成される。サーマルカメラは、マイクロボロメータデテクタと、シャッタと、マイクロボロメータデテクタ及びシャッタを制御し、
イメージフレームの第1のシーケンスを、シャッタが閉状態で、マイクロボロメータデテクタの積分時間を、複数の積分時間の間で、積分時間の時間的パターンの1つ又は複数の第1の繰り返しにしたがって切り替える間に撮像し、
イメージフレームの第2のシーケンスを、シャッタが開状態で、マイクロボロメータデテクタの積分時間を、複数の積分時間の間で、同じ時間的パターンの1つ又は複数の第2の繰り返しにしたがって切り替える間に撮像するよう構成されているコントローラと、
積分時間が積分時間の時間的パターン内の特定の位置に切り替えられた際に撮像された第2のシーケンスにおけるイメージフレームを、積分時間が積分時間の時間的パターン内の同じ特定の位置に切り替えられた際に撮像された第1のイメージシーケンスにおけるイメージフレームを使用して補正するよう構成されているイメージプロセッサと、
を含む。
【0010】
第3の態様によると、上記の目的は、処理能力を有するデバイスにより実行されると、マイクロボロメータデテクタを有するサーマルカメラに、第1の態様の方法を実行させるよう適合されているコンピュータコード命令を含む、非一時的コンピュータ可読媒体により達成される。
【0011】
第2及び第3の態様は一般に、第1の態様と同じ特徴及び利点を有してよい。本発明は更に、特に明白に言及していない限り、すべての可能な特徴の組み合わせに関連することに留意されたい。
【0012】
本発明の、上記及び更なる目的、特徴、並びに利点は、添付図面を参照しての、本発明の実施形態の、以下に記載する例示的且つ非限定の詳細説明を通して良好に理解される。ここでは、同様のコンポーネントには同じ参照番号が用いられる。
【図面の簡単な説明】
【0013】
【
図1】シーンを監視するよう配置されているサーマルカメラを模式的に示す。
【
図2】いくつかの実施形態に係るサーマルカメラを模式的に示す。
【
図3】いくつかの実施形態に係る、サーマルカメラのシャッタが閉位置及び開位置のそれぞれにある際に撮像されたイメージフレームの第1のシーケンスを模式的に示す。
【
図4】いくつかの実施形態に係る、サーマルカメラのシャッタが閉位置及び開位置のそれぞれにある際に撮像されたイメージフレームの第2のシーケンスを模式的に示す。
【
図5】いくつかの実施形態に係る、サーマルカメラのシャッタが互いに交換可能に閉位置及び開位置にある際に撮像されたイメージフレームの6つのシーケンスを示す。
【
図6】いくつかの実施形態に係る、マイクロボロメータデテクタを有するサーマルカメラにおけるイメージフレームのシーケンスを撮像する方法のフローチャートである。
【発明を実施するための形態】
【0014】
本発明を、添付図面を参照して以下に更に詳細に説明する。ここでは、本発明の実施形態を示す。
【0015】
図1は、シーン12を監視するよう配置されているサーマルカメラ10を示す。サーマルカメラ10は、スペクトルの赤外線部における放射を、経時的に、マイクロボロメータデテクタを使用して検出し、検出した放射から、イメージフレームのシーケンスを生成する。シーン12においては、温度が異なる対象物があり、これらは、赤外線放射の源として作用する。例えば、ここに示すように、車両、人、樹木、及び火がある場合がある。これらの対象物により広がる温度範囲は広い場合があり、これは、サーマルカメラ10がすべての対象物を、マイクロボロメータデテクタの単一の積分時間を使用して適切に撮像することを難しくする。例示を目的として、人又は車両などの温度が低い対象物は、火などの温度が高い対象物よりも長い積分時間を必要とする場合がある。より長い積分時間が使用される場合、温度が低い対象物に対しては、温度を分解することができるであろうが、温度が高い対象物に対しては、マイクロボロメータデテクタが飽和するため、それができないであろう。その逆もしかり。温度範囲を完全にカバーするため、サーマルカメラ10はその代わりに、その温度範囲の異なる部分に最適となる、いくつかの異なる積分時間を用いて作動しなければならない場合がある。例えば、サーマルカメラ10は後続のイメージフレームを撮像する間の、マイクロボロメータデテクタの積分時間を切り替えてよい。
【0016】
いくつかの実施形態では、サーマルカメラ10は、異なる積分時間をもって撮像された後続のイメージフレームを単一のイメージフレームに組み合わせ、ダイナミックレンジが高い画像を生成してよい。他の実施形態では、サーマルカメラ10は、第1の積分時間を有するイメージフレームをイメージフレームのシーケンスから抽出して第1のビデオストリームを生成し、第2の異なる積分時間を有するイメージフレームをイメージフレームのシーケンスから抽出して第2のビデオストリームを生成する。後者の場合では、サーマルカメラはしたがって、異なる積分時間に対応する、いくつかの別々のビデオストリームを生成することとなる。これらの別々のビデオストリームは、対象検出やモーション検出などを含む異なるタイプの分析といった、異なるタイプの処理又は後処理を受ける場合がある。例えば、これらの別々のビデオストリームは、早期火災警報システムを実装するために好適に使用されてよい。第1のストリームの積分時間は、人の温度範囲などのより低い温度範囲において対象物を検出することに好適となるよう選択されてよい。第2のストリームの積分時間は、新たに点火された火を検出することに好適な温度範囲(250℃を超える温度)などのより高い温度範囲において対象物を検出することに好適となるよう選択されてよい。第1のビデオストリームは続いて、人を監視すること、例えば、対象とする人を検出する、対象とする人の動きを予想する、及び、対象とする人を追跡する分析を実行することに使用されてよい。第2のストリームは、火災の発生を監視するために使用されてよい。例えば、第2のストリームは、第2のビデオストリームにおけるピクセル値がアラーム閾値を超えた際にアラームを発するために監視されてよい。
【0017】
図2は、サーマルカメラ10をより詳細に示す。これは、マイクロボロメータデテクタ20と、シャッタ21と、イメージプロセッサ22と、コントローラ23と、を含む。マイクロボロメータデテクタ20はまた、マイクロボロメータセンサ20とも呼ばれる場合がある。マイクロボロメータデテクタ20はまた、マイクロボロメータデテクタ20の温度を測定する温度センサ24を含む場合がある。
【0018】
当業者に知られるように、マイクロボロメータデテクタ20又はマイクロボロメータセンサは、シーン12から赤外線放射を検出するよう配置されている。イメージフレームを生成する際には、マイクロボロメータデテクタ20は、積分時間と呼ばれる期間にわたって検出した赤外線放射を積分する。各フレームに使用する積分時間は、コントローラ23により設定される。特に、コントローラ23は、マイクロボロメータデテクタ20を制御し、複数の積分時間の間を切り替え、後続のイメージフレームが異なる積分時間を有するようにしてよい。切り替えることは、繰り返される予め画定されている時間的パターンにしたがってよい。時間的パターンの繰り返しは、多数の後続のイメージフレームに対してどの積分時間が使用されるべきかを画定する積分時間のシーケンスとしてみられてよい。一般的に、積分時間の時間的パターンは、複数の積分時間の間の切り替えの頻度及び順序を示すものと呼ばれてよい。これを
図3にさらに示す。これは、マイクロボロメータデテクタ20を使用して撮像されたイメージフレームI1からI14のシーケンスを示す。イメージフレームI1からI14を撮像する間に、マイクロボロメータデテクタ20が制御され、積分時間の時間的パターンの複数の繰り返しR1からR7にしたがって積分時間を切り替える。時間的パターンは、繰り返しR1からR7のそれぞれにおいて同じである。時間的パターンの複数の繰り返しR1からR7はしたがって、反復的な時間的パターンを形成するものと呼ばれてよい。この例では、複数の積分時間は、2つの積分時間T1及びT2を含み、時間的パターンの各繰り返しは、T1により与えられ、これにT2が続く、つまり、積分時間のシーケンス{T1、T2}により与えられる。積分時間T1は、時間的パターン内の第1の位置に置かれており、つまり、積分時間のシーケンス内で1番目にあり、積分時間T2は、時間的パターン内の第2の位置に置かれている、つまり、積分時間のシーケンス内で2番目にある。ここで使用されるように、積分時間の時間的パターン内の位置はしたがって、時間的パターンの繰り返しにより画定された積分時間のシーケンス内の連続する位置を指す。
【0019】
図3の例では、時間的パターンは、積分時間T1及びT2のそれぞれが、第2のフレーム毎に切り替えられることを示す。この例は、n≧2の数の積分時間である状況に一般化されてよい。具体的には、n個の積分時間があってよく、時間的パターンは、積分時間のそれぞれがn番目のフレーム毎に切り替えられることを示してよい。上記の例では、時間的パターンは、マイクロボロメータデテクタの積分時間が、イメージフレーム毎の間で切り替えられることを示す。しかし、時間的パターンは、複数の積分時間の1つ又は複数が、1つの行における1つを超えるフレームに対して繰り返されることを示すことも可能である。例えば、2つの積分時間の場合では、時間的パターンの繰り返しは、
図4に示すように、{T1、T2、T2}となり得る。その場合には、積分時間T1は、時間的パターン内の第1の位置に置かれ、積分時間T2は、時間的パターン内の第2及び第3の位置に置かれる。2つの積分時間を持つ時間的パターンの別の例は、{T1、T1、T2、T2}である。当業者が認識するように、反復的な時間的パターンは、複数の積分時間から、多くの方法で形成され得、上記に与えられた例は、多くの可能な時間的パターンのいくつかにすぎない。
【0020】
異なる積分時間の間を切り替える際に、異なるレベルの電流が、マイクロボロメータデテクタ20のピクセルを通して流れる。より長い積分時間は、より短い積分時間のそれよりも高い電流への上昇を与える。これらの異なる電流は、マイクロボロメータデテクタ20の温度に影響し、最終的には、マイクロボロメータデテクタ20を出る信号に影響する。例えば、T1からT2へと切り替えられ、T1>T2であると、T1中のより高い電流は、マイクロボロメータ20に、積分時間が、その代わりに、その切り替えの前にT2であった時に有したであろうそれより高い温度を与えることとなる。その結果、後続のフレームの信号出力は、それまでにそうであったであろうそれより高くなる。換言すると、切り替えは、積分時間をもって撮像された後続のイメージフレームにおいてバイアスを導き入れる。T2からT1へと再度戻して切り替える際にも同じことが言えるが、その場合には、バイアスは、そうであったであろうそれより低い信号出力をもたらす、負の方向へのものである。このバイアスは、1つの行におけるいくつかのフレームが、同じ積分時間をもって撮像される場合に、時間とともに減ることとなる。なぜなら、マイクロボロメータデテクタ20の温度が、時間とともに落ち着くからである。これは、例えば、1つの行における2つのイメージフレームが、積分時間T2を使用して撮像されている
図4の例での場合となる。その場合には、バイアスは、同じ積分時間T2をもって撮像される後続のイメージフレームに対して異なることとなることがわかる。具体的には、T1からT2への切り替えの後に撮像された第1のイメージフレームは、切り替えの後に撮像された第2のイメージフレームのそれよりも大きいバイアスを有することとなる。しかし、バイアスは、時間的パターンの繰り返し内に同じ位置を有する2つのイメージフレームに対して同じとなることもわかる。例えば、
図3のイメージフレームI2、I4、I6、I8、I10、I12、及びI14は第1のバイアスに関連付けられ、一方で、イメージフレームI1、I3、I5、I7、I9、I11、I13は第2の異なるバイアスに関連付けられる。同様に、
図4では、イメージフレームJ1、J4、J7、J10、J13、J16、J19は第1のバイアスを有することとなり、イメージフレームJ2、J5、J8、J11、J14、J17、J20は第2のバイアスを有することとなり、イメージフレームJ3、J6、J9、J12、J15、J18、J21は第3のバイアスを有することとなる。ここに説明する実施形態は、この事実を使用可能とし、イメージフレームの補正を行う際にバイアスを打ち消す。
【0021】
コントローラ23はさらに、シャッタ21を制御し、それを開又は閉状態にしてよい。特に、それは、シャッタ21を制御し、積分時間の時間的パターンの1つ又は複数の第1の繰り返しR1からR2中にそれを閉状態とし、時間的パターンの他の1つ又は複数の第2の繰り返しR3からR7中にそれを開状態としてよい。開状態とは対照的に、シャッタ21が閉状態にあれば、シーン12からの放熱はサーマルカメラ10に入らず、マイクロボロメータデテクタ20に到達しない。シャッタが閉状態にある際に撮像された画像は、シャッタ画像と時に呼ばれる。なぜなら、それらは、シーン12ではなく、閉じたシャッタ21を描くからである。他の名称としては、フラットフィールド補正画像や、不均一補正画像がある。マイクロボロメータデテクタ20において不完全なところがなければ、シャッタ画像は、完全に均一となる、つまり、すべてのピクセルにおいて同じピクセル値を有することとなる。しかし、実際には、暗電流として知られる、マイクロボロメータデテクタ20における不完全なところにより、それらは均一とはならない。シャッタ画像の役割は、それらの不完全なところを測定し、それらが、シャッタ21が開状態にある際に撮像されたイメージフレームから打ち消され得るようにすることである。
【0022】
ここで使用されるように、積分時間の時間的パターンの1つ又は複数の第1の繰り返しは、時間的パターンの1つ又は複数の後続の繰り返しを指す。同様に、時間的パターンの1つ又は複数の第2の繰り返しは、時間的パターンの1つ又は複数の後続の繰り返しを指す。これを、
図3に示す。ここでは、シャッタは、時間的パターンの繰り返しR1からR2中に閉状態にあり、時間的パターンの繰り返しR3からR7中に開状態にある。シャッタが閉状態にある間に撮像されたイメージフレームI1からI4は、イメージフレームの第1のシーケンスS1を形成し、シャッタが開状態にある間に撮像されたイメージフレームI5からI14は、イメージフレームの第2のシーケンスS2を形成する。第1及び第2のシーケンスは、サーマルカメラ10により撮像されたイメージフレームのシーケンスの第1及び第2のサブシーケンスとして見られてよい。
【0023】
第1の繰り返しの数及び第2の繰り返しの数は、
図3に示すものに限定されず、異なる実施形態において変化してよいことが理解される。しかし、積分時間の時間的パターンの1つ又は複数の第1の繰り返しは、積分時間の時間的パターンの1つ又は複数の第2の繰り返しよりも少ない繰り返しを含むことが有益である。そのようにして、撮像された画像の多くが、閉じたシャッタではなく、シーンを描く、有益な画像となる。依然として、シャッタが閉じている間に撮像された画像におけるランダムなノイズを平均する機会を有するために、第1の繰り返しにおいて、時間的パターンの1つを超える繰り返しを含むことが有益であってよい。
【0024】
サーマルカメラ10はしたがって、イメージプロセッサ22とコントローラ23とを含み、これらは、サーマルカメラの種々の機能を実装するよう構成されている。一般的に、サーマルカメラは、コントローラ23及びイメージプロセッサ22、より具体的には、それらの機能を実装するよう構成されている回路を含んでよい。
【0025】
ハードウェアの実装では、イメージプロセッサ22及びコントローラ23は、それぞれのコンポーネントの機能を提供する専門の、具体的に設計された回路に相当してよい。この回路は、1つ又は複数の特定用途向け集積回路、若しくは、1つ又は複数のフィールドプログラマブルゲートアレイなどの、1つ又は複数の集積回路の形態であってよい。例示を目的として、コントローラ23は、使用時に、サーマルカメラ10に、イメージフレームの第1及び第2のシーケンスを、マイクロボロメータデテクタ20の積分時間を切り替える間に、シャッタ21を、閉及び開状態のそれぞれにして撮像する回路を含んでよい。同様に、イメージプロセッサ22は、使用時に、第2のシーケンスにおけるイメージフレームを、第1のシーケンスにおけるイメージフレームを使用して補正させる回路を含んでよい。例えば、イメージプロセッサ22は、サーマルカメラ10の画像処理パイプラインの一部を形成してよい。
【0026】
ソフトウェアの実装では、回路はその代わりに、不揮発性メモリなどの、(非一時的)コンピュータ可読媒体上に保存されたコンピュータコード命令と関連して、デバイス104に、ここに開示するいずれの方法を実施させるマイクロプロセッサなどの、プロセッサの形態であってよい。不揮発性メモリの例として、読み取り専用メモリ、フラッシュメモリ、強誘電性ランダムアクセスメモリ(RAM)、磁気コンピュータストレージデバイス、光学ディスク、などが挙げられる。ソフトウェアの場合では、コントローラ22及びイメージプロセッサのそれぞれはしたがって、プロセッサにより実行されると、デバイスサーマルカメラ10に、コンポーネントの機能を実施させる、コンピュータ可読媒体上に保存されたコンピュータコード命令の一部位に相当してよい。
【0027】
ハードウェアの実装及びソフトウェアの実装の組み合わせもまた可能であるということが理解されるであろう。これは、コントローラ23又はイメージプロセッサ22の中の1つの機能がハードウェアにて実装され、その他がソフトウェアにて実装されるということを意味する。
【0028】
マイクロボロメータデテクタ20を有するサーマルカメラ10におけるイメージフレームのシーケンスを撮像する方法を、
図2から
図4及び
図6のフローチャートを参照して説明する。任意の特徴の方法ステップを、
図6において破線により示す。
【0029】
ステップS102において、サーマルカメラ10は、イメージフレームI1からI4の第1のシーケンスS1を、マイクロボロメータデテクタ20の積分時間を、複数の積分時間I1、I2の間で、積分時間の時間的パターンの1つ又は複数の第1の繰り返しR1からR2にしたがって切り替える間に撮像する。より詳細には、サーマルカメラ10のコントローラ23が、マイクロボロメータデテクタ20及びシャッタ21をともに制御し、第1のイメージシーケンスS1を撮像する。
【0030】
ステップS104において、サーマルカメラ10は、イメージフレームI5からI14の第2のシーケンスS2を、マイクロボロメータデテクタ20の積分時間を、複数の積分時間I1、I2の間で、同じ時間的パターンの1つ又は複数の第2の繰り返しR3からR7にしたがって切り替える間に撮像する。
【0031】
図3に示すように、イメージフレームの第2のシーケンスS2は、イメージフレームの第1のシーケンスS1の後に撮像されてよい。これは、第2のシーケンスS2における画像の補正に使用される、第1のシーケンスS1におけるシャッタ画像が、第2のシーケンスS2における画像が撮像された際にすでに利用可能であるという点において、好適である。したがって、シャッタ画像が撮像されるのを待つ必要なく、第2のシーケンスS2における画像をすぐに補正できる。しかし、第1のシーケンスS1が第2のシーケンスS2の後に撮像される実施形態もまた想定され得る。
【0032】
第1のシーケンスS1及び第2のシーケンスS2のイメージフレームが撮像されると、それらは、イメージプロセッサ22に入力される。イメージプロセッサ22は、第2のシーケンスS2におけるイメージフレームI5からI14を、第1のシーケンスS1におけるイメージフレームを使用して補正する。補正は、さもなければいくつかのピクセルに誤ったピクセル値を持たせることとなり得る、マイクロボロメータデテクタ20における暗電流の影響を減らすよう行われる。より詳細には、ステップS106において、イメージプロセッサ22は、積分時間が積分時間の時間的パターン内の特定の位置に切り替えられた際に撮像された第2のシーケンスS2におけるイメージフレームを、積分時間が積分時間の時間的パターン内の同じ特定の位置に切り替えられた際に撮像された第1のシーケンスS1におけるイメージフレームを使用して補正する。
【0033】
図3を再度参照すると、積分時間の時間的パターンは、積分時間のシーケンス{T1、T2}に対応し、ここでは、T1は、時間的パターンにおいて第1の位置に置かれており、T2は、時間的パターンにおいて第2の位置に置かれている。第2のシーケンスS2におけるイメージフレームI5、I7、I9、I11、及びI13はすべて、積分時間が時間的パターンにおける第1の位置に切り替えられた際に撮像されている。同様に、第1のシーケンスS1におけるイメージフレームI1、I3は、積分時間が時間的パターンにおける第1の位置に切り替えられた際に撮像されている。この例では、イメージプロセッサ22はしたがって、第2のシーケンスS2におけるイメージフレームI5、I7、I9、I11、及びI13を、第1のシーケンスS1におけるイメージフレームI1、I3を使用して補正することとなる。同様に、イメージプロセッサ22は、第2のシーケンスS2におけるイメージフレームI6、I8、I10、I12、及びI14を、第1のシーケンスS1におけるイメージフレームI2及びI4を使用して補正することとなる。とりわけ、その補正に使用される、イメージフレームI5、I7、I9、I11、及びI13と、イメージフレームI1、I3と、は、時間的パターンの繰り返し内に同じ位置を有する。その補正に使用される、イメージフレームI6、I8、I10、I12、及びI14と、イメージフレームI2、I4と、にも、同じことが言える。
【0034】
図4は、別の例を示す。ここでは、積分時間の時間的パターンは、積分時間のシーケンス{T1、T2、T2}に対応し、ここでは、T1は、時間的パターンにおいて第1の位置に置かれており、T2は、時間的パターンにおいて第2の位置及び第3の位置に置かれている。この場合では、第2のシーケンスS2におけるイメージフレームJ7、J10、J13、J16、J19は、積分時間が時間的パターンにおける第1の位置に切り替えられた際に撮像されており、したがって、第1のシーケンスS1におけるイメージフレームJ1、J4を使用して補正されている。第2のシーケンスS2におけるイメージフレームJ8、J11、J14、J17、J20は、積分時間が時間的パターンにおける第2の位置に切り替えられた際に撮像されており、したがって、第1のシーケンスS1におけるイメージフレームJ2、J5を使用して補正されている。第2のシーケンスS2におけるイメージフレームJ9、J12、J15、J18、J21は、積分時間が時間的パターンにおける第2の位置に切り替えられた際に撮像されており、したがって、第1のシーケンスS1におけるイメージフレームJ3、J6を使用して補正されている。
【0035】
第2のシーケンスS2におけるイメージフレームはしたがって、同じ積分時間を有する第2のシーケンスS1におけるイメージフレームを使用して補正されているだけでなく、この積分時間もまた、積分時間の時間的パターン内に同じ位置を有する。それらが、積分時間の時間的パターン内に同じ位置を有するため、補正されるイメージフレーム及び補正に使用されるイメージフレームは、同じバイアスに関連付けられている。これは、補正を行う際にバイアスを打ち消すことを可能にする。
【0036】
第2のシーケンス22におけるイメージフレームにおいて補正を行うために、イメージプロセッサ22はまず、補正に使用される第1のイメージシーケンスS1におけるイメージフレームの平均を形成してよい。イメージプロセッサ22は、第1のシーケンスS1のイメージフレームを受信すると、この平均を計算して一時的に保存してよい。そのようにして、それは、イメージプロセッサ22に、第2のシーケンス22のイメージフレームが撮像された際の使用のために、利用可能となる。特に、積分時間が積分時間の時間的パターン内の特定の位置に切り替えられた際に撮像された第2のシーケンスS2におけるイメージフレームは、積分時間が積分時間の時間的パターン内の同じ特定の位置に切り替えられた際に撮像された第1のイメージシーケンスS1におけるイメージフレームの平均を使用して補正されてよい。この平均は典型的には、ピクセルに関する平均であり、この補正は、このピクセルに関する平均を、第2のシーケンスS2におけるイメージフレームから減算することにより行われてよい。平均化により、測定ノイズに対する敏感さが下げられる。さらに、減算を行うことにより、上記のバイアスが打ち消される。例示を目的として、イメージプロセッサ22は、イメージフレームI1及びI3の第1のピクセルに関する平均と、イメージフレームI2及びI4の第2のピクセルに関する平均と、を形成してよい。イメージプロセッサ22は続いて、イメージフレームからそのように形成された平均を、第2のシーケンスS2におけるイメージフレームから減算して補正を実行してよい。
図3の例では、イメージプロセッサ22はしたがって、フレームI1及びI3のピクセルに関する平均を、イメージフレームI5、I7、I9、I11、及びI13のそれぞれから減算することとなる。同様に、イメージプロセッサ22は、フレームI2及びI4のピクセルに関する平均を、イメージフレームI6、I8、I10、I12、及びI14のそれぞれから減算することとなる。
【0037】
ピクセルに関する平均の、第2のシーケンスS2におけるイメージフレームからの減算は、第2のシーケンスS2におけるイメージフレームにおける全体的な信号レベルに影響する場合がある。全体的な信号レベルを維持するため、第2のシーケンスS2におけるイメージフレームに、第1のシーケンスS1からの関連するシャッタ画像の合計平均を加算してよい。合計平均とは、すべての関連するシャッタ画像におけるすべてのピクセルの平均を意味する。例を示すと、イメージプロセッサ21は、フレームI1及びI3におけるすべてのピクセル値を平均することにより第1の合計平均を形成し、その第1の合計平均値をイメージフレームI5、I7、I9、I11、及びI13に加算してよい。同様に、イメージプロセッサ22は、フレームI2及びI4におけるすべてのピクセル値を平均することにより第2の合計平均を形成し、その第2の合計平均値をイメージフレームI6、I8、I10、I12、及びI14に加算してよい。同様に、ピクセルに関する平均について上述するように、イメージプロセッサ22は、第1のシーケンスS1のイメージフレームを受信すると、それらの合計平均を計算して一時的に保存してよい。代替として、ピクセルに関する平均をまず減算し、続いて、シャッタ画像の合計平均を加算する代わりに、イメージプロセッサ22は、例えば、合計平均を、ピクセルに関する平均から減算することにより、ピクセルに関する平均及び合計平均を、補正画像へと事前に組み合わせてよい。補正画像は続いて、一度の動作において、例えば、補正画像を、第2のシーケンスS2におけるイメージフレームから減算することにより、第2のシーケンスS2におけるイメージフレームの補正に使用されてよい。
【0038】
上述するように、イメージプロセッサ22は、第1のイメージシーケンスS1のシャッタ画像を使用して、第2のシーケンスS2におけるイメージフレームを補正する。しかし、サーマルカメラ10は時々、シャッタ画像の新たなシーケンスを撮像することが望ましい。したがって、コントローラ23は、いくつかの実施形態では、ステップS108において、マイクロボロメータデテクタ20及びシャッタ21を制御し、イメージフレームの第3のシーケンスを、サーマルカメラ10のシャッタ21が閉状態で、マイクロボロメータデテクタ20の積分時間を、複数の積分時間の間で、積分時間の同じ時間的パターンの1つ又は複数の第3の繰り返しにしたがって切り替える間に撮像してよい。イメージフレームの第3のシーケンスは、イメージフレームの第2のシーケンスS2の後に撮像されてよい。イメージフレームの第3のシーケンスは、イメージフレームの第3のシーケンスを撮像した後に撮像されたイメージフレームを補正するために使用されてよい。これを、
図5にさらに示す。これは、シャッタが閉状態にある際に、イメージフレームの第2のシーケンスS2の後に撮像されたイメージフレームの第3のシーケンスS3、及び、シャッタが開状態で、第3のシーケンスS3の後に撮像された、イメージフレームの第4のシーケンスS4を示す。上述するものと類似して、第3のシーケンスS3のイメージフレームは、第4のシーケンスS4におけるイメージフレームの補正に使用されてよい。
図5に示すように、この手順は典型的には繰り返され、サーマルカメラ10が、イメージフレームのシーケンスを、シャッタを互いに交換可能に閉及び開状態にして撮像し続けられるようにする。
【0039】
新たなシャッタ画像を時々撮像することの1つの理由は、マイクロボロメータデテクタ20における暗電流が、センサ温度とともに増えることである。シャッタ画像が最後に撮像されてから、センサ温度に大きな変動があると、シャッタ画像はしたがって古いものとなり、新たなシャッタ画像が撮像されることが望ましい。新たなシャッタ画像の撮像をトリガするために、異なるストラテジが使用されてよい。1つのシンプルはストラテジは、前のシャッタ画像を撮像することから所定時間が経過した際に、新たなシャッタ画像を撮像することである。したがって、第3のシーケンスS3を撮像することは、イメージフレームの第1のシーケンスを撮像してから経過した所定時間によりトリガされてよい。例示を目的として、新たなシャッタ画像は、10分毎に撮像されてよい。別のより洗練されたストラテジは、シャッタ画像が最後に撮像されてから、マイクロボロメータデテクタ20の温度が特定の値を超えて変動したことがわかった場合に、新たなシャッタ画像を撮像することである。したがって、第3のシーケンスS3を撮像することは、イメージフレームの第1のシーケンスを撮像してから温度閾値を超えて変化したマイクロボロメータデテクタの温度によりトリガされてよい。例示を目的として、温度閾値は、0.2℃に設定されてよい。しかし、温度閾値に使用する値は、マイクロボロメータデテクタ20の敏感さ及び使用されるカメラモジュールのタイプに依存してよい。このストラテジを実施するために、コントローラ23は、マイクロボロメータデテクタ20の温度センサ24を使用可能にする。特に、それは、マイクロボロメータデテクタ20の温度を監視し、デテクタ20の温度が、シャッタ画像のプレビューシーケンスS1を撮像してから温度閾値を超えて変動した際に、シャッタ画像の新たなシーケンスS3を撮像することをトリガできる。例えば、それは、マイクロボロメータデテクタ20の温度を、前のシーケンスS1の第1のイメージフレームI1を撮像する際に、その比較のための基準として使用できる。温度閾値は、所定の値であってよい。代替的に、温度閾値は、サーマルカメラの周囲温度とともに、予め画定されている関係にしたがって変化してよい。例えば、予め画定されている関係が、より高い周囲温度よりも低い周囲温度に対して、より低い温度閾値を使用することを指定してよい。周囲温度とともに温度閾値を変動させることについての1つの理由は、マイクロボロメータデテクタ20の敏感さが、周囲温度とともに変化することである。マイクロボロメータデテクタ20の温度センサ24は、カメラの周囲温度の予想を与えるために使用されてよい。なぜなら、デテクタ20の温度は本質的に、周囲温度を反映するからである。
【0040】
上記では、複数の積分時間の中の積分時間は、第1のシーケンスS1及び第2のシーケンスS1を通して固定されることが想定される。しかし、可視光カメラの露出時間と同様に、積分時間は時々調整され、サーマルカメラ10により生成されるイメージフレームにおいて適切な露出を与える必要がある。コントロールユニット23はしたがって、ステップS110において、複数の積分時間の中の1つの積分時間を調整してよい。この調整は、サーマルカメラ10の周囲温度における変化を検出することに応えて行われてよい。例えば、この調整は、サーマルカメラ10の周囲温度が、積分時間が最後に調整されてから、第2の温度閾値を超えて変化した場合に行われてよい。繰り返しになるが、サーマルカメラ10の温度センサ24は、周囲温度を予想するために使用されてよい。この調整はまた、第2のシーケンスS2のイメージフレームにおける飽和した又は黒いピクセルの数が、飽和閾値を超えることを検出することに応えて行われてよい。その場合には、イメージフレームは正しく露出されず、その画像を撮像する際に使用された積分時間が調整されることが望ましい。
【0041】
マイクロボロメータデテクタ20における暗電流値は、積分時間とともに変わるため、新たなシャッタ画像のシーケンスを撮像することを、積分時間の調整後にトリガするのが好ましい。したがって、さらに別のストラテジによると、第3のシーケンスS3を撮像することは、複数の積分時間中の少なくとも1つの積分時間の調整によりトリガされてよい。
【0042】
新たなシャッタ画像のシーケンスを撮像することをトリガする上記のストラテジは、組み合わされてよいことが理解される。例えば、基本的なルールとして、新たなシャッタ画像のシーケンスは、所定時間が経過するとトリガされてよい。しかし、それは、マイクロボロメータデテクタ20の温度が、最後のシャッタ画像のシーケンスから、温度閾値を超えて変わった場合に、又は、積分時間値の1つ又は複数の調整に続いてトリガされてよい。
【0043】
補正を行った後に、イメージプロセッサ22は、2つ又はそれ以上のビデオストリームを、カメラ10のシャッタ21が開状態にある間に撮像された画像から生成することに進んでよい。特に、ステップS112において、イメージプロセッサ22は、第1の積分時間を有するイメージフレームを、イメージフレームの第2のシーケンスS2から抽出して第1のビデオストリームを生成し、第1の積分時間より短い第2の積分時間を有するイメージフレームを、イメージフレームの第2のシーケンスから抽出して第2のビデオストリームを生成してよい。これは、1つのビデオストリームが、各積分時間に対して形成されるよう一般化することが理解される。これは、イメージフレームを第2のシーケンスS2から抽出することに限定されず、シャッタ21が開いている間に撮像された、いずれの後続のシーケンスS4、S6などにもあてはまることがさらに理解される。異なる積分時間に対応するビデオストリームは、対象検出やモーション検出などを含む異なるタイプの分析といった、異なるタイプの処理又は後処理を好適に受ける場合がある。1つの例では、画像処理ユニット22は、ステップS114において、第2のビデオストリームなどの、ビデオストリームの1つを監視し、そのビデオストリームにおけるピクセル値がアラーム閾値を超えた際にアラームを発してよい。さらに上述するように、これは、早期火災警報システムを実装するために好適に使用されてよい。
【0044】
当業者であれば、上記の実施形態を多くの方法にて変更でき、上記の実施形態に示すような、本発明の利点を依然として使用できることが理解されるであろう。本発明は従って、ここに示す実施形態に限定されるべきではなく、特許請求の範囲によってのみ定義されるべきである。更に、当業者が理解するように、ここに示す実施形態は組み合わせることも可能である。
【外国語明細書】