(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022118290
(43)【公開日】2022-08-15
(54)【発明の名称】制御装置
(51)【国際特許分類】
H04N 5/235 20060101AFI20220805BHJP
H04N 5/243 20060101ALI20220805BHJP
G03B 15/00 20210101ALI20220805BHJP
G03B 7/093 20210101ALI20220805BHJP
【FI】
H04N5/235 200
H04N5/243
G03B15/00 V
G03B7/093
【審査請求】未請求
【請求項の数】3
【出願形態】OL
(21)【出願番号】P 2021014707
(22)【出願日】2021-02-02
(71)【出願人】
【識別番号】000001487
【氏名又は名称】フォルシアクラリオン・エレクトロニクス株式会社
(74)【代理人】
【識別番号】110001081
【氏名又は名称】弁理士法人クシブチ国際特許事務所
(72)【発明者】
【氏名】高木 仁
【テーマコード(参考)】
2H002
5C122
【Fターム(参考)】
2H002CC00
2H002CD11
2H002FB22
2H002JA08
5C122DA03
5C122EA13
5C122EA27
5C122FF01
5C122FF11
5C122FF15
5C122FF18
5C122FF22
5C122HB02
5C122HB06
(57)【要約】
【課題】瞬間的な干渉光が生じる状況下でも適切に撮影できるようにする。
【解決手段】露光制御部48は、明るさが暗方向に変化する場合、第1明るさK1から当該第1明るさK1よりも暗い第2明るさK2までの範囲であり、かつ、干渉光の干渉タイミングPに対応する干渉対応露光値Eaxを含んだ第1明るさ範囲Km1内の明るさKの露光値Eaを制御するとき、露光中に前記干渉タイミングを含まない所定露光時間に前記露光時間Daを固定しつつ、前記ゲインGaを上げることで前記露光値Eaを制御し、前記第2明るさK2よりも暗い第2明るさ範囲Km2内の明るさKの露光値Eaを制御するとき、前記所定露光時間よりも長い時間を前記露光時間Daに設定して前記露光値Eaを制御する。
【選択図】
図6
【特許請求の範囲】
【請求項1】
明るさを測定する明るさ測定部と、
撮像素子から出力される信号のゲインを調整するゲイン調整部と、
露光時間を調整する露光時間調整部と、
前記ゲイン調整部と前記露光時間調整部とを制御することで、前記ゲイン及び前記露光時間の2つのパラメータによって規定された露光値を制御する露光制御部と、を備え、
前記露光制御部は、
前記明るさ測定部によって測定された明るさが暗方向に変化する場合、
第1明るさから当該第1明るさよりも暗い第2明るさまでの範囲であり、かつ、干渉光が発生する干渉タイミングに対応する干渉対応露光値を含んだ第1明るさ範囲内の明るさの露光値を制御するとき、露光中に前記干渉タイミングを含まない所定露光時間に前記露光時間を固定しつつ、前記ゲインを上げることで前記露光値を制御し、
前記第2明るさよりも暗い第2明るさ範囲内の明るさの露光値を制御するとき、前記所定露光時間よりも長い時間を前記露光時間に設定して前記露光値を制御する
ことを特徴とする制御装置。
【請求項2】
前記露光制御部は、
前記明るさ測定部によって測定された明るさが明方向に変化する場合、
前記第1明るさ範囲内の明るさの露光値を制御するとき、
前記ゲインを固定しつつ、前記露光時間を短くして前記露光値を制御する
ことを特徴とする請求項1に記載の制御装置。
【請求項3】
前記露光時間の露光開始タイミングは、
前記干渉光が発生する干渉タイミングと同期している
ことを特徴とする請求項1または2に記載の制御装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、制御装置に関する。
【背景技術】
【0002】
特許文献1の要約書において、「課題」の欄に「被写体の明るさが変化した場合でも、ノイズを迅速に抑圧する。」ことが記載されている。また「解決手段」の欄に、「撮像装置は、CMOS等の撮像素子とAE/AF制御部を備える。被写体の明るさが減少した場合に(b)、AE/AF制御部は次のフレームにおいて画像信号を増幅する増幅器のゲインを増大させる(c)。同時に、このゲインの増大を補償するように、露光時間を減少させる(d)。露光時間は、その後、段階的に元の露光時間まで戻す。」ことが記載されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1では、被写体、及び、その周辺環境の明るさの変化に加え、他の光源による瞬間的な発光が干渉光となって撮影に干渉が生じる状況については考慮されていない。
本発明は、瞬間的な干渉光が生じる状況下でも適切に撮影できる制御装置を提供することを目的とする。
【課題を解決するための手段】
【0005】
本発明の一態様は、明るさを測定する明るさ測定部と、撮像素子から出力される信号のゲインを調整するゲイン調整部と、露光時間を調整する露光時間調整部と、前記ゲイン調整部と前記露光時間調整部とを制御することで、前記ゲイン及び前記露光時間の2つのパラメータによって規定された露光値を制御する露光制御部と、を備え、前記露光制御部は、前記明るさ測定部によって測定された明るさが暗方向に変化する場合、第1明るさから当該第1明るさよりも暗い第2明るさまでの範囲であり、かつ、干渉光が発生する干渉タイミングに対応する干渉対応露光値を含んだ第1明るさ範囲内の明るさの露光値を制御するとき、露光中に前記干渉タイミングを含まない所定露光時間に前記露光時間を固定しつつ、前記ゲインを上げることで前記露光値を制御し、前記第2明るさよりも暗い第2明るさ範囲内の明るさの露光値を制御するとき、前記所定露光時間よりも長い時間を前記露光時間に設定して前記露光値を制御することを特徴とする制御装置である。
【発明の効果】
【0006】
本発明によれば、瞬間的な干渉が生じる状況下でも適切に撮影できる。
【図面の簡単な説明】
【0007】
【
図1】本発明の実施形態に係る車載撮影システムの機能的構成を示すブロック図である。
【
図2】載撮影システムにおけるCMS、及びTOFカメラシステムのそれぞれの撮影動作を示す図である。
【
図3】CMSカメラモジュールの撮像素子における蓄積電荷量の変化を示す図である。
【発明を実施するための形態】
【0008】
以下、図面を参照して本発明の実施形態について説明する。
図1は、本実施形態に係る車載撮影システム1の機能的構成を示すブロック図である。
車載撮影システム1は、車両2に搭載され、車両2の周辺や車室内などの被写体を撮影するシステムである。本実施形態の車載撮影システム1は、CMS(CMS:Camera Monitor System)10と、TOF(TOF:Time Of Flight)カメラシステム20と、の2つのカメラシステムを備えている。なお、以下の説明において、被写体とその周辺を含む環境を「撮影環境」と言う。
【0009】
CMS10は、バックミラーやサイドミラーなどの役割を担う電子ミラーを構成するカメラシステムである。具体的には、CMS10は、車両2の外を撮影する第1の撮影装置であるCMSカメラモジュール12と、CMSカメラモジュール12で撮影された画像(本実施形態では映像)を表示する表示装置14と、CMS10の動作を制御するCMSECU(ECU:Electronic Control Unit)16と、を備えている。
TOFカメラシステム20は、車両2の周辺や車室内の運転者などの監視等に用いられるカメラシステムであり、対象を撮影する第2の撮影装置であるTOFカメラモジュール22と、当該TOFカメラシステム20の動作を制御するTOFECU26と、を備えている。
車載撮影システム1において、CMSECU16とTOFECU26とは車載ネットワーク30に接続されている。
また、CMSECU16及びTOFECU26はそれぞれ、車載ネットワーク30を介した通信のための通信トランシーバと、マイクロコントローラとを有し、マイクロコントローラは、通信トランシーバを用いて車載ネットワーク30を介して相互に通信し、撮影に関する各種のタイミングを示す信号や、その他の適宜の情報を送受する。なお、CMSECU16とTOFECU26が別体の例を示したが、CMSECU16とTOFECU26は一体でもよい。
【0010】
CMSカメラモジュール12は、第1のフレームレートの映像(動画像)をCMSECU16に出力するモジュールである。かかるCMSカメラモジュール12は、撮像素子17と、第1の発光装置18と、第1のISP(ISP:Image Signal Processor)19と、を備えている。
撮像素子17は、カラー画像と近赤外線画像を同時に撮影可能なRGB-IR(IR:Infrared)イメージセンサである。
第1の発光装置18は、撮影環境の明るさを補う光を発する装置である。この光は、運転者が発光を知覚することがない近赤外の光であり、運転者の運転に影響が生じることが防止されている。かかる第1の発光装置18は、夜間に相当する明るさ程度に撮影環境が暗く、カラー画像が不鮮明になる場合に発光することで鮮明な近赤外画像を撮影可能にする。これにより、夜間においても運転者に影響を与えずに鮮明な画像が得られる。なお、第1の発光装置18を発光させる撮影環境の明るさの閾値は適宜に設定される。
第1のISP19は、撮像素子17の電気信号に基づいて画像データを生成する信号処理装置である。第1のISP19は、撮影環境が明るい場合はカラー画像の画像データを生成し、撮影環境が暗く第1の発光装置18が発光する場合は近赤外画像の画像データを生成する。
この第1のISP19は、撮像素子17の全画素の電気信号を露光の終了タイミングTae(
図2)で一度に取得する「グローバルシャッター」と称される方式によって撮像素子17から電気信号を取得する。
なお、第1の発光装置18及び第1のISP19はCMSカメラモジュールと別体に設けられても良い。
【0011】
TOFカメラモジュール22は、被写体に参照光を照射してから当該被写体で反射した反射光を受光するまでの時間(すなわち飛行時間)に基づいて、TOFカメラモジュール22から被写体までの距離を測定し、当該距離に基づいて被写体の三次元画像を生成するカメラモジュールである。
かかるTOFカメラモジュール22は、参照光を発する第2の発光装置28と、反射光を受光する受光素子27と、第2のISP29と、を備えている。
第2の発光装置28の参照光は、CMS10の第1の発光装置18と同様に近赤外の光であり、運転への影響防止が図られている。
第2のISP29は、参照光の発光タイミングと受光素子27での受光タイミングとの時間差に基づいて飛行時間を求め、当該飛行時間に基づいて対象物までの距離を測定し、当該距離に基づいて三次元画像の画像データを生成する信号処理装置である。
また第2のISP29は、第2のフレームレートで第2の発光装置28を発光させ、第2の発光装置28が発光するごとに三次元画像の画像データを生成することで、当該フレームレートの映像(動画像)を生成する。
なお、第2の発光装置28及び第2のISP29はTOFカメラモジュールと別体に設けられても良い。
【0012】
図2は、車載撮影システム1におけるCMS10、及びTOFカメラシステム20のそれぞれの撮影動作を示す図である。
本実施形態において、CMS10は、60fps(撮影周期Aa=約33ms)のフレームレート(第1のフレームレート)で繰り返し撮影を行っている。各フレームにおいて、CMS10は、撮影環境の明るさが暗いほど長い露光時間Daを設定する。ただし、明るさが所定値を下回っている場合(図中、「夜間」)、CMS10は、第1の発光装置18によって近赤外光を発して明るさを補い、補われた明るさに応じて露光時間Daを短縮する。そして、露光時間Daの間に撮像素子17の各画素に蓄積された電荷に基づく電気信号が第1のISP19に入力され、第1のISP19が当該電気信号に基づいて画像データを生成する。
【0013】
一方、TOFカメラシステム20は、30fps(撮影周期Ab=約16.7ms)のフレームレート(第2のフレームレート)で繰り返し撮影を行っている。各フレームにおいて、第2の発光装置28が撮影周期Abに比べて非常に短い一定の発光時間Fbで瞬間的に発光することで近赤外光の参照光を被写体に照射し、これと同期して受光素子27によって反射光を一定の露光時間Dbに亘って受光する。そして、第2のISP29が発光タイミングと反射光の受光タイミングとの時間差に基づいて上記飛行時間を測定することで被写体までの距離を測定し、当該距離に基づいて三次元画像の画像データを生成する。
【0014】
ここで、CMS10及びTOFカメラシステム20のそれぞれが互いに同期せずにランダムなタイミングで撮影を行っている場合、CMS10の発光がTOFカメラシステム20の撮影に干渉し、同様に、TOFカメラシステム20の発光がCMS10の撮影に干渉する場合がある。このように、一方のカメラシステムにおいて、他方のカメラシステムの発光(以下、「干渉光」という)による干渉が生じた場合、当該干渉光によって撮影環境の明るさが増加し画像に影響が生じる。
【0015】
そこで本実施形態の車載撮影システム1は、CMS10のフレームレートがTOFカメラシステム20のフレームレートの整数倍であることで、CMS10及びTOFカメラシステム20のそれぞれの撮影タイミングが互いに同期し、ランダムなタイミングでの干渉の発生が防止されている。
【0016】
加えて、CMS10は、第1の発光装置18が発光する場合でも、TOFカメラシステム20の露光終了タイミングTbeから第1所定時間Ha後に発光を開始し、なおかつ、TOFカメラシステム20の次の露光開始タイミングTbsの前までに発光を終了する。
これにより、TOFカメラシステム20の露光時間Dbの間にCMS10の発光が発生することがないため、当該発光がTOFカメラシステム20に干渉することがない。
【0017】
一方、CMS10のフレームレートはTOFカメラシステム20のフレームレートの2倍であるため、1サイクルのCMS10の撮影周期AaにおいてTOFカメラシステム20の発光による干渉が発生する回数は、この撮影周期Aaの全期間に亘ってCMS10が露光を行ったとしても最大2回に抑えられる。これに加え、CMS10の最大露光時間Damaxは、2回目のTOFカメラシステム20の発光タイミング(撮影周期Abの開始タイミング)よりも前に露光が終了する長さに設定されている(
図3)。これにより、CMS10は、各フレームの撮影において、2回目のTOFカメラシステム20の発光が開始する前に必ず露光を終了するため、CMS10が干渉を受ける回数が最大でも1回に限定されることとなる。
【0018】
このように、CMS10及びTOFカメラシステム20のそれぞれの発光が互いの撮影に干渉する回数が制限されることで、干渉による画像の乱れの発生頻度が抑えられる。
特に、CMS10において、1サイクルの撮影周期Aaの間にCMS10が干渉光の干渉を受ける回数は最大でも1回であるため、複数回の干渉を受ける場合に比べ、画像の明るさの変動が抑えられ、あたかも点滅するようにCMS10の映像(動画像)が乱れるといったことも防止される。
【0019】
ただし、TOFカメラシステム20の発光のような瞬間的な干渉光が発生した場合、一般的な撮像装置で行われる露光制御では、制御系にハンチングを生じ、当該ハンチングにより映像に乱れが生じることがある。
【0020】
詳述すると、CMSカメラモジュール12の撮像素子17における蓄積電荷量を示す値(以下、「CMS積分値」という)は、
図3に示すように、露光開始タイミングTasから露光時間Daの長さに比例して緩やかな勾配α1で増加する。その後、TOFカメラシステム20による干渉光が短時間の間、発生すると、かかる干渉が発生したタイミングからCMS積分値が干渉光の光量に応じて急激な勾配α2で増加する。この急激な増加は、TOFカメラシステム20の発光時間Fbに亘って続き、干渉光の消失に伴ってCMS積分値の増加の勾配が勾配α1に戻る。以下、かかる干渉が生じるタイミングを干渉タイミングPといい、かかる干渉タイミングPは、発光時間Fbに応じた時間幅を有する。
なお、蓄電電荷量は撮影環境の明るさと相関を有することから、
図3のCMS積分値の変化は、撮影環境の明るさの変化を示すものとも言える。
【0021】
一方、露光制御は、撮影環境の明るさに対応した露光値が得られるようにゲイン及び露光時間を可変する制御である。かかる露光値は、ゲインと露光時間との加算値であり、
図4に示すように、撮影環境の明るさが暗くなるほど増加するように設定されている。
一般的な露光制御において、露光値を増加させる場合、先ず、ゲインをゼロに固定したまま、露光時間を最大露光時間に達するまで延ばし、その後、露光時間を最大露光時間に固定したままゲインを上昇させている。
【0022】
しかしながら、この一般的な自動露光制御において、干渉光による瞬間的な明るさの変動に露光値を追従させるようにゲインや露光時間を制御した場合、制御系にハンチングが生じ、結果として映像(動画像)に乱れが生じることがある。
【0023】
そこで、本実施形態のCMSカメラモジュール12は、瞬間的な干渉光が発生する状況下でも、第1のISP19が適切に撮影を制御するように構成されている。
【0024】
図5は、第1のISP19の機能的構成を示すブロック図である。
第1のISP19は、CMSカメラモジュール12の撮影動作を制御する撮影制御部40と、撮像素子17の電気信号に対して公知又は周知の適宜の信号処理を施すことで画像データを生成する画像生成部50と、を備えている。なお、同図に示す露光時間調整部46とゲイン調整部44は第1のISP19内ではなく撮像素子17に備えられても良い。
【0025】
撮影制御部40は、撮影動作の制御機能の一つとして、各フレームの画像の撮影時に撮影環境の明るさに応じて露光値を動的に制御する機能を備え、この機能を実現するために、明るさ測定部42と、ゲイン調整部44と、露光時間調整部46と、露光制御部48と、を備えている。
【0026】
明るさ測定部42は、撮像素子17の電気信号の強度に基づいて撮影環境の明るさを測定する。なお、明るさ測定部42は、他の公知又は周知の適宜の手法を用いて、撮影環境の明るさを測定してもよい。
ゲイン調整部44は、撮影時のゲインGaを調整する手段であり、撮像素子17の電気信号を、露光制御部48の制御に基づき増幅する増幅器を備える。
露光時間調整部46は、撮影時の露光時間Daを調整するものであり、撮像素子17を制御して受光時間(電荷の蓄電期間)を露光制御部48の制御に基づき可変する電子シャッターの機能を備える。
露光制御部48は、撮影環境の明るさに対応する露光値Eaが得られるように、各フレームにおける撮影時の露光時間Da及びゲインGaを可変する。
【0027】
図6は、露光制御部48による露光制御の説明図である。
本露光制御において、露光値Eaは露光時間DaとゲインGaの2つのパラメータの加算値であり、
図6に示すように、撮影環境の明るさKが暗くなるほど増加するように設定されている。本実施形態では、露光値Eaは負の傾きで明るさKに比例する一次関数によって規定されている。
【0028】
そして、明るさ測定部42が各フレームの撮影ごとに撮影環境の明るさKを測定しており、露光制御部48は、各フレームの撮影時に直前のフレームで測定された撮影環境の明るさKに基づき、露光値Eaを決定し、この露光値Eaが得られるように露光時間DaとゲインGaの両方又は片方のパラメータを可変する。
【0029】
詳述すると、本実施形態では、
図6に示すように、撮影環境の明るさKが第ゼロ明るさ範囲Km0、第1明るさ範囲Km1、第2明るさ範囲Km2、および第3明るさ範囲Km3に区画されており、露光制御部48は、区画された各範囲に応じて露光時間DaおよびゲインGaを適切に可変する。
【0030】
第ゼロ明るさ範囲Km0は、第ゼロ明るさK0から第1明るさK1までの明るさ範囲であり、第1明るさK1は、前掲
図3を参照して説明した露光制御において、露光時間Daが最大不干渉露光時間Daxnとなる明るさである。この最大不干渉露光時間Daxnは、干渉光の干渉を受けずに露光可能な最大の露光時間Daであり、前掲
図2に示すように、CMS10の露光開始タイミングTasからTOFカメラシステム20の露光開始タイミングTbsまでの時間から所定マージンHbを減じた時間に相当する。
第1明るさ範囲Km1は、第1明るさK1から第2明るさK2までの明るさ範囲であり、この第2明るさK2は、干渉対応露光値Eaxよりも大きな値の所定露光値Eavに対応する明るさである。干渉対応露光値Eaxは、最小干渉露光時間Daxに対応する露光値である。この最小干渉露光時間Daxは、ゲインGaをゼロに固定したまま、露光時間Daのみで露光値Eaを制御することを想定した場合に、TOFカメラシステム20の発光(干渉光)が終了するタイミング(すなわち、干渉タイミングPの終了タイミング)に所定マージンHcを加えた時間である。
第2明るさ範囲Km2は、第2明るさK2から第3明るさK3までの明るさ範囲であり、この第3明るさK3は、ゲインGaをゼロに固定したまま、露光時間Daのみで露光値Eaを制御することを想定した場合に、露光時間Daが最大露光時間Damaxとなる明るさである。
第3明るさ範囲Km3は、第3明るさK3よりも暗い明るさの範囲である。
【0031】
次いで、第ゼロ明るさ範囲Km0から第3明るさ範囲Km3までの各範囲での露光値制御を説明する。
【0032】
(0)第ゼロ明るさ範囲Km0の露光値制御
露光制御部48は、ゲインGaを一定値に固定し(通常はゲインGa=ゼロ)、露光時間Daのみで露光値Eaを調整する。この場合、露光時間Daは一次関数的に調整される。
【0033】
(1)第1明るさ範囲Km1の露光値制御
露光制御部48は、第1露光値制御、K2遷移露光値制御、第2露光値制御、および、Kax遷移露光値制御のいずれかを実行する。
【0034】
(A)第1露光値制御
第1露光値制御は、上記「第ゼロ明るさ範囲Km0の露光値制御」、または、後述の「Kax遷移露光値制御」に続く場合に実行される制御である。すなわち、明るさKが、第1明るさK1、または、第1明るさ範囲Km1内の後述する干渉対応明るさKaxから変化し、その後、当該第1明るさ範囲Km1の範囲で変化する場合に、第1露光値制御が行われる。
第1露光値制御において、露光制御部48は、露光時間Daを最大不干渉露光時間Daxnに固定したまま、ゲインGaを変化させることで露光値Eaを調整する。
例えば、第1露光値制御が後述の「Kax遷移露光値制御」に続いて実行されるときには、露光中に干渉タイミングPを含む状態から、当該干渉タイミングPを含まない状態へ変化するため、明るさKの測定値が暗方向に変動する。露光制御部48は、この暗方向への明るさKの変動に対応するために、露光時間Daを最大不干渉露光時間Daxnに固定したまま、ゲインGaを一次関数的に上げて露光値Eaを上げる。このとき、露光時間Daが最大不干渉露光時間Daxnで固定されることで、露光値Eaは干渉タイミングPを必ず含まない範囲で可変されることとなる。
【0035】
(B)K2遷移露光値制御
K2遷移露光値制御は、明るさKが第1明るさ範囲Km1内を変化することで第1露光制御が行われているときに、明るさKが第2明るさK2に至って第2明るさ範囲Km2内へ変化するときに行われる制御である。なお、
図6において、明るさK2の軸線上の露光時間DaおよびゲインGaの遷移方向を示す矢印は、この遷移方向にのみ露光時間DaおよびゲインGaが変化することを意味している。
K2遷移露光値制御において、露光制御部48は、明るさKが第2明るさK2に至った場合、露光時間Daを最大不干渉露光時間Daxnから第2露光時間Davに変え、ゲインGaを第2露光時間Davと最大不干渉露光時間Daxnの露光時間差ΔDav(=Dav-Daxn)に相当する値だけ、そのときの第1ゲインGavから減少させた第2ゲインGav0にゲインGaを変える。言い換えると、露光時間差ΔDavは、第1ゲインGavと第2ゲインGav0のゲイン差ΔGav(=Gav-Gav0)に等しく正の値である。なお、第2ゲインGav0はゼロでなくてもよい。
【0036】
(C)第2露光値制御
第2露光値制御は、上記「K2遷移露光値制御」の後、明るさKが第1明るさ範囲Km1において、干渉対応明るさKaxから第2明るさK2の範囲で変化する場合、または、後述の「第2明るさ範囲Km2の露光値制御」の後、明るさKが第2明るさ範囲Km2よりも明るくなって第1明るさ範囲Km1において、干渉対応明るさKaxから第2明るさK2の範囲で変化する場合に実行される制御である。
第2露光値制御において、露光制御部48は、ゲインGaを第2ゲインGav0で固定したまま、露光時間Daを変化させることで露光値Eaを調整する。
例えば、第2露光値制御が上記「K2遷移露光値制御」に続いて行われるときには、露光中に干渉タイミングPを含まない状態から当該干渉タイミングPを含む状態に変化するため、明るさKの測定値が明方向に変動する。露光制御部48は、この明方向への明るさKの変動に対応するために、露光時間Daを一次関数的に下げて露光値Eaを下げる。このときの露光時間Daの下限値を少なくとも最小干渉露光時間Daxよりも大きな露光時間とすることで、露光時間Daは、露光中に干渉タイミングPを必ず含む範囲で可変される。
【0037】
(D)Kax遷移露光値制御
Kax遷移露光値制御は、上記「第2露光値制御」の実行時に、明るさKが干渉対応明るさKaxよりも暗い状態から明方向に変化し、当該干渉対応明るさKaxに至って、明るさKが第1明るさK1方向へ変化するときに行われる制御である。なお、干渉対応明るさKaxは、
図3で説明した露光値制御において干渉対応露光値Eaxに対応する明るさである。また、
図6において、この干渉対応明るさKaxの軸線上の露光時間DaおよびゲインGaの遷移方向を示す矢印は、この遷移方向にのみ露光時間DaおよびゲインGaが変化することを意味している。
Kax遷移露光値制御において、露光制御部48は、明るさKが干渉対応明るさKaxに至ると、露光時間Daを最小干渉露光時間Daxから最大不干渉露光時間Daxnに遷移させ、ゲインGaを最小干渉露光時間Daxと最大不干渉露光時間Daxnの露光時間差ΔDax(=Dax-Daxn)に相当する値だけ、そのときの第2ゲインGav0から増加させた第3ゲインGaxにゲインGaを変える。言い換えると、露光時間差ΔDaxはゲイン差ΔGax(=Gax-Gav0)に等しく、正の値である。
【0038】
(2)第2明るさ範囲Km2の露光値制御
上記「第1明るさ範囲Km1の露光値制御」における「K2遷移露光値制御」、または、後述の「第2明るさ範囲Km2の露光値制御」の実行時に明るさKが変化し、当該明るさKが第2明るさ範囲Km2内で変化する場合、露光制御部48は、上記「第2露光値制御」と同様の制御を実行する。すなわち、露光制御部48は、ゲインGaを第2ゲインGav0で固定したまま、露光時間Daを変化させることで露光値Eaを調整する。
【0039】
(3)第3明るさ範囲Km3の露光値制御
第1明るさ範囲Km1または第2明るさ範囲Km2における上記「第2露光値制御」の実行時に明るさKが変化し、当該明るさKが第3明るさ範囲Km3内で変化する場合、露光制御部48は、露光時間Daを最大露光時間Damaxに固定したまま、ゲインGaを一次関数的に変化させることで、露光値Eaを変化させる。
【0040】
かかる露光値制御によれば、干渉対応露光値Eaxを含む第1明るさ範囲Km1の露光値制御において、何度も干渉タイミングPを前後するように露光時間Daが可変されることがなく、これにより、制御系のハンチングが防止され、映像の乱れが抑えられる。
また第1明るさ範囲Km1の露光値制御において、第1露光値制御および第2露光値制御とで、露光値Eaを得るために可変するパラメータが異なっており、制御系のロバスト性を向上させることができる。
【0041】
上述した実施形態によれば、次のような効果を奏する。
【0042】
本実施形態の露光制御部48は、撮影環境の明るさKの暗方向への変化に追従して露光値Eaを制御する場合、干渉対応露光値Eaxを含む第1明るさ範囲Km1内の明るさKの露光値Eaを制御するときは、干渉タイミングPを含まない最大不干渉露光時間Daxnに露光時間Daを固定したまま、ゲインGaのみを可変させることで制御する。
加えて、露光制御部48は、第2明るさK2よりも暗い第2明るさ範囲Km2または第3明るさ範囲Km3内の明るさKの露光値Eaを制御するとき、最大不干渉露光時間Daxnよりも長い露光時間Da、すなわち、露光中に必ず干渉タイミングPを含む時間長の範囲で露光時間Daを設定して露光値Eaを制御する。
これにより、露光制御部48が撮影環境の明るさKの暗方向への変化に追従して露光値Eaを制御する際に、何度も干渉タイミングPを前後するように露光時間Daを可変することがないため、制御系のハンチングが防止され、ハンチングによる映像の乱れを抑えることができる。
【0043】
本実施形態の露光制御部48は、撮影環境の明るさKの明方向への変化に追従して露光値Eaを制御する場合、第1明るさ範囲Km1において、干渉対応明るさKaxから第2明るさK2の範囲で明るさKの露光値Eaを制御するとき、ゲインGaを固定しつつ露光時間Daを短くして露光値Eaを制御する。
これにより、干渉対応露光値Eaxを含む第1明るさ範囲Km1において、干渉対応明るさKaxから第2明るさK2の範囲での明るさKの露光値Eaの制御において、撮影環境の明るさKに追従して露光値Eaを増加させる場合と、露光値Eaを減少させる場合とで、露光値Eaを得るために可変するパラメータが異なるため、制御系のロバスト性を向上させることができる。
【0044】
本実施形態において、CMS10とTOFカメラシステム20とが同期して撮影することで、露光時間Daの露光開始タイミングTasが干渉タイミングPと同期する。
これにより、干渉タイミングPに対応する干渉対応露光値Eaxが正確に定まり、より安定した制御が実現される。
【0045】
上述した実施形態は、あくまでも本発明の一態様を例示したものであって、本発明の趣旨を逸脱しない範囲で任意に変形、及び応用が可能である。
【0046】
例えば、
図4に示す撮影制御部40は、第1のISP19とは異なる制御装置によって実現されてもよい。
また、本発明は、CMSカメラモジュール12に限らず、グローバルシャッター方式で撮影を行う任意の撮影装置の露光制御に適用することができる。撮像素子17は、カラー画像と近赤外線画像を同時に撮影可能なRGB-IR(IR:Infrared)イメージセンサである例を記載したが、本発明はIRカメラにも適用可能である。
また、上述した実施形態において、各種の数値に係る記載は、特段の断りがない限り、その数値の周辺を除外するものではない。すなわち、これらの数値と同じ作用効果を奏する限りにおいて、実施形態における数値は、その数値の周辺(いわゆる、均等の範囲)を含む。
【符号の説明】
【0047】
1 車載撮影システム
10 CMS
12 CMSカメラモジュール
17 撮像素子
18 第1の発光装置
19 第1のISP
20 TOFカメラシステム
22 TOFカメラモジュール
28 第2の発光装置
40 撮影制御部
42 明るさ測定部
44 ゲイン調整部
46 露光時間調整部
48 露光制御部
Da 露光時間
Daxn 最大不干渉露光時間
Dax 最小干渉露光時間
Ea 露光値
Eav 所定露光値
Eax 干渉対応露光値