(58)【調査した分野】(Int.Cl.,DB名)
前記発光調整部が、画像データのうち飽和している画素数が所定割合以下となるように前記発光装置の発光強度を調整する、ことを特徴とする請求項1に記載の撮像制御装置。
【背景技術】
【0002】
撮像装置として、第1波長帯域の光を受光し撮像して得られる第1画像データを出力するとともに、第2波長帯域の光を受光し撮像して得られる第2画像データを出力するものが知られている(特許文献1〜3を参照)。例えば、第1波長帯域は可視域であり、第2波長帯域は赤外域である。このような撮像装置は、複数の画素がアレイ配置されている受光部を有する。各画素は、第1波長帯域の光を受光する第1受光素子と、第2波長帯域の光を受光する第2受光素子とを含む。第1受光素子および第2受光素子それぞれには、受光すべき波長帯域の光を選択的に透過させる光フィルタが設けられている。
【0003】
このような撮像装置は以下のような用途を有する。人の肌を撮像して可視域画像データおよび赤外域画像データを同時に取得し、両画像データの差分をとることで、その肌に隠れたしみやしわを見つけることができるとされている。交差点風景を撮像して可視域画像データおよび赤外域画像データを同時に取得し、可視域画像データに基づいて信号の色を認識するとともに、赤外域画像データに基づいて歩行者や障害物等を検出することができるとされている。
【0004】
遠景を含む風景を撮像して可視域画像データおよび赤外域画像データを同時に取得し、赤外域画像データのエッジ成分を可視域画像データに付加することで、遠景画像を鮮明化することができるとされている。暗所で赤外域画像データを取得して自動焦点を行って、焦点が合った可視光画像データを取得することができるとされている。また、可視域画像データおよび赤外域画像データを同時に取得することで、可視域および赤外域を含むカラー画像を取得することができるとされている。
【発明の概要】
【発明が解決しようとする課題】
【0006】
撮像装置から出力される画像データの明るさは、露光時間,絞り値およびゲインの何れかにより調整され得る。ここで、露光時間は、受光に応じて電荷を発生させ該電荷を蓄積する時間である。絞り値は、レンズの焦点距離をレンズの有効口径で割った値である。また、ゲインは、蓄積電荷量を出力電圧値に変換する際の両者の比である。
【0007】
しかしながら、一般に、第1受光素子および第2受光素子それぞれの感度が互いに異なり、受光する第1波長帯域および第2波長帯域それぞれの光の強度が互いに異なり、また、第1受光素子および第2受光素子それぞれの露光時間,絞り値またはゲインを個別に設定することができないことから、様々な被写体について第1画像データおよび第2画像データそれぞれの明るさを共に適正範囲とすることは困難である。
【0008】
例えば、第1画像データの明るさが適正範囲であったとしても、第2画像データにおいて多くの画素で飽和している場合や、逆に第2画像データが暗くノイズ成分の大きさと同程度となる場合がある。これらの場合、前述した用途の目的を達成することが困難となる。
【0009】
本発明は、上記問題点を解消する為になされたものであり、様々な被写体について撮像装置から出力される第1画像データおよび第2画像データそれぞれの明るさを共に適正範囲とすることができる撮像制御装置を提供することを目的とする。また、このような撮像制御装置および撮像装置を備える撮像システムを提供することをも目的とする。
【課題を解決するための手段】
【0010】
本発明の撮像制御装置は、
第1受光素子および第2受光素子を各々含む複数の画素がアレイ配置され、複数の画素それぞれの第1受光素子により第1波長帯域の光を受光し撮像して
第1画像データを取得すると同時に、複数の画素それぞれの第2受光素子により第2波長帯域の光を受光し撮像して
第2画像データを取得して、第1画像データおよび第2画像データを出力する撮像装置と、第1波長帯域または第2波長帯域の光を発光する発光装置と、を制御する撮像制御装置である。本発明の撮像制御装置は、(1) 撮像装置
において同時に取得されて出力された第1画像データおよび第2画像データ
を、互いに別個の信号線を介して入力する入力部と、(2) 入力部に入力された第1画像データおよび第2画像データそれぞれの明るさを評価する評価部と、
(3) 評価部による明るさ評価結果に基づいて、撮像装置による撮像の際の露光時間,絞り値およびゲインの何れかを調整する受光調整部と、
(4) 評価部による明るさ評価結果に基づいて、第1波長帯域および第2波長帯域の何れかの波長帯域の光を発光装置により発光させるとともに、その発光強度を調整する発光調整部と、を備えることを特徴とする。さらに、本発明の撮像制御装置は、受光調整部による撮像装置の露光時間,絞り値およびゲインの何れかの調整、および、発光調整部による発光装置の発光波長帯域の選択および発光強度の調整により、評価部による第1画像データおよび第2画像データそれぞれの明るさ評価値を適正化することを特徴とする。
【0011】
本発明の撮像制御装置では、評価部は、第1画像データおよび第2画像データそれぞれの明るさ評価値を閾値と比較してもよい。この場合、受光調整部は、第1画像データおよび第2画像データのうち評価部による明るさ評価値が閾値より大きい波長帯域の画像データの明るさ評価値を適正化するように撮像装置の露光時間,絞り値およびゲインの何れかを調整する。また、発光調整部は、第1画像データおよび第2画像データのうち評価部による明るさ評価値が閾値より小さい波長帯域の画像データの明るさ評価値を適正化するように発光装置の該波長帯域の発光強度を調整する。
【0012】
本発明の撮像制御装置では、評価部は、第1画像データおよび第2画像データそれぞれの明るさ評価値を互いに比較してもよい、この場合、受光調整部は、第1画像データおよび第2画像データのうち評価部による明るさ評価値が大きい方の波長帯域の画像データの明るさ評価値を適正化するように撮像装置の露光時間,絞り値およびゲインの何れかを調整する。また、発光調整部は、第1画像データおよび第2画像データのうち評価部による明るさ評価値が小さい方の波長帯域の画像データの明るさ評価値を適正化するように発光装置の該波長帯域の発光強度を調整する。
【0013】
本発明の撮像制御装置では、発光調整部は、画像データのうち飽和している画素数が所定割合以下となるように発光装置の発光強度を調整するのが好適である。
【0014】
本発明の撮像システムは、(1)
第1受光素子および第2受光素子を各々含む複数の画素がアレイ配置され、複数の画素それぞれの第1受光素子により第1波長帯域の光を受光し撮像して
第1画像データを取得すると同時に、複数の画素それぞれの第2受光素子により第2波長帯域の光を受光し撮像して
第2画像データを取得して、第1画像データおよび第2画像データを出力する撮像装置と、(2) 第1波長帯域および第2波長帯域の何れかの波長帯域の光を発光する発光装置と、(3) 撮像装置および発光装置を制御する上記の本発明の撮像制御装置と、を備えることを特徴とする。
【発明の効果】
【0015】
本発明によれば、様々な被写体について撮像装置から出力される第1画像データおよび第2画像データそれぞれの明るさを共に適正範囲とすることができる。
【発明を実施するための形態】
【0017】
以下、添付図面を参照して、本発明を実施するための形態を詳細に説明する。なお、図面の説明において同一の要素には同一の符号を付し、重複する説明を省略する。
【0018】
図1は、本実施形態の撮像制御装置10を備える撮像システム1の構成を示す図である。撮像システム1は、撮像制御装置10,撮像装置20および発光装置30を備える。
【0019】
撮像装置20は、第1波長帯域の光を受光し撮像して得られる第1画像データを出力するとともに、第2波長帯域の光を受光し撮像して得られる第2画像データを出力する。撮像装置20は、複数の画素がアレイ配置されている受光部を有する。各画素は、第1波長帯域の光を受光する第1受光素子と、第2波長帯域の光を受光する第2受光素子とを含む。第1受光素子および第2受光素子それぞれには、受光すべき波長帯域の光を選択的に透過させる光フィルタが設けられている。
【0020】
撮像装置20は、例えばCCDセンサやCMOSセンサを含む。撮像装置20において撮像の際の露光時間,絞り値およびゲインの何れかが可変である。撮像装置20から出力される画像データの明るさは、露光時間,絞り値およびゲインの何れかにより調整され得る。
【0021】
発光装置30は、第1波長帯域および第2波長帯域の何れかの波長帯域の光を発光する。発光装置30は、第1発光部31、第2発光部32、第1駆動部33および第2駆動部34を含む。第1発光部31は、第1波長帯域の光を発光する。第2発光部32は、第2波長帯域の光を発光する。第1駆動部33は、第1発光部31の発光を駆動する。第2駆動部34は、第2発光部32の発光を駆動する。
【0022】
例えば、第1発光部31および第2発光部32それぞれは発光ダイオードを含む。第1駆動部33は、第1発光部31に与える駆動電流の大きさを調整することで、第1発光部31の発光強度を調整することができる。第2駆動部34は、第2発光部32に与える駆動電流の大きさを調整することで、第2発光部32の発光強度を調整することができる。
【0023】
第1波長帯域および第2波長帯域は、可視域、赤外域および紫外域等の任意の帯域の組み合わせであってよい。例えば、第1波長帯域および第2波長帯域のうち、一方が可視域であって他方が赤外域であってもよく、一方が可視域であって他方が紫外域であってもよく、一方が可視域の中で短波長域であって他方が可視域の中で長波長域であってもよく、また、一方が近赤外域であって他方が中赤外域であってもよい。
【0024】
第1波長帯域および第2波長帯域は、一部の帯域を共通に含んでいてもよい。第1波長帯域または第2波長帯域は、複数の部分帯域を含んでいてもよく、例えば赤(R),緑(G)及び青(B)の各部分帯域からなる可視域であってもよい。
【0025】
撮像制御装置10は、撮像装置20および発光装置30を制御するものである。撮像制御装置10は、入力部11、出力部12、評価部13、受光調整部14および発光調整部15を備える。
【0026】
入力部11は、撮像装置20から出力された第1画像データおよび第2画像データを入力する。撮像装置20から出力されて入力部11に入力される第1画像データおよび第2画像データは、別個の信号線により伝送されてもよいし、共通の信号線により伝送されてもよい。後者の場合、第1画像データおよび第2画像データは、撮像装置20から入力部11へ共通の信号線により時分割で伝送され、入力部11により互いに分離される。
【0027】
出力部12は、入力部11から出力された第1画像データおよび第2画像データを撮像制御装置10の外部へ出力する。出力部12は、第1画像データおよび第2画像データを時分割で共通の出力信号線へ出力してもよい。また、入力部11または出力部12は、第1画像データおよび第2画像データの双方または何れか一方について画像処理をしてもよい。
【0028】
評価部13は、撮像装置20から出力されて入力部11に入力された第1画像データおよび第2画像データそれぞれの明るさを評価する。評価部13による明るさ評価値は例えば全画素データの平均値であってもよい。また、第1波長帯域または第2波長帯域がRGBの各部分帯域からなる可視域である場合には、評価部13による明るさ評価値は例えば全画素のRGBの各データから算出される輝度値の平均値であってもよい。
【0029】
受光調整部14は、評価部13による明るさ評価結果に基づいて、撮像装置20による撮像の際の露光時間,絞り値およびゲインの何れかを調整する。受光調整部14は、露光時間,絞り値およびゲインのうち何れか一つを調整してもよいし、何れか二つを調整してもよいし、全てを調整してもよい。
【0030】
発光調整部15は、評価部13による明るさ評価結果に基づいて、第1波長帯域および第2波長帯域の何れかの波長帯域の光を発光装置30により発光させるとともに、その発光強度を調整する。第1波長帯域の光を発光装置30により発光させる場合には、発光調整部15は第1駆動部33に指示を与え、その指示を与えられた第1駆動部33は第1発光部31に対して第1波長帯域の光を指定強度で発光させるよう駆動する。同様に、第2波長帯域の光を発光装置30により発光させる場合には、発光調整部15は第2駆動部34に指示を与え、その指示を与えられた第2駆動部34は第2発光部32に対して第2波長帯域の光を指定強度で発光させるよう駆動する。
【0031】
受光調整部14による撮像装置20の露光時間,絞り値およびゲインの何れかの調整、ならびに、発光調整部15による発光装置30の発光波長帯域の選択および発光強度の調整により、評価部13による第1画像データおよび第2画像データそれぞれの明るさ評価値を適正化する。
【0032】
評価部13による第1画像データおよび第2画像データそれぞれの明るさの評価、受光調整部14による撮像装置20の露光時間,絞り値およびゲインの何れかの調整、ならびに、発光調整部15による発光装置30の発光波長帯域の選択および発光強度の調整は、様々な態様が有り得る。
【0033】
例えば、評価部13は、第1画像データおよび第2画像データそれぞれの明るさ評価値を閾値と比較してもよい。このとき、受光調整部14は、第1画像データおよび第2画像データのうち評価部13による明るさ評価値が閾値より大きい波長帯域の画像データの明るさ評価値を適正化するように撮像装置20の露光時間またはゲインを調整する。発光調整部15は、第1画像データおよび第2画像データのうち評価部13による明るさ評価値が閾値より小さい波長帯域の画像データの明るさ評価値を適正化するように発光装置30の該波長帯域の発光強度を調整する。
【0034】
また、評価部13は、第1画像データおよび第2画像データそれぞれの明るさ評価値を互いに比較してもよい。このとき、受光調整部14は、第1画像データおよび第2画像データのうち評価部13による明るさ評価値が大きい方の波長帯域の画像データの明るさ評価値を適正化するように撮像装置20の露光時間またはゲインを調整する。発光調整部15は、第1画像データおよび第2画像データのうち評価部13による明るさ評価値が小さい方の波長帯域の画像データの明るさ評価値を適正化するように発光装置30の該波長帯域の発光強度を調整する。
【0035】
また、評価部13は、非常に暗い環境下の場合のように、受光調整部14が撮像装置20の露光時間,絞り値およびゲインの何れを調整しても光量不足である場合、発光調整部15による受光調整側の波長帯域の発光量を調整してもよい。また、受光調整側、発光調整側の波長帯域の発光素子を双方同時に調整してもよい。
【0036】
また、発光調整部15は、画像データのうち飽和している画素数が所定割合以下となるように発光装置30の発光強度を調整してもよい。
【0037】
本実施形態によれば、様々な被写体について撮像装置20から出力される第1画像データおよび第2画像データそれぞれの明るさを共に適正範囲とすることができる。
【0038】
図2〜
図5は、本実施形態の撮像制御装置10の動作の一例を説明するフローチャートである。
【0039】
図2に示されるように、先ず、ステップS10において、第1画像データおよび第2画像データを入力した評価部13は、これらのデータに基づいて、受光調整部14による撮像装置20の露光時間,絞り値およびゲインの何れかの調整、ならびに、発光調整部15による発光装置30の発光波長帯域の選択および発光強度の調整、の何れかの処理を行うべきか否かを判断する。ここで、これらの処理の何れかを行うべきであると判断された場合にはステップS11へ進み、そうでない場合には終了する。
【0040】
ステップS11において、評価部13は、何れの処理を行うべきかを判断する。ここで、受光調整部14による撮像装置20の露光時間,絞り値およびゲインの何れかの調整を行うべきであると判断された場合にはステップS20へ進み、発光調整部15による発光装置30の発光波長帯域の選択および発光強度の調整を行うべきであると判断された場合にはステップS30へ進む。
【0041】
ステップS20においては、評価部13は、発光調整部15による発光装置30の発光波長帯域の選択および発光強度の調整を行うべき発光調整用画像データ(第1画像データおよび第2画像データの何れか)を入力する。続くステップS21において、評価部13は、その発光調整用画像データの明るさを計算する。評価部13は、ステップS22において、発光調整用画像データの明るさが適正範囲内であるか否かを判断し、また、ステップS23において、発光調整用画像データの明るさが適正範囲より大きいか小さいかを判断する。
【0042】
ステップS22において発光調整用画像データの明るさが適正範囲内であると判断された場合には、ステップS24において、発光調整用画像データの飽和度合を検出して、もし飽和度合が大きければ、それを抑制するための処理を行う。続くステップS25において、評価部13は、発光調整用画像データの波長帯域および明るさを記憶して、発光調整処理を終了する。
【0043】
ステップS23において発光調整用画像データの明るさが適正範囲より大きいと判断された場合には、ステップS26において、発光調整部15は、当該波長帯域の発光量を減らす。ステップS23において発光調整用画像データの明るさが適正範囲より小さいと判断された場合には、ステップS27において、発光調整部15は、当該波長帯域の発光量を増やす。ステップS26,S27の後、ステップS20に戻り、発光調整用画像データの明るさが適正範囲内になるまで上記の処理を繰り返す。
【0044】
ステップS30においては、評価部13は、受光調整部14による撮像装置20の露光時間またはゲインの調整を行うべき受光調整用画像データ(第1画像データおよび第2画像データの何れか)を入力する。続くステップS31において、評価部13は、その受光調整用画像データの明るさを計算する。評価部13は、ステップS32において、受光調整用画像データの明るさが適正範囲内であるか否かを判断し、また、ステップS33において、受光調整用画像データの明るさが適正範囲より大きいか小さいかを判断する。
【0045】
ステップS32において受光調整用画像データの明るさが適正範囲内であると判断された場合には、ステップS35において、評価部13は、受光調整用画像データの波長帯域および明るさを記憶して、受光調整処理を終了する。
【0046】
ステップS33において受光調整用画像データの明るさが適正範囲より大きいと判断された場合には、ステップS36において、受光調整部14は、撮像装置20の露光時間を短くし又は絞り値を大きくし又はゲインを小さくする。ステップS33において受光調整用画像データの明るさが適正範囲より小さいと判断された場合には、ステップS34においてセンサのゲイン、シャッター、絞り値が一定の値より大きいか小さいか否かを判定する。ステップS34においてセンサのゲイン、シャッターが一定の値より小さく、絞り値が一定の値以上であれば、ステップS37において、受光調整部14は、撮像装置20の露光時間を長くし又は絞り値を小さくし又はゲインを大きくする。ステップS34においてセンサのゲイン、シャッターが一定の値より大きく、絞り値が一定の値以下であれば、ステップS38において受光調整側の波長帯域の発光素子の発光量を増やす。ステップS36,S37の後、ステップS30に戻り、受光調整用画像データの明るさが適正範囲内になるまで上記の処理を繰り返す。
【0047】
図2中のステップS10の判定は、
図3に示される手順で行われる。評価部13は、ステップS40において第1画像データおよび第2画像データを入力し、ステップS41において第1画像データおよび第2画像データそれぞれの明るさを計算し、ステップS42において各波長帯域について記憶されている明るさを取得する。ステップS42において取得する明るさは、ステップS25,S35において記憶されたものである。
【0048】
ステップS43において、評価部13は、各波長帯域について計算された明るさと記憶されていた明るさとの差(絶対値)を計算する。そして、評価部13は、何れの波長帯域においても計算された明るさと記憶されていた明るさとの差が閾値以下であるかを判断する。もし、そうであれば処理を終了する。逆に、何れかの波長帯域において計算された明るさと記憶されていた明るさとの差が閾値より大きければ、ステップS11に進む。
【0049】
図2中のステップS11の判定は、
図4に示される手順で行われる。評価部13は、ステップS50において第1画像データを入力し、ステップS51において第1画像データの明るさを計算し、ステップS52において第1画像データの明るさが閾値以上であるか否かを判断する。そして、評価部13は、第1画像データの明るさが閾値以上であった場合、ステップS53において第1波長帯域について受光調整処理を行うことを決定し、そうでない場合、ステップS54において第1波長帯域について発光調整処理を行うことを決定する。
【0050】
また、評価部13は、ステップS60において第2画像データを入力し、ステップS61において第2画像データの明るさを計算し、ステップS62において第2画像データの明るさが閾値以上であるか否かを判断する。そして、評価部13は、第2画像データの明るさが閾値以上であった場合、ステップS63において第2波長帯域について受光調整処理を行うことを決定し、そうでない場合、ステップS64において第2波長帯域について発光調整処理を行うことを決定する。
【0051】
ステップS53,S63の後、ステップS70において、第1波長帯域および第2波長帯域の双方について受光調整処理を行うことが決定されたと判断された場合、ステップS71において、評価部13は、第1波長帯域については発光調整処理をも行うことを決定する。また、ステップS54,S64の後、ステップS73において、第1波長帯域および第2波長帯域の双方について発光調整処理を行うことが決定されたと判断された場合、ステップS74において、評価部13は、第1波長帯域については受光調整処理をも行うことを決定する。これらの決定を受けて、ステップS20,S30へ進む。
【0052】
図2中のステップS24の発光調整用画像データの飽和度合の検出および抑制の処理は、
図5に示される手順で行われる。評価部13は、ステップS80において発光調整用画像データを入力し、ステップS81において発光調整用画像データの各画素データのヒストグラムを求め、ステップS82において飽和している画素数が所定割合(x%)以下であるか否かを判断する。飽和している画素数が所定割合より大きければ、ステップS63において、発光調整部15は、発光装置30の発光量を減らす。その後、ステップS80に戻り、飽和している画素数が所定割合(x%)以下になるまで上記の処理を繰り返す。飽和している画素数が所定割合(x%)以下になれば、ステップS25に進む。
【0053】
本発明は、上記実施形態に限定されるものではなく、種々の変形が可能である。
図2〜
図5を用いて説明した本実施形態の撮像制御装置10の動作は一例であり、本実施形態の撮像制御装置10の動作として様々な態様が有り得る。