(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022183618
(43)【公開日】2022-12-13
(54)【発明の名称】画像生成装置
(51)【国際特許分類】
H04N 5/232 20060101AFI20221206BHJP
G01C 3/06 20060101ALI20221206BHJP
H04N 5/225 20060101ALI20221206BHJP
G03B 15/05 20210101ALI20221206BHJP
G03B 15/03 20210101ALI20221206BHJP
【FI】
H04N5/232 290
G01C3/06 120R
H04N5/225 600
G03B15/05
G03B15/03 W
【審査請求】未請求
【請求項の数】13
【出願形態】OL
(21)【出願番号】P 2021091034
(22)【出願日】2021-05-31
(71)【出願人】
【識別番号】520423334
【氏名又は名称】ミラクシアエッジテクノロジー株式会社
(74)【代理人】
【識別番号】100109210
【弁理士】
【氏名又は名称】新居 広守
(74)【代理人】
【識別番号】100137235
【弁理士】
【氏名又は名称】寺谷 英作
(74)【代理人】
【識別番号】100131417
【弁理士】
【氏名又は名称】道坂 伸一
(72)【発明者】
【氏名】山本 真嗣
(72)【発明者】
【氏名】中前 伸崇
【テーマコード(参考)】
2F112
2H053
5C122
【Fターム(参考)】
2F112AD03
2F112CA12
2F112FA03
2F112FA35
2F112FA45
2H053AD03
2H053BA33
2H053BA78
2H053CA15
2H053CA45
2H053DA00
2H053DA08
5C122DA14
5C122EA12
5C122FH09
5C122FH18
5C122GE16
5C122GG26
5C122HA88
5C122HB02
(57)【要約】
【課題】鏡面反射による影響を抑制して簡易に画像を生成する。
【解決手段】画像生成装置は、第1の発光部10および第2の発光部20と、受光部30と、発光期間および受光期間を制御する駆動制御部50と、第1の発光部10の発光に対応する受光部30の受光によって出力される第1の画素信号s1、および、第2の発光部20の発光に対応する受光部30の受光によって出力される第2の画素信号s2を合成する合成部70と、を備える。第1の発光部10および第2の発光部20は、被写体9から見て重ならない位置に設けられている。駆動制御部50は、同一フレームにおいて、第1の発光部10と第2の発光部20とを異なるタイミングで発光させる。合成部70は、第1の画素信号s1および第2の画素信号s2のうち、少なくとも一方が所定のレベルよりも大きい画素信号である場合に、所定のレベルよりも大きい画素信号を用いずに合成信号s10を生成する。
【選択図】
図5
【特許請求の範囲】
【請求項1】
光を発光する第1の発光部および第2の発光部と、
前記第1の発光部および前記第2の発光部で発光したそれぞれの光が、被写体に照射されることで反射したそれぞれの反射光を、二次元状に配置された複数の画素で受光する受光部と、
前記第1の発光部の発光期間、前記第2の発光部の発光期間、および、前記受光部の受光期間を制御する駆動制御部と、
前記第1の発光部の発光に対応する前記受光部の受光によって前記画素から出力される第1の画素信号、および、前記第2の発光部の発光に対応する前記受光部の受光によって前記画素から出力される第2の画素信号を合成して合成信号を生成する合成部と、
を備え、
前記第1の発光部および前記第2の発光部は、前記被写体から見て重ならない位置に設けられ、
前記駆動制御部は、同一フレームにおいて、前記第1の発光部と前記第2の発光部とを異なるタイミングで発光させ、
前記合成部は、前記第1の画素信号および前記第2の画素信号のうち、少なくとも一方が所定のレベルよりも大きい画素信号である場合に、前記所定のレベルよりも大きい画素信号を用いずに前記合成信号を生成する
画像生成装置。
【請求項2】
前記所定のレベルは、前記画素に蓄積される信号電荷が飽和するときの飽和レベルに基づいて予め設定される
請求項1に記載の画像生成装置。
【請求項3】
前記受光部は、前記第1の発光部の発光に対応して前記画素に蓄積された信号電荷を第1のパケットに読み出し、当該信号電荷に応じた受光量の情報を含む前記第1の画素信号を出力し、および、前記第2の発光部の発光に対応して前記受光部の前記画素に蓄積された信号電荷を第2のパケットに読み出し、当該信号電荷に応じた受光量の情報を含む前記第2の画素信号を出力する
請求項2に記載の画像生成装置。
【請求項4】
前記第1の発光部および前記第2の発光部は、前記受光部の両外側に配置されている
請求項1~3のいずれか1項に記載の画像生成装置。
【請求項5】
被写体に向けて光を照射する第1の発光部と、
前記被写体に向けて光を照射する第2の発光部と、
前記第1の発光部および前記第2の発光部で照射した光が前記被写体に反射することで生じたそれぞれの反射光を、二次元状に配置された複数の画素で受光する受光部と、
前記第1の発光部の発光期間、前記第2の発光部の発光期間および前記受光部の受光期間を制御する駆動制御部と、
前記第1の発光部および前記第2の発光部の光の照射に応じて前記受光部の前記画素から出力された第1の画素信号および第2の画素信号が、飽和レベルを超えているか否かを判定する飽和レベル判定部と、
前記飽和レベル判定部の判定結果に基づいて、前記第1の画素信号および前記第2の画素信号を合成して合成信号を生成する合成部と、
を備え、
前記第1の発光部と前記第2の発光部とは、離間して配置され、
前記駆動制御部は、同一フレームにおいて、前記第1の発光部を発光させる第1発光パルスと前記第2の発光部を発光させる第2発光パルスとを異なるタイミングで生成し、および、前記第1の発光部で照射した光が前記被写体に反射することで生じた前記反射光を受光させる第1受光パルスと前記第2の発光部で照射した光が前記被写体に反射することで生じた前記反射光を受光させる第2受光パルスとを異なるタイミングで生成し、
前記受光部は、前記第1受光パルスに従って受光した第1受光量の情報を含む前記第1の画素信号を出力し、および、前記第2受光パルスに従って受光した第2受光量の情報を含む前記第2の画素信号を出力し、
前記飽和レベル判定部は、前記第1受光量、前記第2受光量および前記飽和レベルを比較し、
前記合成部は、
(1)前記第1受光量および前記第2受光量が前記飽和レベルよりも共に小さい場合に、第1の合成係数で前記第1の画素信号および前記第2の画素信号を合成し、
(2)前記第1受光量のみが前記飽和レベルよりも大きい場合に、第2の合成係数で前記第1の画素信号および前記第2の画素信号を合成し、
(3)前記第2受光量のみが前記飽和レベルよりも大きい場合に、第3の合成係数で前記第1の画素信号および前記第2の画素信号を合成する
画像生成装置。
【請求項6】
前記第2の合成係数は、前記第1受光量を0とみなして合成する係数であり、
前記第3の合成係数は、前記第2受光量を0とみなして合成する係数である
請求項5に記載の画像生成装置。
【請求項7】
前記第1の合成係数は、前記第1受光量を半分とみなし、かつ、前記第2受光量を半分とみなして合成する係数である
請求項5または6に記載の画像生成装置。
【請求項8】
さらに、前記第1受光量の情報または前記第2受光量の情報を補正する補正部を備え、
前記駆動制御部は、前記第1の発光部の光の照射に対応する前記受光部の第1の前記受光期間と、前記第2の発光部の光の照射に対応する前記受光部の第2の前記受光期間とを異なるように制御し、
前記補正部は、第1の前記受光期間と第2の前記受光期間との違いによって生じる受光量に基づいて、前記第1受光量の情報または前記第2受光量の情報を補正し、
前記合成部は、前記補正部で補正された補正後の前記第1受光量の情報または前記第2受光量の情報を用いて、前記第1の画素信号および前記第2の画素信号を合成する
請求項5~7のいずれか1項に記載の画像生成装置。
【請求項9】
さらに、前記第1受光量の情報または前記第2受光量の情報を補正する補正部を備え、
前記駆動制御部は、前記第1の発光部の照射開始から前記受光部による受光開始までの第1の受光開始時間と、前記第2の発光部の照射開始から前記受光部による受光開始までの第2の受光開始時間とを異なるように制御し、
前記補正部は、前記第1の受光開始時間と前記第2の受光開始時間との違いによって生じる受光量に基づいて、前記第1受光量の情報または前記第2受光量の情報を補正し、
前記合成部は、前記補正部で補正された補正後の前記第1受光量の情報または前記第2受光量の情報を用いて、前記第1の画素信号および前記第2の画素信号を合成する
請求項5~7のいずれか1項に記載の画像生成装置。
【請求項10】
さらに、前記被写体までの距離を演算する距離演算部を備え、
前記距離演算部は、前記補正後の前記第1受光量または前記第2受光量を用いて、前記距離を演算する
請求項8または9に記載の画像生成装置。
【請求項11】
被写体に向けて光を照射する第1の発光部と、
前記被写体に向けて光を照射する第2の発光部と、
前記第1の発光部および前記第2の発光部で照射した光が前記被写体に反射することで生じたそれぞれの反射光を、二次元状に配置された複数の画素で受光する受光部と、
前記第1の発光部の発光期間、前記第2の発光部の発光期間および前記受光部の受光期間を制御する駆動制御部と、
前記第1の発光部および前記第2の発光部の光の照射に応じて前記受光部の前記画素から出力された第1の画素信号および第2の画素信号が、飽和レベルを超えているか否かを判定する飽和レベル判定部と、
前記飽和レベル判定部の判定結果に基づいて、前記第1の画素信号および前記第2の画素信号を合成して合成信号を生成する合成部と、
を備え、
前記第1の発光部と前記第2の発光部とは、離間して配置され、
前記駆動制御部は、同一フレームにおいて、前記第1の発光部を発光させる1以上の第1発光パルスと前記第2の発光部を発光させる1以上の第2発光パルスとを異なるタイミングで生成し、および、前記第1の発光部で照射した光が前記被写体に反射することで生じた前記反射光を受光させる1以上の第1受光パルスと前記第2の発光部で照射した光が前記被写体に反射することで生じた前記反射光を受光させる1以上の第2受光パルスとを異なるタイミングで生成し、
前記受光部は、1以上の前記第1受光パルスに従って受光した1以上の第1受光量の情報を含む前記第1の画素信号を出力し、および、1以上の前記第2受光パルスに従って受光した1以上の第2受光量の情報を含む前記第2の画素信号を出力し、
前記飽和レベル判定部は、1以上の前記第1受光量の情報、1以上の前記第2受光量の情報および前記飽和レベルを比較し、
前記合成部は、
(1)1以上の前記第1受光量および1以上の前記第2受光量のそれぞれが、前記飽和レベルよりも全て小さい場合に、第1の合成係数で前記第1の画素信号および前記第2の画素信号を合成し、
(2)1以上の前記第1受光量の少なくとも1つが前記飽和レベルよりも大きい場合に、第2の合成係数で前記第1の画素信号および前記第2の画素信号を合成し、
(3)1以上の前記第2受光量の少なくとも1つが前記飽和レベルよりも大きい場合に、第3の合成係数で前記第1の画素信号および前記第2の画素信号を合成する
画像生成装置。
【請求項12】
さらに、被写体までの距離を演算する距離演算部を備え、
前記距離演算部は、1以上の前記第1受光量の合計値および1以上の前記第2受光量の合計値を用いて、前記距離を演算する
請求項11に記載の画像生成装置。
【請求項13】
前記駆動制御部は、前記発光期間および前記受光期間のそれぞれを前記同一フレームで複数回実行する、
請求項5~12のいずれか1項に記載の画像生成装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、被写体の画像を生成する画像生成装置に関する。
【背景技術】
【0002】
近年、被写体である人の顔をカメラで撮影し、人の健康状態、覚醒状態、集中状態などをリアルタイムで判断するシステムが提案されている。被写体を撮影する際に使用する光源は、可視光と非可視光に分類されるが、環境光の影響を受けず安定した明度の画像を取得するため、非可視光の光源が数多く採用されている。
【0003】
非可視光を被写体に照射し反射光を受光して撮影する際の課題として、鏡面反射による画素信号の飽和が挙げられる。例えば、撮像する際に被写体の一部に鏡面反射が発生すると、受光した光の光量過多によって飽和が発生し、被写体の画像情報の一部が欠落する。被写体の画像情報の一部が欠落すると、人の健康状態、覚醒状態、集中状態などを判断する際の精度低下を招くことになる。
【0004】
非特許文献1では、ステレオカメラ方式で撮像する技術が提案されている。ステレオカメラ方式では、離間して配置された2つのカメラで被写体を撮像する。この技術では、一方のカメラが鏡面反射の影響によって必要な情報が取得できない場合でも、他方のカメラの情報を用いて被写体の画像を生成することができる。
【先行技術文献】
【非特許文献】
【0005】
【非特許文献1】「ステレオカメラによる瞳孔検出における眼鏡反射問題の改善(Improvement of glasses reflection problem in pupil detection using stereo-calibrated cameras)」、著者 石田寿久、福元 清剛、海老澤 嘉伸、2011年映像情報メディア学会年次大会(ITE Annual Convention 2011)
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかし非特許文献1では、離間した場所に設置された2つのカメラで同時に被写体を撮影し、2つの撮像画像を相互に補完する仕組みが必要となり、装置が大型化するという問題がある。
【0007】
そこで本開示は、鏡面反射による影響を抑制して簡易に画像を生成する画像生成装置を提供する。
【課題を解決するための手段】
【0008】
本開示の画像生成装置は、光を発光する第1の発光部および第2の発光部と、前記第1の発光部および前記第2の発光部で発光したそれぞれの光が、被写体に照射されることで反射したそれぞれの反射光を、二次元状に配置された複数の画素で受光する受光部と、前記第1の発光部の発光期間、前記第2の発光部の発光期間、および、前記受光部の受光期間を制御する駆動制御部と、前記第1の発光部の発光に対応する前記受光部の受光によって前記画素から出力される第1の画素信号、および、前記第2の発光部の発光に対応する前記受光部の受光によって前記画素から出力される第2の画素信号を合成して合成信号を生成する合成部と、を備え、前記第1の発光部および前記第2の発光部は、前記被写体から見て重ならない位置に設けられ、前記駆動制御部は、同一フレームにおいて、前記第1の発光部と前記第2の発光部とを異なるタイミングで発光させ、前記合成部は、前記第1の画素信号および前記第2の画素信号のうち、少なくとも一方が所定のレベルよりも大きい画素信号である場合に、前記所定のレベルよりも大きい画素信号を用いずに前記合成信号を生成する。
【0009】
本開示の画像生成装置は、被写体に向けて光を照射する第1の発光部と、前記被写体に向けて光を照射する第2の発光部と、前記第1の発光部および前記第2の発光部で照射した光が前記被写体に反射することで生じたそれぞれの反射光を、二次元状に配置された複数の画素で受光する受光部と、前記第1の発光部の発光期間、前記第2の発光部の発光期間および前記受光部の受光期間を制御する駆動制御部と、前記第1の発光部および前記第2の発光部の光の照射に応じて前記受光部の前記画素から出力された第1の画素信号および第2の画素信号が、飽和レベルを超えているか否かを判定する飽和レベル判定部と、前記飽和レベル判定部の判定結果に基づいて、前記第1の画素信号および前記第2の画素信号を合成して合成信号を生成する合成部と、を備え、前記第1の発光部と前記第2の発光部とは、離間して配置され、前記駆動制御部は、同一フレームにおいて、前記第1の発光部を発光させる第1発光パルスと前記第2の発光部を発光させる第2発光パルスとを異なるタイミングで生成し、および、前記第1の発光部で照射した光が前記被写体に反射することで生じた前記反射光を受光させる第1受光パルスと前記第2の発光部で照射した光が前記被写体に反射することで生じた前記反射光を受光させる第2受光パルスとを異なるタイミングで生成し、前記受光部は、前記第1受光パルスに従って受光した第1受光量の情報を含む前記第1の画素信号を出力し、および、前記第2受光パルスに従って受光した第2受光量の情報を含む前記第2の画素信号を出力し、前記飽和レベル判定部は、前記第1受光量、前記第2受光量および前記飽和レベルを比較し、前記合成部は、(1)前記第1受光量および前記第2受光量が前記飽和レベルよりも共に小さい場合に、第1の合成係数で前記第1の画素信号および前記第2の画素信号を合成し、(2)前記第1受光量のみが前記飽和レベルよりも大きい場合に、第2の合成係数で前記第1の画素信号および前記第2の画素信号を合成し、(3)前記第2受光量のみが前記飽和レベルよりも大きい場合に、第3の合成係数で前記第1の画素信号および前記第2の画素信号を合成する。
【0010】
本開示の画像生成装置は、被写体に向けて光を照射する第1の発光部と、前記被写体に向けて光を照射する第2の発光部と、前記第1の発光部および前記第2の発光部で照射した光が前記被写体に反射することで生じたそれぞれの反射光を、二次元状に配置された複数の画素で受光する受光部と、前記第1の発光部の発光期間、前記第2の発光部の発光期間および前記受光部の受光期間を制御する駆動制御部と、前記第1の発光部および前記第2の発光部の光の照射に応じて前記受光部の前記画素から出力された第1の画素信号および第2の画素信号が、飽和レベルを超えているか否かを判定する飽和レベル判定部と、前記飽和レベル判定部の判定結果に基づいて、前記第1の画素信号および前記第2の画素信号を合成して合成信号を生成する合成部と、を備え、前記第1の発光部と前記第2の発光部とは、離間して配置され、前記駆動制御部は、同一フレームにおいて、前記第1の発光部を発光させる1以上の第1発光パルスと前記第2の発光部を発光させる1以上の第2発光パルスとを異なるタイミングで生成し、および、前記第1の発光部で照射した光が前記被写体に反射することで生じた前記反射光を受光させる1以上の第1受光パルスと前記第2の発光部で照射した光が前記被写体に反射することで生じた前記反射光を受光させる1以上の第2受光パルスとを異なるタイミングで生成し、前記受光部は、1以上の前記第1受光パルスに従って受光した1以上の第1受光量の情報を含む前記第1の画素信号を出力し、および、1以上の前記第2受光パルスに従って受光した1以上の第2受光量の情報を含む前記第2の画素信号を出力し、前記飽和レベル判定部は、1以上の前記第1受光量の情報、1以上の前記第2受光量の情報および前記飽和レベルを比較し、前記合成部は、(1)1以上の前記第1受光量および1以上の前記第2受光量のそれぞれが、前記飽和レベルよりも全て小さい場合に、第1の合成係数で前記第1の画素信号および前記第2の画素信号を合成し、(2)1以上の前記第1受光量の少なくとも1つが前記飽和レベルよりも大きい場合に、第2の合成係数で前記第1の画素信号および前記第2の画素信号を合成し、(3)1以上の前記第2受光量の少なくとも1つが前記飽和レベルよりも大きい場合に、第3の合成係数で前記第1の画素信号および前記第2の画素信号を合成する。
【発明の効果】
【0011】
本開示の画像生成装置によれば、鏡面反射による影響を抑制して簡易に画像を生成することができる。
【図面の簡単な説明】
【0012】
【
図1】画像生成装置が設けられる空間の一例を示す図である。
【
図2】被写体の一部に鏡面反射が発生している様子を示す図である。
【
図3】実施の形態1に係る画像生成装置および被写体を上側から見た図である。
【
図4】実施の形態1に係る画像生成装置を被写体側から見た図である。
【
図5】実施の形態1に係る画像生成装置のブロック構成図である。
【
図6】実施の形態1に係る画像生成装置の動作を示すタイムチャートである。
【
図7】実施の形態1に係る画像生成装置の受光部で取得される画素情報等を模式的に示す図である。
【
図8】実施の形態1に係る画像生成装置の受光部から出力される画素信号を示す図である。
【
図9】飽和レベル判定部の判定結果および合成部における合成処理を示すテーブルである。
【
図10】実施の形態1に係る画像生成装置の第1の発光部、第2の発光部および受光部の配置の他の例を示す図である。
【
図11】実施の形態2に係る画像生成装置のブロック構成図である。
【
図12】実施の形態2に係る画像生成装置の動作を示すタイムチャートである。
【
図13】実施の形態2の変形例1に係る画像生成装置の動作を示すタイムチャートである。
【
図14】実施の形態2の変形例2に係る画像生成装置の動作を示すタイムチャートである。
【
図15】実施の形態2の変形例3に係る画像生成装置の動作を示すタイムチャートである。
【
図16】実施の形態3に係る画像生成装置のブロック構成図である。
【
図17】実施の形態3に係る画像生成装置の動作を示すタイムチャートである。
【
図18】飽和レベル判定部の判定結果および合成部における合成処理を示すテーブルである。
【
図19】実施の形態3の変形例に係る画像生成装置の動作を示すタイムチャートである。
【
図20】飽和レベル判定部の判定結果および合成部における合成処理を示すテーブルである。
【
図21】実施の形態4に係る画像生成装置のブロック構成図である。
【
図22】実施の形態4に係る画像生成装置の動作を示すタイムチャートである。
【
図23】実施の形態4の変形例に係る画像生成装置の動作を示すタイムチャートである。
【
図24】実施の形態5に係る画像生成装置の動作を示すタイムチャートである。
【
図25】実施の形態5に係る画像生成装置の動作の他の例を示す図である。
【
図26】実施の形態5に係る画像生成装置の動作の他の例を示す図である。
【
図27】実施の形態5に係る画像生成装置の動作の他の例を示す図である。
【発明を実施するための形態】
【0013】
(本開示の基礎となる知見)
本開示の基礎となる知見について、
図1および
図2を参照しながら説明する。なお、本開示の基礎となる知見には、従来技術にはない新たな知見および新たな知見の基礎となる従来の知見も含まれる。
【0014】
図1は、画像生成装置が設けられる空間8の一例を示す図である。
【0015】
図1に示すように、画像生成装置は、車室などの所定の空間8内に設けられる。画像生成装置は、被写体9である運転者を撮像して画像を生成する装置であり、運転者の健康状態等を判断するシステムに用いられる。画像生成装置は、光を発する光源と、光を受光するカメラとを備えている。このような画像生成装置では、光源から発した光が、被写体の一部にて鏡面反射することがある。
【0016】
図2は、被写体9の一部に鏡面反射が発生している様子を示す図である。例えば、被写体9が眼鏡を装着している場合、光源から発した光が眼鏡のレンズまたはフレームにて鏡面反射することがある。同図には、眼鏡のレンズに4つの光源の光が鏡面反射している例が示されている。
【0017】
図2に示すように、被写体9の眼鏡にて鏡面反射が発生すると、受光した光の光量過多によって飽和が発生し、被写体9の目の周辺の画像情報が欠落する。この場合、例えば光源の発光量を小さくしても、飽和の発生を完全に防ぐことは難しい。また、光源の発光量を小さくし過ぎると明度が低くなり、被写体9の画像を正確に取得することができない。このように被写体9の画像を正確に取得できないと、被写体9の健康状態、覚醒状態、集中状態などを正しく判断することができなくなる。
【0018】
それに対し、本実施の形態の画像生成装置は、鏡面反射による影響を抑制して簡易に画像を生成するため、以下に示す構成を有している。
【0019】
以下、実施の形態について、図面を参照しながら具体的に説明する。なお、以下で説明する実施の形態は、いずれも本開示の一具体例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、本開示の一形態に係る実現形態を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。本開示の実現形態は、現行の独立請求項に限定されるものではなく、他の独立請求項によっても表現され得る。
【0020】
なお、各図は模式図であり、必ずしも厳密に図示されたものではない。また、各図において、実質的に同一の構成に対しては同一の符号を付しており、重複する説明は省略または簡略化される場合がある。
【0021】
(実施の形態1)
[画像生成装置]
実施の形態1に係る画像生成装置1について、
図3~
図10を参照しながら説明する。
【0022】
図3は、実施の形態1に係る画像生成装置1および被写体9を上側から見た図である。
図4は、画像生成装置1を被写体9側から見た図である。
図5は、画像生成装置1のブロック構成図である。
【0023】
図3および
図4に示すように、画像生成装置1は、光を発光する第1の発光部10および第2の発光部20と、光を受光する受光部30と、基板40と、を備えている。
図5に示すように、画像生成装置1は、さらに、第1の発光部10、第2の発光部20および受光部30を制御する駆動制御部50と、飽和レベル判定部60と、合成部70と、を備えている。
【0024】
基板40は、長方形状であり、例えば縦50mm横150mmの大きさを有する。基板40には、第1の発光部10、第2の発光部20、受光部30、駆動制御部50、飽和レベル判定部60および合成部70が設けられている。なお、駆動制御部50、飽和レベル判定部60および合成部70は、基板40と異なる外部の回路基板に設けられていてもよい。
【0025】
第1の発光部10および第2の発光部20は、被写体9に光を照射する光源である。第1の発光部10および第2の発光部20から照射される照射光L1、L2は、例えば、赤外光またはレーザー光である。第1の発光部10および第2の発光部20のそれぞれは、複数の光源(例えば発光素子)によって構成されていてもよい。
図4には、第1の発光部10が2つの光源10aおよび10bによって構成され、第2の発光部20が2つの光源20aおよび20bによって構成されている例が示されている。また、第1の発光部10および第2の発光部20のそれぞれは、出射光を拡散して照射するための拡散板を有していてもよい。
【0026】
第1の発光部10および第2の発光部20は、被写体9から見て重ならない位置、すなわち、被写体9から見て異なる位置に設けられている。具体的には、第1の発光部10および第2の発光部20は、基板40に垂直な方向から見て、受光部30を間に挟んで、受光部30の両外側に配置されている。つまり、第1の発光部10および第2の発光部20は、基板40上において互いに離間して配置されている。
【0027】
受光部30は、第1の発光部10および第2の発光部20の間に配置されている。受光部30は、第1の発光部10および第2の発光部20で発光した光が被写体9に照射されることで反射したそれぞれの反射光R1、R2を受光する。具体的には、受光部30は、第1の発光部10で照射した照射光L1が被写体9に反射することで生じた反射光R1を受光し、また、第2の発光部20で照射した照射光L2が被写体9に反射することで生じた反射光R2を受光する。受光部30は、二次元状に配置された複数の画素31によって構成される。受光部30としては、例えば、CCD(Charge-Coupled Device)、または、CMOS(Complementary Metal Oxide Semiconductor)センサ等が用いられる。
【0028】
駆動制御部50は、第1の発光部10の第1の発光期間Tg1、第2の発光部20の第2の発光期間Tg2、および、受光部30の第1の受光期間Tr1、第2の受光期間Tr2を制御する。発光期間および受光期間については、後述する。
【0029】
駆動制御部50は、同一フレームにおいて、第1の発光部10を発光させる第1発光パルスSG1と、第2の発光部20を発光させる第2発光パルスSG2と、を異なるタイミングで生成する。また、駆動制御部50は、被写体9で反射した反射光R1を受光させる第1受光パルスRG1と、被写体9で反射した反射光R2を受光させる第2受光パルスRG2と、を異なるタイミングで生成する。
【0030】
図6は、画像生成装置1の動作を示すタイムチャートである。
図6には、1つのフレームにおける画像生成装置1の動作が示されている。
【0031】
駆動制御部50は、
図6に示すように、第1の発光部10を制御する第1発光パルスSG1を生成する。第1の発光部10は、駆動制御部50から出力された第1発光パルスSG1に従って、被写体9に向けて照射光L1を照射する。
【0032】
また、駆動制御部50は、第1発光パルスSG1とは異なるタイミングで第2の発光部20を制御する第2発光パルスSG2を生成する。第2の発光部20は、駆動制御部50から出力された第2発光パルスSG2に従って、被写体9に向けて照射光L2を照射する。
【0033】
照射光L1およびL2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第1発光パルスSG1による第1の発光期間Tg1と、第2発光パルスSG2による第2の発光期間Tg2と、が等しくなるように制御する。
【0034】
駆動制御部50は、受光部30を制御する第1受光パルスRG1を生成する。第1の発光部10から照射され被写体9で反射した反射光R1は、受光部30に入射される。受光部30は、駆動制御部50から出力された第1受光パルスRG1に従って反射光R1を受光し、受光した第1受光量RL1に関する画素情報を出力する。
【0035】
また、駆動制御部50は、第1受光パルスRG1とは異なるタイミングで受光部30を制御する第2受光パルスRG2を生成する。第2の発光部20から照射され被写体9で反射した反射光R2は、受光部30に入射される。受光部30は、駆動制御部50から出力された第2受光パルスRG2に従って反射光R2を受光し、受光した第2受光量RL2に関する画素情報を出力する。
【0036】
反射光R1およびR2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第1の発光部10による光の照射開始から受光部30での受光開始までの第1の受光開始時間ts1と、第2の発光部20による光の照射開始から受光部30での受光開始までの第2の受光開始時間ts2と、が等しくなるように制御する。また、駆動制御部50は、第1の発光部10の光の照射に対応する受光部30の第1の受光期間Tr1と、第2の発光部20の光の照射に対応する受光部30の第2の受光期間Tr2と、が等しくなるように制御する。
【0037】
図7は、画像生成装置1の受光部30で取得される画素情報を模式的に示す図である。
図7の(a)には、第1の発光部10の発光によって被写体9の一部に鏡面反射が生じている様子が示されている。
図7の(b)には、第2の発光部20の発光によって被写体9の他の一部に鏡面反射が生じている様子が示されている。なお、
図7の(a)および(b)は、2つのフレームによって生成された2つの画像ではなく、1つのフレームから得られる別々の画素情報を示す図である。
図7の(c)には、2つの画素情報が合成されることで生成された1つの画像が示されている。
【0038】
前述したように、第1の発光部10および第2の発光部20は、異なる位置に設けられ、異なるタイミングで発光する。そのため、被写体9の同じ位置にて反射した反射光R1、R2のそれぞれは、受光部30上の異なるアドレス、すなわち異なる画素31に入射する。
【0039】
したがって、
図7の(a)に示すように、第1の発光部10で発光した光によって被写体9の一部に鏡面反射が発生した場合であっても、第2の発光部20で発光した光を用いて、第1の発光部10で取得できなかった画素情報を取得することができる。また、
図7の(b)に示すように、第2の発光部20で発光した光によって被写体9の他の一部に鏡面反射が発生した場合であっても、第1の発光部10で発光した光を用いて、第2の発光部20で取得できなかった画素情報を取得することができる。つまり、一方の発光部の発光した光によって被写体9の一部に鏡面反射が発生した場合であっても、
図7の(a)および(b)に示す画素情報を合成することで、
図7の(c)に示すように、鏡面反射の無い画像を生成することができる。
【0040】
以下、受光部30で受光した反射光R1、R2に基づいて画像を生成するための具体的な構成について説明する。
【0041】
図8は、画像生成装置1の受光部30から出力される画素信号を示す図である。受光部30は、二次元状に配置された複数の画素31のそれぞれにて反射光R1、R2を受光し、第1受光量RL1の情報を含む第1の画素信号s1、および、第2受光量RL2の情報を含む第2の画素信号s2を出力する。以下では理解を容易にするため、1つの画素31に着目して説明する。
【0042】
受光部30は、画素31に蓄積された信号電荷を読み出すための複数のパケットを有している。
図8には、受光部30が3つのパケットを有している例が示されている。
【0043】
受光部30は、第1の発光部10の発光に対応して受光部30の画素31に蓄積された信号電荷を第1のパケットp1に読み出し、上記信号電荷に応じた第1受光量RL1の情報を含む第1の画素信号s1を出力する。また、受光部30は、第2の発光部20の発光に対応して受光部30の画素31に蓄積された信号電荷を第2のパケットp2に読み出し、上記信号電荷に応じた第2受光量RL2の情報を含む第2の画素信号s2を出力する。
【0044】
受光部30から出力された第1の画素信号s1および第2の画素信号s2は、垂直転送および水平転送され、さらに、アナログデータからデジタルデータに変換された後、飽和レベル判定部60へ出力される。なお、アナログデータからデジタルデータへの変換は、受光部30で実行される必要はなく、受光部30の外部で実行されてもよい。
【0045】
図5に示す飽和レベル判定部60は、第1受光量RL1および第2受光量RL2が所定のレベルを超えているか否かを判定する。所定のレベルは、画素31に蓄積される信号電荷が飽和するときの飽和レベルTHに基づいて予め設定される。例えば、所定のレベルは、画素31に蓄積される信号電荷が飽和するときの90%以上100%以下に設定される。以下、所定のレベルを飽和レベルTHと呼ぶ場合がある。
【0046】
例えば、飽和レベル判定部60は、第1の発光部10の光の照射に応じて受光部30の画素から出力された第1の画素信号s1が飽和レベルTHを超えているか否かを判定する。また、飽和レベル判定部60は、第2の発光部20の光の照射に応じて受光部30の画素から出力された第2の画素信号s2が飽和レベルTHを超えているか否かを判定する。飽和レベルTHは、1つの同じ値に設定されるが、それに限られない。飽和レベルTHは、第1の画素信号s1と比較する際、および、第2の画素信号s2と比較する際のそれぞれの場合で、異なる値に設定されてもよい。飽和レベル判定部60によって判定された判定結果は、合成部70へ出力される。
【0047】
図9は、飽和レベル判定部60の判定結果および合成部70における合成処理を示すテーブルである。
【0048】
合成部70は、飽和レベル判定部60の判定結果に基づいて、第1の画素信号s1および第2の画素信号s2を合成して合成信号s10を生成する。
【0049】
例えば、合成部70は、第1の画素信号s1および第2の画素信号s2の両方にて飽和が発生していない場合、次のように合成信号s10を生成する。
【0050】
図9の(1)に示すように、合成部70は、第1受光量RL1および第2受光量RL2が、飽和レベルTHよりも共に小さい場合に、第1の合成係数で第1の画素信号s1および第2の画素信号s2を合成する。第1の合成係数は、第1受光量RL1を半分とみなし、かつ、第2受光量RL2を半分とみなして合成する係数である。つまり合成部70は、第1受光量RL1および第2受光量RL2が飽和レベルTHよりも共に小さい場合、第1の画素信号s1および第2の画素信号s2の両方を半分ずつ用いて合成信号s10を生成する。
【0051】
また、例えば、合成部70は、第1の画素信号s1および第2の画素信号s2のうち、少なくとも一方に飽和が発生している場合、すなわち、少なくとも一方が所定のレベルよりも大きい画素信号である場合に、所定のレベルよりも大きい画素信号を用いずに合成信号s10を生成する。
【0052】
具体的には、合成部70は、第1受光量RL1のみが飽和レベルTHよりも大きい場合に、第2の合成係数で第1の画素信号s1および第2の画素信号s2を合成する。第2の合成係数は、第1受光量RL1を0とみなして合成する係数である。つまり合成部70は、第1受光量RL1のみが飽和レベルTHよりも大きい場合に、第1の画素信号s1を用いずに、第2の画素信号s2を用いて合成信号s10を生成する(
図9の(2)参照)。
【0053】
また、合成部70は、第2受光量RL2のみが飽和レベルTHよりも大きい場合に、第3の合成係数で第1の画素信号s1および第2の画素信号s2を合成する。第3の合成係数は、第2受光量RL2を0とみなして合成する係数である。つまり合成部70は、第2受光量RL2のみが飽和レベルTHよりも大きい場合に、第2の画素信号s2を用いずに、第1の画素信号s1を用いて合成信号s10を生成する(
図9の(3)参照)。
【0054】
このように画像生成装置1では、第1の発光部10で照射した照射光L1が被写体9にて鏡面反射した場合、第1受光量RL1の情報を用いずに、鏡面反射の影響を受けていない第2受光量RL2の情報を用いて合成信号s10を生成する。また、画像生成装置1では、第2の発光部20で照射した照射光L2が被写体9にて鏡面反射した場合、第2受光量RL2を用いずに、鏡面反射の影響を受けていない第1受光量RL1を用いて合成信号s10を生成する。
【0055】
なお、被写体9に光量の多すぎる光が照射された場合、第1受光量RL1および第2受光量RL2が共に飽和レベルTHよりも大きくなるが、この場合、合成部70は異常値を出力してもよい。異常値を設定することで、画像に異常が発生していることを通知することができる。
【0056】
このように合成部70は、飽和レベル判定部60の判定結果に基づいて、画素31から出力された複数の画素信号を合成し、合成信号s10を出力する。画像生成装置1は、複数の画素31から出力された複数の合成信号s10に基づいて被写体9の画像を生成する。
【0057】
この画像生成装置1によれば、第1の画素信号s1および第2の画素信号s2の少なくとも一方が所定のレベルよりも大きい画素信号である場合に、所定のレベルよりも大きい画素信号を用いずに合成信号s10を生成する。これによれば、鏡面反射による影響を抑制して簡易に画像を生成することができる。
【0058】
なお、上記では、4つの光源が、受光部30の外側に配置されている例を示したが、第1の発光部10および第2の発光部20の配置はこれに限られない。
【0059】
図10は、画像生成装置1の第1の発光部10、第2の発光部20および受光部30の配置の他の例を示す図である。
【0060】
図10の(a)には、第1の発光部10および第2の発光部20が、受光部30に対して左右方向の両外側に配置された例が示されている。
図10の(b)には、第1の発光部10および第2の発光部20が、受光部30に対して上下方向の両外側に配置された例が示されている。
図10の(c)には、第1の発光部10および第2の発光部20が、受光部30に対して斜め方向の両外側に配置された例が示されている。第1の発光部10および第2の発光部20は、離間した位置であれば、どのように配置されてもよい。
【0061】
(実施の形態2)
[画像生成装置]
実施の形態2に係る画像生成装置1Aについて、
図11および
図12を参照しながら説明する。実施の形態2では、画像生成装置1Aが、さらに、補正部80および距離演算部90を備えている例について説明する。実施の形態1と同じ構成については説明を省略することがある。
【0062】
なお、以下に示す画像生成装置は、画像を生成するだけでなく、距離を測定する機能も備えている。以下に示す画像生成装置は、距離測定装置として使用されてもよい。
【0063】
図11は、実施の形態2に係る画像生成装置1Aのブロック構成図である。
図12は、画像生成装置1Aの動作を示すタイムチャートである。
図12には、1つのフレームにおける画像生成装置1Aの動作が示されている。
【0064】
図11に示すように、実施の形態2の画像生成装置1Aも、第1の発光部10および第2の発光部20と、受光部30と、駆動制御部50と、飽和レベル判定部60と、合成部70と、を備えている。また、画像生成装置1Aは、受光量の情報を補正する補正部80と、画像生成装置1Aから被写体9までの距離を演算する距離演算部90と、を備えている。
【0065】
駆動制御部50は、
図12に示すように、第1の発光部10を制御する第1発光パルスSG3を生成する。第1の発光部10は、駆動制御部50から出力された第1発光パルスSG3に従って、被写体9に向けて照射光L1を照射する。
【0066】
また、駆動制御部50は、第1発光パルスSG3とは異なるタイミングで第2の発光部20を制御する第2発光パルスSG4を生成する。第2の発光部20は、駆動制御部50から出力された第2発光パルスSG4に従って、被写体9に向けて照射光L2を照射する。
【0067】
照射光L1およびL2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第1発光パルスSG3による第1の発光期間Tg3と、第2発光パルスSG4による第2の発光期間Tg4と、が等しくなるように制御する。
【0068】
駆動制御部50は、受光部30を制御する第1受光パルスRG3を生成する。第1の発光部10から照射され被写体9で反射した反射光R1は、受光部30に入射される。受光部30は、駆動制御部50から出力された第1受光パルスRG3に従って反射光R1を受光し、受光した第1受光量RL3に関する画素情報を出力する。
【0069】
また、駆動制御部50は、第1受光パルスRG3とは異なるタイミングで受光部30を制御する第2受光パルスRG4を生成する。第2の発光部20から照射され被写体9で反射した反射光R2は、受光部30に入射される。受光部30は、駆動制御部50から出力された第2受光パルスRG4に従って反射光R2を受光し、受光した第2受光量RL4に関する画素情報を出力する。
【0070】
反射光R1およびR2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第1の発光部10による光の照射開始から受光部30での受光開始までの第1の受光開始時間ts3と、第2の発光部20による光の照射開始から受光部30での受光開始までの第2の受光開始時間ts4と、が等しくなるように制御する。また、駆動制御部50は、第1の発光部10の光の照射に対応する受光部30の第1の受光期間Tr3と、第2の発光部20の光の照射に対応する受光部30の第2の受光期間Tr4と、が異なるように制御する。具体的には、駆動制御部50は、第1の受光期間Tr3が第2の受光期間Tr4の1/2となるように制御する。
【0071】
以下、受光部30で受光した反射光R1、R2に基づいて画像を生成し、また、被写体9までの距離を求めるための具体的な構成について説明する。
【0072】
図11に示す飽和レベル判定部60は、第1受光量RL3および第2受光量RL4が所定のレベルを超えているか否かを判定する。飽和レベル判定部60によって判定された判定結果は、補正部80へ出力される。
【0073】
補正部80は、例えば、第2受光量RL4の情報を示す画素信号が飽和レベルTHよりも大きいと判断された場合に、第1受光量RL3の情報を補正する。第1受光量RL3の情報を補正するのは、第1の受光期間Tr3が第2の受光期間Tr4と異なるためである。補正部80は、補正を行う際に、第1の受光期間Tr3と第2の受光期間Tr4との違いによって生じる受光量に基づいて、第1受光量RL3の情報を補正する。例えば補正部80は、飽和レベルTHよりも小さい周辺画素の受光量の比(周辺画素の第2受光量/周辺画素の第1受光量)を用いて第1受光量RL3の情報を補正する。周辺画素の受光量は、画素31に最も近い画素の受光量であってもよいし、画素31の周辺に位置する複数の画素の受光量の平均値であってもよい。
【0074】
補正部80で補正された後の補正後の第1受光量RL3の情報は、以下の(式1)で表される。
【0075】
【0076】
補正部80は、補正後の第1受光量RL3の情報を、合成部70および距離演算部90へ出力する。
【0077】
合成部70は、補正部80で補正された補正後の第1受光量RL3の情報を用いて、第1の画素信号s1および第2の画素信号s2を合成する。具体的に合成部70は、第2受光量RL4のみが飽和レベルTHよりも大きい場合に、第2受光量RL4の情報を含む第2の画素信号s2を用いずに、補正後の第1受光量RL3の情報を含む第1の画素信号s1を用いて合成信号s10を生成する。
【0078】
なお、合成部70は、第1受光量RL3および第2受光量RL4が飽和レベルTHよりも共に小さい場合、および、第1受光量RL3のみが飽和レベルTHよりも大きい場合は、実施の形態1と同様に合成信号s10を生成する。
【0079】
次に、距離演算部90による演算処理について説明する。
【0080】
距離演算部90は、第1受光量RL3および第2受光量RL4が飽和レベルTHよりも共に小さい場合に、被写体9までの距離を演算することが可能である。例えば、距離演算部90は、第1受光量RL3および第2受光量RL4を用いて、被写体9までの距離を演算することができる。被写体9までの距離をL、発光パルス幅をTn、光の速度をc(約299,792,458m/s)とすると、距離Lは以下に示す(式2)で表される。
【0081】
【0082】
この画像生成装置1Aにおいても、第1の画素信号s1および第2の画素信号s2の少なくとも一方が所定のレベル(飽和レベルTH)よりも大きい画素信号である場合に、所定のレベルよりも大きい画素信号を用いずに合成信号s10を生成する。これによれば、鏡面反射による影響を抑制して簡易に画像を生成することができる。また、画像生成装置1Aによれば、第1受光量RL3および第2受光量RL4が飽和レベルTHよりも共に小さい場合に、被写体9までの距離Lを簡易に測定することができる。
【0083】
[実施の形態2の変形例1]
実施の形態2の変形例1に係る画像生成装置1Bについて、
図13を参照しながら説明する。実施の形態2の変形例1では、第1の受光開始時間ts5を、実施の形態2の第1の受光開始時間ts3よりも遅らせている例について説明する。
【0084】
図13は、画像生成装置1Bの動作を示すタイムチャートである。
図13には、1つのフレームにおける画像生成装置1Bの動作が示されている。
【0085】
駆動制御部50は、
図13に示すように、第1の発光部10を制御する第1発光パルスSG5を生成する。第1の発光部10は、駆動制御部50から出力された第1発光パルスSG5に従って、被写体9に向けて照射光L1を照射する。
【0086】
また、駆動制御部50は、第1発光パルスSG5とは異なるタイミングで第2の発光部20を制御する第2発光パルスSG6を生成する。第2の発光部20は、駆動制御部50から出力された第2発光パルスSG6に従って、被写体9に向けて照射光L2を照射する。
【0087】
照射光L1およびL2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第1発光パルスSG5による第1の発光期間Tg5と、第2発光パルスSG6による第2の発光期間Tg6と、が等しくなるように制御する。
【0088】
駆動制御部50は、受光部30を制御する第1受光パルスRG5を生成する。第1の発光部10から照射され被写体9で反射した反射光R1は、受光部30に入射される。受光部30は、駆動制御部50から出力された第1受光パルスRG5に従って反射光R1を受光し、受光した第1受光量RL5に関する画素情報を出力する。
【0089】
また、駆動制御部50は、第1受光パルスRG5とは異なるタイミングで受光部30を制御する第2受光パルスRG6を生成する。第2の発光部20から照射され被写体9で反射した反射光R2は、受光部30に入射される。受光部30は、駆動制御部50から出力された第2受光パルスRG6に従って反射光R2を受光し、受光した第2受光量RL6に関する画素情報を出力する。
【0090】
反射光R1およびR2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第1の発光部10による光の照射開始から受光部30での受光開始までの第1の受光開始時間ts5を、第2の発光部20による光の照射開始から受光部30での受光開始までの第2の受光開始時間ts6と異なるように制御する。具体的には、駆動制御部50は、第1の受光開始時間ts5を、第2の受光開始時間ts6および第1の発光期間Tg5を加算した時間になるように制御する。また、駆動制御部50は、第1の発光部10の光の照射に対応する受光部30の第1の受光期間Tr5と、第2の発光部20の光の照射に対応する受光部30の第2の受光期間Tr6と、が異なるように制御する。具体的には、駆動制御部50は、第1の受光期間Tr5が第2の受光期間Tr6の1/2となるように制御する。
【0091】
飽和レベル判定部60は、第1受光量RL5および第2受光量RL6が所定のレベルを超えているか否かを判定する。飽和レベル判定部60によって判定された判定結果は、補正部80へ出力される。
【0092】
補正部80は、例えば、第2受光量RL6の情報を示す画素信号が飽和レベルTHよりも大きいと判断された場合に、第1受光量RL5の情報を補正する。第1受光量RL5の情報を補正するのは、第1の受光開始時間ts5が第2の受光開始時間ts6と異なるためである。補正部80は、補正を行う際に、第1の受光開始時間ts5と第2の受光開始時間ts6との違いによって生じる受光量に基づいて、第1受光量RL5の情報を補正する。例えば補正部80は、飽和レベルTHよりも小さい周辺画素の受光量の比(周辺画素の第2受光量/周辺画素の第1受光量)を用いて第1受光量RL5の情報を補正する。
【0093】
補正部80で補正された後の補正後の第1受光量RL5の情報は、以下の(式3)で表される。
【0094】
【0095】
補正部80は、補正後の第1受光量RL5の情報を、合成部70および距離演算部90へ出力する。
【0096】
合成部70は、補正部80で補正された補正後の第1受光量RL5の情報を用いて、第1の画素信号s1および第2の画素信号s2を合成する。具体的に合成部70は、第2受光量RL6のみが飽和レベルTHよりも大きい場合に、第2受光量RL6の情報を含む第2の画素信号s2を用いずに、補正後の第1受光量RL5の情報を含む第1の画素信号s1を用いて合成信号s10を生成する。
【0097】
なお、第1受光量RL5および第2受光量RL6が飽和レベルTHよりも共に小さい場合、および、第1受光量RL5のみが飽和レベルTHよりも大きい場合は、実施の形態1と同様に合成信号s10を生成する。
【0098】
距離演算部90は、第1受光量RL5および第2受光量RL6が飽和レベルTHよりも共に小さい場合に、被写体9までの距離を演算することが可能である。例えば、距離演算部90は、第1受光量RL5および第2受光量RL6を用いて、被写体9までの距離を演算することができる。被写体9までの距離をL、発光パルス幅をTn、光の速度をcとすると、距離Lは以下に示す(式4)で表される。
【0099】
【0100】
この画像生成装置1Bにおいても、第1の画素信号s1および第2の画素信号s2の少なくとも一方が所定のレベル(飽和レベルTH)よりも大きい画素信号である場合に、所定のレベルよりも大きい画素信号を用いずに合成信号s10を生成する。これによれば、鏡面反射による影響を抑制して簡易に画像を生成することができる。また、画像生成装置1Bによれば、第1受光量RL5および第2受光量RL6が飽和レベルTHよりも共に小さい場合に、被写体9までの距離Lを簡易に測定することができる。
【0101】
[実施の形態2の変形例2]
実施の形態2の変形例2に係る画像生成装置1Cについて、
図14を参照しながら説明する。実施の形態2の変形例2では、第2の受光期間Tr8を、第1の受光期間Tr7の1/2にしている例について説明する。
【0102】
図14は、画像生成装置1Cの動作を示すタイムチャートである。
図14には、1つのフレームにおける画像生成装置1Cの動作が示されている。
【0103】
駆動制御部50は、
図14に示すように、第1の発光部10を制御する第1発光パルスSG7を生成する。第1の発光部10は、駆動制御部50から出力された第1発光パルスSG7に従って、被写体9に向けて照射光L1を照射する。
【0104】
また、駆動制御部50は、第1発光パルスSG7とは異なるタイミングで第2の発光部20を制御する第2発光パルスSG8を生成する。第2の発光部20は、駆動制御部50から出力された第2発光パルスSG8に従って、被写体9に向けて照射光L2を照射する。
【0105】
照射光L1およびL2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第1発光パルスSG7による第1の発光期間Tg7と、第2発光パルスSG8による第2の発光期間Tg8と、が等しくなるように制御する。
【0106】
駆動制御部50は、受光部30を制御する第1受光パルスRG7を生成する。第1の発光部10から照射され被写体9で反射した反射光R1は、受光部30に入射される。受光部30は、駆動制御部50から出力された第1受光パルスRG7に従って反射光R1を受光し、受光した第1受光量RL7に関する画素情報を出力する。
【0107】
また、駆動制御部50は、第1受光パルスRG7とは異なるタイミングで受光部30を制御する第2受光パルスRG8を生成する。第2の発光部20から照射され被写体9で反射した反射光R2は、受光部30に入射される。受光部30は、駆動制御部50から出力された第2受光パルスRG8に従って反射光R2を受光し、受光した第2受光量RL8に関する画素情報を出力する。
【0108】
反射光R1およびR2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第1の発光部10による光の照射開始から受光部30での受光開始までの第1の受光開始時間ts7と、第2の発光部20による光の照射開始から受光部30での受光開始までの第2の受光開始時間ts8と、が等しくなるように制御する。また、駆動制御部50は、第1の発光部10の光の照射に対応する受光部30の第1の受光期間Tr7と、第2の発光部20の光の照射に対応する受光部30の第2の受光期間Tr8と、が異なるように制御する。具体的には、駆動制御部50は、第2の受光期間Tr8が第1の受光期間Tr7の1/2となるように制御する。
【0109】
飽和レベル判定部60は、第1受光量RL7および第2受光量RL8が所定のレベルを超えているか否かを判定する。飽和レベル判定部60によって判定された判定結果は、補正部80へ出力される。
【0110】
補正部80は、例えば、第1受光量RL7の情報を示す画素信号が飽和レベルTHよりも大きいと判断された場合に、第2受光量RL8の情報を補正する。第2受光量RL8の情報を補正するのは、第2の受光期間Tr8が第1の受光期間Tr7と異なるためである。補正部80は、補正を行う際に、第1の受光期間Tr7と第2の受光期間Tr8との違いによって生じる受光量に基づいて、第2受光量RL8の情報を補正する。例えば補正部80は、飽和レベルTHよりも小さい周辺画素の受光量の比(周辺画素の第1受光量/周辺画素の第2受光量)を用いて第2受光量RL8の情報を補正する。
【0111】
補正部80で補正された後の補正後の第2受光量RL8の情報は、以下の(式5)で表される。
【0112】
【0113】
補正部80は、補正後の第2受光量RL8の情報を、合成部70および距離演算部90へ出力する。
【0114】
合成部70は、補正部80で補正された補正後の第2受光量RL8の情報を用いて、第1の画素信号s1および第2の画素信号s2を合成する。具体的に合成部70は、第1受光量RL7のみが飽和レベルTHよりも大きい場合に、第1受光量RL7の情報を含む第1の画素信号s1を用いずに、補正後の第2受光量RL8の情報を含む第2の画素信号s2を用いて合成信号s10を生成する。
【0115】
なお、第1受光量RL7および第2受光量RL8が飽和レベルTHよりも共に小さい場合、および、第2受光量RL8のみが飽和レベルTHよりも大きい場合は、実施の形態1と同様に合成信号s10を生成する。
【0116】
距離演算部90は、第1受光量RL7および第2受光量RL8が飽和レベルTHよりも共に小さい場合に、被写体9までの距離を演算することが可能である。例えば、距離演算部90は、第1受光量RL7および第2受光量RL8を用いて、被写体9までの距離を演算することができる。被写体9までの距離をL、発光パルス幅をTn、光の速度をcとすると、距離Lは以下に示す(式6)で表される。
【0117】
【0118】
この画像生成装置1Cにおいても、第1の画素信号s1および第2の画素信号s2の少なくとも一方が所定のレベル(飽和レベルTH)よりも大きい画素信号である場合に、所定のレベルよりも大きい画素信号を用いずに合成信号s10を生成する。これによれば、鏡面反射による影響を抑制して簡易に画像を生成することができる。また、画像生成装置1Cによれば、第1受光量RL7および第2受光量RL8が飽和レベルTHよりも共に小さい場合に、被写体9までの距離Lを簡易に測定することができる。
【0119】
[実施の形態2の変形例3]
実施の形態2の変形例3に係る画像生成装置1Dについて、
図15を参照しながら説明する。実施の形態2の変形例3では、第2の受光開始時間ts10を、変形例2の第2の受光開始時間ts8よりも遅らせている例について説明する。
【0120】
図15は、画像生成装置1Dの動作を示すタイムチャートである。
図15には、1つのフレームにおける画像生成装置1Dの動作が示されている。
【0121】
駆動制御部50は、
図15に示すように、第1の発光部10を制御する第1発光パルスSG9を生成する。第1の発光部10は、駆動制御部50から出力された第1発光パルスSG9に従って、被写体9に向けて照射光L1を照射する。
【0122】
また、駆動制御部50は、第1発光パルスSG9とは異なるタイミングで第2の発光部20を制御する第2発光パルスSG10を生成する。第2の発光部20は、駆動制御部50から出力された第2発光パルスSG10に従って、被写体9に向けて照射光L2を照射する。
【0123】
照射光L1およびL2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第1発光パルスSG9による第1の発光期間Tg9と、第2発光パルスSG10による第2の発光期間Tg10と、が等しくなるように制御する。
【0124】
駆動制御部50は、受光部30を制御する第1受光パルスRG9を生成する。第1の発光部10から照射され被写体9で反射した反射光R1は、受光部30に入射される。受光部30は、駆動制御部50から出力された第1受光パルスRG9に従って反射光R1を受光し、受光した第1受光量RL9に関する画素情報を出力する。
【0125】
また、駆動制御部50は、第1受光パルスRG9とは異なるタイミングで受光部30を制御する第2受光パルスRG10を生成する。第2の発光部20から照射され被写体9で反射した反射光R2は、受光部30に入射される。受光部30は、駆動制御部50から出力された第2受光パルスRG10に従って反射光R2を受光し、受光した第2受光量RL10に関する画素情報を出力する。
【0126】
反射光R1およびR2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第2の発光部20による光の照射開始から受光部30での受光開始までの第2の受光開始時間ts10を、第1の受光開始時間ts9と異なるように制御する。具体的には、駆動制御部50は、第2の受光開始時間ts10を、第1の受光開始時間ts9および第2の発光期間Tg10を加算した時間になるように制御する。また、駆動制御部50は、第1の発光部10の光の照射に対応する受光部30の第1の受光期間Tr9と、第2の発光部20の光の照射に対応する受光部30の第2の受光期間Tr10と、が異なるように制御する。具体的には、駆動制御部50は、第2の受光期間Tr10が第1の受光期間Tr9の1/2となるように制御する。
【0127】
飽和レベル判定部60は、第1受光量RL9および第2受光量RL10が所定のレベルを超えているか否かを判定する。飽和レベル判定部60によって判定された判定結果は、補正部80へ出力される。
【0128】
補正部80は、例えば、第1受光量RL9の情報を示す画素信号が飽和レベルTHよりも大きいと判断された場合に、第2受光量RL10の情報を補正する。第2受光量RL10の情報を補正するのは、第1の受光開始時間ts9と第2の受光開始時間ts10とが異なり、また、第1の受光期間Tr9と第2の受光期間Tr10とが異なるためである。補正部80は、補正を行う際に、第1の受光開始時間ts9と第2の受光開始時間ts10、および、第1の受光期間Tr9と第2の受光期間Tr10との違いによって生じる受光量に基づいて、第2受光量RL10の情報を補正する。例えば補正部80は、飽和レベルTHよりも小さい周辺画素の受光量の比(周辺画素の第1受光量/周辺画素の第2受光量)を用いて第2受光量RL10の情報を補正する。
【0129】
補正部80で補正された後の補正後の第2受光量RL10の情報は、以下の(式7)で表される。
【0130】
【0131】
補正部80は、補正後の第2受光量RL10の情報を、合成部70および距離演算部90へ出力する。
【0132】
合成部70は、補正部80で補正された補正後の第2受光量RL10の情報を用いて、第1の画素信号s1および第2の画素信号s2を合成する。具体的に合成部70は、第1受光量RL9のみが飽和レベルTHよりも大きい場合に、第1受光量RL9の情報を含む第1の画素信号s1を用いずに、補正後の第2受光量RL10の情報を含む第2の画素信号s2を用いて合成信号s10を生成する。
【0133】
なお、第1受光量RL9および第2受光量RL10が飽和レベルTHよりも共に小さい場合、および、第2受光量RL10のみが飽和レベルTHよりも大きい場合は、実施の形態1と同様に合成信号s10を生成する。
【0134】
距離演算部90は、第1受光量RL9および第2受光量RL10が飽和レベルTHよりも共に小さい場合に、被写体9までの距離を演算することが可能である。例えば、距離演算部90は、第1受光量RL9および第2受光量RL10を用いて、被写体9までの距離を演算することができる。被写体9までの距離をL、発光パルス幅をTn、光の速度をcとすると、距離Lは以下に示す(式8)で表される。
【0135】
【0136】
この画像生成装置1Dにおいても、第1の画素信号s1および第2の画素信号s2の少なくとも一方が所定のレベル(飽和レベルTH)よりも大きい画素信号である場合に、所定のレベルよりも大きい画素信号を用いずに合成信号s10を生成する。これによれば、鏡面反射による影響を抑制して簡易に画像を生成することができる。また、画像生成装置1Dによれば、第1受光量RL9および第2受光量RL10が飽和レベルTHよりも共に小さい場合に、被写体9までの距離Lを簡易に測定することができる。
【0137】
(実施の形態3)
[画像生成装置]
実施の形態3に係る画像生成装置1Eについて、
図16~
図18を参照しながら説明する。実施の形態3では、2つの第1受光パルスRG11およびRG11a、ならびに、2つの第1の受光期間Tr11およびTr11aが設定されている例について説明する。なお、実施の形態1および2と同じ構成については説明を省略することがある。
【0138】
図16は、実施の形態3に係る画像生成装置1Eのブロック構成図である。
図17は、画像生成装置1Eの動作を示すタイムチャートである。
図17には、1つのフレームにおける画像生成装置1Eの動作が示されている。
【0139】
図16に示すように、実施の形態3の画像生成装置1Eも、第1の発光部10および第2の発光部20と、受光部30と、駆動制御部50と、飽和レベル判定部60と、合成部70と、補正部80と、を備えている。また、画像生成装置1Eは、画像生成装置1Eから被写体9までの距離を演算する距離演算部90を備えている。実施の形態3の画像生成装置1Eは、画像を生成するだけでなく、距離を測定する機能も備えている。
【0140】
駆動制御部50は、
図17に示すように、第1の発光部10を制御する第1発光パルスSG11を生成する。第1の発光部10は、駆動制御部50から出力された第1発光パルスSG11に従って、被写体9に向けて照射光L1を照射する。
【0141】
また、駆動制御部50は、第1発光パルスSG11とは異なるタイミングで第2の発光部20を制御する第2発光パルスSG12を生成する。第2の発光部20は、駆動制御部50から出力された第2発光パルスSG12に従って、被写体9に向けて照射光L2を照射する。
【0142】
照射光L1およびL2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第1発光パルスSG11による第1の発光期間Tg11と、第2発光パルスSG12による第2の発光期間Tg12と、が等しくなるように制御する。
【0143】
駆動制御部50は、受光部30を制御する2つの第1受光パルスRG11およびRG11aを生成する。第1の発光部10から照射され被写体9で反射した反射光R1は、受光部30に入射される。受光部30は、駆動制御部50から出力された第1受光パルスRG11、RG11aに従って反射光R1を受光し、受光した第1受光量RL11およびRL11aに関する画素情報を出力する。
【0144】
受光部30は、第1受光パルスRG11に従って受光部30の画素31に蓄積された信号電荷を第1のパケットp1に読み出し、また、第1受光パルスRG11aに従って受光部30の画素31に蓄積された信号電荷を第4のパケット(図示省略)に読み出し、上記の信号電荷に応じた第1受光量RL11およびRL11aの情報を含む第1の画素信号s1を出力する。
【0145】
また、駆動制御部50は、第1受光パルスRG11、RG11aとは異なるタイミングで受光部30を制御する第2受光パルスRG12を生成する。第2の発光部20から照射され被写体9で反射した反射光R2は、受光部30に入射される。受光部30は、駆動制御部50から出力された第2受光パルスRG12に従って反射光R2を受光し、受光した第2受光量RL12に関する画素情報を出力する。
【0146】
反射光R1およびR2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第1受光パルスRG11に応じた第1の受光期間Tr11と、第1受光パルスRG11aに応じた第1の受光期間Tr11aと、が等しくなるように制御する。また、駆動制御部50は、第1の発光部10による光の照射開始から受光部30での受光開始までの第1の受光開始時間ts11と、第2の発光部20による光の照射開始から受光部30での受光開始までの第2の受光開始時間ts12と、が等しくなるように制御する。第1受光パルスRG11aによる第1の受光開始時間ts11aは、第1受光パルスRG11による第1の受光開始時間ts11および第1の受光期間Tr11を加算した時間になるように制御される。また、駆動制御部50は、第1の受光期間Tr11およびTr11aを足し合わせた期間と、第2の発光部20の光の照射に対応する受光部30の第2の受光期間Tr12と、が等しくなるように制御する。
【0147】
飽和レベル判定部60は、第1受光量RL11、RL11aおよび第2受光量RL12が所定のレベルを超えているか否かを判定する。飽和レベル判定部60によって判定された判定結果は合成部70へ出力される。
【0148】
図18は、飽和レベル判定部60の判定結果および合成部70における合成処理を示すテーブルである。
【0149】
合成部70は、飽和レベル判定部60の判定結果に基づいて、第1の画素信号s1および第2の画素信号s2を合成して合成信号s10を生成する。
【0150】
例えば、合成部70は、第1の画素信号s1および第2の画素信号s2の両方にて飽和が発生していない場合、次のように合成信号s10を生成する。
【0151】
図18の(1)に示すように、合成部70は、第1受光量RL11、RL11aの合計値、および、第2受光量RL12が、飽和レベルTHよりも共に小さい場合に、第1の合成係数で第1の画素信号s1および第2の画素信号s2を合成する。第1の合成係数は、第1受光量RL11、RL11aの合計値を半分とみなし、かつ、第2受光量RL12を半分とみなして合成する係数である。つまり合成部70は、第1受光量RL11、RL11aの合計値、および、第2受光量RL12が飽和レベルTHよりも共に小さい場合、第1の画素信号s1および第2の画素信号s2の両方を半分ずつ用いて合成信号s10を生成する。
【0152】
また、例えば、合成部70は、第1の画素信号s1および第2の画素信号s2のうち、少なくとも一方に飽和が発生している場合、すなわち、少なくとも一方が所定のレベルよりも大きい画素信号である場合に、所定のレベルよりも大きい画素信号を用いずに合成信号s10を生成する。
【0153】
具体的には、合成部70は、第1受光量RL11、RL11aの合計値のみが飽和レベルTHよりも大きい場合に、第2の合成係数で第1の画素信号s1および第2の画素信号s2を合成する。第2の合成係数は、第1受光量RL11、RL11aの合計値を0とみなして合成する係数である。つまり合成部70は、第1受光量RL11、RL11aの合計値のみが飽和レベルTHよりも大きい場合に、第1の画素信号s1を用いずに、第2の画素信号s2を用いて合成信号s10を生成する(
図18の(2)参照)。
【0154】
また、合成部70は、第2受光量RL12のみが飽和レベルTHよりも大きい場合に、第3の合成係数で第1の画素信号s1および第2の画素信号s2を合成する。第3の合成係数は、第2受光量RL12を0とみなして合成する係数である。つまり合成部70は、第2受光量RL12のみが飽和レベルTHよりも大きい場合に、第2の画素信号s2を用いずに、第1の画素信号s1を用いて合成信号s10を生成する(
図18の(3)参照)。
【0155】
このように画像生成装置1Eでは、第1の発光部10で照射した照射光L1が被写体9にて鏡面反射した場合、第1受光量RL11、RL11aの情報を用いずに、鏡面反射の影響を受けていない第2受光量RL12の情報を用いて合成信号s10を生成する。また、画像生成装置1Eでは、第2の発光部20で照射した照射光L2が被写体9にて鏡面反射した場合、第2受光量RL12を用いずに、鏡面反射の影響を受けていない第1受光量RL11、RL11aの情報を用いて合成信号s10を生成する。
【0156】
なお、被写体9に光量の多すぎる光が照射された場合、第1受光量RL11、RL11aの合計値、および、第2受光量RL12が共に飽和レベルTHよりも大きくなることがあるが、この場合、合成部70は異常値を出力してもよい。異常値を設定することで、画像に異常が発生していることを通知することができる。
【0157】
このように合成部70は、飽和レベル判定部60の判定結果に基づいて、画素31から出力された複数の画素信号を合成し、合成信号s10を出力する。画像生成装置1Eは、複数の画素31から出力された複数の合成信号s10に基づいて被写体9の画像を生成する。
【0158】
また、実施の形態3の画像生成装置1Eでは、第1受光量RL11、RL11aの両方が飽和レベルTHを超えている場合を除き、被写体9までの距離Lを取得することが可能である。
【0159】
例えば、距離演算部90は、第2受光量RL12のみが飽和レベルTHよりも大きい場合に、以下に示す(式9)によって、被写体9までの距離Lを演算する。距離演算部90は、第1受光量RL11のみが飽和レベルTHよりも大きい場合に、以下に示す(式10)によって、被写体9までの距離Lを演算する。距離演算部90は、第1受光量RL11aのみが飽和レベルTHよりも大きい場合に、以下に示す(式11)によって、被写体9までの距離Lを演算する。
【0160】
【0161】
【0162】
【0163】
この画像生成装置1Eにおいても、鏡面反射による影響を抑制して簡易に画像を生成することができる。また、この画像生成装置1Eでは、第1受光量RL11、RL11aの両方が飽和レベルTHを超えている場合を除き、被写体9までの距離Lを簡易に測定することができる。
【0164】
[実施の形態3の変形例]
実施の形態3の変形例に係る画像生成装置1Fについて、
図19および
図20を参照しながら説明する。実施の形態3の変形例では、さらに、2つの第2受光パルスRG14およびRG14a、ならびに、2つの第2の受光期間Tr14およびTr14aが設定されている例について説明する。
【0165】
図19は、画像生成装置1Fの動作を示すタイムチャートである。
図19には、1つのフレームにおける画像生成装置1Fの動作が示されている。
【0166】
駆動制御部50は、
図19に示すように、第1の発光部10を制御する第1発光パルスSG13を生成する。第1の発光部10は、駆動制御部50から出力された第1発光パルスSG13に従って、被写体9に向けて照射光L1を照射する。
【0167】
また、駆動制御部50は、第1発光パルスSG13とは異なるタイミングで第2の発光部20を制御する第2発光パルスSG14を生成する。第2の発光部20は、駆動制御部50から出力された第2発光パルスSG14に従って、被写体9に向けて照射光L2を照射する。
【0168】
照射光L1およびL2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第1発光パルスSG13による第1の発光期間Tg13と、第2発光パルスSG14による第2の発光期間Tg14と、が等しくなるように制御する。
【0169】
駆動制御部50は、受光部30を制御する2つの第1受光パルスRG13およびRG13aを生成する。第1の発光部10から照射され被写体9で反射した反射光R1は、受光部30に入射される。受光部30は、駆動制御部50から出力された第1受光パルスRG13、RG13aに従って反射光R1を受光し、受光した第1受光量RL13およびRL13aに関する画素情報を出力する。
【0170】
受光部30は、第1受光パルスRG13に従って受光部30の画素31に蓄積された信号電荷を第1のパケットp1に読み出し、また、第1受光パルスRG13aに従って受光部30の画素31に蓄積された信号電荷を第4のパケット(図示省略)に読み出し、上記の信号電荷に応じた第1受光量RL13およびRL13aの情報を含む第1の画素信号s1を出力する。
【0171】
また、駆動制御部50は、第1受光パルスRG13、RG13aとは異なるタイミングで受光部30を制御する第2受光パルスRG14およびRG14aを生成する。第2の発光部20から照射され被写体9で反射した反射光R2は、受光部30に入射される。受光部30は、駆動制御部50から出力された第2受光パルスRG14、RG14aに従って反射光R2を受光し、受光した第2受光量RL14およびRL14aに関する画素情報を出力する。
【0172】
受光部30は、第2受光パルスRG14に従って受光部30の画素31に蓄積された信号電荷を第2のパケットp2に読み出し、また、第2受光パルスRG14aに従って受光部30の画素31に蓄積された信号電荷を第5のパケット(図示省略)に読み出し、上記の信号電荷に応じた第2受光量RL14およびRL14aの情報を含む第2の画素信号s2を出力する。
【0173】
反射光R1およびR2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第1受光パルスRG13に応じた第1の受光期間Tr13と、第1受光パルスRG13aに応じた第1の受光期間Tr13aと、第2受光パルスRG14に応じた第2の受光期間Tr14と、第2受光パルスRG14aに応じた第2の受光期間Tr14aと、が等しくなるように制御する。第1受光パルスRG13aによる第1の受光開始時間ts13aは、第1受光パルスRG13による第1の受光開始時間ts13および第1の受光期間Tr13を加算した時間になるように制御される。また、駆動制御部50は、第1受光パルスRG13による第1の受光開始時間ts13と、第2受光パルスRG14による第2の受光開始時間ts14と、が等しくなるように制御する。第2受光パルスRG14aによる第2の受光開始時間ts14aは、第2の受光開始時間ts14および第2の受光期間Tr14を加算した時間になるように制御される。
【0174】
飽和レベル判定部60は、第1受光量RL13、RL13aおよび第2受光量RL14、RL14aが所定のレベルを超えているか否かを判定する。飽和レベル判定部60によって判定された判定結果は合成部70へ出力される。
【0175】
図20は、飽和レベル判定部60の判定結果および合成部70における合成処理を示すテーブルである。
【0176】
合成部70は、飽和レベル判定部60の判定結果に基づいて、第1の画素信号s1および第2の画素信号s2を合成して合成信号s10を生成する。
【0177】
例えば、合成部70は、第1の画素信号s1および第2の画素信号s2の両方にて飽和が発生していない場合、次のように合成信号s10を生成する。
【0178】
図20の(1)に示すように、合成部70は、第1受光量RL13、RL13aの合計値、および、第2受光量RL14、RL14aの合計値が、飽和レベルTHよりも共に小さい場合に、第1の合成係数で第1の画素信号s1および第2の画素信号s2を合成する。第1の合成係数は、第1受光量RL13、RL13aの合計値を半分とみなし、かつ、第2受光量RL14、RL14aの合計値を半分とみなして合成する係数である。つまり合成部70は、第1受光量RL13、RL13aの合計値、および、第2受光量RL14、RL14aの合計値が飽和レベルTHよりも共に小さい場合、第1の画素信号s1および第2の画素信号s2の両方を半分ずつ用いて合成信号s10を生成する。
【0179】
また、例えば、合成部70は、第1の画素信号s1および第2の画素信号s2のうち、少なくとも一方に飽和が発生している場合、すなわち、少なくとも一方が所定のレベルよりも大きい画素信号である場合に、所定のレベルよりも大きい画素信号を用いずに合成信号s10を生成する。
【0180】
具体的には、合成部70は、第1受光量RL13、RL13aの合計値のみが飽和レベルTHよりも大きい場合に、第2の合成係数で第1の画素信号s1および第2の画素信号s2を合成する。第2の合成係数は、第1受光量RL13、RL13aの合計値を0とみなして合成する係数である。つまり合成部70は、第1受光量RL13、RL13aの合計値のみが飽和レベルTHよりも大きい場合に、第1の画素信号s1を用いずに、第2の画素信号s2を用いて合成信号s10を生成する(
図20の(2)参照)。
【0181】
また、合成部70は、第2受光量RL14、RL14aの合計値のみが飽和レベルTHよりも大きい場合に、第3の合成係数で第1の画素信号s1および第2の画素信号s2を合成する。第3の合成係数は、第2受光量RL14、RL14aを0とみなして合成する係数である。つまり合成部70は、第2受光量RL14、RL14aのみが飽和レベルTHよりも大きい場合に、第2の画素信号s2を用いずに、第1の画素信号s1を用いて合成信号s10を生成する(
図20の(3)参照)。
【0182】
このように画像生成装置1Fでは、第1の発光部10で照射した照射光L1が被写体9にて鏡面反射した場合、第1受光量RL13、RL13aの情報を用いずに、鏡面反射の影響を受けていない第2受光量RL14、RL14aの情報を用いて合成信号s10を生成する。また、画像生成装置1Fでは、第2の発光部20で照射した照射光L2が被写体9にて鏡面反射した場合、第2受光量RL14、RL14aを用いずに、鏡面反射の影響を受けていない第1受光量RL13、RL13aの情報を用いて合成信号s10を生成する。
【0183】
なお、被写体9に光量の多すぎる光が照射された場合、第1受光量RL13、RL13aの合計値、および、第2受光量RL14、RL14aの合計値が共に飽和レベルTHよりも大きくなることがあるが、この場合、合成部70は異常値を出力してもよい。異常値を設定することで、画像に異常が発生していることを通知することができる。
【0184】
このように合成部70は、飽和レベル判定部60の判定結果に基づいて、画素31から出力された複数の画素信号を合成し、合成信号s10を出力する。画像生成装置1Fは、複数の画素31から出力された複数の合成信号s10に基づいて被写体9の画像を生成する。
【0185】
また、実施の形態3の変形例の画像生成装置1Fでは、被写体9までの距離Lを取得することが可能である。
【0186】
例えば、距離演算部90は、第1受光量RL13のみが飽和レベルTHよりも大きい場合に、以下に示す(式12)によって、被写体9までの距離Lを演算する。なお、第1受光量RL13aのみが飽和レベルTHよりも大きい場合も、同様の式で距離Lが演算される。
【0187】
【0188】
距離演算部90は、第2受光量RL14のみが飽和レベルTHよりも大きい場合に、以下に示す(式13)によって、被写体9までの距離Lを演算する。なお、第2受光量RL14aのみが飽和レベルTHよりも大きい場合も、同様の式で距離Lが演算される。
【0189】
【0190】
距離演算部90は、第1受光量RL13、RL13aの合計値、および、第2受光量RL14、RL14aの合計値が、飽和レベルTHよりも共に小さい場合に、以下に示す(式14)によって、被写体9までの距離を演算する。
【0191】
【0192】
この画像生成装置1Fにおいても、鏡面反射による影響を抑制して簡易に画像を生成することができる。また、この画像生成装置1Fにおいても、鏡面反射による影響を抑止して被写体9までの距離Lを簡易に測定することができる。
【0193】
(実施の形態4)
[画像生成装置]
実施の形態4に係る画像生成装置1Gについて、
図21および
図22を参照しながら説明する。なお、実施の形態1および2と同じ構成については説明を省略することがある。
【0194】
図21は、実施の形態4に係る画像生成装置1Gのブロック構成図である。
【0195】
実施の形態4に係る画像生成装置1Gは、第1の発光部10、第2の発光部20、受光部30、駆動制御部50、飽和レベル判定部60、合成部70、補正部80、距離演算部90を備えている。
【0196】
駆動制御部50は、同一フレームで、第1の発光部10で発光させるN回の第1発光パルスSG15と、第2の発光部20で発光させるM回の第2発光パルスSG16と、を異なるタイミングで生成する。また、上記と同一フレームで、第1の発光部10から照射した照射光L1が被写体9で反射して生じた反射光R1をN回受光する第1受光パルスRG15と、第2の発光部20から照射した照射光L2が被写体9で反射して生じた反射光R2をM回受光する第2受光パルスRG16と、を異なるタイミングで生成する。NおよびMは、1以上の自然数であり、NおよびMの少なくとも一方が2以上になるように制御される。
【0197】
受光部30は、二次元状に配置された複数の画素31を有しており、N回の第1受光パルスRG15に従って反射光R1を受光し、受光によって画素31に蓄積した信号電荷をN個の第1受光量RL15として生成する。同様に、受光部30は、M回の第2受光パルスRG16に従って反射光R2を受光し、受光によって画素31に蓄積した信号電荷をM個の第2受光量RL16として生成する。N個の第1受光量RL15およびM個の第2受光量RL16は、デジタルデータに変換して出力される。
【0198】
飽和レベル判定部60では、N個の第1受光量RL15と飽和レベルとの比較、および、M個の第2受光量RL16と飽和レベルとの比較が実行される。N個の第1受光量RL15と比較する飽和レベル、および、M個の第2受光量RL16と比較する飽和レベルは、それぞれ個別に設定されてもよい。
【0199】
補正部80では、飽和レベルよりも大きいと判断されたN個の第1受光量RL15とM個の第2受光量RL16とを補正する。例えば補正部80は、飽和レベルよりも小さい周辺画素の受光量を用いて第1受光量RL15または第2受光量RL16の情報を補正してもよい。周辺画素の受光量は、画素31に最も近い画素の受光量であってもよいし、画素31の周辺に位置する複数の画素の受光量の平均値であってもよい。
【0200】
合成部70は、N個の第1受光量RL15を加算して第1受光量RL15の合計値とする。合成部70は、例えばNが1の場合は、1つの第1受光量RL15を第1受光量RL15の合計値とする。また、合成部70は、M個の第2受光量RL16を加算して第2受光量RL16の合計値とする。合成部70は、例えばMが1の場合は、1つの第2受光量RL16を第2受光量RL16の合計値とする。
【0201】
合成部70は、飽和レベル判定部60の比較結果に基づき、N個の第1受光量RL15およびM個の第2受光量RL16のそれぞれが飽和レベルよりも全て小さいときは、第1の合成係数を選択して合成する。合成部70は、N個の第1受光量RL15の少なくとも1つが飽和レベルよりも大きいときは、第2の合成係数を選択して合成する。合成部70は、M個の第2受光量RL16の少なくとも1つが飽和レベルよりも大きいときは、第3の合成係数を選択して合成する。
【0202】
図22は、画像生成装置1Gの動作を示すタイムチャートである。
図22には、Nが2で、Mが1の場合が示されている。
【0203】
駆動制御部50は、第1の発光部10を制御する第1発光パルスSG15およびSG15aを生成する。第1の発光部10は第1発光パルスSG15、SG15aに従って被写体9に向けて照射光L1を照射する。また、駆動制御部50は、第1発光パルスSG15、SG15aとは異なるタイミングで第2の発光部20を制御する第2発光パルスSG16を生成する。第2の発光部20は、第2発光パルスSG16に従って被写体9に向けて照射光L2を照射する。
【0204】
照射光L1およびL2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第1発光パルスSG15の第1の発光期間Tg15と、第1発光パルスSG15aの第1の発光期間Tg15aと、第2発光パルスSG16の第2の発光期間Tg16と、が等しくなるように制御する。
【0205】
受光部30は、駆動制御部50が生成した第1受光パルスRG15に従って反射光R1を受光し、第1受光パルスRG15aに従って反射光R1を受光し、第2受光パルスRG16に従って反射光R2を受光する。
【0206】
反射光R1およびR2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、照射開始から第1受光パルスRG15までの第1の受光開始時間ts15と、照射開始から第2受光パルスRG16までの第2の受光開始時間ts16と、が等しくなるように制御する。駆動制御部50は、第1の受光期間Tr15と第1の受光期間Tr15aとが等しくなるように制御する。照射開始から第1受光パルスRG15aまでの第1の受光開始時間ts15aは、第1の受光開始時間ts15および第1の受光期間Tr15を加算した時間になるように制御される。第2の受光期間Tr16は、第1の受光期間Tr15およびTr15aを加算した時間になるように制御される。
【0207】
受光部30は、第1受光パルスRG15に応じた受光によって画素31に蓄積した信号電荷を第1受光量RL15として生成する。また、受光部30は、第1受光パルスRG15aに応じた受光によって画素31に蓄積した信号電荷を第1受光量RL15aとして生成する。また、受光部30は、第2受光パルスRG16に応じた受光によって画素31に蓄積した信号電荷を第2受光量RL16として生成する。
【0208】
飽和レベル判定部60は、第1受光量RL15、RL15aおよび第2受光量RL16が飽和レベルを超えているか否かを判定する。
【0209】
合成部70は、飽和レベル判定部60の比較結果に基づき、第1受光量RL15、RL15aおよび第2受光量RL16のそれぞれが飽和レベルよりも全て小さいときは、第1の合成係数を選択して合成する。合成部70は、第1受光量RL15、RL15aの少なくとも1つが飽和レベルよりも大きいときは、第2の合成係数を選択して合成する。合成部70は、第2受光量RL16の少なくとも1つが飽和レベルよりも大きいときは、第3の合成係数を選択して合成する。
【0210】
このように合成部70は、飽和レベル判定部60の判定結果に基づいて、画素31から出力された複数の画素信号を合成し、合成信号s10を出力する。画像生成装置1Gは、複数の画素31から出力された複数の合成信号s10に基づいて被写体9の画像を生成する。
【0211】
距離演算部90では、第1受光量RL15、RL15aおよび第2受光量RL16を用いて、被写体9までの距離Lを算出する。
【0212】
例えば、距離演算部90は、飽和レベル判定部60にて、第1受光量RL15、RL15aまたは第2受光量RL16のみが飽和レベルよりも大きいと判断された場合、(式15)または(式17)を用いて距離Lを演算する。また、距離演算部90は、飽和レベル判定部60にて、第2受光量RL16のみが飽和レベルよりも大きいと判断された場合、(式16)を用いて距離Lを演算する。その他の場合、距離演算部90は、(式16)または(式17)を用いて距離Lを演算する。
【0213】
【0214】
【0215】
【0216】
この画像生成装置1Gにおいても、鏡面反射による影響を抑制して簡易に画像を生成することができる。また、この画像生成装置1Gにおいても、鏡面反射による影響を抑止して被写体9までの距離Lを簡易に測定することができる。
【0217】
[実施の形態4の変形例]
実施の形態4の変形例に係る画像生成装置1Hについて、
図23を参照しながら説明する。
【0218】
図23は、画像生成装置1Hの動作を示すタイムチャートである。
図23には、Nが2で、Mが1の場合が示されている。
【0219】
駆動制御部50は、第1の発光部10を制御する第1発光パルスSG17およびSG17aを生成する。第1の発光部10は第1発光パルスSG17、SG17aに従って被写体9に向けて照射光L1を照射する。また、駆動制御部50は、第1発光パルスSG17、SG17aとは異なるタイミングで第2の発光部20を制御する第2発光パルスSG18およびSG18aを生成する。第2の発光部20は、第2発光パルスSG18、SG18aに従って被写体9に向けて照射光L2を照射する。
【0220】
照射光L1およびL2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、第1発光パルスSG17の第1の発光期間Tg17と、第1発光パルスSG17aの第1の発光期間Tg17aと、第2発光パルスSG18の第2の発光期間Tg18と、第2発光パルスSG18aの第2の発光期間Tg18aとが等しくなるように制御する。
【0221】
受光部30は、駆動制御部50が生成した第1受光パルスRG17に従って反射光R1を受光し、第1受光パルスRG17aに従って反射光R1を受光し、第2受光パルスRG18に従って反射光R2を受光し、第2受光パルスRG18aに従って反射光R2を受光する。
【0222】
反射光R1およびR2は、所定の時間幅を有するパルス波形状の光である。駆動制御部50は、照射開始から第1受光パルスRG17までの第1の受光開始時間ts17と、照射開始から第2受光パルスRG18までの第2の受光開始時間ts18と、が等しくなるように制御する。駆動制御部50は、第1の受光期間Tr17と、第1の受光期間Tr17aと、第2の受光期間Tr18と、第2の受光期間Tr18aと、が等しくなるように制御する。照射開始から第1受光パルスRG17aまでの第1の受光開始時間ts17aは、第1の受光開始時間ts17および第1の受光期間Tr17を加算した時間になるように制御される。照射開始から第2受光パルスRG18aまでの第2の受光開始時間ts18aは、第2の受光開始時間ts18および第2の受光期間Tr18を加算した時間になるように制御される。
【0223】
受光部30は、第1受光パルスRG17に応じた受光によって画素31に蓄積した信号電荷を第1受光量RL17として生成する。また、受光部30は、第1受光パルスRG17aに応じた受光によって画素31に蓄積した信号電荷を第1受光量RL17aとして生成する。また、受光部30は、第2受光パルスRG18に応じた受光によって画素31に蓄積した信号電荷を第2受光量RL18として生成する。また、受光部30は、第2受光パルスRG18aに応じた受光によって画素31に蓄積した信号電荷を第2受光量RL18aとして生成する。
【0224】
飽和レベル判定部60は、第1受光量RL17、RL17aおよび第2受光量RL18、RL18aが飽和レベルを超えているか否かを判定する。
【0225】
合成部70は、飽和レベル判定部60の比較結果に基づき、第1受光量RL17、RL17aおよび第2受光量RL18、RL18aのそれぞれが飽和レベルよりも全て小さいときは、第1の合成係数を選択して合成する。合成部70は、第1受光量RL17、RL17aの少なくとも1つが飽和レベルよりも大きいときは、第2の合成係数を選択して合成する。合成部70は、第2受光量RL18、RL18aの少なくとも1つが飽和レベルよりも大きいときは、第3の合成係数を選択して合成する。
【0226】
このように合成部70は、飽和レベル判定部60の判定結果に基づいて、画素31から出力された複数の画素信号を合成し、合成信号s10を出力する。画像生成装置1Hは、複数の画素31から出力された複数の合成信号s10に基づいて被写体9の画像を生成する。
【0227】
距離演算部90では、第1受光量RL17、RL17aおよび第2受光量RL18、RL18aを用いて被写体9までの距離Lを算出する。
【0228】
距離演算部90は、飽和レベル判定部60にて、第1受光量RL17またはRL17aのみが飽和レベルよりも大きいと判断された場合、(式18)を用いて距離Lを演算する。また、距離演算部90は、飽和レベル判定部60にて、第2受光量RL18またはRL18aのみが飽和レベルよりも大きいと判断された場合、(式19)を用いて距離Lを演算する。その他の場合、距離演算部90は、(式18)、(式19)および(式20)の何れかを用いて距離Lを演算する。
【0229】
【0230】
【0231】
【0232】
この画像生成装置1Hにおいても、鏡面反射による影響を抑制して簡易に画像を生成することができる。また、この画像生成装置1Hにおいても、鏡面反射による影響を抑止して被写体9までの距離Lを簡易に測定することができる。
【0233】
(実施の形態5)
実施の形態5に係る画像生成装置について説明する。
【0234】
図24は、実施の形態5に係る画像生成装置の動作を示すタイムチャートである。
図24には、実施の形態1で示した駆動タイミングの発光期間と受光期間とを同一フレームで複数回実行した例が示されている。
【0235】
図24に示すように、画像生成装置は、第1の発光部10の発光に応じた反射光R1の受光を複数回繰り返すことで電荷の蓄積を繰り返し、蓄積した電荷を第1受光量として生成してもよい。同様に、画像生成装置は、第2の発光部20の発光に応じた反射光R2の受光を複数回繰り返すことで電荷の蓄積を繰り返し、蓄積した電荷を第2受光量として生成してもよい。
【0236】
図25は、実施の形態5に係る画像生成装置の動作の他の例を示す図である。
図25には、実施の形態1で示した駆動タイミングの発光期間と受光期間とを同一フレームで複数回実行した他の例が示されている。
【0237】
図25に示すように、画像生成装置は、第1の発光部10の発光および第2の発光部20の発光に応じた反射光R1、R2の受光を複数回繰り返すことで電荷の蓄積を繰り返し、蓄積した電荷を第1受光量および第2受光量として生成してもよい。
【0238】
図26は、実施の形態5に係る画像生成装置の動作の他の例を示す図である。
図26には、実施の形態4で示した形態において、Nが2、Mが2の場合の発光期間と受光期間とを同一フレームで複数回実行した例が示されている。
【0239】
図26に示すように、画像生成装置は、第1の発光部10の発光に応じた反射光R1の受光を複数回繰り返すことで電荷の蓄積を繰り返し、蓄積した電荷を一方の第1受光量として生成してもよい。また、画像生成装置は、第1の発光部10の発光に応じた反射光R1の受光を複数回繰り返すことで電荷の蓄積を繰り返し、蓄積した電荷を他方の第1受光量として生成してもよい。同様に、画像生成装置は、第2の発光部20の発光に応じた反射光R2の受光を複数回繰り返すことで電荷の蓄積を繰り返し、蓄積した電荷を一方の第2受光量として生成してもよい。また、画像生成装置は、第2の発光部20の発光に応じた反射光R2の受光を複数回繰り返すことで電荷の蓄積を繰り返し、蓄積した電荷を他方の第2受光量として生成してもよい。
【0240】
図27は、実施の形態5に係る画像生成装置の動作の他の例を示す図である。
図27には、実施の形態4で示した形態において、Nが2、Mが2の場合の発光期間と受光期間とを同一フレームで複数回実行した他の例が示されている。
【0241】
図27に示すように、画像生成装置は、第1の発光部10の発光および第2の発光部20の発光に応じた反射光R1、R2の受光を複数回繰り返すことで電荷の蓄積を繰り返し、蓄積した電荷を第1受光量および第2受光量として生成してもよい。
【0242】
このように、同一フレーム内で発光と受光(露光)とを複数回繰り返すことで、1回あたりの発光量を抑えることができる。また、発光を複数回に分散することで、第1の発光部10および第2の発光部20のピーク電力を抑えることができる。また、発光を複数回繰り返すことで、ノイズの影響を受けにくくなり、S/Nを向上させることができる。
【0243】
(まとめ)
本実施の形態の画像生成装置1~1Hは、光を発光する第1の発光部10および第2の発光部20と、第1の発光部10および第2の発光部20で発光したそれぞれの光(照射光L1、L2)が、被写体9に照射されることで反射したそれぞれの反射光R1、R2を、二次元状に配置された複数の画素31で受光する受光部30と、第1の発光部10の発光期間、第2の発光部20の発光期間、および、受光部30の受光期間を制御する駆動制御部50と、第1の発光部10の発光に対応する受光部30の受光によって画素31から出力される第1の画素信号s1、および、第2の発光部20の発光に対応する受光部30の受光によって画素31から出力される第2の画素信号s2を合成して合成信号s10を生成する合成部70と、を備える。第1の発光部10および第2の発光部20は、被写体9から見て重ならない位置に設けられている。駆動制御部50は、同一フレームにおいて、第1の発光部10と第2の発光部20とを異なるタイミングで発光させる。合成部70は、第1の画素信号s1および第2の画素信号s2のうち、少なくとも一方が所定のレベルよりも大きい画素信号である場合に、所定のレベルよりも大きい画素信号を用いずに合成信号s10を生成する。
【0244】
このように、第1の画素信号s1および第2の画素信号s2の少なくとも一方が所定のレベルよりも大きい画素信号である場合に、所定のレベルよりも大きい画素信号を用いずに合成信号s10を生成することで、鏡面反射による影響を抑制して簡易に画像を生成することができる。
【0245】
また、所定のレベルは、画素31に蓄積される信号電荷が飽和するときの飽和レベルTHに基づいて予め設定されてもよい。
【0246】
これによれば、第1の画素信号s1および第2の画素信号s2の少なくとも一方が飽和するレベルよりも大きい画素信号である場合に、飽和している画素信号を用いずに合成信号s10を生成することができる。これにより、鏡面反射による影響を抑制して簡易に画像を生成することができる。
【0247】
また、受光部30は、第1の発光部10の発光に対応して画素31に蓄積された信号電荷を第1のパケットp1に読み出し、当該信号電荷に応じた受光量の情報を含む第1の画素信号s1を出力し、および、第2の発光部20の発光に対応して受光部30の画素31に蓄積された信号電荷を第2のパケットp2に読み出し、当該信号電荷に応じた受光量の情報を含む第2の画素信号s2を出力してもよい。
【0248】
このように、画素31に蓄積された信号電荷を複数のパケットに読み出して、第1の画素信号s1および第2の画素信号s2を出力することで、同一フレーム内の情報を用いて1つの画像を生成することができる。すなわち、複数のフレームを用いて1つの画像を生成するのでなく、1つのフレーム内の情報を用いて1つの画像を生成することができる。これにより、鏡面反射による影響を抑制して簡易に画像を生成することができる。
【0249】
また、第1の発光部10および第2の発光部20は、受光部30の両外側に配置されていてもよい。
【0250】
このように、第1の発光部10および第2の発光部20を受光部30の片側でなく、受光部30の両外側に配置することで、第1の画素信号s1および第2の画素信号s2の両方が所定のレベルより大きくなることを抑制できる。これにより、鏡面反射による影響を抑制して簡易に画像を生成することができる。
【0251】
本実施の形態の画像生成装置1~1Hは、被写体9に向けて光(照射光L1)を照射する第1の発光部10と、被写体9に向けて光(照射光L2)を照射する第2の発光部20と、第1の発光部10および第2の発光部20で照射した光が被写体9に反射することで生じたそれぞれの反射光R1、R2を、二次元状に配置された複数の画素31で受光する受光部30と、第1の発光部10の発光期間、第2の発光部20の発光期間および受光部30の受光期間を制御する駆動制御部50と、第1の発光部10および第2の発光部20の光の照射に応じて受光部30の画素31から出力された第1の画素信号s1および第2の画素信号s2が、飽和レベルTHを超えているか否かを判定する飽和レベル判定部60と、飽和レベル判定部60の判定結果に基づいて、第1の画素信号s1および第2の画素信号s2を合成することで合成信号s10を生成する合成部70と、を備える。第1の発光部10と第2の発光部20とは、離間して配置されている。駆動制御部50は、同一フレームにおいて、第1の発光部10を発光させる第1発光パルスと第2の発光部20を発光させる第2発光パルスとを異なるタイミングで生成し、および、第1の発光部10で照射した光が被写体9に反射することで生じた反射光R1を受光させる第1受光パルスと第2の発光部20で照射した光が被写体9に反射することで生じた反射光R2を受光させる第2受光パルスとを異なるタイミングで生成する。受光部30は、第1受光パルスに従って受光した第1受光量の情報を含む第1の画素信号s1を出力し、および、第2受光パルスに従って受光した第2受光量の情報を含む第2の画素信号s2を出力する。飽和レベル判定部60は、第1受光量、第2受光量および飽和レベルTHを比較する。合成部70は、
(1)第1受光量および第2受光量が飽和レベルTHよりも共に小さい場合に、第1の合成係数で第1の画素信号s1および第2の画素信号s2を合成し、
(2)第1受光量のみが飽和レベルTHよりも大きい場合に、第2の合成係数で第1の画素信号s1および第2の画素信号s2を合成し、
(3)第2受光量のみが飽和レベルTHよりも大きい場合に、第3の合成係数で第1の画素信号s1および第2の画素信号s2を合成する。
【0252】
このように、第1受光量、第2受光量および飽和レベルTHの比較結果に基づいて、第1の画素信号s1および第2の画素信号s2を合成することで、鏡面反射による影響を抑制して簡易に画像を生成することができる。
【0253】
また、第2の合成係数は、第1受光量を0とみなして合成する係数であり、第3の合成係数は、第2受光量を0とみなして合成する係数であってもよい。
【0254】
これによれば、第1受光量および第2受光量の一方が飽和している場合に、飽和している受光量の情報を含む画素信号を用いずに画像を生成することができる。これにより、鏡面反射による影響を抑制して簡易に画像を生成することができる。
【0255】
また、第1の合成係数は、第1受光量を半分とみなし、かつ、第2受光量を半分とみなして合成する係数であってもよい。
【0256】
これによれば、第1受光量および第2受光量の両方が飽和していない場合に、飽和していない両方の受光量の情報を含む画素信号を半分ずつ用いて画像を生成することができる。これにより、鏡面反射による影響を抑制して簡易に画像を生成することができる。
【0257】
また、画像生成装置1Aは、さらに、第1受光量の情報または第2受光量の情報を補正する補正部80を備えていてもよい。駆動制御部50は、第1の発光部10の光の照射に対応する受光部30の第1の受光期間と、第2の発光部20の光の照射に対応する受光部30の第2の受光期間とを異なるように制御する。補正部80は、第1の受光期間と第2の受光期間との違いによって生じる受光量に基づいて、第1受光量の情報または第2受光量の情報を補正する。合成部70は、補正部80で補正された補正後の第1受光量の情報または第2受光量の情報を用いて、第1の画素信号s1および第2の画素信号s2を合成してもよい。
【0258】
このように、補正部80が、第1の受光期間と第2の受光期間との違いによって生じる受光量に基づいて、第1受光量の情報または第2受光量の情報を補正することで、第1の画素信号s1または第2の画素信号s2を適切に生成することができる。これにより、鏡面反射による影響を抑制した画像を適切に生成することができる。
【0259】
また、画像生成装置1Bは、さらに、第1受光量の情報または第2受光量の情報を補正する補正部80を備えていてもよい。駆動制御部50は、第1の発光部10の照射開始から受光部30による受光開始までの第1の受光開始時間と、第2の発光部20の照射開始から受光部30による受光開始までの第2の受光開始時間とを異なるように制御する。補正部80は、第1の受光開始時間と第2の受光開始時間との違いによって生じる受光量に基づいて、第1受光量の情報または第2受光量の情報を補正する。合成部70は、補正部80で補正された補正後の第1受光量の情報または第2受光量の情報を用いて、第1の画素信号s1および第2の画素信号s2を合成してもよい。
【0260】
このように、補正部80が、第1の受光開始時間と第2の受光開始時間との違いによって生じる受光量に基づいて、第1受光量の情報または第2受光量の情報を補正することで、第1の画素信号s1または第2の画素信号s2を適切に生成することができる。これにより、鏡面反射による影響を抑制した画像を適切に生成することができる。
【0261】
また、画像生成装置1A~1Hは、さらに、被写体9までの距離Lを演算する距離演算部90を備え、距離演算部90は、補正後の第1受光量または第2受光量を用いて、距離Lを演算してもよい。
【0262】
このように、距離演算部90が、補正後の第1受光量または第2受光量を用いて距離Lを演算することで、被写体9までの距離Lを適切に測定することができる。
【0263】
また、本実施の形態の画像生成装置1A~1Hは、被写体9に向けて光(照射光L1)を照射する第1の発光部10と、被写体9に向けて光(照射光L2)を照射する第2の発光部20と、第1の発光部10および第2の発光部20で照射した光が被写体9に反射することで生じたそれぞれの反射光R1、R2を、二次元状に配置された複数の画素31で受光する受光部30と、第1の発光部10の発光期間、第2の発光部20の発光期間および受光部30の受光期間を制御する駆動制御部50と、第1の発光部10および第2の発光部20の光の照射に応じて受光部30の画素31から出力された第1の画素信号s1および第2の画素信号s2が、飽和レベルTHを超えているか否かを判定する飽和レベル判定部60と、飽和レベル判定部60の判定結果に基づいて、第1の画素信号s1および第2の画素信号s2を合成することで合成信号s10を生成する合成部70と、を備える。第1の発光部10と第2の発光部20とは、離間して配置されている。駆動制御部50は、同一フレームにおいて、第1の発光部10を発光させる1以上の第1発光パルスと第2の発光部20を発光させる1以上の第2発光パルスとを異なるタイミングで生成し、および、第1の発光部10で照射した光が被写体9に反射することで生じた反射光R1を受光させる1以上の第1受光パルスと第2の発光部20で照射した光が被写体9に反射することで生じた反射光R2を受光させる1以上の第2受光パルスとを異なるタイミングで生成する。受光部30は、1以上の第1受光パルスに従って受光した1以上の第1受光量の情報を含む第1の画素信号s1を出力し、および、1以上の第2受光パルスに従って受光した1以上の第2受光量の情報を含む第2の画素信号s2を出力する。飽和レベル判定部60は、1以上の第1受光量の情報、1以上の第2受光量の情報および飽和レベルTHを比較する。合成部70は、
(1)1以上の第1受光量および1以上の第2受光量のそれぞれが、飽和レベルTHよりも全て小さい場合に、第1の合成係数で第1の画素信号s1および第2の画素信号s2を合成し、
(2)1以上の第1受光量の少なくとも1つが飽和レベルTHよりも大きい場合に、第2の合成係数で第1の画素信号s1および第2の画素信号s2を合成し、
(3)1以上の第2受光量の少なくとも1つが飽和レベルよりも大きい場合に、第3の合成係数で第1の画素信号s1および第2の画素信号s2を合成する。
【0264】
このように、1以上の第1受光量、1以上の第2受光量および飽和レベルTHの比較結果に基づいて、第1の画素信号s1および第2の画素信号s2を合成することで、鏡面反射による影響を抑制して簡易に画像を生成することができる。
【0265】
また、画像生成装置1A~1Hは、さらに、被写体9までの距離を演算する距離演算部90を備え、距離演算部90は、1以上の第1受光量の合計値および1以上の第2受光量の合計値を用いて、距離Lを演算してもよい。
【0266】
これによれば、鏡面反射による影響を抑制して、被写体9までの距離Lを簡易に測定することができる。
【0267】
また、駆動制御部50は、発光期間および受光期間のそれぞれを同一フレームで複数回実行してもよい。
【0268】
このように、同一フレーム内で発光期間および受光期間のそれぞれを複数回実行することで、1回あたりの発光量を抑えることができる。また、発光を複数回に分散することで、第1の発光部10および第2の発光部20のピーク電力を抑えることができる。
【0269】
(その他の実施の形態)
以上、実施の形態について説明したが、本開示は、上記実施の形態に限定されるものではない。実施の形態に対して当業者が思いつく各種変形を施して得られる形態や、本開示の趣旨を逸脱しない範囲で各実施の形態における構成要素および機能を任意に組み合わせることで実現される形態も本開示に含まれる。
【0270】
画像生成装置1~1Hは、車両に限られず、建物の室内などの所定の空間8内に設けられていてもよい。画像生成装置1~1Hは、撮像装置に含まれる装置であってもよい。画像生成装置1A~1Hは、距離測定装置に含まれる装置であってもよい。
【産業上の利用可能性】
【0271】
本開示は、人の健康状態、覚醒状態、集中状態などを画像から検出する装置の性能向上に有用である。
【符号の説明】
【0272】
1、1A、1B、1C、1D、1E、1F、1G、1H 画像生成装置
8 空間
9 被写体
10 第1の発光部
10a、10b 光源
20 第2の発光部
20a、20b 光源
30 受光部
31 画素
40 基板
50 駆動制御部
60 飽和レベル判定部
70 合成部
80 補正部
90 距離演算部
L1、L2 照射光
p1 第1のパケット
p2 第2のパケット
R1、R2 反射光
RG1、RG3、RG5、RG7、RG9、RG11、RG11a、RG13、RG13a、RG15、RG15a、RG17、RG17a 第1受光パルス
RG2、RG4、RG6、RG8、RG10、RG12、RG14、RG14a、RG16、RG18、RG18a 第2受光パルス
RL1、RL3、RL5、RL7、RL9、RL11、RL11a、RL13、RL13a、RL15、RL15a、RL17、RL17a 第1受光量
RL2、RL4、RL6、RL8、RL10、RL12、RL14、RL14a、RL16、RL18、RL18a 第2受光量
s1 第1の画素信号
s2 第2の画素信号
s10 合成信号
SG1、SG3、SG5、SG7、SG9、SG11、SG13、SG15、SG15a、SG17、SG17a 第1発光パルス
SG2、SG4、SG6、SG8、SG10、SG12、SG14、SG16、SG18、SG18a 第2発光パルス
Tg1、Tg3、Tg5、Tg7、Tg9、Tg11、Tg13、Tg15、Tg15a、Tg17、Tg17a 第1の発光期間
Tg2、Tg4、Tg6、Tg8、Tg10、Tg12、Tg14、Tg16、Tg18、Tg18a 第2の発光期間
TH 飽和レベル
ts1、ts3、ts5、ts7、ts9、ts11、ts11a、ts13、ts13a、ts15、ts15a、ts17、ts17a 第1の受光開始時間
ts2、ts4、ts6、ts8、ts10、ts12、ts14、ts14a、ts16、ts18、ts18a 第2の受光開始時間
Tr1、Tr3、Tr5、Tr7、Tr9、Tr11、Tr11a、Tr13、Tr13a、Tr15、Tr15a、Tr17、Tr17a 第1の受光期間
Tr2、Tr4、Tr6、Tr8、Tr10、Tr12、Tr14、Tr14a、Tr16、Tr18、Tr18a 第2の受光期間