(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-22
(45)【発行日】2024-07-30
(54)【発明の名称】画像形成装置
(51)【国際特許分類】
H04N 25/10 20230101AFI20240723BHJP
H04N 23/56 20230101ALI20240723BHJP
H04N 23/60 20230101ALI20240723BHJP
【FI】
H04N25/10
H04N23/56
H04N23/60 500
(21)【出願番号】P 2021010481
(22)【出願日】2021-01-26
【審査請求日】2023-05-16
(73)【特許権者】
【識別番号】000004260
【氏名又は名称】株式会社デンソー
(74)【代理人】
【氏名又は名称】矢作 和行
(74)【代理人】
【識別番号】100121991
【氏名又は名称】野々部 泰平
(74)【代理人】
【識別番号】100145595
【氏名又は名称】久保 貴則
(72)【発明者】
【氏名】山下 智也
【審査官】鈴木 肇
(56)【参考文献】
【文献】特開2017-118191(JP,A)
【文献】特開2015-149585(JP,A)
【文献】特開2016-096430(JP,A)
【文献】国際公開第2018/079372(WO,A1)
【文献】特開2018-142887(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/222- 5/257
H04N 9/01 - 9/11
H04N 23/00
H04N 23/10
H04N 23/12 -23/17
H04N 23/40 -23/76
H04N 23/90 -23/959
H04N 25/10 -25/17
H04N 25/611
A61B 3/00 - 3/18
A61B 5/06 - 5/22
G06T 1/00 - 1/40
G06T 3/00 - 5/50
(57)【特許請求の範囲】
【請求項1】
対象領域からの可視光を含む環境光と、可視光より波長が長い赤外光のみを受光する複数の画素を有する撮像部(12)と、
前記対象領域に赤外光を出射する光源(11)と、
前記光源の点灯状態を制御する光源制御部(17)と、
前記対象領域の画像を形成する画像形成部(18)と、を含み、
前記画素は、受光した光を電荷に変換する光電変換素子と、変換した電荷を蓄積するレジスタと、を備え、
前記画像形成部は、
前記光源が点灯しているオン状態のときに各前記画素が蓄積した電荷と、前記光源が消灯しているオフ状態のときに各前記画素が蓄積した電荷との差を用いて、前記光源に起因する電荷量である差分電荷量を求め、
前記画素の電荷量と前記差分電荷量を用いて画像を形成
し、
前記光源制御部は、所定の制御期間の前記オン状態を複数回にわたって実施し、前記制御期間の前記オフ状態を複数回にわたって実施し、
前記画像形成部は、
前記光源制御部と同期して、各前記制御期間における前記画素の電荷量を取得し、
前記可視光の影響を抑制するために、前記オン状態のオン回数における総電荷量と、前記オフ状態のオフ回数における総電荷量との差を求め、その差がゼロに近くなるように、前記オン回数と前記オフ回数とを調節する画像形成装置。
【請求項2】
複数の前記画素は、それぞれ光の三原色である赤色、緑色および青色のうち何れかのカラーフィルタが設けられ、
前記画像形成部は、求めた前記差分電荷量と、各前記画素が蓄積した電荷量を用いて前記対象領域の画像を形成する請求項1に記載の画像形成装置。
【請求項3】
前記光源は、複数設けられ、
各前記光源は、赤外光の波長であって、互いに異なる波長帯を有し、
前記光源制御部は、各前記光源のいずれか1つのみが点灯するように点灯状態を制御する請求項1
または2に記載の画像形成装置。
【発明の詳細な説明】
【技術分野】
【0001】
この明細書における開示は、画像を形成する画像形成装置に関する。
【背景技術】
【0002】
従来、昼夜兼用で使用可能なカメラを構成するため、カラーフィルタを、RGBのフィルタと、赤外領域に感度を有する赤外フィルタ(IRフィルタ)とを有する構成としている。RGBのフィルタによって、昼間は、赤(R)、緑(G)、青(B)の光の3原色を取得し、赤外フィルタによって、夜間は、赤外光を取得している(たとえば特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来のカラーフィルタの構成では、RBGのフィルタに加えてIRフィルタが必要であるので、カラー画像を形成するための画素が減少するという問題がある。
【0005】
そこで、開示される目的は前述の問題点を鑑みてなされたものであり、カラー画像を形成するための画素の減少を抑制しつつ、可視光および赤外光を用いて画像を形成することができる画像形成装置を提供することを目的とする。
【課題を解決するための手段】
【0006】
本開示は前述の目的を達成するために以下の技術的手段を採用する。
【0007】
ここに開示された画像形成装置は、対象領域からの可視光を含む環境光と、可視光より波長が長い赤外光のみを受光する複数の画素を有する撮像部(12)と、対象領域に赤外光を出射する光源(11)と、光源の点灯状態を制御する光源制御部(17)と、対象領域の画像を形成する画像形成部(18)と、を含み、画素は、受光した光を電荷に変換する光電変換素子と、変換した電荷を蓄積するレジスタと、を備え、画像形成部は、光源が点灯しているオン状態のときに各画素が蓄積した電荷と、光源が消灯しているオフ状態のときに各画素が蓄積した電荷との差を用いて、光源に起因する電荷量である差分電荷量を求め、画素の電荷量と差分電荷量を用いて画像を形成し、光源制御部は、所定の制御期間のオン状態を複数回にわたって実施し、制御期間のオフ状態を複数回にわたって実施し、画像形成部は、光源制御部と同期して、各制御期間における画素の電荷量を取得し、可視光の影響を抑制するために、オン状態のオン回数における総電荷量と、オフ状態のオフ回数における総電荷量との差を求め、その差がゼロに近くなるように、オン回数とオフ回数とを調節する画像形成装置である。
【0008】
このような画像形成装置に従えば、赤外光を出射する光源が、光源制御部によって点灯制御される。光源がオン状態のときに画素に蓄積する電荷は、光源が出射した赤外光の影響と太陽光などの環境光の影響を含む。これに対して、光源がオフ状態のときに画素に蓄積する電荷は、光源が出射した赤外光の影響はなく環境光の影響のみである。したがって、光源がオフのときの電荷量によって、光源に影響されない環境光の電荷を全画素から求めることができる。これによって光源がオフのときは環境光に起因した電荷を用いて、対象領域のカラー画像を形成することができる。また差分電荷量によって、環境光に起因しない、赤外光に起因した赤外線画像を形成することができる。これによって画素の減少を抑制しつつ、環境光および赤外光を用いて画像を形成することができる。
【0009】
なお、前述の各手段の括弧内の符号は、後述する実施形態に記載の具体的手段との対応関係を示す一例である。
【図面の簡単な説明】
【0010】
【
図4】カラーフィルタのスペクトルとバンドパスフィルタの透過領域を示す図
【発明を実施するための形態】
【0011】
以下、図面を参照しながら本開示を実施するための形態を、複数の形態を用いて説明する。各実施形態で先行する実施形態で説明している事項に対応している部分には同一の参照符を付すか、または先行の参照符号に一文字追加し、重複する説明を略する場合がある。また各実施形態にて構成の一部を説明している場合、構成の他の部分は、先行して説明している実施形態と同様とする。各実施形態で具体的に説明している部分の組合せばかりではなく、特に組合せに支障が生じなければ、実施形態同士を部分的に組合せることも可能である。
【0012】
(第1実施形態)
本開示の第1実施形態に関して、
図1~
図6を用いて説明する。画像形成装置10は、対象領域の画像を形成する。画像形成装置10は、たとえば車両に搭載されて、運転者の顔の画像を撮像して、運転者の状態をモニタリングするドライバステータスモニタ(DSM:Driver Status Monitor)に用いられる。DSMは、運転者の顔画像に基づいて運手者の状態を逐次検出する装置である。
【0013】
DSMは、たとえば顔画像から、視線および目の開き具合を検出する。そして、目の開き具合から運転者が眠気を催しているか否かを判定して、眠気を催しているようであれば、アラーム等を作動させて運転者を覚醒させる、あるいは、ブレーキ装置を作動させて減速させる、更には強制停止させる、等の安全運転支援を行う。
【0014】
画像形成装置10は、
図1に示すように、光源11、撮像部12およびコントローラ13を含んで構成される。光源11は、顔画像を撮像するために運転者の顔に向けて、赤外線の光を出射する。赤外線の光は、可視光線の赤色より波長が長く、電波より波長の短い電磁波のことである。赤外線の光には、近赤外線の光も含む。光源11は、コントローラ13によって、例えば、露光時間、光源強度等が制御される。これによって、撮像時の露出レベルが調整されるようになっている。
【0015】
図2は、光源11が出射する赤外光のスペクトルを示す。光源11は、
図2に示すように、本実施形態では波長950nmが強度の中心とする赤外光を出射する。したがって光源11による赤外照明は、近赤外の帯域に強いスペクトルを持つ。これに対して
図3は、太陽光のスペクトルを示す。太陽光は、赤外光も含む広い範囲の波長の光であることがわかる。
【0016】
撮像部12は、対象領域が運転者の顔である顔画像を撮像する。撮像部12は、運転者の顔と対向するように、例えば、ステアリングコラムの上部、コンビネーションメータ、あるいは、フロントウインド上部等に装着されている。
【0017】
撮像部12は、対象領域からの光のうち可視光と、可視光より波長が長い赤外光とを受光する複数の画素を有する。撮像部12は、イメージセンサ14、レンズ15およびバンドパスフィルタ16を含んで構成される。レンズ15は、イメージセンサ14の運転者側に設けられて、太陽光および光源11から出射された光が運転者の顔によって反射された光をイメージセンサ14に向けて集光、すなわち結像形成させる。
【0018】
バンドパスフィルタ(BPF)16は、太陽や外部照明等の外乱による影響を軽減するために、特定の波長の光のみを通す特性を持った光学フィルタである。バンドパスフィルタ16は、レンズ15の前面、あるいはレンズ15とイメージセンサ14との間に設置されている。本実施形態のバンドパスフィルタ16は、
図4で台形にて示すように、可視光と、光源11が出射する赤外光の部分の光とを透過する。したがってバンドパスフィルタ16は、2種類の波長帯の光を透過する。
【0019】
イメージセンサ14は、レンズ15による結像を電気信号に変換して、運転者の顔画像として撮像する撮像素子である。イメージセンサ14は、コントローラ13によって、例えば、ゲイン等が制御されるようになっている。これによって、撮像時の露出レベルが調整されるようになっている。イメージセンサ14は、顔画像を撮像するにあたって、例えば、1秒間に30フレームの撮像データを連続的に取得していくようになっている。
【0020】
イメージセンサ14は、格子状に画素が平面配列された構成である。各画素は、光電変換素子、レジスタおよびカラーフィルタを備えている。光電変換素子は、たとえばフォトダイオードであり、光電変換素子に照射された光の量に応じた電荷が発生する。レジスタは、光電変換素子が変換した電荷を一時的に蓄積する。レジスタにはコンデンサを用いる。
【0021】
複数の画素は、それぞれ光の三原色である赤色、緑色および青色のうち何れかのカラーフィルタが設けられる。各カラーフィルタは、赤色に高い感度を有するRフィルタ、緑色に高い感度を有するGフィルタ、青色の高い感度を有するBフィルタの何れかである。これらのカラーフィルタは、RGBベイヤーカラーフィルタ配列に従って配されている。以下、Rフィルタが設けられた画素をR画素、Gフィルタが設けられた画素をG画素、Bフィルタが設けられた画素をB画素と言うことがある。
【0022】
R画素、G画素およびB画素のフィルタ特性は、
図4に示すように、それぞれの色の可視光に加え、近赤外の帯域も透過可能である等の特徴を持つ。また
図4では、比較のためにIR画素のスペクトルも示している。IR画素は、既存の近赤外光の強度を検出するための画素である。したがってIR画素は、近赤外光を透過する性能を有する。
【0023】
コントローラ13は、記憶媒体に記憶されているプログラムを実行し、各部を制御する。コントローラ13は、少なくともひとつの演算処理装置(CPU)と、プログラムとデータとを記憶する記憶媒体とを有する。コントローラ13は、たとえばコンピュータによって読み取り可能な記憶媒体を備えるマイクロコンピュータによって実現される。記憶媒体は、コンピュータによって読み取り可能なプログラムおよびデータを非一時的に格納する非遷移的実体的記憶媒体である。記憶媒体は、半導体メモリまたは磁気ディスクなどによって実現される。
【0024】
コントローラ13は、イメージセンサ14から出力されるデータに対してISP(Image Signal Processing)と呼ばれる画像処理を行う。ISPでは、レンズ15など光学系の補正処理や、イメージセンサ14のばらつきなどから生じるキズ補正など、画素単位での処理が中心に行う。コントローラ13は、補正後のYUVデータと補正前のRAWデータを他の装置へ出力する。YUVデータは、たとえば進運転支援(ADAS:Advanced Driver-Assistance Systems)のECUへ出力され、RAWデータは、たとえば車内インフォテインメント向けに出力される。
【0025】
コントローラ13は、顔画像を撮像する際に必要とされる条件となるように、光源11およびイメージセンサ14を制御する。コントローラ13は、光源11を制御する光源制御部17、および画像を形成する画像形成部18を機能ブロックとして有している。
【0026】
光源制御部17は、光源11の点灯状態を制御する。光源制御部17は、撮像において、オン状態のオン画像を撮像する際には、光源11をオンに制御し、オフ状態のオフ画像を撮像する際には、光源11をオフに制御する。
【0027】
画像形成部18は、イメージセンサ14から出力される顔画像のデータを取得する。画像形成部18は、取得した顔画像のデータをフレームメモリに出力する。フレームメモリは、画像形成部18から出力された顔画像のデータを記憶すると共に、他の装置へ出力する。
【0028】
次に、具体的な光源11の点灯制御および画像形成部18の画像形成処理に関して説明する。イメージセンサ14は、後述するように、光源11がオンのオン状態と、光源11がオフのオフ状態とが交互に連続するようにして、顔画像を撮像する。
【0029】
たとえば昼間かつ光源11がオンのオン状態では、太陽光および光源11による赤外照明の双方の照明が存在するので、イメージセンサ14のRGB画素には太陽光および光源11の両方の波長の電荷が蓄積される。
【0030】
一方、昼間かつ光源11がオフのオフ状態では、光源11がオフなので、イメージセンサ14のRGB画素には太陽光のみの電荷が蓄積される。本実施形態では、オン状態とオフ状態の2種の蓄積パターンを意図的に作るように光源11を点灯制御し、露光時間をコントロールする。その動作シーケンスの中で、オン状態とオフ状態の電荷の差分を取得することで、R画素、G画素およびB画素の全画素から、光源11に起因する蓄積電荷を取得し、フル解像度でのIR画像を出力可能とする。また、光源11に起因する蓄積電荷であるIR成分を全画素から引き算することで、より綺麗なカラー画像を取得することができる。このようにオン状態とオフ状態とを交互に繰り返すシーケンスにより、カラー画像とフル画素のIR画像を同一イメージセンサ14から取得可能となる。
【0031】
次に、
図5のフローチャートを用いて画像形成部18の画像形成処理に関して説明する。
図5に示す処理は、画像形成装置10に電源投入状態において1フレーム毎に繰り返し実行される。
【0032】
ステップS1では、光源11がオン状態の電荷を各画素から取得し、ステップS2に移る。ステップS2では、光源11がオフ状態の電荷を各画素から取得し、ステップS3に移る。ステップS1およびステップS2の処理は、
図6に示すように、1フレームに2回露光することで実施される。
【0033】
図6では、時刻t1から時刻t7までが1フレームである。時刻t1で1フレームが開始されると、光源11がオンとなり、その後、時刻t2にて露光がオンとなる。そして時刻t3にて露光がオフとなり、露光がオフ後の時刻t4にて光源11がオフとなる。したがって最初の露光では、光源11がオン状態の電荷が取得される。そして時刻t5から2度目の露光がオンとなる。そして時刻t6にて露光がオフとなり、その後、時刻t7にて1フレームが終了する。したがって2番目の露光では、光源11がオフ状態の電荷が取得される。
【0034】
ステップS3では、オン状態のときに各画素が蓄積した電荷と、オフ状態のときに各画素が蓄積した電荷との差を用いて、光源11に起因する電荷量である差分電荷量を求め、ステップS4に移る。
【0035】
各画素には、光源11がオンのときは、バンドパスフィルタ16およびカラーフィルタを光源11からの赤外光と太陽光とが透過した光が入射する。また各画素には、光源11がオフのときは、バンドパスフィルタ16およびカラーフィルタを太陽光が透過した光が入射する。したがって光源11がオフのときは、光源11からの赤外光の光は各画素に入射しない。これによって光源11がオンのときの電荷から、光源11がオフのときの電荷を減算すると、光源11の赤外光のみに起因する電荷を算出することができる。
【0036】
ステップS4では、ステップS3で求めた差分電荷量を用いて、赤外線画像(IR画像)を形成し、ステップS5に移る。前述したように差分電荷量は、光源11に起因する電荷量であるので、いわゆる赤外線画像素子が検出した電荷と同等のものである。したがってIR画像を形成することができる。
【0037】
ステップS5では、光源11がオフ状態のときの電荷を用いて、カラー画像を形成し、本フローを終了する。光源11がオフ状態のときの電荷は、太陽光に起因した電荷となる。したがって各カラーフィルタに応じた電荷を用いて、カラー画像を形成することができる。
【0038】
このように光源11の発光シーケンスとして、フレーム毎にON/OFFを繰り返す制御を実施する。光源11をオン、すなわち赤外照明ONのフレームにおいては、赤外照明と同期した露光制御をすることで太陽光+赤外照明光をR画素、G画素およびB画素に取り込み、その後に光源11をオフ、すなわち赤外照明をOFFにすることで太陽光のみをR画素、G画素およびB画素に取り込む。この時系列的に異なる2種の画像差分を取得することで、R画素、G画素およびB画素から、太陽光の除去された光源11の情報のみをフルピクセルサイズで取得が可能となる。したがって全画素から、光源11の赤外照明成分のみを抽出したIR画像の生成が可能となる。
【0039】
以上説明したように本実施形態の画像形成装置10は、赤外光を出射する光源11が、光源制御部17によって点灯制御される。光源11がオン状態のときに画素に蓄積する電荷は、光源11が出射した赤外光の影響と太陽光の影響を含む。これに対して、光源11がオフ状態のときに画素に蓄積する電荷は、光源11が出射した赤外光の影響はなく太陽光の影響のみ含む。したがって、光源11がオフのときの電荷量によって、光源11に影響されない太陽光の電荷を全画素から求めることができる。画像形成部18は、光源11がオフのときは太陽光に起因した電荷を用いて、対象領域の画像を形成することができる。また画像形成部18は、差分電荷量によって、太陽光に起因しない、赤外光に起因した画像を形成することができる。これによって画素の減少を抑制しつつ、太陽光および赤外光を用いて画像を形成することができる。
【0040】
また本実施形態では、複数の画素は、それぞれ光の三原色である赤色、緑色および青色のうち何れかのカラーフィルタが設けられる。そして画像形成部18は、光源制御部17が求めた差分電荷量と、各画素のカラーフィルタの色と、各画素が蓄積した電荷量を用いて対象領域の画像を形成する。これによってカラー画像とIR画像とを、全ての画素を用いて形成することができるので、高解像度を実現することができる。
【0041】
既存の画像形成装置では、カラー画像とIR画像の双方の映像を扱う際、RGB-IRイメージャを用いることがあるが、RGB-IRイメージャの画素構成として、IR向けのピクセルは全画素の1/4程度であり、IR画像出力の際に画素サイズが1/4になってしまうという課題があった。
【0042】
これに対して本実施形態では、前述したように光源11の点灯制御によって、太陽光の影響を除去、すなわち外乱を除去し、最大解像度でIR画像を出力することができる。光源11のオンオフで、IR画像とカラー画像と交互に出力することで、同一のイメージセンサ14を用いてフル画素サイズのカラー画像とIR画像を出力することができる。換言すると、全画素から赤外波長のみを抽出可能となるので、すべての画素を画像処理に活用可能となり、認識性能の向上することができる。
【0043】
(第2実施形態)
次に、本開示の第2実施形態に関して説明する。本実施形態時では、光源11の発光シーケンスが前述の第1実施形態と異なり、発光シーケンスを変更することで、太陽光と光源11の照明強度の差分を吸収する点に特徴を有する。
【0044】
光源制御部17は、1フレームにおけるオン状態を複数回にわたって点灯し、1フレームにおけるオフ状態を複数回にわたって消灯する。1フレームは、所定の制御期間に相当する。
【0045】
画像形成部18は、光源制御部17と同期して、各フレームにおける画素の電荷量を取得する。そして、オン状態のオン回数、すなわちフレーム数における総電荷量と、オフ状態のオフ回数、すなわちフレーム数における総電荷量との差を求め、その差がゼロに近くなるように、オン回数とオフ回数とを調節する。
【0046】
具体的には、光源11ON時のフレームをn回取得、また光源11OFF時のフレームをm回取得し、次式(1)を満たすようにオン回数nとオフ回数mとを調節する。
Eon×n-Eoff×m=0 …(1)
ここで、Eonは、光源11ON時の電荷量であり、Eoffは、光源11OFF時の電荷量である。これによって双方のフレームに生じる光強度の差分をキャンセルすると同時にS/Nを改善することができる。
【0047】
さらに具体的には、光源11ON時の太陽光の明るさと光源11OFF時の太陽光の明るさを比較し、後者が前者の1/2となった場合は、正しく太陽光をキャンセルするため、n=1,m=2とする。これによって太陽光の影響を除去することができる。
【0048】
画像形成部18は、光強度の差分をキャンセルできる回数による、各画素の累積の総電荷量を用いて、カラー画像およびIR画像を形成する。これによってS/Nが改善された画像を形成することができる。
【0049】
(その他の実施形態)
以上、本開示の好ましい実施形態について説明したが、本開示は前述した実施形態に何ら制限されることなく、本開示の主旨を逸脱しない範囲において種々変形して実施することが可能である。
【0050】
前述の実施形態の構造は、あくまで例示であって、本開示の範囲はこれらの記載の範囲に限定されるものではない。本開示の範囲は、特許請求の範囲の記載によって示され、さらに特許請求の範囲の記載と均等の意味及び範囲内での全ての変更を含むものである。
【0051】
前述の第1実施形態では、画像形成装置10は、ドライバステータスモニタに用いられているが、このような用途に限るものではない。画像形成装置10は、カラー画像とIR画像との両方が必要な装置に用いることができ、たとえば防犯カメラに搭載されてもよい。
【0052】
前述の第1実施形態では、光源11は1つであったが、光源11は1つに限るものではない。たとえば光源11は、複数設けられ、各光源11は、赤外光の波長であって、互いに異なる波長帯を有するように構成してもよい。そして光源制御部17は、各光源11のいずれか1つのみが点灯するように点灯状態を制御する。これによって差分電荷量を求めることで、異なる赤外光に起因する電荷量がわかる。したがって複数の差分電荷量を用いて、より外乱の影響を除去することができる。また複数の光源11毎とIR画像を形成することができる。複数の異なるIR画像を形成することができるので、たとえば一方では撮像が困難な環境であっても、他方では撮像できる場合があるので、より画像の使用用途を拡大することができる。
【0053】
前述の第1実施形態において、コントローラ13によって実現されていた機能は、前述のものとは異なるハードウェアおよびソフトウェア、またはこれらの組み合わせによって実現してもよい。コントローラ13は、たとえば他の制御装置と通信し、他の制御装置が処理の一部または全部を実行してもよい。コントローラ13が電子回路によって実現される場合、それは多数の論理回路を含むデジタル回路、またはアナログ回路によって実現することができる。
【0054】
前述の第1実施形態では、画像形成装置10は車両で用いられているが、車両に搭載された状態に限定されるものではなく、少なくとも一部が車両に搭載されていなくてもよい。
【0055】
前述の第1実施形態では、太陽光を一例としているが、太陽光に限るものではない。たとえば室内照明など、可視光を含む環境光であればよい。
【符号の説明】
【0056】
10…画像形成装置 11…光源 12…撮像部 13…コントローラ
14…イメージセンサ 15…レンズ 16…バンドパスフィルタ
17…光源制御部 18…画像形成部