IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本電気株式会社の特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-12-11
(45)【発行日】2023-12-19
(54)【発明の名称】撮像システム、校正方法及びプログラム
(51)【国際特許分類】
   G02B 7/04 20210101AFI20231212BHJP
   G02B 7/08 20210101ALI20231212BHJP
   G02B 7/36 20210101ALI20231212BHJP
   G02B 7/28 20210101ALI20231212BHJP
   G02B 3/12 20060101ALI20231212BHJP
   H04N 23/60 20230101ALI20231212BHJP
   H04N 23/55 20230101ALI20231212BHJP
【FI】
G02B7/04 Z
G02B7/08 C
G02B7/36
G02B7/28 N
G02B3/12
H04N23/60
H04N23/55
【請求項の数】 9
(21)【出願番号】P 2022530403
(86)(22)【出願日】2020-06-09
(86)【国際出願番号】 JP2020022714
(87)【国際公開番号】W WO2021250785
(87)【国際公開日】2021-12-16
【審査請求日】2022-11-29
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100103894
【弁理士】
【氏名又は名称】家入 健
(72)【発明者】
【氏名】荻野 有加
(72)【発明者】
【氏名】塚田 正人
【審査官】越河 勉
(56)【参考文献】
【文献】国際公開第2011/052770(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G02B 7/02-7/16
G02B 7/28-7/40
G02B 3/12
H04N 23/60
H04N 23/55
(57)【特許請求の範囲】
【請求項1】
第1パターンと、前記第1パターンと異なる被写体距離に設けられた第2パターンとのそれぞれを、複数回それぞれ異なる焦点位置で撮像する撮像手段と、
前記撮像手段に対し、前記焦点位置を変更させるための制御値を設定する制御手段と、
前記撮像手段が撮像した前記第1パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択するとともに、前記撮像手段が撮像した前記第2パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択する評価手段と、
前記評価手段が選択した前記第1パターンの画像の撮影及び前記第2パターンの画像の撮影において用いられた前記制御値と、前記第1パターン及び前記第2パターンの被写体距離に基づいて、光学系の焦点位置と制御値の対応関係を取得する取得手段と、
前記撮像手段が前記第1パターン及び前記第2パターンのそれぞれを撮像した場合に、それぞれの撮像画像に基づいて、前記第1パターン及び前記第2パターンの前記撮像手段に対する向きを変更するように報知する報知手段と、
を備える撮像システム。
【請求項2】
前記撮像手段は、被写体を複数枚撮像し、
前記制御手段は、前記撮像手段が撮像した前記複数枚の画像の合焦度の評価値が時系列において正規分布となっているか否かを判定し、
前記制御手段は、前記複数枚の画像の合焦度の評価値が時系列において正規分布となっていない場合に、
前記撮像手段に対し、焦点位置を変更させるための前記制御値を設定することで、前記第1パターンと、前記第1パターンと異なる被写体距離に設けられた前記第2パターンとのそれぞれを、複数回それぞれ異なる焦点位置で撮像させ、
前記評価手段に対し、前記撮像手段が撮像した前記第1パターンの複数の画像の合焦度を評価することで評価値が最大の画像を選択させるとともに、前記撮像手段が撮像した前記第2パターンの複数の画像の合焦度を評価することで評価値が最大の画像を選択させ、
前記取得手段に対し、前記評価手段が選択した前記第1パターンの画像の撮影及び前記第2パターンの画像の撮影において用いられた前記制御値と、前記第1パターン及び前記第2パターンの被写体距離に基づいて、光学系の焦点位置と制御値の対応関係を取得させる、
請求項1に記載の撮像システム。
【請求項3】
前記第1パターンと前記第2パターンは、それぞれ異なるパターンである、
請求項1又は2に記載の撮像システム。
【請求項4】
前記撮像手段は、液体レンズを有し、
前記制御手段は、前記液体レンズの曲率を変化させる電圧を前記制御値として設定する、
請求項1ないし3のいずれか1項に記載の撮像システム。
【請求項5】
前記制御手段は、前記撮像手段が前記第1パターン及び前記第2パターンを撮像したことを検知した場合に、前記撮像手段に、前記第1パターン及び前記第2パターンのそれぞれを、複数回それぞれ異なる焦点位置で撮像することによって、前記取得手段に前記対応関係を取得させるように制御する、
請求項1ないしのいずれか1項に記載の撮像システム。
【請求項6】
前記撮像システムは、前記撮像手段に、前記第1パターン及び前記第2パターンのそれぞれを複数回それぞれ異なる焦点位置で撮像させる前に、撮像を実行する旨を報知する報知手段をさらに備える、
請求項1ないしのいずれか1項に記載の撮像システム。
【請求項7】
前記撮像システムは、前記第1パターン及び前記第2パターンを有する校正機器をさらに備え、
前記校正機器の前記第1パターンと前記第2パターンは、前記撮像手段に対して、それぞれ異なる被写体距離だけ離れている、
請求項1ないし6のいずれか1項に記載の撮像システム。
【請求項8】
第1パターンと、前記第1パターンと異なる被写体距離に設けられた第2パターンとのそれぞれを、撮像手段が複数回それぞれ異なる焦点位置で撮像し、
前記撮像手段に、前記焦点位置を変更させるための制御値を設定し、
前記撮像手段が撮像した前記第1パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択するとともに、前記撮像手段が撮像した前記第2パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択し、
選択された前記第1パターンの画像の撮影及び前記第2パターンの画像の撮影において用いられた前記制御値と、前記第1パターン及び前記第2パターンの被写体距離に基づいて、光学系の焦点位置と制御値の対応関係を取得
前記第1パターン及び前記第2パターンのそれぞれを撮像した場合に、それぞれの撮像画像に基づいて、前記第1パターン及び前記第2パターンの前記撮像手段に対する向きを変更するように報知する、
ことを備える、コンピュータによって実行される校正方法。
【請求項9】
第1パターンと、前記第1パターンと異なる被写体距離に設けられた第2パターンとのそれぞれを、撮像手段が複数回それぞれ異なる焦点位置で撮像し、
前記撮像手段に、前記焦点位置を変更させるための制御値を設定し、
前記撮像手段が撮像した前記第1パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択するとともに、前記撮像手段が撮像した前記第2パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択し、
選択された前記第1パターンの画像の撮影及び前記第2パターンの画像の撮影において用いられた前記制御値と、前記第1パターン及び前記第2パターンの被写体距離に基づいて、光学系の焦点位置と制御値の対応関係を取得
前記第1パターン及び前記第2パターンのそれぞれを撮像した場合に、それぞれの撮像画像に基づいて、前記第1パターン及び前記第2パターンの前記撮像手段に対する向きを変更するように報知する、
ことをコンピュータに実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
この開示は撮像システム、校正方法及びプログラムが格納された非一時的なコンピュータ可読媒体に関する。
【背景技術】
【0002】
産業カメラや小型カメラの分野において、被写体に焦点を合わせる手段として、液体レンズを用いた焦点合わせの技術が用いられている。液体レンズは、与える電圧値によって液滴の曲率が変化するエレクトロウェッティングという技術を用いて焦点変更を行う方式のレンズである。光学系の光軸に取り付けられた液体レンズは、与える電圧値を変更することによってレンズの曲率を変更させ、光学系への入射光線を屈折させることによって像の結像位置を変化させることができる。従って、この液体レンズを、焦点位置が可変な光学系として用いることが可能である。
【0003】
産業用カメラもしくは生体認証等に、この液体レンズを含んだ光学系を用いる場合、光学系が焦点の合った画像を撮像するために、奥行位置の異なる被写体に液体レンズの焦点位置を走査させる必要がある。または、焦点の合った画像を撮像するために、光学系は被写体の奥行情報を計測し、焦点位置を被写体位置に合わせるようにレンズ電圧を変化させる必要がある。
【0004】
特許文献1では、交流電圧が入力される液体レンズシステムが開示されている。このレンズシステムは、入力電圧振幅が正弦波であることによって常に焦点位置が変動しており、駆動信号の正弦波の位相に同期したパルス信号を用いることによって、複数の奥行位置に焦点が合った画像を生成する。そして、特許文献1開示の技術では、ある入力電圧に対する焦点深度(焦点が合う領域)を求めるために、表面の高さが異なる校正ツールを用いる。具体的には、レンズシステムの画像検出部が校正ツールの表面画像を検出し、その表面画像でコントラストが最大となる2位置を検出することで、焦点深度を求める。
【先行技術文献】
【特許文献】
【0005】
【文献】特開2019-203928号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
この開示は、希望の位置に焦点を合わせることが可能な撮像システム、校正方法及びプログラムが格納された非一時的なコンピュータ可読媒体を提供することを課題とする。
【課題を解決するための手段】
【0007】
本実施形態にかかる撮像システムは、第1パターンと、前記第1パターンと異なる被写体距離に設けられた第2パターンとのそれぞれを、複数回それぞれ異なる焦点位置で撮像する撮像手段と、前記撮像手段に対し、前記焦点位置を変更させるための制御値を設定する制御手段と、前記撮像手段が撮像した前記第1パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択するとともに、前記撮像手段が撮像した前記第2パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択する評価手段と、前記評価手段が選択した前記第1パターンの画像の撮影及び前記第2パターンの画像の撮影において用いられた前記制御値と、前記第1パターン及び前記第2パターンの被写体距離に基づいて、光学系の焦点位置と制御値の対応関係を取得する取得手段を備える。
【0008】
本実施形態にかかる校正方法は、第1パターンと、前記第1パターンと異なる被写体距離に設けられた第2パターンとのそれぞれを、撮像手段が複数回それぞれ異なる焦点位置で撮像するステップと、前記撮像手段に、前記焦点位置を変更させるための制御値を設定するステップと、前記撮像手段が撮像した前記第1パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択するとともに、前記撮像手段が撮像した前記第2パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択するステップと、選択された前記第1パターンの画像の撮影及び前記第2パターンの画像の撮影において用いられた前記制御値と、前記第1パターン及び前記第2パターンの被写体距離に基づいて、光学系の焦点位置と制御値の対応関係を取得するステップとを備える。
【0009】
本実施形態にかかる非一時的なコンピュータ可読媒体は、第1パターンと、前記第1パターンと異なる被写体距離に設けられた第2パターンとのそれぞれを、撮像手段が複数回それぞれ異なる焦点位置で撮像するステップと、前記撮像手段に、前記焦点位置を変更させるための制御値を設定するステップと、前記撮像手段が撮像した前記第1パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択するとともに、前記撮像手段が撮像した前記第2パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択するステップと、選択された前記第1パターンの画像の撮影及び前記第2パターンの画像の撮影において用いられた前記制御値と、前記第1パターン及び前記第2パターンの被写体距離に基づいて、光学系の焦点位置と制御値の対応関係を取得するステップとをコンピュータに実行させる校正プログラムが格納されたものである。
【図面の簡単な説明】
【0010】
図1】実施の形態1にかかる撮像システムの模式図である。
図2】実施の形態1にかかる撮像装置のブロック図である。
図3】実施の形態1にかかる屈折力Dと最適電圧値Vとの関係を示したグラフである。
図4】実施の形態1にかかる校正処理を示したフローチャートである。
図5】実施の形態2にかかる撮像システムの模式図である。
図6】実施の形態2にかかる各パターンを示した図である。
図7】実施の形態2にかかる撮像装置の構成を示すブロック図である。
図8】実施の形態2にかかる撮像装置が撮像した画像を示す図である。
図9】実施の形態2にかかる撮像装置が撮像した画像を示す図である。
図10】実施の形態2にかかる撮像装置が撮像した画像を示す図である。
図11】実施の形態2にかかる撮像装置が撮像した画像を示す図である。
図12】実施の形態2にかかるパターンと合焦評価値の関係を示す図である。
図13】実施の形態2にかかるパターンの最適電圧値と合焦評価値の関係を示す図である。
図14】実施の形態2にかかる屈折力Dと最適電圧値Vとの関係を示したグラフである。
図15】実施の形態2にかかる校正処理における撮像処理を示したフローチャートである。
図16】実施の形態2にかかる校正処理におけるパラメータ検出処理を示したフローチャートである。
図17】実施の形態2にかかる校正ボードの変形例を示した正面図である。
図18】実施の形態2にかかる校正ボードの変形例を示した正面図である。
図19】実施の形態2にかかる校正ボードの変形例を示した正面図である。
図20】実施の形態2にかかる撮像装置の表示を示した図である。
図21】実施の形態3にかかるウォークスルー虹彩認証システムの上面図である。
図22】実施の形態3にかかるウォークスルー虹彩認証システムの側面図である。
図23】撮像装置のハードウェア構成の一例を示すブロック図である。
【発明を実施するための形態】
【0011】
実施の形態1
以下、図面を参照してこの開示の実施の形態について説明する。まず、実施の形態1について説明する。
【0012】
図1は、実施の形態1における撮像システムの模式図である。図1は、撮像システム100を上面視したものであり、撮像装置10が、校正機器CB1のパターンP1及びP2をそれぞれ被写体として撮影する状態を示している。校正機器CB1は、パターンP1(第1パターン)と、撮像装置10との被写体距離(光軸方向OAにおける撮像装置10からの距離)がパターンP1と異なるパターンP2(第2パターン)を有する。パターンP1とパターンP2は、異なるパターンであってもよいし、同じパターンであってもよい。
【0013】
図1では、校正機器CB1は、パターンP1とパターンP2との間に、光軸方向OAにおける段差を設けることにより、パターンP1と撮像装置10との被写体距離と、パターンP2と撮像装置10との被写体距離を異なるようにしている。ここで、パターンP1とパターンP2(及びそれらが形成されたボード)は、光軸方向OAに垂直に設けられている。しかしながら、パターンP1と撮像装置10との被写体距離と、パターンP2と撮像装置10との被写体距離を変えるような校正機器CB1の構成は、これに限られない。例えば、パターンP1とパターンP2の少なくともいずれかは、光軸方向OAに垂直に設けられていなくてもよい。パターンは、印刷物や電子的な表示等、任意のパターンを用いることができる。
【0014】
次に、図2を用いて、撮像装置10の構成について説明する。撮像装置10は、撮像部11、制御部12、評価部13及び取得部14を備えており、静止画又は動画の少なくともいずれかの撮像が可能である。
【0015】
撮像部11は、焦点位置を変更可能な光学系を備えており、例えば可変焦点レンズを有する。可変焦点レンズは、レンズの焦点合わせが機械的になされるものであってもよいし、液体レンズでなされるものであってもよい。撮像部11は、校正機器のパターンP1を異なる焦点位置で複数回撮像する。また、撮像部11は、校正機器のパターンP2についても、異なる焦点位置で複数回撮像する。なお、「複数回」とは、2回以上の任意の回数をいう。
【0016】
なお、撮像部11は、1回の撮像で、パターンP1とパターンP2を同時に撮像してもよいし、パターンP1とパターンP2を個別に撮像してもよい。1回の撮像でパターンP1とパターンP2を同時に撮像する場合には、撮像を異なる焦点位置で複数回行うことにより、パターンP1とパターンP2について、異なる焦点位置で撮像された複数枚の画像を取得できる。また、パターンP1とパターンP2を個別に撮像する場合には、パターンP1の撮像回数とパターンP2の撮像回数は同じであってもよいし、異なっていてもよい。
【0017】
制御部12は、撮像部11に対し、焦点位置を変更させるための制御値を設定する。撮像部11は、その制御値に応じて焦点位置を変更して、撮像する。なお、撮像部11が、1回の撮像でパターンP1とパターンP2を同時に撮像する場合には、パターンP1とパターンP2を同じ焦点位置で撮像することになる。制御値は、例えば電圧値、電流値及び周波数といったパラメータであり、そのパラメータが制御部12からの制御信号で変更されることにより、撮像部11の焦点位置が変更されるものである。
【0018】
評価部13は、撮像部11が撮像したパターンP1の複数の画像及びパターンP2の複数の画像について、その合焦度(撮像されたパターンの焦点が合っている度合い)を評価する。撮像パターンの焦点が合っているほど、評価部13は評価値を高く算出する。評価部13は、パターンP1の複数の画像及びパターンP2の複数の画像のそれぞれについて、評価値が最大の画像を選択する。
【0019】
取得部14は、評価部13が選択したパターンP1の画像の撮影及びパターンP2の画像の撮影に際して、制御部12が用いた制御値を取得する。取得部14は、パターンP1及びパターンP2の被写体距離の情報についても取得する。制御値の情報は、画像撮影時に、取得部14又は記憶部(不図示)に格納されている。また、被写体距離の情報は、既知の情報として、取得部14又は記憶部に格納されている。
【0020】
取得部14は、取得したこれらの情報に基づいて、光学系の焦点位置と制御値の対応関係を取得する。取得部14は、パターンP1及びパターンP2に焦点が合った場合の制御値から、焦点位置と制御値の関係を算出することができる。また、パターンP1及びパターンP2について評価値が最大となった画像については、それらのパターンに焦点が合った状態とみなすことができる(換言すれば、評価値が最大となった画像撮影時の合焦位置が、パターンP1又はP2の被写体距離であるとみなすことができる。)。したがって、パターンP1の評価値が最大となった際の制御値は、撮像部11の焦点位置をパターンP1に対応する焦点位置とするための制御値であり、パターンP2の評価値が最大となった際の制御値は、撮像部11の焦点位置をパターンP2に対応する焦点位置とするための制御値であるといえる。以上のようにして、光学系の焦点位置と制御値の対応関係を取得することができる。
【0021】
例えば、液体レンズは、入力電圧Vに対するレンズの屈折力D(焦点距離の逆数1/f、かつここでのfは焦点位置と同値である。)の関係が、実効領域間でほぼ一次線形になり、下記の数式(1)のようになることが知られている。
D=1/f=aV+b ・・・(1)
液体レンズは一般的な固定焦点レンズ等と組み合わせて用いられることが多く、総合的な焦点距離、屈折力は(1)式とは異なるが、液体レンズの屈折力をD、組み合わせたレンズの屈折力をD’とすると、総合的な屈折力はD+D’と近似できる。
従って液体レンズを用いた光学系は、電圧に対して下記の関係となる。
D=aV+b‐D'・・・(2)
D’は固定値であるため、線形パラメータbに統合することが可能である。
従って、希望の位置へ液体レンズの焦点を合わせるためには、入力電圧Vに対する屈折力Dの関係を決定するパラメータa,bを算出することが必要である。
【0022】
物体検出や生体認証等でエレクトロウェッティング方式の液体レンズを用いる場合、常に一つの固定電圧値に対して一か所(又は一平面)のみしか焦点が合わないことを前提に運用することが想定される。そのため、運用の際には、電圧値に対する焦点位置(レンズ系によって、イメージセンサ上で被写体が結像する位置)の対応関係を把握することが必要である。特許文献1に開示された方法は、焦点深度を求めるものではあるが、この対応関係を求めるものではない。
【0023】
例えば、撮像部11において、上述の(2)式に示した入力電圧Vに対するレンズの屈折力D(焦点位置の逆数1/f)の関係があると仮定する。そして、制御値である電圧値V1における屈折力がD1(焦点位置がf1)、電圧値V2における屈折力がD2(焦点位置がf2)であるとする。この場合、光学系の焦点位置(の逆数)と制御値の対応は、図3に示したとおりになる。電圧値V1と屈折力D1、電圧値V2と屈折力D2の組により、取得部14は一次関数LF1を算出する。この一次関数LF1により、任意の焦点位置に合わせた電圧値を、撮像装置10は算出することができる。
【0024】
図4は、撮像装置10が焦点合わせのために実行する校正処理を示したフローチャートである。まず、撮像部11は、校正機器CB1のパターンP1と、パターンP2とのそれぞれを、複数回それぞれ異なる焦点位置で撮像する(ステップS11)。撮影の際に、制御部12は、撮像部11に対し、焦点位置を変更させるための制御値を設定する。
【0025】
次に、評価部13は、撮像部11が撮像したパターンP1の複数の画像の合焦度を評価し、評価値が最大の画像を選択する。また、評価部13は、撮像部11が撮像した第2パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択する(ステップS12)。
【0026】
取得部14は、評価部13が選択したパターンP1の画像の撮影及びパターンP2の画像の撮影において用いられた制御値と、パターンP1及びパターンP2の被写体距離に基づいて、光学系の焦点位置と制御値の対応関係を取得する(ステップS13)。
【0027】
以上のように、光学系の焦点位置と制御値の対応関係を取得することで、撮像装置10は、任意の焦点位置についての制御値を求めることができる。そのため、希望の位置に焦点を合わせることが可能となる。
【0028】
実施の形態2
次に、図面を参照して実施の形態2について説明する。図5は、実施の形態2における撮像システムの模式図である。図5は、撮像システム200を上面視したものであり、レンズ部Lとカメラ本体MBを有する撮像装置20が、校正ボードCB2のパターンP1~パターンP4をそれぞれ被写体として撮影する状態を示している。
【0029】
校正ボードCB2の各パターンは、撮像装置20からの被写体距離が近い順に、パターンP1、パターンP2、パターンP3、パターンP4が設けられている。校正ボードCB2には、段差面が形成され、これらの段差面が撮像装置20の光軸方向OAに対して垂直となるように設置される。そして、各段差の平面上に、撮像装置20で識別可能なパターンP1~パターンP4が形成されている。そのため、撮像装置20は、パターンP1~パターンP4をその正面から撮像できる。また、各パターンが形成された段差面は、水平方向に並べられている。
【0030】
また、パターンP1とパターンP2とは光軸方向OAにr1だけ離れており、パターンP2とパターンP3とは光軸方向OAにr2だけ離れており、パターンP3とパターンP4とは光軸方向OAにr3だけ離れている。なお、パターンP1と撮像装置20のレンズ部Lは、光軸方向OAにr0だけ離れている。これらの被写体距離r0~r3は、撮像装置20が記憶しており、少なくとも撮像装置20が各パターンを撮影する間、固定された値となる。
【0031】
図6は、パターンP1~パターンP4を示した図面である。パターンP1~パターンP4は、それぞれ異なるパターンを有しており、ここでは、「1」~「4」の数字のパターンが記載されている。なお、記載されるパターンとしては、数字以外の文字であってもよいし、AR(Augmented Reality)マーカのようなパターンであってもよい。
【0032】
次に、図7を用いて、撮像装置20の構成について説明する。撮像装置20は、画像撮像部21、制御部22、記録部23、パターン検出部24、合焦評価部25、合焦画像抽出部26及びパラメータ推定部27を備える。
【0033】
画像撮像部21は、図5に示したレンズ部Lを構成する部分であり、可変焦点レンズとしての液体レンズを有する単一の撮像部である。画像撮像部21は、制御部22から出力された電圧値Vの制御信号に基づいて、液体レンズの焦点位置を制御する。電圧値Vが変更することに応じて、液体レンズの屈折力が変化することで、光学系の焦点位置が変更される。画像撮像部21は、撮像した画像IMを記録部23に出力する。後述のとおり、画像撮像部21は、それぞれ異なる焦点位置で複数回撮像した画像IM及びその画像番号を、記録部23に出力する。
【0034】
制御部22は、電圧値Vの制御信号を画像撮像部21の液体レンズに出力することにより、液体レンズの曲率を変化させて、屈折力を制御する。また、制御部22は、電圧値Vの制御信号を記録部23にも出力する。さらに、制御部22は、撮像装置20の他の各部を制御し、撮像に係る処理を実行させる。
【0035】
記録部23は、画像撮像部21が撮影した画像IM及び画像番号と、その画像撮像時に制御部22が出力した電圧値Vの制御信号(すなわち、光学系の焦点位置を示す信号)を紐付けて記録する。記録部23は、画像IM及び画像番号のデータをパターン検出部24に出力する。また、記録部23は、パラメータ推定部27からの要求に応じて、電圧値Vの情報をパラメータ推定部27に出力する。
【0036】
パターン検出部24は、得られた複数の画像一枚一枚に対して、校正ボードCB2上のパターンを検出する。パターンP1~パターンP4は、パターンを識別するID及び各パターンの被写体距離(奥行情報)に紐づけられて、既知のパターンとして図示しない撮像装置20の記憶部に格納されている。パターン検出部24は各画像について、格納されたパターンを用いて、撮影された全てのパターンを検出する。パターン検出方法は、公知の技術(例えばテンプレートマッチング)を用いることができる。パターン検出部24は、検出したパターンPのデータと、パターンが検出された画像番号と、パターンを識別するIDを紐付けて、合焦評価部25に出力する。
【0037】
なお、パターン検出部24は、撮像されたパターン画像の焦点が完全に合っていない状態であっても、撮像した対象が静止している場合、パターンを検出することが可能である。また、焦点位置を変化させても、撮影の画角(カメラで撮影した際、実際に写る範囲を角度で表したもの)は変化しない。そのため、画像撮像部21が撮像した画像中における各パターンの位置は変化しない。このことを利用して、あらかじめ画像上で各パターンに対応する領域を指定することで、画像上のパターンを検出してもよい。
【0038】
合焦評価部25は、パターン検出部24によって検出されたパターンPの領域内を合焦評価して、撮像されたパターンの焦点が合っている度合いを合焦評価値として計算する。合焦評価部25は、画像間のコントラスト差や、各画像の高周波成分を見ることによって、合焦評価値を評価してもよい。合焦評価部25は、算出した合焦評価値と、算出対象となったパターンが検出された画像番号と、パターンを識別するIDを紐付けて、合焦画像抽出部26に出力する。
【0039】
合焦画像抽出部26は、各パターンPで最も合焦評価値の高い画像番号を選択する。これにより、合焦画像抽出部は、各パターンPについて、それぞれ異なる焦点位置で撮像された複数の画像の中から、合焦評価値が最も高い(すなわち、最も焦点が合っている)一の画像を選択する。このようにして、合焦画像抽出部26は、各パターンと、合焦評価値が最も高い画像番号の組を抽出する。合焦画像抽出部26は、抽出したパターンIDと画像番号Nの情報をパラメータ推定部27に出力する。
【0040】
パラメータ推定部27は、合焦画像抽出部26から、パターンIDと画像番号Nの情報を取得する。パラメータ推定部27は、取得したパターンIDに基づいて、撮像装置20の記憶部(不図示)から、取得したパターンIDに紐づけられた被写体距離の情報を取得する。
【0041】
図5に示したとおり、パターンP1と撮像装置20との被写体距離はr0である。また、パターンP2と撮像装置20との被写体距離は(r0+r1)であり、パターンP3と撮像装置20との被写体距離は(r0+r1+r2)であり、パターンP4と撮像装置20との被写体距離は(r0+r1+r2+r3)である。これらの被写体距離は、各パターンの焦点位置と置き換えることができる。
【0042】
撮像装置20は、これらの被写体距離及びパラメータを記憶部(不図示)に記憶する。なお、撮像装置20は、被写体距離r0~r3の全てを記憶部に記憶していてもよいが、被写体距離r0~r3のうち2つ以上を記憶し、他は記憶していなくてもよい。異なるパターンを4パターン検出することにより、後述の焦点位置fの逆数とパラメータa,bとの関係を4組得ることができる。そのため、例えば被写体距離r0を記憶していなくても、撮像装置20は、パラメータa,b及び被写体距離r0(又は、被写体距離r0に対応する焦点位置)を求めることができる。
【0043】
また、パラメータ推定部27は、取得した画像番号Nの画像を撮像した際の電圧値Vの情報を出力するよう、記録部23に要求する。上述のとおり、要求に応じて、記録部23は電圧値Vの情報をパラメータ推定部27に出力する。
【0044】
パラメータ推定部27は、以上のようにして取得した画像番号Nに対する電圧値Vと、各パターンの焦点位置fの情報に基づいて、線形パラメータを推定する。線形パラメータは、例えば線形回帰法を用いて、推定することができる。
【0045】
次に、図8~11を用いて、撮像装置20の撮像した画像の例について説明する。図8~11は、画像撮像部21が光学系の焦点位置が変更された状態でそれぞれ撮像した複数枚の画像(画像群)を示すものである。なお、図8~11では、各パターンの焦点が合って明確に撮像されているほど、パターンを大きく表示し、各パターンの焦点が合わずにぼやけて撮像されているほど、パターンを小さく表示している。
【0046】
図8に示された画像Ipでは、パターンP4の焦点が合って撮像され、パターンP3、パターンP2となるに従い、焦点が合わない、ぼけた状態で撮像される。そして、パターンP1は焦点が最も合わない状態で撮像されている。図9に示された画像Inでは、パターンP3の焦点が合って撮像され、パターンP2、パターンP4は焦点がやや合わない状態で撮像されており、パターンP1は焦点が最も合わない状態で撮像されている。図10に示された画像Imでは、パターンP2の焦点が合って撮像され、パターンP1、パターンP3は焦点がやや合わない状態で撮像されており、パターンP4は焦点が最も合わない状態で撮像されている。図11に示された画像Ikでは、パターンP1の焦点が合って撮像され、パターンP2、パターンP3となるに従い、焦点が合わなくなった状態で撮像される。そして、パターンP4は焦点が最も合わない状態で撮像されている。
【0047】
画像Ip、In、Im及びIkは、それぞれ電圧値Vp、Vn、Vm及びVkの制御信号を用いて撮像されたものであり、画像Ipと電圧値Vp、画像Inと電圧値Vn、画像Imと電圧値Vm及び画像Ikと電圧値Vkは、それぞれ紐付けられて記録部23に記録される。電圧値は、Vp、Vn、Vm、Vkの順に、それぞれΔV(>0)だけ増大している。ここから、制御信号の電圧値を上昇させるほど、被写体距離が長い(すなわち、奥側の)パターンに焦点が合っていることが分かる。
【0048】
図12は、図9~11で示された画像群In~Ikにおいて、それぞれのフレームで検出されたパターンP2と、合焦評価値の関係を示す説明図である。図12下部のグラフは、同一パターンであるパターンP2について、電圧値VをVn、Vm、Vkと順番に上昇させた場合の取得画像順に合焦評価を行ったものである。このグラフで示されるとおり、合焦評価値の分布は、最も焦点が合って撮像された画像Im(電圧Vm)をピークとした山型の構造となる。したがって、図12からは、パターンP2の被写体距離に対応する電圧値がVmであることがわかる。このような電圧値を、以後、最適電圧値と記載する。合焦画像抽出部26は、この電圧値Vmに対応する画像Imを選択する。
【0049】
図13は、取得した各パターンの最適電圧値と合焦評価値の関係を示したグラフである。各パターンの被写体距離に応じて、最も焦点が合った状態で撮像された画像(及び最適電圧値)は異なる。また、最適電圧値の前後の電圧値においても、パターン検出部24においてパターンの検出自体はなされる。そのため、各パターンの評価値は、それぞれ山なりにプロットされる。図13に示されるとおり、パターンP1における山の頂点となるのが最適電圧値Vk、パターンP2における山の頂点となるのが最適電圧値Vm、パターンP3における山の頂点となるのが最適電圧値Vn、パターンP4における山の頂点となるのが最適電圧値Vpとなる。
【0050】
図14は、取得した各パターンについて、焦点位置fの逆数である屈折力Dと最適電圧値Vとの関係を示したグラフである。上述の(1)式に示したように、屈折力Dと電圧値Vは一次線形の関係がある。そのため、パラメータ推定部27は、求めたパターンの焦点位置fの逆数と、電圧値の対応を線形フィッティングして、一次関数LF2を求める。この一次関数LF2を用いて、容易にパラメータa,bを推定することが可能である。これにより、撮像装置20は、所定の位置へ液体レンズの焦点を合わせることが可能である。
【0051】
次に、図15、16を参照して、撮像装置20が焦点合わせのために実行する校正処理について説明する。図15は、校正処理における撮像処理を示したフローチャートである。
【0052】
まず、制御部22は、撮像のために、画像撮像部21に出力する電圧値Vを設定する(ステップS21)。電圧値Vは、撮像スタート時は初期値V0に設定され、画像を繰り返して撮像する時は、直前の値から一定値ΔVだけ増加された値に設定される。この電圧値Vの設定により、液体レンズの焦点位置が設定される。
【0053】
次に、画像撮像部21は、パターンP1~P4が全て撮像された画像IMを一枚撮像する(ステップS22)。画像一枚の撮像が終了した後、記録部23は、画像撮像部21が撮像した画像と、撮像時の電圧Vを記録する(ステップS23)。
【0054】
撮像装置20は、現在の電圧値Vが所定の値Vnを超えているか否かを判定する(ステップS24)。電圧値Vが所定の値Vnを超えていない場合には(ステップS24のNo)、撮像装置20は、ステップS21に戻り、電圧値をV+ΔVと設定して、画像IMを撮像する。
【0055】
電圧値Vが所定の値Vnを超えている場合には(ステップS24のYes)、撮像装置20は、撮像を終了する。この時点で、撮像装置20は、焦点位置が一枚毎に連続的に変化した、一連の画像群を取得した状態になる。なお、ΔVは、例えばV0とVnとの差分を任意の自然数で分割することで得られた値であり、ΔVが小さい値になるほど、ステップS21~S24で撮像される撮像枚数(サンプル数)は多くなる。
【0056】
図16は、校正処理におけるパラメータ検出処理を示したフローチャートである。まず、パターン検出部24は、取得した一連の画像群における一枚の画像において、パターンP1~P4を検出する(ステップS31)。
【0057】
ステップS31において、対象となる画像中、パターンP1~P4の少なくともいずれかが検出された場合には(ステップS31のYes)、パターン検出部24は、検出された全てのパターンを合焦評価部25に出力する。合焦評価部25は、検出された全てのパターンについて、合焦評価を行い、合焦評価値Fを算出する(ステップS32)。合焦評価部25は、算出した合焦評価値と、算出対象となったパターンが検出された画像番号と、パターンを識別するIDを紐付けて、合焦画像抽出部26に出力する。
【0058】
合焦評価終了後、パターン検出部24は、一連の画像群における全ての画像について、パターンの検出処理が完了したか否かを判定する(ステップS33)。パターン検出部24は、ステップS31において、対象となる画像中、パターンP1~P4のいずれも検出されかった場合にも(ステップS32のNo)、ステップS33に係る判定処理を行う。
【0059】
ステップS33において、パターンの検出処理がされていない画像があると判定された場合には(ステップS33のNo)、パターン検出部24は、パターンの検出が未処理な画像を選択し、ステップS31に戻って処理を行う。
【0060】
ステップS33において、全ての画像についてパターンの検出処理がされたと判定された場合には(ステップS33のYes)、合焦画像抽出部26は、パターンP1~P4のそれぞれにおいて、最も合焦評価値の高い画像番号を選択する(ステップS34)。ここで、各パターンについて最も合焦評価値の高い画像は、撮像時の焦点位置が、各パターンの焦点位置又はその近傍にあると判断できる。合焦画像抽出部26は、各パターンのパターンIDを取得した後、抽出したパターンIDと画像番号Nの情報を、パラメータ推定部27に出力する。
【0061】
パラメータ推定部27は、取得したパターンIDに基づいて、撮像装置20の記憶部(不図示)から、取得したパターンIDに紐づけられた被写体距離の情報を取得する。そして、パラメータ推定部27は、各パターンIDの焦点位置fを算出する。また、パラメータ推定部27は、画像番号Nの画像を撮像した際の電圧値Vの情報を、記録部23から取得する。ラメータ推定部27は、以上のようにして取得した画像番号Nに対する電圧値Vと、各パターンの焦点位置fの情報に基づき、線形回帰法を用いて、線形パラメータを推定する(ステップS35)。
【0062】
上述のパラメータa,bを決定するためには、少なくとも2つの電圧値Vと焦点位置fの組を取得する必要がある。そのための処理として、上述の開示例のほか、以下の例が考えられる。まず、ユーザが、撮像装置の撮像対象が位置することが想定される、被写体距離が既知であり、かつ異なる二箇所にそれぞれ解像度チャート(校正機器の一例)を配置する。次に、二箇所の解像度チャートについて、電圧値を制御することで撮像装置の焦点をそれぞれ合わせた後、サンプルとして撮像する。その後、撮像の際の電圧値を用いることで、パラメータa,bを求めることが可能である。
【0063】
以上の処理では、被写体距離が異なる二箇所に関して、撮像処理とパラメータ検出処理がなされている。しかしながら、パラメータa,bをより正確に(誤差を少なく)推定するためには、サンプル対象となる撮影箇所はより多い方が好ましい。
【0064】
ただし、この場合には、撮像処理とパラメータ検出処理の回数が増加するという課題がある。具体的には、解像度チャートを多数の場所に設ける必要があるため、設置のための時間がかかってしまう。また、各設置場所の解像度チャートに対して焦点を合わせる作業を繰り返す必要がある。特に、複数の液体レンズを用いたカメラシステムの場合では、作業に時間がかかる上、手順が煩雑となってしまう。
【0065】
これに対し、実施の形態2では、校正機器として、各パターンの被写体距離がそれぞれ異なり、かつ固定されている校正ボードCB2を用いている。そして、撮像装置20は、1回の撮像で、全てのパターンが撮像できる。したがって、校正処理に際しては校正機器を1回配置するだけで良いため、校正処理の手間を削減することができる。
【0066】
また、被写体距離が異なるパターン毎にパターンを異なるものとすることにより、撮像装置20は、パターンの形状を検出して異なるパターンを認識することで、被写体距離が異なるパターンを容易に判別することができる。そのため、被写体距離が異なるパターン毎の撮像画像を容易に区別できることから、撮像装置20は校正処理を容易に行うことができる。
【0067】
また、実施の形態2では、液体レンズを含む光学系において上述の校正処理がなされている。これにより、光学系の焦点位置を機械的に調節する(例えば、ガラスレンズの焦点位置を、ダイヤルを回すことにより調節する)場合と比較して、校正処理を早くかつ容易に行うことができる。
【0068】
さらに、撮像装置20は、一度の連続撮像で、電圧値Vを一定値ΔVだけ増大させながら撮像処理を行い、各パターンについて、撮像された一連の画像群の中で最も焦点が合っている画像を検出している。そのため、撮像装置が自動で、又はユーザが手動で、撮像装置の焦点をパターン毎に合わせる作業を繰り返す必要がなく、校正処理にかかる時間を削減することができる。このように、液体レンズを用いた焦点位置が可変の光学系に対して、入力信号と焦点位置との対応関係を、迅速かつ簡易に取得することができる。それにより、希望の位置に撮像装置の焦点を合わせることが可能となる。
【0069】
撮像装置20は、例えば虹彩撮像装置に適用することができる。虹彩撮像装置で虹彩認証を行う際には、微細な虹彩パターンを撮像する必要があるため、撮像の被写界深度(合焦範囲)が狭い。例えば、撮像装置20が静止した虹彩を撮像する場合、撮像装置20から50cm~70cm離れた場所を被写界深度とすることにより、正確な虹彩の認証が可能となる。その場合、液体レンズに用いられる電圧値が制限された範囲内で適宜変更された上で、撮像の走査がなされる。
【0070】
液体レンズに用いられる電圧値が制限された範囲内で変更されるため、式(1)に示したパラメータa,bは、液体レンズの設置位置、温度又は個体差等の事情により、変化し易い。このため、適時、レンズの焦点調節が必要である。この焦点調節を、上述の実施の形態2に記載された方法で実現することができる。焦点調節後、撮像装置20は、液体レンズを用いて、所定の範囲の合焦位置を走査させることにより、焦点が合った虹彩を確実に撮像することができる。
【0071】
なお、以上に説明した実施の形態2においては、一例として以下の変更が可能である。図15のステップS21において、電圧値Vは、撮像スタート時は初期値V0に設定され、画像を繰り返して撮像する時は、直前の値から一定値ΔVだけ減少された値に設定されてもよい。この場合、ステップS24において、電圧値Vが所定の閾値未満になったら、撮像装置20は撮像を停止する。
【0072】
撮像に用いるパターンは、4種類に限られず、3種類又は5種類以上のパターンであってもよい。また、被写体距離に関して隣同士のパターンの距離(r1、r2及びr3)は、全て異なる値であってもよいし、少なくともいずれか2つが同じ値を有していてもよい。さらに、連続撮像の際に用いる電圧値ΔVは、ΔVがN倍(自然数倍)変化することにより、合焦位置がr1、r2及びr3の少なくともいずれかだけ変化するようなものであってもよい。例えば、撮像距離がr0のパターンP1において焦点が合う電圧値をV1とし、電圧値をV1+2ΔVとした場合に、撮像距離が(r0+r1)のパターンP2において焦点が合う状態とすることができる。このように電圧値を変化させることで、複数のパターンにおいて、合焦位置を正確に合わせた画像を撮像しやすくすることができるため、より正確に入力信号と焦点位置との対応関係を取得することができる。
【0073】
実施の形態3
上述の(2)式に示したとおり、液体レンズにおいては、屈折力Dと電圧値Vとが一線形の関係となる。そのため、物体検出や生体認証等で撮像装置に液体レンズを用いる場合、撮像装置は、屈折力Dが被写体の位置に適した値となるように、あらかじめ設定されたパラメータa,bを用いて電圧値Vを変更する。しかしながら、撮像環境の変化により、撮像時における実際のパラメータa,bが、あらかじめ設定されたパラメータa,bからずれることが頻繁に発生する。
【0074】
例えば、パラメータa,bは、周囲の温度変化や、個体差、液体レンズ装着時のずれ等によって変化する。「液体レンズ装着時のずれ」とは、例えば小型カメラ等によく用いられるSマウントレンズにおいて、液体レンズを組み込んだレンズをねじ式に装着する場合にねじを回す回数によってセンサ面とレンズ位置がずれる、微細なずれを指す。これ以外にも、液体レンズの追加による光学系の変化によって、パラメータa,bが変化することが想定される。
【0075】
したがって、撮像装置は、パラメータa,bを適当なタイミングで取得し直す校正処理をする必要がある。特に複数のカメラを用いるカメラシステムにおいては、複数の液体レンズに対してパラメータを求める必要があり、校正処理がより煩雑となる。
【0076】
撮像装置は、このような校正処理として、実施の形態2に記載された処理を行うことによって、正確なパラメータa,bを取得し直すことができる。
【0077】
実施の形態4
実施の形態2において、校正ボードCB2は、各パターンが形成された段差面が水平方向に並べられる構造を有していた。しかしながら、撮像装置20が校正ボードCB2を撮像する際に、画像撮像部21のレンズの結像点が光軸から離れるほど変化する(収差が生じる)可能性がある。このため、正面図である図17に示すように、校正ボードCB2の段差面を、撮像装置20側から見た際に円形に形成してもよい。この校正ボードCB2は、上面視において、らせん階段状に奥行が異なる形状を有する。また、校正ボードCB2の円の中心は、画像撮像部21と略正面に相対するように設けられ、各パターンが形成された段差面は、校正ボードCB2の円の中心から放射状に形成される。
【0078】
また、校正ボードCB2は、正面図である図18に示すように、四角形の角と中心を結ぶ線でパターン領域が分割されるものであってもよい。さらに、正面図である図19に示すように、四角形の中心と辺の中点とを結ぶ線でパターン領域が分割されているものであってもよい。なお、校正ボードCB2は、正面視において、四角形でなく、任意の多角形であってもよい。これらの校正ボードCB2は、上面視において、らせん階段状に奥行が異なる形状を有する。このような、各パターンの奥行が段々変化するボードにより、異なる距離のキャリブレーションを一度に行うことができる(すなわち、キャリブレーションに際して、いちいちボードの位置を変えなくてもよい。)。
【0079】
実施の形態5
実施の形態2では、撮像装置20が、画像撮像部21を1つのみ有する構成を説明した。しかしながら、撮像装置20は、画像撮像部21を複数有するマルチカメラシステムを構成していてもよい。この場合、複数の画像撮像部21の画角がほとんど重ならないように設定し、各画像撮像部21の画角範囲内に複数の異なるパターンを有する校正ボードを配置することによって、全ての画角において奥行位置が既知の異なるパターンを撮像することが可能である。各画像撮像部21に関してなされる校正処理は、実施の形態2に詳述したものと同じであるため、説明を省略する。
【0080】
また、マルチカメラシステムにて、実施の形態2と同様に、各々の画像撮像部21から校正ボードを撮影し、検出できたパターンに係る焦点位置と最適電圧値を用いて、パラメータを推定することも可能である。
【0081】
撮像装置20は、静止した被写体向けのマルチカメラ認証システムに適用してもよいし、動的な被写体向けのマルチカメラ認証システムに適用してもよい。認証システムは、複数の撮像部により、虹彩、顔の輪郭、指紋、静脈、手形又は歩行動作といった生体を撮像対象とすることができる。複数の撮像部は、全て可視光の撮像部であってもよいし、赤外線(例えば近赤外線)の撮像部が設けられてもよい。赤外線の撮像部が設けられる場合、撮像する各パターンは、赤外線撮像された際に異なるパターンであると検出できるものになる。
【0082】
実施の形態6
以降の実施の形態では、校正ボードで校正を行うタイミングやその際の報知についてさらに検討する。実施の形態6では、撮像システム200が、空港のゲートや各種建物の入口に、ウォークスルー虹彩認証システムとして設けられる場合を想定する。撮像装置20は、撮像装置20に向かって歩いてくる人の虹彩を検出することで、人が通行の許可対象となっているか否かを判定する。
【0083】
ここで、認証システムを設置後、所定のタイミングにおいて、撮像装置20がその管理者に対し、撮像装置20の校正処理を促す。所定のタイミングとは、例えば以下のタイミングが挙げられる。
【0084】
撮像装置20は、一試行の撮像で撮像対象となる人Hを複数枚撮像し、撮像した画像の合焦評価値Fを算出する。詳細には、画像撮像部21が人Hを複数枚撮像し、記録部23がその画像を記録する。パターン検出部24は、記録部23から複数枚の画像を取得し、複数枚の画像中に、検出対象となる虹彩のパターンが含まれるか否かを判定する。パターン検出部24は、虹彩のパターンが含まれた全ての画像を、合焦評価部25に出力する。合焦評価部25は、取得した画像中における全ての虹彩のパターンにつき、合焦評価値を算出する。
【0085】
算出された複数の合焦評価値のうち、少なくとも1つが基準値以上であった場合には、撮像装置20は、撮像装置20の校正処理をする必要はないと判定する。しかしながら、算出された複数の合焦評価値が全て基準値に満たなかった試行がN回(Nは1以上の任意の整数)生じた場合に、撮像装置20は、その合焦位置(焦点位置)が適当でなく、撮像装置20の校正処理をする必要があると判定する。この場合、制御部22は、撮像装置20の各部を制御して、実施の形態2に記載した校正処理を実行させる。
【0086】
なお、算出された複数の合焦評価値のうち、基準値以上であったものが所定の閾値以下の枚数(例えば、1枚や2枚)であり、そのような試行がN回生じた場合でも、撮像装置20は、同様に校正処理を実行してもよい。
【0087】
さらに、撮像装置20は、N回連続で上述の事象が生じた場合に、撮像装置20の校正処理をする必要があると判定してもよい。または、撮像装置の使用開始時又は前回の校正処理終了時から積算でN回上述の事象が生じた場合に、撮像装置20の校正処理をする必要があると判定してもよい。
【0088】
また、撮像装置20は、被写体となる人Hが、特定の範囲の奥行範囲にしかいないと仮定した上で、次の処理をしてもよい。撮像装置20は、一試行の撮像で人Hを複数枚撮像し、撮像した画像の合焦評価値Fが時系列において正規分布(山なりの分布)となっているか否かを判定する。上述のとおり、人Hは撮像装置20に向かって歩いてくるため、画像撮像部21の合焦位置が、人Hがいると仮定される範囲内にあれば、人Hは歩行中に画像撮像部21の合焦位置を通過することになる。その場合、複数の画像における合焦評価値Fは、人Hが合焦位置又はその近傍にいる際に最大値をとり、その最大値から時間が前又は後になるに従い、合焦評価値Fは正規分布に従って低下することが推測される。
【0089】
したがって、撮像した画像の合焦評価値Fが時系列において正規分布となっている場合、撮像装置20は、撮像装置20の校正処理をする必要はないと判定する。しかしながら、合焦評価値Fが時系列において正規分布となっていない場合、撮像装置20は、その合焦位置が適当でなく、撮像装置20の校正処理をする必要があると判定する。この場合、制御部22は、撮像装置20の各部を制御して、実施の形態2に記載した校正処理を実行させる。
【0090】
実施の形態7
また、撮像装置20は、校正を行う際に、適切な校正用のパターンが撮影されるよう、ユーザに対して撮像の実行を予告する旨を報知することができる。例えば、撮像装置20の校正処理をする必要があると判定した場合に、撮像装置20はその表示部(報知部)に、図20に示した表示をしてもよい。図20の表示部Dでは、校正に用いるパターンが設けられたボード面が、カメラの光軸に対し垂直になるような、校正時のボードの配置図が表示されている。さらに、「ボードを、カメラに対して正面に向けてください。」という文字メッセージも表示部Dに表示されている。これらの表示により、パターンが撮像装置20の正面から撮影されることで、パターンがより正確に検出できるように、ユーザに指示することができる。
【0091】
表示部になされる表示は、図及び文字メッセージのいずれかのみであってもよい。また、スピーカー等の音声による指示も、それ単独、又は図及び文字メッセージの少なくともいずれかと併用されてなされてもよい。
【0092】
実施の形態8
さらに、撮像装置20は、撮像を行った後、ボード上のパターンを検出した際に、撮像画像から少なくとも1つのボード(パターン)の向きを検出して、そのボードが撮像装置20の正面を向いているか否かを判定してもよい。ボードが撮像装置20(特に画像撮像部21)の正面を向いていると判定した場合には、撮像装置20は、実施の形態2に詳述した校正処理を行う。ボードが撮像装置20の正面を向いておらず、斜めを向いている場合には、撮像装置20は、「正面を向けてください」といった指示を出力することができる。さらに、撮像装置20が撮像画像から、ボードの撮像装置20に対する傾き度合いを検出可能な場合には、撮像装置20は、「ボードの右方向を少し傾けてください」等、ボードの傾き度合いに基づいて、ボードを正面に向かせるために具体的な指示を出力してもよい。これらの指示は、音声、図及び文字メッセージの少なくともいずれかによって出力される。なお、検出するボード(パターン)の向きは、1つに限られず、複数であってもよい。また、ボードの傾き度合いの検出は、公知の画像検出技術を用いることができる。
【0093】
実施の形態9
また、撮像装置は、人Hの虹彩の撮像が終わるたびに、校正ボードに設けられたパターンを撮像して、実施の形態2に詳述した校正処理を行ってもよい。このような校正処理を行うものとして、例えば、ウォークスルー虹彩認証システム400を以下に挙げる。図21は、ウォークスルー虹彩認証システム400の上面図であり、図22は、ウォークスルー虹彩認証システム400の人H、校正ボードCB3及びCB4を、撮像装置40側から見た側面図である。ウォークスルー虹彩認証システム400の撮像装置40は、通路AIを歩く人Hの虹彩を検出することで、人Hが許可対象となっているか否かを判定するものである。撮像装置40は、実施の形態2に記載した撮像装置20と同じ構成要素を備える。
【0094】
通路AIの両側には、撮像装置40からの被写体距離が異なり、かつ、それぞれ異なるパターンが設けられた校正ボードCB3及びCB4が配置されている。撮像装置40は、人Hの撮像処理が一試行終了した後、校正ボードCB3及びCB4に設けられたパターンを撮像して、実施の形態2に詳述した校正処理を行う。このようにして、ウォークスルー虹彩認証システム400は、撮像装置40が常に撮影可能な位置に校正ボードを配置することにより、管理者が校正ボードを準備することなく、校正処理を行うことができる。
【0095】
実施の形態10
実施の形態6~9では、撮像装置が校正の必要性を判断することで、校正処理をしていた。しかしながら、撮像装置は、記憶部にボード上のパターンを特定パターンとして記憶しておき、撮像装置が特定パターンを撮像したことを検知したら、自動的に上述の校正処理を開始してもよい。
【0096】
具体的には、撮像システム200において、撮像装置20の画像撮像部21が(校正処理をしていない状態で)通常の撮像をした際に、パターン検出部24が、記録部23から撮像した画像を取得し、その画像中に、特定パターンが2種類以上含まれるか否かを判定する。2種類以上の特定パターンが画像中に含まれないのであれば、撮像装置20は校正処理を実行しない。
【0097】
2種類以上の特定パターンが画像中に含まれるのであれば、撮像装置20は、実施の形態1又は2に記載した校正処理を実行できることになる。そのため、制御部22は装置の各部を制御して、第1の特定パターン及び第2の特定パターンのそれぞれを、複数回それぞれ異なる焦点位置で撮像することによって、上述の校正処理を実行する。この処理により、撮像装置の管理者が校正ボードを用意した場合に、撮像装置はすぐに校正処理をすることができるため、校正処理にかかる時間を削減することができる。
【0098】
実施の形態11
実施の形態6~10では、撮像装置が自動的に校正処理の有無を判断する場合について説明した。しかしながら、撮像装置が運用開始後又は使用開始前に工場に出荷された後に、定期的に人の判断で撮像装置の校正処理がなされてもよい。
【0099】
上述の実施の形態では、この開示をハードウェアの構成として説明したが、この開示は、これに限定されるものではない。この開示は、上述の実施形態において説明された処理(具体的には、図4、15、16のフローチャートに示された校正処理)を、プロセッサにコンピュータプログラムを実行させることにより実現することも可能である。
【0100】
図23は、以上に示した各実施の形態の撮像装置の処理が実行されるコンピュータのハードウェア構成例を示すブロック図である。図23を参照すると、この情報処理装置90は、プロセッサ91及びメモリ92を含む。
【0101】
プロセッサ91は、メモリ92からソフトウェア(コンピュータプログラム)を読み出して実行することで、上述の実施形態において説明された装置の処理を行う。なお、プロセッサ91として、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、FPGA(field-programmable gate array)、DSP(Demand-Side Platform)、ASIC(Application Specific Integrated Circuit)のうち一つを用いてもよいし、複数を並列で用いてもよい。
【0102】
メモリ92は、揮発性メモリ及び不揮発性メモリの組み合わせによって構成される。メモリ92は、プロセッサ91から離れて配置されたストレージを含んでもよい。この場合、プロセッサ91は、図示されていないI/O(Input / Output)インタフェースを介してメモリ92にアクセスしてもよい。
【0103】
図23の例では、メモリ92は、ソフトウェアモジュール群を格納するために使用される。プロセッサ91は、これらのソフトウェアモジュール群をメモリ92から読み出して実行することで、上述の実施形態において説明された処理を行うことができる。
【0104】
以上に説明したように、上述の実施形態における撮像装置が有する1又は複数のプロセッサは、図面を用いて説明されたアルゴリズムをコンピュータに行わせるための命令群を含む1又は複数のプログラムを実行する。この処理により、各実施の形態に記載された処理が実現できる。
【0105】
プログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD-ROM(Read Only Memory)、CD-R、CD-R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(random access memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
【0106】
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
第1パターンと、前記第1パターンと異なる被写体距離に設けられた第2パターンとのそれぞれを、複数回それぞれ異なる焦点位置で撮像する撮像手段と、
前記撮像手段に対し、前記焦点位置を変更させるための制御値を設定する制御手段と、
前記撮像手段が撮像した前記第1パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択するとともに、前記撮像手段が撮像した前記第2パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択する評価手段と、
前記評価手段が選択した前記第1パターンの画像の撮影及び前記第2パターンの画像の撮影において用いられた前記制御値と、前記第1パターン及び前記第2パターンの被写体距離に基づいて、光学系の焦点位置と制御値の対応関係を取得する取得手段と、
を備える撮像システム。
(付記2)
前記第1パターンと前記第2パターンは、それぞれ異なるパターンである、
付記1に記載の撮像システム。
(付記3)
前記撮像手段は、液体レンズを有し、
前記制御手段は、前記液体レンズの曲率を変化させる電圧を前記制御信号として出力する、
付記1又は2に記載の撮像システム。
(付記4)
前記撮像手段は、撮像対象を複数回撮像し、
前記評価手段は、前記撮像手段が撮像した前記撮像対象の複数の画像の合焦度を評価し、
前記制御手段は、前記撮像対象の複数の画像の合焦度の評価値に基づいて、校正処理として、前記撮像手段に、前記第1パターン及び前記第2パターンのそれぞれを、複数回それぞれ異なる焦点位置で撮像させ、前記評価手段に、前記第1パターンの複数の画像について前記評価値が最大の画像を選択させるとともに、前記第2パターンの複数の画像について前記評価値が最大の画像を選択させ、前記取得手段に、前記評価手段が選択した前記第1パターンの画像の撮影及び第2パターンの画像の撮影において用いられた前記制御値と、前記第1パターン及び第2パターンの被写体距離に基づいて、光学系の焦点位置と制御値の対応関係を取得させるように制御する、
付記1ないし3のいずれか1項に記載の撮像システム。
(付記5)
前記制御手段は、前記複数の画像の合焦度の評価値が全て所定の閾値以下であった場合に、前記校正処理を前記撮像手段、前記評価手段及び前記取得手段に実行させるように制御する、
付記4に記載の撮像システム。
(付記6)
前記制御手段は、前記複数の画像の合焦度の評価値が、時系列において正規分布となっていない場合に、前記校正処理を前記撮像手段、前記評価手段及び前記取得手段に実行させるように制御する、
付記4又は5に記載の撮像システム。
(付記7)
前記制御手段は、前記撮像手段が前記第1パターン及び前記第2パターンを撮像したことを検知した場合に、前記撮像手段に、前記第1パターン及び前記第2パターンのそれぞれを、複数回それぞれ異なる焦点位置で撮像することによって、前記取得手段に前記対応関係を取得させるように制御する、
請求項1ないし6のいずれか1項に記載の撮像システム。
(付記8)
前記撮像装置は、前記撮像手段に、前記第1パターン及び前記第2パターンのそれぞれを複数回それぞれ異なる焦点位置で撮像させる前に、撮像を予告する旨を報知する報知手段をさらに備える、
付記1ないし7のいずれか1項に記載の撮像システム。
(付記9)
前記撮像装置は、前記撮像手段が前記第1パターン及び前記第2パターンのそれぞれを撮像した場合に、それぞれの撮像画像に基づいて、前記第1パターン及び前記第2パターンの前記撮像手段に対する向きを変更するように報知する報知手段をさらに備える、
付記1ないし8のいずれか1項に記載の撮像システム。
(付記10)
前記撮像装置は、前記撮像手段を複数有し、
前記制御手段は、前記複数の撮像手段に、前記第1パターン及び前記第2パターンのそれぞれを、複数回それぞれ異なる焦点位置で撮像させ、前記評価手段に、前記複数の撮像手段に関して、前記第1パターンの複数の画像について前記評価値が最大の画像を選択させるとともに、前記第2パターンの複数の画像について前記評価値が最大の画像を選択させ、前記取得手段に、前記評価手段が選択した前記第1パターンの画像の撮影及び第2パターンの画像の撮影において用いられた前記制御値と、前記第1パターン及び第2パターンの被写体距離に基づいて、前記複数の撮像手段について、光学系の焦点位置と制御値の対応関係を取得させるように制御する、
付記1ないし9のいずれか1項に記載の撮像システム。
(付記11)
前記システムは、前記第1パターン及び前記第2パターンを有する校正機器をさらに備え、
前記校正機器の前記第1パターンと前記第2パターンは、前記撮像手段に対して、それぞれ異なる被写体距離だけ離れている、
付記1ないし10のいずれか1項に記載の撮像システム。
(付記12)
前記第1パターンは第1ボード上に設けられ、前記第2パターンは、前記第1ボードと段差ができるように配置された第2ボード上に設けられる、
付記1ないし11のいずれか1項に記載の撮像システム。
(付記13)
第1パターンと、前記第1パターンと異なる被写体距離に設けられた第2パターンとのそれぞれを、撮像手段が複数回それぞれ異なる焦点位置で撮像するステップと、
前記撮像手段に、前記焦点位置を変更させるための制御値を設定するステップと、
前記撮像手段が撮像した前記第1パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択するとともに、前記撮像手段が撮像した前記第2パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択するステップと、
選択された前記第1パターンの画像の撮影及び前記第2パターンの画像の撮影において用いられた前記制御値と、前記第1パターン及び前記第2パターンの被写体距離に基づいて、光学系の焦点位置と制御値の対応関係を取得するステップと、
を備える校正方法。
(付記14)
第1パターンと、前記第1パターンと異なる被写体距離に設けられた第2パターンとのそれぞれを、撮像手段が複数回それぞれ異なる焦点位置で撮像するステップと、
前記撮像手段に、前記焦点位置を変更させるための制御値を設定するステップと、
前記撮像手段が撮像した前記第1パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択するとともに、前記撮像手段が撮像した前記第2パターンの複数の画像の合焦度を評価し、評価値が最大の画像を選択するステップと、
選択された前記第1パターンの画像の撮影及び前記第2パターンの画像の撮影において用いられた前記制御値と、前記第1パターン及び前記第2パターンの被写体距離に基づいて、光学系の焦点位置と制御値の対応関係を取得するステップと、
をコンピュータに実行させる校正プログラムが格納された非一時的なコンピュータ可読媒体。
【0107】
以上、実施の形態を参照してこの開示を説明したが、この開示は上記によって限定されるものではない。この開示の構成や詳細には、開示のスコープ内で当業者が理解し得る様々な変更をすることができる。
【符号の説明】
【0108】
10 撮像装置
11 撮像部
12 制御部
13 評価部
14 取得部
20 撮像装置
21 画像撮像部
22 制御部
23 記録部
24 パターン検出部
25 合焦評価部
26 合焦画像抽出部
27 パラメータ推定部
100 撮像システム
200 撮像システム
CB1 校正機器
CB2 校正ボード
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23