(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-11-07
(45)【発行日】2023-11-15
(54)【発明の名称】制御装置、制御方法、コンピュータプログラム及び電子機器
(51)【国際特許分類】
G02B 7/34 20210101AFI20231108BHJP
G03B 13/36 20210101ALI20231108BHJP
H04N 23/54 20230101ALI20231108BHJP
H04N 23/67 20230101ALI20231108BHJP
【FI】
G02B7/34
G03B13/36
H04N23/54
H04N23/67
(21)【出願番号】P 2022127351
(22)【出願日】2022-08-09
(62)【分割の表示】P 2021001683の分割
【原出願日】2016-06-09
【審査請求日】2022-08-09
(31)【優先権主張番号】P 2015151644
(32)【優先日】2015-07-31
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】大坪 慎一
(72)【発明者】
【氏名】赤羽 健
【審査官】登丸 久寿
(56)【参考文献】
【文献】特開2014-228671(JP,A)
【文献】特開平10-142490(JP,A)
【文献】特開2013-029803(JP,A)
【文献】特開2013-160991(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G02B 7/34
G03B 13/36
H04N 23/54
H04N 23/67
(57)【特許請求の範囲】
【請求項1】
被写体検出領域を分割した複数の位相差検出領域
を含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化する算出部と、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、
前記複数の位相差検出領域全体の焦点位置よりも無限遠側または至近側にある前記ヒストグラム化前の前記焦点位置に基づき前記焦点レンズの位置を決定する決定部と、
を備え
、
前記第1の所定条件は、隣接するヒストグラムの単位要素の個数が所定値以上のグループが複数存在することである、
制御装置。
【請求項2】
前記第1の所定条件は、隣接するヒストグラムの単位要素の個数が所定値以上のグループが複数存在し、かつ、当該グループの単位要素の個数が第2の所定条件を満たすことである、
請求項1に記載の制御装置。
【請求項3】
前記第2の所定条件は、単位要素の個数が一番多いグループと次に多いグループの単位要素の個数の和の、全ての単位要素の個数に占める比率が所定値以上である、
請求項
2に記載の制御装置。
【請求項4】
被写体検出領域を分割した複数の位相差検出領域を含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化する算出部と、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、前記複数の位相差検出領域全体の焦点位置よりも無限遠側または至近側にある前記ヒストグラム化前の前記焦点位置に基づき前記焦点レンズの位置を決定する決定部と、
を備え、
前記算出部は、ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置を平滑化し、
前記第1の所定条件は、平滑化したヒストグラムの所定の閾値を超えたピークが複数存在していることである
、
制御装置。
【請求項5】
被写体検出領域を分割した複数の位相差検出領域を含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化する算出部と、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、前記複数の位相差検出領域全体の焦点位置よりも無限遠側または至近側にある前記ヒストグラム化前の前記焦点位置に基づき前記焦点レンズの位置を決定する決定部と、
を備え、
前記算出部は、ヒストグラム化した前記焦点位置を所定の時間加算して平滑化し、
前記第1の所定条件は、平滑化したヒストグラムの所定の閾値を超えたピークが複数存在していることである
、
制御装置。
【請求項6】
被写体検出領域を分割した複数の位相差検出領域
を含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化することと、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、
前記複数の位相差検出領域全体の焦点位置よりも無限遠側または至近側にある前記ヒストグラム化前の前記焦点位置に基づき前記焦点レンズの位置を決定することと、
を含む、
制御方法
であって、
前記第1の所定条件は、隣接するヒストグラムの単位要素の個数が所定値以上のグループが複数存在することである、
制御方法。
【請求項7】
コンピュータに、
被写体検出領域を分割した複数の位相差検出領域
を含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化することと、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、
前記複数の位相差検出領域全体の焦点位置よりも無限遠側または至近側にある前記ヒストグラム化前の前記焦点位置に基づき前記焦点レンズの位置を決定することと、
を実行させる、
コンピュータプログラム
であって、
前記第1の所定条件は、隣接するヒストグラムの単位要素の個数が所定値以上のグループが複数存在することである、
コンピュータプログラム。
【請求項8】
光を集光する撮像光学系と、
前記撮像光学系からの光を受光し、画像を撮像する撮像素子と、
前記撮像素子が出力する信号を処理する信号処理部と
を備え、
前記信号処理部は、
被写体検出領域を分割した複数の位相差検出領域
を含む
前記撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化する算出部と、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、
前記複数の位相差検出領域全体の焦点位置よりも無限遠側または至近側にある前記ヒストグラム化前の前記焦点位置に基づき前記焦点レンズの位置を決定する決定部と、
を備え
、
前記第1の所定条件は、隣接するヒストグラムの単位要素の個数が所定値以上のグループが複数存在することである、
電子機器。
【請求項9】
被写体検出領域を分割した複数の位相差検出領域を含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化することと、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、前記複数の位相差検出領域全体の焦点位置よりも無限遠側または至近側にある前記ヒストグラム化前の前記焦点位置に基づき前記焦点レンズの位置を決定することと、
を含む、
制御方法であって、
前記算出では、ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置を平滑化し、
前記第1の所定条件は、平滑化したヒストグラムの所定の閾値を超えたピークが複数存在していることである、
制御方法。
【請求項10】
コンピュータに、
被写体検出領域を分割した複数の位相差検出領域を含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化することと、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、前記複数の位相差検出領域全体の焦点位置よりも無限遠側または至近側にある前記ヒストグラム化前の前記焦点位置に基づき前記焦点レンズの位置を決定することと、
を実行させる、
コンピュータプログラムであって、
前記算出では、ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置を平滑化し、
前記第1の所定条件は、平滑化したヒストグラムの所定の閾値を超えたピークが複数存在していることである、
コンピュータプログラム。
【請求項11】
光を集光する撮像光学系と、
前記撮像光学系からの光を受光し、画像を撮像する撮像素子と、
前記撮像素子が出力する信号を処理する信号処理部と
を備え、
前記信号処理部は、
被写体検出領域を分割した複数の位相差検出領域を含む前記撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化する算出部と、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、前記複数の位相差検出領域全体の焦点位置よりも無限遠側または至近側にある前記ヒストグラム化前の前記焦点位置に基づき前記焦点レンズの位置を決定する決定部と、
を備え、
前記算出部は、ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置を平滑化し、
前記第1の所定条件は、平滑化したヒストグラムの所定の閾値を超えたピークが複数存在していることである、
電子機器。
【請求項12】
被写体検出領域を分割した複数の位相差検出領域を含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化することと、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、前記複数の位相差検出領域全体の焦点位置よりも無限遠側または至近側にある前記ヒストグラム化前の前記焦点位置に基づき前記焦点レンズの位置を決定することと、
を含む、
制御方法であって、
前記算出では、ヒストグラム化した前記焦点位置を所定の時間加算して平滑化し、
前記第1の所定条件は、平滑化したヒストグラムの所定の閾値を超えたピークが複数存在していることである、
制御方法。
【請求項13】
コンピュータに、
被写体検出領域を分割した複数の位相差検出領域を含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化することと、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、前記複数の位相差検出領域全体の焦点位置よりも無限遠側または至近側にある前記ヒストグラム化前の前記焦点位置に基づき前記焦点レンズの位置を決定することと、
を実行させる、
コンピュータプログラムであって、
前記算出では、ヒストグラム化した前記焦点位置を所定の時間加算して平滑化し、
前記第1の所定条件は、平滑化したヒストグラムの所定の閾値を超えたピークが複数存在していることである、
コンピュータプログラム。
【請求項14】
光を集光する撮像光学系と、
前記撮像光学系からの光を受光し、画像を撮像する撮像素子と、
前記撮像素子が出力する信号を処理する信号処理部と
を備え、
前記信号処理部は、
被写体検出領域を分割した複数の位相差検出領域を含む前記撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化する算出部と、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、前記複数の位相差検出領域全体の焦点位置よりも無限遠側または至近側にある前記ヒストグラム化前の前記焦点位置に基づき前記焦点レンズの位置を決定する決定部と、
を備え、
前記算出部は、ヒストグラム化した前記焦点位置を所定の時間加算して平滑化し、
前記第1の所定条件は、平滑化したヒストグラムの所定の閾値を超えたピークが複数存在していることである、
電子機器。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、制御装置、制御方法、コンピュータプログラム及び電子機器に関する。
【背景技術】
【0002】
近年、撮像装置において、位相差検出用の画素を撮像素子に埋め込むことにより、被写体に高速にフォーカスを合わせるAF(Auto Focus)を実現する手法が普及してきている。このようなAFは、位相差検出方式によるAFと呼ばれている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかし、被写体像の位相差を検出する領域に撮像装置から近い被写体と遠い被写体とが同時に存在していると、位相差検出方式によるAFでは原理的にどちらの被写体にもフォーカスを合わせることができなかった。
【0005】
そこで本開示では、被写体像の位相差を検出する領域に撮像装置から近い被写体と遠い被写体とが同時に存在していてもレンズ位置を効果的に決定することが可能な、新規かつ改良された制御装置、制御方法、コンピュータプログラム及び電子機器を提案する。
【課題を解決するための手段】
【0006】
本開示によれば、位相差検出領域を複数含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化する算出部と、ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、無限遠側または至近側にある前記焦点位置に基づき前記焦点レンズの位置を決定する決定部と、を備える、制御装置が提供される。
【0007】
また本開示によれば、位相差検出領域を複数含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化することと、ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、無限遠側または至近側にある前記焦点位置に基づき前記焦点レンズの位置を決定することと、を含む、制御方法が提供される。
【0008】
また本開示によれば、コンピュータに、位相差検出領域を複数含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化することと、ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、無限遠側または至近側にある前記焦点位置に基づき前記焦点レンズの位置を決定することと、を実行させる、コンピュータプログラムが提供される。
【0009】
また本開示によれば、光を集光する撮像光学系と、前記撮像光学系からの光を受光し、画像を撮像する撮像素子と、前記撮像素子が出力する信号を処理する信号処理部とを備え、前記信号処理部は、位相差検出領域を複数含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化する算出部と、ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、無限遠側または至近側にある前記焦点位置に基づき前記焦点レンズの位置を決定する決定部と、を備える、電子機器が提供される。
【発明の効果】
【0010】
以上説明したように本開示によれば、被写体像の位相差を検出する領域に撮像装置から近い被写体と遠い被写体とが同時に存在していてもレンズ位置を効果的に決定することが可能な、新規かつ改良された制御装置、制御方法、コンピュータプログラム及び電子機器を提供することが出来る。
【0011】
なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
【図面の簡単な説明】
【0012】
【
図1】本技術を適用したカメラモジュールの一実施の形態の構成例を示すブロック図である。
【
図2A】撮像光学系11A側から見たイメージセンサ13の構成例を示す平面図である。
【
図2B】本技術のイメージセンサ13を備えた固体撮像装置の基本的な概略構成を示す図である。
【
図5】通常画素52、左遮光画素53L、及び、右遮光画素53Rそれぞれの画素値の系列の例を示す図である。
【
図6】右遮光画素53Rが存在するラインから得られる右遮光系列と、その右遮光画素53Rとペアの左遮光画素53Lが存在するラインから得られる左遮光系列との例を示す図である。
【
図7】コントラストAF(CDAF)、位相差AF(PDAF)、及び、ハイブリッドAFを説明する図である。
【
図8】位相差とデフォーカス量との関係を説明する図である。
【
図10】遠近両方の被写体についてコントラストと位相差とを求めた例をグラフで示す説明図である。
【
図12】メイン処理部14の機能構成例を示す説明図である。
【
図13】レンズ位置決定処理の方法1の概要を示す説明図である。
【
図14】メイン処理部14によるレンズ位置決定処理を説明する流れ図である。
【
図15】レンズ位置決定処理の方法2の概要を示す説明図である。
【
図16】メイン処理部14によるレンズ位置決定処理を説明する流れ図である。
【
図17】レンズ位置決定処理の方法3の概要を示す説明図である。
【
図18】メイン処理部14によるレンズ位置決定処理を説明する流れ図である。
【
図19】メイン処理部14によるレンズ位置決定処理を説明する流れ図である。
【
図20】レンズ位置決定処理の方法5の概要を示す説明図である。
【
図21】メイン処理部14によるレンズ位置決定処理を説明する流れ図である。
【
図22】レンズ位置決定処理の方法6の概要を示す説明図である。
【
図23】メイン処理部14によるレンズ位置決定処理を説明する流れ図である。
【発明を実施するための形態】
【0013】
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【0014】
なお、説明は以下の順序で行うものとする。
1.本開示の実施形態
1.1.構成例
1.2.動作例
2.まとめ
【0015】
<1.本開示の実施形態>
[1.1.カメラモジュールの構成例]
まず、
図1を参照して、本開示の一実施形態に係るカメラモジュールの概略構成について説明する。
【0016】
図1は、本技術を適用したカメラモジュールの一実施の形態の構成例を示すブロック図である。
【0017】
図1において、カメラモジュールは、レンズ鏡筒11、光学フィルタ12、イメージセンサ13、メイン処理部14、照明制御部15、センサ駆動部16、位相差AF処理部17、画像処理部18、フォーカス駆動部19、表示部20、操作部21、フラッシュメモリ22、フォーカスアクチュエータ23、及び、照明部24を有する。
【0018】
なお、
図1において、カメラモジュールは、レンズ鏡筒11と一体的に構成される。但し、カメラモジュールは、レンズ鏡筒11を取り外し可能なように構成することができる。
【0019】
レンズ鏡筒11は、レンズ群や絞り等の撮像光学系11Aを有し、そこに入射する光を、光学フィルタ12を介して、イメージセンサ13上に集光する。
【0020】
なお、撮像光学系11Aのレンズ群のレンズ位置(ひいては焦点位置)は、光軸L方向に移動可能になっており、これにより、フォーカスの調整を行うことができるようになっている。
【0021】
光学フィルタ12は、イメージセンサ13で撮影される撮影画像に生じる偽色やモアレを軽減するための光学素子である。すなわち、光学フィルタ12は、光学的なローパスフィルタであり、撮像光学系11Aからの光の一部の成分を減衰して、イメージセンサ13に出射する。
【0022】
イメージセンサ13は、撮像光学系11Aから、光学フィルタ12を介して入射する光(被写体光)を受光することにより、撮影画像を撮影する撮像素子である。イメージセンサ13としては、例えば、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等を採用することができる。
【0023】
イメージセンサ13は、撮影により得られる撮影画像(の画像信号)を、センサ駆動部16に供給する。
【0024】
メイン処理部14は、カメラモジュールを構成する各ブロックを制御する。
【0025】
メイン処理部14は、CPU(Central Processing Unit)31、メモリ32、ADC(Analog to Digital Converter)33、DAC(Digital to Analog Converter)34、及び、通信I/F(Interface)35を有する。
【0026】
CPU31は、メモリ32に記憶されたプログラムを実行することにより、照明制御部15ないしフラッシュメモリ22等を制御し、AFや、撮影画像の撮影、各種の画像処理、撮影画像の記録等の各種の処理を実行させる。
【0027】
メモリ32は、RAM(Random Access Memory)等の揮発性メモリや、EEPROM(Electrically Erasable Programmable Read Only Memory)等の不揮発性メモリ等で構成され、CPU31が実行するプログラムや、CPU31の動作上必要なデータを記憶する。
【0028】
メモリ32に記憶されるデータとしては、位相差AFのための後述するAFパラメータがある。
【0029】
ADC33は、アナログ信号をディジタル信号にAD変換する。DAC34は、ディジタル信号をアナログ信号にDA変換する。通信I/F35は、インターネット等との間の通信を制御する。
【0030】
照明制御部15は、照明部24を制御し、被写体を照明する光や、AF用のトーチ補助光となる光を発光させる。
【0031】
すなわち、照明制御部15は、イメージセンサ13の撮影動作に同期して、照明部24に、被写体を照明する光となる電子フラッシュを発光(点灯)させる。また、照明制御部15は、AFの動作に同期して、照明部24に、トーチ補助光を発光させる。
【0032】
センサ駆動部16は、イメージセンサ13を制御することにより、撮影画像を撮影させる。また、センサ駆動部16は、イメージセンサ13で撮影された撮影画像の画像信号を、必要に応じて、AD変換して、メイン処理部14や位相差AF処理部17に供給する。
【0033】
位相差AF処理部17は、センサ駆動部16からの撮影画像の画像信号のうちの、後述する検出画素の画素値を用いて、位相差AFにより、撮像光学系11A(のレンズ群)のレンズ位置を移動させるレンズ移動量を算出して、メイン処理部14に供給する。
【0034】
画像処理部18は、イメージセンサ13で撮影され、センサ駆動部16、及び、メイン処理部14を介して供給される撮影画像について、γ変換や、カラー補間、JPEG(Joint Photographic Experts Group)等の所定の圧縮伸張方式による圧縮伸張等の画像処理を行う。また、画像処理部18は、撮影画像のコントラストを表すコントラスト評価値を算出し、メイン処理部14に供給する。メイン処理部14では、画像処理部18からのコントラスト評価値を用いて、コントラストAF(の制御)が行われる。
【0035】
フォーカス駆動部19は、メイン処理部14の制御に従って、フォーカスアクチュエータ23を駆動し、撮像光学系11Aのレンズ位置を、光軸L方向に移動させることで、フォーカス調節を行う。
【0036】
表示部20は、例えば、LCD(Liquid Crystal Display)パネル等で構成され、カメラモジュールの撮影モードに関する情報や、撮影前のプレビュー画像、撮影後の確認用画像、AF時の合焦状態の画像等を表示する。
【0037】
操作部21は、ユーザによって操作されるスイッチ群であり、電源スイッチや、レリーズ(撮影トリガ)スイッチ、ズーム操作スイッチ、撮影モード選択スイッチ等を含む。
【0038】
フラッシュメモリ22は、カメラモジュールに着脱可能になっている。フラッシュメモリ22には、メイン処理部14から供給される撮影画像が記録(記憶)される。
【0039】
フォーカスアクチュエータ23は、フォーカス駆動部19により駆動され、撮像光学系11Aのレンズ位置を、光軸L方向に移動させる。
【0040】
照明部24は、照明制御部15の制御に従って、被写体を照明する光や、AF用のトーチ補助光となる光を発光する。
【0041】
照明部24としては、例えば、キセノン管を用いた閃光照明装置や、連続発光が可能なLED(Light Emitting Diode)を有するLED照明装置等を採用することができる。カメラモジュールが、スマートフォン等の携帯機器に搭載される場合には、照明部24としては、比較的小型のLED照明装置を採用することができる。
【0042】
照明部24は、所定のパターンの溝が形成された投光レンズ(図示せず)を介して、光を、被写界に投光し、暗い被写体や、低コントラストの被写体に対するAFの精度を向上させる。
【0043】
なお、位相差AF処理部17は、イメージセンサ13に含める(内蔵させる)ことができる。
【0044】
また、位相差AF処理部17は、ハードウェアにより実現することもできるし、ソフトウェアにより実現することもできる。位相差AF処理部17を、ソフトウェアによって実現する場合には、そのソフトウェアを構成するプログラムが、例えば、メイン処理部14等のコンピュータにインストールされ、メイン処理部14のCPU31によって実行される。
【0045】
この場合、CPU31がプログラムに従って行う処理は、必ずしも、後述するフローチャートとして記載された順序に沿って時系列に行われる必要はない。すなわち、CPU31がプログラムに従って行う処理は、並列的あるいは個別に実行される処理(例えば、並列処理あるいはオブジェクトによる処理)も含む。
【0046】
ここで、プログラムは、コンピュータとしてのメイン処理部14に内蔵されている記録媒体としてのメモリ32にあらかじめ記録しておくことができる。
【0047】
あるいはまた、プログラムは、リムーバブルな記録媒体である、例えば、フラッシュメモリ22に格納(記録)し、いわゆるパッケージソフトウエアとして提供することができる。
【0048】
なお、プログラムは、フラッシュメモリ22からメイン処理部14にインストールする他、インターネット等の通信網や、地上波等の放送網を介して、メイン処理部14にダウンロードし、内蔵するメモリ32にインストールすることができる。
【0049】
続いてイメージセンサ13の構成例を説明する。
図2Aは、撮像光学系11A側から見たイメージセンサ13の構成例を示す平面図である。
【0050】
イメージセンサ13は、光を受光する受光面50を有し、受光面50は、横×縦がH×V個の画素で構成される。
【0051】
ここで、本実施の形態では、受光面50を、複数の画素からなる画素グループとしての、例えば、矩形のブロックに分割したときの、そのブロックを、画素ブロック51ともいう。
【0052】
図2Aでは、画素ブロック51を構成する一部の画素群として、9×9画素を図示してある。
【0053】
画素には、例えば、オンチップで、ベイヤ配列のR(Red),G(Green)、又は、B(Blue)の(原色)カラーフィルタが形成されている。
【0054】
いま、R,G,Bのカラーフィルタが形成された画素を、それぞれ、R画素、G画素、B画素ということとする。R画素、G画素、B画素は、オンチップのカラーフィルタにより、それぞれ、R,G,Bの光の分光感度を有する。ベイヤ配列では、横×縦が2×2画素を基本単位として、対角の位置に、G画素が配置され、残りの2箇所に、R画素とB画素が配置される。
【0055】
図2Aでは、基本単位としての2×2画素として、例えば、右上に、R画素が、左下に、B画素が、左上及び右下に、G画素が、それぞれ配置されている。
【0056】
ベイヤ配列では、以上のような基本単位が、横及び縦に繰り返し並んでいる。
【0057】
なお、
図2Aでは、基本単位の左上のG画素は、Grと図示してあり、右下のG画素は、Gbと図示してある。
【0058】
受光面50には、位相差AFに用いる位相差を検出するための検出画素53と、検出画素53以外の、位相差の検出には用いられない通常画素(撮影画像となる画像を得る目的の画素)52とが含まれる。
【0059】
検出画素53の詳細については、後述するが、検出画素53では、撮像光学系11Aの射出瞳の異なる領域としての、例えば、右半分又は左半分を通過した光を受光するために、左半分又は右半分が遮光されている。
【0060】
なお、撮影画像については、G画素の画素値から、輝度の主成分が取得される。
【0061】
次に、
図2Bを参照して、本技術のイメージセンサ13を備えた固体撮像装置の基本的な概略構成について説明する。
【0062】
第1の例として、
図2B上段に示される固体撮像装置330は、1つの半導体チップ331内に、画素領域332、制御回路333、上述したセンサ駆動部16や位相差AF処理部17等を含むロジック回路334とを搭載して構成される。
【0063】
第2の例として、
図2B中段に示される固体撮像装置340は、第1の半導体チップ部341と第2の半導体チップ部342とから構成される。第1の半導体チップ部341には、画素領域343と制御回路344が搭載され、第2の半導体チップ部342には、上述したセンサ駆動部16や位相差AF処理部17等を含むロジック回路345が搭載される。そして、第1の半導体チップ部341と第2の半導体チップ部342とが相互に電気的に接続されることで、1つの半導体チップとしての固体撮像装置340が構成される。
【0064】
第3の例として、
図2B下段に示される固体撮像装置350は、第1の半導体チップ部351と第2の半導体チップ部352とから構成される。第1の半導体チップ部351には、画素領域353が搭載され、第2の半導体チップ部352には、制御回路354と、上述したセンサ駆動部16や位相差AF処理部17等を含むロジック回路355が搭載される。そして、第1の半導体チップ部351と第2の半導体チップ部352とが相互に電気的に接続されることで、1つの半導体チップとしての固体撮像装置350が構成される。
【0065】
続いて画素の構成例を説明する。
図3は、通常画素52の構成例を示す図である。
【0066】
図3のAは、受光面50のうちの、通常画素52のみの領域の構成例を示す平面図である。
【0067】
図3のBは、通常画素52を、
図3のAの線分L11に沿って切断した断面を模式的に示す断面図である。
【0068】
通常画素52は、図中、下から、PD(Photo Diode)61、CL(Contact Layer)62、カラーフィルタ63、オンチップレンズ(マイクロレンズ)64が積層された構成になっている。
【0069】
通常画素52では、オンチップレンズ64に入射した光のうちの所定の色成分の光が、カラーフィルタ63を通過し、透明のCL42を介して、PD61に入射する。PD61では、入射光が受光され、光電変換される。PD61での光電変換の結果得られる電気信号が、通常画素52の画素値として出力される。
【0070】
【0071】
図4のAは、受光面50のうちの、検出画素53を含む領域の構成例を示す平面図である。
【0072】
図4では、受光面50のR画素、G画素、B画素のうちの、G画素の一部が、検出画素53になっている。なお、検出画素としては、G画素ではなく、R画素やB画素の一部を採用することができる。
【0073】
検出画素53では、撮像光学系11Aの射出瞳の異なる領域としての、例えば、右半分と左半分のそれぞれを通過した光を受光するために、左半分が遮光された左遮光画素53Lと、右半分が遮光された右遮光画素53Rとがある。
【0074】
撮像光学系11Aの射出瞳を瞳分割して得られる2つの像の位相差を検出するために、左遮光画素53Lと、右遮光画素53Rとは、ペア(対)になっている。
【0075】
図4のBは、検出画素53のうちの左遮光画素53Lを、
図4のAの線分L21に沿って切断した断面を模式的に示す断面図である。
【0076】
図4のCは、検出画素53のうちの右遮光画素53Rを、
図4のAの線分L22に沿って切断した断面を模式的に示す断面図である。
【0077】
なお、
図4の検出画素53において、
図3の通常画素52と同様に構成される部分については、同一の符号を付してあり、以下では、その説明は、適宜省略する。
【0078】
検出画素53は、PD61ないしオンチップレンズ64を有する点で、通常画素52と共通する。但し、検出画素53は、CL62に、遮光膜66が設けられている点で、検出画素53と相違する。
【0079】
検出画素53のうちの左遮光画素53Lでは、
図4のBに示すように、遮光膜66が、左遮光画素53Lの左半分を遮光するように設けられている。これにより、左遮光画素53Lでは、オンチップレンズ64側から見て、オンチップレンズ64の中心から右半分だけが開口している。その結果、左遮光画素53Lでは、撮像光学系11Aの射出瞳の、例えば、右半分を通過した光が受光される。
【0080】
検出画素53のうちの右遮光画素53Rでは、
図4のCに示すように、遮光膜66が、右遮光画素53Rの右半分を遮光するように設けられている。これにより、右遮光画素53Rでは、オンチップレンズ64側から見て、オンチップレンズ64の中心から左半分だけが開口している。その結果、右遮光画素53Rでは、撮像光学系11Aの射出瞳の、例えば、左半分を通過した光が受光される。
【0081】
以上のような左遮光画素53Lと右遮光画素53Rとのペアにより、撮像光学系11Aの射出瞳の、水平方向(横方向)への瞳分割が行われる。
【0082】
なお、検出画素53は、例えば、水平方向に規則的に、受光面50の全体に亘って配置される。検出画素53の数を多くすれば、位相差、ひいては、位相差AFの精度は向上するが、撮影画像の画質が劣化する。そのため、検出画素53の数や配置位置は、位相差AFの精度と、撮影画像の画質とのトレードオフを考慮して決定することができる。
【0083】
また、検出画素53の配置パターンは、一定パターンにすることもできるし、例えば、受光面50の中心部や周辺部といった場所によって、異なるパターンにすることもできる。
【0084】
図5は、通常画素52、左遮光画素53L、及び、右遮光画素53Rそれぞれの画素値の系列の例を示す図である。
【0085】
ここで、ライン(水平ライン)に並ぶ通常画素52の画素値の系列を、通常系列ともいう。また、ラインに並ぶ左遮光画素53Lの画素値の系列を、左遮光系列ともいい、ラインに並ぶ右遮光画素53Rの画素値の系列を、右遮光系列ともいう。
【0086】
図5は、通常画素52と右遮光画素53Rとが混在するラインから得られる通常系列と右遮光系列、及び、その右遮光画素53Rとペアの左遮光画素53Lが存在するラインから得られる左遮光系列を示している。
【0087】
図5において、横軸は、画素の位置を表し、縦軸は、画素値(明るさ)を表す。
【0088】
検出画素53(左遮光画素53L及び右遮光画素53R)によれば、通常系列として現れる被写体像が、左遮光系列として現れる像(以下、左遮光像ともいう)と、右遮光系列として現れる像(以下、右遮光像ともいう)とに分離される。
【0089】
左遮光像と右遮光像との相対的な位置関係を表す位相差を、左遮光像と右遮光像との相関演算を行うこと等によって検出することで、その位相差から、被写体像のフォーカスのずれ量であるデフォーカス量を検出することができる。
【0090】
図6は、右遮光画素53Rが存在するラインから得られる右遮光系列と、その右遮光画素53Rとペアの左遮光画素53Lが存在するラインから得られる左遮光系列との例を示す図である。
【0091】
図6において、横軸は、画素の位置を表し、縦軸は、画素値を表す。
【0092】
図6では、通常画素52であるR画素が存在するラインL31の一部のG画素が、右遮光画素53Rになっている。さらに、
図6では、ラインL31の直後のラインL32の一部のG画素が、左遮光画素53Lになっている。そして、例えば、右遮光画素53Rと、その右遮光画素53Rの左斜め下の左遮光画素53Lとが、(左遮光像と右遮光像との)位相差を検出するためのペアになっている。
【0093】
位相差は、左遮光系列及び右遮光系列を用いて、画素数を単位として求める(検出する)ことができる。
【0094】
被写体像が合焦状態になっているときのデフォーカス量は0であるから、位相差から検出されるデフォーカス量を0にするように、撮像光学系11Aのレンズ位置を移動することで、AFを行うことができる。
【0095】
続いてAF(オートフォーカス)を説明する。
図7は、コントラストAF(CDAF)、位相差AF(PDAF)、及び、ハイブリッドAFを説明する図である。
【0096】
図7において、横軸は、撮像光学系11Aのレンズ位置を表し、縦軸は、コントラスト評価値及び位相差を表す。
【0097】
また、
図7において、横軸の左方向は、Inf(無限遠)方向を表し、右方向は、マクロ(至近)方向を表す。
【0098】
ここで、Inf方向は、遠い位置の被写体にフォーカスが合う方向であり、マクロ方向とは、近い位置の被写体にフォーカスが合う方向である。
【0099】
コントラストAF(CDAF)では、レンズ位置を移動しながら、各レンズ位置において、撮影画像のコントラストを表すコントラスト評価値が求められる。レンズ位置の移動は、コントラスト評価値が上昇するように行われる。
【0100】
コントラスト評価値は、合焦位置で最大になるので、コントラストAFでは、レンズ位置が、合焦位置に近づくように移動されていき、一旦、合焦位置を追い越す。その後、レンズ位置は、少しずつ、合焦位置を再び追い越すように移動され、そのときに得られるコントラスト評価値を用いて、コントラスト評価値が最大になるレンズ位置、すなわち、合焦位置が検出される。そして、レンズ位置が、コントラスト評価値が最大になる位置である合焦位置に移動される。
【0101】
位相差AF(PDAF)では、レンズ位置が合焦位置にあるときに、位相差が0になるとすると、位相差が0になるように、レンズ位置が、いわば直接的に移動される。
【0102】
ハイブリッドAFでは、ますに、位相差AFによって、レンズ位置が合焦位置付近に移動され、その後、コントラストAFによって、レンズ位置が合焦位置に精度良く移動される。
【0103】
続いて、位相差とデフォーカス量を説明する。
図8は、位相差とデフォーカス量との関係を説明する図である。
【0104】
位相差、及び、デフォーカス量は、いずれも、被写体像のフォーカスのずれ量を表すが、AFでは、デフォーカス量は、現在のレンズ位置から合焦位置までが、どれだけ離れているかを表す物理量として用いる。
【0105】
すなわち、AFにおいて、デフォーカス量は、現在のレンズ位置から合焦位置までの距離と方向を表す。
【0106】
【0107】
コントラスト評価値が最大になるレンズ位置を合焦位置として、デフォーカス量は、現在のレンズ位置から合焦位置までの距離と方向を表す。
【0108】
いま、レンズ位置の移動量を、um(マイクロメートル)で表すこととすると、デフォーカス量の単位としては、umを採用することができる。
【0109】
一方、位相差は、被写体像のフォーカスのずれ量を、左遮光像と右遮光像との相対的な位置関係として表し、その単位は、画素数である。
【0110】
図8のBは、位相差とデフォーカス量との関係を示す図である。
【0111】
図8のBにおいて、横軸は、位相差を表し、縦軸は、デフォーカス量を表す。
【0112】
位相差とデフォーカス量とは、理想的には、
図8のBに示すように、線形の関係を有し、したがって、位相差とデフォーカス量とについては、一方から他方を求めることができる。
【0113】
いま、位相差を、デフォーカス量に変換(換算)する係数を、換算係数aということとすると、デフォーカス量は、位相差を用いて、式(1)に従って求めることができる。
【0114】
デフォーカス量[um]=位相差[画素数]×換算係数a[um/画素数]
・・・(1)
【0115】
位相差とデフォーカス量との関係を、換算特性ということとすると、換算特性は、理想的には、直線で表される。
図8のBに示すように、横軸を位相差とし、縦軸をデフォーカス量とした2次元平面において、換算係数aは、直線で表される換算特性の傾きを表す。
【0116】
換算係数aは、カメラモジュールを製造する製造工場において、カメラモジュールの試験等を行うことによって、事前に(出荷前に)取得することができる。
【0117】
続いて、位相差AF(PDAF)を用いて被写体を合焦させる場合において、被写体を検出するための被写体検出領域に、遠近両方の被写体が含まれているときの合焦処理を説明する。
【0118】
図9は、遠近両方に被写体が存在する例を示す説明図である。
図9には、手前に柵121が、奥に自動車122が、被写体として存在する例が示されている。
【0119】
このように遠近両方に被写体が存在する場合、位相差AF(PDAF)を用いて被写体を合焦させようとすると、どちらの被写体にも合焦出来ない場合がある。
【0120】
図10は、
図9に示したような遠近両方の被写体についてコントラストと位相差とを求めた例をグラフで示す説明図である。
図10のグラフの横軸は撮像光学系11Aのレンズ位置を示し、縦軸はコントラスト(左側)及び位相差(右側)を示している。
【0121】
位相差AF(PDAF)では、位相差が0となるようにレンズ位置を移動させる制御が行われる。一方のコントラストAF(CDAF)では、コントラストのピークにレンズ位置を移動させる制御が行われる。
【0122】
図10に示したグラフでは、p2は位相差が0となるレンズ位置を、p1は遠い側の被写体のコントラストがピークとなるレンズ位置を、p3は近い側の被写体のコントラストがピークとなるレンズ位置を、それぞれ示している。
【0123】
しかし
図10に示したように、遠近両方の被写体が混在する状況で位相差を求めると、位相差が0となるレンズ位置が、遠い側、近い側いずれの被写体のコントラストのピークとなるレンズ位置と異なってしまう。従って、遠近両方に被写体が存在する場合、位相差AF(PDAF)を用いて被写体を合焦させようとすると、どちらの被写体にも合焦出来ない場合がある。
【0124】
そこで本技術の開示者は、遠近両方の被写体が混在している場合でも効率的にレンズ位置を決定することが出来る技術について鋭意検討を行った。
【0125】
その結果、本技術の開示者は、撮像画像上における被写体を検出する領域(被写体検出領域)を分割し、被写体検出領域及び分割後の各領域についてデフォーカス量の値(デフォーカス値)を求め、これらのデフォーカス値を用いて遠近両方の被写体が混在している場合でも効率的にレンズ位置を決定することが出来る技術を考案するに至った。
【0126】
図11は、被写体検出領域の例を示す説明図である。
図11には、被写体検出領域130が、縦3つ、横3つの計9つの領域に分割されている例が示されている。なお、被写体検出領域130の分割は係る例に限定されるものではない。
【0127】
また
図11では、分割された領域が全て被写体検出領域130の中に収まっているよう図示したが、本開示は係る例に限定されるものではない。すなわち、少なくとも一部が被写体検出領域130に重なると共に、被写体検出領域130より小さい被写体検出領域を複数用意して、それぞれの領域に対するデフォーカス値を求めても良い。
【0128】
本実施形態では、撮像光学系11Aのレンズ位置が所定の位置にある状態で、被写体検出領域130及び9つの分割領域についてデフォーカス値を算出し、これらのデフォーカス値を用いて、撮像光学系11Aのレンズ位置を決定する。撮像光学系11Aのレンズ位置を決定する処理のことを、以下では単に「レンズ位置決定処理」とも称する。
【0129】
図12は、メイン処理部14の機能構成例を示す説明図である。
図12に示したように、メイン処理部14は、算出部111と、決定部112と、を含む。
【0130】
算出部111は、撮像光学系11Aのレンズ位置が所定の位置にある状態で、被写体検出領域130及び9つの分割領域についてデフォーカス値を算出する。デフォーカス値の算出時のレンズ位置にデフォーカス値を加えると、対象の被写体に合焦するレンズ位置に相当する。算出部111が算出したデフォーカス値は、決定部112によるレンズ位置決定処理に用いられる。
【0131】
算出部111は、それぞれの領域のデフォーカス値を算出すると、算出したそれぞれのデフォーカス値をヒストグラム化してもよい。算出部111がヒストグラム化したデフォーカス値は、決定部112によるレンズ位置決定処理に用いられる。
【0132】
また算出部111は、ヒストグラム化したデフォーカス値を平滑化しても良い。算出部111がヒストグラム化して、平滑化したデフォーカス値は、決定部112によるレンズ位置決定処理に用いられる。
【0133】
決定部112は、算出部111が算出したデフォーカス値を用いて、被写体検出領域130におけるレンズ位置決定処理を行う。決定部112による撮像光学系11Aのレンズ位置処理の詳細については、後述する。
【0134】
以上、メイン処理部14の機能構成例を説明した。続いて、カメラモジュールの動作、特にメイン処理部14によるレンズ位置決定処理について説明する。
【0135】
[1.2.動作例]
(方法1)
レンズ位置決定処理の方法1は、被写体検出領域130及び9つの分割領域について算出したデフォーカス値を並べ、至近側または無限遠側のデフォーカス値から所定の閾値の間に含まれる領域の数が所定値以上であれば、至近側または無限遠側に被写体が存在するとして、撮像光学系11Aのレンズ位置を決定する方法である。
【0136】
図13は、レンズ位置決定処理の方法1の概要を示す説明図である。
図13は、被写体検出領域130及び9つの分割領域について算出したデフォーカス値を並べた例を示す。方法1では、至近側または無限遠側のデフォーカス値から処理を始め、デフォーカス値から所定の閾値の間に含まれる領域の数と所定値とを比較する。
【0137】
なお基準枠は、被写体検出領域130全体を指す。以下の説明では被写体検出領域130全体のことを「基準枠」、その基準枠を分割したそれぞれの枠を「分割枠」とも称する。
【0138】
そして比較の結果、領域の数が所定値以上であれば、至近側または無限遠側に被写体が存在するとして、その領域のデフォーカス値を平均し、その平均値を用いて撮像光学系11Aのレンズ位置を決定して、決定した位置に撮像光学系11Aを移動させて、PDAFを実行する。
【0139】
図14は、方法1による、メイン処理部14によるレンズ位置決定処理を説明する流れ図である。以下、
図14を用いて方法1による、メイン処理部14によるレンズ位置決定処理を説明する。
【0140】
メイン処理部14は、まず撮像光学系11Aのレンズ位置が所定の位置にある状態で、基準枠及び各分割枠のデフォーカス値を算出する(ステップS101)。ステップS101のデフォーカス値の算出は算出部111が行う。
【0141】
メイン処理部14は、基準枠及び各分割枠のデフォーカス値を算出した際に、位相差信頼性が所定の基準を満たしていない枠については、その後のレンズ位置決定処理で用いないようにしても良い。位相差信頼性については、本件出願人が先に提案した特開2010-139942号公報に記載されている。
【0142】
上記ステップS101で基準枠及び各分割枠のデフォーカス値を算出すると、続いてメイン処理部14は、最もInf側またはMacro側のデフォーカス値から所定の閾値に収まっている枠の個数を取得する(ステップS102)。ステップS102の取得処理は、例えば決定部112が行う。
【0143】
なおメイン処理部14は、枠の個数を取得する際に、基準枠は除外しても良い。メイン処理部14は、Inf側とMacro側のどちらから枠の個数を取得するかは、事前の設定に基づいて決定しても良く、ユーザの指定に基づいて決定しても良い。
【0144】
上記ステップS102で枠の個数を取得すると、続いてメイン処理部14は、取得した枠の個数が所定値以上であるかどうか判断する(ステップS103)。ステップS103の判断処理は、例えば決定部112が行う。
【0145】
上記ステップS103の判断の結果、枠の個数が所定値以上であれば(ステップS103、Yes)、メイン処理部14は、基準枠に無限遠側または至近側の被写体が存在するとして、閾値に収まっている枠のデフォーカス値の平均から撮像光学系11Aのレンズ位置を決定し、位相差AF処理部17にPDAFを実行させる(ステップS104)。撮像光学系11Aのレンズ位置の決定は決定部112が行う。
【0146】
一方、上記ステップS103の判断の結果、枠の個数が所定値未満であれば(ステップS103、No)、メイン処理部14は、全ての枠について探索が終了したか判断する(ステップS104)。ステップS104の判断処理は、例えば決定部112が行う。
【0147】
上記ステップS104の判断の結果、全ての枠について探索が終了していた場合は(ステップS104、Yes)、メイン処理部14は、基準枠のデフォーカス量から撮像光学系11Aのレンズ位置を決定し、PDAFまたはCDAFを実行させる(ステップS105)。撮像光学系11Aのレンズ位置の決定は決定部112が行う。
【0148】
一方、上記ステップS104の判断の結果、全ての枠について探索が終了していない場合は(ステップS104、No)、メイン処理部14は、最もInf側またはMacro側の枠を除外する(ステップS106)。ステップS106の除外処理は例えば決定部112が行う。
【0149】
そしてメイン処理部14は、ステップS106で最もInf側またはMacro側の枠を除外すると、上記ステップS102の処理に戻って、(除外後の)最もInf側またはMacro側のデフォーカス値から所定の閾値に収まっている枠の個数を取得する。
【0150】
メイン処理部14は、上述した一連の動作を実行することで、被写体検出領域130に、仮に無限遠側(Inf側)と至近側(Macro側)の両方に被写体が存在していたとしても、どちらか一方の被写体に合焦できるように撮像光学系11Aのレンズ位置を決定できる。
【0151】
(方法2)
レンズ位置決定処理の方法2は、被写体検出領域130及び9つの分割領域について算出したデフォーカス値を並べ、基準枠のデフォーカス値から無限遠側(Inf側)及び至近側(Macro側)の方向の、所定の閾値の間に収まっていない領域の数が所定値以上かどうかを判断し、所定の閾値の間に含まれない領域の数が所定値以上であれば、至近側または無限遠側に被写体が存在するとして、至近側または無限遠側に撮像光学系11Aのレンズ位置を決定する方法である。
【0152】
図15は、レンズ位置決定処理の方法2の概要を示す説明図である。
図15は、被写体検出領域130及び9つの分割領域について算出したデフォーカス値を並べた例を示す。
【0153】
方法2では、基準枠のデフォーカス値から無限遠側(Inf側)及び至近側(Macro側)の方向の、所定の閾値の間に含まれない領域の数が所定値以上かどうかを判断する。
【0154】
所定の閾値の間に含まれない領域の数が所定値以上であれば、至近側または無限遠側に被写体が存在するとして、至近側または無限遠側に撮像光学系11Aのレンズ位置を決定する。
【0155】
図16は、方法2による、メイン処理部14によるレンズ位置決定処理を説明する流れ図である。以下、
図16を用いて方法2による、メイン処理部14によるレンズ位置決定処理を説明する。
【0156】
メイン処理部14は、まず撮像光学系11Aのレンズ位置が所定の位置にある状態で、基準枠及び各分割枠のデフォーカス値を算出する(ステップS111)。ステップS111のデフォーカス値の算出は算出部111が行う。
【0157】
メイン処理部14は、方法1と同様に、基準枠及び各分割枠のデフォーカス値を算出した際に、位相差信頼性が所定の基準を満たしていない枠については、その後のレンズ位置決定処理で用いないようにしても良い。
【0158】
上記ステップS111で基準枠及び各分割枠のデフォーカス値を算出すると、続いてメイン処理部14は、基準枠のデフォーカス値から所定の閾値に収まっていない枠の個数を取得する(ステップS112)。ステップS112の取得処理は、例えば決定部112が行う。
【0159】
上記ステップS112で基準枠のデフォーカス値から所定の閾値に収まっていない枠の個数を取得すると、続いてメイン処理部14は、取得した枠の個数が所定値以上であるかどうか判断する(ステップS113)。ステップS113の判断処理は、例えば決定部112が行う。
【0160】
上記ステップS113の判断の結果、枠の個数が所定値以上であれば(ステップS113、Yes)、メイン処理部14は、Inf側またはMacro側のデフォーカス値からレンズ位置を決定して、PDAFまたはCDAFを実行させる(ステップS114)。撮像光学系11Aのレンズ位置の決定は決定部112が行う。
【0161】
例えば、基準枠のデフォーカス値から所定の閾値に収まっていない枠の個数が、Inf側で2個、Macro側で4個であり、上記所定値が5個であれば、メイン処理部14は、Inf側またはMacro側のデフォーカス値からレンズ位置を決定して、PDAFまたはCDAFを実行させる。
【0162】
メイン処理部14は、PDAFまたはCDAFのどちらを実行させるかを、事前の設定に基づいて決定しても良く、ユーザの指定に基づいて決定しても良い。
【0163】
またメイン処理部14は、PDAFまたはCDAFを実行させる際に、Inf側またはMacro側のどちらのデフォーカス値を用いるかを、事前の設定に基づいて決定しても良く、ユーザの指定に基づいて決定しても良い。
【0164】
またメイン処理部14は、PDAFまたはCDAFを実行させる際に、Inf側またはMacro側のどちらのデフォーカス値を用いるかを、最もInf側またはMacro側のデフォーカス値から所定の閾値に収まっている枠の個数が多い方で決定しても良い。
【0165】
またメイン処理部14は、Inf側またはMacro側の枠を選択する際に、最も基準枠から遠い枠を選択しても良く、最も基準枠に近い枠を選択しても良い。またメイン処理部14は、Inf側またはMacro側の枠のデフォーカス値の平均からレンズ位置を決定しても良い。
【0166】
一方、上記ステップS113の判断の結果、枠の個数が所定値未満であれば(ステップS113、No)、メイン処理部14は、基準枠のデフォーカス値からレンズ位置を決定して、PDAFまたはCDAFを実行させる(ステップS115)。撮像光学系11Aのレンズ位置の決定は決定部112が行う。
【0167】
メイン処理部14は、上述した一連の動作を実行することで、被写体検出領域130に、仮に無限遠側(Inf側)と至近側(Macro側)の両方に被写体が存在していたとしても、どちらか一方の被写体に合焦できるように撮像光学系11Aのレンズ位置を決定できる。
【0168】
またメイン処理部14は、上記ステップS112での枠の取得処理に用いる所定の閾値や、上記ステップS113での判断処理に用いる所定値により、レンズ位置決定処理の際の調整幅を可変とすることができる。
【0169】
(方法3)
レンズ位置決定処理の方法3は、被写体検出領域130及び9つの分割領域について算出したデフォーカス値をヒストグラム化し、ヒストグラム化したデフォーカス値が所定の条件を満たせば、至近側または無限遠側に被写体が存在するとして、至近側または無限遠側に撮像光学系11Aのレンズ位置を決定する方法である。
【0170】
図17は、レンズ位置決定処理の方法3の概要を示す説明図である。
図17は、被写体検出領域130及び9つの分割領域について算出したデフォーカス値をヒストグラム化して並べた例を示す。
【0171】
この方法3では、所定の条件として、ヒストグラムの元となる単位要素(
図17のヒストグラムにおける1つの箱を意味する)が隣接している場合にその個数を数え、その個数が閾値以上のグループ(島)が2つ以上あることを採用する。この条件を満たせば、至近側または無限遠側に被写体が存在するとして、至近側または無限遠側に撮像光学系11Aのレンズ位置が決定される。
【0172】
図17の例では、単位要素の隣接する個数は、左から3、3、1、2、1である。閾値を2とすると、閾値以上のグループ(島)は3つである。従って、閾値以上のグループ(島)が2つ以上あるので、至近側または無限遠側に被写体が存在するとして、至近側または無限遠側に撮像光学系11Aのレンズ位置が決定される。
【0173】
図18は、方法3による、メイン処理部14によるレンズ位置決定処理を説明する流れ図である。以下、
図18を用いて方法3による、メイン処理部14によるレンズ位置決定処理を説明する。
【0174】
メイン処理部14は、まず撮像光学系11Aのレンズ位置が所定の位置にある状態で、基準枠及び各分割枠のデフォーカス値を算出し、そのデフォーカス値をヒストグラム化する(ステップS121)。ステップS121のデフォーカス値の算出及びヒストグラム化は算出部111が行う。
【0175】
メイン処理部14は、方法1、2と同様に、基準枠及び各分割枠のデフォーカス値を算出した際に、位相差信頼性が所定の基準を満たしていない枠については、その後のレンズ位置決定処理で用いないようにしても良い。
【0176】
上記ステップS121で基準枠及び各分割枠のデフォーカス値を算出し、そのデフォーカス値をヒストグラム化すると、続いてメイン処理部14は、単位要素が隣接するヒストグラムの島の個数を取得する(ステップS122)。ステップS122の取得処理は、例えば決定部112が行う。
【0177】
上記ステップS112で単位要素が隣接するヒストグラムの島の個数を取得すると、続いてメイン処理部14は、単位要素の個数が所定の閾値以上の島が2つ以上あるかどうか判断する(ステップS123)。ステップS123の判断処理は、例えば決定部112が行う。なお、判断の基準となる数は2つ以上に限られず、3つ以上等であってもよい。
【0178】
上記ステップS123の判断の結果、単位要素の個数が所定の閾値以上の島が2つ以上あれば(ステップS123、Yes)、メイン処理部14は、Inf側またはMacro側のデフォーカス値からレンズ位置を決定して、PDAFまたはCDAFを実行させる(ステップS124)。撮像光学系11Aのレンズ位置の決定は決定部112が行う。
【0179】
メイン処理部14は、PDAFまたはCDAFのどちらを実行させるかを、事前の設定に基づいて決定しても良く、ユーザの指定に基づいて決定しても良い。
【0180】
またメイン処理部14は、PDAFまたはCDAFを実行させる際に、Inf側またはMacro側のどちらのデフォーカス値を用いるかを、事前の設定に基づいて決定しても良く、ユーザの指定に基づいて決定しても良い。
【0181】
またメイン処理部14は、PDAFまたはCDAFを実行させる際に、Inf側またはMacro側のどちらのデフォーカス値を用いるかを、最もInf側またはMacro側のデフォーカス値から所定の閾値に収まっている枠の個数が多い方で決定しても良い。
【0182】
またメイン処理部14は、Inf側またはMacro側の枠を選択する際に、最も基準枠から遠い枠を選択しても良く、最も基準枠に近い枠を選択しても良い。またメイン処理部14は、Inf側またはMacro側の枠のデフォーカス値の平均からレンズ位置を決定しても良い。
【0183】
一方、上記ステップS123の判断の結果、単位要素の個数が所定の閾値以上の島が2つ未満であれば(ステップS123、No)、メイン処理部14は、基準枠のデフォーカス値からレンズ位置を決定して、PDAFまたはCDAFを実行させる(ステップS125)。撮像光学系11Aのレンズ位置の決定は決定部112が行う。
【0184】
メイン処理部14は、上述した一連の動作を実行することで、被写体検出領域130に、仮に無限遠側(Inf側)と至近側(Macro側)の両方に被写体が存在していたとしても、どちらか一方の被写体に合焦できるように撮像光学系11Aのレンズ位置を決定できる。
【0185】
またこの方法3では、基準枠のデフォーカス値が仮に位相差信頼性を満たしていなくても、被写体検出領域130及び9つの分割領域について算出したデフォーカス値をヒストグラム化するので、上述した一連の処理を実行可能である。
【0186】
(方法4)
レンズ位置決定処理の方法4は、被写体検出領域130及び9つの分割領域について算出したデフォーカス値をヒストグラム化し、ヒストグラム化したデフォーカス値が所定の条件を満たせば、至近側または無限遠側に被写体が存在するとして、至近側または無限遠側に撮像光学系11Aのレンズ位置を決定する方法である。
【0187】
この方法4では、所定の条件として、ヒストグラムの元となる単位要素が隣接している場合にその個数を数え、その個数が一番多いグループ(島)と、その次に多いグループの単位要素の和の、全ての単位要素の個数に占める比率が所定値以上であることを採用する。この条件を満たせば、至近側または無限遠側に被写体が存在するとして、至近側または無限遠側に撮像光学系11Aのレンズ位置が決定される。
【0188】
図17の例では、単位要素の隣接する個数は、左から3、3、1、2、1である。従って、単位要素の個数が一番多いグループ(島)と、その次に多いグループの単位要素の和は6である。
【0189】
50%を閾値とすると、その和が全ての単位要素の個数に占める比率は60%であり、閾値を超えているので、至近側または無限遠側に被写体が存在するとして、至近側または無限遠側に撮像光学系11Aのレンズ位置が決定される。
【0190】
図19は、方法4による、メイン処理部14によるレンズ位置決定処理を説明する流れ図である。以下、
図19を用いて方法4による、メイン処理部14によるレンズ位置決定処理を説明する。
【0191】
メイン処理部14は、まず撮像光学系11Aのレンズ位置が所定の位置にある状態で、基準枠及び各分割枠のデフォーカス値を算出し、そのデフォーカス値をヒストグラム化する(ステップS131)。ステップS131のデフォーカス値の算出及びヒストグラム化は算出部111が行う。
【0192】
メイン処理部14は、方法1~3と同様に、基準枠及び各分割枠のデフォーカス値を算出した際に、位相差信頼性が所定の基準を満たしていない枠については、その後のレンズ位置決定処理で用いないようにしても良い。
【0193】
上記ステップS131で基準枠及び各分割枠のデフォーカス値を算出し、そのデフォーカス値をヒストグラム化すると、続いてメイン処理部14は、単位要素が隣接するヒストグラムの島の個数を取得する(ステップS132)。ステップS132の取得処理は、例えば決定部112が行う。
【0194】
上記ステップS132で単位要素が隣接するヒストグラムの島の個数を取得すると、続いてメイン処理部14は、単位要素の個数が一番多い島と、その次に多い島の単位要素の和の、全ての単位要素の個数に占める比率が所定値以上かどうか判断する(ステップS133)。ステップS133の判断処理は、例えば決定部112が行う。
【0195】
上記ステップS133の判断の結果、単位要素の個数が一番多い島と、その次に多い島の単位要素の和の、全ての単位要素の個数に占める比率が所定値以上であれば(ステップS133、Yes)、メイン処理部14は、Inf側またはMacro側のデフォーカス値からレンズ位置を決定して、PDAFまたはCDAFを実行させる(ステップS134)。撮像光学系11Aのレンズ位置の決定は決定部112が行う。
【0196】
メイン処理部14は、PDAFまたはCDAFのどちらを実行させるかを、事前の設定に基づいて決定しても良く、ユーザの指定に基づいて決定しても良い。
【0197】
またメイン処理部14は、PDAFまたはCDAFを実行させる際に、Inf側またはMacro側のどちらのデフォーカス値を用いるかを、事前の設定に基づいて決定しても良く、ユーザの指定に基づいて決定しても良い。
【0198】
またメイン処理部14は、PDAFまたはCDAFを実行させる際に、Inf側またはMacro側のどちらのデフォーカス値を用いるかを、最もInf側またはMacro側のデフォーカス値から所定の閾値に収まっている枠の個数が多い方で決定しても良い。
【0199】
またメイン処理部14は、Inf側またはMacro側の枠を選択する際に、最も基準枠から遠い枠を選択しても良く、最も基準枠に近い枠を選択しても良い。またメイン処理部14は、Inf側またはMacro側の枠のデフォーカス値の平均からレンズ位置を決定しても良い。
【0200】
一方、上記ステップS133の判断の結果、単位要素の個数が一番多い島と、その次に多い島の単位要素の和の、全ての単位要素の個数に占める比率が所定値未満であれば(ステップS133、No)、メイン処理部14は、基準枠のデフォーカス値からレンズ位置を決定して、PDAFまたはCDAFを実行させる(ステップS135)。撮像光学系11Aのレンズ位置の決定は決定部112が行う。
【0201】
メイン処理部14は、上述した一連の動作を実行することで、被写体検出領域130に、仮に無限遠側(Inf側)と至近側(Macro側)の両方に被写体が存在していたとしても、どちらか一方の被写体に合焦できるように撮像光学系11Aのレンズ位置を決定できる。
【0202】
またこの方法4では、方法3と同様に、基準枠のデフォーカス値が仮に位相差信頼性を満たしていなくても、被写体検出領域130及び9つの分割領域について算出したデフォーカス値をヒストグラム化するので、上述した一連の処理を実行可能である。
【0203】
(方法5)
レンズ位置決定処理の方法5は、被写体検出領域130及び9つの分割領域について算出したデフォーカス値をヒストグラム化し、ヒストグラム化したデフォーカス値が所定の条件を満たせば、至近側または無限遠側に被写体が存在するとして、至近側または無限遠側に撮像光学系11Aのレンズ位置を決定する方法である。
【0204】
図20は、レンズ位置決定処理の方法5の概要を示す説明図である。
図20は、被写体検出領域130及び9つの分割領域について算出したデフォーカス値をヒストグラム化して並べ、そのヒストグラムを平滑化したものの例を示す。
【0205】
この方法5では、所定の条件として、デフォーカス値のヒストグラムを平滑化し、その平滑化したヒストグラムにおいて、所定の閾値を超えるピークが複数存在していることを採用する。この条件を満たせば、至近側または無限遠側に被写体が存在するとして、至近側または無限遠側に撮像光学系11Aのレンズ位置が決定される。
【0206】
図21は、方法5による、メイン処理部14によるレンズ位置決定処理を説明する流れ図である。以下、
図21を用いて方法5による、メイン処理部14によるレンズ位置決定処理を説明する。
【0207】
メイン処理部14は、まず撮像光学系11Aのレンズ位置が所定の位置にある状態で、基準枠及び各分割枠のデフォーカス値を算出し、そのデフォーカス値をヒストグラム化する(ステップS141)。ステップS141のデフォーカス値の算出及びヒストグラム化は算出部111が行う。
【0208】
メイン処理部14は、方法1~4と同様に、基準枠及び各分割枠のデフォーカス値を算出した際に、位相差信頼性が所定の基準を満たしていない枠については、その後のレンズ位置決定処理で用いないようにしても良い。
【0209】
上記ステップS141で基準枠及び各分割枠のデフォーカス値を算出し、そのデフォーカス値をヒストグラム化すると、続いてメイン処理部14は、生成したヒストグラムを平滑化して、所定の閾値を超えるピークを検出する(ステップS142)。ステップS142の平滑化処理及びピークの検出処理は算出部111が行う。
【0210】
上記ステップS142でヒストグラムを平滑化すると、続いてメイン処理部14は、平滑化したヒストグラムにおいて、所定の閾値を超えるピークが複数存在しているかどうか判断する(ステップS143)。ステップS143の判断処理は、例えば決定部112が行う。
【0211】
上記ステップS143の判断の結果、平滑化したヒストグラムにおいて、所定の閾値を超えるピークが複数存在していれば(ステップS143、Yes)、メイン処理部14は、Inf側またはMacro側のデフォーカス値からレンズ位置を決定して、PDAFまたはCDAFを実行させる(ステップS144)。撮像光学系11Aのレンズ位置の決定は決定部112が行う。
【0212】
メイン処理部14は、PDAFまたはCDAFのどちらを実行させるかを、事前の設定に基づいて決定しても良く、ユーザの指定に基づいて決定しても良い。
【0213】
またメイン処理部14は、PDAFまたはCDAFを実行させる際に、Inf側またはMacro側のどちらのデフォーカス値を用いるかを、事前の設定に基づいて決定しても良く、ユーザの指定に基づいて決定しても良い。
【0214】
またメイン処理部14は、PDAFまたはCDAFを実行させる際に、Inf側またはMacro側のどちらのデフォーカス値を用いるかを、最もInf側またはMacro側のデフォーカス値から所定の閾値に収まっている枠の個数が多い方で決定しても良い。
【0215】
またメイン処理部14は、Inf側またはMacro側の枠を選択する際に、最も基準枠から遠い枠を選択しても良く、最も基準枠に近い枠を選択しても良い。またメイン処理部14は、Inf側またはMacro側の枠のデフォーカス値の平均からレンズ位置を決定しても良い。
【0216】
一方、上記ステップS143の判断の結果、平滑化したヒストグラムにおいて、所定の閾値を超えるピークが複数存在していなければ(ステップS143、No)、メイン処理部14は、基準枠のデフォーカス値からレンズ位置を決定して、PDAFまたはCDAFを実行させる(ステップS145)。撮像光学系11Aのレンズ位置の決定は決定部112が行う。
【0217】
メイン処理部14は、上述した一連の動作を実行することで、被写体検出領域130に、仮に無限遠側(Inf側)と至近側(Macro側)の両方に被写体が存在していたとしても、どちらか一方の被写体に合焦できるように撮像光学系11Aのレンズ位置を決定できる。
【0218】
またこの方法5では、方法3、4と同様に、基準枠のデフォーカス値が仮に位相差信頼性を満たしていなくても、被写体検出領域130及び9つの分割領域について算出したデフォーカス値をヒストグラム化するので、上述した一連の処理を実行可能である。
【0219】
またこの方法5では、ヒストグラムを平滑化するので、ヒストグラムの単位要素が隣接しないような場合でもレンズ位置を無限遠側または至近側に決定することが可能となる。
【0220】
(方法6)
レンズ位置決定処理の方法5は、被写体検出領域130及び9つの分割領域について算出したデフォーカス値をヒストグラム化し、ヒストグラム化したデフォーカス値が所定の条件を満たせば、至近側または無限遠側に被写体が存在するとして、至近側または無限遠側に撮像光学系11Aのレンズ位置を決定する方法である。
【0221】
図22は、レンズ位置決定処理の方法6の概要を示す説明図である。
図22は、被写体検出領域130及び9つの分割領域について算出したデフォーカス値を時間方向に加算した上でヒストグラム化して並べ、そのヒストグラムを平滑化したものの例を示す。
図22では、横軸が、時間加算したデフォーカス値から求めた撮像光学系11Aのレンズのターゲット位置となっている。
【0222】
この方法6では、所定の条件として、デフォーカス値を時間方向に加算した上でヒストグラム化して平滑化し、その平滑化したヒストグラムにおいて、所定の閾値を超えるピークが複数存在していることを採用する。この条件を満たせば、至近側または無限遠側に被写体が存在するとして、至近側または無限遠側に撮像光学系11Aのレンズ位置が決定される。
【0223】
図23は、方法6による、メイン処理部14によるレンズ位置決定処理を説明する流れ図である。以下、
図23を用いて方法6による、メイン処理部14によるレンズ位置決定処理を説明する。
【0224】
メイン処理部14は、まず撮像光学系11Aのレンズ位置が所定の位置にある状態で、基準枠及び各分割枠のデフォーカス値を算出し、そのデフォーカス値を時間方向に加算した上でヒストグラム化する(ステップS151)。ステップS151のデフォーカス値の算出、時間方向の加算及びヒストグラム化は算出部111が行う。
【0225】
メイン処理部14は、方法1~5と同様に、基準枠及び各分割枠のデフォーカス値を算出した際に、位相差信頼性が所定の基準を満たしていない枠については、その後のレンズ位置決定処理で用いないようにしても良い。
【0226】
上記ステップS151で基準枠及び各分割枠のデフォーカス値を算出し、そのデフォーカス値を時間加算してヒストグラム化すると、続いてメイン処理部14は、生成したヒストグラムを平滑化し、所定の閾値を超えるピークを検出する(ステップS152)。ステップS152の平滑化処理及びピークの検出処理は算出部111が行う。
【0227】
上記ステップS142でヒストグラムを平滑化すると、続いてメイン処理部14は、平滑化したヒストグラムにおいて、所定の閾値を超えるピークが複数存在しているかどうか判断する(ステップS143)。ステップS143の判断処理は、例えば決定部112が行う。
【0228】
上記ステップS153の判断の結果、平滑化したヒストグラムにおいて、所定の閾値を超えるピークが複数存在していれば(ステップS153、Yes)、メイン処理部14は、Inf側またはMacro側のデフォーカス値からレンズ位置を決定して、PDAFまたはCDAFを実行させる(ステップS154)。撮像光学系11Aのレンズ位置の決定は決定部112が行う。
【0229】
メイン処理部14は、PDAFまたはCDAFのどちらを実行させるかを、事前の設定に基づいて決定しても良く、ユーザの指定に基づいて決定しても良い。
【0230】
またメイン処理部14は、PDAFまたはCDAFを実行させる際に、Inf側またはMacro側のどちらのデフォーカス値を用いるかを、事前の設定に基づいて決定しても良く、ユーザの指定に基づいて決定しても良い。
【0231】
またメイン処理部14は、PDAFまたはCDAFを実行させる際に、Inf側またはMacro側のどちらのデフォーカス値を用いるかを、最もInf側またはMacro側のデフォーカス値から所定の閾値に収まっている枠の個数が多い方で決定しても良い。
【0232】
またメイン処理部14は、Inf側またはMacro側の枠を選択する際に、最も基準枠から遠い枠を選択しても良く、最も基準枠に近い枠を選択しても良い。またメイン処理部14は、Inf側またはMacro側の枠のデフォーカス値の平均からレンズ位置を決定しても良い。
【0233】
一方、上記ステップS153の判断の結果、平滑化したヒストグラムにおいて、所定の閾値を超えるピークが複数存在していなければ(ステップS153、No)、メイン処理部14は、基準枠のデフォーカス値からレンズ位置を決定して、PDAFまたはCDAFを実行させる(ステップS155)。撮像光学系11Aのレンズ位置の決定は決定部112が行う。
【0234】
メイン処理部14は、上述した一連の動作を実行することで、被写体検出領域130に、仮に無限遠側(Inf側)と至近側(Macro側)の両方に被写体が存在していたとしても、どちらか一方の被写体に合焦できるように撮像光学系11Aのレンズ位置を決定できる。
【0235】
またこの方法6では、方法3~5と同様に、基準枠のデフォーカス値が仮に位相差信頼性を満たしていなくても、被写体検出領域130及び9つの分割領域について算出したデフォーカス値をヒストグラム化するので、上述した一連の処理を実行可能である。
【0236】
またこの方法6では、方法5と同様に、ヒストグラムを平滑化するので、ヒストグラムの単位要素が隣接しないような場合でもレンズ位置を無限遠側または至近側に決定することが可能となる。
【0237】
またこの方法6では、ヒストグラムの単位要素の総数が方法3~5と比べて増加するので、レンズ位置の決定精度を向上させることが可能になる。
【0238】
なお本開示における焦点位置は、位相差やデフォーカス値を含んだ像ズレ量に相当するものであってもよい。デフォーカス値は現在のレンズ位置から合焦位置までの距離と方向を表す値であることから、デフォーカス値を求めることは、本開示における焦点位置の算出の一例に相応する。メイン処理部14は、各領域の焦点位置に対する分析を行うことで、被写体に合焦させるための撮像光学系11Aのレンズの移動量を焦点位置に基づいて算出することが出来る。
【0239】
(適用例)
上述したカメラモジュールは、例えば、以下のように、可視光や、赤外光、紫外光、X線等の光をセンシングする様々な電子機器に使用することができる。
【0240】
・ディジタルカメラや、カメラ機能付きの携帯機器等の、鑑賞の用に供される画像を撮影する電子機器
・自動停止等の安全運転や、運転者の状態の認識等のために、自動車の前方や後方、周囲、車内等を撮影する車載用センサ、走行車両や道路を監視する監視カメラ、車両間等の測距を行う測距センサ等の、交通の用に供される電子機器
・ユーザのジェスチャを撮影して、そのジェスチャに従った機器操作を行うために、TVや、冷蔵庫、エアーコンディショナ等の家電に供される電子機器
・内視鏡や、赤外光の受光による血管撮影を行う装置等の、医療やヘルスケアの用に供される電子機器
・防犯用途の監視カメラや、人物認証用途のカメラ等の、セキュリティの用に供される電子機器
・肌を撮影する肌測定器や、頭皮を撮影するマイクロスコープ等の、美容の用に供される電子機器
・スポーツ用途等向けのアクションカメラやウェアラブルカメラ等の、スポーツの用に供される電子機器
・畑や作物の状態を監視するためのカメラ等の、農業の用に供される電子機器
【0241】
<2.まとめ>
以上説明したように本開示の一実施形態によれば、無限遠側(Inf側)と至近側(Macro側)の両方に被写体が被写体検出領域130に存在していたとしても、どちらか一方の被写体に合焦できるように撮像光学系11Aのレンズ位置を決定できる、カメラモジュールを提供することが出来る。
【0242】
例えば、メイン処理部14は、被写体検出領域130及び9つの分割領域について算出したデフォーカス値を並べ、至近側または無限遠側のデフォーカス値から所定の閾値の間に含まれる領域の数が所定値以上であれば、至近側または無限遠側に被写体が存在するとして、撮像光学系11Aのレンズ位置を決定する。
【0243】
また例えば、メイン処理部14は、被写体検出領域130及び9つの分割領域について算出したデフォーカス値を並べ、基準枠のデフォーカス値から無限遠側(Inf側)及び至近側(Macro側)の方向の、所定の閾値の間に収まっていない領域の数が所定値以上かどうかを判断し、所定の閾値の間に含まれない領域の数が所定値以上であれば、至近側または無限遠側に被写体が存在するとして、至近側または無限遠側に撮像光学系11Aのレンズ位置を決定する。
【0244】
また例えば、メイン処理部14は、レンズ位置決定処理の方法3は、被写体検出領域130及び9つの分割領域について算出したデフォーカス値をヒストグラム化し、ヒストグラム化したデフォーカス値が所定の条件を満たせば、至近側または無限遠側に被写体が存在するとして、至近側または無限遠側に撮像光学系11Aのレンズ位置を決定する。
【0245】
上記所定の条件は、例えば、ヒストグラムの元となる単位要素が隣接している場合にその個数を数え、その個数が閾値以上のグループが2つ以上あることでもよく、ヒストグラムの元となる単位要素が隣接している場合にその個数を数え、その個数が一番多いグループと、その次に多いグループの単位要素の和の、全ての単位要素の個数に占める比率が所定値以上であることもでもよい。
【0246】
また上記所定の条件は、デフォーカス値のヒストグラムを平滑化し、その平滑化したヒストグラムにおいて、所定の閾値を超えるピークが複数存在していることでもよく、デフォーカス値を時間方向に加算した上でヒストグラム化して平滑化し、その平滑化したヒストグラムにおいて、所定の閾値を超えるピークが複数存在していることでもよい。
【0247】
本明細書の処理における処理ステップは、必ずしもフローチャート又はシーケンス図に記載された順序に沿って時系列に実行されなくてよい。例えば、処理における処理ステップは、フローチャート又はシーケンス図として記載した順序と異なる順序で実行されても、並列的に実行されてもよい。
【0248】
また、本明細書の装置に備えられるプロセッサ(例えば、CPU、DSPなど)を上記装置として機能させるためのコンピュータプログラム(換言すると、上記プロセッサに上記装置の構成要素の動作を実行させるためのコンピュータプログラム)も作成可能である。また、当該コンピュータプログラムを記録した記録媒体も提供されてもよい。また、上記コンピュータプログラムを記憶するメモリと、上記コンピュータプログラムを実行可能な1つ以上のプロセッサとを備える装置(例えば、完成品、又は完成品のためのモジュール(部品、処理回路若しくはチップなど))も提供されてもよい。また、上記装置の1つ以上の構成要素の動作を含む方法も、本開示に係る技術に含まれる。
【0249】
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
【0250】
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏しうる。
【0251】
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
位相差検出領域を複数含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出する算出部と、
無限遠側または至近側にある前記焦点位置から所定の範囲に収まっている、前記算出部が算出した前記位相差検出領域の前記焦点位置の平均値に基づき前記焦点レンズの位置を決定する決定部と、
を備える、制御装置。
(2)
前記決定部は、前記焦点位置が前記所定の範囲に収まっている前記位相差検出領域の数が所定の閾値以上であれば前記算出部が算出した前記位相差検出領域の前記焦点位置の平均値に基づき前記焦点レンズの位置を決定する、前記(1)に記載の制御装置。
(3)
前記位相差検出領域は、第1の領域と、少なくとも一部が前記第1の領域に重なる複数の第2の領域と、を含む、前記(1)または(2)に記載の制御装置。
(4)
位相差検出領域を複数含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出する算出部と、
基準となる前記位相差検出領域の前記焦点位置から、焦点位置が所定の範囲以上外れている前記位相差検出領域の数が所定値を上回れば、無限遠側または至近側にある前記焦点位置に基づき前記焦点レンズの位置を決定する決定部と、
を備える、制御装置。
(5)
位相差検出領域を複数含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化する算出部と、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、無限遠側または至近側にある前記焦点位置に基づき前記焦点レンズの位置を決定する決定部と、
を備える、制御装置。
(6)
前記第1の所定条件は、隣接するヒストグラムの単位要素の個数が所定値以上のグループが複数存在することである、前記(5)に記載の制御装置。
(7)
前記第1の所定条件は、隣接するヒストグラムの単位要素の個数が所定値以上のグループが複数存在し、かつ、当該グループの単位要素の個数が第2の所定条件を満たすことである、前記(5)に記載の制御装置。
(8)
前記第2の所定条件は、単位要素の個数が一番多いグループと次に多いグループの単位要素の個数の和の、全ての単位要素の個数に占める比率が所定値以上である、前記(7)に記載の制御装置。
(9)
前記算出部は、ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置を平滑化し、
前記第1の所定条件は、平滑化したヒストグラムの所定の閾値を超えたピークが複数存在していることである、前記(5)に記載の制御装置。
(10)
前記算出部は、ヒストグラム化した前記焦点位置を所定の時間加算して平滑化し、
前記第1の所定条件は、平滑化したヒストグラムの所定の閾値を超えたピークが複数存在していることである、前記(5)に記載の制御装置。
(11)
位相差検出領域を複数含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出することと、
無限遠側または至近側にある前記焦点位置から所定の範囲に収まっている、算出された前記位相差検出領域の前記焦点位置の平均値に基づき前記焦点レンズの位置を決定することと、
を含む、制御方法。
(12)
位相差検出領域を複数含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出することと、
基準となる前記位相差検出領域にある前記焦点位置から、前記焦点位置が所定の範囲以上外れている前記位相差検出領域の数が所定値を上回れば、無限遠側または至近側にある前記焦点位置に基づき前記焦点レンズの位置を決定することと、
を含む、制御方法。
(13)
位相差検出領域を複数含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化することと、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、無限遠側または至近側にある前記焦点位置に基づき前記焦点レンズの位置を決定することと、
を含む、制御方法。
(14)
コンピュータに、
位相差検出領域を複数含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出することと、
無限遠側または至近側にある前記焦点位置から所定の範囲に収まっている、算出された前記位相差検出領域の前記焦点位置の平均値に基づき前記焦点レンズの位置を決定することと、
を実行させる、コンピュータプログラム。
(15)
コンピュータに、
位相差検出領域を複数含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出することと、
基準となる前記位相差検出領域にある前記焦点位置から、前記焦点位置が所定の範囲以上外れている前記位相差検出領域の数が所定値を上回れば、無限遠側または至近側にある前記焦点位置に基づき前記焦点レンズの位置を決定することと、
を実行させる、コンピュータプログラム。
(16)
コンピュータに、
位相差検出領域を複数含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化することと、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、無限遠側または至近側にある前記焦点位置に基づき前記焦点レンズの位置を決定することと、
を実行させる、コンピュータプログラム。
(17)
光を集光する撮像光学系と、
前記撮像光学系からの光を受光し、画像を撮像する撮像素子と、
前記撮像素子が出力する信号を処理する信号処理部と
を備え、
前記信号処理部は、
位相差検出領域を複数含む前記撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出する算出部と、
無限遠側または至近側にある前記焦点位置から所定の範囲に収まっている、前記算出部が算出した前記位相差検出領域の前記焦点位置の平均値に基づき前記焦点レンズの位置を決定する決定部と、
を備える、電子機器。
(18)
光を集光する撮像光学系と、
前記撮像光学系からの光を受光し、画像を撮像する撮像素子と、
前記撮像素子が出力する信号を処理する信号処理部と
を備え、
前記信号処理部は、
位相差検出領域を複数含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出する算出部と、
基準となる前記位相差検出領域の前記焦点位置から、焦点位置が所定の範囲以上外れている前記位相差検出領域の数が所定値を上回れば、無限遠側または至近側にある前記焦点位置に基づき前記焦点レンズの位置を決定する決定部と、
を備える、電子機器。
(19)
光を集光する撮像光学系と、
前記撮像光学系からの光を受光し、画像を撮像する撮像素子と、
前記撮像素子が出力する信号を処理する信号処理部と
を備え、
前記信号処理部は、
位相差検出領域を複数含む撮像素子による、焦点レンズを通過する被写体像の撮像結果に基づいて各前記位相差検出領域に対して焦点位置を算出してヒストグラム化する算出部と、
ヒストグラム化したそれぞれの前記位相差検出領域の前記焦点位置が第1の所定条件を満たした場合に、無限遠側または至近側にある前記焦点位置に基づき前記焦点レンズの位置を決定する決定部と、
を備える、電子機器。
【符号の説明】
【0252】
11 レンズ鏡筒
11A 撮像光学系
12 光学フィルタ
13 イメージセンサ
14 メイン処理部
15 照明制御部
16 センサ駆動部
17 位相差AF処理部
18 画像処理部
19 フォーカス駆動部
20 表示部
21 操作部
22 フラッシュメモリ
31 CPU
32 メモリ
33 ADC
34 DAC
35 通信I/F
50 受光面
51 画素ブロック
52 通常画素
53 検出画素
53L 左遮光画素
53R 右遮光画素
61 PD
62 CL
63 カラーフィルタ
64 オンチップレンズ
66 遮光膜