特表-14106916IP Force 特許公報掲載プロジェクト 2015.5.11 β版

▶ 富士フイルム株式会社の特許一覧
再表2014-106916画像処理装置、撮像装置、プログラム及び画像処理方法
(19)【発行国】日本国特許庁(JP)
【公報種別】再公表特許(A1)
(11)【国際公開番号】WO/0
(43)【国際公開日】2014年7月10日
【発行日】2017年1月19日
(54)【発明の名称】画像処理装置、撮像装置、プログラム及び画像処理方法
(51)【国際特許分類】
   G02B 7/28 20060101AFI20161222BHJP
   G02B 7/34 20060101ALI20161222BHJP
   G03B 13/36 20060101ALI20161222BHJP
   H04N 5/232 20060101ALI20161222BHJP
   H04N 5/225 20060101ALI20161222BHJP
【FI】
   G02B7/28 N
   G02B7/34
   G03B13/36
   H04N5/232 H
   H04N5/225 A
【審査請求】有
【予備審査請求】未請求
【全頁数】52
【出願番号】特願2014-555422(P2014-555422)
(21)【国際出願番号】PCT/0/0
(22)【国際出願日】2013年10月22日
(11)【特許番号】特許第5955417号(P5955417)
(45)【特許公報発行日】2016年7月20日
(31)【優先権主張番号】特願2013-43(P2013-43)
(32)【優先日】2013年1月4日
(33)【優先権主張国】JP
(81)【指定国】 AP(BW,GH,GM,KE,LR,LS,MW,MZ,NA,RW,SD,SL,SZ,TZ,UG,ZM,ZW),EA(AM,AZ,BY,KG,KZ,RU,TJ,TM),EP(AL,AT,BE,BG,CH,CY,CZ,DE,DK,EE,ES,FI,FR,GB,GR,HR,HU,IE,IS,IT,LT,LU,LV,MC,MK,MT,NL,NO,PL,PT,RO,RS,SE,SI,SK,SM,TR),OA(BF,BJ,CF,CG,CI,CM,GA,GN,GQ,GW,KM,ML,MR,NE,SN,TD,TG),AE,AG,AL,AM,AO,AT,AU,AZ,BA,BB,BG,BH,BN,BR,BW,BY,BZ,CA,CH,CL,CN,CO,CR,CU,CZ,DE,DK,DM,DO,DZ,EC,EE,EG,ES,FI,GB,GD,GE,GH,GM,GT,HN,HR,HU,ID,IL,IN,IR,IS,JP,KE,KG,KN,KP,KR,KZ,LA,LC,LK,LR,LS,LT,LU,LY,MA,MD,ME,MG,MK,MN,MW,MX,MY,MZ,NA,NG,NI,NO,NZ,OM,PA,PE,PG,PH,PL,PT,QA,RO,RS,RU,RW,SA,SC,SD,SE,SG,SK,SL,SM,ST,SV,SY,TH,TJ,TM,TN,TR,TT,TZ,UA,UG,US
(71)【出願人】
【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
【住所又は居所】東京都港区西麻布2丁目26番30号
(74)【代理人】
【識別番号】100079049
【弁理士】
【氏名又は名称】中島 淳
(74)【代理人】
【識別番号】100084995
【弁理士】
【氏名又は名称】加藤 和詳
(74)【代理人】
【識別番号】100099025
【弁理士】
【氏名又は名称】福田 浩志
(72)【発明者】
【氏名】井上 和紀
【住所又は居所】埼玉県さいたま市北区植竹町1丁目324番地 富士フイルム株式会社内
【テーマコード(参考)】
2H011
2H151
5C122
【Fターム(参考)】
2H011BA23
2H011DA05
2H151BA06
2H151CB06
2H151CB09
2H151CB21
2H151DA03
2H151DA15
2H151FA68
2H151GA14
5C122DA03
5C122DA04
5C122EA42
5C122FD01
5C122FD02
5C122FD07
5C122FD13
5C122FK12
5C122FK24
5C122FK29
5C122FK41
5C122HB01
5C122HB05
(57)【要約】
手動での焦点調整を違和感なく行うことができる画像処理装置、撮像装置、プログラム及び画像処理方法を提供する。
撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し(S403)、かつ第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成し(S407)、表示部に対して生成された第1の表示用画像を表示し(S405)、かつ該第1の表示用画像の表示領域内に生成された第2の表示用画像を表示し(S409)、予め定められた指示が入力された場合、第2の表示用画像の表示領域の少なくとも一部と少なくとも一部に重複した合焦領域で自動合焦を行う(S423)。
【特許請求の範囲】
【請求項1】
撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ前記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成部と、
画像を表示する表示部と、
前記表示部に対して前記生成部により生成された前記第1の表示用画像を表示し、かつ該第1の表示用画像の表示領域内に前記生成部により生成された前記第2の表示用画像を表示する制御を行う表示制御部と、
予め定められた指示が入力された場合、前記第2の表示用画像の表示領域の少なくとも一部と少なくとも一部に重複した合焦領域で自動合焦を行う自動合焦部と、
を備えた画像処理装置。
【請求項2】
撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ前記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成部と、
画像を表示する表示部と、
前記生成部により生成された前記第1の表示用画像の前記表示部による表示を抑止し、かつ、前記表示部に対して、前記生成部により生成された前記第2の表示用画像を表示させる制御を行う表示制御部と、
予め定められた指示が入力された場合、前記第2の表示用画像の表示領域の少なくとも一部と少なくとも一部に重複した合焦領域で自動合焦を行う自動合焦部と、
を備えた画像処理装置。
【請求項3】
前記自動合焦部は、前記第2の表示用画像の表示領域に対して予め定められた第1閾値以上の面積の割合で重複した合焦領域で自動合焦を行う
請求項1または2記載の画像処理装置。
【請求項4】
前記表示制御部は、前記表示部に対して前記合焦領域の範囲を示す情報を更に表示する制御を行う
請求項1乃至3の何れか1項記載の画像処理装置。
【請求項5】
前記第2の表示用画像内の主要被写体に対応する領域の少なくとも一部を被写体領域として抽出する抽出部を更に備え、
前記自動合焦部は、前記抽出部により抽出された前記被写体領域を前記合焦領域として自動合焦を行う
請求項1乃至4の何れか1項記載の画像処理装置。
【請求項6】
前記抽出部は、人の顔に対応する領域の少なくとも一部を前記被写体領域として抽出する
請求項5記載の画像処理装置。
【請求項7】
前記自動合焦部は、前記第2の表示用画像の表示領域の少なくとも一部に少なくとも一部が重複し、かつ前記第1の表示用画像の表示領域内における中央部を含む予め定められた領域を前記合焦領域として自動合焦を行う
請求項1乃至4の何れか1項記載の画像処理装置。
【請求項8】
前記合焦領域の位置を示す位置情報の入力を受け付ける受付部を更に備え、
前記自動合焦部は、前記受付部により受け付けられた前記位置情報に基づいて前記合焦領域の位置を移動して自動合焦を行う
請求項1乃至7の何れか1項記載の画像処理装置。
【請求項9】
前記自動合焦部は、前記位置情報に基づいて移動させた後の前記合焦領域の少なくとも一部が、前記第2の表示用画像の表示領域の少なくとも一部に重複する場合のみ、当該移動を行って自動合焦を行う
請求項8記載の画像処理装置。
【請求項10】
前記表示制御部は、前記位置情報に基づいて移動させた後の前記合焦領域が、前記第2の表示用画像の表示領域外となる場合、前記第2の表示用画像の表示を停止する制御を行う
請求項8記載の画像処理装置。
【請求項11】
前記受付部は、前記表示制御部により前記第2の表示用画像の表示を停止する制御を行った後に前記位置情報の入力を再度受け付け、
前記表示制御部は、前記受付部により前記位置情報が再度受け付けられた場合、当該位置情報に基づいて移動させた後の前記合焦領域の少なくとも一部が、前記第2の表示用画像の表示領域の少なくとも一部に重複した場合、前記第2の表示用画像の表示を再開する制御を行う
請求項10記載の画像処理装置。
【請求項12】
前記第1の表示用画像内の主要被写体に対応する領域の少なくとも一部を第2被写体領域として抽出する第2抽出部を更に備え、
前記自動合焦部は、前記第2抽出部により抽出された前記第2被写体領域が、前記第2の表示用画像の表示領域外となる場合、当該表示領域内で前記第2被写体領域からの距離が最短となる予め定められた大きさの領域を前記合焦領域として自動合焦を行う
請求項1乃至4の何れか1項記載の画像処理装置。
【請求項13】
前記第2の表示用画像の拡大を指示する拡大指示情報の入力を受け付ける第2受付部を更に備え、
前記表示制御部は、前記第2受付部により前記拡大指示情報の入力が受け付けられた場合、前記第2の表示用画像を拡大させて表示させる制御を行い、
前記自動合焦部は、前記表示制御部により前記第2の表示用画像を拡大して表示させる制御が行われた場合、前記第2の表示用画像の拡大率以下の拡大率で前記合焦領域を拡大して自動合焦を行う
請求項1乃至12の何れか1項記載の画像処理装置。
【請求項14】
前記自動合焦部は、前記拡大させた後の前記合焦領域の大きさが予め定められた第2閾値より大きくなる場合、前記合焦領域を当該第2閾値の大きさとして自動合焦を行う
請求項13記載の画像処理装置。
【請求項15】
請求項1乃至14の何れか1項記載の画像処理装置と、
前記撮像レンズと、
前記撮像素子と、
を備えた撮像装置。
【請求項16】
コンピュータを、
撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ前記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成部と、
画像を表示する表示部に対して前記生成部により生成された前記第1の表示用画像を表示し、かつ該第1の表示用画像の表示領域内に前記生成部により生成された前記第2の表示用画像を表示する制御を行う表示制御部と、
予め定められた指示が入力された場合、前記第2の表示用画像の表示領域の少なくとも一部に少なくとも一部が重複した合焦領域で自動合焦を行う自動合焦部と、
として機能させるためのプログラム。
【請求項17】
撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ前記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成ステップと、
画像を表示する表示部に対して前記生成ステップにより生成された前記第1の表示用画像を表示し、かつ該第1の表示用画像の表示領域内に前記生成ステップにより生成された前記第2の表示用画像を表示する制御を行う表示制御ステップと、
予め定められた指示が入力された場合、前記第2の表示用画像の表示領域の少なくとも一部に少なくとも一部が重複した合焦領域で自動合焦を行う自動合焦ステップと、
を備えた画像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、撮像装置、プログラム及び画像処理方法に係り、特に、被写体像の合焦状態を確認するための画像を生成して表示する画像処理装置、撮像装置、プログラム、及び画像処理方法に関する。
【背景技術】
【0002】
従来、デジタルカメラやカメラ付きの携帯電話機等の撮像装置において、手動で焦点調整を行う作業を容易にするために、スプリットイメージをライブビュー画像(所謂スルー画像)内に表示する技術が用いられるようになってきた。なお、スプリットイメージとは、被写体像における所定領域に対応する左目画像の一部と右目画像の一部とを合成した画像である。このスプリットイメージにおいては、合焦状態に応じて、左目画像と右目画像との間で視差発生方向に対するずれが発生する。この技術を利用し、ユーザは、スプリットイメージにおける左目画像と右目画像とのずれを視認することで合焦状態を確認する。
【0003】
この技術を用いた撮像装置として、特開2009−237214号公報(以下、「特許文献1」という)には、スプリットイメージとライブビュー画像の一部に対応する部分画像を拡大した画像とを組み合わせて表示することができる撮像装置が開示されている。この撮像装置は、マニュアルフォーカス時において、表示手段にスプリットイメージと、被写体像の一部に対応する部分画像とを切り換えて表示させる手段を備えている。
【0004】
一方、特開2005−222036号公報(以下、「特許文献2」という)には、手動による焦点調整を行う際に、自動合焦の制御を行うことにより上記焦点調整を補助する撮像装置が開示されている。この撮像装置は、手動合焦用の第1のフォーカスレンズの位置を維持しつつ操作手段の操作によって自動合焦用の第2のフォーカスレンズを移動させることで、上記第1のフォーカスレンズによる手動合焦での合焦状態を調整可能としている。
【発明の概要】
【発明が解決しようとする課題】
【0005】
従来、ユーザがスプリットイメージを確認しながら手動で焦点調整を行う際、自動合焦の制御を行うことにより焦点調整を更に補助することができる撮像装置の開発が要望されていた。
【0006】
ここで、特許文献1に開示されている技術に、特許文献2に開示されている技術を組み合わせることにより、上記撮像装置を実現することが考えられる。ユーザがスプリットイメージを用いて手動で焦点調整を行う場合には、スプリットイメージの状態を確認しながら焦点調整を行う。そのため、スプリットイメージを用いた手動での焦点調整の際に更に自動合焦の制御を行う場合には、手動での焦点調整を行う際に対象とする画像領域と自動での合焦制御を行う際に対象とする画像領域とが整合している必要がある。
【0007】
しかしながら、特許文献2に開示されている技術では、自動での合焦制御を行う際に対象とする画像領域の適用範囲を制限していない。そのため、手動での焦点調整を行う際に対象とする画像領域と、自動での合焦制御を行う際に対象とする画像領域とが必ずしも整合しているとは限らず、必ずしも手動での焦点調整を違和感なく行うことができるとは限らない、という問題点があった。
【0008】
本発明は上記問題点に鑑みてなされたものであり、手動での焦点調整を違和感なく行うことができる画像処理装置、撮像装置、プログラム及び画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記目的を達成するために、本発明に係る画像処理装置は、撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ上記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成部と、画像を表示する表示部と、上記表示部に対して上記生成部により生成された上記第1の表示用画像を表示し、かつ上記第1の表示用画像の表示領域内に上記生成部により生成された上記第2の表示用画像を表示する制御を行う表示制御部と、予め定められた指示が入力された場合、上記第2の表示用画像の表示領域の少なくとも一部に少なくとも一部が重複した合焦領域で自動合焦を行う自動合焦部と、を備えている。
【0010】
本発明に係る画像処理装置によれば、生成部により、撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像が生成される。
【0011】
また、本発明では、生成部により、上記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像が生成される。
【0012】
更に、本発明では、表示制御部により、画像を表示する表示部に対して上記生成部により生成された上記第1の表示用画像を表示し、かつ上記第1の表示用画像の表示領域内に上記生成部により生成された上記第2の表示用画像を表示する制御が行われる。
【0013】
ここで、本発明では、自動合焦部により、予め定められた指示が入力された場合、上記第2の表示用画像の表示領域の少なくとも一部に少なくとも一部が重複した合焦領域で自動合焦が行われる。
【0014】
このように、本発明に係る画像処理装置によれば、自動合焦を行う際に対象とする画像領域である合焦領域の少なくとも一部を、第2の表示用画像(スプリットイメージ)の画像領域の少なくとも一部に重複させているので、手動での焦点調整を違和感なく行うことができる。
【0015】
また、上記目的を達成するために、本発明に係る画像処理装置は、撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成部と、画像を表示する表示部と、生成部により生成された第1の表示用画像の表示部による表示を抑止し、かつ、表示部に対して、生成部により生成された第2の表示用画像を表示させる制御を行う表示制御部と、予め定められた指示が入力された場合、第2の表示用画像の表示領域の少なくとも一部と少なくとも一部に重複した合焦領域で自動合焦を行う自動合焦部と、を備えている。
【0016】
本発明に係る画像処理装置によれば、生成部により、撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像が生成される。
【0017】
また、本発明では、生成部により、上記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像が生成される。
【0018】
更に、本発明では、表示制御部により、生成部により生成された第1の表示用画像の表示部による表示を抑止し、かつ、表示部に対して、生成部により生成された第2の表示用画像を表示させる制御が行われる。
【0019】
ここで、本発明では、自動合焦部により、予め定められた指示が入力された場合、上記第2の表示用画像の表示領域の少なくとも一部に少なくとも一部が重複した合焦領域で自動合焦が行われる。
【0020】
このように、本発明に係る画像処理装置によれば、自動合焦を行う際に対象とする画像領域である合焦領域の少なくとも一部を、第2の表示用画像の画像領域の少なくとも一部に重複させているので、手動での焦点調整を違和感なく行うことができる。
【0021】
なお、本発明に係る画像処理装置において、上記自動合焦部は、上記第2の表示用画像の表示領域に対して予め定められた第1閾値以上の面積の割合で重複した合焦領域で自動合焦を行うようにしても良い。これにより、第2の表示用画像と合焦画像との重複の度合いを設定することができる。
【0022】
また、本発明に係る画像処理装置において、上記表示制御部は、上記表示部に対して上記合焦領域の範囲を示す情報を更に表示する制御を行うようにしても良い。これにより、ユーザが、合焦領域を視認することができるため、利便性を高めることができる。
【0023】
また、本発明に係る画像処理装置において、上記第2の表示用画像内の主要被写体に対応する領域の少なくとも一部を被写体領域として抽出する抽出部を更に備え、上記自動合焦部は、上記抽出部により抽出された上記被写体領域を上記合焦領域として自動合焦を行うようにしても良い。これにより、第2の表示用画像内における主要被写体に合焦させることができる。
【0024】
また、本発明に係る画像処理装置において、上記抽出部は、人の顔に対応する領域の少なくとも一部を上記被写体領域として抽出するようにしても良い。これにより、第2の表示用画像内における人の顔に合焦させることができる。
【0025】
また、本発明に係る画像処理装置において、上記自動合焦部は、上記第2の表示用画像の表示領域の少なくとも一部に少なくとも一部が重複し、かつ上記第1の表示用画像の表示領域内における中央部を含む予め定められた領域を上記合焦領域として自動合焦を行うようにしても良い。これにより、主要被写体が存在する可能性が高い画像領域を自動合焦の対象とすることができる。
【0026】
また、本発明に係る画像処理装置において、合焦領域の位置を示す位置情報の入力を受け付ける受付部を更に備え、自動合焦部は、受付部により受け付けられた位置情報に基づいて合焦領域の位置を移動して自動合焦を行うようにしても良い。これにより、ユーザにとって所望の領域を合焦領域として自動合焦を行うことができる。
【0027】
また、本発明に係る画像処理装置において、自動合焦部は、位置情報に基づいて移動させた後の合焦領域の少なくとも一部が、第2の表示用画像の表示領域の少なくとも一部に重複する場合のみ、当該移動を行って自動合焦を行うようにしても良い。これにより、より確実に違和感なく手動での焦点調整を行うことができる。
【0028】
また、本発明に係る画像処理装置において、表示制御部は、位置情報に基づいて移動させた後の合焦領域が、第2の表示用画像の表示領域外となる場合、第2の表示用画像の表示を停止する制御を行うようにしても良い。これにより、違和感のある焦点調整を回避することができる。
【0029】
また、本発明に係る画像処理装置において、受付部は、表示制御部により第2の表示用画像の表示を停止する制御を行った後に位置情報の入力を再度受け付け、表示制御部は、受付部により位置情報が再度受け付けられた場合、当該位置情報に基づいて移動させた後の合焦領域の少なくとも一部が、第2の表示用画像の表示領域の少なくとも一部に重複した場合、第2の表示用画像の表示を再開する制御を行うようにしても良い。これにより、ユーザによる合焦領域の移動先の指定が誤った場合でも、違和感のない焦点調整を行うことができる。
【0030】
また、本発明に係る画像処理装置において、上記第1の表示用画像内の主要被写体に対応する領域の少なくとも一部を第2被写体領域として抽出する第2抽出部を更に備え、上記自動合焦部は、上記第2抽出部により抽出された上記第2被写体領域が、上記第2の表示用画像の表示領域外となる場合、上記表示領域内で上記第2被写体領域からの距離が最短となる予め定められた大きさの領域を上記合焦領域として自動合焦を行うようにしても良い。これにより、主要被写体が第2の表示用画像の表示領域外に存在する場合であっても、より違和感なく焦点調整を行うことができる。
【0031】
また、本発明に係る画像処理装置において、上記第2の表示用画像の拡大を指示する拡大指示情報の入力を受け付ける第2受付部を更に備え、上記表示制御部は、上記第2受付部により上記拡大指示情報の入力が受け付けられた場合、上記第2の表示用画像を拡大させて表示させる制御を行い、上記自動合焦部は、上記表示制御部により上記第2の表示用画像を拡大して表示させる制御が行われた場合、上記第2の表示用画像の拡大率以下の拡大率で上記合焦領域を拡大して自動合焦を行うようにしても良い。これにより、第2の表示用画像及び合焦領域を拡大することに伴う合焦領域の第2の表示用画像に対するはみ出しの増加を防止することができる。
【0032】
また、本発明に係る画像処理装置において、上記自動合焦部は、上記拡大させた後の上記合焦領域の大きさが予め定められた第2閾値より大きくなる場合、上記合焦領域を上記第2閾値の大きさとして自動合焦を行うようにしても良い。これにより、合焦領域に主要被写体以外の画像が含まれることを抑制することができ、自動合焦の精度を高めることができる。
【0033】
一方、上記目的を達成するために、本発明に記載の撮像装置は、本発明に係る画像処理装置と、上記撮像レンズと、上記撮像素子と、を備えている。
【0034】
従って、本発明に係る撮像装置によれば、本発明に係る画像処理装置と同様に作用するので、本発明に係る画像処理装置と同様に、手動での焦点調整を違和感なく行うことができる。
【0035】
また、上記目的を達成するために、本発明に係るプログラムは、コンピュータを、撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ上記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成部と、画像を表示する表示部に対して上記生成部により生成された上記第1の表示用画像を表示し、かつ上記第1の表示用画像の表示領域内に上記生成部により生成された上記第2の表示用画像を表示する制御を行う表示制御部と、予め定められた指示が入力された場合、上記第2の表示用画像の表示領域の少なくとも一部に少なくとも一部が重複した合焦領域で自動合焦を行う自動合焦部と、として機能させる。
【0036】
従って、本発明に係るプログラムによれば、コンピュータを本発明に係る画像処理装置と同様に作用させるので、本発明に係る画像処理装置と同様に、手動での焦点調整を違和感なく行うことができる。
【0037】
更に、上記目的を達成するために、本発明に係る画像処理方法は、撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ上記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成ステップと、画像を表示する表示部に対して上記生成ステップにより生成された上記第1の表示用画像を表示し、かつ上記第1の表示用画像の表示領域内に上記生成ステップにより生成された上記第2の表示用画像を表示する制御を行う表示制御ステップと、予め定められた指示が入力された場合、上記第2の表示用画像の表示領域の少なくとも一部に少なくとも一部が重複した合焦領域で自動合焦を行う自動合焦ステップと、を備えている。
【0038】
従って、本発明に係る画像処理方法によれば、本発明に係る画像処理装置と同様に作用するので、本発明に係る画像処理装置と同様に、手動での焦点調整を違和感なく行うことができる。
【発明の効果】
【0039】
本発明によれば、手動での焦点調整を違和感なく行うことができる、という効果を奏する。
【図面の簡単な説明】
【0040】
図1】第1乃至第5実施形態に係るレンズ交換式カメラである撮像装置の外観の一例を示す斜視図である。
図2】第1乃至第5実施形態に係る撮像装置の背面側を示す背面図である。
図3】第1乃至第5実施形態に係る撮像装置の電気系の構成の一例を示すブロック図である。
図4】実施形態に係る撮像装置の撮像素子に設けられているカラーフィルタ及び遮光部材の配置の一例を示す概略配置図である。
図5】実施形態に係る撮像装置の撮像素子の位相差画素(第1の画素及び第2の画素)の構成の一例を示す概略構成図である。
図6】実施形態に係る撮像装置の要部機能の一例を示すブロック図である。
図7A】実施形態に係る通常画像及びスプリットイメージの表示態様の一例を示す正面図である。
図7B】実施形態に係る通常画像及びスプリットイメージの表示態様の一例を示す正面図である。
図8】第1実施形態に係る撮影制御処理プログラムの処理の流れを示すフローチャートである。
図9A】第1実施形態に係るスプリットイメージの領域の一例を示す正面図である。
図9B】第1実施形態に係るスプリットイメージ及び自動合焦の制御時の合焦領域の一例を示す正面図である。
図9C】第1実施形態に係るスプリットイメージ及び自動合焦の制御時の合焦領域の一例を示す正面図である。
図9D】第1実施形態に係るスプリットイメージ及び自動合焦の制御時の合焦領域の一例を示す正面図である。
図9E】第1実施形態に係るスプリットイメージ及び自動合焦の制御時の合焦領域の一例を示す正面図である。
図9F】第1実施形態に係るスプリットイメージ及び自動合焦の制御時の合焦領域の一例を示す正面図である。
図10】第2実施形態に係る撮影制御処理プログラムの処理の流れを示すフローチャートである。
図11A】第2実施形態に係るスプリットイメージ及び自動合焦の制御時の合焦領域の一例を示す正面図である。
図11B】第2実施形態に係るスプリットイメージ及び自動合焦の制御時の合焦領域の一例を示す正面図である。
図11C】第2実施形態に係るスプリットイメージ及び自動合焦の制御時の合焦領域の一例を示す正面図である。
図12】第3実施形態に係る撮影制御処理プログラムの処理の流れを示すフローチャートである。
図13A】第3実施形態に係る自動合焦の制御時の合焦領域の一例を示す正面図である。
図13B】第3実施形態に係るスプリットイメージ及び自動合焦の制御時の合焦領域の一例を示す正面図である。
図14】第4実施形態に係る撮影制御処理プログラムの処理の流れを示すフローチャートである。
図15A】第4実施形態に係るスプリットイメージ及び自動合焦の制御時の合焦領域の一例を示す正面図である。
図15B】第4実施形態に係るスプリットイメージ及び自動合焦の制御時の合焦領域の一例を示す正面図である。
図15C】第4実施形態に係るスプリットイメージ及び自動合焦の制御時の合焦領域の一例を示す正面図である。
図16】第5実施形態に係る撮影制御処理プログラムの処理の流れを示すフローチャートである。
図17A】第5実施形態に係るスプリットイメージ及び自動合焦の制御時の合焦領域の一例を示す正面図である。
図17B】第5実施形態に係るスプリットイメージ及び自動合焦の制御時の合焦領域の一例を示す正面図である。
図18】実施形態に係る撮像装置の撮像素子に設けられているカラーフィルタの配列及び遮光部材の配置の一例を示す概略配置図である。
図19】実施形態に係る撮像装置の撮像素子に設けられているカラーフィルタの配列及び遮光部材の配置の一例を示す概略配置図である。
図20】実施形態に係る撮像装置の撮像素子に設けられているカラーフィルタの配列及び遮光部材の配置の一例を示す概略配置図である。
図21】実施形態に係る撮像装置の撮像素子に設けられているカラーフィルタの配列及び遮光部材の配置の一例を示す概略配置図である。
図22】実施形態に係る撮像装置の撮像素子に設けられているカラーフィルタの配列及び遮光部材の配置の一例を示す概略配置図である。
図23】実施形態に係る撮像装置の撮像素子に設けられているカラーフィルタの配列及び遮光部材の配置の一例を示す概略配置図である。
図24】実施形態に係るスプリットイメージの表示領域の分割方法の一例を示す正面図である。
図25】実施形態に係るスプリットイメージの表示領域の分割方法の一例を示す正面図である。
図26A】実施形態に係るスプリットイメージの表示領域の分割方法の一例を示す正面図である。
図26B】実施形態に係るスプリットイメージの表示領域の分割方法の一例を示す正面図である。
図27】第6実施形態に係るスマートフォンの外観の一例を示す斜視図である。
図28】第6実施形態に係るスマートフォンの電気系の要部構成の一例を示すブロック図である。
【発明を実施するための形態】
【0041】
以下、添付図面に従って本発明に係る撮像装置の実施の形態の一例について説明する。
【0042】
[第1実施形態]
本実施形態に係る撮像装置100は、レンズ交換式カメラである。また、撮像装置100は、図1に示すように、カメラ本体200と、カメラ本体200に交換可能に装着される交換レンズ258(撮影レンズ、フォーカスリング260)と、を含み、レフレックスミラーが省略されたデジタルカメラである。また、カメラ本体200には、ハイブリッドファインダー(登録商標)220が設けられている。ここで言うハイブリッドファインダー220とは、例えば光学ビューファインダー(以下、「OVF」という)及び電子ビューファインダー(以下、「EVF」という)が選択的に使用されるファインダーを指す。
【0043】
カメラ本体200と交換レンズ258とは、カメラ本体200に備えられたマウント256と、マウント256に対応する交換レンズ258側のマウント346(図3参照)とが結合されることにより交換可能に装着される。また、交換レンズ258の鏡筒にはフォーカスリング260が設けられ、フォーカスリング260の回転操作に伴ってフォーカスレンズを光軸方向に移動させ、被写体距離に応じた合焦位置で後述の撮像素子20(図3参照)に被写体光を結像させることができる。
【0044】
カメラ本体200の前面には、ハイブリッドファインダー220に含まれるOVFのファインダー窓241が設けられている。また、カメラ本体200の前面には、ファインダー切替えレバー214が設けられている。ファインダー切替えレバー214を矢印SW方向に回動させると、OVFで視認可能な光学像とEVFで視認可能な電子像(ライブビュー画像)との間で切り換わるようになっている(後述)。なお、OVFの光軸L2は、交換レンズ258の光軸L1とは異なる光軸である。また、カメラ本体200の上面には、主としてレリーズスイッチ211及び撮影モードや再生モード等の設定用のダイヤル212が設けられている。
【0045】
レリーズスイッチ211は、待機位置から中間位置(半押し位置)まで押下される状態と、中間位置を超えた最終押下位置(全押し位置)まで押下される状態と、の2段階の押圧操作が検出可能に構成されている。なお、以下では、「待機位置から半押し位置まで押下される状態」を「半押し状態」といい、「待機位置から全押し位置まで押下される状態」を「全押し状態」という。本第1実施形態に係る撮像装置100では、レリーズスイッチ211を半押し状態にすることにより後述する撮影制御処理が実行され、その後、引き続き全押し状態にすると露光(撮影)が行われる。
【0046】
図2に示すように、カメラ本体200の背面には、OVFのファインダー接眼部242、表示部213、十字キー222、MENU/OKキー224、BACK/DISPボタン225が設けられている。
【0047】
十字キー222は、メニューの選択、ズームやコマ送り等の各種の指令信号を出力するマルチファンクションのキーとして機能する。MENU/OKキー224は、表示部213の画面上にメニューを表示させる指令を行うためのメニューボタンとしての機能と、選択内容の確定及び実行などを指令するOKボタンとしての機能とを兼備した操作キーである。BACK/DISPボタン225は、選択項目など所望の対象の消去や指定内容の取消、あるいは1つ前の操作状態に戻すときなどに使用される。
【0048】
表示部213は、例えばLCDにより実現され、撮影モード時に連続フレームで撮像されて得られた連続フレーム画像の一例であるライブビュー画像(スルー画像)の表示に用いられる。また、表示部213は、静止画撮影の指示が与えられた場合に単一フレームで撮像されて得られた単一フレーム画像の一例である静止画像の表示にも用いられる。更に、表示部213は、再生モード時の再生画像の表示やメニュー画面等の表示にも用いられる。
【0049】
撮像装置100は、撮影した静止画像や動画像を記録するデジタルカメラであり、カメラ全体の動作は、図3に示されるCPU(Central Processing Unit:中央処理装置)12によって統括制御されている。同図に示すように、撮像装置100は、CPU12の他に、操作部14、インタフェース部24、メモリ26及びエンコーダ34を含む。また、撮像装置100は、本発明に係る表示制御手段の一例である表示制御部36、接眼検出部37及び外部インタフェース(I/F)39を含む。また、撮像装置100は、本発明に係る生成手段及び視差算出手段の一例である画像処理部28を含む。
【0050】
CPU12、操作部14、インタフェース部24、メモリ26、画像処理部28、エンコーダ34、表示制御部36、接眼検出部37及び外部インタフェース(I/F)39は、バス40を介して相互に接続されている。なお、メモリ26は、パラメータやプログラムなどが記憶された不揮発性の記憶領域(一例としてEEPROMなど)と画像などの各種情報が一時的に記憶される揮発性の記憶領域(一例としてSDRAMなど)とを有する。
【0051】
なお、本第1実施形態に係る撮像装置100では、CPU12が、撮像によって得られた画像のコントラスト値が最大となるように焦点調整モータを駆動制御することによって合焦制御を行う。また、CPU12は、撮像によって得られた画像の明るさを示す物理量であるAE情報を算出する。CPU12は、レリーズスイッチ211が半押し状態とされたときには、AE情報により示される画像の明るさに応じたシャッタースピード及びF値を導出する。そして、導出したシャッタースピード及びF値となるように関係各部を制御することによって露出状態の設定を行う。
【0052】
操作部14は、撮像装置100に対して各種指示を与える際に操作者によって操作されるユーザインタフェースである。操作部14によって受け付けられた各種指示は操作信号としてCPU12に出力され、CPU12は、操作部14から入力された操作信号に応じた処理を実行する。
【0053】
操作部14は、レリーズスイッチ211、ダイヤル212、表示部213、ファインダー切替えレバー214、十字キー222、MENU/OKキー224及びBACK/DISPボタン225を含む。
【0054】
ダイヤル212により撮影モードが設定されると、被写体を示す画像光は、手動操作により移動可能なフォーカスレンズを含む撮影レンズ16及びシャッタ18を介してカラーの撮像素子(一例としてCMOSセンサ)20の受光面に結像される。撮像素子20に蓄積された信号電荷は、デバイス制御部22から加えられる読出し信号によって信号電荷(電圧)に応じたデジタル信号として順次読み出される。撮像素子20は、いわゆる電子シャッタ機能を有しており、電子シャッタ機能を働かせることで、読出し信号のタイミングによって各フォトセンサの電荷蓄積時間(シャッタスピード)を制御する。なお、本第1実施形態に係る撮像素子20は、CMOS型のイメージセンサであるが、これに限らず、CCDイメージセンサでもよい。
【0055】
撮像素子20には一例として図4に示すようなカラーフィルタ21が設けられている。一例として図4に示すように、カラーフィルタ21は、輝度信号を得るために最も寄与するG(緑)に対応する第1のフィルタG、R(赤)に対応する第2のフィルタR及びB(青)に対応する第3のフィルタBを含む。
【0056】
また、本実施形態に係る撮像装置100は、位相差AF機能を有する。更に、本実施形態に係る撮像素子20は、位相差AF機能を働かせた場合に用いられる複数の位相差検出用の画素を含む。この複数の位相差検出用の画素は予め定めたパターンで配置されている。
【0057】
位相差検出用の画素は、水平方向の左半分が遮光された第1の画素L及び水平方向の右半分が遮光された第2の画素Rの何れかである。なお、以下では、第1の画素L及び第2の画素Rを区別して説明する必要がない場合は「位相差画素」と称する。
【0058】
一例として図5に示すように、第1の画素Lは遮光部材20Aを有し、第2の画素Rは遮光部材20Bを有する。遮光部材20Aは、フォトダイオードPDの前面側(マイクロレンズM側)に設けられており、受光面の左半分を遮光する。一方、遮光部材20Bは、フォトダイオードPDの前面側に設けられており、受光面の右半分を遮光する。
【0059】
マイクロレンズM及び遮光部材20A,20Bは瞳分割部として機能し、第1の画素Lは、撮影レンズ16の射出瞳を通過する光束の光軸の左側のみを受光し、第2の画素Rは、撮影レンズ16の射出瞳を通過する光束の光軸の右側のみを受光する。このように、射出瞳を通過する光束は、瞳分割部であるマイクロレンズM及び遮光部材20A,20Bにより左右に分割され、それぞれ第1の画素Lおよび第2の画素Rに入射する。
【0060】
また、撮影レンズ16の射出瞳を通過する光束のうちの左半分の光束に対応する被写体像と、右半分の光束に対応する被写体像のうち、焦点が合っている(合焦状態である)部分は、撮像素子20上の同じ位置に結像する。これに対し、被写体より前に焦点が合っている前ピン又は被写体より後ろに焦点が合っている後ピンの部分は、それぞれ撮像素子20上の異なる位置に入射する(位相がずれる)。これにより、左半分の光束に対応する被写体像と右半分の光束に対応する被写体像とは、視差が異なる視差画像(左目画像、右目画像)として取得することができる。
【0061】
本実施形態に係る撮像装置100は、第1の画素Lの画素値と第2の画素Rの画素値とに基づいて位相のずれ量を検出する。そして、検出した位相のずれ量を提示することによって、ユーザ操作による撮影レンズ16の焦点位置の調整を補助する。なお、以下では、遮光部材20A,20Bを区別して説明する必要がない場合は符号を付さずに「遮光部材」と称する。
【0062】
本実施形態に係る撮像素子20は、第1の画素群、第2の画素群及び第3の画素群に分類される。第1の画素群とは、例えば複数の第1の画素Lを指す。第2の画素群とは、例えば複数の第2の画素Rを指す。第3の画素群とは、例えば複数の通常画素を指す。ここで言う「通常画素」とは、例えば位相差画素以外の画素(例えば遮光部材20A,20Bを有しない画素)を指す。なお、以下では、第1の画素群から出力される画像信号により示されるRAW画像を「第1の画像」と称する。また、第2の画素群から出力される画像信号により示されるRAW画像を「第2の画像」と称する。更に、第3の画素群から出力される画像信号により示されるRAW画像を「第3の画像」と称する。
【0063】
第1の画素群及び第2の画素群に含まれる各画素は、第1の画素群と第2の画素群との間で水平方向についての位置が1画素内で揃う位置に配置されている。また、第1の画素群及び第2の画素群に含まれる各画素は、第1の画素群と第2の画素群との間で垂直方向についての位置も1画素内で揃う位置に配置されている。図4に示す例では、水平方向及び垂直方向の各々について直線状に第1の画素Lと第2の画素Rとが複数画素分(本実施形態では、2画素分)の間隔を空けて交互に配置されている。
【0064】
また、図4に示す例では、第1及び第2の画素群に含まれる各画素の位置を水平方向及び垂直方向の各々について1画素内で揃う位置としているが、水平方向及び垂直方向の少なくとも一方について所定画素数内(例えば2画素以内)に収まる位置としてもよい。なお、ピントずれ以外の要因で画像ずれが発生するのを最大限に抑制するためには、一例として図4に示すように、第1及び第2の画素群に含まれる各画素の位置を水平方向及び垂直方向の各々について1画素内で揃う位置とすることが好ましい。
【0065】
位相差画素は、一例として図4に示すように、2×2画素(例えば、図4の正面視左上から3行3列目、3行4列目、4行3列目、及び4行4列目の画素)に対応する正方配列のGフィルタの画素に対して設けられている。本実施形態では、2×2画素のGフィルタのうちの図4の正面視右下角の画素が位相差画素に対して割り当てられている。
【0066】
このように、カラーフィルタ21では、2×2画素のGフィルタの右下角部の画素に対して遮光部材が設けられており、垂直方向及び水平方向ともに複数画素分の間隔を空けて位相差画素が規則的に配置されている。このため、位相差画素の周囲に通常画素が比較的多く配置されるので、通常画素の画素値から位相差画素の画素値を補間する場合における補間精度を向上させることができる。しかも、位相差画素間で補間に利用する通常画素が重複しないように第1乃至第3の画素群に含まれる各画素が配置されているので、補間精度のより一層の向上が期待できる。
【0067】
図3に戻って、撮像素子20は、第1の画素群から第1の画像を示す画像信号(各第1の画素の画素値を示すデジタル信号)を出力し、第2の画素群から第2の画像を示す画像信号(各第2の画素の画素値を示すデジタル信号)を出力する。また、撮像素子20は、第3の画素群から第3の画像を示す画像信号(各通常画素の画素値を示すデジタル信号)を出力する。なお、上記第3の画像は有彩色の画像であり、例えば通常画素の配列と同じカラー配列のカラー画像である。また、上記第1の画像、上記第2の画像及び上記第3の画像を示す画像データは、インタフェース部24を介してメモリ26における揮発性の記憶領域に一時記憶される。
【0068】
また、画像処理部28は、通常処理部30を有する。通常処理部30は、第3の画素群に対応するR,G,B信号を処理することで第1の表示用画像の一例である有彩色の通常画像を生成する。また、画像処理部28は、スプリットイメージ処理部32を有する。スプリットイメージ処理部32は、第1の画素群及び第2の画素群に対応するG信号を処理することで第2の表示用画像の一例である無彩色のスプリットイメージを生成する。なお、本実施形態に係る画像処理部28は、一例として、画像処理に係る複数の機能を実現する回路を1つにまとめた集積回路であるASIC(Application Specific Integrated Circuit)により実現される。ここで、CPU12は、後述する撮影制御処理プログラムを実行し、スプリットイメージ処理部32にスプリットイメージを生成させ、生成されたスプリットイメージを表示部213に表示させる制御を行う。しかし、画像処理部28のハードウェア構成はASICに限定されるものではなく、例えばプログラマブルロジックデバイスやCPU、ROM及びRAMを含むコンピュータなどの他のハードウェア構成であっても良い。
【0069】
一方、エンコーダ34は、入力された信号を別の形式の信号に変換して出力する。また、ハイブリッドファインダー220は、電子像を表示するLCD247を有する。LCD247における所定方向の画素数(一例として視差発生方向である水平方向の画素数)は、表示部213における同方向の画素数よりも少ない。表示制御部36は表示部213及びLCD247に各々接続されており、LCD247及び表示部213が選択的に制御されることによりLCD247又は表示部213により画像が表示される。なお、以下では、表示部213及びLCD247を区別して説明する必要がない場合は「表示装置」と称する。
【0070】
なお、本実施形態に係る撮像装置100は、ダイヤル212によりマニュアルフォーカスモードとオートフォーカスモードとを切り替え可能に構成されている。何れかのフォーカスモードが選択されると、表示制御部36は、スプリットイメージが合成されたライブビュー画像を表示装置に表示させる。また、ダイヤル212によりオートフォーカスモードが選択されると、CPU12は、位相差検出部及び自動焦点調整部として動作する。位相差検出部は、第1の画素群から出力された第1の画像と第2の画素群から出力された第2の画像との位相差を検出する。自動焦点調整部は、検出された位相差に基づいて撮影レンズ16のデフォーカス量をゼロにするように、デバイス制御部22からマウント256,346を介してレンズ駆動部(図示省略)を制御し、撮影レンズ16を合焦位置に移動させる。なお、上記の「デフォーカス量」とは、例えば第1の画像及び第2の画像の位相ずれ量を指す。
【0071】
また、接眼検出部37は、ユーザがファインダー接眼部242を覗き込んだことを検出し、検出結果をCPU12に出力する。従って、CPU12は、接眼検出部37での検出結果に基づいてファインダー接眼部242が使用されているか否かを把握することができる。
【0072】
更に、外部I/F39は、LAN(Local Area Network)やインターネットなどの通信網に接続され、通信網を介して、外部装置(例えばプリンタ)とCPU12との間の各種情報の送受信を司る。従って、撮像装置100は、外部装置としてプリンタが接続されている場合、撮影した静止画像をプリンタに出力して印刷させることができる。また、撮像装置100は、外部装置としてディスプレイが接続されている場合は、撮影した静止画像やライブビュー画像をディスプレイに出力して表示させることができる。
【0073】
図6に示すように、通常処理部30及びスプリットイメージ処理部32は、それぞれWBゲイン部、ガンマ補正部及び同時化処理部を有し(図示省略)、メモリ26に一時記憶された元のデジタル信号(RAW画像)に対して各処理部で順次信号処理を行う。すなわち、WBゲイン部は、R,G,B信号のゲインを調整することによりホワイトバランス(WB)を実行する。ガンマ補正部は、WBゲイン部でWBが実行された各R,G,B信号をガンマ補正する。同時化処理部は、撮像素子20のカラーフィルタ21の配列に対応した色補間処理を行い、同時化したR,G,B信号を生成する。なお、通常処理部30及びスプリットイメージ処理部32は、撮像素子20により1画面分のRAW画像が取得される毎に、そのRAW画像に対して並列に画像処理を行う。
【0074】
通常処理部30は、インタフェース部24からR,G,BのRAW画像が入力され、第3の画素群のR,G,B画素における位相差画像で遮光されている画素に対して、第1の画素群及び第2の画素群のうちの同色の周辺画素(例えば隣接するG画素)で補間する。そして、通常処理部30は、上記補間により得られる画像を、表示用の通常画像及び記録用の通常画像としても良い。
【0075】
また、通常処理部30は、生成した記録用の通常画像の画像データをエンコーダ34に出力する。通常処理部30により処理されたR,G,B信号は、エンコーダ34により記録用の信号に変換(エンコーディング)され、記録部42(図6参照)に記録される。また、通常処理部30は、生成した表示用の通常画像の画像データを表示制御部36に出力する。なお、以下では、説明の便宜上、上記の「記録用の通常画像」及び「表示用の通常画像」を区別して説明する必要がない場合は「記録用の」との文言及び「表示用の」との文言を省略して「通常画像」と称する。
【0076】
撮像素子20は、第1の画素群及び第2の画素群の各々の露出条件(一例として電子シャッタによるシャッタ速度)を変えることができ、これにより露出条件の異なる画像を同時に取得することができる。従って、画像処理部28は、露出条件の異なる画像に基づいて広ダイナミックレンジの画像を生成することができる。また、同じ露出条件で複数の画像を同時に取得することができ、これら画像を加算することによりノイズの少ない高感度の画像を生成し、あるいは高解像度の画像を生成することができる。
【0077】
一方、スプリットイメージ処理部32は、メモリ26に一旦記憶されたRAW画像から第1の画素群及び第2の画素群のG信号を抽出し、第1の画素群及び第2の画素群のG信号に基づいて無彩色のスプリットイメージを生成する。RAW画像から抽出される第1の画素群及び第2の画素群の各々は、上述したようにGフィルタの画素による画素群である。そのため、スプリットイメージ処理部32は、第1の画素群及び第2の画素群のG信号に基づいて、無彩色の左の視差画像及び無彩色の右の視差画像を生成することができる。なお、以下では、説明の便宜上、上記の「無彩色の左の視差画像」を「左目画像」と称し、上記の「無彩色の右の視差画像」を「右目画像」と称する。
【0078】
スプリットイメージ処理部32は、第1の画素群から出力された第1の画像に基づく左目画像と、第2の画素群から出力された第2の画像に基づく右目画像とを合成することによりスプリットイメージを生成する。生成したスプリットイメージの画像データは表示制御部36に出力される。
【0079】
表示制御部36は、通常処理部30から入力された第3の画素群に対応する記録用の画像データと、スプリットイメージ処理部32から入力された第1、第2の画素群に対応するスプリットイメージの画像データとに基づいて表示用の画像データを生成する。例えば、表示制御部36は、通常処理部30から入力された第3の画素群に対応する記録用の画像データにより示される通常画像の表示領域内に、スプリットイメージ処理部32から入力された画像データにより示されるスプリットイメージを合成する。そして、合成して得た画像データを表示装置に出力する。
【0080】
スプリットイメージ処理部32により生成されるスプリットイメージは、左目画像の一部と右目画像の一部とを合成した複数分割の画像である。ここで言う「複数分割の画像」としては、例えば図7A及び図7Bに示すスプリットイメージ300が挙げられる。スプリットイメージ300は、左目画像300Aを図7A及び図7Bの正面視上下方向に2つに分割した分割画像のうちの上半分の分割画像と、右目画像300Bを同様に分割した分割画像のうちの下半分の分割画像とを合成した画像である。スプリットイメージ300は、左目画像300A及び右目画像300Bの各分割画像間が合焦状態に応じた量だけ予め定められた方向(本実施形態では、図7A及び図7Bの正面視左右方向)にずれた画像である。
【0081】
本実施形態では、通常画像301にスプリットイメージ300を合成する際、通常画像の一部の画像に代えてスプリットイメージ300を嵌め込むことで合成するが、合成方法はこれに限定されない。例えば、通常画像301の上にスプリットイメージ300を重畳させる合成方法であってもよい。また、スプリットイメージ300を重畳する際に、スプリットイメージ300が重畳される領域に対応する通常画像301の一部の画像とスプリットイメージ300との透過率を適宜調整して重畳させる合成方法であってもよい。あるいは、通常画像301及びスプリットイメージ300を各々異なるレイヤで表示させても良い。これにより、ライブビュー画像における通常画像の表示領域内に、スプリットイメージ300を表示させることができる。なお、ライブビュー画像とは、連続的に撮影している被写体像を表示装置の画面上に連続的に表示させる際の、被写体像を示す画像である。
【0082】
また、図6に示すように、ハイブリッドファインダー220は、OVF240及びEVF248を含む。OVF240は、対物レンズ244と接眼レンズ246とを有する逆ガリレオ式ファインダーであり、EVF248は、LCD247、プリズム245及び接眼レンズ246を有する。
【0083】
また、対物レンズ244の前方には、液晶シャッタ243が配設されており、液晶シャッタ243は、EVF248を使用する際に、対物レンズ244に光学像が入射しないように遮光する。
【0084】
プリズム245は、LCD247に表示される電子像又は各種の情報を反射させて接眼レンズ246に導くと共に、光学像とLCD247に表示される情報(電子像、各種の情報)とを合成する。
【0085】
ここで、ファインダー切替えレバー214を図1に示す矢印SW方向に回動させると、回動させる毎にOVF240により光学像を視認することができるOVFモードと、EVF248により電子像を視認することができるEVFモードとが交互に切り替えられる。
【0086】
表示制御部36は、OVFモードの場合、液晶シャッタ243が非遮光状態になるように制御し、ファインダー接眼部242から光学像が視認できるようにする。また、LCD247には、スプリットイメージ300のみを表示させる。これにより、光学像の一部にスプリットイメージ300が重畳されたファインダー像を表示させることができる。
【0087】
一方、表示制御部36は、EVFモードの場合、液晶シャッタ243が遮光状態になるように制御し、ファインダー接眼部242からLCD247に表示される電子像のみが視認できるようにする。なお、LCD247には、表示部213に出力されるスプリットイメージ300が合成された画像データと同等の画像データが入力される。これにより、表示部213と同様に通常画像301の一部にスプリットイメージ300が合成された電子像を表示させることができる。
【0088】
表示装置に通常画像301及びスプリットイメージ300の各々を示す画像信号が入力されたとする。この場合、表示装置は、一例として図7A及び図7Bに示すように、入力された画像信号によって示されるスプリットイメージ300を画面中央部の矩形状とされたスプリットイメージ300の表示領域302に表示する。また、表示装置は、入力された画像信号が示す通常画像301をスプリットイメージ300の外周領域に表示する。また、表示装置は、スプリットイメージ300を示す画像信号が入力されずに通常画像301を示す画像信号のみが入力された場合、入力された画像信号によって示される通常画像301を表示装置の表示領域の全域に表示する。また、表示装置は、通常画像301を示す画像信号が入力されずにスプリットイメージ300を示す画像信号が入力された場合、入力された画像信号によって示されるスプリットイメージ300を表示領域302に表示し、外周領域を空白領域とする。
【0089】
ところで、本実施形態に係る撮像装置100は、マニュアルフォーカスモードに設定されている状態において予め定められた操作がされた場合、自動合焦制御を行う機能を備えている。そして、本実施形態に係る撮像装置100は、スプリットイメージ300を表示装置に表示すると共に、上記操作がされた場合に自動合焦制御を行い、また、撮影を指示する操作がされた場合に撮影を行う撮影制御処理を行う。
【0090】
次に、図8を参照して、本実施形態に係る撮像装置100の作用を説明する。なお、図8は、撮像装置100がマニュアルフォーカスモードに設定されていて、かつダイヤル212により撮影モードに設定された際にCPU12によって実行される撮影制御処理プログラムの処理の流れを示すフローチャートである。当該プログラムは、メモリ26の所定の記憶領域に予め記憶されている。
【0091】
なお、ここでは、レリーズスイッチ211が半押し状態にされた場合の処理についての記載を省略する。
【0092】
まず、ステップS401では、第1の画素群から出力された画像信号に基づく左目画像300Aを示す画像データ、及び第2の画素群から出力された画像信号に基づく右目画像300Bを示す画像データを、インタフェース部24を介して取得する。なお、取得した各画像データはCPU12により所定の記憶領域(例えばメモリ26)に記憶される。
【0093】
次のステップS403では、第3の画素群から出力された画像信号に基づく通常画像301を示す画像データを、インタフェース部24を介して取得する。この際、CPU12は、第3の画素群から出力された画像信号に基づく通常画像301を示す画像データを取得するが、通常画像301を示す画像データの取得方法はこれに限定されない。すなわち、取得した左目画像300A及び右目画像300Bの各々を示す画像データに基づいて通常画像301を示す画像データを生成しても良い。
【0094】
通常画像301を示す画像データを生成する方法としては、例えば、左目画像300Aまたは右目画像300Bをそのまま通常画像301とする方法が例示される。また、左目画像300Aまたは右目画像300Bにおいて隣接する各画素の間に補完画素を配置させ、当該補完画素を囲む画素の画素値の平均値を当該補完画素の画素値として通常画像301を示す画像データを生成する方法であっても良い。更に、通常画像301を生成する方法は、左目画像300A及び右目画像300Bを合成することにより通常画像301を生成する方法であっても良い。
【0095】
次のステップS405では、通常画像301を表示部213に表示させる制御を行う。なお、本実施形態では、通常画像301を表示部213に表示させるが、これに限定されず、LCD247に表示させても良い。また、接眼検出部37によってユーザがファインダー接眼部242を覗き込んだことを検出した場合には、通常画像301をLCD247に表示させ、それ以外の場合には、通常画像301を表示部213に表示させても良い。
【0096】
次のステップS407では、スプリットイメージ処理部32に対してスプリットイメージを生成させる制御を行う。まず、スプリットイメージ処理部32は、表示部213におけるスプリットイメージ300の表示領域を示す情報(以下、「表示領域情報」といい、本実施形態では、表示領域における中央部に位置し、かつ形状及び大きさが予め定められた領域である。)をメモリ26から読み出す。本実施形態では、メモリ26に、上記表示領域情報として、各表示装置の表示領域内における予め定められた座標系によって示される、表示領域302の範囲を示す情報が予め記憶されている。また、スプリットイメージ処理部32は、左目画像300A及び右目画像300Bの各々の分割方向を決定する。本実施形態では、上記分割方向を示す情報(以下、「分割方向情報」という。)がメモリ26に予め記憶されており、当該分割方向情報を読み出すことにより、上記分割方向を決定する。更に、スプリットイメージ処理部32は、左目画像300A及び右目画像300Bの各々の分割数を示す情報(以下、「分割数情報」という。)をメモリ26から読み出す。本実施形態では、メモリ26に、当該分割数情報が予め記憶されている。スプリットイメージ処理部32は、以上の処理によって得られた表示領域、分割方向、及び分割数の各々を示す情報に基づいてスプリットイメージ300を生成する。
【0097】
次のステップS409では、スプリットイメージ処理部32によって生成されたスプリットイメージ300を表示部213の表示領域に表示させる制御を行う。一例として図9Aに示すように、CPU12は、表示部213の表示領域の全体に通常画像301を表示させると共に、スプリットイメージ300を通常画像301の中央部に重畳させて表示させる制御を行う。
【0098】
次のステップS411では、操作部14を介した操作入力が行われたか否かを判定することにより、ユーザによる操作入力がされたか否かを判定する。ステップS411で肯定判定となった場合はステップS413に移行し、否定判定となった場合は後述するステップS435に移行する。
【0099】
次のステップS413では、操作部14を介した操作入力が自動合焦制御の指示であるか否かを判定する。この際、CPU12は、操作部14により自動合焦制御の指示を入力するための予め定められた操作がされた場合に、操作部14を介した操作入力が自動合焦制御の指示であると判定する。ステップS413で肯定判定となった場合はステップS415に移行する一方、否定判定となった場合は後述するステップS425に移行する。
【0100】
次のステップS415では、スプリットイメージ300の表示領域内に存在する主要被写体を認識する。本実施形態に係る撮像装置100では、CPU12は、スプリットイメージ300から主要被写体を認識し、主要被写体の重心を中心とし、かつ形状及び大きさが予め定められた領域を抽出し、抽出した領域を被写体領域304とする。本実施形態に係る被写体領域304は、一例として図9Bに示すように、形状や大きさが予め定められた矩形状の領域とする。しかし、被写体領域304の決定方法はこれに限定されず、通常画像301の表示領域を予め定められた分割数(例えば、7×7)で格子状に分割して得られる複数の領域のうち、上記主要被写体の重心が含まれる領域を被写体領域340としても良い。また、本実施形態に係る撮像装置100に顔認識機能を付加させ、主要被写体として、人の顔を認識しても良い。
【0101】
なお、本実施形態に係る撮像装置100では、CPU12は、ステップS415の処理において主要被写体が認識されなかった場合、スプリットイメージ300において撮像装置100に最も近い位置にある物体を主要被写体とする。しかし、主要被写体が認識されなかった場合の主要被写体の認識方法はこれに限定されず、スプリットイメージ300の中央部を中心とし、かつ予め定められた形状及び大きさの領域としても良い。
【0102】
次のステップS417では、自動合焦制御を行うための領域である合焦領域の位置を調整する。本実施形態に係る撮像装置100では、主要被写体に対応する領域、すなわち抽出した被写体領域304を合焦領域306とする。この際、図9Bに示すように、被写体領域304はスプリットイメージ300の内部で抽出された領域であるため、合焦領域は、スプリットイメージ300の表示領域と重複する。しかし、合焦領域306の位置を、スプリットイメージ300の表示領域の少なくとも一部に少なくとも一部(例えば重複する面積の割合が予め定められた閾値以上)を重複するように調整しても良い。なお、本実施形態では、当該閾値を5割とする。すなわち、合焦領域306の全体の面積のうち半分以上の面積がスプリットイメージ300と重複するように調整しても良い。
【0103】
次のステップS421では、通常画像301及びスプリットイメージ300に重畳させて、合焦領域の範囲を示す情報を表示部213に表示させる制御を行う。本実施形態では、図9Cに示すように、CPU12は、合焦領域306の外枠を示す外枠画像308を表示させる。なお、既にステップS413乃至S423の処理を行い、合焦領域306を表示している場合には、合焦領域306を上記ステップS417で調整した位置に再表示する。なお、合焦領域306の範囲を示す情報として、合焦領域306内の表示色を予め定められた色合いとしたり、合焦領域306内に網目やメッシュ等を表示したりしても良い。
【0104】
次のステップS423では、調整した合焦領域で自動合焦制御を行う。この際、CPU12は、上述したように、位相差検出部及び自動焦点調整部として動作し、撮影レンズ16による焦点位置を合焦位置に移動させることで、合焦領域306内の被写体像を用いて自動合焦制御を行う。
【0105】
ステップS425では、操作部14を介した操作入力が合焦領域306を移動させるための指示を示す移動指示情報であるか否かを判定する。当該移動指示情報は、合焦領域306の移動先を示す情報を含んだ情報であり、例えば、移動方向と移動量を示す情報である。本実施形態に係る移動指示情報において、移動方向は例えば十字キー222により入力され、移動量は例えば十字キー222の操作回数により入力される。
【0106】
ステップS425で否定判定となった場合はステップS427に移行し、操作入力に応じた処理を行った後、ステップS435に移行する。
【0107】
ステップS425で否定判定となった場合は後述するステップS435に移行する一方、肯定判定となった場合はステップS427に移行する。一方、ステップS425で肯定判定となった場合はステップS429に移行する。
【0108】
ステップS429では、上記移動指示情報により指定された合焦領域306の移動先が、合焦領域306の設定が許可された許可範囲内であるか否かを判定する。なお、本実施形態に係る許可範囲は、スプリットイメージ300の表示領域とされる。これは、ユーザがスプリットイメージ300を用いて焦点調整を行っていることを考慮したものであり、自動合焦制御を行う合焦領域306をスプリットイメージ300の表示領域内とすることで、ユーザによる焦点調整を効果的に補助することができるからである。
【0109】
ステップS429で否定判定となった場合はステップS421に移行し、移動先が許可範囲外であることを示す警告をユーザに報知し、上記ステップS413に移行する。本実施形態に係る撮像装置100では、一例として図9Dに示すように、表示部213に当該警告を示す情報310を表示させることにより警告をユーザに報知するが、報知する方法はこれに限定されず、例えば当該警告を音声で出力させても良い。
【0110】
一方、ステップS429で肯定判定となった場合はステップS433に移行し、合焦領域306を移動させて再表示を行う。一例として図9Eに示すように、CPU12は、合焦領域306をユーザにより指定された位置に移動すると共に、図9Fに示すように、移動させた合焦領域306の外枠を示す外枠画像308を再表示する。
【0111】
次のステップS435では、撮影指示が入力されたか否かを判定する。この際、CPU12は、レリーズスイッチ211に対する全押し操作が検出された場合に、撮影指示が入力されたと判定する。ステップS429で否定判定となった場合は上述したステップS401に戻る一方、肯定判定となった場合はステップS437に移行する。
【0112】
ステップS437では、通常画像301を示す画像データをメモリ26に記録する撮影処理を行い、本撮影制御処理プログラムを終了する。なお、上記撮影処理は一般的に行われている処理であるため、ここでの説明を省略する。
【0113】
なお、本実施形態に係る撮像装置100では、移動指示情報は、移動方向と移動量を示す情報を含んだ情報であるが、移動指示情報に含まれている情報はこれに限定されない。例えば、移動指示情報は、移動方向と移動量を示す情報を含んだ情報の代わりに、移動先とする、通常画像301上(表示領域上の位置)の位置を示す情報を含んだであっても良い。この場合、上記ステップS429では、上記移動指示情報により指定された位置に合焦領域306を移動させた場合の当該合焦領域306の位置が、合焦領域306の設定が許可された許可範囲内であるか否かを判定する。
【0114】
また、スプリットイメージ300を用いたマニュアルフォーカスモードにおいて、複数の合焦領域306で自動合焦制御を行う場合がある(所謂多点オートフォーカス制御)。この場合には、スプリットイメージ300の表示領域と重複する合焦領域306のみを有効な合焦領域306とし、有効な合焦領域306のみで自動合焦制御を行う。この場合、スプリットイメージ300と重複している領域の面積が、全体の面積の半分以下となる合焦領域306を、無効な合焦領域306としても良い。
【0115】
[第2実施形態]
以下、第2実施形態に係る撮像装置100について添付図面を用いて詳細に説明する。
【0116】
上記第1実施形態では、被写体領域304を合焦領域306とする一方、第2実施形態では、予め定められた領域を合焦領域306とする。
【0117】
なお、第2実施形態に係る撮像装置100の構成は、第1実施形態に係る撮像装置100と同様であるので、ここでは説明は省略する。ただし、本実施形態に係るメモリ26には、合焦領域306の表示位置を示す情報が予め記憶されている。本実施形態では、合焦領域306の表示位置を示す情報は、表示装置の表示領域の中央部とする。
【0118】
次に、図10を参照して、本実施形態に係る撮影制御処理を実行する際の撮影装置100の作用を説明する。なお、図10は、この際に撮影装置100のCPU12によって実行される撮影制御処理プログラムの処理の流れを示すフローチャートである。当該プログラムは、メモリ26の所定領域に予め記憶されている。
【0119】
また、第1実施形態の撮影制御処理と同一のステップには同一のステップ番号を付し、重複する説明を省略する。
【0120】
本実施形態では、ステップS413で否定判定となった場合はステップS426に移行し、操作入力に応じた処理を行った後に、ステップS435に移行する。
【0121】
また、ステップS413の処理を行った後、ステップS416に移行する。
【0122】
ステップS416では、上記合焦領域306の表示位置を示す位置情報をメモリ26から読み出すことにより、合焦領域306の表示位置を示す情報を取得する。
【0123】
次のステップS417では、上記位置情報に基づいて、自動合焦制御を行うための領域である合焦領域の位置を調整する。本実施形態に係る撮像装置100では、一例として図11Aに示すように、上記位置情報によって示される位置(表示装置の表示領域の中央部)を中心とし、かつ形状及び大きさが予め定められた矩形状の領域を合焦領域306とする。この際、スプリットイメージ300の表示位置が表示装置の表示領域の中央部からずれていた場合には、一例として図11Bに示すように、スプリットイメージ300内において表示装置の表示領域の中央部に最も近い位置に合焦領域306を設定すると良い。また、上記位置情報によって示される位置はこれに限定されず、一例として図11Cに示すように、スプリットイメージ300内の中央部を合焦領域306の中心としても良い。
【0124】
[第3実施形態]
以下、第3実施形態に係る撮像装置100について添付図面を用いて詳細に説明する。
【0125】
上記第1実施形態では、主要被写体をスプリットイメージ300内で認識する一方、第3実施形態では、主要被写体を通常画像301内で認識する。
【0126】
なお、第3実施形態に係る撮像装置100の構成は、第1実施形態及び第2実施形態に係る撮像装置100と同様であるので、ここでは説明は省略する。
【0127】
次に、図12を参照して、本実施形態に係る撮影制御処理を実行する際の撮影装置100の作用を説明する。なお、図12は、この際に撮影装置100のCPU12によって実行される撮影制御処理プログラムの処理の流れを示すフローチャートである。当該プログラムは、メモリ26の所定領域に予め記憶されている。
【0128】
また、第1実施形態及び第2実施形態の撮影制御処理と同一のステップには同一のステップ番号を付し、重複する説明を省略する。
【0129】
本実施形態では、ステップS413で肯定判定となった場合はステップS4161に移行する。
【0130】
ステップS4161では、通常画像301の表示領域内に存在する主要被写体を認識する。主要被写体を認識する方法は、上記第1実施形態のステップS415と同様であるため、ここでは説明を省略する。
【0131】
次のステップS4162では、主要被写体に対応する被写体領域304がスプリットイメージ300の外部に位置するか否かを判定する。なお、本実施形態では、CPU12は、被写体領域304のうちスプリットイメージ300の表示領域と重複している領域の面積の割合が予め定められた第3閾値より小さい場合に、スプリットイメージ300の外部に位置すると判定する。
【0132】
ステップS4161で肯定判定となった場合はステップS1163に移行する一方、否定判定となった場合はステップS417に移行する。
【0133】
ステップS4163では、スプリットイメージ300内において被写体領域304からの距離が最短となり、かつ形状及び大きさが予め定められた矩形状の領域を導出し、ステップS417に移行する。
【0134】
ステップS417では、合焦領域306の位置を調整する。本実施形態に係る撮像装置100では、一例として図13Aに示すように、被写体領域304がスプリットイメージ300の外部に位置したとする。この場合、一例として図13Bに示すように、上記ステップS4163の処理により導出した、スプリットイメージ300内において被写体領域304からの距離が最短となる領域を合焦領域306とする。一方、本実施形態に係る撮像装置100では、被写体領域304がスプリットイメージ300の内部に位置する場合、抽出した被写体領域304を合焦領域406とする。
【0135】
[第4実施形態]
以下、第4実施形態に係る撮像装置100について添付図面を用いて詳細に説明する。
【0136】
上記第3実施形態では、被写体領域304がスプリットイメージ300外に位置した場合、スプリットイメージ300内に合焦領域306を設定する。一方、第4実施形態では、被写体領域304がスプリットイメージ300外に位置した場合、被写体領域304を合焦領域306とすると共に、スプリットイメージ300の表示を停止する。
【0137】
なお、第4実施形態に係る撮像装置100の構成は、第1実施形態乃至第3実施形態に係る撮像装置100と同様であるので、ここでは説明は省略する。
【0138】
次に、図14を参照して、本実施形態に係る撮影制御処理を実行する際の撮影装置100の作用を説明する。なお、図14は、この際に撮影装置100のCPU12によって実行される撮影制御処理プログラムの処理の流れを示すフローチャートである。当該プログラムは、メモリ26の所定領域に予め記憶されている。
【0139】
また、第1実施形態乃至第3実施形態の撮影制御処理と同一のステップには同一のステップ番号を付し、重複する説明を省略する。
【0140】
本実施形態では、ステップS4162で肯定判定となった場合はステップS4164に移行する一方、否定判定となった場合にはステップS4165に移行する。
【0141】
ステップS4164では、通常画像301に重畳させてスプリットイメージ300を表示部213に表示させる制御を行い、ステップS417に移行する。なお、この時点でスプリットイメージ300を表示している場合には、CPU12は、スプリットイメージ300の表示を継続する。
【0142】
ステップS4165では、スプリットイメージ300の表示を表示部213に停止させる制御を行い、ステップS417に移行する。なお、この時点でスプリットイメージ300の表示を停止している場合には、CPU12は、スプリットイメージ300の表示の停止を継続する。
【0143】
ステップS417では、合焦領域306の位置を調整する。本実施形態に係る撮像装置100では、被写体領域304がスプリットイメージ300の内部に位置した場合、CPU12は、一例として図15Aに示すように、スプリットイメージ300を表示する。一方、被写体領域304がスプリットイメージ300の外部に位置した場合には、CPU12は、一例として図15Bに示すように、スプリットイメージ300の表示を停止する。
【0144】
また、ステップS433の処理を行った後、ステップS4331に移行し、ステップS4331乃至S4333では、上記ステップS4162、S4164及びS4165と同様の処理を行い、ステップS435に移行する。なお、一例として図15Bに示すように、スプリットイメージ300の表示を停止した状態で被写体領域304がスプリットイメージ300の内部に移動したとする。この場合、CPU12は、一例として15Cに示すように、スプリットイメージ300を再び表示する。
【0145】
[第5実施形態]
以下、第5実施形態に係る撮像装置100について添付図面を用いて詳細に説明する。
【0146】
上記第1実施形態では、ユーザによる操作入力に基づいて合焦領域306を移動させる制御を行う一方、第5実施形態では、ユーザによる操作入力に基づいてスプリットイメージ300を拡大させる制御を行う。
【0147】
なお、第5実施形態に係る撮像装置100の構成は、第1実施形態乃至第4実施形態に係る撮像装置100と同様であるので、ここでは説明は省略する。ただし、本実施形態に係るメモリ26は、合焦領域306の大きさの上限値を示す上限情報を予め記憶している。
【0148】
次に、図16を参照して、本実施形態に係る撮影制御処理を実行する際の撮影装置100の作用を説明する。なお、図16は、この際に撮影装置100のCPU12によって実行される撮影制御処理プログラムの処理の流れを示すフローチャートである。当該プログラムは、メモリ26の所定領域に予め記憶されている。
【0149】
また、第1実施形態乃至第4実施形態の撮影制御処理と同一のステップには同一のステップ番号を付し、重複する説明を省略する。
【0150】
本実施形態では、ステップS413で肯定判定となった場合はステップS4161に移行する一方、否定判定となった場合はステップS426に移行する。
【0151】
ステップS426では、操作部14を介した操作入力がスプリットイメージ300を拡大する指示であるか否かを判定する。本実施形態では、操作部14を介して拡大率を示す情報を含む拡大情報が入力された場合に、操作部14を介した操作入力がスプリットイメージ300を拡大する指示であると判定する。ステップS426で否定判定となった場合はステップS427に移行する一方、肯定判定となった場合ステップS430に移行する。
【0152】
ステップS430では、上記指示情報に基づいてスプリットイメージ300を拡大させた際に当該拡大に伴って拡大させた合焦領域306の大きさが予め定められた範囲内であるか否かを判定する。なお、本実施形態では、当該予め定められた範囲は、合焦領域306の大きさが上記上限情報により示される上限値以下となる範囲である。
【0153】
ステップS430で肯定判定となった場合はステップS432に移行する一方、否定判定となった場合は後述するステップS434に移行する。
【0154】
ステップS432では、合焦領域306を拡大させる際の拡大率を制限した後、ステップS434に移行する。本実施形態に係る撮像装置100では、CPU12は、合焦領域306を拡大させる際の拡大率を、拡大後の合焦領域306の大きさが上記上限値となる拡大率とする。
【0155】
ステップS434では、表示部213に対してスプリットイメージ300及び合焦領域306を拡大させて表示させる制御を行う。この際、CPU12は、一例として図17Aに示すように、拡大させた合焦領域306の大きさが予め定められた範囲内である場合、スプリットイメージ300の拡大率に応じた拡大率で合焦領域306を拡大させる。一方、一例として図17Bに示すように、拡大させた合焦領域306の大きさが予め定められた範囲外である場合、制限された拡大率で合焦領域306を拡大させる。
【0156】
なお、上記第1実施形態乃至第5実施形態では、2×2画素のGフィルタに対して単一の位相差画素を配置する形態例を挙げて説明したが、これに限らず、例えば2×2画素のGフィルタに対して一対の第1画素L及び第2画素Rを配置してもよい。例えば図18に示すように、2×2画素のGフィルタに対して行方向に隣接した一対の第1画素L及び第2画素Rを配置してもよい。また、例えば図19に示すように、2×2画素のGフィルタに対して列方向に隣接した一対の第1画素L及び第2画素Rを配置してもよい。いずれの場合も上記第1実施形態で説明したように、第1画素L及び第2画素Rの位置を、第1の画素群と第2の画素群との間で列方向及び行方向の少なくとも一方について所定画素数内で揃えることが好ましい。なお、図18及び図19には、第1画素Lと第2画素Rとを、第1の画素群と第2の画素群との間で列方向及び行方向の各々についての位置を1画素内で揃えた位置に配置した例が示されている。
【0157】
また、上記第1実施形態乃至第5実施形態では、基本配列パターンCを有するカラーフィルタ21を例示したが、本発明はこれに限定されるものではない。例えば図20〜22に示すようにカラーフィルタの原色(Rフィルタ,Gフィルタ,Bフィルタ)の配列をベイヤ配列としてもよい。図20図22に示す例では、Gフィルタに対して位相差画素が配置されている。
【0158】
一例として図20に示すカラーフィルタ21Aは、3×3画素の正方行列の四隅及び中央がGフィルタとされた配列パターンG1の中央に位相差画素が配置されている。また、第1の画素Lと第2の画素Rとが行方向及び列方向の各々について1画素分のGフィルタを飛ばして(1画素分のGフィルタを間に置いて)交互に配置されている。また、第1画素Lと第2画素Rとが、第1の画素群と第2の画素群との間で列方向及び行方向の各々についての位置を1画素内で揃えた位置に配置されている。これにより、配列パターンG1の中央の位相差画素に基づく画像は配列パターンG1の四隅の通常画素に基づく画像を利用して補間可能となるため、本構成を有しない場合に比べ、補間精度を向上させることができる。
【0159】
しかも、配列パターンG1の各々は互いに位置が重複していない。つまり、第1の画素L及び第2の画素Rは、第1及び第2の画素群に含まれる各画素に隣接する第3の画素群に含まれる画素による第3の画像で補間する第1及び第2の画像に含まれる画素が画素単位で重複しない位置に配置されている。そのため、位相差画素に基づく画像が他の位相差画素に基づく画像の補間で利用された通常画素に基づく画像で補間されることを回避することができる。よって、補間精度のより一層の向上が期待できる。
【0160】
一例として図21に示すカラーフィルタ21Bは、配列パターンG1の中央及び図中正面視右下角に位相差画素が配置されている。また、第1の画素Lと第2の画素Rとが行方向及び列方向の各々について2画素分のGフィルタを飛ばして(2画素分のGフィルタを間に置いて)交互に配置されている。これにより、第1画素Lと第2画素Rとが、第1の画素群と第2の画素群との間で列方向及び行方向の各々についての位置を1画素内で揃えた位置に配置され、第1の画素L及び第2の画素Rを隣接させることができる。よって、ピントずれ以外の要因で画像ずれが発生するのを抑制することができる。
【0161】
しかも、各位相差画素には同色のフィルタ(Gフィルタ)が設けられた通常画素が隣接するので、補間精度を向上させることができる。その上、配列パターンG1の各々は互いに位置が重複していない。つまり、第1の画素L及び第2の画素Rは、第1及び第2の画素群に含まれる各画素に隣接する第3の画素群に含まれる画素による第3の画像で補間する第1及び第2の画像に含まれる画素が一対の画素単位で重複しない位置に配置されている。ここで言う「一対の画素」とは、例えば各配列パターンG1に含まれる第1の画素L及び第2の画素R(一対の位相差画素)を指す。そのため、一対の位相差画素に基づく画像が他の一対の位相差画素に基づく画像の補間で利用された通常画素に基づく画像で補間されることを回避することができる。よって、補間精度のより一層の向上が期待できる。
【0162】
一例として図22に示すカラーフィルタ21Cは、配列パターンG1の中央に第1の画素Lが、図中正面視右下角に第2の画素Rが配置されている。また、第1の画素Lは行方向及び列方向の各々について2画素分のGフィルタを飛ばして配置されており、第2の画素Rも行方向及び列方向の各々について2画素分のGフィルタを飛ばして配置されている。これにより、第1画素Lと第2画素Rとが、第1の画素群と第2の画素群との間で列方向及び行方向の各々についての位置を2画素内で揃えた位置に配置され、第1の画素L及び第2の画素Rを隣接させることができる。よって、ピントずれ以外の要因で画像ずれが発生するのを抑制することができる。
【0163】
しかも、図22に示す例においても図21に示す例と同様に配列パターンG1の各々は互いに位置が重複していない。そのため、位相差画素に基づく画像が他の位相差画素に基づく画像の補間で利用された通常画素に基づく画像で補間されることを回避することができる。よって、補間精度のより一層の向上が期待できる。
【0164】
また、カラーフィルタの他の構成例としては、例えば図23に示すカラーフィルタ21Dが挙げられる。図23には撮像素子20に設けられているカラーフィルタ21Dの原色(Rフィルタ,Gフィルタ,Bフィルタ)の配列及び遮光部材の配置の一例が模式的に示されている。図23に示すカラーフィルタ21Dでは、第1〜第4の行配列が列方向について繰り返し配置されている。第1の行配列とは、行方向に沿ってBフィルタ及びGフィルタが交互に配置された配列を指す。第2の行配列とは、第1の行配列を行方向に半ピッチ(半画素分)ずらした配列を指す。第3の行配列とは、行方向に沿ってGフィルタ及びRフィルタが交互に配置された配列を指す。第4の行配列とは、第3の行配列を行方向に半ピッチずらした配列を指す。
【0165】
第1の行配列及び第2の行配列は列方向について半ピッチずれて隣接している。第2の行配列及び第3の行配列も列方向について半ピッチずれて隣接している。第3の行配列及び第4の行配列も列方向について半ピッチずれて隣接している。第4の行配列及び第1の行配列も列方向について半ピッチずれて隣接している。従って、第1〜4の行配列の各々は、列方向について2画素毎に繰り返し現れる。
【0166】
第1の画素L及び第2の画素Rは、一例として図23に示すように、第3及び第4の行配列に対して割り当てられている。すなわち、第1の画素Lは、第3の行配列に対して割り当てられており、第2の画素Rは、第4の行配列に対して割り当てられている。また、第1の画素L及び第2の画素Rは、互いに隣接して(最小ピッチ)で対になって配置されている。また、図23に示す例では、第1の画素Lは、行方向及び列方向の各々について6画素毎に割り当てられており、第2の画素Rも、行方向及び列方向の各々について6画素毎に割り当てられている。これにより、第1の画素群と第2の画素群との位相差は、本構成を有しない場合と比較して、高精度に算出される。
【0167】
また、図23に示す例では、第1の画素L及び第2の画素RにはGフィルタが割り当てられている。Gフィルタが設けられた画素は他色のフィルタが設けられた画素に比べ感度が良いため、補間精度を高めることができる。しかも、Gフィルタは、他色のフィルタに比べ、連続性があるため、Gフィルタが割り当てられた画素は他色のフィルタが割り当てられた画素に比べ補間がし易くなる。
【0168】
また、上記第1実施形態では、上下方向に2分割されたスプリットイメージを例示したが、これに限らず、左右方向又は斜め方向に複数分割された画像をスプリットイメージとして適用してもよい。
【0169】
例えば、図24に示すスプリットイメージ66aは、行方向に平行な複数の分割線63aにより奇数ラインと偶数ラインとに分割されている。このスプリットイメージ66aでは、第1の画素群から出力された出力信号に基づいて生成されたライン状(一例として短冊状)の位相差画像66Laが奇数ライン(偶数ラインでも可)に表示される。また、第2の画素群から出力された出力信号に基づき生成されたライン状(一例として短冊状)の位相差画像66Raが偶数ラインに表示される。
【0170】
また、図25に示すスプリットイメージ66bは、行方向に傾き角を有する分割線63b(例えば、スプリットイメージ66bの対角線)により2分割されている。このスプリットイメージ66bでは、第1の画素群から出力された出力信号に基づき生成された位相差画像66Lbが一方の領域に表示される。また、第2の画素群から出力された出力信号に基づき生成された位相差画像66Rbが他方の領域に表示される。
【0171】
また、図26A及び図26Bに示すスプリットイメージ66cは、行方向及び列方向にそれぞれ平行な格子状の分割線63cにより分割されている。スプリットイメージ66cでは、第1の画素群から出力された出力信号に基づき生成された位相差画像66Lcが市松模様(チェッカーパターン)状に並べられて表示される。また、第2の画素群から出力された出力信号に基づき生成された位相差画像66Rcが市松模様状に並べられて表示される。
【0172】
更に、スプリットイメージに限らず、2つの位相差画像から他の合焦確認画像を生成し、合焦確認画像を表示するようにしてもよい。例えば、2つの位相差画像を重畳して合成表示し、ピントがずれている場合は2重像として表示され、ピントが合った状態ではクリアに画像が表示されるようにしてもよい。
【0173】
なお、上記第1実施形態乃至第5実施形態で説明した撮影制御処理の流れはあくまでも一例である。従って、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよいことは言うまでもない。また、上記第1実施形態乃至第5実施形態で説明した画像生成出力処理に含まれる各処理は、プログラムを実行することにより、コンピュータを利用してソフトウェア構成により実現されてもよいし、その他のハードウェア構成で実現されてもよい。また、ハードウェア構成とソフトウェア構成の組み合わせによって実現してもよい。
【0174】
上記第1実施形態乃至第5実施形態で説明した撮影制御処理を、コンピュータによりプログラムを実行することにより実現する場合は、プログラムを所定の記憶領域(例えばメモリ26)に予め記憶しておけばよい。なお、必ずしも最初からメモリ26に記憶させておく必要はない。例えば、コンピュータに接続されて使用されるSSD(Solid State Drive)、CD−ROM、DVDディスク、光磁気ディスク、ICカードなどの任意の「可搬型の記憶媒体」に先ずはプログラムを記憶させておいてもよい。そして、コンピュータがこれらの可搬型の記憶媒体からプログラムを取得して実行するようにしてもよい。また、インターネットやLAN(Local Area Network)などを介してコンピュータに接続される他のコンピュータまたはサーバ装置などに各プログラムを記憶させておき、コンピュータがこれらからプログラムを取得して実行するようにしてもよい。
【0175】
[第6実施形態]
上記第1実施形態乃至第5実施形態では、撮像装置100を例示したが、撮像装置100の変形例である携帯端末装置としては、例えばカメラ機能を有する携帯電話機やスマートフォン、PDA(Personal Digital Assistants)、携帯型ゲーム機などが挙げられる。以下、スマートフォンを例に挙げ、図面を参照しつつ、詳細に説明する。
【0176】
図27は、スマートフォン500の外観の一例を示す斜視図である。図27に示すスマートフォン500は、平板状の筐体502を有し、筐体502の一方の面に表示部としての表示パネル521と、入力部としての操作パネル522とが一体となった表示入力部520を備えている。また、筐体502は、スピーカ531と、マイクロホン532と、操作部540と、カメラ部541とを備えている。なお、筐体502の構成はこれに限定されず、例えば、表示部と入力部とが独立した構成を採用したり、折り畳み構造やスライド構造を有する構成を採用することもできる。
【0177】
図28は、図27に示すスマートフォン500の構成の一例を示すブロック図である。図28に示すように、スマートフォン500の主たる構成要素として、無線通信部510と、表示入力部520と、通話部530と、操作部540と、カメラ部541と、記憶部550と、外部入出力部560と、を備える。また、スマートフォン500の主たる構成要素として、GPS(Global Positioning System)受信部570と、モーションセンサ部580と、電源部590と、主制御部501と、を備える。また、スマートフォン500の主たる機能として、基地局装置と移動通信網とを介した移動無線通信を行う無線通信機能を備える。
【0178】
無線通信部510は、主制御部501の指示に従って、移動通信網に収容された基地局装置に対して無線通信を行うものである。この無線通信を使用して、音声データ、画像データ等の各種ファイルデータ、電子メールデータなどの送受信や、Webデータやストリーミングデータなどの受信を行う。
【0179】
表示入力部520は、いわゆるタッチパネルであって、表示パネル521と、操作パネル522とを備える。そのため、表示入力部520は、主制御部501の制御により、画像(静止画像および動画像)や文字情報などを表示して視覚的にユーザに情報を伝達するとともに、表示した情報に対するユーザ操作を検出する。なお、生成された3Dを鑑賞する場合には、表示パネル521は、3D表示パネルであることが好ましい。
【0180】
表示パネル521は、LCD、OELD(Organic Electro-Luminescence Display)などを表示デバイスとして用いたものである。操作パネル522は、表示パネル521の表示面上に表示される画像を視認可能に載置され、ユーザの指や尖筆によって操作される一又は複数の座標を検出するデバイスである。係るデバイスをユーザの指や尖筆によって操作すると、操作に起因して発生する検出信号を主制御部501に出力する。次いで、主制御部501は、受信した検出信号に基づいて、表示パネル521上の操作位置(座標)を検出する。
【0181】
図27に示すように、スマートフォン500の表示パネル521と操作パネル522とは一体となって表示入力部520を構成しているが、操作パネル522が表示パネル521を完全に覆うような配置となっている。この配置を採用した場合、操作パネル522は、表示パネル521外の領域についても、ユーザ操作を検出する機能を備えてもよい。換言すると、操作パネル522は、表示パネル521に重なる重畳部分についての検出領域(以下、表示領域と称する)と、それ以外の表示パネル521に重ならない外縁部分についての検出領域(以下、非表示領域と称する)とを備えていてもよい。
【0182】
なお、表示領域の大きさと表示パネル521の大きさとを完全に一致させても良いが、両者を必ずしも一致させる必要は無い。また、操作パネル522が、外縁部分と、それ以外の内側部分の2つの感応領域を備えていてもよい。更に、外縁部分の幅は、筐体502の大きさなどに応じて適宜設計されるものである。更にまた、操作パネル522で採用される位置検出方式としては、マトリクススイッチ方式、抵抗膜方式、表面弾性波方式、赤外線方式、電磁誘導方式、静電容量方式などが挙げられ、いずれの方式を採用することもできる。
【0183】
通話部530は、スピーカ531やマイクロホン532を備える。通話部530は、マイクロホン532を通じて入力されたユーザの音声を主制御部501にて処理可能な音声データに変換して主制御部501に出力する。また、通話部530は、無線通信部510あるいは外部入出力部560により受信された音声データを復号してスピーカ531から出力する。また、図27に示すように、例えば、スピーカ531を表示入力部520が設けられた面と同じ面に搭載し、マイクロホン532を筐体502の側面に搭載することができる。
【0184】
操作部540は、キースイッチなどを用いたハードウェアキーであって、ユーザからの指示を受け付けるものである。例えば、図27に示すように、操作部540は、スマートフォン500の筐体502の側面に搭載され、指などで押下されるとオンとなり、指を離すとバネなどの復元力によってオフ状態となる押しボタン式のスイッチである。
【0185】
記憶部550は、主制御部501の制御プログラムや制御データ、アプリケーションソフトウェア、通信相手の名称や電話番号などを対応づけたアドレスデータ、送受信した電子メールのデータを記憶する。また、記憶部550は、WebブラウジングによりダウンロードしたWebデータや、ダウンロードしたコンテンツデータを記憶する。また、記憶部550は、ストリーミングデータなどを一時的に記憶する。また、記憶部550は、スマートフォン内蔵の内部記憶部551と着脱自在な外部メモリスロットを有する外部記憶部552を有する。なお、記憶部550を構成するそれぞれの内部記憶部551と外部記憶部552は、フラッシュメモリタイプ(flash memory type)、ハードディスクタイプ(hard disk type)などの格納媒体を用いて実現される。格納媒体としては、この他にも、マルチメディアカードマイクロタイプ(multimedia card micro type)、カードタイプのメモリ(例えば、MicroSD(登録商標)メモリ等)、RAM(Random Access Memory)、ROM(Read Only Memory)が例示できる。
【0186】
外部入出力部560は、スマートフォン500に連結される全ての外部機器とのインタフェースの役割を果たすものであり、他の外部機器に通信等又はネットワークにより直接的又は間接的に接続するためのものである。他の外部機器に通信等としては、例えば、ユニバーサルシリアルバス(USB)、IEEE1394などが挙げられる。ネットワークとしては、例えば、インターネット、無線LAN、ブルートゥース(Bluetooth)(登録商標)、RFID(Radio Frequency Identification)、赤外線通信(Infrared Data Association:IrDA)(登録商標)が挙げられる。また、ネットワークの他の例としては、UWB(Ultra Wideband)(登録商標)、ジグビー(ZigBee)(登録商標)などが挙げられる。
【0187】
スマートフォン500に連結される外部機器としては、例えば、有/無線ヘッドセット、有/無線外部充電器、有/無線データポート、カードソケットを介して接続されるメモリカード(Memory card)が挙げられる。外部機器の他の例としては、SIM(Subscriber Identity Module Card)/UIM(User Identity Module Card)カード、オーディオ・ビデオI/O(Input/Output)端子を介して接続される外部オーディオ・ビデオ機器が挙げられる。外部オーディオ・ビデオ機器の他にも、無線接続される外部オーディオ・ビデオ機器が挙げられる。また、外部オーディオ・ビデオ機器に代えて、例えば有/無線接続されるスマートフォン、有/無線接続されるパーソナルコンピュータ、有/無線接続されるPDA、有/無線接続されるパーソナルコンピュータ、イヤホンなども適用可能である。
【0188】
外部入出力部は、このような外部機器から伝送を受けたデータをスマートフォン500の内部の各構成要素に伝達することや、スマートフォン500の内部のデータが外部機器に伝送されるようにすることができる。
【0189】
GPS受信部570は、主制御部501の指示にしたがって、GPS衛星ST1乃至STnから送信されるGPS信号を受信し、受信した複数のGPS信号に基づく測位演算処理を実行し、当該スマートフォン500の緯度、経度、高度からなる位置を検出する。GPS受信部570は、無線通信部510や外部入出力部560(例えば、無線LAN)から位置情報を取得できる時には、その位置情報を用いて位置を検出することもできる。
【0190】
モーションセンサ部580は、例えば、3軸の加速度センサなどを備え、主制御部501の指示にしたがって、スマートフォン500の物理的な動きを検出する。スマートフォン500の物理的な動きを検出することにより、スマートフォン500の動く方向や加速度が検出される。この検出結果は、主制御部501に出力されるものである。
【0191】
電源部590は、主制御部501の指示にしたがって、スマートフォン500の各部に、バッテリ(図示しない)に蓄えられる電力を供給するものである。
【0192】
主制御部501は、マイクロプロセッサを備え、記憶部550が記憶する制御プログラムや制御データにしたがって動作し、スマートフォン500の各部を統括して制御するものである。また、主制御部501は、無線通信部510を通じて、音声通信やデータ通信を行うために、通信系の各部を制御する移動通信制御機能と、アプリケーション処理機能を備える。
【0193】
アプリケーション処理機能は、記憶部550が記憶するアプリケーションソフトウェアにしたがって主制御部501が動作することにより実現するものである。アプリケーション処理機能としては、例えば、外部入出力部560を制御して対向機器とデータ通信を行う赤外線通信機能や、電子メールの送受信を行う電子メール機能、Webページを閲覧するWebブラウジング機能などがある。
【0194】
また、主制御部501は、受信データやダウンロードしたストリーミングデータなどの画像データ(静止画像や動画像のデータ)に基づいて、映像を表示入力部520に表示する等の画像処理機能を備える。画像処理機能とは、主制御部501が、上記画像データを復号し、この復号結果に画像処理を施して、画像を表示入力部520に表示する機能のことをいう。
【0195】
更に、主制御部501は、表示パネル521に対する表示制御と、操作部540、操作パネル522を通じたユーザ操作を検出する操作検出制御とを実行する。
【0196】
表示制御の実行により、主制御部501は、アプリケーションソフトウェアを起動するためのアイコンや、スクロールバーなどのソフトウェアキーを表示したり、あるいは電子メールを作成したりするためのウィンドウを表示する。なお、スクロールバーとは、表示パネル521の表示領域に収まりきれない大きな画像などについて、画像の表示部分を移動する指示を受け付けるためのソフトウェアキーのことをいう。
【0197】
また、操作検出制御の実行により、主制御部501は、操作部540を通じたユーザ操作を検出したり、操作パネル522を通じて、上記アイコンに対する操作や、上記ウィンドウの入力欄に対する文字列の入力を受け付けたりする。また、操作検出制御の実行により、主制御部501は、スクロールバーを通じた表示画像のスクロール要求を受け付ける。
【0198】
更に、操作検出制御の実行により主制御部501は、操作パネル522に対する操作位置が、表示パネル521に重なる重畳部分(表示領域)か、それ以外の表示パネル521に重ならない外縁部分(非表示領域)かを判定する。そして、この判定結果を受けて、操作パネル522の感応領域や、ソフトウェアキーの表示位置を制御するタッチパネル制御機能を備える。
【0199】
また、主制御部501は、操作パネル522に対するジェスチャ操作を検出し、検出したジェスチャ操作に応じて、予め設定された機能を実行することもできる。ジェスチャ操作とは、従来の単純なタッチ操作ではなく、指などによって軌跡を描いたり、複数の位置を同時に指定したり、あるいはこれらを組み合わせて、複数の位置から少なくとも1つについて軌跡を描く操作を意味する。
【0200】
カメラ部541は、CMOSやCCDなどの撮像素子を用いて撮像するデジタルカメラであり、図1等に示す撮像装置100と同様の機能を備えている。
【0201】
また、カメラ部541は、マニュアルフォーカスモードとオートフォーカスモードとを切り替え可能である。マニュアルフォーカスモードが選択されると、操作部540又は表示入力部520に表示されるフォーカス用のアイコンボタン等を操作することにより、カメラ部541の撮影レンズ16のピント合わせを行うことができる。そして、マニュアルフォーカスモード時には、スプリットイメージが合成されたライブビュー画像を表示パネル521に表示させ、これによりマニュアルフォーカス時の合焦状態を確認できるようにしている。なお、図6に示すハイブリッドファインダー220をスマートフォン500に設けるようにしてもよい。
【0202】
また、カメラ部541は、主制御部501の制御により、撮像によって得た画像データを例えばJPEG(Joint Photographic coding Experts Group)などの圧縮した画像データに変換する。そして、変換して得た画像データを記憶部550に記録したり、外部入出力部560や無線通信部510を通じて出力することができる。図27に示すにスマートフォン500において、カメラ部541は表示入力部520と同じ面に搭載されているが、カメラ部541の搭載位置はこれに限らず、表示入力部520の背面に搭載されてもよいし、あるいは、複数のカメラ部541が搭載されてもよい。なお、複数のカメラ部541が搭載されている場合には、撮像に供するカメラ部541を切り替えて単独にて撮像したり、あるいは、複数のカメラ部541を同時に使用して撮像したりすることもできる。
【0203】
また、カメラ部541はスマートフォン500の各種機能に利用することができる。例えば、表示パネル521にカメラ部541で取得した画像を表示することや、操作パネル522の操作入力のひとつとして、カメラ部541の画像を利用することができる。また、GPS受信部570が位置を検出する際に、カメラ部541からの画像を参照して位置を検出することもできる。更には、カメラ部541からの画像を参照して、3軸の加速度センサを用いずに、或いは、3軸の加速度センサと併用して、スマートフォン500のカメラ部541の光軸方向を判断することや、現在の使用環境を判断することもできる。勿論、カメラ部541からの画像をアプリケーションソフトウェア内で利用することもできる。
【0204】
その他、静止画又は動画の画像データに各種情報を付加して記憶部550に記録したり、外部入出力部560や無線通信部510を通じて出力したりすることもできる。ここで言う「各種情報」としては、例えば、静止画又は動画の画像データにGPS受信部570により取得した位置情報、マイクロホン532により取得した音声情報(主制御部等により、音声テキスト変換を行ってテキスト情報となっていてもよい)が挙げられる。この他にも、モーションセンサ部580により取得した姿勢情報等などであってもよい。
【0205】
なお、上記各実施形態では、第1乃至第5の画素群を有する撮像素子20を例示したが、本発明はこれに限定されるものではなく、第1の画素群及び第2の画素群のみからなる撮像素子であってもよい。この種の撮像素子を有するデジタルカメラは、第1の画素群から出力された第1の画像及び第2の画素群から出力された第2の画像に基づいて3次元画像(3D画像)を生成することができるし、2次元画像(2D画像)も生成することができる。この場合、2次元画像の生成は、例えば第1の画像及び第2の画像の相互における同色の画素間で補間処理を行うことで実現される。また、補間処理を行わずに、第1の画像又は第2の画像を2次元画像として採用してもよい。
【0206】
上記各実施形態では、通常画像301の表示領域内にスプリットイメージ300が表示される例を挙げて説明したが、本発明はこれに限定されるものではなく、表示装置に対して通常画像301を表示させずにスプリットイメージ300を表示させても良い。また、上記各実施形態では、表示装置の表示領域の一部にスプリットイメージ300を表示させるが、これに限定されず、表示装置の表示領域の全体にスプリットイメージ300を表示させても良い。このように、本発明は、通常画像301とスプリットイメージ300との双方を表示装置の同一画面に同時に表示する態様に限定されるものではない。例えば、本発明は、スプリットイメージ300の表示が指示されている状態で通常画像301の表示指示が解除された場合は表示制御部36が表示装置に対して通常画像301を表示させずにスプリットイメージ300を表示させる制御を行うようにしても良い。
【符号の説明】
【0207】
12 CPU
20 撮像素子
26 メモリ
28 画像処理部
30 通常処理部
32 スプリットイメージ処理部
36 表示制御部
100 撮像装置
213 表示部
241 LCD
図4
図1
図2
図3
図5
図6
図7A
図7B
図8
図9A
図9B
図9C
図9D
図9E
図9F
図10
図11A
図11B
図11C
図12
図13A
図13B
図14
図15A
図15B
図15C
図16
図17A
図17B
図18
図19
図20
図21
図22
図23
図24
図25
図26A
図26B
図27
図28

【手続補正書】
【提出日】2015年5月26日
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ前記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成部と、
画像を表示する表示部と、
前記表示部に対して前記生成部により生成された前記第1の表示用画像を表示し、かつ該第1の表示用画像の表示領域内に前記生成部により生成された前記第2の表示用画像を表示する制御を行う表示制御部と、
前記第2の表示用画像内の主要被写体に対応する領域の少なくとも一部を被写体領域として抽出する抽出部と、
予め定められた指示が入力された場合、前記第2の表示用画像の表示領域の少なくとも一部と少なくとも一部に重複した合焦領域で自動合焦を行う自動合焦部であって、前記抽出部により抽出された前記被写体領域を前記合焦領域として自動合焦を行う自動合焦部と、
を備えた画像処理装置。
【請求項2】
撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ前記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成部と、
画像を表示する表示部と、
前記生成部により生成された前記第1の表示用画像の前記表示部による表示を抑止し、かつ、前記表示部に対して、前記生成部により生成された前記第2の表示用画像を表示させる制御を行う表示制御部と、
前記第2の表示用画像内の主要被写体に対応する領域の少なくとも一部を被写体領域として抽出する抽出部と、
予め定められた指示が入力された場合、前記第2の表示用画像の表示領域の少なくとも一部と少なくとも一部に重複した合焦領域で自動合焦を行う自動合焦部であって、前記抽出部により抽出された前記被写体領域を前記合焦領域として自動合焦を行う自動合焦部と、
を備えた画像処理装置。
【請求項3】
前記自動合焦部は、前記第2の表示用画像の表示領域に対して予め定められた第1閾値以上の面積の割合で重複した合焦領域で自動合焦を行う
請求項1または2記載の画像処理装置。
【請求項4】
前記表示制御部は、前記表示部に対して前記合焦領域の範囲を示す情報を更に表示する制御を行う
請求項1乃至3の何れか1項記載の画像処理装置。
【請求項5】
前記抽出部は、人の顔に対応する領域の少なくとも一部を前記被写体領域として抽出する
請求項1から請求項4の何れか1項に記載の画像処理装置。
【請求項6】
前記自動合焦部は、前記第2の表示用画像の表示領域の少なくとも一部に少なくとも一部が重複し、かつ前記第1の表示用画像の表示領域内における中央部を含む予め定められた領域を前記合焦領域として自動合焦を行う
請求項1乃至4の何れか1項記載の画像処理装置。
【請求項7】
前記合焦領域の位置を示す位置情報の入力を受け付ける受付部を更に備え、
前記自動合焦部は、前記受付部により受け付けられた前記位置情報に基づいて前記合焦領域の位置を移動して自動合焦を行う
請求項1乃至の何れか1項記載の画像処理装置。
【請求項8】
前記自動合焦部は、前記位置情報に基づいて移動させた後の前記合焦領域の少なくとも一部が、前記第2の表示用画像の表示領域の少なくとも一部に重複する場合のみ、当該移動を行って自動合焦を行う
請求項記載の画像処理装置。
【請求項9】
前記表示制御部は、前記位置情報に基づいて移動させた後の前記合焦領域が、前記第2の表示用画像の表示領域外となる場合、前記第2の表示用画像の表示を停止する制御を行う
請求項記載の画像処理装置。
【請求項10】
前記受付部は、前記表示制御部により前記第2の表示用画像の表示を停止する制御を行った後に前記位置情報の入力を再度受け付け、
前記表示制御部は、前記受付部により前記位置情報が再度受け付けられた場合、当該位置情報に基づいて移動させた後の前記合焦領域の少なくとも一部が、前記第2の表示用画像の表示領域の少なくとも一部に重複した場合、前記第2の表示用画像の表示を再開する制御を行う
請求項記載の画像処理装置。
【請求項11】
前記第1の表示用画像内の主要被写体に対応する領域の少なくとも一部を第2被写体領域として抽出する第2抽出部を更に備え、
前記自動合焦部は、前記第2抽出部により抽出された前記第2被写体領域が、前記第2の表示用画像の表示領域外となる場合、当該表示領域内で前記第2被写体領域からの距離が最短となる予め定められた大きさの領域を前記合焦領域として自動合焦を行う
請求項1乃至4の何れか1項記載の画像処理装置。
【請求項12】
前記第2の表示用画像の拡大を指示する拡大指示情報の入力を受け付ける第2受付部を更に備え、
前記表示制御部は、前記第2受付部により前記拡大指示情報の入力が受け付けられた場合、前記第2の表示用画像を拡大させて表示させる制御を行い、
前記自動合焦部は、前記表示制御部により前記第2の表示用画像を拡大して表示させる制御が行われた場合、前記第2の表示用画像の拡大率以下の拡大率で前記合焦領域を拡大して自動合焦を行う
請求項1乃至11の何れか1項記載の画像処理装置。
【請求項13】
前記自動合焦部は、前記拡大させた後の前記合焦領域の大きさが予め定められた第2閾値より大きくなる場合、前記合焦領域を当該第2閾値の大きさとして自動合焦を行う
請求項12記載の画像処理装置。
【請求項14】
請求項1乃至13の何れか1項記載の画像処理装置と、
前記撮像レンズと、
前記撮像素子と、
を備えた撮像装置。
【請求項15】
コンピュータを、
撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ前記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成部
画像を表示する表示部に対して前記生成部により生成された前記第1の表示用画像を表示し、かつ該第1の表示用画像の表示領域内に前記生成部により生成された前記第2の表示用画像を表示する制御を行う表示制御部
前記第2の表示用画像内の主要被写体に対応する領域の少なくとも一部を被写体領域として抽出する抽出部、並びに、
予め定められた指示が入力された場合、前記第2の表示用画像の表示領域の少なくとも一部に少なくとも一部が重複した合焦領域で自動合焦を行う自動合焦部であって、前記抽出部により抽出された前記被写体領域を前記合焦領域として自動合焦を行う自動合焦部として機能させるためのプログラム。
【請求項16】
撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ前記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成ステップと、
画像を表示する表示部に対して前記生成ステップにより生成された前記第1の表示用画像を表示し、かつ該第1の表示用画像の表示領域内に前記生成ステップにより生成された前記第2の表示用画像を表示する制御を行う表示制御ステップと、
前記第2の表示用画像内の主要被写体に対応する領域の少なくとも一部を被写体領域として抽出する抽出ステップと、
予め定められた指示が入力された場合、前記第2の表示用画像の表示領域の少なくとも一部に少なくとも一部が重複した合焦領域で自動合焦を行う自動合焦ステップであって、前記抽出ステップにより抽出された前記被写体領域を前記合焦領域として自動合焦を行う自動合焦ステップと、
を備えた画像処理方法。

【手続補正書】
【提出日】2016年4月25日
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ前記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成部と、
画像を表示する表示部と、
前記表示部に対して前記生成部により生成された前記第1の表示用画像を表示し、かつ該第1の表示用画像の表示領域内に前記生成部により生成された前記第2の表示用画像を表示する制御を行う表示制御部と、
前記第2の表示用画像内の主要被写体に対応する領域の少なくとも一部を被写体領域として抽出する抽出部と、
予め定められた指示が入力された場合、前記第2の表示用画像の表示領域の少なくとも一部と少なくとも一部に重複した合焦領域で自動合焦を行う自動合焦部であって、前記抽出部により抽出された前記被写体領域を前記合焦領域として自動合焦を行う自動合焦部と、
を備えた画像処理装置。
【請求項2】
撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ前記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成部と、
画像を表示する表示部と、
前記表示部に対して、前記生成部により生成された前記第1の表示用画像を表示させず、かつ、前記表示部に対して、前記生成部により生成された前記第2の表示用画像を表示させる制御を行う表示制御部と、
前記第2の表示用画像内の主要被写体に対応する領域の少なくとも一部を被写体領域として抽出する抽出部と、
予め定められた指示が入力された場合、前記第2の表示用画像の表示領域の少なくとも一部と少なくとも一部に重複した合焦領域で自動合焦を行う自動合焦部であって、前記抽出部により抽出された前記被写体領域を前記合焦領域として自動合焦を行う自動合焦部と、
を備えた画像処理装置。
【請求項3】
前記自動合焦部は、前記第2の表示用画像の表示領域に対して予め定められた第1閾値以上の面積の割合で重複した合焦領域で自動合焦を行う
請求項1または2記載の画像処理装置。
【請求項4】
前記表示制御部は、前記表示部に対して前記合焦領域の範囲を示す情報を更に表示する制御を行う
請求項1乃至3の何れか1項記載の画像処理装置。
【請求項5】
前記抽出部は、人の顔に対応する領域の少なくとも一部を前記被写体領域として抽出する
請求項1から請求項4の何れか1項に記載の画像処理装置。
【請求項6】
前記自動合焦部は、前記第2の表示用画像の表示領域の少なくとも一部に少なくとも一部が重複し、かつ前記第1の表示用画像の表示領域内における中央部を含む予め定められた領域を前記合焦領域として自動合焦を行う
請求項1乃至4の何れか1項記載の画像処理装置。
【請求項7】
前記合焦領域の位置を示す位置情報の入力を受け付ける受付部を更に備え、
前記自動合焦部は、前記受付部により受け付けられた前記位置情報に基づいて前記合焦領域の位置を移動して自動合焦を行う
請求項1乃至6の何れか1項記載の画像処理装置。
【請求項8】
前記自動合焦部は、前記位置情報に基づいて移動させた後の前記合焦領域の少なくとも一部が、前記第2の表示用画像の表示領域の少なくとも一部に重複する場合のみ、当該移動を行って自動合焦を行う
請求項7記載の画像処理装置。
【請求項9】
前記表示制御部は、前記位置情報に基づいて移動させた後の前記合焦領域が、前記第2の表示用画像の表示領域外となる場合、前記第2の表示用画像の表示を停止する制御を行う
請求項7記載の画像処理装置。
【請求項10】
前記受付部は、前記表示制御部により前記第2の表示用画像の表示を停止する制御を行った後に前記位置情報の入力を再度受け付け、
前記表示制御部は、前記受付部により前記位置情報が再度受け付けられた場合、当該位置情報に基づいて移動させた後の前記合焦領域の少なくとも一部が、前記第2の表示用画像の表示領域の少なくとも一部に重複した場合、前記第2の表示用画像の表示を再開する制御を行う
請求項9記載の画像処理装置。
【請求項11】
前記第1の表示用画像内の主要被写体に対応する領域の少なくとも一部を第2被写体領域として抽出する第2抽出部を更に備え、
前記自動合焦部は、前記第2抽出部により抽出された前記第2被写体領域が、前記第2の表示用画像の表示領域外となる場合、当該表示領域内で前記第2被写体領域からの距離が最短となる予め定められた大きさの領域を前記合焦領域として自動合焦を行う
請求項1乃至4の何れか1項記載の画像処理装置。
【請求項12】
前記第2の表示用画像の拡大を指示する拡大指示情報の入力を受け付ける第2受付部を更に備え、
前記表示制御部は、前記第2受付部により前記拡大指示情報の入力が受け付けられた場合、前記第2の表示用画像を拡大させて表示させる制御を行い、
前記自動合焦部は、前記表示制御部により前記第2の表示用画像を拡大して表示させる制御が行われた場合、前記第2の表示用画像の拡大率以下の拡大率で前記合焦領域を拡大して自動合焦を行う
請求項1乃至11の何れか1項記載の画像処理装置。
【請求項13】
前記自動合焦部は、前記拡大させた後の前記合焦領域の大きさが予め定められた第2閾値より大きくなる場合、前記合焦領域を当該第2閾値の大きさとして自動合焦を行う
請求項12記載の画像処理装置。
【請求項14】
請求項1乃至13の何れか1項記載の画像処理装置と、
前記撮像レンズと、
前記撮像素子と、
を備えた撮像装置。
【請求項15】
コンピュータを、
撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ前記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成部、
画像を表示する表示部に対して前記生成部により生成された前記第1の表示用画像を表示し、かつ該第1の表示用画像の表示領域内に前記生成部により生成された前記第2の表示用画像を表示する制御を行う表示制御部、
前記第2の表示用画像内の主要被写体に対応する領域の少なくとも一部を被写体領域として抽出する抽出部、並びに、
予め定められた指示が入力された場合、前記第2の表示用画像の表示領域の少なくとも一部に少なくとも一部が重複した合焦領域で自動合焦を行う自動合焦部であって、前記抽出部により抽出された前記被写体領域を前記合焦領域として自動合焦を行う自動合焦部として機能させるためのプログラム。
【請求項16】
撮像レンズにおける第1及び第2の領域を通過した被写体像が瞳分割されてそれぞれ結像される第1及び第2の画素群を有する撮像素子から出力された画像信号に基づいて第1の表示用画像を生成し、かつ前記第1及び第2の画素群から出力された画像信号に基づく第1及び第2の画像から合焦確認に使用する第2の表示用画像を生成する生成ステップと、
画像を表示する表示部に対して前記生成ステップにより生成された前記第1の表示用画像を表示し、かつ該第1の表示用画像の表示領域内に前記生成ステップにより生成された前記第2の表示用画像を表示する制御を行う表示制御ステップと、
前記第2の表示用画像内の主要被写体に対応する領域の少なくとも一部を被写体領域として抽出する抽出ステップと、
予め定められた指示が入力された場合、前記第2の表示用画像の表示領域の少なくとも一部に少なくとも一部が重複した合焦領域で自動合焦を行う自動合焦ステップであって、前記抽出ステップにより抽出された前記被写体領域を前記合焦領域として自動合焦を行う自動合焦ステップと、
を備えた画像処理方法。
【国際調査報告】