(58)【調査した分野】(Int.Cl.,DB名)
前記第2処理は、前記中間領域を含む対象領域の中で前記中間領域の内側及び外側の少なくともいずれか1つに位置する所定領域を所定色に変換し、前記所定領域が前記所定色に変換された後の前記対象領域において、前記中間領域を再特定する処理を含む、請求項1に記載の電子機器。
前記プロセッサは、前記中間領域の補間後において、焦点距離が特定されていない残り領域を特定し、前記残り領域の列方向又は行方向に含まれる前記補間焦点領域の焦点距離に基づいて、前記残り領域の焦点距離を補間する処理を実行する、請求項1又は請求項2に記載の電子機器。
前記第2処理は、前記複数の撮像画像のそれぞれに含まれる画素の2値化によって得られる輪郭画像を生成し、焦点距離が特定又は補間された領域と前記輪郭画像との比較によって、前記焦点距離が特定又は補間された領域の範囲を補正する補正処理を含む、請求項1乃至請求項3のいずれかに1項に記載の電子機器。
前記プロセッサは、前記輪郭画像に含まれる輪郭によって区画される輪郭領域のうち、所定閾値よりも大きいサイズを有する輪郭領域と前記焦点距離が特定又は補間された領域とを比較する、請求項4に記載の電子機器。
前記プロセッサは、前記撮像素子から被写体までの距離が所定距離以下である場合に、前記第1処理及び前記第2処理を実行する、請求項1乃至請求項5のいずれか1項に記載の電子機器。
前記プロセッサは、前記撮像素子から被写体までの距離が所定距離よりも大きい場合に、前記被写体を含む領域と前記被写体を含まない領域とを人物検出によって特定する処理を実行する、請求項6に記載の電子機器。
前記プロセッサは、前記第1処理及び前記第2処理によって得られる焦点距離が異なる複数の領域について、ぼかし処理が施されるぼかし領域と前記ぼかし処理が施されない非ぼかし領域とを特定し、前記ぼかし領域と前記非ぼかし領域とを合成する第3処理を実行する、請求項1乃至請求項7のいずれか1項に記載の電子機器。
所定撮像領域を有しており、かつ、異なる焦点距離を有する複数の撮像画像を撮像する撮像素子を少なくとも備える電子機器で用いるプログラムであって、コンピュータに、
前記所定撮像領域に含まれる第1撮像領域において前記複数の撮像画像を比較することによって、前記第1撮像領域に含まれる少なくとも2以上の焦点特定領域を特定するステップAと、
前記第1撮像領域において前記2以上の焦点特定領域のいずれにも属さない中間領域の焦点距離を補間するステップBと、を実行させ、
前記ステップBは、前記中間領域の内側又は外側に位置しており、かつ、前記2以上の焦点特定領域のいずれかである補間焦点領域の焦点距離に基づいて、前記中間領域の焦点距離を補間するステップを実行させる、プログラム。
【発明を実施するための形態】
【0011】
以下において、実施形態について図面を参照しながら説明する。なお、以下の図面の記載において、同一又は類似の部分には、同一又は類似の符号を付している。
【0012】
但し、図面は模式的なものであり、各寸法の比率などは現実のものとは異なる場合があることに留意すべきである。従って、具体的な寸法などは以下の説明を参酌して判断すべきである。また、図面相互間においても互いの寸法の関係又は比率が異なる部分が含まれている場合があることは勿論である。
【0013】
[実施形態]
(電子機器の概要)
以下において、実施形態に係る電子機器について説明する。実施形態では、電子機器の一例として携帯端末1について説明する。携帯端末1は、スマートフォン及びタブレット端末などであってもよい。
図1(a)〜
図1(c)において、キャビネット2の長手方向を上下方向と定義し、キャビネット2の短手方向を左右方向と定義する。上下方向及び左右方向に垂直な方向を前後方向と定義する。
【0014】
図1(a)〜
図1(c)に示すように、携帯端末1は、キャビネット2と、ディスプレイ3と、タッチパネル4と、マイクロフォン5と、スピーカ6と、外部スピーカ7と、インカメラ8と、アウトカメラ9と、を有する。
【0015】
キャビネット2は、
図2に示す各構成を収容する筐体である。キャビネット2は、正面から見て略長方形の輪郭を有する。
【0016】
ディスプレイ3は、キャビネット2の正面側に設けられる。ディスプレイ3は、各種画像を表示する。例えば、ディスプレイ3は、液晶パネル及びLEDバックライトを有する液晶ディスプレイであってもよく、有機ELディスプレイであってもよく、他のディスプレイであってもよい。
【0017】
タッチパネル4は、ディスプレイ3を覆うように設けられる。タッチパネル4は、透明なシート状の部材によって構成される。タッチパネル4は、静電容量式、超音波式、感圧式、抵抗膜式、光検知式等、各種方式のタッチパネルであってもよい。
【0018】
マイクロフォン5は、キャビネット2の内部に設けられており、キャビネット2の下端部に設けられる。マイクロフォン5は、音を検出する。具体的には、マイクロフォン5は、キャビネット2の正面に形成されたマイク孔5aを介して音を検出する。マイクロフォン5は、検出された音に応じた電気信号を生成する。
【0019】
スピーカ6は、キャビネット2の内部に設けられており、キャビネット2の上端部に設けられる。スピーカ6は、音を出力する。具体的には、スピーカ6は、キャビネット2の正面に形成された出力孔6aを介してして音を出力する。スピーカ6は、通話相手の音声を出力してもよく、他の通知音などを出力してもよい。
【0020】
外部スピーカ7は、キャビネット2の内部に設けられており、キャビネット2の背面に設けられる。外部スピーカ7は、キャビネット2の背面に形成された出力孔7aを介して音を出力する。外部スピーカ7は、携帯端末1にインストールされるアプリケーションから通知される通知音を出力してもよい。
【0021】
インカメラ8は、撮像素子の一例であり、キャビネット2の上部かつ正面に設けられる。インカメラ8は、携帯端末1の正面と対向する撮像対象を撮像する。例えば、インカメラ8は、CCD、CMOSセンサ及び広角レンズを含む。インカメラ8は、所定撮像領域を有しており、かつ、異なる焦点距離を有する複数の撮像画像を撮像してもよい。
【0022】
アウトカメラ9は、撮像素子の一例であり、キャビネット2の背面に設けられる。アウトカメラ9は、携帯端末1の背面と対向する撮像対象を撮像する。例えば、インカメラ9は、CCD、CMOSセンサ及び広角レンズを含む。アウトカメラ9は、所定撮像領域を有しており、かつ、異なる焦点距離を有する複数の撮像画像を撮像してもよい。
【0023】
(携帯端末)
以下において、実施形態に係る携帯端末について説明する。
【0024】
図2に示すように、携帯端末1は、制御部11と、記憶部12と、画像出力部13と、タッチ検出部14と、音声入力部15と、音声出力部16と、音声処理部17と、キー入力部18と、通信部19と、第1撮像部20と、第2撮像部21と、照度検出部22とを含む。
【0025】
制御部11は、少なくとも1つのプロセッサを有する。制御部11は、CPU及びメモリなどによって構成される制御回路を有する。制御部11は、携帯端末1を構成する各構成を制御する。制御部11の詳細については後述する。
【0026】
記憶部12は、様々な情報を記憶する。例えば、記憶部12は、ROM又はRAMなどのメモリによって構成される。記憶部12は、携帯端末1に内蔵される内部メモリであってもよく、携帯端末1に着脱可能に構成される外部メモリであってもよい。記憶部12は、携帯端末1を構成する各構成を制御するための制御プログラムを記憶してもよい。記憶部12は、携帯端末1にインストールされるアプリケーションを実行するためのアプリケーションプログラムを記憶してもよい。例えば、アプリケーションは、電話、メッセージ、カメラ、ウェブブラウザ、地図、ゲーム、スケジュール管理などのアプリケーションを含む。アプリケーションは、携帯端末1のメーカによって製造時又は出荷時にインストールされるプリアプリケーションを含んでもよく、通信回線網又は記憶媒体からインストールされるアプリケーションを含んでもよい。記憶部12は、プログラムの実行で一時的に利用されるデータを記憶するワーキングメモリを含んでもよい。
【0027】
実施形態では、記憶部12は、インカメラ8及びアウトカメラ9によって撮像された画像を一時的に記憶する一時記憶フォルダ12aを含む。一時記憶フォルダ12aに記憶される画像は、恒久記憶フォルダ12bに画像を保存するか否かをユーザが決定するために用いられる。記憶部12は、インカメラ8及びアウトカメラ9によって撮像された画像を恒久的に記憶する恒久記憶フォルダ12bを含む。恒久記憶フォルダ12bは、撮像画像を保存するためのストレージの一例である。恒久記憶フォルダ12bに記憶される画像は、ユーザによって参照される。記憶部12は、インカメラ8及びアウトカメラ9によって撮像された画像を一時的に記憶する編集フォルダ12cを含む。編集フォルダ12cに記憶された画像は、インカメラ8及びアウトカメラ9によって撮像された画像の加工に用いられる。画像の加工は、所定撮像領域に含まれる各領域の焦点距離を調整する加工を含む。
【0028】
画像出力部13は、ディスプレイ3を含む。画像出力部13は、
図1(a)に示すディスプレイ3上に様々な画像を表示させる。具体的には、画像出力部13は、制御部11から入力される制御信号及び画像信号に基づいて、ディスプレイ3上に画像を表示させる。画像出力部13は、制御部11から入力される制御信号に応じて、ディスプレイ3の点灯、消灯及び輝度調整を行ってもよい。画像出力部13は、制御部11から入力される制御信号に応じて、ディスプレイ3からフラッシュを放出させてもよい。フラッシュは、白色光であってもよい。
【0029】
タッチ検出部14は、タッチパネル4を含む。タッチ検出部14は、
図1(a)に示すタッチパネル4へのタッチ操作を検出する。具体的には、タッチ検出部14は、タッチ操作の位置(以下、タッチ位置)を検出し、検出されたタッチ位置に対応する位置信号を制御部11に出力する。例えば、タッチ操作は、ディスプレイ3に表示されるオブジェクトを対象として行われ、オブジェクトには携帯端末1が実行可能な機能が対応付けられている。
【0030】
ここで、タッチ操作は、タッチパネル4にユーザの指が接触する操作だけではなく、タッチパネル4にユーザの指が近接する操作を含んでもよい。タッチ操作は、所定時間内に2回以上のタッチ操作が連続するタップ操作を含んでもよい。タッチ操作は、タッチ操作が行われた状態でタッチ位置が移動するフリック操作又はスライド操作を含んでもよい。
【0031】
音声入力部15は、マイクロフォン5を含む。音声入力部15は、マイクロフォン5によって検出された音に応じて、電気信号を音声処理部17に出力する。
【0032】
音声出力部15は、スピーカ6及び外部スピーカ7を含む。音声出力部16は、音声処理部17から入力される電気信号を取得する。音声出力部16は、取得された電気信号に応じて、スピーカ6又は外部スピーカ7に音を出力させる。
【0033】
音声処理部17は、音声入力部15から入力される電気信号をA/D変換等によってデジタル信号に変換し、デジタル信号を制御部11に出力する。音声処理部17は、制御部11から入力されるデジタル信号をD/A変換等によって電気信号に変換し、電気信号を音声出力部16に出力する。
【0034】
キー入力部18は、ユーザによって操作されるキーを含むインタフェースである。例えば、キー入力部18は、少なくとも1つ以上のハードキーを含んでもよい。例えば、ハードキーは、携帯端末1の電源を投入するための電源キーを含んでもよい。キー入力部18は、押下されたキーに対応する信号を制御部11に出力する。
【0035】
通信部19は、通信モジュール等によって構成されており、通話及び通信の少なくともいずれか1つを行う。通信部19は、信号変換回路及びアンテナなどを含む。通信部19は、通信インタフェースを含む。通信部は、有線又は無線で通信を行うことができる。
【0036】
第1撮像部20は、少なくとも1つのプロセッサを有する。第1撮像部20は、インカメラ8を含んでもよい。第1撮像部20は、インカメラ8によって撮像された画像を加工する。例えば、第1撮像部20は、自動露出機能を有しており、広角レンズに取り込まれる光量に応じて露出値(絞り値、シャッタースピード)を調整してもよい。第1撮像部20は、自動ホワイトバランス機能を有しており、広角レンズに取り込まれる光に応じてホワイトバランス値を調整してもよい。
【0037】
第2撮像部21は、少なくとも1つのプロセッサを有する。第2撮像部21は、アウトカメラ9を含んでもよい。第2撮像部21は、アウトカメラ9によって撮像された画像を加工する。例えば、第2撮像部21は、自動露出機能を有しており、広角レンズに取り込まれる光量に応じて露出値(絞り値、シャッタースピード)を調整してもよい。第2撮像部21は、自動ホワイトバランス機能を有しており、広角レンズに取り込まれる光に応じてホワイトバランス値を調整してもよい。
【0038】
照度検出部22は、携帯端末1の周囲の明るさを検出する照度センサを含んでもよい。照度検出部22は、検出された明るさを示す信号を制御部11に出力する。検出された明るさは、制御部11がディスプレイ3の輝度を調整する処理に用いられてもよい。
【0039】
各機能部又は各検出部が実行するとして説明した各種処理は、制御部11によって実行されてもよい。各機能部は、記憶部12と、画像出力部13と、音声出力部16と、音声処理部17と、キー入力部18と、通信部19と、第1撮像部20と、第2撮像部21とを含む。各検出部は、タッチ検出部14と、音声入力部15と、照度検出部22とを含む。
【0040】
(適用シーン)
以下において、実施形態に係る適用シーンについて説明する。ここでは、撮像素子としてアウトカメラ9を例に挙げるとともに、プロセッサとして第2撮像部21を例に挙げて説明する。
【0041】
具体的には、
図3の上段に示すように、アウトカメラ9は、所定撮像領域を有しており、かつ、異なる焦点距離を有する複数の撮像画像を撮像する。複数の撮像画像は、編集フォルダ12cに記憶される。例えば、所定撮像領域は、アウトカメラ9が有する広角レンズによって定義される。以下において、焦点距離は、深さと称することもある。
図3では、7枚の撮像画像が撮像されるケースを例示する。言い換えると、アウトカメラ9は、7種類の深さで撮像画像を撮像する。
【0042】
第2撮像部21は、所定撮像領域に含まれる第1撮像領域において複数の撮像画像を比較することによって、第1撮像領域に含まれる少なくとも2以上の焦点特定領域を特定する第1処理を実行する。第2撮像部21は、第1撮像領域において2以上の焦点特定領域のいずれにも属さない中間領域の焦点距離を補間する第2処理を実行する。第2処理は、中間領域の内側又は外側に位置しており、かつ、2以上の焦点特定領域のいずれかである補間焦点領域の焦点距離に基づいて、中間領域の焦点距離を補間する処理を含む。補間焦点領域は、第1撮像領域に含まれる全ての焦点特定領域であってもよいし、一部分の焦点特定領域であってもよい。第2撮像部21は、焦点特定領域が中間領域の内側及び外側の双方に位置している場合、中間領域と焦点特定領域とのそれぞれの境界線の長さに基づいて補間焦点領域を決定してもよい。すなわち、第2撮像部21は、中間領域の内側に位置する焦点特定領域及び中間領域の内側に位置する焦点特定領域のうち、中間領域との境界線がより長い焦点特定領域を補間焦点領域とし、当該補間焦点領域に基づいて第2処理を行ってもよい。なお、第1撮像領域は、中間領域又は焦点特定領域に属する任意の大きさの点の集合である。そして、境界線とは、中間領域及び焦点特定領域が共有する点の集合である。第2撮像部21は、焦点特定領域が中間領域の内側及び外側の双方に位置している場合に、それぞれの焦点特定領域の面積に基づいて補間焦点領域を決定してもよい。すなわち、第2撮像部21は、中間領域の内側に位置する焦点特定領域及び中間領域の内側に位置する焦点特定領域のうち、より面積が大きい焦点特定領域を補間焦点領域とし、当該補間焦点領域に基づいて第2処理を行ってもよい。第2撮像部21は、焦点特定領域が中間領域の内側及び外側の双方に位置している場合に、それぞれの焦点特定領域の焦点距離の深さに基づいて補間焦点領域を決定してもよい。すなわち、第2撮像部21は、中間領域の内側に位置する焦点特定領域及び中間領域の内側に位置する焦点特定領域のうち、焦点距離がより浅い焦点特定領域を補間焦点領域とし、当該補間焦点領域に基づいて第2処理を行ってもよい。第2撮像部21は、中間領域の内側に位置する焦点特定領域を常に補間焦点領域としてもよい。第2撮像部21は、中間領域の外側に位置する焦点特定領域を常に補間焦点領域としてもよい。
【0043】
実施形態では、第2撮像部21は、第1撮像領域を複数の分割領域に分割するとともに、深さが特定される分割領域(焦点特定領域)及び深さが特定されない分割領域(中間領域)を特定する。例えば、分割領域は、所定撮像領域が60×60で分割された領域である。
【0044】
ここで、第1処理及び第2処理は、アウトカメラ9から被写体までの距離が所定距離以下である場合に適用されてもよい。すなわち、撮像素子から被写体までの距離が所定距離よりも大きい場合には、第1処理及び第2処理以外の処理(例えば、人物検出処理)が適用されてもよい。
【0045】
(深さマップの生成)
以下において、実施形態に係る深さマップの生成について説明する。
【0046】
第2撮像部21は、複数の撮像画像のそれぞれに各種手法を適用することによって、複数の撮像画像のエッジ成分を分割領域毎に比較する。各種手法とは、1次微分又は2次微分を用いる手法であってもよい。例えば、1次微分を用いる手法は、ソーベルフィルタ及びプレヴィットフィルタを含む。例えば、2次微分を用いる手法は、ラプラシアンフィルタを含む。以下では、撮像画像のエッジ成分の検出にラプラシアンフィルタを用いた例を説明する。
【0047】
第2撮像部21は、第1処理において、最も大きいエッジ成分が閾値よりも大きいことを条件として、最も大きいエッジ成分を有する撮像画像の深さを分割領域の深さとして特定する。深さが特定された分割領域は、2以上の焦点特定領域のいずれかである。例えば、第2撮像部21は、対象分割領域について1枚目の撮像画像のエッジ成分が最も大きい場合には、1枚目の撮像画像の深さを対象分割領域の深さとして特定する。
【0048】
第2撮像部21は、第2処理において、最も大きいエッジ成分が閾値以下である分割領域を特定する。このような分割領域の深さの信頼性は低いことに留意すべきである。最も大きいエッジ成分が閾値以下である分割領域は、2以上の焦点特定領域のいずれにも属さない中間領域である。例えば、第2撮像部21は、対象分割領域について全ての撮像画像のエッジ成分が閾値以下である場合には、このような対象分割領域を中間領域として特定する。
【0049】
これらの処理によって、第2撮像部21は、
図3の下段に示す深さマップを生成する。
図3の下段に示すように、中間領域の外側に焦点特定領域が存在していてもよく、中間領域の内側に焦点特定領域が存在していてもよい。ここでは、皿の部分については、エッジ成分が小さい単色部分であるため、皿の部分が中間領域として特定されるケースが例示されている。一方で、皿に載せられたケーキ及び皿の背景の部分については、エッジ成分が大きいため、これらの部分が焦点特定領域として特定されるケースが例示されている。
【0050】
(エッジ成分の再検出)
以下において、実施形態に係る中間領域の再特定について説明する。
【0051】
第2撮像部21は、第2処理において、
図4の上段及び中段に示すように、中間領域を含む対象領域を特定する。すなわち、第2撮像部21は、中間領域の位置を特定し、特定した位置を含むように対象領域を決定してもよい。位置を特定する中間領域は、第1撮像領域に含まれる複数の中間領域のうちの1つの中間領域であってもよい。対象領域は、中間領域を20%拡大した領域であってもよい。
図4の上段及び中段では、対象領域が矩形形状を有するが、対象領域は、中間領域の相似形状であってもよい。ここでは、皿の部分を含む領域が対象領域として特定されるケースが例示されている。
【0052】
第2撮像部21は、第2処理において、
図4の下段に示すように、中間領域を含む対象領域の中で中間領域の内側及び外側の少なくともいずれか1つに位置する所定領域を所定色に変換する。ここでは、中間領域の外側に位置する所定領域が所定色に変換されるケースが例示されている。中間領域の内側に位置する所定領域が所定色に変換されてもよい。但し、中間領域を区画する境界については所定色に変換されないことに留意すべきである。特に限定されるものではないが、所定色は黒色であってもよい。
【0053】
第2撮像部21は、対象領域を対象として、複数の撮像画像のそれぞれにラプラシアンフィルタを適用することによって、複数の撮像画像のエッジ成分を、分割領域毎ではなく、対象領域全体で検出して比較する。第2撮像部21は、対象領域を対象として、複数の撮像画像のエッジ成分を分割領域毎に検出して比較してもよい。第2撮像部21は、対象領域エッジ成分を再特定する。言い換えると、所定領域が所定色に変換された後の対象領域においてエッジ成分が再特定される。
【0054】
中間領域と焦点特定領域との境界線の長さ、焦点特定領域の面積又は焦点特定領域の焦点距離の深さに基づいて補間焦点領域が決定されてよいことは上述した。これらの処理は、分割領域毎に再特定されたエッジ成分に基づいて実行され得る。
【0055】
なお、例えば中間領域と焦点特定領域との境界線の長さに基づいて補間焦点領域が決定される場合などは、第2撮像部21は、対象となる中間領域を特定さえすれば、最初に検出したエッジ成分(第1撮像領域を対象に検出したエッジ成分)に基づいて補間焦点領域を決定することができる。この場合、第2撮像部21は、中間領域を特定した後は、中間領域を含む対象領域を特定するのみで、エッジ成分の再検出を行わなくてもよい。
【0056】
(第1補間処理)
以下において、実施形態に係る第1補間処理について説明する。
【0057】
第2撮像部21は、第2処理において、中間領域の内側又は外側に位置しており、かつ、2以上の焦点特定領域のいずれかである補間焦点領域の焦点距離に基づいて、中間領域の焦点距離を補間する。すなわち、第2撮像部21は、
図5の上段に示す深さマップ(
図3の下段に示す深さマップと同じ)について、中間領域の焦点距離を補間することによって、
図5の下段に示す深さマップを生成する。ここでは、ケーキの部分を構成する焦点特定領域が補間焦点領域として用いられるケースが例示されている。
【0058】
なお、中間領域の内側に位置する焦点特定領域及び中間領域の内側に位置する焦点特定領域のどちらが補間焦点領域に採用されるかは、上述した例に限られない。例えば、複数の撮像画像のエッジ成分が、対象領域全体で比較されると、1枚の撮像画像につき1つのエッジ成分が検出される。第2撮像部21は、これらのエッジ成分のうち最もピークの強いエッジ成分に基づいて第2処理を行ってもよい。すなわち、第2撮像部21は、これらのエッジ成分のうち最もピークの強いエッジ成分に対応する焦点距離を有する領域を補間焦点領域とし、当該補間焦点領域に基づいて第2処理を行ってもよい。このとき、最もピークの強いエッジ成分に対応する焦点距離を有する領域は、中間領域の内側に位置する焦点特定領域か、又は中間領域の外側に位置する焦点特定領域であり得る。
【0059】
他の実施形態において、第2撮像部21は、対象領域を対象とし、複数の撮像画像のエッジ成分を分割領域毎に検出し、それらを重ね合わせることで、1枚の撮像画像につき1つのエッジ成分を特定してもよい。
【0060】
ここで、このような補間処理(以下、第1補間処理)が適用される中間領域は、所定面積以下の中間領域であってもよい。言い換えると、第1補間処理は、所定面積よりも大きい中間領域には適用されなくてもよい。
【0061】
このような第1補間処理は、分割領域単位で行われてもよく、分割領域を構成する画素単位で行われてもよい。
【0062】
(第2補間処理)
以下において、実施形態に係る第2補間処理について説明する。
【0063】
第2撮像部21は、中間領域の補間後において、焦点距離が特定されていない残り領域を特定し、残り領域の列方向又は行方向に含まれる補間焦点領域の焦点距離に基づいて、残り領域の焦点距離を補間する。第2撮像部21は、
図6の上段に示す深さマップ(
図5の下段に示す深さマップと同じ)について、残り領域の焦点距離を補間することによって、
図6の下段に示す深さマップを生成する。ここでは、残り領域の行方向に含まれる焦点特定領域のうち、最も面積が大きい焦点特定領域が補間焦点領域として用いられるケースを例示している。焦点特定領域としては、上述した第1補間処理で焦点距離が補間された分割領域を用いてもよい。
【0064】
このような第2補間処理は、分割領域単位で行われてもよく、分割領域を構成する画素単位で行われてもよい。
【0065】
(画像処理方法)
以下において、実施形態に係る画像処理方法について説明する。
【0066】
図7に示すように、ステップS10において、携帯端末1の第2撮像部21(以下、単にプロセッサ)は、アウトカメラ9から被写体までの距離(被写体距離)が所定距離以下であるか否かを判定する。プロセッサは、判定結果がYESである場合に、ステップS30の処理を行う。プロセッサは、判定結果がNOである場合に、ステップS20の処理を行う。
【0067】
ステップS20において、プロセッサは、撮像画像によって人物検出が可能であるか否かを判定する。プロセッサは、判定結果がYESである場合に、ステップS40の処理を行う。プロセッサは、判定結果がNOである場合に、ステップS50の処理を行う。ここで、人物検出の方法としては、画像マッチングなどのように既知の方法を用いることができる。
【0068】
ステップS30において、プロセッサは、第1撮像処理を実行する。第1撮像処理は、上述した第1処理及び第2処理を含む処理である。第1撮像処理の詳細については後述する(
図8を参照)。
【0069】
ステップS40において、プロセッサは、第2撮像処理を実行する。第2撮像処理は、被写体を含む領域(人物領域)と被写体を含まない領域(背景領域)とを人物検出によって判別する処理を含んでもよい。第2撮像処理は、人物領域の焦点距離及び背景領域の焦点距離を個別に変更する処理を含んでもよい。第2撮像処理は、背景領域をぼかした画像を生成する処理であってもよく、人物領域をぼかした画像を生成する処理であってもよい。
【0070】
ステップS50において、プロセッサは、第3撮像処理を実行する。第3撮像処理は、1枚の撮像画像のみを撮像する処理である。第3撮像処理では、深さマップは生成されずに、1枚の撮像画像がそのまま保存される。
【0071】
以下において、上述した第1撮像処理の詳細について説明する。
【0072】
図8に示すように、ステップS31において、プロセッサは、
図3の下段に示す深さマップを生成する。具体的には、プロセッサは、複数の撮像画像のそれぞれにラプラシアンフィルタを適用することによって、複数の撮像画像のエッジ成分を分割領域毎に比較する。プロセッサは、最も大きいエッジ成分が閾値よりも大きい分割領域を焦点特定領域として特定する。プロセッサは、最も大きいエッジ成分が閾値以下である分割領域を中間領域として特定する。ステップS31は、第1処理及び第2処理に共通する処理である。
【0073】
ステップS32において、プロセッサは、中間領域があるか否かを判定する。プロセッサは、判定結果がYESである場合に、ステップS33の処理を行う。プロセッサは、判定結果がNOである場合に、一連の処理を終了する。
【0074】
ステップS33において、プロセッサは、中間領域の焦点距離を補間する(第1補間処理)。プロセッサは、
図4及び
図5を用いて説明したように、中間領域の内側又は外側に位置する補間焦点領域の焦点距離に基づいて、中間領域の焦点距離を補間する。第1補間処理の詳細については後述する(
図9を参照)。ステップS33は、第2処理の一部である。
【0075】
ステップS34において、プロセッサは、残り領域があるか否かを判定する。プロセッサは、判定結果がYESである場合に、ステップS35の処理を行う。プロセッサは、判定結果がNOである場合に、一連の処理を終了する。
【0076】
ステップS35において、プロセッサは、残り領域の焦点距離を補間する(第2補間処理)。プロセッサは、
図6を用いて説明したように、焦点距離が特定されていない残り領域の列方向又は行方向に含まれる補間焦点領域の焦点距離に基づいて、残り領域の焦点距離を補間する。ステップS35は、第2処理の一部である。
【0077】
ステップS36において、プロセッサは、焦点距離が補間された深さマップを用いて、撮像画像を加工する処理を実行する。撮像画像の加工処理(第3処理)は、ぼかし処理が施されるぼかし領域とぼかし処理が施されない非ぼかし領域とを特定する処理を含む。ぼかし領域及び非ぼかし領域の少なくともいずれか1つは、ユーザによって選択可能に構成されていてもよい。
【0078】
撮像画像の加工処理(第3処理)は、非ぼかし領域に基づいて複数の撮像画像の中からメイン画像を特定する処理を含む。メイン画像は、非ぼかし領域の焦点距離の深さを有する撮像画像であってもよい。撮像画像の加工処理(第3処理)は、複数の撮像画像のうちの1つに対してぼかし処理を行って、ボケ画像を生成する処理を含む。複数の撮像画像のうちの1つとは、メイン画像であってもよい。撮像画像の加工処理(第3処理)は、ぼかし領域及び非ぼかし領域に基づいて、ボケ画像とメイン画像における非ぼかし領域とを合成する処理を含む。
【0079】
以下において、上述した第1補間処理の詳細について説明する。
【0080】
図9に示すように、ステップS331において、プロセッサは、中間領域を含む対象領域を特定する。例えば、対象領域は、中間領域を20%拡大した領域であってもよい。
【0081】
ステップS332において、プロセッサは、中間領域を含む対象領域の中で中間領域の内側及び外側の少なくともいずれか1つに位置する所定領域を所定色に変換する。
【0082】
ステップS333において、プロセッサは、対象領域に含まれる中間領域を再特定する。
【0083】
ステップS334において、プロセッサは、中間領域の内側又は外側に位置する補間焦点領域の焦点距離に基づいて、中間領域の焦点距離を補間する。補間焦点領域としては、中間領域の周囲に位置する焦点特定領域のうち、最も面積が大きい焦点特定領域が用いられてもよい。
【0084】
(作用及び効果)
実施形態では、携帯端末1は、中間領域の内側又は外側に位置しており、かつ、2以上の焦点特定領域のいずれかである補間焦点領域の焦点距離に基づいて、中間領域の焦点距離を補間する。このような構成によれば、携帯端末1は、エッジ成分が出現しない領域(例えば、単色領域)が存在しても、エッジ成分が出現しない領域(中間領域)の焦点距離を補間することができる。ひいては、焦点距離の適切な補間によって、ぼかし処理などの画像加工を適切に実行することができる。
【0085】
実施形態では、携帯端末1は、中間領域を含む対象領域を特定する。また、携帯端末1は、中間領域を含む対象領域の中で中間領域の内側及び外側の少なくともいずれか1つに位置する所定領域を所定色に変換する。このような構成によれば、携帯端末1は、中間領域が複数存在する場合でも、第1補間処理を適用する中間領域を適切に選択することができる。ひいては、補間処理を簡略化するとともに補間処理の精度を向上させることができる。
【0086】
実施形態では、携帯端末1は、被写体距離が所定距離以下である場合に、第1処理及び第2処理を含む第1撮像処理を実行する。このような構成によれば、効果が期待しにくい撮像画像にまで第1撮像処理を適用することによって、携帯端末1の処理負荷が増大することを抑制することができる。
【0087】
[変更例]
以下において、実施形態の変更例について説明する。変更例では、実施形態に対する相違点について主として説明する。
【0088】
変更例では、焦点距離が特定又は補間された領域の特定精度を高めるために、輪郭画像と焦点距離が特定又は補間された領域との比較によって、焦点距離が特定又は補間された領域の範囲を補正する補正処理が実行される。焦点距離が特定された領域とは、複数の撮像画像の比較によって焦点距離が特定された領域であり、焦点距離が補間された領域とは、第1補間処理及び第2補間処理がなされた後の中間領域である。これらの領域については、既に焦点距離が定まっているため、以下においては単に焦点特定領域と称する。
【0089】
第1に、第2撮像部21は、
図10の上段に示すように、複数の撮像画像のそれぞれに含まれる画素の2値化によって得られる輪郭画像を生成する。例えば、2値化は、三原色信号(RGB信号)及び輝度信号(Y信号)の少なくともいずれか1つを用いた2値化であってもよい。第2撮像部21は、1つの撮像画像を対象として2以上の閾値を用いることによって、1つの撮像画像から2以上の輪郭画像を生成してもよい。さらに、第2撮像部21は、複数の輪郭画像を重ね合わせて1つの輪郭画像を生成する。
【0090】
第2に、第2撮像部21は、
図10の中段に示すように、
図6の下段に示す深さマップを輪郭画像と重ね合わせる。
【0091】
第3に、第2撮像部21は、
図10の下段に示すように、輪郭画像と焦点特定領域との比較によって、焦点特定領域の範囲を補正する。具体的には、第2撮像部21は、輪郭画像に輪郭によって区画される輪郭領域のうち、所定閾値よりも大きいサイズを有する輪郭領域を特定する。第2撮像部21は、特定された輪郭領域と重複する焦点特定領域が閾値(例えば、50%)以上である場合に、特定された輪郭領域の全体が輪郭領域と重複する焦点特定領域となるように焦点特定領域を補正する。
【0092】
(画像処理方法)
以下において、変更例に係る画像処理方法について説明する。
【0093】
図11に示すように、ステップS101に示すように、携帯端末1の第2撮像部21(以下、単にプロセッサ)は、複数の撮像画像のそれぞれに含まれる画素の2値化によって得られる輪郭画像を生成する。プロセッサは、複数の輪郭画像を重ね合わせて1つの輪郭画像を生成する。
【0094】
ステップS102において、プロセッサは、深さマップを輪郭画像と重ね合わせる。
【0095】
ステップS103において、プロセッサは、所定閾値よりも大きいサイズを有する輪郭領域と重複する焦点特定領域を補正する。
【0096】
(作用及び効果)
変更例では、携帯端末1は、輪郭画像と焦点特定領域との比較によって、焦点特定領域の範囲を補正する。このような構成によれば、2以上の焦点特定領域の特定精度が向上する。
【0097】
変更例では、携帯端末1は、所定閾値よりも大きいサイズを有する輪郭領域を用いて、焦点特定領域を補正する。このような構成によれば、効果が期待しにくい領域にまで補正処理を適用することによって、携帯端末1の処理負荷が増大することを抑制することができる。
【0098】
[変更例]
以下において、実施形態の変更例について説明する。変更例では、実施形態に対する相違点について主として説明する。
【0099】
変更例では、携帯端末1のGUI(Graphical User Interface)について説明する。GUIは、携帯端末1のディスプレイ3上に表示される画像である。
【0100】
第1に、第1処理及び第2処理を含む第1撮像処理を利用するめの第1撮像モードに係るGUIについて説明する。ここでは、説明簡略化のため、第1撮像モード以外のモードを通常モードと称する。通常モードは、上述した第2撮像処理及び第3撮像処理を利用するためのモードであってもよく、アウトカメラ9を利用するアプリケーションを起動したときの初期モードであってもよい。
【0101】
具体的には、
図12に示すように、GUIは、第1撮像モードアイコン201と、シャッターアイコン202と、サムネイルアイコン203とを含む。第1撮像モードアイコン201は、第1撮像モードを起動するためのアイコンである。シャッターアイコン202は、アウトカメラ9によって画像を撮像するためのアイコンである。サムネイルアイコン203は、記憶部12に記憶される画像のサムネイルを表示するためのアイコンである。
【0102】
ここで、第1撮像モードアイコン201、シャッターアイコン202及びサムネイルアイコン203の配置は、通常モード及び第1撮像モードのGUIで共通である。通常モードにおける第1撮像モードアイコン201Aは、第1撮像モードが非アクティブであることを表示する(例えば、非点灯)。第1撮像モードにおける第1撮像モードアイコン201Bは、第1撮像モードがアクティブであることを表示する(例えば、点灯)。第1撮像モードにおけるシャッターアイコン202Bは、通常モードにおけるシャッターアイコン202Aとは異なる態様で表示される。同様に、第1撮像モードにおけるサムネイルアイコン203Bは、通常モードにおけるサムネイルアイコン203Aとは異なる態様で表示される。すなわち、シャッターアイコン202A及びサムネイルアイコン203Bは、現在のモードが第1撮像モードであることを表す専用アイコンである。
【0103】
第2に、第1撮像モードを利用するためのエディタに係るGUIについて説明する。
図13に示すように、GUIは、ぼかし処理の効果を選択するための複数の効果アイコン211を含む。例えば、効果アイコン211が選択された状態で、表示画像の一部(例えば、タッチ領域212)がユーザによって選択されると、タッチ領域212を基準として効果アイコン211に対応するぼかし処理が適用される。
【0104】
ここで、効果アイコン211に対応するぼかし処理は、エッジ成分を相対的に小さくする処理を含んでもよく、エッジ成分を相対的に大きくする処理を含んでもよい。
【0105】
[変更例]
以下において、実施形態の変更例について説明する。変更例では、実施形態に対する相違点について主として説明する。
【0106】
変更例では、アウトカメラ9は、複数の撮像画像として、第1解像度を有する複数の第1撮像画像と、アイコン第1解像度よりも小さい第2解像度を有する複数の第2撮像画像を撮像する。複数の第1撮像画像のそれぞれの撮像範囲及び焦点距離は、複数の第2撮像画像のそれぞれの撮像範囲及び焦点距離と対応する。
【0107】
第1に、第2撮像部21は、複数の第2撮像画像を用いて、第1処理及び第2処理を実行してもよい。第2撮像部21は、複数の第2撮像画像を用いて取得される焦点距離に基づいて、複数の第1撮像画像を加工する処理を実行してもよい。このような構成によれば、第1処理及び第2処理の処理負荷を軽減しながらも、解像度が高い画像を加工することができる。
【0108】
第2に、第2撮像部21は、複数の第2撮像画像を恒久記憶フォルダ12bに保存せずに、複数の第1撮像画像を恒久記憶フォルダ12bに保存する処理を実行してもよい。このようなケースにおいて、複数の第2撮像画像は、第1処理及び第2処理の実行中において編集フォルダ12cに記憶され、第1処理及び第2処理の完了後に編集フォルダ12cから削除されてもよい。
【0109】
第3に、第2撮像部21は、複数の第2撮像画像をディスプレイ3に表示せずに、複数の第1撮像画像をディスプレイ3に表示する処理を実行してもよい。第2撮像部21は、複数の第1撮像画像の少なくともいずれか1つに対するユーザ操作に応じて、複数の第2撮像画像を用いて、第1処理及び第2処理を実行してもよい。ユーザ操作は、
図13に示す撮像画像の一部のタッチ操作又はタップ操作であってもよい。
【0110】
[その他の実施形態]
本発明は上述した実施形態によって説明したが、この開示の一部をなす論述及び図面は、この発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施形態、実施例及び運用技術が明らかとなろう。
【0111】
実施形態では、アウトカメラ9によって撮像される撮像画像について、第1処理及び第2処理が適用されるケースを例示した。しかしながら、実施形態はこれに限定されるものではない。第1処理及び第2処理は、インカメラ8によって撮像される撮像画像に適用されてもよい。
【0112】
実施形態では、7枚の撮像画像が撮像されるケースについて説明した。しかしながら、実施形態はこれに限定されるものではない。3枚以上の撮像画像について第1処理及び第2処理が適用されてもよい。このような構成によれば、被写体と背景との2種類ではなく、少なくとも3段階以上の焦点距離を有する撮像画像によってぼかし処理を行うことができる。但し、第1処理及び第2処理が適用される撮像画像は2枚であってもよい。
【0113】
実施形態では、電子機器の一例として携帯端末1を例示した。しかしながら、実施形態はこれに限定されるものではない。電子機器は、撮像素子を備える機器であればよく、デジタルカメラであってもよい。
【0114】
実施形態では特に触れていないが、携帯端末1が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。また、プログラムは、コンピュータ読取り可能媒体に記録されていてもよい。コンピュータ読取り可能媒体を用いれば、コンピュータにプログラムをインストールすることが可能である。ここで、プログラムが記録されたコンピュータ読取り可能媒体は、非一過性の記録媒体であってもよい。非一過性の記録媒体は、特に限定されるものではないが、例えば、CD−ROMやDVD−ROM等の記録媒体であってもよい。
【0115】
或いは、携帯端末1が行う各処理を実行するためのプログラムを記憶するメモリ及びメモリに記憶されたプログラムを実行するプロセッサによって構成されるチップが提供されてもよい。
【解決手段】 電子機器は、所定撮像領域を有しており、かつ、異なる焦点距離を有する複数の撮像画像を撮像する撮像素子と、プロセッサと、を備える。前記プロセッサは、前記所定撮像領域に含まれる第1撮像領域において前記複数の撮像画像を比較することによって、前記第1撮像領域に含まれる少なくとも2以上の焦点特定領域を特定する第1処理を実行し、前記第1撮像領域において前記2以上の焦点特定領域のいずれにも属さない中間領域の焦点距離を補間する第2処理を実行する。前記第2処理は、前記中間領域の内側又は外側に位置しており、かつ、前記2以上の焦点特定領域のいずれかである補間焦点領域の焦点距離に基づいて、前記中間領域の焦点距離を補間する処理を含む。