(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-01-06
(45)【発行日】2025-01-15
(54)【発明の名称】情報処理装置、情報処理方法、及びプログラム
(51)【国際特許分類】
G02B 7/28 20210101AFI20250107BHJP
G03B 13/36 20210101ALI20250107BHJP
G02B 7/32 20210101ALI20250107BHJP
G02B 7/34 20210101ALI20250107BHJP
H04N 23/67 20230101ALI20250107BHJP
【FI】
G02B7/28 N
G03B13/36
G02B7/32
G02B7/34
H04N23/67
(21)【出願番号】P 2023120091
(22)【出願日】2023-07-24
(62)【分割の表示】P 2021561262の分割
【原出願日】2020-11-09
【審査請求日】2023-07-24
(31)【優先権主張番号】P 2019217520
(32)【優先日】2019-11-29
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】306037311
【氏名又は名称】富士フイルム株式会社
(74)【代理人】
【識別番号】110001519
【氏名又は名称】弁理士法人太陽国際特許事務所
(72)【発明者】
【氏名】増田 智紀
(72)【発明者】
【氏名】林 健吉
【審査官】眞岩 久恵
(56)【参考文献】
【文献】特開2017-107132(JP,A)
【文献】特開平07-167646(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G02B 7/28 - 7/40
G03B 3/00 - 3/12
G03B 13/30 -13/36
G03B 21/53
H04N 5/222- 5/257
H04N 23/00
H04N 23/40 -23/76
H04N 23/90 -23/959
(57)【特許請求の範囲】
【請求項1】
プロセッサと、
前記プロセッサに接続又は内蔵されたメモリと、を含み、
前記プロセッサは、
光照射器が光を撮像領域に向けて照射した照射タイミングと、前記光の前記撮像領域からの反射光を受光器が受光した受光タイミングとに基づいて前記撮像領域までの距離を測定する第1測距を行い、
撮像装置によって前記撮像領域が撮像されることで得られた第1画像に基づいて、前記撮像領域までの距離を測定する第2測距を行い、
前記第1測距を行うことで得られた第1測距結果と、前記第2測距を行うことで得られた第2測距結果とが異なる場合に特定の処理を実行し、
前記特定の処理は、前記第1測距結果と前記第2測距結果とが異なる旨を通知する処理、及び前記第1測距結果又は前記第2測距結果に基づいて前記撮像装置に対して、フォーカス制御を行い、かつ、前記撮像領域を撮像させる処理を含み、
前記受光器によって受光された前記反射光の受光量が閾値以上である場合、前記フォーカス制御は、前記第2測距結果に基づいて行われる
情報処理装置。
【請求項2】
前記特定の処理は、焦点調節をする前に前記第1測距結果と前記第2測距結果とが異なる旨を通知する処理を含む
請求項1に記載の情報処理装置。
【請求項3】
光照射器が光を撮像領域に向けて照射した照射タイミングと、前記光の前記撮像領域からの反射光を受光器が受光した受光タイミングとに基づいて前記撮像領域までの距離を測定する第1測距を行うこと、
撮像装置によって前記撮像領域が撮像されることで得られた第1画像に基づいて、前記撮像領域までの距離を測定する第2測距を行うこと、及び、
前記第1測距を行うことで得られた第1測距結果と、前記第2測距を行うことで得られた第2測距結果とが異なる場合に特定の処理を実行することを含み、
前記特定の処理は、前記第1測距結果と前記第2測距結果とが異なる旨を通知する処理、及び前記第1測距結果又は前記第2測距結果に基づいて前記撮像装置に対して、フォーカス制御を行い、かつ、前記撮像領域を撮像させる処理を含み、
前記受光器によって受光された前記反射光の受光量が閾値以上である場合、前記フォーカス制御は、前記第2測距結果に基づいて行われる
情報処理方法。
【請求項4】
コンピュータに情報処理を実行させるためのプログラムであって、
前記情報処理は、
光照射器が光を撮像領域に向けて照射した照射タイミングと、前記光の前記撮像領域からの反射光を受光器が受光した受光タイミングとに基づいて前記撮像領域までの距離を測定する第1測距を行うこと、
撮像装置によって前記撮像領域が撮像されることで得られた第1画像に基づいて、前記撮像領域までの距離を測定する第2測距を行うこと、及び、
前記第1測距を行うことで得られた第1測距結果と、前記第2測距を行うことで得られた第2測距結果とが異なる場合に、前記第1測距結果と前記第2測距結果とが異なる旨を通知する処理、及び前記第1測距結果又は前記第2測距結果に基づいて前記撮像装置に対して、フォーカス制御を行い、かつ、前記撮像領域を撮像させる処理を含む特定の処理を実行することを含み、
前記受光器によって受光された前記反射光の受光量が閾値以上である場合、前記フォーカス制御は、前記第2測距結果に基づいて行われる
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示の技術は、情報処理装置、情報処理方法、及びプログラムに関する。
【背景技術】
【0002】
特許文献1には、光軸にそって一方向へ光を出射する発光素子と、光軸に垂直な方向へ配されたアバランシェフォトダイオードである複数の受光素子と、検知物体と発光素子とを隔てる筐体と、TOF方式および三角測量方式で距離を特定する制御部と、を備える光センサが開示されている。
【0003】
特許文献2には、車両の近くに人間がいるときに、人間に危害を与えないように小さい送光パワーでスキャン測距を行って人間が存在する方向を記憶しておき、次に送光パワーを大きくしてスキャン測距を行う際には、予め記憶してある人間が存在している方向に対しては光の送出を停止し、それ以外の方向だけに対して、大きな送光パワーでスキャン測距を行い、近くに存在する人間に危害を与えることなく、遠方に存在する車両の存在を確実に検出できるようにした車両用レーダ装置が開示されている。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2016-223902号公報
【文献】特開平09-197045号公報
【発明の概要】
【0005】
本開示の技術に係る一つの実施形態は、異なる測距方式によって得られた第1測距結果と第2測距結果とが異なる場合に生じる諸問題の解決に寄与することができる情報処理装置、情報処理方法、及びプログラムを提供する。
【課題を解決するための手段】
【0006】
本開示の技術に係る第1の態様は、プロセッサと、プロセッサに接続又は内蔵されたメモリと、を含み、プロセッサが、光照射器が光を撮像領域に向けて照射した照射タイミングと、光の撮像領域からの反射光を受光器が受光した受光タイミングとに基づいて撮像領域までの距離を測定する第1測距を行い、撮像装置によって撮像領域が撮像されることで得られた第1画像に基づいて、撮像領域までの距離を測定する第2測距を行い、第1測距を行うことで得られた第1測距結果と、第2測距を行うことで得られた第2測距結果とが異なる場合に特定の処理を実行する情報処理装置である。
【0007】
本開示の技術に係る第2の態様は、特定の処理が、第1測距結果と第2測距結果とが異なる旨を通知する処理を含む第1の態様に係る情報処理装置である。
【0008】
本開示の技術に係る第3の態様は、特定の処理が、第1測距結果と第2測距結果のそれぞれに基づいて撮像装置に対して、フォーカス制御を行い、かつ、撮像領域を撮像させる処理を含む第1の態様又は第2の態様に係る情報処理装置である。
【0009】
本開示の技術に係る第4の態様は、特定の処理が、第1測距結果に基づくフォーカス制御下で撮像領域が撮像されることで得られた第1合焦画像と、第2測距結果に基づくフォーカス制御下で撮像領域が撮像されることで得られた第2合焦画像とをディスプレイに対して表示させ、かつ、第1合焦画像及び第2合焦画像がディスプレイに表示されている状態で第1合焦画像及び第2合焦画像のうちの少なくとも1つの選択をユーザに促す処理を含む第3の態様に係る情報処理装置である。
【0010】
本開示の技術に係る第5の態様は、特定の処理が、第1測距結果又は第2測距結果に基づいて撮像装置に対して、フォーカス制御を行い、かつ、撮像領域を撮像させる処理を含む第1の態様又は第2の態様に係る情報処理装置である。
【0011】
本開示の技術に係る第6の態様は、フォーカス制御が、第1測距結果及び第2測距結果のうち、与えられた指示に従って定められた何れかの測距結果に基づいて撮像装置に対して行われる第5の態様に係る情報処理装置である。
【0012】
本開示の技術に係る第7の態様は、撮像装置が、広角側と望遠側とで撮像可能であり、撮像装置が広角側で撮像する場合、フォーカス制御が、第1測距結果に基づいて撮像装置に対して行われる第5の態様に係る情報処理装置である。
【0013】
本開示の技術に係る第8の態様は、受光器によって受光された反射光の受光量が閾値以上である場合、フォーカス制御が、第2測距結果に基づいて行われる第5の態様に係る情報処理装置である。
【0014】
本開示の技術に係る第9の態様は、フォーカス制御が、第1測距結果及び第2測距結果のうち、撮像装置によって撮像領域が撮像されることで得られた第2画像に対する、既定反射率以上の反射率を有する領域を示す高反射率領域の割合、又は、第2画像内の高反射率領域の面積と第2画像内の高反射率領域と異なる領域の面積との差分に従って定められた何れかの測距結果に基づいて撮像装置に対して行われる第5の態様に係る情報処理装置である。
【0015】
本開示の技術に係る第10の態様は、プロセッサが、撮像装置によって撮像領域が撮像されることで得られた第2画像に対して、特定被写体を示す特定被写体画像の検出を行い、特定被写体画像がプロセッサによって検出された場合、フォーカス制御が、第2測距結果に基づいて行われる第5の態様に係る情報処理装置である。
【0016】
本開示の技術に係る第11の態様は、特定被写体が、既定反射率以上の反射率を有する高反射率領域を含み、高反射率領域が、人物及び撮像装置のうちの少なくとも一方の像が映り込んだ領域である第10の態様に係る情報処理装置である。
【0017】
本開示の技術に係る第12の態様は、プロセッサと、プロセッサに接続又は内蔵されたメモリと、を含み、プロセッサが、光照射器が光を撮像領域に向けて照射した照射タイミングと、光の撮像領域からの反射光を受光器が受光した受光タイミングとに基づいて撮像領域までの距離を測定し、撮像領域に含まれる被写体に合焦する第1合焦位置を距離に基づいて導出し、被写体に合焦する第2合焦位置を、撮像装置によって撮像領域が撮像されることで得られた画像に基づいて導出し、第1合焦位置と第2合焦位置とが異なる場合に特定の処理を実行する情報処理装置である。
【0018】
本開示の技術に係る第13の態様は、光照射器が光を撮像領域に向けて照射した照射タイミングと、光の撮像領域からの反射光を受光器が受光した受光タイミングとに基づいて撮像領域までの距離を測定する第1測距を行うこと、撮像装置によって撮像領域が撮像されることで得られた第1画像に基づいて、撮像領域までの距離を測定する第2測距を行うこと、及び、第1測距を行うことで得られた第1測距結果と、第2測距を行うことで得られた第2測距結果とが異なる場合に特定の処理を実行することを含む情報処理方法である。
【0019】
本開示の技術に係る第14の態様は、光照射器が光を撮像領域に向けて照射した照射タイミングと、光の撮像領域からの反射光を受光器が受光した受光タイミングとに基づいて撮像領域までの距離を測定すること、撮像領域に含まれる被写体に合焦する第1合焦位置を距離に基づいて導出すること、被写体に合焦する第2合焦位置を、撮像装置によって撮像領域が撮像されることで得られた画像に基づいて導出すること、及び、第1合焦位置と第2合焦位置とが異なる場合に特定の処理を実行することを含む情報処理方法である。
【0020】
本開示の技術に係る第15の態様は、コンピュータに、光照射器が光を撮像領域に向けて照射した照射タイミングと、光の撮像領域からの反射光を受光器が受光した受光タイミングとに基づいて撮像領域までの距離を測定する第1測距を行うこと、撮像装置によって撮像領域が撮像されることで得られた第1画像に基づいて、撮像領域までの距離を測定する第2測距を行うこと、及び、第1測距を行うことで得られた第1測距結果と、第2測距を行うことで得られた第2測距結果とが異なる場合に特定の処理を実行することを含む処理を実行させるためのプログラムである。
【0021】
本開示の技術に係る第16の態様は、コンピュータに、光照射器が光を撮像領域に向けて照射した照射タイミングと、光の撮像領域からの反射光を受光器が受光した受光タイミングとに基づいて撮像領域までの距離を測定すること、撮像領域に含まれる被写体に合焦する第1合焦位置を距離に基づいて導出すること、被写体に合焦する第2合焦位置を、撮像装置によって撮像領域が撮像されることで得られた画像に基づいて導出すること、及び、第1合焦位置と第2合焦位置とが異なる場合に特定の処理を実行することを含む処理を実行させるためのプログラムである。
【図面の簡単な説明】
【0022】
【
図1】第1実施形態に係るスマートデバイスの使用態様の一例を示す概略斜視図である。
【
図2】第1実施形態に係るスマートデバイスの背面側の外観の一例を示す背面視斜視図である。
【
図3】第1実施形態に係るスマートデバイスに含まれる測距撮像装置によって撮像領域が撮像され、ディスプレイに可視光画像が表示されている態様の一例を示す概念図である。
【
図4】第1実施形態に係るスマートデバイスに含まれる測距撮像装置によって撮像領域に対してレーザ光を照射している態様の一例を示す概念図である。
【
図5】第1実施形態に係るスマートデバイスの光電変換素子に含まれる各画素の配置の一例を示す概略斜視図である。
【
図6】
図5に示す光電変換素子に含まれる第1位相差画素及び第2位相差画素に対する被写体光の入射特性の一例を示す概念図である。
【
図7】
図5に示す光電変換素子に含まれる非位相差画素の構成の一例を示す概略構成図である。
【
図8】第1実施形態に係るスマートデバイスの電気系ハードウェアの構成の一例を示すブロック図である。
【
図9】第1実施形態に係るスマートデバイスに含まれるCPUの機能の一例を示すブロック図である。
【
図10】
図9に示す第1測距制御部及び取得部の処理内容の一例を示す概念図である。
【
図11】
図9に示す第2測距制御部及び取得部の処理内容の一例を示す概念図である。
【
図12】鏡面と鏡に映った像との各々が測距対象とされた場合の第1測距による測距結果(第1距離)と第2測距による測距結果(第2距離)との関係性の一例を示す概念図である。
【
図13】
図9に示す判定部及び実行部の処理内容の一例を示すブロック図である。
【
図14】
図13に示す特定の処理の詳細の一例を示す概念図である。
【
図15】第1実施形態に係るスマートデバイスによってディスプレイに表示されている画像選択画面内の第1可視光画像がユーザによってタッチパネルを介して選択された場合の処理内容の一例を示す概念図である。
【
図16】第1実施形態に係るスマートデバイスによってディスプレイに表示されている画像選択画面内の第2可視光画像がユーザによってタッチパネルを介して選択された場合の処理内容の一例を示す概念図である。
【
図17A】第1実施形態に係る測距撮像処理の流れの一例を示すフローチャートである。
【
図18A】第1実施形態に係る測距撮像処理の流れの第1変形例を示すフローチャートである。
【
図19】第1実施形態に係る測距撮像処理の流れの第2変形例を示すフローチャートである。
【
図20】第1実施形態に係る測距撮像処理の流れの第3変形例を示すフローチャートである。
【
図21】第1実施形態に係る測距撮像処理の流れの第4変形例を示すフローチャートである。
【
図22】第1実施形態に係るスマートデバイスが広角用受光器を更に備えた態様の一例を示す背面視斜視図である。
【
図23】第1実施形態に係る測距撮像処理の流れの第5変形例を示すフローチャートである。
【
図24】第2実施形態に係るスマートデバイスに含まれるCPUの機能の一例を示すブロック図である。
【
図25】第2実施形態に係るスマートデバイスによって行われるフォーカス制御で用いられる第1合焦位置を算出するための処理内容の一例を示す概念図である。
【
図26】第2実施形態に係るスマートデバイスによって行われるフォーカス制御で用いられる第2合焦位置を算出するための処理内容の一例を示す概念図である。
【
図27】
図24に示す判定部及び実行部の処理内容の一例を示すブロック図である。
【
図28】
図27に示す特定の処理の詳細の一例を示す概念図である。
【
図29A】第2実施形態に係る測距撮像処理の流れの一例を示すフローチャートである。
【
図30】実施形態に係る測距撮像処理プログラムがスマートデバイスにインストールされる態様の一例を示す概念図である。
【発明を実施するための形態】
【0023】
以下、添付図面に従って本開示の技術に係る撮像装置の実施形態の一例について説明する。
【0024】
先ず、以下の説明で使用される文言について説明する。
【0025】
CPUとは、“Central Processing Unit”の略称を指す。RAMとは、“Random Access Memory”の略称を指す。ASICとは、“Application Specific Integrated Circuit”の略称を指す。PLDとは、“Programmable Logic Device”の略称を指す。FPGAとは、“Field-Programmable Gate
Array”の略称を指す。SoCとは、“System-on-a-chip”の略称を指す。SSDとは、“Solid State Drive”の略称を指す。USBとは、“Universal Serial Bus”の略称を指す。HDDとは、“Hard Disk Drive”の略称を指す。EEPROMとは、“Electrically Erasable and Programmable Read Only Memory”の略称を指す。ELとは、“Electro-Luminescence”の略称を指す。A/Dとは、“Analog/Digital”の略称を指す。I/Fとは、“Interface”の略称を指す。UIとは、“User Interface”の略称を指す。LTEとは、“Long Term Evolution”の略称を指す。5Gとは、“5th Generation”の略称を指す。LDとは、“Laser Diode”の略称を指す。IRとは、“Infrared”の略称を指す。APDとは、“Avalanche Photodiode”の略称を指す。TOFとは、
“Time of Flight”の略称を指す。fpsとは、“frame per second”の略称を指す。LEDとは、“Light Emitting Diode”の略称を指す。ROIとは、“Region of Interest”の略称を指す。LANとは、“Local Area Network”の略称を指す。AFとは、“Auto Focus”の略称を指す。ICとは、“Integrated Circuit”の略称を指す。
【0026】
本明細書の説明において、「水平」とは、完全な水平の他に、本開示の技術が属する技術分野で一般的に許容される誤差を含めた意味合いでの水平を指す。本明細書の説明において、「平行」とは、完全な平行の他に、本開示の技術が属する技術分野で一般的に許容される誤差を含めた意味合いでの平行を指す。本明細書の説明において、「垂直」とは、完全な垂直の他に、本開示の技術が属する技術分野で一般的に許容される誤差を含めた意味合いでの垂直を指す。本明細書の説明において、「一致」とは、完全な一致の他に、本開示の技術が属する技術分野で一般的に許容される誤差を含めた意味合いでの一致を指す。
【0027】
[第1実施形態]
一例として
図1に示すように、スマートデバイス10は、画角θ1で規定された撮像領域を撮像する撮像動作(以下、単に「撮像動作」とも称する)と、測距動作とを行う。本第1実施形態において、「測距」とは、スマートデバイス10から撮像領域までの距離を測定する処理を指す。なお、スマートデバイス10は、本開示の技術に係る「情報処理装置」の一例であり、スマートデバイス10としては、例えば、撮像機能付きの電子機器であるスマートフォン又はタブレット端末等が挙げられる。
【0028】
スマートデバイス10では、測距方式が互いに異なる第1測距及び第2測距が行われる。第1測距は、スマートデバイス10がレーザ光を撮像領域に向けて照射したタイミングと、レーザ光の撮像領域からの反射光をスマートデバイス10が受光したタイミングとに基づいて撮像領域までの距離を測定する方式(以下、「アクティブ方式」とも称する)の測距である。第2測距は、スマートデバイス10によって撮像領域が撮像されることで得られた画像に基づいて、撮像領域までの距離を測定する方式(以下、「パッシブ方式」とも称する)の測距である。ここで、スマートデバイス10によって撮像領域が撮像されることで得られた画像は、本開示の技術に係る「第1画像」の一例である。また、レーザ光は、本開示の技術に係る「光」の一例である。また、ここでは、レーザ光が撮像領域に向けて面照射される。なお、面照射とは、レーザ光が撮像領域に向けてビーム径がスポット照射よりも拡がる照射を指す。面照射では、レーザ光のビーム径が、レーザ光の照射方向に沿って徐々に拡がり、ビーム径が単位時間あたりに拡がる度合いは、スポット照射よりも面照射の方が大きい。つまり、スポット照射では、撮像領域のある面に対して点状にレーザ光が照射されるのに対し、面照射では、撮像領域のある面に対して面状にレーザ光が照射される。また、レーザ光の照射は単発でもよいが、定期的に(例えば、0.1秒毎)に間欠的に行われるようにしてもよく、この場合、レーザ光の照射毎に第1測距が行われ、測距結果に基づく処理が行われるようにしてもよい。
【0029】
スマートデバイス10では、アクティブ方式の測距とパッシブ方式の測距とを併用したハイブリッド方式の測距が行われる。そして、スマートデバイス10では、アクティブ方式フォーカス制御を伴う撮像と、パッシブ方式フォーカス制御を伴う撮像とが行われる。アクティブ方式フォーカス制御とは、アクティブ方式の測距が行われることによって得られた測距結果に基づくフォーカス制御を指す。パッシブ方式フォーカス制御とは、パッシブ方式の測距が行われることによって得られる測距結果に基づくフォーカス制御を指す。
【0030】
一例として
図2に示すように、スマートデバイス10は、筐体12を備えている。筐体12には、測距撮像装置14が収容されている。測距撮像装置14は、光照射器16及び受光器18を備えている。光照射器16は、LD24を備えており、スマートデバイス10において、撮像動作及び測距動作は、測距撮像装置14によって行われる。
【0031】
スマートデバイス10の側面には、指示キー13が配置されている。指示キー13は、各種の指示を受け付ける。ここで言う「各種の指示」とは、例えば、各種メニューを選択可能なメニュー画面の表示の指示、1つ又は複数のメニューの選択の指示、選択内容の確定の指示、及び選択内容の消去の指示等を指す。
【0032】
スマートデバイス10を縦置きの状態にした場合の筐体12の背面12Aの左上部(縦置きの状態のスマートデバイス10の背面視左上部)には、透光窓20及び22が設けられている。透光窓20及び22は、透光性を有する光学素子(例えば、レンズ)であり、水平方向に沿って既定の間隔(例えば、数ミリの間隔)で配置されており、背面12Aから露出している。光照射器16は、LD24から出射されたレーザ光を、透光窓20を介して撮像領域に向けて照射する。本第1実施形態では、赤外波長域のレーザ光が光照射器16によって撮像領域に向けて照射されている。なお、レーザ光の波長域は、これに限らず、他の波長域のレーザ光であってもよい。
【0033】
受光器18は、透光窓22を介してIR反射光を取り込む。IR反射光とは、光照射器16によって測距対象に照射されたレーザ光の測距対象からの反射光を指す。また、受光器18は、透光窓22を介して可視反射光を取り込む。可視反射光とは、撮像領域に対して照射された可視光(例えば、太陽光に含まれる可視光)の撮像領域からの反射光を指す。なお、以下では、説明の便宜上、IR反射光と可視反射光とを区別して説明する必要がない場合、単に「反射光」と称する。
【0034】
受光器18は、本開示の技術に係る「撮像装置」の一例であり、光電変換素子26を備えている。光電変換素子26は、透光窓22を介して受光器18に取り込まれた反射光を受光し、受光した反射光の光量に応じた電気信号を出力する。
【0035】
一例として
図3に示すように、筐体12の前面12Bには、タッチパネル・ディスプレイ59が設けられている。タッチパネル・ディスプレイ59は、ディスプレイ46及びタッチパネル48を備えている。ディスプレイ46の一例としては、有機ELディスプレイが挙げられる。ディスプレイ46は、有機ELディスプレイではなく、液晶ディスプレイなどの他種類のディスプレイであってもよい。
【0036】
ディスプレイ46は、画像(例えば、ライブビュー画像及び再生画像)及び文字情報等を表示する。タッチパネル48は、透過型のタッチパネルであり、ディスプレイ46の表示領域の表面に重ねられている。タッチパネル48は、指又はスタイラスペン等の指示体による接触を検知することで、ユーザからの指示を受け付ける。なお、ここでは、タッチパネル・ディスプレイ59の一例として、タッチパネル48がディスプレイ46の表示領域の表面に重ねられているアウトセル型のタッチパネル・ディスプレイを挙げているが、これはあくまでも一例に過ぎない。例えば、タッチパネル・ディスプレイ59として、オンセル型又はインセル型のタッチパネル・ディスプレイを適用することも可能である。
【0037】
スマートデバイス10では、撮像を開始する指示がタッチパネル48によって受け付けられると、受光器18によって撮像領域が撮像される。すなわち、受光器18は、可視光反射光を受光し、受光した可視光反射光に応じた画像として、撮像領域を示す可視光画像を生成する。可視光画像は、本開示の技術に係る「第1画像」及び「第2画像」の一例である。
【0038】
可視光画像は、タッチパネル48によって受け付けられた指示に応じて、ライブビュー画像又は静止画像として、ディスプレイ46に表示される。
図3に示す例では、撮像領域が画角θ1によって規定されている。画角θ1は、タッチパネル48によって受け付けられた指示に従って変更される。
【0039】
一例として
図4に示すように、スマートデバイス10では、測距及び撮像を開始する指示(以下、「測距撮像開始指示」とも称する)がタッチパネル48によって受け付けられると、光照射器16によってレーザ光が照射される。レーザ光が照射される角度(以下、「照射角度」とも称する)は、θ2であり、照射角度θ2は、タッチパネル48によって受け付けられた指示に従って変更される。なお、
図4に示す例では、可視光画像がライブビュー画像としてディスプレイ46に表示されている状態でタッチパネル48によって受け付けられた測距撮像開始指示に応じて測距が開始される形態例を挙げて説明しているが、本開示の技術はこれに限定されない。例えば、可視光画像がディスプレイ46に表示されていない状態でタッチパネル48によって測距撮像開始指示が受け付けられた場合に測距が開始されるようにしてもよい。
【0040】
スマートデバイス10では、光照射器16によってレーザ光が照射されてから、受光器18によってIR反射光が受光されるまでに要する時間と、光速とに基づいて、スマートデバイス10から測距対象までの距離が測定される。例えば、測距対象までの距離を“L0”とし、光速を“c”とし、光照射器16によってレーザ光が照射されてから受光器18よってIR反射光が受光されるまでに要する時間を“t”とすると、距離L0は、“L0=c×t×0.5”の式に従って算出される。
【0041】
一例として
図5に示すように、光電変換素子26は、マトリクス状に配置された複数のフォトダイオードを有している。複数のフォトダイオードの一例としては、“4896×3265”画素分のフォトダイオードが挙げられる。
【0042】
光電変換素子26に含まれる各フォトダイオードには、カラーフィルタが配置されている。カラーフィルタは、輝度信号を得るために最も寄与するG(緑色)波長域に対応するGフィルタ、R(赤色)波長域に対応するRフィルタ、B(青色)波長域に対応するBフィルタ、及びIR(赤外)波長域に対応するIRフィルタを含む。なお、本第1実施形態において、Gフィルタ、Rフィルタ、及びBフィルタは、赤外光をカットする赤外光カットフィルタとしての機能も有する。
【0043】
光電変換素子26は、位相差画素と、位相差画素とは異なる画素である非位相差画素Nとの2種類の感光画素によって形成されている。一般的に、非位相差画素Nは、通常画素とも称される。光電変換素子26は、非位相差画素として、R画素、G画素、B画素、及びIR画素の4種類の感光画素を有する。R画素、G画素、B画素、IR画素、及び位相差画素は、行方向(水平方向)及び列方向(垂直方向)の各々に既定の周期性で規則的に配置されている。R画素は、Rフィルタが配置されたフォトダイオードに対応する画素であり、G画素及び位相差画素は、Gフィルタが配置されたフォトダイオードに対応する画素であり、B画素は、Bフィルタが配置されたフォトダイオードに対応する画素であり、IR画素は、IRフィルタが配置されたフォトダイオードに対応する画素である。IR画素の一例としては、InGaAs APDが挙げられる。
【0044】
なお、以下では、説明の便宜上、Gフィルタ、Rフィルタ、及びBフィルタを区別して説明する必要がない場合、「可視光フィルタ」とも称する。また、以下では、説明の便宜上、R画素、G画素、及びB画素を区別して説明する必要がない場合、これらを「可視光画素」と称する。
【0045】
光電変換素子26の受光面には、複数の位相差画素ライン26Aと複数の非位相差画素ライン26Bとが配列されている。位相差画素ライン26Aは、位相差画素を含む水平ラインである。具体的には、位相差画素ライン26Aは、位相差画素と非位相差画素Nとが混在している水平ラインである。非位相差画素ライン26Bは、複数の非位相差画素Nのみを含む水平ラインである。
【0046】
光電変換素子26の受光面には、位相差画素ライン26Aと、既定ライン数分の非位相差画素ライン26Bとが列方向に沿って交互に配置されている。ここで言う「既定ライン数」とは、例えば、2ラインを指す。なお、ここでは、既定ライン数として、2ラインを例示しているが、本開示の技術はこれに限らず、既定ライン数は、3ライン以上の数ラインであってもよいし、十数ライン、数十ライン、又は数百ライン等であってもよい。
【0047】
位相差画素ライン26Aは、1行目から最終行にかけて列方向に2行飛ばしで配列されている。位相差画素ライン26Aの一部の画素が位相差画素である。具体的には、位相差画素ライン26Aは、位相差画素と非位相差画素Nとが周期的に配列された水平ラインである。位相差画素は、第1位相差画素Lと第2位相差画素Rとに大別される。位相差画素ライン26Aには、G画素として第1位相差画素Lと第2位相差画素Rとがライン方向に数画素間隔で交互に配置されている。
【0048】
第1位相差画素L及び第2位相差画素Rは、列方向で交互に現れるように配置されている。
図5に示す例では、4列目において、1行目から列方向に沿って第1位相差画素L、第2位相差画素R、第1位相差画素L、及び第2位相差画素Rの順に配置されている。すなわち、第1位相差画素Lと第2位相差画素Rとが1行目から列方向に沿って交互に配置されている。また、
図5に示す例では、10列目において、1行目から列方向に沿って第2位相差画素R、第1位相差画素L、第2位相差画素R、及び第1位相差画素Lの順に配置されている。すなわち、第2位相差画素Rと第1位相差画素Lとが1行目から列方向に沿って交互に配置されている。
【0049】
光電変換素子26は、3つの領域に区分される。すなわち、光電変換素子26は、可視光画像用区分領域26N1、第1測距系区分領域26N2、及び第2測距系区分領域26N3を有する。可視光画像用区分領域26N1は、複数の可視光画素による可視光画素群であり、可視光画像の生成に用いられる。第1測距系区分領域26N2は、複数のIR画素によるIR画素群であり、第1測距に用いられる。第2測距系区分領域26N3は、複数の位相差画素による位相差画素群であり、第2測距に用いられる。可視光画像用区分領域26N1及び第2測距系区分領域26N3は、可視反射光を受光し、受光量に応じた電気信号を出力する。第1測距系区分領域26N2は、IR反射光を受光し、受光量に応じた電気信号を出力する。
【0050】
一例として
図6に示すように、第1位相差画素Lは、マイクロレンズ19、遮光部材17A、及びフォトダイオードPDを備えている。第1位相差画素Lでは、マイクロレンズ19とフォトダイオードPDの受光面との間に遮光部材17Aが配置されている。フォトダイオードPDの受光面における行方向の左半分(受光面から被写体を臨む場合の左側(換言すると、被写体から受光面を臨む場合の右側))は、遮光部材17Aによって遮光されている。
【0051】
第2位相差画素Rは、マイクロレンズ19、遮光部材17B、及びフォトダイオードPDを備えている。第2位相差画素Rでは、マイクロレンズ19とフォトダイオードPDの受光面との間に遮光部材17Bが配置されている。フォトダイオードPDの受光面における行方向の右半分(受光面から被写体を臨む場合の右側(換言すると、被写体から受光面を臨む場合の左側))は、遮光部材17Bによって遮光されている。なお、以下では、説明の便宜上、遮光部材17A及び17Bを区別して説明する必要がない場合、符号を付さずに「遮光部材」と称する。
【0052】
撮像レンズ41の射出瞳を通過する光束は、左領域通過光300L及び右領域通過光300Rに大別される。左領域通過光300Lとは、撮像レンズ41の射出瞳を通過する光束のうち、位相差画素側から被写体側を臨む場合の左半分の光束を指し、右領域通過光300Rとは、撮像レンズ41の射出瞳を通過する光束のうち、位相差画素側から被写体側を臨む場合の右半分の光束を指す。撮像レンズ41の射出瞳を通過する光束は、瞳分割部として機能するマイクロレンズ19、遮光部材17A、及び遮光部材17Bにより左右に分割され、第1位相差画素Lが被写体光として左領域通過光300Lを受光し、第2位相差画素Rが被写体光として右領域通過光300Rを受光する。この結果、左領域通過光300Lに対応する被写体像に相当する第1位相差画像と、右領域通過光300Rに対応する被写体像に相当する第2位相差画像とが光電変換素子26によって生成される。
【0053】
スマートデバイス10では、例えば、同一の位相差画素ライン26Aにおいて、1ライン分の第1位相差画像と1ライン分の第2位相差画像とのずれ量αに基づいて撮像領域までの距離が測定される。
【0054】
一例として
図7に示すように、非位相差画素Nは、位相差画素に比べ、遮光部材を有しない点が異なる。非位相差画素NのフォトダイオードPDは、被写体光として左領域通過光300L及び右領域通過光300Rを受光する。
【0055】
なお、スマートデバイス10では、第2測距系区分領域26N3(
図5参照)に含まれる複数のIR画素の各々によってIR反射光が受光されることで、IR画素毎に測距が行われる。そして、スマートデバイス10では、タッチパネル48によって受け付けられた指示に従って、IR画素毎の測距結果が距離画像としてディスプレイ46に表示される。ここで、距離画像とは、IR画素毎に測定された測距対象までの距離を色別及び/又は濃淡で表現した画像を指す。
【0056】
また、スマートデバイス10では、タッチパネル48によって受け付けられた指示に従って、測距結果が距離画像又は距離重畳画像でディスプレイ46に表示される。ディスプレイ46に表示される距離重畳画像は、例えば、可視光画像(例えば、ライブビュー画像)に対して、測距結果を示す数値を重畳させた画像である。例えば、スマートデバイス10から撮像領域内のうちの代表的な複数の箇所(例えば、3箇所)の各々までの距離が可視光画像に表示された状態でディスプレイ46に表示される。代表的な複数の箇所の一例としては、撮像領域内の特定の被写体(例えば、画面中央領域に含まれる被写体、及び/又は、人間等)のうち、互いのコントラストの差が既定値以上の複数の箇所が挙げられる。
【0057】
一例として
図8に示すように、スマートデバイス10は、光照射器16及び受光器18の他に、コントローラ15、入出力インタフェース40、画像メモリ42、UI系デバイス44、外部I/F52、及び通信I/F54を備えている。
【0058】
コントローラ15は、CPU15A、ストレージ15B、及びメモリ15Cを備えている。CPU15A、ストレージ15B、及びメモリ15Cは、バス50を介して接続されており、バス50は、入出力インタフェース40に接続されている。なお、
図8に示す例では、図示の都合上、バス50として1本のバスが図示されているが、複数本のバスであってもよい。バス50は、シリアルバスであってもよいし、データバス、アドレスバス、及びコントロールバス等を含むパラレルバスであってもよい。
【0059】
ストレージ15Bは、各種パラメータ及び各種プログラムを記憶している。ストレージ15Bは、不揮発性の記憶装置である。ここでは、ストレージ15Bの一例として、フラッシュメモリが採用されている。フラッシュメモリはあくまでも一例に過ぎず、ストレージ15Bとしては、例えば、フラッシュメモリに代えて、又は、フラッシュメモリと併せて、磁気抵抗メモリ及び/又は強誘電体メモリなどの各種の不揮発性メモリが挙げられる。また、不揮発性の記憶装置は、EEPROM、HDD、及び/又はSSD等であってもよい。また、メモリ15Cは、各種情報を一時的に記憶し、ワークメモリとして用いられる。メモリ15Cの一例としては、RAMが挙げられるが、これに限らず、他の種類の記憶装置であってもよい。
【0060】
ストレージ15Bには、各種プログラムが記憶されている。CPU15Aは、ストレージ15Bから必要なプログラムを読み出し、読み出したプログラムをメモリ15C上で実行する。CPU15Aは、メモリ15C上で実行するプログラムに従ってスマートデバイス10の全体を制御する。なお、ストレージ15B及びメモリ15Cは、本開示の技術に係る「メモリ」の一例である。
【0061】
入出力インタフェース40には、複数のデバイスが接続されており、入出力インタフェース40は、複数のデバイス間での各種情報の授受を司る。
図8に示す例では、入出力インタフェース40に接続されている複数のデバイスとして、コントローラ15、光照射器16、受光器18、画像メモリ42、UI系デバイス44、外部I/F52、及び通信I/F54が示されている。
【0062】
外部I/F52は、スマートデバイス10の外部に存在する装置(以下、「外部装置」とも称する)との間の各種情報の授受を司る。外部I/F52の一例としては、USBインタフェースが挙げられる。USBインタフェースには、スマートデバイス、パーソナル・コンピュータ、サーバ、USBメモリ、メモリカード、及び/又はプリンタ等の外部装置(図示省略)が直接または間接的に接続可能である。
【0063】
通信I/F54は、LTE、5G、無線LAN、及び/又はBluetooth(登録商標)等の通信機能を有しており、外部装置とCPU15Aとの間での各種情報の授受を司る。例えば、通信I/F54は、基地局(図示省略)を介してネットワーク56(例えば、インターネット)に通信可能に接続されており、ネットワーク56上の外部装置とCPU15Aとの間での各種情報の授受を司る。
【0064】
UI系デバイス44は、ディスプレイ46を備えており、CPU15Aは、ディスプレイ46に対して各種情報を表示させる。また、UI系デバイス44は、受付デバイス47を備えている。受付デバイス47は、タッチパネル48及びハードキー部53を備えている。ハードキー部53は、指示キー13(
図2参照)を含む少なくとも1つのハードキーである。CPU15Aは、タッチパネル48によって受け付けられた各種指示に従って動作する。なお、ここでは、ハードキー部53がUI系デバイス44に含まれているが、本開示の技術はこれに限定されず、例えば、ハードキー部53は、外部I/F52に接続されていてもよい。
【0065】
光照射器16は、透光窓20、ビームエクスパンダ21、コリメートレンズ23、LD24、及びLDドライバ25を備えており、光軸L1に沿って、撮像領域側(物体側)からLD24にかけて、透光窓20、ビームエクスパンダ21、及びコリメートレンズ23が順に配置されている。LDドライバ25は、LD24及び入出力インタフェース40に接続されており、CPU15Aの指示に従ってLD24を駆動させてLD24からレーザ光を出射させる。
【0066】
LD24から出射されたレーザ光は、コリメートレンズ23によって平行光に変換されてからビームエクスパンダ21によってビーム径が拡げられ、透光窓20から測距対象に向けて照射される。
【0067】
受光器18は、透光窓22、対物レンズ30A、フォーカスレンズ30B、絞り30C、光電変換素子26、光電変換素子ドライバ32、及び信号処理回路34を備えている。
なお、CPU15A及び信号処理回路34は、本開示の技術に係る「プロセッサ」の一例である。
【0068】
受光器18では、光軸L2に沿って、撮像領域側(物体側)から光電変換素子26にかけて、透光窓22、対物レンズ30A、フォーカスレンズ30B、及び絞り30Cが順に配置されている。光電変換素子ドライバ32は、光電変換素子26及び入出力インタフェース40に接続されており、CPU15Aの指示に従って光電変換素子26を駆動させる。例えば、光電変換素子ドライバ32は、CPU15Aの制御下で、光電変換素子26によって行われる撮像のタイミングを規定する撮像タイミング信号を光電変換素子26に供給する。光電変換素子26は、光電変換素子ドライバ32から供給された撮像タイミング信号に従って、リセット、露光、及び電気信号の出力を行う。撮像タイミング信号としては、例えば、垂直同期信号及び水平同期信号が挙げられる。
【0069】
受光器18は、合焦制御機構31を備えている。合焦制御機構31は、フォーカスレンズ30B、移動機構60、モータ62、及びモータドライバ64を備えている。フォーカスレンズ30Bは、移動機構60によって光軸L2に沿ってスライド可能に支持されている。モータ62は、移動機構60及びモータドライバ64に接続されている。モータドライバ64は、入出力インタフェース40に接続されており、CPU15Aからの指示に従ってモータ62を駆動させる。移動機構60は、モータ62の駆動軸(図示省略)に接続されており、モータ62から動力を受けることで、フォーカスレンズ30Bを光軸L2に沿って物体側と像側とに選択的に移動させる。すなわち、CPU15Aは、モータドライバ64を介してモータ62の駆動を制御することで合焦位置を調整する。ここで、「合焦位置」とは、ピントが合っている状態(例えば、可視光画像のコントラストを最大値にした状態、又は、既定の被写体深度を実現した状態)でのフォーカスレンズ30Bの光軸L2上での位置を指す。なお、本第1実施形態では、フォーカスレンズ30Bを合焦位置に合わせる制御を「フォーカス制御」と称している。
【0070】
絞り30Cは、開口が変化しない固定絞りである。固定絞りの場合、露出調節は光電変換素子26の電子シャッタで行われる。絞り30Cは、固定絞りでなく、可変絞りであってもよい。なお、受光器18に含まれる対物レンズ30A、フォーカスレンズ30B、及び絞り30Cはあくまでも一例であり、レンズの構成及び/又は絞り30Cの位置が変わっても本開示の技術は成立する。
【0071】
受光器18には、透光窓22から反射光が入射される。透光窓22に入射された反射光は、対物レンズ30A、フォーカスレンズ30B、及び絞り30Cを介して光電変換素子26に結像される。
【0072】
光電変換素子26は、信号処理回路34に接続されており、可視光画素及びIR画素の各画素について、画素値を示す画素データを信号処理回路34に出力する。信号処理回路34は、光電変換素子26から入力された画素データに対してA/D変換を行うことで画素データをデジタル化し、デジタル化した画素データに対して各種の信号処理を施す。
【0073】
信号処理回路34は、可視光画素データ処理回路34A、第1測距系処理回路34B、及び第2測距系処理回路34Cを備えている。可視光画素データ処理回路34Aは、可視光画素についての画素データである可視光画素データに対して、ホワイトバランス調整、シャープネス調整、ガンマ補正、色空間変換処理、及び色差補正などの公知の信号処理を施すことで可視光画像を生成する。そして、可視光画素データ処理回路34Aは、可視光画像を画像メモリ42に格納する。なお、画像メモリ42には、1フレーム分の可視光画像が上書き保存されることで、画像メモリ42内の可視光画像が更新される。
【0074】
測距撮像装置14は、TOFカメラ27を備えている。TOFカメラ27は、光照射器16、光電変換素子26の第1測距系区分領域26N2(
図5参照)、及び第1測距系処理回路34Bを備えている。第1測距系処理回路34Bは、光照射器16がレーザ光を撮像領域に向けて照射した照射タイミング(以下、単に「照射タイミング」とも称する)を示す照射タイミング信号をCPU15Aから取得する。
【0075】
第1測距系処理回路34Bは、照射タイミング信号により示される照射タイミングと、各IR画素によってIR反射光が受光されたタイミング(以下、「受光タイミング」とも称する)とに基づいて、各IR画素について、スマートデバイス10から撮像領域までの距離を測定する。ここでは、受光タイミングとして、閾値を上回る出力値を有するIR画素データが第1測距系処理回路34Bによって受信されたタイミングが採用されている。なお、ここで用いられる閾値は、例えば、実機による試験及び/又はコンピュータ・シミュレーション等によって、IR画素から出力されるノイズ成分(例えば、IR反射光とは無関係に生じるノイズ成分)の出力値として事前に導き出された値である。
【0076】
第1測距系処理回路34Bは、IR画素毎に、照射タイミングと受光タイミングとに基づいてスマートデバイス10から撮像領域までの距離を測定し、IR画素毎の測定結果に基づいて距離画像を生成し、生成した距離画像を画像メモリ42に格納する。なお、画像メモリ42には、1フレーム分の距離画像が上書き保存されることで、画像メモリ42内の距離画像が更新される。
【0077】
第2測距系処理回路34Cは、光電変換素子26のうちのユーザ等が指定した領域(いわゆるROI)に含まれる第2測距系区分領域26N3(
図5参照)の複数の位相差画素の各々から、位相差画素の画素値を示す位相差画素データを取得する。第2測距系処理回路34Cは、位相差画素データから第1位相差画像及び第2位相差画像(
図5参照)を生成し、生成した第1位相差画像と第2位相差画像とのずれ量α(
図5参照)を算出する。そして、第2測距系処理回路34Cは、算出したずれ量αに基づいて、スマートデバイス10から撮像領域までの距離を算出する。具体的に説明すると、第2測距系処理回路34Cは、ずれ量αを独立変数とし、距離を従属変数とした演算式を用いることで、スマートデバイス10から撮像領域までの距離を算出する。
【0078】
なお、ここでは、演算式を例示したが、本開示の技術はこれに限らず、第2測距系処理回路34Cは、ずれ量αと距離とが対応付けられたテーブルを用いることで、スマートデバイス10から撮像領域までの距離を導出するようにしてもよい。
【0079】
CPU15Aは、第1測距系処理回路34Bによって測定された距離(以下、「第1距離」と称する)を第1測距系処理回路34Bから取得し、第2測距系処理回路34Cによって測定された距離(以下、「第2距離」と称する)を第2測距系処理回路34Cから取得する。
【0080】
一例として
図9に示すように、ストレージ15Bには、測距撮像処理プログラム70が記憶されている。CPU15Aは、ストレージ15Bから測距撮像処理プログラム70を読み出し、読み出した測距撮像処理プログラム70を実行することで第1測距制御部15A1、第2測距制御部15A2、取得部15A3、判定部15A4、及び実行部15A5として動作する。
【0081】
ここで、
図10を参照して、ユーザが映っている鏡100の全体を含む撮像領域(以下、「鏡包含撮像領域」とも称する)に対してスマートデバイス10によって第1測距が行われる場合について説明する。鏡包含撮像領域を照射角度θ2に収めた状態でタッチパネル48によって測距撮像開始指示が受け付けられると、第1測距制御部15A1は、第1測距開始信号を光照射器38B及び受光器18に出力する。光照射器38Bは、第1測距制御部15A1から第1測距開始信号が入力されると、レーザ光を照射する。受光器18では、第1測距制御部15A1から第1測距開始信号が入力されると、第1測距系処理回路34Bが、CPU15Aから取得した照射タイミング信号により示される照射タイミングと受光タイミングとに基づいて第1距離を算出する。取得部15A3は、第1測距系処理回路34Bから第1距離を取得する。第1距離は、本開示の技術に係る「第1測距結果」の一例である。なお、ここでは、照射タイミングとして、第1測距制御部15A1から受光器18に第1測距開始信号が入力されたタイミングから既定時間経過した時点でのタイミングを採用している。ここで、既定時間としては、例えば、第1測距開始信号を出力した時点から光照射器38Bからレーザ光が照射されるまでに要する時間として実機による試験及び/又はコンピュータ・シミュレーション等によって予め導き出された時間が挙げられる。
【0082】
次に、
図11を参照して、鏡包含撮像領域に対してスマートデバイス10によって第2測距が行われる場合について説明する。鏡包含撮像領域を画角θ1に収めた状態でタッチパネル48によって測距撮像開始指示が受け付けられると、第2測距制御部15A2は、第2測距開始信号を受光器18に出力する。第2測距系区分領域26N3は、第2測距制御部15A2から受光器18に第2測距開始信号が入力されると、鏡包含撮像領域を撮像し、鏡包含撮像領域に応じた位相差画素データを第2測距系処理回路34Cに出力する。第2測距系処理回路34Cは、第2測距系区分領域26N3から入力された位相差画素データに基づいて第1位相差画像及び第2位相差画像(
図6参照)を生成し、生成した第1位相差画像及び第2位相差画像に基づいてずれ量α(
図6参照)を算出する。第2測距系処理回路34Cは、算出したずれ量αから第2距離を算出する。取得部15A3は、第2測距系処理回路34Cから第2距離を取得する。なお、第2距離は、本開示の技術に係る「第2測距結果」の一例である。
【0083】
一例として
図12に示すように、鏡包含撮像領域に対してスマートデバイス10によって第1測距が行われることで得られた測距結果、すなわち、第1距離は、スマートデバイス10から鏡100の鏡面100Aまでの距離である。また、鏡包含撮像領域に対してスマートデバイス10によって第2測距が行われることで得られた測距結果、すなわち、第2距離は、スマートデバイス10から、鏡100に映った被写体像までの距離である。
図12に示す例では、鏡100に映った被写体像として、スマートデバイス10の像(
図12に示す例では、「スマートデバイス像」)と、ユーザの像(
図12に示す例では、「ユーザ像」)とが示されており、第2距離は、スマートデバイス10からユーザ像までの距離である。
【0084】
このように、第1距離と第2距離とが異なる場合、様々な問題が生じる。例えば、ユーザが、鏡100の全体を被写体としてスマートデバイス10を用いて撮像することを望んでいる場合に、スマートデバイス10が第2距離に基づくフォーカス制御を行って鏡100の全体を撮像すると、鏡100にピントが合っていない状態での画像が得られてしまう。一方、ユーザが、鏡100に映ったユーザ像を被写体としてスマートデバイス10を用いて撮像することを望んでいる場合に、スマートデバイス10が第1距離に基づくフォーカス制御を行ってユーザ像を撮像すると、ユーザ像にピントが合っていない状態での画像が得られてしまう。
【0085】
このような問題を解決するために、判定部15A4及び実行部15A5は、一例として
図13に示すように動作する。判定部15A4は、取得部15A3によって取得された第1距離(
図10参照)と第2距離(
図11参照)とが異なっているか否かを判定する。第1距離と第2距離とが一致している場合、すなわち、判定部15A4によって第1距離と第2距離とが異なっていないと判定された場合、実行部15A5によって第1撮像処理が行われる。第1撮像処理とは、第1距離に基づくフォーカス制御を伴う撮像を指す。
【0086】
ストレージ15Bには、合焦位置導出テーブル72が記憶されている。合焦位置導出テーブル72は、スマートデバイス10から撮像領域までの距離と合焦位置とが対応付けられている。第1撮像処理では、実行部15A5によって、第1距離に対応する合焦位置が合焦位置導出テーブル72から導出され、導出された合焦位置にフォーカスレンズ30Bを移動させるように受光器18のモータ62が制御される。そして、実行部15A5によって受光器18の可視光画像用区分領域26N1が制御されることで、可視光画像用区分領域26N1によって撮像領域が撮像され、撮像されることで得られた可視光画素データが可視光画像用区分領域26N1から可視光画素データ処理回路34Aに出力される。可視光画素データ処理回路34Aは、可視光画像用区分領域26N1から入力された可視光画素データに基づいて、撮像領域を示す第1可視光画像を生成し、生成した第1可視光画像を画像メモリ42に出力する。画像メモリ42には、第1可視光画像が記憶される。
【0087】
一方、判定部15A4によって第1距離と第2距離とが異なっていると判定された場合、実行部15A5によって特定の処理が行われる。ここで、特定の処理について、
図14を参照しながら説明する。一例として
図14に示すように、特定の処理は、例えば、第1撮像処理、第2撮像処理、及び画像選択画面表示処理を含む処理である。第2撮像処理とは、第2距離に基づくフォーカス制御を伴う撮像を指す。第2撮像処理も、第1撮像処理と同様に、実行部15A5によって合焦位置導出テーブル72から第2距離に対応する合焦位置が導出され、導出された合焦位置にフォーカスレンズ30Bを移動させるように受光器18のモータ62が制御される。そして、第1撮像処理と同様に、可視光画像用区分領域26N1によって撮像領域が撮像され、撮像されることで得られた可視光画素データが可視光画像用区分領域26N1から可視光画素データ処理回路34Aに出力される。可視光画素データ処理回路34Aは、可視光画像用区分領域26N1から入力された可視光画素データに基づいて、撮像領域を示す第2可視光画像を生成し、生成した第2可視光画像を画像メモリ42に出力する。画像メモリ42には、第2可視光画像が記憶される。
【0088】
画像選択画面表示処理では、実行部15A5が画像メモリ42から第1可視光画像及び第2可視光画像を取得する。そして、実行部15A5は、第1可視光画像と、第2可視光画像と、取得部15A3によって取得された第1距離(
図10参照)と、取得部15A3によって取得された第2距離(
図11参照)と、各種メッセージとに基づいて画像選択画面を生成し、生成した画像選択画面をディスプレイ46に対して表示させる。画像選択画面には、第1可視光画像と第2可視光画像とが並べて表示されている。また、第1可視光画像の下には「アクティブ方式」というメッセージが表示されている。「アクティブ方式」というメッセージは、第1可視光画像がアクティブ方式の測距(第1測距)による測距結果に基づくフォーカス制御を伴う撮像によって得られた画像であることを示すメッセージである。また、第2可視光画像の下には「パッシブ方式」というメッセージが表示されている。「パッシブ方式」というメッセージは、第2可視光画像がパッシブ方式の測距(第2測距)による測距結果に基づくフォーカス制御を伴う撮像によって得られた画像であることを示すメッセージである。
【0089】
なお、本第1実施形態では、特定の処理に含まれる処理として、第1撮像処理、第2撮像処理、及び画像選択画面表示処理を例示しているが、本開示の技術はこれに限定されず、第1撮像処理、第2撮像処理、及び画像選択画面表示処理のうちの1つの処理又は2つの処理であってもよい。また、本第1実施形態では、「アクティブ方式」と「パッシブ方式」という表示例を示しているが、必ずしも「アクティブ方式」と「パッシブ方式」という表示でなくてもよく、ユーザが測距方式の違いを理解できればどのような表示であっても良い。例えば、レーザ測距と位相差測距を行う場合、「レーザ」という表示と「位相差」という表示でもよいし、測距方式を表すアイコン等を表示してもよい。また、測距方式の表示に代えて、ピント位置を表示してもよい。例えば、「ピント位置:手前」と「ピント位置:奥」でもよいし、「ピント位置:物体」と「ピント位置:物体に映った像」等と表示してもよい。あるいは、測距方式を示す文字及びアイコン並びにピント位置の2つ以上を組み合わせて表示してもよい。
【0090】
また、第1可視光画像には、第1測距による測距結果である「1.8m」という数値が対応付けられて表示されており、第2可視光画像には、第2測距による測距結果である「2.5m」という数値が対応付けられて表示されている。更に、第1測距による測距結果と第2測距による測距結果とが異なっていることを示す「測距結果が異なっています」というメッセージも表示されている。そして、ユーザに対して、第1可視光画像及び第2可視光画像の何れか1つの選択をユーザに促すメッセージとして、「何れか1つの画像を選択して下さい」というメッセージが表示されている。ここでは、各種メッセージが可視表示される形態例を挙げて説明しているが、これに限らず、可視表示と並行して各種メッセージが音声で出力されるようにしてもよい。画像選択画面がディスプレイ46に表示されると、ユーザは、タッチパネル48を介して第1可視光画像又は第2可視光画像を選択する。
図14に示す例では、ユーザの指によってタッチパネル48を介して第1可視光画像が選択されている態様が示されている。なお、第1可視光画像は、本開示の技術に係る「第1合焦画像」の一例であり、第2可視光画像は、本開示の技術に係る「第2合焦画像」の一例である。
【0091】
一例として
図15に示すように、ディスプレイ46に画像選択画面が表示されている状態でユーザの指によってタッチパネル48を介して第1可視光画像が選択された場合、第1測距制御部15A1は、測距撮像装置14を制御することで、第1測距系処理回路34Bに対して第1測距を行わせる。また、実行部15A5は、第1撮像処理及び第1可視光画像表示処理を実行する。ここで、実行部15A5は、第1測距が行われることによって得られた新たな第1距離を用いて第1撮像処理を実行する。第1可視光画像表示処理は、第1撮像処理が実行されることで得られた最新の第1可視光画像をディスプレイ48に対して表示させる処理である。なお、ここでは、第1可視光画像が選択されたことを条件に、改めて第1測距及び第1撮像処理が行われ、第1撮像処理が行われることによって得られた最新の第1可視光画像がディスプレイ48に表示される形態例を挙げているが、これはあくまでも一例に過ぎない。例えば、第1可視光画像が選択されたことを条件に、選択された第1可視光画像をストレージ15B及び/又はメモリカード等の記憶媒体に記憶させてもよい。また、選択された測距方式で測定された距離に基づくフォーカス制御を伴う撮像と、選択された画像(例えば、第1可視光画像又は第2可視光画像)の保存とが、受付デバイス47によって受け付けられた指示(ユーザから与えられた指示)に従って選択されるようにしてもよい。
【0092】
第1可視光画像表示処理が実行部15A5によって実行されると、画像選択画面内のうち、第2可視光画像、「2.5m」という数値、「パッシブ方式」というメッセージ、「測距結果が異なっています」というメッセージ、及び「何れか1つの画像を選択して下さい」というメッセージは画面内から非表示される。そして、最新の第1測距が行われることによって得られた最新の測距結果である第1距離(
図15に示す例では、「1.8m」という数値)がディスプレイ46に表示され、第1撮像処理が実行されることで得られた第1可視光画像がディスプレイ46に表示され、かつ、「アクティブ方式」というメッセージも第1可視光画像の下に表示される。また、第1距離、第1可視光画像、及び「アクティブ方式」というメッセージの表示領域は、画像選択画面内の第1距離、第1可視光画像、及び「アクティブ方式」というメッセージの表示領域よりも拡大されている。
【0093】
一例として
図16に示すように、ディスプレイ46に画像選択画面が表示されている状態でユーザの指によってタッチパネル48を介して第2可視光画像が選択された場合、第2測距制御部15A2は、測距撮像装置14を制御することで、第2測距系処理回路34Cに対して第2測距を行わせる。また、実行部15A5は、第2撮像処理及び第2可視光画像表示処理を実行する。ここで、実行部15A5は、第2測距が行われることによって得られた新たな第2距離を用いて第2撮像処理を実行する。第2可視光画像表示処理は、第2撮像処理が実行されることで得られた最新の第2可視光画像をディスプレイ48に対して表示させる処理である。
【0094】
第2可視光画像表示処理が実行部15A5によって実行されると、画像選択画面内のうち、第1可視光画像、「1.8m」という数値、「アクティブ方式」というメッセージ、「測距結果が異なっています」というメッセージ、及び「何れか1つの画像を選択して下さい」というメッセージは画面内から非表示される。そして、最新の第2測距が行われることによって得られた最新の測距結果である第2距離(
図16に示す例では、「2.5m」という数値)がディスプレイ46に表示され、第2撮像処理が実行されることで得られた第2可視光画像がディスプレイ46に表示され、かつ、「パッシブ方式」というメッセージも第2可視光画像の下に表示される。また、第2距離、第2可視光画像、及び「パッシブ方式」というメッセージの表示領域は、画像選択画面内の第2距離、第2可視光画像、及び「パッシブ方式」というメッセージの表示領域よりも拡大されている。
【0095】
次に、スマートデバイス10の本開示の技術に係る部分の作用について
図17A及び
図17Bを参照しながら説明する。なお、
図17A及び
図17Bは、CPU15Aによって測距撮像処理プログラム70に従って実行される測距撮像処理の流れの一例を示すフローチャートである。
【0096】
図17Aに示す測距撮像処理では、先ず、ステップST100で、第1測距制御部15A1は、測距撮像装置14を制御することで、第1測距系処理回路34Bに対して第1測距を行わせる。第1測距は、第1測距制御部15A1が第1測距系処理回路34Bに対して第1距離を算出させることによって実現される。
【0097】
次のステップST102で、取得部15A3は、ステップST100の第1測距が行われることによって得られた第1距離を取得する。
【0098】
次のステップST104で、第2測距制御部15A2は、測距撮像装置14を制御することで、第2測距系処理回路34Cに対して第2測距を行わせる。第2測距は、第2測距制御部15A2が第2測距系処理回路34Cに対して第2距離を算出させることによって実現される。
【0099】
次のステップST106で、取得部15A3は、ステップST104の第2測距が行われることによって得られた第2距離を取得する。
【0100】
次のステップST108で、判定部15A4は、ステップST102で取得された第1距離とステップST106で取得された第2距離とが異なっているか否かを判定する。ステップST108において、ステップST102で取得された第1距離とステップST106で取得された第2距離とが一致している場合は、判定が否定されて、測距撮像処理はステップ120へ移行する。ステップST108において、ステップST102で取得された第1距離とステップST106で取得された第2距離とが異なっている場合は、判定が肯定されて、測距撮像処理はステップST110へ移行する。
【0101】
ステップST110で、実行部15A5は、ステップST102で取得された第1距離を用いた第1撮像処理を実行する。
【0102】
次のステップST112で、実行部15A5は、ステップST106で取得された第2距離を用いた第2撮像処理を実行する。
【0103】
次のステップST114で、実行部15A5は、画像選択画面表示処理を実行する。これにより、一例として
図14に示すように、ディスプレイ46には、画像選択画面が表示される。
【0104】
次のステップST116で、実行部15A5は、画像選択画面内に表示されている第1可視光画像及び第2可視光画像のうちの何れかがユーザによってタッチパネル48を介して選択された否かを判定する。ステップST116において、画像選択画面内に表示されている第1可視光画像及び第2可視光画像のうちの何れかがユーザによってタッチパネル48を介して選択されていない場合は、判定が否定されて、ステップST116の判定が再び行われる。ステップST116において、画像選択画面内に表示されている第1可視光画像及び第2可視光画像のうちの何れかがユーザによってタッチパネル48を介して選択された場合は、判定が肯定されて、測距撮像処理はステップST118へ移行する。
【0105】
ステップST118で、実行部15A5は、画像選択画面内から選択された画像が第1可視光画像か否かを判定する。ステップST118において、画像選択画面内から選択された画像が第2可視光画像の場合は、判定が否定されて、測距撮像処理は
図17Bに示すステップ130へ移行する。ステップST118において、画像選択画面内から選択された画像が第1可視光画像の場合は、判定が肯定されて、測距撮像処理はステップST120へ移行する。
【0106】
ステップST120で、実行部15A5は、撮像開始タイミングが到来したか否かを判定する。撮像開始タイミングとは、例えば、ライブビュー画像用のフレームレートによって規定される1フレーム分の撮像を開始するタイミングを指す。例えば、ライブビュー画像用のフレームレートが60fpsであれば、撮像開始タイミングは、60分の1秒毎のタイミングである。なお、ここでは、ライブビュー画像用のフレームレートによって規定される1フレーム分の撮像を開始するタイミングを撮像開始タイミングとして例示しているが、本開示の技術はこれに限定されない。例えば、撮像開始タイミングは、記録動画像用のフレームレートによって規定される1フレーム分の撮像を開始するタイミングであってもよいし、静止画像用の撮像を開始する指示が受付デバイス47によって受け付けられたタイミングであってもよい。
【0107】
ステップST120において、撮像開始タイミングが到来していない場合は、判定が否定されて、測距撮像処理はステップST126へ移行する。ステップST120において、撮像開始タイミングが到来した場合は、判定が肯定されて、測距撮像処理はステップST122へ移行する。
【0108】
ステップST122で、第1測距制御部15A1は、測距撮像装置14を制御することで、第1測距系処理回路34Bに対して第1測距を行わせる。
【0109】
次のステップST124で、実行部15A5は、ステップST122の第1測距が行われることによって得られた第1距離を用いて第1撮像処理を実行する。また、実行部15A5は、第1撮像処理を実行することで得た最新の第1可視光画像を用いて第1可視光画像表示処理を実行する。
【0110】
次のステップST126で、実行部15A5は、測距撮像処理を終了する条件(以下、「終了条件」と称する)を満足したか否かを判定する。終了条件の一例としては、測距撮像処理を終了する指示が受付デバイス47によって受け付けられた、との条件が挙げられる。ステップST126において、終了条件を満足していない場合は、判定が否定されて、測距撮像処理はステップST120へ移行する。ステップST126において、終了条件を満足した場合は、判定が肯定されて、測距撮像処理が終了する。
【0111】
一方、
図17Bに示すステップST130で、実行部15A5は、撮像開始タイミングが到来したか否かを判定する。ステップST130において、撮像開始タイミングが到来していない場合は、判定が否定されて、測距撮像処理はステップST136へ移行する。ステップST130において、撮像開始タイミングが到来した場合は、判定が肯定されて、測距撮像処理はステップST132へ移行する。
【0112】
ステップST132で、第2測距制御部15A2は、測距撮像装置14を制御することで、第2測距系処理回路34Cに対して第2測距を行わせる。
【0113】
次のステップST134で、実行部15A5は、ステップST132の第2測距が行われることによって得られた第2距離を用いて第2撮像処理を実行する。また、実行部15A5は、第2撮像処理を実行することで得た最新の第2可視光画像を用いて第2可視光画像表示処理を実行する。
【0114】
次のステップST136で、実行部15A5は、終了条件を満足したか否かを判定する。ステップST136において、終了条件を満足していない場合は、判定が否定されて、測距撮像処理はステップST130へ移行する。ステップST136において、終了条件を満足した場合は、判定が肯定されて、測距撮像処理が終了する。
【0115】
以上説明したように、スマートデバイス10では、第1測距が行われることで得られた第1距離と第2測距が行われることで得られた第2距離とが異なる場合に、実行部15A5によって特定の処理が実行される。従って、本構成によれば、第1距離と第2距離とが異なる場合に生じる諸問題の解決に寄与することができる。
【0116】
また、スマートデバイス10では、指向性を有する光である指向性光としてレーザ光を用いて測距が行われる。従って、本構成によれば、指向性光を用いないで測距が行われる場合に比べ、遠距離に存在する測距対象までの距離を高精度に測定することができる。
【0117】
また、スマートデバイス10では、特定の処理として画像選択画面表示処理が実行部15A5によって実行される。画像選択画面表示処理が実行部15A5によって実行されることでディスプレイ46に表示される画像選択画面には、第1距離と第2距離とが異なる旨をユーザに通知する情報(例えば、第1距離を示す数値、第2距離を示す数値、及びメッセージ)が含まれている。従って、本構成によれば、第1距離と第2距離とが異なっていることをユーザに認識させることができる。
【0118】
また、スマートデバイス10では、第1撮像処理と第2撮像処理とが実行部15A5によって実行される。すなわち、実行部15A5が、第1距離に基づくフォーカス制御を伴う撮像を測距撮像装置14の受光器18に対して行わせ、かつ、第2距離に基づくフォーカス制御を伴う撮像を測距撮像装置14の受光器18に対して行わせている。従って、本構成によれば、第1距離又は第2距離に基づくフォーカス制御下で撮像が行われる場合に比べ、ユーザが意図する合焦状態の画像を得やすくすることができる。
【0119】
また、スマートデバイス10では、第1距離に基づくフォーカス制御下で撮像が行われることによって得られた第1可視光画像と、第2距離に基づくフォーカス制御下で撮像が行われることによって得られた第2可視光画像とを含む画像選択画面がディスプレイ46に表示される。そして、画像選択画面には、第1可視光画像又は第2可視光画像の選択をユーザに促すメッセージが表示されている。従って、本構成によれば、第1可視光画像及び第2可視光画像を選択する余地がない場合に比べ、ユーザビリティの向上に寄与することができる。
【0120】
なお、上記第1実施形態では、実行部15A5が画像選択画面を通して第1可視光画像又は第2可視光画像の選択をユーザに促すようにしているが、本開示の技術はこれに限定されず、第1可視光画像及び第2可視光画像の双方が選択されるようにしてもよい。この場合、例えば、第1撮像処理と第2撮像処理とが交互に行われ、各撮像処理が行われることによって得られた第1可視光画像及び第2可視光画像の各々がライブビュー画像又は静止画像等としてディスプレイ46に表示されるようにしてもよい。
【0121】
また、画像選択画面には、第1可視光画像と第2可視光画像とを含む複数の画像が選択可能に表示されるようにしてもよい。また、第1測距によって複数の第1距離が得られた場合に複数の第1距離の各々に基づくフォーカス制御下で撮像が行われることによって得られた複数の第1可視光画像が画像選択画面に選択可能な状態でディスプレイ46に表示されるようにしてもよいし、複数の第1可視光画像と第2可視光画像とが選択可能な状態で表示されるようにしてもよい。例えば、撮像領域に第1鏡面及び第2鏡面(2枚の鏡面)が含まれている場合(第1測距結果と第2測距結果とが異なる領域が2つ存在する場合)、第1鏡面にピントが合った状態で第1鏡面が撮像されることによって得られた画像、第1鏡面に映った像(第1像)にピントが合った状態で第1像が撮像されることによって得られた画像、第2鏡面にピントが合った状態で第2鏡面が撮像されることによって得られた画像、及び第2鏡面に映った像(第2像)にピントが合った状態で第2像が撮像されることによって得られた画像のうちの少なくとも2つが選択可能な状態でディスプレイ46に表示されるようにしてもよい。なお、撮像領域に含まれる鏡面の枚数は2枚に限らず、3枚以上の場合も考えられるが、この場合も、同様に処理すればよい。また、ここでは、鏡面を例示しているが、光沢面(例えば、銀メッキ塗装が施された面、又は、研磨された金属面等)に像が映り込む場合も考えられる。この場合も、光沢面にピントが合った状態で撮像されることによって得られた画像と、光沢面に映った像にピントが合った状態で光沢面内の像が撮像されることによって得られた画像とが選択的にディスプレイ46に表示されるようにしてもよい。撮像領域に含まれる光沢面の個数は複数の場合も考えられるが、この場合も、同様に処理すればよい。
【0122】
また、上記第1実施形態では、第1距離と第2距離とが異なる場合に画像選択画面から第1可視光画像又は第2可視光画像がユーザによってタッチパネル48を介して選択される形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、第1距離と第2距離とが異なる場合に、アクティブ方式の測距、すなわち、第1測距による測距結果に基づくフォーカス制御を伴う撮像、及びパッシブ方式の測距、すなわち、第2測距による測距結果に基づくフォーカス制御を伴う撮像のうちの何れかを優先するかをユーザによって事前に選択させておくようにしてもよい。
【0123】
この場合、上記第1実施形態で説明した測距撮像処理(
図17A及び
図17B参照)に代えて、
図18A~
図18Cに示す測距撮像処理がCPU15Aによって実行される。
図18A~
図18Cに示す測距撮像処理は、上記第1実施形態で説明した測距撮像処理に比べ、ステップST200~ST222の処理を新たに追加した点が異なる。また、
図18A~
図18Cに示す測距撮像処理は、上記第1実施形態で説明した測距撮像処理に比べ、ステップST110~ステップST118の処理を有しない点が異なる。また、
図18A~
図18Cに示す測距撮像処理は、上記第1実施形態で説明した測距撮像処理に比べ、ステップST132及びステップST134の処理に代えて、ステップST224及びステップST226の処理を有する点が異なる。以下、
図18A~
図18Cに示す測距撮像処理について、上記第1実施形態で説明した測距撮像処理と異なる部分を説明する。
【0124】
図18Aに示す測距撮像処理では、先ず、ステップST200で、実行部15A5は、ディスプレイ46に対して測距方式受付画面を表示させる。測距方式受付画面には、アクティブ方式の測距、すなわち、第1測距と、パッシブ方式の測距、すなわち、第2測距との何れかを優先して使用するかをユーザに選択させるメッセージが表示されている。
図18Aに示す例では、測距方式受付画面に「どちらの測距方式を優先して使用するか選んで下さい。」というメッセージが表示されている。
【0125】
また、測距方式受付画面には、2つのソフトキーが表示されている。一方のソフトキーは、ユーザがアクティブ方式の測距を優先して使用する選択を行う場合にタッチパネル48を介してユーザによって押されるソフトキーであり、
図18Aに示す例では「アクティブ方式」と表記されている。他方のソフトキーは、ユーザがパッシブ方式の測距を優先して使用する選択を行う場合にタッチパネル48を介してユーザによって押されるソフトキーであり、
図18Aに示す例では「パッシブ方式」と表記されている。
【0126】
次のステップST202で、実行部15A5は、測距方式受付画面に対するユーザからの指示が受け付けられたか否かを判定する。ここで、「測距方式受付画面に対するユーザからの指示」とは、「アクティブ方式」と表記されているソフトキー又は「パッシブ方式」と表記されているソフトキーがタッチパネル48を介してユーザによって押されたことを意味する。ステップST202において、測距方式受付画面に対するユーザからの指示が受け付けられていない場合は、判定が否定されて、ステップST202の判定が再び行われる。ステップST202において、測距方式受付画面に対するユーザからの指示が受け付けられた場合は、判定が肯定されて、測距撮像処理はステップST204へ移行する。
【0127】
ステップST204で、実行部15A5は、ユーザによってタッチパネル48を介して押されたソフトキーが「アクティブ方式」と表記されているソフトキーであるか否かを判定する。ステップST204において、ユーザによってタッチパネル48を介して押されたソフトキーが「アクティブ方式」と表記されているソフトキーである場合は、判定が肯定されて、測距撮像処理はステップST100へ移行する。ステップST204において、ユーザによってタッチパネル48を介して押されたソフトキーが「パッシブ方式」と表記されているソフトキーである場合は、判定が否定されて、測距撮像処理は
図18Bに示すステップST206へ移行する。
【0128】
図18Bに示すステップST206~ステップST212の処理は、
図18Aに示すステップST100~ステップST106の処理と同一である。
図18Bに示すステップST214で、判定部15A4は、ステップST208で取得された第1距離とステップST212で取得された第2距離とが異なっているか否かを判定する。ステップST214において、ステップST208で取得された第1距離とステップST212で取得された第2距離とが一致している場合は、判定が否定されて、測距撮像処理は
図18Cに示すステップST130へ移行する。ステップST214において、ステップST208で取得された第1距離とステップST212で取得された第2距離とが異なっている場合は、判定が肯定されて、測距撮像処理はステップST216へ移行する。
【0129】
ステップST216で、実行部15A5は、撮像開始タイミングが到来したか否かを判定する。ステップST216において、撮像開始タイミングが到来していない場合は、判定が否定されて、測距撮像処理はステップST222へ移行する。ステップST216において、撮像開始タイミングが到来した場合は、判定が肯定されて、測距撮像処理はステップST218へ移行する。
【0130】
ステップST218で、実行部15A5は、
図17Bに示すステップST132の処理と同一の処理を実行し、次のステップST220で、実行部15A5は、
図17Bに示すステップST134の処理と同一の処理を実行する。次のステップST222で、実行部15A5は、終了条件を満足したか否かを判定する。ステップST222において、終了条件を満足していない場合は、判定が否定されて、測距撮像処理はステップST216へ移行する。ステップST222において、終了条件を満足した場合は、判定が肯定されて、測距撮像処理が終了する。
【0131】
図18Cに示すステップST130において、撮像開始タイミングが到来していない場合は、判定が否定されて、測距撮像処理はステップST136へ移行する。
図18Cに示すステップST130において、撮像開始タイミングが到来した場合は、判定が肯定されて、測距撮像処理はステップST224へ移行する。
【0132】
ステップST224で、第1測距制御部15A1は、測距撮像装置14を制御することで、第1測距系処理回路34Bに対して第1測距を行わせる。
【0133】
次のステップST226で、実行部15A5は、ステップST224の第1測距が行われることによって得られた第1距離を用いて第1撮像処理を実行する。また、実行部15A5は、第1撮像処理を実行することで得た最新の第1可視光画像を用いて第1可視光画像表示処理を実行する。
【0134】
図18Cに示すステップST136において、終了条件を満足していない場合は、判定が否定されて、測距撮像処理は
図18Cに示すステップST130へ移行する。
図18Cに示すステップST136において、終了条件を満足した場合は、判定が肯定されて、測距撮像処理が終了する。
【0135】
このように、実行部15A5は、
図18Aに示すステップST204において判定が肯定され、かつ、
図18Aに示すステップST108において判定が肯定された場合に、
図18Aに示すステップST122で第1測距が行われる。そして、
図18Aに示すステップST124では、ステップST122の第1測距が行われることによって得られた第1距離に用いて第1撮像処理が行われる。すなわち、
図18Aに示すステップST124では、ステップST122の第1測距が行われることによって得られた第1距離に基づくフォーカス制御を伴う撮像が行われる。
【0136】
一方、実行部15A5は、
図18Aに示すステップST204において判定が否定され、かつ、
図18Bに示すステップST214において判定が肯定された場合に、
図18Bに示すステップST218で第2測距が行われる。そして、
図18Bに示すステップST220では、ステップST218の第2測距が行われることによって得られた第2距離に用いて第2撮像処理が行われる。すなわち、
図18Bに示すステップST220では、ステップST218の第2測距が行われることによって得られた第2距離に基づくフォーカス制御を伴う撮像が行われる。
【0137】
従って、
図18A~
図18Cに示す測距撮像処理によれば、第1測距が行われることで得られた第1距離と2測距が行われることで得られた第2距離とが異なる場合に、常に、第1距離に基づくフォーカス制御下で撮像が行われ、かつ、第2距離に基づくフォーカス制御下で撮像が行われる場合に比べ、フォーカス制御及び撮像に要する消費電力を低減することができる。
【0138】
また、
図18A~
図18Cに示す測距撮像処理では、測距方式受付画面の「アクティブ方式」と表記されたソフトキーがユーザによってタッチパネル48を介して押された場合、
図18Aに示すステップST124の第1撮像処理では第1距離に基づいてフォーカス制御が行われる。また、測距方式受付画面の「パッシブ方式」と表記されたソフトキーがユーザによってタッチパネル48を介して押された場合、
図18Bに示すステップST220の第2撮像処理では第2距離に基づいてフォーカス制御が行われる。つまり、フォーカス制御は、第1距離及び第2距離のうち、ユーザから与えられた指示に従って定められた何れかの距離に基づいて行われる。
【0139】
従って、
図18A~
図18Cに示す測距撮像処理によれば、ユーザから与えられた指示に基づいてフォーカス制御が行われない場合に比べ、ユーザが意図するフォーカス制御を容易に実現することができる。
【0140】
なお、ここでは、ユーザから与えられた指示に従って定められた距離に基づくフォーカス制御を例示したが、本開示の技術はこれに限定されない。例えば、ユーザから与えられる指示に代えて、スマートデバイス10と通信可能な外部装置(例えば、パーソナル・コンピュータ及び/又はサーバ等)から与えられる指示を適用してもよい。この場合、例えば、外部装置が、時間帯及び/又は天候等に応じて、アクティブ方式の測距の指示とパッシブ方式の測距の指示とを選択的にスマートデバイス10に与えるようにしてもよい。
【0141】
夜間及び/又は曇り等の比較的暗い環境下では、概して、パッシブ方式の測距に比べ、アクティブ方式の測距の精度が高くなることが考えられる。そこで、外部装置が、時間帯に応じてアクティブ方式の測距の指示とパッシブ方式の測距の指示とを選択的にスマートデバイス10に与える場合、例えば、夜間は、アクティブ方式の測距の指示をスマートデバイス10に与え、昼間は、パッシブ方式の測距の指示をスマートデバイス10に与えるようにすればよい。また、外部装置が、天候に応じてアクティブ方式の測距の指示とパッシブ方式の測距の指示とを選択的にスマートデバイス10に与える場合、例えば、天候が晴れのときにパッシブ方式の測距の指示をスマートデバイス10に与え、天候が晴れ以外のときにアクティブ方式の測距の指示をスマートデバイス10に与えるようにすればよい。また、外部装置は、夜間であり、かつ、天候が晴れ以外のときにアクティブ方式の測距の指示をスマートデバイス10に与えるようにしたり、昼間であり、かつ、天候が晴れのときにパッシブ方式の測距の指示をスマートデバイス10に与えるようにしたりしてもよい。
【0142】
このように、スマートデバイス10に対してユーザが指示を与えずに外部装置が指示を与えるケースでは、例えば、
図18Aに示す測距撮像処理において、ステップST200の処理は不要となり、ステップST202において、外部装置から指示が与えられたか否かが実行部15A5によって判定されるようにすればよい。
【0143】
また、上記第1実施形態では、鏡100の全体が被写体としてスマートデバイス10によって撮像される状況を想定した例を挙げているが、撮像領域に鏡100が含まれている場合に鏡100のIR反射光に基づいて第1測距が行われることで得られた測距結果をフォーカス制御に用いることがユーザの意図に沿わないことも考えられる。この場合、
図19に示す測距撮像処理がCPU15Aによって実行されるようにすればよい。
【0144】
図19に示す測距撮像処理は、
図17A及び
図17Bに示す測距撮像処理に比べ、ステップST100とステップST102との間にステップST300及びST302を有する点が異なる。また、
図19に示す測距撮像処理は、
図17A及び
図17Bに示す測距撮像処理に比べ、ステップST110~ステップST118を有しない点が異なる。また、
図19に示す測距撮像処理は、
図17A及び
図17Bに示す測距撮像処理に比べ、ステップST108に代えてステップST108Aを有する点が異なる。更に、
図19に示す測距撮像処理は、
図17A及び
図17Bに示す測距撮像処理に比べ、ステップST122及びステップST124に代えて、ステップST304及びステップST306を有する点が異なる。以下、
図19に示す測距撮像処理について、上記第1実施形態で説明した測距撮像処理と異なる部分を説明する。
【0145】
図19に示すステップST300で、取得部15A3は、第1測距系区分領域26N2(
図5参照)によって受光されたIR反射光の受光量を示すデータとしてIR画素データを第1測距系処理回路34Bから取得する。ここでは、例えば、第1測距系区分領域26N2のうちのROIに含まれる各IR画素についてのIR画素データが取得部15A3によって取得される。
【0146】
次のステップST302で、判定部15A4は、ステップST300で取得されたIR画素データを参照して、第1測距系区分領域26N2のうちのROIに含まれる各IR画素のうち、IR画素データが最大の受光量を示すIR画素の受光量が閾値以上か否かを判定する。
【0147】
IR画素の受光量と比較される閾値としては、スマートデバイス10が既定距離(例えば、数十メートル)離れたところに配置された鏡面に対してレーザ光を照射して、レーザ光が鏡面で反射して得られたIR反射光をIR画素で受光した場合の受光量として、実機による試験及び/又はコンピュータ・シミュレーション等によって予め導き出された値が採用されている。なお、ここでは、レーザ光の照射先として鏡面を例示しているが、これに限らず、鏡面よりも低反射率の面であってもよい。鏡面よりも低反射率の面としては、例えば、ガラス面、半透明なプラスチック製の板状部材の面、及び光沢性を有する面等が挙げられる。
【0148】
ステップST302において、受光量が閾値未満の場合は、判定が否定されて、測距撮像処理は
図18Cに示すステップST130へ移行する。ステップST302において、受光量が閾値以上の場合は、判定が肯定されて、測距撮像処理はステップST102へ移行する。
【0149】
ステップST108Aで、判定部15A4は、ステップST102で取得された第1距離とステップST106で取得された第2距離とが異なっているか否かを判定する。ステップST108Aにおいて、ステップST102で取得された第1距離とステップST106で取得された第2距離とが一致している場合は、判定が否定されて、測距撮像処理は
図18Cに示すステップST130へ移行する。ステップST108Aにおいて、ステップST102で取得された第1距離とステップST106で取得された第2距離とが異なっている場合は、判定が肯定されて、測距撮像処理はステップST120へ移行する。
【0150】
ステップST304で、第2測距制御部15A2は、測距撮像装置14を制御することで、第2測距系処理回路34Cに対して第2測距を行わせる。
【0151】
次のステップST306で、実行部15A5は、ステップST304の第2測距が行われることによって得られた第2距離を用いて第2撮像処理を実行する。すなわち、実行部15A5は、ステップST304の第2測距が行われることによって得られた第2距離に基づいてフォーカス制御を行い、かつ、光電変換素子26に対して撮像を行わせる。また、実行部15A5は、第2撮像処理を実行することで得た最新の第2可視光画像を用いて第2可視光画像表示処理を実行する。
【0152】
このように、
図19に示す測距撮像処理が実行されることによって、IR画素でのIR反射光の受光量が閾値以上である場合にフォーカス制御は第2距離に基づいて行われるので、IR画素でのIR反射光の受光量が閾値以上であるにも関わらず第1距離に基づくフォーカス制御が行われる場合(例えば、鏡100に対してピントが合ってしまった場合)に比べ、ユーザが意図する合焦状態での撮像(例えば、鏡100とは異なる箇所にピントが合った状態での撮像)を実現し易くすることができる。
【0153】
また、上記第1実施形態では、撮像領域に特定被写体が含まれているか否かに関わらず判定部15A4によって第1距離と第2距離とが異なっているか否かが判定されるようにしたが、本開示の技術はこれに限定されない。例えば、撮像領域に特定被写体が含まれていることを条件に判定部15A4によって第1距離と第2距離とが異なっているか否かが判定されるようにしてもよい。
【0154】
この場合、
図20に示す測距撮像処理がCPU15Aによって実行される。
図20に示す測距撮像処理は、上記第1実施形態で説明した測距撮像処理に比べ、ステップST106とステップST108との間にステップST350及びステップST352を有する点が異なる。また、
図20に示す測距撮像処理は、上記第1実施形態で説明した測距撮像処理に比べ、ステップST108に代えてステップST108Bを有する点が異なる。更に、
図20に示す測距撮像処理は、上記第1実施形態で説明した測距撮像処理に比べ、ステップST122及びステップST124に代えて、ステップST354及びステップST356を有する点が異なる。以下、
図20に示す測距撮像処理について、上記第1実施形態で説明した測距撮像処理と異なる部分を説明する。
【0155】
図20に示すステップST350で、実行部15A5は、特定被写体検出処理を実行する。特定被写体検出処理は、受光器18に対して、ステップST102で取得された第1距離に基づいてフォーカス制御を行って撮像領域を撮像させ、撮像領域が撮像されることで得られた撮像領域画像に対して、特定被写体を示す特定被写体画像の検出を行う処理である。なお、ここで、撮像領域画像は、本開示の技術に係る「第2画像」の一例である。また、ここで、特定被写体は、既定反射率以上の高反射率領域を含む。既定反射率としては、例えば、光沢性を有する面の平均的な反射率として予め定められた反射率が挙げられる。また、ここでは、高反射率領域として、鏡面100Aが採用されている。また、鏡面100Aには、ユーザ像及びスマートデバイス像が映り込んでいる。
【0156】
本ステップST350では、ステップST102で取得された第1距離に基づいてフォーカス制御を行って撮像領域を撮像させることで得られた撮像領域画像に対して特定被写体画像の検出を行っているが、本開示の技術はこれに限らない。例えば、ステップST106で取得された第2距離に基づいてフォーカス制御を行って撮像領域を撮像させることで得られた画像に対して特定被写体画像の検出を行ってもよい。
【0157】
本ステップST350において、実行部15A5は、機械学習アルゴリズム(例えば、ニューラルネットワーク)を用いて、撮像領域画像に対する特定被写体画像の検出を行う。また、実行部15A5は、パターンマッチング用の辞書を用いて、撮像領域画像に対する特定被写体画像の検出を行ってもよい。
【0158】
次のステップST352で、実行部15A5は、撮像領域画像から特定被写体画像が検出されたか否かを判定する。ステップST352において、撮像領域画像から特定被写体画像が検出されていない場合は、判定が否定されて、測距撮像処理は
図18Cに示すステップST130へ移行する。ステップST352において、撮像領域画像から特定被写体画像が検出された場合は、判定が肯定されて、測距撮像処理はステップST108Bへ移行する。
【0159】
ステップST108Bで、判定部15A4は、ステップST102で取得された第1距離とステップST106で取得された第2距離とが異なっているか否かを判定する。ステップST108Bにおいて、ステップST102で取得された第1距離とステップST106で取得された第2距離とが一致している場合は、判定が否定されて、測距撮像処理は
図18Cに示すステップST130へ移行する。ステップST108Bにおいて、ステップST102で取得された第1距離とステップST106で取得された第2距離とが異なっている場合は、判定が肯定されて、測距撮像処理はステップST120へ移行する。
【0160】
ステップST354で、第2測距制御部15A2は、測距撮像装置14を制御することで、第2測距系処理回路34Cに対して第2測距を行わせる。
【0161】
次のステップST356で、実行部15A5は、ステップST354の第2測距が行われることによって得られた第2距離を用いて第2撮像処理を実行する。すなわち、実行部15A5は、ステップST354の第2測距が行われることによって得られた第2距離に基づいてフォーカス制御を行い、かつ、光電変換素子26に対して撮像を行わせる。また、実行部15A5は、第2撮像処理を実行することで得た最新の第2可視光画像を用いて第2可視光画像表示処理を実行する。
【0162】
このように、
図20に示す測距撮像処理が実行されることで、特定被写体画像が実行部15A5によって検出された場合にフォーカス制御が第2距離に基づいて行われるので、特定被写体画像が検出されたにも関わらず第1距離に基づいてフォーカス制御が行われる場合(例えば、鏡100に対してピントが合ってしまった場合)に比べ、ユーザが意図する合焦状態での撮像(例えば、鏡100に映ったユーザ像にピントが合った状態での撮像)を実現し易くすることができる。
【0163】
また、特定被写体には、既定反射率以上の高反射率領域が含まれており、高反射率領域として、鏡面100Aが採用されている。また、鏡面100Aには、ユーザ像及びスマートデバイス像が映り込んでいる。従って、本構成によれば、ユーザ像及びスマートデバイス像が映り込んでいる鏡面100Aが検出されたにも関わらず第1距離に基づいてフォーカス制御が行われる場合(例えば、鏡面100Aに対してピントが合ってしまった場合)に比べ、ユーザが意図する合焦状態での撮像(例えば、鏡100に映ったユーザ像にピントが合った状態での撮像)を実現し易くすることができる。
【0164】
図21に示す測距撮像処理は、
図20に示す測距撮像処理に比べ、ステップST350及びステップST352に代えて、ステップST400~ステップST406を有する点が異なる。以下、
図21に示す測距撮像処理について、
図20で説明した測距撮像処理と異なる部分を説明する。
【0165】
図21に示すステップST400で、実行部15A5は、高反射率領域検出処理を実行する。高反射率領域検出処理は、受光器18に対して、ステップST102で取得された第1距離に基づいてフォーカス制御を行って撮像領域を撮像させ、撮像領域が撮像されることで得られた撮像領域画像に対して、上述した高反射率領域を示す高反射率領域の検出を行う処理である。
【0166】
本ステップST400では、ステップST102で取得された第1距離に基づいてフォーカス制御を行って撮像領域を撮像させることで得られた撮像領域画像に対して高反射率領域の検出を行っているが、本開示の技術はこれに限らない。例えば、ステップST106で取得された第2距離に基づいてフォーカス制御を行って撮像領域を撮像させることで得られた画像に対して高反射率領域の検出を行ってもよい。
【0167】
次のステップST402で、実行部15A5は、撮像領域画像から高反射率領域が検出されたか否かを判定する。ステップST402において、撮像領域画像から高反射率領域が検出されていない場合は、判定が否定されて、測距撮像処理は
図18Cに示すステップST130へ移行する。ステップST402において、撮像領域画像から高反射率領域が検出された場合は、判定が肯定されて、測距撮像処理はステップST404へ移行する。
【0168】
ステップST404で、実行部15A5は、高反射率領域占有率を算出する。高反射率領域占有率とは、撮像領域画像に対する、高反射率領域検出処理によって検出された高反射率領域の割合を指す。
【0169】
次のステップST406で、判定部15A4は、ステップST404で算出された高反射率領域占有率が既定占有率(例えば、80%)を超えているか否かを判定する。ステップST406において、ステップST404で算出された高反射率領域占有率が既定占有率以下の場合は、判定が否定されて、測距撮像処理は
図18Cに示すステップST130へ移行する。これにより、ステップST130~ステップST136の処理が実行される。すなわち、ステップST224の第1測距が行われることによって得られた第1距離に基づくフォーカス制御下で撮像領域に対する撮像が受光器18によって行われる。
【0170】
また、ステップST406において、ステップST404で算出された高反射率領域占有率が既定占有率を超えている場合は、判定が肯定されて、測距撮像処理はステップST108Bへ移行する。そして、ステップST102で取得された第1距離とステップST106で取得された第2距離とが異なっている場合(ステップST108Bにおいて判定が肯定された場合)にステップST120~ステップST126の処理が実行される。すなわち、ステップST354の第2測距が行われることによって得られた第2距離に基づくフォーカス制御下で撮像領域に対する撮像が受光器18によって行われる(ステップST356)。
【0171】
このように、
図21に示す測距撮像処理が実行されることによって、高反射率領域占有率に従って定められた第1距離又は第2距離に基づくフォーカス制御下で撮像が行われるので、常に第1距離及び第2距離のうちの何れかのみに基づいて受光器18に対してフォーカス制御が行われる場合に比べ、ユーザが意図する合焦状態での撮像を実現し易くすることができる。つまり、例えば、鏡100の全体にピントを合わせて撮像したいユーザの要求と、鏡100に映ったユーザ像にピントを合わせて撮像したいユーザの要求とに精度良く応えることが可能となる。
【0172】
なお、ここでは、高反射率領域占有率として、撮像領域画像に対する、高反射率領域検出処理によって検出された高反射率領域の割合を例示したが、本開示の技術はこれに限定されない。例えば、高反射率領域占有率として、撮像領域画像内の高反射率領域の面積と撮像画像内の高反射率領域と異なる領域の面積との差分を用いてもよい。
【0173】
また、上記第1実施形態では、受光器18のみによって撮像領域が撮像される形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、
図22に示すように、スマートデバイス300に、上述した測距撮像装置14の他に、広角用受光器350が搭載されていてもよい。スマートデバイス300は、スマートデバイス10に比べ、広角用受光器350を更に有する点が異なる。
【0174】
広角用受光器350は、受光器18に比べ、広角側で撮像可能とされている。換言すると、受光器18は、広角用受光器350に比べ、望遠側で撮像可能とされている。つまり、広角用受光器350は、受光器18よりも焦点距離が長い。更に、広角用受光器350は、透光窓352及び光電変換素子354を備えている。透光窓352は、透光窓20及び20と同一の構造であり、光電変換素子354は、光電変換素子26の可視光画像用区分領域26N1と同様の領域を有する。
【0175】
このように構成されたスマートデバイス300では、CPU15Aによって
図23に示す測距撮像処理が実行される。
図23に示す測距撮像処理は、上記第1実施形態で説明した測距撮像処理に比べ、ステップST450を有する点、及びステップST110~ステップST118を有しない点が異なる。以下、
図23に示す測距撮像処理について、上記第1実施形態で説明した測距撮像処理と異なる部分を説明する。また、以下では、
図23に示す測距撮像処理について、受光器18又は広角用受光器350によって撮像が行われていることを前提として説明する。
【0176】
図23に示す測距撮像処理では、先ず、ステップST450で、判定部15A4は、広角用受光器350が使用中であるか否かを判定する。すなわち、本ステップST450では、広角用受光器350によって撮像が行われているか否かが判定部15A4によって判定される。ステップST450において、受光器18が使用中の場合は、判定が否定されて、測距撮像処理は
図18Bに示すステップST206へ移行する。ステップST450において、広角用受光器350が使用中の場合は、判定が肯定されて、測距撮像処理はステップST100へ移行する。この場合、ステップST108において判定が肯定されたことを条件に、ステップST120~ステップST126の処理が実行される。これにより、ステップST124では、ステップST122で第1測距が行われることによって得られた第1距離に基づくフォーカス制御下で撮像が行われる。
【0177】
ここで、例えば、鏡100の全体が被写体として撮像される場合、鏡100の全体が撮像領域に含まれるように望遠側よりも広角側で撮像されることが想定されるので、鏡面100Aまでの距離を精度良く測定するためには、鏡100に映り込んでいるユーザ像にピントを合わせるために有利な第2測距よりも鏡面100Aにピントを合わせるために有利な第1測距が行われることが望ましい。
【0178】
従って、
図23に示す測距撮像処理が実行されることで、広角用受光器350の使用中は、第1距離に基づくフォーカス制御下で撮像が行われるので、受光器18よりも広角側で撮像が行われるにも関わらず第2距離に基づくフォーカス制御下で撮像が行われる場合に比べ、ユーザが意図する合焦状態の撮像を実現し易くすることができる。
【0179】
また、上記第1実施形態では、光照射器16が測距用の光としてレーザ光を例示したが、本開示の技術はこれに限定されない。例えば、測距用の光は、スーパールミネッセント光等の指向性を有する光であってもよいし、キセノンフラッシュ光源から発せられる光であってもよいし、LEDから発せられる光であってもよい。
【0180】
また、上記第1実施形態では、可視光画像用区分領域26N1、第1測距系区分領域26N2、及び第2測距系区分領域26N3が光電変換素子26によって1チップ化されているが、本開示の技術はこれに限定されず、複数の可視光画素が1チップ化され、複数の位相差画素が1チップ化され、複数のIR画素が1チップ化されていてもよい。また、複数の可視光画素と複数の位相差画素とが1チップ化され、複数のIR画素が1チップ化されていてもよい。このように、異なる種類の感光画素が種類毎にチップ化されてスマートデバイス10に搭載される場合、各チップについて被写体側(物体側)に対物レンズ、フォーカスレンズ、及び絞り等の光学系が設けられるようにすればよい。
【0181】
また、上記第1実施形態では、測距撮像装置14がスマートデバイス10に内蔵されている形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、一般的なスマートデバイス、すなわち、測距撮像装置14が内蔵されていないスマートデバイスに対して測距撮像装置14が外付けされていてもよい。
【0182】
また、上記第1実施形態では、UI系デバイス44がスマートデバイス10に組み込まれている形態例を挙げて説明したが、UI系デバイス44に含まれる複数の構成要素のうちの少なくとも一部がスマートデバイス10に対して外付けされていてもよい。また、UI系デバイス44に含まれる複数の構成要素のうちの少なくとも一部が別体として外部I/F52に接続されることによって使用されるようにしてもよい。
【0183】
また、
図1に示す例では、スマートデバイス10を例示したが、本開示の技術はこれに限定されない。すなわち、測距撮像装置14が内蔵された各種の電子機器(例えば、レンズ交換式カメラ、レンズ固定式カメラ、パーソナル・コンピュータ、及び/又はウェアラブル端末装置等)に対しても本開示の技術は適用可能であり、これらの電子機器であっても、スマートデバイス10と同様の作用及び効果が得られる。
【0184】
また、上記第1実施形態では、ディスプレイ46を例示したが、本開示の技術はこれに限定されない。例えば、スマートデバイス10に対して外付けされたディスプレイをディスプレイ46と併用してもよい。
【0185】
また、上記第1実施形態では、光電変換素子26と信号処理回路34とが別体とされているが、光電変換素子26と信号処理回路34とが1チップ化された積層型撮像素子を用いても良い。また、信号処理回路34の少なくとも一部を無くし、信号処理回路34の機能をCPU15Aに担わせるようにしてもよい。
【0186】
また、上記第1実施形態では、光電変換素子ドライバ32から光電変換素子26に撮像タイミング信号が供給される形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、光電変換素子ドライバ32は無くてもよく、この場合、光電変換素子ドライバ32の機能をCPU15Aに担わせるようにすればよい。
【0187】
また、上記第1実施形態では、位相差画素を用いて第2測距が行われる形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、位相差画素を用いた測距に代えて、ステレオカメラを用いた測距が行われるようにしてもよいし、顔検出を用いた測距が行われるようにしてもよい。ステレオカメラを用いた測距では、ステレオカメラから得られた一対の画像の視差を用いることで被写体までの距離が測定される。また、顔検出を用いた測距では、1フレーム分の画像の大きさに対する、検出された顔画像の大きさの割合等を用いることで被写体までの距離が測定される。
【0188】
また、上記第1実施形態では、Gフィルタ、Rフィルタ、及びBフィルタが、赤外光をカットする赤外光カットフィルタとしての機能も有する形態例を挙げて説明したが、本開示の技術はこれに限らず、R画素、G画素、及びB画素の各々に対応する各カラーフィルタを、赤外光も透過させるカラーフィルタとし、1つのカラーフィルタにつき、可視光画素用のフォトダイオードとIR画素用のフォトダイオート(例えば、InGaAs APD)による一対のフォトダイオードが配置されるようにしてもよい。
【0189】
また、上記第1実施形態では、可視光画像用区分領域26N1と第2測距系区分領域26N3とを併用する形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、可視光画像用区分領域26N1及び第2測距系区分領域26N3に代えて、可視光画素データと位相差画素データとが選択的に生成されて読み出されるエリアセンサとしてもよい。この場合、エリアセンサには、複数の感光画素が2次元状に配列されている。エリアセンサに含まれる感光画素には、例えば、遮光部材を有しない独立した一対のフォトダイオードが用いられる。可視光画素データが生成されて読み出される場合、感光画素の全領域(一対のフォトダイオード)によって光電変換が行われ、位相差画素データが生成されて読み出される場合(例えば、パッシブ方式の測距を行う場合)、一対のフォトダイオードのうちの一方のフォトダイオードによって光電変換が行われる。ここで、一対のフォトダイオードのうちの一方のフォトダイオードは、上記第1実施形態で説明した第1位相差画素Lに対応するフォトダイオードであり、一対のフォトダイオードのうちの一方のフォトダイオードは、上記第1実施形態で説明した第2位相差画素Rに対応するフォトダイオードである。なお、エリアセンサに含まれる全ての感光画素によって可視光画素データと位相差画素データとが選択的に生成されて読み出されるようにしてもよいが、これに限らず、エリアセンサに含まれる一部の感光画素によって可視光画素データと位相差画素データとが選択的に生成されて読み出されるようにしてもよい。
【0190】
[第2実施形態]
上記第1実施形態では、第1測距が行われることによって得られた第1距離と第2測距が行われることによって得られた第2距離とが異なる場合に特定の処理が実行部15A5によって行われる形態例を挙げて説明したが、本第2実施形態では、異なる合焦方式によって得られた第1合焦位置と第2合焦位置とが異なる場合に特定の処理が実行部15A5によって行われる形態例について説明する。なお、本第2実施形態では、上記第1実施形態で説明した構成要素と同一の構成要素については同一の符号を付して説明を省略し、上記第1実施形態と異なる部分について説明する。
【0191】
一例として
図24に示すように、ストレージ15Bには、測距撮像処理プログラム570が記憶されている。CPU15Aは、ストレージ15Bから測距撮像処理プログラム570を読み出す。そして、CPU15Aは、ストレージ15Bから読み出した測距撮像処理プログラム570を実行することで、第1測距制御部15A1、取得部15A3、判定部15A4、実行部15A5、第1合焦位置算出部15A6、コントラストAF方式撮像制御部15A7、及び第2合焦位置算出部15A8として動作する。
【0192】
一例として
図25に示すように、第1測距制御部15A1は、上記第1実施形態と同様に、第1測距系処理回路34Bに対して第1測距を行わせ、取得部15A3は、第1測距系処理回路34Bから第1距離を取得する。第1合焦位置算出部15A6は、取得部15A3によって取得された第1距離に基づいて、撮像領域に含まれる被写体に合焦する第1合焦位置を算出する。具体的には、第1合焦位置算出部15A6は、スマートデバイス10から被写体までの距離を独立変数とし、合焦位置を従属変数とした既定の演算式を用いて第1合焦位置を算出する。なお、本開示の技術はこれに限らず、第1合焦位置算出部15A6は、
図13に示す合焦位置導出テーブル72を用いて第1合焦位置を導出するようにしてもよい。
【0193】
一例として
図26に示すように、コントラストAF方式撮像制御部15A7は、受光器18に対してコントラストAF方式での撮像を行わせる場合、受光器18及び第2合焦位置算出部15A8に対して撮像開始信号を出力する。コントラストAF方式撮像制御部15A7は、受光器18に対して撮像開始信号を出力することで、可視光画像用区分領域26N1(
図5参照)に対して既定のフレームレート(例えば、60fps)で撮像を行わせ、可視光画素データ処理回路34Aに対して、撮像領域を示す第3可視光画像を生成させる。可視光画素データ処理回路34Aは、第3可視光画像を画像メモリ42に出力する。画像メモリ42には、第3可視光画像が記憶され、可視光画素データ処理回路34Aから第3可視光画像が入力される毎に画像メモリ42内の第3可視光画像が更新される。
【0194】
また、コントラストAF方式撮像制御部15A7は、撮像開始信号の出力と並行して、受光器18及び第2合焦位置算出部15A8に対してモータ制御信号を出力する。モータ制御信号は、フォーカスレンズ30Bを光軸L2に沿って往復動作(ウォブリング)させるための信号であり、受光器18のモータドライバ64に入力される。モータドライバ64は、入力されたモータ制御信号に従ってモータ62を駆動させることでフォーカスレンズ30Bをウォブリングさせる(
図8参照)。一方、第2合焦位置算出部15A8は、コントラストAF方式撮像制御部15A7から撮像開始信号が入力されてから現時点までに入力されたモータ制御信号を用いてフォーカスレンズ30Bの光軸L2上での現在位置を算出する。
【0195】
コントラストAF方式撮像制御部15A7は、画像メモリ42内の第3可視光画像が更新される毎に、画像メモリ42から第3可視光画像を取得し、取得した第3可視光画像のコントラスト値を算出する。そして、コントラストAF方式撮像制御部15A7は、第3可視光画像のコントラストの最大値を探索し、最大値が探察された時点で、第2合焦位置算出部15A8に対して最大値到達信号を出力する。最大値到達信号は、第3可視光画像のコントラストが最大値に到達したことを示す信号である。
【0196】
第2合焦位置算出部15A8は、最大値到達信号が入力されると、撮像開始信号が入力されてから現時点までに入力されたモータ制御信号を用いて、フォーカスレンズ30Bの光軸L2上での現在位置を第2合焦位置として算出する。第2合焦位置とは、撮像領域に含まれる被写体に合焦する合焦位置を指す。ここでは、第2合焦位置算出部15A8は、モータ制御信号を独立変数とし、合焦位置を従属変数とした演算式を用いて第2合焦位置を算出している。なお、本開示の技術はこれに限定されず、第2合焦位置算出部15A8は、モータ制御信号の時系列データと光軸L2上でのフォーカスレンズ30Bの位置とが対応付けられたテーブルを用いて第2合焦位置を導出するようにしてもよい。
【0197】
一例として
図27に示すように、判定部15A4は、第1合焦位置算出部15A6によって算出された第1合焦位置と第2合焦位置算出部15A8によって算出された第2合焦位置とが異なっているか否かを判定する。判定部15A4によって第1合焦位置と第2合焦位置とが一致していると判定された場合、実行部15A5は、上記第1実施形態で説明した第1撮像処理を実行する。また、判定部15A4によって第1合焦位置と第2合焦位置とが異なっていると判定された場合、実行部15A5は、特定の処理(
図28参照)を実行する。
【0198】
一例として
図28に示すように、特定の処理は、上記第1実施形態に比べ、第2撮像処理に代えて第3撮像処理を含む点が異なる。第3撮像処理とは、第2合焦位置に対するフォーカス制御を伴う撮像(コントラストAFを伴う撮像)を行う処理を指す。また、特定の処理に含まれる画像選択画面表示処理によって生成されてディスプレイ46に表示される画像選択画面は、上記第1実施形態に比べ、一部の表示内容が異なる。すなわち、画像選択画面には、第1距離に代えて、第1合焦位置(
図28に示す例では、基準位置からフォーカスレンズ30Bまでの距離を示す「X1mm」という数値)が表示されており、第2距離に代えて、第2合焦位置(
図28に示す例では、基準位置からフォーカスレンズ30Bまでの距離を示す「X2mm」という数値)が表示されている。基準位置とは、例えば、光電変換素子26の撮像面の位置、又は、無限遠にピントを合わせた状態でのフォーカスレンズ30Bの位置を指す。また、画像選択画面には、第2可視光画像に代えて第3可視光画像が表示されている。また、画像選択画面には、「測距結果が異なっています」というメッセージに代えて「合焦位置が異なっています」というメッセージが表示されている。また、画像選択画面には、「アクティブ方式」というメッセージ代えて、「アクティブAF方式」というメッセージが表示されている。更に、画像選択画面には、「パッシブ方式」というメッセージ代えて、「コントラストAF方式」というメッセージが表示されている。
【0199】
なお、本第2実施形態では、「アクティブAF方式」と「コントラストAF方式」という表示例を示しているが、必ずしも「アクティブAF方式」と「パッシブAF方式」という表示でなくてもよく、ユーザがAF方式の違いを理解できればどのような表示であっても良い。例えば、レーザ測距を用いたAFとコントラストAFを行う場合、「レーザ測距を用いたAF」という表示と「コントラストを用いたAF」という表示でもよいし、AF方式を表すアイコン等を表示してもよい。また、AF方式の表示に代えて、ピント位置を表示してもよい。例えば、「ピント位置:手前」と「ピント位置:奥」でもよいし、「ピント位置:物体」と「ピント位置:物体に映った像」等と表示してもよい。あるいは、AF方式を示す文字及びアイコン並びにピント位置の2つ以上を組み合わせて表示してもよい。
【0200】
次に、スマートデバイス500の本開示の技術に係る部分の作用について
図29A~
図29Cを参照しながら説明する。なお、
図29A~
図29Cは、CPU15Aによって測距撮像処理プログラム570に従って実行される測距撮像処理の流れの一例を示すフローチャートである。
【0201】
図29Aに示す測距撮像処理では、先ず、ステップST500で、第1測距制御部15A1は、測距撮像装置14を制御することで、第1測距系処理回路34Bに対して第1測距を行わせる。第1測距は、第1測距制御部15A1が第1測距系処理回路34Bに対して第1距離を算出させることによって実現される。
【0202】
次のステップST502で、取得部15A3は、ステップST500の第1測距が行われることによって得られた第1距離を取得する。
【0203】
次のステップST504で、第1合焦位置算出部15A6は、ステップST502で取得された第1距離に基づいて第1合焦位置を算出する。
【0204】
次のステップST506で、コントラストAF方式撮像制御部15A7は、受光器18に対してコントラストAF方式の撮像を開始させる。
【0205】
次のステップST508で、コントラストAF方式撮像制御部15A7は、コントラストAF方式の撮像が行われることで可視光画素データ処理回路34Aによって生成された第3可視光画像を取得する。
【0206】
次のステップST510で、第2合焦位置算出部15A8は、コントラストAF方式撮像制御部15A7から最大値到達信号が入力されたか否かを判定する。ステップST510において、コントラストAF方式撮像制御部15A7から最大値到達信号が入力されていない場合は、判定が否定されて、測距撮像処理はステップST508へ移行する。ステップST510において、コントラストAF方式撮像制御部15A7から最大値到達信号が入力された場合は、判定が肯定されて、測距撮像処理はステップST512へ移行する。
【0207】
ステップST512で、第2合焦位置算出部15A8は、ステップST506の処理が実行されてから現時点までに入力されたモータ制御信号を用いて、フォーカスレンズ30Bの光軸L2上での現在位置を第2合焦位置として算出する。
【0208】
図29Bに示すステップST514で、判定部15A4は、ステップST504で算出された第1合焦位置とステップST512で算出された第2合焦位置とが異なっているか否かを判定する。ステップST514において、ステップST504で算出された第1合焦位置とステップST512で算出された第2合焦位置とが一致している場合は、判定が否定されて、測距撮像処理はステップST514からステップST516へ移行する。
【0209】
ステップST516で、実行部15A5は、ステップST502で取得された第1距離を用いた第1撮像処理を実行する。なお、ここで、第1距離を用いた第1撮像処理とは、例えば、ステップST504で第1距離に基づいて算出された第1合焦位置に対するフォーカス制御を伴う撮像を行う処理を指す。
【0210】
次のステップST518で、実行部15A5は、ステップST512で算出された第2合焦位置を用いた第3撮像処理を実行する。なお、ここで、第2合焦位置を用いた第1撮像処理とは、第2合焦位置に対するフォーカス制御を伴う撮像を行う処理を指す。
【0211】
次のステップST520で、実行部15A5は、画像選択画面表示処理を実行する。これにより、一例として
図28に示すように、ディスプレイ46には、画像選択画面が表示される。
【0212】
次のステップST522で、実行部15A5は、画像選択画面内に表示されている第1可視光画像及び第3可視光画像のうちの何れかがユーザによってタッチパネル48を介して選択された否かを判定する。ステップST522において、画像選択画面内に表示されている第1可視光画像及び第3可視光画像のうちの何れかがユーザによってタッチパネル48を介して選択されていない場合は、判定が否定されて、ステップST522の判定が再び行われる。ステップST522において、画像選択画面内に表示されている第1可視光画像及び第3可視光画像のうちの何れかがユーザによってタッチパネル48を介して選択された場合は、判定が肯定されて、測距撮像処理はステップST524へ移行する。
【0213】
ステップST524で、実行部15A5は、画像選択画面内から選択された画像が第3可視光画像か否かを判定する。ステップST524において、画像選択画面内から選択された画像が第1可視光画像の場合は、判定が否定されて、測距撮像処理は
図29Cに示すステップST532へ移行する。ステップST524において、画像選択画面内から選択された画像が第3可視光画像の場合は、判定が肯定されて、測距撮像処理はステップST526へ移行する。
【0214】
ステップST526で、実行部15A5は、撮像開始タイミングが到来したか否かを判定する。ステップST526において、撮像開始タイミングが到来していない場合は、判定が否定されて、測距撮像処理はステップST530へ移行する。ステップST526において、撮像開始タイミングが到来した場合は、判定が肯定されて、測距撮像処理はステップST528へ移行する。
【0215】
ステップST528で、実行部15A5は、第3撮像処理を実行する。また、実行部15A5は、第3撮像処理を実行することで得た最新の第3可視光画像を用いて第3可視光画像表示処理を実行する。ここで、第3可視光画像表示処理は、
図16に示す第2可視光画像表示処理に比べ、第2可視光画像に代えて第3可視光画像をディスプレイ46に対して表示させる点、及び「パッシブ方式」というメッセージに代えて「コントラストAF方式」というメッセージをディスプレイ46に対して表示させる点が異なる。
【0216】
なお、本ステップST528では、ステップST522及びステップST524で第3可視光画像が選択されたことを条件に、第3撮像処理が行われ、第3撮像処理が行われることによって得られた最新の第3可視光画像がディスプレイ48に表示される形態例を挙げているが、これはあくまでも一例に過ぎない。例えば、第3可視光画像が選択されたことを条件に、選択された第3可視光画像をストレージ15B及び/又はメモリカード等の記憶媒体に記憶させてもよい。また、選択されたAF方式を伴う撮像と、選択された画像(例えば、第1可視光画像又は第3可視光画像)の保存とが、受付デバイス47によって受け付けられた指示(ユーザから与えられた指示)に従って選択されるようにしてもよい。
【0217】
次のステップST530で、実行部15A5は、終了条件を満足したか否かを判定する。ステップST530において、終了条件を満足していない場合は、判定が否定されて、測距撮像処理はステップST526へ移行する。ステップST530において、終了条件を満足した場合は、判定が肯定されて、測距撮像処理が終了する。
【0218】
一方、
図29Cに示すステップST532で、実行部15A5は、撮像開始タイミングが到来したか否かを判定する。ステップST532において、撮像開始タイミングが到来していない場合は、判定が否定されて、測距撮像処理はステップST536へ移行する。ステップST532において、撮像開始タイミングが到来した場合は、判定が肯定されて、測距撮像処理はステップST534へ移行する。
【0219】
ステップST534で、第1測距制御部15A1は、測距撮像装置14を制御することで、第1測距系処理回路34Bに対して第1測距を行わせる。
【0220】
次のステップST536で、実行部15A5は、ステップST534の第1測距が行われることによって得られた第1距離を用いて第1撮像処理を実行する。また、実行部15A5は、第1撮像処理を実行することで得た最新の第1可視光画像を用いて第1可視光画像表示処理を実行する。
【0221】
次のステップST538で、実行部15A5は、終了条件を満足したか否かを判定する。ステップST538において、終了条件を満足していない場合は、判定が否定されて、測距撮像処理はステップST532へ移行する。ステップST538において、終了条件を満足した場合は、判定が肯定されて、測距撮像処理が終了する。
【0222】
以上説明したように、スマートデバイス500では、第1測距が行われることで得られた第1距離に基づいて算出された第1合焦位置とコントラストAF方式の撮像が行われることで得られた第2合焦位置とが異なる場合に、実行部15A5によって特定の処理が実行される。従って、本構成によれば、第1距離と第2距離とが異なる場合に生じる諸問題の解決に寄与することができる。
【0223】
なお、上記第2実施形態で説明した測距撮像処理はあくまでも一例であり、例えば、
図18A~
図18Cに示す測距撮像処理、
図19に示す測距撮像処理、
図20に示す測距撮像処理、
図21に示す測距撮像処理、又は
図23に示す測距撮像処理に対して、上記第2実施形態で説明した測距撮像処理に含まれる技術的思想を援用してもよい。この場合、主旨を逸脱しない範囲内で、第1距離を第1合焦位置と読み替えたり、第2距離を第2合焦位置と読み替えたり、不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりすればよい。
【0224】
また、上記第1実施形態では、ストレージ15Bに測距撮像処理プログラム70が記憶されており、上記第2実施形態では、ストレージ15Bに測距撮像処理プログラム570が記憶されている形態例を挙げて説明したが、本開示の技術はこれに限定されない。例えば、
図30に示すように、測距撮像処理プログラム70又は570(以下、測距撮像処理プログラム70及び570を区別して説明する必要がない場合、符号を付さずに「測距撮像処理プログラム」と称する)が記憶媒体900に記憶されていてもよい。記憶媒体900の一例としては、SSD又はUSBメモリなどの任意の可搬型の記憶媒体が挙げられる。
【0225】
記憶媒体900に記憶されている測距撮像処理プログラムは、コントローラ15にインストールされる。CPU15Aは、測距撮像処理プログラムに従って測距撮像処理を実行する。
【0226】
また、通信網(図示省略)を介してコントローラ15に接続される他のコンピュータ又はサーバ装置等の記憶部に測距撮像処理プログラムを記憶させておき、上述のスマートデバイス10の要求に応じて測距撮像処理プログラムがダウンロードされ、コントローラ15にインストールされるようにしてもよい。
【0227】
なお、コントローラ15に接続される他のコンピュータ又はサーバ装置等の記憶部、又はストレージ15Bに測距撮像処理プログラムの全てを記憶させておく必要はなく、測距撮像処理プログラムの一部を記憶させておいてもよい。
【0228】
図30に示す例では、スマートデバイス10にコントローラ15が内蔵されている態様例が示されているが、本開示の技術はこれに限定されず、例えば、コントローラ15がスマートデバイス10の外部に設けられるようにしてもよい。
【0229】
図30に示す例では、CPU15Aは、単数のCPUであるが、複数のCPUであってもよい。また、CPU15Aに代えてGPUを適用してもよい。
【0230】
図30に示す例では、コントローラ15が例示されているが、本開示の技術はこれに限定されず、コントローラ15に代えて、ASIC、FPGA、及び/又はPLDを含むデバイスを適用してもよい。また、コントローラ15に代えて、ハードウェア構成及びソフトウェア構成の組み合わせを用いてもよい。
【0231】
上記各実施形態で説明した測距撮像処理を実行するハードウェア資源としては、次に示す各種のプロセッサを用いることができる。プロセッサとしては、例えば、ソフトウェア、すなわち、プログラムを実行することで、測距撮像処理を実行するハードウェア資源として機能する汎用的なプロセッサであるCPUが挙げられる。また、プロセッサとしては、例えば、FPGA、PLD、又はASICなどの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路が挙げられる。何れのプロセッサにもメモリが内蔵又は接続されており、何れのプロセッサもメモリを使用することで測距撮像処理を実行する。
【0232】
測距撮像処理を実行するハードウェア資源は、これらの各種のプロセッサのうちの1つで構成されてもよいし、同種または異種の2つ以上のプロセッサの組み合わせ(例えば、複数のFPGAの組み合わせ、又はCPUとFPGAとの組み合わせ)で構成されてもよい。また、測距撮像処理を実行するハードウェア資源は1つのプロセッサであってもよい。
【0233】
1つのプロセッサで構成する例としては、第1に、1つ以上のCPUとソフトウェアの組み合わせで1つのプロセッサを構成し、このプロセッサが、測距撮像処理を実行するハードウェア資源として機能する形態がある。第2に、SoCなどに代表されるように、測距撮像処理を実行する複数のハードウェア資源を含むシステム全体の機能を1つのICチップで実現するプロセッサを使用する形態がある。このように、測距撮像処理は、ハードウェア資源として、上記各種のプロセッサの1つ以上を用いて実現される。
【0234】
更に、これらの各種のプロセッサのハードウェア的な構造としては、より具体的には、半導体素子などの回路素子を組み合わせた電気回路を用いることができる。また、上記の測距撮像処理はあくまでも一例である。従って、主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよいことは言うまでもない。
【0235】
以上に示した記載内容及び図示内容は、本開示の技術に係る部分についての詳細な説明であり、本開示の技術の一例に過ぎない。例えば、上記の構成、機能、作用、及び効果に関する説明は、本開示の技術に係る部分の構成、機能、作用、及び効果の一例に関する説明である。よって、本開示の技術の主旨を逸脱しない範囲内において、以上に示した記載内容及び図示内容に対して、不要な部分を削除したり、新たな要素を追加したり、置き換えたりしてもよいことは言うまでもない。また、錯綜を回避し、本開示の技術に係る部分の理解を容易にするために、以上に示した記載内容及び図示内容では、本開示の技術の実施を可能にする上で特に説明を要しない技術常識等に関する説明は省略されている。
【0236】
本明細書において、「A及び/又はB」は、「A及びBのうちの少なくとも1つ」と同義である。つまり、「A及び/又はB」は、Aだけであってもよいし、Bだけであってもよいし、A及びBの組み合わせであってもよい、という意味である。また、本明細書において、3つ以上の事柄を「及び/又は」で結び付けて表現する場合も、「A及び/又はB」と同様の考え方が適用される。
【0237】
本明細書に記載された全ての文献、特許出願及び技術規格は、個々の文献、特許出願及び技術規格が参照により取り込まれることが具体的かつ個々に記された場合と同程度に、本明細書中に参照により取り込まれる。
【0238】
以上の実施形態に関し、更に以下の付記を開示する。
【0239】
(付記1)
プロセッサと、
上記プロセッサに接続又は内蔵されたメモリと、を含み、
上記プロセッサは、
光照射器が光を撮像領域に向けて照射した照射タイミングと、上記光の上記撮像領域からの反射光を受光器が受光した受光タイミングとに基づいて上記撮像領域までの距離を測定し、
上記撮像領域に含まれる被写体に合焦する第1合焦位置を上記距離に基づいて導出し、
上記被写体に合焦する第2合焦位置を、撮像装置によって上記撮像領域が撮像されることで得られた画像に基づいて導出し、
上記第1合焦位置と上記第2合焦位置とが異なる場合に特定の処理を実行する
情報処理装置。
【0240】
(付記2)
上記特定の処理は、上記第1合焦位置と上記第2合焦位置とが異なる旨を通知する処理を含む付記1に記載の情報処理装置。
【0241】
(付記3)
上記特定の処理は、上記第1合焦位置と上記合焦位置のそれぞれで、上記撮像装置に対して、上記撮像領域を撮像させる処理を含む付記1又は付記2に記載の情報処理装置。
【0242】
(付記4)
上記特定の処理は、上記第1合焦位置で上記撮像領域が撮像されることで得られた第1合焦画像と、上記第2合焦位置で上記撮像領域が撮像されることで得られた第2合焦画像とをディスプレイに対して表示させ、かつ、上記第1合焦画像及び上記第2合成画像が上記ディスプレイに表示されている状態で上記第1合焦画像及び上記第2合成画像のうちの少なくとも1つの選択をユーザに促す処理を含む付記3に記載の情報処理装置。
【0243】
(付記5)
上記特定の処理は、上記第1合焦位置で上記撮像装置に対して上記撮像領域を撮像させる処理か、又は、上記第2合焦位置で上記撮像装置に対して上記撮像領域を撮像させる処理を含む付記2又は付記3に記載の情報処理装置。
【0244】
(付記6)
上記撮像装置は、広角側と望遠側とで撮像可能であり、
上記撮像装置が上記広角側で撮像する場合、上記特定の処理は、上記第1合焦位置で上記撮像装置に対して撮像させる処理である付記5に記載の情報処理装置。
【0245】
(付記7)
上記受光器によって受光された上記反射光の受光量が閾値以上である場合、上記特定の処理は、上記第2合焦位置で上記撮像装置に対して撮像させる処理である付記5に記載の情報処理装置。
【符号の説明】
【0246】
10,300,500 スマートデバイス
12 筐体
12A 背面
12B 前面
13 指示キー
14 測距撮像装置
15 コントローラ
15A CPU
15A1 第1測距制御部
15A2 第2測距制御部
15A3 取得部
15A4 判定部
15A5 実行部
15A6 第1合焦位置算出部
15A7 コントラストAF方式撮像制御部
15A8 第2合焦位置算出部
15B ストレージ
15C メモリ
16 光照射器
17A,17B 遮光部材
18 受光器
19 マイクロレンズ
20,22,352 透光窓
21 ビームエクスパンダ
23 コリメートレンズ
24 LD
25 LDドライバ
26,354 光電変換素子
26N1 可視光画像用区分領域
26N2 第1測距系区分領域
26N3 第2測距系区分領域
27 TOFカメラ
30A 対物レンズ
30B フォーカスレンズ
30C 絞り
31 合焦制御機構
32 光電変換素子ドライバ
34 信号処理回路
34A 可視光画素データ処理回路
34B 第1測距系処理回路
34C 第2測距系処理回路
40 入出力インタフェース
41 撮像レンズ
42 画像メモリ
44 UI系デバイス
46 ディスプレイ
47 受付デバイス
48 タッチパネル
50 バス
52 外部I/F
53 ハードキー部
54 通信I/F
56 ネットワーク
59 タッチパネル・ディスプレイ
60 移動機構
62 モータ
64 モータドライバ
70,570 測距撮像処理プログラム
72 合焦位置導出テーブル
100 鏡
100A 鏡面
300L 左領域通過光
300R 右領域通過光
350 広角用受光器
900 記憶媒体
L 第1位相差画素
L1,L2 光軸
N 非位相差画素
PD フォトダイオード
R 第2位相差画素
α ずれ量
θ1 画角
θ2 照射画角