(58)【調査した分野】(Int.Cl.,DB名)
前記制御装置は、前記表示処理において、前記電子機器の傾きの態様に応じて前記視線誘導画像の表示位置を変更することを特徴とする請求項1から8のいずれか1項に記載の電子機器。
【発明を実施するための形態】
【0012】
説明の便宜上、特定の項目について説明した構成と同一の機能を有する構成については、同一の符号を付記し、その説明を省略する。実施形態2以下の各実施形態についても同様である。なお、本実施形態以下の各実施形態において、本発明の一態様に係る電子機器が備える撮像装置、表示装置、制御装置等の各装置については、単数であってもよいし、複数であってもよい。
【0013】
<スマートフォンの構成>
スマートフォン100(電子機器)は、パーソナルコンピュータ・PDA(Personal Digital Assistant:携帯情報端末)等の機能を併せ持った多機能の携帯電話機である(後述のスマートフォン200〜700についても同様)。なお、本発明の適用対象となる電子機器としては、スマートフォンの他、携帯電話機やタブレット端末等を例示することができる。
図1の(a)に示すように、スマートフォン100は、カメラ10(撮像装置)、記憶装置11、操作入力装置12、表示装置13および制御装置14を備えている。
【0014】
カメラ10は、レンズ、CMOS(Complementary Metal-Oxide Semiconductor)その他の撮像素子およびオートフォーカス機構を有している。カメラ10は、
図1の(b)に示すように、表示装置13の表示画面13aの端部領域13a−1に形成された切欠き13b内に配置されている。
【0015】
表示画面13aの端部領域13a−1とは、表示画面13aにおける長手方向および短手方向の各端部の領域を総称したものである。本実施形態では、
図1の(b)に示すように、表示画面13aにおける短手方向の端部の領域を端部領域13a−1とする。なお、端部領域13a−1に切欠き13bを形成することは必須ではない。言い換えれば、カメラ10は端部領域13a−1に配置されていればよい。
【0016】
記憶装置11は、例えば、ROM(Read Only Memory)またはRAM(Random Access Memory)などで構成され、スマートフォン100が備える各装置の動作に必要なデータを記憶する。記憶装置11は、例えば制御装置14に内蔵されてもよいし、スマートフォン100の外部に具備されてもよい。
【0017】
操作入力装置12は、タッチパネルおよび操作入力処理を行う回路などを有している。操作入力装置12は、ユーザ(撮像対象者)からの入力操作の検知、ユーザの指が表示画面13aの任意の領域にホバー(近接)およびタッチ(接触)したことの検知を行う。また、操作入力装置12は、表示画面13aに表示されたカーソルの位置などの算出も行う。
【0018】
表示装置13は、タッチパネルおよび表示処理を行う回路などを有し、タッチパネルの表示画面13aに各種画像およびカーソルなどを表示させる。タッチパネルは、操作入力装置12の一部および表示装置13の一部として動作する。
【0019】
なお、本実施形態以下の各実施形態では、操作入力装置12の一部と表示装置13の一部とが一体化したタッチパネルを例に挙げて説明しているが、操作入力装置12および表示装置13は、それぞれ個別のデバイスであってもよい。
【0020】
制御装置14は、例えばCPUであり、記憶装置11に記憶されているプログラムを実行することによってスマートフォン100が備える各装置の動作を統括的に制御する。また、制御装置14は、
図1の(a)に示すように表示制御部14aを備えている。
【0021】
表示制御部14aは、視線誘導画像1(
図2参照)を表示画面13aにおけるカメラ10の配置箇所の周囲に表示させる、表示処理を実行する。本実施形態では、ユーザによる自分撮りの指示(撮像指示)があった場合に、視線誘導画像1がカメラ10の配置箇所の周囲に表示される。
【0022】
なお、本実施形態における「自分撮り」の文言には、カメラ10を用いて、ユーザ自身が表示画面13aに表示された自身の画像を確認しながら撮影する態様が含まれる。その他、もちろん、ユーザ自身のみならず、ユーザ以外の撮像対象者が表示画面13aに表示された自身の画像を確認しながら、セルフタイマー機能を用いて自身の画像を撮影する態様も「自分撮り」の文言に含まれる。
【0023】
また、「撮像対象者」の文言については、上記の「自分撮り」により自身の画像の撮影を行う者を意味している。すなわちユーザ自身のみならず、ユーザ以外の者であっても「自分撮り」を行う者は、「撮像対象者」に含まれる。
【0024】
「ユーザによる自分撮りの指示があった場合」としては、表示画面13aのシャッターアイコン領域(不図示)でホバー反応またはタッチ反応があった場合を例示することができる。なお、視線誘導画像1は、自分撮りの指示があったか否かに拘らず、表示画面13aがプレビュー画面の状態からカメラ10の配置箇所の周囲に常時表示されていてもよい。
【0025】
視線誘導画像1は、ユーザの視線を自分撮り(撮像装置による撮像)に適した表示画面13a上の基準領域に導くための画像である。本実施形態以下の各実施形態において、「基準領域」は、ユーザが表示画面13aを正視できる当該表示画面13a上の位置であり、端部領域13a−1における切欠き13bの近傍かつ両側の領域を指す(
図8の(a)参照)。なお、基準領域の具体的数値範囲は任意に設定してよく、例えば、操作入力装置12を介したユーザ操作によって上記数値範囲を変更してもよい。あるいは、予め複数の数値範囲を表示制御部14a内のメモリ(不図示)に格納しておき、表示画面13aに表示されたユーザの顔の配置位置に応じて、表示制御部14aが上記複数の数値範囲の中から最適な数値範囲を選択するようにしてもよい。
【0026】
なお、本実施形態以下の各実施形態では、本発明の一態様に係る視線誘導画像がスマートフォン(電子機器)の表示画面に表示される場面として、ユーザが自分撮りをする場面を想定している。しかしながら、ユーザの自分撮りはあくまで一例であり、例えば、ユーザ以外の撮像対象者をセルフタイマー機能を用いて撮影する場合も本発明の適用範囲に含まれる。言い換えれば、本発明の一態様に係る視線誘導画像は、スマートフォンのカメラ(撮像装置)による撮像対象者の撮影全般において、表示画面に表示される。
【0027】
<視線誘導画像の表示>
視線誘導画像1は、
図2に示すように6つの部分視線誘導画像1aで構成される。また、3つの部分視線誘導画像1aが一組となり、これら2つの組が切欠き13bを挟み込むように、端部領域13a−1の短手側の延伸方向(紙面向かって左右方向)に沿って切欠き13bの両側に表示される。本実施形態において「カメラ10の配置箇所の周囲」とは、端部領域13a−1における、上述の切欠き13bの両側の領域を指す。
【0028】
部分視線誘導画像1aは、くの字形状であり、上記部分視線誘導画像1aの組ごとに、折れ曲がった部分の先端が同方向を向いている。また、部分視線誘導画像1aは、折れ曲がった部分の先端がカメラ10の方を向くように表示される。
【0029】
なお、部分視線誘導画像1aの個数・形状は
図2の場合に限定されない。例えば、部分視線誘導画像1aが矢印形状であってもよい。また、視線誘導画像1が複数の部分視線誘導画像1aで構成されている必要もなく、単一の図形(例えばくの字形状、矢印形状)で構成されていてもよい。本実施形態以下の各実施形態においても、視線誘導画像1の表示位置や表示態様、部分視線誘導画像1aの個数が適宜変化している。
【0030】
<自分撮りの方法>
スマートフォン100による自分撮りの方法としては、
図3の(a)および(b)に示す方法を例示することができる(後述のスマートフォン200〜700についても同様)。
【0031】
まず、
図3の(a)に示すように、表示画面13aのシャッターアイコン領域でホバー反応があった場合に視線誘導画像1を表示し、シャッターアイコン領域でタッチ反応があった場合に自分撮りの処理を実行する方法がある。
【0032】
すなわち、ステップ(以下、「S」と略記)101で、制御装置14が表示画面13aをプレビュー画面の状態にして撮影プレビューを開始した後、制御装置14は、シャッターアイコン領域でホバー反応があったか否かを判定する(S102)。
【0033】
S102で「YES(以下、「Y」と略記)」と判定した場合、制御装置14の表示制御部14aは、表示画面13aにおけるカメラ10の配置箇所の周囲に視線誘導画像1を表示させて(S103:表示ステップ)、S104に進む。一方、S102で「NO(以下、「N」と略記)」と判定した場合、表示制御部14aは、視線誘導画像1を表示させることなくS104に進む。
【0034】
S104では、制御装置14が、シャッターアイコン領域でタッチ反応があったか否かを判定する。S104で「Y」と判定した場合、制御装置14がカメラ10のシャッターを切ることにより(S105)、自分撮りは終了する(S106)。ここで、自分撮りの処理の実行の際に視線誘導画像1がまだ表示されている場合、表示制御部14aは視線誘導画像1を非表示にする。
【0035】
一方、S104で「N」と判定した場合、制御装置14は、S102以下の各処理を再び実行する。
【0036】
次に、
図3の(b)に示すように、表示画面13aのシャッターアイコン領域でタッチ反応があった場合に視線誘導画像1を表示し、シャッターアイコン領域でタッチ反応が無くなった場合に自分撮りの処理を実行する方法がある。
【0037】
すなわち、制御装置14は、S201において表示画面13aをプレビュー画面の状態にして撮影プレビューを開始し、S202に進む。S202で、制御装置14がシャッターアイコン領域でタッチ反応を検出すると、表示制御部14aは、表示画面13aにおけるカメラ10の配置箇所の周囲に視線誘導画像1を表示させる(S203:表示ステップ)。
【0038】
S204で、制御装置14がシャッターアイコン領域でタッチ反応が無くなったことを検出すると、制御装置14がカメラ10のシャッターを切って(S205)、自分撮りは終了する(S206)。自分撮りの処理の実行の際に視線誘導画像1がまだ表示されている場合、表示制御部14aは視線誘導画像1を非表示にする。
【0039】
<視線誘導画像の変形例>
本実施形態に係る視線誘導画像の形状・表示態様等は、
図2に示す視線誘導画像1の他、様々なバリエーションが想定される。例えば、
図4に示すように、視線誘導画像1において、所定のタイミング毎に異なる部分視線誘導画像1aがハイライト表示されてもよい。
【0040】
具体的には、制御装置14の表示制御部14aは、ユーザによる自分撮りの指示があった直後は、カメラ10の配置箇所から最も離れた箇所に表示されている部分視線誘導画像1aをハイライト表示する。そして、
図4の(a)および(b)に示すように、1秒毎に上記配置箇所に対してより近い部分視線誘導画像1aをハイライト表示する。上記配置箇所に対して最も近い部分視線誘導画像1aがハイライト表示された後、制御装置14は、自分撮りの処理を実行する。なお、所定のタイミングは1秒でなくてもよく、任意に変更してもよい(以下の説明においても同様)。
【0041】
また例えば、
図5に示すように、カメラ10の配置箇所を中心として半円状に表示される視線誘導画像2を、視線誘導画像1の代わりに用いてもよい。視線誘導画像2は、上記配置箇所を中心として同心円状に表示された3つの部分視線誘導画像2aで構成される。なお、部分視線誘導画像2aの個数は任意に変更してもよい。
【0042】
具体的には、表示制御部14aは、ユーザによる自分撮りの指示があった場合、表示処理において、
図5の(a)に示すように3つの部分視線誘導画像2aを表示させる。その後、
図5の(b)および(c)に示すように、1秒(所定のタイミング)毎に、カメラ10の配置箇所から最も離れた箇所に表示されている部分視線誘導画像2aから順次非表示にしていく。上記配置箇所に対して最も近い部分視線誘導画像2aが非表示になった後、制御装置14は、自分撮りの処理を実行する。
【0043】
また例えば、
図6に示すように、所定のタイミング毎に表示位置が変わる視線誘導画像3を、視線誘導画像1の代わりに用いてもよい。視線誘導画像3は、視線誘導画像1と同じ形状であって単体で構成される。
【0044】
具体的には、表示制御部14aは、ユーザによる自分撮りの指示があった直後は、表示処理において、視線誘導画像3をカメラ10の配置箇所からある程度離れた所定の箇所に表示させる。そして、
図6の(a)および(b)に示すように、1秒毎に、視線誘導画像3が上記配置箇所に対してより近づくように当該視線誘導画像3を表示させる。上記配置箇所に対して視線誘導画像3が最も近づいた後、制御装置14は、自分撮りの処理を実行する。
【0045】
また例えば、
図7の(a)〜(c)に示すように、視線誘導画像1の表示位置を適宜変更してもよい。ます、
図7の(a)に示すように、表示画面13aの長手方向が紙面向かって左右方向と平行になるようにスマートフォン100の配置した場合、表示制御部14aは、2つの部分視線誘導画像1aの組が切欠き13bを挟み込むように、当該2つの組を端部領域13a−1の延伸方向に沿って、すなわち紙面向かって上下方向に表示してもよい。
【0046】
なお、表示制御部14aは、視線の高さ合わせのために、先端がカメラ10の中心を指すような矢印形状のターゲット画像Tを切欠き13bの近傍に表示させてもよい。ユーザは、このターゲット画像を見ることにより、自分の視線をより確実に基準領域に向けることができる。
【0047】
また、
図7の(b)に示すように、切欠き13bが、表示画面13aの端部領域13a−1において、表示画面13aの長手方向に沿って延伸する中心軸(不図示)からずれた箇所に形成され、カメラ10が当該切欠き13b内に配置されている場合、表示制御部14aは、端部領域13a−1のスペースが小さい方の領域に表示させる部分視線誘導画像1aの個数を、スペースが大きい方の領域に表示させる部分視線誘導画像1aの個数よりも少なくしてもよい。
【0048】
また、
図7の(c)に示すように、表示制御部14aは、部分視線誘導画像1aの一部がユーザの顔を表す第2画像Fの一部と重なるように、視線誘導画像1を表示させてもよい。但し、表示制御部14aは、ユーザによる第2画像Fと視線誘導画像1との同時確認が容易でなくなる程度まで部分視線誘導画像1aの一部と第2画像Fの一部とが重ならないように、表示制御する。
【0049】
また例えば、
図7の(d)に示すように、表示制御部14aは、表示画面13aの端部領域13a−1における、切欠き13bの両側の領域のうちの一方にのみ視線誘導画像1を表示させ、他方には各種アイコンや他の画像を表示させてもよい。このような表示態様を採用することで、ユーザは視線を基準領域に保ちながらアイコン操作を行うことができ、スマートフォン100の利便性をより高めることができる。
【0050】
〔実施形態2〕
図1の(a)に示すように、スマートフォン200は、制御装置14が第1算出部14b、第1判定部14cおよび第2判定部14eをさらに備えている点で、実施形態1に係るスマートフォン100と異なる。
【0051】
<補助視線誘導画像の表示>
第1算出部14bは、ユーザの目を表す第1画像Eを解析することにより、ユーザの黒目の重心位置Gを算出する第1算出処理を実行する。重心位置Gは、ユーザの目の中心に対する、黒目の重心の位置である。
【0052】
以下、第1算出処理について説明する。まず、第1算出部14bは、カメラ10によって撮像された第2画像Fを取得し、当該第2画像Fから
図8の(a)に示すような第1画像E(紙面向かって右側が右目、左側が左目)を抽出する。次に、第1画像Eからユーザの黒目を表す第3画像Bを抽出し、左右それぞれの第1画像Eについて、第1画像Eの中心のX座標(X=0とする)に対する第3画像Bの重心位置GのX座標(Xr:右目、Xl:左目とする)を算出する。
【0053】
なお、本実施形態では、第1画像Eの目頭から目尻にかけて延伸する方向と平行な軸をX軸として設定するとともに、X軸と直交し、かつ第1画像Eの中心を通る軸をY軸として設定する。また、紙面向かって右側をX軸のプラス方向、上側をY軸のプラス方向とする(
図9の(a)、
図11の(b)についても同様)。
【0054】
第1判定部14cは、第1算出部14bによって算出された重心位置GのX座標と閾値とを比較することにより、ユーザの視線がカメラ10を向いているか否かを判定する第1判定処理を実行する。
【0055】
以下、第1判定処理について説明する。本実施形態では、右目の重心位置Gとの比較に用いられる閾値をRthとし、左目の重心位置Gとの比較に用いられる閾値をLthとする。なお、閾値Rth・Lthは、ともに任意に設定変更してよい。
【0056】
まず、第1判定部14cは、右目の重心位置GのX座標Xrと閾値Rthとを比較し、左目の重心位置GのX座標Xlと閾値Lthとを比較する。次に、比較結果が、
図8の(a)に示すようにXr<Rth、かつXl>Lthとなった場合、第1判定部14cは、ユーザの視線がカメラ10を向いていると判定する。一方、上述の比較結果にならなかった場合、第1判定部14cは、ユーザの視線はカメラ10を向いていないと判定する。
【0057】
なお、判定基準は上述の場合に限定されない。例えば、Xr<Rth、またはXl>Lthのいずれか一方の条件を満たせば、ユーザの視線がカメラ10を向いていると判定してもよい。
【0058】
第1判定部14cによってユーザの視線がカメラ10を向いていると判定された場合、表示制御部14aは、表示処理において、
図8の(b)に示すような補助視線誘導画像Aを基準領域Sに表示させる。補助視線誘導画像Aは、ユーザの視線を基準領域に導くための画像であり、本実施形態では星形状で表示画面13aに表示される。なお、補助視線誘導画像Aの形状等は、任意に設定変更してよい。
【0059】
また、表示制御部14aは、補助視線誘導画像Aとともに、説明画像Dを第2画像Fの頭部部分に重ねて表示させる。説明画像Dは、ユーザに対して視線を補助視線誘導画像Aに合わせることを報知するための表示であり、長方形の枠内に「左右の誘導マークをそれぞれの目で見て下さい」との文言が記載された画像となっている。
【0060】
説明画像Dを表示させることで、ユーザは、補助視線誘導画像Aに自分の目線を合わせなければならないことを明確に認識できる。そのため、自分撮りに適した視線位置をより確実に確保することができる。なお、説明画像Dの表示内容・表示位置等については任意に設定変更してもよい。また、補助視線誘導画像Aを表示させる場合であっても、説明画像Dを表示させなくてもよい。
【0061】
なお、
図8の(c)に示すように、スマートフォン200がカメラ10を2つ備えており、自分撮りを3D撮影で行う場合についても、表示制御部14aは、補助視線誘導画像Aおよび説明画像Dを表示させてもよい。このことは、スマートフォン200がカメラ10を3つ以上備えている場合についても同様である。
【0062】
<視線誘導画像の表示態様の変更>
また、第1算出部14bは、第1画像Eを解析することにより視線位置Vを算出する第2算出処理も実行する。視線位置Vは、ユーザの視線と対応する表示画面13a上の位置である。
【0063】
以下、第2算出処理について説明する。まず、第1算出部14bは、第1算出処理と同様に第1画像Eからユーザの黒目を表す第3画像Bを抽出する。次に、第1算出部14bは、左右それぞれの第1画像Eについて、第1画像Eの中心の座標(X=0、Y=0)に対する第3画像Bの重心位置Gの座標を算出する。ここで、
図9の(a)に示すように、右目の第3画像Bの重心位置GのY座標をYrとし、左目の第3画像Bの重心位置GのY座標をYlとする。
【0064】
次に、第1算出部14bは、重心位置Gの座標(Xr、Yr)および(Xl、Yl)を用いて、
図9の(b)に示すような表示画面13a上の視線位置Vの座標(Xv、Yv)を算出する。ここで、視線位置VのX座標Xvの算出には、Xv=Ax×(Xr+Xl)/2の計算式を用いる。また、視線位置VのY座標Yvには、Yv=Ay×(Yr+Yl)/2の計算式を用いる。なお、これらの計算式はあくまで一例であり、他の計算式を用いてもよい。
【0065】
表示制御部14aは、第1算出部14bから第2算出処理の実行結果(視線位置Vの座標(Xv、Yv))を取得することにより、表示処理において、視線位置Vとカメラ10の配置箇所との間の領域に、視線誘導画像1を表示させる。ここで、視線位置Vとカメラ10の配置箇所との間の領域は、端部領域13a−1内に存在することが前提となる。
【0066】
例えば、視線位置Vが第2画像Fの紙面向かって左上(かつ頭部付近)の位置であった場合、表示制御部14aは、
図9の(c)に示すように、3つの部分視線誘導画像1aを視線位置Vから紙面向かって右上の方向に並ぶように表示させる。
【0067】
<視線誘導画像の非表示>
第2判定部14eは、第1算出部14bによって算出された視線位置Vの座標値に基づいて、基準領域内における視線位置Vの存否を確認する。そして、基準領域内に視線位置Vが存在していることを確認した場合、第2判定部14eは、
図10に示すように視線誘導画像1を非表示にする。一方、基準領域内に視線位置Vが存在していることを確認できなかった場合、第2判定部14eは、視線誘導画像1の表示を継続させる。
【0068】
なお、上述した第1算出部14bおよび第1・第2判定部14c・14eの各処理は、ユーザによる自分撮りの指示があった場合に実行されることを前提としている。しかし、この場合に限定されず、例えば表示画面13aがプレビュー画面の状態で実行されてもよい。
【0069】
また、スマートフォン200は、上述した第1算出部14bおよび第1・第2判定部14c・14eの各処理すべてを実行できなくてもよく、少なくともいずれか1つの処理を実行するものであればよい。言い換えれば、スマートフォン200は、第1算出部14bおよび第1・第2判定部14c・14eのすべてを備えていなくてもよい。スマートフォン100の構成に加えて、例えば、第1算出部14bのみ備えていてもよいし、第1算出部14bと第1判定部14cとを備えていてもよい。また、第1算出部14bと第2判定部14eとを備えていてもよい。
【0070】
〔実施形態3〕
図1の(a)に示すように、スマートフォン300は、制御装置14が第2算出部14dをさらに備えている点で、実施形態1・2に係るスマートフォン100・200と異なる。
【0071】
<スマートフォンの傾きに応じた視線誘導画像の表示>
表示制御部14aは、表示処理において、スマートフォン300の傾きの態様に応じて視線誘導画像1の表示画面13a上の表示位置を変更する。スマートフォン300の傾きは、スマートフォン300に内蔵された加速度センサ(不図示)によって検知される。表示制御部14aは、加速度センサの検知結果に基づいて上記表示位置を適宜変更する。
【0072】
ここで、「スマートフォン300の傾き」について説明する。スマートフォン300の表示画面13a側を正面視した場合において、スマートフォン300が
図11の(b)の状態を「傾きなし」とする。この「傾きなし」の状態を角度0度とした場合に、表示画面13aが、
図11の(a)に示すように当該表示画面13aと直交する中心軸(不図示)を回転軸として任意の角度まで回転している状態を「傾きあり」とする。
【0073】
例えば、スマートフォン300が
図11の(a)のように傾いた場合、表示制御部14aは、部分視線誘導画像1aを、端部領域13a−1内において紙面向かって略上下方向に配置するように表示させる。具体的には、3つの部分視線誘導画像1aを切欠き13bよりも紙面向かって下側に表示させ、1つの部分視線誘導画像1aを切欠き13bよりも紙面向かって上側に表示させる。
【0074】
なお、表示制御部14aは、先端がカメラ10の中心を指すような矢印形状のターゲット画像Tを切欠き13bの近傍に表示させてもよい。また、スマートフォン300の傾きの態様が刻々と変化する場合、表示制御部14aは、その時々の表示画面13aの回転角度に応じて上記表示位置を適宜変更してもよい。
【0075】
<第2画像の表示態様に応じた視線誘導画像の表示>
第2算出部14dは、第2画像Fを解析することにより顔中心位置Cを算出する第3算出処理を実行する。顔中心位置Cは、ユーザの顔の中心と対応する表示画面13a上の位置である。
【0076】
以下、第3算出処理について説明する。まず、第2算出部14dは、カメラ10によって撮像された第2画像Fを取得し、当該第2画像Fから第1画像E(
図8の(a)参照)を抽出する。次に、第2算出部14dは、
図11の(b)に示すように左右それぞれの第1画像Eについて中心のX座標(右目:Xrc、左目:Xlc)を算出し、XrcとXlcとを結んだ線分の中点のX座標fcを算出する。このX座標fcが、顔中心位置CのX座標となる。本実施形態では、顔中心位置CのX座標fc算出の基準となるY軸を、表示画面13aの長手方向に沿って延伸する当該表示画面13aの中心軸とする。
【0077】
表示制御部14aは、第2算出部14dから第3算出処理の実行結果(顔中心位置CのX座標fc)を取得することにより、表示処理において、表示画面13aの中心に対する顔中心位置Cの配置態様に応じて視線誘導画像1の表示位置を変更する。ここで、「表示画面13aの中心」とは、上述の表示画面13aの中心軸、すなわちY軸を指す。
【0078】
本実施形態では、表示制御部14aは、fc>0であれば第2画像Fが紙面向かって右側に偏って表示されていると判定し、fc<0であれば第2画像Fが紙面向かって左側に偏って表示されていると判定する。
【0079】
例えば、
図11の(b)に示すように、第2画像Fが紙面向かって右側に偏って表示されていることが判明した場合、表示制御部14aは、端部領域13a−1における切欠き13bに対して紙面向かって右側の領域のみに、複数の部分視線誘導画像1aを表示させる。なお、
図11の(b)の例では、2つの部分視線誘導画像1aが表示されているが、1つだけ表示させてもよいし、3つ以上表示させてもよい。
【0080】
<変形例>
上述した(i)スマートフォンの傾きに応じた視線誘導画像の表示、および(ii)第2画像の表示態様に応じた視線誘導画像の表示は、それぞれ個別に実行される必要は必ずしもない。これら(i)、(ii)の各処理が同時に実行されてもよい。
【0081】
例えば、
図11の(c)に示すように、スマートフォン300が傾いているとともに、第2画像Fが紙面向かって右側あるいは左側に偏って表示されるケースもあり得る(
図11の(c)の例では、第2画像Fが紙面向かって左側に偏って表示)。このような場合に対応すべく、表示制御部14aが、加速度センサの検知結果および第3算出処理の実行結果の両方を用いて視線誘導画像1の表示位置を変更してもよい。
【0082】
図11の(c)の例では、表示制御部14aは、3つの部分視線誘導画像1aを、端部領域13a−1内において、紙面向かって左右方向かつ切欠き13bよりも紙面向かって左側に配置するように表示させる。
【0083】
なお、上述した第2算出部14dおよび表示制御部14aの各処理は、ユーザによる自分撮りの指示があった場合に実行されることを前提としている。しかし、この場合に限定されず、例えば表示画面13aがプレビュー画面の状態で実行されてもよい。
【0084】
〔実施形態4〕
本実施形態4に係るスマートフォン400は、表示制御部14aが、背景画像内に被写体画像Bが含まれている場合に視線誘導画像1の表示位置を適宜変更する点で、実施形態1〜3に係るスマートフォン100〜300と異なる。
【0085】
なお、スマートフォン400は、第1・第2算出部14b・14dおよび第1・第2判定部14c・14eを備えていてもよいし、備えていなくてもよい。このことは、後述するスマートフォン500および600についても同様である。
【0086】
<被写体画像の存否に応じた視線誘導画像の表示>
表示制御部14aは、カメラ10によって撮像された背景画像を取得し、当該背景画像内に被写体画像Bが含まれているか否かを判定する。背景画像は、ユーザの背後の風景を表す画像である。また、被写体画像Bは、ユーザの背後あるいは側方に存在する被写体を表す画像である。
【0087】
具体的には、表示制御部14aは、撮像画像における、第2画像F以外の色変化が少ない画像領域を背景画像として取得する。そして、背景画像内に背景色と異なる色を有する画像が存在した場合、表示制御部14aは、当該色を有する画像を被写体画像Bとして認識する。
【0088】
背景画像内に被写体画像Bが含まれていると判定した場合、表示制御部14aは、被写体画像Bの表示位置に応じて視線誘導画像1の表示位置を変更する。具体的には、表示制御部14aは、視線誘導画像1と被写体画像Bとが重ならないように当該視線誘導画像1を表示させる。
【0089】
例えば、
図12に示すように、被写体画像Bが表示画面13aの紙面向かって左上の端に表示されていた場合、表示制御部14aは、端部領域13a−1における被写体画像Bと第2画像Fとの間の領域に、3つの部分視線誘導画像1aを表示させる。このように、視線誘導画像1を被写体画像Bと重ならないように表示させることで、ユーザが、第2画像F、被写体画像Bおよび視線誘導画像1の3つの画像を同時に確認し易くなる。
【0090】
なお、上述した表示制御部14aの表示処理は、ユーザによる自分撮りの指示があった場合に実行されることを前提としている。しかし、この場合に限定されず、例えば表示画面13aがプレビュー画面の状態で実行されてもよい。このことは、実施形態5および7の各表示処理についても同様である。
【0091】
〔実施形態5〕
本実施形態に係るスマートフォン500は、表示制御部14aが視線誘導画像1・2・3に代えて視線誘導画像4・5を表示させる点で、実施形態1〜4に係るスマートフォン100〜400と異なる。
【0092】
表示制御部14aは、カメラ10によって撮像された第2画像Fを取得し、当該第2画像Fを端部領域13a−1に収まる大きさにした視線誘導画像4を生成する。そして、生成した視線誘導画像4を端部領域13a−1の所定の位置に表示させる。
【0093】
視線誘導画像4の表示態様としては、様々なバリエーションが考えられる。例えば
図13に示すように、視線誘導画像4を、端部領域13a−1における、切欠き13bに対して紙面向かって右側の領域に表示させてもよい。
図13の例では、視線誘導画像4の一部が第2画像Fの一部と重なっているが、両者が重ならないようにより小さな視線誘導画像4を表示させてもよい。このように、視線誘導画像4を端部領域13a−1に表示させることにより、ユーザは、自分の顔が自分撮りに適した状態になっているか否かをより認識し易くなる。
【0094】
また例えば、
図14の(a)に示すように、視線誘導画像4を、当該視線誘導画像4の中央部分が切欠き13bと重なるように表示させてもよい。このように表示させることで、ユーザは、カメラ10を最も視認できる状態で、自分の顔が自分撮りに適した状態になっているか否かを認識することができる。
【0095】
ここで、
図14の(a)の例において、
図14の(b)に示すように視線誘導画像4をドラックして移動できるようにしてもよい。これにより、例えば、ユーザが切欠き13bと重なっている視線誘導画像4の中央部分を視認したいと思った場合、あるいは視線誘導画像3の表示が気になる場合に、視線誘導画像3をユーザが所望する位置に表示させることができる。
【0096】
また例えば、表示制御部14aは、
図15の(a)に示すように、ユーザの目およびその周辺部位を表す画像を端部領域13a−1に収まる大きさにした視線誘導画像5を生成してもよい。視線誘導画像5は、
図14の(a)の例と同様に、視線誘導画像5の中央部分が切欠き13bと重なるように表示される。このように、視線誘導画像5を当該視線誘導画像5の中央部分が切欠き13bと重なるように表示させることで、ユーザは、視線誘導画像5に表示された自分の目を見ながら視線を合わせることができ、視線を基準位置に合わせることがさらに容易になる。
【0097】
ここで、
図15の(a)の例において、表示制御部14aは、
図15の(b)に示すように視線誘導画像4における基準位置と対応する箇所に視線合わせ画像A1を表示させてもよい。視線合わせ画像A1は、破線で形成された円形状となっているが、どのような形状であってもよい。
【0098】
また、表示制御部14aは、視線合わせ画像A1とともに、説明画像D1を第2画像Fの頭部部分に重ねて表示させる。説明画像D1は、ユーザに対して視線を視線合わせ画像A1に合わせることを報知するための表示であり、長方形の枠内に「ガイド内に目の位置を合わせて下さい」との文言が記載された画像となっている。
【0099】
説明画像D1を表示させることで、自分撮りに適した視線位置をより確実に確保することができる。なお、説明画像D1の表示内容・表示位置等については任意に設定変更してもよい。また、視線合わせ画像A1を表示させる場合であっても、説明画像D1を表示させなくてもよい。
【0100】
なお、上述の視線誘導画像4・5は、予め生成された上で表示制御部14a内のメモリ、あるいは記憶装置11に記憶されていてもよい。この場合、制御装置14がカメラ10の撮像画像を用いて顔認証を実行し、撮像画像に写った顔がユーザの顔であると判定した場合、表示制御部14aが上述の視線誘導画像4・5を表示させる。
【0101】
〔実施形態6〕
本実施形態に係るスマートフォン600は、カメラ10を2つ備えており、表示制御部14aが自分撮り(撮像装置による撮像)に使用される方のカメラ10に対応させて視線誘導画像1を表示させる点で、実施形態1〜5に係るスマートフォン100〜500と異なる。
図16に示すように、表示画面13aの端部領域13a−1には、切欠き13bが2箇所形成されており、各切欠き13bの内部のそれぞれにカメラ10が配置されている。
【0102】
表示制御部14aは、ユーザによる自分撮りの指示があった場合、まず操作入力装置12から2つのカメラ10の選択結果を取得する。次に、表示制御部14aは、上記選択結果に応じて、自分撮りに使用される方のカメラ10の配置箇所の周囲に視線誘導画像1を表示させる。
【0103】
図16の例では、紙面向かって右側のカメラ10が自分撮りに使用されることから、表示制御部14aは、当該カメラ10の配置箇所の周囲に視線誘導画像1を表示させる。なお、このような、自分撮りに使用されるカメラ10の配置箇所の周囲に視線誘導画像1を表示させる方法は、スマートフォン600が3つ以上のカメラ10を備えている場合についても同様に適用することができる。
【0104】
〔実施形態7〕
本実施形態に係るスマートフォン700は、ユーザの動画を自分撮りで撮影する場合に、表示制御部14aが刻々変化するユーザの視線に応じて視線誘導画像1を動的に表示させる点で、実施形態1〜6に係るスマートフォン100〜600と異なる。
【0105】
スマートフォン700の制御装置14は、
図1の(a)に示すように、表示制御部14aに加えて第1算出部14bを備えている。第1算出部14bの第2算出処理によって、ユーザの視線位置Vが刻々と算出される。表示制御部14aは、刻々と算出される視線位置Vのそれぞれについて、視線位置Vとカメラ10の配置箇所との間の領域に視線誘導画像1を表示させることにより、視線誘導画像1を動的に表示させる。
【0106】
例えば、ある時点での視線位置Vが第2画像Fの紙面向かって左上(かつ頭部付近)の位置であった場合、表示制御部14aは、
図17の(a)に示すように、3つの部分視線誘導画像1aを視線位置Vから紙面向かって右上の方向に並ぶように表示させる。また例えば、ある時点での視線位置Vが第2画像Fの紙面向かって右上(かつ表示画面13aの端)の位置であった場合、表示制御部14aは、
図17の(b)に示すように、2つの部分視線誘導画像1aを視線位置Vから紙面向かって左横の方向に並ぶように表示させる。
【0107】
このように視線誘導画像1を動的に表示させることで、自分撮りを動画として撮影する場合でも、ユーザの視線を自分撮りに適した基準位置に常時向けさせることができる。なお、これらの動的に表示される視線誘導画像1は、視線位置Vが基準領域内に存在する場合、あるいは視線位置Vが検知されなくなった場合には非表示にしてもよい。
【0108】
〔ソフトウェアによる実現例〕
制御装置14の制御ブロック(特に表示制御部14a)は、集積回路(ICチップ)等に形成された論理回路(ハードウェア)によって実現してもよいし、ソフトウェアによって実現してもよい。
【0109】
後者の場合、制御装置14は、各機能を実現するソフトウェアであるプログラムの命令を実行するコンピュータを備えている。このコンピュータは、例えば少なくとも1つのプロセッサ(制御装置)を備えていると共に、上記プログラムを記憶したコンピュータ読み取り可能な少なくとも1つの記録媒体を備えている。そして、上記コンピュータにおいて、上記プロセッサが上記プログラムを上記記録媒体から読み取って実行することにより、本発明の目的が達成される。上記プロセッサとしては、例えばCPU(Central Processing Unit)を用いることができる。上記記録媒体としては、「一時的でない有形の媒体」、例えば、ROM(Read Only Memory)等の他、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記プログラムを展開するRAM(Random Access Memory)などをさらに備えていてもよい。また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピュータに供給されてもよい。なお、本発明の一態様は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。
【0110】
〔まとめ〕
本発明の態様1に係る電子機器(スマートフォン100〜700)は、少なくとも1つの撮像装置(カメラ10)と、少なくとも1つの表示装置(13)と、少なくとも1つの制御装置(14)とを備える電子機器であって、前記撮像装置は、前記表示装置の表示画面(13a)の端部領域(13a−1)に配置され、前記制御装置は、撮像対象者の視線を自分撮りに適した前記表示画面の基準領域(S)に導くための視線誘導画像(1、2、3、4、5)を、前記表示画面における前記撮像装置の配置箇所の周囲に表示させる表示処理を実行する。
【0111】
上記構成によれば、制御装置が、視線誘導画像を表示画面の端部領域またはその近傍に表示することから、表示画面に表示された撮像対象者の第2画像のうち視線誘導画像と重なる部分を少なくする、あるいは無くすことができる。そのため、撮像対象者が、表示画面に表示された自分の顔と視線誘導画像とを同時に確認し易くなる。
【0112】
本発明の態様2に係る電子機器(スマートフォン100)は、上記態様1において、前記制御装置は、撮像指示があった場合、前記表示処理において、前記視線誘導画像(3)を所定の箇所に表示させた後、所定のタイミング毎に、前記視線誘導画像が前記配置箇所に対してより近づくように前記視線誘導画像を表示させてもよい。
【0113】
上記構成によれば、撮像対象者は、視線誘導画像の動きを見ることにより、所定のタイミングに合わせて視線を基準領域に向けることができる。そのため、撮像対象者が、表示画面に表示された自分の顔と視線誘導画像とを同時に確認し易くなるとともに、正視した状態での撮像装置による撮像をより確実に行うことができる。
【0114】
本発明の態様3に係る電子機器(スマートフォン200)は、上記態様1または2において、前記制御装置は、前記撮像対象者の目を表す第1画像(E)を解析することにより、前記目の中心に対する前記撮像対象者の黒目の重心位置(G)を算出する第1算出処理と、前記重心位置と閾値(Lth、Rth)とを比較することにより、前記視線が前記撮像装置を向いているか否かを判定する第1判定処理と、を実行し、前記第1判定処理にて前記視線が前記撮像装置を向いていると判定した場合に、前記表示処理において、前記視線を前記基準領域に導くための補助視線誘導画像(A)を前記基準領域に表示させてもよい。
【0115】
上記構成によれば、自分撮りする際に撮像対象者の視線が撮像装置を向いていても、当該視線を基準領域に誘導し直すことができる。そのため、撮像対象者が、表示画面に表示された自分の顔と視線誘導画像とを同時に確認し易くなるとともに、正視した状態での撮像装置による撮像をより確実に行うことができる。
【0116】
本発明の態様4に係る電子機器は、上記態様1から3のいずれかにおいて、前記制御装置は、前記撮像対象者の目を表す第1画像を解析することにより、前記視線と対応する前記表示画面上の位置を視線位置(V)として算出する第2算出処理と、前記基準領域内における前記視線位置の存否に応じて、前記視線が前記基準領域を向いているか否かを判定する第2判定処理と、を実行し、前記第2判定処理にて前記視線が前記基準領域を向いていると判定した場合に、前記表示処理において、前記視線誘導画像(2)を非表示にしてもよい。
【0117】
上記構成によれば、制御装置は、撮像対象者の視線が基準領域を向いていると判定した場合に視線誘導画像を非表示にする。そのため、撮像対象者は、正視した状態において、視線誘導画像の表示を気にすることなく自分撮りを行うことができる。また、撮像対象者の視線が撮像装置による撮像に適した位置を向いているにも拘らず視線誘導画像を表示し続けるといった無駄を防止することができ、電子機器の消費電力を抑制することができる。
【0118】
本発明の態様5に係る電子機器は、上記態様1から4のいずれかにおいて、前記制御装置は、前記撮像対象者の目を表す第1画像を解析することにより、前記視線と対応する前記表示画面上の位置を視線位置として算出する第2算出処理を実行し、前記表示処理において、前記視線位置と前記配置箇所との間の領域に前記視線誘導画像を表示させてもよい。
【0119】
上記構成によれば、制御装置は、視線位置と撮像装置の配置箇所との間の領域に視線誘導画像を表示させる。したがって、撮像対象者の実際の視線に応じて、当該視線を基準領域に確実に導くように視線誘導画像を表示させることができる。そのため、撮像対象者が、表示画面に表示された自分の顔と視線誘導画像とを同時に確認し易くなるとともに、正視した状態での撮像装置による撮像をより確実に行うことができる。
【0120】
本発明の態様6に係る電子機器(スマートフォン300)は、上記態様1から5のいずれかにおいて、前記制御装置は、前記撮像対象者の顔を表す第2画像(F)を解析することにより、前記撮像対象者の顔の中心と対応する前記表示画面上の位置を顔中心位置(C)として算出する第3算出処理をさらに実行し、前記表示処理において、前記表示画面の中心に対する前記顔中心位置の配置態様に応じて、前記視線誘導画像(3)の表示位置を変更してもよい。
【0121】
上記構成によれば、表示画面の中心に対する顔中心位置の配置態様から、例えば表示画面に表示された撮像対象者の顔が紙面向かって右側に偏っていることか判れば、視線誘導画像を端部領域における紙面向かって右側の領域に表示させることができる。そのため、撮像対象者が、第2画像と視線誘導画像とを同時に確認し易くなるとともに、表示画面における第2画像の配置に応じた撮像装置による撮像を行うことができる。
【0122】
本発明の態様7に係る電子機器(スマートフォン600)は、上記態様1から6のいずれかにおいて、前記撮像装置を複数備えており、前記制御装置は、撮像指示があった場合、前記表示処理において、複数の前記撮像装置のうち、前記自分撮りに使用される撮像装置の配置箇所の周囲に前記視線誘導画像(1)を表示させてもよい。
【0123】
上記構成によれば、撮像対象者は、複数の撮像装置のうち、実際に撮像装置による撮像に使用される撮像装置の方向に視線を向けることができる。そのため、電子機器が複数の撮像装置を備える場合において、正視した状態での撮像装置による撮像をより確実に行うことができる。
【0124】
本発明の態様8に係る電子機器(スマートフォン100〜700)は、上記態様1から7のいずれかにおいて、撮像装置は、前記端部領域に形成された切欠き(13b)内に配置されていてもよい。
【0125】
上記構成によれば、撮像装置を、表示画面におけるより周縁側の領域に配置することができる。したがって、視線誘導画像もより周縁側の領域に表示されることから、表示画面に表示された撮像対象者の第2画像のうち視線誘導画像と重なる部分をより少なくする、あるいはより確実に無くすことができる。そのため、撮像対象者が、表示画面に表示された自分の顔と視線誘導画像とを同時により確認し易くなる。
【0126】
本発明の態様9に係る電子機器(スマートフォン300)は、上記態様1から8のいずれかにおいて、前記制御装置は、前記表示処理において、前記電子機器の傾きの態様に応じて前記視線誘導画像の表示位置を変更してもよい。
【0127】
上記構成によれば、電子機器の傾きの態様に応じて、撮像対象者の視線を基準領域に確実に導くように視線誘導画像を表示させることができる。そのため、撮像対象者が、表示画面に表示された自分の顔と視線誘導画像とを同時に確認し易くなるとともに、正視した状態での撮像装置による撮像をより確実に行うことができる。
【0128】
本発明の態様10に係る電子機器(スマートフォン100)は、上記態様1において、前記視線誘導画像(2)は、複数の部分視線誘導画像(2a)を含んでおり、前記制御装置は、撮像指示があった場合、前記表示処理において、前記複数の部分視線誘導画像を前記配置箇所を中心とした同心円状に表示させた後、所定のタイミング毎に、前記複数の部分視線誘導画像のうちで前記配置箇所から最も離れた箇所に表示されている部分視線誘導画像から順次非表示にしてもよい。
【0129】
上記構成によれば、視線誘導画像または部分視線誘導画像の形状が、例えばくの字形状の場合に比べて、表示画面に表示させたときの見栄えが良くなる。また、部分視線誘導画像の総面積がくの字形状の場合に比べて大きくなるとともに、部分視線誘導画像の表示に変化があることから、撮像対象者が撮像装置の周辺を注目し易くなる。そのため、撮像対象者が、表示画面に表示された自分の顔と視線誘導画像とを同時に確認し易くなるとともに、正視した状態での撮像装置による撮像をより確実に行うことができる。
【0130】
本発明の態様11に係る制御装置(14)は、少なくとも1つの撮像装置(カメラ10)と、少なくとも1つの表示装置(13)とを備える電子機器(スマートフォン100〜700)を制御する制御装置であって、前記撮像装置は、前記表示装置の表示画面(13a)の端部領域(13a−1)に配置され、撮像対象者の視線を自分撮りに適した前記表示画面の基準領域(S)に導くための視線誘導画像(1、2、3、4、5)を、前記表示画面における前記撮像装置の配置箇所の周囲に表示させる表示制御部(14a)を備える。上記構成によれば、撮像対象者が、表示画面に表示された自分の顔と視線誘導画像とを同時に確認し易くなる制御装置を実現することができる。
【0131】
本発明の態様12に係る制御方法は、少なくとも1つの撮像装置(カメラ10)と、少なくとも1つの表示装置(13)とを備える電子機器(スマートフォン100〜700)を制御する制御方法であって、前記撮像装置は、前記表示装置の表示画面(13a)の端部領域(13a−1)に配置され、撮像対象者の視線を自分撮りに適した前記表示画面の基準領域(S)に導くための視線誘導画像(1、2、3、4、5)を、前記表示画面における前記撮像装置の配置箇所の周囲に表示させる表示ステップ(S103、S203)を含む。上記構成によれば、撮像対象者が、表示画面に表示された自分の顔と視線誘導画像とを同時に確認し易くなる制御方法を実現することができる。
【0132】
本発明の各態様に係る制御装置は、コンピュータによって実現してもよく、この場合には、コンピュータを上記制御装置が備える各部(ソフトウェア要素)として動作させることにより上記制御装置をコンピュータにて実現させる制御装置のプログラム、およびそれを記録したコンピュータ読み取り可能な記録媒体も、本発明の範疇に入る。
【0133】
〔付記事項〕
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。さらに、各実施形態にそれぞれ開示された技術的手段を組み合わせることにより、新しい技術的特徴を形成することができる。